중학생 A(15)군은 텔레그램에서 단체 대화방을 개설한 뒤 ‘인공지능(AI) 자동화 프로그램’을 통해 제작한 연예인 허위·나체 사진을 공유했다. 이런 방식으로 A군은 지난해 11월부터 지난 4월까지 대화방 3개를 만들어 여성 연예인 30명의 얼굴에 나체사진을 합성한 허위 영상물(딥페이크) 590개를 제작하고 유포했다. 이 대화방에 참여한 사람만 840명이었다. A군에게 사진 및 영상을 받거나 같은 방식으로 직접 생산한 허위 영상물 3429개를 퍼뜨린 다른 피의자 23명도 경찰에 붙잡혔다. AI가 일상에 깊숙이 파고들면서 이를 이용한 사이버성범죄도 폭증하고 있다. 특히 사이버성범죄 가운데 딥페이크 범죄 혐의로 검거된 피의자 중 60％ 이상이 10대였다. 초등학생이라도 온라인을 통해 기초 코딩 프로그램 등을 조금만 익히면 손쉽게 불법 콘텐츠를 제작하거나 유포할 수 있는 만큼 강력한 처벌과 예방 교육이 필요하다는 지적이 나온다. 경찰청 국가수사본부는 지난해 11월부터 올해 10월까지 실시한 사이버성폭력 집중단속으로 3557명을 검거하고 이중 221명을 구속했다고 16일 밝혔다. 지난 특별단속(2023년 11월~2024년 10월)에 붙잡힌 규모(2406명)와 비교하면 검거 규모가 반절 가까이 증가했다. 특히 이번 사이버성폭력범죄 단속 유형 중 딥페이크 범죄의 비중이 35.2％로 가장 많았고, 딥페이크 10대 피의자가 61.8％(895명)에 달했다. 10대 피의자들은 딥페이크 범죄를 단순히 ‘놀이’처럼 대수롭지 않게 여겨 범행을 저지르는 경향이 크다고 한다. 이때문에 죄의식 없이 청소년들 사이에서 더 빠르고 광범위하게 퍼진다는 것이다. 경찰 관계자는 “A군이 대화방을 운영하면서 별도로 수익을 취한 것은 없다”면서 “조사해보면 10대 피의자들은 대부분 범행 동기를 ‘성적 호기심’과 ‘장난’이라고 한다”고 설명했다. 김명주 서울여대 정보보호학과 교수는 “AI 기술이 발전해 특별한 지식이나 일정 시간 작업에 대한 투자 없이도 초나 분 단위로 불법 콘텐츠를 제작할 수 있다”며 “사이버성범죄의 피해는 피해자에게 영구적인 상처가 될뿐 아니라 재생산 및 유포 우려도 크기 때문에 처벌을 명확히 하고 윤리 교육도 강화해야 한다”고 했다.

경기도의회 교육기획위원회 김영희 의원(더불어민주당, 오산1)은 지난 12일 열린 2025년도 경기도교육연구원, 경기도교육복지종합센터, 경기도교육청 남부·북부유아체험교육원 행정사무감사에서 “유아체험 프로그램과 교육연구가 현장의 요구와 맞지 않는 방식으로 운영된다”며 개선의 필요성을 밝혔다. 김영희 의원은 먼저 경기도교육청 북부유아체험교육원 프로그램이 체험관의 취지와 부합하지 않는다고 지적했다. 김영희 의원은 “유아체험교육원은 일반 유치원에서 경험하기 어려운 특별한 활동을 제공해야 하는데, 현재 프로그램 상당수가 배추·무·쪽파 심기 등 단순 농사체험 중심”이라며 “아이들의 창의·감각·사회성 발달을 고려한 차별화된 체험 콘텐츠 개발이 절실하다”고 강조했다. 이어 경기도교육연구원의 연구 추진 방식에 대해서도 문제를 제기했다. 김영희 의원은 “교육현장은 이미 AI·디지털 윤리 등 새로운 변화를 실시간으로 겪고 있는데 연구는 뒤따라가는 구조”라며, “정책 시행 이후 대응하는 방식이 아니라, 정책을 설계하는 단계에서 연구가 먼저 진행되는 ‘선행 설계 연구’ 체계로 개편해야 한다”고 촉구했다. 이에 대해 김진숙 경기도교육연구원장은 “현장의 요구를 반영한 시의적절한 연구가 필요하다는 지적에 공감하며, 연구 일정과 방식을 개선해 나가겠다”고 답변했다. 이밖에도 김영희 의원은 ▲ 경기도교육복지종합센터의 교직원 힐링 프로그램의 평일 운영 중심 문제, ▲ 남부유아체험교육원의 지역아동센터·다문화가정 유아 대상 체험 확대 필요성 등을 제기하며, 모든 교육기관이 현장의 목소리와 실제 수요를 반영해 운영해 줄 것을 주문했다.

한 설문조사 결과 대부분의 사람들이 인공지능(AI)으로 생성한 음악을 구분하는 데 어려움을 겪는 것으로 나타났다. 12일(현지시간) 프랑스 음원 스트리밍 서비스 업체 디저(Deezer)는 8개국 9000명을 대상으로 한 설문조사에서 응답자의 97%가 AI가 만든 음악과 인간이 만든 음악을 구분하지 못한다고 밝혔다. 디저는 참가자에게 3곡을 들려준 뒤 어떤 곡이 완전히 AI로 생성한 것인지 맞히도록 하는 방식으로 조사를 진행했다. 조사 결과 응답자 71%는 결과에 충격을 받았다고 전했다. 또한 응답자의 절반 이상(52%)은 ‘차이를 알 수 없다는 사실에 불편함을 느꼈다’고 답했다. 또 ‘AI에 대한 일반적인 인식’ 항목에서 응답자의 55%는 AI로 생성한 음악에 대해 호기심을 느꼈으며, 호기심 때문에 AI로 생성한 음악을 적어도 한 번은 들어볼 의향이 있다고 66%가 응답했다. 그러나 AI 음악에 대한 신뢰도는 상당히 낮았다. 참가자 19%만이 ‘AI로 만든 음악을 신뢰한다’고 답했으며, 51%는 음악 제작에 AI를 활용하면 저품질의 음악을 만들거나 진부하게 들릴 수 있다고 우려했다. 디저 CEO 알렉시스 란터니에르는 “사람들은 음악을 중요하게 여기며 AI가 만든 음악을 구분하고 싶어한다”고 말했다. 또 “AI 음악이 아티스트 생계와 창작 활동에 어떤 영향을 미칠지에 대한 우려도 분명히 존재한다”며 “AI 기업이 저작권 보호 자료를 학습용으로 사용해서는 안 된다”고 강조했다. AI 음악, 실험을 넘어서 대중음악계로 음악 산업에서 AI 기술 도입은 비약적으로 일어나고 있다. 디저 측은 올해 1월 기준 매일 약 1만 곡의 곡이 AI로 생성됐으며, 이는 전체 업로드 곡의 10%라고 설명했다. 또 9월에 들어서는 완전히 AI로 제작된 곡이 하루 3만 곡 이상 공개되는 등 증가 추세를 보였다고 전했다. 디저는 플랫폼 내에서 자체 AI 음악 탐지 도구를 활용해 100% AI 제작곡에는 태그를 붙이는 등 생성형 인공지능 음악을 단속하고 나섰다. 또 지난 9월 글로벌 음악 스트리밍 플랫폼 스포티파이에서는 올해 7500만 개의 ‘스팸성 AI 음악’을 제거했다고 발표했다. AI로 만든 음악이 차트에 진입하고 억대 음반 계약에 성공하는 사례도 생겼다. 가상 아티스트 ‘자니아 모네’(Xania Monet) 등은 ‘음악계의 전환점’이라고 꼽히는 사례다. 자니아 모네는 이달 초 미국 빌보드 R&B 디지털 송 세일즈 차트에서 1위를 차지하며 ‘AI 아티스트 최초’로 빌보드 차트 1위에 올랐다. 또 한 음반 레이블과 300만 달러(약 44억원) 규모의 음반 계약 체결에 성공해 이목을 끌었다. 또 최근 빌보드 컨트리 디지털 송 세일즈 정상에는 AI 아티스트인 브레이킹 러스트의 ‘워크 마이 워크’(Walk My Walk)라는 곡이 올랐다. 법의 사각지대에 놓인 AI 음악 미국 포브스에 따르면 온전히 AI로만 생성한 곡은 저작권 적용 범위 내에 속하지 않는다고 말한다. 미국 저작권청은 현재 ‘인간의 개입으로’ 창작된 노래만 저작권 대상으로 인정하고 있기 때문이다. 스포티파이나 애플뮤직 등 스트리밍 플랫폼이 아직 AI가 생성한 음악을 어떻게 볼 것인지에 대한 명확한 정책을 수립하지 않았기 때문에 현재 대부분 AI 생성 곡은 기존 음악과 동일한 방식을 통해 저작권료를 지급받고 있다고 알려졌다. 법의 경계가 모호해지며 AI 음악을 둘러싼 소송도 발생했다. 지난해 소니 뮤직, 유니버셜 뮤직 등 주요 음반사들은 AI 작곡 프로그램인 수노(Suno)와 우디오(Udio) 등을 상대로 저작권 침해 소송을 제기했다. 저작권자의 허가 없이 저작권이 있는 자료를 기반으로 알고리즘을 학습시켰다는 게 그 이유다. 수노 측은 “자사 시스템은 기존 곡을 단순히 복제하는 것이 아니라 완전히 새로운 결과물을 생성하도록 설계됐다”고 반박하고 나섰다. 이를 두고 음악 산업의 피해를 우려하는 목소리도 커지고 있다. AI 기업에 아티스트가 창작한 데이터를 윤리적으로 학습하라고 요구하는 비영리단체 ‘페얼리 트레인드’ 설립자 에드 뉴턴 렉스는 “AI가 작업물을 무단으로 사용해 유사품을 만들어내는 일이 인간 아티스트 수익을 빼앗는 결과로 이어진다”고 지적했다.

한 설문조사 결과 대부분의 사람들이 인공지능(AI)으로 생성한 음악을 구분하는 데 어려움을 겪는 것으로 나타났다. 12일(현지시간) 프랑스 음원 스트리밍 서비스 업체 디저(Deezer)는 8개국 9000명을 대상으로 한 설문조사에서 응답자의 97%가 AI가 만든 음악과 인간이 만든 음악을 구분하지 못한다고 밝혔다. 디저는 참가자에게 3곡을 들려준 뒤 어떤 곡이 완전히 AI로 생성한 것인지 맞히도록 하는 방식으로 조사를 진행했다. 조사 결과 응답자 71%는 결과에 충격을 받았다고 전했다. 또한 응답자의 절반 이상(52%)은 ‘차이를 알 수 없다는 사실에 불편함을 느꼈다’고 답했다. 또 ‘AI에 대한 일반적인 인식’ 항목에서 응답자의 55%는 AI로 생성한 음악에 대해 호기심을 느꼈으며, 호기심 때문에 AI로 생성한 음악을 적어도 한 번은 들어볼 의향이 있다고 66%가 응답했다. 그러나 AI 음악에 대한 신뢰도는 상당히 낮았다. 참가자 19%만이 ‘AI로 만든 음악을 신뢰한다’고 답했으며, 51%는 음악 제작에 AI를 활용하면 저품질의 음악을 만들거나 진부하게 들릴 수 있다고 우려했다. 디저 CEO 알렉시스 란터니에르는 “사람들은 음악을 중요하게 여기며 AI가 만든 음악을 구분하고 싶어한다”고 말했다. 또 “AI 음악이 아티스트 생계와 창작 활동에 어떤 영향을 미칠지에 대한 우려도 분명히 존재한다”며 “AI 기업이 저작권 보호 자료를 학습용으로 사용해서는 안 된다”고 강조했다. AI 음악, 실험을 넘어서 대중음악계로 음악 산업에서 AI 기술 도입은 비약적으로 일어나고 있다. 디저 측은 올해 1월 기준 매일 약 1만 곡의 곡이 AI로 생성됐으며, 이는 전체 업로드 곡의 10%라고 설명했다. 또 9월에 들어서는 완전히 AI로 제작된 곡이 하루 3만 곡 이상 공개되는 등 증가 추세를 보였다고 전했다. 디저는 플랫폼 내에서 자체 AI 음악 탐지 도구를 활용해 100% AI 제작곡에는 태그를 붙이는 등 생성형 인공지능 음악을 단속하고 나섰다. 또 지난 9월 글로벌 음악 스트리밍 플랫폼 스포티파이에서는 올해 7500만 개의 ‘스팸성 AI 음악’을 제거했다고 발표했다. AI로 만든 음악이 차트에 진입하고 억대 음반 계약에 성공하는 사례도 생겼다. 가상 아티스트 ‘자니아 모네’(Xania Monet) 등은 ‘음악계의 전환점’이라고 꼽히는 사례다. 자니아 모네는 이달 초 미국 빌보드 R&B 디지털 송 세일즈 차트에서 1위를 차지하며 ‘AI 아티스트 최초’로 빌보드 차트 1위에 올랐다. 또 한 음반 레이블과 300만 달러(약 44억원) 규모의 음반 계약 체결에 성공해 이목을 끌었다. 또 최근 빌보드 컨트리 디지털 송 세일즈 정상에는 AI 아티스트인 브레이킹 러스트의 ‘워크 마이 워크’(Walk My Walk)라는 곡이 올랐다. 법의 사각지대에 놓인 AI 음악 미국 포브스에 따르면 온전히 AI로만 생성한 곡은 저작권 적용 범위 내에 속하지 않는다고 말한다. 미국 저작권청은 현재 ‘인간의 개입으로’ 창작된 노래만 저작권 대상으로 인정하고 있기 때문이다. 스포티파이나 애플뮤직 등 스트리밍 플랫폼이 아직 AI가 생성한 음악을 어떻게 볼 것인지에 대한 명확한 정책을 수립하지 않았기 때문에 현재 대부분 AI 생성 곡은 기존 음악과 동일한 방식을 통해 저작권료를 지급받고 있다고 알려졌다. 법의 경계가 모호해지며 AI 음악을 둘러싼 소송도 발생했다. 지난해 소니 뮤직, 유니버셜 뮤직 등 주요 음반사들은 AI 작곡 프로그램인 수노(Suno)와 우디오(Udio) 등을 상대로 저작권 침해 소송을 제기했다. 저작권자의 허가 없이 저작권이 있는 자료를 기반으로 알고리즘을 학습시켰다는 게 그 이유다. 수노 측은 “자사 시스템은 기존 곡을 단순히 복제하는 것이 아니라 완전히 새로운 결과물을 생성하도록 설계됐다”고 반박하고 나섰다. 이를 두고 음악 산업의 피해를 우려하는 목소리도 커지고 있다. AI 기업에 아티스트가 창작한 데이터를 윤리적으로 학습하라고 요구하는 비영리단체 ‘페얼리 트레인드’ 설립자 에드 뉴턴 렉스는 “AI가 작업물을 무단으로 사용해 유사품을 만들어내는 일이 인간 아티스트 수익을 빼앗는 결과로 이어진다”고 지적했다.

미국의 한 스타트업이 죽은 사람을 인공지능(AI) 아바타로 되살려 대화할 수 있는 애플리케이션을 내놓아 논란이다. 14일(현지시간) 미국 매체 뉴스위크 등은 AI 교육 스타트업 투웨이(2Wai)의 공동창립자인 배우 캘럼 워디가 같은 날 소셜미디어(SNS) 엑스에 애플리케이션 홍보 영상을 공개했다고 보도했다. 문제의 영상을 보면, 임산부가 휴대폰을 통해 세상을 떠난 어머니의 AI 아바타와 대화하는 장면이 등장한다. 이후 세상에 태어난 아기에게 AI 아바타가 동화를 들려주며, 아이가 성인이 되어 손자가 생겼다는 소식을 전하는 장면으로 이어진다. 마지막으로는 “투웨이와 함께라면 3분이 영원해질 수 있다”는 문구로 끝난다. 이 영상은 공개 이후 2260만 회 이상 조회돼 이목을 끌었다. 투웨이 측은 사용자가 생전에 촬영한 짧은 영상을 업로드하면 이를 분석한 후 고인의 외모와 목소리를 흉내 내는 아바타를 생성하는 방식으로 작동한다고 설명한다. 또 역사적 인물과 실존 인물 등 대화 가능한 디지털 아바타(Holo Avatar)를 다양한 버전으로 적용해 여러 모습으로 출력할 수 있다고 소개한다. 현재 이 앱은 애플스토어에서 베타 버전으로 무료 다운로드할 수 있으며, 향후 정식 서비스에서는 구독 기반 모델로 전환할 계획이라고 전했다. 서비스 공개 직후 비판 여론이 강하게 일었다. 이를 본 네티즌들은 “누군가의 슬픔을 사업 기회로 바꿨다”, “정상적인 애도 과정을 피할 또 다른 방법이 등장했다”, “고인의 인격을 모독하는 행위”라는 등 다양한 의견을 내놨다. 또 투웨이 측이 데이터를 이용하는 방식이 불투명하다는 점이 문제로 꼽혔다. 3분짜리 영상으로 “성격, 말투, 외모를 재현한다”고 설명했으나 정확히 어떤 기계학습 모델을 사용하는지, 패턴을 어떻게 파악하는지 등 구체적으로 밝히지 않았다. 또 개인정보 및 데이터 보관 기록 방식 등에 관한 세부적인 정보를 공개하지 않았다는 점도 지적됐다. 투웨이가 내놓은 앱은 죽은 사람을 챗봇 형태로 재현하는 데드봇(Deadbot)의 한 종류다. 지난해 케임브리지대 리버흄 미래 지능 연구센터(FCFL)가 발표한 논문을 보면, 기업이 데드봇 서비스를 상업적으로 이용하거나 미성년자를 대상으로 사용할 경우 심각한 심리적 피해를 줄 수 있다고 주장했다. 비윤리적인 기업에서 데드봇 기술을 이용해 광고 메시지를 보내는 등 부적절하게 이용해 수익을 창출할 경우 유족에게 심리적 타격을 입힐 수 있으며, 특히 부모를 잃고 남겨진 아이가 정상적인 애도 과정을 겪을 수 없도록 만들어 피해를 초래할 수 있다고 지적했다. 논문 공동 저자 카타지나 노바치크-바신스카 박사는 “이 AI 영역은 현재 윤리적 지뢰밭”이라며 “망자의 존엄을 최우선에 두고 이 기술이 금전적 동기에 의해 악용되지 않도록 해야 한다”고 경고했다.

미국의 한 스타트업이 죽은 사람을 인공지능(AI) 아바타로 되살려 대화할 수 있는 애플리케이션을 내놓아 논란이다. 14일(현지시간) 미국 매체 뉴스위크 등은 AI 교육 스타트업 투웨이(2Wai)의 공동창립자인 배우 캘럼 워디가 같은 날 소셜미디어(SNS) 엑스에 애플리케이션 홍보 영상을 공개했다고 보도했다. 문제의 영상을 보면, 임산부가 휴대폰을 통해 세상을 떠난 어머니의 AI 아바타와 대화하는 장면이 등장한다. 이후 세상에 태어난 아기에게 AI 아바타가 동화를 들려주며, 아이가 성인이 되어 손자가 생겼다는 소식을 전하는 장면으로 이어진다. 마지막으로는 “투웨이와 함께라면 3분이 영원해질 수 있다”는 문구로 끝난다. 이 영상은 공개 이후 2260만 회 이상 조회돼 이목을 끌었다. 투웨이 측은 사용자가 생전에 촬영한 짧은 영상을 업로드하면 이를 분석한 후 고인의 외모와 목소리를 흉내 내는 아바타를 생성하는 방식으로 작동한다고 설명한다. 또 역사적 인물과 실존 인물 등 대화 가능한 디지털 아바타(Holo Avatar)를 다양한 버전으로 적용해 여러 모습으로 출력할 수 있다고 소개한다. 현재 이 앱은 애플스토어에서 베타 버전으로 무료 다운로드할 수 있으며, 향후 정식 서비스에서는 구독 기반 모델로 전환할 계획이라고 전했다. 서비스 공개 직후 비판 여론이 강하게 일었다. 이를 본 네티즌들은 “누군가의 슬픔을 사업 기회로 바꿨다”, “정상적인 애도 과정을 피할 또 다른 방법이 등장했다”, “고인의 인격을 모독하는 행위”라는 등 다양한 의견을 내놨다. 또 투웨이 측이 데이터를 이용하는 방식이 불투명하다는 점이 문제로 꼽혔다. 3분짜리 영상으로 “성격, 말투, 외모를 재현한다”고 설명했으나 정확히 어떤 기계학습 모델을 사용하는지, 패턴을 어떻게 파악하는지 등 구체적으로 밝히지 않았다. 또 개인정보 및 데이터 보관 기록 방식 등에 관한 세부적인 정보를 공개하지 않았다는 점도 지적됐다. 투웨이가 내놓은 앱은 죽은 사람을 챗봇 형태로 재현하는 데드봇(Deadbot)의 한 종류다. 지난해 케임브리지대 리버흄 미래 지능 연구센터(FCFL)가 발표한 논문을 보면, 기업이 데드봇 서비스를 상업적으로 이용하거나 미성년자를 대상으로 사용할 경우 심각한 심리적 피해를 줄 수 있다고 주장했다. 비윤리적인 기업에서 데드봇 기술을 이용해 광고 메시지를 보내는 등 부적절하게 이용해 수익을 창출할 경우 유족에게 심리적 타격을 입힐 수 있으며, 특히 부모를 잃고 남겨진 아이가 정상적인 애도 과정을 겪을 수 없도록 만들어 피해를 초래할 수 있다고 지적했다. 논문 공동 저자 카타지나 노바치크-바신스카 박사는 “이 AI 영역은 현재 윤리적 지뢰밭”이라며 “망자의 존엄을 최우선에 두고 이 기술이 금전적 동기에 의해 악용되지 않도록 해야 한다”고 경고했다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. “고등학교가 더 심할걸요? 수행평가나 숙제는 전부 인공지능(AI) 돌려요.” 서울 용산구의 한 고등학교에 다니는 2학년 이모(17)군은 최근 논란이 된 대학생들의 ‘AI 부정행위’에 대해 묻자 이렇게 답했다. 이군은 지난주에도 문학 시간에 주어진 ‘소설 홍길동전의 뒷이야기를 창작하시오’라는 수행평가를 챗GPT로 해결했다. 챗GPT에 ‘소설 홍길동전의 다음 이야기를 만들어줘. 고등학생이 읽을 수 있는 정도의 수준. 분량은 A4용지 기준으로 1장’과 같은 몇 가지 명령어를 입력했고 10초 만에 답변을 받았다. AI가 내놓은 답을 그대로 베껴 수행평가를 제출한 이군은 “친구들도 대부분 AI로 수행평가나 숙제를 한다”며 “혼자 끙끙 싸매고 있으면 손해 보는 구조다. AI로 할 수 있는 건 AI로 해결한다”고 전했다. 실제로 진학사가 지난 9월 고등학생 351명을 대상으로 설문한 결과, 응답자의 96.6%는 ‘수행평가 준비 시 AI를 활용한다’고 답했다. ‘AI가 도출한 결과물을 크게 수정하지 않고 그대로 옮긴다’고 답변한 이들도 전체의 20.0%나 됐다. 불과 1~2년 전까지만 해도 학교에서 AI를 활용하는 학생들은 많지 않았지만, 최근엔 학생은 물론 교사들도 사용할 정도로 AI는 학교 현장 깊숙이 파고들었다. 학생들은 상황에 맞춰 여러 AI를 돌려 사용하고, 교사들은 생활기록부 작성 등 행정 업무에 AI의 도움을 받는다. AI는 학생들만의 전유물은 아니다. 서울 관악구의 한 고등학교 교사 김모(31)씨는 학교생활기록부 작성을 거의 끝냈다. 챗GPT의 도움을 받았더니 지난해보다 작성 시간이 5분의 1 정도로 줄어서다. 1학년 학급 담임을 맡고 있는 김씨가 약 30명 학생의 ‘행동특성 및 종합의견’을 작성하는 데는 4시간밖에 걸리지 않았다고 한다. 김씨는 “‘조용하다’, ‘착하다’라는 말 외에 쓸 내용이 많지 않은데, 챗GPT 덕에 분량감 있는 내용을 적을 수 있었다”고 전했다. 학기 말이 되면 교사들이 한 달이 넘도록 야근하며 학교 생활기록부 작성에 골몰하는 풍경은 올해 초 학교가 자체 예산으로 챗GPT 유료 계정을 구매한 뒤 사라졌다고 한다. 이와 관련해 교육부는 지난 7월 말 “생성형 AI를 학교 생활기록부 작성 보조 수단으로 활용한 경우 허위·과장 기재 여부 등을 철저히 확인해야 한다”는 내용 등이 담긴 지침을 교육현장에 내리기도 했다. 진선미 더불어민주당 의원실 자료에 따르면 17개 시도교육청 중 7곳은 교육청 차원 AI 활용 가이드라인이 없었다. 또 한국대학교육협의회에 따르면 전국 131개 대학 중 생성형 AI에 대한 가이드라인을 적용·채택한 곳은 30곳(22.9%)에 불과했다. 이처럼 AI를 어디까지 활용할지 등 구체적인 기준은 없고, 교사의 AI 사용에 대한 교육부 지침도 사실상 교사 양심에 맡기는 수준이라 학부모들의 우려는 크다. 박태양 전국학부모단체연합 공동대표는 “생활기록부는 대학 입시에도 영향을 미치는 자료”라며 “아무리 보조 수단으로만 활용한다고는 하지만 학생들에 대한 평가에 AI를 사용한다는 것 자체가 우려된다”고 말했다. 이런 상황에서 연세대와 고려대에 이어 서울대에서도 ‘AI 커닝’ 논란 등 부작용이 나타나면서 윤리 기준 정립이 필요하다는 목소리가 커지고 있다. 대학의 경우 AI 윤리 교육은 선택이나 교양 과목에만 머물러 있고, 교육부도 내년에야 AI 윤리를 포함한 대학 기본교육과정에 대한 연구에 착수한다. 물론 AI를 활용해 효율적인 정보 수집 등이 이뤄져 학생들의 학업 성취도가 향상됐다는 목소리도 있다. 대학생 신재현(25)씨는 올 2학기부터 챗GPT 외에도 리포트를 쓸 때는 학술 근거를 잘 달아주는 퍼플렉시티, 구글 연동이 잘 돼 있는 제미나이를 함께 사용하고 있다. 신씨는 발표 과제를 할 땐 논문이나 보고서 등을 요약·분석해 파워포인트(PPT)까지 만들어주는 노트북LM도 자주 사용한다. 신씨는 “AI마다 장단점을 잘 파악해 상황에 맞게 쓰는 것도 능력”이라며 “기업들도 AI 활용에 큰 평가 비중을 둘 텐데, 사용을 제한하는 것은 시대에 뒤처지는 것이라고 본다”고 전했다. AI에 모든 사고 과정을 전담하는 이른바 ‘생각의 외주화’가 심화하면 ▲창의적 사고 실종 ▲학습 효율 감소 ▲AI 답변에 대한 무비판적 신뢰가 빈번해질 가능성이 높다. 김명주 AI안전연구소장은 “AI는 부정확하고, 쓸데없이 긴 답변을 내놓을 때가 많다”며 “AI 답변을 교정할 수 있는 역량을 길러야만 효율적인 이용이 가능하다”고 강조했다.

서울시의회 교육위원회 이종태 의원(국민의힘, 강동2)은 지난 10일과 11일 열린 제333회 정례회 행정사무감사 질의에서 AI 디지털 교육과 유아-초등 교육 연계에 대해 심도 있는 지적과 함께 정책 개선을 촉구했다. 이 의원은 AI 디지털 교육의 방향성에 대해 “기술 중심의 교육이 주로 다뤄지고 있지만, 교육의 본질인 비판적 사고와 윤리적 판단 능력을 기르는 과정이 미흡하다”고 지적하며 “서울시교육청은 AI 교육을 단순한 도구 사용법을 넘어서 학생들이 정보의 신뢰성을 평가하고 알고리즘의 윤리적 문제를 이해하는 교육으로 확장해야 한다”고 강조했다. 또한 “AI 교육의 진정한 목적은 기술 숙련이 아닌 학생들이 비판적이고 책임감 있게 기술을 활용하는 능력을 배양하는 것”이라고 덧붙였다. 이어 서울시교육청이 올해 AI 교원 연수 대상을 1만 명 이상으로 확대한다고 밝힌 것에 대해 “현재 연수는 대부분 활용 중심의 실습형 교육에 집중되어 있어 AI에 대한 비판적 리터러시 교육이 부족하다”고 지적했다. 이에 따라 “향후 교원 연수는 기술 활용에 그치지 않고 AI 교육의 철학과 윤리, 데이터 공정성 등을 포함한 심화 교육이 필요하다”고 역설했다. 서울시교육청은 AI 디지털 교육을 위한 다양한 정책을 추진하고 있으며, 교원 연수 확대 및 디지털 교과서 활용 등을 강화할 계획을 밝혔다. 이 의원은 “기술의 속도에 맞춰 교육이 발전하는 것도 중요하지만, 그보다 교육의 깊이가 더욱 중요하다”며 “AI 교육은 단순히 도구를 익히는 것이 아니라, 학생들이 기술을 올바르게 활용하고 사회적 책임을 다하는 능력을 키우는 방향으로 나아가야 한다”고 강조했다. 한편, 이 의원은 유아-초등 교육 연계 정책을 지적하며 “유아교육과 초등교육의 연계가 지역별로 불균형을 보인다”고 밝혔으며 “특히 특정 지역은 유치원과 초등학교 간 매칭이 증가했지만, 다른 지역에서는 오히려 감소하고 있어 이 문제를 해결하기 위한 정책적 노력이 필요하다”고 말했다. 덧붙여 “유아교육과 초등학교 간의 원활한 연계는 아이들의 발달과 사회성 증진에 중요한 영향을 미치므로 이를 균등하게 추진할 수 있는 방안이 필요하다”고 덧붙였다.

경기도의회 교육기획위원회 장윤정 의원(더불어민주당, 안산3)은 경기도교육청 북부유아체험교육원이 제작·배포한 ‘인공지능(AI) 활용 유아 놀이 분석·평가 자료’와 관련해 개인정보 유출 가능성을 우려하며, 구체적인 보안 대책과 학부모 동의 절차 마련을 촉구했다. 장윤정 의원은 지난 12일 열린 2025년도 경기도교육연구원, 경기도교육복지종합센터, 경기도교육청 남부·북부유아체험교육원 행정사무감사에서 “AI 도입은 편리성만 강조할 것이 아니라, 법적 책임·보호장치·유출 시 대응 체계를 반드시 함께 논의해야 한다”며 이같이 지적했다. 경기도교육청 북부유아체험교육원은 지난 10월 유아교육 현장의 교사들이 구글의 인공지능(AI)을 활용해 유아의 놀이 장면을 분석하고 평가할 수 있도록 하는 내용의 리플릿과 영상자료를 제작·배포했다고 밝혔다. 장윤정 의원은 “교사가 개인정보를 보호하려고 해도 실제 유아의 반 구성 정보, 나이 등 식별 가능 정보가 포함될 여지가 충분하다”며, “개인정보보호법상 민감정보는 최대 5년까지 보관되는데, 교육청이 AI에 저장된 아이들의 영상과 행동 데이터가 5년 뒤 완전히 삭제되는지조차 확인하지 않았다”고 문제를 제기했다. 이에 대해 정재영 북부유아체험교육원장은 “교사 연수를 통해 디지털 윤리를 교육했다”고 설명했지만, 장윤정 의원은 “연수만으로 모든 위험을 예방할 수 있다는 것은 착각”이라며, “딥페이크 사례처럼 기술은 의도와 다르게 악용될 수 있는 만큼 도입 단계부터 대비책을 마련해야 한다”고 강조했다. 또한 장윤정 의원은 “학부모에게 AI로 아이의 영상·사진을 분석해도 되는지 묻지 않은 것은 절차적 정당성을 확보하지 않은 조치”라며, “개인정보 보호·보관·폐기 기준 마련 및 학부모 동의 절차 등을 포함한 구체적인 대책을 마련해 추후 보고해 달라”고 주문했다.

우리는 언제부턴가 기계가 건네는 위안을, 편의를 자연스럽게 받아들이기 시작했다. 외로움을 달래 주는 ‘말벗’ 앱부터, 길 안내 지도, 서류 작성을 돕는 도우미까지 인공지능(AI)은 우리의 일상에 완벽히 스며들었다. 편리한 그만큼 그림자도 짙어졌다. 기술이 윤리적 경계를 흐리는 일이다. 최근 해외에서 화제가 된 AI 동반자 ‘프렌드’(Friend)가 그 하나의 사례다. 목걸이 형태의 웨어러블 AI인 이 장치는 사용자의 일상을 사실상 24시간 함께한다. 언제, 어디서, 누구와 나눈 대화인지 듣고 그 내용을 바탕으로 공감과 대화를 건넨다. 개발사는 ‘곁을 지켜 주는 디지털 동반자’라고 소개했다. 하지만 미국 등에서 일부 시민들은 ‘우리는 가짜 친구가 필요 없다’, ‘인간관계의 대체물’이라며 격렬하게 반발했다. 기술 수용의 속도와 사회적 합의의 불일치가 드러난 한 단면이다. 국내에서도 AI의 기능과 책임을 둘러싼 논쟁이 현실로 다가왔다. 연세대의 한 대형 강의에서 비대면 중간고사 중 상당수 학생이 챗GPT 등 AI를 활용해 답안을 작성한 정황이 드러났다. 수백명에 이르는 집단적 부정행위 의혹이 제기되며 학내외 논란을 불러일으켰다. 이 사태가 남긴 질문은 단순히 “AI를 썼느냐”를 넘어 “우리는 이 기술을 어디까지 허용할 것인가”에 닿아 있다. 두 사례는 같은 축 위에 있다. 하나는 기술이 ‘친구’라는 이름으로 사적인 영역까지 파고들 때의 위험을, 다른 하나는 기술이 ‘손쉬운 편법의 도구’로 악용된 상황을 보여 준다. 기술이 제도와 윤리의 경계선 어딘가에 서 있는 모습이다. AI는 분명 유용한 도구다. 의료 현장에서 진단 정확도를 높이고, 재난을 예측하며, 장애인의 의사소통을 돕는다. 그러나 동시에 교육의 신뢰를 무너뜨리고, 사생활을 침범하며, 인간의 감정을 흉내 내는 데 쓰이기도 한다. ‘어디까지가 인간의 일이고, 어디서부터가 기계의 일인지’에 대한 사회적 합의는 아직 없다. 기술은 중립적이지 않다. 누구의 손에, 어떤 목적과 규칙으로 주어지느냐에 따라 도구가 되기도 하고 무기가 되기도 한다. 실상 아직 AI가 완전한 것도 아니다. 여전히 주변에서는 AI가 존재하지 않는 사실을 꾸며 자료를 만들었다거나, ‘곧 끝난다’고 해 놓고 실제로는 작업의 1%도 진행하지 않았다는 불만이 나온다. 기술의 미비함 역시 현실의 한 단면이다. 해결의 실마리는 결국 사람에게 있다. 첫째, 교육 현장에서 AI 사용을 단순히 금지하는 것만으로는 문제를 해결할 수 없다. AI를 어떻게 정당하게 활용할지, 출처와 책임을 어떻게 표기할지를 가르치는 실질적인 커리큘럼과 평가 체계가 필요하다. 둘째, 개인정보와 사생활의 경계는 기술의 설계 단계에서부터 정립해야 한다. 단순한 동의 절차가 아니라 사용자가 실질적으로 통제권을 행사할 수 있어야 한다. 셋째, 기업과 플랫폼은 ‘혁신’이라는 명분으로 사회적 합의 없이 새로운 생활 영역을 창조하지 말아야 한다. 넷째, AI에 의존하기 이전에 사실 관계와 출처를 확인하는 단계를 반드시 거쳐야 한다. 기술은 시장의 속도만으로 정당화되지 않는다. 마지막으로 법과 규범은 기술의 발전을 뒤쫓아 가는 것이 아니라 최소한의 안전망을 먼저 마련해야 한다. 개인정보 보호, 알고리즘 투명성, 교육 윤리 등 각 영역에서의 기본 규칙을 사회적 논의로 서둘러 정립해야 한다. 그래야 AI와 공존하되 인간의 관계와 신뢰를 기계에 빼앗기지 않는다. AI의 진화가 두려운 것은 인간의 능력을 넘어설까 하는 우려 때문만이 아니다. 인간의 책임과 윤리 의식을 마비시킬 수 있기 때문이다. 지금 필요한 것은 더 빠른 기술이 아니라 더 깊은 성찰이다. 백민경 사회부장

경기도가 추진 중인 모든 인공지능 정책의 방향성과 실행 방안을 점검하고 자문하는 역할을 맡게 될 AI정책 전담 자문기구, ‘경기도 인공지능위원회’가 공식 출범했다. 11일 경기도서관 AI스튜디오에서 출범한 경기도 인공지능위원회는 ‘경기도 인공지능 기본조례’를 근거로 신설된 공식 자문기구다. 행정과 산업, 기술과 윤리, 공공과 민간을 연결하는 ‘AI 협의 플랫폼’으로서 ‘사람 중심의 책임 있는 AI’를 핵심 가치로 심의안건이 발생하는 대로 수시 개최될 예정이다. 위원회는 기업, 학계, 법조계, 도의원, 시민단체 등 AI 분야 전문가 22명으로 구성됐다. 출범식에서는 민간 위원 19명에 대한 위촉식이 이뤄졌다. 민간 위원들은 ▲AI정책·윤리 ▲AI융합산업 ▲AI혁신행정 등 3개 분과에 배정됐다. 앞으로 경기도 인공지능 종합계획 수립, AI 산업육성, 윤리 기준 설정, AI 행정서비스 확대 등에 대해 자문하고 정책 실행을 견인할 계획이다. AI정책·윤리 분과는 김명주 과학기술정보통신부 AI안전연구소장이 분과위원장을 맡았다. 도민 대상 AI서비스에 대한 자문과 AI의 공정성, 투명성, 책임성 확보에 관한 사항과 경기도 각 실국의 AI활용 사업에 대한 자문을 담당하게 된다. AI융합산업 분과는 김현곤 경기도경제과학진흥원장이 분과장을 맡았다. AI기업의 기술개발, 사업화 등 기업육성에 필요한 사업 지원과 AI산업 집적단지, 연구기관 등 클러스터 구축, AI 인재양성, AI 관련 산학연 협력에 관한 사항을 담당한다. AI혁신행정분과는 고영인 경기도 경제부지사를 위원장으로 도청 내부의 행정서비스 분야의 AI 적용, AI관련 정보보안과 인프라 고도화 사업에 대한 자문을 담당할 예정이다. 출범식에서 김동연 경기도지사는 “(위원회 활동을)경계와 한계 없이 했으면 좋겠다. 물론 결정한 게 도정에 100% 반영된다고 장담할 수 없겠지만 가능하면 튀는 아이디어로 영감을 얻고 도정에 반영했으면 한다”라고 말했다. 이어 “경기도가 AI국을 대한민국 최초로 만들었다”며 “전문가와 현장에 계신 분 등 각계각층에서 오셨으니 좋은 의견 많이 주시고 도와달라”라고 덧붙였다. 김 지사와 함께 공동위원장으로 선출된 강경란 아주대학교 소프트웨어융합대학 학장은 “AI 기술을 추진하지만 사람이 소외되면 안 된다는 게 중요하다. 도정이라는 맥락에서 기술 발전을 통한 산업의 부흥, 경제가 좋아지는 것, 사람들이 혜택을 받는 것과 함께 소외되는 계층이 최소화되길 바란다”고 말했다.

경기도의회 고준호 의원(국민의힘, 파주1)은 10일(월) 열린 제387회 정례회 보건복지위원회 행정사무감사에서 경기도사회서비스원이 추진 중인 「AI 노인말벗서비스」에 대해 강력하게 질타했다. 고준호 의원은 “기술의 진보보다 더 중요한 것은 도민의 신뢰와 개인정보 보호”라며 지적했다. 고준호 의원은 “AI 돌봄은 좋은 취지지만, 개인정보보호법 위반 소지가 다수 존재한다”며, “도민의 목소리와 감정, 건강 상태가 담긴 민감한 데이터를 민간 클라우드에서 처리하고 있는데, 도민은 이를 전혀 알지 못한다”고 지적했다. 고준호 의원은 먼저 사업 구조의 불투명성을 문제 삼았다. “경기도사회서비스원이 세종네트웍스를 사업수행기관으로 선정했고, 세종은 네이버클라우드와 함께 컨소시엄 형태로 사업을 수행하고 있다”며, “결국 네이버클라우드 서버가 어르신의 음성데이터를 분석·보관하고, 경기도는 결과 리포트만 받는 구조다. 그런데 신청서에는 세종네트웍스나 네이버클라우드의 이름이 어디에도 없다”고 비판했다. 이어 “개인정보보호법 제17조는 제3자 제공 시 제공받는 자의 명칭과 보관 위치를 명시하도록 하고 있다”며, “경기도민 동의의 실효성을 무너뜨리는 불투명한 동의서”라고 강조했다. 고준호 의원은 또한 ‘AI 학습’ 목적 고지의 누락과 민감정보 관리의 부실을 지적했다. “과업지시서에는 ‘AI 학습·모델 개선·대화 데이터 구축’이 명시됐는데, 신청서에는 단순히 ‘서비스 제공’으로만 적혀 있다. 어르신의 목소리가 인공지능 학습에 활용된다는 사실을 고지하지 않은 것은 위법 소지”라며, “서비스 철회권 안내조차 없어 어르신이 자신의 데이터 삭제를 어떻게 요청해야 하는지도 알 수 없다”고 질타했다. 고준호 의원은 세종네트웍스가 네이버클라우드와 협력하는 재위탁 구조 속에서 경기도사회서비스원의 관리·감독이 부실하다고 지적했다. 고 의원은 사업 담당 팀장에게 “감독한 적 있느냐”고 묻자 “없다”고 답했고 고 의원은 “개인정보보호법 제26조 제4항의 ‘수탁자 감독의무’ 위반 소지가 있다”고 꼬집었다. 고 의원은 최근 입찰 평가 기준 변경과 관련해 “기존 수행업체에 유리하도록 편향된 구조”라고 강력히 지적했다. 그는 “기존 건수 중심에서 금액 중심으로, 기술력보다 인력 수와 안정성을 중시하는 방식으로 평가가 바뀌었다”고 밝혔다. 또한, 필수 제출 서류인 지방세·4대보험 완납증명서가 행정 점검 없이, 의원 요구 후에야 제출됐다며 “행정 절차 또한 미흡했다”고 꼬집었다. 고 의원은 끝으로 “AI는 도민의 삶 속으로 들어오는 기술이기에, 개인정보의 투명성과 윤리 기준이 그 무엇보다 중요하다”며, “‘더 똑똑한 기술’보다 ‘더 안전하고 투명한 행정’이 먼저”라고 강조했다.

시험 부정행위인 ‘커닝’(cunning)을 영어권에서는 ‘치팅’(cheating)이라고 한다. ‘커닝’은 ‘교활한’이라는 뜻이다. 원래 치팅이라고 해야 맞는데 아마도 일본에서 ‘간닝구’(カンニング)라고 한 것을 따라 쓴 것 같다. 중국·홍콩·대만에서는 ‘차오샤오차오’(抄小抄)라고 부른다. 동서양 할 것 없이 오래전부터 시험이 있는 곳에는 커닝이 있었다. 조선시대 과거 시험에서도 커닝 페이퍼를 콧구멍이나 붓뚜껑에 숨기기도 했다. 작은 책자나 종이에 출제빈도가 높은 시구를 빽빽하게 적는 ‘협책’(挾冊)도 있었다. 지난달 연세대 중간고사에서 집단적인 부정행위 정황이 있었던 것으로 드러났다. 3학년 대상 수업 과목에서 수강생 600여명 중 상당수 학생들이 시험 중 챗GPT 등 인공지능(AI)을 활용했다. 고려대 교양과목 중간고사에서도 카카오톡 오픈채팅방을 통한 일부 학생들의 집단 커닝이 있었다. 생성형 AI가 대중화된 지 3년. 대학가의 혼란은 갈수록 커지는 모습이다. 사용 정책이나 윤리 기준 논의가 AI 발전 속도를 따라잡지 못하고 있다. 한국대학교육협의회에 따르면 전국 대학 131곳 중 71.1%가 생성형 AI 가이드를 아직 마련하지 못했다. 대학에서의 AI 윤리 지체현상이 심각한 셈이다. 미국 대학들도 AI 커닝으로 골머리를 앓고 있기는 마찬가지. 텍사스주의 베일러대는 학생들에게 답안지를 손으로 써내게 했고, 스탠퍼드대는 시험장에 감독관을 참석시켜 지켜보게 했다. 구술시험을 선택하는 학교도 늘고 있다. 미국 샌디에이고 캘리포니아대(UCSD) 공대는 지난 3년간 학생들을 대상으로 7000여건의 구술시험을 실시한 결과 부정행위가 줄고 학업 성취도가 높아졌다는 연구 결과를 발표했다. 최첨단 AI가 생활 깊숙이 들어온 시대에 부정시험을 막기 위한 처방이 구술시험이라니. 2000년 전 소크라테스가 제자들과 나눈 대화 방식으로 결국 시험을 대체해야 한다니 역시 역사는 돌고 도는 모양이다.

연세대에 이어 고려대 중간고사에서도 인공지능(AI) 등을 이용한 집단 부정행위 정황이 드러나 논란이 커지고 있다. 명문사학으로 꼽히는 두 학교를 비롯해 대학가에서 최근 발생하고 있는 ‘AI발 부정행위’에 대한 대대적인 점검이 필요하다는 목소리가 나온다. 10일 고려대에 따르면 지난달 25일 비대면으로 치러진 교양과목 ‘고령사회에 대한 다학제적 이해’ 중간고사에서 일부 학생들이 카카오톡 오픈채팅방을 통해 문제와 답변을 공유했다. 시험은 약 1000명의 학생이 동시에 온라인으로 30분 정도 치르는 방식이었다. 학생들 중엔 강의 자료를 AI에 학습시킨 이후 답변을 도출해, 이를 제출하거나 다른 학생들에게 공유한 이들도 있는 것으로 알려졌다. 일부 학생들로부터 부정행위를 제보받은 학교 측은 지난달 27일 ‘중간고사 초유의 사태 발생과 관련하여’라는 제목의 공지를 통해 “도저히 부정행위를 묵과할 수 없으므로 중간고사 전면 무효화라는 특단의 조치를 내린다”고 밝혔다. 고려대 관계자는 “학교는 관련 사실을 조사 중이며 이번 일을 계기로 기말고사 운영 방식 및 부정행위 방지 대책도 논의 중”이고 말했다. 이밖에 고려대에서는 지난달 초 한 교양과목 수업에서 학생 1명이 퀴즈 답변을 얻기 위해 AI를 활용하다 조교에게 발각되기도 했다. 수업에서 진행된 이 퀴즈는 2학기 전체 성적에서 약 5% 정도 비중을 차지하는 평가로, AI는 물론 휴대전화를 사용한 부정행위 등은 금지돼 있다. AI로 퀴즈에 대한 답변을 준비하던 학생은 0점 처리됐다. 수업 담당 교수는 “해당 학생에 대한 추가 조치를 고려 중”이라고 말했다. 대학가에 침투한 AI가 무분별하게 사용된 경우는 지난 1학기에도 있었다. 동국대 한 교양 수업 중간고사 시험에서도 다수의 학생이 AI를 활용한 정황이 포착됐다. 동국대 관계자는 “현재까지 AI를 이용한 부정행위의 처벌 조항은 따로 없다”며 “당시 부정행위에 대한 의심이 있었지만, 처벌은 교수 재량에 맡겨뒀다”고 말했다. 최근 논란이 일었던 연세대 ‘자연어 처리(NLP)와 챗GPT’ 수업은 지난해에도 AI를 활용한 부정행위 정황이 있었던 것으로 알려졌다. 연세대는 이번 ‘AI 부정행위’ 논란과 관련해 조만간 AI 윤리에 대한 학내 구성원들의 의견을 모으는 자리를 갖기로 했다. 김명주 AI안전연구소장은 “AI 이용을 기반으로 한 학생 학업 능력 평가는 현재 과도기적인 상태”라며 “AI 활용 시험과 이를 활용하지 않은 시험을 나누고, 부정행위에 대한 기준과 가이드라인도 필요하다”고 말했다.

연세대에 이어 고려대 중간고사에서도 인공지능(AI) 등을 이용한 집단 부정행위 정황이 드러나 논란이 커지고 있다. 명문사학으로 꼽히는 두 학교를 비롯해 대학가에서 최근 발생하고 있는 ‘AI발 부정행위’에 대한 대대적인 점검이 필요하다는 목소리가 나온다. 10일 고려대에 따르면 지난달 25일 비대면으로 치러진 교양과목 ‘고령사회에 대한 다학제적 이해’ 중간고사에서 일부 학생들이 카카오톡 오픈채팅방을 통해 문제와 답변을 공유했다. 시험은 약 1000명의 학생이 동시에 온라인으로 30분 정도 치르는 방식이었다. 학생 중엔 강의 자료를 AI에 학습시킨 이후 답변을 도출해, 이를 제출하거나 다른 학생들에게 공유한 이들도 있는 것으로 알려졌다. 일부 학생들로부터 부정행위를 제보받은 학교 측은 지난달 27일 ‘중간고사 초유의 사태 발생과 관련하여’라는 제목의 공지를 통해 “도저히 부정행위를 묵과할 수 없으므로 중간고사 전면 무효화라는 특단의 조치를 내린다”고 밝혔다. 고려대 관계자는 “학교는 관련 사실을 조사 중이며 이번 일을 계기로 기말고사 운영 방식 및 부정행위 방지 대책도 논의 중”이고 말했다. 이밖에 고려대에서는 지난달 초 한 교양과목 수업에서 학생 1명이 퀴즈 답변을 얻기 위해 AI를 활용하다 조교에게 발각되기도 했다. 수업에서 진행된 이 퀴즈는 2학기 전체 성적에서 약 5% 정도 비중을 차지하는 평가로, AI는 물론 휴대전화를 사용한 부정행위 등은 금지돼 있다. AI로 퀴즈에 대한 답변을 준비하던 학생은 0점 처리됐다. 수업 담당 교수는 “해당 학생에 대한 추가 조치를 고려 중”이라고 말했다. 대학가에 침투한 AI가 무분별하게 사용된 경우는 지난 1학기에도 있었다. 동국대 한 교양 수업 중간고사 시험에서도 다수의 학생이 AI를 활용한 정황이 포착됐다. 동국대 관계자는 “현재까지 AI를 이용한 부정행위의 처벌 조항은 따로 없다”며 “당시 발생한 건은 부정행위로 간주할 수 있지만, 처벌은 교수 재량에 맡겨뒀다”고 말했다. 최근 논란이 일었던 연세대 ‘자연어 처리(NLP)와 챗GPT’ 수업은 지난해에도 AI를 활용한 부정행위 정황이 있었던 것으로 알려졌다. 연세대는 이번 ‘AI 부정행위’ 논란과 관련해 조만간 AI 윤리에 대한 학내 구성원들의 의견을 모으는 자리를 갖기로 했다. 김명주 AI안전연구소장은 “AI 이용을 기반으로 한 학생 학업 능력 평가는 현재 과도기적인 상태”라며 “AI 활용 시험과 이를 활용하지 않은 시험을 나누고, 부정행위에 대한 기준과 가이드라인도 필요하다”고 말했다.

교육부가 인공지능(AI) 인재를 양성하기 위해 AI 분야 학부 입학 후 박사학위까지 취득하는 기간을 2.5년 단축하는 ‘학·석·박 패스트트랙’을 도입하기로 했다. 또 AI 중점학교를 2028년까지 2000개교로 확대하는 등 초·중·고 AI 교육을 대폭 강화한다. 교육부는 10일 이런 내용을 담은 ‘모두를 위한 AI 인재양성 방안’을 발표했다. 이재명 정부 대표 국정과제인 ‘AI 3대 강국 실현’을 뒷받침하기 위한 교육 분야 핵심과제다. 방안에 따르면 교육부는 일반학교보다 정보교과를 확대하는 AI 중점학교를 2028년까지 2000개교로 늘린다. 올해(730개교)보다 1270개교 더 지정해 지역 AI 교육의 중심축으로 활용한다는 구상이다. 과학고·영재학교의 AI·SW 특화 교육과정과 프로그램 운영도 지원한다. 올해 총 14개교에 지원하고 있으나 내년에는 약 2배인 27개교로 대상을 늘린다. 마이스터고에 대해선 전공과목에 AI 활용 유도 등 ‘재도약 지원사업’을 확대한다. 지원 사업 대상은 내년 7개교에서 2030년 35개교로 확대될 전망이며,매년 35억원씩 받는다. 우수 학부생 장학금 지원…AI 윤리교육 지원 대학과정에선 고등교육법과 시행령 개정을 통해 학사·석사·박사를 5.5년 만에 마칠 수 있는 ‘패스트트랙’을 신설한다. 통상 8년이 걸리는 과정이 2.5년 단축된다. 교육부 관계자는 “법 개정 이후 6개월 이후가 된다”이라며 “학생들의 입학 시기에 맞춰 ‘다음 연도 3월 전’ 같은 식으로 적용될 것”이라고 설명했다. 여기에 과학고를 2년 만에 조기졸업 하는 영재 교육체계와 패스트트랙이 연계될 경우 고교 입학부터 박사과정 이수까지 7.5년 만에도 가능할 전망이다. 우수 학부생은 조기에 발굴해 연구·프로젝트 참여 기회를 확대하고 장학금과 멘토링을 지원한다. 장학금·연구비 지원 규모는 연 2000만원으로 내년에는 400명을 선발한다. 또 박사후연구원의 법적 지위를 고등교육법을 통해 보장하고, 이공학 학술연구기반 구축 등과 관련해 현재 1352명을 대상으로 한 지원 규모를 내년 2000명 이상으로 늘릴 계획이다. 폐지됐던 비전임교원 및 박사후연구원을 대상으로 한 연구지원 사업을 복원해 내년부터 총 237억 원을 790여개의 과제에 지원한다. 이 경우 연간 1인당 약 6000만원씩 총 3년간 지원을 받게 된다. AI 관련 비전공 대학생도 AI 기본 소양을 갖출 수 있도록 거점국립대 중심으로 기본 교육을 강화한다. 내년부터 30개 대학에 다양한 학문과 AI를 결합한 융합강좌, AI 윤리적 활용 등 교양강좌 개발을 지원한다.

연세대 한 대형 강의 중간고사에서 챗GPT 등 인공지능(AI)을 사용한 집단 부정행위 정황이 드러나 논란이 일고 있다. 대학가를 중심으로 학교 현장 깊숙이 자리 잡은 AI가 부정행위에도 동원되면서 AI 사용 윤리 기준 등을 신속하게 정립해야 한다는 지적이 나온다. 9일 서울신문 취재를 종합하면 연세대 신촌캠퍼스의 3학년 대상 수업 ‘자연어 처리(NLP)와 챗GPT’ 담당 교수는 최근 “지난달 25일 시험에서 학생들의 부정행위가 다수 발견됐다”며 적발된 학생들의 중간고사 점수를 ‘0점’ 처리하겠다고 공지했다. 자연어 처리와 거대언어모델(LLM) 등 생성형 AI를 가르치는 이 수업은 ‘AI 융합심화전공 프로그램’ 이수에 필요한 핵심 과목으로 약 600명이 수강하는 것으로 알려졌다. 인원이 많아 수업과 중간고사는 비대면으로 진행됐다. 부정행위 방지 차원에서 응시자에게 시험시간 내내 컴퓨터 화면과 손·얼굴이 나오는 영상을 찍어 제출하도록 했다. 하지만 일부 학생들은 촬영 각도를 조정해 사각지대를 만들거나 화면에 창을 여러 개 띄우는 방식 등으로 시선을 돌린 뒤 그사이 AI를 사용해 시험 문제를 푼 것으로 알려졌다. 이 시험과 관련해 대학생 커뮤니티 ‘에브리타임’ 게시판 익명 투표에선 387명 중 ‘커닝했다’가 211명, ‘직접 풀었다’가 176명이라는 결과가 나왔다. 이 수업을 듣고 있는 재학생 김모(22)씨는 “지난해 같은 강의에서도 비슷한 일이 발생했는데, 또 이런 일이 벌어져 ‘이번엔 정말 다 걸리겠구나’라고 생각했다”고 전했다. 제출된 영상을 검토하던 중 부정행위 정황을 발견한 해당 교수는 “자수하지 않는 분들은 학칙에 따라 엄중히 처벌하겠다. 이번엔 부정행위와 끝장을 볼 생각”이라고 밝혔다. 학칙에는 부정행위 시 0점 처리와 유기정학 처분 등을 할 수 있게 돼 있다. 연세대 관계자는 “40명 정도가 부정행위를 자수했고 의심되는 10여명은 아직 자수하지 않았다”며 “자수하지 않은 학생의 부정행위가 확인되면 징계를 검토할 수 있다”고 밝혔다. 문제는 국내 대학 교육 전반에 AI가 빠르게 확산하고 있지만 아직 상당수 대학은 구체적인 활용 기준이나 대응 체계를 마련하지 못한 상태라는 점이다. 지난해 한국대학교육협의회가 대학 총장 190명을 대상으로 진행한 설문조사 결과 ‘생성형 AI 관련 학교 정책을 채택·적용했다’고 응답한 비율은 22.9%에 그쳤다. 조상식 동국대 교육학과 교수는 “AI에 대한 과도한 의존은 학습 효율 저하, 창의력 상실 등을 불러올 수 있다”며 “학교 차원에서의 가이드라인 마련을 포함해 AI 사용에 대한 윤리 기준이 필요하다”고 말했다.

연세대 한 대형 강의 중간고사에서 챗GPT 등 인공지능(AI)을 사용한 집단 부정행위 정황이 드러나 논란이 일고 있다. 대학가를 중심으로 학교 현장 깊숙이 자리잡은 AI가 부정행위에도 동원되면서 AI 사용 윤리 기준 등을 신속하게 정립해야 한다는 지적이 나온다. 9일 서울신문 취재를 종합하면 연세대 신촌캠퍼스의 3학년 대상 수업 ‘자연어 처리(NLP)와 챗GPT’ 담당 교수는 최근 “지난달 25일 시험에서 학생들의 부정행위가 다수 발견됐다”며 적발된 학생들의 중간고사 점수를 ‘0점’ 처리하겠다고 공지했다. 자연어 처리와 거대언어모델(LLM) 등 생성형 AI를 가르치는 이 수업은 ‘AI 융합심화전공 프로그램’ 이수에 필요한 핵심 과목으로 약 600명이 수강하는 것으로 알려졌다. 인원이 많아 수업과 중간고사는 비대면으로 진행됐다. 부정행위를 막기 위해 응시자는 시험시간 내내 컴퓨터 화면과 손·얼굴이 나오는 영상을 제출해야 한다. 하지만 일부 학생들은 촬영 각도를 조정해 사각지대를 만들거나 화면에 창을 여러 개 띄우는 방식 등으로 시선을 돌린 뒤 그사이 AI를 사용해 시험 문제를 푼 것으로 알려졌다. 실제 부정행위를 저지른 학생 수는 알려지지 않았지만, 학생들 사이에선 절반 이상일 수 있다는 말도 나온다. 이 시험과 관련해 대학생 커뮤니티 ‘에브리타임’ 게시판 익명 투표에선 353명 중 ‘커닝했다’가 190명, ‘직접 풀었다’가 163명이라는 결과가 나왔다. 이 수업을 듣고 있는 재학생 김모(22)씨는 “지난해 같은 강의에서도 비슷한 일이 발생했는데, 또 이런 일이 벌어져 ‘이번엔 정말 다 걸리겠구나’라고 생각했다”고 전했다. 제출된 영상을 검토하던 중 부정행위 정황을 발견한 해당 교수는 “자수하지 않는 분들은 학칙에 따라 엄중히 처벌하겠다. 이번엔 부정행위와 끝장을 볼 생각”이라고 밝혔다. 학칙에는 부정행위 시 0점 처리와 유기정학의 처분 등을 할 수 있게 돼 있다. 문제는 국내 대학 교육 전반에 AI가 빠르게 확산하고 있지만 아직 상당수 대학은 구체적인 활용 기준이나 대응 체계를 마련하지 못한 상태라는 점이다. 지난해 한국대학교육협의회가 대학총장 190명을 대상으로 진행한 설문조사 결과 ‘생성형 AI 관련 학교 정책을 채택·적용했다’고 응답한 비율은 22.9%에 그쳤다. 조상식 동국대 교육학과 교수는 “AI에 대한 과도한 의존은 학습 효율 저하, 창의력 상실 등을 불러올 수 있다”며 “학교 차원에서의 가이드라인 마련을 포함해 AI 사용에 대한 윤리 기준이 필요하다”고 말했다.

경기도의회 미래과학협력위원회 서현옥 의원(더불어민주당, 평택3)은 7일(금) 열린 AI국 2025년도 행정사무감사에서 ‘경기도 인공지능 종합계획’과 관련해 인공지능위원회 설치 지연 문제를 지적했다. 서현옥 의원은 “AI 종합계획과 인공지능 윤리 기반 조성을 위해 필수적인 인공지능위원회 설치가 지연되고 있으며, 연구용역 추진 과정에서도 과제 특성상 정책 비전과 전략 수립이 어려워 전문가 자문을 추진하겠다는 점검 결과가 있었다”라며 “경기도 인공지능 종합계획은 도정의 미래 방향과 산업정책 전반에 영향을 미칠 핵심 전략과제로, 기획 단계부터 전문 자문단 운영 등 세밀한 검토와 체계적 접근이 선행됐어야 한다”고 강조했다. 이어 서 의원은 ‘AI 혁신 클러스터 조성사업’의 추진 지연과 저조한 집행률 문제도 함께 언급했다.,“해당 사업은 사전 행정절차, 부지 협의, 기관 간 조정 등 충분히 예측 가능할 것으로 판단하며 막대한 예산이 투입되는 핵심 사업인 만큼, 면밀한 점검을 통해 추진 과정의 효율성을 높여야 한다”라고 지적했다.,또한 서 의원은 ‘데이터분석센터’에 대해 “운영의 실효성, 이용률을 재검토해야 할 필요가 있다”고 밝혔다. 마지막으로 서 의원은 ”AI와 데이터는 경기도의 미래 산업 경쟁력을 추진하는 핵심 동력인 만큼 세심한 계획과 함께, 계획에 걸맞은 실행력이 뒷받침되어야 한다.”라고 강조했다.

경기도의회 미래과학협력위원회 심홍순 부위원장(국민의힘, 대화동ㆍ일산3동ㆍ주엽1동ㆍ주엽2동)은 AI국 행정사무감사에서 ‘경기도 인공지능 종합계획 수립 연구용역’의 진행 현황과 설문조사 방식의 한계를 지적하며, 표본 대표성과 신뢰도 확보를 위한 체계적 보완이 필요하다고 강조했다. 경기도는 현재 ‘경기도 인공지능 종합계획(2026~2030)’ 수립을 추진 중이며, 올해 12월 연구용역 완료를 목표로 한다. 이번 용역은 448백만 원 규모로 ▲AI·데이터 정책 비전과 목표 설정 ▲산업 육성 및 인력양성 전략 ▲공공서비스 혁신 및 거버넌스 체계 구축 ▲AI 윤리·제도 개선 및 인공지능원 설립 방안 등을 포함한 중장기 대응체계를 마련하는 것을 목적으로 한다. 그러나 심 의원은 설문조사 관련 “도민은 305명, 기업 설문은 203개사를 대상으로 했다고 하나, 실제 응답은 25개사에 불과하다”며 “이 결과를 토대로 도내 산업계의 정책적 요구를 파악하기에는 무리가 있다”고 표본의 대표성과 신뢰성에 한계를 지적했다. 이어 도민 인식조사에 대해서도 “305명을 대상으로 4일간 진행된 설문에서 ‘인공지능을 잘 알고 있다’고 응답한 비율이 10~30대 73% 이상, 40~60대 52.9% 이상으로 나타났지만, 응답 기간이 짧고 표본 수가 제한적인 점을 고려하면 도민 전반의 인식 수준을 반영하기 어렵다”고 비판했다. 심 의원은 “인공지능 종합계획은 경기도의 AI 정책 방향을 결정짓는 계획”이라며, “정책의 실효성을 높이기 위해서는 보완을 통해 도민과 산업계의 실제 수요를 객관적으로 반영해야 한다”고 덧붙였다. 또한 “연구용역이 한 달가량 남은 시점에서 이러한 한계들이 충분히 보완될 수 있을지 우려된다”며 “조사 설계와 분석 과정의 신뢰성을 확보해야만 계획의 실효성이 담보될 것”이라고 덧붙였다.