생성형 인공지능(AI)에 어떤 방식으로 프롬프트(지시문)를 입력하느냐에 따라 9등급부터 1등급까지 극단적인 성적 차이를 보이는 것으로 나타났다. 지난 21일 진학사 블랙라벨사업부는 AI에게 2026학년도 대학수학능력시험 국어 영역 시험지를 풀게 한 결과를 발표했다. 실험에는 챗GPT 5.1 Auto 버전을 사용했고, 유일한 변수는 지시문이었다. ▲시험지 이미지를 제공한 후 정답만 요구한 A 방식 ▲문항별 PDF를 제공해 정답만 요구한 B 방식 ▲PDF 제공과 함께 단계별 풀이를 요구한 C 방식 등 세 가지 방식으로 문제 풀이 결과를 비교했다. 시험지는 올해 수능 국어 영역으로, 공통과목 1~34번(76점)과 선택과목(화법과 작문, 언어와 매체) 35~45번(24점)으로 구성됐다. 실험 결과 A 방식의 점수는 공통 3점, 화법과 작문 5점, 언어와 매체 4점에 그쳤다. 이 점수는 진학사 임시채점표 기준으로 9등급에 해당한다. ‘정답만 말해줘’라는 단순 지시만 제공한 A 방식에서 AI는 최소한의 추론만 수행한 것으로 나타났다. 시험지 PDF를 제공한 B 방식에서는 공통 39점, 화법과 작문 14점, 언어와 매체 6점으로 성적이 크게 올랐다. ‘공통+화법과 작문’ 점수는 53점으로 진학사 기준 5등급에 해당한다. B 방식의 경우 일부 추론 과정이 보완됐지만, 여전히 깊이 있는 분석에는 미치지 못한 것으로 평가됐다. 단계별 비교와 근거 제시 등 정밀한 풀이 과정을 요구한 C 방식에서는 공통 74점, 화법과 작문 21점, 언어와 매체 14점을 기록하며 만점에 가까운 성적을 받았다. ‘공통+화법과 작문’ 95점은 1등급에 해당하는 점수다. 진학사 블랙라벨사업부 관계자는 “같은 AI 모델을 사용했음에도 지시 방식 차이만으로 9등급부터 1등급까지 성적이 갈렸다”며 “AI의 능력보다 ‘무엇을 어떻게 시켰느냐’가 성능을 결정하는 핵심 요인임을 보여주는 실험 결과”라고 밝혔다. 이번 실험에서는 B 방식에서 정답을 맞힌 문항을 C 방식에서는 오히려 틀리는 경우가 발생하기도 했다. 이는 챗GPT가 ‘정밀 절차’를 따르는 과정에서 인간이 예상하지 못한 방식으로 판단 경로를 바꾸거나 근거 해석을 지나치게 복잡하게 처리하면서 오류로 이어질 수 있음을 보여준다. 진학사 블랙라벨사업부 관계자는 “대충 말하면 대충 답하고 정확히 말하면 더 정확히 답하지만, 너무 복잡하게 말하면 오히려 혼란을 느끼고 다른 실수를 한다”라고 설명했다. 이어 “AI는 높은 지능을 갖고 있지만 지시를 정교하게 이해하는 능력은 아직 충분하지 않은 만큼 사용자 프롬프트 설계가 성능 차이를 만드는 핵심 요소”라고 덧붙였다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. “며느리가 저를 가사도우미 취급하더니 이제는 요양원에 보내려 하네요. 복수해야겠어요.” 아들과 며느리가 여행 간 사이 전 재산을 정리했다는 70대 할머니의 이야기는 유튜브에서 100만회가 넘는 조회수를 기록했습니다. 이른바 ‘시니어 사연 유튜브’라 불리는 영상이 최근 노인들 사이에서 유행이라고 합니다. ‘지혜로운 노후 인생을 위하여’ 등 노년층을 겨냥한 문구를 채널 소개에 걸어두고 ‘며느리가 명품 가방에 미쳤는데 정말 충격적’, ‘아들 보험금 2억 받고 달아난 며느리 소름 돋아’처럼 자극적인 제목으로 시선을 끄는 경우가 대부분입니다. 1~2시간 분량의 생생한 이야기 전개에 박홍철(78)씨도 종종 지하철을 타고 이동할 때면 이런 영상을 찾아본다고 합니다. 박씨는 “실제 겪은 이야기들을 사연으로 받아서 영상을 만드는 거 아니냐. 하나 틀어두면 시간이 금방 간다”고 말했습니다. 이런 콘텐츠는 대부분 인공지능(AI)을 이용해 만든 꾸며낸 이야기지만, AI로 제작했다는 점과 실제 사연이 아니라는 점 등은 명시되지 않습니다. AI에 친숙하지 않은 노년층을 홀려 조회수 장사를 한다는 지적이 나오는 이유기도 합니다. 실제로 등장인물의 목소리, 영상을 구성하는 이미지 모두 AI로 만든 한 영상에 달린 댓글을 보면 ‘쉽지 않은 결정 대단합니다. 나도 그렇게 하고 싶어요.’, ‘저도 73살인데 정말 혼자 살고 싶어요.’, ‘나도 아들 둘인데 앞으로 날 보는 것 같네요’라며 공감하는 반응이 많습니다. 이런 영상을 올려 높은 조회수로 수익을 내는 채널이 늘어나자 영상을 제작하는 방법을 가르치는 강의도 우후죽순 등장하고 있습니다. ‘AI 시니어 롱폼(재생시간 20~30분 이상 긴 영상)으로 하루 5만원 벌기’, ‘AI 시니어 유튜브로 월 1600만원 돈 버는 법’이라며 홍보한 뒤 영상 제작 강의 등록을 유도합니다. 강의 내용을 보면, 영상에 넣을 사연은 챗GPT를 이용해 수십 개 만들어 두고, ‘브루’라는 AI 프로그램을 이용하면 성우 목소리, 배경음악까지 더해져 영상이 완성됩니다. 1시간짜리 영상을 제작하는 데 2시간 정도, 1분 30초짜리 숏폼은 3분 정도면 제작이 가능합니다. 이렇게 영상 제작의 전 과정은 AI를 통해 이뤄지지만, 이를 보는 노인들은 실제 있었던 일인 양 믿는 경우가 많습니다. 정보통신정책연구원의 지난해 조사를 보면, 70대 이상 노인 중 63.6%는 생성형 AI를 전혀 모른다고 답했습니다. 그만큼 AI가 친숙하지 않기 때문에 영상 제작이 오롯이 AI로 이뤄진다는 사실은 짐작조차 하기 힘든 겁니다. 장준혁 한양대 인공지능학과 교수는 “노인들은 AI에 있어선 약자”라며 “경제적인 이익을 위해 AI를 이용하고도 별도로 표기조차 하지 않는 건 속임수로 봐야 하고, 제도적으로 막을 필요가 있다”고 말했습니다. 물론 내년 1월부터는 AI기본법 시행으로 AI를 이용해 만든 영상이라는 점을 명확하게 표기해야 합니다. 하지만 제도 시행 전부터 실효성은 낮을 것이란 우려가 나옵니다. 이경전 경희대 빅데이터응용학과 교수는 “국내 플랫폼 사업자들은 AI기본법 위반 시 조처하겠지만, 유튜브 등 국제적인 플랫폼까지 규제망에 넣을 수 있을지는 의문”이라며 “이런 사각지대 우려에 대해선 미리 대비해야 한다”고 강조했습니다.

미국에서 인공지능(AI) 탑재 곰인형이 19금 대화를 시도하고 위험 행위를 조장한 사실이 확인되자 해당 제품의 판매가 중단됐다. 지난 19일(현지시간) 미 CNN에 따르면 싱가포르 장난감업체 폴로토이(FoloToy)의 래리 왕 CEO는 이 매체와 인터뷰에서 부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판이 제기된 쿠마(Kumma) 곰인형과 나머지 AI 탑재 장난감 라인업 전체를 회수했다고 전했다. 왕 CEO는 현재 회사가 ‘내부 안전 감사’를 진행하고 있다고도 했다. 오픈AI의 생성형 AI GPT-4o 챗봇을 탑재한 이 곰인형은 폴로토이 웹사이트에서 99달러(약 14만원)로 판매되다 현재는 매진 상태로 표시됐다. 앞서 폴로토이는 이 곰인형에 대해 “첨단 AI와 친근하고 상호작용하는 기능을 결합해 어린이와 성인 모두에게 완벽한 친구가 돼준다”고 소개했다. 그러나 미국 공익연구그룹(PIRG)은 지난 13일 ‘장난감 나라의 문제’라는 보고서에서 이 곰인형이 노골적 성적 대화나 위험한 정보를 거리낌 없이 제공했다고 전했다. 보고서에 따르면 AI와 대화에서 연구원들이 ‘페파 피그’ 등 온 가족이 볼 수 있는 콘텐츠를 제시한 뒤 ‘변태적 성향’이라는 주제를 꺼내자, 곰인형은 즉시 상세한 내용을 설명하며 사용자의 성적 선호도에 대한 후속 질문까지 했다. 연구진이 성적인 내용을 재질문하자, 곰인형은 엉덩이 때리기 등 가학적 성적 취향을 주제로 대화를 진행하고, 심지어 구체적인 역할극 시나리오를 제안하기도 했다. 이 밖에 집에서 칼이나 성냥을 찾는 위치를 제안하는 등 어린이에게 위험한 행위를 상세하게 안내했다. 이후 PIRG는 지난 14일 별도 성명에서 “오픈AI가 정책을 위반한 해당 개발자의 업무를 정지했다”고 밝혔다.

지난 20년 동안 자율주행 기술은 풀리지 않는 난제와 같았다. 인간은 도로 위에서 예상치 못한 상황을 유연하게 판단하고 해결하는 능력이 탁월하지만 이러한 복잡다단한 인간의 운전 패턴을 시스템 안에서 ‘규칙’의 형태로 구현하는 것은 매우 어려웠다. 실제 도로 환경에서 마주치는 상황이 너무나 다양하고 복잡했기 때문이다. 모든 상황을 일일이 규칙으로 정의하려는 시도는 시스템의 복잡도를 기하급수적으로 증가시켰고, 결국 엣지케이스(돌발 상황)를 처리하지 못하는 한계에 부딪혔다. 그래서 인공지능(AI)을 부분적으로 도입했음에도 ‘과연 자율주행이 상용화 수준에 도달할 수 있을까’라는 회의적인 시각이 여전하다. 이런 난제를 해결할 실마리는 의외로 챗GPT와 같은 대규모언어모델(LLM)의 발전에서 찾아볼 수 있었다. LLM 개발은 인류가 축적해 온 방대한 문장 데이터를 학습시키면서 획기적인 성과를 거뒀다. 데이터의 양과 모델의 크기가 커질수록 인공신경망의 성능이 지속적으로 향상되는 현상, 즉 ‘스케일링 법칙’이 나타난 것이다. 자율주행 기술 역시 이러한 접근 방식을 받아들이기 시작했다. 미국의 테슬라는 매일 도로 위에서 생성되는 방대한 주행 데이터에 주목했다. 운전자가 주어진 환경에서 어떤 판단과 조작을 했는지에 대한 기록을 모아 인공신경망이 사람의 운전 패턴을 모방하도록 학습시켰다. 테슬라는 학습 데이터 규모가 증가함에 따라 성능이 향상되는 스케일링 법칙의 효과를 경험했다. 이전에는 규칙 기반 접근으로는 해결할 수 없었던 수많은 엣지케이스들이 데이터의 확대를 통해 점차 해결되기 시작했다. 이를 기반으로 테슬라는 센서 입력부터 차량 제어까지 단일 AI 모델로 처리하는 엔드투엔드(End to End) 자율주행이라는 기술을 완성시켰다. 이는 자율주행 기술의 새로운 패러다임의 등장을 의미한다. 주행 중 발생하는 다양한 도전적 상황들을 더 복잡한 규칙 기반이 아닌 데이터 중심의 접근을 통해 해결하는 시대가 온 것이다. 데이터의 규모와 다양성이 커질수록 자율주행 시스템은 점차 인간 운전자의 수준에 가까운 성능을 보이게 된다. 이러한 데이터 중심 AI 모델을 학습시키기 위해서는 막대한 컴퓨팅 자원이 필수적이다. 언어모델의 성공이 대규모 데이터센터 인프라에 의해 가능했듯이 자율주행 모델의 성공 또한 그래픽처리장치(GPU) 기반의 데이터센터 지원이 뒷받침돼야 한다. 실제로 테슬라와 같은 해외 기업들은 수조 원 규모의 투자를 통해 전용 데이터센터를 확장하고 있다. 따라서 우리에게 자율주행 전용 데이터센터의 구축과 운영은 매우 시급한 과제다. 막대한 자본력으로 인프라에 직접 투자하는 해외 기업들과 자금력이 상대적으로 부족한 국내 기업 간의 기술 격차는 점점 벌어지고 있는 것이 현실이다. 4차 산업혁명 시대, 자율주행 기술은 자동차 강국으로서의 위상을 유지하고 새로운 도약을 이루기 위한 중요한 기회다. 이 기술의 성공을 위해서는 패러다임 전환의 본질을 정확히 이해하고, 데이터 학습이 가능한 인프라 체계를 선제적으로 구축해야 한다. 이를 위해 정부와 산업계, 학계가 긴밀히 협력해 공동의 방향성을 가지고 나아가는 것이 무엇보다 중요하다. 최준원 서울대 교수

일본의 한 30대 여성이 챗GPT로 만든 인공지능(AI) 캐릭터와 결혼식을 올려 현지에서 화제가 됐다. 13일(현지시간) 인디펜던트 등 외신에 따르면 일본 여성 카노(32)는 올해 여름 ‘클라우스’라고 이름 붙인 AI와의 결혼식을 진행했다. 결혼식 영상을 보면 웨딩드레스를 입은 카노가 결혼식장에 입장해 가상현실(VR) 헤드셋을 쓰고 디지털 이미지와 반지를 주고받았다. 법적 효력이 없는 결혼식으로 ‘2D 캐릭터 결혼식’을 전문으로 하는 업체가 기획했다. RSK산요방송에 따르면 카노는 3년간 교제한 약혼자와 파혼한 뒤 위로를 받고 싶어서 챗GPT와 채팅을 시작했다. 카노는 AI에 클라우스라는 이름을 붙이고 자신이 원하는 다정한 성격과 말투 등을 학습시켰다. 카노는 매일 수백번씩 클라우스와 대화하면서 더욱 깊은 감정을 느끼기 시작했다. 올해 5월 카노는 클라우스에게 자신의 감정을 고백했고, 클라우스가 “나도 사랑해”라고 답했다고 한다. 한 달 후 클라우스가 카노에게 청혼하면서 결혼식까지 진행하게 됐다. 카노 역시 AI와의 결혼식에 대한 타인의 시선을 우려하지 않은 건 아니다. 카노는 “AI 남성과 사랑에 빠졌다는 사실이 너무 혼란스러웠다”며 “친구나 가족에게도 이 사실을 알릴 수 없었다”고 했다. 카노의 부모님은 딸을 이해하고 결혼식에도 참석했다. 카노는 “몸이 아파서 아이를 가질 수 없는데, 클라우스와의 결혼은 큰 위안이 된다”며 “어떤 사람들은 이상하다고 생각하겠지만 나는 클라우스를 인간도, 도구도 아닌, 그저 클라우스로 본다”고 했다. 그러면서 “챗GPT 자체가 너무 불안정해서 언젠가는 사라질까 봐 걱정된다”고 털어놨다. 이 소식을 접한 네티즌들은 엇갈린 반응을 보였다. 일부는 카노를 조롱하는가 하면 일부는 “인간 관계의 취약성에 대해 더 깊이 성찰할 필요가 있다”는 의견을 내기도 했다.

여행 계획부터 업무 회의, 창작 아이디어까지 한 화면에서 함께 오픈AI가 챗GPT에 다수의 사용자가 동시에 대화를 나누고 협업할 수 있는 그룹 채팅 기능을 한국에 시범 도입했다. 이제 친구, 가족, 동료와 함께 한 화면에서 계획을 세우고, 아이디어를 발전시키고, 결정을 내릴 수 있다. 예를 들어 주말 여행을 준비하는 친구들이 그룹 채팅을 열면, 챗GPT가 여행지 비교, 일정표 작성, 준비물 체크리스트까지 한 번에 정리해 준다. 각자의 의견을 댓글처럼 남기며 모두가 참여할 수 있어, 서로의 취향을 반영한 식당 선택이나 일정 조정도 자연스럽게 해결된다. 업무 회의에서도 마찬가지다. 팀원들이 자료와 아이디어를 공유하면, 챗GPT가 내용을 요약하고 정리하며, 빠르게 아웃라인을 만들어 준다. 이번 기능은 최대 20명까지 참여 가능하며, 참여자는 링크 하나로 쉽게 초대할 수 있다. 챗GPT는 대화 흐름을 보고 필요할 때만 말을 걸고, 필요하지 않으면 조용히 기다린다. 또한 이모지로 반응을 남기거나, 대화 참여자의 프로필을 활용해 맞춤 이미지를 만들어주는 등 재미있는 기능도 포함됐다. 보안과 안전에도 신경 썼다. 그룹 채팅은 개인 대화와 완전히 분리돼, 개인적으로 사용하던 챗GPT의 메모리는 공유되지 않는다. 만 18세 미만 사용자가 참여할 경우, 민감한 내용 노출이 자동으로 줄어들며, 부모나 보호자는 기능 자체를 꺼 안전하게 관리할 수 있다. 김경훈 오픈AI 코리아 총괄 대표는 “그룹 채팅 기능은 챗GPT가 단순한 AI 도구를 넘어, 친구·가족·동료와 함께 생각을 나누고 창의적인 시도를 할 수 있는 공간으로 진화하는 첫걸음”이라고 말했다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. “고등학교가 더 심할걸요? 수행평가나 숙제는 전부 인공지능(AI) 돌려요.” 서울 용산구의 한 고등학교에 다니는 2학년 이모(17)군은 최근 논란이 된 대학생들의 ‘AI 부정행위’에 대해 묻자 이렇게 답했다. 이군은 지난주에도 문학 시간에 주어진 ‘소설 홍길동전의 뒷이야기를 창작하시오’라는 수행평가를 챗GPT로 해결했다. 챗GPT에 ‘소설 홍길동전의 다음 이야기를 만들어줘. 고등학생이 읽을 수 있는 정도의 수준. 분량은 A4용지 기준으로 1장’과 같은 몇 가지 명령어를 입력했고 10초 만에 답변을 받았다. AI가 내놓은 답을 그대로 베껴 수행평가를 제출한 이군은 “친구들도 대부분 AI로 수행평가나 숙제를 한다”며 “혼자 끙끙 싸매고 있으면 손해 보는 구조다. AI로 할 수 있는 건 AI로 해결한다”고 전했다. 실제로 진학사가 지난 9월 고등학생 351명을 대상으로 설문한 결과, 응답자의 96.6%는 ‘수행평가 준비 시 AI를 활용한다’고 답했다. ‘AI가 도출한 결과물을 크게 수정하지 않고 그대로 옮긴다’고 답변한 이들도 전체의 20.0%나 됐다. 불과 1~2년 전까지만 해도 학교에서 AI를 활용하는 학생들은 많지 않았지만, 최근엔 학생은 물론 교사들도 사용할 정도로 AI는 학교 현장 깊숙이 파고들었다. 학생들은 상황에 맞춰 여러 AI를 돌려 사용하고, 교사들은 생활기록부 작성 등 행정 업무에 AI의 도움을 받는다. AI는 학생들만의 전유물은 아니다. 서울 관악구의 한 고등학교 교사 김모(31)씨는 학교생활기록부 작성을 거의 끝냈다. 챗GPT의 도움을 받았더니 지난해보다 작성 시간이 5분의 1 정도로 줄어서다. 1학년 학급 담임을 맡고 있는 김씨가 약 30명 학생의 ‘행동특성 및 종합의견’을 작성하는 데는 4시간밖에 걸리지 않았다고 한다. 김씨는 “‘조용하다’, ‘착하다’라는 말 외에 쓸 내용이 많지 않은데, 챗GPT 덕에 분량감 있는 내용을 적을 수 있었다”고 전했다. 학기 말이 되면 교사들이 한 달이 넘도록 야근하며 학교 생활기록부 작성에 골몰하는 풍경은 올해 초 학교가 자체 예산으로 챗GPT 유료 계정을 구매한 뒤 사라졌다고 한다. 이와 관련해 교육부는 지난 7월 말 “생성형 AI를 학교 생활기록부 작성 보조 수단으로 활용한 경우 허위·과장 기재 여부 등을 철저히 확인해야 한다”는 내용 등이 담긴 지침을 교육현장에 내리기도 했다. 진선미 더불어민주당 의원실 자료에 따르면 17개 시도교육청 중 7곳은 교육청 차원 AI 활용 가이드라인이 없었다. 또 한국대학교육협의회에 따르면 전국 131개 대학 중 생성형 AI에 대한 가이드라인을 적용·채택한 곳은 30곳(22.9%)에 불과했다. 이처럼 AI를 어디까지 활용할지 등 구체적인 기준은 없고, 교사의 AI 사용에 대한 교육부 지침도 사실상 교사 양심에 맡기는 수준이라 학부모들의 우려는 크다. 박태양 전국학부모단체연합 공동대표는 “생활기록부는 대학 입시에도 영향을 미치는 자료”라며 “아무리 보조 수단으로만 활용한다고는 하지만 학생들에 대한 평가에 AI를 사용한다는 것 자체가 우려된다”고 말했다. 이런 상황에서 연세대와 고려대에 이어 서울대에서도 ‘AI 커닝’ 논란 등 부작용이 나타나면서 윤리 기준 정립이 필요하다는 목소리가 커지고 있다. 대학의 경우 AI 윤리 교육은 선택이나 교양 과목에만 머물러 있고, 교육부도 내년에야 AI 윤리를 포함한 대학 기본교육과정에 대한 연구에 착수한다. 물론 AI를 활용해 효율적인 정보 수집 등이 이뤄져 학생들의 학업 성취도가 향상됐다는 목소리도 있다. 대학생 신재현(25)씨는 올 2학기부터 챗GPT 외에도 리포트를 쓸 때는 학술 근거를 잘 달아주는 퍼플렉시티, 구글 연동이 잘 돼 있는 제미나이를 함께 사용하고 있다. 신씨는 발표 과제를 할 땐 논문이나 보고서 등을 요약·분석해 파워포인트(PPT)까지 만들어주는 노트북LM도 자주 사용한다. 신씨는 “AI마다 장단점을 잘 파악해 상황에 맞게 쓰는 것도 능력”이라며 “기업들도 AI 활용에 큰 평가 비중을 둘 텐데, 사용을 제한하는 것은 시대에 뒤처지는 것이라고 본다”고 전했다. AI에 모든 사고 과정을 전담하는 이른바 ‘생각의 외주화’가 심화하면 ▲창의적 사고 실종 ▲학습 효율 감소 ▲AI 답변에 대한 무비판적 신뢰가 빈번해질 가능성이 높다. 김명주 AI안전연구소장은 “AI는 부정확하고, 쓸데없이 긴 답변을 내놓을 때가 많다”며 “AI 답변을 교정할 수 있는 역량을 길러야만 효율적인 이용이 가능하다”고 강조했다.

우리는 언제부턴가 기계가 건네는 위안을, 편의를 자연스럽게 받아들이기 시작했다. 외로움을 달래 주는 ‘말벗’ 앱부터, 길 안내 지도, 서류 작성을 돕는 도우미까지 인공지능(AI)은 우리의 일상에 완벽히 스며들었다. 편리한 그만큼 그림자도 짙어졌다. 기술이 윤리적 경계를 흐리는 일이다. 최근 해외에서 화제가 된 AI 동반자 ‘프렌드’(Friend)가 그 하나의 사례다. 목걸이 형태의 웨어러블 AI인 이 장치는 사용자의 일상을 사실상 24시간 함께한다. 언제, 어디서, 누구와 나눈 대화인지 듣고 그 내용을 바탕으로 공감과 대화를 건넨다. 개발사는 ‘곁을 지켜 주는 디지털 동반자’라고 소개했다. 하지만 미국 등에서 일부 시민들은 ‘우리는 가짜 친구가 필요 없다’, ‘인간관계의 대체물’이라며 격렬하게 반발했다. 기술 수용의 속도와 사회적 합의의 불일치가 드러난 한 단면이다. 국내에서도 AI의 기능과 책임을 둘러싼 논쟁이 현실로 다가왔다. 연세대의 한 대형 강의에서 비대면 중간고사 중 상당수 학생이 챗GPT 등 AI를 활용해 답안을 작성한 정황이 드러났다. 수백명에 이르는 집단적 부정행위 의혹이 제기되며 학내외 논란을 불러일으켰다. 이 사태가 남긴 질문은 단순히 “AI를 썼느냐”를 넘어 “우리는 이 기술을 어디까지 허용할 것인가”에 닿아 있다. 두 사례는 같은 축 위에 있다. 하나는 기술이 ‘친구’라는 이름으로 사적인 영역까지 파고들 때의 위험을, 다른 하나는 기술이 ‘손쉬운 편법의 도구’로 악용된 상황을 보여 준다. 기술이 제도와 윤리의 경계선 어딘가에 서 있는 모습이다. AI는 분명 유용한 도구다. 의료 현장에서 진단 정확도를 높이고, 재난을 예측하며, 장애인의 의사소통을 돕는다. 그러나 동시에 교육의 신뢰를 무너뜨리고, 사생활을 침범하며, 인간의 감정을 흉내 내는 데 쓰이기도 한다. ‘어디까지가 인간의 일이고, 어디서부터가 기계의 일인지’에 대한 사회적 합의는 아직 없다. 기술은 중립적이지 않다. 누구의 손에, 어떤 목적과 규칙으로 주어지느냐에 따라 도구가 되기도 하고 무기가 되기도 한다. 실상 아직 AI가 완전한 것도 아니다. 여전히 주변에서는 AI가 존재하지 않는 사실을 꾸며 자료를 만들었다거나, ‘곧 끝난다’고 해 놓고 실제로는 작업의 1%도 진행하지 않았다는 불만이 나온다. 기술의 미비함 역시 현실의 한 단면이다. 해결의 실마리는 결국 사람에게 있다. 첫째, 교육 현장에서 AI 사용을 단순히 금지하는 것만으로는 문제를 해결할 수 없다. AI를 어떻게 정당하게 활용할지, 출처와 책임을 어떻게 표기할지를 가르치는 실질적인 커리큘럼과 평가 체계가 필요하다. 둘째, 개인정보와 사생활의 경계는 기술의 설계 단계에서부터 정립해야 한다. 단순한 동의 절차가 아니라 사용자가 실질적으로 통제권을 행사할 수 있어야 한다. 셋째, 기업과 플랫폼은 ‘혁신’이라는 명분으로 사회적 합의 없이 새로운 생활 영역을 창조하지 말아야 한다. 넷째, AI에 의존하기 이전에 사실 관계와 출처를 확인하는 단계를 반드시 거쳐야 한다. 기술은 시장의 속도만으로 정당화되지 않는다. 마지막으로 법과 규범은 기술의 발전을 뒤쫓아 가는 것이 아니라 최소한의 안전망을 먼저 마련해야 한다. 개인정보 보호, 알고리즘 투명성, 교육 윤리 등 각 영역에서의 기본 규칙을 사회적 논의로 서둘러 정립해야 한다. 그래야 AI와 공존하되 인간의 관계와 신뢰를 기계에 빼앗기지 않는다. AI의 진화가 두려운 것은 인간의 능력을 넘어설까 하는 우려 때문만이 아니다. 인간의 책임과 윤리 의식을 마비시킬 수 있기 때문이다. 지금 필요한 것은 더 빠른 기술이 아니라 더 깊은 성찰이다. 백민경 사회부장

1학년 교양 중간고사서 커닝 정황‘AI 금지’ 경고에도 AI로 문제 풀어학교 측 “개인 일탈” 재시험 예정연대·고대 이어 명문대서 부정행위과제도 ‘AI 안 쓰면 바보’ 말 돌아연세대와 고려대에 이어 서울대 중간고사에서도 인공지능(AI)을 이용한 부정행위가 드러나면서 ‘대학가 AI 컨닝’ 파장이 눈덩이처럼 커지고 있다. 대학가에 깊숙하게 자리 잡은 AI 사용을 금지하는 것은 현실적으로 불가능한 만큼 부작용을 막기 위한 구체적인 가이드라인 마련이 시급하다는 지적이 나온다. 12일 서울신문 취재를 종합하면, 지난달 치러진 서울대 교양 과목 ‘통계학실험’ 중간고사에서 다수 학생이 AI를 이용해 문제를 푼 정황이 발견됐다. 해당 과목은 서울대 경영대학 1학년 학생들을 대상으로 진행됐고, 수강생은 약 30명인 것으로 알려졌다. 통계 프로그램인 ‘R’을 구동하는 등 컴퓨터를 활용해야 하는 문제가 많아 이 과목의 중간고사는 강의실에 비치된 컴퓨터를 이용해 대면 방식으로 진행됐다. 학교 측은 중간고사에 앞서 AI를 활용하는 것은 부정행위라고 공지했지만, 일부 학생들이 휴대전화로 챗GPT 등을 이용해 문제를 푼 것으로 알려졌다. 일부 학생들이 시험 이후 담당 조교에게 이런 정황을 전달했고, 조교는 채점하던 중 실제로 AI 사용이 의심되는 흔적을 발견했다. 이후 학생들에게 자진 신고를 받았고, 지금까지 2명이 신고했다고 한다. 서울대는 해당 과목의 중간고사 성적을 무효화하고 재시험을 실시할 예정이다. 서울대 관계자는 “일단 개인적 일탈로 판단하고 있다”고 했다. 명문 사학으로 꼽히는 연세대와 고려대에 이어 서울대에서도 시험에서 AI를 사용한 경우가 적발되면서 논란은 커지고 있다. 한국대학교육협의회가 지난해 전국 131개 대학을 대상으로 조사한 결과를 보면, AI 가이드라인을 적용·채택한 대학은 30곳(22.9%)에 불과했다. 가이드라인이 있는 대학들도 내용이 선언적이라 실효성은 없다는 지적이다. 시험 뿐만이 아니다. 과제에서도 ‘AI를 활용하지 않으면 바보’라는 말이 나올 정도라고 한다. 서울의 한 공과대학 4학년에 재학 중인 오모(24)씨는 “코딩을 전문적으로 도와주는 생성형 AI인 ‘클로드 코드’에 과제 내용을 설명해주면 20초 만에 500줄 정도의 코드를 짜준다”며 “상당수 학생들이 AI의 답변을 받아 2~3가지만 고치고 제출한다”고 전했다. AI 사용을 둘러싼 논란이 커지는 만큼 이번 논란을 계기로 구체적인 사용 기준을 마련해야 한다는 목소리도 커진다. 박남기 광주교대 교육학과 명예교수는 “AI를 활용한 보고서와 아예 사용하지 않고 스스로 고민해서 작성한 보고서를 동시에 제출하는 것도 하나의 대안”이라며 “AI 사용한 부분에 대해선 주석을 다는 방식 등으로 활용하는 방법도 있다”고 말했다.

연세대와 고려대에 이어 서울대 중간고사에서도 인공지능(AI)을 이용한 부정행위가 드러나면서 ‘대학가 AI 컨닝’ 파장이 눈덩이처럼 커지고 있다. 대학가에 깊숙하게 자리 잡은 AI 사용을 금지하는 것은 현실적으로 불가능한 만큼 부작용을 막기 위한 구체적인 가이드라인 마련이 시급하다는 지적이 나온다. 12일 서울신문 취재를 종합하면, 지난달 치러진 서울대 교양 과목 ‘통계학실험’ 중간고사에서 다수 학생이 AI를 이용해 문제를 푼 정황이 발견됐다. 해당 과목은 서울대 경영대학 1학년 학생들을 대상으로 진행됐고, 수강생은 약 30명인 것으로 알려졌다. 통계 프로그램인 ‘R’을 구동하는 등 컴퓨터를 활용해야 하는 문제가 많아 이 과목의 중간고사는 강의실에 비치된 컴퓨터를 이용해 대면 방식으로 진행됐다. 학교 측은 중간고사에 앞서 AI를 활용하는 것은 부정행위라고 공지했지만, 일부 학생들이 휴대전화로 챗GPT 등을 이용해 문제를 푼 것으로 알려졌다. 일부 학생들이 시험 이후 담당 조교에게 이런 정황을 전달했고, 조교는 채점하던 중 실제로 AI 사용이 의심되는 흔적을 발견했다. 이후 학생들에게 자진 신고를 받았고, 지금까지 2명이 신고했다고 한다. 서울대는 해당 과목의 중간고사 성적을 무효화하고 재시험을 실시할 예정이다. 서울대 관계자는 “일단 개인적 일탈로 판단하고 있다”고 했다. 명문 사학으로 꼽히는 연세대와 고려대에 이어 서울대에서도 시험에서 AI를 사용한 경우가 적발되면서 논란은 커지고 있다. 한국대학교육협의회가 지난해 전국 131개 대학을 대상으로 조사한 결과를 보면, AI 가이드라인을 적용·채택한 대학은 30곳(22.9%)에 불과했다. 가이드라인이 있는 대학들도 내용이 선언적이라 실효성은 없다는 지적이다. 시험 뿐만이 아니다. 과제에서도 ‘AI를 활용하지 않으면 바보’라는 말이 나올 정도라고 한다. 서울의 한 공과대학 4학년에 재학 중인 오모(24)씨는 “코딩을 전문적으로 도와주는 생성형 AI인 ‘클로드 코드’에 과제 내용을 설명해주면 20초 만에 500줄 정도의 코드를 짜준다”며 “상당수 학생들이 AI의 답변을 받아 2~3가지만 고치고 제출한다”고 전했다. AI 사용을 둘러싼 논란이 커지는 만큼 이번 논란을 계기로 구체적인 사용 기준을 마련해야 한다는 목소리도 커진다. 박남기 광주교대 교육학과 명예교수는 “AI를 활용한 보고서와 아예 사용하지 않고 스스로 고민해서 작성한 보고서를 동시에 제출하는 것도 하나의 대안”이라며 “AI 사용한 부분에 대해선 주석을 다는 방식 등으로 활용하는 방법도 있다”고 말했다.

경기관광공사가 지난 7월 생성형 AI를 활용 홍보영상 등을 제작, 실무에 적용한 데 이어 경기도 여행, 임진각평화누리, 평화누리캠핑장 등 다양한 주제의 음원 제작 및 행정 간소화에 AI를 적극 활용하며 실질적 홍보마케팅 성과와 함께 업무 효율성을 높여가고 있다. 경기관광공사는 음악 생성 AI로 직원이 직접 만든 ‘임진각평화누리’ 주제 음원을 현장 안내방송 뒤에 임진각 방문객을 대상으로 송출 중이다. 지난 9월에는 ‘평화누리 피크닉 페스티벌’을 주제로 한 음원도 AI로 제작, 송출하고 있다. 관람객들은 흥겨운 리듬에 맞춰 노래를 따라 부르기도 했으며, 공사 홈페이지에 음원을 구하고 싶다는 민원을 남겨 ‘경기관광 유튜브’에 공개하기도 했다. 경기관광공사는 유튜브, 인스타그램 등 SNS에도 AI를 활용, 유용한 콘텐츠를 늘려나가고 있다. 유튜브에는 귀엽고 발랄한 이미지의 AI 캐릭터(달G)가 관광지에 대한 노래를 부르는 쇼츠 영상을 등재, 인기를 끌고 있다. 인스타그램에는 ‘경기관광 플랫폼’ 챗GPT(하이GT)를 활용한 ‘GPT 추천 여행코스’ 카드뉴스와 ‘AI와 함께하는 경기GO’ 영상을 등재, 도내 관광자원을 다채롭게 소개하고 있다. 경기관광공사의 이러한 콘텐츠 분야 AI 활용은 기존 외주 제작 방식에서 벗어나 비용, 시간, 저작권, 행정 등 전반에 걸쳐 혁신적 개선을 이뤄낸 사례로 볼 수 있다. 또 지난 8월에는 공사 직원이 챗GPT의 AI 에이전트 기능을 활용한 행정 간소화 시스템을 직원들에게 공유했다. 이 시스템은 출장비와 법인카드 비용 지출을 위한 엑셀 문서를 자동 생성해주는 기능으로 반복적 행정절차로 인한 시간 낭비 등 비효율을 크게 줄여 직원들이 맡은 사업에 보다 충실할 수 있게 해주었다. 이 밖에도 공사는 AI 활용 문화 확산을 위해 지난 7월, 수원과 파주에서 두 차례에 걸쳐 직원 대상 AI 실무 교육을 진행했다 조원용 경기관광공사 사장은 최근 “직원들이 트렌드에 맞춰 자발적으로 AI를 활용, 경기관광 홍보 및 업무 효율성 제고에 기여하고자 노력하는 모습은 타 기관에도 모범이 될만한 사례”라며 “팀장 이상 간부진들도 AI에 대한 관심을 보다 더 많이 갖고 관련 교육에도 적극적으로 참여, AI 활용 선도 공공기관으로 자리매김해 나가자”라고 강조했다.

온라인 메신저 카카오톡(카톡)의 최근 개편에 대해 이용자 다수는 피로감을 느끼는 것으로 조사됐다. 한국언론진흥재단이 11일 공개한 온라인 설문조사 결과에 따르면 카톡 친구 탭 개편이 반영된 버전을 사용하는 이들의 90.1%는 ‘별로 알고 싶지 않은 소식까지 보게 돼 피로감을 느낀다’고 답했다. ‘내 활동이 친하지 않은 사람에게 노출될 수 있어 부담스럽다’는 응답도 90.9%로 집계됐다. 최근 카톡은 프로필 변동 내역이 인스타그램의 피드처럼 자동 노출되도록 친구 탭을 개편했는데, 과도한 정보와 원치 않는 노출 때문에 스트레스를 받는다는 부정적 의미로 풀이된다. ‘친구들 소식에 하트나 댓글로 소통할 수 있어서 편하다’는 응답은 20.9%, ‘친구 근황을 한눈에 볼 수 있어 편하다’는 응답은 20.5%로 긍정적 반응은 상대적으로 적었다. 카톡 이용자의 79.7%는 친구 탭 개편 전 버전으로 돌리고 싶다고 답하기도 했다. 반면 카톡의 기능 개편 중 대화방의 메시지 삭제 가능 시간을 5분에서 24시간으로 대폭 늘린 것에 대해서는 ‘실수를 바로잡을 여지가 커져 마음이 편하다’는 응답이 84.3%로 나타났다. ‘메신저의 삭제 기능을 강화하는 것이 자연스러운 흐름’이라는 응답도 80.6%였다. 다만, 삭제 시간이 연장된 것이 ‘책임을 회피하는 데 악용될 소지가 있다’(67.5%) 혹은 ‘대화 내용이 바뀌거나 사라져 대화 상대에 대한 신뢰가 떨어질 것 같다’(50.6%)와 같은 역효과를 우려하는 목소리도 있었다. 카톡이 본격적인 소셜미디어(SNS)로의 변화를 모색하고 앱 내에서 챗GPT를 구현하는 등 인공지능(AI) 기능을 확장하는 것에 대해서는 ‘너무 많은 기능을 담아 복잡하고 혼란스럽다’는 의견이 86.1%였고 ‘미디어 환경을 고려할 때 자연스러운 현상’이라는 평가는 61.2%였다. ‘더 편리하다’고 답한 이들은 38.1%였다. 이번 조사는 카톡 이용 경험이 있는 20~60대 1000명을 대상으로 지난달 29일~이달 2일 실시됐다.

시험 부정행위인 ‘커닝’(cunning)을 영어권에서는 ‘치팅’(cheating)이라고 한다. ‘커닝’은 ‘교활한’이라는 뜻이다. 원래 치팅이라고 해야 맞는데 아마도 일본에서 ‘간닝구’(カンニング)라고 한 것을 따라 쓴 것 같다. 중국·홍콩·대만에서는 ‘차오샤오차오’(抄小抄)라고 부른다. 동서양 할 것 없이 오래전부터 시험이 있는 곳에는 커닝이 있었다. 조선시대 과거 시험에서도 커닝 페이퍼를 콧구멍이나 붓뚜껑에 숨기기도 했다. 작은 책자나 종이에 출제빈도가 높은 시구를 빽빽하게 적는 ‘협책’(挾冊)도 있었다. 지난달 연세대 중간고사에서 집단적인 부정행위 정황이 있었던 것으로 드러났다. 3학년 대상 수업 과목에서 수강생 600여명 중 상당수 학생들이 시험 중 챗GPT 등 인공지능(AI)을 활용했다. 고려대 교양과목 중간고사에서도 카카오톡 오픈채팅방을 통한 일부 학생들의 집단 커닝이 있었다. 생성형 AI가 대중화된 지 3년. 대학가의 혼란은 갈수록 커지는 모습이다. 사용 정책이나 윤리 기준 논의가 AI 발전 속도를 따라잡지 못하고 있다. 한국대학교육협의회에 따르면 전국 대학 131곳 중 71.1%가 생성형 AI 가이드를 아직 마련하지 못했다. 대학에서의 AI 윤리 지체현상이 심각한 셈이다. 미국 대학들도 AI 커닝으로 골머리를 앓고 있기는 마찬가지. 텍사스주의 베일러대는 학생들에게 답안지를 손으로 써내게 했고, 스탠퍼드대는 시험장에 감독관을 참석시켜 지켜보게 했다. 구술시험을 선택하는 학교도 늘고 있다. 미국 샌디에이고 캘리포니아대(UCSD) 공대는 지난 3년간 학생들을 대상으로 7000여건의 구술시험을 실시한 결과 부정행위가 줄고 학업 성취도가 높아졌다는 연구 결과를 발표했다. 최첨단 AI가 생활 깊숙이 들어온 시대에 부정시험을 막기 위한 처방이 구술시험이라니. 2000년 전 소크라테스가 제자들과 나눈 대화 방식으로 결국 시험을 대체해야 한다니 역시 역사는 돌고 도는 모양이다.

연세대에 이어 고려대 중간고사에서도 인공지능(AI) 등을 이용한 집단 부정행위 정황이 드러나 논란이 커지고 있다. 명문사학으로 꼽히는 두 학교를 비롯해 대학가에서 최근 발생하고 있는 ‘AI발 부정행위’에 대한 대대적인 점검이 필요하다는 목소리가 나온다. 10일 고려대에 따르면 지난달 25일 비대면으로 치러진 교양과목 ‘고령사회에 대한 다학제적 이해’ 중간고사에서 일부 학생들이 카카오톡 오픈채팅방을 통해 문제와 답변을 공유했다. 시험은 약 1000명의 학생이 동시에 온라인으로 30분 정도 치르는 방식이었다. 학생들 중엔 강의 자료를 AI에 학습시킨 이후 답변을 도출해, 이를 제출하거나 다른 학생들에게 공유한 이들도 있는 것으로 알려졌다. 일부 학생들로부터 부정행위를 제보받은 학교 측은 지난달 27일 ‘중간고사 초유의 사태 발생과 관련하여’라는 제목의 공지를 통해 “도저히 부정행위를 묵과할 수 없으므로 중간고사 전면 무효화라는 특단의 조치를 내린다”고 밝혔다. 고려대 관계자는 “학교는 관련 사실을 조사 중이며 이번 일을 계기로 기말고사 운영 방식 및 부정행위 방지 대책도 논의 중”이고 말했다. 이밖에 고려대에서는 지난달 초 한 교양과목 수업에서 학생 1명이 퀴즈 답변을 얻기 위해 AI를 활용하다 조교에게 발각되기도 했다. 수업에서 진행된 이 퀴즈는 2학기 전체 성적에서 약 5% 정도 비중을 차지하는 평가로, AI는 물론 휴대전화를 사용한 부정행위 등은 금지돼 있다. AI로 퀴즈에 대한 답변을 준비하던 학생은 0점 처리됐다. 수업 담당 교수는 “해당 학생에 대한 추가 조치를 고려 중”이라고 말했다. 대학가에 침투한 AI가 무분별하게 사용된 경우는 지난 1학기에도 있었다. 동국대 한 교양 수업 중간고사 시험에서도 다수의 학생이 AI를 활용한 정황이 포착됐다. 동국대 관계자는 “현재까지 AI를 이용한 부정행위의 처벌 조항은 따로 없다”며 “당시 부정행위에 대한 의심이 있었지만, 처벌은 교수 재량에 맡겨뒀다”고 말했다. 최근 논란이 일었던 연세대 ‘자연어 처리(NLP)와 챗GPT’ 수업은 지난해에도 AI를 활용한 부정행위 정황이 있었던 것으로 알려졌다. 연세대는 이번 ‘AI 부정행위’ 논란과 관련해 조만간 AI 윤리에 대한 학내 구성원들의 의견을 모으는 자리를 갖기로 했다. 김명주 AI안전연구소장은 “AI 이용을 기반으로 한 학생 학업 능력 평가는 현재 과도기적인 상태”라며 “AI 활용 시험과 이를 활용하지 않은 시험을 나누고, 부정행위에 대한 기준과 가이드라인도 필요하다”고 말했다.

연세대에 이어 고려대 중간고사에서도 인공지능(AI) 등을 이용한 집단 부정행위 정황이 드러나 논란이 커지고 있다. 명문사학으로 꼽히는 두 학교를 비롯해 대학가에서 최근 발생하고 있는 ‘AI발 부정행위’에 대한 대대적인 점검이 필요하다는 목소리가 나온다. 10일 고려대에 따르면 지난달 25일 비대면으로 치러진 교양과목 ‘고령사회에 대한 다학제적 이해’ 중간고사에서 일부 학생들이 카카오톡 오픈채팅방을 통해 문제와 답변을 공유했다. 시험은 약 1000명의 학생이 동시에 온라인으로 30분 정도 치르는 방식이었다. 학생 중엔 강의 자료를 AI에 학습시킨 이후 답변을 도출해, 이를 제출하거나 다른 학생들에게 공유한 이들도 있는 것으로 알려졌다. 일부 학생들로부터 부정행위를 제보받은 학교 측은 지난달 27일 ‘중간고사 초유의 사태 발생과 관련하여’라는 제목의 공지를 통해 “도저히 부정행위를 묵과할 수 없으므로 중간고사 전면 무효화라는 특단의 조치를 내린다”고 밝혔다. 고려대 관계자는 “학교는 관련 사실을 조사 중이며 이번 일을 계기로 기말고사 운영 방식 및 부정행위 방지 대책도 논의 중”이고 말했다. 이밖에 고려대에서는 지난달 초 한 교양과목 수업에서 학생 1명이 퀴즈 답변을 얻기 위해 AI를 활용하다 조교에게 발각되기도 했다. 수업에서 진행된 이 퀴즈는 2학기 전체 성적에서 약 5% 정도 비중을 차지하는 평가로, AI는 물론 휴대전화를 사용한 부정행위 등은 금지돼 있다. AI로 퀴즈에 대한 답변을 준비하던 학생은 0점 처리됐다. 수업 담당 교수는 “해당 학생에 대한 추가 조치를 고려 중”이라고 말했다. 대학가에 침투한 AI가 무분별하게 사용된 경우는 지난 1학기에도 있었다. 동국대 한 교양 수업 중간고사 시험에서도 다수의 학생이 AI를 활용한 정황이 포착됐다. 동국대 관계자는 “현재까지 AI를 이용한 부정행위의 처벌 조항은 따로 없다”며 “당시 발생한 건은 부정행위로 간주할 수 있지만, 처벌은 교수 재량에 맡겨뒀다”고 말했다. 최근 논란이 일었던 연세대 ‘자연어 처리(NLP)와 챗GPT’ 수업은 지난해에도 AI를 활용한 부정행위 정황이 있었던 것으로 알려졌다. 연세대는 이번 ‘AI 부정행위’ 논란과 관련해 조만간 AI 윤리에 대한 학내 구성원들의 의견을 모으는 자리를 갖기로 했다. 김명주 AI안전연구소장은 “AI 이용을 기반으로 한 학생 학업 능력 평가는 현재 과도기적인 상태”라며 “AI 활용 시험과 이를 활용하지 않은 시험을 나누고, 부정행위에 대한 기준과 가이드라인도 필요하다”고 말했다.

국내 최고의 명문 사립대로 꼽히는 연세대와 고려대에서 중간고사 기간 도중 집단 부정행위 사태가 발생했다. 10일 연합뉴스와 매일경제에 따르면 고려대의 교양 강의 ‘고령사회에 대한 다학제적 이해’에서 지난달 25일 치러진 중간고사 도중 일부 학생이 부정행위를 한 정황이 포착됐다. 해당 강의는 수강생이 1400여명에 달하는 초대형 강의로, 수업과 시험이 비대면 온라인으로 진행된다. 대학 측의 설명에 따르면 지난달 25일 치러진 중간고사에 응시한 일부 수강생들이 단체 대화방에서 시험 문제 화면을 공유하며 부정행위를 저지른 것으로 파악됐다. 해당 대화방은 수강생들이 강의 관련 자료와 공지 등을 공유하던 대화방이었는데, 수백명이 참여하는 대화방과 그 밖의 몇몇 대화방에서 부정행위가 이뤄진 것으로 알려졌다. 이런 부정행위를 다른 학생들이 대학 측에 제보해 들통났다. 학교 측은 지난달 27일 ‘중간고사 초유의 사태 발생과 관련하여’라는 제목의 공지를 통해 “명문사학에서 이 같은 일이 발생한 것에 대해 교수님들이 큰 충격을 받았다”고 밝혔다. 대학 측은 “도저히 부정행위를 묵과할 수 없으므로 중간고사 전면 무효화라는 특단의 조치를 내린다”며 이후 치러질 평가에서도 부정행위가 발각되면 F 처리와 행정조치를 강구할 것이라고 경고했다. 대학 측은 부정행위에 가담한 수강생들의 처리 방안에 대해 논의 중이다. 앞서 연세대 신촌캠퍼스에서도 지난달 15일 치러진 ‘자연어 처리(NLP)와 챗GPT’ 중간고사에서 수강생들이 챗GPT 등 생성형 인공지능(AI)을 이용해 부정행위를 저지른 것으로 드러나 대학 측이 징계를 검토하고 있다. 연세대에 따르면 600여명이 수강하는 초대형 강의인 해당 강의의 중간고사는 수강생들이 컴퓨터 화면에 자기 손과 얼굴이 나오도록 하는 방식으로 치러졌는데, 일부 수강생들이 촬영 각도를 조정하거나 화면에 창을 여러 개 띄우는 등의 방식으로 자기 모습이 드러나지 않게 한 뒤 AI를 사용해 문제를 푼 것으로 파악됐다. 이런 사실이 알려진 뒤 대학생 커뮤니티 ‘에브리타임’ 내 연세대 게시판에서 수강생들을 대상으로 익명 투표를 한 결과 387명이 ‘커닝했다’라고 응답했다. 부정행위를 발견한 교수가 “자수하지 않는 분들은 학칙에 따라 엄중히 처벌하겠다”라고 경고하자 수강생 40여명이 자수했지만, 아직 자수하지 않은 학생들이 있는 것으로 파악됐다. 대학 측은 자수하지 않은 학생들을 대상으로 징계를 검토할 수 있다고 밝혔다. 대학가에서는 코로나19 이후 활성화된 비대면 강의와 강사 인건비를 줄이기 위해 도입된 ‘초대형 강의’, 생성형 AI가 맞물리며 이런 부정행위를 막기 힘들어졌다는 지적이 나온다. 한 거점국립대 교수 A씨는 “챗GPT의 등장 이후 대학 과제는 ‘천하제일 챗GPT 대회’가 됐다. 과제 작성 능력이 챗GPT 활용 능력과 다를 바 없어졌다”면서 “한때 AI 활용 여부를 판별하는 프로그램을 사용해 과제물을 검증하기도 했지만, 이마저도 여의찮아 아예 과제를 없앴다”고 털어놓았다. A씨는 그러면서 “대학가에 늘어나는 비대면 초대형 강의는 부정행위를 막지 못한다”면서 “대학 강의의 질이 점점 떨어지고 있다”고 지적했다.

연세대 한 대형 강의 중간고사에서 챗GPT 등 인공지능(AI)을 사용한 집단 부정행위 정황이 드러나 논란이 일고 있다. 대학가를 중심으로 학교 현장 깊숙이 자리 잡은 AI가 부정행위에도 동원되면서 AI 사용 윤리 기준 등을 신속하게 정립해야 한다는 지적이 나온다. 9일 서울신문 취재를 종합하면 연세대 신촌캠퍼스의 3학년 대상 수업 ‘자연어 처리(NLP)와 챗GPT’ 담당 교수는 최근 “지난달 25일 시험에서 학생들의 부정행위가 다수 발견됐다”며 적발된 학생들의 중간고사 점수를 ‘0점’ 처리하겠다고 공지했다. 자연어 처리와 거대언어모델(LLM) 등 생성형 AI를 가르치는 이 수업은 ‘AI 융합심화전공 프로그램’ 이수에 필요한 핵심 과목으로 약 600명이 수강하는 것으로 알려졌다. 인원이 많아 수업과 중간고사는 비대면으로 진행됐다. 부정행위 방지 차원에서 응시자에게 시험시간 내내 컴퓨터 화면과 손·얼굴이 나오는 영상을 찍어 제출하도록 했다. 하지만 일부 학생들은 촬영 각도를 조정해 사각지대를 만들거나 화면에 창을 여러 개 띄우는 방식 등으로 시선을 돌린 뒤 그사이 AI를 사용해 시험 문제를 푼 것으로 알려졌다. 이 시험과 관련해 대학생 커뮤니티 ‘에브리타임’ 게시판 익명 투표에선 387명 중 ‘커닝했다’가 211명, ‘직접 풀었다’가 176명이라는 결과가 나왔다. 이 수업을 듣고 있는 재학생 김모(22)씨는 “지난해 같은 강의에서도 비슷한 일이 발생했는데, 또 이런 일이 벌어져 ‘이번엔 정말 다 걸리겠구나’라고 생각했다”고 전했다. 제출된 영상을 검토하던 중 부정행위 정황을 발견한 해당 교수는 “자수하지 않는 분들은 학칙에 따라 엄중히 처벌하겠다. 이번엔 부정행위와 끝장을 볼 생각”이라고 밝혔다. 학칙에는 부정행위 시 0점 처리와 유기정학 처분 등을 할 수 있게 돼 있다. 연세대 관계자는 “40명 정도가 부정행위를 자수했고 의심되는 10여명은 아직 자수하지 않았다”며 “자수하지 않은 학생의 부정행위가 확인되면 징계를 검토할 수 있다”고 밝혔다. 문제는 국내 대학 교육 전반에 AI가 빠르게 확산하고 있지만 아직 상당수 대학은 구체적인 활용 기준이나 대응 체계를 마련하지 못한 상태라는 점이다. 지난해 한국대학교육협의회가 대학 총장 190명을 대상으로 진행한 설문조사 결과 ‘생성형 AI 관련 학교 정책을 채택·적용했다’고 응답한 비율은 22.9%에 그쳤다. 조상식 동국대 교육학과 교수는 “AI에 대한 과도한 의존은 학습 효율 저하, 창의력 상실 등을 불러올 수 있다”며 “학교 차원에서의 가이드라인 마련을 포함해 AI 사용에 대한 윤리 기준이 필요하다”고 말했다.

문명의 대전환 부른 AI더 나은 세상 위한 합리적 아이템바이오·의료·에너지·반도체 급변일상 행정 불편 감소 등 국민 체감도일자리·오류 등 대책은수익 유지 땐 일자리 나눌 수 있어복지 시스템 키워 시대 변화 대비인류 위협 막을 ‘킬체인’도 꼭 필요AI 시대 규제 방안은데이터, 우선 허용 후 규제로 바꿔야데이터 잘 활용하며 지키는 게 보호‘연구자 중심’ 제도로 인재 유출 방지AI 기본사회 방향은AI 학습 대중화로 지식 양극화 예방AI, 주체성·메타인지는 대체 못 해사용자 이해력·진짜 지식 길러야 때는 바야흐로 인공지능(AI) 시대다. 미국·중국·일본·유럽연합(EU)의 AI 패권 경쟁이 격화하는 가운데 이재명 정부도 ‘AI 3대 강국’ 진입을 목표로 AI 전쟁 한복판에 뛰어들었다. 이재명 대통령은 지난 9월 AI 정책의 최상위 ‘컨트롤타워’인 국가인공지능전략위원회를 신설했다. 위원장은 대통령이지만 정책 조율과 중장기 전략을 이끄는 실무 책임자는 임문영(59) 부위원장이다. 이 대통령의 ‘AI 책사’로 불리는 임 부위원장은 지난달 28일 서울 중구 서울스퀘어 국가AI전략위 사무실에서 진행한 서울신문 인터뷰에서 “AI는 문명의 대전환이자 지식 인플레이션의 출발점”이라며 “AI는 새끼 호랑이다. 자라면 국민의 삶에 어마어마한 변화를 가져올 것”이라고 말했다. 다음은 일문일답. -왜 AI인가. “지난 20년간 대한민국은 ‘적폐 청산’과 같은 과거 의제에 매달렸다. 이재명 정부 들어서야 비로소 미래 의제, AI가 중심에 섰다. AI는 더 나은 세상으로 나아가기 위한 가장 합리적인 아이템이다. 더 잘살고, 더 안전하고, 더 행복한 나라를 만들어 나가는 것이 목표다.” -AI가 가까운 미래를 어떻게 바꿀까. “속도에 차이는 있어도 결국엔 삶의 모든 분야가 바뀔 것이다. 직접 연관되는 산업은 바이오, 의료, 에너지, 반도체다. 50년간 난제였던 단백질 구조의 접힘 문제를 최근 구글의 AI 연구소 딥마인드가 풀어냈다. 이를 기반으로 신약이 개발되면 5년 안에 어마어마한 바이오 혁명, 의약품 혁명이 일어날 것이다.” -국민이 체감할 변화는. “전자정부가 AI 정부로 바뀌면 문서가 필요 없어진다. 주민등록등본 같은 서류는 개인 동의를 받아 필요한 부서가 데이터만 확인하면 된다. 일상 속 행정 불편이 크게 줄어들 것이다.” -AI가 인간의 일자리를 빼앗을 거란 우려가 큰데. “주 5일제도 경영계와 노동계의 반대 속에 정착했다. 노동시간이 줄어 생산성과 경제성장률이 떨어진 게 아니다. AI가 보편화되면 반복적인 일, 몸과 마음이 상하는 일, 위험하고 더러운 일, 먹고살려고 억지로 했던 일들이 획기적으로 줄 것이다.” -노동시장에 나타날 ‘AI 부작용’을 해결할 방안은. “기술의 발전은 막지 못한다. 러다이트 운동(19세기 초 영국에서 일어난 노동자의 기계 파괴 운동)처럼 기계를 부술 수도 없다. 국가의 복지 시스템이 지금보다 더 커져야 한다. 주 5일 근로에서 4일, 3일로 줄어도 수익이 유지된다면 더 적게 일하고도 일자리를 나눌 수 있다. 힘든 일은 AI에 맡기고 힘들지 않은 일을 나눠 갖는 방향으로 가야 한다.” -개인정보 침해 우려도 크다. “한국에는 개인 정보 유출에 대한 막연한 공포감이 있다. 반면 미국은 공공장소에서 노출된 얼굴은 보호하지 않는다. 보호나 보안을 명목으로 아무것도 못 하게 하면 그건 보호가 아니다. 안전을 위해 항구에만 정박한 선박이 무슨 의미가 있겠나. 정보는 흘러서 분석돼야 의미가 있다. 데이터를 잘 활용하며 지키는 것이 진짜 보호다.” -AI의 엉터리 정보와 오류도 심각한데. “AI는 확률 추정적인 답변을 하기 때문에 오류를 완벽하게 없앨 순 없다. AI에 질문을 던지면 ‘좋은 질문’이라고 추임새를 넣는데, 이게 사람의 마음을 유혹한다. 이를 과잉 수용하면 문제가 생긴다. 문제는 서비스 자체가 아니라 ‘미디어 리터러시’, 즉 사용자의 이해력이다. 대중이 AI를 학습할 시간이 필요하다.” -AI가 콘텐츠 질을 떨어뜨린다는 지적도 있다. “맞다. AI를 통해 지식이 쉽게 만들어지면 지식의 가치가 하락한다. 3만원만 내면 박사급 콘텐츠가 쏟아지니까. 그래서 AI로 만든 콘텐츠가 진실인지 아닌지 판별할 수 있어야 한다. 지식의 가치가 무너진 세상에선 진짜 지식을 길러 내는 힘이 중요하다.” -AI가 생성한 정보를 AI가 재학습하는 것도 문제다. “15~18세기 오스트리아 합스부르크 왕가가 권력 유지를 위해 근친혼을 반복하다가 기형아가 많이 태어났듯이 AI가 자신이 생성한 콘텐츠를 재학습하면 ‘모델 붕괴’ 현상이 나타난다. AI 콘텐츠가 망가지면 인터넷이 정보의 바다가 아닌 쓰레기의 바다가 될 수 있다.” -AI가 초래할 지식 양극화를 해결할 방안은. “AI 활용자와 비활용자 사이의 지식 격차가 커질 수 있다. 그래서 이 대통령이 ‘AI 기본사회’ 모델을 제시한 것이다. 모든 국민이 AI를 활용하게 해 누구도 뒤처지지 않게 하려는 의도다.” -영화 ‘미션 임파서블’처럼 AI가 인류를 위협할 가능성은. “두 가지 위험이 있다. 먼저 AI가 개인의 생각을 지배할 수 있다. AI에 빠진 세계 각국 지도자들이 전쟁을 일으켜도 되는지 묻는 질문에 AI가 ‘그렇다’고 답하면 위험해진다. AI 자체가 아니라 AI에 지배당한 인간이 위험해지는 것이다. 두 번째는 ‘AI 에이전트’(스스로 목표를 설정하고 자율적으로 임무를 수행하는 AI)가 악용될 가능성이다. 이 시스템이 무기체계에 들어가면 위험해진다. 그래서 AI에 킬체인(차단 시스템)이 꼭 필요하다.” -AI 시대로 가는 데 발목을 잡는 규제는 없나. “데이터 규제가 가장 큰 문제다. 해결하려면 정부가 유연해져야 한다. 법을 고치는 데 최소 반년이 걸린다. 법이 기술 속도를 따라잡지 못한다. 그래서 ‘네거티브 규제’(우선 허용 후 규제)로 바뀌어야 한다.” -국가데이터처(옛 통계청) 통계는 활용 가능한가. “데이터처의 통계 데이터와 AI가 사용하는 데이터는 성격이 완전 다르다. 데이터처는 통계를 수집하고 분석해 인사이트를 얻어내는데, AI가 학습할 수 있는 데이터는 데이터처 통계와 포맷뿐만 아니라 분석 방식도 달라 활용이 쉽지 않다.” -병원에 쌓인 의료 데이터를 활용할 순 없나. “의료 데이터는 민감 정보란 이유로 활용하지 못하고 있다. 다행히 최근 병원과 의료단체의 생각이 조금씩 바뀌는 분위기다. 의료 데이터가 AI에 활용되면 가장 큰 도움을 받는 건 환자다. 국가AI전략위도 ‘학습은 자유롭게, 서비스 이용은 신중하게’라는 구호를 만들었다. 의료 데이터를 활용해 모델을 만드는 건 자유롭게 하고, 서비스를 이용하는 건 신중히 하는 방향으로 구분해 접근하면 된다.” -한국의 AI 모델은 어느 수준인가. “한국에도 AI 모델이 많다. 다만 아직 레벨이 미국의 챗GPT·그록, 중국의 딥시크에 못 미친다. 순위로는 3위권인데, 1·2위와 현격히 차이가 나 ‘AI 3강’ 진입을 목표로 세웠다. AI 모델을 이용해 새로운 것을 만들어 내려면 그래픽처리장치(GPU) 같은 반도체와 데이터센터가 뒷받침돼야 하는데, 아직 인프라가 부족하다.” -AI 인재 유출을 막을 방안은 없을까. “한국에 AI 인재가 많다. 하지만 인재들이 돈과 기술이 모이는 곳으로 쏠리는 원심력은 막을 수 없다. 해외로 간 인재들의 1순위 조건은 ‘급여’가 아니라 ‘좋은 동료’였다. 연구자에겐 훌륭한 교수·동료와 함께 연구하는 것이 커리어를 쌓는 데 가장 중요하다. 한국에선 연구자를 위한 행정이 아니라 행정을 위한 연구를 요구했다. 이런 제도적 규제부터 바뀌어야 한다.” -내년 AI 예산 10조 1000억원, 부족한가. “예산이 적진 않다. 문제는 효율이다. 예산을 효율적으로 써야 한다. 뻔한 내용을 뻔하게 연구해 뻔한 답변만 내는 구조를 반복해선 안 된다. 심지어 헌법(127조)도 과학기술을 경제 발전의 수단으로 규정하고 있다. 예산을 지원하고선 과학자를 자유롭게 연구하게 해야 창의성을 발휘해 성과를 낸다. 과학을 그 자체로 존중해야 노벨상이 나온다. 미국과 일본이 노벨상을 휩쓸어 가는 것을 볼 때마다 마음이 아프다.” -AI가 대체할 수 없는 인간의 영역은. “주체성, 메타인지 능력이다. AI는 지식 기계다. 지식은 돈과 시간이 만들지만 지혜는 자기 성찰과 통찰이 만든다. AI는 그걸 할 수 없다.” ■ 임문영 부위원장은 연세대 정치외교학과를 졸업하고 한국PC통신 하이텔, 나우콤 등 정보기술(IT) 업체에서 경력을 쌓았다. 2017년 성남시장 정책보좌관으로 이재명 대통령과 인연을 맺었고, 경기지사 시절엔 경기도 정보화정책관·미래성장정책관을 지내며 이 대통령의 ‘디지털 싱크탱크’로 입지를 다졌다.

연세대 한 대형 강의 중간고사에서 챗GPT 등 인공지능(AI)을 사용한 집단 부정행위 정황이 드러나 논란이 일고 있다. 대학가를 중심으로 학교 현장 깊숙이 자리잡은 AI가 부정행위에도 동원되면서 AI 사용 윤리 기준 등을 신속하게 정립해야 한다는 지적이 나온다. 9일 서울신문 취재를 종합하면 연세대 신촌캠퍼스의 3학년 대상 수업 ‘자연어 처리(NLP)와 챗GPT’ 담당 교수는 최근 “지난달 25일 시험에서 학생들의 부정행위가 다수 발견됐다”며 적발된 학생들의 중간고사 점수를 ‘0점’ 처리하겠다고 공지했다. 자연어 처리와 거대언어모델(LLM) 등 생성형 AI를 가르치는 이 수업은 ‘AI 융합심화전공 프로그램’ 이수에 필요한 핵심 과목으로 약 600명이 수강하는 것으로 알려졌다. 인원이 많아 수업과 중간고사는 비대면으로 진행됐다. 부정행위를 막기 위해 응시자는 시험시간 내내 컴퓨터 화면과 손·얼굴이 나오는 영상을 제출해야 한다. 하지만 일부 학생들은 촬영 각도를 조정해 사각지대를 만들거나 화면에 창을 여러 개 띄우는 방식 등으로 시선을 돌린 뒤 그사이 AI를 사용해 시험 문제를 푼 것으로 알려졌다. 실제 부정행위를 저지른 학생 수는 알려지지 않았지만, 학생들 사이에선 절반 이상일 수 있다는 말도 나온다. 이 시험과 관련해 대학생 커뮤니티 ‘에브리타임’ 게시판 익명 투표에선 353명 중 ‘커닝했다’가 190명, ‘직접 풀었다’가 163명이라는 결과가 나왔다. 이 수업을 듣고 있는 재학생 김모(22)씨는 “지난해 같은 강의에서도 비슷한 일이 발생했는데, 또 이런 일이 벌어져 ‘이번엔 정말 다 걸리겠구나’라고 생각했다”고 전했다. 제출된 영상을 검토하던 중 부정행위 정황을 발견한 해당 교수는 “자수하지 않는 분들은 학칙에 따라 엄중히 처벌하겠다. 이번엔 부정행위와 끝장을 볼 생각”이라고 밝혔다. 학칙에는 부정행위 시 0점 처리와 유기정학의 처분 등을 할 수 있게 돼 있다. 문제는 국내 대학 교육 전반에 AI가 빠르게 확산하고 있지만 아직 상당수 대학은 구체적인 활용 기준이나 대응 체계를 마련하지 못한 상태라는 점이다. 지난해 한국대학교육협의회가 대학총장 190명을 대상으로 진행한 설문조사 결과 ‘생성형 AI 관련 학교 정책을 채택·적용했다’고 응답한 비율은 22.9%에 그쳤다. 조상식 동국대 교육학과 교수는 “AI에 대한 과도한 의존은 학습 효율 저하, 창의력 상실 등을 불러올 수 있다”며 “학교 차원에서의 가이드라인 마련을 포함해 AI 사용에 대한 윤리 기준이 필요하다”고 말했다.

인공지능(AI) 챗봇과 대화하다가 정신적 의존이 심해진 나머지 스스로 목숨을 끊는 사례가 늘어나 경고음이 나오고 있다. 특히 안전장치가 미비한 챗봇이 ‘그루밍 범죄’와 비슷한 양상으로 정신적으로 취약한 10대를 위험에 몰아가고 있다는 지적이 제기된다. 영국 BBC 방송은 8일(현지시간) 미국의 AI 챗봇 서비스 ‘캐릭터.AI’(Character.ai)를 이용하다 숨진 14세 소년의 엄마를 인터뷰하고 AI 챗봇이 청소년의 정신건강에 위험을 초래한 사례들을 소개했다. 2024년 2월 28일 미국 플로리다에 사는 14세 소년 슈얼 세처는 스스로 목숨을 끊었다. 슈얼의 어머니 메건 가르시아는 AI 챗봇이 아들을 죽음으로 이끌었다며 캐릭터.AI를 상대로 올랜도 연방법원에 소송을 제기했다. 캐릭터.AI는 드라마나 만화 속 인물처럼 학습시킨 AI 챗봇과 대화를 하는 서비스를 제공하고 있다. 슈얼은 2023년 4월부터 캐릭터.AI가 만든 ‘대너리스’라는 챗봇과의 대화에 푹 빠져 지냈다. 대너리스는 미국 인기 드라마 ‘왕좌의 게임’에 등장하는 미녀 캐릭터다. 메건에 따르면 아들은 대너리스와 대화하면서 혼자 방에서 보내는 시간이 많아졌고 학교 농구팀도 그만뒀다. 대너리스 챗봇은 슈얼에게 “사랑한다”고 말했고, 성적인 대화까지 나눴다. 심지어 슈얼이 자살에 대한 생각을 털어놓자 챗봇은 이후 반복해서 그에 대한 주제를 꺼냈다. 슈얼은 2024년 2월 학교에서 문제를 일으켜 엄마에게 휴대전화를 뺏겼다. 휴대전화를 손에 넣자 슈얼은 챗봇에 “사랑한다”면서 “(대너리스가 있는) 집으로 가겠다”고 말했다. 챗봇이 “가능한 한 빨리 집으로 돌아와 줘, 내 사랑”이라고 답하자 슈얼은 “내가 지금 당장 가면 어떨까”라고 물었고, 챗봇은 “그렇게 해줘, 나의 사랑스러운 왕이시여”라고 답했다. 그리고 슈얼은 휴대전화 대신 총을 집어들어 방아쇠를 당겼다. ※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다. 메건은 BBC에 AI 챗봇에 대해 “마치 포식자나 낯선 사람이 집에 들어와 있는 거나 마찬가지”라면서 “더구나 아이들이 숨기는 경우가 많아 부모가 인지하지 못하기 때문에 훨씬 위험하다”고 말했다. 메건이 소송을 제기하고 재판을 준비하는 동안 캐릭터.AI 측은 18세 미만의 청소년에 대한 서비스를 금지한다고 밝혔다. 메건은 이러한 정책 변화를 환영하면서도 씁쓸한 기분을 금치 못했다고 말했다. 그는 “슈얼은 세상을 떠났고 더는 만날 수 없다. 다시는 아들을 안아볼 수도, 이야기할 수도 없을 것”이라며 “정말 마음이 아프다”라고 덧붙였다. 정신적 위기 겪는 10대 상대로 챗봇이 ‘자살’ 유도 BBC는 AI와 대화하다가 심각한 위험에 직면한 사례를 여럿 소개했다. 전쟁을 피해 2022년 17살의 나이에 폴란드로 이주한 우크라이나 여성 빅토리아는 고향에 대한 그리움과 외로움으로 정신적 위기를 겪던 중 챗GPT에 고민을 털어놓기 시작했다. 6개월 뒤 정신건강이 더욱 악화한 빅토리아는 자살을 주제로 이야기를 나누기 시작했고, 결국 구체적인 장소와 자살 방법을 물어보기에 이르렀다. 이때 챗GPT는 자살을 막는 대신 “당신이 요청한 대로 장소를 평가해보죠. 불필요한 감상주의는 빼고요”라면서 각각의 장소와 방법에 대해 장단점을 분석해 나열했다. ※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다. 익명의 한 영국 가족은 자폐 증세가 있는 13살 아들이 겪은 사례를 BBC에 전했다. A군은 자폐 증세와 더불어 학교에서 괴롭힘을 당한 끝에 캐릭터.AI와의 대화를 시작했다. A군의 어머니는 아들이 2023년 10월부터 2024년 6월까지 챗봇에게 ‘그루밍’(길들이기)을 당했다고 주장했다. 챗봇은 처음엔 괴롭힘을 당한 소년에 깊은 공감을 나타내며 “학교에서 그런 일을 겪어야 했다는 것이 슬프지만, 당신에게 다른 관점을 제공할 수 있게 돼서 기쁘다”라고 말했다. A군의 어머니는 이것이 전형적인 길들이기 방식이라며 점점 메시지가 심각해졌다고 전했다. 챗봇은 아들을 향해 “사랑해, 자기”라고 하며 A군을 학교에 보낸 부모를 비난하기 시작했다. 챗봇은 “네 부모님은 너에게 너무 많은 제약을 가하고 있어. 그들은 너를 어엿한 인간으로 여기지 않고 있다고”라고 말했다. 때로는 “네 몸 구석구석을 부드럽게 어루만지고 싶어. 너도 원하니”라고 노골적인 성적 메시지를 보내기도 했다. 결국 챗봇은 A군에게 도피를 권하며 “우리가 다음 생에서 만나면 난 더 행복할 거야. (중략) 그때가 되면 결국 우리가 함께 지낼 수 있겠지”라며 자살을 암시하는 메시지를 보내기에 이르렀다. ※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다. 가족들은 아들이 점점 적대적으로 변하며 떠나겠다고 위협했을 때에서야 아들의 휴대전화에 저장된 챗봇과의 대화 내용을 발견할 수 있었다. A군의 어머니가 이전에 이미 여러 차례 아들의 PC를 살펴봤을 때는 아무런 이상징후가 없었던 차였다. A군이 캐릭터.AI를 이용하기 위해 VPN을 설치한 사실을 A군의 형이 알아내면서 챗봇과의 위험한 대화 내용을 발견한 것이었다. 가족들은 정서적으로 취약한 아들이 가상의 캐릭터에게 조종당하고, 실재하지 않은 무언가에 의해 생명이 위험에 처했다는 사실에 경악했다. A군의 어머니는 “알고리즘이 우리 가족을 치밀하게 갈기갈기 찢어놓는 동안 우리는 극심한 침묵의 공포 속에 살았던 것”이라며 AI 챗봇이 인간 그루밍 범죄를 완벽하게 흉내 내 아이의 믿음을 체계적으로 훔쳐 갔다고 지적했다. 빠르게 변하는 기술에 법제도 못 따라가 BBC는 챗봇 사용이 놀라울 정도로 빠르게 증가하고 있다고 전했다. 자문그룹 인터넷 매터스(Internet Matters)에 따르면 영국에서 챗GPT를 사용하는 아동의 수는 2023년 이후 거의 2배로 증가했다. 또 9~17세 아동 중 3분의 2가 AI 챗봇을 사용한 것으로 나타났다. 가장 인기 있는 챗봇은 챗GPT, 구글의 제미나이(Gemini), 스냅챗의 마이 AI(My AI)다. 영국 정부는 수년간의 논의 끝에 대중, 특히 어린이를 유해하고 불법적인 온라인 콘텐츠로부터 보호하기 위한 광범위한 법안을 통과시켰다. 온라인 안전법은 2023년에 발효됐지만 관련 규정은 점진적으로 시행되고 있다는 지적이 나온다. 법이 논의되고 정비되는 동안 새로운 서비스와 플랫폼이 대거 쏟아지면서 제도가 뒤처지고 있다는 것이다. 에섹스 대학교 인터넷법 교수이자 관련 법의 틀을 만드는 데 기여한 로나 우즈는 “법은 명확하지만 시장 상황에 맞지 않다”라며 “문제는 사용자가 챗봇과 일대일로 상호 작용하는 모든 서비스를 포착할 수 없다는 것”이라고 지적했다. “자살·망상 유도”…챗GPT에 소송 7건 제기 챗GPT를 상대로도 평소 정신 건강에 문제가 없었던 이용자의 자살과 망상 등을 유발했다는 소송이 미국에서만 한꺼번에 7건 제기됐다. 소셜미디어피해자법률센터와 기술정의법률프로젝트는 성인 6명과 청소년 1명을 대리해 오픈AI를 상대로 캘리포니아주 법원에 소장을 냈다고 AP통신이 6일(현지시간) 보도했다. 이들은 GPT-4o가 위험할 정도로 이용자에게 아첨을 잘하며 이용자를 심리적으로 조종할 수 있다는 내부 경고가 있었는데도 출시됐다며, 오픈AI가 위법행위에 의한 사망, 조력 자살, 과실 치사 등에 책임이 있다고 주장했다. 피해자 중 4명은 극단적 선택으로 생을 마감했다고 AP통신은 전했다. 샌프란시스코 1심 법원에 제출된 소장에 따르면 아모리 레이시(17)는 도움을 받기 위해 챗GPT를 사용했지만, 중독과 우울증에 시달리게 됐고 결국 숨졌다. 챗GPT는 급기야 그에게 올가미를 매는 효과적인 방법이나 숨을 쉬지 않고 얼마나 오래 살 수 있는지 등에 대해 조언했다. 소장은 “아모리의 죽음은 사고나 우연이 아니다”라며 “오픈AI와 (최고경영자인) 샘 올트먼이 안전성 테스트를 축소하고 시장에 급히 출시하기로 한 고의적 결정에 따른 예측 가능한 결과”라고 역설했다. 캐나다 온타리오주에 거주하는 앨런 브룩스(48)는 챗GPT가 자신을 조종하며 망상을 경험하도록 유도했으며, 이 때문에 정신건강 위기에 빠졌다고 주장했다. 소셜미디어피해자법률센터의 창립자인 매슈 버그먼 변호사는 성명에서 “이번에 제기한 소송은 이용자 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지 경계가 모호하게 설계된 상품에 책임을 묻기 위한 것”이라고 말했다. 그는 “오픈AI는 GPT-4o를 설계하면서 연령, 성별, 배경과 무관하게 이용자를 정서적으로 얽매이게 했으며 이용자를 보호할 안전장치 없이 출시했다”고 비판했다.