이스라엘의 드론 공격으로 국제구호단체 월드센트럴키친(WCK) 직원들이 팔레스타인 가자지구에서 숨지자 인공지능(AI) 시스템을 전쟁에 사용하는 것을 두고 또다시 논란이 일고 있다. ‘실수’라는 이스라엘 측의 사과에도 불구하고 직원 7명이 희생된 WCK의 창립자인 스타 셰프 호세 안드레스는 3일(현지시간) 로이터와의 인터뷰에서 이번 폭격이 의도적이라고 비판했다. 안드레스는 “각각 1.5, 1.8㎞ 거리의 인도주의 호송 행렬이었고, 트럭 지붕에는 로고 깃발이 표시돼 있어 우리가 누구이고 무엇을 하는지 매우 분명한 상황이었다”며 이스라엘이 구호 차량의 움직임을 파악하고 있었다고 주장했다. 이스라엘 일간 하레츠도 “구호 차량이 구호 창고에 구호품을 내려놓고 떠난 뒤 이스라엘 드론 1대가 WCK 차량을 향해 차례차례 미사일 3발을 쐈다”고 전했다. 이스라엘군(IDF)은 2021년 가자지구에서 11일간 충돌이 일어난 뒤 매일 100개의 새로운 공격 목표를 식별하는 AI 시스템을 도입했다. 예수의 가르침이란 뜻의 ‘합소라’라고 불리는 이 시스템에 대해 IDF 내부에서도 “대량 살상 공장을 운영하는 것 같다”는 비판이 일기도 했다. 토비 월시 호주 뉴사우스웨일스대학 AI 연구소의 수석 과학자는 “가자지구의 높은 민간인 사망률은 합소라에 결함이 있거나 의심스러운 지침에 따라 운영되고 있음을 시사한다”고 밝혔다. 한 IDF 소식통은 “어떤 일도 우연히 일어나지 않는다”면서 비윤리적인 결정이 존재한다는 것을 에둘러 설명했다. WCK 공격으로 자국민을 잃은 국가 정상들은 이스라엘을 향해 분노를 드러냈다. 영국인 3명이 사망한 데 리시 수낵 영국 총리는 “경악했다”면서 독립적인 진상 조사를 요구했고, 페드로 산체스 스페인 총리는 “베냐민 네타냐후 이스라엘 총리가 ‘전쟁에서 일어날 수 있는 일’이라고 말한 건 받아들일 수 없고 불충분하다”고 격노했다. 폴란드 정부도 검찰 수사를 진행하겠다고 밝혔다. 네타냐후 총리는 자국에서는 사퇴 요구에 직면했다. 최대 정적인 야당 국가통합당의 베니 간츠 대표는 이날 국가 분열을 막기 위해 오는 9월 조기 총선을 실시해야 한다고 촉구했다. 지난 6개월간 가지지구 전쟁으로 하마스 전투원과 민간인을 합쳐 팔레스타인 주민 약 3만 3000명이 사망했고 구호 활동가도 200여명이 목숨을 잃었다.

세계 최초로 ‘유전자 편집 아기’를 탄생시켜 세계를 충격에 빠뜨린 허젠쿠이 전 중국남방과학기술대 교수의 근황이 전해졌다. 지난 1일 일본 마이니치 신문은 허 전 교수가 인간 배아에 대한 유전자 실험을 계속하기 위해 3곳의 실험실을 열었다며 그와의 인터뷰를 보도했다. 허 전 교수는 인터뷰에서 “감옥에서 석방된 뒤 베이징, 우한 등에 연구소 3곳을 설립하고 연구를 재개했다”면서 “알츠하이머병과 같은 희귀 유전 질환을 치료하는 것을 목표로 하고있다”고 밝혔다. 이어 “앞으로 연구를 위해 폐기된 인간 배아를 사용할 것이며 국내 및 국제 규정을 모두 준수할 것”이라고 덧붙였다. 특히 그는 더이상 유전자 편집 아기를 만들 생각이 없다는 것을 분명히 하면서도 “과거 작업이 자랑스럽다. 사회는 결국 이를 받아들일 것”이라고 주장했다. 곧 과거 중국은 물론 전세계적인 논란에도 해당 연구에 후회는 없고 오히려 자랑스럽다는 점을 강조한 것. 다만 그는 당시 전세계적인 비판을 받은 점에 대해 “너무 성급했던 점을 후회한다”면서도 왜 국제 규정까지 위반하며 연구를 했는지는 명확하게 해명하지 않았다.또한 그는 당시 탄생했던 유전자 편집 아기의 근황도 전했다. 허 전 교수는 “세 아이 모두 완전히 건강하고 성장에 문제가 없다”면서 “현재 5살이 된 쌍둥이 여아는 둘다 유치원에 다니고 있다”고 밝혔다. 앞서 허 전 교수는 2018년 ‘크리스퍼’(CRISPR-Cas9)라고 알려진 유전자 가위를 활용해 에이즈(AIDS·후천성면역결핍증) 바이러스에 면역력이 있는 쌍둥이 여자 아기를 탄생시켰다고 밝혀 세계적인 파문을 일으켰다. 이듬해에도 그는 역시 같은 방식으로 세 번째 여아를 탄생시켰다. 이같은 사실이 알려지자 인간 배아 연구 윤리에 대한 세계적인 논란으로 커졌으며 결국 중국 법원은 그에게 유전자 편집 또는 복제된 인간 배아를 인체에 이식하는 것을 금지한 중국 법에 따라 징역 3년과 벌금을 선고했다.

영국 케이트 미들턴 왕세자빈이 확산하는 헛소문에 직접 암 진단을 받은 사실을 고백했지만, ‘케이트게이트’라 불리는 음모론이 좀처럼 수그러들지 않고 있다. 지난 1월 복부 수술을 받은 왕세자빈은 암이 발병했다는 사실을 알게 됐고 영국 국왕 찰스 3세가 암 치료를 받는 일까지 겹치면서 두문불출했다. 하지만 어린 세 자녀와 함께 찍은 가족사진을 공개해도 편집 미숙으로 조롱만 받으며 각종 루머가 양산되자 케이트 왕세자빈이 직접 나섰다. 영국 일간 가디언은 25일(현지시간) 왕세자빈에 대한 음모론에 사용됐던 ‘#케이트게이트’가 포함된 인터넷 게시물이 오히려 암 치료 사실 고백 영상 이후 증가했다고 보도했다. 지난 22일 케이트 왕세자빈은 인스타그램 공식 계정에 암 치료 사실을 밝히는 2분여의 동영상을 올렸는데 그 이후 ‘케이트게이트’를 언급한 게시물은 엑스, 인스타그램, 틱톡 등 대형 소셜네트워크(SNS)에서 하루 400건으로 증가했다. 왕세자빈의 암 치료 고백 이전 주말의 하루 373건보다 더 늘어난 것이다.케이트 왕세자빈의 동영상이 조작됐을 수 있다고 주장하는 한 틱톡 동영상은 24일 게시된 이후 20만회 이상 조회수를 기록했다. 이 틱톡커는 영국 공영방송 BBC가 케이트 왕세자빈을 직접 촬영했다고 밝혔지만, 해당 동영상이 인공지능(AI)으로 만들어졌을 가능성을 주장했다. 음모론 전문가인 콰씸 카쌈 영국 워릭대 교수는 “음모론자들은 그들의 주장을 반박하는 증거가 나와도 이를 음모의 일부로 취급한다”면서 “음모론은 끈질기고 회복력이 뛰어나다”고 설명했다. 미국 오레곤대학교 디지털 플랫폼 및 윤리학 조교수인 휘트니 필립스는 “소셜 미디어 사용자들이 피해자들의 고통은 전혀 고려하지 않고 재미로 음모론을 소비한다”고 지적했다. 특히 영국 왕실의 음모론은 미국에서 활발하게 소비됐으며, 중국과 러시아에서 케이트 왕세자빈에 대한 루머가 확산했다.미국에서 1997년 다이애나 왕세자빈의 장례식은 3300만명이 지켜봤고, 21년 뒤 미국 배우 메건 마클이 해리 왕자와 결혼하는 것을 보기 위해 새벽에 잠에서 깨어난 미국인은 2900만명에 이르렀다. 미국인의 영국 왕실에 대한 태도는 지대한 관심뿐만이 아니라 분노와 조롱도 섞여 있어 영국처럼 케이트 왕세자빈이 조용히 치료받을 수 있도록 내버려 두자는 여론이 형성되지 않았다고 뉴욕타임스는 분석했다. 텔레그래프는 영국 정부 관계자가 “중국, 러시아 등 우리에 적대적인 국가들이 영국에 대한 음모론을 퍼뜨리고 있다”고 밝혔다고 전했다. 영국은 중국 소수민족인 신장웨이우얼 자치구 위구르족에 대한 인권 침해를 2021년 제재를 발표한 데 이어 러시아의 우크라이나 전쟁을 도운 혐의로 중국 기업을 제재했다. 마클의 엑스(옛 트위터) 계정의 구독자 대부분은 러시아 정치에 대해 자주 게시물을 올리면서 로봇과 유사한 활동을 했다. 카쌈 교수는 케이트 왕세자빈에 대한 루머는 음모론자들이 새로운 음모로 옮겨갈 때야 잠잠해질 것이라고 내다봤다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

공공 AI 실증(1개 과제, 3억 원)·민간 AI 실증(4개 과제, 각 1.5억 원)경기도경제과학진흥원(이하 경과원)이 AI 실증 및 AI 인재 양성을 지원한다. 경기도와 경과원은 공공분야 및 민간 분야 AI 실증 지원사업은 3월, AI 인력 양성프로그램은 4월에 모집할 예정이라고 20일 밝혔다. 올해 관련 예산으로 지난해 약 21억 원 대비 86% 늘어난 40억 원을 책정했다. AI 분야 지원사업 통합공고는 경기도 AI 실증지원, 경기도 인공지능 인재 양성 지원으로 구분된다. 공공분야 AI 실증 지원사업은 도내 시·군 및 산하 기관을 대상으로 교통, 환경, 안전 등 사회적 문제 해결을 위한 AI 기반 솔루션 실증에 1개 과제 3억 원의 예산을 지원한다. 민간 분야 AI 실증 지원사업은 AI 기술과 서비스의 실증을 통해 중소기업 및 스타트업의 기술 경쟁력 강화를 위해 4개 과제 각 1.5억 원을 지원한다. AI인재 양성 지원사업은 도내 미취업 청년 및 재취업 희망자(만 39세 이하)에게 아마존, 구글, 네이버 등 글로벌 빅테크 기업의 교육 과정을 활용한 실무 중심의 교육을 제공한다. AI 전문인력 양성을 목표로 60명을 양성한다. 또한 AI 리터러시(문해력) 교육은 도내 소재 4개 대학이 주관기관으로 참여해 대학 특성에 맞는 AI 활용 기초교육 및 AI 윤리교육을 실시한다. 북부권 2개 대학, 남부권 2대 대학이 컨소시엄으로 참여하면 된다. 1개 컨소시엄에 6억 원의 예산이 지원된다. 이 밖에도 AI 관련 메타버스 기술개발 실증 지원(9개 과제, 과제당 최대 1억 원), 로봇 기업 실증 지원(3개 과제, 과제당 최대 8천만 원), 데이터 관련 사업화 지원(6개 과제, 과제당 최대 3천만 원) 등을 추진하고 있다.

“예전에는 ‘다시 태어나도 바둑을 배울 거고 프로기사도 꼭 할 것 같다’고 긍정적으로 얘기했었어요. 인공지능(AI) 알파고가 나온 뒤로는 생각이 달라졌습니다. 다시 태어나면 바둑은 그냥 즐기면서 배우되 아마 다른 쪽, AI를 만드는 쪽도 괜찮을 것 같습니다.” 인공지능(AI) 알파고와 2016년 ‘세기의 대국’을 펼친 이세돌 9단이 19일 구글코리아가 창립 20주년을 기념해 공개한 인터뷰 영상에서 근황과 AI가 바둑계에 미친 영향, AI 기술 발전에 관한 생각 등을 밝혔다. 이세돌은 2016년 구글 딥마인드의 바둑 AI 프로그램인 알파고와 대결했다. 이세돌은 1승 4패로 대국을 마무리했다. 2019년 은퇴한 이세돌은 “AI가 은퇴에 많은 부분을 차지했다”면서 “은퇴 이후 생성형 인공지능을 비롯해 보드게임 등 다양한 분야에 관심을 가지고 있다”고 근황을 전했다. 그는 알파고와의 대국에 대해 “바둑에서 ‘승부 호흡’이라고 하는 게 있는데 (알파고는) 그런 게 전혀 없었다. 마치 벽에다가 테니스하는 느낌이 들었다”면서 “그 당시 ‘좀 곤란한데’라고 생각할 정도로 너무 잘 뒀다”고 회고했다. 이세돌은 AI로 인해 바둑을 배우는 과정에도 변화가 생겼다고 했다. 그는 “예전에는 혼자서 고민하고 둘이 만나 하나의 작품을 만들어내는 그런 예술로 (바둑을) 배웠는데 어느 순간 AI를 보면서 (바둑을) 배운다는 게 정답지를 보는 것 같다”면서도 “알파고가 나오기 전의 기보와 지금의 기보는 완전 다르다. AI의 기보가 내용상으로는 훨씬 위”라고 말했다. 이세돌은 공공의 선이 AI 개발의 핵심 원칙과 기준이 돼야 한다고 강조했다. 그는 “우리가 살아갈 세상에서는 AI가 너무 필요하기 때문에 속도를 조절하고 확실한 원칙을 가지고 윤리적인 문제를 해결하는 방향으로 가야 한다”면서도 “AI를 벌써 두려워하는 시각으로 바라봐서는 안 된다고 생각한다”고 말했다.

이스라엘 군(IDF)이 팔레스타인 가자지구를 인공지능(AI) 자동 표적 식별 장치를 활용한 드론·미사일 타격해 무고한 민간인 사상자가 발생하는 등 국제사회가 금지중인 반인권적 행태를 벌이고 있다는 보도가 잇따랐다. 팔레스타인 디지털 인권 단체 ‘7amleh’가 IDF가 가자지구 내 학교, 구호단체 사무실, 예배 장소, 의료 시설 등을 포함해 공격 표적을 정할 때 이스라엘 자체 개발 AI 자동 표적 식별 시스템인 ‘가스펠’(복음)을 미국의 묵인 하에 광범위하게 사용중이라고 비판했다고 정치전문매체 폴리티코가 3일(현지시간) 보도했다. IDF가 세부 정보를 거의 제공하지 않은 AI 자동식별 시스템인 ‘가스펠’은 머신러닝을 통해 방대한 양의 데이터를 신속하게 분석해 잠재적 공격 대상을 정하는 것으로 알려졌다. 이스라엘의 가장 오래되고 최대 규모의 인권 단체인 이스라엘 민권 협회는 지난해 12월 이스라엘 국방군 법무 부서에 자동 표적화에 대한 투명성을 높일 것을 요구하는 정보공개청구서를 제출했다. 다니엘 하가리 IDF 대변인은 지난달 공개 성명에서 “가스펠이 잠재적 표적을 식별하는 데 사용되지만 대한 최종 결정은 항상 인간이 내리고 명령 체계에 있는 적어도 한 명의 다른 사람의 승인을 받는다”고 설명했다. 하지만 IDF는 지난해 11월 성명에서는 “복음 시스템을 사용해 빠른 속도로 표적을 생성할 수 있다”며 “이스라엘이 개전 첫 27일 동안 1만 2000개 이상의 표적을 명중시켰다”고 밝혔다. 미국의 AI 전쟁 윤리 정책을 추적하는 일부 사람들은 이스라엘이 AI 기술을 통해 민간인을 보호하기보다는 오히려 공격하는 데 사용되는 등 ‘정밀 타격’이라는 AI 기술 본래의 취지를 왜곡하고 있다고 주장했다. 진보적인 외교 정책 싱크탱크 국제정책센터 낸시 오케일 대표는 “이스라엘이 ‘파워 타깃’이라고 불리는 민간인을 표적으로 삼기 위해 AI를 사용하고 있다는 것은 분명해졌다”면서 “정밀 타격에 도움을 주는 본래의 목적과 달리 의도적으로 민간인을 표적으로 삼고 있다”고 지적했다. 낸시 대표는 IDF가 자체적으로 정한 ‘파워 타깃’의 정의는 하마스나 팔레스타인 이슬람 지하드의 정치적, 군사적 거물 등 주요 표적을 말하지만, 사실상 IDF 정보 부서는 IDF에 대해 광범위한 정의를 허용하고 있는 것으로 보인다고 말했다. 전략국제문제연구소의 미사일 방어 프로젝트 부국장 겸 연구원 샨 샤이크는 “가자지구에서 3만 명이 넘는 사상자가 발생한 상황에서 IDF가 첨단 AI를 사용해 표적을 식별하는지 아니면 지도에 다트를 던지는 것인지 알기 어렵다”라고 말했다. 사이버 보안 전문가들은 모든 AI 표적 시스템이 민간인을 무차별하게 살상할 우려를 제기했다. 영국에 본사를 둔 사이버 보안 업체 ‘트레일 오브 비츠’의 머신러닝 엔지니어링 디렉터 하이디 클라프는 “AI 시스템의 높은 오류율을 고려할 때, 표적을 부정확하고 편향적으로 자동화하는 것은 무차별 표적 공격과 크게 다르지 않다”고 지적했다. 폴리티코는 “구호 단체와 의료 시설이 이스라엘 당국에 GPS 좌표를 제공한 후에도 공격을 받은 사례가 있다”면서 “이스라엘은 하마스가 이러한 건물에 전투원과 무기를 숨겨 놓았기 때문에 병원과 학교와 같은 민간 인프라를 공격해야 할 표적으로 간주한다고” 보도했다. 이스라엘에 본사를 둔 사이버 기업 센트라의 공동 창립자이자 전 이스라엘 정보 책임자인 론 라이터는 “AI 기술이 판도라의 상자를 열었다는 사실이 우려스럽다”고 말했다. 이스라엘 엘리트 사이버 정보 부대인 8200부대 장교 출신인 라이터는 “8200부대가 모바일 네트워크의 인터넷 통신, 영상 및 정보를 분석하여 사람들이 어디에 있는지 파악하는 데 AI 표적 시스템인 가스펠을 사용한다”고 설명했다. 미국 관리들은 이스라엘의 AI 사용에 대한 언급을 대체로 피했다. 중동연구소의 팔레스타인과 팔레스타인-이스라엘 문제 프로그램의 연구 책임자인 칼레드 엘긴디는 “미 정부에서 인권을 중시하는 사람들과 행정부와의 회의에서 여러 차례 회의를 가졌지만 AI가 구체적으로 언급되는 것을 듣지 못했다”고 말했다. ‘가자전쟁에서 이스라엘의 AI 표적화 사용 규모가 어떻게 되냐’는 질문에 앤 노이버거 백악관 사이버 및 신흥 기술 담당 국가안보 부보좌관은 이스라엘에 대한 언급을 피하면서도 ‘전쟁에서 AI 기술의 위험성’을 재빨리 지적했다. 노이버거는 인터뷰에서 “우리는 AI 시스템에 대해 정말 우려하고 있다”며 “조 바이든 대통령께서 AI에 대한 행정명령을 발동하고 그 다음 단계로 나아가기 위해 그렇게 빨리 움직인 것”이라고 말했다. 그가 언급한 행정명령은 지난해 10월에 발표된 것으로, 미군과 정보기관의 AI 사용 지침을 제공하는 동시에 외국 적들의 인공지능 무기화에 대응하기 위해 추진되고 있다. 가스펠 기술이 미국의 감시를 피하고 있는 것은 이스라엘 군사 작전의 불투명하기 때문이라는 지적도 나왔다. 휴먼라이츠워치의 워싱턴 지부장 사라 야거는 “이스라엘이 이 전쟁을 어떻게 수행하고 있는지에 대해 미국 정책 입안자들을 포함해 그 누구도 알고 있지 못하다”고 말했다.

불과 5년 전인 2019년 2월 22일, 무인 우주 탐사선이 달 주위 궤도에 배치되었다. 베레시트라는 이름으로 이스라엘 민간단체인 스페이스일(SpaceIL)과 이스라엘 항공우주산업(IAI)가 개발한 이 우주선은 연착륙을 수행하는 최초의 민간 우주선이 될 예정이었다. 탐사선의 탑재체 중에는 최악의 혹독한 환경에서도 생존할 수 있는 능력으로 유명한 완보동물이 있었다.​ 우주선의 방향을 파악하여 모터를 적절하게 제어하기 위한 ‘별 추적기’ 카메라가 작동하지 않아 임무는 시작부터 문제에 부딪혔다. 관제 센터가 일부 문제를 해결할 수 있었지만, 착륙 당일인 4월 11일에는 상황이 더욱 악화되었다.​ 달로 가는 도중에 우주선은 빠른 속도로 날아가고 있었기 때문에 연착륙하려면 속도를 상당히 줄여야 했다. 불행하게도 제동 조작 중에 자이로스코프가 고장나서 주 엔진이 막히고 말았다. ​ 150m 고도에서 베레시트는 시속 500km의 속도로 움직이고 있었는데, 이는 연착륙하기에는 너무 빠른 속도였다. 충격은 강력했다. 탐사선은 산산조각이 나고 잔해는 약 100m 거리까지 흩어졌다. 이 장소는 4월 22일 미 항공우주국(NASA)의 달정찰궤도선(LRO)에 의해 촬영되었다.​ 최강의 생존력을 가진 완보동물 그렇다면 탐사선을 타고 달까지 여행하던 완보동물들은 어떻게 되었을까? 완보동물은 이제껏 알려진 생명체 중 최강의 생명체로, 영하 273℃, 영상 151℃에서도 생존할 수 있으며, 생물에게 치명적인 농도의 방사성 물질 1,000배에 달하는 양에 노출되어도 죽지 않는 동물이다.이같은 놀라운 생존력을 고려할 때, 그들이 과연 달에서도 살 수 있을까? 어쩌면 그들이 번식하고 달에 정착할 수 있을는지도 모른다.​ 완보동물은 길이가 1mm 미만인 작은 동물이다. 뉴런, 접을 수 있는 코 끝에 열린 입, 미생물군을 포함하는 창자, 발톱으로 끝나는 관절이 없는 4쌍의 다리를 갖고 있으며, 대부분 눈이 2개 있다. 크기는 작지만 곤충이나 거미류와 같은 절지동물과 공통 조상을 공유한다.​ 대부분의 완보동물은 수생 환경에 살지만, 도시 환경에서도 발견될 수 있다. 활동적으로 클로렐라와 같은 미세조류를 먹고 움직이고 성장한다. 번식하려면 완보동물이 물막으로 둘러싸여 있어야 한다. 그들은 처녀생식을 통해 유성 또는 무성생식으로 번식하거나, 심지어 자웅동체를 통해 자가 수정으로 번식한다. 알이 부화되면 완보동물의 활동적인 수명은 3개월에서 30개월까지 지속된다. 지구상에 총 1,265종의 종이 기술되어 있다.​ 완보동물은 최악의 환경에서도 생존하는 동물로 유명하다. 그들은 체수분의 최대 95%를 잃으면 스스로 신진대사를 중단시키고 동면에 들어간다. 탈수 과정에서 완보동물은 몸을 정상 크기의 절반으로 줄일 수 있으며, 다리는 사라지고 발톱만 남게 된다. 크립토바이오시스(cryptobiosis)라고 알려진 이 상태는 생활조건이 다시 좋아질 때까지 지속되다가 깨어난다. 달에 간 완보동물은 살았을까, 죽었을까? 그렇다면 완보동물이 달에 추락한 후 어떻게 되었을까? 완보동물이 탐사선의 추락 충격으로 죽지는 않았을 게 분명하니까, 그중 달의 표토 몇 미터에서 수십 미터 깊이까지 다양한 먼지층 아래 묻혀서 아직도 생존하고 있을까?​ 달의 표면은 태양 입자와 우주선, 특히 감마선으로부터 보호되지 않지만, 그래도 완보동물은 너끈히 살 수 있다. 실제로 독일 킬 대학 교수인 로베르 비머-슈바인그루버와 그의 팀은 달 표면에 닿는 감마선의 양이 영구적이지만 총 선량은 약 1 Gy로 낮은 수준이다.​ 하지만 달에는 다른 문제도 있다. 완보동물은 물 부족과 더불어 밤에는 -170~-190°C, 낮에는 100~120°C의 온도를 견뎌야 한다. 달의 낮이나 밤은 지구의 15일 미만으로 오래 지속된다. 불행하게도 완보동물은 액체 물, 산소, 미세조류의 부족 문제만은 극복할 수 없다. 결코 재활성화할 수 없고, 번식도 불가능하다. 따라서 그들의 달 식민지화는 불가능하다. ​ 또한 생명체를 외계 천체로 보는 데는 윤리적 문제가 있다고 에딘버러 대학의 생태학자 매튜 실크가 지적했다. 더욱이 우주탐사가 활발해지는 시기에 다른 천체를 지구 물질로 오염시킨다면 외계 생명체를 발견할 기회를 잃게 될 수도 있다.

“인공지능(AI) 시대 우리 청소년들에게 가장 필요한 것은 ‘정확성’ 아닌 ‘인성’입니다.” 최근 ‘2024 강원 동계청소년올림픽대회’가 14일간의 열전을 마무리하고 성황리에 대단원의 막을 내렸다. 지난해 ‘제25회 새만금 세계스카우트잼버리’의 실패와 그에 따른 혹평으로 인해 국제대회 운영 능력에 대한 편견이 생긴 터였다. 어쩌면 이번 청소년올림픽을 바라보는 시선에 약간 다른 요소가 들어가 있었을지도 모르겠다. 다행히도 새만금잼버리대회를 반면교사로 삼아 정부 역량을 총결집해 국제올림픽위원회(IOC)의 찬사는 물론 기대 이상의 흥행도 기록했다. 두 개의 굵직한 국제행사가 더더욱 중요하게 다가왔던 건 지구촌 미래의 세대인 청소년들이 주인공이었기 때문이다. 한편으론 그들에게 상처를 주었고 또 다른 한편에선 영광을 안겨 주며 상반된 기억을 남긴 이 사회는 미래를 위한 준비가 돼 있다고 말할 수 있을까. 긍정적인 답을 찾고 싶은 간절한 마음으로 손연기(66) 한국청소년활동진흥원(KYWA) 이사장을 ‘임의 동행’ 코너를 통해 만났다.손 이사장에 대한 첫인상은 그가 한국정보문화진흥원 원장으로 재임하던 시절부터 지금까지 국내 한 언론사에 자신의 이름을 내걸고 연재하고 있는 고정 칼럼 시리즈를 통해 새겨졌다. AI와 생성형 AI 챗GPT, 메타버스, 4차 산업혁명 등의 최첨단 흐름을 현재의 시대적 상황과 접목하는 것은 물론 최근에는 한국 청소년들의 문화와 비전에까지 범위를 넓혀 기고하고 있는 그의 글들은 여러 정보와 일말의 영감까지 필자에게 선사해 주곤 했다.●청소년활동진흥원의 맞춤 프로그램 서울 서대문구에 위치한 한국청소년활동진흥원에서 만난 손 이사장은 연구에 매진하는 학자 캐릭터, 정갈하고 빈틈없는 완벽주의자의 전형이랄까…. 왠지 익숙한 듯한 모습의 그에게 다소 낯선 청소년활동진흥원에 대한 소개를 먼저 부탁했다. “저희 한국청소년활동진흥원은 우리 청소년들에게 학교 교육 이외에 다양한 공간에서 직접 체험활동을 할 수 있도록 다양한 정보와 기회를 제공하는 국가 공공기관이에요. 청소년들이 안전하게 활동에 참여할 수 있도록 청소년활동 관련한 제반 안전관리 교육, 안전 정보 등을 지원하고 있죠. 청소년들에게 직접 활동 프로그램을 제공하고 안내자 역할을 하는 ‘전문가로서의 청소년 지도자’들을 국가적으로 양성하고 교육하는 역할을 하고 있습니다.” 기다렸다는 듯이 막힘없는 설명이 쏟아진다. 아마도 손 이사장이 만나는 사람들 가운데 열에 아홉은 이런 질문을 했을지도 모르겠다. 진흥원은 전국 6개 국립청소년수련원도 운영하고 있다고 했다. 역사·문화(중앙수련원, 충남 천안), 야외·모험(평창수련원, 강원 평창), 우주과학(우주센터, 전남 고흥), 생명과학(농생명센터, 전북 김제), 해양과학(해양센터, 경북 영덕), 산림·ESD(미래환경센터, 경북 봉화)를 주제로 특화 프로그램도 제공한다. 오는 7월에는 부산 을숙도에 국립청소년생태센터가 개원한다. 청소년이사제나 청소년특별회의 등 청소년들이 참여하고 주도하는 프로그램도 수두룩하다. 사회배려청소년의 성장 지원을 위해 대상 맞춤형 프로그램도 개발했다. 건강한 가족문화 지원을 위한 가족 프로그램, 자유학년제와 연계한 진로 프로그램, 청소년 자원봉사, 대면활동 참여가 어려운 청소년을 위한 비대면 실시간 온라인활동 등 대한민국 청소년의 역량 개발 및 성장 지원을 위한 다양한 프로그램을 진행하고 있다. 청소년포상제라는 독특한 프로그램도 있다. 금·은·동장 단계에 맞춘 활동 기간 동안 자기 계발·봉사·탐험(합숙) 영역에서 내용, 목표, 세부 계획을 스스로 정하고 수행하는 자기주도적 활동이다. 그는 전 세계 140여개국이 운영하는 활동인 국제청소년성취포상제 및 우리나라의 청소년자기도전포상제를 설명하더니 “불확실한 미래를 살아가는 청소년들이 스스로 잠재력을 개발하고 문제를 해결하는 삶의 기술을 갖게 되었으면 좋겠다”며 개인적인 바람도 잊지 않았다.●IT업계 경험 살려 AI시대 청소년 지원 인터뷰에 앞서 살펴본 그의 이력으로 보면 그는 아동·청소년 전문가가 아닌 우리나라 정보기술(IT) 업계 1세대 전문가라고 해도 과언이 아닐 인물이었다. 이러한 평가를 뒷받침이라도 하듯 이전 기사를 검색해 보면 2004년에 이미 ‘앞으로는 PC가 아닌 모바일 플랫폼이 커질 것’이라는 점을 누구보다도 앞서 예측했고 ‘이를 위한 연구를 이미 진행하고 있다’는 내용의 인터뷰 기사를 어렵지 않게 찾아볼 수 있었다. 스마트폰의 시작을 연 아이폰의 최초 출시일이 무려 3년이나 지난 2007년이었던 것을 고려한다면 이미 미래를 내다보는 선견지명과 거시적 안목을 갖춘 이 분야의 전문가라는 사실을 단번에 알 수 있을 것이다. 이뿐만 아니라 손 이사장은 숭실대 사회과학대학 정보사회학과 교수라는 어찌 보면 정년이 보장된 안정된 직함을 벗어던지고 2002년 임기가 상대적으로 짧은 한국정보문화센터의 소장직을 수락해 당시 많은 이들을 놀라게 하기도 했다. 사람들은 정부의 관심이 별로 닿지 않는 기관의 고생스러우면서 남들이 그다지 알아주지 않는 수장직을 선택한 그를 두고 뒤에서 무모하고 미련하다며 수군대는 동시에 비아냥거리기까지 했다고 한다. 그러나 그는 그러한 사회적 편견을 깨부수며 강력 펀치를 날리듯 정부와 국회를 끈질기게 설득해 2003년 1월 1일 한국정보문화진흥원(현 한국지능정보사회진흥원)으로 기관을 격상 및 새롭게 재탄생시키고 예산도 전보다 훨씬 늘리면서 해당 기관의 초대 원장으로 임명된다. 게다가 당시 그는 40대 초반을 갓 벗어난 젊은 나이였다. 필자는 이와 관련한 질문들을 이어 나갔다. 환한 미소를 지으며 손 이사장이 입을 뗐다. “한국정보문화진흥원 원장으로서 재직하는 동안 참 뜻깊은 일이 많았다”며 지나간 시간을 반추하는 듯 그는 속도를 좀더 늦춰 말했다. “돌이켜보면 그때는 정말 신바람나게 지치는 줄도 모르고 출퇴근 시간 제대로 구분 없이 사무실 한편에 간이침대 하나 두고서 열정적으로 일했습니다. 직원들도 그 힘든 시기에 뭉쳐 멋진 팀워크를 이루었지요. 1998년 IMF 외환위기 때 구조조정을 당했던 서러움이 있어서 그랬는지는 몰라도 함께 일하는 데 크나큰 시너지가 나며 일이 매우 즐거웠습니다. 직원들과 함께 밤이고 낮이고 불철주야 열심히 노력한 덕분인지, 우리 진흥원이 기획재정부의 정부공공기관 평가에서 2004년부터 문화·국민생활유형 부문 3년 연속 1등을 차지하는 쾌거를 이룩하게 되었습니다. 너무 고맙고 기쁜 나머지 애쓴 직원분들에게 감사의 마음을 담아 제가 받은 성과급으로 금반지를 하나씩 해 드렸어요.” 사비를 털어 직원들에게 금반지를 선물했다고 말하면서 그는 오늘 인터뷰 중 가장 행복한 표정을 지었다. 놀란 필자는 그런 기관장이 일반적으로 흔한 건 아니지 않으냐고 그에게 물었고 그는 다소 쑥스럽다는 듯 “당연히 저 혼자 잘해서 된 게 아니니까요”라며 겸손하게 답했다. 그는 겸연쩍어하며 필자에게 오히려 질문을 던졌다. “지금까지 제가 살아오면서 받았던 선물 중에 가장 값지고 소중한 선물이 뭔지 아십니까? 바로 한국정보문화진흥원 직원들이 만들어 줬던 공로패입니다. 아직도 우리집 현관에 세워 두고 매일 보며 감사의 마음을 가지고 있을 정도예요.” 필자도 괜스레 마음이 따스해지는 듯했다. 고위직 혹은 기관장이란 직함을 제쳐 두고 인간 손연기가 어떠한 성품을 가진 사람인지 단번에 느낄 수 있는 대목이었다.●인성 교육 통해 미래 인재 키워야 한편 이렇게 IT 업계에서 종사한 이력이 현재 한국청소년활동진흥원 이사장직을 수행해 나가는 데 약간의 도움이 된다거나 또는 연계성 같은 게 있는지 묻지 않을 수 없었다. “2000년대 초반 한국정보문화진흥원에서 일하면서 어린 학생들이 인터넷과 게임 중독에 빠져 가정이 불안정해지는 경우를 많이 봤어요. 예를 들어 부모의 만류에도 아이가 컴퓨터를 끄지 않고 계속 사용하는 데 화가 난 부모가 컴퓨터 모니터 선을 끊어 버리자 아이가 정수기 선을 잘라 버렸어요. 아이 아빠가 정수기 선을 고치다가 감전사고로 사망한 겁니다. 극단적인 사례이지만 분명 일어나는 일이에요. 빠르게 발전하는 디지털 기술로 인한 역기능이 심해질 수 있으니 청소년들의 피해를 최소화하기 위해 가이드라인을 제시해 줘야 한다고 생각했습니다.” 그래서 아이들을 인터넷 중독으로부터 보호하고 올바른 사용 습관에 대해 알려 주기 위해 최초로 인터넷중독예방상담센터를 개설했다. 미국 일간지 ‘워싱턴 포스트’와 아랍권 유력 매체인 ‘알자지라’ 같은 해외 유력 언론사들의 주목도 받았다. “이런 경험들이 현재 AI 시대 수많은 ‘스마트 베이비’들의 탄생 속에 한국청소년활동진흥원 이사장직을 수행해 나가는 데 여러 자양분이 되어 주고 있다고 생각한다”고 덧붙였다. 그야말로 하이브리드 인물, 아동·청소년 전문가여야 이 기관 수장으로서 어울릴 것이라고 생각했던 필자의 선입견이 깨지는 순간이기도 했다. 그러한 전문성과 단단한 열정, 확고한 철학, 따스한 품성이 한국청소년활동진흥원의 역할에 더욱 큰 기대를 품게 한다. 그가 인터뷰 말미에 했던 말이 아직도 귓전에 울리는 듯하다. “AI에는 없는 윤리적 문제, 가치 등을 살펴보면 우리가 어떻게 AI의 기술을 이용하느냐에 따라 우리 인간들에게 피해가 갈 수도 있고, 인간의 삶을 윤택하게 할 수도 있다고 생각합니다. 그래서 지금 같은 AI 시대에 대비해 우리 청소년들에게 인류의 가치, 철학, 윤리관에 대한 교육이 더욱 절실한 시기라고 생각합니다. 다시 말해 AI 시대에 우리 청소년들에게 가장 필요한 것은 ‘정확성’이 아닌 ‘인성’이라고 봅니다.” 팝페라 테너

박정율 의협 부회장, 세계의사회 의장 활동 중 세계의사회(WMA)가 한국 정부의 의학대학 정원 증원 결정이 근거 없이 추진됐으며 전공의에 대한 인권 침해가 일어나고 있다고 비판했다. 정부는 WMA의 입장은 “대한의사협회(의협)의 일방적 견해를 대변한 것”이라며 일축했다. 2일 의료계에 따르면 WMA는 지난 1일 성명을 내고 “정부의 일방적인 의대정원 대폭 증원 결정은 충분한 근거 없이 이뤄졌고 의료계에 큰 혼란을 초래했다”고 밝혔다. 이어 “(전공의) 개인의 사직을 막고 학교 입학 조건을 제한하려는 정부의 시도는 잠재적인 인권 침해로 간주해 국가적으로 위험한 선례를 남겼다”고 덧붙였다. 세계의사회는 한국 의협 등 전세계 114개 의사 단체가 참여한다. 박정율 의협 부회장이 지난해 4월 의장(Chair of Council)으로 당선돼 2년 임기로 활동하고 있다. 루자인 알코드마니 WMA 회장은 “이번 조치를 재고하고 의료계에 대한 강압적인 조치를 중단할 것을 한국 정부에 강력히 촉구한다”며 “정의, 인권, 윤리적 의료의 원칙은 협력적으로 접근해야 한다”고 말했다. 이에 보건복지부는 이날 오후 보도설명자료를 내고 “정부는 의료계 등과 130회 이상 충분히 소통하면서 2035년 장기의료수급전망과 40개 의과대학 수요에 기반해 증원 규모를 산출했다”며 WMA의 주장을 반박했다. 복지부는 의사 집단행동 관련 조처에 대해서도 “의료법 등에 따른 정당한 조치이며 업무개시명령 공시 송달 등 적법한 절차에 따라 진행 중”이라고 밝혔다. WMA는 2012년 채택해 2022년 수정한 ‘의사 집단행동 가이드라인’에서 ‘환자에 대한 윤리적 의무를 준수해 집단행동 기간 대중의 피해를 최소화하는 행동이 필요하다’고 권고한 바 있다고 복지부는 지적했다. 정부는 의대 증원에 집단반발해 사직서를 내고 근무지를 이탈한 전공의들에게 지난달 29일을 복귀시한으로 알리고 면허 정지 등 사법절차를 예고했다. 의협은 이에 맞서 오는 3일 서울 여의도 일대에서 전국의사 총궐기대회를 열겠다고 예고했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

청룡의 기운이 충만한 갑진년이다. 용의 해이니 ‘화룡점정’(畵龍點睛)이라는 고사성어가 생각난다. 옛날 중국에서 장승요라는 유명 화가가 큰 사찰의 요청을 받아 하얀 용 네 마리를 벽에 그렸는데 눈동자를 그리지 않았다. 사람들이 다들 의아해하니 눈동자를 그려 넣으면 용이 살아나서 승천할 것이라 말했다. 이 말에 다들 실소를 터트리자 장승요가 네 마리 중 한 마리의 용에 눈동자를 그려 넣었고 그 즉시 천둥번개가 치며 용이 벽에서 뛰쳐나와 하늘로 날아갔다는 얘기다. 고사성어가 대개 그렇듯 초현실적인 이야기이지만 이를 통해 전하고자 하는 메시지는 여전히 유효하다. 마지막을 확실하게 마무리해야 한다는 뜻도 있고, 아주 핵심적인 일을 수행할 수 있는 존재가 돼야 한다는 의미도 있다. 그러나 인공지능(AI)으로 변혁의 한가운데 서 있는 2024년 화룡점정은 또 다른 의미를 전해 준다. 하이테크 분야의 세계적 리서치 업체 ‘포레스터’는 올해를 ‘생성형 AI와 함께하는 진보와 실험의 해’로 규정하면서 챗GPT로 대표되는 생성형 AI가 인류의 삶을 근본적으로 변화시킬 것이라고 전망했다. 단적인 예가 최근 삼성이 내놓은 ‘AI폰’이다. 이제 외국 사람들과 통화를 할 때 잘 이해되지 않는 외국어를 걱정하지 않아도 된다. 이 AI폰이 통역사 역할을 하기 때문에 각자의 모국어로도 의사소통이 가능하게 됐다. 이뿐만이 아니다. 최근 챗GPT에는 음성 기능까지 탑재돼 스마트폰을 켜 놓고 AI와 자유롭게 영어로 대화를 나눌 수도 있다. 대화가 끝나고 나면 영어 표현에 대한 코칭까지 해 준다. 이처럼 AI는 인간의 삶에 물처럼 ‘스며들’ 것이므로 AI 회의론자들조차 부지불식간에 AI에 익숙해질 것이라는 전망들이 이어진다. 이러한 현상들은 우리가 이 갑진년에 거대한 용의 그림이 그려진 벽 앞에 서 있음을 의미한다. AI 기능이 아무리 뛰어나도 아직까지는 인간이 사용하는 도구에 지나지 않는다. 그러나 우리가 AI에게 눈동자를 그려 넣는 순간 인간의 삶 전반에서 창의적이고 충직한 파트너로 진화시킬 수 있다. 그렇다면 우리 인간이 그려 넣어야 할 눈동자는 무엇일까? AI를 진정한 파트너로 진화시키기 위한 인간의 역할은 무엇일까? 크게 네 가지 측면에서 요구되는 역할이 있다. 가장 먼저 AI를 활용하는 데 명확한 윤리적 기준이 확립돼야 할 것이다. 개인 데이터를 보호하고 오남용을 방지하기 위한 법적·도덕적 기준이 그것이다. 두 번째로는 AI가 인류의 다양성을 학습할 수 있도록 해야 한다. 여러 문화와 가치관을 반영한 데이터를 학습시켜 AI가 인류 전체의 다양성을 인식하고 존중할 수 있도록 해야 하는 것이다. 세 번째로는 AI 활용 방법에 대한 교육을 일반화하는 일이다. 그래야 AI가 특정 집단만이 아니라 모든 사람들에게 삶의 파트너로 자리잡게 할 수 있다. 이러한 교육은 단순히 기술적 지식을 넘어 AI와 협력하며 새로운 가치를 창출하는 방법을 배울 수 있도록 설계돼야 한다. 마지막으로 AI의 진화는 모든 이해관계자들 간의 끊임없는 대화와 협력을 통해 이루어져야 할 것이다. 기술 개발자, 사용자, 정책 결정자들이 AI의 미래를 함께 모색하고 방향을 설정해야 한다. 인간이 AI의 눈동자를 그려 넣는다는 것은 기술 발전을 넘어서는 문제다. AI가 우리 삶의 질을 향상시키고 인류 공동의 문제를 해결할 수 있도록 하는 데 필요한 모든 것을 포괄해야 한다. 화룡점정의 해인 갑진년에 우리는 AI와 함께 새로운 지평을 열어 가고 있다. AI가 단순한 도구를 넘어 미래의 파트너로 거듭나도록 하기 위해 우리 인간들은 AI의 ‘눈동자’를 그려 넣는 작업에 다 함께 지혜를 모아야 할 것이다.

지원자를 늘리기 위한 고육책으로 학군사관후보생(ROTC) 선발 필기시험이 도입 15년 만에 폐지된다. 13일 국방부 등에 따르면 육군학생군사학교는 올해부터 ROTC 선발 필기시험을 대학 성적증명서로 대체하기로 했다. 필기시험은 2009년 처음 시행됐다. ROTC 지원자들의 부담을 줄여 지원율을 높이기 위한 것이다. ROTC 경쟁률은 2015년만 해도 4.8대1이었지만 꾸준히 줄어 2022년 2.4대1을 기록했다. 2023년엔 1.6대1까지 떨어지면서 창군 이래 처음으로 후보생을 추가 모집하기도 했다. 지난해까지는 필기시험에서 국사와 인지능력, 직무적성, 상황판단 등을 평가했지만 올해부터는 전 학년 학점, 평균 점수, 백분율 등 대학 성적증명서를 제출하면 된다. 이에 따라 올해 육군 ROTC 선발을 위한 평가 요소는 대학 성적(20%), 수능 또는 고등학교 내신(20%), 면접평가(40%), 체력인증(20%), 신체검사(합격·불합격제), 신원조사 등으로 구성된다. 면접평가도 대면 면접 방식에서 인공지능(AI) 온라인 면접과 대면 면접을 혼합하는 방식으로 전환한다. AI 면접에서는 확고한 윤리의식과 회복탄력성 등 9개 요소를 평가하며, 대면 면접에서는 국가관과 사회성 등을 들여다본다. 인성평가도 서면 검사에서 온라인 검사로 바뀐다. 육군 ROTC는 미국 제도를 본떠 1961년 6월 전국 16개 종합대학에 창설됐다. ROTC는 육군 단기복무장교의 70%를 차지해 국군의 허리로 불린다.

지원자를 늘리기 위한 고육책으로 학군사관후보생(ROTC) 선발 필기시험이 도입 15년 만에 폐지된다. 13일 국방부 등에 따르면 육군학생군사학교는 올해부터 ROTC 선발 필기시험을 대학 성적증명서로 대체하기로 했다. 필기시험은 2009년 처음 시행됐다. ROTC 지원자들의 부담을 줄여 지원율을 높이기 위한 것이다. ROTC 경쟁률은 2015년만 해도 4.8대 1이었지만 꾸준히 줄어 2022년 2.4대 1로 줄었다. 2023년엔 1.6대 1까지 떨어지면서 창군 이래 처음으로 후보생을 추가 모집하기도 했다. 지난해까지 필기시험에선 국사와 인지 능력, 직무 적성, 상황 판단 등을 평가했지만 올해부턴 전 학년 학점, 평균점수, 백분율 등 대학성적증명서를 제출하면 된다. 이에 따라 올해 육군 ROTC 선발을 위한 평가요소는 대학성적(20%), 수능 또는 고등학교 내신(20%), 면접평가(40%), 체력인증(20%), 신체검사(합격·불합격제), 신원조사 등으로 구성된다. 면접평가도 대면 면접 방식에서 인공지능(AI) 온라인 면접과 대면 면접을 혼합하는 방식으로 전환한다. AI 면접에서는 확고한 윤리 의식과 회복탄력성 등 9개 요소를 평가하며, 대면 면접에서는 국가관과 사회성 등을 들여다본다. 인성평가도 서면 검사에서 온라인 검사로 바뀐다. 육군 ROTC는 미국 제도를 본떠 1961년 6월 전국 16개 종합대학에 창설됐다. ROTC는 육군 단기복무장교의 70%를 차지해 국군의 허리로 불린다.

“인공지능(AI) 때문에 일자리가 줄어드는 것은 피할 수 없습니다. 실업을 최소화하면서 인간 역량을 강화하는 방향으로 AI를 발전시켜야 합니다.” 유네스코 세계과학기술윤리위원회 부위원장인 이상욱 한양대 철학과 교수는 6일 서울신문 인터뷰에서 “현재 노동시장의 대부분 일자리가 가까운 미래에 AI 영향을 받을 것”이라며 이렇게 말했다. 특정 직업이 AI로 전부 대체되기보다는 사람이 하던 업무가 바뀌고 투입되는 노동력 양상이 바뀔 것이란 전망이다. 그는 “이르면 2040년, 늦어도 2060년에는 직업별 업무가 달라질 것”이라며 “AI가 도입되더라도 특정 직업이 100% 사라지는 일은 거의 일어나지 않겠지만 ‘업무’는 많이 사라질 것”이라고 예측했다. 예컨대 시험 문제를 내고 채점하는 업무는 AI가 대체하고 교사는 학생들과의 관계에 집중하는 식이다. 어떤 업무가 가장 먼저 대체될까. 그는 AI 입장에서 생각해 보라고 말한다. 그는 “AI에게 쉬운 업무는 기존 데이터가 많고 업무 범위가 명확하며 수행하는 역할의 폭이 좁은 경우”라고 설명했다. 단순 사무직이나 번역, 회계, 단순 코딩, 법률 문서 정리는 AI에겐 식은 죽 먹기다. 이 교수는 “골드만삭스가 2017년 600명의 주식 매매 담당자 가운데 2명만 빼고 해고할 수 있었던 이유”라고 말했다. 반대로 업무 범위가 명확하지 않고 ‘상식’으로 판단하던 일은 AI에게 어렵다. 이 교수는 “대표적인 게 가사노동”이라며 “어디까지가 가사 영역이고 무엇이 빨랫거리인지 상식으로 판단하던 일이 AI에겐 어려울 것”이라고 했다. 또 “사람을 설득하고 팀워크를 유지하는 등 ‘관계’가 필요한 업무는 늘어날 것”이라고 덧붙였다. AI로 대체되기 어려운 직업은 살아남지만 그렇지 않은 일자리는 줄어든다는 의미다. 이 교수는 “통찰력을 갖고 결정을 내리는 소수 관리자 역할은 필요할 테고 이들은 더 많은 연봉을 요구할 것”이라며 “기업이 구조조정 잉여금으로 관리자 연봉을 메우고 나머지 직원들의 임금과 처우는 열악해져 노동시장 전반에는 하향 평준화 가능성이 있다”고 지적했다. 이 교수는 AI로 인한 실업을 인정하고 시스템으로 대응해야 한다고 말한다. 그는 “노동자를 AI로 단순 대체하는 것은 기업이 치러야 할 비용을 무책임하게 전가하는 것”이라며 “실업 급여 등 사회가 책임져야 할 비용은 늘어난다”고 말했다. 사회가 시스템을 가동해야 할 지점은 기업이 AI와 인간을 놓고 저울질할 때다. 이 교수는 “인간 업무를 대체하는 AI가 나왔을 때 무턱대고 인력을 자르기보다 노동자가 AI를 활용해 생산성과 효율성을 높일 수 있는 방법을 고민해야 한다”며 “AI를 통해 노동자 역량을 강화하고 기업 경쟁력을 높이는 방향으로 가야 한다”고 제언했다.

전라남도의회 교육위원회 김진남 부위원장(더불어민주당·순천5)이 대표 발의한 ‘전라남도교육청 생성형 인공지능 활용 지원 조례안’이 1일 열린 제377회 임시회 제2차 본회의에서 최종 심의를 통과했다. 생성형 인공지능(이하 생성형 AI)은 텍스트, 오디오, 이미지 등 기존 콘텐츠를 활용해 다른 콘텐츠를 생성 해내는 기술을 의미한다. 그 중에서도 챗GPT가 많은 이들이 직관적으로 체감할 수 있도록 함으로써 혁신을 직접 경험하고 세계적 관심을 주목시킨 바 있다. 이러한 생성형 AI의 등장으로 교육계 역시 앞으로 바뀌어야 할 방향에 대한 대안 마련의 필요성이 꾸준히 제기되고 있는 실정이다. 조례에는 생성형 AI를 교육 현장에 효과적으로 활용하기 위해 필요한 사항을 규정하고, 학생을 위한 맞춤형 교육 실현과 디지털 기반 교육혁신 및 환경을 구축해 지원하는 내용 등을 담았다. 이같은 필요성에 대해 정당을 떠나 전남도의회 소속 의원 61명이 전원 공감하고 발의에 참여해 의미를 더하고 있다. 특히 김 의원은 디지털 기반 교육혁신을 통한 ‘디지털 교육 대전환’이라는 교육부 기조로 추진되고 있는 교실의 변화와 김대중 전남교육감의 전남교육 기본방향인 ‘함께 여는 미래, 탄탄한 전남교육’에 발맞춰 교육 현장에 안착될 수 있는 기반을 마련했다는 평가를 받았다. 김 의원은 “생성형 AI는 업무 효율을 높이고, 전문영역의 창작 등 수많은 영역의 신세계를 경험하게 하고 날로 고도화되고 있는 등 여러 다양한 분야에서 활용될 수 있다”며 “교육 및 사회 전반에 편리함과 동시에 여러 가지 교육적 이슈가 지속적으로 등장하고 있어 필요성이 제기되고 있다”고 언급했다. 이어 “어제 본회의에서 김영록 도지사님과 김대중 교육감님께서도 필요성을 언급할 만큼 중요성이 커지고 있다”며 “생성형 AI가 가져올 미래에 대한 기대와 우려가 교차하는 가운데 본 조례 제정을 통해 미래 교실혁명을 이끌고 윤리적 문제를 사전에 방지할 수 있길 기대한다”고 전했다. 한편 전남교육청에서는 본 조례를 통해 생성형 AI와 관련한 구체적인 교육 방침을 마련해 시행할 예정이다.

“인공지능(AI)의 발달로 블랙 해커(비윤리적 해커)들이 악성코드를 찍어 내는 속도가 전보다 100배는 빨라졌습니다. ” 지난 25일 서울 여의도에서 금융보안원의 금융 전문 모의 해킹 조직 ‘레드 아이리스’의 정영석(50) 팀장, 김현민(38) 수석을 만났다. 두 사람이 이끄는 레드 아이리스는 30명 안팎의 화이트 해커(윤리적 해커)로 구성된 팀이다. 이들은 마치 은행, 증권사, 보험사 등 금융사를 노리는 블랙 해커처럼 실제로 해킹 공격을 한다. 해킹 과정에서 드러난 취약점을 해당 금융사에 알려 주고 보안을 강화하기 위해서다. 최근 해커들의 공격 방식은 전과 비교할 수 없이 고도화, 정교화됐다는 것이 김 수석의 설명이다. 그는 “천재적인 해커 한 명이 온갖 방어를 뚫는 것은 옛날 얘기다. 요즘 해커들은 조직적으로 움직인다”면서 “표적을 정해 아주 오랜 기간 집요하게 공격하는데 상대 측이 공격당하는 줄도 모를 정도로 해킹은 은밀하게 이뤄진다. 우리가 얘기를 나누는 이 순간에도 누군가는 공격받고 있다”고 말했다. 그는 인터넷 전화기로도 해킹이 가능하다고 설명했다. 김 수석은 “금융사 모의 해킹 중 인터넷 전화기를 해킹해 내부망에 접속한 적이 있었다. 또 각 사무실에 설치된 인터넷 전화기로 녹취도 가능했다”면서 “해커들은 상상할 수 없는 갖가지 방식을 동원한다. 보안 담당자 혼자서는 다 막기 어렵다. 구성원 전체의 보안 의식이 필요하다”고 말했다. 정 팀장은 가장 큰 해킹 위협으로 ‘공급망 공격’을 꼽았다. 공급망 공격이란 타깃으로 삼은 기업, 기관 등이 평소 사용하는 소프트웨어 설치 및 업데이트 과정에 몰래 끼어들어 악성코드를 심는 방식이다. 해킹 대상이 된 기업이나 기관 입장에서는 늘 사용하는 소프트웨어를 업데이트하다가 해킹당하게 되는 것이다. 그는 “북한 해커들이 자주 쓰는 수법”이라면서 “서버를 관리하는 소프트웨어 하나가 감염되면 서버 1000개가 단숨에 뚫릴 수 있어 우리도 예의 주시하고 있다”고 밝혔다. AI의 발달로 해킹 위협은 점점 더 커지고 있다. 김 수석에 따르면 과거에는 해커들이 특정 사이트 등을 공격할 때 쓰는 악성코드 하나를 만드는 데 약 1개월까지 걸렸다. 그러나 AI의 도움을 받으면 순식간에 악성코드를 만들 수 있다. 김 수석은 “해커 입장에선 무기를 아주 빠르게 조달할 수 있게 된 것”이라고 설명했다. 그는 “우리 팀도 AI로 악성코드를 여럿 만들고 다양한 해킹 방법에 대비한다. 결국 AI를 어떻게 활용하느냐의 문제”라고 말했다. 두 사람의 꿈은 레드 아이리스를 우리나라 대표 모의 해킹 조직으로 키우는 것이다. 정 팀장은 “인력과 예산이 모자라다 보니 한 해 점검할 수 있는 금융사는 20곳 정도”라면서 “조직이 커지면 더 많은 금융사를 도울 수 있는 만큼 레드 아이리스에 대한 더 많은 관심과 지원이 필요하다”고 말했다.

인간 지능 수준의 인공일반지능(AGI) 시대가 곧 다가올 것인가. 국내 인공지능(AI) 전문가들은 AI 기술 발전 속도가 굉장히 빠르다는 데는 동의하면서도 수년 내 인간 지능 수준을 뛰어넘을 수 있을지에 대해선 의견이 엇갈렸다. 이홍락(47) LG AI연구원 최고AI과학자(CSAI)는 23일 “AI를 통한 코딩 자동화는 소프트웨어(SW) 개발의 효율성을 크게 향상시키고, 이는 다시 AI 모델과 애플리케이션의 발전 속도를 더 빠르게 한다”고 말했다. AI의 자가학습 능력이 AI 발전을 더 가속화한다는 설명이다. 다만 “AGI까지 갈 길은 아직 먼 상황”이라고 짚었다. 현재의 AI 기술은 주로 인간의 지시에 의존하며 완성도 면에서도 한계가 있기 때문이다. 이 CSAI는 “AGI 시대로 가려면 상당히 많은 기술 개발과 윤리적 사용을 위한 사회적 합의, 인간의 삶을 더 풍요롭게 할 수 있는 제도적 장치 등의 논의가 필요하다”고 강조했다. AI 포털 서비스 기업 뤼튼테크놀로지스의 김태호(26) 공동창업자 겸 이사도 “AI 기술 발전 속도가 빠른 것은 분명하지만 마라톤 경기에 비유하면 100m를 지난 시점”이라면서 “AI의 르네상스도 이제 막 시작됐다”고 말했다. “AI가 빠르게 연산하거나 글을 작성하는 능력은 평균적인 인간을 넘어선 것으로 보이지만 이게 인간 지능의 전부는 아니다”라는 게 김 이사의 설명이다. 그는 “기술이 그 가치를 발휘하는 시기는 사람에게 쓰임을 받기 시작할 때”라면서 “생성형 AI를 활용해 개개인에게 특화된 AI 기술 개발이 본격화될 것”이라고 내다봤다. AI가 아직 인간의 지능을 뛰어넘는 ‘티핑 포인트’에 도달하진 못했지만 현재의 기술 속도로 보면 몇 년 안 걸릴 것이란 주장도 있다. 대규모언어모델(LLM)을 자체 개발한 AI 스타트업 업스테이지의 최홍준(44) 부사장은 “AI가 자연어 처리, 이미지·음성 인식 등에선 인간 수준의 성능을 달성하고 있다”면서 “인간의 추상적 사고, 도덕적 판단, 문맥 이해 등에선 한계를 갖고 있지만 현재 속도로 봤을 때 수년 내 인간 지능을 뛰어넘을 수 있을 거라 생각한다”고 말했다. 최 부사장은 “기술 발전을 통제할 수 있는 장치를 빠르게 도입해야 한다”면서도 “과연 AI 규제를 통해 ‘통제가 가능할까’에 대해선 확신하기 어렵다”고 했다. 이어 “이럴 때는 오히려 AI 대 AI의 구도로 기술 개발을 통한 통제를 하는 것도 방법일 수 있다”고 제안했다.

인공지능(AI)이 지난 9~12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024에 이어 지난주 세계경제포럼(WEF·다보스포럼)에서도 화두로 떠오르면서 AI가 바꿔놓을 미래에 대한 관심도 커지고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 다보스포럼에서 인간 수준의 일을 처리하는 인공일반지능(AGI) 상용화를 앞두고 많은 고민과 준비가 필요하다고 했다. 과연 AGI 시대가 조만간 현실화될 것인가. 국내 대표 AI 연구자인 이홍락(47) LG AI연구원 최고AI과학자(CSAI)는 23일 “최근 AI의 급격한 발전에도 불구하고 AGI까지 갈 길은 아직 먼 상황”이라고 말했다. 그는 “(일종의 AI 비서인) AI 에이전트를 통해 사람의 일을 좀 더 편하게 만들어주고, AI가 스스로 알아서 인간의 삶의 질을 높여주는 기술과 제품이 하나씩 단계별로 나오고 있다”면서도 “현재의 AI 기술은 주로 인간의 지시에 의존하며 완성도 면에서도 한계를 가지고 있다”고 말했다. 이 CSAI는 국제전기전자공학회가 선정한 ‘세계 10대 AI 연구자’로 구글 AI 연구조직 ‘구글브레인’을 거쳐 2020년 LG AI연구원에 합류했다.AGI 시대가 언제쯤 도래할 것인지에 대해서는 미국 내에서도 의견이 분분하다. AI 반도체 개발사 엔비디아의 젠슨 황 CEO와 일론 머스크 테슬라 CEO는 AGI 수준에 도달할 시점으로 각각 ‘5년 후’, ‘3년 이내’라고 예측했지만, 얀 르쿤 메타 부사장 겸 수석 AI과학자는 “예상하는 것보다 더 오래 걸릴 수 있다”고 전망했다. 구글 딥마인드 공동설립자 무스타파 술레이만도 최근 저서 ‘더 커밍 웨이브’에서 “사람들은 스위치 하나만 누르면 AGI가 바로 실현될 수 있는 것처럼 생각했다”며 “오히려 AI 시스템이 점점 더 많은 기능을 갖추면서 AGI를 향해 꾸준히 나아가는 점진적인 전환이라고 생각한다”고 설명했다. 이 CSAI도 AGI에 대해선 신중론에 가까운 편이다. 그는 “향후 AI는 더 적극적이고 자동으로 정보를 처리하고 실행하는 방향으로 발전할 것으로 기대된다”면서 “이러한 발전은 사회와 산업에 더 큰 파급효과를 가져올 것”이라고 내다봤다. 그러면서 “AGI 시대로 가려면 상당히 많은 기술 개발과 윤리적 사용을 위한 사회적 합의, 인간의 삶을 더 풍요롭게 할 수 있는 제도적 장치 등의 논의가 필요하다”고 강조했다.“전문가 수준 지식 부족·환각 현상 한계”비판적 시각 갖추고 적절한 피드백 줘야 기술 발전 속도는 AI의 ‘자가 학습 능력’을 통해 더 빨라지고 있다는 게 이 CSAI의 설명이다. 그는 “AI를 통한 코딩 자동화는 소프트웨어(SW) 개발의 효율성을 크게 항상시키고, 이는 다시 AI 모델과 애플리케이션의 발전 속도를 더 빠르게 한다”고 말했다. 이어 “AI 모델이 고품질의 데이터를 자체적으로 생성하고 이를 통해 스스로 학습하면서 성능을 개선하는 새로운 방법들이 개발되고 있다”고 덧붙였다. 이 CSAI는 AI 기술이 발전할수록 이를 활용하는 인간의 역량도 중요하다고 봤다. 그는 “현재 생성형 AI는 글쓰기와 같은 분야에서 뛰어난 능력을 보이지만 전문가 수준의 지식이 부족하고 ‘환각 현상’(할루시네이션·AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)과 같은 한계를 갖고 있다”면서 “사용자가 AI의 결과물에 대해 비판적인 시각을 갖고, AI가 정확하고 유용한 결과를 제공할 수 있게 적절한 피드백을 제공하는 역할이 중요하다”고 힘줘 말했다. 이 CSAI는 “사용자의 피드백은 AI 모델을 향상시키는 데 사용될 수 있고, 이러한 상호작용은 AI와 인간의 협력이 어떻게 지속적인 시너지를 내는지를 보여준다”면서 “결국 AI 기술의 효과적인 활용과 발전은 사용자의 책임감 있는 접근과 지속적인 협력 과정에 달려 있다”고 설명했다.