생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

“예전에는 ‘다시 태어나도 바둑을 배울 거고 프로기사도 꼭 할 것 같다’고 긍정적으로 얘기했었어요. 인공지능(AI) 알파고가 나온 뒤로는 생각이 달라졌습니다. 다시 태어나면 바둑은 그냥 즐기면서 배우되 아마 다른 쪽, AI를 만드는 쪽도 괜찮을 것 같습니다.” 인공지능(AI) 알파고와 2016년 ‘세기의 대국’을 펼친 이세돌 9단이 19일 구글코리아가 창립 20주년을 기념해 공개한 인터뷰 영상에서 근황과 AI가 바둑계에 미친 영향, AI 기술 발전에 관한 생각 등을 밝혔다. 이세돌은 2016년 구글 딥마인드의 바둑 AI 프로그램인 알파고와 대결했다. 이세돌은 1승 4패로 대국을 마무리했다. 2019년 은퇴한 이세돌은 “AI가 은퇴에 많은 부분을 차지했다”면서 “은퇴 이후 생성형 인공지능을 비롯해 보드게임 등 다양한 분야에 관심을 가지고 있다”고 근황을 전했다. 그는 알파고와의 대국에 대해 “바둑에서 ‘승부 호흡’이라고 하는 게 있는데 (알파고는) 그런 게 전혀 없었다. 마치 벽에다가 테니스하는 느낌이 들었다”면서 “그 당시 ‘좀 곤란한데’라고 생각할 정도로 너무 잘 뒀다”고 회고했다. 이세돌은 AI로 인해 바둑을 배우는 과정에도 변화가 생겼다고 했다. 그는 “예전에는 혼자서 고민하고 둘이 만나 하나의 작품을 만들어내는 그런 예술로 (바둑을) 배웠는데 어느 순간 AI를 보면서 (바둑을) 배운다는 게 정답지를 보는 것 같다”면서도 “알파고가 나오기 전의 기보와 지금의 기보는 완전 다르다. AI의 기보가 내용상으로는 훨씬 위”라고 말했다. 이세돌은 공공의 선이 AI 개발의 핵심 원칙과 기준이 돼야 한다고 강조했다. 그는 “우리가 살아갈 세상에서는 AI가 너무 필요하기 때문에 속도를 조절하고 확실한 원칙을 가지고 윤리적인 문제를 해결하는 방향으로 가야 한다”면서도 “AI를 벌써 두려워하는 시각으로 바라봐서는 안 된다고 생각한다”고 말했다.

불과 5년 전인 2019년 2월 22일, 무인 우주 탐사선이 달 주위 궤도에 배치되었다. 베레시트라는 이름으로 이스라엘 민간단체인 스페이스일(SpaceIL)과 이스라엘 항공우주산업(IAI)가 개발한 이 우주선은 연착륙을 수행하는 최초의 민간 우주선이 될 예정이었다. 탐사선의 탑재체 중에는 최악의 혹독한 환경에서도 생존할 수 있는 능력으로 유명한 완보동물이 있었다.​ 우주선의 방향을 파악하여 모터를 적절하게 제어하기 위한 ‘별 추적기’ 카메라가 작동하지 않아 임무는 시작부터 문제에 부딪혔다. 관제 센터가 일부 문제를 해결할 수 있었지만, 착륙 당일인 4월 11일에는 상황이 더욱 악화되었다.​ 달로 가는 도중에 우주선은 빠른 속도로 날아가고 있었기 때문에 연착륙하려면 속도를 상당히 줄여야 했다. 불행하게도 제동 조작 중에 자이로스코프가 고장나서 주 엔진이 막히고 말았다. ​ 150m 고도에서 베레시트는 시속 500km의 속도로 움직이고 있었는데, 이는 연착륙하기에는 너무 빠른 속도였다. 충격은 강력했다. 탐사선은 산산조각이 나고 잔해는 약 100m 거리까지 흩어졌다. 이 장소는 4월 22일 미 항공우주국(NASA)의 달정찰궤도선(LRO)에 의해 촬영되었다.​ 최강의 생존력을 가진 완보동물 그렇다면 탐사선을 타고 달까지 여행하던 완보동물들은 어떻게 되었을까? 완보동물은 이제껏 알려진 생명체 중 최강의 생명체로, 영하 273℃, 영상 151℃에서도 생존할 수 있으며, 생물에게 치명적인 농도의 방사성 물질 1,000배에 달하는 양에 노출되어도 죽지 않는 동물이다.이같은 놀라운 생존력을 고려할 때, 그들이 과연 달에서도 살 수 있을까? 어쩌면 그들이 번식하고 달에 정착할 수 있을는지도 모른다.​ 완보동물은 길이가 1mm 미만인 작은 동물이다. 뉴런, 접을 수 있는 코 끝에 열린 입, 미생물군을 포함하는 창자, 발톱으로 끝나는 관절이 없는 4쌍의 다리를 갖고 있으며, 대부분 눈이 2개 있다. 크기는 작지만 곤충이나 거미류와 같은 절지동물과 공통 조상을 공유한다.​ 대부분의 완보동물은 수생 환경에 살지만, 도시 환경에서도 발견될 수 있다. 활동적으로 클로렐라와 같은 미세조류를 먹고 움직이고 성장한다. 번식하려면 완보동물이 물막으로 둘러싸여 있어야 한다. 그들은 처녀생식을 통해 유성 또는 무성생식으로 번식하거나, 심지어 자웅동체를 통해 자가 수정으로 번식한다. 알이 부화되면 완보동물의 활동적인 수명은 3개월에서 30개월까지 지속된다. 지구상에 총 1,265종의 종이 기술되어 있다.​ 완보동물은 최악의 환경에서도 생존하는 동물로 유명하다. 그들은 체수분의 최대 95%를 잃으면 스스로 신진대사를 중단시키고 동면에 들어간다. 탈수 과정에서 완보동물은 몸을 정상 크기의 절반으로 줄일 수 있으며, 다리는 사라지고 발톱만 남게 된다. 크립토바이오시스(cryptobiosis)라고 알려진 이 상태는 생활조건이 다시 좋아질 때까지 지속되다가 깨어난다. 달에 간 완보동물은 살았을까, 죽었을까? 그렇다면 완보동물이 달에 추락한 후 어떻게 되었을까? 완보동물이 탐사선의 추락 충격으로 죽지는 않았을 게 분명하니까, 그중 달의 표토 몇 미터에서 수십 미터 깊이까지 다양한 먼지층 아래 묻혀서 아직도 생존하고 있을까?​ 달의 표면은 태양 입자와 우주선, 특히 감마선으로부터 보호되지 않지만, 그래도 완보동물은 너끈히 살 수 있다. 실제로 독일 킬 대학 교수인 로베르 비머-슈바인그루버와 그의 팀은 달 표면에 닿는 감마선의 양이 영구적이지만 총 선량은 약 1 Gy로 낮은 수준이다.​ 하지만 달에는 다른 문제도 있다. 완보동물은 물 부족과 더불어 밤에는 -170~-190°C, 낮에는 100~120°C의 온도를 견뎌야 한다. 달의 낮이나 밤은 지구의 15일 미만으로 오래 지속된다. 불행하게도 완보동물은 액체 물, 산소, 미세조류의 부족 문제만은 극복할 수 없다. 결코 재활성화할 수 없고, 번식도 불가능하다. 따라서 그들의 달 식민지화는 불가능하다. ​ 또한 생명체를 외계 천체로 보는 데는 윤리적 문제가 있다고 에딘버러 대학의 생태학자 매튜 실크가 지적했다. 더욱이 우주탐사가 활발해지는 시기에 다른 천체를 지구 물질로 오염시킨다면 외계 생명체를 발견할 기회를 잃게 될 수도 있다.

“인공지능(AI) 시대 우리 청소년들에게 가장 필요한 것은 ‘정확성’ 아닌 ‘인성’입니다.” 최근 ‘2024 강원 동계청소년올림픽대회’가 14일간의 열전을 마무리하고 성황리에 대단원의 막을 내렸다. 지난해 ‘제25회 새만금 세계스카우트잼버리’의 실패와 그에 따른 혹평으로 인해 국제대회 운영 능력에 대한 편견이 생긴 터였다. 어쩌면 이번 청소년올림픽을 바라보는 시선에 약간 다른 요소가 들어가 있었을지도 모르겠다. 다행히도 새만금잼버리대회를 반면교사로 삼아 정부 역량을 총결집해 국제올림픽위원회(IOC)의 찬사는 물론 기대 이상의 흥행도 기록했다. 두 개의 굵직한 국제행사가 더더욱 중요하게 다가왔던 건 지구촌 미래의 세대인 청소년들이 주인공이었기 때문이다. 한편으론 그들에게 상처를 주었고 또 다른 한편에선 영광을 안겨 주며 상반된 기억을 남긴 이 사회는 미래를 위한 준비가 돼 있다고 말할 수 있을까. 긍정적인 답을 찾고 싶은 간절한 마음으로 손연기(66) 한국청소년활동진흥원(KYWA) 이사장을 ‘임의 동행’ 코너를 통해 만났다.손 이사장에 대한 첫인상은 그가 한국정보문화진흥원 원장으로 재임하던 시절부터 지금까지 국내 한 언론사에 자신의 이름을 내걸고 연재하고 있는 고정 칼럼 시리즈를 통해 새겨졌다. AI와 생성형 AI 챗GPT, 메타버스, 4차 산업혁명 등의 최첨단 흐름을 현재의 시대적 상황과 접목하는 것은 물론 최근에는 한국 청소년들의 문화와 비전에까지 범위를 넓혀 기고하고 있는 그의 글들은 여러 정보와 일말의 영감까지 필자에게 선사해 주곤 했다.●청소년활동진흥원의 맞춤 프로그램 서울 서대문구에 위치한 한국청소년활동진흥원에서 만난 손 이사장은 연구에 매진하는 학자 캐릭터, 정갈하고 빈틈없는 완벽주의자의 전형이랄까…. 왠지 익숙한 듯한 모습의 그에게 다소 낯선 청소년활동진흥원에 대한 소개를 먼저 부탁했다. “저희 한국청소년활동진흥원은 우리 청소년들에게 학교 교육 이외에 다양한 공간에서 직접 체험활동을 할 수 있도록 다양한 정보와 기회를 제공하는 국가 공공기관이에요. 청소년들이 안전하게 활동에 참여할 수 있도록 청소년활동 관련한 제반 안전관리 교육, 안전 정보 등을 지원하고 있죠. 청소년들에게 직접 활동 프로그램을 제공하고 안내자 역할을 하는 ‘전문가로서의 청소년 지도자’들을 국가적으로 양성하고 교육하는 역할을 하고 있습니다.” 기다렸다는 듯이 막힘없는 설명이 쏟아진다. 아마도 손 이사장이 만나는 사람들 가운데 열에 아홉은 이런 질문을 했을지도 모르겠다. 진흥원은 전국 6개 국립청소년수련원도 운영하고 있다고 했다. 역사·문화(중앙수련원, 충남 천안), 야외·모험(평창수련원, 강원 평창), 우주과학(우주센터, 전남 고흥), 생명과학(농생명센터, 전북 김제), 해양과학(해양센터, 경북 영덕), 산림·ESD(미래환경센터, 경북 봉화)를 주제로 특화 프로그램도 제공한다. 오는 7월에는 부산 을숙도에 국립청소년생태센터가 개원한다. 청소년이사제나 청소년특별회의 등 청소년들이 참여하고 주도하는 프로그램도 수두룩하다. 사회배려청소년의 성장 지원을 위해 대상 맞춤형 프로그램도 개발했다. 건강한 가족문화 지원을 위한 가족 프로그램, 자유학년제와 연계한 진로 프로그램, 청소년 자원봉사, 대면활동 참여가 어려운 청소년을 위한 비대면 실시간 온라인활동 등 대한민국 청소년의 역량 개발 및 성장 지원을 위한 다양한 프로그램을 진행하고 있다. 청소년포상제라는 독특한 프로그램도 있다. 금·은·동장 단계에 맞춘 활동 기간 동안 자기 계발·봉사·탐험(합숙) 영역에서 내용, 목표, 세부 계획을 스스로 정하고 수행하는 자기주도적 활동이다. 그는 전 세계 140여개국이 운영하는 활동인 국제청소년성취포상제 및 우리나라의 청소년자기도전포상제를 설명하더니 “불확실한 미래를 살아가는 청소년들이 스스로 잠재력을 개발하고 문제를 해결하는 삶의 기술을 갖게 되었으면 좋겠다”며 개인적인 바람도 잊지 않았다.●IT업계 경험 살려 AI시대 청소년 지원 인터뷰에 앞서 살펴본 그의 이력으로 보면 그는 아동·청소년 전문가가 아닌 우리나라 정보기술(IT) 업계 1세대 전문가라고 해도 과언이 아닐 인물이었다. 이러한 평가를 뒷받침이라도 하듯 이전 기사를 검색해 보면 2004년에 이미 ‘앞으로는 PC가 아닌 모바일 플랫폼이 커질 것’이라는 점을 누구보다도 앞서 예측했고 ‘이를 위한 연구를 이미 진행하고 있다’는 내용의 인터뷰 기사를 어렵지 않게 찾아볼 수 있었다. 스마트폰의 시작을 연 아이폰의 최초 출시일이 무려 3년이나 지난 2007년이었던 것을 고려한다면 이미 미래를 내다보는 선견지명과 거시적 안목을 갖춘 이 분야의 전문가라는 사실을 단번에 알 수 있을 것이다. 이뿐만 아니라 손 이사장은 숭실대 사회과학대학 정보사회학과 교수라는 어찌 보면 정년이 보장된 안정된 직함을 벗어던지고 2002년 임기가 상대적으로 짧은 한국정보문화센터의 소장직을 수락해 당시 많은 이들을 놀라게 하기도 했다. 사람들은 정부의 관심이 별로 닿지 않는 기관의 고생스러우면서 남들이 그다지 알아주지 않는 수장직을 선택한 그를 두고 뒤에서 무모하고 미련하다며 수군대는 동시에 비아냥거리기까지 했다고 한다. 그러나 그는 그러한 사회적 편견을 깨부수며 강력 펀치를 날리듯 정부와 국회를 끈질기게 설득해 2003년 1월 1일 한국정보문화진흥원(현 한국지능정보사회진흥원)으로 기관을 격상 및 새롭게 재탄생시키고 예산도 전보다 훨씬 늘리면서 해당 기관의 초대 원장으로 임명된다. 게다가 당시 그는 40대 초반을 갓 벗어난 젊은 나이였다. 필자는 이와 관련한 질문들을 이어 나갔다. 환한 미소를 지으며 손 이사장이 입을 뗐다. “한국정보문화진흥원 원장으로서 재직하는 동안 참 뜻깊은 일이 많았다”며 지나간 시간을 반추하는 듯 그는 속도를 좀더 늦춰 말했다. “돌이켜보면 그때는 정말 신바람나게 지치는 줄도 모르고 출퇴근 시간 제대로 구분 없이 사무실 한편에 간이침대 하나 두고서 열정적으로 일했습니다. 직원들도 그 힘든 시기에 뭉쳐 멋진 팀워크를 이루었지요. 1998년 IMF 외환위기 때 구조조정을 당했던 서러움이 있어서 그랬는지는 몰라도 함께 일하는 데 크나큰 시너지가 나며 일이 매우 즐거웠습니다. 직원들과 함께 밤이고 낮이고 불철주야 열심히 노력한 덕분인지, 우리 진흥원이 기획재정부의 정부공공기관 평가에서 2004년부터 문화·국민생활유형 부문 3년 연속 1등을 차지하는 쾌거를 이룩하게 되었습니다. 너무 고맙고 기쁜 나머지 애쓴 직원분들에게 감사의 마음을 담아 제가 받은 성과급으로 금반지를 하나씩 해 드렸어요.” 사비를 털어 직원들에게 금반지를 선물했다고 말하면서 그는 오늘 인터뷰 중 가장 행복한 표정을 지었다. 놀란 필자는 그런 기관장이 일반적으로 흔한 건 아니지 않으냐고 그에게 물었고 그는 다소 쑥스럽다는 듯 “당연히 저 혼자 잘해서 된 게 아니니까요”라며 겸손하게 답했다. 그는 겸연쩍어하며 필자에게 오히려 질문을 던졌다. “지금까지 제가 살아오면서 받았던 선물 중에 가장 값지고 소중한 선물이 뭔지 아십니까? 바로 한국정보문화진흥원 직원들이 만들어 줬던 공로패입니다. 아직도 우리집 현관에 세워 두고 매일 보며 감사의 마음을 가지고 있을 정도예요.” 필자도 괜스레 마음이 따스해지는 듯했다. 고위직 혹은 기관장이란 직함을 제쳐 두고 인간 손연기가 어떠한 성품을 가진 사람인지 단번에 느낄 수 있는 대목이었다.●인성 교육 통해 미래 인재 키워야 한편 이렇게 IT 업계에서 종사한 이력이 현재 한국청소년활동진흥원 이사장직을 수행해 나가는 데 약간의 도움이 된다거나 또는 연계성 같은 게 있는지 묻지 않을 수 없었다. “2000년대 초반 한국정보문화진흥원에서 일하면서 어린 학생들이 인터넷과 게임 중독에 빠져 가정이 불안정해지는 경우를 많이 봤어요. 예를 들어 부모의 만류에도 아이가 컴퓨터를 끄지 않고 계속 사용하는 데 화가 난 부모가 컴퓨터 모니터 선을 끊어 버리자 아이가 정수기 선을 잘라 버렸어요. 아이 아빠가 정수기 선을 고치다가 감전사고로 사망한 겁니다. 극단적인 사례이지만 분명 일어나는 일이에요. 빠르게 발전하는 디지털 기술로 인한 역기능이 심해질 수 있으니 청소년들의 피해를 최소화하기 위해 가이드라인을 제시해 줘야 한다고 생각했습니다.” 그래서 아이들을 인터넷 중독으로부터 보호하고 올바른 사용 습관에 대해 알려 주기 위해 최초로 인터넷중독예방상담센터를 개설했다. 미국 일간지 ‘워싱턴 포스트’와 아랍권 유력 매체인 ‘알자지라’ 같은 해외 유력 언론사들의 주목도 받았다. “이런 경험들이 현재 AI 시대 수많은 ‘스마트 베이비’들의 탄생 속에 한국청소년활동진흥원 이사장직을 수행해 나가는 데 여러 자양분이 되어 주고 있다고 생각한다”고 덧붙였다. 그야말로 하이브리드 인물, 아동·청소년 전문가여야 이 기관 수장으로서 어울릴 것이라고 생각했던 필자의 선입견이 깨지는 순간이기도 했다. 그러한 전문성과 단단한 열정, 확고한 철학, 따스한 품성이 한국청소년활동진흥원의 역할에 더욱 큰 기대를 품게 한다. 그가 인터뷰 말미에 했던 말이 아직도 귓전에 울리는 듯하다. “AI에는 없는 윤리적 문제, 가치 등을 살펴보면 우리가 어떻게 AI의 기술을 이용하느냐에 따라 우리 인간들에게 피해가 갈 수도 있고, 인간의 삶을 윤택하게 할 수도 있다고 생각합니다. 그래서 지금 같은 AI 시대에 대비해 우리 청소년들에게 인류의 가치, 철학, 윤리관에 대한 교육이 더욱 절실한 시기라고 생각합니다. 다시 말해 AI 시대에 우리 청소년들에게 가장 필요한 것은 ‘정확성’이 아닌 ‘인성’이라고 봅니다.” 팝페라 테너

박정율 의협 부회장, 세계의사회 의장 활동 중 세계의사회(WMA)가 한국 정부의 의학대학 정원 증원 결정이 근거 없이 추진됐으며 전공의에 대한 인권 침해가 일어나고 있다고 비판했다. 정부는 WMA의 입장은 “대한의사협회(의협)의 일방적 견해를 대변한 것”이라며 일축했다. 2일 의료계에 따르면 WMA는 지난 1일 성명을 내고 “정부의 일방적인 의대정원 대폭 증원 결정은 충분한 근거 없이 이뤄졌고 의료계에 큰 혼란을 초래했다”고 밝혔다. 이어 “(전공의) 개인의 사직을 막고 학교 입학 조건을 제한하려는 정부의 시도는 잠재적인 인권 침해로 간주해 국가적으로 위험한 선례를 남겼다”고 덧붙였다. 세계의사회는 한국 의협 등 전세계 114개 의사 단체가 참여한다. 박정율 의협 부회장이 지난해 4월 의장(Chair of Council)으로 당선돼 2년 임기로 활동하고 있다. 루자인 알코드마니 WMA 회장은 “이번 조치를 재고하고 의료계에 대한 강압적인 조치를 중단할 것을 한국 정부에 강력히 촉구한다”며 “정의, 인권, 윤리적 의료의 원칙은 협력적으로 접근해야 한다”고 말했다. 이에 보건복지부는 이날 오후 보도설명자료를 내고 “정부는 의료계 등과 130회 이상 충분히 소통하면서 2035년 장기의료수급전망과 40개 의과대학 수요에 기반해 증원 규모를 산출했다”며 WMA의 주장을 반박했다. 복지부는 의사 집단행동 관련 조처에 대해서도 “의료법 등에 따른 정당한 조치이며 업무개시명령 공시 송달 등 적법한 절차에 따라 진행 중”이라고 밝혔다. WMA는 2012년 채택해 2022년 수정한 ‘의사 집단행동 가이드라인’에서 ‘환자에 대한 윤리적 의무를 준수해 집단행동 기간 대중의 피해를 최소화하는 행동이 필요하다’고 권고한 바 있다고 복지부는 지적했다. 정부는 의대 증원에 집단반발해 사직서를 내고 근무지를 이탈한 전공의들에게 지난달 29일을 복귀시한으로 알리고 면허 정지 등 사법절차를 예고했다. 의협은 이에 맞서 오는 3일 서울 여의도 일대에서 전국의사 총궐기대회를 열겠다고 예고했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

청룡의 기운이 충만한 갑진년이다. 용의 해이니 ‘화룡점정’(畵龍點睛)이라는 고사성어가 생각난다. 옛날 중국에서 장승요라는 유명 화가가 큰 사찰의 요청을 받아 하얀 용 네 마리를 벽에 그렸는데 눈동자를 그리지 않았다. 사람들이 다들 의아해하니 눈동자를 그려 넣으면 용이 살아나서 승천할 것이라 말했다. 이 말에 다들 실소를 터트리자 장승요가 네 마리 중 한 마리의 용에 눈동자를 그려 넣었고 그 즉시 천둥번개가 치며 용이 벽에서 뛰쳐나와 하늘로 날아갔다는 얘기다. 고사성어가 대개 그렇듯 초현실적인 이야기이지만 이를 통해 전하고자 하는 메시지는 여전히 유효하다. 마지막을 확실하게 마무리해야 한다는 뜻도 있고, 아주 핵심적인 일을 수행할 수 있는 존재가 돼야 한다는 의미도 있다. 그러나 인공지능(AI)으로 변혁의 한가운데 서 있는 2024년 화룡점정은 또 다른 의미를 전해 준다. 하이테크 분야의 세계적 리서치 업체 ‘포레스터’는 올해를 ‘생성형 AI와 함께하는 진보와 실험의 해’로 규정하면서 챗GPT로 대표되는 생성형 AI가 인류의 삶을 근본적으로 변화시킬 것이라고 전망했다. 단적인 예가 최근 삼성이 내놓은 ‘AI폰’이다. 이제 외국 사람들과 통화를 할 때 잘 이해되지 않는 외국어를 걱정하지 않아도 된다. 이 AI폰이 통역사 역할을 하기 때문에 각자의 모국어로도 의사소통이 가능하게 됐다. 이뿐만이 아니다. 최근 챗GPT에는 음성 기능까지 탑재돼 스마트폰을 켜 놓고 AI와 자유롭게 영어로 대화를 나눌 수도 있다. 대화가 끝나고 나면 영어 표현에 대한 코칭까지 해 준다. 이처럼 AI는 인간의 삶에 물처럼 ‘스며들’ 것이므로 AI 회의론자들조차 부지불식간에 AI에 익숙해질 것이라는 전망들이 이어진다. 이러한 현상들은 우리가 이 갑진년에 거대한 용의 그림이 그려진 벽 앞에 서 있음을 의미한다. AI 기능이 아무리 뛰어나도 아직까지는 인간이 사용하는 도구에 지나지 않는다. 그러나 우리가 AI에게 눈동자를 그려 넣는 순간 인간의 삶 전반에서 창의적이고 충직한 파트너로 진화시킬 수 있다. 그렇다면 우리 인간이 그려 넣어야 할 눈동자는 무엇일까? AI를 진정한 파트너로 진화시키기 위한 인간의 역할은 무엇일까? 크게 네 가지 측면에서 요구되는 역할이 있다. 가장 먼저 AI를 활용하는 데 명확한 윤리적 기준이 확립돼야 할 것이다. 개인 데이터를 보호하고 오남용을 방지하기 위한 법적·도덕적 기준이 그것이다. 두 번째로는 AI가 인류의 다양성을 학습할 수 있도록 해야 한다. 여러 문화와 가치관을 반영한 데이터를 학습시켜 AI가 인류 전체의 다양성을 인식하고 존중할 수 있도록 해야 하는 것이다. 세 번째로는 AI 활용 방법에 대한 교육을 일반화하는 일이다. 그래야 AI가 특정 집단만이 아니라 모든 사람들에게 삶의 파트너로 자리잡게 할 수 있다. 이러한 교육은 단순히 기술적 지식을 넘어 AI와 협력하며 새로운 가치를 창출하는 방법을 배울 수 있도록 설계돼야 한다. 마지막으로 AI의 진화는 모든 이해관계자들 간의 끊임없는 대화와 협력을 통해 이루어져야 할 것이다. 기술 개발자, 사용자, 정책 결정자들이 AI의 미래를 함께 모색하고 방향을 설정해야 한다. 인간이 AI의 눈동자를 그려 넣는다는 것은 기술 발전을 넘어서는 문제다. AI가 우리 삶의 질을 향상시키고 인류 공동의 문제를 해결할 수 있도록 하는 데 필요한 모든 것을 포괄해야 한다. 화룡점정의 해인 갑진년에 우리는 AI와 함께 새로운 지평을 열어 가고 있다. AI가 단순한 도구를 넘어 미래의 파트너로 거듭나도록 하기 위해 우리 인간들은 AI의 ‘눈동자’를 그려 넣는 작업에 다 함께 지혜를 모아야 할 것이다.

전라남도의회 교육위원회 김진남 부위원장(더불어민주당·순천5)이 대표 발의한 ‘전라남도교육청 생성형 인공지능 활용 지원 조례안’이 1일 열린 제377회 임시회 제2차 본회의에서 최종 심의를 통과했다. 생성형 인공지능(이하 생성형 AI)은 텍스트, 오디오, 이미지 등 기존 콘텐츠를 활용해 다른 콘텐츠를 생성 해내는 기술을 의미한다. 그 중에서도 챗GPT가 많은 이들이 직관적으로 체감할 수 있도록 함으로써 혁신을 직접 경험하고 세계적 관심을 주목시킨 바 있다. 이러한 생성형 AI의 등장으로 교육계 역시 앞으로 바뀌어야 할 방향에 대한 대안 마련의 필요성이 꾸준히 제기되고 있는 실정이다. 조례에는 생성형 AI를 교육 현장에 효과적으로 활용하기 위해 필요한 사항을 규정하고, 학생을 위한 맞춤형 교육 실현과 디지털 기반 교육혁신 및 환경을 구축해 지원하는 내용 등을 담았다. 이같은 필요성에 대해 정당을 떠나 전남도의회 소속 의원 61명이 전원 공감하고 발의에 참여해 의미를 더하고 있다. 특히 김 의원은 디지털 기반 교육혁신을 통한 ‘디지털 교육 대전환’이라는 교육부 기조로 추진되고 있는 교실의 변화와 김대중 전남교육감의 전남교육 기본방향인 ‘함께 여는 미래, 탄탄한 전남교육’에 발맞춰 교육 현장에 안착될 수 있는 기반을 마련했다는 평가를 받았다. 김 의원은 “생성형 AI는 업무 효율을 높이고, 전문영역의 창작 등 수많은 영역의 신세계를 경험하게 하고 날로 고도화되고 있는 등 여러 다양한 분야에서 활용될 수 있다”며 “교육 및 사회 전반에 편리함과 동시에 여러 가지 교육적 이슈가 지속적으로 등장하고 있어 필요성이 제기되고 있다”고 언급했다. 이어 “어제 본회의에서 김영록 도지사님과 김대중 교육감님께서도 필요성을 언급할 만큼 중요성이 커지고 있다”며 “생성형 AI가 가져올 미래에 대한 기대와 우려가 교차하는 가운데 본 조례 제정을 통해 미래 교실혁명을 이끌고 윤리적 문제를 사전에 방지할 수 있길 기대한다”고 전했다. 한편 전남교육청에서는 본 조례를 통해 생성형 AI와 관련한 구체적인 교육 방침을 마련해 시행할 예정이다.

“인공지능(AI)의 발달로 블랙 해커(비윤리적 해커)들이 악성코드를 찍어 내는 속도가 전보다 100배는 빨라졌습니다. ” 지난 25일 서울 여의도에서 금융보안원의 금융 전문 모의 해킹 조직 ‘레드 아이리스’의 정영석(50) 팀장, 김현민(38) 수석을 만났다. 두 사람이 이끄는 레드 아이리스는 30명 안팎의 화이트 해커(윤리적 해커)로 구성된 팀이다. 이들은 마치 은행, 증권사, 보험사 등 금융사를 노리는 블랙 해커처럼 실제로 해킹 공격을 한다. 해킹 과정에서 드러난 취약점을 해당 금융사에 알려 주고 보안을 강화하기 위해서다. 최근 해커들의 공격 방식은 전과 비교할 수 없이 고도화, 정교화됐다는 것이 김 수석의 설명이다. 그는 “천재적인 해커 한 명이 온갖 방어를 뚫는 것은 옛날 얘기다. 요즘 해커들은 조직적으로 움직인다”면서 “표적을 정해 아주 오랜 기간 집요하게 공격하는데 상대 측이 공격당하는 줄도 모를 정도로 해킹은 은밀하게 이뤄진다. 우리가 얘기를 나누는 이 순간에도 누군가는 공격받고 있다”고 말했다. 그는 인터넷 전화기로도 해킹이 가능하다고 설명했다. 김 수석은 “금융사 모의 해킹 중 인터넷 전화기를 해킹해 내부망에 접속한 적이 있었다. 또 각 사무실에 설치된 인터넷 전화기로 녹취도 가능했다”면서 “해커들은 상상할 수 없는 갖가지 방식을 동원한다. 보안 담당자 혼자서는 다 막기 어렵다. 구성원 전체의 보안 의식이 필요하다”고 말했다. 정 팀장은 가장 큰 해킹 위협으로 ‘공급망 공격’을 꼽았다. 공급망 공격이란 타깃으로 삼은 기업, 기관 등이 평소 사용하는 소프트웨어 설치 및 업데이트 과정에 몰래 끼어들어 악성코드를 심는 방식이다. 해킹 대상이 된 기업이나 기관 입장에서는 늘 사용하는 소프트웨어를 업데이트하다가 해킹당하게 되는 것이다. 그는 “북한 해커들이 자주 쓰는 수법”이라면서 “서버를 관리하는 소프트웨어 하나가 감염되면 서버 1000개가 단숨에 뚫릴 수 있어 우리도 예의 주시하고 있다”고 밝혔다. AI의 발달로 해킹 위협은 점점 더 커지고 있다. 김 수석에 따르면 과거에는 해커들이 특정 사이트 등을 공격할 때 쓰는 악성코드 하나를 만드는 데 약 1개월까지 걸렸다. 그러나 AI의 도움을 받으면 순식간에 악성코드를 만들 수 있다. 김 수석은 “해커 입장에선 무기를 아주 빠르게 조달할 수 있게 된 것”이라고 설명했다. 그는 “우리 팀도 AI로 악성코드를 여럿 만들고 다양한 해킹 방법에 대비한다. 결국 AI를 어떻게 활용하느냐의 문제”라고 말했다. 두 사람의 꿈은 레드 아이리스를 우리나라 대표 모의 해킹 조직으로 키우는 것이다. 정 팀장은 “인력과 예산이 모자라다 보니 한 해 점검할 수 있는 금융사는 20곳 정도”라면서 “조직이 커지면 더 많은 금융사를 도울 수 있는 만큼 레드 아이리스에 대한 더 많은 관심과 지원이 필요하다”고 말했다.

인간 지능 수준의 인공일반지능(AGI) 시대가 곧 다가올 것인가. 국내 인공지능(AI) 전문가들은 AI 기술 발전 속도가 굉장히 빠르다는 데는 동의하면서도 수년 내 인간 지능 수준을 뛰어넘을 수 있을지에 대해선 의견이 엇갈렸다. 이홍락(47) LG AI연구원 최고AI과학자(CSAI)는 23일 “AI를 통한 코딩 자동화는 소프트웨어(SW) 개발의 효율성을 크게 향상시키고, 이는 다시 AI 모델과 애플리케이션의 발전 속도를 더 빠르게 한다”고 말했다. AI의 자가학습 능력이 AI 발전을 더 가속화한다는 설명이다. 다만 “AGI까지 갈 길은 아직 먼 상황”이라고 짚었다. 현재의 AI 기술은 주로 인간의 지시에 의존하며 완성도 면에서도 한계가 있기 때문이다. 이 CSAI는 “AGI 시대로 가려면 상당히 많은 기술 개발과 윤리적 사용을 위한 사회적 합의, 인간의 삶을 더 풍요롭게 할 수 있는 제도적 장치 등의 논의가 필요하다”고 강조했다. AI 포털 서비스 기업 뤼튼테크놀로지스의 김태호(26) 공동창업자 겸 이사도 “AI 기술 발전 속도가 빠른 것은 분명하지만 마라톤 경기에 비유하면 100m를 지난 시점”이라면서 “AI의 르네상스도 이제 막 시작됐다”고 말했다. “AI가 빠르게 연산하거나 글을 작성하는 능력은 평균적인 인간을 넘어선 것으로 보이지만 이게 인간 지능의 전부는 아니다”라는 게 김 이사의 설명이다. 그는 “기술이 그 가치를 발휘하는 시기는 사람에게 쓰임을 받기 시작할 때”라면서 “생성형 AI를 활용해 개개인에게 특화된 AI 기술 개발이 본격화될 것”이라고 내다봤다. AI가 아직 인간의 지능을 뛰어넘는 ‘티핑 포인트’에 도달하진 못했지만 현재의 기술 속도로 보면 몇 년 안 걸릴 것이란 주장도 있다. 대규모언어모델(LLM)을 자체 개발한 AI 스타트업 업스테이지의 최홍준(44) 부사장은 “AI가 자연어 처리, 이미지·음성 인식 등에선 인간 수준의 성능을 달성하고 있다”면서 “인간의 추상적 사고, 도덕적 판단, 문맥 이해 등에선 한계를 갖고 있지만 현재 속도로 봤을 때 수년 내 인간 지능을 뛰어넘을 수 있을 거라 생각한다”고 말했다. 최 부사장은 “기술 발전을 통제할 수 있는 장치를 빠르게 도입해야 한다”면서도 “과연 AI 규제를 통해 ‘통제가 가능할까’에 대해선 확신하기 어렵다”고 했다. 이어 “이럴 때는 오히려 AI 대 AI의 구도로 기술 개발을 통한 통제를 하는 것도 방법일 수 있다”고 제안했다.

인공지능(AI)이 지난 9~12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024에 이어 지난주 세계경제포럼(WEF·다보스포럼)에서도 화두로 떠오르면서 AI가 바꿔놓을 미래에 대한 관심도 커지고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 다보스포럼에서 인간 수준의 일을 처리하는 인공일반지능(AGI) 상용화를 앞두고 많은 고민과 준비가 필요하다고 했다. 과연 AGI 시대가 조만간 현실화될 것인가. 국내 대표 AI 연구자인 이홍락(47) LG AI연구원 최고AI과학자(CSAI)는 23일 “최근 AI의 급격한 발전에도 불구하고 AGI까지 갈 길은 아직 먼 상황”이라고 말했다. 그는 “(일종의 AI 비서인) AI 에이전트를 통해 사람의 일을 좀 더 편하게 만들어주고, AI가 스스로 알아서 인간의 삶의 질을 높여주는 기술과 제품이 하나씩 단계별로 나오고 있다”면서도 “현재의 AI 기술은 주로 인간의 지시에 의존하며 완성도 면에서도 한계를 가지고 있다”고 말했다. 이 CSAI는 국제전기전자공학회가 선정한 ‘세계 10대 AI 연구자’로 구글 AI 연구조직 ‘구글브레인’을 거쳐 2020년 LG AI연구원에 합류했다.AGI 시대가 언제쯤 도래할 것인지에 대해서는 미국 내에서도 의견이 분분하다. AI 반도체 개발사 엔비디아의 젠슨 황 CEO와 일론 머스크 테슬라 CEO는 AGI 수준에 도달할 시점으로 각각 ‘5년 후’, ‘3년 이내’라고 예측했지만, 얀 르쿤 메타 부사장 겸 수석 AI과학자는 “예상하는 것보다 더 오래 걸릴 수 있다”고 전망했다. 구글 딥마인드 공동설립자 무스타파 술레이만도 최근 저서 ‘더 커밍 웨이브’에서 “사람들은 스위치 하나만 누르면 AGI가 바로 실현될 수 있는 것처럼 생각했다”며 “오히려 AI 시스템이 점점 더 많은 기능을 갖추면서 AGI를 향해 꾸준히 나아가는 점진적인 전환이라고 생각한다”고 설명했다. 이 CSAI도 AGI에 대해선 신중론에 가까운 편이다. 그는 “향후 AI는 더 적극적이고 자동으로 정보를 처리하고 실행하는 방향으로 발전할 것으로 기대된다”면서 “이러한 발전은 사회와 산업에 더 큰 파급효과를 가져올 것”이라고 내다봤다. 그러면서 “AGI 시대로 가려면 상당히 많은 기술 개발과 윤리적 사용을 위한 사회적 합의, 인간의 삶을 더 풍요롭게 할 수 있는 제도적 장치 등의 논의가 필요하다”고 강조했다.“전문가 수준 지식 부족·환각 현상 한계”비판적 시각 갖추고 적절한 피드백 줘야 기술 발전 속도는 AI의 ‘자가 학습 능력’을 통해 더 빨라지고 있다는 게 이 CSAI의 설명이다. 그는 “AI를 통한 코딩 자동화는 소프트웨어(SW) 개발의 효율성을 크게 항상시키고, 이는 다시 AI 모델과 애플리케이션의 발전 속도를 더 빠르게 한다”고 말했다. 이어 “AI 모델이 고품질의 데이터를 자체적으로 생성하고 이를 통해 스스로 학습하면서 성능을 개선하는 새로운 방법들이 개발되고 있다”고 덧붙였다. 이 CSAI는 AI 기술이 발전할수록 이를 활용하는 인간의 역량도 중요하다고 봤다. 그는 “현재 생성형 AI는 글쓰기와 같은 분야에서 뛰어난 능력을 보이지만 전문가 수준의 지식이 부족하고 ‘환각 현상’(할루시네이션·AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)과 같은 한계를 갖고 있다”면서 “사용자가 AI의 결과물에 대해 비판적인 시각을 갖고, AI가 정확하고 유용한 결과를 제공할 수 있게 적절한 피드백을 제공하는 역할이 중요하다”고 힘줘 말했다. 이 CSAI는 “사용자의 피드백은 AI 모델을 향상시키는 데 사용될 수 있고, 이러한 상호작용은 AI와 인간의 협력이 어떻게 지속적인 시너지를 내는지를 보여준다”면서 “결국 AI 기술의 효과적인 활용과 발전은 사용자의 책임감 있는 접근과 지속적인 협력 과정에 달려 있다”고 설명했다.

가상인간이 기내 안전 안내 영상을 촬영하는가 하면, 전자책을 출간하기도 하는 세상이다. 인공지능(AI) 기술로 탄생한 가상 인간이 이제 가상 세계를 넘어 현실과의 접점을 넓히고 있다. 5일 스마일게이트는 메타휴먼 ‘한유아’가 전자책 ‘답장은 우편함에 넣어둘게요 : 메타휴먼 한유아가 사연에 답해드립니다’를 출간했다고 밝혔다. 전자책 첫번째 장은 AI 기반 한유아가 사람들의 다양한 고민에 대해 공감하고, 따스한 격려의 말을 건네는 글이 담겨있다. 두 번째 장 역시 여러 사람들이 겪고 있는 문제에 대한 한유아의 감성적이고 위트 넘치는 글이 실려 있다. 출판물에 함께 실린 ‘부적’은 한유아가 생성형 AI프로그램을 활용해 그린 그림들이다. 전날엔 대한항공이 공개한 새 기내 안전 영상에 넷마블 자회사 넷마블에프엔씨의 가상인간 ‘리나’와 4인조 가상인간 걸그룹 ‘메이브’가 승무원, 승객으로 등장한다. 하늘색 승무원 유니폼을 입은 리나가 휴대 수하물 보관법, 기내 금연, 비행 중 사용 금지 품목 등 각종 안전 수칙을 상세하게 설명한다. 승객들은 승무원의 시연을 직접 따라해 본다. 업계는 글로벌 시장에 버츄얼 휴먼, 메타 휴먼 등으로 불리는 가상인간이 수천명 활동 중인 것으로 보고 있다. 세계적으로 일정 수준 이상의 소셜미디어 팔로워와 팬덤을 보유한 가상인간 인플루언서들을 소개하는 미국 사이트 ‘버추얼휴먼스’엔 현재 196명이 등록돼 있다. 국내에만 150여명의 가상인간이 등장한 것으로 추정된다. 가상인간은 ‘딥페이크’로 대표되는 AI 기술 등장으로 실제 인간과 흡사할 정도로 정교하게 만들 수 있게 됐다. 예전엔 3D 툴을 이용해 얼굴을 만들고 대역 모델 몸에 합성하는 방식으로 만들어졌는데, 제작을 위해 너무 많은 작업이 필요해서 콘텐츠 양에 한계가 있었다. 게다가 누가 봐도 3D 그래픽임을 알 수 있을 정도로 겉모습의 정교함이 떨어져 소비자의 관심을 끌기 어려웠다. 그래서 가상인간 1호로 인정받고 있는 로커스엑스의 ‘로지’도 2020년 탄생 초기엔 영상이 많지 않았다. 딥페이크 기술은 인물의 얼굴이 잘 드러난 고화질 영상들을 AI가 추출해 학습한 뒤, 가상의 얼굴을 실존하는 대역 모델의 얼굴에 프레임 단위로 합성시키는 방식이다. 여기에 사용되는 AI 모델은 인물의 눈, 코, 입 등 신체 부위의 모양과 움직임을 중점적으로 학습해 얼굴을 합성하는 데에 특화된 모델이다.실존하는 배우나 정치인, 운동선수 등의 딥페이크 영상은 AI가 학습할 데이터가 무수히 많기 때문에 그만큼 실물과 분간하기 어려울 정도로 정교하다. AI가 생성한 도널드 트럼프 전 미국 대통령의 체포 장면은 가짜이지만, 실제 상황처럼 현실적인 이유도 여기에 있다. 반면 가상인간은 실제로 존재하지 않아, AI 학습을 위해 3D 모델링으로 만든 가상의 얼굴을 수천~수만장 만들어 데이터로 쓰기 때문에 아직까지는 어딘가 어색한 점이 보이곤 한다. 가상 걸그룹 메이브의 경우엔 목소리와 춤을 추는 몸의 동작도 대역을 사용하지 않고 AI가 ‘딥보이스’, ‘바디스캐닝’ 기술로 만들어 낸다. 누가 노래를 불러도 메이브 고유의 목소리로 변환이 가능하다. 모델이 몸에 센서를 달고 춤을 추지 않아도 춤사위를 만들어낸다. 대역 가수, 모델이 바뀌어도 메이브 멤버들의 목소리와 춤이 변하지 않는 셈이다. 가상인간의 최종 목표는 대역 모델 없이 얼굴과 몸의 움직임, 목소리까지 스스로 만들어 내는 100% 가상의 인간이며 기술이 여기에 가까워지고 있다. 한유아의 경우 생성형 AI를 이용해 글도 쓰고 그림도 그리는 등 창작 활동을 활발하게 하고 있다. 가상인간은 기술적으론 영원히 늙지 않고 죽지 않을 수 있다. 실제 연예인이나 인플루언서처럼 법적, 윤리적 문제를 일으키거나 사생활 리스크가 일어나지 않는다. 하지만, 이런 가상인간들도 대체로 ‘장수’하지는 못한다. 코로나19로 인해 열린 ‘비대면 시대’엔 등장 자체만으로 흥미를 끌었지만, 신선함이 떨어졌다. 아무리 좋아도 실제로 만날 수 없다는 한계도 있다. 특히 기술이 발달했음에도 콘텐츠 제작 기간이 최소 2~3일, 길게는 수주가 걸린다. 짧은 영상을 빨리 찍어 빨리 소비하는 ‘숏폼’ 콘텐츠가 유행인 요즘 같은 추세엔 더 맞지 않는다. 2022년 매출 40억원에까지 이르렀던 1세대 가상인간 로지는 최근 매각설에 휩싸이기도 했다. 로커스엑스 측이 부인하긴 했지만 지난해 매출이 전년도의 절반 수준으로 떨어진 것이 루머의 원인이다.

지난해 과학저널 ‘사이언스’는 ‘2023년 주요 연구 성과’ 중 하나로 구글 딥마인드의 날씨 예측 인공지능(AI) ‘그래프캐스트’(GraphCast)를 선정했다. ‘네이처’는 ‘2024년 주목해야 할 연구’로 ‘인공지능(AI) 연구의 질주’를 꼽았다. 지난해 전 세계를 휩쓸었던 챗GPT의 업그레이드 버전인 GPT-5, 텍스트에서 비디오까지 다양한 유형의 파일을 처리할 수 있는 구글의 생성형 인공지능 ‘제미니’, 단백질 3D 구조의 정밀 예측이 가능한 구글 딥마인드의 ‘알파폴드’ 새 버전 등이 올해 속속 공개된다. 특히 2022년 말부터 챗GPT로 대표되는 생성형 AI의 열풍은 2016년 바둑 AI 알파고가 이세돌 9단과의 대국에서 압승했을 때보다 더 충격적으로 다가오고 있다. AI가 인간 고유의 특징이라고 할 수 있는 창의성, 의식, 일반 지능까지 갖추게 되는 것 아니냐는 우려마저 나오고 있다. 영화 ‘터미네이터’ 시리즈에는 인간을 뛰어넘는 파괴적 AI 스카이넷이 등장한다. 영화적 상상력이기는 하지만 AI의 발달을 이야기할 때 빠지지 않고 등장한다. 과연 영화에서 등장하는 강(强)인공지능이 가능할 것인가는 과학자들 사이에서도 논쟁거리다. 강AI 개념에는 알파고처럼 특정 문제가 아닌 범용 문제를 풀 수 있는 인공일반지능(AGI), 인간 지능을 넘는 초지능, 의식을 가진 지능에 대한 개념이 섞여 있으며 이들 개념이 서로를 필연적으로 함축하고 있지 않다. 그래서 생성형 AI가 여러 문제를 풀 수 있는 AGI를 구현한다고 하더라도 인간 같은 의식을 가진 강AI가 되지는 않는다는 주장에 힘이 실린다.실제로 지난해 12월 미국 뉴올리언스에서 열린 머신러닝 분야 최대 학회인 ‘신경 정보처리 시스템학회’(NeurIPS) 콘퍼런스에서도 이런 문제들이 논의됐다. 많은 사람이 챗GPT 같은 대형 언어모델의 등장에 따라 ‘인공지능 초지능이 갑자기 등장할 수 있는가’라는 질문을 던졌다. 대규모 언어모델은 방대한 텍스트와 기타 정보를 사용해 학습하면서 다음에 나올 내용을 예측하고 현실적 답변을 만들어 낸다. 언어를 번역하고, 수학 문제를 풀고, 시를 쓰거나 컴퓨터 프로그램도 짠다. 이 때문에 일부 연구자는 이런 도구가 대부분 작업에서 인간과 비슷하거나 능가하는 AGI를 달성할 것으로 예상하기도 한다. 이에 대해 많은 전문가는 AI 모델에서 양적 증가가 질적 변화로 급격하게 변화하는 ‘창발’(emergence)의 순간이나 인간의 지능을 뛰어넘어 인간의 제어가 불가능해지는 특이점(singularity)은 오지 않을 것이라고 예측했다. 연구자들은 오픈AI의 GPT-3로 수학 계산의 정확도를 측정하고, 구글의 대규모 언어모델인 ‘람다’(LaMDA)가 연구팀이 제공하는 속담이나 격언의 참과 거짓을 구분해 낼 수 있는지 분석했다. 또 사람이나 동물의 시각 체계 기능을 컴퓨터로 구현하는 컴퓨터 비전 분야에서도 특정 영상들을 보고 압축하고 새로운 이미지로 재구성하도록 실험했다. 그 결과 각종 생성형 AI에게서 인간의 창의력이나 생각을 뛰어넘는 수준의 실력이 관찰되지 못했다고 연구팀은 밝혔다. 연구를 이끈 산미 코에조 미국 스탠퍼드대 교수(컴퓨터과학)는 “아직까지는 AI에서 ‘마법’ 같은 일은 일어나지 않을 것으로 보인다”고 말했다. AI 연구자들의 이런 자신감에도 불구하고 한편에서는 AI가 인간을 위협하는 순간은 갑자기 찾아올 수 있는 만큼 윤리적 기준을 마련해야 한다는 목소리가 높아지고 있다. 이 때문에 유엔 고위급 자문기구는 올해 중순쯤에 대형 언어모델과 AI에 대한 국제 규제 지침이 될 최종 보고서를 발표한다.

#사례1. 스타트업에서 소프트웨어 개발 업무를 맡고 있는 고윤담(32)씨는 생성형 인공지능(AI) 챗GPT를 ‘조수’로 둔 덕분에 시장조사를 할 때 걸렸던 시간을 10배 이상 단축했다고 뿌듯해했다. 챗GPT에 사전 조사를 지시하면 필요한 주제, 재료, 개요 등을 바로 받아 볼 수 있기 때문이다. 논문 초안을 작성한 뒤 챗GPT를 활용해 영문 교정을 하고 영문 이메일을 보낼 때도 챗GPT로 초안을 쓴다. 고씨는 2일 “학술적인 문체를 요청하면 금세 바꿔 준다”며 “전문성을 높여 주는 건 큰 장점”이라고 말했다. #사례2. 서울의 한 4년제 대학 사회학과에 재학 중인 김영권(27·가명)씨는 2020년 학내 동아리에서 코딩을 배우고 AI 스타트업에서 AI 엔지니어를 양성하는 교육 기획·운영 업무를 1년 10개월가량 한 적이 있어 AI 용어에 친숙한 편이다. 보고서를 쓸 때도 챗GPT를 적절하게 활용한다. 기본적인 정보를 찾아 전체 맥락을 짠 뒤 챗GPT에 몇 자 정도로 초안을 잡아 달라고 구체적으로 질문을 던지는 식이다. 김씨는 “그 친구(챗GPT)가 내놓은 결과물을 수정하는 게 쉽고 시간도 줄일 수 있어 일석이조”라고 말했다. #이미 유능한 조수·친구문서 작성 등 시간 단축AI 활용 필수 스펙 부상 누구나 AI를 일상에서 접하는 시대가 되면서 AI 활용 능력이 필수 스펙으로 떠오르고 있다. AI가 사람을 대체하는 게 아니라 AI를 잘 활용하는 사람이 그렇지 않은 사람을 대체하게 될 것이란 전망도 나온다. 각 대학과 기업이 앞다퉈 ‘AI 리터러시(문해력)’ 교육에 나선 것도 지금 궤도에 올라타지 않으면 뒤처질 수밖에 없다는 절박감 때문으로 보인다. AI 리터러시는 AI를 이해하고 활용할 수 있는 역량을 말한다. 이경전 경희대 경영학·빅데이터응용학과 교수는 AI를 하나의 이동 수단에 비유하면서 자전거, 오토바이 운전을 배우듯 AI를 활용할 수 있는 방법을 배워 놓는 게 중요하다고 강조했다. 1분 안에 뚝딱 처리할 수 있는 일을 굳이 AI에게 맡기지 않고 사서 고생할 이유가 없다는 것이다. 이 교수는 “업무를 처리하는 속도가 AI가 사람보다 20~30배는 빠르다”며 “AI를 먼저 활용하는 사람이 훨씬 앞서갈 수밖에 없다”고 말했다. AI 리터러시를 관련 전공이나 업무를 하는 사람만 배워야 한다고 생각하면 오산이다. 중앙대 인문콘텐츠연구소는 인문·사회 전공자를 위해 방학 기간 AI 인문학 단기 과정을 만들어 운영한다. 챗GPT 등 생성형 AI를 이해하고 코딩 프로그램인 ‘파이썬’의 프로그래밍을 익히는 게 수업 목표다. 지난여름 개설된 단기 과정을 수강한 중앙대 교육학과 3학년 조일(24)씨는 “파이썬을 이용해 데이터 분석을 하거나 시각화를 하려면 기본적인 문법을 아는 걸 넘어 응용을 할 줄 알아야 하는데 솔직히 비전공자 입장에선 부담이 컸다”며 “이 수업에선 챗GPT를 활용해 원하는 결과물이 나올 때까지 계속 질문하는 연습을 했다. 확실히 진입 장벽을 낮출 수 있는 계기가 됐다”고 말했다.#기업들 발빠른 AI교육20~30배 빠른 일 처리인문학까지 영역 확장 주요 기업들도 AI 리터러시 교육을 강화하고 나섰다. SK텔레콤은 AI 리터러시 교육을 일상 업무에 활용하는 1단계, AI를 활용해 비즈니스 모델을 변화시키는 2단계, AI 개발자를 위한 3단계로 세분화해 진행하고 있다. LG그룹의 경우 LG AI연구원이 계열사 직원들의 AI 교육을 맡고 있다. 5000명을 대상으로 진행하는 AI 기초과정을 보면 ‘디지털 리터러시 트랙’이 별도로 있다. 전문가들은 AI 리터러시 교육이 AI 기술을 활용하는 데 그쳐서는 안 된다고 강조한다. 과연 AI가 내놓은 답이 ‘정답일까’ 반문하는 것부터 시작해 AI 기술이 어떤 윤리적 문제를 파생시키는지, 인간관계에 어떤 영향을 미치는지 비판적으로 바라보는 능력을 키우는 것까지 모두 AI 리터러시에 해당될 수 있다는 것이다. #비판적 감시자도 필요기술적 ‘윤리’ 문제 대비개인별 교육 격차 줄여야 김명신 LG AI연구원 정책수석은 “AI 윤리를 실천하는 기업과 그렇지 않은 기업을 구분할 수 있으려면 AI 리터러시가 필요하다”면서 “개인이 성숙한 사용자에 머무르지 않고 AI 시장의 비판적 감시자로 바로 설 때 시장에서 자정작용이 일어날 것”이라고 말했다. 천지영 서울사이버대 인공지능학과 교수는 “AI가 어느 순간 제어할 수 없는 상태로 발전할 것이란 불안감이 퍼져 있지만 이는 기술에 대한 이해 부족에서 오는 막연한 두려움”이라며 “지금은 AI를 사용하는 데 진입 장벽이 있지만 시간이 지나면 누구나 쉽게 사용할 수 있는 도구가 나올 거다. 그때는 AI를 쓸 줄 아는 사람과 그렇지 않은 사람의 생산성 차이가 클 것”이라고 말했다. AI 리터러시가 중요해지면서 진단에 필요한 척도도 개발되고 있다. 성균관대 이세영 교수(미디어커뮤니케이션학)와 뉴멕시코주립대 박가인 교수(미디어학)가 개발한 ‘챗GPT 리터러시 척도’는 기술적 숙련도, 비판적 평가, 의사소통 능력, 창의적 적용, 윤리적 역량 등 다섯 가지 항목(25개 문항)으로 나눠 리터러시 역량을 점검한다. 이세영 교수는 “챗GPT 리터러시는 교육 격차를 줄이는 데 핵심적인 역할을 할 것”이라며 “개인별 리터러시 평가를 통해 상대적으로 낮은 능력은 향상시키고 이미 높아져 있는 능력은 더욱 발전시키는 맞춤형 교육 프로그램을 개발해야 한다”고 설명했다.

[포토多이슈] 사진으로 다양한 이슈를 짚어보는 서울신문 멀티미디어부 연재물 2023년 서울신문 멀티미디어부 사진기자들은 각 출입처와 여러 사건·사고 현장에서 발로 뛰며 취재했습니다. 동시에 새로운 시도와 변화를 꾀했습니다. 열화상 카메라를 활용해 취재했고, 흑백 필름 사진을 컬러로 복원해 보도했으며, 북한이 공개한 사진에서 새로운 사실을 발견하기도 했습니다. 올해 서울신문에 보도된 사진기자들의 기획 사진 중 일부를 소개합니다. ◼ 1월 25일 <난방비 더 써도 더 추운 ‘단열빈곤층’>25일 서울의 체감온도가 영하 25도까지 내려가는 등 올겨울 가장 추운날씨를 보였다. 계속되는 한파에 각 가정의 난방에너지 사용도 덩달아 늘어나고 있다. 하지만 가스비, 전기료 등의 공공요금이 가파르게 인상되면서 충분히 난방을 하지 못하는 가정이 늘고 있다. 열화상 카메라로 마포구 상암동의 아파트단지와 용산구 동자동 쪽방촌을 촬영한 결과 건물외부 기온이 20도가 넘게 차이가 났다. 난방비 인상으로 난방에서도 양극화가 일어나고 있는 것이다. 사진 왼쪽은 마포구 상암동의 아파트단지 오른쪽은 용산구 동자동 쪽방촌. 열화상 카메라로 촬영한 사진은 온도가 높을수록 붉은색, 낮을수록 푸른색을 나타낸다. 홍윤기 기자 ◼ 3월 1일 <104년 전 만세 부른 그날… 감사합니다, 잊지 않겠습니다>제104주년 3·1절을 앞두고 국가보훈처가 인공지능(AI) 기술을 활용해 독립운동가 15인의 흑백사진을 컬러사진으로 복원했다. 맨 윗줄 왼쪽부터 베델, 김좌진, 송진우, 안창호, 윤동주, 가운뎃줄 왼쪽부터 이승만, 안중근, 김구, 윤봉길, 유관순, 아랫줄 왼쪽부터 조소앙, 최재형, 한용운, 헐버트, 이회영. 이들의 사진을 일제강점기 불교 사찰이 독립거점으로 중요한 역할을 담당했다는 사실을 보여 주는 서울 은평구 진관사 태극기와 합성했다. 홍윤기 기자 ◼ 4월 7일 <아파도 뛴다… 취재 열정 ON>한때는 선망의 직업이었던 기자의 현실은 그리 녹록지 않다. 급증하고 있는 언론사 간 경쟁도 치열하고 갑자기 발생하는 돌발 사건으로 긴장을 늦출 수도 없으며 불규칙한 근무로 개인 생활을 보장받는 것도 쉽지 않다. 하지만 사건 현장 어디든 기자들은 찾아간다. 지난 2월 튀르키예 지진 현장에서 취재를 한 서울신문 곽소영 기자는 “잠을 잘 곳도, 씻을 곳도 없어 렌터카에서 차박을 하며 취재를 했고”, “무너진 건물 위에서 취재하다가 여진을 겪거나 어렵게 숙소를 구해 잠을 자다가 건물이 흔들려 급하게 대피하기도 했다”고 당시 상황을 전했다. 4월 7일은 신문의 날이다. 각종 포털 사이트 등 온라인을 통해 뉴스를 접하면서 ‘종이신문’의 몰락에 대한 우려가 생긴 지 오래다. 챗GPT가 모든 질문에 답은 하지만 사실 여부는 모른다. 인공지능(AI)도 정보가 있어야 어떤 판단이라도 내린다. 난무하는 가짜뉴스 속에서 치열한 취재를 통해 검증된 사실만을 전달하기 위해 노력하는 ‘레거시 미디어’ 기자들은 오늘도 현장에 있다. *기사 일부 발췌 글·사진 도준석 기자 ◼ 5월 5일 <컬러로 되살아난 그때 ‘웃음’처럼… ‘어린이 해방’ 100년, 신나게 놀자>‘어린이를 윤리적 압박으로부터 해방하야 … 완전한 인격적 예우를 허하라.(중략) 그들이 고요히 배우고 즐거이 놀기에 족할 각양의 가정 또는 사회적 시설을 행하게 하라.’ 100년 전 방정환이 결성한 소년운동협회가 발표한 ‘어린이해방선언’입니다. 1979년 서울의 한 기찻길 옆에서 등넘기를 하며 해맑게 웃는 아이들을 찍은 서울신문의 흑백사진을 컬러로 복원해 보니 아이들의 발그레한 얼굴이 더욱 생기 있어 보입니다. 그 시절 이토록 즐거웠던 우리가 어른이 된 지금 아이들에게 이런 ‘고요하고 즐거이’ 지낼 환경을 만들어 주고 있을까요. 아이들 웃음은커녕 탄생의 울음조차 사라지는 현실을 고민해야 하는 시대, 5일 제101회 어린이날을 맞아 아이들의 웃음소리가 가득한 날이 끊이지 않고 계속되기를 기대해 봅니다. 서울신문 멀티미디어부 ◼ 6월 11일 <北 얼마나 힘들길래… 위성장비도 카메라 렌즈통 재활용>조선중앙통신이 지난달 17일 김정은 국무위원장이 정찰위성 발사 준비위원회를 현지지도했다는 소식과 함께 공개한 사진(왼쪽 사진) 속 직사각형 물체(빨간 원)가 한 카메라 제조사의 망원렌즈 상자(600밀리렌즈·오른쪽 사진)와 동일한 것으로 확인됐다. 이 상자에는 많은 케이블이 연결돼 있고 제조사를 지운 흔적이 있었다. 박지환 기자 ◼ 6월 26일 <비수급 빈곤 리포트 - 기초수급 밖, 빈곤에 갇혔다>동생에게 명의를 빌려줬다가 50여명의 공동 명의로 얽힌 부동산을 처리하지 못해 기초생활보장 혜택을 받지 못하는 비수급 빈곤층인 홍상표(가명)씨가 아사 직전에 구조된 뒤 퇴원 후 거동을 못하는 누나의 기저귀를 정리하고 있다. 오장환 기자 ◼ 9월 6일 <파묘: 조상님 묘를 옮기겠습니다 - 아무도 찾지 않는 무덤>경기 파주시 광탄면 용미리 제2묘지에 위치한 서울시립승화원 무연고 추모의 집. 연고가 없는 유골 2397기가 작은 목재 분골함에 담겨 층층이 쌓여 있다. 유골들은 혹시라도 찾아올 누군가를 기다리며 이곳에서 5년간 머물다 자연에 뿌려진다. 무연고로 방치된 무덤의 최후를 추적하기 위해 지난 6일 이곳을 방문했다. 오장환 기자 ◼ 11월 29일 <대한민국 정신건강리포트 - 나는 [숨겨야만 사는] 정신질환자 입니다>최서연(가명)씨는 27세 여성 요리사다. 어릴 때부터 정신과 치료를 받고 싶었지만 부모님의 반대로 성인이 돼서야 상담실 문을 두드렸다. 치료 전에는 자살도 여러 차례 시도했다. 지금은 삶에 대한 의지가 누구보다 더 강하다. 서울신문과 만나 자신을 괴롭혔던 증상과 외부의 편견을 담담하게 풀어낼 수 있었던 건 그만큼 마음의 근육이 단단해 졌기 때문이다. 2022년 대한민국에서 정신과 진료를 받은 사람은 100명당 6명에 이른다. 4년 전보다 27.3% 증가했다. 정연호 멀티미디어부 부장

‘챗GPT’가 생성형 인공지능(AI) 시대를 열자 세계 주요 정보기술(IT) 기업들의 관련 기술 경쟁이 날로 치열해지고 있다. AI는 모든 산업에 적용돼 우리 생활을 완전히 변화시킬 수 있는 기술이기 때문에 국가 경쟁력과도 직결된다. 이에 한국 AI가 윤리성과 신뢰성을 확보하면서도 글로벌 경쟁에서 뒤처지지 않도록 할 정책적 지원이 절실하다는 목소리가 높다. 지난 14일 한국프레스센터에서 서울신문이 주최하고 문화체육관광부가 지원하는 ‘글로벌 AI 동향 및 AI 윤리·신뢰성 확보 방안’이라는 주제의 전문가 좌담회가 열렸다. 좌담회엔 엄열 과학기술정보통신부 AI기반정책관, 이상용 건국대 법학전문대학원 교수, 성주원 KT AI테크랩 상무, 김명신 LG AI연구원 정책수석이 참석했다.-한국 기업의 AI 기술 수준은. 김명신 “미국이 압도적으로 1등이고 중국이 2등, 한국이 6등인데 3~10위는 사실 격차가 거의 없다. 우리나라 AI 기술 경쟁력이 세계 상위권이라는 것은 의심할 여지가 없다. 전 세계에 초거대 AI를 가지고 있는 나라가 손에 꼽힐 만큼 적기 때문에, 그중 하나라는 것만으로도 굉장히 큰 가능성을 가진 셈이다. 지금부터 각 기업이 전략을 어떻게 가져가고, 국가가 어떤 정책과 제도로 지원해 주거나 적절하게 규제하느냐에 따라 앞으로 각국 AI 경쟁력 차이가 급격히 벌어질 것이다. AI가 앞으로 국가 미래 경쟁력을 좌우하고 세상을 뒤집어 놓을 만큼 중요하기 때문에 기술 확보가 굉장히 중요하다고 생각한다.” 성주원 “같은 의견이다. 한국의 AI 기술력은 결코 세계에서 뒤지지 않는다. 우수한 인적 자원을 보유했으며 대기업 위주로 진행된 과감한 투자가 결실을 보이기 시작했다. 다만 그동안 글로벌 시장에서 국내 기업들이 ‘한국어 AI는 우리가 1등’이라는 논리로 계속 얘기를 해 왔는데, 챗GPT를 비롯해 여러 가지 AI가 나오는 상황에서 대체 언제까지 ‘우리가 한국어 AI는 1등’이라고 말할 수 있을지 모르겠다. AI는 정말 투자한 만큼 결과가 나온다고 생각한다. 자금력 있는 국내 대기업의 투자도 중요하지만 국가적 차원의 대형 투자가 이뤄져야 뒤처지지 않을 것으로 본다.”-정부가 올해를 ‘AI 일상화 원년’으로 선포한 만큼 이미 지원책도 적지 않을 듯한데. 엄열 “한국은 독자적으로 초거대 AI를 보유한 5대 국가(미국, 중국, 한국, 이스라엘, 영국) 중 하나로 평가받고 있다. 국가의 생태계 조성과 청사진에 기업의 노력이 동반된 결과다. 하지만 구글이 더 정교한 초거대 AI ‘제미나이’를 출시하는 등 빅테크 주도의 생성 AI 기술 혁신은 더 빨라질 것이다. 이들과 경쟁할 국내 기업의 상황이 더 어려워질 것으로 예상되기 때문에 정부가 적극 지원할 것이다. 연구개발(R&D)비 지원, 초거대 AI 프로젝트 맞춤 지원이 있고 국가가 보유한 데이터를 AI 학습용으로 지원한다. 기업이 AI로 수익화할 서비스를 만드는 것도 도울 방침이다.”-유럽연합(EU)이 포괄적인 AI 규제 법안에 합의했다. 우리나라 AI 법 제정 상황은. 이상용 “각 나라의 제도는 다 배경이 있다. 각자가 처한 상황들이 다르고 이에 속셈도 제각각이다. 그래서 ‘이 나라는 이런 법을 갖고 있으니 우리도 그걸 따라해야 한다’고 단순하게 접근하면 곤란하다. 우리 상황에 맞는 제도를 만들어야 한다. 예컨대 EU의 AI법같이 굉장히 포괄적이고 경직된 제도는 우리나라에선 피해야 한다. 미국은 ‘자율 규제’다. 백악관에서 ‘AI 행정명령’이 나왔는데 기업이 쌍수를 들고 환영했다. 내용을 보면 산업 진흥을 위한 정책이 압도적으로 많다. 정부가 사전에 기업의 의사를 듣고 협의했다는 얘기다. 영국의 경우가 흥미로운데 혁신이 우선이고 AI에 어떤 위험성이 있는지는 일단 살펴보자는 태도다. 사전에 적합성 평가를 해서 안전한지 확인된 다음에 출시하라고 규정한 EU와는 반대의 입장이다.” 엄열 “EU AI법은 AI를 위험성에 따라 4가지로 분류하고 이에 따른 책무를 엄격하게 부여한 뒤 따르지 않으면 경제 제재까지 하는 아주 강력한 규제다. 한국은 한국 상황에 맞는 법을 만들어야 하는데 지금 정부가 발의한 AI 법 초안이 국회에 가 있다. 일단 시장 상황을 좀 바라보고,나중에 필요하면 ‘사후 규제’로 가겠다는 입장의 법체계다. AI 기술 발전과 신뢰성을 모두 확보하려는 정부의 입장이 균형 있게 잘 정리돼 있다고 본다. 법안의 조속한 국회 통과를 위해 정부도 적극 지원하겠다.” -제도나 규제만으로 AI의 윤리성과 신뢰성을 확보하진 못할 것 같다. 기업은 뭘 하고 있나. 김명신 “AI가 학습하는 데이터가 편향되거나 대표성이 결여됐을 때 의도치 않게 차별적, 편향적 결과물이 나올 수 있다. AI 모델은 정확한 답변보다 사람이 말하는 것처럼 유려한 답변을 많이 하도록 만들어진 탓에 가끔 틀린 답변을 참인 것처럼 내놓는 ‘환각현상’(할루시네이션)을 일으킨다. 앞선 두 문제가 모두 해결돼도 사용자가 나쁜 의도를 가지면 굉장히 큰 문제를 일으킬 수 있다. 기업은 이렇게 데이터, 모델, 사용자 등 3개의 축으로 접근해 문제 발생을 방지하려 노력한다. 기획 단계부터 데이터를 수집, 정제하고 모델을 개발해 사용자에게 배포하는 단계까지 문제 발생 예방책을 실행해 AI가 잘못된 결과를 생성하지 않도록 조직과 절차를 갖추는 것이 필요하다.”성주원 “구축한 AI 모델을 의도적으로 외부에서 공격해 편향된 답을 하지는 않는지, 시스템에 문제는 없는지를 파악하는 ‘레드팀’을 구성해 운영하고 학습할 데이터를 엄격하게 선별하는 등 각사가 하는 방향과 노력이 거의 비슷하다고 본다. 그렇다고 해도 할루시네이션을 100% 해결할 수는 없다. AI를 윤리적으로 잘 활용해야 한다는 데 대해서도 범국민적 공감대가 형성돼야 한다.” -최근 국제사회가 AI 규범을 마련하려는 움직임이 있다. 각국의 이해관계가 다른데 국제 규범이 의미가 있을지.김명신 “앞서 말씀해 주신 것처럼 미국 중심, 유럽 중심, 중국 중심으로 각각 색깔이 다른 규제들이 만들어지고 있는데 기업 입장에선 나라마다 규제가 다르면 그걸 전부 모니터링해 분석하고 대응해야 하는 이중, 삼중의 부담이 생길 수밖에 없다. 최악의 경우 지역마다 다른 모델을 개발하느라 천문학적 비용을 지출해야 할 수도 있다. 국제사회 차원의 보편적인 AI 규범이 만들어지면 기업 입장에선 가장 명확한 기준이 돼서 좋을 것 같다.” 엄열 “정부도 국제 규범 체계를 같이 논의할 수 있는 기구가 필요하다는 입장이고 그 가운데서 리더십을 발휘하겠다는 의지를 갖고 있다. 그래서 유엔 산하나 별도의 독립 기구를 만들어야 한다고 국제사회에서 주장하고 있다. 영국과 미국이 ‘AI 안전성 연구소’라는 걸 만들었는데 아시아 쪽에선 우리가 한번 주도적으로 만들 수 있지 않은지 검토하고 있다.”

‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다. AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다. 온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다. 우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다. 경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다. 우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다. 다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다. 한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.

생성형 인공지능(AI) ‘챗GPT’를 출시해 전 세계를 충격에 빠뜨린 미국 오픈AI의 샘 올트먼 최고경영자(CEO)가 하루아침에 해임되는 사건이 벌어지자 국내 AI 업계에서도 촉각을 곤두세우고 있다. 비영리 조직으로 출발했다가 챗GPT를 내놓고 AI 수익화에 속도를 내던 오픈AI가 CEO 교체 이후 어떤 모습으로 바뀔지, 오픈AI에서 쫓겨나 마이크로소프트(MS)에 합류한 올트먼의 다음 행보는 어떻게 될지 등 모든 게 불확실하기 때문이다. 해임 사유가 명확하게 밝혀지지 않았지만 이 사건으로 AI의 안전성과 효율성을 둘러싼 논란도 다시 수면 위로 올라왔다. 전문가들 사이에서는 “내부 갈등이 결국 터진 것”이라는 해석과 함께 AI 기술 발전 과정의 과도기에서 발생한 ‘진통’이라는 분석도 나왔다. 이성엽(한국데이터법정책학회장) 고려대 기술경영전문대학원 교수는 20일 올트먼의 해임 사건과 관련해 “AI로 인한 비즈니스 모델을 만들어 수익화하고, 산업 혁신을 끌고 가야 한다는 주장과 AI 발전 속도가 예상보다 빨라서 통제가능하도록 규제하지 않으면 인류 전체에 위험이 생길 수 있다는 논리가 부딪친 게 아닌가 추정된다”면서 “이는 AI 기술이 가진 특수성 때문에 벌어진 일”이라고 진단했다. 일종의 ‘게임체인저’인 AI의 변화 양상이나 속도가 광범위하고 기존의 기술과 달리 인간을 대체할 정도의 상당한 파급력이 있다 보니 CEO 본연의 역할인 주주이익·기업가치 극대화만을 추구하는 게 과연 맞는 것이냐는 질문을 던졌다는 것이다. 이 사건은 글로벌 화두로 떠오른 환경·사회·지배구조(ESG) 경영처럼 당장 성과가 나지 않더라도 인간의 존엄성 등 비재무적 요소도 함께 고려해야 기업이 ‘신뢰’를 얻을 수 있다는 시사점을 던졌다고 덧붙였다. 외신들도 올트먼이 자사 기술의 위험성에 대해 충분한 주의를 기울이지 않아 오픈AI 내부에서도 점점 더 우려하는 목소리가 있었다고 보도했다. 특히 오픈AI 공동 창립자인 일리야 서츠케버 수석과학자를 주축으로 한 이사진과 올트먼이 AI 안전성, 기술 개발 속도 등을 놓고 의견 충돌이 있었던 것으로 알려졌다. 서츠케버는 “AI를 통제할 수 있다고 여길 때까지 AI를 확장하지 말아야 한다”는 제프리 힌턴 토론토대 교수의 제자로 지난 7월 회사 내에 AI 위험성 통제를 위한 내부 팀도 새로 만들었다고 한다. AI 스타트업 업스테이지의 김근교 이사는 “안전성을 중요하게 생각하는 쪽과 사업적으로 속도를 내야 한다는 쪽의 갈등이 표면화된 게 아니냐는 외신 보도가 있지만 정작 이 사태로 어떤 변화가 일어날지 아무것도 결정되지 않았다”면서 “어떻게 결론이 나느냐가 중요한 만큼 계속 지켜보는 수밖에 없다”고 말했다. 이 사태를 예의주시하는 정보기술(IT) 업계에선 비영리 조직으로 설립된 오픈AI가 영리 기업으로 전환하고 챗GPT로 성공을 거두고 몸집을 키우면서 정체성에 혼란을 일으켰다고 보는 시각도 있다. 구글처럼 처음부터 수많은 이용자를 대상으로 한 AI 서비스를 내놓기 위해 개발에 나섰다면 AI의 위험성을 고려해 속도 조절을 할 수밖에 없지만 오픈AI는 ‘사업’보다는 ‘연구’에 방점이 찍혀 있는 조직이다 보니 실험적인 행위를 할 수 있었다는 지적이다. 오픈AI는 애초 인간의 명령이나 도움 없이 스스로 사고하고 학습하는 범용AI(AGI)가 인류 전체에 혜택을 줄 수 있도록 노력하는 비영리 조직으로 출발했다. AI 서비스를 하고 있는 네이버의 경우 비윤리적인 답변이나 저작권 침해를 막기 위해 개발 과정에 ‘레드팀’과 같은 절차를 두고 있고, AI 윤리 관련 연구 논문을 전 세계 기업과 연구기관에 공개해 AI 윤리 생태계를 조성하고 있다. 지난해 AI 윤리 원칙을 발표한 LG전자는 주기적으로 협의체를 운영하면서 AI 위험성에 대한 점검을 하고 있다. 업계 관계자는 “현 상황은 오픈AI에 새로운 도전”이라면서 “오픈AI가 AI의 안전성에 대해 고려하는 계기가 될 수 있을 것으로 본다”고 내다봤다.

생성형 인공지능(AI) ‘챗GPT’를 출시해 전 세계를 충격에 빠뜨린 미국 오픈AI의 샘 올트먼 최고경영자(CEO)가 하루아침에 해임되는 사건이 벌어지자 국내 AI 업계에서도 촉각을 곤두세우고 있다. 비영리 조직으로 출발했다가 챗GPT를 내놓고 AI 수익화에 속도를 내던 오픈AI가 CEO 교체 이후 어떤 모습으로 바뀔지, 오픈AI에서 쫓겨나 마이크로소프트(MS)에 합류한 올트먼의 다음 행보는 어떻게 될지 등 모든 게 불확실하기 때문이다. 해임 사유가 명확하게 밝혀지지 않았지만 이 사건으로 AI의 안전성과 효율성을 둘러싼 논란도 다시 수면 위로 올라왔다. 전문가들 사이에서는 “내부 갈등이 결국 터진 것”이라는 해석과 함께 AI 기술 발전 과정의 과도기에서 발생한 ‘진통’이라는 분석도 나왔다. 이성엽(한국데이터법정책학회장) 고려대 기술경영전문대학원 교수는 20일 올트먼의 해임 사건과 관련해 “AI로 인한 비즈니스 모델을 만들어 수익화하고, 산업 혁신을 끌고 가야 한다는 주장과 AI 발전 속도가 예상보다 빨라서 통제가능하도록 규제하지 않으면 인류 전체에 위험이 생길 수 있다는 논리가 부딪친 게 아닌가 추정된다”면서 “이는 AI 기술이 가진 특수성 때문에 벌어진 일”이라고 진단했다. ‘게임체인저’인 AI의 변화 양상이나 속도가 광범위하고 기존의 기술과 달리 인간을 대체할 정도의 상당한 파급력이 있다 보니 CEO 본연의 역할인 주주이익·기업가치 극대화만을 추구하는 게 과연 맞는 것이냐는 질문을 던졌다는 것이다. 이 사건은 글로벌 화두로 떠오른 환경·사회·지배구조(ESG) 경영처럼 당장 성과가 나지 않더라도 인간의 존엄성 등 비재무적 요소도 함께 고려해야 기업이 ‘신뢰’를 얻을 수 있다는 시사점을 준다고도 덧붙였다.외신들도 올트먼이 자사 기술의 위험성에 대해 충분한 주의를 기울이지 않아 오픈AI 내부에서도 점점 더 우려하는 목소리가 있었다고 보도했다. 특히 오픈AI 공동 창립자인 일리야 수츠케버 수석과학자를 주축으로 한 이사진과 올트먼이 AI 안전성, 기술 개발 속도 등을 놓고 의견 충돌이 있었던 것으로 알려졌다. 수츠케버는 “AI를 통제할 수 있다고 여길 때까지 AI를 확장하지 말아야 한다”는 제프리 힌턴 토론토대 교수의 제자로 지난 7월 회사 내에 AI 위험성 통제를 위한 내부 팀도 새로 만들었다고 한다. AI 스타트업 업스테이지의 김근교 이사는 “안전성을 중요하게 생각하는 쪽과 사업적으로 속도를 내야 한다는 쪽의 갈등이 표면화된 게 아니냐는 외신 보도가 있지만 정작 이 사태로 어떤 변화가 일어날지 아무것도 결정되지 않았다”면서 “어떻게 결론이 나느냐가 중요한 만큼 계속 지켜보는 수밖에 없다”고 말했다.이 사태를 예의주시하는 정보기술(IT) 업계에선 비영리 조직으로 설립된 오픈AI가 영리 기업으로 전환하고 챗GPT로 성공을 거두고 몸집을 키우면서 정체성에 혼란을 일으켰다고 보는 시각도 있다. 구글처럼 처음부터 수많은 이용자를 대상으로 한 AI 서비스를 내놓기 위해 개발에 나섰다면 AI의 위험성을 고려해 속도 조절을 할 수밖에 없지만 오픈AI는 ‘사업’보다는 ‘연구’에 방점이 찍혀 있는 조직이다 보니 실험적인 행위를 할 수 있었다는 지적이다. 오픈AI는 애초 인간의 명령이나 도움 없이 스스로 사고하고 학습하는 범용AI(AGI)가 인류 전체에 혜택을 줄 수 있도록 노력하는 비영리 조직으로 출발했다. AI 서비스를 하고 있는 네이버의 경우 비윤리적인 답변이나 저작권 침해를 막기 위해 개발 과정에 ‘레드팀’과 같은 절차를 두고 있고, AI 윤리 관련 연구 논문을 전 세계 기업과 연구기관에 공개해 AI 윤리 생태계를 조성하고 있다. 지난해 AI 윤리 원칙을 발표한 LG전자는 주기적으로 협의체를 운영하면서 AI 위험성에 대한 점검을 하고 있다. 업계 관계자는 “현 상황은 오픈AI에 새로운 도전”이라면서 “오픈AI가 AI의 안전성에 대해 고려하는 계기가 될 수 있을 것으로 본다”고 내다봤다.