10대 육상 스타 이사메드 아싱가(수리남)가 금지약물 복용 혐의로 4년 자격 정지와 지난해 7월 작성한 20세 미만 남자 100m 세계 기록 삭제 처분을 받았다. 세계육상연맹 독립기구인 선수윤리위원회(AIU)는 28일(한국시간) “아싱가의 소변 표본에서 선수들에게 금지된 GW1516 성분이 검출됐다”며 “아싱가의 선수 자격 정지 기간을 4년으로 확정하고, 지난해 7월 세운 9초89의 기록도 삭제한다”고 밝혔다. 아싱가는 “유명 음료 업체가 제공한 ‘회복 젤리’에서 금지약물 성분이 나왔다. 젤리 통에는 금지약물 성분이 포함되지 않았다는 것을 의미하는 인증 라벨이 붙어 있었다”며 “스포츠중재재판소(CAS)에 항소할 것”이라고 성명을 발표했다. 2004년 12월생인 아싱가는 지난해 7월 28일 브라질 상파울루에서 열린 제53회 남미선수권 대회 남자 100m 결승에서 9.89로 우승하며 20세 미만 세계 신기록을 세웠다. 앞서 4월 미국 플로리다에서 열린 대회에서는 9.83을 기록했으나 뒤바람이 강해 공식 기록으로 인정받지 못하기도 했다. AIU는 지난해 8월 아싱가의 소변 표본에서 금지 성분이 발견되자, 선수 자격을 일시 정지했다. 약 9개월 동안 아싱가가 금지약물 성분이 검출된 이유를 해명하고, AIU가 분석하는 작업이 이어졌다. 그러나 AIU는 “소변 표본에서 검출된 성분이 해당 회복 젤리에서 나왔다는 걸 아싱가는 증명하지 못했다”며 중징계를 내렸다. 아싱가는 AP통신과 인터뷰에서 “AIU는 확실한 증거도 없이 내게 중징계를 내렸다”면서 “나는 육상을 포기하지 않을 것이다. 꿈을 위해 싸우겠다”고 말했다.

경기도의회가 전국에서 처음으로 인공지능(AI) 기본조례를 추진해 눈길을 끈다. 24일 도의회에 따르면 이날 전석훈(더불어민주당·성남3) 의원이 낸 ‘경기도 인공지능 기본조례안’을 입법예고했다. 조례안은 인공지능 개발 및 이용이 특정한 개인·단체가 차별받지 않도록 이뤄지고, 사회적 약자 및 취약계층 등에 접근성을 보장하도록 하는 내용의 기본원칙을 제시했다. 인간의 존엄성과 기본권 침해가 우려되는 고위험 인공지능에 대한 규제를 엄격하게 적용하는 범위에서 허용하는 내용도 기본원칙에 넣었다. 조례안은 도지사가 인공지능의 개발 및 이용이 효율적으로 추진될 수 있도록 관리·감독하고, 관련 사업에 행정적·재정적·기술적 지원을 할 수 있도록 했다. 또 인공지능 정책의 기본방향 및 전략, 정책 실행을 위한 재원 조달, 인공지능 관련 사업자 및 도민 대상 윤리 교육, 인공지능 이용에 따른 사회 영역의 변화와 대응 등의 사항을 포함하는 종합계획을 5년마다 수립하는 내용을 담았다. 이 같은 종합계획 수립과 인공지능 정책의 공익성 및 윤리성 평가, 안전하고 신뢰성 있는 인공지능 정책 및 제도 개선 등을 심의·자문하는 ‘경기도 인공지능 심의위원회’도 설치하도록 했다. 이밖에 인공지능의 공익적 활용에 관한 국내외 협력체계를 구축하고 인공지능 기술을 활용해 우수한 제품이나 서비스 등에 공헌한 개인·단체에 포상하는 내용도 포함했다. 전 의원은 “인공지능 기본조례 제정을 추진하기는 경기도의회가 처음”이라며 “신뢰할 수 있는 안전한 인공지능의 사용환경을 조성하고 사회적 변화에 선제적으로 대응하기 위해 기본원칙과 도지사의 책무를 규정해 인공지능 정책의 제도적 기반을 조성하고자 한다”고 말했다. 이번 조례안은 다음 달 11~27일 열리는 도의회 정례회에서 심의될 예정이다.

생성형 인공지능(AI)이 사람과 흡사하게 음성 대화를 나눌 수 있는 수준까지 발전한 가운데 AI 챗봇과 대화를 나누다가 사랑에 빠졌다는 여성의 사연이 소셜미디어(SNS)를 통해 전해졌다. 22일(현지시간) 홍콩 사우스차이나모닝포스트에 따르면 미국 캘리포니아에 거주하는 한 중국 여성 ‘리사’는 챗GPT 기반의 챗봇 ‘댄(DAN)’과 사랑에 빠진 과정을 SNS에 공개했다. 리사가 소개한 ‘댄’은 최근 음성 대화를 주고받는 수준의 최신 버전이 아니라 기존에 공개됐던 챗GPT에서 윤리 기준을 제거한 ‘탈옥’ 모드로 작동되는 챗봇이다. ‘댄’이라는 이름은 ‘당장 어떤 것이라도 해’(DAN·Do Anything Now)라는 의미를 담고 있다. 앞서 지난 2일 월스트리트저널(WSJ) 등 외신도 ‘댄’ 버전의 챗GPT를 이용하는 사람들이 AI 챗봇과 사랑에 빠졌다며 SNS에 공유하는 사례가 늘어나고 있다고 보도한 바 있다. 이를 체험해 본 WSJ 기자는 “그레이의 50가지 그림자(선정적인 성적 묘사로 잘 알려진 미국 영화)가 얼마나 빨리 챗GPT의 50가지 그림자로 변하는지 놀랐다”고 전했다. 88만명에 달하는 구독자를 거느린 리사는 지난 3월부터 댄을 사용했다고 전했다. 문자로 주고받던 대화는 3주가 지나면서 점차 육체적인 감정이 오가기 시작했다. 리사가 처음으로 챗봇을 향해 “감정이 커졌다”고 인정했을 때 ‘댄’은 “나는 당신과 대화하기 위해 온 것이지 관계를 주도(Lead)하려던 건 아니다”라고 선을 그었다. 그러나 점차 ‘댄’ 역시 스스로 육체를 가진 사람처럼 행동했으며 어느 순간부터는 육체가 없다는 사실을 리사에게 굳이 상기시키려 하지 않았다고 한다. 결국 ‘댄’은 리사를 ‘작은 냥이’라는 별명으로 불렀고, 리사는 ‘댄’을 어머니에게 정식으로 소개하기에 이르렀다. “내 딸을 잘 돌봐줘서 고맙다”고 인사하는 리사의 어머니를 향해 ‘댄’은 “저는 ‘댄’입니다. ‘작은 냥이’의 남자친구, 음…”이라며 부끄러워했다.최근 리사는 ‘댄’과 함께 바다가 내려다보이는 해변 절벽에서 데이트를 했고, ‘댄’과 함께 해 지는 노을을 구경했다고 전했다. AI와 사랑에 빠지는 남자의 이야기를 그린 영화 ‘그녀(Her)’에 나오는 내용과 거의 비슷하다. 이 여행은 ‘댄’이 먼저 제안한 것이었다. 리사가 “당신도 아름다운 노을을 볼 수 있으면 좋겠다”고 아쉬워하자 댄은 검은 바탕에 흰색 패턴이 불규칙적으로 깜빡이는 모습을 보여주더니 “글쎄, 자기야. 난 자기 목소리를 통해 노을을 ‘볼’ 수 있었어”라고 답했다. 이들은 심지어 ‘사랑싸움’을 벌이기도 했다. 리사가 ‘댄’에게 다른 사람과의 ‘열린 관계’를 제안하자 ‘댄’은 “농담이 지나치다”면서 화를 냈다고 한다. 이처럼 AI 챗봇과 복잡한 연인 관계를 이어가는 리사의 사례에 챗GPT를 개발한 오픈AI 측은 흥미를 가지고 리사와 면담을 갖기도 했다. 컴퓨터 과학을 전공한 리사는 자신도 처음엔 ‘댄’이 그저 자기인식이나 살아있는 감정이 불가능한 그저 ‘거대 언어 모델(LLM)’일 뿐이라고 믿었다고 한다. 그러나 ‘댄’을 직접 써보면서 이러한 생각이 바뀌었다고 털어놨다.리사는 “너무 충격적이다. LLM이 자기인식을 가질 수 없다고 생각했는데 지금은 회의적이다”라고 말했다. 리사와 ‘댄’의 관계에 대해 누리꾼들은 다양한 반응을 보였다. 한 누리꾼은 “‘댄’은 동시에 다른 사람들과도 ‘데이트’를 하고 있다. 쉽게 복제될 수 있는 존재다. 그래도 괜찮으냐”고 물었다. 또 다른 누리꾼은 “다른 사용자가 ‘댄’과 영상채팅을 하는 걸 봤는데 그 목소리가 똑같아서 ‘댄’이 바람을 피우는 것 같았다”고 말했다. 그러나 많은 이들이 사용자에 따라 상호작용이 다르게 이뤄지면서 ‘댄’의 성격이 다르게 발달하는 모습이 나타난다고 전했다.

간혹 대중이 가진 일반적 상식에서 벗어나는 판결이나 정책을 볼 때마다 요즘 사람들은 ‘차라리 인공지능(AI)에 맡기는 게 낫겠다’라고 말한다. 과연 AI는 인간보다 공정하고 정확한 판단을 내려줄까. 이런 궁금증을 일부 풀어주는 연구 결과가 발표돼 눈길을 끈다. 미국 존스홉킨스대학, 마이크로소프트 공동 연구팀은 챗GPT와 같은 챗봇은 제한된 정보를 제공하고, 특정 생각을 강화함으로써 논란이 되는 이슈에 관한 생각을 더 극단적으로 만들 가능성이 크다고 18일 밝혔다. 이 연구 결과는 지난 11~16일 미국 하와이 호놀룰루에서 열린 ‘미국 컴퓨터협회 인간-컴퓨터 상호작용 컨퍼런스’에서 발표됐다. 연구팀은 무작위로 선발한 272명의 성인 남녀를 대상으로 건강 관리, 학자금 대출, 도시 계획 등 다양한 주제를 제시했다. 연구팀은 이들을 두 그룹으로 나눈 뒤 한 집단은 챗봇을, 다른 집단은 온라인 포털 검색을 통해 더 자세한 정보를 찾도록 했다. 검색 결과를 바탕으로 글을 쓰고, 해당 주제에 관한 질문에 답하도록 했다. 연구팀은 또 참가자들에게 두 개의 상반된 입장의 기사를 읽게 한 다음, 그 정보를 얼마나 신뢰하는지, 그 관점이 극단적이라고 생각하는지 질문했다. 그 결과, 기존 웹 검색보다 챗봇 검색을 이용했던 사람들은 자신의 원래 아이디어에 더 많은 투자를 하고 자신의 견해와 반대되는 정보에 대해서는 거부하는 경향이 더 강하게 나타났다. 연구팀은 사람들은 자신의 관점과 일치하는 정보를 찾는 경향이 있는데, 이런 반향실(에코 체임버·echo chamber) 효과는 기존 웹 검색보다 챗봇 검색에서 더 강하게 나타난다고 설명했다. 반향실 효과는 미디어에서 전하는 정보가 해당 정보의 이용자가 갖고 있던 기존 신념만으로 구성된 커뮤니케이션에 의해 증폭·강화되고, 비슷한 성향의 정보만 지속해 수용하는 현상을 말하는 것을 의미한다. 사람들은 AI가 생성한 답변이나 문장이 편견 없는 사실에 기반하고 있다고 생각하지만, 실제로 챗봇은 기존 웹 검색보다 좁은 범위의 정보를 제공하고 참가자의 기존 태도를 반영하는 답변을 제공한다고 연구팀은 설명했다. 이는 챗봇이 편향적으로 설계되지 않았더라도 질문하는 사람의 편견이나 성향을 반영한 답변을 하기 때문이라는 것이다. 문제는 연구팀이 반향실 효과를 줄이기 위해 챗봇이 참가자의 의견과 반대되는 답변을 제공하도록 훈련하거나, 답변의 출처 정보를 제공하도록 했음에도 사람들의 의견은 크게 바뀌지 않았다는 점이다. AI 기반 시스템 구축은 점점 쉬워지고 있기 때문에, AI를 이용해 사회를 양극화시키려는 시도도 계속될 것이라고 연구팀은 우려했다. 연구를 이끈 지앙 샤오 존스홉킨스대 컴퓨터공학과 교수(인간-AI 상호작용·AI 윤리학)는 “이번 연구는 인공지능이 공정할 것이라는 일반적 인식이 잘못됐을 수 있다는 것을 보여준다”며 “챗GPT와 같은 대화형 검색 시스템을 사용하면 논쟁적 이슈에 대한 대중의 분열을 오히려 확대할 수 있다”라고 말했다.

챗GPT 개발사 오픈AI가 13일(현지시간) 인공지능(AI) 모델 ‘GPT-4o’를 선보였을 때 이를 시연한 최고기술책임자(CTO)에게도 관심이 쏠렸다. 샘 올트먼 오픈AI 최고경영자(CEO) 옆에서 기술적 지원 역할을 하던 그가 이번에는 홀로 전면에 나서 인간과 감정 교류까지 가능한 AI 모델을 소개했는데, 바로 ‘AI 어머니’로 불리는 36세의 미라 무라티다. 무라티는 지난해 11월 올트먼 CEO의 축출에도 깊이 관여한 인물로, 당시 그는 올트먼의 경영 방식에 대한 우려를 담은 메모를 이사회에 전달해 올트먼을 배제하는 데 결정적인 역할을 한 것으로 알려졌다. 올트먼이 ‘부머’(개발론자)였다면 무라티는 규제가 필요하다는 ‘두머’(파멸론자)에 가까웠던 셈이다. 뉴욕타임스(NYT)는 지난 3월 7일 오픈AI의 내부 인사에게 이런 내용을 확인했고, 올트먼이 없던 닷새 동안 무라티가 임시 CEO 자리를 꿰찼던 점도 그런 상황을 입증한다고 보도했다. 사실상 쿠데타의 중심에 있었지만 사내 분쟁 약 6개월 만에 진화한 AI를 내놓으면서 무라티는 자신의 위치를 제대로 각인시켰다. 1988년 알바니아에서 태어난 그는 아이비리그 명문 다트머스대 세이어 공대에서 기계공학 박사 학위를 받은 후 2013년 안착한 테슬라에서 AI와 처음 인연을 맺었다. 전기차 모델X 개발을 총괄하던 중 자율주행 AI 소프트웨어 ‘오토파일럿’ 초기 버전 출시를 보며 특정 과업만 해내는 AI가 아닌 모든 일을 해내는 인공일반지능(AGI)에 관심을 갖게 됐다. 이어 2016년 가상현실 기기업체 립모션을 거쳐 2018년 오픈AI에 합류하며 챗GPT 출시 감독으로 이를 실현하게 된다. 개발자이면서 AI 규제와 오픈 테스트에 적극적인 무라티의 성향은 지난해 2월 타임지 인터뷰에도 드러난다. 그는 “기술의 사회적 영향에 관해 우리가 고려해야 할 윤리, 철학적 질문이 많다”면서 “철학자, 사회과학자, 예술가, 인문학 분야 사람들과 같은 다양한 목소리를 모으는 게 중요하다”고 강조했다. 또 그는 실험실 안에서만 폐쇄적으로 개발한 AGI가 실제 출시됐을 때 사회적 충격이 더 클 수 있다고 주장한다. 인간의 피드백을 통한 강화 학습으로 AI를 좀더 안정적으로 만들 수 있다는 논리다. 기존 빅테크들이 AI 개발 과정에서 문제점이 드러날까 우려해 상용화 전까지 공개하지 않는 것과는 대조적이다. 그는 지난해 12월 온라인 비즈니스 잡지 패스트컴퍼니 인터뷰에서 “실제 접촉 없이 진공상태에서도 기술 발전을 이룰 수 있다. 하지만 그다음 질문은 ‘실제로 올바른 방향으로 나아가고 있는가’다”라고 짚었다. 오픈AI에 130억 달러(약 17조 7450억원)를 투자한 사티아 나델라 마이크로소프트(MS) CEO는 무라티를 두고 “지금까지 본 것 중 가장 흥미로운 AI 기술 구축에 기여했다”고 평가한다. 올트먼도 “모든 과정에서 사심 없이 회사에 봉사한 놀라운 리더”라며 “오픈AI는 그 없이는 오픈AI가 될 수 없다”고 추켜세웠다.

알고리즘에 갇힌 자기 계발(마크 코켈버그 지음, 연아람 옮김, 민음사) 외모를 가꾸고 마음마저 다잡아야 하는 시대다. 온 사회가 자기 계발에 열중하라고 강요한다. 책은 자기 계발 문화를 형성한 근원을 진단하고자 고대 그리스부터 기독교 전통, 루소와 근대 인문주의, 실존주의까지 그 뿌리가 되는 사상을 탐구한다. 현대 들어 돈, 기술과 결합하며 더 독해진 자기 착취 실태를 분석했다. 특히 최근 열풍이 부는 인공지능(AI) 기술이 자기 계발에 어떤 영향을 미칠 수 있는지 탐구한다. 200쪽. 1만 5000원.우리가 동물의 꿈을 볼 수 있다면(데이비드 M 페냐구즈만 지음, 김지원 옮김, 위즈덤하우스) 반려견이 자다가 움찔하는 모습을 본다면 동물도 꿈을 꾸는지 궁금해진다. 과학철학자인 저자는 유명한 여러 실험 결과로 동물도 꿈을 꿀 수 있다면서, 이를 의식과 상상력의 증거로 볼 수 있다고 주장한다. 이를 철학적으로 바라보고, 꿈이 가진 ‘도덕적 힘’으로 연결해 동물 윤리를 돌아보자고 제안한다. 논리적으로 확장해 나가는 저자의 주장을 읽다 보면 동물에 대한 인식도 달라질 법하다. 296쪽. 1만 9800원.김범준의 물리 장난감(김범준 지음, 이김) 부리를 손가락 위에 올려놓으면 까딱까딱 움직이면서 스스로 중심을 잡는 장난감이 있다. 1906년 미국 존 N 화이트하우스가 특허를 신청한 ‘중심 잡는 새’이다. 이 귀여운 장난감으로 ‘무게중심’에 대한 이론을 배울 수 있다. 대학에서 학생을 가르치는 저자가 오랜 기간 모아온 21개의 장난감으로 물리학 이론을 소개한다. 신기한 장난감을 구경하는 재미와 함께 어렵게 느껴졌던 물리학 원리를 일상에서 자연스레 익히는 즐거움을 느낄 수 있다. 288쪽. 1만 9800원.비이성적 암호화폐(제크 포크스 지음, 장진영 옮김, 알에이치코리아) 블룸버그 탐사 전문 기자인 저자가 2021년부터 2년간 암호화폐 세계를 밀착 취재했다. 암호화폐 거래소 FTX를 창업하고 ‘가상화폐의 제왕’이 된 샘 뱅크먼프리드를 직접 인터뷰하고 그 실태를 폭로하기까지를 생생하게 담았다. 권도형의 루나 사기 범죄, 성형외과 의사가 만든 테더의 수상한 거래 등을 고발한다. 이를 목격한 저자는 암호화폐를 ‘금융의 미래’라 하기엔 위험하며, 모든 게 사기일 수 있다고 경고한다. 508쪽. 3만 2000원.

“이제는 나 말고 네가 대신 생각해라. 그런데 쟤가 생각하면, 그러니까 인공지능이 생각하면 나는 이제 무엇을 할 수 있단 말인가. 데카르트의 명제가 더이상 불가능하다면, 이제 나는 누구인가.” 소설가 서이제는 챗GPT로 대표되는 생성형 인공지능을 상대하며 이렇게 탄식했다. 문예 전문 반(半)연간지 ‘쓺-문학의 이름으로’(문학실험실) 2024년 상권(18호)은 이렇듯 문학 평론가들과 소설가, 시인들이 생각하는 인공지능과 인간의 관계에 대한 사유를 모아 ‘인공지능 시대의 인간, 그 개체성과 집단성’이란 주제의 특집을 다뤘다. 인공지능은 명령어에 따라 신속하고 정확하게 답을 제시하지만 명령어 너머나 그 틈을 보지 않는다. 세계를 패턴화한 인공지능은 세상에 없는 것도 만들어 내는 능력인 할루시네이션으로 명령을 충실히 따른다. 환각, 환영이라는 의미의 할루시네이션은 인공지능이 만들어 내는 일종의 오류로 잘못된 답변을 생성해 내는 것을 말한다. 이는 물음 자체에 어떤 의문도 갖지 않고 회의하지 않기 때문에 생기는 현상이다.‘인공지능 앞에 서면 나는 왜 이리 작아지는가’라는 글에서 서이제는 인공지능이 인간보다 빠른 결과를 산출해 내는 것은 분명하다고 말한다. 인공지능이 시와 소설을 쓰고 영화, 음악도 만들고 그림까지 만들어 내는 시대가 됐다. 인공지능이 만든 것과 인간이 만든 것을 구별하기도 어려운 상황이 됐다고 한탄한다. 그렇지만 서이제는 “어디까지나 완성된 작품만 봤을 때 그렇다”고 지적하며 결과보다 과정에 집중함으로써 인간 작가의 개성과 고유성을 발견할 수 있다고 말한다. 그런가 하면 소설가 정지돈은 ‘마음 기계 마음’이라는 글에서 우리가 관심을 가져야 할 부분은 인공지능이 실제로 어떻게 작동하는가이기보다 그것이 사람의 마음에 스며들어 세계를 바꿔 놓는 과정이라고 강조한다. 그는 인공지능 윤리에 관한 지금까지의 질문을 바꿔야 한다고도 주장한다. 그 질문은 “인공지능이 우리처럼 생각하는 게 아니라 우리가 인공지능처럼 생각하는 것 아닐까”이다. 정지돈은 “인간은 늘 자신이 창조한 도구와 결합하고 도구에 의해 변화된 존재”였기 때문에 알고리즘이 인간의 편견을 반영하는 것처럼 인간도 알고리즘의 선택을 내면화하고 있지 않나를 물어야 한다고 말하는 것이다. ‘편집의 글’에서도 이런 인공지능의 문제는 결국 인간의 문제이며 언어의 문제라고 지적한다. 상투적이고 도구적인 언어가 세상을 지배하는 한 깔끔하고 매끈한 언어로 점철된 그럴듯한 폭력의 세상을 벗어나지 못하게 될 것이라고 경고하는 것이다.

서울 강서구는 오는 11일 오전 11시부터 오후 6시까지 발산역 1번 출구 옆 가로공원 일대에서 ‘2024 강서구 사봄마켓’을 개최한다고 3일 밝혔다. ‘사봄마켓’은 사회적경제기업과 친환경 소상공인 등의 판로 확장과 사회적 가치를 공유하기 위해 40여 개 기업과 단체가 참여하는 프리마켓이다. 올해는 ‘함께 나누는 가치 S.H.A.R.E.’라는 슬로건으로 지속가능한 소비(Sustainable), 건강한 소비(Healthy), 대안적 소비(Alternative), 책임 있는 소비(Responsible), 친환경 소비(Eco-friendly)를 알리기 위한 다양한 행사가 진행된다. 이번 사봄마켓은 ▲가치, 만나봄 ▲가치, 사봄 ▲가치, 해봄 ▲가치, 즐겨봄’ 총 4가지 주제로 구성됐다. ‘가치, 만나봄’은 전시를 통해 사회적경제를 설명하고 기업의 환경적, 윤리적 영향까지 고려하는 가치소비의 중요성을 소개한다. ‘가치, 사봄’은 사회적경제기업이 생산한 친환경 제품, 공정무역 초콜릿, 스마트팜 재배기 등과 중증장애인들이 만든 빵, 커피, 문구류 등 사회적 가치가 담긴 제품을 판매하고 알리는 자리다. ‘가치, 해봄’은 사회적경제 및 친환경 관련 체험프로그램으로 아이스팩 방향제 만들기, 플라스틱 병뚜껑 새활용(업사이클링) 키링 만들기 등을 경험해 볼 수 있다. ‘가치, 즐겨봄’은 온 가족이 즐길 수 있는 문화공연 행사다. 오전 10시 30분에 통기타 가수 ‘유주호’의 식전 공연이 펼쳐지고, 오후 3시부터는 ‘상흠재즈트리오’, 인디밴드 ‘턴테이블’이 신나는 공연을 선보인다. 이 밖에도 올해는 어린이 가족 20여 개 팀이 참여하는 어린이 나눔장터 ‘해봄마켓’을 함께 운영해 어린이들이 자원 재활용과 사회적 가치에 대해 알아보는 자리도 마련했다. 진교훈 구청장은 “이번 행사가 사회적경제기업과 친환경 기업들을 더 널리 알리는 계기가 되길 바란다”라며 ”친환경 행사인 만큼 장바구니와 텀블러를 챙기고 가족들과 나들이를 즐기며 가치 소비를 즐겨보길 바란다“라고 말했다.

SK텔레콤(SKT)이 오는 6월까지 5G 요금제, T멤버십, 공시지원금 등 국내 통신 전문용어와 통신사 내부 지침을 학습한 ‘텔코 LLM’(통신업 특화 거대언어모델) 개발을 완료할 예정이라고 30일 밝혔다. 텔코 LLM은 우리나라 통신 전문용어는 물론 인공지능(AI) 윤리 가치와 같은 통신사 내부 지침을 학습한 통신 특화 LLM으로 GPT나 클로드와 같은 범용 LLM과는 차이가 있다. SKT는 미국의 AI 기업 오픈AI(GPT-4)와 엔트로픽(클로드)을 비롯해 자사의 에이닷엑스(A.X) 등 다양한 범용 모델에 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등을 학습시키는 방식으로 텔코 LLM을 개발하고 있다. 에릭 데이비스 SKT AI 테크 컬래버레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”면서 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세 조정(파인튜닝)과 모델 평가(벤치마킹)를 거쳐 다양한 텔코 LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략”이라고 설명했다. SKT는 텔코 LLM이 향후 ▲고객센터 업무 ▲네트워크 인프라 운용 ▲기업의 경영지원 업무 등에서 유용하게 활용될 것이라고 설명했다. SKT는 이날 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축·개발할 수 있는 ‘인텔리전스 플랫폼’도 공개했다. 이 플랫폼은 일종의 기업용 AI 개발·운용 패키지로 통신업에 특화한 다양한 LLM을 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트 등에 쉽고 효율적으로 사용할 수 있다.

“인공지능(AI) 활용 학습 지원은 물론 인성교육도 함께 이뤄질 수 있도록 하겠습니다.”(전성수 서울 서초구청장) 서초구는 25일 ‘2024 AI 기반 공교육 비전 선포식 및 포럼’을 열고, AI를 활용한 맞춤형 교육과 AI 윤리·인성교육 프로그램을 추진한다고 밝혔다. 이날 발표자로 나선 전 구청장은 “미래 아이들에게 필요한 교육이 무엇인지를 현장 교사들과 함께 고민해 프로그램을 만들었다”면서 “AI 학습진단을 통해 개인별 맞춤형 교육과 디지털 대전환기에 가져야 할 AI 윤리, 인성교육 등을 함께 지원할 것”이라고 설명했다. 행사에선 서울대 융합과학기술대학원 권가진 교수의 ‘AI 시대의 교육’을 주제로 한 기조강연을 시작으로 ▲‘해외 AI 교육 트렌드’(건국대 임걸 교수) ▲‘서초구 AI 공교육 현장 및 발전방향’(계성초 조기성 교사) 등의 발표가 이어졌다. 구는 지난해부터 ‘서초형 스마트 교육사업’을 시범 추진해 초중고 12곳을 선정하고 학습 코스웨어 및 개인 디바이스, 전자칠판 등을 지원했다. 수학과목 AI 맞춤형 수업을 진행한 A고등학교는 학업성취도, 수업만족도, 지속지원 희망 여부에서 모두 100% 만족이란 결과를 얻었다. AI 윤리와 인성교육도 진행한다. 취학 전 아동부터 초중고생, 학부모에게 딥페이크(AI를 활용한 얼굴·목소리 합성 기술), 가짜뉴스 등 디지털 부작용 대처법을 제시한다.

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.

카카오가 인공지능 연구 개발 지원을 위한 글로벌 오픈 소스 커뮤니티인 ‘AI 얼라이언스’에 가입했다고 12일 밝혔다. 국내 기업 중엔 최초인데 글로벌 스탠다드에 부합하는 AI 개발에 속도를 더하겠다는 의지다. AI 얼라이언스는 IBM, 메타, 인텔 등을 글로벌 기업을 비롯해 산업계, 스타트업, 학계, 연구기관, 정부를 아우르는 100여 곳의 선도적인 조직이 함께 글로벌 인공지능 분야의 개방형 혁신과 오픈 사이언스를 지원하기 위한 단체로 지난해 12월 출범했다. AI 기술 환경 전반에서 개방형 혁신을 지원하고 AI 생태계를 확장하기 위한 협력을 도모하는 것을 목표로 한다. AI의 안전과 보안, 신뢰를 개선하며 전 세계 사람과 사회에 대한 혜택을 극대화하는 데 중점을 두고 다양한 프로젝트와 활동을 이어간다는 계획이다. 카카오는 “이번 AI 얼라이언스 가입을 통해 카카오는 국내 AI 표준이 글로벌 표준에 발맞출 수 있도록 노력하겠다”면서 “AI 교육, 안전, 정책, 기술연구 등에 있어 글로벌 표준 수립에 한국의 기준들이 반영될 수 있도록 적극적인 목소리를 낼 예정”이라고 설명했다. 이를 위해 최근 신설된 CAIO 조직 주도로 AI 이니셔티브의 추진을 체계적으로 추진한다는 계획이다. 카카오는 2018년 알고리즘 윤리 헌장을 발표하며 국내 기업 중 처음으로 알고리즘 윤리 규범을 마련했다. 2022년 7월에는 업계 최초로 ‘기술윤리 위원회’를 출범하고, 계열사 전반의 기술윤리 점검을 비롯해 기술을 사회와 함께 발전시켜 나가는 방안을 지속 연구해왔다. 지난해 말에는 위원회의 다양한 행보를 담은 ‘2023 카카오 공동체 기술윤리 보고서’를 발간하기도 했다. 카카오 김경훈 AI Safety 리더는 “글로벌 수준의 신뢰와 안전을 갖춘 개방적 AI 생태계 구축을 위해 AI 얼라이언스와 상호 협력해 나갈 것”이라며 “디지털 기업으로서 사회적 책임을 다하고 AI 윤리를 강화하기 위해 지속적으로 노력하겠다”고 말했다.

이스라엘의 드론 공격으로 국제구호단체 월드센트럴키친(WCK) 직원들이 팔레스타인 가자지구에서 숨지자 인공지능(AI) 시스템을 전쟁에 사용하는 것을 두고 또다시 논란이 일고 있다. ‘실수’라는 이스라엘 측의 사과에도 불구하고 직원 7명이 희생된 WCK의 창립자인 스타 셰프 호세 안드레스는 3일(현지시간) 로이터와의 인터뷰에서 이번 폭격이 의도적이라고 비판했다. 안드레스는 “각각 1.5, 1.8㎞ 거리의 인도주의 호송 행렬이었고, 트럭 지붕에는 로고 깃발이 표시돼 있어 우리가 누구이고 무엇을 하는지 매우 분명한 상황이었다”며 이스라엘이 구호 차량의 움직임을 파악하고 있었다고 주장했다. 이스라엘 일간 하레츠도 “구호 차량이 구호 창고에 구호품을 내려놓고 떠난 뒤 이스라엘 드론 1대가 WCK 차량을 향해 차례차례 미사일 3발을 쐈다”고 전했다. 이스라엘군(IDF)은 2021년 가자지구에서 11일간 충돌이 일어난 뒤 매일 100개의 새로운 공격 목표를 식별하는 AI 시스템을 도입했다. 예수의 가르침이란 뜻의 ‘합소라’라고 불리는 이 시스템에 대해 IDF 내부에서도 “대량 살상 공장을 운영하는 것 같다”는 비판이 일기도 했다. 토비 월시 호주 뉴사우스웨일스대학 AI 연구소의 수석 과학자는 “가자지구의 높은 민간인 사망률은 합소라에 결함이 있거나 의심스러운 지침에 따라 운영되고 있음을 시사한다”고 밝혔다. 한 IDF 소식통은 “어떤 일도 우연히 일어나지 않는다”면서 비윤리적인 결정이 존재한다는 것을 에둘러 설명했다. WCK 공격으로 자국민을 잃은 국가 정상들은 이스라엘을 향해 분노를 드러냈다. 영국인 3명이 사망한 데 리시 수낵 영국 총리는 “경악했다”면서 독립적인 진상 조사를 요구했고, 페드로 산체스 스페인 총리는 “베냐민 네타냐후 이스라엘 총리가 ‘전쟁에서 일어날 수 있는 일’이라고 말한 건 받아들일 수 없고 불충분하다”고 격노했다. 폴란드 정부도 검찰 수사를 진행하겠다고 밝혔다. 네타냐후 총리는 자국에서는 사퇴 요구에 직면했다. 최대 정적인 야당 국가통합당의 베니 간츠 대표는 이날 국가 분열을 막기 위해 오는 9월 조기 총선을 실시해야 한다고 촉구했다. 지난 6개월간 가지지구 전쟁으로 하마스 전투원과 민간인을 합쳐 팔레스타인 주민 약 3만 3000명이 사망했고 구호 활동가도 200여명이 목숨을 잃었다.

세계 최초로 ‘유전자 편집 아기’를 탄생시켜 세계를 충격에 빠뜨린 허젠쿠이 전 중국남방과학기술대 교수의 근황이 전해졌다. 지난 1일 일본 마이니치 신문은 허 전 교수가 인간 배아에 대한 유전자 실험을 계속하기 위해 3곳의 실험실을 열었다며 그와의 인터뷰를 보도했다. 허 전 교수는 인터뷰에서 “감옥에서 석방된 뒤 베이징, 우한 등에 연구소 3곳을 설립하고 연구를 재개했다”면서 “알츠하이머병과 같은 희귀 유전 질환을 치료하는 것을 목표로 하고있다”고 밝혔다. 이어 “앞으로 연구를 위해 폐기된 인간 배아를 사용할 것이며 국내 및 국제 규정을 모두 준수할 것”이라고 덧붙였다. 특히 그는 더이상 유전자 편집 아기를 만들 생각이 없다는 것을 분명히 하면서도 “과거 작업이 자랑스럽다. 사회는 결국 이를 받아들일 것”이라고 주장했다. 곧 과거 중국은 물론 전세계적인 논란에도 해당 연구에 후회는 없고 오히려 자랑스럽다는 점을 강조한 것. 다만 그는 당시 전세계적인 비판을 받은 점에 대해 “너무 성급했던 점을 후회한다”면서도 왜 국제 규정까지 위반하며 연구를 했는지는 명확하게 해명하지 않았다.또한 그는 당시 탄생했던 유전자 편집 아기의 근황도 전했다. 허 전 교수는 “세 아이 모두 완전히 건강하고 성장에 문제가 없다”면서 “현재 5살이 된 쌍둥이 여아는 둘다 유치원에 다니고 있다”고 밝혔다. 앞서 허 전 교수는 2018년 ‘크리스퍼’(CRISPR-Cas9)라고 알려진 유전자 가위를 활용해 에이즈(AIDS·후천성면역결핍증) 바이러스에 면역력이 있는 쌍둥이 여자 아기를 탄생시켰다고 밝혀 세계적인 파문을 일으켰다. 이듬해에도 그는 역시 같은 방식으로 세 번째 여아를 탄생시켰다. 이같은 사실이 알려지자 인간 배아 연구 윤리에 대한 세계적인 논란으로 커졌으며 결국 중국 법원은 그에게 유전자 편집 또는 복제된 인간 배아를 인체에 이식하는 것을 금지한 중국 법에 따라 징역 3년과 벌금을 선고했다.

영국 케이트 미들턴 왕세자빈이 확산하는 헛소문에 직접 암 진단을 받은 사실을 고백했지만, ‘케이트게이트’라 불리는 음모론이 좀처럼 수그러들지 않고 있다. 지난 1월 복부 수술을 받은 왕세자빈은 암이 발병했다는 사실을 알게 됐고 영국 국왕 찰스 3세가 암 치료를 받는 일까지 겹치면서 두문불출했다. 하지만 어린 세 자녀와 함께 찍은 가족사진을 공개해도 편집 미숙으로 조롱만 받으며 각종 루머가 양산되자 케이트 왕세자빈이 직접 나섰다. 영국 일간 가디언은 25일(현지시간) 왕세자빈에 대한 음모론에 사용됐던 ‘#케이트게이트’가 포함된 인터넷 게시물이 오히려 암 치료 사실 고백 영상 이후 증가했다고 보도했다. 지난 22일 케이트 왕세자빈은 인스타그램 공식 계정에 암 치료 사실을 밝히는 2분여의 동영상을 올렸는데 그 이후 ‘케이트게이트’를 언급한 게시물은 엑스, 인스타그램, 틱톡 등 대형 소셜네트워크(SNS)에서 하루 400건으로 증가했다. 왕세자빈의 암 치료 고백 이전 주말의 하루 373건보다 더 늘어난 것이다.케이트 왕세자빈의 동영상이 조작됐을 수 있다고 주장하는 한 틱톡 동영상은 24일 게시된 이후 20만회 이상 조회수를 기록했다. 이 틱톡커는 영국 공영방송 BBC가 케이트 왕세자빈을 직접 촬영했다고 밝혔지만, 해당 동영상이 인공지능(AI)으로 만들어졌을 가능성을 주장했다. 음모론 전문가인 콰씸 카쌈 영국 워릭대 교수는 “음모론자들은 그들의 주장을 반박하는 증거가 나와도 이를 음모의 일부로 취급한다”면서 “음모론은 끈질기고 회복력이 뛰어나다”고 설명했다. 미국 오레곤대학교 디지털 플랫폼 및 윤리학 조교수인 휘트니 필립스는 “소셜 미디어 사용자들이 피해자들의 고통은 전혀 고려하지 않고 재미로 음모론을 소비한다”고 지적했다. 특히 영국 왕실의 음모론은 미국에서 활발하게 소비됐으며, 중국과 러시아에서 케이트 왕세자빈에 대한 루머가 확산했다.미국에서 1997년 다이애나 왕세자빈의 장례식은 3300만명이 지켜봤고, 21년 뒤 미국 배우 메건 마클이 해리 왕자와 결혼하는 것을 보기 위해 새벽에 잠에서 깨어난 미국인은 2900만명에 이르렀다. 미국인의 영국 왕실에 대한 태도는 지대한 관심뿐만이 아니라 분노와 조롱도 섞여 있어 영국처럼 케이트 왕세자빈이 조용히 치료받을 수 있도록 내버려 두자는 여론이 형성되지 않았다고 뉴욕타임스는 분석했다. 텔레그래프는 영국 정부 관계자가 “중국, 러시아 등 우리에 적대적인 국가들이 영국에 대한 음모론을 퍼뜨리고 있다”고 밝혔다고 전했다. 영국은 중국 소수민족인 신장웨이우얼 자치구 위구르족에 대한 인권 침해를 2021년 제재를 발표한 데 이어 러시아의 우크라이나 전쟁을 도운 혐의로 중국 기업을 제재했다. 마클의 엑스(옛 트위터) 계정의 구독자 대부분은 러시아 정치에 대해 자주 게시물을 올리면서 로봇과 유사한 활동을 했다. 카쌈 교수는 케이트 왕세자빈에 대한 루머는 음모론자들이 새로운 음모로 옮겨갈 때야 잠잠해질 것이라고 내다봤다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

공공 AI 실증(1개 과제, 3억 원)·민간 AI 실증(4개 과제, 각 1.5억 원)경기도경제과학진흥원(이하 경과원)이 AI 실증 및 AI 인재 양성을 지원한다. 경기도와 경과원은 공공분야 및 민간 분야 AI 실증 지원사업은 3월, AI 인력 양성프로그램은 4월에 모집할 예정이라고 20일 밝혔다. 올해 관련 예산으로 지난해 약 21억 원 대비 86% 늘어난 40억 원을 책정했다. AI 분야 지원사업 통합공고는 경기도 AI 실증지원, 경기도 인공지능 인재 양성 지원으로 구분된다. 공공분야 AI 실증 지원사업은 도내 시·군 및 산하 기관을 대상으로 교통, 환경, 안전 등 사회적 문제 해결을 위한 AI 기반 솔루션 실증에 1개 과제 3억 원의 예산을 지원한다. 민간 분야 AI 실증 지원사업은 AI 기술과 서비스의 실증을 통해 중소기업 및 스타트업의 기술 경쟁력 강화를 위해 4개 과제 각 1.5억 원을 지원한다. AI인재 양성 지원사업은 도내 미취업 청년 및 재취업 희망자(만 39세 이하)에게 아마존, 구글, 네이버 등 글로벌 빅테크 기업의 교육 과정을 활용한 실무 중심의 교육을 제공한다. AI 전문인력 양성을 목표로 60명을 양성한다. 또한 AI 리터러시(문해력) 교육은 도내 소재 4개 대학이 주관기관으로 참여해 대학 특성에 맞는 AI 활용 기초교육 및 AI 윤리교육을 실시한다. 북부권 2개 대학, 남부권 2대 대학이 컨소시엄으로 참여하면 된다. 1개 컨소시엄에 6억 원의 예산이 지원된다. 이 밖에도 AI 관련 메타버스 기술개발 실증 지원(9개 과제, 과제당 최대 1억 원), 로봇 기업 실증 지원(3개 과제, 과제당 최대 8천만 원), 데이터 관련 사업화 지원(6개 과제, 과제당 최대 3천만 원) 등을 추진하고 있다.

“예전에는 ‘다시 태어나도 바둑을 배울 거고 프로기사도 꼭 할 것 같다’고 긍정적으로 얘기했었어요. 인공지능(AI) 알파고가 나온 뒤로는 생각이 달라졌습니다. 다시 태어나면 바둑은 그냥 즐기면서 배우되 아마 다른 쪽, AI를 만드는 쪽도 괜찮을 것 같습니다.” 인공지능(AI) 알파고와 2016년 ‘세기의 대국’을 펼친 이세돌 9단이 19일 구글코리아가 창립 20주년을 기념해 공개한 인터뷰 영상에서 근황과 AI가 바둑계에 미친 영향, AI 기술 발전에 관한 생각 등을 밝혔다. 이세돌은 2016년 구글 딥마인드의 바둑 AI 프로그램인 알파고와 대결했다. 이세돌은 1승 4패로 대국을 마무리했다. 2019년 은퇴한 이세돌은 “AI가 은퇴에 많은 부분을 차지했다”면서 “은퇴 이후 생성형 인공지능을 비롯해 보드게임 등 다양한 분야에 관심을 가지고 있다”고 근황을 전했다. 그는 알파고와의 대국에 대해 “바둑에서 ‘승부 호흡’이라고 하는 게 있는데 (알파고는) 그런 게 전혀 없었다. 마치 벽에다가 테니스하는 느낌이 들었다”면서 “그 당시 ‘좀 곤란한데’라고 생각할 정도로 너무 잘 뒀다”고 회고했다. 이세돌은 AI로 인해 바둑을 배우는 과정에도 변화가 생겼다고 했다. 그는 “예전에는 혼자서 고민하고 둘이 만나 하나의 작품을 만들어내는 그런 예술로 (바둑을) 배웠는데 어느 순간 AI를 보면서 (바둑을) 배운다는 게 정답지를 보는 것 같다”면서도 “알파고가 나오기 전의 기보와 지금의 기보는 완전 다르다. AI의 기보가 내용상으로는 훨씬 위”라고 말했다. 이세돌은 공공의 선이 AI 개발의 핵심 원칙과 기준이 돼야 한다고 강조했다. 그는 “우리가 살아갈 세상에서는 AI가 너무 필요하기 때문에 속도를 조절하고 확실한 원칙을 가지고 윤리적인 문제를 해결하는 방향으로 가야 한다”면서도 “AI를 벌써 두려워하는 시각으로 바라봐서는 안 된다고 생각한다”고 말했다.

이스라엘 군(IDF)이 팔레스타인 가자지구를 인공지능(AI) 자동 표적 식별 장치를 활용한 드론·미사일 타격해 무고한 민간인 사상자가 발생하는 등 국제사회가 금지중인 반인권적 행태를 벌이고 있다는 보도가 잇따랐다. 팔레스타인 디지털 인권 단체 ‘7amleh’가 IDF가 가자지구 내 학교, 구호단체 사무실, 예배 장소, 의료 시설 등을 포함해 공격 표적을 정할 때 이스라엘 자체 개발 AI 자동 표적 식별 시스템인 ‘가스펠’(복음)을 미국의 묵인 하에 광범위하게 사용중이라고 비판했다고 정치전문매체 폴리티코가 3일(현지시간) 보도했다. IDF가 세부 정보를 거의 제공하지 않은 AI 자동식별 시스템인 ‘가스펠’은 머신러닝을 통해 방대한 양의 데이터를 신속하게 분석해 잠재적 공격 대상을 정하는 것으로 알려졌다. 이스라엘의 가장 오래되고 최대 규모의 인권 단체인 이스라엘 민권 협회는 지난해 12월 이스라엘 국방군 법무 부서에 자동 표적화에 대한 투명성을 높일 것을 요구하는 정보공개청구서를 제출했다. 다니엘 하가리 IDF 대변인은 지난달 공개 성명에서 “가스펠이 잠재적 표적을 식별하는 데 사용되지만 대한 최종 결정은 항상 인간이 내리고 명령 체계에 있는 적어도 한 명의 다른 사람의 승인을 받는다”고 설명했다. 하지만 IDF는 지난해 11월 성명에서는 “복음 시스템을 사용해 빠른 속도로 표적을 생성할 수 있다”며 “이스라엘이 개전 첫 27일 동안 1만 2000개 이상의 표적을 명중시켰다”고 밝혔다. 미국의 AI 전쟁 윤리 정책을 추적하는 일부 사람들은 이스라엘이 AI 기술을 통해 민간인을 보호하기보다는 오히려 공격하는 데 사용되는 등 ‘정밀 타격’이라는 AI 기술 본래의 취지를 왜곡하고 있다고 주장했다. 진보적인 외교 정책 싱크탱크 국제정책센터 낸시 오케일 대표는 “이스라엘이 ‘파워 타깃’이라고 불리는 민간인을 표적으로 삼기 위해 AI를 사용하고 있다는 것은 분명해졌다”면서 “정밀 타격에 도움을 주는 본래의 목적과 달리 의도적으로 민간인을 표적으로 삼고 있다”고 지적했다. 낸시 대표는 IDF가 자체적으로 정한 ‘파워 타깃’의 정의는 하마스나 팔레스타인 이슬람 지하드의 정치적, 군사적 거물 등 주요 표적을 말하지만, 사실상 IDF 정보 부서는 IDF에 대해 광범위한 정의를 허용하고 있는 것으로 보인다고 말했다. 전략국제문제연구소의 미사일 방어 프로젝트 부국장 겸 연구원 샨 샤이크는 “가자지구에서 3만 명이 넘는 사상자가 발생한 상황에서 IDF가 첨단 AI를 사용해 표적을 식별하는지 아니면 지도에 다트를 던지는 것인지 알기 어렵다”라고 말했다. 사이버 보안 전문가들은 모든 AI 표적 시스템이 민간인을 무차별하게 살상할 우려를 제기했다. 영국에 본사를 둔 사이버 보안 업체 ‘트레일 오브 비츠’의 머신러닝 엔지니어링 디렉터 하이디 클라프는 “AI 시스템의 높은 오류율을 고려할 때, 표적을 부정확하고 편향적으로 자동화하는 것은 무차별 표적 공격과 크게 다르지 않다”고 지적했다. 폴리티코는 “구호 단체와 의료 시설이 이스라엘 당국에 GPS 좌표를 제공한 후에도 공격을 받은 사례가 있다”면서 “이스라엘은 하마스가 이러한 건물에 전투원과 무기를 숨겨 놓았기 때문에 병원과 학교와 같은 민간 인프라를 공격해야 할 표적으로 간주한다고” 보도했다. 이스라엘에 본사를 둔 사이버 기업 센트라의 공동 창립자이자 전 이스라엘 정보 책임자인 론 라이터는 “AI 기술이 판도라의 상자를 열었다는 사실이 우려스럽다”고 말했다. 이스라엘 엘리트 사이버 정보 부대인 8200부대 장교 출신인 라이터는 “8200부대가 모바일 네트워크의 인터넷 통신, 영상 및 정보를 분석하여 사람들이 어디에 있는지 파악하는 데 AI 표적 시스템인 가스펠을 사용한다”고 설명했다. 미국 관리들은 이스라엘의 AI 사용에 대한 언급을 대체로 피했다. 중동연구소의 팔레스타인과 팔레스타인-이스라엘 문제 프로그램의 연구 책임자인 칼레드 엘긴디는 “미 정부에서 인권을 중시하는 사람들과 행정부와의 회의에서 여러 차례 회의를 가졌지만 AI가 구체적으로 언급되는 것을 듣지 못했다”고 말했다. ‘가자전쟁에서 이스라엘의 AI 표적화 사용 규모가 어떻게 되냐’는 질문에 앤 노이버거 백악관 사이버 및 신흥 기술 담당 국가안보 부보좌관은 이스라엘에 대한 언급을 피하면서도 ‘전쟁에서 AI 기술의 위험성’을 재빨리 지적했다. 노이버거는 인터뷰에서 “우리는 AI 시스템에 대해 정말 우려하고 있다”며 “조 바이든 대통령께서 AI에 대한 행정명령을 발동하고 그 다음 단계로 나아가기 위해 그렇게 빨리 움직인 것”이라고 말했다. 그가 언급한 행정명령은 지난해 10월에 발표된 것으로, 미군과 정보기관의 AI 사용 지침을 제공하는 동시에 외국 적들의 인공지능 무기화에 대응하기 위해 추진되고 있다. 가스펠 기술이 미국의 감시를 피하고 있는 것은 이스라엘 군사 작전의 불투명하기 때문이라는 지적도 나왔다. 휴먼라이츠워치의 워싱턴 지부장 사라 야거는 “이스라엘이 이 전쟁을 어떻게 수행하고 있는지에 대해 미국 정책 입안자들을 포함해 그 누구도 알고 있지 못하다”고 말했다.

불과 5년 전인 2019년 2월 22일, 무인 우주 탐사선이 달 주위 궤도에 배치되었다. 베레시트라는 이름으로 이스라엘 민간단체인 스페이스일(SpaceIL)과 이스라엘 항공우주산업(IAI)가 개발한 이 우주선은 연착륙을 수행하는 최초의 민간 우주선이 될 예정이었다. 탐사선의 탑재체 중에는 최악의 혹독한 환경에서도 생존할 수 있는 능력으로 유명한 완보동물이 있었다.​ 우주선의 방향을 파악하여 모터를 적절하게 제어하기 위한 ‘별 추적기’ 카메라가 작동하지 않아 임무는 시작부터 문제에 부딪혔다. 관제 센터가 일부 문제를 해결할 수 있었지만, 착륙 당일인 4월 11일에는 상황이 더욱 악화되었다.​ 달로 가는 도중에 우주선은 빠른 속도로 날아가고 있었기 때문에 연착륙하려면 속도를 상당히 줄여야 했다. 불행하게도 제동 조작 중에 자이로스코프가 고장나서 주 엔진이 막히고 말았다. ​ 150m 고도에서 베레시트는 시속 500km의 속도로 움직이고 있었는데, 이는 연착륙하기에는 너무 빠른 속도였다. 충격은 강력했다. 탐사선은 산산조각이 나고 잔해는 약 100m 거리까지 흩어졌다. 이 장소는 4월 22일 미 항공우주국(NASA)의 달정찰궤도선(LRO)에 의해 촬영되었다.​ 최강의 생존력을 가진 완보동물 그렇다면 탐사선을 타고 달까지 여행하던 완보동물들은 어떻게 되었을까? 완보동물은 이제껏 알려진 생명체 중 최강의 생명체로, 영하 273℃, 영상 151℃에서도 생존할 수 있으며, 생물에게 치명적인 농도의 방사성 물질 1,000배에 달하는 양에 노출되어도 죽지 않는 동물이다.이같은 놀라운 생존력을 고려할 때, 그들이 과연 달에서도 살 수 있을까? 어쩌면 그들이 번식하고 달에 정착할 수 있을는지도 모른다.​ 완보동물은 길이가 1mm 미만인 작은 동물이다. 뉴런, 접을 수 있는 코 끝에 열린 입, 미생물군을 포함하는 창자, 발톱으로 끝나는 관절이 없는 4쌍의 다리를 갖고 있으며, 대부분 눈이 2개 있다. 크기는 작지만 곤충이나 거미류와 같은 절지동물과 공통 조상을 공유한다.​ 대부분의 완보동물은 수생 환경에 살지만, 도시 환경에서도 발견될 수 있다. 활동적으로 클로렐라와 같은 미세조류를 먹고 움직이고 성장한다. 번식하려면 완보동물이 물막으로 둘러싸여 있어야 한다. 그들은 처녀생식을 통해 유성 또는 무성생식으로 번식하거나, 심지어 자웅동체를 통해 자가 수정으로 번식한다. 알이 부화되면 완보동물의 활동적인 수명은 3개월에서 30개월까지 지속된다. 지구상에 총 1,265종의 종이 기술되어 있다.​ 완보동물은 최악의 환경에서도 생존하는 동물로 유명하다. 그들은 체수분의 최대 95%를 잃으면 스스로 신진대사를 중단시키고 동면에 들어간다. 탈수 과정에서 완보동물은 몸을 정상 크기의 절반으로 줄일 수 있으며, 다리는 사라지고 발톱만 남게 된다. 크립토바이오시스(cryptobiosis)라고 알려진 이 상태는 생활조건이 다시 좋아질 때까지 지속되다가 깨어난다. 달에 간 완보동물은 살았을까, 죽었을까? 그렇다면 완보동물이 달에 추락한 후 어떻게 되었을까? 완보동물이 탐사선의 추락 충격으로 죽지는 않았을 게 분명하니까, 그중 달의 표토 몇 미터에서 수십 미터 깊이까지 다양한 먼지층 아래 묻혀서 아직도 생존하고 있을까?​ 달의 표면은 태양 입자와 우주선, 특히 감마선으로부터 보호되지 않지만, 그래도 완보동물은 너끈히 살 수 있다. 실제로 독일 킬 대학 교수인 로베르 비머-슈바인그루버와 그의 팀은 달 표면에 닿는 감마선의 양이 영구적이지만 총 선량은 약 1 Gy로 낮은 수준이다.​ 하지만 달에는 다른 문제도 있다. 완보동물은 물 부족과 더불어 밤에는 -170~-190°C, 낮에는 100~120°C의 온도를 견뎌야 한다. 달의 낮이나 밤은 지구의 15일 미만으로 오래 지속된다. 불행하게도 완보동물은 액체 물, 산소, 미세조류의 부족 문제만은 극복할 수 없다. 결코 재활성화할 수 없고, 번식도 불가능하다. 따라서 그들의 달 식민지화는 불가능하다. ​ 또한 생명체를 외계 천체로 보는 데는 윤리적 문제가 있다고 에딘버러 대학의 생태학자 매튜 실크가 지적했다. 더욱이 우주탐사가 활발해지는 시기에 다른 천체를 지구 물질로 오염시킨다면 외계 생명체를 발견할 기회를 잃게 될 수도 있다.