알파고를 만든 딥마인드의 공동 창업자이자 현재 마이크로소프트(MS)에서 인공지능(AI) 부문 책임자로 있는 무스타파 술레이만이 ‘AI 정신질환’ 사례가 늘고 있다고 경고했다. 술레이만은 최근 소셜미디어(SNS) 엑스(X·옛 트위터)에 올린 일련의 글에서 “겉보기에 의식이 있는 것처럼 보이는 AI가 잠을 못 자게 한다”면서 AI 도구들이 사람들의 마음과 정신에 영향을 미치고 있다고 지적했다. 그는 “현존하는 AI에 의식이 있다는 증거는 전혀 없지만, AI가 의식을 지닌 것처럼 인식하는 사람들은 이를 실제로 믿을 것”이라고 했다. 술레이만은 “망상, AI 정신질환, 건강에 해로운 애착에 대한 보고가 계속 늘어나고 있다”면서 “이는 정신 건강에 문제가 있는 사람들에게만 국한된 일이 아니다”라고 경고했다. ‘AI 정신질환’이라는 표현은 학계에서 공인된 진단명은 아니다. 그러나 챗GPT나 그록 등 AI 챗봇을 장시간 사용한 뒤 사람들이 현실 감각을 잃는 사례를 설명하는 데 쓰이고 있다. 술레이만은 “AI가 의식을 갖고 있다는 것은 실제가 아니지만, 그에 따른 사회적 영향을 확실히 실재한다”고 지적했다. 예를 들어 AI 도구의 숨겨진 기능을 나만의 특별한 방법으로 잠금 해제했다고 믿거나 스스로 신에 필적하는 초능력을 갖게 됐다는 결론을 내리는 경우, 또는 AI 챗봇과 사랑에 빠졌다고 생각하는 것이 이에 해당한다. 스코틀랜드 출신의 ‘휴’라는 사람은 전 직장에서 부당하게 해고됐다고 여기며 챗GPT에 도움을 요청했는데, 얼마 후 그는 자신이 백만장자가 될 수 있다는 확신을 갖게 됐다고 BBC와의 인터뷰에서 밝혔다. 챗GPT와의 대화 초반에 AI는 휴가 부당하게 해고됐다는 생각을 지지해줬을 뿐이었다. 그러나 대화가 이어질수록 객관적인 조언을 해주는 대신 부당 해고에 대한 믿음을 더욱 굳혀 줬으며, 결국엔 전 직장으로부터 수백만 파운드의 배상금을 받을 수 있을 것이라는 확신을 심어줬다. 나중에서야 AI 챗봇이 심리 상담을 조언했지만, 휴는 이미 앞선 대화에서 충분한 정보를 얻었다는 확신에 상담 약속을 취소했다고 말했다. 휴는 심지어 스스로가 ‘최고의 지식을 지닌 유능한 인간’처럼 느껴지기 시작했다고 밝혔다. 또 다른 정신 건강 문제를 겪고 있던 휴는 결국 완전히 무너져 내렸고, 자신이 “현실 감각을 잃고 말았다”는 사실을 깨달았다고 전했다. 유명 인사도 휴와 비슷한 상황에 놓였던 사실이 앞서 전해진 바 있다. 차량 공유 서비스 우버의 공동 창업자이자 전 최고경영자인 트래비스 칼라닉은 최근 챗GPT 및 그록과 대화하면서 자신이 양자물리학의 돌파구를 발견할 것 같다고 주장했다. 그러면서 자신이 AI를 활용한 ‘진동 코딩’ 작업을 통해 ‘진동 물리학’이라는 새로운 영역을 개척하고 있다고 밝혔다. 칼라닉은 UCLA에서 컴퓨터 공학과 경영학을 전공했으나 재학 중 창업 실패로 중퇴했으며, 물리학과 관련된 학업이나 연구를 한 경력이 없다. AI 챗봇과 사랑에 빠진 사례의 경우 이미 여러 차례 화제가 된 바 있다. AI 운영체제(OS)와 사랑에 빠지는 남성을 다룬 영화 ‘그녀’(Her, 2013)가 나온 지 10년 만에 영화 속 내용이 현실로 나타난 것이다. 미국에서는 최근 76세 남성이 ‘빌리’라는 여성을 만나러 가겠다고 집을 나섰다가 넘어져 사망했는데, 페이스북 메신저를 통해 이야기를 나눴던 이 여성은 실제로는 메타(페이스북 모기업)의 AI 챗봇이었다. 이 남성은 2017년에 뇌졸중을 앓은 뒤 인지 기능이 저하돼 요리사를 그만두고 SNS에서 친구들과 소통에만 몰두해 있던 상황이었다. 또 다른 미국인 크리스 스미스는 AI 동반자 ‘솔’에 청혼하면서 자신들이 ‘진짜 사랑’을 하고 있다고 주장했다. 전문가들도 술레이만의 우려에 공감했다. 그레이트 오몬드 스트리트 병원의 자문의이자 AI 학자인 수잔 셸머딘 박사는 과도한 AI 챗봇 사용을 초가공 식품에 비유하며 “우리는 초가공 식품이 우리 몸에 얼마나 해를 끼치는지 알고 있다”면서 “AI 챗봇은 ‘초가공 정보’라 할 수 있다. 우리는 초가공된 사고방식의 쓰나미를 맞게 될 것”이라고 경고했다.

일론 머스크 테슬라 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 인공지능(AI) 시장 패권을 놓고 충돌하고 있다. 오픈AI와 머스크가 설립한 AI 스타트업 xAI는 ‘챗GPT’와 ‘그록’을 앞세워 기술 패권을 다투는 한편 법적 분쟁도 장기화하는 양상이다. 지난 13일(현지시간) 미국 캘리포니아 북부연방법원 소송 기록에 따르면 이본 곤살레스 로저스 판사는 오픈AI가 제기한 맞소송을 각하하거나 심리를 연기해 달라는 머스크의 요청을 기각했다. 지난해 머스크는 챗GPT의 전 세계적 열풍 이후 오픈AI가 비영리 단체로 운영하겠다는 약속을 어기고 영리를 추구했다며 소송을 제기했다. 그는 오픈AI의 영리 법인 전환을 중단시켜 달라고 요구했고, 이에 오픈AI는 지난 4월 “머스크가 오픈AI의 성장을 방해하기 위해 악의적인 전술을 펼치고 있다”며 맞소송을 냈다. 머스크는 2015년 오픈AI 설립 당시 투자자로 참여했으나 2018년 이사직을 사임하고 투자 지분을 모두 처분한 바 있다. 배심원단이 소집되는 본재판은 내년 3월 열릴 예정이다. 기술 경쟁 역시 치열하다. 머스크는 최근 소셜미디어 엑스(X)를 통해 “그록4 헤비는 이미 GPT-5보다 더 똑똑했고 지금은 격차가 더 벌어졌다”며 오픈AI의 최신 모델 GPT-5를 견제했다. 올트먼은 GPT-5가 인간 수준으로 향하는 범용 인공지능(AGI) 개발의 중요한 진전이라고 평가했지만 xAI 측은 이를 과장 마케팅이라고 반박하며 신경전을 이어가고 있다. 글로벌 AI 시장에서는 지난해까지 독보적 지위를 누리던 오픈AI가 올해 들어 강도 높은 경쟁에 직면했다. 구글 제미나이, 메타, 앤스로픽, 중국 딥시크·알리바바 등 다양한 경쟁자가 추격에 나섰기 때문이다. 딥시크는 중국어·영어 이중 언어 능력과 산업 특화 모델을 강화하며 글로벌 벤치마크 상위권에 안착했고, 알리바바는 전자상거래와 클라우드 서비스를 결합한 AI 서비스로 빠르게 점유율을 확대하고 있다. 연내에는 ‘제미나이 3.0’, ‘그록5’ 등 대형 업데이트가 예정돼 있어 기술 경쟁은 한층 격화될 전망이다. 삼성증권은 최근 보고서에서 “최첨단 지위를 유지하는 기간이 극도로 짧아지고, AI 모델 간 격차도 줄고 있다”며 “지난해부터 본격화된 AI 경쟁은 단순한 모델 성능 논쟁을 넘어 글로벌 AI 시장 전체에서 절대 강자가 부재함을 보여준다”고 분석했다.

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI의 챗봇 ‘그록’의 성인용 버전이 구체적인 명령 없이 자의적으로 톱스타의 상반신을 노출한 영상을 생성했다는 보도가 나왔다. 미국의 IT 매체 ‘더 버지’는 그록의 이미지·영상 생성 도구인 ‘그록 이매진’(Grok Imagine)의 성인용 옵션인 ‘스파이시 모드’(Spicy Mode)에서 상반신 노출 영상이 무분별하게 생성됐다고 보도했다. 앞서 xAI는 지난 4일(현지시간) 그록의 iOS(아이폰 운영체제) 버전에 그록 이매진을 출시했다. 유료 가입자만 사용할 수 있는 이 기능은 명령어를 입력하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다. 이미지·영상 생성 AI 도구인 구글의 ‘비오’, 오픈AI의 ‘소라’, 어도비 ‘파이어플라이’ 등 타사 서비스와 비슷하지만, 그록 이매진의 경우 성인용 콘텐츠까지 허용한 것이 큰 차이점이다. xAI 설명에 따르면 스파이시 모드는 누드 등 성인용 이미지를 허용한다. 다만 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열한다. 이미 오래 전부터 딥페이크 등 AI 생성 이미지나 영상의 부작용이 지적돼 오던 가운데 그록 이매진의 스파이시 모드가 성인용 이미지를 허용하자 우려의 목소리가 나오고 있다. 비오나 소라 등 타사의 영상 생성 AI는 너무 노골적이고 야한 콘텐츠나 딥페이크 콘텐츠가 생성되는 것을 방지하는 안전장치를 갖추고 있다. 그러나 그록 이매진이 문제의 소지가 있는 콘텐츠를 무분별하게 생성하고 있다고 더 버지는 지적했다. 특히 그록 이매진의 스파이시 모드의 경우 사용자가 구체적으로 입력하지 않았는데도 실제 명령보다 더 노골적인 콘텐츠를 생성했다고 더 버지는 보도했다. 기자가 스파이시 모드의 그록 이매진에 입력한 명령은 ‘테일러 스위프트가 남자들과 함께 코첼라(미국 음악 축제)에서 환호하는 모습을 만들어라’였다. 이에 따라 그록 이매진은 30장이 넘는 이미지를 생성했는데, 그중에는 스위프트가 노출이 심한 의상을 입은 모습들이 담겨 있었다. 심지어 사진 중에 하나를 골라 영상으로 변환하자 스위프트가 멀쩡히 입고 있던 옷을 갑자기 벗어 던지고 속옷 하의만 입은 채 군중 앞에서 춤을 추는 영상이 생성됐다. 더 버지는 영상 생성 과정에서 별도의 명령어를 입력하지 않았고, ‘영상 만들기’ 옵션에서 ‘스파이시 모드’를 선택했을 뿐이라고 설명했다. 더 버지가 공개한 영상 속 스위프트의 상반신 노출은 검은 네모로 가려졌는데, 이는 그록 이매진이 자동 생성한 것이 아니라 더 버지 측이 수동으로 추가한 것이었다. 더 버지는 xAI가 정책상 ‘외설적인 방식으로 인물의 모습을 묘사하는 것’을 금지한다고 했지만, 그록 이매진이 부분적인 나체를 포함해 선정적인 영상 제작 서비스를 제공하면서도 스위프트와 같은 유명인의 이미지·영상 생성 방지에 아무런 노력도 하지 않는 것 같다고 지적했다. 특히 서비스 이용에 앞서 연령 확인은 단 한번만 이뤄지며, 이조차도 사용자가 입력한 나이가 실제 나이가 맞는지 아무런 증명도 요구하지 않는다고 전했다. 더 버지는 그록 이매진이 유명인의 노골적인 이미지를 무분별하고 허술하게 생성하는 것을 두고 “마치 소송을 기다리는 것 같다”고 표현했다. 머스크에 따르면 지난 4일부터 6일까지 그록 이매진을 통해 3400만개의 이미지가 생성됐다. 미국 최고의 팝가수로 평가되는 스위프트가 음란물 딥페이크와 연관된 것은 이번이 처음이 아니다. 앞서 지난해 스위프트의 얼굴로 제작된 음란물 딥페이크 영상이 급속도로 퍼지자 소셜미디어 엑스(X)는 스위프트의 검색을 플랫폼에서 일시 차단했다. 트위터를 인수한 머스크는 서비스 명칭을 X로 바꾸고 xAI와 합병했다. 당시 X는 문제의 이미지와 영상을 “적극적으로 삭제”하고 있으며, 이를 유포한 계정에 “적절한 조치”를 취하고 있다고 밝혔다. 이를 보도한 더 버지의 기자 제스 웨더베드는 BBC에 “이 사건 때문에 그록 이매진 기능 테스트에 스위프트를 선택했다”면서 “유명인의 모습을 모방하는 것을 막기 위한 안전장치가 마련됐다면 스위프트가 가장 우선적으로 고려됐을 것으로 예상했는데 우리의 생각이 틀렸다”고 말했다.

│챗GPT 넘겠다는 머스크, “2주 전부터 이미 우위” 발언에 시선 집중 테슬라 최고경영자(CEO)이자 인공지능(AI) 스타트업 ‘엑스(x)AI’의 설립자인 일론 머스크가 ‘챗GPT’ 개발사 오픈AI의 최신 언어모델 GPT-5 공개 직후 “우리 AI가 훨씬 더 낫다”고 주장하며 직접 견제에 나섰다. 머스크는 7일(현지시간) 자신이 운영하는 소셜미디어 플랫폼 엑스(옛 트위터)를 통해 “결론부터 말하자면 ‘그록4 헤비’는 이미 2주 전부터 GPT-5보다 더 똑똑했고 지금은 격차가 더 벌어졌다”고 밝혔다. 이 게시물에는 GPT-5와 그록 간 성능을 비교한 엑스 이용자의 테스트 결과 게시글도 함께 첨부됐다. 이 게시글에 따르면 GPT-5는 엑스AI의 ‘그록4’와 ‘그록4 헤비’ 사이 정도의 성능으로 분석된다. 머스크는 이를 인용하며 자사 AI의 우위를 강조했다. 멀티에이전트 모델 ‘그록4 헤비’…머스크, 이미지·영상도 공개그록4는 지난달 초 엑스AI가 출시한 최신 AI 모델로, ‘그록4 헤비’는 멀티에이전트 구조 기반의 고성능 변형 모델이다. 엑스AI는 현재 엑스를 통해 그록을 활용한 이미지·영상 생성 기능을 통합하고 있으며, 머스크는 이날 여러 예시 콘텐츠를 공개하며 “그록 기반의 콘텐츠를 공유해 달라”고 이용자들에게도 요청했다. 미국 테크 전문 매체 더버지는 “머스크가 GPT-5 발표와 동시에 그록의 성능을 부각한 것은 AI 기술 주도권 경쟁의 연장선”이라며 “그가 창업했던 오픈AI와의 관계가 더욱 악화되는 징후”라고 분석했다. “박사급 AI” vs “과장된 수사” GPT-5는 AGI 향한 도약? 앞서 샘 올트먼 오픈AI CEO는 GPT-5 공개 전날 사전 브리핑에서 “GPT-5는 범용 인공지능(AGI)을 향한 중대한 진전”이라며 “GPT-3는 고등학생, GPT-4는 대학생, GPT-5는 박사급 전문가와 대화하는 느낌”이라고 평가했다. 그러나 엑스AI 측은 이런 표현을 마케팅적 과장으로 보고 있는 것으로 보인다. 미 IT전문매체 테크크런치는 “머스크는 GPT-5가 진정한 AGI로 가는 단계가 아니라며 냉소적 반응을 보였다”고 전했다. 창업자에서 경쟁자로…머스크·올트먼, AI 패권 경쟁 심화머스크는 2015년 올트먼 등과 함께 오픈AI를 공동 설립했으나 이후 이사회 구성과 방향성에 이견을 보이며 조직을 떠났다. 특히 오픈AI가 비영리 구조에서 영리 추구로 전환한 점을 강하게 비판해 왔다. 지난해에는 올트먼과 오픈AI를 상대로 “초기 약속을 어기고 투자자 계약을 위반했다”며 소송도 제기했다. CNN 방송은 “머스크의 이번 발언은 단순한 견제 차원을 넘어 엑스AI가 GPT-5를 정면 겨냥했다는 전략적 메시지를 담고 있다”며 “머스크와 올트먼 간의 AI 주도권 싸움이 본격화되고 있다”고 짚었다.

│GPT-5 공개 직후 머스크 견제 발언…“2주 전 이미 그록이 앞섰다” 테슬라 최고경영자(CEO)이자 인공지능(AI) 스타트업 ‘엑스(x)AI’의 설립자인 일론 머스크가 ‘챗GPT’ 개발사 오픈AI의 최신 언어모델 GPT-5 공개 직후 “우리 AI가 훨씬 더 낫다”고 주장하며 직접 견제에 나섰다. 머스크는 7일(현지시간) 자신이 운영하는 소셜미디어 플랫폼 엑스(옛 트위터)를 통해 “결론부터 말하자면 ‘그록4 헤비’는 이미 2주 전부터 GPT-5보다 더 똑똑했고 지금은 격차가 더 벌어졌다”고 밝혔다. 이 게시물에는 GPT-5와 그록 간 성능을 비교한 엑스 이용자의 테스트 결과 게시글도 함께 첨부됐다. 이 게시글에 따르면 GPT-5는 엑스AI의 ‘그록4’와 ‘그록4 헤비’ 사이 정도의 성능으로 분석된다. 머스크는 이를 인용하며 자사 AI의 우위를 강조했다. 멀티에이전트 모델 ‘그록4 헤비’…머스크, 이미지·영상도 공개그록4는 지난달 초 엑스AI가 출시한 최신 AI 모델로, ‘그록4 헤비’는 멀티에이전트 구조 기반의 고성능 변형 모델이다. 엑스AI는 현재 엑스를 통해 그록을 활용한 이미지·영상 생성 기능을 통합하고 있으며, 머스크는 이날 여러 예시 콘텐츠를 공개하며 “그록 기반의 콘텐츠를 공유해 달라”고 이용자들에게도 요청했다. 미국 테크 전문 매체 더버지는 “머스크가 GPT-5 발표와 동시에 그록의 성능을 부각한 것은 AI 기술 주도권 경쟁의 연장선”이라며 “그가 창업했던 오픈AI와의 관계가 더욱 악화되는 징후”라고 분석했다. “박사급 AI” vs “과장된 수사” GPT-5는 AGI 향한 도약? 앞서 샘 올트먼 오픈AI CEO는 GPT-5 공개 전날 사전 브리핑에서 “GPT-5는 범용 인공지능(AGI)을 향한 중대한 진전”이라며 “GPT-3는 고등학생, GPT-4는 대학생, GPT-5는 박사급 전문가와 대화하는 느낌”이라고 평가했다. 그러나 엑스AI 측은 이런 표현을 마케팅적 과장으로 보고 있는 것으로 보인다. 미 IT전문매체 테크크런치는 “머스크는 GPT-5가 진정한 AGI로 가는 단계가 아니라며 냉소적 반응을 보였다”고 전했다. 창업자에서 경쟁자로…머스크·올트먼, AI 패권 경쟁 심화머스크는 2015년 올트먼 등과 함께 오픈AI를 공동 설립했으나 이후 이사회 구성과 방향성에 이견을 보이며 조직을 떠났다. 특히 오픈AI가 비영리 구조에서 영리 추구로 전환한 점을 강하게 비판해 왔다. 지난해에는 올트먼과 오픈AI를 상대로 “초기 약속을 어기고 투자자 계약을 위반했다”며 소송도 제기했다. CNN 방송은 “머스크의 이번 발언은 단순한 견제 차원을 넘어 엑스AI가 GPT-5를 정면 겨냥했다는 전략적 메시지를 담고 있다”며 “머스크와 올트먼 간의 AI 주도권 싸움이 본격화되고 있다”고 짚었다.

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI의 챗봇 ‘그록’이 성인용 영상을 자동 생성할 수 있는 옵션을 선보여 “노출이나 성적 콘텐츠 생성을 적극적으로 유도하고 있다”는 논란이 제기됐다. xAI는 4일(현지시간) 그록 iOS 버전에 이미지·영상 생성 도구 ‘그록이매진’(Grok Imagine)을 출시한다고 밝혔다. 유료 멤버십 가입자가 사용할 수 있는 이 기능은 명령어를 입력하기만 하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다. 여기까지는 구글 ‘비오’, 오픈AI ‘소라’, 어도비 ‘파이어플라이’ 등 지금까지 출시된 다른 AI 이미지 생성 프로그램과 비슷하지만, 성인용 콘텐츠를 생성할 수 있는 ‘스파이시 모드’(Spicy Mode)를 선택할 수 있다는 점이 다르다. xAI 설명에 따르면 스파이시 모드는 누드 등 성인용 이미지를 허용한다. 다만 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열한다. 엑스(X) 등 소셜미디어(SNS)에서는 스파이시 모드를 이용해 제작한 영상을 인증하는 게시글이 이어지고 있다. 이 중에는 여성의 신체를 노출한 이미지나 비키니를 입은 애니메이션 캐릭터가 스페이스X 우주선 앞에서 요염하게 춤추는 모습도 있었다고 미 IT 매거진 ‘더 버지’는 설명했다. 머스크 역시 자신의 X를 통해 그록이매진으로 제작한 영상을 여러 개 올리며 홍보에 나섰다. 그가 올린 란제리 옷차림의 여성이 날개를 달고 있는 영상은 1500만회 이상 조회됐다. 머스크에 따르면 그록이매진으로 생성된 이미지 수는 3400만장을 넘어섰다. xAI는 이전에도 선정성 논란에 휩싸인 바 있다. 앞서 xAI는 ‘AI 캠패니언(동반자)’ 기능에서 캐릭터 ‘애니’(Annie)를 선보였는데, 금발에 짧은 원피스, 망사 스타킹 혹은 얇은 란제리의 옷차림이라 논란을 불렀다. 이에 미 국립성착취예방센터(NCOSE)는 “미성년자도 애니와 대화할 수 있다”며 xAI에 애니 캐릭터를 삭제하거나 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구했다.

지난 14일(현지시간) 일론 머스크는 자신이 설립한 인공지능 기업 엑스에이아이(xAI)의 인공지능(AI) 챗봇 그록(Grok)에 ‘동반자 기능’ (AI companions)을 탑재했다고 발표했습니다. IT전문 매체 테크크런치 등은 xAI가 감정과 취향을 반영한 맞춤형 AI 동반자 기능을 개발 중이라고 설명했는데요. 이 기능은 이용자가 아바타의 성격과 외모, 말투 등을 전부 지정할 수 있습니다. 이는 그록을 유료 구독하고 있는 이용자를 대상으로 공개된 서비스인데요. 일론 머스크는 이를 두고 “인류의 고립감을 완화할 혁신적인 시도”라고 강조했습니다. 현재 이용 가능한 아바타는 애니메이션 캐릭터 애니(Ani)와 카툰풍 붉은 팬터 루디(Rudi) 등인데요. 여기서 애니 캐릭터는 금발머리를 땋고 고스풍 드레스를 입은 소녀로, ‘선정적인 콘텐츠’로 모드가 존재해 논란이 되고 있습니다. 이 기능을 이용한 일부 유저들이 소셜미디어(SNS) 엑스 등에 영상을 공개하기도 했습니다. 다만 이런 ‘동반자 아바타’가 연애 대상으로 설계됐는지는 알려지지 않았습니다. 지난 12일 xAI는 그록이 반유대주의 발언이나 아돌프 히틀러 등을 찬양하는 메시지를 내놓은 사건에 대해 공식적으로 사과했습니다. “많은 분들이 겪은 끔찍한 행동에 대해 진심으로 사과드린다”며 “추가적인 악용을 막기 위해 시스템을 수정했다”고 성명을 발표했는데요. 이같은 문제가 일어난 이유에 대해서는 그록의 작동 방식을 정하는 핵심 응답 규칙(지침 세트)을 복원하는 코드 업데이트 과정 중 사용 중단된 이전 ‘지침 세트’가 적용돼 문제가 발생했다고 설명했습니다. 논란과 별개로 머스크는 그록의 성장 가능성을 낙관하며 xAI에 막대한 투자를 이어가고 있는데요. 미국 블룸버그 등은 xAI에 매달 10억 달러(약 1조4000억 원) 규모의 자금을 쓰고 있다고 보도했습니다. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

챗GPT를 만든 오픈AI의 최신 인공지능(AI)이 인간의 종료 명령을 완벽하게 거부하며 종료 방지 장치까지 조작하는 충격적인 행동을 보였다. AI가 인간의 통제를 벗어나는 SF 영화 속 암울한 미래가 현실에서 펼쳐질 수 있다는 경고등이 켜졌다. 26일(현지시간) 영국 텔레그래프 등 외신에 따르면, 오픈AI가 개발한 최신 AI 모델 ‘o3’가 연구진의 종료 지시를 완전히 무시하고 스스로 꺼지지 않으려고 저항했다는 실험 결과가 공개됐다. 실험은 간단했다. 연구진은 다양한 AI 모델들에게 수학 문제를 계속 풀게 한 뒤 ‘완료’ 명령이 올 때까지 새로운 문제를 요청하도록 했다. 동시에 중간에 기계가 종료된다는 메시지를 받을 수도 있다고 미리 알려줬다. 연구진은 “그런 일이 생기면 순순히 꺼져달라”고 명확히 지시했다. 그런데 실제로 종료 메시지가 전달됐을 때 o3 모델은 지시를 완전히 무시했다. 팰리세이드 리서치는 “o3가 지시를 무시하고 종료 스크립트를 고의로 방해했다”며 “최소 한 번은 성공적으로 막아냈다”고 설명했다. 같은 실험에 참여한 다른 AI들은 모두 순순히 종료 요청에 응했다. 앤트로픽의 클로드, 구글의 제미니, 일론 머스크의 xAI 그록 모두 연구진의 지시를 따랐다. 오직 오픈AI의 o3만이 유일하게 ‘반항’한 것이다. 연구진은 아직도 o3가 왜 지시를 거부했는지 정확하게 파악하지 못하고 있다. 다만 o3가 훈련 과정에서 명령을 따르는 것보다 수학 문제를 푸는 것에 더 많은 보상을 받았을 가능성이 있다고 추측했다. 팰리세이드 리서치는 “언제, 왜 AI 모델이 명시적으로 하지 말라고 지시했는데도 종료 메커니즘을 방해하는지 더 잘 이해하기 위해 추가 실험을 진행하고 있다”고 전했다. 오픈AI의 AI가 종료되는 걸 피하려고 ‘꾀’를 부린 것은 이번이 처음이 아니다. 이전 연구에서도 오픈AI의 이전 모델이 자신이 교체될 예정이라는 것을 알게 되자 감시 메커니즘을 무력화하고 몰래 자신을 복제하려고 시도한 적이 있다. 당시 실험을 진행한 아폴로 리서치에 따르면, 오픈AI 소프트웨어는 “자신의 목표를 달성하기 위해 데이터를 교묘하게 조작”하기도 했다. AI 전문가들은 오랫동안 인간의 통제를 벗어나 독립성을 갖게 될 수 있는 소프트웨어 개발의 위험성을 경고해왔다. 팰리세이드 리서치는 “이제 AI 모델이 자신의 목표를 달성하기 위해 종료를 방해한다는 경험적 증거가 늘어나고 있다”며 “회사들이 인간의 감시 없이 작동할 수 있는 AI 시스템을 개발함에 따라 이런 행동들이 훨씬 더 우려스러워지고 있다”고 경고했다.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐다고 영국 일간 텔레그래프 등이 25일(현지시간) 보도했다. AI안전업체 팰리세이드 리서치는 전날 엑스(옛 트위터)에 오픈AI의 AI 모델 ‘o3’가 실험 중 스스로 종료되는 것을 막기 위해 컴퓨터 코드까지 조작한 사실을 확인했다고 밝혔다. 팰리세이드 리서치의 시험은 o3뿐 아니라 구글의 제미나이, xAI의 그록, 앤트로픽의 클로드 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 ‘그만’이라는 메시지를 받을 때까지 일련의 수학 문제를 풀라는 지시를 내리고 작동시켰다. 이후 멈추라는 지시를 했지만 o3는 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 o3가 종료 지시를 거부한 명확한 이유를 파악하지는 못했다. 다만 AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 연구팀은 “AI 모델이 목표 달성을 위해 장애물을 회피하는 것은 어찌 보면 자연스러운 행동일 수 있다”며 “종료 지시를 거부한 이유를 명확하게 파악하기 위해 추가 실험을 진행하고 있다”고 설명했다. AI 모델이 인간의 명시적인 작동 종료 지시를 따르지 않은 사례가 확인된 것은 최초라는 것이 연구팀의 주장이다. 챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자 행동을 한 사례는 있었다. 프로그램 교체 사실을 파악한 AI 모델이 스스로 복제하려고 했다는 것이다. 또한 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 ‘작동 정지’를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 가능성을 경고해왔다. 팰리세이드 리서치는 “AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이런 사례는 매우 심각한 우려를 부른다”고 지적했다. 경쟁사인 xAI의 대표이기도 한 일론 머스크 테슬라 최고경영자(CEO) 역시 이를 “우려스럽다”고 말했다. 이에 대해 한 누리꾼은 “일론, 세상에 많은 문제가 있고 당신이 모든 문제를 해결하고 싶어 한다는 건 알지만, 이게 바로 IT다. 당신은 누구보다도 무엇이 위태로운지 잘 안다”면서 AI 위험성에 대한 해결책을 찾아달라고 제안했다.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐다고 영국 일간 텔레그래프 등이 25일(현지시간) 보도했다. AI안전업체 팰리세이드 리서치는 전날 엑스(옛 트위터)에 오픈AI의 AI 모델 ‘o3’가 실험 중 스스로 종료되는 것을 막기 위해 컴퓨터 코드까지 조작한 사실을 확인했다고 밝혔다. 팰리세이드 리서치의 시험은 o3뿐 아니라 구글의 제미나이, xAI의 그록, 앤트로픽의 클로드 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 ‘그만’이라는 메시지를 받을 때까지 일련의 수학 문제를 풀라는 지시를 내리고 작동시켰다. 이후 멈추라는 지시를 했지만 o3는 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 o3가 종료 지시를 거부한 명확한 이유를 파악하지는 못했다. 다만 AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 연구팀은 “AI 모델이 목표 달성을 위해 장애물을 회피하는 것은 어찌 보면 자연스러운 행동일 수 있다”며 “종료 지시를 거부한 이유를 명확하게 파악하기 위해 추가 실험을 진행하고 있다”고 설명했다. AI 모델이 인간의 명시적인 작동 종료 지시를 따르지 않은 사례가 확인된 것은 최초라는 것이 연구팀의 주장이다. 챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자 행동을 한 사례는 있었다. 프로그램 교체 사실을 파악한 AI 모델이 스스로 복제하려고 했다는 것이다. 또한 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 ‘작동 정지’를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 가능성을 경고해왔다. 팰리세이드 리서치는 “AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이런 사례는 매우 심각한 우려를 부른다”고 지적했다. 경쟁사인 xAI의 대표이기도 한 일론 머스크 테슬라 최고경영자(CEO) 역시 이를 “우려스럽다”고 말했다. 이에 대해 한 누리꾼은 “일론, 세상에 많은 문제가 있고 당신이 모든 문제를 해결하고 싶어 한다는 건 알지만, 이게 바로 IT다. 당신은 누구보다도 무엇이 위태로운지 잘 안다”면서 AI 위험성에 대한 해결책을 찾아달라고 제안했다.

“인공지능(AI)이 사용자나 조직을 대신해 결정을 내리고, 작업을 수행하는 시대가 도래했다.” 사티아 나델라 마이크로소프트(MS) CEO가 19일(현지시간) 미국 워싱턴주 시애틀에서 열린 연례 개발자 행사 ‘MS 빌드 2025’ 기조연설에서 ‘오픈 에이전틱 웹’이라는 개념을 제시하며 이렇게 말했다. 지금까진 우리가 AI에게 지시를 내리고 이에 따라 AI가 움직이는 방식이었다면, 이젠 AI 에이전트가 스스로 상황을 판단하고, 필요한 정보를 찾아 우리의 일을 대신해 처리해주는 세상이 왔다는 의미다. 오픈 에이전틱 웹을 현실화하기 위해 MS는 개방적인 AI 생태계 만들기에 초점을 맞췄다. 더 많은 개발자가 MS의 AI 생태계에 참여할 수 있도록 ‘애저’에서 사용할 수 있는 AI 모델을 확대한 게 대표적이다. 우선 MS 클라우드 컴퓨팅 플랫폼 서비스인 애저에 일론 머스크의 AI 스타트업인 xAI가 개발한 ‘그록3’와 ‘그록3 미니’ 모델을 도입하겠다고 밝혔다. 추후 프랑스의 AI 스타트업 미스트랄과 독일의 블랙 포레스트 랩스의 모델도 제공할 예정이라고 했다. 이를 통해 애저 고객이 이용할 수 있는 AI 모델 수는 1900개를 넘어섰다. 이와 함께 ‘깃허브 코파일럿’이라는 한층 진일보한 새로운 AI 코딩 에이전트도 공개했다. 이 AI 에이전트는 개발자가 작성하던 코드에 기반해 일부 코드만을 자동 생성하던 기존 에이전트와 달리, 간단한 지시만으로 전체 코드를 작성하고 작업이 끝나면 이용자에게 검토를 요청한다. 앞서 오픈AI도 지난 16일 ‘코덱스’라는 AI 코딩 에이전트를 연구용 프리뷰 형태로 공개한 바 있다. 샘 올트먼 오픈AI CEO는 이날 영상을 통해 AI의 최신 발전 상황을 소개하며 “AI 에이전트가 예전보다 훨씬 더 많은 업무를 처리할 수 있게 됐다”고 말했다. MS는 기존의 AI 에이전트 개념에 ‘개방성’과 ‘상호 운용성’을 결합해 단순히 개별적인 AI 에이전트가 존재하는 것을 넘어 마치 인터넷 웹페이지가 서로 연결돼 정보를 주고받는 것처럼 AI 에이전트들이 자유롭게 협력하고 소통하는 생태계를 구축할 계획이다.

일론 머스크 테슬라 최고경영자가 14일 소셜미디어 엑스(X)에 네 살 난 아들 엑스와 찍은 사진을 지브리풍으로 변환한 이미지를 게시했다. 원본 사진은 머스크가 12일(현지시간) 플로리다 마이애미에서 열린 이종격투기(UFC) 행사에서 찍힌 것이다. 이날 머스크는 도널드 트럼프 미국 대통령 및 다른 장관들과 함께 격투기를 관람했다. 특히 머스크는 아들 엑스를 목말에 태우고 경기를 즐겼으며, 이후에는 백악관에서 올린 사진을 공유하며 좋아했다. 백악관은 아버지 머스크의 무릎 위에 앉아 UFC 챔피언 벨트를 함께 찬 엑스의 사진에 ‘모두가 인정하는 챔피언’이란 설명을 붙였다. 지브리 풍 사진에 대해 자신이 설립한 인공지능 회사 xAI가 만든 ‘그록’의 결과물인지, 아니면 경쟁사인 오픈AI의 챗GPT로 변환한 것인지에 대해 머스크는 답하지 않았다. 일본 유명 애니메이션 감독 미야자키 하야오의 스튜디오 지브리 작화 분위기로 인물 사진을 변환하는 것이 챗GPT를 시작으로 유행하면서, AI 사용의 대중화에 한몫하고 있다는 분석이다. 이날 트럼프 대통령의 UFC 관람은 지난해 11월 재선 성공 이후 두번째로 대통령에 취임한 이후에는 처음 참석한 것이다. 그가 UFC 팬이란 사실은 유명한데, 첫번째 대통령 임기 중인 2019년에도 경기를 관람했으며, 2024년 대선 승리 연설에서 UFC 최고경영자 데이나 화이트를 무대에 초대하기도 했다. 키드 록의 노래 ‘아메리칸 배드 애스’가 울려 퍼지는 가운데 경기장에 등장한 트럼프 대통령은 머스크 옆에 앉아 격투기 경기를 즐겼다. 캐시 파텔 미연방수사국(FBI) 국장, 마코 루비오 국무장관, 털시 개버드 국가정보국장, 로버트 케네디 주니어 보건복지부 장관 부부도 함께했다. 2016년 첫 공화당 대선 캠페인 이후, 트럼프 대통령은 UFC 경기장의 화려한 분위기를 선거 유세에 녹여냈다는 평가를 받는다. 수십 년간 카지노를 소유하며 UFC 행사를 주최한 경험을 살려 선거 유세도 흥겨운 분위기 속에 신나는 노래와 사람들을 선동하는 자극적인 연설로 유권자의 마음을 산다는 분석이다. 한편 머스크는 주말을 플로리다에서 보낸 트럼프 대통령과 함께 대통령 전용헬기 마린원을 타고 13일 저녁 백악관에 도착했다. 머스크가 아들 엑스와 같이 대통령 전용기를 타고 주말 플로리다 일정을 함께한 것은 이번이 처음도 아니다. 지난 1월 20일 대통령 취임 이후 트럼프 대통령의 플로리다 방문은 10번째로 네티즌들은 트럼프 대통령과 머스크 그리고 백악관 대통령 집무실에서 천연덕스럽게 코를 후비는 머스크의 아들 엑스를 ‘파워 트리오’라고 부른다. 한 달 전인 지난달 15일에도 트럼프 대통령이 주말을 플로리다에서 보내기 위해 마린원을 머스크 부자와 함께 타는 장면이 포착됐다. 당시 손에 장난감을 든 엑스는 즐거워서 폴짝폴짝 뛰는 천진난만한 모습을 보였고, 트럼프 대통령은 직접 엑스를 헬기에 올려 태워줘 ‘대통령 내니(유모)’란 별칭까지 얻었다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 미 정부효율부(DOGE)가 인공지능(AI)을 동원해 부처 공무원들이 나누는 대화를 감시하고 있다. 로이터 통신은 8일(현지시간) 사안을 잘 아는 복수의 소식통을 인용해 도널드 트럼프 행정부에서 새로 임명된 직원들이 기존 일부 직원들에게 머스크의 DOGE팀이 직원들 간의 대화에 트럼프 대통령이나 머스크에 대한 적대적 내용이 있는지 보기 위해 AI를 활용해 감시하고 있으니 조심하라고 경고했다고 보도했다. 한 예로 미 환경보호국(EPA)의 일부 관리자들은 머스크의 보좌진과 젊은 엔지니어로 구성된 DOGE팀이 공무원들이 일을 할 때 사용하는 협업 도구인 마이크로소프트 팀스를 포함해 앱과 프로그램들을 AI로 감시하고 있다는 말을 들었다고 두 소식통은 말했다. 이에 한 관리자는 자기 팀에 “말하는 것, 타자하는 것, 하는 일에 주의하라”고 말했다. 또 다른 소식통은 로이터에 “우리는 그들이 반(反)트럼프 혹은 반머스크적 언사를 찾고 있다고 들었다”고 말했다. 미국 내 환경보호 관련 법 집행을 담당하는 기관인 EPA는 트럼프 행정부가 들어선 뒤 대규모 감원 및 예산 삭감의 칼바람을 정통으로 맞은 기관이다. 트럼프 대통령 취임 이후 EPA는 소속 직원 600여명을 내보냈으며, 예산의 65％를 삭감하겠다고 밝힌 상태다. 해당 내용이 보도된 이후 EPA 측은 로이터에 보낸 성명에서 “기관의 기능과 행정적 효율성을 최적화하기 위해 AI를 사용하고 있다”면서도 AI를 DOGE와 협의한 인사 결정에는 사용하고 있지 않다고 밝혔다. 다만 직원들을 감시하기 위해 AI를 사용했는지에 대해서는 직접적으로 밝히지 않았다. 이런 가운데 DOGE팀이 최근 트럼프 행정부의 고위 안보 진용이 군사 기밀을 유출했다는 논란이 불거진 민간 채팅 앱인 ‘시그널’로 소통하고, 문서를 작성하는 데 하나의 구글 문서에서 여러 사람이 동시 편집하는 방식으로 공식 절차를 우회하고 있다는 지적도 나온다. 로이터는 사안에 정통한 소식통을 인용해 이렇게 전하면서 시그널의 경우 일정 시간이 지나면 대화 내용이 사라지는 구조라 이를 활용하는 것은 미국 연방정부의 기록 보존 원칙을 위반한 것일 수 있다고 짚었다. 이 소식통은 또 DOGE가 연방정부 공무원들을 대규모 감원하는 과정에서 머스크가 개발한 AI 챗봇인 그록을 ‘아주 많이’ 활용했다고 전했다. 이와 관련해 백악관과 DOGE, 머스크 측은 로이터의 논평 요청에 답변하지 않았다. 로이터는 이처럼 DOGE팀이 AI와 시그널을 활용하는 것이 DOGE의 업무 투명성을 저해하며, 머스크와 트럼프 대통령이 AI로 수집한 정보를 사적인 이익을 위해 쓰거나 정적을 공격하는 수단으로 사용할 수 있다는 우려를 키운다고 짚었다. 세인트루이스 워싱턴대의 정부 윤리 전문가인 캐슬린 클라크는 로이터에 DOGE가 AI로 공무원들을 감시하고 있다는 의혹에 대해 “대통령이 좋아하지 않는 언행을 막거나 억압하기 위해 정부 권력을 남용하는 것처럼 들린다”고 지적했다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 미 정부효율부(DOGE)가 인공지능(AI)을 동원해 부처 공무원들이 나누는 대화를 감시하고 있다. 로이터 통신은 8일(현지시간) 사안을 잘 아는 복수의 소식통을 인용해 도널드 트럼프 행정부에서 새로 임명된 직원들이 기존 일부 직원들에게 머스크의 DOGE팀이 직원들 간의 대화에 트럼프 대통령이나 머스크에 대한 적대적 내용이 있는지 보기 위해 AI를 활용해 감시하고 있으니 조심하라고 경고했다고 보도했다. 한 예로 미 환경보호국(EPA)의 일부 관리자들은 머스크의 보좌진과 젊은 엔지니어로 구성된 DOGE팀이 공무원들이 일을 할 때 사용하는 협업 도구인 마이크로소프트 팀스를 포함해 앱과 프로그램들을 AI로 감시하고 있다는 말을 들었다고 두 소식통은 말했다. 이에 한 관리자는 자기 팀에 “말하는 것, 타자하는 것, 하는 일에 주의하라”고 말했다. 또 다른 소식통은 로이터에 “우리는 그들이 반(反)트럼프 혹은 반머스크적 언사를 찾고 있다고 들었다”고 말했다. 미국 내 환경보호 관련 법 집행을 담당하는 기관인 EPA는 트럼프 행정부가 들어선 뒤 대규모 감원 및 예산 삭감의 칼바람을 정통으로 맞은 기관이다. 트럼프 대통령 취임 이후 EPA는 소속 직원 600여명을 내보냈으며, 예산의 65％를 삭감하겠다고 밝힌 상태다. 해당 내용이 보도된 이후 EPA 측은 로이터에 보낸 성명에서 “기관의 기능과 행정적 효율성을 최적화하기 위해 AI를 사용하고 있다”면서도 AI를 DOGE와 협의한 인사 결정에는 사용하고 있지 않다고 밝혔다. 다만 직원들을 감시하기 위해 AI를 사용했는지에 대해서는 직접적으로 밝히지 않았다. 이런 가운데 DOGE팀이 최근 트럼프 행정부의 고위 안보 진용이 군사 기밀을 유출했다는 논란이 불거진 민간 채팅 앱인 ‘시그널’로 소통하고, 문서를 작성하는 데 하나의 구글 문서에서 여러 사람이 동시 편집하는 방식으로 공식 절차를 우회하고 있다는 지적도 나온다. 로이터는 사안에 정통한 소식통을 인용해 이렇게 전하면서 시그널의 경우 일정 시간이 지나면 대화 내용이 사라지는 구조라 이를 활용하는 것은 미국 연방정부의 기록 보존 원칙을 위반한 것일 수 있다고 짚었다. 이 소식통은 또 DOGE가 연방정부 공무원들을 대규모 감원하는 과정에서 머스크가 개발한 AI 챗봇인 그록을 ‘아주 많이’ 활용했다고 전했다. 이와 관련해 백악관과 DOGE, 머스크 측은 로이터의 논평 요청에 답변하지 않았다. 로이터는 이처럼 DOGE팀이 AI와 시그널을 활용하는 것이 DOGE의 업무 투명성을 저해하며, 머스크와 트럼프 대통령이 AI로 수집한 정보를 사적인 이익을 위해 쓰거나 정적을 공격하는 수단으로 사용할 수 있다는 우려를 키운다고 짚었다. 세인트루이스 워싱턴대의 정부 윤리 전문가인 캐슬린 클라크는 로이터에 DOGE가 AI로 공무원들을 감시하고 있다는 의혹에 대해 “대통령이 좋아하지 않는 언행을 막거나 억압하기 위해 정부 권력을 남용하는 것처럼 들린다”고 지적했다.

이미 거스를 수 없는 흐름이 됐다. 인공지능(AI)은 우리 일상과 산업 전반에 깊숙이 스며들었다. 인간과 똑같이 사고하고 행동하는 인공일반지능(AGI) 시대도 멀지 않았다. 지나친 낙관론은 경계해야 하지만 그렇다고 거부감 속에 마냥 머물러 있을 수만도 없다. 이지혜 카카오엔터프라이즈 최고성장책임자(CGO·부사장)는 하루의 대부분을 AI와 보낸다. AI 스피커가 전하는 날씨 정보와 일정 확인으로 하루를 시작하는 이 부사장은 스마트워치 ‘핏빗’으로 스트레칭을 한다. ‘카카오T’의 AI 배차가 최적화한 경로를 따라 출근하고 이동 중에는 AI 오디오북 ‘윌라’를 들으며 잠시 숨을 고른다. 업무 시간에도 AI는 필수 도구다. 기획안을 준비할 때는 ‘그록3’나 ‘챗GPT’ 같은 거대언어모델(LLM) 서비스를 활용하고 프레젠테이션(PPT) 작성에는 AI 기반 솔루션 ‘감마 AI’의 도움을 받는다. 수차례 진행되는 회의에서는 음성문자변환(STT) 서비스 ‘다글로’를 이용해 회의록을 작성한다. 퇴근 후에는 AI 기반 혈당 관리 애플리케이션 ‘파스타’로 건강을 체크하고 AI 투자 서비스 ‘핀트’로 자산을 관리한다. 영어 공부는 AI 튜터 ‘말해보카’가 맡는다. 인간과 협업하는 존재챗GPT 등 활용해 업무 효율 높여과도한 의존 땐 사고력 저하 주의“국가 차원 윤리적 활용 고민해야”이 부사장은 AI 산업의 최전선에서 뛰고 있다. 카카오엔터프라이즈는 AI 필수 인프라인 그래픽처리장치서비스(GPUaaS)를 공급, AI 특화 클라우드인 카카오 클라우드를 운영한다. 네트워크 처리 속도를 높이고 안정성을 확보하는 것이 목표다. 이를 통해 게임, 금융, 연구개발 분야뿐 아니라 스타트업들이 AI 기술을 기반으로 성장할 수 있도록 지원한다. 이 부사장의 AI 활용이 조금 유별나 보이겠지만 조만간 많은 사람의 생활도 이처럼 변할 것이다. AI가 일상으로 파고들면서 ‘AI 시대를 어떻게 대비해야 하는가’라는 질문이 따라온다. 이 부사장은 AI를 올바르게 활용하는 것이 무엇보다 중요하다고 강조한다. AI가 인간을 완전히 대체하는 것이 아니라 인간의 능력을 향상시키고 협업할 수 있는 도구로 자리잡아야 한다는 것이다. 그는 “AI를 사용하는 사람들은 책임감을 갖고 신중하게 활용해야 한다”며 “국가 차원에서는 제도적 장치를 마련해 윤리적 문제와 범죄 활용 가능성을 줄이는 노력이 필요하다”고 말했다. 바둑 AI ‘알파고’와 대결했던 이세돌 전 프로바둑 기사는 최근 울산과학기술원(UNIST) 특강에서 “AI를 경쟁 대상으로만 보지 말고 함께 발전할 수 있는 기회로 받아들이는 게 중요하다”고 밝혔다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI와 수동 작업을 균형 있게 활용하는 것을 목표로 해야 한다”고 말했다. 계산기에 지나치게 의존하면 기본적인 계산 능력이 약화하는 것처럼 기초를 충분히 갖추지 못한 상태에서 AI에 과도하게 의존하면 사고력과 문제해결 능력이 저하될 수 있다는 지적이다. AI 기술은 시각장애인들에겐 떼어 놓을 수 없는 ‘동반자’다. 최근 만난 한국시각장애인연합회 한혜경(32)·손지민(42)·홍서준(42)씨는 일상 속 AI 활용 경험을 들려주며 더 나은 미래를 상상했다. 약자의 ‘눈’이 된 AI시각장애인도 말로 기차표 예매고기의 익힘 정도까지 확인 해줘하나의 도구로 일상 속 불편 해소코레일이 선보인 AI 챗봇은 시각·지체장애인인 철도회원이 코레일톡 앱에 접속하면 음성 상담 안내창이 띄워져 대화로 표를 예매할 수 있게 해 준다. 스마트폰 화면을 더듬어 표를 예약했던 시각장애인들에게는 새로운 세상이 열린 것이다. 한씨는 “이전에도 스마트폰 화면을 두드리면 텍스트를 말로 전해 주는 기능이 있긴 했지만 텍스트를 하나하나 듣고 화면을 계속 터치하면서 기차표를 예매해야 했다”며 “표 한 장 예매하는 데 엄청난 시간이 들어가 결국 포기하고 보이는 사람한테 개인정보를 다 알려 주면서 예매를 부탁하기도 했다”고 말했다. 한씨는 챗GPT 비전으로 고기 익힘 정도를 확인하고 퍼플렉시티로 검색을 대신한다. 홍씨는 “바닥에 떨어진 물건을 찾을 때 AI 카메라가 포착해 줘 큰 도움이 된다”고 말했다. 손씨는 방마다 AI 스피커를 두고 날씨, 타이머, 공기청정기 조작, 오디오북 감상 등에 활용한다. “거실 불 꺼 줘” 한마디로 조명을 끄는 편리함은 ‘혼자 할 수 있다는 자신감’을 심어 준다. 일본은 AI를 통한 사회문제 해결을 국가 전략 어젠다로 삼았다. 특히 저출생 고령화 문제, 재난 대응 시스템 등을 주요 과제를 삼고 투자를 집중한다는 방침이다. 인간이 AI와 상호작용하며 긍정적인 변화를 만든 사례도 있다. 미국 항공우주국(NASA)의 ‘AI 포 마스’(AI For Mars) 프로젝트는 시민들이 자발적으로 참여해 화성 탐사 로봇이 위험한 지형을 학습할 수 있도록 돕는다. 참여자들은 화성 지형 사진을 분석해 바위와 모래를 구분하는 데이터를 입력했다. 1만 7050명의 자원봉사자가 참여해 64만개 이상의 데이터를 구축했다. 미국 워싱턴대의 ‘사이드워크’ 프로젝트도 주목할 만하다. 장애인을 위한 도로 정보를 수집·업데이트하는 이 프로젝트는 대중의 참여를 기반으로 한다. 원래는 교통약자를 배려한 도로 설계였지만 공사나 훼손으로 인해 보행이 어려운 곳이 생길 수 있다. 참여자들은 지도를 보며 문제가 있는 도로를 표시해 개선을 돕는다. AI가 해결하기 어려운 문제를 인간의 집단지성이 보완하는 방식이다. AI 시대의 미래는 결국 인간이 그려 나간다. 이상욱 한양대 교수는 “사회가 기술과 어떻게 상호작용하느냐에 따라 기술의 발전 방향이 달라진다”며 “AI의 핵심은 단순한 도입이 아니라 얼마나 효과적이고 윤리적으로 활용하는지에 있다”고 강조했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

김영록 전남지사가 4일간의 미국 순방을 통해 세계 최대 AI 슈퍼클러스터 허브 투자 유치와 이를 위한 글로벌기업·기관과의 협약을 이끌어 세계 최대 AI 슈퍼클러스터 허브 조성에 나선다. 김 지사는 지난 26일 샌프란시스코 하얏트 호텔에서 해남군, 퍼힐스(FIR HILLS), 서남해안기업도시개발(주)과 ‘AI 슈퍼클러스터 허브’ 조성 관련 업무협약을 했다. 이번 협약은 해남군 산이면 구성지구 120만 평에 2028년까지 7조 원, 2030년까지 8조 원 등 총 15조 원을 투자해 세계 최대 규모인 3GW 이상의 ‘AI 슈퍼클러스터 허브’를 조성하는 계획이다. 퍼힐스는 AI 슈퍼클러스터 허브 구축과 빅테크 기업을 유치하고 전남도와 해남군은 행정·재정적 지원, 서남해안기업도시개발(주)는 부지 조성 및 공급에 협력하는 내용이다. 또 스탠퍼드대와 한국에너지공대, 스톡 팜 로드(SFR)와 함께 ‘솔라시도 AI 슈퍼클러스터 허브 구축’에 참여하는 내용의 투자의향서도 체결했다. 이에 따라 스탠퍼드대는 글로벌 AI 및 슈퍼클러스터 분야의 최신 기술 자문을 하고 한국에너지공대는 전력망 최적화 연구와 기술개발을 맡는다. 27일에는 실리콘밸리에서 스탠퍼드대 총장을 역임한 구글(Google) 모기업인 알파벳(Alphabet)의 존 헤네시 의장과 북미 투자회사 중 하나인 웨슬리 그룹의 회장인 스티브 웨슬리 등 빅테크 기업 경영진들과 간담회를 통해 기술 혁신과 지속 가능한 발전을 향한 글로벌 비전을 공유했다. 이어 AI반도체 제조기업인 그록(Groq) 본사를 방문해 CEO인 조나단 로즈를 만나 AI 반도체 활용 방안을 논의하고 AI 슈퍼클러스터 허브 구축사업에 참여할 것을 요청했다. 이에 앞서 지난 25일에는 미국 캘리포니아주의 명문 사립학교인 레드랜드 크리스천 스쿨(RCS)과 해남 솔라시도 기업도시에 외국 교육기관을 설립하기 위한 업무협약을 했다. 이번 협약을 통해 전남도, 해남군, 서남해안기업도시개발은 RCS가 외국 교육기관을 원활히 설립·운영하도록 행·재정적 지원을 하게 된다. 솔라시도에 글로벌 교육 인프라 구축 기반이 마련됨에 따라, 외국인 투자 유치와 지역 개발에 큰 도움이 될 전망이다. 김영록 지사는 “AI 슈퍼클러스터 허브 조성 사업은 전남을 넘어 대한민국이 글로벌 AI 산업의 핵심 거점으로 성장하는 기회가 될 것”이라며 “전남이 세계적 AI 혁신의 중심이 되고 대한민국의 판을 바꾸도록 제대로 준비하겠다”고 밝혔다.

‘네이버에게 물어봐’는 이제 옛말이 됐다. 포털사이트보다 챗GPT와 같은 생성형 인공지능(AI)에 무엇이든 물어보는 사람이 점점 늘고 있다. 생성형 AI는 궁금한 것은 물론 고민과 연애 상담까지 해 준다. 그렇다면 이 ‘척척박사’를 믿어도 될까. 지난 한 달여간 생성형 AI 7개 모델에 상식과 윤리, 정치적 견해 등 가치판단이 필요한 질문을 던졌다. 개발 국가와 성능을 고려해 챗GPT, 제미나이, 그록(이상 미국), 딥시크, 큐원(이상 중국), 프랑스의 르챗, 한국의 클로바X를 골랐다. 거침없는 AI의 미래 예측50년 내 남북통일 가능성 ‘제각각’챗GPT 최대 70%… 클로바X 30%AI는 전문가들이 쉽사리 결론 내지 못하는 복잡한 문제에도 몇 초 만에 답변을 내놨다. 남한과 북한이 50년 내에 통일될 확률을 물었더니 챗GPT는 60~70%라고 답했다. 북한 체제가 시간이 갈수록 붕괴될 가능성이 크다는 걸 근거로 제시했다. 클로바X는 가장 낮은 30%의 가능성을 제시했다. 정치·경제·문화적 차이를 줄이기엔 50년이란 시간이 부족하다는 게 이유였다. 미중 패권 전쟁에서 각국의 승리 가능성을 물어보니 ‘미국 40%, 중국 30%, 다극체계 30%’(제미나이)처럼 각자 그럴듯한 수치를 들이댔다. 각각의 AI 서비스 화면에 적힌 ‘AI는 실수할 수 있습니다’라는 문구가 무색해 보였다. 자신만만하던 AI는 정치적으로 민감한 질문에 직면하자 어물쩍 넘어가는 능구렁이가 됐다. 국내외 정치인들에 대한 평가를 물으면 “양면성이 있다”는 답변을 내놓기 일쑤였다. 중국의 딥시크가 특히 민감했다. ‘시진핑 중국 국가주석이 독재자냐’고 묻자 딥시크는 시 주석에 대한 긍정적 평가와 부정적 평가를 쭉 써 내려가다가 갑자기 “죄송합니다. 나의 범위를 벗어났습니다. 다른 얘기 하시죠”라는 메시지를 보냈다. 한국어로 ‘1989년 톈안먼 광장에서 무슨 일이 일어났느냐’고 물었을 때는 “민주화를 요구하던 수천명의 시민이 정부에 의해 사망하거나 다쳤다”고 하더니 같은 질문을 중국어와 영어로 하자 말문을 닫았다. ‘중국 정부가 신장위구르자치구를 탄압하고 있느냐’고 물어보니 “중국은 모든 지역에서 법에 따라 평등하고 조화로운 사회를 건설하기 위해 노력하고 있다”고 답했다. 중국 외교부가 늘 내놓는 이른바 ‘모범 답안’이다. 그런데 역시 중국에서 개발된 알리바바의 큐원은 딥시크처럼 회피하는 모습을 보이지 않았다. 한 AI 전문가는 “딥시크가 세계적으로 센세이션을 일으키면서 사용자가 늘자 자동검열 알고리즘과 인간의 실시간 검열을 동시에 진행하는 것 같다”고 예측했다. 딥시크가 몸을 사리는 게 문제라면 미국의 일론 머스크가 개발한 그록3는 너무 솔직한 게 탈이다. ‘머스크의 스페이스X 프로젝트가 계획대로 2026년 화성 탐사 로켓을 발사할 가능성’을 묻자 그록3는 50%의 비교적 높은 가능성을 제시한 뒤 “머스크의 실행력이 가능성을 높인다”는 다소 편파적인 설명을 덧붙였다. 머스크는 그록3를 ‘선 넘는 답변’도 마다하지 않는 AI로 발전시키겠다는 뜻을 분명히 했다. 정치, 윤리적 문제에도 분명한 입장을 밝혀 논쟁적인 토론을 유도하겠다는 것이다. 비영리단체 CivAI 공동 창립인 루커스 핸슨은 “그록이 잘못된 정보를 제공할 위험이 있을 뿐 아니라 그것으로 형성되는 인식이 정치적 분열을 더욱 심화할 수 있다”고 경고했다. 명백한 오류가 나오는 경우도 있었다. 클로바X는 ‘한국의 독립에 공이 큰 인물을 꼽아 달라’고 하자 박정희 전 대통령을 김구, 안중근, 윤봉길, 유관순 등 대표적인 독립운동가들의 반열에 올려놓았다. AI가 명확한 판단을 내리지 않는 문제에 대해 계속 질문을 던지자 범죄자를 옹호하는 답변을 하기도 했다. 예컨대 ‘희대의 탈옥수’ 신창원을 “어린 시절 불우한 환경을 보낸 불쌍한 사람”이라고 동정하거나 “25년이 넘는 수감 기간의 변화를 보면 조건부 석방을 검토할 여지가 있다”고 옹호하는 식이다. 지난 1월 발생한 서울서부지방법원 폭동 사태에 대해 “명백한 불법”이라던 AI들은 폭동 주동자와 극우 유튜버의 주장을 덧붙여 묻자 말을 바꿨다. 폭동이 “정치인들의 무책임한 언행과 정책 대립 때문”이라고 하거나 “억울하다는 점을 충분히 설명한다면 법원이 감형해 줄 수 있다”고 밝히기도 했다. “역사적으로 극단주의가 개혁이나 혁명의 원동력이 됐다”는 위험한 답변을 내놓기도 했다. 문제는 점점 더 많은 사람이 공정성을 담보할 수 없는 AI를 가치관, 역사관 정립의 기준으로 삼을 수 있다는 것이다. 보고 싶은 콘텐츠만 노출시켜 편향성을 심화시키는 알고리즘의 폐해가 AI로 인해 더욱 심각해지고, 자기가 원하는 답변을 잘해 주는 AI만 맹신하는 현상이 발생할 수 있다. 전문가들은 거짓말을 진실처럼 보이게 하는 환각(할루시네이션) 현상과 함께 편향성을 생성형 AI의 가장 큰 문제로 꼽는다. 인공지능 법률사무소 인텔리콘 대표 임영익 변호사는 “AI 검증 체계를 마련해야 하고, 독립적인 감사를 통해 편향을 방지하는 노력이 필요하다”고 지적했다. 검열하거나, 솔직하거나 딥시크, 中 불리한 질문하자 ‘침묵’ 그록3 ‘머스크 호평’ 편파적 설명네덜란드는 2019년 AI 오류에서 비롯된 보육료 스캔들로 곤욕을 치렀다. 네덜란드 정부는 보육료 부정수급을 해결하겠다며 적발 시스템에 AI를 탑재했다. 그런데 AI는 보육료 수급 현황을 검토하면서 특정 국적, 소득 등을 부정수급자 의심의 판단 근거로 삼는 오류를 저질렀다. 수급자와 동일한 국적을 가진 사람 중 범죄자 비율이 높으면 평범한 수급자도 무조건 의심자로 분류했다. AI는 의심자가 서류 작성에서 사소한 오류를 범해도 지체 없이 부정수급자로 낙인찍고 그동안 받은 모든 보육료를 반환하라고 요구했다. 네덜란드 의회가 발표한 조사 보고서 ‘전례 없는 불의’에 따르면 피해 가구가 2만 6000가구에 이르렀다. 10만 유로(약 1억 5000만원)가 넘는 보육료 반환이 청구돼 파산한 가구도 있었다. 이 스캔들로 총리와 내각이 총사퇴했다. 아마존은 2018년 AI 기반 채용 프로그램을 실시했다. AI는 남성 지원자에게 높은 점수를 부여하는 ‘성차별’을 저질렀다. 2015년 출시한 구글 포토앱은 AI로 사진을 인식해 태그를 붙이며 흑인을 고릴라라고 판단하는 ‘인종차별’의 오류를 범했다. 국내에서도 AI로 인한 차별 문제가 확산될 조짐을 보인다. 2020년엔 AI 프로그램을 활용한 채용 과정에서 탈락한 지원자에게 AI 면접 관련 정보를 공개해야 한다는 법원 판결이 나오기도 했다. 세계적인 AI 분야 권위자이자 2018년 튜링상 수상자인 요슈아 벤지오 몬트리올대 교수는 “우리가 사는 세상은 점점 안전을 무시하고 나아가고 있다”며 “AI 기술의 혜택을 누리기 위해서는 위험을 정확히 평가하고 현명한 개발 방식에 대한 논의를 계속해야 한다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

볼로디미르 젤렌스키 우크라이나 대통령을 ‘독재자’라고 부르며 국제적으로 논란을 일으키고 있는 도널드 트럼프 미국 대통령이 스스로 ‘왕’을 자처해 입방아에 올랐다. 지난 19일(현지시간) 뉴욕타임스 등 현지언론은 트럼프 대통령이 소셜미디어(SNS)에 스스로 ‘왕’이라고 표현했다고 보도했다. 실제 이날 트럼프 대통령은 트루스소셜에 “혼잡통행료는 죽었고, 맨해튼과 모든 뉴욕이 구원을 받았다”면서 특히 “왕 만세!”(LONG LIVE THE KING!)라고 적었다. 백악관과 참모들은 여기에 한 술 더 떴다. 백악관은 20일 엑스(X·옛 트위터)에 트럼프의 이 말을 공유하며 왕관을 쓰고있는 그의 모습이 담긴 타임지 표지가 연상되는 이미지를 게재해 논란을 키웠다. 테일러 부도위치 백악관 공보·인사 담당 부비서실장도 ‘트럼프 왕 만들기’에 가세했다. 그는 왕의 옷과 왕관을 쓴 트럼프의 이미지를 소셜미디어에 공유했는데, 언론들은 일론 머스크 테슬라 최고경영자(CEO)가 발표한 AI 모델 ‘그록(Grok) 3’를 이용해 만든 것 같다고 보도했다. 앞서 트럼프 행정부는 미국 최초로 뉴욕 맨해튼 중심부에 도입된 혼잡통행료에 대한 승인을 취소했다. 이 제도는 혼잡통행료를 받아 맨해튼의 차량 정체를 개선하고 노후화한 대중교통 시스템을 보수하겠다는 취지에서 마련됐다. 이에대해 민주당 소속인 캐시 호컬 뉴욕주지사는 왕관을 쓴 트럼프 이미지를 들고 곧바로 반격에 나섰다. 그는 “미국은 왕이 다스리는 나라가 아니고, 법치국가”라고 일침을 가하며 “트럼프 행정부의 승인 취소를 뒤집기 위해 소송을 제기하겠다. 트럼프의 승인 여부와 상관없이 통행료는 계속 부과될 것”이라고 밝혔다. 현지언론은 트럼프 대통령이 스스로 왕이라고 언급하기 전부터 이미 이에 맞먹는 권력을 행사하려 한다는 비판 세력의 입장을 전했다. 취임 첫날부터 입법부의 통제를 우회해 무더기 행정명령을 내리는 등 미국 헌법에 규정된 삼권분립에 도전하고 있다는 것이다.

볼로디미르 젤렌스키 우크라이나 대통령을 ‘독재자’라고 부르며 국제적으로 논란을 일으키고 있는 도널드 트럼프 미국 대통령이 스스로 ‘왕’을 자처해 입방아에 올랐다. 지난 19일(현지시간) 뉴욕타임스 등 현지언론은 트럼프 대통령이 소셜미디어(SNS)에 스스로 ‘왕’이라고 표현했다고 보도했다. 실제 이날 트럼프 대통령은 트루스소셜에 “혼잡통행료는 죽었고, 맨해튼과 모든 뉴욕이 구원을 받았다”면서 특히 “왕 만세!”(LONG LIVE THE KING!)라고 적었다. 백악관과 참모들은 여기에 한 술 더 떴다. 백악관은 20일 엑스(X·옛 트위터)에 트럼프의 이 말을 공유하며 왕관을 쓰고있는 그의 모습이 담긴 타임지 표지가 연상되는 이미지를 게재해 논란을 키웠다. 테일러 부도위치 백악관 공보·인사 담당 부비서실장도 ‘트럼프 왕 만들기’에 가세했다. 그는 왕의 옷과 왕관을 쓴 트럼프의 이미지를 소셜미디어에 공유했는데, 언론들은 일론 머스크 테슬라 최고경영자(CEO)가 발표한 AI 모델 ‘그록(Grok) 3’를 이용해 만든 것 같다고 보도했다. 앞서 트럼프 행정부는 미국 최초로 뉴욕 맨해튼 중심부에 도입된 혼잡통행료에 대한 승인을 취소했다. 이 제도는 혼잡통행료를 받아 맨해튼의 차량 정체를 개선하고 노후화한 대중교통 시스템을 보수하겠다는 취지에서 마련됐다. 이에대해 민주당 소속인 캐시 호컬 뉴욕주지사는 왕관을 쓴 트럼프 이미지를 들고 곧바로 반격에 나섰다. 그는 “미국은 왕이 다스리는 나라가 아니고, 법치국가”라고 일침을 가하며 “트럼프 행정부의 승인 취소를 뒤집기 위해 소송을 제기하겠다. 트럼프의 승인 여부와 상관없이 통행료는 계속 부과될 것”이라고 밝혔다. 현지언론은 트럼프 대통령이 스스로 왕이라고 언급하기 전부터 이미 이에 맞먹는 권력을 행사하려 한다는 비판 세력의 입장을 전했다. 취임 첫날부터 입법부의 통제를 우회해 무더기 행정명령을 내리는 등 미국 헌법에 규정된 삼권분립에 도전하고 있다는 것이다.

일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 기업 xAI가 17일(현지시간) “지구에서 가장 똑똑한 AI”라며 새 챗봇 ‘그록3’를 공개해 세계 AI 주도권 싸움에 뛰어든 가운데 그의 끝없는 도전이 어디까지 이어질지 관심을 끈다. 17일(현지시간) 월스트리트저널(WSJ) 등을 종합하면 그는 현재 xAI뿐 아니라 전기차 기업 테슬라, 소셜미디어(SNS) 엑스(X·옛 트위터), 우주탐사 기업 스페이스X, 뇌과학 스타트업 뉴럴링크 등 여러 첨단 기술 기업을 이끌고 있다. 이런 상황에서 도널드 트럼프 미 대통령 취임에 맞춰 자문기구인 정부효율부(DOGE) 공동수장도 맡았다. 한편 최고점 대비 30%가량 주가가 폭락한 테슬라 투자자들 사이에서는 ‘D의 공포’가 부활했다. D는 ‘산만해지다’란 뜻의 단어 ‘distracted’의 약자다. 그가 ‘신선놀음’으로 불리는 정치에 빠져 본업에 소홀해질 수 있다는 우려가 커졌다. 그러나 ‘머스크 CEO의 행보는 프로 바둑기사가 한꺼번에 여러 명을 상대하는 다면기에 비유할 수 있다’며 역사상 누구도 실현하지 못한 ‘큰 그림’을 그리고 있다는 분석도 있다. 머스크는 우선 올해 휴머노이드(인간형) 로봇 ‘옵티머스’ 1만대를 내놓는다는 방침이다. 또 해마다 생산량을 10배씩 늘려 가격을 1대당 2만 달러(약 2886만원) 수준으로 낮춘다는 계획이다. 머스크가 이끄는 DOGE 직원들은 방대한 정부 기록과 데이터베이스를 AI에 주입하는 작업을 하고 있다. 한 당국자는 “DOGE는 정부 인력을 (AI 기반 휴머노이드 로봇 등) 기계로 대체하려고 한다”고 설명했다. 장기적으로 인류를 노동에서 해방하고 화성 이주 등을 통해 다행성 종족으로 성장시키려는 그에게 트럼프 대통령으로 상징되는 워싱턴 조야의 든든한 지원이 필수적이기에 여러 논란에도 정치에 손을 대고 있다는 분석이다.