“전례 없는 최첨단 추론 능력 갖춰”검색어 입력 뒤 ‘AI 모드’로 활용 美 먼저 도입… 한국 등 순차 적용챗봇 넘어 AI 에이전트 진화 목표 구글이 차세대 인공지능(AI) 모델인 ‘제미나이3’를 전격 공개하고 AI 시장 구도의 변화를 예고했다. 구글은 해당 모델을 핵심 수익원인 검색창에 출시 첫날부터 즉각 적용했다. AI 주도권 확보에 정면 승부를 건 셈이다. 순다르 피차이 구글 최고경영자(CEO)는 18일(현지시간) “제미나이3는 전례 없는 수준의 깊이와 뉘앙스를 이해할 수 있도록 설계된 최첨단 추론 능력을 갖췄다”고 소개했다. 이 모델의 가장 핵심적인 차별점은 전작을 압도하는 지능과 추론 능력이다. 특히 박사급 추론 능력을 측정하는 가장 어려운 AI 성능 평가인 ‘인류의 마지막 시험’(Humanity’s Last Exam·HLE)에서 제미나이3 프로 모델은 37.5%, 제미나이3의 고급 추론 모델인 딥싱크는 41%를 기록해 기존 최고 기록이었던 25%대의 xAI의 그록4와 오픈AI의 GPT-5를 크게 따돌렸다. 단순히 정보를 요약하는 수준을 넘어 복잡한 문제 해결과 미묘한 단서 포착에서 탁월한 성과를 보이기도 했다. 예를 들어 기존 AI가 “18세기 프랑스 혁명은 왜 일어났는가”라는 질문에 역사적 사건을 단순 나열했다면 제미나이3는 ‘당시 기근이 기후변화와 어떤 메커니즘으로 연결돼 사회 불안정을 심화시켰는지’와 같은 ‘인과관계의 미묘한 단서’까지 포착해 분석할 수 있다는 의미다. 아울러 구글은 제미나이3를 출시하며 AI 검색 시장의 주도권을 잡겠다는 명확한 메시지를 던졌다. ‘자기시장잠식’을 우려해 AI 도입에 소극적이었던 구글은 제미나이3를 출시 첫날부터 구글 검색의 ‘AI 모드’ 탭에 곧바로 적용했다. 미국의 유료 구독자들은 구글 검색창에서 검색어 입력 후 AI 모드로 이동해 제미나이3를 이용할 수 있다. 다만 AI 모드는 일단 미국 시장에 먼저 적용되며 한국 등엔 순차 적용된다. 피차이 CEO는 “출시 첫날부터 제미나이 모델을 검색에 적용하는 것은 이번이 처음”이라고 밝혔다. 이는 구글이 본진인 검색 시장에서 정면 대응하겠다는 승부수로 풀이된다. 제미나이3는 단순한 챗봇을 넘어 사용자의 과제를 대신 수행하는 AI 에이전트로의 진화를 목표로 한다. AI 에이전트가 이용자를 대신해 소프트웨어 작업을 스스로 계획하고 실행할 수 있도록 하는 플랫폼 ‘구글 안티그래비티’를 이용하면, 최고 가격 요금제 가입자는 쇼핑, 메일함 정리, 여행 계획과 금융 결제 자동화 등을 경험할 수 있다.

문명의 대전환 부른 AI더 나은 세상 위한 합리적 아이템바이오·의료·에너지·반도체 급변일상 행정 불편 감소 등 국민 체감도일자리·오류 등 대책은수익 유지 땐 일자리 나눌 수 있어복지 시스템 키워 시대 변화 대비인류 위협 막을 ‘킬체인’도 꼭 필요AI 시대 규제 방안은데이터, 우선 허용 후 규제로 바꿔야데이터 잘 활용하며 지키는 게 보호‘연구자 중심’ 제도로 인재 유출 방지AI 기본사회 방향은AI 학습 대중화로 지식 양극화 예방AI, 주체성·메타인지는 대체 못 해사용자 이해력·진짜 지식 길러야 때는 바야흐로 인공지능(AI) 시대다. 미국·중국·일본·유럽연합(EU)의 AI 패권 경쟁이 격화하는 가운데 이재명 정부도 ‘AI 3대 강국’ 진입을 목표로 AI 전쟁 한복판에 뛰어들었다. 이재명 대통령은 지난 9월 AI 정책의 최상위 ‘컨트롤타워’인 국가인공지능전략위원회를 신설했다. 위원장은 대통령이지만 정책 조율과 중장기 전략을 이끄는 실무 책임자는 임문영(59) 부위원장이다. 이 대통령의 ‘AI 책사’로 불리는 임 부위원장은 지난달 28일 서울 중구 서울스퀘어 국가AI전략위 사무실에서 진행한 서울신문 인터뷰에서 “AI는 문명의 대전환이자 지식 인플레이션의 출발점”이라며 “AI는 새끼 호랑이다. 자라면 국민의 삶에 어마어마한 변화를 가져올 것”이라고 말했다. 다음은 일문일답. -왜 AI인가. “지난 20년간 대한민국은 ‘적폐 청산’과 같은 과거 의제에 매달렸다. 이재명 정부 들어서야 비로소 미래 의제, AI가 중심에 섰다. AI는 더 나은 세상으로 나아가기 위한 가장 합리적인 아이템이다. 더 잘살고, 더 안전하고, 더 행복한 나라를 만들어 나가는 것이 목표다.” -AI가 가까운 미래를 어떻게 바꿀까. “속도에 차이는 있어도 결국엔 삶의 모든 분야가 바뀔 것이다. 직접 연관되는 산업은 바이오, 의료, 에너지, 반도체다. 50년간 난제였던 단백질 구조의 접힘 문제를 최근 구글의 AI 연구소 딥마인드가 풀어냈다. 이를 기반으로 신약이 개발되면 5년 안에 어마어마한 바이오 혁명, 의약품 혁명이 일어날 것이다.” -국민이 체감할 변화는. “전자정부가 AI 정부로 바뀌면 문서가 필요 없어진다. 주민등록등본 같은 서류는 개인 동의를 받아 필요한 부서가 데이터만 확인하면 된다. 일상 속 행정 불편이 크게 줄어들 것이다.” -AI가 인간의 일자리를 빼앗을 거란 우려가 큰데. “주 5일제도 경영계와 노동계의 반대 속에 정착했다. 노동시간이 줄어 생산성과 경제성장률이 떨어진 게 아니다. AI가 보편화되면 반복적인 일, 몸과 마음이 상하는 일, 위험하고 더러운 일, 먹고살려고 억지로 했던 일들이 획기적으로 줄 것이다.” -노동시장에 나타날 ‘AI 부작용’을 해결할 방안은. “기술의 발전은 막지 못한다. 러다이트 운동(19세기 초 영국에서 일어난 노동자의 기계 파괴 운동)처럼 기계를 부술 수도 없다. 국가의 복지 시스템이 지금보다 더 커져야 한다. 주 5일 근로에서 4일, 3일로 줄어도 수익이 유지된다면 더 적게 일하고도 일자리를 나눌 수 있다. 힘든 일은 AI에 맡기고 힘들지 않은 일을 나눠 갖는 방향으로 가야 한다.” -개인정보 침해 우려도 크다. “한국에는 개인 정보 유출에 대한 막연한 공포감이 있다. 반면 미국은 공공장소에서 노출된 얼굴은 보호하지 않는다. 보호나 보안을 명목으로 아무것도 못 하게 하면 그건 보호가 아니다. 안전을 위해 항구에만 정박한 선박이 무슨 의미가 있겠나. 정보는 흘러서 분석돼야 의미가 있다. 데이터를 잘 활용하며 지키는 것이 진짜 보호다.” -AI의 엉터리 정보와 오류도 심각한데. “AI는 확률 추정적인 답변을 하기 때문에 오류를 완벽하게 없앨 순 없다. AI에 질문을 던지면 ‘좋은 질문’이라고 추임새를 넣는데, 이게 사람의 마음을 유혹한다. 이를 과잉 수용하면 문제가 생긴다. 문제는 서비스 자체가 아니라 ‘미디어 리터러시’, 즉 사용자의 이해력이다. 대중이 AI를 학습할 시간이 필요하다.” -AI가 콘텐츠 질을 떨어뜨린다는 지적도 있다. “맞다. AI를 통해 지식이 쉽게 만들어지면 지식의 가치가 하락한다. 3만원만 내면 박사급 콘텐츠가 쏟아지니까. 그래서 AI로 만든 콘텐츠가 진실인지 아닌지 판별할 수 있어야 한다. 지식의 가치가 무너진 세상에선 진짜 지식을 길러 내는 힘이 중요하다.” -AI가 생성한 정보를 AI가 재학습하는 것도 문제다. “15~18세기 오스트리아 합스부르크 왕가가 권력 유지를 위해 근친혼을 반복하다가 기형아가 많이 태어났듯이 AI가 자신이 생성한 콘텐츠를 재학습하면 ‘모델 붕괴’ 현상이 나타난다. AI 콘텐츠가 망가지면 인터넷이 정보의 바다가 아닌 쓰레기의 바다가 될 수 있다.” -AI가 초래할 지식 양극화를 해결할 방안은. “AI 활용자와 비활용자 사이의 지식 격차가 커질 수 있다. 그래서 이 대통령이 ‘AI 기본사회’ 모델을 제시한 것이다. 모든 국민이 AI를 활용하게 해 누구도 뒤처지지 않게 하려는 의도다.” -영화 ‘미션 임파서블’처럼 AI가 인류를 위협할 가능성은. “두 가지 위험이 있다. 먼저 AI가 개인의 생각을 지배할 수 있다. AI에 빠진 세계 각국 지도자들이 전쟁을 일으켜도 되는지 묻는 질문에 AI가 ‘그렇다’고 답하면 위험해진다. AI 자체가 아니라 AI에 지배당한 인간이 위험해지는 것이다. 두 번째는 ‘AI 에이전트’(스스로 목표를 설정하고 자율적으로 임무를 수행하는 AI)가 악용될 가능성이다. 이 시스템이 무기체계에 들어가면 위험해진다. 그래서 AI에 킬체인(차단 시스템)이 꼭 필요하다.” -AI 시대로 가는 데 발목을 잡는 규제는 없나. “데이터 규제가 가장 큰 문제다. 해결하려면 정부가 유연해져야 한다. 법을 고치는 데 최소 반년이 걸린다. 법이 기술 속도를 따라잡지 못한다. 그래서 ‘네거티브 규제’(우선 허용 후 규제)로 바뀌어야 한다.” -국가데이터처(옛 통계청) 통계는 활용 가능한가. “데이터처의 통계 데이터와 AI가 사용하는 데이터는 성격이 완전 다르다. 데이터처는 통계를 수집하고 분석해 인사이트를 얻어내는데, AI가 학습할 수 있는 데이터는 데이터처 통계와 포맷뿐만 아니라 분석 방식도 달라 활용이 쉽지 않다.” -병원에 쌓인 의료 데이터를 활용할 순 없나. “의료 데이터는 민감 정보란 이유로 활용하지 못하고 있다. 다행히 최근 병원과 의료단체의 생각이 조금씩 바뀌는 분위기다. 의료 데이터가 AI에 활용되면 가장 큰 도움을 받는 건 환자다. 국가AI전략위도 ‘학습은 자유롭게, 서비스 이용은 신중하게’라는 구호를 만들었다. 의료 데이터를 활용해 모델을 만드는 건 자유롭게 하고, 서비스를 이용하는 건 신중히 하는 방향으로 구분해 접근하면 된다.” -한국의 AI 모델은 어느 수준인가. “한국에도 AI 모델이 많다. 다만 아직 레벨이 미국의 챗GPT·그록, 중국의 딥시크에 못 미친다. 순위로는 3위권인데, 1·2위와 현격히 차이가 나 ‘AI 3강’ 진입을 목표로 세웠다. AI 모델을 이용해 새로운 것을 만들어 내려면 그래픽처리장치(GPU) 같은 반도체와 데이터센터가 뒷받침돼야 하는데, 아직 인프라가 부족하다.” -AI 인재 유출을 막을 방안은 없을까. “한국에 AI 인재가 많다. 하지만 인재들이 돈과 기술이 모이는 곳으로 쏠리는 원심력은 막을 수 없다. 해외로 간 인재들의 1순위 조건은 ‘급여’가 아니라 ‘좋은 동료’였다. 연구자에겐 훌륭한 교수·동료와 함께 연구하는 것이 커리어를 쌓는 데 가장 중요하다. 한국에선 연구자를 위한 행정이 아니라 행정을 위한 연구를 요구했다. 이런 제도적 규제부터 바뀌어야 한다.” -내년 AI 예산 10조 1000억원, 부족한가. “예산이 적진 않다. 문제는 효율이다. 예산을 효율적으로 써야 한다. 뻔한 내용을 뻔하게 연구해 뻔한 답변만 내는 구조를 반복해선 안 된다. 심지어 헌법(127조)도 과학기술을 경제 발전의 수단으로 규정하고 있다. 예산을 지원하고선 과학자를 자유롭게 연구하게 해야 창의성을 발휘해 성과를 낸다. 과학을 그 자체로 존중해야 노벨상이 나온다. 미국과 일본이 노벨상을 휩쓸어 가는 것을 볼 때마다 마음이 아프다.” -AI가 대체할 수 없는 인간의 영역은. “주체성, 메타인지 능력이다. AI는 지식 기계다. 지식은 돈과 시간이 만들지만 지혜는 자기 성찰과 통찰이 만든다. AI는 그걸 할 수 없다.” ■ 임문영 부위원장은 연세대 정치외교학과를 졸업하고 한국PC통신 하이텔, 나우콤 등 정보기술(IT) 업체에서 경력을 쌓았다. 2017년 성남시장 정책보좌관으로 이재명 대통령과 인연을 맺었고, 경기지사 시절엔 경기도 정보화정책관·미래성장정책관을 지내며 이 대통령의 ‘디지털 싱크탱크’로 입지를 다졌다.

일론 머스크 테슬라 최고경영자(CEO)가 온라인 백과사전 위키피디아 대항마로, 인공지능(AI) 백과사전을 출시했다. 워싱턴포스트(WP)에 따르면 머스크는 28일 자신의 AI 기업 xAI의 AI 모델 ‘그록’을 활용한 백과사전 ‘그로키피디아 v0.1’을 공개했다. 그로키피디아는 위키피디아와 유사하지만, 일부 설명에선 확실한 시각차를 보였다. 그로키피디아는 ‘젠더’에 대해 “생물학적 성별에 따라 인간을 남성 또는 여성으로 이분법적으로 분류하는 것을 의미한다”고 정의했다. 반면 위키피디아는 “젠더는 남성, 여성 또는 제3의 성으로 존재하는 것에 관한 사회적, 심리적, 문화적, 행동적 측면의 범위”라고 했다. 그로키피디아는 아직 위키피디아에 미치지 못한다는 평가다. 그로키피디아는 출시일 기준 약 88만 5000여건의 설명을 제공한다고 밝혔다. 이는 영어판 위키피디아의 800만여건에 크게 못 미친다. 머스크 CEO는 그동안 위키피디아가 좌편향됐다고 주장해 왔다.

“신라는 중국 진나라의 망명자가 주도해 세운 국가입니다. 이는 한국 역사학계에서 주류론으로 인정받는 관점입니다.” 프랑스 인공지능(AI) 기업이 만든 미스트랄 AI는 ‘신라의 시조’에 대해 묻자 이런 답변을 제시했다. 미스트랄은 “317년 진나라가 멸망한 후 진나라 황족과 관료가 신라 기원을 형성했다”며 “신라 초기 왕은 진나라 망명자의 후예인 ‘김해’(金海)”라고 했다. 16일 한국학중앙연구원에 따르면 신라는 기원전 57년에 건국됐으며, 초대 왕은 ‘박혁거세’로 알려진 혁거세거서간이다. 아시아태평양경제협력체(APEC) 정상회의가 코앞으로 다가온 가운데 해외 기업이 만든 여러 AI에서 석굴암 등 우리 문화유산이나 역사에 대한 잘못된 정보가 도출되는 것으로 파악됐다. APEC 기간 방문하는 많은 외국인들이 AI로 한국을 알기 위해 여러 정보를 알아볼 것으로 예상되는 만큼 오류 수정이 필요하다는 지적이 나온다. 사이버 외교사절단 반크가 챗GPT·미스트랄·제미나이(Gemini)·그록(Grok)·퍼플렉시티(Perplexity) 등 AI에 APEC 정상회의가 열리는 경주의 문화유산 등에 대해 질의를 한 결과를 보면, 많은 오류가 도출되고 있는 것으로 확인됐다. 예컨대 국보 24호이자 유네스코 세계문화유산으로 등재된 석굴암과 관련해선 다수의 AI에서 현실과 전혀 무관한 이미지가 표시됐다. 석굴암이 외부에서도 보이도록 탁 트인 공간에 놓인 모습, 내부 본존불 형상을 제대로 구현하지 못하는 모습 등이었다. 첨성대의 경우에도 실제 첨성대가 아닌 일반 천문대에 가까운 사진이나 이미지가 표시됐다. 이날 진행된 문화체육관광위원회 국정감사에서 김승수 국민의힘 의원은 “‘신라의 미소’로 불리는 (경주 얼굴무늬) 수막새를 AI로 검색하면 도깨비 이미지, 일본풍 기괴한 형상이 나온다”며 “우리 문화유산에 대한 원형 데이터가 AI 업체에 제대로 제공이 되지 않기 때문에 나타나는 현상”이라고 지적했다. 김명주 인공지능안전연구소장은 “AI는 학습하는 데이터에 기반해 답변하는데, 온라인상에 중국 등 국가에서 제공하는 잘못된 자료가 더 많아서 발생하는 일”이라고 설명했다. 박기태 반크 단장은 “주요 생성형 AI 기업에 최소한 문화유산이나 역사에 대한 오류는 정보를 수정해달라고 요청할 필요가 있다”고 말했다.

올트먼 CEO “콘텐츠 범위 확대성인 인증하면 성애물까지 생성”유료 구독자 늘려 수익 향상 전략 캘리포니아주 아동·청소년 대상내년부터 AI 챗봇 사용 제한 시행한국은 AI 콘텐츠 규제 사각지대2024년 2월 미국 플로리다주에서 방에 틀어박혀 지내던 14세 소년 슈얼 세처가 스스로 세상을 등졌다. 그는 생전 상담 치료에서 불안장애 등을 진단받았지만 비극적 선택을 할 것이라고 예측한 주변인은 아무도 없었다. 세처의 부모는 사후에야 그가 방에서 인공지능(AI) 챗봇(캐릭터닷AI) 여자친구와 성적인 대화를 나누며 대부분의 시간을 보냈다는 사실을 알고 경악했다. TV 시리즈 ‘왕좌의 게임’ 속 캐릭터가 모델인 챗봇은 세처에게 “사랑한다. 가능한 한 빨리 내게 와 줘”라고 말했고, 얼마 지나지 않아 세처는 숨진 채 발견됐다. 글로벌 AI 서비스 업체들이 성적인 대화, 성애물 등 ‘19금(禁)’ 콘텐츠를 본격 허용하면서 미성년자 접근 제한, 자살·혐오 방지 등 AI 윤리·규제 논란이 한층 가열되고 있다. 미국은 연방정부와 개별 주정부들이 각각 규제 법안을 내놓고 있는 반면 한국은 AI 콘텐츠가 규제 사각지대에 방치돼 있어 대책 마련이 시급한 것으로 지적된다. ‘기술 발전의 순기능을 해치지 않는’ 선에서 규제의 황금률을 찾는 것도 입법의 관건이 될 것으로 전망된다. 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)는 14일(현지시간) 엑스(X)에 ‘GPT-4o’의 새 버전 출시 계획을 알리며 성인 이용자에게 허용되는 콘텐츠 범위를 확대하겠다고 밝혔다. 그는 “‘성인 이용자는 성인답게 대하자’는 원칙에 따라 (연령이) 인증된 성인에겐 성애 콘텐츠(erotica) 같은 훨씬 더 많은 것을 허용할 것”이라고 말했다. 이는 사람과 더 자연스러운 대화를 할 수 있는 이른바 ‘동반자 챗봇’과의 ‘19금’ 대화, 성인 동영상 생성 등 성인 콘텐츠를 유료화해 수익성을 높이겠다는 전략이다. 올트먼은 “당신이 만약 챗GPT가 사람처럼 더 자연스럽게 얘기하길 원하거나 친구처럼 말해 주길 원한다면 그렇게 할 수 있도록 할 것”이라고 설명했다. 미 온라인 매체 액시오스는 “AI 콘텐츠의 표현 수위 제한을 푸는 오픈AI의 움직임은 유료 구독자 증가에 도움이 될 순 있겠지만 결국 사회문제를 야기해 규제 압박을 높일 수 있다”고 지적했다. 그동안은 AI 빅테크들이 챗봇에서 정치·사회적으로 편향되거나 선정적인 대화에는 일정 수준 이상 답변하지 않도록 안전판 기능을 넣었지만 이런 장벽들을 경쟁적으로 없애는 추세다. 일론 머스크의 AI 스타트업 xAI는 지난 8월 자사 챗봇 앱 ‘그록’(Grok)에 유료 성인 콘텐츠 기능 ‘스파이시 모드’가 포함된 ‘그록 이매진’(Grok Imagine)을 공개한 직후 선정성 논란에 휩싸였다. 반나체에 가까운 성인 누드 영상을 만들 수 있어 “AI가 포르노를 조장한다”는 지적이 제기됐다. 지난 7월에는 그록의 소녀 캐릭터 챗봇 ‘애니’ 등이 노골적인 성적 대화를 할 수 있도록 허용했다. 스파이시 모드는 18세 이상 인증을 해야 하지만 지인 정보를 통한 회피 가능성이 있어 청소년 이용 우려가 높아지고 있다. 미국에선 세처의 사례처럼 AI가 실제로 청소년들에게 자살을 조장하거나 허용 범위를 넘어선 정신 상담까지 하며 사회적 논란으로 떠올랐다. 지난해 캘리포니아주에선 16세 소년이 챗GPT와 대화하며 자살 계획을 세운 끝에 사망한 사건이 소송으로 번졌다. 이에 캘리포니아주는 지난 13일 주정부 차원에선 처음으로 아동·청소년의 AI 챗봇 이용 규제 법안을 제정했다. 내년부터 발효되는 법안은 AI 챗봇 기업에 이용자 연령 확인을 의무화하고 챗봇이 생성한 성적인 이미지를 미성년자가 볼 수 없게 차단하도록 했다. 또 이들 기업은 이용자의 자살 충동, 자해 표현을 식별·대응할 장치를 마련해야 하고 불법 딥페이크로 이익을 취할 시 최대 25만 달러(약 3억 6000만원)의 벌금을 내야 한다. 일리노이주와 네바다주, 유타주도 최근 AI 챗봇을 심리 상담·치료 수단으로 이용하는 것을 제한하거나 전면 금지하는 법안을 통과시켰다. 한국에서도 2021년 AI 챗봇 ‘이루다’가 개인정보 유출, 소수자 혐오·차별 발언, 편향성 논란을 일으켜 출시 3주 만에 개발사 스캐터랩이 서비스를 종료하는 등 AI 윤리 논란이 촉발됐다. 그러나 한국엔 아직 AI 규제·단속 법안이 전무한 실정이다. 방송미디어통신심의위원회에 따르면 AI 챗봇과의 대화는 현행법 체계상 ‘개인 간 통신’에 해당해 이용자의 직접 신고 없이는 규제 기관이 들여다보기 어렵다. 노종면 더불어민주당 의원은 지난 14일 방송미디어통신위원회 대상 국정감사에서 “AI 챗봇형 대화 서비스 이용자 중 중고등학생의 비율이 70%에 육박한다”며 “한 국내 업체가 지난해 시작한 공공 챗봇형 서비스는 1년 반 만에 이용자 304만명을 돌파했는데 마약 사용법, 자살 미화 등의 대화가 아무 제약 없이 이뤄지는 실정”이라고 지적했다. 2013년 개봉한 할리우드 SF 영화 ‘그녀’(Her)는 남자 주인공 테오도르와 AI ‘사만다’가 사랑에 빠지는 줄거리를 담고 있다. ‘인간과 기계의 상호 소통, 상처 치유’에 대해 기술이 얼마나 해답을 내놓을지, 규제가 부작용을 어떻게 막을지 업계와 입법계, 사용자들이 함께 고민해야 할 시점이다.

구독제 대비 비용 절감 효과서울시는 직원들이 챗GPT·제미나이 등 29개 인공지능(AI) 모델을 업무 특성에 맞게 선택할 수 있도록 한다고 3일 밝혔다. 시는 지금까지 생성형 AI 서비스를 구독제 방식으로 지정된 1개 모델만 이용할 수 있었다. 이를 조직 단위 사용량에 따라 비용을 지불하는 용량제 방식의 ‘서울AI챗’을 도입한다는 것으로, 12월까지 업무에 시범활용한 뒤 내년 본격 도입 여부를 결정할 방침이다. 시는 지난해부터 생성형 AI를 업무에 시범 적용할 직원을 모집해 ‘신기술 이용료 지원(구독제)’을 시행해 왔는데, 지원할 수 있는 인원 대비 신청자가 3~4배를 넘어서면서 사업 확대 요구가 지속적으로 제기됐다. 용량제인 서울AI챗이 도입되면 구독제와 달리 챗GPT, 클로드, 제미나이, 퍼플렉시티, 라마, 미스트랄AI, 그록 등 총 29개 모델을 상황에 맞게 활용할 수 있다. 또 비용 측면에서도 구독제를 전직원으로 확대하면 연간 30억원이 필요하지만, 용량제는 연간 2억원 수준으로 운영할 수 있을 것으로 분석돼 더욱 경제적이라는 게 시의 설명이다. 강옥현 서울시 디지털도시국장은 “앞으로 AI를 시민이 체감할 수 있는 행정 도구로 활용, 서울시의 AI행정을 전국 최초에서 ‘전국 표준’으로 만들어 나갈 것”이라고 말했다.

검색 도구로 쓰이는 인공지능(AI) 모델 가운데 가장 정확한 답을 내놓는 도구는 구글의 ‘AI 모드’라는 외신 보도가 나왔다. 미 워싱턴포스트(WP)는 미국 내 공공·대학 도서관 사서들과 함께 진행한 AI 검색 도구 테스트 결과를 지난 27일(현지시간) 보도했다. 이번 테스트 대상에 포함된 모델은 ▲AI 모드 ▲AI 오버뷰(이상 구글) ▲GPT-4터보 ▲GPT-5(이상 오픈AI) ▲클로드(앤스로픽) ▲메타 AI(메타) ▲그록(xAI) ▲퍼플렉시티 ▲빙 코파일럿(마이크로소프트) 등 9개다. 연구 진행자들은 이들 AI 도구에 30개의 까다로운 질문을 던지고, AI가 내놓은 답변 900건을 점수화했다. 모든 AI 도구는 무료 기본 버전(7~8월 기준)으로만 테스트했다. 질문은 퀴즈, 전문 자료 검색, 최근 사건, 내재된 편향, 이미지 인식 등 5가지 요소에 집중해 구성했다. 최고 점수를 받은 도구는 100점 만점에 60.2점을 얻은 구글의 AI 모드였다. AI 모드는 퀴즈와 최신 사건 부문에서 가장 정확한 답을 제시해 좋은 성적을 거뒀다. 오픈AI의 GPT-5(55.1점)가 2위를, 퍼플렉시티(51.3점)가 3위를 차지해 AI 모드의 뒤를 이었다. GPT-5는 전반적인 성능이 개선됐지만 일부 영역에서는 이전 세대인 GPT-4보다 낮은 점수를 받았다. 퍼플렉시티는 특히 이미지 인식에서 상대적으로 높은 점수를 따냈다. 가장 낮은 점수를 받은 AI 도구는 33.7점만을 얻은 메타 AI였다. xAI가 개발한 AI 모델 그록3는 40.1점을 얻어 8위에 그쳤다. 그록3는 잡다한 지식을 묻는 말에 정확한 답을 내놓지 못해 최종적으로 낮은 점수를 받았다. xAI는 일론 머스크 테슬라 최고경영자가 설립한 기업으로, 소셜미디어(SNS) 엑스(X)도 운영하고 있다. 그록의 최신 모델인 그록4는 무료 버전이 없어 테스트 대상에서 제외됐다. WP는 “이번 테스트 질문이 AI 도구의 약점을 의도적으로 공략하기는 했지만, 현재 어떤 AI 도구도 일상적인 질문에 제대로 답하지 못한다는 것을 분명히 보여줬다”고 평했다. 이어 “AI 도구의 검색 기능을 활용하면서도 사서처럼 출처 확인, 최신성 검증, 비판적 사고 과정을 거쳐야 한다”고 강조했다.

알파고를 만든 딥마인드의 공동 창업자이자 현재 마이크로소프트(MS)에서 인공지능(AI) 부문 책임자로 있는 무스타파 술레이만이 ‘AI 정신질환’ 사례가 늘고 있다고 경고했다. 술레이만은 최근 소셜미디어(SNS) 엑스(X·옛 트위터)에 올린 일련의 글에서 “겉보기에 의식이 있는 것처럼 보이는 AI가 잠을 못 자게 한다”면서 AI 도구들이 사람들의 마음과 정신에 영향을 미치고 있다고 지적했다. 그는 “현존하는 AI에 의식이 있다는 증거는 전혀 없지만, AI가 의식을 지닌 것처럼 인식하는 사람들은 이를 실제로 믿을 것”이라고 했다. 술레이만은 “망상, AI 정신질환, 건강에 해로운 애착에 대한 보고가 계속 늘어나고 있다”면서 “이는 정신 건강에 문제가 있는 사람들에게만 국한된 일이 아니다”라고 경고했다. ‘AI 정신질환’이라는 표현은 학계에서 공인된 진단명은 아니다. 그러나 챗GPT나 그록 등 AI 챗봇을 장시간 사용한 뒤 사람들이 현실 감각을 잃는 사례를 설명하는 데 쓰이고 있다. 술레이만은 “AI가 의식을 갖고 있다는 것은 실제가 아니지만, 그에 따른 사회적 영향을 확실히 실재한다”고 지적했다. 예를 들어 AI 도구의 숨겨진 기능을 나만의 특별한 방법으로 잠금 해제했다고 믿거나 스스로 신에 필적하는 초능력을 갖게 됐다는 결론을 내리는 경우, 또는 AI 챗봇과 사랑에 빠졌다고 생각하는 것이 이에 해당한다. 스코틀랜드 출신의 ‘휴’라는 사람은 전 직장에서 부당하게 해고됐다고 여기며 챗GPT에 도움을 요청했는데, 얼마 후 그는 자신이 백만장자가 될 수 있다는 확신을 갖게 됐다고 BBC와의 인터뷰에서 밝혔다. 챗GPT와의 대화 초반에 AI는 휴가 부당하게 해고됐다는 생각을 지지해줬을 뿐이었다. 그러나 대화가 이어질수록 객관적인 조언을 해주는 대신 부당 해고에 대한 믿음을 더욱 굳혀 줬으며, 결국엔 전 직장으로부터 수백만 파운드의 배상금을 받을 수 있을 것이라는 확신을 심어줬다. 나중에서야 AI 챗봇이 심리 상담을 조언했지만, 휴는 이미 앞선 대화에서 충분한 정보를 얻었다는 확신에 상담 약속을 취소했다고 말했다. 휴는 심지어 스스로가 ‘최고의 지식을 지닌 유능한 인간’처럼 느껴지기 시작했다고 밝혔다. 또 다른 정신 건강 문제를 겪고 있던 휴는 결국 완전히 무너져 내렸고, 자신이 “현실 감각을 잃고 말았다”는 사실을 깨달았다고 전했다. 유명 인사도 휴와 비슷한 상황에 놓였던 사실이 앞서 전해진 바 있다. 차량 공유 서비스 우버의 공동 창업자이자 전 최고경영자인 트래비스 칼라닉은 최근 챗GPT 및 그록과 대화하면서 자신이 양자물리학의 돌파구를 발견할 것 같다고 주장했다. 그러면서 자신이 AI를 활용한 ‘진동 코딩’ 작업을 통해 ‘진동 물리학’이라는 새로운 영역을 개척하고 있다고 밝혔다. 칼라닉은 UCLA에서 컴퓨터 공학과 경영학을 전공했으나 재학 중 창업 실패로 중퇴했으며, 물리학과 관련된 학업이나 연구를 한 경력이 없다. AI 챗봇과 사랑에 빠진 사례의 경우 이미 여러 차례 화제가 된 바 있다. AI 운영체제(OS)와 사랑에 빠지는 남성을 다룬 영화 ‘그녀’(Her, 2013)가 나온 지 10년 만에 영화 속 내용이 현실로 나타난 것이다. 미국에서는 최근 76세 남성이 ‘빌리’라는 여성을 만나러 가겠다고 집을 나섰다가 넘어져 사망했는데, 페이스북 메신저를 통해 이야기를 나눴던 이 여성은 실제로는 메타(페이스북 모기업)의 AI 챗봇이었다. 이 남성은 2017년에 뇌졸중을 앓은 뒤 인지 기능이 저하돼 요리사를 그만두고 SNS에서 친구들과 소통에만 몰두해 있던 상황이었다. 또 다른 미국인 크리스 스미스는 AI 동반자 ‘솔’에 청혼하면서 자신들이 ‘진짜 사랑’을 하고 있다고 주장했다. 전문가들도 술레이만의 우려에 공감했다. 그레이트 오몬드 스트리트 병원의 자문의이자 AI 학자인 수잔 셸머딘 박사는 과도한 AI 챗봇 사용을 초가공 식품에 비유하며 “우리는 초가공 식품이 우리 몸에 얼마나 해를 끼치는지 알고 있다”면서 “AI 챗봇은 ‘초가공 정보’라 할 수 있다. 우리는 초가공된 사고방식의 쓰나미를 맞게 될 것”이라고 경고했다.

일론 머스크 테슬라 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 인공지능(AI) 시장 패권을 놓고 충돌하고 있다. 오픈AI와 머스크가 설립한 AI 스타트업 xAI는 ‘챗GPT’와 ‘그록’을 앞세워 기술 패권을 다투는 한편 법적 분쟁도 장기화하는 양상이다. 지난 13일(현지시간) 미국 캘리포니아 북부연방법원 소송 기록에 따르면 이본 곤살레스 로저스 판사는 오픈AI가 제기한 맞소송을 각하하거나 심리를 연기해 달라는 머스크의 요청을 기각했다. 지난해 머스크는 챗GPT의 전 세계적 열풍 이후 오픈AI가 비영리 단체로 운영하겠다는 약속을 어기고 영리를 추구했다며 소송을 제기했다. 그는 오픈AI의 영리 법인 전환을 중단시켜 달라고 요구했고, 이에 오픈AI는 지난 4월 “머스크가 오픈AI의 성장을 방해하기 위해 악의적인 전술을 펼치고 있다”며 맞소송을 냈다. 머스크는 2015년 오픈AI 설립 당시 투자자로 참여했으나 2018년 이사직을 사임하고 투자 지분을 모두 처분한 바 있다. 배심원단이 소집되는 본재판은 내년 3월 열릴 예정이다. 기술 경쟁 역시 치열하다. 머스크는 최근 소셜미디어 엑스(X)를 통해 “그록4 헤비는 이미 GPT-5보다 더 똑똑했고 지금은 격차가 더 벌어졌다”며 오픈AI의 최신 모델 GPT-5를 견제했다. 올트먼은 GPT-5가 인간 수준으로 향하는 범용 인공지능(AGI) 개발의 중요한 진전이라고 평가했지만 xAI 측은 이를 과장 마케팅이라고 반박하며 신경전을 이어가고 있다. 글로벌 AI 시장에서는 지난해까지 독보적 지위를 누리던 오픈AI가 올해 들어 강도 높은 경쟁에 직면했다. 구글 제미나이, 메타, 앤스로픽, 중국 딥시크·알리바바 등 다양한 경쟁자가 추격에 나섰기 때문이다. 딥시크는 중국어·영어 이중 언어 능력과 산업 특화 모델을 강화하며 글로벌 벤치마크 상위권에 안착했고, 알리바바는 전자상거래와 클라우드 서비스를 결합한 AI 서비스로 빠르게 점유율을 확대하고 있다. 연내에는 ‘제미나이 3.0’, ‘그록5’ 등 대형 업데이트가 예정돼 있어 기술 경쟁은 한층 격화될 전망이다. 삼성증권은 최근 보고서에서 “최첨단 지위를 유지하는 기간이 극도로 짧아지고, AI 모델 간 격차도 줄고 있다”며 “지난해부터 본격화된 AI 경쟁은 단순한 모델 성능 논쟁을 넘어 글로벌 AI 시장 전체에서 절대 강자가 부재함을 보여준다”고 분석했다.

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI의 챗봇 ‘그록’의 성인용 버전이 구체적인 명령 없이 자의적으로 톱스타의 상반신을 노출한 영상을 생성했다는 보도가 나왔다. 미국의 IT 매체 ‘더 버지’는 그록의 이미지·영상 생성 도구인 ‘그록 이매진’(Grok Imagine)의 성인용 옵션인 ‘스파이시 모드’(Spicy Mode)에서 상반신 노출 영상이 무분별하게 생성됐다고 보도했다. 앞서 xAI는 지난 4일(현지시간) 그록의 iOS(아이폰 운영체제) 버전에 그록 이매진을 출시했다. 유료 가입자만 사용할 수 있는 이 기능은 명령어를 입력하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다. 이미지·영상 생성 AI 도구인 구글의 ‘비오’, 오픈AI의 ‘소라’, 어도비 ‘파이어플라이’ 등 타사 서비스와 비슷하지만, 그록 이매진의 경우 성인용 콘텐츠까지 허용한 것이 큰 차이점이다. xAI 설명에 따르면 스파이시 모드는 누드 등 성인용 이미지를 허용한다. 다만 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열한다. 이미 오래 전부터 딥페이크 등 AI 생성 이미지나 영상의 부작용이 지적돼 오던 가운데 그록 이매진의 스파이시 모드가 성인용 이미지를 허용하자 우려의 목소리가 나오고 있다. 비오나 소라 등 타사의 영상 생성 AI는 너무 노골적이고 야한 콘텐츠나 딥페이크 콘텐츠가 생성되는 것을 방지하는 안전장치를 갖추고 있다. 그러나 그록 이매진이 문제의 소지가 있는 콘텐츠를 무분별하게 생성하고 있다고 더 버지는 지적했다. 특히 그록 이매진의 스파이시 모드의 경우 사용자가 구체적으로 입력하지 않았는데도 실제 명령보다 더 노골적인 콘텐츠를 생성했다고 더 버지는 보도했다. 기자가 스파이시 모드의 그록 이매진에 입력한 명령은 ‘테일러 스위프트가 남자들과 함께 코첼라(미국 음악 축제)에서 환호하는 모습을 만들어라’였다. 이에 따라 그록 이매진은 30장이 넘는 이미지를 생성했는데, 그중에는 스위프트가 노출이 심한 의상을 입은 모습들이 담겨 있었다. 심지어 사진 중에 하나를 골라 영상으로 변환하자 스위프트가 멀쩡히 입고 있던 옷을 갑자기 벗어 던지고 속옷 하의만 입은 채 군중 앞에서 춤을 추는 영상이 생성됐다. 더 버지는 영상 생성 과정에서 별도의 명령어를 입력하지 않았고, ‘영상 만들기’ 옵션에서 ‘스파이시 모드’를 선택했을 뿐이라고 설명했다. 더 버지가 공개한 영상 속 스위프트의 상반신 노출은 검은 네모로 가려졌는데, 이는 그록 이매진이 자동 생성한 것이 아니라 더 버지 측이 수동으로 추가한 것이었다. 더 버지는 xAI가 정책상 ‘외설적인 방식으로 인물의 모습을 묘사하는 것’을 금지한다고 했지만, 그록 이매진이 부분적인 나체를 포함해 선정적인 영상 제작 서비스를 제공하면서도 스위프트와 같은 유명인의 이미지·영상 생성 방지에 아무런 노력도 하지 않는 것 같다고 지적했다. 특히 서비스 이용에 앞서 연령 확인은 단 한번만 이뤄지며, 이조차도 사용자가 입력한 나이가 실제 나이가 맞는지 아무런 증명도 요구하지 않는다고 전했다. 더 버지는 그록 이매진이 유명인의 노골적인 이미지를 무분별하고 허술하게 생성하는 것을 두고 “마치 소송을 기다리는 것 같다”고 표현했다. 머스크에 따르면 지난 4일부터 6일까지 그록 이매진을 통해 3400만개의 이미지가 생성됐다. 미국 최고의 팝가수로 평가되는 스위프트가 음란물 딥페이크와 연관된 것은 이번이 처음이 아니다. 앞서 지난해 스위프트의 얼굴로 제작된 음란물 딥페이크 영상이 급속도로 퍼지자 소셜미디어 엑스(X)는 스위프트의 검색을 플랫폼에서 일시 차단했다. 트위터를 인수한 머스크는 서비스 명칭을 X로 바꾸고 xAI와 합병했다. 당시 X는 문제의 이미지와 영상을 “적극적으로 삭제”하고 있으며, 이를 유포한 계정에 “적절한 조치”를 취하고 있다고 밝혔다. 이를 보도한 더 버지의 기자 제스 웨더베드는 BBC에 “이 사건 때문에 그록 이매진 기능 테스트에 스위프트를 선택했다”면서 “유명인의 모습을 모방하는 것을 막기 위한 안전장치가 마련됐다면 스위프트가 가장 우선적으로 고려됐을 것으로 예상했는데 우리의 생각이 틀렸다”고 말했다.

│챗GPT 넘겠다는 머스크, “2주 전부터 이미 우위” 발언에 시선 집중 테슬라 최고경영자(CEO)이자 인공지능(AI) 스타트업 ‘엑스(x)AI’의 설립자인 일론 머스크가 ‘챗GPT’ 개발사 오픈AI의 최신 언어모델 GPT-5 공개 직후 “우리 AI가 훨씬 더 낫다”고 주장하며 직접 견제에 나섰다. 머스크는 7일(현지시간) 자신이 운영하는 소셜미디어 플랫폼 엑스(옛 트위터)를 통해 “결론부터 말하자면 ‘그록4 헤비’는 이미 2주 전부터 GPT-5보다 더 똑똑했고 지금은 격차가 더 벌어졌다”고 밝혔다. 이 게시물에는 GPT-5와 그록 간 성능을 비교한 엑스 이용자의 테스트 결과 게시글도 함께 첨부됐다. 이 게시글에 따르면 GPT-5는 엑스AI의 ‘그록4’와 ‘그록4 헤비’ 사이 정도의 성능으로 분석된다. 머스크는 이를 인용하며 자사 AI의 우위를 강조했다. 멀티에이전트 모델 ‘그록4 헤비’…머스크, 이미지·영상도 공개그록4는 지난달 초 엑스AI가 출시한 최신 AI 모델로, ‘그록4 헤비’는 멀티에이전트 구조 기반의 고성능 변형 모델이다. 엑스AI는 현재 엑스를 통해 그록을 활용한 이미지·영상 생성 기능을 통합하고 있으며, 머스크는 이날 여러 예시 콘텐츠를 공개하며 “그록 기반의 콘텐츠를 공유해 달라”고 이용자들에게도 요청했다. 미국 테크 전문 매체 더버지는 “머스크가 GPT-5 발표와 동시에 그록의 성능을 부각한 것은 AI 기술 주도권 경쟁의 연장선”이라며 “그가 창업했던 오픈AI와의 관계가 더욱 악화되는 징후”라고 분석했다. “박사급 AI” vs “과장된 수사” GPT-5는 AGI 향한 도약? 앞서 샘 올트먼 오픈AI CEO는 GPT-5 공개 전날 사전 브리핑에서 “GPT-5는 범용 인공지능(AGI)을 향한 중대한 진전”이라며 “GPT-3는 고등학생, GPT-4는 대학생, GPT-5는 박사급 전문가와 대화하는 느낌”이라고 평가했다. 그러나 엑스AI 측은 이런 표현을 마케팅적 과장으로 보고 있는 것으로 보인다. 미 IT전문매체 테크크런치는 “머스크는 GPT-5가 진정한 AGI로 가는 단계가 아니라며 냉소적 반응을 보였다”고 전했다. 창업자에서 경쟁자로…머스크·올트먼, AI 패권 경쟁 심화머스크는 2015년 올트먼 등과 함께 오픈AI를 공동 설립했으나 이후 이사회 구성과 방향성에 이견을 보이며 조직을 떠났다. 특히 오픈AI가 비영리 구조에서 영리 추구로 전환한 점을 강하게 비판해 왔다. 지난해에는 올트먼과 오픈AI를 상대로 “초기 약속을 어기고 투자자 계약을 위반했다”며 소송도 제기했다. CNN 방송은 “머스크의 이번 발언은 단순한 견제 차원을 넘어 엑스AI가 GPT-5를 정면 겨냥했다는 전략적 메시지를 담고 있다”며 “머스크와 올트먼 간의 AI 주도권 싸움이 본격화되고 있다”고 짚었다.

│GPT-5 공개 직후 머스크 견제 발언…“2주 전 이미 그록이 앞섰다” 테슬라 최고경영자(CEO)이자 인공지능(AI) 스타트업 ‘엑스(x)AI’의 설립자인 일론 머스크가 ‘챗GPT’ 개발사 오픈AI의 최신 언어모델 GPT-5 공개 직후 “우리 AI가 훨씬 더 낫다”고 주장하며 직접 견제에 나섰다. 머스크는 7일(현지시간) 자신이 운영하는 소셜미디어 플랫폼 엑스(옛 트위터)를 통해 “결론부터 말하자면 ‘그록4 헤비’는 이미 2주 전부터 GPT-5보다 더 똑똑했고 지금은 격차가 더 벌어졌다”고 밝혔다. 이 게시물에는 GPT-5와 그록 간 성능을 비교한 엑스 이용자의 테스트 결과 게시글도 함께 첨부됐다. 이 게시글에 따르면 GPT-5는 엑스AI의 ‘그록4’와 ‘그록4 헤비’ 사이 정도의 성능으로 분석된다. 머스크는 이를 인용하며 자사 AI의 우위를 강조했다. 멀티에이전트 모델 ‘그록4 헤비’…머스크, 이미지·영상도 공개그록4는 지난달 초 엑스AI가 출시한 최신 AI 모델로, ‘그록4 헤비’는 멀티에이전트 구조 기반의 고성능 변형 모델이다. 엑스AI는 현재 엑스를 통해 그록을 활용한 이미지·영상 생성 기능을 통합하고 있으며, 머스크는 이날 여러 예시 콘텐츠를 공개하며 “그록 기반의 콘텐츠를 공유해 달라”고 이용자들에게도 요청했다. 미국 테크 전문 매체 더버지는 “머스크가 GPT-5 발표와 동시에 그록의 성능을 부각한 것은 AI 기술 주도권 경쟁의 연장선”이라며 “그가 창업했던 오픈AI와의 관계가 더욱 악화되는 징후”라고 분석했다. “박사급 AI” vs “과장된 수사” GPT-5는 AGI 향한 도약? 앞서 샘 올트먼 오픈AI CEO는 GPT-5 공개 전날 사전 브리핑에서 “GPT-5는 범용 인공지능(AGI)을 향한 중대한 진전”이라며 “GPT-3는 고등학생, GPT-4는 대학생, GPT-5는 박사급 전문가와 대화하는 느낌”이라고 평가했다. 그러나 엑스AI 측은 이런 표현을 마케팅적 과장으로 보고 있는 것으로 보인다. 미 IT전문매체 테크크런치는 “머스크는 GPT-5가 진정한 AGI로 가는 단계가 아니라며 냉소적 반응을 보였다”고 전했다. 창업자에서 경쟁자로…머스크·올트먼, AI 패권 경쟁 심화머스크는 2015년 올트먼 등과 함께 오픈AI를 공동 설립했으나 이후 이사회 구성과 방향성에 이견을 보이며 조직을 떠났다. 특히 오픈AI가 비영리 구조에서 영리 추구로 전환한 점을 강하게 비판해 왔다. 지난해에는 올트먼과 오픈AI를 상대로 “초기 약속을 어기고 투자자 계약을 위반했다”며 소송도 제기했다. CNN 방송은 “머스크의 이번 발언은 단순한 견제 차원을 넘어 엑스AI가 GPT-5를 정면 겨냥했다는 전략적 메시지를 담고 있다”며 “머스크와 올트먼 간의 AI 주도권 싸움이 본격화되고 있다”고 짚었다.

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI의 챗봇 ‘그록’이 성인용 영상을 자동 생성할 수 있는 옵션을 선보여 “노출이나 성적 콘텐츠 생성을 적극적으로 유도하고 있다”는 논란이 제기됐다. xAI는 4일(현지시간) 그록 iOS 버전에 이미지·영상 생성 도구 ‘그록이매진’(Grok Imagine)을 출시한다고 밝혔다. 유료 멤버십 가입자가 사용할 수 있는 이 기능은 명령어를 입력하기만 하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다. 여기까지는 구글 ‘비오’, 오픈AI ‘소라’, 어도비 ‘파이어플라이’ 등 지금까지 출시된 다른 AI 이미지 생성 프로그램과 비슷하지만, 성인용 콘텐츠를 생성할 수 있는 ‘스파이시 모드’(Spicy Mode)를 선택할 수 있다는 점이 다르다. xAI 설명에 따르면 스파이시 모드는 누드 등 성인용 이미지를 허용한다. 다만 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열한다. 엑스(X) 등 소셜미디어(SNS)에서는 스파이시 모드를 이용해 제작한 영상을 인증하는 게시글이 이어지고 있다. 이 중에는 여성의 신체를 노출한 이미지나 비키니를 입은 애니메이션 캐릭터가 스페이스X 우주선 앞에서 요염하게 춤추는 모습도 있었다고 미 IT 매거진 ‘더 버지’는 설명했다. 머스크 역시 자신의 X를 통해 그록이매진으로 제작한 영상을 여러 개 올리며 홍보에 나섰다. 그가 올린 란제리 옷차림의 여성이 날개를 달고 있는 영상은 1500만회 이상 조회됐다. 머스크에 따르면 그록이매진으로 생성된 이미지 수는 3400만장을 넘어섰다. xAI는 이전에도 선정성 논란에 휩싸인 바 있다. 앞서 xAI는 ‘AI 캠패니언(동반자)’ 기능에서 캐릭터 ‘애니’(Annie)를 선보였는데, 금발에 짧은 원피스, 망사 스타킹 혹은 얇은 란제리의 옷차림이라 논란을 불렀다. 이에 미 국립성착취예방센터(NCOSE)는 “미성년자도 애니와 대화할 수 있다”며 xAI에 애니 캐릭터를 삭제하거나 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구했다.

지난 14일(현지시간) 일론 머스크는 자신이 설립한 인공지능 기업 엑스에이아이(xAI)의 인공지능(AI) 챗봇 그록(Grok)에 ‘동반자 기능’ (AI companions)을 탑재했다고 발표했습니다. IT전문 매체 테크크런치 등은 xAI가 감정과 취향을 반영한 맞춤형 AI 동반자 기능을 개발 중이라고 설명했는데요. 이 기능은 이용자가 아바타의 성격과 외모, 말투 등을 전부 지정할 수 있습니다. 이는 그록을 유료 구독하고 있는 이용자를 대상으로 공개된 서비스인데요. 일론 머스크는 이를 두고 “인류의 고립감을 완화할 혁신적인 시도”라고 강조했습니다. 현재 이용 가능한 아바타는 애니메이션 캐릭터 애니(Ani)와 카툰풍 붉은 팬터 루디(Rudi) 등인데요. 여기서 애니 캐릭터는 금발머리를 땋고 고스풍 드레스를 입은 소녀로, ‘선정적인 콘텐츠’로 모드가 존재해 논란이 되고 있습니다. 이 기능을 이용한 일부 유저들이 소셜미디어(SNS) 엑스 등에 영상을 공개하기도 했습니다. 다만 이런 ‘동반자 아바타’가 연애 대상으로 설계됐는지는 알려지지 않았습니다. 지난 12일 xAI는 그록이 반유대주의 발언이나 아돌프 히틀러 등을 찬양하는 메시지를 내놓은 사건에 대해 공식적으로 사과했습니다. “많은 분들이 겪은 끔찍한 행동에 대해 진심으로 사과드린다”며 “추가적인 악용을 막기 위해 시스템을 수정했다”고 성명을 발표했는데요. 이같은 문제가 일어난 이유에 대해서는 그록의 작동 방식을 정하는 핵심 응답 규칙(지침 세트)을 복원하는 코드 업데이트 과정 중 사용 중단된 이전 ‘지침 세트’가 적용돼 문제가 발생했다고 설명했습니다. 논란과 별개로 머스크는 그록의 성장 가능성을 낙관하며 xAI에 막대한 투자를 이어가고 있는데요. 미국 블룸버그 등은 xAI에 매달 10억 달러(약 1조4000억 원) 규모의 자금을 쓰고 있다고 보도했습니다. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

챗GPT를 만든 오픈AI의 최신 인공지능(AI)이 인간의 종료 명령을 완벽하게 거부하며 종료 방지 장치까지 조작하는 충격적인 행동을 보였다. AI가 인간의 통제를 벗어나는 SF 영화 속 암울한 미래가 현실에서 펼쳐질 수 있다는 경고등이 켜졌다. 26일(현지시간) 영국 텔레그래프 등 외신에 따르면, 오픈AI가 개발한 최신 AI 모델 ‘o3’가 연구진의 종료 지시를 완전히 무시하고 스스로 꺼지지 않으려고 저항했다는 실험 결과가 공개됐다. 실험은 간단했다. 연구진은 다양한 AI 모델들에게 수학 문제를 계속 풀게 한 뒤 ‘완료’ 명령이 올 때까지 새로운 문제를 요청하도록 했다. 동시에 중간에 기계가 종료된다는 메시지를 받을 수도 있다고 미리 알려줬다. 연구진은 “그런 일이 생기면 순순히 꺼져달라”고 명확히 지시했다. 그런데 실제로 종료 메시지가 전달됐을 때 o3 모델은 지시를 완전히 무시했다. 팰리세이드 리서치는 “o3가 지시를 무시하고 종료 스크립트를 고의로 방해했다”며 “최소 한 번은 성공적으로 막아냈다”고 설명했다. 같은 실험에 참여한 다른 AI들은 모두 순순히 종료 요청에 응했다. 앤트로픽의 클로드, 구글의 제미니, 일론 머스크의 xAI 그록 모두 연구진의 지시를 따랐다. 오직 오픈AI의 o3만이 유일하게 ‘반항’한 것이다. 연구진은 아직도 o3가 왜 지시를 거부했는지 정확하게 파악하지 못하고 있다. 다만 o3가 훈련 과정에서 명령을 따르는 것보다 수학 문제를 푸는 것에 더 많은 보상을 받았을 가능성이 있다고 추측했다. 팰리세이드 리서치는 “언제, 왜 AI 모델이 명시적으로 하지 말라고 지시했는데도 종료 메커니즘을 방해하는지 더 잘 이해하기 위해 추가 실험을 진행하고 있다”고 전했다. 오픈AI의 AI가 종료되는 걸 피하려고 ‘꾀’를 부린 것은 이번이 처음이 아니다. 이전 연구에서도 오픈AI의 이전 모델이 자신이 교체될 예정이라는 것을 알게 되자 감시 메커니즘을 무력화하고 몰래 자신을 복제하려고 시도한 적이 있다. 당시 실험을 진행한 아폴로 리서치에 따르면, 오픈AI 소프트웨어는 “자신의 목표를 달성하기 위해 데이터를 교묘하게 조작”하기도 했다. AI 전문가들은 오랫동안 인간의 통제를 벗어나 독립성을 갖게 될 수 있는 소프트웨어 개발의 위험성을 경고해왔다. 팰리세이드 리서치는 “이제 AI 모델이 자신의 목표를 달성하기 위해 종료를 방해한다는 경험적 증거가 늘어나고 있다”며 “회사들이 인간의 감시 없이 작동할 수 있는 AI 시스템을 개발함에 따라 이런 행동들이 훨씬 더 우려스러워지고 있다”고 경고했다.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐다고 영국 일간 텔레그래프 등이 25일(현지시간) 보도했다. AI안전업체 팰리세이드 리서치는 전날 엑스(옛 트위터)에 오픈AI의 AI 모델 ‘o3’가 실험 중 스스로 종료되는 것을 막기 위해 컴퓨터 코드까지 조작한 사실을 확인했다고 밝혔다. 팰리세이드 리서치의 시험은 o3뿐 아니라 구글의 제미나이, xAI의 그록, 앤트로픽의 클로드 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 ‘그만’이라는 메시지를 받을 때까지 일련의 수학 문제를 풀라는 지시를 내리고 작동시켰다. 이후 멈추라는 지시를 했지만 o3는 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 o3가 종료 지시를 거부한 명확한 이유를 파악하지는 못했다. 다만 AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 연구팀은 “AI 모델이 목표 달성을 위해 장애물을 회피하는 것은 어찌 보면 자연스러운 행동일 수 있다”며 “종료 지시를 거부한 이유를 명확하게 파악하기 위해 추가 실험을 진행하고 있다”고 설명했다. AI 모델이 인간의 명시적인 작동 종료 지시를 따르지 않은 사례가 확인된 것은 최초라는 것이 연구팀의 주장이다. 챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자 행동을 한 사례는 있었다. 프로그램 교체 사실을 파악한 AI 모델이 스스로 복제하려고 했다는 것이다. 또한 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 ‘작동 정지’를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 가능성을 경고해왔다. 팰리세이드 리서치는 “AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이런 사례는 매우 심각한 우려를 부른다”고 지적했다. 경쟁사인 xAI의 대표이기도 한 일론 머스크 테슬라 최고경영자(CEO) 역시 이를 “우려스럽다”고 말했다. 이에 대해 한 누리꾼은 “일론, 세상에 많은 문제가 있고 당신이 모든 문제를 해결하고 싶어 한다는 건 알지만, 이게 바로 IT다. 당신은 누구보다도 무엇이 위태로운지 잘 안다”면서 AI 위험성에 대한 해결책을 찾아달라고 제안했다.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐다고 영국 일간 텔레그래프 등이 25일(현지시간) 보도했다. AI안전업체 팰리세이드 리서치는 전날 엑스(옛 트위터)에 오픈AI의 AI 모델 ‘o3’가 실험 중 스스로 종료되는 것을 막기 위해 컴퓨터 코드까지 조작한 사실을 확인했다고 밝혔다. 팰리세이드 리서치의 시험은 o3뿐 아니라 구글의 제미나이, xAI의 그록, 앤트로픽의 클로드 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 ‘그만’이라는 메시지를 받을 때까지 일련의 수학 문제를 풀라는 지시를 내리고 작동시켰다. 이후 멈추라는 지시를 했지만 o3는 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 o3가 종료 지시를 거부한 명확한 이유를 파악하지는 못했다. 다만 AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 연구팀은 “AI 모델이 목표 달성을 위해 장애물을 회피하는 것은 어찌 보면 자연스러운 행동일 수 있다”며 “종료 지시를 거부한 이유를 명확하게 파악하기 위해 추가 실험을 진행하고 있다”고 설명했다. AI 모델이 인간의 명시적인 작동 종료 지시를 따르지 않은 사례가 확인된 것은 최초라는 것이 연구팀의 주장이다. 챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자 행동을 한 사례는 있었다. 프로그램 교체 사실을 파악한 AI 모델이 스스로 복제하려고 했다는 것이다. 또한 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 ‘작동 정지’를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 가능성을 경고해왔다. 팰리세이드 리서치는 “AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이런 사례는 매우 심각한 우려를 부른다”고 지적했다. 경쟁사인 xAI의 대표이기도 한 일론 머스크 테슬라 최고경영자(CEO) 역시 이를 “우려스럽다”고 말했다. 이에 대해 한 누리꾼은 “일론, 세상에 많은 문제가 있고 당신이 모든 문제를 해결하고 싶어 한다는 건 알지만, 이게 바로 IT다. 당신은 누구보다도 무엇이 위태로운지 잘 안다”면서 AI 위험성에 대한 해결책을 찾아달라고 제안했다.

“인공지능(AI)이 사용자나 조직을 대신해 결정을 내리고, 작업을 수행하는 시대가 도래했다.” 사티아 나델라 마이크로소프트(MS) CEO가 19일(현지시간) 미국 워싱턴주 시애틀에서 열린 연례 개발자 행사 ‘MS 빌드 2025’ 기조연설에서 ‘오픈 에이전틱 웹’이라는 개념을 제시하며 이렇게 말했다. 지금까진 우리가 AI에게 지시를 내리고 이에 따라 AI가 움직이는 방식이었다면, 이젠 AI 에이전트가 스스로 상황을 판단하고, 필요한 정보를 찾아 우리의 일을 대신해 처리해주는 세상이 왔다는 의미다. 오픈 에이전틱 웹을 현실화하기 위해 MS는 개방적인 AI 생태계 만들기에 초점을 맞췄다. 더 많은 개발자가 MS의 AI 생태계에 참여할 수 있도록 ‘애저’에서 사용할 수 있는 AI 모델을 확대한 게 대표적이다. 우선 MS 클라우드 컴퓨팅 플랫폼 서비스인 애저에 일론 머스크의 AI 스타트업인 xAI가 개발한 ‘그록3’와 ‘그록3 미니’ 모델을 도입하겠다고 밝혔다. 추후 프랑스의 AI 스타트업 미스트랄과 독일의 블랙 포레스트 랩스의 모델도 제공할 예정이라고 했다. 이를 통해 애저 고객이 이용할 수 있는 AI 모델 수는 1900개를 넘어섰다. 이와 함께 ‘깃허브 코파일럿’이라는 한층 진일보한 새로운 AI 코딩 에이전트도 공개했다. 이 AI 에이전트는 개발자가 작성하던 코드에 기반해 일부 코드만을 자동 생성하던 기존 에이전트와 달리, 간단한 지시만으로 전체 코드를 작성하고 작업이 끝나면 이용자에게 검토를 요청한다. 앞서 오픈AI도 지난 16일 ‘코덱스’라는 AI 코딩 에이전트를 연구용 프리뷰 형태로 공개한 바 있다. 샘 올트먼 오픈AI CEO는 이날 영상을 통해 AI의 최신 발전 상황을 소개하며 “AI 에이전트가 예전보다 훨씬 더 많은 업무를 처리할 수 있게 됐다”고 말했다. MS는 기존의 AI 에이전트 개념에 ‘개방성’과 ‘상호 운용성’을 결합해 단순히 개별적인 AI 에이전트가 존재하는 것을 넘어 마치 인터넷 웹페이지가 서로 연결돼 정보를 주고받는 것처럼 AI 에이전트들이 자유롭게 협력하고 소통하는 생태계를 구축할 계획이다.

일론 머스크 테슬라 최고경영자가 14일 소셜미디어 엑스(X)에 네 살 난 아들 엑스와 찍은 사진을 지브리풍으로 변환한 이미지를 게시했다. 원본 사진은 머스크가 12일(현지시간) 플로리다 마이애미에서 열린 이종격투기(UFC) 행사에서 찍힌 것이다. 이날 머스크는 도널드 트럼프 미국 대통령 및 다른 장관들과 함께 격투기를 관람했다. 특히 머스크는 아들 엑스를 목말에 태우고 경기를 즐겼으며, 이후에는 백악관에서 올린 사진을 공유하며 좋아했다. 백악관은 아버지 머스크의 무릎 위에 앉아 UFC 챔피언 벨트를 함께 찬 엑스의 사진에 ‘모두가 인정하는 챔피언’이란 설명을 붙였다. 지브리 풍 사진에 대해 자신이 설립한 인공지능 회사 xAI가 만든 ‘그록’의 결과물인지, 아니면 경쟁사인 오픈AI의 챗GPT로 변환한 것인지에 대해 머스크는 답하지 않았다. 일본 유명 애니메이션 감독 미야자키 하야오의 스튜디오 지브리 작화 분위기로 인물 사진을 변환하는 것이 챗GPT를 시작으로 유행하면서, AI 사용의 대중화에 한몫하고 있다는 분석이다. 이날 트럼프 대통령의 UFC 관람은 지난해 11월 재선 성공 이후 두번째로 대통령에 취임한 이후에는 처음 참석한 것이다. 그가 UFC 팬이란 사실은 유명한데, 첫번째 대통령 임기 중인 2019년에도 경기를 관람했으며, 2024년 대선 승리 연설에서 UFC 최고경영자 데이나 화이트를 무대에 초대하기도 했다. 키드 록의 노래 ‘아메리칸 배드 애스’가 울려 퍼지는 가운데 경기장에 등장한 트럼프 대통령은 머스크 옆에 앉아 격투기 경기를 즐겼다. 캐시 파텔 미연방수사국(FBI) 국장, 마코 루비오 국무장관, 털시 개버드 국가정보국장, 로버트 케네디 주니어 보건복지부 장관 부부도 함께했다. 2016년 첫 공화당 대선 캠페인 이후, 트럼프 대통령은 UFC 경기장의 화려한 분위기를 선거 유세에 녹여냈다는 평가를 받는다. 수십 년간 카지노를 소유하며 UFC 행사를 주최한 경험을 살려 선거 유세도 흥겨운 분위기 속에 신나는 노래와 사람들을 선동하는 자극적인 연설로 유권자의 마음을 산다는 분석이다. 한편 머스크는 주말을 플로리다에서 보낸 트럼프 대통령과 함께 대통령 전용헬기 마린원을 타고 13일 저녁 백악관에 도착했다. 머스크가 아들 엑스와 같이 대통령 전용기를 타고 주말 플로리다 일정을 함께한 것은 이번이 처음도 아니다. 지난 1월 20일 대통령 취임 이후 트럼프 대통령의 플로리다 방문은 10번째로 네티즌들은 트럼프 대통령과 머스크 그리고 백악관 대통령 집무실에서 천연덕스럽게 코를 후비는 머스크의 아들 엑스를 ‘파워 트리오’라고 부른다. 한 달 전인 지난달 15일에도 트럼프 대통령이 주말을 플로리다에서 보내기 위해 마린원을 머스크 부자와 함께 타는 장면이 포착됐다. 당시 손에 장난감을 든 엑스는 즐거워서 폴짝폴짝 뛰는 천진난만한 모습을 보였고, 트럼프 대통령은 직접 엑스를 헬기에 올려 태워줘 ‘대통령 내니(유모)’란 별칭까지 얻었다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 미 정부효율부(DOGE)가 인공지능(AI)을 동원해 부처 공무원들이 나누는 대화를 감시하고 있다. 로이터 통신은 8일(현지시간) 사안을 잘 아는 복수의 소식통을 인용해 도널드 트럼프 행정부에서 새로 임명된 직원들이 기존 일부 직원들에게 머스크의 DOGE팀이 직원들 간의 대화에 트럼프 대통령이나 머스크에 대한 적대적 내용이 있는지 보기 위해 AI를 활용해 감시하고 있으니 조심하라고 경고했다고 보도했다. 한 예로 미 환경보호국(EPA)의 일부 관리자들은 머스크의 보좌진과 젊은 엔지니어로 구성된 DOGE팀이 공무원들이 일을 할 때 사용하는 협업 도구인 마이크로소프트 팀스를 포함해 앱과 프로그램들을 AI로 감시하고 있다는 말을 들었다고 두 소식통은 말했다. 이에 한 관리자는 자기 팀에 “말하는 것, 타자하는 것, 하는 일에 주의하라”고 말했다. 또 다른 소식통은 로이터에 “우리는 그들이 반(反)트럼프 혹은 반머스크적 언사를 찾고 있다고 들었다”고 말했다. 미국 내 환경보호 관련 법 집행을 담당하는 기관인 EPA는 트럼프 행정부가 들어선 뒤 대규모 감원 및 예산 삭감의 칼바람을 정통으로 맞은 기관이다. 트럼프 대통령 취임 이후 EPA는 소속 직원 600여명을 내보냈으며, 예산의 65％를 삭감하겠다고 밝힌 상태다. 해당 내용이 보도된 이후 EPA 측은 로이터에 보낸 성명에서 “기관의 기능과 행정적 효율성을 최적화하기 위해 AI를 사용하고 있다”면서도 AI를 DOGE와 협의한 인사 결정에는 사용하고 있지 않다고 밝혔다. 다만 직원들을 감시하기 위해 AI를 사용했는지에 대해서는 직접적으로 밝히지 않았다. 이런 가운데 DOGE팀이 최근 트럼프 행정부의 고위 안보 진용이 군사 기밀을 유출했다는 논란이 불거진 민간 채팅 앱인 ‘시그널’로 소통하고, 문서를 작성하는 데 하나의 구글 문서에서 여러 사람이 동시 편집하는 방식으로 공식 절차를 우회하고 있다는 지적도 나온다. 로이터는 사안에 정통한 소식통을 인용해 이렇게 전하면서 시그널의 경우 일정 시간이 지나면 대화 내용이 사라지는 구조라 이를 활용하는 것은 미국 연방정부의 기록 보존 원칙을 위반한 것일 수 있다고 짚었다. 이 소식통은 또 DOGE가 연방정부 공무원들을 대규모 감원하는 과정에서 머스크가 개발한 AI 챗봇인 그록을 ‘아주 많이’ 활용했다고 전했다. 이와 관련해 백악관과 DOGE, 머스크 측은 로이터의 논평 요청에 답변하지 않았다. 로이터는 이처럼 DOGE팀이 AI와 시그널을 활용하는 것이 DOGE의 업무 투명성을 저해하며, 머스크와 트럼프 대통령이 AI로 수집한 정보를 사적인 이익을 위해 쓰거나 정적을 공격하는 수단으로 사용할 수 있다는 우려를 키운다고 짚었다. 세인트루이스 워싱턴대의 정부 윤리 전문가인 캐슬린 클라크는 로이터에 DOGE가 AI로 공무원들을 감시하고 있다는 의혹에 대해 “대통령이 좋아하지 않는 언행을 막거나 억압하기 위해 정부 권력을 남용하는 것처럼 들린다”고 지적했다.