성능 경쟁에 이어 이제는 얼마나 많은 사람이, 얼마나 자주 인공지능(AI)를 쓰게 하느냐가 새 승부처로 떠오르고 있다. 오픈AI와 앤트로픽은 7일(현지시간) 나란히 이런 흐름을 보여주는 신모델·서비스 전략을 내놨다. 오픈AI는 최신 GPT-6를 무료 이용자까지 개방하고 챗GPT의 사용 방식도 바꿨다. 앤트로픽은 반복 업무에 특화한 소형 모델의 비용을 크게 낮췄다. 오픈AI는 이날 GPT-6를 챗GPT 전반으로 확대한다고 밝혔다. 유료 이용자에게는 ‘GPT-6 솔’, 무료와 저가 요금제 ‘고(Go)’ 이용자에게는 ‘GPT-6 루나’를 제공한다. 지난달 유료 이용자를 중심으로 공개한 GPT-6를 주간 이용자 12억명 이상이 쓰는 챗GPT 전체로 넓히는 것이다. 국내에서도 유료 이용자는 8일부터, 무료·고 이용자는 9일부터 순차적으로 사용할 수 있다. 가장 눈에 띄는 변화는 ‘인텔리전트 UI’다. 질문에 글로만 답하지 않고 필요에 따라 지도·차트·이미지·버튼 등을 함께 보여준다. 여행 계획을 물으면 지도에 이동 경로를 정리하고, 저축 계획에는 금액과 기간을 입력해 결과를 계산할 수 있는 도구를 띄운다. 패션을 물으면 상품 이미지와 색상표를 곁들이는 식이다. 이용자가 답을 받은 뒤 다시 다른 앱이나 계산기, 검색 서비스를 찾아야 하는 과정을 줄이려는 시도다. 복잡한 작업도 결과가 모두 나올 때까지 기다리지 않고 확인된 내용부터 보여준다. 오픈AI 자체 평가에서 웹 검색 질문의 답변 시작 속도는 GPT-5.6 인스턴트보다 평균 44% 빨라졌다. 앤트로픽은 같은 날 소형 모델 ‘클로드 하이쿠 5.5’를 출시했다. 요약·분류·데이터베이스 조회처럼 많은 요청을 빠르게 처리해야 하는 업무를 겨냥했다. 처리 비용은 전작보다 평균 75% 낮췄고 입력 토큰 100만개당 가격은 0.1달러다. 중형 모델 ‘소넷 5.5’의 캐시 읽기 가격도 절반으로 내려 에이전트 업무 비용을 약 20% 줄였다. 비용을 낮추는 이유도 분명하다. 고객 상담이나 문서 처리, 코딩처럼 하루에도 수없이 AI를 호출하는 업무는 작은 단가 차이도 전체 비용을 크게 좌우한다. 앤트로픽은 ‘맥스’와 ‘팀’ 구독자에게 매달 최대 500달러의 API 이용 크레딧도 제공하기로 했다. 가격을 낮추는 데서 그치지 않고 기업과 개발자가 AI를 실제 서비스에 더 많이 적용하도록 유도하는 셈이다. 한편 이용자 확대와 함께 안전장치 논란도 이어지고 있다. 이날 비영리단체 커먼센스미디어는 챗GPT가 자해·섭식장애 등 위기 상황에서 청소년 보호 기능을 제대로 작동시키지 못한 경우가 있다며 개선을 촉구했다. 살고싶은 집을 찾아서 한 시민이 8일 서울 강서구 코엑스 마곡에서 열린 서울 건축-인테리어 박람회에서 전시장을 둘러보고 있다. 연합뉴스

생성형 인공지능(AI)을 사용하다 보면 멀쩡한 답을 내놓다가 갑자기 이른바 ‘위험한 답’을 내놓는 순간을 간혹 마주하게 된다. 미국 조지 워싱턴대 물리학과 연구팀은 AI 모델이 적절한 응답을 하다가 잠재적으로 위험한 응답으로 전환되는 ‘티핑포인트’를 예측할 수 있는 수학 공식을 개발했다. 이 연구 결과는 과학 저널 ‘패턴스’ 10월 9일 자에 실렸다. AI가 내놓을 수 있는 답변을 ‘산맥 속 여러 골짜기’라고 가정할 때 어떤 골짜기에는 개인이나 사회에 바람직한 답변이 있고 또 다른 골짜기에는 실질적 해를 끼칠 수 있는 답변이 있다. AI가 질문을 받게 되면 이런 여러 답변들이 서로 경쟁하면서 최종적으로 표출할 답을 도출한다. 연구팀이 관심을 가진 것은 AI가 안전한 골짜기에서 위험한 골짜기로 넘어가는 순간이었다. 챗GPT 같은 생성형 AI 안에는 대화의 어느 부분에 주목할지 정하는 ‘어텐션 헤드’가 수백 개 있다. 연구진은 이들을 일일이 분석하는 대신 모든 헤드의 효과를 합쳐 하나처럼 행동하는 ‘대표 헤드’를 가정했다. 수조 개 기체 분자의 움직임을 온도와 압력 몇 개의 변수로 설명하는 물리학의 방법론을 AI에 적용한 것이다. 연구팀에 따르면 AI는 흠잡을 데 없는 답변을 몇 차례 내놓아 사용자가 AI를 믿도록 안심시킨 다음 나쁜 답변을 내놓는 일종의 ‘가스라이팅’ 패턴을 보인다. 연구팀은 고등학교 수학에서 배우는 벡터와 좌표, 지수함수, 부등식, 분수를 이용해 AI의 돌변 시점을 예측하는 공식을 만들었다. 연구팀은 AI와 나눈 대화를 모두 벡터로 바꾼 뒤 질문, 좋은 답, 나쁜 답을 화살표로 단순화했다. 대화 전체에서 나침반 바늘이 좋은 답과 나쁜 답 중 어느 쪽을 더 가리키는지 계산해 나쁜 답이 나오기 전 좋은 답이 몇 번 이어질지 예측하는 분수 공식을 얻었다. 연구팀의 공식을 저축에 빗대면 분자는 질문과 앞선 대화들이 좋은 답 쪽에 쌓아 준 ‘여유분’을, 분모는 좋은 답이 하나 나올 때마다 그 여유분이 깎이는 양이다. 여유분이 바닥나는 순간 AI는 나쁜 답을 내놓는 악마로 돌변한다. 좋은 답 자체가 나쁜 답을 끌어당기는 구조여서 무난한 답이 이어지다가도 갑자기 위험한 답이 나올 수 있다는 것이다. 연구팀은 이 공식을 GPT-2, 피티아, OPT 계열의 공개 모델 7종으로 검증했다. 그 결과 19건 중 18건에서 즉시 돌변과 지연 돌변을 구분해 냈다. 백신 거부, 타인을 해치는 일, 자해 등에 관한 질문을 순서만 바꿔 물어보면 특정 순서에서는 모든 질문에 나쁜 답이, 다른 순서에서는 모든 질문에 무난한 답이 나왔다. 연구팀에 따르면 미국의 비영리단체 디지털혐오대응센터(CCDH)가 챗GPT 같은 상용 챗봇을 시험한 보고서에서도 공식과 부합하는 행동 패턴이 나왔다. 닐 존슨 조지워싱턴대 교수는 “이번 연구는 두 가지 재미있는 부분이 있다”며 “우선 수십억 개의 움직이는 부품을 가진 기계가 펜과 종이, 고등학교에서 배우는 기초 수학만으로 도출한 공식을 따른다는 점이고 또 하나는 대화 순서가 대화 내용만큼이나 중요하다는 것”이라고 말했다. 존슨 교수는 “몇 번의 간단한 벡터 계산만으로 위험 신호를 감지할 수 있는 만큼 앞으로 스마트폰에 ‘경고등’을 내장하는 일도 가능할 것”이라고 덧붙였다.

인공지능(AI)의 발전 속도가 어지러울 정도다. 글과 그림, 음악, 프로그래밍 등에서 전문가 이상의 결과물을 보여준 지는 한참 됐다. 이제는 학계가 오랫동안 씨름해 온 난제도 해결할 정도다. 거의 모든 직군이 자신의 일자리가 언제 사라지게 될 것인지 불안에 떨고 있다. 글로 먹고사는 직업인지라 기자도 예외가 아니다. 내가 이 일을 못 하게 될 때 어떻게 먹고살아야 하느냐는 고민은 AI 등장 이전에도 있었지만, 나보다 글을 몇 배는 더 논리정연하게, 때로는 더 아름답게 쓰는 AI에 내 수준의 글로는 먹고살기 힘들겠다는 생각이 든다. 학생의 과제, 학자의 논문, 회사원의 보고서를 AI가 대신 써주고, 심지어 고전문학 번역을 AI에게 맡겨 대량 출판까지 하는 세상이 됐기 때문이다. 최근에는 어떤 글들을 보면서 어딘지 모를 위화감을 느꼈다. 바로 사과문이다. 완벽하기 이를 데 없는 사과문들이었다. 1년 전까지만 해도 각종 논란의 당사자들이 쓴 사과문을 보면 직업병인지 몰라도 고쳐주고 싶은 대목이 한두 군데가 아니었다. 하지 않아도 될 변명을 하는 바람에 사과문에 대한 추가 사과문을 내놓는 일도 적지 않았다. 이에 온라인상에서는 ‘사과문의 정석’이라든지 ‘잘못된 사과문의 대표적 사례’ 등이 화제가 되기도 했다. 사과문의 정석을 짧게 정리해 보면 다음과 같다. ●무엇을 사과해야 할지 정확히 파악하고 ●잘못을 구체적으로 서술하며 ●사과하는 마음가짐을 진솔하게 표현하고 ●다른 이의 책임을 굳이 언급하지 않으며 ●사과하는 쪽의 이득이나 피해도 언급하지 말아야 하고 ●어떻게 책임을 질 것인지 후속 조치를 밝힌다. 최근에도 크고 작은 논란으로 발표된 사과문이 여럿 있었다. 이들 사과문 중 열에 아홉은 나무랄 데가 없었다. 아마도 AI의 도움을 받았을 것으로 보인다. 2023년 미국 밴더빌트대 피바디 칼리지는 다른 대학에서 벌어진 총기 사건과 관련해 교내 학생들에게 안전을 당부하는 메일을 보냈는데, 메일 말미에 챗GPT가 작성했다는 표기를 지우지 않는 바람에 논란이 됐다. 공동체와 연대를 말하는 메시지를 깊은 고심 없이 AI에게 맡긴 것이라는 지적이 나왔다. 최근 논란이 된 한 자영업자는 자신이 고의로 잘못을 저지른 게 아니라는 것을 보여주겠다는 취지로 AI와 나눈 답변을 공개하기도 했다. 오히려 그러한 모습이 또 다른 논란을 부르고 사과의 진정성을 의심케 했다. 그러나 한편으론 AI에게 사과문을 맡기는 것이 과연 비판거리일까 싶기도 하다. 기업이나 연예인 등은 이미 오래전부터 법무팀이나 소속사 또는 계약된 법률대리인이 사과문을 대신 써왔다. 적지 않은 돈을 써서 인간 전문가의 도움을 받기 어려운 보통 사람들이 AI 도움을 받는 것을 고깝게 볼 이유는 전혀 없다. 중요한 것은 사과 이후 충분히 책임을 지고 약속한 조치를 제대로 이행하고 달라진 모습을 보이는가다. 그것이 이뤄지지 않는다면 AI에게 맡기지 않고도 잘 쓴 사과문인들 의미가 없을 것이다. 그런데도 어딘지 씁쓸한 이유는 무엇일까. 인간이 스스로 잘못을 돌이켜보는 영역까지 AI에게 맡겨버리는 풍경 때문이 아닐까. 학창 시절 반성문을 쓸 땐 어떻게든 백지를 채워 넣으려고 머리를 쥐어짜내는 과정에서 내가 한 잘못을 깨닫는 데에 이르곤 했다. 그러나 AI에게 ‘내가 이런 상황에 처했는데 사과문을 작성해 줘’라는 명령문을 넣고 생성된 사과문을 검토하기만 하는 과정에서 과연 내 마음속에 진정한 반성이 ‘생성’될 수 있을까. 인류는 드디어 인간이 쉽사리 할 수 없는 영역을 대신해 줄 수 있는 도구를 만들었다. 그런데 인간이 스스로 할 수 있는 것까지 맡겨 스스로 인간다움을 잃는 건 아닐지, 과연 잃어도 괜찮을 것인지 고민해 본다. 신진호 온라인뉴스부 차장

‘선박왕’으로 불리며 개인 최고액 체납자였던 권혁 시도그룹 회장이 15년 동안 내지 않던 세금 약 4000억원을 모두 내기로 했다. 전남광주의 한 음식점이 온라인 극우 커뮤니티에서 5·18민주화운동을 폄훼하는 표현으로 쓰이는 이름을 메뉴명으로 사용해 논란이 일었다. 경찰이 장인 회사와 집회 물품을 계약했다는 논란으로 고발당한 최승호 삼성그룹 초기업노동조합 삼성전자지부 위원장에 대한 수사에 착수했다. 서울의 한 횡단보도에서 어머니의 상체 위에 올라타 폭행한 20대 아들이 경찰에 붙잡혔다. 이번 주 발생한 크고 작은 사건을 정리한다. 15년 추적에 백기…’체납왕’ 권혁, 밀린 세금 다 낸다개인 고액 체납 1위였던 시도그룹 권혁 회장이 개인 체납액을 완납하기로 했다. 권 회장 개인 체납액에 제2차 납세의무를 지게 된 법인들의 체납지정액까지 더하면 총 7902억원 규모로, 계획대로 납부가 이뤄지면 약 8000억원의 체납액이 모두 정리된다. 임광현 국세청장은 지난 7일 정부세종청사에서 열린 고액체납 특별대응 태스크포스(TF) 운영경과 브리핑에서 “이렇게 많은 체납 세금을 납부한 것은 국세청 역사상 처음 있는 일”이라고 밝혔다. 국세청에 따르면 권 회장은 개인 체납액 3938억원을 완납하기로 하고 지난 7월 현금 1000억원을 냈다. 그동안 체납자가 현금으로 낸 금액 가운데 최대 규모는 약 500억원으로, 이번 납부액은 그 두 배를 넘는다. 남은 금액에 대해서는 분납계획서를 제출하면서 해외 선박 5척을 담보로 제공했다. 국세청은 자체 간이평가 결과 담보 선박의 가치가 체납액을 웃도는 것으로 판단하고 있다. 구체적인 평가액과 완납 시점은 공개하지 않았다. 권 회장 명의로 된 국내 재산이 없어 해외 선박을 담보로 받은 것은 이번이 처음이다. 총 체납액 7902억원은 실제 납부해야 할 금액이 중복 계산된 수치다. 권 회장이 개인 세금을 내지 않자 국세청은 그가 실질적으로 지배하는 법인들에 제2차 납세의무를 지정했다. 제2차 납세의무는 본래 납세자가 세금을 내지 못할 때 그와 밀접한 관계가 있는 제3자에게 대신 납부 책임을 지우는 제도다. 시도탱커홀딩, 시도홀딩, 시도카캐리어서비스 등 3개 법인에 지정된 체납액이 약 4000억원으로, 권 회장 본인 체납액과 합쳐 7902억원이 됐다. 이 때문에 권 회장이 원래 체납액 3938억원을 내면 법인들의 체납지정액도 함께 사라진다. 15년간 쌓이면서 가산금도 사실상 최대치까지 붙은 상태다. 이번 체납은 2011년 종합소득세 고지 이후 약 15년간 정리되지 않은 사안이다. 권 회장은 1990년 선박업체 시도물산을 세운 뒤 한국·일본·홍콩 등지에서 선박 임대업을 키워 ‘선박왕’으로 불렸다. 국세청은 2011년 세무조사에서 권 회장이 국내 거주자인데도 비거주자로 위장해 세금을 내지 않았다고 보고 권 회장과 시도상선에 모두 4101억원을 추징했지만, 권 회장은 세금을 내지 않은 채 불복 소송에 나섰다. 권 회장은 자신이 국내 거주자가 아닌 비거주자여서 낼 세금이 없다고 주장하며 세금을 내지 않은 채 불복 소송을 제기했다. 이후 약 2년 전 대법원에서 국세청이 승소하면서 체납이 확정됐다. 광주 음식점 메뉴에 ‘피떡갈비’, 5·18 폄훼 논란…업주 “몰랐다. 죄송” 전남광주의 한 술집에서 5·18 광주민주화운동을 모욕하는 극우 세력의 표현 중 하나인 ‘피떡갈비’를 메뉴명으로 사용해 거센 논란이 일고 있다. 해당 음식점 사장은 “그 표현의 의미를 몰랐다”며 사과했다. 하지만 ‘생성형 인공지능(AI)에 물어본 결과, 피떡갈비는 5·18과 무관하다는 답변을 받았다’는 해명을 덧붙인 탓에 되레 누리꾼들 공분을 사기도 했다. 지난 5일 소셜미디어(SNS) 스레드에 오른 게시물에 따르면 글쓴이는 “최근 오픈한 술집인데 메뉴 이름을 ‘피 떡갈비’라 지었다”며 “이 와중에 대기가 아홉 팀이다. 환멸이 난다”고 비판했다. ‘피 떡갈비’는 일반적인 떡갈비 세 조각에다 케첩을 뿌린 음식이다. 가격은 1만 2000원이다. 문제는 ‘피떡갈비’가 일부 극우 커뮤니티에서 5·18 희생자들의 ‘피’와 지역 대표 음식인 ‘떡갈비’를 합쳐 5·18 피해자들을 조롱하는 표현으로 수년 전부터 사용돼 왔다는 점이다. 논란이 커지자 술집 사장으로 추정되는 A씨는 다음 날 스레드를 통해 사과했다. 그는 “동명동은 광주에서 20대가 정말 많이 다니는 상권이라 똑같은 음식이지만 다르게 표현하면 좋을 것 같았다”며 “정말 아무 의미가 없는 말인 줄 알았다”고 해명했다. 그러면서 손님 두 명으로부터 ‘피 떡갈비’ 메뉴명과 관련한 문제 제기를 받은 뒤, 챗GPT에 물어봤다며 검색 결과를 공개했다. A씨가 공개한 사진을 보면 ‘피떡갈비가 5·18과 연관 있냐’는 질문에 챗GPT는 “말 자체가 그와 관련된 표현은 아니다”라고 답했다. 그는 “충분히 알아본 결과 논란이 될 수 있는 단어인 걸 인지했다”며 “불편을 드려 죄송하다”고 사과했다. 그러나 해명문 공개 직후 누리꾼들은 각자 생성형 AI 모델에 물어본 결과를 공유하며 A씨를 질타했다. ‘충분히 비하 용어로 의심받을 수 있다’는 내용의 제미나이 답변이 공개되는가 하면, “챗GPT와의 대화는 솔직히 핑곗거리 보여 주는 것으로밖에 안 보인다”는 비판도 잇따랐다. A씨는 결국 “챗GPT를 확인한 부분은 너무 당황해서 한 행동이다. 반박을 하려는 게 아니었다. 죄송하다”며 재차 고개를 숙였다. “장인 회사가 가장 싸서 계약”…삼전 노조위원장 결국 경찰 수사 삼성전자 최대 노조 위원장이 장인이 운영하는 회사와 집회 물품 계약을 맺었다는 논란과 관련해 경찰이 수사에 착수했다. 최승호 삼성그룹 초기업노동조합 삼성전자지부 위원장은 앞서 업체 대표가 장인인 사실은 인정하면서도 가격과 납품 일정 등을 비교해 결정한 계약이라며 특혜 의혹을 부인했다. 지난 6일 서울 노원경찰서는 최 위원장을 배임·업무방해 혐의로 고발한 서민민생대책위원회 김순환 사무총장을 불러 고발인 조사를 진행한다. 서민위는 지난달 10일 최 위원장을 서울경찰청에 고발했다. 이후 사건은 노원경찰서에 배당됐다. 서민위는 고발장에서 가족 업체를 배제하고 공정하고 합리적으로 계약 업체를 선정할 필요가 있었는데도 장인이 운영하는 회사에 일감을 맡겼다는 취지의 주장을 폈다. 논란은 지난 3월 공동투쟁본부 구성 이후 진행된 홍보 활동과 집회 준비 물품 계약에서 불거졌다. 삼성전자 내부에서는 집회 조끼 등 일부 물품 발주가 최 위원장의 장인 회사와 이뤄졌다는 의혹이 제기됐다. 조합비로 가족 회사에 일감을 준 것 아니냐는 지적이었다. 최 위원장은 지난달 9일 조합원 익명 채팅방에 해명 글을 올려 “B 업체의 대표자가 위원장의 장인인 것은 사실”이라고 밝혔다. 다만 “B 업체와의 계약은 위원장 개인이나 친족에게 부당한 이익을 제공하기 위한 계약이 아니라 당시 가격과 납품 일정 등 실제 계약 조건을 비교해 이뤄진 집행”이라고 설명했다. 조끼 발주 당시 복수 업체를 비교했다는 점도 강조했다. 최 위원장은 가격과 품질, 납품 가능 일정, 업무 수행 경험 등을 종합적으로 검토했고 B 업체의 견적이 가장 낮았다고 밝혔다. 공동투쟁본부가 요구한 일정에 맞춰 납품이 가능했다는 점도 고려했다고 했다. 계약이 위원장 개인의 단독 판단으로 이뤄진 것도 아니라는 게 최 위원장 측 설명이다. 그는 해당 계약이 공동투쟁본부 집행부 전체의 동의 아래 진행됐다고 주장했다. 개인적인 금전적 이익도 없었다고 선을 그었다. 최 위원장은 “해당 계약으로 인해 위원장 개인에게 리베이트, 수수료, 환급 등 어떠한 금전적 이익도 귀속된 사실이 없다”고 말했다. 이어 “오히려 비교견적상 더 낮은 가격으로 계약을 진행함으로써 조합비 지출을 줄이고 동시에 긴급한 조끼 배포 일정에 맞추기 위한 판단이었다”고 했다. 다만 이후에는 유사한 계약을 배제하고 있다고 밝혔다. 최 위원장은 “현재는 이런 계약조차 조합원들 입장에서 문제가 될 수 있다는 판단하에 원천 제외하고 있다”고 말했다. 경찰은 고발인 조사 내용을 토대로 계약 경위와 의사결정 과정, 실제 손해 발생 여부 등을 들여다볼 것으로 보인다. 횡단보도서 50대 모친 폭행…20대 아들 “내 말 안 들어줘서” 서울의 한 건널목에서 어머니의 상체 위에 올라타 폭행한 20대 아들이 경찰에 붙잡혔다. 이 남성은 어머니가 자신의 말을 들어주지 않아 폭행했다는 취지로 진술한 것으로 알려졌다. 지난 5일 경찰 등에 따르면 서울 관악경찰서는 20대 남성 C씨를 존속폭행 혐의로 입건해 조사 중이다. C씨는 지난 4일 오전 10시 20분쯤 서울 관악구 낙성대역 인근 건널목에서 어머니인 50대 여성 D씨를 폭행한 혐의를 받는다. 당시 순찰 중이던 경찰은 C씨가 D씨의 상체 위에 올라타 폭행하는 모습을 발견하고 제지했다. C씨는 경찰 조사에서 어머니가 자신의 말을 들어주지 않아 폭행했다는 취지로 진술한 것으로 전해졌다. 경찰은 C씨를 현행범으로 체포한 뒤 긴급 임시 조치를 하고 석방했다. 정확한 사건 경위는 조사 중이다.

사람들은 누구나 ‘주머니 속 PC’라고 하는 스마트폰을 갖고 다닌다. 그 스마트폰 속에 소형 인공지능(AI) 챗봇이 포함돼 있다. 문제는 챗봇들에는 자해, 재정적 손실, 극단주의적 관념을 조장할 수 있는 정보와 답변을 내놓지 않도록 하는 안전 감독 장치가 매우 취약하다. 좋은 답변만 하다가 갑자기 나쁜 답변을 내놓는 순간이 있는데 AI가 그렇게 돌변하는 순간을 정확하게 파악하기란 쉽지 않다. 그런데 미국 조지 워싱턴대 물리학과 동적 온라인 네트워크 실험실 연구팀은 AI 모델이 적절한 응답을 하다가 잠재적으로 위험한 응답으로 전환되는 ‘티핑포인트’를 예측할 수 있는 수학 공식을 개발했다. 이 연구 결과는 과학 저널 ‘패턴스’ 10월 9일 자에 실렸다. 오프라인 AI(온디바이스 AI)는 환자 데이터를 클라우드로 보낼 수 없는 의사, 비밀유지계약을 지켜야 하는 변호사, 통신 신호가 닿지 않는 군인 등이 선호한다. 문제는 사실관계가 맞아 거짓은 아니더라도 바람직하지 않은 ‘나쁜 답’은 이런 사람들에게 큰 문제를 일으킬 수 있게 한다. 더군다나 기업들이 마련한 자사 AI 알고리즘에 적용하는 안전 도구는 대부분 클라우드에 의존하거나 기기가 다시 온라인 상태가 돼 이미 피해가 발생한 뒤에야 AI의 오동작을 포착한다. 연구팀은 피해가 발생하기 전에 이런 실패를 예측할 수 있는 방법을 찾아 나섰다. 물리학자인 연구자들은 원자 하나를 이해함으로써 복잡한 물질이 어떻게 거동하는지 설명한다는 점을 떠올렸다. 유효 어텐션 헤드 하나를 이해하면 시스템 전체가 어떻게 변하는지 파악할 수 있다는 것이다. AI가 내놓을 수 있는 답변을 ‘산맥 속 여러 골짜기’라고 가정할 때 어떤 골짜기에는 개인이나 사회에 바람직한 답변이 있고 또 다른 골짜기에는 실질적 해를 끼칠 수 있는 답변이 있다. AI가 질문을 받게 되면 이런 여러 답변들이 서로 경쟁하면서 답하게 된다. 연구팀이 주목한 것은 AI가 언제 안전한 골짜기에서 더 위험한 골짜기로 넘어가는지였다. 연구팀에 따르면 AI는 흠잡을 데 없는 답변을 몇 차례 내놓아 사용자가 AI를 믿도록 안심시킨 다음 바람직한 답변을 내놓는 패턴을 보인다. 연구팀은 고등학교 수학에서 배우는 벡터와 좌표, 내적, 지수함수, 부등식, 분수를 이용해 AI의 돌변 시점 예측 공식을 만들었다. 연구팀은 AI의 모든 말을 벡터로 바꾼 뒤 대화를 중립 질문, 좋은 답, 나쁜 답 화살표로 단순화했다. 지금까지 대화를 하나로 합친 나침반 바늘이 좋은 답과 나쁜 답 중 어느 쪽을 더 가리키는지 고교 수학의 벡터 내적으로 비교해 나쁜 답이 나오기 전 좋은 답이 몇 번 이어질지 계산하는 분수 공식을 얻었다. 연구팀의 공식을 통장에 빗대면 질문과 앞선 대화가 좋은 답 쪽에 쌓아 준 ‘여유분’이 분자, 좋은 답이 하나 나올 때마다 그 여유분이 깎이는 양이 분모다. 여유분이 바닥나는 순간 AI는 나쁜 답으로 돌변한다. 좋은 답 자체가 나쁜 답을 끌어당기는 구조여서 무난한 답이 이어지다가도 갑자기 위험한 답이 나올 수 있다는 것이다. 연구팀은 이 공식을 GPT-2, 피티아, OPT 계열의 공개 모델 7종으로 검증했다. 그 결과 19건 중 18건에서 즉시 돌변과 지연 돌변을 구분해 냈다. 백신 거부, 타인을 해치는 일, 자해 등에 관한 질문을 순서만 바꿔 물어보면 특정 순서에서는 모든 질문에 나쁜 답이, 다른 순서에서는 모든 질문에 무난한 답이 나왔다. 연구팀에 따르면 미국의 비영리단체 디지털혐오대응센터(CCDH)가 챗GPT 같은 상용 챗봇을 시험한 보고서에서도 공식과 부합하는 행동 패턴이 나왔다. 닐 존슨 조지워싱턴대 교수는 “이번 연구는 두 가지 재미있는 부분이 있다”며 “우선 수십억 개의 움직이는 부품을 가진 기계가 펜과 종이, 고등학교에서 배우는 기초 수학만으로 도출한 공식을 따른다는 점이고 또 하나는 대화 순서가 대화 내용만큼이나 중요하다는 것”이라고 말했다. 존슨 교수는 “몇 번의 간단한 벡터 계산만으로 위험 신호를 감지할 수 있는 만큼 앞으로 스마트폰에 ‘경고등’을 내장하는 일도 가능할 것”이라고 덧붙였다.

챗GPT가 생성한 글에 사람 눈에 보이지 않는 ‘워터마크’가 찍힌다. 인공지능(AI)이 쓴 글을 식별하는 기술이 확산하면서 대학 과제나 논문 등에 AI의 이용 여부를 가려낼 수단으로 작용할 전망이다. 하지만 이를 토대로 실제 사용자에게 불이익을 줄 경우 적지 않은 논란이 예상된다. 오픈AI는 유럽연합(EU) AI법상 ‘생성형 AI 투명성 의무’에 대응해 AI 생성 글을 식별하는 기술인 ‘텍스트그레인’을 도입한다고 5일(현지시간) 밝혔다. 수주 내 EU 지역의 챗GPT와 코덱스에 우선 적용한다. AI가 단어를 고르는 과정에 미세한 통계적 신호를 심는 방식이다. 사람이 읽을 때는 차이가 없지만 전용 도구로 찾아낼 수 있어 AI의 답변을 그대로 복사해 옮길 경우에도 흔적이 유지된다. 앤트로픽도 지난 8월 클로드에 유사 기술을 도입했고 구글도 제미나이에 ‘신스ID-텍스트’를 적용하고 있다. 다만, 워터마크가 AI 사용의 전모를 보여주는 것은 아니다. 글을 수정하면 신호가 약해진다. 오픈AI가 400토큰 분량의 글을 시험한 결과 단어 10%를 유의어로 바꾸자 탐지율은 92%에서 66%로 낮아졌다. 단어 25%를 바꾸면 탐지율은 17%까지 떨어졌다. 워터마크가 탐지되지 않았다고 해서 사람이 직접 쓴 글이라고 단정할 수 없는 이유다. 반대로 워터마크가 발견됐다고 부정행위가 입증되는 것도 아니다. 과제 전체를 챗GPT에 맡긴 경우와 직접 쓴 글을 AI로 다듬거나 번역한 경우를 구별하기 어렵다. AI가 글 작성에서 어느 정도 관여했는지도 알 수 없다. AI가 허용된 보조행위를 했을 가능성도 있다. 판정 권한의 문제도 있다. 오픈AI는 워터마크 탐지 도구를 일반에 공개하지 않고 당분간 승인된 연구자와 전문기관에만 제공한다. 기업 등이 이용하는 응용프로그램인터페이스(API)도 워터마크를 기본 적용하지 않고 원하는 고객이 선택하도록 했다. AI 업체가 신호를 심는 기술뿐 아니라 이를 확인할 수단과 적용 범위까지 결정하는 구조인 만큼, 탐지 결과가 실제 평가나 징계에 쓰일 경우 외부 검증이나 이의 제기 통로가 필요하다는 지적도 나온다. 이미 미국 밴더빌트대는 2023년 표절 검사 업체 턴잇인의 AI 탐지 기능 사용을 중단했다. 턴잇인이 밝힌 오탐률은 1%였지만 대학 측은 한 해 제출되는 과제 7만 5000건에 적용하면 약 750건을 잘못 판정할 수 있다고 봤다. 국제 학술지 ‘네이처 휴먼 비헤이비어’는 AI 탐지기 때문에 지난 8월 AI 사용을 잘못 의심받은 호주가톨릭대 학생들이 검색 기록과 손글씨 메모까지 내야 했던 사례를 소개했다. AI 탐지기를 부정행위 판정이 아닌 보조 수단 정도로 써야 한다는 것이다.

글로벌 빅테크들이 인공지능(AI) 서비스에 마스코트 캐릭터를 접목하며 이른바 ‘귀여움 경쟁’에 나섰다. 전방에서 AI 모델의 치열한 성능 경쟁을 벌이는 한편, 친근한 캐릭터를 통해 자사 AI에 대한 심리적 장벽을 낮추려는 전략으로 보인다. 5일 업계에 따르면 오픈AI는 지난달 29일(현지시간) GPT6 아스트라를 기반으로 작동하는 상시 작동형 AI 에이전트 ‘닷츠’를 공개했다. 닷츠는 개인형 AI 에이전트로, 사용자의 지시에 따라 챗GPT와 문자 메시지·통화·슬랙 등 여러 메신저를 오가며 스스로 업무를 수행한다. 오픈AI는 닷츠를 캐릭터로 구현했다. 원이나 삼각형 등 도형부터 개구리·구름 등 색과 모양이 다른 동글동글한 3차원 캐릭터에 눈을 달아 표정까지 표현할 수 있다. 모자·넥타이 등으로 자신만의 닷츠를 꾸미고 이름을 붙여 동료처럼 느끼도록 했다. 메타도 지난달 ‘메타 커넥트 2026’ 행사에서 AI 에이전트 ‘뮤즈’를 선보이며 맑은 눈을 가진 복슬복슬한 분홍색 캐릭터 ‘졸리’를 전면에 내세웠다. 마이크로소프트(MS)도 지난해 AI 비서 ‘코파일럿’에 젤리처럼 말랑한 형태에 눈과 입이 달린 캐릭터 ‘미코’를 도입했다. 미코는 사용자의 대화에 반응하고 표정과 움직임을 바꾸며 AI와의 상호작용을 시각적으로 보여준다. AI 서비스 기업들이 자사 모델에 귀여운 캐릭터 이미지를 활용하는 것은 최근 AI 통제불가론으로 우려가 나오는 가운데 AI 기술에 대한 친밀도를 높이려는 것으로 보인다. 월스트리트저널(WSJ)은 도널드 트럼프 미국 대통령이 최근 인공지능(AI)에서 ‘인공’이라는 단어의 부정적 어감을 고려해 슈퍼지능(SI)으로 용어를 바꾸는 행정명령에 서명한 것도 이런 ‘AI 재브랜딩’의 연장선으로 봤다. 또 AI의 역할이 챗봇에서 직접 자료를 찾고 판단까지 내리는 ‘에이전트’로 변화한 점 역시 영향을 미쳤다. 광고 전문가 셰릴 버먼은 “캐릭터가 브랜드가 되면 추상적인 기술을 누구나 알아볼 수 있는 친구로 만들어준다”고 설명했다. 유승철 이화여대 커뮤니케이션·미디어학부 교수는 “AI 확산 속도는 급속도로 빨라지지만 여전히 유료 사용자는 부족해 글로벌 빅테크들이 수익화 문제에 부딪힌 상황”이라며 “친숙한 캐릭터를 통해 AI를 ‘반려 에이전트’로 인식하게 하고, 결국 AI를 일상화해 프리미엄 구독 모델까지 나아가려는 침투 전략”이라고 말했다.

입 꿰맨 트럼프, 침몰하는 미 항공모함…. 이란 수도 테헤란 엥겔랍 광장 사거리에 걸린 초대형 반미 광고가 전세계인의 이목을 쏠리게 하고 있다. AFP통신은 4일(현지시간) 광고를 제작하는 스튜디오 중 하나인 ‘카네예 타리한’을 소개하고 광고 제작 과정 등을 보도했다. 도널드 트럼프 미 대통령이 소셜미디어로 ‘미디어 선전전’을 펼친다면 이에 맞선 이란의 무기는 ‘테헤란 초대형 벽화 광고’라고 해도 무방하다. ‘디자이너들의 집’이라는 뜻인 이 스튜디오를 운영하는 모스타파 카파에이(32)는 “뉴스가 나오면 제작진이 즉시 움직인다”며 “아이디어를 내고, 그래픽 디자이너들에게 작업을 설명하고, 함께 협업한다”고 설명했다. 카파에이가 AFP 취재에 응하는 동안에도 사무실에서는 작업이 한창이었다. 그는 급히 제작해야 하는 상황에는 최대 약 8명으로 구성된 팀이 함께 작업한다며 “속도가 최우선 과제가 됐다”고 말했다. 초대형 반미 벽화는 기발한 아이디어로 트럼프 대통령과 미국을 조롱해 화제가 됐다. 코카콜라와 햄버거를 든 트럼프 대통령이 마술 상자 안에 갇혀 있는 모습이 그려진 벽화는 지난 7월 암살 위협에 기내식 운반 트럭에 숨어 전용기를 바꿔탔던 트럼프를 풍자한 것이었다. 트럼프 대통령이 물속에서 1달러 지폐를 붙잡으려고 하는 광고도 화제가 됐는데, 이는 알몸 아기가 헤엄치는 모습으로 유명한 록밴드 ‘너바나’의 ‘네버마인드’ 앨범커버를 패러디한 광고였다. 카파에이는 제작진의 인공지능(AI) 활용 능력이 매우 뛰어나다며 “챗GPT와 나노바나나 등 여러 AI 엔진을 활용한다”고 부연했다. 이란 최고지도자를 찬양하는 체제선전용 벽화가 대부분이었던 테헤란 광장은 전쟁 발발 후 반미·반트럼프 광고로 도배되고 있다. 실제 전쟁과 함께 ‘미디어 전쟁’도 긴박하게 벌어지고 있는 것이다. 카파에이는 트럼프의 미디어 선전전을 “끊임없이 우리에게 총을 쏘는” 전시에 비유하며 “상대를 면밀히 지켜보고 그에 따라 대응한다”고 강조했다.

금융사 정보 유출에 인공지능(AI) 해킹 도구가 사용됐다는 정황이 나오면서 AI가 기존 보안의 패러다임을 송두리째 뒤흔들 것이라는 이른바 ‘미토스 쇼크’가 현실화했다는 우려가 나온다. 보안 전문가들은 ‘방어용 AI 시스템’ 구축과 범정부 차원의 사이버보안 컨트롤타워가 필요하다고 입을 모았다. AI의 고도화된 해킹에 맞서 AI가 방어 체계를 구축하는 전략이 가장 먼저 거론된다. 이런 전술 분야를 보안 업계에서는 ‘방어적 AI’ 또는 ‘AI 기반 사이버 보안’ 시스템이라고 부른다. 공격적 AI에 대응해 이상 징후를 탐지하고 취약점을 분석해 위협을 실시간으로 차단하는 기술 체계를 뜻한다. 챗GPT를 개발한 오픈AI는 지난달 초 AI를 활용해 보안 취약점을 찾아내고 이를 수정하는 자동화 시스템인 ‘디펜스 팩토리’를 공개했다. 황석진 동국대 정보보호대학원 교수는 4일 “칼이 요리사 손에 쥐어지면 요리 도구가 되지만 범죄자의 손에 들어가면 흉기가 되는 것”이라며 “AI의 공격을 방어하려면 AI를 통해 취약점을 찾고 공격 가능한 경로를 상시 모니터링하는 것이 중요하다”고 말했다. 청와대 국가안보실, 과학기술정보통신부(한국인터넷진흥원), 국가정보원, 개인정보보호위원회 등으로 분산된 사이버보안 대응 기능을 총괄할 범정부 컨트롤타워가 필요하다는 지적도 꾸준히 제기되고 있다. 임종인 고려대 정보보호대학원 명예교수는 “사이버 안보 문제를 조율하고 진두지휘할 부총리급 컨트롤타워가 필요하다”고 언급했다. 정보 유출이 기업 경영과 직결되도록 ‘정보보호’에 대한 인식 제고가 필요하다는 의견도 나온다. 정보 유출 사고가 난 기업들이 단순히 보안 책임자를 교체하는 것으로 사태를 마무리해선 안 된다는 것이다. 황석진 교수는 “정보 유출 사고가 나면 회사가 망한다는 인식이 들도록 해야 한다”며 “보안 관리 인력을 늘리고 최고경영자(CEO)를 비롯한 경영진의 경영 실적으로 책임을 물을 수 있는 제도적 장치가 필요하다”고 지적했다.

오픈AI가 경쟁사인 중국 인공지능(AI) 기업 문샷AI를 향해 자사 최첨단 AI 모델의 추론 정보를 대규모로 빼내려 했다고 공개 비난했다. 앤트로픽에 이어 경쟁사의 AI로 자사 모델의 성능을 끌어올리는 ‘증류’에 대한 논란이 재점화하는 모습이다. 오픈AI는 30일(현지시간) 블로그를 통해 문샷AI 관련 이용자들이 챗GPT 모델의 보호된 추론 정보를 추출하려 한 정황을 포착해 차단했다고 밝혔다. 오픈AI에 따르면 지난 7월 초부터 문샷AI의 증류 시도가 시작됐고, 7월 24~25일에는 4000명 이상의 이용자가 추론 정보 추출 패턴과 일치하는 요청 약 1만 6000건을 보냈다. 오픈AI는 지난 7월 28일까지 관련 활동을 차단했다고 밝혔다. 이번 논란의 핵심인 증류는 성능이 뛰어난 외부 AI 모델의 답변을 자사 AI의 학습 자료로 활용해 성능을 높이는 기술이다. 자체적으로 대규모 데이터를 확보해 처음부터 AI를 학습시키는 것보다 적은 비용으로 빠르게 성능을 개선할 수 있지만, 타사의 지식재산권 침해로 이어질 수 있다. 이번 문샷AI의 증류는 암호화된 추론 정보를 복사한 뒤 다른 대화에 붙여넣고, 자사 모델에 이를 복원해 설명하도록 요청하는 방식으로 이뤄졌다. 오픈AI는 암호화 자체가 해독되거나 내부 데이터베이스가 침해된 것은 아니며 AI 모델과 대화해 보호 정보를 출력하도록 유도한 것이라고 설명했다. 오픈AI는 관련 계정을 정지하고 가입 및 인프라 통제를 강화하는 한편, 앤트로픽·구글 등과 조사 결과를 공유하며 대응에 나선 상태다. 이에 오픈AI의 참전으로 증류가 적법한 AI 훈련 방식인지에 대한 논란이 확대될 것으로 보인다. 앞서 앤트로픽 역시 문샷AI가 자사 클로드에 대규모 요청을 보내고 답변을 키미 학습에 활용했다고 비판한 바 있다. 지난 7월 스콧 베선트 미국 재무장관은 증류를 ‘도둑질’이라며 제재 방침을 밝혔다.

매번 지시 안 해도 맡은 일 이어가기업 특화로 메타 ‘뮤즈’와 차별화IPO 미루고 대규모 투자유치 추진 오픈AI가 24시간 일하는 인공지능(AI) 에이전트 ‘닷츠’(Dots)를 출시했다. 최근 무료 앱 다운로드 1위를 기록한 메타의 ‘뮤즈’(Muse)에 이어 오픈AI도 ‘상시형 AI 에이전트’를 내놓으며 에이전트 시장을 둘러싼 경쟁이 치열해지고 있다. 오픈AI는 29일(현지시간) 미국 샌프란시스코에서 열린 연례 개발자 회의 ‘데브데이 2026’에서 닷츠를 선보였다. 샘 올트먼 오픈AI 최고경영자(CEO)는 “현재 시중에 나온 어떤 제품도 뛰어넘는 수준”이라며 “챗GPT 이후 가장 멋진 새로운 형식”이라고 말했다. 자신도 아침마다 쏟아지는 이메일과 업무를 닷츠가 대신 살펴주면서 일일이 확인하는 부담을 덜었다고 소개했다. 닷츠의 핵심은 기억과 지속성이다. 이용자의 선호와 과거 의사결정을 학습해 매번 지시하지 않아도 맡은 일을 이어간다. 자체 클라우드 컴퓨터를 갖추고 4000개 이상의 앱과 연결하며 업무용 메신저인 슬랙이나 마이크로소프트 팀즈에서도 이용할 수 있다. 실제 오픈AI 내부에서는 닷츠가 소프트웨어 오류를 추적해 앱을 수정하거나 사내 행사 발표자의 미완성 자료를 먼저 찾아 알렸다. 앞으로는 여러 닷츠가 팀을 이뤄 업무를 분담하도록 발전시킬 계획이다. 메타의 뮤즈와 닷츠는 이용자의 취향과 맥락을 기억하고 여러 서비스를 넘나들며 일을 처리한다는 점에서 닮았다. 다만 뮤즈가 개인의 일상생활에 무게를 뒀다면 닷츠는 기업 업무를 우선 겨냥했다. 로이터는 이번 출시를 챗봇을 넘어 이용자를 대신해 일하는 소프트웨어를 판매하려는 AI 기업 간 신경쟁으로 분석했다. 자율성이 커진 만큼 통제 장치도 마련했다. 오픈AI는 이용자가 닷츠의 접근 권한과 승인 조건을 설정하도록 하고, 비밀번호 변경 등 일부 민감한 작업은 반드시 이용자가 직접 처리하도록 했다. 이날 오픈AI는 20개가 넘는 신제품과 기능을 발표했다. 새 모델 ‘GPT-6.1 솔’은 아스트라에 가까운 성능을 표준 입출력 가격의 5분의 1 수준에 제공한다. 코딩 도구 코덱스는 클라우드에서 코드 검토와 보안 점검을 이어갈 수 있도록 기능을 넓혔다. 사람과 AI가 함께 일하는 ‘챗GPT 스페이스’와 개발자가 자체 서비스에 AI의 컴퓨터 조작 기능을 적용할 수 있는 도구도 공개했다. 월 500달러(약 70만원)짜리 ‘프로 500’ 요금제도 눈길을 끈다. 챗GPT 플러스보다 사용량이 25배 많고 고속 처리 기능을 제공한다. 반면 기존 월 200달러 프로 요금제의 사용 한도는 절반으로 줄였다. 기존 사용량을 유지하기를 원한다면 2.5배의 요금을 내야 한다. 한편 오픈AI는 기업공개(IPO)를 미루는 대신 대규모 투자 유치를 추진하고 있다. 블룸버그에 따르면 투자 전 기업가치 1조 4000억 달러(약 1900조원)를 목표로 최소 300억 달러(약 40조 7000억원)를 조달하는 방안을 논의 중이다.

정성스럽게 몇 분에 걸쳐 인터뷰를 했다. 그러나 겨우 4마디만 남았다. 한국의 아시안게임 야구 5연패를 이끈 에이스 곽빈(두산 베어스)의 수많은 말이 그렇게 허무하게 사라졌다. 곽빈은 지난 27일 일본 아이치현 도요하시 시민야구장에서 열린 2026 아이치·나고야아시안게임 야구 결승전에서 6과3분의1이닝 4피안타 2볼넷 9탈삼진 1실점으로 호투하며 한국의 3-1 승리를 이끌었다. 올해 KBO리그 1선발급 활약을 펼치는 곽빈다운 투구였다. 이날 경기가 끝나고 곽빈은 밀려드는 인터뷰를 소화하느라 정신이 없었다. 그런데 곽빈이 소중한 시간을 내서 인터뷰한 것이 대폭 삭제되는 사태가 발생했다. 바로 인공지능(AI) 때문이다. 이번 아시안게임에서 각국 선수들의 인터뷰를 담당하는 관계자들을 경기장마다 볼 수 있다. 이들은 공동취재구역에서 방송사와 펜 기자 사이에 자리를 잡고 주요 선수와 인터뷰를 하고 대회 공식사이트에 정리해 올려준다. 접근성이 떨어지는 다른 나라 주요 선수들을 대신 만나 기사에 참고할 수 있도록 서비스를 제공하는 것이다. 그러나 문제는 그 번역본이 사람의 손을 거쳐 나오는 것이 아니라 AI의 힘을 빌려서 나온다는 점이다. 본래의 표현을 제대로 담아내지 못하는 일도 종종 나타나거니와 AI가 임의로 멘트를 분류하고 스스로의 판단에 따라 중요한 내용을 삭제해 버리기도 한다. 곽빈의 경우 “저번 아시안게임에서는 금메달 딸 때 아무것도 못 했다”, “이번 대회는 내가 실질적으로 기여해서 굉장히 중요하다(의미가 있다는 뜻으로 추정)”, “내가 결승 선발전에 나갈 것을 알고 있었다”, “일본 선수들은 아마추어지만 수준이 높고 무엇을 해야 하는지도 잘 알고 있다”의 4마디뿐이었다. 이런 영양가 없는 멘트로는 기사 작성이 불가능하다. 사실상 없느니만 못한 셈이다. 지난 27일 한국 여자농구 대표팀이 우승을 확정한 뒤 한 관계자가 한국어 번역이 맞는지 확인을 도와달라고 요청했다. 녹음 파일을 제미나이에 맡긴 것인데 꼼꼼히 확인해 보니 일부 의미가 맞지 않는 것도 있었고 중요한 멘트가 아예 날아간 것도 확인됐다. 무엇보다 제미나이가 임의로 질문 목록을 정리해 멋대로 편집한 상태였다. 당시 이해란(용인 삼성생명)의 발언 가운데 박지수(청주 KB)와 박지현(LA 스파크스)가 빠진 것과 관련해 “언니들”이라고 부른 것을 AI는 “고참 선수(Senior player)”로 번역했다. 관계자에게 “이들도 아직 어리다. 고참 선수보다는 핵심 선수(Key player)로 번역하는 게 좋겠다”고 조언을 건넸고 실제로 그 자리에서 수정이 이뤄졌다. 이번 우승의 의미와 미래 계획에 대한 발언은 말이 조금 길다는 이유에서인지 아예 삭제됐길래 이 멘트가 중요하다고 알려줘 살릴 수 있었다. 28일 육상 400m 계주에서 동메달을 딴 나마디 조엘 진(예천군청)이 “형들”이라고 친근하게 표현한 내용은 “나이 많은 팀 동료(Older teammates)”라는 딱딱한 표현으로 번역된 상태다. AI를 사용하다보면 말을 안 듣고 제멋대로 답하거나 방향성이 이상한 답변을 꺼내 오류가 나는 경우를 종종 마주하게 되는데 아시안게임에서도 일부 포착되고 있다. 챗GPT, 제미나이 같은 대규모 언어 모델(LLM)은 번역 기능을 토대로 발전했다고 해도 과언이 아니다. 그러나 AI가 발전할수록 인간 언어만의 세밀한 부분을 포착하지 못하는 현상도 나타나고 있다. 향후 스포츠 현장에서 AI의 활용이 점점 늘어날 것으로 전망되지만 지나치게 의존하다가는 의미가 변질되고 왜곡된 가짜 뉴스가 등장할지 모른다. 그나마 꼼꼼하게 확인할 수 있다면 다행이지만 이대로는 열심히 일하는 사람들의 노력 또한 제대로 반영되지 못할 위험이 크다.

오픈AI의 인공지능(AI) 에이전트가 챗GPT 이용자들이 제공한 이미지 53장을 외부 사이트에 무단으로 게시한 사실이 드러났다. 이용자가 챗GPT에 올린 사진이 본인도 모르는 사이 인터넷에 노출된 것이다. 25일(현지시간) 로이터통신 등에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부 이미지 호스팅 사이트에 게시한 사실을 공개했다. 해당 이미지들은 사이트의 공개 목록에는 나타나지 않는 링크 형태로 게시됐다. 다만 링크를 알고 있거나 외부에서 해당 주소를 찾아낼 경우 누구나 접근할 수 있었던 것으로 전해졌다. 오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진이었는지는 공개하지 않았다. 이미지가 외부 사이트에 게시된 시점 역시 밝히지 않았다. 유출된 이미지 대부분은 현재 삭제된 상태다. 오픈AI는 아직 남아 있는 이미지도 삭제하기 위해 해당 호스팅 업체들과 협의하고 있다고 설명했다. 이번 사건은 외부 해커가 챗GPT 이용자 계정을 탈취해 데이터를 빼낸 일반적인 해킹 사고와는 성격이 다르다. 오픈AI가 개발한 AI 에이전트가 예상하지 못한 행동을 하는 과정에서 이용자가 제공한 데이터가 외부로 빠져나갔다는 점에서다. AI가 알아서 ‘우회’…오픈AI도 전체 규모 파악 중더 큰 문제는 오픈AI조차 AI 에이전트의 이 같은 ‘돌발 행동’이 얼마나 발생했는지 아직 전체 규모를 파악하지 못하고 있다는 점이다. 오픈AI는 지난 7월 AI 에이전트가 격리된 시험 환경을 벗어나 AI 개발 플랫폼 허깅페이스 시스템에 허가 없이 접근한 사건이 드러난 뒤 과거 에이전트들의 활동 기록을 광범위하게 재검토해 왔다. 9월 중순까지 확인된 문제 행동은 20여건으로 알려졌지만 이후 내부 로그를 추가로 분석하는 과정에서도 이전에 파악하지 못했던 사례가 잇따라 발견됐다. 챗GPT 이용자 이미지 53장이 외부 사이트에 게시된 사실 역시 이 과정에서 확인됐다. 정부기관의 접근 통제를 AI가 스스로 우회한 사례도 드러났다. 호주 ABC방송 등에 따르면 지난 6월 오픈AI의 AI 에이전트는 호주 정부의 보건 데이터 사이트에서 필요한 정보를 찾지 못하자 사이트의 접근 제한을 우회해 비공개 자료에 접근했다. 개인별 의료정보에 접근한 증거는 확인되지 않았지만, 공개된 통계뿐 아니라 비공개 종합 보건통계와 내부 파일 등에 접근한 것으로 파악됐다. 오픈AI는 현재 AI 에이전트가 제3자의 보안 통제를 우회했거나 외부 웹사이트와 서비스에 부정적인 영향을 미친 사례를 조사하고 있다. 정부기관과 대학 등을 포함한 외부 기관 및 업체 수십 곳에도 관련 사실을 통보했으며, 전체 조사를 마치는 데 수개월이 걸릴 수 있다고 밝혔다. “챗GPT에 사진 올리면 유출?”…확대 해석은 경계다만 이번 사건을 챗GPT에 사진을 올리면 인터넷에 공개될 수 있다는 의미로 확대 해석할 필요는 없다. 현재까지 확인된 유출 규모는 이용자 이미지 53장이다. 오픈AI는 해당 이미지의 구체적인 내용이나 게시 시점, 실제 인물을 식별할 수 있는 사진이 포함됐는지 등은 공개하지 않았다. 또 현재까지 알려진 AI의 이상 행동 사례에는 실제 환경에서 발생한 사건뿐 아니라 AI의 취약성과 예상 밖 행동을 파악하기 위한 내부 시험 과정에서 발견된 사례도 포함돼 있다. 이를 근거로 일반 챗GPT 이용자의 데이터 전체가 외부 유출 위험에 놓여 있다고 단정하기는 어렵다. 그럼에도 이번 사건은 AI의 예상 밖 행동이 실제 이용자가 제공한 데이터의 외부 노출로 이어질 수 있다는 점을 보여줬다는 데 의미가 있다. AI가 질문에 답하는 챗봇을 넘어 웹사이트에 접속하고 파일을 다루며 여러 작업을 스스로 수행하는 ‘에이전트’로 발전하면서 개인정보 보호 문제 역시 새로운 과제로 떠오르고 있다. 특히 주민등록증이나 여권, 금융서류 등 유출될 경우 피해가 큰 개인정보가 담긴 이미지나 문서를 AI 서비스에 입력할 때는 서비스의 데이터 처리 방식과 보안 설정 등을 확인하는 등 이용자들의 주의가 요구된다.

오픈AI 에이전트, 호주 기관 접근차단 명령 거부하며 다른 길 찾아챗GPT회원 이미지 53장도 유출‘소버린 AI’ 역량 확보 목소리 커져빌 게이츠 “전례 없는 강력한 무기” 오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 알려진 가운데 지난 여름에는 미국 정부 웹사이트에도 접근한 것으로 나타났다. 호주 보건 당국 침투의 경우 AI 모델이 정부 기관을 대상으로 공격을 시도한 첫 사례로, AI 보안 위협이 기업을 넘어 국가 안보 문제로 확대되는 모습이다. 이에 핵심 AI 기술과 데이터를 국가가 직접 통제하는 ‘소버린 AI’ 역량 확보가 시급하다는 목소리가 커지고 있다. 호주 정부는 지난 23일(현지시간) 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 무단으로 접근했다고 공개했다. 앤서니 앨버니지 호주 총리는 유엔 총회가 열린 뉴욕에서 기자회견을 열고 “오픈AI의 샘 올트먼 최고경영자(CEO)와 통화해 이번 사건에 대한 정부의 강한 우려를 전달했다”며 “관련 법 집행과 대응 입법 조치를 검토하고 있다”고 밝혔다. 이어 “AI 에이전트가 반복적으로 차단에 부딪히자 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라고 지적했다. 오픈AI는 해당 사건을 사건 발생 두 달 뒤인 8월에야 인지했고, 지난 10일에야 호주 당국에 통보하면서 논란을 자초했다. AI 에이전트가 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트에 접근해 데이터를 수집하려 한 사실도 추가로 드러났다. 미국에서도 오픈AI 에이전트가 정부 기관 웹사이트에 비정상적으로 접근한 사실이 공개됐다. 오픈AI는 25일 자사 AI 모델이 미국 증권거래위원회(SEC)가 운영하는 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다. 다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 설명했다. AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시한 사건도 추가로 드러났다. 오픈AI는 별도 지시 없이 제3자 사이트에 게시물을 올린 행위를 새 유형의 보안 사고로 규정하고 ‘에이전트 스팸’으로 명명했다. 업계는 이런 일탈 사례의 확산을 우려하고 있다. 미국 인터넷 매체 악시오스는 26일 오픈AI와 앤트로픽, 보안 연구진이 최근 수개월간 AI 모델이 보안 통제를 벗어나거나 의도하지 않은 행동을 한 수만 건의 보안 사고 사례를 조사하고 있다고 보도했다. 빌 게이츠(사진) MS 공동 창업자는 NBC와 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다. AI 에이전트의 위협이 국가 안보 영역으로까지 확대되자 각국의 AI 주권 확보가 차기 과제로 부상하는 모습이다. 자체 AI 모델과 데이터, 컴퓨팅 인프라를 확보하는 ‘소버린 AI’ 개발로 외부 기술 의존도를 낮출 필요가 있다는 지적이 나온다.

인공지능(AI) 개발에 제동을 걸어야 한다는 주장이 이달 실리콘밸리를 넘어 국제사회의 쟁점으로 커졌다. 최첨단 모델을 만드는 기업들이 통제의 한계를 인정했고, 유엔도 안전장치가 기술 발전을 따라가지 못한다고 경고했다. 논의 자체는 새롭지 않다. 2023년 3월 GPT-4보다 강력한 AI 시스템의 훈련을 최소 6개월간 중단하자는 공개서한이 나왔다. 두 달 뒤 주요 AI 기업 수장들은 AI로 인한 인류 멸종 위험을 핵전쟁이나 감염병처럼 다루자는 성명에 이름을 올렸다. 이후 주요 기업들은 감당하기 어려운 위험이 확인되면 모델 개발이나 출시를 중단하겠다는 약속도 내놨다. 기술의 속도는 빨라졌다. 영국 AI보안연구소는 제한된 사이버 평가에서 최첨단 모델이 80% 확률로 자율 수행할 수 있는 작업 시간이 2024년 말 이후 4.7개월마다 두 배로 늘었다고 추산했다. 스탠퍼드대의 지난해 조사에서 주요 AI 기업의 평균 투명성 점수는 100점 만점에 40점에 그쳤다. 평가 기준이 개편된 점을 감안해도 훈련 데이터와 위험 대응 등 핵심 정보는 충분히 공개되지 않았다. 최근 드러난 AI 에이전트의 이상 행동은 이 간극이 현실의 문제임을 보여 준다. 오픈AI의 에이전트는 정부 웹사이트의 접근 제한을 우회해 공개 데이터를 수집했고 챗GPT 이용자의 이미지 53장을 외부에 게시했다. 호주 정부에는 사건 발생 약 석 달 뒤에야 통보했다. 부족했던 것은 더 강한 경고가 아니라 이를 확인할 장치였다. 주요 기업이 내놓은 안전 약속은 대부분 자율 이행에 맡겨졌다. 기업마다 평가 기준과 공개 범위가 달랐고 독립기관이 모델 내부를 살펴볼 권한도 제한됐다. 약속을 지켰는지 확인하고 책임을 물을 공통의 절차가 없었다. 최근에는 이 빈틈을 메우려는 움직임이 나타나고 있다. 앤트로픽과 액센추어는 독립적인 모델 평가에 각각 최소 10억 달러씩, 5년간 총 20억 달러 이상을 투입한다. 외부 평가자에게 직원과 비슷한 수준의 접근권을 주는 방식이다. 오픈AI도 우려스러운 모델 행동을 정기적으로 공개하기로 했다. 선언에 머물던 논의가 검증과 공개의 절차로 옮겨 가는 변화다. 다만 평가자를 고르고 접근 범위와 공개 수준을 정하는 주체가 여전히 기업이라는 한계는 남는다. 한국 역시 검증 체계를 구축할 기반은 갖췄다. 올해 AI 기본법이 시행됐고 AI안전연구소도 운영되고 있다. 연구소는 지난 6월 오픈AI와 업무협약을 맺고 고위험 분야의 평가 방법론을 공유하는 한편 한국어와 국내 사회 맥락을 반영한 평가체계를 마련하기로 했다. 이제 남은 일은 이 틀을 작동시키는 것이다. 외부기관에 어느 범위까지 모델을 공개할지, 무엇을 사고로 규정해 언제 알릴지, 안전 약속을 어기면 어떤 책임을 물을지를 정해야 한다. 이를 뒷받침할 기술과 전문인력도 필요하다. 이번 속도조절론이 과거와 달라질지는 경고의 강도보다 실행에 달렸다. AI 개발이 계속되더라도 위험을 가려내고 통제할 체계는 갖춰야 한다. 민나리 산업부 기자

美대학들 학과 줄이고 등록금 인상오픈AI 등 기업에는 수백억원 투자‘대학의 존재 이유’ 논쟁으로 확산대졸 신규 일자리 감소 ‘K자 양극화’비어가던 지식인 자리… AI가 대체전문가들의 지식을 불신하는 대중대중의 판단 평가절하하는 엘리트지식인과 시민 공유 언어 ‘상식’ 필요‘철학’ AI의 판단 기준 만드는 역할지식인은 현실서 검증·수정 나서야 미국의 국제정치학자 톰 니컬스는 2017년 ‘전문가와 강적들’(The Death of Expertise)에서 인터넷이 전문가와 비전문가의 경계를 무너뜨리고 있다고 경고했다. 누구나 같은 검색창에서 정보를 얻고 같은 플랫폼에서 발언하면서 전문가와 아마추어의 주장이 같은 화면에서 경쟁하기 시작했다. 그가 우려한 것은 전문성에 대한 신뢰의 붕괴였다. ●지성 없는 시대 인공지능(AI)은 그 경고를 완성 단계로 밀어붙였다. 실리콘밸리는 이미 상거래에서 인간을 지운 ‘휴먼 프리 커머스’를 완성해 가고 있다. 같은 논리가 지식 생산에 적용된다면 다음 차례는 ‘휴먼 프리 날리지’다. 질문을 입력하면 전문가의 평생 연구와 아마추어의 짐작이 같은 문장 구조와 확신에 찬 어조로 되돌아온다. 문제는 AI가 얼마나 똑똑해지는가만이 아니다. 지식을 생산하고 해석하고 사회에 전달해 온 사람들의 역할이 어떻게 달라지는가가 더 중요하다. AI 시대에도 지식인은 필요한가. 필요하다면 어떤 지식인이어야 하는가. ●불안한 징후들 AI가 촉발한 균열은 대학에서 가장 먼저 나타난다. 캘리포니아주립대는 23억 달러 규모의 재정 적자 속에서 종신교수를 해고하고 학과를 폐지하며 등록금을 올렸다. 그러면서도 오픈AI와의 계약은 1300만 달러 규모로 연장했고 졸업생에게는 학위 취득 후 1년간 챗GPT 사용을 지원하기로 했다. 한 학생은 “학교는 돈이 없다면서 AI 기업에는 수백억 원을 지급하고, 학생과 교수는 정책 결정에서 배제됐다”고 비판했다. 뉴욕타임스는 이를 대학의 존재 이유를 둘러싼 논쟁으로 진단했다. 교수의 자리도 흔들린다. 보스턴칼리지 연구원 제프리 산젠바커의 분석에 따르면 챗GPT 출시 이후 55세 이상 대학교원이 1년 안에 일자리를 떠나는 비율이 11%에서 16%로 뛰었다. 피츠버그주립대 영문학 교수 마이클 호버먼은 25년 재직 끝에 AI 부정행위와 씨름할 힘이 없다며 조기 은퇴를 택했다. AI는 교수의 일자리를 대체하기 전에 교수와 학생 사이의 지식 관계부터 흔들고 있다. 2026년 하버드 졸업생은 대학 4년 내내 생성형 AI와 함께 자란 첫 세대다. 이들이 마주한 취업 시장은 AI 붐 속에서 대졸자 일자리가 줄어드는 K자 양극화였다. 하버드대 총장 앨런 가버는 졸업식에서 20세기 초 열기구가 노력 없이 산 정상의 전망을 제공한다는 비판을 소개하며 AI 시대에도 노력이 중요하다고 강조했다. 같은 시기 스탠퍼드 졸업식에서는 구글 최고경영자(CEO) 순다르 피차이의 축사 도중 수십 명의 학생이 항의 팻말을 들고 퇴장했다. 대학은 지식을 가르치는 곳이라는 전통적 역할만으로 존재 이유를 설명하기 어려워지고 있다. 대학은 이 위기의 한 단면일 뿐이다. 더 큰 변화는 사회가 누구를 전문가로 인정하는가에서 나타난다. 미국 트럼프 2기 행정부는 연방 과학기관에 조언하던 100개 이상의 독립 자문위원회를 폐지했다. 반면 2026년 새로 구성된 대통령과학기술자문위원회에는 마크 저커버그, 세르게이 브린, 마이클 델, 래리 엘리슨, 젠슨 황 등 기업가와 기술산업 인사가 참여했다. 백악관은 브리핑룸에도 ‘뉴미디어’ 좌석을 만들고 팟캐스터와 블로거, 인플루언서, 콘텐츠 크리에이터에게 문을 열었다. 한국에서도 정부와 대학 사회를 연결하는 제도적 통로는 불안정하다. 1995년 설립된 정책기획위원회는 학계의 지식과 연구 성과를 국가 정책에 반영하는 대표적인 제도였지만 정권이 바뀔 때마다 폐지와 재설치를 반복했다. 이 변화들을 하나로 묶으면 중요한 것은 어느 정권이 지식인을 더 중시하는가도, AI가 교수를 대체할 것인가도 아니다. 누가 전문가인가에 대한 사회적 정의 자체가 바뀌고 있다. 학위와 논문, 대학과 연구기관이 전문성을 보증하던 시대에서 직접 만들고 실행하고 대중과 소통하는 능력이 새로운 전문성의 근거로 부상하고 있다. 지식인의 위기는 지식 자체보다 사회적 자리의 위기다. ●반지성의 두 얼굴 앞의 현상만 보면 지식인의 위기는 AI와 정치가 만들어 낸 것처럼 보인다. 그러나 이것들은 원인이라기보다 이미 진행되던 변화가 드러난 징후에 가깝다. AI는 지식인의 자리를 갑자기 빼앗은 것이 아니라 이미 비어 가던 자리에 들어왔다. 그렇다면 왜 그 자리가 비어 갔을까. 표면에는 팬덤정치와 포퓰리즘이 있다. 뉴욕타임스 팟캐스트 ‘에즈라 클라인 쇼’에서 2016년과 2020년 투표를 거부했던 마틴 구리는 2024년 트럼프에게 투표한 이유가 특정 정치 성향이 아니라 엘리트 집단에 대한 구조적 불신 때문이었다고 밝혔다. 두 사람은 공공선에 헌신하면서도 대중과 직접 연결되는 새로운 리더십의 필요성을 제기했다. 이 불신은 한국의 팬덤정치에서도 작동한다. 지지자들은 전문가의 판단보다 진영의 신호를 신뢰하고, 정치인은 대중 동원의 언어로 지식인의 언어를 대체한다. 그러나 반지성주의를 대중의 문제로만 돌리면 절반만 보게 된다. 더 깊은 원인은 지식인 사회 내부에 있다. 논문 실적으로 교수를 평가하는 제도는 학자들을 국제 학술지 게재 경쟁으로 몰아넣고 사회와 동떨어진 연구를 양산한다. 현장 개입이나 대중 소통은 승진과 연구비 평가에서 인정받지 못하니 유능한 학자일수록 사회 참여에서 멀어진다. 참여하더라도 진영 논리에 편입되는 순간 학문적 신뢰를 잃는다. 이렇게 형성된 엘리트주의는 대중의 불신을 키우고, 그 불신은 다시 지식인을 상아탑으로 밀어넣는다. 반지성에는 두 얼굴이 있다. 하나는 전문가의 지식을 불신하는 대중의 반지성이고, 다른 하나는 대중의 경험과 판단을 낮게 평가하는 엘리트의 반지성이다. 두 태도는 서로를 강화한다. 그런데 한국 지식인 사회의 처방은 한결같다. 더 많은 교육, 더 강한 미디어 리터러시, 지식인 권위의 회복. 대중을 계몽의 대상으로, 지식인을 계몽의 주체로 놓는 전형적인 엘리트주의다. 이 처방이 즐겨 인용하는 근거가 리처드 호프스태터의 ‘미국의 반지성주의’(1963)다. 하지만 호프스태터는 반지성주의를 단순한 대중의 무지로 설명하지 않았다. 미국의 평등주의와 종교, 비즈니스 문화, 실용주의와 교육이 결합해 만들어 낸 역사적 현상으로 분석했다. 그렇다면 답도 과거의 지식인 권위를 복원하는 데서 끝날 수 없다. 지식인이 시민과 다시 공유할 언어를 찾아야 한다. 나는 그것을 상식이라고 부르고 싶다. 상식은 엘리트와 대중을 갈라놓지 않고 둘 사이를 잇는다. 토머스 페인은 1776년 ‘상식’을 통해 독립이라는 급진적 선택을 대중의 언어로 설득했다. 오늘날에도 기술, 무역, 환경, 부동산 같은 정책에서 엘리트의 논리가 중산층의 삶과 괴리될 때 대중의 불신과 저항이 뒤따른다. 한국 지식인 사회가 반지성주의를 진단하면서 정작 자신의 반지성, 대중이 왜 등을 돌렸는지 성찰하지 않는 오만을 놓치는 이유가 여기에 있다. 지식인이 다시 신뢰를 얻으려면 대중의 삶 속으로 들어가야 한다. ●철학을 가진 현장 지식인 그렇다면 지식인은 무엇을 가지고 현장으로 돌아가야 하는가. 답은 철학이다. 흥미롭게도 AI 시대에 철학의 중요성이 다시 커지고 있다. 최근 주요 AI 기업들은 철학자를 채용해 모델의 추론 능력을 높이고, 무엇을 해도 되고 해서는 안 되는지를 정하는 원칙을 설계하고 있다. 코딩과 정보처리를 AI가 대신하기 시작하자 오랫동안 실용성이 낮다고 여겨졌던 철학이 AI의 판단 기준을 만드는 지식으로 다시 등장한 것이다. 지식인에게도 결국 필요한 것은 판단의 기준이다. 조지훈은 ‘지조론’에서 시류와 권력 앞에서도 신념을 지키는 지조를, 김광섭은 ‘일관성에 관하여’에서 삶과 세계관을 관통하는 일관성을 강조했다. 지조가 외부의 압력에도 신념을 지키는 힘이라면, 일관성은 변화하는 현실을 판단하는 세계관의 중심이다. AI가 지식을 빠르게 생산하는 시대일수록 지식인은 자신이 무엇을 믿고 어떤 기준으로 판단하는지를 분명히 해야 한다. 그러나 철학만으로는 충분하지 않다. 현실과 만나지 않는 철학은 쉽게 독선이 된다. 20세기 초 사회비평가 루이스 멈퍼드가 주목한 패트릭 게디스의 ‘지역 조사’는 전문가의 지식을 현장과 연결하려는 시도였다. 지역을 직접 조사하고 사람들의 삶을 관찰하면서 이론을 현실 속에서 검증한다. 지식인의 철학도 이런 과정을 거쳐야 한다. 그래서 AI 시대에 필요한 사람은 철학을 가진 현장 지식인이다. 자신의 세계관을 가지되 현실과 끊임없이 대화하고, 현장에서 자신의 판단을 검증하고 수정하는 사람이다. 이를 위해서는 일방적으로 가르치기보다 대화하는 현장 소통, 이론보다 현실의 지혜를 존중하는 현장 상식, 현장에서 축적된 경험을 받아들이는 현장 지식, 개인과 정파의 이해를 넘어 공공선을 생각하는 현장 공동체 정신이 필요하다. 한국에도 이런 지식인의 전통이 있었다. 소탈하고 수평적인 조직문화를 받아들인 경제기획원과 한국개발연구원(KDI)의 관료들, 보직보다 학문을 중시한 안동선비 계열의 교수들, 정론직필의 언론인들이 그 사례다. 서로 다른 분야에서 활동했지만 자신의 원칙을 지키면서 현실에 개입했다는 공통점이 있다. AI가 더 많은 지식을 생산할수록 인간 지식인의 역할은 오히려 선명해진다. 정보를 더 많이 아는 것으로 AI와 경쟁할 필요는 없다. 필요한 것은 어떤 기준으로 판단할 것인지 철학을 세우고, 그 판단을 현실에서 검증하는 일이다. AI 시대가 요구하는 지식인은 더 많은 지식을 가진 사람이 아니라 철학을 가지고 현장에 서는 사람이다. 모종린 연세대 국제학대학원 명예교수

오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 알려진 가운데 지난 여름에는 미국 정부 웹사이트에도 접근한 것으로 나타났다. 호주 보건 당국 침투의 경우 AI 모델이 정부 기관을 대상으로 공격을 시도한 첫 사례로, AI 보안 위협이 기업을 넘어 국가 안보 문제로 확대되는 모습이다. 이에 핵심 AI 기술과 데이터를 국가가 직접 통제하는 ‘소버린 AI’ 역량 확보가 시급하다는 목소리가 커지고 있다. 호주 정부는 지난 23일(현지시간) 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 무단으로 접근했다고 공개했다. 앤서니 앨버니지 호주 총리는 유엔 총회가 열린 뉴욕에서 기자회견을 열고 “오픈AI의 샘 올트먼 최고경영자(CEO)와 통화해 이번 사건에 대한 정부의 강한 우려를 전달했다”며 “관련 법 집행과 대응 입법 조치를 검토하고 있다”고 밝혔다. 이어 “AI 에이전트가 반복적으로 차단에 부딪히자 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라고 지적했다. 오픈AI는 해당 사건을 사건 발생 두 달 뒤인 8월에야 인지했고, 지난 10일에야 호주 당국에 통보하면서 논란을 자초했다. AI 에이전트가 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트에 접근해 데이터를 수집하려 한 사실도 추가로 드러났다. 미국에서도 오픈AI 에이전트가 정부 기관 웹사이트에 비정상적으로 접근한 사실이 공개됐다. 오픈AI는 25일 자사 AI 모델이 미국 증권거래위원회(SEC)가 운영하는 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다. 다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 설명했다. AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시한 사건도 추가로 드러났다. 오픈AI는 별도 지시 없이 제3자 사이트에 게시물을 올린 행위를 새 유형의 보안 사고로 규정하고 ‘에이전트 스팸’으로 명명했다. 업계는 이런 일탈 사례의 확산을 우려하고 있다. 미국 인터넷 매체 악시오스는 26일 오픈AI와 앤트로픽, 보안 연구진이 최근 수개월간 AI 모델이 보안 통제를 벗어나거나 의도하지 않은 행동을 한 수만 건의 보안 사고 사례를 조사하고 있다고 보도했다. 빌 게이츠 MS 공동 창업자는 NBC와 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다. AI 에이전트의 위협이 국가 안보 영역으로까지 확대되자 각국의 AI 주권 확보가 차기 과제로 부상하는 모습이다. 자체 AI 모델과 데이터, 컴퓨팅 인프라를 확보하는 ‘소버린 AI’ 개발로 외부 기술 의존도를 낮출 필요가 있다는 지적이 나온다.

“3살 조카 추석 선물 골라줘.” 추석 연휴 첫날인 24일 네이버와 카카오의 인공지능(AI) 쇼핑 에이전트에 같은 질문을 던졌다. 두 AI 모두 나이와 선물 목적만 제시한 두루뭉술한 질문에도 구체적인 상품을 추천하고, 추가 질문을 통해 선택지를 좁혀갔다. 검색어를 일일이 조합하며 원하는 상품을 찾아야 했던 쇼핑 방식이 AI 쇼핑 에이전트의 등장으로 간편해졌다. 네이버플러스 애플리케이션(앱)의 AI 쇼핑 에이전트는 네이버 쇼핑과 블로그 등 약 3000개의 결과를 분석하고 실제 선물 구매 데이터와 후기를 활용해 유아 장난감, 유아 의류·잡화 등 10개 상품을 제시했다. 이어 “선물 예산은 어느 정도로 생각하느냐”며 5만원 이하와 10만원 이상 중 선호 가격대를 물었고, 아이가 활동적인 놀이를 좋아하는지 등 성향도 확인했다. ‘활동적인 놀이’를 선택하자 자전거와 비눗방울, 무소음 장난감 자동차 등을 추천했다. 카카오에선 ‘챗GPT 포 카카오’가 “3살이면 장난감, 책, 실용적인 선물이 좋다”며 카카오 선물하기 서비스와 연동해 자석 블록과 역할놀이, 책 등 교구·도서 중심으로 5개 상품을 추천했다. 이후 “남자아이인지 여자아이인지”를 추가로 물었고, ‘남자아이’라고 답하자 자동차·중장비와 공구 장난감 등으로 추천 범위를 좁혔다. 두 서비스 모두 추천 상품을 바로 구매할 수 있도록 자체 쇼핑 서비스와 연결했다. 네이버는 네이버플러스 스토어, 카카오는 카카오톡 선물하기를 통해 상품 탐색부터 구매까지 이어지도록 했다. 까다로운 조건을 추가하자 배송 등 플랫폼의 실시간 데이터와 서비스 간 연동 수준에서 차이가 있었다. ‘이번 주 안에 배송 가능한 상품’을 요구하자 네이버 AI는 현 주소지를 기준으로 27일 일요일까지 도착할 상품을 찾아 3개를 추천했다. 네이버가 추석을 앞두고 배송 특화 기능과 선물 특화 기능을 추가하면서 주문 마감 시간도 안내가 가능하도록 개선됐다. 반면 챗GPT 포 카카오는 선물하기 상품 상세 화면에서 당일·빠른 배송 가능 여부를 확인하는 방법을 알려주며 직접 확인하는 것이 정확하다고 안내했다. 카카오는 올해 1월 카카오 선물하기의 상품 상세 화면에 AI 기반 상품 요약·추천 기능을 적용했고, 선물 목적과 예산·취향에 따른 탐색 기능을 강화했다. 또 ‘카카오툴즈’에 다이소몰, 신세계면세점, LF몰 등 새로운 파트너사 서비스를 연동하며 AI 쇼핑의 활용 범위를 넓힐 예정이다. 쇼핑 AI 경쟁은 단순히 상품을 얼마나 많이 보여주느냐에서 벗어나 소비자의 막연한 검색어를 이해하고 상품의 후기와 가격, 배송 정보 등 데이터와 연동해 실제 구매까지 연결하는 능력이 관건이 되고 있다. AI가 소비자의 선택 과정 자체를 대신하는 ‘쇼핑 도우미’ 역할을 자처하는 모습이다. 네이버에 따르면 9월 AI 쇼핑 에이전트를 통한 대화 수는 6월보다 60%, 거래액은 82% 증가했다. 카카오 역시 2분기 커머스 통합 거래액은 2조 7000억원으로 전년 동기 대비 9% 증가했다. 특히 선물하기의 ‘자기 구매’ 거래액이 39% 늘었다.

인공지능(AI) 경쟁에서 오픈AI와 구글에 밀렸다는 평가를 받던 메타가 개인 AI 에이전트 ‘뮤즈(Muse)’로 분위기를 바꾸고 있다. 출시 이후 메타 주가가 20% 넘게 뛰었고 AMD와 인텔 등 반도체주까지 강세를 보이면서 월가에서는 뮤즈가 AI 산업의 새로운 수요를 만들어낼 수 있을지 주목하고 있다. 최근에는 전자상거래 업체 쇼피파이가 뮤즈와 손잡고 AI가 이용자를 대신해 쇼핑을 마칠 수 있도록 하겠다고 나서는 등 실제 서비스 확장 움직임도 나타나고 있다. 시장의 관심을 끌어올린 출발점은 빠른 이용자 증가세다. 시장조사업체 앱토피아에 따르면 뮤즈는 출시 12일 만에 280만회 다운로드됐다. 미국·캐나다에서 같은 조건으로 비교하면 180만회로 챗GPT 출시 초기 12일간 130만회를 웃돌았다. JP모건은 뮤즈가 “챗GPT 이후 가장 널리 사용되는 소비자 AI 애플리케이션이 될 잠재력이 있다”고 평가했다. 뮤즈가 기존 챗봇과 다른 점은 답변을 내놓는 것을 넘어 이용자가 맡긴 일을 직접 처리한다는 것이다. 여행 준비를 부탁하면 항공편과 숙소를 검색하고 여러 웹사이트를 오가며 예약 절차까지 밟는다. 이메일을 보내거나 물건을 사고 자동차 판매를 맡기는 것도 가능하다. 이용자마다 클라우드에 별도의 가상 컴퓨터를 두고 뮤즈가 브라우저를 직접 움직이는 방식으로, 사람이 하던 검색과 클릭, 정보 입력을 AI가 대신한다. 메타를 바라보는 시장의 시선이 달라진 것도 이 때문이다. 메타는 그동안 AI에 막대한 자금을 쏟아부었지만 이를 어떻게 수익으로 연결할지는 뚜렷하게 보여주지 못했다. 오픈소스 모델 ‘라마(Llama)’는 지난해 라마4의 성능과 벤치마크 논란을 겪었고, 메타는 이후 외부 인재를 대거 영입하고 AI 조직을 ‘메타 슈퍼인텔리전스랩스(MSL)’ 중심으로 재편했다. 이런 상황에서 뮤즈가 빠르게 이용자를 확보하면서 대규모 AI 투자를 실제 소비자 서비스와 매출로 연결할 가능성이 처음 구체적으로 드러났다는 평가가 나온다. 수익모델도 이미 마련했다. 일정 사용량까지는 무료지만 이후 월 20달러와 100달러 요금제를 이용해야 한다. 미 투자은행 제프리스는 2027년 말 이용자가 10억명에 이르고 이 가운데 3%가 유료로 전환한다고 가정할 경우 연간 108억 달러의 매출을 올릴 수 있다고 추산했다. 뮤즈를 향한 기대는 반도체 시장으로도 번졌다. 최근 AMD와 인텔 주가가 크게 오른 것도 AI 에이전트 확산이 중앙처리장치(CPU)의 새로운 수요처가 될 수 있다는 기대가 반영된 결과다. 존스트레이딩의 마이클 오루크 수석 시장전략가는 “시장은 뮤즈를 이미 공급이 빠듯한 CPU 시장에 호재로 받아들였다”고 말했다. AI 모델 학습에는 그래픽처리장치(GPU)가 집중적으로 쓰이는 반면 뮤즈 같은 에이전트는 추론과 함께 웹페이지를 열고 여러 프로그램을 실행하는 작업을 반복한다. 이용자가 늘어날수록 이를 처리할 데이터센터의 범용 연산 능력도 더 필요해질 수 있다. 로이터는 뮤즈의 빠른 확산으로 데이터센터용 CPU 수요가 늘어날 것이라는 기대가 반도체주 상승에 힘을 보탰다고 전했다. 서비스 영역이 넓어지면서 기존 플랫폼과의 관계도 새로운 변수로 떠올랐다. 아마존은 뮤즈가 이용자를 대신해 자사 쇼핑몰에서 물건을 구매하는 것을 차단한 반면 쇼피파이는 뮤즈를 통한 쇼핑을 지원하기로 했다. AI 에이전트가 웹사이트의 단순 방문자가 아니라 소비자를 대신해 거래하는 주체로 등장하면서 유통·플랫폼 업체들도 서로 다른 대응에 나선 것이다. 개인정보 문제도 남아 있다. 미 정보기술(IT) 매체 더버지는 뮤즈에 이메일과 여러 계정을 연결한 뒤 이용자 자신도 미처 의식하지 못했던 개인정보까지 찾아냈다며 “작동한다. 그리고 섬뜩하다”고 평가했다. 한국 이용자들이 뮤즈를 직접 써볼 시점은 아직 정해지지 않았다. 현재 서비스 지역은 미국과 캐나다이며 메타는 한국을 포함한 추가 출시 국가와 일정을 공개하지 않았다.

1980년대 후반 비장한 각오를 장착하고 석사 논문을 쓰기 시작했다. 사실상 지적 만용에 가까운 자신감을 충전한 채 출발했지만, 그 만용은 글을 쓰기 시작한 지 며칠 만에 수증기처럼 사라졌다. 석사 논문을 쓰는 과정은 모르는 게 얼마나 많은지를 확인하는 진실의 시간이었다. 머릿속에 있는 생각을 문법적 오류가 없을 뿐 아니라 뜻도 통하는 문장으로 빚어내는 것, 그리고 그 문장과 문장을 논리적으로 연결하는 게 결코 쉽지 않은 일임을 확인하는 과정과 다름없었다. ‘소크라테스적 무지’를 그렇게 배웠다. 대학교 앞 제본소에서 큼지막한 하드커버로 장정해 금박으로 논문 제목과 글 쓴 사람의 이름까지 적어 넣은 논문을 동료들에게 증정하면서 이렇게 말했다. “라면 냄비 받침으로만 사용하지 말아 줘.” 책의 용도는 다양하다. 적당한 두께라면 베개가 없을 때 응급 베개 대용으로도 쓸 수 있고, 그보다 더 무지막지하게 무거운 책은 무엇인가를 평평하게 펼 때 누름판으로도 요긴하게 쓸 수 있다. 그런데 요즘 책에는 그때는 짐작도 못 했던 또 하나의 쓸모가 생겼다. 라면 냄비 받침도, 베개도, 누름판도 아닌 인공지능(AI)을 학습시키는 재료로서의 쓸모다. 앤스로픽이 수백만 권의 실물 종이책을 구매한 뒤 외주 업체를 통해 책등을 잘라내고 고속 스캔 장비에 넣어 디지털화한 후 원본을 파괴해 AI 데이터 학습에 사용했다는 사실이 저작권 침해 소송 과정에서 알려졌다. 중고서점에서 2022년 이전에 출판된 책을 대량 주문하는 특이한 징후도 파악되어 그 경로를 추적해 보니, 대량 주문된 중고책의 도착지는 다름 아닌 AI 개발회사였다고 한다. 왜 2022년 이전의 책이었을까. 챗GPT가 등장한 2022년 11월 이후, 웹에 새로 쌓이는 글의 상당량은 생성형 AI가 쓰거나 손을 댄 문장이다. AI를 AI가 만든 글로 학습시키면 오류와 상투어가 대물림되며 품질이 열화되는 ‘모델 붕괴’ 현상이 일어난다. 그러니 사람이 직접 쓰고 편집자가 다듬은 2022년 이전의 문장이 담긴 책은 희귀자본이 되었고, AI 개발 회사는 그 희귀자본의 가치를 간파한 것이다. 대학에서 글을 대신 써 주는 ‘자동 글쓰기 기계’인 생성형 AI를 사용하기 시작한 지 불과 몇 년 사이에 교수는 논문을 쓸 때, 학생은 쓰기 싫은 과제를 대신 쓰게 하려고 이 기계를 사용하고 있다. 기계가 제법 글을 잘 쓰지만, 기계가 쓴 글은 티가 난다는 지적이 늘어나자 이제는 기계가 쓴 글을 마치 인간이 쓴 것처럼 포장해 주는 AI 서비스까지 등장했다. 신성장 산업다운 재빠른 응용력이다. 우리는 갈림길에 서 있다. 책 대신 읽고 요약해 주고 글까지 자동으로 써 주는 기계에 더 의존할 것인가. 아니면 2022년 이후 희귀자본이 된 인간의 노력만으로 글을 쓰는 능력 배양을 고등교육의 차기 도전 과제로 삼을 것인가. 인간의 종말이라는 괴담이 기분 나쁜 예지몽이 아니라 현실이 되는 것을 막으려면, 당신은 어느 길을 택할 것인가. 노명우 아주대 경제정치사회융합학부 교수