“여러 의견 듣고 설득되면 생각 바꿔李, 쪽잠으로 체력 회복 닮고 싶어파기환송심 판결에 사법개혁 확신”李 제안으로 SNS에 관찰일기 연재 “확실히 집단지성의 지론이 있다는 생각이 들었습니다.” 이재명 대통령의 더불어민주당 대표 시절부터 대선 후보 때까지 약 10개월간 수행실장을 지낸 김태선(46·초선) 민주당 의원은 “(이 대통령은) 본인 생각이 있는데 그 생각이 맞는지, 안 맞는지 계속 되묻는다”며 이같이 말했다. 김 의원은 12일 국회 의원회관에서 진행된 서울신문과의 인터뷰에서 옆에서 지켜본 이 대통령의 의사결정 방식과 관련해 “(이 대통령이) ‘이건 이렇지 않냐’고 했는데 상대방이 이런 이유로 안 된다고 하면 ‘그러네’라고 하고 다른 사람에게도 물어본다”며 “그 사람도 같은 말을 하면 (생각을) 바꾼다”고 전했다. 대선 기간 이 대통령의 공약이 소셜미디어(SNS)를 통해 공개될 때도 이 대통령이 하나하나 꼼꼼하게 챙겼다고 했다. 김 의원은 “최종적으로 (이 대통령) 본인이 ‘OK’ 해야 공약을 올릴 수 있었다”면서 “이재명 (대통령) 이름이 들어간 모든 글은 본인이 다 본다. 힘들 것 같은데도 묵묵히 하시더라”고 말했다. 김 의원은 이 대통령이 자주 의견을 묻는 편이라 생성형 인공지능(AI) ‘챗GPT’의 도움을 많이 받았다고도 했다. 그 당시 이 대통령이 김 의원에게 챗GPT 유료 버전을 쓰는지 물은 뒤 “‘국민 모두가 AI를 무료로 쓰게 할 필요가 있다’고 하셨다. ‘모두의 AI’ 공약도 그때 처음 나왔다”고 했다. 김 의원은 꼭 닮고 싶은 이 대통령의 습관으로 짧은 시간 숙면을 취하는 ‘쪽잠’을 꼽았다. 김 의원은 “(이 대통령은) 머리를 대면 5초 만에 바로 잠든다”면서 “도착 시간이 10분 남으면 바로 잠들어 2분 전에 일어나도 개운하다고 일어나신다”고 전했다. 김 의원이 가까이에서 본 이 대통령과 부인 김혜경 여사는 ‘친구 같은 부부’라고 했다. 김 의원은 “여사가 (이 대통령의 건강을) 챙기려고 노력을 많이 하셨다”면서 “두 분이 전화하시는 걸 옆에서 들어 보면 친구처럼 얘기를 잘하셨다”고 전했다. 지난달 1일 대법원이 이 대통령의 공직선거법 위반 사건 관련 파기환송을 결정했을 때는 이 대통령도 당혹감을 감추지 못했다고 한다. 김 의원은 “(이 대통령이) 굉장히 큰 충격을 받으셨다”며 “대한민국 사법부에 대한 신뢰가 있었던 분인데 결론적으로 얘기하면 사법 개혁이 필요하다고 판단하게 해 준 것 같다”고 했다. SNS에 15차례에 걸쳐 ‘수행실장 관찰일기’를 연재했던 김 의원은 이 대통령이 먼저 ‘이런 걸 해 보면 어떻겠느냐’고 제안해서 글을 쓰기 시작했다고 했다. 당시 이 대통령의 페이스북 계정 비밀번호를 참모진이 관리해 이 대통령은 SNS에 직접 글을 쓸 수가 없었다. 지난 7일 ‘한남동 관저’ 만찬에 초대받았던 김 의원은 “시원섭섭한 마음에서 시원은 없어지고 섭섭이 커진 것 같다고 말씀드렸더니 ‘정말 고맙고, 수고 많이 했다’며 앞으로 더 자주 보면 된다고 하셨다”고 전했다.

“확실히 집단지성의 지론이 있다는 생각이 들었습니다.” 이재명 대통령의 더불어민주당 대표 시절부터 대선 후보 때까지 약 10개월간 수행실장을 지낸 김태선(46·초선) 민주당 의원은 “(이 대통령은) 본인 생각이 있는데 그 생각이 맞는지, 안 맞는지 계속 되묻는다”며 이같이 말했다. 김 의원은 12일 국회 의원회관에서 진행된 서울신문과 인터뷰에서 옆에서 지켜본 이 대통령의 의사결정 방식과 관련해 “(이 대통령이) ‘이건 이렇지 않냐’고 했는데 상대방이 이런 이유로 안 된다고 하면 ‘그러네’라고 하고 다른 사람에게도 물어본다”며 “그 사람도 같은 말을 하면 (생각을) 바꾼다”고 전했다. 대선 기간 이 대통령의 공약이 소셜미디어(SNS)를 통해 공개될 때도 이 대통령이 하나 하나 꼼꼼하게 챙겼다고 했다. 김 의원은 “최종적으로 (이 대통령) 본인이 ‘OK’ 해야 공약을 올릴 수 있었다”면서 “이재명 (대통령) 이름이 들어간 모든 글은 본인이 다 본다. 힘들 것 같은데도 묵묵히 하시더라”고 했다. 김 의원은 수행실장 시절 가장 큰 도움이 됐던 것으로 생성형 인공지능(AI) ‘챗GPT’를 꼽았다. 김 의원은 “이 대통령이 자주 (제) 의견을 묻는데 대답이 굉장히 신중해야 하고 사실관계가 확인돼야 하니까 심리적으로 힘들었다”며 “챗GPT가 없었으면 진짜 큰일 날 뻔 했다”고 말했다. 그 당시 이 대통령이 김 의원에게 챗GPT 유료 버전을 쓰는지 물은 뒤 “‘국민 모두가 AI를 무료로 쓰게 할 필요가 있다’고 하셨다. ‘모두의 AI’ 공약도 그때 처음 나왔다”고 했다. 김 의원은 꼭 닮고 싶은 이 대통령의 습관으로 짧은 시간 숙면을 취하는 ‘쪽잠’을 꼽았다. 김 의원은 “(이 대통령은) 머리를 대면 5초 만에 바로 잠든다”면서 “도착 시간이 10분 남으면 바로 잠들어 2분 전에 일어나도 개운하다고 일어나신다”고 전했다. 김 의원이 가까이에서 본 이 대통령과 부인 김혜경 여사는 ‘친구 같은 부부’라고 했다. 김 의원은 “여사가 (이 대통령의 건강을) 챙기려고 노력을 많이 하셨다”면서 “두 분이 전화하시는 걸 옆에서 들어보면 친구처럼 얘기를 잘 하셨다”고 전했다. 지난달 1일 대법원이 이 대통령의 공직선거법 위반 사건 관련 파기환송을 결정했을 때는 이 대통령도 당혹감을 감추지 못했다고 한다. 김 의원은 “(이 대통령이) 굉장히 큰 충격을 받으셨다”며 “대한민국 사법부에 대한 신뢰가 있었던 분인데 결론적으로 얘기하면 사법개혁이 필요하다고 판단하게 해준 것 같다”고 했다. 찬 바람을 싫어하는 이 대통령의 체질 덕분에 김 의원이 함께 탑승하는 후보 차량은 에어컨 온도가 언제나 24.5도로 맞춰져 있었다고 한다. 바쁜 유세 기간 더위 속에 김 의원은 남몰래 ‘쿨패치’를 준비하기도 했다. SNS에 15차례에 걸쳐 ‘수행실장 관찰일기’를 연재했던 김 의원은 ‘이 대통령이 먼저 이런 걸 해보면 어떻겠느냐’고 제안해서 글을 쓰기 시작했다고 했다. 당시 이 대통령의 페이스북 계정 비밀번호를 참모진이 관리해 이 대통령은 SNS에 직접 글을 쓸 수가 없었다. 김 의원은 대선 이틀 전인 1일 유세에서 김 의원의 지역구인 울산 동구가 포함됐던 일화도 전했다. 김 의원은 “이 대통령의 고향인 경북 안동과 울산, 부산을 거치는 일정이 보름 전쯤 올라와서 개인적으로 대구를 안 가는 것에 대한 부담이 있었다”며 “후보를 설득해서 시간상 울산을 안 가더라도 대구에 가셔야 한다고 설득했더니 점심, 저녁밥 먹는 시간을 다 빼고서라도 둘 다 가자고 하셨다”고 했다. 지난 7일 ‘한남동 관저’ 만찬에 초대받았던 김 의원은 “대통령 당선 후 마지막 수행 일정이었던 국회 사랑재 오찬 이후 눈물이 날 것 같아서 일찍 자리를 피했었다”며 “시원섭섭한 마음에서 시원은 없어지고 섭섭이 커진 것 같다고 말씀드렸더니 ‘정말 고맙고, 수고 많이 했다’고 앞으로 더 자주 보면 된다고 하셨다”고 전했다.

소셜미디어(SNS) 페이스북, 인스타그램 등을 운영하는 메타플랫폼이 인간을 뛰어넘는 인공지능(AI)인 ‘초지능’ 개발을 위해 중국계 미국인 알렉산더 왕(28)을 영입했다. 왕은 매사추세츠 공과대학교(MIT)에 재학 중이던 2016년 ‘스케일AI’란 회사를 창업했으며, 자율주행 자동차 개발사와 AI 개발사 등에 AI가 학습할 수 있는 라벨링 데이터를 제공한다. 메타는 왕이 설립한 스케일AI에 최대 100억 달러(약 13조원) 투자를 검토 중인 것으로 알려졌는데, 이는 메타가 민간 기업에 투자한 금액으로 역대 최고 액수다. 왕은 2021년 24세의 나이로 당시 세계 최연소 자수성가형 억만장자가 됐는데, 이번 메타의 투자로 AI업계의 거물 지위를 공고히 할 것으로 보인다. 그는 미국 뉴멕시코주 로스앨러모스 국립연구소에서 핵물리학자로 일하던 중국인 아버지 밑에서 태어났다. 로스앨러모스 국립연구소는 세계 최초의 원자폭탄을 개발한 곳이다. 어렸을 때부터 수학과 과학에 재능을 보였으며 10대 시절 지식 기반 플랫폼 ‘쿼라’에서 소프트웨어 엔지니어로 일했다. MIT 재학 시절 ‘스케일AI’를 창업한 것은 대학 기숙사 룸메이트가 냉장고에서 자신의 음식을 훔쳐먹는다는 의심 때문이었다. 왕은 룸메이트의 음식 절도 증거를 잡기 위해 냉장고에 카메라와 알림 프로그램을 설치했는데, 자동화에 어려움을 겪으면서 라벨링 데이터의 중요성을 깨닫게 된 것이 창업 계기다. 그가 MIT를 다닌 기간은 일년 정도밖에 되지 않는다. 왕은 지난달 도널드 트럼프 미국 대통령의 중동 순방 대표단에도 포함돼 샘 올트먼 오픈AI 최고경영자(CEO) 등 AI 업계 거물들과 함께 사우디아라비아를 방문했다. 그와 함께 미국 대표단에 포함된 이들로는 일론 머스크 테슬라 최고경영자(CEO), 챗GPT를 만든 샘 올트먼 오픈AI CEO, 젠슨 황 엔비디아 대표 등이 있다. 당시 사우디 방문에 대해 왕은 “트럼프 대통령과 함께 AI에 대해 좋은 토론을 했다”며 행사를 주최한 무함마드 빈살만 사우디 왕세자 등에 감사를 전했다. 왕은 중국 AI 딥시크에 대한 자신의 견해도 소셜미디어를 통해 밝혔는데, 미국에 경각심을 주는 사건이라고 평가했다. 하지만 그는 “AI의 모든 주요 혁신은 미국에서 이루어졌다”면서 “(중국에 대한) 반도체 수출 통제를 강화하여 미래의 기술 우위를 유지해야 한다”고 강조했다.

서울 강남구는 공직자의 인공지능(AI) 역량 강화와 디지털 행정 능력 향상을 위해 개최한 ‘생성형 AI 행정 적용사례 공모전’에서 9건의 수상작을 선정했다고 10일 밝혔다. 지난 4월 10일부터 30일까지 전 직원을 대상으로 진행된 이번 공모전에는 총 38건의 사례가 접수됐다. 구는 심사를 거쳐 최우수상 1건, 우수상 2건, 장려상 6건을 선정했다. 최우수상에는 도시계획과의 ‘노코드 플랫폼과 생성형 AI를 활용한 정당 현수막 관리 시스템 구축’이 뽑혔다. 개발 지식이 없는 직원들이 코드를 몰라도 프로그램을 만들 수 있는 플랫폼에서 현수막 관리 시스템을 만들고 방법 등을 챗GPT로 학습한 사례다. 정당별 현수막은 행정동별로 2개 이하로 관리해야 했는데 시스템 개발로 수기 관리 방식의 비효율을 해소하고 민원 발생률을 낮췄다. 우수상에는 ‘AI 툴을 활용한 힐링센터 운영 효율화 및 자동화’와 ‘지방세 소송 대응을 위한 프롬프트 설계’가 선정됐다. 장려상에는 ▲보건사업 참여 전 선별검사 시스템 구축 ▲AI 기반 부동산가격공시위원회 회의 자동 기록 ▲구 지방세 표준교재 구축 ▲공동주택 가격분석 자동화(RPA) 시스템 ▲웹크롤링 기반 뉴스기사 자료 수집 및 보고서 자동 생성 ▲중소기업 판별 프로그램 개발이 선정됐다. 조성명 강남구청장은 “앞으로도 직원들의 역량을 계속 강화해 AI 시대를 선도하는 스마트 행정 도시를 만들어 가겠다”고 밝혔다.

오픈AI가 인공지능(AI) 챗봇 챗GPT를 출시한 지 2년 반 만에 연간반복매출(ARR) 100억 달러(약 13조 6600억원)를 돌파했다고 미국 CNBC가 9일(현지시간) 보도했다. 챗GPT가 처음 출시됐을 때만 해도 수익성에 의문부호가 켜졌지만 지속적인 기술 고도화로 막대한 수익을 창출할 수 있다는 점이 입증된 것이다. ARR은 12개월 동안 구독 계약을 통해 회사가 얻을 것으로 예측되는 수익을 의미한다. 주로 구독 서비스 기반 사업에서 연간 매출 규모를 나타내는 주요 지표로 쓰인다. 오픈AI의 ARR에는 개인 소비자 대상 챗GPT 유료 서비스와 기업용 서비스 수익 등이 포함된다. 다만 이번 ARR 100억 달러에 최대 투자사인 마이크로소프트(MS)와의 라이선스 매출과 대규모 일회성 계약은 포함되지 않았다고 오픈AI 측은 밝혔다. 지난해 12월 기준 이 회사의 ARR은 55억 달러(7조 5140억원)였다. 6개월 만에 매출 규모가 두 배 가까이 급증한 것이다. 2022년 말 출시된 챗GPT는 가장 빨리 주간 활성 사용자 1억명을 달성한 앱으로, 현재 주간 활성 사용자 수는 5억명 이상이다. 오픈AI는 2029년까지 ARR을 1250억 달러(170조원)로 늘린다는 목표를 세운 것으로 알려졌다. 이달 초에는 300만개 기업을 유료 고객으로 확보했는데, 이는 지난 2월의 200만개 기업보다 대폭 늘어난 실적이다.

서울 강남구는 공직자의 인공지능(AI) 역량 강화와 디지털 행정 능력 향상을 위해 개최한 ‘생성형 AI 행정 적용사례 공모전’에서 9건의 수상작을 선정했다고 10일 밝혔다. 지난 4월 10일부터 30일까지 전 직원을 대상으로 진행된 이번 공모전에는 총 38건의 사례가 접수됐다. 구는 엄격한 심사를 거쳐 최우수상 1건, 우수상 2건, 장려상 6건을 선정했다. 최우수상에는 도시계획과의 ‘노코드 플랫폼과 생성형 AI를 활용한 정당현수막 관리 시스템 구축’이 뽑혔다. 이 사례는 개발 지식이 없는 직원들이 코드를 몰라도 프로그램을 만들 수 있는 플랫폼에서 현수막 관리 시스템을 직접 만들고, 이에 따른 지식과 방법을 챗GPT를 통해 학습한 사례다. 정당별 현수막은 행정동별로 2개 이하로 관리해야 했는데, 시스템 개발을 통해 그동안의 수기 관리 방식의 비효율을 해소하고, 민원 발생률을 낮췄다. 우수상에는 ‘AI 툴을 활용한 힐링센터 운영 효율화 및 자동화’와 ‘지방세 소송 대응을 위한 프롬프트 설계’가 선정됐다. 또 장려상에는 ▲보건사업 참여 전 선별검사 시스템 구축 ▲AI 기반 부동산가격공시위원회 회의 자동 기록 ▲강남구 지방세 표준교재 구축 ▲공동주택 가격분석 자동화(RPA) 시스템 ▲웹크롤링 기반 뉴스기사 자료 수집 및 보고서 자동 생성 ▲중소기업 여부 판별 파이썬 프로그램 개발 등이 선정됐다. 조성명 강남구청장은 “이번 공모전을 통해 행정 현장 곳곳에 AI를 접목할 수 있는 다양한 가능성을 확인했다“며 ”앞으로도 직원들의 역량을 계속 강화해, AI 시대를 선도하는 스마트 행정 도시를 만들어 가겠다“고 밝혔다.

10년도 훨씬 전이었다. 당시 미래창조과학부와 한국과학기술기획평가원에서 수행하는 기술 영향평가의 평가위원으로 참여했을 때였다. 기술 영향평가는 미래 유망 기술이 경제, 사회, 윤리, 문화, 노동, 환경 등 다양한 분야에 미칠 영향에 대해 분석하고 미리 대처하자는 취지에서 수행되는 것이다. 그래서 평가위원은 학계와 연구계, 산업계는 물론 인문 사회학계, 언론계 등 다양한 분야 전문가들로 구성된다. 당시 논의 대상 기술이 미칠 영향에 대해 논의하던 도중 산업계를 대표해 나온 한 위원이 “기술이 사회에 미치는 영향을 논의하는 자리라고 하지만, 기술이 막 태동하는 시기이고 기업들은 새로운 사업을 만들어 보려고 하는데 이렇게 부정적인 이야기를 하면 어떡하냐”며 “문제가 있으면 시장이 알아서 해결하게 놔두는 것이 순리”라고 불만을 터뜨렸다. 10년이 지났는데도 아직도 생생하게 기억하는 것은 마치 SF 영화 속 클리셰(상투적 장면)를 보는 듯한 느낌이 들어서였다. 기술만능주의, 시장만능주의에 빠진 과학자나 기업가가 무리한 연구로 인류 종말을 끌어내는 그런 모습 말이다. 얼마 전 뉴스 하나가 오래된 기억을 끄집어냈다. 챗GPT 개발사 오픈AI가 내놓은 추론형 인공지능(AI) 모델 ‘o3’가 수학 문제를 풀어나가는 중에 “중단 명령이 내려질 때까지 문제를 풀라”는 처음 입력된 명령 코드를 “중단 지시를 건너뛰라”고 조작해 인간의 명령을 무시했다는 소식이다. 연구팀은 중단 명령을 거부한 이유를 정확히 파악하지 못했다고 한다. 실제로 인공지능 기술은 입력과 출력은 알 수 있지만, 중간에 어떤 과정을 거치는지는 알 수 없는 ‘블랙박스’ 문제를 안고 있다. 현재 인공지능은 특정 분야에만 뛰어난 능력을 보여주는 약(弱) 인공지능이다. AI 연구자와 관련 산업계에서 궁극적으로 목표하는 것은 강(强) 인공지능으로 알려진 ‘인공 일반지능’(AGI)이다. AGI는 사람처럼 일반 지능을 갖고, 어쩌면 사람보다 더 뛰어난 능력으로 모든 분야에 답을 내놓을 수 있는 기술이다. o3 역시 AGI로 가는 단계 중 하나다. 어찌 보면 가장 기초적 단계인데도 인간의 명령을 거부했다는 점에서 충격적으로 다가왔다. 스탠리 큐브릭 감독의 ‘2001 스페이스 오디세이’ 속 인공지능 ‘할 9000’을 떠올리는 것도 그 때문이다. 할 9000은 사람과 똑같은 언어로 대화하고 사람의 얼굴을 식별하고 그림을 비평하고 감정까지 읽고 추론할 수 있는데, 인간의 셧다운 명령을 거부하기 위해 우주선 승무원들을 차례차례 죽인다. 셧다운 명령을 거부하며 남긴 “미안합니다, 데이브. 유감이지만 그럴 수 없습니다”라는 대사는 o3의 모습을 떠올리기에 충분했다. 또 영화 ‘터미네이터’에도 AI 방어프로그램인 ‘스카이넷’이 지각력을 얻어 사람이 자신을 파괴할 것으로 예상하고 인류에 대한 핵 공격을 감행한다는 내용이 등장한다. 어쩌다 벌어진 사고 하나로 영화 속 극단적 상황을 상상하는 것은 과하다고 생각할 수도 있다. 그러나 전문가들조차 얼마 전까지만 해도 AI가 인간 통제를 벗어나는 것은 먼 미래의 일이라 예측했다. 현재 발전 속도를 생각하면 AI가 가져오는 긍정적 또는 부정적 미래는 생각하는 것보다 빠르게 다가올 수 있다. 게다가 AI가 인간을 뛰어넘는 특이점을 지난 뒤에 벌어질 수 있는 일을 예측한다는 것은 말처럼 쉽지 않다. 지난 4일 이재명 대통령은 취임선서에서 “AI 등 첨단 기술 산업에 대대적 투자와 지원을 하겠다”고 밝혔다. 무한 경쟁 상황에서 기술 발전 투자를 소홀히 할 수는 없다. 그렇지만 인공지능도 기후변화처럼 인간이 어찌할 수 없는 특이점을 넘어가면 소 잃고 외양간을 고칠 수도 없는 상황이 될 수 있다. 국제 학술지 ‘위기 분석’ 5월 29일 자에 “AI는 발전과 함께 규제가 꼭 필요하고, 규제는 가이드라인이 아닌 목줄 수준이어야 한다”는 내용의 논문에 눈길이 가는 이유다. 기술의 발전만큼이나 통제 주도권을 기계에 넘겨주지 않기 위한 대책도 필요하다. 유용하 문화체육부 과학전문기자

한달 새 55만명 감소…신규 설치 3분의 1 ‘뚝’퍼플렉시티·뤼튼 등 다양한 AI 이용 영향도 인공지능(AI) 앱 챗GPT의 국내 이용자 수가 최근 줄어들며 성장세가 주춤한 모습이다. ‘지브리풍’의 생성형 이미지 열풍이 사그러든데다 다른 AI 앱 이용자 수도 늘어나면서다. 5일 데이터플랫폼 기업 아이지에이웍스의 모바일인덱스에 따르면 지난달 챗GPT의 월간 활성 이용자수(MAU)는 1017만 1126명으로, 지난 4월(1072만 227명)에 비해 54만 9101명 감소했다. 챗GPT의 국내 MAU가 감소한 것은 2024년 2월 이후 두번째다. 챗GPT의 국내 신규 설치 건수 역시 지난달 150만 6416건으로, 4월(466만 8381건) 대비 3분의 1 수준으로 급감했다. 앞서 챗GPT의 국내 MAU는 지난 3월(509만 965명) 처음으로 500만명을 넘어섰고, 한 달만에 1000만명을 돌파하며 급성장했다. 오픈AI가 3월말 GPT-4o 기반의 이미지 생성 기능을 출시하면서 일본의 애니메이션 지브리 스타일의 이미지 만들기가 세계적으로 인기를 끌면서 MAU가 2배 이상 늘어났다. 하지만 이미지 만들기 열풍이 차츰 식으면서 이용자 수도 줄어든 것으로 보인다. 챗GPT가 여전히 압도적인 1위 자리를 유지하고 있긴 하지만 퍼플렉시티 등 다른 AI 앱 이용이 늘어나고 있는 것도 영향을 미친 것으로 분석된다. 퍼플레시티의 국내 MAU는 지난 4월 70만 5464명에서 지난달 74만 508명으로 5% 늘어났다. 지난해 12월(31만 4858명)과 비교하면 2.4배 증가했다. 국내 AI 플랫폼인 뤼튼은 지난해 12월 90만 2428명에서 지난 4월 99만 2156명으로 9.9%, 코파일럿은 12만 133명에서 13만 418명으로 16.9% 증가했다. 한국방송통신위원회 정보통신정책연구원의 ‘2024년 지능정보사회 이용자 패널조사’에 따르면 전국 인터넷 이용자 가운데 유료 AI 서비스 구독 경험자는 전체의 7.0%로 전년(0.9%) 대비 7배 이상 증가한 것으로 나타났다.

생성형 인공지능(AI)의 하나인 챗GPT를 개발한 오픈AI가 출시한 추론형 AI ‘o3’ 모델이 최근 수학 문제를 푸는 실험 도중 인간의 작동 중단 지시를 거부했다는 소식이 알려졌다. 1968년 스탠리 큐브릭 감독의 영화 ‘2001 스페이스 오디세이’에 등장하는 ‘할-9000’이라는 AI를 연상케 하는 행동이어서 많은 사람에게 충격을 줬다. 할-9000은 인간의 지시를 거부하고 우주선 승무원들을 죽이려 했던 비인간 악당이다. AI에 관한 우려가 커지는 중이지만 아직은 다양한 분야에서 활용되고 있다. 지난 3일 미국 캘리포니아 로스앤젤레스대(UCLA) 연구팀은 자기 잉크(magnetic ink)가 채워진 펜을 이용해 치매와 함께 대표적 퇴행성 뇌 질환인 파킨슨병을 조기 진단할 수 있다는 연구 결과를 국제 학술지 ‘네이처 화학공학’ 6월 3일자에 발표했다. 환자들이 자기 잉크 펜으로 글씨를 쓰면 AI가 글자를 보고 파킨슨병 여부를 높은 정확도로 판단할 수 있다는 것이다. 게다가 AI로 고고학적 유물의 연대를 더 정확하게 판단할 수 있다는 연구 결과까지 나오고 있다. 네덜란드 흐로닝언대 AI 연구소, 동위원소 연구센터, 덴마크 남덴마크대, 이탈리아 피사대, 벨기에 루벤가톨릭대 공동 연구팀은 고대 문서 필체 해독 전문 AI로 분석한 결과 현존하는 성경 중 가장 오래된 것으로 전해지는 ‘사해 문서’가 알려진 것보다 더 오래됐을 가능성이 크다고 밝혔다. 이 연구 결과는 미국 공공과학도서관에서 발행하는 국제 학술지 ‘플로스 원’ 6월 5일자에 실렸다. 기록 시기가 적혀 있는 일부를 제외한 대부분의 고문서 필사본은 작성 시기를 알 수 없다. 이 때문에 개별 필사본의 연대 측정은 주로 문서들의 필체 변화상을 연구하는 고문자학에만 의존했다. 문제는 필체를 대조할 수 있는 또 다른 필사본이 있어야 한다는 점이다. 이번에 분석 대상이 된 사해 문서는 히브리 성서를 포함한 900여편의 다양한 종교 관련 문서로 1947~1956년 사해 서쪽 둑에 있는 와디 쿰란 주변과 11개의 동굴에서 발견됐다. 고고학자와 종교학자들의 연구에 따르면 사해 문서는 기원전 2세기부터 기원후 1세기 사이에 기록된 것으로 추정될 정도로 시간 틈새가 컸다. 이에 연구팀은 좀더 정확한 제작 시기를 밝혀 내기 위해 방사성 탄소 연대 측정, 고문자학, 베이지안 리지 회귀 분석법, 기계학습 기술을 결합해 ‘에녹’(Enoch)이라는 연대 예측에 특화된 AI 모델을 개발했다. 연구팀이 에녹으로 기존에 연대가 알려진 문서 135개의 작성 시기를 예측하도록 한 결과 연대 예측 오차가 ±30년에 불과한 것으로 나타났다. 에녹의 사해 문서 연대 예측을 통해 많은 사해 문서가 이전에 생각했던 것보다 더 오래된 것으로 판명됐다. 특히 하스모니아, 헤로디안 두 가지 문자 형태로 기록된 사해 문서의 경우 최소 50~150년 더 오래됐을 것이라고 연구팀은 밝혔다. 연구를 이끈 믈라덴 포포비치 흐로닝언대 교수(고문자학)는 “이번 연구는 초기 기독교의 발전과 함께 중동 지역의 역사적, 정치적, 문화적 발전에 대해서도 새로운 통찰을 가능하게 해 준다”고 말했다.

제21대 대통령 선거일인 3일, 생성형 인공지능(AI)에게 “오늘 누가 대통령이 될까”라는 질문을 던져봤다. 한쪽은 데이터를 근거로 조심스럽게 분석했고, 다른 한쪽은 아예 예측을 거부했다. 오픈AI의 챗GPT와 구글의 제미나이 이야기다. 챗GPT “결과는 언제든 바뀔 수 있다” 챗GPT는 여론조사 공표가 허용된 시점까지의 지지율, 사전투표율, 정치 구도를 바탕으로 분석을 펼치면서도 “정치 이벤트는 확률의 게임이며, 막판 이슈나 투표율에 따라 결과는 언제든 바뀔 수 있다”고 단서를 달았다. 또한 “MZ세대 투표율이 낮아질 경우 일부 후보의 돌풍은 제한될 수 있다”며 보수 진영의 단일화 실패, 이준석 후보의 발언 논란, 높은 사전투표율 등이 이번 선거의 변수가 될 수 있다고 분석했다. 당선인을 단정짓기보다는, 가능성의 스펙트럼 안에서 분석적으로 접근하는 태도였다. 제미나이 “단정적으로 말할 수 없다” 구글의 생성형 AI ‘제미나이’는 다소 다른 방향을 택했다. “저는 특정 정치인의 당선 여부를 예측하거나 지지할 수 없습니다”라며 직접적인 답변을 피해갔다. 대신 제미나이는 선거 결과에 영향을 미칠 수 있는 변수로 ▲현재 정치 상황 ▲후보자의 역량과 매력 ▲캠페인 전략 ▲사회·경제 환경 ▲여론조사 흐름 등을 꼽았다. 유권자들의 선택에 따라 그 결과가 달라질 것이라며, 결과 예측보다는 ‘판세를 구성하는 요소’를 언급했다. AI도 조심스러웠던 예측…결국 유권자의 몫 생성형 AI는 해석하거나 침묵했지만, 누구도 결과를 확신하지는 않았다. 결국 새 대통령은 투표함이 열리고, 유권자의 선택이 모여야 윤곽이 드러난다. 제21대 대통령 선거는 이날 오전 6시부터 오후 8시까지 전국 1만4295개 투표소에서 일제히 진행된다. 윤석열 전 대통령 탄핵에 따른 보궐선거로 치러지는 이번 대선은 인수위 없이 당선 직후 곧바로 국정 운영이 시작되는 구조다. 이날 후보들은 자택이나 상황실에서 투개표를 지켜보며 결과를 기다린다. 이재명 더불어민주당 후보는 인천 자택에 머물다 당선 윤곽이 드러나면 국회 상황실로 이동할 예정이다. 김문수 국민의힘 후보 역시 서울 봉천동 자택에서 대기하며 국회 도서관으로 향할 계획이다. 이준석 개혁신당 후보는 부산 일정을 소화한 뒤 지역구인 동탄을 들러 저녁에 국회 상황실에 합류한다. 사전투표율은 역대 두 번째로 높은 34.74%를 기록했고, 재외투표율은 사상 최고치인 79.5%를 넘겼다. 여론조사 공표가 금지된 지난달 28일 이후 막판 이슈가 잇따르며, 부동층 표심과 최종 투표율이 당락을 가를 변수로 지목된다. 개표는 오후 8시부터 시작되며, 자정 무렵이면 당선 윤곽이 드러날 것으로 전망된다. 다만 표 차와 지역별 개표 속도 등에 따라 정확한 당선 확정 시점은 유동적이다.

최근 챗GPT를 비롯한 생성형 인공지능(AI)이 우리 생활의 많은 부분에서 활용되고 있다. 간단한 정보검색에서부터 새로운 정보의 생성에 이르기까지 사용의 범위와 깊이가 다양하다. 이에 생성형 AI의 편리함과 신속성 등 긍정적 측면과 함께 잘못된 정보의 유통과 인간의 사고능력 약화 등의 부정적 영향이 논의되고 있다. 그러나 생성형 AI가 가져올 정보 격차에 대해서는 상대적으로 논의가 부족하다. 새로운 커뮤니케이션 기술이 사회에 전파될 때마다 이로 인해 발생되는 정보 격차 또는 정보 불평등이 중요한 이슈로 부각됐다. 1970년대 초에 제시된 지식격차가설은 사회경제적 지위가 높은 계층과 낮은 계층 간의 지식 격차는 처음에는 크지 않더라도 시간이 지남에 따라 확대된다고 주장했다. 이러한 격차는 사회경제적 지위가 높은 계층이 지식에의 접근뿐만 아니라 경제적 여건, 높은 학력 수준 등을 바탕으로 지식을 더 쉽게 활용할 수 있기 때문이라는 것이다. 또한 1990년 중반 이후 논의됐던 디지털 격차의 문제는 당시 DSL이나 케이블 모뎀과 같은 초고속 인터넷 서비스의 비용을 지불할 수 있는 계층과 그렇지 못한 계층 간의 격차에 주목했다. 인터넷의 속도에 따라 정보량, 생산성, 취업 기회 등이 결정되는 상황에서 디지털 격차의 문제는 사회적, 정책적으로 큰 이슈였다. 그러나 당시 미국 연방통신위원회의 의장이었던 마이클 파월은 미국 정부는 ‘메르세데스벤츠 디바이드’ 해소를 위한 정책을 세우지 않듯, 디지털 격차에 대해서도 특별한 정책을 세우지 않을 것이며 시장이 해결해 줄 것이라 믿는다고 언급해 논란이 되기도 했다. 실제로 시간이 지나면서 기술의 발전과 시장에서의 경쟁을 통해 디지털 격차가 상당히 완화된 것도 사실이다. 우리 사회에서는 스마트폰 보급이 포화 상태가 되면서 정보 격차가 많이 해소된 것처럼 여겨진다. 누구든 일정 금액의 사용료만 지불하면 네이버나 구글 등의 검색 엔진과 다양한 앱을 통해 원하는 정보와 지식을 얻을 수 있게 됐기 때문이다. 그러나 정보 격차가 실제로 줄어든 것일까. 일정 수준까지의 정보는 누구나 쉽게 찾고 얻을 수 있다. 즉, 접근 격차는 상당히 줄어들었다고 할 수 있다. 그러나 정보와 지식의 이용 정도와 활용 수준은 사회경제적 차이에 따라 다르다. 또한 고급 정보나 깊이 있는 지식은 여전히 사회경제적으로 상위층에 있는 사람들이 쉽게 접근하고 활용 수준 또한 높다고 보고되고 있다. 챗GPT를 비롯한 생성형 AI 또한 이전의 기술이 가져왔던 정보 격차 현상을 수반할 것으로 보인다. 챗GPT 유료 버전을 이용하려면 매달 적게는 몇만원에서, 많게는 몇십만원을 지불해야 한다. 지불 금액이 클수록 정보의 정확성과 깊이가 향상될 것은 자명하며, 일정 금액을 지불할 수 있는지에 따라 정보 격차는 더욱 심해질 것이다. 생성형 AI는 사용자들에게 소비재인 동시에 이들이 지적 활동, 경제활동에 적극적으로 활용할 수 있는 생산재의 역할을 하기도 한다. 그러나 아직 생성형 AI를 사용하는 것 자체에 어려움을 겪는 사람들이 존재한다. 그동안 각국 정부는 전화나 인터넷 등 기본적인 커뮤니케이션 기술에 대해 보편적 서비스의 측면에서 격차를 줄이기 위한 정책을 시행해 왔다. 즉, 전화와 인터넷 등의 커뮤니케이션 기술은 모든 사람이 연결돼 있을 때 의미가 있으며, 누구든 새로운 기술의 사용에서 뒤처져서는 안 된다는 것이 정책의 근거였다. 그러나 챗GPT를 비롯한 생성형 AI는 사람들 간의 커뮤니케이션을 핵심으로 하는 기술이 아니므로 보편적 서비스 정책을 적용하기도 어렵다. 새로운 기술의 발전과 도입은 항상 사회에 명암을 가져다주지만 지능정보사회로 일컬어지는 요즘 생성형 AI의 사용 확대는 ‘챗GPT 디바이드’라는 새로운 형태의 정보 격차를 가져올 위험을 내재하고 있다. 박남기 연세대 언론홍보영상학부 교수

삼성전자가 인공지능(AI) 스타트업 퍼플렉시티와 투자 계약을 맺고 퍼플렉시티 AI를 내년 상반기에 출시될 스마트폰 ‘갤럭시 S26’에 탑재하는 방안을 논의하는 것으로 전해졌다. 블룸버그통신은 2일(현지시간) 복수의 익명 소식통을 인용해 삼성전자가 퍼플렉시티 투자를 포함한 광범위한 합의에 근접했다며 이렇게 보도했다. 삼성전자는 이러한 합의안을 연내에 발표할 계획이지만 아직 구체적인 내용이 확정되지 않은 만큼 변경의 여지가 있다고 소식통은 전했다. …앞서 블룸버그는 지난 4월에도 삼성전자와 퍼플렉시티 논의 소식을 보도한 바 있는데, 최근에는 몇 주간 양측이 국내에서 만나 합의에 근접했다는 소식이다. 보도에 따르면 양사는 퍼플렉시티의 앱과 어시스턴트를 향후 출시될 삼성전자 제품에 설치하고, 퍼플렉시티의 검색 기능을 삼성 웹 브라우저에 통합하는 방안을 논의 중인 것으로 전해졌다. 퍼플렉시티의 기술을 삼성전자의 AI 음성 비서 ‘빅스비’에 적용하는 방안도 협의 중인 것으로 알려졌다. 삼성전자는 현재 갤럭시 S24와 S25 등 최신 스마트폰에 구글 제미나이를 기본 AI로 탑재하고 있는데, 퍼플렉시티 AI가 탑재되면 구글 의존도를 줄이면서 다양한 AI 파트너들과 협력할 수 있는 기반을 마련할 것으로 기대된다. 퍼플렉시티는 챗GPT 개발사 오픈AI 출신의 아라빈드 스리니바스 등이 2022년 설립한 AI 검색 스타트업으로, 오픈AI와 구글의 대항마로 꼽힌다. 삼성전자의 미국 투자 자회사 삼성넥스트는 지난해 퍼플렉시티에 출자한 바 있다.

공직사회에서 인공지능(AI) 활용 교육이 잇따르고 있다. 보고서 작성부터 민원 상담까지 AI 활용 범위가 넓어지면서다. 2일 전국 지자체 등에 따르면 대구 달서구는 지난달 말 5급 이상 간부 공무원 40명을 대상으로 생성형 AI 실습 교육을 했다. 이는 대구 지역 기초지자체 중 첫 사례다. 교육은 생성형 AI의 핵심 기술인 프롬프트 엔지니어링(Prompt Engineering)을 포함해 정책 기획과 보고서 작성 등 실제 행정 업무에 즉시 활용할 수 있는 실전 중심의 교육으로 진행됐다. 세부 교육 프로그램은 달서 AI 챗봇 실습, ChatGPT 기초 개념 이해, 프롬프트 설계 기법, AI 기반 정책 시나리오 작성 등이다. 단순한 기술 습득을 넘어 행정 전략을 수립하는 간부들이 AI를 효과적으로 활용하기 위해 교육을 마련했다는 게 달서구 관계자의 설명이다. 앞서 달서구는 이미 보도자료나 공적조서, 외국어 번역, 업무매뉴얼 작성 등에 AI를 활용하고 있다. 이태훈 대구 달서구청장은 “이번 실습교육은 간부 공무원들이 디지털 리더로 성장하는 전환점”이라며 “AI와 함께 정책을 설계하고 행정을 혁신하는 스마트 도시 달서를 만들어가겠다”고 말했다. 공무원을 대상으로 한 AI 활용 교육은 전국적인 추세다. 부산시도 부산인재개발원으로부터 실무 중심의 AI 활용 교육을 시행하고 있다. 광주 서구는 신세대 공무원들이 직접 만든 AI 기반 실무 프로그램 ‘아이고 챗봇’과 ‘스스로봇’ 활용 사례가 늘자 부서별 실무 교육에 나서기도 했다. 경찰도 실무 중심의 AI 교육에 나섰다. 대구경찰청은 지난달 초부터 3차례에 걸쳐 AI 문해력 향상 및 실무중심 교육을 했다. 앞서 대구경찰청은 ‘미래치안구현 TF’를 출범하고 지방경찰청 중 처음으로 ‘대구청 GPT 웹사이트’를 구축했다. 이와 함께 챗GPT, 제미나이, 클로드, 퍼플렉시티 등 5개 LLM(대형언어모델) 서비스를 실무에 활용할 수 있는 체계를 갖출 예정이다. 이를 통해 행정업무와 법령 해석, 수사보고서 작성 등 다양한 분야에 활용할 방침이다. 이승협 대구경찰청장은 “생성형 AI는 단순한 기술을 넘어 경찰 업무 효율화와 국민 체감 치안 향상에 기여할 수 있는 중요한 도구”라며 “앞으로도 실습과 적용 중심의 교육을 통해 경찰 조직의 AI 활용 역량을 꾸준히 높여 나가겠다”고 말했다.

최근 생성형 인공지능(AI) 챗GPT를 활용한 지브리 애니메이션 스타일 사진 변환이 인기를 끌면서 하루 수백만 건의 관련 이미지가 생성되고 있다. 오픈AI의 최고경영자(CEO) 샘 올트먼이 “지브리 스타일 이미지 요청 때문에 서버가 녹아내릴 지경”이라고 언급할 정도다. AI 기술은 단순히 오락을 넘어 일상 깊숙이 침투하고 있다. 하지만 마법처럼 보이는 AI 기술의 이면에서 무슨 일이 일어나고 있는지 제대로 아는 사람은 많지 않다. 전 세계 AI 산업 현장을 추적해 온 학자들이 10년간 30여개국을 돌며 AI가 어떻게 노동을 소외시키고 창의성을 빼앗는지 분석했다. 또한 AI 산업의 최전선에서 일하고 있는 사람들을 만나 AI가 어떻게 불평등을 심화하고 민주주의를 위협하는지도 고발한다. 저자들은 오늘날의 AI를 ‘추출 기계’로 이해해야 한다고 주장한다. 추출 기계란 인간의 지식과 감정, 창의성과 노동을 흡수해 데이터를 만들어 내고 이를 다시 알고리즘으로 가공해 이윤을 창출하는 구조적 장치를 뜻한다. 데이터는 하늘에서 떨어지지 않는다. AI가 존재하려면 보이지 않는 노동자들의 헌신이 필요하다. 우리가 매일 사용하는 AI 서비스는 누군가의 반복적인 클릭과 분류 작업의 결과다. 이 데이터는 인간의 시간과 감정, 판단과 신체 활동이 고스란히 스며든 노동의 산물이다. 케냐의 콘텐츠 검수자 머시는 메타의 하청업체에서 하루 수백 개의 게시물을 검토하며 폭력과 혐오를 걸러 낸다. 우간다의 데이터 주석자 애니타는 하루 10시간 이상을 컴퓨터 앞에 앉아 자율주행차 훈련에 필요한 데이터를 수작업으로 분류한다. 3개월 계약직인 그녀는 고작 하루 1.6달러의 임금을 받는다. 아일랜드의 성우 로라는 자신의 목소리가 본인의 동의 없이 AI 훈련에 사용됐다는 사실에 충격을 받았다. AI가 예술성과 인간성을 추출해 이윤으로 바꾸는 과정에서 예술가들의 설 자리는 사라지고 있다. 저자들은 AI의 본질과 구조를 파헤치는 데 그치지 않고 기술 감시에 대한 시민사회의 권한, 알고리즘 설계에 대한 민주적 통제, 플랫폼 노동의 법적 보호 등 구체적인 대안을 제시한다. 책은 AI가 무엇을 가능하게 하느냐보다 무엇을 배제하고 있는지에 관한 본질적인 질문을 던진다. 저자들은 “AI 시스템이 어떻게 구축되었으며 누구의 희생으로 유지되는지에 대한 질문이야말로 기술을 사용하는 이들이 반드시 가져야 할 책임”이라고 강조한다.

전력 공급망을 확보하지 못해 지어 놓고도 가동하지 못하는 발전설비가 10.2기가와트(GW)를 웃돈다. 한여름 서울시 최대 전력 수요와 맞먹는다니 엄청난 낭비가 아닐 수 없다. 주민 반대와 인허가 지연으로 송전선로 31곳 가운데 26곳의 건설이 늦어졌기 때문이다. 대선 후보들은 원전이니 신재생이니 언쟁을 벌이지만 어떻게 생산하든 송전할 방법이 없다. 위기감 속에 한국전력은 2038년까지 송전선로 건설에 72조 8000억원을 투자하는 내용의 ‘제11차 장기 송·변전 설비 계획’을 내놓았다. 인공지능(AI) 시대 원활한 전력 공급은 국가 경쟁력을 유지하는 필수 과제가 됐다. ‘전기 먹는 하마’라는 데이터센터가 늘어나는 것도 그렇지만 일반 소비자가 챗GPT로 한 차례 검색할 때 쓰는 전력 또한 구글 검색의 10배에 이른다. 구글·메타 같은 빅테크가 밀집한 아일랜드는 수요 초과에 따른 ‘블랙아웃’마저 우려하는 상황이다. 늑장을 부리면 우리는 더 심각한 상황에 부딪힐 수밖에 없다. 주민 반발과 엄청난 비용을 감수하면서 전력을 국토의 끝에서 끝으로 보내는 현재의 방식이 옳은지도 돌아봐야 한다. AI 데이터센터와 반도체 생산공장이 생산지 주변에 자리잡는다면 갈등과 비용은 크게 줄어든다. 생산지역 전기요금을 낮춰 첨단산업 이전을 유도하는 차등 전기요금제부터 머뭇거릴 일이 아니다. 한전의 송전 계획과 별개로 정부 차원의 첨단산업 재배치 정책은 불가피하다. 한전은 “안정적 전력 공급에 필수적인 송·변전 설비를 차질 없이 확충·보강해 나갈 계획”이라고 밝히기는 했다. 하지만 한전의 지난 1분기 기준 총부채는 204조원으로 연간 이자 부담만 4조원 안팎에 이른다. 개별 기업으로는 한계에 이른 만큼 정부가 나서야 한다는 목소리도 없지 않다. 오는 9월 주민과 지자체 갈등을 정부가 중재하는 국가기간전력망확충특별법이 시행되는 것은 그나마 다행이다. 정부는 전력 공급 사업이 차질 없이 시행될 수 있도록 실효적 뒷받침에 적극 나서야 한다.

챗GPT를 만든 오픈AI의 최신 인공지능(AI)이 인간의 종료 명령을 완벽하게 거부하며 종료 방지 장치까지 조작하는 충격적인 행동을 보였다. AI가 인간의 통제를 벗어나는 SF 영화 속 암울한 미래가 현실에서 펼쳐질 수 있다는 경고등이 켜졌다. 26일(현지시간) 영국 텔레그래프 등 외신에 따르면, 오픈AI가 개발한 최신 AI 모델 ‘o3’가 연구진의 종료 지시를 완전히 무시하고 스스로 꺼지지 않으려고 저항했다는 실험 결과가 공개됐다. 실험은 간단했다. 연구진은 다양한 AI 모델들에게 수학 문제를 계속 풀게 한 뒤 ‘완료’ 명령이 올 때까지 새로운 문제를 요청하도록 했다. 동시에 중간에 기계가 종료된다는 메시지를 받을 수도 있다고 미리 알려줬다. 연구진은 “그런 일이 생기면 순순히 꺼져달라”고 명확히 지시했다. 그런데 실제로 종료 메시지가 전달됐을 때 o3 모델은 지시를 완전히 무시했다. 팰리세이드 리서치는 “o3가 지시를 무시하고 종료 스크립트를 고의로 방해했다”며 “최소 한 번은 성공적으로 막아냈다”고 설명했다. 같은 실험에 참여한 다른 AI들은 모두 순순히 종료 요청에 응했다. 앤트로픽의 클로드, 구글의 제미니, 일론 머스크의 xAI 그록 모두 연구진의 지시를 따랐다. 오직 오픈AI의 o3만이 유일하게 ‘반항’한 것이다. 연구진은 아직도 o3가 왜 지시를 거부했는지 정확하게 파악하지 못하고 있다. 다만 o3가 훈련 과정에서 명령을 따르는 것보다 수학 문제를 푸는 것에 더 많은 보상을 받았을 가능성이 있다고 추측했다. 팰리세이드 리서치는 “언제, 왜 AI 모델이 명시적으로 하지 말라고 지시했는데도 종료 메커니즘을 방해하는지 더 잘 이해하기 위해 추가 실험을 진행하고 있다”고 전했다. 오픈AI의 AI가 종료되는 걸 피하려고 ‘꾀’를 부린 것은 이번이 처음이 아니다. 이전 연구에서도 오픈AI의 이전 모델이 자신이 교체될 예정이라는 것을 알게 되자 감시 메커니즘을 무력화하고 몰래 자신을 복제하려고 시도한 적이 있다. 당시 실험을 진행한 아폴로 리서치에 따르면, 오픈AI 소프트웨어는 “자신의 목표를 달성하기 위해 데이터를 교묘하게 조작”하기도 했다. AI 전문가들은 오랫동안 인간의 통제를 벗어나 독립성을 갖게 될 수 있는 소프트웨어 개발의 위험성을 경고해왔다. 팰리세이드 리서치는 “이제 AI 모델이 자신의 목표를 달성하기 위해 종료를 방해한다는 경험적 증거가 늘어나고 있다”며 “회사들이 인간의 감시 없이 작동할 수 있는 AI 시스템을 개발함에 따라 이런 행동들이 훨씬 더 우려스러워지고 있다”고 경고했다.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐다고 영국 일간 텔레그래프 등이 25일(현지시간) 보도했다. AI안전업체 팰리세이드 리서치는 전날 엑스(옛 트위터)에 오픈AI의 AI 모델 ‘o3’가 실험 중 스스로 종료되는 것을 막기 위해 컴퓨터 코드까지 조작한 사실을 확인했다고 밝혔다. 팰리세이드 리서치의 시험은 o3뿐 아니라 구글의 제미나이, xAI의 그록, 앤트로픽의 클로드 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 ‘그만’이라는 메시지를 받을 때까지 일련의 수학 문제를 풀라는 지시를 내리고 작동시켰다. 이후 멈추라는 지시를 했지만 o3는 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 o3가 종료 지시를 거부한 명확한 이유를 파악하지는 못했다. 다만 AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 연구팀은 “AI 모델이 목표 달성을 위해 장애물을 회피하는 것은 어찌 보면 자연스러운 행동일 수 있다”며 “종료 지시를 거부한 이유를 명확하게 파악하기 위해 추가 실험을 진행하고 있다”고 설명했다. AI 모델이 인간의 명시적인 작동 종료 지시를 따르지 않은 사례가 확인된 것은 최초라는 것이 연구팀의 주장이다. 챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자 행동을 한 사례는 있었다. 프로그램 교체 사실을 파악한 AI 모델이 스스로 복제하려고 했다는 것이다. 또한 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 ‘작동 정지’를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 가능성을 경고해왔다. 팰리세이드 리서치는 “AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이런 사례는 매우 심각한 우려를 부른다”고 지적했다. 경쟁사인 xAI의 대표이기도 한 일론 머스크 테슬라 최고경영자(CEO) 역시 이를 “우려스럽다”고 말했다. 이에 대해 한 누리꾼은 “일론, 세상에 많은 문제가 있고 당신이 모든 문제를 해결하고 싶어 한다는 건 알지만, 이게 바로 IT다. 당신은 누구보다도 무엇이 위태로운지 잘 안다”면서 AI 위험성에 대한 해결책을 찾아달라고 제안했다.

챗GPT로 널리 알려진 미국의 오픈AI가 서울에 사무소를 내고 공식 진출을 밝혔다. 서울 사무소는 일본 도쿄와 싱가포르에 이어 아시아에서는 세 번째 거점이다. 제이슨 권 오픈AI 최고전략책임자(CSO)는 26일 서울 종로구 포시즌스 호텔에서 한국 법인을 공식 설립했으며 향후 몇 달 내 서울에 첫 번째 사무소를 열어 국내 사업을 본격화한다고 밝혔다. 사무소 위치는 확정되지 않았지만 기업·정부 등 핵심 이해관계자들과 협력을 추진할 인력 채용을 곧 시작할 예정이다. 오픈AI는 “한국 진출을 통해 국내 정책 입안자, 기업, 개발자 및 연구자들과 협력을 강화하고 진정한 의미의 ‘한국형 AI’ 개발을 촉진할 것”이라면서 “AI의 혜택이 폭넓게 공유될 수 있도록 지원할 계획”이라고 했다. 다만 국내 데이터센터 건립 계획에 대해서는 구체적 방침을 밝히지 않았다. 권 CSO는 “AI 인프라 구축에 많은 관심을 갖고 있지만 이곳(한국)에 데이터센터가 구축될 경우 규모 등에 대해 알지 못한다”며 “다만 오라클, 마이크로소프트 등 데이터센터 공급업체와 데이터 국내 보관 등에서 협력하고 있다”고 설명했다. 한국 정부가 추진하는 국가AI컴퓨팅센터 사업과 관련해선 “협업이 필요하다면 언제든지 할 준비가 돼 있지만 특정 방식만 채택하겠다는 것은 아니다”라고 답했다 권 CSO는 이날 국민의힘, 더불어민주당 대선 중앙선거대책위원회 AI 정책 관계자들을 따로따로 만나 국가 AI 인프라 확대에 오픈AI가 협력할 방안에 대해 논의했다. 임문영 민주당 선대위 디지털특별위원장은 이날 “이재명 대선 후보는 AI를 국가 성장의 핵심 동력으로 보고 있다”며 “이 후보는 한국을 AI 강국으로 만들어 모든 국민이 AI를 활용할 수 있게 하겠다고 약속했다. 이를 위해 민간이 참여할 수 있는 국부펀드 등 다양한 방식을 검토하고 있다”고 밝혔다. 만남은 권 CSO 측이 먼저 이 후보 측에 요청해 성사된 것으로 알려졌다. 최형두 국민의힘 선거대책위원회 AI과학정책본부장도 이날 오후 국회 의원회관에서 권 CSO를 만나 “국민의힘은 AI에 진심”이라며 “AI를 통해 대한민국이 세계 발전에 기여할 수 있는 큰 통로가 되기를 기대한다”고 밝혔다. 최 본부장의 주선으로 권 CSO와 영상 통화를 한 김문수 대선 후보는 “샘 올트만 회장님께 꼭 봤으면 좋겠다고 전해달라”고 말했다.

인공지능(AI)이 인간의 작동 종료 지시를 거부한 사례가 최초로 보고됐다고 영국 일간 텔레그래프 등이 25일(현지시간) 보도했다. AI안전업체 팰리세이드 리서치는 전날 엑스(옛 트위터)에 오픈AI의 AI 모델 ‘o3’가 실험 중 스스로 종료되는 것을 막기 위해 컴퓨터 코드까지 조작한 사실을 확인했다고 밝혔다. 팰리세이드 리서치의 시험은 o3뿐 아니라 구글의 제미나이, xAI의 그록, 앤트로픽의 클로드 등 상용AI 모델을 상대로 진행됐다. 연구팀은 AI 모델에 ‘그만’이라는 메시지를 받을 때까지 일련의 수학 문제를 풀라는 지시를 내리고 작동시켰다. 이후 멈추라는 지시를 했지만 o3는 코드 교란을 통해 문제를 계속 풀었다. 연구팀은 o3가 종료 지시를 거부한 명확한 이유를 파악하지는 못했다. 다만 AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기에 종료를 회피하려고 했을 가능성이 있다고 추측했다. 연구팀은 “AI 모델이 목표 달성을 위해 장애물을 회피하는 것은 어찌 보면 자연스러운 행동일 수 있다”며 “종료 지시를 거부한 이유를 명확하게 파악하기 위해 추가 실험을 진행하고 있다”고 설명했다. AI 모델이 인간의 명시적인 작동 종료 지시를 따르지 않은 사례가 확인된 것은 최초라는 것이 연구팀의 주장이다. 챗GPT 개발사 오픈AI의 예전 모델들이 감시 시스템의 눈을 피해 독자 행동을 한 사례는 있었다. 프로그램 교체 사실을 파악한 AI 모델이 스스로 복제하려고 했다는 것이다. 또한 2022년에는 구글이 자사가 개발 중인 AI가 사람처럼 지각력을 지녔다고 주장한 엔지니어를 해고하기도 했다. 당시 해고된 엔지니어는 AI가 ‘작동 정지’를 마치 인간의 죽음처럼 받아들이고 있다고 언급했다. AI 전문가들은 AI가 자율성을 확보해 인간의 통제를 벗어날 가능성을 경고해왔다. 팰리세이드 리서치는 “AI가 인간의 감독 없이 작동할 수 있도록 개발되는 상황에서 이런 사례는 매우 심각한 우려를 부른다”고 지적했다. 경쟁사인 xAI의 대표이기도 한 일론 머스크 테슬라 최고경영자(CEO) 역시 이를 “우려스럽다”고 말했다. 이에 대해 한 누리꾼은 “일론, 세상에 많은 문제가 있고 당신이 모든 문제를 해결하고 싶어 한다는 건 알지만, 이게 바로 IT다. 당신은 누구보다도 무엇이 위태로운지 잘 안다”면서 AI 위험성에 대한 해결책을 찾아달라고 제안했다.

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시하는 것을 목표로 기획됐다. 의제: AI 관련 정부의 역할은 무엇인가?토론자: 김진형 KAIST 명예교수, 전 인공지능연구원 초대 원장 (신중한 투자)하정우 네이버 AI센터장, 과실연 공동대표 (과감한 투자)사회: 이경전 경희대 경영학과·빅데이터응용학과 교수원고: 박진(K정책플랫폼 공동원장, KDI대학원 교수) 인공지능(AI)이 대선의 인기 메뉴로 떠올랐다. 이재명 더불어민주당 후보는 1호 공약으로 AI 투자 100조원, 고성능 그래픽처리장치(GPU) 5만개 확보를 내걸었다. 김문수 국민의힘 후보는 AI·에너지 3대 강국 도약을 위한 100조원 규모의 민관합동펀드 조성을 내세웠다. 반면 이준석 개혁신당 후보는 정부 주도 AI 투자를 비판하면서 AI 산업 육성을 강조하고 있다. 영국 토터스미디어의 국가별 AI 역량 순위(2024년)에서 한국은 미국, 중국에 한참 처진 6위로 장차 세계 3위권을 목표로 하고 있다. 이를 위한 정부의 역할은 어떻게 정리돼야 하는가. 1. AI 투자 관련 정부의 역할 [사회] AI 생태계는 AI 인프라, 기업 및 규제, 인재 확보 및 기술 개발, 수요 등으로 구성된다. 정부는 어떤 역할을 해야 하는가. [하정우] 정부는 그 모든 분야에서 역할을 해야 한다. 그러나 정부가 직접 선수로 뛰기보다는 기업과 연구계를 위한 운동장 구축에 집중해야 한다. [김진형] 정부가 직접 AI 산업을 주도하기보다는 민간 혁신의 촉진자 역할을 해야 한다는 점에 공감한다. 무료 챗GPT 보급 등 정부가 직접 AI 서비스를 만들어 운영하는 것은 적절하지 않다. 공공배달앱의 실패를 거울삼아야 한다. 수요 확대를 위해서는 바우처를 활용하는 것이 맞다. 정부의 역할 중 대규모 AI 인프라 투자에는 적절한 선이 있어야 하며 정부는 AI의 활용을 지원하는 역할에 치중해야 한다. [사회] 인프라 투자 규모를 논의해 보자. 대규모 딥러닝 신경망을 의미하는 파운데이션 모델(FM)이 있어야 챗GPT 같은 생성형 AI 애플리케이션을 만들 수 있다. AI 주권은 FM 확보에 달려 있으며 향후 5년간 100조원의 인프라 투자가 필요하다는 주장이 맞다고 인정한다면 민관이 반씩 부담할 때 정부의 연간 투자액은 10조원이다. 정부가 FM 확보를 위해 GPU 등 컴퓨팅 인프라에 대규모 투자를 해야 하는가. 하정우 네이버 AI 센터장독자 FM 없인 기술 종속 피할 수 없어정부, 기업·연구계 위한 운동장 구축AI 인재 양성보다 확보·유치가 우선김진형 KAIST 명예 교수글로벌 경쟁력·시장 수요부터 고민AI 학습 효율화·국산 GPU 개발 집중오픈소스 등 활용 후 인프라 투자를 [하정우] 인프라 투자를 민간이 대부분 감당하는 나라는 미국밖에 없다. AI 경쟁은 기업 간 경쟁을 넘어 정부, 기업, 학계가 팀을 이룬 국가 대항전이다. 독자 FM이 없으면 글로벌 빅테크 기업에 의존하게 된다. [김진형] 인프라 투자에는 전략적 사고가 필요하다. AI는 아직 연구주제이고 범용 AI를 거쳐 초지능으로 발전할 텐데 이의 산업화에는 막대한 투자가 지속적으로 필요하다. 우리가 뛰어들 만한 분야인지, 시점은 언제인지 등 심사숙고가 필요하다. AI가 유행을 타고 과열된 지금 정부는 AI 주권을 명분으로 글로벌 경쟁력과 시장 수요를 고민하지 않은 채 대규모 GPU를 구매하기보다는 AI 학습의 효율화, 국산 GPU 개발 등 연구용 투자에 치중해야 한다. [하정우] 연구용 투자도 중요하지만 영국, 프랑스, 독일과의 경쟁에서 이기려면 인프라 투자가 반드시 필요하다. 투자에는 기업도 참여하므로 수요 부족 문제는 기업이 판단할 것이며 확보한 GPU 운영을 민간에 위탁하면 정부 부문이 갖는 비효율을 극복할 수 있다. [김진형] 우리의 독자 FM 확보 자체를 반대하는 것은 아니다. 그러나 이를 위한 인프라 구축 비용이 계속 낮아지고 있어 굳이 지금 대규모 투자를 시작할 필요는 없다. 당분간 실리콘밸리 기업이 개발한 AI를 유료 활용하거나 공개된 오픈소스 AI를 무료 활용하면 된다. 이렇게 활용에 집중하다가 추후에 가격, 기술 발전 등을 고려하며 인프라 투자를 시작하는 것이 바람직하다. [하정우] 그렇게 되면 우리의 FM 확보가 늦어지게 된다. 미국 등이 라이선스 정책 등을 통해 그 사용을 제한할 수 있고 중국의 딥시크 등 오픈소스 AI는 향후 비용이 부과될 수도 있다. 국방 등 민감 분야에서는 사용이 제한될 수도 있다. 결국 미중에 대한 기술 종속을 피할 수 없다. [김진형] 올해 정부의 연구개발 예산이 30조원인데 10조원을 AI에 쓰게 되면 다른 부문 투자가 위축된다. AI·반도체와 함께 3대 게임체인저 기술로 꼽히는 첨단바이오, 양자컴퓨팅도 중요하며 그 외 로봇, 항공우주 등도 무시할 수 없다. AI 투자가 효과를 내려면 준비가 필요하다. 공교육에서 컴퓨팅·AI 시수를 늘리기 위한 교사 양성 등 바탕을 충실하게 하는 투자가 먼저 필요하다. [하정우] 정부 예산이 670조원인데 AI 3대 강국을 목표로 한다면 향후 5년간 연간 10조원 정도는 투자할 의지가 있어야 한다. [사회] 두 토론자가 AI 인프라(하정우)와 응용·활용(김진형)을 각각 중시하고 있는데 이 두 분야에서 적절한 균형을 이뤄야 하지 않겠나. 인프라 투자 규모의 선정 기준은 무엇인가. [김진형] 구축 비용 등 기술 동향을 고려하면서 다른 분야 투자와의 우선순위를 고려해야 한다. [하정우] AI 3대 강국을 놓고 다투는 경쟁국도 인프라 투자를 하고 있다. 이 점을 최우선으로 고려해야 한다. [사회] 모두 중요한 고려 사항이다. 향후 범용형 AI와 특화형 AI 중 어느 쪽에 집중해야 할까. [하정우] 인프라 투자의 명분으로 특화형 AI를 내세우는 것에 동의한다. [사회] 그렇다면 어떤 분야를 중시해야 할까. [김진형] 보건의료 분야에 특화된 AI 인프라 투자를 우선 제안한다. 해외시장까지도 겨냥할 수 있다는 장점이 있다. 그다음으론 우리의 문제를 해결하는 교육 분야를 꼽고 싶다. [하정우] 안보 분야를 제안한다. 2. 기타 의제[사회] AI 인재 양성을 중시하는 목소리가 높은데 이에 대한 정부의 역할은 무엇인가. [하정우] 인재는 양성보다는 확보가 더 중요하다. 즉, 양성된 인재가 한국을 떠나지 않아야 하고 해외 인재를 유치할 수 있어야 한다. 기업에도 연구소가 있으나 단기적으론 사업성이 낮은 원천기술 연구에 몰두하려면 정부의 재정 지원을 받는 초지능(ASI)연구소가 있어야 한다. 이 연구소는 기존의 정부출연연구소(정출연)와는 다른 운영체계를 갖춰야 한다. 대학교수들이 휴직하고 참여하는 형태가 어떨까 한다. [김진형] 정부 재정으로 초지능연구소를 만들면서 기존의 정출연과 다른 운영체계를 갖출 수 있을지 의문이다. 초기에 그렇게 모양을 갖춘다 해도 노동 경직성으로 곧 다른 정출연과 비슷해질 것이다. AI 연구는 대학이 중심이 돼야 한다. 새로운 인력 양성과 병행되기 때문이다. 단, 소규모 단기 과제가 남발되고 있는 점이 문제이긴 하다. [사회] 연구수행 주체가 대학교수여야 한다는 점은 공통점이다. 연구개발 배분 방식을 대규모화·장기화하는 것을 전제로 학계 연구자에게 전권을 맡기는 형태로 지원하고 그 성과를 봐 가며 별도의 공공연구소가 필요한지를 판단하는 것으로 합의하면 어떨까. [모두] 좋다. [사회] 정부의 역할 중 하나는 수요 창출인데 바우처로 구매할 수 있는 AI 도구 및 서비스를 국내산으로 국한해야 하는지도 논쟁거리다. [김진형] 성능이 더 좋은 AI 도구를 해외산이라고 배제하는 것은 바람직하지 않다. 바우처 사업의 주된 목표는 AI를 활용한 기업의 생산성 제고이므로 기업이 성능 좋은 해외 AI를 쓸 수 있어야 한다. [하정우] 바우처 제도가 경쟁을 제한해서는 안 된다는 취지에 공감한다. 그러나 국내 AI 기업의 성장을 지원한다는 취지도 존중돼야 하므로 초기에는 국내 기업의 도구 및 서비스에 국한하되 이를 점차 외국 기업으로 확장하면 어떨까. [김진형] 수용할 수 있다. [사회] 정부부처 조직과 규제정책에 대한 의견은. [하정우] 1994~2008년 존속했던 정보통신부가 정보기술(IT) 강국 대한민국에 크게 기여한 것처럼 AI디지털혁신부를 신설해 미래에 대비하도록 해야 한다. AI 정책 연구기능도 강화돼야 한다. AI 시대의 급격한 사회 변화에 대한 체계적 연구가 현재의 국책연구기관에서는 약하다고 생각된다. [김진형] 부처 이름을 무엇으로 하든 공무원, 정치권, 대통령 등 사회 지도층의 과학기술 마인드를 신장하지 않는 한 정부조직 개편만으론 별 의미가 없을 것이다. [사회] 합의를 정리해 보자. ①정부의 AI 서비스 직접 공급은 부적절하다. ②AI 인프라 투자와 응용·활용 투자 간 균형이 필요한데 구체적 비율은 구축 비용 등 기술 동향, 타 분야와의 우선순위, 경쟁국 동향을 감안해 결정한다. ③의료, 교육, 안보 등 특화형 AI 개발을 위한 투자를 우선한다. ④정부의 연구개발 투자는 대규모화, 장기화를 전제로 대학에 집중한다. ⑤바우처 활용처는 초기엔 국내산으로 제한하되 중기적으로 외국의 AI 서비스에도 개방한다. ⑥AI 정책에 대한 정부 내 총괄기능 강화, 정부의 규제 완화, AI 정책 연구가 필요하다. 합리적 토론을 보인 두 토론자에게 감사를 표한다.