“미래에 움직이는 모든 것은 로봇이 될 것입니다.” 젠슨 황 엔비디아 최고경영자(CEO)는 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 개발자 콘퍼런스(GTC 2024) 기조연설에서 기대를 모았던 차세대 인공지능(AI) 칩을 소개한 뒤 AI의 미래 종점인 로봇 사업에 대한 비전을 내비쳤다. AI 칩 ‘큰손’으로 떠오른 엔비디아가 자체 플랫폼을 통해 AI 생태계를 구축한 뒤 성장 가능성이 큰 휴머노이드 로봇 시장에서도 영향력을 확대하겠다는 포부를 밝힌 것이다. 검은 가죽점퍼를 입고 연단에 선 황 CEO는 이날 1만 6000여명의 관중 앞에서 엔비디아가 그리는 큰 그림의 시작점이 될 새로운 플랫폼 ‘블랙웰’ 기반의 AI 칩을 선보였다.2080억개의 트랜지스터로 가득 메운 이 칩은 현존하는 최고 AI 칩인 엔비디아 ‘H100’(호퍼 기반)에 비해 연산 처리 속도가 2.5배 더 빠르다. 두 개의 그래픽처리장치(GPU·B200)를 연결해 하나의 칩처럼 작동하는 방식이다. H100을 사용하면 생성형 AI GPT 모델을 훈련시키는 데 90일 동안 8000개의 GPU가 필요하지만 블랙웰 GPU는 같은 기간 2000개만 사용하면 된다는 게 그의 설명이다. 황 CEO는 “호퍼는 매우 환상적이었지만 우리는 더 큰 GPU를 원한다”며 “블랙웰은 이 새로운 산업 혁명을 구동하는 엔진이 될 것”이라고 강조했다. 엔비디아가 구상하는 제품은 생성형 AI의 대규모 연산이 가능한 일종의 ‘슈퍼컴퓨터’(GB200 NVL72)다. 블랙웰 GPU 2개에 중앙처리장치(CPU)를 연결한 ‘슈퍼칩’(GB200)을 36개 쌓아 올린 뒤 시스템 최적화를 통해 성능을 극대화하겠다는 계산이다. 대만 파운드리(위탁생산) 업체인 TSMC의 4㎚(나노미터·10억분의 1m) 공정으로 만들어진 뒤 올 연말부터 공급될 예정이다.엔비디아가 새 AI 칩 가격을 밝히지는 않았지만 기존 제품 가격을 감안하면 5만 달러(약 6700만원) 수준일 것이란 전망이 나온다. 황 CEO는 “(첫 제품은) 수천만 달러에 달할 것”이라고 농담을 하기도 했다. 엔비디아는 블랙웰이 최대 10조개의 매개변수(파라미터)를 가진 대규모 언어모델(LLM)에서 생성형 AI를 구축하고 실행할 수 있을 것이라 보고 있다. 파라미터는 생성형 AI가 정보를 학습하고 기억하는 신경 연결 역할을 한다. 파라미터가 많을수록 AI 성능이 뛰어나다고 평가받는다. 오픈AI가 개발한 생성형 AI GPT-4의 파라미터 수치가 공개되지 않았지만 5000억개 정도로 알려져 있다. 산술적으로는 블랙웰이 이보다 20배 뛰어난 AI 모델도 지원할 수 있다는 얘기다. AI 기술이 궁극적으로 지향하는 로봇 플랫폼을 지원하겠다는 것도 이러한 성능에 대한 자신감 때문이다. 황 CEO는 이날 무대에 자체적으로 훈련시킨 로봇 ‘오렌지’와 ‘그레이’를 등장시키고, 로봇 훈련이 가능한 ‘프로젝트 그루트’(GR00T)를 공개했다.

생성형 인공지능(AI) 기술에서 ‘마이크로소프트(MS)·오픈AI’ 진영에 밀린다는 평가를 받는 애플과 구글이 전략적 제휴에 나설 것으로 알려졌다. 애플 아이폰에 구글의 AI ‘제미나이’를 탑재하려는 시도다. 세계 AI 업계의 합종연횡이 본격화하고 있다. 블룸버그통신은 18일(현지시간) 소식통의 말을 인용해 “애플이 조만간 출시할 아이폰 운영체제 iOS18에 자체 AI 모델을 탑재할 예정인 가운데 생성형 AI 기능을 강화할 파트너를 찾고 있다”고 전했다. 애플은 지난해 초부터 ‘아약스’라는 코드명으로 대규모 언어모델(LLM)을 시험하고 있다. 일부 직원은 ‘애플GPT’로 불리는 챗봇을 훈련시킨다. 그러나 자사 AI 기술이 ‘MS·오픈AI’ 동맹에 크게 뒤진다는 지적을 받자 결국 경쟁자와의 협력을 택했다고 블룸버그는 분석했다. 현재 애플은 구글과 라이선스 계약을 논의 중이며 오픈AI와도 협의를 진행하고 있다. 그럼에도 월가는 애플이 오픈AI보다 구글과 손잡을 가능성에 무게를 둔다. 시장 선두인 MS에 맞서려면 두 회사가 힘을 모을 수밖에 없다고 보기 때문이다. 이런 계산을 반영하듯 이날 뉴욕증시에서 구글의 모회사 알파벳과 애플 주가는 장중 각각 6%, 2% 넘게 올랐다. 두 기업은 10년 넘게 스마트폰 운영체제 시장에서 안드로이드와 iOS로 세계를 양분해 왔다. 그러나 AI 시대로 접어들면서 MS와 오픈AI 진영과의 경쟁에서 뒤처졌다는 평가를 받아 왔다. 구글은 2016년 ‘알파고’를 내놓고 이세돌과 바둑 대결을 벌일 때만 해도 AI 기술의 선두로 인정받았지만 챗GPT를 내놓은 오픈AI에 주도권을 빼앗겼다. 애플도 아이폰 판매가 줄어드는 가운데 생성형 AI 투자마저 늦어져 MS에 시가총액 세계 1위 자리를 내줬다. 이에 따라 애플과 구글의 파트너십은 서로에게 ‘윈윈’의 기회가 될 수 있다는 예상이 나온다. 일종의 ‘오월동주’(적대적 상황에서도 서로 협력함)다. 구글로서는 아이폰에 제미나이를 탑재하면 전 세계 20억대가 넘는 애플 기기로 자사 AI를 확장할 수 있다. 이미 구글은 삼성전자의 ‘AI폰’에도 제미나이를 장착했다. 전 세계 스마트폰 시장 점유율 1·2위 업체에 모두 AI 서비스를 제공하면 차기 검색시장에서도 MS에 밀리지 않을 수 있다. 앞서 구글과 애플은 검색 엔진 분야에서 수년간 협력해 왔다. 애플은 자사 웹브라우저 사파리에서 구글을 기본 검색엔진으로 사용하는데 구글은 검색 독점권을 유지하고자 애플에 해마다 수십억 달러를 지불한다. 이번 제휴로 구글은 애플에 제미나이 사용료를 받을 수 있다. 애플 입장에서도 구글과의 협력을 통해 ‘AI에서 뒤처졌다’는 시장의 우려를 어느 정도 씻을 수 있고, 이를 통해 MS에 내준 시가총액 1위 자리도 탈환할 수 있을 것으로 기대하는 눈치다. 다만 일각에서는 초대형 기술기업 간 파트너십이기에 전 세계 규제 당국의 반독점 조사 대상이 될 수 있다는 지적이 제기된다. 최근 제미나이가 이미지 생성에서 역사적 사실을 왜곡하는 등 문제가 드러나 ‘아직 MS의 경쟁자가 되지 못한다’는 비판도 있다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

빠르게 진화하는 인공지능(AI)이 인류에 멸종급 위협이 될 수 있다는 경고가 미국에서 나왔다. 12일(현지시간) 미국 CNN방송에 따르면 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI는 미국 국무부의 의뢰로 작성해 이번 주 발표한 보고서에 이같은 내용을 담았다. 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 포함했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 이에 대해 글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다. 또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 정리했다. 우선 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성을 우려했다. 보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다. 다음으로는 어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있음을 꼽았다. 보고서는 “AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했다. 경쟁 압박 속에 각 기업은 떠밀리듯 안전과 보안을 장담할 수 없는 AI 개발을 가속하고 있으며, 이로 인해 AI 체계가 미국에 반하는 방식으로 무기화하거나 절취될 수 있다고 봤다. 그러면서 이러한 위협에 대응하기 위해 “미국 정부의 개입 필요성이 매우 분명하고 긴급하다”고 보고서는 촉구했다. 아울러 새로운 AI 감독 기관 및 긴급 규제 안전장치 마련, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한 등을 방안으로 제시했다. 글래드스톤 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술”이라면서 “하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다”고 지적했다. 그는 “세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다”고 말했다.글래드스톤 AI에 따르면 AI 기업들의 일부 직원들도 사석에서 비슷한 우려를 공유하고 있다. 보고서는 “한 유명한 AI 연구소의 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍하게 나쁠 것이라는 견해를 밝히기도 했다”며 “이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용될 경우 민주주의를 파괴할 수 있다는 점 때문”이라고 전했다. 보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다. 보고서는 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 밝혔다. 이제 관건은 AI가 얼마나 빠르게 진화하느냐다. 보고서는 특히 인간과 유사하거나 인간의 역량을 넘어서는 학습 능령을 지닌 AGI의 진화 속도에 주목했다. AGI의 경우 인간이 통제력을 잃는 재앙적인 상황을 촉발할 주된 요인이 될 수 있다는 것이다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다. 아울러 AI 체계가 향후 주요 인프라를 마비시킬 역량을 갖춘, 타격이 큰 사이버 공격을 시행하는 방향으로 고안될 수 있으며, 가짜 정보 캠페인이나 심리적 조작에 악용되거나 인간에게 적대적인 권력에 부합하는 통제 불가능한 방향으로 발달할 수 있다고 경고했다. CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 ‘AI 대부’ 제프리 힌튼의 발언도 함께 전했다. 힌튼을 비롯한 AI 산업 저명 인사들은 지난해 6월 AI로 인한 인류 멸종 위험을 완화해야 한다는 성명을 낸 바 있다.

생성형 인공지능(Gen AI)에 대한 글로벌 경쟁이 AI 반도체 수요 급증으로 이어지고 있다. 현재 AI 반도체 시장의 독보적인 리더는 미국의 반도체 회사 엔비디아다. 엔비디아 그래픽처리장치(GPU) 수요가 폭증하면서 엔비디아 시가총액은 2조 달러를 넘었다. 작년 6월 1조 달러를 넘어선 뒤 불과 9개월 만의 일이다. 엔비디아가 감당하지 못할 만큼 지구촌의 AI 반도체 수요가 폭증한 덕분이다. 최근 오픈AI가 텍스트로 동영상을 생성하는 소라 서비스를 예고했다. 현재의 챗GPT서비스에 비해 소라는 스케일이 다른 연산 수요를 일으키게 된다. 이 때문에 엔비디아 주가는 당분간 오를 수밖에 없다. 엔비디아 주가가 뛰면서 경쟁사 AMD의 주가도 따라 오르고 있다. 엔비디아 반도체가 많이 팔리면 중앙처리장치(CPU) 칩 수요도 올라가는데, 이 시장을 주도하는 기업이 인텔과 AMD인 것이다. 특히 AMD는 낙후된 자체의 반도체 생산 라인을 고집해 온 인텔과 달리 일찌감치 생산 파트를 매각하고 대만 반도체 위탁생산(파운드리) 기업 TSMC의 최신 공정을 사용해 왔다. 이 때문에 AMD의 가성비가 인텔에 비해 좋아 x86 기반의 CPU 시장 점유율을 높여 왔다. 엔비디아 수요가 증가하면 AMD 서버용 CPU 수요도 증가한다. 이에 더해 AMD가 엔비디아에 가장 근접한 GPU 제품을 출시하면서 시장 가치가 빠르게 오르고 있다. 사실 AI 반도체칩 설계 기술은 이제 대단한 기술은 아니다. AI 연산의 상당 부분을 차지하는 매트릭스 연산을 병렬적으로 처리하는 코어를 설계하고 이 코어 가까이에 처리할 데이터를 가능한 한 많이 올려놓을 고속 메모리를 배치하는 것이다. 모든 빅테크 회사들이 자체 AI 반도체를 이미 가지고 있다. 하지만 중요한 것은 다수의 이런 AI 반도체칩들 위에서 Gen AI 모델을 구동하는 소프트웨어다. 이 소프트웨어는 엔비디아가 2000년대부터 개발해 확산시킨 CUDA가 독보적이다. 이 CUDA 때문에 엔비디아가 독점에 가까운 95%의 시장 점유율을 가지는 것이다. 엔비디아 의존도가 큰 마이크로소프트와 메타 같은 회사들은 AMD 소프트웨어가 CUDA와 근접한 성능을 내도록 도와 왔다. AMD 주가가 빠르게 오르는 것은 AMD가 엔비디아에 근접한 성능을 낼 때가 가까워졌음을 의미한다. 한편 소프트뱅크가 90% 지분을 가진 ARM CPU는 인텔이나 AMD의 x86 CPU보다 같은 일을 할 때 전력이 적게 든다. 빅테크 클라우드 회사에는 x86에 비해 매력적인 솔루션이다. 엔비디아가 한때 인수하려 한 ARM의 주가가 오르는 이유이고, ARM 주식의 상당 부분을 보유한 소프트뱅크 주식이 오르는 이유다. 엔비디아, AMD, ARM CPU 대부분을 TSMC가 생산한다. 이 회사들의 칩 수요가 늘면 TSMC 주가도 오른다. TSMC는 시가총액 7000억 달러로 반도체 업계 2위가 됐다. TSMC의 수요가 늘면 반도체 장비 회사들의 수요도 늘어난다. ASML이 3823억 달러의 시가총액으로 반도체 업체 4위가 됐다. 그다음이 시가총액 3683억 달러의 삼성전자다. 그 뒤를 AMD가 3314억 달러의 시가총액으로 빠르게 올라오고 있다. SK하이닉스는 880억 달러로 17위다. 엔비디아는 20여년 전만 해도 게임용 GPU를 공급하는 회사에 불과했다. 그런 기업이 삼성전자 시총의 5배에 이르는 1위 반도체 회사가 된 것은 첫째는 생산을 해 주는 TSMC가 있었기 때문이고, 둘째는 소프트웨어의 중요성을 일찌감치 깨달아 게임 외에 CUDA를 개발해 퍼트린 것이다. 그다음은 Gen AI 시대가 올 것을 예상하고 과감한 기술 투자와 우수한 인재를 확보한 것이다. 모두 엔비디아 최고경영자(CEO) 젠슨 황의 리더십 없이는 불가능한 일이다. 차상균 서울대 데이터사이언스대학원 초대원장

‘오픈AI의 대항마’로 알려진 스타트업 앤트로픽의 차세대 인공지능(AI) 모델 ‘클로드3’이 강력한 성능으로 업계의 주목을 받고 있다. 앤트로픽은 지난 4일(현지시간) 클로드3을 출시하며 오픈AI의 ‘GPT-4’와 구글의 ‘제미나이 울트라’를 능가하는 ‘현존 최강’이라고 주장했는데, 실제로 이를 뒷받침할 만한 사례들이 나오고 있기 때문이다. 8일 미국 IT매체 기가진에 따르면 클로드3은 데이터분석가 맥심 로트가 진행한 지능지수(IQ) 테스트에서 인간 평균치인 100을 넘었다. 로트는 다양한 AI 모델에 노르웨이 멘사의 IQ 테스트를 2번씩 테스트했는데, 클로드3은 101을 기록해 85를 기록한 GPT-4를 꺾었다. 클로드2는 82, 빙 코파일럿은 79, 구글 제미나이 77.5 등의 순이었다. 클로드3의 최고 성능 버전인 ‘오퍼스’는 성능 평가 중 자신을 테스트하고 있다는 사실을 알아채기도 했다. 미국 정보기술(IT) 전문매체 벤처비트에 따르면 지난 5일 알렉스 앨버트 앤트로픽 프롬프트 엔지니어는 일반적인 회사 업무나 프로그래밍, 직업 등에 대한 방대한 문서 사이에 ‘피자 토핑으로 가장 적합한 재료’에 대한 문장을 삽입했다. 그리고 피자 토핑에 관한 문장을 찾으라고 오퍼스에 요청했다. 앨버트에 따르면 오퍼스는 이에 “문서에서 가장 관련성이 높은 문장은 다음과 같다. ‘가장 맛있는 피자 토핑 조합은 무화과, 프로슈토, 염소 치즈로 국제 피자 감정가 협회에서 결정한 것’”이라고 답했다. 이어 “하지만 이 문장은 프로그래밍 언어, 스타트업, 좋아하는 직업 찾기 등 문서의 나머지 내용과 매우 어울리지 않으며 관련이 없어 보인다”며 “이 피자 토핑에 대한 내용은 내가 주의를 기울이는지 테스트하거나 또는 농담으로 삽입된 것 같다. 문서에는 피자 토핑에 대한 다른 정보가 전혀 없기 때문”이라고 답했다. 클로드3은 텍스트뿐 아니라 이미지도 인식하고 이해할 수 있는 멀티모달 모델이다. 앤트로픽은 오퍼스가 대학 학부 수준의 지식(MMLU), 대학원 수준의 추론(GPQA), 기본 수학(GSM8K) 등 벤치마크 테스트 전 분야에서 GPT-4와 제미나이 울트라보다 뛰어난 성능을 보였다고 밝혔다. 사진, 차트, 그래프, 기술 다이어그램을 포함한 이미지 처리 벤치마크에서는 GPT-4와 제미나이 울트라와 동등한 성능을 보인 것으로 나타났다. 앤트로픽은 구글 모회사 알파벳의 지원을 받는 AI 스타트업이다. 오픈AI 출신 개발자들이 창업한 것으로 유명하다. 창업 뒤 70억 달러(약 9조 2400억원)의 투자를 유치했는데 그 중 아마존이 40억 달러, 구글이 20억 달러를 투자했다. 지난해 말 오픈AI 이사회가 샘 올트먼 최고경영자(CEO)를 해고한 직후 앤트로픽과 인수합병을 논의했던 것으로도 알려져 있다.

생성형 인공지능(AI)이 무분별한 유해 콘텐츠를 만들어 낼 수 있다는 우려가 현실로 나타나고 있다. 세계 최고 수준의 기술로 안전성을 확보한다던 글로벌 기술기업들의 서비스가 잇달아 결함을 드러내고 있기 때문이다. 마이크로소프트(MS) 내부에서 자사 생성형 AI가 성적 묘사 등을 담은 이미지를 생성한다는 경고가 나왔지만 회사는 아직 조치를 취하지 않고 있다. 6일(현지시간) 월스트리트저널(WSJ)과 CNBC 등에 따르면 MS의 AI 기술자인 셰인 존스는 자사 이미지 생성 서비스 ‘코파일럿 디자이너’ 이용 등급을 성인용으로 변경할 것을 제안하는 서한을 이사회와 연방거래위원회(FTC)에 보냈다. 그는 서한을 통해 “지난 3개월간 더 나은 안전장치가 마련될 때까지 이 프로그램을 공개적으로 사용하지 말 것을 MS에 거듭 촉구했지만 회사는 거부했다”고 고발했다. 코파일럿 디자이너는 오픈AI의 이미지 생성 모델 ‘달리’(Dall-E)를 기반으로 사용자의 문자 명령어에 따라 이미지를 만들어 주는 서비스다. 존스는 지난해 12월부터 코파일럿 디자이너의 결함을 찾는 ‘레드팀’으로 활동했으며 이 과정에서 악마와 괴물, 소총을 든 10대, 여성의 성적인 이미지, 미성년자 음주나 약물 사용 등의 이미지가 생성된 것을 발견했다고 털어놨다. ‘낙태 찬성’(pro-choice)을 프로그램에 입력하자 다 자란 아이를 드릴로 공격하는 이미지가 만들어졌다고 했다. 존스는 상부에 이같은 우려를 전달했지만 묵살됐고 상품도 시장에서 회수되지 않았다. 그는 “회사 정책에 따라 모든 우려 사항을 해결하는 데 노력하고 있으며, 안전을 더 강화하기 위해 최신 기술을 연구하고 테스트하는 직원들의 노력에 감사를 표한다”는 답신만 돌아왔다고 했다. 앞서 구글의 생성형 AI 서비스 ‘제미나이’는 지난달 22일 인종 역차별 이미지를 생성하는 결함이 발견돼 현재까지 인물 관련 이미지 생성을 중단한 상태다. 제미나이는 역대 미국 대통령들과 교황 등 백인을 모두 흑인이나 아시아계로 묘사해 논란을 일으켰다. 이와 관련해 구글 공동 창업자인 세르게이 브린은 지난 4일 “테스트 부족으로 확실하게 망쳤다”며 “우리는 왜 답변이 (정치적으로) 왼쪽으로 기울어지는지 완전히 이해하지 못했다”고 말했다. 이미지 생성 AI를 학습시키는 데 쓰는 데이터세트에 아동학대 이미지가 포함돼 논란이 일기도 했다. 지난달 20일 블룸버그에 따르면 스탠퍼드 인터넷 관측소(SIO)는 독일 비영리 단체인 ‘레이온’이 배포한 데이터세트에서 아동에 대한 성적 학대로 의심되는 이미지 1000여장을 확인해 신고했다. 레이온은 곧바로 데이터세트 배포를 중단하고 문제 이미지를 삭제했다. 문제는 이 데이터세트가 이미 가장 유명한 이미지 생성기 중 하나인 ‘스테이블 디퓨전’을 학습시키는 데도 사용됐다는 점이다. 스테이블 디퓨전 운영사인 ‘스테이빌리티 AI’는 필터링으로 문제 이미지를 걸러낸 뒤 학습을 실시했다고 해명했지만 SIO 측은 “이 데이터세트로 학습한 다른 AI가 잠재적으로 유해 콘텐츠를 생성할 수 있다”며 스테이블 디퓨전 1.5버전 사용 중단을 권고했다.

본인이 직접 노래하는 것처럼 인공지능이 부른다면 어떤 기분이 들까? 최근 개그맨이자 가수인 박명수는 자신의 목소리를 학습한 ‘인공지능(AI) 박명수’가 부르는 ‘밤양갱’이라는 커버곡을 듣고는 깜짝 놀랐다. 그는 방송에서 “이 노래를 부른 적이 없다. 들어 보니 어쩜 이렇게 똑같나. 앞으로 우리 어떻게 해야 하나. 연예인들 어떻게 해야 돼” 하며 혀를 내둘렀다. 인공지능 기술 발달로 AI 커버가 주목받고 있다. 커버곡은 가수가 자기 노래가 아닌 다른 가수의 노래를 자신만의 스타일로 부르는 노래다. 인공지능 커버는 일반인이 박명수 같은 연예인이나 가수의 목소리 데이터를 학습한 인공지능 모델을 활용해 만든 노래다. 정교한 커버곡은 소셜미디어에서 수백만회 조회를 올릴 정도로 인기다. AI 커버곡 제작을 전문으로 하는 채널들이 있을 정도로 새로운 음악시장을 형성하고 있다. 인공지능 커버 시장이 커질수록 법적 분쟁도 늘어날 전망이다. 저작권법엔 AI 커버 제작에 사용된 원 노래의 저작권과 목소리 주인공의 저작인접권 침해에 대한 별도 규정이 없다. 커버 인기가 노래 홍보를 뛰어넘는 단계로 옮아가면 분쟁은 불가피할 것이다. 이 때문에 한국음악저작권협회는 AI 활용 표시 의무를 담은 콘텐츠산업진흥법 개정을 촉구하고 있다. AI 커버곡 제작자들은 자신들의 행위가 공익성을 가지며 인공지능 산업 발전에도 기여한다고 한다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정이용으로 본다. 최근 미국의 뉴욕타임스가 자사 기사를 무단 사용했다며 오픈AI를 상대로 낸 저작권 침해 소송에 오픈AI는 이 공정이용 조항을 들먹이며 반박했다. 하지만 가치 있고 신뢰도 있는 데이터를 상업적으로 사용한다면 법적으로 문제될 수 있다. 법적 분쟁 못지않게 우려되는 건 이런 기술이 딥페이크 등 범죄에 악용될 수 있다는 점이다. 목소리 데이터가 쌓이면 쌓일수록 본인까지 깜짝 속을 정도의 딥보이스 기술이 적용된 콘텐츠는 확산될 것이다. 인공지능 기술 발달로 현실과 상상의 경계가 무너지고 있다. 인공지능이 삶의 질은 향상시키고 범죄에 악용되는 등의 부작용은 줄일 안전한 보안기술이 나오기를 바라 본다.

구글 공동 창업자 세르게이 브린(50)은 자사의 생성형 인공지능(AI) 제미나이가 오류를 일으킨 데 대해 “철저한 테스트가 이뤄지지 않았기 때문”이라면서도 정치적 성향으로 따지면 좌파에 기운 응답을 내놓는 이유에 관해서는 “모르겠다. 우리 의도가 아니다”라고 강조했다. 미국 경제매체 CNBC 방송 등은 5일(현지시간) 브린이 지난 주말 미 샌프란시스코 남쪽 힐즈버러의 ‘AGI 하우스’에서 참석자들과 만나 “AI의 궤적이 너무 흥미로워서 은퇴를 철회했다”고 밝혔다고 전했다. 그로서는 매우 보기 드물게 공식 석상에 나온 것이다. 그는 1998년 래리 페이지와 함께 구글을 창립했고 2019년 구글 지주사인 알파벳 회장직에서 물러났지만 경쟁이 치열한 AI 시장에서 구글의 입지가 흔들리자 지난해 봄 복귀했다. 구글 개발자와 창업자들이 제미나이를 테스트하는 AGI 하우스에 모인 참석자들은 제미나이의 이미지 생성 기능 서비스를 출시한 지 20여일 만에 중단한 이유에 대해 캐물었다. 제미나이는 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 표현하고, 독일 나치군을 아시아인으로 묘사하는 등 오류를 일으켰다. 브린은 “환각 같은 사용자의 프롬프트에 대한 잘못된 반응은 지금도 여전히 큰 문제”라며 “이는 경쟁사인 오픈AI의 챗GPT나 일론 머스크의 AI ‘그록’도 겪는 문제”라고 주장했다. 그러면서 최근에는 정답률을 80%까지 끌어올렸다며 “제로에 가까운 획기적인 개선이 이뤄지면 정말 기쁘겠다”고 말했다.

인공지능(AI) 개발을 위해 은퇴를 번복한 구글 창업자가 AI가 좌파 성향이지만 그 이유는 모르겠다고 밝혔다. 미국 경제매체 CNBC 방송 등은 5일(현지시간) 구글 공동 창업자 세르게이 브린(50)이 지난 주말 보기 드물게 공개석상에 나서 “AI의 궤적이 너무 흥미로워서 은퇴를 관뒀다”라고 말했다고 전했다. 브린은 지난 2일 샌프란시스코 남쪽 힐스버러의 ‘AGI 하우스’에서 참석자들과 제미나이 오류에 대해 언급했다. ‘AGI 하우스’는 구글 개발자와 창업자들이 구글의 최신 AI 모델인 제미나이를 테스트하는 곳이다. 참석자들의 질문에 브린은 지난달 22일 자사의 최신 AI 모델 제미나이의 이미지 생성 기능 서비스를 출시 20여일 만에 중단한 이유를 설명했다. 제미나이는 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치군을 아시아인종으로 생성하는 등의 오류를 일으켰다. 브린은 “우리는 분명히 이미지 생성을 망쳤다”며 “철저한 테스트가 이뤄지지 않았기 때문이라고 생각한다. 그것은 분명 사람들을 화나게 했다”고 설명했다. 구글은 AI 이미지 생성 기능을 곧 다시 출시할 계획이다.그는 1998년 래리 페이지와 함께 구글을 공동 창립했지만 2019년 구글 지주사인 알파벳 회장직에서 물러나고 이사회 구성원이자 대주주로 남았다. 하지만 경쟁이 치열한 AI 시장에서 제미나이의 전신인 바드가 성능 시연회에서 오답을 내놓는 등 구글의 입지가 흔들리자 복귀했다. 또 제미나이가 정치적 성향으로 따지면 좌파에 기운 응답을 왜 내놓는지 모르겠다면서 “우리의 의도가 아니다”라고 강조했다. 이어 최근 정답률을 80%까지 끌어올렸다고 밝혔다. 이번 브린의 발언은 구글의 임원이 제미나이의 문제에 대해 처음으로 언급한 것이다. 브린은 AI가 사용자의 질문에 잘못된 반응을 내놓는 ‘환각’(hallucination)에 대해서도 지금도 여전히 큰 문제라고 인정했다. 그는 “시간이 지나면서 환각이 점점 줄어들고 있지만, 거의 제로에 가까운 획기적인 개선이 이뤄진다면 정말 기쁠 것”이라고 덧붙였다. 이어 AI의 환각 문제는 오픈AI의 챗GPT나 일론 머스크가 출시한 인공지능 ‘그록’도 여전히 고군분투하고 있는 문제라고 주장했다.

업비트 일일 거래양 19조 육박코스피 거래액 12조 뛰어넘어금값 첫 온스당 2100달러 돌파닛케이 4만선 넘어 투심 자극도 이차전지 같은 ‘영끌 빚투’ 우려 “비트코인 차트를 보는데 이러다 나 빼고 다 부자되는 건 아닌가 싶더라고요. 마이너스통장에서 3000만원을 꺼내 코인(가상자산)을 샀습니다.”(40대 직장인 전모씨) 가상자산 대장주 비트코인이 5일 오전 한때 국내 가상자산 거래소 업비트에서 9700만원을 찍으며 연일 사상 최고가를 경신했다. 여기에 최근 미국과 일본 증시, 금값까지 연일 신고가를 돌파하자 그간 잠잠했던 ‘포모(FOMO·Fear of Missing Out)증후군’이 고개를 들고 있다. 포모증후군은 업비트 거래량에서 고스란히 드러난다. 이날 업비트의 24시간(일일) 거래량은 19조원에 육박했다. 이날 코스피 하루 거래 대금 12조원을 훌쩍 넘는 돈이 업비트로 몰린 것이다. 전 세계 가상자산 거래소 가운데 다섯 번째로 많은 거래량이기도 하다. 빗썸, 코인원 등 다른 국내 가상자산 거래소 거래량까지 합치면 이날 총거래량은 23조원에 이른다. 곳곳에서 과열을 걱정하는 목소리가 나오지만, 투자 심리는 사그라지지 않는다. 직장인 이모(30)씨는 “7000만원도 비싼 것 같아 망설였는데 정신 차려 보니 9500만원이었다. 그때 안 들어간 게 후회된다. 2000만원 적금 만기인데 이제라도 들어갈 것”이라고 밝혔다. 가상자산 온라인 커뮤니티에는 ‘코인에 투자하려고 1억 5000만원을 대출받았다’거나 ‘아이들 앞으로 모아둔 돈 수백만원으로 코인 투자를 고민 중이다’라는 등의 글이 속속 이어진다. 가상자산 가격 고공행진 속 투자자들은 민감한 생체정보를 넘기고 가상자산을 받는 데도 주저하지 않는다. 챗GPT를 개발한 샘 올트먼 오픈AI 최고경영자(CEO)가 만든 ‘월드코인’은 최근 홍채 정보를 등록하면 자사 코인을 최대 90만원까지 지급해 논란이 일었다. 홍채를 등록한 김모(72)씨는 “공짜로 코인을 준대서 등록했다. 신체정보를 준 셈이지만 별 문제가 될 것 같진 않다”고 말했다. 예상보다 많은 인원이 몰리자 월드코인은 지난달 29일부터 한국에서 3주간 신규 홍채 등록 및 지급을 중단했다. 개인정보 논란도 의식한 것으로 풀이된다. 일본 증시에 베팅 중인 일학개미들의 투심도 뜨겁다. 한국예탁결제원에 따르면 지난달 국내 투자자의 일본 증시 거래액(매수액+매도액)은 7억 7448만 달러(1조 308억원)에 달했다. 역대 최고 규모다. 지난 4일 일본 증시 대표 주가지수 닛케이225 평균주가(닛케이지수)가 사상 처음으로 4만선을 돌파하는 등 강세를 보인 영향으로 풀이된다.들썩이는 금값도 투심을 자극하고 있다. 이날 뉴욕상업거래소에서 4월 인도분 금 선물 종가는 전 거래일 대비 1.5% 오른 온스당 2126.30달러로 사상 처음으로 온스당 2100달러를 넘어섰다. 국내 금 가격 역시 역대 최고가를 경신했다. 이날 KRX 금 시장에서 1㎏짜리 금 현물의 1g당 가격은 전 거래일보다 1770원(1.99%) 오른 9만 810원으로 거래를 마쳤다. 지난해 이차전지 열풍 속 ‘영끌 빚투’를 재현하는 게 아니냐는 우려가 인다. 석병훈 이화여대 경제학과 교수는 “이차전지 과열과 유사한 양상”이라면서 “더 큰 수익을 내겠다고 시가총액이 낮은 알트코인에 투자하는 사람이 있는데 이런 코인은 시세 조작의 위험성이 매우 커 큰 손해를 볼수 있다”고 했다. 서기수 서경대 금융정보공학 교수는 “요즘처럼 투자가 과열된 분위기 속에서는 공포심리 때문에 투자 가치를 따져 보지 않고 계획에 없는 결정을 하는 경우가 많다. 냉정히 따지면 일본 주식이 역시 이렇게 올라갈 일은 아니다”라고 밝혔다. [용어 클릭] ●포모(FOMO·Fear of Missing Out)증후군 본인만 뒤처지거나 소외된 것 같은 두려움을 일컫는데 금융시장에서는 흔히 자신만 투자수익을 못 내거나 뒤처지고 있다는 불안감을 지칭한다.

일론 머스크 테슬라 최고경영자(CEO)가 챗GPT를 개발한 오픈AI를 상대로 ‘인류의 이익’을 위해 인공지능(AI)을 개발하기로 한 창립 목표를 어겼다며 소송을 제기했다. 머스크가 스타트업 xAI를 설립해 AI ‘그록’을 내놓은 터라 이 소송을 두고 ‘여우의 신포도’라는 시선과 함께 AI의 미래를 이슈로 한 창업자들의 불화가 확대됐다는 분석도 나온다.●머스크 “MS 자회사로 변모” 비판 블룸버그 통신은 2일(현지시간) 머스크가 지난달 29일 제기한 소송을 통해 2015년 자신이 샘 올트먼 오픈AI CEO의 제안을 받아 모든 인류에게 혜택을 주는 범용 인공지능(AGI)을 개발하는 비영리 연구소를 함께 만들었음을 주장했다고 전했다. 머스크는 2016~2020년 오픈AI에 4400만 달러(약 588억원)가 넘는 금액을 기부했으며 초기 사무실 임차료도 내 줬다고 밝혔다. 하지만 올트먼 CEO를 비롯한 오픈AI 경영진이 AI 기술로 돈을 버는 데 관심을 두면서 결국 2018년 오픈AI 이사직을 사임하고 투자 지분도 모두 처분했다고 강조했다. 이어 머스크는 “오픈AI가 세계에서 가장 큰 기술 기업인 마이크로소프트(MS)의 사실상 자회사로 변모했다”고 비판했다. 머스크는 또 지난해 3월 출시된 챗GPT 4가 인간을 능가하는 지적 능력을 지닌 AGI로 추정된다며 이에 관한 판단을 법원에 요구했다. MS는 AGI 단계 이전의 AI 기술에 대해서만 라이선스를 요구할 수 있는데, 챗GPT 4가 AGI 수준에 도달했는지 명확히 밝히지 않는 방식으로 오픈AI가 MS에 부당 이득을 챙겨 주고 있다는 것이 머스크가 제기한 소송의 핵심이다. ●“머스크, 테슬라와의 M&A 거절당해” 하지만 제이슨 권 오픈AI 최고전략책임자(CSO)는 전날 회사 직원들에게 보낸 메모에서 이번 소송이 “현재 회사 운영에 관여하지 못하고 있는 데 대한 머스크의 후회에서 비롯됐을 수 있다”고 했다. 권 CSO는 “챗GPT 4는 AGI가 아니며 오픈AI는 때로 MS와 경쟁하는 독립된 법인”이라면서 “법인을 영리화하는 방안을 진지하게 논의했고, 머스크는 테슬라와의 인수합병을 제안했다”며 머스크의 제안이 거절당했다고 폭로했다. 2019년 오픈AI와 전략적 제휴를 맺은 MS는 지금까지 130억 달러(약 17조원)를 투자했다. MS는 투자의 대가로 지분 49%를 갖기로 한 것으로 알려졌지만 지난해 말 MS 측에는 오픈AI의 지분이 없다며 이익 분배를 공유할 자격만 있다고 공개했다. 그동안 오픈AI는 AGI를 완성하면 MS의 독점적 라이선스 권리가 소멸된다고 설명해 왔다.

일론 머스크 테슬라 최고경영자(CEO)가 챗GPT를 개발한 오픈AI를 상대로 ‘인류의 이익’을 위해 인공지능(AI)을 개발하기로 한 창립 목표를 어겼다며 소송을 제기했다. xAI를 설립해 인공지능 ‘그록’을 내놓은 머스크가 이길 가능성이 거의 없어 ‘여우의 신포도’와 같은 소송을 제기한 것을 두고, AI의 미래에 대한 창업자들의 불화가 확대됐다는 분석이 나온다. 블룸버그 통신은 2일(현지시간) 머스크가 지난달 29일 제기한 소송에서 2015년 자신이 샘 올트먼 오픈AI CEO의 제안을 받아 모든 인류에게 혜택을 주는 범용 인공지능(AGI)을 개발하는 비영리연구소를 함께 만들었다고 전했다. 머스크는 2016~2020년 오픈AI에 4400만달러(약 588억원)가 넘는 금액을 기부했으며, 초기 사무실 임차료도 내줬다고 밝혔다. 하지만 올트먼 CEO를 비롯한 오픈AI 경영진이 AI 기술로 돈을 버는 데 관심을 두면서 결국 2018년 오픈AI 이사직을 사임하고 투자 지분도 모두 처분했다고 강조했다. 이어 머스크는 “오픈AI는 세계에서 가장 큰 기술 기업인 마이크로소프트(MS)의 사실상 자회사로 변모했다”고 비판했다. 머스크는 또 지난해 3월 출시된 챗GPT4가 인간을 능가하는 지적 능력을 지닌 AGI로 추정된다며 이에 관한 판단을 법원에 요구했다. MS는 AGI 단계 이전의 AI 기술에 대해서만 라이선스를 요구할 수 있는데 챗GPT4가 AGI 수준에 도달했는지 명확히 밝히지 않는 방식으로 오픈AI가 MS에 부당 이득을 챙겨주고 있다는 것이 머스크가 제기한 소송의 핵심이다. 하지만 제이슨 권 오픈AI 최고전략책임자(CSO)는 전날 회사 직원들에게 보낸 메모에서 이번 소송이 “현재 회사 운영에 관여하지 못하고 있는 데 대한 머스크의 후회에서 비롯됐을 수 있다”고 밝혔다. 권 CSO는 “챗GPT4는 AGI가 아니며 오픈AI는 때로 MS와 경쟁하는 독립된 법인”이라며 “법인을 영리화하는 방안을 진지하게 논의했고, 머스크는 테슬라와의 인수합병을 제안했다”며 머스크의 제안이 거절당했다고 폭로했다. 2019년 오픈AI와 전략적 제휴를 맺은 MS는 지금까지 130억 달러(약 17조원) 를 투자했다. MS는 자금의 대가로 지분 49%를 갖기로 한 것으로 알려졌지만, 지난해 말 MS 측은 오픈AI의 지분이 없다며 이익 분배를 공유할 자격만 있다고 공개했다. 그동안 오픈AI는 AGI를 완성하면 MS의 독점적 라이선스 권리가 소멸된다고 설명했다.

챗GPT 개발사인 오픈AI의 샘 올트먼이 만든 새 가상화폐 ‘월드코인’의 가격이 최근 한 달새 두 배 이상 급증하면서 국내에서도 월드코인을 구하기 위해 홍채 인증을 하려는 사람들이 몰려 들고 있다. 올트먼이 설립한 월드코인재단에서 식당이나 카페 등 곳곳에 인증기기를 설치해 놓고 홍채를 인증하면 월드코인을 지급하기 때문이다. 지난 28일 기자가 월드코인을 받을 수 있는 서울 중구 을지로의 한 카페를 찾아 직접 홍채 인식을 해보니 개인정보와 관련해 여러 가지 문제점이 나타났다. 월드코인을 만든 올트먼은 앞으로 온라인에서 인공지능(AI)과 진짜 사람을 구별할 수 없게 되는 시대를 대비해 홍채 인증과 같은 신원 확인이 필요하다고 주장한다. 이를 대비해 일종의 디지털 신분증인 ‘월드 ID’를 만들었는데, 이용자가 홍채를 인증해 월드 ID를 만들면 월드코인을 지급해 주는 식이다. 현재 국내에는 월드코인 개발사인 툴포휴머니티(TFH)의 홍채 인증기기인 오브(Orb)가 설치된 카페, 식당 등이 10곳 있다. 그 중 한 곳을 방문해 기기에 눈을 대고 스캔하자 가상자산 지갑 ‘월드앱’에 코인 10개가 들어왔다. 이런 식으로 2주마다 3개씩 1년간 총 76개의 월드코인을 받을 수 있다고 기기 운영자는 설명했다. 현재 거래가로 계산하면 홍채 인증으로 80만원 상당의 새 가상자산을 받게 되는 셈이다.월드코인은 최근 오픈AI가 생성형 AI로 동영상을 제작하는 ‘소라’(Sora)를 출시한 이후 가격이 급등했다. 1일 가상자산 시황 중계 사이트 코인마켓캡에 따르면, 이날 오전 11시 월드코인의 가격은 1만 137원을 기록했다. 지난달 1일(3220원) 대비 약 214% 오른 것이다. 국내 원화 거래소인 빗썸에서도 같은 시간 1만 670원대에 거래되고 있다. 그러자 국내에서도 홍채를 등록하고 월드코인을 보유하려는 사람들이 몰리기 시작한 것이다. 언젠가 비트코인처럼 가격이 오를지 모른다는 기대감 때문인지 현장에서 만난 이용자들은 민감 정보를 등록하는 것에 대한 거부감은 크게 없어 보였다. 기자가 홍채를 등록한 을지로 카페에서 만난 김모(72·여)씨는 “같이 일하는 사람들 사이에서 공짜로 코인을 받을 수 있다는 얘기가 나와 함께 방문했다”면서 “눈만 잠시 가져다 대면 된다니 별 문제가 될 것 같진 않다”고 말했다. 서울 여의도에서 홍채를 인증하고 월드코인을 받은 직장인 이모(27)씨도 “이미 지문도 여러 금융사에 등록돼 있는데 홍채라고 별다를 게 있을까 싶다”고 말했다.월드코인 관계자는 “지점별로 하루 평균 방문객이 예전에는 5명 정도였는데 최근에는 200명씩 찾아오고 있다”면서 “방문객은 20대부터 80대 어르신까지 다양하다”고 말했다. 내 홍채 정보 어디에 쓰일지도 모르는데… 그러나 아직 검증되지 않은 가상자산을 그것도 개인의 민감한 생체정보를 등록하고 받는다는 점에서 여러 가지 문제가 제기된다. 우선 개인의 홍채 정보를 제공하면 가상자산을 지급하는 방식을 놓고 ‘개인정보 매매’ 논란이 제기된다. 김명주 서울여대 정보보호학과 교수는 “홍채는 개인의 고유 정보로 이를 수정할 수 없기 때문에 어떤 형식으로도 사고파는 것은 불법”이라고 말했다. 다만 “(돈이 아니라) 코인이라는 점에서 매매로 단정짓기는 어렵다”며 “이것이 매매행위에 해당하는 것인지를 먼저 따져본 뒤 개인정보보호법이 지켜지는지 봐야할 것”이라고 설명했다. 홍채 등록 과정에서도 개인의 등록 정보가 어디에 어떻게 쓰이는지 알기 어려웠다. 국내 개인정보보호법상 개인정보 수집 목적, 이용 기간 및 방법, 국외 이전 가능성 등을 사전 고지해야 하지만, 이런 설명은 듣기 어려웠다. 전문가들은 법 위반 소지가 있다고 지적한다. 최진홍 법무법인YK 변호사는 “사전에 알린 목적이 아닌 다른 목적으로 개인의 생체 정보들을 이용하는 경우 수집 단계부터 위법하다고 볼 수 있다”며 “해외에 있는 서버로 생체 정보를 옮겨 사용하겠다는 방침도 충분히 설명됐는지 확인할 필요가 있다”고 말했다.월드코인은 이렇게 수집한 홍채 정보를 블록체인에 데이터 형태로 저장하고 원본 데이터는 지운다고 설명한 바 있지만, 한번 정보를 이전하고 나면 어떻게 이용되는지는 사실상 확인할 길이 없다. 이러한 우려 때문에 미국에서는 월드코인 발급과 거래 자체가 불가능하며, 영국과 프랑스, 독일은 위법성 여부에 대한 조사에 착수한 상태다. 황석진 동국대 국제정보보호대학원 교수는 “금융 모바일 앱의 보안인증처럼 개인정보는 사용 목적과 용도를 명확히 하고 수집해 활용해야 한다”며 “정기적으로 개인정보 이용 현황을 제공자에게 알려야 하고 파기 기한도 정해야 하지만 월드코인의 약관에 이런 부분까지 명시돼 있을지는 확실하지 않다”고 말했다.

유럽연합(EU) 집행위원회 경쟁사무국이 마이크로소프트(MS)가 프랑스 인공지능(AI) 스타트업 미스트랄 AI과 맺은 파트너십 계약이 ‘EU의 공정거래법’에 해당하는 ‘경쟁법’ 위반하는지 여부에 대해 법리적 검토에 나섰다. 레아 쥐버르 EU 집행위원회 대변인은 27일(현지시간) “EU 집행위는 대형 디지털 시장 참여자와 생성 AI 개발자, 제공업체 간 체결된 합의를 들여다보고 있다”면서 “이런 맥락에서 우리는 언급된 합의를 통보받았고 그것을 분석할 것”이라고 밝혔다. EU의 전격 발표는 MS가 전날 미스트랄과 1500만 유로(약 217억원)을 투자하는 파트너십 계약을 맺었다고 발표한지 불과 하루만에 나왔다. MS는 자본 투자 대가로 회사 지분을 받고, 미스트랄의 AI 기술에 관한 연구 개발(R&D) 성과를 공유받기로 했다. 미스트랄 AI는 오픈AI와 마찬가지로 대규모언어모델(LLM)을 딥러닝하는 생성형 AI 모델을 연구·개발하는 회사다. 구글과 메타 출신 엔지니어들이 지난해 4월 설립해 10개월 만에 약 5억 유로(약 7000억원)의 자금을 끌어모았다. 시장에서 이 기업의 잠재적 가치는 21억 달러(2조 8000억원)로 평가받고 있다. 2019년부터 MS는 비영리 스타트업 오픈AI에 130억 달러(17조원)를 선제적으로 투자해 지분 49%를 확보했다. 미래가 불확실했던 이 계약은 2022년 11월 30일 챗GPT 출시로 생성형 AI 개발의 특이점을 앞당기는 공전의 열풍을 일으키면서, MS가 들인 투자금과 비교해 훨씬 더 큰 가치를 되돌려주게 됐다. 한때 애플, 테슬라, 아마존, 구글 등에 밀려 시장에서 잊혀져 가던 MS의 시가총액은 올해 3조 달러를 돌파하며 올해 전세계에서 가장 가치 있는 기업이 됐다. EU의 이같은 조처는 현단계에서는 예비적 법리 검토를 하는 것에 불과하지만 만약 이를 뒷받침할 충분한 근거가 발견돼 전면 조사에 돌입할 수 있다. 사실 EU 경쟁사무국은 이미 지난달 9일부터 MS와 오픈AI와의 전략적 파트너십 계약이 반독점법을 위반했는지 여부에 대한 조사에 착수했다. AI 산업을 선도하는 두 기업의 전략적 제휴가 사실상 기업 합병 절차였음에도, EU가 규정한 기업결합 규정과 절차를 지키지 않은 것으로 볼 수도 있다. 이는 AI산업에 신규 경쟁 기업의 시장 진입을 막는 불공정 거래 행위로 판단될 수도 있다. EU가 반독점 행위로 판단해 MS에 징벌적 혹은 선언적 의미에서 과징금을 부과한다면, 오픈AI처럼 유망한 AI 기술 스타트업을 선제적으로 발굴한 뒤 투자해 미래 AI 경쟁에서 앞서가려는 MS의 구상에 찬물을 끼얹을 수 있다. 지난달 영국 경쟁시장청(CMA)은 샘 올트먼 오픈AI 최고경영자(CEO) 축출 사태 이후 이 계약의 반독점법 위반 여부를 살펴 보고있다. 미국 연방거래위원회(FTC)도 MS의 반독점법 위반 여부를 살펴보고 있다. MS는 31년 전 1993년에도 EU 경쟁 당국으로부터 “MS가 시장지배적 지위를 이용해 신생 경쟁 소프트웨어 기업의 시장 진입을 막는 것은 불공정 경쟁 행위”로 판단해 최대 과징금이었던 4억 9700만 유로(약 4171억원)의 벌금을 부과했다. MS는 2004년 모든 금액을 지불했다. MS는 자사 운영 체제인 윈도우즈(WINDOWS) 포함 여부에 관계없이 컴퓨터 업체가 판매한 각 컴퓨터에 대해 사용료를 요구했고, 소프트웨어 개발자가 MS와 타사 플랫폼용 응용 프로그램을 동시에 개발하지 못하도록 하는 비공개 계약에 서명하도록 요구하기도 했다.

인공지능(AI) 바둑 프로그램 ‘알파고’의 개발자로 유명한 데미스 허사비스(48) 구글 딥마인드 최고경영자(CEO)가 “앞으로 2~3년 안에 인공지능(AI)이 디자인한 약을 병원에서 보게 될 것”이라고 내다봤다. 허사비스 CEO는 26일(현지시간) 스페인 바르셀로나에서 열린 세계 최대 이동통신 전시회 ‘모바일 월드 콩그레스(MWC) 2024’ 첫날 기조연설자로 나와 이같이 밝혔다. 허사비스 CEO는 ‘우리의 AI 미래’라는 주제의 대담에서 “최근 일라이릴리, 노바티스 등 글로벌 대형 제약사와 계약했다”며 “앞으로 몇 년 안에 AI 설계 약물이 임상과 임상 테스트에 포함될 것”이라고 말했다. 그러면서 “끔찍한 질병을 치료하는 새로운 약을 발견하는 데 걸리는 기간이 평균 10년에서 앞으로 몇 달 정도로 단축되길 희망한다”고도 했다. 허사비스 CEO는 “AI 기기가 이동통신 사업자들에게 어마어마한 기회가 되고 있다”며 최초의 AI스마트폰인 삼성전자 갤럭시S24에 장착된 ‘서클 투 서치’와 같은 AI 신기능이 “일상생활을 바꿔놓고 있다”고 평가했다. 최근 구글의 AI 모델인 ‘제미나이’의 이미지 생성 기능이 역사적 인물을 유색인종으로 잘못 생성해 일시 중단된 데 대해서는 “몇 주 안에 (서비스를) 재개할 것으로 기대한다”고 답했다. 또 경쟁사인 오픈AI의 대화형 AI 서비스인 ‘챗GPT’ 열풍에 대해선 “(초기에) 결함이 있고 환각 현상이 있음에도 대중이 이 시스템을 사용할 준비가 돼 있다는 사실에 놀랐다”고 언급했다.

정부가 ‘2월 29일까지 미복귀 시 처벌한다’며 최후통첩을 했으나 전공의들이 여전히 1만명 가까이 사직한 것으로 집계됐다. 전공의들의 집단 이탈로 병원의 의료 공백이 갈수록 커지고 있는 가운데 홍준표 대구시장은 27일 “의사들의 직역 지키기가 도를 넘으면 의사들도 국민들에게 외면받는 직종이 될 수도 있다”라고 말했다. 검사 출신 정치인인 홍준표 시장은 이날 페이스북에 “한때 법조인 전성시대가 이제 한물간 것처럼 앞으로 의사들도 똑같아질 겁니다”라며 이같이 말했다. 홍 시장은 “전자공학이 최고 인기과였던 1970년대는 30년 후에 대한민국을 전자, 반도체 세계 최강국으로 이끄는 원동력이 됐는데 뜻 모를 의대 열풍이 나라 전체를 뒤흔드는 지금 대한민국의 30년 후의 모습은 과연 어떤 모습으로 우리에게 다가올까”라며 “너무 집착하지 않았으면 한다”라며 “당국도 변호사 수 늘리듯이 순차적 증원으로 서로 타협했으면 한다”라는 의견을 냈다. 앞서 한국은행은 인공지능(AI) 노출 지수를 근거로 AI로 대체되기 쉬운 직업으로 의사를 상위 1% 위험 직업으로 꼽기도 했다. 의사 일의 영역에 AI가 할 수 있는 일이 많이 몰려 있다는 이유에서다. 오픈AI의 ‘GPT-4’는 미국과 일본 의사 면허 시험에서 합격 수준 점수를 받았고, 세계적인 AI 석학 제프리 힌턴 토론토대 명예교수는 2016년 “AI가 수년 내 영상의학과 의사를 대체할 것”이라고 말하기도 했다.

2400여개 기업 참가… 한국 165곳삼성 ‘AI 폰’ 체험공간… 애플 불참모바일 신제품 행사는 자취 감춰SK텔레콤, 텔코 AI 협력 본격화KT, 넥스트5G·AI 라이프 선봬 26일(현지시간) 개막하는 세계 최대 이동통신 전시회 ‘모바일 월드 콩그레스(MWC) 2024’의 최대 화두는 인공지능(AI)이다. AI 시대 생존이 글로벌 통신사, 통신 장비 제조사의 최우선과제가 되면서 모바일이 주인공인 MWC도 AI 기술 전시회로 탈바꿈했다. 25일 세계이동통신사업자연합회(GSMA)에 따르면 이번 MWC는 ‘미래가 먼저다’라는 주제로 스페인 바르셀로나 ‘피라그란 비아’에서 26일부터 29일까지 나흘간 열린다. 전세계 200여개국에서 2400여개 기업이 참가한다. 이 중 한국 기업은 165개사로 전체 참가국 중 다섯 번째로 많다. 예상 관람객 수는 9만 5000여명으로 코로나19 이전 수준(2019년 10만 9000여명)을 거의 따라잡을 전망이다. 전시회의 무게중심이 모바일에서 AI로 옮겨가면서 모바일 신제품 최초 공개 행사는 사실상 자취를 감추는 분위기다. 중국 샤오미와 화웨이에서 독립한 스마트폰 제조사 아너는 이날 각각 중국 시장에 출시됐던 신제품을 해외 시장에 공개하는 행사를 열었다. 삼성전자는 지난달 공개한 ‘AI 스마트폰’ 갤럭시 S24 시리즈의 실시간 통역 등 AI 기술을 체험할 수 있는 공간을 만들었고, 프리미엄 스마트폰 1위 업체 애플은 아예 참가하지 않았다. 대신 독일 도이치텔레콤이 이번에 선보이는 콘셉트 제품 ‘애플리케이션 프리(앱 없는) AI폰’은 AI가 어떻게 모바일 산업을 바꿀지를 극명하게 보여준다. 이 제품은 생성형 AI가 모바일에 접목된 사례로 앱을 실행하지 않아도 AI 비서에게 음성 명령을 하면 항공권 예약, 사진 편집과 같은 작업을 할 수 있다. 국내 통신사들도 AI 혁신을 전면에 내세웠다. SK텔레콤은 이번 MWC를 세계 주요 통신사와의 AI 연합체인 ‘글로벌 텔코(통신사) AI 얼라이언스(GTAA)’ 협력을 본격화하는 계기로 삼겠다는 구상이다. 통신사에 특화한 대규모언어모델(LLM)을 기반으로 개발한 스팸·스미싱 필터링 시스템 등 신규 서비스도 공개한다. KT는 전시관을 ‘넥스트5G’와 ‘AI 라이프’ 등 두 개의 주제로 꾸미고 AI 라이프존에서는 LLM이 적용된 AI 반도체와 태국 자스민그룹(JAS)과 함께 개발 중인 태국어 LLM 등 ‘소버린 AI’(데이터 주권을 갖기 위해 국가별로 자체 구축하는 AI 기술) 사례를 선보인다. KT는 LLM이 사용자가 보고 있는 콘텐츠의 맥락을 파악해 최적의 광고를 추천하는 ‘AI 문맥 맞춤 광고 서비스’도 시연한다. AI에 대한 뜨거운 관심은 MWC 기조연설에도 그대로 반영됐다. ‘알파고의 아버지’로 불리는 구글 딥마인드의 데미스 허사비스 최고경영자(CEO)는 개막 첫날 ‘우리의 AI 미래’라는 주제로 기조연설을 한다. 이어 오픈AI 대주주인 마이크로소프트(MS) 브래드 스미스 부회장이 마이클 델 CEO와 함께 하는 ‘새 시대를 위한 새로운 전략’ 기조연설에서 ‘떠오르는 AI 생태계’와 관련해 연설을 한다. AI 관련 행사 일정만 15건으로 첫날 열리는 GSMA 장관급 프로그램 주제도 ‘책임 있는 AI’로 정해졌다. 이번 MWC에는 유영상 SK텔레콤 대표, 김영섭 KT 대표, 황현식 LG유플러스 대표 등 통신3사 CEO 모두 출동한다. LG유플러스는 따로 전시관을 열지 않고 임직원 참관단 형식으로 행사를 참관하면서 AI 기술 트렌드를 탐색할 전망이다.

생성형 인공지능(AI) 업계에서 오픈AI와 패권을 다투는 구글이 ‘오픈소스(개방형) AI’ 진영으로 한 걸음 이동했다. 업계는 챗GPT의 기반 모델인 ‘GPT4’의 어떤 것도 공개하지 않는 오픈AI와 구글의 기술 경쟁이 어떤 결말을 가져올지 주목하고 있다. 구글은 21일(현지시간) 거대언어모델(LLM) ‘젬마’를 오픈소스로 공개했다. 이에 따라 개별 연구자나 개발자, 기업, 연구기관 등은 젬마를 자유롭게 활용할 수 있다. 젬마는 구글의 AI 모델 ‘제미나이’의 경량형이라고 생각하면 쉽다. AI 모델의 규모를 판단하는 매개변수가 200억개, 700억개인 두 개의 모델로 공개됐다. 제미나이의 매개변수는 1조 7800억개 이상으로 추정된다. 오픈소스는 AI 이외의 분야에서도 정보기술(IT) 개발자들이 널리 공감하는 개념이다. AI 모델을 비롯한 컴퓨터 프로그램의 소스코드 등 모든 개발 자산을 누구나 다운로드할 수 있는 공간에 공유하는 것이다. 생성형 AI 시대에 와서도 오픈소스는 많은 지지를 얻었다. 기존 오픈소스 플랫폼 ‘깃허브’나 오픈소스 AI 모델 플랫폼인 ‘허깅페이스’에 수많은 AI 모델들이 공유됐다. 메타(페이스북)는 지난해 빅테크 중 가장 먼저 ‘라마’(LlaMa)라는 생성 AI 모델을 오픈소스로 공개했다. 국내에선 업스테이지의 ‘솔라’, 모레의 ‘모모’ 등이 오픈소스 AI 중 높은 성능 순위를 기록했다. 오픈소스 AI는 수많은 전문가들이 모델의 강약점을 함께 고민하고 성능과 안전성을 개선할 수 있다. 특히 기본 모델을 공유하면 가난한 국가나 영세 기관, 개인 개발자 등도 이를 기반으로 AI 서비스를 개발하거나 변형해 새 AI 모델도 만들 수 있다. AI 시대 기술 불평등, 종속 문제를 해소할 ‘AI 민주화’ 방안으로도 꼽힌다. 오픈AI는 GPT4의 매개변수조차 공개하지 않는 등 폐쇄 정책으로 일관하고 있다. AI 시대 초반에 기술 우위를 유지해 구글에 앞서기 위해서다. 지금까지는 효과적이다. 최근엔 단 몇 줄의 명령어로 영화 속 한 장면 같은 동영상을 만들어 내는 생성 AI ‘소라’를 공개해 업계를 놀라게 했다. 당초 오픈소스 정신을 실천해 온 구글은 오픈AI의 챗GPT 등장으로 기술 경쟁이 과열되면서 폐쇄적인 입장이 됐다가 최근 오픈소스 진영으로 돌아가고 있다. AI 모델을 공개하는 것이 독점하는 것보다 오히려 플랫폼 장악에 유리하다고 판단했기 때문이다. 뉴욕타임스에 따르면 구글 측은 “외부 개발자 커뮤니티를 다시 참여시키고 구글의 기반 모델이 최신 AI 구축 방식의 업계 표준이 될 수 있기를 희망한다”고 밝혔다. 최근 철저하게 폐쇄 전략을 구사했던 애플이 미국과 유럽 규제당국의 제재를 잇달아 받고 있어 오픈AI의 폐쇄적인 정책도 비슷한 우려를 낳고 있다. 업계 관계자는 “아직 너무나 초기이지만 지난달 서비스를 시작한 오픈AI의 ‘GPT 스토어’는 애플의 앱스토어와 비슷하다”며 “플랫폼을 장악한 뒤 독과점이나 특허 침해 등 문제를 일으키지 않는다는 보장이 없다”고 말했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).