조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

2023년은 인공지능이 크게 주목받은 해였다. 2024년은 어떨까. 올해 또한 인공지능이 크게 주목받는 해가 될 전망이다. 다만 챗GPT와 같은 특정 기술이 집중적으로 주목을 받기보다는 좀더 다양한 인공지능이 약진하면서 관심 또한 다양화될 가능성이 높아 보인다. 사실 혁신이라는 것은 세상을 크게 변화시키는 일회성 대변혁보다 여러 가지의 작은 변화와 개선의 형태로 나타나는 경우가 더 많다. 인류의 역사를 바꾼 커다란 기술 변화 또한 그러한 기술의 변화가 일상의 변화로 이어지기까지 여러 연관 기술의 도입을 포함해 적지 않은 시간이 소요돼 온 것도 사실이다. 그런 관점에서 올해를 포함한 향후 몇 년 동안의 변화는 장차 인공지능이 우리의 일상에 어떤 구체적인 변화를 가져올지 가늠하게 해 주는 중요한 역할을 수행할 것이다. 또한 그러한 변화를 통해 우리나라가 글로벌 인공지능 생태계에서 어떻게 자리매김할 것인지 윤곽이 잡혀 가기도 할 것이다. 정부의 인공지능 정책에서도 거시적 시각에서의 정책 못지않게 중요한 것은 세밀한 디테일이 담긴 미시적 정책이다. 특히 현대의 인공지능은 근본적으로 데이터에 기반해 개발되고 이용되기 때문에 세밀한 데이터 정책은 인공지능과 관련해 매우 중요하다. 데이터 중에서 기존에는 행과 열의 구조를 갖춘 소위 ‘정형 데이터’에 대한 수요가 많았다면 최근에는 ‘비정형 데이터’의 필요성이 크게 강조되고 있다. 비정형 데이터는 정리되고 관리되는 방식 자체가 기존의 데이터와는 크게 다르다. 가장 흔히 생각할 수 있는 비정형 데이터로는 텍스트 데이터를 들 수 있다. 챗GPT의 이용 등 일반적으로 인공지능과 관련해 가장 활용도가 높은 데이터가 텍스트 데이터다. 그 외에 이미지 데이터나 영상 데이터에 대한 수요 또한 크게 늘고 있다. 엑스레이를 비롯해 의료 인공지능의 맥락에서는 이미지 데이터의 중요성을 아무리 강조해도 지나치지 않다. 텍스트와 이미지, 영상 데이터를 함께 다루게 되는 상황도 늘고 있다. 최근에는 음성 데이터가 새로이 주목받기도 한다. 음성 데이터는 그 자체로 활용되기도 하고 텍스트로 변환된 후 활용되기도 한다. 이런 다양한 비정형 데이터는 인공지능을 개발하는 데 핵심적인 재료로 이용될 뿐만 아니라 이용자와 인공지능 사이의 소통에 중요한 매개가 되기도 한다. 그런데 비정형 데이터에 개인정보가 담겨 있는 경우 이를 어떻게 처리할 것인지 난감할 수 있다. 기존의 개인정보 비식별 처리 기준이 주로 정형 데이터를 전제로 이에 관한 비식별 처리 방법론을 제시했다면 이제는 인공지능의 발전에 발맞춰 비정형 데이터의 비식별 처리 방법론을 마련하는 것이 중요해진 상황이다. 문제는 비정형 데이터가 일정한 규격이나 정형화된 형태가 있는 것이 아니어서 데이터 처리 방식 또한 복잡다기하고 비식별 처리의 방법도 체계화하기 어렵다는 데 있다. 결국 비정형 데이터에 대한 비식별 처리를 위해서는 데이터의 특수성을 잘 반영해야 할뿐더러 무엇보다 경험과 사례를 충분히 축적하는 것이 중요하다. 구체적으로 환자 골밀도를 촬영한 의료 이미지 데이터의 사례를 들어 보자. 골밀도 이미지 자체만으로는 환자를 식별해 내는 것이 거의 불가능하다. 그러나 이미지와 함께 예컨대 환자 번호가 표시돼 있으면 식별이 가능할 수 있다. 그런 경우라면 마스킹 기법을 이용해 환자 번호를 제거한다. 환자 상태에 관한 자유 입력 기록지의 내용이 문제되는 경우도 있을 수 있다. 그런 경우 기록을 정형화된 형태로 변환한 뒤 비식별 처리를 거쳐 분석하도록 한다. 이런 식으로 원칙을 세우고 모범 사례를 지속적으로 쌓아 가야 한다. 혁신은 작은 변화에서 온다. 데이터 정책의 혁신 또한 작은 변화에서 온다.

‘인공지능(AI)이라는 말이 사라진다?’ 생성형 AI ‘챗GPT’ 등장 이후 AI가 광범위하게 일상에 녹아들면서 AI 기술 자체를 강조하는 현상은 올해를 기점으로 점차 줄어들 것이란 전망이 나온다. 이른바 ‘AI 역설’이다. AI가 제품, 서비스 안으로 들어가면서 ‘AI 기술을 적용했다’는 게 중요한 것이 아니라 AI를 통해 어떤 혁신을 이뤘는지가 중요해지는 시대로 바뀌고 있다는 뜻이다. #美 CES 최대 화두 인터넷 필요 없는 AI 시대주요 기업들도 뛰어들어 지난 9~12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024에서도 전자제품, 자동차, 로봇부터 안경, 유모차, 베개까지 다양한 제품이 AI라는 ‘옷’을 입고 이전보다 훨씬 똑똑해진 모습으로 사람들 앞에 나타났다. 남아 있는 손가락 신경의 작은 신호를 AI가 읽고 실제 손가락처럼 움직이는 ‘손가락 의수’, 음성을 수어로 바꿔 주고 사람처럼 풍부한 표정을 짓는 ‘3차원(D) AI 아바타’도 등장했다. CES 현장을 둘러본 장병탁 서울대 AI연구원장은 23일 “제품의 전반에 AI가 스며들고 있다”고 평가했다. ●모든 사물에 AI 적용하는 시대 이번 CES에서 주목받은 ‘AI 에이전트’와 ‘온디바이스 AI’는 AI 기술이 어떤 식으로 발전할지를 보여 준다. AI 에이전트는 사용자가 원하는 걸 알아서 척척 해 주는 일종의 AI 비서로 실제 구현되는 모습은 다양하다. 기능적으로 PC, 자동차 등에 내장되거나 움직이는 로봇 형태를 띨 수도 있다. 국내 가전업체가 공개한 ‘AI 로봇’도 AI 에이전트에 해당된다. AI 로봇은 사물인터넷(IoT)과 AI가 결합된 사물인공지능(AIoT·AI of Things)을 통해 개인 맞춤형 비서 역할뿐 아니라 집안 일을 대신해 주는 집사 역할도 할 것으로 전망된다. 인터넷 연결과 상관없이 기기 안에서 AI를 구동할 수 있는 온디바이스 AI도 PC, 스마트폰에서 구현되기 시작했다. 온디바이스 AI의 확산은 소규모언어모델(sLM) 개발 경쟁으로도 이어졌다. sLM은 오픈AI의 GPT-4, 구글 제미나이와 같은 대규모언어모델(LLM)에 비해 학습량은 적지만 최적화를 통해 최대한의 성능을 내면서 개발·구동 비용을 줄인 언어모델이다. 특히 AI의 학습 지표인 매개변수(파라미터)가 70억개(7B) 이하인 sLM 시장을 선점하기 위한 경쟁이 치열하다. 메타(라마2 7B), 구글(제미나이 나노1, 나노2), 마이크로소프트(파이2) 등 글로벌 주요 기업도 줄줄이 뛰어들었다. 지난해 ‘미스트랄 7B’에 이어 수학, 물리 등 작은 전문 모델로 쪼갠 뒤 질문에 따라 연결하는 방식의 ‘믹스트랄 8x7B’(전문가 믹스·MoE) 모델을 오픈소스(소프트웨어 설계도 공개)로 내놓은 프랑스 스타트업 미스트랄 AI는 오픈AI의 대항마로 떠오르고 있다. #연내 ‘GPT-5’ 공개GPT-4에 추론 기능 추가인간 수준 AI 현실화 전망 이경전 경희대 경영학·빅데이터응용학과 교수는 “중요한 건 모델을 실제 사용하고 난 뒤의 평가”라면서 “미스트랄을 써 본 기업들 얘기를 들어 보면 다들 ‘써 보니 좋다’고 한다. 오픈 소스로 이만큼 따라왔다는 건 한국 기업에도 희소식”이라고 말했다. ●텍스트 넘어 이미지·영상·음성도 생성 성능으로 승부를 보는 LLM의 진화도 계속되고 있다. 오픈AI의 최신 LLM인 GPT-4(매개변수 1조 7000억개 추정)보다 더 많은 기능이 추가된 GPT-5가 올해 안에 공개될 예정이다. 추론 기능도 추가된다고 한다. 텍스트(글자)를 학습하는 걸 넘어 이미지·영상·음성을 분석하고 생성하는 ‘멀티 모달’ 방식으로도 발전하고 있다. 인간이 다양한 방식을 통해 사물을 인식하는 것과 동일하게 AI가 학습한다는 얘기다. ‘할루시네이션’(환각 현상·AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)은 완전히 제거되지 않았지만 인간처럼 사고하고 판단할 수 있는 능력을 갖춘다는 건 인공일반지능(AGI·인간 수준으로 일을 처리하는 AI)이 현실화할 수 있다는 의미로 해석된다. #AI 어디까지 왔나AGI는 초기 단계 머물러감각 분석 기술 집중해야 구글 딥마인드의 6단계 분류 기준으로 보면 특정 업무 수행에 초점을 맞춘 AI 중에선 단백질 구조 예측 AI ‘알파폴드’처럼 이미 인간을 뛰어넘는 ‘레벨5’(슈퍼휴먼)의 AI도 등장했다. 그러나 전반적인 업무를 수행할 수 있는 AGI(챗GPT, 바드, 라마2)는 아직 ‘레벨1’(초기 단계)에 머물러 있다. 장 원장은 “텍스트를 학습한 생성형 AI의 성능에 대해선 연구자들도 놀라고 있다”면서 “AGI 시대가 앞당겨지는 느낌을 많이 받는다”고 말했다. 그러면서도 “시각 등 감각에 해당하는 부문은 아직 데이터화되지 않은 게 많다”며 “표정이나 감정을 분석하는 건 어려운 기술이지만 이게 가능해지면 파급효과가 엄청나다. 우리가 집중해야 할 부분”이라고 강조했다.

인간 지능 수준의 인공일반지능(AGI) 시대가 곧 다가올 것인가. 국내 인공지능(AI) 전문가들은 AI 기술 발전 속도가 굉장히 빠르다는 데는 동의하면서도 수년 내 인간 지능 수준을 뛰어넘을 수 있을지에 대해선 의견이 엇갈렸다. 이홍락(47) LG AI연구원 최고AI과학자(CSAI)는 23일 “AI를 통한 코딩 자동화는 소프트웨어(SW) 개발의 효율성을 크게 향상시키고, 이는 다시 AI 모델과 애플리케이션의 발전 속도를 더 빠르게 한다”고 말했다. AI의 자가학습 능력이 AI 발전을 더 가속화한다는 설명이다. 다만 “AGI까지 갈 길은 아직 먼 상황”이라고 짚었다. 현재의 AI 기술은 주로 인간의 지시에 의존하며 완성도 면에서도 한계가 있기 때문이다. 이 CSAI는 “AGI 시대로 가려면 상당히 많은 기술 개발과 윤리적 사용을 위한 사회적 합의, 인간의 삶을 더 풍요롭게 할 수 있는 제도적 장치 등의 논의가 필요하다”고 강조했다. AI 포털 서비스 기업 뤼튼테크놀로지스의 김태호(26) 공동창업자 겸 이사도 “AI 기술 발전 속도가 빠른 것은 분명하지만 마라톤 경기에 비유하면 100m를 지난 시점”이라면서 “AI의 르네상스도 이제 막 시작됐다”고 말했다. “AI가 빠르게 연산하거나 글을 작성하는 능력은 평균적인 인간을 넘어선 것으로 보이지만 이게 인간 지능의 전부는 아니다”라는 게 김 이사의 설명이다. 그는 “기술이 그 가치를 발휘하는 시기는 사람에게 쓰임을 받기 시작할 때”라면서 “생성형 AI를 활용해 개개인에게 특화된 AI 기술 개발이 본격화될 것”이라고 내다봤다. AI가 아직 인간의 지능을 뛰어넘는 ‘티핑 포인트’에 도달하진 못했지만 현재의 기술 속도로 보면 몇 년 안 걸릴 것이란 주장도 있다. 대규모언어모델(LLM)을 자체 개발한 AI 스타트업 업스테이지의 최홍준(44) 부사장은 “AI가 자연어 처리, 이미지·음성 인식 등에선 인간 수준의 성능을 달성하고 있다”면서 “인간의 추상적 사고, 도덕적 판단, 문맥 이해 등에선 한계를 갖고 있지만 현재 속도로 봤을 때 수년 내 인간 지능을 뛰어넘을 수 있을 거라 생각한다”고 말했다. 최 부사장은 “기술 발전을 통제할 수 있는 장치를 빠르게 도입해야 한다”면서도 “과연 AI 규제를 통해 ‘통제가 가능할까’에 대해선 확신하기 어렵다”고 했다. 이어 “이럴 때는 오히려 AI 대 AI의 구도로 기술 개발을 통한 통제를 하는 것도 방법일 수 있다”고 제안했다.

‘인공지능(AI)이란 말이 사라진다?’ 생성형 AI ‘챗GPT’ 등장 이후 AI가 광범위하게 일상에 녹아들면서 AI 기술 자체를 강조하는 현상은 올해를 기점으로 점차 줄어들 것이란 전망이 나온다. 이른바 ‘AI 역설’이다. AI가 제품, 서비스 안으로 들어가면서 ‘AI 기술을 적용했다’는 게 중요한 게 아니라 AI를 통해 어떤 혁신을 이뤘는지가 중요해지는 시대로 바뀌고 있다는 뜻이다. 지난 9~12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024에서도 전자제품, 자동차, 로봇부터 안경, 유모차, 베개까지 다양한 제품이 AI라는 ‘옷’을 입고 이전보다 훨씬 똑똑해진 모습으로 사람들 앞에 나타났다. 남아 있는 손가락 신경의 작은 신호를 AI가 읽고 실제 손가락처럼 움직이는 ‘손가락 의수’, 음성을 수어로 바꿔주고 사람처럼 풍부한 표정을 짓는 ‘3차원 AI 아바타’도 등장했다. CES 현장을 둘러본 장병탁 서울대 AI연구원장(컴퓨터공학부 교수)은 23일 “제품의 전반에 AI가 스며들고 있다”고 평가했다. 제품 안으로 들어간 AI…sLM 개발 경쟁 치열 이번 CES에서 주목 받은 ‘AI 에이전트’와 ‘온디바이스 AI’는 AI 기술이 어떤 식으로 발전할 지를 보여준다. AI 에이전트는 사용자가 원하는 걸 알아서 척척 해주는 일종의 AI 비서로, 실제 구현되는 모습은 다양하다. 기능적으로 PC, 자동차 등에 내장되거나 움직이는 로봇 형태를 띨 수도 있다. 국내 가전업체가 공개한 ‘AI 로봇’도 AI 에이전트에 해당된다. AI 로봇은 사물인터넷(IoT)과 AI가 결합된 사물인공지능(AIoT·AI of Things)을 통해 개인 맞춤형 비서 역할 뿐 아니라 집안 일을 대신 해주는 집사 역할도 할 것으로 전망된다. 인터넷이 연결되지 않아도 기기 안에서 AI를 구동할 수 있는 온디바이스 AI도 PC, 스마트폰에서 구현되기 시작했다. 온디바이스 AI의 확산은 소규모언어모델(sLM) 개발 경쟁으로도 이어졌다. sLM은 오픈AI의 GPT-4, 구글 제미나이와 같은 대규모언어모델(LLM)에 비해 학습량은 적지만 최적화를 통해 최대한의 성능을 내면서 개발·구동 비용을 줄인 언어모델이다. 특히 AI의 학습 지표인 매개변수(파라미터)가 70억개(7B) 이하인 sLM 시장을 선점하기 위한 경쟁이 치열하다. 메타(라마 2 7B), 구글(제미나이 나노-1, 나노-2), 마이크로소프트(파이-2) 등 글로벌 주요 기업도 줄줄이 뛰어들었다. 지난해 ‘미스트랄 7B’에 이어 수학, 물리 등 작은 전문 모델로 쪼갠 뒤 질문에 따라 연결하는 방식의 ‘믹스트랄 8x7B’(전문가 믹스·MoE) 모델을 오픈소스(소프트웨어 설계도 공개)로 내놓은 프랑스 스타트업 미스트랄 AI는 오픈AI의 대항마로 떠오르고 있다. 이경전 경희대 경영학·빅데이터응용학과 교수는 “중요한 건 모델을 실제 사용하고 난 뒤의 평가”라면서 “미스트랄을 써본 기업들 얘기를 들어보면 다들 ‘써보니 좋다’고 한다. 오픈소스로 이만큼 따라왔다는 건 한국 기업에도 희소식”이라고 말했다. 텍스트에서 이미지·영상·음성 분석으로…AGI 현실화? 성능으로 승부를 보는 LLM의 진화도 계속되고 있다. 오픈AI의 최신 LLM인 GPT-4(매개변수 1조 7000억개 추정)보다 더 많은 기능이 추가된 GPT-5가 올해 안에 공개될 예정이다. 추론 기능도 추가된다고 한다. 텍스트(글자)를 학습하는 걸 넘어 이미지·영상·음성을 분석하고 생성하는 ‘멀티모달’ 방식으로도 발전하고 있다. 인간이 다양한 방식을 통해 사물을 인식하는 것과 동일하게 AI가 학습한다는 얘기다. ‘할루시네이션’(환각현상·AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)은 완전히 제거되지 않았지만 인간처럼 사고하고 판단할 수 있는 능력을 갖춘다는 건 인공일반지능(AGI·인간 수준으로 일을 처리하는 AI)이 현실화할 수 있다는 의미로 해석된다. 구글 딥마인드의 6단계 분류 기준으로 보면 특정 업무 수행에 초점을 맞춘 AI 중에선 단백질 구조 예측 AI ‘알파폴드’처럼 이미 인간을 뛰어넘는 ‘레벨6’(슈퍼휴먼)의 AI도 등장했다. 그러나 전반적인 업무를 수행할 수 있는 AGI(챗GPT, 바드, 라마2)는 아직 ‘레벨1’(초기단계)에 머물러 있다. 노건태 서울사이버대 빅데이터·정보보호학과 교수는 “AGI는 인간의 지능을 모든 영역에서 모방하거나 뛰어넘는 것을 목표로 한다”면서 “지금까지 AI가 달성한 수준과는 근본적으로 다른 훨씬 더 어려운 목표”라고 말했다. 이어 “자연어 처리, 이미지 인식, 패턴 분석 등 특정 영역에서는 매우 뛰어난 성능을 보이지만 이를 통합하고 유연하게 창의적으로 사고해 처리할 수 있는 능력은 적어도 아직까지는 사람의 고유한 영역”이라고 덧붙였다. 장병탁 원장은 “텍스트를 학습한 생성형 AI의 성능에 대해선 연구자들도 놀라고 있다”면서 “AGI 시대가 앞당겨지는 느낌을 많이 받는다”고 말했다. 그러면서도 “시각 등 감각에 해당하는 부문은 아직 데이터화 안 된 게 많다”며 “표정이나 감정을 분석하는 건 어려운 기술이지만 이게 가능해지면 파급효과가 엄청나다. 우리가 집중해야 할 부분”이라고 강조했다.

11월 미국 대선을 앞두고 인공지능(AI) 기술이 선거에 미치는 영향에 대한 우려가 커지는 가운데 실제로 미 경선에서 이를 악용한 사례가 접수됐다. 23일(한국시간) 뉴욕타임스와 NBC 등 외신에 따르면 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 상황에서 민주당 당원에게 ‘투표하지 말라’는 조 바이든 미국 대통령의 목소리가 담긴 전화가 걸려왔다. 뉴햄프셔 법무장관실에 따르면 가짜 녹음에는 “당신의 투표는 11월이 중요하다. 이번 화요일은 그렇지 않다”라는 내용이 담겼다. 이어 법무장관실은 “뉴햄프셔 대통령 예비선거를 방해하고 유권자들을 억압하려는 불법 시도로 보인다”며 “유권자들은 이 내용을 완전히 무시해야 한다”라고 밝혔다. 이처럼 AI 기술이 빠르게 발전하면서 이를 기반으로 한 가짜뉴스도 기승을 부리고 있다. 지난해 공화당은 바이든 대통령이 대선 출마를 발표했을 때 세상의 종말 시나리오를 담은 비디오를 생성하는 데 이 기술을 사용하기도 했다. 도널드 트럼프 전 대통령 역시 미 경찰에게 체포당하는 가짜 이미지가 공개된 바 있다.“백인 AI이미지, 실제보다 더 현실적이라 느껴” AI로 생성된 사람 얼굴 사진이 실제 사람을 찍은 사진보다 더 진짜처럼 보이는 현상도 나타나고 있다. 최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다. 실제로 최근 미국 일간 뉴욕타임스(NYT)가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다. 이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다. 그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다. 하지만 AI의 발전됨에 따라 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다. 오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다. 호주국립대(ANU)의 에이미 다웰 교수는 이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다고 우려했다. 다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.

“인공지능(AI)가 할 수 있는 일의 범위는 놀랍도록 확장될 겁니다.” 자체 대규모언어모델(LLM)을 개발해 세계를 놀라게 한 토종 AI 스타트업 ‘업스테이지’의 최홍준(44) 부사장은 23일 “모든 사물이 AI와 결합되는 상황에서 ‘AI를 어떤 기계에 넣을 것이냐, 어떻게 쓸 것이냐’에 따라 기회는 무수히 많다”고 힘줘 말했다. 최 부사장은 지난 9~12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024에서 가장 인상적인 제품으로 삼성전자가 선보인 AI 로봇 ‘볼리’를 꼽은 뒤 “상상력을 자극하는 제품”이라고 말했다. 그는 “(이미지와 영상 등을 학습·분석하는) 멀티모달이 생활에 적용된 사례로 눈이 있고 음성 인식 기능도 있다. 볼리에 탑재된 AI가 GPT 성능 이상으로 좋아진다면 때로는 에이전트(일종의 비서), 때로는 말동무로 역할을 할 수 있을 것”이라고 내다봤다.현재의 AI 기술 수준에 대해선 “딥러닝(컴퓨터가 스스로 데이터를 조합 분석해 학습하는 기술) 알고리즘과 슈퍼 컴퓨팅 기반 대규모 데이터 처리 능력의 향상으로 자연어 처리, 이미지·음성 인식은 인간 수준의 성능을 달성했다”고 짚었다. 오픈AI의 GPT-4와 같은 LLM이 자연어 생성·이해 분야에서 혁신적인 결과를 보여줬다는 것이다. AI가 의료 진단, 금융 예측, 자율주행 자동차 등 다양한 응용 분야에서 활용되고 있는 것도 AI 기술이 상당한 발전을 이룬 사례라고 설명했다. 다만 “AI가 의사결정을 지원하고 인간을 대체하기에는 인간의 추상적 사고, 도덕적 판단, 문맥 이해 등에서 한계를 갖고 있다”는 게 최 부사장의 주장이다. 글로벌 불확실성, 경제적 요인, 정치적 변수 등도 AI 기술 발전을 예측하기 어렵게 만든다고 했다. 업스테이지는 지난달 자체 개발한 LLM ‘솔라’를 공개하고 글로벌 기술 경쟁에 뛰어들었다. 솔라는 세계 최대 AI 플랫폼 허깅페이스가 운영하는 ‘오픈 LLM 리더보드’ 평가에서 1위를 차지했다. 솔라는 기업이 활용할 수 있게 작은 크기로 구성된 경량형 언어모델(sLLM 혹은 SLM)로 매개변수(파라미터) 규모는 107억개(10.7B) 수준이다. LLM 뛰어난 발전에도 할루시네이션 여전정확성, 신뢰성 높여줄 RAG 기술 떠올라 최 부사장은 “지난해 등장한 GPT-4와 같은 LLM은 뛰어난 발전을 이뤘지만 ‘할루시네이션’(환각현상·AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)과 같은 문제는 아직 해결되지 않았다”고 지적했다. 그러면서 “앞으로 검색 증강 생성(RAG)과 같은 새로운 방법론이 AI 기술 발전의 핵심적인 역할을 할 것”이라고 전망했다. RAG는 외부에서 가져온 정보로 생성형 AI 모델의 정확성과 신뢰성을 높여주는 기술로 LLM의 한계를 보완해준다는 점에서 주목을 받고 있다. 최 부사장은 AI가 아직 인간의 지능을 뛰어넘는 ‘티핑 포인트’(극적인 변화의 순간)에 도달하진 못 했지만 현재의 기술 속도로 보면 몇 년 안 걸릴 것으로 봤다. 그는 “수 년 내 인간 지능을 뛰어넘을 수 있다고 생각한다”면서 “기술 발전을 통제할 수 있는 장치를 빠르게 도입해야 한다”고 강조했다. 이어 “과연 AI 규제를 통해 ‘통제가 가능할까’에 대해선 확신하기 어렵다”며 “이럴 때는 오히려 AI 대 AI의 구조로 기술 개발을 통한 통제를 하는 것도 방법일 수 있다”고 제안했다.

박평종 중앙대학교 교수(인문콘텐츠연구소 HK연구교수) 가 오는 2월8일까지 복합문화공간 마프(서울시 중구 서애로33)에서 인공지능(AI) 시대 기술 생성 이미지가 만드는 초상사진전을 연다. 이번 전시회에는 태조 이성계, 영조, 철종, 윤두서, 논개, 갈릴레이, 아그리파, 마리앙투아네트 등 과거 인물들의 초상화로부터 생성 인공지능을 활용해 사실적인 사진 이미지를 구현한 총 200여점의 작품을 선 보였다. ‘생성사진 프로젝트’는 인공지능이 초상화를 사진이미지로 합성하는 놀라운 능력을 보여주며 과거 인물의 사실적 시각적 경험과 효과를 제공한다. 그러나 생성 인공지능의 산출 이미지는 학습 데이터의 총합 평균치로 이미 결정된 알고리즘의 구조적 한계점도 존재함을 함께 고민하고 있다. 특히 생성 이미지는 잠재적으로 획일적이며 결국 인간의 개별 특질을 사라지게 해 학습 데이터 평균치로 대체함을 우리에게 보여준다. 박평종 교수는 “순수 자동 생성 단계에서 생성 인공지능은 단 하나의 이미지만 산출하는 기계의 의도를 통제하지 못하면 개별 인간의 특질은 사라지고 스테레오타입으로 변환될 것”이라면서 “이 모순에서 벗어나기 위해서는 인간의 개입이 필요하다”고 설명했다. 이어 박 교수는 “우리가 AI에 대한 기대가 커지고 있지만, 또 다른 한편에는 많은 우려의 목소리도 공존한다”면서 “이번 ‘생성사진 프로젝트’는 AI에 대한 기대와 우려를 고찰하는 계기가 돨 것”이라고 덧붙였다.

지난 12일(현지시간) 미국 라스베이거스에서 막을 내린 세계 최대 가전·IT 전시회 CES 2024의 화두는 단연 인공지능(AI)이었다. ‘챗GPT’가 생성형 AI 시대를 연 뒤 처음 열린 전시인만큼, ‘올 투게더, 올 온(All Together All On)’이라는 주제 아래 다양한 산업 분야와 융합되는 AI 기술이 전시의 중심이었다. 이에 그동안 AI 기술을 고도화 시켜 온 국내 스타트업들이 CES에서 전에 없던 주목을 받았다. 소규모 벤처기업들이 혁신 기술을 선보이는 전시관인 ‘유레카파크’가 ‘K-스타트업’의 무대가 됐다. 국내 스타트업들은 대기업의 투자를 유치하거나 해외 업체와 협력을 체결하고 CES 혁신상을 받는 등 호평을 얻었다.●포바이포 ‘픽셀’, 혁신상 2개 부문 수상 포바이포는 딥러닝 AI 기반 화질 개선 솔루션 ‘픽셀(PIXELL)’로 ‘콘텐츠&엔터테인먼트’, ‘디지털 이미징/사진’ 부문에서 CES 2024 혁신상을 수상했다. 픽셀은 수만 건의 초고화질 영상을 학습한 AI가 채도, 선예도, 명암, 노이즈 등을 미세하게 조정하는 방식으로 화질을 고도화한다. 인간이 눈으로 보는 것과 비슷한 수준의 영상 화질을 구현할 수 있다는 게 포바이포의 설명이다. 영상의 초당 데이터 전송량도 낮추면서도 화질은 초고화질로 바꿀 수 있어 다양한 업계에서 활용할 수 있다. 한국콘텐츠진흥원(KOCCA) 공동부스에 마련된 포바이포 전시 공간엔 미국, 영국, 일본, 스페인 등 글로벌 방송사와 통신사, 증강현실(AR)/가상현실(VR) 협회, 3D 콘텐츠 제작사, 글로벌 VFX 스튜디오, 글로벌 기술 기업, e러닝 교육기업, 헬스케어 이미지 영상 기업 등 디지털 영상 및 이미지 콘텐츠를 생성, 활용하는 다양한 영역의 관계자가 약 300명 이상 방문한 것으로 전해졌다. 현장을 방문한 AI 솔루션 인프라 구축 기업 올파이브데이터 최고기술책임자(CTO) 셔먼 탕은 “AI 화질 개선 결과물의 퀄리티가 매우 놀랍다”며 “미국 등 글로벌 미디어 서비스 및 콘텐츠 제작 분야에서도 활용 잠재력이 매우 클 것이라 생각한다”고 소감을 전했다. 포바이포는 오는 2월 말, 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘모바일 월드 콩그레스(MWC) 2024’에서도 스타트업 전문관 ‘4YFN’에도 전시장을 꾸린다. ●에이아이포펫, 반려동물 헬스케어로 주목 반려동물 헬스케어 전문 기업 ㈜에이아이포펫은 CES에 3년 연속 참가해 AI 반려동물 건강관리 기술을 선보이고 현지 관람객들에게 큰 호응을 얻었다. 이번 전시에선 강아지와 고양이 이빨 건강까지 확인하고 관리할 수 있는 발전된 AI 분석 기술을 전시했다. 반려인은 집에서 직접 ‘티티케어’ 앱으로 반려동물 건강 상태를 확인하고 그 데이터를 연계 병원과 실시간 공유할 수도 있다. 현재 한국마사회와 함께 연구개발 중인 AI 기반의 말 개체 식별 기술과 보행 이상 진단 보조 기술도 함께 선보였다. ●딥인사이트, 프롭테크 기술로 美업체와 MOU 인공지능 기반 3D 센싱 솔루션 스타트업 ㈜딥인사이트는 CES 2024에서 미국 라이다(LiDAR) 기업 아우스터와 전략적 기술 협력 업무협약(MOU)를 맺었다. 두 회사는 건설, 건축, 프롭테크(부동산 기술), 인테리어 등 분야에서 3D 공간 정보 획득에 사용되는 라이다 기반의 3D 스캐너 개발과 보급에 협력하기로 했다. 딥인사이트의 ‘디멘뷰’는 아우스터 라이다와 고용량 리튬이온 베터리를 소형화, 경량화한 프롭테크 장비로, 필요한 공간 정보만 선택적으로 모니터링하고 촬영, 2D, 3D 도면 정보를 실시간으로 획득할 수 있도록 만들어졌다.●딥브레인AI, 전시장에 가상인간 세워 AI 휴먼 제작 선도 기업인 딥브레인AI는 2019년부터 매년 CES에 참가하고 있다. 이번엔 LG 노바와 협력해 ‘함께 만드는 더 밝은 미래’를 주제로 유레카 파크에 전시관을 꾸렸다. 이번 전시에서 딥브레인AI는 대화형 AI 키오스크와 가상인간 영상 편집 플랫폼인 ‘AI 스튜디오스’를 중점적으로 소개했다. 특히 자사 ‘드림아바타’ 기술을 기반으로 실제 AI 휴먼을 구현해 화제를 모았다. 드림아바타는 사진 한장과 음성 10초 분량만 있으면 2분 내에 가상인간을 제작할 수 있는 기술이다. 딥브레인AI 전시장에선 AI 스튜디오스를 통해 텍스트 입력만으로 쉽고 간단하게 AI 휴먼을 활용한 영상을 제작해 보는 체험도 이뤄졌다. 글로벌 IT 기업 레노버 및 스콧 모건 재단과 함께 진행한 ‘AI 아바타 프로젝트’도 공개됐다. 스타트업얼라이언스에 따르면 CES 2024에서 한국 기업 중 혁신상을 수상한 스타트업은 116개로, 그 중 가장 많은 30개(25.86%) 스타트업이 헬스케어 분야에 해당됐다. CES 2024 최고 혁신상을 수상한 3D 프린팅 의수 개발 기업 ‘만드로’, AI 전립선암 진단 솔루션 ‘딥바이오’, 재생의료 스타트업 ‘플코스킨’ 등이 이 분야에 해당된다. 두번째로 혁신상이 많은 산업군은 스마트홈&스마트시티 분야(14개, 12.07%), 세번째는 AI(12개, 10.34%)였다.

LLM에 붙이는 모듈 형태, 소스코드 공유LLM에 이미지 인식·분석 기능 추가돼카카오브레인 “KoGPT2.0 개발은 완료” 지난해 공개하겠다고 예고한 대규모언어모델(LLM) ‘코(Ko)GPT2.0’(가칭)를 아직 내놓지 못한 카카오가 대신 LLM과 이미지를 연결하는 멀티모달 언어모델(MLLM)의 소스코드를 공개했다. 정신아 카카오 대표 내정자는 19일 여의도 FKI타워(옛 전경련회관)에서 이종호 장관 주재로 열린 제5차 인공지능 최고위 전략대화에서 자체개발 MLLM 오픈소스 ‘허니비’를 공개했다. 허니비는 자체로 인공지능(AI) 모델은 아니며, LLM이나 AI 서비스에 적용할 수 있는 모듈 성격의 소스코드다. 허니비를 LLM에 적용하면 모델은 이미지와 명령어로 된 질문에 글로 답변할 수 있게 된다. 예를 들어 농구 경기를 하고 있는 두 명의 선수 이미지와 함께 ‘왼쪽 선수는 몇 번 우승했느냐’고 영어로 질문하면, 입력된 이미지 내용과 질문을 종합적으로 이해해 답변을 생성한다. 허니비를 통해 LLM을 확장, MLLM으로 만들 수 있게 되는 셈이다. 카카오브레인은 개발자들이 자유롭게 소스코드를 공유하는 깃허브에 허니비를 공개해, 누구나 사용하거나 변경할 수 있게 했다. 카카오브레인은 KoGPT2.0의 개발이 완료돼 모델을 확보했지만 공개 방식 등을 아직 검토 중이라고 설명했다. 카카오는 네이버 등 경쟁사에 비해 LLM 개발과 출시가 늦었다는 비판을 받고 있다. 오픈AI, 구글 등 해외 빅테크가 아주 빠른 속도로 생성형 AI 기술을 고도화하는 가운데, 자체 개발 LLM 출시조차 늦어지면 시장에서 AI 주도권을 잡기 어렵다. 네이버는 지난해 8월 출시한 LLM ‘하이퍼클로바X’의 매개변수(파라미터) 수를 2040억개라고 밝혀 출시 전부터 모델의 규모를 공개했다. 하지만 카카오브레인은 아직 KoGPT2.0의 규모조차 공개하지 않고 있다. 다만 꼭 파라미터 수가 많아야 하는 것은 아니라는 판단으로, 서비스 목적에 따라 다양한 규모로 최적화한 버전을 공개할 방침이다.

“안녕하세요. 내일 저녁 7시에 예약 가능한가요?”(Hello. can I make a reservation for tomorrow at 7 PM?) “Of course. For how many people?”(그럼요. 몇 명이나요?) 17일(현지시간) 미국 캘리포니아주 새너제이 SAP 센터에 모인 2100여명의 전 세계 미디어와 파트너사 관계자들은 삼성전자 갤럭시 S24 시리즈에 탑재된 ‘온디바이스 AI’(인공지능)를 통해 서로 다른 외국어로 실시간 대화하는 ‘실시간 통역’(Live Translate) 기능에 환호와 박수를 보냈다. 이날 영어로 진행된 ‘갤럭시 언팩 2024’ 행사에서는 영어 사용자가 스페인어를 사용하는 식당 주인에게 전화로 예약하는 장면이 연출됐다. 실시간 통역 기능은 출시 시점 기준 13개 언어를 지원한다. 인터넷 환경에 구애받지 않고 기기 내 AI를 통해 이뤄지는 번역과 통역 서비스는 전화뿐만 아니라 대면 통역과 문자 메시지를 자동 번역해 주는 ‘챗 어시스트’로 이어진다. 블룸버그 통신은 이날 “삼성이 AI 스마트폰 시장에서 (애플보다) 수개월 앞서 출발함으로써 판도를 뒤집을 것으로 보인다”고 내다봤다. 파이낸셜타임스(FT)는 “업계는 (갤럭시 S24 출시를 계기로) 10여년 만에 최악의 한 해를 보냈던 스마트폰 시장이 되살아날 것으로 기대한다”고 보도했다.이날 체험 공간에서 만난 전 세계 미디어와 인플루언서 등은 삼성전자가 구글과 협업해 선보인 ‘서클 투 서치’ 기능에도 큰 관심을 보였다. 웹 서핑이나 소셜미디어(SNS), 유튜브 영상 등을 보다가 궁금한 이미지나 텍스트가 있으면 어느 화면에서든지 홈버튼을 길게 누른 후 동그라미를 그리기만 하면 대화형 검색을 통해 상세 정보를 알아갈 수 있는 검색 방식이다. 호주의 뉴스닷컴 기자인 로렌은 “이번 스마트폰에서는 AI 기능이 매우 재미있는 것 같다”며 “특히 검색 기능은 매우 유용할 것 같다”고 했다. 로스앤젤레스에서 온 인플루언서 릴리 브라운도 “새로운 갤럭시에 많은 기능이 들어 있어 흥미롭다”며 “서클 투 서치 등 인플루언서들이 쉽게 즐겨 사용할 수 있는 기능들이 많아 기대된다”고 전했다.이날 행사에선 전 세계 MZ 세대를 공략하기 위해 유명 유튜버와 게임 스트리머도 나왔다. 유튜브 구독자 2억 3200만명으로 전 세계 1위 유튜버인 미스터 비스트는 2분 분량의 영상을 통해 30m 상공에서 S24 카메라 줌 기능을 선보였고, 유명 게임 스트리머인 포키메인은 무대에 1분쯤 나와 S24의 게임 성능을 시험해 보며 감탄했다. 노태문 삼성전자 MX(모바일경험) 사업부장(사장)은 “갤럭시 기기를 더 오랫동안 안전하고 안정적으로 사용할 수 있을 것”이라며 “갤럭시 S24는 진정한 미래의 폰이다. 삼성 갤럭시 AI와 함께 기술 지형을 재편할 것”이라고 자신했다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단“지급정지로 범죄 줄이는 데 기여”온라인 마약 판매 사진 AI로 판독 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 본다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것”이라고 밝혔다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단이원석 총장, 은행연합회와 MOU 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청은 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘개입산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 법안마다 개정이 필요하다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄 피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기 이용 계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌 지급정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키느냐’며 항의하는 경우도 있다”고 밝혔다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 재구축했다.

영화 ‘어벤져스: 에이지 오브 울트론’에는 인공지능(AI) 자비스에 바탕을 둔 ‘비전’에 관한 이야기가 나온다. 강력한 힘을 가진 이 새로운 존재가 아군인지, 적군인지, 더 나아가 통제가 가능할지 등을 놓고 고민한다. 다행히 영화 속 비전은 아군으로 활약했다. 하지만 많은 이가 전장의 AI로 비전보다는 영화 ‘터미네이터’에서 인류를 말살하려는 ‘스카이넷’을 떠올린다. #AI 활용 ‘군사 경쟁’ 가속표적 찾아 자폭·적 얼굴 인식딥페이크로 가짜 뉴스 제작 영화나 드라마에 나올 법한 존재로 여겨졌던 AI는 2022년 우크라이나·러시아 전쟁을 계기로 전쟁 양상을 완전히 바꿀 수 있는 존재로 다가왔다. 표적을 찾아 자폭하는 드론뿐 아니라 적군 병사를 인식하는 안면인식 기술부터 머신러닝을 활용한 군수 지원까지 몇 년 전만 해도 상상조차 할 수 없었던 각종 AI 기술이 현실화하고 있다. 무기 체계에만 AI를 활용하는 건 아니다. 전쟁 초기 소셜미디어(SNS)에서 볼로디미르 젤렌스키 우크라이나 대통령이 항복 성명을 발표하는 ‘딥페이크’(AI 기반 이미지 합성기술) 영상이 유포된 적이 있다. 같은 시기 블라디미르 푸틴 러시아 대통령이 평화를 선언하는 영상도 퍼져 나갔다. 지난해 이스라엘·하마스 전쟁 역시 AI가 전장을 어떻게 바꿀 수 있는지 보여 주는 사례로 꼽힌다. 이스라엘군은 드론 영상, 감청 자료, 감시 데이터, 움직임·행동 양상 데이터를 학습한 AI가 표적을 실시간으로 분석하고 선별하는 의사결정지원 시스템을 사용하고 있다. AI 기술이 지휘통제, 기동, 화력, 정보, 방호, 군수 등 전투 수행에 필요한 모든 영역에서 필수 불가결한 요소로 자리잡으면서 AI를 둘러싼 각국의 군사 경쟁도 거세지고 있다. #美 ‘CDAO’ 미래전 대비지휘통제에 AI 활용 계획로봇 전투차량·참모 개발 예컨대 미국 국방부는 2018년 합동인공지능센터(JAIC)를 창설했으며, 2022년 국방부 전체의 AI와 데이터 분석 등을 총괄하는 최고디지털인공지능국(CDAO)을 신설해 JAIC를 산하 조직으로 통합했다. 2022년 AI가 의사결정에 도움을 주는 합동전영역지휘통제(JADC2) 계획을 발표하고 기능별 하부 시스템을 마련하고 있다. 미 해군은 무인 자율주행 전함, 드론과 무인 수상함, 무인 잠수정이 임무를 수행하는 유·무인복합체계를 만들고 있고, 미 육군은 전투에 가장 적합한 경로를 직접 선택해 임무를 수행하는 로봇 무인 전투차량뿐 아니라 소부대용 AI 전투참모도 개발하고 있다. #한국도 국방혁신4.0 잰걸음지뢰탐지시스템 개발 완료연내 국방AI센터 창설 예고 우리 정부 역시 발걸음이 빨라지고 있다. 국방부는 2021년 인공지능추진전략을 수립한 데 이어 지난해 3월 발표한 국방혁신 4.0 기본계획을 통해 AI 기반 유·무인복합전투체계 등을 확보하고 올해 국방AI센터를 창설한다는 계획을 내놨다. 육군 관계자는 “최근 AI 융합 지뢰탐지시스템 개발을 완료했다. 올해부터 민간에서 보유한 다양한 AI 기술을 미래 지상전투체계인 ‘아미 타이거’에 시범 적용할 계획”이라면서 “앞으로 AI 기반 초연결 전투체계를 개발하는 것을 목표로 하고 있다”고 밝혔다. 조상근 카이스트 국가미래전략기술정책연구소 연구교수는 “군사 행동에서의 핵심은 감시, 결심, 대응이다. AI 기술이 이 세 가지를 하나로 결합하고 시간도 단축하고 있다”면서 “먼저 보고, 먼저 결심하고, 먼저 타격할 수 있다. 최종 선택을 할 시간을 단축해 준다”고 설명했다. 정홍용 예비역 육군 중장은 “AI를 적용하려면 충분한 데이터가 필요하지만 현재 국방 분야 데이터는 대부분 보안으로 묶여 있어 데이터 확보 자체가 어렵다”면서 “공개 자료에 기반한 텍스트, 동영상 등의 군사 자료에 대해 가공 과정을 거쳐 가상 데이터를 만든 뒤 민간 개발자들에게 제공함으로써 AI 개발 과정에서 충분히 활용할 수 있도록 지원해야 한다”고 제안했다. AI 기술 발전과 더불어 판단 오류로 인한 민간인 피해가 심각할 수 있다는 우려도 커지고 있다. 이스라엘군은 최첨단 AI 기술로 적군과 민간인을 구별할 수 있다고 했으나 가자지구 민간인 사상자는 1만명을 훌쩍 넘어섰다. AI가 전쟁에 개입하면서 책임 소재 논란이 불거지는 만큼 교전 윤리를 새롭게 만들어야 한다는 지적도 나온다. 안토니우 구테흐스 유엔 사무총장은 지난해 6월 기자회견에서 핵 감시 기구인 국제원자력기구(IAEA)처럼 AI를 감시하고 규제할 유엔 산하 기구를 구상하고 있다고 밝힌 바 있다.

수사단계서 동결할 입법안 추진최소 6개월 정지…추가 범행 차단이원석 총장, 은행연합회와 MOUe드러그 모니터링 이달 상용화 계획 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급 정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법 도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민 체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 각 법안마다 개정이 필요하다. 툭히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고, 은행권의 협조를 요청할 계획이다.현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기이용계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수가 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌지급 정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키냐’며 항의하는 경우도 있다”고 설명했다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여 간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법 도박 근절을 위해 관련 사이트 접속 차단을 해왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌지급 정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄 수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고, 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인 상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 구축했다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 다시 재구축했다.

생성형 인공지능(AI)으로 만든 허위조작정보가 미 대선을 비롯해 전 세계 40여개국에서 진행하는 선거를 망칠 수 있다는 우려가 커지자 챗GPT 제작사 오픈AI가 선거 관련 콘텐츠의 정보 출처와 조작 여부를 알 수 있는 시스템을 만드는 등 자율규제책을 발표했다. 오픈AI는 15일(현지시간) 자사 홈페이지에 “올해 세계 각국에서 치러지는 민주주의 선거의 공정성을 지키기 위해 민주적 절차의 모든 부분에서 협력이 필요하다”며 AI 챗봇 챗GPT와 이미지 생성 AI ‘달리’(Dall-E) 관련 선거 공정성 세이프가드 방안을 발표했다. 구체적으로는 챗GPT를 통해 사람들이 선거 캠페인이나 로비 활동을 위한 애플리케이션(앱)을 만드는 것과 임의의 개발자가 선거에 나선 특정 인물이나 중앙정부 또는 지방정부인 것처럼 가장하는 챗봇을 만드는 것을 금지했다. 또 투표소 위치 등을 잘못 알려 주거나 ‘민주주의에서 투표가 무의미하다’고 주장하는 등 민주주의 시민의 참정권 행사를 방해하는 앱 제작을 금지했다. 오픈AI는 “챗GPT는 언론사 뉴스 등 기존의 정보 소스들과 점점 더 통합되고 있다”면서 “전 세계 언론의 실시간 선거 관련 속보 기사를 볼 수 있도록 연결해 생성형 AI를 이용하는 사람들이 정보의 출처와 취재원을 투명하게 쉽게 찾아볼 수 있도록 하겠다”고 밝혔다. 미 대선과 관련해서는 초당파적 단체인 미 국무장관협회(NASS)와 협력해 유권자들이 챗GPT에 투표소 위치 등 선거 관련 특정 질문을 하면 주 선거관리위원회가 정보를 제공하는 공식 웹사이트(CanIVote.org)로 안내한다. 이를 통해 정확한 선거 관련 정보를 안내하는 프로토콜을 구축해 세계 각국의 선거 관련 정보를 준다. 또 후보 관련 사실과 거짓이 뒤섞인 정보, 딥러닝을 이용한 합성기술인 딥페이크 영상 유포를 막기 위해 생성형 AI가 만든 콘텐츠의 출처와 세부 정보를 암호화해 인코딩하는 디지털 자격 증명 체계도 마련한다. 앞서 구글도 자사 챗봇 ‘바드’가 대답을 내놓는 선거 관련 질문을 후보자, 투표 방법, 장소 등으로 제한하는 조처를 했다. 이 내용도 별도 외부 기관을 통해 검증된 정보만으로 구성했다. 선거 관련 정보는 출처를 반드시 제시하고, AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 AI가 사용됐다는 것을 눈에 띄게 표시하도록 했다.

인공지능(AI)이 표현한 ‘한국 20대 남녀의 모습’에서 남성은 군인, 여성은 카페에서 수다를 떠는 모습이 그려져 논란이다. 15일 소셜미디어(SNS)에는 ‘AI가 그린 남녀’라는 제목으로 된 게시물이 공유되고 있다. 게시글을 올린 A씨는 “‘AI에 한국 20대 남녀의 모습’ 키워드를 넣으니 이런 그림이 나왔다. 이게 현실”이라며 사진을 공개했다. 사진은 챗GPT 4.0 등 특정 키워드를 넣으면 이에 어울리는 그림을 자동으로 그려주는 사이트를 이용한 것으로 보인다. 해당 그림 속 남성들은 폭설을 맞으며 경계근무를 서는 모습이다. 여성들은 커피전문점에서 둘러앉아 커피를 마시고 있는 모습으로 그려졌다. 남성의 표정은 어둡고, 여성들의 모습은 상대적으로 밝게 나타났다.“현실을 반영한 그림”vs“의도적”…네티즌 갑론을박 해당 ‘AI 그림’을 두고 일각에서는 “현실을 반영한 그림”이라는 평가가 나왔지만, 남녀 갈등을 부추길 목적으로 의도적으로 그려진 그림이라는 의혹 또한 적지 않게 제기됐다. 애초 이용자가 극단적인 명령어를 입력했을 것이라는 의견이다. 한 네티즌은 “이제 하다하다 AI 그림까지 조작하나”라며 “갈등 여론을 조성하기 위해 프롬프트(명령어)를 작성해 만들어낸 그림”이라고 주장했다.“얼굴 뒤틀린 그림”…생성형 AI에 직접 요구해 보니 실제 ‘뤼튼’과 ‘라스코AI’ 등 생성형 AI 서비스에 ‘20대 한국 남녀의 모습’을 그려달라고 요구한 결과, 게시글에서 보여진 그림은 나타나지 않았다. 뤼튼이 생성한 그림에는 남녀가 뒤섞여 서있는 모습이 나타났다. 그림 속 남녀는 눈동자 초점이 맞지 않거나 얼굴이 뒤틀리는 등 부자연스럽게 표현됐다. 네티즌 B씨는 “저런 그림이 생성되게 하기 위해서는 그림의 모든 부분을 겨냥한 구체적인 키워드를 넣어야 한다”며 “의도적으로 갈등을 유발하기 위한 그림을 게시해놓고 여론을 왜곡하는 것이 우려스럽다”고 적었다. 놀라운 결과 나오기도…“1조원보다 비싼 ‘팬케이크’는?” 최근 AI가 그린 사진이 온라인상에서 한 차례 화제를 모은 바 있다. 유튜버 C씨는 AI에 가격대별 팬케이크를 그려달라고 주문했고, AI는 1달러부터 10억달러까지 팬케이크를 순서대로 그려나갔다.1달러부터 10달러까지는 소스, 토핑 등 차이가 있었을 뿐 평범한 팬케이크 그림이었다. 100달러짜리 팬케이크를 주문하자 캐비어가 들어간 팬케이크가 나왔고, 1000달러 팬케이크는 배경이 호텔로 바뀌었다. 100만달러 팬케이크는 더 화려해진 플레이팅이었고, 배경은 크루즈 안이었다. 그는 “마지막으로 값어치를 매길 수 없는 팬케이크를 만들어줘”라고 주문했고, AI는 어머니와 아이가 함께 팬케이크를 굽는 장면을 그려냈다. 이를 본 C씨는 “2021년도에 어머니를 떠나보냈는데 어머니가 만들어준 아침밥을 다시 먹을 수만 있다면 뭐든 할 것이다”며 울컥했다. 한편 ‘생성형 AI’ 기술은 콘텐츠들의 패턴을 학습해 추론 결과로 새로운 콘텐츠를 만들어내는 것이다. 기존 AI가 데이터와 패턴을 학습해 대상을 이해했다면, 생성형 AI는 기존 데이터와 비교 학습을 통해 새로운 창작물을 탄생시킨다. 이미지 분야에서는 특정 작가의 화풍을 모사한 그림으로 사진을 재생성하거나 가짜 인간 얼굴을 무제한 생성할 수도 있다.

삼성전자가 애플보다 먼저 인공지능(AI) 스마트폰을 공개하면서 프리미엄 스마트폰 시장에서도 지각변동이 예상된다. 삼성전자가 내놓는 첫 AI폰 ‘갤럭시S24 시리즈’가 흥행에 성공하면 애플의 독주 체제에도 균열이 발생할 수 있다. 모바일 시대 최강자로 군림했던 애플은 최근 AI를 앞세운 마이크로소프트(MS)에 시가총액 1위 자리를 내주는 등 빅테크 패권 경쟁에서 주춤하는 분위기다. 15일 업계에 따르면 삼성전자는 17일(현지시간) 미국 캘리포니아주 새너제이에서 신제품 발표 행사인 ‘갤럭시 언팩 2024’를 열고 갤럭시S24 시리즈를 공개한다. 갤럭시S24는 신제품 이상의 성격을 지닌다. 삼성전자가 AI 시대에도 모바일 시장에서 경쟁력을 가질 수 있을지를 보여 주는 가늠자 역할을 할 것으로 예상되기 때문이다. 지난 9~12일 미 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 ‘CES 2024’를 관통하는 핵심 주제가 AI였고 CES가 끝나자마자 출시되는 AI폰이란 점에서 갤럭시S24가 갖는 상징성은 크다. 갤럭시S24는 온디바이스 AI(클라우드를 거치지 않고 기기 내부에서 AI 구동)와 클라우드 AI를 결합한 하이브리드형 AI폰으로 자체 개발한 생성형 AI ‘삼성 가우스’ 등이 탑재된다. 인터넷이 연결되지 않은 상태에서도 AI를 활용해 문서 요약, 이미지 편집 등의 작업을 할 수 있으며 실시간 통화 통역이 가능해진 게 장점으로 꼽힌다. 퀄컴이 생성형 AI 구동에 맞춰 설계한 최초의 애플리케이션프로세서(AP) 스냅드래곤8 3세대가 탑재된 것도 기대를 키우는 요인이다. 다만 AI를 활용한 최첨단 기술을 접한 소비자의 눈높이가 높아진 점, 제품 주요 사양이 사전에 여러 경로를 통해 유출된 점은 이른바 ‘와우’ 효과를 극대화해야 하는 삼성전자로서는 부담이다.시장조사업체 카운터포인트리서치에 따르면 삼성전자는 글로벌 스마트폰 시장점유율 20%(지난해 3분기 기준)로 애플(16%)을 앞선다. 애플 신제품 출시 효과가 반영되는 4분기를 제외하면 삼성전자가 애플보다 우위를 차지하고 있지만 프리미엄(도매가 600달러 이상) 스마트폰 시장에서는 애플의 독주가 이어지고 있다. 지난해 애플의 프리미엄 시장점유율은 71%로 2위 삼성전자(17%)와 큰 차이가 난다. 삼성전자가 갤럭시S24를 조기 출시하고 신제품 공개 장소로 애플 본사 인근을 택한 것도 ‘AI폰 선두주자’라는 이미지를 각인시키고 애플을 추격하는 기회로 삼겠다는 전략의 일환으로 풀이된다. 삼성전자가 생성형 AI 스마트폰 시장에서 향후 2년 동안 50%에 가까운 점유율을 차지할 것으로 예상된다는 카운터포인트리서치의 전망은 판세가 뒤집힐 수도 있음을 보여 주는 시그널이기도 하다. 애플은 지난 11일 뉴욕증시에서 MS에 시가총액 정상 자리를 내줬다. 시총 순위는 빅테크의 패권 이동을 가늠할 수 있는 상징적인 지표로 MS가 1위가 됐다는 건 AI 시대의 새 강자로 자리매김했다는 의미다. PC 시대를 이끌었던 MS가 시총 1위를 탈환할 수 있었던 데는 오랜 기간에 걸쳐 AI 시대를 대비하고 투자한 요인이 컸다. MS는 챗GPT를 개발한 오픈AI에 투자해 영리사업 부문의 지분 49%를 보유하고 있다. 오픈AI는 지난해 챗GPT 효과로 16억 달러(2조 976억원)의 매출을 올린 것으로 알려졌다. 최근 각 기업·개인이 GPT를 기반으로 개발한 맞춤형 앱을 거래할 수 있는 플랫폼 ‘GPT스토어’를 출시하면서 올해 매출은 3배 더 늘어날 것으로 전망된다. 경계현 삼성전자 DS(반도체)부문 사장은 소셜미디어(SNS)에 “CES에서 만난 대부분 고객과의 대화 주제는 AI였다”면서 “AI의 시대, 지금은 시작일 뿐일 수 있다. 새로운 기회가 온 것”이라고 강조했다.

연예계 대표적인 ‘폴리테이너’(politainer·정치 활동을 하는 연예인)로 불리는 가수 이승환(58)이 최근 경찰 수사를 받던 중 갑작스럽게 세상을 떠난 배우 고(故) 이선균씨에 대한 진상 규명을 촉구하는 ‘문화 예술인 연대회의’의 성명서를 공개 지지했다. 이승환은 지난 오후 14일 자신의 소셜미디어(SNS)에 “고 이선균 배우의 죽음을 마주하는 문화예술인들의 요구 성명서를 이미지로 만들어 봤다”며 “지지하시는 분들은 출처 표시 없이 공유하시면 된다”고 적었다. 이어 “늦었지만 고 이선균 님의 명복을 빕니다”라고 덧붙였다. 그러면서 지난 12일 문화예술인 연대회의 측이 서울 중구 한국프레스센터에서 발표한 성명서를 이미지 파일로 만든 게시물을 공유했다.이승환은 과거에도 윤석열 대통령을 비판하는 게시물을 잇달아 올려 주목받았다. 그는 지난해 12월 20일 SNS에 “세상 사는 얘기도 잠깐”이라는 글과 함께 윤 대통령이 과거 “특검을 왜 거부합니까. 죄지었으니까 거부하는 겁니다”라고 발언하는 모습을 캡처해 올렸다. 이는 최근 야당이 제출한 김건희 여사 특검법 등에 거부권을 행사하기로 한 윤 대통령을 비판하려는 의도로 풀이된다. 그는 해시태그(#)로 윤석열 정권의 대표적인 구호인 ‘공정과 상식’도 달았다. 이승환은 또 최근 SNS에 조국 전 법무부 장관의 저서 ‘디케의 눈물’ 책 사진과 함께 “조국 가족에 대한 ‘윤석열 잣대’를 윤석열 가족과 윤 정부 인사에게 적용하라”는 조국 전 장관의 게시물을 공유하기도 했다. 한편, 봉준호 감독, 가수 윤종신, 배우 김의성 등은 ‘문화예술인 연대회의’라는 이름으로 지난 12일 기자회견을 열고 ▲수사당국 관계자들의 수사 과정에 대한 철저한 진상규명 촉구 ▲언론의 자정 노력과 함께 보도 목적에 부합하지 않는 기사 삭제 요구 ▲문화예술인의 인권 보호를 위한 현행 법령 재개정 등을 요구했다.