LG전자가 15일(현지시간) 프랑스 파리에서 진행 중인 5GAA(5G 자동차 협회) 제34차 총회에서 인공위성 기반의 차세대 음성통신 솔루션을 최초로 시연했다. 짧은 음성전송 이상의 쌍방향 커뮤니케이션이 가능한 정도로 음성통신을 선보인 것은 LG전자가 처음이다. 이날 시연된 솔루션은 인공위성 등 대기권 밖에서 운영되는 비지상 통신망(NTN, Non-Terrestrial Networks)을 이용해 차량 내에서 자연스러운 대화 수준의 음성 통신을 구현했다. NTN 기반 통신은 통신망 연결이 어려운 사막이나 산악 지역, 또는 재난이나 자연재해로 통신 인프라가 마비된 상황에서도 위성을 통해 연결을 가능하게 해 운전자 안전을 위한 핵심 기술 중 하나로 꼽힌다. LG전자는 기존 NTN 기반 통신 기술에 인공지능(AI) 음성 처리 기술을 접목하여 음성 메시지의 용량을 크게 줄였다. 이를 통해 긴급 문자 메시지에 제한적으로 사용되던 위성 통신 서비스를 음성 영역으로 확장하여 음성 메시지 전송 속도를 10배 이상 향상시켰다. 단순한 음성 메시지 송수신을 넘어 실시간 대화까지 가능해진 것이다. 위급 상황에 처한 탑승자가 차량 내부 화면의 긴급 통화 버튼만 누르면 문자 입력과 같은 추가 조작 없이 음성만으로 위성 통신이 가능한 구조 센터 등에 상황을 알릴 수 있다. 또 LG전자는 실시간으로 차량의 위치와 정보를 파악해 네트워크 환경 변화에도 적절한 통신망을 연결해주는 소프트웨어 플랫폼을 구축했다. 예컨대 지상 통신망이 연결되지 않는 곳에 진입하면 자동으로 비지상 통신망에 연결되는 식이다. LG전자는 텔레매틱스, V2X(차량-사물 통신), IVI(차량 내 인포테인먼트) 시스템 커넥티비티 등 SDV(소프트웨어 중심 자동차) 전환의 핵심인 커넥티드 기술 분야를 선도하고 있다. 2003년 텔레매틱스 시장에 본격 진출한 이후 세계 최초로 보안 안정성에 대한 국제공통평가기준(CC) 인증을 획득한 V2X 등으로 글로벌 완성차 업체의 신뢰받는 파트너로 자리매김했다. 5G 기술 기반의 자율주행차, 커넥티드 카 등 미래 자동차를 연구하고 상용화하기 위해 2016년 설립된 글로벌 차량통신 연합체 5GAA에도 초기부터 회원사로 함께하며 미래 모빌리티 핵심 기술을 선보이고 있다. 5GAA에는 주요 완성차 업체, 전장부품사, 통신사업자, 칩셋 및 통신 장비 제조사 등 110개 이상 기업이 참여한다. LG전자 VS사업본부 VS연구소장 이상용 부사장은 “상황과 장소의 제약 없는 자동차 연결성을 위한 차세대 음성통신 기술을 통해 커넥티드 모빌리티의 혁신을 앞당길 것”이라고 말했다.

선관위에 769건 삭제 요청 접수작년 국회의원 선거의 두배 수준유권자 혼란 우려… 18명 수사 중李 대행 “중대한 범죄” 단속 지시 21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다. 이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다. 지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다. 법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다. 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다. 이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다. 이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “악의적인 딥페이크가 발견되면 고발 등 엄중히 조치할 예정”이라고 밝혔다.

21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다. 이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안 된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다. 지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다. 법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다. 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다. 이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다. 이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청 중”이라면서 “악의적인 딥페이크가 발견되면 고발 등 엄중 조치할 예정”이라고 밝혔다.

배우 김수현(37) 측이 7일 김새론(25) 유족 측인 유튜브 채널 ‘가로세로연구소(가세연)’가 공개한 녹취록은 위조된 것이라며 “가세연을 즉시 고소할 것”이라고 즉각 대응에 나섰다. 김수현 법률대리인인 법무법인 엘케이비앤파트너스는 이날 가세연이 기자회견에서 공개한 김새론 녹취 파일과 관련해 “완전히 위조된 것”이라며 “인공지능(AI) 등을 통해 만들어진 것으로 파악하고 있다”고 전했다. 대리인 측은 “해당 녹취파일을 가세연에 전달한 사람은 골드메달리스트에도 ‘김새론이 김수현에 관한 유리한 발언을 한 녹취파일이 있다’며 접근한 사기꾼이다. 돈을 요구하며 김새론 음성이 녹음된 녹취파일 중 일부를 보내왔는데 조작한 것이었고, 어떠한 요구도 수용하지 않았다”고 밝혔다. 이어 “녹취파일 전달자는 김새론과 어떠한 접점도 가질 수 없는 인물이다. 골드메달리스트에 사기가 통하지 않자 가세연과 공모해 위조된 김새론 녹취파일을 공개했다”면서 “골드메달리스트는 녹취파일 전달자가 AI 등을 통해 김새론 음성이 담긴 녹취파일을 위조한 것으로 파악, 기술적 검증을 진행하고 있다. 검증 결과가 나오는 대로 즉시 공유하겠다”고 전했다. 또한 “가세연은 기자회견에서 녹취파일 전달자가 골드메달리스트 내지 고상록 변호사 측 사주로 피습을 당했다고 주장했다. 피습 사진도 공개했다”면서 “가세연 주장은 도저히 용납될 수 없는 허위사실이며, 상식적으로도 납득하기 어렵다. 심지어 가세연이 공개한 피습 사진은 인터넷 검색을 통해 즉시 확인할 수 있다. 가세연과 녹취파일 전달자는 인터넷에서 내려 받은 사진을 피습 사진이라고 주장하고 있다”고 했다. 대리인 측은 “이번 가세연 기자회견은 김수현에 관한 허위사실 명예훼손, 스토킹, 사이버 성범죄 및 증거조작 등으로 궁지에 몰린 가세연이 사이버 테러를 가하기 위해 벌인 또 하나의 조작”이라며 “골드메달리스트는 경악을 금치 못하고 있다. 그간 가세연이 펼쳐온 수많은 주장이 허위·조작이라는 것을 보여주는 결정적인 증거”라고 지적했다. 그러면서 “위와 같은 가세연 행위는 AI 등을 이용한 신종범죄이자 위조된 증거를 바탕으로 김수현 인격을 말살하려는 중대한 범죄행위로서 반드시 그에 상응하는 처벌을 받게 될 것”이라며 “스토킹 처벌법 위반, 정보통신망 이용 촉진 및 정보 보호 등에 관한 법률 위반(명예훼손)으로 즉시 고소·고발할 예정”이라고 밝혔다. 앞서 이날 가세연 운영자 김세의와 김새론 유족 법률대리인인 법무법인 부유 부지석 변호사는 서울 스페이스쉐어 삼성역센터에서 기자회견을 열었다. 이들은 김새론이 올해 1월 10일 미국 뉴저지의 한 스타벅스에서 지인과 1시간 넘게 나눈 대화라며 녹취록 일부를 공개했다. 음성 대역을 쓴 이 녹취에는 김새론이 “(김수현과) 중학교 때부터 사귀다가 대학 가고 헤어졌다”고 말하는 내용 등이 담겼다. 이에 부 변호사는 “유족 측은 김수현을 상대로 아동복지법 위반 및 무고죄로 고소장을 접수했다”고 밝혔다. 또한 “제보자가 흉기 피습을 당해 생명을 잃을 뻔한 위험에 처해 수사를 의뢰했다”고 주장했다. 김새론은 지난 2월 16일 서울 성동구 자택에서 숨진 채 발견됐다. 유족 측은 김새론이 미성년자이던 2015년부터 약 6년간 김수현과 교제했다고 주장하며 가세연을 통해 두 사람의 사진과 문자, 편지 등을 공개했다. 고인의 음주운전 사고로 인한 위약금 7억원 내용증명 관련해서도 골드메달리스트와 진실공방을 벌이고 있다. 김수현은 지난 3월 31일 기자회견을 열고 “고인이 미성년자이던 시절 교제를 하지 않았다”면서 “저의 외면으로 인해, 또 저희 소속사가 고인 채무를 압박했기 때문에 비극적인 선택을 했다는 것 또한 사실이 아니다”라고 강조했다. 이후 유족과 김세의 등을 상대로 120억원 손해배상청구 등 민·형사상 소송을 낸 상태다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱이 지인의 목소리를 어설프게 흉내내거나 공공기관을 사칭하는 방식이었다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. 황석진 동국대 국제정보보호대학원 교수는 “기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “AI를 이용한 범죄의 피해 규모를 파악하고 대응법을 마련해야 한다”고 말했다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱은 가족과 지인의 목소리를 어설프게 흉내 냈다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 카카오톡 프로필 사진 등을 활용해 AI 조작 영상이나 사진을 만든 뒤 금융회사의 인증망을 뚫으려고 하거나 공문서를 손쉽게 조작하다 적발되기도 한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. 황석진 동국대 국제정보보호대학원 교수는 “그동안 가족이나 친구의 목소리를 흉내 내는 방식은 성공률이 낮은 편이었지만, 기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “정확한 피해 규모를 파악하는 게 우선”이라고 말했다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. AI프로그램에 사진을 넣은 뒤 영상을 만들었고, 이를 이용해 스마트폰 얼굴 인식으로 본인 인증을 시도한 것이다. 하지만 수상함을 감지한 은행이 이들을 적발했고, 수사기관에 넘겼다. 법원의 압수수색·구속영장 허가서나 피의사건 처분결과 통지서 등을 공문서 조작은 더 쉬워졌다. 실제로 챗GPT에 ‘전자금융사기’ 죄목으로 ‘압수수색·구속영장 허가서’ 양식을 작성해달라고 요청하면, 사건 개요, 사건명, 관련 법률 등 필요 항목을 정리해준다. 여기에 더 정밀한 명령어를 내려 실제 문서까지 만들 수 있다고 한다. 법무법인 YK의 고두희 변호사는 “한국말을 잘 모르는 외국인 범죄자들이 AI를 통해 한국 수사기관의 공문서를 위조하기도 한다”고 전했다. 이처럼 범죄에 AI가 악용되는 경우가 늘어나고 있는 만큼 수사기관의 대응도 강화해야 한다는 지적이 나온다. 이건수 백석대 범죄수사학과 교수는 “기술이 좀 더 발전해 정교해진다면 조작된 목소리나 얼굴로 사람은 물론 디지털 인증 체계까지 속일 수 있다”며 “AI가 범죄에 활용되는 통계 집계부터 시작해 진화하는 수법에 대응하는 방법을 고민해야 할 시기”라고 말했다.

정보의 홍수 속에 살고 있지만 정작 우리 실생활에 도움이 되는 정보는 쉽게 접하기 어렵습니다. 특히 딱딱한 행정 뉴스는 매일 같이 쏟아지지만 안에 숨겨진 알짜배기 생활 정보는 묻혀버리기 십상입니다. 서울신문 시청팀은 서울시와 자치구가 내놓은 행정 소식 중 우리 일상의 허기를 채우고 입맛을 돋워줄 뉴스들을 모은 ‘생생우동’(생생한 우리 동네 정보)을 매주 전합니다. 인공지능(AI)은 빠른 속도로 발전해 우리 삶 곳곳에 파고든다. 누가 더 AI를 잘 활용하느냐에 미래가 달려있다고 해도 과언이 아니다. 서울 자치구들도 AI 도입에 적극적으로 뛰어든다. 구민·직원을 대상으로 AI 교육을 시작한 자치구가 있고, AI를 구정에 활용하는 자치구도 있다. 도봉구 “챗GPT 이렇게 활용해보세요” 도봉구는 ‘생성형 인공지능(AI) 활용 교육’ 등 다양한 정보화 교육을 한다. 올해 생성형 AI 활용 교육 과정을 신설했다. 구민들이 이미지 생성부터 영상 제작까지 다양한 생성형 AI 기술을 실제 생활에 적용할 수 있게 가르친다. ‘챗GPT로 블로그와 인스타그램 시작하기’, ‘AI와 함께 쉽게 배우는 크롬 구글링’ 등이다. 교육은 오는 11월까지 월별로 운영한다. 교육당 10명 내외로 모집하며 도봉구청 지하1층 직원전산교육장에서 진행한다. 신청은 매월 20일경 도봉배움e 홈페이지에서 할 수 있다. 오언석 도봉구청장은 “주민들의 디지털 역량을 높이기 위해 앞으로도 다양한 교육 프로그램을 지속적으로 개발하고 운영해 나가겠다. 모든 주민이 디지털 시대에 적응하고 경쟁력을 갖출 수 있게 하겠다”고 밝혔다. 광진구 공무원은 AI 전문가 광진구는 세종사이버대학교와 AI 교육 교류 협력에 대한 협약을 맺고 구청 직원을 대상으로 교육을 한다. 지난달에는 김덕진 세종사이버대학교 AI교육센터장을 초청해 ‘2025 AI 트렌드와 행정의 새로운 변화’ 기조 특강을 했다. 지난달 시작한 교육은 7월까지 매달 2회, 총 12회로 실시한다. ▲업무에 도움을 주는 AI 검색 활용하기 ▲AI로 멀티미디어 홍보자료 만들기 ▲구석구석 업무에 도움받는 AI도구 체험 등 주제는 다양한다. 온라인 교육 콘텐츠도 월 1회씩 총 6회 제공한다. 김경호 광진구청장은 직원들이 시대의 변화에 빠르게 대응하고 새로운 AI 기술을 행정에 적극 이용할 수 있도록 인공지능 분야 교육을 확대했다. 앞으로도 더 나은 미래를 향해 소통하며 발전하는 스마트한 광진이 되도록 노력하겠다”고 말했다. AI로 효도하는 동작구 동작구는 AI 돌봄로봇 ‘효돌이’를 취약 어르신 가정에 배포했다. 효돌이는 ▲퀴즈 ▲종교말씀 ▲노래 듣기 등 다양한 기능을 갖고 있다. 손을 3초간 누르거나 “도와줘”라고 말하면 응급상황으로 인지해 AI 콜센터를 즉시 연결하고 확인 전화에 3번 응답하지 않으면 보호자 또는 119를 호출해 빠른 대응이 가능하도록 돕는다. 지원 대상은 고독사 위험이 큰 가구, 노인 취약 가구(1인 가구, 노인 부부 등) 중 보급을 희망하는 가구 등이다. 기기 특성상 와상·우울감이 큰 어르신을 우선 선정했다. 박 구청장은 “효돌이가 관내 어르신들의 건강 관리, 정서 지원에 큰 도움이 되길 바란다. 앞으로도 초고령화 사회에 발맞춰 동작구만의 차별화된 효도 정책을 펼쳐 나가겠다”고 말했다. 미래인재 키우는 영등포 영등포구는 미래 인재를 키우기 위해 지난달 초중고등학생을 대상으로 ‘AI·로봇 디지털 캠프’를 운영했다. 학생들이 4차 산업혁명의 핵심 기술인 AI 기술을 접하고 흥미를 가질 수 있도록 실습과 체험 중심프로그램으로 구성했다. 초등학생 과정은 로봇 댄스대회, 미니 경진대회, 컴퓨터 비전 실습 등을 통해 디지털 기술에 흥미를 가질 수 있도록 했다. 중고등학생 과정은 ChatGPT 기반 AI 스피커 제작, 코딩을 활용한 미션 수행, 자율주행 기술 체험 등을 통해 디지털 기술을 심층적으로 학습하고, 논리적 사고력과 문제 해결 능력을 기를 수 있도록 했다. 영등포구 미래교육재단 관계자는 “미래사회의 핵심 기술인 인공지능을 배우고 향후 진로 설계에 도움이 되는 값진 경험이 됐기 바란다. 영등포에서 세계적인 경쟁력을 갖춘 인재가 배출될 수 있도록, 미래교육재단이 적극 지원하겠다”고 밝혔다. 중랑 ‘리쿠’로 체험하는 AI로봇 중랑구는 AI 로봇 ‘리쿠’를 구민들이 체험할 수 있게 했다. 리쿠는 중랑구청과 방정환교육지원센터, 환경교육센터, 중랑미디어센터 등 총 11곳에 있다. 여기서 구연동화, 노래, 간단한 대화 기능 등을 직접 경험할 수 있다. ‘리쿠’는 사용자를 바라보고 소통할 수 있는 인간형 인공지능 로봇이다. 길 찾기, 배달앱, 인지 능력 향상 기능 등을 활용할 수 있는 교육 소프트웨어와 음성 인식, 답변 기능 등을 탑재했다. 특별한 조작 없이도 사용자를 바라보고 구연동화 및 노래 부르는 등 다양한 행동을 하며 간단한 대화가 가능하다. 류경기 중랑구청장은 “리쿠가 구민들에게 흥미와 즐거움을 주기를 바란다. 로봇에 대한 친근함도 키우게 되면 좋겠다. 리쿠를 활용할 수 있는 분야를 지속 발굴하고 다양한 교육프로그램을 만들겠다”고 말했다.

이미 거스를 수 없는 흐름이 됐다. 인공지능(AI)은 우리 일상과 산업 전반에 깊숙이 스며들었다. 인간과 똑같이 사고하고 행동하는 인공일반지능(AGI) 시대도 멀지 않았다. 지나친 낙관론은 경계해야 하지만 그렇다고 거부감 속에 마냥 머물러 있을 수만도 없다. 이지혜 카카오엔터프라이즈 최고성장책임자(CGO·부사장)는 하루의 대부분을 AI와 보낸다. AI 스피커가 전하는 날씨 정보와 일정 확인으로 하루를 시작하는 이 부사장은 스마트워치 ‘핏빗’으로 스트레칭을 한다. ‘카카오T’의 AI 배차가 최적화한 경로를 따라 출근하고 이동 중에는 AI 오디오북 ‘윌라’를 들으며 잠시 숨을 고른다. 업무 시간에도 AI는 필수 도구다. 기획안을 준비할 때는 ‘그록3’나 ‘챗GPT’ 같은 거대언어모델(LLM) 서비스를 활용하고 프레젠테이션(PPT) 작성에는 AI 기반 솔루션 ‘감마 AI’의 도움을 받는다. 수차례 진행되는 회의에서는 음성문자변환(STT) 서비스 ‘다글로’를 이용해 회의록을 작성한다. 퇴근 후에는 AI 기반 혈당 관리 애플리케이션 ‘파스타’로 건강을 체크하고 AI 투자 서비스 ‘핀트’로 자산을 관리한다. 영어 공부는 AI 튜터 ‘말해보카’가 맡는다. 인간과 협업하는 존재챗GPT 등 활용해 업무 효율 높여과도한 의존 땐 사고력 저하 주의“국가 차원 윤리적 활용 고민해야”이 부사장은 AI 산업의 최전선에서 뛰고 있다. 카카오엔터프라이즈는 AI 필수 인프라인 그래픽처리장치서비스(GPUaaS)를 공급, AI 특화 클라우드인 카카오 클라우드를 운영한다. 네트워크 처리 속도를 높이고 안정성을 확보하는 것이 목표다. 이를 통해 게임, 금융, 연구개발 분야뿐 아니라 스타트업들이 AI 기술을 기반으로 성장할 수 있도록 지원한다. 이 부사장의 AI 활용이 조금 유별나 보이겠지만 조만간 많은 사람의 생활도 이처럼 변할 것이다. AI가 일상으로 파고들면서 ‘AI 시대를 어떻게 대비해야 하는가’라는 질문이 따라온다. 이 부사장은 AI를 올바르게 활용하는 것이 무엇보다 중요하다고 강조한다. AI가 인간을 완전히 대체하는 것이 아니라 인간의 능력을 향상시키고 협업할 수 있는 도구로 자리잡아야 한다는 것이다. 그는 “AI를 사용하는 사람들은 책임감을 갖고 신중하게 활용해야 한다”며 “국가 차원에서는 제도적 장치를 마련해 윤리적 문제와 범죄 활용 가능성을 줄이는 노력이 필요하다”고 말했다. 바둑 AI ‘알파고’와 대결했던 이세돌 전 프로바둑 기사는 최근 울산과학기술원(UNIST) 특강에서 “AI를 경쟁 대상으로만 보지 말고 함께 발전할 수 있는 기회로 받아들이는 게 중요하다”고 밝혔다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI와 수동 작업을 균형 있게 활용하는 것을 목표로 해야 한다”고 말했다. 계산기에 지나치게 의존하면 기본적인 계산 능력이 약화하는 것처럼 기초를 충분히 갖추지 못한 상태에서 AI에 과도하게 의존하면 사고력과 문제해결 능력이 저하될 수 있다는 지적이다. AI 기술은 시각장애인들에겐 떼어 놓을 수 없는 ‘동반자’다. 최근 만난 한국시각장애인연합회 한혜경(32)·손지민(42)·홍서준(42)씨는 일상 속 AI 활용 경험을 들려주며 더 나은 미래를 상상했다. 약자의 ‘눈’이 된 AI시각장애인도 말로 기차표 예매고기의 익힘 정도까지 확인 해줘하나의 도구로 일상 속 불편 해소코레일이 선보인 AI 챗봇은 시각·지체장애인인 철도회원이 코레일톡 앱에 접속하면 음성 상담 안내창이 띄워져 대화로 표를 예매할 수 있게 해 준다. 스마트폰 화면을 더듬어 표를 예약했던 시각장애인들에게는 새로운 세상이 열린 것이다. 한씨는 “이전에도 스마트폰 화면을 두드리면 텍스트를 말로 전해 주는 기능이 있긴 했지만 텍스트를 하나하나 듣고 화면을 계속 터치하면서 기차표를 예매해야 했다”며 “표 한 장 예매하는 데 엄청난 시간이 들어가 결국 포기하고 보이는 사람한테 개인정보를 다 알려 주면서 예매를 부탁하기도 했다”고 말했다. 한씨는 챗GPT 비전으로 고기 익힘 정도를 확인하고 퍼플렉시티로 검색을 대신한다. 홍씨는 “바닥에 떨어진 물건을 찾을 때 AI 카메라가 포착해 줘 큰 도움이 된다”고 말했다. 손씨는 방마다 AI 스피커를 두고 날씨, 타이머, 공기청정기 조작, 오디오북 감상 등에 활용한다. “거실 불 꺼 줘” 한마디로 조명을 끄는 편리함은 ‘혼자 할 수 있다는 자신감’을 심어 준다. 일본은 AI를 통한 사회문제 해결을 국가 전략 어젠다로 삼았다. 특히 저출생 고령화 문제, 재난 대응 시스템 등을 주요 과제를 삼고 투자를 집중한다는 방침이다. 인간이 AI와 상호작용하며 긍정적인 변화를 만든 사례도 있다. 미국 항공우주국(NASA)의 ‘AI 포 마스’(AI For Mars) 프로젝트는 시민들이 자발적으로 참여해 화성 탐사 로봇이 위험한 지형을 학습할 수 있도록 돕는다. 참여자들은 화성 지형 사진을 분석해 바위와 모래를 구분하는 데이터를 입력했다. 1만 7050명의 자원봉사자가 참여해 64만개 이상의 데이터를 구축했다. 미국 워싱턴대의 ‘사이드워크’ 프로젝트도 주목할 만하다. 장애인을 위한 도로 정보를 수집·업데이트하는 이 프로젝트는 대중의 참여를 기반으로 한다. 원래는 교통약자를 배려한 도로 설계였지만 공사나 훼손으로 인해 보행이 어려운 곳이 생길 수 있다. 참여자들은 지도를 보며 문제가 있는 도로를 표시해 개선을 돕는다. AI가 해결하기 어려운 문제를 인간의 집단지성이 보완하는 방식이다. AI 시대의 미래는 결국 인간이 그려 나간다. 이상욱 한양대 교수는 “사회가 기술과 어떻게 상호작용하느냐에 따라 기술의 발전 방향이 달라진다”며 “AI의 핵심은 단순한 도입이 아니라 얼마나 효과적이고 윤리적으로 활용하는지에 있다”고 강조했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

‘인공지능(AI) 로봇과 대화 가능한 어린이 교육용 챗봇’, ‘AI가 영어 학습을 도와주는 전자사전’…. 전자상거래 업체 쿠팡에 ‘AI’를 검색했을 때 상위에 노출되는 제품들의 광고 문구다. 언뜻 보면 AI 기술이 적용된 것 같지만 실제로는 AI와 별 상관없는 제품이 많다. 전혀 환경친화적인 제품이 아니면서도 친환경 제품이라고 홍보하는 ‘그린워싱’처럼 ‘AI워싱’도 큰 문제가 되고 있다. 기업들은 AI라는 포장지가 씌워지면 소비자나 투자자들에게 혁신 이미지가 주입된다는 점을 노린다. AI 기술, 없지만 있는 척단순 챗봇 기능 넣고 ‘AI 대화’ 홍보“머신러닝·딥러닝 기술과 거리 멀어”서울신문은 소비자 전문가들의 도움을 받아 AI 기술을 과대 포장해 홍보하는 실태를 분석했다. 가장 흔한 유형은 단순 음성 인식 기능이 있는 제품에 AI를 붙이는 경우다. 음성 인식을 통해 작동하는 안마의자, 전자사전, 차량 안전 장비 등에 ‘AI 안마의자’, ‘AI 사전’과 같은 이름을 붙이는 방식이다. 한국소비자원 김태형 책임연구원은 “음성 인식을 AI로 인식하는 소비자가 많은데 머신러닝, 딥러닝과 같은 AI 기술과는 거리가 멀다”고 말했다. 단순 챗봇 기능을 탑재해 놓고 AI 대화가 가능하다고 홍보하는 기업도 많다. 그러나 저장돼 있는 내용을 그대로 송출하는 챗봇을 생성형 AI 기술이 발전한 현시점에도 AI에 포함시켜야 할지에 대해선 부정적인 견해가 많다. 유명 프랜차이즈의 거짓말아마존 고, 요금 자동청구 ‘수동 조작’무인 햄버거집 커튼 뒤 바쁜 직원들글로벌 전자상거래 업체 아마존은 고객이 물건을 들고 나가면 자동 결제되는 오프라인 매장 ‘아마존 고’를 운영했다. 매장에 설치된 센서와 카메라가 물건을 인식하고, AI를 활용해 요금을 자동 청구하는 시스템으로 주목받았다. 그러나 실제로는 직원 1000여명이 숨어서 각 매장 카메라를 수동으로 조작하며 결제를 진행한다는 사실이 탄로 났다. 아마존은 해당 매장을 폐쇄했다. 국내 햄버거 프랜차이즈 롯데리아의 L7 홍대점은 ‘미래형 무인 매장’으로 유명하다. 오픈 당시부터 ‘첨단 푸드테크 총망라’, ‘테스트 베드’ 등 화려한 수식어가 붙었다. 그러나 최근 매장을 찾아가 보니 커튼 뒤 주방에서는 여느 패스트푸드점과 다를 바 없이 직원들이 바쁘게 햄버거를 만들고 있었다. 롯데GRS 측 관계자는 “재작년 AI 버거 조리 시스템과 사물인터넷을 활용한 매장 도입을 검토했으나 지금은 보류한 상황”이라고 전했다. 국내에는 기업들이 실제 AI 기술을 적용하는지 여부를 판단하는 기준이 아직 없다. 통계청에 따르면 2023년 말 기준 국내 21만 3266개 기업 중 AI 기술 및 서비스를 이용하는 기업은 6만 4587개(30.3%)로 집계됐다. 그러나 실제 이용 여부는 알 수 없다. 그러나 해외 주요국은 이미 AI워싱 대응에 적극적이다. 미국 증권거래위원회(SEC)는 지난해 투자자문사 델피아와 글로벌프리딕션스가 AI 기능을 허위 광고했다며 각각 22만 5000달러(약 3억원), 17만 5000달러(2억 3400만원)의 벌금을 부과했다. 미국 연방거래위원회(ETC)는 기업들에게 AI 활용 정보를 명확하게 표시하고 이를 공개하도록 하고 있다. 송원호 KB금융지주 경영연구소 책임연구원은 “AI 기술이 발전함에 따라 AI워싱에 대한 규제와 소비자 보호의 중요성이 더욱 강조될 것”이라고 말했다. 김 책임연구원은 “현행 표시광고법 등으로도 AI워싱에 대한 규제는 가능하다”면서도 “규제 강화 이전에 기업들이 투명하게 AI 관련 정보를 밝히는 게 중요하다”고 했다. AI워싱의 밑바탕엔 AI 만능주의가 깔려 있고, AI 만능주의는 AI 거품을 키운다. 일각에선 과거 ‘닷컴 버블’ 붕괴의 전철을 밟을 수 있다고 경고한다. 생성형 AI 모델을 개발하고 운영하기 위해선 막대한 비용이 드는데 수익성을 확보하지 못할 경우 AI 버블이 터질 것이라는 우려다. 국내외 AI 과대포장 대응해외 주요국 ‘AI 워싱’에 벌금 부과국내 AI 적용 여부 판단 기준 없어‘인공지능의 미래’의 저자인 제리 캐플런 스탠퍼드대 교수는 최근 열린 ‘AI 서울 2025’ 콘퍼런스에서 “지능은 인간이 갖고 있는 것인데 AI도 (스스로 생각하고 판단할 수 있는) 지능이란 틀에서 생각하다 보니 여러 오해가 생겼다”면서 “생성형 AI가 중요한 발명인 것은 틀림없지만 이미 이 분야의 발전은 둔화하고 있어 닷컴 버블처럼 붕괴할 수 있다”고 밝혔다. 버블 우려에도 불구하고 세계의 투자금은 AI로 계속 쏠린다. 미국 오픈AI는 일본 소프트뱅크와 손잡고 5000억 달러(721조원) 규모의 AI 인프라 프로젝트 ‘스타게이트’ 계획을 발표했다. 미국 빅테크 4개 기업인 구글, 아마존, 마이크로소프트, 메타는 올해에만 AI와 관련해 3000억 달러(432조원)를 투자하겠다고 공언했다. 짙어지는 ‘AI 만능주의’수백조원 투자에도 수익성 불투명“이미 발전 둔화… 버블 붕괴 우려도”전문가들은 AI의 현주소와 한계를 이해하고 이를 읽을 수 있는 AI 리터러시(문해력)의 중요성을 강조한다. 장원철 서울대 교수는 “지금 시대는 자료가 너무 방대해 신뢰할 수 있는 자료를 찾는 건 건초 더미에서 바늘 찾기와 같다”면서 “디지털 문해력을 갖추고 올바른 정보를 습득해야 한다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

아이폰에서 음성으로 말하면 문자로 전환하는 ‘받아쓰기’ 기능이 도널드 트럼프 미국 대통령과 관련된 버그(bug·오류)를 일으킨 것으로 나타났다. 25일(현지시간) 미 뉴욕타임스 등에 따르면 아이폰에서 받아쓰기 기능을 사용할 때 ‘인종차별주의자’(racist)라고 말하면 화면에는 ‘트럼프’(Trump)로 일시적으로 표기된 뒤 원래 단어인 ‘인종차별주의자’로 수정됐다. 이 버그와 관련된 영상은 동영상 플랫폼인 틱톡을 통해 확산했다. 애플 측은 “때때로 음성 인식 모델이 음성학적으로 겹치는 단어를 잘못 표시할 수 있다”며 “받아쓰기를 구동하는 음성 인식 모델의 문제를 인지하고 있으며 수정 프로그램을 배포하고 있다”고 밝혔다. 이 버그가 단순한 기술적 오류가 아닐 수도 있다는 분석도 나온다. 인공지능(AI) 스타트업 ‘원더러시 AI’ 창립자이자 애플의 음성 비서 시리(Siri) 팀에서 일한 적이 있는 존 버키는 “이 문제가 최근 애플 서버 업데이트 이후에 시작된 것으로 보인다”고 말했다. 버키는 애플이 AI 서비스 개선을 위해 수집한 데이터가 직접적인 원인일 가능성은 작다고 봤다. 그는 애플 시스템 어딘가의 소프트웨어 코드가 ‘인종차별주의자’라는 단어를 입력할 때 ‘트럼프’로 변환하도록 설정돼 있었을 가능성이 높다고 설명했다. 그는 “이건 심각한 장난 같다”며 “누군가 이 데이터를 조작했는지 아니면 코드에 (버그를) 몰래 심어놓았는지 의문”이라고 했다. NYT는 애플의 AI가 정치적 논란을 일으킨 건 이번이 처음이 아니라고 짚었다. 2018년 시리는 “도널드 트럼프가 누구인가”라는 질문에 대한 답변으로 나체 사진을 표시해 논란이 됐다. 이 버그는 위키피디아 편집자들이 시리의 정보 출처를 조작한 것과 관련이 있는 것으로 밝혀졌다. 또한 이번 문제는 애플이 향후 4년간 미국에 5000억 달러(약 716조원)를 투자하겠다고 발표한 다음 날부터 나타나기 시작했다. 팀 쿡 애플 최고경영자(CEO)가 지난 21일 백악관에서 트럼프 대통령을 만난 이후 지난 24일 애플은 휴스턴에 25만㎡ 규모의 AI 데이터를 위한 서버 공장을 만들겠다고 밝혔다.

애플 前디자이너 아이브와 협업음성조작 관건… 샘플은 수년 내AI용 반도체 독자 개발 시사도 생성형 인공지능(AI) 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)가 스마트폰을 대신할 ‘생성형 AI 전용 단말기’를 개발하고 있다고 밝혔다. 세계 AI 업계에 충격파를 던진 중국 스타트업 딥시크의 AI 모델에 대해서는 “새롭진 않다”고 평가했다. 올트먼 CEO는 3일 일본 방문에 맞춰 진행한 일본경제신문(닛케이)과의 인터뷰에서 “AI는 인간과 컴퓨터 간의 소통 방법을 근본적으로 바꾸는 만큼 새 단말기가 필요하다”며 이렇게 말했다. 그는 아이폰을 디자인한 애플 디자이너 출신 조니 아이브가 설립한 ‘러브프롬’과 함께 시제품을 개발 중인 것으로 알려졌다. 올트먼 CEO는 시제품에 대해 “음성 조작이 관건이 될 것”이라고 밝혔다. 다만 시제품 출시에는 수년이 걸릴 것으로 예상했다. 아울러 올트먼 CEO는 “반도체 개발에도 오픈 AI가 직접 참여할 것”이라며 의욕을 보였다. 그러나 구체적인 계획에 대해선 “내부적으로 대응하고 있다”며 자세한 언급을 피했다. 다만 닛케이는 데이터 센터에 자사 설계 제품을 사용하는 방안이 유력하다고 전망했다. 중국판 챗GPT인 딥시크의 AI 모델 R1과 관련해서는 “성능이 새로운 것은 아니다”라며 “오픈AI는 이전부터 이 수준의 모델이 있었고 앞으로도 더 좋은 모델을 계속 만들 것”이라고 말했다. 이어 올트먼 CEO는 “중국의 AI 개발 실력은 미국을 상당히 따라잡고 있다”며 “권위주의 국가들이 체제 강화를 위해 AI를 악용할 수 있다”고 우려했다. 현재 오픈AI는 딥시크가 AI 모델 훈련을 위해 오픈AI의 데이터를 무단 수집했다는 의혹이 제기됨에 따라 마이크로소프트와 함께 사실 여부를 조사하고 있다. 한편 오픈AI의 이번 발표는 ‘딥시크 쇼크’ 등 중국 기업의 공세에 AI 주도권을 뺏길 수 있다는 위기감이 작용했다는 분석이 나온다. 딥시크는 오픈AI의 최신 모델인 ‘GPT4’ 개발비의 약 5.5% 수준인 557만 6000달러(약 81억원)로 오픈AI 모델과 성능이 비슷한 AI 모델을 오픈소스로 공개해 업계에 ‘저비용 쇼크’를 일으켰다.

전 세계에 생성형 인공지능(AI) 혁신을 일으킨 챗GPT 개발사 오픈AI 창업자 샘 올트먼 최고경영자(CEO)가 워크숍 참석을 위해 한국을 방문하는 가운데 카카오와 협업을 전격 발표했다. 3일 관련업계에 따르면 오픈AI는 4일 서울 플라자호텔에서 국내 기업 및 스타트업 개발자 100명을 대상으로 비공개 워크숍 ‘빌더 랩’을 개최한다. 올트먼은 이번 방한 기간 카카오와 협업을 전격 발표하고, 같은 장소에서 열리는 카카오 정신아 대표의 기자간담회에도 깜짝 등장할 것으로 전해졌다. 올트먼과 정 대표는 이미 사전에 만나 업무 협약과 관련한 조율을 이미 마친 상태로 전해진다. 카카오는 지난해 자체 AI 서비스인 ‘카나나’를 처음 공개하고 올해 본격 출시를 준비 중이다. 카카오는 독자적으로 초거대 언어모델을 개발하는 대신 이미 개발된 다양한 AI 모델을 필요에 맞게 선택해 구현하는 ‘모델 오케스트레이션’ 전략으로 대응한다는 방침을 확인한 바 있다. 양측이 본격적으로 협업에 나서면서 카카오가 오픈AI 모델을 자사 모델에 활용할 것이라는 전망이 나온다. 올트먼이 한국을 방문하는 것은 이번이 세 번째다. 앞서 그는 2023년 6월 중소벤처기업부 초청으로 처음 방한한 이후 지난해 1월 삼성전자 평택공장을 찾은 바 있다. 이번 방한이 중국 AI 스타트업 ‘딥시크’(Deepseek) 충격이 전 세계를 강타한 시기와 맞물리며 더욱 관심이 모아지고 있다. 올트먼은 이번 방한에서 최태원 SK 그룹 회장과도 만나 양사 간 AI 협력 방안도 논의한다. 최 회장은 앞서 지난해 1월 방한한 올트먼 CEO와 워커힐호텔에서 만난 데 이어 같은 해 6월 미국 출장 당시 샌프란시스코 오픈AI 본사에서 또다시 만나 급변하는 AI 기술, AI 산업의 미래 등에 의견을 나누기도 했다. 삼성전자 경영진과도 만날 것으로 전해졌다. 다만 이재용 삼성전자 회장과의 회동 여부는 아직 확정되지 않은 것으로 알려졌다. 올트먼은 지난해 1월 삼성전자 평택 공장을 방문했을 때 반도체 생산라인을 둘러보고 경계현 당시 디바이스솔루션(DS) 부문장(사장)을 비롯한 사업부장들과 만났고, 이후 삼성 서초사옥을 방문해 경영진과 만찬을 가졌다. 현재 일본을 방문 중인 올트먼은 한국을 들렀다가 곧바로 인도로 출국해 아시아 일정을 이어간다. 올트먼은 니혼게이자이신문과 인터뷰에서 스마트폰을 대신하는 AI 전용 단말기와 독자 반도체 개발에 나서겠다는 입장을 밝혔다. 올트먼은 AI 전용 기기에 대해 “협력을 통해서 할 것”이라며 “AI는 컴퓨터와 접하는 방법을 근본적으로 바꾸기 때문에 새 단말기가 필요하다. 음성 조작이 관건이 될 것”이라고 말했다. 딥시크가 최근 내놓은 AI 모델에 대해선 “성능은 새로운 것이 아니다”라며 “오픈AI에는 이전부터 이 수준의 모델은 있었고, 앞으로도 더 좋은 모델을 계속 만들겠다”고 말했다. 현재 아시아 지역 중 일본과 싱가포르에 지사를 개설한 오픈 AI가 올해 안에는 한국 지사를 설립할 가능성도 유력하게 제기되고 있다.

할리우드 배우 브래드 피트(61)와 테슬라 CEO 일론 머스크(53). 유명인들의 이름을 도용한 정교한 로맨스 스캠이 전 세계에서 피해자를 양산하며 경각심을 일으키고 있다. 지난 14일(현지시간) 프랑스 매체 르피가로는 인테리어 디자이너인 앤(가명·53)이 SNS에서 브래드 피트를 사칭한 계정에 속아 83만 유로(약 12억원)를 송금했다고 보도했다. 사기꾼들은 브래드 피트 어머니를 사칭한 계정으로 먼저 접근한 뒤, 이튿날 자신을 브래드 피트라고 주장하는 계정으로 사랑 고백과 관심을 표현했다. “당신을 원해. 나의 사랑”과 같은 달콤한 말을 쏟아내며 인공지능(AI)으로 생성한 사진과 가짜 여권 사본으로 정교한 사기를 이어갔다. 결국 사랑에 빠진 앤은 남편과 이혼한 뒤 받은 위자료 77만 5000유로를 가짜 브래드 피트에게 송금했다. 사기꾼은 병원 치료비, 전처와의 소송 비용을 핑계로 돈을 요구했고, 앤은 이를 모두 믿었다. 지난해 여름, 브래드 피트가 여자친구와 함께 있는 실제 사진을 보고 나서야 자신이 속았다는 것을 깨달았다. 충격을 받은 앤은 극단적 선택을 세 차례 시도했고, 중증 우울증 전문 클리닉에 입원했다. 현재 사기꾼들을 상대로 법적 대응을 진행 중이다. 한국에서도 “진짜 일론 머스크라고 믿었다” 테슬라 CEO 일론 머스크를 사칭한 계정이 한국인 피해자 A씨에게 접근한 일도 있었다. A씨는 처음에는 사칭 계정이라 의심했지만, 상대방이 머스크와 닮은 남성의 영상 통화와 여권 사진을 보내면서 점차 믿기 시작했다. 문제의 계정은 “자식들이 주말마다 스페이스X에 놀러온다” “개인 헬기를 타고 테슬라 공장이 있는 텍사스와 스페이스X가 있는 플로리다까지 다닌다”라며 구체적인 일상을 공유했다. 영상 통화 속 머스크를 닮은 남성은 “안녕! 난 당신을 사랑해, 알지?”라고 말했고, A씨가 “아 그럼요, 저도 사랑해요. 친구로서. 정말 친절하군요”라고 영어로 답했고, 상대방은 “고맙다”며 웃었다. 사칭 계정은 “팬들이 나로 인해 부자가 되는 걸 보면 행복하다”며 투자금을 요구했다. A씨는 총 7000만원을 송금했으며, 이 중 일부는 가상화폐 거래 사이트로 보냈다. 하지만 나중에 가상화폐 사이트가 가짜라는 사실을 알게 되면서 자신이 속았음을 깨달았다. 전문가들은 사기 계정이 AI로 제작된 영상을 사용하고, 피해자의 감정을 교묘히 조작한 것으로 분석했다. SNS ‘로맨스 스캠’…절대로 속지 마세요 SNS를 통해 사랑을 빙자한 로맨스 스캠이 전 세계적으로 급증하고 있다. 2023년 경찰청 통계에 따르면, 국내 피해자의 70%가 여성으로 6개월간 총 피해액은 약 37억원에 달했다. 사기꾼들은 인스타그램, 소개팅앱 등을 통해 정교한 수법으로 피해자의 신뢰를 얻은 뒤 금전을 요구하고 있다. 전문가들은 유명인을 사칭한 계정 접근 시 철저한 주의가 필요하며, 금전 요청은 대부분 사기일 가능성이 높다고 경고한다. 최근에는 AI 기술로 제작된 사진, 영상, 음성이 실제와 구분하기 어려울 정도로 정교해져 더욱 위험한 상황이다. 온라인상 만남에서는 감정에 휩싸이지 말고 항상 냉철한 판단력을 유지해야 한다. 특히 모르는 사람의 갑작스러운 접근과 금전 요구에는 각별한 주의와 경계심을 가져야 한다.

인공지능(AI) 기술이 적용된 로봇 시장이 급성장하는 가운데 LG전자가 기술 경쟁에서 앞선 것으로 나타났다. 세계 인공지능 로봇 시장은 2023년 약 10조 9000억원(78억 달러)에서 연평균 35.7% 증가해 오는 2032년 약 147조 8000억원(1057억 7000만 달러)에 달할 것으로 전망되면서 빅테크 기업들의 진출이 본격화되고 있다. 특허청은 한국·미국·중국·유럽연합·일본 등 전 세계 주요국 특허청(IP5)에 최근 10년간(2012∼2021년) 출원된 AI 로봇 관련 특허가 5525건에 달한다고 5일 밝혔다. 2012년 20건이던 출원이 2021년 1260건으로 63배 증가하는 등 연평균 58.5% 증가했다. 출원인 국적은 중국이 60.0%(3313건)를 차지한 가운데 한국(1367건), 미국(446건), 일본(235건)이 뒤를 이었다. 다 출원인은 LG전자가 전체 18.8%(1038건)로 압도적 1위에 올랐다. 이어 일본 FANUC(97건), 중국 화남사범대학(83건), 미국 구글(71건), 중국과학원(66건) 등의 순이다. 상위 10개 다 출원인 중 삼성전자가 8위(41건)에 올라 한국과 중국 간 기술 경쟁이 치열한 것으로 분석됐다. 기술별로는 교육·엔터테인먼트·의료 등 다양한 분야에 로봇을 적용한 응용 분야 제어 분야가 53.6%(2962건)로 가장 많았고 로봇이 사물을 인식·조작하는 외부환경과 상호작용(1869건), 학습을 통해 로봇의 움직임을 제어하는 구동 제어(694건) 등의 순이다. LG전자는 백색가전의 경쟁력을 기반해 청소·서비스·물류 로봇에 사물 인식과 음성 인식을 위한 AI 기술을 개발했다. 2017년부터 AI와 로봇 분야에 대한 연구개발을 통해 특허 선점과 포트폴리오 확보 등 권리화를 강화하고 있다. 이선우 특허청 지능형로봇심사과장은 “인공지능 로봇에 대한 특허가 응용 분야 제어 기술 중심으로 증가하고 있다”며 “중국은 자국 중심으로 출원하고, 글로벌 주요 기업들의 출원이 적다는 점에서 우리나라가 인공지능 로봇 관련 특허권을 선점할 기회”라고 밝혔다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. 우리 사회의 치안을 책임지는 경찰청은 부 단위에 버금가는 예산이 배정되는 거대 부처입니다. 경찰청이 최근 공개한 2025년 예산안을 보면 2024년 대비 4.2%(5457억원) 늘어난 13조 5364억원 규모의 예산이 편성될 거로 보입니다. 그 중 주요 사업비도 1.9%(494억원) 증가한 2조 6067억원이 될 것으로 보입니다. 내년 예산안은 아직 국회에서 심사하고 확정하는 단계가 남았지만, 경찰이 내 건 방향은 명확했는데요. 인공지능(AI) 등 신기술을 활용해 갈수록 지능화되는 범죄를 예방하고 수사에 속도를 내겠다는 것입니다. 일상을 파고든 AI가 범죄와 수사에는 어떤 영향을 끼칠까요. 유사 사건·수사 쟁점 알려주고 서식 초안 ‘AI 수사도우미’ 27억원우선 경찰청은 생성형 인공지능(AI)을 활용해 수사관에게 유사 사건과 수사 쟁점 등을 제공하고 영장 신청서 등 각종 수사서식의 초안을 만들어주는 AI 수사 도우미를 구축하는 데 27억원을 배정했습니다. 수사 기간이 단축되고 완결성을 높일 거란 기대가 나옵니다. 원격화상조사시스템과 음성인식 조서작성시스템에는 기존 11억 5000만원에서 14억 7000만원으로 예산을 늘리기로 했습니다. 실제로 검경 등이 쓰는 차세대 형사사법정보시스템(킥스·KICS)는 범죄 사실과 키워드, 죄명 정보 등을 분석해 수사 담당자에게 유사한 사건의 조서, 결정문, 판결문 등을 제공하는 처리하는 기능이 추가됐습니다. 일상에서 흔히 쓰이는 음성인식 기술을 활용한 조서 작성 기능도 들어가 음성을 문자로 변환할 수도 있습니다. 올해 개발이 끝난 ‘아동학대 영상분석’에 6억원이 배정돼 내년부터 도입됩니다. AI가 CC(폐쇄회로)TV 등 영상에 찍힌 아동의 표정과 움직임 등을 분석해 아동학대 의심 장면을 요약하고 분석하는 시스템입니다. 또 흐릿한 얼굴이나 번호판의 화질을 개선하고 영상을 요약하는 등 형사기능 영상분석(8억 6000만원)도 수사에 도움이 될 거로 보입니다. 복합형 허위조작 콘텐츠 탐지 기술 개발 3년간 91억원…기존 기술 업그레이드신종 범죄를 막기 위한 기술 개발에도 박차를 가하기로 했습니다. 딥페이크(허위 영상물)는 성범죄에 악용되거나 유명인 등을 사칭한 사기에 쓰일 수 있어 사진이나 영상의 진위를 가리는 탐지 기술의 중요성이 커지고 있습니다. 이에 경찰은 내년부터 2027년까지 3년간 총 91억원을 투입해 딥페이크와 딥보이스 등 여러 기술을 복합적으로 적용해 만든 허위조작 콘텐츠를 탐지하는 기술을 딥러닝에 기반해 개발한다는 구상입니다. 얼굴을 바꾸는 ‘페이스 스왑’ 등 시각 영상물을 가려내는 기술은 어느 정도 개발됐지만, 음성을 따라 한 딥보이스를 탐지하는 기술은 아직 미흡하다는 게 경찰의 설명입니다. 딥페이크 기술도 고도화되고 있어 더 정교한 탐지기술 개발이 필요합니다. 또한 현재 활용 중인 딥페이크 탐지 기술에 대해선 최신 AI 기술도 가려낼 수 있도록 소프트웨어를 업데이트할 계획입니다. 예산은 올해(3억원)보다 2억원 늘어난 5억원을 책정했습니다. 아울러 경찰은 시나리오별 훈련이 가능한 실감형 훈련장비(VR) 장비(4억 8000만원), 신형 전자 충격기(56억 1000만원)도 규모를 키워 투입한다는 계획입니다. 경량화된 기동대 신형방패(13억 7000만원), 차세대 외근조끼(8억원)도 투입합니다. 전국 운전면허시험장 등에서 운전능력을 자가진단할 수 있는 VR 테스트 시스템(20억 9000만원)도 시범 운영될 예정입니다. 과기부도 딥페이크 탐지 기술 개발 20억원…신종 성범죄·사기 범죄 근절될까이러한 새로운 기술들이 실제로 현장에서 얼마나 효과를 발휘할지는 어느 정도 시간이 지나야 윤곽이 드러날 것으로 보입니다. 여러 기능이 추가된 만큼 수사관들이 적응하는 기간도 필요한데다 AI가 예상만큼 정확도가 높지 않을 수도 있습니다. 각 부처마다, 각 부서마다 딥페이크 탐지 등 AI를 활용한 기술을 개발하고 도입에 뛰어드는 모습입니다. 과학기술정보통신부도 딥페이크 성범죄를 예방하기 위해 적대적 생성신경망(GAN) 방식의 탐지 고도화 및 생성 억제 기술 개발에는 10억원, 자가진화형 딥페이크 탐지 기술 개발에 10억원씩 투입하겠다고 밝혔습니다. 선의의 경쟁으로 더 나은 기술을 발굴하게 될지 아니면 예산을 중복으로 투입하는 비효율을 낳을지 꾸준한 관심이 필요해 보입니다.

2013년작 영화 ‘그녀(Her)’에서 사람보다 더 사람 같은 인공지능(AI)으로 외로운 남자의 더할 나위 없는 여자친구 역할을 연기했던 스칼렛 요한슨이 챗GPT 개발사인 오픈AI의 샘 올트먼 대표에 분노했다. 오픈AI가 최근 인공지능 챗봇 챗GPT4.0을 출시하면서 그녀의 목소리와 똑같은 음성의 ‘스카이’란 옵션을 내놓았기 때문이다. 지난주 열린 챗GPT4.0 시연회에서 요한슨과 똑닮은 목소리는 “안녕하세요, 무슨 일이에요? 오늘은 어떻게 하면 당신의 하루를 밝게 할 수 있을까요?”라고 사용자에게 인사를 건넸다. 챗GPT에 추가된 목소리는 취침 시간에 이야기를 들려주거나 목소리 톤을 좀 더 극적으로 또는 로봇처럼 바꾸기도 했다. 요한슨은 20일(현지시간) 미국 방송 CNBC와의 인터뷰에서 “올트먼이 지난해 9월 처음 접촉해왔고 챗GPT4.0을 발표하기 이틀 전인 13일에 다시 목소리 사용을 위해 연락했다”고 밝혔다. 이어 “많은 고민 끝에 개인적인 이유로 올트먼의 제안을 거절했다”며 “9개월 뒤 내 친구, 가족, 일반 대중 모두 ‘스카이’란 최신 시스템이 나와 얼마나 비슷한지 주목했다”고 지적했다.요한슨은 “공개된 데모를 들었을 때 올트먼이 내 가장 친한 친구와 언론 매체가 차이를 구분할 수 없을 정도의 소름 끼칠 정도로 비슷한 목소리를 추구한다는 사실에 충격을 받았고 분노했으며 믿을 수 없었다”고 털어놓았다. 이어 올트먼과 오픈AI에 챗GPT4.0의 음성 옵션 ‘스카이’를 만드는 과정을 자세히 설명해달라고 요청했다. 요한슨은 “우리 모두가 딥페이크(첨단 조작 기술)와 자신의 초상, 작업, 정체성을 보호하기 위해 고군분투하고 있는 시대에 이러한 문제는 절대적으로 명확해야 한다고 믿는다”며 “개인 권리 보호를 보장하는 데 도움이 되는 투명성과 적절한 법안의 통과를 기대한다”고 강조했다. 올트먼은 요한슨에게 “당신의 목소리는 기술 회사와 창작자 사이의 격차를 해소하고 소비자가 인간과 AI의 엄청난 변화에 편안함을 느낄 수 있도록 도울 수 있다”고 제안했다. 요한슨의 목소리가 사람들에게 위로가 될 것이라고 설명했다. 오픈AI는 처음에는 챗GPT4.0의 목소리가 요한슨의 목소리와 비슷하다는 사실을 부인했다. 회사 공식 블로그를 통해 “스카이의 목소리는 스칼렛 요한슨을 모방한 것이 아니라 다른 전문 여배우의 목소리”라며 “개인정보 보호를 위해 성우들의 이름은 공개할 수 없다”고 주장했다.하지만 요한슨 측의 법률적 요구에 따라 오픈AI는 결국 지난 19일 챗GPT4.0의 목소리 기능을 중단했다. 오픈AI 측은 챗GPT4.0의 목소리 기능을 위해 지난해 5개월 동안 수백건의 성우들 목소리를 검토해 5가지 음성 옵션을 출시했다고 설명했다. 그동안 오픈AI를 비롯한 인공지능 기업은 인간 노동자를 대체하고 저작권을 침해한다는 반발을 샀으며 배우, 작가, 언론사 등으로부터 소송을 당했다. 지난해 미국 작가 조합과 배우 조합은 AI를 사용해 각본을 쓰고 단역 배우를 대체하는 것을 막기 위해 5개월 동안 파업을 벌였다. 요한슨도 물론 파업에 참여했으며, AI를 활용한 각본 집필은 부분 규제됐으나 배우 대체는 완전히 막지 못했다. AI는 각본의 공동 작업자로 참여하는 것이 금지됐고, 단역 배우들을 스캔해서 AI 이미지를 사용하는 것은 출연료를 지급하기로 합의했다.

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.

생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.

인공지능(AI)을 활용해 만든 콘텐츠에는 반드시 ‘AI 창작물’임을 표기토록 하는 방안이 추진된다. AI로 이미지나 음성을 그럴싸하게 짜깁기하는 ‘딥페이크’ 기술이 범죄에 악용되는 사례가 늘어나서다. 방송통신위원회는 21일 이런 내용이 담긴 올해 업무계획을 윤석열 대통령에게 보고했다. 딥페이크 범죄가 전방위로 확산하면서 피해를 호소하는 이가 늘어나고 있다. 방송통신심의위원회에 따르면 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 지난해 6000건 이상으로 급증했다. 성범죄뿐만 아니라 정치권에서도 골칫거리다. 미국에서는 조 바이든 대통령의 목소리를 모방 녹음한 뒤 유권자들에게 공화당 예비선거 불참을 권하는 ‘가짜전화’가 기승을 부리며 홍역을 치렀다. 다음달 총선을 앞두고 있는 국내에서도 딥페이크 기술의 여파에 촉각을 곤두세우고 있는 상황이다. 딥페이크는 ‘딥러닝’과 ‘페이크’(Fake)의 합성어로 AI를 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어 내는 기술이다. 이런 피해를 막고자 방통위는 ‘인공지능서비스 이용자 보호에 관한 법률’ 제정을 추진하고 AI가 생성한 콘텐츠에는 관련 표시를 의무화하기로 했다. 향후 AI 관련 피해 구제를 위한 전담 신고 센터도 운영한다. 한편 방송 분야에서는 방송사의 안정적인 사업 운영을 위해 허가·승인 유효기간 범위를 확대한다. 포털 분야에서는 포털사별 뉴스제휴 평가 기구를 구성하고 기준과 결과를 공개하도록 한다. 특히 ‘맞춤형 추천 서비스’ 때문에 이용자가 걸러진 정보만 접하게 되는 ‘필터 버블’ 등의 부작용이 일어나지 않도록 ‘알고리즘투명성위원회’도 구성키로 했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).