“인생의 가장 큰 실패는 나와 함께 막대한 성공을 일군 멀린다 게이츠와의 이혼이었다.” “기술 발전이 정치적 분열을 가속화하고 공익을 해치는 무기로 쓰이는 현실을 예측 못 했다.” “가상화폐는 아무 쓸모도 없다. 높은 지능을 가진 사람들이 자신을 속이고 있다.” 지능 높은 사람들 스스로를 속여소셜미디어 부작용도 예측 못 해70세를 맞는 빌 게이츠 마이크로소프트(MS) 창업자가 어린 시절부터 지금까지의 삶을 돌아보며 자서전을 썼다. 4일(현지시간) 출간되는 책 ‘소스 코드: 나의 시작’은 앞으로 나올 3부작 가운데 첫 번째다. 출간에 맞춰 뉴욕타임스(NYT)와 영국의 더 타임스 등이 그를 인터뷰했다. 이 내용과 미리 공개된 책의 주요 부분을 더해 2일 요약 정리했다. 우선 게이츠 창업자는 “오는 10월에 만 70세가 된다. MS 설립 50주년과 게이츠 재단 설립 25주년도 겹쳐 (회고를) 시도했다”고 집필 동기를 밝혔다. 그는 MS 윈도 운영체제(OS) 대중화가 촉발한 인터넷 혁명에 대해 “서로가 정보를 공유하면서 놀랄 만한 일들이 일어났다”며 “그러나 (페이스북·트위터 같은) 소셜미디어(SNS)의 등장으로 생각지도 못한 해악도 퍼졌다. 기술 발전이 공공의 이익을 해치고 정치적 분열을 가속할지 예측 못 했다”고 안타까워했다. 최근 서구 세계에서 극우 세력이 득세하고 젊은층의 우울증이 심화하는 현상을 SNS 때문으로 보는 것이다. MS가 거액을 쏟아붓는 인공지능(AI)을 두고 악용될 가능성을 우려했으며 빠르게 세를 넓히는 암호화폐에 대해서도 “유용성이 전혀 없다. 지능이 높은 사람들이 그 문제를 두고 자신을 속이고 있다”며 비판했다. 지난해 12월 27일 그는 당시 미국 대통령 당선인 신분이던 도널드 트럼프와 함께 플로리다 마러라고 리조트에서 저녁을 먹으며 대화했다. 게이츠는 평생 정치와 거리를 뒀지만 지난해 미 대선 때는 처음으로 카멀라 해리스 전 부통령 지지 단체에 5000만 달러(약 730억원)를 기부해 화제가 됐다. 그는 월스트리트저널(WSJ)에 “내가 해리스를 후원한 사실을 트럼프도 알고 있었지만 관대했다”면서 “앞으로 (트럼프 대통령에게) 최대한 협조하겠지만 정치에 직접 참여할 생각은 없다”고 선을 그었다. 일론 머스크 테슬라 최고경영자(CEO)와 마크 저커버그 메타 CEO, 제프 베이조스 아마존 창업자 등 과거 민주당 성향 거물들이 트럼프 대통령 지지로 돌아선 것을 고려할 때 그는 분명 이들과 결이 다르다고 NYT는 평가했다. 이를 반영하듯 게이츠는 자서전에서 “그간 실리콘밸리는 ‘좌파적’이라고 생각했지만 이제 우파 그룹이 상당수 존재한다는 사실에 놀랐다”고 했다. 트럼프 관대… 최대한 협조할 것머스크, 외국 정치 개입은 비정상블룸버그 억만장자 순위에서 재산 1650억 달러(240조원)로 전 세계 8위 부자인 게이츠는 지금보다 더 진보적인 세금 제도를 바란다. 그는 “지금까지 판매세를 제외하고 140억 달러(20조원)를 냈다”면서 “미국이 더 나은 조세제도를 갖췄다면 400억 달러(58조원)를 냈을 것”이라고 역설했다. 또 “막대한 부를 일군 모든 이들은 (여러 방식으로) 사회에 환원해야 한다는 생각을 가져야 한다”면서 “전 세계에 결핵과 말라리아가 여전한데도 개인의 영생을 위해 자기 몸을 냉동하거나 불사의 신약을 만들고자 하는 것은 너무도 이기적”이라고 일갈했다. 그는 유년 시절을 회상하면서 “지금 기준이라면 내 어린 시절은 자폐 성향 진단을 받았을 것”이라며 “부모는 특정한 일에 광적으로 집착하고 타인의 반응에 무감각하며 무례하기까지 한 아들을 이해할 수 없었다”고 했다. 실리콘밸리 우파 그룹에 놀랐다멀린다와의 이혼, 인생 최대 실패그래도 게이츠는 삶을 돌아보며 ‘행운’이라는 말을 여러 차례 되풀이했다. 그는 “MS 같은 회사를 세워 세계 정상에 올려놓는 것은 믿을 수 없을 만큼 많은 운이 합쳐지지 않으면 불가능하다”면서 “부유한 부모님 밑에서 백인 남성으로 태어난 점과 ‘당신 아이는 괴짜지만 똑똑하다’고 말한 선생님, (사회 부적응자인) 나에게 현실감각을 불어넣은 멀린다와의 결혼 등이 모두 더해진 결과”라고 설명했다. 그런 의미에서 멀린다와의 이혼은 다른 어떤 것과도 비교할 수 없는 ‘인생 최대 실패’라며 후회했다. 그는 “1987년 마케팅 매니저로 채용한 멀린다를 만나 사랑에 빠졌다. 지금의 성공은 우리가 함께한 시간 동안 이뤄졌다”고 강조했다. 2021년 5월 두 사람은 공식적으로 남남이 됐는데, 원인은 게이츠 자신에게 있었다. 미성년 성매매자였던 제프리 엡스타인(2019년 8월 수감 중 자살)과 자주 어울렸고 사내에서도 몇 건의 성추문을 일으켰다. 마지막으로 게이츠는 세계 곳곳에서 극우 정당을 선동하는 머스크 CEO를 겨냥해 “미 정부 지출을 2조 달러 줄이고 5개 회사(테슬라·X·스페이스X·xAI·뉴럴링크)를 운영하기에도 바쁜 사람이 영국 노동당 총리까지 공격하는 이유를 이해할 수 없다”면서 “그가 하는 행동은 대중 영합주의 선동”이라며 일침을 가했다고 더 타임스는 전했다.

“내 인생의 가장 큰 실패는 나와 함께 막대한 성공을 일군 멜린다 게이츠와의 이혼이었다.” “기술 발전이 정치적 분열을 가속화하고 공익을 해치는 무기로 쓰이는 현실을 예측 못 했다.” “가상화폐는 아무 쓸모도 없다. 높은 지능을 가진 사람들이 자신을 속이고 있다.” 70세를 맞는 빌 게이츠 마이크로소프트(MS) 창업자가 어린 시절부터 지금까지 삶을 돌아보며 자서전을 썼다. 오는 4일 출간되는 책 ‘소스코드: 나의 시작’은 앞으로 나올 3부작 가운데 첫 번째다. 출간에 맞춰 뉴욕타임스(NYT)와 영국의 더타임스 등이 그와 인터뷰했다. 이 내용과 미리 공개된 책의 주요 부분을 더해 2일 요약 정리했다. 게이츠 창업자는 “오는 10월에 만 70세가 된다. 마이크로소프트(MS) 설립 50주년과 게이츠재단 설립 25주년도 겹쳐 (회고를) 시도했다”고 집필 동기를 밝혔다. 그는 MS 윈도 운영체제(OS) 대중화가 촉발한 인터넷 혁명에 대해 “서로가 정보를 공유하면서 놀랄만한 일들이 일어났다”면서 “그러나 (페이스북·트위터 같은) 소셜미디어(SNS)의 등장으로 생각지도 못한 해악이 퍼졌다. 기술 발전이 공공의 이익을 해치고 정치적 분열을 가속할지 예측 못 했다”고 안타까워했다. 최근 서구세계에서 극우 세력이 득세하고 젊은 층의 우울증이 심화하는 현상을 SNS 때문으로 보는 것이다. MS가 거액을 쏟아붓는 인공지능(AI)을 두고도 악용될 가능성을 우려했고 암호화폐에 대해서도 “유용성이 전혀 없다. 지능이 높은 사람들이 그 문제를 두고 자신을 속이고 있다”고 비판했다. 지난해 12월 27일 그는 당시 미국 대통령 당선인 신분이던 도널드 트럼프와 플로리다 마러라고 리조트에서 저녁을 먹으며 대화했다. 게이츠는 평생 정치와 거리를 뒀지만 지난해 미 대선 때는 처음으로 카멀라 해리스 전 부통령 지지 단체에 5000만 달러(약 730억원)를 기부했다. 그는 월스트리트저널(WSJ)에 “내가 해리스를 후원한 사실을 트럼프도 알고 있었지만 관대했다”면서 “앞으로 (트럼프 대통령에) 최대한 협조하겠지만 정치에 직접 참여할 생각은 없다”고 선을 그었다. 일론 머스크 테슬라 최고경영자(CEO)와 마크 저커버그 메타 CEO, 제프 베이조스 아마존 창업자 등 과거 민주당 성향 거물들이 트럼프 후보 지지로 돌아선 것과 비교할 때 그는 분명 결이 다르다고 NYT는 평가했다. 이를 반영하듯 게이츠는 자서전에서 “그간 실리콘밸리는 ‘좌파적’이라고 생각했지만 이제 상당한 우파 그룹이 존재한다는 사실에 놀랐다”고 했다. 블룸버그 억만장자 순위에서 재산 1650억 달러(240조원)로 전 세계 8위 부자인 게이츠는 지금보다 더 진보적인 세금 제도를 바란다. 그는 “지금까지 판매세를 제외하고 평생 140억 달러(20조원)를 냈다”면서 “미국이 더 나은 조세 제도를 갖췄다면 400억 달러(58조원)를 내야 했다”고 강조했다. 또 “막대한 부를 일군 모든 이들은 (여러 방식으로) 사회에 환원해야 한다는 생각을 가져야 한다”면서 “전 세계에 결핵과 말라리아가 여전한데도 개인의 영생을 위해 자기 몸을 냉동하거나 불사(不死)의 신약을 만들고자 하는 것은 너무도 이기적”이라고 일갈했다. 유년 시절을 회상하면서 “지금 기준이라면 내 어린 시절은 자폐 성향 진단을 받았을 것”이라면서 “부모는 특정한 일에 광적으로 집착하고 타인의 반응에 무감각하며 무례하기까지 한 아들을 이해할 수 없었다”고 했다. 그래도 게이츠는 삶을 돌아보며 ‘행운’이라는 말을 여러 차례 되풀이했다. 그는 “MS 같은 회사를 세워 세계 정상에 올려놓은 것은 믿을 수 없을 만큼 많은 운이 합쳐지지 않으면 불가능하다”면서 “부유한 부모님 밑에서 백인 남성으로 태어난 점과 ‘당신 아이는 괴짜지만 똑똑하다’고 말한 선생님, (사회부적응자인) 나에게 현실 감각을 불어넣은 멜린다와의 결혼 등이 모두 더해진 결과”라고 설명했다. 이 때문에 멜린다와의 이혼은 다른 어떤 것과도 비교할 수 없는 ‘인생 최대 실패’라며 후회했다. 그는 “1987년 마케팅 매니저로 채용한 멜린다를 만나 사랑에 빠졌다. 지금의 성공은 우리가 함께 한 시간 동안 이뤄졌다”고 강조했다. 2021년 5월 두 사람은 법적으로 남남이 됐고 지난해 5월에는 멜린다가 게이츠재단 공동의장 직에서 물러났다. 원인은 게이츠 자신에게 있었다. 미성년 성매매자였던 제프리 엡스타인(2019년 8월 수감 중 자살)과 자주 어울렸고, 사내에서도 몇 건의 성추문이 피어 올랐다. 마지막으로 게이츠는 세계 곳곳에서 극우 정당을 선동하는 머스크 CEO를 겨냥해서 “미 정부 지출을 2조 달러 줄이고 5개 회사(테슬라·X·스페이스X·xAI·뉴럴링크)를 운영하기에도 바쁜 사람이 영국 노동당 총리를 공격하는 이유를 이해할 수 없다”면서 “그가 하는 행동은 대중영합주의 선동”이라고 일침을 가했다고 더타임스가 전했다.

마이크로소프트(MS) 공동 창업자이자 세계에서 가장 부유한 인물 중 한 명인 빌 게이츠(69)가 자신의 첫 자서전을 통해 70년 인생을 돌아봤다. 순자산 1600억 달러(약 180조원)의 게이츠는 멜린다와의 이혼을 가장 큰 후회로 꼽았다. 게이츠는 자서전 ‘소스 코드(Source Code): 나의 시작(My Beginnings)’ 출간을 앞두고 뉴욕타임스(NYT)와 가진 인터뷰에서 테크 산업의 변화상을 짚었다. 그는 “실리콘밸리는 늘 중도좌파라고 생각했다. 이제 상당한 우파 그룹이 존재한다는 사실에 놀랐다”고 말했다. 실제로 일론 머스크 테슬라 CEO는 지난해 대선에서 트럼프 후보를 공개 지지했고, 마크 저커버그 메타 CEO와 제프 베이조스 아마존 창업자도 트럼프 쪽으로 선회했다. 반면 게이츠는 카멀라 해리스 전 부통령 지지 단체에 5000만 달러를 기부했다. 게이츠는 억만장자들 사이에서도 독특한 행보를 보였다. “더 나은 조세 제도였다면 400억 달러를 냈어야 했다”며 진보적 세금 정책을 지지했다. 그의 자선재단은 소아마비, 말라리아, 에이즈 퇴치 등에 590억 달러를 투자했다. 시애틀 중상류층 가정에서 자란 그는 자신의 어린 시절을 돌아보며 “10대였던 지금 진단을 받았다면 자폐 스펙트럼 장애 진단을 받았을 것”이라고 털어놨다. 변호사 아버지와 성공한 사회사업가 어머니 밑에서 자랐지만, 특히 어머니의 영향을 크게 받았다고 회고했다. 기술 발전에 대한 견해도 밝혔다. 인터넷을 통한 정보 공유의 혁신은 예상했지만, 소셜미디어가 초래한 정치적 분열과 기술의 악용은 예측하지 못했다고 했다. AI 악용 우려도 제기했으며, 가상화폐에 대해서는 “전혀 쓸모가 없다”며 부정적 입장을 보였다. 게이츠는 ‘더 타임스 오브 런던’과의 인터뷰에서는 아내였던 멜린다 프렌치 게이츠와의 이혼이 가장 후회된다고 말했다. “처음 만났던 1987년 당시에는 지금처럼 엄청난 성공을 거두기 전이었다”고 회상하며, 이혼이 자신의 삶에서 가장 큰 아쉬움으로 남았다고 털어놓았다.

미국 기술패권의 아성을 뒤흔들 중국의 혁신적인 인공지능(AI) 기술로 주목받은 대규모 언어모델(LLM) ‘딥시크’가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라, 보안상 취약점도 다수 발견됐다. 미 포춘지는 29일(현지시간) “중국의 딥시크 AI가 잘못된 정보로 가득 차 있으며, 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다”고 보도했다. 정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면, 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다. 이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다. 뉴스가드는 딥시크의 낮은 신뢰성에 대해 여러 원인을 지적했다. 우선 딥시크가 2023년 10월 이후 정보를 학습할 수 없던 점이 부정확한 답변으로 이어졌다는 분석이다. 또한 딥시크가 거짓 정보를 학습하도록 쉽게 조작할 수 있어 대규모 오정보 유포에 악용될 우려가 있다고 밝혔다. 특히 이번 검사에서는 딥시크의 결과값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다. 한편, 사이버범죄 정보 기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석을 발표했다. 켈라는 “딥시크 R1은 챗GPT와 유사점이 있지만 훨씬 더 취약하다”며 경고했다. 연구진은 다양한 시나리오에서 R1을 활용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독소 및 폭발물 제조에 대한 상세 지침 등 악의적인 정보를 생성할 수 있었다고 밝혔다. 특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서, AI에 내장된 안전 장치를 무력화하는 공격 방식을 의미한다. 켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리, 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다. 이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며, 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 더불어 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.

-국내 5대 가상거래소 최초 고객 신원확인 솔루션 도입-신분증 위변조 판별하여 신분 도용 범죄 방지 알체라의 자회사 레그테크(Reg-Tech) 전문기업 유스비가 국내 가상자산(암호화폐) 거래소 코빗에 신분증 OCR과 사본판별 솔루션 공급 계약을 체결했다고 밝혔다. 코빗은 국내 5대 가상자산 거래소 중 최초로 가입자의 신원 확인 프로세스를 강화하기 위해 유스비와 비대면 고객 실명 확인 솔루션(eKYC) 계약을 체결했다. 이번 계약을 통해 유스비는 코빗 앱에 신분증 OCR 및 사본 판별 솔루션을 공급하며, 안전하고 효율적인 신원확인 서비스를 지원할 예정이다. 유스비의 신분증 OCR 솔루션은 체감 속도 약 0.1초 이내로 텍스트 정보를 추출하며, 빠르고 정확한 신원 확인을 지원한다. 신분증 사본판별 솔루션은 종이 사본, 스마트폰 또는 PC로 촬영된 이미지를 실시간으로 분석해 신분증 위·변조 여부를 판별한다. 이를 통해 타인의 신분증이나 실물이 아닌 신분증 사본을 이용한 부정 가입을 효과적으로 차단한다. 국내 가상자산 거래자가 1500만 명을 넘어선 가운데, 거래소 가입자의 신원 확인 절차 시 보안 취약점에 대한 문제는 자주 지적되어 왔다. 특히, 모바일 환경에서 쉽게 이루어지는 비대면 가입 방식을 악용한 부정 사례가 증가하면서, 신원 위조와 도용을 방지하기 위한 보안 강화와 절차 개선이 무엇보다 중요해졌다. 이러한 상황에서 유스비의 비대면 고객 실명 확인(eKYC) 솔루션은 문제를 해결할 핵심 대안으로 주목받으며, 시장의 기대를 모으고 있다. 유스비의 eKYC 통합 솔루션은 ▲신분증 OCR 및 진위 확인 ▲1원 계좌 인증(계좌 실명 조회 및 계좌 점유 인증) ▲안면 인증으로 구성되어 있으며, 기업의 환경, 규모, 사용량에 맞춰 적합한 인증 방식을 선택할 수 있도록 다양한 커스터마이징 옵션과 부가 기능을 제공한다. 무엇보다 SaaS(서비스형 소프트웨어) 방식으로 구현이 가능하여 OCR 엔진 설치, 서비스 UI/UX 기획 및 디자인, 개발에 소요되는 시간과 비용 부담을 최소화할 수 있다는 장점이 있다. 특히, 국내 최고 수준의 AI 안면 인식기술력을 자랑하는 알체라의 솔루션이 적용되어 사용자에게 뛰어난 성능과 정확성을 제공한다. 유스비 김성수 대표는 “가상자산 거래소 업계가 신뢰와 보안을 바탕으로 성장할 수 있도록, 유스비의 eKYC 통합 솔루션이 핵심 역할을 할 것으로 기대한다”며, “안전하고 효율적인 신원 확인 체계를 구축할 수 있도록 지속적으로 기술을 발전시키고 혁신적인 서비스를 제공하겠다”고 포부를 밝혔다. 한편 유스비는 Vision AI 혁신 선도기업 알체라의 자회사로, 양사는 금융사업과 본인인증 분야의 판로를 개척하기 위한 협업을 이어가고 있다. 그 결과 금융과 핀테크 외 비대면 본인인증 분야에서 괄목할 만한 성과를 내고 있다. 특히, 유스비의 eKYC는 SaaS 형식의 비대면 고객확인 통합 솔루션으로, 고객확인을 위한 모든 기능과 디자인까지 한 번의 연동으로 구현 가능하다. 또한 필요 기능, 디자인 등 고객 맞춤 커스텀이 가능하여 안정성은 물론, 활용성과 확장성이 우수한 특징을 지니고 있다.

조 바이든 미국 행정부가 임기 만료를 코앞에 두고 중국을 겨냥해 다양한 제재안을 쏟아 내는 가운데 이번에는 첨단 생명공학 실험 장비에 대한 수출통제를 선언했다. 이들 장비가 군사용으로 악용돼 국가 안보에 위협이 될 수 있다는 논리다. 미 상무부는 15일(현지시간) 생명공학 실험실에서 쓰는 특정 장비를 수출할 때 정부의 허가를 받도록 하는 규정을 발표했다. 개별 세포 특성을 파악하는 데 쓰이는 유세포분석기, 단백질 유전정보 수집을 위한 액체 크로마토그래피 질량분석기 등 두 종류다. 상무부는 이들 장비가 미국 안보에 위협이 되는 연구개발에 사용될 수 있다고 경고했다. 적국이 이들 장비를 통해 생물학 정보를 모아 인공지능(AI)을 훈련시키면 신체 능력 향상과 뇌·기계 연결(BMI) 등 ‘인간 개조 프로젝트’에 쓰일 수 있다는 것이다. 특정 국가들이 가공할 위력의 생물학 무기를 개발할 수도 있다고 상무부는 덧붙였다. 이번 수출통제는 발표 즉시 시행됐다. 한국을 비롯한 우호적 국가에는 수출 시 별도 허가를 받지 않아도 된다. 그러나 중국과 러시아 등 적대적 국가에는 원칙적으로 수출을 불허한다. 미 상무부는 이날 중국 AI·컴퓨팅업체 25곳과 싱가포르 업체 2곳을 ‘우려 거래자 목록’에 포함한다고 발표했다. 목록에 오른 기업들은 미국 정부 허가 없이는 상품이나 기술 수출을 받을 수 없게 된다. 미국 정부가 새로 추가한 기업 가운데는 중국 알리바바·텐센트가 투자자로 참여한 ‘즈푸AI’가 포함됐다. 미국은 즈푸AI가 AI 연구를 통해 중국의 군사적 현대화를 돕는다고 여긴다. 이번에 거래가 막힌 또 다른 업체 ‘소프고’는 중국 최대 통신장비업체이자 미국 제재 대상인 화웨이를 지원했다는 의혹을 받고 있다. 소프고가 대만 TSMC에서 주문·제작한 반도체와 화웨이 AI 시스템에 사용된 반도체가 일치하는 것으로 드러났기 때문이다. 이번 규제안에는 14㎚(나노미터·10억분의 1m)나 16㎚ 이하 첨단 반도체를 중국 등에 팔려면 미 정부 허가를 받도록 하는 내용도 담겼다. 삼성전자와 인텔, TSMC, 글로벌파운드리, ASE 등 반도체 조립·설계기업 24곳이 적용 대상이다.

인격 훼손 합성 금지·처벌안도 마련법 위반 해외기업, 매출 제출 의무화 배달 로봇 등 AI 신산업 여건 조성의료·통신 등 ‘마이데이터’ 5종 출시 개인정보보호위원회가 올해 인공지능(AI)을 활용한 이미지 조작 행위인 ‘딥페이크’ 기술을 악용한 합성 콘텐츠에 대해 정보 주체가 직접 삭제를 요구할 수 있는 권리를 마련한다. 위원회는 13일 이런 내용을 담은 ‘2025년 주요 업무보고’ 계획을 발표했다. 위원회는 삭제를 요구할 수 있는 권리와 함께 인격적 가치를 훼손하는 개인정보 합성 행위 등에 대해선 금지·처벌하는 방안도 마련할 계획이다. 또 생성형 AI를 포함한 신산업 혁신을 끌어낼 수 있는 여건을 조성한다. 상용화를 앞둔 자율주행차나 배달 로봇 등으로 인해 관심이 높아지고 있는 개인 영상정보의 안전한 활용과 관련 산업계 활성화를 위한 법 제정도 추진한다. 가명 처리의 적정성을 판단하는 심의위를 법제화하고 가명 정보 지원 플랫폼에 비정형 데이터의 가명 처리 기능을 추가해 정보 활용을 활성화할 계획이다. 가명 정보는 개인정보의 일부 항목을 삭제하거나 변형해 추가정보 결합 없이는 특정 개인을 알아볼 수 없게 한 정보를 말한다. 기업이 개인정보 침해 없이 자료를 수집하는 데 도움을 준다. 올해 본격 시행을 앞둔 ‘마이데이터’ 제도는 의료·통신·에너지 분야에서 선도 서비스 5종을 단계적으로 출시한다. 이를 위해 마이데이터 지원플랫폼을 개설하고, 개인정보관리 전문기관을 지정해 지속적인 실태점검을 실시할 계획이다. 지난 2023년 9월 개인정보보호법 개정으로 과징금 상한액이 ‘전체 매출액의 3%에서 위반행위와 관련 없는 매출액 제외’로 수정되면서 관련 없는 매출액을 증명해야 하는 책임이 기업에 주어졌다. 이에 일부 해외 사업자는 매출액을 제때 제출하지 않아 과징금 부과 절차가 지연되는 사례가 발생하기도 했다. 위원회는 앞으로 매출액을 제출하지 않거나 축소해서 내는 해외 사업자에 대한 강제력 확보 차원에서 국내 법인을 국내 대리인으로 우선 지정하는 것을 의무화할 방침이다. 법률 전문가를 중심으로 구성된 소송 전담팀은 올해 3월쯤 출범할 예정이다. 사회적으로 필요한 AI 개발을 지원하고자 안전조치를 마친 원본 데이터를 활용할 수 있도록 AI 특례 규정을 마련하고 사업자의 정당한 이익과 공익을 고려해 개인정보를 적법하게 처리할 수 있는 근거를 확대한다. 아울러 공유 플랫폼과 디지털 금융 등 국민 생활과 밀접한 분야를 우선적으로 점검하고 프라이버시 침해 우려를 해소하기 위해 촘촘한 개인정보 안전망을 구축한다. 이 외에 2025년 ‘글로벌 프라이버시 총회’의 서울 개최를 계기로 그간 유럽과 미국 중심으로 이뤄진 개인정보 규범 논의에 아시아 등 다양한 지역의 시각을 반영한 새로운 규범 형성을 선도해 나갈 예정이다. 고학수 위원장은 “생성형 AI를 포함한 신기술의 급격한 발전과 함께 개인정보 규제 혁신을 요구하는 목소리와 잠재적인 프라이버시 침해 위협에 대한 우려가 동시에 나타나고 있다”며 “위원회는 AI 환경 변화에 발맞춰 원칙 기반 개인정보 규율체계의 완성도를 높여 나감으로써 국민 불안을 해소하고 국내 AI 생태계 발전을 적극 지원하겠다”고 강조했다.

정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 함께 지난 20일 온라인 생중계를 통해 ‘인공지능(이하 ‘AI’) 영상합성서비스 윤리영향평가 공개 토론회’를 개최했다고 밝혔다. 이번 토론회는 학계·산업계·법조계·공공·시민사회·국제기구 등 다양한 분야 전문가들로 구성된 ‘전문가평가단’과 일반 국민 참여로 이루어진 ‘국민포럼단’이 ‘AI 영상합성’ 서비스의 윤리적 영향에 대해 논의한 결과를 공유하고, 국민의 의견을 폭넓게 듣기 위해 마련된 자리이다. AI 윤리영향평가는 기업의 AI 윤리 및 신뢰성 실천 노력을 뒷받침하고, 사용자가 AI를 윤리적이고 주체적으로 활용할 수 있도록 기준을 제시하기 위해 올해 처음 시범적으로 시행되고 있다. 올해는 특히 딥페이크 범죄가 사회적 문제로 떠오르면서, 이에 따른 국민적 우려와 관심을 반영해 ‘AI 영상합성’ 서비스를 대상*으로 평가를 시행했다. *제3기 AI 윤리·신뢰성 포럼, 대국민 의견조사(1500명 대상), 정부부처 선호도 등을 종합적으로 고려해 평가대상 선정 ‘AI 영상합성’ 서비스는 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 영상을 생성하거나 기존의 영상, 이미지, 음성을 수정 및 변형하는 서비스를 의미한다. 딥페이크 악용 등으로 인한 부정적 우려가 존재하지만, 순기능을 강화한다면 다양한 산업 분야에서 긍정적 혁신과 사회적 효과를 기대할 수 있다. 이번 AI 윤리영향평가는 ‘AI 영상합성’ 서비스의 윤리적 긍·부정 영향을 국가 ‘인공지능(AI) 윤리기준’ 10대 핵심요건별로 살펴보고, 긍정적 영향 극대화와 부정적 영향 최소화를 위한 정부, 기업, 국민 등의 주체별 노력과 정책, 법·제도·기술적 대응 방안 등도 함께 고려했다. 본 평가는 2023년 과기정통부와 KISDI에서 개발한 ‘인공지능 윤리영향평가 프레임워크’와 같은 해 유네스코(UNESCO)가 발표한 ‘윤리적 영향평가도구 방법론’을 활용했으며, 이를 통해 기업, 시민사회, 학계, 정부 및 공공 등에 AI 영상합성서비스의 윤리적 영향력을 체계적으로 파악할 수 있는 참고자료를 제공하고자 한다. 이번 공개토론회에서는 문정욱 KISDI 디지털사회전략연구실장이 ‘2024년 AI 영상합성서비스 윤리영향평가 결과(안)’을 소개했다. 이어 AI 윤리영향평가단장으로 활동한 이상욱 한양대 교수(좌장) ▲김유철 LG AI연구원 전략부문장 ▲변형진 이스트소프트 개발TF센터장 ▲선지원 한양대 법학전문대학원 교수 ▲이영복 제네시스랩 대표 ▲최호진 KAIST 교수 ▲송호준 과기정통부 인공지능확산팀장이 토론자로 참여했다. 문정욱 KISDI 디지털사회전략연구실장은 “AI 기술의 윤리적이고 안전한 활용은 지속가능한 디지털 사회를 위한 핵심과제이다. 이번 시범 평가는 AI 영상합성서비스의 긍정적 가능성을 극대화하고 부정적 영향을 최소화하기 위한 출발점이며 향후 학계·산업계·정부·시민사회가 함께 실효성 있는 대응 방안을 마련하는 데 중요한 참고자료가 될 것으로 기대한다”라고 말했다. AI 윤리영향평가는 오늘 공개토론회에서의 논의와 내년 초 이해관계자 의견수렴을 통해 최종 결과를 도출한 뒤, 국민도 쉽게 접할 수 있도록 책자 형태로 내년 상반기에 발간될 예정이다. 본 행사는 과기정통부와 KISDI 유튜브채널을 통해 온라인으로 참여할 수 있다.

서울 강서구가 딥페이크(이미지 합성 기술) 범죄를 막기 위한 주민 강좌를 진행한다. 강서구는 ‘딥페이크 기반 디지털 성범죄 이해와 대응 방안’이라는 주제로 제186회 강서지식비타민강좌를 진행하고 있다고 2일 밝혔다. ‘딥페이크’는 딥러닝과 페이크의 합성어로, 인공 지능 기술을 활용해 만든 가짜 이미지나 영상물을 말한다. 이번 강좌는 구청 공식 유튜브 채널을 통해 25일까지 시청이 가능하다. 강사로 나선 장광호 ㈜CNAI 대표이사가 나선다. 한신대학교 연구교수를 겸하고 있는 장 대표는 경찰청 과학수사관리관실 범죄분석기획담당과 경찰대학 치안정책연구소 스마트치안지능센터 센터장을 역임했다. 그는 이번 강의에서 딥페이크 기술을 이용한 디지털 성범죄의 개념과 대응 방안에 대해 자세히 전달한다. 특히 실제 범행 사례를 통해 온라인 환경에서 악용되기 쉬운 딥페이크 기술의 특성과 위험성을 설명한다. 또 디지털 성범죄와 관련한 국·내외 처벌 기준을 논의하고 가해자의 책임을 강화하는 방향으로 법제도 정비의 필요성을 강조한다. 딥페이크 영상 생성 과정과 탐지 기술을 살펴보고, 불법합성물 피해자 지원에 대한 관심을 촉구하는 시간도 가진다. 이번 강좌는 청소년들이 딥페이크 성범죄에 노출될 우려가 큰 만큼 지역 내 초·중·고등학교에 공문과 가정통신문 등을 통해 안내될 예정이다. 구 관계자는 “최근 학생 등을 대상으로 한 딥페이크 범죄가 심각한 사회문제로 대두되어 이를 예방하고자 이번 강좌를 마련했다”며 “이번 강좌가 디지털 성범죄에 대한 심각성을 알리고 안전한 교육환경을 조성하는 데 도움이 되길 바란다”고 말했다.

가짜뉴스나 딥페이크 범죄, 사이버 공격 등 인공지능(AI) 악용에서 비롯된 잠재적 위험을 막기 위한 연구 전담 조직 ‘AI 안전연구소’가 출범했다. 과학기술정보통신부는 27일 경기 성남시 글로벌 연구개발(R&D)센터에서 ‘AI 안전연구소’ 개소식을 열었다. 지난 5월 AI 서울정상회의 당시 윤석열 대통령이 “AI안전연구소를 설립해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 밝힌 데 따른 것이다. 연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하기 위해 세워졌다. 국가 단위의 AI 안전 정책 및 기술 연구를 진행하고, 국내 기업의 해외 진출도 돕는다. 히말라야 등반자들이 셰르파의 도움을 받아 안전하게 산에 오르듯 우리 기업이 글로벌 AI 경쟁에서 정상으로 나아갈 수 있도록 돕는다는 의미다. 정부는 AI 안전연구소는 아시아태평양지역을 대표하는 글로벌 AI 안전 거점연구소로 키워갈 방침이다. ▲AI 안전 평가 ▲AI 안전 정책 연구 ▲AI 안전 글로벌 협력 ▲AI 안전 연구개발(R&D) 등이 4대 핵심과제다. 정책 협력 및 기술 연구를 위해 AI 안전연구소는 이날 삼성전자·네이버·카카오·SK텔레콤·KT·LG AI연구원 등 산학연 24곳과 ‘대한민국 AI 안전 컨소시엄’ 업무협약(MOU)을 맺었다. 김명주 AI 안전연구소장은 “규제 기관이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 하겠다”고 말했다.

인공지능(AI) 기반 사진 합성 기술을 악용해 다른 사람의 신체나 음성을 음란물에 합성하는 ‘딥페이크 성범죄’가 급격히 확산하면서 관련 민원이 1년 새 2배가량 증가한 것으로 나타났다. 국민권익위원회가 21일 발표한 범정부 민원분석시스템 조사 결과에 따르면, 올해 1월부터 10월까지 월평균 50건의 딥페이크 성범죄 관련 민원이 접수됐다. 지난해 월평균 30건에서 약 1.7배 늘었다. 특히 올해 8월에는 대학가를 중심으로 한 딥페이크 사건으로 인해 민원이 1년 전 대비 무려 6.1배 급증한 213건에 이르렀다. 이에 권익위는 심각성을 인지하고 딥페이크 성범죄와 관련된 ‘민원주의보’를 발령하며 관계기관에 단속 및 처벌 강화와 피해자 보호 체계 마련을 긴급 권고했다. 한국은 전 세계에서 딥페이크 성범죄에 가장 취약한 국가로 알려져 있다. 미국 사이버보안 업체 ‘시큐리티 히어로’의 2023년 보고서에 따르면, 전 세계 딥페이크 성착취물 피해자의 53%가 한국인이었다. 특히나 한국 가수들이 이 범죄의 주요 표적이 됐다. 가장 큰 피해를 본 한국인 가수의 경우 약 1600건의 딥페이크 성착취물에 노출됐으며 누적 조회 수는 561만 회에 달했다. 불특정 다수에게 얼굴이 많이 알려진 걸그룹도 딥페이크 성범죄의 주요 표적이 되는 실정이다. 걸그룹 트와이스와 뉴진스 소속사는 최근 딥페이크 성범죄에 법적으로 강력 대응하겠다고 밝힌 바 있다.

AI가 만드는 새로운 사후세계고인의 아바타 복원은 시간문제AI가 표정·목소리·제스처 등 학습영화 ‘원더랜드’처럼 생생함 관건AI는 사랑이란 감정을 몰라?기술적으론 감정 이해·표현 가능일각선 자의식 가질 수 있다고 봐‘학습한 사랑’ 오히려 진솔할 수도갈수록 정교해지는 딥페이크AI는 양날의 칼 가진 핵무기 같아활용자 윤리 교육·부분 규제 필요규제·자율성 사이 균형 맞춰가야로봇이 일자리를 위협할까소송 대응 등 법조 분야 적용 가능AI 판사, 편향성까지 학습할 우려‘환각’ 현상 있어 맹신하는 건 위험 “인간의 사랑이 진짜고, 인공지능(AI)의 (학습을 통해 얻은) 사랑은 가짜라고만 할 수 있을까요. AI가 자의식을 가질 수 있다는 데까지 생각을 열어 둬야 합니다.” 2024년을 규정하는 열쇠말로 일상으로 훅 들어온 AI, 특히 사람처럼 보고 듣고 말하는 오픈AI의 새 모델 GPT-4o를 빼놓을 수 없다. 대중문화에서도 AI 바람은 거셌다. 지난 6월 개봉한 영화 ‘원더랜드’(김태용 감독, 탕웨이·수지 주연)는 AI로 복원된 망자와 소통이 가능한 미래를 그렸다. AI 머신러닝·뇌과학·휴머노이드 로봇 분야 석학인 장병탁(61) 서울대 AI 연구원장(컴퓨터공학부 교수)은 “영화에 나온 ‘원더랜드 서비스’는 머지않아 구현될 가능성이 큰 AI 기술”이라고 설명했다. 그는 “영화 ‘그녀’(HER·스파이크 존즈 감독)에서처럼 AI가 ‘학습한 사랑’이 인간이 느끼는 감정보다 더 진솔할 수도 있고, AI가 노벨상을 받는 날도 올 것”이라고 했다. 지난 8일 서울 관악구 서울대 AI연구원에서 장 원장을 만나 AI와 인류의 미래를 들어봤다. 다음은 일문일답. -영화 ‘원더랜드’처럼 AI로 망자와 소통이 가능한 날이 올까. “‘원더랜드 서비스’는 AI가 고인을 ‘회생’(복원)시킨 것인데 이미 오래전부터 연구됐다. 살아 있을 때 목소리나 표정, 제스처를 데이터화해 학습시켜 아바타의 구현이 가능하다. 돌아가신 할머니·할아버지와 대화를 주고받을 수 있다. 실제 고인의 목소리와 표정을 얼마나 사실적으로 구현할지가 관건인데 시간문제다.” -AI 하면 영화 ‘그녀’를 떠올린다. AI가 감정을 느끼고 사랑을 할 수 있을까. “철학적인 질문이다. 기술적으로 AI가 감정을 가진 것처럼 보이게 만드는 건 가능하다. AI가 진짜 나를 좋아한다는 착각에 빠지게 할 수 있다. 진짜 사랑을 느끼는 건 아닐지 모르지만, 인간은 거기에 현혹될 수 있다.” -사랑만큼은 인간의 고유 감정이 아닐까. “어느 철학과 교수의 얘기를 듣고 충격을 받은 적이 있다. 알파고는 사람이 두는 수를 계속 흉내 내면서 더 좋은 수를 뒀다. 챗GPT도 학습을 통해 인간을 흉내 낸다. 이런 AI의 학습을 본 한 철학과 교수가 ‘인간의 사랑도 그런 거 아닐까’라고 했다. AI가 상대방이 좋아하는 말을 계속해 주고 애착을 흉내 내는 것이 인간이 연애 감정을 알아가는 것과 크게 다르지 않다는 의미다. 인간의 사랑이 진짜고, AI의 사랑은 가짜라고만 하긴 어렵다. AI도 기술적으로 사랑의 감정을 이해하고 표현할 수 있다. 예컨대 직장 상사가 듣기 좋아하는 말만 골라 하면서 비위를 맞추는 건 AI도 할 수 있다. 카메라와 글로 학습한 데이터를 바탕으로 눈치를 보는 것이다. 궁극적인 질문은 ‘AI가 자의식을 가질 수 있느냐’인데 요즘 철학자들은 AI가 자의식을 가질 뿐 아니라 인간보다 더 잘할 수도 있다는 관점까지 보이며 생각을 열어 두고 있다.” -올해 노벨상의 화두도 AI였다. AI가 노벨상을 받는 날도 올까. “AI 국제학회에서 노벨 의학상을 받을 AI를 만들자는 얘기가 있었다. 의학 분야에서 새롭게 발견된 지식과 누적된 데이터가 가장 많아서다. 다만 AI가 노벨상을 받기 위한 가장 큰 벽은 아직 사람으로 인정하지 않는다는 점이다. 법적, 제도적으로 혁명적 전환이 있어야 가능하다.” -예술의 영역은 어떤가. 천재들의 예술성도 학습 가능한 영역일까. “가능하다. 하지만 예술의 정의와 평가 기준이 달라질 수밖에 없다. 카메라가 등장하면서 극사실주의 작품의 가치가 떨어졌다. AI는 소설을 잘 쓴다. 사람보다 더 창의적인 것처럼 보이기도 한다. 앞으로 예술성의 경계가 모호해질 것 같다.” -AI의 발전에 두려움을 느끼기도 한다. 가장 먼저 일자리가 줄어들 텐데. “사람이 하기 싫은 일에서 해방되는 건 장점이지만 일자리를 빼앗기는 건 위협이다. AI가 인간 실수를 보완해 주는 장점이 있으니 적절히 활용해야 한다. 무슨 일을 시켜도 잘하는 똘똘한 사원이 입사했다고 보면 된다. 언젠간 부서장 자리를 넘볼 수도 있지만 아직은 신입사원 단계여서 경륜에 차이가 있다.” -딥페이크는 대표적인 부작용으로 꼽힌다. 해결책이 있을까. “제일 큰 이슈다. AI 기술 자체는 가치중립적이며 양날의 칼이다. 핵과 비슷하다. 원전은 중요한 에너지원이지만 핵무기는 인류를 파멸시킬 수 있다. 그래서 AI 활용자에 대한 윤리 교육이 필요하다. 현재 AI 기본법 논의가 이뤄지고 있다. 위험하거나 악용 소지가 있는 부분에 대한 규제가 필요하다. AI도 규제와 시스템의 테두리에 들어와야 한다.” -아이유 버전 비비의 ‘밤양갱’처럼 음성 저작권 문제도 손봐야 할 텐데. “AI 기술 공개를 제재할 구체적인 법은 없다. 논의해야 할 부분이다. 너무 일찍 규제하면 기술 발전이 저해되고, 규제를 안 하면 프라이버시가 침해될 수 있다. 시간이 지나면 규제와 자율성 사이 균형을 맞춰 가는 지점이 생길 것이다.” -극단적이지만 영화 ‘터미네이터’처럼 AI가 인류를 위협하는 날이 올 수도 있을까. “AI의 발전은 로봇이 자율성을 얻는 과정이다. 자율성이 커질수록 통제에서 멀어진다. 악한 사람이 작심하고 AI를 조종하면 인류를 위협할 가능성은 얼마든지 있다. 자율성 부여와 통제가 최대 딜레마다.” -원장님의 관심사는 어느 쪽인가. “머신러닝을 30년 넘게 연구했다. 지금은 AI가 몸을 가진 휴머노이드 로봇을 연구하고 있다. 챗GPT는 몸이 없다. 반대로 기계공학자들이 연구하는 로봇에는 정신(AI)이 빠져 있다. 이 두 가지가 결합한 것이 ‘임보디드(체화된) AI’다. 은퇴하고 나서 집안일을 도울 AI 로봇을 만드는 게 꿈이다.” -자율주행차처럼 AI도 발전 단계가 있을 텐데. “6단계가 있다. 1단계는 사람이 지식을 넣어 주는 단계, 2단계는 스스로 지식을 만드는 머신러닝·딥러닝 단계다. 3단계는 스스로 데이터를 습득해 학습하는 단계다. 생성형 AI라 불리는 챗GPT가 여기에 해당한다. 4단계는 현재 연구 중이다. 인간이 옳고 그름에 대한 정답을 정해 주지 않아도 답을 찾는다. 5단계는 인간 수준의 AI가 구현된 단계로 인공일반지능(AGI)이라고 부른다. 6단계는 AI가 인간을 초월해 슈퍼지능을 가진 단계다.” -챗GPT의 한계는. “글로만 학습한다는 점이다. 다 이해하고 아는 것처럼 보이지만 모르면서 흉내 낸다. 인간은 다양한 감각 정보로 ‘컵’의 형상과 용도를 이해한다. 글로만 학습한 챗GPT는 사람처럼 이해하진 못한다. AI의 학습과 이해에는 일종의 환각 현상이 있다. 그래서 챗GPT를 무조건 믿는 건 위험하다. 사람처럼 의도를 갖고 잘못된 정보를 만드는 건 아니지만 정보가 허위인지 아닌지를 모른다.” -AI가 발전하면 의사 수를 늘릴 필요가 없는 것 아니냐는 얘기도 나온다. “시간이 필요하다. 의료 분야보다 법조 분야에 적용될 여지가 크다. 법률사무소에서 문서로 이뤄지는 사건 조사와 소송 대응은 AI가 더 잘한다. 100% 마음에 들지 않아도 시간을 크게 단축할 수 있다. 직원 5명이 사건 하나를 준비하는 데 한 달이 걸렸다면, AI를 쓰면 한 달에 사건 10개를 할 수 있다.” -AI가 판사를 대체할 수도 있을까. “AI가 내린 판결을 받아들일 수 있을까. AI가 하면 중립적이니까 객관적 판결을 할 거라 보는 의견이 있다. 하지만 AI가 정치적으로 편향된 판사의 데이터로 학습하면 그 성향을 닮아 더 위험하다. 기계 자체는 공정하지만 편향성을 주는 방법은 여러 가지다. 특정 정당 사람이 모여 있는 단체 메신저 방에서 오가는 글을 AI가 학습하면 무슨 말인지도 모르고 흉내 낼 수 있어 조심해야 한다.” -트럼프 2기의 AI 정책 방향은. “미국의 AI 연구는 외국인력 의존도가 높다. 트럼프 당선인은 외국인 유입에 반대하고 실리콘밸리 정보기술(IT) 업체는 유능한 유학생이 미국을 떠나길 거부한다. 다만 트럼프는 동전의 양면 같은 사람이다. 규제 완화에 열려 있어서 기회가 올 수 있다. 특히 테슬라와 구글을 위해 강력한 지원에 나설 수도 있다.” -AI와 로봇과 인간의 공존은 가능한가. “AI 연구가 인간을 이해하는 데 도움이 된다. 사람은 정말 똑똑하고 훌륭하다. 다만 인간 삶이 기계화·자동화되면서 인간다움을 잃어 가는 것도 사실이다. 그래서 강연에서 매번 인성과 사회성 교육이 중요하다고 강조한다. 아무리 AI가 발전해도 인간이 할 일은 계속 있을 거라는 데 동의하지만 앞으로 더 적극적으로 찾아내지 않으면 도태될 수밖에 없다.” ●장병탁 서울대 AI연구원장 1963년 경북 문경 출생. 서울대 컴퓨터공학과를 졸업하고 동 대학원에서 석사, 독일 본 대학에서 박사학위를 받았다. 2015년 세계 최고 권위의 AI 분야 국제학술대회(AAAI)에서 ‘상상력 기계’를 발표해 이목을 끌었다. 머신러닝 분야 연구 성과를 인정받아 2017년 정보통신 부문 홍조근정훈장을 받았다.

14일 치러진 2025학년도 대학수학능력시험(수능)에서 ‘킬러문항’(초고난도 문항)은 없었지만 수험생을 혼란스럽게 하는 이색 문제가 어김없이 등장했다. ‘노이즈’라는 단어가 한 지문에서만 40차례 이상 반복돼 이해하기 어려웠다는 반응이 나왔다. 이날 교육계에 따르면 국어 영역 공통과목인 독서에서는 10~13번 문항의 지문으로 ‘영상 생성을 위한 인공지능 확산 모델’이 제시됐다. 생성형 인공지능(AI) 모델 중 노이즈 확산 모델을 활용해 이미지를 복원하는 과정을 설명하는 게 주된 내용이다. 그런데 이 지문에서는 ‘노이즈’라는 단어가 계속 반복된다. 일례로 “노이즈 예측기를 학습시킬 때는 노이즈 생성기에서 만들어 넣어 준 노이즈가 정답에 해당하며 이 노이즈와 예측된 노이즈 사이의 차이가 작아지도록 학습시킨다”는 문장도 있었다. 한 문장에만 ‘노이즈’가 다섯 번 등장한 것이다. 이를 두고 수험생 커뮤니티에서는 ‘아파트’를 반복해 부르는 “가수 로제의 노래 ‘아파트’가 생각난다”는 글이 올라오기도 했다. 형식이 독특한 문항도 눈길을 끌었다. 국어 영역 선택과목 45번은 온라인 대화를 바탕으로 구성한 홈페이지 게시판 화면이 문제로 출제됐다. 또 국어 영역 한 지문에 나온 인터넷 주소 링크가 엉뚱하게도 ‘윤석열 대통령 퇴진 집회’를 안내하는 사이트로 연결돼 논란이 일 것으로 보인다. ‘언어와 매체’ 40~43번 지문에 적힌 사이트를 인터넷에 입력하면 ‘김건희 윤석열 국정농단 규탄·특검 촉구 제3차 국민 행동의 날’이라고 적혀 있고 집회 시간과 장소가 안내된다. 문제지가 공개된 이후 누군가가 해당 인터넷 주소의 도메인을 구매한 것으로 확인됐다. 교육부와 한국교육과정평가원은 ‘문제지 정보를 임의로 활용했다’며 수사를 의뢰했다고 밝혔다.

미국 대선일 이후 온라인에서 여성을 향한 괴롭힘과 학대·혐오 표현이 급증한 것으로 나타났다. 8일(현지시간) 미 싱크탱크 전략대화연구소(ISD)에 따르면 지난 5일 대선 직후 24시간 동안 엑스(X·옛 트위터), 틱톡, 페이스북 등 소셜미디어(SNS)에서 여성 혐오 표현이 폭발적으로 증가했다. 엑스에서 ‘너의 몸은 나의 선택’(your body, my choice), ‘주방으로 돌아가라’(get back to the kitchen)는 언급은 4600% 늘었다. 카멀라 해리스 부통령을 향해 여성을 비하하는 욕설을 써 ‘멍청이’라 부르는 등 혐오 표현도 대선 당일인 5일 하루 동안 4만 2000여개 계정에서 6만 4000회 이상 언급됐다. ‘너의 몸, 나의 선택’은 여성의 자기 결정권을 지지하는 ‘나의 몸은 나의 선택’(My body, my choice)을 조롱한 것이다. 주방을 언급한 것은 전통적인 성 역할을 강요하며 여성의 위치를 가정 내로 제한하자는 의미다. 미국 백인 민족주의 팟캐스트를 운영하는 인플루언서 닉 푸엔테스가 이러한 문구를 퍼뜨린 초기 선동가 중 한명으로 보인다고 ISD는 분석했다. ‘당신의 몸, 나의 선택. 영원히’라고 쓴 그의 엑스 게시물은 조회수 3500만회 이상을 기록했다. 페이스북에서도 ‘너의 몸은 나의 선택’ 문구는 현재 인기 키워드를 알려주는 ‘트렌딩’에 올랐고, 틱톡에서는 여성 이용자들 계정에 이 문구를 적은 댓글이 무더기로 달리기도 했다. 한 틱톡 크리에이터는 “여러 남성이 이 문구를 쓰며 성폭행을 위협해 영상을 지울 수밖에 없었다”고 말하기도 했다. 여성 혐오 표현은 온라인에 그치지 않고 학교 현장에서도 벌어지고 있다고 ISD는 밝혔다. 한 학부모는 “딸이 대학 캠퍼스에서 ‘너의 몸은 나의 선택’이라는 말을 세 번이나 들었다”고 페이스북에서 전했다. 미국 온라인 커뮤니티 레딧의 이용자는 캠퍼스에서 마가(MAGA·Make America Great Again) 복장을 한 남성 무리에게 ‘네가 속한 곳으로 돌아가라’는 말을 들었다고 적었다. ISD는 이 같은 현상과 관련해 ‘매노스피어’(Manosphere·남성 중심의 온라인 커뮤니티) 혹은 여성 혐오 온라인 커뮤니티에서 주로 활동하는 인플루언서들이 도널드 트럼프 당선인의 승리를 재생산권이나 여성의 성평등 요구에 대한 비난으로 악용하고 있다고 봤다. ISD는 “(매노스피어가) 여성 권리를 억제하는 것에 대한 서사를 더 노골적이고 공격적으로 주장할 수 있다는, 일종의 허가 구조로 선거 결과를 이용하는 것으로 보인다”고 밝혔다.

서울시의회 교육위원회 소속 이효원 의원(국민의힘·비례)이 지난 7일 제327회 정례회 서울시교육청 행정사무감사 교육정책국 질의에서 교육청의 개인정보보호 수준 및 대처 문제를 지적하고 AI 디지털교과서 도입에 있어 학생 개별 개인정보보호에 만전을 기할 것을 당부했다. 서울시교육청이 제출한 ‘최근 5년간 서울 관내 초중고 개인정보보호 수준’에 따르면 개인정보보호 수준 점수가 3년째 계속 하락 중인 것으로 나타났다. 심지어 교육청은 최근 5년간 보안 수준이 전국 평균치 미달로 많은 서울시 학생들이 정보 유출 및 그에 따른 범죄 노출 가능성을 안고 있는 것으로 드러났다. 또한 교육청은 개인정보보호 수준을 평가하는 세부 항목 중 ‘개인정보 노출 개선 조치’에서 가장 낮은 ‘매우 미흡’을 받은 것으로 나타났다. 이는 학생들의 정보 유출이 발생했음에도 교육청이 그에 대한 후속 대응을 제대로 하지 않았다는 방증이다. 개인정보 유출로 인해 발생하는 더 심각한 문제는 2차 피해까지 광범위하게 확산될 수 있다는 것이다. 스팸 발송 문자나 메일뿐 아니라 보이스피싱부터 명의도용, 개인정보 불법 매매로 악용될 위험이 있고 개인정보는 국내뿐 아니라 해외 사이트에 되팔리는 경우도 비일비재하다는 측면에서 후속 대응은 중요하다. 내년 인공지능(AI) 디지털교과서 도입을 앞두고 개인정보보호 문제는 더욱 중요해졌다. 작년 8월 교육부가 발표한 ‘AI 디지털교과서 개발 지침’에서는 데이터의 안정성 및 신뢰성을 보장해야 해야 한다고 밝히고 있다. 결국 학생의 학습 데이터 및 개인정보 보호를 위해 데이터 관리 정책이 중요하다는 것이다. 이 의원은 “학생 개인정보 유출 우려에 대한 교육 현장의 불안한 목소리들이 있다”며 “정보 유출과 안전성, 신뢰성 등 전반적인 부작용이 충분히 검토될 때 개인별 맞춤형 교육 체제인 AI 교과서의 긍정적 효과를 보장할 수 있을 것”이라고 강조했고 “학생들의 개인정보는 최근 사회적으로 문제가 된 딥페이크와 같은 디지털 성범죄의 표적이 될 수 있다”며 “딥페이크 피해자에 미성년자가 다수 포함된 만큼 학생들이 범죄의 표적이 되지 않도록 관계 기관과의 협력을 통해 학생 개인정보보호에 만전을 기해야 한다”고 역설했다. 이에주소연 서울시교육청 정책국장은 “여러 가지 개선 사항을 통해 내년에는 상황이 조금 더 나아질 거라고 기대하고 있다”며 “AI 교과서 도입에는 차질이 없도록 준비하겠다”고 답변했다. 한편, 이 의원은 지난 임시회에서 서울시교육청에 AI 디지털교과서의 효용성 극대화를 위한 맞춤형 교원 연수 체계화를 당부하고 학교 현장에 혼란이 없도록 선제적으로 대응하길 주문한 바 있다.

외국인 A씨는 지난달 한국으로 여행 간 딸이 납치됐다며 “살려달라”고 우는 영상을 받았다. 영상을 보낸 외국 범죄조직은 “딸을 살리고 싶으면 합의금을 보내라”며 A씨를 협박했다. 놀란 A씨는 영사관에 알렸고, 신고를 받고 출동한 한국 경찰은 A씨의 딸이 안전하게 지내고 있다는 사실을 확인했다. 경찰 수사 결과, A씨가 받은 딸의 영상은 딥페이크로 만든 가짜였다. 경찰청 국가수사본부는 7일 이러한 사건을 공개하면서 “국내에서도 유사한 사건이 발생할 가능성이 있으므로 유의해달라”고 밝혔다. 딥페이크나 딥보이스로 얼굴과 목소리를 실제와 흡사하게 복제해 부모나 지인 등에게 곧바로 돈을 보내라고 요구하면 당황한 피해자가 돈을 보낼 위험이 적지 않다. 경찰은 이런 피해를 예방하기 위해 소셜미디어(SNS) 등에 본인이나 가족의 영상이나 사진을 전체 공개로 올리지 않도록 유의해야 한다고 강조했다. 특히 자녀 등을 납치했다는 협박을 받은 경우 가장 먼저 경찰에 전화나 문자 등으로 신고해 도움을 요청해야 한다. 경찰청에 따르면 올해 들어 지난 9월까지 납치를 빙자한 전화 금융사기만 174건이 발생했다. 안찬수 경찰청 마약조직범죄수사과장은 “인공지능(AI) 발전이 일상생활을 더 편리하게 만들었지만, 동시에 범죄에 악용될 환경을 제공했다”고 말했다.

음식배달을 둘러싼 중개수수료 인하 협상이 진행되고 있다. 음식배달플랫폼 업체와 입점 업체 대표로 구성된 상생협의체가 9차례나 논의를 했다. 하지만 의견 차이로 합의에 도달하지 못하고 계속 논의를 이어 간다고 한다. 거대 플랫폼의 독과점 남용 행위를 규제하기 위한 논의도 본격화할 전망이다. 정부·여당의 법안이 지난달 말 국회에 제출됐다. 관련 업계는 규제가 혁신과 성장 엔진에 찬물을 끼얹을 수 있다는 이유로 반대하고 있으나, 정부는 독과점 남용 행위가 혁신과 성장의 싹을 자를 수 있다는 이유로 규제 도입의 필요성을 강조하고 있다. 하지만 플랫폼의 개인정보 수집 및 활용과 보안 문제는 상대적으로 소홀히 다루어지는 것 같다. 플랫폼에 가입하면서 개인정보를 제공하고 뉴스나 관심사를 검색하거나 영화나 동영상을 보기도 한다. 플랫폼들은 이용자가 제공하는 개인정보와 검색 기록·쿠키·캐시를 활용해 맞춤형 광고(타깃 광고)와 같이 상업적 목적에 활용한다. 이 과정에서 개인정보와 사생활 정보가 노출되거나 유출되기도 한다. 최근 필자는 이런 경험들을 했다. 좋아하는 운동기구를 컴퓨터에서 검색하고 구매는 하지 않았다. 이후 컴퓨터만 켜면 유사한 제품 광고가 끊임없이 화면에 뜬다. 나도 잊어버리고 있었는데 플랫폼은 필자의 관심 사항을 정확히 알고 있다. 또 다른 예다. 핸드폰으로 여행 숙소를 검색하고 예약하지는 않았다. 핸드폰에 수시로 유사한 숙소 광고가 뜬다. 플랫폼이 나의 여행 일자와 여행 지역을 정확히 알고 있다. 민감한 정보와 관련된 또 다른 예다. 정치적인 이슈와 관련된 사실관계를 정확히 알고 싶어 핸드폰으로 검색했는데 이후 유사한 동영상이 화면에 계속 뜬다. 마치 필자의 정치적 성향을 속속들이 알고 있는 것처럼. 위의 사례는 사소해 그냥 넘길 수도 있다. 하지만 제공한 개인정보와 검색 기록들이 차곡차곡 쌓이다 보면 ‘나보다 나를 더 잘 아는’ 플랫폼이 될 수 있다. 구글·네이버 등 플랫폼들은 이용자들의 민감한 개인정보와 비밀스러운 사생활 정보를 이용자 자신보다 훨씬 잘 알고 있다. 이용자들은 기억력 한계로 자신에 대한 정보를 일일이 다 기억할 수 없다. 하지만 인공지능(AI)이 발전할수록 플랫폼의 정보수집과 활용은 더 정교해질 것이다. 그래서 더 두려워진다. 플랫폼들은 가입 시 제공받은 개인정보와 검색 기록 심지어 중개업자를 통해 취득한 정보를 활용해 민감한 정보(종교, 정치적 신념, 재산 정도, 건강 상태, 나이, 성별, 교육 수준 등)를 타깃 광고에 이용하기도 한다. 개인 신용정보(재산 수준, 교육 수준, 직업 등)를 이용해 대출 금리 차별에 활용하기도 한다. 정보 취약계층(아동·저소득층·군인·노인·저학력층 등)에 허위·기만 광고로 이들을 착취하기도 한다. 지난 9월 미국 연방거래위원회(FTC)가 플랫폼의 과다한 정보수집 및 보관과 상업적 이용을 경계하는 보고서를 발표했다. 주요 내용은 민감한 정보를 타깃 광고 등 상업적으로 악용하지 못하도록 정보수집을 최소화하고 아동과 청소년들에 대한 노출을 금지해야 한다는 것이다. FTC는 2015년에도 사물인터넷(IoT)과 관련해 건강·의료·소득·직업·인종·종교·정치적 신념 등 민감한 개인정보의 수집·보관·활용에 대한 보고서를 발표했다. 주요 내용은 정보책임자를 임명해 개인정보 보호 관리를 철저히 하고 보안사고 발생 시 제대로 대처해야 한다는 것이다. 당연히 그래야 한다. 이용자들은 인터넷 접속 기록과 쿠키들을 삭제할 수는 있다. 하지만 대다수의 이용자 특히 정보 취약계층은 삭제 옵션이 있는 줄도 모른다. 알고 있다 하더라도 삭제 방법을 모르는 경우가 대부분이다. ‘나보다 나를 더 잘 아는 플랫폼’의 두려움에서 벗어나기 위해서라도 일정 기간이 지나면 검색한 기록과 쿠키들을 자동으로 삭제하도록 하면 어떨까. 김형배 더 킴 로펌 공정거래그룹 고문

미국 백악관이 24일(현지시간) 인공지능(AI)에 대한 첫 국가안보각서(NSM)를 발표했다. 안전하고 신뢰할 수 있는 AI 개발을 선도하고 AI의 국가 안보 활용을 위한 국제적 합의를 이끌어 내고자 주도적으로 나서겠다는 내용이 골자다. 미 정부 고위 당국자는 전날 온라인 브리핑에서 “AI가 인권과 시민권, 자유, 프라이버시 보호 등 민주 가치를 반영하고 국가 안보 임무를 발전시킬 수 있도록 AI 사용에 관한 국제 규범을 형성하고 국가 안보에 적대적인 AI 개발·사용을 추적, 대응하려는 조치”라고 설명했다. 특히 반도체칩 공급망 보안과 다양성을 개선하고 차세대 슈퍼컴퓨터 및 신기술 개발을 지원하는 데 AI를 활용하겠다고 강조했다. 이를 위해 상무부 산하 기술 전문가들로 구성된 AI 안전 연구소가 AI 개발 지휘와 개발자 연락망 역할을 한다. 연구소는 미 국방부와 에너지부 등과 협력해 AI 시스템의 대중 공개 전 안전성 테스트를 하고 적국이 AI 기술을 악용하지 못하도록 수출 통제를 유지하는 일도 한다. 여기에 미 정부기관이 AI 개발자에게 발명 보안 유지에 필요한 사이버 보안·방첩 정보를 제공할 수 있도록 했다. 이번 각서는 AI의 사생활·인권 침해에 대한 위험성, 중국 등 경쟁국을 겨냥한 다목적 포석이라고 당국자는 평가했다. 그는 미 국민의 잠재적 개인정보 유출 위험과 미국의 민감한 데이터가 데이터 브로커를 통해 대량 수집된 뒤 적의 손에 넘어갈 가능성 등에 우려를 표시했다. 이어 “중국 등이 AI를 사용해 자국의 군사·정보 역량을 현대화하고 군사작전 지원 기회를 늘릴 수 있어 앞으로도 미국이 최첨단 AI 경쟁력을 유지하는 게 필수”라고 밝혔다. 중국을 겨냥한 수출 규제 조치는 그래픽처리장치(GPU) 등 첨단 AI 칩뿐 아니라 해당 칩 제조에 필요한 장비도 포함된다는 점을 재확인했다. 이날 제이크 설리번 백악관 국가안보보좌관도 군사·정보 전문가들을 대상으로 연설에 나서 미국의 AI 안보 각서에 대한 이해를 구했다.

윤석열 대통령이 21일 서울 서대문구 경찰청 참수리홀에서 열린 ‘제79주년 경찰의날 기념식’에 참석해 경찰들과 함께 기념 촬영을 하고 있다. 윤 대통령은 “인공지능(AI)과 딥페이크 등 첨단기술을 악용한 신종 범죄와 가짜뉴스가 끊이질 않는다”며 “서민에게 고통을 주는 민생 범죄를 끝까지 추적해서 엄중하게 처벌해야 한다”고 말했다. 대통령실 제공

윤석열 대통령이 21일 “AI(인공지능)와 딥페이크 등 첨단기술을 악용한 신종 범죄와 가짜뉴스가 끊이질 않는다”고 밝혔다. 윤 대통령은 이날 서울 서대문구 경찰청 참수리홀에서 열린 ‘제79주년 경찰의날 기념식’에 참석해 “새로운 위협에 맞서기 위해 경찰이 더 빠르게 발전하고 능동적으로 변화해야 한다”며 이렇게 말했다. 또 딥페이크 식별 시스템 개발에 박차를 가하고 관계 기관과의 협업을 통해 디지털 성범죄를 뿌리 뽑고, 가짜뉴스에도 신속하고 강력하게 대응해 주길 당부했다. 윤 대통령은 취임 이후 3년 연속 경찰의날 기념식에 참석했다. 윤 대통령은 이날 불특정 다수를 위협하는 이상 동기 범죄와 조직폭력배의 민생범죄, 마약, 사이버도박 등을 ‘새로운 위협’으로 지목했다. 그러면서 서민에게 고통을 주는 민생범죄는 끝까지 추적해 엄중히 처벌하고, 범죄수익과 자금원은 빠짐없이 환수해 범죄 생태계 연결 고리를 근원적으로 끊어내야 한다고 했다. 윤 대통령은 “기존의 치안 활동 방식만 고수해서는 국민의 생명과 안전을 새로운 위협으로부터 지켜내기 어려울 것”이라며 “국민이 경찰을 믿고 의지할 수 있도록 사회적 변화와 새로운 상황에 맞춰 치안 역량을 키우고 발전시켜야 한다”고 강조했다. 스토킹·가정폭력·아동학대 같은 약자 대상 범죄에 대해선 “사건 초기부터 강력하게 법을 집행해 가해자의 범죄 의지를 꺾어야 한다”며 “꼼꼼한 모니터링으로 재범 가능성을 원천 차단하고, 보호시설 연계부터 심리 치료 지원까지 피해자를 보호하는 안전망을 더욱 촘촘히 구축해달라”고 했다. 윤 대통령은 특히 아산 경찰병원을 조속히 건립하고, 순직·공상 경찰관에 대한 지원을 더욱 확대할 것이라고 밝혔다. 또 현장 경찰들이 역량을 키울 수 있도록 교육 인프라도 대폭 확충할 것이라고 했다. 이어 “무엇보다 경찰의 정당한 법 집행이 국가의 보호를 받을 수 있도록 면책 규정 확대를 비롯한 다양한 노력을 아끼지 않을 것”이라고 강조했다. 현직 대통령의 경찰청 청사 방문은 이명박 전 대통령 이후 12년 만이다.