중국 텐센트의 한 직원이 317만 위안(6억 8630만원)에 달하는 연말 성과급 내역을 외부에 유출했다가 해고됐다. 해당 직원은 텐센트의 재입사 금지 명단에도 오른 것으로 전해졌다. 28일 중국 매체들에 따르면 텐센트 위챗사업부(WXG)의 프로젝트 책임자 예모씨는 자신의 연말 성과급 내역이 담긴 화면을 외부인에게 전송했다. 해당 사진은 즉시 온라인에 퍼졌고, 예씨가 받은 연말 성과급은 무려 317만 위안으로 표시돼 있었다. 현금 보너스가 약 82만 위안, 주식이 약 235만 위안이었다. 예씨는 지난해 두 차례에 걸쳐 텐센트의 최고 성과등급인 ‘아웃스탠딩’(Outstanding)을 받은 것으로 전해졌다. 해당 등급은 일반적으로 조직 내 상위 10∼20%에 해당하는 직원에게만 부여된다. 고액 성과급 내역은 소셜미디어를 통해 빠르게 확산했다. 문제의 화면에는 유출자를 확인할 수 있는 텐센트 내부 추적용 워터마크도 포함돼 있었던 것으로 알려졌다. 텐센트 내부감사부서 공지로 알려진 문건에는 예씨가 재직 중 회사의 민감한 정보를 외부인에게 보내 온라인 플랫폼에 유출되도록 했다는 내용이 담겼다. 예씨의 행위는 텐센트가 중대 위반 행위로 규정한 정보보안·기밀유출 금지 조항에 해당했다. 해당 규정은 임직원이 급여 정보를 유출하거나 다른 직원의 급여를 알아보는 행위, 부주의한 조작으로 회사 내부의 민감한 정보가 외부로 퍼지는 행위 등을 금지한다. 이에 따라 예씨는 해고됐으며 텐센트가 다시 채용하지 않겠다는 의미의 ‘영구 블랙리스트’에 포함된 것으로 전해졌다. 다만 텐센트는 관련 보도에 대한 언론의 공식 확인 요청에는 별도의 입장을 밝히지 않았다. 고액 연봉보다 문제가 된 ‘내부 정보 유출’중국 대형 정보기술 기업들은 직원들의 급여와 성과급 정보를 내부 민감 정보로 관리한다. 직원 간 비교로 조직 내 갈등이 발생하는 것을 막고, 경쟁사가 회사의 성과급 체계를 파악해 핵심 인력을 영입하는 데 활용하지 못하도록 하기 위해서다. 이번 사건에서도 직원이 고액의 성과급을 받은 사실 자체보다 회사 내부 화면을 외부로 전달해 성과급 체계와 관련된 정보가 공개된 점이 문제가 됐다. 특히 기업 내부 시스템에서 내려받거나 촬영한 자료에는 이용자를 식별할 수 있는 워터마크가 삽입되는 경우가 많다. 화면이 외부로 유출되면 최초 열람자나 전송자를 추적할 수 있는 구조다. 현금과 주식을 합쳐 317만위안의 성과급을 받을 정도로 뛰어난 역량을 인정받았던 직원이 한순간의 실수로 고액 연봉과 직장, 텐센트 재입사 기회까지 모두 날린 셈이다.

인공지능(AI)에 의해 조작된 글을 명확히 판별해내는 포렌식 기술을 국내 연구진이 개발했다. 가짜뉴스로 인한 사회적 혼란 방지와 디지털 저작권 보호에 활용될 것으로 보인다. 대구경북과학기술원(DGIST)은 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀이 오탐률을 2%대로 낮춘 혁신적 텍스트 워터마킹 기술 ‘브루’(BREW·Block-wise Reliable Embedding for Watermarking)를 개발했다고 2일 밝혔다. 브루는 AI가 작성한 글에 눈에 보이지 않는 고유의 디지털 워터마크를 심어두고 텍스트가 훼손되거나 조작되면 문장의 변화를 추적하는 방식으로 작동한다. 따라서 AI로 단어를 교체하거나 문장 구조를 비틀어 암호를 지우려 해도, ‘윈도우 시프팅(Window-Shifting)’ 기법을 통해 정렬을 복구하고 워터마크를 추적할 수 있다. 기존 기술은 사람이 작성한 글도 AI 생성 글로 잘못 판단하는 등 오탐률이 높아 실제 적용에 한계가 있었다. 하지만 브루의 실험 결과 AI가 생성한 글의 10%를 동의어로 바꾸는 훼손 환경에서도 96.5%의 높은 탐지율을 나타냈다. 연구 성과는 AI 분야 최고 권위 학회인 ‘국제머신러닝학회(ICML) 2026’에 채택됐다. 이에 따라 연구팀은 오는 6일 서울 코엑스에서 열리는 ‘ICML 2026’에서 결과를 발표할 예정이다. 김 교수는 “기존 기술의 치명적 결함을 극복하고, 악의적인 텍스트 훼손 시도까지 완벽히 방어해 내는 강력한 기술”이라며 “향후 가짜뉴스로 인한 사회적 혼란을 막고 글로벌 AI 포렌식 분야에서 핵심적인 역할을 할 것”이라고 밝혔다.

2026 북중미 월드컵 경기 관중석에서 포착돼 전 세계 온라인에서 화제가 된 ‘비키니 미녀’가 실제 인물이 아닌 인공지능(AI) 생성 이미지로 확인됐다. 영국 더선 등 외신에 따르면 지난 12일 미국 캘리포니아주 잉글우드 소파이 스타디움에서 열린 미국과 파라과이의 2026 북중미 월드컵 D조 조별리그 경기 도중 한 여성 관중의 사진이 SNS를 통해 빠르게 확산됐다. 사진 속 여성은 성조기가 그려진 비키니 차림으로 관중석에서 경기를 관람하고 있었다. 짧은 머리와 이목을 끄는 외모, 독특한 스타일로 축구 팬들 사이에서 큰 관심을 모았다. 하지만 더선은 해당 여성에 대해 “SNS를 뜨겁게 달궜지만 AI로 만들어진 가상의 인물”이라며 “실존하지 않는다”고 보도했다. 스페인 매체 문도 데포르티보 역시 “피부 표현과 의상 질감, 주변 조명까지 매우 사실적으로 구현돼 많은 이들이 실제 사진으로 착각했다”며 “생성형 AI 이미지 제작 도구로 만들어진 결과물”이라고 전했다. 이처럼 AI가 만든 ‘미녀 관중’ 콘텐츠가 주목받은 사례는 이번이 처음이 아니다. 지난 5월에는 프로야구 경기 중계 화면에 포착된 여성 관중 영상이 온라인에서 폭발적인 관심을 받았다. 해당 영상은 공개 사흘 만에 조회 수 800만회를 넘기며 국내외 커뮤니티로 빠르게 퍼졌다. 영상 속 여성은 흰색 상의와 청바지를 입은 채 경기를 지켜보고 있었으며, 일부 네티즌들은 배우나 연예인이 아니냐는 추측을 내놓기도 했다. 그러나 야구팬들은 화면 속 경기 정보에서 이상한 점을 발견했다. 한화 이글스 투수 김서현과 이미 은퇴한 조인성이 같은 경기에서 투타 맞대결을 펼치는 장면이 등장했고, 응원 플래카드 문구와 색상 배치 역시 실제 구단 응원 방식과 달랐다. 결국 해당 영상 역시 AI가 생성한 콘텐츠라는 분석이 제기됐고, 많은 이용자가 이를 실제 장면으로 믿고 공유한 것으로 나타났다. 문도 데포르티보는 “이번 사례는 생성형 AI 기술이 얼마나 발전했는지를 보여준다”며 “첨단 탐지 알고리즘조차 합성 인물을 식별하는 데 어려움을 겪고 있다”고 평가했다. 실제로 AI가 만든 사진과 영상이 SNS를 통해 빠르게 확산하면서 허위 정보 유통과 사회적 혼란에 대한 우려도 커지고 있다. 지난 4월 대전의 한 동물원에서 늑대 탈출 소동이 벌어졌을 당시에는 AI로 제작된 가짜 목격 사진이 온라인에 퍼져 수색 작업과 재난 문자 발송에까지 영향을 미쳤다. 정부는 올해부터 생성형 AI 결과물에 워터마크를 표시하도록 하는 제도를 시행하고 있다. 다만 개인이 AI 서비스를 활용해 만든 콘텐츠까지 규제하기는 쉽지 않은 실정이다. 이에 전문가들은 AI 생성 콘텐츠에 대한 표시 의무를 강화하는 한편, 이용자들의 정보 검증 능력을 높여야 한다고 지적했다.

경기도와 경기도콘텐츠진흥원이 생성형 인공지능(AI)을 활용한 영상 콘텐츠 창작 활성화를 위해 ‘2026 대한민국 AI 콘텐츠 어워즈’ 출품작을 다음 달 12일까지 모집한다. 10월 15일부터 16일까지 롯데시네마 수원(수원역)에서 열릴 예정인 올해 어워즈는 생성형 AI 기술을 활용한 영화·영상 콘텐츠를 대상으로 중편 경쟁, 단편 경쟁, 백남준 특별상 등 총 3개 부문으로 운영된다. 중편 경쟁 부문은 30분 이상 60분 미만의 작품, 단편 경쟁 부문은 30분 미만의 작품을 대상으로 하며 장르의 제한은 없다. 백남준 특별상 부문은 분량에 제한 없이 백남준 작가의 예술 세계를 AI 기반 창작 방식으로 재해석한 작품을 공모한다. 중편 경쟁 및 단편 경쟁 부문에서는 총 18편의 본선 진출작과 9편의 수상작을 선정하고, 백남준 특별상 부문에서는 2편의 수상작을 선정한다. 총상금 규모는 7000만 원이다. 경쟁 부문 본선 진출작은 오는 10월 중 2주간 진행되는 영화관 상영과 시상식에서 공개될 예정이다. ‘인공지능 기본법’에 따른 AI 투명성 표시 기준을 적용해 모든 출품작에 AI 생성 사실 표기를 의무화했다. 영상 내 로고·워터마크 삽입, 시작·종료 자막 표기, 메타데이터 기반 비가시적 워터마크 등 지정된 방식 중 하나 이상을 적용해야 한다. 대한민국 AI 콘텐츠 어워즈는 2024년 대한민국 AI 국제영화제란 이름으로 시작됐으며 2025년부터 명칭을 변경해 개최하고 있다. AI 필름 스튜디오 리더격으로 불리는 마테오 AI 스튜디오의 ‘마테오’가 2024년 첫 회 대상을 차지했고, 2025년 대상작 ‘존재하지 않는 영화(The Cinema That Never Was)’는 대한민국 AI 콘텐츠 어워즈 대상 이후 18개의 영화제에서 수상했다. 강지숙 경기도 콘텐츠산업과장은 “AI 기술이 창작 환경을 빠르게 변화시키는 가운데 이번 어워즈가 창작자들의 실험적 시도와 새로운 영상 문법을 조명하는 계기가 되길 기대한다”며 “국내외 AI 콘텐츠 창작자들의 많은 관심과 참여를 바란다”고 말했다.

후보들은 선거 현장에서 다양한 방식으로 인공지능(AI)을 활용하고 있지만 유독 ‘AI 제작 영상’만은 딥페이크 규제에 묶여 있다. AI 활용이 선거 비용을 낮춰 다양한 후보들에게 기회를 열어 주는 만큼 AI 제작 영상도 원천적 봉쇄보다는 콘텐츠의 투명성 확보에 무게를 두는 쪽으로 규제를 손봐야 한다는 지적이 나온다. 3일 공직선거법 등에 따르면 선거 91일 전까지는 ‘AI를 이용해 제작한 영상’이라고 표시하면 딥페이크 선거운동 영상을 소셜미디어(SNS) 등에 게재할 수 있다. ‘AI 제작 음향’이라고 밝힌 선거송·로고송을 SNS에 게시하는 것도 합법이다. 그러나 정작 본격적인 선거운동이 필요한 선거 90일 전부터 선거일까지는 표시 유무와 상관없이 후보의 모습을 활용한 딥페이크 영상 등은 전면 금지된다. 요즘 SNS에 유행하는 음성합성(TTS) 목소리를 입힌 홍보 영상을 제작하는 것도 선거법상 위반이다. 현장에서는 답답함을 호소하고 있다. 이미 다양한 분야에서 AI 제작 영상 등을 활용해 비용 절감 등 효과를 얻고 있는데 선거법이 일괄 금지를 고수하는 것은 과하다는 의견이다. 이진현 개혁신당 서울 광진구의원 후보는 “비싼 컴퓨터그래픽(CG)은 허용하면서 AI 영상은 왜 금지하는지 모르겠다”고 지적했다. 황호진 국민의힘 서울 은평구의원 후보도 “(텍스트를 제외하면) 딥페이크는 선거 홍보물 제작 시 사용 자체가 막혀 있다”며 “AI 사용 여부보다는 그 내용이 기만적인지를 규제하는 방향이 맞다”고 했다. 해외에서는 기간에 따른 일괄 금지보다는 딥페이크 콘텐츠의 목적을 따져 규제하고 있다. 미국 캘리포니아주는 선거 120일 전부터 정치적으로 기만적인 딥페이크 유포를 제한한다. 미 텍사스주도 선거 30일 전부터 유권자를 속일 목적이 입증된 경우에만 유포 행위를 형사처벌한다. 유럽연합(EU)은 ‘AI법’(AI Act)을 통해 딥페이크 콘텐츠의 라벨링과 워터마크를 의무화하고 있다.

인공지능(AI) 업계와 이용자들 사이에서 ‘덕테이프’(Duct Tape·덕트 테이프)라는 코드명으로 불렸던 AI 이미지 생성 도구의 정체가 예상대로 오픈AI의 새 모델로 드러났다. 오픈AI는 지난해 일본 애니메이션 스튜디오 ‘지브리’ 풍 그림을 만들어내는 기능으로 인기를 끈 이미지 도구의 새 버전인 ‘챗GPT 이미지 2.0’을 21일(현지시간) 공개했다. ‘이미지젠(ImageGen) 2.0’ 모델을 기반으로 만들어진 이 서비스는 앞서 AI 평가 플랫폼 ‘아레나’의 이용자 대상 테스트에서 글자 표현 문제를 완벽에 가깝게 해결했다는 호평을 받으며 관심을 끈 덕테이프의 정식 출시판이다. 오픈AI는 해당 모델에 대해 “단순히 재미를 위한 이미지 생성을 넘어서서 시각적 지능을 갖추고 있다”며 “특히 텍스트 처리에서 (전작 대비) 큰 진전을 이뤘다”고 소개했다. 이 모델은 또 전문적인 디자인 능력을 대폭 강화해 인포그래픽 등 시각 정보 표현에 강점을 보인다는 설명이다. 이에 따라 오픈AI는 이 모델이 교육용·연구용으로 특히 많이 활용될 것이라고 내다봤다. 이미지 생성 과정에서 추론 능력을 강화한 사고(Thinking)·프로(Pro) 모델도 선보였다. 이를 활용하면 사고의 연쇄 기능을 통해 보다 정확한 결과물을 얻을 수 있고, 만화와 같은 여러 장의 이미지에서 인물이나 캐릭터가 일관성을 유지하게 할 수도 있다. 오픈AI는 최근 핵심 사업에 집중하고 부차적인 사업은 정리한다는 기조하에 동영상 생성 도구인 ‘소라’(Sora) 서비스를 접겠다고 최근 발표한 바 있다. 동영상 도구와 달리 이미지 도구는 계속 개발하는 이유에 대해 오픈AI 관계자는 “챗GPT에 있어 이미지 생성은 궁극적인 개인 비서를 만드는 데 있어 핵심적인 요소”인 반면 “동영상에 대한 수요는 아직 그 정도는 아니었다”고 답했다. 이와 같은 이미지 생성 도구가 허위 정보 유포나 정치적 목적에 악용될 우려에 관한 질문에도 “우리는 사용자를 모니터링하고 보호하는 것은 물론이고 생성된 콘텐츠가 미치는 영향에 대해서도 매우 신중하게 다루고 있다”고 강조했다. 오픈AI는 챗GPT 이미지 2.0을 무료 이용자를 포함한 모든 계정에서 쓸 수 있도록 공개하고, 사고·프로 모델은 월 20∼200달러 요금제 이용자에게만 제공할 예정이다. 한편, 오픈AI의 이미지 생성 도구 공개는 이미지 소프트웨어(SW) 기업인 어도비가 연례 ‘어도비 서밋’을 개최하는 가운데 이뤄졌다. 사힐 굽타 어도비 파트너십 수석 총괄은 AI 모델들이 이미지 생성 등 분야에 진출하면서 어도비와 경쟁 관계가 된 것이 아니냐는 질문에 “고객들은 서로 다른 용도로 각 모델을 사용한다”고 일축했다.

“세종대왕 동상에 조선시대 왕 옷을 입혀 줘.” 갤럭시 S26 울트라의 자연어로 원하는 내용을 입력해 편집하는 ‘포토 어시스트’에 서울 종로구 광화문광장의 세종대왕 동상 사진을 넣고 이렇게 말하자 ‘상상 속의 이미지를 실현시키는 중’이라는 문구가 떴다. 10초도 안 돼 인공지능(AI)이 웹사이트에서 빨간 곤룡포를 찾아 자연스럽게 합성했다. 세종대왕이 앉아 있는 동작에 맞춰 옷의 굴곡, 그림자, 주름 등도 부드럽게 표현됐다. ●포토샵 등 문외한도 사진 합성 등 쉽게 브이로그를 생애 처음 시도한 기자는 5일 갤럭시 S26 울트라를 활용해 사진과 영상을 촬영하고 AI 기능이 대폭 업그레이드된 포토 어시스트로 편집을 했다. 포토샵을 전혀 다룰 줄 모르는 비전공자도 말 한마디로 전문가급의 자연스러운 사진 합성이 가능했다. 딥페이크 우려를 불식하기 위해 합성 사진의 왼쪽 하단에는 자동으로 ‘AI로 생성한 콘텐츠’라는 워터마크가 찍혔다. 동영상 촬영 기능도 향상됐다. 전작인 갤럭시 S25에 손 떨림 등 흔들림을 보정해 주던 ‘슈퍼스테디’ 기능이 있었다면, 갤럭시S26 시리즈에는 한 단계 더 나아간 ‘수평 고정 슈퍼스테디’ 기능이 추가됐다. 미세한 손 떨림은 물론, 격렬하게 움직이는 영상 속에서도 대상이 고정된 채로 촬영된다. 유튜버들이 사용하는 전문 장비인 ‘짐벌’의 기능이 휴대전화 안에 구현된 셈이다. 수평 고정은 유튜버들 사이에서 ‘챌린지’로 화제가 되고 있다. 360도 돌아가는 건조기, 차량 바퀴, 드릴 등에 갤럭시S26 시리즈를 부착해 영상을 찍은 뒤 화면이 돌아가지 않고 고정된 채로 촬영된 결과물을 인증하는 식이다. ●손떨림·버스 흔들림 도 안정적으로 실제 수평 고정 슈퍼스테디를 설정하고 버스 창문에 갤럭시 S26 울트라를 바짝 붙인 채 바깥 풍경을 촬영해보니 버스의 흔들림 없이 매끄러운 영상을 찍을 수 있었다. 또 지면에서 영상을 촬영하는 동안 걷거나 뛰는 등의 행동에 제약을 받지 않았다. 밤 10시에 찍은 영상에는 차량이나 건물 등은 물론 도로의 분홍색 교통안내선 색깔도 선명하게 찍혔다. 2억 화소 광각과 5000만 화소, 광학 줌 수준의 10배 줌 망원 카메라, 더 넓어진 조리개 등이 선명한 야간 촬영을 지원한 것이다. 실내와 실외, 햇빛이 많거나 흐린 날, 낮과 밤 영상을 이어 붙일 때도 하나의 톤으로 보정이 가능했다. 영상의 채도를 낮게 만드는 로그(LOG) 기능으로 튀는 색을 줄인 뒤, 룩업테이블(LUT) 기능을 사용하면 터치 한 번에 간단히 후보정을 할 수 있다. 채도, 조도 조절 등 전문적인 촬영을 하지 못하는 초보자도 LUT 기능에서 블록버스터, 로맨스, 스릴러 등 원하는 분위기를 선택하면 PC로 영상을 옮겨 편집할 필요 없이 휴대전화에서 간단히 보정이 이뤄진다. 카페나 대중교통에서 브이로그 편집을 하는 동안 옆자리 사람의 시선이 신경 쓰일 땐 ‘프라이버시 디스플레이’ 기능을 활용했다. 프라이버시 디스플레이 기능을 켜자 빛을 상하좌우로 넓게 분사하는 ‘와이드 픽셀’은 꺼지고 정면으로 비추는 ‘전면 픽셀’만 작동해 양옆이나 위아래 각도에서는 휴대전화 화면이 보이지 않았다. ●1억개 이상의 귀 토대로 버즈 출시 갤럭시 S26 시리즈와 함께 출시된 ‘갤럭시 버즈4 프로’는 음향을 섬세하게 들으면서 촬영할 수 있도록 도왔다. 착용감이 특히 좋아져, 장시간 착용해도 이질감이 크지 않았다. 달리기를 하는 동안에도 이어버드가 흔들리거나 빠지지 않는 안정감이 있었다. 삼성전자 측은 전 세계에서 수집한 1억개 이상의 귀 데이터와 1만회 이상의 착용 시뮬레이션을 활용한 인체공학적 디자인이라고 했다. 시끌벅적한 카페에서 버즈4 프로를 착용하자 주변 소음이 빠르게 잦아든 노이즈 캔슬링 성능도 인상적이었다. 전작과 비교했을 때 저음이 한층 단단하고 깊게 표현됐다.

30년 AI 발전의 산증인LLM 딥러닝 이후 진화 매우 빨라시험 부정행위? 과제를 바꾸면 돼AI 거품론도 크게 걱정할 것 아냐실패 경험은 새로운 도전의 밑천피지컬AI 대응 어떻게로봇 도입 혜택, 노동자 함께 누려야기존 역할 달라져도 새 일자리 생겨AI 핵심은 이미 오픈소스로 알려져꾸준히 투자하면 한국도 3강 가능인간을 뛰어넘는 ‘디지털 뇌’가 물리적인 ‘몸’과 결합한 피지컬 인공지능(AI)이 2026년 벽두 인류의 화두로 떠올랐다. 성큼 다가온 피지컬 AI를 바라보는 시선에는 두려움과 기대가 교차한다. 일자리를 뺏길 수 있다는 걱정을 넘어, 인간 통제를 벗어날 수도 있을 것이란 막연한 불안까지 느낀다. 동시에 인간의 생물학·물리적 한계를 피지컬 AI의 ‘강력한 몸’을 통해 극복할 수 있을 것이란 희망도 공존한다. 30년 가까이 AI 학계와 산업·교육계에 독보적 영향력을 미친 피터 노빅(70) 구글 연구총괄(Director of Research) 겸 스탠퍼드대 인간중심인공지능연구원(HAI) 펠로를 지난달 27일 화상으로 만났다. 노빅 총괄은 “(AI와 인간이 공존할 미래를) 누구도 정확하게 알 수는 없지만, 변화 속도가 지나치게 빠르다는 점은 우려된다”면서 “그 속도를 따라가기 어려운 이들을 위해 사회는 무엇을 할 수 있을지 고민해야 한다”고 강조했다. 또 “피지컬 AI 도입에 따른 혜택을 경영자, 주주 외에 노동자도 함께 누릴 수 있어야 한다”고 밝혔다. 다음은 일문일답. -AI 교육 바이블로 불리는 ‘인공지능 : 현대적 접근방식’(1995)을 집필했는데. “(공동 저자인) 스튜어트 러셀(UC버클리 교수)과 적절한 때 만났다. 프로그래머가 직접 규칙과 지식을 일일이 입력하던 방식에서 머신러닝으로 이동이 일어날 때였다. 2022년 전후 거대언어모델(LLM)을 활용한 딥러닝이 AI 발전을 가속했다. 1995년 목격한 변화의 싹이 매우 빠르게 진화하는 상황이다.” -교육자이기도 해서 더 궁금하다. 최근 한국 대학에선 AI를 이용한 부정행위가 논란인데. “AI로 학생 개개인에게 세심한 개별 지도를 할 수 있게 됐다. 교사가 30명을 동시에 가르쳐야 하던 교실에선 어려웠다. 물론 학생이 부정행위를 하는 것은 아닌지, AI가 과제를 대신하고 학생은 생각하지 않는 건 아닌지 우려도 있다. 결국 학생이 더 깊게 사고하도록 과제를 바꾸는 게 중요하다. AI가 단순 작업을 대신하는 만큼, 학생은 보다 수준 높은 과제에 도전할 수 있어야 한다. 평가 일부를 대면으로 해야 한다. 과제를 받은 뒤, 교사가 마주 앉아 작업 과정과 내용을 설명하도록 요구하는 식이다. AI의 도움을 받았다면 제대로 답하지 못할 가능성이 크다.” -빅테크의 과도한 투자와 수익성 부진 우려에 따른 AI 거품론이 끊이지 않는다. “AI가 혁신 기술로 떠오르자 기회를 놓치지 않으려는 투자 열기가 주식시장에 번졌다. 과잉 투자도 생기고, 성공하는 기업도, 실패하는 기업도 나오기 마련이다. 하지만 크게 걱정하진 않는다. 2008년 (서브프라임 모기지 사태 때)에는 주식시장을 넘어 삶 전반이 타격을 입었다. 이번에도 일부 벤처캐피털은 기대만큼 이익을 거두지 못할 수 있다. 하지만 사회 전반에 부정적 영향을 미치지는 않을 거다. 일부는 실패하더라도 소중한 경험을 얻은 이들은 다른 곳에서 새로운 도전을 하게 될 거다.” -지난달 세계 최대 가전·IT 전시회 CES에서 현대자동차가 선보인 ‘아틀라스’로 피지컬 AI에 관한 관심이 뜨겁다. 이후 현대차 노동조합은 로봇의 공장 투입에 반대하고 나섰다. “자동차 산업은 이미 상당한 자동화가 이뤄졌다. 노동자가 모든 용접을 하거나, 자동차를 도장(塗裝)하는 시대는 끝났다. 노조가 로봇 도입으로 인한 이익을 공정하게 배분하라고 요구하는 것은 타당하다. 로봇이 생산 비용을 낮추고 생산성을 높여 이익을 가져다준다면 경영진과 주주, 기업뿐 아니라 노동자도 혜택을 함께 누릴 수 있어야 한다. 신기술 성과를 어떻게 공유할 것인지 사회적 합의가 필요하다.” -AI가 일자리를 대체할 거라는 전망이 많다. 어디까지 나아갈까. “아직 확실히 알 수는 없다. 과거 새로운 기술은 기존 일자리를 대체했지만, 결과적으로 더 많은 일자리를 만들었다. 이번에도 새로운 수요와 일자리가 생길 거다. 열린 마음으로 받아들이면 기회가 있다. 우려되는 건 변화 속도가 지나치게 빠르다는 점이다. 농업 자동화는 여러 세대에 걸쳐 이뤄졌기에 적응할 시간이 있었다. 하지만 이번에는 훈련받았거나 하고 싶던 일이 사라지고, 다른 길을 시도하고 싶지 않다고 느끼는 사람도 분명히 생길 거다. 속도를 따라가기 어려운 이들을 위해 우리 사회는 무엇을 할 수 있을지 고민해야 한다.” -‘책임 있는 AI(Responsible AI)’ 담론을 주도하는 HAI에 몸담고 있다. AI가 공정하고 포용적이며 인류에게 유익하게 작동하게 하려면. “다양한 장치가 함께 작동해야 한다. 소비자는 제품을 고를 때 기업이 어떤 가치를 추구하고, 그 가치가 자신과 맞는지를 판단한다. 규제도 중요한 축이다. 정부가 무엇을 허용하고 허용하지 않을 지를 정한다. 주요 기업들은 자율 규제인 ‘AI 프레임워크’를 이미 마련했다. 소프트웨어 분야에선 흔치 않지만 전문 직능단체를 통한 관리도 고려할 수 있다. 예컨대 제3자 인증제도가 정부보다 빠를 수도 있다. (노빅 총괄은 미국 최초의 안전규격 인증 회사인 UL의 AI 안전위원회에 참여하고 있다.) 100여년 전 전기가 처음 등장했을 때 미국인들에겐 놀라움과 두려움이 공존했지만, UL이 전선이나 전구 등을 검사하고 안전하다는 인증을 부여하기 시작하면서 소비자들도 신뢰하게 됐다.” -한국은 세계 최초로 AI 생성물 표시를 의무화한 ‘AI 기본법’을 시행했다. “(어느 정도 규제가 적정한지) 아직 확실치 않다. 가짜 뉴스나 조작된 사진은 전에도 있었지만, 영상 제작까지 쉬워지면서 규모가 커졌다. 워터마크는 가능한 대응 수단이지만, 궁극적으론 출처에 더 의존하는 방향으로 나아가기를 바란다. 한쪽은 악의를 갖고 가짜를 만들어내는데, 선의를 지닌 다른 한쪽이 끊임없이 판별해야 하는 싸움은 바람직하지 않다. 웹사이트나 언론사 등이 ‘영상 출처가 어디고, 진짜라는 데 명예를 걸겠다’고 제시하는 구조가 돼야 한다.” -미국과 중국은 AI 분야의 확고한 양강이다. 한국이 틈을 비집고 ‘AI 3대 강국’에 진입할 수 있을까. “미국은 AI 분야의 선두다. 중국도 빠르게 따라잡았다. AI는 ‘패스트 팔로워’가 나타날 수 있는 분야라는 얘기다. 수십년간 전문성을 쌓아야 겨우 첫발을 뗄 수 있는 분야도 있지만, AI는 아니다. 핵심 기법은 오픈소스로 널리 알려졌기에 AI를 이해한 전문가와 연산 능력이나 데이터에 대한 투자, 꾸준한 노력이 갖춰지면 경쟁력을 확보할 수 있다. 한국도 충분히 올라설 수 있다.” -(그는 지난달 30일 서울시가 주관한 ‘AI 서울 2026’ 포럼에서 ‘파운데이션 모델이 어떻게 피지컬 AI의 두뇌가 되는가’를 주제로 기조연설을 했다.) 서울시는 피지컬 AI 선도도시로 도약하기 위해 ‘양재 AI 클러스터’와 ‘수서 로봇 클러스터’를 키우기로 했다. 실리콘밸리처럼 성장할 수 있을까. “지난해가 LLM의 해였다면 올해는 피지컬 AI의 해다. 코로나19 때 로봇을 연구하는 학생들이 각자의 집이 아닌 연구실에 모인 게 오늘의 피지컬 AI 성과로 나타나고 있다. 실리콘밸리는 엔지니어, 법률가, 투자자 등 다양한 전문가가 기꺼이 모험하겠다는 마음을 품고 모인 곳이다. 전문가들이 함께 할 수 있는 환경이 성공을 위해 중요하다.” ■피터 노빅 연구총괄은 1956년 미국에서 태어나 브라운대에서 응용수학을 공부하고, UC버클리에서 컴퓨터과학 박사 학위를 받았다. 스튜어트 러셀 UC버클리 교수와 함께 쓴 ‘인공지능: 현대적 접근방식’(1995)을 통해 AI 교육의 표준을 정립했다. 이 책은 전 세계 135개국, 1500개 대학에서 교재로 채택됐다. 2011년 세바스티안 스런과 함께 한 온라인 AI 강의는 16만명 이상이 수강해 온라인 대중교육(MOOC) 열풍의 기폭제가 됐다. 그는 이론에만 매몰되지 않았다. 1998년 미항공우주국(NASA)의 에임스 연구센터 계산과학 분과장을 맡아 우주탐사 로봇 및 자율주행 소프트웨어의 기반을 닦았다. 이후 구글에서 20년 넘게 연구총괄을 맡아 구글이 검색엔진을 넘어 최고의 AI 기업으로 거듭나는 과정을 이끌었다. ‘AI의 미래는 기술이 아닌 인간에 의해 결정되어야 한다’는 철학으로 만들어진 스탠퍼드대 HAI의 펠로를 겸하며 AI 기술의 혁신이 인간의 존엄을 훼손하지 않을 방법을 찾고 있다.

경찰 보디캠 촬영 같은 AI 영상 제작AI로 음란물도 만들어 SNS로 판매 경찰관이 112 신고 현장에 출동해 보디캠으로 찍은 것처럼 보이는 인공지능(AI) 허위 영상물을 제작해 유튜브에 올린 30대 남성이 경찰에 붙잡혔다. 경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔다. A씨는 지난해 10월부터 약 2개월간 ‘순찰 24시’라는 유튜브 채널을 운영하면서 ‘여장남자 여성 탈의실 신고 출동’, ‘중국인 난동 체포 영상’, ‘부천역 인터넷 BJ 체포 영상’, ‘아파트 복도 흡연 신고 출동 영상’ 등 경찰이 실제로 사건 현장에 출동해 보디캠으로 찍은 듯한 AI 영상을 올린 혐의를 받는다. A씨는 채널 소개 글에 ‘경찰의 시선으로 사건 현장을 본다. 실화를 기반으로 한 AI 보디캠 영상’이라고 적었다. 그러나 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고, AI 제작 영상을 표시하는 워터마크를 지우기도 했다. 이 때문에 A씨가 만든 허위 영상물을 본 일부 시청자는 실제 상황으로 오인하기도 했다. 이러한 영상들은 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상(숏폼) 형태로 게재되며 총 3400만회 이상의 조회수를 기록했다. 경찰은 해당 영상들이 공권력에 대한 국민적 신뢰를 훼손한다고 판단해 A씨를 입건해 구속했다. 영상들은 대부분 챗GPT나 그록 등으로 만들어진 것으로 전해졌다. 경찰 관계자는 “초반에 만든 영상은 상당히 어설펐지만, 시간이 지날수록 영상의 질이 향상됐다”고 전했다. 경찰은 압수물을 분석하는 과정에서 A씨가 해외 유료 구독형 소셜미디어(SNS) 채널을 운영하면서 AI 음란물을 제작·판매한 사실을 추가로 밝혀냈다. 또 무허가 사설 선물거래 홈트레이딩시스템(HTS) 및 투자 리딩방 운영에 가담해 3000만원 상당의 부당이득을 취한 사실도 확인했다.

음악은 시작 부분 안내 설명 삽입정부, 스타트업 현장 설명회 개최첫날 문의 10여건… 큰 혼란 없어인공지능(AI) 산업의 진흥과 규제 체계를 담은 ‘인공지능기본법’이 22일 세계 최초로 시행됐다. AI 기술의 안전성과 신뢰성을 높이는 동시에 국내 기업의 글로벌 경쟁력 확보를 뒷받침하겠다는 취지다. 첫날 현장은 비교적 차분했지만, 연착륙이 쉽지 않다는 볼멘소리도 들렸다. AI기본법의 내용과 영향을 일문일답으로 정리했다. Q. AI 기본법을 제정한 핵심 이유는. A. 국가 차원에서 AI 산업 경쟁력을 높이고 안전하고 신뢰할 수 있는 활용 기반을 조성하기 위해서다. 연구개발·인력 양성 등 산업 진흥과 투명성 확보와 고영향 AI 관리 등 안전 규제를 두 축으로 한다. Q. 누가 AI 표시 의무를 지는가. A. 표시 의무는 개인이 아닌 사업자에게 부과된다. AI 모델 개발사와 이를 활용해 서비스를 운영하는 사업자가 책임 주체다. 국내 이용자를 대상으로 서비스를 제공하는 해외 사업자도 포함된다. 서비스 초기 화면이나 이용약관 등을 통해 AI 기반 운용 사실을 고지하고, 생성 결과물에는 AI 생성물임을 명확히 표시해야 한다. 다만 AI를 도구로 활용하는 영화 제작사, 웹툰 작가, 유튜버 등은 법상 ‘이용자’로 분류돼 표시 의무의 직접 대상은 아니다. Q. 음악·음성 서비스는 어떻게 고지해야 하나. A. 이용자가 청각적으로 AI임을 인지할 수 있도록 오디오 시작 부분에 안내 설명을 삽입하거나, 비가시적 디지털 워터마킹 기술을 적용할 수 있다. Q. ‘고영향 AI’란 무엇인가. A. 생명·신체 안전이나 기본권에 중대한 영향을 미칠 우려가 있는 AI다. 의료, 채용, 대출 심사 등 10개 영역이 해당하며, 위험관리방안 수립과 결과 설명 방안 마련 등 강화된 의무가 부과된다. Q. 법 위반 시 즉시 과태료가 부과되나. A. 시정 명령을 이행하지 않을 경우 최대 3000만원의 과태료가 부과될 수 있다. 다만 정부는 최소 1년 이상의 계도 기간을 두고 처벌보다는 현장 컨설팅에 주력할 방침이다. Q. 법 시행 첫날 업계의 모습은 어땠나. A. 큰 혼란은 없었다. 과학기술정보통신부가 한국인공지능소프트웨어산업협회(KOSA)에 설치한 ‘AI 기본법 지원데스크’(비공개 상담 창구)에 이날 접수된 문의는 10건 안팎에 그쳤다. Q. 게임업계의 우려가 특히 컸는데. A. 여전히 신중한 관망세다. AI 사용 여부 표시 규정보다는 투명성 가이드라인이 없어 고민하고 있다. 즉, 게임은 ‘예술적·창의적 표현물’로 인정돼 전시·향유를 저해하지 않는 방식으로 고지 또는 표시가 가능한데, 구체적인 표시 방법이나 적용 범위에 대해서 언급이 없다. Q. 정부 대책은 뭔가. A. 정부는 제도가 현장 혁신을 위축시키지 않도록 지원과 보완을 병행하겠다는 입장이다. 과학기술정보통신부는 AI기본법과 관련해 질의응답 사례집을 배포하고 스타트업 대상 현장 설명회를 지역별로 열 계획이다. 배경훈 부총리 겸 과학기술정보통신부 장관도 “비합리적인 요소는 적극적으로 개선하겠다”고 말했다.

인공지능(AI) 포괄 규제법인 ‘AI 기본법’이 어제부터 시행됐다. 한국은 AI 규제법을 전면 시행하는 세계 최초의 국가가 됐다. AI 산업 진흥과 안전한 활용이라는 두 마리 토끼를 잡겠다는 야심찬 시도다. 딥페이크와 허위정보 유포 등 AI 부작용이 현실화되는 상황에서 규범 마련은 적절한 대응이다. 그러나 법 시행 첫날부터 현장의 우려가 적지 않다. 유럽연합(EU)이 먼저 AI법을 제정하고도 단계적 시행을 택한 이유를 되새겨 볼 필요가 있다. 가장 시급한 과제는 규제 기준을 명확히 하는 일이다. 정부는 국민 생명과 권리에 중대한 영향을 미치는 AI를 ‘고영향 AI’로 규정하며 의료·에너지·채용·대출 등 10개 영역을 제시했으나 중대한 영향을 판단하는 기준이 불명확하다. 딥페이크 오용 등을 막으려 AI 생성물 표시를 의무화한 워터마크 규정도 마찬가지다. AI를 어느 정도 활용했을 때 표시하는지 애매해 현장의 혼선이 예상된다. 규제 기준이 명확하지 않을수록 피해는 스타트업·중소기업에 집중된다. 시행령만 421페이지에 달하는 방대하고 복잡한 규정을 해석하기 위한 법률 자문 등을 감당할 여력이 부족해서다. 대기업과 달리 규제 대응 인력이 부족해 법 개정 과정에 목소리를 내기도 어렵다. 자칫 국내 기업만 족쇄를 차게 되는 역차별 가능성도 있다. 해외 AI 기업들은 국내 대리인만 지정하면 될 뿐 실질적 단속이 어렵기 때문이다. 전자상거래와 핀테크, 게임 등 분야에서 국내 규제가 토종 기업의 발목을 잡고 해외 기업에 경쟁 우위를 안겼던 선례를 반복해서는 안 될 일이다. 정부가 사실조사권과 과태료 부과를 1년 이상 유예하고 전문가 지원 데스크를 운영하기로 한 것은 바람직하다. 그러나 명확한 기준 제시만이 근본 해법일 수 있다. AI 기술이 순식간에 진화하면서 오늘의 기준이 내일은 낡은 규제가 될 수 있는 변혁의 시간이다. 정부는 산업계와 긴밀히 소통해 실효성 있고 예측 가능한 기준을 구축해야 한다.

구글 등 국내 대리인 의무화에도책임자 아닌 ‘본사 창구’ 그칠 듯스타트업은 찰나에 존폐 위기“법 시행 후 ‘디테일의 싸움’ 필요”세계에서 처음으로 인공지능(AI)법을 제정한 유럽연합(EU)보다 우리나라의 ‘AI 기본법’이 오는 22일 먼저 시행되면서 업계의 긴장감이 커지고 있다. 특히 국내에서 영업하는 해외 기업의 경우 엄격한 국내법 적용이 힘들다는 점에서 ‘역차별 우려’도 적지 않다. 정보기술(IT) 업계 관계자는 18일 “인공지능(AI) 기본법은 시행으로 끝이 아니라 그때부터 ‘디테일의 싸움’을 시작해야 한다”며 “대기업은 법적 자문으로 어느 정도 대비할 수 있지만, 스타트업은 AI 기본법의 규제 조항에 잘못 걸리면 회사의 존립이 위태로울 수 있다”고 말했다. 업계는 참고할 만한 국제 기준이 없는 상황에서 AI 기본법이 규제 일변도로 적용되는 것을 가장 우려했다. 최성진 스타트업성장연구소 대표는 지난 6일 황정아 더불어민주당 의원이 개최한 토론회에서 “현재 시행령은 AI의 책임성과 투명성 원칙을 어떻게 산업 현장에서 실효성 있게 구현할지에 대해 구체성과 예측 가능성이 부족하다”고 지적했다. 정부는 의료, 채용, 대출 심사 등 국민 생명이나 권리에 큰 영향을 주는 분야의 AI를 ‘고영향 AI’로 정의하고 규제할 예정인데, 기준 자체가 아직 모호하다는 평가가 나온다. 스타트업의 경우 이런 AI 기본법에 저촉돼 위법한 AI 기업으로 낙인찍히면 존립 자체가 위태로울 수 있다는 것이다. 또 AI 기본법 시행령은 고영향 AI와 생성형 AI 결과물의 경우 워터마크 등으로 표시하도록 규정했는데, 업계는 워터마크 표시 자체가 소비자들에게 부정적인 인식을 줄 수 있다고 봤다. 특히 해외 기업과의 역차별 문제는 업계에서 뜨거운 감자다. 앞서 정부는 AI 기본법의 역차별 문제를 해결하려 구글, 오픈AI 등 해외에 본사를 두고 국내 서비스를 제공하는 글로벌 빅테크 기업은 국내 대리인을 두게 했다. 하지만 국내 대리인이 책임자 성격보다 해외 본사와의 연락 창구 기능에 불과할 것이라는 관측도 나온다. 업계 관계자는 “최근 쿠팡처럼 국내법을 회피하려는 시도는 얼마든지 일어날 수 있다”며 “또 국내 AI 기업이 해외 시장에 진출할 때 ‘한국이 우리를 제재하니 우리도 한국 기업을 규제하겠다’고 타국에서 주장하면 피해는 기업이 본다”고 지적했다. 반면, AI 기본법은 사회적 논의를 통해 단계별로 진화하기 위해 첫발을 뗐을 뿐이라는 견해도 적지 않다. 산업 진흥 조항, 스타트업과 중소기업의 시장 진입 장벽 하향, AI 정책 커트롤타워 정립 등 순기능도 적지 않다는 것이다. 정부도 향후 기업 의견을 반영해 규제를 최소화하고 예측 가능성을 높이는 식으로 AI 기본법을 산업 진흥의 도구로 삼겠다는 입장이다. 고영향 AI를 규정한 것에 대해 우선 ‘규율의 기준점’을 세웠다는 데 의미가 있다는 견해도 있다. 고영향 AI로 지정되면 기업에 안전성·신뢰성 검증 등 관리 의무가 생기고 최대 3000만원의 과태료 등 법적 제재를 적용받는다.

최근 소셜미디어(SNS) 틱톡 등을 중심으로 대학교 교수님이 강의실에서 고함치는 모습 등 담긴 영상이 급물살을 타고 있습니다. ‘Professors crashing out’(혹은 teacher angry chatgpt)라는 키워드로 영상을 검색하면, 상기된 얼굴을 한 교수님이 학생들 앞에서 “AI를 사용하지 말라”며 고함을 치고 넘어지는 등 폭발하는 모습이 담겼습니다. 알고보니 이 영상들은 전부 생성형 AI로 만든 비디오인데요. 사람들의 이목을 끈 원본 영상들은 ‘AI-generated’라는 문구와 함께 업로드됐으며, Sora 워터마크 등을 찾아볼 수 있었습니다. 그러나 “AI인지 잘 모르겠다”며 실제 영상과 구분할 수 없다는 틱톡 사용자들의 댓글도 함께 볼 수 있는데요. 영상 속 내용을 들어보면, 대중적으로 알려진 챗GPT 대신 새로운 인공지능 앱을 언급하는 등 광고용 목적으로도 활용되고 있습니다. 이러한 상황 속에서 유사 콘텐츠가 수천 건 이상 업로드되며 틱톡에서는 하나의 밈 형태로 자리 잡았습니다. 전문가들은 이 현상에 대해 “워터마크 같은 안전장치가 사라지면 진위를 구별하기 어렵다”며 AI 기술 발전 속도를 감안할 때 미디어 리터러시와 검증 습관이 필수적이라고 강조하고 나섰습니다. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

일본에서 생성형 인공지능(AI)으로 만든 이미지가 저작물로 인정되면서 저작권법 위반 혐의가 처음 적용됐다. 요미우리신문은 지바현 경찰이 20일 AI 이미지 생성 프로그램 ‘스테이블 디퓨전’으로 제작된 그림을 무단 복제한 혐의로 27세 남성 A씨를 저작권법 위반 혐의로 검찰에 송치할 방침이라고 보도했다. 지바현 경찰은 기소 의견을 붙여 송치를 결정하며 이번 사건을 AI 이미지에 저작권법을 처음 적용한 사례로 규정했다. “프롬프트 2만회 입력” 창작 관여 인정 보도에 따르면 A씨는 지난해 8월 하순 지바현에 사는 20대 남성 B씨가 생성형 AI로 만든 이미지를 허락 없이 복제해 자신의 판매용 책 표지로 사용했다. 일본 저작권법은 사상과 감정을 창작적으로 표현한 저작물을 보호 대상으로 규정한다. 일본 문화청은 AI 생성물이 저작물인지 판단할 때 프롬프트의 양과 내용, 생성 과정의 반복 여부 등을 함께 보라고 안내해왔다. B씨는 요미우리신문에 “프롬프트 입력을 2만회 넘게 진행했다”고 밝혔다. 지바현 경찰은 B씨가 구체적인 지시를 반복했고 결과물을 확인해 계속 수정한 점을 근거로 최종 이미지가 창작적 표현을 갖춘 저작물이라고 판단했다. 해외 판단 엇갈려…미국은 거부 중국은 인정 AI 생성물의 저작권 여부는 여러 나라에서 논쟁이 이어진다. 미국 저작권청은 2023년 2월 생성형 AI가 만든 만화 삽화의 저작권 등록을 거부했다. 저작권청은 결과물이 사람의 예측과 통제를 벗어난다고 보고 시간과 비용 투입은 저작권 기준이 아니라고 설명했다. 반면 중국 베이징 인터넷법원은 같은 해 11월 생성형 AI 이미지가 저작물에 해당한다고 인정했다. 법원은 이미지 제작자가 프롬프트 선택 과정에서 상당한 지적 노력을 기울였다고 보고 무단 사용을 저작권 침해라고 판단했다. 영국 법원 “학습 과정은 직접 복제 아냐”…상표권만 일부 인정지난달 영국에서도 AI 학습과 저작권을 둘러싼 소송이 주목됐다. 미국 게티이미지는 스테이블 디퓨전의 제작사 스테빌리티AI가 게티사 이미지 수백만 장을 무단으로 학습에 사용했다며 영국 법원에 소송을 냈다. 법원은 “AI 학습 과정은 원본 이미지를 그대로 저장하거나 재생산하는 행위가 아니므로 저작권의 이차적 침해로 보기 어렵다”고 판단하며 대부분의 청구를 기각했다. 다만 게티 워터마크가 그대로 드러난 일부 생성 이미지에 대해 상표권 침해를 인정했다. 전문가 “구체적 지시가 결과 예측할 수 있게 만들어”AI 저작권 전문가인 후쿠이 겐사쿠 변호사는 “프롬프트가 구체적일수록 결과물이 창작자의 의도에 더 가까워진다”고 설명했다. 그는 “지시가 모호하면 결과가 예측하기 어렵지만 명확한 지시가 쌓이면 생성물도 창작자의 방향성에 따라 나온다”며 판단 기준을 인간의 관여도로 봐야 한다고 강조했다. 일본 온라인 여론 “법 정비 시급”…일본 포털서 논쟁 확산 이번 보도가 올라온 일본 포털사이트 야후뉴스 재팬 댓글에는 100건 넘는 의견이 달렸다. 다수 이용자는 일본 국회가 AI 시대에 맞는 저작권 기준을 서둘러 마련해야 한다고 주장했다. 생성형 AI라고 해서 저작권이 없다고 단정하는 시각은 잘못이라는 의견도 이어졌다. 온라인 이용자들은 사람이 프롬프트와 수정 과정을 거치며 창작에 기여했다면 보호 대상이 되는 것이 자연스럽다고 평가했다. 딥페이크와 AI 영상 확산을 걱정하는 반응도 많았다. AI 저작권을 인정하면 일정한 방식으로 대량 이미지를 양산하는 사례가 늘어 제도적 허점을 만들 수 있다는 지적도 제기됐다. AI 학습 과정에서 기존 창작물 데이터가 사용된다는 점을 들어 원작자 보상 체계 조정이 필요하다는 주장도 나왔다. 일부는 생성형 AI 이용자를 “남의 작품을 무단 활용하는 도둑”으로 규정하며 강한 규제를 요구했다. 일본은 첫 형사 사건…향후 법원 판단 주목일본에서는 아직 관련 판례가 없다. 이번 송치 결정이 일본 법원의 첫 판단으로 이어질 가능성이 커지면서 일본 정부가 AI 저작권 제도 정비에 속도를 낼 것이라는 전망이 나온다. 일본 저작권법은 무단 복제를 형사 범죄로 규정한다. 법원이 저작권법 위반을 인정하면 10년 이하 징역 또는 1,000만 엔(약 9,400만 원) 이하 벌금을 선고할 수 있으며 두 형을 함께 적용하는 병과도 가능하다. A씨는 상업적 목적으로 이미지를 사용한 혐의를 받는 만큼 벌금형 가능성이 크다는 분석이다.

일본에서 생성형 인공지능(AI)으로 만든 이미지가 저작물로 인정되면서 저작권법 위반 혐의가 처음 적용됐다. 요미우리신문은 지바현 경찰이 20일 AI 이미지 생성 프로그램 ‘스테이블 디퓨전’으로 제작된 그림을 무단 복제한 혐의로 27세 남성 A씨를 저작권법 위반 혐의로 검찰에 송치할 방침이라고 보도했다. 지바현 경찰은 기소 의견을 붙여 송치를 결정하며 이번 사건을 AI 이미지에 저작권법을 처음 적용한 사례로 규정했다. “프롬프트 2만회 입력” 창작 관여 인정 보도에 따르면 A씨는 지난해 8월 하순 지바현에 사는 20대 남성 B씨가 생성형 AI로 만든 이미지를 허락 없이 복제해 자신의 판매용 책 표지로 사용했다. 일본 저작권법은 사상과 감정을 창작적으로 표현한 저작물을 보호 대상으로 규정한다. 일본 문화청은 AI 생성물이 저작물인지 판단할 때 프롬프트의 양과 내용, 생성 과정의 반복 여부 등을 함께 보라고 안내해왔다. B씨는 요미우리신문에 “프롬프트 입력을 2만회 넘게 진행했다”고 밝혔다. 지바현 경찰은 B씨가 구체적인 지시를 반복했고 결과물을 확인해 계속 수정한 점을 근거로 최종 이미지가 창작적 표현을 갖춘 저작물이라고 판단했다. 해외 판단 엇갈려…미국은 거부 중국은 인정 AI 생성물의 저작권 여부는 여러 나라에서 논쟁이 이어진다. 미국 저작권청은 2023년 2월 생성형 AI가 만든 만화 삽화의 저작권 등록을 거부했다. 저작권청은 결과물이 사람의 예측과 통제를 벗어난다고 보고 시간과 비용 투입은 저작권 기준이 아니라고 설명했다. 반면 중국 베이징 인터넷법원은 같은 해 11월 생성형 AI 이미지가 저작물에 해당한다고 인정했다. 법원은 이미지 제작자가 프롬프트 선택 과정에서 상당한 지적 노력을 기울였다고 보고 무단 사용을 저작권 침해라고 판단했다. 영국 법원 “학습 과정은 직접 복제 아냐”…상표권만 일부 인정지난달 영국에서도 AI 학습과 저작권을 둘러싼 소송이 주목됐다. 미국 게티이미지는 스테이블 디퓨전의 제작사 스테빌리티AI가 게티사 이미지 수백만 장을 무단으로 학습에 사용했다며 영국 법원에 소송을 냈다. 법원은 “AI 학습 과정은 원본 이미지를 그대로 저장하거나 재생산하는 행위가 아니므로 저작권의 이차적 침해로 보기 어렵다”고 판단하며 대부분의 청구를 기각했다. 다만 게티 워터마크가 그대로 드러난 일부 생성 이미지에 대해 상표권 침해를 인정했다. 전문가 “구체적 지시가 결과 예측할 수 있게 만들어”AI 저작권 전문가인 후쿠이 겐사쿠 변호사는 “프롬프트가 구체적일수록 결과물이 창작자의 의도에 더 가까워진다”고 설명했다. 그는 “지시가 모호하면 결과가 예측하기 어렵지만 명확한 지시가 쌓이면 생성물도 창작자의 방향성에 따라 나온다”며 판단 기준을 인간의 관여도로 봐야 한다고 강조했다. 일본 온라인 여론 “법 정비 시급”…일본 포털서 논쟁 확산 이번 보도가 올라온 일본 포털사이트 야후뉴스 재팬 댓글에는 100건 넘는 의견이 달렸다. 다수 이용자는 일본 국회가 AI 시대에 맞는 저작권 기준을 서둘러 마련해야 한다고 주장했다. 생성형 AI라고 해서 저작권이 없다고 단정하는 시각은 잘못이라는 의견도 이어졌다. 온라인 이용자들은 사람이 프롬프트와 수정 과정을 거치며 창작에 기여했다면 보호 대상이 되는 것이 자연스럽다고 평가했다. 딥페이크와 AI 영상 확산을 걱정하는 반응도 많았다. AI 저작권을 인정하면 일정한 방식으로 대량 이미지를 양산하는 사례가 늘어 제도적 허점을 만들 수 있다는 지적도 제기됐다. AI 학습 과정에서 기존 창작물 데이터가 사용된다는 점을 들어 원작자 보상 체계 조정이 필요하다는 주장도 나왔다. 일부는 생성형 AI 이용자를 “남의 작품을 무단 활용하는 도둑”으로 규정하며 강한 규제를 요구했다. 일본은 첫 형사 사건…향후 법원 판단 주목일본에서는 아직 관련 판례가 없다. 이번 송치 결정이 일본 법원의 첫 판단으로 이어질 가능성이 커지면서 일본 정부가 AI 저작권 제도 정비에 속도를 낼 것이라는 전망이 나온다. 일본 저작권법은 무단 복제를 형사 범죄로 규정한다. 법원이 저작권법 위반을 인정하면 10년 이하 징역 또는 1,000만 엔(약 9,400만 원) 이하 벌금을 선고할 수 있으며 두 형을 함께 적용하는 병과도 가능하다. A씨는 상업적 목적으로 이미지를 사용한 혐의를 받는 만큼 벌금형 가능성이 크다는 분석이다.

요즘 SNS에서는 동영상 생성 AI ‘소라(Sora)’로 만든 영상인 척, 사람이 직접 연기한 영상들이 인기를 끌고 있습니다. 부자연스러운 움직임과 말투, 그리고 ‘sora ai’ 워터마크까지 완벽하게(?) 재현한 덕분에, 정작 소라 AI 공식 계정은 해명 댓글을 다느라 바쁘다고 하네요. “이거 제가 만든 거 아니에요ㅠㅠ” -소라- AI를 흉내 내는 사람들, 영상으로 만나보시죠. 여러분이 보시기에 싱크로율은 몇 점인가요? Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

이재명 정부 들어 의정갈등 해소 흐름이 급물살을 타고 있는 가운데, 의사와 의대생만 가입할 수 있는 온라인 커뮤니티에 집단행동에 참여하지 않는 전공의들을 보복하겠다는 글이 여러 건 올라와 파장이 일고 있다. 10일 온라인 커뮤니티에는 한 의료인 커뮤니티 게시판에 올라온 글 여러 건을 캡쳐한 이미지가 공유됐다. 이에 따르면 이용자들은 집단행동에 참여하지 않고 의료현장에 남은 전공의들을 ‘감사한 의사’라고 조롱한 데서 비롯한 ‘감귤’이라고 칭하며 이들을 상대로 보복을 하겠다는 글이 여러 건 올라왔다. ‘의대생’이 포함된 닉네임의 한 이용자는 “감귤들아 우리가 간다. 돌아가면 니들 강간해버린다”며 범죄 포현을 동원해 복귀 전공의들을 보복하겠다는 글을 올렸다. ‘의대생’이 포함된 닉네임의 또 다른 이용자들은 “복귀하더라도 먼저 기어들어간 감귤은 기수열외시킨다”, “감귤들 철저하게 학교 레지던트 기수열외 해야 한다” 등 ‘기수 열외’를 주장하기도 했다. ‘의사’라고 밝힌 한 이용자는 “드디어 감귤 잡으러 간다”면서 “곧 복귀다 감귤들 다 뒤졌다”고 주장했다. 해당 커뮤니티는 의사 면허 또는 의대생임을 인증해야 가입할 수 있다. 또한 컴퓨터나 휴대전화로 커뮤니티 화면을 캡쳐하면 이용자의 연락처나 아이디가 적힌 워터마크가 사진에 남는 등 보안도 철저하다. 이날 커뮤니티에 공유된 사진 역시 이를 캡쳐한 이용자가 신원 노출을 우려해 워터마크를 뿌옇게 처리한 것으로 추정된다. 해당 커뮤니티는 의정갈등이 본격화한 뒤 의료현장 및 수업에 복귀한 전공의들과 의대생들의 신상을 유포하고 위협하는 글이 다수 올라와 논란의 도마에 올랐다. 지난해에는 집단행동에 동참하지 않은 전공의와 의대생들의 이름과 연락처, 출신 학교, 소속 병원 등을 담은 ‘블랙리스트’를 작성해 해당 커뮤니티에 유포한 전공의가 1심에서 징역 3년을 선고받았다. 최근에는 충남대 의대에 복귀한 학생들 70여명의 신상정보가 해당 커뮤니티에 유포되고 이들을 겨냥한 성희롱, 조롱 댓글이 쏟아져 경찰이 수사에 나서기도 했다. 교육부는 올해 들어 방송통신심의위원회에 메디스태프 폐쇄를 요청하기도 했다. 메디스태프 측은 올해 초 게시글 20만여건을 삭제했지만, 현재까지 실질적인 변화는 이뤄지지 않고 있다.

드라마 ‘대도시의 사랑법’으로 인기를 끈 배우 남윤수의 소셜미디어(SNS) 계정에 선정적인 게시물이 올라와 논란이 된 가운데, 남윤수 측이 “주머니 속에서 (휴대전화가 눌려) 벌어진 일”이라고 해명했다. 13일 온라인상에는 ‘인스타그램 리포스트 실수한 듯한 남윤수’라는 제목의 글이 올라왔다. 해당 글에는 남윤수 공식 인스타그램 계정에 올라간 영상이 캡처돼 있다. 영상엔 성행위를 연상하게 하는 구조물과 함께 성 보조기구 전문 브랜드의 워터마크가 찍혀 있다. 해당 글을 접한 누리꾼들은 “평소에 자기가 보는 게 리포스트 된 거 아니냐”, “해킹당한 건가”, “비공개 계정인 줄 알고 올린 것 아니냐”, “실수였다 하더라도 하필이면 저런 영상이냐” 등의 반응을 보였다. 이에 남윤수는 팬들과의 대화방에서 운전 중인 사진을 올리며 “운전하고 있는데 리포스트 뭐야. 해킹당했나. 이상한 거 올라갔었는데 팬들이 알려주셨다”고 설명했다. 그는 자신의 인스타그램 탐색 페이지 캡처 사진을 공개하며 “알고리즘 이런 것뿐이다. 해킹인가 봐야겠다. 눌린 줄도 몰랐다. 악성 광고인가”라고 해명했다. 남윤수의 소속사는 “주머니 속에서 (휴대전화가 눌려) 벌어진 일이다. 본인이 보다가 눌렀으면 죄송하다고 사과했을 텐데, 주머니에 있던 휴대전화가 잘못 눌린 것으로 파악된다”고 밝혔다. 그러나 논란이 계속되자 남윤수는 결국 자신의 인스타그램을 통해 사과했다. 그는 “오늘 저도 모르게 불쾌한 게시물이 리포스트된 것을 뒤늦게 확인했다”며 “많은 분들께 불편을 느끼게 해서 속상하고 진심으로 죄송하다. 앞으로 더욱 주의하겠다”고 전했다. 연예인의 SNS 사용이 활발해지면서 실수로 인해 발생하는 일이 잇따르고 있다. 앞서 ‘오징어게임2’에 출연한 배우 박성훈은 자신의 인스타그램 스토리에 일본 성인 콘텐츠 포스터를 올려 논란이 된 바 있다. 소속사는 처음 논란이 됐을 당시 “박성훈에게 DM(다이렉트 메시지)이 워낙 많이 오는데, 확인하다가 실수로 공유했다”고 해명했다. 하지만 DM으로 온 사진을 실수로 인스타그램 스토리에 올리는 기능이 없다는 점에서 “궁색하다”는 지적이 쏟아졌다. 이에 소속사는 “박성훈은 DM으로 AV 표지를 받았고, 문제의 소지가 있다고 판단해 회사 담당자에게 전달하는 과정에서 해당 사진을 내려받았다”며 “담당자에게 보내고 바로 삭제해야 했는데, 실수로 올린 것”이라고 재차 해명했다. 이후 넷플릭스 ‘오징어 게임2’ 홍보 인터뷰에서 박성훈은 눈물을 흘리며 해명했으나 차기작이었던 ‘폭군의 셰프’에서 하차했다.

‘인공지능(AI) 기본법’ 제정안과 ‘단통법’(이동통신 단말장치 유통구조 개선법) 폐지안이 26일 국회 과학기술정보방송통신위원회(과방위) 전체회의에서 통과됐다. 여야 모두 필요성에 공감하고 있는 만큼 국회 법제사법위원회 전체회의를 거쳐 이르면 28일 본회의에 상정·의결될 것으로 보인다. AI 기본법은 여야 의원들이 발의한 19건의 법안을 병합한 안이다. 정부가 AI 산업의 건전한 발전을 지원할 근거와 기준을 명시하고, 신뢰 기반 조성에 관한 기본 사항을 규정하는 내용이 담겼다. 과학기술정보통신부가 3년마다 대통령 직속 ‘국가인공지능위원회’의 의결을 거쳐 AI 정책 방향과 전문인력 양성 등을 담은 ‘인공지능 기본계획’을 수립하도록 했다. 사람의 생명과 신체의 안전에 위험을 미칠 수 있는 AI 시스템을 ‘고영향 AI’로 규정하고 정부가 해당 사업자에 책임 있는 조치를 요구할 수 있도록 한 게 특징이다. 해외 AI 사업자가 국내에서 사업을 할 때는 국내 대리인을 지정해 정부와 소통할 수 있도록 했으며, AI 사업자는 워터마크 등을 의무적으로 표시하도록 했다. AI 기술이 빠른 속도로 발전하면서 업계에서도 AI 기본법 제정이 시급하다고 했지만 지난 21대 국회에선 관련 법안이 결국 폐기됐다. 22대 국회가 출범한 지 반년이 지난 시점에야 결국 상임위 문턱을 통과했다. 단통법 폐지안은 이동통신 단말기 공시지원금 제도와 추가지원금 상한은 없애고, 선택약정할인 제도는 전기통신사업법에 이관해 유지하는 내용을 담고 있다. 2014년 제정된 단통법을 10년 만에 폐지하기로 한 건 사업자 간 지원금 경쟁을 통해 통신비 인하를 유도하기 위해서다. 다만 이용자의 거주 지역과 나이, 신체적 조건 등에 따른 지원금 차별은 금지하도록 했다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.