2024년 챗GPT 개발사 오픈AI가 영상 생성 AI ‘소라’(Sora)를 세상에 내놓았을 때 카메라와 배우가 사라질 것이라는 전망까지 나왔다. 몇 줄의 명령어만으로 한 장면이 만들어지는 모습은 ‘꿈의 공장’ 할리우드를 흔들기에 충분했다. 배우, 감독, 작가 등 영화계 종사자들은 “인간의 이야기는 인간에게 맡겨라”라고 외치며 거리로 나섰다. 기술이 곧 영화판을 바꿀 것이라는 위기감이 빠르게 번졌다. 이 흐름은 곧 현실이 되는 듯했다. 오픈AI는 월트디즈니와의 협력을 추진하며 기대를 키웠고, 영화 제작 방식이 달라질 수 있다는 이야기가 힘을 얻었다. 그랬던 소라가 2년 만에 역사 속으로 사라진다. 기업 공개를 앞둔 오픈AI는 기업용 AI와 차세대 모델 개발에 집중하는 쪽으로 방향을 틀었다. 내부에서는 막대한 자원을 투입하고도 뚜렷한 수익 모델이 보이지 않는다는 회의론이 팽배했다. 무엇보다 저작권 침해와 딥페이크 논란이 부담으로 작용했다. ‘무엇을 만들 수 있는가’보다 ‘무엇을 만들어도 되는가’라는 문제가 더 크게 제기됐다. 소라를 멈춰 세운 것은 기술이 아니라 계산서였다. 비용은 불어나고 결과물마다 책임이 따라붙었다. 영상 제작의 새 지평을 열었던 선두 주자가 물러나면서 시장 분위기도 달라지고 있다. 구글과 중국 업체들이 경쟁을 이어 가고 있지만, 누가 앞서 나갈지는 아직 뚜렷하지 않다. 기술은 계속 발전하고 있으나 실제 산업으로 어떻게 자리잡을지는 이제부터 지켜볼 일이다. 소라의 퇴장은 우리가 너무 성급하게 결론을 내렸던 것은 아닌지 돌아보게 한다. 몇 초 만에 만들어진 영상을 보며 곧 전통적인 영화 제작 방식이 사라질 것처럼 말했지만, 실제로는 그렇지 않았다. 이번 일은 기술 자체보다 기술이 산업으로 이어지기까지의 간극이 여전히 크다는 사실을 웅변한다. AI는 그럴듯한 화면을 만들어 낸다. 그러나 영화는 아직 인간의 영역에 굳건히 남아 있다.

일본에서 생성형 인공지능(AI)을 이용해 만든 ‘가짜 곰 영상’이 소셜미디어(SNS)에 빠르게 퍼지며 당국의 고민이 깊어지고 있다고 2일 아사히신문이 보도했다. 일본 각지에서 곰 출몰이 잦아진 가운데 허위 영상이 현장의 불안과 혼란을 키우고 있다는 지적이다. 틱톡 등 실제 영상 중심의 SNS에서 ‘곰’을 검색하면 AI로 만든 영상을 어렵지 않게 찾을 수 있다. 건물 안으로 들어오려는 곰을 여성이 빗자루로 몰아내는 장면, 카페에서 새끼곰에게 과일을 건네는 장면, 아파트 외벽을 곰이 오르는 영상 등이다. 문제는 이런 영상들이 근거 없는 주장 확산에 활용되고 있다는 점이다. 일부 영상에는 오픈AI의 소라(Sora)나 편집 소프트웨어 브루(Vrew) 로고가 붙어 있지만 시청자가 이를 모두 가짜로 인식하는 것은 아니다. 신문은 곰이 태양광 패널을 부수는 AI 생성 영상에는 “태양광 시설 때문에 곰이 서식지를 잃었다”는 식의 댓글이 달리며 거짓 정보가 사실처럼 퍼지고 있다고 지적했다. 곰의 행동 변화와 태양광 설치 간에는 과학적 근거가 없다. 곰 출몰 신고가 이어지는 지역일수록 허위 영상은 행정 대응에도 영향을 미치며 불안을 키우고 있다. 최근 틱톡에는 “몸길이 1m의 곰이 편의점에 침입했다”는 뉴스 영상 형태의 AI 콘텐츠가 ‘발생 장소: 아키타현 노시로시’라는 설명과 함께 올라왔지만 시 당국은 “그런 사실은 없다”며 불쾌감을 보였다.

최근 소셜미디어(SNS) 틱톡 등을 중심으로 대학교 교수님이 강의실에서 고함치는 모습 등 담긴 영상이 급물살을 타고 있습니다. ‘Professors crashing out’(혹은 teacher angry chatgpt)라는 키워드로 영상을 검색하면, 상기된 얼굴을 한 교수님이 학생들 앞에서 “AI를 사용하지 말라”며 고함을 치고 넘어지는 등 폭발하는 모습이 담겼습니다. 알고보니 이 영상들은 전부 생성형 AI로 만든 비디오인데요. 사람들의 이목을 끈 원본 영상들은 ‘AI-generated’라는 문구와 함께 업로드됐으며, Sora 워터마크 등을 찾아볼 수 있었습니다. 그러나 “AI인지 잘 모르겠다”며 실제 영상과 구분할 수 없다는 틱톡 사용자들의 댓글도 함께 볼 수 있는데요. 영상 속 내용을 들어보면, 대중적으로 알려진 챗GPT 대신 새로운 인공지능 앱을 언급하는 등 광고용 목적으로도 활용되고 있습니다. 이러한 상황 속에서 유사 콘텐츠가 수천 건 이상 업로드되며 틱톡에서는 하나의 밈 형태로 자리 잡았습니다. 전문가들은 이 현상에 대해 “워터마크 같은 안전장치가 사라지면 진위를 구별하기 어렵다”며 AI 기술 발전 속도를 감안할 때 미디어 리터러시와 검증 습관이 필수적이라고 강조하고 나섰습니다. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

일본 애니메이션 제작사 스튜디오 지브리 측이 생성형 인공지능(AI) 모델 ‘챗GPT’의 개발사인 미국 오픈AI에 자사 콘텐츠 무단 학습을 중단해달라고 요구했다는 보도가 나왔다. 3일(현지시간) 미 정보기술(IT) 매체 테크크런치에 따르면, 일본 콘텐츠해외유통촉진기구(CODA)는 최근 “회원사의 허락 없이 저작권이 있는 콘텐츠를 AI 모델에 학습시키는 것을 중단해 달라”는 내용의 서한을 오픈AI에 보냈다. CODA는 지브리 스튜디오를 회원사로 두고 있다. 특히 CODA는 오픈AI의 동영상 생성 서비스 ‘소라(Sora)2’를 꼬집어 “특정 저작물과 똑같거나 유사하게 영상을 생성한다면, 콘텐츠 학습 과정에서의 복제 행위가 저작권 침해에 해당하는 것으로 본다”고 주장했다. 업계에 따르면 오픈AI는 자사 AI 모델이 콘텐츠를 학습할 때 저작권자의 ‘허가’를 받는 게 아니라 저작권자가 콘텐츠 사용 금지를 ‘요청’하도록 하고 있다. 이에 대해 CODA는 “일본 저작권법에 따르면 저작물을 사용할 때는 사전 허가가 필요하다”며 “사후 이의 제기를 통해 책임을 면할 수 있는 제도는 없다”고 지적했다. 오픈AI가 지난 9월 소라2를 출시한 이후 전 세계 네티즌 사이에서는 이를 활용한 지브리 풍 애니메이션 영상 제작이 유행하고 있다. 이와 관련해 일각에서는 오픈AI를 향한 저작권 소송이 빗발칠 것이라는 전망이 나왔다. 이러한 문제 제기는 지난 3월에도 있었다. 당시 챗GPT가 이미지 생성 기능을 출시하면서 이른바 ‘지브리 풍’ 이미지 제작이 전 세계적으로 유행했기 때문이다. 샘 올트먼 오픈AI 최고경영자(CEO)도 엑스(X) 프로필 사진을 지브리 풍으로 변경해 화제였다. 다만 미국의 현행 법령으로 AI 학습의 저작권 문제를 어떻게 판단해야 하는지는 여전히 불분명하다. 미국 저작권법이 1976년 이후 개정되지 않아 AI 문제에 쉽게 적용하기 어렵고, 사법적 판단에 도움을 줄 만한 판례도 부족하기 때문이다. 이 사안과 관련해 스튜디오 지브리의 설립자인 미야자키 하야오(84) 감독의 입장은 알려지지 않았다. 다만 그는 2016년 AI 제작 3D 애니메이션 시연을 본 뒤 “생명 자체에 대한 모욕이라고 강하게 느낀다”며 거부감을 드러낸 바 있다.

요즘 SNS에서는 동영상 생성 AI ‘소라(Sora)’로 만든 영상인 척, 사람이 직접 연기한 영상들이 인기를 끌고 있습니다. 부자연스러운 움직임과 말투, 그리고 ‘sora ai’ 워터마크까지 완벽하게(?) 재현한 덕분에, 정작 소라 AI 공식 계정은 해명 댓글을 다느라 바쁘다고 하네요. “이거 제가 만든 거 아니에요ㅠㅠ” -소라- AI를 흉내 내는 사람들, 영상으로 만나보시죠. 여러분이 보시기에 싱크로율은 몇 점인가요? Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

매년 핼러윈 시즌마다 새로운 바이럴 트렌드가 등장하는데, 올해는 ‘AI 고스트페이스’가 화제입니다. AI를 활용해 공포 영화 속 고스트페이스가 방문 앞에 서 있는 장면을 연출하는 건데요. 이때, 여러분은 침대에 엎드려 누워 아무것도 모른 채 팝콘을 먹고 있죠. 그뿐만 아니라, 침대에 엎드려 있다가 고스트페이스에게 끌려가는 짧은 AI 영상도 SNS에서 큰 반응을 얻고 있는데요. 케찹이 이 트렌드를 직접 체험할 수 있는 사진·영상 프롬프트를 준비했으니, 지금 바로 생성해 보세요! ✅ 이미지 생성 방법1. 구글 Gemini를 열고 자신의 사진을 업로드하세요.2. 아래 프롬프트를 정확히 입력하세요.Create a photo of me in a dreamy y2k style portrait of me laying on a shiny pink satin bedding as i hold a large 90s style corded phone and in a thoughtful daydreaming pose her long black hair falls freely in loose curls with pink clips on each side.She wears delicate jewellery including dainty gold necklaces and accessories and gold chunky rings.The room behind her is girly and daydreamy with 90s posters. her makeup is simple yet glamorous with brown lipgloss and brown lip liner. The photo should have a grainy 90s style to it with a light source like a lamp in a dimly lit room at night.The Ghostface killer from Scream should be behind her staring at her, his body should be dimly lit, and he should be standing in the doorway of a dimly hallway. The background behind he should be 150 slightly dark and ominous.3. 메시지 전송 → 이미지 생성4. 생성한 결과가 마음에 들지 않으면, 추가 요청을 보내 수정해보세요! ✅️ 영상 생성 방법1. 구글 Veo3, OpenAI Sora 등 AI 영상 생성 툴에서 앞서 생성한 이미지를 업로드하세요.2. 아래 프롬프트를 정확히 입력하세요.▷ Video Prompt:A cinematic 4K horror short filmed in a warm retro bedroom with soft amber lamp light and pink satin bedding.A gorgeous Latina woman with long wavy black hair, bronzed skin, glossy nude lips, and dark glam makeup (winged eyeliner, full lashes, contoured cheeks) lies comfortably on her stomach on a pink bed.She‘s talking on a beige vintage landline phone, twirling the cord, calm and unaware.There‘s a big bowl of popcorn and colorful magazines beside her.▷ Action Sequence:From the dark hallway behind her, Ghostface slowly steps forward - emerging fully into view.He pauses for a second, tilting his head creepily, then continues walking directly up to the edge of the bed.She‘s still on the phone, unaware.He suddenly grabs both of her ankles and violently drags her off the bed, pulling her across the silky sheets toward the doorway.The phone drops, the popcorn bowl flips, magazines scatter.She screams and tries to grab the sheets as she‘s pulled backward toward the hallway in one continuous, fluid motion.The camera tracks the drag - smooth cinematic movement, warm light in foreground fading into cold shadow near the doorway.Final moment: the empty bed and swinging phone cord.▷ Camera & Style Notes:* 4K RAW, cinematic lighting contrast (warm vs. cold), shallow depth of field* 85mm lens for close-up depth and realism* Smooth tracking camera movement following Ghostface‘s motion* Maintain perfect realism: natural skin tones, detailed fabric textures, realistic lighting flicker▷ Negative Prompts:no distorted limbs, no extra fingers, no missing fingers, no warped proportions, no blood, no gore, no blur, no floating objects, no unnatural lighting artifacts.3. 메시지 전송 → 영상 생성4. 생성한 결과가 마음에 들지 않으면, 추가 요청을 보내 수정해보세요! +tip. 캡컷 템플릿을 사용해 더 쉽게 제작할 수 있습니다! Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

최근 소셜미디어(SNS)에서 유리로 된 과일을 칼로 자르는 일명 ‘유리과일 AMSR(심리적 안정을 유도하는 소리)’이 급부상하고 있습니다. 이 영상은 칼과 닿은 유리면이 생생하게 부서지는 소리가 나며 은근한 쾌감을 주는데요. 알고보니 동영상 생성 인공지능(AI)으로 만들어졌다고요. 이는 지난달 미국 구글이 공개한 동영상 생성 인공지능(AI) 모델 ‘비오(Veo) 3’으로 제작할 수 있는데요. 특히 비오3은 풍부한 데이터를 바탕으로 입력된 프롬프트에 어울리는 소리를 동시에 결합해 제작할 수 있어 오픈AI에서 내놓은 동영상 생성 인공지능 ‘소라’(Sora)보다 한 단계 진화했다는 평가를 받고 있습니다. 비오3 모델은 현재 구글 플로우(Flow) 또는 제미나이(Gemini)에서 사용 가능한데요. 월 36만 원인 ‘구글 AI 울트라’(Google AI Ultra) 요금제에 가입하거나 월 2만 9000원인 ‘구글 AI 프로’(Google AI Pro)를 구독하면 됩니다. 다만 일반 무료 계정으로는 비오 모델 사용이 제한됩니다. 정교한 ASMR 영상을 만들기 위해서는 상세한 프롬프트가 필요한데요. 챗GPT를 통해 한국어를 영어로 번역한 후, 새 프로젝트에 내용을 입력해주면 됩니다. ✅프롬프트 예시 ▫피사체: 붉은색으로 투명한 유리 사과 ▫동작: 한 손으로 사과를 누르면서 다른 손으로 사과에 칼을 대서 천천히 아래로 내리기 ▫소리: 나이프가 유리에 닿을 때, 깨질 때, 미끄러질 때 금속성의 소리를 추가 ▫화면: 고정 카메라로 원컷 구성, 사과가 화면 중앙에 오는 구도 ▫조명과 배경: 자연광, 조명이 유리의 곡면에 아름답게 반영 위 내용을 응용해 다양한 사물로 ASMR 영상을 만들어볼 수 있겠습니다.

선관위에 769건 삭제 요청 접수작년 국회의원 선거의 두배 수준유권자 혼란 우려… 18명 수사 중李 대행 “중대한 범죄” 단속 지시 21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다. 이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다. 지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다. 법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다. 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다. 이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다. 이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “악의적인 딥페이크가 발견되면 고발 등 엄중히 조치할 예정”이라고 밝혔다.

21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다. 이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안 된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다. 지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다. 법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다. 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다. 이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다. 이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청 중”이라면서 “악의적인 딥페이크가 발견되면 고발 등 엄중 조치할 예정”이라고 밝혔다.

생성형 인공지능(AI) 서비스들이 제공하는 애니메이션 스타일 개인 사진 제공 서비스가 세계적으로 대유행이다. 특히 일본 콘텐츠 업체인 ‘지브리풍’의 얼굴 제작이 폭발적 인기다. 이런 편리함과 재미 뒤에 저작권·초상권 침해, 관련 산업 붕괴 등 심각한 문제가 도사리고 있다는 주장이 제기됐다. 한국문화관광연구원의 양지훈 콘텐츠연구본부 부연구위원은 ‘웹툰산업 제작 구조 변화에 따른 정책방안 연구’라는 논문을 통해 “AI 기술의 무분별한 활용으로 인해 창작자 권리가 약화되고, 관련 산업의 붕괴를 가속화되는 것을 막기 위해 정책적 대응이 필요하다”고 28일 밝혔다. 애니메이션 스타일의 개인 사진 제공 서비스는 자신의 사진을 업로드하면 AI가 유명 애니메이션 스타일로 재구성해 주는 걸 말한다. 요즘 일본 애니메이션 업체인 지브리사의 화풍으로 인물 사진을 만드는 것이 유행이다. 양 연구원은 오픈AI의 ‘챗GPT’와 ‘Sora’ 등과 같은 생성형 AI 서비스들이 이미지와 영상을 빠르게 제작하면서 기존 콘텐츠 제작 환경을 급격히 변화시키고 있다고 분석했다​. 특히 일본 애니메이션 스타일, 이른바 ‘지브리풍’ 변환 서비스 같은 기술은 원작 스타일을 무단 학습해 저작권 침해 소지를 만들고, 개인 사진과 영상 데이터를 수집해 초상권과 개인정보 침해 문제를 야기하고 있다. 양 연구원은 “AI가 이 생성하는 콘텐츠에는 사용자의 얼굴, 신체 특징, 표정 등이 그대로 반영되거나 재가공될 수 있으며, 이 과정에서 사용자 동의 없이 데이터가 수집·학습·활용될 위험이 있다”며 “이는 단순한 저작권 이슈를 넘어, 개인의 인격권과 사생활 보호권 침해 문제로 이어질 수 있다”고 우려했다. 그는 이어 “최근 주요 AI 플랫폼들이 사용자 데이터를 학습하지 않도록 설정할 수 있는 기능을 도입하고 있으나, 사전 고지나 동의 없는 자료수집이 여전히 이뤄지는 경우도 적지 않다”고 주장했다. 하지만 이에 대한 정책 대응은 여전히 굼뜨다. 양 연구원은 “작가들이 자신의 그림체가 AI에 학습돼 제3의 콘텐츠로 재가공되는 것을 매우 심각한 권리 침해로 인식하고 있으며, 콘텐츠 이용자들도 내가 올린 사진이 어느 순간 상업적 콘텐츠로 활용될 수 있다는 불안감을 느끼고 있는 상황”이라며 “생성형 AI 기술이 콘텐츠 산업의 혁신을 이끌 수 있는 건 분명하지만, 창작자와 이용자의 권리가 침해된다면 산업 전반의 신뢰 기반 자체가 무너질 수 있어, 저작권과 초상권을 균형 있게 보호하는 정책 대응이 반드시 필요하다”고 강조했다.

가수 지드래곤의 음악이 우주로 진출한다. 지드래곤이 초빙교수로 몸담고 있는 한국과학기술원(KAIST·카이스트)와 협력한 프로젝트를 통해서다. 지드래곤의 소속사인 갤럭시코퍼레이션은 지드래곤이 카이스트 우주연구원에서 자신의 음원 및 뮤직비디오를 우주로 송출하는 ‘지드래곤 우주음원 송출 프로젝트’를 진행한다고 이날 밝혔다. 이날 우주로 송출되는 지드래곤의 뮤직비디오는 ‘챗GPT’ 개발사인 오픈AI의 영상 생성 AI 모델 ‘소라(Sora)’를 통해 제작된 것으로, 오픈AI의 최대 투자자이자 전략적 파트너인 마이크로소프트(MS)와 갤럭시코퍼레이션의 협력을 통해 탄생한 것으로 알려졌다. 이번 프로젝트는 전설적인 록밴드 비틀즈의 음악을 우주로 송출했던 미 항공우주국(NASA)의 ‘세티(SETI) 프로젝트’와 연계돼 있다고 갤럭시코퍼레이션은 설명했다. 외계에 살고 있는 지적 생명체의 존재를 찾아나선 세티 프로젝트를 전개했던 미 항공우주국은 창립 50주년이었던 2008년 비틀즈의 대표곡 ‘어크로스 더 유니버스’를 북극성을 향해 송출했다. 갤럭시코퍼레이션은 “카이스트 기계공학과 초빙교수이기도 한 그의 이번 시도는 우주과학과 인공지능(AI), 그리고 엔터테인먼트 분야를 아우르는 ‘엔터테크’의 미래 이정표가 될 것”이라며 “단순한 음악적 시도를 넘어 인류 문화를 우주에 영구히 보존하고 다른 문명과 소통을 시도하는 예술적 실험”이라고 자평했다.

생성형 인공지능(AI) 회사 오픈AI가 최근 선보인 지브리 애니메이션 스타일의 이미지 생성 기능이 소셜미디어(SNS)에서 큰 인기를 끌고 있지만, 이와 함께 예술계의 우려도 깊어지고 있다. 27일(현지시간) 미국 NBC뉴스에 따르면, 오픈AI는 최신 버전 ‘GPT-4o’에 이미지 생성 기능을 추가해 월 20달러 이상의 유료 서비스 이용자들이 자신의 사진을 ‘지브리 스타일’로 변환할 수 있게 했다. 이 기능은 동영상 생성 AI ‘소라’(Sora)에서도 사용 가능하다. 이용자들은 가족, 친구, 반려동물과 함께 찍은 사진을 지브리 애니메이션 스타일로 변환해 SNS에 공유하기 시작했으며, 오픈AI CEO 샘 올트먼도 자신의 엑스(X·옛 트위터) 프로필 사진을 지브리 스타일로 바꾸며 이 유행에 동참했다. 많은 이용자가 이 새로운 AI 도구에 열광하는 반면, 일각에서는 지브리 애니메이션 영화 감독인 미야자키 하야오의 작품 가치가 훼손됐다는 비판도 제기된다. 이러한 변환 이미지는 ‘AI 슬롭(Slop·오물)’에 불과하며 인간 고유의 창작물과는 달리 “영혼이 없다”는 지적이다. 엑스의 한 이용자는 “오늘 우리가 본 것은 AI 슬롭의 전형이다. 가짜 지브리가 넘쳐나고 예술은 단순한 ‘콘텐츠’로 전락했다. 독창적 디자인은 기계적 복제물이 됐고, 창의성은 사라졌다”고 비판했다. 이런 현상은 AI 기술이 예술 영역 전반에 침투하는 것에 대한 예술가들의 우려가 지속되는 가운데 벌어졌다. 2023년 말에는 이미지 생성 AI ‘미드저니’가 수천명의 예술가 작품을 동의 없이 학습 데이터로 사용한 사실이 논란이 됐으며, 지난해에는 1만 1000명 이상의 창작자들이 AI의 무단 작품 학습을 비난하는 공개 서한에 서명했다. 지난달에는 뉴욕 크리스티 갤러리의 AI 아트 경매 취소를 요구하는 공개 서한에 수천명의 예술가가 동참했다. 이들은 “출품 예정 작품 다수가 저작권이 있는 작품을 무단으로 학습한 AI 모델로 제작됐다”고 지적했다. 오픈AI는 모델 훈련에 사용된 구체적 데이터를 공개하지 않고 있다. 그러나 NBC방송은 지브리 애니메이션 모방의 정확도가 매우 높아 스튜디오 작품이 무단 수집됐는지에 대한 의혹이 제기되고 있다고 보도했다.

생성형 AI 활용 영상 국제 공모, 콘퍼런스, 상영회 개최 생성형 AI 활용 영상미디어 공모, 총상금 규모 8천만 원경기도와 경기콘텐츠진흥원이 ‘AI가 선사하는 새로운 기회’를 주제로 ‘경기 국제 AI 미디어 페스티벌’을 10월 25일 킨텍스에서 개최한다. 경기도는 11일 김대식 카이스트 교수, 김태용 영화감독, 한상호 EBS CP, 김혜연 안무가 등으로 구성된 준비위원회를 열고 경기 국제 AI 미디어 페스티벌의 출품 규정을 포함한 행사계획 등을 확정했다. ‘경기 국제 AI 미디어 페스티벌’은 생성형 AI를 활용한 새로운 미디어 콘텐츠 활성화를 위한 공모전, 생성형 AI 등장에 따른 문화콘텐츠 창작자의 기회와 위기를 다루는 콘퍼런스, 공모전 수상작 상영회로 진행된다. 전 세계 문화콘텐츠 창작자를 대상으로 생성형 AI를 활용한 영상미디어 공모전이 7월 1일부터 9월 3일까지 2달간 진행된다. ▲내러티브 ▲다큐멘터리 ▲아트&컬처 ▲자유 포맷 4가지 분야로 진행되며, 총상금은 8천만 원이다. 10월 25일 페스티벌에서는 콘퍼런스와 공모전 시상식, 작품 상영회 등이 열린다. 콘퍼런스는 국내외 AI 전문가 및 AI 활용 콘텐츠 창작자를 중심으로 생성형 AI를 활용한 콘텐츠 제작 기술 동향뿐 아니라 문화콘텐츠 창작자의 위기에 대한 우려와 새로운 기회, AI를 둘러싼 법적, 제도적, 윤리적 이슈 등 민감한 주제들이 다뤄질 예정이다. 페스티벌에서는 공모전을 통해 선정된 26개 작품의 상영회와 감독과의 대화 등이 진행된다. 이종돈 경기도 문화체육관광국장은 “소라(Sora) 등 생성형 AI의 등장으로 많은 콘텐츠 창작자가 위기를 느끼고 있다”면서 “역사에서는 항상 새로운 기술의 등장과 함께 새로운 창작 모델이 생겨났고 개인의 창의력을 더욱 다양한 콘텐츠를 만들어내는 기회로 만들었다. 이번 페스티벌이 그러한 기회를 제공할 것으로 기대한다”라고 밝혔다.

미국의 유명 배우 톰 행크스(67)가 지난해 말에 자신의 모습을 담은 인공지능(AI) 광고 사기로 홍역을 앓았다. 한 보험사가 자신의 모습을 흉내 낸 AI 영상으로 치과 보험 홍보 영상을 만들어 고객 유치에 활용한 것이다. 문제가 커지자 톰 행크스는 자신의 소셜미디어에 보험 광고와 자신은 아무 관련이 없다는 내용의 게시물을 올리는 등 피해 저지에 안간힘을 썼다. 콘텐츠 제작이 가능한 생성형 AI 서비스가 등장하며 빚어진 촌극이다. AI 딥페이크(이미지 합성기술)가 고도로 발전하면서 전 세계의 관련 산업 전반에 큰 영향을 끼치고 있다. 한국문화관광연구원이 최근 펴낸 ‘콘텐츠 제작 생성형 AI 서비스 등장’은 이런 문제들을 국내 사례를 통해 짚어 본 연구 논문이다. AI 콘텐츠 산업 전반의 동향을 파악하고 향후 발생하게 될 변화 양상과 주요 이슈들을 분석했다.보고서의 동향 분석 결과에 따르면, 텍스트로 동영상을 생성하는 ‘Text-to-Video’ 서비스에서부터 사운드, 배경 음악, 더빙, 번역 등에 이르기까지 다양한 영상 제작 관련 생성형 AI 서비스들이 등장하고 있는 것으로 나타났다. 예컨대 ‘Text-to-Video’ 영역에는 ‘Runway’, ‘Stable Video Diffusion’ 등의 서비스들이 출시됐고, 구글의 ‘Lumiere’, 오픈AI의 ‘Sora’와 같이 이미 많은 데이터를 확보한 빅테크 기업들의 출시가 본격화되고 있다. 보고서는 생성형 AI 활용 확대가 콘텐츠 산업에 많은 영향을 미칠 것으로 예상했다. 무엇보다 지식재산권(IP)의 확장 가능성이 커져 원천 IP의 중요성이 더 커질 것으로 내다봤다. 또 언어와 문화적 장벽 완화로 글로벌 원 마켓이 가속화될 것으로 전망했다. 일자리 부문에선 그래픽 디자인, 배경·세트 디자인 등 분야 인력들이 AI로 인해 대체 또는 감소하겠지만, 변화하는 구조에 맞춰 신규 업무들도 발생할 것으로 예상했다. 보고서는 급변하는 산업 환경에서 선제적으로 대응해야 할 이슈들도 제시했다. 영상 콘텐츠에 생성형 AI 활용이 활성화될 때 사회적으로 가장 크게 문제가 될 수 있는 주제 중 하나로 가짜 뉴스와 딥페이크를 뽑았다. 보고서는 “생성형 AI의 학습을 위한 데이터 저작권 문제, 생성형 AI를 통한 창작물의 저작권 인정 여부 등도 향후 이해관계자들에게 첨예한 다툼을 예고하고 있다”며 “할루시네이션(환각현상), 데이터 오염, 탄소배출이나 환경오염 등의 문제도 정부 차원에서 선제적으로 대응해야 할 이슈”라고 강조했다.

생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별 표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽다는 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 제니퍼의 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다. 업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별 표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지 의무 등이 담겨 있다. 하지만 다음달 임시 국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”면서 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

넷플 다큐에 AI 이미지 사용 논란무분별한 AI 활용에도 제한 없어“의무 규정 없다면 AI 제작 숨길듯”‘AI 기본법’ 1년 넘게 국회 계류중 생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽단 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다.업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 재연이 어려우면 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지의무 등이 담겨있다. 하지만 다음달 임시국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”며 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것 -텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가. “놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.” -대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다. “딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.” -AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다. “그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것 -생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까. “실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.” -AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다. “국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.” -생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까. “생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.” -사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까. “저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.” #오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것 -정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가. “포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.” -AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나. “인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.” #저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것 -생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다. “AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.” -챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가. “그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.” #제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.

챗GPT 개발사인 오픈AI의 샘 올트먼이 만든 새 가상화폐 ‘월드코인’의 가격이 최근 한 달새 두 배 이상 급증하면서 국내에서도 월드코인을 구하기 위해 홍채 인증을 하려는 사람들이 몰려 들고 있다. 올트먼이 설립한 월드코인재단에서 식당이나 카페 등 곳곳에 인증기기를 설치해 놓고 홍채를 인증하면 월드코인을 지급하기 때문이다. 지난 28일 기자가 월드코인을 받을 수 있는 서울 중구 을지로의 한 카페를 찾아 직접 홍채 인식을 해보니 개인정보와 관련해 여러 가지 문제점이 나타났다. 월드코인을 만든 올트먼은 앞으로 온라인에서 인공지능(AI)과 진짜 사람을 구별할 수 없게 되는 시대를 대비해 홍채 인증과 같은 신원 확인이 필요하다고 주장한다. 이를 대비해 일종의 디지털 신분증인 ‘월드 ID’를 만들었는데, 이용자가 홍채를 인증해 월드 ID를 만들면 월드코인을 지급해 주는 식이다. 현재 국내에는 월드코인 개발사인 툴포휴머니티(TFH)의 홍채 인증기기인 오브(Orb)가 설치된 카페, 식당 등이 10곳 있다. 그 중 한 곳을 방문해 기기에 눈을 대고 스캔하자 가상자산 지갑 ‘월드앱’에 코인 10개가 들어왔다. 이런 식으로 2주마다 3개씩 1년간 총 76개의 월드코인을 받을 수 있다고 기기 운영자는 설명했다. 현재 거래가로 계산하면 홍채 인증으로 80만원 상당의 새 가상자산을 받게 되는 셈이다.월드코인은 최근 오픈AI가 생성형 AI로 동영상을 제작하는 ‘소라’(Sora)를 출시한 이후 가격이 급등했다. 1일 가상자산 시황 중계 사이트 코인마켓캡에 따르면, 이날 오전 11시 월드코인의 가격은 1만 137원을 기록했다. 지난달 1일(3220원) 대비 약 214% 오른 것이다. 국내 원화 거래소인 빗썸에서도 같은 시간 1만 670원대에 거래되고 있다. 그러자 국내에서도 홍채를 등록하고 월드코인을 보유하려는 사람들이 몰리기 시작한 것이다. 언젠가 비트코인처럼 가격이 오를지 모른다는 기대감 때문인지 현장에서 만난 이용자들은 민감 정보를 등록하는 것에 대한 거부감은 크게 없어 보였다. 기자가 홍채를 등록한 을지로 카페에서 만난 김모(72·여)씨는 “같이 일하는 사람들 사이에서 공짜로 코인을 받을 수 있다는 얘기가 나와 함께 방문했다”면서 “눈만 잠시 가져다 대면 된다니 별 문제가 될 것 같진 않다”고 말했다. 서울 여의도에서 홍채를 인증하고 월드코인을 받은 직장인 이모(27)씨도 “이미 지문도 여러 금융사에 등록돼 있는데 홍채라고 별다를 게 있을까 싶다”고 말했다.월드코인 관계자는 “지점별로 하루 평균 방문객이 예전에는 5명 정도였는데 최근에는 200명씩 찾아오고 있다”면서 “방문객은 20대부터 80대 어르신까지 다양하다”고 말했다. 내 홍채 정보 어디에 쓰일지도 모르는데… 그러나 아직 검증되지 않은 가상자산을 그것도 개인의 민감한 생체정보를 등록하고 받는다는 점에서 여러 가지 문제가 제기된다. 우선 개인의 홍채 정보를 제공하면 가상자산을 지급하는 방식을 놓고 ‘개인정보 매매’ 논란이 제기된다. 김명주 서울여대 정보보호학과 교수는 “홍채는 개인의 고유 정보로 이를 수정할 수 없기 때문에 어떤 형식으로도 사고파는 것은 불법”이라고 말했다. 다만 “(돈이 아니라) 코인이라는 점에서 매매로 단정짓기는 어렵다”며 “이것이 매매행위에 해당하는 것인지를 먼저 따져본 뒤 개인정보보호법이 지켜지는지 봐야할 것”이라고 설명했다. 홍채 등록 과정에서도 개인의 등록 정보가 어디에 어떻게 쓰이는지 알기 어려웠다. 국내 개인정보보호법상 개인정보 수집 목적, 이용 기간 및 방법, 국외 이전 가능성 등을 사전 고지해야 하지만, 이런 설명은 듣기 어려웠다. 전문가들은 법 위반 소지가 있다고 지적한다. 최진홍 법무법인YK 변호사는 “사전에 알린 목적이 아닌 다른 목적으로 개인의 생체 정보들을 이용하는 경우 수집 단계부터 위법하다고 볼 수 있다”며 “해외에 있는 서버로 생체 정보를 옮겨 사용하겠다는 방침도 충분히 설명됐는지 확인할 필요가 있다”고 말했다.월드코인은 이렇게 수집한 홍채 정보를 블록체인에 데이터 형태로 저장하고 원본 데이터는 지운다고 설명한 바 있지만, 한번 정보를 이전하고 나면 어떻게 이용되는지는 사실상 확인할 길이 없다. 이러한 우려 때문에 미국에서는 월드코인 발급과 거래 자체가 불가능하며, 영국과 프랑스, 독일은 위법성 여부에 대한 조사에 착수한 상태다. 황석진 동국대 국제정보보호대학원 교수는 “금융 모바일 앱의 보안인증처럼 개인정보는 사용 목적과 용도를 명확히 하고 수집해 활용해야 한다”며 “정기적으로 개인정보 이용 현황을 제공자에게 알려야 하고 파기 기한도 정해야 하지만 월드코인의 약관에 이런 부분까지 명시돼 있을지는 확실하지 않다”고 말했다.

전 세계적으로 ‘소라(Sora)’ 열풍이다. OpenAI가 발표한 텍스트로 동영상을 제작해 주는 인공지능으로 생각보다 수준 높은 동영상 퀄리티에 업계는 물론 일반 시민들조차도 놀라움을 금치 못하고 있다. OpenAI에서 지난 2월 15일 발표한 내용은 테스트 버전으로 아직 대중들에게 정식으로 공개되지 않은 상황이다. 그러나 이 ‘틈새시장’을 노려 벌써부터 AI 강의 시장이 들썩이고 있다. 정식 출시도 되지 않은 상황에서 Sora 관련 응용 수업, 자문 서비스, ‘독점’이라는 타이틀을 달고 수강생들을 모으고 있다. 21일 중국 현지 지무신문에 따르면 2월 15일 미국 Open AI에서 텍스트로 동영상을 생성하는 Sora를 발표한 즉시 중국 온라인 강의 시장에서 관련 강의가 쏟아져 나왔다. 현재 Sora의 경우 구체적인 사용 방법이 공개되지 않았고 일부 연구진들만 사용 권한이 있는 상태인데 소비자들의 관심이 모이는 틈을 타 사기 행각을 벌이는 것이다. 온라인 AI 관련 수업에는 저마다 ‘SORA’ 를 강조하며 누구보다 빨리 SORA를 이용할 수 있다고 강조한다. 수강료는 99위안(약 18000원) 수준으로 강의 구매 후 교환 및 환불은 ‘불가’하다. 커리큘럼을 살펴보면 Sora 전용 지시어 모음, Sora 전용 지시어 교육, Sora 전용 지시어 기술 30가지 등으로 콘텐츠 제작자, 광고 마케팅, 교육 종사자 등에 적합한 수업이라고 말한다. 우후죽순으로 나오고 있는 Sora 강의 가격대는 천차만별이다. 가장 저렴한 것은 Sora 사용 툴 강의로 강의료는 단돈 1위안, 우리 돈으로 200원도 되지 않는 가격에 판매하고 있다. 이미 700명 넘는 사람들이 이 강의를 구매한 것으로 알려졌다. 심지어 ‘Sora 내부 테스트 계정 신청’이 적게는 0.01위안 많게는 50위안(약 9232원)의 가격으로 판매되었지만 실제로 계정을 신청하면 최소 300위안(약 5만 5000원)을 요구한다. 워낙 많은 수업이 있지만 그중에서도 ‘자칭’ AI 전문가로 통하는 인물, 리이저우(李一舟)를 빼 놓을 수 없다. 중국 최고 명문대인 칭화대 박사 출신의 그는 IT 회사 3곳의 창업주이자 보유 자산만 수백억 대로 알려졌다. AI 솔루션, 비즈니스 모델, 지적재산권 관련 문제 관련 컨설팅을 주로 하면서 SNS 상에서 팔로워 331만 명을 보유한 인물이다. 원래 온라인상에서 자기개발 관련 영상을 올리던 그는 2023년 챗GPT(ChatGPT)가 공개된 이후 AI 강의를 판매하기 시작했다. 틱톡을 비롯한 중국 내 동영상 플랫폼에서 수시로 라이브 방송을 하면서 강의를 판매했고 그의 AI강의는 199위안(약 3만 7000원)이다. ‘모두의 AI 수업’이라는 강의는 1년 동안 약 25만 명이 구매했고 판매 금액만 약 5000만 위안(약 92억 3200만 원)에 달한다. 그러면서 자신을 “중국에서 ChatGPT를 가장 잘 활용하는 사람”이라고 강조하면서 홍보하고 있다. 그러나 실제 수강생들은 강의 내용이 불만족을 표시하며 환불을 요구했고, 칭화대 박사생이라고만 밝혔던 그는 사실 디자인을 전공한 것으로 알려졌다. 수강생을 위한 단체 채팅방에서 여러 수강생들이 환불을 요구하자 아예 대화방을 삭제하는 등의 행동으로 의심을 사고 있다. 전문가들은 “현재 온라인에서 유행하는 AI 강의는 실제로 수익화로 이어지는 내용이 없는 경우가 많다”라면서 “아무리 저렴한 수강비라도 사기를 당하지 않도록 조심해야 한다”라며 조언했다. 실제로 한 온라인 플랫폼에서 ‘Sora’라고 입력하자 30개가 넘는 커뮤니티가 검색되었고 이 중 10개는 유료 입장을 해야 하는 곳이었다.