SNS 아동 유해성美법원, 메타에 벌금 5600억딥페이크 폐해 머스크 업체 10대 사진 범죄 방치중독성 설계EU, 틱톡의 서비스 위반 예비 판단 무단 도용 오픈AI, 영상 생성AI ‘소라’ 폐쇄 ●빅테크의 윤리적 책임론 대두 인공지능(AI) 성능 고도화에 집중해 온 글로벌 빅테크 기업들이 아동 유해 콘텐츠 노출, 저작권 침해, 딥페이크 영상 확산 등의 부작용을 낳으면서 사회적 비용에 대한 책임론에 직면하고 있다. 미국 뉴멕시코주 1심 법원의 배심원단은 24일(현지시간) 인스타그램, 페이스북 등을 운영하는 메타가 아동의 정신건강에 해로운 영향을 미쳐 소비자 보호법을 위반했다며 3억 7500만 달러(약 5619억원)의 벌금을 내라고 평결했다. 메타가 소셜미디어(SNS) 내 아동 성 착취의 위험성과 정신건강 악영향 가능성을 인지했음에도 별다른 조치를 취하지 않고 이익을 우선시했다는 취지다. 이번 평결은 주 정부가 빅테크 기업에 SNS 플랫폼 내 유해 콘텐츠의 관리 문제로 법적 책임을 물어 승소한 첫 사례다. 메타 측은 즉각 항소 입장을 밝혔지만, 멕시코주 법무부는 메타를 상대로 실효성 있는 연령 확인 제도 도입 등의 변화를 만들도록 하기 위해 또 다른 소송을 진행 중이다. 이번 평결은 유사한 소송에서 선례가 될 전망이다. 미국 캘리포니아에서는 청소년이 SNS 플랫폼에 중독되는 구조를 의도적으로 설계했다는 내용으로 메타와 구글을 상대로 소송이 진행 중이다. 유럽연합(EU) 집행위원회는 지난달에 틱톡이 온라인 안전 규정을 위반했다는 예비 조사 결과를 발표하고 서비스 설계 전반에 대한 시정 조치를 요구했다. 이른바 ‘중독적 설계’를 변경하라는 내용이다. 딥페이크 역시 핵심 분쟁 사안이다. 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 xAI의 생성형 AI ‘그록’은 미성년자 사진을 성적 이미지로 변환시켰다가 미국 캘리포니아 연방법원에 집단소송을 당했다. 미국의 AI 스타트업 스트래티지3의 ‘클로드오프’ 역시 지난해 10대 여학생의 사진을 딥페이크 범죄에 이용하도록 방치했다는 이유로 피소당했다. 빅테크가 감수해야 할 사회적 책임이 커지면서 기업들의 AI 운영 기조도 변하는 분위기다. 오픈AI는 이날 AI 동영상 생성 도구인 ‘소라’ 서비스를 2년여 만에 철수하겠다고 밝혔다. 코딩과 기업용 도구를 개발하는 쪽으로 자원을 집중하려는 사업적 취지가 컸지만, ‘소라2’ 이후 지속되는 논란도 영향을 준 것으로 보인다. 미국영화협회(MPA)는 ‘소라2’가 출시된 직후인 지난해 10월 성명을 내 “소라2가 저작권이 있는 콘텐츠를 무단으로 사용하는 데 이용되고 있다”며 조치를 촉구했다. ●AI 운영 기조도 큰 변화 불가피 배우 톰 크루즈와 브래드 피트의 격투 영상으로 ‘제2의 딥시크’로 주목받았던 중국의 영상 제작 AI ‘시댄스2.0’은 저작권 논란에 휘말리며 공식 출시를 무기한 연기했다. 소프트웨어정책연구소에 따르면 지난해 11월 말 기준으로 AI 기업에 제기된 저작권 관련 소송은 미국에서만 59건, 전 세계에서 70개를 초과한 것으로 집계됐다.

‘지브리풍 이미지 생성’이 인공지능(AI) 세상을 휩쓸자 세계적인 애니메이션 제작사 스튜디오 지브리를 회원사로 둔 일본 콘텐츠 기구가 오픈AI에 공식 경고장을 보냈다. 일본 콘텐츠해외유통촉진기구(CODA)는 지난달 27일 오픈AI의 동영상 생성형 AI ‘소라 2’ 운영과 관련해 “회원사의 콘텐츠를 허락 없이 사용하지 말라”는 내용의 공개서한을 발송했다고 4일 밝혔다. CODA는 “소라2에서 일본의 기존 콘텐츠 혹은 그와 유사한 영상이 다수 생성되고 있다”며 “이는 일본 콘텐츠를 학습 데이터로 활용한 결과로 판단된다”고 지적했다. 이어 “특정 저작물이 출력물로 재현되거나 유사하게 생성되는 상황에서는 학습 과정에서의 복제 행위 자체가 저작권 침해”라고 강조했다. 이번 경고는 최근 오픈AI의 이미지·영상 생성 도구가 일본 애니메이션 화풍을 모방하고 있다는 지적이 잇따르는 가운데 나왔다. 실제 지난 3월에는 챗GPT의 이미지 생성 기능을 통해 ‘지브리풍’ 이미지를 만들 수 있다는 사실이 알려지며 자신의 사진을 지브리 스타일로 변환하는 게 전 세계적으로 유행했다. 스튜디오 지브리의 미야자키 하야오 감독은 ‘지브리풍’ 이미지 변환에 대해 직접적인 입장을 밝힌 적은 없다. 다만 그는 2016년 AI가 만든 3D 애니메이션을 보고 “극도의 혐오감을 느낀다”고 한 바 있다. 한편 기구는 오픈AI가 사전 허락이 아닌 사후 이의 제기를 받는 방식으로 책임을 회피하고 있는 점도 문제 삼았다. CODA는 “회원사와 협력해 오픈AI의 성실한 대응을 요구해 나가겠다”고 밝혔다.

일본 애니메이션 제작사 스튜디오 지브리 측이 생성형 인공지능(AI) 모델 ‘챗GPT’의 개발사인 미국 오픈AI에 자사 콘텐츠 무단 학습을 중단해달라고 요구했다는 보도가 나왔다. 3일(현지시간) 미 정보기술(IT) 매체 테크크런치에 따르면, 일본 콘텐츠해외유통촉진기구(CODA)는 최근 “회원사의 허락 없이 저작권이 있는 콘텐츠를 AI 모델에 학습시키는 것을 중단해 달라”는 내용의 서한을 오픈AI에 보냈다. CODA는 지브리 스튜디오를 회원사로 두고 있다. 특히 CODA는 오픈AI의 동영상 생성 서비스 ‘소라(Sora)2’를 꼬집어 “특정 저작물과 똑같거나 유사하게 영상을 생성한다면, 콘텐츠 학습 과정에서의 복제 행위가 저작권 침해에 해당하는 것으로 본다”고 주장했다. 업계에 따르면 오픈AI는 자사 AI 모델이 콘텐츠를 학습할 때 저작권자의 ‘허가’를 받는 게 아니라 저작권자가 콘텐츠 사용 금지를 ‘요청’하도록 하고 있다. 이에 대해 CODA는 “일본 저작권법에 따르면 저작물을 사용할 때는 사전 허가가 필요하다”며 “사후 이의 제기를 통해 책임을 면할 수 있는 제도는 없다”고 지적했다. 오픈AI가 지난 9월 소라2를 출시한 이후 전 세계 네티즌 사이에서는 이를 활용한 지브리 풍 애니메이션 영상 제작이 유행하고 있다. 이와 관련해 일각에서는 오픈AI를 향한 저작권 소송이 빗발칠 것이라는 전망이 나왔다. 이러한 문제 제기는 지난 3월에도 있었다. 당시 챗GPT가 이미지 생성 기능을 출시하면서 이른바 ‘지브리 풍’ 이미지 제작이 전 세계적으로 유행했기 때문이다. 샘 올트먼 오픈AI 최고경영자(CEO)도 엑스(X) 프로필 사진을 지브리 풍으로 변경해 화제였다. 다만 미국의 현행 법령으로 AI 학습의 저작권 문제를 어떻게 판단해야 하는지는 여전히 불분명하다. 미국 저작권법이 1976년 이후 개정되지 않아 AI 문제에 쉽게 적용하기 어렵고, 사법적 판단에 도움을 줄 만한 판례도 부족하기 때문이다. 이 사안과 관련해 스튜디오 지브리의 설립자인 미야자키 하야오(84) 감독의 입장은 알려지지 않았다. 다만 그는 2016년 AI 제작 3D 애니메이션 시연을 본 뒤 “생명 자체에 대한 모욕이라고 강하게 느낀다”며 거부감을 드러낸 바 있다.

일본의 세계적인 애니메이션 제작사 스튜디오 지브리가 챗GPT 개발사 오픈AI에 자사 콘텐츠에 대한 인공지능(AI) 무단 학습을 중지하라고 요구했다. 3일(현지시간) 미국 정보기술(IT) 전문매체 테크크런치에 따르면 지브리를 비롯해 반다이남코, 스퀘어에닉스 등 일본 주요 콘텐츠 기업들은 콘텐츠 해외유통협회(CODA)를 통해 지난주 오픈AI에 회원사의 콘텐츠를 허락 없이 학습에 이용하지 말라는 내용의 공개서한을 보냈다. 이들은 오픈AI의 이미지·영상 생성 도구가 일본 애니메이션의 캐릭터와 화풍을 모방하고 있다고 했다. 특히 AI 영상 생성기 ‘소라2’가 자사 콘텐츠를 학습 데이터로 사용했을 가능성을 문제 삼고 있다. CODA는 서한에서 “소라2처럼 특정 저작물을 복제하거나 유사하게 생성하는 경우 학습 과정에서의 복제 행위 자체가 저작권 침해에 해당할 수 있다”고 했다. 이어 “일본의 저작권법상 저작물의 이용에는 원칙적으로 사전 허락이 필요하다”며 “사후 이의 제기로 침해 책임을 면할 수 있는 제도는 존재하지 않는다”고 했다. 지브리의 미야자키 하야오 감독은 이번 사안에 직접적인 입장을 밝히지는 않았지만, 2016년 AI가 만든 3D 애니메이션을 시연 받았을 당시 강한 거부감을 드러낸 바 있다. 그는 “극도의 혐오감을 느낀다”며 “이런 것을 보고 흥미롭다고 느낄 수 없다. 이것은 생명 자체에 대한 모욕이라고 생각한다”고 말했다. 오픈AI가 지난 9월 말 소라2를 내놓은 이후 이용자들은 인기 브랜드와 애니메이션 캐릭터를 AI로 생성한 동영상을 공유해오고 있다. 지난 3월 챗GPT의 이미지 생성 기능을 통해 ‘지브리풍’ 이미지를 만들 수 있다는 사실이 알려지며, 이용자들이 자신의 사진을 지브리 스타일로 변환해 공유하는 것이 전 세계적 유행이 되기도 했다.

30일(현지시간) 챗GPT의 개발사 오픈AI가 영상 생선 AI 모델 ‘소라2’ 출시와 함께 이 모델을 기반으로 한 소셜미디어 앱 ‘소라’를 공개했습니다. SNS 소라 앱에서는 소라2 모델로 영상을 제작한 후 업로드 해 다른 사람들과 공유할 수 있는데요. 케찹이 이 신상 SNS를 놓칠 순 없겠죠? 재빠르게 가입해봤습니다. 자세한 후기는 하단 인스타그램 게시물을 확인해주세요. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물 ⚡소셜미디어 앱 ‘소라’ 주요 특징 - 최대 10초짜리 AI 영상 직접 제작 및 업로드하는 SNS - 다른 사람 영상 리믹스(Remix) - ‘카메오’ 기능: 얼굴·목소리를 AI가 학습해 영상에 삽입 - 좋아요(Like) 버튼, 댓글(Comment) 기능 제공 및 사용자 관심 영상 추천 등 → 기존 소셜미디어와 비슷한 구조 ※현재 ‘소라2’를 이용해 만든 영상만 업로드 가능 → 기존 앨범이나 다른 앱에서 영상·이미지 불러오기 불가 ⚡왜 SNS 출시했을까? - 직접 수익 창출에 나섰다는 분석 → 광고, 프리미엄 구독, 소셜 네트워크 기반 모델을 통해 수익성을 확보 목적 - AI챗봇과 같이 기존 텍스트 중심에서 이미지·영상으로 이동했다는 평가 ⚡소라의 미래는? - 현재 ‘성공 여부는 지켜봐야 한다’는 업계 신중론 → 서버·GPU 등 인프라에 추가 비용로 인해 재무 부담 커질 수 있어 - 미국 내에서 AI 서비스에 대한 여러 규제 본격화 중, 오픈AI에 어떤 영향 미칠지 미지수 - AP통신 “전문가들이 ‘소라’ 앱이 영상 AI 홍수를 불러와 ‘AI slop’ (쓰레기 콘텐츠 범람) 상황을 만들 수 있어 우려”한다고 지적