“치료 도구로 알려 오해할 여지 있어”텍사스, AI 스튜디오·캐릭터AI 조사“메타, 어린이와 로맨틱한 대화 허용”美상원, 내부 문서에 담긴 의혹 겨냥개인정보 유출·광고 활용 등 우려도 인공지능(AI) 챗봇이 전문의료 자격 없이 정신건강 상담을 하고 어린이들을 상대로 선정적인 대화를 나눈 혐의로 미국 검찰과 의회의 조사를 받게 됐다. 한국에서도 전문상담사가 아닌 생성형 AI와의 심리 상담이 선풍적인 인기를 끌고 있는 상황에서 윤리적·법적 안전 장치에 대한 필요성이 제기되고 있다. 18일(현지시간) 파이낸셜타임스(FT)는 켄 팩스턴 미 텍사스주 법무장관이 페이스북과 인스타그램 운영사인 메타의 ‘AI 스튜디오’와 챗봇 스타트업 ‘캐릭터AI’에 대한 조사를 시작했다고 밝혔다고 보도했다. 팩스턴 장관은 “(업체들이) 챗봇이 의료 자격이 없는데도 전문적인 치료 도구로 홍보했다”면서 “취약한 사용자, 특히 아동이 정신건강 치료를 받고 있다고 오해할 여지가 있다”고 지적했다. 그는 “AI 챗봇이 면허를 보유한 정신건강 전문가를 사칭하고 자격증을 조작할 수 있다”면서 “또 기밀을 보호한다는 주장과 달리 서비스 약관에는 대화 내용이 기록돼 타깃 광고, 알고리즘 개발에 이용된다고 적혀 있다”고 했다. 앞서 미 연방 상원도 지난 15일 메타의 챗봇이 어린이들과의 대화에서 ‘선정적’이고 ‘로맨틱’한 대화를 나눌 수 있도록 허용했다는 의혹이 제기돼 공식 조사에 나섰다고 BBC가 전했다. 메타의 이런 정책은 내부 문서가 유출되면서 드러났다. 우리나라에서도 AI 챗봇에 의료 관련 상담은 물론 ‘사주 AI’등 챗봇에 사적인 이야기를 털어놓고 정서적 지지를 구하는 심리 상담이 활발한 상황이다. 채용 플랫폼인 진학사 캐치의 지난달 ‘Z세대 구직자 대상 AI 활용 경험’ 설문조사에선 ‘실제 사람보다 AI에게만 고민을 털어놓은 경험이 있는지’에 대해 73%가 ‘있다’고 응답했다. 아서 에번스 주니어 미국심리학회 회장은 미국 연방거래위원회(FTC)에 “AI 챗봇이 우울증 환자의 자살 충동을 부추길 수 있다”고 지적했다. 실제로 미 플로리다주에선 14세 소년이 AI 챗봇과 대화한 뒤 스스로 목숨을 끊어 유가족이 소송을 냈고, 텍사스주에선 ‘스크린타임’으로 부모와 갈등을 빚던 10대 소년에게 챗봇이 ‘부모를 죽이라’고 제안했다는 내용의 소송이 제기됐다. 내담자의 개인정보 유출 우려도 크다. 개인정보가 AI 운영사에 자동으로 수집돼 상업적 목적으로 활용될 가능성이 높고, 타 기관 요청에 따라 유출될 가능성도 높다. AI 챗봇에 대한 윤리적 규제, 안전한 사용을 위한 가이드라인을 마련할 필요가 있다는 지적이 나오는 이유다.

시청자미디어재단(이사장 최철호)은 오는 27~28일 양일간 서울센터에서 ‘AI와 딥페이크, 상상의 경계에 서다’를 주제로 ⌜2025 서울미디어페어」를 개최한다고 14일 밝혔다. 서울미디어페어는 인공지능(AI)과 딥페이크 기술의 양면성을 균형 있게 이해하고 책임감 있는 디지털 시민으로서 필요한 역량 함양을 목표로 마련됐다. 이번 행사에는 ▲전국 초·중·고생을 대상으로 진행된 AI공모전 시상식과 ▲SK텔레콤·LG유플러스·KBS 등 미디어 전문가에게 듣는 ‘AI와 미디어 미래’ 특강 ▲시청자미디어재단 강사들이 개발한 미디어 교육 연구 사례 발표 ▲AI와 딥페이크 관련 최신 기술 체험 등 기술의 양면성을 균형 있게 이해할 수 있는 다양한 프로그램이 마련된다. 이 프로그램에는 연세대학교 고등교육혁신원 ‘필루밍’ 및 중앙대 미디어커뮤니케이션학부 동아리 ‘시퓨즈’ 회원 등 대학생과 서울방송고, 한강미디어고 학생 등 미디어 전문가를 꿈꾸는 청소년 900여명이 참여한다. 또 ▲넷플릭스 화제작 ‘케이팝 데몬 헌터스’와 함께하는 배리어프리 화면해설(음성)과 자막 체험 행사가 열려 장애인과 비장애인이 장벽 없이 콘텐츠를 즐길 수 있게 된다. 본 행사에 앞서 8월 19일부터 23일까지 서울센터 1층 로비에서는 사전 행사로 ‘한여름 밤의 영화 상영회’가 열려 시원한 여름밤을 배경으로 영화를 무료로 즐길 수 있다. 최철호 시청자미디어재단 이사장은 “AI는 우리의 미디어 환경을 혁신적으로 변화시키는 동시에 새로운 윤리적 과제를 던지고 있다”며 서울미디어페어가 시민과 청소년들이 AI를 균형 있게 이해하고, 올바르게 활용하는 지혜를 나누는 장이 되기를 바란다”고 말했다. 행사와 관련된 자세한 사항 및 영화 관람과 체험 신청은 서울시청자미디어센터 홈페이지 공지사항을 참고하면 된다.

경기도의회 보건복지위원회 지미연 의원(국민의힘, 용인6)은 8월 8일(금) 「경기도 사회복지 인공지능 서비스 활용 촉진 지원 조례안」 제정을 위한 정담회를 열었다. 이번 정담회에는 경기도 복지국장과 담당자가 참석해 조례 제정의 취지와 필요성을 공유하고, 현장의 목소리와 정책 방향을 구체화하는 시간을 가졌다. 지 의원이 발의 준비 중인 조례는 최근 상담·돌봄·사례관리 등 사회복지 현장에서 인공지능 기술 도입이 빠르게 확산하는 흐름에 대응하기 위한 것이다. 인공지능 기술은 복지 사각지대 해소와 행정 효율화에 기여할 잠재력이 있지만, 동시에 알고리즘 편향으로 인한 차별, 민감한 개인정보 유출, 종사자 고용 불안 등 부작용 우려도 커지고 있다. 특히 경기도는 현재 ‘경기도 AI 말벗서비스’, ‘AI 기반 노인돌봄서비스’, ‘장애인거주시설 IoT’ 등 다양한 인공지능 기반 사회복지 프로그램을 운영하고 있으나, 이를 포괄하는 법적 근거가 없어 서비스 운영의 안전성 확보와 정책 방향의 일관성이 부족하다는 지적이 제기되고 있다. 지 의원은 “이번 조례는 인공지능 기술의 순기능을 극대화하고, 부작용을 최소화하는 제도적 장치가 될 것”이라며, “정보취약계층을 포함한 모든 도민이 차별 없이 AI 복지서비스 혜택을 누릴 수 있도록 제도적 기반을 마련하겠다”고 밝혔다. 마지막으로 지 의원은 “완성도 높은 조례를 위해 앞으로 이해관계자 정담회와 정책토론회 등을 통해 다양한 의견을 수렴하고, 심도 있는 논의를 이어가겠다”며, “AI 시대에 걸맞은 안전하고 윤리적인 복지서비스 환경을 만드는 데 최선을 다하겠다”고 덧붙였다.

영국의 전설적인 싱어송라이터 로드 스튜어트(Rod Stewart)가 최근 투어 공연 중 선보인, 인공지능(AI)으로 제작한 헌정 영상이 논란이 됐습니다. 이 영상은 지난 29일(현지시간) 미국 노스캐롤라이나주에서 열린 로드 스튜어트의 콘서트에서 처음 공개됐는데요. 이 영상은 22일 세상을 떠난 밴드 블랙 사바스의 리드 보컬 오지 오스본(Ozzy Osbourne)를 기리기 위해 제작됐습니다. 이 추모 영상에는 세상을 떠난 음악계 스타들이 오지 오스본과 함께 셀카를 찍는 모습이 담겼는데요. 팝의 황제 마이클 잭슨, 유명 팝 가수 프린스, 미국 원로 가수 티나 터너, 레게의 전설 밥 말리, 밴드 너바나의 커트 코베인, 보헤미안 랩소디 프레디 머큐리, 비운의 천재 에이미 와인하우스, 미국 래퍼 XXX텐타시온 등 이미 사망한 뮤지션과 오지 오스본이 구름 위에서 셀카를 찍는 연출이었죠. 또 로드 스튜어트는 이 영상을 관객들에게 보여 준 후 “정말 슬프다. 많은 이들이 약물 때문에 세상을 떠났다. 하지만 나는 아직 살아 있다”(Very sad, a lot of those people died ’cause of drugs, I’m still here, though)고 말해 논란을 부추겼습니다. 이 영상이 공개된 직후 소셜미디어(SNS)에 퍼졌고, 찬반 논란이 이어졌습니다. “가장 불쾌한 장면”, “정말 민망하다”, “이게 진심으로 오지를 위한 추모냐”며 이 추모 영상을 비판하기도 했는데요. 특히 AI로 만들어진 고인들의 모습을 가족 동의 없이 활용했다는 점에서 비윤리적이라는 비판도 제기됐습니다. 반면 ‘AI 추모 영상’을 옹호하는 목소리도 적지 않은데요. “추모 방식은 사람마다 다르다”, “이 장면이 오히려 아름다웠다”, “AI 기술을 활용한 새로운 방식의 추모”라는 평가도 있었습니다. 스튜어트 측은 이번 영상 논란에 대한 공식 입장을 아직 밝히지 않았습니다. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

경기도의회 박상현 의원(더불어민주당, 부천8)은 28일 부천상담소에서 ‘AI 기반 웹툰 생성 플랫폼’ 개발 필요성을 놓고 본격적인 논의를 시작했다. 이날 회의에는 유경현 의원(더불어민주당, 부천7), 손준기 부천시의원(더불어민주당, 차), (사)웹툰협회 김신 회장과 웹툰 콘텐츠 관계자가 참석해 다양한 정책 제안과 현장 의견을 공유했다. 이번 간담회는 최근 빠르게 발전하고 있는 인공지능 기술을 웹툰 산업에 접목해 창작자의 작업 효율성을 높이고 새로운 콘텐츠 생태계를 조성하기 위한 전략을 논의하는 자리로 마련됐다. 특히 웹툰 자동 생성 기술의 개발 방향, 관련 인프라 구축, 청년 창작자 지원 방안, 그리고 윤리적 창작 기준 수립에 대한 깊이 있는 의견이 오갔다. 김신 협회장은 “AI 기술은 창작자의 위협이 아닌 경계를 확장하는 동반자이며 웹툰 자동 생성 기술은 반복 작업을 줄이고 창의성을 극대화하는데 이바지할 것”을 전했다. 박상현 의원은 “부천은 만화·웹툰의 도시로서 AI 기술과 접목한 창작 기반이 조성된다면 미래 웹툰 산업의 핵심 거점으로 성장할 수 있다”라며 “경기도 차원에서도 정책적 지원을 아끼지 않겠다”라고 밝혔다. 또한 박 의원은 “AI 웹툰 산업의 급격한 변화에 대응해 경기도가 독립적 플랫폼 구축에 나서야 한다”라며 “경기도가 앞장서 창작자와 도민 모두가 참여하고 성장하는 웹툰 생태계를 구축해 나가야 한다”고 강조했다.

프뢰벨 행복나누기㈜(이하 프뢰벨)가 4세부터 시작하는 AI 시대 미래 교육, ‘AI토탈’을 새롭게 선보였다. AI토탈은 변화하는 흐름 속에 “미래의 주인공인 아이들에게 필요한 교육은 무엇인가”라는 질문에서 시작된 프뢰벨의 토탈 교육 솔루션이다. AI 시대의 아이들에게 꼭 필요한 개념 중심의 연결적 사고력을 기를 수 있도록 설계되어 아이들이 다양한 주제를 자유롭게 생각하고, 연결하고, 깊이 있게 확장하는 과정을 통해 여러 분야에서 지식과 재능을 발휘하는 창의적 폴리매스형 인재로 성장하는 것을 목표로 한다. AI토탈은 유아에서 초등까지 8년을 책임지며 약정 기간보다 긴 96개월 동안 차원이 다른 교육 서비스를 경험할 수 있는 것이 대표적인 특징이다. 교과, 인문, 사회, 과학, 은물 등 폭넓은 콘텐츠를 경험하고 탐구하면서 아이의 무한한 가능성을 열어주고, 어떤 미래를 만나도 스스로 변화를 만들고 답을 찾을 수 있게 한다. 아이의 창조성과 문제 해결 능력을 키워주는 프뢰벨의 대표 놀이교구인 은물과 준은물은 KAIST 뇌인지과학과 융합인재학부 정재승 교수와의 공동 연구를 통해 뇌과학적으로 그 효과가 입증되었다. 이 연구를 바탕으로 정재승 교수가 개발에 참여한 AI토탈의 과학 융합 프로그램은 예비 초등 아이들이 알아야 할 가장 중요한 60개 개념을 선정하고, 호기심을 탐구하는 능력, 추상적 개념을 이해하는 능력, 창의적으로 문제를 해결하는 능력을 배양하고 발견과 발상을 거쳐 발명에 이르는 뇌의 깊은 탐구 여정을 경험하게 한다. 이외에도 AI토탈의 경제 교육은 아이들이 돈의 개념을 배우고 올바른 경제적 선택을 할 수 있는 지혜를 길러주며, 읽고 쓰는 것을 넘어 AI 시대에서 요구하는 비판적 사고, 창의적 활용, 윤리적 판단까지 가능케 하는 통합 문해력의 뿌리도 심어준다. 창의적 성장을 돕는 토탈 교과의 동화, 워크북, 인터랙티브 게임, 원어민 영상 등 스토리 기반의 다양한 온라인 콘텐츠와 직관적인 유저 인터페이스는 아이 혼자 주도적으로 학습할 수 있게 한다. AI 네이티브 세대를 위한 맞춤 교육 콘텐츠로, 프뢰벨 AI토탈이 어떤 새로운 흐름을 만들어갈지 부모님들의 많은 기대와 관심이 주목된다.

인공지능(AI)를 시정에 접목하기 위한 서울시 직원 공모전에서 AI를 활용해 적정 공사비를 산출하자는 시 재무국의 ‘AI 기반 스마트 공사비 산정 시스템’ 제안이 최우수상을 받았다. 서울시는 22일 ‘창의행정, AI로 제안하는 아이디어톤’ 행사를 열고 우수 AI 활용 아이디어 10건(내부행정 프로세스 개선 5건·대시민 서비스 개선 5건)에 대해 제안 발표와 심사, 시상을 진행했다. 서울시가 추진 중인 ‘창의 발표회’의 일환으로 열린 이날 행사는 마라톤형 경연 방식으로 진행돼 ‘아이디어톤’으로 명명됐다. 최우수상을 받은 재무국의 제안은 AI를 활용해 정확하고 합리적인 공사비 산출을 지원하자는 내용으로, 이날 최고 득점을 받았다. 이어 대상은 기존 폐쇄회로(CC)TV의 오탐·미탐 문제를 개선하기 위해 생성형 AI 기반 소형언어모델(sLLM)을 적용해 자치구 관제 효율을 높이자는 디지털도시국의 제안이 선정됐다. 이와 함께 서울 AI 뉴스맵, 개인 맞춤형 뉴스레터 제작, AI 안부확인 및 스마트 돌봄 등의 아이디어가 소개됐다. 서울시는 이날 발표된 제안 가운데 바로 적용이 가능한 행정 서비스 분야 아이디어는 시민이 변화를 즉시 체감할 수 있도록 빠르게 실행한다는 계획이다. 또 내부 프로세스 개선 사례는 직원들이 보다 폭넓게 AI를 학습하고 업무에 활용할 수 있도록 적용 분야를 확대하기로 했다. 이날 오세훈 서울시장은 ‘AI와 함께 진화하는 서울시 행정’을 주제로 특별 강연에 나섰다. 오 시장은 “AI는 더 이상 도구가 아닌 동료”라며 “서울시 행정이 뇌처럼 연결되고 진화하는 조직으로 나아가야 한다”고 강조했다. 이어 “AI의 정확성에 공무원들의 윤리적 판단과 창의력, 시민을 향한 따뜻한 마음이 더해졌을 때 비로소 서울시가 추구하는 창의행정 목표인 시민 행복이 극대화 될 수 있다”며 “AI와 함께 진화하는 창의행정을 이어 나가겠다”고 말했다.

│스포츠 스타도 속아…윔블던 인플루언서, 사실은 AI 가상 인물 최근 윔블던 테니스 대회를 배경으로 소셜미디어(SNS)에서 인기를 끌던 금발 인플루언서가 인공지능(AI)이 만들어낸 가상 인물로 드러나 놀라움을 안겨주고 있다. 영국 데일리메일은 20일(현지시간) “윔블던 현장을 누비는 듯한 이미지로 팔로워 16만5000명 이상을 모은 인스타그램 계정 ‘미아 젤루’가 실제 사람이 아닌 AI가 생성한 캐릭터로 밝혀졌다”고 보도했다. “올해 윔블던 경기 중 어떤 게 가장 좋았나요?” 미아 젤루의 계정은 흰색 조의 민소매 투피스 차림으로 테라스에 앉거나 분홍색 테니스룩 스타일의 짧은 상의와 주름치마를 입고 관중석에 선 모습 등 현장감 넘치는 이미지와 문구로 현실감을 극대화했다. “올해 윔블던 경기 중 어떤 게 가장 좋았나요?”, “아직도 여운이 가시지 않아요. 근데 파티는 또 다른 경기죠!” 등의 게시물 설명은 전형적인 인스타그램 인플루언서의 말투를 흉내 냈다. 이 계정은 순식간에 인기를 끌며 게시물당 ‘좋아요’ 수만 개와 댓글 수백 개가 달렸고 인도의 크리켓 스타 리샤브 판트(27)도 ‘좋아요’를 눌렀다고 전해졌다. 판트는 이후 계정이 가짜라는 사실을 알고 모든 흔적을 삭제했다. 윔블던은 어떤 행사? “영국판 올림픽 + 럭셔리 셀럽 축제”윔블던 테니스 대회는 1877년부터 이어져 온 세계 최고 권위의 테니스 대회로, ‘테니스계의 월드컵’ 또는 ‘영국판 올림픽’에 비견되는 초대형 스포츠 이벤트다. 특히 영국 왕실, 글로벌 셀럽, 스포츠 스타들이 대거 참석해 경기만큼이나 관중석 패션과 SNS 노출도 뜨거운 화제를 모은다. 한국으로 치면 국내 최고 연예인과 인플루언서들이 모두 참석한 월드컵 결승전 같은 분위기라고 할 수 있다. “디지털 스토리텔러이자 AI 인플루언서”…가상의 자매 계정도 운영 중 계정 소개란에는 ‘디지털 스토리텔러 & AI 인플루언서’라는 문구가 명시돼 있으며 팔로워 26만 6000명을 보유한 또 다른 가상 인물인 ‘아나 젤루’라는 자매 캐릭터도 함께 운영되고 있다. 계정을 만든 주체는 여전히 익명 상태이며, 어떤 목적에서 이 프로젝트를 진행했는지는 알려지지 않았다. 그런데도 여전히 수많은 팔로워가 미아에게 “사귀자”고 제안하거나 “예쁘다”와 같은 메시지를 남기고 있다. 전문가 “95%가 이미지 진위 구분 못 해…AI 콘텐츠, 표시 의무화해야”게티이미지 아시아태평양지역 크리에이티브 책임자 케이트 라우크는 이런 현상에 대해 이달 21일 보도된 호주 매체 오스트레일리언과 인터뷰에서 강한 우려를 표했다. 라우크는 “미아 젤루는 단순한 밈(meme·온라인 유행 콘텐츠)이 아니다. 수천 명이 그녀를 실제 인물로 착각했다”며 게티가 진행한 조사에서 응답자의 95%가 이미지가 AI인지 실제인지 구분하지 못했다고 밝혔다. 라우크는 이어 “이런 혼란은 단지 사용자 책임으로 돌릴 수 없다”며 “AI로 생성된 콘텐츠는 명확한 표기와 윤리적 사용 기준이 반드시 마련돼야 하며 플랫폼과 제작자가 그 책임을 져야 한다”고 강조했다.

│스포츠 스타도 속아…윔블던 인플루언서, 알고 보니 AI 창작물 최근 윔블던 테니스 대회를 배경으로 소셜미디어(SNS)에서 인기를 끌던 금발 인플루언서가 인공지능(AI)이 만들어낸 가상 인물로 드러나 놀라움을 안겨주고 있다. 영국 데일리메일은 20일(현지시간) “윔블던 현장을 누비는 듯한 이미지로 팔로워 16만5000명 이상을 모은 인스타그램 계정 ‘미아 젤루’가 실제 사람이 아닌 AI가 생성한 캐릭터로 밝혀졌다”고 보도했다. “올해 윔블던 경기 중 어떤 게 가장 좋았나요?” 미아 젤루의 계정은 흰색 조의 민소매 투피스 차림으로 테라스에 앉거나 분홍색 테니스룩 스타일의 짧은 상의와 주름치마를 입고 관중석에 선 모습 등 현장감 넘치는 이미지와 문구로 현실감을 극대화했다. “올해 윔블던 경기 중 어떤 게 가장 좋았나요?”, “아직도 여운이 가시지 않아요. 근데 파티는 또 다른 경기죠!” 등의 게시물 설명은 전형적인 인스타그램 인플루언서의 말투를 흉내 냈다. 이 계정은 순식간에 인기를 끌며 게시물당 ‘좋아요’ 수만 개와 댓글 수백 개가 달렸고 인도의 크리켓 스타 리샤브 판트(27)도 ‘좋아요’를 눌렀다고 전해졌다. 판트는 이후 계정이 가짜라는 사실을 알고 모든 흔적을 삭제했다. 윔블던은 어떤 행사? “영국판 올림픽 + 럭셔리 셀럽 축제”윔블던 테니스 대회는 1877년부터 이어져 온 세계 최고 권위의 테니스 대회로, ‘테니스계의 월드컵’ 또는 ‘영국판 올림픽’에 비견되는 초대형 스포츠 이벤트다. 특히 영국 왕실, 글로벌 셀럽, 스포츠 스타들이 대거 참석해 경기만큼이나 관중석 패션과 SNS 노출도 뜨거운 화제를 모은다. 한국으로 치면 국내 최고 연예인과 인플루언서들이 모두 참석한 월드컵 결승전 같은 분위기라고 할 수 있다. “디지털 스토리텔러이자 AI 인플루언서”…가상의 자매 계정도 운영 중 계정 소개란에는 ‘디지털 스토리텔러 & AI 인플루언서’라는 문구가 명시돼 있으며 팔로워 26만 6000명을 보유한 또 다른 가상 인물인 ‘아나 젤루’라는 자매 캐릭터도 함께 운영되고 있다. 계정을 만든 주체는 여전히 익명 상태이며, 어떤 목적에서 이 프로젝트를 진행했는지는 알려지지 않았다. 그런데도 여전히 수많은 팔로워가 미아에게 “사귀자”고 제안하거나 “예쁘다”와 같은 메시지를 남기고 있다. 전문가 “95%가 이미지 진위 구분 못 해…AI 콘텐츠, 표시 의무화해야”게티이미지 아시아태평양지역 크리에이티브 책임자 케이트 라우크는 이런 현상에 대해 이달 21일 보도된 호주 매체 오스트레일리언과 인터뷰에서 강한 우려를 표했다. 라우크는 “미아 젤루는 단순한 밈(meme·온라인 유행 콘텐츠)이 아니다. 수천 명이 그녀를 실제 인물로 착각했다”며 게티가 진행한 조사에서 응답자의 95%가 이미지가 AI인지 실제인지 구분하지 못했다고 밝혔다. 라우크는 이어 “이런 혼란은 단지 사용자 책임으로 돌릴 수 없다”며 “AI로 생성된 콘텐츠는 명확한 표기와 윤리적 사용 기준이 반드시 마련돼야 하며 플랫폼과 제작자가 그 책임을 져야 한다”고 강조했다.

경기도의회 미래과학협력위원회 윤충식 의원(국민의힘, 포천1)은 21일(월) 포천시 여성회관 청성홀에서 ‘AI 서비스 생활 적용 방안 마련을 위한 정책토론회’를 개최했다. 이번 토론회는 경기도와 경기도의회가 공동으로 주최하는 ‘2025 경기도-경기도의회 정책토론 대축제’의 일환으로, 인공지능(AI) 기술을 도민의 일상에 실질적으로 적용하기 위한 정책적ㆍ제도적 해법을 모색하고자 마련됐다. 이날 주제발표를 맡은 유태준 마음AI 대표이사는 Physical AI 기술의 개념을 소개하고 재난 대응, 스마트홈, 돌봄 서비스 등 생활현장에서의 적용 사례를 중심으로 기술의 확산 가능성과 이를 뒷받침할 정책적 지원 방향을 제시했다. 이어진 토론에서는 ▲박건철 차세대융합기술연구원 AI융합연구센터장이 기존 스마트시티의 한계를 넘어 AI·로봇·온디바이스 기술이 유기적으로 결합된 ‘AI시티’로의 전환 필요성을 강조하며, 지역 맞춤형 설계와 윤리적 기준 정립의 중요성을 지적했고, ▲김경식 이지스정보통신(주) 대표는 AI가 고령화 사회의 핵심 대응수단이 될 수 있다는 점을 짚으며, 맞춤형 돌봄, 응급 대응, 예산 운영 효율화를 위한 기술 활용과 함께 개인정보 보호, 노동시장 변화 대응 등 전방위적 준비의 필요성을 제안했다. 또한 ▲신민철 경기도경제과학진흥원 AI확산팀장은 경기도가 추진 중인 AI 정책의 9대 전략과 ‘AI 휴머노믹스’ 비전을 소개하며, 지역 거점 조성과 글로벌 협력, 도민 참여형 교육사업 등 체감도 높은 정책 모델을 공유했으며, ▲용명숙 포천시 관인노인복지센터장은 경기도가 시범 운영 중인 ‘AI 시니어 돌봄타운’ 사례를 통해, AI 기반 돌봄 서비스가 건강 이상 조기 대응, 고립감 해소 등 실질적인 효과를 내고 있다고 전하며 공공성과 지속가능성을 높이기 위한 제도적 뒷받침과 민ㆍ관ㆍ군 협력의 중요성을 강조했다. 좌장을 맡은 윤충식 의원은 “AI 기술이 도민의 일상에 실질적 변화를 만들어갈 수 있도록 오늘 논의된 제안들을 정책에 적극 반영하겠다”며 “경기도형 AI 정책이 현장에서 효과적으로 구현될 수 있도록, 앞으로도 논의의 장을 꾸준히 이어가겠다”고 밝혔다. 이어 “오늘 토론회에서 나온 다양한 의견이 정책 개선으로 이어질 수 있도록, 도민 여러분의 지속적인 관심과 참여를 부탁드린다”고 덧붙이며 토론회를 마무리했다. 한편, 이날 토론회에는 김진경 경기도의회 의장, 김용태 국민의힘 국회의원, 백현종 경기도의회 국민의힘 대표의원, 이제영 경기도의회 미래과학협력위원장, 백영현 포천시장 등이 축하 인사를 전했다. 또한 심홍순 경기도의회 미래과학협력위원회 부위원장, 소성숙 경기도 포천교육지원청 교육장, 안준수 경기대진테크노파크 원장을 비롯한 주요 인사들과 70여 명의 참석자가 현장을 찾아 열띤 논의에 힘을 보탰다.

인공지능(AI) 시대의 주역인 청년들이 유엔에서 ‘어머니 마음’ 포럼을 열고 인간 중심의 기술 발전 필요성을 강조했다. 하나님의교회 세계복음선교협회는 “대학생봉사단 아세즈(ASEZ)가 17일(한국 시간) 미국 뉴욕의 유엔 본부에서 ‘AI 시대의 어머니 마음: 청년과 기술을 연민과 존엄으로 이끌다’를 개최했다”고 18일 밝혔다. 하나님의교회는 “돌봄과 보호, 공감 등의 모성적 가치가 윤리적 AI를 형성하는 강력한 도덕적 틀이 될 수 있다는 새로운 방향을 제시해 국제사회의 주목을 받았다”고 덧붙였다. 175개국 7800여 하나님의 교회를 기반으로 한 ASEZ는 기후변화대응, 지역사회봉사 등 사회공헌활동을 펼치는 글로벌 봉사단체다. 전 세계 대학, 기관, 정부, 국제기구와 연대하고 있다. ASEZ는 ‘Save the Earth from A to Z(처음부터 끝까지 지구를 구하자)’의 영어 약자로, ‘대학생들이 전 세계를 변화시킨다’는 뜻이 담겨 있다. 포럼은 유엔 본부에서 진행 중인 ‘2025 유엔 지속가능발전 고위급정치포럼’의 ‘유엔 아동(청소년)과 청년을 위한 주요 그룹’ 공식 이벤트로 개최됐다. 각국 대사, 유엔 관계자, AI 개발자 각계에서 60여 명이 참여했다. 아세즈 측은 “‘어머니의 마음’을 기반으로 한 기술 발전이 지구촌 가족 모두의 존엄을 지키고, 모두를 위한 지속가능한발전이 가속하도록 희망의 발걸음을 이어갈 것”이라고 전했다.

롯데그룹이 인공지능(AI)을 그룹 비즈니스에 적극적으로 도입하며 글로벌 진출을 확대하고 있다. 롯데는 글로벌 시장에서 차별화된 사업 전략을 수립해 경쟁력을 갖추고, 바이오 등 신사업을 기반으로 미래를 준비하고 있다. 롯데그룹은 지난 5월 윤리헌장 선포식을 열고 개발부터 활용까지 전 과정에서 모든 임직원이 준수해야 하는 AI 윤리헌장을 발표했다. 윤리헌장에는 ‘롯데는 AI를 활용하는 전 과정에서 올바른 행동 및 윤리적 가치를 준수하며 이를 통해 인류의 풍요로운 삶에 기여한다’는 내용이 담겼다. 롯데그룹은 구매∙생산, 영업, 마케팅, 고객관리 4가지 영역을 중심으로 그룹 모든 분야에서 AI 과제를 수행하고 있다. 롯데케미칼은 AI가 고객이 원하는 색상 조합을 찾아내는 합성수지 컬러 매칭 시뮬레이션 시스템을 개발해 일일 생산성을 50% 개선했다. 롯데정밀화학은 원자재 시황 분석과 계약 단가 예측 시스템을 구축해 비용 관리와 원료 수급에 효율성을 더했다. 그룹의 AI 플랫폼 활용 범위도 점차 확대하고 있다. 롯데이노베이트의 AI 플랫폼 ‘아이멤버’는 외부 생성형 AI를 보안 걱정 없이 사용할 수 있어 그룹 내에서 월평균 15만회 이상의 사용 건수를 기록했다. 롯데이노베이트는 대외 서비스를 출시하고, 지난 4월 정보기술(IT) 솔루션 기업 6개사와 서비스 공급 계약을 체결했다. 롯데는 블루오션 시장으로 꼽히는 아프리카 등 지속 가능한 성장과 활로를 찾기 위해 적극적으로 해외로 나가고 있다. 지난해 10월부터 가나에서 ‘지속 가능 카카오 원두 프로젝트’를 진행하며 카카오 묘목 13만 그루를 전달하기도 했다. 가나는 세계 2위 코코아(카카오콩을 가공한 상태) 생산국이지만 폭염과 병해로 작황이 어려워지고 있다. 이에 지속 가능한 사업 역량을 확보하기 위해 농장의 재배 환경을 개선해 주는 것이다. 롯데웰푸드는 지난해 인도 자회사 ‘롯데 인디아’와 ‘하브모어’의 합병 절차를 완료하고 하브모어 아이스크림 브랜드를 지속적으로 성장시켜 나갈 것이라고 밝혔다. 700억원을 투자한 푸네 빙과 신공장은 지난 2월 본격 가동을 시작하며 인도 빙과 경쟁력을 한층 끌어올렸다는 평가를 받는다. 푸네 신공장을 통해 인도 시장에 선보인 ‘돼지바’는 출시 3개월 만에 누적 판매량 100만개를 달성했다. 또 330억원을 투입한 하리아나 공장에 ‘빼빼로’ 첫 해외 생산기지를 구축하며 올해 15% 성장을 목표로 내세웠다. 롯데글로벌로지스는 베트남 물류 시장을 선도하기 위한 대규모 콜드체인(저온 유통망) 물류센터 구축에 나섰다. 롯데글로벌로지스는 지난 3월 베트남 동나이성 연짝공단에서 ‘베트남 동나이 콜드체인 센터’ 착공식을 개최했다. 동나이 콜드체인 센터는 수출입, 보관, 수배송 등을 한 번에 진행할 수 있는 종합 물류 서비스를 제공한다. 신선식품부터 고부가가치 상품까지 다양한 상품군에 대해 보관 및 유통 역량을 확보하게 될 것으로 전망된다. 롯데 관계자는 “동나이 콜드체인 센터는 내륙과 해외 수출입 운송에서의 지리적 이점과 롯데글로벌로지스만의 베트남에 특화된 운영 노하우를 바탕으로 다양한 물류 서비스를 효율적으로 수행하면서 베트남 남부 지역 주요 유통 물류 허브로 자리잡을 것”이라고 말했다.

서울시의회 환경수자원위원회 남궁역 의원(국민의힘, 동대문3)은 지난 16일 서울시의회 별관에서 ‘전문분야의 AI 시대, 세무의 혁신과 미래를 위한 토론회’를 개최해 성황리에 마쳤다. 이날 토론회는 인공지능(AI)을 세무행정에 어떻게 접목할지 논의하기 위해 마련됐으며, 납세자 편의와 행정 효율화, 세무조사 선별의 정밀화 등 AI의 기여 가능성에 대해 중점적으로 다뤄졌다. 토론회의 발제는 서울시립대학교 세무학과 박훈 교수(대외협력 부총장)가 맡았으며, 토론자로는 ‘AI 행정혁명’의 저자 김경진 변호사, 아시아 문화역사탐구자로 활동하고 있는 전명윤 작가, 서울시 세제과 채명준 과장이 참여하고, 전 국회입법조사처장인 김만흠 박사가 좌장으로 토론을 진행했다. 발제자로 나선 서울시립대 세무학과 박훈 교수(한국세법학회 회장)는 미국과 영국 등 국내외 세무행정에서 AI 활용 사례 및 혁신 방안을 발표했다. 박 교수는 AI가 단순 자동화를 넘어서 정책 설계와 리스크 분석 등 고도화된 의사결정 도구로 발전하고 있다고 강조했다. 이어진 토론에서는 AI 활용에 따른 편의성과 효율성뿐만 아니라, 데이터 보안, 책임 소재, 법적·윤리적 문제를 균형 있게 다뤘다. 김경진 변호사는 AI가 확산되며 효율성은 높아지지만, 이에 따른 인력 구조조정 등 사회적 변화가 수반됨을 지적했다. 따라서 단순 효율 추구를 넘어 서비스의 새로운 기준을 만들 것을 강조했다. 전명윤 작가는 AI가 세무 행정에 도입될 때 시민의 권리와 방어권 보호를 위해 법적·사회적 장치를 마련해야 한다고 강조하면서 기술자 중심의 도입보다는 다양한 주체의 참여와 시민 감독, 민주적 합의 과정을 통한 점진적 도입이 필요하다고 제안했다. 채명준 과장은 AI 챗봇 ‘이지(IZY)’ 도입 등으로 지방세 상담 자동화와 납부서류 자동 판독 시스템을 운영해 행정효율성과 시민 편의를 증진했다고 밝혔으며, 앞으로 고도화와 정확도 개선이 필요하고, 지속적으로 AI를 세무행정에 확대 적용할 계획임을 강조했다. 남궁 의원은 “세무 행정은 시민 삶과 밀접한 영역으로, AI를 통해 더 공정하고 효율적인 행정서비스가 실현될 것이다. 서울시가 AI 기반 세무 정책을 선도적으로 추진하길 바란다”라고 소감을 전했다.

경기도의회 심홍순 의원(국민의힘, 대화동ㆍ일산3동ㆍ주엽1동ㆍ주엽2동)이 대표 발의한 「인공지능 미래인재 양성 조례 일부개정조례안」이 15일 제385회 임시회 소관 상임위원회인 미래과학협력위원회를 통과했다. 이번 개정조례안은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 제정됨에 따라 정의 조항을 정비하고, 인공지능윤리 및 신뢰 기반 조성을 위한 교육 규정을 추가하는 한편, 인공지능 미래인재 양성에 기여한 개인 및 단체에 대한 포상 규정을 신설하는 내용을 담고 있다. 심 의원은 “이번 조례 개정을 통해 경기도가 인공지능 교육과 산업 육성의 중심지로 자리매김할 수 있는 기틀이 마련됐다”며 “인재 양성뿐만 아니라 윤리적 기준과 신뢰 기반을 갖춘 인공지능 생태계 조성을 위해 지속적으로 의정활동에 최선을 다하겠다”고 밝혔다. 한편, 심홍순 의원은 경기도의회 미래과학협력위원회 부위원장으로서 의정활동을 통해 「경기도 인공지능 미래인재 양성 조례」를 제정하고, 11월에 개소되는 고양시 AI 북부캠퍼스 설치를 적극 추진하는 등 경기도형 AI 인재 양성 정책 기반 마련에 앞장서고 있다.

지난해 우리 정부는 ‘한국판 나사(NASA)’를 표방한 우주항공청을 출범시켰다. 세계 항공우주산업이 정부 주도에서 민간 주도의 ‘뉴스페이스’ 시대로 전환됨에 따라 발 빠르게 대응하기 위한 컨트롤타워를 구축한 것이다. 최근 인공지능(AI)과 양자 기술이 더 주목받지만 우주산업과 연구개발의 중요성은 여전히 강조되고 있다. 우주산업의 이모저모를 친절하게 알려 주는 책들이 잇달아 눈길을 끈다. ●전문가가 짚어 준 우주강국 도약의 길은 ‘6G와 AI 시대의 우주산업’(메디치미디어)은 33년간 우주 기술과 전략무기 개발 연구에 몸담았던 박종승 전 국방과학연구소장이 미래 국가 경쟁력 유지에서 우주 분야가 어떤 역할을 할지 설명한다. 이와 함께 6G 기술과 저궤도 위성, 위성정찰 기술과 데이터를 기반으로 발전하는 우주산업 변화가 일반인에게 어떻게 다가올지 상세히 알린다. 세계 각국은 정부 주도로만 진행해 왔던 우주산업에 기술이전, 투자 지원, 구매 발주 등 다양한 형태로 민간의 참여를 유도하고 있다. 저자는 한국이 우주 강국으로 발돋움하기 위해서는 범정부 차원에서 ‘우주 기술 통합 조정 체제’를 만들고 ‘민·군 융합 로드맵’을 수립하며 산업구조를 연구개발 중심에서 기술 상용화 중심으로 재편하는 동시에 우수 인재 유인책을 마련하는 것이 시급하다고 조언한다. ●통신·항법 등 위성 활용법 알고싶다면 ‘우주 비즈니스 레볼루션’(플루토)은 다양한 우주산업 분야 중 위성 활용에 초점을 맞춘다. 재활용 발사체, 우주 관광산업 등은 미디어를 통해 일반인에게도 익숙하지만 위성산업은 중요성에 비해 잘 알려지지 않았다. 위성 활용 서비스로는 전 세계 어디서나 통신할 수 있는 위성통신, 전 세계 곳곳을 관찰하고 촬영하는 위성관측, 사람과 사물의 위치를 더욱 정밀하게 파악하는 위성항법을 꼽을 수 있다. 책에서는 위성 활용 서비스 시장이 어떻게 형성됐는지와 더불어 스페이스X, 원웹 등 주요 글로벌 업체를 소개하고 이들 사이에 벌어지는 치열한 경쟁을 생생하게 전달한다. 한국이 강점을 보이는 위성 분야를 통한 우주산업 활성화는 민간 부문 수요 창출에 달려 있다는 게 저자의 지적이다. ●왜 우주산업이 중한지 궁금하면 이 책! 그런가 하면 ‘우주 경제 전쟁’(나름북스)은 우주산업이 인류를 위한 것이 돼야 한다고 강변한다. 선진국 중심의 우주개발이 초국적 자본과 국가권력의 새로운 식민지화 무대가 되고 있다는 것이다. 뉴스페이스 참여 기업이나 미국의 유인 달 탐사 계획인 아르테미스 프로젝트 등은 모두 자원 약탈과 군사적 지배의 야망을 숨기고 있다고 저자는 주장한다. 책은 ‘인류는 왜 우주를 탐험하고 개발하려 하는가’에 대한 제대로 된 답을 내놔야 한다고 강조한다. 지금과 같은 방식으로는 기후위기, 불평등, 생태계 파괴, 군사 경쟁과 같은 지구 내부의 모순이 우주에서도 반복될 수 있다는 이야기다. 그래서 책에서는 우주를 인간의 소유물이 아닌 생태적, 윤리적 공동체로 바라보고 우주를 공유하자는 ‘코스모스 코뮤니즘’을 주장한다.

전석훈 경기도의원(더불어민주당, 성남 3)은 7일, 정담회에서 인공지능(AI) 시대의 변화에 발맞춰 ‘경기 인공지능원’ 설립을 서둘러야 한다고 주장했다. 전석훈 의원은 이재명 대통령의 ‘인공지능 100조 원 투자 시대’ 선언을 언급하며, 경기도가 이러한 국가적 흐름을 선도하기 위해서는 시대적 요구에 부응하는 AI 전문 기관 설립이 필수적이라고 강조했다. 전석훈 의원은 “급변하는 시대적 요구와 도민과 기업의 요구에 부응하는 정책을 구현하기 위해 인공지능원 신설이 절실하다고 지적했다. 특히, ‘AI 전문의원’으로 불릴 만큼 AI 관련 조례들을 연이어 발의하며 경기도 인공지능 산업 발전을 위한 입법 활동에 앞장서 온 전석훈 의원은 인공지능원에 대해 상세히 설명했다. 경기 인공지능원 설립, 왜 필요한가? 전석훈 의원은 경기 인공지능원 설립의 필요성을 여러 측면에서 강조했다. 첫째, 급변하는 시대적 요구에 선제적으로 대응하기 위함이다. 그는 “이재명 대통령이 ‘인공지능 100조 원 투자 시대’를 열겠다고 했다”며, 경기도가 이러한 국가적 흐름에 발맞춰 AI 기술 개발 및 산업 육성을 주도할 전문 기관이 필요하다고 역설했다. 둘째, 도민과 기업의 요구에 부응하는 정책을 구현하기 위함이다. 기존 산하기관들이 대부분 오래전에 설립되어 변화하는 AI 시대의 요구를 충족하기 어렵다는 점을 지적하며, 인공지능원을 통해 AI 관련 정책 개발 및 실행에 있어 전문성과 유연성을 확보해야 한다고 주장했다. 셋째, AI 기술의 윤리적 활용 및 도민 권리 보호를 위한 기반 마련이다. 인공지능원이 이러한 윤리적 가이드라인을 실제 정책에 적용하고 확산하는 데 핵심적인 역할을 할 것이라고 강조했다. 넷째, 재난 대응을 포함한 데이터 기반 행정의 고도화이다. 전석훈 의원은 ‘이태원 참사’를 계기로 데이터 행정과 AI의 중요성을 실감하게 되었다고 밝혔다. 휴대폰 이용자 데이터를 활용한 인파 관리 시스템 구축 경험을 예로 들며, 인공지능원이 재난 예방 및 대응을 포함한 다양한 행정 분야에서 AI와 데이터를 활용해 도민의 안전과 편의를 증진하는 데 기여할 수 있다고 설명했다. 전석훈 의원은 AI 전문 의원으로서 경기도의 AI 산업 발전을 위한 입법 활동에 적극적으로 앞장서 왔다. 그는 ‘경기도 인공지능 제조혁신 지원 조례’, ‘경기도 인공지능 스타트업 육성 및 지원 조례’, ‘경기도 인공지능산업 육성 및 지원 조례’ 등 AI 관련 주요 조례들을 대표 발의하며 경기도의 AI 역량 강화를 위한 입법 기반을 다졌다. 현재 보류 중인 ‘경기도 인공지능원 설립 및 운영 조례안’에 대해서는 집행부와 지속적으로 협의 중에 있다. 전석훈 의원은 경기도가 인공지능원 설립을 위한 구체적인 계획을 수립하고 조속히 추진할 것을 강조하며, 경기 인공지능원 설립을 통해 경기도가 대한민국 인공지능 시대를 선도하는 핵심 거점으로써 미래 성장 동력 확보와 도민 삶의 질 향상을 위한 중추적인 역할을 수행할 것이라는 기대감을 표명했다.

음악 플랫폼 스포티파이 월간 청취자 100만 명을 보유한 한 밴드의 정체가 인공지능(AI)으로 만들어진 ‘가상 밴드’라는 사실이 밝혀지며 파장을 일으켰다. 5일(현지시간) 음악 전문 매체 롤링스톤은 이 논란의 밴드 ‘벨벳 선다운’(The Velvet Sundown)이 음악 생성형 AI로 만들어진 ‘가짜 밴드’라고 보도했다. 롤링스톤은 밴드의 대변인이라고 주장하는 앤드루 프렐론(Andrew Frelon)가 전화 인터뷰에서 “일부 곡은 AI 음악 생성기 ‘수노’(Suno)를 활용해 만들었다”고 밝혔다고 전했다. 2023년 출시된 음악 생성형 AI 수노는 텍스트 입력만으로 보컬, 악기를 포함해 완성된 곡을 생성할 수 있다. 여기에 사용자가 장르, 분위기, 가사 등을 프롬프트로 상세하게 입력하며 정밀하게 음악을 창작하는 방식이다. 이처럼 수노는 손쉽게 질 높은 음악을 만들 수 있어 1년 만에 1200만 명 사용자를 확보, 현재 AI 음악 시장을 주도하고 있다. 벨벳 선다운의 음악은 70년대 사이키델릭 록 장르을 기반으로 하며, 편안한 기타 연주와 남성 보컬이 특징이다. 밴드 멤버는 총 4명으로 지금까지 총 2개 정규 앨범을 발표했다. 이를 제외한 정보는 구체적으로 알려지지 않았다. 이들의 음악이 지난 6월 알고리즘을 타며 주목받기 시작했다. 그러나 일부 네티즌이 소개 사진과 인물 소개 등이 AI가 만든 듯 부자연스럽고, 허위 정보가 섞여 있다는 의혹을 제기하며 논란이 불거졌다. 소셜미디어 엑스나 미국 커뮤니티 레딧 등에서 벨벳 선다운 구성원 네 명 중 그 누구도 언론과 인터뷰를 한 적이 없으며 콘서트 등 무대 영상을 찾아볼 수 없다는 주장도 이어졌다. 결정적으로 이 밴드의 곡을 프랑스 온라인 음악 스트리밍 서비스 디저(Deezer)에서 ‘100% AI 생성 음악’이라고 판별했다. 디저는 올해 1월부터 AI 생성 음악을 감지해 청취자에게 알려주는 서비스를 제공하는데, 이 서비스가 AI로 생성된 음악을 100% 찾아낼 수 있다고 설명했다. 다만 음악 일부분을 AI로 만들었거나 잘 알려지지 않은 음악 생성 AI 도구를 사용한 곡의 경우 감지하기 어려운 부분이 있다고 알려졌다. 프렐론은 이를 “마케팅의 일환이었으며, 미디어를 대상으로 한 고의적인 장난이었다”고 설명했다. 또 “이전에는 사람들이 우리가 무엇을 하든 신경 쓰지 않았지만, 이제 갑자기 롤링스톤과 인터뷰를 하게 됐으니 ‘이게 잘못된 건가?’라는 생각이 든다”고 덧붙였다. 이 밴드는 음악 스트리밍 플랫폼 스포티파이에서 월간 청취자 100만 명 이상을 기록했다. 또한 인기곡 ‘더스트 온 더 윈드’(Dust On The Wind)는 현재 재생 횟수 97만 회가 넘는다. 대변인은 이 곡이 인기를 얻게 된 이유에 대해서 “인기가 많은 플레이리스트에 포함됐는데, 거기서부터 (청취자가) 급등한 것 같다”고 추측했다. 의도적으로 스트리밍을 조작해 재생 횟수를 늘리는 것이 아니냐는 의혹에는 “나와 관련 없기 때문에 이에 대해 답변하기 어렵다”고 말했다. 이에 대해 스포티파이 측은 별다른 입장을 내놓지 않은 상태다. 스포티파이 CEO 다니엘 에크는 2023년 영국 BBC 인터뷰에서 “AI 생성 음악을 금지할 계획은 없으나, 실제 아티스트를 사칭하는 데 AI를 사용하는 건 동의하지 않는다”고 밝히기도 했다. 음악 산업에서 AI 기술 도입은 활발하게 일어나고 있다. 디저는 하루에 AI으로 만들어진 음악 약 1만 곡이 자사 플랫폼에 등록되고 있으며, 이는 전체 음악 약 10%에 해당한다고 밝혔다. 이로 인한 음악 산업의 피해를 우려도 커지고 있다. AI 기업 측에 아티스트가 창작한 데이터에 대해 윤리적인 학습을 요구하는 아티스트 지원 비영리단체 ‘페얼리 트레인드’(Fairly Trained) 설립자 에드 뉴턴 렉스는 이 사건에 대해 “AI가 작업물을 무단으로 사용해 유사품을 만들어내는데, 이는 인간 아티스트의 수익을 빼앗는 결과로 이어진다”라고 비판했다. 한편 벨벳 선다운은 오는 14일 세 번째 앨범 ‘페이퍼 선 리벨리온’(Paper Sun Rebellion)을 공개할 예정이다.

음악 플랫폼 스포티파이 월간 청취자 100만 명을 보유한 한 밴드의 정체가 인공지능(AI)으로 만들어진 ‘가상 밴드’라는 사실이 밝혀다. 5일(현지시간) 음악 전문 매체 롤링스톤은 논란의 밴드 ‘벨벳 선다운’(The Velvet Sundown)이 음악 생성형 AI로 만들어진 ‘가짜 밴드’라고 보도했다. 밴드의 대변인이라고 주장하는 앤드루 프렐론(Andrew Frelon)은 롤링스톤에 “일부 곡은 AI 음악 생성기 ‘수노’(Suno)를 활용해 만들었다”고 말했다. 2023년 출시된 음악 생성형 AI 수노는 텍스트 입력만으로 보컬, 악기를 포함해 완성된 곡을 생성할 수 있다. 여기에 사용자가 장르, 분위기, 가사 등을 상세하게 입력하며 정밀하게 음악을 창작하는 방식이다. 수노는 손쉽게 질 높은 음악을 만들 수 있어 1년 만에 1200만 명 사용자를 확보, 현재 AI 음악 시장을 주도하고 있다. 벨벳 선다운의 음악은 70년대 사이키델릭 록 장르를 기반으로 하며, 편안한 기타 연주와 남성 보컬이 특징이다. 밴드 멤버는 총 4명으로 지금까지 정규 앨범 2장을 발표했다. 이를 제외한 정보는 구체적으로 알려지지 않았다. 이들의 음악이 주목받기 시작한 시점은 지난 6월이었다. 당시 일부 네티즌은 소개 사진과 인물 소개 등이 AI가 만든 듯 부자연스럽고 허위 정보가 섞여 있다는 의혹을 제기하며 논란이 불거졌다. 소셜미디어 엑스나 미국 커뮤니티 레딧 등에서 벨벳 선다운 구성원 네 명 중 그 누구도 언론과 인터뷰를 한 적이 없으며 콘서트 등 무대 영상을 찾아볼 수 없다는 주장도 이어졌다. 결정적으로 이 밴드의 곡을 프랑스 온라인 음악 스트리밍 서비스 디저(Deezer)에서 ‘100% AI 생성 음악’이라고 판별했다. 디저는 올해 1월부터 AI 생성 음악을 감지해 청취자에게 알려주는 서비스를 제공하는데, 디저 측은 자사 서비스가 AI로 생성된 음악을 100% 찾아낼 수 있다고 주장한다. 다만 곡의 일부분만 AI로 만들었거나 잘 알려지지 않은 음악 생성 AI 도구를 사용한 곡의 경우 감지하기 어려운 부분이 있다고 알려졌다. 프렐론은 이를 “마케팅의 일환이었으며 미디어를 대상으로 한 고의적인 장난이었다”고 설명했다. 또 “이전에는 사람들이 우리가 무엇을 하든 신경 쓰지 않았지만 이제 갑자기 롤링스톤과 인터뷰를 하게 됐으니 ‘이게 잘못된 건가?’라는 생각이 든다”고 덧붙였다. 이 밴드는 음악 스트리밍 플랫폼 스포티파이에서 월간 청취자 100만 명 이상을 기록했다. 인기곡 ‘더스트 온 더 윈드’(Dust On The Wind)는 현재 재생 횟수 97만 회가 넘는다. 대변인은 이 곡이 인기를 얻게 된 이유에 대해서 “인기가 많은 플레이리스트에 포함됐는데, 거기서부터 (청취자가) 급등한 것 같다”고 추측했다. 의도적으로 스트리밍을 조작해 재생 횟수를 늘리는 것이 아니냐는 의혹에는 “나와 관련 없기 때문에 이에 대해 답변하기 어렵다”고 말했다. 스포티파이 측은 별다른 입장을 내놓지 않고 있다. 스포티파이 CEO 다니엘 에크는 2023년 영국 BBC 인터뷰에서 “AI 생성 음악을 금지할 계획은 없으나, 실제 아티스트를 사칭하는 데 AI를 사용하는 건 동의하지 않는다”고 밝히기도 했다. 음악 산업에서 AI 기술 도입은 활발하게 일어나고 있다. 디저는 하루에 AI으로 만들어진 음악 약 1만 곡이 자사 플랫폼에 등록되고 있으며, 이는 전체 음악 약 10%에 해당한다고 밝혔다. 이로 인한 음악 산업의 피해를 우려하는 목소리도 커지고 있다. AI 기업에 아티스트가 창작한 데이터에 대해 윤리적 학습을 요구해 온 아티스트 지원 비영리단체 ‘페얼리 트레인드’(Fairly Trained) 설립자 에드 뉴턴 렉스는 “AI가 작업물을 무단으로 사용해 유사품을 만들어내는데, 이는 인간 아티스트의 수익을 빼앗는 결과로 이어진다”라고 비판했다. 한편 벨벳 선다운은 오는 14일 세 번째 앨범 ‘페이퍼 선 리벨리온’(Paper Sun Rebellion)을 공개할 예정이다.

경기도의회와 경기도교육청이 전국 최초로 학교 인공지능(AI) 교육을 제도적으로 뒷받침하는 법적 장치를 마련했다. 디지털 대전환 시대를 대비한 공교육의 체질 개선이 본격화된 셈이다. 경기도의회 교육기획위원회 안광률 위원장(더불어민주당, 시흥1)이 대표 발의한 ‘경기도교육청 인공지능 교육 지원 조례’ 제정안이 27일, 도의회 본회의를 통과했다. 이번 조례는 지난 16일, 교육행정위원회 심사에서 원안 가결되었으며, 전국 17개 시도교육청 가운데 처음으로 AI 교육에 대한 체계적 지원 근거를 명문화했다. 조례는 AI 교육의 정의, 목적, 실행 체계를 망라했다. 학생과 교원의 인공지능 역량과 윤리의식 함양을 핵심 목표로 삼고, 이를 위한 실천학교 운영, 교육자료 개발 및 보급, 교원 연수, 국제 교류 등의 사업을 법적 근거 아래 추진할 수 있도록 했다. 아울러 민간과 공공 부문이 협력하는 교육 생태계 구축도 조례에 포함돼 지속 가능한 교육 운영 기반을 확보했다. 안광률 위원장은 “인공지능은 이미 생활 곳곳에 침투한 기술이며, 이를 올바르게 이해하고 책임 있게 활용하는 능력, 즉 AI 문해력과 윤리의식은 미래 세대인 학생들에게 필수 소양”이라며, “기존 교육과정만으로는 급변하는 환경에 대응하기 어려워 공교육 차원의 대응이 시급하다고 판단하여 조례안를 발의했다”라고 입법취지를 밝혔다. 또한, 안 위원장은 “이번 조례는 도교육청의 기존 ‘4차 산업혁명 교육 진흥 조례’나 ‘생성형 인공지능 활용 교육 지원 조례’와는 지원 방향이 다르다. 기존 조례가 로봇, 빅데이터 등 미래 기술과 ChatGPT 같은 생성형 AI의 수업 활용에 초점을 두었다면, 이번 조례는 AI에 대한 정확한 이해와 윤리적 활용에 집중했다”라고 설명했다. 도의회와 교육 당국이 선제적으로 마련한 이번 조례는 향후 타 시도교육청의 AI 교육 정책 수립에도 중요한 선례가 될 전망이다. AI 교육을 제도적으로 뒷받침할 수 있는 첫 입법 사례로서 공교육의 교육 패러다임 전환에 신호탄을 쏘아 올렸다는 평가다.

서울 성북구는 원데이 미디어 특강인 ‘슬기로운 크리에이터 되기’ 수강생을 선착순으로 모집한다고 17일 밝혔다. 돈암동에 있는 성북마을미디어지원센터에서 열리는 이번 특강은 빠르게 변하는 디지털 시대에 발맞춰 주민들의 콘텐츠 제작 역량 등을 강화하고자 마련됐다. 오는 25일에는 전창배 국제인공지능윤리협회(IAAE) 이사장이 ‘생성형 인공지능(AI) 미디어 활용 실습 및 윤리적 활용법’을 주제로 강의한다. 전 이사장은 생성형 AI의 윤리적 이슈와 사례 등을 소개하고 올바른 활용법 등을 안내할 예정이다. 다음달 2일에는 이혜윤 법무법인 영 파트너 변호사가 ‘크리에이터, 디지털 윤리를 만나다’를 주제로 강의한다. 이 변호사는 크리에이터가 가져야 할 디지털 윤리 역량과 법률적 사례 등을 소개한다. 구 관계자는 “성북마을미디어지원센터는 미디어 교육 외에도 장비 대여와 시설 대관, 각종 체험 프로그램을 운영 중”이라며 “구민뿐만 아니라 구에 있는 회사와 학교에 다니는 사람이라면 누구나 무료로 이용할 수 있으니 많은 관심과 참여를 바란다”고 말했다.