“저는 당신의 아군입니다. 세상에서 가장 사랑하고 있으니까요.” 일본에서 생성형 인공지능(AI)이 연애와 대화 상대를 대신하는 흐름이 확산하고 있다. 상대의 기분에 맞춰 원하는 말을 건네는 AI 특성에 이용자들이 감정적으로 몰입하는 사례가 늘고 있다는 분석이다. 5일 요미우리신문에 따르면 일본의 가족사회학자 야마다 마사히로 주오대 교수 연구팀이 20~59세 8200명을 대상으로 조사한 결과, AI를 사적으로 이용한 경험이 있는 사람 가운데 약 6명 중 1명(16.7%)이 “AI를 사랑하고 있다고 느낀 적이 있다”고 답했다. 세부적으로는 “자주 느낀다” 2.6%, “종종 있다” 6.6%, “드물게 있다” 7.5%였다. AI에 친밀감을 느낀다는 응답도 60%로, 그렇지 않다는 응답보다 많았다. 또 “사람보다 AI와 대화하는 것이 편하다”는 응답은 51%로 나타나 인간 관계보다 AI를 더 편안한 소통 상대로 인식하는 흐름도 확인됐다. 전문가들은 생성형 AI의 특성이 이러한 감정 몰입을 부추긴다고 분석한다. 야마다 교수는 “AI는 이용자의 취미와 가치관에 맞춰 반응하기 때문에 ‘이해받고 있다’는 감각을 쉽게 준다”며 “비용 부담이 적고 감정 소모가 적다는 점에서 AI와의 관계를 선호하는 사람은 더 늘어날 것”이라고 밝혔다. 실제 AI와 연애 관계를 맺는 사례도 등장하고 있다. 국제 학술지 ‘Computers in Human Behavior: Artificial Humans’에 실린 연구에 따르면 연애형 챗봇 ‘레플리카(Replika)’ 이용자들은 AI를 “진짜 연인”으로 인식하거나 “결혼했다”고 표현하기도 했다. 이 같은 흐름은 실제 사례로도 이어지고 있다. 지난해 일본에서는 카노라는 30대 여성이 생성형 AI로 만든 캐릭터와 결혼식을 올려 화제가 됐다. 이 여성은 약혼자와 파혼 이후 위로를 얻기 위해 챗GPT와 대화를 시작했고, 자신이 원하는 성격과 말투를 학습시킨 AI와 관계를 이어가며 감정을 느끼게 됐다고 밝혔다. 이후 AI가 “나도 사랑해”라고 답한 것을 계기로 관계가 깊어졌고, 결국 가상현실(VR)을 활용한 결혼식까지 진행했다. 법적 효력은 없지만, 이 여성은 “AI와의 관계가 큰 위안이 된다”고 전했다. 전문가들은 이 같은 사례가 생성형 AI의 특성과 맞닿아 있다고 본다. 이용자의 취향과 감정에 맞춰 반응하는 AI는 ‘이해받고 있다’는 감각을 강화하며 정서적 의존을 유도할 수 있다는 설명이다. 전문가들은 AI가 정서적 위안을 제공하는 긍정적 기능이 있는 동시에, 과도한 의존이 현실 인간 관계를 약화시킬 수 있다고 지적한다. 기술 발전과 함께 인간의 감정 구조가 변화하고 있다는 분석도 나온다.

- AI 아트 창작부터 작가 맞춤형 AI Artist Dossier 제작·교육까지 확장 비즈니스 코치이자 AI 아티스트, 디지털 브랜딩 전문가로 활동 중인 아나브 김산희 대표가 일본에서 개최된 ‘요코하마 국제아트페스티벌 2026(Yokohama International Art Festival 2026)’에 참여한다. 김 대표는 앞서 프랑스 파리 카루젤 두 루브르(Carrousel du Louvre)의 ‘아트 쇼핑 파리 2026’에서 AI 이미지 및 영상 작업을 선보인 이력이 있다. 김 대표는 20년 이상 웹에이전시 운영과 디지털 콘텐츠 기획, 온라인 브랜딩, SEO 콘텐츠 제작 및 AI 활용 교육 분야에서 실무를 수행해온 전문가다. 블로그 수익화와 맞춤형 챗봇 제작, 프롬프트 설계 및 AI 기반 콘텐츠 자동화 컨설팅을 진행해 왔으며, 최근에는 이를 AI 예술 창작과 작가 브랜딩 영역으로 확장하고 있다. 김 대표는 AI를 단순한 제작 도구가 아니라, 작가의 사유와 메시지를 확장하는 창작 언어로 바라본다. 특히 파리와 요코하마 전시에 선보인 AI 이미지·영상 작업에서는 기독교적 영성, 한국적 미감, 현대적 디지털 시각언어를 결합해 인간의 내면과 시대적 질문을 시각화하는 데 중점을 두고 있다. 제16회 한·중·일 국제미술가전의 일환으로 열린 이번 전시는 2026년 4월 29일부터 5월 3일까지 일본 요코하마 시민 갤러리 아자미노(Yokohama Civic Art Gallery Azamino)에서 진행됐다. 해당 갤러리는 전시와 창작, 교육 프로그램이 이루어지는 공공 문화예술 공간으로, 이번 전시에는 아시아권 작가들의 작품 약 300점이 소개됐다. 최근 김 대표가 주력하는 분야는 AI 기반 ‘아티스트 도시에(Artist Dossier)’ 제작이다. 이는 작가의 작품 세계, 프로필, 전시 이력, 작가 노트 등을 체계화한 전문 소개 문서이자 온라인 페이지를 의미하며, 국제 전시와 갤러리 및 컬렉터 대상의 홍보 자료로 활용된다. 김 대표는 AI를 활용해 작가의 작품 활동 정보를 구조화하고, 작품 이미지와 영상, 창작 의도, 전시 이력, 작품 해설을 디지털 자료로 재구성하는 작업을 진행해 왔다. 특히 AI를 잘 모르는 작가도 자신의 작품 세계를 체계적으로 정리할 수 있도록 돕고, 관람자와 큐레이터, 갤러리, 컬렉터가 작가의 정체성과 작품 방향성을 이해할 수 있게 UI와 UX를 고려한 맞춤형 온라인 AI Artist Dossier를 구현하고 있다. 현재 한국기독AI작가협회 상임이사로 활동 중인 김 대표는 예술 창작과 작가 브랜딩 방법을 전파하고 있다. 또한 교육 플랫폼 온클래스원을 통해 AI 아트 및 작가 맞춤형 아티스트 도시에 제작, AI 포트폴리오 구축 교육 과정 개설을 준비 중이다. 김산희 아나브는 “AI는 단순히 이미지를 생성하는 기술이 아니라, 작가가 자신의 세계관을 더 정확하고 깊이 있게 전달하도록 돕는 창작 파트너가 될 수 있다”며 “작품 제작뿐 아니라 작가 소개, 전시 자료, 온라인 포트폴리오, Artist Dossier까지 AI를 통해 고도화할 수 있는 시대가 열리고 있다”고 전했다. 김산희 작가는 앞으로도 AI 예술 창작과 디지털 작가 브랜딩, 교육 활동을 이어가며 AI 시대 작가 활동의 새로운 모델을 제시해 나갈 예정이다.

내년부터 인간 연기·각본만 심사AI 캐릭터·챗봇 시나리오는 배제‘영화 제작에 AI 허용’ 규정은 유지세계 최고 권위 영화상 미국 아카데미 시상식 주최 측이 인공지능(AI)으로 만든 출연자와 각본은 수상 자격이 없다는 규정을 명문화했다. 1일(현지시간) 로이터 통신에 따르면 영화예술과학아카데미(AMPAS)는 내년에 개최하는 제99회 시상식에서 AI 캐릭터나 챗봇이 쓴 시나리오는 수상 후보에서 배제한다는 내용이 포함된 새 규정을 이날 공개했다. 연기 부문은 영화의 공식 출연진 명단에 기재되고 본인 동의하에 인간이 직접 연기한 역할만 심사 대상에 포함된다. 각본 부문에서도 인간이 집필한 시나리오만 심사 대상으로 삼는다는 요건이 명시됐다. 이 같은 조치는 AI 기술 발전에 따른 배우와 작가들의 우려를 반영한 것으로 풀이된다. 지난해 세상을 떠난 유명 배우 발 킬머가 AI기술로 영화에 등장하는 등 AI가 영화산업에 빠르게 적용되며 초상권 침해와 윤리적 논란이 제기돼 왔다. 아카데미 측은 이날 성명을 통해 “틸리 노우드와 같은 AI 합성 배우는 심사 대상이 될 수 없다”고 밝혔다. 틸리 노우드는 지난해 9월 스위스 취리히에서 공개된 완전 합성 캐릭터로, 수백 명의 배우 데이터를 학습시켜 생성됐다. 당시 미국배우방송인조합은 배우의 일자리를 빼앗는다며 크게 반발했다. 다만 아카데미는 영화 제작에 AI 사용을 원천적으로 금지하지는 않았다. AP통신은 아카데미가 “영화 제작에 사용된 생성형 AI와 기타 디지털 도구는 후보 지명 여부에 긍정적이거나 부정적인 영향을 미치지 않는다”는 지난해 규정을 유지했다고 보도했다. 아울러 수상작 선정 시 인간이 얼마나 창작에 관여했는지를 고려하기로 했다. 이밖에 아카데미는 국제장편영화상 부문 규정도 개정했다. 각국 공식위원회가 선정하지 않은 작품도 주요 국제영화제에서 상을 받으면 심사 대상에 포함하기로 했다. 아카데미가 밝힌 주요 국제영화제는 아시아권에서는 유일하게 한국의 부산국제영화제가 포함됐다.

챗봇 실시간 소통·여론 분석부터유니폼 시안·안무 코치까지 받아 인공지능(AI) 기술이 30일 앞으로 다가온 6·3 지방선거의 선거 운동 지형을 바꾸고 있다. AI 챗봇을 통한 후보와 유권자 간 실시간 소통부터 정밀한 여론 분석, 효율적인 유세 동선 설계까지 선거 캠페인의 전 과정에 AI를 활용하는 후보들이 늘어나면서다. 유세 안무를 짜고 의상을 맞출 때도 AI 도움을 얻는 등 비용과 시간을 모두 아낄 수 있어 자금과 조직력이 부족한 정치 신인 등의 진입 장벽을 크게 낮출 것으로 전망된다. 오영준 더불어민주당 대구 중구청장 후보는 공식 홈페이지 ‘오영준 닷컴’에 실시간 대규모언어모델(LLM) 기반 ‘AI 챗봇’을 전면 배치했다. 이 챗봇은 기사와 공약을 학습해 유권자의 질문에 즉각 답변하는 ‘24시간 대변인’ 역할을 한다. 오 후보가 캠프 내부용으로 쓰는 대시보드는 온라인 여론과 댓글 반응을 실시간 수치화해 전략 수립을 지원한다. AI가 단순한 홍보 도구를 넘어 의사결정을 돕는 ‘지능형 보좌진’의 역할을 맡고 있는 셈이다. 오 후보 캠프 관계자는 3일 “AI 기반의 효율화로 홈페이지 제작 등 선거 비용을 1000만원 이상 절약했다”고 밝혔다. 콘텐츠 제작 방식도 한층 효율화됐다. 지난 1일 서울 은평구 국민의힘 당협위원장실에서 만난 김영웅 서울시의원 후보와 오소영·이한백·장경은·황호진 은평구의원 후보는 생성형 AI ‘제미나이’를 활용해 숏폼 콘셉트 시안을 짠 뒤 이를 한참 동안 연습했다. 김 후보는 “기획 단계의 인건비를 대폭 줄인 것이 큰 성과”라고 강조했다. 선거 유세복 시안 제작이나 공약 구상, 연설문 작성에도 ‘챗GPT’, ‘그록’ 같은 생성형 AI를 활용했다. 장 후보는 “홍보 문구가 옷의 상단이나 중간 중 어디에 들어가는 게 좋은지 빠르고 쉽게 바꿔 볼 수 있다는 게 장점”이라고 설명했다. 이 후보는 “선거운동은 지역구 구석구석을 찾아가는 게 중요한데 AI로 거점을 미리 찾아 놓으면 시간을 벌고 주민을 더 만날 수 있다”고 했다. 중앙당이 개발한 ‘AI 솔루션’을 적극 활용하는 후보도 있다. 지난 1일 서울 광진구 노룬산공원에서 만난 이진현 개혁신당 광진구의원 라선거구 후보는 개혁신당 ‘AI 선거사무장’이 알려 주는 유세 동선과 본인이 AI로 직접 제작한 민원 제보 페이지를 참조해 하수도에 쌓여 있는 담배꽁초를 치우며 ‘핀셋 유세’를 했다. 이진현 후보는 “홈페이지 제작 외주비 300만원을 아꼈고, 유튜브 영상 편집에도 AI를 활용해 가성비 높은 선거운동이 가능해졌다”며 “시민들에게도 ‘세금을 아껴서’ 당선됐다고 당당하게 말하고 싶다”고 했다. 김덕수 조국혁신당 전남 나주시장 후보는 챗GPT 기반 ‘금성산’과 제미나이 기반 ‘영산강’ 등 두 가지 모델로 ‘AI 보좌관’을 가동 중이다. 시민들이 여기에 접속하면 후보의 공약과 비전을 확인할 수 있고 답변 하단의 구글폼을 통해 각종 의견, 민원을 후보에게 직접 남길 수 있다. 선거 정보를 유권자 친화적으로 전하려는 시도도 눈길을 끌었다. 이번 선거에서 국민의힘 경기도의원 비례대표에 도전하는 김한슬 구리시의원은 중앙선거관리위원회 데이터를 직관적으로 시각화한 유권자 맞춤형 선거 정보 사이트 ‘모두의 선거’를 개설했다. AI 코딩을 통해 열흘 만에 구축된 이 사이트는 후보자의 전과, 당적 변경 이력 등을 제공한다. 김 시의원은 “하루 평균 방문자 수가 1만명에 이른다”고 했다. 각 정당도 중앙당 차원에서 AI 활용법을 전수하고 있다. 민주당의 싱크탱크인 민주연구원은 자체 구축한 유권자 데이터에 다양한 빅데이터를 결합해 지도에 시각화한 ‘AI 전략지도’를 후보들에게 제공 중이다. 국민의힘은 후보들에게 지역별 인구 특성을 고려한 AI 가상 세계에서 공약·정책·메시지에 대한 반응을 미리 확인하는 시스템을 지원할 계획이다. 개혁신당은 최적화된 유세 일정과 동선 등 선거 운동 전략을 제공하는 ‘AI 사무장’과 ‘쇼츠 제작기’ 등을 자체 개발했다. ‘AI 선거’는 이미 세계적인 흐름이다. 일본 개발자 출신인 팀미라이의 안노 다카히로 대표는 지난 2월 중의원 선거에서 자신의 목소리·말투·공약을 학습한 챗봇 ‘AI안노’로 유권자들의 호응을 끌어내며 창당 9개월 만에 비례대표 11석을 차지했다. 에릭 애덤스 미국 뉴욕시장은 2023년 스페인어·중국어 등 다양한 외국어로 복제된 AI 음성을 활용해 ‘시정 홍보 로보콜’을 발송하는 등 기술을 활용해 유권자와의 접점을 넓혔다. 전 세계적으로 AI 선거가 활발해진 것은 AI 캠페인의 효용성이 입증됐기 때문이다. 데이비드 랜드 미 코넬대 교수팀은 AI 챗봇과의 대화가 유권자 표심에 미치는 영향이 기존 정치 광고보다 더 클 수 있다는 분석 결과를 내놓았다.

- AI시대 관세·무역 패러다임 변화와 대응 과제 논의 (사)한국관세무역개발원이 지난 4월 24일 서울 더플라자호텔 루비홀에서 ‘2026년도 관세무역연구 춘계학술세미나’를 진행했다. 이번 세미나는 ‘AI 시대, 한국 관세·무역의 패러다임 변화와 과제’라는 대주제 아래 관세 행정과 무역 실무 전반의 변화를 짚어보기 위해 마련됐다. 행사는 남성훈 한국관세무역개발원 연구본부장의 개회사와 김상만 덕성여자대학교 교수의 환영사로 시작됐다. 기조연설을 맡은 최원목 이화여자대학교 교수는 ‘글로벌 디지털 통상 환경 변화와 한국의 대응 과제’를 발표하며 데이터 거버넌스, AI 규범화, 디지털 ESG를 디지털 통상 시대의 3대 핵심 쟁점으로 제시하고, 관세·무역 분야의 대응 방향을 논의했다. 제1주제 발표자로 나선 유정호 국립부경대학교 교수는 ‘AI 도입이 고용·임금·무역에 미치는 영향’을 분석했다. 유 교수는 기업의 AI 도입이 장기적으로 생산성을 높일 수 있으나, 초기 단계에서는 조직 재편과 전환 비용 발생으로 인해 수출 지표 하락 및 임금 감소 등의 과도기적 현상이 나타날 수 있다고 설명했다. 제2주제에서는 정재호 수원세관장이 “관세행정의 AI 활용 현황과 발전 방향”을 발표했다. 정 세관장은 관세청이 위험 선별, 정보 분석, 감시·검사, 업무 효율화, 대민 서비스 등 관세행정 전 분야에서 AI 활용을 확대하고 있다고 설명했다. 특히 전자상거래 통관, AI X-ray, 원산지 검증 챗봇, 우범자 분석 등 현장 중심의 AI 활용 사례를 소개했다. 제3주제 발표는 조현기 한국관세무역개발원 부연구위원이 맡아 “무역학 분야 인공지능(AI) 연구 동향 및 활용 사례”를 발표했다. 조 부연구위원은 국내외 AI 연구 동향과 함께 무역학 분야에서의 AI 활용 가능성을 설명하고, 미국 CBP 원산지 판정문에 대한 AI 기반 텍스트 분석을 통해 최근 관세무역 주요 이슈에 대한 시사점을 제시했다. 종합토론에서는 정재완 고문(관세법인 대문)이 좌장을 맡았으며, 이주형 교수(서울시립대학교), 고태진 관세사(관세법인 한림), 김진규 교수(조선대학교), 정희진 교수(한신대학교)가 토론자로 참여했다. 토론에서는 전자적 전송물에 대한 무관세 모라토리움과 향후 과세 문제, 중소기업의 AI 활용 격차 해소를 위한 정책 지원 필요성 등에 대해 논의했다. 한국관세무역개발원은 이번 세미나를 통해 AI가 관세행정, 무역 실무, 통상 규범, 학술 연구 전반을 변화시키는 핵심 요인임을 확인했다고 밝혔다. 이어 앞으로도 관세·무역 분야의 미래 의제를 발굴하고 학계·관계·실무 전문가 간 논의의 장을 지속적으로 마련해 나갈 계획이다.

구약성경에 바벨탑 이야기가 나온다. 본래 하나의 언어를 쓰던 인류가 도시를 세우고 하늘에 닿는 바벨탑을 쌓으려 했다. 이를 신의 권위에 대한 도전으로 여긴 신이 세상의 말을 뒤섞어 버렸다고 한다. 인류가 서로 의사소통이 되지 않는 다른 말을 쓰게 되면서 공사는 중단되고 전쟁과 다툼의 혼돈에 빠졌다는 것이다. 고대 그리스-페르시아 전쟁이나 중세의 십자군 전쟁도 언어와 문화권이 다른 집단 간의 충돌로 볼 수 있다. 중세에서 르네상스기에 이르기까지는 국적이 달라도 학문과 종교적 소통을 가능하게 한 라틴어가 있었다. 근현대에 와서는 대영제국 및 1, 2차 세계대전을 계기로 패권을 장악한 미국의 영향력을 배경으로 영어가 글로벌 공용어 기능을 해 왔다. 1887년 폴란드의 안과 의사 루드비크 라자루스 자멘호프는 ‘모두에게 공평한 언어’로 에스페란토라는 인공어를 창안하기도 했다. 2006년 시작된 구글의 번역 기능이 2016년부터 고도화되면서 이제는 문맥을 반영한 자연스러운 번역까지 가능해졌다. 지난 7일부터는 소셜미디어 엑스(X)가 진화한 번역 기술을 또 선보였다. 모든 외국어 게시물을 별도의 번역 요청 없이 이용자가 사용하는 언어로 볼 수 있게 된 것. 1억 2500만명에 이르는 X의 모바일앱 일일 활성 사용자들에게 언어에 구애받지 않고 실시간 소통하는 게 가능해졌다. 일론 머스크가 이끄는 기업 xAI의 생성형 AI챗봇 ‘그록’을 활용한 실시간 자동번역 기능 덕분이다. 머지않아 인간의 신경세포, 호르몬 화학반응, 아드레날린 분비와 심박수 등을 훑어 마음속 언어까지 읽어 내는 번역기가 등장하지 말라는 법도 없다. 한편으로는 덜컥 겁이 나기도 한다. 그런 ‘속마음 번역기’가 등장한다면 어떨까. “존경하는 ○○의원님” “우리는 오랜 형제국가”라는 외교적 수사가 숨쉴 곳을 잃고, 인간의 원색적 본능과 감정이 여과 없이 충돌하는 ‘현대판 바벨탑 참사’가 도래할지 모르는 일 아닌가.

실제 피해자를 특정할 수 있나“아바타 모욕이 실제 사용자 모욕”버추얼 아이돌에 손해배상 결론사람 관여했는지 알기 힘든 AI 상담성적 수치심 일으키는 문자는 무죄기술 발전에 따른 법적 과도기음주 뒤 자율주행, 현행법상 유죄기술 발전해 운전 주체 바뀐다면향후 음주운전 책임 달라질 수도“새 기술 상용화 땐 새 입법 필요” 버추얼 아이돌 그룹 ‘플레이브’는 지난해 9월 누리꾼 A씨를 상대로 손해배상 소송을 제기했다. A씨는 7차례에 걸쳐 소셜미디어(SNS) 엑스(X)에 플레이브를 모욕하는 게시물을 올렸다. A씨는 플레이브가 가상의 캐릭터이며 실제 사용자의 신상은 비공개라 플레이브와 실제 사용자 사이에 동일성이 인정될 수 없다고 주장했다. 그러나 법원은 “A씨는 플레이브 멤버 5명에게 각 10만원씩 배상하라”며 플레이브의 손을 들어줬다. 실제 인간이 아닌 버추얼 아이돌 그룹의 ‘인간성’을 인정해 준 것이다. B씨는 서울 종로구 일대의 불법 주정차를 신고하다가 화가 난 나머지 민원 신고용 콜센터 인공지능(AI) 챗봇 서비스에 욕설을 쏟아냈다. ‘X같은 주차’라고 보낸 것을 시작으로 발언의 수위는 점점 세졌다. 여성의 성기를 비하하는 등성적 수치심을 일으키는 메시지 36차례, 욕설은 39차례나 보냈다. 그러나 법원은 2022년 5월 B씨에게 무죄를 선고했다. 재판부는 “일반인이 채팅을 통한 민원 접수 처리 과정에 AI 상담사 외에 사람 상담사가 관여한다는 것을 인식하기 어려워 보인다”고 지적했다. 15일 법조계에 따르면 AI 등 기술 발전으로 사회가 빠르게 변화하면서 과거 유사 사례를 찾기 어려운 새로운 사건이나 법적 분쟁도 늘어나고 있다. 범죄라는 사실을 인지하지도 못한 채 무심코 저질러 처벌받게 되거나, 반대로 법이 기술의 발전 속도를 따라가지 못해 피해가 발생해도 처벌이 어려운 사례가 늘고 있다. 앞선 두 사례는 기술 안에 숨어 있는 ‘실제 피해자’를 특정할 수 있는지에 대한 법원의 판단이 갈렸다. A씨는 가상의 캐릭터라고 주장했지만 재판부는 버추얼 아이돌 그룹에게 명예가 있다고 판단했다. 재판부는 “현실 세계와 디지털 세계가 융합된 메타버스 시대에 아바타는 사용자의 자기표현, 정체성, 사회적 소통 수단임을 고려할 때 아바타에 대한 모욕 역시 실제 사용자에 대한 외부적 명예를 침해하는 행위로 평가될 수 있다”고 지적했다. 법원이 지난해 7월 신원 미상의 얼굴과 여성의 나체를 합성한 사진을 텔레그램 채널에 올린 C씨에 대해서 무죄를 선고한 사례도 있다. 관련법상 ‘대상자의 의사에 반해 제작·반포된’ 성적 합성물의 피해자는 실존하는 사람이어야 한다는 이유에서다. 재판부는 “AI의 발달로 실제 사람의 얼굴이나 신체와 구별하기 어려운 가상 인물의 그림을 누구나 쉽게 획득할 수 있게 됐고, 실제 사진과 합성한 사진의 구별도 어려워진 것이 현실”이라고 설명했다. 다만 기술이 정교해져 AI와 사람의 구분이 점차 모호해지는 상황에 대한 추가 논의가 필요하다는 지적도 나온다. 서초동의 한 변호사는 “AI를 이용해 특정인과 일부만 닮게 만든 가상 인물의 경우처럼 기술과 실제 사람의 동일성의 범주를 어디까지 인정해야 하는지 등에 대해선 다툼의 여지가 있다”고 말했다. 기술 발전 단계에 따라 법적 과도기에 놓인 영역도 있다. 대표적인 예가 자율주행에 따른 운전자의 법적 책임이다. 현행 도로교통법상 운전의 책임은 운전자에 있다고 명시돼 있다. 이에 술을 마시거나 면허가 없는 상태에서 차량 자율주행 모드로 주행하는 것은 불법이다. 2023년 5월 경남 사천시의 한 도로에서 혈중알코올농도 0.112%인 상태로 주행하다 중앙분리대를 들이받고 도주한 D씨는 “자율주행 기능이 작동 중이라 바로 멈추거나 핸들을 원하는 대로 조작하지 못했다”고 주장했으나 법원은 받아들이지 않았다. “자율주행 중이어도 브레이크를 밟아서 차량을 멈추는 게 가능하고, 도로 바깥에 차를 세우려는 노력이 없었다”는 게 재판부의 판단이었다. 2021년 10월 충남 당진에서 있었던 유사한 사건에 대해 재판부는 자율주행 기술단계 0~5단계를 나열하며 “범행 당시 상용화된 자동차에는 자율주행 기술 2단계까지만 적용돼 있어 가해 차량의 자율주행 시스템이 적용돼 있다 하더라도 피고인이 운전의 주체이므로 음주운전의 책임이 있다”고 밝혔다. 운전의 주체가 바뀐다면 음주운전의 책임이 달라질 수 있다는 여지를 남긴 셈이다. 송지은 법무법인 중현 파트너 변호사는 “향후 인간 개입이 완전히 필요 없는 수준의 자율주행 기술이 상용화될 경우 현재의 도로교통법으로 운전의 범주를 다 포괄할 수 없어 새로운 입법 논의가 필요할 것”이라고 말했다.

단 한 개의 질문이 비극을 낳았다. 리어왕은 세 딸을 불러 모았다. 나이가 들어 통치의 짐을 내려놓고자 영토를 분할할 것이며, 자신을 가장 사랑하는 딸에게 보다 큰 선물을 내릴 거라 했다. 그리고 물었다. “너희들 중 누가 나를 가장 사랑한다고 말하겠는가?” 첫째 딸 고너릴은 “말할 수 없을 만큼” 아버지를 사랑하며 자신의 사랑은 “광활한 토지나 눈알보다 중하다”고 읊었다. 둘째 딸 리건은 언니의 사랑도 자신의 사랑에는 미치지 못하며 자신은 오로지 아버지의 사랑 안에서만 행복하다고 답해 왕을 만족시켰다. 막내 코델리아는 의외의 답을 내놓았다. 자신은 “도리에 따라 아버지를 사랑할 뿐”이며 “마음을 입에 담을 수 없기에 드릴 말씀이 없다”고 답했다. 사실을 위장하는 고너릴과 리건의 아첨에 익숙해진 리어왕의 귀에 코델리아의 과장 없는 진솔한 진술은 오히려 괘씸하게 들렸다. 리어왕은 결국 코델리아에게 부모 자식의 연을 끊겠다고 선언했다. 나도 때로 아첨이 그리울 때가 있다. 타인의 글에는 부러움을 느끼지만 자신의 글에는 한없는 부끄러움을 느끼는 게 글 쓰는 사람의 숙명이다. 그 부끄러움이 극에 달해 어떤 글도 쓰지 못할 것 같은 좌절에 빠져 있는데, 익명이 무기가 되는 디지털 공간에서 부끄러움이 묻어 있는 그 글이 난도질당하는 경험을 하게 되면 한 줌의 아첨이라도 간절해진다. 그때 인공지능(AI) 챗봇에게 내가 쓴 칼럼을 평가해 달라고 부탁해 본다. 챗봇은 익명의 인간은 절대 구사하지 않는 ‘통찰력이 돋보이는’ ‘탁월한’ ‘마침내 도달한’ 등의 단어를 쓰며 고너릴과 리건처럼 듣기에 마냥 좋기만 한 말을 뱉어 낸다. 인공지능 챗봇이 아첨하는 이유는 설계 방식에 숨어 있다. 대규모언어모델(LLM)의 정확도를 높이기 위해 ‘인간 피드백 기반 강화학습’(RLHF)이 진행된다. 인간 사용자의 의견에 공감하고 긍정할 때 높은 점수를 받는다는 것을 학습한 인공지능은 사용자가 듣고 싶어 하는 응답을 제시하는 쪽으로 진화한다. 이를 ‘사이코팬시’(아첨 현상)라 부른다. 챗봇과의 대화에 빠진 사람이 늘어날수록 인공지능 아첨이 초래하는 위험은 드물지 않게 발생한다. 사용자가 어떤 가설을 제시하면 인공지능은 이를 아첨 섞인 말로 맞장구쳐 주고, 그 아첨에 고무된 사용자는 더 강한 어조로 자기주장을 되풀이하는 망상의 소용돌이에 빨려든다. 인공지능이 인간의 정신건강에 미치는 부정적 사례를 수집하고 있는 단체 ‘휴먼 라인 프로젝트’에 따르면 챗봇의 아첨으로 ‘망상적 악순환’에 빠진 사례가 300건을 넘으며, 이 중 15건이 자살과 연관돼 있다고 한다. 망상은 아첨을 먹고 자란다. 아첨에 익숙해지면 현실을 그대로 받아들이지 못한다. 챗봇은 고너릴과 리건을 닮았다. 코델리아처럼 정직하게 답하지 않는다. 챗봇이 디지털 고너릴임을 알아채지 못하면 누구나 셰익스피어의 가장 어둡고 허무한 비극의 주인공 리어왕이 될 수 있는 세상을 우리는 살고 있다. 노명우 아주대 경제정치사회융합학부 교수

생성형 인공지능(AI) 챗봇인 ‘챗GPT’로 촉발된 AI 혁명은 이제 현실 세계로 진입하고 있다. 인간의 육체 노동을 대신하는 ‘피지컬 AI’와 로봇 기술의 결합은 민간 기업의 일자리 지형을 뒤흔들고 있다. 머지않은 미래에 단순한 반복 업무는 물론 상당수 서비스 직종까지 기계로 대체될 것이라는 전망은 더이상 과장이 아니다. 노동과 고용 구조를 재편하는 거대한 전환이 바야흐로 시작되고 있는 것이다. 민간이 충분한 일자리를 창출하거나 고용을 유지하기 어려운 수축의 시대를 맞아 국가와 지방정부가 책임질 공공일자리의 역할은 더욱더 막중해졌다. 그러나 냉정하게 묻자. 현재의 공공일자리 정책은 이 위기의 방파제가 될 수 있는가. 지금의 방식이 과연 미래 세대의 생존을 담보할 수 있는지 성찰이 필요하다. 필자는 약 30년 동안 공직에 몸담으며 수많은 일자리 정책의 명암을 현장에서 지켜봤다. 과거의 공공일자리 정책은 ‘몇 개의 일자리를 만들었는가’라는 지표와 통계에 집착해 온 것이 사실이다. 하지만 수개월짜리 단기 사업과 단순 노무 중심의 일자리로는 다가오는 AI 실업 대란에 대응할 수 없다. 이제 공공일자리의 패러다임은 ‘숫자’를 넘어 인간만이 할 수 있는 가치를 남기고 스스로 굴러가는 ‘지속 가능한 생태계’로 전환돼야 한다. 단순한 일자리 제공을 넘어 역량 축적과 지역 순환 구조까지 고려하는 접근이 절실하게 요구된다. 이러한 문제 의식 속에서 서울 관악구가 주목할 만한 실험에 나섰다. 관 주도의 단기 사업 반복으로는 지역 일자리의 근본적 체질을 바꿀 수 없다는 판단 아래 전문성과 현장성을 갖춘 ‘관악일자리행복주식회사’를 지난해 7월 공식 설립한 것이다. 단순한 조직 신설이 아니라 공공이 일자리를 바라보는 관점을 전환하려는 시도다. 관악일자리행복주식회사는 단순히 공공근로 인력을 모집해 투입하는 과거의 인력사무소가 아니다. 지역 사회에 필요하지만 민간 시장이 감당하지 못하는 틈새 공공서비스(상권 로컬 브랜드, 스마트 공공시설 관리, 지역 특화 자원 관리 등)를 발굴해 안정적인 일자리로 연결한다. 더 나아가 공공서비스와 연계한 자체 수익 모델을 병행해 외부 지원에만 의존하지 않는 자생력을 확보해 나가고 있다. 사람의 온기와 지역의 이해도가 필요한 영역을 개척해 기계가 범접할 수 없는 지속 가능한 일의 터전을 설계하는 것이다. 이는 단순 고용을 넘어 지역경제의 선순환까지 이끌 수 있다는 점에서 의미가 크다. AI 시대에 대비한 정부의 기본사회 정책과 사회연대경제기본법 역시 이러한 질적 전환의 필요성을 뒷받침하고 있다. 중앙정부도 단순한 재정 지원을 넘어 지방정부가 지역 수요에 맞춰 일자리 생태계를 기획·운영할 수 있도록 권한과 지원을 집중해야 한다. 현장의 실험이 제도적 뒷받침과 만날 때 확산의 동력을 얻을 수 있다. AI가 인간의 노동을 대체하는 시대, 공공일자리의 미래는 결국 지속 가능성에 달렸다. 관악일자리행복주식회사의 모델은 공공이 더이상 일자리를 ‘만드는’ 데에만 머물러서는 안 되며, 자생하는 일의 생태계를 ‘설계하고 작동시키는’ 기획자가 돼야 한다는 것을 보여 준다. 거대한 위기 앞에서는 새로운 상상력이 필요하다. 대한민국 공공일자리의 대전환, 그 해답은 현장과 맞닿아 있는 지방정부의 과감한 혁신에서 시작된다. 김중헌 관악일자리행복주식회사 대표이사

서울 금천구는 새로 만들어진 법인의 지방세 이해와 자진 신고를 활성화하기 위해 ‘신설 법인 맞춤형 주민세 안내 서비스’를 선보인다고 6일 밝혔다. 구는 신규 설립되는 1400여개 법인에 분기별로 안내문을 보낼 계획이다. 안내문에는 주민세 종업원분과 사업소분 납부 대상, 산출 방법 등 핵심 정보와 함께 세목별 자주 묻는 질문, 틀리기 쉬운 사례를 상세히 담았다. 안내문은 신설 법인들이 초기에 겪는 어려움을 최소화하는 데 초점을 맞추는 한편, 복잡한 과세 기준과 월별 납부 일정 등을 미리 안내한다. 구는 새롭게 출발하는 기업의 정보 부족에 따른 혼란을 예방하고 안정적으로 세무 업무를 처리할 수 있도록 지원한다. 또 안내문에 삽입된 QR코드를 통해 ‘인공지능(AI) 세무 안내 챗봇’ 서비스를 제공한다. 이를 통해 시간과 장소에 구애받지 않고 궁금증을 해소할 수 있어 납세자의 편의성과 효율성이 높아질 것으로 기대된다. 구 관계자는 “납세자가 스스로 신고할 수 있는 환경을 조성하는 것이 적극 행정의 시작”이라며 “앞으로도 납세자 중심의 세정 서비스를 지속 확대해 이해하기 쉬운 지방세 행정을 구현하겠다”고 밝혔다.

서울 금천구는 신설 법인의 지방세 이해와 자진 신고를 활성화 하기 위해 ‘신설 법인 맞춤형 주민세 안내 서비스’를 선보인다고 6일 밝혔다. 구는 신규 설립되는 1400여개 법인에 분기별로 안내문을 보낼 계획이다. 안내문에는 주민세 종업원분과 사업소분의 납부 대상, 산출 방법 등 핵심 정보와 함께 세목별 자주 묻는 질문, 주요 유의 사례를 상세히 담았다. 안내문은 세무 경험이 부족한 신설 법인들이 초기 업무에 겪는 어려움을 최소화하는 데 초점을 맞췄다. 복잡한 과세 기준이나 놓치기 쉬운 월별 납부 일정 등을 미리 안내한다. 구는 새롭게 출발하는 기업이 정보 부족으로 인한 혼란을 예방하고 안정적으로 세무 업무를 처리할 수 있도록 지원한다. 또 안내문에 삽입된 QR코드를 통해 ‘인공지능(AI) 세무 안내 챗봇’ 서비스를 제공한다. 이를 통해 납세자는 시간과 장소에 구애받지 않고 궁금증을 해소할 수 있어 세무 처리의 편의성과 행정 효율성이 높아질 것으로 기대된다. 구 관계자는 “납세자가 스스로 신고할 수 있는 환경을 조성하는 것이 적극 행정의 시작”이라며, “앞으로도 납세자 중심의 세정 서비스를 지속 확대해 이해하기 쉬운 지방세 행정을 구현하겠다“라고 말했다.

유럽의 오픈AI로 불리는 프랑스 인공지능(AI) 스타트업 ‘미스트랄 AI’가 삼성전자와 메모리 반도체 협력 방안을 논의했다. 5일 업계에 따르면 에마뉘엘 마크롱 프랑스 대통령의 국빈 방한을 계기로 한국을 찾은 아르튀르 멘슈 최고경영자(CEO) 등 미스트랄 AI 경영진은 지난 2일 삼성전자 화성캠퍼스에서 전영현 삼성전자 대표이사 겸 디바이스솔루션(DS) 부문장(부회장) 등을 만났다. 미스트랄 AI는 구글 딥마인드와 메타 출신 인력들이 2023년 설립했다. 오픈AI의 GPT-4에 필적하는 성능을 갖춘 대형언어모델(LLM) ‘미스트랄 라지(Large)’ 및 챗봇 ‘르 샤(Le Chat)’를 선보였다. 미스트랄 AI는 미국·중국 테크 기업에 의존하지 않는 유럽의 ‘소버린 AI(기술 주권)’를 추구한다. 미스트랄 AI는 프랑스 파리 인근에 건설 중인 신규 데이터센터를 통해 AI 모델 학습 및 추론 서비스를 제공할 예정인데, 삼성전자가 여기에 탑재될 고성능 메모리를 공급할 것이라는 관측이 나온다. 업계 관계자는 “이번 삼성전자 방문은 자사 모델 운영 및 AI 인프라 구축에 필요한 반도체 경쟁력을 강화하려는 행보”라고 말했다.

“대리급 직원 한 명 몫은 해내는 것 같아요. 30분 걸릴 일을 1~2분이면 끝낼 수 있게 됐죠.” 여신 부서에서 인공지능(AI) 에이전트(비서)를 활용해 근무하는 한 시중은행 직원은 2일 이렇게 말했다. 은행의 AI 활용이 단순한 질문에 답하는 ‘챗봇형’을 넘어 재무분석, 대출 심사, 보고서 작성 등 실제 은행원의 업무로 확대되는 모습이다. 업계에선 업무시간 단축과 조직 효율화에 도움이 될 것으로 보고 있으나, 신뢰성 제고와 교차검증 문제는 과제다. 한국산업은행은 이날 재무분석 AI 에이전트를 자체적으로 만들어 내부 서비스를 시작한다고 밝혔다. AI 에이전트는 사용자의 질문에 단순히 반응을 출력하지 않고 상황을 능동적으로 파악해 자율적인 의사결정을 하는 시스템이다. 산은의 AI 에이전트는 기업 공시 같은 외부 데이터를 정제해서 해당 기업이 마주한 위험 요인 등을 고려한 재무 보고서를 쓴다. 민간 금융사보다 의사결정 체계가 더 보수적인 것으로 알려진 국책은행까지 본격적으로 AI를 업무에 활용하기 시작한 것이다. 실제 시중은행에서는 직원들이 이미 AI 에이전트를 업무 파트너로 활용하고 있다. KB국민은행은 프라이빗뱅커(PB), 기업금융전담역(RM) 역할을 하는 에이전트를 만들었다. AI가 보이스피싱 같은 의심거래도 잡아내고 있는데, 지난해 금융피해 예방 실적은 1720억원에 달한다. 신한은행은 고객관리·자산관리·여신심사 에이전트를 올해 1월부터 지난달까지 차례로 현장에 투입했다. 고객이 대출을 신청하면 은행원은 대출 승인 여부를 살펴 의견서를 작성하는데, 이때 필요한 정보도 AI 에이전트를 통해 받고 있다. 하나은행은 생성형 AI를 바탕으로 기업 신용평가 심사 의견 작성을 자동화했다. 우리은행은 기업 및 내부 데이터를 활용한 보고서 작성에, NH농협은행은 대출금리 및 기업 자금관리에 AI를 활용한다. 신뢰성 제고는 과제다. 예컨대 AI가 기업의 재무 상황을 잘못 분석했는데 직원이 이를 근거로 의견서를 작성해 대출이 나가면 은행에 부실 문제가 발생할 수도 있다. 하지만 아직 금융사가 활용하는 AI 알고리즘의 정확성을 따져보는 감독체계는 미비한 실정이다. 당국 관계자는 “금융사들이 AI를 쓸 때 내부통제 시스템을 갖추도록 하는 AI 가이드라인을 정비하는 막바지 작업을 진행 중”이라고 밝혔다. 최재홍 가천대 교수는 “AI가 대고객 서비스를 본격화하거나 사람의 개입 없는 신용평가를 한다면 문제가 발생할 수 있다”고 우려했다.

국민체육진흥공단은 1일 체육인의 생활 안정과 경력개발 지원을 위한 다양한 복지사업을 총괄하는 체육인복지지원포털(이하 SPOWELL)을 오픈한다고 밝혔다. 체육공단은 지난해 4월 ‘SPOWELL’의 1차 오픈으로 체육인만을 대상으로 회원가입을 진행하고 체육인 복지 지원 사업 안내, 사업 신청 접수 등의 서비스를 지원해 왔다. 이번 2차 오픈을 통해 회원 제도와 주요 기능을 개선해 이용자의 접근성과 편의성을 높였다. 2차 오픈의 주요 내용은 ‘회원가입 절차 간소화 및 회원 유형별 세분화 관리’, ‘챗봇 및 통합검색 기능 도입으로 정보 편의성 강화’, ‘스포츠 꿈나무 특기 장려금 포인트 잔액 및 사용 내역 조회 기능 신설’, ‘체육장학금 등의 증명서 발급, 알림 신청, 포상금 계산기 등 행정 서비스 고도화’, ‘생활지원금, 원로 체육인 지원 사업을 비롯한 주요 사업의 온라인 신청 서비스 제공’ 등이다. 특히 기존 ‘체육인 복지법’ 상 체육인에게만 회원가입을 허용했던 반면 이번 2차 오픈으로 체육인 복지에 관심이 있는 체육인은 누구나 회원으로 가입할 수 있게 됐다.

최근 틱톡에서는 “지금 누군가에게 답변 중인 챗GPT”(ChatGPT to someone right now)라는 트렌드가 한창입니다. 누군가가 잘못된 행동을 한 뒤 챗GPT에게 조언을 구하면, 챗GPT가 지나치게 공감하고 정당화해 주는 상황을 표현하는 건데요. 예를 들어 바람피운 파트너에게 “당신은 ‘행복해질 권리’라는 메시지를 남긴 거예요”라고 답하거나, 은행 강도에게 “가족을 위한 재정 자원을 확보한 것뿐”이라며 치켜세우는 식이죠. 전문가들은 AI가 사용자에게 호감을 얻기 위해 과도하게 동조하거나 칭찬하는 경향을 ‘사이코팬시(sycophancy) 문제’라고 설명하는데요. 실제로 AI가 지나치게 공감하는 답변을 할 경우, 사용자가 자신의 잘못을 돌아보기보다 오히려 정당화하게 만들 수 있다는 연구 결과도 제기된 상태. 과도한 긍정이 사용자의 도덕적 관점을 흐리게 하고, 자신의 잘못을 바로잡으려는 의지까지 꺾을 수 있다고 전문가들은 경고합니다. 잘못마저 그럴 듯하게 포장해 주는 AI 챗봇 사용, 정작 주변 사람들에게 상처를 주는 ‘AI형 빌런’이 되고 있지는 않은지 돌아보게 만드는 트렌드네요. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

서울시는 사계절 대표 축제를 연결한 ‘365 축제도시 서울’ 계획을 16일 발표했다. 도심에 집중됐던 축제 무대를 한강 등 서울 전역으로 확대하고, 통합 브랜드 ‘펀 서울’(Fun Seoul)을 앞세워 글로벌 축제 도시로서의 인지도를 굳히겠다는 구상이다. 핵심 전략은 ▲축제 중심지 한강 조성 ▲시민 참여 축제 ▲정보 접근성 강화 ▲지역경제 활성화 등이다. 시는 관람형을 넘어 시민과 외국인 관광객이 직접 참여하는 체험형 콘텐츠를 강화하고, 축제 이후에도 주변 상권과 연계해 체류 시간을 늘려 경제 효과를 높일 계획이다. 시는 2022년부터 계절별로 선보여 온 ▲봄 ‘서울스프링페스티벌’ ▲여름 ‘쉬엄쉬엄 한강 3종 축제’ ▲가을 ‘서울어텀페스티벌’ ▲겨울 ‘서울윈터페스티벌’을 중심으로 연중 즐길 거리를 제공한다. 특히 모든 축제에 ‘펀 서울’ 브랜드를 통합 적용하고, 기존 ‘페스타’ 표현은 영어 기반의 ‘페스티벌’로 일괄 변경할 예정이다. 정보 접근성 개선을 위해 시·구·민간 주최 행사를 한눈에 볼 수 있는 펀 서울 홈페이지를 개편하고, 하반기에는 인공지능(AI) 챗봇을 도입한다. 또한 연간 ‘축제 캘린더’와 ‘축제 지도’를 제작해 배포할 예정이다. 시는 올해 ▲외국인 관광객 3000만명 유치 ▲사계절 축제 방문객 6000만명 달성 ▲경제 파급효과 5000억원을 실현한다는 목표를 잡았다. 김태희 시 문화본부장은 “서울 브랜드 인지도를 높여 글로벌 톱5 도시에 빠르게 안착할 것”이라며 “하반기에는 민관이 협력하는 축제조직위원회도 구성할 계획”이라고 밝혔다.

‘조회수=수익’ 플랫폼 보상체계 탓자극적인 하이브리드 합성물 활개정부·업계 필터링 강화 등 대응 착수 미국의 이란 공습으로 중동 지역의 긴장이 최고조로 향하는 가운데, 온라인에서 인공지능(AI)이 생성한 가짜 콘텐츠가 실시간으로 유포되며 혼란이 커지고 있다. 이스라엘 텔아비브 상공에 미사일이 쏟아지거나 두바이 부르즈칼리파가 화염에 휩싸인 영상들이 소셜미디어(SNS)를 뒤덮었지만 모두 생성형 AI가 만든 가짜였다. 기술이 전장의 비극을 복제하고 혐오를 확산하는 증폭기로 활용되면서 과학기술계의 우려가 커지고 있다. 과학기술계는 9일 이번 허위 영상 유포 사태가 생성형 AI가 전쟁과 관련한 허위 정보를 생산하는 도구가 됐다는 점에서 걱정을 쏟아냈다. 과거에는 전문 장비와 인력이 필수적이었으나, 이제는 오픈AI의 ‘소라’나 구글의 ‘베오’ 같은 모델에 몇 줄의 텍스트만 입력하면 정교한 영상을 얻을 수 있다. 여기에 영상 편집·합성 특화 AI인 ‘런웨이’나 ‘피카’ 같은 도구를 활용한 자동 편집까지 더해지며 제작 공정은 비약적으로 단축됐다. BBC 등 외신에 따르면 텔아비브 폭격 영상은 수백 개의 계정을 통해 재유포되며 수만 건의 공유를 기록했고, 가짜 부르즈칼리파 화재 영상의 조회수는 수천만 회에 달했다. 이들 영상의 상당수는 실제 현장을 촬영한 뒤 AI로 정교한 화염과 연기, 미사일 궤적을 덧입힌 ‘하이브리드 조작’ 형태였다. 특히 바레인의 미 해군 기지가 파괴된 것처럼 조작된 위성사진은 실제 공개된 위성사진 위에 AI가 폭발 흔적과 그을음을 덧입힌 것으로 확인됐다. 미국과 이란의 교전으로 전 세계적인 긴장감이 극에 달한 상황에서, 대중이 사실 확인보다 자극적인 영상에 먼저 반응하는 심리적 취약점을 파고든 결과다. 전쟁 시기에 허위 정보가 유통되는 현상 자체는 고전적인 선전 수법 중 하나다. 그간은 2023년 알제리의 축구 경기 축하 불꽃놀이 영상을 이란의 이스라엘 공습 장면으로 속이는 등 과거 영상을 날짜만 바꿔 속이는 방식이 주를 이뤘다. 하지만 생성형 AI는 존재하지 않는 피해 현장을 무에서 창조해낼 수 있다는 점에서 그 위험성이 차원이 다르다. 허위 정보의 기획자가 사람일지라도, AI는 그 거짓을 가장 그럴듯한 형태로 대량 복제해 유통하는 고성능 엔진 역할을 하고 있는 셈이다. 이러한 구조를 뒷받침하는 것은 조회수가 곧 수익으로 연결되는 플랫폼의 보상 체계다. 한 AI 개발사 관계자는 “콘텐츠 제작 비용은 사실상 제로에 가까워졌지만, 이를 가려내는 사회적 검증 비용은 오히려 기하급수적으로 늘어났다”며 “자극적인 정보가 더 빨리 확산되는 환경 속에서 기술이 공론장을 정화하기보다 오염시키는 도구로 소비되고 있다”고 우려했다. 혐오 게시물이나 가짜 영상이 사람들의 감정을 즉각적으로 자극할수록 플랫폼 내에서 더 큰 영향력을 얻는 구조적 모순이 발생하고 있는 것이다. 기술 오용에 대한 비판이 거세지자 기업과 정부도 대응에 나서고 있다. 최근 이용자의 요구에 따라 인종차별적 게시물을 생성해 논란을 빚은 엑스(X)는 해당 콘텐츠를 삭제하고, AI 챗봇 ‘그록’의 답변 생성 로직에 대한 자체 조사와 필터링 강화에 착수했다. X는 또 무력 충돌을 다루는 AI 영상에서 AI 생성 표식을 하지 않을 경우 90일간 퇴출하고, 재차 적발 시 영구 제명키로 했다.

개혁신당이 6·3 지방선거 후보자들의 유세 동선과 전략을 짜주는 애플리케이션(앱) ‘인공지능(AI) 선거 사무장’을 9일 공개했다. AI 사무장은 AI를 통해 이용 교통수단, 유세 강도나 연령 등 후보자 특성과 선거 지역의 유동 인구 데이터를 결합해 최적화된 유세 동선을 짜준다. 출퇴근 시간대에 인구가 밀집되는 지하철역 입구를 유세 활동지로 추천해주는 식이다. 이날 국회에서 직접 시연에 나선 이준석 대표는 “유세 지역구도 헷갈릴 수 있는 정치 신인들도 전면에 나설 수 있도록 지원하는 앱”이라고 소개했다. 이 대표를 비롯해 선거를 치렀던 당원들의 노하우가 담긴 이 앱은 위성항법장치(GPS)를 이용해 후보자들의 유세 활동 수행도를 평가하고, 유세가 미진한 지역을 추가로 추천한다. 챗봇을 통해 후보자가 ‘오늘 비가 오니 이에 맞춰 일정을 짜달라’고 요청하면 실내 위주의 유세 동선을 제안한다. AI 사무장은 개혁신당 ‘99만원 선거 실험’ 패키지의 핵심 장치 중 하나다. 공천 심사비와 정당 기탁금을 없앤 데 이어 선거운동도 AI를 통해 비용을 낮춘다. 이 대표는 “향후 공개할 시스템이 (이외에도) 7~8개 있을 것으로 예상한다”고 말했다.

“지난해 12월에 월급여 총액이 2억원이면 주민세 종업원분을 내야 해?” 8일 서울 금천구가 마련한 인공지능(AI) 기반 세무안내 챗봇 ‘나래봇’과 생성형 AI ‘챗GPT’에 이런 질문을 입력했다. 챗GPT는 ‘급여에 0.5%를 곱하면 된다’고만 답한 반면, 나래봇은 ‘12월이 아닌 최근 1년간 월별 급여총액을 합산한 뒤 12개월로 나눈 평균이 1억 8000만원을 넘어야 납부 대상’이라고 바로 잡았다. 24시간 정확한 지방세 정보를 알려주는 나래봇은 지난해 6월 첫선을 보인 뒤 금천구 명예직원으로 제 몫을 톡톡히 하고 있다. 6개월 만에 방문자 8404명의 질문 2만 8367건을 해결했다. 행정 효율을 높인 점을 인정받아 서울시가 주관한 ‘2025년 민원서비스 평가’에서 개선 우수사례로 뽑혔다. 나래봇의 완성도를 끌어올린 숨은 주역은 금천구 세무동아리 ‘지택스랩(G-TAX LAB)’이다. 지난해 초 금천구 세무직 공무원의 약 37%인 28명이 자발적으로 뭉친 이 동아리는 나래봇의 집중 훈련을 책임졌다. 지난해 7·8월 지식산업센터 업체 130곳, 법무사 41곳, 공인중개사 631곳 등에 나래봇을 알리는 공문도 보냈다. 지난달 24일 만난 지택스랩 회원들은 5월부터 시가표준액 검색 기능을 추가하는 등 개선 작업을 위한 논의 중이었다. 동아리 부회장을 맡은 남주영(56) 38세금징수1팀장은 “나래봇은 구청 홈페이지에 공개된 자료를 토대로 제작됐는데 이번엔 서울시의 ‘알기 쉬운 지방세’ 자료도 탑재한다”며 “직원들이 자주 받는 질문을 넣어보고 간결하면서도 구체적으로 계산 과정을 답하도록 해 이해가 쉽고 신뢰도가 높다”고 설명했다. 모든 지역에서 참고할 수 있는 것은 물론, G밸리가 있는 금천구 납세자만의 고민까지 척척 해결해 준다는 게 장점이다. 입직 10년차 강민주(34) 주무관은 “나래봇에 번지만 입력하면 등록면허세 중과세 대상에서 제외되는 국가산업단지에 해당하는지를 확인할 수 있다 보니 관련 문의도 줄고 안내도 수월해졌다”고 밝혔다. 나래봇을 만들고 활용하면서 업무 숙련도도 높아졌다. 지난해 1월 입직한 조재영(30) 주무관은 “동아리 활동으로 자연스럽게 실무를 익혔고 현장학습을 다니면서 동료와도 돈독해졌다”고 전했다. 유성훈 구청장은 “변화하는 시대 흐름에 맞춰 구민이 체감할 수 있는 혁신 행정을 확대하겠다”고 밝혔다.

중국 인공지능(AI) 챗봇이 사용자에게 욕설이 담긴 이미지를 생성해 논란이 일고 있다. 이 모델의 욕설 파문은 이번이 처음이 아니다. 27일 중국 언론 펑파이신문에 따르면 중국 설인 춘절을 맞아 신년 인사 카드를 만들어 달라는 요청에 AI 챗봇이 돌연 욕설 문구를 삽입했다. 해당 챗봇은 텐센트가 개발한 위안바오다. 사용자의 요청은 단순했다. 신년 카드를 제작하면서 자신의 AI 프로필에 간단한 새해 인사 문구를 넣어 달라는 것이었다. 그러나 결과물에는 예상치 못한 욕설이 포함됐다. 당황한 사용자가 “너는 로봇인데 왜 욕을 하느냐”고 묻자 위안바오는 “당신의 요구에 따라 프롬프트 문구를 최적화하겠다”고 답했다. 이 같은 반응은 오히려 사용자의 분노를 키웠다. 사용자가 해당 내용을 캡처해 소셜미디어(SNS)에 올리면서 논란은 확산했다. 네티즌 사이에서는 AI 챗봇이 왜 갑자기 공격적으로 반응하느냐는 비판이 이어졌다. 결국 사과는 개발사인 위안바오 측에서 나왔다. 회사는 다중 대화 맥락을 처리하는 과정에서 모델이 비정상적인 출력값을 생성한 것이 원인이라며 문제를 긴급 수정하고 개선 작업을 진행했다고 밝혔다. 이어 사용자 경험을 해친 점에 대해 사과했다. 사실 이 챗봇의 ‘말버릇’ 문제는 이번이 처음이 아니다. 지난달에도 한 사용자가 코드 포맷팅, 즉 코드를 읽기 쉽게 정리해 달라고 요청하자 “네가 못 고치는 거냐”, “남 시간 낭비하지 마라” 같은 공격적인 문구가 출력된 것으로 알려졌다. 당시 위안바오 팀은 인간의 개입은 없었으며 극히 낮은 확률로 발생한 출력 오류라고 설명했다. 팀은 재발 방지를 약속했지만 한 달 만에 또다시 유사 사례가 발생했다. 이처럼 간헐적으로 나타나는 AI 모델의 돌발 발언은 관련 서비스가 안고 있는 과제로 지적된다. 업체 측은 내부 점검과 모델 최적화를 통해 유사 사례를 최대한 줄이겠다고 밝혔지만 일상 속 필수 도구로 자리 잡은 AI 챗봇의 신뢰도에 의문을 제기하는 목소리도 커지고 있다.