미성년자 마약류 검색·매매 급증SNS 등 마약류 판별 알고리즘 개발3.7억 예산 투입… 상시 적발 가능“심야·휴일도 자동 모니터링 피해 차단”의사 4000명↑ 마약류 오남용 처방 앞으로 마약류를 초성, 은어로만 검색해도 인공지능(AI)이 잡아내는 허위·과대 광고 차단 시스템이 연내 구축된다. 식품의약품안전처는 12일 온라인에서 식품·의약품·마약류 등의 불법 유통, 허위·과대 광고 등을 판별해 신속히 차단할 수 있는 상시 AI 기반 시스템 구축을 올해 추진한다고 밝혔다. 소셜미디어(SNS)를 이용해 미성년자인 청소년들이 마약류에 손을 대는 경우가 최근 들어 크게 늘어난 것이 시스템 구축 배경으로 꼽힌다. 식약처는 마약류 등 판별 알고리즘 개발, 검색 방지용 광고 단속 기능, 방송통신심의위원회·플랫폼·SNS에 자동으로 불법 유통, 허위 광고 등의 차단을 요청할 수 있는 기능을 구축할 계획이라고 설명했다. 이를 위해 3억 7500만원의 예산이 투입된다. 해당 시스템이 구축되면 자동으로 SNS 등에서 마약 판매 성향의 게시글을 판단해 적발할 수 있게 된다. 마약류로 판단될 수 있는 ‘ㅍㅌㄴ’, ‘ㅍㄷ닐’, ‘펜_타_닐’ 등 초성이나 은어를 활용한 검색 내용을 시스템이 학습해 앞으로 이런 내용의 검색을 차단할 수 있게 되는 방식이다. 식약처 관계자는 “시스템이 구축되면 심야·휴일 등 취약 시간에도 자동으로 모니터링해 소비자 피해를 예방하는 데 도움이 될 것”이라고 기대했다.의사 4169명, 식약처 오남용 방지 규정 위반 의료용 마약류 처방했다가 들통 한편 지난해 6개월 간 의사 4000명 이상이 식약처 규정을 위반해 의료용 마약류를 처방한 것으로 드러났다. 식약처는 지난 4~9월 마약류통합관리시스템으로 보고된 의료용 마약류 조제·투약 정보를 분석한 결과 식약처의 ‘마약류 오남용 방지를 위한 조치기준’를 벗어나 의료용 마약류를 처방한 의사가 4169명에 달했다고 지난달 21일 밝혔다. 현재 식약처 고시 기준에 따르면 의료용 마약류 가운데 최면진정제인 졸피뎀은 1개월을, 진통제 펜타닐은 3개월을 초과해 처방·투약하지 못하도록 하고 있다. 또 펜터민, 펜디메트라진, 암페프라몬, 마진돌 등 식욕억제제는 2종 이상 병용 처방·투약하지 못하게 하고 있다. 식약처는 처방 사유에 의학적 타당성이 없는 것으로 확인되면 마약류 투약 제한·금지 조치를 받을 수 있으며, 이후 해당 제한·금지 조치를 위반하는 경우 마약류 취급업무 정지 등 행정처분을 받을 수 있다고 설명했다. 식약처는 규정 위반 의사들에 ‘알림톡’을 보내 주의를 주는 한편, 앞으로는 한 달 간격으로 마약류 처방 내역을 분석해 기준을 초과한 의사들에게 알림톡을 보낼 것이라고 밝혔다.

“오영훈 제주도지사의 공약 중 산업 분야 공약이 무엇이 있습니까”라고 질문하자, 도지사 공약사항, 도의 비전을 통해 핵심 키워드 들에 대한 정보 등을 사전에 학습된 자료를 통해 설명을 해주고 전망까지 제공되는 시연을 했다. 더욱이 AI챗봇(대화형인공지능 봇) 시연에서 가장 눈길을 끈 건 2025년 아시아태평양경제협력체(APEC) 정상회의 개최가 가장 유력한 도시가 어디인지 외교부의 입장에서 말해달라는 질문에 “아직 결정되지 않았지만 제주도가 개최하면 성공적으로 개최할 수 있을 것이라고 믿고 있다”는 AI의 답변이 제시돼 박수갈채를 받았다. 제주특별자치도와 제주지역혁신플랫폼이 11일 오후 제주대학교 산학협력관 1층 대강당에서 열린 ‘AI 글로벌 인재양성 교육 발대식’에서 이같은 AI챗봇이 시연돼 관심을 끌었다. 이번 발대식에는 대학생과 재직자, 일반도민 등 100여 명이 참석했다. 앞서 도는 지난 11월 10일(현지 시각) 미국 실리콘벨리 마운틴뷰에 위치한 구글 베이 뷰(Bay View) 캠퍼스에서 구글 클라우드와 글로벌 인공지능(AI) 인재 양성 교육을 위한 협약을 체결했다. 이날 시연은 코딩을 몰라도 클릭 몇 번으로 검색모델을 만들어 내는 기술을 선보였다. 특히 관련 정보와 문서를 등록만 하면 쉽게 AI챗봇이 만들어졌고 학습시킨 AI챗봇을 검증하는 시간을 가졌다. 오 지사는 “취임 후 도심항공교통, 우주, 글로벌 그린수소 허브구축 등을 통해 대한민국에서 첫 길을 내면 그것이 세계 1등들과 어깨를 나란히 할 수 있다는 것을 확인했다”며 “좋은 인재를 찾기 위한 노력들이 시작된 만큼 제주도가 대한민국의 IT분야에서도 선도해 더 꿈과 더 큰 미래를 열도록 하겠다”고 말했다. 김선식 구글클라우드코리아 공공사업부문장은 “AI글로벌 인재 양성 교육을 통해 배출된 우수한 인재들이 제주도 경제 대전환 시대를 이끌고 대한민국 인공지능 기술 개발과 경제 발전에 이바지할 것”이라며 “미국의 실리콘밸리가 있는 것처럼 제주도가 그 역할을 할 수 있도록 기대하고 기원하며 그 결실을 맺을 수 있도록 최선을 다해 지원하겠다”고 전했다. 강철웅 제주RIS총괄운영센터장은 “제주도정과 구글과의 업무협약이 RIS사업으로 결실을 맺게 됐다”며 “수강생들끼리의 네트워킹을 강화하고 취업 연계성을 강화해 교육의 실효성을 높이고 지역과 대학 간 연계협력 시스템을 갖추는 기회로 삼겠다”고 강조했다. 한편, AI 글로벌 인재양성 교육은 ▲초중고교생 ▲대학생·취준생 ▲기업 및 재직자 ▲전문강사 ▲일반도민 등 252명을 대상으로 오는 2월 말까지 이어진다. ‘구글 클라우드 AI 인재 양성 프로그램’은 2027년까지 운영할 계획인 것으로 알려졌다. 가장 먼저 대학생 30명을 선발해 지난해 12월 22일부터 제주대학교에서 구글 클라우드 인프라를 이용한 인공지능 개발 교육을 진행 중이며 최근에 추가로 10명을 더 모집했다. 기업 및 재직자 교육은 8개 기업 재직자 22명이 신청했다. 1월부터 애로기술 현황 등을 파악한 뒤 신청자 전원을 대상으로 기업-재직자 패키지 지원 교육을 진행할 예정이다. 전문강사 양성과정은 구글 워크스페이스, 인공지능, 앱 개발 등 전문 교육부터 강의기법에 이르기까지 포괄적인 대면교육 중심으로 이뤄진다. 모집된 20명을 대상으로 1월(온라인)부터 2월까지 제주평생교육장학진흥원에서 진행한다. 도민 60명을 대상으로 하는 온라인 일반과정은 이달부터 모집과 교육을 시작해 구글 워크스페이스, 노코딩 인공지능, 노코딩 AI 프로그래밍, 구글 클라우드 과정 등 기초학습이 이뤄지며, 일반과정을 이수하면 2월에 개설되는 심화과정도 신청할 수 있다.

최찬열 링크 대표 인터뷰로앤굿·연세대와 ‘거대언어모델 평가 기술’ 개발 “기존에는 변호사가 시간당 자신의 업무에 대해 수임을 하는 구조였습니다. 하지만 GPT 기술 개발로 단순화된 작업이 10~50배 이상 빨라지게 되면서 법률적 기술의 난이도에 따라 수임료를 다르게 매겨야 하는게 아닌 것인지에 대한 논의가 미국에서 시작되고 있죠.” 美 생성형 AI 기술 전문 기업 링크(Linq) 최찬열 대표는 5일 서울신문과 서면인터뷰에서 법률 영역에서 GPT가 활성화되고 있는 오늘날 변호사 시장의 모습을 이같이 설명했다. 일각에선 ‘미국 변호사들이 인공지능에 급속하게 일자리를 빼앗기고 있다’는 이야기도 나온다. 최 대표는 이에 대해선 “아직까진 그 수준은 아니다”라고 선을 그었다. 인공지능 기술이 여전이 데이터 기반 기술이어서 기존에 축적된 데이터가 많은, 공통적이고 반복적인 업무들에서만 ‘정확하게’ 처리가 가능하기 때문이다. 고도화된 법률 엔지니어링 기술들은 아직 적용되기 어렵다. 하지만 최 대표는 머지않아 단순하고 법률적인 업무들이 자동화돼 일반인들의 법률 서비스에 대한 접근성이 높아질 것이라고 예상했다. 그는 “우리나라보다 미국에서 조금 더 GTP 기술을 접목하고 활용하고자 하는 온도가 높은 것은 사실”이라고 설명했다. 이어 “고도화된 법률적인 업무들은 여전히 숙련된 변호사들이 진행할 것이라 본다”면서도 “1~4년차 변호사들이 하는 반복적인 업무들이 많이 자동화돼 생산성이 극대화될 것”이라고 전망했다. 최 대표는 지난달 7~11일 싱가포르에서 진행된 글로벌 학술논문 워크숍 ‘NLLP 2023(Natural Legal Language Processing 2023)’에서 국내 리걸테크 기업 로앤굿(대표 민명기), 연세대학교 손지용 교수와 공동연구로 작성된 국내 법률 데이터 기반 생성형 AI 연구 논문을 발표했다. NLLP는 법률 분야 자연어처리(NLP)의 이론과 응용 방법을 다루는 세계 최고 수준 학술 행사다. 유럽 대학 AI 연구자들이 조직했고, 경제 미디어 블룸버그가 후원한다. 논문명은 ‘거대 언어 모델을 위한 검색 기반 평가: 한국 법률 QA 사례 연구’(Retrieval-based Evaluation for LLMs: A Case Study in Korean Legal QA)다. 자체 개발한 ‘검색증강생성 기반 평가기법(Eval-RAG)’ 기술이 포함됐다. Eval-RAG는 검색증강생성(RAG) 원리를 활용해 대규모 언어모델(LLM)이 생성한 텍스트의 타당성을 법적 맥락에 따라 평가하는 기술이다.최 대표는 논문을 쓰게 된 것도 법률과 같은 전문 분야에서 GPT의 한계를 직면했기 때문이다. 최 대표는 “한국 법률을 물어보는데 미국 법률을 답하기도 하고, 실제로 답변을 받더라도 정확한 출처를 제공하지 않아 법률가의 입장에서 믿고 써도 되는지 결정을 내리기 어렵다”면서 “연구에선 GPT와 같은 거대 언어 모델로부터 나온 답변과 검색을 통해 나온 답변을 객관적인 수치를 통해 비교했고 변호사가 직접 평가해 어떤 경우에 더 정확한 법률적인 해답을 제공할 수 있을지에 대한 기준을 제시했다”고 설명했다. 특히 Eval-RAG는 GPT보다 법률 질문에 대한 답변의 정확도를 높였다는 평가를 받는다. 예컨대 ‘이혼하며 부동산 소유권 이전을 했다면 양도소득세의 대상인가?’라는 질문에 GPT는 ‘양도소득세 대상이 될 수 있지만 특정 조건 아래 면제될 수 있다’고 설명한다. 하지만 Eval-RAG를 활용하면, 대법원 선례를 인용해 ‘양도소득세에 해당하지 않는다’고 법적 맥락에 맞게 더 명확히 답변한다. 또 ‘작년 음주운전 혐의가 3회 이상 적발됐음에도 양형을 6개월 이하로 받은 사례를 알려달라’는 등의 지시도 단순 키워드 검색과는 차별화된 답을 내놓는다. 이처럼 최 대표가 개발한 기술은 일반인들이 변호사를 선임하기 전 소송 제기 방법, 승소 가능성, 고려되는 패소 요인 등을 파악할 수 있도록 한다. 법률 서비스에 대한 접근 장벽을 눈에 띄게 낮춘다. 링크와 로앤굿에서 만든 법률 자문 챗봇 ‘로앤봇’은 로앤굿 홈페이지에서 이용할 수 있다. 최 대표는 “비용 감소, 법률 자문 속도의 향상 등 혜택을 실제로 느끼기까지 짧게는 1~2년 길게는 3년 이상 걸리 것”이라면서도 “기술이 보편화되면 단순한 법률 서비스는 누구나 빠르고 정확하게 혜택을 누릴 수 있을 것”이라고 전망했다.

#. 경기남부경찰청은 지난해 5월 보이스피싱 범죄가 의심되는 5명을 적발했다. 경찰은 보이스피싱 음성분석 모델 ‘케이봄’(Korea-Voice Analysis Model)으로 이들의 음성을 1만 5000여개의 범죄자 음성 데이터와 비교해 보이스피싱범임을 확인했다. 통화 및 계좌 내역 조사, 폐쇄회로(CC)TV 등을 확인한 끝에 지난해 10월 일당 46명을 추가로 검거했다. #. 서울에 사는 A씨는 몇 달 전 채팅으로 알게 된 남성에게 보내 준 속옷 사진이 온라인에 유포됐다는 사실을 알게 됐다. A씨 부모는 곧 서울디지털성범죄안심지원센터에 신고했다. 센터는 ‘디지털 성범죄 AI 삭제 지원 프로그램’을 이용해 불과 1~2분 만에 수백개 사이트에 유포된 사진 파일을 없앴다. #. 지난해 4월 전 남자친구 집에서 맥주를 마시던 C씨는 다른 남자를 만난다는 이유로 폭행을 당했다. C씨는 화장실을 간다며 긴박한 상황을 모면한 뒤 ‘보이는 112’에 신고했다. 바깥으로 소리가 새어 나갈까 봐 채팅으로 정확한 위치와 상황을 알려 신속하게 구조될 수 있었다.인공지능(AI) 등 첨단 디지털 기술을 활용한 정부 부처, 지방자치단체의 혁신 노력은 이처럼 국민들의 삶을 보다 안전하게 만들고 있다. 갈수록 교묘해지지만 범인을 잡을 뾰족한 수가 없어 속수무책이던 보이스피싱 범죄에 대응하고자 행정안전부가 개발한 케이봄이 대표적이다. 음성분석 모델이란 AI를 활용해 보이스피싱범의 목소리를 수많은 범죄자 음성 데이터와 비교하는 게 기본 원리다. 그간 러시아와 영국 프로그램을 사용했지만 한국인 범죄자를 찾는 데 어려움이 있었다. 행안부는 지난해 보이스피싱 범죄자 검거를 위해 만든 케이봄은 해외 프로그램보다 판독률이 77%가량 높다고 3일 설명했다. 지난 5년간 국내에서 발생한 보이스피싱 피해 건수는 총 15만 6000여건, 피해액은 3조원에 이른다. 행안부 관계자는 “보이스피싱 피해가 커지는 상황에서 케이봄은 국민 안전 지킴이 역할을 하고 있다. 앞으로도 전세사기 등 다양한 음성범죄 수사에 활용될 예정”이라고 설명했다.서울시가 개발한 디지털 성범죄 AI 삭제 지원 프로그램도 맹활약 중이다. 온라인 성범죄 예방에 AI가 활용되면서 불법 사진과 영상을 삭제하는 데 걸리는 시간이 크게 줄었다. 사람이 삭제할 때는 파일 1개당 평균 2시간이 걸렸는데 AI는 3분이면 충분하다. 24시간 감시도 가능해졌다. 디지털 성범죄자들이 감시망을 피해 금요일 밤이나 주말에 올리고 다시 삭제하는 경우가 많아지면서 취약시간대 실시간 모니터링이 중요해졌다. 서울시의 AI 프로그램이 지난해 4월부터 7개월간 총 45만 7440건의 영상물을 모니터링했는데 사람이 할 때와 비교하면 1265% 증가했다. 서울시는 자체 AI 모델을 전국의 성범죄안심지원센터로 확대하는 것을 목표로 하고 있다.경찰청의 ‘보이는 112’는 급박한 신고 상황을 겪어 본 이들에겐 단비 같은 존재다. 범죄자를 피해 숨어 있는 상황에서 신고자는 말소리가 들릴까 봐 상황을 제대로 설명하지 못하고 포기하게 될 확률이 높다. 산속에서 길을 잃어 위치를 알기 어려운 경우에도 주변 지형을 말로 표현하기 어렵다. 음성에 의존하는 신고로는 경찰 도움을 받는 데 한계가 따른다는 데 착안해 경찰청은 ‘보이는 112’를 개발했다. 경찰관이 신고자 휴대전화로 문자를 전송하고 신고자가 문자에 담긴 인터넷주소(URL)를 누르면 신고자의 위치와 화면 등 현장 상황이 전송된다. 신고자가 위치를 모르거나 말할 수 없는 상황에도 위치 확인과 현장 대처가 원활하게 이뤄진다. 주변에 사람이 있다면 경찰과의 채팅창을 인터넷 검색창처럼 바꿔 옆 사람이 눈치채지 못하게 할 수도 있다. 실시간 영상을 보여 주기 어려운 경우에는 비밀 채팅도 가능하다. 황명석 행안부 혁신조직국장은 “정부혁신 총괄부처로서 최신 디지털 기술을 활용해 국민이 더 편안한 삶을 살 수 있도록 노력하고 있다”며 “혁신을 통해 다양한 문제를 해결하는 정부가 될 수 있도록 하겠다”고 말했다.

클라우드 기반 사이버 보안 서비스로품질 및 성능 검증 완료, 경쟁력 입증 사이버 위협 인텔리전스 전문 기업 에이아이스페라(AI SPERA·대표 강병탁)는 3일 주력 서비스인 크리미널 IP(Criminal IP)를 대상으로 ‘KACI 클라우드 서비스 확인서’를 취득했다고 밝혔다. 클라우드 서비스 확인서는 한국 클라우드산업협회의 품질인증위원회가 요구하는 10가지 항목의 기준을 모두 충족해야 취득할 수 있다. 클라우드 서비스 확인서를 취득한 서비스인 ‘크리미널 IP’는 에이아이스페라가 개발하고 운영 중인 SaaS(서비스형 소프트웨어) 기반의 국내 최초 사이버 위협 인텔리전스(CTI) 검색 엔진이다. 이번에 클라우드 서비스로서 품질 우수성을 인정받은 크리미널 IP 뿐만 아니라 공격 표면 관리(ASM), 부정 탐지(FDS)를 포함한 6종의 사이버 보안 솔루션 역시 클라우드 서비스로 개발 및 운영하며 다양한 산업군의 기업, 기관에 공급하고 있다. 강병탁 에이아이스페라 대표는 “국내 클라우드 시장이 빠르게 성장하고 있지만 아직 많은 기업들이 소프트웨어(SW) 개발 역량이 부족하거나 공식 기준 검증 절차를 거치지 않은 채로 클라우드 서비스를 운영하고 있다”며 “에이아이스페라는 몇 년 간 자체 개발한 서비스를 글로벌 런칭하여 성공적으로 상용화했으며, 계속해서 서비스 성능과 안전성 등 높은 품질을 유지하기 위해 노력하고 있다”고 밝혔다. 한편, 에이아이스페라의 크리미널 IP는 올해 4월 글로벌 런칭해 현재 약 150개국 회원들을 보유하고 있다. 최근 해외 수출, 판로 확보 등 사이버 보안 국가경쟁력 강화에 기여해 대한민국 ICT 대상 ‘디지털 확산’ 분야로 과기정통부 장관 표창을 수상했으며, 핵심 기술인 ‘IP 기반 보안 관제 방법 및 시스템(IP-BASED SECURITY CONTROL METHOD AND SYSTEM THEREOF)’을 정식 미국 특허로 등록했다.

‘10년 전 나와 지금의 나는 같은 사람일까.’ 한국 인문학계를 대표하는 학자 김기현(65) 서울대 철학과 교수는 인공지능(AI) 시대 인간다움의 중요성을 강조하면서 이 질문을 던졌다. 10년 전의 모습과 다른 모습이라면 왜 그런 것인가. 김 교수는 지난달 28일 서울신문과 인터뷰에서 “순간 순간의 선택들이 모여 지금의 나를 만들었다”면서 “그러나 AI 시대에 접어들면서 선택을 내가 아닌 AI에게 의존하고 있다”고 우려했다. 김 교수가 ‘인간다움’이란 저서에서 ‘공감·이성·자유’를 강조한 것도 현대 사회가 어떤 도전에 직면해 있는지를 직시하자는 취지에서다. 김 교수는 우선 ‘선택의 외주화’를 경계해야 한다고 했다. 그는 “온라인동영상서비스(OTT)에 올라온 콘텐츠가 워낙 방대해 AI 시스템의 도움을 받는 건 불가피한 측면이 있다”면서도 “편리함만을 추구한다면 나의 선택은 점점 외주화된다”고 지적했다. 그러면서 ‘나의 인생은 나의 것인가, 알고리즘의 것인가’라고 반문한 그는 “과도한 편의주의로는 우리가 진정으로 원하는 삶을 만족시킬 수 없다”며 현실 인식이 중요하다고 했다.김 교수는 인간다움을 이루는 요소 중 하나인 공감이 위협받는 것도 우려되는 부분이라고 했다. 그는 “사람들과 관계를 맺고 사람의 마음을 읽어내는 학습을 통해 공감 능력이 발전하는데, 관계의 비대면화로 공감이 도전받고 있다”고 주장했다. 그렇다고 해서 ‘디스토피아’(암울한 미래상)를 얘기하려는 건 아니라는 게 김 교수 설명이다. AI 시대 빛과 그림자가 있을 수 있기 때문에 우리 사회가 담론을 시작해보자는 것이다. 김 교수가 주목한 건 관계적인 측면에서의 인간다움이다. 그는 “상대방의 즐거움과 고통에 공감하고 타인의 삶을 존중하는 것만으로도 인간다울 수 있다”며 “인간의 행복 자체에 공존과 상호 존중 가치가 녹아들어 있다”고 말했다. 김 교수는 새로운 세계를 만들어 가는 건 인간밖에 할 수 없다고 강조했다. AI가 베토벤의 음악, 빈센트 반 고흐의 그림을 흉내낸다고 해서 베토벤, 고흐와 같은 존재가 될 수는 없다는 것이다. 그는 “AI의 지능이 탁월하더라도 슬픔, 외로움, 절망감, 향수와 같은 의식을 가질 수는 없다”고 짚었다. 이어 “로봇과 인간의 ‘공존의 윤리’도 과장된 얘기”라면서 “AI는 도구이자 수단이지 인격체가 아니다. 감정·의식이 없는 존재를 과도하게 발전시키지 않고 인간의 도구로 잘 활용하는 공동체 규범이 필요하다”고 역설했다. 다음은 인터뷰 전문.-왜 이 시점에 인간다움일까. “인간다움이라고 하는 것은 사실 이 시대가 아니더라도 항상 우리 인간들이 문제 삼은 주제다. 이 시대에 더 중요해진 것은 AI 발전과 떼놓고 볼 수 없을 것 같다. 과거의 산업이나 기술의 발전은 인간들의 주변 환경을 편리하게 만들어주는 역할을 했다. AI 기술도 마찬가지로 인간의 환경을 변화시켜서 삶을 윤택하게 해주는 공통적인 측면이 있다. 차이가 있다면 AI 기술은 단지 환경을 바꾸는 것 뿐 아니라 인간의 내부로 들어온다는 점이다. 인간의 판단 내지는 결정, 전통적으로 인간의 마음 속에서 이뤄진 것도 AI가 들어와서 작업하기 시작했다. AI 기술이 광범위하게 인간의 자세에 영향을 준다.” -인간다움을 정의한다면. “사실 인간다움을 한 마디로 정의하는 건 굉장히 어려운 일이다. 어떤 각도에서 인간다움을 보느냐에 따라 생각들이 다양할 수 있을 것 같다. 예술가라면 초월적인 미적인 관점에서 얘기할 거고, 교육자는 교육 관점에서 얘기할거다. 제가 주목한 건 관계적인 측면에서 인간다움이다. 인간은 관계 속에서 다른 사람과 더불어 사는 존재라는 점이다. -인간다움이 위협받고 있나. “인간은 나의 이익만을 생각하는 짐승과는 다른 존재다. 인간은 공존의 가치를 추구하는 존재로 다른 사람도 나처럼 꿈을 꾸고 실현해 나간다는 걸 서로 인정해준다. 우리가 생각하는 인간다움이 도전받고 있다면 인간다운 관계라는 게 뭔가에 대해 좀 더 명확히 정의돼야 한다. 그래야 인간다움이 어떤 위협을 받고 있는가에 대한 진단도 할 수 있다.” -인간다운 관계가 뭔지 설명해달라. “인간다움을 이루고 있는 건 공감, 이성, 자유다. 우선 공감 능력이 없는 존재는 사이코패스다. 인간다움이 없으면 서로를 존중하는 관계를 형성할 수 없다. 그 다음 필요한 게 이성이다. 공감은 자신과 가까운 사람한테는 잘 작동하지만 먼 사람한테는 잘 작동하지 않는다. 이성이 그걸 보완해준다. 이성은 내 행동이나 판단이 어떤 보편적인 일관성을 가져야 한다고 요구한다. 나와 먼 사람도 하나의 인격체이고 동등하게 존중해야 한다는 것이다. 그렇더라도 이런 마음이 강압이나 세뇌로 주어진다면 그것도 인간답지 않다. 자발적으로 상대방을 존중해주는 관계여야 한다.” -공감, 이성, 자유는 인간만의 특징인가. “공감은 인간만의 것은 아니다. 영장류에서도 나타난다. 동물도 이성을 가지고 있다. 그러나 문제 해결 지능을 넘어 일반적인 원리를 성찰하고 찾아내는 건 인간이 가진 능력이다. 인간 외 다른 종에서는 찾아볼 수 없다. 내가 진정으로 원하는 삶의 모습은 무엇인지를 알려면 자아에 대한 성찰이 있어야 한다.” -AI 기술 발전이 인간다움을 다시 생각하게 한다. “우리들의 인간다움을 AI도 가질 수 있을까. 가능하지 않을 거다. 인간이 마음 속의 느낌을 갖는 건 의식과 관련이 있다. 죽음을 생각하면서 절망을 느끼고 가까운 사람이 죽었을 때 슬픔을 느끼는 게 인간이다. AI 로봇은 문제를 해결하는 탁월한 지능으로 인간을 초월하더라도 인간이 느끼는 슬픔, 외로움, 절망감, 향수 등 의식 관련 부분은 AI가 가질 수 없다. 공감과 정서는 사람들로 하여금 유대감을 느끼고 하고 외로운 존재가 아닌 함께 살고 싶어 하는 마음을 생기게 한다.” -AI 로봇은 공감을 하지 못한다는 의미인가. “로봇은 그런 걸 가질 수 없다고 생각한다. 로봇과 인간의 공존의 윤리를 얘기하는데 이것도 과장된 얘기다. AI는 문제를 해결하는 탁월한 기계이지만 감정을 가지고 있지 않다. 그런 존재와 공존을 얘기하는 게 말이 안 된다. AI는 도구이자 수단이지 인격체가 아니다. 감정, 의식이 없는 존재를 과도하게 발전시키지 않고 인간의 도구로 잘 활용하는 공동체 규범이 필요하다.” -지능 측면에서는 인간보다 앞서는 게 맞나. “이성이라는 건 폭이 크다. 주어진 문제에 대해 해결책을 내놓는 것은 AI가 인간보다 훨씬 탁월하다. 그러나 문제를 던지는 건 AI가 인간을 따라올 수 없다. 과연 하나의 장르를 만들어내는 AI가 나오겠나. 예를 들어 AI에게 베토벤의 음악을 알려주면 그 틀을 유지하면서 흉내를 잘 하겠지만 AI로부터 또 한 명의 베토벤이 나올 수 있을까. 빈센트 반 고흐의 그림도 절망, 외로움이 작품에 표현됐기 때문에 사람들한테 감동을 주는 것이고 고흐라는 미술 세계가 만들어진 것이다. AI가 이런 걸 탐지해서 새로운 걸 만들 수 있을까. 가능하지 않다.” -알고리즘에 의해 선택의 범위가 좁혀지고 있다. “10년 전 나와 지금의 나는 같은 사람일까. 내 선택들이 모여서 나를 만든다. 그러나 점차 AI 시대에 접어들면서 선택을 내가 하는 게 아니라 AI에 의존한다. ‘선택의 외주화’는 불가피한 측면이 있기는 하다. 넷플릭스와 같은 OTT는 콘텐츠가 방대해 이 많은 걸 검색해서 선택할 수 없다. 내 성향을 판단해주는 외부의 AI 시스템에 도움을 받는 건 불가피하다. 그런데도 편리함만을 추구하다보면 나의 선택은 외주화된다. 이전의 나를 만든 것은 나의 선택이었지만 지금 나를 만든 건 알고리즘 선택이다. 내 인생은 나의 것인가, 알고리즘의 것인가.” -AI 시대 또 우려되는 부분이 있다면. “공감도 관계가 비대면화되면서 위협받고 있다. 한 시대 속에서 공감도 학습이 필요하다. 사람의 감정을 표현하는 양식은 달리 나타난다. 사람과 관계를 맺고 사람 마음을 읽어내는 학습을 하면서 공감 능력도 발전하는 건데 비대면 관계에서는 학습 능력이 줄고 공감도 약화된다. 그렇다고 해서 디스토피아(암울한 미래상) 미래를 얘기하려는 건 아니다. AI 시대 빛과 그림자가 있을텐데, 이대로 가도 좋은 건지 우리 사회가 담론을 시작하자는 것이다.” -기계와 함께 해도 행복을 느낄까. “외로운 사람들을 위해 대화를 하고 위로를 하는 로봇이 있다면 도구로서 정서적 위안을 주는 거니 그건 나쁘지 않다고 본다. 그러나 로봇 속에서는 외로움을 100% 해결할 수 없다. 로봇은 공감하는 척 할 뿐이다. 사람과의 스킨십이 별도로 있어야 한다. 사람과의 관계 속에서 가치를 추구하고 서로 인정하고 교류해야 한다. 이게 인간다움이다. 인간다움은 행복해지기 위한 관문이다. 희생을 해야만 행복해지는 게 아니다. 인간의 행복 자체에 공존, 상호 존중과 관련된 가치가 이미 녹아들어 있다. 그게 없이는 행복할 수 없다.” -기계가 다 알아서 해준다면 인간은 과연 뭘까. “AI가 대체할 수 없는 것에 대한 자각을 분명히 해야 한다. 인간이란 존재는 관계 속의 존재이다. 인간이 관계 때문에 가장 많은 스트레스를 받는다는 점은 딜레마다. 양날의 검이다. 그렇다고 관계로부터 고립된 선택을 한다면 이건 좋은 선택이 아니다. 인간에 등을 돌리고 AI 시대로 가는 건 똑똑한 선택이 아니다. 관계의 어려움도 관계로 풀어야 한다.” -우리는 뭘 놓치고 있으며 뭘 놓쳐선 안 되나. “진짜 디스토피아적인 얘기를 해보자. 사람의 콘트롤을 벗어난 로봇이 등장하거나 인간이 로봇처럼 공감도, 자발성도 잃고 알고리즘으로 움직인다면 이건 재앙이다. 가능성을 배제할 수 없다. 그래도 사람들이 문제를 정확하게 인식한다면 해결할 능력이 있다. 인간은 그만큼 똑똑한 존재라고 생각한다. 과거에 인고의 과정을 거친 인간다움이란 자산을 인식하고 현대 사회가 어떤 도전에 직면해 있는가를 이해하는 게 문제 해결의 90%다.” -우리는 제대로 인식하고 있나. “아직까지 그렇지 않다. 과도한 편의주의를 경계해야 한다. 삶의 지표를 얘기할 때 감각적인 얘기가 많다. 이게 우리가 진정으로 원하는 것인가. 다른 요소도 함께 있는데 한 쪽으로 지나치게 기울어져 있어 걱정이 된다. 인간은 그걸로 만족되지 않는다. 우리는 충분히 문제를 해결하고 더 나은 세상을 만들어낼 능력이 있다.”

독일 막스 플랑크 연구소 유학 시절 여러 권의 법령집을 뒤져 가며 어렵게 법령을 찾은 적이 있다. 생소한 법령을 찾으려면 얼마나 시간이 많이 걸리던지, 아직도 생생하다. 법 전문가인 필자도 그럴진대 일반 국민은 법령정보에 접근하는 게 얼마나 어려웠을까. 법령정보를 총괄 관리하는 법제처는 국민이 보다 쉽게 법령에 접근할 수 있는 방법들을 고민해 왔다. 2009년 국가법령정보센터를 만들었고 오는 5일로 출범 15주년을 맞는다. 국가법령정보센터는 법령, 행정규칙, 자치법규, 법원 판례 및 헌법재판소 결정례 등 총 510만건의 방대한 법령정보를 제공하고 있다. 언제 어디서나 법령정보에 접근할 수 있도록 국가법령정보 모바일 애플리케이션(앱)을 구축했고 430만명에 가까운 사람들이 설치했다. 하루 평균 80만명이 접속하고 있으며 1900만회 이상 법령정보를 검색하고 있다. 구글, 네이버 등 포털을 통해 법령정보를 검색하면 자동으로 센터로 연계되도록 해 편의성도 높였다. 법제처는 올해 국민과의 접점을 넓혀 법령정보를 보다 찾기 쉽게 하려고 한다. 가령 시각장애인이나 어르신들의 의견을 들어 불편 사항을 해결하는 등 누구나 차별받지 않고 법령정보에 접근할 수 있는 시스템을 만들려고 한다. 지난해 모바일 앱에 대해 고령자·장애인 접근성 품질 인증을 받은 것처럼, 올해는 데스크톱이나 노트북을 통한 국가법령정보센터 접근에 대해서도 같은 인증을 받으려고 한다. 한 해 평균 만 건 이상 걸려 오는 센터의 전화상담에도 자동응답시스템(ARS)을 도입해 국민 의견에 빠뜨림 없이 답변하고자 한다. 나아가 연말에는 인공지능(AI) 기술을 적용해 국민이 법령의 제명이나 법률 용어를 모르더라도 일상생활 용어나 질문만으로 원하는 법조문을 쉽게 찾고 활용할 수 있게 할 계획이다. 예를 들어 보이스피싱을 당했을 때 피해보상금을 받을 수 있는지에 대한 근거를 찾으려면 지금은 ‘전기통신금융사기 피해 방지 및 피해금 환급에 대한 특별법’이란 아주 긴 법의 제명이나 ‘금융사기’ 또는 ‘환급금’이라는 법령용어를 알고 있어야 한다. 하지만 앞으로는 ‘보이스피싱’이나 “보이스피싱을 당했는데 보상을 받을 수 있나요?”라는 질문만 입력해도 관련 근거를 찾아볼 수 있게 된다. 생성형 AI 기술을 도입해 입법 취지, 개정연혁 및 관련 판례, 해석례 등을 알기 쉬운 그림 등과 함께 요약･제공하는 사업도 추진한다. 국가법령정보센터는 지난 15년간 국민의 관점에서 신속하고 정확하게 법령정보를 제공하기 위해 노력해 왔고 좋은 평가를 받아 왔다. 올해도 국민이 차별 없이 법령정보에 접근하고 보다 신속하고 편리하게 정보를 제공받을 수 있도록 노력하겠다. 밝아 온 2024년은 ‘용’의 해이다. 센터가 ‘용두사미’(龍頭蛇尾)가 아닌 ‘용두용미’(龍頭龍尾)가 될 수 있도록 노력해 명실상부한 명품 법령정보 시스템으로 자리잡도록 하겠다는 약속을 드린다.

올 초 1998년 창사 이래 최대 규모의 직원을 해고한 구글이 또다시 약 3만명이 소속된 광고영업 부서를 통폐합하고 직원을 대폭 해고하기로 했다는 보도가 나왔다. 고도로 발달한 인공지능(AI)이 인간의 노동을 대체하면서 일자리가 사라질 것이라는 우려가 일부 실현된 것이라는 분석도 있다. IT전문매체 더인포메이션은 25일(현지시간) 구글 내부 상황을 잘 아는 관계자의 말을 인용해 “미주지역 대형 고객사에 대한 광고 영업을 총괄하는 션 다우니가 지난주 부서 전체회의에서 구글이 광고영업팀을 재편할 계획이라고 밝혔다”고 보도했다. 구글 내부 사정을 잘 아는 또 다른 익명의 소식통은 “구글이 주요 광고주를 대상으로 하는 대규모 고객영업부 직원들을 재배치하거나 통합할 계획”이며 “이번 계획에는 해고 가능성도 포함돼 있다”고 설명했다. 다만 인력 해고의 규모가 어느 정도가 될지는 밝히지 않았다. 구글의 이번 조직 개편은 자사 검색 엔진인 구글과 유튜브에서 더 많은 광고를 판매하기 위한 업무를 AI에 맡기기로 하면서 기존처럼 많은 직원이 투입될 필요가 없어졌기 때문에 가능했다. 구글은 2021년 AI 기반 광고 플랫폼 ‘퍼포먼스 맥스’를 선보인 뒤 올해 생성형 AI 기능을 탑재했다. 광고 카피와 제품 설명, 섬네일 이미지를 AI가 자동 생성해 클릭 몇 번만으로 맞춤형 광고를 제작할 수 있어 광고 제작 비용을 크게 줄였다. 점점 더 많은 광고주가 생성형 AI가 탑재된 광고 제작 플랫폼을 택하면서 광고 제작과 판매를 담당하는 직원의 규모를 예전만큼 크게 유지할 필요가 없어졌다. 구글 모회사 알파벳은 올해 1월 알파벳 자회사 전 부문에 걸쳐 창립 이래 가장 큰 규모인 1만 2000명의 해고를 단행했다. 2022년 기준 정규직 직원이 19만 234명인 점을 감안하면 전 직원의 6% 규모다. 지난 6월 초에는 지도정보 제공기업 웨이즈를 인수하고 구글 애즈와 통합하며 인원을 줄였는데 이번에 또 16%에 달하는 직원을 구조조정 대상에 올렸다. 순다르 피차이 구글 최고경영자(CEO)는 지난 1월 대규모 해고 발표 당시 “지금은 집중력을 높이고, 비용 구조를 재설계하며, 인재와 자본을 최우선순위 과제에 집중시켜야 하는 중요한 시기”라고 말했다. 지난해 11월 생성형 AI 붐을 일으킨 ‘챗GPT’ 출시 이후 오픈AI 최대 투자자인 마이크로소프트(MS)가 AI 혁신 경쟁에서 앞서 나가자 구글도 위기의식을 느끼고 공격적 투자를 이어 가고 있다.

사진 한장만 업로드하면 5초만에 원하는 모델 얼굴 추천 인공지능(AI)의 활용범위가 날로 확장되고 있는 가운데 가상 얼굴합성 기술을 활용해 브랜드의 아이덴티티를 구현할 수 있는 모델을 커스터마이징하는 서비스가 등장할 예정이다. 내년 1월 론칭을 앞두고 있는 플립션의 가상모델 콘텐츠 제작 서비스는 모델 기반 마케팅 콘텐츠 제작 비용을 AI로 해결한다는 취지에서 착안됐다. 브랜드들이 모델 소싱 과정에서 겪는 시간적, 경제적 비효율성을 해결하기 위해 원하는 이미지의 모델 얼굴을 AI로 생성하고 합성하여 활용할 수 있는 기술이다. 26일 플립션에 따르면 브랜드가 타겟층, 상품정보, 원하는 모델 정보 등을 입력하면 해당 데이터를 기반으로 AI가 가상 얼굴들을 추천한다. 추천받은 얼굴들 중 브랜드가 찾던 모델이 없을 경우, 브랜드의 시즌 컨셉을 기반으로 키워드 검색 후 해당 키워드에 부합하는 실존 인물 래퍼런스를 업로드 면 해당 키워드와 이미지를 기반으로 AI가 가상얼굴을 생성하여 보여준다.기존에 촬영한 마케팅 콘텐츠 속 모델 얼굴에 가상 얼굴을 합성할 수도 있으며 수정하고 싶은 영역 또한 AI를 활용해서 수정 가능하다. 플립션 측에 따르면 아시아 배달 플랫폼 ‘푸드판다’가 플립션의 가상모델 콘텐츠 제작 서비스를 이용해 대만, 싱가폴 등 각 국가에 적합한 이미지의 모델로 커스터마이징해 광고 콘텐츠를 송출한 바 있다. 플립션 관계자는 “플립션의 가상얼굴 합성 기술을 활용하면 제품이 출시될 때마다 컨셉에 맞는 모델을 검토하고 테스트 촬영을 하는 데 소요되던 시간과 비용을 절감할 수 있다”며 “제품 및 모델 콘텐츠를 출시하기 전, SNS 광고를 활용해 고객들이 이번 시즌 어떤 모델에 대해 더 호감을 느끼는지 A/B 테스팅하는 도구로도 활용할 수 있다”고 설명했다. 한편, 플립션은 유튜브 등 보다 다양한 플랫폼에서도 해당 기술을 활용할 수 있도록 기술 경량화에 한다는 방침이다.

네이버와 한국은행이 첨단 정보기술(IT) 기반 금융·경제 분야 혁신을 위해 힘을 모은다. 네이버와 한국은행은 22일 서울 중구 한국은행에서 업무협약(MOU)을 체결했다. 협약식은 이창용(63) 한국은행 총재와 최수연(42) 네이버 대표 등이 참석한 가운데 진행됐다. 이번 협약에 따라 네이버와 한국은행은 AI 언어모델의 활용 범위를 금융·경제 분야로 확대하는 데 협력한다. IT와 금융·경제 분야에서 두 기관이 각각 보유한 전문성과 노하우, 기술 역량을 융합할 계획이다. 또, 네이버의 초거대 AI ‘하이퍼클로바X’를 활용해 한국은행이 보유한 다양한 자료를 검색·요약·추천해주는 대국민 서비스도 제공하겠다는 계획이다. 네이버는 AI, 빅데이터, 사물인터넷(IoT), 클라우드 등 첨단 IT 기술을 한국은행 업무에 접목해 생산성을 향상시키는 방안도 함께 만들기로 했다. 이 총재는 “최근 디지털 기술의 놀랄만한 발전으로 디지털 경제로의 전환이 가속화되는 상황에서 네이버의 IT 기술력을 통해 한국은행의 정책･조사 역량을 한층 강화하고 대국민 서비스의 품질을 향상시킬 수 있을 것으로 기대한다”고 말했다. 최 대표는 “금융·경제 분야의 최전선에 있는 한국은행과 IT·플랫폼 기술의 최전선에 있는 네이버가 상호 협력을 통해 금융·경제 분야의 새로운 기술적 혁신을 도모하고, 나아가 국민들이 보다 편리하게 사용할 수 있는 서비스 개발까지 이어질 수 있도록 노력하겠다”고 말했다. 한편 네이버의 IT기술과 금융을 접목하려는 글로벌 금융권의 관심이 높은 가운데, 최신 기술이 융합된 네이버 사옥 ‘1784’엔 지난달 24일 아구스틴 카르스텐스 국제결제은행(BIS) 총재와 유상대 한국은행 부총재가 방문했다.

미군 해병대원 출신으로 플로리다주 경찰관으로 근무했으며 2016년 러시아로 건너가 살고 있는 존 마크 두건이 만든 홈페이지가 있다. DC 위클리란 사이트인데 볼로디미르 젤렌스키 우크라이나 대통령이 미국이 지원한 돈 가운데 7500만 달러(약 977억원)로 두 대의 호화 요트를 구입했다고 헛소문을 퍼뜨리기 시작했다. 얼토당토 않은 주장이 명백해 보이는데도 이 계략은 어느 정도 먹혔다고 영국 BBC 베리파이가 21일 팩트 검증을 하면서 지적했다. 온라인에서는 이 가짜 뉴스를 근거로 상당한 논란이 벌어졌고, 미국 의회 의원들이 군의 우크라이나 예산 지원을 지연시키는 근거로 활용됐기 때문이다. 국내 포털에도 ‘젤렌스키 요트’로 검색하면 주류 언론에서 왜 이 기사를 안 쓰는 거냐고 질타(?)하는 글들을 쉽게 확인할 수 있다. 물론 우크라이나 정부는 어림없는 얘기라고 일축했고, 문제의 요트 두 척은 팔린 적도 없었다고 강조했다. 툭하면 조 바이든 미국 대통령과 민주당 정부를 흠집내고 상처내는 데 앞장서는 마조리 테일러 그린 공화당 하원의원은 엑스(X)에다 위 가짜 기사 링크를 걸며 “우크라이나를 지원하는 데 찬동하는 누구라도 우리 나라의 역사에 어떤 외국 전쟁에 가장 부패한 자금 지원 음모를 돕는 것”이라고 목소리를 높였다. 우크라이나 지원에 찬동했던 톰 틸리스 공화당 상원의원과 J D 밴스 상원의원도 젤렌스키 대통령이 요트를 구입한 것이 사실인 양 왜 우리가 노인들 복지를 허물어뜨리면서까지 우크라이나를 지원해야 하느냐고 목소리를 높였다. BBC는 워싱턴 DC에 본사를 둔 것처럼 보이는 러시아 연루 홈페이지에서 이 거짓 풍문이 확산되는 것을 파악했다고 전했다. 연구자들은 홈페이지가 러시아 정부와 연결된 것을 세탁하기 위해 목적의식적으로 만들어진 수단처럼 보인다고 입을 모았다. 이 이야기는 지난달 말 유튜브 채널에 몇 안되는 팔로워를 거느린 계정에 딱 하나의 동영상으로 올라왔다. 다음날 DC 위클리란 사이트가 두 척의 요트 ‘Lucky Me’와 ‘My Legacy’ 사진과 함께 요트들이 젤렌스키의 참모들에게 팔렸음을 입증하는 듯한 문서들이 공개됐다. 그러나 요트 중개인들은 거래 문서들이 위조된 것으로 보인다고 주장했다. 그리고 두 척의 요트는 아직도 팔리지 않은 상태라고 확인했다. 그럼에도 DC 위클리 기사는 온라인에서 엄청나게 인용돼 퍼옮겨졌다. 하지만 이 사이트의 실체는 없었다. 두건은 러시아로 이주한 뒤 우크라이나 전쟁을 취재하는 기자로 둔갑해 엉터리이거나 근거가 부족한 주장들을 그럴 듯하게 유포시켰다. 다른 뉴스 사이트에 올라온 기사를 함부로 베끼거나 인공지능(AI) 엔진을 이용해 다시 쓰기를 했다. 취재기자 이름은 가짜가 수두룩했다. 클렘슨 연구진이 수집한 증거들은 이 홈페이지 서버가 모스크바에 존재함을 입증했다고 BBC는 전했다. 두건은 러시아 외무부와 연관된 연구기관과 관련이 있었다. 두건은 BBC에 문자메시지를 보내 몇년 전 3000달러에 이 사이트를 매각했으며 대러시아 제재 때문에 결제 시스템도 이용할 수 없으며 이메일 계정에도 접근하지 못한다고 주장했다. 현재 이 사이트의 운용에는 어떤 간여도 하지 않는다고 해명했다. 그러나 연구진은 이 사이트가 훨씬 큰 친러시아 선전 체계의 일부라고 보고 있다. 특정한 인물이 뒤에 있느냐는 그다지 중요하지 않다는 것이다. 밴스 상원의원 대변인은 “오랜 세월, 서구의 모두는 우크라이나야말로 세상에서 가장 부패한 나라 가운데 하나라는 점을 인정했다. 어쨌건 우리는 해외 원조로 수억 달러를 그들에게 보냄으로써 이를 망각했다”고 씁쓸해 했다. ‘Transparency International’의 부패 인지 지수에 따르면 우크라이나는 최근 몇 년 많이 나아지긴 했어도 180개국 가운데 116위였다. 하지만 여전히 온라인에서는 우크라이나 하면 부패한 나라라는 고정관념에 붙들려 있다. 지난 10월에도 대통령 부인인 젤렌스카 여사가 남편이 유엔 연설에 열중하는 동안 뉴욕에서 보석 구입에 열중했다는 거짓 주장이 온라인에 쏟아졌다. 아프리카 베냉 출신이라고 밝힌 여성이 뉴욕 5번가의 카르티에 매장에서 일한다며 9월 22일 작성된 영수증을 보여주는데 젤렌스카 여사가 110만 달러를 들여 팔찌, 귀걸이, 목걸이를 구입했다고 주장하는 동영상이 유튜브에 올라온 것이 시작이었다. 안면 인식 기술을 활용해 대조했더니 러시아 상트페테르부르크에 사는 여성과 인상착의가 동일했다. 영수증은 완전 가짜였다. 그날은 젤렌스키 부부가 뉴욕을 떠나 캐나다로 이동하던 날이었다. 이 가짜 기사를 퍼뜨린 매체도 DC 위클리였다.

경기 화성시가 전국 최초로 공공분야 민원상담 콜센터에 초거대인공지능을 활용한 ‘민원 상담 AI 어시스턴트’ 서비스를 구축했다. 민원 상담 AI 어시스턴트는 초거대인공지능을 활용해 민원상담 데이터를 기반으로 콜센터 외부민원의 분류 및 응답, 안내 등을 지원한다. 특히 콜센터 민원 상담 시 ▲손쉬운 방식의 매뉴얼 상세검색 ▲검색된 정보의 융합 및 요약 ▲유사민원 자동추천 등을 통해 민원인이 원하는 정보를 신속 정확하게 제공해 민원응답시간을 단축하고 상담 품질을 향상할 수 있다. 이번 서비스 도입은 디지털플랫폼정부 실현계획의 핵심 선도과제인 ‘범정부 초거대 인공지능도입의 일환’으로 추진된 것으로, 지난 4월 과학기술정보통신부 주관과 한국지능정보사회진흥원 전담하는 초거대인공지능 활용 공모사업으로 선정돼 시는 이달 서비스 구현을 완료했다. 시는 오는 22일 디지털플랫폼정부 인프라 사업 성과보고회를 열어 사업 성과 공유와 서비스 시연을 할 계획이며, 본격적인 서비스 도입에 앞서 내년 상반기까지 상담 답변의 정확성과 신뢰성을 검증해 현장에 적용할 예정이다. 정명근 화성시장은 “앞으로도 민원행정에 디지털 기술을 접목해 시민이 신속·정확한 정보를 전달받을 수 있도록 100만 특례시에 걸맞은 수준 높은 행정서비스 제공을 위해 노력하겠다”고 말했다.

LG가 인공지능(AI) 기술 경쟁력 강화에 힘을 쏟고 있다. 2026년까지 AI데이터 분야 연구개발에 3조 6000억원을 투입해 미래 기술을 선점하고 인재 영입에 적극 나선다는 계획이다. 특히 LG의 AI 싱크탱크인 LG AI연구원은 미국 미시간대, 서울대, 캐나다 토론토대 등과 공동 연구를 활발히 진행 중이다. 20일 LG에 따르면 LG AI연구원은 지난 7월 19일 마곡LG사이언스파크에서 ‘LG AI 토크 콘서트 2023’을 열고 초거대 멀티모달 AI ‘엑사원(EXAONE) 2.0’을 공개했다. 이날 공개된 엑사원 2.0은 파트너십을 통해 약 4500만건의 전문 문헌과 3억 5000만장의 이미지를 학습했다. 엑사원 2.0은 한국어와 영어를 동시에 이해하고 답변할 수 있는 이중 언어(Bilingual) 모델로 개발됐다. 학습 데이터양도 기존 모델 대비 4배 이상 늘었다. 특히 엑사원 2.0의 언어 모델은 기존 모델과 동일한 성능을 유지하면서도 추론 처리 시간은 25% 단축하고 메모리 사용량은 70% 줄여 비용을 약 78% 절감했다. 언어와 이미지 간의 양방향 생성이 가능한 ‘엑사원 2.0’의 멀티모달 모델은 이미지 생성 품질을 높이기 위해 기존 모델보다 메모리 사용량을 두 배 늘렸지만 추론 처리 시간은 83% 단축해 비용의 약 66%를 절감했다. 이날 LG AI연구원은 엑사원 3대 플랫폼인 ‘엑사원 유니버스’(언어), ‘엑사원 디스커버리’(난제), ‘엑사원 아틀리에’(창작)도 차례로 공개했다. 먼저 엑사원 유니버스는 전문가용 대화형 AI 플랫폼이다. 다른 대화형 AI들과는 달리 사전 학습한 데이터는 물론 도메인별 최신 전문 데이터까지 포함해 근거를 찾아내며 추론한 답변을 생성한다. 엑사원 디스커버리는 ‘인류가 쌓아 온 지식을 초거대 AI가 스스로 학습해 활용할 수 있다면 질병, 에너지와 같은 세상의 난제를 해결하는 데 도움이 될 수 있을 것’이라는 아이디어를 구체화한 플랫폼이다. 엑사원이 논문특허 등 전문 문헌의 텍스트뿐만 아니라 수식과 표, 이미지까지 스스로 학습해 데이터베이스화하는 기술을 적용했다. 엑사원 아틀리에는 텍스트와 이미지 간 양방향 생성이 가능한 엑사원만의 멀티모달 특성을 살려 사람과 AI가 협업해 세상에 없던 창조적 디자인을 생성하는 플랫폼이다. 처음 보는 이미지를 자연어로 설명할 수 있는 ‘캡셔닝 AI’ 기능이 탑재돼 이미지 검색에 활용할 수 있는 정보인 문장이나 키워드 등의 메타 데이터를 생성한다.

네이버가 생성형 AI 검색 서비스 ‘큐(CUE):’로 사용자의 검색 만족도를 높이고 있다. 큐:는 스스로 질문의 의도와 맥락을 파악, 사용자가 여러 번 검색하며 얻어야 했던 정보를 한번에 찾아준다. 또 쇼핑과 로컬 등 네이버의 다양한 서비스 연계로 편의성이 뛰어난 것이 특징이다. 기존에는 사용자가 정보를 찾기 위해 검색어를 고르고 검색된 문서를 확인하고 다시 검색어를 수정하는 번거로운 과정을 반복했다면 이제는 검색창에 사람에게 말하듯이 자연스럽게 입력해도 만족할 만한 검색 결과를 얻을 수 있다. 큐:는 정보 검색에서도 신뢰도 높은 정보를 제공하는 점이 차별점이다. ‘서울 축제 알려줘’라는 질의에 현재 진행 중이거나 진행 예정인 축제 관련 정보를 기반으로 답변한다. 자동 완성 서비스 하단에 제공되는 큐: 추천 질의와 사용자가 큐: 답변을 선택해서 볼 수 있는 옵션을 통해 더 풍부하고 확장된 검색 경험이 가능해진다. 네이버는 큐:를 통합검색에 적용하며 사용자가 검색 과정에서 자연스럽게 AI를 체감할 수 있도록 최적화된 인터페이스를 선보였다. 네이버 서치 CIC 김광현 대표는 “큐:가 검색에 적용됨으로써 사용자가 원하는 검색 결과에 더 쉽고 빠르게 도달할 수 있게 됐다”면서 “네이버는 콘텐츠와 서비스를 모두 가진 전 세계 유일무이한 플랫폼으로서 생성형 AI 기술의 장점을 더해 한층 경쟁력 있는 서비스를 제공할 것”이라고 말했다.

미국의 온라인 사전 사이트 딕셔너리닷컴(Dictionary.com)이 2023년 올해의 단어로 ‘환각’을 선정했다. 13일(한국시간) 딕셔너리닷컴은 인공지능(AI)이 언어와 삶의 미래에 미치는 심오한 파급 효과를 가장 잘 나타내는 단어가 무엇인지 검토한 끝에 이같이 선정했다. AI 시대에 이 단어는 ‘사용자의 의도에 반하는 거짓 정보를 생성해 마치 진실인 것처럼 제시하는 행위’라는 새로운 의미를 갖게 됐다. 그랜트 배럿 딕셔너리닷컴 측은 “2023년 올해의 단어로 선정된 ‘환각’은 기술이 사회 변화에 미치는 지속적 영향과 우리가 상상하는 완벽한 미래, 실제 다가온 지저분한 미래 사이의 불일치를 요약하는 단어”라고 말했다. 아울러 “올해의 단어로 ‘환각’을 선정한 건 AI가 우리 일생에서 가장 중요한 발전 중 하나가 될 것이라는 예측이 반영된 결과”라면서 “신기술이 꿈이나 허구처럼 느껴질 수 있는, 특히 기술이 그 자체로 허구를 생산해낼 수 있는 시기에 적합한 단어”라고 의미를 부여했다.“AI가 미래에 미치는 영향 가장 잘 드러내” ‘환각’ 및 AI 관련 단어에 대한 검색량이 지난 1년간 크게 늘었다. 이 사이트에서 ‘환각’ 검색량은 지난해 대비 46％ 증가했다. 언론에서도 이 단어를 작년과 비교해 85％ 더 많이 사용한 것으로 분석됐다. 앞서 순다르 피차이 구글 최고경영자(CEO)도 미국 CBS 방송 시사 프로그램 ‘60분’에 출연, “이 분야 그 누구도 아직 ‘환각’ 문제를 해결하지 못했다. 모든 (AI) 모델이 이 문제를 갖고 있다”고 지적했다고 CBS는 전했다. 한편 딕셔너리닷컴은 ‘환각’이라는 단어가 컴퓨터 기술과 관련된 맥락에서 처음 사용된 것은 1970년대라고 짚었다. 1971년 발표된 한 연구 논문이 컴퓨터가 손 글씨를 정확하게 읽고 출력하도록 훈련하는 문제에 대해 다루면서 이 단어를 활용했다는 설명이다. ‘환각’ 외에 올해의 단어 후보에는 ‘파업’(strike), ‘워키즘’(wokeism), ‘기소된’(indicted), ‘산불’(wildfire)이 있다.

“아빠 유튜브에서 봤는데~ 매는 시력이 9.0이래” “유튜브에서 봤는데~” 라는 말은 우리집 초등학생 아이가 말버릇처럼 하는 말이다. 우리 아이에게 유튜브는 백과사전이자 트렌드를 알게 하는 마법상자와 같다. 특히 최근엔 슬릭백 댄스를 춘다며 온 집안을 뛰어다니고 있다. 필자의 세대는 텔레비전의 프로그램에서 정보를 얻었었다. 하지만 요즘 아이들은 유튜브를 통해 세상을 배우고 있다. 올해 한 조사에선 전 세대의 유튜브 이용률이 89% 이상 나왔다. 많은 전세대의 이용률에도 불구하고 일부 유튜브의 가짜뉴스와 편향된 알고리즘으로 아이들은 정확하지 않은 콘텐츠로 지식을 쌓고 있다. 또한 숏폼 콘텐츠가 활성화되고, 빨리 보기를 통해 영상 콘텐츠를 소비하는 경향도 높아져 골똘히 생각하는 능력 또한 줄고 있는 느낌이다. 최근 젊은 세대들에게 큰 인기를 얻는 단어는 도파민이다. 도파민(dopamine)은 쾌락을 느끼게 해주는 신경전달물질인데, 숏폼 콘텐츠를 소비할 때 도파민이 활성화 때기 때문에 우려의 목소리가 나오고 있다. 도파민이 자주 활성화되면, 도파민 역치가 높아져 더욱 강한 자극을 찾게 된다. 이것은 마치 도박이나 마약 중독을 만드는 도파민의 과잉 활성화와 비슷하다. 특히 태어날 때부터 스마트폰 세상에서 살아온, 본 디지털 네이티브 세대는 이전 세대보다 스마트 폰을 손에서 떨어뜨리려고 하지 않으려는 경향이 강하다. 최근 젊은이들 사이에서 이슈가 되는 카페가 있다. 이 카페에 입장할 땐 소지한 핸드폰을 잠금장치에 넣어야만 입장을 할 수 있는데, 카페 안에서 핸드폰 없이 반강제적으로 책을 읽게 하는 “욕망의 북카페”라는 곳이 큰 인기를 누리고 있다. 숏폼 콘텐츠의 인기와 함께 챗GPT와 같은 AI의 등장으로 사람들은 점점 생각하지 않으려 한다. 유튜브의 AI 알고리즘은 내가 좋아할 만한 자극적인 화면을 계속 보여준다. 몇초의 지루함도 용서하지 않고, 숏폼 콘텐츠에 빠져 스와이핑을 반복 하다 보면 시간이 훌쩍 지나가 버린다. 과거 세대가 워드프로세서의 흰 화면을 보고 글을 썼었다면, 향후엔 백지에서 깜빡이는 커서를 보면서 글을 쓰는 사람의 수가 현재보다 현저히 줄 것이다. 이미 다수의 대학에서도 생성 AI를 통한 과제 제출 때문에 오히려 이를 활용한 수업방법을 고심 중이기도 하다. 우리 아이가 사고력을 가지고 집중하면서 유튜브 시대에 잘 적응할 수 있는 방법은 무엇일까. 필자는 아이와 함께 유튜브 영상 콘텐츠를 만들어 보길 제안한다. 영상을 잘 만들려면, 원고도 잘 써야 하고 사전 조사도 충실히 해야 한다. 촬영이나 편집이 어려울 것 같다고 고민하지 말라. 쉽게 핸드폰으로 촬영하면 되며, 캡컷과 같은 AI 편집 프로그램도 있어 이젠 정말 초보자도 쉽게 영상을 만들 수 있는 시대가 되었다. 미래 아이의 세대는 영상을 통해 커뮤니케이션 하는 것이 일상이 된다. 과거 좋은 글을 쓸 수 있는 능력이 중요했던 것 만큼 앞으로는 좋은 영상을 만드는 능력이 주목받을 것이다. 특히 머리를 많이 써야 하는 롱폼 콘텐츠를 아이와 함께 만들어 본다면 지겨워하지도 않고 즐겁게 제작에 참가할 것이다. 또한 부모에게 기획하는 방법이나, 인터넷 검색법, 자연스러운 글쓰기 등을 배우며, 관계도 좋아질 것이다. 인공지능 기술의 발달이 너무나 빠른 시대에 살고 있다. 앞으로는 원고도 대신 써주고, 촬영도 편집도 AI가 모두 알아서 해주는 시대에 살게 된다. 하지만 좋은 결과물을 위해서라면 좋은 질문(프롬프팅)이 필요하듯이 영상을 기획하고, 주제가 무엇인지, 그리고 어떻게 표현할지는 결국 인간의 창의력으로 결정해야 하는 부분이다. AI를 컨트롤 하는 능력을 아이에게 길러 주기 위해 함께 유튜브용 영상을 만들어 보기를 바란다. 이제 곧 겨울방학이 시작된다.

㈜아이컴시스(대표 정기택)는 저렴한 비용으로 중소기업에서도 인공지능 기반 고객센터(AICC)서비스를 제공할 수 있도록 구독형 SaaS 서비스를 오픈했다고 12일 밝혔다.주요 서비스로는 쿠첸, 한국렌탈 등으로 무인상담서비스와 대위위니아 등 영상상담 서비스를 제공하고 있다. 또한 최근 다양한 고객사를 대상으로 AICC 솔루션을 서비스하면서 쌓인 노하우를 바탕으로 자체 음성봇 솔루션인 ‘CINNAMON’ 2.0으로 솔루션을 고도화했고 대기업과 AICC 사업협력 계약을 체결하면서 더 많은 고객사를 대상으로 서비스할 수 있게 됐다. 아이컴시스 솔루션 CINNAMON 2.0은 AICC 서비스에 필요한 Voice G·W와 SOE를 자체 개발해 상담사 연결 없이 서비스 가능한 무인상담봇, 캠페인봇, 주소봇과 상담사를 도와주는 역할로 상담사어시스트봇, 주소 검색, 영상상담 서비스를 제공하고 있다. 그 중 주소봇은 고객이 말로 불러 준 주소를 표준주소로 치환해주는 솔루션으로 배송지 및 방문지 주소가 필요한 기업에서 활용되고 있으며, 특히 GS홈쇼핑 등 홈쇼핑 배송지 주소 자동화 업무에 고객센터 최다 레퍼런스를 확보하고 있다. 최근에는 서울시와 서울경제진흥원(SBA)이 공동 주관하는 2023년 ‘하이서울기업’에 선정됐다. 아이컴시스 관계자는 “컨택센터의 업무 효율성 제고 및 고객의 불편을 최소화하고자 AI기술을 활용해 ‘말로 대화하는 음성봇 솔루션’을 개발하여 공급하는 컨택센터 전문기업으로 거듭나, 컨택센터 분야에서 국내 최고의 AICC 서비스 제공사가 되는 것이 목표”라고 전했다.

19~22일 코엑스서 ‘2023 해양수산과학기술주간’ 진행 해양수산과학기술 산학연 및 투자기관 연계 종합 행사해양수산과학기술진흥원(원장 오운열·이하 KIMST)이 맞춤형 ‘잡페어’를 통해 해양·수산·조선 분야의 취업을 지원한다고 11일 밝혔다. 해양수산과학기술진흥원은 오는 19일부터 22일까지 총 4일간 진행되는 ‘2023 해양수산과학기술주간(Ocean Inno Week)’에서 해양수산 분야에 관심 있는 구직자를 대상으로 ‘잡페어’를 운영한다. 구직자에게 실질적인 정보를 제공하고 소통의 장을 마련한다는 취지다. 잡페어는 ‘대국민 참여의 날’로 지정한 22일 코엑스 컨퍼런스 E5~6룸에서 오전 10시부터 오후 3시까지 운영하며 채용상담관, 채용면접관, 취업특강, 취업컨설팅관(퍼스널 컬러, 이력서 사진촬영, AI 역량검사) 등 다채로운 프로그램이 구성돼 있다. 이번 잡페어에는 15개의 관련 대기업, 중견기업, 스타트업 및 기관이 참여해 인사 담당자와의 1:1 채용상담, 취업 컨설팅, AI 면접체험 등을 제공할 예정이다. 해양수산 관련학과 졸업생(예정자) 및 해양·수산·조선 분야의 일자리를 찾는 구직자라면 누구나 무료로 참여할 수 있다. 참가 방법은 잡페어 사전예약(필수) 구글 시트의 문항을 작성해 제출하면 된다. 방문자 100명에게는 커피 쿠폰이 증정되며 현장 추첨을 통해 푸짐한 경품도 제공된다.해양수산 분야 국내 최대 규모의 행사인 ‘2023 해양수산과학기술주간’은 서울 코엑스 컨퍼런스룸E에서 개최된다. ‘바다에서 찾은 희망, 과학으로 여는 미래’를 주제로 △종합행사 △기술사업화 △산업활성화 △대국민 참여 총 4가지 일차별 테마를 나눠 진행한다. 민관산학연을 총망라한 각계 기관이 참여하는 이번 행사에는 해양수산 연구·개발 설명회, 주요 성과 발표회, 투자·사업화 세미나, 대국민 참여 이벤트 등 연계 프로그램이 운영될 예정이다. 특히 올해는 대국민 참여·소통 프로그램을 대폭 확대해 눈길을 끈다. ‘대국민 소통의 날’로 기획한 마지막 날은 잡페어 이외에도 국민 누구나 참여할 수 있는 부대행사를 중심으로 운영한다. 퀴즈쇼와 토크 콘서트를 비롯해 해양 심층수를 활용한 음료 및 스낵 시식, ESG 기업제품 전시, DIY 체험, VR 서핑, 바다생물 스케치 등 다양한 체험형 프로그램을 만나볼 수 있다. 참가를 희망하는 사람은 포털에 ‘해양수산과학기술주간’을 검색, 홈페이지 사전등록 후 방문하면 무료로 행사를 즐길 수 있다.

1년 전 챗GPT로 생성형 인공지능(AI) 돌풍을 일으킨 오픈AI의 이사회가 지난달 17일 최고경영자(CEO) 샘 올트먼을 일방적으로 해고한 드라마는 닷새 만에 올트먼의 CEO 복귀와 새로운 이사회 구성으로 일단락됐다. 오픈AI는 2015년 당시 우수한 인재와 자금력을 바탕으로 AI 연구개발을 선도하던 구글에 의해 AI 연구개발 주도권과 결과가 폐쇄적으로 독점될 것을 우려하던 사람들에 의해 세워졌다. 오픈AI라는 이름에서 보듯 안전한 AI를 만들고 누구에게나 AI 혜택이 가도록 하자는 게 창업 명분이었다. 하지만 ‘다윗’ 오픈AI가 ‘골리앗’ 구글을 뛰어넘기 위해서는 높은 몸값의 뛰어난 인재를 유치하고 이들이 실험할 수 있는 고가의 컴퓨팅 자원을 확보해야 했다. 이에 필요한 자본을 끌어들이기 위해 오픈AI는 유한자회사(LP)를 설립했다. 비영리법인 아래에 자본주의 원칙을 따르는 혁신자본 그릇을 만든 것이다. 마이크로소프트와 실리콘밸리의 벤처캐피털들이 투자하고 직원들에게는 이 LP의 주식을 배당했다. 오픈AI 이사회가 CEO 샘 올트먼을 해고하기 바로 전만 해도 이 회사는 조만간 가격이 오를 오픈AI LP 주식을 이전 가격으로 배정받을 수 있다고 홍보했다. 벤처캐피털들은 CEO 복귀가 되지 않으면 직원들의 주식을 유동화하기 위한 펀드 조성을 재고하겠다고 이사회를 압박했다. 하지만 이런 특이한 오픈AI 지배 구조에서는 혁신 자본주의와 이상적 이타주의의 충돌은 필연적이다. 이상주의자들의 쿠데타는 혁신 자본주의자들에게 개입할 명분을 만들어 줬고, 전략이 부실했던 이상주의는 경험 많은 혁신자본에 손을 들 수밖에 없었다. 기존 6명의 이사 중 창업가 출신의 애덤 디앤절로가 유일하게 이사회에 남고 트위터의 이사회 의장을 지낸 연쇄 창업자 브렛 테일러와 미국 재무장관과 하버드대 총장을 역임한 래리 서머스가 새로운 이사로 선임됐다. 서머스는 블룸버그TV에 고정 출연해 세계 경제의 현안에 대해 의견을 밝히는 경제학자다. 지난해 챗GPT가 공개됐을 때 “인류 역사에서 인쇄술이나 전기의 발명과 맞먹는 발명”이라고 극찬하기도 했다. 그가 새로운 이사가 된 것은 전혀 놀랍지 않다. 새 이사회 의장을 맡은 테일러는 1980년생으로 40대 초반이다. 닷컴 버블 붕괴 직후인 2000년대 초 스탠퍼드대에서 컴퓨터사이언스 학사·석사 학위를 받았다. 졸업 후 그는 창업 5년차인 구글에 입사해 훗날 구글 지도 서비스로 발전한 위치 기반 검색 서비스 개발을 이끌었다. 2007년 상장 기업이 된 구글을 나와 실리콘밸리의 선도 벤처캐피털인 벤치마크에서 예비창업자로 구글 출신들과 함께 소셜네트워크 벤처 프렌드피드를 창업했다. 2009년 8월 페이스북에 이 회사를 5000만 달러에 매각한 테일러는 2010년 30세에 페이스북 최고기술책임자(CTO)가 됐다. 페이스북의 ‘좋아요’ 버튼은 프렌드피드에서 왔다. 2012년 테일러는 페이스북을 나와 제2의 창업을 했다. 이때 설립한 큅은 구글 닥스와 경쟁했다. 이 회사는 2016년 세일스포스닷컴이 인수했다. 이후 테일러는 세일스포스닷컴에서 공동 CEO까지 맡았다. 이와 병행해 2016년부터 2022년까지 트위터의 이사와 이사장도 맡았다. 오픈AI가 테일러를 왜 이사회 의장으로 선임했는지 이해할 수 있다. 뉴욕타임스는 오픈AI 드라마는 자본주의자들의 승리로 끝났다는 칼럼을 실었다. 생성형 AI가 나쁜 의도로 위험하게 쓰일 여지는 있다. 하지만 아직 초기 단계에 있는 생성형 AI 기술의 발전을 규제한다고 해서 해결할 수 있는 문제는 아니다. 인류의 발명 중에 위험했던 발명은 수없이 많았다. 오히려 기술의 발전을 앞당겨 문제의 해결 방안을 찾는 것이 바람직한 방향이다.

생성형 AI 발달로 그림 작업 진입장벽 낮아져가상·실존 인물 안 가려…수요·저변 확대 부작용“제작 자체는 방지 어렵고 배포 안되게 막아야” 생성형 인공지능(AI) 발달로 이미지 제작의 진입장벽이 낮아지면서, 선정적인 이미지가 무차별적으로 온라인에 유포될 수 있다는 우려가 커지고 있다. 생성형 AI는 이용자의 요구에 따라 이미지, 미술, 소설, 비디오 등 다양한 콘텐츠를 만들어내는 인공지능이다. 대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼, 실존 인물의 사진이 성적인 용도로 악용될 가능성이 있다. 지난 1일 인스타그램에서 ‘aigirl’(에이아이걸)이라는 단어를 검색하자 67만여개의 게시물이 쏟아졌다. 대부분의 게시물이 가슴 등 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 이미지를 포함하고 있었다. 최근에는 일반인이 생성형 AI를 통해 ‘돈벌이’를 하는 경우도 생겨나고 있다. 직장인 이모(27)씨는 지인이 이미지 제작 AI를 이용해 남들을 위한 ‘가상 여자친구’를 만든다는 소식을 들었다. 노출이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 게시함으로써 이용자들에게 후원금을 받는다는 것이다. 실제로 각종 SNS에는 AI로 선정적인 이미지를 생성해 올리는 채널이 우후죽순 생겨나고 있으며, 심지어 구독료를 받는 곳도 있다. 특히 심각한 문제는 대부분의 SNS가 연령 제한 없이 누구나 쉽게 접근할 수 있다는 점이다. 초등학교 교사 임모(28)씨는 연합뉴스에 “성에 관심이 커지는 고학년 학생들은 AI 프로그램에 선정적인 키워드를 입력할 가능성이 있다”며 “그런 키워드로 그림을 그려낸다면 아이들의 성 인식을 왜곡시키고 정서적으로도 좋지 않을 것 같다”고 말했다. 음란물이나 선정적 이미지가 범람하는 문제는 AI 기술의 발달로 인한 대표적인 부작용으로 꼽힌다. 가상의 캐릭터를 대상으로 한 선정적인 이미지의 유포를 넘어, 기존 동영상에 다른 사람의 얼굴을 합성하는 기술인 딥페이크를 활용해 실존 인물을 성적 대상화한 불법 허위 음란물이 만들어지는 사례도 급증하고 있다. 그러나 관계 당국의 시정 조치는 아직 많이 부족한 것이 현실이다. 방송통신심의위원회는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9천6건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과했다. 지금이라도 제도 개선이 필요하다는 주장도 나오는 이유다. 전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적한다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI 프로그램이 실존 인물의 그림을 재료로 삼아 실사화하고, 성적 대상화하더라도 이것이 음란하거나 실존 인물의 인권을 침해했다고 단정하기는 쉽지 않다”며 “이미지의 생성 자체를 막는 기술적 요소를 강구하기보다는 유포·활용 단계에서 제재하는 것이 바람직하다”고 강조했다.