서울시가 인공지능(AI)을 접목한 행정 혁신에 2026년까지 2064억원을 투입해 시민 편의와 공무원 업무 효율을 동시에 높일 계획이다. 시는 AI를 활용해 행정 서비스의 질을 높이는 ‘서울시 인공지능(AI) 행정 추진계획’을 2일 발표했다. 지자체 단위에선 최초의 AI 활성화 전략이다. 먼저 ‘약자와의 동행’, ‘시민 안전망 조성’ 등의 분야에서 기존에 추진하던 28개의 AI 기반 사업을 지속·확대하고, 신규 사업도 10개 추진한다. 신규 사업엔 신고 음성을 분석해 긴급도와 위험 징후를 파악하는 ‘AI 기반 119 종합상황 관리체계’ 구축, 도시철도 시설 드론 관제 AI 시스템, 서울시 특화 경량형 언어모델(sLLM) 개발 등이 포함된다. 혼자 사는 노인에게 AI가 주기적으로 전화를 걸고, 움직임 등을 감지해 모니터링하는 ‘스마트 안부 확인 서비스’를 확대하고, 언어장벽 없이 지하철을 이용할 수 있도록 돕는 ‘실시간 동시대화 시스템’과 서울관광 ‘생성형 다국어 챗봇’ 등도 확대한다. 시는 실·국 단위로 분절된 사업의 전문성과 실행력을 높이기 위해 ‘디지털정책관’을 컨트롤타워로 운영하고, AI 전문기관인 서울디지털재단을 ‘AI기술지원센터(가칭)’로 지정해 기술자문, 컨설팅 등을 실시한다.

싱글사인온(SSO) 방식으로 오투미트 단위 솔루션 단독 사용 가능…접근성 확대 마이스(MICE) 산업 디지털 전환 선도기업 이즈피엠피(대표 한신자, 최학찬)의 마이스 행사 자동화 플랫폼 오투미트(O2MEET)는 쇼케이스를 열고 새로운 솔루션과 연내 신기능 출시 로드맵을 공개했다고 2일 밝혔다. ‘What’s New 2024’를 주제로 이즈피엠피 본사에서 진행된 쇼케이스는 오투미트 서비스 담당자가 직접 자리한 가운데 유튜브 라이브로 생중계됐다. 오투미트는 이번 업데이트에서 웹앱〮을 연결하는 ‘하이브리드 기능’ 확대에 주력했다. ▲자율형∙주선형∙혼합형∙멀티그룹∙기간제 등 6가지 매칭 유형을 혼용하여 매칭 성공률을 높이는 ‘비즈니스 매칭 솔루션’ ▲상담 스케줄표를 메일로 안내하고 출력할 수 있는 ‘비즈니스 상담 솔루션’ ▲등록, 결제, 홍보 등 상황별 알림을 템플릿으로 제공하고 이메일∙문자∙카카오톡으로 자동 발송되도록 한 ‘알림 솔루션’ ▲행사에 필요한 결제 기능을 추가하고 간편결제 방식을 탑재한 ‘결제 솔루션’ ▲행사 입장권, 전시 부스 정보, 비즈니스 상담 일정 등 용도에 따라 QR코드 자동 생성∙발송 및 현황 관리가 가능한 ‘QR 솔루션’이 새롭게 공개됐다. 신규 솔루션들은 싱글사인온(SSO) 방식으로 출시돼, 오투미트의 기존 상품과 조합해 사용하거나 단독 사용할 수 있다. 싱글사인온은 사용자가 하나의 계정으로 여러 시스템에 접근할 수 있는 통합 로그인 방식이다. 오투미트를 사용하지 않던 고객이 기존에 보유한 행사 사이트에 원하는 오투미트 기능만 탑재해 사용할 수도 있고, 기존 사이트의 회원 데이터베이스를 오투미트에 연동할 수도 있기 때문에 서비스 접근성과 편의성이 높아졌다. 또 오투미트의 컨트롤타워인 ‘메이킹센터’를 개편해 사용 편의성을 대폭 높였다. 메이킹센터는 개발자 관여 없이 행사 기획자가 직접 마이스 행사 사이트를 구축하고 운영하는 관리자 모드다. 오투미트는 웹사이트 제작하는 업무 흐름에 맞춰 메이킹센터 메뉴를 수정하고 실시간 통계 대시보드의 시인성을 개선했다. 이외에도 ‘고객 케어 라운지’를 신설, 이용 가이드를 제공하고 챗봇 및 채팅상담 기능을 마련해 고객만족(CS)을 위한 서비스를 강화했다. 이어 오투미트는 연내 추가 출시할 상품 계획을 발표했다. 실내 측위 기술 기반 전시장 길 안내와 QR 명함 교환 등이 가능한 ‘오투미트 MICE 비서 앱’, AI 추천 알고리즘으로 적합한 기업을 찾아주는 ‘AI 추천 비즈매칭’을 예고했다. 최학찬 이즈피엠피 대표는 “이번 쇼케이스를 통해 오투미트는 행사 기획과 운영 전 과정의 효율성을 크게 높이는 신규 솔루션들을 선보였다”며 “앞으로도 지속적인 서비스 개선과 신규 솔루션 출시로 행사 기획자와 참가자의 긍정적인 고객경험(CX)을 축적하고, 마이스 산업의 디지털 전환을 가속화하겠다”고 말했다.

국내 인공지능(AI) 서비스 ‘뤼튼’의 검색 기능이 강화됐다. 질문자의 의도를 분석한 뒤 실시간 탐색을 하고 정보 출처와 연관 콘텐츠, 후속 질문도 제공한다. 질문과 답변 수에 대한 제한이 없다. AI 서비스 플랫폼 기업 뤼튼테크놀로지스는 뤼튼의 대규모 업데이트를 진행했다고 26일 밝혔다. 지난 1월부터 한국과 일본 양국에서 이용자 공개 테스트를 진행한 뒤 이번에 정식 서비스를 내놓았다. 회사 측은 최신 정보 학습이 덜 된 기존 대규모언어모델(LLM)의 한계를 극복하기 위해 검색 증강 생성(RAG) 기술과 인터넷 브라우징 AI 에이전트 기술을 활용했다고 설명했다. 이용자가 원하는 AI 캐릭터 챗봇을 손쉽게 만들 수 있는 기능이 추가됐다. 또한 정보 탐색과 창작을 함께 추구하는 이용자 행동 패턴을 반영해 AI 채팅창도 전면 개편했다. PC와 모바일 등 모든 기기에서 자유롭게 이용할 수 있다. 이세영 대표는 “뤼튼 이용자의 절반에 달하는 10대와 20대는 유튜브 등 다양한 플랫폼으로 정보를 검색한다”면서 “AI 대중화에 힘쓰겠다”고 말했다. AI 에이전트·툴 제작 도구인 ‘뤼튼 스튜디오’를 업그레이드한 ‘뤼튼 스튜디오 프로’도 조만간 선보일 예정이다. 문서 분석 AI 채팅과 소셜 네트워킹 AI 서비스도 준비 중이다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

마이크로소프트(MS)가 자체 생성형 인공지능(AI) 모델 ‘코파일럿’을 키보드에 기본 버튼으로 탑재한 PC와 노트북을 선보였다. 1994년 키보드에 윈도 시작 키가 탑재된 이후 30년 만의 변화다. AI PC 시장 선점 경쟁이 치열한 가운데, MS의 실험이 시장의 판도를 바꿔놓을지 주목된다. MS는 21일(현지시간) 코파일럿 키가 추가된 비즈니스용 ‘서피스 프로 10’과 노트북인 ‘서피스 랩톱 6’을 출시했다고 밝혔다. 오픈AI의 AI 모델을 기반으로 이용자의 질문에 답하는 생성형 AI 코파일럿 버튼은 키보드의 스페이스바 오른쪽 옆에 배치됐다. 이 버튼만 누르면 챗봇이 나타나고 프롬프트(명령어)를 입력할 수 있다. 회사 측은 지난 1월 “올해는 AI PC의 해”라면서 “코파일럿 키가 그 시작이 될 것”이라고 밝혔다. 코파일럿 키가 탑재된 기기 가격은 1199달러(약 160만원)부터 시작한다. 미국 CNBC 등에 따르면 알파고를 개발한 딥마인드의 공동 창업자인 무스타파 술레이만이 MS의 AI 사업부 최고경영자(CEO)로 영입돼 코파일럿 사업을 총괄할 것으로 알려졌다. 술레이만은 최근 AI 기술이 몰고 온 변화를 다룬 ‘더 커밍 웨이브’란 책을 쓰기도 했다. 그는 MS 제품에 코파일럿을 적용하는 연구에 주력할 전망이다.

생성형 인공지능(AI) 기술에서 ‘마이크로소프트(MS)·오픈AI’ 진영에 밀린다는 평가를 받는 애플과 구글이 전략적 제휴에 나설 것으로 알려졌다. 애플 아이폰에 구글의 AI ‘제미나이’를 탑재하려는 시도다. 세계 AI 업계의 합종연횡이 본격화하고 있다. 블룸버그통신은 18일(현지시간) 소식통의 말을 인용해 “애플이 조만간 출시할 아이폰 운영체제 iOS18에 자체 AI 모델을 탑재할 예정인 가운데 생성형 AI 기능을 강화할 파트너를 찾고 있다”고 전했다. 애플은 지난해 초부터 ‘아약스’라는 코드명으로 대규모 언어모델(LLM)을 시험하고 있다. 일부 직원은 ‘애플GPT’로 불리는 챗봇을 훈련시킨다. 그러나 자사 AI 기술이 ‘MS·오픈AI’ 동맹에 크게 뒤진다는 지적을 받자 결국 경쟁자와의 협력을 택했다고 블룸버그는 분석했다. 현재 애플은 구글과 라이선스 계약을 논의 중이며 오픈AI와도 협의를 진행하고 있다. 그럼에도 월가는 애플이 오픈AI보다 구글과 손잡을 가능성에 무게를 둔다. 시장 선두인 MS에 맞서려면 두 회사가 힘을 모을 수밖에 없다고 보기 때문이다. 이런 계산을 반영하듯 이날 뉴욕증시에서 구글의 모회사 알파벳과 애플 주가는 장중 각각 6%, 2% 넘게 올랐다. 두 기업은 10년 넘게 스마트폰 운영체제 시장에서 안드로이드와 iOS로 세계를 양분해 왔다. 그러나 AI 시대로 접어들면서 MS와 오픈AI 진영과의 경쟁에서 뒤처졌다는 평가를 받아 왔다. 구글은 2016년 ‘알파고’를 내놓고 이세돌과 바둑 대결을 벌일 때만 해도 AI 기술의 선두로 인정받았지만 챗GPT를 내놓은 오픈AI에 주도권을 빼앗겼다. 애플도 아이폰 판매가 줄어드는 가운데 생성형 AI 투자마저 늦어져 MS에 시가총액 세계 1위 자리를 내줬다. 이에 따라 애플과 구글의 파트너십은 서로에게 ‘윈윈’의 기회가 될 수 있다는 예상이 나온다. 일종의 ‘오월동주’(적대적 상황에서도 서로 협력함)다. 구글로서는 아이폰에 제미나이를 탑재하면 전 세계 20억대가 넘는 애플 기기로 자사 AI를 확장할 수 있다. 이미 구글은 삼성전자의 ‘AI폰’에도 제미나이를 장착했다. 전 세계 스마트폰 시장 점유율 1·2위 업체에 모두 AI 서비스를 제공하면 차기 검색시장에서도 MS에 밀리지 않을 수 있다. 앞서 구글과 애플은 검색 엔진 분야에서 수년간 협력해 왔다. 애플은 자사 웹브라우저 사파리에서 구글을 기본 검색엔진으로 사용하는데 구글은 검색 독점권을 유지하고자 애플에 해마다 수십억 달러를 지불한다. 이번 제휴로 구글은 애플에 제미나이 사용료를 받을 수 있다. 애플 입장에서도 구글과의 협력을 통해 ‘AI에서 뒤처졌다’는 시장의 우려를 어느 정도 씻을 수 있고, 이를 통해 MS에 내준 시가총액 1위 자리도 탈환할 수 있을 것으로 기대하는 눈치다. 다만 일각에서는 초대형 기술기업 간 파트너십이기에 전 세계 규제 당국의 반독점 조사 대상이 될 수 있다는 지적이 제기된다. 최근 제미나이가 이미지 생성에서 역사적 사실을 왜곡하는 등 문제가 드러나 ‘아직 MS의 경쟁자가 되지 못한다’는 비판도 있다.

경기교육청이 교권보호 강화를 위해 학부모를 대상으로 ‘학교 방문 사전 예약시스템’을 운영한다. 도교육청은 2024 교육활동 보호 강화 종합대책에 따른 후속 조치로 학부모 소통 시스템을 마련한다고 11일 밝혔다. 먼저 다음 달 중 도내 68개교에서 학교방문 사전예약 시스템을 시범 운영한다. 이 시스템은 카카오 채널에서 학교 이름을 검색한 뒤 방문 목적, 대상, 일시 등을 입력하고 예약 승인을 받는 절차로 진행된다. 아울러 교직원의 단순문의 전화응대를 획기적으로 줄이고 온라인 대민 소통 기능을 확대하는 차원에서 도교육청 누리집에 ‘민원 상담 챗봇’ 도입을 추진한다는 방침이다. 오는 6월까지 도교육청 누리집에 자연어 처리와 자료 학습이 가능한 민원 상담 챗봇을 구축해 ▲주요 문의 분야에 대한 응답·상담 ▲단순·반복문의 답변 ▲카카오톡 1:1 대화 상담 연결 ▲학교 누리집과 대표번호 연결 등을 지원한다는 것이다. 기존 경기에듀콜센터 카카오톡 상담 채널은 간결하게 개편해 1:1 대화 상담과 도교육청 누리집·민원 상담 챗봇 연결 기능만 남긴다. 이미용 도교육청 운영지원과장은 “학부모 소통 시스템을 신속하게 추진해 정당한 교육활동을 보호하고 경기교육가족의 원활한 소통을 지원하기 위해 최선을 다하겠다”고 말했다.

현장·콜센터 인력 증원 등 이용 활성화2023년, 5년전 10배 증가한 245만건 넘어 세종시는 공영자전거 ‘어울링’의 효율적 관리를 위해 자전거 재배치 요원 증원과 상담 챗봇 도입 등에 나선다고 10일 밝혔다. 시에 따르면 ‘어울링’ 운영의 효율성을 높이기 위해 자전거를 재배치하는 현장 인력을 10명에서 20명으로 증원한다. 민원 통화 중 대기 등에 따른 불편 방지를 위해 고객 응대와 관제를 담당하는 콜센터 상담원도 3명에서 6명으로 증원한다. 회원가입과 요금안내 등 단순 상담민원은 24시간 실시간으로 답변할 수 있는 상담챗봇을 도입한다. 전국 처음으로 자전거 이용 활성화 장려를 위해 올해부터 매월 8일을 ‘자전거 타는 날’로 지정한 시는 자전거와 대여소를 꾸준히 확충하고 어울링 시스템을 개선해 왔다. 반면, 관리인력 부족에 따른 민원 대응과 이용수요 충족 등에는 한계가 발생했다. 지난해 기준 세종시 공영자전거는 3422대로 2018년 (1475대)에 비해 2배 증가했다. 지난해 이용 건수는 2018년 21만 3205건 대비 10배 이상 증가한 245만 3124건을 기록했다. 이두희 건설교통국장은 “인력 증원과 반납오류 개선 등으로 이용자 편의가 높아질 것. 편리한 어울링 이용환경 조성을 위해 노력하겠다”고 말했다.

인공지능(AI) 기업 페르소나에이아이(페르소나AI, 대표 유승재)는 네이버클라우드(대표 김유원)로부터 투자를 유치했다고 7일 밝혔다. 투자 금액은 공개되지 않았다 페르소나AI는 2021년 국내 최초의 구독형 인공지능 컨택센터(AICC)를 개발한 기업이다. AICC란 콜센터 등의 고객 접점에 챗봇, 콜봇, 주소봇 등 AI 기술을 적용한 것이다. 산업군이나 규모와 구애받지 않고 대고객 서비스를 제공하는 모든 기업에 적용 가능해 성장성이 크다.AICC 시장에 일찌감치 뛰어든 페르소나AI는 금융권에서 다수 레퍼런스를 확보하고 원천기술을 고도화했다. 단시간 내 10만 개 이상의 AI 학습 데이터를 자동 생성하는 자연어 생성(NLG) 기술과 한국어 인식률 100%를 달성한 자연어 처리(NLP) 기술이 핵심이다. 현재 공개된 누적 투자액만 약 200억 원에 달한다. 네이버클라우드 역시 원천기술을 바탕으로 AICC 시장에서 유의미한 성과를 거둔 페르소나AI의 잠재력과 성장성을 높이 평가해 투자를 결정한 것으로 알려졌다. 지난해 초거대 AI ‘하이퍼클로바X’를 공개한 네이버클라우드는 검색, 광고 등 핵심 서비스에 AI를 적용하는 한편, 다양한 산업군과 협업하며 AI 리더십을 구축하고 있다. 페르소나AI와 협력해 AI 역량을 강화하고 국내 AI 생태계 확장에도 박차를 가할 것으로 보인다. 이번 투자 유치를 계기로 페르소나AI는 AICC 전문성을 높이고 시장 지배력 강화에 나선다. 금융권뿐만 아니라 쇼핑, 의료, 렌탈 등 고객 응대를 디지털 전환하고자 하는 다양한 업계를 대상으로 AICC 사업을 적극 전개할 계획이다. 유승재 페르소나AI 대표는 “네이버클라우드의 이번 투자는 페르소나AI의 AICC 사업 성과와 가능성을 다시 한번 인정받은 결과라는 점에서 의미가 크다”며 “AICC 시장의 발전을 선도하며 누구나 편리하게 접하고 이용할 수 있는 AI 서비스를 만들어 나가겠다”고 밝혔다.

사내 인사ㆍ복리후생ㆍ취업 규정 등 업무 지원 서비스 제공경기주택도시공사(GH)가 사내 업무 효율을 높이기 위해 직원 업무용 챗봇(이하 “챗봇”)을 도입했다. GH는 주로 외부 고객용으로 쓰고 있는 챗봇 서비스를 직원들이 가장 궁금한 사항인 인사, 복지 분야에 시범 도입하여 단순, 반복적인 문의 사항을 챗봇에 물어봄으로써 임직원의 업무 효율성과 생산성을 높일 수 있게 했다고 밝혔다. 올해는 시범사업으로 인사․복지 분야 서비스를 지원하며, 특히 ‘내 연차 정보’ 등 일부 서비스들은 API(응용프로그램 인터페이스) 적용으로 개별 맞춤형 서비스로 제공된다. 향후 축적된 데이터를 통하여 사용성과 편리성을 개선하고, 지난해 도입한 RPA(로봇 프로세스 자동화) 및 다양한 업무 시스템과도 연계하여 업무시간을 줄이고 디지털 노동력을 확보해 직원 만족도를 높일 계획이다. 경기주택도시공사는 지난해 전세 임대 챗봇, 보상 챗봇 등 고객용 챗봇을 구축한 바 있다.

신동빈 롯데그룹 회장이 인공지능(AI) 전환을 연이어 강조하면서 그룹 전체가 생성형 AI 기술 개발에 박차를 가하고 있다. 25일 업계에 따르면 롯데그룹은 연내 상용화를 목표로 직원용 개인 맞춤형 AI 플랫폼을 개발하고 있다. 정보 유출 우려 없이 업무 문서와 일정, 연락처 등을 업로드해 활용할 수 있는 개인 AI 플랫폼을 개발해 전 직원에게 지원한다는 방침이다. 이를 위해 롯데 측은 롯데정보통신이 만든 생성형 AI 플랫폼 ‘아이멤버’를 기반으로 계열사별 사업 특성에 맞춘 ‘아이멤버 커스텀 챗봇’을 개발했다. 앞으로 챗봇을 더 고도화해 상반기 중 팀 단위에 제공되는 맞춤형 플랫폼을 개발하고 연내에 개인 맞춤형 AI 플랫폼을 선보인다는 계획이다. 각 계열사에서도 AI 활용 범위를 넓히고 있다. 롯데백화점은 AI아티스트 노엘 반다이크와 협업, 올해 봄 시즌 비주얼 이미지를 제작했으며 롯데홈쇼핑은 지난 8일 가상인간 루시가 출연하는 ‘루시톡라이브’를 론칭했다. 루시의 AI 아바타를 만들고 음성합성(TTS) 기술로 제작된 목소리를 송출하는 방식이다. 롯데마트는 오는 3월 3일 삼겹살데이를 앞두고 대형마트 검품 현장에 AI 기술을 활용한 삼겹살 선별기를 도입했다. 딥러닝 기반의 AI 장비가 삼겹살 단면을 분석해 살코기와 지방의 비중을 확인하고 과지방 삼겹살을 선별해 낸다. 롯데그룹은 또 하반기에 메타버스 플랫폼 ‘칼리버스’를 공개하고 국내외 시장 공략에 나설 계획이다. 롯데가 이처럼 AI 기술에 힘을 주는 것은 신 회장이 각별히 관심을 쏟고 있기 때문이다. 앞서 신년사에서 ‘AI 트랜스포메이션’ 시대를 맞이하기 위한 사업 혁신을 주문하며 “확보된 AI 기술을 활용해 업무 전반에 AI 수용성을 높이고, 생성형 AI를 비롯한 다양한 부문에 기술 투자를 강화해 달라”고 말했다. 상반기 사장단 회의(VCM)에서도 “AI를 단순히 업무 효율화 수단으로 생각하지 말고, 혁신의 관점에서 본원적 경쟁력을 강화하기 위한 방안으로 여겨 달라”고 했다. 앞서 롯데그룹은 지난해 9월부터 노준형 ESG경영혁신실 실장(부사장)을 중심으로 하는 AI 태스크포스(TF)를 가동해 왔다. 애초 TF는 다음달 운영을 마칠 예정이었지만, 업계에서는 그룹 안팎의 관심을 고려할 때 TF 운영이 어떤 식으로든 연장될 가능성이 있을 것으로 전망하고 있다.

‘일찍 부모 여읜 친구’ 가정하니순식간에 원고지 4장 분량 뚝딱수사·재판 과정서 악용 우려 급증檢 “진정성 의심 땐 철저히 확인” “존경하는 판사님. 저의 친구 ○○에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라고 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”라는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “○○은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역사회의 문제에 관한 관심 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”라고 꾸며 썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여 보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례도 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT로 지방자치단체 체육회 팀장 명의의 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미를 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적이고 형식적인 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”며 “챗GPT를 이용해 물량 공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해 달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

“존경하는 판사님. 저의 친구 OO에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라는 점을 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고, 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만, 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “OO은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역 사회의 문제에 관한 관심, 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”고 꾸며썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례가 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT를 이용해 지방자치단체 체육회 팀장 명의로 자신의 선처를 요청하는 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미가 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적 형식적 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”면서 “챗GPT로 물량공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI기술을 악용한 증거조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

“책의 도시 전주도서관에서 인형극도 보고 음악감상도 해보세요.” 전북특별자치도 전주시의 도서관이 책을 읽고 빌려보던 딱딱한 장소에서 복합문화공간으로 변신해 이용자가 크게 늘고 있다. 전국 유일의 도서관 여행도 화제다. 전주시는 지난해 1년 동안 12개 시립도서관 147만 1000여명, 12개 직영도서관 50만여명 등 총 197만 1000여명이 도서관을 이용했다고 14일 밝혔다. 이는 2022년보다 24% 증가한 수치로 전북도민 175만명을 뛰어넘는 것이다. 도서 대출도 142만 2000여권으로, 1년 전보다 5% 이상(6만 9000여권) 증가했다. 전주시의 도서관 이용자가 느는 것은 책과 문화예술이 공존하는 개방형 창의도서관을 지향하기 때문이다. 도서관마다 특화된 주제가 있다. 전주역 앞 첫마중길여행자도서관, 한옥마을도서관, 덕진공원 연화정도서관, 이팝나무그림책도서관, 동문헌책도서관, 시청사 책기둥도서관, 학산숲속시집도서관 등은 다른 지역에서 볼 수 없는 도서관이다. 이들 도서관은 공부하는 공간이 아니라 누구나 자유롭게 책과 함께 힐링하는 공간이다. 올해 더 많은 시민이 도서관을 이용할 수 있도록 인형극과 음악회 등 다채로운 문화프로그램을 상시 운영할 계획이다. 챗봇서비스를 구축해 희망도서 신청 등 편리한 이용환경을 만들 방침이다. 전주시의 ‘도서관 여행’은 전국적인 관심을 불러일으키고 있다. ‘책의 도시’, ‘인문학의 도시’로 자리잡기 위해 전국에서 유일하게 운영하는 프로그램이다. 25인승 미니버스 2대로 해설자가 함께 이동하며 주제와 특색이 있는 도서관들을 설명해 준다. 지난해 136회 운영해 1799명이 참여했다. 45%가 외지 여행자다. 올해 새롭게 운영되는 전주 도서관 여행 프로그램은 총 7개 코스다. 2개의 하루코스(책문화, 예술문화), 4개의 주제로 운영되는 반일코스(이야기, 그림책, 비밀, 정원), 야간 도서관 여행 코스 등이다. 도서관 여행은 전주의 문화를 소개하고 알리는 복합문화공간도 방문해 다양한 주제별 체험 프로그램을 함께 경험하며 전주를 새롭게 발견하는 기회가 될 것으로 기대된다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다. 대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다. 10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다. AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.

서울 금천구는 카카오톡 대화로 사회복지 공무원과 복지상담을 주고받을 수 있는 ‘금천복지톡톡’을 운영하고 있다고 2일 밝혔다. 카카오톡 검색창에서 ‘금천복지톡톡’을 입력해 채널을 추가하면, 누구나 간편하게 복지상담 서비스를 이용할 수 있다. 복지 분야 뿐만 아니라 일상의 어려움도 상담이 가능하다. 정기적으로 임대주택, 공공일자리 등 맞춤형 복지 정보는 물론 구정에 관한 주요 소식도 받아볼 수 있다.금천구 관계자는 “전화보다 카카오톡 등의 문자메시지를 선호하는 사회 현상을 반영해 다양한 연령층의 주민들이 보다 쉽게 복지상담을 받을 수 있게 했다”고 설명했다. 특히 금천복지톡톡은 인공지능(AI)이 아닌 사람이 직접 상담을 진행한다. 지자체 최초로 개설한 복지상담 전용 콜센터 ‘통통복지콜센터(02-2627-1004)’에 근무하는 사회복지 전문 공무원 4명이 상담을 제공한다. 정해진 답변만 반복해 원하는 대답에 도달하기 어려운 AI 챗봇이 아닌 전문 공무원과 직접 상담할 수 있는 것이다.금천복지톡톡은 ▲복지일반(주거, 고용, 나눔과 봉사 등) ▲저소득층 지원(수급자, 차상위계층 등) ▲보건의료 ▲여성과 가족(여성, 아동, 청소년, 노인 등) ▲장애인 복지 등 5개 분야 655개 사업에 대한 복지 정보를 총망라해 제공한다. 운영시간은 평일 오전 9시부터 오후 6시까지다. 민원인의 요청에 따라 전화 상담으로 즉시 변경도 가능하다. 유성훈 금천구청장은 “구민들께서 금천복지톡톡으로 어디서나 간편하게 복지상담을 받길 바란다”라며 “앞으로도 구민의 편리를 위해 다양한 상담 창구를 마련하겠다”고 말했다.

2025년 AI 디지털 교과서 도입 앞두고 AI를 활용한 교육 및 학습 지원교육 콘텐츠에 자체 개발 sLLM과 생성형 AI 적용하고 학습관리시스템(LMS) 더해 페르소나에이아이(페르소나AI, 대표 유승재)는 인공지능(AI) 디지털 교육 플랫폼 ‘AI MENTOR(아이멘토)’를 정식 출시한다고 1일 밝혔다. 아이멘토는 페르소나AI가 자체 개발한 sLLM(소형화한 거대언어모델)과 생성형 AI를 적용한 교육 플랫폼이다. 2025년 AI 디지털 교과서 도입을 앞두고 AI 교육에 대한 친숙도와 적응도를 높이고자 하는 취지에서 기획됐다. 학생, 학부모, 선생님, 교육 기관 모두가 사용 가능하며, 학생 개개인의 역량을 고려해 수준별∙맞춤형 교육과정과 활동을 통합했다. 아이멘토는 교육 현장의 목소리를 반영해 양질의 콘텐츠와 AI 기술을 접목했다. 우선 교과 연계, 창의적 활동, 학급 운영 등 다양한 교육 콘텐츠를 제공한다. 교육부의 학습 성취 기준을 반영해 신뢰성을 높였다. 여기에 자사 AI 기술들을 적용해 콘텐츠 활용도를 배가한다. 생성형 AI는 학생의 대답에 따라 맞춤형 자료를 개별로 보여줄 수 있다. 텍스트 외에도 이미지, 표, 그래프 등의 자료를 만들어내며 능동적인 학습을 유도한다. 높은 한국어 이해도를 자랑하는 ‘KGPT’ 기술은 정확한 문답의 원천이 된다. 또 원활한 수업과 소통을 위한 학습관리시스템(LMS)을 구축했다. 선생님이 원하는 교육 콘텐츠를 담기만 하면 전용 수업 리스트가 만들어진다. 전체 학생에게는 물론 개별, 그룹별로도 수업 할당이 가능하며, 출결 및 학습 현황을 실시간으로 확인할 수 있다. 일대일 코멘트 기능도 지원된다. 수업 종료 후 학생의 답변과 학습 내용을 확인하고 개별 첨삭과 소통이 가능하다. 페르소나AI는 지난 1월 17일부터 사흘간 개최된 ‘대한민국 교육박람회 2024’에서 아이멘토를 선보이고 공개 시연에 나섰다. 현장에서 아이멘토를 사용해 본 행사 참가자들은 AI를 접목한 교육에 큰 호응을 보냈다. 설치나 다운로드 없이 간편하게 이용할 수 있고, 엄격한 금칙어 설정으로 유해 단어를 필터링하고 안전한 학습을 지원한다는 점 역시 좋은 반응을 얻었다. 다양한 교육 관계자들의 의견을 수렴한 페르소나AI는 아이멘토를 고도화하며 교육 AI의 기반 강화에 나선다. 주요 과목별 심화 서비스를 확충함으로써 통합 AI 교육 플랫폼으로 성장한다는 계획이다. 그 첫걸음으로 맞춤형 영문법 학습 서비스 ‘AI 영문법’을 운영 중이며, 상반기 중 선생님을 위한 ‘AI 영어 문제 생성’ 서비스를 추가한다. 교과서, EBS 교재, 수능, 공무원 시험의 각종 기출문제를 AI가 수집하고 분석한 후 다양한 유형의 영어 문제를 무제한 생성∙제공하는 서비스다. 유승재 페르소나AI 대표는 “아이멘토를 통해 AI 디지털 교과서 시대를 맞는 교육 현장에 조금이나마 기여하고자 한다”며 “직접 개발한 sLLM과 생성형 AI 기술을 통해 교육은 물론 다양한 산업의 AI 도입을 적극 도울 것”이라고 말했다. 한편, 국내 최초의 구독형 클라우드 AICC(AI컨택센터)로 잘 알려진 페르소나AI는 챗봇, 콜봇 등의 상담용 AI는 물론 한국형 GPT, 가상 인간, AI 반도체 분야까지 AI 사업을 확대하고 있다. 지난해에는 마이크로소프트(MS)와 GPT 사업 및 연구 개발 MOU를 체결하고 SK텔레콤과 효성벤처스의 투자를 유치한 바 있다.

4년 만에 평가서 압도적 종합 1위‘데이터 기반 정부’ 항목 만점 받아6개 부문 중 4개 1위…총점 0.935점‘국민 비서 AI 챗봇’ 등 좋은 평가덴마크 2위, 0.811점… 영국 3위아시아국 중 10위권 내 유일‘한때 5위’ 日 급락… 0.483점 그쳐 한국이 4년 만에 실시된 경제협력개발기구(OECD)의 ‘2023년 디지털정부 평가’에서 2019년에 이어 2회 연속 압도적 종합 1위를 차지했다. 상위 10개국 가운데 아시아 국가는 한국이 유일하다. 일본은 같은 기간 5위에서 31위로 큰 폭 하락했다. 행정안전부는 21일 한국이 올해 OECD 디지털정부 평가에서 1점 만점에 0.935점으로 덴마크(2위, 0.811점), 영국(3위, 0.775점)을 제치고 1위를 달성했다고 밝혔다. 2019년 치러진 첫 평가(0.742점)에서는 당시 2위였던 영국(0.736점)과의 격차가 0.006점에 불과했지만 이번 평가에서는 2위와의 점수 격차가 당시보다 20배 이상(0.124점) 벌리며 확실한 우위를 점했다. 4년 전 아시아 국가 중 한국과 함께 상위 10위권에 이름을 올렸던 일본은 올해 31위(0.483점)로 26계단 추락했다. OECD 공공거버넌스국은 회원국(38개)의 정부·공공부문 디지털 전환 수준을 측정하기 위해 2020~2022년 회원국의 디지털 정부 정책·제도·서비스 실적을 바탕으로 ▲데이터 기반 정부 ▲플랫폼 정부 ▲개방형 정부 ▲선제적 정부 ▲디지털 우선 정부 ▲국민주도형 정부 등 6개 부문을 평가했다.그 결과 한국은 ‘데이터 기반 정부’ 등 4개 부문에서 1위, ‘디지털 우선 정부’ 등 2개 부문에서 2위를 차지했다. 정책 데이터를 활용해 새로운 가치를 창출하는 ‘데이터 기반 정부’는 1점 만점(회원국 평균 0.633점)을 받았다. 표준·데이터를 공개해 민간 기업이 활용할 수 있게 한 ‘플랫폼 정부’, 집주변 교통환경 서비스 등 맞춤형 공공데이터 서비스인 ‘개방형 정부’, 국민 3분의 1(1626만명)이 이용하는 ‘국민 비서(구삐) 인공지능 챗봇’처럼 건강·교통·세금 등 생활 필수 행정정보를 모바일 앱과 연계해 사전에 예측 제공하는 ‘선제적 정부’ 등도 모두 1위를 차지했다. 정보 이용 동의만으로 구비서류를 한 번에 제출가능한 ‘공공마이데이터’(디지털 우선 정부) 등도 좋은 평가를 받았다.

맞춤형 상담 위해 생성형 AI 상담 개발금융사 검증 없이 나가 오정보 가능성도 최근 카드업계가 인공지능(AI) 기술을 토대로 한 고객 상담 등의 서비스를 개발하고 있지만, 여전히 AI를 활용한 챗봇 상담에 불편함을 느끼는 이용자가 많아 생성형 챗봇을 도입하는 데 신중한 모습이다. 신한카드는 29일 LG CNS, LG AI 연구원과 차세대 AI 공동연구에 나선다고 밝혔다. 신한카드의 소비 데이터를 바탕으로 생성형 AI 모델을 구축해 고객 맞춤 서비스를 강화하려는 것이다. 다른 카드사들도 생성형 AI 기능을 도입하고 있다. BC카드는 오픈페이 서비스인 페이북에 생성형 AI 기술을 접목해 고객의 투자 성향에 맞는 재테크 정보를 제공하고 있으며, 국민카드도 지난해 9월 ‘캐시백’과 같은 키워드를 입력하면 관련 이벤트를 안내하는 서비스를 운영한 바 있다. 생성형 AI는 텍스트 등 기존 정보 등을 활용해 유사한 콘텐츠를 만들어내는 기술로, 이용자가 입력한 단어와 질문 의도까지도 분석해 문장을 생성한다. 이전 AI 챗봇의 경우 사전에 입력된 질문과 답변을 바탕으로 시스템이 만들어져 이용자의 질문 주제와 키워드를 제대로 인식하지 못하거나, 이용자가 구어체로 입력하면 명확한 답변을 듣기 어려웠다. 이 때문에 이용자가 원하는 정보를 얻기 위해 많은 질문을 시도하다가 결국은 상담사 통화로 이어지는 경우가 많았다. 하지만 생성형 AI를 활용하면 이러한 불편을 덜 수 있으리라는 것이 업계 기대다. 다만 생성형 AI는 기존 시나리오 기반 챗봇과 달리 카드사에서 모든 응답을 확인할 수 없다는 위험 요소가 있다. 즉, AI가 정보를 자체적으로 재구성하면서 최신 정보를 제공하지 못하거나 심지어는 거짓 정보를 만들어낼 가능성도 내포하고 있다. 즉, 카드사의 검증을 거치지 않은 정보가 나갈 수 있는 것이다. 김명주 서울여대 정보보호학과 교수는 “사용자들의 편의를 위해서는 생성형 AI 도입이 필요하지만 아직은 예상치 못한 답변이 도출될 가능성이 있다”며 “챗봇의 답변도 계약에 준하는 성격을 갖는다는 점에서 완벽한 검증이 전제되어야 한다”고 말했다. 채상미 이화여대 경영학부 교수는 “기존 AI 기술이 분석과 예측에 특장점이 있다면 생성형 AI는 정보를 창작한다는 특징이 있다”며 “이를 결합한 하이브리드 모델을 개발해 서비스를 보완해야할 필요가 있다”고 말했다.