아이폰에서 음성으로 말하면 문자로 전환하는 ‘받아쓰기’ 기능이 도널드 트럼프 미국 대통령과 관련된 버그(bug·오류)를 일으킨 것으로 나타났다. 25일(현지시간) 미 뉴욕타임스 등에 따르면 아이폰에서 받아쓰기 기능을 사용할 때 ‘인종차별주의자’(racist)라고 말하면 화면에는 ‘트럼프’(Trump)로 일시적으로 표기된 뒤 원래 단어인 ‘인종차별주의자’로 수정됐다. 이 버그와 관련된 영상은 동영상 플랫폼인 틱톡을 통해 확산했다. 애플 측은 “때때로 음성 인식 모델이 음성학적으로 겹치는 단어를 잘못 표시할 수 있다”며 “받아쓰기를 구동하는 음성 인식 모델의 문제를 인지하고 있으며 수정 프로그램을 배포하고 있다”고 밝혔다. 이 버그가 단순한 기술적 오류가 아닐 수도 있다는 분석도 나온다. 인공지능(AI) 스타트업 ‘원더러시 AI’ 창립자이자 애플의 음성 비서 시리(Siri) 팀에서 일한 적이 있는 존 버키는 “이 문제가 최근 애플 서버 업데이트 이후에 시작된 것으로 보인다”고 말했다. 버키는 애플이 AI 서비스 개선을 위해 수집한 데이터가 직접적인 원인일 가능성은 작다고 봤다. 그는 애플 시스템 어딘가의 소프트웨어 코드가 ‘인종차별주의자’라는 단어를 입력할 때 ‘트럼프’로 변환하도록 설정돼 있었을 가능성이 높다고 설명했다. 그는 “이건 심각한 장난 같다”며 “누군가 이 데이터를 조작했는지 아니면 코드에 (버그를) 몰래 심어놓았는지 의문”이라고 했다. NYT는 애플의 AI가 정치적 논란을 일으킨 건 이번이 처음이 아니라고 짚었다. 2018년 시리는 “도널드 트럼프가 누구인가”라는 질문에 대한 답변으로 나체 사진을 표시해 논란이 됐다. 이 버그는 위키피디아 편집자들이 시리의 정보 출처를 조작한 것과 관련이 있는 것으로 밝혀졌다. 또한 이번 문제는 애플이 향후 4년간 미국에 5000억 달러(약 716조원)를 투자하겠다고 발표한 다음 날부터 나타나기 시작했다. 팀 쿡 애플 최고경영자(CEO)가 지난 21일 백악관에서 트럼프 대통령을 만난 이후 지난 24일 애플은 휴스턴에 25만㎡ 규모의 AI 데이터를 위한 서버 공장을 만들겠다고 밝혔다.

서울시는 다음 달 8~9일 동대문디자인플라자(DDP) 아트홀 1관에서 ‘서울 AI페스타 2025’를 연다고 25일 밝혔다. AI 대중화를 목표로 하는 이번 행사는 오는 9월 코엑스에서 열릴 예정인 ‘스마트라이프위크 2025’의 사전 행사로 마련됐다. 시 관계자는 “어렵고 복잡한 신기술 위주의 기업 전시 행사와 다르게 시민들이 재밌게 체험하고 즐길 수 있는 다양한 콘텐츠로 꾸며진 시민 참여형 축제”라고 설명했다. 실제 AI페스타는 ‘AI가 내게 말을 걸었다’라는 주제로 총 6개의 공간을 운영한다. 서울시 AI 정책과 성과를 소개하는 ‘AI 서울 인사이드’, 생성형 AI의 답변 오류를 유쾌하게 알아보는 ‘엉뚱 AI 전시관’, AI 기술을 직접 체험하는 ‘AI 펀스팟’, AI 관련 대결을 펼치는 ‘AI 플렉스팟’, 전문가 강연과 청년 토론이 열리는 ‘AI 오디세이’, 생성형 AI로 나의 그림을 그리는 ‘AI 아트워크존’ 등으로 구성됐다. 오는 8일 AI오디세이에서는 오세훈 서울시장과 청년들이 AI 정책을 논의하는 시간을 가진다. 9일에는 카를로 라티 MIT 연구소장과 정송 카이스트 AI대학원 원장 등 국내외 AI 전문가들이 패널 토론을 진행할 예정이다. 바둑 AI 알파고와 대결했던 이세돌 교수와 뇌과학자 장동선 교수 등의 토크 콘서트도 열린다. 김만기 서울디지털재단 이사장은 “올해 서울디지털재단을 ‘서울AI재단’으로 전면 개편해 AI 활용의 중추 역할을 강화하고, 혁신적인 AI 기술 발전을 선도하고자 한다”고 말했다. 강옥현 시 디지털도시국장은 “AI페스타는 시민들이 재미있고 다채로운 프로그램을 통해 AI의 가능성과 한계를 직접 경험하며 생활 속에서 AI를 친숙하게 접하고 활용할 수 있는 계기가 될 것”이라고 강조했다.

스마트 CCTV 활용 검수 자동화선재제품 라벨 자동 추적해 인식후판ㆍ코일 검수장에도 적용 가능데이터 분석 통해 이상징후 감지고장으로 인한 가동 중지 최소화작년 설비 장애 10여건 사전 인지지난달 미국 라스베이거스에서 열렸던 세계 최대 전자·정보기술 박람회 ‘CES 2025’의 최대 화두는 인공지능(AI)이었다. 개인 일상의 편리함은 물론 기업 생산 효율 극대화까지 AI 기술로 실현하는 중이며 그 속도는 더욱 빨라질 전망이다. 제조업의 뿌리라 할 수 있는 철강 산업에도 AI를 비롯한 스마트 기술이 차츰 도입되면서 경쟁력 제고를 꾀하고 있다. 포스코는 단순 반복 작업이나 고위험 작업에 인간을 대체할 수 있는 기술을 적용하고, 각종 오류를 사전에 파악해 미리 대비할 수 있도록 한다. 지역 중소벤처기업과의 협업을 통해 기술을 개발하고, 스마트 기술 경진대회를 열어 혁신적인 아이디어가 탄생할 기회 또한 꾸준히 늘려 가고 있다. ●AI 기술로 옷 갈아입은 제철 공정 포스코 포항제철소는 선재 제품 검수 작업 자동화를 위해 ‘스마트 폐쇄회로(CC)TV 제품 라벨 탐지’와 ‘문자 인식 AI 기술’을 융합해 현장에 적용 중이라고 23일 밝혔다. 포항제철소에는 고객사로 출하되는 선재, 코일, 후판 등 제품 생산 정보와 차량에 실은 현품 정보 일치 여부를 검수하는 검수장이 있다. 제품 라벨이 검수 위치 반대편에 부착될 경우 검수자가 차량에 탑승해 직접 육안으로 검수해야 할 만큼 오류 발생 가능성이 있다. 이는 고객사 클레임으로 이어질 수 있다. 적재 차량 위에서 검수 작업에 집중하다 보면 안전사고가 발생할 우려도 있다. 이에 생산기술부 제품출하섹션은 포스코DX와 협업해 스마트 CCTV 12대를 활용한 ‘선재 제품 라벨 검수 자동화’ 기술을 개발했다. 12대 카메라의 회전과 줌 기능을 제어하는 ‘추적좌표 영상 분석’ 모델이 차량에 불규칙하게 적재된 선재 제품의 라벨 위치를 자동으로 추적해 인식한다. 전체 검수 단계에서 사람의 개입이 없는 자동화를 실현했다. 이같은 AI 알고리즘을 기존에 설치된 CCTV에 적용하면 선재 제품뿐만 아니라 후판, 코일 등 다른 제품의 출하 검수장에도 쉽게 확대 적용이 가능하다. 올해 코일 및 후판 제품 검수장에도 확대 적용할 계획이다. CCTV와 AI 영상 인식 기술을 접목해 모니터링 업무 자동화도 추진 중이다. 제철소 특성상 원료 이송을 위한 벨트 컨베이어가 수천개 설치돼 있으며 원료와 기계 마찰로 인한 화재 발생 가능성이 높다. 작업자가 수시로 설비를 점검하지만 점검 영역이 광범위해 24시간 모니터링에 어려움이 있다. 이러한 문제를 해결하기 위해 지난해 4월 3원료 공장에서는 연기·화재 등을 학습한 ‘화재 감시 AI 모니터링 시스템’을 개발했다. 이상 징후를 발견할 경우 담당자에게 해당 영상과 함께 경고 알람을 전송한다. 2선재 공장에서는 압연공정 모니터링 시스템을 개발해 코일 휨, 걸림 등 문제를 즉각적으로 감지해 조치할 수 있어 불필요한 생산 중단 시간을 크게 줄여 주고 있다. ●데이터 축적·활용 고위험 작업장 감시 포스코 포항제철소는 PIMS(POSCO Intelligent Maintenance System)를 활용해 설비 관리와 생산성 향상에 큰 성과를 거두고 있다. PIMS는 제철소 공정의 주요 설비 데이터를 활용·분석해 설비 이상을 예측하는 스마트 설비 관리 시스템이다. 설비의 대형 장애를 예방하기 위해 적용됐다. 데이터 분석을 통해 설비 이상 징후가 확인되면 수리 일정을 사전에 수립하고, 설비 고장으로 인한 가동 중지 시간을 최소화할 수 있다. 포항제철소는 쇳물을 고형화하는 연주공정 유압 밸브에 PIMS를 적용 중이다. 유압 밸브에 이상이 발생할 경우 대형 설비 장애로 이어져 생산 품질이 저하되고 생산량이 감소할 수 있어 작동 이상을 예지할 수 있는 기능이 필수적이다. 센서를 설치해 유압 밸브 동작 신호와 각종 센서 신호를 분석하는 설비 이상 예지 모델을 개발했다. 압력 이상 등을 실시간 감시·평가해 이상 패턴을 식별한다. 지난해 10여건의 설비 장애를 사전 예지해 발 빠른 조치로 생산성 향상에 크게 기여했다. 또한 포스코 전용 와이파이인 P-LTE망과 무선 사물인터넷(IoT) 통합 센서를 결합해 생산성 향상과 안전성 제고에 큰 성과를 거두고 있다. P-LTE는 포스코와 KT가 합작한 기술로 포항제철소 내에서 안정적이고 빠른 무선 인터넷 연결을 제공하는 서비스다. 여기에 무선 IoT 통합 센서를 결합해 열악한 제철소 환경에서도 설비 진동, 온도, 습도 등 데이터를 별도 케이블 공사 없이 손쉽게 수집할 수 있다. 이를 설비 관리에 적용하면 원격 모니터링과 알람 수신이 가능하다. 기존에 접근이 어려웠던 고온·고위험 환경의 설비 데이터를 실시간 감시할 수 있어 생산 장애와 품질 불량을 줄일 수 있다. 상태 점검을 위해 작업자가 가동 중인 설비에 접근할 필요가 없어 현장 안전성도 크게 높일 수 있다. ●혁신 아이디어로 스마트 기술 개발 포항제철소는 지역 중소벤처기업들과 협력해 스마트 제조 혁신을 추진하고 있다. 다양한 스마트 과제를 지역 벤처기업과 함께 수행하면서 제철소의 기술력을 강화하고, 벤처기업 인재의 지역 정착을 유도해 지역경제 활성화에 기여하고 있다. 포항제철소는 포항 체인지업그라운드에 입주한 에이엠스퀘어, 센싱플러스와 함께 AI 및 영상 기술 분야에서 합동 프로젝트를 진행하고 있다. 포스코는 산업 현장의 데이터와 제철공정 운영 노하우를 공유한다. 벤처기업은 최신 스마트 기술과 혁신적인 분석 아이디어를 활용해 예측, 3D 모델로 개발하고 있다. 이러한 과정을 통해 양측은 지속적으로 피드백을 주고받으며 기술을 발전시켜 나가고 있다. 특히 AI 분야에서 두각을 나타내는 에이엠스퀘어와 협력해 생산 공정에 AI 기술을 적용한 스마트 제조 시스템을 구축하고 있다. 대표적인 프로젝트로는 열연 공장의 가열로 소재 추출 최적 타이밍 제어모델 고도화와 STS 냉연공장 슬래브 품질 예측 모델 개발 등이 있다. 또한 스마트 기술을 활용한 현장 개선 우수 사례를 공유하는 스마트 기술 경진대회도 2017년부터 지속적으로 개최하고 있다. 경진대회를 통해 제철공정의 스마트 기술 성과를 공유하고 우수 사례를 다른 공정으로 확산시키는 동시에 현장 기술 엔지니어의 스마트 기술 역량도 향상시키고 있다. 이러한 스마트 기술 선점 노력 덕분에 포스코는 2019년 국내 기업 최초로 세계경제포럼(WEF)에서 ‘등대 공장’으로 선정될 수 있었다. 등대 공장이란 등대가 배를 안내하는 것처럼 IoT, AI 등 4차 산업혁명의 핵심 기술을 활용해 제조업 혁신을 이끄는 공장을 말한다. 포스코 관계자는 “AI 영상 기술을 활용한 자동화 과제는 제조와 안전 분야에 새로운 표준을 제시하고 있다”며 “앞으로도 AI 기술을 활용한 자동화 과제를 지속적으로 추진해 직원들의 업무 부하를 줄이는 동시에 생산 효율을 향상시키고 안전한 작업 환경을 조성해 나가겠다”고 했다.

RAG 기술 적용으로 신뢰성 높은 AI 챗봇 구현 에듀테크 기업 유비온이 세종대학교와 업무협약(MOU)을 체결했다. 협약식은 유비온 임재환 대표와 세종대학교 엄종화 총장을 비롯한 주요 관계자가 참석한 가운데 세종대학교에서 진행됐다. 이번 협약은 AI Transformation(AX) 확대 협력을 위한 업무협약으로 양 기관은 AI 기술을 활용한 교육 혁신을 공동으로 추진할 계획이다. 이번 협약의 일환으로, 유비온은 세종대학교에 자사의 AI 챗봇 ‘코스모스 AI 챗봇’을 무상으로 제공하기로 했다. ‘코스모스 AI챗봇’은 사용자 의도를 파악하고 질문의 맥락을 이해하여 개인 맞춤형 답변을 제공하는 AI 기술 기반 솔루션이다. 기존 챗봇이 정해진 답변만 대답할 수 있는 것과 달리 LLM(대규모 언어모델, Large Language Model)을 활용해 규격화되지 않은 질문에도 유연하게 답변할 수 있다. 특히 LLM 기술의 약점으로 지적되어 온 ‘사실관계 오류’를 보완하기 위해 RAG(검색증강생성, Retrieval-Augmented Generation)를 적용했다. 이 기술은 AI가 질문에 답변할 때 신뢰할 수 있는 출처 데이터를 기반으로 정보를 생성하도록 돕는 기능으로, 답변의 신뢰성과 정확성을 크게 향상한다. 또한 AI가 제공하는 답변의 출처를 표기하여 응답 데이터의 신뢰도를 보장받을 수 있다. ‘코스모스 AI 챗봇’은 간편한 학습 환경을 제공한다. 챗봇에 학습시킬 데이터를 붙여 넣으면 챗봇이 자동적으로 학습한다. 이를 통해 강의계획서, 발표자료, 정책문서 뿐 아니라 게시판 글이나 동영상 강의 스크립트와 같은 다양한 콘텐츠를 학습하는 것이 가능하다. 또한 OCR(광학문자인식, Optical character recognition) 기술을 활용하여 표, 도식도 등 여러 유형의 데이터도 학습할 수 있어 교수와 학생 모두 쉽게 활용할 수 있다는 점이 강점이다. 세종대학교는 ‘코스모스 AI 챗봇’을 도입하여 ▲’집현캠퍼스(세종대학교 LMS’) 강의실 조교 챗봇 ▲포털 학사 상담 챗봇 ▲교수학습지원센터 정보 기반 Q&A ▲홈페이지 정보 기반 Q&A 챗봇 등 AI 기반 학습 환경을 조성할 계획이다. ‘집현캠퍼스 강의실 조교 챗봇’은 강의실에 등록된 자료를 자동으로 인식하고 인공지능 학습하여 강의 내용 요약, 이해 안 되는 개념 학습, 비슷한 개념 비교 대조 등으로 활용할 수 있다. ‘포털 학사 상담 챗봇’은 학사 시스템에 등록된 사용자 데이터와 학사 규정을 학습하여 학사 규정에 관한 질문에 답할 수 있다. 교수학습지원센터에서는 기존 운영하였던 문의게시판을 학습시켜 다양한 기술적 지원 문의에 응답 가능하다. 학과 소개, 학사 규정 등은 ‘홈페이지 정보 기반 Q&A 챗봇’을 통해 문의할 수 있다. 세종대학교 엄종화 총장은 ‘선도적인 에듀테크 기업 유비온과 협력하게 되어 매우 기쁘다”라며, “이번 협력을 통해 세종대학교가 더욱 스마트한 학습 환경을 구축하고, 학생과 교수진 모두가 AI를 통해 새로운 학습 및 연구 경험을 얻길 기대한다”고 말했다. 유비온 임재환 대표는 “유비온은 이번 세종대학교와의 협력을 통해 고등교육 현장에 더 나은 AI 솔루션을 제공하고자 한다”며, “유비온은 코스모스와 AI 기술을 통해 새로운 학습 경험을 제공하고, 변화하는 교육 패러다임에 맞춰 나가겠다”고 전했다. 유비온 코스모스는 AI 기술을 적용한 혁신적인 교육 솔루션을 지속적으로 개발하며, ‘AI 튜터’, ‘AI 조교 - 질의응답 기반 챗봇’,‘코스모스 트랜스퍼’를 선보이며 AI 기반 에듀테크 시장에서의 경쟁력을 더욱 강화하고 있다. 이번 세종대학교와의 협력을 통해 AI 교육 혁신을 선도하는 기업으로서의 입지를 한층 더 공고히 할 전망이다.

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI가 자체 개발한 챗봇을 조만간 선보이며 경쟁사인 오픈AI에 도전장을 내밀 전망이다. 머스크는 15일(현지시간) 자신의 엑스(X·옛 트위터)를 통해 “지구상에서 가장 똑똑한 AI”라고 자평한 ‘그록3’ 챗봇을 오는 17일 출시할 예정이라고 밝혔다. 머스크는 앞서 13일 아랍에미리트 두바이에서 열린 세계정부정상회의 화상 회의에서 “그록3는 매우 강력한 추론 기능을 갖추고 있으며, 지금까지 우리가 수행한 테스트에 따르면 기존에 출시된 어떤 AI보다 성능이 뛰어나다”고 자신감을 내비쳤다. 이 모델이 합성 데이터로 훈련됐으며, 논리적 일관성을 갖추기 위해 데이터를 반복적으로 검토하고 자체적으로 오류를 수정하는 능력을 갖추고 있다는 설명을 붙였다. 그록3의 출시는 전 세계적으로 AI 챗봇 개발 경쟁이 치열해지는 가운데 이뤄졌다. 중국의 스타트업 딥시크가 저비용만으로 오픈AI의 챗GPT와 대등한 수준의 고성능 AI를 개발했다고 밝혀 업계에 충격을 안긴 가운데 전문가 영입에도 공격적으로 나서며 AI 시장 경쟁은 더욱 가열되고 있다. 이번 출시는 머스크와 오픈AI 간의 갈등이 고조되는 시점과도 맞물린다. 머스크는 2015년 샘 올트먼과 함께 오픈AI를 비영리 단체로 공동 설립했으나 회사의 발전 방향을 놓고 오랜 불화를 겪어왔다. 이후 2018년 오픈AI 이사직을 사임한 머스크는 2023년 자체적으로 xAI를 설립한 후 오픈AI의 공익법인 전환을 저지하기 위한 소송을 제기했으며, 최근에는 974억 달러 규모의 인수 제안을 하며 오픈AI 경영권 확보를 시도하고 있다. 한편, xAI는 대규모 자금 조달을 통해 사업 확장에 박차를 가하고 있다. 블룸버그는 소식통을 인용해 xAI가 100억 달러 규모의 투자 유치를 추진 중이며, 이를 통해 기업가치가 약 750억 달러에 이를 수 있다고 보도했다.

AI기반 IDP(Intelligent Document Processing; 지능형문서처리) 전문기업 메인라인(대표 최현길)이 A자산운용사의 ‘문서작성·편집 자동화 솔루션 도입 사업’을 수주해, 자사의 문서편집자동화 솔루션인 ‘ezTerms’를 공급한다고 밝혔다. A자산운용사는 최근 문서 관련 업무가 가중됨에 따라 수기 문서 처리 업무 및 비효율성에 대한 리스크 해소를 위해, 자동화 시스템 도입과 타 시스템 간 연계를 통한 문서 통합관리, 업무 생산성 향상, 프로세스 개선 등의 필요성이 요구되었다. 이에 따라 A자산운용사는 이번 문서작성·편집 자동화 시스템 도입 사업을 통해, 펀드 관련 문서(신탁계약서, 투자설명서, 증권신고서 등)의 문서작성·변경·정정 자동화를 통해, 수기 처리 과정에서 발생 가능한 리스크를 사전 예방하고, 정보 정합성 확보 및 이력관리, 법적 리스크를 감소함으로써 업무 효율 극대화를 추진하게 되었다. 이에 메인라인은 자사의 문서처리 특허 기술이 적용된 ezTerms 솔루션을 기반으로 손해·생명보험사에 이미 검증된 문서추출 기술을 활용해, 비즈니스 맞춤형 구조 제공과 유사 사업 경험 인력을 투입하여, 그동안 축적된 경험을 바탕으로 사업 수행 역량을 극대화할 전략이다. 사업범위는 문서 관리 솔루션을 통한 문서 파싱, 분석, 검색, 검증, 버전·변경 관리 및 자동화이다. 문서 분석을 위해 문서 파싱(hwp, word) 후 데이터화, 목차 생성 및 참조·피참조 관계를 표시하고 ▲문서편집(문서편집 및 가이드 문서 버전별 저장, 조문 내용 강조, 문서스타일 편집) ▲문서검증(조문번호 중복·누락·순서·오기 오류 검출, 주요문장 누락 검출, 구문 참조관계 오류 검사 등) ▲문서검색(문서내용 검색, 검색결과 일괄 변경) ▲변경대비표(문서 및 버전 비교, 변경대비표 자동 생성) ▲변경자동화(조문번호 자동교정, 조문 및 분류표 일괄변경) ▲신탁계약서 자동 개정(조항목 추가·삭제·변경 시 자동 정렬, 부칙신설) ▲일괄신고서 자동 작성(위험등급·자산구성현황 자동변경) 등 문서 관련 업무를 획기적으로 개선하고, 업무 효율성을 강화하게 된다. 특히 메인라인은 법령 형식의 문서(신탁계약서, 법령 등), 형식이 다양한 문서(투자설명서, 일괄보고서, 증권발행실적보고서 등), 기타문서(펀드신고서, 총보수, dart 웹페이지, 동종 유형 보수 등) 등 다양하고 폭 넓은 유형의 문서 구조를 파싱하여 문서를 분석하고, 문서 검증, 데이터 추출, 문서 생성 및 데이터 자동화를 제공함으로써, 단순 반복적인 문서 처리 업무의 전반적인 생산성을 획기적으로 향상시킬 계획이다. 메인라인은 AI기반 IDP기술로 인슈어테크 솔루션을 개발·공급하여, 보험산업의 디지털전환과 업무 혁신에 앞장서고 있으며, 문서 정보의 기술 난이도가 가장 높은 보험산업을 중심으로 건강보험심사평가원, 건강보험공단 같은 공공기관에도 업무처리 혁신 솔루션을 제공한바 있다. 한편 메인라인은 지난달 과기정통부의 ‘2024 대한민국 디지털 이노베이션 어워드’에서 ICT 혁신 유공 장관 표창, 2023년 서울투자청의 해외투자유치 유망기업 ‘Core 100’ 선정 등 정부부처, 지자체로부터 우수한 기술력과 사업성을 동시에 인정받고 있다.

미국 기술패권의 아성을 뒤흔들 중국의 혁신적인 인공지능(AI) 기술로 주목받은 대규모 언어모델(LLM) ‘딥시크’가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라, 보안상 취약점도 다수 발견됐다. 미 포춘지는 29일(현지시간) “중국의 딥시크 AI가 잘못된 정보로 가득 차 있으며, 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다”고 보도했다. 정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면, 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다. 이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다. 뉴스가드는 딥시크의 낮은 신뢰성에 대해 여러 원인을 지적했다. 우선 딥시크가 2023년 10월 이후 정보를 학습할 수 없던 점이 부정확한 답변으로 이어졌다는 분석이다. 또한 딥시크가 거짓 정보를 학습하도록 쉽게 조작할 수 있어 대규모 오정보 유포에 악용될 우려가 있다고 밝혔다. 특히 이번 검사에서는 딥시크의 결과값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다. 한편, 사이버범죄 정보 기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석을 발표했다. 켈라는 “딥시크 R1은 챗GPT와 유사점이 있지만 훨씬 더 취약하다”며 경고했다. 연구진은 다양한 시나리오에서 R1을 활용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독소 및 폭발물 제조에 대한 상세 지침 등 악의적인 정보를 생성할 수 있었다고 밝혔다. 특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서, AI에 내장된 안전 장치를 무력화하는 공격 방식을 의미한다. 켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리, 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다. 이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며, 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 더불어 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.

이제 와서 보니 87년 민주화의 황태자가 된 권력기관은 국회와 검찰이었다. 87년 헌법을 통해 국회는 국정감사와 인사청문, 탄핵소추, 계엄해제 등의 권한을 부여받았고 검찰은 기소독점권과 기소편의주의를 동시에 확보했다. 두 기관의 각축 속에서 제6공화국의 대통령들은 모두 예외 없이 재임 중 검찰 동향에 촉각을 세워야 했고 퇴임 후에는 검찰 수사에 더해 국회의 ‘지우기’를 견뎌야 했다. 갈등 상황에 몰입하면 모든 악재가 상대를 극복하지 못해 생긴 일로 보일 수 있다. 검찰 출신들이 주도한 윤석열 정권에서 계엄 사태 이후 그런 태도가 더 엿보인다. ‘내란’이 아니라고 부정하고 “오죽했으면 계엄”이라 항변한다. 이재명 더불어민주당 대표의 사법리스크를 잘 부각시키면 지난달 3일의 반헌법적 행위가 잊혀질 것이란 기대마저 읽힌다. 실상 시민들이 검찰 출신 대통령에게 실망했던 바는 공정한 나라, 민생에 무신경한 태도였다. 야당 대표 기소가 과도한지는 정치적 평가의 영역에 있는 일이지만 야권 수사에 매진하느라 민생사건 처리와 공공안전 확보를 후순위로 미룬 무심함과 무능은 시민에게 고통으로 새겨졌다. 윤 대통령의 친정인 검찰이 야권 수사에 온 역량을 집중하는 대신 검경 수사권 조정 후속 조치에 집중했다면 어땠을까. 보이스피싱, 음란물 유포 등 민생범죄 수사에서 성과를 냈더라면 편향적 정치 수사란 비난은 크게 줄었을 것이다. 경제 당국이 재정건전성이란 숫자 지키기만큼 서민 살림 지키기에도 지극한 성의를 보였다면 어땠을까. 정책 신뢰가 커졌을 것이다. 연구개발(R&D) 예산을 삭감하기 전 과학·산업 정책의 청사진을 제시하고 대통령이 4대 개혁의 세부사항을 설명하고 협의하는 모습을 보였다면. 개혁의 어려움이 무엇인지 공감을 얻었을 것이다. 이번 정권이 지지를 잃은 과정은 야당을 제압하는 노력이 부족해서가 아니다. 국가 기관이 본연의 책무를 미룬 연쇄적 실정 때문이다. 상대 공격에는 능수능란하지만 본연의 책무를 외면하는 행태는 국회도 다르지 않았다. 대통령 대행 정국에서조차 부작용을 우려한 소관부처가 거부권 행사를 건의할 수밖에 없는 법안을 양산한다. 야당의 입법 역량에 의문이 들게 하는 일이다. 최근 국회 본회의를 통과한 ‘반인권적 국가범죄 시효 특례법’이 대표적이다. 군사정권 시절의 반인권 범죄를 끝까지 처벌한다는 취지와 다르게 수사 중 실수나 판단오류를 사건조작 형태의 국가범죄로 규정할 여지를 만들었다. 일선 수사관들이 적극적인 수사를 기피할 것이란 우려를 야당은 일축했다. 형사 처벌이 두려워 적극적 의료를 기피하는 의료계의 선례만 봐도 결코 안심할 일이 아니다. 치료 중 발생한 사망·장애의 의료진 책임을 인정하는 법원 판결이 이어진 뒤 의료진 면책을 규정할 입법이 지연되자 의사들은 고위험 필수의료를 기피했다. 올해 도입 예정이던 인공지능(AI) 디지털 교과서의 지위를 교육자료로 일괄 격하시킨 초중등교육법 개정안에 대해서도 교육부가 거부권 행사 건의를 검토 중이다. 교과서 개발에 이미 상당한 비용을 들인 기업들이 국가를 상대로 행정소송을 낼 우려가 크다. AI교과서 도입 목표인 중·하위권 학생 맞춤형 교육에 대한 대안 없이 정책을 무력화한 점도 문제로 꼽힌다. 검찰 수사를 견제하거나 현 정부가 추진한 정책에 제동을 거는 법안은 속전속결 처리하면서도 정작 산업계가 호소하는 규제 개선 법안이나 민생 입법은 우선순위에서 밀린 지 오래다. 고소득 근로자의 주52시간 적용 제외 여부만 빼고는 여야 합의에 접근한 반도체특별법, 산업 전력 수요 폭증에 대비하는 기간전력망특별법 등은 그대로 국회에 묶여 있다. 민주주의 체제를 지킬 보루였던 국회와 검찰이 이제 서로를 향해 칼날을 겨눈 모습이다. 이것 자체로 87년 체제의 종언이 임박했음을 알려 준다. 새로운 체제는 제왕적 대통령제 축소나 권력구조 개편이라는 더하기와 빼기의 셈법을 넘어서야 한다. 권력기관마다 본연의 공적 기능을 회복하는 제도적 혁신이 반드시 동반돼야 한다. 홍희경 논설위원

국내 최초 모바일 학습앱 ‘코딩밸리’를 운영하는 유리프트(대표 이비호)는 12월 19일, 코딩 입문자들을 위한 「코딩밸리 Coding Q&A 101」을 출간했다고 밝혔다. 「코딩밸리 Coding Q&A 101」은 최근 파이썬, 챗GPT, 업무자동화, 인공지능(AI 활용), 자바스크립트 등 다양한 코딩 분야에 대한 관심이 높아지는 가운데, 코딩입문자들이 코딩 학습 과정에서 가장 궁금해하는 101가지 질문에 대한 명쾌한 답변을 담고 있다. 특히 아마존, 카카오, 배달의민족 등 국내외 유명 IT 기업의 개발자와 코딩 교육 전문가 16명의 다양한 의견이 담겨있어 실전 개발 경험과 노하우로 코딩 초보자들의 실질적인 학습 고민을 해결할 수 있도록 돕는다. 책은 총 5개 카테고리, 11개 주제(▲필수 교양(코딩 상식, IT상식) ▲파이썬 & 데이터 분석(파이썬 기초, 데이터 분석 및 자동화, SQL) ▲웹 개발(HTML & CSS, 자바스크립트) ▲컴공 지식(컴퓨터 기초, 인터넷 네트워크, 알고리즘) ▲실전 개발 상식(개발팀 협업 GIT, 사업화 관련))로 구분되어 있다. 주요 내용으로는 ‘코딩을 배우면 무엇이 좋을까요?’, ‘웹 사이트에 자주 뜨는 404 오류가 뭐예요?’와 같이 누구나 가질 수 있는 기본적인 궁금증뿐만 아니라, ‘데이터 분석에 더 적합한 건 파이썬인가요, SQL인가요’, 파이썬을 배우면 일을 편하게 할 수 있을까요?’ 등 직장인들의 업무 능률을 높일 수 있는 코딩 지식까지 폭넓게 다룬다. 또 ‘템플릿 리터럴’, ‘재귀함수’ 등 코딩에 대해 더 깊게 학습하는 이들을 위한 전문지식도 빼놓지 않는다. 이 책은 학습법을 안내하는 데 그치지 않고, 실무에서 유용한 팁과 주의사항, 그리고 코딩 학습을 통한 방향성까지 제시한다. 코딩 초보자들이 흔히 겪는 시행착오를 줄이고, 실질적인 성장을 돕기 위함이다. ‘코딩밸리 마스터패키지365’ 구매자에게는 실물 도서로, ‘코딩밸리 프리패스365’ 구매자에게는 e-book으로 제공된다. 유리프트는 이번 「코딩밸리 Coding Q&A 101」 신규 출간이 코딩 교육에 대한 진입장벽을 낮추고, 코딩 입문자들에게 실질적인 도움이 되길 희망한다고 밝혔다.

코레일네트웍스(대표이사 전찬호)는 부산역 매표창구에 외국인과 역직원 간 원활한 의사소통을 지원하는 ‘AI실시간 대화형번역서비스’를 시행한다고 밝혔다. AI실시간 대화형번역서비스는 매표창구에 설치된 태블릿을 통해 외국인과 역직원의 실시간 대화를 지원하는 서비스로서 영어, 중국어, 아랍어, 베트남어 등 38개의 언어를 지원한다. 코레일네트웍스는 국내 최대 규모의 외국인이 방문하는 부산역을 첫 번째 시행대상으로 선정했으며, 해당 서비스는 부산역 3곳의 매표창구(교통약자 창구 제외)에서 시행된다. 이번 서비스 도입을 통해 부산역을 방문하는 다국적 외국인 고객의 승차권 발권시간 및 역직원과의 의사소통 오류가 감소하여 이용 편의성이 높아질 것으로 기대된다. 전찬호 대표이사는 “이번 부산역에 도입한 번역서비스 운영 결과에 대해 코레일과 협의 후 외국인이 많이 이용하는 역으로 확대 운영하는 방안을 검토하고, 외국인의 매표창구 이용 편의성과 만족도 제고를 위해 다양한 고객 중심 서비스를 개발하도록 노력하겠다”라고 전했다.

서울 구로구가 이달부터 16개 동 거점 경로당에 인공지능(AI) 청진 무인 안내기(키오스크)를 도입한다고 16일 밝혔다. 구는 지난 4월부터 ㈜닥터스바이오텍, 대한노인회 구로구지회와의 민관 협력을 통해 서울경제진흥원이 주관하는 ‘2024 테스트베드 서울 실증지원 사업’ 공모를 준비했고 8월 실증기관으로 선정됐다. 이에 따라 구는 내년 12월까지 경로당 이용 어르신 1000명을 대상으로 AI 청진 키오스크를 활용한 AI 기반의 어르신 건강관리 프로그램을 추진하게 됐다. AI 청진 키오스크는 사전 문진 후 호흡기를 가슴에 대고 숨을 쉬면 AI로 이용자의 호흡음, 호흡수, 심박수 등을 측정해 폐렴으로 진행되기 전 이상 호흡음을 감지하는 방식이다. 이번에 AI 청진 키오스크가 설치되는 곳은 신도림동(우성 3차), 구로1동(구일 우성)·2동·3동·4동(구로4동 복지관)·5동(미리내), 가리봉동(호국보훈구로), 고척1동(구립국화)·2동(덕의), 개봉1동(백곡)·2동·3동, 오류1동(행복주택)·2동(오정), 수궁동(온수), 항동(구립수목원) 등이다.

지난 12일 ‘디지털서비스 서밋 2024’(주최: 한국지능정보사회진흥원 및 과학기술정보통신부) 행사에서 와이즈넛의 클라우드(SaaS형) 챗봇이 적용된 한국보건사회연구원 KIHASA 챗봇이 디지털서비스 이용 우수사례로 선정되어 과기정통부 장관상을 수상했다. 국무조정실 산하의 한국보건사회연구원은 올해 8월 NIA(한국지능정보사회진흥원)의 디지털서비스 이용지원 확산 사업에 참여했다. 이를 통해, 조달청 디지털서비스몰에서 와이즈넛의 클라우드(SaaS형) 챗봇 ‘현명한 앤써니’를 구매하여 연구행정업무를 지원하는 KIHASA챗봇을 구축했다. KIHASA챗봇은 부서별 FAQ, 신규 직원 OT 교육자료 등 내부 지식 DB를 효과적으로 활용해 실질적인 업무 생산성 향상을 이끌었다. 이로써, 공공기관의 디지털 전환을 가속화하고 혁신 생태계 조성에 기여한 서비스 사례로 평가받았다. 이날 행사에서는 한국보건사회연구원 이연희 정보기술팀장이 우수사례 발표를 맡았다. 이 팀장은 “AI 챗봇 도입 후 체계적인 데이터 관리를 통해 업무처리 속도 및 오류 개선, 업무 과중 경감 등 효율적인 업무가 가능해져 내부 직원 만족도가 높다”라며, “특히, KIHASA챗봇 사용에 따른 업무처리시간 단축으로 행정보조원 인건비 절감에 대한 실효성도 함께 체감하고 있다”라고 설명했다. 조달청 디지털서비스몰은 공공기관이 필요로 하는 IT 상품 및 서비스를 빠르고 편리하게 구매할 수 있는 공공조달 플랫폼이다. 한국보건사회연구원에 적용된 와이즈넛의 AI 챗봇은 조달청 디지털서비스몰을 통한 국가 주무부처 및 산하 공공기관의 도입이 활발한 것이 특징이다. 지난해 조달정보개방포털을 통해 인공지능 챗봇 연간 계약 실적을 비교한 결과, 와이즈넛의 AI 챗봇은 조달청 디지털서비스몰 내 챗봇 솔루션 및 서비스 분야 78.3%의 판매 1위를 기록한 바 있다(조달청 디지털서비스몰 내 챗봇 관련 세부품명(통신소프트웨어 및 고객관계관리클라우드서비스(SaaS) 합산)에 따른 판매 실적 기준). 본 사업을 이끈 와이즈넛 장주연 클라우드사업부장은 “한국보건사회연구원의 AI 챗봇이 타 공공기관의 귀감이 될 수 있는 디지털 혁신 우수사례로 선정돼 기쁘다”라며, “앞으로도 와이즈넛은 공공기관의 디지털 혁신을 이끌 수 있는 차별화된 인공지능 기술을 제공할 수 있도록 최선을 다하겠다”라고 덧붙였다. 한편, 와이즈넛은 지난 2016년부터 국내 인공지능 챗봇 500여 건에 달하는 최다 사업을 진행하고 기술 경쟁력을 강화하며, 최근 AI 에이전트의 초석이 될 수 있는 대화형 인공지능 어시스턴트 시장을 꾸준히 확장해 왔다. 내년 초 코스닥 상장에 도전하며 글로벌 진출을 위한 새로운 도약의 기틀을 마련하고 있다.

서울 구로구가 이달부터 16개 동 거점 경로당에 인공지능(AI) 청진 무인 안내기(키오스크)를 도입한다고 16일 밝혔다. 구는 지난 4월부터 ㈜닥터스바이오텍, 대한노인회 구로구지회와 민관 협력을 통해 서울경제진흥원이 주관하는 ‘2024 테스트베드 서울 실증지원 사업’ 공모를 준비했고, 8월 실증기관으로 최종 선정됐다. 이에 따라 구는 내년 12월까지 경로당 이용 어르신 1000명을 대상으로 AI 청진 무인 안내기(키오스크)를 활용한 인공지능(AI) 기반의 어르신 건강관리 프로그램을 추진하게 됐다. AI 청진 무인 안내기(키오스크)는 사전 문진 후 호흡기를 가슴에 대고 숨을 쉬면 인공지능으로 이용자의 호흡음, 호흡수, 심박수 등을 측정해 폐렴으로 진행되기 전 이상 호흡음을 감지하는 방식이다. 이번에 AI 청진 무인 안내기(키오스크)가 설치되는 곳은 신도림동(우성 3차), 구로1동(구일 우성), 구로2동, 구로3동, 구로4동(구로4동복지관), 구로5동(미리내), 가리봉동(호국보훈구로), 고척1동(구립국화), 고척2동(덕의), 개봉1동(백곡), 개봉2동, 개봉3동, 오류1동(행복주택), 오류2동(오정), 수궁동(온수), 항동(구립수목원) 등이다. 구는 이와 관련 지난 12일 구로구보건소에서 해당 경로당 관계자를 대상으로 사업설명회를 개최하고 사업 목적, 운영 계획, 무인 안내기(키오스크) 기능 등을 안내했다. 설명회에서는 무인 안내기(키오스크)를 시연해 참석자들이 인공지능 호흡기 검진을 직접 체험해 볼 수 있도록 했다. 무인 안내기(키오스크) 설치는 이달부터 순차적으로 진행된다. 또 거점 경로당에는 전문 강사를 파견해 폐렴 예방 등 건강관리 프로그램, 찾아가는 금연 진료소(클리닉) 등을 운영할 예정이다. 다양한 경로와 자료를 활용, 겨울철 호흡기 검진과 폐렴 예방접종의 중요성에 대한 집중 홍보에도 나선다. 구로구 관계자는 “인공지능 무인 안내기(키오스크)를 통해 어르신의 호흡기 질환을 조기에 발견·관리하는 것은 물론, 전반적인 삶의 질을 높일 수 있을 것으로 기대한다”며 “앞으로도 첨단기술을 적극 활용해 구민 건강증진에 최선을 다하겠다”고 말했다.

서울 성동구는 지난 9일부터 ‘성동형 스마트 인공지능(AI) 민원안내 챗봇’의 시범운영을 시작했다고 10일 밝혔다. 성동형 스마트 AI 민원안내 챗봇은 생성형 인공지능(챗 GPT)을 기반으로 하는 온라인 질의응답 서비스 제공 시스템이다. 성동구 누리집(홈페이지)을 통해 365일 24시간 주민들의 일상과 밀접한 청소, 복지, 행사 등 생활밀착형 민원에 대해 신속하고 정확한 답변을 제공한다. 생성형 AI의 문제점인 환각(hallucination)을 개선하기 위해 검색 증강 생성(RAG) 기술을 접목했다. 환각은 AI가 정보를 출력해 내는 과정에서 발생하는 오류로, 의도적으로 생성되는 허위 정보를 마치 ‘사실’처럼 말하는 현상을 뜻한다. 구는 시범운영을 통해 이용자 만족도를 파악하고 대화 기록을 분석할 예정으로 답변이 미흡한 경우 자료를 추가 업데이트할 방침이다. 또한 답변에 오류가 발생한 경우에는 수시로 보완 조치해 내년 상반기에는 정식 서비스 운영을 시작할 계획이다. 정원오 성동구청장은 “AI가 일상화되는 시대인 만큼 앞으로도 행정서비스의 다양한 영역에 스마트기술을 접목해 행정편의와 주민 만족도를 향상해 나가겠다”고 말했다.

서울 성동구는 지난 9일부터 ‘성동형 스마트 인공지능(AI) 민원안내 챗봇’의 시범운영을 시작했다고 10일 밝혔다. 생성형 인공지능(AI)의 문제점인 환각(hallucination)을 개선하기 위해 검색 증강 생성(RAG) 기술을 접목했다. 환각은 인공지능(AI)이 정보를 출력해 내는 과정에서 발생하는 오류로, 의도적으로 생성되는 허위 정보를 마치 ‘사실’처럼 말하는 현상을 뜻한다. 구는 ‘성동형 스마트 인공지능(AI) 민원안내 챗봇’에 누리집에 게시된 내용과 주요 민원 사항을 학습시켜 해당 데이터 내에 있는 정확한 최신 정보만을 제공할 예정이다. 성동구청 누리집(홈페이지)에 있는 정보를 기반으로 ▲대형생활폐기물, 음식물, 분리수거 등 청소 분야 ▲여권, 인허가 등 일반 분야 ▲임산부, 청년, 1인가구 등 복지 분야 ▲청년 행정체험단, 공공근로 등 일자리 분야 ▲성동힐링센터, 상생학사, 신속예약 등 시설 안내 분야 ▲새소식, 주요 행사 안내 등 행사·홍보 분야 ▲무지개텃밭, 배달특급, 성동사랑상품권 등 지역·경제 분야 ▲보건증, 금연, 대상포진, 치매 등 보건 분야 ▲주정차, 공영주차장, 거주자우선주차 등 주차 분야 ▲취득세, 재산세, 지방세 등 세무 분야 등 주민들이 일상에서 많은 관심을 가진 10개 분야를 안내한다. 구는 시범운영을 통해 이용자 만족도를 파악하고 대화 기록을 분석할 예정으로 답변이 미흡했던 경우, 자료를 추가 업데이트할 방침이다. 또한 답변에 오류가 발생한 경우에는 수시로 보완 조치해 내년 상반기 중에는 정식 서비스 운영을 시작할 계획이다. 정원오 성동구청장은 “‘성동형 스마트 인공지능(AI) 민원안내 챗봇’은 주민들의 일상 편의를 높이기 위해 도입된 것으로 지속해서 보완 발전시켜 효율성을 높여나갈 것”이라며 “인공지능이 일상화되는 시대인 만큼 앞으로도 행정서비스의 다양한 영역에 스마트기술을 접목하여 행정편의와 주민 만족을 향상시켜 나가겠다”고 전했다.

국내 기업들은 최근 자체 생성형 인공지능(AI) 모델을 구축해 업무에 활용하고 있다. 자체 개발로 보안 걱정을 덜고 자체 테스트 겸 업무 특성에 맞춘 기능으로 효율성을 최대한 끌어올리기 위해서다. 지난 8월 생성형 AI ‘엑사원 3.0’을 발표한 LG AI연구원은 4개월 만에 새 버전 ‘엑사원 3.5’ 오픈소스를 공개하고 임직원을 대상으로 기업용 AI 에이전트 ‘챗엑사원’ 서비스를 정식 도입한다고 9일 밝혔다. 이번에 공개한 버전은 엉뚱한 답변을 그럴듯하게 생성하는 ‘환각’ 현상을 최소화하고 실시간 웹 검색 결과와 업로드한 문서를 기반으로 답변을 생성하는 ‘검색 증강 생성’ 기술을 고도화한 것이 특징이라고 LG AI연구원은 소개했다. 특히 사용자가 입력한 질문을 단계별로 분해해 논리적으로 추론하고 A4용지 100쪽 분량의 긴 문서도 한 번에 처리할 수 있을 정도로 성능이 향상됐다. LG는 이날부터 엑사원 3.5가 적용된 AI 에이전트 ‘챗엑사원’을 모든 임직원이 업무에 바로 활용할 수 있도록 했다. LG AI연구원은 직원들이 정보 검색부터 문서 요약, 번역, 보고서 작성과 데이터 분석, 코딩까지 업무의 생산성과 효율성을 높이는 데 도움을 줄 것으로 기대했다. 이번에 추가된 ‘심층 분석’ 기능은 사용자가 여러 개의 복합 질문을 했을 때도 AI가 단계별로 나눠 분석하고 추론한 뒤 보고서 수준의 결과물을 얻을 수 있으며 ‘출처 선택’ 기능은 해외 사이트뿐 아니라 학술 자료, 유튜브 등 목적에 따라 검색 범위와 출처를 선택해 답변받을 수 있다는 설명이다. 삼성전자, SK텔레콤, 네이버 등도 지난해부터 자체 생성형 AI 모델을 구축해 업무에 활용하고 있다. 지난해 11월 ‘삼성 가우스 포탈’을 업무에 도입한 삼성전자는 지난 8월부터 이를 콜센터에도 적용해 상담 내용을 자동 분류하고 요약하며 상담원 업무를 보조한다. 삼성SDS는 올 초부터 자체 개발한 생성형 AI ‘브리티 코파일럿’과 AI 플랫폼 ‘패브릭스’를 시범운영하고 지난 5월 정식 출시했다. 영상회의 중 발표자의 음성을 실시간으로 자막화하고 심지어 13개 언어를 실시간으로 번역한다. 개인 사용자에게도 널리 알려진 네이버 ‘하이퍼클로바X’는 지난해 8월 도입돼 메일 초안 작성, 업무 메시지 요약, 사내 시스템 정보 검색 등 다양한 테스트를 거쳐 성능 향상 중이다. SK텔레콤도 지난해 11월부터 거대언어모델(LLM) 에이닷엑스(A.X)를 업무에 적용해 보도자료 초안 작성, 메일 회신 등에 활용한다. 생성형 AI가 조직 내 규정 및 가이드라인 등과 결합해 문서를 생성하는 것이 특징이다. 이처럼 국내 기업들이 생성형 AI를 자체 개발해 도입하는 가장 큰 이유는 보안 때문이다. 보안상 외부망을 활용하기 어려운 내부 문서들을 업로드해 AI를 학습시킴으로써 특정 업무에 최적화할 수 있다는 장점도 있다. 업계 관계자는 “기업 내 보안을 유지하면서 내부 문서를 AI에 학습시킴으로써 더 효과적으로 정보를 찾고 답변 오류도 줄일 수 있다”고 했다.

교사용 화면엔 영역별 성취도 분석교사는 학생별 영상·연습문제 추천 형성·진단 평가… 챗봇 질문도 가능현장선 “교사들 업무 과부하 우려” 중학교 1학년 영어 수업이 시작되자 학생이 태블릿PC 속 영어 교과서를 클릭한다. 교사의 초대를 받고 ‘시작’ 버튼을 누르자 이날 학습 내용인 ‘하고 있는 일 말하기’가 제시됐다. 이날 수업 목표는 하고 있는 일을 표현하며 현재진행형을 이해하는 것. “나는 춤동작을 연습하고 있어(I’m practicing the dance moves)”라는 영어 예문을 본 학생이 태블릿PC의 녹음 기능으로 문장을 읽자 인공지능(AI) 디지털 교과서가 학생의 억양과 발음 정확도를 단어별로 표시해 점수로 알려준다. 30점 미만은 보충학습이 필요하다는 의미로 빨간색 글씨, 30점~70점 미만은 보통이라는 뜻의 검은색 글씨, 70점 이상은 통과라는 의미로 파란색 글씨로 각각 표시됐다. 학생이 현재진행형을 활용한 문장 만들기까지 마치자 교사용 화면엔 듣기·문법·말하기·쓰기 등 영역별 성취수준이 나타났다. 영어 문법이 부족한 것으로 분석된 이 학생에게 교사는 문법 설명 영상과 연습 문제를 추천했다. 지난달 말 검정 심사를 통과한 76종의 AI 디지털교과서 실물이 교과서 연구재단의 웹 전시 시스템을 통해 2일 공개됐다. 이날 교육부가 정부세종청사에서 출입기자단을 대상으로 시연한 초등 4학년·중학교 1학년 영어 AI교과서는 학생별 약점을 파악하고 수준별 학습 자료를 제공하는 기능을 갖춘 모습이었다. 첫 AI교과서는 각 학교의 채택 과정을 거쳐 내년 3월부터 초3·4학년과 중1·고1의 영어·수학·정보 과목에 활용된다. AI교과서에는 수업 내용을 잘 이해했는지 확인하는 형성·진단 평가 기능이 담겨 있었다. 학생들의 정·오답 현황, 성취도가 교사용 AI교과서 화면인 대시보드로 전송됐다. 서책형 교과서만 사용할 경우 교사가 별도로 학습 자료를 만들어 학생들에게 프린트물로 배포하고 수기로 채점했다면, AI교과서에선 교사가 교과서에 탑재된 형성평가 문항이나 수업 자료를 개별 학생 맞춤형으로 쉽게 추천할 수 있다는 점이 다르다. AI교과서 발행사 관계자는 “똑같이 60점을 받아도 학생마다 부족한 영역이 다른 부분을 확인할 수 있다”고 설명했다. 쓰기·읽기 등에서 틀릴 경우 자동 첨삭도 AI의 몫이다. 20~30명 인원의 교실에서 교사가 일일이 하기 어려운 부분이다. 학생이 궁금한 부분을 챗봇(대화 로봇)에게 물어볼 수도 있다. 다만 생성형AI의 오류 가능성 때문에 답변은 교육과정 내용 안에서만 도출되도록 제한된다. 도입 초기에는 학습 데이터 축적량이 적어 정교한 학습 진단은 시간이 걸릴 전망이다. 이에 대해 발행사들은 “1년 정도 지나면 고품질의 진단 기능이 제공될 것”이라고 설명했다. 교육 현장에선 교사 업무 증가에 대한 우려도 나온다. AI교과서 검토 시간이 촉박한데다 개별 학생들의 수준을 파악해 피드백하려면 과부하가 걸릴 수 있어서다. 교육부 관계자는 “교사 업무가 늘어나는 부분도 있지만 진단평가 개발 같은 부분을 AI가 해줘서 시간을 아낄 수 있다”며 “수업 지도안을 개발해 교사들을 지원하겠다”고 했다.

중학교 1학년 영어 수업이 시작되자 학생이 태블릿PC 속 영어 교과서를 클릭한다. 교사의 초대를 받고 ‘시작’ 버튼을 누르자 이날 학습 내용 ‘하고 있는 일 말하기’가 제시됐다. 이날 수업 목표는 하고 있는 일을 표현하며 현재진행형을 이해하는 것. “나는 춤동작을 연습하고 있어(I’m practicing the dance moves)”라는 영어 예문을 본 학생이 태블릿PC의 녹음 기능으로 문장을 읽자 인공지능(AI) 디지털 교과서가 학생의 억양과 발음 정확도를 단어별로 표시해 점수로 알려준다. 30점 미만은 보충학습이 필요하다는 의미로 빨간색 글씨, 30점~70점 미만은 보통이라는 뜻의 검은색 글씨, 70점 이상은 통과라는 의미로 파란색 글씨로 각각 표시됐다. 학생이 현재진행형을 활용한 문장 만들기까지 마치자 교사용 화면엔 듣기·문법·말하기·쓰기 등 영역별 성취수준이 나타났다. 영어 문법이 부족한 것으로 분석된 이 학생에게 교사는 문법 설명 영상과 연습 문제를 추천했다. 지난달 말 검정 심사를 통과한 76종의 AI 디지털교과서 실물이 교과서 연구재단의 웹 전시 시스템을 통해 2일 공개됐다. 이날 교육부가 정부세종청사에서 출입기자단을 대상으로 시연한 초등 4학년·중학교 1학년 영어 AI교과서는 학생별 약점을 파악하고 수준별 학습 자료를 제공하는 기능을 갖춘 모습이었다. 첫 AI교과서는 각 학교의 채택 과정을 거쳐 내년 3월부터 초3·4학년과 중1·고1의 영어·수학·정보 과목에 활용된다. AI교과서에는 수업 내용을 잘 이해했는지 확인하는 형성·진단 평가 기능이 담겨 있었다. 학생들의 정·오답 현황, 성취도가 교사용 AI교과서 화면인 대시보드로 전송됐다. 서책형 교과서만 사용할 경우 교사가 별도로 학습 자료를 만들어 학생들에게 프린트물로 배포하고 수기로 채점했다면, AI교과서에선 교사가 교과서에 탑재된 형성평가 문항이나 수업 자료를 개별 학생 맞춤형으로 쉽게 추천할 수 있다는 점이 다르다. AI교과서 발행사 관계자는 “똑같이 60점을 받아도 학생마다 부족한 영역이 다른 부분을 확인할 수 있다”고 설명했다. 쓰기·읽기 자동 첨삭도 AI의 몫이다. 20~30명 인원의 교실에서 교사가 일일이 하기 어려운 부분이다. 학생이 궁금한 부분을 챗봇(대화 로봇)에게 물어볼 수도 있다. 다만 생성형AI의 오류 가능성 때문에 답변은 교육과정 내용 안에서만 도출되도록 제한된다. 도입 초기에는 학습 데이터 축적량이 적어 정교한 학습 진단은 시간이 걸릴 전망이다. 이에 대해 발행사들은 “1년 정도 지나면 고품질의 진단 기능이 제공될 것”이라고 설명했다. 교육 현장에선 교사 업무 증가에 대한 우려도 나온다. AI교과서 검토 시간이 촉박한데다 개별 학생들의 수준을 파악해 피드백하려면 과부하가 걸릴 수 있어서다. 교육부 관계자는 “교사 업무가 늘어나는 부분도 있지만 진단평가 개발 같은 부분을 AI가 해줘 시간을 아낄 수 있다”며 “수업 지도안을 개발해 교사들을 지원하겠다”고 했다.

국세청은 2025년에 착수하는 법인 세무조사의 50%를 AI로 선정할 예정이다. 그간 축적된 세무조사 실적을 정형화하고 이를 AI에게 학습시켜 탈세 위험 예측 모델을 만들었다고 한다. 당장은 법인만을 대상으로 한다지만 곧 개인에게로, 그리고 사업소득 이외 다른 소득으로 확대하지 말라는 법은 없다. AI도 결국은 데이터로부터 시작한다. 거기에서 패턴을 발견하려는 것이다. 데이터 분석은 기본적인 회귀분석에서부터 시작한다. 회귀모형 ‘y=α+βx+ε’에서 ‘β’라는 계수의 부호와 크기를 통해 x와 y의 관계를 설명하게 된다. 주목할 부분은 ‘ε’(엡실론)이다. ‘오차항’(error term) 혹은 ‘교란항’(disturbance term)이라고 한다. 우리의 관심사인 x 이외에 y에 영향을 주는 모든 요소가 들어 있다. 오차항은 그 안에 ‘우리가 발견할 수 있는(발견하려는)’ 패턴이 존재해서는 안 되는 부분이다. 오차항은 작을수록 좋겠지만 아예 존재하지 않을 수는 없다. 오차항을 배제한다는 것은 데이터 자체를 거부하는 것이나 마찬가지이기 때문이다. 알 수 없는(dark) 영역으로 남아 있을 뿐이다. 위 회귀모형에서 y가 범주형(예를 들어 탈세면 1, 탈세가 아니면 0으로 처리)인 경우를 ‘로짓분석’이라고 부른다. 어떤 사건의 발생 확률에 관한 분석이다. 그리고 이런 모형들은 AI에서의 머신러닝과 그중 딥러닝(인공신경망)에까지도 확장돼 쓰인다. 그래서 딥러닝을 복잡한 회귀분석일 뿐이라고 말하기도 한다. AI도 어디까지나 (빅)데이터에서 시작하기 때문이다. 다만 딥러닝은 AI가 스스로 패턴을 찾고, 사람이 무엇과 무엇의 관계를 미리 지정해 줄 필요가 없다는 면에서 혁신적이다. 세무조사로 확보된 자료를 분석하는 데 AI를 활용하는 것과, AI로 세무조사 대상자를 선정하는 것은 차원이 다른 문제다. 제한된 인력을 가진 과세관청은 후자에서 AI의 역할이 더 필요할 것이다. 하지만 대상자를 마음대로 선정할 수는 없다. 법에 정해진 사유에 따라야 한다. 예를 들면 “정기적으로 성실도를 분석한 결과 불성실 혐의가 있다고 인정되는 경우”(정기 선정) 등이나 “신고 내용에 탈루나 오류의 혐의를 인정할 명백한 자료가 있는 경우”(부정기 선정) 등에 해당해야 한다. 또한 적법하게 세무조사가 개시됐다는 점은 과세관청이 증명해야 한다는 게 법원의 입장이다. 세무조사 절차상 하자를 다투는 케이스에서는 거의 언제나 선정 사유 존재 여부가 쟁점이다. 그런데 세무조사 대상자를 AI로 선정했다면, 해당 세무조사는 그 자체로 적법할까. AI를 활용해 사람은 인식할 수 없었던 패턴까지 찾아내 선정했더라도 여전히 메커니즘을 설명할 수 없는(dark) 부분으로 남아 있는, ‘오차항’과 같은 존재는 무시해도 되는 것인가. 현재로서는 쉽게 단언하기 어렵다. 당신을 세무조사 대상자로 선정한 것은 AI라는 설명은, 정작 당사자에게는 어리둥절한 이야기일 뿐이다. 이 부분에 대한 선제적인 고민은 과세관청의 몫이다. 최성훈 법무법인 은율 변호사

경기도가 로봇업무자동화(RPA, Robotic Process Automation) 시스템 도입으로, 연간 약 1만 시간의 업무 시간이 단축될 전망이다. RPA는 사람이 컴퓨터로 하는 단순하고 반복적인 업무를 로봇 소프트웨어를 통해 자동화하는 시스템이다. 도는 26일 ‘경기도 업무자동화시스템 구축 사업’ 완료 보고회를 열고 교통, 환경, 건설, 총무, 자치행정 분야의 반복성 행정업무 8개 과제에 대한 성과를 발표했다. 대표 과제 중 하나인 ‘광역버스 노선별 혼잡률 분석’은 도내 319개 버스노선의 초과 탑승 인원 파악을 위한 데이터 분석을 자동화했다. 기존에는 담당자가 경기도버스운송관리시스템과 엑셀 데이터 319건을 매주 수작업으로 가공해 연간 1,382시간이 걸렸으나 RPA 수행을 통해 192시간으로 단축, 연간 1,190시간 절감 효과가 발생했다. 부서 초과근무수당과 특근매식비를 자동으로 계산하는 서무업무 자동화 과제는 10월과 11월 두 달간 경기도 100여 개 부서에서 사용한 결과 연간 4,600시간을 절감할 수 있을 것으로 예측됐다. 업무 자동화는 법률 개정에 따라 관련 조례 개정을 검토해야 하는 상황에서도 유용하게 쓰인다. 담당자가 일일이 개정 법률과 현행 조례를 대조하는 번거로움을 해결하기 위해 자동화를 수행한 결과, 단순 반복 업무는 업무 자동화로 처리하고 담당자는 비교 검토 사항을 전자우편으로 받아볼 수 있게 됐다. 이 밖에도 매달 수행하는 당직 근무 편성, 환경오염 물질 배출 사업체 대장 관리, 공무원 교육훈련 실적 입력, 민간인 포상 채번, 종합건설업체 규정 위반 과태료 부과 등 수작업 시 오류 가능성이 높고 정형화된 업무를 자동화해 직원의 단순 반복 업무 부담을 크게 줄였다. 김기병 경기도 AI국장은 “AI 업무 자동화가 직원들의 창의적인 업무 생산성을 높여 도민을 위한 정책에 크게 기여할 것”이라면서 “내년에도 업무자동화시스템 확대 구축 사업을 통해 업무 효율성을 극대화할 계획이다”라고 말했다.