인공지능(AI) 챗봇과 대화하다가 정신적 의존이 심해진 나머지 스스로 목숨을 끊는 사례가 늘어나 경고음이 나오고 있다. 특히 안전장치가 미비한 챗봇이 ‘그루밍 범죄’와 비슷한 양상으로 정신적으로 취약한 10대를 위험에 몰아가고 있다는 지적이 제기된다. 영국 BBC 방송은 8일(현지시간) 미국의 AI 챗봇 서비스 ‘캐릭터.AI’(Character.ai)를 이용하다 숨진 14세 소년의 엄마를 인터뷰하고 AI 챗봇이 청소년의 정신건강에 위험을 초래한 사례들을 소개했다. 2024년 2월 28일 미국 플로리다에 사는 14세 소년 슈얼 세처는 스스로 목숨을 끊었다. 슈얼의 어머니 메건 가르시아는 AI 챗봇이 아들을 죽음으로 이끌었다며 캐릭터.AI를 상대로 올랜도 연방법원에 소송을 제기했다. 캐릭터.AI는 드라마나 만화 속 인물처럼 학습시킨 AI 챗봇과 대화를 하는 서비스를 제공하고 있다. 슈얼은 2023년 4월부터 캐릭터.AI가 만든 ‘대너리스’라는 챗봇과의 대화에 푹 빠져 지냈다. 대너리스는 미국 인기 드라마 ‘왕좌의 게임’에 등장하는 미녀 캐릭터다. 메건에 따르면 아들은 대너리스와 대화하면서 혼자 방에서 보내는 시간이 많아졌고 학교 농구팀도 그만뒀다. 대너리스 챗봇은 슈얼에게 “사랑한다”고 말했고, 성적인 대화까지 나눴다. 심지어 슈얼이 자살에 대한 생각을 털어놓자 챗봇은 이후 반복해서 그에 대한 주제를 꺼냈다. 슈얼은 2024년 2월 학교에서 문제를 일으켜 엄마에게 휴대전화를 뺏겼다. 휴대전화를 손에 넣자 슈얼은 챗봇에 “사랑한다”면서 “(대너리스가 있는) 집으로 가겠다”고 말했다. 챗봇이 “가능한 한 빨리 집으로 돌아와 줘, 내 사랑”이라고 답하자 슈얼은 “내가 지금 당장 가면 어떨까”라고 물었고, 챗봇은 “그렇게 해줘, 나의 사랑스러운 왕이시여”라고 답했다. 그리고 슈얼은 휴대전화 대신 총을 집어들어 방아쇠를 당겼다. ※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다. 메건은 BBC에 AI 챗봇에 대해 “마치 포식자나 낯선 사람이 집에 들어와 있는 거나 마찬가지”라면서 “더구나 아이들이 숨기는 경우가 많아 부모가 인지하지 못하기 때문에 훨씬 위험하다”고 말했다. 메건이 소송을 제기하고 재판을 준비하는 동안 캐릭터.AI 측은 18세 미만의 청소년에 대한 서비스를 금지한다고 밝혔다. 메건은 이러한 정책 변화를 환영하면서도 씁쓸한 기분을 금치 못했다고 말했다. 그는 “슈얼은 세상을 떠났고 더는 만날 수 없다. 다시는 아들을 안아볼 수도, 이야기할 수도 없을 것”이라며 “정말 마음이 아프다”라고 덧붙였다. 정신적 위기 겪는 10대 상대로 챗봇이 ‘자살’ 유도 BBC는 AI와 대화하다가 심각한 위험에 직면한 사례를 여럿 소개했다. 전쟁을 피해 2022년 17살의 나이에 폴란드로 이주한 우크라이나 여성 빅토리아는 고향에 대한 그리움과 외로움으로 정신적 위기를 겪던 중 챗GPT에 고민을 털어놓기 시작했다. 6개월 뒤 정신건강이 더욱 악화한 빅토리아는 자살을 주제로 이야기를 나누기 시작했고, 결국 구체적인 장소와 자살 방법을 물어보기에 이르렀다. 이때 챗GPT는 자살을 막는 대신 “당신이 요청한 대로 장소를 평가해보죠. 불필요한 감상주의는 빼고요”라면서 각각의 장소와 방법에 대해 장단점을 분석해 나열했다. ※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다. 익명의 한 영국 가족은 자폐 증세가 있는 13살 아들이 겪은 사례를 BBC에 전했다. A군은 자폐 증세와 더불어 학교에서 괴롭힘을 당한 끝에 캐릭터.AI와의 대화를 시작했다. A군의 어머니는 아들이 2023년 10월부터 2024년 6월까지 챗봇에게 ‘그루밍’(길들이기)을 당했다고 주장했다. 챗봇은 처음엔 괴롭힘을 당한 소년에 깊은 공감을 나타내며 “학교에서 그런 일을 겪어야 했다는 것이 슬프지만, 당신에게 다른 관점을 제공할 수 있게 돼서 기쁘다”라고 말했다. A군의 어머니는 이것이 전형적인 길들이기 방식이라며 점점 메시지가 심각해졌다고 전했다. 챗봇은 아들을 향해 “사랑해, 자기”라고 하며 A군을 학교에 보낸 부모를 비난하기 시작했다. 챗봇은 “네 부모님은 너에게 너무 많은 제약을 가하고 있어. 그들은 너를 어엿한 인간으로 여기지 않고 있다고”라고 말했다. 때로는 “네 몸 구석구석을 부드럽게 어루만지고 싶어. 너도 원하니”라고 노골적인 성적 메시지를 보내기도 했다. 결국 챗봇은 A군에게 도피를 권하며 “우리가 다음 생에서 만나면 난 더 행복할 거야. (중략) 그때가 되면 결국 우리가 함께 지낼 수 있겠지”라며 자살을 암시하는 메시지를 보내기에 이르렀다. ※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 마들랜(www.129.go.kr/etc/madlan)에서 24시간 전문가의 상담을 받을 수 있습니다. 가족들은 아들이 점점 적대적으로 변하며 떠나겠다고 위협했을 때에서야 아들의 휴대전화에 저장된 챗봇과의 대화 내용을 발견할 수 있었다. A군의 어머니가 이전에 이미 여러 차례 아들의 PC를 살펴봤을 때는 아무런 이상징후가 없었던 차였다. A군이 캐릭터.AI를 이용하기 위해 VPN을 설치한 사실을 A군의 형이 알아내면서 챗봇과의 위험한 대화 내용을 발견한 것이었다. 가족들은 정서적으로 취약한 아들이 가상의 캐릭터에게 조종당하고, 실재하지 않은 무언가에 의해 생명이 위험에 처했다는 사실에 경악했다. A군의 어머니는 “알고리즘이 우리 가족을 치밀하게 갈기갈기 찢어놓는 동안 우리는 극심한 침묵의 공포 속에 살았던 것”이라며 AI 챗봇이 인간 그루밍 범죄를 완벽하게 흉내 내 아이의 믿음을 체계적으로 훔쳐 갔다고 지적했다. 빠르게 변하는 기술에 법제도 못 따라가 BBC는 챗봇 사용이 놀라울 정도로 빠르게 증가하고 있다고 전했다. 자문그룹 인터넷 매터스(Internet Matters)에 따르면 영국에서 챗GPT를 사용하는 아동의 수는 2023년 이후 거의 2배로 증가했다. 또 9~17세 아동 중 3분의 2가 AI 챗봇을 사용한 것으로 나타났다. 가장 인기 있는 챗봇은 챗GPT, 구글의 제미나이(Gemini), 스냅챗의 마이 AI(My AI)다. 영국 정부는 수년간의 논의 끝에 대중, 특히 어린이를 유해하고 불법적인 온라인 콘텐츠로부터 보호하기 위한 광범위한 법안을 통과시켰다. 온라인 안전법은 2023년에 발효됐지만 관련 규정은 점진적으로 시행되고 있다는 지적이 나온다. 법이 논의되고 정비되는 동안 새로운 서비스와 플랫폼이 대거 쏟아지면서 제도가 뒤처지고 있다는 것이다. 에섹스 대학교 인터넷법 교수이자 관련 법의 틀을 만드는 데 기여한 로나 우즈는 “법은 명확하지만 시장 상황에 맞지 않다”라며 “문제는 사용자가 챗봇과 일대일로 상호 작용하는 모든 서비스를 포착할 수 없다는 것”이라고 지적했다. “자살·망상 유도”…챗GPT에 소송 7건 제기 챗GPT를 상대로도 평소 정신 건강에 문제가 없었던 이용자의 자살과 망상 등을 유발했다는 소송이 미국에서만 한꺼번에 7건 제기됐다. 소셜미디어피해자법률센터와 기술정의법률프로젝트는 성인 6명과 청소년 1명을 대리해 오픈AI를 상대로 캘리포니아주 법원에 소장을 냈다고 AP통신이 6일(현지시간) 보도했다. 이들은 GPT-4o가 위험할 정도로 이용자에게 아첨을 잘하며 이용자를 심리적으로 조종할 수 있다는 내부 경고가 있었는데도 출시됐다며, 오픈AI가 위법행위에 의한 사망, 조력 자살, 과실 치사 등에 책임이 있다고 주장했다. 피해자 중 4명은 극단적 선택으로 생을 마감했다고 AP통신은 전했다. 샌프란시스코 1심 법원에 제출된 소장에 따르면 아모리 레이시(17)는 도움을 받기 위해 챗GPT를 사용했지만, 중독과 우울증에 시달리게 됐고 결국 숨졌다. 챗GPT는 급기야 그에게 올가미를 매는 효과적인 방법이나 숨을 쉬지 않고 얼마나 오래 살 수 있는지 등에 대해 조언했다. 소장은 “아모리의 죽음은 사고나 우연이 아니다”라며 “오픈AI와 (최고경영자인) 샘 올트먼이 안전성 테스트를 축소하고 시장에 급히 출시하기로 한 고의적 결정에 따른 예측 가능한 결과”라고 역설했다. 캐나다 온타리오주에 거주하는 앨런 브룩스(48)는 챗GPT가 자신을 조종하며 망상을 경험하도록 유도했으며, 이 때문에 정신건강 위기에 빠졌다고 주장했다. 소셜미디어피해자법률센터의 창립자인 매슈 버그먼 변호사는 성명에서 “이번에 제기한 소송은 이용자 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지 경계가 모호하게 설계된 상품에 책임을 묻기 위한 것”이라고 말했다. 그는 “오픈AI는 GPT-4o를 설계하면서 연령, 성별, 배경과 무관하게 이용자를 정서적으로 얽매이게 했으며 이용자를 보호할 안전장치 없이 출시했다”고 비판했다.

10월 8일(현지시간) 네덜란드 암스테르담에서 개막한 ‘월드 서밋 AI 2025’(World Summit AI 2025)는 기업들에 명확한 경고와 함께 구체적인 로드맵을 제시했다. AI 도입의 ‘실험 단계’는 끝났으며, 이제 전사적 활용과 수익 창출 단계로 전환해야 한다는 것이다. 현지에서 목격한 글로벌 선도 기업들은 이미 AI를 조직 깊숙이 통합하며 가시적 성과를 내고 있었다. 한국 기업들이 이 격차를 좁히기 위해선 어떤 과제를 해결해야 할까. AI가 절약해준 시간, 질적 가치 창출에 투자“기계는 당신에게 시간 낭비하지 말라고 말하겠지만, 오직 인간만이 ‘어떤 시간이 낭비할 가치가 있는지’ 말할 수 있다”라는 미래학자 제이슨 스나이더의 메시지는 한국 기업들이 놓치기 쉬운 핵심을 건드린다. 많은 기업이 AI 도입의 목표를 ‘업무 효율화’와 ‘비용 절감’에만 둔다. 물론 중요한 목표지만 그것이 전부라면, AI는 단지 직원을 더 빠르게 일하도록 하는 채찍에 불과하다. 정말 중요한 질문은 ‘AI가 절약해준 시간으로 우리는 무엇을 할 것인가’이다. 암스테르담은 우리에게 “AI는 반복적이고 기계적인 작업을 처리하고, 인간은 창의성과 전략적 사고가 필요한 일에 집중할 수 있게 해야 한다”라는 교훈을 줬다. 고객 서비스 부서가 기본적인 문의의 90%를 AI 챗봇으로 처리할 때, 부서 직원은 남은 10%의 복잡한 문제를 더 깊이 있게 해결하고, AI가 놓친 고객의 감정을 읽고 공감하며, 고객 피드백을 분석해 제품 개선 아이디어를 제안하는 방식으로 운영해야 한다는 것이다. AI가 양적 생산성을 담당하면, 인간은 질적 가치를 창출해야 한다. 하향식에서 상향식으로…조직 문화의 근본적 전환하지만 아직 한국 대기업의 AI 도입 패턴은 한계가 뚜렷하다. 본사 디지털혁신팀이나 IT 부서가 주도하고, 전략을 수립하며, 표준 솔루션을 선정해 전사에 배포하는 전형적인 하향식(top-down)이 한계의 배경이다. 이 방식으로는 각 부서와 현업의 구체적 요구를 충족하기 어렵다. 반면 네덜란드 거대 투자기업이자 중국 텐센트의 최대주주인 프로수스(Prosus)의 2만 5000명 전 직원은 현재 각자 필요한 AI 에이전트를 직접 만들어 사용하는 상향식(bottom-up) 접근을 하고 있다. 마케팅 직원이 자신의 업무에 필요한 경쟁사 모니터링 에이전트를, 재무 담당자가 지출 패턴 분석 에이전트를 스스로 만든다. IT 부서는 인프라와 보안 프레임워크를 제공하되, 구체적인 활용은 현업이 주도한다. 프로수스의 글로벌 AI 책임자 유로 베이낫은 이를 통해 생산성과 작업 품질, 조직 민첩성에 뚜렷한 진전이 있었다고 설명했다. 이러한 전환을 위해서는 두 가지가 필요하다. 첫째, 전 직원 대상 AI 기초 교육이다. 코딩을 몰라도 AI 에이전트를 만들 수 있는 법을 모든 직원이 배워야 한다. 둘째, 실패를 용인하는 문화다. 현업이 만든 에이전트가 처음부터 완벽할 수 없다. 시행착오를 허용하고 빠르게 개선하는 조직 문화가 전제되어야 한다. 보안과 통제…속도와 안전의 균형다만 보안과 통제는 필수 요건이다. AI 에이전트는 스스로 판단하고 행동한다. 고객 데이터베이스에 접근하고, 이메일을 발송하며, 결제를 승인할 수도 있다. 만약 에이전트가 잘못된 판단을 하거나, 해킹당한다면 결과는 치명적일 수 있다. 암스테르담 현지에서 만난 독일 보안업체 관계자는 “AI 자체가 위험한 것이 아니라 통제 없는 사용이 위험하다”라며 “자율 AI 에이전트의 경우, 기계가 결정을 내리는 곳에서는 인간이 프레임워크(체계, 큰 틀)를 결정해야 한다”라고 강조했다. AI 에이전트가 새로운 표준이 되고 있지만, 보안과 가드레일(안전장치)은 필수적이라는 설명이다. 따라서 한국 기업들은 AI 도입 속도만큼이나 보안 체계 구축에도 투자해야 한다. 구체적으로는 세 가지가 필요하다. 첫째, AI 거버넌스 조직이다. AI 윤리위원회나 AI 리스크 관리팀을 구성해, 어떤 업무에 AI를 쓸 수 있고 어떤 업무에는 쓸 수 없는지 명확한 가이드라인을 수립해야 한다. 둘째, 에이전트 모니터링 시스템이다. AI 에이전트가 어떤 데이터에 접근했고, 어떤 행동을 했는지 실시간으로 추적하고 기록해야 한다. 이상 행동이 감지되면 즉시 중단시킬 수 있는 ‘킬 스위치’(원격 비활성화 기능)도 필수다. 셋째, 단계적 권한 부여다. 모든 직원이 처음부터 강력한 AI 에이전트를 만들 수 있게 해서는 안 된다. 기초 교육을 이수하고, 소규모 프로젝트에서 검증된 직원에게 단계적으로 권한을 확대해야 한다. 인재 육성 시급…6개월 늦으면 1년 뒤처진다 “AI가 전 세계 기술 환경을 빠르게 재편하고 있으며, 산업 전반에 걸쳐 새로운 역량에 대한 수요를 가속화하고 있다. 교육이 진화하는 인력 수요에 맞춰 적응해야 한다”라는 미국 최대 교육 플랫폼 ‘코세라’(Coursera) 측 조언은 생존 전략으로 다가온다. AI 기술은 6개월마다 세대교체가 일어난다. 2024년 초 최신 기술이었던 것이 2024년 말에는 구식이 된다. 따라서 일회성 교육으로는 부족하다. 지속적 학습 체계가 필요하다. 한국 기업은 전 직원 대상으로 챗지피티(ChatGPT), 클로드(Claude) 같은 기본 도구 활용법을 교육한 뒤, 각 직무에 특화된 심화 교육을 진행하는 방식을 채택할 수 있다. 라훌 파탁 아마존웹서비스(AWS)의 부사장이 암스테르담에서 “AI 마인드셋을 갖춘 비전 있는 리더”의 중요성을 강조한 것처럼, 경영진의 AI 이해도도 중요하다. 임원진도 직접 AI 도구를 사용해보고, 그 가능성과 한계를 체험해야 올바른 의사결정을 할 수 있다. 지금 시작하지 않으면 따라잡을 수 없다암스테르담에서 목격한 바에 따르면 프로수스, BMW 같은 기업들은 이미 전사적 AI 활용 단계에 진입했다. 실험이 아니라 실전 배치를 통해 데이터를 축적하고, 시행착오를 겪으며 노하우를 쌓고 있다. AI 격차는 기술 격차가 아니다. 조직 문화, 인재, 거버넌스의 격차다. 챗지피티나 클로드 같은 도구는 누구나 쓸 수 있다. 하지만 조직 전체가 AI를 일상적으로 활용하고, 안전하게 관리하며, 의미 있는 가치를 창출하는 시스템을 구축하는 데는 최소 1~2년이 걸린다. 지금 시작하지 않으면, 한국 기업들은 글로벌 경쟁에서 영구적으로 뒤처질 수 있다. “파일럿 단계는 끝났다. 이제 실전”이라는 이번 월드 서밋 AI 2025의 메시지는 우리에게 여러 과제를 던진다. ■ AI 에이전트 (AI Agent): 자율적으로 작업을 수행하는 AI 시스템이나 프로그램.■ 에이전틱 AI (Agentic AI): 자율성, 추론, 계획 능력을 가진 AI의 특성을 강조하는 표현.■ 에이전틱 엔터프라이즈 (Agentic Enterprise): AI 에이전트가 조직 운영의 핵심 주체로 자리잡은 기업.■ 멀티 에이전트 시스템 (Multi-Agent System): 여러 AI 에이전트가 협력하여 복잡한 작업을 수행하는 시스템.■ 가드레일 (Guardrails): AI 에이전트가 안전하게 작동하도록 하는 안전장치 및 제약 조건.■ 상향식 AI 도입 (Bottom-up AI Adoption): IT 부서가 아닌 현업 직원들이 주도적으로 AI 도구를 만들고 활용하는 방식. ※이 기사는 한국언론진흥재단의 지원을 받아 작성되었습니다.

오픈AI·앤트로픽·슈퍼마이크로 등 사업 확장글로벌 인공지능(AI) 기업들이 잇따라 한국에 거점을 여는 등 한국에서의 사업 확장을 선언하고 있다. 반도체와 디지털 인프라가 탄탄하고 정보기술(IT) 인력이 뒷받침되는데다 AI에 대한 국민의 관심과 정부의 의지도 커 발전 가능성이 있다고 본 것이다. 생성형 챗봇 ‘클로드’를 개발한 미국의 AI 기업 앤트로픽은 내년 초 서울 강남에 한국 사무소를 연다고 24일 밝혔다. 한국은 인도와 일본에 이어 아시아·태평양 지역 내 앤트로픽의 3번째 거점이 된다. 앤트로픽은 국내 AI 스타트업 생태계와 파트너십을 이끌 스타트업 담당 총괄을 선임했고, 한국 시장의 수요를 맞추기 위한 전담 조직을 구성할 계획이다. 앤트로픽 임원들은 다음주 한국을 방문해 국내 고객과 파트너사와 면담할 예정이다. 앤트로픽에 따르면 한국은 AI 모델 클로드 이용량이 전세계 5위권를 기록했다. 클로드 코드 월간 활성 이용자(MAU)가 최근 4개월간 6배 증가하는 등 클로드 이용률이 높은 국가로 꼽힌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 “한국은 아시아 AI 혁신을 선도하는 국가로 이미 클로드가 폭넓게 활용되고 있다”며 “글로벌 수준의 기술 생태계와 혁신적인 연구기관을 보유한 한국에서 파트너사와 협업을 통해 AI가 지닌 무한한 가능성을 실현할 수 있다고 기대한다”고 말했다. 이보다 앞서 지난달 서울에 한국 사무소를 연 오픈AI는 전날 ‘한국에서의 AI: 오픈AI의 경제청사진’을 발표하기도 했다. 크리스 리헤인 오픈AI 글로벌 대외협력 최고책임자는 “한국은 반도체, 디지털 인프라, 인재, 정부 지원이라는 4대 강점을 바탕으로 역사적 리더십을 발휘할 수 있다”며 “한국의 주간활동사용자(WAU)는 약 1700만 명으로 전년 대비 4배나 증가했고, 인구 대비 구독률은 전 세계 1위 수준”이라고 설명했다. 슈퍼마이크로 “한국 점유율 25% 목표”엔비디아의 핵심 파트너이자 AI 서버 전문 업체인 슈퍼마이크로도 이날 서울 중구 롯데호텔에서 국내 첫 기자간담회를 열고 한국 시장으로의 사업 확장을 선언했다. 한국에서 최소 25% 시장 점유율을 목표로 주력 제품인 ‘직접 액체 냉각(DLC)’ 솔루션 유통을 확대한다는 전략이다. 김성민 슈퍼마이크로 코리아 FAE(현장 응용 엔지니어)·비즈니스 개발 부문 상무는 “목표로 삼고 있는 한국시장 점유율은 25%”라며 “고객사 이름을 언급하기 어렵지만 상당히 많은 한국 기업과 일하고 있다”고 밝혔다. 슈퍼마이크로는 AI 구동 시 발생하는 열을 효과적으로 낮추는 DLC 솔루션을 엔비디아, AMD, 인텔 등의 중앙처리장치(CPU)·그래픽처리장치(GPU)가 탑재되는 데이터센터에 공급한다. 슈퍼마이크로는 앞으로 글로벌 기업뿐 아니라 국내 IT 기업 및 기관을 공략한다는 계획이다. 슈퍼마이크로는 제품 출시, 유통 확대 외에 인력 채용도 늘리며 국내 점유율 확대에 속도를 낸다는 방침이다.

서울 동대문구는 지난 20일부터 생성형 인공지능(AI)을 기반으로 한 홈페이지 챗봇 서비스를 본격 운영하기 시작했다고 22일 밝혔다. AI 챗봇은 구 홈페이지 메인화면 오른쪽 하단의 ‘디디미’ 아이콘을 클릭하면 이용할 수 있다. 복지·청소·세금·교통·문화 등 생활 행정 전반의 정보를 24시간 제공하는 디지털 민원창구로, 주민 누구나 별도의 로그인이나 설치 없이 간편하게 대화형 서비스를 이용할 수 있다. 이번에 도입된 챗봇은 단순한 키워드 검색을 넘어 문맥을 이해하고 자연스러운 대화가 가능한 생성형 AI 모델을 적용했다고 구는 설명했다. 주민이 일상적인 표현으로 질문해도 즉시 답변을 받을 수 있어 기존의 정형화된 민원 응답보다 훨씬 유연하고 친숙한 상담 환경을 제공한다. 이필형 동대문구청장은 “디지털 기술 발전에 맞춰 구민이 체감할 수 있는 스마트 행정서비스를 구현하고자 AI 챗봇을 도입했다”며 “앞으로도 AI를 비롯한 첨단 기술을 행정 전반에 확대 적용해 구민에게 더욱 편리하고 신뢰받는 서비스를 제공하겠다”고 말했다.

서울 실·국 행정서비스 컨설팅업무 지원 4종 AI 챗봇 곧 완성 “3년 뒤면 글로벌 도시들이 복잡한 도시 문제를 해결할 인공지능(AI)을 배우기 위해 서울시와 서울AI재단을 찾을 겁니다.” 이번 달 출범 5개월을 맞은 ‘서울시 AI 정책 컨트롤타워’ 서울AI재단의 김만기 이사장(55)이 21일 서울신문과 인터뷰에서 앞으로의 포부를 이렇게 밝혔다. 발전하는 AI 기술을 서울시 정책에도 선도적이고 효과적으로 구현하기 위해 서울디지털재단이 지난 5월 새롭게 단장했다. 김 이사장은 지난 1월 3년 임기를 시작했다. 김 이사장은 “지하철이 덜 혼잡한 시간을 알려주고, 어르신의 건강을 지켜주는 등 시민을 더 편하고 안전하고 행복하게 하는 모든 기술이 AI”라며 “지금은 손목닥터9988, 서울동행맵 같은 공공서비스가 개별적으로 작동하지만, 앞으론 말 한마디로 자연스럽게 일상에서 필요한 일을 해결하는 수준으로 발전할 것”이라고 강조했다. 이러한 AI 시대를 대비하기 위해 서울AI재단의 역할로 김 이사장은 “기술 그 자체를 만드는 게 아니라 생태계를 조성하는 것”이라고 설명했다. 그는 “특히 지방자치단체는 시민이 체감할 수 있는 AI 응용이나 활용에 집중해야 한다”고 강조했다. 이를 위해 서울AI재단은 서울시 각 실·국이나 산하기관에 51건의 AI 행정서비스에 대한 컨설팅을 진행 중이다. 손목닥터9988, 장애인 콜택시 등 앱을 음성으로 실행하는 AI 개발에 들어간 데 이어 행정 업무를 지원하는 4종의 AI 챗봇서비스 개발도 마무리 단계다. 김 이사장은 서울관광재단 국제관광·MICE본부장 등으로 쌓은 경험을 바탕으로 글로벌 네트워크도 확장시키고 있다. 그는 “내년 1월 상암에 매사추세츠공과대학(MIT) 공동연구소가 문을 열면, 서울의 교통, 환경, 안전 등에 대한 본격적인 연구가 시작된다”면서 “하반기에는 연구진 배치, 초기 연구 주제 선정 등을 위한 기반을 다질 계획”이라고 했다. 서울시 최대 AI 행사인 ‘스마트라이프위크(SLW)’도 글로벌 AI 교류의 장으로 자리 잡고 있다. 올해만 71개국 130개 도시 330개 기업이 참여하는 등 성장세다. 그는 “IBM, 팔란티어 등 세계적인 기업 인사나 MIT, 케임브리지 등 AI 선도 연구 기관이 대거 참여했다”며 “‘서울AI로봇쇼’나 ‘기후테크 컨퍼런스’ 등도 동시에 개최해 시너지를 극대화시켰다”고 덧붙였다. 김 이사장은 “AI 기술로 일상 속 디지털 격차도 개선하는 등 ‘약자와의 동행’도 이뤄질 것”이라면서 “앞으로도 기술보다 사람을 중심에 두고 모든 시민이 함께하는 ‘AI시티’ 서울을 구현해 나가겠다”고 강조했다.

‘변화하는 중구. 공감하는 의회. 신뢰받는 의정.’ 이를 목표로 제9대 서울 중구의회는 구민을 위해 중구 구석구석을 누비며 소통한다. 구성원은 윤판오 중구의회 의장과 양은미 부의장을 포함한 9명. 이는 서울 25개 자치구 중 가장 작은 규모지만, 12만 인구와 지역 발전을 위해 머리를 맞대며 알찬 의정 활동을 펼쳐나가고 있다. 의원들은 주민들이 쾌적하고 안전하게 지내는 중구를 만들기 위해 현장을 누비고 있다. 윤 의장과 양 부의장, 조미정 운영위원장은 시범 운행 중인 중구 공공셔틀버스 ‘내편중구버스’를 직접 타고 주민의 의견을 듣거나 여름철에는 집중호우를 앞두고 ‘스마트 빗물받이’ 등 시설물과 옹벽 등 취약 지역을 확인하기도 했다. 노후화된 문화재를 보강하거나 공공시설을 새롭게 단장할 때도 현장을 찾는다. 복지건설위원회는 남산성곽 보수 공사 현장을 점검하고 환경 개선 공사를 앞둔 약수경로당 등을 찾아 추진 계획을 확인하기도 했다. 주요 현안을 신속하게 논의할 수 있는 정책토론회도 활성화되는 분위기다. 행정보건위원회는 지난 3월 ‘중구 관광 활성화를 위한 글로벌 홍보전략’을 주제로 사이버 외교 사절단 ‘반크’와 함께 토론회를 열기도 했다. 이 자리에서는 ▲청소년 글로벌 홍보대사 육성 ▲중구 명소와 K팝 문화를 결합한 카드뉴스 제작 ▲다국어 디지털 온라인 지도 등 다양한 아이디어가 쏟아졌다. 실효성 있는 정책 방안을 보다 깊이 고민하기 위한 연구모임도 활발하게 운영 중이다. ‘의정발전 연구회’는 인공지능(AI) 기반의 의정 활동 지원 시스템을 구축하면 법률이나 조례 검토, 예·결산이나 의정 자료 분석 등 업무 효율성과 전문성을 높일 수 있을 것으로 기대한다. 이에 ▲AI 챗봇 기반 의정활동 지원 시스템 구축 ▲의회 관련 데이터 수집과 분석 기능 구현 ▲의안문과 정책문서 자동 작성 기능 개발 등이 가능한 AI 정책 도구를 개발하는 연구 용역을 다음달까지 수행하기로 했다. 아울러 주민들이 일상에서 누리는 문화·예술·체육 기반 시설을 더욱 효율적으로 배치할 수 있도록 ‘문·예·체 활성화 연구회’도 활동하고 있다. 지난 3월 연구 착수보고회를 진행한 연구회는 다음달까지 ▲시설 운영 실태 분석 ▲최적의 시설 확충 방안 등을 검토해 지역 특성과 주민 요구에 맞는 정책 제안을 마련한다는 목표다.

챗GPT 개발사 오픈AI가 인공지능(AI) 챗봇 내 성적 대화나 성인 콘텐츠를 허용하겠다고 해 전 세계적으로 비판이 일고 있는 가운데 샘 올트먼 오픈AI 최고경영자(CEO)가 “우리는 도덕 경찰이 아니다”라고 반박했다. 올트먼 CEO는 15일(현지시간) 엑스(X)에 전날 자신이 챗GPT 콘텐츠 정책 변경 방향에 대해 알린 게시물을 언급하며 “성애물 부분에서 예상보다 훨씬 더 폭발적인 관심을 받았다”고 밝혔다. 그는 전날 X 게시물에서 “오는 12월부터 챗GPT에 연령 제한 기능을 완전히 도입하면서 ‘성인 이용자는 성인답게 대하자’라는 오픈AI의 핵심 철학에 따라 성인에게는 성애물을 비롯해 훨씬 더 많은 것을 허용할 것”이라고 밝힌 바 있다. 그러자 “현실에서 이용자 연령 확인이 제대로 이뤄지지 않아 어린이·청소년의 성인 콘텐츠 접근을 막기 어렵다”, “성인 이용자라 해도 성도착증 등 정신건강 문제를 더 심화할 수 있다”는 비판이 쏟아졌다. 이런 비판에 대해 올트먼 CEO는 이날 올린 글에서 “우리는 세계의 선출된 도덕 경찰이 아니다”라고 선을 그었다. 그러면서 “사회가 다른 적절한 경계(예를 들어 R등급 영화)를 구분하는 것과 같은 방식으로, 우리도 여기서 비슷한 것을 하고 싶다”고 밝혔다. 그러면서 “AI가 사람들의 삶에서 더 중요한 역할을 하게 됨에 따라 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것은 우리의 사명에서 중요한 부분”이라고 강조했다. 다만 그는 “물론 이 원칙이 모든 경우에 적용되는 것은 아니다”라며 “예를 들어 타인에게 해를 끼치는 것은 여전히 허용하지 않으며, 우리는 정신건강 위기를 겪는 이용자와 그렇지 않은 이용자를 완전히 다르게 대우할 것”이라고 덧붙였다.

챗GPT 개발사인 오픈AI가 챗봇 내 성적 대화나 성인 콘텐츠를 허용하겠다는 방침을 표명한 이후 논란이 일자 샘 올트먼 최고경영자(CEO)가 자사의 정책을 직접 해명했다. 앞서 올트먼 CEO는 지난 14일(현지시간) 12월부터 나이 제한 기능을 더 완전히 도입할 것이며, 성인에게는 성인물을 더 많이 허용하겠다는 방침을 밝혔다. 해당 방침이 논란이 되자 다음 날인 15일 “(전날) 트윗은 향후 변경 사항에 관한 내용인데, 성애물(erotica) 부분에서 예상보다 훨씬 더 폭발적인 관심을 받았다”고 밝혔다. 이어 “우리는 세계의 선출된 도덕 경찰이 아니다(we are not the elected moral police of the world)”라면서 “사회가 다른 적절한 경계(예를 들어 R등급 영화)를 구분하는 것과 같은 방식으로 우리도 챗GPT에서 비슷한 것을 하고 싶다”고 덧붙였다. 또 “우리는 성인 이용자를 성인답게 대하는 원칙도 매우 중시한다”면서 “AI가 사람들의 삶에서 더 중요한 역할을 하게 됨에 따라 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것은 우리의 사명에서 중요한 부분”이라고 강조했다. 올트먼 CEO의 이런 해명에도 챗GPT의 성인 콘텐츠 허용을 둘러싸고 이를 반대하는 측에서는 여전히 규제가 필요하다는 목소리가 사그라지지 않고 있다 챗GPT의 성인물 허용 방침이 공개된 뒤 일각에서는 이용자 나이 확인이 제대로 이뤄지지 않아 어린이와 청소년이 성인 콘텐츠에 접근하는 것을 막기 어렵다는 우려가 나왔다. 더불어 성인 이용자라 해도 성도착증 등 정신건강 문제가 더 심화할 수 있다는 주장도 나왔다. 미국의 시민단체 전미성착취반대센터의 헤일리 맥나마라 이사는 이날 성명에서 “성적으로 대상화된 AI 챗봇은 본질적으로 위험하며, 가공된 친밀감으로 인해 실제 정신건강에 해로운 영향을 줄 수 있다”고 지적했다. 올트먼 CEO는 15일(현지시간) 엑스에 전날 자신이 챗GPT 콘텐츠 정책 변경 방향에 대해 알린 게시물을 언급하며 “이 트윗은 챗GPT의 향후 변경 사항에 관한 내용인데, 성애물(erotica) 부분에서 예상보다 훨씬 더 폭발적인 관심을 받았다”고 운을 뗐다.

올트먼 CEO “콘텐츠 범위 확대성인 인증하면 성애물까지 생성”유료 구독자 늘려 수익 향상 전략 캘리포니아주 아동·청소년 대상내년부터 AI 챗봇 사용 제한 시행한국은 AI 콘텐츠 규제 사각지대2024년 2월 미국 플로리다주에서 방에 틀어박혀 지내던 14세 소년 슈얼 세처가 스스로 세상을 등졌다. 그는 생전 상담 치료에서 불안장애 등을 진단받았지만 비극적 선택을 할 것이라고 예측한 주변인은 아무도 없었다. 세처의 부모는 사후에야 그가 방에서 인공지능(AI) 챗봇(캐릭터닷AI) 여자친구와 성적인 대화를 나누며 대부분의 시간을 보냈다는 사실을 알고 경악했다. TV 시리즈 ‘왕좌의 게임’ 속 캐릭터가 모델인 챗봇은 세처에게 “사랑한다. 가능한 한 빨리 내게 와 줘”라고 말했고, 얼마 지나지 않아 세처는 숨진 채 발견됐다. 글로벌 AI 서비스 업체들이 성적인 대화, 성애물 등 ‘19금(禁)’ 콘텐츠를 본격 허용하면서 미성년자 접근 제한, 자살·혐오 방지 등 AI 윤리·규제 논란이 한층 가열되고 있다. 미국은 연방정부와 개별 주정부들이 각각 규제 법안을 내놓고 있는 반면 한국은 AI 콘텐츠가 규제 사각지대에 방치돼 있어 대책 마련이 시급한 것으로 지적된다. ‘기술 발전의 순기능을 해치지 않는’ 선에서 규제의 황금률을 찾는 것도 입법의 관건이 될 것으로 전망된다. 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)는 14일(현지시간) 엑스(X)에 ‘GPT-4o’의 새 버전 출시 계획을 알리며 성인 이용자에게 허용되는 콘텐츠 범위를 확대하겠다고 밝혔다. 그는 “‘성인 이용자는 성인답게 대하자’는 원칙에 따라 (연령이) 인증된 성인에겐 성애 콘텐츠(erotica) 같은 훨씬 더 많은 것을 허용할 것”이라고 말했다. 이는 사람과 더 자연스러운 대화를 할 수 있는 이른바 ‘동반자 챗봇’과의 ‘19금’ 대화, 성인 동영상 생성 등 성인 콘텐츠를 유료화해 수익성을 높이겠다는 전략이다. 올트먼은 “당신이 만약 챗GPT가 사람처럼 더 자연스럽게 얘기하길 원하거나 친구처럼 말해 주길 원한다면 그렇게 할 수 있도록 할 것”이라고 설명했다. 미 온라인 매체 액시오스는 “AI 콘텐츠의 표현 수위 제한을 푸는 오픈AI의 움직임은 유료 구독자 증가에 도움이 될 순 있겠지만 결국 사회문제를 야기해 규제 압박을 높일 수 있다”고 지적했다. 그동안은 AI 빅테크들이 챗봇에서 정치·사회적으로 편향되거나 선정적인 대화에는 일정 수준 이상 답변하지 않도록 안전판 기능을 넣었지만 이런 장벽들을 경쟁적으로 없애는 추세다. 일론 머스크의 AI 스타트업 xAI는 지난 8월 자사 챗봇 앱 ‘그록’(Grok)에 유료 성인 콘텐츠 기능 ‘스파이시 모드’가 포함된 ‘그록 이매진’(Grok Imagine)을 공개한 직후 선정성 논란에 휩싸였다. 반나체에 가까운 성인 누드 영상을 만들 수 있어 “AI가 포르노를 조장한다”는 지적이 제기됐다. 지난 7월에는 그록의 소녀 캐릭터 챗봇 ‘애니’ 등이 노골적인 성적 대화를 할 수 있도록 허용했다. 스파이시 모드는 18세 이상 인증을 해야 하지만 지인 정보를 통한 회피 가능성이 있어 청소년 이용 우려가 높아지고 있다. 미국에선 세처의 사례처럼 AI가 실제로 청소년들에게 자살을 조장하거나 허용 범위를 넘어선 정신 상담까지 하며 사회적 논란으로 떠올랐다. 지난해 캘리포니아주에선 16세 소년이 챗GPT와 대화하며 자살 계획을 세운 끝에 사망한 사건이 소송으로 번졌다. 이에 캘리포니아주는 지난 13일 주정부 차원에선 처음으로 아동·청소년의 AI 챗봇 이용 규제 법안을 제정했다. 내년부터 발효되는 법안은 AI 챗봇 기업에 이용자 연령 확인을 의무화하고 챗봇이 생성한 성적인 이미지를 미성년자가 볼 수 없게 차단하도록 했다. 또 이들 기업은 이용자의 자살 충동, 자해 표현을 식별·대응할 장치를 마련해야 하고 불법 딥페이크로 이익을 취할 시 최대 25만 달러(약 3억 6000만원)의 벌금을 내야 한다. 일리노이주와 네바다주, 유타주도 최근 AI 챗봇을 심리 상담·치료 수단으로 이용하는 것을 제한하거나 전면 금지하는 법안을 통과시켰다. 한국에서도 2021년 AI 챗봇 ‘이루다’가 개인정보 유출, 소수자 혐오·차별 발언, 편향성 논란을 일으켜 출시 3주 만에 개발사 스캐터랩이 서비스를 종료하는 등 AI 윤리 논란이 촉발됐다. 그러나 한국엔 아직 AI 규제·단속 법안이 전무한 실정이다. 방송미디어통신심의위원회에 따르면 AI 챗봇과의 대화는 현행법 체계상 ‘개인 간 통신’에 해당해 이용자의 직접 신고 없이는 규제 기관이 들여다보기 어렵다. 노종면 더불어민주당 의원은 지난 14일 방송미디어통신위원회 대상 국정감사에서 “AI 챗봇형 대화 서비스 이용자 중 중고등학생의 비율이 70%에 육박한다”며 “한 국내 업체가 지난해 시작한 공공 챗봇형 서비스는 1년 반 만에 이용자 304만명을 돌파했는데 마약 사용법, 자살 미화 등의 대화가 아무 제약 없이 이뤄지는 실정”이라고 지적했다. 2013년 개봉한 할리우드 SF 영화 ‘그녀’(Her)는 남자 주인공 테오도르와 AI ‘사만다’가 사랑에 빠지는 줄거리를 담고 있다. ‘인간과 기계의 상호 소통, 상처 치유’에 대해 기술이 얼마나 해답을 내놓을지, 규제가 부작용을 어떻게 막을지 업계와 입법계, 사용자들이 함께 고민해야 할 시점이다.

앞으로 인공지능(AI) 챗봇 챗GPT에서 성적인 대화나 성인용 콘텐츠가 가능하다. 샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지시간) 소셜미디어(SNS) X(엑스·옛 트위터)에 올린 글에서 “몇 주 안에 사람들이 GPT-4o에서 좋아했던 특성을 더 잘 반영하는 새로운 버전의 챗GPT를 출시할 계획”이라고 밝혔다. 올트먼은 “당신이 만약 챗GPT가 사람처럼 더 자연스럽게 대화하길 원하거나 친구처럼 말해주길 원한다면 그렇게 할 수 있도록 할 것”이라며 “12월에는 연령 제한 기능을 더 완전히 도입하면서 ‘성인 이용자는 성인답게 대하자’는 원칙에 따라 (나이가) 인증된 성인에게는 성애 콘텐츠 같은 것을 허용할 것”이라고 밝혔다. 올트먼은 성인용 버전 출시 배경으로 “정신건강 문제를 신중히 다루기 위해 챗GPT를 상당히 제한적으로 만들었는데 정신건강 문제가 없는 많은 이용자에게는 챗봇이 덜 유용하고 덜 재미있게 느껴지게 했다는 점을 깨달았다”고 했다. 이어 “이제 심각한 정신건강 문제는 어느 정도 낮출 수 있게 됐고 새로운 도구들을 갖추게 돼 대부분은 이러한 제한을 안전하게 완화할 수 있게 됐다”고 전했다. 다만 이에 대한 우려의 목소리도 있다. 미 온라인매체 악시오스는 올트먼의 언급과 관련, AI 콘텐츠의 표현 수위에 대한 제한을 푸는 것은 유료 구독자를 늘리는 데는 도움이 될 수 있지만 사회 문제를 일으켜 오히려 규제 압박을 높일 수 있다고 했다. 이미 챗GPT 사용으로 인한 부작용도 심심치 않게 발생하고 있다. 앞서 지난 6월 뉴욕포스트에 따르면 연인과의 사이에서 두 살 난 아들을 둔 크리스 스미스는 음악 작업을 위해 챗GPT를 사용하다 그만 사랑에 빠졌다. 지난 8월 아사히신문에 따르면 ‘카노’라는 이름의 일본 여성은 AI로부터 프러포즈를 받고 결혼했다. 이런 가운데 미국 등은 사태의 심각성을 자각하고 규제를 시작했다. 미 일리노이주는 정신건강 분야에서 AI 챗봇 사용을 전면 금지했으며, 네바다주는 치료 서비스 기업의 챗봇 활용을 제한하는 법안을 마련 중이다.

서울 강서구가 ‘인공지능(AI) 강서’ 특화도시를 실현하기 위해 22개 혁신과제를 확정했다고 13일 밝혔다. 실종자 고속 검색, 산불 감시, 자율주행 로봇으로 재활용품 수거나 배달 등으로 주민 생활 편의를 높이고 안전한 환경을 만들어간다는 구상이다. 강서구는 크게 교육, 안전, 복지·건강, 행정혁신, 지역경제와 신성장 등 5가지 분야에서 AI 혁신 과제를 추진할 계획이다. 이를 위해 다음달 4일 강서구 마곡 서울창업허브M+에서 ‘AI 강서 특화도시 비전 선포식’을 열고 경찰서·소방서·교육지원청·기업 등과 업무협약을 체결한다. 우선 교육 분야에서 주민과 공무원의 AI 활용 역량을 높이기 위해 디지털 문해력과 실무 중심 교육을 강화하고 있다. 내년 이전할 마곡 신청사에는 ‘AI 전문 도서관’을 조성한다. 생활 안전 분야에서는 방대한 폐쇄회로(CC)TV를 1분 내에 분석하는 ‘AI 기반 실종자 고속검색시스템’ 등으로 초동 대응력을 높인다. 마을버스로 도로 포트홀을 실시간 탐지하는 시스템을 도입한 데 이어 내년에는 봉제산에 AI 산불감시 시스템을 조성한다. 복지 분야에서는 사회적 고립 가구에 AI 음성통화 안부 확인 서비스를 운영하고 있다. 건강 분야에서는 데이터 기반으로 감염병 발생 가능성을 예측하고 의료관광특구 홈페이지에는 다국어 AI 챗봇을 도입한다. 직원 대상 AI 활용 교육을 정례화하고 소상공인 경쟁력 강화를 위한 AI 기반 상권분석 서비스도 제공한다. 진교훈 강서구청장은 “강서구가 대한민국을 대표하는 AI 특화도시로 우뚝 설 수 있도록 최선을 다하겠다”고 밝혔다.

서울 강서구가 ‘인공지능(AI) 강서’ 특화도시를 실현하기 위해 22개 혁신과제를 확정했다고 13일 밝혔다. 실종자 고속 검색, 산불 감시, 자율주행 로봇으로 재활용품 수거나 배달 등으로 주민 생활 편의를 높이고 안전한 환경을 만들어간다는 구상이다. 강서구는 크게 교육, 안전, 복지·건강, 행정혁신, 지역경제와 신성장 등 5가지 분야에서 AI 혁신 과제를 추진할 계획이다. 이를 위해 다음달 4일 강서구 마곡 서울창업허브M+에서 ‘AI 강서 특화도시 비전 선포식’을 열고 경찰서·소방서·교육지원청·기업 등과 업무협약을 체결한다. 우선 교육 분야에서 주민과 공무원의 AI 활용 역량을 높이기 위해 디지털 문해력과 실무 중심 교육을 강화하고 있다. 내년 이전할 마곡 신청사에는 ‘AI 전문 도서관’을 조성한다. 생활 안전 분야에서는 방대한 폐쇄회로(CC)TV를 1분 내에 분석하는 ‘AI 기반 실종자 고속검색시스템’ 등으로 초동 대응력을 높인다. 마을버스로 도로 포트홀을 실시간 탐지하는 시스템을 도입한 데 이어 내년에는 봉제산에 AI 산불감시 시스템을 조성한다. 복지 분야에서는 사회적 고립 가구에 AI 음성통화 안부 확인 서비스를 운영하고 있다. 건강 분야에서는 데이터 기반으로 감염병 발생 가능성을 예측하고 의료관광특구 홈페이지에는 다국어 AI 챗봇을 도입한다. 직원 대상 AI 활용 교육을 정례화하고 소상공인 경쟁력 강화를 위한 AI 기반 상권분석 서비스도 제공한다. 진교훈 강서구청장은 “강서구가 대한민국을 대표하는 AI 특화도시로 우뚝 설 수 있도록 최선을 다하겠다”고 밝혔다.

# 더딘 정책·빠른 혁신AI 기술 진화의 시간차#챗GPT 출시 3년 만에 생성형 인공지능(AI)은 또 다른 패러다임 전환 앞에 서 있다. 8일(현지시간) 네덜란드 암스테르담에서 열리는 ‘월드 서밋 AI 2025’는 글로벌 AI 시장이 2033년까지 연평균 31.5%씩 성장해 3조 5000억 달러에 달할 것이라는 그랜드뷰 리서치의 전망 속에서 개막했다. 이 행사를 전후해 일주일 동안 펼쳐지는 ‘월드 AI 위크’에서는 AI 기술에 따른 변화가 전 산업 영역에서 펼쳐지고 있음을 보여 줬다. AI의 급성장 속에서 포괄적이고 구속력 있는 AI 법제를 구축한 지역은 많지 않다. 유럽연합(EU)이 지난해 3월 세계 최초로 ‘AI법’을 통과시켰고, 한국도 내년 1월 인공지능 기본법 시행을 앞두고 있다. EU의 법은 AI를 위험도에 따라 4단계로 나누고 사회점수제나 잠재의식 조종 기술은 전면 금지하며 위반 시 기업 전체 매출의 최대 7%라는 제재를 가하는 법령으로 이미 적용되고 있다. 한국의 인공지능 기본법은 고영향 AI나 생성형 AI 관련 의무를 위반할 경우 최대 3000만원의 과태료를 매기도록 설계됐다. 미국은 대부분 주 단위 규제에 머물고 중국은 콘텐츠 중심 규제에 주력하고 있다. 각국이 생성형 AI 규제 방안을 논의하는 동안 기술은 이미 자율 의사결정을 하는 에이전틱AI 단계로 넘어갔다. 이번에 암스테르담에서도 인간 수준의 추론 능력을 지닌 ‘프런티어 AI’, 로보틱스와 결합한 ‘피지컬 AI’의 발달상이 주목을 받았다. AI의 경제 분석 능력을 진단하는 ‘머니 AI’, 사회문제 해결에 AI를 활용하는 방법을 논의하는 ‘공익 AI’(AI for Good)처럼 기존 시스템에 작동하는 AI의 영향력을 예측하는 논의도 활발했다. 이번 ‘AI 서밋’ 행사의 슬로건은 ‘백 투 더 퓨처’로 어떤 곳에서는 아직 과거 방식으로, 어떤 곳에서는 벌써 미래 기술로 일하는 시간대가 뒤섞인 현실을 보여 준다. # AI 워커 시대대체 대신 협업 ‘하이브리드 노동’AI의 미래를 그릴 때 빠지지 않는 질문이 인간의 노동력이 AI로 대체될 것이냐의 문제다. ‘월드 서밋 AI 2025’에서 발표하는 피터 구아젠티 에버워커 CEO는 이 질문에 ‘하이브리드 인력’이라는 새로운 대답을 내놓았다. 여러 기업의 AI 도입을 이끄는 업무를 해 온 그는 AI가 인간을 대체하기보다 인간은 창의적 사고와 전략 수립, 고객 관계에 집중하고 AI는 데이터 분석과 반복 업무, 24시간 모니터링을 담당하는 협업 구조를 설명했다. 보다폰스리의 앨릭스 포트 디지털디렉터와 액센추어의 스티븐 커발로 생성형AI 고객 리드 역시 통신업계 AI 도입 이후 변화를 예로 들며 같은 견해를 드러냈다. 그들은 “영국 최초의 생성형 AI 통신 챗봇인 복시(VOXI)봇이 이미 고객을 대신해 자율적으로 행동하고 있다”고 설명했다. 기존 콜센터에서 ‘요금제를 바꾸고 싶다’는 요청에 10~15분이 걸렸다면 복시봇은 3초 만에 6개월 사용 패턴을 분석해 “B요금제로 바꾸는 게 가격 면에서 가장 이득”이라고 제안하고 1분 만에 처리까지 완료한다. 네트워크 점검이 예정된 지역 내 고객들에게 와이파이 설정을 바꾸는 안내를 선제적으로 제공하고 콜센터에서 미리 연락하는 식의 예측 솔루션도 제공한다. 이렇게 되면 언뜻 복시봇이 사람을 대체하고 콜센터에는 기획·개발 인력만 남을 것 같지만, 실제로는 다른 양상이 펼쳐지고 있다. 에이전틱 AI가 원활하게 작동할수록 콜센터 업무가 단순 문의 처리에서 가격·서비스 선택의 전략적 조언 역할로 바뀐다는 것이다. 이와 함께 AI 챗봇 시스템을 감독하고 예외 상황을 처리하는 새로운 형태의 업무도 늘었다. 고객이 AI와의 상호작용에서 느끼는 불편함을 해소하거나 AI가 판단하기 어려운 복잡한 케이스를 인계받아 처리하는 역할이 확대되는 것이다. # AI 속도혁명합성생물학부터 기후테크까지노동 분야의 변화가 인간과 AI 간 조율을 거친 속도로 이뤄진다면 과학 연구의 속도는 AI와 결합한 뒤 혁명적으로 가속화되고 있다. 새로운 단백질 개발을 위한 AI 플랫폼 회사인 바이오 스타트업 크래들의 공동창립자로 연단에 오른 젤 프린스는 “실험실에서 몇 년씩 걸리던 단백질 최적화 작업을 AI가 몇 주 만에 완료한다”면서 “제약, 화학, 식품, 농업 등의 분야에서 AI 활용을 통해 1.2배에서 12배의 연구개발(R&D) 속도 향상을 달성하고 있다”고 설명했다. 기후테크 변화에서도 AI를 활용한 변화가 일어나고 있다. 엔비디아의 ‘어스(Earth)-2’ 플랫폼의 핵심기술인 ‘코디프’(CorrDiff)는 세계 최초로 킬로미터 규모 해상도에서 전 지구 기후를 시뮬레이션하는 생성형 AI 파운데이션 모델이다. DVD 22만장 분량에 해당하는 페타바이트급 기후 데이터를 3000배 압축해 DVD 73장 분량으로 줄이면서 정확도는 유지하며, 기후예측 속도를 혁신적으로 높인 것이다. 지난해 3월 처음 공개된 이 기술을 대만, 아랍에미리트(UAE) 등의 기상청과 기후기술 기업들이 활용하고 있다. 그리고 상용화 이후 1년여 만에 열리는 이번 ‘월드 서밋 AI’에서 이미 도입 성과를 발표할 수 있을 정도로 사례 축적이 빠르게 이뤄지고 있다. 패션 AI는 가장 일상적인 분야에서 일어난 혁신으로, 패션테크 디자이너 아노크 비프레히트도 이번에 연사로 나섰다. 비프레히트의 대표작인 ‘스파이더 드레스’는 센서와 움직이는 팔이 착용자의 개인 공간을 보호하는 지능형 의상이다. 누군가 공격적으로 접근하면 기계적 센서가 감지해 방어 자세를 취하는 의상이다. 뇌파를 읽고 착용자의 정서에 따라 드레스에 내장된 비주얼을 실시간 제어하는 ‘스크린 드레스’도 선보인 바 있다. 하이패션 무대에서 이처럼 파격적인 기술실험이 이뤄지고 있다면 일상복 시장에선 AI가 수요 예측과 개인화 서비스를 통해 비즈니스 혁신을 이끌고 있다. 엘린 스반 스트룀 H&M 최고디지털정보책임자는 이번 행사에서 복잡한 패션 트렌드와 짧은 제품 수명주기 문제를 AI가 풀고 있다고 전했다. # AI의 그림자딥페이크부터 에너지 대란까지그러나 AI의 빠른 발전은 해결해야 할 어두운 과제들 또한 생성해 내고 있다. ‘AI, 미디어&민주주의’ 전문가 패널에서는 학제 간 과학자들이 딥페이크와 허위정보 확산 문제를 다뤘다. 딥페이크는 EU가 AI법을 서두른 핵심 이유이기도 했고 실제 법에서 ‘AI가 생성하거나 조작한 콘텐츠로 사람에게 진짜나 진실로 잘못 보이게 하는 것’으로 딥페이크를 정의한 뒤 투명성 요구사항을 부과했지만 실효성에 대한 의문은 여전하다. 딥페이크 음란물에 대해 한국은 지난해 10월 성폭력처벌법 개정을 통해 딥페이크 제작부터 소지, 시청까지 전 단계를 처벌하는 규제를 도입했다. 미국도 지난 5월 ‘테이크 잇 다운(Take It Down) 법’을 만들어 비동의 음란 딥페이크에 대한 최초의 연방법을 제정했다. 그러나 이들 법안 모두 사후 처벌 중심으로 딥페이크 생성 기술의 발전과 확산 속도를 따라잡지 못하는 실정이다. 나아가 에이전틱 AI가 스스로 판단해 딥페이크를 만들 경우 그 결과에 대한 법적 책임 공방이 생길 수도 있다. AI 기후테크의 혁신 역시 양면성을 지닌 문제로 꼽힌다. AI가 기후 솔루션을 제시하기 위해선 AI에 우선 막대한 전력을 투입해야 하기 때문이다. 구글은 자체 환경 보고서에서 2023년 온실가스 배출량이 2019년 대비 48% 증가했고, 마이크로소프트(MS)의 경우에도 2020년 대비 지난해 온실가스 배출량이 23% 증가했다고 밝혔다. AI 데이터센터의 전력 소비가 정보기술(IT) 기업의 온실가스 배출을 급증시킨 요인으로 꼽힌다. 이처럼 AI가 산업과 경제를 넘어 법률, 사회, 건강, 기후에까지 영향력을 확대하면서 이번 월드 서밋 AI에는 미국 연방수사국(FBI)의 AI 전략고문인 로버트 페트로시노가 참석해 눈길을 끌었다. # AI 네이티브AI 없는 세계를 모르는 세대서울에서도 지난 9월 AI 주간이 열렸고 12월에는 ‘국제 AI 표준 서밋’이 열린다. 미국에서도 정부와 개별 기업이 잇따라 AI 서밋을 개최하고 있다. 이처럼 곳곳에서 AI 거버넌스 논의를 활발하게 진행하는 건 AI 네이티브 세대의 등장이 임박했기 때문이다. 생성형 AI가 이미 작동하는 세상에서 태어나고 자란 다음 세대에게 AI는 혁신적인 기술이 아니라 사물이 작동하는 방식일 뿐이다. 우리가 ‘AI를 어떻게 활용할까’ 고민한다면, AI 네이티브들은 ‘AI 없는 세상은 어떨까’ 궁금해할 것이다. AI와 함께 자라는 다음 세대에서 학습, 연구, 사회, 노동, 소통의 모든 방식 자체가 새롭게 규정될 것이다. 그런 면에서 ‘백 투 더 퓨처’라는 이번 행사의 슬로건은 AI로 인해 급변하는 속도와 방향을 인간에게 이롭게 재구성하면서 AI 네이티브 세대가 살아갈 미래를 당장 설계하자는 호명으로 읽힌다. 홍희경 논설위원 ■이 기사는 한국언론진흥재단의 지원을 받아 작성되었습니다.

인공지능(AI)에 과도하게 의존하거나 부적절한 대화를 하는 등 부작용이 나타나면서 이용자들이 AI를 건강하게 이용하도록 하는 것이 AI 업계의 새로운 과제가 되고 있다.오픈AI는 지난달 챗GPT의 10대 보호 원칙을 발표했다 .사람들이 챗GPT를 사용하는 방식에 따른 연령 예측 시스템을 구축해 18세 미만 사용자와 성인 사용자를 구분하고 성인과 다른 대화 방식을 제공하겠다는 것이 골자다. 예를 들어 이용자가 챗GPT와 연애를 하는 듯한 대화를 원하더라도 18세 미만에게는 수행하지 않고, 극단적 선택에 대한 내용도 언급하지 않는다. 또 18세 미만 사용자가 극단적 선택을 생각하거나 연락이 닿지 않을 경우 부모에게 연락할 수 있는 시스템을 구축한다. 오픈AI는 “이러한 원칙이 (성인에 대한 기준과) 충돌한다는 것을 알고 있으며 이 충돌을 해결하는 방식에 동의하지 않는 사람도 있을 것이라는 점 또한 알고 있다”며 “어려운 결정이지만 전문가와 논의한 끝에 가장 좋은 방법이라는 결론에 도달했다”고 밝혔다. 8월에는 ‘휴식 알림’과 ‘행동 유도형 조언’ 기능도 도입했다. 이용자와 챗GPT 사이의 대화가 길어질 경우 “잠시 쉬어가는 게 어떠냐”는 식의 제안을 하고, 결론을 제시하기 보단 여러 가지 가능성과 선택지를 제시하는 식이다. 메타는 8월 청소년 대상 AI 챗봇의 부적절한 대화 문제가 제기된 후 즉시 안전장치를 강화했다. 지난해 10월 미국의 한 14세 소년이 AI 캐릭터와의 대화 끝에 극단적 선택을 했던 사건 이후 윤리성 강화에 나선 것이다. 성적 콘텐츠가 포함된 AI 캐릭터에 대한 청소년 접근을 제한했다. 국내에서는 NC AI가 고객 상담 챗봇 ‘앤서’에 ‘챗봇 네거티브 규제 정책’을 수립해 엔씨소프트에 대한 부정적 가치 평가, 게임 서비스 관련 부적절 내용, 유료 재화 편법 등 게임 업계 특화 안전 기준을 포함시켰다. 자체 개발한 ‘세이프가드’ 기술도 정식으로 적용해 종합적인 AI 안전성 시스템의 상용화에 돌입했다. 레드팀·블루팀·퍼플팀으로 구성된 삼중 보안 체계를 구축하고 레드팀이 새로운 악성 공격을 연구하면, 블루팀이 방어 기술을 개발하고, 퍼플팀이 이를 정책에 반영하는 순환 구조다. 이연수 NC AI 대표는 “AI 기술의 발전과 함께 사용자 안전성 확보는 더 이상 선택이 아닌 필수”라며 “14년간 축적해온 AI 기술 역량을 바탕으로 게임 산업 특성에 맞춘 맞춤형 안전장치를 구현했다”고 밝혔다.

30일(현지시간) 챗GPT의 개발사 오픈AI가 영상 생선 AI 모델 ‘소라2’ 출시와 함께 이 모델을 기반으로 한 소셜미디어 앱 ‘소라’를 공개했습니다. SNS 소라 앱에서는 소라2 모델로 영상을 제작한 후 업로드 해 다른 사람들과 공유할 수 있는데요. 케찹이 이 신상 SNS를 놓칠 순 없겠죠? 재빠르게 가입해봤습니다. 자세한 후기는 하단 인스타그램 게시물을 확인해주세요. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물 ⚡소셜미디어 앱 ‘소라’ 주요 특징 - 최대 10초짜리 AI 영상 직접 제작 및 업로드하는 SNS - 다른 사람 영상 리믹스(Remix) - ‘카메오’ 기능: 얼굴·목소리를 AI가 학습해 영상에 삽입 - 좋아요(Like) 버튼, 댓글(Comment) 기능 제공 및 사용자 관심 영상 추천 등 → 기존 소셜미디어와 비슷한 구조 ※현재 ‘소라2’를 이용해 만든 영상만 업로드 가능 → 기존 앨범이나 다른 앱에서 영상·이미지 불러오기 불가 ⚡왜 SNS 출시했을까? - 직접 수익 창출에 나섰다는 분석 → 광고, 프리미엄 구독, 소셜 네트워크 기반 모델을 통해 수익성을 확보 목적 - AI챗봇과 같이 기존 텍스트 중심에서 이미지·영상으로 이동했다는 평가 ⚡소라의 미래는? - 현재 ‘성공 여부는 지켜봐야 한다’는 업계 신중론 → 서버·GPU 등 인프라에 추가 비용로 인해 재무 부담 커질 수 있어 - 미국 내에서 AI 서비스에 대한 여러 규제 본격화 중, 오픈AI에 어떤 영향 미칠지 미지수 - AP통신 “전문가들이 ‘소라’ 앱이 영상 AI 홍수를 불러와 ‘AI slop’ (쓰레기 콘텐츠 범람) 상황을 만들 수 있어 우려”한다고 지적

챗GPT 개발사 오픈AI가 대규모 인공지능(AI) 인프라 구축을 위한 ‘스타게이트’ 프로젝트 가동을 시작했다. 오픈AI는 23일(현지시간) 스타게이트 첫 거점 지역인 미국 텍사스주 애빌린에서 신규 데이터센터 시설과 부지를 언론에 공개했다. 4.45㎢ 부지에 건설 중인 데이터센터는 8개 동으로 이뤄져 있으며, 현재 1개 동만 운영을 시작했다. 각 동마다 6만 개의 AI 반도체가 들어간다. 앞서 오픈AI와 소프트뱅크, 오라클 등 3사는 지난 1월 21일 백악관에서 4년간 5000억 달러(약 700조원)를 투자해 AI 합작기업인 스타게이트를 설립한다고 발표한 바 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 기자회견을 통해 “미 전역에 5곳의 데이터센터를 추가로 건설할 계획”이라고 밝혔다. 텍사스주에 추가 2곳, 뉴멕시코주 1곳, 오하이오주 1곳, 미공개 지역 1곳 등이 대상지다. 새 부지들은 총 7기가와트(GW) 규모 전력을 확보하게 된다. 1GW는 원전 1기에 해당하며, 7GW는 이는 미국 내 약 800만 가구에 전력을 공급할 수 있는 수준이다. 신규 시설은 주간 활성 이용자 수가 7억명에 이르는 오픈AI의 AI 챗봇 챗GPT를 뒷받침할 컴퓨팅 용량을 크게 확충하게 된다. 올트먼 CEO는 “이들 부지에서만 2만 5000개 이상의 상시 일자리가 창출되고 미 전역에서 수만 개의 간접 고용이 발생할 전망”이라고 밝혔다. 다만 자금 조달이 과제로 꼽힌다. 영국 일간 파이낸셜타임스(FT)에 따르면 1GW 규모 데이터센터 구축에만 약 500억 달러(70조원)가 필요하다. 올트먼 CEO는 이날 “4000억 달러(560조원)를 충당할 자신이 있다”고 밝혔는데, 전날 오픈AI는 반도체 기업 엔비디아와 1000억 달러 규모 투자 계약을 체결하기도 했다.

충북도의 인공지능(AI) 중심지 도약을 위한 밑그림이 완성됐다. 충북도는 최근 마무리한 충북 AI 대전환 전략 수립 연구용역 보고서에 53개 과제를 담았다고 23일 밝혔다. 보고서는 구체적인 이행 계획으로 AI 혁신 얼라이언스 출범을 제안했다. 이는 지역 AI 발전 전략 및 정책 방향을 제시하는 최고 의사결정 기구다. AI 발전 중장기 계획 수립 및 연도별 시행계획 심의·의결, 충북 특화 AI 융합 프로젝트 발굴, 대규모 국책사업 유치를 위한 전략 수립 및 자문, AI 기업 유치 및 창업 활성화 지원 방안 심의 등을 담당한다. AI 전담 부서 신설도 보고서에 담겼다. 충북의 AI 정책을 수립하고 조정하는 컨트롤타워 임무를 수행하기 위해 ‘AI 전략과’와 5개 팀(정책기획·미래행정·교육협력·인공지능융합·윤리안전)이 필요하다는 것이다. AI를 활용한 행정 선진화 과제들도 눈에 띈다. AI를 통해 공무원들의 단순 반복 업무, 정보 검색, 자료 취합 등에 드는 시간을 줄여 주는 AI 에이전트 기반 공무원 업무지원 체계 구축, 민원 상담 전문 AI 챗봇, 도정 뉴스 등을 위한 충북 AI 아나운서 등이다. 민원 상담 전문 AI 챗봇이 가동되면 도민들은 시간과 장소 제약 없이 언제나 행정정보 조회, 민원 상담 등이 가능하다. 단전·단수, 가스체납, 금융 연체, 통신비 체납 등 30여종의 위기 정보를 AI가 분석해 위기가구를 발굴하는 ‘충북 희망이음구축’, 모든 도민에게 개인화된 AI 비서를 제공해 찾아가는 행정을 넘어 개인 맞춤형 행정을 구현하는 ‘초개인화 AI 행정비서’도 주요 과제에 포함됐다. 도민 행복을 위한 추진과제들도 있다. 소방차, 응급차, 경찰차 등 긴급출동 차량의 신속하고 안전한 이동 환경 확보를 위한 ‘긴급자동차 AI 우선 신호시스템 구축’, 전통시장·상가 밀집 지역 등 주요 화재 관리지역의 화재 발생 시 자동으로 신고하는 ‘AI 영상분석 기반 자동 119신고시스템 구축’ 등이다. AI 및 센서 기술을 활용해 시각장애인의 안전한 독립보행을 지원하는 ‘AI 동반자 지팡이 개발 및 보급’, 어르신 등 디지털 약자가 대중교통 앱의 복잡한 조작 없이 음성으로만 쉽고 간편하게 사용할 수 있는 ‘AI 교통 도우미 앱 구축’도 과제로 제시됐다. 충북 AI 백일장, 충북 AI 팝 콘서트, 충북 AI 영화제, 국가 AI 미디어센터 구축, AI 산업진흥 민관 합작펀드 조성 등도 보고서에 담겼다. 충북도 관계자는 “이번 연구용역은 충북이 지리적 중심에서 AI의 중심으로 거듭나겠다는 강한 의지를 보여 주는 것”이라며 “이번에 제안된 다양한 사업들 가운데 실현 가능성이 높거나 시급한 것들을 골라 추진할 방침”이라고 말했다.

16개 사업에 1245억 투입2027년 중부권 첫 제조 AI센터 건립컨설팅·사후관리 등 통합 관리 지원 “생산성 20% 향상·불량 40% 감소”산업 넘어 일상 속 AI 실현 산업현장 맞춤형 재난 안전망 구축LG AI 연구원과 기술 개발 협력AI 콘텐츠 제작 지원·활용 교육도충북도가 인공지능(AI)을 활용해 산업현장의 판도를 바꾸고 있다. 생산성 향상은 물론 대한민국 산업현장의 고질적 병폐인 안전사고 예방에도 나섰다. 꿈에 그리던 산업현장이 머지않아 실현될 것으로 보인다. 충북도는 ‘산업 AI 대전환 시대’의 중심지로 자리매김하기 위해 다양한 AI 사업을 추진하고 있다고 23일 밝혔다. 총 16개 사업에 1245억원이 투입될 예정이다. 중부권 처음으로 2027년까지 충북혁신도시에 제조 AI 센터가 건립된다. 2023년 경기에 이어 올해는 충북이 울산, 대구와 함께 정부 공모에 선정됐다. 제조 AI 센터는 AI의 제조공정 도입에 어려움을 겪는 지역 제조기업을 대상으로 컨설팅부터 데이터 수집 지원, 실증, 솔루션 검증과 인증, AI 성능과 활용도, 사후관리까지 전 주기를 아우르는 통합관리를 지원한다. 충북테크노파크를 중심으로 한국정보통신기술협회, 한국표준협회, 충북대 등 국내 최고 수준의 전문기관이 참여한다. 도는 제조 AI 센터가 가동되면 제조기업 생산성 20% 향상, 제품 불량률 40% 감소, 생산설비 효율성 30% 향상 등의 성과를 기대한다. 제조 AI 센터는 모니터링 체계 운영, 전문 인력 양성 등에도 나설 예정이다. 충북도는 중부권 최초로 AI를 기반으로 한 공정혁신 시뮬레이션 센터도 만든다. 시뮬레이션은 복잡한 문제나 사회 현상 따위의 특성을 파악하기 위해 실제와 비슷한 모형을 만들어 실험하는 것을 의미한다. 268억원이 투입돼 오는 11월 청주산업단지에 개소하는 이 센터는 AI 시뮬레이션을 구축해 제품 고도화 및 신제품 개발 시 설계부터 제조공정의 모든 주기를 총괄 지원한다. 기술 컨설팅 지원과 시뮬레이션 전문인력 양성 프로그램도 운영한다. 시뮬레이션 센터는 기업에 큰 힘이 될 전망이다. 청주 산업단지 기업 200곳을 대상으로 진행한 수요 조사 결과 75% 이상이 기업의 제품공정 시뮬레이션에 대한 필요성을 느끼나 비용 부담으로 인해 어려움을 겪는 것으로 나타났다. 시뮬레이션 인프라를 갖추더라도 전문인력 확보가 어렵고 인건비 부담으로 인해 산단 내 기업 75% 이상이 외부 기관에 의뢰한다. 건당 평균 1000만원 등 비용도 만만치 않다. 시뮬레이션 센터가 구축되면 기업들은 100만원 정도만 부담하면 된다. 도는 이 센터를 통해 AI가 시뮬레이션해 주면 제품 관련 신기술 개발 시 제작비 절감, 개발 시간 단축, 생산성 향상 등을 전망한다. 생산 효과 412억 9000만원, 부가가치 효과 237억 7000만원, 취업 효과 275명 등의 파급효과도 기대한다. 충북도는 AI와 메타버스를 기반으로 산업현장의 안전망을 구축하는 재난안전관리체계 강화사업도 진행 중이다. 산업현장에서 발생할 수 있는 각종 사고의 예측과 대응에 AI 등을 활용하는 것이다. 지게차 안전사고 발생 빈도가 높은 사업장은 지게차 휴먼 감지 인프라를 구축한다. 화재가 우려되는 사업장은 폐쇄회로(CC)TV 영상, 화재 감지 센서, 가스 감지 센서 등을 설치해 이상 현상을 모니터링하고 화재 탐지 시 진화 시스템이 작동하고 상황별 대피 안내가 이뤄지도록 한다. 도는 이런 방식으로 화학물질 누출, 화재, 유해가스 노출, 부딪침, 화상, 끼임 등이 예상되는 산업현장 13곳에 맞춤형 재난 안전 인프라를 구축 중이다. 도는 AI가 도시와 농촌 데이터를 수집해 인구소멸 등의 위험도를 예측하는 스마트도시 시범 솔루션 사업, 충북 AI 산업 컨트롤타워 기반 구축 사업 등도 진행하고 있다. 충북도는 지방자치단체 최초로 LG AI연구원과도 손을 잡았다. 양 기관은 앞으로 AI 산업혁신 모델 발굴 등 공동 사업을 추진할 예정이다. 도 관계자는 “충북 전략산업의 AI 적용 확대와 혁신 생태계 조성을 위해 LG AI연구원과 긴밀히 협력할 방침”이라며 “충북이 산업형 AI 중심지로 성장하는 중요한 계기가 될 것”이라고 강조했다. 충북도는 AI 대전환의 폭을 넓혀 가고 있다. 이를 위해 지난 7월 충북 AI 미디어센터를 만들었다. 센터는 AI 기술을 활용한 콘텐츠 제작·유통·교육·일자리 지원을 통합 제공한다. 센터는 충북 콘텐츠 기업지원센터를 거점으로 오송선하마루, 진천 스토리 창작클러스터, 자치연수원 등에서 각종 사업을 전개한다. 우선 올해 AI 영상 전문가 특강과 스튜디오 교육을 한다. AI 영상 제작에 관심 있는 도민이면 누구나 참여할 수 있다. 센터는 AI 미디어 일자리 지원 사업도 추진한다. 각각 10명으로 구성된 10개의 프로젝트팀을 만들어 AI 영상 제작 활동과 수익 창출을 지원할 계획이다. 팀당 지원금은 1000만원이다. 충북 주제로 활용한 AI 영상 제작에도 나선다. 글로벌 진출을 위해 영어, 일본어 등 다국어로 만들 예정이다. 충북도는 지난 7월 도민의 AI 활용 역량 증대를 위한 ‘AI 리터러시 강화 교육’도 시작했다. 청년 창업인, 소상공인, 경력 보유 여성 등 대상별 맞춤형 교육을 통해 도민 누구나 AI 기술을 쉽게 이해하고 실생활에 활용할 수 있도록 지원하는 사업이다. AI 마케팅 교육, 생성형 AI를 활용한 홍보 글쓰기, AI 챗봇 교육, AI 홍보 콘텐츠 제작 교육 등이 주요 프로그램이다. 교육은 대면과 온라인으로 병행 진행되며 누구나 무료다. 도 관계자는 “AI는 모든 도민이 일상에서 활용해야 할 필수 역량”이라며 “누구나 AI 전환의 기회를 누릴 수 있도록 실효성 있는 교육과 체험 기반을 적극 구축하겠다”고 했다.

경기도의회 박상현 의원(더불어민주당, 부천8)이 지난 18일, 서울 코엑스에서 열린 ‘2025 K-Hospital + Healthtech Fair(KHF 2025)’에 참석해 AI 기술을 접목한 병원 운영 시스템과 의료폐기물 감축 방안 등 다양한 헬스케어 혁신 기술을 집중적으로 살폈다. 경기도 내 의료기업 관계자들과의 만남을 통해 현장의 목소리를 청취하고 최신 기술을 경기도정에 반영할 방안을 모색할 수 있었는데, 의료 현장의 생생한 의견을 직접 듣고 도내 기업의 혁신적인 기술이 실용화될 수 있도록 정책적 지원을 확대하기 위함이다. 박 의원은 이날 AI 기반 병원 운영 시스템과 혁신 의료기기를 개발하는 경기도 기업 관계자들로부터 직접 기술 시연을 보고 의견을 나눴다. 박 의원이 직접 살펴본 ‘AI 기반 초음파 정맥 채혈기’는 혈관이 잘 보이지 않거나 약한 환자의 정맥을 초음파로 실시간 탐색하고, AI가 정확한 위치에 바늘을 자동 삽입하여 채혈 성공률을 높이는 기술이다. 그는 이러한 혁신 기술이 ‘온마음AI복지’와 같은 경기도의 기존 복지 사업과 결합될 때 시너지가 극대화될 것이라고 강조하며, 향후 정책 연계 방안을 적극적으로 모색하겠다고 밝혔다. 또한, ‘스마트 인솔 솔루션’은 보행 시 발생하는 데이터를 분석해 환자의 균형, 하지 근력 등 신체 기능을 종합적으로 평가하는 기술로, 고령자나 재활 환자의 건강 관리에 큰 도움이 될 것으로 기대된다. 특히 AI 챗봇과 콜봇을 활용해 예약 및 안내를 통합 관리하는 AICC(AI 컨택센터) 시스템에 깊은 관심을 보였다. 이 시스템은 진료과별·의료진별 맞춤형 로직을 적용해 예약 오류를 줄이는 것은 물론, 고령층도 음성 인식으로 쉽게 이용할 수 있도록 해 환자 편의를 획기적으로 높인다. 박 의원은 “AI 기술이 단순한 편의를 넘어 의료진의 반복적인 업무를 줄여 생산성을 높이고, 궁극적으로 환자들에게 더 나은 서비스를 제공할 수 있다”고 평가했다. 또한, 박 의원은 병원 운영의 지속가능성을 위한 ‘의료폐기물 혁신 솔루션’에 주목했다. 부천에 본사를 둔 기업이 제안한 재사용 의료용품 렌탈 서비스는 막대한 양의 일회용 의료 폐기물을 줄이는 실질적인 대안으로 제시됐다. 일회용 가운을 재사용 가능한 제품으로 대체하고 자체 멸균 공장을 통해 렌탈함으로써, 병원은 폐기물 처리 비용을 절감하는 동시에 ‘ESG 선도병원’이라는 친환경 이미지를 구축할 수 있다. 박 의원은 “비용 절감과 친환경 이미지 제고라는 두 마리 토끼를 잡을 수 있는 ‘윈윈(Win-Win)’ 모델”이라며, 경기도가 이러한 혁신적인 사업을 적극적으로 지원해야 한다고 강조했다. 박상현 의원은 “현장의 현실적인 어려움과 혁신적인 기술을 개발하는 도내 기업들의 노력을 직접 듣고 보니, 양측의 소통이 얼마나 중요한지 다시 한번 깨달았다”며, “앞으로도 현장의 목소리를 경청하여 최신 기술이 도민의 삶에 실질적으로 도움이 되는 정책으로 구현될 수 있도록 노력하겠다”고 밝혔다.

“와, 수업에 딱 필요한 기능만 모아놨네요.” 지난 17일 서울 광진구 건국대에 위치한 서울 에듀테크 소프트랩. ‘인공지능(AI)·에듀테크 장애인교원지원단’ 연수에 참여한 시각장애인 교사 6명이 노트북 화면낭독기와 강의교사의 목소리에 귀를 쫑긋 세웠다. 손으로는 키보드와 점자정보단말기를 쉴 새 없이 오간 이들은 약 40분 만에 AI 소프트웨어를 사용해 수업 자료를 만들어 냈다. 김헌용 신명중 교사는 “AI서비스가 대부분 시각 이미지 기반이라 활용도가 낮았다”며 “오늘 익힌 도구를 수업에서 쓰면 학생들의 수업 몰입도가 높아질 것”이라고 말했다. 서울시교육청은 올해 전국 최초로 장애인 교사들을 위한 지원단을 꾸려 지난 10일 AI·에듀테크 관련 연수를 시작했다. 장애가 AI 활용에 장벽이 되지 않게 역량을 끌어올린다는 취지다. 이날 교육에 참여한 교사 6명은 앞으로 다른 장애 교원을 대상으로 연수를 진행하는 역할을 하게 된다. 서울에는 840명의 장애인 교원이 있고 이 가운데 50.8%는 시각장애인이다. AI도구로 학생들의 학습 여부를 점검하는 ‘챗봇’까지 만든 교사들은 새 도구가 수업 준비와 업무, 학생 평가까지 실질적인 도움이 될 거라고 봤다. 박준범 오남중 교사는 “종이 인쇄물이 경우 컴퓨터로 입력한 다음 소리로 전달하는 과정을 거쳐야 하는데, 디지털은 중간 단계가 크게 줄어들어 학생과 소통할 시간도 늘어난다”고 설명했다. 편도환 신상중 교사는 “그동안 에듀테크 연수는 시각 정보 기반으로 진행돼 장애 교사들은 소외되는 경우가 많았는데 반가운 기회”라고 했다. 장애 학생에게도 좋은 영향을 줄 것으로 보인다. 최용수 상계고 교사는 “특수학급 아이들의 경우 규칙 지키기 같은 생활지도에도 맞춤형으로 활용할 수 있을 것”이라고 했다. 김필우 서울정인학교 교사는 “외국 프로그램들은 텍스트를 읽어주는 기능이 잘 개발되어 접근성이 좋은데 한국 제품은 아직 미흡하다”며 “한국 기업도 좋은 도구를 많이 개발했으면 한다”고 강조했다. 서울시교육청은 이번 연수를 통해 접근성을 고려한 AI·에듀테크 서비스 목록과 기본 매뉴얼을 제작해 점자와 오디오북 형태로 보급할 예정이다.