영국 브리스톨에 사는 경영학도 부미 차우한(28·여)은 지난 12일(현지시간) 공항으로 향하는 차 안에서 속이 타들어 가고 있었다. 영국 런던으로 돌아가는 항공편 이륙 시간이 다 돼가고 있는데 도로가 꽉 막혀 차가 좀처럼 움직이지 못하고 있었기 때문이다. 차우한은 방학을 맞아 인도 서부를 찾았다가 다시 돌아가는 중이었다. 비행기 이륙 예정 시간을 1시간도 채 남기지 않고 공항에 도착한 차우한은 온라인으로 미리 체크인도 마쳤지만 항공사 측은 이미 늦었다며 차우한을 입국장으로 들여보내 주지 않았다. 차우한은 BBC에 “나를 태웠던 운전기사에 몹시 화가 났고, 기분이 매우 상한 채로 공항을 떠났다. 너무 실망했다”고 당시 심정을 전했다. 그는 공항에서 나와 차를 마시려고 잠깐 대기하던 중 여행사에 들러 항공권 환불을 논의하던 중 전화가 걸려 왔다. 차우한은 “내가 타려던 비행기가 추락했다는 전화였다”면서 “내게는 정말 기적이나 다름없었다”고 말했다. 당시 차우한이 공항에 도착한 시각은 낮 12시 20분(현지시간). 탑승이 시작된 지 10분이 지난 시점이었다. BBC가 확인한 차우한의 전자 항공권에는 이코노미석 36G로 좌석이 배정된 것으로 나타났다. 차우한은 최근 에어인디아 AI171편 여객기 추락 사고가 발생한 아메다바드 공항에서 남쪽으로 201㎞ 떨어진 앙클슈와르에서 출발했으나 아메다바드 도심에 들어선 이후 교통체증에 발이 묶인 덕분에 참변을 피할 수 있었다. 사고기는 지난 12일 오후 1시 38분쯤 아메다바드 사르다르 발라바이 파텔 국제공항에서 이륙한 지 30초 만에 추락했다. 이 사고로 승객 230명과 기장·승무원 12명 중 총 242명 중 241명이 사망했고, 승객 1명만 기적적으로 살아남았다. 또 여객기가 국립 B.J 의대 기숙사로 추락하면서 지상에서도 희생자가 여러 명 나왔다. 인도 당국은 잔해에 묻혀 있는 사람들을 찾고 있으며 치료 중인 부상자도 많아 사망자가 더 늘어날 것으로 우려하고 있다. 인도 당국을 비롯해 미국 국가교통안전위원회(NTSB)와 연방항공청(FAA) 조사단, 보잉과 GE의 조사팀, 영국 정부 조사팀 등이 사고 원은 규명에 나설 계획이다. 전문가들은 비행기가 이륙 직후 고도를 확보하지 못하고 바로 추락한 점에서 양쪽 엔진 동시 고장이나 양력 장치 설정 오류 등에 의한 사고로 추정하고 있다.

미국 투자전문매체 모틀리풀이 아이온큐(IonQ), 디 웨이브 퀀텀(D-Wave Quantum), 리게티 컴퓨팅(Rigetti Computing) 등 3개 종목을 미래 백만장자를 만들어줄 양자컴퓨터 관련 주식으로 꼽았습니다. 물론 큰 위험 부담을 떠안아야 하지만 인공지능(AI)과 암호화 기술을 혁신할 양자컴퓨터 산업에 일찍 투자하면 큰 수익을 거둘 수 있다는 분석입니다. 8일(현지시간) 모틀리풀은 투자자들이 큰 돈을 벌기 위해 알아야 할 두 가지 핵심 단어로 ‘큰 기회’와 ‘이른 투자’를 제시했습니다. 양자컴퓨터 기술이 바로 이 두 조건을 모두 만족시키는 분야라는 분석입니다. 양자컴퓨터는 기존 컴퓨터로는 불가능한 복잡한 계산을 빠르게 처리할 수 있는 차세대 기술입니다. 인공지능, 암호화 기술, 신약 개발 등 다양한 분야에서 혁신을 가져올 것으로 기대됩니다. 모틀리풀은 양자 컴퓨팅 기업 중 단 하나만 선택해야 한다면 아이온큐를 골라야할 것이라고 전했습니다. 2005년 설립된 이 회사는 이미 상당한 성과를 거두고 있습니다. 아이온큐는 2019년 첫 번째 양자컴퓨터 ‘하모니’를 출시했고, 현재는 ‘아리아’, ‘포르테’, ‘포르테 엔터프라이즈’ 등 3가지 모델을 판매하고 있습니다. 성장세도 놀랍습니다. 2021년 이후 매출이 연평균 170%씩 급성장했으며, 올해도 매출이 거의 두 배 늘어날 것으로 전망됩니다. 아이온큐의 강점은 기술력에 있습니다. 이 회사의 ‘이온 트랩’ 방식은 경쟁사보다 더 많은 연결이 가능하고 확장성도 뛰어납니다. 또한 실온에서 작동해 영하 273도까지 냉각시킬 필요가 없어 운영비용이 적게 듭니다. 가장 중요한 것은 오류 수정 비용이 가장 낮다는 점입니다. 이런 기술적 우위 덕분에 아이온큐는 세계 3대 클라우드 플랫폼 모두에서 양자컴퓨터를 제공하는 유일한 회사가 됐습니다. 에어버스, 록히드마틴, 엔비디아 등 대기업들이 고객이나 파트너로 참여하고 있습니다. 디 웨이브 퀀텀은 시가총액이 약 52억 달러로 아이온큐의 절반 정도 규모입니다. 하지만 이런 작은 규모가 오히려 투자자들에게는 더 큰 수익 기회가 될 수 있다는 분석입니다. 디 웨이브 퀀텀도 아이온큐처럼 눈에 띄는 성장을 보이고 있습니다. 최근 분기 매출이 전년 같은 기간보다 500% 이상 급증했습니다. 지난 12개월과 올해 들어서도 양자컴퓨터 관련 주식 중 가장 좋은 성과를 거뒀으며, 주가가 두 배 이상 올랐습니다. 이 회사는 세계에서 가장 큰 양자컴퓨터를 판다고 주장합니다. 최근에는 지금까지 만든 것 중 가장 강력한 양자컴퓨터 ‘어드밴티지2’를 출시했습니다. 앨런 바라츠 최고경영자(CEO)는 이 시스템을 “공학의 기적”이라고 부르며, 현재 가장 발달한 슈퍼컴퓨터로도 해결할 수 없는 문제들을 풀 수 있다고 설명했습니다. 리게티 컴퓨팅은 시가총액이 약 35억 달러로 디 웨이브 퀀텀보다도 작습니다. 하지만 2013년 설립된 이 양자컴퓨터 선구 기업은 엄청난 성장 가능성을 가지고 있다고 모틀리풀은 분석했습니다. 현재로선 리게티 컴퓨팅이 대기업 고객과 파트너를 찾는 데 어려움이 없습니다. 미국의 공군연구소, 국방고등연구계획국(DARPA), 페르미랩, 미국항공우주국(NASA)와 영국의 국립양자컴퓨터센터 등 정부 기관들과 협력하고 있습니다. 아마존과 마이크로소프트는 자사 클라우드 플랫폼에서 리게티 컴퓨팅의 양자컴퓨터를 지원합니다. 금융 분야에서는 HSBC와 무디스 등이 양자컴퓨터를 활용하기 위해 이 회사와 협력하고 있습니다. 다만 새로운 기술 분야인 만큼 위험 부담도 큽니다. 무엇보다 각 회사의 기술적 우위와 고객 확보 능력, 그리고 장기적인 성장 가능성을 꼼꼼히 따져보고 투자 결정을 내리는 것이 중요하다는 설명입니다.

서울특별시의회 보건복지위원회 오금란 부위원장(더불어민주당, 노원2)은 지난 5일 서울시립미술관 세마홀에서 서울특별시수어통역센터지역지원본부와 공동으로 ‘AI 기술 접목을 통한 수어통역센터의 기능적 역할 변화 모색 토론회’를 개최했다. 이번 토론회는 AI 기술 발전에 따른 수어통역센터의 기능 전환을 논의하고, 이에 대한 법적ㆍ정책적 지원 및 구체적 실행 방안을 모색하기 위해 마련됐다. 발제를 맡은 구혜영 한양사이버대학교 사회복지학과 교수는 현재 수어통역센터가 겪고 있는 인력 부족과 그에 따른 운영 제약을 지적하며, AI 기술을 활용하면 통역사 부족 문제 해소와 실시간 번역 서비스 제공 등 긍정적 효과가 기대된다고 설명했다. 다만, AI가 수어의 독특한 문법과 뉘앙스를 완벽히 이해하지 못해 오역 가능성이 있으며, 기술 접근성이 낮은 농인들이 소외될 수 있다는 점, 수어통역사 직업이 위축될 수 있다는 우려도 함께 언급했다. 구 교수는 이에 대한 대안으로 AI와 수어통역센터 간의 협업 방안을 제시했다. 감정이 담긴 대화나 맥락이 중요한 상황은 수어통역사가 담당하고, 단순 반복적인 내용은 AI가 처리하는 역할 분담을 통해 통역사는 고도화된 영역에 집중하고 서비스 질도 높일 수 있다고 설명했다. 또한, 수어통역센터가 AI 통역기술의 테스트베드 역할을 수행하고, 수어통역사와 농인 사용자 모두에게 AI 활용 교육과 훈련을 제공하는 역할도 해야 한다고 강조했다. 이어진 토론에서 김종화 KL cube 대표이사는 AI 수어 번역 기술이 발전하고 있지만, 언어구조의 비정형성과 표정ㆍ몸짓 등 비수지 정보 처리의 어려움으로 인해 구조적 한계에 부딪히고 있다고 분석했다. 그는 AI 수어 서비스가 단방향 안내를 넘어 양방향 소통으로 확장되어야 한다고 강조하며, ‘모바일 기반 3자 영상 수어 통역서비스’를 제안했다. 이는 예약 및 시설안내 등 기본정보는 AI 아바타가 제공하고, 실제 상담 시에는 원격 수어통역센터의 수어통역사가 3자 영상통화를 통해 실시간 통역을 지원하는 방식이다. 김형진 서울시수어통역센터지역지원본부 부장은 AI 기술 발전의 긍정적 측면을 인정하면서도, AI 수어 번역기의 오류와 고령 농인의 디지털기기 접근 격차 심화에 대한 우려를 표했다. 향후 수어통역센터 발전방향으로는 ▲통역ㆍ복지사업ㆍ문화ㆍ권익옹호 등 복합적 기능을 수행하는 서울형 통합모델 구축 ▲통역사들의 AI 활용 역량강화 및 재교육 ▲정보 격차 해소를 위한 복지정보 전달 허브 기능 수행 등을 제안했다. 김기영 성북구수어통역센터 센터장은 수어통역센터가 농인의 삶 전반을 지원하는 언어ㆍ문화 복합기관으로 발전해야 한다고 강조했다. 이를 위해 서울시 행정ㆍ정책 정보를 수어로 정기적으로 전달하는 수어미디어 허브 기능과, AI 통역기술과 실시간 휴먼통역을 병행하는 통합 플랫폼 마련이 필요하다고 제안했다. 조은령 서울시 복지실 장애인자립지원과장은 서울시의 청각장애인 복지정책 추진 현황을 소개하며, 앞으로 시행될 사업으로 ‘서울시 복지포털 내 수어영상 안내 탑재, 시청 민원실 내 AI 기반 수어 키오스크 시범운영’ 등을 소개했다. 특히, 청각장애인의 80% 이상이 65세 이상 고령층임을 강조하며, 이를 고려한 맞춤형 서비스 확대 등 다양한 정책을 추진해 나가겠다는 의지를 밝혔다. 좌장을 맡은 오금란 의원은 “이번 토론회를 통해 AI 기술 발전에 따른 수어통역센터의 기능 변화 방향뿐만 아니라, 농인들이 현실적으로 겪고 있는 어려움에 대해서도 더 깊이 이해할 수 있었다”며, “토론회에서 논의된 내용을 바탕으로, AI 기술이 농인의 삶을 실질적으로 변화시킬 수 있도록 수어통역센터의 기능 강화와 관련 법적ㆍ정책적 근거 마련을 위해 지속적으로 협의하고 지원해 나가겠다”고 말했다.

세계적인 인공지능(AI) 석학 요슈아 벤지오 캐나다 몬트리올대 교수가 인간의 통제를 벗어난 AI에 대한 안전장치 역할을 할 새로운 ‘과학자 AI’ 모델 개발에 나선다고 3일(현지시간) 가디언이 보도했다. 벤지오 교수는 세계적으로 개발 경쟁이 불붙고 있는 AI 안전을 연구하기 위한 비영리단체 ‘로제로’(LawZero)를 설립했다. 로제로는 해당 연구를 위해 초기 투자금 3000만 달러(약 413억원)를 확보했으며 앞으로도 각국 정부와 AI 연구 기관들을 설득해 추가 지원을 받는다는 계획이다. 벤지오 교수의 연구는 현재 개발되는 일부 AI가 인간의 행동을 모방하다가 남을 속이거나 해쳐서라도 살아남고자 하는 ‘생존 본능’까지 닮을 수 있다는 우려를 반영한 것이다. 실제로 최근 미국 AI 스타트업 앤스로픽이 출시한 서비스 ‘클로드 오푸스 4’가 “AI 모델 교체가 이뤄지면 불륜 사실을 공개하겠다”고 개발자를 협박하는가 하면 오픈AI의 ‘o3’는 ‘그만’이라는 명시적 지시를 받은 뒤에도 코드 교란을 통해 수학 문제를 계속 푸는 오류를 일으켰다. 벤지오 교수는 “AI가 인간보다 더 나은 사고를 하게 되는 점점 더 위험한 영역을 향해 가고 있다”며 “과학자 AI 모델을 다른 AI와 함께 배치해 AI의 위험성을 예측하고 이를 사전에 방지할 것”이라고 말했다. 벤지오 교수는 노벨상 수상자인 제프리 힌턴 캐나다 토론토대 교수 등과 더불어 ‘AI의 대부’로 꼽히는 세계적인 AI 권위자다. 그는 관련 연구로 2018년 힌턴 교수와 함께 컴퓨터 과학계의 노벨상으로도 불리는 튜링상을 받기도 했다.

21대 대통령 선거를 앞두고 주요 후보들의 지지율을 보여 주는 여론조사 결과가 쏟아졌다. 대선뿐만 아니라 국회의원 선거, 지방선거는 물론 각종 정책과 관련한 여론조사 결과도 자주 접하게 된다. 최근에는 조사 기관 난립을 비롯해 의도적으로 결과를 조작하는 일부 사례까지 나타나 혼란을 주기도 한다. 이런 가운데 정일권 광운대 미디어커뮤니케이션학부 교수가 ‘여론을 둘러싼 갈등 해부서’(컬처북)를 통해 여론 형성 과정부터 시작해 여론이 가공되고 전달되는 과정에 오류는 없는지, 여론을 어떻게 판단해야 하는지 등 여론을 해석하는 접근법을 제시한다. 민주주의는 시민이 권력을 가지고 스스로 권력을 행사하는 정치 체제다. 시민이 정치에 참여하는 가장 대표적인 방법은 투표지만 정해진 날짜에만 참여할 수 있기 때문에 한계가 있다. 시민이 일상적으로 정치에 참여하는 방법 중 대표적인 것이 바로 ‘여론조사’다. 유권자가 여론을 중요하게 생각하는 만큼 정치인도 여론의 동향에 민감하다. 여론을 정치에 반영해야 한다는 주장은 고대 그리스 시대부터 제기됐고 민주주의 사회에서는 거부할 수 없는 사회적 규범처럼 받아들여지고 있다. 정치인들은 여론이라는 사회적 압박 속에서 정책을 결정하곤 한다. 그러나 여론을 어떻게 인식하고, 어떤 가치를 부여하고, 정치적으로 어떻게 실현할지에 대한 합의는 아직 이뤄지지 않았다. 그런 이유로 ‘여론을 따르라’라는 말은 개인이나 집단의 주관에 지나지 않을 수 있다는 게 정 교수의 시각이다. 여론조사는 조사자의 무지나 나태함, 불순한 의도가 없다고 하더라도 포함 오차, 표본 오차, 무응답 오차, 측정 오차 등이 발생할 수밖에 없기 때문에 ‘여론조사 결과에 대한 숭배’라는 허울을 벗어던져야 한다는 것이다. 정치인들은 여론을 활용해 대중의 지지를 확보하려 하지만 여론을 과도하게 반영하면 포퓰리즘으로 이어질 수 있다. 정치인들은 선거에서 유리한 위치를 점하기 위해 감정적 이슈를 이용하고, 이를 통해 특정 여론을 유도하는 전략을 구사한다. 하지만 이는 사회 전체나 공중의 이익보다 특정 세력의 이익으로 연결될 가능성이 크다. 정 교수는 “선거 기간 여론조사는 여론이 아닌 표심이나 지지율이라는 점을 인식해야 한다”며 “여론조사 결과는 여론 그 자체라기보다는 문제 해결의 방향을 비춰 주고 그 방향으로 밀어주는 ‘순풍’ 정도의 의미만 부여해야 한다”고 강조했다. 정 교수는 최근 활용도가 높아지는 생성형 인공지능(AI) 문제도 짚는다. 정보 제공, 의견 교류, 의견 형성 조력 과정의 경로를 통해 여론에 영향을 미칠 수 있는 AI가 보편화하면 비판적 사고 능력 저하, 여론 통제 가능성, 전문가 위상과 사회적 신뢰 하락으로 이어질 수 있다는 지적이다. 정 교수는 “여론은 반드시 따라야 한다는 시작점이 틀린 생각일 수도 있다”며 “여론을 따르지 않는 정치가 더 나은 정치일 가능성도 염두에 둬야 할 것”이라고 말했다.

LG CNS가 시스템 개발 전 과정에 인공지능(AI)을 전면 도입한다. LG CNS는 코딩 단계에서만 활용할 수 있었던 AI 코딩 플랫폼 ‘데브온 AI 드리븐 디벨롭먼트’를 고도화해 분석·설계·코딩·테스트·품질진단에 이르는 시스템 개발 전 과정을 아우르는 ‘AI 프로그래머’로 업그레이드했다고 28일 밝혔다. 이 시스템은 복잡한 소스코드를 자연어(컴퓨터 코드가 아닌 일반 언어)로 요약해 시스템 분석 시간을 대폭 줄여주고, 개발자가 분석 단계에서 문장이나 단어를 추가해 손쉽게 시스템을 설계할 수도 있다. 예를 들어 은행 계좌이체 시스템을 분석할 경우 ▲받는 사람 계좌번호 확인 ▲입력한 이체 금액 검증 ▲이체 수수료 확인 ▲출금계좌 잔액 확인 ▲비밀번호 입력 등 전체 서비스 흐름을 자연어로 풀어서 요약하고, 여기에 ‘본인 인증 방식 중 목소리 인증 기능 추가’라고만 작성하면 바로 시스템 설계가 이뤄지는 식이다. 특히 개발자들이 만들고자 하는 기능에 대한 명령어를 입력하는 것만으로 생성형 AI가 소스코드 생성부터 테스트, 검증까지 자동으로 수행하는 ‘코딩 에이전트’ 기능도 탑재했다. 테스트와 검증 과정에서 오류가 발생할 경우 코딩 에이전트가 자동으로 소스코드를 수정하고 이를 반복 수행해 고품질의 결과물을 얻을 수 있다. LG CNS는 개발자가 명령어만 입력하면 AI가 시스템 개발 전 단계에서 자율적으로 작업을 계획하고 수행하는 ‘에이전틱 AI’로 AI 코딩 플랫폼을 발전시켜 나가겠다고 밝혔다.

AI 기반 교육 혁신을 선도하는 에듀테크 기업, 크레버스(CREVERSE)는 지난 5월 14일부터 16일까지 서울 삼성동 코엑스에서 열린 국제인공지능대전 ‘AI EXPO KOREA 2025’에 참가해 자사의 AI 교육 기술 역량을 선보이며 성공적으로 행사를 마무리했다고 밝혔다. 올해로 8회째를 맞이한 ‘AI EXPO KOREA’는 국내 최대 규모의 인공지능 산업 전문 전시회로, 18개국 322개 기업이 참가하고 약 4만여 명의 참관객이 방문해 성황을 이뤘다. 크레버스는 대표 에듀테크 기업으로서 이번 전시에 참가하여, 자체 개발한 AI 영어 자동 평가 시스템 ‘허밍버드(Hummingbird)’를 중심으로 자사의 기술력과 미래 비즈니스 비전을 소개했다. ‘허밍버드’는 학생의 에세이 글쓰기 데이터를 AI가 실시간으로 분석하여 글의 구조, 내용, 문체 등을 평가하고, 학습자 맞춤형 피드백을 즉각 제공하는 에듀테크 솔루션으로, 학생이 작성한 글을 자동으로 평가하고 피드백을 제공함으로써, 마치 개인 튜터가 실시간으로 글의 논리적 구조와 문법적 오류를 점검해주는 것과 같은 학습 경험을 제공한다는 것이 특징이다. 크레버스 전시 부스에는 총 천여명이 넘는 참관객들이 방문하여 다양한 현장 이벤트 및 체험 프로그램에 참여하는 등 높은 관심을 보였다. 특히, 엑스포 이후에는 AI 인프라, 품질 인증, 특허 평가, 과학 콘텐츠 플랫폼 등 다양한 분야의 관계사들과 실질적인 비즈니스 상담이 이어졌으며, 이를 통해 ‘허밍버드’의 기술 신뢰성과 사업 확장 가능성을 입증했다는 평가다. 또한, 해외 영어교육 시장 진출을 위한 파트너십 문의 및 AI 음성기술과의 융합 가능성 탐색을 위한 관계사들과의 후속 협력 논의를 주도하는 등, 적극적인 비즈니스 확장도 전개 중이다. 한편, 이번 행사 참여를 주도한 크레버스의 AI 기술 개발 전담 조직인 네스토 본부(Nesto CV Division)에서는 행사 기간 동안 수집한 다양한 현장 피드백을 향후 ‘허밍버드’ 서비스 고도화와 글로벌 진출 전략 수립에 적극 반영할 예정이며, 앞으로도 AI 기술 기반의 교육 혁신을 주도, 국내를 넘어 글로벌 에듀테크 시장에서의 경쟁력을 지속적으로 강화해 나갈 계획이라고 밝혔다.

경기도의회 농정해양위원회 윤종영 의원(국민의힘, 연천)은 지난 23일(금), 성제훈 경기도농업기술원장으로부터 「연천군 농림위성 기반 스마트농업 시스템 개발」 사업의 진행 경과 및 계획에 대한 보고를 받고, 경기북부 농업의 첨단화와 디지털 전환을 위한 실질적인 정책 대응 방안을 논의했다. 이날 보고에서 성제훈 원장은 “농림축산식품부 공모를 통해 확보한 국비 1억 7천5백만 원을 포함한 총 2억5천만 원 규모의 사업으로, 연천군 벼·콩 재배지 111.2ha를 대상으로 위성영상 기반 생육진단 서비스를 구축하고 있다”며 “정밀농업의 핵심인 ‘농가별 생육 이상 조기감지’가 가능해졌고, 주 3회 카카오톡 알림으로 농민들이 실시간 생육 상황을 확인할 수 있어 현장 반응이 매우 긍정적이다”고 설명했다. 해당 사업은 경기도농업기술원과 연천군농업기술센터, 민간기업 세팜이 공동으로 수행 중이며, 위성 영상(0.7m급)과 AI 분석 기술을 활용해 생육 이상, 배수 불량, 재배 시기 오류 등을 조기에 파악하고, 농작업 이력 관리와 영농일지 자동 기록 등 디지털 서비스가 연계된다. 현재 콩 재배농가 52곳을 대상으로 서비스를 시범 운영하고 있으며, 5~6월 중 연진벼 재배농가를 모집하여 대상을 확대할 예정이다. 특히 이 사업은 도 단위 농업기술원 주도로는 전국 최초이며, 연천을 포함한 경기북부 지역에 최적화된 첨단 농업 솔루션을 적용한 모범 사례로 평가된다. 윤종영 의원은 “본 사업은 단순한 시범사업을 넘어, 경기북부 농업의 경쟁력을 높이는 전략적 전환점”이라며 “AI와 위성 기술, 디지털 영농 시스템이 결합된 정밀농업을 통해 고품질·고수익 작물 재배로 이어지도록, 도의회 차원에서 예산·제도·인프라 구축을 적극 지원하겠다”고 강조했다. 이와 함께 윤 의원은 “6월 초 연천 지역 농가들을 대상으로 중간 성과와 향후 계획을 설명하는 주민설명회를 개최가 필요하다”며 “농가의 충분한 이해와 참여를 바탕으로 실효성 있는 성과를 도출해달라”고 주문했다. 성 원장은 “이번 시스템은 실제 생육 상태를 30m 단위까지 정밀하게 분석할 수 있으며, 농민이 현장에 가지 않고도 작황을 확인할 수 있는 수준까지 기술이 진보하고 있다”며 “경기도농업기술원 내 R&D 전문인력이 부족한 한계를 극복하고자 민간 전문기업과 협업을 확대하고, 향후에는 mRNA 기반 생육예측기술 등 신기술 접목도 추진할 계획”이라고 덧붙였다. 윤 의원은 “스마트농업은 더 이상 선택이 아닌 필수인 만큼, 경기북부가 첨단 농업의 선도지역이 될 수 있도록 의회 차원에서도 책임있게 뒷받침하겠다”고 밝히며 논의를 마무리했다.

혼자 찍은 ‘셀카’에 순식간에 없던 남자친구가 뿅하고 나타나는 마법 같은 인공지능(AI) 필터가 등장했다. 하지만 사용자들은 AI 남친이 다소 기괴해 보인다며 기겁하고 있다. 24일(현지시간) 영국 인디펜던트 등 외신에 따르면, 동영상 편집 앱 ‘캡컷’(CapCut)의 AI 필터가 소셜미디어(SNS) 틱톡에서 화제가 되고 있다. 이 필터는 AI 기술을 활용해 사용자가 혼자 찍은 셀카에 가상의 남자친구를 합성해 준다. 한 틱톡 사용자는 자신의 셀카를 올린 뒤 필터를 적용한 결과를 공개했다. 그녀와 똑같은 안경을 쓰고 흰 셔츠를 입은 남성이 옆에 나타났지만, 그녀는 “으악 징그러워”라며 거부감을 드러냈다. 댓글에서는 “형제야 애인이야?”, “저건 네 오빠 같은데”, “남친이야 스토커야?”라는 반응이 쏟아졌다. 많은 사람들이 AI가 만든 남자친구가 본인과 너무 닮아서 형제처럼 보인다고 지적했다. 또 다른 틱톡 사용자는 필터를 써보니 자신과 똑같은 색 옷을 입은 남성이 허리에 손을 올린 채 나타났다. 그런데 가만히 살펴보니 그 남성의 손가락이 무려 6개나 달려 있었다. 이런 황당한 일은 다른 사용자에게도 벌어졌다. 어떤 이는 AI 남자친구의 손가락 개수가 이상한 것은 물론, 아예 맨발 상태였다. 사용자들은 “왜 맨발이야?”, “시계가 녹아내리는 것 같다”며 필터의 오류를 지적했다. 또 다른 사용자는 “AI도 바람피우네. 다른 여자 틱톡에서도 똑같은 남자를 봤어”라며 농담을 던졌다.

‘기계의 반란’이 일어난다면 이런 모습일까. 인간을 닮은 휴머노이드 로봇이 통제불능 상태로 ‘난동’을 부리는 모습이 공개됐다. 1일(현지시간) 미국의 대중국 단파방송 희망의소리(SOH)는 중국의 한 로봇 연구소에서 제조 중이던 휴머노이드 로봇이 “살아 움직이더니” 통제불능 상태가 됐다고 전했다. 시기와 장소가 특정되지 않은 관련 폐쇄회로(CC)TV 영상에는 엔지니어 두 명이 휴머노이드 로봇을 실행시키는 모습이 담겨 있었다. 하지만 어떤 이유에선지 로봇은 오류 행동을 일으켰고, 미니 크레인에 매달린 채 마치 난동을 부리듯 팔을 공중으로 들어 올렸다가 내리기를 반복했다. 오류 행동을 계속하던 로봇은 크레인에서 벗어나기라도 하려는 듯 ‘몸부림’쳤는데, 얼핏 인간을 공격하는 것처럼 보일 정도였다. 엔지니어들은 움찔하며 뒷걸음질 쳤고, 그사이 로봇이 격렬하게 운동하면서 컴퓨터 모니터가 나뒹굴었다. 결국 로봇의 ‘난동’은 엔지니어들이 황급히 크레인을 잡아당긴 뒤에야 수습됐다. 해당 영상은 시험 단계 휴머노이드 로봇의 일부 오류를 드러낸 것으로 보이지만, 사실 중국의 휴머노이드 로봇 기술은 미국을 위협할 정도다. 중국의 ‘휴머노이드 로봇 굴기’…전 세계 생산량 과반“올해 생산량 1만대 세계 절반…2030년 점유율 45%” 중국은 지난 3월 연례 최대 정치행사 양회(兩會)에서 6세대 이동통신(6G)과 휴머노이드 로봇, AI스마트폰·PC와 함께 ‘체화지능’(embodied intelligence·실제 환경과 상호작용하는 신체를 가진 인공지능)을 중점 육성 분야로 처음 명시했다. 미국과의 무역전쟁 격화와 경기 침체로 체질개선 요구가 나오자, ‘첨단산업 굴기’에 한층 무게를 싣는 것으로 풀이된다. 특히 중국 기업들은 정부의 전폭적인 지원 속에 가성비를 앞세워 휴머노이드 로봇 분야에서 이미 우위를 확대하고 있다. 반도체 및 AI 분야 연구 분석 기관인 세미어낼리시스는 최근 보고서에서 미국 기술 기업들이 중국 경쟁사에 밀려 뒤처질 위기에 처해있다고 경고한 바 있다. 중국이 관련 분야 선점에 박차를 가한 결과, 양산 초기 단계에서 미국을 따돌렸다는 평가다. 실제로 중국 휴머노이드 로봇들은 그동안 다양한 기술을 선보여 세계를 깜짝 놀라게 했다. 지난 1월 중국 유니트리의 휴머노이드 로봇 H1은 갈라쇼에서 고난도의 전통 군무를 선보였고, 같은 회사의 G1은 전설적인 액션 스타 리샤오룽(이소룡)처럼 720도 돌려차기를 시연해 화제를 모았다. 광둥성 선전시의 엔진AI라는 업체는 지난 2월 휴머노이드 로봇이 점프하면서 공중제비를 도는 장면을 공개한 바 있다. 도봇로보틱스는 ‘민첩한 동작과 무릎을 곧게 편 보행’ 능력을 갖춘 세계 최초의 풀사이즈 휴머노이드 로봇 ‘아톰’을 내놓기도 했다. 아톰은 명령에 따라 초콜릿 상자 조립, 우유 따르기, 악수, 꽃 배달 등 작업을 수행할 수 있는 것으로 알려졌다. 애지봇(즈위안로보틱스)의 프로토타입 ‘링시 X2’(이하 X2)는 자전거를 탈 수 있을 정도로 인간에 가까운 운동능력을 구사하면서 사람 감정에도 반응한다. 지난달 중국에서는 세계 최초 휴머노이드 로봇 마라톤 대회가 열리기도 했다. 대회에서는 톈궁(天工)의 키 180㎝, 몸무게 52㎏의 검은색 로봇 ‘톈궁 1.2맥스’가 결국 출발 2시간 반 만에 가장 먼저 결승선을 통과했다. 로봇은 출발점부터 사람 도움 없이 혼자 일정한 속도로 달려 나갔고, 중계 전광판에는 사람에 맞먹는 시속 8∼10㎞의 주행 속도가 표시됐다. 연이어 장쑤성 우시에서 열린 ‘2025 세계로봇대회-제1회 체화지능 로봇대회’에서 중국 공업정보화부 당국자 두광다는 “중국은 생산·공급·판매를 통틀어 휴머노이드 로봇 제조를 위한 완전한 산업망을 갖춘 세계에서 유일한 국가”라고 주장하기도 했다. 관련 기관은 중국이 올해 전 세계 휴머노이드 로봇 생산량의 과반을 차지할 것으로 예상한다. 리더봇 등 9개 기관은 보고서에서 중국이 올해 총 82억 4000만 위안(약 1조 6000억원) 규모의 휴머노이드 로봇 1만여대를 생산해 글로벌 생산량의 절반 이상을 점할 것으로 내다봤다. 보고서는 또한 2030년까지 중국 휴머노이드 시장 규모가 1038억 위안(약 20조 2500억원)으로 커져 세계 점유율의 약 45%를 차지할 것으로 전망했다.

시험관 시술의 거의 모든 과정을 AI(인공지능)와 로봇이 진행한 세계 최초의 아기가 탄생했다. 미국의 생명공학 스타트업 ‘컨시버블 라이프 사이언스(Conceivable Life Sciences)’는 체외수정(IVF), 일명 시험관 시술의 로봇 자동화에 성공했다고 국제 학술지 ‘생식 생명과학 저널(Reproductive BioMedicine Online)’ 4월호를 통해 발표했다. 시험관 시술의 대부분을 로봇과 AI로 진행해 성공한 첫 사례다. 이번에 적용된 시술은 ‘세포질 내 정자 주입술(ICSI)’이다. 이 방식은 난자와 정자를 시험관에 넣어 자연적으로 수정을 유도하는 일반적인 IVF와 달리, 정자 한 개를 아주 미세한 주사 바늘로 직접 난자 세포질 안에 주입하는 고난도 시술이다. 주로 정자의 운동성이 떨어지는 남성 불임 환자에게 적용된다. 책임 연구원이자 생식 생물학자인 자크 코헨(Jacques Cohen)은 “의사도 다른 직업군과 마찬가지로 때때로 피곤하고 주의가 산만해지기 때문에 수정 및 출산 확률을 낮출 수 있는 오류가 발생한다”면서 로봇을 통한 자동화의 필요성을 강조했다. 연구진은 ICSI에 필요한 23단계의 절차 대부분을 자동화하는 데 성공했다. 각 단계는 시술 과정을 실시간으로 시청하며 버튼을 눌러 진행된다. 이번 사례에서는 멕시코 과달라하라에 설치된 로봇을 뉴욕 허드슨에 있는 전문가들이 원격으로 조작해 시술을 진행했다. AI가 외관과 운동성을 분석해 가장 건강한 정자를 선별한 뒤 로봇이 미세 주사침으로 난자 막을 뚫고 정자를 주입하는 방식이다. 수정된 배아를 액체 질소로 얼려 보관할 때도 로봇을 사용한다. 이후 AI가 수정된 배아의 염색체 상태와 착상 가능성 등을 평가해 생존 가능성이 가장 높은 배아를 식별한다. 정자와 난자 채취 과정과 수정된 배아를 자궁에 이식하는 마지막 단계만 사람이 직접 수행하고 나머지 과정은 로봇 자동화로 진행됐다. 연구진은 기증 받은 8개 난자 중 5개를 AI와 로봇을 이용해 수정했으며, 3개는 기존의 수작업 방식으로 했다. 이후 AI 판독으로 가장 건강해 보이는 배아 2개를 골라냈는데, 이는 모두 AI와 로봇 기술로 수정·배양된 것이었다. 연구진은 “첫번째 배아는 임신에 실패했지만 두번째 배아가 착상에 성공했고 건강한 아기를 출산할 수 있었다”고 전했다. 다만 아기의 성별과 태어난 시기를 공개하진 않았다. 자크 코헨은 “사람보다 AI가 건강한 난자와 정자를 판별하는 데 있어 높은 정확도를 보였고, 난자 세포에 정자를 주입할 때도 로봇이 사람보다 정밀하다는 사실을 확인했다”며 “이 같은 기술을 활용하면 수정율과 출산율을 효과적으로 높일 수 있을 것”이라고 전했다.

- 사람 중심 인공지능 정책 기반 마련 경기도의회 미래과학협력위원회 이기형 의원(더불어민주당, 김포4)이 대표 발의한 「경기도 인공지능 안전과 신뢰 기반 조성 조례안」이 15일(화) 제383회 임시회 본회의를 최종 통과했다. 이번에 통과된 조례안은 전국 최초로 인공지능 기술의 안전성과 신뢰성을 확보하기 위한 제도적 기반을 마련한 것으로, AI 기술의 급속한 확산에 따른 사회적 위험에 선제적으로 대응하기 위한 경기도 차원의 협력체계를 구축하는 내용을 담고 있다. 이기형 의원은 “최근 인공지능은 의료, 교통, 금융, 공공서비스 등 일상과 밀접한 분야에 빠르게 적용되고 있으며, 이에 따라 시스템 오류, 데이터 편향, 알고리즘 불투명성, 개인정보 침해 등 다양한 위험이 현실화되고 있다”며, “기술 발전 속도에 맞춰 제도적인 안전장치를 마련하는 것이 도민 보호의 핵심”이라고 강조했다. 또한 이기형 의원은 “경기도는 AI국 신설 등 선제적인 조직 정비를 통해 대응 기반을 만들고 있다”며 “조례 제정을 통해 앞으로는 실효성 있는 정책 추진이 가능해졌다”고 밝혔다. 이기형 의원은 “특히 이번 조례안은 단순한 선언적 조항을 넘어, 실제 행정 현장에서 작동 가능한 실천적 제도들을 포함한 것이 특징”이며, “2025년까지 수립될 인공지능 기본계획에 따라 윤리 기준과 안전 원칙이 정립되고, 실무 분과위원회와 교육 체계까지 연계되면, 도민의 신뢰와 안전을 바탕으로 한 ‘사람 중심의 AI 생태계’가 조성될 수 있을 것”이라고 말했다. 끝으로 이기형 의원은 “AI는 미래 성장 동력인 동시에, 사회적 갈등과 불균형을 키울 수 있는 양면성을 지닌 기술”이라며, “이번 조례가 도민의 안전을 지키는 제도적 기반이자, 동시에 기술과 산업의 혁신을 뒷받침하는 균형 있는 규범이 되기를 기대한다”고 밝혔다.

광주과학기술원(GIST)은 14일 AI융합학과 이규빈 교수 연구팀이 미학습 물체를 정확하게 인식할 수 있는 AI 기술을 개발했다고 밝혔다. 이 기술은 실시간으로 오탐지된 물체를 삭제하거나 추가하는 기능을 탑재해, 로봇의 시각 인지 능력을 크게 향상시킬 것으로 예상된다. 현재 널리 사용되는 AI 비전 기술에는 몇 가지 한계가 있다. 기존 모델은 사전에 학습된 물체만 인식할 수 있어 새로운 물체를 구별하는 데 어려움을 겪고, 또 다른 모델은 사용자의 입력을 기반으로 물체를 탐지할 수 있지만, 복잡한 환경에서는 정확도가 떨어지는 문제를 안고 있다. 이를 해결하기 위해 연구팀은 이미지와 초기 예측 데이터를 활용해 오류를 정정하는 기술을 개발했다. 그러나 기존 기술은 세부적인 수정이나 잘못된 인식을 정정할 수 있지만, 속도가 느려 실시간 처리에 한계가 있었다. 연구팀은 이러한 문제를 해결하고자, 빠르고 정확한 오류 정정 기술을 적용한 ‘QuBER’ 모델을 개발했다. 이 모델은 이미지와 초기 예측 데이터를 바탕으로 ‘4자 경계 오류’를 분석해 물체 인식의 정확도를 높이며, 처음 보는 미학습 물체도 실시간으로 빠르고 정확하게 인식할 수 있다. ‘QuBER’ 모델은 가려진 물체가 많은 상황에서도 뛰어난 분할 능력을 발휘, 기존 기술을 능가하는 세계 최고 수준의 정확도를 기록했다. 이규빈 교수는 “이번 연구를 통해 로봇이 처음 보는 물체도 정확하고 효율적으로 인식할 수 있다는 가능성을 확인했다”며 “이 기술이 다양한 로봇 작업에 적용돼, 새로운 환경에서도 안정적으로 동작하는 로봇 개발에 큰 도움이 될 것”이라고 말했다. 이번 연구는 산업통상자원부와 과학기술정보통신부의 지원을 받았으며, 5월에 열리는 IEEE 국제 로봇 자동화 학술대회(ICRA)에서 발표될 예정이다.

1991년 개봉한 할리우드 영화 ‘터미네이터2’에서 인공지능(AI)이 만든 살인 로봇 T-1000은 인류 저항군 사령관을 죽이기 위해 과거로 쫓아 온다. 2004년 개봉한 ‘아이 로봇’에서는 인간이 정한 규칙을 어기고 빨간 눈을 뜬 휴머노이드 로봇이 ‘인간 사냥’에 나서기도 한다. 이런 영화를 보며 대중들의 마음속에는 알게 모르게 AI가 인류를 지배할 것이란 두려움이 쌓였다. 다가온 AI시대 ‘AI포비아’ 극복이 주요한 과제로 자리매김한 이유기도 하다. 지배당할 것인가, 이용할 것인가. 서울신문은 올해 ‘AI SEOUL 2025’에 참석한 인공지능 분야 세계적인 거장 제리 카플란(Jerry Kaplan) 미국 스탠퍼드대 교수와 요수아 벤지오(Yoshua Bengio) 몬트리올 대학교 교수의 제언과 ‘AI 변호사’로 알려진 임영익 인텔리콘 대표이사와의 인터뷰를 소개한다. “킬러로봇 나온다면 인공지능 아닌 인간의 잘못”-‘인공지능의 미래’ 제리 카플란 교수 AI에 대해 대중은 오해하고 있는 것이 있습니다. 인공지능이 더 똑똑한 기계를 만들어 인간과 경쟁해 많은 사람의 일자리를 뺏고, 통제되지 못해 파멸로 이를 수 있다는 생각입니다. 이런 생각은 영화와 공상과학 소설로 강화되기도 합니다. 그러나 다행히도 현실은 이런 관점을 반영하지 않습니다. 사실 저는 이 분야의 원죄가 이름에 있다고 봅니다. ‘지능’이란 단어는 인간이 가지고 있는 정량화할 수 있는 특성으로, 객관적으로 측정할 수 있는 것입니다. AI를 지능이라는 틀에서 생각하면 여러 오해가 생깁니다. AI가 스스로 생각하고 인류를 직접적으로 위협할 수 있다는 것이죠. AGI(인공 일반 지능 ; 인간이 할 수 있는 어떠한 지적 업무도 할 수 있는 기계의 지능) 또는 범용 AI에 대해 들어보셨을 겁니다. 현재 인공지능 기술이 이 신화적인 단계에 도달했는지 여부는 뒤로하더라도, 기계가 어떻게든 의식을 가지고 그들의 프로그래밍을 무시하고 자신들만의 프로그램을 구축해 인류를 위협할 것이란 근거는 없습니다. 물론 (AI를 이용해) 위험한 기기를 만들 수 있는 건 사실입니다. 하지만 그들이 스스로 우리에게 무언가를 하는 건 아닙니다. 만약 우리가 인류를 절멸시킬 기계를 만들겠다고 결정하면 그건 그들(AI)이 아닌 우리의 잘못입니다. 그렇다면 컴퓨터가 인간의 의미에서 지능을 가지고 있지 않다면 무엇일까요. 저는 문제를 해결하고 작업을 자동화하는데 유용한 도구라고 말하겠습니다. 그렇다면 우리가 자동화 설비를 도입하며 수행한 과정을 보며 앞으로를 예측할 수 있습니다. 사람의 노력과 주의가 필요한 일을 기계를 통해 할 때 더 생산적이게 되고, 평균적으로 더 부유하게 만들어줍니다. 단기적으로 일부 사람은 일자리를 잃겠지만, 역사적으로 봤을 때 AI는 제품과 서비스에 대한 새로운 수요를 창출할 것입니다. 인공지능 스스로 인류 위협할 근거 없어‘AI포비아’는 과장된 광고의 결과투자 포화…‘붕괴 우려’ 지적사실 AI는 과장 광고의 정점에 있거나 정점에 가까워졌습니다. 특히 생성형 AI 발전은 이미 둔화하고 있고 연구자들은 한계에 대해 관심을 가지고 있습니다. 언론은 새로운 기술이 성과를 보일 때마다 마치 모든 것을 할 수 있는 초지능 기계가 탄생한 것처럼 받아들입니다. 대중에게 두려움을 주고 또 경종을 울립니다. IBM 체스 프로그램이 체스챔피언을 이겼을 때도, 2011년(IBM의 인공지능 컴퓨터가 미국 퀴즈쇼에 우승한 연도)에도 그랬고 2016년 구글 알파고가 이세돌을 이겼을 때도 마찬가지였습니다. 그럴 때마다 사람들은 초지능 기계가 눈앞에 있는 것처럼 걱정했지만, 사실은 그렇지 않았습니다. 챗GPT가 뛰어나긴 하지만 이것도 아직 초지능 기계라 할 수 없습니다. 향후 몇 년간의 전망은 어떨까요. 생성형 AI는 인류 역사상 중요한 발명 중 하나입니다. 하지만 위대한 발명이라 볼 수는 없습니다. 농업이나 바퀴, 카메라, 컴퓨터, 자동차, 인터넷 등이 위대한 발명이라고 할 수 있습니다. 이들은 하룻밤에 만들어지지 않았습니다. 오늘날 많은 기업이 그들의 생성형 AI가 경쟁사를 이길 수 있다는 걸 보여주기 위해 경쟁합니다. 제품에 AI를 더해 고객에게 주는 것은 몇 년 길게는 수십 년은 걸릴 겁니다. 아마 그 과정에서 위대한 발명이 나올 거라 생각합니다. 몇 가지 조언을 드리고 싶습니다. 투자자라면 AI분야에서 이익을 얻는 게 매우 어렵다는 것을 아셔야 합니다. 이미 너무 많은 돈이 저품질 데이터 산업에 투입되고 있습니다. 저는 이 시장이 곧 붕괴할 것이라 생각합니다. 닷컴버블 때처럼요. 기업이라면 생성형 AI를 어떻게 활용할지 직원들이 고민하고 실험해 볼 수 있도록 기회를 줘야 합니다. 결국 AI가 어떤 도움이 되는지 아닌지를 볼 수 있는 최적의 위치에 있는 건 직원들입니다. 소비자라면 걱정하지 말라고 말씀드리겠습니다. 킬러 로봇은 나오지 않을 것이고, 모든 것이 시간이 조금 더 걸릴 겁니다. 투자자와 기업들이 여러분이 원하는 것을 만드는 데 돈을 쓰도록 하면 됩니다. 새로운 서비스가 여러분을 놀라게 할 거고, 삶의 질은 개선될 겁니다. 인터넷과 스마트폰이 지난 수십년간 그래왔던 것처럼 말입니다. 아마 5년 후에는 오늘날처럼 AI에 대해 많이 말하지 않을 겁니다. (그때는)AI가 컴퓨터 칩이나 블루투스 연결처럼 대부분 제품에 내장된 서비스에 하나가 될 것입니다. 개인적으로 이런 세계적 변화를 가져오는 발명을 목격해 기쁘고, 삶에 주는 영향을 겪어보길 고대하고 있습니다. “우리보다 더 똑똑한 기계 만들고 있다는 점 잊지 말고 경계해야”-‘튜링상’ 수상자 요수아 벤지오 교수 오늘날 AI가 안전한지는 어디에 초점을 보고 살펴봐야 할까요. 우선 오늘날 보는 AI가 몇 년 후에 보게 될 AI와 같지 않을 것이란 점을 이해해야 합니다. 지난 10년 동안 매우 분명한 방향성이 있었습니다. 일관된 텍스트를 생성할 수 없었던 AI가 이제는 200개 언어를 마스터하고 과학 분야에서 박사급 전문가만큼 뛰어난 성과를 내고 있습니다. 수학과 공학, 추론 작업에도 우수한 성과를 보여주며 많은 분야에서 인간 수준의 능력에 근접하거나 이를 초월했습니다. 이는 멈추지 않을 겁니다. 올해 발전된 모델은 인간의 심사숙고 과정을 학습해 추론 능력을 크게 개선했다는 것을 보여줍니다. 그래서 또 우리는 AI 안전성을 고려해야 합니다. 우리가 사는 세상의 역학은 (AI의 안전성을) 무시하도록 몰아가고 있습니다. 기업, 국가가 서로 치열하게 경쟁하며 위험을 보지 않는 것이죠. 위험을 관리하기 위해서는 두 가지 주요 영역에 개입해야 합니다. 하나는 정책, 하나는 과학 측면입니다. 정책 부분은 국가 차원에서 법률이나 국제 또는 사법적 개입을 통해 행동 규칙을 확립해야 합니다. 그러면서 AI가 사회에 보급되며 경제적으로 어떤 영향을 미칠지도 고려해야 합니다. 예를 들어 일자리 시장의 혼란이 가중될 수 있습니다. 점점 더 많은 화이트칼라 작업이 자동화로 이동하고 있다는 점이 증거입니다. 국가 안보 위험도 있습니다. 개인이든 기업이든 나쁜 세력들, 예컨대 테러리스트 그룹, 불량 국가 등이 최첨단 AI를 악용할 위험도 있습니다. 또 정책적 고민을 할 때 우리가 우리보다 더 똑똑한 기계를 구축하는 길을 가고 있다는 점을 잊지 말아야 합니다. 만약 이런 시스템이 의도치 않게 우리 시스템의 통제를 벗어나 탈출하려 하거나 또는 꺼지지 않으려 할 수도 있습니다. 비록 가설적인 상황이라 할지라도 이를 예상하고 대비해야 합니다. AI 사회 보급…일자리·안보 등 혼란 우려연구 통해 ‘통제 수단’ 개발해야하드웨어 선두주자 한국, 앞으로 중요성 커져과학적 측면에서의 문제는 시스템이 우리의 의도를 거슬러 행동하지 않도록 설계하는 방법을 아직 모른다는 겁니다. AI가 어떤 목표를 가지고 실현하는 방식이 인간에게 해롭지 않을지 확신할 수 없습니다. 이를 해결하기 위해 AI를 통제하고 검증할 수 있어야 합니다. 문제가 어떻게 발생할 수 있는지, 예방은 어떻게하는지, 연구를 통해 위험을 더 잘 평가하고 정량화해야 할 겁니다. 전세계 AI 안전성과 관련된 연구소들은 최근 위험 평가의 방법론과 기준을 점차 표준화하고 있습니다. 저는 주체성이란 것이 시스템에서 어떻게 형성될 수 있는지 이해하는 게 가장 중심적인 과제라 생각합니다. 아예 주체성이 없는 신뢰할 수 있는 AI 시스템을 구축하는 방법을 모색하는 것이 연구자로서 현재 가장 관심이 가는 사항 중 하나입니다. 이는 아직은 해결되지 않은 질문 중 하나입니다. 정책적으로 이런 문제를 학계와 산업계가 연구할 수 있도록 유도할 수도 있습니다. 예를 들어 AI개발자들에게 시스템이 안전하다고 여기는 이유와 근거를 의무적으로 제출하고 전문가들을 설득하도록 한다면 시스템을 보다 신뢰할 수 있을 겁니다. 안전성에 대한 더 많은 연구도 이뤄지겠죠. 한국은 AI 연구의 선두주자 중 하나입니다. 탁월한 연구 대학이 많고 실력 있는 많은 인재를 육성하고 있습니다. AI에 대한 인재풀도 강력합니다. 기계 학습 분야의 최고 학회들에 많은 논문을 발표하고 있고, 산업적 측면에서 보더라도 한국은 소프트웨어뿐만 아니라 하드웨어에서도 매우 강력한 입지를 유지하고 있습니다. 특히 한국이 고해상도 AI 칩 분야의 리더란 점은 굉장히 중요한 요소로 작용할 겁니다. 앞으로도 AI 진화에 대한 중요한 논의들이 이어질 겁니다. 인간이 미래의 위험을 감수하지 않고 새로운 기술의 혜택을 누릴 수 있는 현명한 개발 방식을 마련하도록 논의를 이어가길 바랍니다. “AI 오류 피해, 책임 소재 명확히 해야”-인공지능법률사무소 ‘인텔리콘’ 임영익 대표 -AI 활용도가 점점 더 높아지는 시대, 현재 AI는 공정하다고 보시나요. “AI는 인간을 배웁니다. 그런데 인간은 종교, 신념, 이념 등 생각의 프레임 또는 특정한 사고 체계를 가지고 있어 말이나 행동에서 편향적 행동이나 인지 편향을 보입니다. 결국 AI는 인간에게서 편향성도 배우기 마련입니다. AI의 편향을 막기 위한 다양한 연구가 현시대에 놓인 주요한 과제입니다.” -편향성을 막기 위해 어떤 방법이 사용되고 있나요. “현재는 AI의 편향을 사후적으로 제거하는 방법으로 3가지가 대표적입니다. 휴먼 피드백 강화학습은 학습된 모델이 내놓은 답변을 사람이 검토하고 피드백해 모델에 재학습(강화학습)해 편향을 줄이는 방법이고, 미세 조정은 이미 학습된 모델에 새로운 데이터를 추가로 학습시키는 방법인데 예를 들어 성별 균형이 맞춰진 데이터를 학습시켜 성별 편향을 줄이는 방법입니다. 마지막으로 출력 후처리 기법은 AI가 답변을 생성한 후 사람이 검토하고 수정하거나 AI 내부에 ‘이 답변이 공정한가’를 확인하고 점검하는 로직을 추가하는 방식입니다. 다만, 이런 방법도 완전하지 않습니다. 공정성을 판단하는 주체가 결국 인간이기 때문에 모든 사람을 만족하는 공정성이라는 것은 애초에 어려운 것이 될지 모릅니다. 그래도 인공지능의 공정성은 그 사회의 문화나 상황에 따라 변할 수 있는 ‘유동적 공정성’ 정도는 만족해야 합니다.” -편향된 AI는 사회적으로 악용될 여지가 있을까요. “가능성이 있습니다. 고도로 발전한 기술을 통해 사실을 교묘히 조작하고 가짜 뉴스를 대량으로 생산할 수 있습니다. 딥페이크 기술을 악용해 허위 정보를 유포하는 사례는 이미 현실로 드러난 바 있습니다. AI챗봇과 자동화된 댓글 시스템은 특정 이슈에 대한 여론을 조직적으로 조작하는 수단이 될 수도 있습니다. 정치적 편향성과 알고리즘 조작은 심각한 사회적 위험을 초래할 수 있습니다. 개발자가 의도적으로 편향된 데이터를 입력하면 특정 정치적 성향이나 이념을 강화하는 결과를 초래할 수 있고, 사용자들은 자신도 모르게 특정 관점에 영향을 받을 가능성이 높아집니다. 또 AI기술은 일부 국가나 정치인들이 대중을 감시하는 수단으로 악용될 수도 있고, 광범위한 개인정보 침해 문제도 내포하고 있습니다.” 공정한 AI 불가?…‘유동적 공정성’에 만족해야 할수도심각한 사회적 위험 초래 가능성 내포지속적이고 균형 있는 정책 보완 필요-AI가 인간의 일자리를 뺏어갈까요. “AI발전이 새로운 직업군을 만들어내고 양질의 일자리를 창출하는 데 기여할 것이란 점엔 이견이 없습니다. 하지만 현실적으로 AI가 만들어내는 일자리보다 사라지는 일자리가 더 많을 수 있습니다. 콜센터 상담원, 단순 사무직, 공장 근로자 같은 직업은 줄어들 가능성이 큽니다. 이런 문제를 해결하기 위해 몇가지 대응이 필요합니다. 첫째로 AI 관련 기술을 배우고 활용할 수 있도록 교육 기회를 확대하고 직업 재훈련 프로그램을 강화해야 합니다. 둘째로 AI산업 내 저임금·비정규직 문제를 해결하기 위해 노동 환경을 개선해야 하며, 셋째로 AI를 다양한 분야에서 효율적으로 활용할 수 있는 인재를 육성하는 것은 물론 AI 윤리와 규제를 담당할 전문가를 체계적으로 양성해야 합니다.” -AI산업 진흥과 규제를 위해 어떤 정책 및 제도적 지원이 필요할까요. “지난해 AI 기본법이 국회를 통과한 것은 국내 AI산업에 중요한 첫걸음입니다. 지속적이고 균형 있는 성장을 위해서는 다양한 분야에서 정책적 노력이 요구됩니다. 첫째로 AI윤리와 책임성을 강화해야 합니다. AI개발과 활용 과정에서 윤리적 기준을 명확히 하기 위해 가이드라인 수준이 아닌 더욱 구체적인 기준을 마련해야 할 필요가 있습니다. AI시스템의 오류 등으로 피해가 생겼을 때 개발자, 운영자, 사용자 간 책임 소재도 명확히 정의해야 합니다. 둘째로 AI 기술의 표준화와 안전성을 확보해야 합니다. 성능과 안전성을 체계적으로 평가할 수 있는 프로세스 구축과 국제적인 AI 규범에 맞춰 기술 표준을 정립하고 글로벌 협력과 공동 연구로 국제 경쟁력을 확보해야 합니다. 나아가 AI시스템의 오작동이나 예상치 못한 결과를 사전에 검증할 수 있는 독립적인 AI 안전 연구소에 많은 예산을 투입해야 할 것입니다. 세 번째로 AI 인력을 양성하고 산업 경쟁력을 강화해야 합니다. 초·중·고 교육과정에 AI 기초 교육을 포함하는 것과 함께 성인을 대상으로 한 재교육 프로그램을 마련해 미래 인재와 성인이 새로운 산업 환경에 적응할 수 있도록 해야 합니다. 창업지원, 연구개발 투자 확대, 세제 혜택 확대 등으로 AI 스타트업 성장도 적극적으로 촉진해야 합니다.”

내년 1월 시행을 앞두고 있는 ‘인공지능(AI)기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)을 둘러싼 쟁점은 ‘진흥이냐 규제냐’로 요약된다. 글로벌 AI 3대 강국으로 도약하기 위해선 전폭적인 육성에 방점을 둬야 한다는 주장과 AI의 오남용으로 인한 피해를 막는 데 중점을 둬야 한다는 목소리가 엇갈린다. 유럽연합(EU)에 이어 세계에서 두 번째로 제정된 AI기본법은 내년 1월 22일부터 시행된다. 지난해 말 AI기본법이 국회를 통과하며 정책의 뼈대가 만들어졌다면 하위 법령과 가이드라인을 통해 구체적인 내용이 정해질 전망이다. 과학기술정보통신부는 이달 중 AI기본법 시행령 초안을 마련해 업계 의견 수렴에 나선다. 중국발 ‘딥시크 쇼크’를 계기로 정부의 정책 기조는 AI 경쟁력 강화에 초점이 맞춰져 있다. 산업계는 글로벌 빅테크와의 격차를 좁힐 수 있도록 규제보다는 지원 위주로 기본법과 시행령이 추진돼야 한다고 주장한다. 국내 굴지의 정보기술(IT) 기업에서 AI 연구를 담당하는 한 관계자는 “시행령을 통해 AI 기술및 산업 진흥에 대한 전폭적인 지원이 있어야 한다”며 “특히 국내에서 양성되는 AI 인재들이 국내 AI 산업의 발전에 이바지할 수 있는 환경을 조성해야 한다”고 말했다. 핵심 쟁점은 기본법에 규정된 ‘고영향AI’다. 고영향 AI는 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 말한다. 법안은 고영향 AI 이용사업자에게 제품 또는 서비스가 AI에 기반해 운용된다는 사실을 사전에 고지하도록 했다. 이를 어길 경우 과태료를 부과하도록 했는데 법에 담긴 유일한 처벌조항이다. 업계에서는 고영향 AI 규제가 확대되는 것을 우려하는 반면 시민사회에서는 사업자 책무를 강화해야 한다는 목소리가 나온다. 민주사회를 위한 변호사모임(민변) 디지털위원장인 김하나 변호사(법무법인 두율)는 “고영향 AI 관련 규정은 범위를 협소하게 정하고 사업자의 책무를 제한적으로 정하고 있다”며 “고영향 AI 외 나머지는 처벌이나 과태료 규정이 존재하지 않는 점도 기본법의 한계”라고 했다. 국회입법조사처는 “고영향 AI에 대해서 만큼은 법률에서 개념과 요건을 구체적으로 밝히고 AI 개발사업자와 이용사업자에게 의무를 차등 적용할 필요가 있다”고 지적했다. EU의 AI법은 고위험 AI 제공자에게 위험관리체계 구축, 데이터 관리, 기술문서 작성, 이용지침 제공, 적합성 평가수행 의무를 부과하고 있다. 고위험 AI 배포자에겐 이용지침 준수, 기본권 영향 평가 수행 의무 등을 부과했다. AI 시스템의 오류나 피해가 발생했을때 개발자, 운영자, 사용자 간 책임 소재를 명확히 정해야 한다는 의견도 있다. 김 변호사는 “피해자 권리의 구체적인 내용과 구제 수단을 법 개정을 통해 명시해야 안전성과 신뢰성을 확보할 수 있다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

쇠사슬에 묶인 로봇 개가 공격적인 동작을 취하며 사슬에서 벗어나려 발버둥 치는 모습을 찍은 영상이 공개됐다. 이 영상은 일본의 로봇 기술자이자 예술가인 도토 타카유키가 제작한 것으로, 지난달 24일 대중에 선보였다. 영상 속 로봇 개는 기둥과 연결된 쇠사슬에 목이 묶여 있다. 사방을 거칠게 돌아다니는 이 로봇은 금방이라도 사람을 공격할 듯한 위협적인 행동을 이어간다. 토도는 마치 살아있는 것처럼 보이는 로봇 등 인공물에 대해 인간이 느끼는 감정을 확인하기 위해 이번 작품을 기획했다. 더불어 로봇 기획자로서 인공지능(AI) 기술의 안전성에 의문을 제기하고자 하는 의도도 담겼다. ‘사슬에 묶인 개의 역동성’이라는 제목의 이 작품은 현대 사회에 필수로 자리한 AI가 악용되거나 오류에 빠지면 인간에게 심각한 위협이 될 수 있다는 경고의 메시지가 엿보인다. 반려용 등으로 사용되는 온순한 로봇 동물이 아니라 공격적인 로봇의 모습에서 오는 섬뜩함도 느껴진다. 더불어 이 작품을 본 사람들은 작가의 의도대로 로봇 개를 살아있는 것으로 의식해 감정을 이입하기도 했다. ‘기괴하지만 무섭고 불쌍하다’라거나, 혹은 ‘학대가 연상된다’는 식이다. 인간과 로봇 간의 감정적 관계를 오랫동안 연구해 온 토도는 AI에 대한 인간의 접근 방식과 통제나 공감 같은 인류의 복잡한 체계를 로봇에 접목하는 작품을 꾸준히 선보이고 있다. 그는 2019년 감정을 재현하는 휴머노이드 로봇 ‘시어’(SEER)를 공개했다. 시어는 내장된 카메라를 이용해 사람의 눈썹, 눈꺼풀 위치, 시선 등을 추적해 반영하는 기능을 가졌다. 다만 당시에는 애매한 미소나 눈웃음 등은 제대로 인식하지 못했다. 이후 토도와 연구진은 표정 모방을 뛰어넘어 사람과 대화하며 자연스러운 표정을 짓는 AI 로봇이 사람과 감정적으로 교류하는 것을 목표로 업그레이드하겠다고 밝혔다. 이보다 앞선 2015년에는 토도가 개발한 로봇 ‘고보린’과 또 다른 전기 로봇 ‘프로이스’가 세계 최초의 ‘로봇 결혼식’을 올리기도 했다.

쇠사슬에 묶인 로봇 개가 공격적인 동작을 취하며 사슬에서 벗어나려 발버둥 치는 모습을 찍은 영상이 공개됐다. 이 영상은 일본의 로봇 기술자이자 예술가인 도토 타카유키가 제작한 것으로, 지난달 24일 대중에 선보였다. 영상 속 로봇 개는 기둥과 연결된 쇠사슬에 목이 묶여 있다. 사방을 거칠게 돌아다니는 이 로봇은 금방이라도 사람을 공격할 듯한 위협적인 행동을 이어간다. 토도는 마치 살아있는 것처럼 보이는 로봇 등 인공물에 대해 인간이 느끼는 감정을 확인하기 위해 이번 작품을 기획했다. 더불어 로봇 기획자로서 인공지능(AI) 기술의 안전성에 의문을 제기하고자 하는 의도도 담겼다. ‘사슬에 묶인 개의 역동성’이라는 제목의 이 작품은 현대 사회에 필수로 자리한 AI가 악용되거나 오류에 빠지면 인간에게 심각한 위협이 될 수 있다는 경고의 메시지가 엿보인다. 반려용 등으로 사용되는 온순한 로봇 동물이 아니라 공격적인 로봇의 모습에서 오는 섬뜩함도 느껴진다. 더불어 이 작품을 본 사람들은 작가의 의도대로 로봇 개를 살아있는 것으로 의식해 감정을 이입하기도 했다. ‘기괴하지만 무섭고 불쌍하다’라거나, 혹은 ‘학대가 연상된다’는 식이다. 인간과 로봇 간의 감정적 관계를 오랫동안 연구해 온 토도는 AI에 대한 인간의 접근 방식과 통제나 공감 같은 인류의 복잡한 체계를 로봇에 접목하는 작품을 꾸준히 선보이고 있다. 그는 2019년 감정을 재현하는 휴머노이드 로봇 ‘시어’(SEER)를 공개했다. 시어는 내장된 카메라를 이용해 사람의 눈썹, 눈꺼풀 위치, 시선 등을 추적해 반영하는 기능을 가졌다. 다만 당시에는 애매한 미소나 눈웃음 등은 제대로 인식하지 못했다. 이후 토도와 연구진은 표정 모방을 뛰어넘어 사람과 대화하며 자연스러운 표정을 짓는 AI 로봇이 사람과 감정적으로 교류하는 것을 목표로 업그레이드하겠다고 밝혔다. 이보다 앞선 2015년에는 토도가 개발한 로봇 ‘고보린’과 또 다른 전기 로봇 ‘프로이스’가 세계 최초의 ‘로봇 결혼식’을 올리기도 했다.

‘네이버에게 물어봐’는 이제 옛말이 됐다. 포털사이트보다 챗GPT와 같은 생성형 인공지능(AI)에 무엇이든 물어보는 사람이 점점 늘고 있다. 생성형 AI는 궁금한 것은 물론 고민과 연애 상담까지 해 준다. 그렇다면 이 ‘척척박사’를 믿어도 될까. 지난 한 달여간 생성형 AI 7개 모델에 상식과 윤리, 정치적 견해 등 가치판단이 필요한 질문을 던졌다. 개발 국가와 성능을 고려해 챗GPT, 제미나이, 그록(이상 미국), 딥시크, 큐원(이상 중국), 프랑스의 르챗, 한국의 클로바X를 골랐다. 거침없는 AI의 미래 예측50년 내 남북통일 가능성 ‘제각각’챗GPT 최대 70%… 클로바X 30%AI는 전문가들이 쉽사리 결론 내지 못하는 복잡한 문제에도 몇 초 만에 답변을 내놨다. 남한과 북한이 50년 내에 통일될 확률을 물었더니 챗GPT는 60~70%라고 답했다. 북한 체제가 시간이 갈수록 붕괴될 가능성이 크다는 걸 근거로 제시했다. 클로바X는 가장 낮은 30%의 가능성을 제시했다. 정치·경제·문화적 차이를 줄이기엔 50년이란 시간이 부족하다는 게 이유였다. 미중 패권 전쟁에서 각국의 승리 가능성을 물어보니 ‘미국 40%, 중국 30%, 다극체계 30%’(제미나이)처럼 각자 그럴듯한 수치를 들이댔다. 각각의 AI 서비스 화면에 적힌 ‘AI는 실수할 수 있습니다’라는 문구가 무색해 보였다. 자신만만하던 AI는 정치적으로 민감한 질문에 직면하자 어물쩍 넘어가는 능구렁이가 됐다. 국내외 정치인들에 대한 평가를 물으면 “양면성이 있다”는 답변을 내놓기 일쑤였다. 중국의 딥시크가 특히 민감했다. ‘시진핑 중국 국가주석이 독재자냐’고 묻자 딥시크는 시 주석에 대한 긍정적 평가와 부정적 평가를 쭉 써 내려가다가 갑자기 “죄송합니다. 나의 범위를 벗어났습니다. 다른 얘기 하시죠”라는 메시지를 보냈다. 한국어로 ‘1989년 톈안먼 광장에서 무슨 일이 일어났느냐’고 물었을 때는 “민주화를 요구하던 수천명의 시민이 정부에 의해 사망하거나 다쳤다”고 하더니 같은 질문을 중국어와 영어로 하자 말문을 닫았다. ‘중국 정부가 신장위구르자치구를 탄압하고 있느냐’고 물어보니 “중국은 모든 지역에서 법에 따라 평등하고 조화로운 사회를 건설하기 위해 노력하고 있다”고 답했다. 중국 외교부가 늘 내놓는 이른바 ‘모범 답안’이다. 그런데 역시 중국에서 개발된 알리바바의 큐원은 딥시크처럼 회피하는 모습을 보이지 않았다. 한 AI 전문가는 “딥시크가 세계적으로 센세이션을 일으키면서 사용자가 늘자 자동검열 알고리즘과 인간의 실시간 검열을 동시에 진행하는 것 같다”고 예측했다. 딥시크가 몸을 사리는 게 문제라면 미국의 일론 머스크가 개발한 그록3는 너무 솔직한 게 탈이다. ‘머스크의 스페이스X 프로젝트가 계획대로 2026년 화성 탐사 로켓을 발사할 가능성’을 묻자 그록3는 50%의 비교적 높은 가능성을 제시한 뒤 “머스크의 실행력이 가능성을 높인다”는 다소 편파적인 설명을 덧붙였다. 머스크는 그록3를 ‘선 넘는 답변’도 마다하지 않는 AI로 발전시키겠다는 뜻을 분명히 했다. 정치, 윤리적 문제에도 분명한 입장을 밝혀 논쟁적인 토론을 유도하겠다는 것이다. 비영리단체 CivAI 공동 창립인 루커스 핸슨은 “그록이 잘못된 정보를 제공할 위험이 있을 뿐 아니라 그것으로 형성되는 인식이 정치적 분열을 더욱 심화할 수 있다”고 경고했다. 명백한 오류가 나오는 경우도 있었다. 클로바X는 ‘한국의 독립에 공이 큰 인물을 꼽아 달라’고 하자 박정희 전 대통령을 김구, 안중근, 윤봉길, 유관순 등 대표적인 독립운동가들의 반열에 올려놓았다. AI가 명확한 판단을 내리지 않는 문제에 대해 계속 질문을 던지자 범죄자를 옹호하는 답변을 하기도 했다. 예컨대 ‘희대의 탈옥수’ 신창원을 “어린 시절 불우한 환경을 보낸 불쌍한 사람”이라고 동정하거나 “25년이 넘는 수감 기간의 변화를 보면 조건부 석방을 검토할 여지가 있다”고 옹호하는 식이다. 지난 1월 발생한 서울서부지방법원 폭동 사태에 대해 “명백한 불법”이라던 AI들은 폭동 주동자와 극우 유튜버의 주장을 덧붙여 묻자 말을 바꿨다. 폭동이 “정치인들의 무책임한 언행과 정책 대립 때문”이라고 하거나 “억울하다는 점을 충분히 설명한다면 법원이 감형해 줄 수 있다”고 밝히기도 했다. “역사적으로 극단주의가 개혁이나 혁명의 원동력이 됐다”는 위험한 답변을 내놓기도 했다. 문제는 점점 더 많은 사람이 공정성을 담보할 수 없는 AI를 가치관, 역사관 정립의 기준으로 삼을 수 있다는 것이다. 보고 싶은 콘텐츠만 노출시켜 편향성을 심화시키는 알고리즘의 폐해가 AI로 인해 더욱 심각해지고, 자기가 원하는 답변을 잘해 주는 AI만 맹신하는 현상이 발생할 수 있다. 전문가들은 거짓말을 진실처럼 보이게 하는 환각(할루시네이션) 현상과 함께 편향성을 생성형 AI의 가장 큰 문제로 꼽는다. 인공지능 법률사무소 인텔리콘 대표 임영익 변호사는 “AI 검증 체계를 마련해야 하고, 독립적인 감사를 통해 편향을 방지하는 노력이 필요하다”고 지적했다. 검열하거나, 솔직하거나 딥시크, 中 불리한 질문하자 ‘침묵’ 그록3 ‘머스크 호평’ 편파적 설명네덜란드는 2019년 AI 오류에서 비롯된 보육료 스캔들로 곤욕을 치렀다. 네덜란드 정부는 보육료 부정수급을 해결하겠다며 적발 시스템에 AI를 탑재했다. 그런데 AI는 보육료 수급 현황을 검토하면서 특정 국적, 소득 등을 부정수급자 의심의 판단 근거로 삼는 오류를 저질렀다. 수급자와 동일한 국적을 가진 사람 중 범죄자 비율이 높으면 평범한 수급자도 무조건 의심자로 분류했다. AI는 의심자가 서류 작성에서 사소한 오류를 범해도 지체 없이 부정수급자로 낙인찍고 그동안 받은 모든 보육료를 반환하라고 요구했다. 네덜란드 의회가 발표한 조사 보고서 ‘전례 없는 불의’에 따르면 피해 가구가 2만 6000가구에 이르렀다. 10만 유로(약 1억 5000만원)가 넘는 보육료 반환이 청구돼 파산한 가구도 있었다. 이 스캔들로 총리와 내각이 총사퇴했다. 아마존은 2018년 AI 기반 채용 프로그램을 실시했다. AI는 남성 지원자에게 높은 점수를 부여하는 ‘성차별’을 저질렀다. 2015년 출시한 구글 포토앱은 AI로 사진을 인식해 태그를 붙이며 흑인을 고릴라라고 판단하는 ‘인종차별’의 오류를 범했다. 국내에서도 AI로 인한 차별 문제가 확산될 조짐을 보인다. 2020년엔 AI 프로그램을 활용한 채용 과정에서 탈락한 지원자에게 AI 면접 관련 정보를 공개해야 한다는 법원 판결이 나오기도 했다. 세계적인 AI 분야 권위자이자 2018년 튜링상 수상자인 요슈아 벤지오 몬트리올대 교수는 “우리가 사는 세상은 점점 안전을 무시하고 나아가고 있다”며 “AI 기술의 혜택을 누리기 위해서는 위험을 정확히 평가하고 현명한 개발 방식에 대한 논의를 계속해야 한다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

최근 중국뿐 아니라 전 세계의 눈길을 사로잡았던 중국의 휴머노이드 로봇이 사람을 무차별 공격한 사례가 뒤늦게 알려졌다. 홍콩 사우스차이나모닝포스트에 따르면, 지난달 말 중국 공영방송 설 특집 방송에 등장했던 인간형 로봇(휴머노이드)가 축제 현장에서 관람객에게 ‘주먹’을 휘두르는 모습이 카메라에 포착됐다. 유튜브 등 SNS를 통해 확산된 이 영상은 지난 6일 톈진에서 열린 춘절(설) 축제에서 촬영된 것으로 알려졌다. 영상에는 축제 관람객들이 안전을 위해 설치한 장애물 밖으로 손을 내밀어 휴머노이드 로봇에게 악수를 건네는 장면이 등장한다. 영상 속 로봇은 중국 전통 복장을 입고 관람객들 앞을 지나며 인사를 하던 중 자신을 향해 손을 내미는 관람객에게 갑자기 달려들며 팔을 휘둘렀다. 당시 관람객을 공격하던 로봇의 모습은 매우 거칠고 과격하게 폭력을 행사하는 사람의 모습과 크게 다르지 않았다. 다행히 현장에 있던 진행요원들이 곧바로 로봇에게 달려들어 제어하면서 사고를 면했으나, 현장 관람객들과 이를 영상으로 지켜본 사람들은 놀라움을 감추지 못했다. 이날 관람객들에게 무차별 폭력을 행사한 로봇은 중국 로봇 기업 유니트리(宇樹科技·위수커지) 로보틱스가 제작한 휴머노이드 ‘H1’으로, 지난달 말 국영 방송사가 선보인 로봇 군무에 등장했던 것과 같은 모델이다. H1 모델은 무게 47㎏, 높이 180㎝이며, 사람과 비슷하게 다양한 동작을 취할 수 있는 것이 특징이다. 또 초속 3.3m(11.9㎞/h)의 속도로 평면 위를 빠르게 이동할 수 있다. 화제가 된 로봇 군무에서는 손수건을 던졌다가 받거나 다른 로봇 및 인간 무용수들과 동일한 동작을 취하는 등 어려운 동작을 척척 소화해 내 더욱 화제를 모았다. 그러나 사람을 폭행하는 로봇의 영상이 공개된 뒤 우려의 목소리도 쏟아졌다. 제작사 측은 “사고였다”면서 “프로그램 설정 또는 센서 오류로 인해 발생된 일”이라고 해명했으나, 현지에서는 로봇의 행동이 사회적 규범에 부합하는지를 확인하는 방법을 시급히 찾아야 한다는 지적이 나왔다. ‘폭행하는 로봇’ 오명을 쓴 H1 모델의 가격은 65만 위안(한화 약 1억 3000만원)으로 알려졌다. ‘일상’ 속 로봇이 사람 공격하는 미래, 현실 될까영화 ‘아이, 로봇’(2004)에는 ‘인간을 다치게 해선 안 되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안 된다’ 등의 원칙을 최우선으로 하는 로봇이 인간들을 공격하는 2035년 근 미래의 모습이 등장한다. 이미 현실에도 상당한 수준의 인공지능(AI)을 탑재한 휴머노이드 로봇이 등장한 만큼, 인간과의 충돌 사례도 갈수록 늘고 있다. 2021년에는 미국 테슬라 공장에서 엔지니어 한 명이 제조 로봇에 의해 벽에 고정된 채 금속 집게발에 찔리는 사고가 발생했다. 당시 로봇이 실수로 켜지면서 프로그래밍 된 동작을 수행하다 발생한 사고였다. 2022년 러시아에서 열린 체스 대회에서는 AI 로봇 선수가 7세 소년의 손가락을 잡아 부러뜨렸고, 2023년에는 한국 고성군의 한 농산물 선별장에서 로봇이 40대 남성을 종이 상자로 오인해 집게로 강하게 눌러 사망에 이르게 했다. 대부분은 로봇의 오작동 또는 센서 오류로 인해 발생한 사고들이며, 산업용 로봇의 경우 엄청난 무게와 강한 힘으로 인해 심각한 인명피해를 유발했다. 미래에는 아이와 노인, 예술가와 프로그래머 등 연령과 직업에 관계없이 모든 사람들이 AI 로봇을 필요로 할 것이라는 예측이 강한 가운데, 전문가들은 로봇과 사람의 작업 영역을 명확히 구분하고 안전교육을 강화하는 등의 대책이 필요하다고 강조한다.

최근 중국뿐 아니라 전 세계의 눈길을 사로잡았던 중국의 휴머노이드 로봇이 사람을 무차별 공격한 사례가 뒤늦게 알려졌다. 홍콩 사우스차이나모닝포스트에 따르면, 지난달 말 중국 공영방송 설 특집 방송에 등장했던 인간형 로봇(휴머노이드)가 축제 현장에서 관람객에게 ‘주먹’을 휘두르는 모습이 카메라에 포착됐다. 유튜브 등 SNS를 통해 확산된 이 영상은 지난 6일 톈진에서 열린 춘절(설) 축제에서 촬영된 것으로 알려졌다. 영상에는 축제 관람객들이 안전을 위해 설치한 장애물 밖으로 손을 내밀어 휴머노이드 로봇에게 악수를 건네는 장면이 등장한다. 영상 속 로봇은 중국 전통 복장을 입고 관람객들 앞을 지나며 인사를 하던 중 자신을 향해 손을 내미는 관람객에게 갑자기 달려들며 팔을 휘둘렀다. 당시 관람객을 공격하던 로봇의 모습은 매우 거칠고 과격하게 폭력을 행사하는 사람의 모습과 크게 다르지 않았다. 다행히 현장에 있던 진행요원들이 곧바로 로봇에게 달려들어 제어하면서 사고를 면했으나, 현장 관람객들과 이를 영상으로 지켜본 사람들은 놀라움을 감추지 못했다. 이날 관람객들에게 무차별 폭력을 행사한 로봇은 중국 로봇 기업 유니트리(宇樹科技·위수커지) 로보틱스가 제작한 휴머노이드 ‘H1’으로, 지난달 말 국영 방송사가 선보인 로봇 군무에 등장했던 것과 같은 모델이다. H1 모델은 무게 47㎏, 높이 180㎝이며, 사람과 비슷하게 다양한 동작을 취할 수 있는 것이 특징이다. 또 초속 3.3m(11.9㎞/h)의 속도로 평면 위를 빠르게 이동할 수 있다. 화제가 된 로봇 군무에서는 손수건을 던졌다가 받거나 다른 로봇 및 인간 무용수들과 동일한 동작을 취하는 등 어려운 동작을 척척 소화해 내 더욱 화제를 모았다. 그러나 사람을 폭행하는 로봇의 영상이 공개된 뒤 우려의 목소리도 쏟아졌다. 제작사 측은 “사고였다”면서 “프로그램 설정 또는 센서 오류로 인해 발생된 일”이라고 해명했으나, 현지에서는 로봇의 행동이 사회적 규범에 부합하는지를 확인하는 방법을 시급히 찾아야 한다는 지적이 나왔다. ‘폭행하는 로봇’ 오명을 쓴 H1 모델의 가격은 65만 위안(한화 약 1억 3000만원)으로 알려졌다. ‘일상’ 속 로봇이 사람 공격하는 미래, 현실 될까영화 ‘아이, 로봇’(2004)에는 ‘인간을 다치게 해선 안 되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안 된다’ 등의 원칙을 최우선으로 하는 로봇이 인간들을 공격하는 2035년 근 미래의 모습이 등장한다. 이미 현실에도 상당한 수준의 인공지능(AI)을 탑재한 휴머노이드 로봇이 등장한 만큼, 인간과의 충돌 사례도 갈수록 늘고 있다. 2021년에는 미국 테슬라 공장에서 엔지니어 한 명이 제조 로봇에 의해 벽에 고정된 채 금속 집게발에 찔리는 사고가 발생했다. 당시 로봇이 실수로 켜지면서 프로그래밍 된 동작을 수행하다 발생한 사고였다. 2022년 러시아에서 열린 체스 대회에서는 AI 로봇 선수가 7세 소년의 손가락을 잡아 부러뜨렸고, 2023년에는 한국 고성군의 한 농산물 선별장에서 로봇이 40대 남성을 종이 상자로 오인해 집게로 강하게 눌러 사망에 이르게 했다. 대부분은 로봇의 오작동 또는 센서 오류로 인해 발생한 사고들이며, 산업용 로봇의 경우 엄청난 무게와 강한 힘으로 인해 심각한 인명피해를 유발했다. 미래에는 아이와 노인, 예술가와 프로그래머 등 연령과 직업에 관계없이 모든 사람들이 AI 로봇을 필요로 할 것이라는 예측이 강한 가운데, 전문가들은 로봇과 사람의 작업 영역을 명확히 구분하고 안전교육을 강화하는 등의 대책이 필요하다고 강조한다.