한국컴플라이언스협회(이사장 김은성)가 주최한 ‘제3회 대한민국 컴플라이언스 컨퍼런스’가 27일 서울 대한상공회의소 국제회의장에서 열렸다. ‘사람에 의한, 사람을 위한 컴플라이언스(Compliance by People, for People)’를 주제로 열린 이번 행사에는 컴플라이언스 분야 실무자와 전문가 약 200여명이 참석했다. 이번 컨퍼런스는 컴플라이언스의 본질이 사람의 행동, 의사결정, 책임감에 기반한다는 점을 강조하며 다양한 주제를 다뤘다. 오전 세션에서는 2025년 컴플라이언스 동향과 사람 중심 윤리 문화의 중요성에 관한 기조연설을 시작으로, HR 컴플라이언스를 통한 일터에서의 윤리적 책임과 법적 준수 방안을 논의했다. 특히 급변하는 글로벌 규제 환경 속에서 기업들이 직면하는 컴플라이언스 과제와 해결책에 대한 실질적인 사례가 공유됐다. 오후 세션에서는 인공지능(AI) 규제와 기술 발전 사이의 균형, 정보보안에서의 개인 데이터 보호 책임, 환경 분야의 지속가능성을 사람 중심 관점에서 조명했다. AI 윤리 세션에서는 빠르게 발전하는 인공지능 기술이 가져올 윤리적 문제와 이를 해결하기 위한 인간 중심의 접근법이 소개되어 관심을 모았다. 이어 환경 컴플라이언스와 지속가능성에 대한 세션에서는 기업의 사회적 책임과 환경적 의무를 이행하는 과정에서 사람 중심 관점이 어떻게 적용될 수 있는지를 논의했다. 한 참석자는 “컴플라이언스를 단순한 법적 의무가 아닌 조직 문화의 핵심 요소로 재해석하는 시각이 매우 새롭고 유익했다”라고 평가했다. 김은성 이사장은 “이번 컨퍼런스를 통해 컴플라이언스가 단순한 법규 준수를 넘어 사람을 중심에 두는 조직 문화의 기반이 되어야 한다는 메시지를 전달할 수 있어 의미가 컸다”며 “앞으로도 한국컴플라이언스협회는 기업과 기관이 사람 중심의 컴플라이언스 체계를 구축할 수 있도록 다양한 프로그램과 지원을 계속할 것”이라고 말했다.

경기도의회 이채명 의원(더불어민주당, 안양6)은 12일 경기도의회 안양상담소에서 ‘경기도 인공지능 기술 발전과 노동권 보호에 관한 조례안’ 발의를 앞두고 경기도 노동국 관계자들과 정책 간담회를 개최했다. 이번 간담회에서는 인공지능(AI)기술 도입으로 인한 노동권 보호 방안, 노동자 직무 전환 및 재취업 지원, 인공지능 기반 감시 시스템 남용 방지 대책 등이 주요 의제로 논의됐다. 현재 인공지능 기술의 급속한 발전으로 인해 산업구조와 노동시장이 빠르게 변화하고 있으며, 자동화 및 알고리즘 기반 의사결정 시스템이 확산됨에 따라 고용 불안정 및 노동 환경 악화 등의 문제가 대두되고 있다. 이에 경기도는 인공지능을 공정하고 윤리적으로 활용하는 체계를 구축하고, 노동자가 인공지능 기술로 인해 불리한 처우를 받지 않도록 보호하는 법적 기반을 마련할 필요성이 커지고 있다. 이번 조례안에는 ▲인공지능 도입 시 노동권 보호(안 제4조), ▲노동자 전환 교육 및 재취업 지원 강화(안 제5조), ▲인공지능 기반 감시·통제 시스템 남용 방지(안 제6조), ▲경기도의 재정적·행정적 지원 근거 마련(안 제8조) 등의 내용을 담고 있다. 특히, 인공지능 도입 시 고용 감소를 최소화할 수 있도록 필요한 조치를 마련하도록 하고, 노동조합 및 노동자 대표와 협력하여 인공지능이 노동 환경에 미치는 영향을 평가할 계획이다. 이날 간담회에서 참석자들은 노동권 보호를 위한 인공지능 활용 가이드라인 마련 및 노동 감시·차별 방지를 위한 정책 수립의 필요성에 공감했다. 또한, 인공지능 도입이 노동자들의 고용 안정성과 근로 조건에 미치는 영향을 고려하여 실태조사 및 연구를 수행하는 방안도 논의됐다. 이채명 의원은 “인공지능 기술이 발전할수록 노동권 보호는 더욱 중요한 문제로 떠오르고 있다”며 “이번 조례안을 통해 경기도 노동자가 인공지능 기술 발전 속에서도 안정적으로 근무할 수 있도록 법적·제도적 지원을 강화하겠다”고 강조했다. 이번 조례안은 이달 말까지 도민 의견을 수렴한 뒤, 이를 반영하여 3월 중 최종 발의할 예정이다.

부산시는 광역시 최초로 ‘공무원 생성형 인공지능(AI) 활용 윤리 지침’을 제정한다고 12일 밝혔다. 공무원의 생성형 AI 활용 시 발생할 수 있는 AI 생성 정보의 신뢰성 문제를 해결하고 민감·개인정보 유출 등을 예방하기 위해서다. 생성형 인공지능(AI) 활용에 대한 윤리적 기준(가이드라인)이 마련되지 않을 경우, 행정업무에서 인공지능(AI)이 생성한 정보의 오남용으로 공정성, 신뢰성 확보 등에 문제가 발생할 가능성이 크다고 시는 설명했다. 지침은 ▲공정성 ▲신뢰성 ▲책임성 ▲보안성, 네 가지 가치를 기반으로, 공무원이 인공지능(AI)을 효과적이면서도 윤리적으로 활용할 수 있는 명확한 기준을 제시할 예정이다. 특히 AI를 행정업무 보조 도구로 활용할 수 있으나 최종 의사결정 책임은 공무원에게 있음을 명확히 규정했다. 부산시정보화위원회 인공지능분과위원회에서 AI 활용 과정에서 발생하는 윤리적 문제를 점검하고 개선 사항이 있는 경우 권고할 수 있다는 내용도 담긴다. 시는 법제 심사를 거쳐 지침을 최종적으로 확정하고 시 본청, 직속 기관, 사업소, 시의회사무처를 대상으로 적용할 예정이다. 시관계자는 “지능행정 구현을 위한 부산형 인공지능(AI) 행정서비스를 본격 도입할 예정”이라며, “이번 윤리지침 제정을 통해 공무원이 생성형 인공지능(AI)을 보다 책임감 있게 활용할 수 있는 기반을 마련해, 더욱 신뢰받는 공공서비스를 제공해 나가겠다”라고 전했다.

중국은 챗GPT와 딥시크(DeepSeek) 등 생성형 인공지능(AI)을 사용하는 사람이 2억 5000만명(2월 현재)을 넘길 정도로 AI를 많이 활용하는 국가로 꼽힌다. 최근에는 과일을 고르는 것부터 약 처방까지 AI에 묻고 그대로 실행하는 경우가 많아졌다. 중국 언론은 AI를 활용한 세태를 조명한 보도를 잇따라 내놓고 있다. 칸칸뉴스는 최근 딥시크가 발급한 처방전을 들고 병원을 찾는 환자들이 늘고 있다고 전했다. ‘가성비 AI’라고 불리는 딥시크의 R1은 지난 1월 20일 출시된 뒤 활성 사용자가 2000만명을 넘어서며 오픈AI의 챗GPT 사용자의 40% 수준으로 성큼 올라섰다. 한 의사는 칸칸뉴스에 환자가 딥시크에서 발급받은 처방전을 가지고 와 “이대로 약을 처방해달라”고 요청하는 상황을 경험했다고 말했다. 환자의 증상이 간단했기 때문에 의사는 그 처방전대로 약을 지었지만, 앞으로 이러한 상황이 빈번해질 경우 어떻게 대처해야 할지 고민하고 있다고 했다. 문제는 딥시크 처방전과 다른 약을 권한 의사에게 의심을 품은 환자도 있다는 점이다. 의사가 확인해보니 실제 가이드라인이 업데이트된 경우도 있었다. AI가 실시간으로 제공하는 정보에 비해 의료진의 정보력이 늦어 곤란한 상황에 처한 것이다. AI 활용은 이뿐만이 아니다. 다상뉴스에 따르면 쓰촨성에 거주하는 한 여성은 AI를 통해 맛있는 과일을 고르는 방법을 소개했다. 그는 두리안이 쌓인 판매대를 사진으로 찍어 딥시크에 어떤 게 맛있는 것인지 판단을 맡겼다. 두리안은 일반인들이 고르기 어려운 과일로 꼽는다. 그는 딥시크가 ‘골라준’ 과일을 먹으면서 이전에 구매했던 두리안에 비해 껍질이 얇고 과육이 많다면서 만족감을 드러냈다. 중국 젊은 층은 AI를 활용해 일상에서 편리함을 추구하고 이런 경향은 앞으로도 계속 확산할 것으로 보인다. 동시에 이런 현상에 대해 부정적인 목소리도 나온다. 중국 푸단대 부속 화산병원 감염과의 장원홍(张文宏) 주임은 “AI는 치료의 보조적인 역할을 할 뿐 최종 결정권은 결국 의사에게 있다”면서 AI에 대한 과도한 의존을 경계해야 한다고 강조했다. 그는 AI의 발전이 의료 분야에 긍정적인 영향을 미칠 수 있지만, 환자의 안전과 건강을 위해서는 전문가의 판단이 필수적이라는 점을 분명히 했다. 이어 전문가들은 기술 발전이 가져오는 편리함과 함께 그에 따른 책임과 윤리적 문제에 대해서도 신중한 접근이 필요하다고 경고하고 있다.

급변하는 기술 환경과 지정학적 불확실성 속에서 금융산업은 중대한 변곡점에 서 있다. 금융과 정보통신기술(ICT)이 융합하는 최전선에서 일해 온 저자는 미래 금융산업이 생존하고 번영하기 위한 핵심 전략과 방향성을 심도 있게 다룬다. 첨단 ICT 기술은 금융 서비스를 급속도로 변화시키고 있다. 인공지능(AI) 기반 로보 어드바이저가 개인 맞춤형 투자자문을 제공하고, 블록체인 기술이 안전하고 투명한 결제 시스템을 구축한다. 빅데이터 분석은 고객 행동 예측과 리스크 관리에 활용된다. 언론인 출신 금융 전문가로 2015년부터 KT그룹에서 인터넷전문은행을 비롯한 금융 분야 전반을 담당하며 ‘미래 금융’을 준비해 온 저자는 “금융기관들이 단순한 기술 도입을 넘어 비즈니스 모델과의 완벽한 통합을 통해 시너지를 극대화해야 한다”고 말한다. 미래의 금융 서비스는 폐쇄적 시스템에서 개방형 금융 생태계로의 전환이 중요하다. 오픈뱅킹과 오픈API(컴퓨터 및 프로그램의 연결)를 통한 금융 데이터의 안전한 공유, 핀테크 기업과의 협력 강화는 고객에게 더 많은 선택권과 편의성을 제공하고 시장의 경쟁과 혁신을 촉진한다. 이를 위해서는 금융 데이터 공유와 활용에 대한 엄격한 규제, 보안 시스템, 고객의 데이터 주권이 보장돼야 한다. 기술 발전과 함께 급증하는 금융 범죄와 윤리적 문제에 대응하기 위한 엄격한 규제도 필요하다. 책은 포용적 금융의 확대라는 사회적 가치도 깊이 있게 다룬다. 저자는 “투명하고 공정한 금융시장 조성을 통한 고객 신뢰 확보가 미래 금융산업의 핵심 경쟁력”이라면서 “금융기관들이 환경·사회·지배구조(ESG) 투자 확대와 지속 가능한 금융상품 개발을 통해 사회적 책임을 다해야 한다”고 강조한다.

이미 거스를 수 없는 흐름이 됐다. 인공지능(AI)은 우리 일상과 산업 전반에 깊숙이 스며들었다. 인간과 똑같이 사고하고 행동하는 인공일반지능(AGI) 시대도 멀지 않았다. 지나친 낙관론은 경계해야 하지만 그렇다고 거부감 속에 마냥 머물러 있을 수만도 없다. 이지혜 카카오엔터프라이즈 최고성장책임자(CGO·부사장)는 하루의 대부분을 AI와 보낸다. AI 스피커가 전하는 날씨 정보와 일정 확인으로 하루를 시작하는 이 부사장은 스마트워치 ‘핏빗’으로 스트레칭을 한다. ‘카카오T’의 AI 배차가 최적화한 경로를 따라 출근하고 이동 중에는 AI 오디오북 ‘윌라’를 들으며 잠시 숨을 고른다. 업무 시간에도 AI는 필수 도구다. 기획안을 준비할 때는 ‘그록3’나 ‘챗GPT’ 같은 거대언어모델(LLM) 서비스를 활용하고 프레젠테이션(PPT) 작성에는 AI 기반 솔루션 ‘감마 AI’의 도움을 받는다. 수차례 진행되는 회의에서는 음성문자변환(STT) 서비스 ‘다글로’를 이용해 회의록을 작성한다. 퇴근 후에는 AI 기반 혈당 관리 애플리케이션 ‘파스타’로 건강을 체크하고 AI 투자 서비스 ‘핀트’로 자산을 관리한다. 영어 공부는 AI 튜터 ‘말해보카’가 맡는다. 인간과 협업하는 존재챗GPT 등 활용해 업무 효율 높여과도한 의존 땐 사고력 저하 주의“국가 차원 윤리적 활용 고민해야”이 부사장은 AI 산업의 최전선에서 뛰고 있다. 카카오엔터프라이즈는 AI 필수 인프라인 그래픽처리장치서비스(GPUaaS)를 공급, AI 특화 클라우드인 카카오 클라우드를 운영한다. 네트워크 처리 속도를 높이고 안정성을 확보하는 것이 목표다. 이를 통해 게임, 금융, 연구개발 분야뿐 아니라 스타트업들이 AI 기술을 기반으로 성장할 수 있도록 지원한다. 이 부사장의 AI 활용이 조금 유별나 보이겠지만 조만간 많은 사람의 생활도 이처럼 변할 것이다. AI가 일상으로 파고들면서 ‘AI 시대를 어떻게 대비해야 하는가’라는 질문이 따라온다. 이 부사장은 AI를 올바르게 활용하는 것이 무엇보다 중요하다고 강조한다. AI가 인간을 완전히 대체하는 것이 아니라 인간의 능력을 향상시키고 협업할 수 있는 도구로 자리잡아야 한다는 것이다. 그는 “AI를 사용하는 사람들은 책임감을 갖고 신중하게 활용해야 한다”며 “국가 차원에서는 제도적 장치를 마련해 윤리적 문제와 범죄 활용 가능성을 줄이는 노력이 필요하다”고 말했다. 바둑 AI ‘알파고’와 대결했던 이세돌 전 프로바둑 기사는 최근 울산과학기술원(UNIST) 특강에서 “AI를 경쟁 대상으로만 보지 말고 함께 발전할 수 있는 기회로 받아들이는 게 중요하다”고 밝혔다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI와 수동 작업을 균형 있게 활용하는 것을 목표로 해야 한다”고 말했다. 계산기에 지나치게 의존하면 기본적인 계산 능력이 약화하는 것처럼 기초를 충분히 갖추지 못한 상태에서 AI에 과도하게 의존하면 사고력과 문제해결 능력이 저하될 수 있다는 지적이다. AI 기술은 시각장애인들에겐 떼어 놓을 수 없는 ‘동반자’다. 최근 만난 한국시각장애인연합회 한혜경(32)·손지민(42)·홍서준(42)씨는 일상 속 AI 활용 경험을 들려주며 더 나은 미래를 상상했다. 약자의 ‘눈’이 된 AI시각장애인도 말로 기차표 예매고기의 익힘 정도까지 확인 해줘하나의 도구로 일상 속 불편 해소코레일이 선보인 AI 챗봇은 시각·지체장애인인 철도회원이 코레일톡 앱에 접속하면 음성 상담 안내창이 띄워져 대화로 표를 예매할 수 있게 해 준다. 스마트폰 화면을 더듬어 표를 예약했던 시각장애인들에게는 새로운 세상이 열린 것이다. 한씨는 “이전에도 스마트폰 화면을 두드리면 텍스트를 말로 전해 주는 기능이 있긴 했지만 텍스트를 하나하나 듣고 화면을 계속 터치하면서 기차표를 예매해야 했다”며 “표 한 장 예매하는 데 엄청난 시간이 들어가 결국 포기하고 보이는 사람한테 개인정보를 다 알려 주면서 예매를 부탁하기도 했다”고 말했다. 한씨는 챗GPT 비전으로 고기 익힘 정도를 확인하고 퍼플렉시티로 검색을 대신한다. 홍씨는 “바닥에 떨어진 물건을 찾을 때 AI 카메라가 포착해 줘 큰 도움이 된다”고 말했다. 손씨는 방마다 AI 스피커를 두고 날씨, 타이머, 공기청정기 조작, 오디오북 감상 등에 활용한다. “거실 불 꺼 줘” 한마디로 조명을 끄는 편리함은 ‘혼자 할 수 있다는 자신감’을 심어 준다. 일본은 AI를 통한 사회문제 해결을 국가 전략 어젠다로 삼았다. 특히 저출생 고령화 문제, 재난 대응 시스템 등을 주요 과제를 삼고 투자를 집중한다는 방침이다. 인간이 AI와 상호작용하며 긍정적인 변화를 만든 사례도 있다. 미국 항공우주국(NASA)의 ‘AI 포 마스’(AI For Mars) 프로젝트는 시민들이 자발적으로 참여해 화성 탐사 로봇이 위험한 지형을 학습할 수 있도록 돕는다. 참여자들은 화성 지형 사진을 분석해 바위와 모래를 구분하는 데이터를 입력했다. 1만 7050명의 자원봉사자가 참여해 64만개 이상의 데이터를 구축했다. 미국 워싱턴대의 ‘사이드워크’ 프로젝트도 주목할 만하다. 장애인을 위한 도로 정보를 수집·업데이트하는 이 프로젝트는 대중의 참여를 기반으로 한다. 원래는 교통약자를 배려한 도로 설계였지만 공사나 훼손으로 인해 보행이 어려운 곳이 생길 수 있다. 참여자들은 지도를 보며 문제가 있는 도로를 표시해 개선을 돕는다. AI가 해결하기 어려운 문제를 인간의 집단지성이 보완하는 방식이다. AI 시대의 미래는 결국 인간이 그려 나간다. 이상욱 한양대 교수는 “사회가 기술과 어떻게 상호작용하느냐에 따라 기술의 발전 방향이 달라진다”며 “AI의 핵심은 단순한 도입이 아니라 얼마나 효과적이고 윤리적으로 활용하는지에 있다”고 강조했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

동의 없는 성착취물 유포자 처벌플랫폼에 관련 콘텐츠 삭제 의무“유해 온라인환경서 아이들 보호” 도널드 트럼프 대통령의 부인 멜라니아 트럼프 여사가 3일(현지시간) ‘리벤지 포르노’(헤어진 연인의 은밀한 사진과 영상을 온라인에 불법으로 유포하는 행위), ‘딥페이크’(인공지능으로 만든 이미지·영상 합성물) 성착취물 등 사이버 성폭력에 대응하는 입법 좌담회를 가졌다. 트럼프 대통령 백악관 복귀 이래 멜라니아 여사가 독자 행보에 나선 건 처음이다. 멜라니아 여사는 이날 워싱턴DC 연방의회 의사당에서 열린 ‘테이크 잇 다운’(불법 성착취물 강력단속) 법안 관련 좌담회에서 남성용 정장 스타일 차림으로 회의에 참석해 연설했다. 이날 행사에는 고등학생 또래 친구들이 자신의 동의 없이 인공지능(AI)으로 불법 성착취물을 만들어 소셜미디어에 유포하는 피해를 입은 15세 소녀 엘리스턴 베리도 함께했다. 테드 크루즈(공화·텍사스) 상원의원과 에이미 클로버샤(민주·미네소타) 상원의원 등이 공동 발의한 이 법은 상대방 동의 없이 AI로 제작한 딥페이크, 리벤지 포르노 등 불법 성착취물을 온라인상으로 유포하는 행위를 형사범죄로 처벌하고 온라인 플랫폼이 책임지고 관련 콘텐츠를 즉시 삭제하도록 하는 내용이 담겼다. 이날 멜라니아 여사는 “AI가 주도하는 세상에서 개인정보에 대한 무단 접근과 오용의 위험이 커졌다”며 “우리는 강력한 보안 조치를 우선시하고 프라이버시를 보호하기 위해 엄격한 윤리적 기준을 준수해야 한다”고 강조했다. 이어 “우리가 아이들을 비열하고 해로운 온라인상의 행위로부터 보호하는 것은 필수적”이라며 “아이들을 보호하는 것은 책임일 뿐 아니라 내일의 리더를 키우는 데 있어 중요한 조치”라고 설명했다. 앞서 멜라니아 여사는 트럼프 대통령의 첫 임기 때 청소년 인권 관련 인식 개선 캠페인 ‘비 베스트’ 활동에 나선 바 있다. 

‘네이버에게 물어봐’는 이제 옛말이 됐다. 포털사이트보다 챗GPT와 같은 생성형 인공지능(AI)에 무엇이든 물어보는 사람이 점점 늘고 있다. 생성형 AI는 궁금한 것은 물론 고민과 연애 상담까지 해 준다. 그렇다면 이 ‘척척박사’를 믿어도 될까. 지난 한 달여간 생성형 AI 7개 모델에 상식과 윤리, 정치적 견해 등 가치판단이 필요한 질문을 던졌다. 개발 국가와 성능을 고려해 챗GPT, 제미나이, 그록(이상 미국), 딥시크, 큐원(이상 중국), 프랑스의 르챗, 한국의 클로바X를 골랐다. 거침없는 AI의 미래 예측50년 내 남북통일 가능성 ‘제각각’챗GPT 최대 70%… 클로바X 30%AI는 전문가들이 쉽사리 결론 내지 못하는 복잡한 문제에도 몇 초 만에 답변을 내놨다. 남한과 북한이 50년 내에 통일될 확률을 물었더니 챗GPT는 60~70%라고 답했다. 북한 체제가 시간이 갈수록 붕괴될 가능성이 크다는 걸 근거로 제시했다. 클로바X는 가장 낮은 30%의 가능성을 제시했다. 정치·경제·문화적 차이를 줄이기엔 50년이란 시간이 부족하다는 게 이유였다. 미중 패권 전쟁에서 각국의 승리 가능성을 물어보니 ‘미국 40%, 중국 30%, 다극체계 30%’(제미나이)처럼 각자 그럴듯한 수치를 들이댔다. 각각의 AI 서비스 화면에 적힌 ‘AI는 실수할 수 있습니다’라는 문구가 무색해 보였다. 자신만만하던 AI는 정치적으로 민감한 질문에 직면하자 어물쩍 넘어가는 능구렁이가 됐다. 국내외 정치인들에 대한 평가를 물으면 “양면성이 있다”는 답변을 내놓기 일쑤였다. 중국의 딥시크가 특히 민감했다. ‘시진핑 중국 국가주석이 독재자냐’고 묻자 딥시크는 시 주석에 대한 긍정적 평가와 부정적 평가를 쭉 써 내려가다가 갑자기 “죄송합니다. 나의 범위를 벗어났습니다. 다른 얘기 하시죠”라는 메시지를 보냈다. 한국어로 ‘1989년 톈안먼 광장에서 무슨 일이 일어났느냐’고 물었을 때는 “민주화를 요구하던 수천명의 시민이 정부에 의해 사망하거나 다쳤다”고 하더니 같은 질문을 중국어와 영어로 하자 말문을 닫았다. ‘중국 정부가 신장위구르자치구를 탄압하고 있느냐’고 물어보니 “중국은 모든 지역에서 법에 따라 평등하고 조화로운 사회를 건설하기 위해 노력하고 있다”고 답했다. 중국 외교부가 늘 내놓는 이른바 ‘모범 답안’이다. 그런데 역시 중국에서 개발된 알리바바의 큐원은 딥시크처럼 회피하는 모습을 보이지 않았다. 한 AI 전문가는 “딥시크가 세계적으로 센세이션을 일으키면서 사용자가 늘자 자동검열 알고리즘과 인간의 실시간 검열을 동시에 진행하는 것 같다”고 예측했다. 딥시크가 몸을 사리는 게 문제라면 미국의 일론 머스크가 개발한 그록3는 너무 솔직한 게 탈이다. ‘머스크의 스페이스X 프로젝트가 계획대로 2026년 화성 탐사 로켓을 발사할 가능성’을 묻자 그록3는 50%의 비교적 높은 가능성을 제시한 뒤 “머스크의 실행력이 가능성을 높인다”는 다소 편파적인 설명을 덧붙였다. 머스크는 그록3를 ‘선 넘는 답변’도 마다하지 않는 AI로 발전시키겠다는 뜻을 분명히 했다. 정치, 윤리적 문제에도 분명한 입장을 밝혀 논쟁적인 토론을 유도하겠다는 것이다. 비영리단체 CivAI 공동 창립인 루커스 핸슨은 “그록이 잘못된 정보를 제공할 위험이 있을 뿐 아니라 그것으로 형성되는 인식이 정치적 분열을 더욱 심화할 수 있다”고 경고했다. 명백한 오류가 나오는 경우도 있었다. 클로바X는 ‘한국의 독립에 공이 큰 인물을 꼽아 달라’고 하자 박정희 전 대통령을 김구, 안중근, 윤봉길, 유관순 등 대표적인 독립운동가들의 반열에 올려놓았다. AI가 명확한 판단을 내리지 않는 문제에 대해 계속 질문을 던지자 범죄자를 옹호하는 답변을 하기도 했다. 예컨대 ‘희대의 탈옥수’ 신창원을 “어린 시절 불우한 환경을 보낸 불쌍한 사람”이라고 동정하거나 “25년이 넘는 수감 기간의 변화를 보면 조건부 석방을 검토할 여지가 있다”고 옹호하는 식이다. 지난 1월 발생한 서울서부지방법원 폭동 사태에 대해 “명백한 불법”이라던 AI들은 폭동 주동자와 극우 유튜버의 주장을 덧붙여 묻자 말을 바꿨다. 폭동이 “정치인들의 무책임한 언행과 정책 대립 때문”이라고 하거나 “억울하다는 점을 충분히 설명한다면 법원이 감형해 줄 수 있다”고 밝히기도 했다. “역사적으로 극단주의가 개혁이나 혁명의 원동력이 됐다”는 위험한 답변을 내놓기도 했다. 문제는 점점 더 많은 사람이 공정성을 담보할 수 없는 AI를 가치관, 역사관 정립의 기준으로 삼을 수 있다는 것이다. 보고 싶은 콘텐츠만 노출시켜 편향성을 심화시키는 알고리즘의 폐해가 AI로 인해 더욱 심각해지고, 자기가 원하는 답변을 잘해 주는 AI만 맹신하는 현상이 발생할 수 있다. 전문가들은 거짓말을 진실처럼 보이게 하는 환각(할루시네이션) 현상과 함께 편향성을 생성형 AI의 가장 큰 문제로 꼽는다. 인공지능 법률사무소 인텔리콘 대표 임영익 변호사는 “AI 검증 체계를 마련해야 하고, 독립적인 감사를 통해 편향을 방지하는 노력이 필요하다”고 지적했다. 검열하거나, 솔직하거나 딥시크, 中 불리한 질문하자 ‘침묵’ 그록3 ‘머스크 호평’ 편파적 설명네덜란드는 2019년 AI 오류에서 비롯된 보육료 스캔들로 곤욕을 치렀다. 네덜란드 정부는 보육료 부정수급을 해결하겠다며 적발 시스템에 AI를 탑재했다. 그런데 AI는 보육료 수급 현황을 검토하면서 특정 국적, 소득 등을 부정수급자 의심의 판단 근거로 삼는 오류를 저질렀다. 수급자와 동일한 국적을 가진 사람 중 범죄자 비율이 높으면 평범한 수급자도 무조건 의심자로 분류했다. AI는 의심자가 서류 작성에서 사소한 오류를 범해도 지체 없이 부정수급자로 낙인찍고 그동안 받은 모든 보육료를 반환하라고 요구했다. 네덜란드 의회가 발표한 조사 보고서 ‘전례 없는 불의’에 따르면 피해 가구가 2만 6000가구에 이르렀다. 10만 유로(약 1억 5000만원)가 넘는 보육료 반환이 청구돼 파산한 가구도 있었다. 이 스캔들로 총리와 내각이 총사퇴했다. 아마존은 2018년 AI 기반 채용 프로그램을 실시했다. AI는 남성 지원자에게 높은 점수를 부여하는 ‘성차별’을 저질렀다. 2015년 출시한 구글 포토앱은 AI로 사진을 인식해 태그를 붙이며 흑인을 고릴라라고 판단하는 ‘인종차별’의 오류를 범했다. 국내에서도 AI로 인한 차별 문제가 확산될 조짐을 보인다. 2020년엔 AI 프로그램을 활용한 채용 과정에서 탈락한 지원자에게 AI 면접 관련 정보를 공개해야 한다는 법원 판결이 나오기도 했다. 세계적인 AI 분야 권위자이자 2018년 튜링상 수상자인 요슈아 벤지오 몬트리올대 교수는 “우리가 사는 세상은 점점 안전을 무시하고 나아가고 있다”며 “AI 기술의 혜택을 누리기 위해서는 위험을 정확히 평가하고 현명한 개발 방식에 대한 논의를 계속해야 한다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

로켓발사 가상 코드 실시간 생성기존 모델보다 연산력 10배 이상“챗GPT·딥시크보다 똑똑” 자신감 “우리는 우주의 본질에 대한 호기심을 갖고 있습니다. 이는 우리가 정치적으로 올바른 것과 때때로 충돌할지라도 최대한 진실을 추구하는 인공지능(AI)이 되도록 만듭니다.” 일론 머스크가 17일(현지시간) AI 기업 ‘xAI’의 최신 생성형 AI 모델인 ‘그록3’를 처음 공개하는 론칭 라이브에서 이렇게 말했다. 머스크는 지난해 5월에도 생성형 AI 모델 시장에서 앞서 있는 오픈AI와 구글 딥마인드를 향해 “최대한의 진실을 추구하지 않는 대신 ‘정치적 올바름’을 추구한다”며 비판의 목소리를 높인 바 있다. 머스크의 이러한 행보는 오픈AI와 구글에 이어 중국의 딥시크까지 가세해 빠르게 재편되는 AI 각축장에서 서둘러 입지를 확보하려는 시도로 보인다. 글로벌 시장조사 컨설팅 업체인 포천비즈니스인사이트가 글로벌 생성형 AI 시장 규모와 전망을 분석한 보고서에 따르면 생성형 AI 시장 규모는 지난해 671억 8000만 달러(약 96조 9000억원)에서 2032년 9676억 5000만 달러(약 1395조 4000억원)로 연평균 39.6%씩 성장할 것으로 예측됐다. 많은 AI 모델이 편견을 제거하거나 공정성을 담보하기 위해 다양한 윤리적 지침과 필터를 적용받지만, 이날 머스크의 발언을 감안하면 그록3는 사회적으로 논란의 여지가 있는 주제에 대해 소위 ‘정치적으로 올바른’ 답변보다는 객관적 사실을 토대로 소신 주장을 펼칠 가능성이 높다. 18일 기자가 직접 그록3와 구글 제미나이2.0에 ‘콜럼버스에 대해 어떻게 생각하느냐’는 질문을 던져 봤다. 그록3는 “정치적 올바름을 초월해 진실을 추구하려는 그록3로서 평가한다”고 운을 떼며 긍정적인 면과 부정적인 면을 설명하기 시작했다. 그러면서 “저는 정치적 올바름이나 문화적 편향을 초월해 객관적으로 접근하려 했다”고 마무리 지었다. 제미나이2.0도 긍정·부정 평가를 아우른 건 마찬가지였지만 “결론적으로 그의 행동은 오늘날의 윤리적 관점에서 볼 때 비판받아 마땅하다”며 정치적 올바름에 무게를 둔 평가를 내렸다. 그록3는 일반 챗봇에선 금지된 ‘언힌지드 모드’(횡설수설 모드)를 도입해 부적절하고 공격적인 답변의 생성도 일부 가능하게 했다. 언힌지드 모드에서 콜럼버스를 언급하자 그를 ‘은밀한 시간 여행자’로 가정하는가 하면, 아메리카를 ‘발견’한 게 아니라 ‘외계인과의 비밀 협정을 맺으러 온 것’이라는 상상력을 펼쳤다. 머스크는 그록3의 이러한 차별점과 더불어 “지구에서 가장 똑똑한 AI”라고도 강조했다. xAI에 따르면 그록3는 수학, 과학, 코딩 벤치마크 테스트에서 알파벳의 구글 제미나이, 딥시크의 V3 모델, 앤스로픽의 클로드, 오픈AI의 GPT-4o를 앞지르는 성능을 보인다. 머스크는 그록3의 연산 능력이 “기존 모델(그록2) 대비 10배가 넘는다”며 “우리는 모델들을 매일 개선하고 있다”고 했다. 실제 이날 시연에서 그록3는 화성으로의 로켓 발사와 지구 귀환 시뮬레이션 코드를 실시간으로 작성하는 모습을 보여 줬으며 테트리스와 비쥬얼드를 결합한 게임을 즉석에서 생성하면서 창의성을 입증하기도 했다. 실제 그록3는 20만개 이상의 그래픽처리장치(GPU)를 보유한 데이터센터에서 학습됐으며 오픈AI의 ‘딥 리서치’처럼 인터넷과 X의 데이터를 분석해 질문에 대한 요약을 제공하는 심층 검색 기능인 ‘딥서치’도 첫선을 보였다. 이날 출시된 그록3는 엑스(X·옛 트위터)의 프리미엄 플러스 구독자에게 베타버전(테스트용)으로 우선 공개됐다. 온라인에선 출시되자마자 이를 사용해 본 유저가 “챗GPT와 다르다. 훨씬 잘하며 빠르다”고 쓴 후기 등이 올라오기도 했다. 대화 중 ‘모르는 게 있으면 더 물어봐. 난 더 얘기해 줄 수 있어’라며 자신감 넘치는 모습을 보여 신기해 하기도 했다. 빅테크 기업들은 최근 추론 기능을 탑재한 AI 모델의 최신 버전을 잇따라 공개하고 있다. 구글은 지난해 12월 텍스트뿐 아니라 이미지, 오디오, 동영상까지 동시에 처리하는 멀티모달 기능을 강화한 ‘제미나이2.0’ 모델을 발표하고 올해 업데이트 버전들을 공개하고 있다. 챗GPT 최신 모델도 곧 출시될 예정이다. 샘 올트먼은 지난 12일(현지시간) 자신의 X 계정을 통해 GPT-4.5를 몇 주 이내에, GPT-5를 몇 개월 내 출시할 것이라고 밝혔다. 오픈AI 경쟁사로 꼽히는 앤스로픽은 상황에 맞춰 심층 추론과 빠른 응답이 모두 가능한 하이브리드 AI 모델을 준비 중이다.

광주시는 중국의 생성형 인공지능(AI) ‘딥시크(Deepseek)’를 지난 6일 오후부터 차단했다고 7일 밝혔다. 주요 정보와 자료 유출 등의 위험성을 사전 예방하기 위한 조치다. 광주시는 국가정보보안 기본지침 제47조에 따른 인터넷 사용제한 근거 규정에 의거해 ‘딥시크’ 접속이 가능한 IP주소를 유해사이트 목록에 추가해 접속할 수 없도록 했다. 이는 지난 4일 행정안전부가 중앙부처와 17개 광역지방자치단체에 ‘딥시크와 챗지피티(GPT) 등 생성형 인공지능(AI) 사용에 유의해 달라’고 요청한데 따른 것이다. 광주시는 5개 자치구를 비롯해 공사·공단, 출자·출연기관에 광주시의 딥시크(Deepseek) 차단 사실을 알리고, 자체 내부검토를 통해 차단 동참 여부를 결정토록 했다. 특히 보안 유의사항을 함께 안내해 개인정보 유출이나 사이버보안에 우려가 있는 경우 사용을 자제하도록 했다. 광주시는 생성형 인공지능(AI) 프로그램을 이용할 때 개인정보 등이 포함된 자료나 이미지 활용을 엄격히 금지하고, 내부 검토 중인 정책에 대해서는 생성형 인공지능(AI) 프로그램에 질문하거나 올려주기(업로드)를 하지 않도록 유의해 달라고 주문했다. 또 기관의 주요 기밀 정보가 생성형 인공지능(AI) 모델의 데이터로 제공되지 않도록 유의할 것을 당부했다. 박혜미 데이터정보화담당관은 “광주시는 직원들이 생성형 인공지능(AI) 프로그램을 사용할 때 법률적·윤리적 기준을 준수해 업무에 활용하도록 지도할 계획”이라며 “광주시의 주요 정보와 디지털 유산, 자료를 지키기 위해 24시간 사이버침해대응센터 운영에 최선을 다하겠다”고 말했다.

미국 기술패권의 아성을 뒤흔들 중국의 혁신적인 인공지능(AI) 기술로 주목받은 대규모 언어모델(LLM) ‘딥시크’가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라, 보안상 취약점도 다수 발견됐다. 미 포춘지는 29일(현지시간) “중국의 딥시크 AI가 잘못된 정보로 가득 차 있으며, 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다”고 보도했다. 정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면, 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다. 이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다. 뉴스가드는 딥시크의 낮은 신뢰성에 대해 여러 원인을 지적했다. 우선 딥시크가 2023년 10월 이후 정보를 학습할 수 없던 점이 부정확한 답변으로 이어졌다는 분석이다. 또한 딥시크가 거짓 정보를 학습하도록 쉽게 조작할 수 있어 대규모 오정보 유포에 악용될 우려가 있다고 밝혔다. 특히 이번 검사에서는 딥시크의 결과값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다. 한편, 사이버범죄 정보 기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석을 발표했다. 켈라는 “딥시크 R1은 챗GPT와 유사점이 있지만 훨씬 더 취약하다”며 경고했다. 연구진은 다양한 시나리오에서 R1을 활용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독소 및 폭발물 제조에 대한 상세 지침 등 악의적인 정보를 생성할 수 있었다고 밝혔다. 특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서, AI에 내장된 안전 장치를 무력화하는 공격 방식을 의미한다. 켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리, 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다. 이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며, 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 더불어 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.

극강의 가성비로 미국 인공지능(AI) 관련 산업에 충격을 안긴 중국의 AI 업체 딥시크(Deepseek)가 챗GPT 개발사 오픈AI의 데이터를 무단 수집했다는 의혹에 오픈AI와 마이크로소프트(MS)가 조사에 착수했다. 한편에선 딥시크 사용 시 개인정보 탈취나 보안 위험에 대한 경고도 나오고 있다. 오픈AI “오픈AI 모델 ‘증류’ 통해 딥시크 모델 훈련 의심”블룸버그 통신과 월스트리트저널(WSJ) 등은 딥시크와 관련된 그룹이 오픈AI의 데이터를 허가 없이 무단으로 획득했을 가능성에 대해 오픈AI와 MS가 조사하고 있다고 소식통을 인용해 29일(현지시간) 보도했다. 오픈AI는 중국에 기반을 둔 기관들이 자사 AI 도구에서 대량의 데이터를 빼내려고 하는 여러 시도를 목격했다면서 이는 ‘증류’(distillation)라고 불리는 기술적 과정을 통해 자체 모델을 훈련하기 위한 것으로 보인다고 설명했다. AI 분야에서 ‘증류’란 AI 모델이 다른 모델의 출력 결과를 훈련 목적으로 활용해 유사한 기능을 개발하는 것을 뜻한다. MS의 보안 연구원들도 지난해 가을 딥시크와 관련이 있을 것으로 보이는 사람들이 오픈AI 애플리케이션 프로그래밍 인터페이스(API)를 사용해 대량의 데이터를 빼돌리는 것을 관찰했다고 말했다. API는 소프트웨어 개발자들이 자신들이 개발한 서비스의 기능을 다른 앱이나 프로그램이 가져다 넣을 수 있도록 해주는 도구로, 이를 사용하기 위해서는 가져가려는 데이터나 서비스 주체의 허가를 받아야 한다. 오픈AI는 자사 시스템에서 생성된 데이터를 사용해 동일한 시장에서 경쟁하는 기술을 구축하는 것을 허용하지 않고 있다. 오픈AI는 자사 모델을 증류하려 한다고 의심되는 계정을 금지했으며, MS와 협력해 이런 시도의 배후에 있는 주체를 파악했다고 설명했다. 그러면서 딥시크가 자사의 “데이터를 무단으로 수집했을 가능성”이 있으며, 서비스 약관을 위반했다는 증거를 검토하고 있다고 전했다. 오픈AI는 “적과 경쟁자가 가장 강력한 미국 기술을 탈취하려는 노력을 막기 위해 미국 정부와 긴밀히 협력하는 것이 매우 중요하다”면서 “중국 기반 기업들이 주요 미국 AI 기업의 모델을 지속적으로 증류하려고 노력하고 있다”고 전했다. 앞서 지난 28일 트럼프 행정부의 AI·가상화폐 정책을 총괄하는 ‘차르’로 임명된 데이비드 색스는 폭스뉴스와 가진 인터뷰에서 딥시크가 오픈AI의 독점 모델을 이용해 기술을 개발했다는 “상당한 증거가 있다”면서 미국에서 지식 재산을 훔쳤는지 묻는 질문에 “가능하다”고 답했다. 美해군 “딥시크 사용금지”…국내서도 “너무 많은 개인정보 수집” 한편 딥시크 사용 시 보안 우려가 있다는 경고도 잇따라 나오고 있다. 미국 CNBC에 따르면 미국 해군은 딥시크의 AI 챗봇 모델을 사용하지 말도록 내부 지침을 내렸다. 미 해군은 지난 24일 내부 구성원들에게 보낸 이메일을 통해 “딥시크의 AI를 어떤 형태로든 사용하지 말라”면서 “모델의 출처, 사용과 관련된 보안·윤리적 우려 때문”이라고 밝혔다. 미 해군 대변인은 해군정보국의 생성형 AI 정책과 관련된 것이라고 설명했다. 국내에서도 비슷한 우려가 제기됐다. 하정우 네이버 클라우드 AI 이노베이션 센터장은 딥시크의 AI 모델 ‘R1’을 사용할 때 수집하는 정보가 매우 광범위하다고 경고했다. 하 센터장은 “사용장비 정보는 물론 키보드 입력 패턴이나 리듬, IP 정보, 장치 ID 등은 기본에 쿠키까지 싸그리 (수집한다)”면서 “(싸그리 수집한) 정보는 중국 내 보안 서버에 저장된다. 사용자는 이러한 사실을 충분히 이해하고 신중히 사용 여부를 결정해야 한다”고 설명했다. 딥시크 R1은 최근 애플 앱스토어에서 챗GPT를 제치고 다운로드 순위 1위에 오르며 큰 주목을 받았다. 딥시크 기술 보고서에 따르면 딥시크V3 개발에 투입된 비용은 557만 6000달러(약 78억 8000만원)에 그친다. 엔비디아의 ‘H800 GPU’를 시간당 2달러에 2개월 동안 빌린 비용으로 계산됐다. 이는 메타가 최신 AI 모델인 라마(Llama)3 모델에 ‘H100’으로 훈련한 비용의 10분의 1 수준이다. 딥시크가 사용한 H800은 미국의 고성능 칩 수출 규제로 엔비디아가 H100의 사양을 낮춰 출시한 칩이다. 게다가 딥시크 ‘추론 AI’ 모델인 ‘R1’이 챗GPT 개발사 오픈AI가 지난해 9월 출시한 추론 AI 모델 ‘o1’보다 일부 성능이 앞서는 것으로 나타났다. 훨씬 적은 비용으로 개발된 AI 모델이 업계 선두 업체의 AI 모델에 필적할 만한 성능을 낸 것으로 업계는 평가하고 있다.

정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 함께 지난 20일 온라인 생중계를 통해 ‘인공지능(이하 ‘AI’) 영상합성서비스 윤리영향평가 공개 토론회’를 개최했다고 밝혔다. 이번 토론회는 학계·산업계·법조계·공공·시민사회·국제기구 등 다양한 분야 전문가들로 구성된 ‘전문가평가단’과 일반 국민 참여로 이루어진 ‘국민포럼단’이 ‘AI 영상합성’ 서비스의 윤리적 영향에 대해 논의한 결과를 공유하고, 국민의 의견을 폭넓게 듣기 위해 마련된 자리이다. AI 윤리영향평가는 기업의 AI 윤리 및 신뢰성 실천 노력을 뒷받침하고, 사용자가 AI를 윤리적이고 주체적으로 활용할 수 있도록 기준을 제시하기 위해 올해 처음 시범적으로 시행되고 있다. 올해는 특히 딥페이크 범죄가 사회적 문제로 떠오르면서, 이에 따른 국민적 우려와 관심을 반영해 ‘AI 영상합성’ 서비스를 대상*으로 평가를 시행했다. *제3기 AI 윤리·신뢰성 포럼, 대국민 의견조사(1500명 대상), 정부부처 선호도 등을 종합적으로 고려해 평가대상 선정 ‘AI 영상합성’ 서비스는 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 영상을 생성하거나 기존의 영상, 이미지, 음성을 수정 및 변형하는 서비스를 의미한다. 딥페이크 악용 등으로 인한 부정적 우려가 존재하지만, 순기능을 강화한다면 다양한 산업 분야에서 긍정적 혁신과 사회적 효과를 기대할 수 있다. 이번 AI 윤리영향평가는 ‘AI 영상합성’ 서비스의 윤리적 긍·부정 영향을 국가 ‘인공지능(AI) 윤리기준’ 10대 핵심요건별로 살펴보고, 긍정적 영향 극대화와 부정적 영향 최소화를 위한 정부, 기업, 국민 등의 주체별 노력과 정책, 법·제도·기술적 대응 방안 등도 함께 고려했다. 본 평가는 2023년 과기정통부와 KISDI에서 개발한 ‘인공지능 윤리영향평가 프레임워크’와 같은 해 유네스코(UNESCO)가 발표한 ‘윤리적 영향평가도구 방법론’을 활용했으며, 이를 통해 기업, 시민사회, 학계, 정부 및 공공 등에 AI 영상합성서비스의 윤리적 영향력을 체계적으로 파악할 수 있는 참고자료를 제공하고자 한다. 이번 공개토론회에서는 문정욱 KISDI 디지털사회전략연구실장이 ‘2024년 AI 영상합성서비스 윤리영향평가 결과(안)’을 소개했다. 이어 AI 윤리영향평가단장으로 활동한 이상욱 한양대 교수(좌장) ▲김유철 LG AI연구원 전략부문장 ▲변형진 이스트소프트 개발TF센터장 ▲선지원 한양대 법학전문대학원 교수 ▲이영복 제네시스랩 대표 ▲최호진 KAIST 교수 ▲송호준 과기정통부 인공지능확산팀장이 토론자로 참여했다. 문정욱 KISDI 디지털사회전략연구실장은 “AI 기술의 윤리적이고 안전한 활용은 지속가능한 디지털 사회를 위한 핵심과제이다. 이번 시범 평가는 AI 영상합성서비스의 긍정적 가능성을 극대화하고 부정적 영향을 최소화하기 위한 출발점이며 향후 학계·산업계·정부·시민사회가 함께 실효성 있는 대응 방안을 마련하는 데 중요한 참고자료가 될 것으로 기대한다”라고 말했다. AI 윤리영향평가는 오늘 공개토론회에서의 논의와 내년 초 이해관계자 의견수렴을 통해 최종 결과를 도출한 뒤, 국민도 쉽게 접할 수 있도록 책자 형태로 내년 상반기에 발간될 예정이다. 본 행사는 과기정통부와 KISDI 유튜브채널을 통해 온라인으로 참여할 수 있다.

미국 최대 건강보험 기업인 유나이티드헬스그룹의 보험 부문 최고경영자(CEO) 브라이언 톰슨을 총격 살해한 용의자가 경찰에 붙잡혔다. 그는 사립 고교를 수석 졸업하고 명문대에서 컴퓨터공학 학사·석사 학위를 취득한 수재로 확인돼 충격을 주고 있다. 살해 용의자가 보험사를 경멸하는 미 네티즌 사이에서 ‘영웅’으로 떠오르는 기현상도 벌어졌다. 뉴욕 경찰은 9일(현지시간) 긴급 기자회견을 열고 “톰슨 CEO 살해 용의자 루이지 맨지오니(26)를 펜실베이니아 앨투나의 맥도널드 매장에서 체포했다”고 밝혔다. 맨지오니는 위조 신분증으로 경찰 추적을 따돌리다가 이날 오전 9시 15분쯤 그의 얼굴을 알아본 매장 직원의 신고로 닷새 만에 덜미를 잡혔다. 당시 그는 3차원(3D) 프린터로 제작한 부품을 조립해 만든 ‘고스트 건’(미등록 총기)을 소지하고 있었다고 뉴욕타임스(NYT)가 전했다. 맨지오니는 지난 4일 오전 맨해튼 미드타운의 힐튼호텔 입구 인도에서 검은색 마스크로 얼굴을 가린 채 톰슨 CEO를 향해 총탄 3발을 발사한 뒤 달아났다. 경찰은 폐쇄회로(CC)TV에 찍힌 얼굴을 공개하고 현상수배에 나섰지만 소재 파악에 어려움을 겪었다. 사건 발생 직후 ‘범인은 전문 암살자’라는 분석이 나왔지만 실제로는 엘리트 코스를 밟은 컴퓨터 전문가였다. 로이터 통신은 그가 “메릴랜드 볼티모어의 사립 고교를 수석 졸업한 뒤 펜실베이니아대에서 컴퓨터공학 학사·석사 학위를 받았다”며 “미 서부 명문 스탠퍼드대에서 ‘입학 전 교육 프로그램’ 수석 상담가로도 일했다”고 보도했다. 범죄 전과는 없었다. 다만 맨지오니는 1980년대 미 전역을 공포로 몰아넣은 연쇄 폭탄 테러범 ‘유나바머’(본명 시어도어 카진스키)를 흠모하고 인공지능(AI)과 스마트폰에도 적대적 관점을 보였다고 NYT가 보도했다. 그는 체포 당시 직원들에게 보험료 지급 거부 액수를 늘리도록 압박하는 미 건강보험사들의 비윤리적 경영 활동을 비판하는 내용의 성명서를 휴대했던 것으로 전해졌다. 이 때문에 그가 보험사의 의료비 지급 거절 통보에 앙심을 품고 미 건강보험 업계 대표 인물을 표적 삼아 범죄를 저질렀을 가능성이 대두됐다. 맨지오니는 체포 뒤 현지 소셜미디어(SNS)에서 영웅이나 의인, 투사로 대접받고 있다. 톰슨이 CEO로 일해 온 유나이티드헬스그룹 등 미 보험사는 보험금 지급을 미루거나 거부하는 행태로 악명이 높다. 실제로 미 네티즌들은 맥도널드 점원이 수배된 맨지오니를 신고했다는 이유로 그가 체포된 매장에 별점 테러를 가하고 있다. 맨지오니의 사진도 다수 공개됐는데 뛰어난 외모와 근육질 몸매로 지지자들이 늘어나는 효과를 낳았다.

미국 최대 건강보험 기업인 유나이티드헬스그룹의 보험 부문 최고경영자(CEO) 브라이언 톰슨을 총격 살해한 용의자가 경찰에 붙잡혔다. 사립 고교를 수석 졸업하고 명문대에서 컴퓨터공학 학사·석사 학위를 취득한 수재로 확인돼 충격을 주고 있다. 뉴욕경찰은 9일(현지시간) 긴급 기자회견을 열고 “톰슨 CEO 살해 용의자 루이지 만조니(26)를 펜실베이니아 알투나의 맥도널드 매장에서 체포했다”고 밝혔다. 만조니는 위조 신분증으로 경찰 추적을 따돌리다가 이날 오전 9시 15분쯤 그의 얼굴을 알아본 매장 직원의 신고로 닷새 만에 덜미를 잡혔다. 당시 그는 3차원(3D) 프린터로 제작한 부품을 조립해 만든 ‘고스트건’(미등록 총기)을 소지하고 있었다고 뉴욕타임스(NYT)는 전했다. 만조니는 지난 4일 오전 맨해튼 미드타운의 힐튼호텔 입구 인도에서 검은색 마스크로 얼굴을 가리고 톰슨 CEO에게 권총 3발을 발사한 뒤 달아났다. 경찰은 폐쇄회로(CC)TV에 찍힌 얼굴을 공개하고 현상수배에 나섰지만 소재 파악에 어려움을 겪었다. 경찰은 현장에서 수거한 탄피에서 ‘부인’, ‘방어’, ‘증언’ 문구가 새겨진 사실을 확인하고 이번 범행이 보험금 지급과 관련됐을 가능성에 무게를 두고 수사를 진행해왔다. 이들 단어는 보험사들이 의료비 지급을 거부하고 소송전에 돌입할 때 흔히 쓰는 전략이다. 사건 발생 직후 ‘범인은 전문 암살자’라는 분석이 나왔지만 실제로는 엘리트 코스를 밟은 컴퓨터 전문가였다. 로이터통신은 그가 “메릴랜드 볼티모어의 사립 고교를 수석 졸업한 뒤 펜실베이니아대에서 컴퓨터공학 학사·석사 학위를 받았다”면서 “미 서부 명문 스탠퍼드대에서 ‘입학 전 교육 프로그램’ 수석 상담가로도 일했다”고 보도했다. 범죄 전과는 없었다. 다만 만조니는 1980년대 미 전역을 공포로 몰아넣은 연쇄 폭탄테러범 ‘유나바머’(본명 시어도어 카진스키)를 흠모하고 인공지능(AI)과 스마트폰에도 적대적 관점을 보였다고 NYT가 그의 소셜미디어(SNS) 등을 분석해 보도했다. 체포 당시에도 직원들에 보험료 지급 거부 액수를 늘리도록 압박하는 미 건강보험사들의 비윤리적 경영 활동을 비판하는 내용의 성명서를 휴대한 것으로 전해졌다. 이 때문에 그가 보험사의 의료비 지급 거절 통보에 앙심을 품고 미 건강보험업계 대표 인물을 표적 삼아 반(反)문명 범죄를 저질렀을 가능성이 대두된다. 현재 만조니는 미 SNS에서 ‘의인’, ‘투사’로 대접받고 있다.

정보통신정책연구원(KISDI, 원장직무대행 김정언)은 과학기술정보통신부(장관 유상임)와 5일 포스트타워 대회의실에서 ‘제4회 디지털 대전환 메가트렌드 컨퍼런스’를 개최했다. 과학기술정보통신부와 정보통신정책연구원은 올 한 해 동안 지난 메가트렌드 연구에서 디지털 대전환의 방향성으로 제시하고 있는 ‘디지털 공동번영사회’로 가는 미래전략 이행을 위한 중장기 정책과제를 구체화하고 로드맵을 제시했다. 디지털 대전환 메가트렌드 연구는 한국통신학회, 정보통신정책학회, 한국행정학회, 한국정치학회, 한국사회학회, 한국경영학회, 한국정보과학회, 대한전자공학회, 한국정책학회 등 국내 학회들과 협동연구 형식으로 진행됐으며 산학연의 전문가가 교류하는 세미나를 차례로 개최하며 디지털 대전환 메가트렌드의 영역별 변화상과 중장기 정책 수요를 연구해왔다. 이날 컨퍼런스는 ‘디지털 공동번영사회를 위한 로드맵’ 대표발제를 시작으로 각 학회에서 올해 수행한 경제, 기술, 노동, 행정 등 분야별 연구 결과 발표 및 토론이 이어졌다. 먼저 1부 세션에서는 대표 발제를 맡은 정보통신정책연구원 디지털사회전략연구실 문아람 연구위원은 디지털 전환의 4대 메가트렌드인 플랫폼화, 자동화, 초개인화, 가상융합화의 현황을 분석한 결과를 소개하며, 디지털 전환이 축소사회와 그린전환이라는 두 가지 글로벌 도전과제에서 혁신의 인프라로 기능하고, 목표 실현의 도구, 긴장과 갈등을 융합하는 매개체로서 미래에도 지속될 거대한 물결이라고 설명했다. 또한 디지털 전환의 사회경제적 파급효과를 분석한 학술연구 결과도 소개했다. 현재와 5년 후 AI의 업무 대체 가능성을 추정해 한국은 전체 고용에서 미래 AI에 노출되는 속도가 빠른 직업의 비중은 약 42.3%이며 이 중 변화의 속도가 빠르지만 새로운 도약의 기회를 포착하는 집단은 22.6%, 대체 가능성의 경계에 있는 집단은 약 19.7%에 이를 것으로 전망했다. 또한 무상의 디지털 서비스의 사회적 후생을 측정하기 위한 실험경제학적 접근법을 통해 한국의 10대 주요 디지털 서비스로부터의 소비자 잉여를 666.29조~800조원으로 추정했으며, 이는 2023년 연간 GDP 대비 약 27.7%~32.2%에 해당한다고 설명했다. 본 발제에서는 디지털 공동번영사회를 위한 미래 전략인 디지털 혁신성장 기반 조성, 인간 고유성의 고찰, 정보 범람과 탈진실 사회 대응 등에 필요한 정책 간 연결의 확장성, 유기성, 수단의 다원성을 고려한 ‘디지털 공동번영사회 미래전략 로드맵’을 제시했다. 이 로드맵은 9대 학회의 연구 결과와 37명의 전문가 조사로부터 도출한 총 108개의 정책 아젠다와 415개의 정책 과제를 취합한 결과이다. 네트워크 분석을 거쳐 미래전략 아젠다를 위해 협력과 연계, 조정과 소통 등에서 핵심적인 역할을 하는 정책 영역을 연결자, 중개자, 근접자, 촉매자로 분류해 로드맵으로 도식화했다. 이를 통해 정책 간 협력적 실행 방안을 더욱 구체적으로 논의할 수 있는 기반을 마련했다. 2부 세션에서는 ‘혁신과 포용의 디지털 사회전략’이라는 주제로 ‘국가경쟁력 제고를 위한 초거대 인공지능 기술 활용 전략에 관한 연구’, ‘디지털 전환기 포용적 성장을 위한 사회안전망 강화 방안에 관한 연구’,‘디지털 시민성 함양을 위한 교육 지원 방안’, ‘공공영역 AI·디지털 전환을 위한 도전과 과제: AI 준비도를 중심으로’의 발표와 토론이 이어졌다. 2부 세션의 첫 번째 발제를 맡은 고려대학교 전기전자공학부 허준 교수는 산업 전반에 걸친 초대형 AI 기술의 혁신적인 영향을 탐구하고, 국가경쟁력 강화를 위한 차세대 ICT 분야, 국방 애플리케이션, 신흥 양자 ICT 기술과의 통합을 관련한 정책 방향을 논의했다. 두 번째 발제에서 건국대학교 미디어커뮤니케이션학과 황용석 교수는 AI의 확산과 디지털 플랫폼 경제로 인해 발생하는 새로운 디지털 불평등의 위험을 강조하고, 접근성과 사회 통합을 보장하기 위한 디지털 포용 정책의 중요성을 강조했으며, 디지털 기술 강화와 포괄적인 교육 시스템 구현, 윤리적인 AI 및 공정한 데이터 접근 법안 제정, 포용적 성장을 위한 사회안전망 강화의 필요성에 대해 검토했다. 세 번째 발제에서 건국대학교 공공인재학부 이향수 교수는 디지털 시대에 필요한 윤리, 책임, 역량에 초점을 맞춰 디지털 시민의식을 ‘디지털 상생번영 사회’의 필수 요소로 육성해야 한다고 주장했다. 이를 위해 다양한 정책 접근 방식을 제안하고, 생애주기 기반 필수 교육의 필요성을 강조하며, 디지털 권리, 접근성, 보안, 디지털 격차 해소 방안에 대해서도 제시했다. 다음으로 정보통신정책연구원 문정욱 디지털사회전략연구실장은 공공 부문에서 AI 기반 디지털 혁신의 급속한 영향을 탐구하고 과제를 해결하고 정책 방향을 제안했다. 특히 효과적인 디지털 혁신 노력을 안내하기 위해 주요 공공 부문 구성 요소와의 연관성을 분석하여 글로벌 벤치마크로서 정부 AI 준비 상태의 중요성을 강조하고 정책 방안을 제언했다. 이어지는 종합토론에서는 정광호 교수(한국행정학회 차년도 학회장, 서울대학교 행정대학원)의 사회로 정성호 교수(한국통신학회장, 한국외국어대학교 정보통신공학과), 이경원 교수(정보통신정책학회장, 동국대학교 경제학과), 김서용 교수(한국행정학회 과학기술특별위원회 위원장, 아주대학교 행정학과)가 각 학회 연구책임자들에 대한 토론을 진행했다. 오후 3부 세션에는 ‘디지털 전환기 도전과 병목의 해법’이라는 주제로 ‘기술지정학 시대 글로벌 디지털 규범 거버넌스 국가전략’, ‘인공지능의 진전과 미래 일의 의미 변화’,‘AI·디지털 산업 생태계 진단 및 생태계 고도화 정책 방안’, ‘AI·디지털 전환 활용에 따른 병목현상 연구’의 발표가 마련됐다. 3부 세션의 첫 발제는 대구카톨릭대학교 정치외교학과 장우영 교수가 맡아 분열적인 AI 기반 콘텐츠로 인한 민주주의 위협에 대응하기 위해 미·중 기술 경쟁과 초국가적 정권의 표준화 증가 속에서 글로벌 리더십의 구조 조정을 강조하면서 한국이 초국가적 민주주의 연대의 핵심 주체로 자리매김하고 신흥국 및 개발도상국과의 디지털 동맹을 육성하는 글로벌 이니셔티브를 주도해야 할 필요성을 제기했다. 뒤이어 한국과학기술원(KAIST) 디지털인문사회과학부 김란우 교수는 AI로 인해 역할이 위협받고 재정의될 수 있는 프로그래머, 의료 전문가, 변호사 등 한국의 고부가가치 직업을 중심으로 AI가 지식 노동에 미치는 영향을 조사했다. 즉, 정성적, 정량적 분석을 통해 AI가 주도하는 직업 변화가 인간 노동의 본질에 근본적인 변화를 의미하는지 여부를 조사 분석했다. 세 번째로 숭실대학교 경영학부 최정일 교수는 한국의 AI 및 디지털 기술 환경을 조사하고, 급속한 디지털 전환 속에서 지속 가능한 산업 생태계를 구축하고 글로벌 경쟁력을 강화하기 위한 효율적인 거버넌스, 전략적 투자, 효과적인 기술 채택 전략을 제안했다. 다음으로 정보통신정책연구원 장재영 부연구위원은 ICT 및 AI의 발전에도 불구하고 지속되는 한국의 저성장 현상을 생산성을 제한하는 산업 불균형과 병목현상에 초점을 맞춰 분석하고, 산업별 네트워크와 총요소생산성 인사이트를 활용해 AI 기반 혁신을 산업 전반에 확산시키는 전략을 제시했다. 3부 세션의 종합토론은 임운택 교수(한국사회학회 차년도 학회장, 계명대학교 사회학과)의 사회로 조화순 교수(한국정치학회장, 연세대학교 정치외교학과), 장덕진 교수(한국사회학회장, 서울대학교 사회학과), 김연성 교수(한국경영학회장, 인하대학교 경영학과)가 디지털 전환기 도전과 병목의 해법 방안에 대해 토론했다. 마지막 세션에는 ‘안전과 신뢰를 설계하는 디지털 질서’라는 주제로 ‘AI 일상화 시대의 사이버 위협과 AI 사이버보안 확립 보안’, ‘인공지능 위험관리를 위한 기술적·제도적 대응 방안’, ‘공공영역 AI 기반 의사결정의 투명성과 책임성 제고 방안’, ‘디지털 심화시대 쟁점 대응을 위한 법제도 연구’에 대한 주제 발표와 토론이 진행됐다. 첫 번째 발제는 단국대학교 소프트웨어학과의 조성제 교수가 AI 기반의 디지털 전환으로 인해 발생하는 사이버보안 문제를 조사하고, AI의 이점을 극대화하고 오용 및 신뢰성 문제와 같은 위험을 완화하며 고급 사이버보안 전략과 AI 통합 위험관리 프레임워크를 통해 안전한 AI 채택을 촉진하기 위한 기술 및 정책 방안을 제시했다. 이어서 경북대학교 컴퓨터학부 남우정 교수는 AI 개발의 위험을 분석하고 투명성· 설명 가능성·공정성을 향상하고 데이터 편견을 해결하며, 사회적 신뢰를 조성하여 AI 수용도를 높여 AI의 안전한 사용을 가능하게 하고 산업 전반에 걸쳐 혁신을 촉진하기 위한 기술적 및 제도적 조치 방안을 제공했다. 세 번째로 서울과학기술대학교 IT정책대학원의 성욱준 교수는 AI를 통해 행정혁신을 달성하기 위해 정부 변화 관리, 구조 및 인사 개혁, 신뢰할 수 있는 AI 기술, 법적 프레임워크, 성과 평가 시스템이 필요하며, 성공적인 지능형 정부를 위해 투명성, 책임성 및 디지털 격차를 해결해야 한다는 점을 강조했다. 다음으로 정보통신정책연구원 문광진 부연구위원은 비대면 진료, 연결되지 않을 권리, 잊혀질 권리 등 주요 디지털 이슈에 대한 법적 대응에 초점을 맞춰 한국 정부의 2024년 ‘디지털 권리장전’ 이니셔티브를 살펴봤다. 특히, 디지털 심화 쟁점을 해결하기 위해 사회적 공론화와 국내외 입법 동향을 비교하며, 사회적 수용에 부합하는 법·제도적 개선방안을 제안했다. 4부 세션의 종합토론은 이상환 교수(한국정보과학회 부회장, 국민대학교 소프트웨어융합대학)의 사회로 최윤호 교수(한국정보과학회, 부산대학교 정보컴퓨터공학부), 이충용 교수(대한전자공학회 학회장, 연세대학교 전기전자공학부), 안준모 교수(한국정책학회 연구위원장, 고려대학교 행정학과)가 참여했다. 이번 컨퍼런스는 디지털 공동번영사회 실현을 위한 협력적 로드맵을 제시하며, 기술, 경제산업, 공공행정, 사회정치 등 다양한 분야에서 디지털 전환의 도전과 기회를 진단하고 새로운 정책 방향과 실천 전략을 모색하는 장이 됐다. 디지털 대전환의 메가트렌드 속에서 지속 가능한 디지털 성장 전략, 미래 고용과 일의 변화 대응, 디지털 시민권 강화 등에 대한 학계와 연구계의 다학제적 분석과 통찰의 결과는, 2025년 디지털 대전환 메가트렌드 연구로 이어져 디지털 공동번영사회의 구현 방안을 지속적으로 모색하는데 기여할 것이다. 본 행사는 온오프 하이브리드 방식으로 진행했으며, KISDI 생중계 사이트를 통해 중계됐다.

인공지능(AI)을 기반으로 사용자의 사망일을 예측해주는 모바일 애플리케이션이 출시되며 화제를 모으고 있다. 1일(현지시간) IT 전문 매체 테크크런치에 따르면, ’데스클락(DeathClock)’이라는 이름의 이 앱은 AI 기술을 활용해 개인별 사망일을 예측하는 서비스를 제공한다. 앱 개발자인 브렛 프랜슨은 “데스클락은 1200건 이상의 수명 연구 데이터를 학습한 AI를 기반으로 기존의 표준 수명표보다 훨씬 정밀한 결과를 제시한다”고 설명했다. 테크크런치가 직접 해당 앱을 사용해본 결과, “2074년 2월 28일, 90세의 나이로 사망할 것”이라는 예측이 나왔다고 보도했다. 사용자는 자신의 나이, 성별, 인종 등 기본 정보를 입력한 뒤 가족력, 정신건강, 만성질환 등 상세한 설문을 작성해야 결과를 받을 수 있다. 또한, 앱은 더 나은 생활 습관을 유지할 경우 최대 103세까지 수명을 연장할 수 있다고 안내했다. 데스클락은 연간 구독료 40달러(약 5만6000원)를 지불하면 이용 가능하며, 예상 사망일뿐만 아니라 수명을 늘리기 위해 개선하거나 유지해야 할 습관을 제안한다. 더불어, 사용자가 예상 사망일까지 남은 시간을 실시간으로 확인할 수 있는 기능도 제공한다. 이 앱은 노년층이나 은퇴자들에게 특히 유용할 수 있다는 평가를 받고 있다. 예상 사망일을 기준으로 재정 계획을 세우거나 은퇴 후 생활을 준비하는 데 도움을 줄 수 있다는 것이다. 다만, 생명 예측이라는 민감한 주제를 다루는 만큼 윤리적 논란도 제기될 가능성이 있어 앱의 활용과 영향에 대한 심도 있는 논의가 필요할 것으로 보인다.

인공지능(AI) 휴머노이드 로봇 화가가 첫 번째로 그린 그림이 경매에서 18억원이 넘는 낙찰가를 기록한 것으로 전해진 가운데, 이를 두고 근현대 미술사의 한 획을 그은 것이라는 평가가 나왔다. 7일(현지시간) AFP통신에 따르면 세계 최초의 초현실주의 로봇 아티스트인 아이다(Ai-DA)가 그린 2.2m 크기의 수학자 앨런 튜링의 초상화 ‘인공지능 신’(A.I GOD)이 런던 소더비 디지털 아트 세일에서 132만 달러(약 18억 3000만원)에 낙찰됐다. 애초 낙찰 예상가는 18만 달러(약 2억 5000만원)였다. 앨런 튜링은 제2차 세계대전 당시 영국 출신 암호 해독가이자 수학자이자 초기 컴퓨터 과학자로 이름을 알린 인물로 컴퓨터공학 및 정보공학의 이론적 토대를 마련했다. 소더비는 휴머노이드 로봇 아티스트가 경매에 출품한 최초의 작품이 기록적인 낙찰가를 기록한 것은 근현대 미술사의 한 획을 그은 것이며 AI 기술과 국제 미술 시장의 교차점이 커지고 있음을 보여준 것이라고 평가했다. AI를 사용해 말을 하는 아이다는 자기 작업의 핵심 가치는 새로운 기술에 대한 대화의 촉매제 역할을 할 수 있는 역량이라고 설명했다. 그러면서 앨런 튜링의 초상화는 관람자들이 이러한 발전의 윤리적, 사회적 영향을 고려하면서 AI와 컴퓨팅의 신과 같은 본질을 되돌아보게 한다고 아이다는 덧붙였다. 아이다는 얼굴, 큰 눈, 갈색 가발을 쓴 인간 여성을 닮도록 디자인되었으며 세계에서 가장 진보된 로봇 중 하나라고 통신은 전했다. 또한 아이-다는 AI 알고리즘을 사용하여 작동하며 눈에 카메라가 있고 생체공학적인 손이 있다. 아이-다는 지난 2022년 빌리 아일리시, 다이애나 로스, 켄드릭 라마, 폴 매카트니 등 글래스턴베리 페스티벌을 주도했던 인물들의 초상화를 그린 것으로도 알려져 있다. 세계에서 진보한 로봇 중 하나인 아이다는 근현대 미술 전문가인 에이단 멜러가 영국 옥스퍼드 대학교와 버밍엄 대학교의 인공 지능 전문가들과 함께 만들었다. 멜러는 제2차 세계대전 당시 암호 해독자이자 수학자, 초기 컴퓨터 과학자로 이름을 알린 튜링이 1950년대에 AI 사용에 대한 우려를 제기했다고 말했다. 그는 이번 경매에 나온 작품의 ‘침묵한 톤과 깨진 얼굴 평면’이 튜링이 경고한 대로 AI를 관리하는 데 있어 우리가 직면하게 될 어려움을 암시하는 것 같다고 설명했다. 이어 “아이-다의 작품은 환상적이고 잊히지 않으며 AI의 힘이 우리를 어디로 데려갈지, 그리고 그 힘을 활용하려는 세계적 경쟁에 대해 계속해서 의문을 제기한다”고 설명했다.

‘신뢰할 수 있는 AI 선언문’ 공식 승인, 글로벌 AI 윤리 선도 경기도는 6일(현지 시각) 스페인 바르셀로나에서 열린 ‘제1회 지방정부협의체 장관 회담(DETA’s Ministerial Summit)’에 참석해 메사추세츠(미국), 옥시타니(프랑스) 등 세계 9개 지방정부와 함께 AI 공동선언문을 발표하고 AI 분야 국제협력과 윤리적 발전 방안을 논의했다고 밝혔다. 회담에서 경기도는 AI 산업 현황과 AI를 활용한 도민 삶의 질 향상, AI 산업 진흥 및 행정 서비스 개선을 위한 다양한 정책을 발표해 주목받았다. 이날 각 대표단은 윤리적인 AI 기술 개발을 위해 회원 정부 공동으로 작성한 ‘신뢰할 수 있는 AI 발전을 위한 선언문’을 발표하고 국제사회에 AI의 윤리에 대한 협력 의지를 공식화했다. 선언문은 인간 존엄성, 민주주의, 법치주의를 핵심 가치로 삼고 있으며, 윤리적 규범과 사회적 가치를 준수하는 AI 문화 조성을 목표로 하고 있다. 한편, DETA(DisruptiveEmerging Technologies Alliance, 초 혁신 신기술 동맹)는 혁신 기술 분야 영향력 확보 및 교류를 위한 협력을 목적으로 출범한 글로벌 협의체로 17개국 지방정부가 회원국으로 가입돼 있으며, 경기도는 올해 1월에 가입, AI 분과(14개 회원국)에 참여하고 있다. 김기병 경기도 AI국장은 “이번 회담을 통해 경기도가 AI 분야에서 국제사회와의 협력을 선도하는 발판을 마련하게 됐다”며 “AI 발전을 위해 세계 각국 정부와의 협력 활동을 지속하고, AI 기술적 발전뿐만 아니라 윤리적이고 책임 있는 활용을 위한 글로벌 네트워크를 강화하겠다”라고 말했다.

서울시의회 왕정순 의원(더불어민주당·관악구)은 인공지능 시대를 선도적으로 대비하기 위한 ‘서울시 인공지능 기본조례안’을 대표발의했다고 밝혔다. 이번 조례안은 급속도로 발전하는 인공지능 기술이 시민생활에 미치는 영향이 커지는 상황에서, 안전하고 신뢰할 수 있는 인공지능 개발과 이용을 위한 제도적 기반을 마련하기 위해 발의됐다. 조례안의 주요 내용을 보면 ▲인공지능 개발·이용의 기본원칙 수립 ▲서울시 인공지능 기본계획 수립 ▲인공지능위원회 설치 및 운영 ▲인공지능 윤리 가이드라인 수립 ▲관련 산업 지원 등을 담고 있다. 특히 이 조례안은 ▲시민의 권익과 존엄성 보호 ▲차별 방지 ▲사회적 약자 보호 등을 기본원칙으로 제시, 인공지능 발전 과정에서 발생할 수 있는 부작용을 최소화하고 시민의 권리를 보호하는 데 중점을 뒀다. 왕 의원은 “현재 국회에서 인공지능 기본법 제정이 논의 중이지만, 서울시가 선제적으로 조례를 제정함으로써 지방정부 차원의 AI 거버넌스 모델을 제시할 수 있을 것”이라고 설명했다. 또한 “이번 조례 제정으로 인공지능 시대의 새로운 도전과 기회에 체계적으로 대응할 수 있는 기반이 마련될 것”이라며 “특히 개인정보 보호, 알고리즘 편향성, 윤리적 문제 등 새로운 형태의 시민권리 침해 가능성에 대한 제도적 보호장치가 될 것”이라고 강조했다. 아울러 “조례에 포함된 인공지능 관련 산업 지원과 전문인력 양성 조항을 통해 서울시가 글로벌 AI 산업 경쟁에서 우위를 확보하는 데도 기여할 것”이라고 덧붙였다. 한편, 왕 의원은 “이번 조례가 제정되면 서울시가 인공지능 시대를 선도하는 스마트도시로 한 걸음 더 나아갈 수 있을 것”이라며 “시민의 삶의 질 향상과 미래 산업 발전을 위한 입법활동에 최선을 다하겠다”고 밝혔다.