챗GPT가 생성한 글에 사람 눈에 보이지 않는 ‘워터마크’가 찍힌다. 인공지능(AI)이 쓴 글을 식별하는 기술이 확산하면서 대학 과제나 논문 등에 AI의 이용 여부를 가려낼 수단으로 작용할 전망이다. 하지만 이를 토대로 실제 사용자에게 불이익을 줄 경우 적지 않은 논란이 예상된다. 오픈AI는 유럽연합(EU) AI법상 ‘생성형 AI 투명성 의무’에 대응해 AI 생성 글을 식별하는 기술인 ‘텍스트그레인’을 도입한다고 5일(현지시간) 밝혔다. 수주 내 EU 지역의 챗GPT와 코덱스에 우선 적용한다. AI가 단어를 고르는 과정에 미세한 통계적 신호를 심는 방식이다. 사람이 읽을 때는 차이가 없지만 전용 도구로 찾아낼 수 있어 AI의 답변을 그대로 복사해 옮길 경우에도 흔적이 유지된다. 앤트로픽도 지난 8월 클로드에 유사 기술을 도입했고 구글도 제미나이에 ‘신스ID-텍스트’를 적용하고 있다. 다만, 워터마크가 AI 사용의 전모를 보여주는 것은 아니다. 글을 수정하면 신호가 약해진다. 오픈AI가 400토큰 분량의 글을 시험한 결과 단어 10%를 유의어로 바꾸자 탐지율은 92%에서 66%로 낮아졌다. 단어 25%를 바꾸면 탐지율은 17%까지 떨어졌다. 워터마크가 탐지되지 않았다고 해서 사람이 직접 쓴 글이라고 단정할 수 없는 이유다. 반대로 워터마크가 발견됐다고 부정행위가 입증되는 것도 아니다. 과제 전체를 챗GPT에 맡긴 경우와 직접 쓴 글을 AI로 다듬거나 번역한 경우를 구별하기 어렵다. AI가 글 작성에서 어느 정도 관여했는지도 알 수 없다. AI가 허용된 보조행위를 했을 가능성도 있다. 판정 권한의 문제도 있다. 오픈AI는 워터마크 탐지 도구를 일반에 공개하지 않고 당분간 승인된 연구자와 전문기관에만 제공한다. 기업 등이 이용하는 응용프로그램인터페이스(API)도 워터마크를 기본 적용하지 않고 원하는 고객이 선택하도록 했다. AI 업체가 신호를 심는 기술뿐 아니라 이를 확인할 수단과 적용 범위까지 결정하는 구조인 만큼, 탐지 결과가 실제 평가나 징계에 쓰일 경우 외부 검증이나 이의 제기 통로가 필요하다는 지적도 나온다. 이미 미국 밴더빌트대는 2023년 표절 검사 업체 턴잇인의 AI 탐지 기능 사용을 중단했다. 턴잇인이 밝힌 오탐률은 1%였지만 대학 측은 한 해 제출되는 과제 7만 5000건에 적용하면 약 750건을 잘못 판정할 수 있다고 봤다. 국제 학술지 ‘네이처 휴먼 비헤이비어’는 AI 탐지기 때문에 지난 8월 AI 사용을 잘못 의심받은 호주가톨릭대 학생들이 검색 기록과 손글씨 메모까지 내야 했던 사례를 소개했다. AI 탐지기를 부정행위 판정이 아닌 보조 수단 정도로 써야 한다는 것이다.

후보들은 선거 현장에서 다양한 방식으로 인공지능(AI)을 활용하고 있지만 유독 ‘AI 제작 영상’만은 딥페이크 규제에 묶여 있다. AI 활용이 선거 비용을 낮춰 다양한 후보들에게 기회를 열어 주는 만큼 AI 제작 영상도 원천적 봉쇄보다는 콘텐츠의 투명성 확보에 무게를 두는 쪽으로 규제를 손봐야 한다는 지적이 나온다. 3일 공직선거법 등에 따르면 선거 91일 전까지는 ‘AI를 이용해 제작한 영상’이라고 표시하면 딥페이크 선거운동 영상을 소셜미디어(SNS) 등에 게재할 수 있다. ‘AI 제작 음향’이라고 밝힌 선거송·로고송을 SNS에 게시하는 것도 합법이다. 그러나 정작 본격적인 선거운동이 필요한 선거 90일 전부터 선거일까지는 표시 유무와 상관없이 후보의 모습을 활용한 딥페이크 영상 등은 전면 금지된다. 요즘 SNS에 유행하는 음성합성(TTS) 목소리를 입힌 홍보 영상을 제작하는 것도 선거법상 위반이다. 현장에서는 답답함을 호소하고 있다. 이미 다양한 분야에서 AI 제작 영상 등을 활용해 비용 절감 등 효과를 얻고 있는데 선거법이 일괄 금지를 고수하는 것은 과하다는 의견이다. 이진현 개혁신당 서울 광진구의원 후보는 “비싼 컴퓨터그래픽(CG)은 허용하면서 AI 영상은 왜 금지하는지 모르겠다”고 지적했다. 황호진 국민의힘 서울 은평구의원 후보도 “(텍스트를 제외하면) 딥페이크는 선거 홍보물 제작 시 사용 자체가 막혀 있다”며 “AI 사용 여부보다는 그 내용이 기만적인지를 규제하는 방향이 맞다”고 했다. 해외에서는 기간에 따른 일괄 금지보다는 딥페이크 콘텐츠의 목적을 따져 규제하고 있다. 미국 캘리포니아주는 선거 120일 전부터 정치적으로 기만적인 딥페이크 유포를 제한한다. 미 텍사스주도 선거 30일 전부터 유권자를 속일 목적이 입증된 경우에만 유포 행위를 형사처벌한다. 유럽연합(EU)은 ‘AI법’(AI Act)을 통해 딥페이크 콘텐츠의 라벨링과 워터마크를 의무화하고 있다.

‘알파고 쇼크’는 AI 진화 기폭제러·우크라전에서 타격 좌표 산출美·이란전 ‘클로드’ 사령관 참모 자폭 드론 ‘루카스’도 처음 투입AI, 군사작전 의사결정까지 관여국제사회 국방 AI 규범 마련 촉구“AI에 생사 직결된 결정권 안 돼” 2016년 3월 구글 딥마인드의 인공지능(AI) ‘알파고’가 이세돌 9단을 꺾었을 때 인류는 놀라움과 함께 두려움을 느꼈다. 그로부터 10년이 지난 지금 AI는 로봇 등 각종 기기와 결합하면서 인류가 개발한 가장 편리하고 유능한 도구가 됐지만 동시에 통제 불능에 대한 우려도 커졌다. 특히 이란 사태에서 AI 기반의 정보처리와 저가 무인체계의 결합은 게임체인저로 부상했고 산업·안보·일자리·국가 질서까지 AI가 정보 처리를 넘어 의사 결정마저 주도하는 것 아니냐는 두려움을 안겼다. 10년 전 알파고가 소위 ‘신의 한 수’로 이세돌 9단을 4대 1로 이긴 건 수많은 바둑 기보를 학습한 결과였다. 이후 생성형 AI의 등장으로 AI의 진화는 더욱 빨라졌고 이제는 군사 영역까지 침투했다. 특히 최근 미국과 이스라엘의 이란 공습은 챗GPT 등장 이후 급속도로 발전해 온 거대언어모델(LLM)이 전장의 ‘두뇌’ 역할로 활용된 첫 사례라는 점에서 전 세계의 이목을 집중시키고 있다. 5일 외신 등을 종합하면 2022년 발발한 러시아·우크라이나 전쟁에서도 AI는 위성 사진과 드론 영상, 폐쇄회로(CC)TV 등을 분석해 타격 좌표를 산출하고 지뢰를 탐지하는 데 활용됐다. 당시에는 미국 데이터 분석 기업 팔란티어의 분석 플랫폼이 중심 역할을 했다. 반면 최근 벌어진 이란 전쟁에서는 범용 AI 모델인 ‘클로드’가 전투 시뮬레이션을 수행하며 인간 사령관의 참모 역할을 맡았다는 평가가 나온다. 이와 함께 군은 이번 작전에 저가형 자폭 드론 ‘루카스’도 처음 투입했다. 해당 드론은 스타링크 등 위성 통신과 연동하고 상용 소프트웨어(SW)와 민간 개발 프로그램을 탑재할 수 있도록 설계된 것으로 알려졌다. AI 네트워크가 특정 행동이나 위치 패턴을 분석해 작전 지휘부에 전달하는 방식으로 전투에 기여했을 가능성도 제기된다. 이는 정보 분석에 머물던 AI가 곧 군사 작전의 의사결정 과정까지 관여할 수도 있다는 의미로 해석되면서 논란이 불거졌다. 통제가 이뤄지지 않을 경우 AI가 인명을 좌우하는 군사 작전에  활용될 수 있다는 우려도 커지고 있다. 과학기술정보통신부 산하 한국 인공지능안전연구소(AISI)가 발표한 영국 AISI의 ‘국제 AI 안전보고서’는 핵무기와 방사능 무기에 대해 “AI가 의사결정에 관여하게 될 경우 위험이 발생할 수 있다”며 “핵무기 발사 결정권을 AI에 위임할 경우 중대한 오류가 발생하거나 통제력을 상실할 가능성이 증가할 수 있다”고 우려했다. 국제사회에서는 국방 AI에 대한 윤리 규범과 가이드라인 마련을 서둘러야 한다는 목소리가 커지고 있다. 글로벌 기술 거버넌스의 흐름도 이를 뒷받침한다. 지난 3일(현지시간) 스페인 바르셀로나 MWC26에서 열린 ‘인공지능의 역기능 관리: 윤리, 안전 및 신뢰’ 플래그십 세션에서는 기술의 확산 속도가 안전장치를 앞지른 현 상황을 ‘신뢰의 위기’로 규정했다. 세션 연사로 참여한 제리 시한 경제협력개발기구(OECD) 과학기술혁신국장 등은 올해를 전 세계 30개 이상의 사법권이 AI 거버넌스 법안을 본격 가동하는 ‘분수령’으로 지목했다. 유럽연합(EU)의 AI법이 전면 시행 궤도에 오르고 주요국들이 법적 구속력을 갖춘 가이드라인을 완성하는 시점이 내년이기 때문이다. 업계에서는 이러한 규제 흐름이 국방 AI 분야로 확장될 경우 AI의 역할을 제한하는 원칙이 더욱 강화될 것으로 보고 있다. AI가 생사와 직결된 최종 의사결정의 주체가 되어서는 안 된다는 논리다. 최기일 상지대 군사학과 교수는 “국제적인 합의나 프로토콜(규율)이 마련돼 있지 않지만 군사 전문가들 사이에선 마지막 트리거는 기계가 아닌 인간의 판단 고유의 영역으로 남겨둬야 하는 것 아니냐는 공감대가 있다”고 강조했다. 공상과학 영화 속 내용처럼 AI가 인간을 지배한다는 건 과도한 우려라는 의견도 있다. 샘 올트먼 오픈AI CEO는 “AI는 다양한 방식으로 세상에 기여할 것이지만, 특히 과학 발전 속도를 높이고 생산성을 향상시켜 삶의 질을 크게 향상시킬 것이다. 미래는 현재보다 훨씬 더 나아질 수 있다”고 했다.

인공지능(AI) 포괄 규제법인 ‘AI 기본법’이 어제부터 시행됐다. 한국은 AI 규제법을 전면 시행하는 세계 최초의 국가가 됐다. AI 산업 진흥과 안전한 활용이라는 두 마리 토끼를 잡겠다는 야심찬 시도다. 딥페이크와 허위정보 유포 등 AI 부작용이 현실화되는 상황에서 규범 마련은 적절한 대응이다. 그러나 법 시행 첫날부터 현장의 우려가 적지 않다. 유럽연합(EU)이 먼저 AI법을 제정하고도 단계적 시행을 택한 이유를 되새겨 볼 필요가 있다. 가장 시급한 과제는 규제 기준을 명확히 하는 일이다. 정부는 국민 생명과 권리에 중대한 영향을 미치는 AI를 ‘고영향 AI’로 규정하며 의료·에너지·채용·대출 등 10개 영역을 제시했으나 중대한 영향을 판단하는 기준이 불명확하다. 딥페이크 오용 등을 막으려 AI 생성물 표시를 의무화한 워터마크 규정도 마찬가지다. AI를 어느 정도 활용했을 때 표시하는지 애매해 현장의 혼선이 예상된다. 규제 기준이 명확하지 않을수록 피해는 스타트업·중소기업에 집중된다. 시행령만 421페이지에 달하는 방대하고 복잡한 규정을 해석하기 위한 법률 자문 등을 감당할 여력이 부족해서다. 대기업과 달리 규제 대응 인력이 부족해 법 개정 과정에 목소리를 내기도 어렵다. 자칫 국내 기업만 족쇄를 차게 되는 역차별 가능성도 있다. 해외 AI 기업들은 국내 대리인만 지정하면 될 뿐 실질적 단속이 어렵기 때문이다. 전자상거래와 핀테크, 게임 등 분야에서 국내 규제가 토종 기업의 발목을 잡고 해외 기업에 경쟁 우위를 안겼던 선례를 반복해서는 안 될 일이다. 정부가 사실조사권과 과태료 부과를 1년 이상 유예하고 전문가 지원 데스크를 운영하기로 한 것은 바람직하다. 그러나 명확한 기준 제시만이 근본 해법일 수 있다. AI 기술이 순식간에 진화하면서 오늘의 기준이 내일은 낡은 규제가 될 수 있는 변혁의 시간이다. 정부는 산업계와 긴밀히 소통해 실효성 있고 예측 가능한 기준을 구축해야 한다.

# 더딘 정책·빠른 혁신AI 기술 진화의 시간차#챗GPT 출시 3년 만에 생성형 인공지능(AI)은 또 다른 패러다임 전환 앞에 서 있다. 8일(현지시간) 네덜란드 암스테르담에서 열리는 ‘월드 서밋 AI 2025’는 글로벌 AI 시장이 2033년까지 연평균 31.5%씩 성장해 3조 5000억 달러에 달할 것이라는 그랜드뷰 리서치의 전망 속에서 개막했다. 이 행사를 전후해 일주일 동안 펼쳐지는 ‘월드 AI 위크’에서는 AI 기술에 따른 변화가 전 산업 영역에서 펼쳐지고 있음을 보여 줬다. AI의 급성장 속에서 포괄적이고 구속력 있는 AI 법제를 구축한 지역은 많지 않다. 유럽연합(EU)이 지난해 3월 세계 최초로 ‘AI법’을 통과시켰고, 한국도 내년 1월 인공지능 기본법 시행을 앞두고 있다. EU의 법은 AI를 위험도에 따라 4단계로 나누고 사회점수제나 잠재의식 조종 기술은 전면 금지하며 위반 시 기업 전체 매출의 최대 7%라는 제재를 가하는 법령으로 이미 적용되고 있다. 한국의 인공지능 기본법은 고영향 AI나 생성형 AI 관련 의무를 위반할 경우 최대 3000만원의 과태료를 매기도록 설계됐다. 미국은 대부분 주 단위 규제에 머물고 중국은 콘텐츠 중심 규제에 주력하고 있다. 각국이 생성형 AI 규제 방안을 논의하는 동안 기술은 이미 자율 의사결정을 하는 에이전틱AI 단계로 넘어갔다. 이번에 암스테르담에서도 인간 수준의 추론 능력을 지닌 ‘프런티어 AI’, 로보틱스와 결합한 ‘피지컬 AI’의 발달상이 주목을 받았다. AI의 경제 분석 능력을 진단하는 ‘머니 AI’, 사회문제 해결에 AI를 활용하는 방법을 논의하는 ‘공익 AI’(AI for Good)처럼 기존 시스템에 작동하는 AI의 영향력을 예측하는 논의도 활발했다. 이번 ‘AI 서밋’ 행사의 슬로건은 ‘백 투 더 퓨처’로 어떤 곳에서는 아직 과거 방식으로, 어떤 곳에서는 벌써 미래 기술로 일하는 시간대가 뒤섞인 현실을 보여 준다. # AI 워커 시대대체 대신 협업 ‘하이브리드 노동’AI의 미래를 그릴 때 빠지지 않는 질문이 인간의 노동력이 AI로 대체될 것이냐의 문제다. ‘월드 서밋 AI 2025’에서 발표하는 피터 구아젠티 에버워커 CEO는 이 질문에 ‘하이브리드 인력’이라는 새로운 대답을 내놓았다. 여러 기업의 AI 도입을 이끄는 업무를 해 온 그는 AI가 인간을 대체하기보다 인간은 창의적 사고와 전략 수립, 고객 관계에 집중하고 AI는 데이터 분석과 반복 업무, 24시간 모니터링을 담당하는 협업 구조를 설명했다. 보다폰스리의 앨릭스 포트 디지털디렉터와 액센추어의 스티븐 커발로 생성형AI 고객 리드 역시 통신업계 AI 도입 이후 변화를 예로 들며 같은 견해를 드러냈다. 그들은 “영국 최초의 생성형 AI 통신 챗봇인 복시(VOXI)봇이 이미 고객을 대신해 자율적으로 행동하고 있다”고 설명했다. 기존 콜센터에서 ‘요금제를 바꾸고 싶다’는 요청에 10~15분이 걸렸다면 복시봇은 3초 만에 6개월 사용 패턴을 분석해 “B요금제로 바꾸는 게 가격 면에서 가장 이득”이라고 제안하고 1분 만에 처리까지 완료한다. 네트워크 점검이 예정된 지역 내 고객들에게 와이파이 설정을 바꾸는 안내를 선제적으로 제공하고 콜센터에서 미리 연락하는 식의 예측 솔루션도 제공한다. 이렇게 되면 언뜻 복시봇이 사람을 대체하고 콜센터에는 기획·개발 인력만 남을 것 같지만, 실제로는 다른 양상이 펼쳐지고 있다. 에이전틱 AI가 원활하게 작동할수록 콜센터 업무가 단순 문의 처리에서 가격·서비스 선택의 전략적 조언 역할로 바뀐다는 것이다. 이와 함께 AI 챗봇 시스템을 감독하고 예외 상황을 처리하는 새로운 형태의 업무도 늘었다. 고객이 AI와의 상호작용에서 느끼는 불편함을 해소하거나 AI가 판단하기 어려운 복잡한 케이스를 인계받아 처리하는 역할이 확대되는 것이다. # AI 속도혁명합성생물학부터 기후테크까지노동 분야의 변화가 인간과 AI 간 조율을 거친 속도로 이뤄진다면 과학 연구의 속도는 AI와 결합한 뒤 혁명적으로 가속화되고 있다. 새로운 단백질 개발을 위한 AI 플랫폼 회사인 바이오 스타트업 크래들의 공동창립자로 연단에 오른 젤 프린스는 “실험실에서 몇 년씩 걸리던 단백질 최적화 작업을 AI가 몇 주 만에 완료한다”면서 “제약, 화학, 식품, 농업 등의 분야에서 AI 활용을 통해 1.2배에서 12배의 연구개발(R&D) 속도 향상을 달성하고 있다”고 설명했다. 기후테크 변화에서도 AI를 활용한 변화가 일어나고 있다. 엔비디아의 ‘어스(Earth)-2’ 플랫폼의 핵심기술인 ‘코디프’(CorrDiff)는 세계 최초로 킬로미터 규모 해상도에서 전 지구 기후를 시뮬레이션하는 생성형 AI 파운데이션 모델이다. DVD 22만장 분량에 해당하는 페타바이트급 기후 데이터를 3000배 압축해 DVD 73장 분량으로 줄이면서 정확도는 유지하며, 기후예측 속도를 혁신적으로 높인 것이다. 지난해 3월 처음 공개된 이 기술을 대만, 아랍에미리트(UAE) 등의 기상청과 기후기술 기업들이 활용하고 있다. 그리고 상용화 이후 1년여 만에 열리는 이번 ‘월드 서밋 AI’에서 이미 도입 성과를 발표할 수 있을 정도로 사례 축적이 빠르게 이뤄지고 있다. 패션 AI는 가장 일상적인 분야에서 일어난 혁신으로, 패션테크 디자이너 아노크 비프레히트도 이번에 연사로 나섰다. 비프레히트의 대표작인 ‘스파이더 드레스’는 센서와 움직이는 팔이 착용자의 개인 공간을 보호하는 지능형 의상이다. 누군가 공격적으로 접근하면 기계적 센서가 감지해 방어 자세를 취하는 의상이다. 뇌파를 읽고 착용자의 정서에 따라 드레스에 내장된 비주얼을 실시간 제어하는 ‘스크린 드레스’도 선보인 바 있다. 하이패션 무대에서 이처럼 파격적인 기술실험이 이뤄지고 있다면 일상복 시장에선 AI가 수요 예측과 개인화 서비스를 통해 비즈니스 혁신을 이끌고 있다. 엘린 스반 스트룀 H&M 최고디지털정보책임자는 이번 행사에서 복잡한 패션 트렌드와 짧은 제품 수명주기 문제를 AI가 풀고 있다고 전했다. # AI의 그림자딥페이크부터 에너지 대란까지그러나 AI의 빠른 발전은 해결해야 할 어두운 과제들 또한 생성해 내고 있다. ‘AI, 미디어&민주주의’ 전문가 패널에서는 학제 간 과학자들이 딥페이크와 허위정보 확산 문제를 다뤘다. 딥페이크는 EU가 AI법을 서두른 핵심 이유이기도 했고 실제 법에서 ‘AI가 생성하거나 조작한 콘텐츠로 사람에게 진짜나 진실로 잘못 보이게 하는 것’으로 딥페이크를 정의한 뒤 투명성 요구사항을 부과했지만 실효성에 대한 의문은 여전하다. 딥페이크 음란물에 대해 한국은 지난해 10월 성폭력처벌법 개정을 통해 딥페이크 제작부터 소지, 시청까지 전 단계를 처벌하는 규제를 도입했다. 미국도 지난 5월 ‘테이크 잇 다운(Take It Down) 법’을 만들어 비동의 음란 딥페이크에 대한 최초의 연방법을 제정했다. 그러나 이들 법안 모두 사후 처벌 중심으로 딥페이크 생성 기술의 발전과 확산 속도를 따라잡지 못하는 실정이다. 나아가 에이전틱 AI가 스스로 판단해 딥페이크를 만들 경우 그 결과에 대한 법적 책임 공방이 생길 수도 있다. AI 기후테크의 혁신 역시 양면성을 지닌 문제로 꼽힌다. AI가 기후 솔루션을 제시하기 위해선 AI에 우선 막대한 전력을 투입해야 하기 때문이다. 구글은 자체 환경 보고서에서 2023년 온실가스 배출량이 2019년 대비 48% 증가했고, 마이크로소프트(MS)의 경우에도 2020년 대비 지난해 온실가스 배출량이 23% 증가했다고 밝혔다. AI 데이터센터의 전력 소비가 정보기술(IT) 기업의 온실가스 배출을 급증시킨 요인으로 꼽힌다. 이처럼 AI가 산업과 경제를 넘어 법률, 사회, 건강, 기후에까지 영향력을 확대하면서 이번 월드 서밋 AI에는 미국 연방수사국(FBI)의 AI 전략고문인 로버트 페트로시노가 참석해 눈길을 끌었다. # AI 네이티브AI 없는 세계를 모르는 세대서울에서도 지난 9월 AI 주간이 열렸고 12월에는 ‘국제 AI 표준 서밋’이 열린다. 미국에서도 정부와 개별 기업이 잇따라 AI 서밋을 개최하고 있다. 이처럼 곳곳에서 AI 거버넌스 논의를 활발하게 진행하는 건 AI 네이티브 세대의 등장이 임박했기 때문이다. 생성형 AI가 이미 작동하는 세상에서 태어나고 자란 다음 세대에게 AI는 혁신적인 기술이 아니라 사물이 작동하는 방식일 뿐이다. 우리가 ‘AI를 어떻게 활용할까’ 고민한다면, AI 네이티브들은 ‘AI 없는 세상은 어떨까’ 궁금해할 것이다. AI와 함께 자라는 다음 세대에서 학습, 연구, 사회, 노동, 소통의 모든 방식 자체가 새롭게 규정될 것이다. 그런 면에서 ‘백 투 더 퓨처’라는 이번 행사의 슬로건은 AI로 인해 급변하는 속도와 방향을 인간에게 이롭게 재구성하면서 AI 네이티브 세대가 살아갈 미래를 당장 설계하자는 호명으로 읽힌다. 홍희경 논설위원 ■이 기사는 한국언론진흥재단의 지원을 받아 작성되었습니다.

내년 1월 시행을 앞두고 있는 ‘인공지능(AI)기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)을 둘러싼 쟁점은 ‘진흥이냐 규제냐’로 요약된다. 글로벌 AI 3대 강국으로 도약하기 위해선 전폭적인 육성에 방점을 둬야 한다는 주장과 AI의 오남용으로 인한 피해를 막는 데 중점을 둬야 한다는 목소리가 엇갈린다. 유럽연합(EU)에 이어 세계에서 두 번째로 제정된 AI기본법은 내년 1월 22일부터 시행된다. 지난해 말 AI기본법이 국회를 통과하며 정책의 뼈대가 만들어졌다면 하위 법령과 가이드라인을 통해 구체적인 내용이 정해질 전망이다. 과학기술정보통신부는 이달 중 AI기본법 시행령 초안을 마련해 업계 의견 수렴에 나선다. 중국발 ‘딥시크 쇼크’를 계기로 정부의 정책 기조는 AI 경쟁력 강화에 초점이 맞춰져 있다. 산업계는 글로벌 빅테크와의 격차를 좁힐 수 있도록 규제보다는 지원 위주로 기본법과 시행령이 추진돼야 한다고 주장한다. 국내 굴지의 정보기술(IT) 기업에서 AI 연구를 담당하는 한 관계자는 “시행령을 통해 AI 기술및 산업 진흥에 대한 전폭적인 지원이 있어야 한다”며 “특히 국내에서 양성되는 AI 인재들이 국내 AI 산업의 발전에 이바지할 수 있는 환경을 조성해야 한다”고 말했다. 핵심 쟁점은 기본법에 규정된 ‘고영향AI’다. 고영향 AI는 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 말한다. 법안은 고영향 AI 이용사업자에게 제품 또는 서비스가 AI에 기반해 운용된다는 사실을 사전에 고지하도록 했다. 이를 어길 경우 과태료를 부과하도록 했는데 법에 담긴 유일한 처벌조항이다. 업계에서는 고영향 AI 규제가 확대되는 것을 우려하는 반면 시민사회에서는 사업자 책무를 강화해야 한다는 목소리가 나온다. 민주사회를 위한 변호사모임(민변) 디지털위원장인 김하나 변호사(법무법인 두율)는 “고영향 AI 관련 규정은 범위를 협소하게 정하고 사업자의 책무를 제한적으로 정하고 있다”며 “고영향 AI 외 나머지는 처벌이나 과태료 규정이 존재하지 않는 점도 기본법의 한계”라고 했다. 국회입법조사처는 “고영향 AI에 대해서 만큼은 법률에서 개념과 요건을 구체적으로 밝히고 AI 개발사업자와 이용사업자에게 의무를 차등 적용할 필요가 있다”고 지적했다. EU의 AI법은 고위험 AI 제공자에게 위험관리체계 구축, 데이터 관리, 기술문서 작성, 이용지침 제공, 적합성 평가수행 의무를 부과하고 있다. 고위험 AI 배포자에겐 이용지침 준수, 기본권 영향 평가 수행 의무 등을 부과했다. AI 시스템의 오류나 피해가 발생했을때 개발자, 운영자, 사용자 간 책임 소재를 명확히 정해야 한다는 의견도 있다. 김 변호사는 “피해자 권리의 구체적인 내용과 구제 수단을 법 개정을 통해 명시해야 안전성과 신뢰성을 확보할 수 있다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

에마뉘엘 마크롱 프랑스 대통령이 10일(현지시간) 파리에서 개막한 제3차 인공지능(AI) 행동 정상회의에서 “유럽연합(EU)이 AI 산업 규제를 간소화할 것”이라고 밝혔다. 미국과 중국에 뒤처지고 있는 AI 경쟁력을 회복하겠다는 의지다. 이날 마크롱 대통령은 파리 그랑팔레에서 열린 AI 정상회의 첫째 날 무대에서 “유럽이 (규제를) 단순화해 전 세계와 다시 보조를 맞출 필요가 있다”고 강조했다. 지난해 EU는 AI 시스템을 위험 수준에 따라 4가지 등급으로 분류하고, 법 위반 시 연매출의 최대 7% 벌금을 부과하는 ‘AI법’을 통과시켰다. AI 산업이 개화도 하기 전 강력한 규제부터 만들어 ‘성장의 싹을 잘랐다’는 비판을 받았다. 반면 미국은 도널드 트럼프 행정부 출범 이후 AI 규제를 하나씩 걷어 내고 있다. 세계 최고 경쟁력을 지키고자 초대형 AI 인프라 구축 프로젝트 ‘스타게이트’를 발표하고 5000억 달러(약 726조원)를 투자한다고 선언했다. 중국도 국가 차원에서 AI 산업을 강력히 지원한 덕분에 현재 200개가 넘는 거대언어모델(LLM)이 출시됐다. 이런 상황을 염두에 둔 듯 마크롱 대통령은 “AI 프로젝트에 대해 우리는 ‘노트르담 드 파리 전략’을 채택하겠다”고 설명했다. 2019년 화재로 소실된 파리 노트르담대성당을 5년 안에 재건하겠다는 목표를 세운 뒤 맞춤형 규제를 적용해 속도전에 나선 경험을 AI 산업에도 이식하겠다는 것이다. 전날 그는 현지 매체 TF1과의 인터뷰에서도 “향후 몇 년 동안 1090억 유로(약 163조원)를 투자받아 AI 산업을 육성하겠다”며 “프랑스가 AI 레이스에 다시 복귀했다”고 선언했다. AI 정상회의는 2023년 영국 런던에서 처음 열렸고 지난해에는 서울에서 개최됐다. 올해 회의에는 공동 주최국인 인도의 나렌드라 모디 총리와 미국 JD 밴스 부통령, 중국 장궈칭 부총리 등이 참석했다.

“국회에서 논의만 되고 통과가 안 되는 것 아닌가 싶어서 마지막까지 손에 땀을 쥐었습니다.” ‘인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법’(AI기본법) 제정을 이끈 이종근(37·행시 58회) 과학기술정보통신부 인공지능기반정책과 사무관은 6일 법안이 국회를 통과하기 직전 긴박했던 상황을 이렇게 떠올렸다. AI기본법은 정부가 AI 산업 발전을 지원할 근거와 AI 윤리를 규정한 법이다. 딥페이크, 허위정보 등 부작용을 막기 위한 규제도 담겼다. 지난해 12월 AI기본법이 국회 문턱을 넘기까지 4년이 걸렸다. 여야 대립이 첨예한 법안은 아니었지만 업계는 인센티브를, 시민단체는 규제를 강조해 타협점을 찾는 데 시간이 걸렸다. 이 사무관은 “국가 차원에서 AI 경쟁력 확보를 위한 법적 기반이 마련됐다는 데 의미가 있다”고 설명했다. 법안 통과로 유럽연합(EU)에 이어 두 번째 AI법 제정국이 됐다. EU 법은 한국보다 규제가 강한 게 특징이다. 위험도를 세부적으로 규율했고, 위반 유형에 따라 최대 3500만 유로(약 525억원) 또는 전 세계 매출액의 7%까지 과징금을 부과할 수 있다. 반면 한국은 과징금을 최대 3000만원으로 정했다. 이 사무관은 “제재는 필요하나 EU를 제외하고 과징금을 도입한 나라는 아직 없다”면서 “도래하지 않은 미래를 걱정해 선제적으로 반영하기보다는 다른 나라와 속도를 맞추자는 것”이라고 했다. AI기본법은 AI를 ‘고영향 AI’와 ‘생성형 AI’로 분류한다. 고영향 AI는 생명과 신체 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템을 뜻한다. 고영향 AI로 묶이면 투명성·안전성 확보 의무와 사업자 책무를 준다. 업계에선 기준이 모호하다는 불만이 있다. 그는 “가이드라인이 제시될 것이고, 부처에 유권해석을 요청할 수 있다”고 전했다. 법안 시행은 내년 1월이다. 과기정통부는 올 상반기 하위법령을 마련할 계획이다. 이 사무관은 “법 시행 전이라도 지원이 이뤄질 수 있도록 지원책을 병행 진행할 것”이라고 말했다.

유럽연합(EU)이 세계 최초로 ‘인공지능(AI)법’을 최종 승인했다. 2026년 하반기부터 전면 시행될 이 법이 AI 관련 국제표준이 될 것이란 예측이 나오면서 미국 실리콘밸리 빅테크 기업들이 업계에 미칠 파장에 촉각을 곤두세우고 있다. EU 교통·통신·에너지이사회는 21일(현지시간) 벨기에 브뤼셀에서 열린 회의에서 AI법을 최종 승인했다고 AFP통신 등이 보도했다. 마티외 미셸 벨기에 디지털 장관은 “AI법 채택은 EU에 중요한 이정표”라면서 “이 법을 통해 유럽은 신기술을 다룰 때 신뢰와 투명성, 책임의 중요성을 강조해 혁신을 촉진할 것”이라고 말했다. 2018년 유럽의회에서 처음 논의된 뒤 6년간 공전하던 이 법이 통과된 건 2022년 11월 미 오픈AI의 ‘챗GPT’ 출시 이후 ‘생성형 AI 붐’이 일고 있어서다. AI 전문가들은 AI의 급격한 발전으로 인공일반지능(AGI)이 인류의 의사 결정을 대체할 위험과 뉴스 등 창작물의 저작권 침해 우려, 차별과 혐오에 악용될 가능성 등 위험을 경고해 왔다. EU의 AI법은 의료·선거·자율주행차 등에 사용되는 AI를 ‘가장 위험한 AI’로 분류했다. 최고 위험 분야에서 AI를 활용하려면 사람이 감독해야 하고 위험 관리 체계를 구축해야 한다. 일부 AI 기술 활용도 원천 차단된다. 인종과 종교, 성적 취향 등에서 생체 인식 데이터를 사용하는 것이 대표적이다. 테러 납치 등 중범죄를 제외하고는 프로파일링을 기반으로 한 치안 예측 업무에 AI를 쓰는 것 역시 금지된다. 영화 ‘마이너리티 리포트’의 암울한 미래를 예방하려는 취지다. EU 집행위원회는 AI법을 위반한 기업에 3500만 유로(약 520억원) 또는 세계 전체 매출의 7%에 해당하는 금액 가운데 더 높은 금액을 벌금으로 부과한다. EU는 ‘AI 사무소’를 신설해 법 집행을 총괄하기로 했다. AGI 모델에 대한 규제는 12개월 뒤 적용되고 오픈AI, 구글 등 이미 상용화된 AI 관련 규제는 36개월 뒤 시작된다. AI 산업을 주도하는 미 빅테크 기업들은 이번 법안에 담긴 규제가 산업 발전을 저해할 것을 우려한다. 로펌 변호사 패트릭 반 에케는 로이터통신에 “이 법은 EU 회원국의 시민의 개인정보를 활용하는 모든 AI 플랫폼 기업에 적용돼 EU 27개 회원국 외 국가 기업에도 준수 의무가 부과된다”고 지적했다. 다른 로펌 변호사 매슈 홀먼도 CNBC방송에 “이 법은 EU에서 AI를 개발, 제작, 사용, 재판매하는 개인과 기업에 영향을 미칠 것”이라면서 “일부 빅테크 기업들은 새 법을 준수하기 위해 막대한 자금을 투입해야 한다”고 우려했다.

인공지능(AI)이 일상생활에 빠르게 퍼지고 있다. AI에 기반한 대화로봇(챗봇) ‘챗GTP’ 개발사인 오픈AI는 어제 듣고 대답하는 ‘GPT-4o’를 공개했다. 텍스트에 기반해 대화하는 기존 모델과 달리 대화는 물론 이미지로도 추론할 수 있는 모델이다. 10년 전 영화 ‘그녀’(Her)의 주인공이었던 AI의 현실판이다. 마이크로소프트(MS)는 어제 한국을 포함해 31개국 3만 1000명에게 물은 결과 전 세계 근로자 4명 중 3명은 직장에서 AI를 쓴다고 발표했다. MS는 올해가 ‘AI가 직장에서 현실화되는 해’라고 했다. 주요국들은 AI 육성에 박차를 가하고 있다. 미국은 2020년 ‘국가 AI 이니셔티브법’ 제정과 함께 AI 분야에 17억 달러(약 2조 3200억원)를 투자했다. AI 부작용에 대한 목소리가 커지자 지난해 10월 AI 개발사가 제품을 내놓기 전 반드시 안전검사를 받도록 하고, AI로 만든 자료에 식별용 워터마크 부착을 의무화하는 행정명령을 발표했다. 일본은 지난해 5월 AI전략회의를 신설했고 지난달 기업용 AI 가이드라인을 발표했다. 유럽연합(EU)은 지난 3월 빅테크의 거대언어모델(LLM) 등에 엄격한 잣대를 적용하는 내용의 AI법을 최종 승인했다. 역내 기업을 보호하기 위해서다. 우리 기업들은 적극적으로 하고 싶어도 할 수 없는 상황이다. AI 개념 규정, AI 산업 육성·안전성 확보 방안 등이 담긴 ‘AI기본법’(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 묶여 있어서다. 이 법은 여야 의원들이 대표 발의한 7건의 AI 관련 법안을 병합한 것인데도 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과한 뒤로 감감무소식이다. 여야의 정쟁이 AI 산업을 시계제로 상태로 만들었다고 해도 과언이 아닌 상황이다. 가이드라인이 없으니 현장에서는 데이터를 어느 수준까지 쓸 수 있는지 불분명해 적극적으로 나서지 못하고 있다. AI를 개발했다가 뒤늦게 규제를 받게 될 수도 있기 때문이다. 오는 21~22일 ‘AI 정상회의’, 9월 9~10일에는 ‘AI의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM)가 서울에서 열린다. 정부는 지난달 ‘AI 주요3개국(G3)’ 도약을 목표로 하는 ‘AI 반도체 이니셔티브’도 발표했다. AI 논의가 급물살을 타고 있는 과정에서 임기를 따지며 AI기본법을 창고에 처박아 두는 것은 국회의 직무유기다. 여야가 머리를 맞대고 가장 빨리 법안을 통과시킬 수 있는 방안을 마련하기 바란다.

미국 상원 의회가 지난해 6월부터 초당적으로 준비해 온 ‘인공지능(AI) 규제(가드레일)를 위한 로드맵’을 마련했다. 무분별한 정보 수집, 감시 등 AI로 인한 잠재적 피해 가능성을 낮춰 유럽연합(EU)에 비해 뒤처진 AI 규제를 본격화하는 동시에 민관 합동 AI 기술 연구개발에 최대 320억 달러(약 44조원)를 지원하는 방안이 담겼다. 13일(현지시간) 워싱턴포스트(WP)는 척 슈머 민주당 상원 원내대표가 주도한 로드맵에 공화당 소속 토드 영·마이크 라운즈 의원, 민주당 마틴 하인리히 의원 등 이른바 ‘AI 갱’으로 불리는 초당파 상원의원 그룹이 참여했다면서 구체적인 내용을 보도했다. 로드맵은 AI가 군대·의료 분야는 물론 범산업 근로자에 미치는 영향을 포함해 개인정보 유출, 인권 침해 등 다양한 문제점을 점검하도록 했다. 특히 AI가 일자리에 미칠 영향에 대한 광범위한 우려가 지속되는 가운데 다른 기술에 대한 근로자 훈련 개발을 촉진하는 조항도 포함돼 있다고 소식통은 전했다. 또 개별 산업 부문별로 AI를 적용할 방법과 안전 규칙을 개발하고 기술의 잠재적 피해 규명에 도움이 될 테스트, 투명성 조치도 요구하고 있다. 특히 미군이 AI 분야 경쟁력을 유지하고 적의 기술개발 진행 상황을 추적할 수 있도록 보장하는 조항도 포함된다. 이는 미국이 전략적 도전국으로 간주하는 중국이 군사기술에 AI를 전용할 수 없도록 조기 차단하려는 조 바이든 행정부의 포석과 궤를 같이하는 것이다. 현재 미 상무부는 중국이 챗GPT 같은 AI 소프트웨어를 사용하지 못하도록 ‘클로즈드 소스’ AI 모델 수출을 제한하는 새 규제를 검토 중이기도 하다. 아울러 AI 연구를 위한 연방 인프라 구축을 위한 ‘AI 창조법’ 등 의회 계류된 초당적 법안들을 통과시키도록 요구하는 내용도 담겼다. 앞서 EU는 AI 규제를 위해 지난해 10월 27개 회원국 만장일치로 ‘EU AI법’에 합의하고 올해 3월 법안을 통과시킨 반면 미국은 규제 면에선 아직 걸음마 단계다. 이에 슈머 원내대표는 강력한 포괄적 패키지 법안 마련에 속도를 높여 왔다.

인공지능(AI)의 성장 속도가 놀라울 정도다. 생성형 AI인 챗GPT가 등장한 후 경쟁 업체들은 유사한 서비스를 서둘러 출시했다. 불과 1년여 만에 AI 서비스는 업무, 교육 등에서 널리 활용된다. 기업들은 AI 관련 연구에 몰두하고 있고, 국가들은 연구개발(R&D) 예산을 활용해 다양한 지원 정책을 시행하고 있다. 반면 AI의 급속한 발달에 우려도 크다. 기술 진보 속도가 너무 빠르고, 기업 간 경쟁이 격화되면서 자칫 통제할 수 없는 수준으로 발전할 수 있다는 것이다. 의도적으로 AI 분야의 발전 속도를 늦춰야 한다는 지적까지 나왔다. 저명한 과학자들조차 AI 기술의 너무 빠른 발전에 놀라 6개월 정도 기술 발전 노력을 정지할 것을 제안했다. 작년 말 주요 7개국(G7)은 AI 개발 관련 국제 지침과 행동 규범에 합의했다. 이달 초 유엔총회는 AI의 안전한 사용을 위해 국제적 합의를 시급히 마련해야 한다는 결의안을 채택했다. 유럽연합(EU)은 구속력을 갖춘 AI법을 가장 먼저 발표했다. 지난달 13일 유럽의회는 AI법 최종안을 가결했다. AI 활용 분야를 네 단계 위험 등급으로 구분해 차등 규제하는 방식이다. 가장 고위험 분야로 의료, 교육, 공공서비스, 선거, 핵심 인프라, 자율주행 등이 선정됐다. 이 분야에서는 반드시 사람이 AI를 감독하고 위험관리 시스템을 구축해야 한다. 위반 시에는 강력한 과징금이 부과된다. EU의 AI법에 맞춰 많은 국가들이 유사한 규제를 마련 중이다. 적절한 시점에 맞춰 규제가 나왔다는 평가도 있지만 반발도 있다. 과도한 규제이며 관료주의적 접근 방식이라는 것이다. 비판은 주로 관련 기술을 개발하는 산업계에서 나온다. 이 법이 혁신보다는 안전을 중시하는 유럽의 성향에서 비롯됐다는 지적도 있다. 미국에 비해 유럽은 예방 원칙에 근거해 위험을 회피하는 모습을 보인다. AI법을 서둘러 발표한 것은 ‘디지털 주권’을 확보하려는 노력의 일환이다. 유럽의 정보통신 산업이 미국과 아시아에 비해 뒤처지고 있다는 것은 잘 알려진 사실이다. 그래서 강력한 규제를 제안하고, 이를 선점함으로써 디지털 분야에서 자율적 역량을 확보하려는 것이다. EU는 유럽을 넘어 전 세계로 자신의 규제를 확산시킬 수 있는 영향력을 갖고 있다. EU의 규제가 27개 회원국은 물론 주변 국가에도 적용되는 경우가 많아서다. 이를 ‘브뤼셀 효과’라고 부른다. EU의 모든 규제가 행정기관이 위치한 벨기에 브뤼셀에서 만들어지기 때문이다. 일단 유럽을 대상으로 영업활동을 하는 경우에는 EU 규제를 따를 수밖에 없다. 2018년 발효된 EU의 개인정보보호법(GDPR)이 대표적인 사례로 한국의 개인정보보호법도 유럽의 법을 참조해 만들어졌다. EU의 AI 규제는 전 세계에 영향을 미칠 것이다. 곧 등장할 다른 국가의 규제에도 적잖은 영향을 끼칠 것으로 보인다. 기술혁신을 규제가 따라잡지 못한다면 오남용의 부작용이 자명하다. 반면에 규제가 혁신을 가로막는 상황도 발생할 수 있다. ‘규제’와 ‘기술혁신’이라는 두 가지 목표를 어떻게 달성할 수 있을지 유럽을 주목해 볼 일이다. 강유덕 한국외대 LT학부 교수

유럽연합(EU) 의회가 세계 최초로 ‘인공지능(AI)법’을 통과시켰다. EU 의회가 13일(현지시간) AI법을 통과시켰다고 블룸버그통신이 보도했다. 티에리 브레통 내부시장 담당 집행위원은 이날 성명에서 “유럽은 이제 신뢰할 수 있는 AI 분야에서 글로벌 표준을 제시하는 국가가 됐다”고 밝혔다. 이 법은 EU 27개 회원국이 각국 의회 비준을 거치고 EU 공식 관보에 게재되면 발효된다. 이 법은 AI가 인간의 편견을 재생산할 우려, 개인정보와 프라이버시권이 침해될 위험 등을 방지하기 위해 만들어졌다. 예를 들어 직장과 학교에서 개인의 감정을 감지하는 데 AI를 사용하는 것을 금지하고 직원 채용 시 입사 지원서를 분류할 때 AI 사용을 금지한다. 블룸버그는 “챗GPT 출시 이후 초국적인 개발 붐이 일고 있는 생성형 AI에 관한 최초의 규제법”이라면서 “미국에서 아직 AI법이 마련되지 않은 상황에서 서방 세계에서 AI법에 관한 기준을 제시했다”고 평가했다. 이 법은 지난해 12월 EU 관계자들이 35시간이 넘는 마라톤 협상 끝에 잠정 합의에 도달한 뒤 지난 3개월간 계속 논란을 빚었다. 빅테크 기업들은 EU의 AI 규제가 너무 지나치다고 반발하는 반면 이들을 감시하는 시민단체는 규제가 충분치 않다고 토로해 왔다. 지난해 12월 법안 통과가 임박하자 프랑스와 독일 정부는 “자국의 AI 스타트업인 ‘미스트랄 AI’, ‘알레프 알파’와 같은 유럽 AI 스타트업이 국제 경쟁력을 잃을 것”이라며 법안 통과에 반대했다. 이 법 초안 작성에 핵심 역할을 한 카이 제너 유엔 AI 정책 고문은 “EU 입법자가 또 놀아났다”고 쏘아붙였다. 시민단체 유럽기업관측소도 “범용인공지능(AGI)에 대한 규제는 대부분 빠졌고, 투명성 의무 몇 가지만 준수하면 되는 수준”이라고 비판했다. 반면 싱크탱크 카네기 유럽의 랄루카 세르나토니 연구원은 “미국과 중국에 비해 절대적 투자가 부족한 상황에서 강한 규제까지 더해지면 AI 기술 패권 경쟁에서 주도권을 쥐려는 EU의 야망은 좌절될 가능성이 높다”고 지적했다.

AI 시대, 글로벌 규범 논의 주도를 위한 간담회 최근 미국, 유럽 등에서 인공지능(AI)의 위험성에 대비한 행정명령과 법안 도입이 잇따른 가운데 한국에서의 AI 관련 규범은 어떤 방향으로 가져가야 하는지를 논의하는 간담회가 지난 28일 서울 영등포구 전경련회관에서 열렸다. 박성필 한국과학기술원(KAIST) 문술미래전략대학원장은 이날 열린 ‘AI 시대, 글로벌 규범 논의 주도를 위한 간담회’에서 미국의 AI 관련 행정명령에 대해 “미국 행정부가 AI는 국가 안보와 직결되는 문제라는 것을 드러냈다”며 “사회 질서 유지는 당연하고, AI가 잠재력을 잘 발휘할 때는 사회적으로 큰 편익을 줄 수 있다라는 공공복리의 관점과 관련해 규제의 필요성이 아주 적극적으로 요구되는 분야에 대한 정부의 인식을 절실하게 보여줬다”고 말했다. 미국에서는 7월 마이크로소프트·구글 등 빅테크 기업들이 AI 사용의 안전·보안·신뢰 원칙을 담은 자율서약을 발표했다. 10월에는 자율서약 취지를 구체화한 행정명령이 나왔고 조 바이든 대통령이 서명했다. 행정명령에는 ▲AI 안전·보안·신뢰 평가 표준 마련 ▲포괄적 프라이버시 보호법안 촉구 ▲일자리 전환 등 충격에서 근로자 보호 등 내용이 담겼다. 박 원장은 “이번 행정명령에는 AI에 대한 위해성을 15회, 위험성을 101회 언급했다. 이전과 달리 AI 규범에 대한 성격이 변화하고 있는 것”이라며 “행정명령이 본격화할 경우 매우 엄격하고 광범위한 규제가 될 가능성도 있다”고 설명했다. 유럽연합(EU)이 추진하는 AI법을 소개한 강지원 김앤장 법률사무소 미국변호사는 “특정 분야의 인공지능 시스템 규율에 국한되지 않는 기본법적 성격의 포괄적 규제”라는 점에 주목했다. 강 변호사는 “EU의 AI법안은 상당히 과도한 규제”라며 “현 시점에서 AI 산업이 예측할 수 없을 정도로 변화 속도가 빠른데 내년, 내후년에 이 법안이 현실적으로 타당한지에 대한 우려들이 벌써 나올 정도”라고 말했다. 박윤규 과학기술정보통신부 2차관은 간담회를 시작하며 한 모두발언에서 “미국, 영국, EU 등 주요국은 AI 규범을 앞다퉈 만들려는 노력을 하고 있다”며 “우리나라는 AI 관련 법이 국회 문턱을 못 넘고 있어서 아쉽다. 법안이 조속히 통과되길 희망한다”고 말했다. 박 차관은 “국제사회의 AI 규범 관련 주도권 경쟁이 본격화되고 있다”며 “우리나라는 독자적인 AI 생태계를 보유하고 있는 글로벌 시장에서도 경쟁력을 인정받고 있는 몇 안 되는 국가다. 우리의 산업 환경과 사회·문화적 맥락을 고려한 정책 방향을 설정해 나가는 것이 무엇보다 중요하다”고 강조했다.

‘챗GPT’가 생성형 인공지능(AI) 시대를 열자 세계 주요 정보기술(IT) 기업들의 관련 기술 경쟁이 날로 치열해지고 있다. AI는 모든 산업에 적용돼 우리 생활을 완전히 변화시킬 수 있는 기술이기 때문에 국가 경쟁력과도 직결된다. 이에 한국 AI가 윤리성과 신뢰성을 확보하면서도 글로벌 경쟁에서 뒤처지지 않도록 할 정책적 지원이 절실하다는 목소리가 높다. 지난 14일 한국프레스센터에서 서울신문이 주최하고 문화체육관광부가 지원하는 ‘글로벌 AI 동향 및 AI 윤리·신뢰성 확보 방안’이라는 주제의 전문가 좌담회가 열렸다. 좌담회엔 엄열 과학기술정보통신부 AI기반정책관, 이상용 건국대 법학전문대학원 교수, 성주원 KT AI테크랩 상무, 김명신 LG AI연구원 정책수석이 참석했다.-한국 기업의 AI 기술 수준은. 김명신 “미국이 압도적으로 1등이고 중국이 2등, 한국이 6등인데 3~10위는 사실 격차가 거의 없다. 우리나라 AI 기술 경쟁력이 세계 상위권이라는 것은 의심할 여지가 없다. 전 세계에 초거대 AI를 가지고 있는 나라가 손에 꼽힐 만큼 적기 때문에, 그중 하나라는 것만으로도 굉장히 큰 가능성을 가진 셈이다. 지금부터 각 기업이 전략을 어떻게 가져가고, 국가가 어떤 정책과 제도로 지원해 주거나 적절하게 규제하느냐에 따라 앞으로 각국 AI 경쟁력 차이가 급격히 벌어질 것이다. AI가 앞으로 국가 미래 경쟁력을 좌우하고 세상을 뒤집어 놓을 만큼 중요하기 때문에 기술 확보가 굉장히 중요하다고 생각한다.” 성주원 “같은 의견이다. 한국의 AI 기술력은 결코 세계에서 뒤지지 않는다. 우수한 인적 자원을 보유했으며 대기업 위주로 진행된 과감한 투자가 결실을 보이기 시작했다. 다만 그동안 글로벌 시장에서 국내 기업들이 ‘한국어 AI는 우리가 1등’이라는 논리로 계속 얘기를 해 왔는데, 챗GPT를 비롯해 여러 가지 AI가 나오는 상황에서 대체 언제까지 ‘우리가 한국어 AI는 1등’이라고 말할 수 있을지 모르겠다. AI는 정말 투자한 만큼 결과가 나온다고 생각한다. 자금력 있는 국내 대기업의 투자도 중요하지만 국가적 차원의 대형 투자가 이뤄져야 뒤처지지 않을 것으로 본다.”-정부가 올해를 ‘AI 일상화 원년’으로 선포한 만큼 이미 지원책도 적지 않을 듯한데. 엄열 “한국은 독자적으로 초거대 AI를 보유한 5대 국가(미국, 중국, 한국, 이스라엘, 영국) 중 하나로 평가받고 있다. 국가의 생태계 조성과 청사진에 기업의 노력이 동반된 결과다. 하지만 구글이 더 정교한 초거대 AI ‘제미나이’를 출시하는 등 빅테크 주도의 생성 AI 기술 혁신은 더 빨라질 것이다. 이들과 경쟁할 국내 기업의 상황이 더 어려워질 것으로 예상되기 때문에 정부가 적극 지원할 것이다. 연구개발(R&D)비 지원, 초거대 AI 프로젝트 맞춤 지원이 있고 국가가 보유한 데이터를 AI 학습용으로 지원한다. 기업이 AI로 수익화할 서비스를 만드는 것도 도울 방침이다.”-유럽연합(EU)이 포괄적인 AI 규제 법안에 합의했다. 우리나라 AI 법 제정 상황은. 이상용 “각 나라의 제도는 다 배경이 있다. 각자가 처한 상황들이 다르고 이에 속셈도 제각각이다. 그래서 ‘이 나라는 이런 법을 갖고 있으니 우리도 그걸 따라해야 한다’고 단순하게 접근하면 곤란하다. 우리 상황에 맞는 제도를 만들어야 한다. 예컨대 EU의 AI법같이 굉장히 포괄적이고 경직된 제도는 우리나라에선 피해야 한다. 미국은 ‘자율 규제’다. 백악관에서 ‘AI 행정명령’이 나왔는데 기업이 쌍수를 들고 환영했다. 내용을 보면 산업 진흥을 위한 정책이 압도적으로 많다. 정부가 사전에 기업의 의사를 듣고 협의했다는 얘기다. 영국의 경우가 흥미로운데 혁신이 우선이고 AI에 어떤 위험성이 있는지는 일단 살펴보자는 태도다. 사전에 적합성 평가를 해서 안전한지 확인된 다음에 출시하라고 규정한 EU와는 반대의 입장이다.” 엄열 “EU AI법은 AI를 위험성에 따라 4가지로 분류하고 이에 따른 책무를 엄격하게 부여한 뒤 따르지 않으면 경제 제재까지 하는 아주 강력한 규제다. 한국은 한국 상황에 맞는 법을 만들어야 하는데 지금 정부가 발의한 AI 법 초안이 국회에 가 있다. 일단 시장 상황을 좀 바라보고,나중에 필요하면 ‘사후 규제’로 가겠다는 입장의 법체계다. AI 기술 발전과 신뢰성을 모두 확보하려는 정부의 입장이 균형 있게 잘 정리돼 있다고 본다. 법안의 조속한 국회 통과를 위해 정부도 적극 지원하겠다.” -제도나 규제만으로 AI의 윤리성과 신뢰성을 확보하진 못할 것 같다. 기업은 뭘 하고 있나. 김명신 “AI가 학습하는 데이터가 편향되거나 대표성이 결여됐을 때 의도치 않게 차별적, 편향적 결과물이 나올 수 있다. AI 모델은 정확한 답변보다 사람이 말하는 것처럼 유려한 답변을 많이 하도록 만들어진 탓에 가끔 틀린 답변을 참인 것처럼 내놓는 ‘환각현상’(할루시네이션)을 일으킨다. 앞선 두 문제가 모두 해결돼도 사용자가 나쁜 의도를 가지면 굉장히 큰 문제를 일으킬 수 있다. 기업은 이렇게 데이터, 모델, 사용자 등 3개의 축으로 접근해 문제 발생을 방지하려 노력한다. 기획 단계부터 데이터를 수집, 정제하고 모델을 개발해 사용자에게 배포하는 단계까지 문제 발생 예방책을 실행해 AI가 잘못된 결과를 생성하지 않도록 조직과 절차를 갖추는 것이 필요하다.”성주원 “구축한 AI 모델을 의도적으로 외부에서 공격해 편향된 답을 하지는 않는지, 시스템에 문제는 없는지를 파악하는 ‘레드팀’을 구성해 운영하고 학습할 데이터를 엄격하게 선별하는 등 각사가 하는 방향과 노력이 거의 비슷하다고 본다. 그렇다고 해도 할루시네이션을 100% 해결할 수는 없다. AI를 윤리적으로 잘 활용해야 한다는 데 대해서도 범국민적 공감대가 형성돼야 한다.” -최근 국제사회가 AI 규범을 마련하려는 움직임이 있다. 각국의 이해관계가 다른데 국제 규범이 의미가 있을지.김명신 “앞서 말씀해 주신 것처럼 미국 중심, 유럽 중심, 중국 중심으로 각각 색깔이 다른 규제들이 만들어지고 있는데 기업 입장에선 나라마다 규제가 다르면 그걸 전부 모니터링해 분석하고 대응해야 하는 이중, 삼중의 부담이 생길 수밖에 없다. 최악의 경우 지역마다 다른 모델을 개발하느라 천문학적 비용을 지출해야 할 수도 있다. 국제사회 차원의 보편적인 AI 규범이 만들어지면 기업 입장에선 가장 명확한 기준이 돼서 좋을 것 같다.” 엄열 “정부도 국제 규범 체계를 같이 논의할 수 있는 기구가 필요하다는 입장이고 그 가운데서 리더십을 발휘하겠다는 의지를 갖고 있다. 그래서 유엔 산하나 별도의 독립 기구를 만들어야 한다고 국제사회에서 주장하고 있다. 영국과 미국이 ‘AI 안전성 연구소’라는 걸 만들었는데 아시아 쪽에선 우리가 한번 주도적으로 만들 수 있지 않은지 검토하고 있다.”

대화형 인공지능(AI) 챗봇 ‘챗GPT’가 선풍을 일으키면서 AI 기술 부작용에 대한 우려와 법적 규제의 시급성을 지적하는 목소리도 덩달아 높아지고 있다. 챗GPT는 지난해 11월 30일 공개 이후 두 달 만에 월 이용자가 1억명을 넘어설 정도로 화제의 중심에 섰다. 논문을 쓰거나 의사시험을 통과하며 고도의 전문 지식을 뽐내고, 일상 대화도 술술 주고받는 AI의 놀라운 진화에 세계는 경탄했다. 하지만 이와 동시에 표절, 시험부정, 가짜뉴스 같은 부작용과 편향적인 데이터 학습으로 인한 성별·인종·소수자 차별 등 인권과 윤리를 침해할 가능성도 한층 심각해졌다. 챗GPT 개발사인 오픈AI의 최고기술책임자(CTO)조차 AI 기술 악용에 대한 걱정을 숨기지 않았다. 미라 무라티 CTO는 5일(현지시간) 시사주간지 타임 인터뷰에서 “챗GPT는 사실을 지어낼 수 있고, 나쁜 의도를 가진 이용자들에게 악용될 수 있다”면서 “AI를 규제하는 것은 지금도 이르지 않다”고 말했다. 앞서 제이크 오친클로스 미국 하원의원은 지난달 25일 의회 연설에서 챗GPT가 작성한 연설문을 낭독하며 “새 기술에 적대심을 가질 필요는 없지만, 관련 정책이나 법규가 너무 늦어져도 안 된다”고 경고했다. 티에리 브르통 유럽연합(EU) 집행위원도 “챗GPT가 보여 주듯 AI 기술은 위기도 제공하기 때문에 법으로 규제하는 방안이 필요하다”고 지적했다. 실제로 유럽연합(EU)은 AI 관련 입법에 속도를 내고 있다. 2021년 4월 초안을 발표한 ‘AI법’이 올해 제정될 전망이다. 이 법은 위험도에 따라 AI를 3단계로 분류해 그에 맞는 규제를 부과한다. 가령 안면인식 기술처럼 인권 침해 소지가 있으면 전면 금지하고, 직원 채용에서는 AI의 적합성과 편향성을 엄격하게 평가하는 방식이다. 이 법이 제정되면 유럽 국가들은 물론 전 세계 국가의 AI 윤리 기준 및 관련법 제정에 큰 영향을 미칠 것으로 보인다. 우리나라는 과학기술정보통신부가 2020년 마련한 ‘인공지능 윤리기준’이 고작이다. 이듬해 ‘인공지능기본법’을 국회에 발의했으나 아직 진척이 없다. 디스토피아 세계를 그린 SF영화 같은 암울한 미래를 피하기 위해서라도 AI 규제에 대한 본격적인 논의를 서둘러야 할 때다.

‘혐오의 학습화’ 논란을 불러일으키면서 지난 11일 서비스가 중단된 인공지능(AI) 챗봇 ‘이루다’ 사태는 인공지능 윤리에 관한 숙제를 남겼다. 한국보다 앞서 인공지능 기술을 상용화한 해외에서는 인공지능에 의한 차별·혐오 문제를 어떻게 다루고 있을까. 12일 법조계 등에 따르면 각국의 인공지능 규제는 크게 의회 입법을 통한 하드 로(hard law)와 법적 구속력이 없는 소프트 로(soft law)로 나뉜다. 지난해 12월 한국 정부가 발표한 ‘국가 인공지능 윤리기준’을 비롯해 대부분의 국가에서 규범 차원의 가이드라인을 발표하는 추세지만 일각에서는 입법 움직임도 시작되고 있다. 2017년 미국 뉴욕시의회에서 통과된 ‘알고리즘 책임 법안’은 뉴욕시에서 구성한 특별위원회를 통해 시에서 사용되는 인공지능 알고리즘에 차별 요소가 없는지 조사를 의무화하는 것을 주요 내용으로 한다. 2019년 4월 미 상원에서 대기업의 머신러닝 시스템을 감독하기 위한 동명의 법안이 발의되기도 했다. 특히 인공지능이 치안·금융·행정·교육 등 각종 영역에 상용화되면서 편향적인 알고리즘이 실제 피해로 이어질 수 있다는 지적이 나온다. 미국 아마존은 인공지능 기반 채용 시스템이 여성에게 불리한 평가를 한다는 사실이 알려져 2018년 시스템 개발을 중단했다. 유럽연합(EU) 의회도 지난해 10월 포괄적인 AI법 권고안을 채택했다. 인공지능 기술이 심각한 윤리 원칙을 위반할 경우 인공지능의 자기학습능력을 비활성화하고 완전한 인간 통제하에 놓이도록 복원하는 내용이 담겼다. 다만 한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 “구체적으로 무엇을 어떻게 규제할지 충분히 논의되지 않아 당장 입법은 불가능하다”면서 “기본적인 윤리 원칙을 다양한 개별 상황에 어떻게 적용할지 세부적인 가이드라인을 먼저 마련해야 한다”고 말했다. 기업 차원에서 자정 노력이 필요하다는 지적도 나온다. 마이크로소프트(MS)는 2016년 차별·혐오 논란에 휩싸였던 챗봇 ‘테이’ 사태 이후 사내 윤리위원회를 만들고 윤리 기준을 마련했다. 진선민 기자 jsm@seoul.co.kr