최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데, 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각해서는 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월에 성폭력범죄의 처벌 등에 관한 특례법 개정안이 시행됐고, 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 중 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학폭(학교폭력) 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 인공지능(AI)으로 같은 학교 학생 등 18명 등의 얼굴과 음란 사진을 합성한 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고, 제작 의뢰도 어렵지 않다. 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조은희 의원은 “피해자에게 씻을 수 없는 상처를 주는 디지털 성범죄가 청소년층에서 마치 놀이처럼 퍼지고 있다”며 “앞으로 딥페이크 기술 발전으로 관련 범죄가 더욱 기승을 부릴 수 있는만큼 제도적 보완책이 시급하다”고 강조했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 했다. 이수정 경기대 범죄심리학과 교수는 “피해자는 돌이킬 수 없는 심각한 피해를 보는데 연령이 어릴수록 이런 본질을 상상하지 못하고 ‘장난’이라고만 생각할 수 있다”고 지적했다. 그는 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”며 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

지속 가능 AI 발전을 위한 공동선언문 채택, 9월 UN에 제출 예정경기도는 인공지능(AI)의 국제적 정책교류를 강화하기 위한 14개국 지방정부 협의체인 DETA(DisruptiveEmerging Technologies Alliance)와 협력을 추진 중이며, 인공지능 공동선언문에 참여한다고 16일 밝혔다. 이번 협력은 인공지능 기술 발전을 통해 지속 가능한 미래를 실현하고, 글로벌 차원에서 투명하고 책임 있는 거버넌스 구축을 위한 경기도의 전략적 비전에 따른 것이다. DETA는 ‘신뢰할 수 있는 인공지능(AI) 발전을 위한 선언문’을 채택해 9월 예정인 UN 미래정상회의 기술특사에 제출할 예정이다. 이 선언문은 인공지능 기술 개발과 활용에 있어 투명성, 정의, 안전, 책임, 프라이버시, 자율성, 그리고 지속 가능성을 강화하는 데 초점을 맞추고 있으며 인공지능 기술 발전 과정에서 인간 존엄성, 민주주의, 법치주의를 최우선 가치로 삼을 것을 강조하고 있다. 공동선언문 참여를 확정한 도는 공동선언문에 대한 검토를 마치고 DETA 사무국에 의견을 제출했다. 도는 지난 1월 DETA 가입 후 스페인 카탈루냐주 초청으로 올해 2월 MWC(Mobile World Congress) 참관 및 DETA 실무회의를 했고, 6월과 7월 두 차례에 걸쳐 인공지능 워킹그룹 온라인 화상회의에 참석해 회원국 간 인공지능 전략을 공유하는 등 활동을 이어가고 있다. 이달 말에는 AI 워킹그룹 3차 회의에 참석할 예정이다. 도는 이번 선언문 참여를 통해 AI 기술이 인류 복지와 사회적 발전을 위해 올바르게 사용될 수 있도록 하기 위한 방향을 제시하고, AI 기술을 통한 포용적 성장·혁신을 촉진, 이를 통해 글로벌 AI 허브로 도약한다는 목표를 갖고 있다. 김선화 AI프런티어사업과장은 “경기도가 인공지능 기술의 윤리적 발전 기반을 구축하고, 이를 통해 지속 가능한 미래를 구축하는 데 앞장설 것”이라며 “14개국 지방정부와의 협력을 통해 글로벌 차원의 인공지능 확산 정책을 선도하며, 전 세계가 함께 인공지능 기술의 혜택을 누릴 수 있도록 노력하겠다”라고 말했다.

성균관대와 ‘월드클래스 최고전략 아카데미’ 개설 중소·중견기업 CEO, 차세대 리더 등 경영자 대상 40명 모집경기도경제과학진흥원(이하 경과원)이 성균관대학교와 함께 ‘월드클래스 최고전략 아카데미’를 개설하고, 제1기 ‘인공지능(AI)·디지털전환(DX) 글로벌 혁신 전략가 과정’ 참가자를 모집한다고 21일 밝혔다. 월드클래스 최고전략 아카데미는 지난 2011년 처음 개설된 CEO 전문 교육과정으로, 올해부터 급변하는 기술 및 트렌드 변화에 따라 명칭을 변경하고 개편해 운영한다. 인공지능(AI)과 디지털 전환(DX) 시대에 부응하는 글로벌 혁신 리더 양성을 목표로 하고 있으며, 도내 중소·중견기업 CEO, 차세대 리더, 공직자 및 유관기관 임원 등 총 40명을 선착순 모집한다. 교육은 오는 9월 5일부터 14주간 판교테크노밸리에서 진행한다. 교육 과정은 AI·DX 분야의 국내외 선진 사례 연구와 최고경영자급 리더십 강의로 구성되어 있다. 참가자들이 디지털 혁신 전략을 수립하고 실행할 수 있는 실질적인 역량을 갖추도록 지원한다. 강사진은 김광수 성균관대학교 교수, 김동규 롯데 칼리버스 대표, 김경만 과학기술정보통신부 국장 등 각 분야 최고 전문가들이 참여한다. 주요 내용으로는 ▲글로벌 DX 사례 체험을 위한 해외연수 ▲AI·DX 시대의 법적 리스크 관리와 윤리적 문제 점검 ▲다양한 산업 분야의 사례 분석 ▲팀 프로젝트를 통한 실습 ▲전문가 네트워킹 등이다. 아카데미 이수자에게는 경기도경제과학진흥원장 및 성균관대학교 총장 명의의 수료증이 발급되며, 우수 참가자는 별도의 상이 수여될 예정이다. 참가 신청은 다음 달 16일까지 선착순으로 진행되며, 포스터의 QR코드를 통해 접수할 수 있다. 김길아 경과원 기업성장본부장은 “기존 288개 사 300명의 수료생과의 네트워킹 강화에도 주력할 계획”이라고 밝혔다.

글로벌 완성차 업계는 물론 빅테크 기업들까지 자율주행차에 대한 관심이 높습니다. 자율주행기술은 미국자동차공학회 기준으로 총 6단계로 나뉩니다. 현재는 부분 자동화 수준인 2~2.5단계입니다. 주행차선 변경, 속도조절, 주차 등을 도와줄 뿐 여전히 인간이 주도권을 갖고 운전해야 하는 단계입니다. 물론 이전보다 장거리 운전을 할 때 피로감이 훨씬 줄어드는 것은 사실입니다. 그렇다면 현재 나오고 있는 자율주행차의 안전성은 어느 정도까지 신뢰할 수 있을까요. 미국 센트럴플로리다대 도시·환경·건축공학과 연구팀에 따르면 돌발 상황이 아닌 일반 주행 상황에서 자율주행차는 사람이 운전하는 차보다 사고를 덜 일으킨다고 합니다. 이 연구 결과는 기초과학 및 공학 분야 국제 학술지 ‘네이처 커뮤니케이션스’ 6월 19일자에 실렸습니다. 정교한 센서와 인공지능(AI) 알고리즘을 갖춘 자율주행차는 교통 상황을 정밀하게 탐색하도록 설계돼 도로에서 발생하는 사고의 주요 원인인 인적 오류를 줄여 더 안전한 운전 환경을 조성할 수 있다는 평가를 받고 있습니다. 자율주행차의 안전성을 높이려면 자율주행차가 인간이 운전하는 차보다 더 낫거나 나쁜 상황이 언제인지를 이해하는 것은 필수적입니다. 그렇지만 이와 관련한 연구는 그리 많지 않습니다. 연구팀은 2016년부터 2022년까지 미국 캘리포니아주에서 운행하는 자율주행차 2100대와 인간이 운전하는 차 3만 5133대의 사고 자료를 수집·분석했습니다. 연구팀이 캘리포니아를 대상으로 한 것은 전 세계에서 가장 많은 자율주행차가 운행되는 동시에 유일하게 운행 원본 데이터를 공개하는 곳이기 때문입니다. 분석 결과 자율주행차는 차선 유지나 차량 흐름에 따라 움직이는 것처럼 일상적인 주행 상황에서는 사람이 운전할 때보다 훨씬 안전하고 사고 발생 가능성도 작은 것으로 나타났습니다. 추돌이나 측면 추돌 사고에서도 각각 0.5배, 0.2배 안전한 것으로 확인됐습니다. 그렇지만 새벽이나 해 질 무렵처럼 햇빛이 약한 저조도 상황이나 회전 교차로, 유턴 지역 등 특정 지역에서는 자율주행차의 사고 발생 가능성이 사람이 운전하는 차보다 각각 5.25배, 1.98배 높은 것으로 조사됐습니다. 이번 연구를 이끈 모하메드 압델아티(교통공학) 교수는 “자율주행기술은 도로 안전을 개선할 수 있는 잠재력이 있지만 다양한 상황에서 안전하게 작동하기 위한 기술적 한계는 분명히 있다”고 말했습니다. 압델아티 교수는 “자율주행차의 기술 수준이 점점 높아지고 있지만 인간의 운전 능력을 완전히 따라잡거나 능가하기 위해서는 더 많은 개선이 필요하다”고 했습니다. 가까운 미래에는 인간의 개입 없이 시스템이 운전하는 4~5단계의 완전자율주행차 시대가 올 것입니다. 완전자율주행차가 거리에 가득하더라도 사고가 발생했을 때 보행자와 자동차 소유자, 제조사 중 누구의 책임인지 같은 문제는 여전히 남습니다. 기술 발달과 함께 기술이 가져올 문제에 대한 윤리적, 철학적 고찰이 필요한 이유입니다.

생성형 AI 활용 영상 국제 공모, 콘퍼런스, 상영회 개최 생성형 AI 활용 영상미디어 공모, 총상금 규모 8천만 원경기도와 경기콘텐츠진흥원이 ‘AI가 선사하는 새로운 기회’를 주제로 ‘경기 국제 AI 미디어 페스티벌’을 10월 25일 킨텍스에서 개최한다. 경기도는 11일 김대식 카이스트 교수, 김태용 영화감독, 한상호 EBS CP, 김혜연 안무가 등으로 구성된 준비위원회를 열고 경기 국제 AI 미디어 페스티벌의 출품 규정을 포함한 행사계획 등을 확정했다. ‘경기 국제 AI 미디어 페스티벌’은 생성형 AI를 활용한 새로운 미디어 콘텐츠 활성화를 위한 공모전, 생성형 AI 등장에 따른 문화콘텐츠 창작자의 기회와 위기를 다루는 콘퍼런스, 공모전 수상작 상영회로 진행된다. 전 세계 문화콘텐츠 창작자를 대상으로 생성형 AI를 활용한 영상미디어 공모전이 7월 1일부터 9월 3일까지 2달간 진행된다. ▲내러티브 ▲다큐멘터리 ▲아트&컬처 ▲자유 포맷 4가지 분야로 진행되며, 총상금은 8천만 원이다. 10월 25일 페스티벌에서는 콘퍼런스와 공모전 시상식, 작품 상영회 등이 열린다. 콘퍼런스는 국내외 AI 전문가 및 AI 활용 콘텐츠 창작자를 중심으로 생성형 AI를 활용한 콘텐츠 제작 기술 동향뿐 아니라 문화콘텐츠 창작자의 위기에 대한 우려와 새로운 기회, AI를 둘러싼 법적, 제도적, 윤리적 이슈 등 민감한 주제들이 다뤄질 예정이다. 페스티벌에서는 공모전을 통해 선정된 26개 작품의 상영회와 감독과의 대화 등이 진행된다. 이종돈 경기도 문화체육관광국장은 “소라(Sora) 등 생성형 AI의 등장으로 많은 콘텐츠 창작자가 위기를 느끼고 있다”면서 “역사에서는 항상 새로운 기술의 등장과 함께 새로운 창작 모델이 생겨났고 개인의 창의력을 더욱 다양한 콘텐츠를 만들어내는 기회로 만들었다. 이번 페스티벌이 그러한 기회를 제공할 것으로 기대한다”라고 밝혔다.

인공지능(AI)이 구직자에게 적합한 일자리를 추천해주고, 구인 기업에는 인재를 추천하는 서비스가 고도화된다. 고용노동부는 12일 일자리 미스매치 해소 및 데이터 기반 구인·구직 서비스에 AI를 활용한 디지털 고용 서비스 강화 계획을 내놨다. 한국고용정보원과 협업을 통해 내년 상반기 시범 적용 후 하반기부터 대국민 서비스를 실시할 계획이다. 생성형 AI를 정부 서비스에 적용하는 첫 사례다. AI 기반 디지털 고용서비스 7대 시범과제는 일자리 매칭(인재 추천)과 구인 분야 3개(구인공고 작성지원·채용성공모델·구인공고 검증) 과 구직분야 3개(지능형 직업심리검사·취업 성공모델·직업훈련 추천) 등이다. 인재 추천은 기존 AI 추천을 고도화한다. 인재 추천 이유를 제시하고 추천 인재의 이력서·자기소개서 요약정보 등을 제공한다. 현재 인재 추천 서비스는 추천 이유가 없어 기업은 추천 인재 확인을 위해 이력서 및 자소서를 일일이 조회할 수밖에 없어 활용도가 떨어졌다. 고용부는 알고리즘 개선 및 모델 개발을 거쳐 오는 12월 ‘고용 24’에 시범 적용할 계획이다. 구인 서비스는 채용확률 모델에 기반해 기업 컨설팅과 구인 공고 작성 지원 등을 통해 적합한 인재 발굴을 개선한다. 기업이 직무·자격·훈련정보 등만 입력하면 생성형 AI가 구인 공고를 작성해주고, 구인 공고 데이터를 분석해 채용 성공모델 및 구인 공고의 적정성 여부도 검증한다. 구직분야는 지능형 직업심리검사 도입과 확률 분석을 통한 취업 지원, 직업훈련 추천 등을 통해 적성과 역량에 맞는 일자리에 조기 취업할 수 있도록 지원할 계획이다.취업 성공모델과 직업훈련 추천은 올해 말 ‘잡케어’에서 시범 운영한다. 이정한 고용부 고용정책실장은 “디지털 고용서비스에 AI 기술 확대 적용해 개인·기업별 맞춤형 서비스의 획기적 개선이 기대된다”라며 “공공과 민간이 협력해 과제를 차질 없이 추진하겠다”라고 밝혔다. 다만 기존 데이터 분석을 넘어 새로운 콘텐츠를 생산하는 생성형 AI로 인한 윤리적 논란과 관련해 편도인 고용지원정책관은 “실현 가능성과 효용·효과 등에 대한 개념검증 과정에서 신중하고 단계적으로 확인, 접근할 것”이라고 설명했다.

그간 주가조작 의혹과 분식회계 논란 등으로 경영 위기를 겪었던 카카오가 창업자인 김범수(58) CA 협의체 의장 주도로 경영 쇄신에 나서겠다는 내용의 개선방안을 발표했다. 11일 카카오 준법과 신뢰위원회(준신위)에 따르면 출범 6개월을 맞은 준신위는 지난 10일 경기 용인 ‘카카오 인공지능(AI) 캠퍼스’에서 첫 번째 워크숍을 갖고 이런 내용이 담긴 개선방안을 카카오로부터 보고받았다. 준신위는 지난해 12월 카카오 계열사의 준법 및 신뢰경영 체계를 확립하고 기업의 사회적 책임을 실천하기 위해 출범한 독립기구다. 그간 준신위는 카카오, 카카오게임즈, 카카오모빌리티, 카카오뱅크, 카카오엔터테인먼트, 카카오페이 등 6개 협약 계열사를 대상으로 준법 지원 활동을 해왔다. 이번 워크숍은 출범 6개월을 맞은 준신위가 카카오 컴플라이언스(법규 준수·준법 감시·내부 통제) 현황을 점검하고 향후 위원회 활동을 논의하기 위한 자리로 위원과 전문위원, 사무국, 카카오 관계자 등 30여명이 참여했다. 카카오는 이 자리에서 책임 경영과 윤리적 리더십, 사회적 신뢰 회복이라는 세 가지 의제에 대한 개선방안을 발표했다. 이는 앞서 준신위가 지난 2월 카카오를 포함한 6개 협약 계열사에 지속 가능 성장을 위한 세 가지 의제별 개선방안에 대한 이행계획을 수립해 3개월 이내에 보고하라고 권고한 데 따른 것이다.카카오는 첫 번째 의제인 책임 경영 기반을 마련하기 위해 CA 협의체 중심의 컨트롤타워 구조를 확립하고 김범수 의장 주도로 경영 쇄신에 나서겠다고 강조했다. 대규모 투자 등 사회적 영향이 높은 의사결정 시 사전 리스크 점검과 사후 모니터링 체계도 강화하겠다고 밝혔다. 특히 경영진 책임 강화를 위해 내외부 평판 검증 등 임면 프로세스를 강화하는 한편, 고의적인 불법행위를 한 경영진에 배상책임을 지우는 방안도 검토하기로 했다. 두 번째 의제인 윤리적 확립 방안으로는 가치, 공정, 소통, 책임 네 가지 항목을 포함한 카카오그룹 윤리 헌장을 마련해 경영진을 비롯한 카카오 모든 직원이 준수할 수 있도록 공표할 예정이다. 마지막 세 번째 의제인 사회적 신뢰 회복을 위해선 주주가치 보호와 파트너 상생 방안을 추진하겠다고 밝혔다. 먼저 주주가치 보호와 관련해서 자회사 상장으로 인한 모회사 주주가치 하락 우려를 방지하기 위해 무분별한 신규 기업공개(IPO)를 지양한다는 원칙을 확립했다. 카카오는 이에 따라 향후 기업공개를 추진할 경우 그룹 차원에서 면밀한 사전 검증 절차를 진행할 계획이다. 또 이런 절차를 통해 기업공개가 결정되더라도 주주가치 보호 방안을 함께 마련해 적용할 예정이다. 파트너와의 상생을 위해선 그룹 차원의 전체 로드맵을 마련해 체계적으로 상생 사업을 지원하겠다고 강조했다.준신위는 이런 카카오 개선방안의 세부 내용과 추진 계획을 점검한 뒤 이를 자세히 평가하는 기간을 가질 예정이다. 김소영 위원장은 “이제부터는 위원회와 카카오가 함께 개선방안을 충실히 검토하고 제대로 실행할 차례”라며 “앞으로 위원회는 카카오가 약속한 개선방안이 구체적으로 실현되고 잘 지켜질 수 있도록 세심히 점검하고 지원할 것”이라고 했다. 한편 이날 워크숍에서는 허성욱 서울대 법학전문대학원 교수가 ‘ESG(환경·사회·지배구조) 및 컴플라이언스 트렌드’를 주제로 강연을 진행했다. 참석자들은 컴플라이언스 시스템이 정착된 모범 사례와 카카오에 적용할 수 있는 방안 등에 관해 토론을 나눴다.

2016년 구글 딥마인드의 바둑 인공지능(AI) 알파고가 이세돌 9단에게 압승을 거두면서 AI에 대한 관심이 폭발적으로 증가했다. 이세돌과 알파고 대국이 있은 지 불과 6년 뒤인 2022년 말 챗GPT가 공개되면서 이제 생성형 AI는 누구나 사용하는 세상이 됐다. 이런 추세에 맞춰 학계는 물론 대중을 대상으로 한 책들이 쏟아지고 있다. 그렇지만 대부분 유행을 따르거나 개별적 주제에만 초점을 맞추고 있어 AI의 현재를 이해하고 미래를 예측하기란 쉽지 않다. 이런 상황에서 ‘인공지능 인문학’이라는 틀에서 AI 시대 전체를 개괄할 수 있는 학술서가 나와 눈길을 끈다.중앙대 인문콘텐츠연구소에서 기획·연구·집필한 ‘인공지능인문학 학술총서’(태학사)가 최근 출간됐다. 다양한 분야의 연구자들이 모여 7년 동안 이뤄 낸 학제적 연구의 성과물인 총서는 ▲인공지능 윤리규범학 ▲인공지능 관계소통학 ▲인공지능 데이터해석학 ▲인공지능 기술비평학 ▲인공지능 사회문화학 5권으로 구성됐다. 학술서이지만 일반인도 쉽게 읽을 수 있다는 장점까지 갖추고 있다. 1권 ‘인공지능 윤리규범학’에서는 AI가 우리 삶에 들어오면서 나타날 수 있는 일들과 규제를 다룬다. 흔히 AI 윤리라고 하면 교통사고를 낸 자율주행차, 살인을 목적으로 만들어 낸 전투용 로봇, 애인 행세를 하는 AI에게 버림받은 사람 등 SF에서 볼 법한 흥미 위주의 사례를 떠올린다. 그러나 연구자들은 ‘AI는 윤리적 주체가 될 수 있나’, ‘AI 윤리는 발전하는 기술의 발목을 잡는 성가신 존재일까’ 같은 본질적 문제를 마주한다. 저자들은 ‘기술·윤리’의 관계는 실제로 ‘기술·기업·윤리’로 봐야 한다고 강조한다. 기술과 윤리라는 긴장 관계 뒤에 숨어 드러나지 않는 기업과 자본의 존재를 인식하는 것이 중요하다는 것이다. 이들은 윤리가 소외된 기술의 전형으로 2020년 12월 출시된 AI 챗봇 서비스 ‘이루다’ 사태를 지적하며 ‘무엇보다 윤리적이지 않은 토양의 사회’에서 “윤리는 기술 설계의 기획, 형성, 발전 단계 내에 이미 포함돼 있어야 한다”고 강조했다. ‘인공지능 관계소통학’에서는 참여·개방·공유를 통해 인간들끼리 연결됐던 웹 2.0시대를 지나 현재 사람과 사람을 넘어 사람과 사물, 인공지능으로까지 확장되는 웹 3.0시대에 어떻게 대응해야 하는지를 말한다. 서비스 일자리를 빼앗는다고 비판받는 키오스크도 사실은 감정 노동자의 상처를 줄이기 위해 등장한 것이고, 챗봇 같은 소셜 로봇 역시 소외된 사람들의 외로움을 덜기 위해 개발되기 시작했다. 사회가 초연결을 지향하면서 점점 인간화되는 AI와의 관계를 어떻게 설정해야 하는지에 대한 고민은 인류의 새로운 숙제가 됐다고 저자들은 지적한다. 마지막 권인 ‘인공지능 사회문화학’에서는 AI가 인간의 삶에 들어온 이후 어떤 변화를 만들어 내고 있는지를 꼼꼼하게 짚어 본다. 인간 고유의 영역이라는 창조성까지 넘보는 AI의 발전을 기술 문화, 대중문화, 예술 및 시각문화 등 세 영역으로 나눠 AI 시대의 인간의 역할까지 논의의 장으로 끌어들이고 있다. 저자들은 “이번 총서는 AI의 현재와 미래를 피상적으로 살펴보는 것을 넘어 AI에 대한 인문학적 접근을 통해 인문학 자체의 위상과 역할을 재고하기 위해 기획된 것”이라고 입을 모았다.

언어 이해하고 복잡한 문제 해결로봇이 인간과 사회적 상호 작용생각보다 빨리 일상에 스며들 것근력 보조·초미세 수술 등 고도화윤리적·법적 문제 지침·규정 필요국내에서도 ‘로봇 윤리 헌장’ 개발로봇사물인터넷 시대로 진화 기대고령화·저출산 맞춤 서비스 제공공존하며 인간의 가치·보호 필요“여보! 아버님 댁에 보일러 하나 놔 드려야겠어요.” 1991년 등장한 이 광고 카피는 많은 사람들에게 회자되며 보일러 설치 붐을 불러왔다. 인공지능(AI)과 로봇 기술이 빠른 속도로 발전한 지금, 부모님 댁에 보일러가 아닌 로봇을 놔 드려야 할 날이 머지않았다. 최근 AI 기술의 접목으로 로봇은 단순히 물건을 조립하고 운반하는 데 그치지 않고, 인간의 언어를 이해하고 복잡한 문제를 해결하며 심지어 인간과 사회적 상호작용을 할 수 있는 수준으로 발전하고 있다. 어느새 우리의 일상에 들어온 AI·로봇 기술은 오랜 기간 인류의 노력과 혁신이 쌓인 결과다. 처음에는 짧은 시간에 더 많은 제품을 생산할 수 있도록 설계된 산업용 로봇이 인간의 노동을 대체해 간단한 자동화 작업에 투입됐다. 공장의 생산 설비에서 로봇은 인간의 손을 대신해 빠르고 정확하게 제품을 조립하고, 무거운 물체를 들거나 위험한 환경에서 작업을 수행했다. 다만 대부분 반복적이고 정형화된 작업에 최적화돼 있어 활용 범위가 한정적이었다. 이제 로봇은 AI 기술과 통합되면서 주변 환경을 인식하고 적응하며 인간과 상호작용을 통해 배우고 성장할 수 있게 됐다. 예를 들어 휴머노이드 로봇은 인간의 보행 방식을 모방해 더 자연스럽게 걷고, 사람들과의 대화에서 감정을 인식하고 반응할 수 있다. 이런 로봇들은 의료, 교육, 고객 응대 등 인간이 직접 서비스를 제공하던 분야에서도 중요한 역할을 할 것으로 기대된다. 이에 국내외 할 것 없이 AI·로봇 산업의 주도권을 잡기 위한 경쟁이 치열하다. 지난 3월에는 챗GPT 개발사 오픈AI와 휴머노이드 로봇 스타트업 피규어가 함께 만든 휴머노이드 로봇 ‘피규어 01’(Figure 01)이 공개됐다. ‘피규어 01’은 언어 이해와 시각적 추론 능력을 바탕으로 사람과 자연스러운 상호작용을 하는 모습을 보여 줌으로써, 생각보다 빨리 우리의 일상에 로봇이 스며들 것이라는 기대를 심어 줬다.이에 질세라 세계적인 로봇 기업 보스턴 다이내믹스에서는 새로운 AI가 탑재된 휴머노이드 로봇 ‘아틀라스’의 신형을 공개해 머리는 물론 몸통까지 자유자재로 회전하는 고난도 동작을 선보였다. 삼성전자에서는 차세대 로봇 사업을 미래 먹거리로 점찍고 지난달 조직 개편을 통해 휴머노이드 로봇 개발을 준비 중이다. AI·로봇의 영역이 단순한 산업 도구를 넘어 일상 속 청소, 요리, 심지어 교육과 의료 서비스 같은 더 복잡한 인간의 활동을 지원하는 방향으로 확장되면서 인간은 로봇에 대한 인식이나 생활 방식에 있어서 중대한 변화를 요구받고 있다. 물론 이런 인식의 변화는 다양한 도전을 수반한다. 일례로 고도로 발전된 AI 로봇 기술로 인한 일자리 대체로 발생할 사회 전반의 불안과 경제적 불평등을 해결하는 것부터가 우리에게 닥친 과제다. 보다 근본적으로는 로봇이 인간에게 피해를 주는 목적으로 사용되는 것을 방지하기 위해 로봇과의 상호작용에서 발생할 수 있는 윤리적·법적 문제에 대한 명확한 지침과 규정이 필요하다는 점이다. 아이작 아시모프는 1942년 공상과학 소설 ‘런어라운드’에서 로봇공학 3원칙을 제시한 후 로봇이 가장 우선해서 따라야 할 제0원칙으로 ‘로봇은 인류에게 해를 가하거나 행동하지 않음으로써 인류에게 해가 가도록 해서는 안 된다’를 추가했다. 우리나라는 ‘지능형 로봇 개발 및 보급 촉진법’에 따라 2007년부터 로봇 윤리 헌장을 개발하고 있는데, 기본 가치로 ▲인간을 이롭게 하는 로봇 ▲신뢰할 수 있는 로봇 ▲공공선을 추구하는 로봇 등 3가지를 꼽고 있다.한국과학기술연구원(KIST) AI·로봇연구소에서는 고령화 등 사회적인 난제를 해결해 인간을 이롭게 하기 위한 AI와 로봇 기술을 중점적으로 개발하고 있다. 올해 초에는 팔과 다리의 근력이 약해 지팡이나 휠체어 같은 보조기구의 도움을 받아야 하는 사람을 위한 근력보조 로봇 ‘문워크’(Moonwalk-omni)를 개발했다. 몸에 장착하는 웨어러블 로봇인 문워크는 초경량·고출력 로봇 구동 기술이 이뤄 낸 성과로, KIST는 AI 기술 및 저전력 AI 반도체 기술 발전을 바탕으로 문워크를 각 개인 특성과 보행 환경에 보다 부합하는 로봇으로 고도화해 나갈 계획이다. KIST는 문워크 외에도 인간의 미세 동작 제어 단위 한계인 1㎜보다 더 정밀한 범위에서 수술을 가능하게 하는 초미세 수술 로봇과 더불어 고령화 및 1인가구 증가 추세에 맞춰 개인 집사처럼 집안의 가사 활동을 보조하는 ‘집사’(ZipSA) 로봇도 개발하고 있다. 사용자 경험에 따라 주변의 로봇기기들을 결합하고 변형해 사용자에게 안전하고 효율적인 서비스를 제공하는 미래형 AI로봇인 메타봇(MetaBot)도 KIST의 연구 분야다. KIST가 처음 선보인 로보틱 도서관 시스템 ‘콜래봇’(CollaBot)이 대표적 사례다. 콜래봇은 책장, 책상, 의자, 조명 형태의 로봇으로 구성된 시스템으로 다수의 로봇 제품 간 협업을 기반으로 인간·로봇 사이에 상호작용을 제공한다. 즉 한 가지 기능에 특화돼 맥락에 맞는 다양한 복합 서비스를 제공하는 데 한계가 있는 일반적인 로봇에 반해 콜래봇은 다수의 로봇 제품이 인식한 정보를 통합함으로써 사용자가 처한 상황에 가장 적합한 서비스를 제공할 수 있다. 메타봇의 개념이 확장되면 스마트폰으로 어디에서나 인터넷에 접속해 주변 사물 기기를 제어하는 사물인터넷(IoT)을 넘어 로봇사물인터넷(IoRT·Internet of Robotic Things)의 시대로 진화할 것으로 기대된다. 즉 이제는 사물이 우리에게 스스로 다가와 맞춤형 서비스를 해 주는 시대가 도래하는 것이다.우리의 일상에 보일러가 스며들고 스마트폰이 보편화된 것처럼 AI·로봇 기술은 인간의 능력을 확장하고 많은 문제를 해결하는 기회를 제공할 것이다. 이미 우리의 일상생활에 다양한 형태로 스며들고 있는 지금, 과연 우리는 어떤 로봇을 이웃으로 맞이해야 할까. 지난 5월 21~22일 이틀간 한국과 영국은 ‘AI 서울 정상회의’를 공동 개최했다. AI 기술 선도국 간 글로벌 AI 거버넌스 목표 합의를 이끌어 냈고 AI 안정성을 강화하면서도 혁신을 촉진하고 포용과 상생을 도모하는 AI 발전 방향을 논의했다. 앞으로 다가올 로봇과 인간이 공존하는 미래를 대비하기 위해 인간의 가치와 안전을 보호하는 명확하고 보편적인 윤리적 지침과 기준 수립이 함께 진행되고 있다. 기술 발전과 함께 로봇이 공존하는 미래 사회의 바람직한 모습에 대한 고찰을 소홀히 하지 않는다면 분명 AI·로봇 기술은 우리 삶을 긍정적으로 변화시킬 놀라운 가능성을 제공할 것이다. ■ 김익재 소장은 기계학습 및 딥러닝 기술을 활용해 25년 이상 컴퓨터비전 및 미디어 분야 연구를 통해 사회문제 해결을 목표로 하는 연구자로서 현재 인간과 로봇이 공존하는 세상을 꿈꾸는 KIST AI·로봇연구소를 이끌고 있다. 김익재 KIST AI·로봇연구소장

최근 인터넷에서 사람 두 명의 목을 잘라 머리를 통째로 떼어낸 뒤 한 명의 머리를 다른 한 명의 몸에 이식해 봉합하는 영상이 화제를 모으고 있다. 1일(현지시간) 뉴욕타임스 등 여러 외신을 종합하면 미국 스타트업 ‘브레인브릿지’(BrainBridge)는 최근 “사지마비 등 질병이나 장애를 가진 환자 머리를 뇌사 상태인 기증자 몸에 그대로 이식하는 기술을 개발했다”며 수술 과정을 그래픽으로 구현한 8분짜리 영상을 유튜브와 엑스(X·옛 트위터) 등에 공개했다. 수술 전 환자와 기증자는 모두 냉각 상태에 들어가고, 로봇 팔이 두 사람의 몸에서 머리를 떼어내더니, 장애를 가진 환자의 머리를 뇌사 상태인 기증자 몸에 이식해 봉합하는 시연 영상은 조회수 1000만회를 넘어섰다. 회사 측은 “모든 수술 과정은 AI 시스템에 의해 통제돼 신경과 근육의 정확한 연결이 이뤄질 수 있다”라며 “뇌와 척수가 옮겨져 건강한 몸을 가질 수 있으며, 기억과 의식은 유지된다”고 주장했다. 브레인브릿지의 머리 이식 로봇 개발팀을 이끄는 하셈 알 가일리는 “생명을 위협받는 상황에 맞서 싸우는 사람에게 혁신적인 해결책을 제공하는 것”이라며 8년 내 첫 번째 수술이 가능할 것이라고 주장했지만 전문가들은 신경다발 연결 자체가 어려울뿐더러 수술 이후 부작용 위험성이 높아 성공 가능성은 낮다며 실현 가능성에 의문을 표했다.또한 수술 로봇이 개발된다고 해도 윤리적 문제로 규제당국의 허가를 받기 어려울 것이라고 입을 모았다. 영국 국가보건의료서비스(NHS) 외과 의사 카란 랑가라잔 박사는 “머리 이식 수술에서 모든 신경이 무사히 연결되더라도 수술 후 하나라도 빠지면 환자는 즉사할 수 있다”며 “게다가 이식 거부 반응을 막기 위해 평생 약물 치료를 해야 한다”고 말했다. 킹스칼리지 런던대 신경과학 전문가 아마드 알 클레이파트 박사도 “이 수술은 뇌의 작동 방식을 과도하게 단순화한 것”이라고 지적했다. 한편 20세기 초부터 과학자들은 여러 방식으로 머리 이식술을 시도해 왔다. 1908년 미국 생리학자 찰스 거스리는 개의 머리를 다른 개의 목 밑 부분에 접합하는 데 성공했다. 머리가 두 개가 된 개는 합병증으로 인해 접합수술 7시간 만에 안락사됐다. 이후 1954년 러시아 외과의사 블라디미르 데미코프는 개의 상체를 다른 개의 상체에 이식하는 데 성공했다. 머리가 둘, 다리가 여섯 개였던 실험 개는 수술 후 29일 동안이나 생존하기도 했다. 이후 2013년 이탈리아의 세르지오 카나베로가 인간을 대상으로 수술할 수 있다고 나섰다. 그는 2017년 두 구의 시신으로 머리 이식을 진행했으며 18시간 동안의 수술을 통해 척추, 신경, 혈관을 모두 재연결했다고 주장했다. 이후 척수성근위축증을 앓던 남성이 그의 수술을 받겠다고 나섰지만 막대한 치료비를 지불 할 후원자가 나타나지 않아 실제 수술까지 이어지지 않았다.

서울 강서구는 오는 11일 오전 11시부터 오후 6시까지 발산역 1번 출구 옆 가로공원 일대에서 ‘2024 강서구 사봄마켓’을 개최한다고 3일 밝혔다. ‘사봄마켓’은 사회적경제기업과 친환경 소상공인 등의 판로 확장과 사회적 가치를 공유하기 위해 40여 개 기업과 단체가 참여하는 프리마켓이다. 올해는 ‘함께 나누는 가치 S.H.A.R.E.’라는 슬로건으로 지속가능한 소비(Sustainable), 건강한 소비(Healthy), 대안적 소비(Alternative), 책임 있는 소비(Responsible), 친환경 소비(Eco-friendly)를 알리기 위한 다양한 행사가 진행된다. 이번 사봄마켓은 ▲가치, 만나봄 ▲가치, 사봄 ▲가치, 해봄 ▲가치, 즐겨봄’ 총 4가지 주제로 구성됐다. ‘가치, 만나봄’은 전시를 통해 사회적경제를 설명하고 기업의 환경적, 윤리적 영향까지 고려하는 가치소비의 중요성을 소개한다. ‘가치, 사봄’은 사회적경제기업이 생산한 친환경 제품, 공정무역 초콜릿, 스마트팜 재배기 등과 중증장애인들이 만든 빵, 커피, 문구류 등 사회적 가치가 담긴 제품을 판매하고 알리는 자리다. ‘가치, 해봄’은 사회적경제 및 친환경 관련 체험프로그램으로 아이스팩 방향제 만들기, 플라스틱 병뚜껑 새활용(업사이클링) 키링 만들기 등을 경험해 볼 수 있다. ‘가치, 즐겨봄’은 온 가족이 즐길 수 있는 문화공연 행사다. 오전 10시 30분에 통기타 가수 ‘유주호’의 식전 공연이 펼쳐지고, 오후 3시부터는 ‘상흠재즈트리오’, 인디밴드 ‘턴테이블’이 신나는 공연을 선보인다. 이 밖에도 올해는 어린이 가족 20여 개 팀이 참여하는 어린이 나눔장터 ‘해봄마켓’을 함께 운영해 어린이들이 자원 재활용과 사회적 가치에 대해 알아보는 자리도 마련했다. 진교훈 구청장은 “이번 행사가 사회적경제기업과 친환경 기업들을 더 널리 알리는 계기가 되길 바란다”라며 ”친환경 행사인 만큼 장바구니와 텀블러를 챙기고 가족들과 나들이를 즐기며 가치 소비를 즐겨보길 바란다“라고 말했다.

이스라엘의 드론 공격으로 국제구호단체 월드센트럴키친(WCK) 직원들이 팔레스타인 가자지구에서 숨지자 인공지능(AI) 시스템을 전쟁에 사용하는 것을 두고 또다시 논란이 일고 있다. ‘실수’라는 이스라엘 측의 사과에도 불구하고 직원 7명이 희생된 WCK의 창립자인 스타 셰프 호세 안드레스는 3일(현지시간) 로이터와의 인터뷰에서 이번 폭격이 의도적이라고 비판했다. 안드레스는 “각각 1.5, 1.8㎞ 거리의 인도주의 호송 행렬이었고, 트럭 지붕에는 로고 깃발이 표시돼 있어 우리가 누구이고 무엇을 하는지 매우 분명한 상황이었다”며 이스라엘이 구호 차량의 움직임을 파악하고 있었다고 주장했다. 이스라엘 일간 하레츠도 “구호 차량이 구호 창고에 구호품을 내려놓고 떠난 뒤 이스라엘 드론 1대가 WCK 차량을 향해 차례차례 미사일 3발을 쐈다”고 전했다. 이스라엘군(IDF)은 2021년 가자지구에서 11일간 충돌이 일어난 뒤 매일 100개의 새로운 공격 목표를 식별하는 AI 시스템을 도입했다. 예수의 가르침이란 뜻의 ‘합소라’라고 불리는 이 시스템에 대해 IDF 내부에서도 “대량 살상 공장을 운영하는 것 같다”는 비판이 일기도 했다. 토비 월시 호주 뉴사우스웨일스대학 AI 연구소의 수석 과학자는 “가자지구의 높은 민간인 사망률은 합소라에 결함이 있거나 의심스러운 지침에 따라 운영되고 있음을 시사한다”고 밝혔다. 한 IDF 소식통은 “어떤 일도 우연히 일어나지 않는다”면서 비윤리적인 결정이 존재한다는 것을 에둘러 설명했다. WCK 공격으로 자국민을 잃은 국가 정상들은 이스라엘을 향해 분노를 드러냈다. 영국인 3명이 사망한 데 리시 수낵 영국 총리는 “경악했다”면서 독립적인 진상 조사를 요구했고, 페드로 산체스 스페인 총리는 “베냐민 네타냐후 이스라엘 총리가 ‘전쟁에서 일어날 수 있는 일’이라고 말한 건 받아들일 수 없고 불충분하다”고 격노했다. 폴란드 정부도 검찰 수사를 진행하겠다고 밝혔다. 네타냐후 총리는 자국에서는 사퇴 요구에 직면했다. 최대 정적인 야당 국가통합당의 베니 간츠 대표는 이날 국가 분열을 막기 위해 오는 9월 조기 총선을 실시해야 한다고 촉구했다. 지난 6개월간 가지지구 전쟁으로 하마스 전투원과 민간인을 합쳐 팔레스타인 주민 약 3만 3000명이 사망했고 구호 활동가도 200여명이 목숨을 잃었다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

“예전에는 ‘다시 태어나도 바둑을 배울 거고 프로기사도 꼭 할 것 같다’고 긍정적으로 얘기했었어요. 인공지능(AI) 알파고가 나온 뒤로는 생각이 달라졌습니다. 다시 태어나면 바둑은 그냥 즐기면서 배우되 아마 다른 쪽, AI를 만드는 쪽도 괜찮을 것 같습니다.” 인공지능(AI) 알파고와 2016년 ‘세기의 대국’을 펼친 이세돌 9단이 19일 구글코리아가 창립 20주년을 기념해 공개한 인터뷰 영상에서 근황과 AI가 바둑계에 미친 영향, AI 기술 발전에 관한 생각 등을 밝혔다. 이세돌은 2016년 구글 딥마인드의 바둑 AI 프로그램인 알파고와 대결했다. 이세돌은 1승 4패로 대국을 마무리했다. 2019년 은퇴한 이세돌은 “AI가 은퇴에 많은 부분을 차지했다”면서 “은퇴 이후 생성형 인공지능을 비롯해 보드게임 등 다양한 분야에 관심을 가지고 있다”고 근황을 전했다. 그는 알파고와의 대국에 대해 “바둑에서 ‘승부 호흡’이라고 하는 게 있는데 (알파고는) 그런 게 전혀 없었다. 마치 벽에다가 테니스하는 느낌이 들었다”면서 “그 당시 ‘좀 곤란한데’라고 생각할 정도로 너무 잘 뒀다”고 회고했다. 이세돌은 AI로 인해 바둑을 배우는 과정에도 변화가 생겼다고 했다. 그는 “예전에는 혼자서 고민하고 둘이 만나 하나의 작품을 만들어내는 그런 예술로 (바둑을) 배웠는데 어느 순간 AI를 보면서 (바둑을) 배운다는 게 정답지를 보는 것 같다”면서도 “알파고가 나오기 전의 기보와 지금의 기보는 완전 다르다. AI의 기보가 내용상으로는 훨씬 위”라고 말했다. 이세돌은 공공의 선이 AI 개발의 핵심 원칙과 기준이 돼야 한다고 강조했다. 그는 “우리가 살아갈 세상에서는 AI가 너무 필요하기 때문에 속도를 조절하고 확실한 원칙을 가지고 윤리적인 문제를 해결하는 방향으로 가야 한다”면서도 “AI를 벌써 두려워하는 시각으로 바라봐서는 안 된다고 생각한다”고 말했다.

불과 5년 전인 2019년 2월 22일, 무인 우주 탐사선이 달 주위 궤도에 배치되었다. 베레시트라는 이름으로 이스라엘 민간단체인 스페이스일(SpaceIL)과 이스라엘 항공우주산업(IAI)가 개발한 이 우주선은 연착륙을 수행하는 최초의 민간 우주선이 될 예정이었다. 탐사선의 탑재체 중에는 최악의 혹독한 환경에서도 생존할 수 있는 능력으로 유명한 완보동물이 있었다.​ 우주선의 방향을 파악하여 모터를 적절하게 제어하기 위한 ‘별 추적기’ 카메라가 작동하지 않아 임무는 시작부터 문제에 부딪혔다. 관제 센터가 일부 문제를 해결할 수 있었지만, 착륙 당일인 4월 11일에는 상황이 더욱 악화되었다.​ 달로 가는 도중에 우주선은 빠른 속도로 날아가고 있었기 때문에 연착륙하려면 속도를 상당히 줄여야 했다. 불행하게도 제동 조작 중에 자이로스코프가 고장나서 주 엔진이 막히고 말았다. ​ 150m 고도에서 베레시트는 시속 500km의 속도로 움직이고 있었는데, 이는 연착륙하기에는 너무 빠른 속도였다. 충격은 강력했다. 탐사선은 산산조각이 나고 잔해는 약 100m 거리까지 흩어졌다. 이 장소는 4월 22일 미 항공우주국(NASA)의 달정찰궤도선(LRO)에 의해 촬영되었다.​ 최강의 생존력을 가진 완보동물 그렇다면 탐사선을 타고 달까지 여행하던 완보동물들은 어떻게 되었을까? 완보동물은 이제껏 알려진 생명체 중 최강의 생명체로, 영하 273℃, 영상 151℃에서도 생존할 수 있으며, 생물에게 치명적인 농도의 방사성 물질 1,000배에 달하는 양에 노출되어도 죽지 않는 동물이다.이같은 놀라운 생존력을 고려할 때, 그들이 과연 달에서도 살 수 있을까? 어쩌면 그들이 번식하고 달에 정착할 수 있을는지도 모른다.​ 완보동물은 길이가 1mm 미만인 작은 동물이다. 뉴런, 접을 수 있는 코 끝에 열린 입, 미생물군을 포함하는 창자, 발톱으로 끝나는 관절이 없는 4쌍의 다리를 갖고 있으며, 대부분 눈이 2개 있다. 크기는 작지만 곤충이나 거미류와 같은 절지동물과 공통 조상을 공유한다.​ 대부분의 완보동물은 수생 환경에 살지만, 도시 환경에서도 발견될 수 있다. 활동적으로 클로렐라와 같은 미세조류를 먹고 움직이고 성장한다. 번식하려면 완보동물이 물막으로 둘러싸여 있어야 한다. 그들은 처녀생식을 통해 유성 또는 무성생식으로 번식하거나, 심지어 자웅동체를 통해 자가 수정으로 번식한다. 알이 부화되면 완보동물의 활동적인 수명은 3개월에서 30개월까지 지속된다. 지구상에 총 1,265종의 종이 기술되어 있다.​ 완보동물은 최악의 환경에서도 생존하는 동물로 유명하다. 그들은 체수분의 최대 95%를 잃으면 스스로 신진대사를 중단시키고 동면에 들어간다. 탈수 과정에서 완보동물은 몸을 정상 크기의 절반으로 줄일 수 있으며, 다리는 사라지고 발톱만 남게 된다. 크립토바이오시스(cryptobiosis)라고 알려진 이 상태는 생활조건이 다시 좋아질 때까지 지속되다가 깨어난다. 달에 간 완보동물은 살았을까, 죽었을까? 그렇다면 완보동물이 달에 추락한 후 어떻게 되었을까? 완보동물이 탐사선의 추락 충격으로 죽지는 않았을 게 분명하니까, 그중 달의 표토 몇 미터에서 수십 미터 깊이까지 다양한 먼지층 아래 묻혀서 아직도 생존하고 있을까?​ 달의 표면은 태양 입자와 우주선, 특히 감마선으로부터 보호되지 않지만, 그래도 완보동물은 너끈히 살 수 있다. 실제로 독일 킬 대학 교수인 로베르 비머-슈바인그루버와 그의 팀은 달 표면에 닿는 감마선의 양이 영구적이지만 총 선량은 약 1 Gy로 낮은 수준이다.​ 하지만 달에는 다른 문제도 있다. 완보동물은 물 부족과 더불어 밤에는 -170~-190°C, 낮에는 100~120°C의 온도를 견뎌야 한다. 달의 낮이나 밤은 지구의 15일 미만으로 오래 지속된다. 불행하게도 완보동물은 액체 물, 산소, 미세조류의 부족 문제만은 극복할 수 없다. 결코 재활성화할 수 없고, 번식도 불가능하다. 따라서 그들의 달 식민지화는 불가능하다. ​ 또한 생명체를 외계 천체로 보는 데는 윤리적 문제가 있다고 에딘버러 대학의 생태학자 매튜 실크가 지적했다. 더욱이 우주탐사가 활발해지는 시기에 다른 천체를 지구 물질로 오염시킨다면 외계 생명체를 발견할 기회를 잃게 될 수도 있다.

“인공지능(AI) 시대 우리 청소년들에게 가장 필요한 것은 ‘정확성’ 아닌 ‘인성’입니다.” 최근 ‘2024 강원 동계청소년올림픽대회’가 14일간의 열전을 마무리하고 성황리에 대단원의 막을 내렸다. 지난해 ‘제25회 새만금 세계스카우트잼버리’의 실패와 그에 따른 혹평으로 인해 국제대회 운영 능력에 대한 편견이 생긴 터였다. 어쩌면 이번 청소년올림픽을 바라보는 시선에 약간 다른 요소가 들어가 있었을지도 모르겠다. 다행히도 새만금잼버리대회를 반면교사로 삼아 정부 역량을 총결집해 국제올림픽위원회(IOC)의 찬사는 물론 기대 이상의 흥행도 기록했다. 두 개의 굵직한 국제행사가 더더욱 중요하게 다가왔던 건 지구촌 미래의 세대인 청소년들이 주인공이었기 때문이다. 한편으론 그들에게 상처를 주었고 또 다른 한편에선 영광을 안겨 주며 상반된 기억을 남긴 이 사회는 미래를 위한 준비가 돼 있다고 말할 수 있을까. 긍정적인 답을 찾고 싶은 간절한 마음으로 손연기(66) 한국청소년활동진흥원(KYWA) 이사장을 ‘임의 동행’ 코너를 통해 만났다.손 이사장에 대한 첫인상은 그가 한국정보문화진흥원 원장으로 재임하던 시절부터 지금까지 국내 한 언론사에 자신의 이름을 내걸고 연재하고 있는 고정 칼럼 시리즈를 통해 새겨졌다. AI와 생성형 AI 챗GPT, 메타버스, 4차 산업혁명 등의 최첨단 흐름을 현재의 시대적 상황과 접목하는 것은 물론 최근에는 한국 청소년들의 문화와 비전에까지 범위를 넓혀 기고하고 있는 그의 글들은 여러 정보와 일말의 영감까지 필자에게 선사해 주곤 했다.●청소년활동진흥원의 맞춤 프로그램 서울 서대문구에 위치한 한국청소년활동진흥원에서 만난 손 이사장은 연구에 매진하는 학자 캐릭터, 정갈하고 빈틈없는 완벽주의자의 전형이랄까…. 왠지 익숙한 듯한 모습의 그에게 다소 낯선 청소년활동진흥원에 대한 소개를 먼저 부탁했다. “저희 한국청소년활동진흥원은 우리 청소년들에게 학교 교육 이외에 다양한 공간에서 직접 체험활동을 할 수 있도록 다양한 정보와 기회를 제공하는 국가 공공기관이에요. 청소년들이 안전하게 활동에 참여할 수 있도록 청소년활동 관련한 제반 안전관리 교육, 안전 정보 등을 지원하고 있죠. 청소년들에게 직접 활동 프로그램을 제공하고 안내자 역할을 하는 ‘전문가로서의 청소년 지도자’들을 국가적으로 양성하고 교육하는 역할을 하고 있습니다.” 기다렸다는 듯이 막힘없는 설명이 쏟아진다. 아마도 손 이사장이 만나는 사람들 가운데 열에 아홉은 이런 질문을 했을지도 모르겠다. 진흥원은 전국 6개 국립청소년수련원도 운영하고 있다고 했다. 역사·문화(중앙수련원, 충남 천안), 야외·모험(평창수련원, 강원 평창), 우주과학(우주센터, 전남 고흥), 생명과학(농생명센터, 전북 김제), 해양과학(해양센터, 경북 영덕), 산림·ESD(미래환경센터, 경북 봉화)를 주제로 특화 프로그램도 제공한다. 오는 7월에는 부산 을숙도에 국립청소년생태센터가 개원한다. 청소년이사제나 청소년특별회의 등 청소년들이 참여하고 주도하는 프로그램도 수두룩하다. 사회배려청소년의 성장 지원을 위해 대상 맞춤형 프로그램도 개발했다. 건강한 가족문화 지원을 위한 가족 프로그램, 자유학년제와 연계한 진로 프로그램, 청소년 자원봉사, 대면활동 참여가 어려운 청소년을 위한 비대면 실시간 온라인활동 등 대한민국 청소년의 역량 개발 및 성장 지원을 위한 다양한 프로그램을 진행하고 있다. 청소년포상제라는 독특한 프로그램도 있다. 금·은·동장 단계에 맞춘 활동 기간 동안 자기 계발·봉사·탐험(합숙) 영역에서 내용, 목표, 세부 계획을 스스로 정하고 수행하는 자기주도적 활동이다. 그는 전 세계 140여개국이 운영하는 활동인 국제청소년성취포상제 및 우리나라의 청소년자기도전포상제를 설명하더니 “불확실한 미래를 살아가는 청소년들이 스스로 잠재력을 개발하고 문제를 해결하는 삶의 기술을 갖게 되었으면 좋겠다”며 개인적인 바람도 잊지 않았다.●IT업계 경험 살려 AI시대 청소년 지원 인터뷰에 앞서 살펴본 그의 이력으로 보면 그는 아동·청소년 전문가가 아닌 우리나라 정보기술(IT) 업계 1세대 전문가라고 해도 과언이 아닐 인물이었다. 이러한 평가를 뒷받침이라도 하듯 이전 기사를 검색해 보면 2004년에 이미 ‘앞으로는 PC가 아닌 모바일 플랫폼이 커질 것’이라는 점을 누구보다도 앞서 예측했고 ‘이를 위한 연구를 이미 진행하고 있다’는 내용의 인터뷰 기사를 어렵지 않게 찾아볼 수 있었다. 스마트폰의 시작을 연 아이폰의 최초 출시일이 무려 3년이나 지난 2007년이었던 것을 고려한다면 이미 미래를 내다보는 선견지명과 거시적 안목을 갖춘 이 분야의 전문가라는 사실을 단번에 알 수 있을 것이다. 이뿐만 아니라 손 이사장은 숭실대 사회과학대학 정보사회학과 교수라는 어찌 보면 정년이 보장된 안정된 직함을 벗어던지고 2002년 임기가 상대적으로 짧은 한국정보문화센터의 소장직을 수락해 당시 많은 이들을 놀라게 하기도 했다. 사람들은 정부의 관심이 별로 닿지 않는 기관의 고생스러우면서 남들이 그다지 알아주지 않는 수장직을 선택한 그를 두고 뒤에서 무모하고 미련하다며 수군대는 동시에 비아냥거리기까지 했다고 한다. 그러나 그는 그러한 사회적 편견을 깨부수며 강력 펀치를 날리듯 정부와 국회를 끈질기게 설득해 2003년 1월 1일 한국정보문화진흥원(현 한국지능정보사회진흥원)으로 기관을 격상 및 새롭게 재탄생시키고 예산도 전보다 훨씬 늘리면서 해당 기관의 초대 원장으로 임명된다. 게다가 당시 그는 40대 초반을 갓 벗어난 젊은 나이였다. 필자는 이와 관련한 질문들을 이어 나갔다. 환한 미소를 지으며 손 이사장이 입을 뗐다. “한국정보문화진흥원 원장으로서 재직하는 동안 참 뜻깊은 일이 많았다”며 지나간 시간을 반추하는 듯 그는 속도를 좀더 늦춰 말했다. “돌이켜보면 그때는 정말 신바람나게 지치는 줄도 모르고 출퇴근 시간 제대로 구분 없이 사무실 한편에 간이침대 하나 두고서 열정적으로 일했습니다. 직원들도 그 힘든 시기에 뭉쳐 멋진 팀워크를 이루었지요. 1998년 IMF 외환위기 때 구조조정을 당했던 서러움이 있어서 그랬는지는 몰라도 함께 일하는 데 크나큰 시너지가 나며 일이 매우 즐거웠습니다. 직원들과 함께 밤이고 낮이고 불철주야 열심히 노력한 덕분인지, 우리 진흥원이 기획재정부의 정부공공기관 평가에서 2004년부터 문화·국민생활유형 부문 3년 연속 1등을 차지하는 쾌거를 이룩하게 되었습니다. 너무 고맙고 기쁜 나머지 애쓴 직원분들에게 감사의 마음을 담아 제가 받은 성과급으로 금반지를 하나씩 해 드렸어요.” 사비를 털어 직원들에게 금반지를 선물했다고 말하면서 그는 오늘 인터뷰 중 가장 행복한 표정을 지었다. 놀란 필자는 그런 기관장이 일반적으로 흔한 건 아니지 않으냐고 그에게 물었고 그는 다소 쑥스럽다는 듯 “당연히 저 혼자 잘해서 된 게 아니니까요”라며 겸손하게 답했다. 그는 겸연쩍어하며 필자에게 오히려 질문을 던졌다. “지금까지 제가 살아오면서 받았던 선물 중에 가장 값지고 소중한 선물이 뭔지 아십니까? 바로 한국정보문화진흥원 직원들이 만들어 줬던 공로패입니다. 아직도 우리집 현관에 세워 두고 매일 보며 감사의 마음을 가지고 있을 정도예요.” 필자도 괜스레 마음이 따스해지는 듯했다. 고위직 혹은 기관장이란 직함을 제쳐 두고 인간 손연기가 어떠한 성품을 가진 사람인지 단번에 느낄 수 있는 대목이었다.●인성 교육 통해 미래 인재 키워야 한편 이렇게 IT 업계에서 종사한 이력이 현재 한국청소년활동진흥원 이사장직을 수행해 나가는 데 약간의 도움이 된다거나 또는 연계성 같은 게 있는지 묻지 않을 수 없었다. “2000년대 초반 한국정보문화진흥원에서 일하면서 어린 학생들이 인터넷과 게임 중독에 빠져 가정이 불안정해지는 경우를 많이 봤어요. 예를 들어 부모의 만류에도 아이가 컴퓨터를 끄지 않고 계속 사용하는 데 화가 난 부모가 컴퓨터 모니터 선을 끊어 버리자 아이가 정수기 선을 잘라 버렸어요. 아이 아빠가 정수기 선을 고치다가 감전사고로 사망한 겁니다. 극단적인 사례이지만 분명 일어나는 일이에요. 빠르게 발전하는 디지털 기술로 인한 역기능이 심해질 수 있으니 청소년들의 피해를 최소화하기 위해 가이드라인을 제시해 줘야 한다고 생각했습니다.” 그래서 아이들을 인터넷 중독으로부터 보호하고 올바른 사용 습관에 대해 알려 주기 위해 최초로 인터넷중독예방상담센터를 개설했다. 미국 일간지 ‘워싱턴 포스트’와 아랍권 유력 매체인 ‘알자지라’ 같은 해외 유력 언론사들의 주목도 받았다. “이런 경험들이 현재 AI 시대 수많은 ‘스마트 베이비’들의 탄생 속에 한국청소년활동진흥원 이사장직을 수행해 나가는 데 여러 자양분이 되어 주고 있다고 생각한다”고 덧붙였다. 그야말로 하이브리드 인물, 아동·청소년 전문가여야 이 기관 수장으로서 어울릴 것이라고 생각했던 필자의 선입견이 깨지는 순간이기도 했다. 그러한 전문성과 단단한 열정, 확고한 철학, 따스한 품성이 한국청소년활동진흥원의 역할에 더욱 큰 기대를 품게 한다. 그가 인터뷰 말미에 했던 말이 아직도 귓전에 울리는 듯하다. “AI에는 없는 윤리적 문제, 가치 등을 살펴보면 우리가 어떻게 AI의 기술을 이용하느냐에 따라 우리 인간들에게 피해가 갈 수도 있고, 인간의 삶을 윤택하게 할 수도 있다고 생각합니다. 그래서 지금 같은 AI 시대에 대비해 우리 청소년들에게 인류의 가치, 철학, 윤리관에 대한 교육이 더욱 절실한 시기라고 생각합니다. 다시 말해 AI 시대에 우리 청소년들에게 가장 필요한 것은 ‘정확성’이 아닌 ‘인성’이라고 봅니다.” 팝페라 테너

박정율 의협 부회장, 세계의사회 의장 활동 중 세계의사회(WMA)가 한국 정부의 의학대학 정원 증원 결정이 근거 없이 추진됐으며 전공의에 대한 인권 침해가 일어나고 있다고 비판했다. 정부는 WMA의 입장은 “대한의사협회(의협)의 일방적 견해를 대변한 것”이라며 일축했다. 2일 의료계에 따르면 WMA는 지난 1일 성명을 내고 “정부의 일방적인 의대정원 대폭 증원 결정은 충분한 근거 없이 이뤄졌고 의료계에 큰 혼란을 초래했다”고 밝혔다. 이어 “(전공의) 개인의 사직을 막고 학교 입학 조건을 제한하려는 정부의 시도는 잠재적인 인권 침해로 간주해 국가적으로 위험한 선례를 남겼다”고 덧붙였다. 세계의사회는 한국 의협 등 전세계 114개 의사 단체가 참여한다. 박정율 의협 부회장이 지난해 4월 의장(Chair of Council)으로 당선돼 2년 임기로 활동하고 있다. 루자인 알코드마니 WMA 회장은 “이번 조치를 재고하고 의료계에 대한 강압적인 조치를 중단할 것을 한국 정부에 강력히 촉구한다”며 “정의, 인권, 윤리적 의료의 원칙은 협력적으로 접근해야 한다”고 말했다. 이에 보건복지부는 이날 오후 보도설명자료를 내고 “정부는 의료계 등과 130회 이상 충분히 소통하면서 2035년 장기의료수급전망과 40개 의과대학 수요에 기반해 증원 규모를 산출했다”며 WMA의 주장을 반박했다. 복지부는 의사 집단행동 관련 조처에 대해서도 “의료법 등에 따른 정당한 조치이며 업무개시명령 공시 송달 등 적법한 절차에 따라 진행 중”이라고 밝혔다. WMA는 2012년 채택해 2022년 수정한 ‘의사 집단행동 가이드라인’에서 ‘환자에 대한 윤리적 의무를 준수해 집단행동 기간 대중의 피해를 최소화하는 행동이 필요하다’고 권고한 바 있다고 복지부는 지적했다. 정부는 의대 증원에 집단반발해 사직서를 내고 근무지를 이탈한 전공의들에게 지난달 29일을 복귀시한으로 알리고 면허 정지 등 사법절차를 예고했다. 의협은 이에 맞서 오는 3일 서울 여의도 일대에서 전국의사 총궐기대회를 열겠다고 예고했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

청룡의 기운이 충만한 갑진년이다. 용의 해이니 ‘화룡점정’(畵龍點睛)이라는 고사성어가 생각난다. 옛날 중국에서 장승요라는 유명 화가가 큰 사찰의 요청을 받아 하얀 용 네 마리를 벽에 그렸는데 눈동자를 그리지 않았다. 사람들이 다들 의아해하니 눈동자를 그려 넣으면 용이 살아나서 승천할 것이라 말했다. 이 말에 다들 실소를 터트리자 장승요가 네 마리 중 한 마리의 용에 눈동자를 그려 넣었고 그 즉시 천둥번개가 치며 용이 벽에서 뛰쳐나와 하늘로 날아갔다는 얘기다. 고사성어가 대개 그렇듯 초현실적인 이야기이지만 이를 통해 전하고자 하는 메시지는 여전히 유효하다. 마지막을 확실하게 마무리해야 한다는 뜻도 있고, 아주 핵심적인 일을 수행할 수 있는 존재가 돼야 한다는 의미도 있다. 그러나 인공지능(AI)으로 변혁의 한가운데 서 있는 2024년 화룡점정은 또 다른 의미를 전해 준다. 하이테크 분야의 세계적 리서치 업체 ‘포레스터’는 올해를 ‘생성형 AI와 함께하는 진보와 실험의 해’로 규정하면서 챗GPT로 대표되는 생성형 AI가 인류의 삶을 근본적으로 변화시킬 것이라고 전망했다. 단적인 예가 최근 삼성이 내놓은 ‘AI폰’이다. 이제 외국 사람들과 통화를 할 때 잘 이해되지 않는 외국어를 걱정하지 않아도 된다. 이 AI폰이 통역사 역할을 하기 때문에 각자의 모국어로도 의사소통이 가능하게 됐다. 이뿐만이 아니다. 최근 챗GPT에는 음성 기능까지 탑재돼 스마트폰을 켜 놓고 AI와 자유롭게 영어로 대화를 나눌 수도 있다. 대화가 끝나고 나면 영어 표현에 대한 코칭까지 해 준다. 이처럼 AI는 인간의 삶에 물처럼 ‘스며들’ 것이므로 AI 회의론자들조차 부지불식간에 AI에 익숙해질 것이라는 전망들이 이어진다. 이러한 현상들은 우리가 이 갑진년에 거대한 용의 그림이 그려진 벽 앞에 서 있음을 의미한다. AI 기능이 아무리 뛰어나도 아직까지는 인간이 사용하는 도구에 지나지 않는다. 그러나 우리가 AI에게 눈동자를 그려 넣는 순간 인간의 삶 전반에서 창의적이고 충직한 파트너로 진화시킬 수 있다. 그렇다면 우리 인간이 그려 넣어야 할 눈동자는 무엇일까? AI를 진정한 파트너로 진화시키기 위한 인간의 역할은 무엇일까? 크게 네 가지 측면에서 요구되는 역할이 있다. 가장 먼저 AI를 활용하는 데 명확한 윤리적 기준이 확립돼야 할 것이다. 개인 데이터를 보호하고 오남용을 방지하기 위한 법적·도덕적 기준이 그것이다. 두 번째로는 AI가 인류의 다양성을 학습할 수 있도록 해야 한다. 여러 문화와 가치관을 반영한 데이터를 학습시켜 AI가 인류 전체의 다양성을 인식하고 존중할 수 있도록 해야 하는 것이다. 세 번째로는 AI 활용 방법에 대한 교육을 일반화하는 일이다. 그래야 AI가 특정 집단만이 아니라 모든 사람들에게 삶의 파트너로 자리잡게 할 수 있다. 이러한 교육은 단순히 기술적 지식을 넘어 AI와 협력하며 새로운 가치를 창출하는 방법을 배울 수 있도록 설계돼야 한다. 마지막으로 AI의 진화는 모든 이해관계자들 간의 끊임없는 대화와 협력을 통해 이루어져야 할 것이다. 기술 개발자, 사용자, 정책 결정자들이 AI의 미래를 함께 모색하고 방향을 설정해야 한다. 인간이 AI의 눈동자를 그려 넣는다는 것은 기술 발전을 넘어서는 문제다. AI가 우리 삶의 질을 향상시키고 인류 공동의 문제를 해결할 수 있도록 하는 데 필요한 모든 것을 포괄해야 한다. 화룡점정의 해인 갑진년에 우리는 AI와 함께 새로운 지평을 열어 가고 있다. AI가 단순한 도구를 넘어 미래의 파트너로 거듭나도록 하기 위해 우리 인간들은 AI의 ‘눈동자’를 그려 넣는 작업에 다 함께 지혜를 모아야 할 것이다.