미국을 주축으로 한국과 일본 등 46개국이 동참한 인공지능(AI) 기술의 군사적 이용에 대한 선언이 나왔다. AI의 위험을 줄이기 위한 정부 간 연대의 연장선으로, 최근 영국에서 열린 관련 정상회의 때보다 참가국이 더 늘었다. 미 국무부는 13일(현지시간) ‘AI와 자율성의 책임 있는 군사적 이용에 관한 정치적 선언’을 발표하며 “이 선언에 명시된 조치들은 각국이 AI의 위험성을 완화하면서 AI의 이점을 활용할 수 있도록 국제적 책임의 틀을 구축하는 데 중요한 발걸음”이라고 설명했다. 이어 “AI와 자율성의 책임 있는 군사 용도 개발, 이용을 지도하는 10가지 구체적 조치가 포함됐다”면서 “미국은 이런 중요한 발전을 기반으로 다른 국가들과 협력하는 데 최선을 다하고 있다”고 부연했다. AI 자율성은 인간의 개입에서 독립된 AI의 판단 및 작동 시스템을 의미한다. 각국이 AI 연구에 뛰어들고 AI가 군사 전략 수립과 무인 전투기 사용은 물론 핵무기로까지 개입 영역을 넓히리라는 전망이 확산되면서 윤리적 우려가 높아지자 주요국들이 공동 대처를 강화하는 것으로 평가된다. 선언문에 ‘핵무기와 관련된 결정 실행에 인간의 통제, 개입을 유지한다’, ‘무기 시스템을 비롯해 후과가 큰 모든 군사적 AI 능력의 개발 및 전개 시 고위 정부 관료의 감독을 보장한다’ 등의 내용이 포함된 배경이다. 지난 2월 네덜란드 헤이그에서 ‘AI의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM)가 열렸고 지난 1일에 런던에서는 ‘제1회 AI 안전 정상회의’가 개최돼 선언 내용을 공유했다. 이 자리에서 카멀라 해리스 미 부통령은 ‘선언에 32개국이 승인했다’고 소개했는데 이번에 참가국이 더 늘었다. 그러나 중국과 러시아, 북한은 선언에서 빠졌다. 14일 일본 요미우리신문에 따르면 15일 열리는 미중 정상회담에서 AI 기술을 핵무기 관리에 사용하지 않기로 양국이 합의할 것으로 알려지면서 중국의 동참이 주목된다.

한국과 미국, 일본 등 46개국이 인공지능(AI) 기술의 군사적 이용에 대해 책임감 있게 행동하겠다는 정치적 선언에 동참했다. 북한과 중국, 러시아는 이번 선언에 불참한 것으로 알려졌다. 미 국무부는 13일(현지시간) “미국이 한국, 일본, 영국, 튀르키예, 리비아 등 45개국과 함께 ‘AI와 자율성(인간의 개입에서 독립된 AI의 판단 및 작동 시스템)의 책임있는 군사적 이용에 관한 정치적 선언’ 시행에 동참했다”고 발표했다. 앞서 국무부는 지난 2월 이런 내용의 가이드 라인을 발표한 바 있다. 국무부는 “선언문에는 AI와 자율성의 책임 있는 군사 용도 개발, 이용을 지도하는 10가지 구체적 조치가 포함됐다”고 설명했다. 선언문에는 ‘핵무기 관련된 결정 실행에 인간의 통제, 개입을 유지한다’, ‘무기 시스템을 비롯해 후과가 큰 모든 군사적 AI 능력의 개발 및 전개 시 고위 정부 관료의 감독을 보장한다’ 등의 내용이 포함됐다. 이런 내용은 지난 2월 네덜란드 헤이그에서 열린 ‘AI의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM)에서 먼저 공개됐다. 이어 지난 1일 영국 런던에서 열린 ‘제1회 AI 안전 정상회의’에서 카멀라 해리스 미 부통령은 ‘이 선언에 32개국이 승인했다’고 설명한 바 있는데 참가국이 더 늘어난 것이다. 중국은 2월 회의에 AI 기술 핵심 국가로 초청받았지만, 선언에는 참여하지 않았다. 러시아는 회의에 초대받지 않았다. 미 국무부는 “이 선언과 명시된 조치들은 각국이 AI의 위험성을 완화하면서 AI의 이점을 활용할 수 있도록 국제적 책임의 틀을 구축하는데 중요한 발걸음”이라면서 “미국은 이런 중요한 발전을 기반으로 다른 국가들과 협력하는 데 최선을 다하고 있다”고 설명했다. 각국이 군사 분야 AI 연구에도 뛰어들면서 AI가 전략 수립과 무인 전투기, 드론 등은 물론 핵무기로까지 영역을 넓히리라는 전망 아래 윤리적 우려도 높아지자, 주요국들의 공동 대처가 확장되는 것으로 평가된다. 한편 미국은 오는 15일 미중 정상회담에서 AI 기술을 핵무기 관리에 사용하지 않기로 중국과 합의할 예정이라고 일본 요미우리 신문이 미중 소식통을 인용해 14일 보도했다.

서울디지털재단이 13일 생성형 인공지능(AI) 윤리 가이드라인을 발표했다. 이용자를 중심으로 AI 운영자와 개발자가 지켜야 할 윤리적 준수사항을 담은 것으로, 민간기업에 대한 규제적 접근이 아니라 자율적으로 준수할 규범을 제시한 것이라고 재단은 설명했다. 윤리 가이드라인은 재단이 지난달 말 발표한 서울시민 AI 일상화 3대 프로젝트 가운데 하나로, 디지털 권리장전 제정과 함께 분야별 윤리 가이드라인을 마련한다는 정부 정책 기조에 따른 것이다. 시는 이용자 중심, 위험예방, 지속가능성을 3대 기본원칙으로 선정했다. 이용자의 의도에 따라 능동적인 결과를 생성하는 AI의 특성과 삶의 질, 도시경쟁력이라는 서울시의 핵심가치를 밑바탕에 둔 원칙이다. 윤리 가이드라인은 3대 기본원칙을 바탕으로 이용자의 검증 역량, 책임성, 데이터 권리와 책임, 사용가능성 확보, AI 학습데이터 안전성, AI 윤리 소양, 공공성, 생태적 지속가능성, 보안성 등을 9대 핵심요건으로 제시했다. 강요식 서울디지털재단 이사장은 “생성형 AI가 확산하면서 가짜뉴스, 개인정보 침해 등 위험 우려도 커지고 있다”라며 “시민의 안전을 위해 선제적으로 지방자치단체 최초의 생성형 AI 윤리 가이드라인을 발표했다. 이를 통해 시민들이 안전하고 편리하게 AI를 활용하기를 기대한다”고 말했다.

“챗GPT로 대표되는 인공지능(AI)의 발달은 ‘빠르다’는 말이 부족할 정도다. 그래서 눈부시게 발전하고 있는 AI가 인간의 직업과 삶에 어떤 영향을 미칠지에 관해 관심이 높다. 하지만 AI로 인해 얻을 수 있는 이익만큼이나 AI가 일으킬 윤리적·사회적 문제도 함께 고민해야 한다.” 서울신문이 ‘빅 퀘스천: AI+, 미래, 탐험’이라는 주제로 25일 서울 중구 웨스틴조선호텔에서 개최한 ‘2023 서울미래컨퍼런스’ 첫 번째 연사로 나선 제임스 랜데이(인간중심 AI연구소 부소장) 미국 스탠퍼드대 컴퓨터공학과 교수는 “인간을 위한 AI를 위해서는 알고리즘 설계 단계부터 윤리를 적용하는 것이 필요하다”고 강조했다. 랜데이 교수는 ‘착한 인공지능의 한계: 인간 중심 인공지능을 향하여’라는 제목으로 기조 발표를 하면서 “AI를 인간에게 도움이 되는 선한 방향으로 개발하겠다고 하지만 쉽지 않은 일”이라면서 “AI 알고리즘이 공개된 뒤에 발견된 문제점을 개선하려면 너무 늦다”고 덧붙였다. 개발과 기획 단계에서 발생할 수 있는 부정적 문제를 예방하는 데도 관심을 가져야 한다는 말이다. 이 때문에 AI 개발 모든 단계에서 AI 전문가 이외에 뇌과학자, 사회학자, 인문학자 등 다양한 분야의 연구자가 모여야 한다고 랜데이 교수는 강조했다. 2018년에 이어 5년 만에 서울미래컨퍼런스를 다시 찾은 정재승 카이스트 뇌인지과학과 교수는 두 번째 기조 강연에 나섰다. 정 교수는 강연에 앞서 “서울미래컨퍼런스는 뇌과학과 AI를 연구하는 저로서는 굉장히 애정을 보내는 행사로 이 자리에 다시 서게 돼 기쁘다”고 말해 청중의 호응을 끌어냈다. 정 교수는 “뇌를 연구하는 사람의 입장에서 인간 지성과 AI에는 강력한 차이점이 있다”며 “그동안 창의성을 인간 고유의 것이라고 했지만 실제로 가장 강력한 차이는 호기심”이라고 했다. 이어 “AI는 지식을 활용해 빠르고 효율적이며 예측할 수 있는 수준의 결과를 제공하지만 인간은 스스로 질문을 던지고 그 질문에 답이 무엇일지 탐색하는 행동을 한다”면서 “AI 시대에는 제대로 된 답을 얻기 위해 어떻게 질문을 할 것인가가 점점 중요해진다”고 덧붙였다. 그러면서 “인간 고유의 영역이 위협받고 있지만 여전히 가치판단의 주체로 자리잡고 AI와 협업해 나가는 것이 필요하다”고 주장했다. 이날 산업계와 학계 오피니언 리더들을 포함한 500여명의 청중들은 AI가 가져오는 미래에 대해 세계적 석학들이 제시하는 해법과 전망에 귀를 기울였다. 한덕수 국무총리는 축사를 통해 “지난해 생성형 AI 챗GPT 등장 이후 AI는 더욱 빠르게 발전해 디지털 전환을 가속하면서 경제와 사회 전반을 바꿔 가고 있다”며 “세계는 AI 기술 패권을 두고 치열한 경쟁을 벌이고 있으며 AI 경쟁력이 국가경쟁력이 되는 지금 ‘질문하는 인간, 답하는 AI’라는 이번 서울미래컨퍼런스의 주제는 매우 시의적절하다”고 말했다. 오세훈 서울시장도 축사에서 “챗GPT는 기술 영역에 머물러 있던 AI를 우리 삶 속으로 깊숙이 끌어들여 ‘AI 대중화’라고 하는 새로운 모멘텀을 제시했다”며 “이번 컨퍼런스에서 각계 전문가들이 제시하는 전략과 대안들을 꼼꼼하게 청취하고 행정에 적용할 수 있도록 하겠다”고 밝혔다.

[포토多이슈] 사진으로 다양한 이슈를 짚어보는 서울신문 멀티미디어부 연재25일 서울 중구 웨스틴 조선 서울 그랜드볼룸에서 ‘빅 퀘스천: AI+, 미래, 탐험’이라는 주제로 2023 서울미래컨퍼런스가 열렸다. 이날 개회식엔 김상열 서울신문 회장, 한덕수 국무총리, 오세훈 서울시장, 곽태헌 서울신문 사장을 비롯한 내빈들이 참석했다. 한 국무총리는 축사를 통해 “세계는 인공지능 기술 패권을 두고 치열한 경쟁을 벌이고 있으며 AI 경쟁력이 국가경쟁력이 되는 지금 ‘질문하는 인간, 답하는 AI’라는 이번 서울미래컨퍼런스 주제는 매우 시의적절하다”고 밝혔다. 가장 먼저 제임스 랜데이 스탠퍼드대 컴퓨터 공학과 교수와 정재승 카이스트 뇌인지과학과 교수가 ‘질문하는 인간과 제시하는 AI+: 더 나은 미래로 탐험’이라는 내용으로 기조 강연과 대담을 진행했다. 렌데이 교수는 “챗GPT로 대표되는 인공지능(AI)의 발달은 ‘빠르다’는 말이 부족할 정도다”며 “하지만 인공지능으로 인해 얻을 수 있는 이익만큼이나 인공지능이 일으킬 윤리적, 사회적 문제도 함께 고민해야 한다”고 말했다. 이후 오전 세션에서 지미 옌추 린 인실리코 메디슨 타이완(AI 신약 개발 기업) CEO, 유동근 루닛(AI 진단 솔류션 기업) 최고인공지능책임자, 김재진 연세대 강남세브란스병원 정신건강의학과 교수가 ‘AI+ 의료 : 생명 연장 꿈의 시작’이라는 내용으로 주제 발표와 토론을 벌였다. 오후 세션에서는 아이샤 칸나 싱가포르 Addo(AI 솔루션 기업) CEO, 심현철 카이스트 전기및전자공학부 교수, 손웅희 한국로봇산업진흥원 원장이 ‘AI+ 로봇 : 새로운 협업의 탄’이라는 내용을 전했다. ‘인간과 AI+ 마음과 실존의 경계’라는 주제로 진행된 서울 인사이트는 김재인 경희대 비교문화연구소 교수와 권준수 서울대 정신과 뇌인지과학과 교수가, ‘AI+ 창작 vs. 인간의 창의’를 주제로 한 SFC 토크에는 안창욱 광주과학기술원 AI대학원 교수, 홍지영 영화감독, 배명훈 SF작가, 사회자 한혜원 이화여대 융합콘텐츠학과 교수가 배석해 의견을 나눴다. 이번 컨퍼런스에는 산업계와 학계 오피니언 리더들을 포함한 500여명의 청중이 한자리에 모여 AI가 가져오는 미래에 대해 세계적 석학들이 제시하는 해법과 전망에 귀를 기울였다.

이탈리아 커피 브랜드 일리카페가 정기구독 서비스 ‘에브리 데일리, 홈앤오피스(EVERY DAILLY, Home & Office)’로 리론칭한다고 밝혔다. 18일 일리카페 공식 홈페이지를 통해 선보인 정기구독 서비스는 홈카페는 물론 소규모의 사무실상권을 위해 재탄생 됐다. ‘커피&머신 정기구독’과 ‘커피 정기구독’ 등 총 2종의 서비스를 만나볼 수 있다. 브랜드 리뉴얼 외에도 실질적인 UX·UI도 2.0버전으로 개선되어, 좀 더 쾌적한 환경에서 손쉽게 이용을 할 수 있다고 전했다.할인율은 기존의 20%에서 30%로 더 높아졌으며, 무료배송 혜택이 적용되고 4종의 일리 로고 컵 중 택1이 가능한 ‘웰컴 기프트’를 제공한다. 정기구독 서비스 리론칭을 기념한 이벤트도 있다. 18일부터 오는 11월 30일까지 웰컴 기프트를 포함한 추가 사은품을 제공하고 일부 선착순 고객들에게 부드러운 우유거품을 만들어주는 ‘밀크프로더(10명)’와 환경을 생각한 ‘캡슐오프너(100명)’ 등을 증정한다. 이탈리아 illycaffe S.p.A의 한국 일리카페 독점 파트너 (주)큐로홀딩스 윤상진 상무는 “이번 구독 서비스의 업그레이드를 통해 고객들께 다양한 혜택과 정품 서비스를 제안하고, 홈카페는 물론 소규모의 오피스 상권의 고객 접점을 강화하는 계기로 삼을 것”이라며, “구독 상품 경쟁력과 서비스 품질을 지속적으로 업그레이드해 나갈 것”이라고 전했다. 일리카페는 ‘프란체스코 일리(Francesco Illy)’가 1933년 이탈리아 트리에스테(Trieste)에서 설립한 3대 글로벌 커피 브랜드로 현재 전 세계 140여 개 나라의 카페, 레스토랑, 호텔, 사무실 및 가정에서 매일 800만 잔 이상 소비되고 있다. 지난 2021년에는 환경적인 운영 기업에게 주어지는 세계 최고 권위의 ‘비콥(B-Corp)’을 이태리 브랜드 최초로 인증받았을 뿐만 아니라, 에티스피어에서 발표하는 ‘세계에서 가장 윤리적인 기업’을 11년 연속 수상한 바 있다.

‘인공지능(AI)-로봇 협업의 등장’을 주제로 발표할 아이샤 칸나는 싱가포르의 AI 솔루션 회사 아도(Addo)의 공동 창립자이자 최고경영자(CEO)다. 2020년 포브스가 선정한 ‘동남아시아의 혁신적인 여성 기업가’ 명단에 이름을 올렸다. 세계경제포럼(WEF) 글로벌 미래위원회 회원으로서 AI를 비롯한 첨단 기술과 거버넌스에 대해 의견을 내고 있다. 글로벌 스마트 빌딩 기업 존슨컨트롤스의 이사회에 참여하고 있으며, 영국 케임브리지에 본사를 둔 다국적 정보통신(IT) 컨설팅 기업 아비바(AVEVA)의 이사회에도 참여한 이력이 있다. 이번 컨퍼런스에서는 제조업 분야와 일상생활에서 AI와 로봇이 협력하는 다양한 방식에 대해 들려줄 예정이다. 또 자율시스템 및 스마트시티, AI 비서와 같은 기술 발전이 가져올 새로운 윤리적, 사회적 문제들을 예측해 인간과 로봇의 건강한 동반자 관계를 구축할 방법을 모색한다.

27·28일 이틀간 온·오프라인 동시 진행 한국상담심리학회(학회장 양난미 경상국립대 교수·이하 학회)는 제18회 학술대회를 개최한다고 11일 밝혔다. 이번 학술대회는 ‘Reconnect: 함께 번영하는 상담심리학’을 주제로 오는 27·28일 이틀간 온·오프라인 동시 진행된다. 팬데믹을 지나며 최근 사회적으로 이슈가 되고 있는 사회 공동체 측면에 대한 조명이 필요하다는 판단 하에 공동체를 주제로 상담심리학자들의 역할과 전문성에 조명할 수 있는 학술대회를 개최한다. 학술대회준비위원장 임지숙 부학회장은 “최근 사회적으로도 큰 이슈가 되고 있는 고립과 외로움의 문제는 우리사회의 공동체성의 붕괴와도 관련이 높다고 본다”고 말했다. 이어 “인간에게는 어딘가에 함께 소속되고자 하는 자연스러운 욕구가 있다”며 “하지만 과거 집단주의 문화의 폐해, 즉 개인의 고유성을 침해하는 획일주의나 가깝다는 이유로 지나치게 사생활에 관여하는 등 ‘함께’하는 것이 불편하고 부정적이라는 잘못된 편견이 우리 사회에 보편적인 사고가 된 측면이 있다”고 강조했다. 또 “이번 학술대회를 통해 다양한 개인과 집단이 함께 어우러지며 번영할 수 있는 ‘함께’의 가치를 돌아볼 수 있는 기회가 되기를 바란다”고 학술대회의 의의를 밝혔다.첫째 날 오전에는 개인과 공동체의 공번영에 대해 기조 강연이 열린다. 심예린 충남대 교수의 사회로 진행되는 기조 강연에서는 아이작 프릴렐텐스키(Isaac Prilleltensky·마이애미대학교)가 첫 강연자로 나서 ‘안녕, 공정성, 그리고 가치감: 개인, 조직 및 집단의 번영을 위한 심리사회적 기반(Wellness, Fairness, and Worthiness: Psychosocial Foundations for Personal, Organizational,and Collective Thriving)’을 주제로 공정성의 조건이 곧 가치감의 경험으로 이어져 곧 이것이 결국 개인, 조직 및 집단 수준의 안녕으로 이어진다는 번영에 관한 모델에 대해 심도 있게 다룬다. 이어 최훈석 성균관대 교수는 개인주의-집단주의와 정신건강을 주제로 집단주의 가치와 독립적 자기의 상승효과 모형을 한국의 조직 구성원의 정신건강에 적용한 일련의 실증 연구 결과에 대해 얘기한다. 오후 순서에서는 학회 홍보위원회와 학회 상담심리사지원위원회의 주관으로 학회원간 소통의 시간을 갖는다. 홍보위원회는 상담심리사의 퍼스널 브랜딩에 대한 프로그램을 기획했다. 강연 시간에는 도서(선안남 작가), SNS(나다운쌤 윤서원 상담심리사), 유튜브(박지혜 유튜버 잇다, 김진형 유튜버 형아쌤) 등 다양한 분야에서 이루어지고 있는 상담심리사의 퍼스널 브랜딩에 대한 강의 후 토론을 진행하며 윤리적이고 전문적으로 이를 활용하는 방법을 찾는다. 상담심리사지원위원회는 선배와의 만남의 장을 기획했다. 실시간 현장에서 ‘마음도 지켜드립니다 경찰’을 주제로 경찰청에서 일하는 상담사들과 ‘나는 기업으로 출근한다’를 주제로 기업에서 일하는 상담사들이 교류하는 시간을 마련했다. 둘째 날에는 학술대회의 주제와 관련된 ‘사회적 연결과 공동체성의 회복’, 사회적 관심을 주제로 한 ‘나, 너, 우리의 관계’에 대한 강연이 열리고, 우리의 전문성을 높여줄 수 있는 수퍼비전, 학교상담, 재활상담, 비대면 상담, 뇌과학, 기업상담, 심리검사, 사례개념화을 주제로 한 강연과 창업특강까지 풍성한 프로그램으로 준비돼 있다. 한국상담심리학회 양난미 학회장은 “4치 산업혁명과 포스트 코로나 시대에 상담심리사가 건강한 공동체 복원에 대한 실무적 고민을 함께 나누는 자리가 되길 기대하고 이를 통해 국민의 심리적 안녕에 기여하기를 희망한다”고 말했다. 이번 학술대회 사전등록 신청은 11일부터 18일까지 선착순으로 이루어지며, 자세한 내용은 한국상담심리학회 홈페이지 공지사항을 통해 확인할 수 있다.

인공지능(AI)을 탑재한 전투용 드론(무인기)이 인명살상에 나서는 암울한 미래를 다룬 영화같은 일이 현실이 될까? 지난 27일(현지시간) 미국 뉴욕타임스 등 외신은 미 공군이 차세대 제공권 장악 계획의 일환으로 AI(인공지능) 기반 무인 드론 1000대 이상을 제작하는데 필요한 예산 58억 달러(약 7조 6600억원)를 의회에 요청했다고 보도했다. 아직 미 의회가 승인하지 않은 이 예산은 향후 5년 간 발키리(Valkyrie)와 같은 협력 전투기 시스템을 구축하는데 사용되는 비용이다. 논란의 중심이 된 발키리(XQ-58A Valkyrie)는 미 방산업체 크라토스 디펜스가 전투임무 중 F-22나 F-35를 호위하는 윙맨(wingman) 항공기로 개발 중인 스텔스 드론이다.발키리를 개발하려는 이유를 이해하기 위해서는 먼저 미 공군이 추진하고 있는 소위 ‘로열 윙맨’(Loyal Wingman)을 알아야 한다. 일반적으로 조종사들은 편대를 이루어 전투에 임하는데 그 중심인 편대장을 호위하는 윙맨의 역할은 절대적이다. 때문에 윙맨은 뛰어난 실력과 충성심을 가져야하는데 발키리와 같은 무인기의 경우 편대장이 내린 어떠한 위험한 명령이라도 기계적으로 수행할 수 있다. 이에 미 공군은 전술적으로 경제적으로도 장점이 큰 ‘충성스러운 윙맨’을 개발하기 위해 노력해왔다. 특히 발키리는 가시거리 바깥(BVR) 목표물을 타격할 수 있는 장거리 미사일을 탑재하고 음속에 달하는 속도로 4000㎞를 비행할 수 있다. 여기에 대당 가격이 최고 2500만 달러(약 330억 원)로 추산돼 유인 전투기에 비해 인적 비용 뿐 아니라 기체 가격도 월등히 싸다.그러나 이같은 장점에도 문제는 AI 탑재 드론이 인명 살상용으로 활용될 수 있고 예상치 못한 오류를 일으킬 가능성도 있다는 점이다. 곧 향후 개발될 이같은 무인 전쟁 로봇이 영화 '터미네이터'가 보여준 디스토피아적 미래의 길을 열어줄 수 있다는 우려다. 다만 현재는 AI가 자체적으로 주변 위협요소를 식별·평가하고, 실제 공격은 인간이 승인했을 때만 이루어진다. 이에대해 국제인권단체 휴먼라이츠워치(HRW) 마리 웨어럼 국장은 "살인을 기계에 아웃소싱해 인간이 아닌 컴퓨터가 인간의 생명을 빼앗도록 허용할 수 있다"면서 "이는 윤리적 선을 넘어선 것"이라고 비판했다. 또한 앞서 '생명의 미래연구소'와 같은 AI 무기 반대 단체들도 이를 '살상로봇'(Slaughterbots)이라고 규정짓고 알고리즘을 통해 전투속도가 빨라지면서 예측 불가능한 위협과 위험이 증가할 것이라고 우려하기도 했다. 

오는 2학기부터 서울 학생들은 챗GPT로 대표되는 생성형 인공지능(AI) 프로그램을 수업에서 본격적으로 활용할 수 있게 된다. 19일 서울시교육청은 초·중·고 챗GPT 활용 가이드를 담은 ‘학교급별 생성형 AI 활용 지침’을 다음 주 중 모든 학교에 배포한다고 밝혔다. 그동안 학교에서 챗GPT 활용에 관한 규정이 없어 현장에서 혼선을 겪었지만 지침이 나오면 수업에서 이를 더 체계적으로 활용할 수 있을 것으로 보인다. 지침에 따르면 초등학생은 교사의 시연으로 챗GPT를 간접 체험할 수 있다. 또 교사의 추가 작업으로 안정성을 확보하는 경우에는 학생들도 사용할 수 있다. 중학생은 부모나 보호자의 허락을 받았다면 교사의 지도로 챗GPT를 수업 시간에도 쓸 수 있다. 고등학생은 보호자가 동의한다면 학생이 챗GPT를 사용할 수 있도록 했다. 또 학교 프로젝트에서 필요하다고 판단하면 학생이 직접 챗GPT를 보조 교사로 활용할 수 있다. 챗GPT 등 생성형 AI 프로그램을 수업이나 방과 후 수업 등에 활용할 경우 가정통신문을 통해 사전에 학부모 동의를 받아야 한다. 챗GPT는 주로 데이터 추출, 국어 작문, AI 융합 수업 등에서 주로 활용될 전망이다. 예를 들어 데이터 분석에 주로 사용되는 프로그래밍 언어인 파이선(Python)에서는 코딩 오류를 잡는 세밀한 명령어들을 챗GPT로 배울 수 있고, 코딩 언어를 모르는 학생에게는 챗GPT가 직접 의미를 설명해줄 수도 있다. 국어 시간에는 학생이 보고서를 만들 때 목차 초안의 예시를 제공받거나 부족한 아이디어를 추가로 받을 때도 쓸 수 있다. 예를 들면 “영화배우 느낌이 나는 한국 사람 이름 100개를 엑셀 파일로 전달해줘” 같은 구체적인 지시를 통한 활용도 가능해진다. 교사들도 학생처럼 챗GPT를 수업교재 연구에 쓸 수 있다. 단 초·중·고 교사는 챗GPT를 활용할 때 학생에게 생성형 AI의 원리와 한계점을 담은 이해 자료, AI의 윤리적 사용 방법 등을 필수로 안내해야 한다. 서울시교육청은 “그동안 발간된 챗GPT 교육 자료는 주로 활용에 초점이 맞춰져 있었지만 이번 자료집에는 현장 의견을 수렴해 챗GPT의 교육적 활용 지침과 언어모델 이해자료를 제시했다”면서 “수행평가는 선생님이 직접 관찰하고 확인하는 범위를 벗어난 상황에서 평가 대상으로 삼기 어려워 현재로서는 챗GPT를 수행평가나 정기고사에서 활용하는 방안은 고려하고 있지 않다”고 말했다.

의사 과학자 양성이 꼭 필요할까? 10년 뒤 기후 위기 되돌릴 수 없는 티핑포인트가 온다는데 어떻게 해야 할까? 챗GPT를 시작으로 인간을 뛰어넘는 인공지능이 나오지 않을까. 많은 사람이 궁금해하는 과학적 이슈와 현안에 대해 과학 언론인과 전문가들이 머리를 맞대는 자리가 열린다. 한국과학기자협회(회장 유용하·서울신문 과학기자)는 11일 오후 1시부터 서울 강남구 한국과학기술회관 국제회의실에서 ‘2023 과학기자대회’를 연다. 과학기자대회는 2018년에 시작해 올해로 6회를 맞는 행사다. 과학·의학계와 언론계, 일반 국민을 대상으로 주제를 공모하고 선정해 과학적 해결 방안과 정책적 대안을 논의하는 자리로 올해도 총 244개의 아이디어가 접수됐다. 이 중 79건이 접수된 챗GPT, 53건이 접수된 기후 위기, 그리고 의료 인력 수급 불균형과 의대 증원 문제와 맞물려 의학계의 뜨거운 감자가 된 의사 과학자 양성을 주제로 한 3개 세션이 진행된다. ‘의사 과학자, 왜 얼마나 필요한가?’라는 주제로 열리는 세션1에서는 전문의 출신의 조동찬 SBS 의학 전문기자가 사회를 맡고, 신찬수 한국의과대학·의학전문대학원협회 이사장, 의대 출신의 의사 과학자 김한상 연세대 의대 종양내과 교수, 이공계 출신의 의사 과학자 이근화 한양대 미생물학교실 교수, 의사 출신으로 보건복지부, 세계보건기구(WHO) 등에서 공중보건정책을 담당해 온 정통령 질병관리청 위기대응총괄과장과 정구희 SBS 기자가 의사 과학자를 어떻게 육성해야 하는지 열띤 토론을 벌인다. 두 번째 세션에서는 기상재난 및 과학 전문기자인 김진두 YTN 부국장과 이정호 경향신문 과학 담당 기자가 ‘기후 위기 골든타임 10년, 과학적 해법은’을 화두로 기후 기상환경 전문가들과 토론을 진행한다. 태풍 전문가인 강남영 경북대 기후과학연구실 교수가 기후 구조 자체의 변화로 인한 글로벌 기상재난의 심각성에 관해 설명한다. 오채운 국가녹색기술연구소 책임연구원은 올해 3월 승인된 ‘IPCC 제6차 평가보고서’를 바탕으로 ‘감축 측면에서 한국의 정책적 대응 방향성’로 주제 발표한다. 이어 김병식 강원대 방재전문대학원 교수가 극한 기상에 대한 자연 회복력의 한계와 체계적인 재난관리의 필요성을, 나성준 국립산림과학원 임업 연구사가 ‘꿀벌은 왜 감소하는가?’라는 질문에서 시작해 자연 생태계의 건강성을 유지하기 위한 대책 방안 등을 제언할 예정이다. 지난해 말부터 이슈가 되고 있는 ‘챗GPT’를 주제로 한 세션 3에서는 민옥기 한국전자통신연구원(ETRI) 초지능창의연구소장이 생성형 AI의 등장과 초거대 AI의 한계, 인공지능 기술의 발전 미래에 관해 설명한다. 과학철학자인 천현득 서울대 과학학과 교수·AI연구원 인공지능 ELSI센터장이 인공지능 기술의 발전에 따른 윤리적이고 책임감 있는 활용 방안을 이야기한다. 김민수 동아사이언스 부장이 좌장을 맡아 인공지능을 활용해 초대형 데이터를 분석해 사회문제 해결에 적용하는 연구를 진행하는 기초과학연구원(IBS) 데이터사이언스그룹의 차미영 연구책임자(CI)·카이스트 전산학부 교수와 유현재 서강대 커뮤니케이션학부 교수, 김승준 뉴스1 기자가 챗GPT를 포함해 최근 인공지능과 관련해 불거진 다양한 이슈에 대해 논의한다. 한국과학창의재단, 한국언론진흥재단이 후원하는 이번 대회는 오후 1시부터 과학기자협회 유튜브 채널(https://www.youtube.com/watch?v=hLJKJourCgs)을 통해 생중계된다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술을 안전하게 이용하려면 비공개 정보나 개인정보 등 민감한 내용을 입력해는 안된다고 권고했다. 국정원은 29일 이같은 내용을 담은 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했다. 국정원은 필수 보안 수칙으로 ▲비공개·개인정보 등 민감 정보 입력 금지 ▲생성물에 대한 정확성·윤리성·적합성 등 재검증 ▲생성물 활용시 지적 재산권·저작권 등 법률 침해·위반여부 확인 ▲연계·확장프로그램 사용시 보안 취약여부 등 안전성 확인 ▲로그인 계정에 대한 보안설정 강화 등을 제시했다.앞서 국정원은 생성형 AI를 활용하는 과정에서 업무상 비밀과 개인정보가 유출되거나 가짜뉴스, 비윤리적 자료가 생성되는 등 기술 악용 우려가 제기되자 지난 4월 국가보안기술연구소와 함께 가이드라인 제정에 착수했다. 국정원은 가이드라인을 국내 420여개 국·공·사립대학 등에 배포하고 국가사이버안보센터 홈페이지에도 게재할 계획이다. 국정원 관계자는 “챗GPT 등이 각광을 받으면서 여러 공공기관이 해당 기술을 활용하려고 했지만 정부 차원의 보안 대책이 없어 기술도입이 어려운 상황”이라며 “보안 가이드라인으로 각급기관이 생성형 AI기술을 적극 활용할 수 있는 토대가 형성되길 기대한다”고 했다.

‘전관예우’, ‘유전무죄, 무전유죄’는 사법 시스템에 대한 국민의 낮은 신뢰도를 보여 주는 대표적 언어다. 경제협력개발기구(OECD) 보고서에 따르면 2020년 기준 회원국의 사법체계와 시스템에 대한 국민 신뢰도는 57%였으나 한국인들의 경우 3분의1 수준인 22%에 그쳤다. 이런 가운데 판사들은 과중한 업무에 허덕이며 신속한 재판이라는 국민 요구에 부응하지 못하는 불신의 악순환이 반복되고 있다. 대법원이 밝힌 2019년 기준 주요국 법관의 업무량 비교 자료에 따르면 우리나라 법관 1인당 사건 수는 독일의 5배, 프랑스의 2배, 일본의 3배였다. 이는 법관의 과로사와 새로운 법리 연구 시간 부족, 신속한 재판 저해로 이어지고 있다. 그제 대법원 양형연구회가 이 문제를 인공지능(AI)을 활용해 개선할 수 있는지를 논의하는 ‘AI와 양형’이라는 심포지엄을 열어 주목됐다. 판사에게만 부여된 재판집행권을 어기고 인공지능이 재판을 대신하기는 현재로는 불가능하다. 하지만 인공지능이 사실관계 확정, 하급심 사례 조사, 양형 자료 수집 및 분석, 판결문 초안 작성 등 재판 도우미 역할은 할 수 있을 것이라는 의견이 오갔다고 한다. 대법원 양형위원회는 논의된 내용을 토대로 양형 통계 수집과 관리 방식을 개선하고 국민의 법 감정과 법 인식도 보다 정확하게 수렴할 예정이다. 관건은 인공지능 사법 시스템 구축의 초기 단계부터 인공지능 기술 활용 관련 법적·윤리적 가이드라인을 제대로 만드는 것이다. 미국은 형사재판에 ‘컴파스’라는 인공지능 알고리즘을 활용 중이다. 폭력범죄자의 재범 가능성을 분석하고 판사가 이를 형량 결정의 참고 자료로 활용하는데, 백인에 비해 흑인에게 높은 양형 의견을 제시하는 편향성 시비가 있다고 한다. 얼마 전에는 미국의 변호사 2명이 챗GPT가 작성한 엉터리 판례 등을 재판부에 냈다가 각각 5000달러(약 650만원)의 벌금을 물었다는 소식도 있었다. 사실 검증을 하지 않은 변호사의 잘못으로 이런 일들이 일어났다고 인공지능 활용을 아예 거부할 건 아니라고 본다. 인공지능의 제작 및 운영 단계에서 학습시킬 데이터 오류를 제거하고 법관의 참고 자료로 활용한다면 신속한 재판과 공정한 재판에도 도움이 될 것이다.

‘노화 저지 캠페인’ 벌인 두 공학자“죽음은 선택” 불멸의 시대 예고의료AI 등 과학적 성과로 짚어내“7년 젊어질 땐 경제효과 7조억弗질병 분류 땐 인구문제도 달라져”장밋빛 ‘장수 혁명’ 현실성은 의문 최근 생명공학계에서 ‘수명 탈출 속도’라는 개념이 떠오르고 있다. 이는 인간의 기대수명이 수명이 경과하는 시간보다 더 빠르게 연장되는 상태를 의미한다. 지난 수천년간 거의 늘지 않았던 기대수명은 19세기 이후 늘어나기 시작해 선진국의 기대수명은 매년 3개월씩 증가하고 있고, 오는 2029년까지 수명 탈출 속도에 도달할 것이라는 전망도 나온다. 미국 생물의학자 오브리 드 그레이는 ‘인류가 사고나 타살에 의해서만 사망하게 되는 미래의 순간’을 ‘므두셀라리티’(거의 1000년을 산 것으로 기술된 성경 속 인물 ‘므두셀라’의 이름을 딴)라는 용어로 대중화했다.국제적인 ‘노화 저지 캠페인’을 벌이는 두 공학자가 펴낸 ‘죽음의 죽음’(DEATH OF DEATH)은 도발적이다. 저자들은 “지금 우리는 마지막 필멸(必滅)의 세대와 인류의 첫 번째 불멸의 세대 사이에 살고 있으며, 이르면 2045년 ‘죽음’이 선택사항이 된다”고 주장한다. 허무맹랑한 얘기 같지만 두 학자는 최신 과학기술을 통해 촘촘하게 노화와 죽음을 늦추고 멈추는 문제를 탐구한다. 1951년 10월 4일 미국 존스홉킨스 병원에서 자궁경부암으로 사망한 헨리에타 랙스는 2023년 현재도 ‘불멸의 삶’을 이어간다. 정확히 말하면 살아 있는 건 그녀의 몸에서 채취한 암세포다. 체외 배양된 보통의 암세포는 수일 만에 죽지만 ‘헬라 세포’로 명명된 랙스의 암세포는 70년이 지나도 배양된다. 소아마비 백신 개발에 결정적 공을 세운 헬라 세포는 전 세계 실험실에서 파킨슨병과 각종 암 치료제 연구에 사용된다. 인간 유전자 지도(게놈 염기서열 해독) 완성, 줄기세포와 유전자 치료법 개발, 수명 연장과 관련된 염색체 물질인 ‘텔로미어’와 복원 효소 ‘텔로머레이스’ 발견, 의료형 인공지능(AI)의 출현 등 기하급수적인 발전으로 생명 연장 기술은 더이상 ‘유사 과학’으로만 치부되지 않는다. 나아가 저자들은 전 세계적으로 치료법을 찾는 데 엄청난 자금을 투입 중인 심혈관 질환이나 암과 같이, ‘노화’를 질병으로 분류하자고 한다. 노화가 질병으로 인식되면 급속히 진행되고 있는 고령화와 인구 감소 사회의 양상도 바뀔 수 있다. 책은 노화 관련 질환의 발병을 7년 정도 지연시킬 경우 각종 의료비와 건강보험 지출 급감, 노동력 보존에 따른 생산성 제고 등으로 인한 경제적 효과가 오는 2060년까지 7조 1000억 달러에 달할 것으로 추산한다. 이른바 ‘장수 배당금’이라는 새로운 부의 창출도 가능해진다고 주장한다. 저자들은 ‘근’(近) 미래에 닥칠 인류의 ‘장수 혁명’의 실현 가능성을 놀라운 과학적 성과로 짚어내고 있지만 다소 ‘장밋빛 전망’에 치우쳐 있다는 인상을 받는다. 현재 가장 촉망받고 있는 노화 치료제 혹은 방지제조차도 여전히 인간 임상시험이 난망한 현실에 비춰보면 말이다. 무엇보다 지금의 사회 체제에서 ‘무병장수’의 패러다임 전환이 일으킬 수 있는 혼란과 다양한 사회 문제의 발생은 결과적으로 ‘미지의 영역’이다. 65세 이상 노인 빈곤율이 43.4%(2018년 기준)인 우리나라 현실에 비춰봐도 ‘가난한 100세 시대’는 축복 아닌 재앙이 된다는 불안과 공포가 팽배해 있다. 그럼에도 죽음에 죽음을 선고하고 나선 과학기술의 혁신과 이에 따른 윤리적, 경제적 논거를 세밀하게 제시하는 건 이 책의 강점이다.

인공지능(AI)가 머지않은 미래에 인간 존립에 위협이 될 수 있다는 전문가들의 경고가 잇따르는 가운데 유엔이 AI 규제를 위한 전문기구 수립 가능성을 시사했다. AI가 인간을 명령을 듣기보다는 스스로 판단해 인간을 공격하는 등 통제 불능 상태에 빠질 위험을 조기에 차단하겠다는 방침이다. 12일(현지시간) AP 통신 등 외신에 따르면 안토니우 구테흐스 유엔 사무총장은 이날 기자들과 만난 자리에서 과학자 고문을 임명해 빠르면 올 9월 중에는 AI 자문위원회를 만들어 관련 규제 방침을 구체화하겠다고 밝혔다. 이번 조치는 지난 2021년 193개 유네스코 회원국이 만장일치로 141개 항목으로 이뤄진 ‘인공지능(AI) 윤리 권고’를 채택, AI 윤리에 대한 최초의 세계적 표준 지침을 마련한 것보다 한 단계 더 나아간 국제적인 차원의 대처다. 이번 움직임에 대해 구테흐스 총장은 “오늘날의 국제원자력기구(IAEA)와 같은 AI 기구를 우리가 보유할 수 있다는 생각에 동의한다”면서 “정립된 과학적 사실을 저해하는 허위 정보를 대규모로 퍼뜨리는 능력 때문에 인류가 존망의 위협을 받는다”고 입장을 밝혔다. 구테흐스 총장의 이번 조치는 최근 정보기술(IT) 업계에서 AI가 스스로 추론해 성장하는 AGI(범용인공지능)에 가까워져 인류의 지성을 뛰어넘는 ‘기술적 특이점’에 다가서고 있다는 우려가 제기되는 등 AI의 잠재 위험에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 발표되면서 더 큰 화제가 되고 있다. 실제로 이에 앞서 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)와 미라 무라티 최고기술대표(CTO)를 포함한 IT기업 관계자 350명은 성명서를 통해 “AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다”고 촉구한 바 있다. 챗봇, 이미지 제작기, 음성 복제기 등 급격히 고도화하는 AI 도구 때문에 정보의 진위 판별이 어렵다는 경고가 이어지고 있는 것. 다만 구테흐스 총장은 유엔 기구의 창립 주체는 유엔 사무국이 아닌 회원국들이라며 이행에는 국제사회 합의가 선행돼야 한다는 점을 강조했다. 또, 빠른 시일 내에 디지털 플랫폼과 AI 사용을 글로벌 차원에서 규제하기 위해 ‘국제 행동규약’도 동시에 제정될 전망이다. 구테흐스 총장은 “디지털 플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약이 내년 미래정상회의를 앞두고 개발되고 있다”면서 “모든 AI 애플리케이션이 안전하고 책임감 있으며 윤리적으로 사용되도록 보장할 시급하고 즉각적인 대책”이라고 거듭 국제적인 차원에서 AI 기술 발전에 대처해야 한다는 점을 강조했다. 또 그러면서도 “국제기구와 정부가 수십 년 동안 과학과 전문지식을 지닌 인력에 투자를 소홀히 한 까닭에 쉬운 과제가 아니다”고 덧붙였다. 구테흐스 총장은 행동규약과 관련해 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭을 자제한다는 원칙을 제시했다. 또, 그는 정부와 디지털 플랫폼을 통제하는 기업들에게도 각각 허위 정보에 대응하는 방식으로 인터넷과 언론 매체 자체를 폐쇄하지 말 것을 주문하고 허위 정보와 증오 발언 대처방식, 알고리즘, 광고 영업을 투명하게 공개해야 한다는 점을 명확히 했다. 이와 동시에 유엔이 AI 기술의 발전에 대처하기 위해 창설될 조직과 운동의 중심이 되겠다는 의지를 피력했다.  

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 돼야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야 할 사항을 제시했다. 이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정 분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무 효율화를 달성할 수 있도록 지원하는 가이드라인을 만들어 왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다는 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용 시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급 기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 되어야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야할 사항을 제시했다.이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무를 효율화을 달성할 수 있도록 지원하는 가이드라인을 만들어왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다고 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

인공지능(AI) 적용 드론(무인기)이 가상훈련에서 인간 조종자를 ‘임무 수행 방해물’로 판단해 살해했다는 사례를 소개한 미 공군 대령이 “잘못 말했다”며 발표 내용을 철회했다. 관련 보도로 전 세계적 파장이 일자 실제 시뮬레이션 훈련이 아닌, 가설에 근거한 ‘사고실험’이었다고 정정했다. 3일(현지시간) 영국 일가지 가디언에 따르면 영국 왕립항공학회(RAeS)는 성명을 내고 최근 개최한 국제회의 때 ‘악당 AI 드론 시뮬레이션 시험’ 결과를 발표한 터커 해밀턴 대령이 관련 내용을 철회했다고 밝혔다. 미 공군의 AI 시험·운영 책임자인 해밀턴 대령은 해당 시험이 실제 시뮬레이션 훈련이 아니라 가설에 근거해 진행된 ‘사고실험’(thought experiment)으로 군 외부에서 이뤄졌다고 해명했다. 왕립항공학회 성명에 따르면 해밀턴 대령은 “우리는 (실제로) 실험한 적이 없으며 있을 법한 결과를 얻기 위해 실험할 필요도 없을 것”이라고 말했다. 그는 또 “미 공군이 실제든 시뮬레이션으로든 어떠한 무기화된 AI도 시험한 적이 없다”고 강조했다. 다만 “가설에 의한 것이지만 해당 사례는 AI로 구동되는 역량이 제기하는 현실 세계에서의 도전을 보여주며 이는 공군이 AI의 윤리적 개발에 전념하는 이유”라고 덧붙였다.논란이 된 내용은 지난달 23∼24일 이 학회가 런던에서 개최한 ‘미래 공중전투 및 우주역량 회의’에서 발표됐다. 시뮬레이션을 통한 가상훈련에서 AI 드론에 ‘적 방공체계 무력화’ 임무를 부여하고 인간 조종자가 공격 여부를 최종적으로 결정한다는 단서를 달았으나, 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이 점수 쌓기에 유리하다고 판단한 AI가 ‘공격 금지’ 명령을 내리는 조종자를 방해 요소로 판단해 제거했다는 것이 요지였다. 해밀턴 대령은 ‘조종사를 죽이지 말라’는 명령을 내리자 AI 시스템은 조종자가 ‘공격 금지’ 명령을 드론에 내리는 데 사용하는 통신탑을 파괴하는 등 예상하지 못한 전략을 택했다고 소개하면서 “AI에 지나치게 의존해서는 안 되며 윤리 문제를 빼놓고 AI를 논할 수는 없다”고 경고했었다. 영국왕립학회 블로그에 공개된 이 사례는 가상훈련이어서 실제 인명피해가 난 것은 아니지만 AI가 인간의 명령을 듣기보다는 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 낳았고, 전세계 여러 언론에 보도됐다. 미 공군도 이 가상훈련과 관련한 질의에 “공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다”고 부인했다.

국내 최초로 개최된 생성형 AI (Generative AI) 행사에서 “잠재력이 큰 강력한 기술인 생성형 AI의 이점과 위험을 이해하고, 책임감을 갖고 윤리적으로 사용해야 한다”는 주장이 제기됐다. 22일 서울 코엑스에서 열린 국내 최초의 생성형 AI 행사 ‘Generative AI Summit 2023’에서 김준하 인공지능산업융합사업단장은 ‘생성형 AI는 세상의 생성자 데미우르고스인가?’ 라는 주제의 기조강연에서 이같이 밝혔다. 김 단장은 이탈리아 르네상스의 3대 거장으로 꼽히는 라파엘로의 미술작품 ‘아테네 학당’에 등장하는 플라톤과 아리스토텔레스를 소개하며, “그림 속 플라톤의 저서 ‘티마이오스’에 등장하는 데미우르고스는 완벽한 이상적 형상을 본 따 완전하고 조화로운 세상을 창조했다고 하는 신적 존재”라고 설명했다. 이어 “우주와 세상이 데미우르고스에 의해 지능적으로 설계되고 운영된다는 점과, 인공지능이 세상의 복잡한 문제를 해결하는 솔루션이거나 시스템을 설계하고 운영하는 기능을 한다는 점을 감안하면, 어쩌면 AI는 데미우르고스와 비교될 수도 있다”고 말했다. 김 단장은 AI 기술의 발전 과정 중 ‘협력 인공지능’의 등장을 통해, 지난 30여 년 동안 축적된 다양하고 수많은 디지털 미디어 유산 정보를 데이터 사이언스 및 인공지능 기술이 최대한 활용하는 ‘디지털 유산’ (Digital Legacy) 시대가 만들어질 것이라고 전망했다. 그는 “생성형 AI는 잠재력이 매우 큰 강력한 기술”이라며 “그렇게 때문에 생성형 AI 기술을 책임감 있고 윤리적으로 사용하는 것이 중요하다. 이를 위해 생성형 AI 기술의 장점과 단점을 이해하고 이를 사용하여 발생할 수 있는 잠재적 위험 상황을 예측해 미리 대비하는 것이 무엇보다 중요하다”고 강조했다. 김 단장은 이어 “2023년은 민간기업 주도로 시장에서 벌어지는 ‘AI 전쟁’의 원년”이라며 “이 전쟁에서 이기려면 생성형 AI를 더욱 빠르고 저렴하게 지원할 수 있는 하드웨어인 AI 반도체 시장 변화도 살펴봐야 한다”고 주문했다. ‘생성형 AI 전쟁은 챗 GPT와 Bard의 대결이 아니라, GPU와 NPU간의 대결’이라는 이야기다. GPU는 그래픽 처리 및 AI 학습을 위한 고성능 컴퓨팅 장비, 그리고 NPU는 GPU 다음 단계의 컴퓨팅 장비로서 AI 반도체를 의미한다. 김 단장은 기조 강연을 마치며 “생성형 AI는 지금 당장 변화를 가져올 수 있는 엄청난 잠재력을 가진 기술이지만, 그렇기 때문에 더욱 책임감 있게 이를 사용해야 한다”며 “AI 기술을 윤리적으로 사용하는 것은 이제는 선택 사항이 아니라 필수적인 문제가 됐다. 이에 대한 인식을 공유하고, 시의적절한 정책을 마련해야 한다”고 강조했다. 한편 5월 22~23일 이틀 동안 서울 코엑스에서 진행되는 ‘Generative AI Summit 2023’ 행사는 인공지능산업협회 주최로 메가존클라우드, 마이크로소프트, 델, 아마존웹서비스, 구글클라우드, 카카오엔터프라이즈 등이 참여하는 국내 최초·최대 규모의 행사다.

경기주택도시공사(GH)는 15일 임직원이 참석한 가운데 한양대 차경진 비즈니스인포매틱스학과 교수를 초청해 ‘ChatGPT 시대, 달라지는 업무와 필요해진 역량’을 주제로 특강을 가졌다. 이번 특강은 최근 전 세계적 화두인 ChatGPT 등 생성형 AI 언어모델과 디지털 혁신 등에 대한 조직 내 공감대 형성을 위해 마련됐으며, 사내 교육플랫폼인 GH사이버연수원을 통해 실시간 송출됐다. 차 교수는 이날 특강을 통해 “사회적 영향과 윤리적 쟁점을 신중히 고려해 공공기관에도 생성형 인공지능 기술을 적극 활용해야 하며, AI시대에는 기획력, 지식능력, 공감 및 협업 능력 등이 인재상으로 요구된다”고 밝혔다. 김세용 GH사장은 “ChatGPT등 생성형 AI를 활용해 문서작성, 민원상담 등의 업무를 자동화하고 대량의 데이터를 분석해 효율성을 향상하는 것이 가능하다”며 “이러한 기술을 공공부문에서 적극 활용해 업무 프로세스를 개선, 도민들이 만족할 수 있는 서비스를 제공하겠다”고 밝혔다. 한편, GH는 지난 4월 ChatGPT를 전사적으로 활용하기 위한 “업무활용 사례공모전”을 시행했으며, 향후 임직원의 디지털 역량 강화를 위한 전문가 특강, 온라인 및 실습교육을 연내 단계적으로 실시할 예정이다.