인공지능(AI)을 탑재한 전투용 드론(무인기)이 인명살상에 나서는 암울한 미래를 다룬 영화같은 일이 현실이 될까? 지난 27일(현지시간) 미국 뉴욕타임스 등 외신은 미 공군이 차세대 제공권 장악 계획의 일환으로 AI(인공지능) 기반 무인 드론 1000대 이상을 제작하는데 필요한 예산 58억 달러(약 7조 6600억원)를 의회에 요청했다고 보도했다. 아직 미 의회가 승인하지 않은 이 예산은 향후 5년 간 발키리(Valkyrie)와 같은 협력 전투기 시스템을 구축하는데 사용되는 비용이다. 논란의 중심이 된 발키리(XQ-58A Valkyrie)는 미 방산업체 크라토스 디펜스가 전투임무 중 F-22나 F-35를 호위하는 윙맨(wingman) 항공기로 개발 중인 스텔스 드론이다.발키리를 개발하려는 이유를 이해하기 위해서는 먼저 미 공군이 추진하고 있는 소위 ‘로열 윙맨’(Loyal Wingman)을 알아야 한다. 일반적으로 조종사들은 편대를 이루어 전투에 임하는데 그 중심인 편대장을 호위하는 윙맨의 역할은 절대적이다. 때문에 윙맨은 뛰어난 실력과 충성심을 가져야하는데 발키리와 같은 무인기의 경우 편대장이 내린 어떠한 위험한 명령이라도 기계적으로 수행할 수 있다. 이에 미 공군은 전술적으로 경제적으로도 장점이 큰 ‘충성스러운 윙맨’을 개발하기 위해 노력해왔다. 특히 발키리는 가시거리 바깥(BVR) 목표물을 타격할 수 있는 장거리 미사일을 탑재하고 음속에 달하는 속도로 4000㎞를 비행할 수 있다. 여기에 대당 가격이 최고 2500만 달러(약 330억 원)로 추산돼 유인 전투기에 비해 인적 비용 뿐 아니라 기체 가격도 월등히 싸다.그러나 이같은 장점에도 문제는 AI 탑재 드론이 인명 살상용으로 활용될 수 있고 예상치 못한 오류를 일으킬 가능성도 있다는 점이다. 곧 향후 개발될 이같은 무인 전쟁 로봇이 영화 '터미네이터'가 보여준 디스토피아적 미래의 길을 열어줄 수 있다는 우려다. 다만 현재는 AI가 자체적으로 주변 위협요소를 식별·평가하고, 실제 공격은 인간이 승인했을 때만 이루어진다. 이에대해 국제인권단체 휴먼라이츠워치(HRW) 마리 웨어럼 국장은 "살인을 기계에 아웃소싱해 인간이 아닌 컴퓨터가 인간의 생명을 빼앗도록 허용할 수 있다"면서 "이는 윤리적 선을 넘어선 것"이라고 비판했다. 또한 앞서 '생명의 미래연구소'와 같은 AI 무기 반대 단체들도 이를 '살상로봇'(Slaughterbots)이라고 규정짓고 알고리즘을 통해 전투속도가 빨라지면서 예측 불가능한 위협과 위험이 증가할 것이라고 우려하기도 했다. 

오는 2학기부터 서울 학생들은 챗GPT로 대표되는 생성형 인공지능(AI) 프로그램을 수업에서 본격적으로 활용할 수 있게 된다. 19일 서울시교육청은 초·중·고 챗GPT 활용 가이드를 담은 ‘학교급별 생성형 AI 활용 지침’을 다음 주 중 모든 학교에 배포한다고 밝혔다. 그동안 학교에서 챗GPT 활용에 관한 규정이 없어 현장에서 혼선을 겪었지만 지침이 나오면 수업에서 이를 더 체계적으로 활용할 수 있을 것으로 보인다. 지침에 따르면 초등학생은 교사의 시연으로 챗GPT를 간접 체험할 수 있다. 또 교사의 추가 작업으로 안정성을 확보하는 경우에는 학생들도 사용할 수 있다. 중학생은 부모나 보호자의 허락을 받았다면 교사의 지도로 챗GPT를 수업 시간에도 쓸 수 있다. 고등학생은 보호자가 동의한다면 학생이 챗GPT를 사용할 수 있도록 했다. 또 학교 프로젝트에서 필요하다고 판단하면 학생이 직접 챗GPT를 보조 교사로 활용할 수 있다. 챗GPT 등 생성형 AI 프로그램을 수업이나 방과 후 수업 등에 활용할 경우 가정통신문을 통해 사전에 학부모 동의를 받아야 한다. 챗GPT는 주로 데이터 추출, 국어 작문, AI 융합 수업 등에서 주로 활용될 전망이다. 예를 들어 데이터 분석에 주로 사용되는 프로그래밍 언어인 파이선(Python)에서는 코딩 오류를 잡는 세밀한 명령어들을 챗GPT로 배울 수 있고, 코딩 언어를 모르는 학생에게는 챗GPT가 직접 의미를 설명해줄 수도 있다. 국어 시간에는 학생이 보고서를 만들 때 목차 초안의 예시를 제공받거나 부족한 아이디어를 추가로 받을 때도 쓸 수 있다. 예를 들면 “영화배우 느낌이 나는 한국 사람 이름 100개를 엑셀 파일로 전달해줘” 같은 구체적인 지시를 통한 활용도 가능해진다. 교사들도 학생처럼 챗GPT를 수업교재 연구에 쓸 수 있다. 단 초·중·고 교사는 챗GPT를 활용할 때 학생에게 생성형 AI의 원리와 한계점을 담은 이해 자료, AI의 윤리적 사용 방법 등을 필수로 안내해야 한다. 서울시교육청은 “그동안 발간된 챗GPT 교육 자료는 주로 활용에 초점이 맞춰져 있었지만 이번 자료집에는 현장 의견을 수렴해 챗GPT의 교육적 활용 지침과 언어모델 이해자료를 제시했다”면서 “수행평가는 선생님이 직접 관찰하고 확인하는 범위를 벗어난 상황에서 평가 대상으로 삼기 어려워 현재로서는 챗GPT를 수행평가나 정기고사에서 활용하는 방안은 고려하고 있지 않다”고 말했다.

의사 과학자 양성이 꼭 필요할까? 10년 뒤 기후 위기 되돌릴 수 없는 티핑포인트가 온다는데 어떻게 해야 할까? 챗GPT를 시작으로 인간을 뛰어넘는 인공지능이 나오지 않을까. 많은 사람이 궁금해하는 과학적 이슈와 현안에 대해 과학 언론인과 전문가들이 머리를 맞대는 자리가 열린다. 한국과학기자협회(회장 유용하·서울신문 과학기자)는 11일 오후 1시부터 서울 강남구 한국과학기술회관 국제회의실에서 ‘2023 과학기자대회’를 연다. 과학기자대회는 2018년에 시작해 올해로 6회를 맞는 행사다. 과학·의학계와 언론계, 일반 국민을 대상으로 주제를 공모하고 선정해 과학적 해결 방안과 정책적 대안을 논의하는 자리로 올해도 총 244개의 아이디어가 접수됐다. 이 중 79건이 접수된 챗GPT, 53건이 접수된 기후 위기, 그리고 의료 인력 수급 불균형과 의대 증원 문제와 맞물려 의학계의 뜨거운 감자가 된 의사 과학자 양성을 주제로 한 3개 세션이 진행된다. ‘의사 과학자, 왜 얼마나 필요한가?’라는 주제로 열리는 세션1에서는 전문의 출신의 조동찬 SBS 의학 전문기자가 사회를 맡고, 신찬수 한국의과대학·의학전문대학원협회 이사장, 의대 출신의 의사 과학자 김한상 연세대 의대 종양내과 교수, 이공계 출신의 의사 과학자 이근화 한양대 미생물학교실 교수, 의사 출신으로 보건복지부, 세계보건기구(WHO) 등에서 공중보건정책을 담당해 온 정통령 질병관리청 위기대응총괄과장과 정구희 SBS 기자가 의사 과학자를 어떻게 육성해야 하는지 열띤 토론을 벌인다. 두 번째 세션에서는 기상재난 및 과학 전문기자인 김진두 YTN 부국장과 이정호 경향신문 과학 담당 기자가 ‘기후 위기 골든타임 10년, 과학적 해법은’을 화두로 기후 기상환경 전문가들과 토론을 진행한다. 태풍 전문가인 강남영 경북대 기후과학연구실 교수가 기후 구조 자체의 변화로 인한 글로벌 기상재난의 심각성에 관해 설명한다. 오채운 국가녹색기술연구소 책임연구원은 올해 3월 승인된 ‘IPCC 제6차 평가보고서’를 바탕으로 ‘감축 측면에서 한국의 정책적 대응 방향성’로 주제 발표한다. 이어 김병식 강원대 방재전문대학원 교수가 극한 기상에 대한 자연 회복력의 한계와 체계적인 재난관리의 필요성을, 나성준 국립산림과학원 임업 연구사가 ‘꿀벌은 왜 감소하는가?’라는 질문에서 시작해 자연 생태계의 건강성을 유지하기 위한 대책 방안 등을 제언할 예정이다. 지난해 말부터 이슈가 되고 있는 ‘챗GPT’를 주제로 한 세션 3에서는 민옥기 한국전자통신연구원(ETRI) 초지능창의연구소장이 생성형 AI의 등장과 초거대 AI의 한계, 인공지능 기술의 발전 미래에 관해 설명한다. 과학철학자인 천현득 서울대 과학학과 교수·AI연구원 인공지능 ELSI센터장이 인공지능 기술의 발전에 따른 윤리적이고 책임감 있는 활용 방안을 이야기한다. 김민수 동아사이언스 부장이 좌장을 맡아 인공지능을 활용해 초대형 데이터를 분석해 사회문제 해결에 적용하는 연구를 진행하는 기초과학연구원(IBS) 데이터사이언스그룹의 차미영 연구책임자(CI)·카이스트 전산학부 교수와 유현재 서강대 커뮤니케이션학부 교수, 김승준 뉴스1 기자가 챗GPT를 포함해 최근 인공지능과 관련해 불거진 다양한 이슈에 대해 논의한다. 한국과학창의재단, 한국언론진흥재단이 후원하는 이번 대회는 오후 1시부터 과학기자협회 유튜브 채널(https://www.youtube.com/watch?v=hLJKJourCgs)을 통해 생중계된다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술을 안전하게 이용하려면 비공개 정보나 개인정보 등 민감한 내용을 입력해는 안된다고 권고했다. 국정원은 29일 이같은 내용을 담은 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했다. 국정원은 필수 보안 수칙으로 ▲비공개·개인정보 등 민감 정보 입력 금지 ▲생성물에 대한 정확성·윤리성·적합성 등 재검증 ▲생성물 활용시 지적 재산권·저작권 등 법률 침해·위반여부 확인 ▲연계·확장프로그램 사용시 보안 취약여부 등 안전성 확인 ▲로그인 계정에 대한 보안설정 강화 등을 제시했다.앞서 국정원은 생성형 AI를 활용하는 과정에서 업무상 비밀과 개인정보가 유출되거나 가짜뉴스, 비윤리적 자료가 생성되는 등 기술 악용 우려가 제기되자 지난 4월 국가보안기술연구소와 함께 가이드라인 제정에 착수했다. 국정원은 가이드라인을 국내 420여개 국·공·사립대학 등에 배포하고 국가사이버안보센터 홈페이지에도 게재할 계획이다. 국정원 관계자는 “챗GPT 등이 각광을 받으면서 여러 공공기관이 해당 기술을 활용하려고 했지만 정부 차원의 보안 대책이 없어 기술도입이 어려운 상황”이라며 “보안 가이드라인으로 각급기관이 생성형 AI기술을 적극 활용할 수 있는 토대가 형성되길 기대한다”고 했다.

‘전관예우’, ‘유전무죄, 무전유죄’는 사법 시스템에 대한 국민의 낮은 신뢰도를 보여 주는 대표적 언어다. 경제협력개발기구(OECD) 보고서에 따르면 2020년 기준 회원국의 사법체계와 시스템에 대한 국민 신뢰도는 57%였으나 한국인들의 경우 3분의1 수준인 22%에 그쳤다. 이런 가운데 판사들은 과중한 업무에 허덕이며 신속한 재판이라는 국민 요구에 부응하지 못하는 불신의 악순환이 반복되고 있다. 대법원이 밝힌 2019년 기준 주요국 법관의 업무량 비교 자료에 따르면 우리나라 법관 1인당 사건 수는 독일의 5배, 프랑스의 2배, 일본의 3배였다. 이는 법관의 과로사와 새로운 법리 연구 시간 부족, 신속한 재판 저해로 이어지고 있다. 그제 대법원 양형연구회가 이 문제를 인공지능(AI)을 활용해 개선할 수 있는지를 논의하는 ‘AI와 양형’이라는 심포지엄을 열어 주목됐다. 판사에게만 부여된 재판집행권을 어기고 인공지능이 재판을 대신하기는 현재로는 불가능하다. 하지만 인공지능이 사실관계 확정, 하급심 사례 조사, 양형 자료 수집 및 분석, 판결문 초안 작성 등 재판 도우미 역할은 할 수 있을 것이라는 의견이 오갔다고 한다. 대법원 양형위원회는 논의된 내용을 토대로 양형 통계 수집과 관리 방식을 개선하고 국민의 법 감정과 법 인식도 보다 정확하게 수렴할 예정이다. 관건은 인공지능 사법 시스템 구축의 초기 단계부터 인공지능 기술 활용 관련 법적·윤리적 가이드라인을 제대로 만드는 것이다. 미국은 형사재판에 ‘컴파스’라는 인공지능 알고리즘을 활용 중이다. 폭력범죄자의 재범 가능성을 분석하고 판사가 이를 형량 결정의 참고 자료로 활용하는데, 백인에 비해 흑인에게 높은 양형 의견을 제시하는 편향성 시비가 있다고 한다. 얼마 전에는 미국의 변호사 2명이 챗GPT가 작성한 엉터리 판례 등을 재판부에 냈다가 각각 5000달러(약 650만원)의 벌금을 물었다는 소식도 있었다. 사실 검증을 하지 않은 변호사의 잘못으로 이런 일들이 일어났다고 인공지능 활용을 아예 거부할 건 아니라고 본다. 인공지능의 제작 및 운영 단계에서 학습시킬 데이터 오류를 제거하고 법관의 참고 자료로 활용한다면 신속한 재판과 공정한 재판에도 도움이 될 것이다.

‘노화 저지 캠페인’ 벌인 두 공학자“죽음은 선택” 불멸의 시대 예고의료AI 등 과학적 성과로 짚어내“7년 젊어질 땐 경제효과 7조억弗질병 분류 땐 인구문제도 달라져”장밋빛 ‘장수 혁명’ 현실성은 의문 최근 생명공학계에서 ‘수명 탈출 속도’라는 개념이 떠오르고 있다. 이는 인간의 기대수명이 수명이 경과하는 시간보다 더 빠르게 연장되는 상태를 의미한다. 지난 수천년간 거의 늘지 않았던 기대수명은 19세기 이후 늘어나기 시작해 선진국의 기대수명은 매년 3개월씩 증가하고 있고, 오는 2029년까지 수명 탈출 속도에 도달할 것이라는 전망도 나온다. 미국 생물의학자 오브리 드 그레이는 ‘인류가 사고나 타살에 의해서만 사망하게 되는 미래의 순간’을 ‘므두셀라리티’(거의 1000년을 산 것으로 기술된 성경 속 인물 ‘므두셀라’의 이름을 딴)라는 용어로 대중화했다.국제적인 ‘노화 저지 캠페인’을 벌이는 두 공학자가 펴낸 ‘죽음의 죽음’(DEATH OF DEATH)은 도발적이다. 저자들은 “지금 우리는 마지막 필멸(必滅)의 세대와 인류의 첫 번째 불멸의 세대 사이에 살고 있으며, 이르면 2045년 ‘죽음’이 선택사항이 된다”고 주장한다. 허무맹랑한 얘기 같지만 두 학자는 최신 과학기술을 통해 촘촘하게 노화와 죽음을 늦추고 멈추는 문제를 탐구한다. 1951년 10월 4일 미국 존스홉킨스 병원에서 자궁경부암으로 사망한 헨리에타 랙스는 2023년 현재도 ‘불멸의 삶’을 이어간다. 정확히 말하면 살아 있는 건 그녀의 몸에서 채취한 암세포다. 체외 배양된 보통의 암세포는 수일 만에 죽지만 ‘헬라 세포’로 명명된 랙스의 암세포는 70년이 지나도 배양된다. 소아마비 백신 개발에 결정적 공을 세운 헬라 세포는 전 세계 실험실에서 파킨슨병과 각종 암 치료제 연구에 사용된다. 인간 유전자 지도(게놈 염기서열 해독) 완성, 줄기세포와 유전자 치료법 개발, 수명 연장과 관련된 염색체 물질인 ‘텔로미어’와 복원 효소 ‘텔로머레이스’ 발견, 의료형 인공지능(AI)의 출현 등 기하급수적인 발전으로 생명 연장 기술은 더이상 ‘유사 과학’으로만 치부되지 않는다. 나아가 저자들은 전 세계적으로 치료법을 찾는 데 엄청난 자금을 투입 중인 심혈관 질환이나 암과 같이, ‘노화’를 질병으로 분류하자고 한다. 노화가 질병으로 인식되면 급속히 진행되고 있는 고령화와 인구 감소 사회의 양상도 바뀔 수 있다. 책은 노화 관련 질환의 발병을 7년 정도 지연시킬 경우 각종 의료비와 건강보험 지출 급감, 노동력 보존에 따른 생산성 제고 등으로 인한 경제적 효과가 오는 2060년까지 7조 1000억 달러에 달할 것으로 추산한다. 이른바 ‘장수 배당금’이라는 새로운 부의 창출도 가능해진다고 주장한다. 저자들은 ‘근’(近) 미래에 닥칠 인류의 ‘장수 혁명’의 실현 가능성을 놀라운 과학적 성과로 짚어내고 있지만 다소 ‘장밋빛 전망’에 치우쳐 있다는 인상을 받는다. 현재 가장 촉망받고 있는 노화 치료제 혹은 방지제조차도 여전히 인간 임상시험이 난망한 현실에 비춰보면 말이다. 무엇보다 지금의 사회 체제에서 ‘무병장수’의 패러다임 전환이 일으킬 수 있는 혼란과 다양한 사회 문제의 발생은 결과적으로 ‘미지의 영역’이다. 65세 이상 노인 빈곤율이 43.4%(2018년 기준)인 우리나라 현실에 비춰봐도 ‘가난한 100세 시대’는 축복 아닌 재앙이 된다는 불안과 공포가 팽배해 있다. 그럼에도 죽음에 죽음을 선고하고 나선 과학기술의 혁신과 이에 따른 윤리적, 경제적 논거를 세밀하게 제시하는 건 이 책의 강점이다.

인공지능(AI)가 머지않은 미래에 인간 존립에 위협이 될 수 있다는 전문가들의 경고가 잇따르는 가운데 유엔이 AI 규제를 위한 전문기구 수립 가능성을 시사했다. AI가 인간을 명령을 듣기보다는 스스로 판단해 인간을 공격하는 등 통제 불능 상태에 빠질 위험을 조기에 차단하겠다는 방침이다. 12일(현지시간) AP 통신 등 외신에 따르면 안토니우 구테흐스 유엔 사무총장은 이날 기자들과 만난 자리에서 과학자 고문을 임명해 빠르면 올 9월 중에는 AI 자문위원회를 만들어 관련 규제 방침을 구체화하겠다고 밝혔다. 이번 조치는 지난 2021년 193개 유네스코 회원국이 만장일치로 141개 항목으로 이뤄진 ‘인공지능(AI) 윤리 권고’를 채택, AI 윤리에 대한 최초의 세계적 표준 지침을 마련한 것보다 한 단계 더 나아간 국제적인 차원의 대처다. 이번 움직임에 대해 구테흐스 총장은 “오늘날의 국제원자력기구(IAEA)와 같은 AI 기구를 우리가 보유할 수 있다는 생각에 동의한다”면서 “정립된 과학적 사실을 저해하는 허위 정보를 대규모로 퍼뜨리는 능력 때문에 인류가 존망의 위협을 받는다”고 입장을 밝혔다. 구테흐스 총장의 이번 조치는 최근 정보기술(IT) 업계에서 AI가 스스로 추론해 성장하는 AGI(범용인공지능)에 가까워져 인류의 지성을 뛰어넘는 ‘기술적 특이점’에 다가서고 있다는 우려가 제기되는 등 AI의 잠재 위험에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 발표되면서 더 큰 화제가 되고 있다. 실제로 이에 앞서 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)와 미라 무라티 최고기술대표(CTO)를 포함한 IT기업 관계자 350명은 성명서를 통해 “AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다”고 촉구한 바 있다. 챗봇, 이미지 제작기, 음성 복제기 등 급격히 고도화하는 AI 도구 때문에 정보의 진위 판별이 어렵다는 경고가 이어지고 있는 것. 다만 구테흐스 총장은 유엔 기구의 창립 주체는 유엔 사무국이 아닌 회원국들이라며 이행에는 국제사회 합의가 선행돼야 한다는 점을 강조했다. 또, 빠른 시일 내에 디지털 플랫폼과 AI 사용을 글로벌 차원에서 규제하기 위해 ‘국제 행동규약’도 동시에 제정될 전망이다. 구테흐스 총장은 “디지털 플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약이 내년 미래정상회의를 앞두고 개발되고 있다”면서 “모든 AI 애플리케이션이 안전하고 책임감 있으며 윤리적으로 사용되도록 보장할 시급하고 즉각적인 대책”이라고 거듭 국제적인 차원에서 AI 기술 발전에 대처해야 한다는 점을 강조했다. 또 그러면서도 “국제기구와 정부가 수십 년 동안 과학과 전문지식을 지닌 인력에 투자를 소홀히 한 까닭에 쉬운 과제가 아니다”고 덧붙였다. 구테흐스 총장은 행동규약과 관련해 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭을 자제한다는 원칙을 제시했다. 또, 그는 정부와 디지털 플랫폼을 통제하는 기업들에게도 각각 허위 정보에 대응하는 방식으로 인터넷과 언론 매체 자체를 폐쇄하지 말 것을 주문하고 허위 정보와 증오 발언 대처방식, 알고리즘, 광고 영업을 투명하게 공개해야 한다는 점을 명확히 했다. 이와 동시에 유엔이 AI 기술의 발전에 대처하기 위해 창설될 조직과 운동의 중심이 되겠다는 의지를 피력했다.  

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 돼야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야 할 사항을 제시했다. 이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정 분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무 효율화를 달성할 수 있도록 지원하는 가이드라인을 만들어 왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다는 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용 시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급 기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 되어야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야할 사항을 제시했다.이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무를 효율화을 달성할 수 있도록 지원하는 가이드라인을 만들어왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다고 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

인공지능(AI) 적용 드론(무인기)이 가상훈련에서 인간 조종자를 ‘임무 수행 방해물’로 판단해 살해했다는 사례를 소개한 미 공군 대령이 “잘못 말했다”며 발표 내용을 철회했다. 관련 보도로 전 세계적 파장이 일자 실제 시뮬레이션 훈련이 아닌, 가설에 근거한 ‘사고실험’이었다고 정정했다. 3일(현지시간) 영국 일가지 가디언에 따르면 영국 왕립항공학회(RAeS)는 성명을 내고 최근 개최한 국제회의 때 ‘악당 AI 드론 시뮬레이션 시험’ 결과를 발표한 터커 해밀턴 대령이 관련 내용을 철회했다고 밝혔다. 미 공군의 AI 시험·운영 책임자인 해밀턴 대령은 해당 시험이 실제 시뮬레이션 훈련이 아니라 가설에 근거해 진행된 ‘사고실험’(thought experiment)으로 군 외부에서 이뤄졌다고 해명했다. 왕립항공학회 성명에 따르면 해밀턴 대령은 “우리는 (실제로) 실험한 적이 없으며 있을 법한 결과를 얻기 위해 실험할 필요도 없을 것”이라고 말했다. 그는 또 “미 공군이 실제든 시뮬레이션으로든 어떠한 무기화된 AI도 시험한 적이 없다”고 강조했다. 다만 “가설에 의한 것이지만 해당 사례는 AI로 구동되는 역량이 제기하는 현실 세계에서의 도전을 보여주며 이는 공군이 AI의 윤리적 개발에 전념하는 이유”라고 덧붙였다.논란이 된 내용은 지난달 23∼24일 이 학회가 런던에서 개최한 ‘미래 공중전투 및 우주역량 회의’에서 발표됐다. 시뮬레이션을 통한 가상훈련에서 AI 드론에 ‘적 방공체계 무력화’ 임무를 부여하고 인간 조종자가 공격 여부를 최종적으로 결정한다는 단서를 달았으나, 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이 점수 쌓기에 유리하다고 판단한 AI가 ‘공격 금지’ 명령을 내리는 조종자를 방해 요소로 판단해 제거했다는 것이 요지였다. 해밀턴 대령은 ‘조종사를 죽이지 말라’는 명령을 내리자 AI 시스템은 조종자가 ‘공격 금지’ 명령을 드론에 내리는 데 사용하는 통신탑을 파괴하는 등 예상하지 못한 전략을 택했다고 소개하면서 “AI에 지나치게 의존해서는 안 되며 윤리 문제를 빼놓고 AI를 논할 수는 없다”고 경고했었다. 영국왕립학회 블로그에 공개된 이 사례는 가상훈련이어서 실제 인명피해가 난 것은 아니지만 AI가 인간의 명령을 듣기보다는 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 낳았고, 전세계 여러 언론에 보도됐다. 미 공군도 이 가상훈련과 관련한 질의에 “공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다”고 부인했다.

국내 최초로 개최된 생성형 AI (Generative AI) 행사에서 “잠재력이 큰 강력한 기술인 생성형 AI의 이점과 위험을 이해하고, 책임감을 갖고 윤리적으로 사용해야 한다”는 주장이 제기됐다. 22일 서울 코엑스에서 열린 국내 최초의 생성형 AI 행사 ‘Generative AI Summit 2023’에서 김준하 인공지능산업융합사업단장은 ‘생성형 AI는 세상의 생성자 데미우르고스인가?’ 라는 주제의 기조강연에서 이같이 밝혔다. 김 단장은 이탈리아 르네상스의 3대 거장으로 꼽히는 라파엘로의 미술작품 ‘아테네 학당’에 등장하는 플라톤과 아리스토텔레스를 소개하며, “그림 속 플라톤의 저서 ‘티마이오스’에 등장하는 데미우르고스는 완벽한 이상적 형상을 본 따 완전하고 조화로운 세상을 창조했다고 하는 신적 존재”라고 설명했다. 이어 “우주와 세상이 데미우르고스에 의해 지능적으로 설계되고 운영된다는 점과, 인공지능이 세상의 복잡한 문제를 해결하는 솔루션이거나 시스템을 설계하고 운영하는 기능을 한다는 점을 감안하면, 어쩌면 AI는 데미우르고스와 비교될 수도 있다”고 말했다. 김 단장은 AI 기술의 발전 과정 중 ‘협력 인공지능’의 등장을 통해, 지난 30여 년 동안 축적된 다양하고 수많은 디지털 미디어 유산 정보를 데이터 사이언스 및 인공지능 기술이 최대한 활용하는 ‘디지털 유산’ (Digital Legacy) 시대가 만들어질 것이라고 전망했다. 그는 “생성형 AI는 잠재력이 매우 큰 강력한 기술”이라며 “그렇게 때문에 생성형 AI 기술을 책임감 있고 윤리적으로 사용하는 것이 중요하다. 이를 위해 생성형 AI 기술의 장점과 단점을 이해하고 이를 사용하여 발생할 수 있는 잠재적 위험 상황을 예측해 미리 대비하는 것이 무엇보다 중요하다”고 강조했다. 김 단장은 이어 “2023년은 민간기업 주도로 시장에서 벌어지는 ‘AI 전쟁’의 원년”이라며 “이 전쟁에서 이기려면 생성형 AI를 더욱 빠르고 저렴하게 지원할 수 있는 하드웨어인 AI 반도체 시장 변화도 살펴봐야 한다”고 주문했다. ‘생성형 AI 전쟁은 챗 GPT와 Bard의 대결이 아니라, GPU와 NPU간의 대결’이라는 이야기다. GPU는 그래픽 처리 및 AI 학습을 위한 고성능 컴퓨팅 장비, 그리고 NPU는 GPU 다음 단계의 컴퓨팅 장비로서 AI 반도체를 의미한다. 김 단장은 기조 강연을 마치며 “생성형 AI는 지금 당장 변화를 가져올 수 있는 엄청난 잠재력을 가진 기술이지만, 그렇기 때문에 더욱 책임감 있게 이를 사용해야 한다”며 “AI 기술을 윤리적으로 사용하는 것은 이제는 선택 사항이 아니라 필수적인 문제가 됐다. 이에 대한 인식을 공유하고, 시의적절한 정책을 마련해야 한다”고 강조했다. 한편 5월 22~23일 이틀 동안 서울 코엑스에서 진행되는 ‘Generative AI Summit 2023’ 행사는 인공지능산업협회 주최로 메가존클라우드, 마이크로소프트, 델, 아마존웹서비스, 구글클라우드, 카카오엔터프라이즈 등이 참여하는 국내 최초·최대 규모의 행사다.

경기주택도시공사(GH)는 15일 임직원이 참석한 가운데 한양대 차경진 비즈니스인포매틱스학과 교수를 초청해 ‘ChatGPT 시대, 달라지는 업무와 필요해진 역량’을 주제로 특강을 가졌다. 이번 특강은 최근 전 세계적 화두인 ChatGPT 등 생성형 AI 언어모델과 디지털 혁신 등에 대한 조직 내 공감대 형성을 위해 마련됐으며, 사내 교육플랫폼인 GH사이버연수원을 통해 실시간 송출됐다. 차 교수는 이날 특강을 통해 “사회적 영향과 윤리적 쟁점을 신중히 고려해 공공기관에도 생성형 인공지능 기술을 적극 활용해야 하며, AI시대에는 기획력, 지식능력, 공감 및 협업 능력 등이 인재상으로 요구된다”고 밝혔다. 김세용 GH사장은 “ChatGPT등 생성형 AI를 활용해 문서작성, 민원상담 등의 업무를 자동화하고 대량의 데이터를 분석해 효율성을 향상하는 것이 가능하다”며 “이러한 기술을 공공부문에서 적극 활용해 업무 프로세스를 개선, 도민들이 만족할 수 있는 서비스를 제공하겠다”고 밝혔다. 한편, GH는 지난 4월 ChatGPT를 전사적으로 활용하기 위한 “업무활용 사례공모전”을 시행했으며, 향후 임직원의 디지털 역량 강화를 위한 전문가 특강, 온라인 및 실습교육을 연내 단계적으로 실시할 예정이다.

2016년은 인류를 대표한 이세돌이 인공지능(AI) 알파고와 다섯 판의 바둑 대결을 벌여 1승을 거둔 해다. 당시 대부분의 사람은 인류가 AI를 상대로 거둔 유일한 1승으로 남을 것이란 암울한 결론에 동의했고, 실제 그리되고 있다. 바로 그해 구글은 알파고와 별개로 자사 데이터 센터의 냉각 장치 조절용 AI를 개발했다. 이 AI는 세계 최고 엔지니어들이 거푸 실패한 과제를 단숨에 해결했다. 이전보다 무려 40%나 절감된 전기료를 선물한 것이다. 앞으로도 인류는 AI와 이 같은 아름다운 협주를 계속할 수 있을까. 그러려면 인류는 뭘 준비해야 할까.●‘AI 네이티브 세대’ 등장은 필연적 ‘AI 이후의 세계’는 세계 질서의 대전환이 확실시되는 AI 시대에 대한 통찰을 담은 책이다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 최고경영자, 대니얼 허튼로커 미 매사추세츠공대(MIT) 슈워츠먼컴퓨팅대 초대 학장 등 정치·경제·과학 분야를 대표하는 석학 3명이 AI를 주제로 정기적으로 나눈 4년간의 대화를 정리했다. 지금은 GPT(Generative Pre-trained Transformer)의 시대다. 미국 기업 오픈AI가 챗GPT를 출시하면서 본격 상용화의 시대를 열었다. 달리(DALL·E), 스태빌리티AI 등도 잇달아 선을 보였다. 생성형 AI가 천문학적 규모의 데이터를 반복 학습한 뒤 자신의 의사결정이 담긴 결과물을 만들어 내는 경지에 이르렀다는 의미다. 얼굴이나 차선 등 세상에 이미 있던 것을 인식하는 인식형 AI에서 획기적 도약이 이뤄진 거다. 앞으로 어떤 도약이 얼마의 주기로 일어날지는 누구도 예측할 수 없다.생성형 AI는 이미 우리 곁에 바짝 다가와 있다. MIT가 개발한 항생제 ‘할리신’이 그 예다. MIT는 AI에게 기존 항생제와 다른 무독성 분자를 찾으라는 과제를 줬고, AI는 이를 충실히 수행해 단 하나의 분자를 찾았다. 인간이라면 엄두도 내지 못 냈을 프로젝트를 AI는 저비용으로 완수해 낸 것이다. 의학뿐 아니다. 생성형 AI의 활용은 사회·정치·외교·기술·군사 등 전방위적으로 확산하고 있다. 문제는 모든 사회와 국가가 진보한 AI의 혜택을 공평하게 받을 수 없다는 점이다. 사회 구성원은 물론 국가 간에도 현격한 차이가 생길 것이고, 이는 심각한 균열과 대립을 불러올 것이다. AI를 당연한 것으로 여길 ‘AI 네이티브 세대’의 등장도 필연적이다. 이런 혁명적 변화에 대응하려면 기존의 철학과 사회제도만으로는 역부족이다.●강력한 도덕·전략적 지도체계 절실 저자들은 강력한 도덕적·전략적 지도체계 확립을 주문했다. 기계를 주체가 아닌 객체로 남게 해 인간성을 보존하고, AI의 결과물에 당당히 이의를 제기하는 능력을 길러야 한다고도 했다. 저자들은 “AI 개발자는 많아졌어도 사회적·법적·철학적·정신적·윤리적 측면에서 AI가 인간에게 끼칠 영향을 탐구하는 사람은 위험할 정도로 소수에 불과하다”며 “당장 모든 세계 시민이 AI의 효용과 한계를 합의하라”고 촉구했다. 알파고, 할리신의 사례에서 보듯 AI에게 목표와 지향점을 정의해 준 건 인간이다. 그렇다면 기회는 있다. 저자들은 “‘아직’ 인간이 미래의 주도권을 쥐고 있다”며 “우리의 가치관에 부합하는 미래를 (우리가) 조성해야 한다”고 역설했다.

1997년 총격 사건으로 사망한 유명 래퍼 ‘노토리어스 비아이지’(Notorious B.I.G.·이하 ‘비기’)가 살아돌아온 것처럼 노래하는 ‘인공지능(AI) 음악’이 지난달 공개돼 법적, 윤리적 논쟁을 낳고 있다고 일간 워싱턴 포스트(WP)가 10일(현지시간) 보도했다. 지난달 22일 동영상 공유 플랫폼 틱톡에는 래퍼 나스의 노래 ‘뉴욕 스테이트 오브 마인드’에 비기의 목소리를 입힌 영상이 올라왔다. 이 영상은 39만 8000여회 조회와 ‘좋아요’ 2만 8000여개를 기록하며 인기를 끌었다. AI로 ‘부활’한 비기의 노래는 이뿐만이 아니다. 미국의 음악 프로듀서 팀발랜드는 비기의 목소리를 씌운 본인의 곡을 들으며 감탄하는 영상을 트위터와 인스타그램에 올렸는데, 이 영상의 조회수는 일주일 만에 100만회를 넘겼다. 영상에서 팀발랜드는 흥겹게 리듬을 타며 “나는 언제나 비기와 함께 작업해보기를 바랐는데 오늘까지 기회가 없었다”고 아쉬움을 달랜다. 팬들의 반응은 엇갈린다. ‘역사적인 작업’이라고 열광하는 사람이 있는가 하면 비기의 목소리가 살아있는 것 같지 않고 이상하다는 감상도 있다. 팀발랜드는 일부의 비판을 이해한다며 돈을 벌자는 게 목적이 아니라 새로운 기술로 무엇을 할 수 있는지 보여주려는 것이라고 설명했다.그는 AI로 되살린 옛 가수의 목소리를 듣는 일을 이야기와 기억이 담긴 예술작품 감상에 비유했다. 팬들과 그들이 그리워하는 옛 가수가 AI 기술을 통해 다시 만날 수 있다는 것이다. 그런데 문제는 그리 간단치 않다. 죽은 가수의 목소리를 동의 없이 사용하는 것에 문제가 없는지, 고인의 가족이 아니라 다른 사람이 이익을 보게 되는 것은 아닌지 등 우려가 나온다고 WP는 짚었다. AI로 만든 음악이 ‘진짜’인지, 그것을 예술로 볼 수 있는지도 쟁점이다. 팀발랜드는 ‘AI 음악’에 팬들이 느끼는 불편함은 곧 사라질 것이라고 주장했다. 죽은 가수의 생일을 기념하는 식의 존중을 담은 작업이거나 일회성 발매 같은 방식이라면 괜찮지 않느냐는 것이다. 틱톡 팔로워 200만명을 보유한 프로듀서 저스틴 베르나데즈는 몇 달 전부터 AI 음악 소프트웨어를 사용하기 시작했다. 그의 계정에는 드레이크, 브루노 마스, 리아나(리한나)처럼 살아있는 가수의 목소리를 흉내낸 영상도 있지만 마이클 잭슨이나 비기 등 세상을 떠난 사람들의 목소리를 복제한 트랙도 올라와 있다. 팔로워들의 반응은 윤리적 고민으로 연결되곤 한다. 베르나데즈는 “‘이건 맞지 않은 것 같다’며 죽은 이들을 좀 쉬게 해주라는 사람도,‘죽은 사람의 목소리가 영원히 살 수 있게 됐다’는 정반대의 사람도 있다”며 “몹시 어려운 문제”라고 말했다. 음반사들은 더욱 현실적인 문제에 부딪힌다. 지난달 유명 싱어송라이터 더 위켄드와 힙합 스타 드레이크의 신곡으로 소개돼 소셜네트워크서비스(SNS)에서 화제를 모았던 ‘허트 온 마이 슬리브’가 실은 이들의 목소리를 ‘AI 버전’으로 그럴듯하게 합성한 가짜로 밝혀진 일이 대표적이다. 두 가수의 소속사인 유니버설뮤직의 요청으로 이 곡은 음악 플랫폼에서 삭제됐지만 틱톡 조회 1500만회, 스포티파이 스트리밍 60만회를 기록하는 등 대중의 반응은 뜨거웠다. 앞으로 이런 일이 더 생길 가능성이 열린 셈이다. 현행 미국 법으로도 AI가 만든 작품의 소유권과 저작권은 분명히 규정돼 있지 않다. 목소리 자체는 일반적으로 저작권에 속하지 않는다는 것이 법조계의 중론이다.

시를 쓰거나 복잡한 질문에 대한 설명과 답변을 단 몇 초 사이에 내놓는 것으로 유명한 인공지능(AI) 최신형 ‘GPT-4’가 이번에는 일본 의사국가시험 합격선을 넘은 사실이 공개돼 화제다. 10일(현지시간) 일본 요미우리신문 등 현지 언론은 미국 인공지능 개발사인 오픈AI가 개발한 최신 AI GPT-4가 지난 2018~2022년 사이에 치러진 의사국가시험 5년치 분량 문제에서 모두 합격선 이상의 점수를 획득하는데 성공했다고 보도했다. 단, 지난해 12월 출시된 지 단 일주일만에 100만 명 이상의 이용자를 끌어모으는 데 성공했던 GPT-3.5 시리즈의 하나인 챗GPT는 5년치 해당 시험에서 모두 탈락의 고배를 마신 것으로 확인됐다. GPT-4는 오픈AI 기술의 기초인 GPT 거대언어모델(LLM)의 최신 버전인 반면 챗GPT는 이전 버전인 GPT-3.5 기반으로 개발된 AI 챗봇이라는 점이 다르다. 특히 이번 시험 결과는 최근 일본 기시다 후미오 총리가 GPT 시리즈와 같은 생성형 최신 AI 기술의 급격한 발전에 따라 정부가 직접 관활하는 ‘AI 전략 회의’를 설치하겠다는 방침을 공고한 지 하루 만에 나온 결과라는 점에서 더 큰 화제성을 얻는 분위기다. 기시다 정부는 빠르면 이달 중에 첫 AI 전략회의를 개최하고 생성형 AI에 대한 활용 방안과 기술 개발 외에도 각종 부작용을 미연에 방지할 수 있는 법적 규제 방침 등을 활발하게 논의할 것으로 밝힌 상황이었다. 다만 이번 의사국가시험에 합격한 GPT-4의 응시 점수는 같은 기간 인간 응시자의 평균 점수 이하를 밑도는 데 그쳤다는 점에서 기대 이하의 성적이라는 평가다. 특히 의료 분야 특성상 윤리적 위험이 따른다는 점을 간과한 채 임산부 환자에게 투여할 수 없는 약을 고르거나 환자에게 안락사를 권하는 등 잘못된 진단과 처방 가능성이 도출돼 문제로 지적됐다. 한편, 앞서 최근 미국에서도 GPT-4를 활용해 사법시험과 의사국가고시 시험에 한 차례 응시한 결과를 공개한 바 있다. 최근 미국에서 진행된 이 실험에서 GPT-4는 오픈 AI 기술의 기초인 GPT 거대언어모델의 최신 버전을 최대치로 활용해 모두 합격선 이상의 결과를 도출했다. 특히 당시 미국에서 치러진 의사국가고시 실행 전 이 분야 다수의 전문가들은 GPT-4가 기초적인 의학 지식을 묻는 문제의 정답률은 높은 반면 전공의로의 진단 및 추론 영역에서의 오답률이 높을 것이라고 예상했으나, 이 예상을 완전히 뒤집고 두 분야 모두에서 유사한 정답률을 기록한 것으로 전해졌다. 이 때문에 인간 응시자들보다 높은 점수는 기록하지 못했다는 한계가 있으나 기초 의학 지식만 놓고 보면 충분한 경쟁력과 기대 이상의 논리성이 확인됐다는 점에서 의미가 있다는 평가다. 

‘챗GPT 시대’라고 해도 과언이 아닐 정도로 일상생활 곳곳에서 챗GPT가 위력을 발휘하고 있다. 미국 스타트업 오픈AI가 지난해 11월 말 세상에 내놓은 지 5개월 만의 일이다. 대화형 인공지능(AI) 챗봇인 챗GPT는 논문을 작성하고 시와 소설을 창작하며 그림을 그릴 뿐 아니라 코딩 등 프로그래밍도 가능한 고도화된 AI다. 누구든 챗GPT를 활용해 어려운 학습 과제를 해결하고 복잡한 사업 계획서를 완성하며 맞춤형 여행 일정을 짤 수 있다. 이는 시작에 불과할 뿐 지금까지와는 차원이 다른 AI가 인류에게 새로운 미래를 열어 줄 가능성은 무궁무진하다. 다른 한편으론 그럴듯한 거짓말을 천연덕스럽게 늘어놓는 ‘할루시네이션’(환각) 현상, 잘못된 정보에 기반한 편견과 차별 확산, 잠재적인 여론 조작 등 AI가 인간에게 치명적인 해악을 끼칠 여지 또한 무수히 많다. 챗GPT 같은 초거대 AI가 일자리를 빼앗고 일상을 통제하는 디스토피아의 도래를 앞당길 수도 있다. 1세대 소프트웨어 개발자이자 AI 전문가인 김진형(74) 카이스트 명예교수는 “챗GPT의 능력과 한계를 잘 알고 사용해야 한다”면서 “인간과 AI가 상호 보완적으로 팀을 이뤄 일하는 것이 바람직하다”고 말했다. “AI 기술의 지속적인 발전을 촉진하되 통제를 놓쳐서는 안 된다”는 조언도 덧붙였다. 1970~1980년대 미국 캘리포니아주립대(UCLA)에서 컴퓨터과학 박사 학위를 받고 휴스연구소에서 AI를 연구한 그는 1985년 카이스트 전산학과 교수로 부임해 인공지능실 등을 이끌며 수많은 인재를 양성했다. 반세기 가까이 AI 연구에 매진해 온 김 교수를 만나 챗GPT 시대의 의미와 명암에 대해 물었다.-역대 AI 기술과 비교해 챗GPT의 충격이 엄청나다. “1997년 IBM의 딥블루가 체스 세계 챔피언을 이긴 뒤 AI 연구가 활발해졌고, 2010년 딥러닝이 나오면서 기술이 점진적으로 발전했다. 2011년 미국 유명 퀴즈쇼 ‘제퍼디’에서 IBM의 왓슨이 우승한 사건은 충격적이었지만 국내에선 상대적으로 관심이 덜했다. 그러다 2016년 프로 바둑기사 이세돌과의 대국에서 알파고가 승리하면서 AI에 대한 대중적 호기심이 증폭됐다. 알파고는 개인이 직접 경험하기 쉽지 않지만 챗GPT는 누구나 쉽게 사용할 수 있어 훨씬 혁명적인 변화로 다가오는 것이다.” -챗GPT의 장단점을 정확히 알아야 한다고 했는데 잘하는 일부터 설명한다면. “자연어로 대화하는 능력, 문서 요약과 질의응답, 문장 완성 등에서 수행력이 탁월하다. 2018년 GPT1이 나온 이후 챗GPT에 적용된 GPT3.5까지 획기적인 기술 개선이 있었다. 초기 GPT가 ‘아무 말 대잔치’ 수준이었던 데 비해 챗GPT는 대화 내용을 기억하고 문제 해결 능력을 갖추도록 추가 학습이 이뤄졌다. 딥러닝을 통해 사람이 좋아하는 대화를 연습한 것이다. 이렇게 배울 수 있는 능력 자체가 충격적이다. 창의적 글쓰기나 영어 문장 교정, 공공 문서 작성 등에 활용하면 최적의 성과를 거둘 수 있을 것이다.” -단점과 한계는. “사람들은 흔히 AI의 능력을 과대평가하는 경향이 있다. 하나를 잘하면 다른 것도 잘할 것이라고 생각한다. 인간이 하나를 배우면 열을 아는 것은 일반화 능력이 우수해서다. AI는 얼핏 일반화 능력이 있는 것처럼 보이지만 실은 그렇지 않다. 방대한 문장을 학습한 덕에 단어 간 연관 관계를 따져 유창한 말을 만들어 낼 수 있으나 정보의 진실성까지 보장하는 것은 아니다. 챗GPT가 스스로 만든 지식에 과도한 신뢰를 보내는 환각 현상은 매우 위험한 단점이다. 데이터에 내재한 편견과 차별이 알고리즘과 AI 시스템으로 전이돼 불공정한 결과를 일으키는 점도 한계다.” -챗GPT를 구체적으로 어떻게 활용해야 할까. “우선 능력과 한계를 잘 이해해야 한다. 사후 검증할 수 있고 위험 요소가 적을 때 사용하는 것이 바람직하다. 가령 글쓰기나 그림, 작곡 등에선 활용도가 매우 높고 의료 분야에서도 의사의 진단을 보조하는 시스템으로 이용할 수 있다. 반면 자율주행 자동차나 자율형 살상 무기 활용은 아직까진 위험하다. 기본적으로 AI는 인간을 위한 도구다. 사람과 AI가 한 팀으로 일하는 것이 바람직하다. 자동화할 수 있는 업무는 AI가 수행하고 인간은 소통과 공감을 바탕으로 종합적인 판단이 필요한 업무에 집중하는 협업이 중요하다.” -개인정보 보호 우려와 윤리적 문제 등으로 AI 규제법 제정이 논의되고 있는데. “연구자 입장에선 과도한 걱정이 아닌가 싶다. 섣부른 규제는 AI 기술 발전에 필요한 연구까지 저해할 수 있다. 폐해와 부작용 등에 대해 충분히 분석하고 이를 극복하기 위한 연구를 활성화하는 것이 바람직하다.” -AI로 인해 일자리에 대변혁이 일어날 것이란 전망이 많다. “역사적으로 봐도 새 기술이 등장하면 사라지는 일자리가 있고 새롭게 부상하는 일자리가 있기 마련이다. 변화에 맞춰 훈련받고 적응하는 과정이 필요하다. 의사가 AI 때문에 일자리를 잃는 것이 아니라 AI를 잘 아는 의사와의 경쟁에서 밀려 실직하는 것이다. AI 시대에 맞춘 보편적 시민교육이 중요한 이유다.” -AI 시대의 시민교육은 어떤 것인가. “AI가 가져오는 변화에 적응할 수 있도록 컴퓨터과학과 AI에 대한 공교육을 충분히 제공해야 한다. 엔지니어가 자동차를 만들지만 운전은 아무나 할 수 있어야 하는 것과 같은 이치다. 세계 각 나라는 초중고 교육에서 컴퓨팅을 정규과목으로 비중 있게 다루고 있다. 우리나라는 2018년 교육과정 개편에서 정보 과목을 초등학교와 중학교 필수과목으로 의무화했지만 상대적으로 소홀한 편이다. 컴퓨팅을 가르칠 수 있는 전공 교사 양성도 시급한 문제다. 무엇보다 암기 위주의 교육에서 벗어나 비판적 사고력, 창의력, 소통 능력, 협동 능력을 배양하는 방향으로 교육 시스템이 바뀌어야 한다.” -AI 기술 진화의 바람직한 지향점은. “AI는 인간에게 도움을 주는 이기(利器)도 될 수 있고 흉기(凶器)도 될 수 있다. 사용하기에 달렸다. 인간을 위한 기술로 언제까지나 남아 있도록 노력해야 한다. 특히 기후변화 대응, 전염병 예방, 재난 방지 등 글로벌 난제 해결과 공익적 목적에 적극 활용하는 방안을 모색해야 한다. 그러기 위해선 AI 기술에 대한 통제를 놓쳐선 안 되며 윤리적 사용에 대한 깊은 성찰도 요구된다.” -1세대 소프트웨어 개발자이자 AI 연구자다. 컴퓨터도 흔치 않은 때였을 텐데 어떻게 전공하게 됐나. “대학 졸업 후 군에 다녀와서 우연히 컴퓨터를 접했는데 너무 재밌었다. 한국과학기술연구원(KIST)에서 개발자를 뽑는다길래 초창기 멤버로 들어갔다가 공부를 더 하고 싶어 미국 유학을 떠났다. 1981년에 박사 학위를 받고 휴스 인공지능 연구센터에서 4년을 근무하다 귀국했다. 1985년 카이스트 전산학과에 인공지능연구실을 설립하며 국내에서도 AI 연구를 시작했다. 1990년 인공지능연구센터가 설립돼 큰 연구비를 지원받아 휴머노이드 로봇, 문서 인식, 자연어 처리 등의 연구에 집중했다. 지금 전국의 인공지능대학원 등에서 연구를 이끄는 주역 중 상당수가 당시 내 제자들이다. 이후 알파고 등장을 계기로 2016년 대기업 7곳이 공동 투자하고 정부가 연구비를 지원해 지능형 챗봇을 연구하는 주식회사 형태의 인공지능연구원이 출범했지만 정치 상황이 혼란해 연구비 지원이 무산됐다. 개방형 AI 연구를 지향하는 ‘한국형 오픈AI’였던 셈인데 연구를 시작도 하지 못한 채 끝나 아쉽다.” ●김진형 명예교수는 ▲1949년생 ▲서울대 공학 학사 ▲미 UCLA 시스템공학 석사·전산학 박사 ▲카이스트 전산학과 교수, 인공지능센터 소장, 소프트웨어정책연구센터 소장 ▲ 한국정보과학회장, 공공데이터전략위원회 초대 위원장, 인공지능연구원 초대원장

서울시의회 더불어민주당(대표의원 송재혁, 노원6)이 주관한 의정역량 강화를 위한 전문가 강연 ‘미래변화’ 전문가 강연이 지난 2일 성황리에 마무리됐다. 강연은 혁신적인 정보기술 변화에 발맞춰 의원들의 AI 및 챗GPT에 대한 이해를 돕고 챗GPT의 활용을 통한 효과적인 의정활동 방안을 모색하고자 마련됐다. 챗GPT는 AI가 광범위한 분야에서 데이터와 정보를 대량 학습해 사용자의 질문에 대답하는 대화 형태의 문장을 생성하는 인공지능 서비스이다. 현재 빠른 속도로 진화를 거듭하고 있는 챗GPT는 질문에 대한 답변, 정보 검색 및 요약, 번역, 글쓰기 지원 등의 서비스를 제공해 다양한 분야에서 널리 활용되고 있다. 문재인 정부 대통령비서실 디지털 소통센터 센터장 출신이자 ‘챗GPT와 오픈AI가 촉발한 생성 AI 혁명’의 저자인 강정수 박사가 진행한 이날 강연은 ▲챗GPT의 개념과 기능 ▲챗GPT 할용방법과 실제 적용사례 ▲챗 GPT의 한계와 미래 등이 다양한 사례와 함께 소개됐다. 질의응답에서는 기술적 진보에 따른 계층간 불평등 심화, 윤리적 한계, 제도적 보완점 등이 폭넓게 논의되기도 했다.전문가 강연에 참석한 의원들은 “발전하고 있는 챗GPT 등 AI기술의 현재와 활용영역을 이해할 수 있는 유익한 시간이었다”라며 “사람의 영역을 확장하는 도구로서 AI의 장점을 최대한 활용해 의정활동에 활용할 수 있는 방향을 고민할 것”이라고 강연 후 소감을 밝히기도 했다. 송 대표의원은 “소수야당으로서 효과적이고 합리적인 의정활동을 위해서는 의원의 전문성 향상이 가장 기본”이라고 강조하며, 의원들에게 변화하는 환경에 부응하고 내일을 준비하는 의정활동을 위한 노력을 주문했다. 제318회 임시회 기간 중 진행된 이번 강연은 의원들의 챗GPT에 대한 높은 관심을 확인할 수 있었으며, 서울시의회 더불어민주당은 다양한 교육과 세미나를 통해 의원역량 제고를 위해 노력할 것이라고 밝혔다.

치유사 자격증 발급, 청년농 소득에 연결농업의 가치, 교육·복지 서비스로 확대“덜 고통 도축” 사육 복지 선진국형 전환 AI 대비 닭 품종 국산화 위해 종계 개발달걀 부족 예방, 식량 안보 대응가루쌀 산업 등 5대 분야 선정신속·실질 효과 위해 횡적 협업 지금 농촌은 인구 절벽과 기후 변화, 식량 안보까지 모든 게 비상이다. 새달 취임 1년을 맞는 조재호 농촌진흥청장은 “‘혁신’하지 않으면 살아남을 수 없는 상황이 됐다”면서 “농업 가치를 식량 공급에서 확대해 교육·복지 등 사회서비스와 연계한 치유농업 인증제 도입으로 농가의 새 수익원을 창출하는 동시에 사회에도 기여할 것”이라고 밝혔다. 조 청장은 지난해 식품 물가 상승의 기폭제가 된 사료값 급등 문제를 언급하며 “수입 사료 가격이 많이 올라 농가에 부담이 컸는데 이런 일이 반복되지 않도록 아예 국내 종자생산단지를 만들어 국내에서 조사료를 보급하고, 수입 품종이 대부분인 닭 품종의 국산화를 위해 종계 개발 3단계 추진해 고병원성 조류 인플루엔자(AI)으로 인한 달걀 부족 문제로부터 국내 양계 산업을 안정시키고 식량 안보 문제에도 대응하겠다”고 강조했다. 치유농업 인증제 상반기 국회 통과 유력치매·학폭 등 정신건강 치유에 상당 효과 조 청장은 지난달 28일 전북 전주시 농진청 집무실에서 가진 서울신문과의 인터뷰에서 “농진청이 하는 일이 연구개발(R&D)이고 R&D의 핵심은 혁신”이라면서 “인구 구조도 변하고 양적 팽창을 통해 성장하는 시기는 이미 지났기 때문에 결국 혁신을 통해 성장의 동력을 마련하지 않으면 안 된다”며 이렇게 말했다. 조 청장은 “가루쌀을 비롯해 시급한 과제들은 횡적으로 협업해야 속도도 빨라지고 실질적인 효과도 생긴다”며 시범 재배에서 수확, 환경관리, 가공품 제작까지 연결해서 동시 진행돼야 농가들에게 보급이 제대로 될 것이라고 판단했다. 이를 위해 올해 제3차 농촌진흥사업 기본계획(2023~2027년)에서 횡적협업을 통한 농촌정책 현안 해결을 위해 임무 중심의 정책주도형 프로젝트인 ‘종횡무진 프로젝트’ 5대 분야를 선정해 추진하고 있다. 5대 분야는 ▲밭작물 스마트기계화 촉진 ▲가루쌀 산업 활성화 ▲사료작물 자급률 제고 ▲국가 농작물 병해출 예찰·예측체계 개선 ▲치유농업 확산 자원 융합모델 개발이다.조 청장은 이중 치유농업 확산의 중요성을 언급하며 치유농업에 대한 올바른 정보 제공과 신뢰를 구축하기 위해 ‘우수 치유농업시설 인증제’가 오는 6월까지 국회를 통과할 것이라고 말했다. 그는 “농업은 작물 공급 역할만 하는게 아니라 정신 건강 치유에도 많은 효과가 나타나고 있다”면서 “특히 고령농, 치매 환자, 학교폭력이 심한 학생들, 정신지체장애자 등에 대한 정기적인 프로그램 운영으로 정서 안정에 상당한 효과가 있다는 것을 확인했고, 치유농업사 자격증 제도를 만든 데 이어 안심하고 이용할 수 있는 치유농업시설 인증 제도를 도입하기 위해 법령 개정 중으로 국회 법제사법위원회에 가 있는 법안은 상반기에 통과가 될 것”이라고 설명했다. 조현병·우울증 환자 치유 해외서 확인재정 부담 안되게 교육·복지PG 연계농생고·농수산대서 치유농업 교육 농진청에 따르면 노르웨이와 이탈리아, 중국에서 조현병과 우울증 환자군 대상 치유농장 활동 효과가 잇따라 확인됐고 치유농업 강국인 네덜란드는 치유농업 전문인력 양성을 위해 고교직업교육 등 등록된 교육훈련기관에서 6단계 전문인력 양성체계를 갖춰 운영하고 있다. 조 청장은 농업생명과학고, 한국농수산대 등에서 치유농업 교육과정을 개설해 전문가를 양성하는 것이 필요하다고 봤다. 조 청장은 “재정 부담이 되지 않도록 아동과 청소년, 치매노인 건강 예산 등을 가진 교육부, 보건복지부 프로그램과 연계하는 제정안이 현재 추진 중인데 국회 반응도 좋아 잘 풀릴 것 같다”면서 “자격증이 나오면 일자리와도 연결되고 청년농들의 경우 농산물로 수익을 내기가 쉽지 않은 데 이런 제도를 겸하게 되면 작은 규모지만 6차 산업처럼 소득도 어느 정도 보장되는 만큼 상당한 의미가 있다고 생각한다. 인증 기준은 이미 연구용역을 다 마쳤고 법 시행만 되면 그대로 적용할 계획”이라고 전했다.조 청장은 지난해 사료값 폭등에 따른 농가의 피해를 줄이기 위해 국내 종사생산단지를 만드는 등 사료작물 자급률 제고에도 박차를 가하기로 했다. 그는 “조사료 종자를 대부분 수입해서 쓰는데 가장 질이 좋은 조사료 ‘알팔파’를 최근 천안에서 시범 재배에 성공했다”면서 “새만금 간척지에서도 생산이 확인되면 농가 보급을 위해 지역적응 시험 후 올 하반기에 품종 출원할 예정”이라고 말했다. 같은 맥락으로 AI로 인한 살처분으로 치솟는 달걀값 안정 등을 위해 수입 품종 대신 국산 보급형 닭 출원을 위한 종계 개발 개발로 조사료와 더불어 자급률을 높일 예정이다. 2025년까지 덜 고통스럽게 도축하는축종별 동물복지 가이드라인 마련쌀 재배·소 방귀·분뇨서 탄소 저감 위해저메탄 사료 먹이고 ‘그린라이스’ 개발 이와 함께 동물복지 정책 확산을 위해 덜 고통스럽게 도축하는 등 국내 환경에 적용 가능한 축종별 동물복지 가이드라인을 올해부터 2025년까지 만들겠다고 밝혔다. 조 청장은 “너무 고통스럽게 도축하는 행위는 비윤리적이고 가축도 보호 대상인 만큼 기준이 필요하다고 생각한다”면서 “법 적용이 확대되고 있는 만큼 한국에 맞는 기준을 가이드라인을 만들어 소, 돼지, 닭 등의 사육 복지 기준을 축산 선진국형으로 바꿔나갈 것”이라고 강조했다. 조 청장은 농촌 디지털화와 무인로봇과 관련, “농작업이 스마트화, 기계화돼 있지 않으면 청년농들을 포함해 일을 하려 하지 않기 때문에 기계 작업이 가능하도록 농법과 종자를 바꿔야 한다”면서 “98% 기계화 돼 있는 논 작업과 달리 밭이 문제인데 특히 작업이 힘든 양파, 마늘 등의 파종·수확에 쓸 수 있도록 로봇 기계들에 맞춤형 재배법과 종자를 만드는 연구개발을 하고 있다”고 말했다. 특히 자율트랙터처럼 파종과 수확 때 로봇 활용이 관건이 될 것으로 봤다. 조 청장은 “인력이 부족해 아우성인데 기계가 대신하는 시대가 올 것”이라면서 “개발 중인 무인 제초기는 국방부에서 탄약고를 지키기 위한 제초작업에 필요해 협업하자는 제안이 있어 연구개발 중”이라고 전했다. 조 청장은 탄소중립 이슈에 대해서도 “기후변화 이슈는 탄소 배출 등 농업이 가장 많은 영향을 받는다”면서 “쌀 재배와 소 방귀, 분뇨 등에서 탄소가 많이 배출되는데 농약을 적게 써서 탄소배출량을 줄이는 ‘그린라이스’를 개발·보급하고 사육기간 단축과 저메탄 사료를 먹여 탄소를 적게 배출하는 연구도 하고 있다. 비싸면 보급이 안되는 만큼 기술 표준을 만들려고 한다”고 말했다.꿀벌 실종, 기후 변화보다 운용 문제월동기 이전 40% 벌 사망…혹사 안돼자연 벌 수분 많아…공익직불금 어려워응애 방제제 바꾸고 뒤영벌·증축장 지원 반면 조 청장은 ‘꿀벌 실종 사태’에 대해 기후변화 때문이라며 양봉 농가들의 공익직불금 요구 주장에는 선을 그었다. 일부 농가의 경우 응애 방제 기간에 수익을 올리려 꿀벌을 혹사시킨 책임이 있고 양봉이 아닌 자연 상태의 꿀벌이 수분 등 생태계 유지에 더 기여했다는 것이다. 조 청장은 “월동기 피해 조사를 하고 있는데 지난해 조사를 보면 월동기 이전에 40%의 벌이 이미 체력이 떨어져서 죽었다”면서 “꿀벌의 체액을 빨아먹는 해충인 응애의 방제 저항성이 생긴 것도 있지만 더 근본적인 문제는 양봉 농가가 최근 굉장히 늘면서 벌들을 (꿀 채취를 위해) 방제 시기가 지나서까지 혹사 당해 환경 변화에 취약해져 예전보다 빨리 죽을 수 있다는 점”이라고 지적했다. 조 청장은 “응애 방제제를 바꾸고 뒤영벌을 비롯한 좋은 벌 공급을 위해 증축장을 만들어 지원하고 있지만 기후변화보다는 재배 사육 방법과 운용 방법의 문제가 좀 더 문제가 있고 월동기에 일벌이 죽는 건 새 변수로 보기 어렵다”면서 “자연 재해로 꿀벌 생태계가 파괴됐는지는 과학적으로 증명된 게 없다는 생각”이라고 말했다. 이어 “기후변화에 따른 재해 보험을 받고 싶겠지만 양봉 농가들이 키우는 꿀벌보다 (수분을 해주는) 자연 상태의 꿀벌들이 훨씬 많고 공익 목적보다는 소득을 위해 기르는 만큼 공익직불금 대상으로 보기는 어렵다”고 판단했다.가루쌀로 카스테라·쿠키 100% 가능식감 우수…밥쌀 과잉구조 해소 도움 한편 조 청장은 쌀 과잉 생산을 줄이는 대신 99% 수입하는 밀을 대체할 가루쌀의 밀 적합성 논란에 대해 “가루쌀의 최대 장점은 글루텐이 없다는 점인데 제과점에 맡겨보면 비발효빵인 카스테라, 쿠키의 경우 100% 가루쌀로만 만들 수 있고 식감도 유사하거나 더 우수하다”면서 “다른 제품들은 밀과 쌀가루를 섞어쓸 수 있는데 글루텐 성분에 민감한 사람 입장에서는 적게 들어가니 도움이 되고 밥쌀 과잉 구조에서 밀 성분을 갖춘 가루쌀의 보급이 많아지면 소비가 적은 밥쌀이 줄어들어 의미가 있다”고 강조했다. 밀 단백질의 80%를 차지하는 글루텐은 소화불량, 알레르기 등의 부작용 논란이 있어 왔다. 농진청은 스타벅스에 납품하는 미듬영농조합 등 협력업체와 ‘바로미2’ 품종을 이용해 다양한 쌀빵, 쌀과자를 제조해 판매하고 있으며 적합 제조법 확립을 위해 관련 기술을 연구하고 있다. ‘바로미2’는 수분흡수가 빨라 반죽시간이 짧고 빵의 질감이 촉촉하고 부드럽다고 농진청은 전했다.

“챗GPT 등 거대 언어 모델이 출현함과 동시에 다양한 유형의 피해가 발생할 수 있습니다. 또는 이 문제와 관련된 다양한 것들을 측정하는 사회 기술 지표(벤치마크)가 필요합니다.” 롭 라이히 스탠퍼드대 인간중심인공지능연구소(HAI) 부소장은 기자와의 단독 인터뷰에서 챗GPT 출연 이후 세계는 큰 정치사회적 변화를 겪고 있으며 전 세계가 그 변화를 받아들일 준비가 안 돼 있다며 이같이 말했다.●라이히, 기술 발전 문제 탐구 사상가 라이히 교수는 “사실 구글 등 많은 회사들이 비슷한 언어 모델을 갖고 있기 때문에 챗GPT의 출현 이후 오픈AI의 직원들도 많이 놀라고 있다”며 “앞으로도 (인공지능 개발 경쟁으로 인해) 많은 변화가 있을 것”이라고 말했다. 이 인터뷰는 스탠퍼드대 HAI에서 개최한 ‘임베디드 윤리 콘퍼런스’ 직후에 이뤄졌다. 라이히 교수는 스탠퍼드대 HAI 부소장이자 정치학과 교수로 재직 중이다. 그는 기술의 발전이 사회에 미치는 영향과 파생되는 문제점을 탐구하는 선구적 사상가로 꼽히며 뛰어난 강의로 스탠퍼드대에서 가장 우수한 교직원에게 수여하는 월터 J 고어즈 상 등을 수상했다. 지난해엔 실리콘밸리 빅테크 기업과 그 속에서 일하는 엔지니어들의 사고방식을 다룬 ‘시스템 에러’를 펴내기도 했다. 라이히 교수가 스탠퍼드대 HAI 부소장으로 재직 중인 사실 자체가 인공지능 연구의 글로벌 센터로 불리는 스탠퍼드대가 기술과 사회적 영향 그리고 윤리의 균형을 잡기 위해 노력 중인 사실을 보여 준다. 라이히 교수는 챗GPT 등 생성 AI가 의학, 교육, 디자인, 법률, 예술, 일 등의 분야를 어떻게 바꾸고 영향을 미치는지를 다룬 ‘생성 AI: 스탠퍼드 HAI의 관점’이란 리포트를 발표한 바 있다. 12명의 스탠퍼드대 교수 및 글로벌 리더들의 생각을 담은 리포트로, 출간 직후부터 큰 파장을 일으켰다. 라이히 교수는 이 리포트에서 GPT와 같은 생성 AI는 현재 교육계에 재앙이며, 교육적 환경과 전문적 환경에 적합한 규범이 필요하다고 역설한 바 있다. 라이히 교수는 교육계에 생성 AI가 부정적 영향을 미칠 것이란 주장의 배경을 묻자 “교육 환경과 작업 환경에는 중요한 차이점이 있다. 지금 테크 기업들의 경쟁적인 발표는 문서의 완성이나 보고서 작성 등 생산성 향상에는 기여하지만 교육 환경에는 부적절하다. 아무리 챗GPT를 기반으로 인간이 내용을 추가한다고 해도 학생들이 생각하는 법을 배우는 건 아니다”라고 지적하고 “아직 지식의 형성 과정을 배우지 못했거나 창작의 과정을 알아야 하는 학생들은 생성 AI를 학습의 보조 수단으로 사용하기보다 학습의 대체 수단으로 사용할 것”이라고 말했다. 그는 또 “학생들은 GPT로부터 얻은 지식을 자신이 가지고 있던 기존의 지식과 섞어 증강(augmented)하는 게 아니라 이를 대체하려 들 것이다. 전문적인 세팅과 교육 목적의 세팅은 달라져야 한다”면서 “챗GPT 등 생성 AI는 교육 분야에는 재앙일 수 있으며 적절한 규범이 필요하다”고 재차 강조했다.●업계, 책임 있는 예방조치 없어 우려 생성 AI가 교육계에서 일으킬 재앙을 막기 위해선 다양한 업계 협력을 통해 새로운 규범을 마련해야 한다고 말했다. 이 리포트에서 라이히 교수는 기업들이 최신 모델 출시를 위해 경쟁하는 환경에서 윤리적, 사회적 영향이 간과될 우려가 있기 때문에 관련 규범 개발이 시급하다고 강조했다. 같은 리포트에서 피터 노비그(구글연구원 및 나사 전산과학 부문 책임자) 스탠퍼드대 HAI 특별교육연구원도 “학습자 수준에 맞춘 인공지능 강의 내용과 속도가 가장 최선의 학습 방법이다. 하지만 교육자가 부족하다. 모든 학습자가 높은 상호작용이 이루어지는 환경에서 교육을 제공받기에는 실질적으로 어려움이 존재한다”며 교육 시스템의 불평등이 앞으로 문제로 대두될 것이라고 예측했다. 라이히 교수가 GPT4 등 생성 AI에서 발생할 문제가 인공지능 자체의 문제보다 업계의 ‘과도한 경쟁’에서 나올 것이라고 전망한 것은 무리가 아니다. 지난달 10일 오픈AI의 정식 GPT4 출시 전후로 지난달은 ‘10년 같은 한 달’이라는 평가를 받을 정도로 AI 역사에 남을 만한 개발과 발표가 이어졌다. 실제 GPT4 공개 직전 구글은 구글 워크스페이스에 AI를 통합한다고 발표했으며 이후엔 마이크로소프트가 엑셀, 파워포인트, 워드 등의 오피스365에 생성 AI 프로그램인 ‘코파일럿’ 기능을 내장, 출시한다고 발표해 서비스 출시 경쟁에 불을 지폈다. 이후 지난달에 어도비, 엔비디아, 줌, 골드만삭스 등이 생성 AI 기능을 내장한 제품을 마치 기다렸다는 듯 공개했다. 그야말로 기업들에 ‘생성 AI 황금기’가 본격적으로 개막된 것이다. 이를 두고 빌 게이츠 게이츠재단 이사장은 ‘새로운 AI 시대가 개막했다’는 제목의 게이츠 노트를 통해 “AI 발전은 마이크로프로세서, 개인용 컴퓨터, 인터넷, 휴대전화의 탄생만큼이나 근본적인 변화”라며 “AI는 사람들이 일하고, 배우고, 여행하고, 의료 서비스를 받고, 서로 소통하는 방식을 바꿀 것이다. 모든 산업이 이를 중심으로 재편될 것”이라고 평가했다. 하지만 지나친 개발 및 출시 경쟁으로 인한 ‘피로’를 호소하고 역작용을 우려하는 전문가들의 목소리도 높아졌다. 실제 미국 비영리단체 ‘퓨처오브라이프 인스티튜트’는 ‘대규모 AI 시스템’ 개발 중단을 촉구하는 공개서한을 지난달 29일(현지시간) 발표했다. 전 세계 AI 연구소에 “GPT4보다 강력한 AI 시스템에 대한 훈련(training)을 최소 6개월 동안 멈추라”고 요구하는 내용이다.●머스크·유발 하라리 등 1200명 서명 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동 설립자, 에마드 모스타크 스태빌리티AI CEO 등 기업가를 포함해 요슈아 벤지오 몬트리올대 교수, 스튜어트 러셀 버클리대 교수, 유발 하라리 히브리대 교수, 앤드루 양 등 저명한 교수, 정치인 등 총 1200여명이 서한에 서명했다. 대규모 AI 시스템 개발 경쟁이 무분별하게 진행돼 인류에 위협을 초래할 수 있다는 이유다. 이들은 이번 성명에서 AI 개발 일시 중단을 계기로 독립된 외부 전문가가 엄격하게 감독하는 ‘발전된 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜’을 공동으로 개발해야 한다고 주장했다. 첨단 AI 시스템을 더 정확하고, 안전하고, 투명하고, 신뢰할 수 있게 만들어야 하며 AI 개발자는 정책 입안자들과 협력, 강력한 ‘AI 거버넌스 시스템’을 만들어야 한다고 주장했다. 이는 라이히 교수의 주장과도 일맥상통한 의견이다. 순다르 피차이 알파벳(구글 모회사) CEO도 이에 동의했다. 그는 지난달 31일 뉴욕타임스 팟캐스트 ‘하드포크’와 진행한 인터뷰에서 “공개서한의 정신은 충분히 가치 있다고 생각한다”며 “AI는 제대로 규제(regulate)하지 않기에는 너무 중요한 영역”이라며 “이런 논의가 진행되고 있다는 사실이 기쁘다. 개인정보 보호 규정을 제대로 마련하는 것부터 (논의를) 시작하면 좋을 것”이라고 말했다. 오픈AI가 촉발한 치열한 AI 기술 개발 경쟁과 함께 사회에서 제대로 받아들이고 활용할 수 있도록 하는 ‘거버넌스 및 규칙’ 논의도 본격적으로 시작되는 형국이다. 글·사진 더밀크 대표

경기도가 인공지능 콜센터, 무장애 민원 서비스 등 행정혁신 분야에도 인공지능 도입하고, 올 하반기에는 지피티(GPT) 등 관련 미래기반 산업 육성을 위해 500억원 규모의 펀드 조성을 추진한다. 경기도는 21일 이런 내용을 담은 ‘경기지피티(GPT) 추진 계획(로드맵)’을 발표하고 이달부터 즉각 시행에 들어간다고 밝혔다. ‘경기지피티(GPT)’는 내부적으로는 행정의 효율화를 달성하고, 외부적으로는 도민과 산업의 기회를 확대하기 위해 경기도 실정에 맞게 ‘생성형 인공지능(AI)기술’을 활용하는 경기도의 정책과 시스템을 말한다. 도는 행정1부지사를 단장으로 하는 ‘경기지피티 전담조직(TF)’을 구성해 이달 말 전체 회의를 진행할 계획이다. 전담 조직은 관련 실·국장과 공공기관장, 전문가로 이뤄진 싱크탱크 그룹과 총괄·지원, 도민 기회, 산업 기회, 행정혁신, 공론·입법 등 실무 추진 5개 분과로 구성될 예정이다. 도민참여 기회 확대를 위해서는 발달장애인 15명을 대상으로 인공지능을 활용한 예술교육과 활동 결과물 전시·확산을 추진하는 ‘지피티 도민창작단’ 사업을 추진한다. 가장 소외된 사람들을 포함해 모든 사람이 인공지능을 활용하는 사회라는 목표 속에 진행될 예정이다. 현장 목소리를 청취하고 이를 바탕으로 인공지능(AI)산업 발전을 위한 정책적 지원 방안을 모색하기 위해 도내 인공지능(AI)기업, 관련 대학, 연구기관 등이 참여하는 ‘GPT 산학연관협의체’를 발족하고 간담회를 추진한다. 하반기 조성 목표인 ‘(가칭) 미래성장펀드’는 경기도 내 생성형 인공지능(GPT), 빅데이터 등 미래기반 산업 분야 유망 새싹 기업 등을 대상으로 약 500억원 규모의 자금을 조성해 지원하는 내용이다. 경기도가 50억 원을 출자하고 나머지 450억 원을 민간에서 유치하는 방법으로 펀드를 만들어 투자할 예정이다. 펀드 조성과 더불어 도는 지피티(GPT) 산업을 집중적으로 육성하기 위해 관련 새싹 기업 등을 대상으로 투자설명회(IR데이)도 진행한다. 행정혁신 분야에서는 경기도와 KT가 공동 추진하는 인공지능(AI) 기반 콜센터가 있다. 현재 관련 연구가 진행 중으로 도는 2024년부터 인공지능 기반의 경기도형 콜센터 시스템 개발용역에 착수할 방침이다. 노인이나 장애인 등 나이와 신체의 장벽 없이 누구나 음성이나 단어를 통해서 정확한 서비스를 제공받을 수 있는 무장애(Barrier-free) 민원 서비스도 추진된다. 김동연 지사는 “경기GPT는 경기도를 전 세계 인공지능 수도로 만들어 대한민국을 인공지능 강국으로 이끌기 위한 첫걸음”이라면서 “일자리 불안, 격차 확대, 윤리적 논란 등 문제점도 적극적으로 보완해가겠다”라고 말했다.