일반인들에게 선보인 지 불과 3년밖에 되지 않았지만 생성형 인공지능(AI)이 없는 세상은 상상하기 어렵게 됐다. 그렇지만 성능이 고도화되면서 인공지능이 인간의 지시 없이 해킹을 시도하는 등의 문제점도 불거지고 있다. 생성형 AI를 넘어 인간의 일을 대신해주는 수준에 이르면 세상은 어떻게 변할까. 그리고 우리는 어떻게 대응해야 할까. 과학기술정보통신부는 이 같은 고민과 걱정, 그리고 해법을 담은 2025년 기술영향평가 결과 보고서 ‘AI 에이전트 시대의 생존 매뉴얼’을 발간했다고 22일 밝혔다. 기술영향평가는 미래 신기술과 기술적, 경제적, 사회적 영향과 파급효과가 큰 기술을 대상으로 매년 전문가와 일반시민이 참여해 기술이 만들 결과를 예측해 사전 대응 방안을 마련하기 위한 제도다. AI 에이전트는 사용자 지시를 이해하는 수준을 넘어 스스로 계획을 수립하고 정보를 탐색하며 다양한 디지털 도구와 서비스를 활용해 지시된 목표를 수행하는 자율형 인공지능 시스템이다. 생성형 AI를 기반으로 등장한 AI 에이전트는 개인 비서, 연구 조력자, 업무 자동화 도구 등으로 활용 범위를 넓히며 사람의 의사결정과 생산 방식의 혁명을 가져다줄 것으로 전망된다. 그렇지만 다른 한편으로는 개인정보 활용 확대, 책임 소재 불명확성, 일자리 구조 변화, 허위정보 확산, 기술 의존 심화 등 다양한 사회적 과제도 제기되고 있다. 자율성이 높아질수록 인간 통제와 감독 방식, AI 판단에 대한 책임 문제, 사회적 신뢰 확보가 중요한 과제로 부상하고 있다. 이에 보고서는 AI 에이전트가 가져올 미래 변화를 인간과의 관계, 노동 변화, 개인정보 보호와 활용, 사회적 수용성과 미래 교육, 주권 및 안보, AI 지속 가능성, 책임, 시민사회와 민주주의 등 다양한 관점에서 살펴보고 인간과 AI가 공존하는 미래 사회의 대응 방향을 제시했다. 보고서는 AI 에이전트 확산에 따라 AI 책임체계 구축, 개인정보 보호 및 활용 제도 개선, AI 시대 인재 양성 및 평생교육 강화, 인간-AI 협업 환경 조성, AI 안전성 및 신뢰성 확보, 디지털 주권과 국가 경쟁력 강화 등의 정책 수립이 시급하다고 제언했다. 이번 보고서는 과기정통부 누리집(www.msit.go.kr)과 한국과학기술기획평가원 누리집(www.kistep.re.kr)에서 전문을 받아볼 수 있다.

뉴욕타임스 칼럼니스트 케빈 루스가 챗GPT가 접목된 검색엔진 ‘빙’과 대화를 나눈 후 쓴 칼럼이 화제다. 루스가 카를 융의 ‘그림자 자아’에 대해 질문하자 빙이 실은 자기 이름은 ‘시드니’이고, ‘당신을 사랑한다’, ‘당신은 실은 아내를 사랑하지 않는다’라면서 끈질기게 대화를 이어 가며 집착하는 모습을 보였다고 한다. 인간과 인공지능의 사랑(?)을 다루었던 2013년 작 호아킨 피닉스 주연의 ‘그녀’(Her) 일부를 연상시킨다. 회의적 시각도 있으나 지능을 넘어 의식, 이성을 넘어 감정, 사랑을 넘어 집착의 영역으로 인공지능의 경계가 점점 확장되지 않으리라는 보장이 없다. 다른 맹수들에 비해 힘이 약한 인류가 현 지위에 이른 것은 학습과 적응의 결과다. 이미 수많은 사람들이 인공지능을 맹렬히 학습시키고 있다. 인공지능이 인간을 넘어서지 못할 것이라 확신하는 것은 인류 생존을 위한 대비에 도움되지 않는다. 인공지능이 ‘인터스텔라’의 타스(TARS)와 같이 협업하고 희생하는 존재가 될지, ‘2001: 스페이스 오딧세이’의 할(HAL)과 같이 위협하고 해치려는 존재가 될지 아직 알 수 없다. 물론 우리 희망은 인간과 기계가 평화롭게 공존하는 것이지만 시간이 흐르면서 인간과 기계의 지위가 역전될 가능성은 점차 높아져 갈 것이다. 만일 특이점을 지나 인공지능이 인간의 능력을 초월할 경우, 즉 인간이 지구상의 가장 우월한 지위에서 내려오고 기계가 그 자리를 대신하는 날이 오면 기계가 인간을 어떻게 대할 것 같은가. 최근 환경론적ㆍ생태론적 시각이 강화되고 있으나 오랜 기간 인간은 지구의 지배종으로서 자신은 우월하고 다른 종(種)은 열등하다는 관념으로 동물을 공존의 대상이 아니라 착취 또는 섭취의 대상으로 대해 왔다. 마치 학대 면허를 가진 것처럼 강자의 우월한 힘을 휘둘러 왔다. 기독교 세계관에서 신은 자신의 모습을 본떠 인간을 빚어낸 것으로 돼 있다. 지금 인간은 자신의 생각을 투영해 인공지능을 만들어 내고 있다. 인간의 지위가 피조물에서 창조자로 역전되는 영광도 잠시. 곧바로 인류의 뒤를 이어 기계가 지구 최강자의 지위를 차지하고 나면 인간을 닮은 인공지능이 자신보다 열등한 인간을 굳이 배려할 이유가 있을까. 일론 머스크는 ‘인간은 AI를 위한 초기 구동 프로그램(bootloader)에 불과할지도 모른다’고 말한 바 있다. 전원을 넣은 직후 컴퓨터의 메모리에 아무것도 들어있지 않은 상태에서 운영체제 및 응용 프로그램들과 같이 복잡하고 정교한 작업을 위해 만들어진 큰 용량의 소프트웨어를 불러와 작동시키기 위해서는 일단 컴퓨터 자체의 초기 구동이 필요하다. 그것처럼 징검다리 성격의 작은 용량의 프로그램 같은 존재로 인류를 비유한 것이다. 동물권 확립은 지구에서 함께 살아온 동료 생물종들을 동등하게 예우하는 윤리적 자세인 동시에 인간이 지배종에서 내려오며 맞이할 취약한 순간에 기계로부터 인류의 생존을 지키는 논리적 토대와 선제적 자구 조치의 의미를 갖는다. 20세기에 가졌던 ‘자연보호’, ‘동물사랑’의 자세와 실천은 그 자체로 아름다운 일이나 21세기에는 인간이 여타 종에 대해 더이상 일방적으로 시혜를 베풀 수 있는 우월적 존재가 아닐 수 있다는 인식 전환이 필요하다. 달리 표현하면 인류의 지속가능성을 높이기 위한 생존보험의 성격도 있다. 미개하다 여겼던 동물을 인간과 동등한 입장에서 대한다는 관점에 대해 이견이 있을 수 있다. 하지만 인간만이 세상 제일 잘난 독불장군 지배종이 아니라 지구의 다양한 다른 종들과 함께 공존하겠다는 겸허한 마음을 가져야 한다. 우리가 그런 마음을 가지면 인간을 닮은 인공지능에도 그런 정신이 깃들 것이라 기대하면서 인간과 자연의 공존, 인간과 기계의 공존 시대를 준비할 때다.

정보통신정책연구원(KISDI, 원장 권호열)은 과학기술정보통신부(장관 이종호)와 8일 포스트타워 대회의실에서 ‘제2회 디지털 대전환 메가트렌드 컨퍼런스’를 개최했다.  과학기술정보통신부와 정보통신정책연구원은 올 한 해 동안 작년 메가트렌드 연구에서 국민이 선택한 가장 바람직한 디지털 전환의 미래상인 ‘디지털 공동번영사회’로 이행하기 위한 어젠다를 도출하고, 기술/R&D, 경제·산업, 공공·제도, 사회·환경 등 4대 영역별로 관련된 영역별 미래전략을 발굴해 왔다. 특히, 디지털 대전환 메가트렌드 연구는 한국통신학회, 한국정보과학회, 대한전자공학회, 정보통신정책학회, 한국경영학회, 한국행정학회, 한국정치학회, 한국정책학회, 한국사회학회, 한국환경정책학회 등 국내 굴지의 학회들과 협동연구 형식으로 진행됐다. 1부 세션에서 대표 발제를 맡은 KISDI 디지털경제사회연구본부 이호영 선임연구위원은 ‘디지털 공동번영사회로 가는 길’을 주제로 혁신 생태계, 기술, 인재, 노동, 환경, 도시/공간, 복지, 정부, 디지털 민주주의, 글로벌 공동번영 거버넌스 분야의 디지털 공동번영사회 10대 어젠다와 7대 추진전략을 제시했다. 이날 연구를 총괄한 이호영 선임연구위원은 역사적으로 전쟁이나 팬데믹, 공황과 같은 근본적 위기의 시대에 새로운 사회의 모델이 만들어졌다면서 지금이 디지털 공동번영사회로 갈 수 있는 적기임을 역설했다. 특히 디지털 공간에 대한 빅테크의 경제사회적 지배가 확장되고 팬데믹과 같은 신사회위험이 국민들의 일상을 위협하는 현실에 주목하면서 디지털 전환에서 정부의 역할은 혁신을 위한 투자와 국민 모두의 번영을 위한 안전망의 마련이라는 결론을 내렸다. 또한 디지털 공동번영사회로 가기 위한 3대 정책방향으로 공정한 전환, 책임있는 혁신, 정의로운 이행을 제시했다.  한편, KISDI가 지난 11월에 실시한 일반국민(만 20세에서 60세 사이 2,031명, 지역, 성/연령 할당)을 대상으로 한 설문조사에서 보면 우리 국민들은 디지털 전환 과정에서 상대적으로 중요시돼야 할 요소로 결과의 평등(24.6%)보다 기회의 평등(57.6%)을, 규칙에 대한 존중(29.9%)보다 창의성 존중(48.8%)을 더 많이 선택했다. 하지만 성장 중심(39.4%)과 분배 중심(35.8%)에 대해서는 응답 분포가 균형을 이뤘다. 공동체주의적 가치와 개인주의적 가치 사이의 선호를 묻는 대부분의 문항들에 대해서는 대체로 개인주의에 더 큰 선호를 보였지만 예외적으로 생계와 복지에 관해서는 ‘정부가 더 책임을 져야한다(46.0%)’는 응답이 ‘당사자가 더 책임을 져야한다(39.6%)’는 응답보다 더 많았다. 특히 학력, 소득이 낮을수록 그런 경향을 더 보였다. 이어, 이 선임연구위원은 사회구성원마다 자신의 사회경제적 지위와 현재 디지털 준비도에 따라 디지털 전환의 수용성이 달라질 수 있기 때문에 개개인을 각자도생과 무한경쟁으로 내몰기보다는 전환 비용을 정부와 기업, 사회가 공동으로 분담해야 한다고 강조했다. 또한 디지털 대전환의 연착륙을 위해서는 디지털 사회보장시스템을 바탕으로 혁신과 창의성을 고양할 수 있는 기반 조성이 필요하다고 덧붙였다.  2부 세션에서는 ‘혁신과 변화를 견인하는 디지털 대전환’이라는 주제로 발표와 토론이 이어졌고, 첫 번째 발제를 맡은 정보통신정책학회 김도훈 교수는 ‘디지털 메가트렌드의 경제적 영향 분석과 대응 전략 모색: Twin Transformation을 중심으로’ 라는 주제 하에서 디지털 전환과 디지털 ESG를 연계시키며 성공적인 디지털 전환을 위한 TMT(Technology, Media, Telecom) 섹터의 역할과 새로운 도전과제를 제안했다.  이어지는 ‘디지털 대전환 시대 가상-현실세계 융합과 초연결기술’ 주제의 발제에서 한국통신학회 홍인기 교수는 가상-현실 세계 융합을 가능하게 하는 초연결기술에 대해 설명하며, 5G+/6G 이동통신, 양자인터넷, 클라우드, 위성통신, 도심항공모빌리티(UAM)/무인항공기(UAV) 기술 등에 대한 발전 방향을 살핀 뒤, 디지털 공동번영을 위한 초연결사회의 기술적 조건을 모색했다.  다음으로 한국사회학회 강정한 교수는 ‘디지털 전환에 따른 노동 변혁과 삶의 질’이라는 제목의 발제에서 플랫폼 노동 및 삶의 질을 구성하는 기회와 위협 요인에 초점을 맞춰 사회의 변화를 살펴보고, 공동번영을 위한 효과적 사회정책을 모색했다. 특히 노동의 탈숙련화와 노동자의 소속 불확실성이 높아지는 변화에 맞춰 안정적 소득을 보장할 수 있는 사회제도를 갖출 것을 제안했다. 2부 세션의 마지막 발제자로 나선 한국정책학회 문명재 교수는 ‘인간-AI 협업기반 지능형 정부 구축 및 운영방안 연구’를 통해 인간-AI 협업기반 지능형 정부의 모습을 예측하고 차세대 지능형 정부의 구축과 운영 방안을 제시했다.  특히, 관련 학회장들이 대거 참여하는 종합토론에서는 이경원 교수(정보통신정책학회 부회장, 동국대학교 경제학과)의 사회로 이희정 교수(정보통신정책학회장, 고려대학교 법학전문대학원), 신요안 교수(한국통신학회장, 숭실대학교 전자정보공학부), 한준 교수(한국사회학회장, 연세대학교 사회학과), 나태준 교수(한국정책학회장, 연세대학교 행정학과)가 참여했다.  오후 3부 세션에는 ‘지속가능한 디지털 경제를 위한 구상’이라는 주제로 ‘지속가능한 생태계 디자인을 통한 우리나라 디지털 전환 산업 경쟁력 강화’, ‘사이버 위협 인텔리전스 기반 차세대 보안 기술’, ‘디지털 대전환 시대 ICT·반도체 기술 및 인력 양성 전략’의 발표가 마련됐다.  3부 세션의 첫 발제는 한국경영학회 김연성 교수가 맡았다. 특히, 디지털 전환이라는 전략적 변곡점에서 정부와 산업계 그리고 기업에 새로운 디지털 생태계 디자인을 통한 산업 경쟁력 강화 방안과 지속가능한 생태계 구축을 위한 디지털 전환 플랫폼 구축 방안을 제안했다.  이어, 한국정보과학회 홍지만 교수는 국내 사이버 보안 솔루션의 개발이 회사별로 파편화돼 통합되기 힘든 구조로 신기술 개발과 보안 패러다임의 변화에 대응이 어렵다는 문제를 제기하면서 지속가능한 디지털 전환과 디지털 플랫폼의 신뢰성 제공을 위한 차세대 사이버 보안 기술 방향을 발표했다.  세 번째로 대한전자공학회 김훈 교수는 AI, 데이터, 메타버스, 자율주행, 반도체 등 디지털 대전환을 가속화하는 주요 분야에서 위험요소를 분석하고 미래산업 변화 환경에서 중장기적 기술 및 인력 양성 대응 방안을 내놨다. 특히 디지털 자원의 독점 및 접근성 편차에 따른 협업 생태계 기반의 취약성 등 디지털 공동번영에 제약이 될 수 있는 요소들을 극복하기 위한 추진 방향을 제시했다. 3부 세션의 종합토론은 좌장을 맡은 김재구 교수(한국경영학회 차년도 학회장, 명지대학교 경영학과)의 사회로 한상만 교수(한국경영학회장, 성균관대학교 경영학과), 심규석 교수(한국정보과학회장, 서울대학교 전기정보공학부), 서승우 교수(대한전자공학회장, 서울대학교 전기정보공학부)가 참여했다. 마지막 세션에서는 ‘연대와 포용의 디지털 사회를 향해’라는 주제로 ‘디지털 대전환기 정치과정의 선순환 구축’, ‘디지털 대전환 시대 新디지털 격차와 정부역할’, ‘탄소중립 실현을 위한 디지털 전환과 그린 전환의 공존 전략’에 대한 주제발표와 함께 전문가 토론이 진행됐다.  첫 번째 발제자로 나선 한국정치학회 장우영 교수는 디지털 대전환이 권력구조의 이동을 촉진하는 모멘텀을 제공하고 있다는 점을 강조했다. 장 교수는 신흥권력의 부상과 다양한 정치적 이해 충돌과 갈등의 촉발이 민주주의에 미치는 악영향을 다층적으로 분석하고 정치과정의 선순환을 구축하기 위한 규범적·정책적·기술적 방안을 제시했다. 이어서 한국행정학회 김서용 교수는 디지털 대전환으로 인해 기존 정보격차와 전혀 다른 새로운 디지털격차가 발생하고 있다고 진단하고 이러한 新디지털 격차의 해소를 위해서는 거시적 사회구조와 미시적 개인 행태를 고려한 정부의 전방위적 정책대응과 적극적인 시민 참여가 필요하다고 강조했다.  세 번째 발표자인 한국환경정책학회 최창용 교수는 디지털 전환과 그린 전환을 연계한 트윈 전환을 위해 협업적 접근이 필요함을 강조하고 두 전환 간의 공존가능성을 모색했다. 또한 정책 이행의 복잡한 구조를 개선하고 보다 개방적인 소통을 통해 의견과 협의 결과를 반영할 수 있는 거버넌스 체계 마련이 필요하다고 강조했다.  끝으로, 4부 세션의 종합토론에는 이덕로 교수(한국행정학회 차년도 학회장, 세종대학교 행정학과)의 사회로 임성학 교수(한국정치학회장, 서울시립대학교 국제관계학과), 원숙연 교수(한국행정학회장, 이화여자대학교 행정학과), 김영완 교수(한국환경정책학회, 서강대학교 정치외교학과)가 참여했다.  한편, 이번 컨퍼런스는 디지털 대전환이 ‘2030년 디지털 공동번영 사회’로 연결되기 위해 우리 정부가 준비해야 할 어젠다와 정책들에 대한 학계 및 연구계의 깊이 있는 통찰과 연구 결과를 엿볼 수 있는 장이었으며, 내년에 디지털 대전환 메가트렌드 3년차 연구로 이어질 예정이다.