“AI 자율성 어디까지 줄 것인가 … 칼자루 쥔 건 여전히 인간”
구글의 인공지능(AI) 알파고가 바둑 최고수 이세돌 9단을 두 판 내리 꺾은 사건은 제4차 산업혁명의 문턱에 선 인류에게 세기적 질문을 던졌다. AI는 종국적으로 과연 어떤 모습으로 인류 앞에 설 것인가, AI가 만들어 낼 문명은 과연 인류 모두가 행복할 유토피아인가, 아니면 인류 전체를 재앙으로 몰아넣는 디스토피아인가. 알파고가 던진 이 거대한 질문(Big Question)에 대해 과학기술정보 전문가와 인문사회학자 7명의 지상 좌담을 통해 해법을 모색해 본다. 좌담에는 포스트휴머니즘 분야 전문가 신상규 이화여대 이화인문과학원 교수, 과학기술윤리 문제를 전공한 이중원 서울시립대 철학과 교수, 학문의 경계를 넘나드는 노마디즘 철학자 이진경 서울과학기술대 사회학과 교수, 빅데이터 분석 전문가 장덕진 서울대 사회학과 교수, 사회연결망 분석 전문가 정민수 동덕여대 보건관리학과 교수, 의학 박사이자 정보기술 전문가인 정지훈 경희사이버대 IT디자인융합학부 교수, 정보사회학 전문가 최항섭 국민대 사회학과 교수가 참여했다.
AI는 인간의 생각·지식 집약된 작품일 뿐
●정민수 교수 구글이 만든 학습 알고리즘이 정말 대단하다는 인상을 받았다. 보통 정보학 분야에서는 ‘자료→정보→ 지식’의 순차적인 구조를 강조한다. 즉 자료가 모여서 정보가 되고, 그것이 또 한 단계 고양된 것이 지식이다. 그런데 알파고는 단지 빅데이터를 가진 컴퓨터가 아니라 데이터에서 정보를 끌어내고 이를 지식으로 활용하는 모습을 보였다. 인공지능 컴퓨터와 인간이 서로의 생각을 나눌 날도 머지않은 것 같다.
●최항섭 교수 인공지능이 인간의 한계를 뛰어넘게 해 줄 것인지, 아니면 속박할 것인지의 기로에 서 있는 셈이다. 많은 사람들이 이 9단을 응원했던 것도 그를 통해 인간 존엄과 자유를 지키고 싶었기 때문일 것이다.
●장덕진 교수 이 9단의 패배에 많은 분들이 충격을 받았다고 하던데, 개인적으로는 그다지 놀랍지 않았다. 인공지능의 학습 속도는 일반인들 생각보다 훨씬 빠르다. 그리 멀지 않은 미래에 인공지능이 인간을 압도하는 날이 올 것이라고 생각했다.
●이진경 교수 이 9단의 패배가 인간의 패배를 의미하는 건 아니라고 본다. 앞으로 닥쳐올 기계와 인간의 싸움을 두려워할 필요가 없다. 여전히 시선은 인간에 두어야 한다. 이번 대국은 이세돌과 인공지능의 대결이 아니라 ‘알파고’라는 결과물을 만들어 낸 인간 지성 집단과 이세돌의 싸움이었다. 물론 그 중심에 인공지능이라는 기술이 있지만 인공지능은 결국 인간의 생각과 욕망, 지식이 집약된 작품에 불과하다.
●이중원 교수 달리 생각한다. 인간은 ‘깊이 생각한다’(호모 사피엔스)는 점에서 동식물뿐 아니라 기계 같은 인간이 만든 피조물과는 현격하게 다른 존재다. 인간처럼 생각하는 인공지능이 나온다면 인간의 정체성이 흔들리고 말 것이다.
인단 대체하는 기계, 새 양극화 초래할 것
●최항섭 교수 인공지능이 창의력이나 감정과 같은 인간 고유의 영역까지 넘보면서 기계에 밀려난 개인은 점차 소외될 것이다. 기계가 인간을 대체할수록 개인은 점차 설 자리를 잃어 가는 대신 이런 기술을 소유·개발하는 기업은 몸을 부풀리며 새로운 형태의 양극화를 불러올 수 있다.
●이중원 교수 이미 애플의 앱 ‘시리’ 때문에 지난 10년간 영국에서 12만명이 직업을 잃었다. 지난해 말 미국 국방부의 군인 5명은 킬러로봇을 이용해 5년간 평균 1만명을 죽였다고 양심선언을 한 바 있다. 결국 인공지능 킬러로봇까지 등장할 수밖에 없을 것이다.
●정지훈 교수 영화 ‘터미네이터’에 나오는 스카이넷 같은 걸 보면서 인공지능이 인류를 파멸로 이끌지 모른다고 우려하기도 하는데 사실 기우라고 말하고 싶다. 인공지능에는 ‘강(强)인공지능’과 ‘약(弱)인공지능’이 있다. 약인공지능은 알파고처럼 특정한 영역에서 인간이 지시한 업무를 처리하는 인공지능을 말한다. 협의의 이런 인공지능은 도구일 뿐이다. 소달구지를 대신한 트랙터에 비유할 수 있다. 잘 사용하면 괜찮은 도구다.
●정민수 교수 누가 이기느냐 하는 승부와 상관없이 앞으로 인간이 인공지능을 이길 수 있는 분야가 줄어들 것이라는 것은 분명해 보인다. 손발 역할을 하는 컴퓨터를 제어하는 인간의 역할에 대한 성찰이 필요하다.
인공지능, 도구 아닌 주체적 행위자로 등장
●신상규 교수 한 시대는 당대의 중심이 되는 기술에 좌우된다. 바퀴의 발명으로 시작한 농경사회나 엔진의 등장으로 시작된 산업혁명이 그 예다. 지금까지의 모든 기술이 물리적인 힘을 다뤘다면, 인공지능은 추상적인 정보를 다룬다는 점에서 새로운 혁신이다. 정보를 다루는 기술의 특징은 독립성이다. 정보를 통제하는 인공지능이 도구가 아닌 주체적인 행위자로 등장하게 된다는 뜻이다. 정보는 특성상 자가 증식이 가능하기 때문이다. 결국 더이상 인간이 유일한 판단의 주체일 수 없다는 얘기가 된다.
●정민수 교수 컴퓨터가 프로그래밍 안 되는 걸 딜레마 상황이라 한다. 가령 인공지능이 기차를 운행한다고 하면 철로에 쓰러진 사람을 구하기 위해 승객들을 위험에 빠뜨릴지 말지 결정할 수가 없다. 그런 선택지는 프로그램으로 해결할 수 있는 문제가 아니기 때문이다. 인간은 어떻게든 딜레마를 풀려고 하지만 컴퓨터는 그게 안 된다. 인공지능과 로봇이 아무리 뛰어나더라도 그걸 제어하는 건 사람의 몫이다.
기술의 속도 조절할 국가·제도 역할 중요
●이중원 교수 인공지능의 등장은 침팬지와는 전혀 다른 차원의 문제다. 침팬지는 사람이 진화하기 전 단계의 존재일지 모르나, 진화된 인공지능은 생각하고 말하고 표현하는 능력을 갖추게 된다. 미래에는 인공지능이 인간을 대체할 수 있다는 뜻이다. 단순한 수준에서 인간도 태양에너지를 기반으로 하는 세포들의 집합체인 셈이다. 인공지능의 진화는 생명에 대한 정의까지 복잡하게 만들 것이다. 미래의 인공지능을 별도의 존재자로 인정하게 된다면 인공지능은 개발의 대상이 아니라 공존의 대상이 될 것이다. 이제는 기술 개발의 속도전에 제동을 걸고, 활용 가능한 영역을 명확히 해야 한다. 우선 인공지능을 정의할 범주부터 정해야 한다.
●최항섭 교수 문제는 구조적인 흐름 앞에 개인이 반발해 본들 기술의 편의를 거부할 수 없다는 점이다. 기술의 발전이 갖는 위험성을 인지하면서도 동시에 그 혜택을 누리고 길들여지는 것이다. 점차 기술 만능의 사회에 종속될 때 인간은 과연 자유로운 존재가 될 수 있을까. 기술의 수용은 반드시 인간이 전제돼야 한다. 이런 맥락에서 인간의 자유를 위해 기술 확장의 방향과 속도를 조절할 국가와 제도의 역할이 중요해질 것이다.
●신상규 교수 스스로 판단해 운행하는 자동항법장치 등 이미 독립적인 기계는 우리 삶에 들어와 있다. 다만 이 기술에 어느 정도의 자율성을 부여할지에 대해서는 아직 인간이 칼자루를 쥐고 있다. 인공지능과의 공존을 앞두고 인간적인 성찰이 중요해지는 이유다. 그동안의 학문은 기계를 사유의 범주에 두지 않았다. 그러나 이제는 사회·문화·철학 등 여러 각도에서 인공지능을 어떤 위치에 세울 것인가 고민해야 한다.
이젠 인간이 어떤 기계 만들지 고민해야
●이진경 교수 선(善)을 대변하는 인간과 악(惡)을 대변하는 기계의 대결이라는 이분법적인 시각에서 벗어나야 한다고 본다. 기계 안에는 이미 수많은 인간들이 들어 있기 때문이다. 오히려 인간끼리의 선악 대결의 연장이라고 보는 게 맞을 거다. 결국 우리가 스스로에게 던져야 할 질문은 ‘기계가 인간을 지배할 것인가’가 아니라 ‘인간은 어떤 기계를 만들 것인가’가 돼야 한다.
●정지훈 교수 과학기술은 결국 도구다. 이 도구가 가진 특성을 이해하고 그걸 어떻게 이용할지를 가르치는 교육이 그래서 중요하다. 그런 점에서 지금의 교육은 시대 변화를 따라가지 못하고 있다. 미국에서는 이미 국방부 연구개발 부문을 담당하는 방위고등연구계획국(DARPA)에서 로봇·인공지능의 도덕과 인공지능에게 자율성을 부여할지 여부 등을 연구하고 있다. 심지어 할리우드 극작가 협회에서 기금을 조성해 2012년부터 ‘WE! ROBOT 콘퍼런스’를 해마다 개최한다. 법학, 사회학, 공학 등 다양한 분야 연구자들이 모여 인간과 공존하는 인공지능 사회의 헌법과 판례, 제도 등에 대한 토론을 벌인다. 두려워하기보다는 받아들일 준비를 적극적으로 해야 한다. 인문학은 중요하다. 하지만 단순히 중요하다고 외치는 데 그치면 안 된다. 인문학자들이 현대과학에 대해 더 많이 알아야 한다고 조언하고 싶다. 현대 과학기술 진보에 대해 이해도 못 하면서 인문학적으로 성찰한다는 게 무슨 의미가 있는지 의문이다.
두려움보다 받아들일 준비를 해야 한다
●장덕진 교수 지금 교육은 기존 지식을 더 많이 더 빨리 외우도록 해 그 결과를 칭찬하고 보상한다. 하지만 그런 건 이제 인공지능과 로봇이 대체해 가고 있다. 기존에 한 번 배운 걸 적용하는 건 기계가 대신할 수 있는 시대가 도래했다. 시대 변화에 대응하는 미래세대를 키우기 위해서는 교육 제도와 방법을 하루빨리 바꿔야 한다. 가르치는 방식과 배우는 방식을 모두 바꿔야 한다. 자기 스스로 학습할 수 있는 능력을 가르치고 키워야 한다.
강국진 기자 betulo@seoul.co.kr 이성원 기자 lsw1469@seoul.co.kr 김희리 기자 hitit@seoul.co.kr
