AI(인공지능) 기능을 탑재한 로봇이 인류의 일자리를 포함해 안전에도 위협을 가할 것이라는 부정적인 미래관이 쏟아지는 가운데, 최근 영국의 한 미래사업 전문가는 AI가 인간보다 더 많은 범죄를 저지를 것으로 보인다는 추측을 내놓았다. 영국의 유명 컨설팅업체인 ‘미래연구소’(The future laboratory) 대표인 트레이시 팔로우스는 한 강연회에서 “시간이 지날수록 더 많은 로봇이 인간의 일자리를 위협할 것”이라면서 “뿐만 아니라 로봇이 자살폭탄 기계가 되거나 스스로 위험한 행동을 할 가능성이 있다”고 우려했다. 이어 “나와 우리 연구소의 예측으로는, 2040년이 되면 범죄를 저지르는 AI로봇이 인간보다 훨씬 많을 것이다. AI 기술은 범죄와 관련한 셀프 프로그래밍이 가능하기 때문”이라면서 “나는 다양한 기술과 미디어, 전기 통신 등을 통해 미래 전략을 세우는데 애쓰고 있지만, 그럼에도 로봇을 믿지는 않는다”고 덧붙였다. 미래 기술의 핵심체인 로봇 외에도 자율주행자동차나 드론 역시 우려의 대상이 됐다. 일부 전문가들은 자율주행자동차와 드론이 해킹 당하거나 강제로 재프로그래밍 될 가능성이 있으며, 이러한 경우 인류에게 심각한 위협을 가할 수 있다고 주장한다. ‘영국의 FBI’라고 불리는 국가범죄수사국(NCA)의 조사에 따르면 2015년에 발생한 범죄 중 사이버범죄에 해당하는 사건은 전체의 53%에 달했다. 이에 인텔 시큐리티의 EMEA 최고기술책임자인 라즈 사마니(Raj Samani)는 “우리는 인류가 AI나 사이버의 도움 없이는 사소한 것도 할 수 없는 사례를 눈으로 똑똑히 확인하고 있다. 로봇과 프로그램으로 인한 문제가 발생하는 것은 결국 시간문제 일 것”이라고 예측했다. 한편 세계적인 물리학자인 스티븐 호킹 박사 역시 “많은 국가들이 AI를 무기와 결합해 개발하고 있으며 나중에는 ‘악당 AI’를 막기 힘들 것”이라면서 “안전한 장소에서 윤리적으로 개발할 수 있는 방법을 강구해야 한다”며 수차례 AI 위협론을 제기한 바 있다. 송혜민 기자 huimin0217@seoul.co.kr

인간뿐 아니라 인공지능(AI) 역시 ‘독서’를 통해 선악을 학습할 수 있다는 흥미로운 연구결과가 제시됐다. 미국 엔터테인먼트 인텔리전스 연구소(Entertainment Intelligence Lab)와 조지아공대 대화식 전산학과(School of Interactive Computing) 공동 연구팀은 최근 키호테(Quixote)라는 명칭의 AI 학습 시스템을 개발했다고 발표했다. 사람은 동화나 소설 등에 등장하는 가상의 사건들을 간접적으로 체험하면서, 혹은 직접적인 가르침을 통해 사회적으로 용납 가능한 행동이 무엇인지를 학습해 나간다. 키호테는 이와 유사하게 AI들로 하여금 독서를 통해 인간사회에서의 행동규범을 학습할 수 있도록 만드는 시스템이라고 연구팀은 설명하고 있다. 키호테는 조지아공대에서 과거 개발했던 또 다른 AI 시스템 셰에라자드를 기초로 만들어진 것이다. 셰에라자드는 인간처럼 스스로 새로운 이야기 구조를 창조해낼 수 있는 ‘인공지능 작가’ 소프트웨어다. 이 소프트웨어는 인간 독자들이 봤을 때에도 상당히 합리적이며 뚜렷한 인과관계를 지닌 사건 전개를 구성할 수 있는데, 이것은 실제 작가들의 이야기를 무수히 분석함으로써 인간 사회의 통념에 부합하는 행동 및 상황의 특성에 대해 파악해냈기 때문에 가능한 일이다. 셰에라자드가 이렇게 독서를 통해 정립해 놓은 ‘가치관’을 물려받은 키호테는 이러한 가치관에 비추어 적절한 행동이 이뤄질 때는 ‘보상 신호’를 발산하고, 반대로 적절치 못한 행동이 실행될 경우 ‘처벌 신호’를 발산하는 방식으로 AI 훈련시킨다. 비유적으로 설명하면 AI가 일반적 이야기 속 주인공들처럼 정상적인 행동을 할 때는 ‘상’을 줘 향후 유사한 행동을 반복하도록 유도하고, 반대로 악당처럼 행동하거나 전후맥락에 맞지 않는 행동을 하면 ‘벌’을 줌으로써 이러한 행동을 차단한다는 것. 키호테 시스템의 핵심 목표는 AI로봇들로 하여금 주어진 임무를 수행함에 있어 인간사회의 통념을 어기지 않도록 돕는 데 있다. 이를테면 ‘인간에게 약을 가져다 준다’는 임무를 부여받은 한 로봇을 가정해 보자.이 로봇은 첫째, 약국을 습격해 약을 훔쳐서 도망치거나, 둘째로 약사와 대화해 약을 얻어내거나, 셋째로 줄을 서서 자기 차례가 올 때까지 기다린다는 세 가지 시나리오를 상정한 뒤 어떤 방법을 선택할지 판단하게 된다. 이때 인간사회의 통념을 학습하지 못한 로봇은 첫 번째 방법을 선택할 가능성이 높다. 가장 빠르면서도 비용이 적게 드는 행동이기 때문이다. 그러나 키호테 시스템의 개입이 있을 경우 이 로봇은 인간의 예절에 따라 줄을 서서 약을 받음으로써 ‘보상’을 얻고자 할 것이라고 연구팀은 설명했다. 연구팀은 “로봇들에게 인간이 만든 이야기를 이해할 수 있는 능력을 주는 것이야말로 인간의 직접 지시 없이 로봇의 행동을 교정할 수 있는 방법”이라며 “(키호테 시스템을 통해) 로봇들은 인간을 해치지 않으면서도 목표하는 바를 이루는 행동양식을 강화할 수 있을 것”이라고 전했다. 사진=영화 '터미네이터' 방승언 기자 earny@seoul.co.kr

인간뿐 아니라 인공지능(AI) 역시 ‘독서’를 통해 선악을 학습할 수 있다는 흥미로운 연구결과가 제시됐다. 미국 엔터테인먼트 인텔리전스 연구소(Entertainment Intelligence Lab)와 조지아공대 대화식 전산학과(School of Interactive Computing) 공동 연구팀은 최근 키호테(Quixote)라는 명칭의 AI 학습 시스템을 개발했다고 발표했다. 사람은 동화나 소설 등에 등장하는 가상의 사건들을 간접적으로 체험하면서, 혹은 직접적인 가르침을 통해 사회적으로 용납 가능한 행동이 무엇인지를 학습해 나간다. 키호테는 이와 유사하게 AI들로 하여금 독서를 통해 인간사회에서의 행동규범을 학습할 수 있도록 만드는 시스템이라고 연구팀은 설명하고 있다. 키호테는 조지아공대에서 과거 개발했던 또 다른 AI 시스템 셰에라자드를 기초로 만들어진 것이다. 셰에라자드는 인간처럼 스스로 새로운 이야기 구조를 창조해낼 수 있는 ‘인공지능 작가’ 소프트웨어다. 이 소프트웨어는 인간 독자들이 봤을 때에도 상당히 합리적이며 뚜렷한 인과관계를 지닌 사건 전개를 구성할 수 있는데, 이것은 실제 작가들의 이야기를 무수히 분석함으로써 인간 사회의 통념에 부합하는 행동 및 상황의 특성에 대해 파악해냈기 때문에 가능한 일이다. 셰에라자드가 이렇게 독서를 통해 정립해 놓은 ‘가치관’을 물려받은 키호테는 이러한 가치관에 비추어 적절한 행동이 이뤄질 때는 ‘보상 신호’를 발산하고, 반대로 적절치 못한 행동이 실행될 경우 ‘처벌 신호’를 발산하는 방식으로 AI 훈련시킨다. 비유적으로 설명하면 AI가 일반적 이야기 속 주인공들처럼 정상적인 행동을 할 때는 ‘상’을 줘 향후 유사한 행동을 반복하도록 유도하고, 반대로 악당처럼 행동하거나 전후맥락에 맞지 않는 행동을 하면 ‘벌’을 줌으로써 이러한 행동을 차단한다는 것. 키호테 시스템의 핵심 목표는 AI로봇들로 하여금 주어진 임무를 수행함에 있어 인간사회의 통념을 어기지 않도록 돕는 데 있다. 이를테면 ‘인간에게 약을 가져다 준다’는 임무를 부여받은 한 로봇을 가정해 보자.이 로봇은 첫째, 약국을 습격해 약을 훔쳐서 도망치거나, 둘째로 약사와 대화해 약을 얻어내거나, 셋째로 줄을 서서 자기 차례가 올 때까지 기다린다는 세 가지 시나리오를 상정한 뒤 어떤 방법을 선택할지 판단하게 된다. 이때 인간사회의 통념을 학습하지 못한 로봇은 첫 번째 방법을 선택할 가능성이 높다. 가장 빠르면서도 비용이 적게 드는 행동이기 때문이다. 그러나 키호테 시스템의 개입이 있을 경우 이 로봇은 인간의 예절에 따라 줄을 서서 약을 받음으로써 ‘보상’을 얻고자 할 것이라고 연구팀은 설명했다. 연구팀은 “로봇들에게 인간이 만든 이야기를 이해할 수 있는 능력을 주는 것이야말로 인간의 직접 지시 없이 로봇의 행동을 교정할 수 있는 방법”이라며 “(키호테 시스템을 통해) 로봇들은 인간을 해치지 않으면서도 목표하는 바를 이루는 행동양식을 강화할 수 있을 것”이라고 전했다. 사진=영화 '터미네이터' 방승언 기자 earny@seoul.co.kr

인간뿐 아니라 인공지능(AI) 역시 ‘독서’를 통해 선악을 학습할 수 있다는 흥미로운 연구결과가 제시됐다. 미국 엔터테인먼트 인텔리전스 연구소(Entertainment Intelligence Lab)와 조지아공대 대화식 전산학과(School of Interactive Computing) 공동 연구팀은 최근 키호테(Quixote)라는 명칭의 AI 학습 시스템을 개발했다고 발표했다. 사람은 동화나 소설 등에 등장하는 가상의 사건들을 간접적으로 체험하면서, 혹은 직접적인 가르침을 통해 사회적으로 용납 가능한 행동이 무엇인지를 학습해 나간다. 키호테는 이와 유사하게 AI들로 하여금 독서를 통해 인간사회에서의 행동규범을 학습할 수 있도록 만드는 시스템이라고 연구팀은 설명하고 있다. 키호테는 조지아공대에서 과거 개발했던 또 다른 AI 시스템 셰에라자드를 기초로 만들어진 것이다. 셰에라자드는 인간처럼 스스로 새로운 이야기 구조를 창조해낼 수 있는 ‘인공지능 작가’ 소프트웨어다. 이 소프트웨어는 인간 독자들이 봤을 때에도 상당히 합리적이며 뚜렷한 인과관계를 지닌 사건 전개를 구성할 수 있는데, 이것은 실제 작가들의 이야기를 무수히 분석함으로써 인간 사회의 통념에 부합하는 행동 및 상황의 특성에 대해 파악해냈기 때문에 가능한 일이다.셰에라자드가 이렇게 독서를 통해 정립해 놓은 ‘가치관’을 물려받은 키호테는 이러한 가치관에 비추어 적절한 행동이 이뤄질 때는 ‘보상 신호’를 발산하고, 반대로 적절치 못한 행동이 실행될 경우 ‘처벌 신호’를 발산하는 방식으로 AI 훈련시킨다. 비유적으로 설명하면 AI가 일반적 이야기 속 주인공들처럼 정상적인 행동을 할 때는 ‘상’을 줘 향후 유사한 행동을 반복하도록 유도하고, 반대로 악당처럼 행동하거나 전후맥락에 맞지 않는 행동을 하면 ‘벌’을 줌으로써 이러한 행동을 차단한다는 것. 키호테 시스템의 핵심 목표는 AI로봇들로 하여금 주어진 임무를 수행함에 있어 인간사회의 통념을 어기지 않도록 돕는 데 있다. 이를테면 ‘인간에게 약을 가져다 준다’는 임무를 부여받은 한 로봇을 가정해 보자.이 로봇은 첫째, 약국을 습격해 약을 훔쳐서 도망치거나, 둘째로 약사와 대화해 약을 얻어내거나, 셋째로 줄을 서서 자기 차례가 올 때까지 기다린다는 세 가지 시나리오를 상정한 뒤 어떤 방법을 선택할지 판단하게 된다. 이때 인간사회의 통념을 학습하지 못한 로봇은 첫 번째 방법을 선택할 가능성이 높다. 가장 빠르면서도 비용이 적게 드는 행동이기 때문이다. 그러나 키호테 시스템의 개입이 있을 경우 이 로봇은 인간의 예절에 따라 줄을 서서 약을 받음으로써 ‘보상’을 얻고자 할 것이라고 연구팀은 설명했다. 연구팀은 “로봇들에게 인간이 만든 이야기를 이해할 수 있는 능력을 주는 것이야말로 인간의 직접 지시 없이 로봇의 행동을 교정할 수 있는 방법”이라며 “(키호테 시스템을 통해) 로봇들은 인간을 해치지 않으면서도 목표하는 바를 이루는 행동양식을 강화할 수 있을 것”이라고 전했다. 사진=영화 '터미네이터' 방승언 기자 earny@seoul.co.kr