아침마다 어떤 옷을 입어야 할지 쉽게 결정을 내리지 못해 옷장과 거울 앞을 오가는 사람들에게 도움이 될만한 인공지능 기술을 국내 연구진이 개발했다. 송민석 포스텍 산업경영공학과 교수와 삼성물산 패션부문 공동연구팀은 인공지능(AI) 기반 온라인 패션 추천 서비스를 개발했다고 8일 밝혔다. 기존에도 옷을 골라주는 AI 기술이 있었지만 다른 사람들이 많이 구매한 옷이나 입는 스타일을 통계적으로 처리해 보여주는 수준이었다. 또 미국이나 중국 등 해외 기업이나 온라인 매장의 데이터에 의존하기 때문에 국내 이용자들의 패션 경향과 선호도를 반영하지 못한다는 문제가 있었다. 연구팀은 패션 전문가들의 도움을 받아 삼성물산의 자체 브랜드와 온라인 매장 브랜드의 구매 빅데이터를 AI에게 학습시켰다. 이렇게 학습된 AI는 색상, 소재, 길이 등 다양한 정보를 포함해 사용자에게 어울리는 스타일을 20개씩 추천해준다. 사용자가 상의만 고르면 하의는 물론 외투와 신발, 가방 등 패션소품들까지 머리부터 발끝까지 어울리는 패션 스타일을 추천해주는 것이다. 기존 AI 기술로 수 백만 벌의 옷으로 20개의 스타일을 추천받기 위해서는 30시간 가량 걸리는 것으로 알려졌지만 이번 기술은 실시간으로 즉시 추천받을 수 있다. 연구팀은 계절별로 바뀌는 패션 데이터에 맞춰 인공지능을 꾸준히 업데이트 시켜나갈 계획이다. 이번에 개발한 서비스는 현재 삼성물산 패션부문 통합온라인몰 SSF샵(www.ssfshop.com)에서 사용자가 상의나 하의를 고르면 그에 맞는 다른 패션제품들을 추천하는 방식으로 서비스되고 있다. 송민석 포스텍 교수는 “기존의 패션 추천 인공지능들은 비슷한 조건에서 똑같은 스타일을 제시하는데 반해 이번에 개발한 기술은 사용자가 기존에 구매하거나 관심을 보였던 옷들을 기반으로 철저히 개인화된 추천 서비스를 제공한다는 특징을 갖고 있다”라고 설명했다. 송 교수는 “코로나19로 인해 실제 매장이 아닌 온라인 쇼핑을 이용하는 사람이 대거 늘면서 옷을 고르기에 어려운 사람들이 많은데 이번 기술은 이런 소비자들에게도 도움이 될 것”이라고 덧붙였다. 유용하 기자 edmondy@seoul.co.kr

‘동학 개미’와 인공지능(AI)이 주식 투자 대결을 한다면 누가 이길까. 가상현실(VR)을 통해 산업재해로 사망한 고 김용균의 일터에 들어간다면 어떤 느낌을 받게 될까. 증강현실(AR), VR, AI 등 첨단 기술을 두루 활용하며 궁금증을 풀어낸 교양 및 다큐멘터리 프로그램들에 향한 호응이 크다. 기술에 대한 관심을 각종 이슈에 접목해 교양과 예능의 재미를 잡으려는 시도가 신선하다는 반응이다. 지난주 ‘골프 여제’ 박세리와 AI 골퍼의 대결로 5.1%(닐슨코리아 기준)의 시청률을 올린 SBS ‘세기의 대결! AI vs 인간’은 5일 3부에서 주식 투자 대결을 방송한다. 2800여개 종목 120억개의 데이터를 학습한 AI와 초단타 스캘핑 고수로 불리는 ‘마하세븐’ 한봉호 트레이더가 1개월 수익률을 비교한다. 투자 전문가 존리, 김동환 대안금융경제연구소장이 출연해 주식 투자와 공매도 논란에 관한 논쟁도 펼친다.이 밖에 심리 인식을 통한 범죄 수사도 소개한다. ‘대한민국 1호 프로파일러’ 권일용과 공항 등에서 실제로 투입되는 AI가 심리 인식과 미세한 표정 변화를 포착해 범죄자를 찾는다. 지난해 5월 시작한 장기 프로젝트를 마친 제작진은 “인공지능에 대한 새로운 화두를 던지겠다”는 의도를 밝혔다. 김민지 PD는 기자 간담회에서 “AI는 현재나 과거에 매몰되지 않고 미래를 보여 줄 수 있는 소재”라며 “시즌2도 가능할 만큼 소재가 무궁무진하다”고 설명했다. 남상문 PD는 “상상하지 못한 부분에서 호기심을 끌어당긴다. AI 관련 방송이 나오는 것은 거스를 수 없는 흐름”이라고 내다봤다.MBC ‘너를 만났다’ 시즌2도 ‘VR 저널리즘’을 선보였다. 4일 방송한 ‘용균이를 만났다’는 고 김용균이 일했던 태안화력발전소를 재현했다. 컨베이어벨트와 낙탄이 쌓인 작업장을 구현하고, 탄가루를 뒤집어쓴 김용균과 2인 1조가 된 듯 시공간을 함께하는 모습을 생생히 보여 줬다. 방송에서는 VR 체험 시험 버전으로 20대에서 50대까지 시민 12명을 초대했다. 제작진은 추후 일반 시민들도 체험할 수 있도록 영화제 등 오프라인 전시를 목표로 하고 있다. MBC 내부 조직이 기술 구현을 맡아 비슷한 콘텐츠가 이어질 가능성이 높다. 한국콘텐츠진흥원은 올해 약 40억원을 ‘신기술 기반 방송영상콘텐츠 제작지원 사업’에 투입한다. 지난해보다 19억원 늘어났다. VR, AR, 혼합현실(MR) 등 실감 기술을 이용한 총 50분 이상 콘텐츠 10편 내외가 대상이다. ‘너를 만났다’와 함께 지난해 선정된 KBS ‘GTS 랩(Lab)’은 VR드라마 제작을 추진 중이다. 김지예 기자 jiye@seoul.co.kr

코로나19 유행이 지속되면서, 초등생들의 학습에 빨간 불이 켜졌다. 겨울방학은 부족했던 학습량을 채우고, 새 학기에 대한 준비를 해야 하는 시기이다. 이 시기를 놓치게 되면, 새 학년 새 학기가 돼서도 여전히 학습 격차로 힘든 시간을 보내는 아이들이 많다. 이에 최근에는 홈스쿨링에 대한 학부모들이 관심이 높아지고 있다. 홈스쿨링은 아이의 학습 흥미를 유발할 수 있는 다양한 콘텐츠와 체계적인 관리가 중요하다. 그 중에서도 와이즈캠프는 판다 수학, 두두 잉글리시, 오투 과학 등 프리미엄 콘텐츠와 독보적인 비주얼씽킹 학습법 등으로 다양한 콘텐츠를 선보이고 있어 눈길을 모으고 있다. 또, AI몰리, 라이브 화상수업, 1:1 전화 튜터링 등으로 체계적인 학습관리를 돕고 있다.판다 수학은 초등 수학의 모든 과정들을 수준별로 학습할 수 있는 학습 콘텐츠이다. 기본적으로 연산과 기본 개념, 발전, 심화 과정 학습을 통해 전 학년 수학 문제를 마스터할 수 있다. 두두 잉글리시는 영어의 기본이 되는 파닉스부터 워즈, 리딩, 그래머, 말하기, 쓰기까지 재미있게 배울 수 있다. 레벨 테스트 후 레벨에 맞는 수업을 진행해 아이가 부담 없이 학습할 수 있으며, 두두 영어도서관의 스토리북을 통해 영어책 리딩과 리스닝을 진행한다. 수동적인 영어 학습에서 벗어나 직접 말하고 써보는 능동적인 영어가 가능하도록 돕는다. 오투 과학은 VR 과학 여행 콘텐츠와 교과서에 나오는 실험 동영상을 보며 생생하게 체험하는 학습이 가능하다. 가상실험 동영상과 재미있는 과학자 이야기를 통해서 과학 관련 다양한 지식을 습득할 수 있다. 특히 와이즈캠프는 비주얼 씽킹과 비주얼 코칭을 통해 홈스쿨링에 핵심 요소인 자기 주도 학습 능력 향상을 돕는다. 비주얼 씽킹은 추상적인 개념을 시각화를 통해 핵심을 구조화하는 학습법이다. 말뼈사전, 개뼈노트, 교과서 글뼈읽기 등이 있으며 말뼈 사전은 초등학교 교과서에 나오는 단어들을 학년별 단원별로 찾아서 단어의 뜻을 좀 더 쉽게 이해할 수 있는 초등 맞춤 사전이다. 개뼈노트는 단원 내용의 개념의 뼈대를 정리해주는 학습이다. 체적으로 단원 전체 핵심적인 내용을 이미지로 직관화 하여 기억할 수 있어 ‘오래 남는 공부’ 가 가능하다. 교과서 글뼈읽기는 교과서에 등장하는 다양한 지문을 구조화하여 읽는 방법을 익힐 수 있다. 교과서 글뼈읽기를 통해 학습의 기본 능력인 문해력까지 높일 수 있다. 비주얼 코칭 종류는 AI 학습 솔루션, 라이브 화상수업, 1:1 전화 튜터링이다. AI 학습 솔루션은 아이트래킹 기술을 활용해 학생이 학습 시 집중하지 않는 경우 집중 메시지를 보낸다. 학습 시작 때부터 마칠 때까지 200% 몰입할 수 있도록 돕는다. AI 몰리를 통해 수집된 아이들의 시선 데이터는 학부모 앱에서 AI 맞춤 리포트로 확인 가능하다. 업계 유일 실시간 쌍방향 수업인 라이브 화상수업도 제공한다. 10명 이내의 전국의 같은 학년 친구들과 수업에 참여할 수 있으며, 비주얼씽킹 지도사 자격증을 보유한 선생님이 수업을 진행한다. 화상수업에 참여하는 학생 모두에게 질문하고 발표할 수 있는 기회가 주어져 동료학습까지 가능하다. 1:1 전화 튜터링은 학생의 수준에 맞춘 전화수업으로, 선생님은 학생과 같은 학습기 화면을 보며 1:1 코칭을 제공한다. 학생의 진도, 학습상태 등을 정확하게 파악하고 밀착된 피드백을 제공한다. 와이즈캠프 관계자는 “겨울방학은 학습 공백을 채우고, 개념을 쌓기에 가장 좋은 시기이다. 이 시기에는 자기 주도 학습능력, 올바른 공부습관을 쌓을 수 있도록 해야 한다” 며, 덧붙여 “홈스쿨링을 진행할 때, 다양한 학습 콘텐츠를 보유하고 있는지, 담당 강사의 일대일 전화 튜터링 및 개인 피드백 등은 어떻게 진행되고 있는지 확인해야 한다” 고 말했다. 한편, 와이즈캠프는 무료체험 신청 시 스타벅스 커피 교환권과 비상교육 수학 문제집 1권, 급수 한자 문제집 1권을 100% 증정하고 있다. 이외에도 퀴즈 이벤트와 와이즈캠프 기대평을 작성하는 이벤트를 통해 경품을 제공한다. 온라인뉴스부 iseoul@seoul.co.kr

인공지능(AI) 챗봇 ‘이루다’ 개발에 사적인 카카오톡 대화 등 개인정보가 유출됐다고 주장하는 피해자 400여명이 집단소송을 시작했다. 22일 공동소송 플랫폼 ‘화난사람들’에 따르면 지난 13일부터 21일까지 이루다 개인정보 유출 피해자 집단소송에 모두 373명이 참여했다. 피해자들은 전날 서울동부지법에 이루다 개발사인 스캐터랩을 상대로 증거 보전 신청서를 제출했다. 스캐터랩은 지난 5일 개인정보보호위원회의 조사를 받은 직후 이루다의 데이터베이스와 이루다를 학습시키는데 사용한 딥러닝 대화 모델(이용자의 카카오톡 대화 100억건에서 추출한 1억건)을 폐기하겠다고 밝힌 바 있다. 소송을 대리한 법무법인 태림은 데이터베이스가 폐기되면 손해배상청구 소송에서 활용할 수 있는 증거가 소멸될 우려가 있어 스캐터랩이 임의로 자료를 파기하지 못하도록 증거보전신청을 한 것이라고 설명했다. 오달란 기자 dallan@seoul.co.kr

국립극장이 외국인 대상 전통공연예술 온라인 강의 영상 ‘레츠 국악(Let‘s Gugak)’을 21일부터 국립극장 공식 유튜브 채널을 통해 공개했다. 국립극장 외국인 국악아카데미 프로그램을 영상에 담은 콘텐츠로 한국 전통공연예술을 보다 친근하게 배울 수 있도록 했다. 국립극장 ‘외국인 국악아카데미’는 한국 문화에 관심 있는 외국인들이 전통공연예술을 직접 익히면서 그 속에 담긴 정서를 느끼고 한국에 대한 친밀도를 높이는 교육 프로그램이다. 2013년부터 매년 100여명의 외국인이 수강생으로 참여할 만큼 꾸준한 인기를 끌었다. 국내 거주 외국인을 대상으로 대면 강의를 진행했지만 코로나19 확산을 막기 위해 온라인 영상 콘텐츠로 선보이게 됐다. ‘레츠 국악(Let’s Gugak)’은 사물장구, 판소리, 한국무용 등 3개 분야의 교육 영상을 매주 1편씩 공개할 예정이다.첫 번째 주제인 사물장구는 국립국악관현악단 단원 연제호가 21일부터 사물놀이의 개념, 장구채 잡는 법, 간단한 장단 등을 세 차례에 걸쳐 쉽고 친근하게 설명한다. 다음달 10일부터는 판소리를 주제로 한 강의 영상이 공개된다. 소리꾼 문수현이 강사로 참여하고 외국인 국악아카데미 이전 수강생들이 학습도우미로 출연해 그동안 갈고 닦은 판소리 실력을 뽐낼 예정이다. 3월 4일 공개하는 한국무용 강의 영상에는 댄스앤미디어연구소 연구원이자 무용수인 유화정이 강사로 나선다. 분야별로 3편씩 선보이는 이번 영상은 한국 전통문화에 관심 있는 외국인들이 쉽게 접할 수 있도록 영어 자막을 제공한다. 허백윤 기자 baikyoon@seoul.co.kr

현재 전 세계에서 활발하게 진행되고 있는 인공지능(AI) 연구가 크게 발전할 때마다 제기되는 문제는 ‘AI의 반란’이다. 이는 SF 창작물의 흔한 소재이긴 하다. 그런데 앞으로 인간의 지능을 초월한 초인공지능(슈퍼 AI)이 등장하면 인류가 제어할 수 있을까. 독일 막스플랑크 인간개발연구소 산하 인간기계센터 등 국제 연구진은 이런 의문을 계산가능성 이론이라는 관점에서 자세하게 검토해 만일 슈퍼 AI가 반란을 일으키면 인류는 제어할 수 없다는 견해를 국제학술지 ‘인공지능 연구저널’(Journal of Artificial Intelligence Research) 최신호(5일자)에 발표했다. 이는 AI 기술이 이대로 발전하면 인간이 제어할 수 없는 슈퍼 AI가 등장하는 미래를 피할 수 없을지도 모른다는 것이다. 인간의 지능을 월등히 초월한 슈퍼 AI의 존재는 아직 상상에 불과하지만, 인간의 삶은 이미 많은 AI 기술에 의해 제어되고 있고 앞으로는 더욱더 이 기술에 의존하는 비율이 커질 것이다. 이에 대해 연구 공동저자인 인간기계센터의 마누엘 세브리안 박사는 “세계를 지배하는 슈퍼 AI는 SF 소설 속 줄거리처럼 들리겠지만, 이미 개발자들도 어떻게 배웠는지 완전히 이해하지 못한 채 독립적으로 특정한 중요 작업을 수행하는 AI 시스템들이 존재한다”면서 “따라서 이 문제가 어느 순간부터 통제할 수 없고 인류가 위험해질 수 있는지에 의문이 들었다”고 연구 진행 동기를 밝혔다. 누군가가 인간보다 뛰어난 지능을 갖춘 AI 시스템을 프로그래밍해서 독립적으로 학습할 수 있도록 했다고 가정해 보자. 이 AI가 인터넷에 연결돼 있다면 인류의 모든 데이터에 접근할 수 있을 것이다. 그러면 기존 모든 프로그램 대신 전 세계의 모든 기계를 온라인으로 제어할 수 있을 것이다. 이는 유토피아를 만들어낼까. 아니면 디스토피아를 만들어낼까. AI가 암을 치료하고 세계 평화를 가져오고 기후 재앙을 예방할 수 있을까. 아니면 인류를 파괴하고 지구를 차지할까. 연구진은 이런 의문을 검토하기 위해 계산가능성 이론을 사용했고 이를 통해 내린 결론은 슈퍼 AI를 제어하는 것은 원천적으로 불가능하다는 것이다. 예를 들어 슈퍼 AI가 반란을 기획했다고 해서 인류는 대항할 수 있는 수단이 있을까. 연구진은 슈퍼 AI를 제어하는 방법에 관한 두 아이디어를 검토했다. 하나는 슈퍼 AI를 인터넷 등 다른 모든 기술 장치로부터 차단해 외부와 접속하지 못하게 하는 것이다. 그리고 나머지 하나는 AI에 처음부터 윤리 원칙을 프로그래밍해 인류의 이익을 최선으로 추구하도록 동기를 부여하는 것이다. 이런 아이디어는 예전부터 자주 제기됐던 것이다. 하지만 연구진은 이런 방법을 이용하는 데는 한계가 있다는 점을 보여줬다. 어떤 방법으로도 AI를 운용할 때 그 위험성을 감지해 시스템을 멈추게 해야만 한다. 그렇다면 슈퍼 AI를 위험하다고 판단해 멈추게 하는 것이 실제로 가능할까. 연구진은 AI의 동작을 시뮬레이션해 유해한 것으로 간주될 경우 시스템을 멈추게 해 사람들에게 해를 끼치지 않기 위한 이론적 봉쇄 알고리즘을 고안했다. 그리고 이 알고리즘이 제대로 작동하는지를 1936년 앨런 튜링이 증명한 계산가능성 이론(computability theory)의 정지 문제(Halting Problem)를 사용해 검토했다. 정지 문제는 하나의 프로그램과 그것에 대한 입력이 주어졌을 때 그것이 영원히 작동할 것인지 정지할 것인지를 결정하는 문제인데 이때 시스템은 모순된 답변을 유도함으로써 사고의 무한 루프에 빠져 답을 낼 수 없게 하는 것으로 나타났다. 이는 거짓말쟁이의 역설(Liar paradox)로 알려진 논리 문제와도 비슷하다. 이 역설로 유명한 사례 중 하나로 철학자이자 시인인 에피메니데스가 기원전 6세기 “모든 크레타 섬 사람들은 거짓말쟁이다”라고 쓴 글을 가지고 만든 문제가 있다. 참고로 에피메니데스 자신도 크레타 섬 사람이다. 논리 문제는 컴퓨터가 문제를 해결할 때와 마찬가지로 진위(0인가 1인가) 형태로 문제를 판정한다. 이 예제의 진위를 생각하면 “모든 크레타 섬 사람들은 거짓말쟁이”가 사실(참)이라면 이를 말하는 크레타 섬 사람은 거짓말쟁이가 아니게 되므로 내용은 모순이 된다. 반대로 “모든 크레타 섬 사람들은 거짓말쟁이”가 가짜(거짓)라면 이를 말하는 크레타 섬 사람 역시 거짓말을 한 것이 되므로 이 내용 역시 모순이 된다. 이 문제의 진위를 판정하는 것은 불가능해 영원히 문제의 진위를 판정하는 것을 반복해 버리는 것이다. 비슷한 원리로 이번 연구진이 고안한 슈퍼 AI의 봉쇄 문제 역시 계산이 불가능한 것으로 나타났다. 다시 말해 AI가 전 세계에 해를 끼치는지를 판단하기 위한 단일 알고리즘을 찾아낼 수 없다는 것이다. 또 인간이 자기 손으로 슈퍼 AI를 멈추게 하는 것을 생각했을 때도 기계가 인간보다 뛰어난 지성을 발휘하고 있는지를 판단하는 것은 봉쇄 문제와 같은 영역에 있어 슈퍼 AI 기계가 등장했다는 사실조차 모르는 상태가 될 가능성을 이번 연구는 보여줬다. 논리 문제를 포함한 연구는 추상적이고 알기 어려운 부분이 있지만, 결국 인간이 AI 개발이나 운용을 계속하는 한 AI를 멈추게 하는 결정을 내리는 것 자체가 기계는 물론 인간도 어렵게 될 수 있고 알아차렸을 때는 이미 늦었을 가능성이 크다는 것이다. 윤태희 기자 th20022@seoul.co.kr

사고 年평균 7.85%↑… 2만건 육박 인공지능, 번호판 70~80% 식별 가능일반 운전자 84% “기계 도입 찬성”코로나19 확산에 따라 각종 배달 시장이 확대되면서 이륜차 사고가 급증한 가운데 이르면 올해 말 이륜차 무인교통단속장비 개발이 마무리될 것으로 보인다. 현재 이륜차 교통단속은 경찰관이 현장에서 육안으로 식별해야 하기에 2차 사고 발생과 효율성 측면에서 한계가 있다는 지적이 많았다. 인공지능(AI) 딥러닝 기술을 적용한 무인단속장비가 개발되면 이륜차 무법 지대였던 심야에도 단속이 가능해져 이륜차 사고가 줄어들 것으로 전망된다. 17일 경찰청으로부터 의뢰를 받은 도로교통공단이 지난해 12월 완료한 ‘이륜차 무인교통단속장비 개발을 위한 도입방안 연구’를 보면 인공지능 기반의 영상분석 기술을 적용한 이륜차 무인단속장비는 지난해 11~12월 실제 현장에서 성능 검증이 완료됐다. 참여 업체로 선정된 3개 업체가 각각 이륜차 교통사고 다발 지점인 서울 금천구와 경기 성남시, 안양시에서 실험을 진행했다. 그 결과 이륜차 신호 위반 단속률을 정확하게 계산할 수는 없었지만 약 70~80%의 확률로 신호와 속도를 위반하거나 안전모를 착용하지 않은 이륜차의 번호판을 인식할 수 있었다. 도로교통공단 관계자는 “해당 장비는 단순히 고해상도 카메라를 기반으로 컴퓨터에 이륜차 번호판 1만개 정도를 학습하게 해 번호판이 조금 흐릿해도 정확하게 식별할 수 있도록 했다”며 “올 상반기에 성능을 더 개선하면 연말에는 표준규격까지 개발할 수 있을 것 같다”고 말했다. 앞서 이륜차 무인단속장비 개발에 대한 요구는 꾸준히 제기됐다. 특히 코로나19의 영향 등으로 배달 음식 수요가 많아지면서 이륜차 교통사고가 급증한 영향이 컸다. 2015년 1만 2654건에서 2019년 1만 8467건으로 이륜차 사고 건수는 연평균 7.85% 증가했고, 이륜차 등록 대수는 지난해 말 기준 228만 9009대에 이르렀다. 국민들의 요구도 잇따랐다. 도로교통공단이 이륜차 무인단속장비 도입 타당성의 근거를 마련하고자 지난해 일반 운전자 190명(무응답자 포함)을 대상으로 설문조사를 했더니 무인단속장비 도입에 찬성한다는 의견이 84.7%로 압도적으로 많았다. 만약 도입된다면 이륜차의 법규 위반과 교통사고 감소 효과가 있을 거라는 응답도 각각 81.0%, 78.4%로 나타났다. 도로교통공단 관계자는 “이륜차 번호판이 ‘서울’ 등이 적힌 지역 번호판 체계에서 자동차처럼 더 단순화되면 무인단속장비의 성능도 올라갈 수 있을 것”이라며 “이륜차 사고 위험성에 대한 교육과 홍보, 면허증 발급 체계 개편 등을 통해 이륜차 사고를 줄일 수 있도록 노력해야 한다”고 말했다. 이성원 기자 lsw1469@seoul.co.kr

재산이 최소 1000조원으로 추정되는 모하메드 빈 살만 사우디아라비아 왕세자가 야외 임시 사무실을 공개했다. 현지시간으로 14일 공개된 빈 살만 왕세자의 임시 사무실은 북서부에 있는 알룰라 사막에 세워졌다. 세계문화유산으로 등재된 거대한 자연을 배경으로 야외에 고급스러운 양탄자와 파라솔, 소파 등을 배치했다. 사막의 뜨거운 햇빛을 피할 수 있는 검은색 대형 천막 안에는 각종 장신구들이 인테리어 효과를 더하고 있고, 빈 살만 왕세자는 붉은 양탄자에 놓인 탁자 앞에 앉아 모니터를 바라보고 있는 모습이다. 사우디아라비아는 저유가 시대에 대비해 석유 의존도를 낮추기 위한 대규모 경제 개혁 프로젝트인 ‘비전 2030’을 추진하고 있다. 비전 2030의 핵심은 70~80%에 이르는 사우디 경제의 석유 의존도를 줄여 경제 체질을 바꾸는 것이다. 빈 살만 왕세자의 이번 사진 공개는 인구가 4만 6000명에 불과한 사막 지역인 알룰라를 홍보하기 위한 목적으로 분석된다. 알룰라 사막은 사우디 최초의 유네스코 세계유산과 자연경관, 역사적 유산이 존재하는 지역으로 알려져 있다.사우디는 최근 비전 2030의 일환으로 관광산업 확대와 더불어 신도시 ‘네옴’(NEOM) 프로젝트와 첨단 신도시는 ‘더 라인’(The line) 프로젝트도 공개했다. 빈 살만 사우디아라비아 왕세자가 직접 공개한 신도시 ‘더 라인’은 직선 길이 170㎞ 규모로, 지상에는 자동차가 달릴 수 있는 도로가 존재하지 않는 대신 공원과 주택단지 등으로만 조성된다. 서비스 시설 및 운송 시설은 지하에 세워지는데, 지하에도 자동차가 달릴 수 있는 길은 없다. 특히 인공지능(AI)은 이 도시에서 가장 핵심적인 역할을 맡을 예정이다. AI는 100% 청정에너지 가동 및 이를 지속적으로 주민들에게 제공하는 방법을 학습해 나가도록 프로그래밍 된다. ‘더 라인’ 인프라 제작비용에는 1000억~2000억 달러(약 110조~220조 원)가 들어갈 것으로 보인다. 송현서 기자 huimin0217@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 이루다의 데이터베이스(DB)와 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기하기로 결정했다. 그러나 집단 소송을 준비하는 피해자들은 “이루다 DB가 아니라 ‘연애의 과학’으로 수집한 카카오톡 대화를 전부 폐기해야 한다”며 “그렇지 않으면 보관된 카톡 대화는 제2, 제3의 AI 챗봇을 통해 언제든지 되살아날 수 있을 것”이라며 반발했다. 스캐터랩은 15일 “이용자들의 불안감을 고려하여 이번 인공지능 ‘이루다’의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 했다”는 내용을 발표했다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 개인정보보호법 위반 여부를 조사하고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다. 연인들 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹도 받고 있으며, 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 ‘깃허브’에 공유한 사실도 확인됐다. 스캐터랩은 “조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다”고 밝혔다. 그러면서 비식별화 조치가 제대로 이뤄졌기 때문에 개인정보 유출은 없었다는 설명을 되풀이했다. 스캐터랩은 “이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다”며 “딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다”고 설명했다. 이어 “기존 연애의 과학과 텍스트앳에서 이용자의 동의를 받고 수집되었던 기존 데이터는 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후, 해당 이용자의 데이터를 모두 삭제할 예정이며, 이는 향후 딥러닝 대화 모델에도 이용되지 않는다”며 “관련 후속 조치는 각 어플리케이션 공지를 통해 안내 받을 수 있으며, 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이다”라고 밝혔다. 최영권 기자 story@seoul.co.kr

37년 전인 1984년, 놀라운 상상력을 보여주는 SF영화가 개봉했습니다. 바로 ‘터미네이터’ 입니다. 스스로 생각을 할 수 있게 된 인공지능(AI) 시스템이 인류를 멸망시키려 하고 인간은 이를 막기 위해 고군분투한다는 내용을 이리저리 엮어 관객들의 시선을 사로 잡았습니다. 전 세계적으로 흥행한 이 영화는 사람들의 마음 속에 AI에 대한 막연한 불안감을 갖게 만들기도 했습니다. 이 때문에 AI 관련 논의가 있을 때마다 터미네이터는 소환되곤 합니다. 1950년대에 AI 개념이 등장하고 오랜 잠복기를 지나 2000년대 들어 관련 연구가 폭발적으로 증가하면서 기술 발전 속도는 상상을 초월하고 있습니다. 실제로 최근 몇 년 사이에 다양한 형태의 AI 기술이 폭넓게 활용되고 있습니다. 연구자들이 AI를 포함해 과학기술을 연구하는 목적은 인류가 좀 더 나은 삶을 살도록 하기 위한 것입니다. 미국 캘리포니아 버클리대 레드우드신경과학연구소 설립자 제프 호킨스 박사도 ‘생각하는 뇌, 생각하는 기계’라는 저서에서 “AI 같은 두뇌형 기계를 개발하는 것은 인간의 감각으로는 인식하기 어렵고 빠르게 계산하기 어려운 문제들을 손쉽게 해결함으로써 인간의 감각과 지적능력을 확장하기 위한 것”이라고 말했습니다. 그렇지만 인간이 만드는 기술과 시스템은 정도의 차이만 있을 뿐 모두 윤리적 문제를 갖고 있습니다. AI도 마찬가지입니다. 2016년 ‘인공지능과 2030년의 삶’이라는 분석보고서를 작성한 미국 스탠퍼드대 ‘AI 100’ 연구단은 “영화 ‘마이너리티 리포트’에서처럼 범죄예방 프로그램을 비롯해 다양한 형태의 인공지능 기술은 알고리즘을 설계한 개발자의 편견이 개입할 수 있으며 프라이버시 침해에 대한 우려도 크다”라고 분명히 지적했습니다. 스위스 로잔연방공과대학 컴퓨터·커뮤니케이션공학과 연구팀 역시 AI를 활용한 사회관계망서비스(SNS)의 맞춤형 뉴스피드 알고리즘은 개인화되고 편향된 데이터를 기반으로 서비스를 제공하기 때문에 세계를 바라보는 시각과 가치관을 왜곡시키거나 편협하게 만들 수 있으며 사회 전체에 악영향을 미칠 수 있다는 연구결과를 내놨습니다. 이런 문제를 해결하기 위해 어떤 노력을 하느냐에 따라 기술의 최종 성패가 좌우되는 경우가 많습니다. 최근 AI챗봇 ‘이루다’가 혐오표현 학습과 개인정보 노출 등 문제로 운영이 중단됐습니다. 이에 대해 AI 기술 고도화를 위해 어쩔 수 없는 시행착오라던가 이번 사건이 혁신을 가로막아서는 안된다던가, 기술 문제가 아니라 혐오 표현이 일상화된 사회가 문제의 근원라는 목소리도 나왔습니다. 그런 발언의 당사자들이 인식하고 있는지는 모르겠지만 그 이면에는 기술을 사용하는 사회와 대중에게 문제가 있는 것이지 과학기술 자체는 문제가 없다는 기술의 가치중립성 논리가 숨어있습니다. 다양한 분야의 연구자들이 과학기술의 가치중립성은 환상이라고 지적하고 있습니다. 그렇기 때문에 모든 과학기술은 사회적 책임을 가져야 한다는 것입니다. 과학기술의 사회적 책임은 대학 교수나 많은 연구비를 쓰는 연구자들에게만 해당되는 것이 아닙니다. 모든 과학기술과 혁신의 중심에는 인간이 있어야 합니다. 사회적 책임을 도외시하고 인간이 소외된 혁신과 기술은 ‘야수’로 변하기 십상이라는 점을 분명히 알고 있어야 하지 않을까요. edmondy@seoul.co.kr

인공지능(AI) 챗봇 서비스 이루다의 개발사 스캐터랩이 지난해 오픈소스 공유 플랫폼 깃허브에 연애의 과학을 통해 수집한 카카오톡 대화 1700건를 올린 것에 대해 인정하고 사과했다. 또 이용자들 중 AI 학습에 데이터가 활용되기를 원하지 않는 사람들의 카카오톡 대화는 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 진행하겠다고 밝혔다. 하지만 논란이 된 카카오톡 대화 내용 수집 절차에 대해서는 “위법성이 없었다”는 기존 입장을 되풀이했다. 스캐터랩은 13일 오후 11시쯤 사과문과 함께 언론에 배포한 질의응답서에서 “‘깃허브’에 오픈 소스로 공개한 “KG-CVAE-인공지능 한국어 자연어처리(NLP) 연구 모델” 에 내부 테스트 샘플이 포함된 사실이 확인되었다”며 “해당 연구에는 내부 테스트를 위해 샘플로 추출한 100건의 데이터(100개 세션, 개별 문장으로 환산 시 1700여 건)가 포함되어 있었다. 실명은 “<NAME>”, 숫자는 “<NUM>” 명령어를 통해 자동화 비식별 처리를 하였으나, 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분이 일부 존재하였음을 확인하게 되었다”고 밝혔다. 이루다를 성적 도구화해 사회적 물의를 일으켰던 남초 커뮤니티에서는 오픈소스를 이용해 ‘제2의 이루다’를 만들고 있다. 스캐터랩은 “한국어 자연어처리(NLP)와 관련된 기술 개발 및 공유를 위한 것이었으나, 데이터 관리에 더 신중하지 못했고, 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과드린다”고 했다. 또 AI 학습에 데이터가 활용되기를 원하지 않는 이용자들의 정보를 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 취하겠다고 말했다. 하지만 구체적인 삭제 요청 경로에 대해서는 밝히지 않았고, 여전히 자신이 제공한 카카오톡 대화가 AI 개발에 사용됐다는 걸 모르는 사용자들의 개인정보는 남아있게 된다. 또한 이러한 스캐터랩의 조처와는 별개로 비식별화가 충분히 되지 않은 개인 정보는 이미 깃허브에서 유출됐을 가능성이 크다. 스캐터랩은 2019년 9월부터 사용자들이 ‘연애의 과학’ 앱을 통해 내보내기 한 카카오톡 대화로 학습하는 인공신경망을 깃허브에 공유했다. 비식별화가 충분히 되지 않은 개인 정보들(집주소, 예금주명이 포함된 계좌번호, 학교 이름, 직장 이름과 위치, 건강 정보)은 지난달 23일 출시된 이루다를 통해 노출되기도 했다. 이에 대해 스캐터랩은 “숫자를 한글로 기재하는 전형적이지 않은 사례들이 극히 일부 발견되었다”면서 “OO은행과 같이 특정 명칭이 일부 이루다 서비스에서 발견된 것은, 앞서 알려드린 바와 같이 수차례의 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분”이라고 해명했다. 카카오톡 대화를 수집하면서 충분한 동의를 얻지 않은 것에 대해서는 여전히 “법적 문제가 없다”는 기존의 입장을 고수했다. 스캐터랩은 “‘연애의 과학’이 개인정보의 수집, 이용에 동의를 받는 방법은 국내외 서비스들이 채택하고 있는 동일한 방법으로 내부적으로 법적으로 문제가 없을 것이라고 판단하였다”면서 “대화의 당사자 중 한 명이 개인정보 수집, 이용에 동의하여 자발적으로 대화 내용을 연애의 과학에 업로드한 것으로 내부적으로 문제가 없을 것으로 판단하였다”고 해명했다. 스캐터랩 전직 직원이 언론과의 인터뷰에서 직원들끼리 이용자의 카톡 대화를 단톡방에 공유해 돌려봤다는 주장에 대해서는 “진상조사위를 꾸려 조사한 결과 아직까지는 발견되지 않았다”며 “만에 하나 의혹이 사실로 드러나는 경우에는 직위 고하를 불문하고 관련자들에게 엄중히 책임을 묻고 필요한 조치를 취하도록 하겠다”고 선을 그었다. 한편, 개인정보보호위원회와 인터넷진흥위원회는 이날부터 현장에 투입돼 조사에 착수했다. 스캐터랩은 “해당 관계 기관의 요청에 따라 성실하게 조사에 최선을 다해 임하겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

에듀테크 기업 디쉐어(D.SHARE, 대표 정재민)가 창립 10주년을 맞아 창립기념행사를 ‘언택트(비대면)’로 진행했다고 13일 밝혔다. 이번 행사는 10주년 기념 영상을 시작으로 현승원 의장의 축사, 임원 임명식, 리더스 클럽 위촉식 순으로 진행됐다. 디쉐어의 정재민 대표는 이날 “그간 걸어온 시간이 결코 쉽지는 않은 길이였지만, ‘진정한 노력의 가치’를 바탕으로 지난 10년간 놀라운 성과를 빚어낸 여러분들의 열정과 노고에 감사를 표한다”라며 “앞으로 디쉐어는 인공지능(AI) 중심 서비스의 질적 고도화를 통한 적극적인 사업 영역 확대로 4차 산업혁명 시대 속 에듀테크 업계를 선도해나는 핵심 기업으로 도약해 나갈 것”이라는 포부를 밝혔다.창립자인 현승원 의장은 축사를 통해 지금까지 디쉐어가 이뤄낸 역사와 함께 향후 나아갈 비전과 소망을 전하며, 동시에 지속적인 변화 통한 장기적 ‘기업 경쟁력 확보’의 중요성 또한 강조했다. 임명식에서는 US CPA(미국 공인 회계사)로, 우리은행 및 현대증권, 미래에셋증권을 거친 금융 전문가이며 디쉐어에서 최고재무책임자(CFO)로 기업 가치 제고(Value-up)역할을 담당하고 있는 이우채 상무이사를 전무이사로 승진 임명했으며, 스타트업 마케팅 및 비즈니스 개발자를 거쳐 아모레퍼시픽, 페이스북코리아 등 국내외 유명 대기업 출신의 마케팅 전문가 염지현 이사를 총괄 마케팅 책임자(CMO)로 임명했다. 더불어 이번 행사에서는 임직원들의 적극적인 참여와 사내 소통을 강화하고자 기획된 이벤트도 함께 열렸다. 온라인 퀴즈쇼 형식의 ‘드림 골든벨’과 인증샷 이벤트 등을 통해 다양한 경품을 증정해 대면 행사로 이뤄지지 못한 임직원들의 아쉬움을 달래 주었다. 한편 디쉐어는 온·오프라인 블렌디드 러닝이란 신개념 학습 시스템을 2011년 1월 ‘에이닷’을 통해 첫 선을 보인 이후 꾸준한 성장을 바탕으로 2015년 11월 수강생 1만 명을 돌파하며 교육 시장에 성공적으로 안착시켰다. 이후 2016년 신개념 도서 플랫폼 ‘리딧’을 론칭하고 중등 시장에도 진출했으며, 2017년 홈 매니지먼트 브랜드 ‘캐리홈’, 2018년 단어 암기 전문 브랜드 ‘단끝’과 성인 영어 회화 전문 브랜드 ‘비스픽’ 등 다양한 교육 서비스를 연달아 선보이며 대한민국 교육의 선두주자 역할을 톡톡히 해내고 있다. 온라인뉴스부 iseoul@seoul.co.kr

마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.

혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

‘혐오의 학습화’ 논란을 불러일으키면서 지난 11일 서비스가 중단된 인공지능(AI) 챗봇 ‘이루다’ 사태는 인공지능 윤리에 관한 숙제를 남겼다. 한국보다 앞서 인공지능 기술을 상용화한 해외에서는 인공지능에 의한 차별·혐오 문제를 어떻게 다루고 있을까. 12일 법조계 등에 따르면 각국의 인공지능 규제는 크게 의회 입법을 통한 하드 로(hard law)와 법적 구속력이 없는 소프트 로(soft law)로 나뉜다. 지난해 12월 한국 정부가 발표한 ‘국가 인공지능 윤리기준’을 비롯해 대부분의 국가에서 규범 차원의 가이드라인을 발표하는 추세지만 일각에서는 입법 움직임도 시작되고 있다. 2017년 미국 뉴욕시의회에서 통과된 ‘알고리즘 책임 법안’은 뉴욕시에서 구성한 특별위원회를 통해 시에서 사용되는 인공지능 알고리즘에 차별 요소가 없는지 조사를 의무화하는 것을 주요 내용으로 한다. 2019년 4월 미 상원에서 대기업의 머신러닝 시스템을 감독하기 위한 동명의 법안이 발의되기도 했다. 특히 인공지능이 치안·금융·행정·교육 등 각종 영역에 상용화되면서 편향적인 알고리즘이 실제 피해로 이어질 수 있다는 지적이 나온다. 미국 아마존은 인공지능 기반 채용 시스템이 여성에게 불리한 평가를 한다는 사실이 알려져 2018년 시스템 개발을 중단했다. 유럽연합(EU) 의회도 지난해 10월 포괄적인 AI법 권고안을 채택했다. 인공지능 기술이 심각한 윤리 원칙을 위반할 경우 인공지능의 자기학습능력을 비활성화하고 완전한 인간 통제하에 놓이도록 복원하는 내용이 담겼다. 다만 한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 “구체적으로 무엇을 어떻게 규제할지 충분히 논의되지 않아 당장 입법은 불가능하다”면서 “기본적인 윤리 원칙을 다양한 개별 상황에 어떻게 적용할지 세부적인 가이드라인을 먼저 마련해야 한다”고 말했다. 기업 차원에서 자정 노력이 필요하다는 지적도 나온다. 마이크로소프트(MS)는 2016년 차별·혐오 논란에 휩싸였던 챗봇 ‘테이’ 사태 이후 사내 윤리위원회를 만들고 윤리 기준을 마련했다. 진선민 기자 jsm@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

자동차와 전용 도로가 없고, 탄소배출이 ‘0’에 가까운 미래형 친환경 도시가 사우디아라비아에 건설될 예정이다. 블룸버그통신 등 해외 언론의 1일 보도에 따르면 사우디아라비아가 5000억 달러(약 550조 원)를 투입해 건설하는 신도시 ‘네옴’(NEOM) 프로젝트의 일환으로 건설되는 첨단 신도시는 ‘더 라인’(The line)으로 명명됐다. 무함마드 빈 살만 사우디아라비아 왕세자가 직접 공개한 신도시 ‘더 라인’은 직선 길이 170㎞ 규모로, 지상에는 자동차가 달릴 수 있는 도로가 존재하지 않는 대신 공원과 주택단지 등으로만 조성된다. 서비스 시설 및 운송 시설은 지하에 세워지는데, 지하에도 자동차가 달릴 수 있는 길은 없다. 특히 인공지능(AI)은 이 도시에서 가장 핵심적인 역할을 맡을 예정이다. AI는 100% 청정에너지 가동 및 이를 지속적으로 주민들에게 제공하는 방법을 학습해 나가도록 프로그래밍 된다.무함마드 왕세자는 “초고속 운송수단이 구축되면 길이 170㎞의 도시 내 이동 시간은 길어야 20분이 될 것”이라면서 “‘더 라인’ 프로젝트는 2030년까지 100만 명이 거주하고 38만 개의 일자리를 만들 것”이라고 밝혔다. 이어 “왜 우리는 발전을 위해 자연을 희생해야 하는가?”라고 반문한 뒤 “우리는 재래식 도시의 개념을 미래 도시로 전환해야 하며, 네옴 신도시 내 자연 95%를 보존하며 자동차와 자동차 도로, 탄소 배출이 전혀 없는 인구 100만 도시를 구성할 것”이라고 덧붙였다.‘더 라인’ 인프라 제작비용에는 1000억~2000억 달러(약 110조~220조 원)가 들어갈 것으로 보인다. 사우디아라비아와 무함마드 왕세자는 석유 의존도가 높은 경제 구조에서 탈바꿈하기 위한 일환으로 네옴 프로젝트를 추진해왔다. 그러나 일각에서는 ‘더 라인’ 신도시를 포함한 네옴 프로젝트가 현실화될 수 있을지와 투자금 확보 여부 등에 꾸준히 의문을 제기해 왔다. 무함마드 왕세자는 사우디 정부와 사우디국부펀드, 각국의 투자자들로부터 5000억 달러를 지원받고 이중 일부로 ‘더 라인’을 건설하겠다고 밝혔다. 송현서 기자 huimin0217@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

LG, 스크린 말리는 롤러블 실물영상 공개6.8인치 화면 쭉 펼치면 7.4인치로 늘어나스피커 없이 소리내는 디스플레이 선봬삼성, 첫 AI 로봇청소기 ‘제트봇’ 혁신상로봇팔로 그릇 옮겨주는 ‘핸디봇’도 나와삼성과 LG가 새해의 포문을 여는 박람회인 ‘CES 2021’에서 미래를 이끌 첨단 제품의 기술력을 뽐냈다. LG전자는 11일 온라인으로 개막한 세계 최대 정보기술(IT)·가전박람회 CES 2021 콘퍼런스에서 스크린이 말리는 방식의 스마트폰인 ‘LG롤러블’의 실물 콘셉트 영상을 공개했다. 지난해 9월 하반기 전략 스마트폰 ‘LG 윙’의 공개 행사 말미에 LG롤러블이 작동하는 일부 실루엣만 등장했는데 제품의 전면부를 모두 보여 준 것은 이번이 처음이다. 또한 여태까지는 둘둘 말렸던 스크린이 펴지는 모양새를 본떠 ‘상소문폰’이라는 별명으로 불렸는데, 그간 업계 추정으로만 알려졌던 LG롤러블이라는 이름이 공식 명칭이란 점도 이번 CES를 통해 확인됐다. LG전자는 누군가가 LG롤러블을 이용해 콘퍼런스를 시청한다는 콘셉트로 영상을 꾸렸다. LG롤러블은 콘퍼런스의 시작과 끝부분에 한 번씩 등장한다. 바(bar) 형태의 스마트폰 우측 부분이 늘어나며 화면이 확장되는 방식이다. 정확한 수치는 공개되지 않았지만 업계에서는 LG롤러블의 디스플레이가 평상시에는 6.8인치였다가 쭉 펼치면 7.4인치까지 늘어나는 것으로 파악하고 있다. LG전자가 LG롤러블을 올해 정식 출시하면 세계 최초의 상용 롤러블폰 타이틀을 갖게 된다. 지난해 말 이미 구글은 LG롤러블의 에뮬레이터(장치 특성을 복사해 똑같이 실행하도록 한 설계 장치)를 공개해 안드로이드 개발자들로 하여금 해당 기기 특성에 맞는 애플리케이션을 제작할 수 있도록 했다. 이를 고려하면 LG롤러블의 출시일이 머지않았다는 추측이 나온다.삼성전자도 이날 혁신 가전제품을 뽐냈다. CES 혁신상을 받은 삼성전자의 ‘제트봇 AI’는 인텔의 인공지능(AI) 특화 솔루션이 로봇청소기 중에서는 처음으로 적용됐다. 학습을 거듭할수록 성능이 좋아지는 ‘딥러닝’을 적용했고, ‘라이다센서’와 ‘3D 센서’를 탑재해 주변 물체나 기기 스스로의 위치를 보다 정확히 인식할 수 있도록 했다. 100만장 이상의 이미지를 사전에 학습해 집안의 가전제품 등 주요 장애물을 인식할 수 있으며 흡입구 막힘이나 오염을 유발하는 양말, 반려동물의 배설물 등도 스스로 인식해 피할 수 있다. 제트봇의 카메라를 통해 외출했을 때 반려동물이 집 안에서 어떻게 지내고 있는지 확인하는 것 또한 가능하다. 상반기 출시를 앞두고 있다. 또한 삼성전자는 가정용 서비스 로봇인 ‘삼성봇 핸디’도 이날 공개했다. AI가 카메라를 통해 물체의 위치나 형태를 인식한 뒤 ‘로봇 팔’을 이용해 이를 옮길 수 있다. 식사 전 식기 배치나 식사 후 정리 등을 도울 때 사용할 수 있을 것으로 보인다.LG디스플레이는 서울 강서구 LG사이언스파크에 CES 2021 실물 전시장을 꾸렸다. LG디스플레이는 이곳에서 스피커 없이 패널 자체가 진동해 소리를 내는 ‘CSO 패널’을 공개했다. 평소에는 TV처럼 사용하다가 몰입감이 중요한 게임을 할 때는 화면의 휨 정도인 곡률을 조절할 수도 있다. 고효율 유기물 재료를 적용하고 발광 레이어를 추가해 발광 효율을 기존 대비 약 20％ 향상한 77인치 차세대 유기발광다이오드(OLED) TV 패널도 공개했다. 한재희 기자 jh@seoul.co.kr