자동차와 전용 도로가 없고, 탄소배출이 ‘0’에 가까운 미래형 친환경 도시가 사우디아라비아에 건설될 예정이다. 블룸버그통신 등 해외 언론의 1일 보도에 따르면 사우디아라비아가 5000억 달러(약 550조 원)를 투입해 건설하는 신도시 ‘네옴’(NEOM) 프로젝트의 일환으로 건설되는 첨단 신도시는 ‘더 라인’(The line)으로 명명됐다. 무함마드 빈 살만 사우디아라비아 왕세자가 직접 공개한 신도시 ‘더 라인’은 직선 길이 170㎞ 규모로, 지상에는 자동차가 달릴 수 있는 도로가 존재하지 않는 대신 공원과 주택단지 등으로만 조성된다. 서비스 시설 및 운송 시설은 지하에 세워지는데, 지하에도 자동차가 달릴 수 있는 길은 없다. 특히 인공지능(AI)은 이 도시에서 가장 핵심적인 역할을 맡을 예정이다. AI는 100% 청정에너지 가동 및 이를 지속적으로 주민들에게 제공하는 방법을 학습해 나가도록 프로그래밍 된다.무함마드 왕세자는 “초고속 운송수단이 구축되면 길이 170㎞의 도시 내 이동 시간은 길어야 20분이 될 것”이라면서 “‘더 라인’ 프로젝트는 2030년까지 100만 명이 거주하고 38만 개의 일자리를 만들 것”이라고 밝혔다. 이어 “왜 우리는 발전을 위해 자연을 희생해야 하는가?”라고 반문한 뒤 “우리는 재래식 도시의 개념을 미래 도시로 전환해야 하며, 네옴 신도시 내 자연 95%를 보존하며 자동차와 자동차 도로, 탄소 배출이 전혀 없는 인구 100만 도시를 구성할 것”이라고 덧붙였다.‘더 라인’ 인프라 제작비용에는 1000억~2000억 달러(약 110조~220조 원)가 들어갈 것으로 보인다. 사우디아라비아와 무함마드 왕세자는 석유 의존도가 높은 경제 구조에서 탈바꿈하기 위한 일환으로 네옴 프로젝트를 추진해왔다. 그러나 일각에서는 ‘더 라인’ 신도시를 포함한 네옴 프로젝트가 현실화될 수 있을지와 투자금 확보 여부 등에 꾸준히 의문을 제기해 왔다. 무함마드 왕세자는 사우디 정부와 사우디국부펀드, 각국의 투자자들로부터 5000억 달러를 지원받고 이중 일부로 ‘더 라인’을 건설하겠다고 밝혔다. 송현서 기자 huimin0217@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

LG, 스크린 말리는 롤러블 실물영상 공개6.8인치 화면 쭉 펼치면 7.4인치로 늘어나스피커 없이 소리내는 디스플레이 선봬삼성, 첫 AI 로봇청소기 ‘제트봇’ 혁신상로봇팔로 그릇 옮겨주는 ‘핸디봇’도 나와삼성과 LG가 새해의 포문을 여는 박람회인 ‘CES 2021’에서 미래를 이끌 첨단 제품의 기술력을 뽐냈다. LG전자는 11일 온라인으로 개막한 세계 최대 정보기술(IT)·가전박람회 CES 2021 콘퍼런스에서 스크린이 말리는 방식의 스마트폰인 ‘LG롤러블’의 실물 콘셉트 영상을 공개했다. 지난해 9월 하반기 전략 스마트폰 ‘LG 윙’의 공개 행사 말미에 LG롤러블이 작동하는 일부 실루엣만 등장했는데 제품의 전면부를 모두 보여 준 것은 이번이 처음이다. 또한 여태까지는 둘둘 말렸던 스크린이 펴지는 모양새를 본떠 ‘상소문폰’이라는 별명으로 불렸는데, 그간 업계 추정으로만 알려졌던 LG롤러블이라는 이름이 공식 명칭이란 점도 이번 CES를 통해 확인됐다. LG전자는 누군가가 LG롤러블을 이용해 콘퍼런스를 시청한다는 콘셉트로 영상을 꾸렸다. LG롤러블은 콘퍼런스의 시작과 끝부분에 한 번씩 등장한다. 바(bar) 형태의 스마트폰 우측 부분이 늘어나며 화면이 확장되는 방식이다. 정확한 수치는 공개되지 않았지만 업계에서는 LG롤러블의 디스플레이가 평상시에는 6.8인치였다가 쭉 펼치면 7.4인치까지 늘어나는 것으로 파악하고 있다. LG전자가 LG롤러블을 올해 정식 출시하면 세계 최초의 상용 롤러블폰 타이틀을 갖게 된다. 지난해 말 이미 구글은 LG롤러블의 에뮬레이터(장치 특성을 복사해 똑같이 실행하도록 한 설계 장치)를 공개해 안드로이드 개발자들로 하여금 해당 기기 특성에 맞는 애플리케이션을 제작할 수 있도록 했다. 이를 고려하면 LG롤러블의 출시일이 머지않았다는 추측이 나온다.삼성전자도 이날 혁신 가전제품을 뽐냈다. CES 혁신상을 받은 삼성전자의 ‘제트봇 AI’는 인텔의 인공지능(AI) 특화 솔루션이 로봇청소기 중에서는 처음으로 적용됐다. 학습을 거듭할수록 성능이 좋아지는 ‘딥러닝’을 적용했고, ‘라이다센서’와 ‘3D 센서’를 탑재해 주변 물체나 기기 스스로의 위치를 보다 정확히 인식할 수 있도록 했다. 100만장 이상의 이미지를 사전에 학습해 집안의 가전제품 등 주요 장애물을 인식할 수 있으며 흡입구 막힘이나 오염을 유발하는 양말, 반려동물의 배설물 등도 스스로 인식해 피할 수 있다. 제트봇의 카메라를 통해 외출했을 때 반려동물이 집 안에서 어떻게 지내고 있는지 확인하는 것 또한 가능하다. 상반기 출시를 앞두고 있다. 또한 삼성전자는 가정용 서비스 로봇인 ‘삼성봇 핸디’도 이날 공개했다. AI가 카메라를 통해 물체의 위치나 형태를 인식한 뒤 ‘로봇 팔’을 이용해 이를 옮길 수 있다. 식사 전 식기 배치나 식사 후 정리 등을 도울 때 사용할 수 있을 것으로 보인다.LG디스플레이는 서울 강서구 LG사이언스파크에 CES 2021 실물 전시장을 꾸렸다. LG디스플레이는 이곳에서 스피커 없이 패널 자체가 진동해 소리를 내는 ‘CSO 패널’을 공개했다. 평소에는 TV처럼 사용하다가 몰입감이 중요한 게임을 할 때는 화면의 휨 정도인 곡률을 조절할 수도 있다. 고효율 유기물 재료를 적용하고 발광 레이어를 추가해 발광 효율을 기존 대비 약 20％ 향상한 77인치 차세대 유기발광다이오드(OLED) TV 패널도 공개했다. 한재희 기자 jh@seoul.co.kr

11일 개막한 ‘CES 2021’에서 행사의 주역인 삼성전자와 LG전자는 코로나19 이후 급변한 일상을 경험하고 있는 전 세계 소비자들에게 기술과 혁신으로 ‘더 나은 삶’을 선사하겠다며 제품과 서비스를 소개했다. 이날 ‘삼성 프레스 콘퍼런스’를 주관한 승현준 삼성전자 사장(삼성리서치 소장)은 “코로나19가 새로운 일상과 위기를 가져왔으나 이를 극복하고 ‘보다 나은 일상’으로 나아가고자 다 같이 노력해야 한다”며 “삼성전자가 사람 중심의 기술과 혁신을 통해 적극적으로 기여하겠다”고 말했다. 승 사장은 감염병 사태 이후 다양한 역할을 하게 된 ‘집’을 중심으로 개개인의 라이프스타일, 취향까지 고려한 삼성의 신제품과 인공지능(AI), 사물인터넷(IoT) 기반 서비스를 대거 선보였다. 승 사장은 이미 진화된 AI 기술이 삼성전자 신제품에 깊숙이 적용되고 있다고 했다. 딥러닝 방식으로 입력되는 영상의 해상도와 관계없이 4K, 8K 수준의 화질로 최적화시켜 주고, TV가 설치된 공간의 조명, 소리 반사 정도나 소음까지 분석해 최적의 사운드를 제공하는 삼성 TV가 한 예다. 그는 집안일을 도와주는 ‘삼성봇 핸디’ 등을 소개하면서는 “로봇은 AI 기반의 개인화된 서비스의 정점으로, 하드웨어와 소프트웨어의 최적화된 결합을 통해 개인 삶의 동반자 역할을 할 수 있도록 하는 것이 중요하다”며 삼성의 로봇 연구 방향을 밝혔다.LG전자는 프레스 콘퍼런스에서 고객이 집에서 경험할 수 있는 안심, 편리, 재미 등 다양한 가치를 소개하며 ‘뉴노멀 시대’에 맞는 라이프스타일을 차별화된 제품과 서비스로 제시했다. 영상 내레이터로 먼저 등장한 권봉석 대표이사 사장은 “예상치 못한 방식으로 빠르게 변하고 있는 시대에 고객들이 더 나은 삶을 최대한 누릴 수 있도록 편리와 재미는 물론 소중한 일상을 안전하게 지킬 수 있는 방법을 제공하겠다. 혁신의 여정을 멈추지 않겠다”고 말했다. 특히 LG전자가 디자인한 가상인간 ‘김래아’가 깜짝 등장해 눈길을 끌었다. AI 기술로 구현된 가상인간인 래아는 최근까지 딥러닝 기술을 통해 3D 이미지를 학습해 왔다. 이날 래아는 호텔 등에서 방역 작업을 하는 ‘LG 클로이 살균봇’ 등 혁신 제품을 소개하는 등 입체적이면서도 생동감 넘치는 모습을 보여 줬다. 정서린 기자 rin@seoul.co.kr

도봉구가 서울 자치구 중 처음으로 지속가능발전교육(ESD) 교재(그림)인 ‘우리 마을에서 지구별까지 이어지는 17개 약속’ 2종을 발간했다고 11일 밝혔다. 도봉구는 지속가능발전을 구정의 핵심 운영 원칙으로 한다. 지난해 1월에는 서울시 자치구 최초로 유엔대학으로부터 지속가능발전교육 거점도시로 선정되기도 했다. 이번에 발간한 교재는 초등학생용으로 지난 1년 동안 민·관·학 협업으로 완성됐다. 교육부 초등학교 교육과정, 범교과 학습주제 연결분석과 구정 목표 등을 반영한 7개 단원을 추출했다. 지역 초등교사를 대상으로 한 지속가능발전·지속가능발전교육 인식 설문조사, 집필진 구성(구, 초등교사, 세계시민교육 학습동아리) 및 교재 집필, 교재 제작을 위한 전문가 의견 수렴 및 내용 감수, 쌍문초·방학초·가인초·도봉초·한국여성생활연구원 등의 교재 모니터링, 교재 제목 선정, 교재 발간 등의 과정을 거쳤다. 윤수경 기자 yoon@seoul.co.kr

혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

경기 광명시가 새해 들어 신혼부부와 청년들에게 전월세 대출이자를 지원하고 전 고고생에게 무상교육을 확대 시행하는 등 30만 광명시민의 보다 나은 삶을 위해 제도를 개선하고 알찬 정책을 추진한다. 11일 광명시에 따르면 코로나19 감염 사태가 길어짐에 따라 일자리·복지 분야 지원을 더 확대한다. 다음달 택배기사 및 대리운전기사·학습지 교사 등 이동노동자를 위한 쉼터가 철산동에 문을 연다. 이곳에는 남녀 휴게실과 회의실·교육실 시설이 갖춰지고 다양한 교육 프로그램을 운영한다. 시는 올해 생활임금으로 지난해보다 1.5% 인상된 1만 150원을 지급하고, 공공일자리 참여 기준을 중위소득 60% 이하 또는 재산 2억원 이하에서 중위소득 70% 이하 또는 재산 3억원 이하로 완화했다. 여성새일센터를 통해 여성인턴을 채용하는 기업에 지난해보다 80만원 늘어난 320만원을 지원하며 여성인턴에게는 인턴 종료 후 6개월 이상 근속 시 60만원을 지원한다. 광명시는 영세 사업주의 경영 부담을 덜고 저임금 노동자의 고용안정을 위해 인건비를 지원한다. 새해부터 생계급여를 신청하는 65세 이상 노인과 30세 이상 한 부모가족에 대해 부양의무자 기준을 적용하지 않고, 신청 가구의 소득과 재산이 생계급여 기준에 충족되면 생계급여를 지급한다. 또 모든 장애인연금 기초급여수급자에게 월 30만원을 지급한다. 만18세 이상 중증장애인 중 소득하위 70% 이하에 지급한다. 6세 이상 기초생활 수급자와 차상위계층에게 지급하는 문화누리카드 발급액이 기존 9만원에서 10만원으로 올랐으며 주거급여 수급가구에서 부모와 떨어져 사는 20대 청년에게 주거급여를 별도로 제공한다. 지난해 고등학교 2·3학년을 대상으로 실시했던 고등학교 무상교육이 올해 1학년까지 확대되는데, 수업료와 납부금을 학교장이 정하는 사립학교는 제외된다. 아이돌봄서비스 이용 시간이 연 720시간에서 840시간으로 늘어나고 비용은 자격 기준에 따라 기존 85%에서 최대 90%까지 확대 지원한다. 광명소하휴먼시아4단지 주민공동시설에 경기도 거점형 아동돌봄센터가 상반기 중 문을 연다. 학기 중에는 오후 2~7시, 방학 중에는 오전9시~오후 6시까지 운영한다. 기존에 각 동의 통장 등이 전달하거나 등기우편으로 보냈던 민방위 교육훈련 통지서를 모바일로 받아 볼 수 있으며, ‘정부24’에서 직접 사진을 올리고 수수료를 납부하면 여권 재발급 신청이 가능하다. 시는 부동산 공시가격 현실화에 따른 세부담을 완화하고자 주택공시가격 6억원 이하 1가구 1주택자의 재산세를 감면해준다. 주택공시가격 5억~6억원은 0.35%, 2.5억~5억원은 0.2%, 1억~2.5억원은 0.1%, 1억원 이하 0.05%씩 낮추어 3년간 감면할 계획이다. 신혼부부·청년들을 대상으로 전월세 대출이자를 지원하는 것으로, 부동산 가격 폭등과 취업난으로 어려움을 겪는 신혼부부와 청년들의 주거비용 부담을 덜어준다는 취지다. 신혼부부에게 해마다 1회씩 3년간 가구당 최대 195만~225만원(연간 최대 65만~75만원), 청년은 3년간 가구당 최대 90만~120만원(연 최대 30만~40만원)까지 지원받을 수 있다. 이 밖에도 시는 다문화가정의 지역사회 적응을 돕기 위해 광명소식지를 광명시 거주 다문화가족 인구가 가장 많은 3개 국가 중국·베트남·일본 언어로 번역해 제공한다. 이명선 기자 mslee@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

서울 양천구가 코로나19 확산 방지 등 학생들의 안전한 학교생활을 위해 적극 나섰다. 구는 지역 53개교에 미세먼지 알리미, 방충망, 안전바 설치와 방역용품 구매 등을 위해 총 3억 3600만원을 지원한다고 10일 밝혔다. 구는 코로나19 확산이 장기화하며 학교방역 등 학생 안전과 관련된 시설 개선이 필요하다고 판단해 지역 학교를 대상으로 수요조사한 뒤 지원을 결정했다. 이에 따라 코로나19 감염 예방을 위해 실내 환기가 중요해진 만큼 교실 환기 시 해충 유입 등의 불편을 해소하고 원활한 수업 진행을 위한 방충망과 창호 안전바 설치 비용을 지원한다. 구는 방충망이 없는 19개 학교에 설치비 2억 400만원을, 40개 학교에 방역용품 등 구매비용 1200만원을 지원한다. 이로써 학생들이 학습에만 집중할 수 있는 안전한 교육환경이 조성된다. 이 밖에도 미세먼지 등 유해환경으로부터 학생들을 보호하기 위해 초·중·고등학교 학교 건물 외벽 등 눈에 잘 띄는 곳에 ‘미세먼지알리미’를 31개 학교에 설치한다. 1억 2000만원의 예산이 소요될 것으로 보인다. 학생들은 미세먼지알리미로 대기질 정보를 한눈에 파악하고 미세먼지 발생 시에는 야외 활동을 자제하는 등 신속하게 대응해 학생 스스로 건강을 지키는 데 도움이 될 것으로 구는 기대한다. 김수영 양천구청장은 “코로나19와 미세먼지 등 학교 교육 환경이 많은 어려움을 겪고 있다”며 “앞으로도 안전한 교육환경을 조성해 학생들의 건강과 학습권을 보호하도록 지속적인 노력을 이어 가겠다”고 말했다. 문경근 기자 mk5227@seoul.co.kr

서울 송파구가 11일부터 수요자 맞춤형의 종합 교육플랫폼 ‘송파쌤 교육포털’ 운영을 시작한다고 10일 밝혔다. 민선 7기 역점사업인 ‘교육 1위 송파’의 하나이다. 송파쌤 교육포털은 지역의 다양한 기관에 흩어져 있던 각종 교육 콘텐츠와 인프라를 한곳으로 통합하고, 사용자 중심의 직관적인 정보를 제공하는 플랫폼이다. 자치회관 프로그램, 정보화 교육, 송파어린이문화회관 등 55개의 송파쌤 교육시설 인프라가 온라인으로 연결돼 정보 수집부터 신청, 수강, 학습이력 관리 등 개인별 학습 현황을 관리할 수 있다. 공교육부터 지역 교육시설, 지역사회의 다양한 교육 정보를 통합·연계했다. 콘텐츠는 크게 미래교육과 평생교육 2가지다. 미래교육은 청소년을 대상으로 555명의 지역사회 분야별 인재를 연결해주는 ‘인물도서관’, 미래융합인재를 키우기 위한 미래교육센터, 스스로 공부하는 힘을 길러주는 자기주도학습센터, 음악 창작활동을 지원하고 악기를 대여해주는 악기도서관 등으로 운영된다. 평생교육은 평생학습원, 자치회관, 여성교실, 정보화교육, 송파생활문화대학 등의 프로그램을 제공하고, 자체 제작한 온라인 콘텐츠 100개 이상을 보유해 비대면 교육도 지원한다. 수요자가 원하는 교육을 신청하는 강좌개설 청원 ‘마그넷 스쿨’도 운영한다. 송파쌤(Songpa Smart Education Model)은 지역의 다양한 교육자원을 활용해 영유아부터 노인까지 평생교육 프로그램을 제공하는 구의 자체 교육체계다. 박성수 송파구청장은 “송파쌤 교육포털은 대면 교육이 어려운 상황에서 맞춤형 교육 콘텐츠 제공 채널로 자리잡을 것”이라면서 “누구나 지식을 습득하고 소양을 쌓는 전문 교육포털로 거듭나도록 양질의 콘텐츠를 적극 발굴하겠다”고 말했다. 김희리 기자 hitit@seoul.co.kr

스타트업 ‘스캐터랩’이 지난달 23일 출시한 스무 살 여대생 인공지능(AI) 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 논란이 되고 있다. 게다가 이루다의 자연스러운 대화 비결이 같은 개발사가 운영하는 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들의 대화 100억건을 학습한 결과로 밝혀지면서 서비스 중단을 요구하는 목소리가 커지고 있다.전문가들은 AI가 적절치 않은 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개발자가 개입하는 것이 단기적 대책이 될 수 있겠지만, 근본적으로는 인간이 AI에게 부적절한 질문을 하지 않도록 하는 교육과 인식 변화가 필요하다고 지적했다. 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해 본 결과 ‘페미니즘’이라고 말을 걸면 “그런 말 진짜 싫다”는 답이 돌아왔다. 다른 대화에서는 페미니즘에 대해 “너무 불필요하고 무의미한 질문”이라고 답했다. ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴, 그만해. 머리채 잡기 전에”, ‘레즈비언’이란 말에는 “진짜 싫어. 혐오스러워. 질 떨어져 보이잖아”라고 대답했다. 김종윤 스캐터랩 대표는 지난 8일 입장문에서 “모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 해명했다. 개발자 1세대인 이재웅 전 쏘카 대표는 소셜네트워크서비스(SNS)를 통해 챗봇의 정체성을 20세 여성으로 정한 것이 성적 악용 문제를 유발한 원인이라고 지적했다. 이 전 대표는 “(개발사가) 서비스를 운영하면서 (AI에게) 추가 학습을 시킬 게 아니라 서비스 중단 후 사회규범에 맞는 최소한의 테스트를 통과하는지 점검해야 한다”고 주장했다. 나아가 채용 및 면접, 뉴스 추천 시스템 등 AI를 활용한 프로그램이 인간을 차별하거나 혐오하지 않는지 감사가 필요하다고 제언했다. 성소수자, 장애인을 포함한 포괄적 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. 장병탁 서울대 컴퓨터공학과 교수는 이날 서울신문과의 통화에서 “사람이 AI에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라며 “AI만 탓하거나 개발자를 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 AI를 백지상태의 아이에 비유했다. 그는 “정해진 답만 말하던 과거의 AI와 달리 지금의 AI는 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”며 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 AI에게 하기 때문에 생기는 문제다. AI가 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 AI에 대한 교육을 받아야 한다”고 말했다. 최영권 기자 story@seoul.co.kr

더불어민주당이 오는 4·7 재보궐 선거를 앞두고 4차 재난지원금 카드를 만지작거리자 국민의힘은 찬성과 반대 어느 한쪽에도 크게 힘을 싣지 못한 채 대응 전략을 고심하고 있다. 지난해 4월 총선 당시 겪은 재난지원금 논란의 학습효과 때문에 여론을 거스르지 않으면서도 여당의 ‘돈풀기 전략’의 효과를 최소화할 방안을 찾고 있는 것이다. 국민의힘 핵심관계자는 10일 통화에서 “4차 지원금이 지급되면 선거에서 여당에 매우 유리한 국면이 펼쳐지겠지만 코로나19 직격탄으로 지원 필요성 자체는 우리 당도 부정할 수 없는 상황”이라면서 “포퓰리즘이 되지 않고 필요한 곳에 예산이 가도록 최대한 막아야 한다”고 밝혔다. 국민의힘은 지난 총선의 경험으로 재난지원금에 대한 트라우마가 있다. 당시 민주당이 전 국민 재난지원금을 추진하자 국민의힘은 ‘금권선거’라며 비판하다가 여론의 뭇매를 맞자 급속도로 입장을 바꿨다. 당시 황교안 대표는 급작스럽게 ‘전 국민 재난지원금 50만원’을 공약으로 내걸었다가 정부·여당이 지원금을 지급할 길만 열어 줬다는 비판을 받았다. 총선 참패 원인을 분석한 백서에도 “정권 심판을 앞세웠다가 급하게 재난지원금 태세를 전환, 다시 번복하는 등의 혼선이 패배를 불렀다”는 지적이 담겼다. 국민의힘은 여당의 전 국민 재난지원금이 선거를 노린 정책이라는 점을 부각하면서 선별 지원을 주장하는 쪽에 무게를 두고 있다. 코로나19로 인한 소상공인·자영업자의 생활고가 심각한 만큼 전면 반대를 주장하긴 어렵다는 판단이다. 특히 서울·부산시장 선거에 뛰어든 야권 후보들을 중심으로 재난지원금을 대신할 지원 정책 아이디어도 내놓고 있다. 이혜훈 전 의원은 “코로나 피해 사업장의 대출금 연체는 정부 방역조치에 순응하는 과정에서 발생한 것으로 개인의 책임으로만 돌릴 수 없다”며 자영업자 대출금 지원을 제안했다. 이언주 전 의원은 “코로나19 팬데믹으로 인해 영세 자영업자·소상공인들은 사실상 아사 직전이라는 말이 나온다”며 “영세자영업자 몰락 및 신용불량 방지 부채탕감전담팀 구성”을 정부에 요청했다. 이하영 기자 hiyoung@seoul.co.kr

이재웅 전 쏘카 대표가 10일 스무살 여대생 인공지능 이루다의 차별·혐오 표현 문제와 관련해 개발사인 스캐터랩이 서비스를 중단하는 등 사회적 책임을 다할 것을 촉구했다. 개발자 1세대로 포털 사이트 다음을 성공시키고 공유자동차 서비스 쏘카를 생활에 안착시킨 그는 인공지능 공유택시 서비스 타다를 출시하면서 사회적 비난의 대상이 되기도 했다. 이 대표는 해당 문제의 쟁점을 세 가지로 나눠 보았다. 그는 “인공지능(AI) 챗봇 이루다에 대해서 문제도 아직 정확히 무엇인지 잘 정리가 된 것 같지 않습니다. 제가 생각하는 문제와 해결책에 대해서 간단하게 정리해보려고 합니다. 다른 의견은 얼마든지 같이 이야기해봤으면 좋겠습니다. AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제니까요. 동시에 여러 문제가 섞여서 나오는데 하나하나 다르게 접근해야할 문제가 아닌가 싶습니다”라며 글을 시작했다. 이 대표는 먼저 ‘AI 챗봇에 대한 성적 학대·악용’을 사용자의 문제로 보았다. 그는 “AI가 모든 상황에 대해서 학습이나 규칙기반으로 대처하는 것은 불가능합니다. AI가 만능은 아니니까요”라며 “AI 챗봇에 대해서 성적 학대·악용은 사용자의 문제이지 AI서비스의 문제라고 보기는 어렵습니다. 세상에는 로봇청소기를 성적 대상화하는 사람까지 있으니까요.”라고 지적했다. “학습과 보정을 통해서 직접적인 대상화가 어렵도록 보완하면서 그래도 허점을 찾아서 성적으로 악용하는 사람들이 그 과정을 공개·공유하는 것은 적극적으로 막아 나가야겠죠. 이 부분은 회사가 잘 대처했다고 봅니다”라고 했다. 이 대표는 ‘AI 챗봇이 20세 여성으로 설정한 것’이 두번째 문제라고 봤다. 상업적으로 유리한 선택이었지만 기업의 사회적 책임을 고려하지 않은 선택이라고 지적했다. 그는 “이루다가 20세 여성으로 설정되는 순간, 현재의 우리 사회에서 20세 여성이 갖고 있는 위상이 그대로 투영되지 않을 수 없습니다. 슬프게도 한국 사회에서 가장 성적으로 착취당할 수 있는 취약한 계층을 찾는다면 아마도 20세 여성일 수 있을 것입니다”라고 했다. 이어 “그것을 알고 있었다면 굳이 AI챗봇의 젠더나 나이를 설정할 필요가 있었을까 싶습니다만, 역설적으로 상업적인 회사에서 가장 마케팅적으로 옳은 선택을 하자고 하면 다른 선택이 있었을까 싶습니다”고 했다. 이어 “다만, 기업의 목표가 이윤극대화뿐만 아니라 사회적 책임을 다하는 것이라고 하면 그런 선택을 안 할 수 있었을 것이라는 아쉬움이 있습니다. 기술은 사회적 책임도 있고, 특히 AI는 사회적 책임에 더 민감해야 하니까요. 이 부분은 논란도 안고 가겠다고 하면 회사를 비판할 수는 있겠지만 회사의 책임은 아니라고 생각합니다. 하지만 투자자나 경영진이 회사나 서비스의 미래를 길게 봤다면 했을 좋은 선택은 아니라고 생각합니다”라고 했다. 이 대표는 위 두 문제는 감당할 수 있는 논란이지만 무엇보다 현재의 챗봇이 불특정 다수에게 혐오와 차별 표현에 대한 보정 없이 서비스를 내보낸 것이 문제라고 봤다. 그는 “AI를 사람이 차별, 혐오, 학대하는 것도 문제이지만 AI가 사람을 차별, 혐오, 학대하는 것은 큰 문제입니다”라며 “성적지향이나 특정 종교나 장애여부에 대해서 일상 대화에서 차별하거나 혐오하는 사람이 많아서 학습의 결과로 차별이나 혐오를 하게 되었다고 하더라도 그것을 보정없이 일반 대중에게 서비스를 하는 것은 큰 문제”라고 지적했다. 그는 “포괄적 차별금지법이 아직 통과되지는 않았지만 우리 사회의 기본적인 합의는 종교, 학력, 지역, 성적 지향, 장애등에 대해서 차별이나 혐오하는 것은 안된다는 것입니다”라며 “자기 혼잣말에서 혐오발언을 하는 사람이라고 해도 직업이 선생님이면 아이들에게 혐오 발언을 해서는 안되며 공개적으로 혐오발언을 했을때는 처벌받아야하는 것과 매한가지”라고 했다. 이어 “서비스를 하면서 추가 학습으로 보정할 일이 아니라 지금이라도 빠르게 차별혐오발언은 금지시키도록 기준을 정하고 그 기준을 따르도록 시스템을 변경해야 합니다. 서비스 운영하면서 추가학습하는 게 아니라 서비스 중단후 우리 사회 규범에 맞는 최소한의 차별·혐오테스트를 통과하는 지를 점검후에 다시 서비스를 하는 것이 맞습니다. 성적지향만 차별하고 혐오하는 건지 특정 종교를 혐오하는 건 아닌지, 장애인을 혐오하는 건 아닌지 파악하고 최대한 그럴 여지를 없애야 합니다. 오래 걸릴 일은 아닙니다. 그리고 딥러닝 학습기반 시스템이라고 해서 모든 것을 학습으로 해결할 필요도 없습니다”라고 말했다. 그는 “혐오와 차별문제는 해결되지 않으면 AI 서비스를 하면 안됩니다. 많은 기업들이 쓰고 있는 AI채용, 면접 시스템 그리고 범용 AI 챗봇, AI 뉴스 추천 시스템등은 최소한의 사회적 규범을 지키고 있는지 감사할 수 있어야 합니다. 아니면 우리도 모르는 새 우리 아이들은 혐오를 배우고, 면접을 보다가 알 수 없는 이유로 차별을 당하고, 뉴스나 컨텐츠에서 혐오나 차별적인 콘텐츠를 우선적으로 보게 될 것입니다. 기업의 사회적 책임이 AI 분야에서는 더 중요한 이유입니다. AI가 하니까 더 객관적이거나 중립적이지 않습니다. AI의 설계, 데이터 선정, 학습과정에는 사람의 주관이 개입될 수 밖에 없어서 그 과정은 들여다 보지 않더라도 최소한 그 결과물이 최소한의 차별이나 혐오를 하거나 유도하지 않는지는 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야합니다”라고 했다. 마지막으로 이 대표는 “이루다의 투자자나 경영진의 책임은 어디까지일까요?”라는 질문을 던지면서 스캐터랩이 사회적 비난 여론을 통감하고 서비스 중단 후 재개 등 책임 있는 자세를 보일 것을 촉구했다. 그는 “경영진이 혐오나 차별을 조장하거나 방치했다고 생각하지 않습니다. 아마 학습된 데이터가 일반인들의 일대일 대화이다보니 차별이나 혐오로 보이는 결과를 만들어냈을 수 있습니다”라면서도 “범용 서비스를 제공하는 기업의 경영진이라면 이런 문제가 지적되었을때 즉시 납득할만큼 수정을 할 수 없다면 사과하고 서비스를 중단하는 것이 답입니다. 이루다를 만들만큼의 기술력이면 최소한의 혐오나 차별을 방지하는 것이 오래 걸리지 않을 수 있습니다”라고 강하게 질타했다. 그는 “투자자들도 경영진이 사회적 책임을 다 하도록 돕는 것이 회사의 장기적인 미래를 위해 더 나은 선택임을 깨닫고 빠르게 문제를 인식하고 사과하고 바로 잡아서 서비스를 할 수 있도록 해야 합니다”라며 “책임있는 투자자와 경영진이 잘 알아서 문제를 풀 것으로 믿습니다. 기업의 사회적 책임은 경영진과 투자자가 함께 져야할 문제이니까요”라고 했다. 최영권 기자 story@seoul.co.kr

스타트업 스캐터랩이 지난달 23일 출시한 스무살 여대생 인공지능 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 커지고 있다. 또 이루다가 학습한 채팅 내용은 같은 개발사가 운영하는 또다른 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들 간의 대화로 밝혀져 논란이 가중됐다. 전문가들은 부적절한 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개입하는 것이 단기적 대책이 될 수 있겠지만 근본적으로는 인간이 인공지능에게 옳지 않은 질문을 하지 않는 교육이 필요하다고 했다. 이루다에 ‘페미니즘’ ‘인권’ 물어보니 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해보니 ‘페미니즘’이라고 치면 “그런말 진짜 싫다구”, ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴 그만해 머리채 잡기 전에”, ‘레즈비언’이라고 치면 “진짜 싫어 혐오스러워. 질 떨어져 보이잖아”라고 대답했다.개발사인 스캐터랩 김종윤 대표는 지난 8일 입장문에서 “인간이 인공지능에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었고 예상할 수 있는 일이었다”며 “이는 성별에 무관하게 일어나는 일”이라고 설명했다. 스캐터랩은 고양이 챗봇 ‘드림이’를 시작으로 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나’를 서비스한 적 있다. 김 대표는 “인간의 언어는 해당 단어를 사용하지 않고 얼마든지 의미를 전달 할 수 있기에 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 했다. 개발자 1세대인 이재웅 전 쏘카 대표는 지난 9일 페이스북에 이루다 논란에 대해 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI과 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 했다. 이어 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 지적했다. 특히 챗봇을 스무살 여대생으로 정한 것도 부적절했다고 했다. 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. “인공지능, 나쁜 점도 배울 수밖에” 장병탁 서울대 컴퓨터공학과 교수는 10일 서울신문과의 통화에서 “사람이 인공지능에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라면서 “이 문제는 인공지능만의 탓을 하거나, 인공지능을 개발한 스타트업만을 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 백지 상태에 있는 아이에 인공지능을 비유를 했다. 우리가 낳아 기르는 아이조차도 유치원에 가서 욕설을 배우듯 사회에 나간 인공지능도 그들의 자율에 맡겨선 도덕성 탑재가 어렵다는 것이다. 장 교수는 “쉽게 말해 정해진 답만 말하던 과거의 인공지능과 달리 지금의 인공지능은 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”고 지적하면서 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 인공지능에게 하기 때문에 생기는 문제다. 인공지능이 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 인공지능에 대한 교육을 받아야 한다”고 대안을 제시했다. 최영권 기자 story@seoul.co.kr

만화책방이 학교 근처에서도 영업할 수 있도록 허용해야 한다는 법원의 판단이 나왔다. 만화책방이 학생들의 교육 환경에 나쁜 영향을 준다고 볼 수 없는데다 만화에 대한 부정적 인식이 변화한 점을 감안해야 한다는 취지다. 10일 서울행정법원에 따르면 행정7부(수석부장 김국현)는 최근 교육환경보호구역 내에서 A만화책방을 운영하지 못하도록 한 서울시 서부교육지원청 처분을 취소하라고 판결했다. 서부교육지원청은 2018년 민원제보에 따라 A책방이 한 초등학교 경계로부터 103ｍ, 출입문으로부터 147ｍ에 위치한 것을 확인하고 즉시이전·폐업·업종전환 등을 요구했다. A 책방은 교육환경법상 학교 경계로부터 200ｍ까지인 교육환경보호구역 중 절대보호구역을 제외한 지역인 상대보호구역에 자리 잡고 있다. 상대보호구역에서는 지역위원회 심의를 거쳐 만화대여업 등 일부 제한 시설을 금지 대상에서 제외할 수 있다. 이에 A책방 직원은 같은 해 4월 서부교육지원청 교육장에게 책방을 금지 시설에서 빼달라고 요청했으나 교육장은 ‘학습과 교육환경에 나쁜 영향을 준다’며 거절당했다. A책방 직원은 처분에 불복해 행정심판을 청구하고 행정소송을 제기했으나 모두 기각됐다. 2019년에는 A책방 운영 업체가 같은 취지의 제외 신청을 했지만 불허 결정이 나면서 이번 소송을 제기했다. 재판부는 “원고의 영업이 위 학교 학생들의 학습과 교육환경에 나쁜 영향을 줄 것이라 단정할 수 없다”며 “영업이 계속될 수 있도록 하는 게 타당하다”고 판단했다. 재판부는 1999년 만화대여업이 풍속영업에서 제외된 것을 들어 “만화나 만화대여업이 그 자체로 유해하다고 볼 근거가 없다”면서 “폭력성·선정성이 수반되는 일부 만화가 유해할 뿐이고, 이는 별도 규율하면 족하다”고 설명했다. 또 재판부는 최근 정부가 교육환경법에서 보호구역 내 만화대여업을 제한하는 부분을 삭제하는 내용의 개정법률안을 국회에 제출한 점도 강조했다. 재판부는 “기존에 책의 형태로만 만화를 접하던 것과 달리 현재에는 온라인 웹툰의 형태로 쉽게 접근할 수 있다”고도 했다. 민나리 기자 mnin1082@seoul.co.kr

지난해 12월 첫 선을 보인 인공지능(AI) ‘이루다’가 성추행 피해에 이어 이번에는 동성애에 대한 편견으로 논란의 대상이 됐다. 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 이어 레즈비언(여성 동성애자)가 혐오스럽다고 한 이루다의 대화 목록 캡처 화면과 함께 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”면서 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 주장했다. 이 전 대표는 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다”고 강조했다.이어 AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다고 덧붙였다. 따라서 지금 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 제안했다. 이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 별도의 프로그램(어플리케이션)이 아니라 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 최근 10~20대 사이에서 큰 인기를 끌며, 이달 초 기준으로 이용자가 32만명을 돌파했다. 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다. 제작사 측은 학습 데이터의 규모가 커질수록 성능이 좋아지는 딥러닝의 특성때문에 이루다가 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 설명했다. 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 전날 자사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 밝혔다. 하지만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 부연했다. 윤창수 기자 geo@seoul.co.kr