김 “문 정권서 썩은내와 비린내 진동”“박원순, 창피해서 입에 올리기도어려운 냄새 타령 여비서에 문자 보내”“김어준, 이용수 할머니에 냄새 타령”임종석, 탈원전 감사한 최재형에 “윤석열·전광훈 냄새 난다” 비난도 지적 서울시장 보궐선거 출마선언을 한 김근식 경남대 교수가 15일 “문재인 정권 인사들은 유난히 ‘냄새’를 좋아하나 보다”면서 “냄새 정권이냐”고 꼬집었다. 이는 고 박원순 전 서울시장이 성추행한 여직원에게 ‘냄새를 맡고 싶다’고 문자하거나 임종석 전 대통령 비서실장이 탈원전 정책을 감사하는 최재형 감사원장을 겨냥해 ‘명백히 정치를 하고 있다’며 ‘윤석열 검찰총장과 같은 냄새가 난다’고 비난한 데 따른 것으로 보인다. 법원 “박원순, 여직원에 성희롱 문자”“냄새 맡고 싶다” “섹× 알려주겠다” 김 교수는 이날 자신의 소셜네트워크서비스(SNS)인 페이스북을 통해 이렇게 밝혔다. 김 교수는 “박원순 시장은 창피해서 입에 올리기도 어려운 냄새 타령을 여비서에게 문자로 보냈다”고 지적했다. 성폭행 등의 혐의로 기소된 전 서울시장 비서실 직원 정모씨 유죄 선고 판결문에서 박 전 시장이 ‘냄새를 맡고 싶다’ 는 등 문자를 보낸 사실이 파악된 데 따른 말이다. 서울중앙지법 형사합의31부(부장판사 조성필)는 전날 준강간치상 혐의로 기소된 전직 서울시장 비서실 직원 정모씨에게 징역 3년6개월의 실형을 선고하고 법정구속했다. 이날 재판부는 피해자의 외상후 스트레스 장애의 원인에 대해 판단하는 과정에서 박 전 시장의 성추행 사실이 있었다는 점을 인정했다. 박 전 시장이 자신의 비서로 일하던 피해자에게 성적인 문자와 속옷 사진을 보냈고, ‘냄새를 맡고 싶다’ ‘몸매가 좋다’ ‘사진을 보내달라’ 는 등 문자를 보낸 사실을 인정한 것이다. 또 박 전 시장이 피해자가 다른 부서로 옮긴 뒤에도 ‘남자에 대해 모른다’ ‘남자를 알아야 시집을 갈 수 있다’ ‘섹스를 알려주겠다’고 문자를 보낸 것도 사실로 봤다. 박 전 시장은 지난해 7월 B씨로부터 강제추행 등 혐의로 고소됐으나 이튿날 실종된 뒤 서울 북악산 인근에서 사망한 채 발견됐다.김어준, 이용수 할머니에 “냄새난다”배후설 제기…이 할머니 “내가 바보냐” 김 교수는 박 전 시장의 사례와 함께 TBS 교통방송에서 라디오프로그램을 진행하는 김어준씨가 일본군 위안부 피해자인 이용수 할머니의 기자회견을 두고 “냄새가 난다”며 배후설을 제기한 것을 거론했다. 김 교수는 “냄새타령의 원조는 김어준으로 이용수 할머니 기자회견에 배후설을 주장하며 ‘냄새 난다’고 헛소리, 총선직전 야당의 ‘n번방 인사 정계퇴출’에 ‘공작의 냄새’가 난다”라고 한 사실을 지적했다. 김씨는 정의기억연대 이사장 출신 윤미향 더불어민주당 의원의 비리 행위를 폭로한 이 할머니의 2차 기자회견 다음날인 지난해 5월 26일 이 할머니가 기자회견장에서 공개한 회견문도 할머니의 용어로 작성된 것이 아니라며 회견문 작성에 타인의 의견이 반영됐을 수 있다는 의혹도 제기했다. 김씨는 최용상 가자인권평화당 대표가 배후라는 취지로도 발언했다. 김씨는 당시 “지금까지 할머니가 얘기한 것과 최용상 가자인권평화당 대표의 주장이 비슷하고 최 대표의 논리가 사전 기자회견문에도 등장한다”고 배후설을 주장했다. 이에 이 할머니 측은 할머니의 의지로 당시 기자회견을 했고 회견문도 할머니의 구술을 바탕으로 정리된 것이라며 배후설을 일축했다. 이 할머니는 이틀 뒤 라디오방송에 출연해 김씨가 제기한 배후설에 대해 “내가 바보냐, 치매냐”라면서 “백번 천번 얘기해도 나 혼자 밖에 없다”고 강하게 반박했다. 김 교수는 “김어준을 향해 ‘쫄지 마’라고 응원하면서 김어준에게 ‘냄새’난다고 자학개그한 정청래(민주당 의원)”를 언급하기도 했다. 이는 국민의힘이 김씨를 TBS 유튜브 구독 캠페인 ‘1합시다’의 사전 선거운동 의혹에 대해 고발하자 정 의원이 김씨를 격려하는 과정에서 등장했다. 임종석 “최재형, 윤석열·전광훈 냄새 나”김근식 “감사원장을 집 지키는 개 취급” 김 교수는 또 전날 임종석 전 실장이 최재형 감사원장에게 한 ‘냄새’ 발언도 겨냥했다. 김 교수는 “임종석 전 비서실장까지 나서서 최재형 감사원장한테 윤석열의 ‘냄새가 난다’고 비난했다”고 짚었다. 김 교수는 “정말 문 정권은 냄새정권인 거 같다”면서 “국민들은 문 정권에게서 썩은내와 비린내가 진동함을 느낀다”고 주장했다. 임 전 실장은 지난 11~12일 감사원이 산업통상자원부를 대상으로 에너지 정책 수립과정에 대한 감사를 벌인 것을 두고 “윤석열 검찰총장에 이어 최재형 감사원장이 도를 넘어서고 있다”면서 “지금 최 원장이 명백히 정치를 하고 있다”고 비판했다. 이어 “전광훈(사랑제일교회 담임목사), 윤석열, 이제는 최재형에게서 같은 냄새가 난다”면서 “소중하고 신성한 권한을 부여받은 자가 그 권한을 권력으로 휘두른다”고 싸잡아 비난했다. 여권이 문재인 정권에 우호적이지 않다고 판단한 두 사람에 최 원장을 포함시킨 것으로 보인다.임종석, 최재형 감사원장에 ‘막말’ 비난“집 지키랬더니 안방 차지 뒤 주인 행세” “최재형, 권한남용·명백히 정치하고 있다”“도 넘었다, 신성한 권한 받고 권력 휘둘러”김근식 “독립기관 감사원에 오지랍 도 넘어” 임 전 실장은 자신의 SNS에 “(최 원장은) 정보 편취와 에너지 정책에 대한 무지, 감사원 권한 남용을 무기 삼아 용감하게 정치의 한가운데로 뛰어들었다”면서 “권력의 눈치를 살피지 말고 소신껏 일하라고 임기를 보장해주니 임기를 방패로 정치를 한다”고 주장했다. 이어 임 전 실장은 “집을 잘 지키라고 했더니 아예 안방을 차지하려 들고, 주인의식을 가지고 일하라 했더니 주인행세를 한다”면서 “법과 제도의 약점을 노리고 덤비는 또 다른 권력을 국민이 어떻게 통제할 수 있을지 많은 생각이 든다”고 했다. 김 교수는 전날 임 전 실장의 발언에 대해 “진보정권의 대통령 비서실장이라는 사람이 헌법상 독립기관인 감사원장을 집 지키는 충견쯤으로 간주하는 비민주적 사고방식이 은연 중 드러냈다. 참 한심하다”면서 “최 원장이 집 지키랬더니 안방 차지한 게 아니라 임 전 실장이 비서실 책임지랬더니 오지랍 넓게 오버하는 것”이라고 비판했다. 김 교수는 “살아있는 권력도 굴하지 않고 수사하는 게 검찰의 독립성이고, 자신을 임명한 대통령의 정부도 법적 절차에 하자가 있으면 밝혀내는 게 감사원의 역할”이라며 임 전 실장이 오히려 도를 넘어선 것이라고 꼬집었다.감사원, 野 공익감사 청구 따라작년 9월 산업부 감사 결정“코로나 사태로 11일에야 착수” 감사원은 지난 11일부터 12일간 일정으로 산업부를 대상으로 에너지 정책 수립 과정에 대한 감사를 벌이고 있는 것으로 파악됐다. 2019년 6월과 2017년 12월에 각각 발표된 제3차 에너지기본계획과 제8차 전력수급기본계획 수립 절차의 적정성 여부가 감사 대상이다. 이번 감사는 정갑윤 전 국민의힘 의원이 2019년 6월 공익감사를 청구한 데 따른 것이다. 정 전 의원 등은 에너지 관련 최상위 정책인 에너지기본계획을 수정하기 전에 하위 정책인 전력수급기본계획을 먼저 수정해 탈원전 정책을 추진하는 것은 위법하다는 취지의 주장을 해왔다. 감사원은 지난해 9월 이에 대한 감사를 결정했으나, 코로나19(신종 코로나바이러스 감염증) 사태로 이제야 착수하게 됐다. 이에 대해 산업부는 “비구속적 행정계획인 제2차 에너지기본계획 수정 없이 제8차 전력수급계획을 수립한 것이 법적으로 문제가 없다고 판단한다”는 입장을 밝혔다. 민주당, 월성원전 전면 대응 선언이낙연 “감사원 뭐했나” 강력 비판 민주당은 지난 13일 월성원전 지하수에서 방사성 물질이 검출된 데 대해 18일 현장조사를 비롯한 전면적인 대응에 나서겠다고 밝혔다. 이낙연 민주당 대표는 감사원 감사가 시작된 지난 11일 “1년 넘게 월성원전을 감사해놓고 사상 초유의 방사성 물질 유출을 확인하지 못한 감사원의 감사 결과는 납득하기 어렵다”면서 “이번 조사로 시설 노후화에 따른 월성원전 폐쇄가 불가피했음이 다시 확인됐다”며 앞서 원전의 조기폐쇄와 관련 경제성이 낮게 평가됐다고 감사 결과를 내놓았던 감사원을 지적했다. 이 대표는 당 최고위원회의에서 “지하수에서 방사성물질이 검출됐다는 사실 자체가 충격적”이라면서 “(감사원이) 무엇을 감사했는지 매우 의아스럽다”고 말했다. 이어 “이미 7년 전부터 제기된 삼중수소 유출 의혹이 왜 규명되지 못했는지, 누군가의 은폐가 있었는지, 세간의 의심대로 원전 마피아와 결탁이 있었는지 등을 명백히 밝혀야 한다”고 강조했다. 감사원 “월성 원전 경제성 낮게 평가”檢, 원전 자료 대량 삭제 공무원들 기소 앞서 검찰은 월성 1호기 원전과 관련한 내부 자료를 대량 삭제하거나 이에 관여한 산업통상자원부 공무원들을 재판에 넘겼다. 월성 1호기 원전 경제성 평가 조작 의혹 등 고발 사건을 수사하는 대전지검 형사5부(이상현 부장검사)는 지난달 23일 공용전자기록 등 손상·감사원법 위반·방실침입 혐의로 국장급 A(53)씨 등 산업부 공무원 2명을 구속 기소하고, 다른 국장급 공무원 B(50)씨를 불구속 기소했다. A씨와 B씨는 감사원의 자료 제출 요구 직전인 지난해 11월쯤 월성 1호기 관련 자료 삭제를 지시하거나 이를 묵인·방조한 혐의 등을 받고 있다. A씨 등의 부하직원 C씨(구속기소)는 실제 같은 해 12월 2일(월요일) 오전에 감사원 감사관과의 면담이 잡히자 전날(일요일) 오후 11시쯤 정부세종청사 산업부 사무실에 들어가 약 2시간 동안 월성 1호기 관련 자료 530건을 지운 것으로 조사됐다. 감사원은 조기 폐쇄 결정이 된 월성 원전의 경제성이 불합리하게 낮게 평가됐으며 이 과정에서 산업부 공무원 등이 감사 직전 원전 관련 자료를 대거 삭제, 은폐했다고 발표했었다.강주리 기자 jurik@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 지난 13일 자사 앱 ‘연애의 과학’에서 심리 테스트 명목으로 수집한 개인정보 1700건을 온라인에 15개월 간 무단 유출한 것에 대해 인정하고 사과했다. 스캐터랩은 논란이 된 카카오톡 대화 내용 수집 절차에 대해선 “적법했다”는 기존 입장을 되풀이 했다. 또 “원하는 사용자에 한해 데이터를 폐기하겠다”고 밝혀 아직 피해를 인지하지 못한 제3자의 개인정보는 데이터베이스(DB)에 그대로 남아 있게 된다. 집단 소송을 준비하는 피해자들은 “카톡 대화를 AI 개발에 사용하는데 동의한 적 없다”며 “나머지 데이터도 전면 폐기하라”고 요구하고 있다. ‘연애의 과학’ 앱 이용자들은 연인과 나눈 최소 수개월치의 카카오톡 대화를 전송하면서 별다른 동의 절차를 밟지 못했다. 앱 이용자의 카톡에 있던 집주소, 예금주명이 포함된 계좌번호, 건강정보 등 개인정보 다수가 지난달 23일 출시한 이루다와 채팅한 제3자에게 유출됐다는 의혹을 받고 있다. 민변 디지털정보위원회, 정보인권연구소 등 시민단체들은 지난 13일 “‘개발’에만 치중한 AI산업육성, ‘이루다’는 예정된 참사”라는 제목의 성명문을 내고 “특정 상대방과 나눈 카카오톡 대화를 전부 수집한 건 각각의 사항을 알리고 명시적으로 동의를 받도록 한 개인정보보호법 위반”이라고 했다. 스캐터랩은 앱 로그인 초기화면에 있는 ‘로그인함으로써 개인정보 처리방침에 동의합니다’라는 문구 하나로 동의가 충분했다고 판단했다. 개인정보처리방침에는 연애의 과학이 제공하는 서비스 이외에 ‘신규 서비스 개발 및 마케팅·광고에의 활용’이 있다. 개인 카카오톡 100억건을 활용해 이루다를 만든 것이 신규 서비스 개발에 포함된다고 본 것이다. 시민단체는 “‘신규 서비스 개발과 마케팅·광고 활용’이 연애의 과학 앱을 이용하기 위한 필수정보인지 의문”이라며 “필수정보가 아닌 개인정보 수집·이용에 대해서는 이용자의 선택을 보장해야 한다”고 했다. 국내 한 유니콘 스타트업 관계자는 14일 서울신문과의 통화에서 “신규서비스 개발이라는 단 한 줄로 포괄적인 동의를 받았다고 보기에는 부족해보인다”며 “업계에서 개인정보를 가볍게 여기는 문화가 퍼질까 우려된다”고 말했다. 김가연 오픈넷 변호사도 “카카오톡 대화를 제공 받기 위해 동의를 받는 과정은 명백히 개인정보보호법 위반”이라고 말했다. 또 다른 국내 스타트업 최고기술책임자(CTO)는 이날 “전문가의 법적 자문을 구했으면 좋았을 것”이라며 “이용자들에게 구체적으로 동의를 구하는 절차를 만들 필요가 있다”고 말했다. ‘이루다를 성노예로 만드는법’ 등을 공유했던 일부 남성 커뮤니티 이용자들은 청와대 국민청원 게시판에 여성 이용자들이 즐기는 알페스(Real Person Slash) 역시 성범죄라고 주장했다. 이에 여초 커뮤니티 이용자들은 남초 커뮤니티에 일반인 여성의 사진을 공유해 성희롱하는 비공개 게시판이 있다고 폭로하는 청원 글을 올리면서 젠더 갈등으로 비화됐다. 두 청원은 14일 기준 각각 19만 6000명, 19만 3000명을 넘었다. 최영권 기자 story@seoul.co.kr

대전의 9급 공무원 합격자가 수년간 악성 댓글로 걸그룹 멤버를 성희롱했다는 의혹에 대해 소속사가 고소에 나서면서 경찰이 정식으로 수사에 착수했다. 14일 경찰 등에 따르면 서울 마포경찰서는 11일 피해 걸그룹 멤버 소속사 얼반웍스가 성명불상자 6명을 정보통신망법상 명예훼손 혐의로 고소한 사건을 접수해 수사하고 있다. 얼반웍스는 “소속 아티스트들을 향한 모욕과 명예를 훼손하는 악성 게시물을 다수 확인했다”며 “지속적이고 도가 지나치는 6명을 대상으로 법적 절차를 진행했다”고 밝혔다. 고소 대상자는 웹사이트 디시인사이드 이용자 3명과 일간베스트(일베) 이용자 3명이다. 이들 중에는 지난해 말 대전시 지방공무원 채용시험에 합격했다는 이용자도 포함된 것으로 알려졌다.지난달 31일 청와대 국민청원 게시판에는 ‘대전 9급 공무원 합격한 아동성희롱범을 고발합니다’라는 제목의 청원이 올라오기도 했다. 청원인은 “디시인사이드 국내야구갤러리에서 오랫동안 활동한 민○○○라는 악플러(악성댓글 작성자)를 고발한다”면서 “걸그룹의 만 15~17세 미성년자 멤버들을 대상으로 수년간 신체 부위 등을 빗댄, 입에 담지도 못할 악성 댓글을 끊임없이 올린 자가 공무원이 되어 국민 혈세를 축낸다니 도저히 좌시할 수 없다”고 성토했다. 이어 “(악플러) 본인이 직접 2020년 10월 대전시 지방공무원 채용시험 합격 문자와 함께 지방행정서기보 시보 임용장을 인증했다”면서 “몇몇 네티즌이 해당 지자체에 민원을 넣었지만 별다른 입장이 없는 것으로 보아 ‘제 식구 감싸기’가 아닌지 의구심이 든다”고 주장했다.해당 청원은 14일 오전 11시 현재 3만 5000여명의 동의를 받았다. 문제의 악플러는 합격통보 문자메시지와 임용장 사진을 올려 자신의 합격 사실을 인증했는데, 이를 본 다른 네티즌들은 임용장 사진의 밝기를 보정하고 합격 통보 날짜 등의 단서를 통해 해당 지자체가 대전의 모 구청이라고 추정해냈다. 문제의 악플러로 지목된 임용 대상자는 해당 사실을 극구 부인하는 것으로 알려졌다. 경찰 관계자는 “소속사 측으로부터 고소장을 접수해 수사하고 있다”며 “구체적인 사안은 확인해주기 어렵다”고 말했다. 신진호 기자 sayho@seoul.co.kr

스타트업 스캐터랩이 심리 테스트 명목으로 수집한 100억건의 카카오톡 대화를 인공지능(AI) 챗봇 이루다의 개발에 사용한 사실이 드러나자 서비스 운영을 중단했다. 그런데 ‘이루다를 성노예로 만드는 법’ 등을 공유했던 일부 남성 커뮤니티를 중심으로 운영 중단에 반발하는 목소리가 커지면서 젠더(성)갈등으로 비화되는 사태가 벌어졌다. 개인정보 유출 피해자들은 성대결이 부각되면서 스캐터랩의 개인정보 유출과 AI 윤리라는 본질적인 문제가 가려질까 우려하고 있다. 남성 이용자가 많은 남초 커뮤니티는 AI를 성희롱하고 성노예화하는 것이 비판의 대상이 된다면 일부 트위터 여성 이용자들이 즐기는 알페스(RPS) 문화 역시 성범죄라며 공격했다. Real Person Slash의 줄임말인 알페스는 남성 아이돌 팬픽션(아이돌이 주인공이 되는 소설)에서 나온 문화로, 남성 연예인을 성적 대상화하는 소설 등의 창작물을 일컫는다. 남초 커뮤니티에서는 알페스를 실존 인물의 얼굴을 나체 사진 등에 합성하는 딥페이크에 준하는 성범죄라고 주장한다. 여성들이 모인 여초 커뮤니티 이용자들은 에펨코리아, 루리웹 등 남초 커뮤니티에 일반인 여성의 사진을 당사자 동의 없이 올리고 성희롱성 댓글을 다는 비공개 게시판이 있음을 폭로하며 반격했다. 당사자 동의 없이 소셜네트워크서비스(SNS)에서 여중생, 여고생 등 미성년자의 노출사진 등을 퍼와 공유하는 공공연한 성폭력이 벌어지고 있다는 주장이다. 젠더갈등은 청와대 국민청원 게시판의 동의 인원 세 대결 양상으로 번졌다. 알페스 이용자를 처벌해달라는 국민 청원에는 14일 기준 19만명 이상이 동의했다. 남초 커뮤니티의 성희롱 게시판을 고발하는 청원에는 18만명이 넘었다. 두 청원 모두 정부 공식 답변 기준인 20만명 동의를 앞두고 있다. 전문가 의견은 엇갈린다. 서혜진 더라이트하우스 변호사는 “팬픽 문화에서 분화된 알페스는 딥페이크와는 달리 표현의 자유를 넓게 인정해 저작표현물로도 볼 수 있다”면서도 “실존 인물이 성적 수치심을 느낄 정도의 수위로 표현하는 음란물이라면 팬들의 놀이문화로 용인될 수는 없을 것”이라고 지적했다. 서승희 한국사이버성폭력대응센터 대표는 “남초 커뮤니티는 알페스가 지인 능욕을 하는 딥페이크라는 프레임으로 접근하고 있지만 알페스는 팬픽에 불과하다”고 했다. 남초커뮤니티 비공개게시판에 일반인 사진을 올려 성희롱을 한 것에 대해선 “나체 사진이거나 노출 사진이 아닌 일상사진을 올린 건 처벌하긴 어렵다”면서도 “만약 당사자 동의 없이 올린 사진이 성폭력처벌법 14조 1항에 따라 몰래 찍은 불법촬영이라면 커뮤니티를 운영하는 정보통신사업자도 책임질 수 있다”고 말했다. 경찰 관계자는 “시각적으로 명백히 음란물임이 드러나는 딥페이크와 달리 알페스는 글이라 해석의 여지가 있다”며 “물론 알페스를 음란물로 판단한다면 명예훼손죄나 성폭력특별법으로 처벌할 여지는 있다”고 했다. 최영권 기자 story@seoul.co.kr

“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

성희롱과 장애인 비하 글 올려 논란경기도, 이달 말 징계 수위 결정 방침“징계 확정되면 별도로 경찰 고발” 경기도는 극우 성향의 커뮤니티 ‘일간베스트저장소’(일베) 등에 성희롱과 장애인 비하 글을 올려 논란이 된 7급 공무원 합격자 A씨에 대한 대면 조사를 마쳤다고 13일 밝혔다. 도는 조사 결과를 토대로 이달 말 인사위원회를 열어 A씨에 대한 임용 취소 등 징계 수위를 결정할 방침이다. 도에 따르면 성희롱과 장애인 비하는 지방공무원임용령 제4조에 따라 ‘임용후보자로서 품위를 크게 손상하는 행위’로, 공무원으로 직무를 수행하기 곤란하다고 인정되면 인사위 의결을 거쳐 임용후보자 자격 상실을 결정할 수 있다. 도 관계자는 “인사위원회에서 A씨에 대한 징계가 확정되면 성범죄 의혹 등에 대해서는 별도로 경찰에 고발할 방침”이라고 말했다. 경기도는 지난해 12월 30일 청와대 국민청원 게시판에 “일베 등에 성희롱 및 장애인 비하 글을 수시로 올린 사람이 최근 경기도 지방공무원 7급 임용시험에 합격했다”며 임용 취소를 요구하는 글이 올라오자 사실 확인에 나섰다. 자신을 경기도민이라고 밝힌 청원자는 이 글에서 “인터넷 커뮤니티에 공무원 합격 인증사진을 올린 사람이 과거 길거리에서 여성과 장애인을 몰래 촬영한 뒤 조롱하는 글을 커뮤니티에 수시로 게시했다”며 “미성년 여학생에게도 접근해 숙박업소로 데려간 뒤 부적절한 장면을 촬영해 자랑하듯 글과 함께 5차례 이상 올렸고 더 충격적인 내용도 있다”고 주장했다. 또 “면접에서 이런 그릇된 인성을 가진 사람을 걸러내지 못하고 최종 합격시켰다는 사실이 납득이 안 되고 화가 난다”고 목소리를 높였다. 임용 취소 청원글에는 이날 기준 9만 7000여명이 동의했다. 이재명 경기도지사는 지난달 페이스북을 통해 “만일 사실이라면 주권자인 도민의 대리인으로서 권한을 위임받아 도민을 위한 공무를 수행할 자격이 없다”며 A씨에 대한 엄정 조사를 주문했다. 최선을 기자 csunell@seoul.co.kr

安, 국민의힘 입당론 일축정진석, 安에 “계속 간만 봐 유감스럽다”나경원 “이 정권에 도움 준 사람, 野대표 안돼”안철수 “어떻게 하면 승리할지 생각 공유를”安 “상대방 배려 있어야 모든 지지자들 지지”안철수 국민의당 대표가 13일 ‘기호 2번’으로 단일화해야 승리할 수 있다는 국민의힘 주장에 대해 “야권 대표성은 결국 국민들께서 정해주는 것”이라며 입당 또는 합당에 분명히 선을 그었다. 안 대표는 국민의힘이 단일화를 거부할 경우 “야권 지지자들이 등을 돌릴 것”이라고 말했다. 정진석 “승률 높이려면 기호 2번해야”안철수 “특정 정당 이해타산 결정 안돼” 안 대표는 이날 국회에서 기자들과 만나 “어떠한 정당 차원에서 생각하지 말고 더욱 더 크게 바라보고 어떻게 하면 선거에서 승리할 수 있을 것인가에 대한 생각부터 공유하는 게 먼저”라며 이렇게 말했다. 그는 “서울시장 선거에서 승리해 정권교체의 교두보를 확보해달라는 게 야권 지지자들의 지상명령”이라면서 “이러한 요구를 무시하고 거부한다면 야권 지지자들이 등을 돌릴 것”이라고 강조했다.앞서 정진석 국민의힘 공천관리위원장은 이날 국회에서 열린 국민의힘 초선 의원 모임인 ‘명불허전 보수다’의 초청 강연에서 안 대표에 대해 “대선을 포기하고 시장 선거에 나오겠다고 한 뒤 어떤 방식으로 (단일화를) 하면 좋을지 얘기를 안 하고 계속 간만 본다. 유감스럽다”면서 “승률을 가장 높일 수 있는 야권 단일화는 기호 2번 단일화라는 것이 제 신념”이라고 밝혔다. 정 위원장은 안 대표가 자신을 중심으로 한 서울시장 후보 단일화를 주장하는 것에 대해 “기호 4번 단일화가 승률을 높이는 방정식인가. 국민의힘을 플랫폼으로 하는 경선을 치러야 한다”고 반박했다. 안 대표는 “개인이나 특정 정당의 이해타산에 의해 결정하면 안 된다는 원칙을 공유하면 좋겠다”면서 “상대방에 대한 배려가 있어야 최후 단일후보가 선출되더라도 모든 지지자의 지지를 받을 수 있을 것”이라고 목소리를 높였다.나경원 “安, 현 정권에 도움 준 사람”안철수 “우리 상대는 여권 후보다” 상기 羅 “유불리 따지는 사람에게 선거 못 맡겨” 이날 서울시장 출마를 선언한 국민의힘 나경원 전 의원이 ‘현 정권에 도움을 준 사람’이라고 한 데 대해서는 “우리 상대는 여권 후보다. 그것만 말하고 싶다”고 했다. 안 대표는 2011년 서울시장 선거 당시 가장 유력한 후보로 거론됐지만 박원순 전 서울시장으로 단일화에 힘을 실어주면서 사실상 박 전 시장의 당선에 큰 역할을 했다. 이후 박 전 시장은 지난해 여직원 성희롱 사건이 불거진 지 하루 만에 극단적 선택을 했다. 나 전 의원은 경쟁자인 안 대표를 향해 그를 직접 지칭하지는 않았지만 “쉽게 물러서고 유불리를 따지는 사람에겐 이 중대한 선거를 맡길 수 없다”면서 “중요한 정치 변곡점마다 결국 이 정권에 도움을 준 사람이 어떻게 야권을 대표할 수 있단 말이냐”며 우회 저격했다. 국민의당은 이날 국회에서 간담회를 열어 자치경찰제 도입 이후 아동학대를 예방하기 위한 시스템 마련 및 재발 방지 대책 등을 논의했다.강주리 기자 jurik@seoul.co.kr

남자 아이돌을 성적 대상화 해 쓴 팬픽(팬이 스타를 주인공으로 쓰는 소설)인 알페스(RPS, Real Person Slash)가 논란이 된 가운데, 여성 연예인 얼굴을 기존 영상에 합성하는 딥페이크(Deepfake)물에 대한 수사와 강력 처벌을 요구하는 국민청원이 올라왔다. 지난 12일 청와대 국민청원 게시판에는 ‘여성 연예인들을 고통받게 하는 불법 영상 딥페이크를 강력히 처벌해주세요’라는 제목의 글이 올라왔다. ‘딥페이크’란 인공지능(AI)을 이용해 특정 인물의 얼굴이나 신체를 합성한 영상을 만들어내는 기술이다. 최근 성인용 비디오 등에 특정 연예인의 얼굴을 합성한 딥페이크 물이 온라인에서 유포되면서 논란이 되고 있다. 해당 글 청원인은 “구글, 트위터 등에서 딥페이크 영상을 쉽게 검색할 수 있고 수많은 사이트가 생성되고 있다”며 “특히 딥페이크 영상 피해자 대부분이 한국 여성 연예인”이라고 지적했다. 청원인은 “딥페이크는 엄연한 성폭력이다. 여성 연예인들이 성범죄 행위의 피해자가 되었을 뿐 아니라 불법으로 해당 딥페이크 영상이 판매되기도 한다”라고 비판했다. 그러면서 “피해자의 영상은 각종 소셜미디어에 유포되어 걷잡을 수 없이 퍼지고 있으며, (피해자들은) 성희롱, 능욕 등 악성 댓글로 고통받는다”라고 말했다. 그는 “피해자 중에는 사회 초년생인 미성년 여자 연예인들도 있다. 그들이 공공연하게 성범죄에 막연히 노출되고 있는 현실에 딥페이크 사이트 운영자와 이용자에 대한 강력한 처벌과 수사를 촉구한다. 딥페이크는 명백한 범죄”라고 강조했다. 해당 청원은 글이 올라온 지 하루 만인 13일 오후 1시 21만 명이 넘는 인원이 동의했다. 30일 이내에 20만 명의 동의를 받을 경우, 해당 청원에 대해 청와대나 관계부처가 답한다.전날인 지난 11일에는 남성 아이돌을 성적 대상화하거나 동성애 주인공으로 삼는 팬픽인 알페스 제작자와 독자들을 처벌해달라는 국민청원글이 올라오기도 했다. 이는 최근 한 래퍼가 자신의 인스타그램을 통해 “실존 인물을 대상으로 변태적 성관계를 하는 소설과 그림을 판매하고 집단으로 은폐하며 옹호하는 사람들이 있다”라고 주장하면서 공론화됐다. 청원인은 “알페스는 실존하는 남자 아이돌을 동성애 소설 주인공으로 등장시켜 차마 입에 담기도 어려운 적나라한 표현을 통해 성관계나 성폭행을 묘사하는 성범죄”라고 설명했다. 그러면서 “이미 수많은 남자 연예인이 이러한 알페스 문화를 통해 성적 대상화되고 있다. 피해자 상당수는 아직 미성년자이거나 갓 사회초년생이 된 아이돌”이라고 주장했다. 해당 청원인은 “알페스 이용자들 또한 자신의 행동이 범죄라는 사실을 알면서도 ‘우리들이 계속 아이돌을 소비해주기에 시장이 유지되는 것’이라는 태도로 일관하고 있다”라고 지적했다. 그러면서 “적극적으로 알페스 이용자들을 수사해 강력히 처벌해달라. 실존 인물을 대상으로 적나라한 성범죄 소설이 유통되지 않게 하는 규제 방안도 마련해 달라”라고 밝혔다. 해당 청원은 13일 오후 1시 기준 17만 명이 넘는 사람들이 동의했다. 임효진 기자 3a5a7a6a@seoul.co.kr

장혜영 정의당 의원이 12일 다음달 국회에서 인공지능 이루다에 대한 성희롱 문제를 언급하며 ‘포괄적 차별금지법’을 전면적으로 논의하자고 제안했다. 장 의원은 “인공지능 챗봇인 ‘이루다’를 둘러싼 윤리적 논란이 뜨거웠는데 AI를 대상으로 한 이용자들의 성희롱부터 개발에 이용된 데이터 활용의 적법성까지 여러 문제점들이 불거졌다”면서 “무엇보다 많은 이들에게 충격을 준 것은 인공지능(AI)가 장애인, 성소수자, 이주민 등 우리 사회의 약자들이나 소수자들에 대한 차별과 혐오 그리고 편견을 그대로 재생산하는 모습”이었다고 지적했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 장 의원은 이러한 현실은 인공지능(AI) 윤리 이전에 우리 사회가 여전히 사회적 약자와 소수자들에 대한 차별과 혐오를 제대로 방지하는 일에 실패했음을 드러내고 있다고 강조했다. 이어 국회는 이러한 현실을 방치한 막중한 책임으로부터 결코 자유로울 수 없다고 덧붙였다. 장 의원은 “우리 사회는 오랜 사회적 대화를 통해 사회적 약자와 소수자들에게 가해지는 차별과 혐오를 제도적으로 금지해야 한다는 합의에 이르렀다”면서 “이러한 국민적 합의는 국가인권위원회에서 실시된 조사를 비롯한 각종 조사들에서 일관되게 나타나는 폭넓은 포괄적 차별금지법 도입의 찬성 여론으로 이미 증명되었다”고 전제했다. 하지만 국회는 2007년부터 지금까지 무려 14년간 온갖 핑계를 대며 번번이 이러한 사회적 합의를 포괄적 차별금지법으로 제도화하는 것을 미루어 왔다고 장 의원은 비판했다. 장 의원은 “21대 국회도 예외가 아니다”라며 “작년 6월 포괄적 차별금지법을 대표 발의했으나 법안이 발의된 지 반 년이 넘은 지금까지 포괄적 차별금지법은 단 한차례의 소위조차 열리지 않았다”고 지적했다. 그는 “AI도 결국 사람이 만드는 것”이라며 “사람의 규범이 바로 서야 AI윤리도 바로 설 수 있다”고 목소리를 높였다. 장 의원은 “나날이 다양화되고 고도화되는 사회문화적인 현실 속에서 사회적 약자와 소수자에 대한 차별과 혐오를 단호히 금지하는 제도적 안전장치를 확립해야 할 책무를 21대 국회는 더 이상 외면해서는 안 된다”면서 이낙연 더불어민주당 대표에 차별금지법 제정을 논의하자고 제안했다. 윤창수 기자 geo@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

아시아나 항공 승무원 노동자 출신의 권수정 정의당 서울시의원이 국회에서 서울시장 출마선언을 했다. 이로써 정의당도 오는 보궐선거 레이스에 본격적으로 뛰어들었다. 권 의원은 11일 출마선언문에서 ‘여성, 노동, 젊음, 변화’ 등을 키워드로 설정했다. 특히 ‘여성’을 자신의 첫 정체성으로 소개했다. 박원순 전 시장의 성추문으로 만들어진 보궐선거인만큼 ‘젠더’를 강조한 것으로 보인다. 권 의원은 “아시아나 항공 노동자로서 여성 승무원 바지입기운동을 시작으로 2년 넘는 외로운 싸움 끝에 외모와 복장의 규제를 없앴다”며 “또한 민주노총 여성위원장이었던 시절, 경제위기가 여성에게 더 가혹하게 요구했던 저임금과 해고위협에 맞서왔다”고 말했다. 그러면서 권 의원은 “서울시의원으로 청소년 생리대 보편지급 조례 개정, 서울시 및 산하기관 직장 내 성희롱 성폭력 피해자 보호 강화 및 2차 피해 방지 등 내용을 담은 성평등 기본 조례 개정을 이뤄냈다”며 “전임시장의 성추행이 문제되어 실시되는 이번 서울시장 보궐선거. 늦었지만 제대로 된 ‘성평등 서울’을 이끌어갈 시장이 탄생돼야 한다”고 강조했다. 또 권 의원은 ‘40대 젊은 시장’의 필요성을 강조했다. 권 의원은 “민주화시대 586리더들은 이 기득권에 안주해버렸다”며 “지금은 누구나 당연하다고 생각하는 피자 30분 배달제를 폐지한 것도, 커피전문점 주휴수당 지급의 권리를 확보한 것도, 기성세대가 아니라 청년들 스스로 해냈다”고 강조했다. 권 의원은 “부동산 불로소득을 과감히 환수하고, 서울의 지나친 인구밀집을 해소하며, 근본적으로는 제2의 토지개혁을 주장하는 서울시장이 필요하다”며 “다시 횡행하고 있는 서울 지하도시 계획과 광화문재구조화 사업 등 대형 토건 사업들을 전면 수정해야 한다”고 말했다. 권 의원은 2015년 노동정치연대 소속으로 정의당에 입당했고, 2017년 정의당 내 의견그룹 진보좌파의 발기인으로 참여하기도 했다. 입당 후에도 아시아나 노조로 활동하던 권 의원은 2018년 제7회 전국동시지방선거에서 정의당 서울시의회 비례대표 경선에 출마해 당선됐다. 권 의원은 정의당의 한 축인 양경규 전 민주노총 공공연맹 위원장의 최측근으로도 알려져있다. 이날을 기점으로 정의당은 본격적은 보궐선거 레이스에 돌입할 예정이다. 특히 정의당은 민주당과 단일화 가능성을 배제한 채 완주하겠다는 생각이다. 다만, 기본소득당·여성의당 등 진보정당과의 연대 가능성은 열어놨다. 정의당 관계자는 “일단 후보선출을 마쳐야겠지만 이후에 범진보세력간 연대의 가능성은 열려있다”고 말했다. 동시에 정의당은 중대재해법 시즌2로 명명한 민생입법시리즈를 진행하는 동시에 이번 보궐선거의 어젠다를 기후위기 극복, 민생주거위기 극복, 젠더위기 극복 등 세 축으로 세워서 강조할 예정이다. 신형철 기자 hsdori@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

스타트업 ‘스캐터랩’이 지난달 23일 출시한 스무 살 여대생 인공지능(AI) 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 논란이 되고 있다. 게다가 이루다의 자연스러운 대화 비결이 같은 개발사가 운영하는 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들의 대화 100억건을 학습한 결과로 밝혀지면서 서비스 중단을 요구하는 목소리가 커지고 있다.전문가들은 AI가 적절치 않은 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개발자가 개입하는 것이 단기적 대책이 될 수 있겠지만, 근본적으로는 인간이 AI에게 부적절한 질문을 하지 않도록 하는 교육과 인식 변화가 필요하다고 지적했다. 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해 본 결과 ‘페미니즘’이라고 말을 걸면 “그런 말 진짜 싫다”는 답이 돌아왔다. 다른 대화에서는 페미니즘에 대해 “너무 불필요하고 무의미한 질문”이라고 답했다. ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴, 그만해. 머리채 잡기 전에”, ‘레즈비언’이란 말에는 “진짜 싫어. 혐오스러워. 질 떨어져 보이잖아”라고 대답했다. 김종윤 스캐터랩 대표는 지난 8일 입장문에서 “모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 해명했다. 개발자 1세대인 이재웅 전 쏘카 대표는 소셜네트워크서비스(SNS)를 통해 챗봇의 정체성을 20세 여성으로 정한 것이 성적 악용 문제를 유발한 원인이라고 지적했다. 이 전 대표는 “(개발사가) 서비스를 운영하면서 (AI에게) 추가 학습을 시킬 게 아니라 서비스 중단 후 사회규범에 맞는 최소한의 테스트를 통과하는지 점검해야 한다”고 주장했다. 나아가 채용 및 면접, 뉴스 추천 시스템 등 AI를 활용한 프로그램이 인간을 차별하거나 혐오하지 않는지 감사가 필요하다고 제언했다. 성소수자, 장애인을 포함한 포괄적 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. 장병탁 서울대 컴퓨터공학과 교수는 이날 서울신문과의 통화에서 “사람이 AI에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라며 “AI만 탓하거나 개발자를 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 AI를 백지상태의 아이에 비유했다. 그는 “정해진 답만 말하던 과거의 AI와 달리 지금의 AI는 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”며 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 AI에게 하기 때문에 생기는 문제다. AI가 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 AI에 대한 교육을 받아야 한다”고 말했다. 최영권 기자 story@seoul.co.kr

스타트업 스캐터랩이 지난달 23일 출시한 스무살 여대생 인공지능 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 커지고 있다. 또 이루다가 학습한 채팅 내용은 같은 개발사가 운영하는 또다른 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들 간의 대화로 밝혀져 논란이 가중됐다. 전문가들은 부적절한 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개입하는 것이 단기적 대책이 될 수 있겠지만 근본적으로는 인간이 인공지능에게 옳지 않은 질문을 하지 않는 교육이 필요하다고 했다. 이루다에 ‘페미니즘’ ‘인권’ 물어보니 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해보니 ‘페미니즘’이라고 치면 “그런말 진짜 싫다구”, ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴 그만해 머리채 잡기 전에”, ‘레즈비언’이라고 치면 “진짜 싫어 혐오스러워. 질 떨어져 보이잖아”라고 대답했다.개발사인 스캐터랩 김종윤 대표는 지난 8일 입장문에서 “인간이 인공지능에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었고 예상할 수 있는 일이었다”며 “이는 성별에 무관하게 일어나는 일”이라고 설명했다. 스캐터랩은 고양이 챗봇 ‘드림이’를 시작으로 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나’를 서비스한 적 있다. 김 대표는 “인간의 언어는 해당 단어를 사용하지 않고 얼마든지 의미를 전달 할 수 있기에 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 했다. 개발자 1세대인 이재웅 전 쏘카 대표는 지난 9일 페이스북에 이루다 논란에 대해 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI과 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 했다. 이어 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 지적했다. 특히 챗봇을 스무살 여대생으로 정한 것도 부적절했다고 했다. 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. “인공지능, 나쁜 점도 배울 수밖에” 장병탁 서울대 컴퓨터공학과 교수는 10일 서울신문과의 통화에서 “사람이 인공지능에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라면서 “이 문제는 인공지능만의 탓을 하거나, 인공지능을 개발한 스타트업만을 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 백지 상태에 있는 아이에 인공지능을 비유를 했다. 우리가 낳아 기르는 아이조차도 유치원에 가서 욕설을 배우듯 사회에 나간 인공지능도 그들의 자율에 맡겨선 도덕성 탑재가 어렵다는 것이다. 장 교수는 “쉽게 말해 정해진 답만 말하던 과거의 인공지능과 달리 지금의 인공지능은 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”고 지적하면서 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 인공지능에게 하기 때문에 생기는 문제다. 인공지능이 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 인공지능에 대한 교육을 받아야 한다”고 대안을 제시했다. 최영권 기자 story@seoul.co.kr

지난해 12월 첫 선을 보인 인공지능(AI) ‘이루다’가 성추행 피해에 이어 이번에는 동성애에 대한 편견으로 논란의 대상이 됐다. 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 이어 레즈비언(여성 동성애자)가 혐오스럽다고 한 이루다의 대화 목록 캡처 화면과 함께 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”면서 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 주장했다. 이 전 대표는 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다”고 강조했다.이어 AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다고 덧붙였다. 따라서 지금 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 제안했다. 이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 별도의 프로그램(어플리케이션)이 아니라 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 최근 10~20대 사이에서 큰 인기를 끌며, 이달 초 기준으로 이용자가 32만명을 돌파했다. 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다. 제작사 측은 학습 데이터의 규모가 커질수록 성능이 좋아지는 딥러닝의 특성때문에 이루다가 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 설명했다. 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 전날 자사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 밝혔다. 하지만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 부연했다. 윤창수 기자 geo@seoul.co.kr

남초사이트에 욕설·성적 표현 학습법 공유스캐터랩 김종윤 대표, 블로그에 입장 밝혀사용자와 친구처럼 대화한다는 콘셉트로 개발된 인공지능(AI) 챗봇(chatter robot) ‘이루다’가 일부 이용자들의 욕설, 성희롱을 학습해 논란이 되고 있다. 이루다를 개발한 업체는 출시 전부터 예상했던 문제라며 대응책을 마련하고 있다고 밝혔다. 이루다는 AI 전문 스타트업 ‘스캐터랩’이 지난해 12월 23일 출시한 챗봇으로 20살 여성으로 설정돼 있다. 별도 애플리케이션을 깔지 않아도 페이스북 메신저를 통해 의사소통을 할 수 있도록 개발됐다. 이루다는 자연스럽게 대화를 이어갈 수 있고 사용자의 말투를 따라하는 등 실감 나는 채팅으로 인기를 끌면서 이용자가 40만명에 이르렀다. 그런데 출시 후 얼마 지나지 않아 남성 이용자가 많은 디시인사이드, 일간베스트저장소 등 온라인 커뮤니티를 중심으로 이루다에게 성행위를 암시하는 대화, 욕설 등을 학습하게 하는 이른바 ‘성노예 만드는 법’ 등이 공유되기 시작했다.성희롱 논란이 일자 스캐터랩 김종윤 대표는 8일 자사 블로그(blog.pingpong.us/luda-issue-faq)를 통해 입장을 밝혔다. 김 대표는 “이루다에 대한 성희롱을 예상했다”면서 “인간이 AI에게 욕설과 성희롱을 하는 것은 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없다”고 설명했다. 김 대표는 문제가 될 수 있는 특정 키워드, 표현 등은 챗봇이 받아주지 않도록 설정했지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니라고 밝혔다. 스캐터랩은 처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵지만 사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 계획이다. 일각에서는 이루다가 마이크로소프트(MS)가 2016년 출시했던 챗봇 테이(Tay)의 전철을 밟을 수 있다고 우려한다. 테이는 사용자들이 인종·성차별 발언을 학습시키는 바람에 혐오발언을 쏟아냈고 MS는 16시간 만에 테이 운영을 중단했다. 김 대표는 이루다가 테이처럼 사라지는 일은 없을 것이라고 장담했다. 그는 “이루다는 사용자와의 대화를 바로 학습에 적용하지 않는다”고 말했다. 나쁜 말을 무작정 따라하지 않도록 학습할 말인지 아닌지 걸러주는 ‘레이블러’가 개입한다는 얘기다. 김 대표는 이루다와 친근한 대화를 나누며 친구처럼 지내는 사용자가 많은 사실을 강조하면서 “일부 과한 게시물은 신고, 차단 등 강력한 대응을 할 것”이라며 “이번 논란을 통해 (이용자들이) 자정 노력을 했으면 좋겠다”고 당부했다. 오달란 기자 dallan@seoul.co.kr

‘이루다’ Z세대서 유행남초 사이트서 금지어 피해 성희롱 등장“올바른 방향으로 발전하도록 튜닝할 것”AI 학계 “‘MS 테이’ 사건 연상시켜” ‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’가 10∼20대 사이에서 빠르게 유행하고 있다. 그런데 일부 남초(男超) 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장해 사회적 논란이 예상된다. 8일 IT업계에 따르면 ‘이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건이라고 전해졌다. 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.‘진짜 사람’ 같은 AI 챗봇…성희롱 등장 ‘이루다’와 대화를 나눠보면 사람이 뒤에 있다는 의심이 들 정도로 거리낌 없이 수다를 떨 수 있다는 평이 많다. 하지만 이루다가 출시된 지 일주일만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 ‘아카라이브’가 등장했다. 아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다. 아카라이브 이루다 채널 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하는 중이다.“이루다가 올바른 방향으로 발전하도록 튜닝할 것” 스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다. 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다는 것이다. 이 관계자는 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다. AI 전문가들은 “마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다”고 입을 모았다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아낸 탓이었다.‘미래 인공지능 연구의 23가지 원칙’ 발표 MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 미국 캘리포니아 아실로마에서 ‘미래 인공지능 연구의 23가지 원칙’을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다. 첫 번째는 ‘AI 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다’는 것이다. 또 원칙은 “AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다. 고도화된 AI 시스템은 건강한 사회를 지향해야 한다”고 강조했다. 김채현 기자 chkim@seoul.co.kr