여자 친구와 그 언니까지 자매를 잇따라 살해한 30대 남성에게 무기징역이 선고됐다. 대전지법 서산지원 형사1부(부장 김수정)는 20일 강도살인 등 혐의로 구속기소된 김모(33)씨에게 “김씨가 납득하기 힘든 이유로 자매를 살해하고 자매에게 훔친 명품 가방을 전 애인에게 선물하는 등 죄질이 매우 나쁘다”며 이같이 선고했다. 재판부는 “사회와 영원히 격리해 재범을 막고 속죄하도록 하는 게 타당하다”고 덧붙였다. 앞서 검찰은 김씨에게 사형을 구형했다. 이날 공판을 지켜본 유족은 법정에서 “저 사람을 살려주는 게 말이 되느냐, 내가 지금 살고 싶어 사는 줄 아느냐”고 절규했다. 자매의 아버지는 “우리 가족을 짓밟은 사람을 우리가 낸 세금으로 살게 한다는 것”이라며 “어린 손녀들(자매의 자녀)이 커가는 중인데, 저 사람도 멀쩡히 같이 살게 되는 것”이라고 항변했다. 재판부는 “이미 선고는 마쳤다. 법에서 할 수 있는 절차를 밟기를 부탁한다”고 답했다. 김씨는 지난해 6월 25일 오후 10시 30분쯤 충남 당진시 한 아파트에서 여자 친구를 목 졸라 살해하고 곧바로 같은 아파트에 사는 여자 친구의 언니 집에 침입해 숨어있다가 이튿날 새벽 퇴근하고 돌아온 언니까지 살해한 혐의를 받고 있다. 이어 여자 친구 언니 차를 훔쳐 울산으로 달아났다 교통사고를 내고 도주하기도 했다. 김씨는 여자 친구의 신용카드를 이용해 돈을 빼 쓰고, 여자 친구의 휴대전화로 가족과 지인에게 카톡을 보내 범행 은폐도 시도했다. 이 때문에 자매의 시신은 1주일 지나 발견됐다.자매의 아버지는 같은해 12월 23일 청와대 국민청원에 ‘딸의 남자 친구가 제 딸과, 언니인 큰딸까지 살해하였습니다’는 글을 올리고 “제 인생은 두 딸이 무참히 살해당했을 때 산산조각이 났다. 그런데도 범인은 재판에서 심신미약을 주장하며 형량을 줄이려고만 한다”고 울분을 토하며 강력한 처벌을 요청했다. 아버지는 “그날 둘째 딸은 남자 친구와 자취방에서 술을 마시면서 다퉜고, 나무람에 분노한 남자 친구는 만취해 잠든 둘째를 목 졸라 살해했다. 또 큰딸 집으로 침입해 또다시 살인을 저질렀다”고 처참한 심정을 토로한 뒤 “그놈이 제 딸의 휴대전화로 딸인 척 문자나 카톡에 답장을 보내 속는 바람에 두 딸의 시체는 한참 지나서 발견됐다. 제 딸을 온전히 안을 수도 없이 구더기 들끓고 썩어 부패한 후에 만날 수 있었다”고 고통을 호소했다. 아버지는 이어 “그놈은 도피하면서 pc방에서 태연하게 제 딸의 돈으로 게임을 즐겼다”면서 “그런 뻔뻔한 놈이 재판에서 반성문을 내고 심신미약을 주장하며 어떻게든 형을 줄이려고 술수를 부리고 있다”고 비난했다. 또 “제 하루하루가 지옥이다”며 “그놈이 사형선고를 받는 것을 봐야, 하늘에 가서도 두 딸 얼굴을 볼 면목이라도 생길 것 같다”고 법정 최고형을 간절히 원했었다. 서산 이천열 기자 sky@seoul.co.kr

인공지능(AI) 챗봇 ‘이루다’ 개인정보 유출 의혹에 대한 손해배상 집단소송이 첫 발을 뗐다. 공동소송 플랫폼 ‘화난사람들’은 15일 홈페이지에 ‘이루다 AI 개인정보 유출 피해자 집단소송’ 사이트를 열고 소송 참여자를 모집하고 있다. 이루다 AI에 개인정보가 유출된 피해자들을 모아 손해배상청구소송을 제기하겠다는 것이다. 화난사람들은 소개 페이지에서 “스캐터랩은 ‘연애의 과학’·‘텍스트앳’ 등 기존 서비스에서 수집한 카카오톡 대화를 대화 당사자 모두의 동의 없이 수집해 AI에게 딥러닝시켰고, 이 과정에서 개인정보 유출이 발생했다”며 “특정 개인의 주소나 실명, 계좌번호 등이 여과 없이 노출됐다. 이는 개인정보보호법 위반으로 행정 처분이나 형사 처벌 대상이 될 수 있으며, 개인정보 유출 피해자들은 정신적 위자료를 청구할 권리가 있다”고 강조했다. 소송에 참여하려면 연애의 과학이나 텍스트앳·진저 등에 카톡 대화를 제공했던 사실이 확인되는 화면 캡처, 이루다 AI에서 확인된 유출 개인정보 캡처,원본 카톡 등이 있어야 한다. 이루다에서 개인정보나 대화가 유출됐는지 명확히 확인되지 않아도, 연애의 과학 앱에 카톡 대화를 제공했던 사실이 확인되는 캡처만 있어도 일단 소송 참여가 가능하다. 화난사람들 측은 “관련 증거가 분명한 경우 승소 가능성이 작지 않다고 본다”며 “패소할 경우 피고가 원고에게 소송 비용 일부를 청구할 수 있지만, 공동소송은 금액을 분할 부담하므로 개인이 부담할 금액은 미미하다”고 덧붙였다. 이성원 기자 lsw1469@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 이루다의 데이터베이스(DB)와 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기하기로 결정했다. 그러나 집단 소송을 준비하는 피해자들은 “이루다 DB가 아니라 ‘연애의 과학’으로 수집한 카카오톡 대화를 전부 폐기해야 한다”며 “그렇지 않으면 보관된 카톡 대화는 제2, 제3의 AI 챗봇을 통해 언제든지 되살아날 수 있을 것”이라며 반발했다. 스캐터랩은 15일 “이용자들의 불안감을 고려하여 이번 인공지능 ‘이루다’의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 했다”는 내용을 발표했다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 개인정보보호법 위반 여부를 조사하고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다. 연인들 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹도 받고 있으며, 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 ‘깃허브’에 공유한 사실도 확인됐다. 스캐터랩은 “조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다”고 밝혔다. 그러면서 비식별화 조치가 제대로 이뤄졌기 때문에 개인정보 유출은 없었다는 설명을 되풀이했다. 스캐터랩은 “이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다”며 “딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다”고 설명했다. 이어 “기존 연애의 과학과 텍스트앳에서 이용자의 동의를 받고 수집되었던 기존 데이터는 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후, 해당 이용자의 데이터를 모두 삭제할 예정이며, 이는 향후 딥러닝 대화 모델에도 이용되지 않는다”며 “관련 후속 조치는 각 어플리케이션 공지를 통해 안내 받을 수 있으며, 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이다”라고 밝혔다. 최영권 기자 story@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 지난 13일 자사 앱 ‘연애의 과학’에서 심리 테스트 명목으로 수집한 개인정보 1700건을 온라인에 15개월 간 무단 유출한 것에 대해 인정하고 사과했다. 스캐터랩은 논란이 된 카카오톡 대화 내용 수집 절차에 대해선 “적법했다”는 기존 입장을 되풀이 했다. 또 “원하는 사용자에 한해 데이터를 폐기하겠다”고 밝혀 아직 피해를 인지하지 못한 제3자의 개인정보는 데이터베이스(DB)에 그대로 남아 있게 된다. 집단 소송을 준비하는 피해자들은 “카톡 대화를 AI 개발에 사용하는데 동의한 적 없다”며 “나머지 데이터도 전면 폐기하라”고 요구하고 있다. ‘연애의 과학’ 앱 이용자들은 연인과 나눈 최소 수개월치의 카카오톡 대화를 전송하면서 별다른 동의 절차를 밟지 못했다. 앱 이용자의 카톡에 있던 집주소, 예금주명이 포함된 계좌번호, 건강정보 등 개인정보 다수가 지난달 23일 출시한 이루다와 채팅한 제3자에게 유출됐다는 의혹을 받고 있다. 민변 디지털정보위원회, 정보인권연구소 등 시민단체들은 지난 13일 “‘개발’에만 치중한 AI산업육성, ‘이루다’는 예정된 참사”라는 제목의 성명문을 내고 “특정 상대방과 나눈 카카오톡 대화를 전부 수집한 건 각각의 사항을 알리고 명시적으로 동의를 받도록 한 개인정보보호법 위반”이라고 했다. 스캐터랩은 앱 로그인 초기화면에 있는 ‘로그인함으로써 개인정보 처리방침에 동의합니다’라는 문구 하나로 동의가 충분했다고 판단했다. 개인정보처리방침에는 연애의 과학이 제공하는 서비스 이외에 ‘신규 서비스 개발 및 마케팅·광고에의 활용’이 있다. 개인 카카오톡 100억건을 활용해 이루다를 만든 것이 신규 서비스 개발에 포함된다고 본 것이다. 시민단체는 “‘신규 서비스 개발과 마케팅·광고 활용’이 연애의 과학 앱을 이용하기 위한 필수정보인지 의문”이라며 “필수정보가 아닌 개인정보 수집·이용에 대해서는 이용자의 선택을 보장해야 한다”고 했다. 국내 한 유니콘 스타트업 관계자는 14일 서울신문과의 통화에서 “신규서비스 개발이라는 단 한 줄로 포괄적인 동의를 받았다고 보기에는 부족해보인다”며 “업계에서 개인정보를 가볍게 여기는 문화가 퍼질까 우려된다”고 말했다. 김가연 오픈넷 변호사도 “카카오톡 대화를 제공 받기 위해 동의를 받는 과정은 명백히 개인정보보호법 위반”이라고 말했다. 또 다른 국내 스타트업 최고기술책임자(CTO)는 이날 “전문가의 법적 자문을 구했으면 좋았을 것”이라며 “이용자들에게 구체적으로 동의를 구하는 절차를 만들 필요가 있다”고 말했다. ‘이루다를 성노예로 만드는법’ 등을 공유했던 일부 남성 커뮤니티 이용자들은 청와대 국민청원 게시판에 여성 이용자들이 즐기는 알페스(Real Person Slash) 역시 성범죄라고 주장했다. 이에 여초 커뮤니티 이용자들은 남초 커뮤니티에 일반인 여성의 사진을 공유해 성희롱하는 비공개 게시판이 있다고 폭로하는 청원 글을 올리면서 젠더 갈등으로 비화됐다. 두 청원은 14일 기준 각각 19만 6000명, 19만 3000명을 넘었다. 최영권 기자 story@seoul.co.kr

미신청자 40만명에겐 카톡 알림톡추가 대상자는 오는 25일부터 신청 코로나19로 영업이 금지·제한됐거나 매출이 감소한 소상공인에게 지급되는 버팀목자금(3차 재난지원금)에 개시 사흘 만에 230만명이 넘는 소상공인이 몰린 것으로 나타났다.14일 중소벤처기업부는 지난 11일부터 시작한 소상공인 버팀목자금에 3일간 235만 5000명이 신청했고, 이날 오전 8시 기준으로 총 3조 2909억원을 지급 완료했다고 밝혔다. 일반업종이 153만명으로 가장 많고, 이어 영업제한 업종(71만 3000명), 집합금지 업종(11만 2000명) 순으로 이어졌다. 전체 신속지급 대상자(276만명) 대비 사흘간 누적 신청률은 85%로, 지난해 지급된 새희망자금보다 14% 포인트 높게 나타났다. 중기부는 이날부터 신속지급 대상자 중 아직 신청하지 않은 40만명에 대해 카카오 알림톡으로 다시 신청을 안내할 계획이다. 문자로 발송할 경우 일부 스팸 처리돼 수신자에게 도달되지 않을 수 있다는 판단에서다. 중기부는 오전에 신청하면 오후에 지급하는 ‘당일신청 당일지급’ 체계는 15일 신청분까지 유지할 방침이다. 실외겨울스포츠시설, 숙박시설, 지자체 추가 집합금지·영업제한 업종, 지난해 1~11월 중에 개업하고 12월 매출액이 9~11월 평균보다 감소한 소상공인에 대한 신속지급은 오는 25일부터 시작된다. 정부는 대상자들에게 문자로 안내한다는 계획이다. 중기부 이은청 소상공인정책과장은 “온라인을 통한 신속지급 대상자의 신청은 평일·공휴일 구분 없이 24시간 어느 때나 가능하다”면서 “알림톡을 받으면 ‘버팀목자금.kr’ 홈페이지에 접속해 지원을 신청하길 바란다”고 말했다. 세종 나상현 기자 greentea@seoul.co.kr

“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

인공지능(AI) 챗봇 서비스 이루다의 개발사 스캐터랩이 지난해 오픈소스 공유 플랫폼 깃허브에 연애의 과학을 통해 수집한 카카오톡 대화 1700건를 올린 것에 대해 인정하고 사과했다. 또 이용자들 중 AI 학습에 데이터가 활용되기를 원하지 않는 사람들의 카카오톡 대화는 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 진행하겠다고 밝혔다. 하지만 논란이 된 카카오톡 대화 내용 수집 절차에 대해서는 “위법성이 없었다”는 기존 입장을 되풀이했다. 스캐터랩은 13일 오후 11시쯤 사과문과 함께 언론에 배포한 질의응답서에서 “‘깃허브’에 오픈 소스로 공개한 “KG-CVAE-인공지능 한국어 자연어처리(NLP) 연구 모델” 에 내부 테스트 샘플이 포함된 사실이 확인되었다”며 “해당 연구에는 내부 테스트를 위해 샘플로 추출한 100건의 데이터(100개 세션, 개별 문장으로 환산 시 1700여 건)가 포함되어 있었다. 실명은 “<NAME>”, 숫자는 “<NUM>” 명령어를 통해 자동화 비식별 처리를 하였으나, 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분이 일부 존재하였음을 확인하게 되었다”고 밝혔다. 이루다를 성적 도구화해 사회적 물의를 일으켰던 남초 커뮤니티에서는 오픈소스를 이용해 ‘제2의 이루다’를 만들고 있다. 스캐터랩은 “한국어 자연어처리(NLP)와 관련된 기술 개발 및 공유를 위한 것이었으나, 데이터 관리에 더 신중하지 못했고, 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과드린다”고 했다. 또 AI 학습에 데이터가 활용되기를 원하지 않는 이용자들의 정보를 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 취하겠다고 말했다. 하지만 구체적인 삭제 요청 경로에 대해서는 밝히지 않았고, 여전히 자신이 제공한 카카오톡 대화가 AI 개발에 사용됐다는 걸 모르는 사용자들의 개인정보는 남아있게 된다. 또한 이러한 스캐터랩의 조처와는 별개로 비식별화가 충분히 되지 않은 개인 정보는 이미 깃허브에서 유출됐을 가능성이 크다. 스캐터랩은 2019년 9월부터 사용자들이 ‘연애의 과학’ 앱을 통해 내보내기 한 카카오톡 대화로 학습하는 인공신경망을 깃허브에 공유했다. 비식별화가 충분히 되지 않은 개인 정보들(집주소, 예금주명이 포함된 계좌번호, 학교 이름, 직장 이름과 위치, 건강 정보)은 지난달 23일 출시된 이루다를 통해 노출되기도 했다. 이에 대해 스캐터랩은 “숫자를 한글로 기재하는 전형적이지 않은 사례들이 극히 일부 발견되었다”면서 “OO은행과 같이 특정 명칭이 일부 이루다 서비스에서 발견된 것은, 앞서 알려드린 바와 같이 수차례의 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분”이라고 해명했다. 카카오톡 대화를 수집하면서 충분한 동의를 얻지 않은 것에 대해서는 여전히 “법적 문제가 없다”는 기존의 입장을 고수했다. 스캐터랩은 “‘연애의 과학’이 개인정보의 수집, 이용에 동의를 받는 방법은 국내외 서비스들이 채택하고 있는 동일한 방법으로 내부적으로 법적으로 문제가 없을 것이라고 판단하였다”면서 “대화의 당사자 중 한 명이 개인정보 수집, 이용에 동의하여 자발적으로 대화 내용을 연애의 과학에 업로드한 것으로 내부적으로 문제가 없을 것으로 판단하였다”고 해명했다. 스캐터랩 전직 직원이 언론과의 인터뷰에서 직원들끼리 이용자의 카톡 대화를 단톡방에 공유해 돌려봤다는 주장에 대해서는 “진상조사위를 꾸려 조사한 결과 아직까지는 발견되지 않았다”며 “만에 하나 의혹이 사실로 드러나는 경우에는 직위 고하를 불문하고 관련자들에게 엄중히 책임을 묻고 필요한 조치를 취하도록 하겠다”고 선을 그었다. 한편, 개인정보보호위원회와 인터넷진흥위원회는 이날부터 현장에 투입돼 조사에 착수했다. 스캐터랩은 “해당 관계 기관의 요청에 따라 성실하게 조사에 최선을 다해 임하겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

버팀목자금, 접수 첫날 100만여명 신청1조 4317억원 지급…전체 지원자 36.5%‘3차 재난지원금’ 지급 안내 사칭 스미싱 주의코로나19 확산으로 생계에 어려움을 겪는 소상공인 100만여명에게 12일 3차 재난지원금인 ‘소상공인 버팀목자금’이 지급되고 있는 가운데 이를 이용한 각종 금융사기가 활개를 치고 있어 주의가 요구된다. 서울시는 이날 ‘3차 재난지원금’ 지급 안내를 사칭한 스미싱(문자를 이용한 금융사기 또는 해킹)이 퍼지고 있다며 주의를 당부했다. 문자메시지 등을 통해 ‘재난지원금을 받을 수 있다’고 유혹해 되레 금전을 갈취하는 행위가 기승을 부리고 있는 것이다. 중소벤처기업부에 따르면 전날 버팀목자금과 관련해 콜센터에 문의가 1만 5367건, 온라인 채팅 상담에는 4만 6495건이 있었으며 주로 안내 문자를 받지 못했다는 내용이었다. 시간당 15만건씩 발송되는 보안 문자 특성상 전날 143만건 발송에 9시간 이상 소요돼 이 틈을 타 사기행위를 벌이는 이들이 있었던 것으로 보인다. 박유미 서울시 방역통제관은 온라인 브리핑에서 “재난지원금 접수는 카카오톡 등 메신저를 통해서는 신청받지 않는다”고 강조했다. ●“재난지원금 접수는 카톡으로 받지 않는다” 그는 “(3차 재난지원금을) 신청하실 분은 중소벤처기업부의 웹발신 문자를 통하거나 인터넷에서 ‘버팀목자금’ 검색을 통해서 하면 된다”고 설명했다. 한편 중기부는 소상공인 버팀목자금 접수 첫날인 지난 11일 100만 8000명에게 1조 4317억원을 지급했다고 밝혔다. 소상공인들은 업종에 따라 100만~300만원씩 받았다. 전체 지원 대상자 276만 명의 36.5%에 해당하는 것이다. 전날 정오까지 신청한 45만 4000명에게는 같은 날 오후 1시 20분부터 6706억원이, 자정까지 신청한 55만 4000명에게는 12일 오전 3시부터 7611억원이 지급됐다. 이중 일반업종 63만 6000명에게는 100만 원씩 6362억원이, 영업제한 업종 32만 명에게는 200만원씩 6397억 원이 지급됐다. 집합금지 업종 5만 2000명에게는 300만원씩 1558억원이 지급됐다.접수 둘째 날인 12일은 오전 6시부터 사업자등록번호 끝자리가 짝수인 소상공인 133만 명에게 안내 문자가 발송됐다. 첫날과 마찬가지로 정오까지 신청분은 이날 오후 2시쯤부터, 정오 이후 자정까지 신청분은 13일 오전 3시부터 지급된다. ●13일부터는 홀짝 구분 없이 온라인 신청 가능 13일에는 사업자등록번호 끝자리 홀·짝 구분 없이 온라인으로 신청할 수 있다. 13일까지는 오전에 신청하면 오후에 받을 수 있다. 14일부터는 오전 8시부터 오후 6시까지 신청분을 모아 다음날 오전 3시부터 지급할 예정이다. 실외 겨울스포츠 시설 및 부대 업체, 숙박시설 등은 오는 25일에 안내 문자가 발송된다. 박영선 중기부 장관은 “둘째 날인 오늘 소상공인들에게는 조금 더 빠르게 받을 수 있도록 어제보다 두시간 앞당겨서 오전 6시부터 문자를 발송하고 있다”며 “신청 후 3시간이면 자금을 받을 수도 있다”고 말했다. 정현용 기자 junghy77@seoul.co.kr

혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

한 온라인 단체 채팅방에서 길고양이를 비롯한 야생동물을 잔혹하게 살해하거나 학대하는 영상과 사진이 공유돼 경찰이 수사에 착수했다. 10일 경찰과 동물권 단체 등에 따르면 익명으로 운영되는 카카오톡 오픈채팅 ‘고어전문방’에서 야생동물을 포획하는 법이나 신체를 훼손하는 방법 등이 공유됐다. 이들은 “길고양이를 죽이고 싶다”고 말하거나, 실제로 학대당하는 동물의 사진과 영상을 올린 것으로 전해졌다. 일부는 동물들을 직접 학대했다는 사실을 인증해야만 참여할 수 있는 소수 카톡방까지 운영했다. 해당 채팅방들은 현재 카카오톡에서 모두 사라진 상태다. 동물자유연대는 지난 8일 동물보호법·야생생물 보호 및 관리에 관한 법률 위반 등 혐의로 이들을 서울 성동경찰서에 고발했다. 청와대 국민청원 게시판에도 ‘고양이를 잔혹하게 학대하는 단체 카톡방을 수사하고 처벌해달라’는 청원 글이 올라왔다. 청원인는 “이들은 울음소리가 싫다는 이유로 길고양이를 죽이고, 그걸 사진 찍어 자랑하며 낄낄대는 악마들”이라며 “가엾은 생명을 외면하지 말고 가해자를 제대로 처벌해달라”고 역설했다. 이 청원은 이날 오후 9시 30분 기준으로 17만 5천여명의 동의를 얻었다. 현행 동물보호법은 동물에게 물리적 위해를 가하는 것뿐만 아니라 그러한 행위를 촬영한 사진이나 영상물을 게재·전달하는 행위도 학대로 보고 금지한다. 곽혜진 기자 demian@seoul.co.kr

‘정인이’ 사건으로 온 국민이 충격에 빠진 가운데 학대받는 아동을 시간, 장소 제약 없이 쉽고 편리하게 신고할 수 있는 체계를 구축하는 등 경기 지차체가 대책 마련에 나선다. 의왕시는 손쉽게 아동학대를 신고하는 ‘위기아동 보호창구’(아이쉴드) 톡을 운영한다고 6일 밝혔다. 아동인구 1000명당 아동학대로 판단되는 피해 아동 수를 의미하는 피해아동 발견율은 2018년 국내 2,98%로 해외 9.10%에 크게 못 미치는 것으로 나타났다 ‘위기아동 보호창구’는 카카오 톡 채널 활용해 아동학대가 의심되면 빠르고 신속하게 신고할 수 있는 체계다. 학대 의혹이 있는 아동을 발견하면 학대정황을 간략하게 적어 위기아동 보호창구 톡 대화창으로 신고할 수 있다. 이를 확인한 아동학대전담공무원은 곧자로 상담을 진행한 후 현장 조사에 나선다. 아동학대가 확인되면 위기아동에 대한 응급조치와 관련 서비스를 연계하는 시스템이다. 대부분 신고자는 아동학대 신고에 대해 심적으로 큰 부담감을 가져 이를 주저하는 것으로 알려졌다. 접근이 쉬운 카카오톡 채널은 학대의심 신고자들의 부담감을 덜어줄 수 있어 위기아동 발굴이 더 활성화할 수 있을 것으로 기대된다. 이 시스템은 카카오 톡 채널에서 위기아동 보호창구를 검색해 친구로 추가하면 학대받는 아동을 신속히 신고할 수 있다. 지난해 아동보호전문기관을 개관한 안양시는 전문가를 보내 학대가정을 돕고 있다. 안양시는 취약계층 아동, 청소년 학대가정을 대상으로 ‘홈케어플래너’를 파견해 지원한다. 특히 고위험 군을 선정해 사례에 적합한 복지서비스를 제공하고 있다. 이 제도는 피해아동과 가해당사자를 대상으로 아동권리교육, 분노조절프로그램 운영한다. 또 심리검사, 치료 등 학대예방을 위한 맞춤형 서비스도 지원한다. 안양시 아동보호전문기관은 학대로부터 아동을 보호하고 아동학대예방 교육, 아동학대 신고접수와 현장조사, 피해아동 가정에 대한 사례관리 업무를 수행한다. 한편 매년 아동학대 건수가 크게 증가하고 있다. 보건복지부 통계에 따르면 2011년 6000여건에 그쳤던 아동학대 건수는 2018년 2만 4000여건으로 4배 넘게 크게 증가했다. 신체학대뿐만 아니라 정서학대, 성학대, 방임, 유기 등 모두 아동학대에 해당한다. 이 중 동기대비 신체학대가 7.3배로 가장 많이 증가했으며 정서학대 6.4배, 성학대 4배로 뒤를 이었다. 2018년 아동학대 중 정서학대(5862건)가 가장 많았고 신체학대(3436건), 방임(2604건), 성학대(910건) 순이었다. 남상인 기자 sanginn@seoul.co.kr

“위기 가구에 코로나19 확산은 더 엄중하고 냉혹할 수밖에 없습니다. 그렇다 보니 위기 가구를 찾는 일에는 작은 틈도 경계해야 합니다.”(박준희 서울 관악구청장) 관악구는 코로나19로 어려운 상황에서도 ‘찾아가는 동주민센터’(찾동) 사업을 다양한 방면으로 추진하고 있다고 4일 밝혔다. 코로나19 장기화에 따른 계속되는 사회적 거리두기로 대면 복지서비스가 제한되고 주민 간 사회관계가 축소된 상황 속에서 복지 서비스를 제때 받지 못한 사각지대 주민에 대한 우려가 큰 상황이다. 이에 박 구청장은 “관악구는 현장에서 직접 만나 복지 사각지대를 발굴하는 대신 발 빠른 온택트 비대면 시스템으로 전환, 지역 공동체와의 적극적 소통과 협력을 통해 코로나19 난관을 극복하고 있다”고 설명했다. 관악구가 전국 최초로 도입해 서울시 25개 구로 확대된 ‘전입·사망 신고서를 활용한 위기 가정 발굴 사업’ 역시 지난해에는 코로나19 확산으로 비대면 방식으로 했다. 주민등록 재등록 가구 전수, 전입·사망 신고자 실태 등 총 8종의 위기 가구 발굴조사를 비대면 방식으로 진행해 지난해 10월까지 총 1만 4999가구를 상담하고 4757가구에 복지서비스를 연계했다. 자원봉사센터와 동 자원봉사캠프를 중심으로 운영하는 ‘시민찾동이’ 1만 1781명과 온택트 복지상담 창구인 카카오톡 채널 ‘함께해요 복지톡’을 연계해 도움이 필요한 주민을 발굴하고 있다. 관악구의 찾아가는 복지 초기상담은 지난해 11월 기준 총 23만 2379건으로 전국 지자체 중 1위에 오르는 성과를 거두기도 했다. 민관이 협력해 진행하는 통합사례관리는 코로나19에도 온라인 통합사례회의를 정례화하고 온라인 솔루션회의 등을 진행했다. 지역 주민 1221명이 함께 ‘우리 동네 수호천사 희망발굴단’을 운영해 위기 가구를 발굴하고 ‘일촌’을 맺어 상시 돌봄을 하고 있다. 특성화고 조리학과 고등학생의 재능기부를 받아 반찬 나눔을 하는 ‘은천동 민·관·학 협력 마을돌봄 요리보고(高) 조리보고(go) 사업’과 파출소와 복지관이 협약해 독거노인을 돌보는 ‘난향동 그린라이트 독거어르신 사업’은 올해 서울시가 주최한 ‘찾동 우수 공감 정책’에 선정되기도 했다. 박 구청장은 “위기가구 발굴을 위한 많은 사업이 추진되지만, 아직도 부족한 게 없는지, 더 좋은 방법은 없는지 정책적인 연구가 필요하다”며 “더 많은 위기가구를 발굴할 수 있도록 더욱 노력하겠다”고 말했다. 윤수경 기자 yoon@seoul.co.kr

성범죄자 전출입시 해당 행정동의 19세 미만 아동·청소년을 보호하고 있는 가구의 세대주에게 모바일 카카오톡으로 알려주는 제도가 5일부터 시행된다. 아동청소년성보호에 관한 법률에 따라 성범죄자의 성명, 나이, 사진, 키와 몸무게 등 신체정보, 실거주지, 성범죄 내용, 전자장치 부착 여부 등을 모바일로 알려주는 제도다. 앞서 여성가족부는 지난해 11월 25일부터 12월 말까지 시범 운영한 결과 16만여명이 이를 열람했다고 밝혔다. 여가부는 3일 “모바일 고지서를 우선 보내고 이를 열람하지 않은 사람에 한해서는 우편고지서를 보내게 된다”면서 “직접 고지 받지 않은 세대원이 성범죄자 신상정보 열람을 신청할 수 있는 웹페이지 링크도 함께 발송할 예정”이라고 밝혔다. 해당 가구의 세대주는 별도 신청 없이 본인인증 수단인 카카오페이에 가입한 뒤 고지서를 열람하면 된다. 세대주 이외의 세대원은 성범죄알림e 누리집(www.sexoffender.go.kr) 또는 앱에서 별도 신청하면 고지 내용을 확인할 수 있다. 지난해 11월 기준으로 신상정보 공개 및 고지 대상자는 모두 4017명이다. 여가부는 공개정보를 성범죄 우려가 있는 사람을 확인하기 위한 목적 이외의 다른 용도로 악용할 경우 관련 법률에 따라 처벌받을 수 있다고 지적했다. 세종 박찬구 선임기자 ckpark@seoul.co.kr

새해 부모님댁 방문 단속하기 어려워 사전적 통제 한계… 경각심 제고 효과코로나19 확산 방지를 위해 수도권에서 23일 0시부터 5인 이상 사적 모임을 금지한 것을 두고 실효성 의문이 제기됐다. 단속할 방법이 마땅치 않아 각종 편법이 활개칠 수 있다는 우려도 나온다. 21일 서울시, 경기도, 인천시가 발표한 5인 이상 사적 모임 금지와 관련해 시민들의 반응은 엇갈렸다. 단속의 실효성과 편법에 대한 우려가 가장 많았다. 8명 모임이라도 4명씩 나눠서 앉으면 가능하지 않냐, 집에서 가족끼리 모이면 문제 없는 것 아니냐는 질문이 쏟아졌다. 서울시 관계자는 “모든 사적 모임을 통제하기는 쉽지 않은 것이 사실”이라며 “우선 시민들의 경각심을 제고하고 동참을 이끌어 내는 것이 주요한 목적”이라고 말했다. 이어 “사전적 통제는 어렵지만 신고가 들어오거나 사후에 코로나19 확진자가 포함돼 방역 수칙 위반 사실이 확인되면 책임을 물을 것”이라고 했다. 대부분 시민은 사적인 모임을 단속하기 어려울 것이라는 반응을 보였다. 회사원 이모(56)씨는 “1월 1일에 가족들이 부모님 댁에서 다같이 모여 떡국을 먹기로 했는데 그것까지 잡을 수 있겠나”며 “당장 모일지 말지 가족 단체 카톡방에서도 의견이 분분하다”고 말했다. 경기 수원시에 사는 정모(37)씨는 “방이 별도로 있는 식당을 예약해 놨는데 4명씩 다른 테이블에 앉으면 현실적으로 식당에서도 거부하지 못할 것”이라고 말했다. 식당을 운영하는 자영업자들 사이에도 볼멘소리가 나왔다. 서울 중구에서 한식당을 하는 한 자영업자는 “가뜩이나 2.5단계 이후에 밤 9시 영업이 금지돼서 힘든데 이제 점심 회식도 금지된 것 아니냐”며 “식당 주인한테도 과태료를 물린다는데 4명씩 따로 예약을 하는 사람한테 안 된다고 할 수도 없다”고 말했다. 서울, 경기, 인천 거주자의 경우 다른 지역에서도 집합금지가 적용되지만 단속은 수도권 지역보다 더 어려울 것으로 보인다. 강원도 스키장 모임이나 제주도 호캉스 등으로 번질 풍선효과를 막기 위한 조치다. 평소 캠핑을 즐기는 김모(35)씨는 “인기가 많은 지방 캠핑장에 가서 여러 명이 모여도 수도권에서 왔는지 알기 어려울 것”이라며 “지방에서까지 5인 이상 사적 모임을 금지하는 것은 너무하다”고 말했다. 코로나19 확산세가 줄어들지 않는 만큼 불가피한 조치라는 의견도 만만치 않다. 주부 최모(41)씨는 “최근 김장 모임 등 가족 간 코로나19 전염이 많았기 때문에 가족 모임도 금지할 수밖에 없었을 것”이라며 “꼼수야 어디서나 생길 수밖에 없지만 대부분 경각심을 가질 것 같아 효과가 있어 보인다”고 말했다. 이민영 기자 min@seoul.co.kr