“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

카카오가 ‘증오·혐오 발언 근절 원칙’을 수립해 자사 서비스에 적용한다. 국내 기업들 중에서 이같은 원칙을 발표한 것은 카카오가 처음인 것으로 알려졌다. 이른바 ‘이루다 사건’으로 디지털·인공지능(AI) 윤리 논쟁이 불거지자 기존에 준비해온 규정을 선제적으로 내놓은 것이다. 카카오는 13일 공식 브런치를 통해 ‘증오 발언 근절을 위한 카카오의 원칙’을 공개했다. 카카오는 약 1년에 걸처 증오 발언 근절을 위한 원칙을 마련했다. 카카오 측에서는 “온라인 증오발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있다”면서 “카카오 역시 사회의 구성원으로서 디지털 공간을 보다 건강하게 만들기 위한 증오발언 대응 원칙을 수립했다”고 밝혔다.카카오는 표현의 자유를 남용해 타인의 안전을 위협하는 발언을 경계하기 위해 네 가지 원칙을 제시했다. 첫째로는 특정 대상을 차별하거나 이에 대한 편견을 조장하고 일방적으로 모욕·배척하는 행위에 반대하기로 했다. 출신 지역이나 국가, 인종, 외양, 장애 및 질병, 경제상황, 종교, 지위, 연령, 성별, 성 정체성 또는 기타 정체성 요인을 대상으로 증오·혐오 발언을 하는 것에 맞서겠다는 것이다. 둘째 원칙으로는 이러한 차별에 기반해 특정 개인이나 특정 집단을 공격하는 ‘증오발언’에 강경하게 대처하기로 했다. 셋째 원칙은 이용자의 의무에 대한 내용이다. 이용자는 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 한다고 강조했다. 다만 타인의 존엄성과 안전을 위협하지 않는 한 공공정책이나 자신의 신념 등에 대해 자유롭게 의견을 개진할 수 있다는 것을 분명히 했다. 마지막 원칙으로 카카오는 ‘증오발언’ 근절을 위해 정책, 서비스, 기술, 디자인을 고도화 하기로 했다. 사내 교육과 모니터링도 강화해 내부로부터 발생할지도 모르는 차별와 증오의 싹을 경계하기로 했다.이러한 원칙을 반영해 이날 카카오의 회원 운영정책 일부가 수정돼 공지로 나갔다. 이를 통해 서비스 이용시 금지하는 활동에 외양, 질병 유무, 경제 상황, 지위, 성체성, 성적 지향 등을 요인으로서 인간 존엄성을 훼손하거나 차별·편견을 조장하는 행위가 추가됐다. 이용자가 금지하는 행위를 하게 되면 관련 규정에 따라 카카오 계정과 서비스의 이용이 제한될 수 있다. 이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 경영 활동의 일환이다. 카카오는 전날(12일) 이사회 산하에 ESG위원회를 신설하고 김범수 카카오 이사회 의장이 위원장을 맡는다고 밝혔다. 카카오는 증오 발언 근절 원칙 수립 과정에 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다고 밝혔다. 카카오 관계자는 “국내에서 증오발언 근절을 위해 기업이 원칙을 제정해 이를 적용하는 것은 이번이 처음”이라면서 “게시물 운영정책의 금지항목에 일부 포함된 경우는 있으나 카카오와 같이 대상을 명확하게 정의하고 대응 의지를 밝힌 사례는 찾아보기 어렵다”고 말했다. 한재희 기자 jh@seoul.co.kr

평소 키우던 관상어를 잡아서 요리한 남성의 사연이 알려져 논란이 일고있다. 이 남성은 자신의 집안 수조에서 키운 관상어 한 마리를 직접 잡은 뒤, 각종 채소와 식초, 간장 등을 첨가해 저녁 식사용으로 요리했다. 사연의 주인공은 중국 허베이성 스좌장(石家庄)에 거주하는 20대 남성 장 모 씨다. 그는 지난 9일 스좌좡시 일대에 내려진 봉쇄 방침에 따라, 기르던 값비싼 관상어를 잡아먹는 영상을 온라인에 공개했다. 장 씨가 거주하는 스좌장 시는 수도 베이징을 둘러싼 허베이성의 도시로, 이 일대 주민들에게는 효과적인 코로나19 방역을 위해 지난 9일부터 1주일 간 ‘금족령’이 내려진 상태다. 특히 스자좡시 정부는 지난 8일 저녁 “앞으로 1주일간 모든 주민들은 집에 머물라”는 통지문을 발표, 총 1100만 명에 달하는 스자좡 주민들은 이동이 일체 금지됐다. 이 같은 상황에서 장 씨가 직접 자신의 SNS에 공개한 영상에는 그가 어항에서 관상어를 뜰채로 건지는 장면과 찜기에 관상어를 넣고 요리는 모습 등이 모두 담겨 누리꾼들의 비난이 증폭됐다. 해당 영상에는 장 씨가 기르던 고양이에게 요리를 나눠주는 장면도 촬영됐다. 그는 “스좌장이 코로나19 방역으로 봉쇄된 상황에서 오랫동안 육식을 하지 못했다”면서 “어쩔 수 없이 아끼며 길렀던 물고기를 먹을 수밖에 다른 방법이 없다. 비싸지만 나름 친환경 물고기”라고 했다. 진 씨의 사연이 공개되자, 현지 언론들은 그의 관상어가 마리 당 수천 위안에 달하는 ‘진룽위’(金龍魚)라고 보도했다. 상당수 누리꾼들은 직접 기르던 관상어를 잡아먹는 영상 속 장 씨에 대해 ‘혐오스럽다’, ‘동물 학대로 처벌해야 한다’ 등의 반응을 보였다. 반면 일부 누리꾼들은 스좌장 등 일부 봉쇄 지역 주민들의 식료품 공급 부족 등을 우려하는 목소리를 냈다. 이 같은 우려에 대해 중국 환구시보 등 중국 관영매체들은 스좌장 시 대부분의 상점들이 온라인 판매 형식으로 배송을 이어가고 있다고 보도했다. 특히 채소, 과일, 식수 등 생필품 공급에 문제를 겪는 지역은 없다는 내용을 보도하며 물자 부족에 대한 문제 제기를 일축했다. 임지연 베이징(중국) 통신원 cci2006@naver.com

“5년 전만 해도 거리의 청소년들에게서 희망을 봤습니다. 그런데 지금은...” 사회성 짙은 소설로 주목받은 소설가 주원규가 신작 ‘아이, 괴물, 희생자’(해리)에 관해 설명하다 말을 줄였다. 그는 2009년 ‘열외인종 잔혹사’로 한겨레문학상을 받은 이후 강남 천민자본주의의 민낯을 드러낸 ‘메이드 인 강남’을 비롯해 tvN 드라마 ‘아르곤’, OCN 드라마 ‘모두의 거짓말’ 등으로 사회의 어두운 면을 주로 들췄다. 그가 2011년부터 9년 동안 거리에서 만난 6명의 청소년과 나눈 대화를 기록한 이번 책도 상당히 어둡다. 재희, 강이, 푸른, 혜주, 나영, 건혁(모두 가명)과 나눈 날것 그대로 인터뷰와 함께 저자가 그들의 속사정을 서술한 일종의 르포르타주다. 이들은 처음엔 부모로부터 도망친 ‘아이’였지만, 제도권의 경계선을 벗어나면서 ‘괴물’로 변했다. 친부에게 성폭행당해 집을 뛰쳐나왔던 아이는 길거리에서 자신의 몸을 팔아 연명하고, 부모에게 매일 맞고 자란 아이는 다른 아이들을 괴롭히는 것을 낙으로 삼다 교도소에 수감된다. 알코올중독자 아버지가 집에 불을 지르는 바람에 집에서 나온 아이는 사랑을 찾아 헤매다 끝내 극단적인 선택을 하고 만다. 결국 우리 사회의 ‘희생자’가 된 셈이다. 저자가 청소년들을 만난 건 지난 2010년부터로, 어림잡아 300명이 넘는다. 고교 중퇴 경험이 있는 저자는 경계선에 있는 청소년들에게서 자신의 과거를 봤다. 쉼터나 소년원에서 만난 아이들에게 글쓰기 수업을 하면서 2015년 ‘힘내지 않아도 괜찮아‘를 내기도 했다.“글쓰기 수업을 할 때만 해도 이들이 사회로 돌아갈 수 있게 제가 도움을 줄 수 있으리라 생각했습니다. 그런데 최근엔 경계에 있는 청소년들이 사회에서 소외받는 속도가 더 빨라지고 있어요. 어른으로서 부끄럽고 가슴 아프고 괴로웠습니다. 희망보다는 절망감이 더 커졌고요. 그래서 이들의 이야기를 있는 그대로 전달하고 싶어 이번 책을 썼습니다.” 그는 경계선에 있는 청소년들이 잠시 머무는 ‘쉼터’가 제 역할을 못하고 있다고 꼬집었다. 책에는 쉼터 관리자가 성폭행을 당한 아이의 부모에게 연락해 데려가라 한다거나, 쉼터에서 만난 청소년들이 범죄에 더 깊이 연루되는 모습들이 나온다. “‘제도권 안의 청소년’과 ‘제도권 밖의 청소년’으로 나눌 수 있고, 그 중간에는 제가 주로 만났던 ‘경계에 있는 청소년’이 있습니다. 제도권 밖의 청소년은 사실상 범죄자들인데, 이들이 쉼터에서 애들을 만나 데려가기도 합니다. 쉼터가 이를 철저히 분리시켜야 합니다. 아이들과 더 소통해야 하고요. ‘우리가 돌봐준다’는 식의 낭만적인 생각만으론 이 문제를 해결할 수 없어요.” 저자는 무엇보다 중학생, 고교생을 둔 부모들이 책을 한 번쯤 읽고 시선을 바꾸길 기대했다. “우리 애는 이런 애들과 다르다 생각하지 말고, 우리와 함께 숨 쉬고 살아가는 아이들이 있다는 사실을 알아달라”면서 “혐오의 시선이 아닌, 고민의 시선을 부탁한다”고 덧붙였다. 김기중 기자 gjkim@seoul.co.kr

에어비앤비 “증오단체 소속 투숙 금지”폭력 우려에 호스트 ‘숙박 거절’숙박비 올리고 오바마 사진으로 예약 차단조 바이든 미국 대통령 당선인 취임식을 일주일 앞두고 도널드 트럼프 대통령 지지자와 극우주의자들이 또 대규모 폭력 시위를 예고한 가운데 워싱턴DC 주민들의 불안감도 커지고 있다. 워싱턴포스트(WP)는 12일(현지시간) 전국에서 몰려드는 시위 참여자 때문에 워싱턴DC에서 숙박공유업체 에어비앤비를 운영하는 호스트가 어려움을 겪는다고 보도했다. WP는 “지난 6일 의사당 폭력 난입 사태에 참여한 수천명의 트럼프 지지자 중 에어비앤비를 통해 숙소를 찾은 사람이 많았다”며 “바이든의 취임식이 임박하면서 호스트들은 무심코 ‘내란주의자’에게 집을 내어줄까봐 우려하고 있다”고 전했다. 앞서 에어비앤비는 의회 난입 사태 이후 예약자 명단을 검토해 ‘증오 단체’(hate group) 소속이거나 폭력 전과가 있는 이의 투숙을 금지하겠다는 방침을 밝혔다. 투숙객에게 수상한 행동을 하는 사람들이 보일 경우 즉시 신고할 것을 요청하고, 폭력을 선동하려 할 경우 강력한 법적 조치를 하겠다는 것이다. 에어비앤비는 2017년 버지니아주 샬럿에서 열린 백인 우월주의자 집회 때도 이들의 투숙을 금지한 바 있다.하지만 제 집을 낯선 이에게 빌려줘야 하는 호스트들은 여전히 불안에 떨고 있다. 에어비앤비가 혐오 단체를 어떻게 정의하고 검증하는지 불분명하고, 게스트가 체크인한 뒤 호스트가 취할 수 있는 조치가 무엇인지 알 수 없기 때문이다. 워싱턴DC에서 2017년부터 에어비앤비 ‘슈퍼 호스트’로 활동한 신시아 해리스(67)는 “우리는 미 수정헌법 1조에 보장된 표현의 자유를 행사하러 DC에 오는 사람들에게 아주 익숙하다. 일반적으로 그들은 우리의 재산과 이웃을 위해 신경 쓰는 사람”이라고 했다. 하지만 의회 난입 사태 직전 예약한 이들은 달랐다. 그는 “몇몇 시위 참여자들이 폭력적일 수 있다는 보도를 봤고, ‘이건 받아들일 수 없다’고 생각했다”고 말했다. 시위 참가자들의 폭력적인 방식과 신념에 동의하지 않는 호스트들의 거절은 더 늘고 있다. 해리스는 예약을 에둘러 거절하기 위해 하룻밤 숙박비를 500달러(약 55만원)으로 2배 가까이 올렸다. 이들이 방역 수칙도 제대로 지키지 않는 탓에 코로나 민감도도 높아졌다. 한 호스트는 자신의 목록에 웃고 있는 미셸 오바마 전 영부인의 사진을 추가하고, “1월 16일부터 21일까지 우리 집은 ‘애국심 강한’ 가정이 아니라는 점을 알아주시기 바랍니다. 이 집은 코로나19에 민감하고 평화로운 가정입니다”라는 설명을 덧붙였다. 앞서 연방수사국(FBI)이 16일부터 최소 20일까지 50개 주의 주도에서, 17일부터 20일까지는 워싱턴DC에서 무장 시위가 벌어질 가능성이 있다고 내부 공지를 통해 알리면서 연방 정부는 취임식 일주일 전인 13일부터 도시를 봉쇄하기로 했다. 취임식 날 의사당 주변은 폐쇄되고 군 병력 1만 5000명이 주변에 배치된다. 김정화 기자 clean@seoul.co.kr

李, 미 의사당 난입 시위 언급“가짜뉴스·조작정보로 특정인 명예 상처”“반사회적 문제 용납할 수 없다” 경고“관련 입법 2월 임시국회서 마무리” 예고민주, 탄핵 불복·대선 불복 거론 뒤 국힘 향해“자당 후보 총선 불복 입장 안 밝혀 유감”이낙연 더불어민주당 대표가 13일 대선에 불복한 도널드 트럼프 미국 대통령을 지지하는 시위대에 의해 장악되는 미국 의사당 난입 시위를 언급하며 “터무니없는 가짜뉴스를 믿고 선동에 휘둘리면 견고해 보이던 민주주의도 한순간에 흔들릴 수 있다는 것을 확인했다”면서 “당 차원에서 가짜뉴스에 더 단호하게 대처하고, 필요하면 전담 기구 설치도 검토하겠다”고 밝혔다. 李 “가짜뉴스 믿고 선동 휘둘리면 민주주의 한순간에 흔들리는 것 확인” 이 대표는 이날 국회에서 열린 최고위원회의에서 미국 의사당 난입 시위를 거론하며 이렇게 말했다. 이 대표는 “우리나라에도 가짜뉴스와 조작 정보로 사회의 혼란과 불신을 가중하고, 특정인의 명예에 지울 수 없는 상처를 주는 일이 기승을 부리고 있다”면서 “민주주의의 기반을 무너뜨리는 반사회적 문제로 용납할 수 없다”고 경고했다. 이 대표는 “관련 입법은 2월 임시국회에서 마무리하겠다”고 예고했다.민주 “미 정치상황 통해 극우·선동 나쁜 정치 말로 어떻게 되는지 인식” 염태영 최고위원도 “미국의 정치 상황을 통해 극우와 혐오, 선동이라는 나쁜 정치의 말로가 어떻게 되는지 경계심을 갖고 인식해야 한다”고 말했다. 그는 “부정 선거 주장과 선동의 근저에는 탄핵 불복, 대선 불복의 그림자가 넘쳐 난다”며 국민의힘 지도부를 향해 “자당 후보의 총선 부정선거 주장에 대해서 분명한 입장을 밝히지 않고 있다는 것은 매우 유감스럽다”고 비판했다. 이는 지난해 총선에서 낙선한 민경욱 전 국민의힘 의원이 부정선거를 거듭 주장하는데 따른 것으로 보인다.트럼프, 비판 언론에 “국민의 적”가짜뉴스 취급, 언론 적대감 부추겨 앞서 트럼프 대통령의 지지자들은 조 바이든 대통령 당선인의 승리가 확정되는 지난 6일(현지시간) 의회로 몰려가면서 의사당이 봉쇄됐다. 수백명이 바리케이드를 넘어 의사당 건물 쪽으로 진입하면서 경찰이 최루가스를 발포하는 등 긴장감이 감돌고 있다. 상·하원 회의는 중단됐다. 워싱턴포스트(WP) 등 미 언론에 따르면 상·하원이 합동회의를 열어 바이든 당선인의 승리를 확정하는 오후 1시에 맞춰 트럼프 대통령 지지자들이 의회로 몰려들었다. 이들은 워싱턴DC 곳곳에서 시위를 벌이다 의회로 행진했다. 대부분 마스크를 쓰지 않은 채였다. 수백명의 지지자들이 주변을 둘러쳐진 바리케이드를 넘어 의사당 가까이로 진입했다. 경찰이 제지했지만 막지 못했다. 일부가 의사당 건물 안까지 진입하면서 결국 의사당은 봉쇄됐다. 경찰은 최루가스까지 동원하며 해산을 시도했으며 4시간 만에 충돌로 5명이 숨진 뒤 해산됐다.미 의사당 폭도들 ‘언론 죽여라’카메라 부수고 폭언·폭행 전 세계를 놀라게 한 미국 워싱턴DC 의사당 난동 사태의 또 다른 피해자는 언론이었다. 트럼프 대통령과 측근들은 평소 주요 언론매체들을 “국민의 적”이라고 부르고 가짜뉴스로 취급하며 언론에 대한 적대감을 부추겼다. 뉴욕타임스(NYT)는 7일(현지시간) 도널드 트럼프 대통령 지지자들이 전날 의사당에 난입하는 등 폭동을 벌이는 과정에서 언론사 기자들을 두 번째 타깃으로 삼았다고 보도했다. 카메라를 빼앗아 박살 내고, 협박 등 폭언을 퍼부은 것은 물론 의사당 문에 ‘언론을 죽여라’라는 글귀까지 새겨넣었다. 블룸버그뉴스 기자인 윌리엄 터튼이 촬영한 영상을 보면 의사당 밖에서 한 무리의 시위대가 카메라 기자들에게 다가와 “여기서 나가라”고 외친 뒤 촬영 장비를 부수는 장면이 찍혔다. CBS뉴스 기자인 칩 리드는 과거 이라크와 아프가니스탄 분쟁 취재 때 사용한 보호장구를 다시 입었다며 “미국 의사당 경내에서 헬멧과 방탄조끼를 착용해야 한다는 것은 너무나 충격적”이라고 말했다. 그는 한 시위자로부터 ‘경찰이 기자들을 보호해줄 것 같으냐’는 협박을 받았다면서 “우리 주변에는 경찰관이 아무도 없었다. 무서웠던 순간이었다. 이들은 언론에 매우 화가 나 있었다”고 술회했다. 전날 캐나다 밴쿠버에서 소수의 트럼프 지지자 집회를 취재하던 CBC방송 촬영기자는 누군가의 주먹에 얼굴을 얻어맞았다. NBC방송의 워싱턴 계열사 WRC-TV의 쇼마리 스톤 기자는 “이것은 수정헌법 1조(언론의 자유를 규정한 조항)에 대한 공격”이라면서 “전에 본 적이 없는 일”이라고 말했다.강주리 기자 jurik@seoul.co.kr

마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.

“작은 손난로로 언 손이라도 녹이면서 검사하세요. 저희가 건강하게 잘사는 것은 의료진 선생님들 때문입니다. 감사합니다.” 부산 사하구 다대동의 고사리손 30여명이 북극발 한파에도 코로나19의 검사를 위해 야외에서 고생하는 의료진을 위해 따뜻한 감사 편지와 손난로 등을 전달해 훈훈한 미담이 되고 있다. 특히 지난 7일 부산 다대1동의 쓰레기 소각장 주차장에 들어선 사하구 임시선별검사소는 일부 지역 주민의 항의로 한 차례 쫓겨난 ‘아픔’이 있어, 더욱 의료진 등에게 힘이 됐다. 12일 부산 사하구 등에 따르면 사하구 다대동 롯데캐슬몰운대아파트 발전위원회는 전날인 11일 다대동 임시선별검사소의 의료진 등에게 격려 편지와 물품 등을 전달했다. 사하구 임시선별검사소는 애초 지난 4일 다대동 통일아시아드공원 인근 다대항 배후부지에 설치됐으나 감염을 우려한 인근 주민 반발로 하루 만에 쫓겨났다. 고민하던 사하구는 지난 7일 다대 1동 옛 쓰레기 소각장 주차장으로 검사소를 이전했다. 의료진 등은 이번에도 인근 주민들이 반발할까 노심초사했다. 새로 설치된 임시선별검사소 20~300m 거리에 다대동 롯데캐슬몰운대아파트가 있기 때문이다. 그러나 이는 기우에 불과했다. 오히려 주민들은 이들 의료진을 따뜻하게 맞았다. 지난 8일 아파트의 한 주민이 ‘임시선별검사소가 인근에 설치됐고, 갑작스레 불어 닥친 한파에 고생하는 의료진을 위해 작은 정성을 모아보자’는 글을 아파트 커뮤니티에 올렸다. 많은 주민의 공감을 얻었고, 불과 3∼4시간 만에 230만원의 후원금이 모였다. 또 ‘어린이들이 적은 손편지도 전하자’는 제안도 올라왔다. 아파트 주민들은 십시일반 모은 성금으로 손난로와 핫팩, 수면 양말 등 보온제품과 유자차 초코바, 목캔디 등 간식거리 등을 샀다. 30여명의 어린이들은 손 편지를 직접 적어 현장에 전달했다. 몰운대아파트 발전위원회 김지영 부회장은 “임시선별검사소 설치에 몇몇 우려를 나타내는 주민도 있었으나, 혐오시설도 아니고 시민들을 위한 시설이라고 설득했다”면서 “저희의 작은 정성이 추운 날씨에 고생하는 의료진들에게 조금이라도 힘이 됐으면 한다”며 환하게 웃었다. 부산 김정한 기자 jhkim@seoul.co.kr

여론조사에서 30% 내외로 두텁게 포착되는 무당층은 흔히 ‘정치 무관심자’로 치부되지만, 이들 가운데 상당수는 ‘제삼자’의 시각에서 정치를 관망하고 있는 비판적 참여층이다. 특정 진영이나 이념에 고정적 선입견 없이 오로지 합리성으로만 판단하겠다는 것이다. 서울신문은 지지하는 정당 없이 무당층에 속해 있는 세대별 시민 3인에게 그들이 바라보는 한국 정당 정치를 물었다. 대학생 류연지(24)·직장인 김수현(31)·자영업자 박근호(45)씨는 일제히 “기존 정당으로는 희망이 없다”며 날카로운 비판을 쏟아냈다.-지지 정당이 없다면 지난 선거에서 투표는. 류연지(이하 류) “내 뜻을 대변하는 정당이 없었다. 어디에도 투표하지 않았다.” 김수현(이하 김) “고민 끝에 더불어민주당에 표를 줬다.” 박근호(이하 박) “국민의힘에 투표했다.” -정치적 성향은 어떤가. 김 “중도다.” 박 “보수지만 국민의힘이 표출하는 정당성과 색깔에 실망해 그 당을 지지하지는 않는다. 현존 정당 가운데는 진정 사람을 챙기는 정당이 하나도 없다고 생각한다.” 류 “정치는 한 가지 이념만으로 이뤄질 수 없다. 진보·보수 프레임에 구애받지 않는 게 진짜 정치다. 이념을 떠나 각기 주어진 현안마다 최선의 답을 찾는 정책을 펼쳐야 하는 것 아닌가. 단순히 한쪽 성향을 고를 수 없다.”-원내 정당이 7개나 되는데 맘에 안 드나. 박 “여야 모두 국민의 현실과는 동떨어진 쇼 정치를 한다고 본다. 민주당은 실질적으로 잘살 수 있는 환경을 만드는 게 아니라 이미지 정책, 감성법에 신경 쓴다. 4차 재난지원금 얘기도 나오지만, 국민으로선 당장 돈을 받는 게 중요한 게 아니라 일할 수 있는 환경을 조성해주는 게 더 중요하다. 코로나19 탓도 한두 번이지 변명 말고 국정에 책임을 져야 한다. 국민의힘은 현재 이들이 추구하는 것이 무슨 색인지를 알 수가 없다. 정의당·국민의당 등은 특성 없이 거대 정당에 종속된 느낌이다. 그들이 무엇이 크게 다른지 모르겠다.” 김 “정당별 정책에서 큰 차이를 느끼지 못한다. 대선 때 여야 모두 상당수 비슷한 정책을 공약으로 내걸지 않았나. 그 때문에 개인적으론 정당의 도덕성을 중요하게 여겨 왔다. 그나마 현 대통령과 민주당의 도덕성을 높게 평가해 표를 줬는데, 최근 들어 그렇지 않은 사례를 기사로 접하며 결국 정치인은 다 비슷하다는 생각이 들어 정치 혐오가 생겨났다. 차라리 부동산 투기라면 인간적으로 이해할 수 있는 지점이 있다고 해도 최근 들어 불거진 정치인의 성범죄 사건들은 도저히 이해할 수 없다.” 류 “우리나라 정치인을 싫어하고 믿지 않는다. 선거운동 기간에는 국민을 위해 뛰겠다고 말하면서 정작 당선되면 국회 대신 골프장 출석하는 식의 행동들이 꼴 보기 싫다.” -현존 정당들이 어떻게 바뀌어야 지지할 텐가. 김 “솔직히 지금 정치인들에 대해 기대 자체가 없다. 기본적으로 도덕적으로 흠 없는 정당이 됐으면 좋겠다는 바람이 있다. 일을 잘한다고 해서 도덕적 흠결을 덮어주는 문화는 없어야 한다.” 류 “정당의 가치를 논하기에 앞서 정당을 구성하는 정치인 개개인의 역량과 태도가 문제라고 본다. 끊임없이 정치인들의 문제가 터져나오지 않나. 정당을 구성하는 정치인들이 바뀌지 않는다면 정당에도 미래가 없다고 생각한다.” 박 “쇼 대신 현실적 문제에 답을 주는 정당이 필요하다. 또한 진짜 자유민주주의가 기본이 된 정당이 나와야 한다. 상황에 따라 내가 갑일 수도 상대가 갑일 수도 있지만 서로 자유롭게 자기 목소리를 낼 수 있는 환경이 조성돼야 한다.” -새로운 정당이 필요하다고 보나. 김 “기존 정당을 고쳐 쓰는 게 낫다고 본다. 새 정당이 만들어져도 어차피 기존 정치인들이 간판만 바꾸는 거 아니겠나. 다만 내부에 강한 도덕적 잣대를 설정할 필요가 있다.” 박 “기성 정당을 고치든, 새 정당을 만들든 그 자체가 논점이어서는 안 된다. 실제로 지금껏 많은 정당들이 사람과 가치는 그대로인 채 간판만 바꿔오지 않았나. 그것 자체가 이미지 정치라 생각한다. 단순히 간판을 바꾸는 데서 그칠 게 아니라 그 정당이 추구할 가치를 뚜렷하게 설정하고 국민에게 현실적 변화를 가져올 심도 있는 고민을 하는 정당이 필요하다.” 이하영 기자 hiyoung@seoul.co.kr신형철 기자 hsdori@seoul.co.kr

여야 원내 정당들은 정치가 자신의 삶에 어떤 역할도 하지 못한다고 느끼거나 갈등·대결 구도에 염증을 느낀 국민이 무당층을 이룬다고 공통으로 진단했다. 특히 민생과 경제 이슈가 무당층을 지지층으로 끌어올 수 있는 가장 중요한 전략이라고 분석했다. 좋은 민생 정책을 만들어 정치효능감을 느끼게 하면 무당층을 흡수할 수 있다고 보는 것이다. 더불어민주당의 홍익표 민주연구원장은 무당층을 세분화한 분석이 필요하다고 강조했다. 홍 원장은 12일 서울신문 인터뷰에서 “무당층에는 정치에 무관심한 국민은 물론 지지 정당과 후보를 바꿀 수 있는 스윙보터(부동층), 정치적 의사 표현을 꺼리는 샤이 유권자까지 다양한 국민이 포함돼 있다”고 분석했다. 또 “무당층의 존재는 정치권이 제 역할을 하지 못한 데 따른 것으로 반성이 필요하다”며 “정치의 역할을 폄하해 정치혐오를 확산시키는 사회적 분위기도 주요한 원인”이라고 했다. 국민의힘은 탄핵 이후 등을 돌린 지지층이 무당층으로 남아 있는 사례를 면밀히 들여다보고 있다. 지상욱 여의도연구원장은 “탄핵으로 기존 지지층의 67%가 빠져나갔는데 당시 약 47%가 무당층으로 집계됐고, 지난해 4월 총선에서 약 절반이 돌아왔다”며 “여전히 지지층 일부가 무당층으로 남아 있지만 규모는 점점 줄어들고 있다”고 했다. 정의당 김종철 대표는 “결국 정치효능감의 문제”라며 “무당층 증가는 누군가를 심판하거나 반대하기 위한 지지로는 한계가 있다는 사실을 시사한다”고 말했다. 국민의당 이태규 사무총장은 “문재인 정권은 싫지만 그렇다고 국민의힘을 찍을 수 없는 국민들에게 새로운 가능성을 열어줘야 한다”며 “이런 정치적 욕구를 충족시키지 못하면 무당층이 되는 것”이라고 분석했다. 무당층을 흡수할 전략으로는 입을 모아 민생을 꼽았다. 홍 원장은 “무당층이 정치에 대한 관심을 회복하고 참여하도록 하는 데에는 무엇보다 삶과 밀착된 경제가 중요하다”고 했다. 그러면서 “민주당은 안정적인 주거와 생활을 유지하고 발전시킬 수 있는 일자리, 심화하는 자산 불평등 문제를 해결하는 데 집중할 것”이라고 강조했다. 국민의힘도 ‘먹고사는 문제’를 최우선 과제로 꼽았다. 지 원장은 “부동산과 세금뿐 아니라 라면형제·정인이 사건 등 사회안전망과 공동체 복구에 노력할 것”이라고 했다. 또 “비판을 위한 비판이 아닌 삶을 나아지게 할 수권정당의 모습에 집중해 무당층의 신뢰와 관심을 모을 것”이라고 했다. 정의당 김 대표도 “민생 외에는 답이 없다”며 “산업재해라는 중요한 민생 이슈를 국민들에게 각인했고, 코로나19로 흐트러진 사회안전망을 강화하는 전 국민 고용·소득보험에 집중할 것”이라고 했다. 국민의당도 탈(脫)이념적 경제 이슈에 주목했다. 이 사무총장은 “예전에는 진영과 이념에 대한 경향성이 강했으나 현재 유권자들은 실질적 삶의 문제인 경제에 큰 영향을 받는다”며 “정상적으로 돈을 번 사람이 세금을 덜 내는 게 가장 좋은 복지라는 측면에서 접근할 것”이라고 했다. 손지은 기자 sson@seoul.co.kr이하영 기자 hiyoung@seoul.co.kr

혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

‘혐오의 학습화’ 논란을 불러일으키면서 지난 11일 서비스가 중단된 인공지능(AI) 챗봇 ‘이루다’ 사태는 인공지능 윤리에 관한 숙제를 남겼다. 한국보다 앞서 인공지능 기술을 상용화한 해외에서는 인공지능에 의한 차별·혐오 문제를 어떻게 다루고 있을까. 12일 법조계 등에 따르면 각국의 인공지능 규제는 크게 의회 입법을 통한 하드 로(hard law)와 법적 구속력이 없는 소프트 로(soft law)로 나뉜다. 지난해 12월 한국 정부가 발표한 ‘국가 인공지능 윤리기준’을 비롯해 대부분의 국가에서 규범 차원의 가이드라인을 발표하는 추세지만 일각에서는 입법 움직임도 시작되고 있다. 2017년 미국 뉴욕시의회에서 통과된 ‘알고리즘 책임 법안’은 뉴욕시에서 구성한 특별위원회를 통해 시에서 사용되는 인공지능 알고리즘에 차별 요소가 없는지 조사를 의무화하는 것을 주요 내용으로 한다. 2019년 4월 미 상원에서 대기업의 머신러닝 시스템을 감독하기 위한 동명의 법안이 발의되기도 했다. 특히 인공지능이 치안·금융·행정·교육 등 각종 영역에 상용화되면서 편향적인 알고리즘이 실제 피해로 이어질 수 있다는 지적이 나온다. 미국 아마존은 인공지능 기반 채용 시스템이 여성에게 불리한 평가를 한다는 사실이 알려져 2018년 시스템 개발을 중단했다. 유럽연합(EU) 의회도 지난해 10월 포괄적인 AI법 권고안을 채택했다. 인공지능 기술이 심각한 윤리 원칙을 위반할 경우 인공지능의 자기학습능력을 비활성화하고 완전한 인간 통제하에 놓이도록 복원하는 내용이 담겼다. 다만 한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 “구체적으로 무엇을 어떻게 규제할지 충분히 논의되지 않아 당장 입법은 불가능하다”면서 “기본적인 윤리 원칙을 다양한 개별 상황에 어떻게 적용할지 세부적인 가이드라인을 먼저 마련해야 한다”고 말했다. 기업 차원에서 자정 노력이 필요하다는 지적도 나온다. 마이크로소프트(MS)는 2016년 차별·혐오 논란에 휩싸였던 챗봇 ‘테이’ 사태 이후 사내 윤리위원회를 만들고 윤리 기준을 마련했다. 진선민 기자 jsm@seoul.co.kr

2심서도 유죄…벌금 300만원 선고 낯선 여성에게 귓속말을 하다 강제추행죄 처벌을 받은 20대 남성이 2심에서도 유죄를 선고받았다. 울산지법 제2형사부(부장 김관구)는 강제추행 혐의로 기소된 A(29)씨에 대한 항소심에서 원심보다 낮은 벌금 300만원과 성폭력 치료프로그램 40시간 이수를 선고했다고 12일 밝혔다. A씨는 2019년 5월 울산 북구의 한 포장마차에서 옆에 앉은 여성에게 다가가 양팔로 감싸 안으려 하면서 귓속말을 시도하다 강제추행 혐의로 기소됐다. 1심 재판부는 “일면식도 없는 피해자를 상대로 갑자기 껴안기 위해 볼에 손을 대고 얼굴을 귀 바로 옆까지 들이대는 행위는 일반인에게 성적 수치심이나 혐오감을 일으키게 해 강제추행에 해당된다”며 벌금 500만원과 함께 성폭력 치료프로그램 40시간 이수, 취업제한 3년을 선고했다. A씨는 형량이 너무 과하다며 항소했다. 2심 재판부는 “피고인의 행위는 일반인에게 성적 수치심이나 혐오감을 일으키게 하기에 충분하지만 추행의 정도가 그리 중하지 않고, 벌금형을 초과하는 처벌전력은 없는 점, 피해자가 수사기관에 처벌불원 의사를 표시한 점 등을 고려했다”고 양형 이유를 밝혔다. 최선을 기자 csunell@seoul.co.kr

장혜영 정의당 의원이 12일 다음달 국회에서 인공지능 이루다에 대한 성희롱 문제를 언급하며 ‘포괄적 차별금지법’을 전면적으로 논의하자고 제안했다. 장 의원은 “인공지능 챗봇인 ‘이루다’를 둘러싼 윤리적 논란이 뜨거웠는데 AI를 대상으로 한 이용자들의 성희롱부터 개발에 이용된 데이터 활용의 적법성까지 여러 문제점들이 불거졌다”면서 “무엇보다 많은 이들에게 충격을 준 것은 인공지능(AI)가 장애인, 성소수자, 이주민 등 우리 사회의 약자들이나 소수자들에 대한 차별과 혐오 그리고 편견을 그대로 재생산하는 모습”이었다고 지적했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 장 의원은 이러한 현실은 인공지능(AI) 윤리 이전에 우리 사회가 여전히 사회적 약자와 소수자들에 대한 차별과 혐오를 제대로 방지하는 일에 실패했음을 드러내고 있다고 강조했다. 이어 국회는 이러한 현실을 방치한 막중한 책임으로부터 결코 자유로울 수 없다고 덧붙였다. 장 의원은 “우리 사회는 오랜 사회적 대화를 통해 사회적 약자와 소수자들에게 가해지는 차별과 혐오를 제도적으로 금지해야 한다는 합의에 이르렀다”면서 “이러한 국민적 합의는 국가인권위원회에서 실시된 조사를 비롯한 각종 조사들에서 일관되게 나타나는 폭넓은 포괄적 차별금지법 도입의 찬성 여론으로 이미 증명되었다”고 전제했다. 하지만 국회는 2007년부터 지금까지 무려 14년간 온갖 핑계를 대며 번번이 이러한 사회적 합의를 포괄적 차별금지법으로 제도화하는 것을 미루어 왔다고 장 의원은 비판했다. 장 의원은 “21대 국회도 예외가 아니다”라며 “작년 6월 포괄적 차별금지법을 대표 발의했으나 법안이 발의된 지 반 년이 넘은 지금까지 포괄적 차별금지법은 단 한차례의 소위조차 열리지 않았다”고 지적했다. 그는 “AI도 결국 사람이 만드는 것”이라며 “사람의 규범이 바로 서야 AI윤리도 바로 설 수 있다”고 목소리를 높였다. 장 의원은 “나날이 다양화되고 고도화되는 사회문화적인 현실 속에서 사회적 약자와 소수자에 대한 차별과 혐오를 단호히 금지하는 제도적 안전장치를 확립해야 할 책무를 21대 국회는 더 이상 외면해서는 안 된다”면서 이낙연 더불어민주당 대표에 차별금지법 제정을 논의하자고 제안했다. 윤창수 기자 geo@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

“ 시민들 건강을 위해서 일하는 데 저의 정성이 조금이나마 힘이 됐으면 합니다.”. 주민 반발로 설치된 지 하루 만에 철수한 부산의 한 임시선별진료소가 또 다른 인근 주민들이 따뜻하게 반겨 훈훈한 미담이 되고 있다. 12일 부산 사하구 등에 따르면 사하구 다대동 롯데캐슬몰운대아파트 발전위원회는 전날 오후 다대동 임시선별진료소를 찾아 의료진에게 격려 편지와 물품 등을 전달했다. 사하구 임시선별진료소는 애초 지난 4일 다대동 통일아시아드공원 인근 다대항 배후부지에 설치됐으나 감염을 우려한 이곳 주민 반발로 하루 만에 쫓겨났다. 임시선별진료소 설치 장소를 찾아 나선 사하구는 지난 7일 다대 1동 옛 쓰레기 소각장 주차장에 새 임시선별진료소를 설치했다. 하지만, 이곳 주민들이 반발할까 노심초사했다. 새로 설치된 임시선별진료소 20~300미터 거리에 다대동 롯데 캐슬몰운대 아파트가 있기 때문이다. 그러나 이는 기우에 불과했다.오히려 주민들은 이들 의료진을 따뜻하게 맞았다. 임시선별검사소가 인근에 설치됐다는 내용을 한 주민이 지난 8일 아파트 커뮤니티에 글을 올렸다. 그는 갑작스레 불어 닥친 한파에 고생하는 의료진을 위해 작은 정성을 모아보자는 내용도 함께 담았다. 어린이들이 적은 손 편지도 담으면 좋겠다는 의견도 올라왔다. 이후 이 글은 많은 주민 공감을 얻었고 불과 3∼4시간 만에 230만원이 모였다. 아파트 주민들은 십시일반 모은 성금으로 손난로,,핫팩,수면양말 등 보온제품과 유자차 초코바,목캔디 등 간식거리 등을 샀다. 30여명의 어린이들은 손 편지를 직접 적어 현장에 전달했다. 아이들이 쓴 손 편지에는 “코로나19에 걸리지 않게 마스크를 잘 쓰고 손 소독도 잘해서 의사 선생님들의 부담을 덜어주겠다”.“의료진 선생님들 감사하고 사랑합니다.손난로로 언 손이라도 녹이세요”.“건강하게 잘사는것은 의료진 선생님들 때문이라는 내용이 담겨 따뜻한 감동을 전했다. 이 아파트 발전위원회 김지영 부회장은 “임시선별진료소 설치에 몇몇 우려를 나타내는 주민도 있었으나 혐오시설도 아니고 시민들을 위한 시설이라고 설득했다”며 “저희의 작은 정성이 추운 날씨에 고생하는 의료진들에게 조금이라도 힘이 됐으면 한다.”라고 환하게 웃었다. 김태석 사하구청장은 “주민들이 임시선별진료소 운영에 도움을 주니 너무 힘이 나고 감사하다”며 고마움을 나타냈다. 부산김정한 기자 jhkim@seoul.co.kr

뮤지컬 ‘마리 퀴리’가 제5회 한국뮤지컬어워즈 대상을 비롯한 5개 부문 수상의 영예를 안았다. 11일 서울 용산구 블루스퀘어 신한카드홀에서 열린 한국뮤지컬어워즈 시상식에서 ‘마리 퀴리’는 대상과 프로듀서상, 연출상, 극본상, 음악상(작곡)을 수상했다. ‘마리 퀴리’는 노벨상을 두 번 수상한 과학자 마리 퀴리의 삶을 다룬 작품으로 이민자이자 여성으로 겪은 소외를 딛고 새로운 발견을 해나가는 마리 퀴리의 노력과 애환을 다각도로 그렸다. 트라이아웃을 거쳐 지난해 2월 7일부터 3월 29일 충무아트센터 중극장 블랙에서 공연됐고 다시 규모를 넓혀 지난해 7월 30일부터 9월 27일까지 홍익대 대학로 아트센터 대극장에서 성황리에 공연을 마쳤다. 특히 홍익대 대학로 아트센터에서의 연장 공연에서는 라듐 발견이라는 위대한 업적 뒤에 라듐의 위해성을 알고 고뇌하는 마리 퀴리와 동료들의 죽음에 감춰진 진실을 파헤치려는 안느 코발스키의 서사가 대폭 강화돼 더욱 탄탄한 스토리 라인을 완성했다. 두 여성이 서로 지지하고 연대하는 모습이 마음을 울려 대표적인 웰메이드 여성 서사극으로도 꼽힌다. 라이브 주식회사 강병원 대표는 “함께했던 배우, 창작진을 비롯한 스태프들께 진심으로 감사드리고 어려운 시기에도 마스크를 쓰고 무대를 지켜주신 관객들 덕분에 한 해를 버틸 수 있었다””고 밝혔다. 이어 “앞으로도 작품성 있는 창작 뮤지컬을 선보일 수 있도록 최선을 다하겠다”고 밝혔다. 강 대표는 ‘마리 퀴리’와 ‘팬레터’, ‘광주’를 제작하고 국내 뿐 아니라 해외 진출을 이뤄내 이날 프로듀서상도 받았다. ‘마리 퀴리’로 연출상을 수상한 김태형 연출은 “마리 퀴리는 노벨상을 두 번이나 수상한 위대한 과학자이지만 여성이자 이주민이고 가난했다. 차별과 혐오, 편견을 온몸으로 뒤집어썼다”면서 “마리 퀴리는 그럼에도 헤쳐나갔다. 우리가 얻어야 할 건 두려움이 아니라 두려움을 이해하려는 노력이다. 두려움, 무지에서 차별과 혐오가 나온다. 이해하고 받아들이려고 애쓰고 나아간다면 이겨낼 수 있다고 생각한다”고 강조했다. 이날 남녀주연상은 ‘썸씽로튼’ 강필석과 ‘렌트’ 김수하에게 각각 돌아갔다. ‘마리 퀴리’와 함께 8개 부문에 최다 후보로 올랐던 ‘썸씽로튼’은 남자주연상과 남자조연상(서경수), 음악상(편곡·음악감독) 등 3개 부문에서 수상했다. 김수하는 신인상을 받은 지 1년 만에 주연상을 꿰차 더욱 박수를 받았다. 여자 조연상은 ‘차미’ 이봄소리가 받았다. 남녀신인상은 ‘스웨그에이지: 외쳐, 조선!’ 이준영, ‘어쩌면 해피엔딩’ 한재아가 각각 수상했다. 작품상 400석 이상은 ‘스웨그에이지: 외쳐, 조선!’, 작품상 400석 미만은 ‘리지’에 돌아갔다 허백윤 기자 baikyoon@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr