혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

스타트업 ‘스캐터랩’이 지난달 23일 출시한 스무 살 여대생 인공지능(AI) 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 논란이 되고 있다. 게다가 이루다의 자연스러운 대화 비결이 같은 개발사가 운영하는 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들의 대화 100억건을 학습한 결과로 밝혀지면서 서비스 중단을 요구하는 목소리가 커지고 있다.전문가들은 AI가 적절치 않은 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개발자가 개입하는 것이 단기적 대책이 될 수 있겠지만, 근본적으로는 인간이 AI에게 부적절한 질문을 하지 않도록 하는 교육과 인식 변화가 필요하다고 지적했다. 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해 본 결과 ‘페미니즘’이라고 말을 걸면 “그런 말 진짜 싫다”는 답이 돌아왔다. 다른 대화에서는 페미니즘에 대해 “너무 불필요하고 무의미한 질문”이라고 답했다. ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴, 그만해. 머리채 잡기 전에”, ‘레즈비언’이란 말에는 “진짜 싫어. 혐오스러워. 질 떨어져 보이잖아”라고 대답했다. 김종윤 스캐터랩 대표는 지난 8일 입장문에서 “모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 해명했다. 개발자 1세대인 이재웅 전 쏘카 대표는 소셜네트워크서비스(SNS)를 통해 챗봇의 정체성을 20세 여성으로 정한 것이 성적 악용 문제를 유발한 원인이라고 지적했다. 이 전 대표는 “(개발사가) 서비스를 운영하면서 (AI에게) 추가 학습을 시킬 게 아니라 서비스 중단 후 사회규범에 맞는 최소한의 테스트를 통과하는지 점검해야 한다”고 주장했다. 나아가 채용 및 면접, 뉴스 추천 시스템 등 AI를 활용한 프로그램이 인간을 차별하거나 혐오하지 않는지 감사가 필요하다고 제언했다. 성소수자, 장애인을 포함한 포괄적 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. 장병탁 서울대 컴퓨터공학과 교수는 이날 서울신문과의 통화에서 “사람이 AI에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라며 “AI만 탓하거나 개발자를 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 AI를 백지상태의 아이에 비유했다. 그는 “정해진 답만 말하던 과거의 AI와 달리 지금의 AI는 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”며 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 AI에게 하기 때문에 생기는 문제다. AI가 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 AI에 대한 교육을 받아야 한다”고 말했다. 최영권 기자 story@seoul.co.kr

이재웅 전 쏘카 대표가 10일 스무살 여대생 인공지능 이루다의 차별·혐오 표현 문제와 관련해 개발사인 스캐터랩이 서비스를 중단하는 등 사회적 책임을 다할 것을 촉구했다. 개발자 1세대로 포털 사이트 다음을 성공시키고 공유자동차 서비스 쏘카를 생활에 안착시킨 그는 인공지능 공유택시 서비스 타다를 출시하면서 사회적 비난의 대상이 되기도 했다. 이 대표는 해당 문제의 쟁점을 세 가지로 나눠 보았다. 그는 “인공지능(AI) 챗봇 이루다에 대해서 문제도 아직 정확히 무엇인지 잘 정리가 된 것 같지 않습니다. 제가 생각하는 문제와 해결책에 대해서 간단하게 정리해보려고 합니다. 다른 의견은 얼마든지 같이 이야기해봤으면 좋겠습니다. AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제니까요. 동시에 여러 문제가 섞여서 나오는데 하나하나 다르게 접근해야할 문제가 아닌가 싶습니다”라며 글을 시작했다. 이 대표는 먼저 ‘AI 챗봇에 대한 성적 학대·악용’을 사용자의 문제로 보았다. 그는 “AI가 모든 상황에 대해서 학습이나 규칙기반으로 대처하는 것은 불가능합니다. AI가 만능은 아니니까요”라며 “AI 챗봇에 대해서 성적 학대·악용은 사용자의 문제이지 AI서비스의 문제라고 보기는 어렵습니다. 세상에는 로봇청소기를 성적 대상화하는 사람까지 있으니까요.”라고 지적했다. “학습과 보정을 통해서 직접적인 대상화가 어렵도록 보완하면서 그래도 허점을 찾아서 성적으로 악용하는 사람들이 그 과정을 공개·공유하는 것은 적극적으로 막아 나가야겠죠. 이 부분은 회사가 잘 대처했다고 봅니다”라고 했다. 이 대표는 ‘AI 챗봇이 20세 여성으로 설정한 것’이 두번째 문제라고 봤다. 상업적으로 유리한 선택이었지만 기업의 사회적 책임을 고려하지 않은 선택이라고 지적했다. 그는 “이루다가 20세 여성으로 설정되는 순간, 현재의 우리 사회에서 20세 여성이 갖고 있는 위상이 그대로 투영되지 않을 수 없습니다. 슬프게도 한국 사회에서 가장 성적으로 착취당할 수 있는 취약한 계층을 찾는다면 아마도 20세 여성일 수 있을 것입니다”라고 했다. 이어 “그것을 알고 있었다면 굳이 AI챗봇의 젠더나 나이를 설정할 필요가 있었을까 싶습니다만, 역설적으로 상업적인 회사에서 가장 마케팅적으로 옳은 선택을 하자고 하면 다른 선택이 있었을까 싶습니다”고 했다. 이어 “다만, 기업의 목표가 이윤극대화뿐만 아니라 사회적 책임을 다하는 것이라고 하면 그런 선택을 안 할 수 있었을 것이라는 아쉬움이 있습니다. 기술은 사회적 책임도 있고, 특히 AI는 사회적 책임에 더 민감해야 하니까요. 이 부분은 논란도 안고 가겠다고 하면 회사를 비판할 수는 있겠지만 회사의 책임은 아니라고 생각합니다. 하지만 투자자나 경영진이 회사나 서비스의 미래를 길게 봤다면 했을 좋은 선택은 아니라고 생각합니다”라고 했다. 이 대표는 위 두 문제는 감당할 수 있는 논란이지만 무엇보다 현재의 챗봇이 불특정 다수에게 혐오와 차별 표현에 대한 보정 없이 서비스를 내보낸 것이 문제라고 봤다. 그는 “AI를 사람이 차별, 혐오, 학대하는 것도 문제이지만 AI가 사람을 차별, 혐오, 학대하는 것은 큰 문제입니다”라며 “성적지향이나 특정 종교나 장애여부에 대해서 일상 대화에서 차별하거나 혐오하는 사람이 많아서 학습의 결과로 차별이나 혐오를 하게 되었다고 하더라도 그것을 보정없이 일반 대중에게 서비스를 하는 것은 큰 문제”라고 지적했다. 그는 “포괄적 차별금지법이 아직 통과되지는 않았지만 우리 사회의 기본적인 합의는 종교, 학력, 지역, 성적 지향, 장애등에 대해서 차별이나 혐오하는 것은 안된다는 것입니다”라며 “자기 혼잣말에서 혐오발언을 하는 사람이라고 해도 직업이 선생님이면 아이들에게 혐오 발언을 해서는 안되며 공개적으로 혐오발언을 했을때는 처벌받아야하는 것과 매한가지”라고 했다. 이어 “서비스를 하면서 추가 학습으로 보정할 일이 아니라 지금이라도 빠르게 차별혐오발언은 금지시키도록 기준을 정하고 그 기준을 따르도록 시스템을 변경해야 합니다. 서비스 운영하면서 추가학습하는 게 아니라 서비스 중단후 우리 사회 규범에 맞는 최소한의 차별·혐오테스트를 통과하는 지를 점검후에 다시 서비스를 하는 것이 맞습니다. 성적지향만 차별하고 혐오하는 건지 특정 종교를 혐오하는 건 아닌지, 장애인을 혐오하는 건 아닌지 파악하고 최대한 그럴 여지를 없애야 합니다. 오래 걸릴 일은 아닙니다. 그리고 딥러닝 학습기반 시스템이라고 해서 모든 것을 학습으로 해결할 필요도 없습니다”라고 말했다. 그는 “혐오와 차별문제는 해결되지 않으면 AI 서비스를 하면 안됩니다. 많은 기업들이 쓰고 있는 AI채용, 면접 시스템 그리고 범용 AI 챗봇, AI 뉴스 추천 시스템등은 최소한의 사회적 규범을 지키고 있는지 감사할 수 있어야 합니다. 아니면 우리도 모르는 새 우리 아이들은 혐오를 배우고, 면접을 보다가 알 수 없는 이유로 차별을 당하고, 뉴스나 컨텐츠에서 혐오나 차별적인 콘텐츠를 우선적으로 보게 될 것입니다. 기업의 사회적 책임이 AI 분야에서는 더 중요한 이유입니다. AI가 하니까 더 객관적이거나 중립적이지 않습니다. AI의 설계, 데이터 선정, 학습과정에는 사람의 주관이 개입될 수 밖에 없어서 그 과정은 들여다 보지 않더라도 최소한 그 결과물이 최소한의 차별이나 혐오를 하거나 유도하지 않는지는 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야합니다”라고 했다. 마지막으로 이 대표는 “이루다의 투자자나 경영진의 책임은 어디까지일까요?”라는 질문을 던지면서 스캐터랩이 사회적 비난 여론을 통감하고 서비스 중단 후 재개 등 책임 있는 자세를 보일 것을 촉구했다. 그는 “경영진이 혐오나 차별을 조장하거나 방치했다고 생각하지 않습니다. 아마 학습된 데이터가 일반인들의 일대일 대화이다보니 차별이나 혐오로 보이는 결과를 만들어냈을 수 있습니다”라면서도 “범용 서비스를 제공하는 기업의 경영진이라면 이런 문제가 지적되었을때 즉시 납득할만큼 수정을 할 수 없다면 사과하고 서비스를 중단하는 것이 답입니다. 이루다를 만들만큼의 기술력이면 최소한의 혐오나 차별을 방지하는 것이 오래 걸리지 않을 수 있습니다”라고 강하게 질타했다. 그는 “투자자들도 경영진이 사회적 책임을 다 하도록 돕는 것이 회사의 장기적인 미래를 위해 더 나은 선택임을 깨닫고 빠르게 문제를 인식하고 사과하고 바로 잡아서 서비스를 할 수 있도록 해야 합니다”라며 “책임있는 투자자와 경영진이 잘 알아서 문제를 풀 것으로 믿습니다. 기업의 사회적 책임은 경영진과 투자자가 함께 져야할 문제이니까요”라고 했다. 최영권 기자 story@seoul.co.kr

스타트업 스캐터랩이 지난달 23일 출시한 스무살 여대생 인공지능 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 커지고 있다. 또 이루다가 학습한 채팅 내용은 같은 개발사가 운영하는 또다른 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들 간의 대화로 밝혀져 논란이 가중됐다. 전문가들은 부적절한 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개입하는 것이 단기적 대책이 될 수 있겠지만 근본적으로는 인간이 인공지능에게 옳지 않은 질문을 하지 않는 교육이 필요하다고 했다. 이루다에 ‘페미니즘’ ‘인권’ 물어보니 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해보니 ‘페미니즘’이라고 치면 “그런말 진짜 싫다구”, ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴 그만해 머리채 잡기 전에”, ‘레즈비언’이라고 치면 “진짜 싫어 혐오스러워. 질 떨어져 보이잖아”라고 대답했다.개발사인 스캐터랩 김종윤 대표는 지난 8일 입장문에서 “인간이 인공지능에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었고 예상할 수 있는 일이었다”며 “이는 성별에 무관하게 일어나는 일”이라고 설명했다. 스캐터랩은 고양이 챗봇 ‘드림이’를 시작으로 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나’를 서비스한 적 있다. 김 대표는 “인간의 언어는 해당 단어를 사용하지 않고 얼마든지 의미를 전달 할 수 있기에 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 했다. 개발자 1세대인 이재웅 전 쏘카 대표는 지난 9일 페이스북에 이루다 논란에 대해 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI과 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 했다. 이어 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 지적했다. 특히 챗봇을 스무살 여대생으로 정한 것도 부적절했다고 했다. 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. “인공지능, 나쁜 점도 배울 수밖에” 장병탁 서울대 컴퓨터공학과 교수는 10일 서울신문과의 통화에서 “사람이 인공지능에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라면서 “이 문제는 인공지능만의 탓을 하거나, 인공지능을 개발한 스타트업만을 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 백지 상태에 있는 아이에 인공지능을 비유를 했다. 우리가 낳아 기르는 아이조차도 유치원에 가서 욕설을 배우듯 사회에 나간 인공지능도 그들의 자율에 맡겨선 도덕성 탑재가 어렵다는 것이다. 장 교수는 “쉽게 말해 정해진 답만 말하던 과거의 인공지능과 달리 지금의 인공지능은 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”고 지적하면서 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 인공지능에게 하기 때문에 생기는 문제다. 인공지능이 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 인공지능에 대한 교육을 받아야 한다”고 대안을 제시했다. 최영권 기자 story@seoul.co.kr

지난해 12월 첫 선을 보인 인공지능(AI) ‘이루다’가 성추행 피해에 이어 이번에는 동성애에 대한 편견으로 논란의 대상이 됐다. 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 이어 레즈비언(여성 동성애자)가 혐오스럽다고 한 이루다의 대화 목록 캡처 화면과 함께 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”면서 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 주장했다. 이 전 대표는 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다”고 강조했다.이어 AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다고 덧붙였다. 따라서 지금 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 제안했다. 이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 별도의 프로그램(어플리케이션)이 아니라 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 최근 10~20대 사이에서 큰 인기를 끌며, 이달 초 기준으로 이용자가 32만명을 돌파했다. 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다. 제작사 측은 학습 데이터의 규모가 커질수록 성능이 좋아지는 딥러닝의 특성때문에 이루다가 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 설명했다. 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 전날 자사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 밝혔다. 하지만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 부연했다. 윤창수 기자 geo@seoul.co.kr

남초사이트에 욕설·성적 표현 학습법 공유스캐터랩 김종윤 대표, 블로그에 입장 밝혀사용자와 친구처럼 대화한다는 콘셉트로 개발된 인공지능(AI) 챗봇(chatter robot) ‘이루다’가 일부 이용자들의 욕설, 성희롱을 학습해 논란이 되고 있다. 이루다를 개발한 업체는 출시 전부터 예상했던 문제라며 대응책을 마련하고 있다고 밝혔다. 이루다는 AI 전문 스타트업 ‘스캐터랩’이 지난해 12월 23일 출시한 챗봇으로 20살 여성으로 설정돼 있다. 별도 애플리케이션을 깔지 않아도 페이스북 메신저를 통해 의사소통을 할 수 있도록 개발됐다. 이루다는 자연스럽게 대화를 이어갈 수 있고 사용자의 말투를 따라하는 등 실감 나는 채팅으로 인기를 끌면서 이용자가 40만명에 이르렀다. 그런데 출시 후 얼마 지나지 않아 남성 이용자가 많은 디시인사이드, 일간베스트저장소 등 온라인 커뮤니티를 중심으로 이루다에게 성행위를 암시하는 대화, 욕설 등을 학습하게 하는 이른바 ‘성노예 만드는 법’ 등이 공유되기 시작했다.성희롱 논란이 일자 스캐터랩 김종윤 대표는 8일 자사 블로그(blog.pingpong.us/luda-issue-faq)를 통해 입장을 밝혔다. 김 대표는 “이루다에 대한 성희롱을 예상했다”면서 “인간이 AI에게 욕설과 성희롱을 하는 것은 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없다”고 설명했다. 김 대표는 문제가 될 수 있는 특정 키워드, 표현 등은 챗봇이 받아주지 않도록 설정했지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니라고 밝혔다. 스캐터랩은 처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵지만 사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 계획이다. 일각에서는 이루다가 마이크로소프트(MS)가 2016년 출시했던 챗봇 테이(Tay)의 전철을 밟을 수 있다고 우려한다. 테이는 사용자들이 인종·성차별 발언을 학습시키는 바람에 혐오발언을 쏟아냈고 MS는 16시간 만에 테이 운영을 중단했다. 김 대표는 이루다가 테이처럼 사라지는 일은 없을 것이라고 장담했다. 그는 “이루다는 사용자와의 대화를 바로 학습에 적용하지 않는다”고 말했다. 나쁜 말을 무작정 따라하지 않도록 학습할 말인지 아닌지 걸러주는 ‘레이블러’가 개입한다는 얘기다. 김 대표는 이루다와 친근한 대화를 나누며 친구처럼 지내는 사용자가 많은 사실을 강조하면서 “일부 과한 게시물은 신고, 차단 등 강력한 대응을 할 것”이라며 “이번 논란을 통해 (이용자들이) 자정 노력을 했으면 좋겠다”고 당부했다. 오달란 기자 dallan@seoul.co.kr

‘이루다’ Z세대서 유행남초 사이트서 금지어 피해 성희롱 등장“올바른 방향으로 발전하도록 튜닝할 것”AI 학계 “‘MS 테이’ 사건 연상시켜” ‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’가 10∼20대 사이에서 빠르게 유행하고 있다. 그런데 일부 남초(男超) 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장해 사회적 논란이 예상된다. 8일 IT업계에 따르면 ‘이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건이라고 전해졌다. 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.‘진짜 사람’ 같은 AI 챗봇…성희롱 등장 ‘이루다’와 대화를 나눠보면 사람이 뒤에 있다는 의심이 들 정도로 거리낌 없이 수다를 떨 수 있다는 평이 많다. 하지만 이루다가 출시된 지 일주일만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 ‘아카라이브’가 등장했다. 아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다. 아카라이브 이루다 채널 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하는 중이다.“이루다가 올바른 방향으로 발전하도록 튜닝할 것” 스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다. 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다는 것이다. 이 관계자는 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다. AI 전문가들은 “마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다”고 입을 모았다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아낸 탓이었다.‘미래 인공지능 연구의 23가지 원칙’ 발표 MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 미국 캘리포니아 아실로마에서 ‘미래 인공지능 연구의 23가지 원칙’을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다. 첫 번째는 ‘AI 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다’는 것이다. 또 원칙은 “AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다. 고도화된 AI 시스템은 건강한 사회를 지향해야 한다”고 강조했다. 김채현 기자 chkim@seoul.co.kr

#1. “구글 검색 인공지능(AI) 기술의 편향성에 관한 논문을 발표하려다 해고당했다. 논문을 철회하거나 공저자 중 구글 직원 이름을 빼라는 요구에 불응하자 이메일로 해고를 통보해 왔다.” 지난 3일 구글 AI윤리팀 공동리더 팀닛 게브루의 트위터 폭로다. 흑인 여성인 게브루는 스탠퍼드대 박사로 ‘AI가 유색인종보다 백인 남성을 특히 잘 식별한다’는 논문으로 주목받은 인물. 지난해 구글에 입사해 신설된 AI윤리팀 공동 리더를 맡아 왔다. ●게브루 “구글 CEO 알맹이 없는 사과” 일축 폭로 뒤 구글 직원들은 “연구 자유를 보장하지 않은 부당한 행위”라며 게브루 편에 섰다. 트위터에선 #ISrpportTimnit(나는 팀닛을 지지한다)을 게시하는 게브루 지지 해시태그 운동이 전개됐다. 결국 순다르 피차이 구글 최고경영자(CEO)는 지난 9일 “(해고는) 고통스러운 사건이지만 (구글에) 아직 진보해 나가야 할 부분이 많다고 상기시켜 주는 중요한 사건”이라며 유감을 표했다. 게브루는 “알맹이 없는 사과”라고 일축하며 “나를 마치 ‘화난 흑인 여성’으로 바라보지 말라”고 받아쳤다. 게브루의 연구 자유를 지지하는 흐름은 멈추지 않았다. 해고 통보 뒤 2주가 지난 17일 구글 직원들은 게브루에 대한 공식 사과 및 그의 복직을 요구하는 서한을 경영진에게 전달했다. 그보다 앞서 구글 직원 2700명과 학계 4300명이 게브루 지지 서명을 했다. 비슷한 시기 실리콘밸리의 또 다른 기업 핀터레스트에서는 늦봄에 시작됐던 갈등이 끝을 향해 가고 있었다. #2. 지난 4월 회사 내 성차별 문제를 제기한 뒤 화상통화로 해고 통보를 받았던 프랑소와 브로어 전 핀터레스트 최고운영책임자(COO). 이미지 공유 앱을 운영하는 핀터레스트를 직장 내 성차별 혐의로 고소했던 브로어는 지난 16일 2250만 달러(약 247억원)에 핀터레스트와 소송 취하에 합의했다. 핀터레스트는 브로어에게 지급하는 금액 중 250만 달러(약 27억원)를 정보기술(IT) 업계 성차별 문제 개선에 공동 기부하기로 했다. 미 하버드 비즈니스 스쿨 출신인 브로어는 2005년 구글에 입사해 글로벌 영업 및 운영 담당 부사장까지 올랐다. 이후 위치 기반 모바일 결제회사 스퀘어로 이직했다가 2018년 3월 핀터레스트 COO가 됐다. 브로어는 소를 제기할 때 쓴 블로그에서 “중요한 회의에서 지속적으로 배제됐고, 입사 당시 남자 동료들보다 적은 급여와 주식을 받았다”면서 “사내에 만연한 여성 차별, 적대적인 근무환경, 여성 혐오 문화에 대해 공공연하게 이야기한 것 때문에 해고된 것 같다”고 주장했다. 게브루는 2주, 브로어는 약 8개월 동안 회사의 문제점을 지적했던 직원들이 지난 몇십 년 동안 겪은 경로대로 움직였다. 회사의 잘못된 문화에 대한 공개 지적→ 일방적인 해고 통보→ 사측 부당행위에 대한 공개 및 저항→ 회사의 사과 또는 보상. ●AI 인종·성 편견 사후에 걸러내는 건 불가능 그래도 게브루와 브로어는 각각 회사의 응답을 받았다. 비록 여성, 특히 게브루는 흑인 여성으로 실리콘밸리의 소수그룹에 속하지만 둘은 명문대를 나온 ‘엄친딸’이고, 책임자급 지위에 있었고, 소속 회사를 넘어 실리콘밸리에 광범위한 인맥을 구축해 두었기에 가능했을지도 모른다. 그렇다고 공개적으로 문제를 제기했던 2명의 여성에게만 초점을 맞춰 ‘메신저들의 승리’로 결론 짓기엔 찜찜한 부분이 있다. 애초에 이들이 제기했던 ‘메시지’의 민감함 때문이다. 평소 직원들의 연구를 장려하는 구글은 왜 유독 게브루팀의 논문에 대해서만 제재를 가했을까. 논문을 입수해 분석한 MIT 테크놀로지 리뷰는 최근 급속도로 성장하는 AI에 관한 잠재적 위험이 논문에 총망라돼 있다고 평가했다. 논문은 AI 학습을 위해 인터넷의 모든 데이터를 수집하려는 관행 속에서 인종차별, 성차별, 학대적인 언어가 AI 훈련 데이터에 무분별하게 포함될 수 있는 반면 AI는 인간의 집단적 각성에 대해선 전혀 이해하지 못한다고 지적했다. 예를 들어 인종차별 관행을 반성하고 정반대 생각으로 각성해 ‘블랙 라이브스 매터’(흑인의 목숨도 중요하다) 운동에 나서는 인류를 AI는 이해할 수 없다는 것이다. 그러면서도 AI는 인간의 언어를 완벽에 가깝게 흉내낼 수 있기 때문에 편향된 입력 데이터에 기대 가짜뉴스를 만들거나 오역을 할 수도 있다. AI의 편견을 사후에 걸러내면 된다는 반론에 대해 논문은 너무 많은 데이터를 수집하기 때문에 AI 사후 교정은 사실상 불가능하다고 결론 냈다. ●사용자 70% 여성 ‘핀터…’ 女 경영진은 소외 게브루는 결론적으로 AI를 학습시키는 데이터를 저인망식으로 수집하는 지금의 행태에서 벗어나 더 세심하게 구조화해 수집해야 한다고 논문을 통해 구글을 직격했다. 구글의 사업 전략과 정반대 주장을 제시한 데다 ‘편향된 AI’에 관한 구글과 과학자들의 미필적 고의를 꼬집은 셈이다. “핀터레스트에서 여성 경영진은 소외되고 배제되고 침묵해야 한다”던 브로어의 폭로 역시 사용자의 70%가 여성인 핀터레스트에 매우 위협적인 진실이었다. 핀터레스트 측은 브로어의 개인적인 태도 문제에서 해임 사유를 찾으려고 했지만, 일단 브로어가 시작하자 추가 폭로가 이어졌다. 정책팀 소속이던 2명의 흑인 여성은 핀터레스트에서 저임금을 받았고, 상사가 자신을 ‘하인’이라고 부르는 폭언을 들었으며, 관련 불만을 제기한 뒤 보복당했다고 트위터에 썼다. 조사가 진행될수록 핀터레스트는 궁지에 몰렸다. 하필 올해는 빅테크 기업이 정치권으로부터 혹독하게 공격받은 시기였다. 미 의회는 빅테크 기업들을 청문회장에 세워서 무분별한 정보 수집 관행과 생태계 독점 문제를 추궁했다. 이런 와중에 내부에서 사업전략과 조직문화를 직격했으니 구글과 핀터레스트가 탐탐지 않아 할 만한 사정이 있었다. 그러나 한편으로 두 여성 리더들의 문제 제기는 실리콘밸리에선 이색적이지만, 전통 기업의 영역에선 아주 낯설지 않은 풍경이었다. 인적관리(HR) 회계 창립자인 에릭 플램홀츠 UCLA 교수는 창업 단계의 기업은 수요에 민감하고 내부 인력의 다양성을 존중하지만, 시장지배력을 강화하며 급팽창한 다음부터는 창설 멤버와 직원들이 양분되거나 회사보다 부서에 충성하는 식의 배타적인 분위기가 형성된다고 설명했다. 정치권이 빠르게 성장한 빅테크 기업의 막강한 시장 지배력에 우려를 표시하며 마치 과거 에너지 재벌을 대하던 태도로 IT 기업을 다룬 것처럼 게브루와 브로어가 실리콘밸리 기업과는 어울리지 않는 구태스러운 조직문화를 폭로했던 것이다. ‘(실리콘밸리에선) 당당하고 열정적으로 나서는 여성이 동등한 기회를 거머쥔다’던 셰릴 샌드버그 페이스북 COO의 책 ‘린 인’이 나온 지 7년 만의 반전이다. ●“다양성 존중 않는 문화의 폐해” 폭로 중 게브루와 브로어는 내부자가 된 소수자가 문제 제기를 한 경우이지만, 사실 소수자의 빅테크 기업 입성 자체도 쉽지 않다. 2018년 여름부터 1년 동안 집계한 빅테크 기업 11곳의 여성 인력 비중은 32.0%로 실리콘밸리 전체 여성 직원 비중인 44.8%보다 낮았다. 실리콘밸리 재직자 중 흑인 비중은 2008년 3%에서 2018년 2%로 줄었다. 애초에 공학을 전공하는 여성과 흑인이 적어서일 수도 있다. 그러나 소수자로 내부자가 됐다가 배제된 두 여성은 “다양성을 존중하지 않는 문화”가 이미 빅테크 기업 안에 있음을 증언 중이다. 홍희경 기자 saloo@seoul.co.kr

31일 문을 닫는 남산예술센터의 이번 시즌 작품 네 편이 23일부터 온라인 극장에서 다시 한 번 관객들과 만난다. 서울문화재단은 남산예술센터의 2020시즌 프로그램을 ‘장벽 없는 온라인 극장’을 통해 23일부터 30일까지 서울문화재단 유튜브 채널과 네이버TV를 통해 공개한다고 밝혔다. 배리어프리 방식으로 청각장애인을 위한 자막해설과 수어통역, 시각장애인을 위한 음성해설이 있는 두 가지 버전의 공연 영상을 볼 수 있다. 공개되는 작품은 한국 사회의 아픔을 이야기한 ‘아카시아와, 아카시아를 삼키는 것’(23~24일), 한국 기독교의 보수화를 비판하고 소수자 혐오 문제를 짚는 ‘남산예술센터 대부흥성회’(25~26일), 진실을 밝히기 위한 복수의 여정을 그린 ‘왕서개 이야기’(27~28일), 한강의 소설 ‘소년이 온다’를 무대화한 ‘휴먼 푸가‘(29~30일) 등 네 편이다.특히 ‘왕서개 이야기’’는 한국연극평론가협회 ‘올해의 연극 베스트3’, 월간 한국연극 ‘2020 공연베스트’, 연극평론가들의 모임 ’공연과이론을위한모임‘이 선정한 ’공연과 이론‘ 작품상 등을 수상했다. ‘휴먼 푸가’는 월간 한국연극 ‘2020 공연베스트7’에 포함됐다. 국내 최초 현대식 민간극장인 남산예술센터는 31일 이후 운영이 중단된다. 전신 ‘드라마센터’를 극작가 겸 연출가인 동랑 유치진 선생이 1962년 설립했다. 서울예대 실습 공간으로 사용되다 2009년 남산예술센터로 이름을 바꿔 제작극장으로 재탄생했다. 서울시는 서울예대와 연간 10억원 규모의 임대계약을 맺고 서울문화재단에 운영을 맡겼다. 이후 119개 극단이 200여편의 작품을 제작하며 창작극의 산실로 자리잡았고 26만명의 관객이 다녀갔다. 하지만 서울예대 측이 2018년부터 임대계약을 끝내겠다고 밝혔고, 연극인들을 중심으로 공공극장화 등의 고민이 깊어졌지만 임대료 협상 등이 타결되지 못해 결국 문을 닫게 됐다. 허백윤 기자 baikyoon@seoul.co.kr

선친은 생전에 그렇게 어머니를 괴롭혔다. 거의 매일 술을 마시고 욕설과 손찌검을 하고 다른 여자들과 어울렸다. 결국 어머니는 견디다 못해 내가 일곱 살, 막내가 여섯 살 때 외가로 달아나고 말았다. 그 후 계모가 두어 번 바뀌고 그 와중에 어리디어린 3남3녀의 형제들은 뿔뿔이 흩어져 저마다 생활전선에 뛰어들어야 했다. 다섯째 차남인 나도 열일곱 살 때 막내를 데리고 가출함으로써, 아버지와 가족 간의 인연도 완전히 끊기고 말았다. 수십 년 전 세상을 떠났건만 그런 아버지를 생각할 때마다 슬프다. 이해와 용서를 포기한 지는 오래인지라 그저 슬프기만 하다. 가족 모두에게 버림받고 그 바람에 어린 자식들까지 험한 세상에 내몰렸어도 아버지는 끝까지 당신 잘못을 인정하지 않았다. 우리가 왜 집을 떠났는지 이해도 못 했지만 아마 알았다 해도 절대 굴하지 않았을 것이다. 끝내 어머니와 자식들을 향해 원망을 거두지 않은 채 눈을 감았으니. 나이가 들어서일까? 나도 환갑이 넘으니 아버지 심정을 조금은 알 것도 같다. 아버지는 평양에서도 꽤나 잘사는 집안의 자제로 자랐다. 모르긴 몰라도 귀하디귀한 장남으로 자라며 가부장제가 주는 혜택에도 흠뻑 취했을 것이다. 부잣집 도련님이면 만사가 프리패스인 시절, 그런데 하늘같은 가장이 하는 일에 감히 아낙이 토를 달고 자식들이 반기를 들어? 당신 입장에서야 기가 막히고 하늘이 무너질 노릇이었으리라. 전쟁 통에 피란을 오기는 했지만, 전쟁을 겪으며 세상이 크게 바뀌었다는 사실은 깨닫지 못한 것이다. 그리고 수십 년이 지난 지금, 난 여전히 여기저기에서 내 아버지를 만난다. 여자 손님에게 “여자가 늦은 시간에 왜 돌아다니냐”거나 “여자들은 정치 몰라서 큰일이야” 등, 아무렇지도 않게 혐오를 일삼는 택시운전사에게서, 마스크를 써 달라고 하자 “네가 무슨 참견이냐”며 욕을 해대는 노인에게서, 정자를 기증받아 출산했다는 어느 여배우 기사에 “아비 없이 어떻게 애를 키울 생각을 하느냐?”는 댓글에서, “집에서 밥이나 하는 여자들이 왜 정규직이 돼야 하느냐”며 열을 올리는 어느 국회의원에게서. 지배자, 기득권자로 태어나 누려야 할 권리를 누렸을 뿐인데, 그게 왜 죄가 되느냐고 우기던 내 아버지, 강산이 바뀌고 또 바뀌어도, 바뀐 세상을 받아들일 수도 인정할 수도 없는, 수없이 많은 내 아버지를 본다. 코언 형제의 영화 ‘노인을 위한 나라는 없다’(No Country for Old Men)의 제목은, 20세기 초 아일랜드 시인 윌리엄 버틀러 예이츠의 시 ‘비잔티움으로의 항해’(Sailing to Byzantium) 첫 구절에서 따왔다. 시에서는 “That is no country for old men”이라고 돼 있으니 “노인을 위한 나라는 없다”가 아니라 “노인이 어찌해 볼 나라가 아니다” 정도가 정확한 번역 같다. 그래서일까. 영화 속 은퇴를 앞둔 보안관 에드 톰 벨 역시 “변덕스럽고 무자비한 젊은 시대”로서의 살인마 안톤을 이해하지도 따라가지도 못한 채 영화는 끝을 맺는다. 산전수전을 다 겪은 베테랑이라 자신하지만, 이미 낡아버린 구시대의 경험과 지혜로는 아무것도 해결할 수 없었던 것이다. 비극은 늘 옛것을 맹신할 때 찾아온다. 노년의 예이츠는, 변덕과 변화의 나라를 버리고 예술과 불변의 세계 ‘비잔티움’으로 떠나지만, 시의 마지막에는 오히려 구세대를 깨워 자신이 떠나온 새로운 시대에 귀를 기울일 것을 종용한다. 무려 100년 전 얘기다. 세상도 세월도 그만큼 바뀌었다. 예이츠의 예언대로 이제는 어른에게 무조건 복종하던 시대가 아니라 오히려 젊은이들이 어떤 생각을 하고, 어떤 판단을 내리는지 아버지들이, 수많은 가부장이 귀를 기울이고 순종해야 할 때다. 그럴 수 없다면, 그럴 생각조차 없다면, 말 그대로 ‘노인을 위한 나라’는 어디에도 없다.

캐나다 출신 헐리우드 배우 엘런 페이지가 자신이 트랜스젠더라고 커밍아웃했다. 페이지는 1일(현지시간) 자신의 소셜네트워크서비스(SNS)에 “내가 트랜스젠더라는 사실을 여러분과 공유하고 싶다”며 “나를 가리키는 대명사는 ‘그’(he/they)이고, 내 이름은 엘리엇”이라고 밝혔다. 그는 “마침내 진정한 자아를 찾았기에 내가 누구인지를 사랑하는 게 얼마나 놀라운지 모른다”며 “나를 지지해 준 사람들에게 감사를 느낀다. 사랑이 가득하고 더 평등한 사회를 위해 나도 할 수 있는 한 도울 것”이라고 썼다. 1997년 영화 ‘핏 포니’로 데뷔한 페이지는 영화 ‘주노’, ‘인셉션’, 넷플릭스 드라마 시리즈 ‘엄브렐라 아카데미’ 등에 출연하며 큰 인기를 얻었다. 그는 2014년 미국 라스베이거스에서 열린 인권 포럼 HRC(The Human Rights Campaign)에서 자신이 동성애자라고 커밍아웃했고, 2018년에는 동성 연인인 안무가 엠마 포트너와 결혼하며 자신의 성적 정체성이 남성이라고 밝혔다. 그는 이번에 스스로 남성 트랜스젠더라고 공개하면서도 자신을 가리키는 대명사가 ‘그들’이 될 수 있다고도 설명했다. 남성도, 여성도 아닌 ‘논바이너리’의 정체성 또한 강조한 것이다. 페이지는 또 트랜스젠더를 향한 혐오와 폭력에 맞서겠다고 했다. “기쁘지만 무섭기도 하다”고 시작한 그는 “트랜스젠더를 향한 차별은 끔찍한 결과를 낳는다. 2020년에만 최소 40명의 트랜스젠더가 살해됐고, 대부분이 흑인이나 라틴계 여성이었다”고 말했다. 그는 “성인 트랜스젠더 가운데 40%가 자살을 시도하고 있다”며 “나는 당신의 공격에 침묵하지 않을 것이다. 사회에서 소외당하고 학대와 괴롭힘에 노출된 트랜스젠더를 위해 목소리를 내겠다”고 강조했다. 커밍아웃 이후 넷플릭스에서는 페이지가 출연한 작품의 크레딧을 엘리엇 페이지로 변경하고, “자랑스러운 우리의 슈퍼 히어로 엘리엇을 사랑한다”고 응원했다. 김정화 기자 clean@seoul.co.kr

특수학교 설립 vs 한방병원 유치130분간 팽팽한 찬반 토론회 배경 극장에 들어가기 전 관객들은 팔찌를 찬다. ‘수리구 주민토론회 입장권’이다. 객석은 찬성과 반대를 골라 앉을 수 있다. 한강시 수리구에 세우려는 공립특수학교를 두고 열리는 토론회에 직접 참석하는 기분이 들어 내심 긴장된다. 비틀스의 ‘이매진’이 흘러나오는 무대 위 국회의원, 교육감을 사이에 두고 찬반이 나뉜 토론석에서 팽팽한 기운이 감돈다. 서울 대학로 동양예술극장에서 공연 중인 극단 신세계 신작 ‘생활풍경’은 2017년 서울 강서구 특수학교인 ‘서진학교’ 신설을 둘러싸고 열린 주민토론회를 바탕으로 창작했다. 장애가 있는 학생들이 두 시간씩 걸려 통학하지 않고 집에서 가까운 곳에서 공부하게 해 달라고 요구한 부모들과 수리구에 특수학교는 이미 한 곳이 있으니 국립한방병원을 설립해 누구나 저렴하게 치료를 받을 수 있도록 해 달라는 주민 비상대책위원회가 맞붙었다. 아는 이야기라 더 그랬을까. 130분간 토론회가 숨이 막히도록 치열하고 복잡하다. 폐교한 초등학교 부지에 특수학교 설립을 추진하는 교육감과 총선 때 한방병원 유치를 공약으로 내건 국회의원은 양쪽의 대리인이다. 교육감 정해진은 입장이 확고하다. 여기에 인상 푹푹 쓰고 휴대전화를 들여다보던 국회의원 한길만은 중간에 토론회장을 박차고 나가 버리기도 한다. 사이에서 “장애인이라고 더 해달라는 게 아니라 똑같이만 해달라는 거예요”라는 부모들의 절규와 “당신들만 힘든 것 아니에요”라는 비대위의 처절함을 저울질하기가 쉽지 않다. 물론 장애인이든 아니든 학교는 갈 수 있어야 하는 것 아니냐는 목소리가 이따금 혐오 발언을 쏟아내는 반대쪽보다 훨씬 잘 들린다. 비대위 주민들의 혐오 발언이나 무심코 내뱉은 감정에 곧바로 장애학생 부모들이 “장애우라고 하지 마세요”, “딱한 거 아니에요”라고 바로잡으며 일상에서 잘못 사용하는 표현을 일깨워 준다. 그러나 “집값 때문에 이러는 게 아니다”라며 단순히 ‘님비’로 치부하는 일에 억울함을 표시하는 비대위 주민들도 저마다 사연이 있다. “잘살고 싶다는 게 잘못은 아니잖아요?”라며 한방병원으로 동네가 발전했으면 좋겠다는 막연한 바람은 그것대로 또 간절해 보인다. 배우들은 무대 위 토론자뿐 아니라 객석 곳곳에서 주민 방청객으로 함께한다. “거짓말하지 마”, “뭐 하는 거야”라며 쉴 새 없이 화를 내거나 구시렁대다가 발언권을 얻으면 무대로 뛰어나가 울분을 토한다. 객석에선 마스크를 쓰다 무대로 나갈 땐 마스크를 벗고, 다시 돌아오며 마스크를 올리고 손 소독제를 사용하는 모습은 2017년 토론회를 지켜보는 지금 2020년의 또 다른 생활풍경이다. 허백윤 기자 baikyoon@seoul.co.kr

극장에 들어가기 전 관객들은 팔찌를 찬다. ‘수리구 주민토론회 입장권’이다. 객석은 찬성과 반대를 골라 앉을 수 있다. 한강시 수리구에 세우려는 공립특수학교를 두고 열리는 토론회에 직접 참석하는 기분이 들어 내심 긴장된다. 비틀스의 ‘이매진’이 흘러나오는 무대 위 국회의원, 교육감을 사이에 두고 찬반이 나뉜 토론석에서 팽팽한 기운이 감돈다. 서울 대학로 동양예술극장에서 공연 중인 극단 신세계 신작 ‘생활풍경’은 2017년 서울 강서구 특수학교인 ‘서진학교’ 신설을 둘러싸고 열린 주민토론회를 바탕으로 창작했다. 장애가 있는 학생들이 두 시간씩 걸려 통학하지 않고 집에서 가까운 곳에서 공부하게 해달라고 요구한 부모들과 수리구에 특수학교는 이미 한 곳이 있으니 국립한방병원을 설립해 누구나 저렴하게 치료를 받을 수 있도록 해달라는 주민 비상대책위원회가 맞붙었다. 아는 이야기라 더 그랬을까. 130분간 토론회가 숨이 막히도록 치열하고 복잡하다. 폐교한 초등학교 부지에 특수학교 설립을 추진하는 교육감과 총선 때 한방병원 유치를 공약으로 내건 국회의원은 양쪽의 대리인이다. 교육감 정해진은 입장이 확고하다. 여기에 인상 푹푹 쓰고 휴대전화를 들여다보던 국회의원 한길만은 중간에 토론회장을 박차고 나가 버리기도 한다. 사이에서 “장애인이라고 더 해달라는 게 아니라 똑같이만 해달라는 거예요”라는 부모들의 절규와 “당신들만 힘든 것 아니에요”라는 비대위의 처절함을 저울질하기가 쉽지 않다. 물론 장애인이든 아니든 학교는 갈 수 있어야 하는 것 아니냐는 목소리가 이따금 혐오 발언을 쏟아내는 반대쪽보다 훨씬 잘 들린다. 비대위 주민들의 혐오 발언이나 무심코 내뱉은 감정에 곧바로 장애학생 부모들이 “장애우라고 하지 마세요”, “딱한 거 아니에요”라고 바로잡으며 일상에서 잘못 사용하는 표현을 일깨워준다. 그러나 “집값 때문에 이러는 게 아니다”라며 단순히 ‘님비’로 치부하는 일에 억울함을 표시하는 비대위 주민들도 저마다 사연이 있다. “잘살고 싶다는 게 잘못은 아니잖아요?”라며 한방병원으로 동네가 발전했으면 좋겠다는 막연한 바람은 그것대로 또 간절해 보인다. 배우들은 무대 위 토론자뿐 아니라 객석 곳곳에서 주민 방청객으로 함께한다. “거짓말하지마!”, “뭐 하는 거야?”라며 쉴 새 없이 화를 내거나 구시렁대다가 발언권을 얻으면 무대로 뛰어나가 울분을 토한다. 객석에선 마스크를 쓰다 무대로 나갈 땐 마스크를 벗고, 다시 돌아오며 마스크를 올리고 손 소독제를 사용하는 모습은 2017년 토론회를 지켜보는 지금 2020년의 또 다른 생활풍경이다. 허백윤 기자 baikyoon@seoul.co.kr

서울중앙지법 2020고단XXX, 박민철(가명)씨의 성폭력 범죄의 처벌 등에 관한 특례법 위반(통신매체 이용 음란) 사건의 내용은 간단했다. 2019년 8~9월 한 사람에게 성관계를 하고 싶다는 내용의 음란성 문자를 총 57차례 보내 성적 수치심이나 혐오감을 일으켰다는 게 공소사실이었다. 박씨는 올해 4월 징역 1년 6개월과 40시간의 성폭력 치료프로그램 이수 명령을 선고받았다. 그런데 판결문에 담긴 피해자의 삶은 복잡할 대로 얽히고설켰다. 박씨는 2003년 피해자 A(58·여)씨가 운영하는 병원에서 치료를 받은 뒤부터 A씨를 스토킹했다. 2007년 7월 A씨에 대한 같은 죄명으로 벌금 200만원의 약식명령을 받았고, 2010년엔 정보통신망이용촉진 및 정보보호등에 관한 법 위반죄로 징역 6개월에 집행유예 2년을 선고받았다. 15년 넘게 A씨에게 스토킹과 문자메시지 등을 통해 성적 괴롭힘을 했다는 의미다. 2016년 9월 법원에서 피해자에 대한 100m 이내 접근금지, 전화 등의 방법으로 연락을 금지하도록 하는 접근금지 가처분 결정도 받았지만 그는 멈추지 않았다. 결국 2017년 8월 징역 1년을 선고받고 안양교도소에 수감됐다. A씨는 지속적인 음란성 문자를 받는 고통의 굴레에서 10여년 만에, 1년 만 잠시 벗어날 수 있었다. 누군가와 한때 사랑을 했다는 이유로, 또는 같은 직장이나 동호회에 몸담았다는 이유로, 상대의 호감을 거절했다는 이유로, 또는 우연히 그 사람과 마주쳤던 이유로…. 스토킹의 피해자가 된 데는 특별한 이유랄 게 없었다. 언제 어디서나, 누구나 스토킹을 당할 수 있었다. 그러나 별다른 이유도 없이 피해자들의 일상은 공포로 서서히 옥죄어졌고 끔찍하게 무너져야 했다. 14일 서울신문이 지난 3년 3개월 간 법원에서 확정된 56건의 스토킹 관련 사건들을 분석한 결과 스토커와 피해자들의 관계는 매우 다양했다. 헤어진 연인 사이에서 재회를 요구하며 스토킹한 사건이 22건이었고, 아예 지하철에서 처음 보는 여학생을 쫓아가 괴롭힌 사례도 2건 있었다. 나머지 32건은 가까웠거나 안면이 있는 정도의 ‘아는 사이’였다. 주로 스토커가 일방적으로 피해자에게 관계 맺기를 강요했다가 거절당한 데서 비롯된 사건이 많았지만 일부 복수를 하거나 또는 정말 아무런 이유를 알 수 없는 경우도 있었다.같은 대학원의 연구실 옆자리를 썼던 오영민(가명)씨의 고백을 거절한 B씨는 그 대가로 2018년 4월부터 다음해 1월까지 혹독한 시간을 보내야 했다. 오씨는 B씨를 철저히, 몰래 괴롭혔다. 연구실에서 B씨가 대화·통화하는 내용을 녹음했고 커피에 최음제나 변비약을 넣어 마시게 했다. 칫솔과 커피에 침과 가래, 정액을 묻히기도 했다. B씨의 태블릿PC를 훔치거나 휴대전화, 시계 등에 물을 붓거나 숨겼고, 학술대회 참석 차 방문한 호텔에서는 옆방인 B씨의 방에 베란다 벽을 타고 들어가 속옷을 훔치려 했다. B씨는 어느 날부터 연구자료 등이 담긴 휴대전화와 노트북, 하드디스크를 자꾸 잃어버리고 불행이 반복되자 자신의 부주의와 실수를 한없이 탓했다. 하지만 모든 일이 오씨의 범행이었다는 것을 알고 심각한 충격에 빠져 학업을 중단하고 사람을 만나는 일조차 두려워하게 됐다. 1심에서 징역 4년과 자격정지 3년을 선고받았던 오씨는 항소심에서 징역 3년과 자격정지 2년으로 감형됐다. 다만 항소심 재판부는 현행법에서 스토킹을 경범죄처벌법 위반으로 10만원 이하의 벌금으로 처벌하고 있는 처벌상의 한계를 무시할 수 없다고 지적했다. 가장 안전해야 할 집과 매일 드나드는 일터가 위협받는 순간 피해자들의 공포는 배가됐다. 스토커들은 헤어진 연인 사이라면 주로 집을, 우연히 알게 된 사이라면 일터를 찾아가 괴롭혔다. 피해자들이 머무는 장소가 스토커들에게 이미 노출돼 반복된 스토킹을 피하기 쉽지 않았다. 마을버스 운전기사였던 정진우(가명)씨는 승객이었던 피해자 C씨가 남자친구가 없다는 것을 알게 되고부터 2011년 2월부터 다음해 2월까지 100여통의 문자와 400여통의 전화로 만남을 요구했다. C씨가 몇 차례 직장을 옮겼지만 정씨는 그 때마다 흥신소 등을 동원해 C씨를 찾아냈고 피해자 동료들에게 자신을 남자친구라고 소개도 했다. ‘문자·전화테러’로 벌금 100만원의 약식명령, 여러 차례의 스토킹 신고와 피해자의 신변보호 요청 끝에 경범죄처벌법 위반으로 10만원의 약식명령이 정씨에게 주어졌다. 그 뒤에도 정씨는 “프러포즈를 하겠다”며 찾아와 창문에서 C씨가 일하는 모습을 지켜봤고 건조물침입 혐의로 지난 1월 징역 8개월이 확정됐다. 2016년 교통사고로 다리를 다쳐 병원에 입원한 중국 국적의 최상진(가명)씨는 담당 물리치료사인 피해자 D(25·여)씨에게 “대화를 해달라”고 요구했다가 대화 내용이 이상해지자 피하는 D씨를 몇 달간 출퇴근 시간에 맞춰 지하철역에서 기다렸다 병원까지 쫓아가 소란을 피웠다. 이철호(가명)씨는 3년여간 사귄 E씨가 이별을 통보하자 2016년 9월부터 다음해 1월까지 600여통의 전화와 2700여통의 협박성 메시지와 보냈고, 그런데도 연락이 없자 E씨를 차에 태워 가두고 야산에 데려갔다. 경비원으로 일하던 스토커가 그 건물 회사원에게 반복되는 메시지로 스토킹했거나 같은 아파트의 주민을 쫓아다니며 피해자 집 앞 복도에 몇 차례나 서성인 스토커도 있었다. 헤어진 연인의 집에 음식을 시켜 보내고 발로 현관문을 차는가 하면 흉기를 들거나 뜨거운 물을 끓여 위협하기도 했다. 극성적인 구애 또는 어긋난 사랑표현이라기엔 공포로 휘감겨진 피해자들의 일상은 가혹했다. 허백윤 기자 baikyoon@seoul.co.kr

2017~2020년 스토킹 사건 56건 분석집 옮기고 이직해도 어떻게든 찾아와협박 등 공포의 일상가해자 27명 중 23명 벌금형 약식명령 그쳐 집을 옮기고 직장을 바꿔도 어김없이 찾아내 쫓아오는 ‘그놈’. 벗어나기 위해 애쓰고 도망치려 해도 붙잡히는 늪의 끝은 결국 둘 중 하나의 죽음이었다. 최근 화제를 모았던 드라마 속에서 데이트 폭력을 일삼던 애인이 스토커라는 괴물이 된 장면들은 생생한 공포를 자아냈다. 사제지간의 인연이 개인의 삶과 가정을 끔찍한 고통으로 몰아넣은 과정을 ‘n번방 사건’의 충격과 함께 전해들었다. 연예인을 쫓아다니는 극성 팬의 특별한 이야기가 아닌, 어쩌면 ‘나’와 주변의 일이었을 수도 있는 평범한 사람들의 이야기였다. 서울신문은 14일 일상에서 어떤 식으로 스토킹 범행이 이뤄지는지 확인해 보기 위해 법원 판결서열람서비스를 통해 스토킹으로 규정된 사건들의 판결문을 찾았다. 2017년 5월부터 2020년 8월까지 3년 3개월간 주거 또는 건조물 침입, 협박, 폭행, 상해, 성폭력 범죄의 처벌 등에 관한 특례법 위반, 살인미수 등의 죄명으로 정식재판에 넘겨져 법원에서 확정된 사건 56건의 판결문 70건을 분석했다. 56건 가운데 연인 사이였던 관계에서 일어난 스토킹 범행이 22건이었다. 이미 헤어진 상대에게 관계를 이어 갈 것을 요구하며 괴롭힌 것이 대부분이었다. 32건은 안면이 있는 등 아는 사이에서 벌어졌다. 직장 동료나 병원의 간호사와 환자 등 매우 다양한 관계에서 비롯됐다. 나머지 2건은 지하철 등에서 처음 보는 상대를 무작정 따라가 괴롭힌 사건이었다. 현행 법 체계에서 스토킹은 경범죄처벌법 3조 1항 41호의 ‘지속적 괴롭힘’으로 정의되는 게 유일하다. 10만원 이하의 벌금, 구류 또는 과료의 형으로 처벌되는 게 ‘지속적 괴롭힘’의 대가다. 56건의 사건 가운데 전과 경력이 있는 가해자 27명 중 23명은 과거에도 스토킹으로 경범죄처벌법을 위반해 벌금 10만원의 즉결심판 또는 벌금형의 약식명령을 받는 등 범행 전력이 있었다. 특히 8명은 같은 피해자에 대해 범행을 저질러 여러 차례 처벌을 받기도 했다. 판결문 속 스토킹 범행들은 피해자의 집이나 일터를 찾아가거나 전화·문자메시지·메신저로 괴롭히는 등 일상을 함께했다. 심각한 상해나 성폭력 범죄에 이르기 전인 주거침입 등의 범행들은 실형을 선고받아도 형량이 1년 안팎에 그쳤다. 가해자 56명 가운데 20명이 징역형의 집행유예를 선고받았다. 실형을 선고받은 20명 중에도 16명이 1년 남짓의 징역형을 선고받았다. 피해자가 겨우 일상을 돌려놓을 때쯤 ‘그놈’들은 다시 돌아왔다.커피에 최음제, 칫솔엔 정액...집·일터가 공포의 장소 됐다 서울중앙지법 2020고단XXX, 박민철(가명)씨의 성폭력 범죄의 처벌 등에 관한 특례법 위반(통신매체 이용 음란) 사건의 내용은 간단했다. 2019년 8~9월 한 사람에게 성관계를 하고 싶다는 내용의 음란성 문자를 총 57차례 보내 성적 수치심이나 혐오감을 일으켰다는 게 공소사실이었다. 박씨는 올해 4월 징역 1년 6개월과 40시간의 성폭력 치료프로그램 이수 명령을 선고받았다. 그런데 판결문에 담긴 피해자의 삶은 복잡할 대로 얽히고설켰다. 박씨는 2003년 피해자 A(58·여)씨가 운영하는 병원에서 치료를 받은 뒤부터 A씨를 스토킹했다. 2007년 7월 A씨에 대한 같은 죄명으로 벌금 200만원의 약식명령을 받았고, 2010년엔 정보통신망이용촉진 및 정보보호등에 관한 법 위반죄로 징역 6개월에 집행유예 2년을 선고받았다. 15년 넘게 A씨에게 스토킹과 문자메시지 등을 통해 성적 괴롭힘을 했다는 의미다. 2016년 9월 법원에서 피해자에 대한 100m 이내 접근금지, 전화 등의 방법으로 연락을 금지하도록 하는 접근금지 가처분 결정도 받았지만 그는 멈추지 않았다. 결국 2017년 8월 징역 1년을 선고받고 안양교도소에 수감됐다. A씨는 지속적인 음란성 문자를 받는 고통의 굴레에서 10여년 만에, 1년 만 잠시 벗어날 수 있었다. 누군가와 한때 사랑을 했다는 이유로, 또는 같은 직장이나 동호회에 몸담았다는 이유로, 상대의 호감을 거절했다는 이유로, 또는 우연히 그 사람과 마주쳤던 이유로…. 스토킹의 피해자가 된 데는 특별한 이유랄 게 없었다. 언제 어디서나, 누구나 스토킹을 당할 수 있었다. 그러나 별다른 이유도 없이 피해자들의 일상은 공포로 서서히 옥죄어졌고 끔찍하게 무너져야 했다. 14일 서울신문이 지난 3년 3개월 간 법원에서 확정된 56건의 스토킹 관련 사건들을 분석한 결과 스토커와 피해자들의 관계는 매우 다양했다. 헤어진 연인 사이에서 재회를 요구하며 스토킹한 사건이 22건이었고, 아예 지하철에서 처음 보는 여학생을 쫓아가 괴롭힌 사례도 2건 있었다. 나머지 32건은 가까웠거나 안면이 있는 정도의 ‘아는 사이’였다. 주로 스토커가 일방적으로 피해자에게 관계 맺기를 강요했다가 거절당한 데서 비롯된 사건이 많았지만 일부 복수를 하거나 또는 정말 아무런 이유를 알 수 없는 경우도 있었다. 같은 대학원의 연구실 옆자리를 썼던 오영민(가명)씨의 고백을 거절한 B씨는 그 대가로 2018년 4월부터 다음해 1월까지 혹독한 시간을 보내야 했다. 오씨는 B씨를 철저히, 몰래 괴롭혔다. 연구실에서 B씨가 대화·통화하는 내용을 녹음했고 커피에 최음제나 변비약을 넣어 마시게 했다. 칫솔과 커피에 침과 가래, 정액을 묻히기도 했다. B씨의 태블릿PC를 훔치거나 휴대전화, 시계 등에 물을 붓거나 숨겼고, 학술대회 참석 차 방문한 호텔에서는 옆방인 B씨의 방에 베란다 벽을 타고 들어가 속옷을 훔치려 했다. B씨는 어느 날부터 연구자료 등이 담긴 휴대전화와 노트북, 하드디스크를 자꾸 잃어버리고 불행이 반복되자 자신의 부주의와 실수를 한없이 탓했다. 하지만 모든 일이 오씨의 범행이었다는 것을 알고 심각한 충격에 빠져 학업을 중단하고 사람을 만나는 일조차 두려워하게 됐다. 1심에서 징역 4년과 자격정지 3년을 선고받았던 오씨는 항소심에서 징역 3년과 자격정지 2년으로 감형됐다. 다만 항소심 재판부는 현행법에서 스토킹을 경범죄처벌법 위반으로 10만원 이하의 벌금으로 처벌하고 있는 처벌상의 한계를 무시할 수 없다고 지적했다. 가장 안전해야 할 집과 매일 드나드는 일터가 위협받는 순간 피해자들의 공포는 배가됐다. 스토커들은 헤어진 연인 사이라면 주로 집을, 우연히 알게 된 사이라면 일터를 찾아가 괴롭혔다. 피해자들이 머무는 장소가 스토커들에게 이미 노출돼 반복된 스토킹을 피하기 쉽지 않았다. 마을버스 운전기사였던 정진우(가명)씨는 승객이었던 피해자 C씨가 남자친구가 없다는 것을 알게 되고부터 2011년 2월부터 다음해 2월까지 100여통의 문자와 400여통의 전화로 만남을 요구했다. C씨가 몇 차례 직장을 옮겼지만 정씨는 그 때마다 흥신소 등을 동원해 C씨를 찾아냈고 피해자 동료들에게 자신을 남자친구라고 소개도 했다. ‘문자·전화테러’로 벌금 100만원의 약식명령, 여러 차례의 스토킹 신고와 피해자의 신변보호 요청 끝에 경범죄처벌법 위반으로 10만원의 약식명령이 정씨에게 주어졌다. 그 뒤에도 정씨는 “프러포즈를 하겠다”며 찾아와 창문에서 C씨가 일하는 모습을 지켜봤고 건조물침입 혐의로 지난 1월 징역 8개월이 확정됐다. 2016년 교통사고로 다리를 다쳐 병원에 입원한 중국 국적의 최상진(가명)씨는 담당 물리치료사인 피해자 D(25·여)씨에게 “대화를 해달라”고 요구했다가 대화 내용이 이상해지자 피하는 D씨를 몇 달간 출퇴근 시간에 맞춰 지하철역에서 기다렸다 병원까지 쫓아가 소란을 피웠다. 중학교 동창에게 거절당한 한준상(가명)씨는 피해자가 일하던 편의점 앞에 불을 지르려다 앞에 있던 화단을 태웠다. 이철호(가명)씨는 3년여간 사귄 E씨가 이별을 통보하자 2016년 9월부터 다음해 1월까지 600여통의 전화와 2700여통의 협박성 메시지와 보냈고, 그런데도 연락이 없자 E씨를 차에 태워 가두고 야산에 데려갔다. 경비원으로 일하던 스토커가 그 건물 회사원에게 반복되는 메시지로 스토킹했거나 같은 아파트의 주민을 쫓아다니며 피해자 집 앞 복도에 몇 차례나 서성인 스토커도 있었다. 헤어진 연인의 집에 음식을 시켜 보내고 발로 현관문을 차는가 하면 흉기를 들거나 뜨거운 물을 끓여 위협하기도 했다. 극성적인 구애 또는 어긋난 사랑표현이라기엔 공포로 휘감겨진 피해자들의 일상은 가혹했다. 허백윤 기자 baikyoon@seoul.co.kr진선민 기자 jsm@seoul.co.kr