성차별과 동성애·장애인 혐오 등 논란을 일으킨 인공지능(AI) 챗봇 ‘이루다’ 사태를 계기로 인공지능 산업에서 여성 인력의 확대가 필요하다는 주장이 나왔다. 최문정 한국과학기술원 과학기술정책대학원 교수는 13일 대전 한국과학기술원(KAIST)에서 열린 ‘인공지능(AI) 분야 양성평등 정책 확산’을 주제로 한 토론회에서 이같이 밝혔다. 여성가족부 주최로 열린 이번 토론회는 최근 AI 챗봇(이루다)의 성별 고정관념 학습, 성차별 및 장애인 차별과 혐오 표현 등이 사회적 논란으로 떠오르면서 인공지능 기술의 부작용 해소에 초점을 두고 진행됐다. 최 교수의 ‘인공지능 분야에 대한 특정 성별 영향평가’에 따르면 2019년 기준 인공지능 관련 사업체 271개에서 여성 대표자의 비율은 5.5％로 나타났다. 2018년 기준으로 소프트웨어 산업기업 2766개 중 여성 대표자는 5.0％, 여성 전문인력의 비율은 17.8％로 나타났다. 최 교수는 “인공지능 분야에서 여성이 겪는 어려움은 사실상 다른 이공계와 비슷하게 존재한다”면서 “책임 있는 인공지능과 윤리적 이슈에 대한 연구 지원 확대와 실효성 있는 인공지능 윤리교육 개발·시행이 필요하다”고 제안했다. 한국여성정책연구원 여성미래연구본부 윤형주 부연구위원도 “성평등 혁신이 과학기술계에 정착했다면 아마 이루다 사태도 막을 수 있었을 것”이라며 “인공지능 기술연구 등의 분야에서도 성평등 혁신정책을 시급히 도입해야 한다”고 주장했다. 정영애 여가부 장관은 “인공지능이 성인지 감수성과 윤리성 등을 충분히 담아낼 수 있도록 노력하는 것이 중요하다”며 “이번 토론회를 계기로 보다 성평등한 인공지능 정책들이 정착되기를 바란다”고 밝혔다. 최광숙 선임기자 bori@seoul.co.kr

'코로나19'라는 공식 명칭이 있지만, 일부 미국인들은 해당 질병을 가리켜 ‘중국 바이러스’, ‘우한 바이러스’로도 부른다. 그 중 소수는 이 질병에 대해 ‘AA(Asian American) 바이러스’라고 지칭하면서 아시안계 전반에 대한 공격을 하기도 한다. 단지 피부색이 다르다는 이유로 인종 차별을 감수한 역사가 어제 오늘의 일은 아니지만, 지난해 1월 발생한 코로나19 사태 이후 이 같은 차별 행위는 더욱 공공연하게 발생하고 있는 양상이다. 이를 근절하기 위해 하와이 주 시민단체가 긍정적인 움직임을 시작했다. 코먼코즈 하와이 지부는 최근 미국에서 벌어지고 있는 모든 인종차별과 외국인 혐오 행위를 비난하는 성명서를 발표했다. 코먼코즈는 지난 1970년 창립된 미국의 대표적인 시민단체다. 미국 다수의 지역에 지부를 두고 운영, 수백 명에 달하는 자원봉사자로 구성돼 있다. 코먼코즈 하와이 지부는 성명서를 통해 ‘하와이에서 벌어지고 있는 모든 형태의 반아시아 정서와 피부색이 다르다는 이유로 발생하는 편협한 증오 범죄를 규탄한다’면서 "인종차별 행위를 눈 감을 것인지 여부는 더 이상 각 정부와 개인의 선택 사항이 아니다. 시대적 요구"라고 강조했다. 학계에서도 이 같은 움직임에 힘을 싣는 분위기다. 하와이 주립대학교 에이미 아그바야니 명예교수는 “반아시아 정서의 확산과 동양인에 대한 공격이 심각한 수준으로 증가하고 있다”면서 “인종 차별을 해결하기 위해 모든 사람들의 지속적인 관심이 절실한 시기”라고 입을 열었다.아그바야니 명예교수는 필리핀계 미국 시민권자다. 그는 “미국 전체 인구 중 아시안계 미국인의 비중은 6%에 달한다”면서 “미국 내에서 가장 빠른 속도로 증가하고 있는 주요 인종 집단 중 하나가 바로 아시안”이라고 밝혔다. 실제로 2020년 12월 기준, 미국 인구 중 백인이 차지하는 비율은 약 60%로 가장 많았다. 이어 히스패닉계가 18%, 흑인이 12%로 그 뒤를 이었다. 또, 아메리카 원주민이 1%, 하와이 및 태평양 원주민이 1% 미만을 차지하는 것으로 집계됐다. 아시안계 미국인에는 총 19개 민족이 포함된다. 그 중 중국인의 비중이 23%로 1위, 이어 필리핀계 미국인(19%), 인도계 미국인(19%), 베트남계(9%), 한국계(9%), 일본계(7%) 순으로 나타났다. 또, 아시안과 미국인의 혼혈 비중은 약 28%로 확인됐다. 이들 중 상당수는 코로나19 이후 반아시아 혐오 범죄와 괴롭힘 등을 경험했던 것으로 알려졌다. 특히 직장과 학교 등 일상 생활에서 빈번하게 발생하는 인종차별과 증오 범죄에 아시안계 미국인들이 그대로 노출돼 있다는 지적이다. 코먼코즈 하와이 조사 보고서에 따르면, 지난해 3월 이후 미국 내에서 발생한 인종 차별 사례는 약 31% 이상 급증했던 것으로 확인됐다. 이는 같은 시기 인종 차별로 접수된 사건 사고 중 흑인의 비율이 21%, 히스패닉 15%과 비교했을 때 큰 폭의 차이다. 더욱이 이 시기 미국 내 필수 보건 의료 종사자 5명 중 1명이 아시안계 미국인이었다는 점도 공개됐다. 코로나19 사태 수습을 위해 의료계 전면에 아시안계 미국인들이 종사한 반면 그로 인한 차별 역시 동양인들에게 무차별적으로 이뤄지고 있었던 셈이다. 한편, 이 같은 상황에 대해 코먼코즈 하와이 지부는 “미국 내 동양인에 대한 평등을 요구한 역사적 걸음은 길지 않다”면서 “더 많은 지역 사회가 아시안계 미국인들과 연대해 시민권자로의 권리를 보장하는 법률과 정책이 채택되도록 힘써야 한다”고 강조했다. 호놀룰루=임지연 통신원 808ddongcho@gmail.com 　　

변희수 전 육군 하사, 김기홍 제주퀴어문화축제 공동조직위원장, 이은용 작가 등 자신의 정체성을 드러내고 사회에 적극적으로 목소리를 내온 트랜스젠더들이 최근 연이어 사망한 가운데 심리상담 전문가들이 성소수자들과 함께 하기 위해 팔을 걷고 나섰다. 서울신문은 지난 19일 ‘성소수자를 지지하는 상담사 모임’에 함께 하고 있는 변상우 서울예대 예술창작기초학부 교수와 오현정 뜻밖의상담소 공동대표와 공동인터뷰를 가졌다. 이들은 모두 심리상담 경험이 많은 전문가들로, 연이은 트랜스젠더의 극단적 선택은 ‘사회적 타살’이라고 강조했다. 정체성 받아들여주지 않는 사회…배제에 대한 공포로 전문가들은 성소수자들이 ‘아웃팅’으로 인한 심리적 어려움이 크다고 설명했다. 아웃팅은 성소수자의 성적 지향이나 성별 정체성이 자신의 의지와 상관없이 드러나게 되는 것을 말한다. 원하지 않는 상황에서 아웃팅을 당하고, 그로 인해 불이익을 받을지 모른다는 공포다. 이들의 심리적 어려움은 성소수자의 정체성을 받아들이지 않는 사회구조와 맞닿아 있다. 성소수자들은 성장과정 속에서 자신의 존재가 수용되기 어려운 환경에 있어왔을 가능성이 크기 때문에 이에 대한 불안과 두려움이 내면화될 위험성이 크다. 오 대표는 “자신의 존재 자체가 사회에서 부정당할 수 있다는 것에 대한 두려움, 그 사회구조적 어려움이 성소수자 개인 내면의 모든 이슈에 녹아 있다”고 말했다. 변 교수도 “자신이 속한 커뮤니티에서 받아들여질 수 있을지 우려하다보니 늘 조심스럽게 주의하고, 돌다리도 두들겨보는 등 심리적으로 위축되는 양상을 보일 수 있다”고 설명했다. 사회적 배제에 대한 불안감은 특히 ‘발달 이행기’에 높아진다. 고등학생에서 대학생으로, 대학생에서 직장인으로 나아가는 이행기에 심리적으로 더 취약해질 수 있다. 변 교수는 “예컨대 대학 공간 안에서 조금씩 주변 사람들에게 커밍아웃하고, 자신의 정체성 그대로 존중받고 살다가 취업 활동에 접어드는 등 변화가 생기면 다시 사회적 배제에 대한 우려가 높아질 수 있다”고 말했다. 전문가들은 특히 지금과 같은 시기 성소수자의 마음 상태를 신경 써야 한다고 조언한다. 변 교수는 “지금처럼 성소수자들이 연이어 극단적 선택을 하거나, 서울시장 후보들이 토론회에서 성소수자에 대한 혐오발언을 하는 경우 심리적 영향을 크게 줄 수 있다”고 우려했다. 직접적으로 혐오 표현을 듣거나, 증오범죄의 피해자가 된 경우에도 심리 상태에 영향을 크게 미친다. 지난 2018년 반대 세력의 폭행과 고성에 무산됐던 인천퀴어퍼레이드 참가자들이 상당한 후유증을 겪기도 했다. “성소수자 스트레스 관리, 개인에게 돌려선 안돼” 심리적 위기를 겪는 성소수자에게 일반적인 스트레스 관리법을 제시하는 것은 별 의미가 없다. 성소수자의 심리적 위기를 유발하고 악화시키는 요인이 이들을 배제하는 사회구조에 있기 때문이다. 오 대표는 “스트레스 관리에 대한 많은 정보가 쏟아져 나오고 있지만 스스로 자신의 마음 건강을 돌보기란 쉽지 않다”면서 “마음 건강을 개인의 몫으로만 돌리지 말고, 사회가 개인의 마음 건강을 돌볼 수 있는 문화를 정착해 나가야 한다”고 강조했다. 변 교수도 “‘마음을 편안하게 가지면 된다’, ‘생각을 달리하면 된다’는 메시지들이 모든 문제를 개인의 몫으로 치환하며 오히려 개인을 더 힘들게 만드는 악순환의 고리가 될 수 있다”고 말했다. 심리적 위기를 겪는 성소수자들이 있다면, 빠르게 사회 안전망과 연계하는 것이 필요하다. 성소수자들을 적극 지원할 수 있는 기관 등에서 지원을 받는 것이 스스로 문제를 해결하려는 것보다 더 효과적일 수 있다. 성소수자 자살예방프로젝트 ‘마음연결’에서 언제든지 온라인 상담(https://chingusai.net/xe/online)을 받을 수 있으며, 평일 오전 10시에서 오후 7시 사이 전화 상담(02-745-7942) 예약도 가능하다. 서울시 자살예방센터 마음이음(1577-0199)에 연락하거나 성소수자 친화적인 사설 상담센터를 찾아가는 것도 방법이다. 자신이 애착을 갖고 있는 대상과 연결되는 것도 중요하다. 좋아하는 친구나 가족과 연락하거나, 좋아하는 장소에 가거나 반려동물을 떠올려보는 것도 심리적 안정을 얻을 수 있는 방법이다. 오 대표는 “자신의 존재를 수용해주는 사람, 성소수자들이 안전하다고 느껴질만 한 공간 등이 사회적으로 갖춰져 있을 때 이런 비극이 되풀이 되지 않는 실마리를 찾을 수 있을 거라 생각한다”고 말했다. 심리상담사들이 성소수자를 지지하는 모임을 만든 것도 함께 살아갈 수 있는 사회를 만들기 위해서다. 성소수자들이 겪는 문제에 대해 공감하는 상담사들이 카카오톡 채팅방을 중심으로 모였고, 연이은 트랜스젠더 사망 사건을 계기로 지난 10일 트랜스젠더들의 죽음을 추모하고 성소수자와 연대하겠다는 내용의 연서명을 발표했다. 연서명은 박도담 한국트라우마연구교육원 선임상담원의 주도로 시작해 이틀만에 한국상담심리학회, 한국상담학회 등 소속 상담사 600여 명이 참여했다. 지지 모임의 활동은 연서명으로 끝이 아니다. 오는 31일 ‘국제 트랜스젠더 가시화의 날’에 맞춰 트랜스젠더 용어에 대한 미국 자료를 번역해 배포할 예정이다. 모두에게 안전한 상담실 환경을 만드는 캠페인도 기획 중이다. 성소수자들의 힘이 되고 싶은 상담사가 있다면 지지 모임의 공식 계정(allly.counselors2021@gmail.com)으로 연락해 모임에 함께할 수 있다. 손지민 기자 sjm@seoul.co.kr

참석자 전원 마스크 쓰고 차별 경험 성토“워싱턴서 6년 생활… 아시아계 결집 처음”“많은 여성 피해자들의 이름이 사라졌다”지나가던 차량도 경적 응원·공감대 형성 ‘보이콧 차이나’ 등 반중단체들과 설전도“미국 워싱턴DC에서 6년을 살았는데, 아시아계 미국인에 대한 혐오에 대해 우리 스스로 결집해 나서는 것을 처음 봅니다. 이제는 소리를 치고, 행동을 할 때라고 생각합니다.” 지난해 흑인시위가 거셌던 백악관 인근 ‘BLM 플라자’에서 도보로 불과 2분 거리인 맥퍼슨 스퀘어에서 21일(현지시간) 만난 미미 송은 ‘아시안 혐오를 멈춰라’(Stop Asian Hate)라고 적은 피켓을 든 채 “이제는 (아시아계 혐오를) 바꾸자”며 이렇게 말했다. 이날 모인 1000여명의 시민들은 지난 16일 조지아주 애틀랜타에서 백인 로버트 에런 롱(21)에게 희생당한 8명을 추모하고, 아시아계를 향한 혐오범죄를 규탄했다. 시위는 샌프란시스코, 휴스턴, 시카고 등 미 전역에서 벌어지고 있다.두 아들을 위해 평생을 헌신한 ‘싱글맘’ 현정 그랜트 등 아시아계 여성 희생자 6명의 이름을 적은 피켓을 든 중국계 탄잉(52)은 “이곳에서 25년을 살았는데 많은 여성 피해자의 이름이 슬며시 사라졌다. 이들의 이름을 함께 부르고 함께 아파해야 이런 비극이 다시 일어나지 않을 것 같다”고 말했다. 다른 시민은 도널드 트럼프 전 대통령의 표어 ‘미국을 다시 위대하게’(Make America Great Again)를 차용한 ‘미국을 다시 친절하게’(Make America Kind Again)라고 적은 피켓을 들었다. 코로나19와 관련한 트럼프의 대중국 혐오발언이 최근 아시아계 혐오범죄의 증가로 이어졌다는 게 대체적인 분석이다. 비극적인 참사를 단지 ‘나쁜 날’로 표현했던 애틀랜타 경찰을 비판하는 ‘나쁜 날은 살인을 정당화하지 않는다’(BAD DAYS don´t Justify Murder)라고 적은 피켓도 꽤 있었다. 이날 시위는 연단 없이 잔디밭 중앙에서 누구나 자신의 인종차별 경험담 등을 얘기하고, 둘러싼 시민들이 듣는 형식으로 진행됐다. 발언권을 얻은 시민들은 “인종차별과 싸우자”고 목소리를 높였다. 참석자들은 모두 마스크를 썼고, 아시아계가 많았지만 ‘경찰 예산을 삭감하라’(defund the police)라고 적힌 마스크를 쓴 흑인을 비롯해 다양한 인종이 함께했다.가족 단위 참가도 많아 맥퍼슨 스퀘어 한켠의 돌바닥에 분필로 ‘서로를 보호하자’(protect each other)라고 써 놓은 것을 아이들이 덧칠하며 노는 모습도 볼 수 있었다. 또 ‘얼굴 없는 희생자’들을 그린 판화를 흰색 천이나 종이에 찍어 주는 문화행사도 있었다. 여기서 만난 백인 어맨다 은 “베트남인 남편과 결혼해 딸이 있는데, 내 아이의 미래를 위해 나왔다. 이건 미국이 아니다. 혐오를 멈춰야 한다”고 말했다. 지나던 차량들이 경적을 울리며 집회를 응원했고, 행인들도 잠시 걸음을 멈추고 아시아계의 분노에 공감했다. 하지만 시위 도중 ‘보이콧 차이나’, ‘위구르 집단학살을 멈춰라’라는 문구를 붙인 반중단체 차량들이 나타났다. 이 중 한 대가 시위대 앞에 섰고, 운전자는 “중국은 집단학살국가”라고 소리치면서 설전이 벌어졌다. 시위대 일부가 “우리는 미국인이다. 중국에 가서 말하라”고 화를 냈지만 그는 같은 말을 반복하다 사람들이 더 몰려오자 자리를 떠났다. 글 사진 워싱턴 이경주 특파원 kdlrudwn@seoul.co.kr

미국 전역에서 아시아계 미국인에 대한 혐오 범죄가 잇따르는 가운데, 샌프란시스코에서 피해를 당한 뒤 눈물을 흘리는 노인의 안타까운 모습이 공개됐다. 뉴욕데일리뉴스 등 현지 언론의 17일 보도에 따르면 이날 오전 10시경 샌프란시스코 시내를 걷던 아시아계 여성 노인(75)은 다짜고짜 한 남성의 공격을 받았다. 당시 노인은 가로등 기둥 옆에 서 있었는데, 남성이 다가와 노인의 얼굴을 다짜고짜 가격했다. 피해가 이어지자 노인은 주변 사람들에게 도움을 요청했고, 가해 남성에게도 “왜 이유없이 폭행하냐”고 소리치며 손에 쥐고 있던 지팡이로 방어했다. 그 사이 경찰이 현장에 도착했고, 가해 남성은 현장에서 체포됐다. 현장에서 촬영된 사진은 경찰이 전한 아이스팩을 손에 쥔 채 폭행 당시를 설명하며 눈물로 호소하는 모습을 담고 있다. 노인의 얼굴과 손에는 핏자국이 선명했다. 체포된 남성은 39세로 알려졌으며, 사진이 공개된 노인 외에도 2명에게 폭행을 저지른 것으로 알려졌다. 이날 하루 동안 체포된 가해 남성에 의해 폭행 피해를 입은 3명에 달하며, 모두 병원 치료를 받았다.  한편 코로나19 팬데믹 이후 미국에서는 아시아계를 대상으로 한 혐오 범죄가 폭증하고 있다. 애틀란타에서는 현지시간으로 16일 아시아계를 표적으로 한 혐오가 동기로 추정되는 총격 사건이 발생했다. 당시 21세 백인 남성은 마사지숍 3곳에서 총기를 난사했고, 이 과정에서 8명이 사망했다. 이중 6명은 아시아계로 확인됐으며 한국계 여성 4명도 희생됐다. 미국 내 아시아인들에 대한 혐오사건을 추적하는 단체 ‘스톱 AAIP 헤이트’가 지난해 3월19일부터 지난 2월28일까지 접수된 혐오·차별 신고를 분석한 결과, 신고 건수는 3795건으로 이전 조사 결과인 2808건보다 크게 증가한 것으로 나타났다. 지난 1~2월에만 503건의 아시아인 혐오사건이 접수됐다. 차별과 모욕 발언 및 폭행 등 혐오 범죄의 배경 중 하나는 코로나19 팬데믹이다. CNN 등은 “도널드 트럼프 전 대통령이 코로나19를 ‘중국 바이러스’로 부른 것이 혐오사건 급증에 영향을 미쳤다”고 분석했다. 실제로 이 단체가 접수한 피해 신고 내용을 보면 “바이러스를 가지고 우한으로 돌아가라”는 말을 들었다는 경우가 많았다. 현지 전문가들은 피해 대상이 주로 아시아계 노인과 아이들이며, 특히 여성은 인종차별에 더해 성차별의 피해까지 입고 있다고 지적했다. 송현서 기자 huimin0217@seoul.co.kr

다른 그래미 출연진보다 가학적·폭력적 묘사멤버 이름은커녕 팀명조차 없이 ‘K팝’ 표기사과문도 무성의…“BTS, 세트에서 빼겠다” 미국의 일러스트 카드 제작사가 방탄소년단(BTS)을 가학적이고 인종차별적으로 묘사한 카드를 공개해 비판이 쏟아졌다. 18일 외신 등에 따르면 수집용 일러스트 카드 제작사인 톱스(Topps)는 지난 14일(미국 현지시간) 열린 그래미 시상식의 주요 출연진을 우스꽝스럽게 그린 ‘가비지 페일 키즈 섀미 어워즈(Garbage Pail Kids SHAMMY Awards)’ 스티커 카드 시리즈를 온라인 쇼핑몰에 공개했다. 카드에는 BTS를 비롯해 테일러 스위프트, 메건 더 스탤리언, 빌리 아일리시, 해리 스타일스 등의 캐리커처가 그려졌는데, 유독 BTS에 대한 요사가 가학적이고 폭력적이라는 지적이 제기됐다. 문제의 일러스트를 보면 BTS 멤버들이 ‘두더지게임’ 속 두더지로 표현됐고, 축음기 모양의 그래미 트로피에 얻어맞아 얼굴이 멍들고 상처 난 모습으로 그려졌다.테일러 스위프트와 빌리 아일리시는 올해 그래미 시상식 당시 선보인 무대 세트에서 마이크를 쥔 모습, 메건 더 스탤리언은 그래미 트로피를 거머쥔 채 말을 타고 있는 모습 등으로 표현된 것과 사뭇 다른 느낌이다. BTS 외의 뮤지션들도 일러스트 특성상 우스꽝스럽고 풍자적으로 그려지긴 했지만 모두 뮤지션이라는 점만큼은 제대로 표현되고 있었다. 이에 대해 아시아 아티스트에 대한 명백한 인종차별이라는 지적이 소셜미디어 상에서 쇄도했다. 또 다른 출연진들은 카드 하단에 이름을 적었지만 BTS는 멤버들의 이름은 고사하고 팀명조차 적지 않은 채 ‘K팝’이라고만 적은 것도 차별이라는 지적도 나왔다. 톱스 측은 이후 ‘K팝’ 대신 ‘BTS’로 수정해 표기했지만 비판은 여전했다.이번 카드 논란이 미국에서 아시아계를 향한 혐오와 폭력 범죄가 연이어 발생하는 가운데 벌어지면서 더욱 공분을 사고 있다. 톱스 측은 소셜미디어를 통해 “BTS 묘사에 대해 소비자들이 화가 난 것을 파악했고 이해한다. 이 카드를 세트에 포함한 것에 대해 사과한다”며 “BTS 카드를 세트에서 뺐다. 인쇄는 들어가지 않았으며 판매도 되지 않을 것”이라고 사과문을 올렸다. 그러나 이 사과문마저도 문제의 카드에 담긴 차별적 시각을 제대로 반성하기는커녕 언급조차 하지 않아 사과문 같지 않은 사과문이라는 비판을 받았다. 또 제대로 된 일러스트를 새로 그리는 대신 단순히 BTS를 세트에서 빼겠다는 조치 역시 사과하는 태도와 거리가 멀다는 지적도 나왔다. 빌보드도 해당 카드 시리즈를 홍보하는 기사를 게재했다가 BTS 관련 대목을 삭제했다. 빌보드가 자체적인 사과 없이 톱스 측 사과문을 인용하면서 “무신경하게 그려진 BTS 카드에 대한 설명을 삭제했다”고만 공지한 것도 비난을 샀다. 신진호 기자 sayho@seoul.co.kr

경기도의회 백승기(더불어민주당·안성2) 도의원은 지난 9일 경기도의회 안성상담소에서 축산복합단지 반대 대책위원회 위원장 및 주민 2명이 참석한 가운데 축산식품복합 일반산업단지 관련 정담회를 가졌다. 이번 정담회는 축산식품복합 일반산업단지 관련 반대 대책위원회의 의견 청취 및 갈등 해결 방안, 현재까지 진행된 상황에 대하여 논의했다. 양성면 석화리 일대에 추진 중인 축산식품복합산업단지는 2018년부터 2023년을 목표로 23㎡규모에 육가공 설비, 물류창고, 축산물종합처리장 및 도축장, 체험관광시설 등을 계획하고 업체 ‘선진’이 추진하는 사업이다. 그동안 주민 민원 및 공공갈등협의회까지 개최해 추진했지만 합리적 해결 방안을 마련하지 못해 진전이 없는 상황이다. 현재는 주민 민원과 교통문제 등 기술적인 문제를 이유로 ‘재심의’ 결정을 받았다. 이 자리에서 반대 대책위원회 관게자는 개발로 인한 마을 환경오염, 클러스터 내 초대형 도축장 등 혐오시설 조성으로 인한 피해, 축산시설 운영으로 인한 조류독감(AI) 등 감염병 피해 우려 등의 의견으로 명확히 반대 입장의 뜻을 밝힌다며 “삶의 터전인 이 곳에 도축장이 아닌 문화휴양시설 조성 등을 통해 지역발전 개발 계획이 되길 바란다”고 말했다. 백승기 도의원은 “앞으로 지속적인 의견 교환을 할 수 있도록 창구 역할에 최선을 다할 뿐 아니라 무엇보다 지역 주민의 의견 수렴이 가장 중요하다”며 “앞으로 제기되는 고충민원을 해결하는데 어려움이 있다하더라도 시민들과 소통의 자리를 통해 다양한 방법을 강구하겠다”는 뜻을 밝혔다. 　온라인뉴스부 iseoul@seoul.co.

촉법소년·성착취물·인공지능…논쟁적인 주제들 담은 소설집파편화된 인간성의 민낯 그려충격 반전에 영화 보는 듯 생생지난달 의정부 경전철에서 중학생들이 노인들을 폭행하는 사건이 발생한 가운데 가해자들이 만 13세로 형사처벌이 면제되는 ‘촉법소년’(만 10세 이상 만 14세 미만 미성년자)으로 알려져 논란이 일었다. 갈수록 늘어나는 소년범죄를 예방하려면 촉법소년 연령을 낮춰야 한다는 여론이 재점화됐기 때문이다. 지난해 온라인 메신저 ‘텔레그램’에 개설된 단체 채팅방에서 불법 성착취물을 제작·유포한 ‘n번방’의 존재는 더 큰 충격을 줬다. 최근엔 인공지능(AI) 챗봇 ‘이루다’가 여성·성소수자에 대한 혐오 발언을 조장하고 개인정보를 유출한 사실이 드러나 AI 기술 남용에 대한 우려가 커졌다. 우리 사회에서 논쟁적 주제인 촉법소년, 성착취, AI가 독보적 작품 세계를 가진 작가 아홉 명에게서 소설로 태어났다. ‘낯익은 괴물들’은 이들 문제가 일상에서 촉발하는 이야기를 다채로운 서사로 펼친다.‘시골악귀’(김종광 작가)와 ‘테임’(김이설 작가)은 촉법소년 문제에 질문을 던진다. ‘시골악귀’에선 시골 마을에서 절도와 성폭행을 일삼아 소년원에 들어간 강수의 행각이 생생하게 펼쳐진다. “청소년이 더 악귀다. 어른이고 청소년이고 본성이 문제다. 세 살 본성 여든 살까지 간다”(25쪽)는 성폭행 피해자의 독백은 ‘어린 나이가 면죄부가 될 수 있냐’는 정당한 문제 제기를 대변한다. 강수의 악마성에는 가정불화가 한몫했음을, 그를 단죄하는 주체도 결국 부모가 될 수밖에 없다는 점도 암시한다. ‘테임’의 주인공 지훈은 사이코패스 소년 태현과 어울리다 충동 조절에 실패하고 파국을 맞는다. 정신을 차린 지훈이 문득 떠올린 생각은 ‘열네 번째 생일이 일주일 뒤였다’(70쪽)는 것이다. 어리지만 악하게 변모하는 그들은 과연 누구인지 물으면서 우리 아들딸들도 언제든 환경에 따라 괴물로 변할 수 있음을 보여 준다.‘천국의 낮’(주원규 작가)은 마치 n번방 사건을 밀착 취재한 듯 온라인상에서 은밀히 자행되는 성착취의 참혹한 현장을 날것 그대로 그려 낸다. 여고생 ‘미’는 악마와도 같은 ‘구’에게 성착취를 당하지만, 결국 유일한 혈육인 아빠에게도 외면받아 혼자 남겨진다. 끔찍하고 암울한 성착취의 공범은 이를 은밀히 즐겨 온 대중과 주변의 무관심이라는 메시지를 던진다. AI와 함께할 우리 미래가 과연 진보인가 퇴보인가. ‘헤어지는 중’(김희진 작가)은 결혼 생활에 활력을 주려고 구매한 AI 애견로봇 ‘로이’를 두고 드러난 관계와 감정의 변화, 갈등을 이야기한다. 소설들은 영화를 보는 듯 생생하다. 반전의 등장도 만만치 않은 충격이다. 단편소설 특유의 여운과 서사적 재미도 갖췄다. 모종의 두려움을 주는 ‘괴물’을 통해 공통적으로 현대 문명사회가 가져온 소외와 박탈감, 파편화된 인간성의 민낯을 그려 냈다. ‘열다섯 살이 지난 뒤에도’(서유미 작가) 말미의 ‘매번 새롭게 고통스럽다는 게 삶의 숨겨진 비밀이겠지’(104쪽)라는 대목은 이 같은 실존이 가져온 후유증은 시간이 지나도 치유하기 힘들다는 점을 의미한다. 가해자보다 피해자가 고통스럽게 사는 현실에서 사생활 침해 등을 이유로 ‘n번방 방지법’ 도입을 놓고 홍역을 치른 우리 사회가 곱씹어 볼 대목이다. 하종훈 기자 artg@seoul.co.kr

서울 시내 유명 브랜드 아파트 주민들이 배달노동자들이 화물용 승강기로 다니게 한 것으로 확인됐다. 주민들은 “냄새가 나는게 싫다”는 이유로 배달노동자들에게 물건을 옮기는 화물용 승강기를 이용하게 한 것으로 전해졌다. 뿐만 아니라 이 아파트 주민들은 출입 전 신분증을 걷고, 불필요한 개인정보를 기입하게 하는 등의 인권 침해 정황도 드러났다. 라이더유니온은 지난 25일부터 배달노동자들이 화물용 승강기로 다니게 한 것을 명백한 인권 침해로 보고 국가인권위원회에 진정을 제기하기 위해 제보를 받고 있다. 라이더유니온이 28일 현재까지 라이더들에게 제보받은 5개 아파트에는 연예인이나 정재계 인사들이 다수 거주하는 서울 용산구 한남동 나인원한남, 서울 서초구 서초아크로비스타, 서울 성동구 성수동 아크로포레스트, 서울 양천구 목동 하이페리온, 서울 영등포구 당산1동 리앤나빌리지 등이 포함돼 있다. 라이더유니온은 라이더들에게 ‘http://bit.ly/갑질아파트진정’를 통해 신청서를 작성한 뒤 riderworkers@gmail.com으로 증거 사진과 영상을 보내달라고 안내했다. 라이더유니온은 “배달노동자들에 대한 차별적 대우는 헌법 제11조 1항이 보장하는 ‘누구든지 성별·종교 또는 사회적 신분에 의하여 정치적·경제적·사회적·문화적 생활의 모든 영역에 있어서 차별을 받지 아니할 권리를 침해한 조치”라며 “동조 2항이 금지하는 사회적 특수계급의 제도의 구체적 사례이며 배달 직종에 대한 명백한 혐오”라고 판단했다. 해당 아파트 입주민들은 승강기 내부의 음식 냄새가 불편하다는 등의 이유로 배달노동자에게 화물용 승강기만을 사용하게 한 것으로 알려졌다. 라이더유니온은 “배달원은 화물이 아닌 사람이자, 노동을 통해 삶을 꾸려나가는 당당한 사회의 일원”이라며 “열등함의 공적 낙인 음식 냄새는 배달원들의 모멸감을 통해 해결할 것이 아니라 직접 로비로 나와 음식을 받는 것으로 수령방식을 통일하는 등 입주민의 자체적인 합의와 수고를 통해 해결해야 한다”고 밝혔다. 뿐만 아니라 해당 고가 아파트 주민들은 ‘보안과 안전’이라는 명목으로 동의를 받는 절차 없이 배달원의 신분증을 걷고 개인정보를 무단으로 수집한 것으로 나타났다. 구교현 라이더유니온 기획팀장은 “이러한 관행은 코로나 이전부터 계속된 관행으로 봐야할 것 같다”며 “인권위가 법정기구인 아파트 입주자대표회의를 특정해 가이드라인이나 적극적으로 시정할 수 있도록 권고를 낼 수 있을 것”이라고 했다. 최영권 기자 story@seoul.co.kr

37년 전인 1984년, 놀라운 상상력을 보여주는 SF영화가 개봉했습니다. 바로 ‘터미네이터’ 입니다. 스스로 생각을 할 수 있게 된 인공지능(AI) 시스템이 인류를 멸망시키려 하고 인간은 이를 막기 위해 고군분투한다는 내용을 이리저리 엮어 관객들의 시선을 사로 잡았습니다. 전 세계적으로 흥행한 이 영화는 사람들의 마음 속에 AI에 대한 막연한 불안감을 갖게 만들기도 했습니다. 이 때문에 AI 관련 논의가 있을 때마다 터미네이터는 소환되곤 합니다. 1950년대에 AI 개념이 등장하고 오랜 잠복기를 지나 2000년대 들어 관련 연구가 폭발적으로 증가하면서 기술 발전 속도는 상상을 초월하고 있습니다. 실제로 최근 몇 년 사이에 다양한 형태의 AI 기술이 폭넓게 활용되고 있습니다. 연구자들이 AI를 포함해 과학기술을 연구하는 목적은 인류가 좀 더 나은 삶을 살도록 하기 위한 것입니다. 미국 캘리포니아 버클리대 레드우드신경과학연구소 설립자 제프 호킨스 박사도 ‘생각하는 뇌, 생각하는 기계’라는 저서에서 “AI 같은 두뇌형 기계를 개발하는 것은 인간의 감각으로는 인식하기 어렵고 빠르게 계산하기 어려운 문제들을 손쉽게 해결함으로써 인간의 감각과 지적능력을 확장하기 위한 것”이라고 말했습니다. 그렇지만 인간이 만드는 기술과 시스템은 정도의 차이만 있을 뿐 모두 윤리적 문제를 갖고 있습니다. AI도 마찬가지입니다. 2016년 ‘인공지능과 2030년의 삶’이라는 분석보고서를 작성한 미국 스탠퍼드대 ‘AI 100’ 연구단은 “영화 ‘마이너리티 리포트’에서처럼 범죄예방 프로그램을 비롯해 다양한 형태의 인공지능 기술은 알고리즘을 설계한 개발자의 편견이 개입할 수 있으며 프라이버시 침해에 대한 우려도 크다”라고 분명히 지적했습니다. 스위스 로잔연방공과대학 컴퓨터·커뮤니케이션공학과 연구팀 역시 AI를 활용한 사회관계망서비스(SNS)의 맞춤형 뉴스피드 알고리즘은 개인화되고 편향된 데이터를 기반으로 서비스를 제공하기 때문에 세계를 바라보는 시각과 가치관을 왜곡시키거나 편협하게 만들 수 있으며 사회 전체에 악영향을 미칠 수 있다는 연구결과를 내놨습니다. 이런 문제를 해결하기 위해 어떤 노력을 하느냐에 따라 기술의 최종 성패가 좌우되는 경우가 많습니다. 최근 AI챗봇 ‘이루다’가 혐오표현 학습과 개인정보 노출 등 문제로 운영이 중단됐습니다. 이에 대해 AI 기술 고도화를 위해 어쩔 수 없는 시행착오라던가 이번 사건이 혁신을 가로막아서는 안된다던가, 기술 문제가 아니라 혐오 표현이 일상화된 사회가 문제의 근원라는 목소리도 나왔습니다. 그런 발언의 당사자들이 인식하고 있는지는 모르겠지만 그 이면에는 기술을 사용하는 사회와 대중에게 문제가 있는 것이지 과학기술 자체는 문제가 없다는 기술의 가치중립성 논리가 숨어있습니다. 다양한 분야의 연구자들이 과학기술의 가치중립성은 환상이라고 지적하고 있습니다. 그렇기 때문에 모든 과학기술은 사회적 책임을 가져야 한다는 것입니다. 과학기술의 사회적 책임은 대학 교수나 많은 연구비를 쓰는 연구자들에게만 해당되는 것이 아닙니다. 모든 과학기술과 혁신의 중심에는 인간이 있어야 합니다. 사회적 책임을 도외시하고 인간이 소외된 혁신과 기술은 ‘야수’로 변하기 십상이라는 점을 분명히 알고 있어야 하지 않을까요. edmondy@seoul.co.kr

“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

카카오가 ‘증오·혐오 발언 근절 원칙’을 수립해 자사 서비스에 적용한다. 국내 기업들 중에서 이같은 원칙을 발표한 것은 카카오가 처음인 것으로 알려졌다. 이른바 ‘이루다 사건’으로 디지털·인공지능(AI) 윤리 논쟁이 불거지자 기존에 준비해온 규정을 선제적으로 내놓은 것이다. 카카오는 13일 공식 브런치를 통해 ‘증오 발언 근절을 위한 카카오의 원칙’을 공개했다. 카카오는 약 1년에 걸처 증오 발언 근절을 위한 원칙을 마련했다. 카카오 측에서는 “온라인 증오발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있다”면서 “카카오 역시 사회의 구성원으로서 디지털 공간을 보다 건강하게 만들기 위한 증오발언 대응 원칙을 수립했다”고 밝혔다.카카오는 표현의 자유를 남용해 타인의 안전을 위협하는 발언을 경계하기 위해 네 가지 원칙을 제시했다. 첫째로는 특정 대상을 차별하거나 이에 대한 편견을 조장하고 일방적으로 모욕·배척하는 행위에 반대하기로 했다. 출신 지역이나 국가, 인종, 외양, 장애 및 질병, 경제상황, 종교, 지위, 연령, 성별, 성 정체성 또는 기타 정체성 요인을 대상으로 증오·혐오 발언을 하는 것에 맞서겠다는 것이다. 둘째 원칙으로는 이러한 차별에 기반해 특정 개인이나 특정 집단을 공격하는 ‘증오발언’에 강경하게 대처하기로 했다. 셋째 원칙은 이용자의 의무에 대한 내용이다. 이용자는 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 한다고 강조했다. 다만 타인의 존엄성과 안전을 위협하지 않는 한 공공정책이나 자신의 신념 등에 대해 자유롭게 의견을 개진할 수 있다는 것을 분명히 했다. 마지막 원칙으로 카카오는 ‘증오발언’ 근절을 위해 정책, 서비스, 기술, 디자인을 고도화 하기로 했다. 사내 교육과 모니터링도 강화해 내부로부터 발생할지도 모르는 차별와 증오의 싹을 경계하기로 했다.이러한 원칙을 반영해 이날 카카오의 회원 운영정책 일부가 수정돼 공지로 나갔다. 이를 통해 서비스 이용시 금지하는 활동에 외양, 질병 유무, 경제 상황, 지위, 성체성, 성적 지향 등을 요인으로서 인간 존엄성을 훼손하거나 차별·편견을 조장하는 행위가 추가됐다. 이용자가 금지하는 행위를 하게 되면 관련 규정에 따라 카카오 계정과 서비스의 이용이 제한될 수 있다. 이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 경영 활동의 일환이다. 카카오는 전날(12일) 이사회 산하에 ESG위원회를 신설하고 김범수 카카오 이사회 의장이 위원장을 맡는다고 밝혔다. 카카오는 증오 발언 근절 원칙 수립 과정에 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다고 밝혔다. 카카오 관계자는 “국내에서 증오발언 근절을 위해 기업이 원칙을 제정해 이를 적용하는 것은 이번이 처음”이라면서 “게시물 운영정책의 금지항목에 일부 포함된 경우는 있으나 카카오와 같이 대상을 명확하게 정의하고 대응 의지를 밝힌 사례는 찾아보기 어렵다”고 말했다. 한재희 기자 jh@seoul.co.kr

마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.

혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

‘혐오의 학습화’ 논란을 불러일으키면서 지난 11일 서비스가 중단된 인공지능(AI) 챗봇 ‘이루다’ 사태는 인공지능 윤리에 관한 숙제를 남겼다. 한국보다 앞서 인공지능 기술을 상용화한 해외에서는 인공지능에 의한 차별·혐오 문제를 어떻게 다루고 있을까. 12일 법조계 등에 따르면 각국의 인공지능 규제는 크게 의회 입법을 통한 하드 로(hard law)와 법적 구속력이 없는 소프트 로(soft law)로 나뉜다. 지난해 12월 한국 정부가 발표한 ‘국가 인공지능 윤리기준’을 비롯해 대부분의 국가에서 규범 차원의 가이드라인을 발표하는 추세지만 일각에서는 입법 움직임도 시작되고 있다. 2017년 미국 뉴욕시의회에서 통과된 ‘알고리즘 책임 법안’은 뉴욕시에서 구성한 특별위원회를 통해 시에서 사용되는 인공지능 알고리즘에 차별 요소가 없는지 조사를 의무화하는 것을 주요 내용으로 한다. 2019년 4월 미 상원에서 대기업의 머신러닝 시스템을 감독하기 위한 동명의 법안이 발의되기도 했다. 특히 인공지능이 치안·금융·행정·교육 등 각종 영역에 상용화되면서 편향적인 알고리즘이 실제 피해로 이어질 수 있다는 지적이 나온다. 미국 아마존은 인공지능 기반 채용 시스템이 여성에게 불리한 평가를 한다는 사실이 알려져 2018년 시스템 개발을 중단했다. 유럽연합(EU) 의회도 지난해 10월 포괄적인 AI법 권고안을 채택했다. 인공지능 기술이 심각한 윤리 원칙을 위반할 경우 인공지능의 자기학습능력을 비활성화하고 완전한 인간 통제하에 놓이도록 복원하는 내용이 담겼다. 다만 한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 “구체적으로 무엇을 어떻게 규제할지 충분히 논의되지 않아 당장 입법은 불가능하다”면서 “기본적인 윤리 원칙을 다양한 개별 상황에 어떻게 적용할지 세부적인 가이드라인을 먼저 마련해야 한다”고 말했다. 기업 차원에서 자정 노력이 필요하다는 지적도 나온다. 마이크로소프트(MS)는 2016년 차별·혐오 논란에 휩싸였던 챗봇 ‘테이’ 사태 이후 사내 윤리위원회를 만들고 윤리 기준을 마련했다. 진선민 기자 jsm@seoul.co.kr

장혜영 정의당 의원이 12일 다음달 국회에서 인공지능 이루다에 대한 성희롱 문제를 언급하며 ‘포괄적 차별금지법’을 전면적으로 논의하자고 제안했다. 장 의원은 “인공지능 챗봇인 ‘이루다’를 둘러싼 윤리적 논란이 뜨거웠는데 AI를 대상으로 한 이용자들의 성희롱부터 개발에 이용된 데이터 활용의 적법성까지 여러 문제점들이 불거졌다”면서 “무엇보다 많은 이들에게 충격을 준 것은 인공지능(AI)가 장애인, 성소수자, 이주민 등 우리 사회의 약자들이나 소수자들에 대한 차별과 혐오 그리고 편견을 그대로 재생산하는 모습”이었다고 지적했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 장 의원은 이러한 현실은 인공지능(AI) 윤리 이전에 우리 사회가 여전히 사회적 약자와 소수자들에 대한 차별과 혐오를 제대로 방지하는 일에 실패했음을 드러내고 있다고 강조했다. 이어 국회는 이러한 현실을 방치한 막중한 책임으로부터 결코 자유로울 수 없다고 덧붙였다. 장 의원은 “우리 사회는 오랜 사회적 대화를 통해 사회적 약자와 소수자들에게 가해지는 차별과 혐오를 제도적으로 금지해야 한다는 합의에 이르렀다”면서 “이러한 국민적 합의는 국가인권위원회에서 실시된 조사를 비롯한 각종 조사들에서 일관되게 나타나는 폭넓은 포괄적 차별금지법 도입의 찬성 여론으로 이미 증명되었다”고 전제했다. 하지만 국회는 2007년부터 지금까지 무려 14년간 온갖 핑계를 대며 번번이 이러한 사회적 합의를 포괄적 차별금지법으로 제도화하는 것을 미루어 왔다고 장 의원은 비판했다. 장 의원은 “21대 국회도 예외가 아니다”라며 “작년 6월 포괄적 차별금지법을 대표 발의했으나 법안이 발의된 지 반 년이 넘은 지금까지 포괄적 차별금지법은 단 한차례의 소위조차 열리지 않았다”고 지적했다. 그는 “AI도 결국 사람이 만드는 것”이라며 “사람의 규범이 바로 서야 AI윤리도 바로 설 수 있다”고 목소리를 높였다. 장 의원은 “나날이 다양화되고 고도화되는 사회문화적인 현실 속에서 사회적 약자와 소수자에 대한 차별과 혐오를 단호히 금지하는 제도적 안전장치를 확립해야 할 책무를 21대 국회는 더 이상 외면해서는 안 된다”면서 이낙연 더불어민주당 대표에 차별금지법 제정을 논의하자고 제안했다. 윤창수 기자 geo@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

뮤지컬 ‘마리 퀴리’가 제5회 한국뮤지컬어워즈 대상을 비롯한 5개 부문 수상의 영예를 안았다. 11일 서울 용산구 블루스퀘어 신한카드홀에서 열린 한국뮤지컬어워즈 시상식에서 ‘마리 퀴리’는 대상과 프로듀서상, 연출상, 극본상, 음악상(작곡)을 수상했다. ‘마리 퀴리’는 노벨상을 두 번 수상한 과학자 마리 퀴리의 삶을 다룬 작품으로 이민자이자 여성으로 겪은 소외를 딛고 새로운 발견을 해나가는 마리 퀴리의 노력과 애환을 다각도로 그렸다. 트라이아웃을 거쳐 지난해 2월 7일부터 3월 29일 충무아트센터 중극장 블랙에서 공연됐고 다시 규모를 넓혀 지난해 7월 30일부터 9월 27일까지 홍익대 대학로 아트센터 대극장에서 성황리에 공연을 마쳤다. 특히 홍익대 대학로 아트센터에서의 연장 공연에서는 라듐 발견이라는 위대한 업적 뒤에 라듐의 위해성을 알고 고뇌하는 마리 퀴리와 동료들의 죽음에 감춰진 진실을 파헤치려는 안느 코발스키의 서사가 대폭 강화돼 더욱 탄탄한 스토리 라인을 완성했다. 두 여성이 서로 지지하고 연대하는 모습이 마음을 울려 대표적인 웰메이드 여성 서사극으로도 꼽힌다. 라이브 주식회사 강병원 대표는 “함께했던 배우, 창작진을 비롯한 스태프들께 진심으로 감사드리고 어려운 시기에도 마스크를 쓰고 무대를 지켜주신 관객들 덕분에 한 해를 버틸 수 있었다””고 밝혔다. 이어 “앞으로도 작품성 있는 창작 뮤지컬을 선보일 수 있도록 최선을 다하겠다”고 밝혔다. 강 대표는 ‘마리 퀴리’와 ‘팬레터’, ‘광주’를 제작하고 국내 뿐 아니라 해외 진출을 이뤄내 이날 프로듀서상도 받았다. ‘마리 퀴리’로 연출상을 수상한 김태형 연출은 “마리 퀴리는 노벨상을 두 번이나 수상한 위대한 과학자이지만 여성이자 이주민이고 가난했다. 차별과 혐오, 편견을 온몸으로 뒤집어썼다”면서 “마리 퀴리는 그럼에도 헤쳐나갔다. 우리가 얻어야 할 건 두려움이 아니라 두려움을 이해하려는 노력이다. 두려움, 무지에서 차별과 혐오가 나온다. 이해하고 받아들이려고 애쓰고 나아간다면 이겨낼 수 있다고 생각한다”고 강조했다. 이날 남녀주연상은 ‘썸씽로튼’ 강필석과 ‘렌트’ 김수하에게 각각 돌아갔다. ‘마리 퀴리’와 함께 8개 부문에 최다 후보로 올랐던 ‘썸씽로튼’은 남자주연상과 남자조연상(서경수), 음악상(편곡·음악감독) 등 3개 부문에서 수상했다. 김수하는 신인상을 받은 지 1년 만에 주연상을 꿰차 더욱 박수를 받았다. 여자 조연상은 ‘차미’ 이봄소리가 받았다. 남녀신인상은 ‘스웨그에이지: 외쳐, 조선!’ 이준영, ‘어쩌면 해피엔딩’ 한재아가 각각 수상했다. 작품상 400석 이상은 ‘스웨그에이지: 외쳐, 조선!’, 작품상 400석 미만은 ‘리지’에 돌아갔다 허백윤 기자 baikyoon@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr