혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

경기 양평군이 정동균 군수의 핵심 공약인 ‘양평 토종 자원 클러스터 사업’을 본격화 한다. 양평군은 토종씨앗 산업화를 위해 2025년까지 120억원을 투입해 ‘토종농작물 클러스터 사업’을 추진한다고 12일 밝혔다. 군은 이를 위해 올해 청운면 가현리 하천부지 3만4000㎡에 ‘토종씨앗 거점단지’를 조성할 예정이다. 거점단지에는 채종포(採種圃)와 스마트팜을 설치해 198종의 토종농작물을 재배하고 농가에 보급할 계획이다. 앞서 군은 지난해 양평참밀, 양평완두콩, 대추밤콩, 조선배추 등 지역에서 자라는 198종의 토종농작물 씨앗을 수집했다. 토종씨앗에는 노인도, 대궐도, 다다조 등 벼 품종도 포함됐다. 또 양평군 토종 씨앗보전연구회를 결성해 토종씨앗과 토종 농산물에 관심을 가진 지역 주민들을 대상으로 교육을 진행하고 있다. 군은 거점단지를 기반으로 생산-가공-유통 시스템을 구축하고 토종농산물 브랜드 개발, 토종전문가 육성, 문화콘텐츠 개발 등에 나설 방침이다. 군은 토종농산물 클러스터 사업을 위해 농업기술센터에 토종자원팀을 신설했으며 ‘토종농산물 보존과 육성에 관한 조례안’도 입법 예고한 상태다. 군은 올 가을쯤 양평의 토종 씨앗으로 처음 수확한 농산물로 만든 ‘토종씨앗 500인분 밥상’행사를 개최할 예정이다. 정동균 양평군수는 “양평군은 지난 10년간 친환경농업에 있어 탄탄한 브랜드를 구축해왔다”며 “토종농작물 브랜드화를 통해 포스트 코로나 시대의 소득 창출과 함께 제2의 도약을 이루겠다”고 말했다. 김병철 기자 kbchul@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

‘재외국민 특별전형 3년특례 적용시 코로나19로 인한 자가격리로 국내 체류한 경우 해외체류기간으로 인정해 달라.’(민원사례) ‘재외국민 특별전형 자격조건 특례를 신설해 대학이 코로나19 상황을 참작해 자격조건을 판단할 수 있도록 근거 마련’(개선사항) 국민권익위원회는 12일 지난해 민원분석시스템을 통해 수집된 민원들 가운데 국민불편을 야기하는 사례 134건을 가려내 관련 기관에 제공했고, 이가운데 107건이 제도 개선 등 정책에 반영됐다고 밝혔다. 권익위는 “국민 불편사항을 찾아내 관계기관에 알리면 해당 기관은 제도·정책 개선, 실태 조사 및 점검 등으로 이를 개선하고 있다”면서 “지난해에는 제도 개선으로 활용된 비율이 63.6%로 가장 많았다”고 밝혔다. 업무참고용으로는 19.6%, 조사점검으로는 10.3%가 활용됐다. 지난해 8월에는 낚시어선 출항시 제출하는 승선자 명부를 손으로 직접 작성해야 하는 불편함을 호소하는 민원이 접수돼 민간의 바다낚시 앱과 해양수산부의 앱을 연계해 승선자 명부를 전산화하기도 했다. 또 상하수도 요금 부과시 다자녀 가구에 대한 배려가 필요하다는 민원이 접수돼 3자녀 이상 가구에 대해서는 사용료를 감면하도록 개선되기도 했다. 세종 박찬구 선임기자 ckpark@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

익명으로 신종 코로나바이러스 감염증(코로나19) 진단검사를 받을 수 있는 임시 선별검사소에서 스마트폰으로 간편하게 문진표를 제출할 수 있도록 한다. 질병관리청은 12일 수도권 지역 임시 선별검사소에서 전날부터 검사 희망자가 QR코드로 문진표를 직접 제출할 수 있게 됐다고 밝혔다. 지금까지는 일반 선별진료소나 임시 선별검사소에서는 방문자가 종이에 수기로 작성한 문진표를 담당자가 시스템에 일일이 옮겨 입력하는 방식을 사용하고 있었다. 그러나 의료 인력의 과중한 업무 부담을 야기하고 검사 시간을 지연시킨다는 문제가 제기돼왔다. 질병청은 우선 임시 선별검사소부터 전자 문진표 제출 방식을 도입한 뒤, 추후 일반 선별진료소로도 이를 확대할 예정이다. 검사 희망자는 전자문진표에 휴대전화 번호·성별·연령대·체온·검사방법·증상·개인정보 수집 동의 여부를 기재하면 된다. 정은경 질병청장은 “이번 제도 개선으로 지방자치단체 및 의료 인력의 업무 피로가 조금이나마 줄어들기를 바란다”며 “앞으로도 임시 선별검사소 업무가 원활하게 운영될 수 있도록 국민 여러분의 많은 협조를 부탁드린다”고 말했다. 곽혜진 기자 demian@seoul.co.kr

지난해 신종 코로나바이러스 감염증(코로나19)의 확산 상황 속에서도 해외 비즈니스를 기반으로 하는 사업인들은 세계 곳곳 고객사와 소통하기 위해 노력해 왔다. 글로벌 비즈니스 분야에서 소통은 여전히 사업 내용의 당락을 좌우하는 핵심 요소로 작용하고 있다. 이러한 가운데 해외 통역사 매칭 어플리케이션 ‘위지니’는 클릭 한 번으로 손쉽게 현지 통역사를 구할 수 있는 장점으로 주목을 받고 있다. 위지니는 다양한 국가의 전문 해외현지통역사를 연결해주는 서비스로, 전 세계 언어 통역을 가능케 하며 비즈니스의 성공을 이끄는 파트너 역할을 자처하고 있다. 현재 통역 가능 국가는 베트남과 라오스, 인도네시아와 말레이시아 등이 있다. 또한 태국과 캄보디아, 미얀마와 몽골은 물론 러시아 및 우크라이나, 아제르바이잔과 카자흐스탄을 포함해 아르메니아, 조지아(그루지아) 등까지 총 25여개국이다. 위지니는 보편화된 언어인 영어권 국가뿐 아니라 전문적인 통역이 필요한 비영어권 국가의 통역 서비스를 다수 제공해 다양한 비즈니스 고객들의 수요를 충족시키고 있다. 또한 계약 관련, 경제, 금융, IT 및 미디어, 법률과 마케팅, 예술과 교육 등 여러 분야와 관련된 현지 통역사를 보유하고 있어 보다 정확도 높은 통역을 실시한다. 이러한 통역사 인력 풀(pool)은 1000명에 이른다. 코디네이터와 보통-고급으로 구분된 통역사들은 필요한 업무에 따라 적재적소에 투입할 수 있다. 모든 업무에 관해 비서 역할을 하는 코디네이터는 통역 중급 이상의 실력에 공항 픽업, 서류대행, 번역업무 등을 대행한다. 혹여 비즈니스와 의뢰인 수행 통역, 전화 통역 서비스, 무역 관련 기타 파트너사 회의 등을 진행하는 경우라면 보통 등급의 통역사와 연결이 가능하다. 기술 통역 및 기타 무역에 관한 프레젠테이션, MOU 체결과 행사 진행, 고위 인사 진행 등을 전문 통역하는 경우에는 고급 등급의 전문 통역사를 배치할 수 있다. 이와 함께 위지니는 현지법인 설립의뢰 및 고객 맞춤 해외 시장 조사 등의 서비스도 마련하고 있다. 해외 17개국 전문 컨설팅 업체와 함께 전문 변호사 및 회계사를 통한 법인 설립을 지원한다. 맞춤형 해외 시장 조사 서비스는 각 분야별 간단한 기초조사부터 심층조사까지 필요한 자료들을 정확하고 확실하게 수집해 전달한다. 수도 정보와 언어, 인구, 종교의 정보를 한 눈에 알아볼 수 있는 국가별 정보 및 외교부 홈페이지 연결로 해당 국가의 안전 여행 정보까지 제공한다. 또 주요 여행지, 음식점 등의 API 연동을 통해 여행지와 식당, 호텔 등에서 앱을 연계할 있도록 하는 등 폭 넓은 서비스도 마련하고 있다. 위지니 나상백 대표는 “최근에는 국내를 벗어나 해외기업 및 외국인을 위한 영문버전을 추가했으며, 이로써 외국인도 자사 앱을 통해 통역사를 매칭할 수 있도록 서비스를 확장했다”며 “앞으로 더 나아가 총 50여개 국가로 통역 가능 국가를 넓히며, 비즈니스 파트너들의 성공적인 해외 출장의 길라잡이 역할을 수행해 나갈 것”이라고 전했다. 온라인뉴스부 iseoul@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

로켓을 사용해 우주선을 한 번 띄우려면 막대한 비용이 들어간다. 따라서 인류가 앞으로 진출할 화성에 보낼 물자는 한정돼 있는 것이 현실이다. 그렇다면 화성에서 탐사 임무를 수행할 로봇이 고장 났을 때 수리할 부품은 어디에서 가져가야 하는 것일까. 미국 펜실베이니아대 그랩스(GRASP) 연구실은 지난 5일(현지시간) 연구실 소속 데빈 캐럴 박사와 마크 임 부교수가 이 과제에 관한 해결책으로 ‘얼음으로 만든 로봇’(Robots Made From Ice)을 제시했다고 밝혔다.발표에 따르면, 얼음은 화성에서도 쉽게 구할 수 있어 이를 재료로 하면 현지에서 부품을 교환하거나 수리할 수 있다. 이런 행성과 같이 물자가 제한된 환경에서 활동을 계속해 나가려면 자기 재구성과 자기 복제 그리고 자기 복구가 가능한 로봇 개념을 검토해야 한다. 이에 따라 캐럴 박사와 임 부교수는 이 과제에 임하는 첫 걸음으로 현지에서 조달할 수 있는 에너지와 재료에 주목했다. 우선 로봇을 움직이는 전력은 태양광 발전을 통해 얻을 수 있다. 이는 기존 화성 탐사로봇에도 적용돼 있기에 확실하다고 할 수 있다. 그다음으로 로봇의 본체나 바퀴에는 화성에도 존재하는 얼음을 채택한다. 이에 따라 만일 본체나 바퀴가 파손됐다고 해도 수리할 부품을 주위에서 쉽게 구할 수 있는 것이다. 다만 전지와 전자 기기 그리고 모터 등 핵심 부품은 얼음으로 만들 수 없어 이런 것은 지구에서 추가로 보내는 보충 물자에 의존해야 한다.이번 연구는 얼음으로 만든 로봇을 기온이 낮은 지역에서 운용하는 것을 전제로 삼고 있다. 로봇에 의해 생성되는 열기 탓에 스스로 녹지 않으려면 기온이 매우 낮아야 하기 때문이다.또 얼음으로 만드는 부품을 가공하는데는 3D 프린트나 CNC 가공(컴퓨터 수치 제어에 의한 기계 가공)보다 드릴로 깎는 단순한 가공 방법이 가장 에너지 효율이 높고 효과적인 것으로 확인됐다. 참고로 얼음으로 된 타이어와 금속으로 된 축 베어링을 결합하는 부분에서는 얼음의 재결합 특성을 이용하면 된다.공개된 영상에서는 이들 연구자가 만든 중량 6.3㎏의 얼음 로봇을 시험 운전하는 모습이 담겨 있는데 상온에서도 금세 녹지 않는 것을 보여준다.현재 연구 단계에서는 이런 얼음 로봇에 자기 복구 기능이 있는 것은 아니다. 단지 행성에서도 구하기 쉬운 재료를 이용하고 있을 뿐인 것이다. 하지만 캐럴 박사와 임 부교수는 앞으로 두 가지 방법으로 복구 기능을 갖출 수 있을지도 모른다고 생각한다. 첫 번째는 얼음 로봇에 스스로 주변을 탐색해 복구하는 데 필요한 얼음을 수집하는 기능을 갖게 하는 것이다. 그리고 나머지 하나는 얼음 로봇 자체에 자기 복구 기능을 갖추는 것이다. 본체에 균열이 생기면 자동으로 얼음 반창고를 사용해 균열을 밀폐, 더는 균열이 퍼지지 않도록 해야 한다. 연구진은 "얼음 로봇이 구상 초기 단계에 있다"면서 “자기 복구 로봇을 실현하려면 아직 갈 길이 멀었지만 앞으로도 이를 개선해 나갈 것”이라고 말했다. 자세한 연구 결과는 지난해 10월 29일 세계로봇학술대회(IROS·IEEE/RSJ International Conference on Intelligent Robots and Systems)2020에서 공개됐다. 윤태희 기자 th20022@seoul.co.kr

코로나19에 걸려 치료를 받았던 환자 대부분이 퇴원 뒤 6개월이 지나도 후유증에 시달린다는 연구 결과가 나왔다. 11일 사우스차이나모닝포스트(SCMP)에 따르면 중국 베이징 소재 병원에서 근무하는 차오빈 박사 연구팀은 지난 8일 의학저널 ‘랜싯’에 기고한 논문에서 이같이 밝혔다. 연구팀은 감염병이 처음 보고된 후베이성 우한의 진인탄 병원에서 퇴원한 환자 1733명(중위연령 57세)을 추적조사했다. 이에 따르면 퇴원자 가운데 76%가 6개월 뒤에도 한 가지 이상 후유증을 앓고 있었다. 가장 흔한 후유증으로는 피로와 수면장애가 꼽혔다. 3분의 1 이상은 신장 기능에 문제가 생겨 혈액 속 노폐물이 쌓이고 얼굴이 붓는 증세가 나타났다. 수백명은 퇴원한 뒤에도 제대로 호흡이 힘들 만큼 폐가 손상됐다. 4분의 1 정도는 우울증과 불안감을 호소했다. 바이러스로 인한 뇌신경 손상 때문인지 아니면 충격적 경험으로 인한 외상후스트레스장애(PTSD)인지 정확히 알 수 없었다고 전했다. SCMP는 이번 연구가 코로나19 장기 후유증에 관한 연구 가운데 가장 규모가 크고 6개월 이상 추적조사한 첫 사례라고 전했다. 다만 이 병원에 입원한 환자들은 모두 중증환자라는 사실을 감안할 필요가 있다고 SCMP는 덧붙였다. 한편, 감염병의 기원을 조사할 세계보건기구(WHO) 국제조사팀이 우여곡절 끝에 이번 주 중국을 방문한다. 이날 신랑망에 따르면 중국 국가위생건강위원회는 WHO의 바이러스 기원 조사팀이 14일 방중한다고 밝혔다. 국가위생건강위원회 측은 “WHO와 합의를 거쳐 코로나19 기원을 연구하는 국제전문가팀이 14일 방중해 조사하게 된다”면서 “중국 측 전문가들도 감염병 기원을 밝히는데 함께 연구 협력을 진행할 예정”이라고 설명했다. 앞서 다국적 전문가로 구성된 WHO 조사팀은 지난 5일 중국에 도착해 현지에서 수집한 바이러스 샘플과 감염자 인터뷰 등을 토대로 코로나19의 기원을 추적할 예정이었다. 그러나 중국 정부가 비자 문제 등을 이유로 조사에 비협조적으로 나오자 그간 중국에 우호적이던 테워드로스 아드하놈 거브러여수스 WHO 사무총장조차 비판의 목소리를 냈다. 미국과 호주 등 서방 국가들은 중국이 코로나19 바이러스의 발원지라는 점을 강조하며 책임을 져야 한다고 주장한다. 반면 중국은 바이러스가 수입 냉동식품 등을 통해 유럽에서 유입됐다며 “우한은 코로나19가 처음 발견된 곳이지 기원한 곳은 아니다”라는 입장이다. 최근 SCMP는 중국 질병통제센터(CDC)의 혈액 검사 결과를 인용해 “바이러스가 처음 유행한 우한에서 실제 감염자가 공식 통계보다 10배 많은 50만명에 달할 수 있다는 사실을 암시하는 조사 결과가 나왔다”고 보도하는 등 논란이 끊이지 않고 있다. 베이징 류지영 특파원 superryu@seoul.co.kr/

지구물리학연구지(Geophysical Research Letters)에 발표된 한 연구에 따르면, 붉은 행성 화성은 자전축을 중심으로 회전하면서 좌우로 흔들리고 있다는 것이 밝혀졌지만, 천문학자들은 그 이유를 규명하지 못하고 있다. 도는 팽이가 회전 속도가 떨어지면서 꼭대기가 흔들리는 것처럼 화성의 극은 자전축에서 약간 멀어지는 현상을 보이는데, 200일 정도마다 중심에서 약 10cm 이동한다고 연구진은 보고했다. AGU(American Geophysical Union) 뉴스 블로그인 Eos.org.에 따르면, 화성은 이로 인해 우주에서 두 번째로 챈들러 요동(Chandler wobble)을 하는 행성으로 밝혀졌다. 첫번째는 지구라고 한다. 챈들러 요동이란 1891년 미국의 세스 챈들러가 발견한 지구 자전축의 주기적인 이동 현상을 가리킨다. 지구는 대략 433일을 주기로 자전축이 지표면을 기준으로 9m 이동한다. 이는 지구가 완전한 구체가 아니라 약간 비정형인 구체이기 때문에 일어나는 현상이다. Eos에 따르면, 지구 자전축의 불안정한 흔들림이 지구에 미치는 영향은 미미하지만 여전히 풀리지 않는 수수께끼를 제시하고 있다. 과학자들의 계산서에는 흔들림이 시작된 지 한 세기 이내에 자연적으로 사라져야 하는 것으로 나와 있지만, 현재 그 흔들림은 사라지기는커녕 더욱 강해지고 있다는 것이다. 대체 무슨 이유일까? 이에 관해 2001년에 발표된 한 연구에 따르면, 그것은 지구 대기와 해양의 압력 변화가 복합적으로 작용하여 흔들림에 지속적으로 에너지를 공급하고 있기 때문이라고 제안했다. 그러나 그 정확한 메커니즘은 아직까지 밝혀지지 않고 있다. 지구의 경우와 달리 화성의 자전축 이동은 과학자들을 더욱 당혹스럽게 하고 있다. 화성에는 지구처럼 바다가 없을 뿐 아니라, 대기도 지구의 대기 밀도와 비교하면 1/100 정도로 매우 낮다. 연구진은 화성 궤도를 도는 3개의 탐사위성(화성 오디세이, 화성 정찰궤도선, 마스 글로벌 서베이어)에서 수집한 18년치 데이터를 사용하여 화선 자전축의 흔들림을 감지했다. 그리고 화성의 극에서 일어나는 이 작은 움직임은 자연스럽게 해결되어야 한다는 계산서를 뽑아냈지만, 현실은 그와 반대로 흔들림은 더욱 심해지고 있는 것으로 보인다. Eos에 따르면 바다가 없는 화성의 자전축 이동 현상은 대기압 변화가 유일한 원인일 수 있지만, 아직도 그 정확한 메커니즘은 규명되지 않고 있다. 따라서 연구진은 화성의 기압 변화에 대해 추가 연구에 들어갈 게획이다. 이광식 칼럼니스트 joand999@naver.com　

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

신종 코로나바이러스 감염증(코로나19)의 기원을 조사하기 위해 세계보건기구(WHO) 국제조사팀이 이번 주 중국을 방문한다. 코로나19 발원지가 중국 우한이라며 ‘중국 책임론’이 꾸준히 제기되는 가운데 WHO 조사팀이 어떤 결론을 낼지 주목된다. 중국 국가위생건강위원회는 WHO의 코로나19 기원 조사팀이 14일 방중한다고 밝혔다. 국가위생건강위원회 측은 “WHO와 합의를 거쳐 코로나19 기원을 연구하는 국제전문가팀이 14일 방중해 조사하게 된다”면서 “중국 측 전문가들도 연구 협력을 진행할 예정”이라고 설명했다. 당초 조사팀은 지난 5일 중국에 도착해 현지에서 수집한 바이러스 샘플과 감염자 인터뷰 등을 토대로 코로나19의 기원을 추적할 예정이었다. 그러나 중국 정부가 비자 문제 등을 들며 입국을 지연시키자 테워드로스 아드하놈 거브러여수스 WHO 사무총장이 나서서 공개적으로 비판했다. 이에 중국은 WHO와 합의된 ‘방문 날짜에 오해가 있었다’며 재입국 날짜에 관한 논의가 진행 중이라고 해명했다. 그간 중국은 코로나바이러스가 수입 냉동식품 등을 매개로 유럽에서 유입됐다며 우한은 코로나19가 처음 발견된 곳이지 기원한 곳은 아니라고 주장해왔다. 앞서 WHO는 두 차례 중국 현지 조사를 진행한 바 있지만, 명쾌한 답을 내놓지 못했다. 곽혜진 기자 demian@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

추락한 인도네시아 여객기 탑승객들의 기구한 사연이 전해졌다. CNN은 9일(현지시간) 인도네시아 자카르타 앞바다에서 실종된 스리위자야항공 여객기 희생자들의 이륙 전 상황을 전했다. 이날 오후 2시 40분쯤, 자카르타 외곽 수카르노하타 공항에서 출발한 스리위자야항공 여객기가 이륙 4분 만에 실종됐다. 사고 당시 여객기는 관제탑에 아무런 비상 신호를 보내지 않았고, 연락 두절 직전 60초 동안 1만 피트 이상 급강하했다. 추락 여객기에는 성인 40명과 어린이 7명, 유아 3명 등 승객 50명을 포함해 모두 62명이 탑승해 있었다.부친 장례 후 돌아가는 길…코로나 검사로 뒤바뀐 운명 무하마드 누르콜리파툴 아민과 아구스 미나르니 부부 역시 사고기에 타고 있었다. 이들 부부는 자카르타 포노로고에서 아버지 장례식을 치르고 돌아가는 길이었다. 유가족에 따르면 애초 사고기가 아닌 남에어라는 다른 항공사 여객기를 타고 돌아갈 예정이었지만, 공항에서 발이 묶여 항공편이 변경됐다. 유가족은 “예정대로면 남에어 여객기를 타고 5일 돌아갔어야 했다. 하지만 공항에서 코로나19 검사를 받아야 한다는 통보를 받고 결과를 기다리느라 출발이 지연됐다”고 설명했다. 우여곡절 끝에 다시 예약한 비행기가 바로 사고기인 스리위자야항공 여객기였다고 덧붙였다.임산부와 2살 딸, 8살 조카까지 일가족 참변 임신 4개월의 라티 인다니아는 2살 딸, 8살 조카를 데리고 비행기에 올랐다 참변을 당했다. 자카르타로 들어갈 당시 수리위자바항공 여객기에서 찍은 사진 속 인다니아는 다가올 비극은 알지 못한 채 아이들과 환한 미소를 짓고 있다. 수마트라섬 출신 리즈키 와위디(26) 인다 할리마 푸트리(26) 부부, 그리고 7살 난 아들 아르카나 나디프 와위디도 이번 사고로 희생됐다. 와위디 할머니와 사촌 등 일가족 5명이 모두 실종 상태다. 요하네스 수헤르디(30)는 자카르타에서 출장을 마치고 보르네오섬 폰티아낙 자택으로 돌아가던 길에 사고를 당했다. 아내 수실라와티 분가릴리아(32)는 CNN과의 인터뷰에서 “남편의 마지막 메시지가 아픈 아들을 꼭 병원에 데려가 보라는 말이었다”고 오열했다. 5살짜리 아들이 아버지 언제 집에 오시느냐고 계속 묻는다며 슬퍼했다.인도네시아 국가수색구조청은 현재 여객기가 추락한 것으로 추정되는 지점에 잠수부를 투입하고 집중 수색 중이다. 현장에서는 여객기 파편과 신체 일부, 옷가지 등 유류품이 속속 발견되고 있다. 사고 당시 굉음을 들은 어부들도 비행기 동체 파편과 청바지, 머리카락 등을 발견해 수색 당국에 인계한 것으로 알려졌다. 구조 당국은 실종 직전까지 아무런 구조 신호도 보태지 않은 여객기의 사고 원인을 밝히기 위해 블랙박스 회수에 주력하고 있다.스리위자야항공은 자카르타에 본사를 두고 19대의 여객기를 운용하는 저비용항공사이다. B737-500 기종인 사고기는 1994년 5월 처음 등록돼 26년간 운항한 것으로 확인됐다. 현지 매체들은 ‘여객기 노후’를 사고원인 중 하나로 의심하고 있으나 스리위자야항공 측은 여객기 상태가 양호했다고 주장한다. 항공사 책임자는 “이륙이 예정보다 30분 늦어졌지만 이는 폭우 때문이지 기체에는 이상이 없었고, 기체 상태도 양호했다”고 말했다. 이와 관련해 미국 보잉사는 “추락 사고와 관련해 스리위자야항공과 접촉 중이며 그들을 지원할 준비가 돼 있다”며 “더 많은 정보를 수집하기 위해 노력 중”이라고 밝혔다.　권윤희 기자 heeya@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

엄혹한 코로나19 상황 속에서 따뜻한 연대로 위기를 극복하는 사람들의 이야기를 담은 방송들이 눈길을 끈다.EBS 1TV는 11~13일 밤 9시 50분 코로나19 속 일상을 버티는 평범한 사람들의 모습을 전하는 신년기획 ‘듣고 보고 라디오’를 방영한다. 총 3부작으로 기획한 프로그램은 전국 방방곡곡을 돌며 코로나19로 변화한 사회에서 힘겹게 살아가는 이웃들의 이야기를 듣는다. 이야기 수집가로는 배우 김현숙과 권혁수가 나선다. 1부 ‘그대여서 고마워요’는 절망 속에서도 울타리가 돼 주는 가족의 이야기를 담았다. 과거 폭주족이었지만 4형제를 키우며 달라진 모습으로 ‘투잡’을 뛰는 가장, 비대면 면회에 생이별하게 된 노부부, 코로나19 여파로 실직한 아빠, 희소병 근이영양증을 앓는 오빠와 그를 지켜주는 동생도 서로의 버팀목이다. 2부 ‘아름다운 사람’은 얼어붙은 사회 분위기에도 계속되는 이웃들의 온정을 주제로 한다. 아이들의 끼니를 챙겨 주고자 출발한 푸드트럭, 생활 터전인 복싱 체육관을 지키기 위해 아르바이트를 하는 관장, 31년째 교도소에 있는 여성의 사연, 수해로 집과 소를 잃은 할머니, 국제시장에서만 50년 역사를 가진 가게를 정리하게 된 이들을 조명한다. 3부 ‘나에게 물어본다’는 위기를 극복해 나가는 사람들을 만난다. 모두가 힘든 시기 평생 모은 전 재산을 기부한 할아버지의 따뜻한 마음부터 코로나19로 직장을 잃고 귀농한 사람, 10년간 항공 조종사의 꿈을 위해 노력했으나 위기에 놓인 청년, 6년차 취업준비생의 취업난과 생활고 등 가슴 아픈 사연까지 다룬다. 앞서 9일 밤 11시 40분 KBS 1TV ‘다큐ON’은 ‘감염병 시대 사회적 의료를 말한다’를 주제로 온정 넘치는 의료계 현장을 보여 줬다. 코로나19가 집어삼킨 지난해에는 가난하고 소외된 이들과 고령층이 상대적으로 더 고립될 수밖에 없었다. 특히 기저질환이 있는 데다가 요양원 등 집단생활을 하는 노인들이 위험에 더 노출됐다. 방송은 내가 살던 곳에서 노후를 보낼 수 있게 하는 지역사회 돌봄 현장을 소개했다. 분절된 의료와 복지 서비스를 사람 중심으로 통합해 지원하는 서비스로, 지역 주민들이 출자한 의료복지 사회적 협동조합의 마을건강 돌봄 현장과 정부의 지역사회 통합 돌봄 시범사업 현장을 보여 줬다.복지 사각지대 속에 숨은 독거노인들을 찾아 긴급 돌봄을 실시하는 부천 의료복지 사회적 협동조합의 방문 진료 현장, 의료와 복지를 통합해 마을건강을 돌보는 협동조합, 소모임을 통해 건강을 관리하고 독거노인과 취약 계층을 위해 발로 뛰는 안산 의료 복지 사회적 협동조합의 모습도 담았다. 김지예 기자 jiye@seoul.co.kr