서울 성북구가 수도권 집합금지 시설 대상 방역 조치 조정 방향에 따라 지역 내 15개 공공도서관을 부분 개관했다고 27일 밝혔다. 재개된 서비스는 도서 대출 및 반납이다. 이용 시간은 도서관별 정기휴관일 및 법정 공휴일을 제외한 오전 9시부터 오후 6시까지다. 열람실 착석 및 독서문화 프로그램 운영은 추후 사회적 거리두기 단계에 따라 탄력적으로 재개할 예정이다. 특히 길음동 서울성북 미디어문화마루에 있는 글빛도서관은 지난해 개관 예정이었지만, 코로나19 확산으로 정식 개관식을 하지 못하고 부분 개관만 한 상태다. 글빛도서관은 정보통신기술(ICT)과 독서문화예술이 융합된 콘텐츠 개발지원과 협력을 통해 디지털미디어 인프라를 구축, 평생교육을 제공하는 도서관을 표방한다. 구 관계자는 “임시휴관 기간에 성북구 15개 공공도서관은 주기적으로 시설과 열람실을 방역하면서 코로나19 예방을 위해 힘써 왔다”면서 “비대면 안심도서대출을 통해 시민 불편을 최소화했다”고 말했다. 성북구는 비대면 서비스 활성화의 일환으로 모바일 앱을 통한 안심도서대출서비스 제공 시스템을 개발하고 있다. 코로나19 이후에도 이용자의 불편함을 줄이고 도서를 보다 안전하게 전달하기 위해서다. 이승로 성북구청장은 “코로나19로 인해 정식 개관이 늦어진 길음동 글빛도서관 등이 마음이 지친 구민을 위로할 순간을 기다리고 있었다”면서 “주민의 안전이 최우선인 만큼 방역수칙에 따른 부분 개관이지만 오셔서 위안과 희망을 얻으시길 바란다”고 말했다. 윤수경 기자 yoon@seoul.co.kr

국내 연구진이 오랫 동안 배터리 교체 없이 스마트폰으로 뇌 신경회로를 조절할 수 있는 장치를 개발했다. 카이스트 전기및전자공학부, 연세대 의대 공동연구팀은 동물을 이용해 장기간 뇌 기능 연구를 해야할 때나 중독 같은 정신질환, 파킨슨병 같은 퇴행성 뇌질환치료에도 적용할 수 있는 무선 충전 가능한 광(光)유전학 기술을 개발했다고 26일 밝혔다. 이번 연구결과는 기초과학 및 공학 분야 국제학술지 ‘네이처 커뮤니케이션즈’ 22일자에 실렸다. 광유전학은 빛을 이용해 특정 신경세포만 제어할 수 있는 기술로 현재는 뇌기능 연구에 많이 활용되고 있는데 각종 뇌질환 치료에도 도움을 줄 수 있을 것으로 기대되고 있다. 기존 광유전학 기술은 외부 장치와 연결된 광섬유를 뇌에 이식해 신경세포에 빛을 전달하는 방식이었다. 문제는 유선 방식의 광유전학 기술은 동물 실험시 움직임을 제한하기 때문에 복잡한 동물실험이 어렵다는 점이다. 이 때문에 최근에는 무선 광유전학 기술이 나오고 있지만 배터리 용량의 한계로 주기적으로 교체해야 하거나 무선으로 전력공급 받는 동안 동작이 안정적이지 못하다는 한계가 있었다. 이에 연구팀은 배터리 무선충전과 장치의 무선제어가 가능한 회로를 만들어 마이크로LED 탐침과 결합시켰다. 생체 이식후 기기에 의해 주변 뇌조직이 손상되는 것을 막기 위해 생체적합성 소재로 만든 이번 장치는 무게가 1.4g에 불과하고 실험대상이 움직이는 동안에도 배터리의 무선충전이 가능하고 스마트폰 어플리케이션(앱)으로 광자극을 조절할 수 있다. 연구팀은 이번에 개발한 생쥐의 두피 안으로 완전히 이식한 상태에서 실험한 결과 무선 충전이 가능하다는 것을 확인했다. 또 중독성 약물인 코카인에 중독되도록 한 생쥐의 뇌 부위에 무선으로 빛을 전달해 코카인 중독증상을 억제하는 것도 확인했다. 정재웅 카이스트 교수는 “이번에 개발된 장치는 체내에 이식한 뒤 무선 충전이 가능하기 때문에 배터리 교체를 위한 추가 수술이 필요 없이 반영구적으로 사용이 가능하다”며 “이번 기술은 뇌 이식용 장치 뿐만 아니라 인공 심박동기, 위 자극기 등 다양한 생체 이식용 기기에도 적용할 수 있을 것”이라고 말했다. 유용하 기자 edmondy@seoul.co.kr

경기도가 공개된 코로나19 확진자의 동선을 바탕으로 개별 접촉 위험도를 알려 주는 ‘코로나 접촉 위험 알림 서비스’ 애플리케이션을 개발해 다음달부터 도민들에게 제공한다고 24일 밝혔다. 이를 위해 도는 지난 18일부터 코로나 접촉 위험 알림 서비스를 공무원과 일부 도민을 대상으로 시범서비스를 운영하고 있다. 서울대와 협력해 개발한 ‘코로나 접촉 위험 알림’ 앱은 확진자의 경기 지역 내 동선과 이용자의 최근 2주간 이동경로를 분석해 겹치는 지점이 있으면 접촉 위험도를 판단해 자동 알람으로 알려 주거나 수시로 확인할 수 있도록 한다. 확진자의 도내 동선 정보는 경기도가 최근 개발한 ‘심층 역학조사서 DB’를 기반으로 앱에 제공돼 이용자의 접촉 위험도를 파악하는 데 활용된다. 이에 따라 확진자 접촉 의심자가 신속하고 선제적으로 검사를 받을 수 있고, 정보 부족으로 인한 도민들의 불안감도 줄일 수 있을 것으로 도는 기대했다. 다만 경기도가 제공한 확진자 동선 정보만으로 이용자의 개인 이동 궤적을 분석하다 보니 이 앱의 초기 버전은 경기도 이외 지역을 오간 확진자들과 비교한 접촉 위험도는 확인이 어려운 한계가 있다. 도 관계자는 “다른 시도로부터 해당 지역 이동경로를 담은 확진자 동선 자료를 받게 되면 접촉 위험도를 판단할 수 있는 지역의 범위가 확대돼 앱 활용도가 더욱 높아질 것”이라고 말했다. 이 앱은 2월 둘째 주 안드로이드 버전과 아이폰 버전으로 함께 출시되면 무료로 내려받을 수 있다. 서울대 산업수학연구센터가 개발한 ‘코로나 접촉 위험 알림 서비스’는 암호화 상태에서 데이터를 결합하고, 연산·분석을 진행해 개인정보 노출 위험이 적다. 이명선 기자 mslee@seoul.co.kr

경기도가 코로나19 확진자의 공개된 동선과 자신의 동선을 비교한 후 접촉 위험도를 알려주는 ‘코로나 접촉 위험 알림 서비스’ 앱을 개발해 다음달부터 시민들에게 제공한다. iOS 기기는 애플 앱스토어에서, 안드로이드 기기는 구글 플레이에서 무료로 내려받을 수 있다. 도는 지난 18일부터 코로나 접촉 위험 알림 서비스를 공무원과 일부 도민을 대상으로 시범서비스를 개시하고, 기능과 성능을 개선한 뒤 2월부터 본격적인 서비스를 제공할 예정이라고 24일 밝혔다. 이 서비스는 공개된 확진자의 동선과 사용자의 최근 2주간 동선을 비교해 위험도를 판단해 알려준다. 공개동선은 경기도가 최근 전국 최초로 개발한 ‘심층역학조사서 DB’를 기반으로 제공한다. 개인정보 노출 우려도 없다. 앱을 설치하면 GPS를 이용해 개인의 동선을 휴대전화에 저장하고 사용자의 선택에 따라 하루에 한 번 또는 수시로 동선이 겹치는지 확인해 볼 수 있다. 이로써 도민 개개인이 자발적으로 자가 격리와 진단검사 등 방역활동에 참여할 수 있게 됐다. 서울대 산업수학연구센터가 개발한 ‘코로나 접촉 위험 알림 서비스’는 암호화 상태에서 데이터를 결합하고, 연산·분석이 가능한 차세대 수학 기법이다. 미국 매사추세츠공과대(MIT)에서는 10대 차세대 기술로 분류했으며,생체정보와 금융정보 등 데이터 보안이 필요한 모든 영역에 적용할 수 있다. 동형 암호 원천기술을 보유한 곳은 국내에서는 서울대가 유일하며, 세계에서는 MS·MIT 등 5곳 밖에 없다. 임문영 도 미래성장정책관은 “현재는 최소한의 정보만 문자로 제공하고 있어 도민들의 문자 피로감은 높아지고 동선 관심은 낮아지고 있다”며 “경기도가 보유한 방역 데이터와 대학, 첨단 벤처기업 등 IT기술을 접목한 이 서비스 제공으로 도민들이 능동적으로 방역활동에 참여할 수 있도록 유도하고 도민 불안을 줄일 수 있기 바란다”고 말했다. 이명선 기자 mslee@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 이루다의 데이터베이스(DB)와 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기하기로 결정했다. 그러나 집단 소송을 준비하는 피해자들은 “이루다 DB가 아니라 ‘연애의 과학’으로 수집한 카카오톡 대화를 전부 폐기해야 한다”며 “그렇지 않으면 보관된 카톡 대화는 제2, 제3의 AI 챗봇을 통해 언제든지 되살아날 수 있을 것”이라며 반발했다. 스캐터랩은 15일 “이용자들의 불안감을 고려하여 이번 인공지능 ‘이루다’의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 했다”는 내용을 발표했다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 개인정보보호법 위반 여부를 조사하고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다. 연인들 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹도 받고 있으며, 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 ‘깃허브’에 공유한 사실도 확인됐다. 스캐터랩은 “조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다”고 밝혔다. 그러면서 비식별화 조치가 제대로 이뤄졌기 때문에 개인정보 유출은 없었다는 설명을 되풀이했다. 스캐터랩은 “이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다”며 “딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다”고 설명했다. 이어 “기존 연애의 과학과 텍스트앳에서 이용자의 동의를 받고 수집되었던 기존 데이터는 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후, 해당 이용자의 데이터를 모두 삭제할 예정이며, 이는 향후 딥러닝 대화 모델에도 이용되지 않는다”며 “관련 후속 조치는 각 어플리케이션 공지를 통해 안내 받을 수 있으며, 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이다”라고 밝혔다. 최영권 기자 story@seoul.co.kr

국민 10명 중 7명은 ‘지켜보다가’ 코로나19 백신 접종을 받겠다는 신중한 태도를 취하고 있는 것으로 조사됐다. 백신에 대한 불신이 가장 큰 이유인데, 신뢰도를 높이지 못한다면 겨울이 시작되는 11월 말 전에 집단면역을 형성하지 못할 수 있다는 우려가 나온다. 14일 서울대 보건대학원 유명순 교수팀이 성인 1094명을 대상으로 지난 8~10일 시행한 인식 조사에 따르면 응답자의 67.7%는 ‘(백신을 )지켜보다가 맞겠다’고 답했다. 빨리 맞겠다는 비율은 28.6%였다. 또 82.4%가 ‘백신이 개발·출시된 지 얼마 안 돼 타인에게 어떻게 작용하는지 지켜봐야 한다’고 답했고, 78.0%는 ‘부작용이 걱정된다’고 했다. 40.4%는 ‘기대와 두려움이 반반’이라고 답했다. 미국은 백신 불신 등이 걸림돌이 돼 지난해 말 접종을 시작하고도 전 국민의 2~3%, 프랑스는 0.2%밖에 접종하지 못했다. 그래도 우리나라는 ‘백신 접종을 절대 받지 않겠다’는 응답이 1.8%에 그쳐 백신 거부감이 덜한 편이나 안심할 수는 없다. 백신과의 인과관계가 입증되지 않아도 접종 후 이상반응이나 사망사례가 나온다면 불안감에 접종 거부자가 속출할 수 있어서다. 특히 우선접종 대상자가 요양병원·시설 입소자 등이어서 ‘오비이락’ 격으로 접종 후 기저질환 등에 의한 사망사례가 얼마든지 나올 수 있는 상황이다. 최원석 고려대 안산병원 감염내과 교수는 “이상반응이 나타났다면 백신과 인과관계가 있는지 빨리 밝혀 우려를 해소해야 한다”며 “특히 접종 초기 고령자 등 고위험군에게 접종할 때는 임상반응 평가팀을 투입해 즉각적인 조사와 빠른 판단이 이뤄지도록 해야 한다”고 말했다. 전문가들은 백신 접종을 ‘나무 심기’에 비유한다. 나의 건강을 지키는 일이기도 하지만 나무 한 그루 한 그루가 모여 숲을 이뤄야 집단면역이 형성돼 모두의 건강을 지킬 수 있다는 의미다. 당정은 이날 국회에서 ‘국난 극복 K뉴딜위원회 점검회의’를 열고 다음달 백신 접종이 시작되면 접종 대상자에게 휴대전화 앱으로 접종 일정 등을 안내하겠다고 밝혔다. 당정에 따르면 고령자 등 우선접종 대상자 백신 접종은 오는 9월 말까지 끝내고, 건강한 19∼49세 일반 성인 대상 백신 접종은 9월부터 시작할 예정이다. 한편 셀트리온의 항체치료제 ‘렉키로나주’는 고연령·고위험 환자들에게 우선 투약된다. 국립감염병연구소는 조건부 허가 승인 전이라도 의료진 판단에 따라 고연령·고위험 환자에게 치료제를 투여하는 연구자 임상시험을 진행하겠다고 밝혔다. 식품의약품안전처는 렉키로나주를 검증할 외부 전문가를 투입해 3중 자문 절차를 마련했다. 렉키로나주는 2월 초 식약처 사용 허가를 받을 전망이다. 이현정 기자 hjlee@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 지난 13일 자사 앱 ‘연애의 과학’에서 심리 테스트 명목으로 수집한 개인정보 1700건을 온라인에 15개월 간 무단 유출한 것에 대해 인정하고 사과했다. 스캐터랩은 논란이 된 카카오톡 대화 내용 수집 절차에 대해선 “적법했다”는 기존 입장을 되풀이 했다. 또 “원하는 사용자에 한해 데이터를 폐기하겠다”고 밝혀 아직 피해를 인지하지 못한 제3자의 개인정보는 데이터베이스(DB)에 그대로 남아 있게 된다. 집단 소송을 준비하는 피해자들은 “카톡 대화를 AI 개발에 사용하는데 동의한 적 없다”며 “나머지 데이터도 전면 폐기하라”고 요구하고 있다. ‘연애의 과학’ 앱 이용자들은 연인과 나눈 최소 수개월치의 카카오톡 대화를 전송하면서 별다른 동의 절차를 밟지 못했다. 앱 이용자의 카톡에 있던 집주소, 예금주명이 포함된 계좌번호, 건강정보 등 개인정보 다수가 지난달 23일 출시한 이루다와 채팅한 제3자에게 유출됐다는 의혹을 받고 있다. 민변 디지털정보위원회, 정보인권연구소 등 시민단체들은 지난 13일 “‘개발’에만 치중한 AI산업육성, ‘이루다’는 예정된 참사”라는 제목의 성명문을 내고 “특정 상대방과 나눈 카카오톡 대화를 전부 수집한 건 각각의 사항을 알리고 명시적으로 동의를 받도록 한 개인정보보호법 위반”이라고 했다. 스캐터랩은 앱 로그인 초기화면에 있는 ‘로그인함으로써 개인정보 처리방침에 동의합니다’라는 문구 하나로 동의가 충분했다고 판단했다. 개인정보처리방침에는 연애의 과학이 제공하는 서비스 이외에 ‘신규 서비스 개발 및 마케팅·광고에의 활용’이 있다. 개인 카카오톡 100억건을 활용해 이루다를 만든 것이 신규 서비스 개발에 포함된다고 본 것이다. 시민단체는 “‘신규 서비스 개발과 마케팅·광고 활용’이 연애의 과학 앱을 이용하기 위한 필수정보인지 의문”이라며 “필수정보가 아닌 개인정보 수집·이용에 대해서는 이용자의 선택을 보장해야 한다”고 했다. 국내 한 유니콘 스타트업 관계자는 14일 서울신문과의 통화에서 “신규서비스 개발이라는 단 한 줄로 포괄적인 동의를 받았다고 보기에는 부족해보인다”며 “업계에서 개인정보를 가볍게 여기는 문화가 퍼질까 우려된다”고 말했다. 김가연 오픈넷 변호사도 “카카오톡 대화를 제공 받기 위해 동의를 받는 과정은 명백히 개인정보보호법 위반”이라고 말했다. 또 다른 국내 스타트업 최고기술책임자(CTO)는 이날 “전문가의 법적 자문을 구했으면 좋았을 것”이라며 “이용자들에게 구체적으로 동의를 구하는 절차를 만들 필요가 있다”고 말했다. ‘이루다를 성노예로 만드는법’ 등을 공유했던 일부 남성 커뮤니티 이용자들은 청와대 국민청원 게시판에 여성 이용자들이 즐기는 알페스(Real Person Slash) 역시 성범죄라고 주장했다. 이에 여초 커뮤니티 이용자들은 남초 커뮤니티에 일반인 여성의 사진을 공유해 성희롱하는 비공개 게시판이 있다고 폭로하는 청원 글을 올리면서 젠더 갈등으로 비화됐다. 두 청원은 14일 기준 각각 19만 6000명, 19만 3000명을 넘었다. 최영권 기자 story@seoul.co.kr

팀 쿡 애플 최고경영자(CEO)가 인종차별 해소를 위해 1억 달러(한화 약 1100억 원)를 투자하겠다고 밝혔다. 13일(현지시간) 미국 CBS 방송에 따르면, 쿡 CEO는 해당 방송에 출연해 “유색 인종 커뮤니티의 기술과 기업가 정신 확대를 위해 1억 달러를 사용하겠다”고 밝혔다. 이를 위해 애플은 흑인대학(HBCU: Historically Black Colleges and Universities)과 협력해 전국에 100여개의 ‘프로펠 센터’라는 특별 학습 허브를 설립하기로 했다. 그는 “이곳을 혁신 허브로 생각하고 코딩부터 기계, 창의성, 엔터테인먼트 예술 등을 연구할 것”이라며 “학생들은 기술뿐만 아니라 기업가 정신도 배울 수 있다”고 말했다. 프로펠 센터에 대해 애플은 ‘흑인대학 학생과 지역사회를 위한 장소’이자 기업이 인재를 찾는 인력풀이 될 것으로 기대하고 있다. 또한 디트로이트에 앱 개발 아카데미를 설립해 앱과 코딩 교육 등을 지원하고, 유색인종 기업인을 위한 벤처캐피탈 펀딩도 진행하기로 했다. 쿡 CEO는 “이것은 사람들에게 기회를 주는 것”이라며 “프로펠 센터에서 혁신 허브를 즐기는 학생들을 빨리 보고 싶다”고 말했다. 임효진 기자 3a5a7a6a@seoul.co.kr

“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

인공지능(AI) 챗봇 서비스 이루다의 개발사 스캐터랩이 지난해 오픈소스 공유 플랫폼 깃허브에 연애의 과학을 통해 수집한 카카오톡 대화 1700건를 올린 것에 대해 인정하고 사과했다. 또 이용자들 중 AI 학습에 데이터가 활용되기를 원하지 않는 사람들의 카카오톡 대화는 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 진행하겠다고 밝혔다. 하지만 논란이 된 카카오톡 대화 내용 수집 절차에 대해서는 “위법성이 없었다”는 기존 입장을 되풀이했다. 스캐터랩은 13일 오후 11시쯤 사과문과 함께 언론에 배포한 질의응답서에서 “‘깃허브’에 오픈 소스로 공개한 “KG-CVAE-인공지능 한국어 자연어처리(NLP) 연구 모델” 에 내부 테스트 샘플이 포함된 사실이 확인되었다”며 “해당 연구에는 내부 테스트를 위해 샘플로 추출한 100건의 데이터(100개 세션, 개별 문장으로 환산 시 1700여 건)가 포함되어 있었다. 실명은 “<NAME>”, 숫자는 “<NUM>” 명령어를 통해 자동화 비식별 처리를 하였으나, 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분이 일부 존재하였음을 확인하게 되었다”고 밝혔다. 이루다를 성적 도구화해 사회적 물의를 일으켰던 남초 커뮤니티에서는 오픈소스를 이용해 ‘제2의 이루다’를 만들고 있다. 스캐터랩은 “한국어 자연어처리(NLP)와 관련된 기술 개발 및 공유를 위한 것이었으나, 데이터 관리에 더 신중하지 못했고, 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과드린다”고 했다. 또 AI 학습에 데이터가 활용되기를 원하지 않는 이용자들의 정보를 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 취하겠다고 말했다. 하지만 구체적인 삭제 요청 경로에 대해서는 밝히지 않았고, 여전히 자신이 제공한 카카오톡 대화가 AI 개발에 사용됐다는 걸 모르는 사용자들의 개인정보는 남아있게 된다. 또한 이러한 스캐터랩의 조처와는 별개로 비식별화가 충분히 되지 않은 개인 정보는 이미 깃허브에서 유출됐을 가능성이 크다. 스캐터랩은 2019년 9월부터 사용자들이 ‘연애의 과학’ 앱을 통해 내보내기 한 카카오톡 대화로 학습하는 인공신경망을 깃허브에 공유했다. 비식별화가 충분히 되지 않은 개인 정보들(집주소, 예금주명이 포함된 계좌번호, 학교 이름, 직장 이름과 위치, 건강 정보)은 지난달 23일 출시된 이루다를 통해 노출되기도 했다. 이에 대해 스캐터랩은 “숫자를 한글로 기재하는 전형적이지 않은 사례들이 극히 일부 발견되었다”면서 “OO은행과 같이 특정 명칭이 일부 이루다 서비스에서 발견된 것은, 앞서 알려드린 바와 같이 수차례의 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분”이라고 해명했다. 카카오톡 대화를 수집하면서 충분한 동의를 얻지 않은 것에 대해서는 여전히 “법적 문제가 없다”는 기존의 입장을 고수했다. 스캐터랩은 “‘연애의 과학’이 개인정보의 수집, 이용에 동의를 받는 방법은 국내외 서비스들이 채택하고 있는 동일한 방법으로 내부적으로 법적으로 문제가 없을 것이라고 판단하였다”면서 “대화의 당사자 중 한 명이 개인정보 수집, 이용에 동의하여 자발적으로 대화 내용을 연애의 과학에 업로드한 것으로 내부적으로 문제가 없을 것으로 판단하였다”고 해명했다. 스캐터랩 전직 직원이 언론과의 인터뷰에서 직원들끼리 이용자의 카톡 대화를 단톡방에 공유해 돌려봤다는 주장에 대해서는 “진상조사위를 꾸려 조사한 결과 아직까지는 발견되지 않았다”며 “만에 하나 의혹이 사실로 드러나는 경우에는 직위 고하를 불문하고 관련자들에게 엄중히 책임을 묻고 필요한 조치를 취하도록 하겠다”고 선을 그었다. 한편, 개인정보보호위원회와 인터넷진흥위원회는 이날부터 현장에 투입돼 조사에 착수했다. 스캐터랩은 “해당 관계 기관의 요청에 따라 성실하게 조사에 최선을 다해 임하겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.

혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

트위터로부터 계정을 영구 정지당한 도널드 트럼프 대통령의 사회관계망서비스(SNS) 행보가 주목된다. 트럼프 대통령은 현재 페이스북, 인스타그램에서도 계정 사용이 잠정 중단된 상태다. 10일(현지시간) AP통신에 따르면 트럼프 대통령은 ‘팔러’나 ‘갭’(Gab) 등과 같은 다른 비주류 소셜 미디어로 옮길 가능성이 점쳐진다. 트럼프 대통령 측은 대체 소셜 미디어로부터 가입 요청이 쇄도하고 있으며, 일부 회사와 대화까지 나눈 것으로 전해졌다. 이 두 SNS는 표현의 자유를 이유로 기성 SNS와 달리 게시물 내용에 제한을 가하지 않고 있다. 특히 팔러는 ‘큐어넌’과 ‘프라우드 보이스’ 등 극우 단체 회원과 백인 우월주의자들이 주로 이용하는 SNS로 통한다. 다만 구글과 애플은 지난 8일부터 ‘미국 내 폭력을 선동하고 있다’는 취지로 자사 앱스토어에서 팔러 다운로드를 막은 상태고, 아마존 역시 팔러에 대한 웹 호스팅 서비스를 중단한다고 밝혀 상황이 여의치 않다. AP는 “참모들도 트럼프 대통령이 영향력이 약하다는 이유로 팔러와 같은 소셜 미디어에 빨리 합류할 것 같지 않다고 보고 있다”고 전했다. 실제로 팔러 이용자는 최대 1200만 명 수준인데, 이는 트럼프 대통령 트위터 계정 팔로워 8800만 명에도 크게 못 미치는 수치다. 트럼프 대통령이 스스로 앱을 만들 가능성도 점쳐진다. 워싱턴포스트(WP)에 따르면 트럼프 대통령은 그간 참모들에게 자신의 서비스를 만드는 것을 선호한다고 말해온 것으로 알려졌다. 트럼프 대통령 캠프 선대본부장 출신 브래드 파스칼 역시 “최선의 방법은 스스로 앱을 개발해 사용하는 것”이라며 “구글이나 애플이 다운로드를 막을 경우 소송을 낼 수도 있다”고 말했다. 하지만 이는 비용이 많이 들 뿐만 아니라 상당한 시간이 소요될 전망이라 현실성은 떨어져 보인다고 WP는 분석했다. CNN 방송은 “트럼프 대통령은 9일 백악관에 머물며 내내 트위터의 계정 정지 조처를 비난했다”며 “이르면 11일 트위터 등 소셜 미디어에 대한 새로운 규제를 요구할 가능성도 있다”고 전했다. 트위터는 앞서 6일 트럼프 대통령 측 지지자들이 사상 초유의 의회 난입을 자행하자 트럼프 대통령의 계정을 즉각 12시간 정지시켰다가 8일 영구 퇴출시켰다. 그동안 140자 트윗으로 전 세계를 들었다 놨다 했던 최대의 소통 채널이 하루아침에 끊긴 것이다. 트위터가 트럼프 대통령의 계정에 일시 정지에 이어 영구 정지 조치까지 단행한 건 트위터 정책에 반하는 게시물을 다수 올렸기 때문이다. 트럼프 대통령은 7일 “우리의 놀라운 여정은 이제 시작일 뿐”, 8일 “내게 투표한 7500만 명의 위대한 미국 애국자들과 미국 우선주의, (선거 슬로건이었던) ‘미국을 다시 위대하게’는 앞으로 오랫동안 거대한 목소리를 낼 것” “그들은 어떤 식으로든 경시되거나 부당한 대우를 받지 않을 것” “1월 20일 (조 바이든 대통령 당선인의) 취임식에 참석하지 않을 것” 등의 트윗을 잇따라 날렸다. 김규환 선임기자 khkim@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

스타트업 ‘스캐터랩’이 지난달 23일 출시한 스무 살 여대생 인공지능(AI) 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 논란이 되고 있다. 게다가 이루다의 자연스러운 대화 비결이 같은 개발사가 운영하는 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들의 대화 100억건을 학습한 결과로 밝혀지면서 서비스 중단을 요구하는 목소리가 커지고 있다.전문가들은 AI가 적절치 않은 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개발자가 개입하는 것이 단기적 대책이 될 수 있겠지만, 근본적으로는 인간이 AI에게 부적절한 질문을 하지 않도록 하는 교육과 인식 변화가 필요하다고 지적했다. 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해 본 결과 ‘페미니즘’이라고 말을 걸면 “그런 말 진짜 싫다”는 답이 돌아왔다. 다른 대화에서는 페미니즘에 대해 “너무 불필요하고 무의미한 질문”이라고 답했다. ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴, 그만해. 머리채 잡기 전에”, ‘레즈비언’이란 말에는 “진짜 싫어. 혐오스러워. 질 떨어져 보이잖아”라고 대답했다. 김종윤 스캐터랩 대표는 지난 8일 입장문에서 “모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 해명했다. 개발자 1세대인 이재웅 전 쏘카 대표는 소셜네트워크서비스(SNS)를 통해 챗봇의 정체성을 20세 여성으로 정한 것이 성적 악용 문제를 유발한 원인이라고 지적했다. 이 전 대표는 “(개발사가) 서비스를 운영하면서 (AI에게) 추가 학습을 시킬 게 아니라 서비스 중단 후 사회규범에 맞는 최소한의 테스트를 통과하는지 점검해야 한다”고 주장했다. 나아가 채용 및 면접, 뉴스 추천 시스템 등 AI를 활용한 프로그램이 인간을 차별하거나 혐오하지 않는지 감사가 필요하다고 제언했다. 성소수자, 장애인을 포함한 포괄적 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. 장병탁 서울대 컴퓨터공학과 교수는 이날 서울신문과의 통화에서 “사람이 AI에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라며 “AI만 탓하거나 개발자를 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 AI를 백지상태의 아이에 비유했다. 그는 “정해진 답만 말하던 과거의 AI와 달리 지금의 AI는 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”며 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 AI에게 하기 때문에 생기는 문제다. AI가 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 AI에 대한 교육을 받아야 한다”고 말했다. 최영권 기자 story@seoul.co.kr

스타트업 스캐터랩이 지난달 23일 출시한 스무살 여대생 인공지능 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 커지고 있다. 또 이루다가 학습한 채팅 내용은 같은 개발사가 운영하는 또다른 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들 간의 대화로 밝혀져 논란이 가중됐다. 전문가들은 부적절한 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개입하는 것이 단기적 대책이 될 수 있겠지만 근본적으로는 인간이 인공지능에게 옳지 않은 질문을 하지 않는 교육이 필요하다고 했다. 이루다에 ‘페미니즘’ ‘인권’ 물어보니 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해보니 ‘페미니즘’이라고 치면 “그런말 진짜 싫다구”, ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴 그만해 머리채 잡기 전에”, ‘레즈비언’이라고 치면 “진짜 싫어 혐오스러워. 질 떨어져 보이잖아”라고 대답했다.개발사인 스캐터랩 김종윤 대표는 지난 8일 입장문에서 “인간이 인공지능에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었고 예상할 수 있는 일이었다”며 “이는 성별에 무관하게 일어나는 일”이라고 설명했다. 스캐터랩은 고양이 챗봇 ‘드림이’를 시작으로 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나’를 서비스한 적 있다. 김 대표는 “인간의 언어는 해당 단어를 사용하지 않고 얼마든지 의미를 전달 할 수 있기에 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 했다. 개발자 1세대인 이재웅 전 쏘카 대표는 지난 9일 페이스북에 이루다 논란에 대해 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI과 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 했다. 이어 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 지적했다. 특히 챗봇을 스무살 여대생으로 정한 것도 부적절했다고 했다. 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. “인공지능, 나쁜 점도 배울 수밖에” 장병탁 서울대 컴퓨터공학과 교수는 10일 서울신문과의 통화에서 “사람이 인공지능에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라면서 “이 문제는 인공지능만의 탓을 하거나, 인공지능을 개발한 스타트업만을 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 백지 상태에 있는 아이에 인공지능을 비유를 했다. 우리가 낳아 기르는 아이조차도 유치원에 가서 욕설을 배우듯 사회에 나간 인공지능도 그들의 자율에 맡겨선 도덕성 탑재가 어렵다는 것이다. 장 교수는 “쉽게 말해 정해진 답만 말하던 과거의 인공지능과 달리 지금의 인공지능은 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”고 지적하면서 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 인공지능에게 하기 때문에 생기는 문제다. 인공지능이 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 인공지능에 대한 교육을 받아야 한다”고 대안을 제시했다. 최영권 기자 story@seoul.co.kr

아스타투어(ASTATOUR 대표이사 최승호)는 신개념 라이프스타일 호텔플렉스(Hotel-plex) 서울드래곤시티와 판매협약을 체결하고 객실판매에 나선다고 8일 밝혔다. 아스타투어는 가상자산 결제시스템과 숙박상품 결합인 진화된 OTA 여행플랫폼으로 고객들에 가상자산으로 결제할 수 있는 인프라를 구축 중에 있다. 양사는 이번 판매협약을 통해 고객 접점 확대를 위한 크로스 마케팅을 추진할 예정이며, 아스타투어는 사용자 편의를 최우선으로 모바일 앱(IOS, 안드로이드) 개발하여 서비스 확장하여 가상자산 아스타의 활용성을 높여 나간다는 계획이다. 서울의 중심 용산에 위치한 서울드래곤시티는 럭셔리부터 이코노미까지 총 1700개 객실을 보유한 국내 최초 신개념 라이프스타일 호텔플렉스(Hotel-plex)로 고층 타워 3개 동이 이어져 용의 모양을 형상화한 것이 특징이다. 서울드래곤시티는 다양한 레스토랑과 바, 최첨단 컨벤션 시설과 엔터테인먼트 시설을 갖추고 있어 레저부터 비즈니스까지 폭넓은 고객에게 편의를 제공한다. 지상 최대 40층 규모의 세 개의 타워에 아코르 계열의 업스케일 브랜드인 △그랜드 머큐어(202실) △노보텔 스위트(286실)를 포함한 △ 노보텔(621실) △ 이비스 스타일(591실)로 호텔 4개 브랜드로 구성됐다. 11개의 레스토랑과 4900명까지 수용 가능한 19개의 컨벤션 시설을 제공하고 있다. 또한 용산역과 브릿지를 통해 바로 연결되어 이태원, 명동 등 주요 시내로의 이동이 쉽고, 여의도와도 인접하여 편리한 접근성이 강점이다. 아스타투어는 코로나로 여행사들이 고전을 면치 못하는 와중에도, 지난 11월 24일 홈페이지 오픈 후 가상자산 결제시스템 도입과 파격적 할인율로 네이버 실검 1위까지 오른 바 있으며, 현재까지 약 61만 페이지뷰를 달성하며 순항중이라 밝혔다. 아스타투어 고객들은 파격적인 할인가로 가상자산 아스타로 결제 시 타 호텔 판매 사이트보다 50%이상 저렴하게 국내 대형 호텔·리조트 포함 55곳에서 숙박상품을 예약할 수 있으며 아스타로 100% 전액 결제는 물론 현금(신용카드)과 복합 결제도 가능하다. 아스타는 국내 메이저 가상자산 거래소 가운데 하나인 코인원거래소와 캐셔레스트, 비트소닉 거래소에 상장돼 일반인들도 쉽게 접할 수 있다. 박창균 아스타투어 총괄이사는 “현재 파트너사와의 협업을 통해 고객들에게 다양한 혜택을 제공하기 위해 이벤트를 지속 선보일 계획”이며 “앞으로 아스타투어는 새로운 OTA 여행플랫폼 문화를 선도하고 가상자산 결제 서비스를 통해 사용자 혜택에 대한 시너지 효과를 극대화하고 서비스를 강화해 나갈 것이다”고 말했다. 한편 아스타투어는 2021년 새해맞이 이용후기 이벤트를 (1월 6일부터 1월 31일까지 26일간) 진행 중에 있다. 아스타투어 홈페이지에 사진을 포함한 여행 후기, 필수 키워드를 함께 등록하면 우수 이용후기를 선정하여 백화점 10만원 상품권, 참여자 전원 기프티콘을 증정 한다. 기타 자세한 사항은 아스타투어 홈페이지를 참조하거나 고객센터로 문의하면 된다. 온라인뉴스부 iseoul@seoul.co.kr