현재 전 세계에서 활발하게 진행되고 있는 인공지능(AI) 연구가 크게 발전할 때마다 제기되는 문제는 ‘AI의 반란’이다. 이는 SF 창작물의 흔한 소재이긴 하다. 그런데 앞으로 인간의 지능을 초월한 초인공지능(슈퍼 AI)이 등장하면 인류가 제어할 수 있을까. 독일 막스플랑크 인간개발연구소 산하 인간기계센터 등 국제 연구진은 이런 의문을 계산가능성 이론이라는 관점에서 자세하게 검토해 만일 슈퍼 AI가 반란을 일으키면 인류는 제어할 수 없다는 견해를 국제학술지 ‘인공지능 연구저널’(Journal of Artificial Intelligence Research) 최신호(5일자)에 발표했다. 이는 AI 기술이 이대로 발전하면 인간이 제어할 수 없는 슈퍼 AI가 등장하는 미래를 피할 수 없을지도 모른다는 것이다. 인간의 지능을 월등히 초월한 슈퍼 AI의 존재는 아직 상상에 불과하지만, 인간의 삶은 이미 많은 AI 기술에 의해 제어되고 있고 앞으로는 더욱더 이 기술에 의존하는 비율이 커질 것이다. 이에 대해 연구 공동저자인 인간기계센터의 마누엘 세브리안 박사는 “세계를 지배하는 슈퍼 AI는 SF 소설 속 줄거리처럼 들리겠지만, 이미 개발자들도 어떻게 배웠는지 완전히 이해하지 못한 채 독립적으로 특정한 중요 작업을 수행하는 AI 시스템들이 존재한다”면서 “따라서 이 문제가 어느 순간부터 통제할 수 없고 인류가 위험해질 수 있는지에 의문이 들었다”고 연구 진행 동기를 밝혔다. 누군가가 인간보다 뛰어난 지능을 갖춘 AI 시스템을 프로그래밍해서 독립적으로 학습할 수 있도록 했다고 가정해 보자. 이 AI가 인터넷에 연결돼 있다면 인류의 모든 데이터에 접근할 수 있을 것이다. 그러면 기존 모든 프로그램 대신 전 세계의 모든 기계를 온라인으로 제어할 수 있을 것이다. 이는 유토피아를 만들어낼까. 아니면 디스토피아를 만들어낼까. AI가 암을 치료하고 세계 평화를 가져오고 기후 재앙을 예방할 수 있을까. 아니면 인류를 파괴하고 지구를 차지할까. 연구진은 이런 의문을 검토하기 위해 계산가능성 이론을 사용했고 이를 통해 내린 결론은 슈퍼 AI를 제어하는 것은 원천적으로 불가능하다는 것이다. 예를 들어 슈퍼 AI가 반란을 기획했다고 해서 인류는 대항할 수 있는 수단이 있을까. 연구진은 슈퍼 AI를 제어하는 방법에 관한 두 아이디어를 검토했다. 하나는 슈퍼 AI를 인터넷 등 다른 모든 기술 장치로부터 차단해 외부와 접속하지 못하게 하는 것이다. 그리고 나머지 하나는 AI에 처음부터 윤리 원칙을 프로그래밍해 인류의 이익을 최선으로 추구하도록 동기를 부여하는 것이다. 이런 아이디어는 예전부터 자주 제기됐던 것이다. 하지만 연구진은 이런 방법을 이용하는 데는 한계가 있다는 점을 보여줬다. 어떤 방법으로도 AI를 운용할 때 그 위험성을 감지해 시스템을 멈추게 해야만 한다. 그렇다면 슈퍼 AI를 위험하다고 판단해 멈추게 하는 것이 실제로 가능할까. 연구진은 AI의 동작을 시뮬레이션해 유해한 것으로 간주될 경우 시스템을 멈추게 해 사람들에게 해를 끼치지 않기 위한 이론적 봉쇄 알고리즘을 고안했다. 그리고 이 알고리즘이 제대로 작동하는지를 1936년 앨런 튜링이 증명한 계산가능성 이론(computability theory)의 정지 문제(Halting Problem)를 사용해 검토했다. 정지 문제는 하나의 프로그램과 그것에 대한 입력이 주어졌을 때 그것이 영원히 작동할 것인지 정지할 것인지를 결정하는 문제인데 이때 시스템은 모순된 답변을 유도함으로써 사고의 무한 루프에 빠져 답을 낼 수 없게 하는 것으로 나타났다. 이는 거짓말쟁이의 역설(Liar paradox)로 알려진 논리 문제와도 비슷하다. 이 역설로 유명한 사례 중 하나로 철학자이자 시인인 에피메니데스가 기원전 6세기 “모든 크레타 섬 사람들은 거짓말쟁이다”라고 쓴 글을 가지고 만든 문제가 있다. 참고로 에피메니데스 자신도 크레타 섬 사람이다. 논리 문제는 컴퓨터가 문제를 해결할 때와 마찬가지로 진위(0인가 1인가) 형태로 문제를 판정한다. 이 예제의 진위를 생각하면 “모든 크레타 섬 사람들은 거짓말쟁이”가 사실(참)이라면 이를 말하는 크레타 섬 사람은 거짓말쟁이가 아니게 되므로 내용은 모순이 된다. 반대로 “모든 크레타 섬 사람들은 거짓말쟁이”가 가짜(거짓)라면 이를 말하는 크레타 섬 사람 역시 거짓말을 한 것이 되므로 이 내용 역시 모순이 된다. 이 문제의 진위를 판정하는 것은 불가능해 영원히 문제의 진위를 판정하는 것을 반복해 버리는 것이다. 비슷한 원리로 이번 연구진이 고안한 슈퍼 AI의 봉쇄 문제 역시 계산이 불가능한 것으로 나타났다. 다시 말해 AI가 전 세계에 해를 끼치는지를 판단하기 위한 단일 알고리즘을 찾아낼 수 없다는 것이다. 또 인간이 자기 손으로 슈퍼 AI를 멈추게 하는 것을 생각했을 때도 기계가 인간보다 뛰어난 지성을 발휘하고 있는지를 판단하는 것은 봉쇄 문제와 같은 영역에 있어 슈퍼 AI 기계가 등장했다는 사실조차 모르는 상태가 될 가능성을 이번 연구는 보여줬다. 논리 문제를 포함한 연구는 추상적이고 알기 어려운 부분이 있지만, 결국 인간이 AI 개발이나 운용을 계속하는 한 AI를 멈추게 하는 결정을 내리는 것 자체가 기계는 물론 인간도 어렵게 될 수 있고 알아차렸을 때는 이미 늦었을 가능성이 크다는 것이다. 윤태희 기자 th20022@seoul.co.kr

네팔인으로 구성된 등반팀이 처음으로 겨울철 히말라야 K2(해발 고도 8611m) 등정에 성공했다. 세계 등반사를 새로 쓴 이들은 10명인데 8명의 이름은 니르말 님스 푸르자, 다와 텐지 셰르파, 밍마 G 다와 템바 셰르파, 펨 치리 셰르파, 밍마 데이비드 셰르파, 밍마 텐지 셰르파, 님스다이 푸르자, 겔제 셰르파이다. 님스다이 푸르자는 대원들이 16일 오후 5시(현지시간) 등정에 성공했다며 정상에서 촬영한 사진을 함께 페이스북에 올렸다. 이번 등반에 관여한 트레킹 업체 ‘세븐 서밋 트렉스’는 이날 트위터를 통해 “우리가 해냈다”라며 “네팔 등반인들이 정상에 도달했다”고 밝혔다. 네팔 등반대는 처음에 네 팀의 등반대에 속해 있었는데 10명이 네팔인의 이름으로 새 역사를 쓰기 위해 한 팀으로 뭉쳤다고 영국 BBC가 전했다. 파키스탄 북부의 중국 국경 지대에 자리잡은 K2는 에베레스트(8848.86m)에 이어 세계에서 두 번째로 높은 봉우리다. ‘야만의 산’(savage mountain)으로 불릴 정도로 등정 난도가 높은 봉우리로 꼽힌다. 이 별칭은 1953년 정상 등정에 실패한 미국 산악인 조지 벨이 남긴 말이었다. 산악인 사이에서는 에베레스트보다 더 등정하기 어렵다는 평가를 받는다. 이에 따라 K2의 겨울철 등정을 처음 시도한 것은 1987~88시즌이었을 정도다. 14좌 겨울철 등정을 네팔인들이 한 적이 한 번도 없어서 이번만큼은 네팔인들이 해내야 한다는 기대와 열망이 컸다. 2008년 8월에는 11명의 산악인이 K2 등정에 나섰다가 눈사태에 목숨을 잃기도 했다. 특히 겨울철 K2는 ‘난공불락’이었다. 정상 부근의 풍속은 시속 200㎞ 이상까지 올라가고 기온은 영하 60도까지 내려가는 등 최악의 상황이 연출되는 것으로 알려졌다. 이런 가혹한 조건 때문에 K2는 8000m 이상 14개 고봉 가운데 유일하게 겨울철 등정이 이뤄지지 않은 산으로 남아 있었다. 이번 네팔 등반대를 제외하고는 겨울철 K2 등정에서 7650m 이상 오른 사례도 없을 정도였다. 이번 네팔 셰르파 등반대도 지난 11일 정상 공략을 시도하려 했으나 눈폭풍 등 기상 악화로 인해 계획을 수정했다. 카트만두 포스트는 “당시 해발 6760m 지점에 있던 등반대의 캠프2가 강풍에 큰 피해를 입기도 했다”며 “텐트가 바람에 완전히 찢겨 나갔고 장비마저 분실됐다”고 보도했다. 에베레스트를 24차례나 등정해 세계 최고 기록을 갖고 있는 카미 리타는 AFP 통신에 “수십년 동안 네팔인들은 외국인들이 히말라야 정상에 닿는 일을 도왔지만 우리가 응당 받아야 할 인정을 받지 못했다”고 털어놓은 뒤 “오늘 10명의 네팔인들이 K2에서 역사를 새로 쓰고 우리의 용기와 힘을 제대로 보여준 것은 대단한 일”이라고 반겼다.이날 낭보와 함께 비극적인 소식도 전해졌다. 다른 팀에 속해 있던 스페인 산악인 세르히 밍고테(49)가 등정을 포기하고 베이스캠프로 하산하다 이날 심각한 추락 사고를 겪어 숨졌다. 그는 에베레스트를 포함해 8000m 이상 고봉 7개를 등정한 숙련된 등반가였다. 이번에도 K2를 오르며 산소통을 쓰지 않으려 해 엄청난 탈진을 경험했고 결국 등정을 포기할 수 밖에 없었다. 그의 명복을 빈다. 현재 K2 등정을 시도하는 팀들은 파키스탄의 고산등반가 무하마드 알리 사드파라와 아들 사지드 사드파라, 아이슬란드 산악인 욘 스노리가 꾸린 3명의 작은 원정대, 네팔 셰르파 셋이 모인 작은 원정대, ‘세븐 서밋 트렉스’가 기획해 셰르파 21명과 외국인 등반가 24명이 뭉친 15개국 45명의 대규모 원정대가 있었다. 알렉스 가반(38·루마니아)과 타마라 룽거(34·이탈리아)가 대규모 원정대에 속해 정상 도전을 벼르고 있을 것으로 보인다. 임병선 평화연구소 사무국장 bsnim@seoul.co.kr

서울시립교향악단은 수석객원지휘자 마르쿠스 슈텐츠, 수석부지휘자 윌슨 응, 부지휘자 데이비드 이와 재계약을 했다고 15일 밝혔다. 2017년부터 슈텐츠와 함께 활동했던 수석객원지휘자 티에리 피셔는 미국 유타 심포니와 브라질 상파울루 교향악단 상임직을 맡고 있어 자가격리를 포함한 국내 체류 일정이 확보되기 어려운 상황 등으로 재계약을 하지 않았다. 따라서 올해부턴 슈텐츠 홀로 수석객원지휘자를 맡게 됐다. 수석객원지휘자는 연간 최소 2주 이상 정기공연 무대 및 시민공연을 지휘하고 서울시향 공연기획 협의도 함께 한다. 지휘 마스터클래스를 통해 차세대 지휘자들을 지도하기도 한다. 슈텐츠는 코로나19로 해외 객원지휘자 초청이 더욱 어려워진 가운데서도 지난해 자가격리를 감수하고 입국해 베토벤 교향곡 5번 ‘운명’과 교향곡 6번 ‘전원’,을 비롯해 지난해 12월 말 교향곡 9번 ‘합창’을 통해 깊은 감동을 선사했다. 서울시향은 시민공연과 교육 프로그램 등에 젊은 지휘자들로 꾸린 부지휘자 제도를 운영했다. 재계약한 수석부지휘자 윌슨 응은 지난해 7월 말러 지휘 콩쿠르에서 3위로 입상하며 세계적으로 실력을 인정받았고, KBS교향악단과 부천시립교향악단, 광주시립교향악단 등 국내 유수 오케스트라에서 러브콜을 받는 지휘자로 성장했다. 정기공연과 협력 공연, 대규모 시민공연 및 야외공연을 맡고 있다. 지난해 서울시향에 합류한 부지휘자 데이비드 이는 서울시향 교육 프로그램과 배리어프리 프로그램 기획 및 지휘 등을 맡고 있다. 지난해 상반기에는 그의 공연이 모두 취소돼 한동안 무대에 오르지 못했지만 하반기 온라인 정기공연 뿐 아니라 코로나19로 만들어진 ‘미라클 서울’을 비롯해 사회공헌 프로그램 기획 자문, 온라인 콘미공(콘서트 미리 공부하기) 등 다양하게 활동했다. 서울시향은 이들과 함께 코로나19로 변수가 많은 올해 시즌을 보다 안정적으로 이끌겠다고 강조했다. 허백윤 기자 baikyoon@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 이루다의 데이터베이스(DB)와 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기하기로 결정했다. 그러나 집단 소송을 준비하는 피해자들은 “이루다 DB가 아니라 ‘연애의 과학’으로 수집한 카카오톡 대화를 전부 폐기해야 한다”며 “그렇지 않으면 보관된 카톡 대화는 제2, 제3의 AI 챗봇을 통해 언제든지 되살아날 수 있을 것”이라며 반발했다. 스캐터랩은 15일 “이용자들의 불안감을 고려하여 이번 인공지능 ‘이루다’의 DB 전량 및 딥러닝 대화 모델을 폐기하기로 했다”는 내용을 발표했다. 한국인터넷진흥원(KISA)과 개인정보보호위원회는 스캐터랩의 개인정보보호법 위반 여부를 조사하고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다. 연인들 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹도 받고 있으며, 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 ‘깃허브’에 공유한 사실도 확인됐다. 스캐터랩은 “조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다”고 밝혔다. 그러면서 비식별화 조치가 제대로 이뤄졌기 때문에 개인정보 유출은 없었다는 설명을 되풀이했다. 스캐터랩은 “이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다”며 “딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다”고 설명했다. 이어 “기존 연애의 과학과 텍스트앳에서 이용자의 동의를 받고 수집되었던 기존 데이터는 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후, 해당 이용자의 데이터를 모두 삭제할 예정이며, 이는 향후 딥러닝 대화 모델에도 이용되지 않는다”며 “관련 후속 조치는 각 어플리케이션 공지를 통해 안내 받을 수 있으며, 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이다”라고 밝혔다. 최영권 기자 story@seoul.co.kr

비플러스랩과 지앤넷이 제휴를 통해 언택트 헬스케어 분야에 적극 나선다. 지앤넷은 지난 14일 비플러스랩 본사 임상실험센터에서 비플러스랩과 ‘상호협력을 위한 MOU 체결식’을 가졌다고 15일 밝혔다. 비플러스랩은 임상경험을 기반으로 질병을 AI 문진하고 의료기관을 추천하는 ‘어디아파’를 운영하고 있다. 부민병원을 통한 빠른 임상 피드백으로 서비스를 고도화 중인 기업이라고 한다. 지앤넷은 의료정보전송플랫폼인 ‘실손보험 빠른청구’를 통해 출력물 없는 보험청구를 서비스하고 있다. 제휴 병원이 아니어도 ‘구디AI’ 기술을 활용해 서류 이미지에서 데이터로 추출하고 보험사로 전송할 수 있다. 또한 지앤넷은 서울시 기업지원센터의 AI챗봇 개발과 운영을 맡는 등 독자적인 AI챗봇 기술도 보유했다. 이번 제휴를 통해 어디아파에서도 실손보험 빠른청구 서비스를 이용할 수 있도록 개발된다. 지앤넷은 어디아파 문진의 서비스 고도화를 위해 지앤넷의 AI 기술을 전략적으로 지원할 예정이다. 지앤넷 관계자는 “최근 코로나 등의 감염병 이슈의 장기화로 의료 서비스 환경도 빠르게 변화하고 있는 가운데 ▲비대면 AI 문진 서비스를 통한 의료기관 안내 ▲의료기관 이용 후 보험청구 서비스와 같이 메디컬 헬스케어를 한 곳에서 이용할 수 있는 서비스가 기대된다”고 말했다. 서울비즈 biz@seoul.co.kr

인공지능(AI) 챗봇 이루다의 개발사 스캐터랩이 지난 13일 자사 앱 ‘연애의 과학’에서 심리 테스트 명목으로 수집한 개인정보 1700건을 온라인에 15개월 간 무단 유출한 것에 대해 인정하고 사과했다. 스캐터랩은 논란이 된 카카오톡 대화 내용 수집 절차에 대해선 “적법했다”는 기존 입장을 되풀이 했다. 또 “원하는 사용자에 한해 데이터를 폐기하겠다”고 밝혀 아직 피해를 인지하지 못한 제3자의 개인정보는 데이터베이스(DB)에 그대로 남아 있게 된다. 집단 소송을 준비하는 피해자들은 “카톡 대화를 AI 개발에 사용하는데 동의한 적 없다”며 “나머지 데이터도 전면 폐기하라”고 요구하고 있다. ‘연애의 과학’ 앱 이용자들은 연인과 나눈 최소 수개월치의 카카오톡 대화를 전송하면서 별다른 동의 절차를 밟지 못했다. 앱 이용자의 카톡에 있던 집주소, 예금주명이 포함된 계좌번호, 건강정보 등 개인정보 다수가 지난달 23일 출시한 이루다와 채팅한 제3자에게 유출됐다는 의혹을 받고 있다. 민변 디지털정보위원회, 정보인권연구소 등 시민단체들은 지난 13일 “‘개발’에만 치중한 AI산업육성, ‘이루다’는 예정된 참사”라는 제목의 성명문을 내고 “특정 상대방과 나눈 카카오톡 대화를 전부 수집한 건 각각의 사항을 알리고 명시적으로 동의를 받도록 한 개인정보보호법 위반”이라고 했다. 스캐터랩은 앱 로그인 초기화면에 있는 ‘로그인함으로써 개인정보 처리방침에 동의합니다’라는 문구 하나로 동의가 충분했다고 판단했다. 개인정보처리방침에는 연애의 과학이 제공하는 서비스 이외에 ‘신규 서비스 개발 및 마케팅·광고에의 활용’이 있다. 개인 카카오톡 100억건을 활용해 이루다를 만든 것이 신규 서비스 개발에 포함된다고 본 것이다. 시민단체는 “‘신규 서비스 개발과 마케팅·광고 활용’이 연애의 과학 앱을 이용하기 위한 필수정보인지 의문”이라며 “필수정보가 아닌 개인정보 수집·이용에 대해서는 이용자의 선택을 보장해야 한다”고 했다. 국내 한 유니콘 스타트업 관계자는 14일 서울신문과의 통화에서 “신규서비스 개발이라는 단 한 줄로 포괄적인 동의를 받았다고 보기에는 부족해보인다”며 “업계에서 개인정보를 가볍게 여기는 문화가 퍼질까 우려된다”고 말했다. 김가연 오픈넷 변호사도 “카카오톡 대화를 제공 받기 위해 동의를 받는 과정은 명백히 개인정보보호법 위반”이라고 말했다. 또 다른 국내 스타트업 최고기술책임자(CTO)는 이날 “전문가의 법적 자문을 구했으면 좋았을 것”이라며 “이용자들에게 구체적으로 동의를 구하는 절차를 만들 필요가 있다”고 말했다. ‘이루다를 성노예로 만드는법’ 등을 공유했던 일부 남성 커뮤니티 이용자들은 청와대 국민청원 게시판에 여성 이용자들이 즐기는 알페스(Real Person Slash) 역시 성범죄라고 주장했다. 이에 여초 커뮤니티 이용자들은 남초 커뮤니티에 일반인 여성의 사진을 공유해 성희롱하는 비공개 게시판이 있다고 폭로하는 청원 글을 올리면서 젠더 갈등으로 비화됐다. 두 청원은 14일 기준 각각 19만 6000명, 19만 3000명을 넘었다. 최영권 기자 story@seoul.co.kr

37년 전인 1984년, 놀라운 상상력을 보여주는 SF영화가 개봉했습니다. 바로 ‘터미네이터’ 입니다. 스스로 생각을 할 수 있게 된 인공지능(AI) 시스템이 인류를 멸망시키려 하고 인간은 이를 막기 위해 고군분투한다는 내용을 이리저리 엮어 관객들의 시선을 사로 잡았습니다. 전 세계적으로 흥행한 이 영화는 사람들의 마음 속에 AI에 대한 막연한 불안감을 갖게 만들기도 했습니다. 이 때문에 AI 관련 논의가 있을 때마다 터미네이터는 소환되곤 합니다. 1950년대에 AI 개념이 등장하고 오랜 잠복기를 지나 2000년대 들어 관련 연구가 폭발적으로 증가하면서 기술 발전 속도는 상상을 초월하고 있습니다. 실제로 최근 몇 년 사이에 다양한 형태의 AI 기술이 폭넓게 활용되고 있습니다. 연구자들이 AI를 포함해 과학기술을 연구하는 목적은 인류가 좀 더 나은 삶을 살도록 하기 위한 것입니다. 미국 캘리포니아 버클리대 레드우드신경과학연구소 설립자 제프 호킨스 박사도 ‘생각하는 뇌, 생각하는 기계’라는 저서에서 “AI 같은 두뇌형 기계를 개발하는 것은 인간의 감각으로는 인식하기 어렵고 빠르게 계산하기 어려운 문제들을 손쉽게 해결함으로써 인간의 감각과 지적능력을 확장하기 위한 것”이라고 말했습니다. 그렇지만 인간이 만드는 기술과 시스템은 정도의 차이만 있을 뿐 모두 윤리적 문제를 갖고 있습니다. AI도 마찬가지입니다. 2016년 ‘인공지능과 2030년의 삶’이라는 분석보고서를 작성한 미국 스탠퍼드대 ‘AI 100’ 연구단은 “영화 ‘마이너리티 리포트’에서처럼 범죄예방 프로그램을 비롯해 다양한 형태의 인공지능 기술은 알고리즘을 설계한 개발자의 편견이 개입할 수 있으며 프라이버시 침해에 대한 우려도 크다”라고 분명히 지적했습니다. 스위스 로잔연방공과대학 컴퓨터·커뮤니케이션공학과 연구팀 역시 AI를 활용한 사회관계망서비스(SNS)의 맞춤형 뉴스피드 알고리즘은 개인화되고 편향된 데이터를 기반으로 서비스를 제공하기 때문에 세계를 바라보는 시각과 가치관을 왜곡시키거나 편협하게 만들 수 있으며 사회 전체에 악영향을 미칠 수 있다는 연구결과를 내놨습니다. 이런 문제를 해결하기 위해 어떤 노력을 하느냐에 따라 기술의 최종 성패가 좌우되는 경우가 많습니다. 최근 AI챗봇 ‘이루다’가 혐오표현 학습과 개인정보 노출 등 문제로 운영이 중단됐습니다. 이에 대해 AI 기술 고도화를 위해 어쩔 수 없는 시행착오라던가 이번 사건이 혁신을 가로막아서는 안된다던가, 기술 문제가 아니라 혐오 표현이 일상화된 사회가 문제의 근원라는 목소리도 나왔습니다. 그런 발언의 당사자들이 인식하고 있는지는 모르겠지만 그 이면에는 기술을 사용하는 사회와 대중에게 문제가 있는 것이지 과학기술 자체는 문제가 없다는 기술의 가치중립성 논리가 숨어있습니다. 다양한 분야의 연구자들이 과학기술의 가치중립성은 환상이라고 지적하고 있습니다. 그렇기 때문에 모든 과학기술은 사회적 책임을 가져야 한다는 것입니다. 과학기술의 사회적 책임은 대학 교수나 많은 연구비를 쓰는 연구자들에게만 해당되는 것이 아닙니다. 모든 과학기술과 혁신의 중심에는 인간이 있어야 합니다. 사회적 책임을 도외시하고 인간이 소외된 혁신과 기술은 ‘야수’로 변하기 십상이라는 점을 분명히 알고 있어야 하지 않을까요. edmondy@seoul.co.kr

“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

인공지능(AI) 챗봇 서비스 이루다의 개발사 스캐터랩이 지난해 오픈소스 공유 플랫폼 깃허브에 연애의 과학을 통해 수집한 카카오톡 대화 1700건를 올린 것에 대해 인정하고 사과했다. 또 이용자들 중 AI 학습에 데이터가 활용되기를 원하지 않는 사람들의 카카오톡 대화는 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 진행하겠다고 밝혔다. 하지만 논란이 된 카카오톡 대화 내용 수집 절차에 대해서는 “위법성이 없었다”는 기존 입장을 되풀이했다. 스캐터랩은 13일 오후 11시쯤 사과문과 함께 언론에 배포한 질의응답서에서 “‘깃허브’에 오픈 소스로 공개한 “KG-CVAE-인공지능 한국어 자연어처리(NLP) 연구 모델” 에 내부 테스트 샘플이 포함된 사실이 확인되었다”며 “해당 연구에는 내부 테스트를 위해 샘플로 추출한 100건의 데이터(100개 세션, 개별 문장으로 환산 시 1700여 건)가 포함되어 있었다. 실명은 “<NAME>”, 숫자는 “<NUM>” 명령어를 통해 자동화 비식별 처리를 하였으나, 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분이 일부 존재하였음을 확인하게 되었다”고 밝혔다. 이루다를 성적 도구화해 사회적 물의를 일으켰던 남초 커뮤니티에서는 오픈소스를 이용해 ‘제2의 이루다’를 만들고 있다. 스캐터랩은 “한국어 자연어처리(NLP)와 관련된 기술 개발 및 공유를 위한 것이었으나, 데이터 관리에 더 신중하지 못했고, 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과드린다”고 했다. 또 AI 학습에 데이터가 활용되기를 원하지 않는 이용자들의 정보를 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 취하겠다고 말했다. 하지만 구체적인 삭제 요청 경로에 대해서는 밝히지 않았고, 여전히 자신이 제공한 카카오톡 대화가 AI 개발에 사용됐다는 걸 모르는 사용자들의 개인정보는 남아있게 된다. 또한 이러한 스캐터랩의 조처와는 별개로 비식별화가 충분히 되지 않은 개인 정보는 이미 깃허브에서 유출됐을 가능성이 크다. 스캐터랩은 2019년 9월부터 사용자들이 ‘연애의 과학’ 앱을 통해 내보내기 한 카카오톡 대화로 학습하는 인공신경망을 깃허브에 공유했다. 비식별화가 충분히 되지 않은 개인 정보들(집주소, 예금주명이 포함된 계좌번호, 학교 이름, 직장 이름과 위치, 건강 정보)은 지난달 23일 출시된 이루다를 통해 노출되기도 했다. 이에 대해 스캐터랩은 “숫자를 한글로 기재하는 전형적이지 않은 사례들이 극히 일부 발견되었다”면서 “OO은행과 같이 특정 명칭이 일부 이루다 서비스에서 발견된 것은, 앞서 알려드린 바와 같이 수차례의 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분”이라고 해명했다. 카카오톡 대화를 수집하면서 충분한 동의를 얻지 않은 것에 대해서는 여전히 “법적 문제가 없다”는 기존의 입장을 고수했다. 스캐터랩은 “‘연애의 과학’이 개인정보의 수집, 이용에 동의를 받는 방법은 국내외 서비스들이 채택하고 있는 동일한 방법으로 내부적으로 법적으로 문제가 없을 것이라고 판단하였다”면서 “대화의 당사자 중 한 명이 개인정보 수집, 이용에 동의하여 자발적으로 대화 내용을 연애의 과학에 업로드한 것으로 내부적으로 문제가 없을 것으로 판단하였다”고 해명했다. 스캐터랩 전직 직원이 언론과의 인터뷰에서 직원들끼리 이용자의 카톡 대화를 단톡방에 공유해 돌려봤다는 주장에 대해서는 “진상조사위를 꾸려 조사한 결과 아직까지는 발견되지 않았다”며 “만에 하나 의혹이 사실로 드러나는 경우에는 직위 고하를 불문하고 관련자들에게 엄중히 책임을 묻고 필요한 조치를 취하도록 하겠다”고 선을 그었다. 한편, 개인정보보호위원회와 인터넷진흥위원회는 이날부터 현장에 투입돼 조사에 착수했다. 스캐터랩은 “해당 관계 기관의 요청에 따라 성실하게 조사에 최선을 다해 임하겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

㈜까스텔바작이 13일 AI·디지털 플랫폼 기업인 T3Q㈜와 전략적 제휴를 위한 업무 협약식을 갖고 상호간의 협력 및 우호 관계의 증진, 디지털트랜스포메이션 추진 본격화를 골자로 하는 내용의 업무협약(MOU)을 체결했다. 이날 협약식에는 까스텔바작 권영숭 대표이사와 T3Q 박병훈 대표이사를 비롯해 내빈이 자리한 가운데 순조롭게 진행됐으며, 코로나19 방역지침을 준수해 주요 임원진으로 구성된 최소한의 필수 인원만 참석해 치러졌다. 협약식에서는 협약서 서명 및 기념 촬영 등이 이어졌으며, 양사는 이번 업무 제휴 협약 체결을 시작으로 상호간 협력 방안과 경영 비전 등을 공유했다.주요 협약 내용은 양사가 보유한 전문 지식 및 기술을 교류하여 업무영역에 적극 활용하며 이를 통한 신성장 동력을 마련하는 것 등이다. 최근 대표이사 직속으로 디지털 본부를 설립하고 본격적인 신규 사업과 디지털트랜스포메이션 추진에 나선 까스텔바작은 이번 업무 협약을 기반으로 T3Q가 개발 및 보유하고 있는 AI 빅데이터 기술과의 접목으로 본격적인 행보에 나서게 됐다. 까스텔바작 권영숭 대표는 “패션브랜드 까스텔바작과 디지털, AI 플랫폼 양사간 협력으로 디지털 전환에 박차를 가하는 동시에 VR과 AR, 디지털 스튜디오, E커머스 강화 및 M커머스 사업 진출 등 서로 시너지를 낼 수 있는 협업을 도모할 것”이라고 말했다. T3Q 박병훈 대표는 “최근 디지털 트랜스포메이션에 착수한 까스텔바작이 보이는 행보는 업계에서도 이례적일 정도로 선도적”이라며, “까스텔바작 브랜드가 갖고 있는 헤리티지와 함께 미래 산업과 기술에 대한 선제적 투자는 상장사로서 기업 성장과 가치를 제고하는 데 크게 일조할 것으로 보고 적극적 협력을 이어갈 것”이라고 밝혔다. 한편 까스텔바작은 T3Q에 15억 원 규모의 지분 투자를 시행한 바 있으며, 향후 투자사의 관계에서 나아가 JV설립 등 다각적 논의를 통해 비즈니스 파트너십을 강화하고 신규 사업 등을 공동 추진해나갈 계획이다. 온라인뉴스부 iseoul@seoul.co.kr

남아프리카공화국에서 발생해 전세계적으로 확산 중인 코로나19 변이 바이러스에 일부 항체치료제가 효과가 없을 수 있다는 우려가 제기됐다. 미국 제약사 일라이릴리의 데이브 릭스 최고경영자(CEO)는 12일(현지시간) CNBC방송에 출연해 “남아공 변이 바이러스는 우리가 우려하는 것 중 하나”라며 “이론적으로 우리 치료제를 피해갈 수 있다”고 말했다. 일라이릴리의 코로나19 항체치료제는 지난해 11월 미국 식품의약국(FDA)의 긴급사용 승인을 받아 감염자 치료에 쓰이고 있다. 릭스 CEO는 자사 치료제가 영국발 변이 바이러스에는 약효가 있다면서 남아공 변이 바이러스의 경우 “우리 치료제의 표적인 스파이크 단백질에 더 극적인 돌연변이가 발생했다”고 설명했다.미국 최고의 감염병 전문가인 앤서니 파우치 국립알레르기·전염병연구소(NIAID) 소장도 비슷한 견해를 밝혔다. 파우치 소장은 이날 ‘슈미트 미래 포럼’ 행사에서 남아공 변이 바이러스가 항체치료제에 위협이 될 수 있다며 “불안하다”고 말했다. 예비 데이터에 따르면 항체치료제가 제공하는 보호 기능 일부를 남아공 변이 바이러스가 회피할 수 있어 “더 많은 위협이 된다”고 파우치 소장은 설명했다. 그는 “단일 항체치료제와 아마도 백신의 보호 기능에 영향을 줄 수 있을지 모른다”며 “내가 매우 심각하게 여기는 문제”라고 강조했다. 다만 항체치료제와 달리 백신이나 항바이러스 치료제는 변이 바이러스에도 효과를 낼 수 있다고 개발사들은 주장하고 있다. 화이자와 함께 백신을 개발한 독일 바이오엔테크의 우구르 사힌 CEO와 항바이러스제인 렘데시비르를 만든 길리어드사이언스의 대니얼 오데이 CEO는 최근 방송에 출연해 자사 제품이 변이 바이러스도 막을 수 있다고 밝혔다. 신진호 기자 sayho@seoul.co.kr

남아프리카공화국발 코로나19 변이 바이러스에 일부 항체치료제가 효과가 없을 수 있다는 우려가 제기됐다. 미국 제약사 일라이릴리의 데이브 릭스 최고경영자(CEO)는 12일(현지시간) CNBC방송에 출연해 “남아공 변이 바이러스는 우리가 우려하는 것 중 하나”라며 “이론적으로 우리 치료제를 피해갈 수 있다”고 말했다. 일라이릴리의 코로나19 항체치료제는 지난해 11월 미국 식품의약국(FDA)의 긴급사용 승인을 받아 감염자 치료에 쓰이고 있다. 릭스 CEO는 자사 치료제가 영국발 변이 바이러스에는 약효가 있다면서 남아공 변이 바이러스의 경우 “우리 치료제의 표적인 스파이크 단백질에 더 극적인 돌연변이가 발생했다”고 설명했다. 미국 최고의 감염병 전문가인 앤서니 파우치 국립알레르기·전염병연구소(NIAID) 소장도 비슷한 견해를 밝혔다. 파우치 소장은 이날 ‘슈미트 미래 포럼’ 행사에서 남아공 변이 바이러스가 항체치료제에 위협이 될 수 있다며 “불안하다”고 말했다. 예비 데이터에 따르면 항체치료제가 제공하는 보호 기능 일부를 남아공 변이 바이러스가 회피할 수 있어 “더 많은 위협이 된다”고 파우치 소장은 설명했다. 다만 항체치료제와 달리 백신이나 항바이러스 치료제는 변이 바이러스에도 효과를 낼 수 있다고 개발사들은 주장하고 있다. 신진호 기자 sayho@seoul.co.kr

마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.

삼성전자가 정수기 시장에 뛰어든다. 삼성전자는 세계 최대 IT·가전전시회인 ‘CES 2021’에서 혁신상을 받은 ‘비스포크 정수기’를 12일 공개했다. 제품은 오는 1분기 국내 시장에 선보인다. 삼성이 가정용 정수기를 내놓은 것은 이번이 처음으로, 렌털이 중심인 정수기 시장에서 삼성이 판매만으로 얼마나 점유율을 가져갈 수 있을지 주목된다. 삼성전자는 정수기가 두 집 가운데 한 집꼴로 자리하며 시장 규모 3조원 이상인 ‘필수가전’이 됐다는 데서 시장 진출을 결정했다. 특히 최근 소비자들의 요구가 각자의 취향에 따라 세분화되는 데 따라 기능, 색상 등에 대한 선택의 폭을 넓혔다. 김선영 생활가전사업부 상품기획 프로는 이날 온라인 브리핑에서 “소비자들이 집에서 보내는 시간이 많아지고 주방에 소형 가전이 늘어나면서 인테리어를 중시하는 밀레니얼세대는 좁은 공간을 효율적으로 사용하려는 요구가 있었다”고 말했다. 이에 따라 싱크대 내부에 정수기 필터를 설치해 차지하는 공간을 대폭 줄인 직수형 정수기를 내놨다. 기본 정수뿐 아니라 온수, 냉수 기능 등 자신이 필요한 모듈을 선택해 설치할 수 있다. 코로나19 사태로 소비자들이 방문 관리를 꺼리기 때문에 직접 정수기를 관리할 수 있는 솔루션도 적용했다. 스테인리스 직수관은 3일에 한 번씩 자동 살균되고 4시간 동안 정수기를 안 쓰면 내부 관에 고인 물은 자동으로 배출하는 식이다. 인공지능(AI) 기술로 관리, 사용의 편의성을 높이기도 했다. “50㎖ 받아 줘”라고 말하면 자동으로 물을 받아 준다. 물 사용량 데이터를 자동으로 파악해 필터 사용량이 95%가 되면 소비자의 스마트폰으로 필터 교체 시기임을 알려 준다. 10㎖ 단위로 세밀하게 물 양을 조절할 수도 있어 분유를 타거나 레시피에 맞는 요리를 하는 데 편리하다는 설명이다. 업계 관계자는 “국내 시장은 코웨이, LG전자, SK매직, 청호, 쿠쿠 등 5사가 90% 이상의 점유율을 차지하고 있어 삼성이 빠른 성과를 내긴 힘들다”면서 “싱크대 내부 설치 방식은 유럽, 북미에서 주로 쓰는 방식이라 해외 시장을 겨냥한 것으로 보인다”고 말했다. 정서린 기자 rin@seoul.co.kr

혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr

장혜영 정의당 의원이 12일 다음달 국회에서 인공지능 이루다에 대한 성희롱 문제를 언급하며 ‘포괄적 차별금지법’을 전면적으로 논의하자고 제안했다. 장 의원은 “인공지능 챗봇인 ‘이루다’를 둘러싼 윤리적 논란이 뜨거웠는데 AI를 대상으로 한 이용자들의 성희롱부터 개발에 이용된 데이터 활용의 적법성까지 여러 문제점들이 불거졌다”면서 “무엇보다 많은 이들에게 충격을 준 것은 인공지능(AI)가 장애인, 성소수자, 이주민 등 우리 사회의 약자들이나 소수자들에 대한 차별과 혐오 그리고 편견을 그대로 재생산하는 모습”이었다고 지적했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 장 의원은 이러한 현실은 인공지능(AI) 윤리 이전에 우리 사회가 여전히 사회적 약자와 소수자들에 대한 차별과 혐오를 제대로 방지하는 일에 실패했음을 드러내고 있다고 강조했다. 이어 국회는 이러한 현실을 방치한 막중한 책임으로부터 결코 자유로울 수 없다고 덧붙였다. 장 의원은 “우리 사회는 오랜 사회적 대화를 통해 사회적 약자와 소수자들에게 가해지는 차별과 혐오를 제도적으로 금지해야 한다는 합의에 이르렀다”면서 “이러한 국민적 합의는 국가인권위원회에서 실시된 조사를 비롯한 각종 조사들에서 일관되게 나타나는 폭넓은 포괄적 차별금지법 도입의 찬성 여론으로 이미 증명되었다”고 전제했다. 하지만 국회는 2007년부터 지금까지 무려 14년간 온갖 핑계를 대며 번번이 이러한 사회적 합의를 포괄적 차별금지법으로 제도화하는 것을 미루어 왔다고 장 의원은 비판했다. 장 의원은 “21대 국회도 예외가 아니다”라며 “작년 6월 포괄적 차별금지법을 대표 발의했으나 법안이 발의된 지 반 년이 넘은 지금까지 포괄적 차별금지법은 단 한차례의 소위조차 열리지 않았다”고 지적했다. 그는 “AI도 결국 사람이 만드는 것”이라며 “사람의 규범이 바로 서야 AI윤리도 바로 설 수 있다”고 목소리를 높였다. 장 의원은 “나날이 다양화되고 고도화되는 사회문화적인 현실 속에서 사회적 약자와 소수자에 대한 차별과 혐오를 단호히 금지하는 제도적 안전장치를 확립해야 할 책무를 21대 국회는 더 이상 외면해서는 안 된다”면서 이낙연 더불어민주당 대표에 차별금지법 제정을 논의하자고 제안했다. 윤창수 기자 geo@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

삼성전자가 정수기 시장에 처음 뛰어든다. 삼성전자는 세계 최대 IT·가전전시회인 ‘CES 2021’에서 혁신상을 받은 ‘비스포크 정수기’를 12일 공개했다. 제품은 오는 1분기 국내 시장에 선보인다. 삼성이 가정용 정수기를 내놓은 것은 이번이 처음으로, 당장은 100% 판매만으로 소비자들을 공략한다. 렌털을 통한 관리가 중심인 정수기 시장에서 삼성이 판매만으로 얼마나 점유율을 가져갈 수 있을지 주목된다. 삼성전자는 정수기가 두 집 가운데 한 집 꼴로 자리하며 시장 규모 3조원 이상인 ‘필수가전’이 됐다는 데서 시장 진출을 결정했다. 특히 최근 소비자들의 요구가 각자의 취향에 따라 세분화되는 데 따라 기능, 색상 등에 대한 선택의 폭을 넓혔다. 김선영 생활가전사업부 상품기획 프로는 이날 온라인 브리핑에서 “소비자들이 집에서 보내는 시간이 늘어나고 주방에 소형 가전이 늘어나면서 인테리어를 중시하는 밀레니얼 세대는 좁은 공간을 효율적으로 사용하려는 요구가 있었다”고 말했다. 이에 따라 싱크대 내부에 정수기 필터를 설치해 차지하는 공간을 대폭 줄인 직수형 정수기를 내놨다. 기본 정수뿐 아니라 온수, 냉수 기능 등 자신이 필요한 모듈을 선택해 설치할 수 있다.감염병 사태로 소비자들이 방문 관리를 꺼리기 때문에 직접 정수기를 관리할 수 있는 솔루션도 적용했다. 스테인리스 직수관은 3일에 한 번씩 자동 살균되고 4시간 동안 정수기를 안 쓰면 내부 관에 고인 물은 자동으로 배출하는 식이다. 인공지능(AI) 기술로 관리, 사용의 편의성을 높이기도 했다. “50㎖ 받아줘”라고 말하면 자동으로 물을 받아준다. 물 사용량 데이터를 자동으로 파악해 필터 사용량이 95%가 되면 소비자의 스마트폰으로 필터 교체 시기임을 알려준다. 10㎖ 단위로 세밀하게 물 양을 조절할 수도 있어 분유를 타거나 레시피에 맞는 요리를 하는 데 편리하다는 설명이다.업계 관계자는 “코로나19로 깨끗한 물, 공기에 대한 소비자들의 수요가 점차 늘고 있어 정수기 시장은 점차 커질 전망이라 삼성전자도 이에 주목해 시장에 뛰어든 것으로 보인다”며 “국내 시장은 코웨이, LG전자, SK매직, 청호나이스, 쿠쿠 등 5개사가 90% 이상의 점유율을 차지하고 있어 후발주자가 빠른 시간에 점유율을 늘리긴 어려울 수 있다”고 말했다. 정수기 필터를 싱크대 내부에 두는 ‘언더싱크 방식’은 유럽, 북미에서 주로 사용하는 방식이라 해외 시장 진출에 무게를 둔 것이라는 관측도 있다. 정서린 기자 rin@seoul.co.kr

2030년까지 어가 소득이 7000만원으로 오르고, 해양수산분야 신산업 시장이 11조 3000억원 규모로 커진다. 해수부는 이런 내용을 담은 ‘제3차 해양수산발전 기본계획’(2021∼2030년)을 12일 국무회의에서 심의·의결했다고 밝혔다. 먼저 어가 평균 소득을 2018년 기준 4842만원에서 2030년에는 7000만원을 달성하게 지원할 계획이다. 이를 위해 오는 3월부터 수산공익직불제를 확대 시행하고, 어촌 어항 재생사업도 확대해 ‘머물고 싶은 어촌·연안’을 만들 계획이다. 이미 시행하고 있는 어촌뉴딜300 사업 외에 의료·복지·여행 등 어촌의 생활여건도 개선한다. 스마트 양식장과 가공공장을 확대하고, 인공지능(AI)을 도입한 수산업 디지털화, 수산물 비대면·온라인 거래 활성화 전략도 담았다. 공공과 민간 데이터를 결합한 온라인 수산물 시장을 만들고, 관련 분야 혁신 서비스와 창업을 지원하기로 했다. 2018년 기준으로 3조 3000억원 수준인 해양수산 분야 신산업 시장 규모를 2030년에는 11조 3000억원으로 키운다. 이를 위해 해양바이오산업, 해양에너지·자원 산업 개발, 해양레저관광, 첨단 해양 장비 등 네 가지 분야를 집중적으로 육성한다. 액화천연가스(LNG) 벙커링, 선박 수리조선, 수산 기자재, 낚시 산업 지원도 확대한다. 16억 4000톤 수준인 전국 항만의 물동량이 2030년에는 20억톤으로 늘어난다. 2030년까지 완전 무인 자율운항선박 개발을 마치고, 세계 자율운항선박 시장의 점유율을 50％까지 늘리는 목표도 세웠다. 설비를 자동화·지능화한 스마트 항만 조성사업도 밀어붙인다. 수출입 물류에 대한 디지털 정보시스템을 만들어 컨테이너 화물 처리 시간을 2만 5000TEU 기준으로 현재 40시간에서 2030년에는 24시간으로 40% 단축할 예정이다. 항만작업 사고 비율을 1만명 당 2.55명에서 2030년에는 0.51명으로 줄이고, 수산물 식중독 비율도 15％에서 4％로 대폭 낮출 계획이다. 이를 위해 빅데이터와 사물인터넷(IoT) 기술을 해양수산 근로 현장과 장비에 접목하고, 양식수산물에 대해서는 산지 거점유통센터 등을 통해 수산물 품질과 유통이 투명하게 관리되도록 할 예정이다. 문성혁 해수부 장관은 “매출 1000억원을 달성한 오션스타 기업을 20개 정도 발굴하고, 해양수산 신기술 수준도 최고 기술국 대비 95% 수준까지 확보할 수 있게 적극적으로 지원하겠다”고 강조했다. 세종 류찬희 선임기자 chani@seoul.co.kr