찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 서비스
    2026-11-20
    검색기록 지우기
  • 3-1 승리
    2026-11-20
    검색기록 지우기
  • 개항
    2026-11-20
    검색기록 지우기
  • 해지
    2026-11-20
    검색기록 지우기
  • 협박
    2026-11-20
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 10,907 건
  • [유용하 기자의 사이언스톡] AI 기술은 사회적 책임 예외 대상일까

    [유용하 기자의 사이언스톡] AI 기술은 사회적 책임 예외 대상일까

    37년 전인 1984년, 놀라운 상상력을 보여주는 SF영화가 개봉했습니다. 바로 ‘터미네이터’ 입니다. 스스로 생각을 할 수 있게 된 인공지능(AI) 시스템이 인류를 멸망시키려 하고 인간은 이를 막기 위해 고군분투한다는 내용을 이리저리 엮어 관객들의 시선을 사로 잡았습니다. 전 세계적으로 흥행한 이 영화는 사람들의 마음 속에 AI에 대한 막연한 불안감을 갖게 만들기도 했습니다. 이 때문에 AI 관련 논의가 있을 때마다 터미네이터는 소환되곤 합니다. 1950년대에 AI 개념이 등장하고 오랜 잠복기를 지나 2000년대 들어 관련 연구가 폭발적으로 증가하면서 기술 발전 속도는 상상을 초월하고 있습니다. 실제로 최근 몇 년 사이에 다양한 형태의 AI 기술이 폭넓게 활용되고 있습니다. 연구자들이 AI를 포함해 과학기술을 연구하는 목적은 인류가 좀 더 나은 삶을 살도록 하기 위한 것입니다. 미국 캘리포니아 버클리대 레드우드신경과학연구소 설립자 제프 호킨스 박사도 ‘생각하는 뇌, 생각하는 기계’라는 저서에서 “AI 같은 두뇌형 기계를 개발하는 것은 인간의 감각으로는 인식하기 어렵고 빠르게 계산하기 어려운 문제들을 손쉽게 해결함으로써 인간의 감각과 지적능력을 확장하기 위한 것”이라고 말했습니다. 그렇지만 인간이 만드는 기술과 시스템은 정도의 차이만 있을 뿐 모두 윤리적 문제를 갖고 있습니다. AI도 마찬가지입니다. 2016년 ‘인공지능과 2030년의 삶’이라는 분석보고서를 작성한 미국 스탠퍼드대 ‘AI 100’ 연구단은 “영화 ‘마이너리티 리포트’에서처럼 범죄예방 프로그램을 비롯해 다양한 형태의 인공지능 기술은 알고리즘을 설계한 개발자의 편견이 개입할 수 있으며 프라이버시 침해에 대한 우려도 크다”라고 분명히 지적했습니다. 스위스 로잔연방공과대학 컴퓨터·커뮤니케이션공학과 연구팀 역시 AI를 활용한 사회관계망서비스(SNS)의 맞춤형 뉴스피드 알고리즘은 개인화되고 편향된 데이터를 기반으로 서비스를 제공하기 때문에 세계를 바라보는 시각과 가치관을 왜곡시키거나 편협하게 만들 수 있으며 사회 전체에 악영향을 미칠 수 있다는 연구결과를 내놨습니다. 이런 문제를 해결하기 위해 어떤 노력을 하느냐에 따라 기술의 최종 성패가 좌우되는 경우가 많습니다. 최근 AI챗봇 ‘이루다’가 혐오표현 학습과 개인정보 노출 등 문제로 운영이 중단됐습니다. 이에 대해 AI 기술 고도화를 위해 어쩔 수 없는 시행착오라던가 이번 사건이 혁신을 가로막아서는 안된다던가, 기술 문제가 아니라 혐오 표현이 일상화된 사회가 문제의 근원라는 목소리도 나왔습니다. 그런 발언의 당사자들이 인식하고 있는지는 모르겠지만 그 이면에는 기술을 사용하는 사회와 대중에게 문제가 있는 것이지 과학기술 자체는 문제가 없다는 기술의 가치중립성 논리가 숨어있습니다. 다양한 분야의 연구자들이 과학기술의 가치중립성은 환상이라고 지적하고 있습니다. 그렇기 때문에 모든 과학기술은 사회적 책임을 가져야 한다는 것입니다. 과학기술의 사회적 책임은 대학 교수나 많은 연구비를 쓰는 연구자들에게만 해당되는 것이 아닙니다. 모든 과학기술과 혁신의 중심에는 인간이 있어야 합니다. 사회적 책임을 도외시하고 인간이 소외된 혁신과 기술은 ‘야수’로 변하기 십상이라는 점을 분명히 알고 있어야 하지 않을까요. edmondy@seoul.co.kr
  • “100억건 개인정보 침해가 빚어낸 참사”…‘이루다’ 개발사, 결국 사과(종합)

    “100억건 개인정보 침해가 빚어낸 참사”…‘이루다’ 개발사, 결국 사과(종합)

    “개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr
  • 이루다 개발사 “원하는 유저에 한해 개인정보 삭제하겠다” 5일만에 사과문

    이루다 개발사 “원하는 유저에 한해 개인정보 삭제하겠다” 5일만에 사과문

    인공지능(AI) 챗봇 서비스 이루다의 개발사 스캐터랩이 지난해 오픈소스 공유 플랫폼 깃허브에 연애의 과학을 통해 수집한 카카오톡 대화 1700건를 올린 것에 대해 인정하고 사과했다. 또 이용자들 중 AI 학습에 데이터가 활용되기를 원하지 않는 사람들의 카카오톡 대화는 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 진행하겠다고 밝혔다. 하지만 논란이 된 카카오톡 대화 내용 수집 절차에 대해서는 “위법성이 없었다”는 기존 입장을 되풀이했다. 스캐터랩은 13일 오후 11시쯤 사과문과 함께 언론에 배포한 질의응답서에서 “‘깃허브’에 오픈 소스로 공개한 “KG-CVAE-인공지능 한국어 자연어처리(NLP) 연구 모델” 에 내부 테스트 샘플이 포함된 사실이 확인되었다”며 “해당 연구에는 내부 테스트를 위해 샘플로 추출한 100건의 데이터(100개 세션, 개별 문장으로 환산 시 1700여 건)가 포함되어 있었다. 실명은 “<NAME>”, 숫자는 “<NUM>” 명령어를 통해 자동화 비식별 처리를 하였으나, 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분이 일부 존재하였음을 확인하게 되었다”고 밝혔다. 이루다를 성적 도구화해 사회적 물의를 일으켰던 남초 커뮤니티에서는 오픈소스를 이용해 ‘제2의 이루다’를 만들고 있다. 스캐터랩은 “한국어 자연어처리(NLP)와 관련된 기술 개발 및 공유를 위한 것이었으나, 데이터 관리에 더 신중하지 못했고, 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과드린다”고 했다. 또 AI 학습에 데이터가 활용되기를 원하지 않는 이용자들의 정보를 개인정보보호법에 따라 데이터베이스에서 삭제하고 앞으로 이루다 DB에 활용되지 않도록 적극적인 조치를 취하겠다고 말했다. 하지만 구체적인 삭제 요청 경로에 대해서는 밝히지 않았고, 여전히 자신이 제공한 카카오톡 대화가 AI 개발에 사용됐다는 걸 모르는 사용자들의 개인정보는 남아있게 된다. 또한 이러한 스캐터랩의 조처와는 별개로 비식별화가 충분히 되지 않은 개인 정보는 이미 깃허브에서 유출됐을 가능성이 크다. 스캐터랩은 2019년 9월부터 사용자들이 ‘연애의 과학’ 앱을 통해 내보내기 한 카카오톡 대화로 학습하는 인공신경망을 깃허브에 공유했다. 비식별화가 충분히 되지 않은 개인 정보들(집주소, 예금주명이 포함된 계좌번호, 학교 이름, 직장 이름과 위치, 건강 정보)은 지난달 23일 출시된 이루다를 통해 노출되기도 했다. 이에 대해 스캐터랩은 “숫자를 한글로 기재하는 전형적이지 않은 사례들이 극히 일부 발견되었다”면서 “OO은행과 같이 특정 명칭이 일부 이루다 서비스에서 발견된 것은, 앞서 알려드린 바와 같이 수차례의 기계적인 필터링 과정에서도 미처 걸러지지 못한 부분”이라고 해명했다. 카카오톡 대화를 수집하면서 충분한 동의를 얻지 않은 것에 대해서는 여전히 “법적 문제가 없다”는 기존의 입장을 고수했다. 스캐터랩은 “‘연애의 과학’이 개인정보의 수집, 이용에 동의를 받는 방법은 국내외 서비스들이 채택하고 있는 동일한 방법으로 내부적으로 법적으로 문제가 없을 것이라고 판단하였다”면서 “대화의 당사자 중 한 명이 개인정보 수집, 이용에 동의하여 자발적으로 대화 내용을 연애의 과학에 업로드한 것으로 내부적으로 문제가 없을 것으로 판단하였다”고 해명했다. 스캐터랩 전직 직원이 언론과의 인터뷰에서 직원들끼리 이용자의 카톡 대화를 단톡방에 공유해 돌려봤다는 주장에 대해서는 “진상조사위를 꾸려 조사한 결과 아직까지는 발견되지 않았다”며 “만에 하나 의혹이 사실로 드러나는 경우에는 직위 고하를 불문하고 관련자들에게 엄중히 책임을 묻고 필요한 조치를 취하도록 하겠다”고 선을 그었다. 한편, 개인정보보호위원회와 인터넷진흥위원회는 이날부터 현장에 투입돼 조사에 착수했다. 스캐터랩은 “해당 관계 기관의 요청에 따라 성실하게 조사에 최선을 다해 임하겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr
  • ‘혐오 발언’하면 카카오 서비스 이용 제한…국내 기업 최초 근절 원칙 제정

    ‘혐오 발언’하면 카카오 서비스 이용 제한…국내 기업 최초 근절 원칙 제정

    카카오가 ‘증오·혐오 발언 근절 원칙’을 수립해 자사 서비스에 적용한다. 국내 기업들 중에서 이같은 원칙을 발표한 것은 카카오가 처음인 것으로 알려졌다. 이른바 ‘이루다 사건’으로 디지털·인공지능(AI) 윤리 논쟁이 불거지자 기존에 준비해온 규정을 선제적으로 내놓은 것이다. 카카오는 13일 공식 브런치를 통해 ‘증오 발언 근절을 위한 카카오의 원칙’을 공개했다. 카카오는 약 1년에 걸처 증오 발언 근절을 위한 원칙을 마련했다. 카카오 측에서는 “온라인 증오발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있다”면서 “카카오 역시 사회의 구성원으로서 디지털 공간을 보다 건강하게 만들기 위한 증오발언 대응 원칙을 수립했다”고 밝혔다.카카오는 표현의 자유를 남용해 타인의 안전을 위협하는 발언을 경계하기 위해 네 가지 원칙을 제시했다. 첫째로는 특정 대상을 차별하거나 이에 대한 편견을 조장하고 일방적으로 모욕·배척하는 행위에 반대하기로 했다. 출신 지역이나 국가, 인종, 외양, 장애 및 질병, 경제상황, 종교, 지위, 연령, 성별, 성 정체성 또는 기타 정체성 요인을 대상으로 증오·혐오 발언을 하는 것에 맞서겠다는 것이다. 둘째 원칙으로는 이러한 차별에 기반해 특정 개인이나 특정 집단을 공격하는 ‘증오발언’에 강경하게 대처하기로 했다. 셋째 원칙은 이용자의 의무에 대한 내용이다. 이용자는 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 한다고 강조했다. 다만 타인의 존엄성과 안전을 위협하지 않는 한 공공정책이나 자신의 신념 등에 대해 자유롭게 의견을 개진할 수 있다는 것을 분명히 했다. 마지막 원칙으로 카카오는 ‘증오발언’ 근절을 위해 정책, 서비스, 기술, 디자인을 고도화 하기로 했다. 사내 교육과 모니터링도 강화해 내부로부터 발생할지도 모르는 차별와 증오의 싹을 경계하기로 했다.이러한 원칙을 반영해 이날 카카오의 회원 운영정책 일부가 수정돼 공지로 나갔다. 이를 통해 서비스 이용시 금지하는 활동에 외양, 질병 유무, 경제 상황, 지위, 성체성, 성적 지향 등을 요인으로서 인간 존엄성을 훼손하거나 차별·편견을 조장하는 행위가 추가됐다. 이용자가 금지하는 행위를 하게 되면 관련 규정에 따라 카카오 계정과 서비스의 이용이 제한될 수 있다. 이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 경영 활동의 일환이다. 카카오는 전날(12일) 이사회 산하에 ESG위원회를 신설하고 김범수 카카오 이사회 의장이 위원장을 맡는다고 밝혔다. 카카오는 증오 발언 근절 원칙 수립 과정에 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다고 밝혔다. 카카오 관계자는 “국내에서 증오발언 근절을 위해 기업이 원칙을 제정해 이를 적용하는 것은 이번이 처음”이라면서 “게시물 운영정책의 금지항목에 일부 포함된 경우는 있으나 카카오와 같이 대상을 명확하게 정의하고 대응 의지를 밝힌 사례는 찾아보기 어렵다”고 말했다. 한재희 기자 jh@seoul.co.kr
  • 에듀테크 기업 디쉐어, 언택트로 창립 10주념 기념행사 진행

    에듀테크 기업 디쉐어, 언택트로 창립 10주념 기념행사 진행

    에듀테크 기업 디쉐어(D.SHARE, 대표 정재민)가 창립 10주년을 맞아 창립기념행사를 ‘언택트(비대면)’로 진행했다고 13일 밝혔다. 이번 행사는 10주년 기념 영상을 시작으로 현승원 의장의 축사, 임원 임명식, 리더스 클럽 위촉식 순으로 진행됐다. 디쉐어의 정재민 대표는 이날 “그간 걸어온 시간이 결코 쉽지는 않은 길이였지만, ‘진정한 노력의 가치’를 바탕으로 지난 10년간 놀라운 성과를 빚어낸 여러분들의 열정과 노고에 감사를 표한다”라며 “앞으로 디쉐어는 인공지능(AI) 중심 서비스의 질적 고도화를 통한 적극적인 사업 영역 확대로 4차 산업혁명 시대 속 에듀테크 업계를 선도해나는 핵심 기업으로 도약해 나갈 것”이라는 포부를 밝혔다.창립자인 현승원 의장은 축사를 통해 지금까지 디쉐어가 이뤄낸 역사와 함께 향후 나아갈 비전과 소망을 전하며, 동시에 지속적인 변화 통한 장기적 ‘기업 경쟁력 확보’의 중요성 또한 강조했다. 임명식에서는 US CPA(미국 공인 회계사)로, 우리은행 및 현대증권, 미래에셋증권을 거친 금융 전문가이며 디쉐어에서 최고재무책임자(CFO)로 기업 가치 제고(Value-up)역할을 담당하고 있는 이우채 상무이사를 전무이사로 승진 임명했으며, 스타트업 마케팅 및 비즈니스 개발자를 거쳐 아모레퍼시픽, 페이스북코리아 등 국내외 유명 대기업 출신의 마케팅 전문가 염지현 이사를 총괄 마케팅 책임자(CMO)로 임명했다. 더불어 이번 행사에서는 임직원들의 적극적인 참여와 사내 소통을 강화하고자 기획된 이벤트도 함께 열렸다. 온라인 퀴즈쇼 형식의 ‘드림 골든벨’과 인증샷 이벤트 등을 통해 다양한 경품을 증정해 대면 행사로 이뤄지지 못한 임직원들의 아쉬움을 달래 주었다. 한편 디쉐어는 온·오프라인 블렌디드 러닝이란 신개념 학습 시스템을 2011년 1월 ‘에이닷’을 통해 첫 선을 보인 이후 꾸준한 성장을 바탕으로 2015년 11월 수강생 1만 명을 돌파하며 교육 시장에 성공적으로 안착시켰다. 이후 2016년 신개념 도서 플랫폼 ‘리딧’을 론칭하고 중등 시장에도 진출했으며, 2017년 홈 매니지먼트 브랜드 ‘캐리홈’, 2018년 단어 암기 전문 브랜드 ‘단끝’과 성인 영어 회화 전문 브랜드 ‘비스픽’ 등 다양한 교육 서비스를 연달아 선보이며 대한민국 교육의 선두주자 역할을 톡톡히 해내고 있다. 온라인뉴스부 iseoul@seoul.co.kr
  • [씨줄날줄] AI 챗봇 이루다/이종락 논설위원

    [씨줄날줄] AI 챗봇 이루다/이종락 논설위원

    마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.
  • 은밀한 대화 캡처해 사내에 돌린 ‘이루다’

    은밀한 대화 캡처해 사내에 돌린 ‘이루다’

    혐오 표현과 개인정보 유출로 논란이 된 인공지능(AI) 챗봇 ‘이루다’ 운영이 잠정 중단된 가운데 개발사인 스캐터랩이 일부 개인정보 유출을 시인했다. 그러면서도 이루다 개발에 이용된 사적 카카오톡 대화 데이터를 파기하겠다는 뜻은 밝히지 않았다. 스캐터랩은 12일 보도자료를 내고 “알고리즘으로 실명 등의 정보를 제거했는데 문맥에 따라 인물 이름이 남아 있었다. 세심히 주의를 기울이지 못했다”고 했다. 이 업체는 연인과의 대화를 제공하면 친밀도를 분석해 주는 ‘연애의 과학’이라는 앱을 통해 사용자의 카카오톡 대화 100억건을 수집한 후 AI 이루다에게 학습시켰다. 이 과정에서 이름, 집 주소, 연인과 함께 간 숙박업소의 이름 등을 지우지 않고 학습시켜 불특정 다수에게 노출시킨 의혹을 받았다. 스캐터랩은 카톡 대화에서 쓸 만한 문장 1억건을 추려 익명화한 뒤 독립적인 형태로 저장한 데이터를 AI에 학습시켰기 때문에 이루다의 발언을 통해 개인을 특정하는 것은 불가능하다고 설명했다. 연애의 과학 사용자들은 스캐터랩의 데이터 전면 파기를 요구하고 있지만 개발사 측은 이런 의사를 밝히는 대신 민감 정보 노출 방지 알고리즘을 전면 개선하겠다는 대책을 내놨다. 이 업체 소속 직원들이 카카오톡 단체대화방에서 연애의 과학에서 수집된 대화 자료 가운데 연인 간의 성적인 농담을 캡처해 공유하고 웃어넘겼다는 의혹도 제기됐다. 스캐터랩 측은 “자체 진상조사위원회를 꾸려 해당 의혹을 조사 중”이라며 “그해 카카오 단체대화방에서는 해당 내용이 발견되지 않았다”고 해명했다. 정부기관인 개인정보보호위원회는 서비스 중단과 상관없이 이루다 운영의 위법성 여부를 계속 조사할 방침이다. 위원회는 개발사 측이 개인정보보호법상 사전에 고객 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점이 위법 소지가 있다고 보고 있다. 최영권 기자 story@seoul.co.kr
  • ‘차별하는 AI ’ 법적 규제 가능할까

    ‘차별하는 AI ’ 법적 규제 가능할까

    ‘혐오의 학습화’ 논란을 불러일으키면서 지난 11일 서비스가 중단된 인공지능(AI) 챗봇 ‘이루다’ 사태는 인공지능 윤리에 관한 숙제를 남겼다. 한국보다 앞서 인공지능 기술을 상용화한 해외에서는 인공지능에 의한 차별·혐오 문제를 어떻게 다루고 있을까. 12일 법조계 등에 따르면 각국의 인공지능 규제는 크게 의회 입법을 통한 하드 로(hard law)와 법적 구속력이 없는 소프트 로(soft law)로 나뉜다. 지난해 12월 한국 정부가 발표한 ‘국가 인공지능 윤리기준’을 비롯해 대부분의 국가에서 규범 차원의 가이드라인을 발표하는 추세지만 일각에서는 입법 움직임도 시작되고 있다. 2017년 미국 뉴욕시의회에서 통과된 ‘알고리즘 책임 법안’은 뉴욕시에서 구성한 특별위원회를 통해 시에서 사용되는 인공지능 알고리즘에 차별 요소가 없는지 조사를 의무화하는 것을 주요 내용으로 한다. 2019년 4월 미 상원에서 대기업의 머신러닝 시스템을 감독하기 위한 동명의 법안이 발의되기도 했다. 특히 인공지능이 치안·금융·행정·교육 등 각종 영역에 상용화되면서 편향적인 알고리즘이 실제 피해로 이어질 수 있다는 지적이 나온다. 미국 아마존은 인공지능 기반 채용 시스템이 여성에게 불리한 평가를 한다는 사실이 알려져 2018년 시스템 개발을 중단했다. 유럽연합(EU) 의회도 지난해 10월 포괄적인 AI법 권고안을 채택했다. 인공지능 기술이 심각한 윤리 원칙을 위반할 경우 인공지능의 자기학습능력을 비활성화하고 완전한 인간 통제하에 놓이도록 복원하는 내용이 담겼다. 다만 한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 “구체적으로 무엇을 어떻게 규제할지 충분히 논의되지 않아 당장 입법은 불가능하다”면서 “기본적인 윤리 원칙을 다양한 개별 상황에 어떻게 적용할지 세부적인 가이드라인을 먼저 마련해야 한다”고 말했다. 기업 차원에서 자정 노력이 필요하다는 지적도 나온다. 마이크로소프트(MS)는 2016년 차별·혐오 논란에 휩싸였던 챗봇 ‘테이’ 사태 이후 사내 윤리위원회를 만들고 윤리 기준을 마련했다. 진선민 기자 jsm@seoul.co.kr
  • 인공지능 이루다 12일 6시 중단 “사용자는 학습못시켜”

    인공지능 이루다 12일 6시 중단 “사용자는 학습못시켜”

    인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr
  • 스캐터랩 전 직원 “단톡방서 일반 연인들 카톡 대화 돌려봤다”

    스캐터랩 전 직원 “단톡방서 일반 연인들 카톡 대화 돌려봤다”

    혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr
  • 자동차 없고 탄소배출 ‘0’...첨단 미래형 도시, 사우디에 건설

    자동차 없고 탄소배출 ‘0’...첨단 미래형 도시, 사우디에 건설

    자동차와 전용 도로가 없고, 탄소배출이 ‘0’에 가까운 미래형 친환경 도시가 사우디아라비아에 건설될 예정이다. 블룸버그통신 등 해외 언론의 1일 보도에 따르면 사우디아라비아가 5000억 달러(약 550조 원)를 투입해 건설하는 신도시 ‘네옴’(NEOM) 프로젝트의 일환으로 건설되는 첨단 신도시는 ‘더 라인’(The line)으로 명명됐다. 무함마드 빈 살만 사우디아라비아 왕세자가 직접 공개한 신도시 ‘더 라인’은 직선 길이 170㎞ 규모로, 지상에는 자동차가 달릴 수 있는 도로가 존재하지 않는 대신 공원과 주택단지 등으로만 조성된다. 서비스 시설 및 운송 시설은 지하에 세워지는데, 지하에도 자동차가 달릴 수 있는 길은 없다. 특히 인공지능(AI)은 이 도시에서 가장 핵심적인 역할을 맡을 예정이다. AI는 100% 청정에너지 가동 및 이를 지속적으로 주민들에게 제공하는 방법을 학습해 나가도록 프로그래밍 된다.무함마드 왕세자는 “초고속 운송수단이 구축되면 길이 170㎞의 도시 내 이동 시간은 길어야 20분이 될 것”이라면서 “‘더 라인’ 프로젝트는 2030년까지 100만 명이 거주하고 38만 개의 일자리를 만들 것”이라고 밝혔다. 이어 “왜 우리는 발전을 위해 자연을 희생해야 하는가?”라고 반문한 뒤 “우리는 재래식 도시의 개념을 미래 도시로 전환해야 하며, 네옴 신도시 내 자연 95%를 보존하며 자동차와 자동차 도로, 탄소 배출이 전혀 없는 인구 100만 도시를 구성할 것”이라고 덧붙였다.‘더 라인’ 인프라 제작비용에는 1000억~2000억 달러(약 110조~220조 원)가 들어갈 것으로 보인다. 사우디아라비아와 무함마드 왕세자는 석유 의존도가 높은 경제 구조에서 탈바꿈하기 위한 일환으로 네옴 프로젝트를 추진해왔다. 그러나 일각에서는 ‘더 라인’ 신도시를 포함한 네옴 프로젝트가 현실화될 수 있을지와 투자금 확보 여부 등에 꾸준히 의문을 제기해 왔다. 무함마드 왕세자는 사우디 정부와 사우디국부펀드, 각국의 투자자들로부터 5000억 달러를 지원받고 이중 일부로 ‘더 라인’을 건설하겠다고 밝혔다. 송현서 기자 huimin0217@seoul.co.kr
  • 2030년까지 어가 소득 7000만원 달성

    2030년까지 어가 소득 7000만원 달성

    2030년까지 어가 소득이 7000만원으로 오르고, 해양수산분야 신산업 시장이 11조 3000억원 규모로 커진다. 해수부는 이런 내용을 담은 ‘제3차 해양수산발전 기본계획’(2021∼2030년)을 12일 국무회의에서 심의·의결했다고 밝혔다. 먼저 어가 평균 소득을 2018년 기준 4842만원에서 2030년에는 7000만원을 달성하게 지원할 계획이다. 이를 위해 오는 3월부터 수산공익직불제를 확대 시행하고, 어촌 어항 재생사업도 확대해 ‘머물고 싶은 어촌·연안’을 만들 계획이다. 이미 시행하고 있는 어촌뉴딜300 사업 외에 의료·복지·여행 등 어촌의 생활여건도 개선한다. 스마트 양식장과 가공공장을 확대하고, 인공지능(AI)을 도입한 수산업 디지털화, 수산물 비대면·온라인 거래 활성화 전략도 담았다. 공공과 민간 데이터를 결합한 온라인 수산물 시장을 만들고, 관련 분야 혁신 서비스와 창업을 지원하기로 했다. 2018년 기준으로 3조 3000억원 수준인 해양수산 분야 신산업 시장 규모를 2030년에는 11조 3000억원으로 키운다. 이를 위해 해양바이오산업, 해양에너지·자원 산업 개발, 해양레저관광, 첨단 해양 장비 등 네 가지 분야를 집중적으로 육성한다. 액화천연가스(LNG) 벙커링, 선박 수리조선, 수산 기자재, 낚시 산업 지원도 확대한다. 16억 4000톤 수준인 전국 항만의 물동량이 2030년에는 20억톤으로 늘어난다. 2030년까지 완전 무인 자율운항선박 개발을 마치고, 세계 자율운항선박 시장의 점유율을 50%까지 늘리는 목표도 세웠다. 설비를 자동화·지능화한 스마트 항만 조성사업도 밀어붙인다. 수출입 물류에 대한 디지털 정보시스템을 만들어 컨테이너 화물 처리 시간을 2만 5000TEU 기준으로 현재 40시간에서 2030년에는 24시간으로 40% 단축할 예정이다. 항만작업 사고 비율을 1만명 당 2.55명에서 2030년에는 0.51명으로 줄이고, 수산물 식중독 비율도 15%에서 4%로 대폭 낮출 계획이다. 이를 위해 빅데이터와 사물인터넷(IoT) 기술을 해양수산 근로 현장과 장비에 접목하고, 양식수산물에 대해서는 산지 거점유통센터 등을 통해 수산물 품질과 유통이 투명하게 관리되도록 할 예정이다. 문성혁 해수부 장관은 “매출 1000억원을 달성한 오션스타 기업을 20개 정도 발굴하고, 해양수산 신기술 수준도 최고 기술국 대비 95% 수준까지 확보할 수 있게 적극적으로 지원하겠다”고 강조했다. 세종 류찬희 선임기자 chani@seoul.co.kr
  • 인공지능 이루다 서비스 중단에 “AI의 혐오와 차별 용납못해”

    인공지능 이루다 서비스 중단에 “AI의 혐오와 차별 용납못해”

    인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr
  • 상소문 펴듯 커지는 ‘롤러블폰’… 장애물 피해 청소하는 ‘제트봇’

    상소문 펴듯 커지는 ‘롤러블폰’… 장애물 피해 청소하는 ‘제트봇’

    LG, 스크린 말리는 롤러블 실물영상 공개6.8인치 화면 쭉 펼치면 7.4인치로 늘어나스피커 없이 소리내는 디스플레이 선봬삼성, 첫 AI 로봇청소기 ‘제트봇’ 혁신상로봇팔로 그릇 옮겨주는 ‘핸디봇’도 나와삼성과 LG가 새해의 포문을 여는 박람회인 ‘CES 2021’에서 미래를 이끌 첨단 제품의 기술력을 뽐냈다. LG전자는 11일 온라인으로 개막한 세계 최대 정보기술(IT)·가전박람회 CES 2021 콘퍼런스에서 스크린이 말리는 방식의 스마트폰인 ‘LG롤러블’의 실물 콘셉트 영상을 공개했다. 지난해 9월 하반기 전략 스마트폰 ‘LG 윙’의 공개 행사 말미에 LG롤러블이 작동하는 일부 실루엣만 등장했는데 제품의 전면부를 모두 보여 준 것은 이번이 처음이다. 또한 여태까지는 둘둘 말렸던 스크린이 펴지는 모양새를 본떠 ‘상소문폰’이라는 별명으로 불렸는데, 그간 업계 추정으로만 알려졌던 LG롤러블이라는 이름이 공식 명칭이란 점도 이번 CES를 통해 확인됐다. LG전자는 누군가가 LG롤러블을 이용해 콘퍼런스를 시청한다는 콘셉트로 영상을 꾸렸다. LG롤러블은 콘퍼런스의 시작과 끝부분에 한 번씩 등장한다. 바(bar) 형태의 스마트폰 우측 부분이 늘어나며 화면이 확장되는 방식이다. 정확한 수치는 공개되지 않았지만 업계에서는 LG롤러블의 디스플레이가 평상시에는 6.8인치였다가 쭉 펼치면 7.4인치까지 늘어나는 것으로 파악하고 있다. LG전자가 LG롤러블을 올해 정식 출시하면 세계 최초의 상용 롤러블폰 타이틀을 갖게 된다. 지난해 말 이미 구글은 LG롤러블의 에뮬레이터(장치 특성을 복사해 똑같이 실행하도록 한 설계 장치)를 공개해 안드로이드 개발자들로 하여금 해당 기기 특성에 맞는 애플리케이션을 제작할 수 있도록 했다. 이를 고려하면 LG롤러블의 출시일이 머지않았다는 추측이 나온다.삼성전자도 이날 혁신 가전제품을 뽐냈다. CES 혁신상을 받은 삼성전자의 ‘제트봇 AI’는 인텔의 인공지능(AI) 특화 솔루션이 로봇청소기 중에서는 처음으로 적용됐다. 학습을 거듭할수록 성능이 좋아지는 ‘딥러닝’을 적용했고, ‘라이다센서’와 ‘3D 센서’를 탑재해 주변 물체나 기기 스스로의 위치를 보다 정확히 인식할 수 있도록 했다. 100만장 이상의 이미지를 사전에 학습해 집안의 가전제품 등 주요 장애물을 인식할 수 있으며 흡입구 막힘이나 오염을 유발하는 양말, 반려동물의 배설물 등도 스스로 인식해 피할 수 있다. 제트봇의 카메라를 통해 외출했을 때 반려동물이 집 안에서 어떻게 지내고 있는지 확인하는 것 또한 가능하다. 상반기 출시를 앞두고 있다. 또한 삼성전자는 가정용 서비스 로봇인 ‘삼성봇 핸디’도 이날 공개했다. AI가 카메라를 통해 물체의 위치나 형태를 인식한 뒤 ‘로봇 팔’을 이용해 이를 옮길 수 있다. 식사 전 식기 배치나 식사 후 정리 등을 도울 때 사용할 수 있을 것으로 보인다.LG디스플레이는 서울 강서구 LG사이언스파크에 CES 2021 실물 전시장을 꾸렸다. LG디스플레이는 이곳에서 스피커 없이 패널 자체가 진동해 소리를 내는 ‘CSO 패널’을 공개했다. 평소에는 TV처럼 사용하다가 몰입감이 중요한 게임을 할 때는 화면의 휨 정도인 곡률을 조절할 수도 있다. 고효율 유기물 재료를 적용하고 발광 레이어를 추가해 발광 효율을 기존 대비 약 20% 향상한 77인치 차세대 유기발광다이오드(OLED) TV 패널도 공개했다. 한재희 기자 jh@seoul.co.kr
  • 삼성·LG 혁신 비전은 “더 나은 삶”

    삼성·LG 혁신 비전은 “더 나은 삶”

    11일 개막한 ‘CES 2021’에서 행사의 주역인 삼성전자와 LG전자는 코로나19 이후 급변한 일상을 경험하고 있는 전 세계 소비자들에게 기술과 혁신으로 ‘더 나은 삶’을 선사하겠다며 제품과 서비스를 소개했다. 이날 ‘삼성 프레스 콘퍼런스’를 주관한 승현준 삼성전자 사장(삼성리서치 소장)은 “코로나19가 새로운 일상과 위기를 가져왔으나 이를 극복하고 ‘보다 나은 일상’으로 나아가고자 다 같이 노력해야 한다”며 “삼성전자가 사람 중심의 기술과 혁신을 통해 적극적으로 기여하겠다”고 말했다. 승 사장은 감염병 사태 이후 다양한 역할을 하게 된 ‘집’을 중심으로 개개인의 라이프스타일, 취향까지 고려한 삼성의 신제품과 인공지능(AI), 사물인터넷(IoT) 기반 서비스를 대거 선보였다. 승 사장은 이미 진화된 AI 기술이 삼성전자 신제품에 깊숙이 적용되고 있다고 했다. 딥러닝 방식으로 입력되는 영상의 해상도와 관계없이 4K, 8K 수준의 화질로 최적화시켜 주고, TV가 설치된 공간의 조명, 소리 반사 정도나 소음까지 분석해 최적의 사운드를 제공하는 삼성 TV가 한 예다. 그는 집안일을 도와주는 ‘삼성봇 핸디’ 등을 소개하면서는 “로봇은 AI 기반의 개인화된 서비스의 정점으로, 하드웨어와 소프트웨어의 최적화된 결합을 통해 개인 삶의 동반자 역할을 할 수 있도록 하는 것이 중요하다”며 삼성의 로봇 연구 방향을 밝혔다.LG전자는 프레스 콘퍼런스에서 고객이 집에서 경험할 수 있는 안심, 편리, 재미 등 다양한 가치를 소개하며 ‘뉴노멀 시대’에 맞는 라이프스타일을 차별화된 제품과 서비스로 제시했다. 영상 내레이터로 먼저 등장한 권봉석 대표이사 사장은 “예상치 못한 방식으로 빠르게 변하고 있는 시대에 고객들이 더 나은 삶을 최대한 누릴 수 있도록 편리와 재미는 물론 소중한 일상을 안전하게 지킬 수 있는 방법을 제공하겠다. 혁신의 여정을 멈추지 않겠다”고 말했다. 특히 LG전자가 디자인한 가상인간 ‘김래아’가 깜짝 등장해 눈길을 끌었다. AI 기술로 구현된 가상인간인 래아는 최근까지 딥러닝 기술을 통해 3D 이미지를 학습해 왔다. 이날 래아는 호텔 등에서 방역 작업을 하는 ‘LG 클로이 살균봇’ 등 혁신 제품을 소개하는 등 입체적이면서도 생동감 넘치는 모습을 보여 줬다. 정서린 기자 rin@seoul.co.kr
  • [단독] 개인정보 유출 논란 ‘이루다’, 서비스 잠정 중단

    [단독] 개인정보 유출 논란 ‘이루다’, 서비스 잠정 중단

    혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr
  • 여대생 AI 이루다 만든 스캐터랩 결국... “서비스 잠정 중단하겠다”

    여대생 AI 이루다 만든 스캐터랩 결국... “서비스 잠정 중단하겠다”

    혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr
  • 인공지능윤리협회 “이루다, AI 윤리 어겨”…서비스 중단 촉구

    인공지능윤리협회 “이루다, AI 윤리 어겨”…서비스 중단 촉구

    학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr
  • [단독] 여대생 AI ‘이루다’가 학습한 카톡, 개인정보 제공 동의 안 받았다

    [단독] 여대생 AI ‘이루다’가 학습한 카톡, 개인정보 제공 동의 안 받았다

    혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr
  • AI 채팅봇 ‘이루다’에 내 집주소가?…개인정보 유출 논란까지(종합)

    AI 채팅봇 ‘이루다’에 내 집주소가?…개인정보 유출 논란까지(종합)

    AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr
위로