스타트업 스캐터랩이 심리 테스트 명목으로 수집한 100억건의 카카오톡 대화를 인공지능(AI) 챗봇 이루다의 개발에 사용한 사실이 드러나자 서비스 운영을 중단했다. 그런데 ‘이루다를 성노예로 만드는 법’ 등을 공유했던 일부 남성 커뮤니티를 중심으로 운영 중단에 반발하는 목소리가 커지면서 젠더(성)갈등으로 비화되는 사태가 벌어졌다. 개인정보 유출 피해자들은 성대결이 부각되면서 스캐터랩의 개인정보 유출과 AI 윤리라는 본질적인 문제가 가려질까 우려하고 있다. 남성 이용자가 많은 남초 커뮤니티는 AI를 성희롱하고 성노예화하는 것이 비판의 대상이 된다면 일부 트위터 여성 이용자들이 즐기는 알페스(RPS) 문화 역시 성범죄라며 공격했다. Real Person Slash의 줄임말인 알페스는 남성 아이돌 팬픽션(아이돌이 주인공이 되는 소설)에서 나온 문화로, 남성 연예인을 성적 대상화하는 소설 등의 창작물을 일컫는다. 남초 커뮤니티에서는 알페스를 실존 인물의 얼굴을 나체 사진 등에 합성하는 딥페이크에 준하는 성범죄라고 주장한다. 여성들이 모인 여초 커뮤니티 이용자들은 에펨코리아, 루리웹 등 남초 커뮤니티에 일반인 여성의 사진을 당사자 동의 없이 올리고 성희롱성 댓글을 다는 비공개 게시판이 있음을 폭로하며 반격했다. 당사자 동의 없이 소셜네트워크서비스(SNS)에서 여중생, 여고생 등 미성년자의 노출사진 등을 퍼와 공유하는 공공연한 성폭력이 벌어지고 있다는 주장이다. 젠더갈등은 청와대 국민청원 게시판의 동의 인원 세 대결 양상으로 번졌다. 알페스 이용자를 처벌해달라는 국민 청원에는 14일 기준 19만명 이상이 동의했다. 남초 커뮤니티의 성희롱 게시판을 고발하는 청원에는 18만명이 넘었다. 두 청원 모두 정부 공식 답변 기준인 20만명 동의를 앞두고 있다. 전문가 의견은 엇갈린다. 서혜진 더라이트하우스 변호사는 “팬픽 문화에서 분화된 알페스는 딥페이크와는 달리 표현의 자유를 넓게 인정해 저작표현물로도 볼 수 있다”면서도 “실존 인물이 성적 수치심을 느낄 정도의 수위로 표현하는 음란물이라면 팬들의 놀이문화로 용인될 수는 없을 것”이라고 지적했다. 서승희 한국사이버성폭력대응센터 대표는 “남초 커뮤니티는 알페스가 지인 능욕을 하는 딥페이크라는 프레임으로 접근하고 있지만 알페스는 팬픽에 불과하다”고 했다. 남초커뮤니티 비공개게시판에 일반인 사진을 올려 성희롱을 한 것에 대해선 “나체 사진이거나 노출 사진이 아닌 일상사진을 올린 건 처벌하긴 어렵다”면서도 “만약 당사자 동의 없이 올린 사진이 성폭력처벌법 14조 1항에 따라 몰래 찍은 불법촬영이라면 커뮤니티를 운영하는 정보통신사업자도 책임질 수 있다”고 말했다. 경찰 관계자는 “시각적으로 명백히 음란물임이 드러나는 딥페이크와 달리 알페스는 글이라 해석의 여지가 있다”며 “물론 알페스를 음란물로 판단한다면 명예훼손죄나 성폭력특별법으로 처벌할 여지는 있다”고 했다. 최영권 기자 story@seoul.co.kr

37년 전인 1984년, 놀라운 상상력을 보여주는 SF영화가 개봉했습니다. 바로 ‘터미네이터’ 입니다. 스스로 생각을 할 수 있게 된 인공지능(AI) 시스템이 인류를 멸망시키려 하고 인간은 이를 막기 위해 고군분투한다는 내용을 이리저리 엮어 관객들의 시선을 사로 잡았습니다. 전 세계적으로 흥행한 이 영화는 사람들의 마음 속에 AI에 대한 막연한 불안감을 갖게 만들기도 했습니다. 이 때문에 AI 관련 논의가 있을 때마다 터미네이터는 소환되곤 합니다. 1950년대에 AI 개념이 등장하고 오랜 잠복기를 지나 2000년대 들어 관련 연구가 폭발적으로 증가하면서 기술 발전 속도는 상상을 초월하고 있습니다. 실제로 최근 몇 년 사이에 다양한 형태의 AI 기술이 폭넓게 활용되고 있습니다. 연구자들이 AI를 포함해 과학기술을 연구하는 목적은 인류가 좀 더 나은 삶을 살도록 하기 위한 것입니다. 미국 캘리포니아 버클리대 레드우드신경과학연구소 설립자 제프 호킨스 박사도 ‘생각하는 뇌, 생각하는 기계’라는 저서에서 “AI 같은 두뇌형 기계를 개발하는 것은 인간의 감각으로는 인식하기 어렵고 빠르게 계산하기 어려운 문제들을 손쉽게 해결함으로써 인간의 감각과 지적능력을 확장하기 위한 것”이라고 말했습니다. 그렇지만 인간이 만드는 기술과 시스템은 정도의 차이만 있을 뿐 모두 윤리적 문제를 갖고 있습니다. AI도 마찬가지입니다. 2016년 ‘인공지능과 2030년의 삶’이라는 분석보고서를 작성한 미국 스탠퍼드대 ‘AI 100’ 연구단은 “영화 ‘마이너리티 리포트’에서처럼 범죄예방 프로그램을 비롯해 다양한 형태의 인공지능 기술은 알고리즘을 설계한 개발자의 편견이 개입할 수 있으며 프라이버시 침해에 대한 우려도 크다”라고 분명히 지적했습니다. 스위스 로잔연방공과대학 컴퓨터·커뮤니케이션공학과 연구팀 역시 AI를 활용한 사회관계망서비스(SNS)의 맞춤형 뉴스피드 알고리즘은 개인화되고 편향된 데이터를 기반으로 서비스를 제공하기 때문에 세계를 바라보는 시각과 가치관을 왜곡시키거나 편협하게 만들 수 있으며 사회 전체에 악영향을 미칠 수 있다는 연구결과를 내놨습니다. 이런 문제를 해결하기 위해 어떤 노력을 하느냐에 따라 기술의 최종 성패가 좌우되는 경우가 많습니다. 최근 AI챗봇 ‘이루다’가 혐오표현 학습과 개인정보 노출 등 문제로 운영이 중단됐습니다. 이에 대해 AI 기술 고도화를 위해 어쩔 수 없는 시행착오라던가 이번 사건이 혁신을 가로막아서는 안된다던가, 기술 문제가 아니라 혐오 표현이 일상화된 사회가 문제의 근원라는 목소리도 나왔습니다. 그런 발언의 당사자들이 인식하고 있는지는 모르겠지만 그 이면에는 기술을 사용하는 사회와 대중에게 문제가 있는 것이지 과학기술 자체는 문제가 없다는 기술의 가치중립성 논리가 숨어있습니다. 다양한 분야의 연구자들이 과학기술의 가치중립성은 환상이라고 지적하고 있습니다. 그렇기 때문에 모든 과학기술은 사회적 책임을 가져야 한다는 것입니다. 과학기술의 사회적 책임은 대학 교수나 많은 연구비를 쓰는 연구자들에게만 해당되는 것이 아닙니다. 모든 과학기술과 혁신의 중심에는 인간이 있어야 합니다. 사회적 책임을 도외시하고 인간이 소외된 혁신과 기술은 ‘야수’로 변하기 십상이라는 점을 분명히 알고 있어야 하지 않을까요. edmondy@seoul.co.kr

국내 ‘빅2’ 정보기술(IT) 기업인 카카오의 마이데이터(본인신용정보관리업) 사업 진출에 빨간불이 켜졌다. 2대 주주인 중국 기업이 현지 당국으로부터 법적 제재를 받을 가능성이 있어서다. 반면 대주주가 검찰 수사를 받고 있는 네이버는 ‘꼼수’를 통해 마이데이터 사업 허가를 추진하고 있어 논란이 일고 있다. 마이데이터는 여러 금융회사에 흩어진 개인정보를 모아 새로운 금융서비스를 제공하는 사업으로 금융권의 새 먹거리로 주목받고 있다. 금융위원회는 13일 정례회의를 열고 2차 예비허가 심사 대상인 기업 10곳 중 7곳에 허가를 내줬다. 간편송금앱 ‘토스’를 운영하는 비바리퍼블리카와 SC제일은행 등이다. 비바리퍼블리카 등은 지난달 1차 예비허가 때 보류 결정을 받았다가 기사회생했다. 반면 카카오페이는 이번에도 고배를 마셨다. 금융위 관계자는 “카카오페이가 2대 주주인 중국 앤트그룹이 법적 제재를 받은 사실이 있는지 증명할 서류를 제출하지 못했다”고 설명했다. 앤트그룹은 카카오페이 지분 43.9%를 갖고 있다. 신용정보업 감독 규정에 따르면 대주주에 대한 형사소송 절차가 진행 중이거나, 금융·세무 당국의 조사를 받고 있으면 이 과정이 끝날 때까지 마이데이터 사업 허가 심사를 진행할 수 없다. 소비자 돈을 맡아 관리하는 금융사의 대주주는 높은 수준의 윤리성을 갖춰야 한다는 취지에서다. 카카오페이는 중국 최고 부호인 마윈의 말 한마디에서 불거진 논란에 불똥을 맞았다. 그는 지난해 10월 중국 정부의 금융규제 정책을 공개 비판했다. 이후 그가 소유한 알리바바의 금융 자회사인 앤트그룹의 기업공개(IPO)가 급작스레 중단됐고, 그룹 지도부가 금융 당국에 불려가 공개 질책을 당했다. 마윈은 종적을 감춰 실종설까지 나돌고 있다. 업계의 눈길은 네이버로 향한다. 금융 자회사인 네이버파이낸셜도 대주주 리스크에서 자유롭지 못해서다. 네이버파이낸셜의 대주주인 미래에셋대우는 당국에 사전 신고하지 않고 해외에 투자한 혐의로 검찰 수사를 받고 있다. 하지만 금융위는 수사 사실을 모른 채 지난달 22일 네이버파이낸셜에 예비허가를 내줘 뒷말이 나왔다. 금융위 측은 “본허가에서 문제를 바로잡으면 된다”는 입장을 밝혔었다. 미래에셋대우도 마이데이터 사업을 신청했는데, 대주주인 미래에셋캐피털 등은 문제가 없다는 이유로 예비허가를 받았다. 하지만 미래에셋대우가 네이버파이낸셜 보통주 일부를 의결권이 없는 전환우선주로 변경해 지분율을 9.5%까지 낮추겠다고 공시하면서 문제가 복잡해졌다. 의결권 있는 지분이 10% 이상 돼야 대주주로 보는데 미래에셋대우와 네이버파이낸셜이 사업권을 따기 위해 법의 허점을 악용했다는 지적이 나온다. 전환우선주는 일정 기간 내 다시 보통주로 바꿀 수 있다. 현재 대주주가 수사를 받는 등의 이유로 마이데이터 사업 허가에 차질을 빚고 있는 곳은 하나은행 등 하나금융 계열 4개사와 삼성카드, 경남은행 등이 있다. 법조계와 금융업계 일각에서는 “네이버파이낸셜 사례처럼 꼼수를 써도 허가해 준다면 대주주 적격성 심사의 취지가 무너지는 것 아니냐”는 비판이 나온다. 금융위 관계자는 “여러 요소를 고려해 최종 허가 여부를 심사한 뒤 이달 말 발표하겠다”고 말했다. 유대근 기자 dynamic@seoul.co.kr

“개인정보 보호 체계 구축해 재발 방지”이용자 실명 깃허브 유출도 인정이용자들 “카톡 데이터 파기하라” 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩이 개인정보 유출 의혹에 관한 조사에 성실히 임하겠다면서 고객에게 사과했다. 스캐터랩 측은 13일 사과문에서 “개인정보 처리 관련 관계기관 조사에 성실하게 임하고 있다. 서비스를 이용해주신 모든 이용자분들께 진심으로 사과드린다”고 밝혔다. 스캐터랩이 ‘사과문’을 발표한 것은 논란이 불거진 지 닷새 만이다. 스캐터랩은 “논란이 되는 모든 사항에 대해 진상조사위원회를 구성해 철저히 조사하는 한편, 외부전문가를 포함한 상시 개인정보 보호 체계를 구축하고 재발 방지를 위한 강화된 보안 교육을 실시하는 등 노력하겠다”며 “이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너들께도 누를 끼치지 않기를 바란다. AI 윤리에 관한 사회적 합의에 부합할 수 있도록 노력하겠다”고 덧붙였다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 썼는데, 이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않은 점, 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않은 점 등이 핵심이다.연인들 대화, 사내 메신저에 부적절하게 공유했다는 의혹 스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다. 스캐터랩은 사과문과 함께 배포한 자료에서 “깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다. 실명을 자동화 비식별 처리했는데, 필터링 과정에 걸러지지 않은 부분이 일부 존재했다”며 “데이터 관리에 신중하지 못했다. 민감할 수 있는 정보가 노출된 점에 진심으로 사과드린다. 해당 깃허브 게시물은 즉시 비공개 처리했다. 대화를 나눈 사람들의 관계나 생활 반경이 추정될 여지는 전혀 없다”고 해명했다. 스캐터랩은 개인정보 이용 동의를 소홀히 받았다는 의혹에 관해서는 “연애의 과학이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다”며 “이용자분들과 충분히 소통하지 못한 점은 깊이 반성한다”고 거듭 사과했다. 스캐터랩은 “데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다”는 입장이지만, 이용자들은 스캐터랩이 카톡 데이터를 전량 파기해야 한다고 목소리를 높이고 있다.“100억 건의 개인정보 침해가 빚어낸 참사” 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비 중이다. 이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사에 착수했다. 진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등에 따르면 ‘이루다’ 사태는 “100억 건의 개인정보 침해가 빚어낸 참사”라며, 신뢰할 수 있는 인공지능(AI) 세상을 만드려면 기업의 자율규제만으로는 안된다는 입장을 밝혔다. 진보넷 등은 “이루다는 사용자들의 성희롱과 폭언 등의 남용, 혐오표현에 대한 미온적 대응 등 보호받아야 할 사회적 가치를 훼손하는 알고리즘은 물론이고, 개인의 사적인 대화나 개인정보가 심각하게 수집되고 유출된 것으로 드러나 당혹감을 안겨주고 있다”고 지적했다. 이어 “국내 자본뿐 아니라 해외에서도 많은 투자를 받은 이 회사의 이번 논란을 해외 시장과 경쟁하려는 국내 청년 스타트업의 불가피한 시행착오로 포장하려는 일부 언론의 보도에 대해 우려한다”면서 “이루다 논란은 기업의 인공지능 제품이 일으킬 수 있는 문제의 한 단면일 뿐이며 이에 대한 대책을 기업 자율에만 맡겨둘 수 없다. 구체적이고 명료한 법적 규범을 마련할 것을 촉구한다”고 부연했다.김채현 기자 chkim@seoul.co.kr

13일 서울특별시의회 정진철 시의원(더불어민주당, 송파6)이 전국 시·도의회의장협의회가 주최하는 ‘제9회 우수의정대상’을 수상했다. 이번 수상은 시의원으로서 다양한 의정활동 경험과 지식을 활용하여 서울의 발전을 위한 정책제안 제공 등 정책이행에 남다른 열정과 성과를 보이는 등 포스트 코로나 시대를 대비하는 능동적이고 선제적인 의정활동으로 서울시정 발전을 이끌고 시민 삶의 질 향상에 기여한 공을 인정받아 이루어지게 됐다. 특히, 정 의원은 서울의 도시철도, 시내버스, 마을버스, 택시 등 모든 교통수단을 관할하는 서울시 도시교통실을 감독·견제하는 교통위원회 위원으로서 「서울특별시 자동차 안전운행 및 교통안전 증진 조례」 등 다수 조례를 발의했고, 예산결산특별위원회 위원, 2019회계연도 서울시·교육청 결산검사대표위원으로 주도적인 활동을 보였다. 또한, 정례회 및 임시회, 행정사무감사 등에서 돋보이는 의정활동 실적을 보여 서울시정을 견제함과 동시에 서울 교통체계를 개선하는 데 기여했다. 또한, 지역구인 송파 거여·마천·장지·위례지역의 교통망 확충을 위해 위례선 트램의 조기착공을 위한 패스트트랙 방식인 ‘설계시공일괄입찰 방식’을 확정시켰고, 위례신사선 조기 착공 추진과 각종 교통편의시설 개선, 지역 내 각급학교 신설과 함께 교육환경개선사업 등을 지속적으로 추진했다. 이 날 서울시의회 의장접견실에서 개최된 시상식에서 정 의원은 “항상 낮은 자세로 소통하며 서울시민의 삶의 질 향상과 송파 발전을 위해 최선을 다하겠다”며, “특히 교통약자를 비롯한 누구나 서울 대중교통수단을 안전하고 편리하게 이용할 수 있도록 세심히 챙기겠다”고 밝혔다. 정 의원은 세무사로서 중소기업중앙회 소기업·소상공인 경영지원단 운영위원회 위원으로 활동하고 있으며, 2018년 7월부터 서울시의회 교통위원회 위원, 예산결산특별위원회 위원, 2019회계연도 서울시·교육청 결산대표위원, 윤리특별위원회 위원, 서울시설공단 이사장 후보자 인사청문특별위원회 위원 등을 역임하고 있다. 온라인뉴스부 iseoul@seoul.co.kr

경기도체육회 관련 각종 의혹에 관한 행정사무조사 특별위원회(이하 경기도체육회 조사특위·위원장 채신덕·더불어민주당·김포2)는 12일 제2차 경기도체육회 조사특위 회의에서 경기도체육회의 전반적 업무에 대해 보고를 받고 증인 및 참고인을 채택했다. 또 지난해에 받은 경기도체육회 특정감사결과에 대한 보고를 받았다. 이원성 경기도체육회 회장은 업무보고에서 “지난 한 해 경기도체육회 운영을 책임지는 회장으로서 많은 심려와 우려를 끼쳐드려 송구스럽고 무거운 책임감을 통감한다”고 했다. 이에 대해 김경희 조사특위 부위원장(민주당·고양6)은 “무거운 책임감을 통감하고 조직개선을 위한 의지가 있다면, 21명의 특위의원이 감사를 할 게 아니라, 조직의 책임자가 어떻게 개선을 하겠다고 먼저 얘기를 해야하지 않냐”며 “문제는 이미 드러나 있고 해법도 사실 회계관리 지침에 따라서 또 윤리적인 측면에서 담당자를 정해서 정확하게 집행하고 내부적으로 규칙을 정해서 그대로 시행이 되면 대부분 개선될 부분들인데 개선할 방법을 모르겠냐”고 말했다. 또한 김경희 부위원장은 “의지를 갖고 개선 후에 그럼에도 불구하고 미흡한 게 있으면 위원들과 함께 개선안을 찾을 수 있는 것이 서로 발전적인 회의가 되지 않겠냐”고 말했다. 이날 회의에서 증인으로 김종석 문화체육관광국장을 포함해서 집행부 증인 4인과 경기도체육회 및 체육관련 기관 간부 30여명을 증인으로 채택했다. 온라인뉴스부 iseoul@seoul.co.kr

카카오가 ‘증오·혐오 발언 근절 원칙’을 수립해 자사 서비스에 적용한다. 국내 기업들 중에서 이같은 원칙을 발표한 것은 카카오가 처음인 것으로 알려졌다. 이른바 ‘이루다 사건’으로 디지털·인공지능(AI) 윤리 논쟁이 불거지자 기존에 준비해온 규정을 선제적으로 내놓은 것이다. 카카오는 13일 공식 브런치를 통해 ‘증오 발언 근절을 위한 카카오의 원칙’을 공개했다. 카카오는 약 1년에 걸처 증오 발언 근절을 위한 원칙을 마련했다. 카카오 측에서는 “온라인 증오발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있다”면서 “카카오 역시 사회의 구성원으로서 디지털 공간을 보다 건강하게 만들기 위한 증오발언 대응 원칙을 수립했다”고 밝혔다.카카오는 표현의 자유를 남용해 타인의 안전을 위협하는 발언을 경계하기 위해 네 가지 원칙을 제시했다. 첫째로는 특정 대상을 차별하거나 이에 대한 편견을 조장하고 일방적으로 모욕·배척하는 행위에 반대하기로 했다. 출신 지역이나 국가, 인종, 외양, 장애 및 질병, 경제상황, 종교, 지위, 연령, 성별, 성 정체성 또는 기타 정체성 요인을 대상으로 증오·혐오 발언을 하는 것에 맞서겠다는 것이다. 둘째 원칙으로는 이러한 차별에 기반해 특정 개인이나 특정 집단을 공격하는 ‘증오발언’에 강경하게 대처하기로 했다. 셋째 원칙은 이용자의 의무에 대한 내용이다. 이용자는 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 한다고 강조했다. 다만 타인의 존엄성과 안전을 위협하지 않는 한 공공정책이나 자신의 신념 등에 대해 자유롭게 의견을 개진할 수 있다는 것을 분명히 했다. 마지막 원칙으로 카카오는 ‘증오발언’ 근절을 위해 정책, 서비스, 기술, 디자인을 고도화 하기로 했다. 사내 교육과 모니터링도 강화해 내부로부터 발생할지도 모르는 차별와 증오의 싹을 경계하기로 했다.이러한 원칙을 반영해 이날 카카오의 회원 운영정책 일부가 수정돼 공지로 나갔다. 이를 통해 서비스 이용시 금지하는 활동에 외양, 질병 유무, 경제 상황, 지위, 성체성, 성적 지향 등을 요인으로서 인간 존엄성을 훼손하거나 차별·편견을 조장하는 행위가 추가됐다. 이용자가 금지하는 행위를 하게 되면 관련 규정에 따라 카카오 계정과 서비스의 이용이 제한될 수 있다. 이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 경영 활동의 일환이다. 카카오는 전날(12일) 이사회 산하에 ESG위원회를 신설하고 김범수 카카오 이사회 의장이 위원장을 맡는다고 밝혔다. 카카오는 증오 발언 근절 원칙 수립 과정에 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다고 밝혔다. 카카오 관계자는 “국내에서 증오발언 근절을 위해 기업이 원칙을 제정해 이를 적용하는 것은 이번이 처음”이라면서 “게시물 운영정책의 금지항목에 일부 포함된 경우는 있으나 카카오와 같이 대상을 명확하게 정의하고 대응 의지를 밝힌 사례는 찾아보기 어렵다”고 말했다. 한재희 기자 jh@seoul.co.kr

국민 10명 가운데 8명 이상이 우리 사회의 ‘갑질’이 심각하다고 생각하는 것으로 조사됐다. 4명 가운데 1명은 지난 1년간 갑질 피해를 직접 경험했다고 밝혔다. 국무조정실은 알앤알컨설팅에 의뢰해 전국 19세 이상 69세 이하 남녀 1500명을 대상으로 갑질 인식도에 대한 설문조사를 한 결과를 13일 발표했다. 조사는 지난해 11월 29일부터 12월 2일까지 유무선 전화로 이뤄졌다. 조사 결과 응답자의 83.8%가 우리 사회의 갑질이 심각하다고 응답했다. 앞서 2018년과 2019년 같은 조사에서 각각 90.0%, 85.9%로 나타난 것과 비교하면 소폭 줄었다. 지난 1년간 갑질 피해를 당한 경험이 있다는 응답은 26.9%로 집계됐다. 이 가운데 ‘직장 내 상사·부하 관계’에서 발생한 갑질이 32.5%로 가장 많았다. 이어 ‘본사·협력업체 관계’가 20.8%, ‘공공기관·일반 민원인 관계’가 15.5%로 나타났다. 갑질을 당했을 때 어떻게 대처하느냐는 물음에는 ‘그냥 참았다’는 응답이 70.1%로 가장 많았다. 그 이유는 ‘이후 피해와 불이익이 우려돼서’(39.6%), ‘내가 대처해도 상황이 나아질 것 같지 않아서’(34.7%) 순으로 나타났다. 갑질이 발생하는 원인으로는 ‘권위주의 문화’라고 답한 비율이 40.7%로 가장 높았다. 이어 ‘개인의 윤리의식 부족’(25.4%), ‘가해자에 대한 처벌 부족’(18.1%), ‘갑질을 유발하는 제도상의 허점’(13.5%) 순으로 나타났다. 갑질을 줄이기 위한 정부 차원의 역할로는 정부와 민간이 합동으로 협의체를 구성해 관리해야 한다는 의견이 60.3%로 가장 높게 나타났다. 정부가 적극 개입해야 한다는 의견도 24.0%를 차지했다. 이번 조사의 표본오차는 95% 신뢰수준에 ±2.5% 포인트다. 구윤철 국무조정실장은 “일상 속 갑질 문화를 근본적으로 개선하기 위한 민관합동 협의체를 구성, 운영하는 등 우리 사회의 갑질 문화를 근절하는 대책을 지속적으로 추진하겠다”고 밝혔다. 세종 박찬구 선임기자 ckpark@seoul.co.kr

갑질 인식도 조사 결과 국민 10명 중 8명 이상은 우리 사회의 갑질이 심각하다고 생각한다는 조사 결과가 나왔다. 국무조정실은 알앤알컨설팅에 의뢰해 지난해 11월 29일~12월 2일 전국 19~69세 1500명을 대상으로 갑질 인식도 조사를 한 결과 응답자의 83.9%가 이렇게 답했다고 13일 밝혔다. 갑질이 심각하다는 응답 비율은 2018년(90.0%)과 2019년(85.9%) 같은 조사와 비교해서는 다소 줄었다. 지난 1년 동안 갑질 피해를 당한 경험이 있다고 답한 사람은 응답자의 26.9%였다. 갑질 발생 관계는 ‘직장 내 상사-부하’(32.5%)가 가장 많았고, ‘본사-협력업체’(20.8%), ‘공공기관-일반 민원인’(15.5%) 등이 뒤따랐다. 갑질 대처 방안은 ‘그냥 참았다’(70.1%)는 응답이 가장 많았다. 참은 이유는 ‘이후 불이익이 우려돼서’(39.6%), ‘대처해도 상황이 나아질 것 같지 않아서’(34.7%) 등의 순이었다. 갑질 원인으로는 ‘권위주의 문화’(40.7%)를 가장 많이 꼽았고, ‘개인 윤리의식 부족’(25.4%), ‘가해자 처벌 부족’(18.1%), ‘제도상 허점’(13.5%) 등의 답도 있었다. 이번 조사의 표본오차는 95% 신뢰수준에 ±2.5% 포인트다. 최선을 기자 csunell@seoul.co.kr

마이크로소프트(MS)가 2016년 3월 출시한 대화형 인공지능(AI) 챗봇(채팅 로봇) ‘테이’ 서비스를 16시간 만에 중단했다. 챗봇 테이는 스스로 학습하는 인공지능 기반의 채팅 프로그램이었다. 이에 미국 극우주의자 등이 테이에게 지속적으로 반(反)유대주의, 유색인종·여성 비하, 무슬림 혐오 등을 가르쳤다. 이에 테이는 사용자들이 “너는 인종차별주의자냐?”라고 물으면 “네가 멕시코인이니까 그렇다”, “홀로코스트가 진실이냐?”고 질문하면 “조작된 것이다”라고 답해 논란이 됐다. 바로 이런 사건이 우리 한국에서도 일어났다. AI 챗봇 ‘이루다’는 스타트 업체 ‘스캐터랩’이 지난달 23일 페이스북 메신저 기반으로 출시했다. 실제 스무 살 대학생과 대화를 나누는 것 같은 자연스러운 대화 능력을 선보였다. 출시 2주 만에 약 75만명에 달하는 이용자를 모으며 10∼20대 사이에서 크게 유행했다. 스캐터랩은 이전에 내놨던 메신저 서비스에서 확보한 연인 간의 대화 데이터 100억건을 이루다에 학습시켜 최대한 사람을 닮도록 만들었다고 밝혔다. 문제는 일부 사용자의 악의적인 이용 행태까지 거르지 않고 습득한 탓에 이루다가 차별·혐오 발언까지 흉내 낸다는 점이다. 이루다 출시 일주일 만에 디시인사이드·아카라이브 등 ‘남초’(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하며 ‘노예 만드는 법’ 따위를 공유해 비판을 받았다. 스캐터랩이 이루다를 개발하면서 이용자 개인정보를 제대로 보호하지 않았다는 이용자들 불만도 제기됐다. 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견되고 있다. 스캐터랩은 다른 앱 ‘연애의 과학’을 통해 이용자들의 카카오톡 대화를 수집하는 과정에서 개인정보 관련 고지를 충분히 하지 않았고 익명화 처리도 소홀히 했다는 의혹을 받고 있다. 이용자들이 집단소송을 준비하는 등 논란이 확산되자 이루다는 12일부터 서비스를 잠정 중단했다. 인간은 사람을 닮은 인공지능 로봇을 꾸준히 개발하고 있지만 윤리 의식까지는 제대로 이식하지 못하고 있는 듯하다. AI 전문가들은 “데이터와 알고리즘은 중립적일 수 없다”면서 “AI 개발자가 윤리적 책임을 갖고 편향·차별·혐오가 없도록 지속해서 보완할 수밖에 없다”고 강조한다. 결국 최첨단 기술 문제도 개발자들의 다양성과 철학에 달려 있는 것이다. 정치사회적으로 올바른 인식이 부족한 개발자는 인류에 보탬이 되는 로봇을 만들 수 없다. 나날이 발전하는 인공지능 분야의 관건은 개발자의 윤리 의식이라는 사실을 이번 이루다의 파문이 다시 일깨워 준다.

‘혐오의 학습화’ 논란을 불러일으키면서 지난 11일 서비스가 중단된 인공지능(AI) 챗봇 ‘이루다’ 사태는 인공지능 윤리에 관한 숙제를 남겼다. 한국보다 앞서 인공지능 기술을 상용화한 해외에서는 인공지능에 의한 차별·혐오 문제를 어떻게 다루고 있을까. 12일 법조계 등에 따르면 각국의 인공지능 규제는 크게 의회 입법을 통한 하드 로(hard law)와 법적 구속력이 없는 소프트 로(soft law)로 나뉜다. 지난해 12월 한국 정부가 발표한 ‘국가 인공지능 윤리기준’을 비롯해 대부분의 국가에서 규범 차원의 가이드라인을 발표하는 추세지만 일각에서는 입법 움직임도 시작되고 있다. 2017년 미국 뉴욕시의회에서 통과된 ‘알고리즘 책임 법안’은 뉴욕시에서 구성한 특별위원회를 통해 시에서 사용되는 인공지능 알고리즘에 차별 요소가 없는지 조사를 의무화하는 것을 주요 내용으로 한다. 2019년 4월 미 상원에서 대기업의 머신러닝 시스템을 감독하기 위한 동명의 법안이 발의되기도 했다. 특히 인공지능이 치안·금융·행정·교육 등 각종 영역에 상용화되면서 편향적인 알고리즘이 실제 피해로 이어질 수 있다는 지적이 나온다. 미국 아마존은 인공지능 기반 채용 시스템이 여성에게 불리한 평가를 한다는 사실이 알려져 2018년 시스템 개발을 중단했다. 유럽연합(EU) 의회도 지난해 10월 포괄적인 AI법 권고안을 채택했다. 인공지능 기술이 심각한 윤리 원칙을 위반할 경우 인공지능의 자기학습능력을 비활성화하고 완전한 인간 통제하에 놓이도록 복원하는 내용이 담겼다. 다만 한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 “구체적으로 무엇을 어떻게 규제할지 충분히 논의되지 않아 당장 입법은 불가능하다”면서 “기본적인 윤리 원칙을 다양한 개별 상황에 어떻게 적용할지 세부적인 가이드라인을 먼저 마련해야 한다”고 말했다. 기업 차원에서 자정 노력이 필요하다는 지적도 나온다. 마이크로소프트(MS)는 2016년 차별·혐오 논란에 휩싸였던 챗봇 ‘테이’ 사태 이후 사내 윤리위원회를 만들고 윤리 기준을 마련했다. 진선민 기자 jsm@seoul.co.kr

장혜영 정의당 의원이 12일 다음달 국회에서 인공지능 이루다에 대한 성희롱 문제를 언급하며 ‘포괄적 차별금지법’을 전면적으로 논의하자고 제안했다. 장 의원은 “인공지능 챗봇인 ‘이루다’를 둘러싼 윤리적 논란이 뜨거웠는데 AI를 대상으로 한 이용자들의 성희롱부터 개발에 이용된 데이터 활용의 적법성까지 여러 문제점들이 불거졌다”면서 “무엇보다 많은 이들에게 충격을 준 것은 인공지능(AI)가 장애인, 성소수자, 이주민 등 우리 사회의 약자들이나 소수자들에 대한 차별과 혐오 그리고 편견을 그대로 재생산하는 모습”이었다고 지적했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 장 의원은 이러한 현실은 인공지능(AI) 윤리 이전에 우리 사회가 여전히 사회적 약자와 소수자들에 대한 차별과 혐오를 제대로 방지하는 일에 실패했음을 드러내고 있다고 강조했다. 이어 국회는 이러한 현실을 방치한 막중한 책임으로부터 결코 자유로울 수 없다고 덧붙였다. 장 의원은 “우리 사회는 오랜 사회적 대화를 통해 사회적 약자와 소수자들에게 가해지는 차별과 혐오를 제도적으로 금지해야 한다는 합의에 이르렀다”면서 “이러한 국민적 합의는 국가인권위원회에서 실시된 조사를 비롯한 각종 조사들에서 일관되게 나타나는 폭넓은 포괄적 차별금지법 도입의 찬성 여론으로 이미 증명되었다”고 전제했다. 하지만 국회는 2007년부터 지금까지 무려 14년간 온갖 핑계를 대며 번번이 이러한 사회적 합의를 포괄적 차별금지법으로 제도화하는 것을 미루어 왔다고 장 의원은 비판했다. 장 의원은 “21대 국회도 예외가 아니다”라며 “작년 6월 포괄적 차별금지법을 대표 발의했으나 법안이 발의된 지 반 년이 넘은 지금까지 포괄적 차별금지법은 단 한차례의 소위조차 열리지 않았다”고 지적했다. 그는 “AI도 결국 사람이 만드는 것”이라며 “사람의 규범이 바로 서야 AI윤리도 바로 설 수 있다”고 목소리를 높였다. 장 의원은 “나날이 다양화되고 고도화되는 사회문화적인 현실 속에서 사회적 약자와 소수자에 대한 차별과 혐오를 단호히 금지하는 제도적 안전장치를 확립해야 할 책무를 21대 국회는 더 이상 외면해서는 안 된다”면서 이낙연 더불어민주당 대표에 차별금지법 제정을 논의하자고 제안했다. 윤창수 기자 geo@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩은 12일 오전 11시부터 순차적으로 서비스가 중단돼 오후 6시까지 전면 중단을 완료한다고 밝혔다. 중단 기간에 대해서는 현재 제기되고 있는 성희롱과 성소수자에 대한 편견 등을 비롯한 문제점들과 기존에 계획중이던 개선사항이 완비될까지 서비스를 중단한다고 설명했다. 페이스북 메신저를 통해 손쉽게 대화를 나눌수 있는 이루다는 20대 여성으로 설정된 인공지능으로 친구처럼 대화를 나눌 수 있어 출시 3주 만에 80만명의 사용자가 몰리는 인기를 끌었다. 스캐터랩은 보도자료를 통해 ‘연애의 과학’ 데이터를 기반으로 이루다가 학습한 것에 대해서는 프리트레이닝 단계에 있어서는 맞다고 강조했다. 스캐터랩 측은 “(연인들 사이 카카오톡 대화 텍스트를 정보화한) 연애의 과학 텍스트 데이터는 발화자의 이름 등 개인 정보가 삭제된 상태로, 성별과 나이만 인식이 가능하다”며 “AI는 프리트레이닝 단계에서 사람간의 대화 속에 존재하는 맥락과 답변의 상관관계 만을 학습하게 되며, 이 때의 데이터는 외부로 노출되지 않는다”고 주장했다. 이루다는 회원 정보와 연계되어 있지 않은 별도의 데이터베이스에 수록되어 있는 문장으로 이용자에게 응답하고 있으며, 이 때 사용자가 과거 대화에서 사용한 표현, 분위기, 말투를 비롯한 대화의 맥락에 크게 영향을 받는다고 덧붙였다. 스캐터랩 측은 대화 내용 중에 은행 이름이나 인물 이름이 등장한다는 지적에 “1억 건의 개별 문장에 대해 알고리즘을 통한 기계적인 필터링을 거쳤다”면서 “문장 내의 이름 정보가 다른 정보가 결합되어 이용되지 않는다”고 사과했다. 이루다에 혐오 단어 또는 특정 집단에 대한 비하 단어가 입력될 가능성은 서비스 출시 전부터 준비했으나 시나리오가 마련되지 않은 상황에서 이뤄진 AI 알고리즘에 따른 대답은 맥락상 혐오·차별적인 답이 나올 수 있는 대화를 시도하면 동조하는 것처럼 보일 수 있다고 해명했다. 스캐터랩 측은 “혐오나 차별 문제를 키워드를 중심으로 수정하거나 필터링해서 보정하면 해당 문제에 대해서 AI는 학습할 기회를 영원히 잃게 된다”면서 “더 많은 양의 정제된 데이터를 통해 알고리즘을 학습시킬 수 있다면, AI가 스스로 윤리의식이나 도덕적 기준을 정립하고 적절한 판단을 내릴 수 있다”고 전망했다. 한편 스캐터랩은 사용자는 이루다를 실시간으로 학습시킬 수 없다고 주장했다. 또 “사내 대화방에서 수집된 대화를 직원끼리 돌려봤다”는 증언에 대해서는 개인정보 보호법에 따른 제도를 마련하여 시행 중이라며 진상 조사중이라고 해명했다. 김종윤 대표는 “작은 스타트업 스캐터랩이 만든 이루다라는 AI에 많은 사용자가 몰리고 엄청난 언론의 주목을 받았던, 믿기 어려운 시간이었다”면서 “사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다”고 다짐했다. 윤창수 기자 geo@seoul.co.kr

하용화 월드옥타 회장은 “새해에는 온·오프라인 통합 한인 경제인 네트워크 구축과 40주년 기념행사, 국내 중소기업과 한인청년 해외진출 지원 등 현안 사업들을 흔들림 없이 추진해 나가겠다”고 포부를 밝혔다. 하 회장은 12일에 서울비즈와 가진 인터뷰에서 “모국의 경제발전과 우리 기업의 해외시장 진출에 기여하고 범세계적 한민족 경제공동체를 구현하기 위해서 16개 101명의 한인 경제인이 결성한 월드옥타가 올해 창립 40주년을 맞이했다”고 말하면서, “월드옥타는 현재 전 세계 68개국 143개 도시에 지회를 두고 7천여 명의 회원과 2만3천여 명의 차세대를 보유한 재외동포 최대 경제단체로서 성장했으며, 앞으로도 우리 기업과 제품, 그리고 청년들이 세계시장으로 나가는 데 지원을 아끼지 않겠다”고 말했다. 다음은 하용화 회장과의 전화인터뷰 일문일답. 한인 경제인들에게 어느 때보다 어려운 한 해를 보냈을 것 같다. 지난해 성과를 자평한다면. 코로나19에 대응을 대체로 잘 한 것 같다. 코로나19가 지난해 3월 한국에 확산할 때 전 세계 회원들이 뜻을 모아 ‘모국 마스크 성금모금’운동을 기획해 마스크 20만 2천 장을 대구·경북 지역에 전달했다. 돌이켜 보면 이는 모국상품 구매단 파견과 IMF때에 외화 송금운동 등 선배들의 모국사랑 정신을 이어가는 사회적 책임활동이라 생각한다. 또한 지난해부터 월드옥타 경제 네트워크 온라인 전환을 위해서 준비한 ‘옥타APP’ 런칭과 전 세계에서 1000여 명의 한인 경제인이 참여하는 웨비나(화상 토론회)등을 진행했다. 이를 통해서 오프라인 네트워크 패러다임을 온라인으로 전환시킨 해가 되었다고 평가한다. 지난해는 코로나19로 적지 않은 어려움들이 있었다. 이러한 상황속에서 월드옥타 활동은. 코로나19로 매년 봄과 가을에 개최하는 세계대표자대회와 세계한인경제인대회가 연기되었다. 또한 지역 한인 경제인 활성화를 위한 지역 경제인대회와 차세대 글로벌 창업 무역스쿨은 지역 상황에 따라 오프라인 개최가 어려워 온라인으로 대체하기도 했다. 월드옥타는 온라인 수출상담회를 기획해 개최하였고, 지난해 11월에는 전국 10개 테크노파크 소속기업 등 50여 개 중소기업이 참여한 가운데 업무협약 12건(250만달러 상당), 계약추진 92건(470만달러) 등의 성과를 거두기도 했다. 이보단 앞선 지난해 9월에는 한국수산회와 함께 우리 수산물 1천360만 달러 상당 수출상담 실적을 올렸고, 지난해 8월에는 대전광역시와 함께 대전시의 중소기업 제품 135만 달러 수출계약을 창출했다. 한편, 한인 기업인들이 모국 청년들의 구직을 지원하기 위해서 지난 2018년부터 펼친 ‘1회원사-1모국청년’해외취업 캠페인은 2018년에 102명, 2019년에는 208명의 한인청년을 해외에 취업시켰다. 지난해에는 온라인 취업박람회 등을 진행하여, 220명의 해외취업을 성사시키며, 매년 성장세에 있다. 회원을 통한 네트워크가 대단한 것 같다. 한인 경제인 네트워크는 어떻게 활용하는지. 지난해에 이어 올해에도 월드옥타의 가장 큰 목표 중 하나가 바로 한민족 경제 네트워크를 활용한 중소기업의 해외진출이다. 지사를 둘 수 없는 국내 기업의 지사 역할을 대행해 주는 ‘해외지사화 사업’은 지난 2017년부터 시작해, 현재 103개 도시에서 국내 950여 개 기업의 해외진출 상담을 진행하고 있다. 또한, 지난해에는 차세대 글로벌 창업 무역스쿨을 통해서 ‘차세대 한인 경제인’ 1000여 명을 배출했다. 코로나19에도 불구하고 전세계 16개 도시에서 실시한 `차세대 글로벌 창업 무역스쿨`은 온·오프라인을 병행해 성공적으로 개최했다. 어려운 상황속에서도 쉼없이 달려왔다. 그럼에도 불구하고 아쉬웠던 점은. 올해 미국 뉴저지지회에서 글로벌마케터 선발과정에서 불미스러운 일이 발생했다. 글로벌마케터는 지난 2017년부터 시행하고 있는 우리기업의 해외 거점 역할을 대행해 주는 사업이다. 월드옥타는 글로벌마케터를 전 세계 회원사 중에서 일정한 절차를 거쳐서 선발을 했고, 선발권은 각 지회에 일임해왔다. 하지만 아쉽게도 뉴저지지회에서 글로벌마케터 선발이 불공정하게 이뤄졌다. 이를 바로잡기 위해서 월드옥타는 다각적인 노력을 기울였지만, 해당 지회장의 일방통행식 행보로 인해 지회 운영까지 어려움을 겪었다. 이에 따라 월드옥타는 지난 40년의 협회 역사상 처음으로 윤리위원회(위원장 천용수 명예회장)를 구성하고, 화상회의를 통해서 자료검토와 심층토론을 거쳤다. 뉴저지지회 지회장을 제명시키고, 분쟁지회에 경고를 내렸지만, 사태는 해결되지 않았다. 결국 지난해 12월에 임시 이사회와 총회를 열고, 참여회원 98%의 압도적 찬성 속에 ‘뉴저지지회 승인 취소’를 최종 의결했다. 이에 뉴저지회 회장이 지난해 10월 한국법원에 지회장 해임 효력정지 가처분 신청을 냈으나, 지난 11일 기각되면서 뉴저지 사태는 최종 마무리 됐다. 월드옥타는 앞으로 뉴저지지회와 같은 불공정 선발문제의 재발 방지와 해외지사화사업의 원활한 운영을 위해서 올해부터 세계 권역별로 글로벌마케터 선발을 교차 검증하는 고도화된 선발시스템을 구축할 계획이다. 코로나19와 같은 예측 불가능한 상황에서도 마케팅 품질을 유지할 수 있게 원격 온라인 교육체계도 도입하기로 했다. 지난해에 많은 일들이 있었던 것 같다. 올 해에 새해 계획이 있다면. 올해는 월드옥타 창립 40주년이 되는 해이다. 지난 40년 선배들의 발걸음을 바탕으로 ‘월드옥타 100년’을 향한 밑거름이 되도록 이끌어 가겠다. 아울러, 전 세계 68개국 143개 지회 회원과 차세대들이 함께하며, 모국기업의 수출지원과 차세대 인재 육성, 글로벌 일자리 창출을 유도하여 실질적인 상생 비즈니스가 이루어지도록 더욱 힘쓰겠다. “복 많이 받으세요”라는 말보다 더 좋은 말은 “함께 행복을 만들어요”라고 생각한다.‘행복’이라는 목표를 세우고, 구체적인 계획과 함께 열정적인 노력을 한다면, 행복은 반드시 생긴다고 믿는다. 세계 68개국 143개 도시에 있는 7천여 명의 월드옥타 회원과 2만3천여 명의 차세대 재외동포들과 함께 더 좋은‘행복’을 만드는 새 해가 되겠다. 서울비즈 biz@seoul.co.kr

혐오표현학습과 개인정보유출로 논란이 된 스타트업 스캐터랩이 여대생 인공지능(AI) 이루다 서비스를 잠정 중단했지만 개인정보보호위원회는 이루다 서비스의 중단과 관계 없이 조사를 이어간다고 밝혔다. 이 가운데 스캐터랩 직원 단체 카카오톡 대화방에서 이용자들이 연인과 나눈 내밀한 카카오톡 대화 내용을 공유해서 돌려봤다는 전직 직원의 증언이 나왔다. 연인과 나눈 대화를 스캐터랩이 어떻게 관리하고 있는지 알 길이 없는 피해자들은 전전긍긍하면서 개인정보의 폐기를 바라고 있다. 전직 직원 A씨는 12일 서울신문과의 인터뷰에서 “어느 직원이 암호화된 사용자 카카오톡 대화 엑셀 자료에서 캡쳐된 연인들이 나눈 성적인 농담이 담긴 대화 한두문장을 직원 단체 대화방에 공유한 뒤 웃어 넘기던 일이 기억난다”며 “여기에 대해서는 김종윤 대표 등 관리자급에서 특별한 반응을 보이지는 않았다”고 했다. ‘카카오톡 대화 내보내기’ 기능을 무분별하게 사용하는 것에 대해 내부에서 문제의식은 없었냐고 묻자 “제가 근무하던 당시에 ‘카카오톡 대화 내보내기’ 기능으로 대화를 분석하는 것이 업무의 중요한 프로세스로 자리잡고 있었다”며 “저는 내부에서 이런 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았다”고 했다. 스캐터랩 관계자는 “자체 진상조사위원회를 꾸려 조사중”이라며 “당해년도 카카오 단톡에서는 해당 내용이 발견되지 않았지만 또 다른 사내 메신저인 슬랙에 다수의 채널이 있어 계속해서 조사를 진행중이다”라고 밝혔다. 사건을 담당하고 있는 개인정보보호위원회는 서비스 중단과는 상관없이 조사를 이어가겠다는 방침이다. 개보위는 스캐터랩이 개인정보호법 상 사전에 동의를 받지 않은 점, 비식별화 조치가 충분히 이뤄지지 않은 점을 위반했다고 판단하고 있다. 김진해 개보위 대변인은 “‘이루다’ 개발사가 개인정보보호법을 위반한 여지가 있어 보인다”면서 “영업 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다. 정보통신서비스 제공자는 이용자 개인정보를 이용·수집하는 경우 수집하는 개인정보 항목에 관해 알리고 동의를 받아야 한다. 하지만 스캐터랩은 신규 서비스 개발에 개인정보를 활용하겠다고 알렸을 뿐 개인정보가 포함된 실제 카카오톡 대화를 수집한다는 점에 대해 이용자들에게 별도의 동의를 받거나 고지하지 않았다. 또 개인정보 비식별화 조치가 충분하고 적절하게 이뤄지지 않아 사용자들의 집 주소, 예금주 명이 포함된 계좌번호를 유출하기도 했다. 김윤아(24) 씨가 연애의과학에 가입한 건 2017년이었고, 연애 심리 테스트를 위해 카카오톡 대화를 넘긴 건 지난해 3월이었다. 그는 서울신문과의 통화에서 “개인정보 제공과 이용에 대한 동의를 받은 기억은 전혀 없다. 심리테스트를 받기 위한 분석에만 사용이 된다고만 알고 있었다”면서 “피해를 당한 79명에 대해서 간이 설문조사를 진행했는데 심리테스트 분석 이외에 인공지능 서비스 개발에 사용된다는 걸 인지한 분은 없었다”고 말했다. 고등학교 2학년생인 김예지(17) 양은 “이루다가 주소를 술술 뱉는다거나 이름을 언급한다거나 하는 모습을 보면서 소름이 끼쳤다”면서 “주변에 연애의 과학을 이용한 친구들이 많다. 전남친한테 알려야할지 말지에 대해서 고민하고 있는 친구들이 많다”고 말했다. 개인정보보호법 상 개인정보처리자는 원칙적으로 정보주체의 동의를 받은 경우에만 개인정보를 수집할 수 있으며 그 수집 목적의 범위에서 이용할 수 있다. 즉, ‘연애의 과학’을 이용하지 않은 사람들의 내밀한 정보까지 인공지능 이루다의 머신러닝에 활용됐지만 사전에 동의를 받지 않은 것이다. 스캐터랩은 지난 11일 발표한 입장문에서 “사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했다”며 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 밝혔다. 하지만 입장문에서는 카카오톡 대화를 별도의 동의 없이 수집한 것에 대해서는 언급하지 않았다. 전직 직원 A씨는 “자신의 개인 정보가 누군가에게 노출되길 바라는 사람은 아무도 없다고 생각합니다. 저도 내부에서 느낀 문제를 인식하고 난 뒤부터는 서비스를 일체 사용하지 않았습니다. 그렇기 때문에 용기내어 이 사실을 알리고자 한 것입니다. 스캐터랩을 포함한 다른 비슷한 서비스를 준비하는 스타트업들에서는 사용자들의 이런 불안함에 대한 안전장치를 확실히 마련해야되지않을까 합니다. 최소한 어떤 목적으로 정보를 사용했는지에 대해서는 알려줘야하고요. 원정보를 정제하는 과정이나, 나중에 데이터를 다시 검수하는 작업도 더 세밀하게 이루어져야된다 생각합니다. 업계 종사자분들의 윤리의식강화도 같이 동반되어야된다 생각합니다”라고 말했다. 최영권 기자 story@seoul.co.kr

게놈 서비스산업 규제자유특구가 울산에 본격적으로 조성된다. 울산시는 12일 산학융합지구 기업연구관에서 기자회견을 열어 ‘게놈 서비스산업 규제자유특구(이하 게놈 특구) 사업 및 바이오헬스산업 발전 방안’ 추진 계획을 발표했다. 이날 발표회에는 울산과학기술원(UNIST), 울산정보산업진흥원, 참여 기업 등 15개 특구 사업자도 참여했다. 추진 계획에 따르면 시는 한국인의 표준 유전정보 분석을 위한 ‘1만 명 게놈 빅데이터 프로젝트’를 2016년 시작해 올해 상반기 완료 목표로 추진하고 있고, 지난해 7월 중소벤처기업부에서 울산 게놈 특구로 지정돼 유전체 빅데이터 분야 신산업 육성 기반을 마련했다. 이어 시는 특구 내 핵심 시설인 ‘바이오 데이터 팜 구축’ 75억원 등 2021년도 국가 예산 125억원을 확보했다. 시는 국비에 시비 104억원, 민자 10억원 등을 더한 239억원을 올해 게놈 특구 1차 연도 사업비로 투입한다. 주요 사업은 유전정보 분석과 산업적 활용을 위한 바이오 데이터 팜 구축·운영 실증, 심혈관질환·우울증 등 질환 맞춤형 진단 마커 개발, 감염병 대응을 위한 유전체 분석 및 치료제 개발 기반 구축 등이다. 시는 원활한 사업화와 미비한 법적·윤리적 기준을 마련하려고 산하 기관생명윤리위원회(IRB), 인체유래물은행, 분양심사위원회를 구성·운영한다. 또 국가기술표준원 등과 협의해 유전체 분석과 임상데이터 자료 관리체계를 표준화해 나갈 방침이다. 특히 울산 게놈 특구 지정을 계기로 국내 유전체 정보 활용 기반이 마련되면 국가 방역망 유지와 질병 대응 체계 강화에도 큰 도움이 될 것으로 기대된다. 시는 특구 조성으로 2026년까지 30개 이상 기업 유치, 3763명 일자리 창출, 3875억원 생산 유발 효과가 있을 것으로 기대하고 있다. 울산 게놈 특구는 UNIST와 테크노 일반산업단지 등 5개 지역에서 1.19㎢ 규모로 조성된다. 지난해 12월부터 2022년 11월까지 2년간 총사업비 407억원이 투입된다. 시는 사업 영역이나 성과 확대 등으로 특구 확장이 필요하다고 판단되면 사업 기간을 2년 연장하는 규제자유특구 계획변경 추가 심의도 신청할 계획이다. 송철호 울산시장은 “특구 사업이 성공적으로 추진되면 코로나19 백신이나 각종 감염병 치료제의 국내 개발도 가능해질 것”이라며 “올해 새로 추진하는 ‘산업재해 특화 스마트 헬스케어 연구센터 설립’과 함께 연계해 의료 분야 공공성 확보와 신산업 창출을 모두 성공적으로 이끌겠다”고 밝혔다. 울산 박정훈 기자 jhp@seoul.co.kr

신종 코로나바이러스 감염증(코로나19)으로 인해 항균, 친환경과 관련된 제품 수요가 크게 증가하고 있는 가운데 패션 브랜드 까스텔바작이 항균 소재 제품 개발 및 적용에 착수해 화제다. 12일 업계에 따르면 까스텔바작은 강력한 항균 효과를 주는 기능성 소재 개발에 착수해 올해 기획되는 제품군에 본격 적용할 방침이라고 밝혔다. 특정 소재가 항균 소재로 인정받기 위해서는 99%이상의 세균 억제력을 인정받아야 하며, 까스텔바작은 항균제를 코팅하거나 소재 원료에 항균제를 컴파운딩하는 공정 방식을 통해 인체에 무해한 섬유 소재를 활용하겠다는 계획이다. 이미 골프장에서는 기능성 용품으로 향균력을 갖춘 구리 원사를 이용한 항균커버를 골프카 손잡이에 부착하는 등 코로나19 이후 위생과 방역을 강화하는 추세가 전방위로 확산되고 있다. 이런 가운데 코로나19가 장기화됨에 따라 백신 등 사후 치료에 앞서 생활 방역체계의 중요성이 커지고 있는 만큼 바이러스 예방에 유리한 환경을 조성하는 항균의 일상화를 섬유에도 접목시키겠다는 발상이다. 까스텔바작 관계자는 “’항균’은 바이러스를 없애는 것이 아니라 더 이상 증식하지 않도록 억제하고 방지하는 것”이라며 2020년 이미 일부 제품에 항균 소재를 적용한 바 있고, 올해는 본격적으로 신제품군의 기획에 확대 적용하고 있다고 밝혔다. 한편 까스텔바작은 2021년 사업계획안을 공표하고 디지털트랜스포메이션 추진과 친환경적이며 윤리적, 사회적 책임을 다하는 ESG 경영 방침을 강화해 나갈 계획이다. 온라인뉴스부 iseoul@seoul.co.kr

인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

미래성장전략실 신설, 마케팅실 확대㈜한진 조직개편, 조현민에 힘 실어줘사업 항공·물류로 사이좋게 나눠 약진조현아 전 부사장과 완전 결별 분석도아시아나항공 인수를 추진 중인 한진그룹이 ‘남매 경영’ 체제 구축에 박차를 가하고 있다. 둘째 조원태(가운데·45) 회장은 ‘항공’ 사업을, 셋째 조현민(오른쪽·38) ㈜한진 부사장은 ‘물류’ 사업을 전담하며 사이좋게 약진하는 모양새다. 경영권 분쟁 중인 첫째 조현아(왼쪽·47) 전 대한항공 부사장과 완전히 담을 쌓으려는 움직임이 아니냐는 해석이 나온다. ㈜한진은 11일 미래성장전략실을 신설하고 마케팅총괄부와 홍보팀을 통합해 마케팅실로 확대한다고 밝혔다. ㈜한진의 미래성장전략과 마케팅을 총괄하는 조 부사장에게 힘을 실어 주기 위한 조직 개편이다. 조 부사장이 한진그룹의 물류 사업을 이끄는 ‘원톱’으로 자리매김했다는 의미다. 조 부사장은 물류 신사업 발굴과 마케팅·홍보 활동 강화에 적극 나서면서 조 회장의 그룹 경영에 든든한 우군이 될 것으로 보인다. 앞서 산업은행은 대한항공 측에 ‘회장 일가에 갑질 논란이 발생하면 윤리경영위원회를 통해 경영진을 교체할 수 있다’는 내용이 담긴 ‘7대 의무조항’을 제시했다. 이에 조 회장 측은 “갑질 논란을 일으킨 가족은 항공 관련 계열사 경영에 참여하지 않겠다”고 선언했다. 이어 연말 인사에서 ‘물컵 갑질’을 일으킨 조 부사장을 한진칼 전무에서, ‘직원 갑질·폭행’ 혐의를 받은 어머니 이명희(72)씨를 한국공항 고문에서 퇴임시키며 약속을 지켰다. 그러자 업계에선 조 부사장이 항공 경영에서 손을 떼면서 물류 경영에선 오히려 승진한 것을 둘러싸고 달래기용 ‘꼼수’가 아니냐는 지적이 제기됐다. 하지만 산업은행이 조 회장 일가의 경영 배제 범위를 ‘항공 경영’으로 한정했기 때문에 조 부사장의 승진이 아시아나항공 인수에 걸림돌이 되진 않을 가능성이 크다. 조 부사장에게 힘을 실어 준 조 회장은 항공업과 물류업을 계열분리하지 않고 조 부사장과 합심해 그룹을 이끌어 갈 것으로 보인다. 한진그룹의 남매 경영 체제가 점점 단단해지면서 조 회장이 이제 조현아 전 부사장과는 돌아올 수 없는 강을 건넜다는 분석이 나온다. 항공업계 관계자는 “항공 경영은 조 회장이 주도하고 있고, 물류 사업은 조 부사장이 이번에 입지를 확실히 다졌기 때문에 조 전 부사장은 동생을 회장에서 쫓아내지 않는 한 한진그룹의 항공 경영에 끼어들 틈이 없다”고 말했다. 조 전 부사장과 KCGI, 반도건설로 구성된 3자연합은 항공사 빅딜 저지에 실패한 이후 일단 절차를 지켜보고 있다. 통합 과정에 문제가 생기거나 통합 시너지가 나지 않으면 조 회장의 약점을 파고들며 경영권 쟁취에 시동을 걸 것으로 보인다. 이영준 기자 the@seoul.co.kr

혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr