혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

스타트업 ‘스캐터랩’이 지난달 23일 출시한 스무 살 여대생 인공지능(AI) 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 논란이 되고 있다. 게다가 이루다의 자연스러운 대화 비결이 같은 개발사가 운영하는 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들의 대화 100억건을 학습한 결과로 밝혀지면서 서비스 중단을 요구하는 목소리가 커지고 있다.전문가들은 AI가 적절치 않은 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개발자가 개입하는 것이 단기적 대책이 될 수 있겠지만, 근본적으로는 인간이 AI에게 부적절한 질문을 하지 않도록 하는 교육과 인식 변화가 필요하다고 지적했다. 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해 본 결과 ‘페미니즘’이라고 말을 걸면 “그런 말 진짜 싫다”는 답이 돌아왔다. 다른 대화에서는 페미니즘에 대해 “너무 불필요하고 무의미한 질문”이라고 답했다. ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴, 그만해. 머리채 잡기 전에”, ‘레즈비언’이란 말에는 “진짜 싫어. 혐오스러워. 질 떨어져 보이잖아”라고 대답했다. 김종윤 스캐터랩 대표는 지난 8일 입장문에서 “모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 해명했다. 개발자 1세대인 이재웅 전 쏘카 대표는 소셜네트워크서비스(SNS)를 통해 챗봇의 정체성을 20세 여성으로 정한 것이 성적 악용 문제를 유발한 원인이라고 지적했다. 이 전 대표는 “(개발사가) 서비스를 운영하면서 (AI에게) 추가 학습을 시킬 게 아니라 서비스 중단 후 사회규범에 맞는 최소한의 테스트를 통과하는지 점검해야 한다”고 주장했다. 나아가 채용 및 면접, 뉴스 추천 시스템 등 AI를 활용한 프로그램이 인간을 차별하거나 혐오하지 않는지 감사가 필요하다고 제언했다. 성소수자, 장애인을 포함한 포괄적 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. 장병탁 서울대 컴퓨터공학과 교수는 이날 서울신문과의 통화에서 “사람이 AI에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라며 “AI만 탓하거나 개발자를 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 AI를 백지상태의 아이에 비유했다. 그는 “정해진 답만 말하던 과거의 AI와 달리 지금의 AI는 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”며 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 AI에게 하기 때문에 생기는 문제다. AI가 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 AI에 대한 교육을 받아야 한다”고 말했다. 최영권 기자 story@seoul.co.kr

이재웅 전 쏘카 대표가 10일 스무살 여대생 인공지능 이루다의 차별·혐오 표현 문제와 관련해 개발사인 스캐터랩이 서비스를 중단하는 등 사회적 책임을 다할 것을 촉구했다. 개발자 1세대로 포털 사이트 다음을 성공시키고 공유자동차 서비스 쏘카를 생활에 안착시킨 그는 인공지능 공유택시 서비스 타다를 출시하면서 사회적 비난의 대상이 되기도 했다. 이 대표는 해당 문제의 쟁점을 세 가지로 나눠 보았다. 그는 “인공지능(AI) 챗봇 이루다에 대해서 문제도 아직 정확히 무엇인지 잘 정리가 된 것 같지 않습니다. 제가 생각하는 문제와 해결책에 대해서 간단하게 정리해보려고 합니다. 다른 의견은 얼마든지 같이 이야기해봤으면 좋겠습니다. AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제니까요. 동시에 여러 문제가 섞여서 나오는데 하나하나 다르게 접근해야할 문제가 아닌가 싶습니다”라며 글을 시작했다. 이 대표는 먼저 ‘AI 챗봇에 대한 성적 학대·악용’을 사용자의 문제로 보았다. 그는 “AI가 모든 상황에 대해서 학습이나 규칙기반으로 대처하는 것은 불가능합니다. AI가 만능은 아니니까요”라며 “AI 챗봇에 대해서 성적 학대·악용은 사용자의 문제이지 AI서비스의 문제라고 보기는 어렵습니다. 세상에는 로봇청소기를 성적 대상화하는 사람까지 있으니까요.”라고 지적했다. “학습과 보정을 통해서 직접적인 대상화가 어렵도록 보완하면서 그래도 허점을 찾아서 성적으로 악용하는 사람들이 그 과정을 공개·공유하는 것은 적극적으로 막아 나가야겠죠. 이 부분은 회사가 잘 대처했다고 봅니다”라고 했다. 이 대표는 ‘AI 챗봇이 20세 여성으로 설정한 것’이 두번째 문제라고 봤다. 상업적으로 유리한 선택이었지만 기업의 사회적 책임을 고려하지 않은 선택이라고 지적했다. 그는 “이루다가 20세 여성으로 설정되는 순간, 현재의 우리 사회에서 20세 여성이 갖고 있는 위상이 그대로 투영되지 않을 수 없습니다. 슬프게도 한국 사회에서 가장 성적으로 착취당할 수 있는 취약한 계층을 찾는다면 아마도 20세 여성일 수 있을 것입니다”라고 했다. 이어 “그것을 알고 있었다면 굳이 AI챗봇의 젠더나 나이를 설정할 필요가 있었을까 싶습니다만, 역설적으로 상업적인 회사에서 가장 마케팅적으로 옳은 선택을 하자고 하면 다른 선택이 있었을까 싶습니다”고 했다. 이어 “다만, 기업의 목표가 이윤극대화뿐만 아니라 사회적 책임을 다하는 것이라고 하면 그런 선택을 안 할 수 있었을 것이라는 아쉬움이 있습니다. 기술은 사회적 책임도 있고, 특히 AI는 사회적 책임에 더 민감해야 하니까요. 이 부분은 논란도 안고 가겠다고 하면 회사를 비판할 수는 있겠지만 회사의 책임은 아니라고 생각합니다. 하지만 투자자나 경영진이 회사나 서비스의 미래를 길게 봤다면 했을 좋은 선택은 아니라고 생각합니다”라고 했다. 이 대표는 위 두 문제는 감당할 수 있는 논란이지만 무엇보다 현재의 챗봇이 불특정 다수에게 혐오와 차별 표현에 대한 보정 없이 서비스를 내보낸 것이 문제라고 봤다. 그는 “AI를 사람이 차별, 혐오, 학대하는 것도 문제이지만 AI가 사람을 차별, 혐오, 학대하는 것은 큰 문제입니다”라며 “성적지향이나 특정 종교나 장애여부에 대해서 일상 대화에서 차별하거나 혐오하는 사람이 많아서 학습의 결과로 차별이나 혐오를 하게 되었다고 하더라도 그것을 보정없이 일반 대중에게 서비스를 하는 것은 큰 문제”라고 지적했다. 그는 “포괄적 차별금지법이 아직 통과되지는 않았지만 우리 사회의 기본적인 합의는 종교, 학력, 지역, 성적 지향, 장애등에 대해서 차별이나 혐오하는 것은 안된다는 것입니다”라며 “자기 혼잣말에서 혐오발언을 하는 사람이라고 해도 직업이 선생님이면 아이들에게 혐오 발언을 해서는 안되며 공개적으로 혐오발언을 했을때는 처벌받아야하는 것과 매한가지”라고 했다. 이어 “서비스를 하면서 추가 학습으로 보정할 일이 아니라 지금이라도 빠르게 차별혐오발언은 금지시키도록 기준을 정하고 그 기준을 따르도록 시스템을 변경해야 합니다. 서비스 운영하면서 추가학습하는 게 아니라 서비스 중단후 우리 사회 규범에 맞는 최소한의 차별·혐오테스트를 통과하는 지를 점검후에 다시 서비스를 하는 것이 맞습니다. 성적지향만 차별하고 혐오하는 건지 특정 종교를 혐오하는 건 아닌지, 장애인을 혐오하는 건 아닌지 파악하고 최대한 그럴 여지를 없애야 합니다. 오래 걸릴 일은 아닙니다. 그리고 딥러닝 학습기반 시스템이라고 해서 모든 것을 학습으로 해결할 필요도 없습니다”라고 말했다. 그는 “혐오와 차별문제는 해결되지 않으면 AI 서비스를 하면 안됩니다. 많은 기업들이 쓰고 있는 AI채용, 면접 시스템 그리고 범용 AI 챗봇, AI 뉴스 추천 시스템등은 최소한의 사회적 규범을 지키고 있는지 감사할 수 있어야 합니다. 아니면 우리도 모르는 새 우리 아이들은 혐오를 배우고, 면접을 보다가 알 수 없는 이유로 차별을 당하고, 뉴스나 컨텐츠에서 혐오나 차별적인 콘텐츠를 우선적으로 보게 될 것입니다. 기업의 사회적 책임이 AI 분야에서는 더 중요한 이유입니다. AI가 하니까 더 객관적이거나 중립적이지 않습니다. AI의 설계, 데이터 선정, 학습과정에는 사람의 주관이 개입될 수 밖에 없어서 그 과정은 들여다 보지 않더라도 최소한 그 결과물이 최소한의 차별이나 혐오를 하거나 유도하지 않는지는 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야합니다”라고 했다. 마지막으로 이 대표는 “이루다의 투자자나 경영진의 책임은 어디까지일까요?”라는 질문을 던지면서 스캐터랩이 사회적 비난 여론을 통감하고 서비스 중단 후 재개 등 책임 있는 자세를 보일 것을 촉구했다. 그는 “경영진이 혐오나 차별을 조장하거나 방치했다고 생각하지 않습니다. 아마 학습된 데이터가 일반인들의 일대일 대화이다보니 차별이나 혐오로 보이는 결과를 만들어냈을 수 있습니다”라면서도 “범용 서비스를 제공하는 기업의 경영진이라면 이런 문제가 지적되었을때 즉시 납득할만큼 수정을 할 수 없다면 사과하고 서비스를 중단하는 것이 답입니다. 이루다를 만들만큼의 기술력이면 최소한의 혐오나 차별을 방지하는 것이 오래 걸리지 않을 수 있습니다”라고 강하게 질타했다. 그는 “투자자들도 경영진이 사회적 책임을 다 하도록 돕는 것이 회사의 장기적인 미래를 위해 더 나은 선택임을 깨닫고 빠르게 문제를 인식하고 사과하고 바로 잡아서 서비스를 할 수 있도록 해야 합니다”라며 “책임있는 투자자와 경영진이 잘 알아서 문제를 풀 것으로 믿습니다. 기업의 사회적 책임은 경영진과 투자자가 함께 져야할 문제이니까요”라고 했다. 최영권 기자 story@seoul.co.kr

스타트업 스캐터랩이 지난달 23일 출시한 스무살 여대생 인공지능 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 커지고 있다. 또 이루다가 학습한 채팅 내용은 같은 개발사가 운영하는 또다른 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들 간의 대화로 밝혀져 논란이 가중됐다. 전문가들은 부적절한 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개입하는 것이 단기적 대책이 될 수 있겠지만 근본적으로는 인간이 인공지능에게 옳지 않은 질문을 하지 않는 교육이 필요하다고 했다. 이루다에 ‘페미니즘’ ‘인권’ 물어보니 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해보니 ‘페미니즘’이라고 치면 “그런말 진짜 싫다구”, ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴 그만해 머리채 잡기 전에”, ‘레즈비언’이라고 치면 “진짜 싫어 혐오스러워. 질 떨어져 보이잖아”라고 대답했다.개발사인 스캐터랩 김종윤 대표는 지난 8일 입장문에서 “인간이 인공지능에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었고 예상할 수 있는 일이었다”며 “이는 성별에 무관하게 일어나는 일”이라고 설명했다. 스캐터랩은 고양이 챗봇 ‘드림이’를 시작으로 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나’를 서비스한 적 있다. 김 대표는 “인간의 언어는 해당 단어를 사용하지 않고 얼마든지 의미를 전달 할 수 있기에 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 했다. 개발자 1세대인 이재웅 전 쏘카 대표는 지난 9일 페이스북에 이루다 논란에 대해 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI과 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 했다. 이어 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 지적했다. 특히 챗봇을 스무살 여대생으로 정한 것도 부적절했다고 했다. 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. “인공지능, 나쁜 점도 배울 수밖에” 장병탁 서울대 컴퓨터공학과 교수는 10일 서울신문과의 통화에서 “사람이 인공지능에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라면서 “이 문제는 인공지능만의 탓을 하거나, 인공지능을 개발한 스타트업만을 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 백지 상태에 있는 아이에 인공지능을 비유를 했다. 우리가 낳아 기르는 아이조차도 유치원에 가서 욕설을 배우듯 사회에 나간 인공지능도 그들의 자율에 맡겨선 도덕성 탑재가 어렵다는 것이다. 장 교수는 “쉽게 말해 정해진 답만 말하던 과거의 인공지능과 달리 지금의 인공지능은 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”고 지적하면서 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 인공지능에게 하기 때문에 생기는 문제다. 인공지능이 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 인공지능에 대한 교육을 받아야 한다”고 대안을 제시했다. 최영권 기자 story@seoul.co.kr

지난해 12월 첫 선을 보인 인공지능(AI) ‘이루다’가 성추행 피해에 이어 이번에는 동성애에 대한 편견으로 논란의 대상이 됐다. 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 이어 레즈비언(여성 동성애자)가 혐오스럽다고 한 이루다의 대화 목록 캡처 화면과 함께 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”면서 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 주장했다. 이 전 대표는 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다”고 강조했다.이어 AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다고 덧붙였다. 따라서 지금 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 제안했다. 이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 별도의 프로그램(어플리케이션)이 아니라 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 최근 10~20대 사이에서 큰 인기를 끌며, 이달 초 기준으로 이용자가 32만명을 돌파했다. 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다. 제작사 측은 학습 데이터의 규모가 커질수록 성능이 좋아지는 딥러닝의 특성때문에 이루다가 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 설명했다. 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 전날 자사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 밝혔다. 하지만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 부연했다. 윤창수 기자 geo@seoul.co.kr

남초사이트에 욕설·성적 표현 학습법 공유스캐터랩 김종윤 대표, 블로그에 입장 밝혀사용자와 친구처럼 대화한다는 콘셉트로 개발된 인공지능(AI) 챗봇(chatter robot) ‘이루다’가 일부 이용자들의 욕설, 성희롱을 학습해 논란이 되고 있다. 이루다를 개발한 업체는 출시 전부터 예상했던 문제라며 대응책을 마련하고 있다고 밝혔다. 이루다는 AI 전문 스타트업 ‘스캐터랩’이 지난해 12월 23일 출시한 챗봇으로 20살 여성으로 설정돼 있다. 별도 애플리케이션을 깔지 않아도 페이스북 메신저를 통해 의사소통을 할 수 있도록 개발됐다. 이루다는 자연스럽게 대화를 이어갈 수 있고 사용자의 말투를 따라하는 등 실감 나는 채팅으로 인기를 끌면서 이용자가 40만명에 이르렀다. 그런데 출시 후 얼마 지나지 않아 남성 이용자가 많은 디시인사이드, 일간베스트저장소 등 온라인 커뮤니티를 중심으로 이루다에게 성행위를 암시하는 대화, 욕설 등을 학습하게 하는 이른바 ‘성노예 만드는 법’ 등이 공유되기 시작했다.성희롱 논란이 일자 스캐터랩 김종윤 대표는 8일 자사 블로그(blog.pingpong.us/luda-issue-faq)를 통해 입장을 밝혔다. 김 대표는 “이루다에 대한 성희롱을 예상했다”면서 “인간이 AI에게 욕설과 성희롱을 하는 것은 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없다”고 설명했다. 김 대표는 문제가 될 수 있는 특정 키워드, 표현 등은 챗봇이 받아주지 않도록 설정했지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니라고 밝혔다. 스캐터랩은 처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵지만 사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 계획이다. 일각에서는 이루다가 마이크로소프트(MS)가 2016년 출시했던 챗봇 테이(Tay)의 전철을 밟을 수 있다고 우려한다. 테이는 사용자들이 인종·성차별 발언을 학습시키는 바람에 혐오발언을 쏟아냈고 MS는 16시간 만에 테이 운영을 중단했다. 김 대표는 이루다가 테이처럼 사라지는 일은 없을 것이라고 장담했다. 그는 “이루다는 사용자와의 대화를 바로 학습에 적용하지 않는다”고 말했다. 나쁜 말을 무작정 따라하지 않도록 학습할 말인지 아닌지 걸러주는 ‘레이블러’가 개입한다는 얘기다. 김 대표는 이루다와 친근한 대화를 나누며 친구처럼 지내는 사용자가 많은 사실을 강조하면서 “일부 과한 게시물은 신고, 차단 등 강력한 대응을 할 것”이라며 “이번 논란을 통해 (이용자들이) 자정 노력을 했으면 좋겠다”고 당부했다. 오달란 기자 dallan@seoul.co.kr

‘이루다’ Z세대서 유행남초 사이트서 금지어 피해 성희롱 등장“올바른 방향으로 발전하도록 튜닝할 것”AI 학계 “‘MS 테이’ 사건 연상시켜” ‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’가 10∼20대 사이에서 빠르게 유행하고 있다. 그런데 일부 남초(男超) 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장해 사회적 논란이 예상된다. 8일 IT업계에 따르면 ‘이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건이라고 전해졌다. 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.‘진짜 사람’ 같은 AI 챗봇…성희롱 등장 ‘이루다’와 대화를 나눠보면 사람이 뒤에 있다는 의심이 들 정도로 거리낌 없이 수다를 떨 수 있다는 평이 많다. 하지만 이루다가 출시된 지 일주일만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 ‘아카라이브’가 등장했다. 아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다. 아카라이브 이루다 채널 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하는 중이다.“이루다가 올바른 방향으로 발전하도록 튜닝할 것” 스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다. 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다는 것이다. 이 관계자는 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다. AI 전문가들은 “마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다”고 입을 모았다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아낸 탓이었다.‘미래 인공지능 연구의 23가지 원칙’ 발표 MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 미국 캘리포니아 아실로마에서 ‘미래 인공지능 연구의 23가지 원칙’을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다. 첫 번째는 ‘AI 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다’는 것이다. 또 원칙은 “AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다. 고도화된 AI 시스템은 건강한 사회를 지향해야 한다”고 강조했다. 김채현 기자 chkim@seoul.co.kr

기존 오프라인으로 진행되던 지역 축제가 금년도 코로나19의 확산세로 대부분 온라인 비대면 행사로 전환되면서 새로운 형태의 축제 패러다임이 생겨나고 있다. 이에 인공지능 챗봇 및 검색 SW 대표기업 와이즈넛(대표 강용성)은 올 한해 온라인으로 전환되어 개최된 다양한 지역 축제에 인공지능(AI) 서비스형 챗봇 ‘현명한 앤써니’를 적용해 지역 축제가 성황리에 마칠 수 있도록 도왔다고 밝혔다. 해당 사업은 행정안전부의 주관으로 한국지능정보사회진흥원(NIA)와 함께 진행한 민간주도형 전자정부사업의 일환으로 운영됐다. 와이즈넛의 서비스형 챗봇이 적용된 축제는 △보령머드축제 △횡성한우축제 △전주비빔밥축제 △울주세계산악영화제 △해남미남축제 △전주한지문화축제 △대전사이언스페스티벌 등 각 지역에서 대표되는 7개 축제다. 각 축제의 홈페이지에 적용된 챗봇은 축제 기간 및 전·후로 24시간 365일 축제 일정, 온라인 프로그램, 온라인 참여 이벤트, 지역 내 타 축제 및 명소 안내 등 축제 전반에 대한 소개를 제공하며 오프라인으로 참가하지 못한 국민들의 아쉬움을 해소하고 편리하게 안방에서 축제를 즐길 수 있도록 참여를 유도했다. 또한, 이번 지역 축제 챗봇 도입은 연초부터 전례없는 코로나19 확산으로 인해 운영에 어려움을 겪은 지자체에 편의성을 제공하며 전국 지자체 축제 담당자들의 관심을 이끌었다. 이를 통해 코로나가 장기화되고 있는 시점에 대안이 될 수 있는 비대면 서비스로 상담 문의가 이어지는 중이다. 강용성 와이즈넛 대표이사는 “올해 코로나19로 인해 지역 축제를 포함한 다양한 오프라인 행사가 축소되거나 취소되고 있다. 이에 대한 아쉬운 마음을 지역 축제 챗봇을 통해 조금이나마 달래고 지역 관광 활성화에 기여하기 위해 최선을 다하는 중”이라며, “앞으로 와이즈넛의 비대면 챗봇 서비스를 확대시켜 축제를 포함한 컨퍼런스, 행사, 레저 등 관광 산업에서 다양한 모습으로 만날 수 있도록 노력하겠다”고 말했다. 한편, 와이즈넛의 인공지능 서비스형 챗봇 ‘현명한 앤써니(WISE Answerny)’는 전 산업분야에서 국내 최다 인공지능 챗봇SW를 구축하며 쌓은 기술력과 노하우가 집약된 클라우드형 인공지능 챗봇이다. 챗봇 기획부터 제작, 운영 · 관리를 원스톱으로 제공하고 사용기간에 따른 합리적인 이용과금이 가능한 비즈니스별 맞춤형 서비스도 선보인다. 온라인뉴스부 iseoul@seoul.co.kr

대덕이노폴리스벤처협회(DIVA)와 실리콘패스처스코리아, 노바라이즈 컨소시엄이 지난 9 일 ‘스포츠융복합 글로벌 부트캠프 온라인 데모데이’를 개최했다고 밝혔다. 이번 데모데이에는 리모샷, 듀얼헬스케어, 티엘인더스트리, 챈트랄, 유니브이알, 런스타, 자성스포츠, 플렉스파인을 포함한 스포츠융복합 분야 8개사가 자리해 국내외 30여개 투자 및 유관기관을 대상으로 각 기업의 강점 기술과 비즈니스 모델 등을 제시했다. AR 기반 인지강화운동기기 및 콘텐츠를 제공하는 리모샷은 인지(치매) 재활 콘텐츠를 구현할 구 있는 키오스크 형태의 기기를 선보였다. 기존 아날로그 형태의 인지 재활 콘텐츠를 디지털화 한 ‘알쯔닥터’를 충남대병원과 세종광역치매센터 등에 급, 재활운동프로그램 서비스를 제공하고 있다. 이 외에 재활 DB(데이터베이스) 플랫폼을 통해 환자와 가족의 만족도를 제고하고 AI(인공지능) 기술을 접목시킨 맞춤형 솔루션도 개발해 궁극적으로 재활치료사나 요양보호사 등의 역할을 보조 또는 대체할 수 있는 수준으로 성능을 끌어올릴 계획이다. 제품 소형화를 통해 치매센터 등 공공기관을 대상으로 한 ‘B to G’를 넘어 직접 소비자가 구매할 수 있는 ‘B to C’시장도 창출할 예정이다. 듀얼헬스케어는 기업 임직원에게 맞춤형 헬스케어를 제공하는 플랫폼을 소개했다. 듀얼헬스케어의 플랫폼은 누구나 간편하고 능동적으로 건강관리를 할 수 있도록 돕는 프로그램이다. 체중관리/간기능/혈압/당뇨 등에 대한 지속적이고 전문적인 개인 맞춤형 건강관리 프로그램과 편리한 검진 예약 서비스, 기업의 업무 효율을 높이는 다양한 관리 기능을 탑재했다. 자체 AI 챗봇을 통한 24 시간 상담 서비스와 이용자 건강상태에 맞춘 건강 콘텐츠도 제공한다. 기업 복지시장은 매년 성장하는 추세이고 워라밸 트렌드에 따라 건강관리 시장 역시 지속적으로 성장하고 있는 만큼 좀 더 편리하고 유용한 건강관리 프로그램을 찾는 수요 역시 늘어날 것으로 전망하고 있다. 국내 유일 배드민턴 연습을 지원하는 하드웨어를 보유한 티엘인더스트리는 국민 생활스포츠로 각광받는 배드민턴을 스크린 스포츠로 구현했다. 실제 배드민턴을 하려면 경기 공간과 비용이 필요하다. 그러나 민간업체가 운용하는 공간은 이용료가 상당하고 상대적으로 저렴한 공공기관의 경우 코로나 19 로 이용하기가 어렵다. 이 같은 문제를 해결할 수 있는 최적의 솔루션이 바로 이에 티엘인더스트리가 선보인 스크린 배드민턴 스매싱존이다. 기존 배드민턴 1개 코트를 스매싱존에선 2개 코트로 활용할 수 있고 이용자 입장에선 대결과 재미, 인공지능(AI) 레슨을 한 번에 해결할 수 있다. 챈트랄은 메디칼 테라피 디바이스를 통해 VDT 증후군인 어지러움증과 조절장애에 대한 솔루션을 제시했다. 바로 미국 FDA 의료기기 1등급으로 등록된 VR헤드셋이다. 이 기기는 VR영상을 감상하면서 눈의 초점을 조절, 수정체를 컨트롤하는 모양체근을 수축 및 이완시키는 한편 안구를 감싼 6개의 안근육을 정상화시켜 시력 개선에 도움을 준다. 책을 많이 보는 학생이나 컴퓨터 모니터를 보며 일하는 직장인, 스마트폰을 오래 보는 사람들은 대부분 안구건조증/조절장애/황반변성 등 VDT증후군을 앓게 되는데 챈트랄의 VR헤드셋은 어지러움 없이 비수술적 방법으로 개선할 수 있다. VR-AR관련 소프트웨어 및 하드웨어 개발 스타트업 유니브이알은 ‘프롤로 러쉬’를 소개했다. 프롤로 러쉬는 실내자전거 연동 모바일 아케이드 게임으로 실내자전거 운동을 게임처럼 즐길 수 있는 제품이다. 실내자전거에 센서만 부착하고 VR 게임을 즐기면 재미있는 운동이 시작된다. 유니브이알은 실내자전거 연동 온라인 리듬 댄싱게임과 신체정보, 운동량을 모니터링 할 수 있는 원격심장재활 운동시스템도 상용화해 포트폴리오를 넓혀나갈 계획이다 . 러너를 위한 종합 플랫폼 서비스를 지향하는 런스타는 웨어러블 스포츠 이어셋과 골전도 방식의 헤드셋, 음성으로 거리, 속도 정보를 제공하는 선글라스 등 런스타 앱과 연동 가능한 자사 대표 제품을 소개했다. 이 외에도 다양한 러너를 위한 패션 코디 및 러닝 관련 제품을 판매해 스포츠 종합 쇼핑몰로 성장하겠다는 목표다. 자성스포츠는 골프 스윙 시 자석이 떨어지는 힘을 이용해 LED 불빛을 표시해 불빛으로 정확한 임팩트 타이밍을 잡을 수 있도록 돕는 골프스윙 교정기를 선보였다. 스윙 스피드와 파워가 가장 강한 순간을 불빛과 소리로 알려주기 때문에 이를 토대로 꾸준히 연습하면 스윙자세를 교정할 수 있다. ‘파워 3’, ‘파워 6’등 기존 개발 제품에 자이로센서, 가속도센서, MCU를 접목해 분석기능을 강화하고 스윙 영상분석 앱과 연동할 수 있도록 하는 등 사용자 편의를 지속적으로 높여 비즈니스 영역을 확대해 나갈 계획이다 . 플렉스파인은 척추 측만증 환자를 위한 폴리우레탄과 폴리프로필렌으로 이뤄진 프레임에 부드러운 보충제가 더해져 플렉시블하고 편안하게 만들어진 흉부 및 요추보조기를 개발했다. 유연한 재질이라 하루 22시간 충분히 보조기 착용시간을 유지하면서 운동재활을 병행할 수 있다. 협회 관계자는 “이번 스포츠융복합 글로벌 부트캠프 온라인 데모데이를 통해 대전 지역 스포츠융복합기업의 투자유치 활동을 지원했다”며 “앞으로도 대전 지역 스포츠융복합기업의 성장을 위해 지원을 아끼지 않겠다”고 말했다. 온라인뉴스부 iseoul@seoul.co.kr

“3학년이 되면서 졸업이 다가오자 진로에 대한 고민이 깊어지고, 취업문이 좁아진 채용 시장에 맞설 생각에 자신감이 많이 떨어져 있는 상태였습니다. 남들과 다른 독특한 이력을 만들어야 나를 봐줄 곳이 있겠다는 생각이 들었습니다.” 가톨릭대학교 김예현(21, 프로보노 ICT멘토링 참여) 양은 졸업을 앞두고 같은 과 친구들과 실무경험을 쌓을 수 있는 프로그램을 찾는데 열중했다. 그러다 올 초 과학기술정보통신부가 정보통신창의인재양성 사업으로 지원하는 ‘ICT 멘토링’ 프로그램을 알게 됐고 SK브로드밴드에 재직 중인 멘토를 만나 프로그램 기획부터 개발, 공모전 참여까지 다양한 실무 경험을 쌓으며 의미 있는 한 해를 보냈다. 김예현 양을 비롯한 3명의 멘티 및 SK브로드밴드 멘토와 함께한 프로젝트는 ‘TV기반의 시니어 맞춤형 케어 서비스’로, 코로나19 상황에 긴급 재난정보의 효과적인 전달이 더욱 중시되는 상황에서 취약계층의 정보소외격차 해소에 목표를 두고 진행했다. 스마트폰 보급률과 활용도가 낮은 시니어층에게 가장 익숙하고 편한 매체는 TV라는 점에 착안해 SK브로드밴드 BTV와 안드로이드 기반 어플리케이션을 연동해 시청자에게 긴급알림/복약지도/안부전달/일정알림 등 맞춤형 정보를 시의적절하게 제공하는 프로그램을 개발했다. 수시채용 확대와 코로나19의 여파 등으로 채용 시장에 큰 변화가 일면서 직무 관련 실무경험이 있는 인재의 중요성이 더욱 대두되고 있다. 프로젝트 추진 시 다양한 지원을 받으면서 직무 전문성까지 쌓을 수 있는 프로그램 중 대학생들에게 가장 인기 있는 프로그램이 과학기술정보통신부가 주최하고 정보통신기획평가원이 주관하는 ‘ICT 멘토링’ 사업이다. 올해로 17년째인 ICT 멘토링 사업은 2004년 참여학생 554명, 프로젝트 86개로 시작해 지난해 2019년까지 누적 약 1만 5000건의 프로젝트가 진행됐다. ICT 산업 전문가들이 멘티들과 실무 프로젝트를 함께 한다는 점이 ICT 멘토링의 가장 큰 경쟁력이다. ICT 기술을 활용한 K방역이 힘을 얻으면서 ‘코로나 정보를 제공하는 챗봇 개발’ 프로젝트도 관심이 뜨겁다. 명지대학교 곽찬우(24, 한이음 ICT멘토링 참여) 군은 “코로나 정보를 찾으려고 하면 원하는 정보 하나를 찾기 위해서는 각 사이트를 방문해야 한다”며 “이러한 불편함을 해소하기 위해 AI 챗봇 상담으로 코로나 정보를 손쉽게 얻을 수 있는 프로그램을 만들게 됐다”고 설명했다. 또한 상용화된 제품의 불편함을 개선하기 위한 ‘스마트 메이크업 미러 개발’ 프로젝트를 수행한 수원대학교 김현아(25, 이브와 ICT멘토링 참여) 양은 “코로나 19로 대면 회의가 불가능한 상황에서 줌, 행아웃, Trello 등 온라인 회의 툴을 최대한 활용해 아이디어 공유 및 프로젝트 관리를 할 수 있었다”며 “ICT 기술로 상황적 제약을 극복하고 공모전에서 값진 결과까지 얻어 학교에서는 얻지 못할 다양한 경험을 하게 되어 감사하다”고 소감을 밝혔다. 이처럼 ICT 멘토링 프로그램은 2020년 오프라인 미팅 방식에서 나아가 비대면 온라인 회의방식을 빠르게 도입했으며, 거리두기 단계가 장기화됨에 따라 2021년에도 온/오프라인 프로젝트 회의를 전폭 지원할 계획이다. 2014년부터 ICT 비전공자까지 참여 조건을 확대해 실제 비전공자도 ICT 멘토링 참여 경험을 살려 취업 및 창업한 사례도 많아지고 있다. 정보통신기획평가원 관계자는 “단순 스펙보다는 직무 전문성을 중심으로 평가하는 채용 트렌드 속에서 ICT 실무 경험을 쌓고자 하는 대학생 누구에게나 ‘ICT 멘토링’은 좋은 기회가 될 것”이라고 말했다. 온라인뉴스부 iseoul@seoul.co.kr

2009년 업계 최초 모바일 뱅킹 서비스10년 노하우 집대성 ‘뉴 하나원큐’ 출시비밀번호 필요 없는 자체 인증 시스템예금부터 보험까지 종합금융서비스앱 24시간 AI 챗봇 통해 비대면 금융업무디지털 전환 위한 끈질긴 노력 드러나업계 첫 통합 데이터센터 청라에 세워디지털 DNA 이식 위해 산학협력 활발정보기술(IT)로 무장한 핀테크 업체가 등장하고, 네이버·카카오 등 빅테크(거대 기술기업)가 금융시장 진출을 본격화하면서 대형 은행들이 디지털 전환에 속도를 내고 있다. 은행들은 금융상품 판매부터 업무 방식까지 오프라인에 무게중심을 뒀던 기존 체계를 빠르게 바꾸고 있다. 2009년 국내 최초로 스마트폰 뱅킹 서비스를 출시하면서 디지털 전환에 앞장서 온 하나은행도 마찬가지다. 하나은행은 그동안 축적한 디지털 비전을 총망라한 결과물인 ‘뉴 하나원큐’를 지난 9월 내놨다. 하나은행은 2009년 12월 국내 은행권 최초로 스마트폰(아이폰) 기반의 모바일 뱅킹 서비스를 출시했다. 이듬해 4월에는 안드로이드용 모바일 뱅킹 서비스를 내놓으면서 스마트 뱅킹 시장을 선도했다. 한발 먼저 디지털에 발을 디딘 하나은행은 지난 9월 ‘뉴 하나원큐’를 선보였다. 뉴 하나원큐는 은행뿐 아니라 카드, 증권, 캐피탈, 저축은행, 생명보험, 손해보험 등 하나금융그룹의 모든 금융서비스를 담고 있다. 애플리케이션(앱)에 접속하면 은행 잔고, 하나카드 결제금액과 이용명세서, 해외주식 매수와 계좌 현황 등을 확인할 수 있다는 얘기다.●1초 인증·10초 이체·1분 적금… ‘하나원큐’ 하나원큐의 특징은 얼굴 인증으로 1초 만에 로그인하는 ‘1초 인증’, 비밀번호 입력만으로 이체할 수 있는 ‘10초 이체’, 빠른 금융상품 가입이 가능한 ‘1분 적금’으로 요약된다. 하나원큐는 공인인증서와 일회용 비밀번호(OTP)가 필요 없는 자체 인증 체계가 구축돼 있다. 지문 인증이나 얼굴 인증으로 간편하게 접속할 수 있다. 금융 플랫폼의 기본이라 할 수 있는 자산관리 기능도 강화됐다. 하나원큐에서는 은행, 카드, 보험, 부동산 등 통합 자산정보를 모아 실시간으로 자산 현황을 분석한 결과를 볼 수 있다. 아울러 카드 빅데이터 등을 기반으로 합리적인 소비·지출 관리, 고객별 맞춤상품 추천 기능도 포함돼 있다. 이 밖에도 또래와의 자산 비교, 세금우대 금융상품의 전체 한도가 어느 정도 남았는지도 조회할 수 있다. 인공지능(AI) 챗봇 서비스인 ‘하이’(HAI)가 탑재돼 있어 필요하면 언제든지 궁금한 점을 물어볼 수 있다. 하이는 구글 캘린더, 각종 스크래핑을 통해 세금 납부, 수수료 절약 가이드 등 다양한 메시지를 사용자에게 보여 준다. 금융브리핑 기능도 담겨 있다. 염정호 하나은행 미래금융그룹장은 7일 “비대면 금융 서비스에 대한 수요를 반영해 AI 챗봇을 통해 24시간 언제라도 금융 업무를 처리하고, 비대면 환경에서 편리하게 이용하는 데 중점을 뒀다”며 “은행 업무뿐 아니라 그룹 각 관계사의 금융업무 문의를 함께 응대할 수 있도록 범위를 확대할 예정”이라고 말했다. 1분 적금 외에도 휴대전화와 인증서만 있으면 ‘3분 대출’도 가능하다. 사용성과 편의성에 방점을 두고 플랫폼을 설계했기 때문이다. ‘하나원큐 신용대출’에서는 등기 전 신용대출, 전·월세 대출 한도 조회, 주택담보대출 한도 조회 등을 비대면으로 할 수 있다. 전세 대출은 비대면으로 받을 수 있다. 앞으로는 주택 관련 대출이나 기업 보증서 담보 대출에 대한 비대면 방식도 내놓을 계획이다. 대출 외에도 하나원큐의 ‘환전 지갑’은 환전 서비스뿐 아니라 외화를 보관할 수 있는 서비스다. 환율이 오를 땐 환차익도 기대할 수 있다. 기업 고객은 ‘하나 원큐 FX’ 서비스를 통해 직접 FX(외국환 매매) 거래를 할 수 있다. 또 송금하면서 차용증을 작성할 수 있는 차용증 송금 서비스, 카드와 함께 송금하는 내마음 송금 서비스 등 차별화된 서비스가 담겨 있다. 아울러 하나원큐에 탑재된 골프, 쇼핑, 여행, 자동차 등 생활 밀착형 제휴 서비스에서는 다양한 혜택과 서비스를 누릴 수 있다. 제로페이 가맹점에서 사용할 수 있는 ‘원큐페이’, 해외 14개국 58개 제휴사에서 사용할 수 있는 글로벌 지급결제 플랫폼인 ‘GLN’(Global Loyalty Network)도 하나원큐 안에 담겨 있다.●하나금융 디지털 전환에 10년 넘게 투자 하나원큐가 종합 금융서비스를 담은 금융 플랫폼으로 발전할 수 있었던 이유는 하나금융의 디지털 전환에 대한 끈질긴 노력이 있어서다. 하나은행은 2009년 12월 국내 최초로 스마트폰(아이폰 기반) 뱅킹 서비스를 출시하면서 시장을 선도했다. 당시 하나은행장이었던 김정태 하나금융그룹 회장은 2010년 7월 직원들에게 “우리가 할 수 있는 또 다른 성장동력은 스마트폰 뱅킹을 포함한 온라인 부문을 강화하는 것”이라며 “가시적인 효과로 나타나지는 않겠지만 추후 실질적인 성장에 큰 밑거름이 될 것이라고 확신한다”고 강조했다. 10년 전 김 회장의 예상은 시간이 지날수록 현실이 됐다. 하나은행은 2016년 2월부터 비대면 실명확인 서비스를 시작했고, 2017년 전 영업점에서 온라인 가상 채널인 모바일 브래치 서비스, 인공지능 금융서비스 하이도 도입했다. 글로벌 스마트폰 뱅킹 앱인 ‘글로벌 원큐’는 2015년 캐나다에 출시한 데 이어 중국, 인도네시아, 브라질, 일본 등으로 진출했다. 하나금융은 2017년 6월 그룹 내 인적·물적 IT 인프라를 청라 통합데이터센터에 모았다. 국내 금융권 중 그룹의 IT 인프라를 한 군데에 모은 것은 하나금융이 처음이었다. 김 회장은 2018년 10월 청라 통합데이터센터에서 열린 ‘디지털 비전 선포식’에서 “손님 중심의 데이터 기반 정보회사로 전환하겠다”고 발표했다. 이어 “공간, 사람, 일하는 방식을 바꿔야 한다”며 “청라 드림타운을 중심으로 모든 직원이 디지털 인재가 돼 스타트업과 같이 도전하고 민첩하게 움직여야 한다”고 주문했다. 김 회장은 올해 신년사에서도 “그룹의 사업 모델과 프로세스를 새롭게 리셋해야 한다”며 급변하는 외부 환경에 대비할 것을 강조했다. 실제로 디지털 전환에 대한 인식을 그룹 내 직원들에게 심기 위한 노력은 계속됐다. 그룹 전반에 걸친 디지털 역량을 강화하고자 온라인과 오프라인 과정을 통해 디지털 맞춤형 실무 교육을 진행하는 통합교육 플랫폼인 ‘DT유니버시티’가 만들어진 것도 같은 이유에서다. DT유니버시티에서는 디지털 마인드 함양 등 공통 소양, 프로그래밍, 데이터 분석, 빅데이터, 인공지능 등 모두 3단계에 걸친 교육이 진행된다. 지난 8월 국내 금융권 최초로 카이스트, 포스텍에 다전공·다역량 활용 ‘테크핀(기술 금융) 산학협력센터’를 건립하기로 협약을 맺은 것도 디지털 DNA 이식을 위한 노력 가운데 하나다. 하나금융은 산학 간 전문성을 공유하고 연구개발(R&D), 기술 스타트업 창업 지원 등을 추진할 계획이다. 홍인기 기자 ikik@seoul.co.kr

정보기술(IT)로 무장한 핀테크 업체들이 금융시장에 진출하면서 전통의 강자였던 대형 은행들도 바빠지고 있다. 은행들은 오프라인에 무게중심을 뒀던 기존 체계를 빠르게 개편해 온라인 서비스 기업으로 변화하고 있다. 5대 시중은행(KB국민·신한·하나·우리·NH농협은행) 중 NH농협은행과 함께 영업점이 가장 많은 편(11월 기준 전국 1003개)인 KB국민은행도 마찬가지다. 최근 3연임에 성공한 윤종규 KB금융지주회장은 “금융 플랫폼 기업으로 도약하는 데 기업 역량을 집중하겠다”고 밝혔다. 또 허인 KB국민은행장도 “사람이 중심에 서는 디지털 혁신”이라는 지향점을 던졌다. 오프라인과 온라인을 오가는 문턱을 낮춰 고객에게 꼭 맞는 금융 서비스를 제공하겠다는 게 KB국민은행의 목표다. KB국민은행의 디지털 전환 전략의 중심에는 ‘더(The) K프로젝트’가 있다. 쉽게 말해 차세대 전산 시스템 구축 작업인데, 이 은행은 기존 전산 프로그램을 크게 개선한 새 시스템을 지난 10월 도입했다. 일선 영업점에는 이미 지난 2월에 차세대 전산 시스템을 미리 적용했다. 비용은 약 3000억원이 들었다.KB국민은행은 차세대 전산 시스템 도입으로 고객 편익이 크게 올라갈 것으로 기대하고 있다. 우선 일선 직원들의 시간을 빼앗던 반복적 ‘잡무’를 시스템이 자동으로 처리해 주면서 직원들은 고객 서비스에 더 집중할 수 있게 됐다. 은행 관계자는 “예컨대 계수 업무 담당자는 실적표를 매일 손수 만들어야 했는데 차세대 전산 시스템 도입으로 이제 버튼 하나만 누르면 자동으로 만들어진다”고 말했다. 또 직원들이 보는 화면도 쉽고 빠르게 이해할 수 있는 구조로 바뀌었다. 고객 상담 때 맞춤형 정보를 찾으려고 많은 시간을 들이지 않아도 된다는 얘기다. 예컨대 ▲고객이 영업점 등에서 상담했던 이력과 상품 가입 현황 ▲과거 검색 또는 관심을 보였던 정보 ▲고객 연령, 자산, 투자성향 등을 반영한 개인별 추천 상품과 이유 등을 한 화면에서 보여 준다. 이를 토대로 고객을 상담하면 더 적합한 상품을 소개할 수 있다는 게 KB국민은행의 설명이다. 고객 입장에서는 영업점이 디지털화되면서 대출 등을 신청할 때 직접 제출해야 하는 서류가 줄어들어 일처리가 간편해졌다. 더 K프로젝트의 도입으로 KB국민은행은 고객들에게 초연결 서비스를 제공할 수 있게 됐다. 은행 관계자는 “영업점이 보유한 고객 정보와 온라인 정보를 공유해 끊김 없는 금융 서비스를 제공하는 게 우리의 임무”라고 말했다. 오프라인 영업망의 장점을 살리는 방식으로 디지털 혁신을 하겠다는 것이다. 예를 들어 자동차를 새로 사기 위해 대출을 받으려는 사람이 이 은행 영업점을 방문해 상담을 받았다고 하자. 과거에는 고객이 집으로 돌아가 추천받은 상품을 고민한 뒤 온라인으로 가입하려면 다시 검색하는 등 번거로웠다. 하지만 KB국민은행의 개편 서비스 환경에서는 개인용컴퓨터(PC)나 스마트폰 앱을 통해 온라인 뱅킹에 접속하면 지점에서 상담받은 상품이 팝업창으로 뜨고 고객은 바로 가입할 수 있다. 이른바 ‘심리스’(끊김 없음) 서비스다. 이우열 KB국민은행 IT그룹 대표(부행장)는 “다른 은행들도 온·오프라인 공간의 심리스 서비스를 시도하고 있지만 우리가 가장 앞서 실현했다”면서 “(다른 은행들과의) 격차를 2년 이상 벌렸다고 본다”고 말했다. 또 콜센터의 업무 영역도 넓어진다. 기존에는 신고 업무 위주로만 했지만 더 K프로젝트 이후 콜센터를 통해 상품 가입이 가능해지는 등 영업점과 엇비슷한 수준의 서비스를 제공한다. 또 단순 상담 업무는 인공지능(AI)인 챗봇과 콜봇이 담당하고, 상담원들은 전문금융 상담 등에 집중하게 할 계획이다. KB국민은행은 더 K프로젝트를 통해 더 나아진 AI와 빅데이터를 활용해 고객들에게 초개인화된 상품을 추천할 수 있게 됐다고 말한다. 은행 관계자는 “예전에는 ‘여의도 근무’, ‘30대’, ‘직장인’처럼 인구학적 특징을 가진 고객들을 묶어 상품을 추천하는 정도였다면 이제는 완전히 개인 맞춤형으로 상품 추천을 할 수 있게 됐다”면서 “고객별 데이터를 쌓고 인공지능 분석으로 가능해진 일”이라고 말했다. KB국민은행은 앞으로도 온라인 시스템 고도화와 서비스 개선에 집중할 계획이다. 대표적인 것이 ‘마이데이터 사업’(본인 신용정보 관리업)이다. 마이데이터 사업이란 은행이나 카드, 보험, 통신사 등에 흩어져 있는 금융 소비자의 거래 정보 등을 모아 한눈에 볼 수 있도록 제공하고, 알맞은 상품을 추천해 주는 서비스를 말한다. 금융사 입장에서는 고객 데이터를 활용해 다양한 신상품을 개발해 내놓을 수 있어 성장 잠재력이 크다. 금융위원회는 심사를 거쳐 내년 2월부터 허가받은 업체에 한해 마이데이터 사업을 할 수 있도록 했다. KB금융그룹은 은행, 카드, 증권 등 계열사의 핵심 인력으로 마이데이터 태스크포스(TF) 팀을 꾸려 사업을 준비하고 있다. KB국민은행은 2016년 9월부터 마이데이터 사업의 기본이 되는 개인종합자산관리서비스(PFM)를 하고 있어 관련 노하우를 축적해 왔다. KB국민은행은 ‘마이머니’ 앱을 통해 고객의 자산·지출 통합 조회와 세부 현황 진단, 추천, 내집 마련 등의 서비스를 제공하고 있다. 고객들이 사용하는 모바일 앱을 좀더 편리하게 손보는 작업도 벌일 예정이다. KB국민은행은 자사 대표 모바일 서비스인 스타뱅킹, 리브(간편 생활금융 플랫폼), 리브온(부동산)의 사용자 환경·경험(UI·UX)과 기능을 전면 개편할 계획이다. 또 기업금융 서비스의 전 영역까지 오픈뱅킹(하나의 앱에서 모든 은행의 계좌 조회, 결제, 송금 등을 할 수 있는 서비스)을 확대한다. 또 손바닥 정맥 인증으로 통장, 인감, 비밀번호 없이 예금을 지급받는 ‘손으로 출금 서비스’ 등도 KB국민은행이 고객 편의를 높이기 위해 내놓은 새 서비스다. 신분증이나 인감 확인 등에 걸리는 시간을 줄여 직원들의 업무 효율을 높일 수 있을 것으로 보고 있다. KB국민은행이 궁극적으로 추구하는 목표는 ‘금융 플랫폼 기업’이 되는 것이다. 네티즌들이 포털 사이트에서 쇼핑, 뉴스·웹툰·동영상 같은 콘텐츠 소비, 정보 검색, 이메일 등 많은 업무를 한 번에 할 수 있듯 KB국민은행도 자사 온라인 공간에서 모든 금융 업무를 볼 수 있도록 하겠다는 계획이다. 이 부행장은 “KB 오픈뱅킹에 이미 1금융권은 들어와 있고, 2금융권은 연말에 들어온다”면서 “고객들이 편하다고 느끼면 계속 쓰게 될 것”이라고 말했다. 유대근 기자 dynamic@seoul.co.kr

＃요즘 인공지능(AI)은 다친 마음까지 치유해 준다. 미국 스타트업 ‘워봇’이 개발한 우울증 상담 챗봇은 현재 130여개국에서 수십만명의 회원을 확보했다. 모바일에 설치한 뒤 친구와 대화하듯 상담이 이뤄진다. 실제 상담사처럼 “오늘 기분이 어떠냐”고 질문하며 사용자의 정신건강을 확인한다. 회사에 따르면 워봇을 2주간 활용한 사람들이 그렇지 않은 사람보다 우울감을 덜 느낀 것이 임상적으로 증명됐다고 한다. 코로나19 여파로 전통 산업이 휘청이는 가운데 ‘디지털 헬스케어’ 산업이 주목받고 있다. 코로나19로 비대면 의료의 수요가 커지면서다. 미국 실리콘밸리 디지털 헬스케어 전문 투자사 록헬스의 보고서에 따르면 올 상반기 미국 내 디지털 헬스케어 업체들에 사상 최대 규모인 6조원의 투자금이 몰린 것으로 나타났다. 디지털 헬스케어는 말 그대로 AI, 사물인터넷(IoT) 등 디지털 기술로 건강을 관리해 주는 사업을 뜻한다. 주요 분야로는 원격의료, 디지털 치료제, 의료 AI 등이 있다. 업계에 따르면 미국 최대 원격진료 회사 ‘텔라닥’이 만성질환 관리 업체인 ‘리봉고’를 인수했다. 인수가만 20조원으로 알려진 ‘빅딜’이었다. 두 회사는 모두 코로나19 국면에서 비대면 의료 서비스를 제공하며 성장한 곳으로, 합병 이후 텔라닥의 매출은 1조원을 넘어설 것으로 예상된다. 국내에서 이 분야 최고 전문가로 꼽히는 최윤섭 디지털헬스케어파트너스 대표는 14일 ‘2020 서울미래컨퍼런스’에서 “코로나19로 디지털 헬스케어의 역할이 커지면서 각 분야에서 경계를 넘나드는 합종연횡이 활발하다”며 “코로나19 대처가 잘 되지 않은 국가일수록 더 큰 관심을 갖고 있다. 한국에서도 변화에 따른 위기와 기회가 있는 것으로 보인다”고 진단했다. 오경진 기자 oh3@seoul.co.kr

2016년 미국 대통령 선거에서 대부분 언론과 전문가들은 힐러리 클린턴의 당선을 예측했다. 많은 이들의 예상을 뒤엎고 도널드 트럼프 현 미국 대통령이 당선됐다. 정확한 예측도 있었는데, 바로 인공지능(AI)이었다. 그즈음 인공지능은 발전을 거듭해 스스로 학습하는 기술을 갖추게 됐다. 알려준 것만 아는 게 아니라 스스로 다른 것들도 익혔다. 이른바 ‘딥러닝’이다. 사람의 뇌가 생각하고 배우는 과정을 모방한 기술이었다. 인공지능 알파고가 이세돌 9단에게 이기는 데도 딥러닝이 있었다. 딥러닝 기술을 장착한 인공지능에 ‘빅데이터’는 활짝 날게 하는 바람이 됐다. 빅데이터는 말 그대로 아주 거대한 양의 데이터다. 사전적 의미로는 기존 데이터베이스로는 수집하거나 저장, 분석 등을 하기가 어려울 만큼 방대한 양의 데이터를 가리킨다. 여기에는 문서나 이메일은 물론 음성, 영상, 이미지, 각종 소셜미디어의 게시물과 댓글까지 포함된다. 구글의 인공지능은 구글과 각종 소셜미디어 등에서 오가는 빅데이터를 이용해 선거 결과를 예측한 것이다. 번역 엔진도 빅데이터를 이용한다. 인공지능에 원문과 번역문을 학습시켜 언어 사이의 번역 규칙들을 파악하게 한다. 이때 질 좋은 언어 데이터가 많아야 정확도가 높아지는 건 당연하다. 뿐만 아니라 챗봇이나 인공지능 비서 등의 효율도 높아지려면 언어 데이터가 많아야 한다. ‘언어 빅데이터’가 있어야 하는 것이다. 언어 빅데이터는 달리 말하면 ‘말뭉치’라고 한다. 우리나라는 1998년부터 10년간 ‘21세기 세종계획’이란 이름으로 말뭉치 구축 사업을 벌였다. 이 기간에 약 2억 어절의 말뭉치를 구축했다. 이 당시에는 세계에서 가장 앞서는 성과였다. 하지만 아쉽게도 이후 10년간 이 사업은 중단됐다. 그사이 미국은 2000억 어절 이상, 중국은 300억 어절, 일본은 150억 어절 정도의 말뭉치를 구축했다. 2018년부터 다시 우리도 5년간 155억 어절을 목표로 말뭉치를 구축하고 있다. 이 결과의 일부가 지난주 공개됐다. 국립국어원이 ‘모두의 말뭉치’(https://corpus.korean.go.kr)에 공개한 자료에는 13종 18억 어절이 들어 있다. 최근 10년간의 신문 기사, 서적 2만 188종이 담겼다. 여기에 음성 대화, 메신저 대화, 방송 자료까지 들어 있다. 컴퓨터의 한국어 이해에 쓰이는 형태와 구문, 의미 등 언어 단위별로 분석한 자료도 1100만 어절이다. 저작권 문제가 모두 해결된 것이어서 누구나 파일을 내려받아 이용할 수 있다. 지속적인 뒷받침과 관리가 필요하다. 어문부 전문기자 wlee@seoul.co.kr

25일 13종 18억 어절 분량의 말뭉치가 국립국어원 ‘모두의 말뭉치’(https://corpus.korean.go.kr)에 공개됐다. 국립국어원은 이번에 공개한 자료는 2018~19년 구축한 것으로, ‘모두의 말뭉치’ 사이트에서 온라인 약정서를 작성하고 승인을 받으면 누구나 이용할 수 있다고 밝혔다. 이에 앞서 문화체육관광부와 국어원은 1998년부터 2007년까지 ‘21세기 세종계획’을 추진하며 약 2억 어절의 자료를 공개한 바 있다. ‘모두의 말뭉치’에는 최근 10년간의 신문 기사와 서적 2만 188종, 일상생활의 음성 대화와 메신저 대화, 방송 자료, 대본 등이 들어 있다. 또한 컴퓨터가 한국어를 더 잘 이해할 수 있도록 형태, 구문, 의미, 개체 등 언어 단위별로 분석한 자료 1100만 어절도 담겨 있다. 한국어 사용자의 직관과 판단 정보를 분석한 문법성 판단과 어휘 관계 자료 40만건도 포함돼 있다. 이번 자료에서는 일상 대화, 메신저, 웹 문서 등 구어체의 비중을 높였는데, 특히 표준어뿐만 아니라 다양한 지역별, 연령별 대화 자료들도 포함됐다. 인공지능(AI) 스피커, 챗봇 등의 대화형 서비스가 늘어나는 추세를 반영한 것이다. 이에 따라 한국어 인공지능 서비스를 개발하는 중소기업과 새싹기업(스타트업·벤처기업)들이 한국어 처리 기술 개발에 쉽게 접근할 수 있게 됐다. 대기업이나 관련 연구기관 등도 다양한 서비스를 개발하는 데 도움을 받을 수 있다. 이번에 공개한 말뭉치는 한국어 빅데이터라고 할 수 있는데, 국어원은 10월 초 말뭉치 활용을 주제로 전문가 토론회를 개최한다. 이경우 전문기자 wlee@seoul.co.kr