올 상반기 국내선 운항통계에 따르면 전년동기대비 47.1%가 증가한 것으로 나타났다. 코로나19 지속세로 인해 국내여행에 눈길을 돌린 셈이다. 증가한 국내여행 트렌드에 따라 여행객을 위해 지자체는 앞다투어 비대면 서비스를 활발하게 도입하고 있다. 최근 경남 창원시에서 인공지능(AI)전문 챗봇 전문기업 메이크봇과 함께 관광안내 챗봇인 ‘창원시 관광챗봇’ 서비스를 개시했다. 메이크봇이 구축한 ‘창원시 관광챗봇’은 창원시만의 이미지를 사용하여 친근감을 줄 뿐 만 아니라 관광지 정보 제공 및 코스 추천 등을 통해 사용자들의 만족도를 극대화했다. 챗봇 서비스 도입을 통해 시간에 구애받지 않고 24시간 문의 대응이 가능하며 카카오톡에서 별도의 다운로드 없이 검색만 해도 손쉽게 이용 가능하다. 사용자들은 챗봇에서 ▲추천 여행지 ▲비대면 여행지 ▲주제별 추천 여행코스 ▲창원시 축제안내 ▲창원시티투어 ▲창원시 음식쇼핑거리 ▲해설사 예약 ▲창원관광 안내전화 등의 다양한 정보를 편리하고 빠르게 전달한다. 모든 정보는 카테고리별로 분류하여 사용자들의 가독성을 높였다. 아울러 창원시 시민들은 물론 전국의 관광객들에게도 도움이 되어주는 여행 도우미 예약, 관광홍보물 신청, 창원관광 안내 전화 등의 서비스를 제공해 관광 챗봇 관련 전문성을 입증했다. 한편, 창원시에서는 챗봇 서비스 홍보와 활성화를 위해 창원시만의 특별한 챗봇 오픈 이벤트를 오는 30일까지 진행한다. 카카오톡에 접속해 ‘창원시 관광 챗봇’채널을 검색해 친구추가 한 뒤 챗봇 이용 화면을 캡처하고 SNS에 필수 해시태그와 함께 게시하면 총 50명을 추첨해 창원특산품(단감김치, 어간장)을 증정한다. 메이크봇은 한국관광공사, 대한항공, 한국공항공사, 티머니, SRT고속철도 등 여행∙관광 챗봇과 함께 호텔 예약 및 식당 주문 챗봇에 이르기까지 여행객들의 편의를 돕기 위해 챗봇의 영역을 빠르게 확장해 나가고 있다. 또한 창원시를 포함하여 파주시, 하동군 등의 관광 안내 챗봇과 공주시, 거창군 등지의 지자체의 통합 민원 챗봇 구축 경험을 넓혀 다양한 공공기관과 함께 챗봇 서비스를 제공해 나가고 있다. 메이크봇 김지웅 대표는 “언제 어디서나 관광안내가 가능한 챗봇 서비스를 통해 관광객들이 더욱 편리하게 창원시를 방문할 수 있을 것”이라며 “챗봇 관광 서비스를 통해 스마트 관광 시대를 앞당길 것”이라고 전했다.

건강보험심사평가원은 최근 코로나19로 인해 정신건강의학과를 찾는 환자가 두 자릿수의 증가폭을 기록했다고 발표했다. 이처럼, 장기화된 코로나19 여파로 심리적인 고통을 받는 사람들이 늘면서 심리상담 분야 챗봇 서비스 문의가 빗발치는 가운데 인공지능(AI) 챗봇 전문기업 ㈜메이크봇이 고양시 자살예방센터와 함께 시민의 마음을 위로해 주는 챗봇 서비스를 오픈했다.통계청에 따르면 한국은 OECD 회원국 중 자살률 1위이며, 보건복지부 발표에 따르면 이 중 90% 이상의 사람들이 자살 전 도움을 요청하는 것으로 나타났다. 자살에도 골든타임이 존재하며, 도움을 요청하는 사람들의 마음을 위로해 주는 것이 얼마나 중요한가를 알 수 있다. 기존에는 시민들이 고양시 자살예방센터의 대면 혹은 전화 상담으로만 전문가의 도움을 받을 수 있었다. 하지만, 챗봇 서비스 도입을 통해 24시간 비대면 문의 대응이 가능하며 카카오톡 내 ‘고양시 자살예방센터’ 채널 추가로 간편하게 서비스를 이용할 수 있어 접근성과 편의성을 극대화했다. 사용자들은 챗봇의 다양한 정신건강 검사 서비스를 통해 연령대별로 △스트레스 △우울증 △조울증 △불안증 △강박증 △중독 △조기 정신증 △성인 ADHD △ 외상후 스트레스(PTSD)까지 검진이 가능하다. 결과에 따른 다양한 방법(△상담요청 △긴급전화 △외부기관도움)을 제시하여 각종 심리적 질환이 있는 사람들로 하여금 이용을 적극 제시한다. 그 결과 사용자의 개인정보를 취합하여 빠르고 정확하게 상담 지원을 하고 챗봇을 통한 상담요청이 가능하여 사용자의 생각이나 위험 상태 등을 미리 알 수 있게 되어 많은 서비스 활용이 있을 것으로 기대된다. 아울러 최근 메이크봇에서 오픈한 서울여자간호대학교 진로지원센터 챗봇, 청주대학교 학생상담 챗봇, 도박문제관리센터 챗봇을 포함하여 개발중인 고려대학교 기업용 건강상담 챗봇 등 다양한 상담용 챗봇들이 고양시 자살예방센터의 챗봇과 같이 기존 콜센터의 단순 상담을 넘어 공공과 대학, 기업등 다양한 영역에서 시민과 학생, 직장인들의 정서와 건강을 위한 멘토 역할을 톡톡히 해내고 있다. 메이크봇 김지웅 대표는 “코로나19 장기화로 인해 ‘코로나 블루’라는 신조어까지 나타났다. 특히 한국트라우마스트레스학회가 발표한 자료에 따르면 코로나 기간 내 정신과 치료 및 일반 심리상담이 필요하다고 답한 응답자가 평균 40%를 밑돈다. 이러한 현상에 비대면 챗봇 서비스를 통한 심리상담은 많은 사람들의 돌파구가 될 것” 이라며 말했다. 아울러 “고양시 자살예방센터 챗봇 서비스를 이어 심리상담 분야 내 챗봇 서비스를 확대해가는 것에 더욱 기여하겠다”고 말했다.

인공지능 챗봇 및 빅데이터 검색, 분석SW 전문기업 와이즈넛은 포스트 코로나 시대를 맞아 ‘디지털 트랜스포메이션(Digital Transformation)’을 통한 새로운 도약을 도모하는 기업 출장 전문여행사 레드캡투어에 힘을 보탠다. 와이즈넛과 레드캡투어는 여행업계 최초로 ‘AI(인공지능) 트래블 컨설턴트’의 1차 개발을 완료하고, 고객사 출장 업무에 적용한다고 7일 밝혔다. 인공지능 트래블 컨설턴트는 레드캡투어 출장 서비스를 이용하는 모든 고객사에게 제공되며, 고객 출장 시 전화와 이메일로 상담과 예약 등을 담당하던 트래블 컨설턴트의 업무를 수행한다. 레드캡투어는 인공지능 전문기업 와이즈넛과 함께 Travel X로 명명한 프로젝트를 진행하여 AI 트래블 컨설턴트를 개발했다. 와이즈넛은 지능정보(AI) 부문에서 ‘2020 대한민국 ICT 대상’을 수상한 인공지능 챗봇 및 빅데이터 SW 1위 기업이다. AI 트래블 컨설턴트는 출장 준비부터 완료까지 전체 여정에서의 새로운 출장 경험(Travel X, Travel eXperience) 제공을 목표로 개발되었고 ▲To Plan (출장 준비) ▲To Assist (출장 전체 여정에 대한 지원) ▲To Share (출장 경험 공유)의 세 가지 컨셉을 기본 축으로 한다. 레드캡투어의 출장관리시스템 BTMS 4.0(Business Travel Management System 4.0)에 탑재되는 AI 트래블 컨설턴트는 출장자 경험을 학습해 인공지능 기반의 맞춤형 자동 추천 기능을 제공함으로써 공급자 중심의 기존 출장관리시스템을 획기적으로 개선했다. 이로 인해, 레드캡투어 출장 서비스를 이용하는 고객사는 출장 준비 과정의 항공/호텔 예약뿐만 아니라 출장 도중 발생하는 다양한 상황에서 선제적인 도움을 받을 수 있으며, 마치 개인비서의 수행을 받는 듯한 혁신적인 서비스를 경험하게 됐다. 현재 레드캡투어는 웹 버전의 AI 트래블 컨설턴트 1차 개발을 완료하고, 모바일 버전의 2차 개발을 진행 중이다. 한편, 레드캡투어는 지난해 급변하는 시장을 선도하기 위해 여행사업부를 DT2(Digital Travel & Transformation) 사업부로 새롭게 개편하여 기업 출장 여정(End-to-end)을 디지털화하기 위한 준비를 마쳤다. 레드캡투어 DT2 사업부를 총괄하는 이준호 상무는 이번 AI 트래블 컨설턴트 도입에 대해 “전화나 이메일을 통해 오프라인으로 수행하던 서비스를 언제, 어디서든 온라인으로 실시간 지원할 수 있게 됐다. 고객에게 출장 여정의 전체 서비스를 선제적으로 빠르고 편리하게 제공할 것”이라고 밝혔다. 이어, 시스템 개발에 참여한 와이즈넛의 강용성 대표는 “빅데이터 검색, 분석, 인공지능 챗봇 등 20여년 간 집적된 와이즈넛의 기술력이 모두 투입되어, 인공지능 기술의 전환점이 될 것으로 확신한다. 여행업계에 새로운 패러다임을 제시할 것”이라고 밝혔다.

경기 광명시가 코로나19 극복과 포스트 코로나 시대를 대비해 소상공인의 매출 증대에 도움을 주기 위해 ‘엑스엠디’와 협력으로 ‘AI 챗봇 온라인 플랫폼’ 개발에 나섰다. 광명시는 전날 시청 영상회의실에서 엑스엠디와 카카오톡 비즈채널을 활용한 ‘AI 챗봇 온라인 플랫폼 지원 업무협약’을 체결했다고 24일 밝혔다. 이날 협약식에는 박승원 광명시장과 이은준 엑스엠디 대표이사 및 관계자 등이 참석했다. 카카오 비즈채널 AI 챗봇 서비스는 시민이 소상공인 업체의 상품 문의 및 구매 시 AI 챗봇이 응대하는 서비스로, 실시간으로 상담해 쇼핑 편의와 소상공인의 업무를 줄여줘 시민과 소상공인 모두에게 편리한 온라인 시스템이다. 엑스엠디는 ERP&POS 서비스를 패션 및 잡화 350여개 브랜드 8500여개 매장에 제공하고 있는 기업으로, AI 챗봇 온라인 플랫폼을 개발해 광명시 소상공인에게 지원할 계획이다. 광명시는 지역특성이 반영되고 소상공인에게 실질적으로 도움이 되는 프로그램이 개발 될 수 있도록 엑스엠디를 도울 예정이다. 이은준 엑스엠디 대표이사는 “소상공인의 현실과 시민의 구매 성향을 고려해 AI 챗봇 서비스 프로그램 개발에 최선을 다하겠다”며, “개발이 완료되면 광명시를 시작으로 전국 소상공인을 대상으로 사업을 확장할 계획”이라고 밝혔다. 박승원 광명시장은 “대기업에 편중돼 있는 온라인 배달서비스에 대응해 소상공인도 편리하게 활용할 수 있는 프로그램을 지원해 주시는 엑스엠디에 깊이 감사드린다”며 “AI 챗봇 서비스로 시민은 편리하게 시장 정보를 얻고 소상공인은 매출증대로 이어져 지역경제 활성화에 큰 몫을 할 것으로 기대한다”고 말했다. 또 “빠른 시일 내 AI 챗봇 서비스를 시작할 수 있도록 엑스엠디와 힘을 모으겠다”고 말하고, “광명시는 코로나19 극복과 포스트 코로나에 대응해 소상공인을 위한 다양한 지원책 마련에 최선을 다하겠다”고 덧붙였다. 이명선 기자 mslee@seoul.co.kr

존 스노의 ‘감염지도’라는 것이 있다. 1850년대 런던에 콜레라가 창궐하자 그는 발병 지점들을 하나하나 지도에 표시해 보고는 콜레라가 펌프를 중심으로 발병됨을 알아차렸다. 공기가 아니라 물이 감염원임을 밝혀낸 것이다. 하지만 그의 시선은 펌프의 물에만 한정됐다. 발병자의 배설물에 들어 있는 세균이 문제의 근원임을 알지 못한 채 발병지의 펌프 손잡이만 빼 버렸던 것이다. 그는 역학조사의 길과 함께 빅데이터 처리라는 방법론까지 열었지만 자신의 지식이나 가설의 범위 내에서만 데이터를 수집하고 분석했다. 그의 업적은 분명 과학적이었어도 생활하수가 상수도에 혼입되는 경로를 차단하는 데까지 이르지는 못했다. “모든 분석 모델은 틀렸으며 오직 일부만이 유용할 따름이다.”(S 복스) 어떤 사건을 둘러싼 복잡다단한 사태를 간과한 채 분석자의 한정된 지식, 편견, 고집이 찍어 낸 오직 몇 가지의 원인에만 주목하기 때문이다. 인공지능이나 빅데이터 처리 기법은 존 스노의 한계를 반복한다. 둘 다 원인을 가지고 결과를 예측하기보다는 현상만 쳐다보며 원인을 미루어 추단하기 때문이다. 영국과 미국의 백인 경찰이 주로 유색인종 통행자를 불심검문하는 것은 유색인에 대한 인종차별적 편견의 결과다. 마찬가지로 인공지능 챗봇 이루다는 남성들의 취향이 으레 그러려니 하는 예단에 묻혀 20대 여성 대학생의 모습으로 생산된다. 그것은 본질을 꿰기보다는 형상만을 바라본다. 합리적인 인과관계보다는 기존의 관행과 습속을 중요시한다. 인간 생활의 복잡성을 목적 달성을 위한 취사선택의 문제로 대체해 버린다. 그리고 이런 방식을 딥러닝이라는 이름으로 정당화한다. 오늘날 민주사회는 인공지능 기술의 유용성을 인정하면서도 깊은 걱정을 떨쳐 버리지 못한다. 너무도 많은 국가기관, 공공기관, 기업, 단체들이 인공지능 등을 통해 우리의 일상을 감시하고 조합하며 우리의 생활은 물론 생각까지도 바꾸어 나가고자 하기 때문이다. 네이버 등 뉴스 포털들에 설치된 인공지능이 편파적인 뉴스 배치를 한다며 그 알고리즘의 공개를 요구하던 정치권이 경찰이 도입한 범죄 예측 시스템의 편파성을 검증하기 위한 알고리즘 공개 문제에 대해서는 아무런 관심도 없는 현실이 무서운 것이다. 혹은 대학 입시에서 가난한 지역의 학생에게 낮은 점수를 준 영국의 인공지능이 요즘 유행하는 ‘AI 면접’이나 ‘AI 서류평가’의 방식으로 우리의 현실을 압박할까 걱정스러운 것이다. 혹은 나의 개인정보를 파고드는 기업 앞에서 스스로의 일상조차 관리하지 못 한 채 충동 구매에 나서게 되는 무기력한 일상이 안타까운 것이다. 이미 개인정보는 상품화의 대상이 돼 버렸고, 인공지능 산업의 한복판을 파고든 편견이나 차별, 혐오의 사례는 날로 심각해진다. 그뿐 아니다. 공공 영역이 인공지능 시스템을 도입하기 시작하면서 공공행정조차도 이런 인권침해의 위험에 젖어든다. 획일화된 행정 처리 과정에서 사회복지서비스를 받을 권리가 위축돼 버리거나 재범 예측 프로그램 같은 것이 형량의 결정에 개입하면서 공정한 재판을 받을 권리까지 위협받고 있다. 심지어 최근 개정된 행정기본법은 공무원의 개입 없이 인공지능 시스템만으로 행정 처분도 할 수 있게 했다. 그래서 왜 그런 처분이 나왔는지 물어볼 어떤 사람도 없으며, 그래서 책임을 물을 대상도 없게 됐다. 이미 230년 전의 프랑스 인권선언에서도 보장된, 공공 업무에 대한 공무원의 설명을 받을 권리가 이 민주화의 시대에 온전히 부정되고 있는 것이다. 카프카의 ‘유형지에서’라는 소설에서 피의자는 판결문이 자기 몸에 칼로 새겨진 연후에야 자신의 죄를 알게 되고, 그 순간 생명을 마감한다. 자기가 누구이며 어떤 사람인지를 재판관이 결정하고 그가 그 사실을 깨닫는 순간 자기 존재를 상실한다. 그리고 인공지능은 이제 그 재판관의 자리를 대신한다. 문제는 정부다. 지난해 말 정부는 ‘인공지능 국가전략’의 말미에 “사람 중심의 AI 구현”이라는 슬로건을 내세웠지만, 정작 그 ‘사람’은 생산성과 경쟁력의 논리에 함몰돼 있다. 인공지능이 우리의 삶을 또 다른 유형지로 내몰아 가기를 원하지 않는다면 제4차 산업이라는 장밋빛 환상이 자리하는 바로 그곳에 ‘사람’이 자리잡게 만들어야 한다. 인공지능의 알고리즘에 숨어든 편견과 탐욕을 감시하고 규제할 수 있는, 제대로 된 정책과 입법 조치를 서둘러야 한다는 것이다.

인공지능(AI) 챗봇 ‘이루다’와 같은 개인정보 침해 사례의 재발을 막기 위해 AI 서비스 개발자·운영자들이 지켜야 할 사항을 담은 안내서가 마련됐다. 개인정보보호위원회는 관련 업계 의견을 수렴하고 전문� ㅐ豁셜맛� 논의 등을 거쳐 AI 개인정보보호 자율점검표를 확정해 31일 공개했다. AI 개인정보보호 자율점검표는 인공지능 설계·개발·운영 과정에서 개인정보를 안전하게 처리하기 위해 지켜야 할 개인정보보호법상 주요 의무와 권장사항을 단계별로 자율점검할 수 있도록 알기 쉽게 정리한 안내서다. AI 자율점검표는 개인정보보호법과 과학기술정보통신부의 AI 윤리기준, 개인정보보호 중심설계 원칙 등을 반영해 업무처리 전 과정에서 지켜야 할 적법성 등 6대 핵심 원칙과 이를 기반으로 점검해야 할 16개 항목, 54개 확인 사항을 제시했다. 단계별 주요 점검항목을 보면 기획·설계 단계에서는 개인정보보호 중심설계 원칙을 적용하고 침해가 우려되는 경우 개인정보 영향평가를 수행하도록 했다. 개인정보를 수집할 때는 적법한 동의방법·동의 이외의 수집근거 확인·공개정보 등 정보주체 이외로부터 수집 시 유의사항을 점검하고, 구체적 예시를 제시해 잘못된 방법으로 동의를 받지 않도록 했다. 개인정보를 이용·제공할 때는 수집 목적 안에서 이뤄지는지, 목적 외 이용은 적법한 근거가 있는지를 확인한다. 동의 없이 가명처리해 활용하려는 경우 과학적 연구·통계작성 등 허용된 목적인지 점검하게 했으며 가명처리 시 유의사항과 가명정보 공개제한 등도 안내했다. 또 개인정보 처리 시 사회적 차별과 편향이 최소화되도록 점검·개선하고 윤리적 이슈에 대한 판단은 AI 윤리기준을 참고하도록 했다. 해킹 방지 등을 위한 안전조치, 불필요해진 개인정보의 안전한 파기, 개인정보 처리내역의 투명한 공개, 정보주체 권리보장 절차 마련·이행, 개인정보 유출 사고 대비 점검내용 등도 담았다. 최광숙 선임기자 bori@seoul.co.kr

코로나19 확산 이후 비대면 방식의 활동이 늘면서 인공지능(AI)·가상현실(VR) 등 정보통신기술(ICT)이 면접 연습, 꽃 구경 같은 일상으로 스며들어 눈길을 끌고 있다. 서울 관악구는 지난달 1일부터 청년 구직자들의 비대면 면접을 지원하기 위해 ‘AI·VR 면접체험관’을 운영하고 있다. 코로나19 확산으로 기업에서 AI 면접을 보는 곳이 점점 늘고 있지만, 아직 AI면접이 생소한 청년 구직자들은 출제 유형과 응시방법 등 정보가 부족해 취업 준비에 어려움을 겪고 있다.이에 관악구는 일자리를 찾는 청년 구직자들이 최신 채용 트렌드를 접하고 취업역량을 키울 수 있도록 관악구 대표 청년문화공간인 ‘신림동쓰리룸’ 및 청년공간 이음 내에 ‘AI·VR 면접체험관’을 마련했다. 체험관에는 기업이 실제 채용에 사용하는 프로그램으로 AI면접을 체험해볼 수 있는 공간을 조성해 응시자들이 실전에 대비할 수 있도록 했다. 청년 구직자들은 기본 면접, 심층 면접, 인·적성 검사, 상황 파악 대처능력 등을 체험할 수 있으며, AI가 응시자의 표정, 음성, 어휘 등을 체크하여 적성 및 성향을 분석해 평가한다. 또한 VR을 활용한 면접 체험도 가능하다. VR기기를 착용하면 가상의 면접관이 등장해 실제 기업의 직무별 기출문제를 질문하고, 응시자가 답변하면 대답 속도, 목소리 톤 등을 분석해준다. VR면접이 끝난 후에는 면접 질문 및 답변을 녹음파일로 제공, 자가학습이 가능하도록 했다.AI·VR 면접을 경험한 김영재(29)씨는 “처음 AI면접을 접하는 거라 당황스러웠는데, 경험해보니 AI가 안내도 잘해주고 대면 면접보다 합리적이라는 생각이 들었다”며 “또 목소리나, 표정,어휘 등도 체크해 주니 큰 도움이 됐다”고 말했다. 또 “실제 기업에서 사용하는 프로그램으로 AI면접을 체험해볼 수 있다는 게 강점인 것 같다”고 덧붙였다. 영등포구는 지난달 봄꽃 축제에 VR과 증강현실(AR)을 아우르는 혼합현실(MR) 기술을 망라하는 확장현실(XR)을 도입해 화제가 됐다. 구는 XR전문기업과 협력해 영등포여의도봄꽃축제 온라인 플랫폼을 선보였다. 무관중 콘텐츠를 일방적으로 관람하는 방식을 넘어 가상의 봄꽃축제장에 사용자가 입장해 축제에 참여하는 방식으로 즐길 수 있도록 했다. 360도로 화면을 돌리면서 희망의 메시지를 작성하기도 하고 가상 공간에서 다른 이들이 남긴 메시지를 구경하도록 했다. 또 지역 예술가들의 작품 전시를 모바일로 즐기는 ‘VR 전시’ 등을 진행하기도 했다. 서울시는 지난 3월부터 카카오톡 AI상담사 챗봇 ‘서울톡’에 공공서비스 예약기능을 신설했다. 채팅창에 원하는 내용을 입력만 하면 서울시가 운영하는 체육시설, 문화·교육 프로그램, 시립병원 진료까지 모두 7000여개의 공공서비스를 예약할 수 있도록 했다. 윤수경 기자 yoon@seoul.co.kr

인공지능(AI) 챗봇 ‘이루다’와 같은 개인정보 침해를 막기 위한 AI 관련 개인정보보호 자율점검표가 마련됐다. 개인정보보호위원회는 12일 전체회의를 열고 AI 관련 개인정보보호 자율점검표 주요 내용과 향후 계획을 논의했다. 자율점검표는 AI 개발·운영 과정에서 개인정보를 적법하고 안전하게 처리하도록 개인정보보호법상 지켜야 할 준수·참고사항을 수록한 안내서다. 이날 마련한 AI 자율점검표는 적법성 등 AI 관련 개인정보보호 6대 원칙과 함께 개인정보 처리 단계별 핵심 점검분야 16개에 대한 세부 체크항목(54개) 등으로 구성돼 있다. AI 개발자·운영자는 단계별 체크항목에 따라 자율적으로 점검할 수 있으며, 교육 등에도 활용할 수 있다. 특히 AI 스타트업 등 중소기업은 개인정보보호법상 주요 내용에 대한 이해와 법률 해석 등에 어려움을 겪고 있어 자율점검표가 개인정보보호 주요 점검사항을 체크하는 데 도움이 될 것으로 기대된다. 자율점검표는 이달 말 최종 확정된다. 한편 개인정보위는 개인정보 수집 동의 필수 고지사항을 누락한 하나은행과 보관기관이 지난 개인정보를 파기하지 않은 KT·LG유플러스 등 8개 사업자에 대해 4782만원의 과태료와 과징금을 부과했다. 하나은행은 개인정보 수집을 위한 동의를 받을 때 필수 고지사항 등을 누락해 과태료 400만원과 개선권고 처분을 받았다. KT와 LG유플러스는 보유기간이 지난 개인정보를 파기하지 않아 각각 과태료 360만원을 내게 됐다. 최광숙 선임기자 bori@seoul.co.kr

제1조, 로봇은 인간을 해쳐서는 안 된다.제2조, 로봇은 인간의 명령에 복종해야 한다. 단 1조에 어긋나는 경우는 제외한다.제3조, 위 두 원칙을 위배하지 않는 범위 내에서 로봇은 스스로를 지켜야 한다. 과학소설(SF) 작가 아이작 아시모프의 소설에 등장하는 로봇 3원칙이다. 수많은 작가가 이를 패러디했고, 김영하의 단편소설 ‘로봇’과 영화 ‘아이, 로봇’의 뼈대로도 쓰였다. 원칙의 바탕에는 로봇이 언제든 인간을 해칠 수 있다는 위기의식이 깔려 있다. 소설이 아닌 현실에서도 ‘로봇 원칙’은 필요하다. 지금 인류는 인공지능(AI) 로봇과 함께 살아가고 있다. AI가 투자와 법률을 자문해주고, 함께 바둑을 두거나 작곡을 하며 그림도 그린다. 이처럼 일상을 빠르게 파고들지만, 인간과 AI가 어떤 방식으로 공존해야 하는지 그 원칙은 부재하다. 핵심 ① 100억개 메시지 유출했는데도 솜방망이 처벌 AI 챗봇 이루다는 지난해 12월 세상에 모습을 드러낸 지 불과 20여일 만에 사라졌다. 기술 발전을 제도와 인식이 따라가지 못했기 때문이다. 스무 살 여대생의 모습을 한 이루다에게 이용자들은 혐오표현을 학습시켰고, 학습 자료로 쓰인 연인들 간 대화는 당사자 몰래 차용됐다. 지난달 28일 개인정보보호위원회는 이루다 개발사 ‘스캐터랩’에 개인정보보호법 위반으로 모두 1억 330만원의 과징금과 과태료를 부과했다. 사실상 무단으로 개인정보를 수집해 개발에 활용하고, 수많은 이용자의 사생활을 노출된 데 비하면 솜방망이 처벌이란 비판이 나온다. 스캐터랩은 자사 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 이용자들의 카카오톡 메시지 94억건을 수집했다. 그리고는 이를 다시 이루다 딥러닝(컴퓨터가 사람처럼 스스로 학습하는 기술)에 사용했다. 실제 해당 메시지를 작성한 60만명에게는 사용 가능성에 대해 명확히 알리지 않았다. 알고리즘 학습 과정에서는 메시지에 포함된 이름과 휴대전화 번호, 주소 등 개인을 특정할 수 있는 정보를 삭제하거나 암호화하는 장치도 마련하지 않았다. 또 20대 여성의 카카오톡 메시지 약 1억건을 응답 데이터베이스로 구축한 뒤 이루다가 이 가운데 골라 여과 없이 말하게 했다. 스캐터랩이 이용자 동의 없이 이러한 일들을 벌인 것은 아니다. 서비스 가입 시 자사 신규서비스 개발에 활용된다는 점을 미리 고지하고 수집했다. 다만 지나치게 장황한 설명과 조건을 내걸어 오히려 무슨 내용인지 알아차리기 어렵게 만들었다. 대다수 이용자는 자신의 정보가 어떻게 처리될지 예측하지 못한 상태로 형식적인 동의 절차를 거친 것으로 추정된다. 스캐터랩이 2019년 10월부터 올해 1월까지 IT 개발자들이 오픈소스를 공유하는 플랫폼인 ‘깃허브’(GitHub)에 카카오톡 대화 문장 1431건과 AI 모델을 게시한 것도 법 위반으로 판단됐다. 공유된 대화 중에는 실명이 그대로 드러난 사례만 20건 있었다. 이 밖에도 개인정보위는 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등 민감한 정보를 처리하면서 별도로 동의를 받지 않은 행위, 회원을 탈퇴했거나 1년 이상 서비스를 사용하지 않은 이들의 개인정보를 파기하지 않은 것 등에 대해서도 모두 위반으로 봤다.핵심 ② 국가 차원의 AI 산업 원칙·가이드라인 만들어야 밝고 앳된 새내기 대학생 이루다.상냥하고 순종적이며 논쟁을 좋아하지 않는 여성. 이루다의 특징이다. 무례한 말로 공격해도 얼버무리거나 대답을 회피해버리는 이루다에게 이용자들은 성희롱, 혐오표현, 편향적 언어들을 쏟아냈다. 이를 다시 학습한 이루다는 여성, 성소수자, 장애인, 이주민 등 사회적 약자에 대한 혐오를 이용자들에게 드러내는 악순환이 반복됐다. 일각에서는 개발자의 책임으로 돌렸다. 개발자들이 이 같은 사태가 벌어질 것을 예상하고 미리 방어하지 못한 점, 업계에서 개발자를 위한 맞춤 윤리교육을 시행하지 않은 점 등이 지적됐다. 물론 AI 산업이 발전할수록 필요한 요소이다. 하지만 개발자들이 아무리 높은 윤리의식을 갖춘다고 해도 인간행동의 복잡한 경우의 수를 모두 계산하는 데는 한계가 있다. 결국 국가 차원에서 원칙과 가이드라인을 만들어나가는 수밖에 없다. 변화무쌍한 AI 산업 특성상 큰 틀 안에서 끊임없이 자성과 보완이 이뤄져야 할 것이다. 실제 지난해 11월 과학기술정보통신부와 정보통신정채견구원(KISDI)이 국가 ‘인공지능 윤리기준안’을 내놓은 바 있다. 크게 인간의 존엄성과 사회 공공선, 기술의 합목적성을 핵심 원칙으로 내세웠다. 문제는 지나치게 추상적이라는 것이다. 기준안은 인간 존엄성을 지킨다는 원칙을 통해 “AI는 인간의 생명은 물론 정신적·신체적 건강에 해가 되지 않는 범위에서 개발과 활용이 이뤄져야 한다”고 명시했다. 아울러 ‘침해 금지’라는 요건을 내세워 인간에게 직간접적인 해를 입히는 목적으로 AI를 활용해서는 안 된다”고 강조했다. 이는 모호한 선언에 그칠 뿐, 구체적인 실현 방법은 제시되지 않았다. 특히 ‘구속력 있는 법이나 지침이 아닌 도덕적 규범이자 자율 규범으로, 기업 자율성을 존중한다’는 조건을 붙였다. 이루다 사태도 기업의 자율성에 온전히 맡긴 탓에 벌어진 점을 고려하면 실효성에 의문이 든다. 미국이나 유럽은 이미 법과 제도적 장치를 견고히 만들어가고 있다. 미국 의회는 2019년 4월 ‘알고리즘 책임 법안’을 발의해 고위험 자동화 시스템을 평가하는 기준을 만들었다. 알고리즘을 적용할 때 발생하는 편향성과 차별성, 사생활 침해 등을 집중적으로 점검하도록 했다. 이루다를 통해 발견된 문제점 상당수를 사전 점검할 수 있게 대비하는 셈이다. 개인정보보호에 특히 까다로운 유럽(EU)은 더욱 강력히 규제한다. EU 집행위원회는 2020년 3월 ‘인공지능 발전과 신뢰를 위한 백서’를 발표했다. 백서에는 고위험 분야의 인공지능에 대해 안전성 요건을 수립하고 사전 적합성을 평가받도록 하는 내용이 담겼다. 지난달에는 ‘AI에 대한 조화로운 규칙 수립 및 개정 입법 제안’을 공개하며 AI에 대한 법적 규제를 예고하기도 했다. 무엇보다 사회 전반의 윤리의식이 높아져야 한다. 기술이 제아무리 발전해도 인간의 폭력성이 존재하는 한 이루다 사례는 반복될 수밖에 없다. 이루다에게 잘못된 경로로 얻은 정보를 습득시키고, 혐오발언을 주입한 것 역시 인간이다. ‘로봇은 인간을 해쳐서는 안 된다’는 원칙에 앞서 ‘인간은 다른 인간을 해쳐서는 안 된다’는 원칙부터 지켜져야 하는 이유다. 곽혜진 기자 demian@seoul.co.kr

카카오톡 대화 이름·전화번호 삭제 없이60만명 메시지 이용… 위반 정도 ‘중대’기술 개발 제약 우려에 형사고발 안 해업계 “정보 수집·활용 가이드라인 필요”인공지능 챗봇 ‘이루다’를 개발하는 과정에서 이용자 동의 없이 60만명의 카카오톡 대화를 무단으로 사용한 스캐터랩이 1억원이 넘는 과징금과 과태료를 내게 됐다. 개인정보보호위원회는 28일 전체회의를 열어 8가지 사안에 대해 개인정보보호법을 위반한 스캐터랩에 이 같은 제재를 내렸다. 인공지능 기술 기업이 무분별하게 개인정보를 처리한 데 대해 제재를 가한 것은 이번이 처음이다. 과징금으로는 지난해 당사자 동의 없이 제3자에게 개인정보를 제공한 페이스북에 대해 67억원의 과징금을 내린 이후 역대 최고 액수다. 개인정보위는 이루다의 개인정보 위반 정도가 ‘중대하다’고 판단해 최고 액수의 과징금을 내리면서도 형사고발 조치를 하지 않은 것은 개인정보 보호도 중요하지만 향후 관련 기술 개발에 걸림돌이 되지 않도록 하기 위한 고육지책으로 풀이된다. 이에 대해 업계에서는 ‘솜방망이 처분’이라는 반응이 나왔다. 개인정보위 조사 결과 스캐터랩은 이루다 개발·서비스 과정에서 정보 주체의 동의 없이 개인정보를 수집하고 수집목적 외에 정보를 활용한 것으로 드러났다. 자사의 애플리케이션(앱) 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 카카오톡 대화를 2020년 2월부터 2021년 1월까지 페이스북 이용자 대상의 챗봇 서비스인 이루다 개발과 운영에 이용한 것이다. 스캐터랩은 이루다 모델의 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제·암호화하지 않고, 약 60만명에 달하는 이용자의 카카오톡 대화 문장 94억건을 이용했다. 또 이루다 서비스 운영 과정에서는 20대 여성의 카카오톡 대화 문장 약 1억건을 응답 데이터베이스로 구축하고, 이루다가 이 중 한 문장을 선택해 발화할 수 있도록 운영했다. 개인정보위는 스캐터랩이 ‘텍스트앳’과 ‘연애의 과학’ 개인정보처리방침에 ‘신규 서비스 개발’을 포함시켜 이용자가 로그인함으로써 동의한 것으로 간주하는 것만으로는 이용자가 이루다와 같은 ‘신규 서비스 개발’ 목적의 이용에 동의했다고 보기 어렵다고 판단했다. 이용자가 이루다 개발과 운영에 카카오톡 대화가 이용될 것으로 예상하기 어렵고, 예측할 수 없는 손해를 입을 우려가 있는 만큼 개인정보를 수집한 목적을 벗어나 이용한 것은 문제가 있다고 본 것이다. 특히 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등에 관한 정보를 처리하면서 별도 동의를 받지 않은 행위, 회원 탈퇴자나 1년 이상 서비스 미사용자의 개인정보 미파기 등에 대해서도 모두 법 위반으로 인정했다. 스캐터랩은 ‘텍스트앳’에서는 4만 8000명, ‘연애의 과학’에서는 12만명, 이루다에서는 3만 9000명 등 아동 20여만명의 개인정보를 수집했다. 한 스타트업 관계자는 “1억원은 너무 솜방망이 처벌”이라며 “그동안 업계가 이런 부분에서 간과한 측면이 있었는데 개인정보 보호에 좀더 신경을 쓰는 계기가 돼야 한다”고 말했다. 또 다른 관계자는 ”개인정보 수집이나 활용 등에 관해 현장에서 지킬 수 있는 제대로 된 가이드라인이 나온다면 업체들이 이를 지키기 더 용이할 것”이라며 “마치 업계 전반에 도덕성 해이가 만연한 것으로 비쳐지는 것은 아쉽다”고 말했다. 최광숙 선임기자 bori@seoul.co.kr한재희 기자 jh@seoul.co.kr

비대면 디지털 사회에 발맞춰 수돗물 관리와 이용이 똑똑해진다. 서울시상수도사업본부는 인공지능(AI), 빅데이터 기반의 상수도 민원상담 로봇 구축은 물론 온라인 원격검침, 수도요금 모바일 전자고지 등을 도입한다고 25일 밝혔다. 서울시가 관리하는 수도계량기는 220만개에 달한다. 수도요금은 격월로 고지하는데 시는 매월 평균 100만 5000건의 요금 청구서를 보내고 있다. 이 중 대다수가 종이청구서로, 전자고지는 6만 5000건에 불과한 실정이다. 이에 시는 지난달 30일부터 모바일 전자고지를 새롭게 도입했다. 스마트폰 애플리케이션(앱)과 문자를 통해 요금을 확인하고 납부까지 할 수 있는 시스템이다. 청구금액, 미납금액, 납부기한, 요금 세부내역, 사용기간 및 사용량, 입금전용 계좌, 상담 창구, 유의사항 등 주요 내용을 확인할 수 있다. 또한 앞으로 단순, 반복적인 상수도 민원상담은 빅데이터 기반 AI가 맡게 된다. 지난해 기준 상수도 분야 연간 전화민원은 127만건으로 8개 수도사업소 콜민원센터의 62명 직원이 일일 평균 63건을 응대하고 있다. 그렇다 보니 통화대기나 상담지연으로 통화 포기 건수가 29만건에 달했다. 이 중 31%가 이사에 따른 요금 정산, 요금 문의 등 단순한 민원이라고 본부 측은 설명했다. 이에 본부는 단순·반복 상담에 ‘상담챗봇’을 도입하고 상담 직원 지원뿐 아니라 상담 데이터를 축적하는 ‘상담비서봇’을 두기로 했다. 이렇게 되면 24시간 365일 민원 대응이 가능해지며 빅데이터 활용에 따른 실시간 민원동향 등을 파악할 수 있게 된다. 인터넷 기반 온라인 원격검침도 확대된다. 현재 223만개 수도계량기를 356명의 검침원이 나눠 2개월 단위로 사용량 현장방문과 검침을 하고 있다. 이 과정에서 자동차 충돌, 낙상, 질식, 개 물림 등 사고가 빈번하게 일어나고 있다. 본부는 수도미터 및 원격검침단말기를 설치해 온라인으로 실시간 단위 수도사용값을 확인할 수 있도록 할 예정이다. 올해는 검침이 불편하거나 위험한 곳을 먼저 원격검침으로 전환하고 내년부터는 재개발, 재건축 등 도시개발 구역에 원격 검침을 도입한다. 이후 사용 만기 위주 계량기 개별 전환에서 동 규모의 교체방식으로 전환할 계획이다. 상수도사업본부 관계자는 “시대 변화와 요구에 맞춰 상수도 분야에서도 다방면의 스마트 행정을 구현하기 위해 노력하고 있다”며 “시민이 더 정확하고 편리하게 수돗물 정보를 이용할 수 있도록 하겠다”고 밝혔다. 윤수경 기자 yoon@seoul.co.kr

인공지능 챗봇 및 빅데이터SW 전문기업 와이즈넛(대표 강용성)은 자사의 인공지능 챗봇이 과기정통부가 선정한 디지털 뉴딜 우수사례에 선정되었다고 20일 밝혔다. 과기정통부는 2020년 이후 지능형 정부 구현을 위해 디지털 뉴딜 정책의 성과 확산에 기여한 ‘이달의 디지털 뉴딜 우수사례’를 선정해왔다. 선정 기준은 디지털뉴딜 사업 참여기업 중 우수한 성과를 통해 국민 체감도 및 파급효과가 높은 기업이다. 금번 3월 선정된 와이즈넛의 챗봇은 자체 구축한 자연어처리기술을 기반으로 대고객 대상 및 내부 업무용 챗봇을 제공하여 대민 편의 및 공공 업무 효율성 향상에 포커싱된 대화형 인공지능 솔루션이다. 특히, 와이즈넛은 인공지능 기반 AI 챗봇 솔루션을 활용해 과기정통부 주관의 AI바우처 지원사업에 적극 참여하여, 공공 행정의 스마트 업무 효율화 및 디지털 전환을 위한 비대면 업무 자동화에 기여했다는 점에서 높은 평가를 받았다. 와이즈넛은 꾸준히 인공지능 챗봇 사업 사례를 확보해 현재 압도적인 국내 최다 사례를 보유하고 있다. △서울시 △병무청 △농협중앙회 △한국남부발전 △인천항만공사 △신한은행 △건국대학교 등 산업 전방위적으로 약 170여건의 사업 레퍼런스 및 노하우를 통해 고객사의 디지털 혁신을 도모한다. 강용성 대표이사는 “지난 21년간 자체 개발한 인공지능 기술력을 통해 산업 내 AI 활용 확산을 위한 각종 디지털 전환 사업에 참여하고 있다”며, “앞으로도 와이즈넛은 지능형 사회 구현을 위한 다양한 디지털 뉴딜 사업에 앞장서 인공지능 산업 생태계 확장을 위해 노력할 것”이라고 말했다. 온라인뉴스부 iseoul@seoul.co.kr

서울의 자치구들이 ‘스마트 도시’로 거듭나고 있다. 인공지능, 빅데이터를 활용해 분리수거, 미세먼지 등 주민들의 일상 생활 문제를 해결하는가 하면, 도서 대여 등 대표적인 오프라인 공공 서비스를 비대면 방식으로도 누릴 수 있는 시스템도 등장했다. 양천구는 목3동 스마트 도시재생 사업지역 내에 캔과 페트병 분리수거가 가능한 ‘인공지능 자원회수 로봇’ 3대를 설치했다. 분리배출 시 소정의 포인트로 보상하여 자발적인 분리수거 참여를 유도함으로써 올바른 분리수거 문화 정착을 돕고, 목3동 스마트 도시재생 지역의 주거환경 및 정주 여건 개선을 위해서다. 목3동 주민센터에 2대, 깨비시장 고객지원센터에 1대가 설치되어 있으며 분리수거 자원을 투입하고 개인 휴대전화 번호를 입력하면 일정 포인트가 적립되는 방식으로 작동된다. 이 기기는 캔과 페트병만 회수하며, 인공지능으로 쓰레기를 구별하여 다른 종류의 쓰레기를 넣을 경우 투입구로 다시 배출한다. 캔과 페트병은 1인당 하루 100개 이내로 투입할 수 있으며 캔·페트 구분 없이 개당 10포인트가 적립된다. 이를 2000포인트 이상 적립하면 수퍼빈 홈페이지에서 1포인트당 1원으로 환산하여 현금으로 전환할 수 있다.서초구는 2019년에 구축된 사물인터넷 기반 ‘미세먼지 세밀 측정시스템’을 계속해서 확장해오고 있다. 지난해에는 인체에 유해한 대기오염 농도를 실시간 측정할 수 있는 ‘통합대기환경 세밀 측정시스템’을 구축했으며 올는 이러한 빅데이터를 기반으로 미세먼지 농도와 외부 영향요인들의 인과관계를 분석하여 미세먼지 예?경보 관리시스템을 구축할 계획이다. 분석한 데이터를 통해 주민에게 대기환경 상태를 보다 신속히 전달하고, 기후환경문제 개선하는데 활용할 수 있다. 또 미세먼지 유발요인 인과관계 분석, 예측모형 개발 및 예·경보 서비스, 저감장치 실험서비스 등 그린 서초를 만들기 위한 능동적인 환경정책 수립을 추진한다. 구는 올 연말까지 미세먼지 유발요인 규명 및 예측 모델링을 완성하고 AI기반 챗봇 대민서비스 및 행정 지원 서비스 체계를 구축한다는 계획이다. 이는 도심내 대기환경 오염을 유발하는 교통, 음식점, 공사현장, 유동인구 밀집지역등을 분석하고, 분석된 데이터를 기반으로 미세먼지 예측모델링을 정립하여, 살수차 우선배정 및 관심존 미세먼지 예·경보 사전 알림 등 미세먼지 저감에 대한 행정 투명성 및 효율성을 높여 줄 것으로 기대하고 있다. 강동구는 올해 상일동역, 천호역 2곳과, 생활인구가 밀집된 상일동주민센터, 명일동 평생학습센터 등 총 4곳에 스마트도서관을 조성할 계획이다. 스마트도서관에는 이용자의 회원증을 인식해 도서를 대출·반납할 수 있는 무인도서대출기(도서자판기 형태)가 설치된다. 약 200여 권의 신간과 베스트셀러 도서가 비치될 예정이다. 터치스크린에서 도서를 선택하고 회원증을 인식하면 투입구에서 자판기처럼 도서가 나온다. 반납 시에는 도서반납을 선택하고 도서 인식 후 투입구에 넣으면 된다. 이밖에 도서예약대출기, 무인도서반납기 등도 설치돼 도서관 운영시간에 구애받지 않고 안심하고 편리하게 비대면 도서 서비스를 누릴 수 있다. 심현희 기자 macduck@seoul.co.kr

성차별과 동성애·장애인 혐오 등 논란을 일으킨 인공지능(AI) 챗봇 ‘이루다’ 사태를 계기로 인공지능 산업에서 여성 인력의 확대가 필요하다는 주장이 나왔다. 최문정 한국과학기술원 과학기술정책대학원 교수는 13일 대전 한국과학기술원(KAIST)에서 열린 ‘인공지능(AI) 분야 양성평등 정책 확산’을 주제로 한 토론회에서 이같이 밝혔다. 여성가족부 주최로 열린 이번 토론회는 최근 AI 챗봇(이루다)의 성별 고정관념 학습, 성차별 및 장애인 차별과 혐오 표현 등이 사회적 논란으로 떠오르면서 인공지능 기술의 부작용 해소에 초점을 두고 진행됐다. 최 교수의 ‘인공지능 분야에 대한 특정 성별 영향평가’에 따르면 2019년 기준 인공지능 관련 사업체 271개에서 여성 대표자의 비율은 5.5％로 나타났다. 2018년 기준으로 소프트웨어 산업기업 2766개 중 여성 대표자는 5.0％, 여성 전문인력의 비율은 17.8％로 나타났다. 최 교수는 “인공지능 분야에서 여성이 겪는 어려움은 사실상 다른 이공계와 비슷하게 존재한다”면서 “책임 있는 인공지능과 윤리적 이슈에 대한 연구 지원 확대와 실효성 있는 인공지능 윤리교육 개발·시행이 필요하다”고 제안했다. 한국여성정책연구원 여성미래연구본부 윤형주 부연구위원도 “성평등 혁신이 과학기술계에 정착했다면 아마 이루다 사태도 막을 수 있었을 것”이라며 “인공지능 기술연구 등의 분야에서도 성평등 혁신정책을 시급히 도입해야 한다”고 주장했다. 정영애 여가부 장관은 “인공지능이 성인지 감수성과 윤리성 등을 충분히 담아낼 수 있도록 노력하는 것이 중요하다”며 “이번 토론회를 계기로 보다 성평등한 인공지능 정책들이 정착되기를 바란다”고 밝혔다. 최광숙 선임기자 bori@seoul.co.kr

한국언론진흥재단(이사장 표완수)은 뉴스콘텐츠를 활용한 서비스 및 비즈니스 모델 발굴을 위해 미디어 스타트업 14개사를 선정 지원한다. AI를 활용한 다국어 음성 및 영상 합성 뉴스서비스, 비재무 정보를 활용한 중소기업 여신관리, 인공지능·챗봇을 활용한 뉴스 큐레이션 서비스, 종합 입법정보 서비스 및 스타트업·VC(Venture Capital) 대상 맞춤형 정보 서비스, 장애인의 문해력 제고를 위한 인공지능 수어통역, 어린이를 위한 쉬운 뉴스 등 뉴스를 활용한 다양한 서비스 아이디어가 지원 대상으로 선정됐다. 재단은 빅카인즈(뉴스빅데이터 분석시스템)와 연계한 혁신 서비스와 기술 개발, 융합 서비스 등 민간의 창의적 아이디어를 발굴·육성함으로써 국민생활을 편리하게 하고, 뉴스콘텐츠의 활용가치를 높이고자 2016년부터 매년 미디어 스타트업을 지원 해왔다. 지난 3월 8일부터 진행된 이번 공모에는 총 54개 스타트업이 참여해 열띤 경합을 벌였다. 선정된 스타트업 14개사는 Witi, 앤톡, 에이아이파크, 찬스웨이브, 더브이씨, 우주청, 큐레아, 포티투마루, 툴립, 언더스코어, 스피치로그, 함께걷는 미디어랩, 쉐어라이프, 아주로앤피 등이다. 온라인뉴스부 iseoul@seoul.co.kr

인공지능(AI) 챗봇 ‘이루다’의 개발사 ‘스캐터랩’이 연인과 나눈 카카오톡 대화를 개인정보 이용 동의를 받지 않고 사용했다고 주장하는 이용자들이 개발사를 상대로 2억원대 손해 배상 청구 소송을 제기했다. 법무법인 태림은 1일 “‘이루다 개인정보 유출 사건’ 피해자 254명을 대리해 서울동부지방법원에 민사상 손해 배상 청구 소송을 제기했다”고 밝혔다. 태림은 원고 1인당 손해 배상액을 80만원으로 산정했다. 총 소송 가액은 약 2억원이다. 스캐터랩은 연애 분석 앱 ‘연애의 과학’과 ‘텍스트앳’에 이용자들이 낸 카카오톡 대화를 재료로 삼아 챗봇 이루다를 개발했다. 이용자들은 스캐터랩이 카톡 대화를 AI 챗봇 학습에 쓴다고 구체적으로 고지·설명하지 않았고, 회사 안팎에 개인정보·민감정보를 유출한 정황도 있다고 주장하고 있다. 개인정보보호위원회와 한국인터넷진흥원(KISA)은 스캐터랩의 개인정보보호법 위반 의혹에 관해 조사 중이다. 이 사건은 개인정보보호법에서 규정하는 개인정보의 최소수집원칙, 목적제한의 원칙, 최소보유기간의 원칙을 인공지능, 빅데이터 비즈니스가 위배할 수 있다는 점을 시사하고 있다. 하정림 법무법인 태림 변호사는 “스캐터랩이 수집한 개인정보는 이용자의 동의 없이 AI 챗봇 개발에 쓰이는 DB로 무단 전용됐다”며 “이는 개인정보보호법 위반이고 형사 처벌 사유에도 해당한다”고 말했다. 신상민 법무법인 태림 변호사는 “이번 사건은 인공지능·빅데이터 분야에서 개인정보 대량 수집과 그로 인한 피해 사례에 관해 최초의 선례를 남기게 될 것”이라고 말했다. 최영권 기자 story@seoul.co.kr

국세행정개혁위원회 첫 회의 개최 국세행정개혁위원회가 세무조사의 예측가능성을 높이고 경제적으로 어려움에 처한 납세자의 상황을 감안하기로 했다.26일 국세청에 따르면 국세행정개혁위원회(위원장 이필상 전 고려대 총장)는 이날 오후 서울지방국세청사에서 온·오프라인의 총회방식으로 올해 첫 회의를 열었다. 이날 회의엔 12명의 본위원과 공평과세 실현·성실납세 지원·소통과 혁신 등 3개 분과에 소속된 12명의 분과위원이 참석했다. 국세행정개혁위는 각계 전문가와 경제단체, 모범납세자 등이 참여하는 국세행정 대표 자문기구로, 지난 2013년 발족해 현재까지 활동 중이다. 이날 회의에서 위원회는 ▲2021년도 국세행정 운영방안 ▲전국민 고용보험 지원을 위한 실시간 소득파악 시스템 구축 방안 ▲빅데이터·클라우드를 활용한 업무방식 혁신 방안 등 주요 과제에 대해 논의·자문했다. 올해 세무조사 운영방향은 전체 조사건수를 지난해와 비슷한 1만 4000건 수준으로 유지하되, 납세자 예측가능성이 높은 정기조사를 중심으로 운영하기로 했다. 중소납세자 대상 간편조사는 현장조사 기간을 전체 기간의 50%로 제한하고, 개별 세무쟁점에 대한 내실 있는 컨설팅을 실기하기로 했다. 또한 소규모 자영업자 등에 대한 세무검증 배제를 올해 말까지 연장하고, 매출액이 급감한 차상위 자영업자로 적용대상을 확대하기로 했다. 차상위 자영업자의 매출 기준은 도소매업 등은 6억에서 15억, 제조업 등은 3억에서 7억 5000만원, 서비스업 등은 1억 5000만원에서 5억원까지다. 다만 부동산 거래 관련 탈세나 레저·홈코노미 등 신종·호황 업종, 민생침해 사업자 등 국민새활과 밀접한 분야에서 벌어지는 탈세엔 엄정대응하겠다고 강조했다. 특히 기업 자금 유용, 변칙 자본거래, 신종 역외탈세 등 사익을 편취하고 편법적으로 부를 대물림하는 반칙·특권 탈세 차단에 역량을 집중하겠다는 것이 국세청 설명이다. 정부에서 추진하는 ‘전국민 고용보험’을 현실화하기 위해 실시간 소득파악 시스템도 구축하기로 했다. 우선 소득자료 제출주기가 단축된다. 일용근로소득자와 인적용역형 사업소득자는 분기에서 월 단위로, 플랫폼 종사자는 연에서 분기 또는 월 단위로 바뀐다. 최근 국세청은 25명 규모의 소득자료관리준비단을 신설해 안정적인 일선관리와 전산시스템 정비, 관계기관 협의가 가능하도록 만들기도 했다. 아울러 국세청은 데이터를 활용해 업무를 효율화할 수 있는 방안에 대해서도 논의했다. 국세청은 종합소득세 등 일부 세목에 제공하는 인공지능(AI) 챗봇 서비스를 올해 1월 연말정산에 이어 향후 근로·자녀장려금과 양도소득세 분야까지 확대 시행할 예정이다. 또한 비상상황에도 중단없이 납세서비스를 제공하기 위해 클라우드 시스템을 활용한 비대면 업무환경도 조성할 계획이다. 국세청 측은 “이번 회의에서 개혁위원회 위원들이 논의·자문한 사항들을 향후 세정운영에 적극 반영해 나갈 계획”이라며 “앞으로도 다양한 소통채널을 통해 현장 의견을 적극 수렴하여 국세행정을 지속적으로 발전시켜 나가겠다”고 밝혔다. 세종 나상현 기자 greentea@seoul.co.kr

AI 활용 특허·상표 검색 시스템 개발 중“데이터 보완 거쳐 정확도 78%로 상승구축된 자료, 민간 활용 가능하게 할 것”“인공지능(AI) 챗봇 논란의 핵심은 잘못된 학습데이터가 원인입니다. 교재가 잘못됐는데 점수가 제대로 나올 수 없습니다.” AI 등 신기술을 활용한 스마트 심사 시스템 구축을 총괄하는 박재일 특허청 정보시스템과장은 17일 서울신문과의 인터뷰에서 ‘데이터’의 중요성을 강조했다. 특허청은 디지털 신기술에 대한 권리를 부여하는 동시에 기술을 활용해 업무 효율성 및 행정 서비스 제고를 추진 중이다. 첫 사업이 AI를 활용한 검색으로, 선행기술(특허)·이미지(디자인)를 자동 검색·추천하는 작업이다. 박 과장은 “특허와 상표·디자인 등을 심사하려면 비슷한 기술이 있는지를 확인해야 하는데 검색에 상당한 시간과 노력이 필요하다”며 “기존 규칙 기반 검색 시스템은 유사성이 반영되지 않아 심사관이 처음부터 끝까지 다 확인해야 하지만 AI 검색은 유사성이 높은 순서로 검색돼 시간 단축 및 분류 정확도를 높여 심사 품질을 향상시킬 수 있다”고 밝혔다. 실제 사용이 많은 디자인의 경우 검색건수가 20만건이 넘는다. AI 기술의 관건은 학습데이터 구축이다. 특허청이 2019년 도형상표에 첫 적용한 결과 정확도가 55.9%였으나 학습데이터 추가 보완 등을 거친 지난해 78.1%로 상승했다. 패턴에 따라 유사성을 판단하는 디자인도 지난해 시범 적용한 결과 평면디자인 정확도가 70%에 달했다. 특허는 상표·디자인보다 훨씬 복잡하다. 기술 및 기술 타당성에 대한 검증 등에 엄청난 데이터가 필요해 내년부터 시범 실시할 계획이다. 지난해 시험 실시 결과 기존 검색시스템에 비해 7% 정도 정확도가 높은 것으로 평가돼 시스템 개발에 속도를 내고 있다. 박 과장은 “AI 특허 검색은 세계에서 처음 시도하는 것으로 변수가 많다”면서도 “기술 속도가 빨라지고 난이도도 높아지면서 선행기술 검색이 복잡해지는 등 심사관 업무를 지원할 수 있는 대책이 필요하다”고 강조했다. 선행기술 검색을 비롯해 통지문 작성, 출원서 작성(AI 변리사) 등 확장성이 기대된다. 다만 AI 활용을 위한 기반은 아직 미흡하다. 학습데이터 자동 생성 기능 구축이 우선 과제로 꼽힌다. 현재는 별도 입력 과정이 필요해 시간과 비용이 과다하게 소요된다. 박 과장은 “AI 기술은 개발로 끝나는 게 아니라 추가 학습이 지속적으로 이뤄져야 한다”며 “중장기적으로 구축된 양질의 학습데이터를 민간에서 활용할 수 있도록 서비스할 계획”이라고 밝혔다. 대전 박승기 기자 skpark@seoul.co.kr

2월 ‘여성과총’에서 독립, 공익법인으로 새 출발젠더혁신에 대한 인식 확산, 인프라 구축 목표미국·유럽처럼 연구에 성별 특성 반영 의무화해야“돈·시간 더 들어도 젠더혁신은 세계적 추세”미적대다 국제연구·기술수출·국제협력개발에 타격 입을 수도“과학기술의 연구개발 전 과정에서 성별 특성을 반영하는 젠더혁신연구야 말로 남녀 모두를 위한 더 좋은 연구혁신입니다. 지도자의 인식이 바뀌는 것이 무엇보다 중요하지만 수요자(사용자)를 포함해 모든 이해당사자가 목소리를 내는 것이 그만큼 중요합니다.” 이혜숙(73) 한국과학기술젠더혁신센터 초대 소장은 ‘젠더혁신’의 의미를 이렇게 설명했다. 젠더혁신센터는 지난 2월 초 한국여성과학기술단체총연합회 부설기관에서 독립해 비영리 공익재단법인으로 출범했다. 이화여대 수리과학물리과학부 수학전공 명예교수인 이 소장을 지난 10일 서울 강남구 테헤란로에 있는 사무실에서 만나 젠더혁신연구의 방향과 과제 등에 대해 들어봤다. 이 소장은 이화여대 자연대학장과 대학원장, 한국여성과총 회장, 한국여성과학기술인지원센터 초대 소장을 지냈다. 2013년 한국에 ‘젠더혁신’이라는 개념을 들여오는데 기여했고 2016년부터 젠더혁신연구센터 수석연구원으로 활동해온 과학계 원로이다. -여성과총 부설기관에서 독립했는데, 센터의 역할과 목표는 무엇입니까. “독립 비영리 공익재단법인으로 책임감이 커졌습니다. 지난 5년 동안 여성과총의 지지와 후원으로 성별 특성을 반영한 연구 사례들에 긍정적 평가가 있었습니다. 한국연구재단과 한국과학기술단체총연합회(과총)가 연구지원을 할 때 성별 특성을 반영하도록 권고하는 성과를 거뒀습니다. 센터 이름에서 ‘연구’라는 표현이 빠졌는데, 이제 연구는 과학자들에게 맡기고 센터는 젠더혁신연구 기반을 구축하고 연구자들을 위한 교육 콘텐츠를 만들며 법과 제도 개선에 집중할 계획입니다. 그러기위해서는 성별 특성을 반영하는 과학기술기본법 개정안이 21대 국회에서 통과하는 것이 매우 중요합니다.”-젠더 이슈가 사회적 화두가 되고 있습니다. 과학기술계에서 말하는 ‘젠더혁신’은 무엇을 뜻합니까. “과학기술 연구에서 성별 및 젠더의 특성을 반영해 연구하면 모두를 위한 혁신을 이룰 수 있다는 개념입니다. 미국 스탠퍼드대학 론다 시빙어 교수가 2005년 ‘젠더혁신’이라는 용어를 처음 썼지만 과학기술계에서 변화를 통해 가치를 만들어내는 혁신은 익숙한 개념입니다. 과학연구 성과물은 가치중립적이어서 특별히 문제가 없을 것으로 생각해왔어요. 그런데 1997~2000년 미국에서 10개 약물이 심각한 부작용으로 퇴출됐어요. 그 중 8개가 여성에게 더욱 치명적이었습니다. 미 정부 조사 결과 엄청난 돈이 들어가는 신약 개발 과정에서 수컷만 대상으로 동물실험을 하고 임상시험에서도 여성이 소수만 포함된 결과라는 결론이 났습니다. 이후 남녀 부작용이 다른 약물이 10개가 아니라 600개라는 논문도 발표됐어요. 어떤 약 물질은 쥐 실험 결과 암수에서 반대의 결과가 나타나기도 합니다. 미국과 유럽에서는 암수를 따로 연구하고 데이터도 분리해서 봐야 한다는 의견이 제기되고 있습니다.” 건물의 실내 적정온도 기준이 남성에 맞춰져 여성 대부분이 추위를 느끼고, 실험실 장비나 작업장 안전장치, 심지어 휴대전화도 평균적인 남성을 기준으로 해 여성이나 체격이 작은 남성에게는 맞지 않아 위험과 불편을 감수해왔다. 성별 특성이 반영되지 않은 사례들이다. -젠더혁신의 성공적 사례로 어떤 것들이 있나요. “의생명과 보건 분야에서 연구가 활발합니다. 심혈관 질환은 일반적으로 남성이 많이 앓는다고 알려져 증상이나 진단 기준이 남성에 맞춰져 있었어요. 그러다 보니 증세가 다른 여성은 잘 포착이 안 돼 거의 마지막 단계에 진단받은 경우가 많습니다. 성별 특성을 반영해 심장병을 연구해 진단과 치료방법을 차별화했습니다. 그런가 하면 골다공증은 여성의 질병으로 인식돼 기준도 여성에 맞춰져 남성은 골다공증 증세가 있어도 진단이 잘 안 됐어요. 남성의 발병 원인이 다르고 이에 따라 치료법도 달라 이제는 진단과 치료 모두 개선됐습니다. 대장암 위치도 남녀 차이가 있다는 국내 연구 사례가 있고, 자폐증과 비만도 남녀 차이가 큰 것으로 나타났어요. 이밖에 고령층 집단생활에서 남녀 차이가 커 노후 주거문화를 검토할 때 시사점을 던져줍니다.” -인공지능(AI)에 대한 연구가 활발해지면서 과학기술 지식과 데이터의 편향성이 심각한 문제가 되고 있습니다. “국내에서 이루다 논란이 있었지만 앞서 미국 마이크로소프트에서 챗봇을 출시했다 하루 만에 철회한 적이 있습니다. 교육이 진행되면서 성희롱과 인종차별을 서슴지 않았거든요. 얼굴 인식 알고리즘도 백인 남성 인식률이 가장 높고 유색 여성 인식률이 가장 낮았다는 연구 결과가 있어요. 아마존에서 채용 알고리즘을 개발해 이용하려다 폐기했어요. 여성 관련 표현들을 모두 삭제했는데도 여성 지원자에게 매우 불리하게 작용했다고 합니다. AI가 방대한 자료를 분석해 진단하는 데에서 나아가 예측하고 판단하고 조언하는 수준까지 가면 그건 다른 얘기입니다. 왜곡·편향된 데이터가 어떻게 들어가는지, 개발자가 어떻게 배우게 하는지 그 메커니즘을 따져보는 것이 중요합니다. 말레이시아에서 AI 판사가 등장했고, 미국에서도 개발한다지만 늦더라도 우리 실정, 사회·문화적 요소 등을 세밀하게 짚으면서 가야 합니다.” -미국과 유럽에서는 과학기술연구 과정에 성별 특성 반영을 의무화하고 있나요. “미 국립보건원(NIH)은 2016년부터 연구비를 신청할 때 척추동물부터는 성별 특성을 반영하고, 그렇지 않을 경우 왜 반영하지 않아도 되는지 반드시 설명하도록 요구하고 있습니다. 유럽도 EU 차원에서 느슨하지만 성별 특성을 반영하도록 한 규정이 있습니다. 유럽에서는 AI의 폐해를 매우 심각하고 보고 있어 젠더와 인종 이슈를 고려하지 않으면 팔기 힘들 것이라는 얘기도 나옵니다.”-성별 특성, 젠더를 반영하지 않은 연구가 계속된다면 어떤 어려움이 있을 수 있습니까. “성별 특성을 반영한 연구를 하게 되면 지금보다 돈과 시간이 배로 들어가는데 결과가 그만큼 유의미할지, 들어간 개발비를 뽑아낼 수 있을지 반문하는 사람들이 있는 데 잘못된 생각입니다. 당연히 가야 할 방향입니다. 미국이 연구에 성별 특성을 반영하도록 의무화했고, 바이오 물질을 외국에서 수입할 때 다른 나라에도 성별 특성을 반영하도록 요구할 수 있다고 우려하는 얘기들이 나옵니다. 외국에는 성별 영향 분석을 한 논문만 받겠다고 선언한 저널도 많아요. 빌앤드멀린다게이츠재단은 농업부문 개발사업에 지원할 때 젠더 요소를 반드시 포함하도록 했어요. 성별 특성을 반영하지 않으면 앞으로 국제연구와 국제개발협력사업 등에서 어려움에 직면할 수 있습니다. -그렇다면 한국은 어떻게 해야 하나요. “한국은 아직 권고에 그치고 있어요. 한국연구재단에서 2018년부터 연구에 성별 특성을 반영하도록 권고하고 있고, 한국과총에서도 2019년부터 회원 학회들에 학술비 지원 신청할 때 성별 특성을 반영하도록 권고했고 내년부터 의무화할 계획으로 알고 있습니다. 의생명 분야라도 미국 수준으로 하자고 제안했었는데 과학자의 자율성을 강조하며 강제하는 것은 어렵다는 것이 대체적인 시각입니다. 의무화하는 방향으로 가려면 법과 제도를 개선하고 인식도 바꿔나가야 합니다. 성별 특성을 반영한 연구에 대규모 지원을 하는 유럽 방식도 검토해볼 만하다 생각해요.” -할 일은 않은데 조직과 예산이 뒷받침되는지 궁금합니다. “지금은 가난한 집에서 떡 할 때 분위기에요.(웃음) 주위에서 이것저것 빌려다 쓰는 상황이랄까요. 센터가 필요없는 때가 되는 것이 목표입니다. 과학기술은 오랫동안 엄정하게 다져진 방법론에서 나옵니다. 권위에 도전하기 쉽지 않죠, 때문에 지도자가 바꿔주어야 합니다. 과학기술은 필요한 게 있으면 만듭니다. 그래서 희망을 갖고 있어요.” 글·사진 김균미 대기자 겸 젠더연구소장 kmkim@seoul.co.kr

지난 1일 병색이 깊은 아버지를 마지막으로 만나려고 자가격리 장소를 이탈한 30대 해외 입국자에게 벌금형이 선고됐다. 감염병의 예방 및 관리에 관한 법률 위반 혐의로 기소된 이 여성에게 재판부는 “죄책이 가볍지 않지만, 암 투병으로 위독한 아버지에게 마지막이 될지도 모르는 인사를 하기 위해 병원을 방문한 경위에 참작할 만한 사정이 있다”며 벌금 150만원을 선고했다. 코로나19 팬데믹은 수많은 사람에게 이전과는 다른 사별의 아픔을 남겼다. 남겨진 이들은 사랑하는 사람과 가족이 눈을 감을 때 마지막으로 손을 잡을 수도, 목소리를 들을 수도 없었다. 바이러스 확산을 막기 위한 방역 조치 때문이다. 사랑하는 사람을 그렇게 떠나보낼 수밖에 없는 남은 이들은 고인을 잃은 슬픔과 더불어 자책감에 시달리기도 한다. 먼저 떠난 이를 꿈에서라도 보길 바라는 간절한 소원을 성취해 줄 열쇠가 아예 존재하지 않는 건 아니다. 최근 마이크로소프트(MS)는 고인의 개인정보를 인공지능(AI) 챗봇으로 구현하는 특허를 취득했다. 챗봇은 텍스트나 음성 데이터를 입력해 인간의 대화를 흉내 내는 프로그램이다. MS의 특허 기술은 사망한 사람의 이미지와 음성 데이터, SNS에 게시된 메시지들을 디지털로 변환하고 이를 활용해 대화를 나눌 수 있는 챗봇으로, 일종의 ‘디지털 환생’인 셈이다. 물론 데이터에 기반한 일종의 환영(幻影)인 만큼 생전의 모습과 구분하지 못할 정도로 정교하지 않고, 주고받는 대화가 어색할 수도 있다. 그럼에도 고인의 음성, 자주 사용하던 어휘와 말 습관, 비록 화면 너머이긴 하나 눈앞에서 말하고 표정 짓는 얼굴을 다시 보길 원하는 사람이라면 혹하지 않을 수 없는 AI 기술이다. AI는 이미 수년 전부터 죽음의 영역에 관심을 보이기 시작했다. 2018년 1월 영국 일간지 가디언에는 인생의 동반자이자 가장 소중한 친구를 잃은 미국 한 여성의 사연이 소개됐다. 이 여성은 고인이 남긴 글과 SNS 메시지 등을 모아 인공지능을 학습시킨 뒤 애플리케이션으로 제작했다. 2014년에는 미국에서 고인의 기록으로 디지털 아바타를 만들어 주는 기업이 등장하기도 했다. 그러나 일각에서는 AI가 죽음마저 상품화한다는 비난을 쏟아냈다. 전문가들은 이미 세상을 떠난 고인과 현재를 살아가야 하는 남은 이 사이의 관계가 AI로 이어지는 일은 도리어 트라우마나 상실감 등의 부정적 증상을 악화시킬 수 있다고 경고한다. 특히 감정을 다루는 AI 챗봇 서비스가 실존하지 않는 허구를 실제로 착각해 현실감각을 무너뜨릴 수 있다는 우려도 있다. 원천 기술을 가진 구글 등 일부 기업이 이를 아직 상용화하지 않은 이유 중 하나다. 코로나19 팬데믹이 시작된 후 지난 1년여 동안 우리는 외로운 죽음을 수없이 접했다. 죽음이 남긴 이별 곁에는 마지막 인사도 살갑게 나누지 못해 사무치는 마음을 부여잡아야 하는 남겨진 사람들이 있다. 말로 표현하기 어려운 이별의 슬픔을 겪고도 여전히 오늘을 살아나가야 하는 그들에게 과학의 발전이, 새로운 AI 기술의 등장이 작게나마 위로를 전달하는 순기능만 존재하길 바라 본다.