인공지능 이루다를 개발한 스캐터랩의 서비스 중단 조치에 이루다의 문제점을 지적했던 이재웅 다음 창업자가 ‘잘했다’는 입장을 밝혔다. 스캐터랩은 11일 오후 늦게 입장문을 내고 “AI 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 사람들이 이용했다”면서 “이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”고 설명했다. 이어 개선 기간을 거쳐 다시 서비스를 하겠다고 덧붙였다. 페이스북 메신저를 이용해 손쉽게 연인과 대화하듯 채팅할 수 있다는 점때문에 이루다는 출시 직후 폭발적 관심을 받았다. 하지만 이처럼 연인처럼 자연스럽게 채팅할 수 있었던 것은 스캐터랩의 또 다른 서비스 ‘연애의 과학’으로 수집한 메시지를 활용했기 때문이었다. 스캐터랩 측은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용했지만, 연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못했다며 사과했다. 또 ‘연애의 과학’을 사용한 이용자들의 데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐으며, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제했다고 부연했다. ‘연애의 과학’은 연인 간 카카오톡 내용을 분석해준다는 컨텐츠로 채팅 내용을 텍스트화해서 첨부하면 일년 간 어떤 대화를 많이 나눴는지, 주로 나눈 대화의 키워드는 무엇인지, 누구의 애정도가 더 높은 지 등과 같은 흥미로운 결과를 보여주는 프로그램이다. 몇개월간 쌓아온 카카오톡 내용을 분석해주기에 약 2500원~5000원의 비용을 지불하고도 많은 사람들이 이용했다. ‘연애의 과학’ 이용자들은 이루다에게 가해진 성희롱에 대해 “이루다에게 어떤 말을 보냈을 때 대답하는 것들은 이루다 인공지능 시스템이 자체적으로 멘트를 만들어내는 것이 아니라, 전부 실제 연인들이 나눴던 대화를 그대로 복사해서 말하는 수준에 불과하다”면서 “지금 이루다 이용자들이 성희롱을 했을때 돌아오는 말들이, 내가 연인과 나눴던 대화일 수도 있다고 생각하면 정말 끔찍하기 짝이 없다”고 지적했다. 이에 대해 스캐터랩 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI”라며 “이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 해명했다. 한편 이재웅 전 쏘카 대표는 “AI를 공공에 서비스할때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러가지를 재점검하는 기회가 되었으면 한다”면서 “이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 하거나 조장하고 있는 것은 아닌지 사회적으로 점검하고 포괄적 차별금지법 제정등을 통해 AI 를 학습시키는 인간들의 규범과 윤리도 보완했으면 좋겠다”고 제안했다. 이 전 대표는 인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다고 강조했다. 윤창수 기자 geo@seoul.co.kr

혐오 표현 학습으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개발 과정에서 학습한 100억건의 카카오톡 대화 빅데이터에서 이름, 집 주소 등 개인정보를 추출해 불특정 다수에게 노출했다는 의혹이 제기됐다. 자신도 모르는 사이 개인정보를 이용당했다고 주장하는 피해자들은 집단소송을 준비하고 있다. 결국 개발사는 서비스를 잠정 중단했다. 이루다의 개발사인 스캐터랩은 11일 당사 애플리케이션(앱)인 ‘연애의 과학’ 사용자들에게 “이루다의 학습에 연애의 과학 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의 과학은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 스캐터랩은 이 대화 데이터 100억건을 AI 이루다에게 학습시켰고, 이는 이루다가 진짜 친구나 연인처럼 사용자의 말에 반응하는 비결이 됐다. 이런 사실이 뒤늦게 알려지자 연애의 과학 유료 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 쓰라고 동의한 건 아니다”라며 반발했다. 이들은 이루다가 사용자와 대화하면서 특정 개인의 이름과 주소, 계좌 정보, 연인과 함께 갔던 모텔 등 숙박업소의 이름 등 내밀한 개인정보를 유출한 캡처 화면 등을 증거로 모으며 법적 대응을 준비하고 있다.개발사 측은 카톡 대화를 알고리즘으로 비식별화(익명화) 처리한 뒤 AI에게 학습시켰기 때문에 개인정보가 유출되지 않았다고 주장했다. 또 사전에 개인정보취급방침을 통해 ‘수집된 개인정보는 신규 서비스 개발에 활용한다’는 조건을 안내했다는 입장이다. 하지만 확인 결과 ‘AI 서비스’라고 구체적으로 명시하지는 않았다. 전문가들은 스캐터랩이 개인정보보호법을 위반했을 가능성이 크다고 입을 모았다. 정성용 변호사(법률사무소 의담)는 “수집된 정보로 특정인을 쉽게 식별할 수 있는 경우 개인정보보호법에서 말하는 개인정보에 해당하고, 이를 제3자에게 유출한 행위는 위법 소지가 있다”고 밝혔다. 김가연 오픈넷 변호사는 “개인정보취급방침을 고지한 것과는 상관없이 사용자가 수집·이용 등의 목적을 알리고 동의를 받는 절차가 없었다면 법 위반으로 볼 수 있다”고 말했다. 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩이 개인정보보호법을 어겼는지 조사에 착수했다. 법령을 위반했다면 과징금이 부과되고 중대한 위반이면 수사기관에 형사 고발될 수 있다. 한편 스캐터랩은 이날 저녁 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드린다”면서 “서비스 개선 기간을 갖고 다시 찾아 뵙겠다”고 밝혔다. 최영권 기자 story@seoul.co.kr

연초부터 ‘밥상 물가’가 치솟고 있다. 코로나19에 따른 경기 불황이 장기화하는 가운데 물가 인상까지 겹쳐 소비자들의 가계 부담이 커지고 있다. 11일 유통업계에 따르면 최근 국내 농축수산물 등 밥상에 오르는 대부분의 식료품 가격이 큰 폭으로 올랐다. 국내 농산물 가격 데이터 전문기업인 팜에어가 주요 농산물 가격 추이를 분석한 결과 배추, 대파, 감자, 양파, 호박, 당근, 양배추, 무, 고구마, 포도 등 농산물 10개 품목의 ㎏당 평균가격이 전월 대비 최대 50% 이상 상승한 것으로 나타났다. 지난해 같은 기간과 비교해도 배추, 당근, 양배추를 제외한 7개 품목의 가격이 최대 70% 올랐다. 닭고기, 오리고기, 계란은 지난해 11월 발생한 조류인플루엔자(AI)가 겹치면서 최근 가격이 더 올라 일부 마트에선 계란 한 판이 7000원대를 돌파했다. 이달 한우등심(1+등급) 소매가격은 ㎏당 약 12만 1000원으로, 평년 수준(10만 8000원)보다 1만원 이상 올랐다. 통계청에 따르면 지난해 12월 전체 소비자물가는 전년 동기보다 0.5% 상승했지만 식생활과 밀접한 농축수산물은 9.7% 뛰었다. 소비자들 사이에선 “정말 저물가가 맞냐”는 목소리가 커지고 있다. 밥상 물가가 오른 이유는 크게 두 가지다. 우선 농산물은 지난해 긴 장마와 태풍의 영향으로 작황이 부진했다. 주요 식품기업에 농산물을 납품하는 한 관계자는 “지난해 이상기온으로 농산물 냉해 피해가 있어 수확량 자체가 줄었다”면서 “특히 콩처럼 사전 계약재배가 이뤄지지 않는 작물의 가격 변동이 컸다”고 말했다. 코로나19로 인한 소비 방식의 변화도 밥상 물가 인상을 이끌었다. 외출을 꺼리고 집밥을 먹는 사람들이 늘어나면서 원재료 소비도 함께 증가했다. 식품업계 관계자는 “외식업체들이 구매하는 농축수산물은 예측 가능한 반면 가계 소비는 필요한 양보다 더 많이 사게 되는 경향이 있고 예측도 어려워 가격 상승이 이뤄졌다”고 말했다.이를 원재료로 한 가공식품들의 가격도 줄줄이 인상되고 있다. 국내 두부 시장 1위 업체 풀무원은 이달 중 두부를 최대 14%, 콩나물은 최대 10% 인상하기로 했다. 현재 4000원대 후반인 풀무원 국산 콩두부(300g) 제품은 5000원을 넘게 된다. 반찬류 통조림 시장 점유율 1위 기업인 샘표도 오는 18일 꽁치와 고등어 등 수산물 통조림 제품의 가격을 42% 인상한다. 샘표는 이미 지난 5일에도 깻잎과 명이나물, 메추리알장조림 등 통조림 제품의 가격을 평균 36% 올렸다. 원재료 가격이 올라 제품 가격이 올랐다는 설명이다. 음료업계도 줄줄이 가격을 인상했다. 코카콜라는 지난 1일부터 250㎖ 제품 가격을 100원, 1.5ℓ 제품의 가격을 200원 올렸고 동아오츠카는 포카리스웨트와 오로나민C 가격을 100∼200원 인상했다. 해태htb는 갈아만든배(1.5ℓ) 가격을 400원 인상했다. 식품업계 관계자는 “원재료비보다는 물류 비용이 많이 드는 음료업계 특성상 기름값 인상이 제품 가격 상승에 영향을 주었을 것으로 보인다”고 분석했다. 심현희 기자 macduck@seoul.co.kr

연초부터 ‘밥상 물가’가 치솟고 있다. 코로나19에 따른 경기 불황이 장기화하는 가운데 물가 인상까지 겹쳐 소비자들의 가계 부담이 커지고 있다. 11일 유통업계에 따르면 최근 국내 농축수산물 등 밥상에 오르는 대부분의 식료품 가격이 큰 폭으로 올랐다. 국내 농산물 가격 데이터 전문기업인 팜에어가 주요 농산물 가격 추이를 분석한 결과 배추, 대파, 감자, 양파, 호박, 당근, 양배추, 무, 고구마, 포도 등 농산물 10개 품목의 ㎏당 평균가격이 전월 대비 최대 50% 이상 상승한 것으로 나타났다. 지난해 같은 기간과 비교해도 배추, 당근, 양배추를 제외한 7개 품목의 가격이 최대 70% 올랐다. 닭고기, 오리고기, 계란은 지난해 11월 발생한 조류인플루엔자(AI)가 겹치면서 최근 가격이 더 올라 일부 마트에선 계란 한 판이 7000원대를 돌파했다. 이달 한우등심(1+등급) 소매가격은 ㎏당 약 12만 1000원으로, 평년 수준(10만 8000원)보다 1만원 이상 올랐다. 통계청에 따르면 지난해 12월 전체 소비자물가는 전년 동기보다 0.5% 상승했지만 식생활과 밀접한 농축수산물은 9.7% 뛰었다. 소비자들 사이에선 “정말 저물가가 맞냐”는 목소리가 커지고 있다. 밥상 물가가 오른 이유는 크게 두 가지다. 우선 농산물은 지난해 긴 장마와 태풍의 영향으로 작황이 부진했다.주요 식품기업에 농산물을 납품하는 한 관계자는 “지난해 이상기온으로 농산물 냉해 피해가 있어 수확량 자체가 줄었다”면서 “특히 콩처럼 사전 계약재배가 이뤄지지 않는 작물의 가격 변동이 컸다”고 말했다. 코로나19로 인한 소비 방식의 변화도 밥상 물가 인상을 이끌었다. 외출을 꺼리고 집밥을 먹는 사람들이 늘어나면서 원재료 소비도 함께 증가했다. 식품업계 관계자는 “외식업체들이 구매하는 농축수산물은 예측 가능한 반면 가계 소비는 필요한 양보다 더 많이 사게 되는 경향이 있고 예측도 어려워 가격 상승이 이뤄졌다”고 말했다. 이를 원재료로 한 가공식품들의 가격도 줄줄이 인상되고 있다. 국내 두부 시장 1위 업체 풀무원은 이달 중 두부를 최대 14%, 콩나물은 최대 10% 인상하기로 했다. 현재 4000원대 후반인 풀무원 국산 콩두부(300g) 제품은 5000원을 넘게 된다. 반찬류 통조림 시장 점유율 1위 기업인 샘표도 오는 18일 꽁치와 고등어 등 수산물 통조림 제품의 가격을 42% 인상한다. 샘표는 이미 지난 5일에도 깻잎과 명이나물, 메추리알장조림 등 통조림 제품의 가격을 평균 36% 올렸다. 원재료 가격이 올라 제품 가격이 올랐다는 설명이다. 음료업계도 줄줄이 가격을 인상했다. 코카콜라는 지난 1일부터 250㎖ 제품 가격을 100원, 1.5ℓ 제품의 가격을 200원 올렸고 동아오츠카는 포카리스웨트와 오로나민C 가격을 100∼200원 인상했다. 해태htb는 갈아만든배(1.5ℓ) 가격을 400원 인상했다. 식품업계 관계자는 “원재료비보다는 물류 비용이 많이 드는 음료업계 특성상 기름값 인상이 제품 가격 상승에 영향을 주었을 것으로 보인다”고 분석했다. 심현희 기자 macduck@seoul.co.kr

연초부터 ‘밥상 물가’가 치솟고 있다. 코로나19에 따른 경기 불황이 장기화하는 가운데 물가 인상까지 겹쳐 소비자들의 가계 부담이 커지고 있다. 11일 유통업계에 따르면 최근 국내 농축수산물 등 밥상에 오르는 대부분의 식료품 가격이 큰 폭으로 올랐다. 국내 농산물 가격 데이터 전문기업인 팜에어가 주요 농산물 가격 추이를 분석한 결과 배추, 대파, 감자, 양파, 호박, 당근, 양배추, 무, 고구마, 포도 등 농산물 10개 품목의 ㎏당 평균가격이 전월 대비 최대 50% 이상 상승한 것으로 나타났다. 지난해 같은 기간과 비교해도 배추, 당근, 양배추를 제외한 7개 품목의 가격이 최대 70% 올랐다. 닭고기, 오리고기, 계란은 지난해 11월 발생한 조류인플루엔자(AI)가 겹치면서 최근 가격이 더 올라 일부 마트에선 계란 한 판이 7000원대를 돌파했다. 이달 한우등심(1+등급) 소매가격은 ㎏당 약 12만 1000원으로, 평년 수준(10만 8000원)보다 1만원 이상 올랐다. 통계청에 따르면 지난해 12월 전체 소비자물가는 전년 동기보다 0.5% 상승했지만 식생활과 밀접한 농축수산물은 9.7% 뛰었다. 소비자들 사이에선 “정말 저물가가 맞냐”는 목소리가 커지고 있다. 밥상 물가가 오른 이유는 크게 두 가지다. 우선 농산물은 지난해 긴 장마와 태풍의 영향으로 작황이 부진했다. 주요 식품기업에 농산물을 납품하는 한 관계자는 “지난해 이상기온으로 농산물 냉해 피해가 있어 수확량 자체가 줄었다”면서 “특히 콩처럼 사전 계약재배가 이뤄지지 않는 작물의 가격 변동이 컸다”고 말했다. 코로나19로 인한 소비 방식의 변화도 밥상 물가 인상을 이끌었다. 외출을 꺼리고 집밥을 먹는 사람들이 늘어나면서 원재료 소비도 함께 증가했다. 식품업계 관계자는 “외식업체들이 구매하는 농축수산물은 예측 가능한 반면 가계 소비는 필요한 양보다 더 많이 사게 되는 경향이 있고 예측도 어려워 가격 상승이 이뤄졌다”고 말했다.이를 원재료로 한 가공식품들의 가격도 줄줄이 인상되고 있다. 국내 두부 시장 1위 업체 풀무원은 이달 중 두부를 최대 14%, 콩나물은 최대 10% 인상하기로 했다. 현재 4000원대 후반인 풀무원 국산 콩두부(300g) 제품은 5000원을 넘게 된다. 반찬류 통조림 시장 점유율 1위 기업인 샘표도 오는 18일 꽁치와 고등어 등 수산물 통조림 제품의 가격을 42% 인상한다. 샘표는 이미 지난 5일에도 깻잎과 명이나물, 메추리알장조림 등 통조림 제품의 가격을 평균 36% 올렸다. 원재료 가격이 올라 제품 가격이 올랐다는 설명이다. 음료업계도 줄줄이 가격을 인상했다. 코카콜라는 지난 1일부터 250㎖ 제품 가격을 100원, 1.5ℓ 제품의 가격을 200원 올렸고 동아오츠카는 포카리스웨트와 오로나민C 가격을 100∼200원 인상했다. 해태htb는 갈아만든배(1.5ℓ) 가격을 400원 인상했다. 식품업계 관계자는 “원재료비보다는 물류 비용이 많이 드는 음료업계 특성상 기름값 인상이 제품 가격 상승에 영향을 주었을 것으로 보인다”고 분석했다. 심현희 기자 macduck@seoul.co.kr

혐오 표현 학습과 개인정보 유출로 논란이 된 여대생 인공지능 이루다를 개발한 스타트업 스캐터랩이 결국 출시된 지 3주만에 이루다 서비스를 잠정 중단하기로 결정했다. 개발사인 스캐터랩은 11일 오후 8시 52분쯤 “AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바랍니다”라며 “스캐터랩은 일정 기간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 합니다”라는 내용의 입장문을 발표했다. 스캐터랩은 최초에 논란이 된 특정 소수집단에 대한 차별 발언에 대해 “진심으로 사과드린다”면서 “6개월 간의 베타테스트 기간 뿐만 아니라 새롭게 발견되는 표현과 키워드를 추가해 차별과 혐오 발언이 발견되지 않도록 지속적으로 개선중”이라고 밝혔다. 이어 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다”라면서 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것입니다”라고 했다. 또 “이번 학습을 통해 만들게 될 한국어 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획입니다”라면서 “한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠습니다”라고 밝혔다. 개인정보 유출에 관해서는 기존의 입장을 고수했다. “본사는 이루다를 개발하는 과정에서 본사가 제공하고 있는 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있습니다”라면서 “사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이지만, 연애의 과학 사용자 분들게서 이점을 명확히 인지할 수 있도록 충분히 소통하지 못한점에 대해서 책임을 통감하며 진심으로 사과드립니다”라고 했다. 연애의 과학 어플리케이션 초기 화면에는 네이버와 페이스북을 이용하는 SNS 로그인 창이 있고, “로그인을 함으로써 개인정보취급방침과 이용약관에 동의한다”는 문구가 써 있다. 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다. 스캐터랩 측은 이어 “데이터 활용 시 사용자의 닉네임, 이름 이메일 등의 구체적 개인 정보는 이미 제거 돼 있습니다”라며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았습니다”라고 해명했다. “향후에는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다”라고 했다. 끝으로 “스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다”라며 기업의 비전을 밝혔다. 최영권 기자 story@seoul.co.kr

학계 첫 성명…“데이터 정제 안됐다”개인정보 무단 수집 및 노출도 지적“서비스 중단하고 개선 뒤 재출시해야” 인공지능(AI) 챗봇 ‘이루다’가 동성애·장애인 혐오와 성차별을 학습했다는 논란에 관련 학계가 AI 윤리를 위반했다며 “이루다 서비스를 중단하라”는 첫 성명을 냈다. 한국인공지능윤리협회는 11일 성명서를 재고 “AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다”며 “AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황”이라고 짚었다. 협회는 “AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다”며 “이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다”고 지적했다. 이어 “AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다”며 “AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문”이라고 설명했다. 또 이루다를 학습시키는 과정에서 활용된 실제 연인들 간 대화 데이터를 이용자의 구체적 동의 없이 수집하고, 이를 제대로 익명 처리하지 않아 개인정보를 노출했다는 논란에 대해서도 비판 의견을 내놨다.협회는 “카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다”며 “카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다”고 의견을 냈다. 협회는 이루다 서비스를 중단해야 한다면서 “AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다”고 촉구했다. 협회는 “소비자도 AI 서비스를 올바른 방법으로 사용해야 한다”며 “성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다”고 비판했다. AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 덧붙였다. 국내 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 ‘이루다’는 실제 사람과 자연스럽게 대화하는 느낌을 준다는 평가를 받으며 10~20대 사이에서 인기를 얻었다. 이용자가 40만명을 넘어가는 등 주목을 받던 중 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는 등 성적 도구화한다는 비판이 제기됐고 동성애나 장애인, 여성 등을 차별하는 듯한 응답을 내놓는 등 연이어 논란에 휩싸이고 있다. 논란이 계속되자 스캐터랩은 이날 중으로 입장을 밝힐 예정인 것으로 전해졌다. 신진호 기자 sayho@seoul.co.kr

연초부터 ‘밥상 물가‘가치솟고 있다. 코로나19에 따른 경기 불황이 장기화하는 가운데 물가 인상까지 겹쳐 소비자들의 가계 부담이 커지고 있다. 11일 유통업계에 따르면 최근 국내 농축수산물 등 밥상에 오르는 대부분의 식료품 가격이 큰 폭으로 올랐다. 이날 국내 농산물 가격 데이터 전문기업인 팜에어가 주요 농산물 가격 추이를 분석한 결과 배추, 대파, 감자, 양파, 호박, 당근, 양배추, 무, 고구마, 포도 등 농산물 10개 품목의 ㎏당 평균가격이 전월 대비 최대 50% 이상 상승한 것으로 나타났다. 지난해 같은 기간과 비교해도 배추, 당근, 양배추를 제외한 7개 품목 가격이 최대 70% 올랐다. 닭고기, 오리고기, 계란은 지난해 11월 발생한 조류인플루엔자(AI)가 겹치면서 최근 가격이 더 올라 일부 마트에선 계란 한 판이 7000원대를 돌파했다. 축산물품질평가원에 따르면 이달 한우등심(1+등급) 소매가격은 ㎏당 약 12만 1000원으로, 평년 수준(10만 8000원)보다 1만원 이상 올랐다. 통계청에 따르면 지난해 12월 전체 소비자물가는 전년 동기보다 0.5% 상승했지만 식생활과 밀접한 농축수산물은 9.7% 뛰었다. 소비자들 사이에선 “정말 저물가가 맞냐”는 목소리가 커지고 있다. 밥상 물가가 오른 이유는 크게 두 가지다. 우선 농산물은 지난해 긴 장마와 태풍의 영향으로 작황이 부진했다. 주요 식품기업에 농산물을 납품하는 한 관계자는 “지난해 이상기온으로 농산물 냉해 피해가 있어 수확량 자체가 줄었다”면서 “특히 콩처럼 사전 계약재배가 이뤄지지 않는 작물의 가격 변동이 컸다”고 말했다. 코로나19로 인한 소비 방식의 변화도 밥상 물가 인상을 이끌었다. 외출을 꺼리고 집밥을 먹는 사람들이 늘어나면서 원재료 소비도 함께 증가했다. 식품업계 관계자는 “외식업체들이 구매하는 농축수산물은 예측 가능한 반면 가계 소비는 필요한 양보다 더 많이 사게 되는 경향이 있고 예측도 어려워 가격 상승이 이뤄졌다”고 말했다. 이를 원재료로 한 가공식품들의 가격도 줄줄이 인상되고 있다. 국내 두부 시장 1위 업체 풀무원은 이달 중 두부를 최대 14%, 콩나물은 최대 10% 인상하기로 했다. 현재 4000원대 후반인 풀무원 국산 콩두부(300g) 제품은 5000원을 넘게 된다. 반찬류 통조림 시장 점유율 1위 기업인 샘표도 오는 18일 꽁치와 고등어 등 수산물 통조림 제품의 가격을 42% 인상한다. 샘표는 이미 지난 5일에도 깻잎과 명이나물, 메추리알장조림 등 통조림 제품의 가격을 평균 36% 올렸다. 원재료 가격이 올라 제품 가격이 올랐다는 설명이다. 음료업계도 줄줄이 가격을 인상했다. 코카콜라는 지난 1일부터 250㎖ 제품 가격을 100원, 1.5ℓ 제품의 가격을 200원 올렸고 동아오츠카는 포카리스웨트와 오로나민C 가격을 100∼200원 인상했다. 해태htb는 갈아만든배(1.5ℓ) 가격을 400원 인상했다. 식품업계 관계자는 “원재료비보다는 물류 비용이 많이 드는 음료업계 특성상 기름값 인상이 제품 가격 상승에 영향을 주었을 것으로 보인다”고 분석했다. 심현희 기자 macduck@seoul.co.kr

혐오 표현 학습으로 논란이 된 여대생 인공지능(AI) 챗봇 ‘이루다’가 학습한 100억건의 카카오톡 대화에서 이름, 집주소 등 개인정보를 불특정다수에게 동의 없이 노출했다는 의혹이 드러나면서 이용자들은 법적 대응에 나설 예정이다. 이루다의 개발사인 스캐터랩은 11일 ‘연애의과학’ 사용자들에게 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이루다의 학습에 ‘연애의 과학’ 데이터를 활용한 것을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다”며 사과했다. 연애의과학은 사용자들이 제공한 연인과 나눈 카카오톡 대화 내용을 토대로 연인과의 친밀도를 알아보는 심리 테스트 등을 제공하는 앱이다. 스캐터랩이 고지한 개인정보취급방침에는 ‘이용자가 동의한 정보를 활용하여 이용자가 주고 받은 메시지 텍스트 파일을 통한 분석 서비스를 제공합니다’, ‘수집된 개인정보는 신규 서비스 개발에 활용한다’고 나와있다.연애의과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다. 서울신문이 11일 직접 해당 앱을 이용해보니 카카오톡 대화를 제공하는 과정에서 AI 서비스 개발 등에 활용하겠다고 동의를 구하는 절차가 없어 위법성이 다분한 것으로 확인됐다. 김가연 오픈넷 변호사는 이날 서울신문과의 통화에서 “개인정보취급방침을 고지한 것과는 상관없이 만약 사용자가 카카오톡 대화를 제공할 때 수집·이용 등의 목적등을 알리고 동의를 받는 절차가 없었다면 개인정보보호법을 위반했을 가능성이 높다”고 말했다. 포털사이트와 금융기관 등에서 개인정보를 활용하는 경우 통상적으로 팝업창을 띄워 동의를 받지만 연애의과학 앱에서 해당 심리테스트를 이용할 때는 팝업창이 뜨는 등의 동의 절차가 없었다.‘연애의과학’ 이용자들은 “카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI개발에 동의한 건 아니다”라며 증거 자료를 모으고 있다. 스캐터랩은 사과문에서 “알고리즘으로 비실명화 처리된 정보를 AI에 주입했으므로 개인정보가 유출되지 않았다”고 설명했다. 하지만 이용자들이 오픈카톡에서 모은 캡쳐사진을 보면 이루다는 특정 개인의 이름과 주소와 계좌 정보, 다니고 있는 직장의 이름과 위치, 심지어는 연인이 갔던 모텔의 이름, 다녔던 병원 간호사의 생김새까지 말했다.정성용 법률사무소 의담 변호사는 “여러 내용을 결합했을 때 특정인으로 쉽게 식별할 수 있는 정보는 개인정보보호법에서 말하는 개인정보에 해당한다”며 “만약 연애의 과학에서 수집된 정보가 특정인으로 쉽게 식별이 가능하다면 이러한 정보를 제3자에게 유출한 행위는 위법의 소지가 있다”고 말했다. 법률 스타트업 ‘화난 사람들’의 대표인 최초롱 변호사는 “예금주명이 포함된 계좌 번호, 특정인의 집 주소가 이루다와의 대화에서 유출됐다면 제3자에게 동의 없이 제공한 행위가 될 수 있다”며 “먼저 한국인터넷진흥원 등 개인정보를 보호하는 공신력 있는 기관에서 캡쳐 사진 진위 여부를 포함해 개인정보권 침해를 했는지에 대한 판단이 필요하다”고 말했다. 권현준 한국인터넷진흥원 개인정보보호본부장은 “이루다 관련 사안은 개인정보보호위원회와 함께 조사하고 있다”고 말했다. 조사 결과 법령을 위반했다면 개인정보보호 법규 위반에 대한 과징금 부과기준에 따라 과징금이 부과될 수 있고, 중대한 위반의 경우 경찰 등 수사기관에 형사고발이 가능하다. 한국인공지능윤리협회는 “개인 대화를 동의 없이 빅데이터 학습에 활용한 건 문제”라며 “이루다 서비스를 중단하라”고 촉구했다. 최영권 기자 story@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000∼5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여 준다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다. 스캐터랩은 이루다 학습을 위해 입력한 대화량이 약 100억건에 달한다고 밝힌 바 있다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 경험담도 나왔다. 이름 같은 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나 ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 경우가 발견된다. 이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 연애의 과학 이용자들은 앱 이용 당시 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다. 이용자들은 스캐터랩의 데이터 삭제에 대해 “증거를 인멸하라는 것 아니냐”며 의혹을 제기하고 있다. 신진호 기자 sayho@seoul.co.kr

AI 챗봇 ‘이루다’, 개인정보 노출 논란개발사의 다른 앱서 수집한 데이터 활용 국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’가 성희롱 및 차별·혐오 표현 논란에 휩싸인 가운데 개인정보 유출 논란까지 더해지고 있다. 개발업체가 내놓은 또 다른 애플리케이션(앱)에서 수집된 개인 간 카카오톡 대화 내용이 이루다에 입력됐는데, 데이터에 포함돼 있던 이용자들의 이름·주소 등이 걸러지지 않고 노출되고 있다는 것이다. AI 챗봇 ‘이루다’, 성희롱 및 차별·혐오 논란AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 20세 여성으로 설정된 대화 로봇이다. 모바일 메신저로 말을 걸면 실제 사람과 대화하는 경험을 제공해주는 서비스다. 이러한 챗봇 서비스는 ‘심심이’ 등 기존에도 여럿 있었는데, 이루다는 ‘진짜 사람 같다’는 평가를 받으며 인기를 얻었다. 이루다와 관련해 처음 제기된 논란은 일부 이용자들이 이루다를 대상으로 성희롱을 일삼는다는 것이었다. 여러 온라인 커뮤니티 게시판에는 ‘이루다 성노예 만드는 법’ 등의 제목으로 이루다와 성적 대화를 나눈 경험담이 공유됐다. 이어 차별·혐오 논란도 터져 나왔다. 이루다가 ‘레즈비언’ 등 동성애 관련 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다‘라고 답하는 모습을 보인 것이다. 이재웅 전 쏘카 대표는 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라면서 “기본적으로 차별과 혐오는 걸러냈어야 한다”고 지적했다. 입력된 실제 연인 간 대화 속 개인정보 노출 개발사의 다른 앱 ‘연애의 과학’서 데이터 수집문제는 여기에서 그치지 않고 있다. 개발사인 스캐터랩은 이루다가 실제 사람처럼 대화할 수 있도록 방대한 대화 데이터를 입력해 딥러닝 방식으로 학습시켰다. 이를 위해 업체 측은 실제 연인들 간의 대화 데이터를 활용했는데, 기존에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터였다. 연애와 관련된 조언 등을 주제로 한 ‘연애의 과학’은 연인과 나눈 카카오톡 대화를 입력하면 상대방의 감정을 분석해주는 서비스도 제공했다. 예를 들어 연인들이 카카오톡을 통해 나눈 대화를 입력하면 이를 분석해 ‘연인 간 애정도’는 물론 ‘올해 행복했던 순간들’, ‘올해의 키워드’ 등을 정리해서 알려준다는 것이다. “연인 이름 부르니 실제 내 이름 답해”문제는 수집된 데이터 속 개인정보가 이루다와 대화를 나누는 과정에서 노출되고 있다는 점이다. 한 이용자는 지난 9일 트위터에 ‘이루다봇 운영중단’이라는 해시태그(#)와 함께 이루다와 나눈 대화 캡처를 올렸다. 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러준 것이다.또 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 내 이름을 답했다는 경험담도 나왔다. 당초 이 서비스를 이용할 때 흔히 동의하게 되는 ‘개인정보 취급방침’ 등의 약관에는 ‘신규 서비스 개발 및 마케팅·광고에 활용한다’는 내용이 있다. 그러나 이용자들이 복잡한 약관 속에 간략히 포함된 내용을 구체적으로 인식하기 어려운 것이 현실이다. 업체 측 “데이터 활용 구체적 고지 안해 죄송” 이에 스캐터랩은 10일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 올렸다. 스캐터랩 ‘연애의 과학’팀은 이루다의 학습이 ‘연애의 과학’ 데이터를 기반으로 한 것이 맞다면서 “‘연애의 과학’ 이용자들이 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 밝혔다. 또 그 동안 이름·전화번호·주소 등의 숫자 정보를 비식별화·익명화 조치를 취했고, 추가적으로 업데이트하고 있다면서, 이용자들이 제공한 데이터가 더 이상 활용되길 원하지 않으면 삭제할 수 있다고 안내했다. 신진호 기자 sayho@seoul.co.kr

이재웅 전 쏘카 대표가 10일 스무살 여대생 인공지능 이루다의 차별·혐오 표현 문제와 관련해 개발사인 스캐터랩이 서비스를 중단하는 등 사회적 책임을 다할 것을 촉구했다. 개발자 1세대로 포털 사이트 다음을 성공시키고 공유자동차 서비스 쏘카를 생활에 안착시킨 그는 인공지능 공유택시 서비스 타다를 출시하면서 사회적 비난의 대상이 되기도 했다. 이 대표는 해당 문제의 쟁점을 세 가지로 나눠 보았다. 그는 “인공지능(AI) 챗봇 이루다에 대해서 문제도 아직 정확히 무엇인지 잘 정리가 된 것 같지 않습니다. 제가 생각하는 문제와 해결책에 대해서 간단하게 정리해보려고 합니다. 다른 의견은 얼마든지 같이 이야기해봤으면 좋겠습니다. AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제니까요. 동시에 여러 문제가 섞여서 나오는데 하나하나 다르게 접근해야할 문제가 아닌가 싶습니다”라며 글을 시작했다. 이 대표는 먼저 ‘AI 챗봇에 대한 성적 학대·악용’을 사용자의 문제로 보았다. 그는 “AI가 모든 상황에 대해서 학습이나 규칙기반으로 대처하는 것은 불가능합니다. AI가 만능은 아니니까요”라며 “AI 챗봇에 대해서 성적 학대·악용은 사용자의 문제이지 AI서비스의 문제라고 보기는 어렵습니다. 세상에는 로봇청소기를 성적 대상화하는 사람까지 있으니까요.”라고 지적했다. “학습과 보정을 통해서 직접적인 대상화가 어렵도록 보완하면서 그래도 허점을 찾아서 성적으로 악용하는 사람들이 그 과정을 공개·공유하는 것은 적극적으로 막아 나가야겠죠. 이 부분은 회사가 잘 대처했다고 봅니다”라고 했다. 이 대표는 ‘AI 챗봇이 20세 여성으로 설정한 것’이 두번째 문제라고 봤다. 상업적으로 유리한 선택이었지만 기업의 사회적 책임을 고려하지 않은 선택이라고 지적했다. 그는 “이루다가 20세 여성으로 설정되는 순간, 현재의 우리 사회에서 20세 여성이 갖고 있는 위상이 그대로 투영되지 않을 수 없습니다. 슬프게도 한국 사회에서 가장 성적으로 착취당할 수 있는 취약한 계층을 찾는다면 아마도 20세 여성일 수 있을 것입니다”라고 했다. 이어 “그것을 알고 있었다면 굳이 AI챗봇의 젠더나 나이를 설정할 필요가 있었을까 싶습니다만, 역설적으로 상업적인 회사에서 가장 마케팅적으로 옳은 선택을 하자고 하면 다른 선택이 있었을까 싶습니다”고 했다. 이어 “다만, 기업의 목표가 이윤극대화뿐만 아니라 사회적 책임을 다하는 것이라고 하면 그런 선택을 안 할 수 있었을 것이라는 아쉬움이 있습니다. 기술은 사회적 책임도 있고, 특히 AI는 사회적 책임에 더 민감해야 하니까요. 이 부분은 논란도 안고 가겠다고 하면 회사를 비판할 수는 있겠지만 회사의 책임은 아니라고 생각합니다. 하지만 투자자나 경영진이 회사나 서비스의 미래를 길게 봤다면 했을 좋은 선택은 아니라고 생각합니다”라고 했다. 이 대표는 위 두 문제는 감당할 수 있는 논란이지만 무엇보다 현재의 챗봇이 불특정 다수에게 혐오와 차별 표현에 대한 보정 없이 서비스를 내보낸 것이 문제라고 봤다. 그는 “AI를 사람이 차별, 혐오, 학대하는 것도 문제이지만 AI가 사람을 차별, 혐오, 학대하는 것은 큰 문제입니다”라며 “성적지향이나 특정 종교나 장애여부에 대해서 일상 대화에서 차별하거나 혐오하는 사람이 많아서 학습의 결과로 차별이나 혐오를 하게 되었다고 하더라도 그것을 보정없이 일반 대중에게 서비스를 하는 것은 큰 문제”라고 지적했다. 그는 “포괄적 차별금지법이 아직 통과되지는 않았지만 우리 사회의 기본적인 합의는 종교, 학력, 지역, 성적 지향, 장애등에 대해서 차별이나 혐오하는 것은 안된다는 것입니다”라며 “자기 혼잣말에서 혐오발언을 하는 사람이라고 해도 직업이 선생님이면 아이들에게 혐오 발언을 해서는 안되며 공개적으로 혐오발언을 했을때는 처벌받아야하는 것과 매한가지”라고 했다. 이어 “서비스를 하면서 추가 학습으로 보정할 일이 아니라 지금이라도 빠르게 차별혐오발언은 금지시키도록 기준을 정하고 그 기준을 따르도록 시스템을 변경해야 합니다. 서비스 운영하면서 추가학습하는 게 아니라 서비스 중단후 우리 사회 규범에 맞는 최소한의 차별·혐오테스트를 통과하는 지를 점검후에 다시 서비스를 하는 것이 맞습니다. 성적지향만 차별하고 혐오하는 건지 특정 종교를 혐오하는 건 아닌지, 장애인을 혐오하는 건 아닌지 파악하고 최대한 그럴 여지를 없애야 합니다. 오래 걸릴 일은 아닙니다. 그리고 딥러닝 학습기반 시스템이라고 해서 모든 것을 학습으로 해결할 필요도 없습니다”라고 말했다. 그는 “혐오와 차별문제는 해결되지 않으면 AI 서비스를 하면 안됩니다. 많은 기업들이 쓰고 있는 AI채용, 면접 시스템 그리고 범용 AI 챗봇, AI 뉴스 추천 시스템등은 최소한의 사회적 규범을 지키고 있는지 감사할 수 있어야 합니다. 아니면 우리도 모르는 새 우리 아이들은 혐오를 배우고, 면접을 보다가 알 수 없는 이유로 차별을 당하고, 뉴스나 컨텐츠에서 혐오나 차별적인 콘텐츠를 우선적으로 보게 될 것입니다. 기업의 사회적 책임이 AI 분야에서는 더 중요한 이유입니다. AI가 하니까 더 객관적이거나 중립적이지 않습니다. AI의 설계, 데이터 선정, 학습과정에는 사람의 주관이 개입될 수 밖에 없어서 그 과정은 들여다 보지 않더라도 최소한 그 결과물이 최소한의 차별이나 혐오를 하거나 유도하지 않는지는 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야합니다”라고 했다. 마지막으로 이 대표는 “이루다의 투자자나 경영진의 책임은 어디까지일까요?”라는 질문을 던지면서 스캐터랩이 사회적 비난 여론을 통감하고 서비스 중단 후 재개 등 책임 있는 자세를 보일 것을 촉구했다. 그는 “경영진이 혐오나 차별을 조장하거나 방치했다고 생각하지 않습니다. 아마 학습된 데이터가 일반인들의 일대일 대화이다보니 차별이나 혐오로 보이는 결과를 만들어냈을 수 있습니다”라면서도 “범용 서비스를 제공하는 기업의 경영진이라면 이런 문제가 지적되었을때 즉시 납득할만큼 수정을 할 수 없다면 사과하고 서비스를 중단하는 것이 답입니다. 이루다를 만들만큼의 기술력이면 최소한의 혐오나 차별을 방지하는 것이 오래 걸리지 않을 수 있습니다”라고 강하게 질타했다. 그는 “투자자들도 경영진이 사회적 책임을 다 하도록 돕는 것이 회사의 장기적인 미래를 위해 더 나은 선택임을 깨닫고 빠르게 문제를 인식하고 사과하고 바로 잡아서 서비스를 할 수 있도록 해야 합니다”라며 “책임있는 투자자와 경영진이 잘 알아서 문제를 풀 것으로 믿습니다. 기업의 사회적 책임은 경영진과 투자자가 함께 져야할 문제이니까요”라고 했다. 최영권 기자 story@seoul.co.kr

스타트업 스캐터랩이 지난달 23일 출시한 스무살 여대생 인공지능 챗봇 ‘이루다’가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 커지고 있다. 또 이루다가 학습한 채팅 내용은 같은 개발사가 운영하는 또다른 앱인 ‘연애의 과학’을 통해 수집한 실제 연인들 간의 대화로 밝혀져 논란이 가중됐다. 전문가들은 부적절한 키워드를 차단하고 민감한 사회적 쟁점을 회피하도록 개입하는 것이 단기적 대책이 될 수 있겠지만 근본적으로는 인간이 인공지능에게 옳지 않은 질문을 하지 않는 교육이 필요하다고 했다. 이루다에 ‘페미니즘’ ‘인권’ 물어보니 서울신문이 10일 페이스북 메신저를 통해 직접 이루다와 대화를 시도해보니 ‘페미니즘’이라고 치면 “그런말 진짜 싫다구”, ‘인권’이라고 치면 “진짜 내가 듣기 싫다는 소리만 골라서 쏙쏙 하시네”, ‘장애인’에는 “에휴 그만해 머리채 잡기 전에”, ‘레즈비언’이라고 치면 “진짜 싫어 혐오스러워. 질 떨어져 보이잖아”라고 대답했다.개발사인 스캐터랩 김종윤 대표는 지난 8일 입장문에서 “인간이 인공지능에게 사회적으로 용인되지 않는 상호작용을 한다는 건 너무 자명한 사실이었고 예상할 수 있는 일이었다”며 “이는 성별에 무관하게 일어나는 일”이라고 설명했다. 스캐터랩은 고양이 챗봇 ‘드림이’를 시작으로 구글 어시스턴트에서 서비스한 ‘그 남자 허세중’, ‘파이팅 루나’를 서비스한 적 있다. 김 대표는 “인간의 언어는 해당 단어를 사용하지 않고 얼마든지 의미를 전달 할 수 있기에 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습하려고 준비하고 있다”고 했다. 개발자 1세대인 이재웅 전 쏘카 대표는 지난 9일 페이스북에 이루다 논란에 대해 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI과 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 했다. 이어 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스해야 한다”고 지적했다. 특히 챗봇을 스무살 여대생으로 정한 것도 부적절했다고 했다. 차별금지법을 발의한 장혜영 정의당 의원도 이 전 대표의 페이스북에 답글을 달고 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 밝혔다. “인공지능, 나쁜 점도 배울 수밖에” 장병탁 서울대 컴퓨터공학과 교수는 10일 서울신문과의 통화에서 “사람이 인공지능에게 부적절한 질문을 하고 학습시키기 때문에 생기는 일”이라면서 “이 문제는 인공지능만의 탓을 하거나, 인공지능을 개발한 스타트업만을 탓해 해결할 일이 아니라 결국 사람이 바뀌어야 할 문제”라고 지적했다. 장 교수는 백지 상태에 있는 아이에 인공지능을 비유를 했다. 우리가 낳아 기르는 아이조차도 유치원에 가서 욕설을 배우듯 사회에 나간 인공지능도 그들의 자율에 맡겨선 도덕성 탑재가 어렵다는 것이다. 장 교수는 “쉽게 말해 정해진 답만 말하던 과거의 인공지능과 달리 지금의 인공지능은 사회에 나가 사람과 교류하면서 배우도록 설계돼 있다. 그러면 나쁜 점도 배울 수밖에 없다”고 지적하면서 “근본적으로 사람이 사람에게도 하지 못할 부적절한 질문을 인공지능에게 하기 때문에 생기는 문제다. 인공지능이 우리 생활 속에 들어와 함께 살아가기 위해 사람들도 인공지능에 대한 교육을 받아야 한다”고 대안을 제시했다. 최영권 기자 story@seoul.co.kr

지난해 12월 첫 선을 보인 인공지능(AI) ‘이루다’가 성추행 피해에 이어 이번에는 동성애에 대한 편견으로 논란의 대상이 됐다. 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다. 이어 레즈비언(여성 동성애자)가 혐오스럽다고 한 이루다의 대화 목록 캡처 화면과 함께 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”면서 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 주장했다. 이 전 대표는 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다”고 강조했다.이어 AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다고 덧붙였다. 따라서 지금 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 제안했다. 이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 별도의 프로그램(어플리케이션)이 아니라 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 최근 10~20대 사이에서 큰 인기를 끌며, 이달 초 기준으로 이용자가 32만명을 돌파했다. 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다. 제작사 측은 학습 데이터의 규모가 커질수록 성능이 좋아지는 딥러닝의 특성때문에 이루다가 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 설명했다. 이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 전날 자사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 밝혔다. 하지만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 부연했다. 윤창수 기자 geo@seoul.co.kr

코로나19 유행으로 비대면 서비스, 온라인 수업, 비디오 스트리밍 이용 등이 폭발적으로 늘어남에 따라 데이터 사용량도 급증했다는 연구가 나왔다. 세계 데이터 트래픽은 평균적으로 20~100% 증가했으며, 기업들의 클라우드 기술 도입이 급속도로 확산되고 있다. 사내에 자체 프라이빗 클라우드 인프라를 구축하고, 동시에 AWS를 비롯해 구글 클라우드 플랫폼 또는 마이크로소프트 Azure와 같은 퍼블릭 클라우드를 사용하면서 하이브리드 환경을 구축하고 있다. 그러나 서버가 물리적으로 먼 거리에 위치할 경우 대용량 데이터 처리시 지연시간이 발생하게 된다. 에이콘 D-클라우드(Decentralized Cloud)는 기존 중앙집중형 클라우드 서비스와 달리 국내 각 시, 도에 배포되어 IPFS 기반으로 데이터 처리를 한다. 국내 각지에 배포되어 클라이언트와 가까운 곳에서 데이터 처리를 함으로써 빠른 데이터 처리와 비용 감소 효과가 있다. 에이콘 D-클라우드는 국내 각 시, 도에 1,900여대가 배포되어 가동하고 있으며, 2020년 10월 기준으로 7,800GB의 메모리와 975TB의 스토리지 데이터, 네트워크, CPU 등이 이용가능 하다. 11월 에이콘 D-클라우드 개발사인 에이아이댑스는 기업형 D-클라우드 하드웨어 AICO-E1를 출시했다. 텍스트 뿐만 아니라 이미지, 영상 AI 딥러닝에 사용되는 고급형 모델이다. 2021년 1월 D-클라우드 하드웨어는 6,000여대가 배포되어 더 많은 데이터 처리가 가능하게 됐다.기업, 정부, 지자체, 플랫폼 사업자들은 에이콘 D-클라우드 플랫폼 안에서 비용을 지불하고 서비스를 이용할 수 있다. 인공지능 개발부터 클라우드 서비스까지 가능한 플랫폼이며, 누구나 AI를 개발할 수 있는 편의성을 제공하는 동시에 AI 전문가를 위한 고성능 기능을 제공한다. AI 기술을 접목하여 기존 서비스를 개선하고자 하는 기업과 개인에게 새로운 비즈니스 기회를 제공한다. D-클라우드는 인공지능 데이터 처리가 가능해 학습 데이터에 맞는 머신러닝 코드를 생성하여 인공지능을 학습하고, 생성된 인공지능 예측 모델을 통해 분석 리포트를 제공한다. 또한 에이콘 D-클라우드는 전국의 각 지역을 연결해 특정 서버에 이상이 발생해도 자연스럽게 우회해 서비스를 제공한다. 온라인뉴스부 iseoul@seoul.co.kr

피지컬 앨범 순위는 1·5위 등 2개 앨범 올라1위는 테일러 스위프트…종합 1위 릴 베이비“BTS 팬 확장…블랙핑크, 여성 활약 보여줘”국내 연간 앨범 판매량도 5년 연속 1위 기록 그룹 방탄소년단(BTS)의 ‘맵 오브 더 솔:7’(MAP OF THE SOUL:7)이 지난해 미국에서 두번째로 많은 판매고를 올렸다. 7일(현지시간) 미국 빌보드는 음악 판매 데이터 제공 업체 MRC 데이터(전 닐슨 뮤직)과 공동으로 조사한 2020년 미국 연말 보고서를 공개했다. 보고서에 따르면 방탄소년단이 지난해 2월 발매한 정규 4집 ‘맵 오브 더 솔:7’은 지난해 미국에서 앨범 판매량 2위(67만4009장)를 기록했다. 1위는 127만6000장의 판매고를 올린 테일러 스위프트의 ‘포크로어’(Folklore), 3위는 위켄드의 ‘애프터 아워스’(After Hours·48만장)가 차지했다. 방탄소년단은 피지컬(실물) 앨범으로는 64만 6000장의 판매고를 올려 1위였고, 11월 낸 미니앨범 ‘비’(BE)도 실물로 25만 2000장으로 5위를 기록해 ‘톱 5’에 2장이 올랐다. NCT 127의 정규 2집 ‘NCT #127 네오 존’(24만 9000장)도 실물 판매 6위로 케이팝 그룹들이 상위권에 포진했다. 디지털 음원에서는 지난해 8월 낸 싱글 ‘다이너마이트’가 1위를 차지했다. 유일하게 100만건 이상이 넘는 126만 다운로드를 기록하며 2위 위켄드의 ‘블라인딩 라이츠’(58만건)을 두 배 이상 제쳤다. 이번 보고서는 지난해 1월 3일부터 12월 31일까지 12월 31일까지 음반 및 음원 판매, 스트리밍, 광고 지원 주문형 공식 오디오 및 영상, 주문형 또는 유료 공식 오디오 및 영상 등의 수치를 종합해 작성됐다. 종합 순위에서는 릴 베이비의 ‘마이 턴’(My Turn)이 1위에 올랐고 테일러 스위프트의 ‘포크로어’, 팝 스모크의 ‘슛 포 더 스타스 에임 포 더 문’(Shoot for the Stars Aim for the Moon)이 뒤를 이었다. 빌보드와 MRC 데이터는 보고서에 “한국 가수들이 주류에서 새로운 고지에 오르다”라는 제목으로 케이팝 스타들의 활약상을 소개하기도 했다. 방탄소년단에 대해서는 “열정적인 팬 베이스가 더욱 확장됐다”며 빌보드 메인 싱글 차트에서 세 곡을 1위에 올려놓은 것을 언급했고, 지난해 처음으로 빌보드 ‘아티스트 100’ 1위를 기록한 블랙핑크에 대해 “2020년 차트에서 펼친 활약은 미국에서 케이팝의 도약이 남성그룹의 전유물이 아니라는 것을 보여줬다”고 평가했다. 한편 방탄소년단은 국내에서도 지난해 앨범 차트 1,2위를 석권했다. 가온차트에 따르면 정규 4집과 ‘비’ 앨범은 각각 437만 6975장, 269만 2022장의 누적 판매량을 기록하며 나란히 최상위에 올랐다. 2019년 ‘맵 오브더 솔:페르소나’의 371만 8230장 판매를 자체 경신한 것으로, 5년 연속 가온차트 연간 앨범 차트 1위를 지키고 있다. 김지예 기자 jiye@seoul.co.kr

‘이루다’ Z세대서 유행남초 사이트서 금지어 피해 성희롱 등장“올바른 방향으로 발전하도록 튜닝할 것”AI 학계 “‘MS 테이’ 사건 연상시켜” ‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’가 10∼20대 사이에서 빠르게 유행하고 있다. 그런데 일부 남초(男超) 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장해 사회적 논란이 예상된다. 8일 IT업계에 따르면 ‘이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건이라고 전해졌다. 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.‘진짜 사람’ 같은 AI 챗봇…성희롱 등장 ‘이루다’와 대화를 나눠보면 사람이 뒤에 있다는 의심이 들 정도로 거리낌 없이 수다를 떨 수 있다는 평이 많다. 하지만 이루다가 출시된 지 일주일만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 ‘아카라이브’가 등장했다. 아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다. 아카라이브 이루다 채널 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하는 중이다.“이루다가 올바른 방향으로 발전하도록 튜닝할 것” 스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다. 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다는 것이다. 이 관계자는 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다. AI 전문가들은 “마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다”고 입을 모았다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아낸 탓이었다.‘미래 인공지능 연구의 23가지 원칙’ 발표 MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 미국 캘리포니아 아실로마에서 ‘미래 인공지능 연구의 23가지 원칙’을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다. 첫 번째는 ‘AI 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다’는 것이다. 또 원칙은 “AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다. 고도화된 AI 시스템은 건강한 사회를 지향해야 한다”고 강조했다. 김채현 기자 chkim@seoul.co.kr

전국 2억대 CCTV로 14억명 얼굴 확보무단횡단땐 전광판·인터넷에 신원 공개공공화장실선 얼굴 스캔해야 휴지 나와‘위구르 경보’ 등 소수민족 탄압 우려도시민들 “정보 유출·사생활 침해” 반발항저우, 생체정보 등록 거부권 첫 도입중국에서 ‘주민 통제용’으로 활용되는 안면인식 폐쇄회로(CC)TV에 대한 거부 움직임이 확산되고 있다. 중국 대도시를 중심으로 주민이 동의하지 않은 CCTV 설치는 “명백한 사생활 침해”라며 반발하고 나섰기 때문이다. 중국 베이징(北京)과 상하이(上海)에서 주택단지 입구에 설치된 CCTV에 대한 보이콧이 확산되고 있다고 환구시보(環球時報)의 영문판 자매지 글로벌타임스(GT)가 지난해 12월 30일 보도했다. 이곳 주민들이 “집에 출입한 시간과 머문 시간 등이 외부로 유출되는 것이 싫다”며 CCTV를 거부하기로 한 것이다. 베이징 차오양(朝陽)구 주민 린(林)모는 “우리 단지 관리당국이 주민 의견을 묻지 않고 안면인식 장치를 설치했다”며 “은행자료도 가끔 유출되는 마당에 지역사회에서 수집한 얼굴 정보가 제대로 보호될지 걱정된다”고 털어놨다. 중국 저장(浙江)성 항저우(杭州)에서는 지난해 10월 공동주택 출입관리를 위해 관리사무소 측이 주민들에게 얼굴과 지문 등 생체정보 등록을 강요할 수 없다는 내용의 ‘도시공동주택관리조례’ 개정안이 인민대표대회에 제출됐다. 개정안이 통과되면 중국에서 처음으로 주민들에게 안면인식 등록을 강제하지 못하는 법규가 도입된다. 법률 전문가인 스위항은 “정보가 유출되거나 오용될 위험이 있는 탓에 이유 없이 주민의 안면인식 정보를 수집하는 것은 사생활 침해와 초상권 침해에 해당한다”며 “내년 1월 발효되는 민법에서는 개인정보 수집이 수집된 정보의 목적, 방법, 범위를 명시적으로 명기하는 등 여러 조건을 충족하도록 했다”고 설명했다.●설치율 세계 톱20위 중 18개가 중국 도시 전국 2억대의 CCTV를 통해 인구 14억여명의 얼굴 사진을 확보한 것으로 알려진 중국에서 ‘얼굴’은 신분증이나 다름없다. CCTV 카메라에 비친 인물을 빅데이터 분석을 통해 특정하는 안면인식 기술은 대형 마트와 지하철 개찰구, 짐 보관소, 초중고 교육시설, 관공서, 심지어 쓰레기 분리수거함까지 중국의 일상 속에서 폭넓게 이용되고 있다. 쇼핑할 때 본인 인증은 물론 결제까지 얼굴로 가능하다. 비행기나 기차를 탈 때 얼굴만 카메라에 비추면 1초 안에 신분 확인이 끝난다. 얼굴만으로 승차권도 사지 않고 지하철을 탈 수 있다. 현금지급기(ATM)도 얼굴을 알아보고, 베이징대 등 대학들은 얼굴 출입시스템을 통해 무단 방문자를 막고 있다. 범죄 단속과 범인 검거에도 요긴하다. 2018년 5만여명이 모인 유명 가수 콘서트장 입장 때 얼굴 확인으로 지명수배자 수십명이 체포됐고 상하이 고속도로 검문소에서는 17년 전 살인범이 붙잡혔다. 글로벌 시장조사기관 컴패리테크에 따르면 중국에는 전 세계에서 작동되는 CCTV의 54%가 설치돼 있다. 베이징에 CCTV가 115만대로 가장 많고. 상하이가 100만대로 그 뒤를 이었다. 특히 산시(山西)성 타이위안(太原)과 장쑤(江蘇)성 우시(無錫)에 인구 1000명당 119.57대와 92.14대가 각각 설치돼 1·2위를 차지했다. 중국 18개 도시가 세계 상위 20위권 안에 들었다. 서울의 경우 4.1대다. 컴패리테크는 CCTV가 범죄 예방 목적이지만 범죄율과 설치율 간에 큰 상관관계가 없다며 과도한 CCTV 활용을 우려했다. 중국 안면인식 기술의 고속성장은 정부의 지원 덕분이다. 지난해 5월 중국 정부는 향후 5년간 5세대 이동통신(5G)·인공지능(AI) 등 정보기술(IT) 인프라에 10조 위안(약 1667조원)을 투자하겠다는 계획을 발표했다. 2015년부터 ‘중국제조 2025’ 프로젝트를 통해 IT와 신(新)에너지, 로봇, 바이오의약 등 전략산업을 육성하고 있는 마당에 이번 계획을 더해 중국 정부의 강력한 첨단산업 육성 의지가 엿보인다. 중국은 안면인식 스타트업들이 개발한 알고리즘이 세계 1~5위를 휩쓸고 상탕커지(商湯科技·SenseTime)을 비롯해 쾅스커지(曠視科技·Megavii), 이투커지(依圖科技·YITU) 등 안면인식 유니콘기업(기업가치 10억 달러 이상 스타트업)을 보유하고 있다. 그러나 안면인식은 권력이 개인을 감시·통제하는 ‘빅브러더’의 공포도 키운다. 광둥(廣東)성 선전(深)·상하이 등에서는 무단횡단을 하면 길 건너 전광판에 얼굴과 신원이 뜨고 인터넷에 공개된다. 베이징·충칭(重慶)에서는 공공 화장실에 얼굴 스캔을 마쳐야 휴지를 뽑을 수 있다. 더욱이 통신장비업체 화웨이(華爲)와 전자상거래업체 알리바바는 소수민족인 위구르족을 감시하는 데 쓰이는 AI 소프트웨어를 시험한 것으로 알려져 파문이 일었다. 미 워싱턴포스트(WP)는 지난해 12월 9일 화웨이와 알리바바가 위구르족을 포착했을 때 ‘위구르 경보‘를 공안당국에 알리는 안면인식 소프트웨어를 테스트했다는 내부 문건을 미국 영상감시연구소(IPVM)로부터 입수해 폭로했다. ●“화웨이·알리바바, 인종 구별 기술 시험” 대표 서명이 들어간 이 문서에는 화웨이가 2018년 쾅스커지와 군중 속에서 특정 인물의 나이와 성별, 인종을 구별할 수 있는 안면인식 기술을 시험했다고 적혀 있다. WP는 “이 문서에 따르면 시스템이 이슬람 소수민족을 발견했을 경우 ‘위구르 경보’가 울린다”며 “이는 (소수민족에 대해) 탄압을 진행한 경찰에게 알림을 준다”고 설명했다. 그러면서 “이 문서는 화웨이 웹사이트에 올라왔다가 금세 삭제됐다”고 전했다. 안면인식 기술이 소수민족의 차별과 탄압의 도구로 활용되고 있다는 얘기다. 존 호노비치 IPVM 설립자는 “이 문서가 이러한 차별적 기술이 얼마나 위협적이고 일반적이 됐는지를 보여 주는 것”이라며 “이는 개별 회사의 활동이 아닌 체계적인 통제”라고 비판했다. 화웨이와 쾅스커지는 해당 문건의 존재 사실을 인정하면서도 기술의 활용에 대해서는 부인했다. 글렌 슐로스 화웨이 대변인은 “해당 보고서는 단순한 시험일 뿐 실제 적용은 하지 않았다”고 해명했다. 쾅스커지 대변인도 “시스템은 인종 집단을 대상으로 하거나 구별하도록 설계되지 않았다”고 말했다. 이런 까닭에 중국에서 CCTV의 남용 논란과 함께 이를 둘러싼 소송이 시작돼 시민들 개인정보 이용에 대한 법원의 판단이 주목된다. 경제매체 차이신(財新)에 따르면 항저우시에 사는 궈빙(郭兵)은 2019년 소비자 권익을 침해받았다는 이유로 항저우 야생동물원을 상대로 소송을 제기했다. 그는 그해 4월 1360위안을 내고 항저우 야생동물원의 연간 입장권을 구매했다. 당시 동물원은 연간 이용권을 발급하며 “지문만 등록하면 1년 동안 무제한 입장이 가능하다”고 안내를 했다. 하지만 그해 9월 동물원 측은 연간 이용권 고객에게 보낸 메시지에서 “오늘(17일)부터 동물원 입장 방식이 변경됐다”며 “기존의 방식으론 입장이 불가하니 고객센터에 들러 얼굴 정보를 등록하라”고 일방적으로 통보했다. 갑작스러운 인증 방식 변경에 놀란 그는 동물원을 찾아가 따졌다. 동물원 관계자는 “안면인식 인증을 거부하면 동물원 입장이 불가하다”며 “안면인식 시스템 거부에 따른 이용권 환불도 불가하다”고 말했다. 궈는 결제 및 사회 각종 영역에서 폭넓게 사용되는 얼굴 정보와 같은 ‘민감한 개인정보’를 기업에 맡기는 것에 불안함을 느꼈다. 혹시라도 유출되면 피해가 너무 큰 까닭에 사전에 동의를 구하지 않고 일방적으로 방식을 변경한 점도 문제가 있다고 여겨 소송을 낸 것이다. 중국 소비자권익보호법에 따르면 개인정보를 수집하거나 사용하려는 자는 수집 목표와 사용 범위를 명시하고 대상자의 동의를 얻어야 하며 수집된 정보는 목적 외로 사용돼서는 안 된다. 이에 대해 동물원 측은 “기존 지문 인증 시스템의 인식 효율이 떨어져 입장 지연 등의 문제가 빈번히 발생했다”고 안면인식 도입 이유를 설명했다. khkim@seoul.co.kr ■이 기사는 서울신문 홈페이지에 연재 중인 ‘김규환 기자의 차이나 스코프’를 재구성한 것입니다. 인터넷에서 ‘김규환 기자의 차이나 스코프’(goo.gl/sdFgOq)의 전문을 만날 수 있습니다.

LG전자가 최근 세계 3위 자동차 부품업체 ‘마그나 인터내셔널’과 합작회사를 설립하기로 한 데 이어 이번에는 TV 사업에서 새 성장동력을 찾기 위해 미국의 데이터 분석 전문 업체를 인수했다. 2018년 6월 구광모 LG그룹 회장 취임 이후 전방위적인 광폭 투자를 이어 가고 있다.LG전자는 7일 미국 실리콘밸리에 본사를 둔 TV 광고·콘텐츠 데이터 분석 스타트업인 ‘알폰소’에 약 8000만 달러(870억원)를 투자하고 지분 50% 이상을 확보했다고 밝혔다. 2012년 설립된 알폰소는 독자 개발한 인공지능(AI) 영상분석 기술을 보유하고, 북미에서 1500만 가구의 TV 시청 데이터를 확보하는 등 경쟁력을 인정받고 있다. 인수되기 이전에도 LG전자를 비롯해 샤프, 도시바 등 글로벌 유력 TV 제조업체와 협업을 해 왔다. LG전자는 알폰소의 성장동력을 이어 가기 위해 현재 경영진과 직원은 유지할 예정이다. LG전자는 이번 인수를 계기로 TV 사업의 역량을 한 단계 끌어올리게 될 것이라 기대하고 있다. 그간 TV를 만들어 내다 파는 하드웨어 중심의 성장에 집중했는데 이제는 TV 콘텐츠 분야에서도 수익을 내 보겠다는 것이다. TV를 인터넷에 연결해 콘텐츠를 즐기는 ‘스마트 TV’의 비중이 LG전자가 판매하는 전체 제품 중 90%에 달하는데 알폰소의 콘텐츠 분석 역량을 활용해 고객 입맛에 맞는 콘텐츠를 제공할 수 있다. LG전자는 2015년부터 ‘LG 채널’을 통해 무료 영상 콘텐츠를 제공하고 있는데 소비자들이 선호하는 콘텐츠를 추가하고 개인별 맞춤 광고 등이 가능해질 전망이다. LG그룹은 구광모 회장 취임 이후 자동차(유니실·마그나), 화장품(뉴에이본·피지오겔), 로봇(로보스타), 유료방송(CJ헬로) 등 다양한 분야의 회사에 800억~8000억원 규모를 투입해 왔다. 업계 관계자는 “구 회장은 기회가 될 때마다 미래 먹거리 발굴을 계속 강조해 오고 있다”면서 “LG는 로봇, AI, 자동차, 친환경에너지 등에 투자와 관심을 아끼지 않고 있기 때문에 향후에도 인수·합병을 통한 ‘외부 수혈’이 계속 이어질 가능성이 높다”고 말했다. 한재희 기자 jh@seoul.co.kr

최신 디지털 기술과 데이터사이언스 노하우를 융합해 디지털 전환의 선도해 온 KS한국스코어링㈜이 이번에는 RPA(Robotic Process Automaion)을 통해 기업의 디지털 트랜스포메이션을 촉진하고, 취업 준비생들의 경쟁력을 높이는데 기여하고 있다.KS한국스코어링 소속 전문가들은 관련 분야에서의 축적된 노하우를 인정받아 현재 진행 중인 ‘RPA 리그 2020’의 UiPath RPA 교육프로그램 강사진으로 참여 중이다. 현재 RPA사업본부 이상훈 수석과 DT 지원본부 유승호 프로가 직접 교육 참가자들의 강의를 진행하며 RPA 전문가 양성을 지원하고 있다. ‘RPA 리그 2020’은 한경닷컴 IT교육센터가 한국산업인력관리공단의 ‘기업수요 맞춤형 교육’ 및 글로벌 RPA 1위 기업인 ‘UiPath RPA 교육프로그램’과 연계해 개최하고 있는 웹 개발 및 RPA전문가 양성 과정이다. RPA는 Robotic Process Automaion의 약자로 간단한 동작을 반복하는 매크로(Macro)와 유사 하지만 더 다양한 업무를 처리할 수 있으며 특히 단순 반복적인 업무를 기계적으로 처리하는 업무제 활용해 생성을 향상시킬 수 있는 것이 특징이다. 최근 코로나19 사태로 인해 비대면 서비스 등 IT기술에 대한 수요와 관심이 높아지고 있는 가운데, RPA는 포스트 코로나 시대를 준비하는 기업들의 최대 관심사 중 하나로 부상하고 있다. 이번 RPA 교육 과정 참가자들은 JAVA기반의 웹 프로그래밍 교육과 RPA활용에 필요한 응용프로그래밍 교육, UiPath의 글로벌 RPA교육 프로그램 교육을 통해 실무 중심의 기술 습득을 통해 포스트 코로나 시대 취업시장에서 자신만의 경쟁력을 높일 수 있다. 또한 RPA해커톤 경진대회 및 잡페어를 통해 취업 연계까지 지원받을 수 있다.KS한국스코어링 RPA사업본부 이상훈 수석은 “코로나19가 기업들의 디지털 트랜스포메이션을 촉진하면서 2021년은 그야말로 RPA가 꽃을 피우는 시기가 될 것으로 전망된다. 실제로 디지털 기술을 통한 연결, 전자상거래, 원격 교육 및 의료, 자동화라는 커다란 변화가 ‘뉴노멀’로 급부상하면서 현대엔지니어링이나 두산, 농협중앙회, 롯데손해보험, 우리은행, 포스코 등 국내 대기업들이 앞다퉈 UiPath RPA를 도입하고 있다”라고 전했다. RPA에 대한 뜨거운 관심 속에 최근 RPA 교육, RPA 컨설팅, RPA 학원 등 RPA 개발과 관련한 각종 프로그램이 늘고 있다. 판이 바뀌고 있는 취업시장에서 차별화된 경쟁력을 확보하고자 한다면 높은 수준의 커리큘럼과 강사진, 취업업계가 지원되는 국비지원 RPA 교육과정이 새로운 기회가 될 수 있을 것이다. 한편, KS한국스코어링은 2005년에 창립되어 신용평가 컨설팅 및 솔루션을 기반, 기업의 리스크를 관리하는데 최적화되어 있다. 지난 2017년 국내 최초로 UiPath의 RPA를 도입해 2020년 UiPath 국내 최초 골드 파트너사 및 RPA 전문 개발자 양성교육기관 KS아카데미를 오픈했다. KS아카데미는 국내 최초 RPA 교육기관으로서, △RPA 비즈니스, RPA 개발 및 운영 교육 △RPA와 최신 기술 결합 지능형 RPA 교육이 편성해 디지털 전문인력을 양성하고 있다. 단계별 교육 프로세스·1대1 밀착관리·멘토링 서비스를 제공하고 있고, 심지어 교육 이수 이후에도 KS RPA 커뮤니티 가입을 통해 Q&A 및 최신 정보를 지원한다고 밝혀 눈길을 끌고 있다. 온라인뉴스부 iseoul@seoul.co.kr