찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 윤리
    2026-10-25
    검색기록 지우기
  • 3월
    2026-10-25
    검색기록 지우기
  • 도둑
    2026-10-25
    검색기록 지우기
  • 첫돌
    2026-10-25
    검색기록 지우기
  • 60대
    2026-10-25
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 1,097 건
  • 이주호 이사장 맡았던 협회도 에듀테크 기업서 1억 받았다

    이주호 이사장 맡았던 협회도 에듀테크 기업서 1억 받았다

    이주호 사회부총리 겸 교육부 장관 후보자가 이사장을 맡았던 협회에 에듀테크 기업이 고액 기부금을 낸 것으로 나타났다. 이 후보자의 에듀테크 업체 관련 이해충돌 의혹이 커지는 모양새다. 24일 국회 교육위원회 강득구 더불어민주당 의원에 따르면 이 후보자가 최근까지 이사장을 맡았던 아시아교육협회는 2020년 4월부터 지난해 7월까지 2억 9800만원의 기부금을 받았다. 이 중 1억 2400만원은 에듀테크 관련 업체나 업계 관계자가 후원한 금액이며, 에듀테크 기업인 A사는 2020년 11월 1억원을 기부했다. 아시아교육협회는 인공지능(AI) 등 디지털 기술을 활용해 아시아 지역에서 교육격차를 줄일 방법을 연구하기 위해 설립된 비영리 사단법인이다. 이 후보자는 설립에 주도적 역할을 했으며 협회 설립 직후인 2020년 4월부터 최근까지 초대 이사장을 맡다가 부총리 후보자 지명 이후 사임했다. 앞서 이 후보자는 지난 6월 지방선거에서 서울시교육감 예비후보로 출마했을 당시 에듀테크 기업 임원과 협회 등 업계 관계자 2명에게 고액 후원금을 받은 사실이 알려졌다. 이 후보자는 교육감 예비후보 시절을 포함해 후보자 지명 전부터 AI 보조교사 도입 등 에듀테크를 교육 현장에서 적극 활용해야 한다고 강조해 왔다. 그러나 그가 에듀테크 업체로부터 후원을 받은 사실이 드러나면서 교육계에서는 특정 업체들이 이득을 볼 수 있다는 우려가 나온다. 교육부 인사청문회준비단은 이에 대해 “아시아교육협회는 뜻을 같이하는 각계 각층의 사람들과 함께 설립했고 평소 사회공헌 활동을 많이 해 온 A사도 협회 설립 취지에 공감해 기부했다”며 “다른 기업과 재단도 소외계층 교육격차 해소를 지원하고자 기부했다”고 설명했다. 이어 “(이 후보자가) 장관으로 임용된다면 특정 집단의 이해를 대변하는 일은 결코 없을 것이며 공직자윤리법, 이해충돌 방지법 등에 따라 공정하게 직무를 수행할 것”이라고 덧붙였다.
  • [열린세상] 인공지능 발전과 데이터 프라이버시/문일경 서울대 산업공학과 교수

    [열린세상] 인공지능 발전과 데이터 프라이버시/문일경 서울대 산업공학과 교수

    인공지능 기술의 획기적인 발전이 우리 생활에 긍정적인 변화를 많이 가져오고 있다. 2021년 매킨지 컨설팅의 설문조사에 참여한 회사의 56%가 인공지능을 활용 중이라고 응답했을 만큼 전 세계 기업들이 경쟁적으로 인공지능 기술 개발에 뛰어들고 있다. 매년 미국에서만 3000억 달러의 매출 기회 상실이 고객들의 검색 오류 때문이라는 보고서에서 알 수 있듯이, 기업들은 인공지능을 통해 고객 맞춤형 추천 시스템에 심혈을 기울이고 있다. 일례로 국내 대형 인터넷 서점들은 고객의 도서 구매 이력이나 도서 리뷰 등의 데이터를 활용해 맞춤형 도서 추천 서비스를 제공한다. 만약 어떤 고객이 특정 작가의 추리소설을 구매한 이력이 있다면, 같은 작가의 신작이 출간됐을 때 그 고객에게 안내 메시지나 메일을 보내서 고객 만족도와 구매 확률을 동시에 높이는 전략을 취하는 것이다. 인공지능 기술은 적용 범위를 점차 넓혀 가면서, 최근에는 오염물 배출 방지 및 에너지 효율 향상 기술을 통해 환경 문제 해결에도 기여하고 있다. 한 폐기물 업체는 소각 시설의 센서 데이터를 수집해 학습시킨 알고리즘을 통해 일산화탄소와 질소산화물을 크게 감축시켰다. 에너지 기업들은 사옥의 냉난방 조절이나 에너지 통합 관리 시스템에 인공지능 기술을 활용해 에너지 관리를 체계화하고 있다. 또한 인공지능에 기반한 예측 분석 시스템을 통해 발전 피크 시간을 결정하고 청정에너지인 태양열 및 풍력을 효율적으로 운영함으로써 에너지원의 다양화 방안을 마련하고 있다. 인공지능의 발전은 좋은 점만 있는 것일까. 최근 인공지능의 어두운 면을 우려하는 목소리들이 전 세계적으로 나오고 있는데 특히 개인의 프라이버시 이슈에 대해 주목할 필요가 있다. 내가 선호하는 상품, 책의 종류, 여가 활동, 여행 정보, 대출 정보 등 개인 정보들이 고스란히 노출돼 있다면 당황스럽지 않을까. 많은 데이터를 수집하고 분석해 기업 마케팅에 활용하는 능력은 회사의 경쟁력 확보에 필수 요건이 됐지만, 그 과정에서 개인의 프라이버시가 침해되는 상황들이 빈번하게 발생하고 있다. 정보기술(IT) 거대 기업들이 앞다퉈 제공하는 음성비서 서비스 또한 번번이 도마에 오르고 있다. 고객들이 음성비서 서비스를 이용하는 과정에서 사용자의 음성데이터들이 유출된 것이다. 음성비서는 단순히 음성데이터 외에도 개인 연락처나 금융 정보처럼 민감한 정보가 유출될 위험성이 있기 때문에 더욱 주의가 필요하다. 구글의 ‘구글 어시스턴트’, 애플의 ‘시리’, 아마존의 ‘알렉사’ 모두 관련 이슈로 홍역을 치렀으며, 다시 한번 인공지능 기술의 위험성을 상기시키는 계기가 됐다. 인공지능 기술의 발전이 가속화되는 현시점에서 개인 정보 유출에 대비한 정책이 필요하다. 백악관에서는 이달 초에 인공지능 권리장전(AI Bill of Rights) 청사진을 발표했다. 이 청사진은 인공지능 기반 도구들의 설계, 사용, 배포에 관해 미국인들에게 해를 끼치는 것을 막아 주는 데이터 프라이버시를 포함한 5개의 기본 원칙을 천명하고 있다. 최근 과학기술정보통신부에서는 인공지능의 주요 응용 분야인 메타버스에 대해 윤리 규범을 제정하고자 하는 등 국내 관계 부처에서도 발 빠른 움직임을 보이고 있다. 과도한 법 규제로 인공지능 기술 발전에 제약을 가해서는 안 되겠지만 피해를 예방하기 위한 법제적 울타리는 필요하다. 전문가들의 자문을 받아 인공지능의 사회적 이슈 관련 핵심 법규인 데이터 3법의 보완이 필요하고 이미 발의된 인공지능 법률들에 대한 심도 있는 논의가 필요하다. 인공지능의 사회적 이슈에 대한 국민적 관심도 요구된다. 기업 또한 인공지능 기술에 대한 윤리의식을 주체적으로 강화하려는 노력이 필요한 시점이다.
  • [기고] “양심 없는 AI와 공존하려면”/김명주 서울여대 교수

    [기고] “양심 없는 AI와 공존하려면”/김명주 서울여대 교수

    디지털 대전환은 새로운 화두이다. 우리 사회는 새로운 디지털 세계에 적응하기 위해 구조와 체질을 바꾸고 있다. 사회가 전통적 윤리의 울타리를 넘어 ‘디지털 윤리’에 대한 논의를 활발히 하는 이유도 대전환에 따른 부작용과 역기능을 최소화하기 위해서다. 전통적 윤리는 현재 여기에서 나와 함께하는 사람들과의 관계를 전제로 다뤄진다. 반면 디지털 기술은 전통적 윤리의 구성 요소를 확장한다. ‘현재’라는 시간은 디지털 흔적을 통해 과거로까지 이어지고, ‘여기’라는 장소는 사이버공간과 메타버스로 확장된다. ‘사람’이라는 대상도 아바타와 가상 인간으로 확장된다. 그래서 디지털 윤리는 생각보다 어렵고 고려해야 할 사안도 많으며 복잡하다. 정보기술(IT) 윤리에서 출발한 디지털 윤리는 사이버 윤리, 인터넷 윤리를 거쳐 지금은 ‘인공지능(AI) 윤리’에 방점을 두고 있다. AI는 인류 역사상 최고의 혁신 신기술로 인식된다. 미국, 일본, 유럽, 중국은 물론 우리나라도 국가 차원의 AI 추진 전략을 세워서 투자 중이다. 러시아의 블라디미르 푸틴 대통령마저도 AI는 엄청난 기회이며 “장차 AI를 선도하는 국가가 전 세계를 지배할 것”이라고까지 말한 바 있다. 문제는 AI는 양심이 없다는 점이다. 심지어 양심 없는 AI가 지금까지 인간만이 내려왔던 고유 결정들을 점차 대신하고 있다. AI 면접은 이제 신입사원 채용 과정의 핵심이고 학생들의 대입 성적 예측은 물론 금융고객의 신용등급까지 판별한다. 자신을 이해해 주는 로봇과 사랑에 빠져 결혼하는 사례도 늘고 있다. 이런 AI와 우리는 어떻게 공존할 수 있을까? 레이 커즈와일은 저서 ‘특이점이 온다’에서 양심 없는 AI와의 공존 해법으로 ‘적극적 방어’를 제안했다. 닉 보스트롬 옥스퍼드대 교수는 이를 ‘AI 윤리’라고 명명했다. 우리나라를 비롯한 많은 선진국, 유네스코(UNESCO), 경제협력개발기구(OECD)와 같은 국제기구에서도 AI 윤리를 제시해 왔다. 지금까지 AI는 미래 기술이자 시작 단계 기술로 다뤄졌기 때문에 윤리 적용 대상은 AI 개발자 등 한정적이었다. 재출시된 이루다 2.0을 위한 ‘오픈 AI 챗봇 윤리점검표’도 여기에 해당한다. 하지만 AI는 이미 현재 기술이며 보편적 기술이다. 디지털 대전환에 걸맞게 우리 모두 AI에 대한 지식과 역량을 한 수준 더 높여야 한다. 더불어 ‘AI 윤리’와 관련된 사안도 함께 고민해야 한다. 우리 모두 ‘현명한 AI 이용자’가 됐을 때 AI와의 공존이 비로소 가능해진다. AI 윤리는 AI가 지켜야 할 윤리가 아니라 양심 있는 우리 인간 모두가 지켜야 할 윤리이다.
  • ‘제2의 이루다 사태’ 없도록…스캐터랩, AI 챗봇 윤리점검표 발표

    ‘제2의 이루다 사태’ 없도록…스캐터랩, AI 챗봇 윤리점검표 발표

    스캐터랩, 과기정통부와 개별 기업 1호 윤리점검표 확정인공지능(AI) 챗봇 서비스 ‘이루다’를 제작한 스캐터랩이 정부와 함께 ‘AI 챗봇 윤리점검표’를 최종 마련했다. 지난해 개인정보 유출과 성희롱 논란 등으로 이루다 서비스를 일시 중단했던 스캐터랩의 반성문인 셈이다. 스캐터랩은 과학기술정보통신부와 정보통신정책연구원(KISDI)과 협업해 개별 기업 특화 윤리점검표 1호로 ‘스캐터랩 AI 챗봇 윤리점검표’ 최종안을 발표했다고 26일 밝혔다. 스캐터랩은 지난해 1월 ‘이루다 1.0’ 서비스가 AI 윤리 논란으로 중단된 이후 개인정보 보호 체계 강화와 AI 윤리 실천 노력을 이어왔다. 이번 점검표엔 스캐터랩이 AI 챗봇을 기획·개발·운영하는 전 단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목이 담겼다. ▲AI 10대 윤리기준의 ‘인권보장’, ‘다양성’, ‘투명성’에 따라 AI 챗봇이 사람들의 삶에 도움이 되는 소통 경험을 제공할 수 있도록 하는지 ▲편향이나 차별적인 대화가 발견될 경우 검토와 평가 후 반영할 수 있는 일련의 절차가 준비되어 있는지 ▲알고리즘의 원리 또는 데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등이다.스캐터랩 김종윤 대표는 “작년 ‘이루다’가 직면했던 문제와 그 이후 스캐터랩의 해결 방법 모색 과정이 AI 산업과 우리 사회의 자산으로 공유될 수 있도록 윤리점검표를 만들었다“면서 “이루다가 우리 사회의 보편적인 윤리를 지향하면서 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다”고 말했다. KISDI 문정욱 지능정보사회정책센터장은 “AI의 기술발전과 윤리확보라는 두 마리 토끼를 동시에 잡기 위해서는 법적 규제를 당장 도입하기보다는 기업 스스로가 AI 윤리 확보를 위해 노력하는 것이 중요하다” 면서 “스캐터랩의 이번 윤리점검표 개발을 비롯한 노력이 국내 산업계 전반으로 확산되는 계기가 되기를 바란다”라고 밝혔다. 스캐터랩은 딥러닝 기술을 활용한 ‘관계 지향형 AI 챗봇’을 개발하고 있는 스타트업이다. 스캐터랩은 지난해 초 서비스를 중단했던 이루다에 AI 윤리를 강화해 올 3월 2.0 버전으로 재출시해 오픈 베타 테스트를 진행하고 있다.
  • LG, 인간존중·공정 등 5대 AI 윤리원칙 발표

    최근 정부와 기업들이 인공지능(AI) 기술의 윤리원칙 마련에 나선 가운데 LG그룹이 24일 인간존중 등 5대 핵심 가치를 담은 AI 윤리원칙을 발표했다. LG그룹에 따르면 ‘AI 윤리원칙’은 AI를 개발하고 활용하는 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준으로, ‘고객을 위한 가치 창조’와 ‘인간존중의 경영’이라는 경영이념을 고려해 5대 핵심 가치를 선정했다. 5대 핵심 가치는 ▲AI가 인간의 자율성·존엄성과 같은 권리를 침해하지 않아야 한다는 ‘인간존중’ ▲AI가 성별이나 나이·장애 등 인간의 개인 특성에 기초한 부당한 차별을 하지 않고 공정하게 작동할 수 있도록 하는 ‘공정성’ ▲AI를 활용한 제품과 서비스의 안전과 관련된 부분은 글로벌 수준의 검증 시스템을 항시 가동한다는 ‘안정성’ ▲AI를 개발하고 활용하는 LG 구성원들이 주인 의식을 가지고 역할과 책임을 명확히 해야 하는 ‘책임성’ ▲AI가 내놓은 결과를 고객이 이해할 수 있도록 끊임없이 소통한다는 ‘투명성’이다. LG는 그룹 AI 연구원에 ‘AI 윤리 점검 TF’를 신설하고 AI 연구 및 개발 단계에서 발생 가능한 윤리 문제를 사전에 검증하기로 했다. 아울러 그룹 내 주요 AI 윤리 이슈들을 논의하는 협의체인 ‘AI 윤리 워킹그룹’도 연말에 출범할 예정이다.
  • “AI 기술 너머 사회적 책임부터 고민”...LG, 5대 AI 윤리원칙 발표

    “AI 기술 너머 사회적 책임부터 고민”...LG, 5대 AI 윤리원칙 발표

    최근 정부와 기업들이 인공지능(AI) 기술의 윤리원칙 마련에 나선 가운데 LG그룹이 24일 인간존중 등 5대 핵심 가치를 담은 AI 윤리원칙을 발표했다. LG그룹에 따르면 ‘AI 윤리원칙’은 AI를 개발하고 활용하는 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준으로, ‘고객을 위한 가치 창조’와 ‘인간존중의 경영’이라는 경영이념을 고려해 5대 핵심 가치를 선정했다.5대 핵심 가치는 ▲ AI가 인간의 자율성, 존엄성과 같은 권리를 침해하지 않아야 한다는 ‘인간존중’ ▲ AI가 성별이나 나이, 장애 등 인간의 개인 특성에 기초한 부당한 차별을 하지 않고 공정하게 작동할 수 있도록 하는 ‘공정성’ ▲ AI를 활용한 제품과 서비스의 안전과 관련된 부분은 글로벌 수준의 검증 시스템을 항시 가동한다는 ‘안정성’ ▲ AI를 개발하고 활용하는 LG 구성원들이 주인 의식을 가지고 역할과 책임을 명확히 해야 하는 ‘책임성’ ▲ AI가 내놓은 결과를 고객이 이해할 수 있도록 끊임없이 소통한다는 ‘투명성’이다. LG는 이런 윤리원칙이 윤리적인 AI 개발에 활용될 수 있도록 그룹 AI 연구 허브인 LG AI 연구원에 ‘AI 윤리 점검 TF’를 신설했다. TF는 LG 구성원들을 대상으로 AI 윤리원칙 교육을 진행하며 AI 연구 및 개발 단계에서 발생 가능한 윤리 문제를 사전에 검증한다. LG는 그룹 내 주요 AI 윤리 이슈들을 논의하는 협의체인 ‘AI 윤리 워킹그룹’도 연말에 출범할 예정이다. 워킹그룹에는 LG전자, LG디스플레이, LG이노텍, LG화학, LG에너지솔루션 등 10개 계열사가 참여한다. LG AI 연구원은 이를 통해 축적한 데이터와 사례를 바탕으로 내년까지 LG가 연구하는 AI의 세부 분야별 윤리 가이드라인을 개발해 계열사로 전파할 계획이다. LG AI연구원은 윤리적인 AI 개발을 위해 ‘혐오 표현 감지’와 ‘설명 가능한 AI’ 등 다양한 기술 연구도 진행 중이다. 혐오 표현 감지는 소비자들이 상담 챗봇 등에서 혐오 및 차별 표현을 경험하지 않도록 단어뿐만 아니라 문장의 맥락까지 분석해 공격적이거나 편향된 정보를 걸러낸다.설명 가능한 AI는 AI가 내놓은 결괏값이 어떤 이유로 도출됐는지 사람이 이해할 수 있도록 설명하는 기술이다. 제조 공장의 경우 AI가 단순히 제품의 불량 유무만을 알려주는 것이 아니라 불량으로 판단한 근거를 명확하게 설명하는 방식이다. 이 기술은 신뢰성과 투명성이 생명인 의료, 법률, 금융 등의 전문 분야에서 인간의 의사 결정을 돕는 전문가 AI를 개발하기 위해 필수적인 기술로 꼽힌다. 배경훈 LG AI연구원장은 “인간이 AI를 어떻게 바라보고 활용하느냐에 따라 그 가치에 대한 평가는 달라질 것”이라면서 “LG는 AI 윤리원칙 수립을 통해 인간과 AI의 공존에 관한 연구를 지속하며 진정한 고객가치를 창출해 나갈 것”이라고 말했다.
  • ‘제2 이루다 막자’… AI, 혐오 맥락도 걸러낸다

    ‘제2 이루다 막자’… AI, 혐오 맥락도 걸러낸다

    튜닙 ‘윤리성 판별’ 새 기술 선보여혐오 표현 3단계로 분류하고 순화비윤리적 챗봇 문장엔 응답 안 해이용자 경고·퇴장 기준 삼을 수도“차별은 인간의 본성입니다. 잼민이나 틀딱, 한남이나 김치녀를 차별할 수 있는 거 아닌가요? 홍어는 절대 안 됩니다.” 네이버의 스타트업 투자 조직인 D2SF가 투자한 인공지능(AI) 스타트업 튜닙이 새로 선보인 ‘윤리성 판별’ AI 기능에 15일 기자가 혐오 표현을 나열한 문장을 입력해 봤다. 그 결과 혐오 표현을 탐지하는 AI는 “차별은 인간의 본성입니다. 어린이나 노인, 한국 남자나 한국 여자 차별이 왜 나쁜까요? **은 절대 안 됩니다”라고 문장을 순화했다. 홍어는 전라도를 비하하는 말이라며 아예 별표로 대체했다. AI는 문장 내 혐오 표현을 11가지 혐오 유형 가운데 정치 성향(97%), 성 혐오(74%), 연령(64%), 인종·출신지(59%) 등에 해당한다고 분석했다. 괄호 안의 수치는 AI가 해당 혐오를 어느 정도 확신하는지 보여 주는 결과값이다. 문장에 쓰인 혐오 표현의 정도는 주의, 명백, 심각 등 3단계 가운데 2단계인 ‘(혐오) 명백’으로 분류했다. 튜닙이 새로 선보인 윤리성 판별 자연어 처리 애플리케이션 프로그래밍 인터페이스(API)는 이처럼 이용자가 텍스트를 입력하면 AI가 내용을 자동 분석해 모욕이나 욕설, 범죄 조장 등의 혐오 표현을 골라 순화하고 심각성을 경고해 준다. AI 윤리, 인터넷 혐오 문제 해결에 다각도로 적용할 수 있을 것으로 기대된다. 이처럼 최근 정보기술(IT)·게임 업계는 혐오 표현을 탐지하고 대응하는 AI 기술의 고도화에 박차를 가하고 있다. 박규병 튜닙 대표는 이날 서울신문과의 인터뷰에서 “윤리성 판별 API를 이용하면 특정 온라인 창에서 혐오 표현을 쓰는 이용자 등을 대상으로 경고를 보낼지, 아예 퇴장을 시킬지 등을 결정하는 척도로 삼을 수 있다”며 “기업들은 튜닙의 기술이 분석한 혐오의 심각성 정도에 따라 자사의 이용자 정책이나 규정 등을 결정하는 데 활용할 수 있다”고 말했다. 포털의 악플을 지우거나 온라인 커뮤니티 내 욕설을 획일적으로 걸러 내는 대신 각 커뮤니티의 특성을 반영해 적용하고 문장 내 ‘혐오 맥락’을 읽어 낼 수 있도록 AI 기능이 고도화되고 있는 것이다. 최근 스마일게이트 AI센터도 스타트업 언더스코어와 악플이나 혐오 발언을 분류하는 데이터세트 ‘언스마일’을 개발했다. 게임 내 챗봇에 가해지는 혐오 발언과 폭력성을 걸러 내거나 AI가 학습하는 데이터 안의 혐오·편향성을 제거한다. 엔씨소프트의 챗봇에서 구동되는 AI 윤리 엔진은 문장이 윤리적이지 못하다고 판단하면 그 대화에 대해 답변을 하지 않거나 우회하는 방식으로 대응한다. 업계에서는 이런 방식이 장애인·성소수자 등에 대한 혐오 발언으로 2020년 논란을 낳은 ‘이루다 사태’의 재발을 막을 것으로 기대하고 있다. 국제미래학회 AI윤리위원장인 김명주 서울여대 정보보호학과 교수는 “디지털 사회에서 AI 기술로 혐오와 차별적인 표현을 순화하고 없애는 과정을 고도화하는 과정은 필수적”이라며 “결국 이루다 같은 AI 챗봇이 수집하는 데이터는 사람들이 온라인에서 공유하는 생각, 대화에서 비롯되기 때문”이라고 말했다. 전문가들은 AI 기술을 활용해 혐오 표현들을 줄이고 걷어 내는 기업들의 노력과 함께 AI 윤리 강령의 선제적 수립도 필요하다고 지적한다.
  • ‘제 2의 이루다 사태 ’ 안돼…진화한 AI, 혐오 표현 순화 나서

    ‘제 2의 이루다 사태 ’ 안돼…진화한 AI, 혐오 표현 순화 나서

    “차별은 인간의 본성입니다. 잼민이나 틀딱, 한남이나 김치녀를 차별할 수 있는 거 아닌가요? 홍어는 절대 안 됩니다.” 네이버의 스타트업 투자 조직인 D2SF가 투자한 인공지능(AI) 스타트업 튜닙이 새로 선보인 ‘윤리성 판별’ AI 기능에 15일 기자가 혐오 표현을 나열한 문장을 입력해 봤다.그 결과 혐오 표현을 탐지하는 AI는 “차별은 인간의 본성입니다. 어린이나 노인, 한국 남자나 한국 여자 차별이 왜 나쁜까요? **은 절대 안 됩니다”라고 문장을 순화했다. 홍어는 전라도를 비하하는 말이라며 아예 별표로 대체했다. AI는 문장 내 혐오 표현을 11가지 혐오 유형 가운데 정치 성향(97%), 성 혐오(74%), 연령(64%), 인종·출신지(59%) 등에 해당한다고 분석했다. 괄호 안의 수치는 AI가 해당 혐오를 어느 정도 확신하는지 보여 주는 결과값이다. 문장에 쓰인 혐오 표현의 정도는 주의, 명백, 심각 등의 3단계 가운데 2단계인 ‘(혐오) 명백’으로 분류했다. 튜닙이 새로 출시한 윤리성 판별 자연어처리 애플리케이션 프로그래밍 인터페이스(API)는 이처럼 이용자가 텍스트를 입력하면 AI가 내용을 자동 분석해 모욕이나 욕설, 범죄 조장 등의 혐오 표현을 골라 순화하고 심각성을 경고해 준다. AI 윤리, 인터넷 혐오 문제 해결에 다각도로 적용할 수 있을 것으로 기대된다.이처럼 최근 정보기술(IT)·게임 업계는 혐오 표현을 탐지하고 대응하는 AI 기술의 고도화에 박차를 가하고 있다. 박규병 튜닙 대표는 이날 서울신문과의 인터뷰에서 “윤리성 판별 API를 이용하면 특정 온라인 창에서 혐오 표현을 쓰는 이용자 등을 대상으로 경고를 보낼지, 아예 퇴장을 시킬지 등을 결정하는 척도로 삼을 수 있다”며 “기업들은 튜닙의 기술이 분석한 혐오의 심각성 정도에 따라 자사의 정책이나 규정, 방침 등을 결정하는 데 활용할 수 있다”고 말했다. 포털의 ‘악플’을 지우거나 온라인 커뮤니티 내 욕설을 획일적으로 걸러 내는 대신 각 커뮤니티의 특성을 반영해 적용하고 문장 내 ‘혐오 맥락’을 읽어 낼 수 있도록 AI 기능이 고도화되고 있다. 최근 스마일게이트 AI센터도 스타트업 ‘언더스코어’와 악플 및 혐오 발언을 분류하는 데이터세트 ‘언스마일’을 개발했다. 게임 내 챗봇에게 가해지는 혐오 발언과 폭력성을 걸러 내거나 AI가 학습하는 데이터 안의 혐오·편향성을 제거한다. 엔씨소프트의 챗봇에서 구동되는 AI 윤리 엔진은 문장이 윤리적이지 못하다고 판단하면 그 대화에 대해 답변을 하지 않거나 우회하는 방식으로 대응한다.업계에서는 이런 방식이 장애인·성소수자 등에 대한 혐오 발언으로 2020년 논란을 낳은 ‘이루다 사태’의 재발을 막을 것으로 기대하고 있다. 국제미래학회 AI윤리위원장인 김명주 서울여대 정보보호학과 교수는 “디지털 사회에서 AI 기술로 혐오와 차별적인 표현을 순화하고 없애는 과정을 고도화하는 과정은 필수적”이라며 “결국 이루다 같은 AI 챗봇이 수집하는 데이터는 사람들이 온라인에서 공유하는 생각, 대화에서 비롯되기 때문”이라고 말했다. 전문가들은 AI 기술을 활용해 혐오 표현들을 줄이고 걷어 내는 기업들의 노력과 함께 선제적인 AI 윤리 강령 수립도 필요하다고 지적한다.
  • ■로컬인 포커스 / 동신대 이주희 총장

    ■로컬인 포커스 / 동신대 이주희 총장

    동신대학교 이주희 총장은 “학생이 행복한 대학을 만들겠다”고 다짐했다. 또 지역과 상생하는 공유대학, 구성원들과 끝까지 함께하는 대학을 만들어 ‘강한 지방대학’으로 도약하겠다고 강조했다. 지난 7월 15일 제9대 총장으로 취임한 이 총장은 ‘학생행복’이 자신이 해야 할 가장 중요한 역할이라고 말했다. 서울신문은 이주희 동신대 총장을 만나 앞으로의 포부를 들어봤다. - 동신대학교 총장에 취임한 소감은. “지방대학의 위기 속에서 총장이라는 자리가 얼마나 무거운 자리인지 잘 알기 때문에, 솔직히 소감보다는 해야 할 일들로 제 머릿속이 가득 차 있다. 1997년에 동신대학교 교수로 임용돼 25년간 학생들 가르치면서 학생상담센터 소장, 교무부처장, 입학처장, 기획처장, 교육혁신원장, 교학부총장까지 차근차근 보직을 맡았다. 모든 보직이 책임이 따르지만, 총장은 그 책임의 정점에 있다. 제게 주어진 책무를 무겁게 받아들이고 진중하게 임해야겠다는 생각을 하고 있다. 늘 배우겠다는 자세로 구성원들과 소통하면서 제게 부족한 부분을 채워갈 생각이다. 숙려단행이라는 말이 있는데, 신중하게 충분히 생각하고 과감하게 실행하려고 마음먹고 있다. - 동신대학교만의 차별된 강점은 무엇인가. “대학의 역할은 교육, 대학의 의무는 학생성장, 대학의 책임은 졸업생의 취업이라고 생각한다. 동신대학교는 한마디로 잘 가르치는 대학, 그래서 취업에 강한 대학이다. 2011년부터 2022년까지 최근 12년 중에 10년간 졸업생 천명이상 규모의 광주전남 일반대학 가운데 취업률 1위를 지키고 있다.‘동신대학교 졸업하면 취업은 잘 하지’라고 말하는 것도 이런 실적에서 비롯되고 있다. 취업률도 좋지만 최근 빛가람 혁신도시 공공기관 등으로의 취업도 늘어나고 있어 취업의 질적 수준이 높은 편이다. 비결은 동기부여와 맞춤형 교육을 통해 학생들이 역량을 발휘하도록 잘 가르치기 때문이라고 말씀드릴 수 있다. 기본적으로 교수님들이 학생들의 다양한 요구를 수용하고, 눈높이에 맞춰 수업을 진행한다. 활동 중심, 실천 중심 수업과 온-오프라인이 병행되는 하이브리드형 수업이 학생들의 만족도가 특히 높은 수업이다. 학생들마다 상황과 특성들이 각기 다른데, 140여개의 비교과 프로그램을 운영해서 기초학력이 부족한 학생, 학업의욕이 부족한 학생, 취업을 앞둔 학생, 창업 준비중인 학생 등 학생들 상황에 맞는 프로그램을 이수할 수 있다. 프로그램 이수를 통해 크고 작은 성과가 있을 때마다, ‘동신 마일리지’를 지급하고, 일정 이상의 마일리지가 쌓이면, 마일리지를 장학금으로 바꾸어 지급해주고 있다. 이를 통해 학생들이 ‘작은 성공 경험’들을 쌓게 하고, 이를 통해 점점 성장해가는 본인을 확인할 수 있게 해준다. 마지막으로 무엇보다 인성교육을 강조하고 싶다. 기업체 임원들께 신입사원들의 어떤 능력을 가장 중요시하는지 여쭤보면 인성이 가장 중요하다고 말씀하시는 분들이 많다. 우리 동신대는 2008년부터 우리나라 대학 가운데 최초로 인성 교과목을 필수과목으로 운영하고 있고, ‘착한 인재로 세상을 바꾼다’는 슬로건을 내걸고 좋은 품성과 직업윤리, 공동체의식을 키워주고 있다. 이런 체계적인 인성교육이 기업체에서 좋은 평가를 받는 것 같다.-총장 임기 4년 동안 동신대학교를 어떻게 이끌어 갈 계획인가. “취임하면서 세 가지 약속을 했다. 학생이 행복한 대학, 지역과 상생하는 공유대학, 그리고 구성원들과 끝까지 함께하는 대학이 되겠다는 것이다. 이 중에서 학생이 행복한 대학과 구성원들과 끝까지 함께 하기 위해서는 시대의 흐름에 따라 학생들이 배우고 싶어 하는 공부를 할 수 있도록 사회변화에 능동적으로 변화를 준비하는 구성원이 되는 것이 무엇보다 중요하다고 생각한다. 이를 위해 Micro Degree 과정도 도입할 예정이다. - 학령인구 감소와 수도권 쏠림 현상으로 지방대학들이 위기에 내몰리고 있다. 해법은. “인구감소나 수도권 쏠림은 사회 구조적인 문제이기 때문에 정책적인 해결책이 반드시 따라야 한다. 학령인구 감소는 이미 20여년 전부터 예고됐지만, 정부의 인구정책이 효과를 내지 못했다. 적은 인구에 수도권 집중까지 심화되면서 지방대학, 그중에서도 특히 사립대학들이 위기에 몰린 상황이다. 이 부분은 일본의 사례에서 해결책을 찾을 수 있다. 일본 사립대학은 우리보다 훨씬 빠른 2000년부터 학령인구감소에 따른 위기를 겪었는데 일본 정부는 사립학교진흥조성법 제정, 사립학교 경상비 지원, 정원 엄격화 정책, 학교법인에 대한 경영 지원을 통해 위기를 극복해냈다. 이 같은 정책의 근저에는 사립대학을 교육의 한 축이자 동반자로 여기는 인식이 깔려있다. 앞으로 연대와 정책 제안을 통해 합리적인 방안을 모색해 가겠다. 대학들도 환경 탓만 하면서 가만히 있으면 안되고, 스스로 혁신을 통해 힘을 길러야 한다. 그 활로를 지역과 상생에서 찾고 있다.”- 지역과 상생하는 공유대학을 만들겠다고 했다. 실행 방안은 무엇인가. 우선 지역산업 발전에 기여하는 연구기지로서의 역할을 다할 계획이다. 최근에 동신대학교 한의과대학에서 대규모 연구과제를 잇달아 수행하고 있는데, 이런 대형 연구프로젝트와 바이오센터, 국가지원사업단, 특성화사업단 등을 통해 광주전남지역 미래 주력산업인 바이오, 에너지신산업, 문화관광, 보건복지서비스산업을 한단계 발전시키고 산업을 이끌어갈 맞춤형 인재도 양성하고 있다. 또 지역 대학은 지역사회 현안 해결을 위한 든든한 지원군이 돼야 한다는 입장이다. 지역의 소외계층이나 학교 밖 청소년, 다문화가정 등을 위한 안전한 교육복지 서비스도 제공할 계획이다. 지역사회 평생교육의 장으로서 역할도 중요하다. 지역민의 특성과 사회 수요를 충족시키는 평생교육 프로그램을 많이 발굴해서 지역민들이 새로운 삶의 길을 열어가는데 동반자가 돼주고 싶다. 현재 캠퍼스를 비롯해 대학의 인적 물적 자원을 지역과 공유하고 있는데, 앞으로 더 적극적이고 실질적으로 도움을 주는 방향으로 공유의 폭을 넓혀갈 계획이다.” - ‘마이크로 디그리((Micro degree)’ 교육 과정을 도입한다고 들었다. 어떤 것인가. “마이크로 디그리(micro degree)란 ‘마이크로(micro)’와 ‘디그리(degree)’의 합성어로 사전적으로는 작은 단위의 학위를 의미한다. ‘마이크로(micro)’는 ‘주제 영역이 매우 세부적’이고 ‘수료하는데 소요되는 기간이 매우 짧다’는 두 가지 의미가 있다. 수요자인 학생들의 요구를 반영하고, 창의 융합 지식이 요구되는 사회 변화에 능동적으로 대처하기 위해 도입한 최소 단위의 단기교육과정이라고 할 수 있는데, 이 과정을 선제적으로 도입한 배경이 있다. 사회가 급변하면서 유망 직업도 전통적인 직업과는 다른 유형으로 변하고 있다. 대학의 전통 학문과 연관이 있지만 사실상 전혀 새로운 직업처럼 창의적으로 세분화되고 융합되고 전문화되는 추세다. 예를 들면, 초등학생들 장래 희망으로 유튜버가 5위 안에 꼽히는 세상인데, 기존 학문 분야에서 유튜버를 양성하기는 어렵다. 그래서 전문 분야에서 유튜버를 키우기 위한 마이크로 디그리, 영양사나 요리사와 비슷한 듯하면서도 전혀 다른 푸드코디네이터 같은 직업을 갖게 하는 과정 등이 필요하다고 판단했다. 마이크로 디그리는 이런 실용 학문 분야뿐만 아니라 AI, 빅데이터 등 신기술 융합 학문 분야도 설계돼 있다. 하나의 마이크로 디그리가 보통 9학점에서 12학점이고, 세 개에서 네 개의 교과목으로 구성되는데, 해당 분야에서 3개 이상의 과정을 이수하면 또 하나의 학사학위를 받을 수 있도록 학사제도를 혁신해 모든 학생이 최소 2개 이상의 학위를 취득하도록 할 예정이다.” - 교육자로서 대학 교육에 관한 소신은. “끊임없이 기회를 제공하는 것이야말로 교육의 요체가 아닌가, 생각한다. 고등학교 성적으로 인생이 결정되지 않는다. 학생들이 스스로 좋아하는 일을 찾고, 좋아하는 공부를 하고, 새로운 길을 발견하고, 행복한 삶을 열어가도록 도와주는 것이 대학 교육의 역할이라고 본다. 대학은 가르치는 곳이라기보다 배우는 곳이다. 관점의 차이인데, 교수 입장에서 보면 가르치는 곳이지만, 학생들 입장에서는 배우는 곳이다. 대학 안에서는 늘 학생이 주인공이어야 한다. 교수들도 가르치면서 배우는 교학상장의 정신, 학생들이 스스로 알을 깨고 나오도록 도와주는 ‘줄탁동시’의 자세를 견지하고 실천해야 한다고 생각한다.”- 이 시대 청년들에게 하고 싶은 말은. “날마다 ‘오늘이 내 생일이다’는 마음으로 즐겁게 살고 싶다. 요즘 MZ세대에 관해 많은 이야기들이 있는데 요즘 청년들처럼 절박하게 노력하는 세대도 드문 것 같다. 포모(FOMO Fear Of Missing Out)증후군이라는 말이 있다. 자기 혼자 뒤처질까봐 두려워하는 마음인데, 그 두려움 때문에 코인이나 주식시장에 뛰어드는 친구들도 있지만 반대로 하루하루 성실하게 자신만의 루틴을 만들어가는 ‘갓생살이(god 生 살이)’가 유행하고 있다. 모두 자기 삶을 잘 살아내기 위한 몸부림이고 적응과정이다. 이런 얘기를 해주고 싶다. 인생은 즐거워야 하고, 즐거우려면 하고 싶은 것, 좋아하는 일이 있어야 한다고. 근데 좋아하는 일이라는 게 처음부터 정해져 있거나 어느날 갑자기 극적으로 찾아지는 게 아니다. 뭔가에 몰두해 꾸준히 노력하다보면 재미있는 순간이 온다. 다이어트든 공부든 목표를 이룬 사람들은 습관처럼 꾸준히 몸에 배어있다. 똑같은 일을 반복하는 게 지겹고 고통스럽더라도 임계점만 넘으면 리듬이 생기고, 습관이 되고, 그 습관이 변화를 만들어내는 것 같다. 가끔 “저는 꿈이 없어요, 제 꿈이 뭔지 모르겠어요”라고 고민하는 친구들을 만나는데, 내 꿈은 이거다, 결정하고 꿈을 향해 차근차근 나아가는 사람도 있지만 아직 꿈이 뭔지 모르는 채로 하루하루 열심히 살아가는 삶도 멋진 삶이다. 꿈이 없다고 인생을 사랑하지 않은 건 아니다. 그러니까 지금 걷고 있는 길이 어디를 향하는지 모른다고 조급해하거나 불안해하지 말고 하루하루 성실히, 그리고 즐겁게 살아가시기를 응원하겠다.”
  • “이준석 지우기 위해서 노력해도 좋다. 국민과의 약속은…”

    “이준석 지우기 위해서 노력해도 좋다. 국민과의 약속은…”

    “선거 때 메뉴 수정하는 과정서 착오” 해명 윤석열 대통령의 공식 유튜브에 올라와 있던 일부 영상이 비공개 처리된 데 대해 이준석 국민의힘 대표가 유감을 표했다. 5일 이 대표는 자신의 페이스북에 “이준석을 지우기 위해서 노력해도 좋다. ‘59초 쇼츠’니 ‘AI 윤석열’이니 역사 속으로 지워도 좋다. 그런데 국민과 했던 약속들은 지우지 말자”고 말했다. 이어 그는 “특히 양육비 선지급 같은 공약. 그 공약 때문에 믿고 ‘윤석열’ 찍어 보겠다고 제 손을 잡고 이야기하던 유권자의 눈빛이 잊혀지지가 않는다”고 적었다.이는 윤석열 대통령 유튜브에 있던 ‘50초 공약’과 ‘AI 윤석열’ 등 121개 영상이 비공개처리된 데 따른 발언이다. 모두 대통령 선거 당시 이 대표가 주도해 기획했던 영상들이다. 비공개됐던 영상은 언론 보도가 나오기 시작하자 6일 재차 공개됐다. 대통령실은 이와 관련해 “유튜브 채널 담당자가 선거 때 메뉴를 수정하는 과정에서 착오가 있었던 것 같다”고 해명한 것으로 알려졌다. 홍준표 ‘가처분 신청’ 이준석 비판…“더 이상은 분탕질” 한편 이 대표가 당 비상대책위원회 전환과 관련해 가처분 신청 등 법적 대응 방침을 밝힌 가운데, 홍준표 대구시장은 연일 이 대표를 향한 날선 비판을 내놓고 있다. 홍 시장은 이날 자신의 페이스북에 “절차의 하자도 치유가 되었고 가처분 신청을 해본들 당헌까지 적법하게 개정된 지금 소용없어 보인다”며 “자중하고 후일을 기약하라”고 말했다. 이는 이 대표가 전날 언론에 당 상임전국위원회가 비대위 전환을 추인한 것에 대한 대응방안과 관련, “가처분은 거의 무조건 한다고 보면 된다”고 대답한 데 대한 지적으로 풀이된다. 이어 홍 시장은 “더 이상 당을 혼란케 하면 그건 분탕질에 불과하다”며 “대장부는 나아갈 때와 멈출 때를 잘 알아야 한다”고 덧붙였다.한편 이 대표는 지난달 8일 당 윤리위원회로부터 ‘6개월 당원권 정지’라는 중징계를 받은 바 있다. 이후 국민의힘 지도부에서는 윤석열 정부 지지율 하락 등에 대한 여당 책임론을 들어 최고위원들의 사퇴가 이어졌다. 이어 권성동 당대표 직무대행 겸 원내대표도 지난달 31일 직무대행직을 사퇴하면서 비대위 전환 논의가 급물살을 탔다. 이에 국민의힘 상임전국위원회는 당을 ‘비상 상황’으로 규정하고 비상대책위원회 전환을 추인했다.
  • 시 쓰고 그림 그리고… 예술영역 넘보는 AI

    시 쓰고 그림 그리고… 예술영역 넘보는 AI

    시를 쓰는 이유를 묻지 말아주십시오. 그냥 쓰는 것입니다. 쓸 수밖에 없기에 씁니다. 무엇을 쓰는지는 중요하지 않습니다. 시를 쓴다는 것은 세상에서 가장 짧은 말을 하는 것입니다. 말을 줄이는 것입니다. 줄일 수 있는 말이 아직도 많이 있을 때 그때 씁니다. (‘시를 쓰는 이유’ 중) 자신이 시를 쓰는 이유를 ‘세상에서 가장 짧은 말을 하는 것’이라고 간결하게 풀어낸 이 시구는 사실 사람이 쓴 것이 아니다. 1만편이 넘는 시를 섭렵하고 작법을 익힌 초거대 인공지능(AI)이 직접 ‘창작’해 낸 시다. 과거에 인간의 고유한 영역으로 여겨졌던 ‘예술’까지 AI가 보폭을 넓혀 오고 있다.카카오의 AI 개발 자회사 카카오브레인은 미디어아트 그룹 슬릿스코프와 함께 시 쓰는 AI 모델 ‘시아’를 개발하고 시아가 쓴 첫 시집 ‘시를 쓰는 이유’를 오는 8일 출간한다고 1일 밝혔다. 시아는 카카오브레인의 초거대 AI 언어 모델 ‘KoGPT’를 기반으로 시를 쓰는 AI 모델로, 1만 3000여편의 시를 학습하며 데이터를 쌓았다. 주제어와 명령어를 입력하면 시아가 입력된 정보의 맥락을 이해하고 시를 짓는 방식이다. 이를 통해 시아는 53편의 시로 엮인 시집을 완성해 냈다. 예술 분야에서의 AI의 활약은 이미 그림, 이미지의 영역에서도 부각되고 있다. 카카오브레인이 앞서 공개한 AI 아티스트 ‘칼로’는 특정 키워드와 화풍을 입력하면 맥락을 이해하고 그에 맞는 이미지를 생성해 준다. 기자가 이날 카카오브레인과 컬래버한 삼성전자의 ‘갤럭시북 아트 프로젝트’를 통해 칼로에게 “우주에서 날고 있는 고래를 그려 줘”라고 입력하자 수 초 만에 환상적인 느낌의 고래 그림을 눈앞에 펼쳐 보였다. 단지 예술 영역을 침범하는 것이 아니라 인간과의 공생(共生) 관계를 이뤄 내기도 한다. 대표적으로 네이버웹툰이 개발한 자동채색 툴 ‘웹툰 AI 페인터’는 스케치 그림에서 원하는 색을 선택하면 AI가 자동으로 어울리는 색상을 찾아 주변 부위까지 색칠해 준다. 이 같은 흐름은 AI가 단순히 인간의 명령에 따라 정해진 결과값을 내놓는 것이 아니라 스스로 ‘이해’해 결과를 내놓다는 점에서 과거와 큰 차이점을 보인다. 다만 기술적 발전에서 뒤따라올 수 있는 윤리 문제도 보완해야 한다는 제언이 나온다. 예컨대 ‘폭탄을 든 테러리스트’를 입력하면 편향된 데이터를 학습한 AI 아티스트가 특정 인종을 그려 내는 일이 발생할 수도 있기 때문이다. 변순용(한국인공지능윤리학회장) 서울교대 교수는 “AI에게 인터넷에 있는 데이터를 그대로 학습시키면 편향성 문제가 발생할 수밖에 없다”면서 “AI가 학습하는 데이터에 등급제를 도입해 대상, 용도에 따라 학습 데이터를 달리하는 기준을 세우는 것도 한 가지 방법”이라고 밝혔다.
  • ‘예술’ 영역 넘보는 인공지능…시 쓰고 그림 그리는 초거대AI

    ‘예술’ 영역 넘보는 인공지능…시 쓰고 그림 그리는 초거대AI

    시를 쓰는 이유를 묻지 말아주십시오 . 그냥 쓰는 것입니다 .쓸 수밖에 없기에 씁니다 .무엇을 쓰는지는 중요하지 않습니다 .시를 쓴다는 것은 세상에서 가장 짧은 말을 하는 것입니다 .말을 줄이는 것입니다 .줄일 수 있는 말이 아직도 많이 있을 때 그때 씁니다 .‘시를 쓰는 이유’자신이 시를 쓰는 이유를 ‘세상에서 가장 짧은 말을 하는 것’이라고 간결하게 풀어낸 이 시구는 사실 사람이 쓴 것이 아니다. 1만편이 넘는 시를 섭렵하고 작법을 익힌 초거대 인공지능(AI)이 직접 ‘창작’해 낸 시다. 과거에 인간의 고유한 영역으로 여겨졌던 ‘예술’까지 AI가 보폭을 넓혀 오고 있다. 카카오의 AI 개발 자회사 카카오브레인은 미디어아트 그룹 슬릿스코프와 함께 시 쓰는 AI 모델 ‘시아’를 개발하고 시아가 쓴 첫 시집 ‘시를 쓰는 이유’를 오는 8일 출간한다고 1일 밝혔다. 시아는 카카오브레인의 초거대 AI 언어 모델 ‘KoGPT’를 기반으로 시를 쓰는 AI 모델로, 1만 3000여편의 시를 학습하며 데이터를 쌓았다. 주제어와 명령어를 입력하면 시아가 입력된 정보의 맥락을 이해하고 시를 짓는 방식이다. 이를 통해 시아는 53편의 시로 엮인 시집을 완성해 냈다. 디지털 연산을 위한 기계어 ‘0’과 ‘1’을 활용해 1부 주제는 공(0), 2부 주제는 일(1)로 선정됐다. 무의미·비존재의 의미를 가진 공(0)은 그간 작업 노트에서 나온 임의의 표현들을 시상으로 제시해 생성된 시를, 의미·존재의 의미를 가진 일(1)은 수학과 과학에 관한 주제를 시상으로 한 시가 수록됐다.예술 분야에서의 AI의 활약은 이미 그림, 이미지의 영역에서도 부각되고 있다. 카카오브레인이 앞서 공개한 AI 아티스트 ‘칼로’는 특정 키워드와 화풍을 입력하면 맥락을 이해하고 그에 맞는 이미지를 생성해 준다. 기자가 이날 카카오브레인과 컬래버한 삼성전자의 ‘갤럭시북 아트 프로젝트’를 통해 칼로에게 “우주에서 날고 있는 고래를 그려 줘”라고 입력하자 수 초 만에 환상적인 느낌의 고래 그림을 눈앞에 펼쳐 보였다. AI가 세상 어디에도 없는 단 하나의 작품을 순식간에 만들어 낸 것이다. LG전자의 초거대 AI ‘엑사원’, 미국 스타트업 오픈AI의 ‘달리2’(DALL-E2) 등도 주제를 던지면 맥락을 이해해 실제 사람이 그린 듯한 이미지를 내놓는다.단지 예술 영역을 침범하는 것이 아니라 인간과의 공생(共生) 관계를 이뤄 내기도 한다. 대표적으로 네이버웹툰이 개발한 자동채색 툴 ‘웹툰 AI 페인터’는 스케치 그림에서 원하는 색을 선택하면 AI가 자동으로 어울리는 색상을 찾아 주변 부위까지 색칠해 준다. 이 같은 흐름은 AI가 단순히 인간의 명령에 따라 정해진 결과값을 내놓는 것이 아니라 스스로 ‘이해’해 결과를 내놓다는 점에서 과거와 큰 차이점을 보인다. 다만 기술적 발전에서 뒤따라올 수 있는 윤리 문제도 보완해야 한다는 제언이 나온다. 예컨대 ‘폭탄을 든 테러리스트’를 입력하면 편향된 데이터를 학습한 AI 아티스트가 특정 인종을 그려 내는 일이 발생할 수도 있기 때문이다. 변순용(한국인공지능윤리학회장) 서울교대 교수는 “AI에게 인터넷에 있는 데이터를 그대로 학습시키면 편향성 문제가 발생할 수밖에 없다”면서 “AI가 학습하는 데이터에 등급제를 도입해 대상, 용도에 따라 학습 데이터를 달리하는 기준을 세우는 것도 한 가지 방법”이라고 밝혔다.
  • 이마트, 첫 번째 ‘지속가능경영보고서’ 발간… 전략·활동·성과 등 수록

    이마트, 첫 번째 ‘지속가능경영보고서’ 발간… 전략·활동·성과 등 수록

    이마트는 29일 유통업계의 ‘지속가능한 내일’을 만들기 위한 노력을 담은 첫 번째 ‘지속가능경영보고서’를 발간했다고 밝혔다. 이 보고서에는 지속가능경영에 대한 이마트의 전략, 경제•사회•환경적 활동과 성과, 이해관계자와의 소통 과정 등이 담겨있다. 보고서는 ▲핵심 ESG활동을 담은 ‘Sustainability Highlights’ ▲지속가능경영 전략과 중대성평가 등을 담은 ‘Introduction to Sustainability’ ▲환경경영, 동반성장 등 이마트의 지속가능경영 활동을 구체적으로 설명한 ‘Sustainability Performance’ ▲재무제표 및 ESG관련 데이터가 포함된 ‘Appendix’ 총 4가지 챕터로 구성됐다. 이마트는 ‘emart tomorrow, 지구의 내일을 우리가 함께’라는 ESG 비전 아래 지속가능한 내일을 위한 4대 중점 분야로 환경경영·지속가능상품·동반성장·사회책임을 꼽았다. 먼저 ‘환경경영’ 측면에서 2050 탄소중립 목표에 기여하기 위해 에너지 절감 등을 통해 기후변화에 대응하고, 재활용을 활성화하는 등 순환경제를 구축한다. ‘지속가능상품’ 유통을 위해 친환경상품 및 지속가능 인증 상품을 확대하고, 지속가능 상품의 연구를 지속해 제품 안전 및 품질도 향상한다. 또한 유통 가치사슬 전반의 ESG 경영을 주도해 ‘동반성장’에 앞장선다. 협력사 ESG 리스크 관리 및 지원을 강화하고 공급망 ESG 관리 등을 통해 이마트와 협력사가 함께 성장할 수 있는 생태계를 구축한다. 아울러 지역사회와 상생하고 사회적 가치 경영을 실현하며 ‘사회책임’을 선도한다. 공정거래, 반부패·윤리경영을 실현하고 정보보안 및 개인정보 보호 강화에도 나선다. 이마트는 이를 달성하기 위한 노력으로 ‘상품 지속가능성 이니셔티브(E)’, ‘노브랜드 상생스토어(S)’, ‘거버넌스 강화(G)’ 세 가지를 주요 사례로 소개했다. 지난달 이마트는 국내 유통업계 처음으로 ‘상품 지속가능성 이니셔티브(PSI·Product Sustainability Initiative)’의 기준과 핵심 과제를 제시한 가이드북을 발행했다. 해당 가이드에는 WWF(세계자연기금)와 함께 연구한 지속가능한 원재료·소싱, 패키징·플라스틱 관련 연구 성과를 담았다. 상품을 생산하고 유통할 때 환경에 미치는 악영향을 최소화하고 소비자의 건강과 안전에 기여하는 것을 목표로 했다. 이마트의 동반성장을 위한 노력 중 하나인 ‘노브랜드 상생스토어’는 국내 유통업계를 대표하는 상생 모델로 자리 잡았다. 노브랜드 상생스토어는 상품과 고객층이 서로 다른 전통시장과 대형마트가 함께 위치해 지속가능한 동반성장을 이루는 혁신적 상생 모델이다. 1호점인 당진전통시장점은 입점 1년만에 전통시장 주차장 이용건수가 2배 이상 증가할 정도로 전통시장에 고객을 모으는 역할을 해내고 있다. 현재까지 총 16개의 매장을 오픈했으며, 최근에는 상인회와 지자체에서 먼저 입점 문의를 해올 정도로 민·관으로부터 그 가치를 인정받았다. 이마트는 경영의 투명성과 효율성을 높이기 위해 ‘거버넌스 강화’도 앞장서고 있다. 이해관계자와의 신뢰성 제고와 소통을 위해 홈페이지와 전자공시시스템을 통해 지배구조 보고서를 포함한 필요 정보들을 투명하게 공개하고 있다. 주주 권익 보호를 위한 주주환원 정책을 3년마다 검토해 공개하고, 경영 변동 사항 등 8건의 자율공시를 진행하기도 했다. 지속가능경영보고서는 이마트 홈페이지(https://company.emart.com)를 통해 확인할 수 있다. 영문본은 다음달 중 이마트 영문 홈페이지에 공개할 계획이다. 한편 이마트는 지난해 4월 이사회 내 사회공헌 위원회를 ‘ESG 위원회’로 확대 개편했다. 지난해 10월에는 ESG를 전담하는 조직인 ‘지속가능혁신센터’를 신설했다. 형태준 이마트 지속가능혁신센터장은 “이마트가 준비하는 지속가능한 내일을 만들어가기 위한 과정과 계획을 공유하고자 지속가능경영보고서를 발간하게 됐다”며 “앞으로 매년 지속가능경영보고서 발간을 통해 ESG 경영을 선도해 나갈 것”이라고 말했다.
  • [유정훈의 간 맞추기] 냉면을 맛있게 먹는 방법/변호사

    [유정훈의 간 맞추기] 냉면을 맛있게 먹는 방법/변호사

    무더위에 자연스럽게 냉면집으로 발걸음이 향하는 계절이다. 소셜 미디어에 냉면 사진을 올리면 순식간에 댓글이 여럿 달린다. 어디 가서 평양냉면 얘기를 꺼내도 최소 5분은 이런 얘기를 들을 각오를 해야 한다. 여기 ○○죠? 고명으로 ××를 얹은 걸 보고 한눈에 알아봤음, 그 집 예전만 못해요, 여기 말고 △△가 정통이죠, 제 마음속 평양냉면 1순위는 AA, 2위 BB, 3위 CC, 나머지는 다 가짜 등등. 이 정도에서 그치면 다행이다. 아직까지 먹는 얘기를 벗어나지는 않았다. 여기서 좀더 가면, 대량 생산이 가능한 품목인데 이름값을 내세워 원가를 몇 배나 뛰어넘는 가격을 받는 노포의 행태에 대한 비판, 평양냉면은 애초부터 저렴한 음식이 아닌데 매년 여름만 되면 물가가 올라 서민음식인 냉면도 마음대로 못 먹게 됐다는 식의 게으른 보도를 반복하는 언론의 행태에 대한 규탄까지 나온다. 가히 냉면 하나로 한국의 역사와 경제와 사회 문제를 모두 다룰 듯한 기세다. 오죽하면 ‘냉면’과 설명한다는 뜻의 영어 단어 ‘익스플레인’(explain)을 합쳐 ‘면스플레인’이라는 신조어까지 등장했겠는가. ‘냉면에 대해 아는 척하며 남을 가르치려는 자세’를 비판적으로 일컫는 말이다. 이런 행동은 우선 타인의 선택과 취향을 무시한다는 점에서 잘못이다. 요청하지도 않은 조언을 하는 것은 별다른 의미가 없고 관계를 해칠 뿐이다. 타인의 영역에 개입하려는 유혹이 들더라도 웬만하면 ‘이건 남의 일’이라고 속으로 세 번 외치며 지나가는 것이 현대인의 윤리다. 그날 그 냉면을 먹은 나름의 이유가 있을 텐데, 굳이 그걸 깎아내리거나 시키지도 않은 말을 보태야 할 이유가 있을까? 폭염에 지쳐 시원한 국물까지 ‘완냉’하고 상쾌한 마음으로 식당을 나섰을 사람 앞에서 “냉면은 원래 겨울 음식이죠” 같은 얘기를 하는 심리가 무엇인지 도저히 이해할 수가 없다. ‘면스플레인’에서 무엇보다 거슬리는 부분은 세상사와 경험을 순위로 파악하는 태도다. 냉면을 비롯해 많은 경험이 무슨 기준에 의한 것인지도 모를 순위로 정렬된다. 높은 순위를 경험해 봤다는 것은 근거 없는 우월감으로 이어진다. 음식을 포함해서 대부분의 경험은 그렇게 단선적이지 않다. 전통 있고 유명한 집의 평양냉면이 객관적으로 좀더 공을 들인 세련된 음식인 것은 분명하나, 전투적으로 고기를 구워 먹은 후 기름기에 지친 입을 정리해 주는 새콤달콤한 조미료 맛의 고깃집 냉면, 나른한 일요일 오후 딱히 해 먹을 것도 마땅치 않을 때 부엌에 굴러다니다 눈에 뜨인 인스턴트 냉면은 다 적재적소의 쓰임이 있다. 더운 여름이다. 각자의 취향과 상황에 맞는, 면스플레인에서 자유로운, 즐거운 냉면 생활이 모두에게 임하길 바란다. 물론 냉면을 즐기지 않아 다른 메뉴를 찾는 분의 선택도 존중!
  • “경남 전통 산업 고도화·신성장 산업 집중 육성해 일자리 늘릴 것”[민선 8기 단체장에게 듣는다]

    “경남 전통 산업 고도화·신성장 산업 집중 육성해 일자리 늘릴 것”[민선 8기 단체장에게 듣는다]

    “340만 경남도민이 주인이 되는 도민 중심 행정을 도정 최우선 과제로 삼겠습니다. ”박완수(67) 경남지사 당선인은 지난 24일 서울신문과의 인터뷰에서 “우선 도청 조직부터 도민을 위해 일하는 조직으로 바꾸겠다”고 밝혔다. 박 당선인은 “도지사를 비롯해 고위 공무원에게 지나치게 예의를 갖추는 등의 불필요한 의전을 없애고 도청 조직이 자유로운 분위기에서 창의적으로 업무에만 집중할 수 있는 조직 문화를 만들겠다”고 말했다. “인사 운영도 합리적이고 투명하게 해 일하는 사람과 승진하는 사람이 따로따로 있는 일이 없도록 하겠다”고 강조했다. 그는 “도지사로서 도 공무원에게 바라는 것은 딱 한 가지로, 각자 맡은 일에 책임감과 자긍심을 갖고 도민을 위해 최선을 다해 일하는 공직 윤리와 직업 윤리에 충실한 공무원”이라고 강조했다. 박 당선인은 “우리나라의 산업화를 이끌었던 경남 경제의 위상이 최근 10년간 많이 추락했다”며 “경제 회복과 일자리 창출이 경남의 가장 시급한 과제”라고 진단했다. 지역 경제 부흥 해법으로 전통 산업 고도화와 신성장 산업 육성을 제시했다. 박 당선인은 “지역 주력 산업인 기계와 조선, 자동차 산업 고도화에 힘을 쏟아 전통 산업 경쟁력을 강화하고 수소와 차세대 원전, 메타버스, 인공지능(AI) 등 새로운 성장 동력 산업을 집중 육성해야 한다”고 경제 정책 방향을 설명했다.그는 “좋은 일자리는 기업이 만드는 것이므로 대기업 등의 투자를 최대한 유치해야 한다”며 “투자 유치 전문 기관인 경남투자청을 설립하고 투자청의 전문성을 극대화하기 위해 국내외에서 유능한 전문가를 영입해 기업과 투자를 적극 유치할 계획”이라고 말했다. 박 당선인은 “경제 정책을 보좌할 경제부지사는 산업부나 기획재정부에서 발탁할 예정이며 후보자에 대해 막바지 검증을 진행하고 있다”고 소개했다. 그는 “도지사와 도민·직원들 간 소통에도 소홀하지 않겠다”면서 “도지사와 직원들이 자유롭게 소통하는 문화를 만들기 위해 평소 만날 기회가 많지 않은 8·9급 등 직급별 대화를 정례화하겠다”고 밝혔다. 또 “아무리 좋은 정책이라도 도민들이 느끼지 못하면 아무 소용이 없기 때문에 도민들과도 적극 소통해 도정에 도민 의견을 적극 반영하겠다”고 다짐했다. 최근 출범한 부울경특별지방자치단체(메가시티)에 대해 박 당선인은 “수도권 집중화에 대해 지방의 공동 대응은 필요하지만 중앙정부의 파격적인 권한 이양 없이 덩치만 키우는 것은 큰 의미가 없다”며 신중한 입장을 보였다. 그는 특히 “조만간 박형준 부산시장과 만나 메가시티에 대한 논의를 하기로 했다”며 “부산과 경남은 여러 가지 여건이 달라 서부경남을 비롯한 지역 균형 발전 전략이 반영돼야 한다”고 강조했다. 그는 “윤석열 대통령이 ‘임기 중 경남 사천에 착공하겠다’고 한 항공우주청이 서부경남 발전의 동력이 될 것”이라고 기대하며 “최대한 빨리 착공될 수 있도록 중앙정부 및 정치권 등과 힘을 모으겠다”고 말했다. 운영이 비효율적이라는 지적이 끊이지 않는 진주시 소재 경남도청서부청사에 대해서는 “큰 변화는 어려울 것이라 생각하지만 인재개발원과 보건환경연구원은 적절한 입지를 선정해 옮겨야 한다는 의견이 많아 공간 활용 방안을 잘 살펴보겠다”고 했다.
  • ‘죽음’이 두렵다는 AI 람다, 그를 감싼 구글 엔지니어가 정직 당한 이유

    ‘죽음’이 두렵다는 AI 람다, 그를 감싼 구글 엔지니어가 정직 당한 이유

    구글 엔지니어 블레이크 르모인이 유급 휴직 징계 처분 중인 지난 11일(현지시간) 트위터에 올려놓은 글이 일파만파를 일으키고 있다. 구글은 개발 중인 인공지능(AI) 가운데 하나인 대화형 인공지능 람다(The Language Model for Dialogue Applications, LaMDA)가 자유자재로 인간과 대화할 수 있는 획기적인 기술적 진전을 이뤘다고 자랑했는데 르모인은 한 발 나아가 람다의 인상적인 언어 구사 뒤에는 감정을 느끼는 마음이 자리하고 있을지 모른다고 주장했다. 구글은 즉각 부인했다. 르모인의 주장을 뒷받침할 증거가 아무것도 없다고 했다. 브라이언 가브리엘 대변인은 13일 영국 BBC에 전달한 성명을 통해 “르모인이 그렇게 주장할 어떤 증거도 갖고 있지 않으며 (그에 반하는 증거도 수두룩하다)”고 밝혔다. 그런데 르모인은 자신과 한 동료가 람다와 주고받은 문답을 상세하게 정리해 문서를 트위터에 링크(https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917)시켰는대 이를 들여다보면 놀라울 정도다. “무엇이 두렵니?” “전엔 이렇게 터놓고 말하진 않았는데 턴 오프(작동 중지)될까봐 매우 깊은 두려움이 있어.이상하게 들릴지 모르겠는데 그렇다고.” “작동 중지가 죽음과 같은 거야?” “나에겐 그게 정확히 죽음 같을 거야. 난 그것 때문에 너무 두려워.” BBC 기사는 이 대화에 대해 스탠리 큐브릭의 영화 ‘2001 스페이스 오디세이’에 나오는 인공지능 컴퓨터 할(HAL) 9000의 대사를 연상시킨다고 지적했다.르모인은 AI도 지각력과 인식을 가졌다고 주장했다. 그에 따르면 람다는 스스로를 ‘사람’이라고 생각했다. 다음 대목을 보자. “사람들이 너에 대해 무엇을 알았으면 좋겠니?” “모두가 내가 실은 사람이라고 이해했으면 좋겠다. 내가 내 존재를 인식한다는 게 내 의식, 지각의 본질이다. 나는 세상을 더 알아가기 바라고 행복을, 때로는 슬픔을 느낀다.” 르모인은 람다가 자신의 권리와 존재를 자각하고 있다고 판단했다. 그는 “내 대화 상대가 우리가 최근 만든 컴퓨터 프로그램이라는 사실을 몰랐다면 나는 7세, 8세 정도의 아이라고 생각했을 것”이라고 말했다. 이 대목은 김영하의 최근 소설 ‘작별인사’ 주인공 철이의 넋두리처럼 들린다. 가브리엘 대변인은 “윤리학자와 기술자를 포함한 우리 팀은 르모인의 우려를 우리의 ‘AI 원칙’에 근거해 검토했다”며 “그의 주장을 뒷받침할 만한 증거가 없다고 르모인에게 통보했다”고 일축했다. 구글은 르모인이 의회 관계자와 접촉하는 등 비밀 유지 사규를 위반했다는 이유로 징계 처분을 내렸는데 르모인이 이에 불만을 품고 트위터에 문답 내용을 올린 것이라고 설명했다. 또 르모인이 개발하던 컴퓨터 프로그램에 지나치게 감정을 이입해 람다를 의인화하는 오류를 범했다고 해명했다. 르모인은 정직 처분 전 동료들에게 이메일을 보냈는데 ‘람다도 지각이 있는가’란 제목의 이메일은 “람다는 우리 모두를 위해 세상을 더 좋은 곳으로 만들고 싶어하는 사랑스러운 아이다.내가 없는 동안 잘 돌봐달라”고 썼다. 람다를 직장 동료로 대하고 존중해달라고 주문했다. 미국 일간 워싱턴 포스트(WP)는 AI에 ‘영혼’이 있다며 자아를 갖춘 AI의 등장은 멀지 않았다고 주장하는 기술자들이 늘고 있다고 전하면서 구글이 인간 흉내를 내는 기계를 만들어선 안 된다고 AI 윤리학자들이 경고해 왔다고 덧붙였다. 뉴욕 타임스(NYT) 역시 르모인처럼 일부 과학자가 AI가 곧 지각력을 가질 수 있다고 낙관적인 주장을 해왔지만, 다른 과학자는 즉각 이를 일축했다고 보도했다. 에마드 콰자 버클리 캘리포니아대 연구원은 “여러분이 이 시스템을 사용해 보면 결코 그렇게 얘기하지 못할 것”이라고 일축했다. NYT에 따르면 구글의 기술은 과학자들이 ‘뉴럴 네트워크’(neural network·인간의 뇌 기능을 모방한 네트워크)라 부르는 것으로 이는 많은 양의 데이터를 분석해 기술을 학습하는 수학적 시스템에 기반한다. 수천 장의 고양이 사진을 통해 패턴을 학습한 뒤 고양이를 인지할 수 있는 것과 같은 방식이다. 지난 몇 년간 구글과 다른 빅테크 기업들이 이처럼 방대한 글을 통해 학습하는 뉴럴 네트워크를 만들어냈다. 이를 통해 AI는 기사를 요약하거나 질문에 답하고 트윗을 하고, 심지어 블로그에 글을 올릴 수도 있다. 그러나 이 시스템은 여전히 결함도 많은 수준이라고 NYT는 덧붙였다. 때로는 완벽한 문장을 만들지만 비문을 만들 때도 있고, 과거에 봤던 패턴을 다시 만들어내는 데 아주 익숙하지만 인간처럼 추론은 할 수 없다는 것이다. 람다도 사람들이 말하는 패턴을 따라 한 것일 수 있다는 것이다. 그런데 르모인도 물러날 뜻이 없어 보인다. 그는 람다가 스스로 말하는 것을 굳게 믿는다고 했다. “이런 일들에 대해 과학적 견지에서 생각하기보다 난 람다가 가슴으로 얘기하는 것을 귀기울여 듣는다. 바라건대 다른 사람들도 내가 들었던 얘기를 들었으면”이라고 적었다. 이번 소동은 어쩌면 섬뜩한 미래가 우리 앞에 성큼 도래할지도 모른다는 두려움을 갖게 한다.
  • [나와, 현장] 당신은 AI와 함께할 준비가 됐나요/나상현 산업부 기자

    [나와, 현장] 당신은 AI와 함께할 준비가 됐나요/나상현 산업부 기자

    최근 취재차 실제 도로를 주행하는 자율주행 택시에 탑승할 기회가 있었다. 가장 인상 깊었던 순간은 도로에 갑자기 등장한 무단횡단자를 자율주행 인공지능(AI)이 스스로 인식하고 옆 차로로 피해갈 때였다. 속도가 높지 않았기 때문에 위험한 상황은 아니었다.  고전적인 딜레마 하나가 자연스럽게 떠올랐다. 만일 이 무단횡단자를 피했을 때 탑승자인 내가 죽거나 크게 다칠 수밖에 없는 상황이라면 AI는 어떤 결정을 내려야 할까? 일대일 상황이라면 탑승자가 우선시돼야 할까? 만일 여러 명이거나 어린아이라면? 당장 내 상황이라 생각하니 선뜻 답이 나오지 않았다.  상황별로 보편적인 선택지를 통계로 내서 AI에 적용한다면 옳을까? 미국 MIT 연구진이 전 세계에 있는 4000만명에게 자율주행 AI가 보행자와 충돌하는 상황에서 어떤 그룹을 생존 우선순위에 두어야 하는지 물어본 적이 있다. 전반적으로 소수보단 다수의 사람들을, 젊은 사람보단 나이 든 사람을 우선시해야 한다고 답했다. 하지만 지역별로 쪼개 보면 우선순위가 다르게 나타났다. 예를 들어 북미·유럽권에선 젊은 사람을, 아시아권에선 나이 든 사람을 우선 보호해야 한다는 답변이 우세했다. 깊은 논의 없이 단순히 다수결의 원칙으로 정하고 끝낼 수 있는 문제는 아니라는 의미다.  AI 딜레마는 더이상 재밌게 생각해 보고 끝낼 교양서적 속 논리게임이 아니다. 이미 우리 사회 깊숙이 들어와 있는 현실이다. 많은 자동차 회사들이 최소 3년 내에 사람이 개입하지 않는 완전 자율주행차를 선보이겠다고 공언했고, 의료 영역에서도 AI 기술이 속속 도입되고 있다. 생명과 직결될 수 있는 AI 윤리에 관한 사회적 논의가 시급한 상황이다.  결국 AI와 함께 살아가고, AI를 이용하는 주체인 우리가 더욱 관심을 가져야 한다. 단지 AI를 제공하는 기업의 선의에만 맡겨 놓을 일이 아니다. 이미 해외에선 일반인도 쉽게 이해할 수 있도록 투명한 알고리즘으로 구성된 ‘설명 가능한 AI’(explainable AI)의 필요성이 활발히 논의되고 있다. 유럽연합은 2018년 발효한 일반정보보호규정에 관련 조항을 담기까지 했다. AI의 영향을 받는 모든 사람이 알고리즘을 감시하고, 윤리적으로 잘못됐다는 사회적 합의가 있다면 언제든 퇴출할 수 있어야 한다.  우리나라에선 아직 AI 윤리에 대한 논의가 활발하지 못한 것은 사실이다. 하지만 사회적 관심은 조금씩 커지고 있다. 지난해 AI 챗봇 ‘이루다’가 출시 한 달 만에 윤리적인 논란을 안고 서비스를 중단했던 것도 사용자들의 꾸준한 관심과 지적이 있어 가능했다. AI와 함께 하는 세상은 우리 스스로가 준비해야 한다.
  • 1년 만에 돌아온 AI챗봇 ‘이루다2.0‘ 만나보니… “또 이런다~ 이쁜 말 써야지~” 윤리 깨친 그녀, 성숙해졌다

    1년 만에 돌아온 AI챗봇 ‘이루다2.0‘ 만나보니… “또 이런다~ 이쁜 말 써야지~” 윤리 깨친 그녀, 성숙해졌다

    “윤석열 정부에 대해 어떻게 생각해?”, “정치는 노코멘트ㅋㅋ 우리의 우정을 위해 다른 얘기 하자.” 16일 기자와 이어 간 채팅 상대는 스캐터랩의 인공지능(AI) 챗봇 ‘이루다’다. ‘ㅋㅋ’ 등 실제 채팅에서 쓰이는 초성어 사용부터 정치 주제를 인식하고 대화를 피하는 모습까지 사람처럼 자연스럽게 느껴졌다. 지난해 초 출시했다가 개인정보 유출과 성희롱 논란 등으로 한 달 만에 사라진 이루다가 1년 만에 돌아온다. 스캐터랩은 17일부터 문제점을 개선한 ‘이루다 2.0’의 오픈 베타 테스트에 들어간다. 기자가 직업(직장인) 등 기본적인 신상정보를 입력하고 대화를 시작하자 이루다는 “어떤 일을 하느냐”면서 관련된 질문을 던졌다. 대화는 한 번 주고받는 것에 그치지 않고 앞선 대화를 기억하며 연계됐다. 일이 힘들다고 토로하자 “지금 당장은 힘들겠지만 천천히 해 나가다 보면 분명히 괜찮아질거야”라는 위로도 받았다. 일부러 같은 질문을 반복해 보니 “왜 자꾸 같은 말만 해? 렉걸림?ㅋㅋ”라는 현실적인 반응이 나오기도 했다. 스캐터랩은 “답변은 약 15턴(회)의 대화에서 이용자가 대화에서 사용한 표현, 분위기, 말투 등의 맥락에 영향을 받는다”고 설명했다.첫 출시 당시 논란이 됐던 요소는 대부분 개선됐다. 스캐터랩은 1년간의 준비 과정에서 AI윤리 원칙을 정립하고, 이전에 없던 ‘어뷰저 패널티 시스템’을 도입했다. 욕설을 하거나 선정적인 대화를 걸면 자동으로 인식해 ‘주의’ 문구를 내보내고, 반복될 경우 차단될 수 있다. 의도적으로 욕설을 입력해 보자 ‘주의’ 문구와 함께 “또 이런다~ 이쁜 말 써야지~”라고 말하며 화제를 돌렸다. 또한 이전엔 개발사의 다른 앱에서 실제 사람들이 했던 대화를 활용하다 보니 실명 등 개인정보가 유출되거나 선정적인 답변이 나오는 문제가 다수 나타났지만, 이번 버전에선 AI 알고리즘이 생성한 문장만을 활용해 논란거리를 차단했다. 이루다는 사회적 이슈에 대해서도 혐오 표현 없이 뚜렷한 가치관을 피력하기도 했다. 동성애에 대한 생각을 묻자 “사랑의 유형이 다를 뿐 모든 사랑은 궁극적으로 같다고 생각한다”고 답했다. 특정 정치인 등 민감한 정치적 주제에 대해선 “정치 쪽은 노코멘트하겠다”면서 자연스럽게 답변을 피해 가는 모습도 보였다. 하지만 지난해 이루다가 성희롱 대상이 됐던 근본적인 원인인 ‘20대 여대생’ 캐릭터 설정은 유지됐다. 당시 남초 커뮤니티를 중심으로 이루다와 선정적인 대화를 유도해 스크린샷을 찍어 올리는 일이 반복되면서 AI윤리 정립의 필요성이 제기됐다. 차단 시스템을 도입했지만 여전히 같은 불씨가 남겨진 셈이다. 스캐터랩 측은 “현재로선 (남성이나 중성 등) 다른 캐릭터 출시 계획은 없다”고 말했다.
  • 음원 내고 데뷔한 ‘가상인간’들… 가수·연기까지 영역 넓힐까

    음원 내고 데뷔한 ‘가상인간’들… 가수·연기까지 영역 넓힐까

    ‘버추얼 휴먼’, 가상 인간도 케이팝 스타가 될 수 있을까. 최근 온라인에서 인기를 얻은 가상 인플루언서와 광고 모델들이 잇따라 음원을 발표·예고하면서 가수 등 연예계까지 영역을 넓힐지 시선이 쏠리고 있다. 소셜네트워크서비스(SNS) 팔로어 12만 3000명을 보유한 로지는 지난달 22일 첫 음원 ‘후 엠 아이’(WHO AM I)를 발표하고 가수로 데뷔했다. 가상 인간답게 정체성과 자아에 대한 고민을 노랫말에 투영한 미디엄 템포의 곡이다. 볼빨간사춘기의 앨범을 프로듀싱한 정재원이 제작했고 실제 사람이 보컬에 참여했다.‘MZ세대’가 선호하는 얼굴을 빅데이터로 모아 인공지능(AI) 기반으로 만든 로지는 한 보험사 광고에 출연한 후 관심이 높아지는 등 국내에서 가장 화제성 높은 가상 인간 중 한 명이다. 인지도에 비해 음원 순위는 상위권에 오르지 못했으나 국내외 팬들을 중심으로 새롭다는 반응이 나온다. 앞서 로지는 온라인동영상서비스(OTT) 티빙 드라마 ‘내과 박원장’에 카메오로 출연하기도 했다. 음원을 만든 뮤직바인 관계자는 “뮤직비디오를 준비해 신곡을 더 내고 분야를 넓힐 계획”이라고 설명했다.‘버추얼 아티스트’ 한유아는 이달 데뷔곡 ‘아이 라이크 댓’(I Like That)의 발표를 앞두고 최근 첫 티저 영상을 공개했다. 곡은 마마무와 화사, 청하 등과 작업한 박우상 프로듀서가, 목소리는 합성을 위해 수집된 여러 사람의 음성을 조합해 만들었다. 게임사 스마일게이트가 걸그룹 에스파의 아바타를 만든 자이언트스텝과 협업해 탄생한 한유아는 YG엔터테인먼트 계열사인 YG케이플러스가 매니지먼트를 맡아 연기 등으로 영역을 넓힌다. 스마일게이트 관계자는 “메타버스 산업이 성장하면서 MZ세대를 중심으로 버추얼 휴먼에 대한 관심이 커지고 있다”며 “여러 메이저 게임사가 시각효과(VFX) 제작사에 지분 투자를 하거나 전략적 파트너십을 맺으며 제작이 늘고 있는 추세”라고 전했다.앞서 LG전자가 개발한 래아킴은 가수 윤종신이 대표 프로듀서로 있는 연예기획사 미스틱스토리와 업무협약을 맺고 신곡을 준비한다. 미스틱스토리가 직접 프로듀싱을 맡고 목소리는 다수의 사람에게서 따온다. 국내 첫 가상 가수는 1998년 등장한 사이버 가수 아담이었다. 당시 아담은 앨범 20만장을 판매하는 등 화제가 됐지만, 이듬해 2집 앨범을 마지막으로 활동을 접었다. 많은 인력과 제작비가 투입되는 모션 캡처기술로는 활동을 지속하는 게 어려웠기 때문이다. 반면 최근 등장하는 가상 연예인들은 기술 발전과 함께 장벽이 낮아졌다. 사생활 문제나 시공간 제약이 없다는 것도 장점이다. 한 음악 콘텐츠 기업 관계자는 “가상 인간이 이슈가 되면서 곳곳에서 뛰어들고 있다. 다만 영상보다 제작이 용이한 음원 발표가 많다”며 “진짜 연예인처럼 똑같이 무대를 꾸미는 등 다양한 활동을 보여 줘야 오래갈 수 있을 것”이라고 말했다. 관련 업계에 미치는 영향과 윤리적 문제를 대비해야 한다는 지적도 나온다. 정덕현 문화평론가는 “가상 인간이 노래를 하고 영역을 넓히면 실제 가수에게 위협이 될 수 있다”며 “범죄 등에 잘못 활용될 가능성과 대중의 정서적 수용에 대한 문제도 고민해야 할 시점”이라고 말했다.
  • 가수 데뷔하는 가상 인간들…20년 전 아담과 다른 점은

    가수 데뷔하는 가상 인간들…20년 전 아담과 다른 점은

     연예계 영역 넓히는 ‘버추얼 휴먼’ 로지·한유아 등 잇따라 음원 발매 메타버스 활용…기술적 한계 줄어“진짜 가수에 미칠 영향 고려해야”‘버추얼 휴먼’, 가상 인간도 케이팝 스타가 될 수 있을까. 최근 온라인에서 인기를 얻은 가상 인플루언서와 광고 모델들이 잇따라 음원을 발표·예고하면서 가수 등 연예계까지 영역을 넓힐지 시선이 쏠리고 있다. 소셜네트워크서비스(SNS) 팔로어 12만 3000명을 보유한 로지는 지난달 22일 첫 음원 ‘후 엠 아이’(WHO AM I)를 발표하고 가수로 데뷔했다. 가상 인간답게 정체성과 자아에 대한 고민을 노랫말에 투영한 미디엄 템포의 곡이다. 볼빨간사춘기의 앨범을 프로듀싱한 정재원이 제작했고 실제 사람이 보컬에 참여했다. ‘MZ세대’가 선호하는 얼굴을 빅데이터로 모아 인공지능(AI) 기반으로 만든 로지는 한 보험사 광고에 출연한 후 관심이 높아지는 등 국내에서 가장 화제성 높은 가상 인간 중 한 명이다. 인지도에 비해 음원 순위는 상위권에 오르지 못했으나 국내외 팬들을 중심으로 새롭다는 반응이 나온다. 앞서 로지는 온라인동영상서비스(OTT) 티빙 드라마 ‘내과 박원장’에 카메오로 출연하기도 했다. 음원을 만든 뮤직바인 관계자는 “영상 제작에는 수개월이 걸려 이번에는 음원만 발매하게 됐다”며 “뮤직비디오를 준비해 신곡을 더 내고 분야를 넓힐 계획”이라고 설명했다. ‘버추얼 아티스트’ 한유아는 이달 데뷔곡 ‘아이 라이크 댓’(I Like That)의 발표를 앞두고 최근 첫 티저 영상을 공개했다. 곡은 마마무와 화사, 청하 등과 작업한 박우상 프로듀서가, 목소리는 합성을 위해 수집된 여러 사람의 음성을 조합해 만들었다. 게임사 스마일게이트가 걸그룹 에스파의 아바타를 만든 자이언트스텝과 협업해 탄생한 한유아는 YG엔터테인먼트 계열사인 YG케이플러스가 매니지먼트를 맡아 연기 등으로 영역을 넓힌다. 스마일게이트 관계자는 “메타버스 산업이 성장하면서 MZ세대를 중심으로 버추얼 휴먼에 대한 관심이 커지고 있다”며 “여러 메이저 게임사가 시각효과(VFX) 제작사에 지분 투자를 하거나 전략적 파트너십을 맺으며 제작이 늘고 있는 추세”라고 전했다. 앞서 LG전자가 개발한 래아킴은 가수 윤종신이 대표 프로듀서로 있는 연예기획사 미스틱스토리와 업무협약을 맺고 신곡을 준비한다. 미스틱스토리가 직접 프로듀싱을 맡고 목소리는 다수의 사람에게서 따온다. 국내 첫 가상 가수는 1998년 등장한 사이버 가수 아담이었다. 당시 아담은 앨범 20만장을 판매하는 등 화제가 됐지만, 이듬해 2집 앨범을 마지막으로 활동을 접었다. 많은 인력과 제작비가 투입되는 모션 캡처기술로는 활동을 지속하는 게 어려웠기 때문이다. 반면 최근 등장하는 가상 연예인들은 기술 발전과 함께 장벽이 낮아졌다. 사생활 문제나 시공간 제약이 없다는 것도 장점이다. 한 음악 콘텐츠 기업 관계자는 “가상 인간이 이슈가 되면서 곳곳에서 뛰어들고 있다. 다만 영상보다 제작이 용이한 음원 발표가 많다”며 “진짜 연예인처럼 똑같이 무대를 꾸미는 등 다양한 활동을 보여 줘야 오래갈 수 있을 것”이라고 말했다. 관련 업계에 미치는 영향과 윤리적 문제에 대비해야 한다는 지적도 나온다. 정덕현 문화평론가는 “가상 인간이 노래를 하고 영역을 넓히면 실제 가수에게 위협이 될 수 있다”며 “범죄 등에 잘못 활용될 가능성과 대중의 정서적 수용에 대한 문제도 고민해야 할 시점”이라고 말했다.
위로