사용자 따라 가짜뉴스 등 부작용인공지능 개발 미중 양강 구도로 “빅테크 기업인 구글, IBM은 물론 대형은행 웰스파고와 세계 최대 명품 기업 루이비통모에헤네시(LVMH) 등 세계적 기업 10여곳이 ‘인간 중심적 인공지능(AI)’ 개발에 참여 중이다. 미국의 고유한 문화적 가치에 첨단 AI 기술을 접목한 제품과 서비스를 내놓기 위해서다.” 25일 서울 중구 웨스틴조선호텔에서 열린 ‘2023 서울미래컨퍼런스’ 기조강연자로 나선 제임스 랜데이(인간 중심 AI연구소 부소장) 미국 스탠퍼드대 컴퓨터공학과 교수는 ‘착한 인공지능의 한계: 인간 중심 인공지능을 향하여’라는 주제로 기조발표를 마친 뒤 서울신문과의 인터뷰에서 ‘인간 중심적 AI’ 개발에 대한 산업계의 관심이 높다고 밝혔다. 랜데이 교수가 부소장으로 있는 인간 중심 AI연구소는 인간 중심적 가치를 내장한 AI 기술을 확산시킨다는 목표를 갖고 있다. 이미 AI를 활용한 제품과 서비스가 시판되고 있으나 사회적 부작용도 만만찮을 것으로 예상되는 만큼 이를 사전에 대비해 개발 단계부터 착한 AI를 기획한다는 것이다. 랜데이 교수는 “AI가 스스로 인류의 통제를 벗어나 전 세계를 장악한다는 소설 같은 이야기는 전혀 현실적이지 않다”고 선을 그으면서도 대중에 무료 공개된 AI 기술을 나쁜 의도를 가진 이용자들이 악용해 사회에 해를 끼칠 수 있다고 우려했다. AI를 활용해 소셜미디어(SNS)로 허위 정보를 대량 배포하거나 성적 수치심을 일으키는 사진을 만들어 협박하는 범죄는 이미 현실로 다가왔다. 랜데이 교수는 “인간을 표적으로 삼아 자동으로 폭발물을 터뜨리는 방식으로 AI가 전쟁에서 대량 살상 무기로 활용될 수도 있다”면서 “AI는 전 세계 국가의 안보와 국방에 큰 영향력을 미치는 단계로 접어들고 있다”고 진단했다. 전 세계 AI 개발이 미중 양강 구도로 확고하게 수렴하고 있다는 진단도 내놨다. 미국이 선두를 이끄는 상황에서 중국이 국가적 차원의 투자로 AI 산업을 육성한 결과 유리한 위치를 차지하고 있다는 설명이다. 그는 “한국 역시 AI 시스템에 자국의 문화와 가치를 내재하는 기술 개발에 관심을 기울여야 할 것”이라고 말했다.

지난 1일 중국 항저우 아시안게임 축구 8강 한중전 당시 포털 ‘다음’의 ‘클릭응원’ 90% 이상이 중국에 몰리며 정부와 여당의 다음 ‘때리기’는 절정을 맞았다. 논란은 국정감사를 거치며 하나둘 추가되고 있다. 총선을 앞두고 안 그래도 포털 견제에 쌍심지를 켠 정치권인데, 하필 한중전에서 중국을 응원하는 클릭이 폭발하다니. 방송통신위원회로부터 긴급 보고를 받은 한덕수 국무총리는 “방통위를 중심으로 법무부, 과학기술정보통신부, 문화체육관광부 등 유관 부처와 함께 ‘여론 왜곡 조작 방지 대책’을 마련하기 위한 범부처 태스크포스(TF)를 시급히 구성하라”고 지시했다. 방통위 측에선 “해외 세력이 가상사설망(VPN)을 악용해 우회 접속하거나 매크로 조작으로 중국 응원 댓글을 대량 생성하는 방법을 사용했다”고 분석했다. 댓글이 아니라 클릭인데. 국민의힘 김기현 대표는 페이스북에 “다음이 여론조작의 숙주 역할을 하고 있다. 여론조작의 망령이 되살아나고 있는데, 발본색원해 엄단하겠다”고 썼다. 그런데 과연 그렇게 무시무시한 일이었을까. 당시 한 커뮤니티 사용자가 “축구 응원 주작(없는 사실을 꾸며 만듦) 중”이라며 “인터넷프로토콜(IP) 두 개로 돌리고 있다”고 쓴 게시물 캡처 이미지가 돌아다녔다. 이런 일은 처음이 아니다. 지난해 9월 카메룬 상대 A매치 평가전에서도, 직전 16강 키르기스스탄전에서도 클릭응원이 상대팀에 몰렸다. 사건이 장난이었을지, 정말 반국가 세력의 획책이었을지는 경찰이 조사 중이니 조만간 드러날 테다. 하지만 이와 별개로 안타까운 점은 카카오 측 설명에 나타난 클릭응원 참여 IP가 단 5591개에 불과했다는 것이다. 다음 클릭응원은 로그인을 하지 않아도 참여할 수 있는데, 로그인을 해야 적을 수 있는 네이버의 같은 경기 ‘응원 오픈톡’ 3만 9847개의 약 7분의1에 불과했다. 축구가 여론조작을 운운할 분야도 아니지만 ‘여론’이라고 하기엔 포털 다음이 너무 주목을 받지 못하고 있다는 걸 보여 준 수치다. 다음은 여권이 두려워했던 진보 여론의 집결지가 더이상 아니다. 이명박 정부를 비판하던 토론이 항상 벌어지던 ‘아고라’는 2019년 문을 닫았다. ‘드루킹’이 여론조작에 이용했던 뉴스 댓글도 지난 6월부터는 24시간 동안만 남는 ‘타임톡’으로 바뀌며 사실상 없어졌다. 클릭응원도 즉각 폐지됐다. 정치권의 공격을 받기 시작하면 즉각 폐지하는 게 요즘 포털의 자세다. 십수년의 경험에 기반한 최선의 선택이다. 이는 네이버도 마찬가지다. 카카오 입장에서도 참 난처한 존재다. 검색 점유율은 5%가 안 된다. 매출은 계속해서 내리막이고 주력 서비스 카카오톡과의 시너지도 나지 않으니 사내 독립기업(CIC)으로 떼어냈다. 그렇다고 분사시키기도 곤란하다. 요즘 저마다 생성형 인공지능(AI)을 개발하는데, 대규모언어모델(LLM) 학습에 포털만 한 게 또 없다. 마이크로소프트, 구글, 애플, 테슬라를 보면 정보통신기술(ICT) 분야에서 한번 기술을 선점하면 그게 얼마나 오래가는지 알 수 있다. 다행히 생성형 AI는 아직 글로벌 빅테크들도 시작 단계다. 한국에 이들과 맞설 기업이 몇 개나 될까. 작은 손, 미운 손이라도 모두 보태야 할 순간이다. 이제 그만 다음을 놔줄 때다.

지난 7월 개봉한 액션 영화 ‘미션 임파서블: 데드 레코닝’에는 주인공인 이선 헌트(톰 크루즈)가 맞서 싸우는 ‘최강 빌런’(악당)으로 인공지능(AI) 엔티티가 등장한다. 엔티티는 전 세계의 모든 디지털 기기에 접속해 데이터나 시스템을 마음대로 이용·조작할 수 있을 뿐 아니라 수없이 많은 시뮬레이션과 계산으로 미래를 내다볼 수 있는 능력까지 갖춘 초월적인 존재로 그려진다. 목소리도, 형체도 없이 공간을 넘나들며 앞날을 예견하는 신과 같은 존재와 싸워야 하는 잘생긴 헌트의 미간 주름이 유난히 깊어 보였던 것은 기분 탓일까. 그런가 하면 최근에는 전기차 업체 테슬라의 최고경영자(CEO) 일론 머스크가 서방 국가들의 ‘빌런’으로 떠올랐다. 머스크는 지난해 2월 러시아가 우크라이나를 침공하면서 현지의 인터넷 통신망이 끊길 위기에 처하자 자신의 민간 우주기업 스페이스X가 운영하는 스타링크의 위성통신 서비스를 무료로 제공하며 일약 ‘영웅’이 됐다. 그러나 그가 크림반도에 주둔한 러시아 해군을 향한 우크라이나의 기습 공격을 막기 위해 일대의 통신망을 활성화해 주지 않은 사실이 드러나면서 분위기는 급반전됐다. 여기엔 러시아의 핵 공격을 우려한 그의 판단이 작용했다고 전해졌다. 바야흐로 막강한 기술을 가진 개인이 시장뿐 아니라 국가의 운명까지 좌우할 수 있는 시대가 된 것이다. 최근 AI와 같은 첨단기술이 산업계의 화두다. 정보통신기술(ICT) 업계뿐 아니라 제조업, 각종 하드웨어 산업에서도 AI를 미래 먹거리로 선포하고 나섰다. 하늘을 나는 택시, 로봇 비서 등 어릴 적 공상과학(SF) 영화에서 보던 풍경이 눈앞에 펼쳐지는 것도 가까운 미래가 됐다. 그러나 빠른 시장 변화와 기술의 발전은 보안이나 사생활 침해, 범죄의 악용, 저작권 문제 등 다뤄야 할 과제가 그만큼 기하급수적으로 늘어나고 있다는 의미이기도 하다. 우리가 이전에 겪지 못한 새로운 형태의 디지털 재난을 대비해야 한다는 경고도 나온다. 지난 10일 문화체육관광위원회 국정감사장에서는 가수 김광석의 ‘서른 즈음에’를 구성지게 부르는 유인촌 문체부 장관의 딥페이크(AI를 기반으로 한 인간 이미지 합성 기술) 영상이 공개됐다. 당시 장내에선 웃음이 터져 나왔지만, 누구나 타인의 모습을 만들어 낼 수 있게 됐다는 명제는 웃어 넘길 수만은 없는 지점이다. 신기술의 등장은 늘 규제와 혁신이라는 두 가치를 충돌시킨다. 세계 각국은 이미 AI 규범 마련에 돌입한 상태다. 국내에서도 과학기술정보통신부에서 연내 ‘AI 법제 정비 로드맵’을 발표할 계획이다. 업계에서는 하향식 규제가 혁신의 싹을 누를까 우려하는 목소리도 나온다. 샘 올트먼 오픈AI CEO가 “기술은 규제하면 우회해서 발전한다”면서 “기술 자체가 아니라 기술을 활용하는 사례를 규제해야 한다”고 말한 것도 같은 맥락이다. 모두가 ‘일상을 바꾸는 기술’을 이야기하는 시대다. 그러나 우리 사회는 송두리째 달라진 일상을 맞이할 준비가 얼마나 돼 있을까. 새로운 기술로 산업의 꽃은 피우되 악용되는 것은 막을 기준. 참 어려운 숙제를 받아들었다.

미국 시카고 근교에서 이슬람교도를 향한 증오범죄로 팔레스타인계 6세 소년이 흉기에 찔려 숨지는 사건이 발생했다. 미국 당국은 이스라엘과 하마스 간 무력 충돌을 계기로 자국 내 유대인, 이슬람교도를 향한 범죄 확산 우려가 커지자 경계 강화에 나섰다. 일리노이주 윌 카운티 경찰은 15일(현지시간) 1급 살인, 증오범죄 등의 혐의로 조셉 추바(71)를 체포해 조사 중이라고 뉴욕타임스(NYT) 등이 전했다. 미 최대 무슬림 단체인 미국이슬람관계위원회(CAIR)에 따르면 추바는 사망한 소년과 어머니가 세 들어 살던 집 주인으로, 중동 관련 뉴스를 보고 화가 나 범행을 저지른 것으로 전해졌다. 그는 전날 소년 집 문을 두드린 뒤 어머니가 문을 열어 주자 “무슬림은 죽어야 된다”고 소리치며 그녀의 목을 조르고 공격했다. 가까스로 피한 모친이 경찰에 신고했지만 소년은 흉기에 26곳을 찔려 병원으로 옮겨진 뒤 숨졌다. 현지 경찰은 “용의자가 두 피해자를 이슬람교도라는 이유로 잔인하게 공격했다”고 밝혔다. 미 연방수사국(FBI)은 미국 내 유대인, 이슬람교도에 대한 위협이 증가하면서 경계를 강화했다. 크리스토퍼 레이 FBI 국장은 이날 브리핑에서 “하마스나 다른 외국 테러조직이 이번 분쟁을 악용해 지지 세력에게 미 영토에 대한 공격을 요청할 가능성을 무시할 수 없으며 무시하지도 않는다”고 말했다. FBI는 종교 지도자들에게 연락해 지역사회의 잠재적 위협을 논의하는 한편 유대교, 이슬람교 종교시설을 보호하기 위해 경찰과도 협력하고 있다. 조 바이든 미 대통령은 이날 성명에서 “질(영부인)과 나는 충격을 받았고 진저리가 났다”고 비난하며 “유족과 팔레스타인인, 아랍인, 미국 내 무슬림 공동체에 위로와 기도를 보낸다. 이 끔찍한 증오 행위는 미국에서 설 자리가 없다”고 강조했다. 흑백 인종 갈등에 이어 화약고였던 유대계와 이슬람 사이 갈등이 충돌로 불거질 우려도 높아지고 있다. 미 뉴욕 도심에선 지난 13일 이스라엘 및 팔레스타인 지지 집회가 동시에 벌어지며 양측의 난폭 행위로 60여명이 체포됐다.

팔레스타인계 美 6세 소년 증오범죄에 희생70대 범인 “무슬림은 죽어야 해” 외치며 공격숨진 소년 26군데 자상…모친도 중상FBI “이스라엘-하마스전쟁 후 위협 증가 추적” 팔레스타인계 미국인 소년이 이슬람교도를 향한 잔인한 증오의 칼날에 희생됐다. 미 당국은 이스라엘과 팔레스타인 무장정파 하마스 간 전쟁 발발 이후 미국 내 유대인과 이슬람교도를 겨냥한 위협이 증가하고 있다고 보고, 경계를 강화하고 나섰다. 15일(현지시간) 미국 뉴욕타임스(NYT) 보도와 현지 경찰 발표에 따르면 일리노이주 윌 카운티 경찰은 1급 살인 및 살인미수 등 혐의로 조셉 추바(71)를 체포해 조사 중이다. 경찰은 증오범죄 혐의도 적용했다. 추바는 지난 14일 시카고 남서부 근교의 플레인필드 타운십의 한 주택에서 팔레스타인계 미국인 소년 와데아 알 파유메(6)를 흉기로 찔러 살해하고, 소년의 어머니(32)를 상해했다. 그는 이들 모자가 세 들어 살던 주택의 집주인이다.미 최대 무슬림 단체인 미국이슬람관계위원회(CAIR)는 소년의 어머니가 병원에서 남편에게 보낸 메시지를 토대로, 추바가 중동 관련 뉴스를 보고 화가 나 범행을 저질렀다고 전했다. CAIR에 따르면 집주인 추바는 소년의 집 문을 두드린 뒤 어머니가 문을 열어주자 “너희 무슬림들은 죽어야 해!”라며 소년의 어머니 목을 조르고 흉기를 휘둘렀다. 소년의 어머니는 911 신고를 위해 화장실로 몸을 피했으나, 그 짧은 사이 추바는 소년을 공격했다. 소년의 어머니는 남편에게 보낸 문자메시지에서 신고 후 화장실 밖으로 나왔을 때 추바가 아들을 흉기로 찔렀다는 것을 알았다며 “모든 일은 단 몇 초 만에 일어났다”고 설명했다. 현지 경찰은 추바가 휘두른 흉기에 소년은 26군데 자상을 입었으며, 병원으로 옮겨졌지만 끝내 숨을 거뒀다고 밝혔다. 소년의 어머니도 추바의 공격으로 12군데 이상 자상을 입고 심각하게 다쳤으나 다행히 생명에는 지장이 없는 것으로 전해졌다.현지 경찰은 “용의자는 하마스와 이스라엘 간 분쟁이 진행 중인 가운데 두 피해자가 이슬람교도라는 이유로 잔인하게 공격했다”라고 설명했다. CAIR 시카고지부는 성명을 내고 “최악의 악몽이 벌어졌다”며 “무거운 마음으로 소년과 그의 어머니를 위해 기도한다”라고 말했다. 미 연방수사국(FBI)은 이스라엘과 하마스 간 전쟁 발발 후 미국 내 유대인과 이슬람교도를 향한 증가하는 위협을 추적하며 경계를 강화했다. 크리스토퍼 레이 FBI 국장은 이날 브리핑에서 이스라엘과 하마스 간 전쟁이 미국 내에서 폭력 행위를 부추길 수 있다고 우려했다. 전쟁 발발 후 미국 내에서 하마스 지지 세력이 미국 내 공격을 지시했다는 증거는 발견되지 않았지만, 공격이 발생할 가능성을 배제할 수는 없다고 레이 국장은 말했다. 레이 국장은 “하마스나 다른 외국 테러조직이 분쟁을 악용해 지지 세력에게 미국 영토에 대한 공격을 요청할 가능성을 무시할 수 없으며, 무시하지도 않고 있다”라고 말했다. FBI는 종교 지도자들과 연락해 지역사회의 잠재적 위협에 대해 논의하고 있으며, 미국 내 유대교 및 이슬람 관련 종교시설을 보호하기 위해 경찰과 협력을 강화하고 있다고 밝혔다.조 바이든 대통령은 15일 성명을 통해 “그 아이의 팔레스타인 무슬림 가족은 우리 모두가 추구하는, 평화롭게 살고 배우고 기도할 피난처를 찾아 미국에 왔다”며 피해자가 팔레스타인 출신 이민자의 후손임을 소개했다. 바이든 대통령은 이어 “질(영부인)과 나는 충격을 받았고 진저리가 났다”며 유족과 팔레스타인인, 아랍인, 미국 내 무슬림 공동체에 위로와 기도를 보낸다고 말했다. 그러면서 “이 끔찍한 증오 행위는 미국에서 설 자리가 없다”며 “어떻게 기도하고 무엇을 신봉하며, 우리가 누구냐는 것을 이유로 한 공포로부터의 자유라는 근본 가치에 위배되는 것”이라고 강조했다. 이어 바이든 대통령은 “미국인으로서 우리는 함께 모여 이슬람교에 대한 증오와 모든 형태의 편견과 증오를 거부해야 한다”며 “미국에서 누군가를 향한 증오는 설 자리가 없다”고 덧붙였다.

팔레스타인 무장정파 하마스가 지난 7일 이스라엘 남부 지역을 기습 공격한 뒤 이스라엘의 보복 공격이 이어지면서 양측에서 4000명이 넘는 사망자가 발생한 가운데, 해당 분쟁의 영향이 세계 각국으로 확산하고 있다. 미국 뉴욕타임스의 15일(이하 현지시간) 보도에 따르면, 조셉 추바(71)라는 이름의 남성은 전날 시카고 남서부 인근 플레인필드 타운십의 한 주택에서 6세 소년을 흉기로 찔러 숨지게 한 혐의로 긴급 체포됐다. 일리노이주(州) 경찰에 따르면, 용의자는 숨진 6세 소년 및 어머니가 함께 사는 집의 집주인으로 확인됐으며 최근 중동에서 벌어진 하마스와 이스라엘의 분쟁 소식을 보고 화가 나 범행을 저지른 것으로 알려졌다. 사건 당시 집주인인 용의자는 소년의 집 문을 두드린 뒤 소년의 어머니가 문을 열어주자 “무슬림을 죽어야 한다”고 소리친 뒤 그녀의 목을 조르고 흉기로 공격을 시도했다. 소년의 어머니는 가까스로 흉기를 피해 화장실로 몸을 숨겼고, 이후 911에 신고했다. 잠시 후 화장실 밖으로 나온 소년의 어머니는 흉기에 찔린 채 쓰러져 있는 어린 아들을 발견했다. 피해 소년은 급히 병원으로 옮겨졌지만 끝내 숨을 거뒀다. 경찰에 따르면 고작 6살인 피해 소년의 몸에는 26군데의 자상이 발견됐다. 소년의 어머니 역시 흉기 공격으로 10여 군데 상처를 입고 큰 부상을 입었으나, 다행히 생명에는 지장이 없는 것으로 알려졌다. 현지 경찰은 용의자를 1급 살인 및 살인미수 등의 혐의로 긴급 체포했다. 용의자에게는 증오범죄 혐의도 적용됐다. 경찰 측은 “용의자는 하마스와 이스라엘 간의 분쟁과 관련한 보도를 접한 뒤, 피해를 입은 모자가 무슬림(이슬람 교도)라는 이유로 잔인하게 공격했다”고 설명했다. 미국 최대 무슬림 단체인 미국이슬람관계위원회(CAIR) 및 미 당국은 하마스와 이스라엘의 대규모 분쟁이 시작된 이후 미국 내에서 유대인과 이슬람교도를 향한 위협이 증가했다며 우려를 표했다. CAIR 측은 공식 성명에서 “최악의 악몽이 벌어졌다. 무거운 마음으로 소년과 그의 어머니를 위해 기도한다”고 전했다. 미 연방수사국(FBI)도 하마스와 이스라엘간의 분쟁이 미국 내에서 폭력을 부추길 수 있다고 우려하며 경계를 강화하겠다고 밝혔다. 크리스토퍼 레이 FBI 국장은 “하마스나 다른 외국 테러조직이 분쟁을 악용해 지지 세력에게 미국 영토에 대한 공격을 요청할 가능성을 무시할 수 없으며, 무시하지도 않고 있다”고 강조했다. 또 “종교 지도자들과 연락해 지역사회의 잠재적 위협에 대해 논의하고 있으며, 미국 내 유대교 및 이슬람 관련 종교시설을 보호하기 위해 경찰과 협력을 강화하고 있다”고 덧붙였다.

할리우드의 거물급 배우 톰 행크스가 치과 보험 광고를 한다? 물론 그도 유명 연예인이기에 치과 보험 광고를 할 수는 있다. 그러나 왠지 어색하다. 올해 67세인 그와 달리 광고 속 톰 행크스의 모습은 흰머리도 없고 주름살도 없는, 훨씬 젊은 모습이기 때문이다. 이 광고는 톰 행크스 본인의 동의 없이 인공지능(AI)으로 합성한 이미지로 만든 광고였고, 톰 행크스는 문제의 광고가 자신과 아무런 관련이 없다고 직접 경고하고 나섰다. 2일(현지시간) CNN방송 등에 따르면 톰 행크스는 전날 자신의 인스타그램 계정에 “주의하세요! 나의 AI 버전으로 치과 보험을 홍보하는 영상이 있다”면서 “그 광고와 나는 아무런 관련이 없다”고 적었다. 그가 경고문과 함께 첨부한 사진 속 그는 현재 그의 모습보다 젊어 보인다. CNN은 이 사진이 그가 경고한 치과 보험 광고에 포함된 사진인지 독자적으로 확인하진 못했다고 전했다. 뉴욕타임스(NYT)는 톰 행크스가 이 광고와 관련해 법적 조처를 하거나 삭제를 요구할 계획이 있는지 톰 행크스 대리인에게 물었지만 답변을 받지 못했다고 보도했다. AI를 활용한 ‘가상 배우’가 할리우드에서 민감한 문제로 떠오른 가운데 톰 행크스의 경고문까지 나오면서 더욱 주목받고 있다. 지난 7월부터 할리우드 배우들이 파업에 나선 이유 중 하나도 AI를 활용한 가상 배우 문제다. AI가 가상 배우들의 연기 장면을 만드는 데 쓰이는 CGI(컴퓨터 생성 이미지) 기술을 훨씬 쉽고 저렴하게 만들어 배우의 일자리를 빼앗을 수 있다는 우려가 나오고 있다.할리우드 배우·방송인 노동조합(SAG-AFTRA)은 제작사들이 공정한 보상 없이 AI 기술로 연기자들의 일자리를 없애고 싶어 한다고 주장한다. 톰 행크스 역시 앞서 AI가 영화계에 미칠 악영향을 경고한 바 있다. 그는 지난 5월 영국 코미디언 애덤 백스턴의 팟캐스트에 출연해 ‘배우의 유사성(likenesses)’을 지적재산으로 보호하는 방안이 논의되고 있다며, AI 기술 때문에 자신이 죽고 나서도 새 영화에 계속 등장할 수 있다고 지적했다. 톰 행크스는 “이제 누구나 AI, 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 기술로 나이에 상관없이 자기 모습을 재현할 수 있다”면서 “내가 내일 버스에 치여 크게 다치더라도 내 연기는 계속될 수 있다”고 말했다. AI를 악용한 사기성 광고에 피해를 본 유명인은 톰 행크스만이 아니다. NYT에 따르면 CBS방송 진행자 게일 킹도 2일 SNS에서 자신의 동의 없이 AI로 만들어진 자신의 이미지가 체중 감량 관련 광고에 쓰였다고 주장했다. 그는 인스타그램에 “이 제품에 대해 듣거나 사용한 적 없다”며 “AI 영상에 속지 말아달라”고 적었다.

“민간 주도 기업투자 적극 지원”이통3사·네이버 등 70여명 참석 윤석열 대통령은 13일 “가짜뉴스가 인공지능(AI)과 디지털을 통해 빛보다 더 빠른 속도로 확산되면서 자유민주주의와 시장경제를 훼손하고 우리의 미래와 미래세대를 망칠 수가 있다”며 AI 규범·질서 확립의 필요성을 강조했다. 윤 대통령은 이날 청와대 영빈관에서 제20차 비상경제민생회의를 겸한 ‘대한민국 초거대 AI 도약’ 회의를 주재하고 “AI와 디지털을 제대로 더 잘 쓰기 위한 법적 규제는 필요하다”며 이같이 말했다. 회의에서는 AI 산업 경쟁력 확보와 디지털 질서 정립에 대한 토론이 진행됐다. 초거대 AI란 대용량 데이터를 학습해 인간처럼 종합적인 인지·판단·추론을 하는 인공지능을 의미한다. 윤 대통령은 그동안 AI와 디지털 기술 발전은 필요하지만 악용이나 부작용을 방지할 규제가 필요하다는 주장을 발전시켜 왔다. 그는 디지털 질서 정립의 기본 방향인 ‘디지털 권리장전’을 만들고 나아가 글로벌 차원에서 통용될 ‘디지털 윤리규범’을 국제사회와 만들겠다는 구상을 진행 중이다. 앞서 윤 대통령은 지난해 9월 ‘뉴욕 구상’을 통해 디지털 질서의 필요성을 제기했으며 지난 6월에는 ‘파리 이니셔티브’에서 규범 마련을 위한 국제기구 설치를 제안했다. 그는 또 지난 10일 뉴델리 주요 20개국(G20) 정상회의에서 규범 마련을 위한 국제사회의 행동을 촉구하기도 했다. 윤 대통령은 “AI가 반도체·데이터·플랫폼 서비스를 비롯해 전후방 산업과 국가안보에도 막대한 영향을 끼친다”며 민간 주도의 기업 투자에 정부가 마중물을 부어 지원하겠다는 입장을 밝혔다. 그는 또 “초거대 AI를 둘러싼 각국의 주도권 경쟁이 아주 치열하다”며 “대통령으로서 전 산업의 발전과 도약이 이뤄질 수 있도록 초거대 AI 기업에 많은 관심을 가지고 지원을 하겠다”고 말했다. 기업들은 이 자리에서 글로벌 동향과 정부의 디지털 선언에 발맞춰 ‘디지털 대항해 시대 초거대 AI 출정’ 선언을 진행했다. 회의에는 SKT·KT·카카오·LG·네이버 등 AI 분야를 주도하는 민간 리더들과 AI 전문가, 관련 기관 관계자 등 70여명이 참석했다.

인스타그램과 틱톡 등 소셜미디어(SNS)에 인공지능(AI) 기술을 이용한 성매매 광고가 넘쳐나고 있다. SNS에서 직접적인 성매매를 광고하는 행위는 검열 대상이지만, AI를 이용한 성적인 광고는 걸러지지 않는다는 점을 이용한 것이다. 최근 미 NBC 방송에 따르면 수십 개의 테크 스타트업들은 ‘성(性)적으로 부적절한’(not-safe-for-work·NSFW) 경험을 조장하는 앱에 대한 노골적인 광고를 틱톡, 인스타그램, 페이스북 등에 올리고 있다. 광고에는 큰 가슴과 타이트한 옷을 입은 AI로 만든 ‘여자 친구’가 등장해 ‘NSFW 사진’이나 ‘맞춤형 핀업 걸’, ‘검열이 안되는’ 채팅을 제안하며 호기심을 자극한다. 특히 일부 광고는 스폰지밥과 쿠키 몬스터 등 인기 어린이 TV 캐릭터가 포함된 밈을 사용해 ‘NSFW 사진’을 만드는 앱을 홍보하는가 하면, 10대 이하로 보이는 소녀를 애니메이션으로 등장시키기도 했다. NBC는 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 이러한 성적 광고를 올리는 앱 개발자 35명을 확인됐다고 밝혔다. 이들이 올린 광고는 모두 1000개를 넘는 것으로 알려졌다. 틱톡에서는 자극적인 AI 광고를 싣는 앱 개발자 14명이 확인됐다고 NBC는 설명했다. 논란이 일자 메타는 “사람이 만든 콘텐츠와 AI가 생성한 콘텐츠에 동일하게 성인용 콘텐츠 금지가 적용된다”고 해명했다. 틱톡도“ 성(性)적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다”고 전했다. ● 소아성애자, AI 이용하기도 AI를 음란물 제작에 악용하는 사례는 늘고 있다. 최근에는 소아성애자들이 AI 기술을 이용해 실제처럼 보이는 아동 성학대 콘텐츠를 제작하고 판매한다는 외신 보도도 나왔다. 영국 BBC방송에 따르면 패트리온(Patreon)이나 픽시브(Pixiv)과 같은 온라인 콘텐츠 공유 플랫폼에 아동 얼굴이 합성된 성적 콘텐츠가 다수 유포되고 거래됐다. 아동 성학대 콘텐츠들은 AI 소프트웨어를 통해 제작됐다. 이들이 사용한 소프트웨어는 사용자가 주요 키워드를 입력하면 프로그램이 그에 맞는 이미지를 생성해주는데, 그림이나 이미지 편집에 대한 전문적인 지식 없이도 원하는 이미지를 만들 수 있다. 영국 전국경찰청장협의회(NPCC) 측은 BBC와의 인터뷰에서 “이러한 합성 이미지에 실제 아동이 등장하지 않기 때문에 문제가 없다는 주장은 잘못됐다. (이러한 행동은) 실제 아동 학대로까지 발전할 수 있다”며 “플랫폼이 이를 방관하며 막대한 이익을 내고도 도덕적 책임을 지지 않는 건 말이 안 된다”고 지적했다. 아동 성적 학대를 묘사하는 합성 사진은 실제 사진과 동일한 법적 책임을 지게 된다. 영국에서는 이를 소유, 게시, 전송하는 모든 것이 불법이다.

캐나다, 하와이 등 지구촌 곳곳에서 산불 피해가 발생했다. 역사상 최악의 산불로 기록될 것이다. 그리고 올해 여름 전 세계 평균기온은 1940년 관측을 시작한 이래 사상 최고치다. 산불, 폭염, 홍수, 가뭄 등 이상기후로 인한 피해와 고통은 기후위기 대응이 얼마나 시급한지를 여실히 보여 주었다. 문제는 어느 한 나라가 이 문제를 해결할 수 없다는 사실이다. 탄소 배출 저감과 친환경 에너지원으로의 전환은 일부 국가의 노력만으로 달성될 수 없다. 전 세계가 하나로 힘을 합치지 않으면 해답을 찾을 수 없다. 글로벌이 협력할 문제는 기후위기만이 아니다. 인공지능(AI)을 악용해 민주주의와 자유를 위협하는 문제를 해소하기 위해서는 공동으로 규범을 마련해야 한다. 이뿐만이 아니다. 글로벌 경제회복 지원을 위해 국제통화기금(IMF) 등 국제기구를 개혁하고 코로나 이후 새로운 팬데믹(대유행) 발발에 미리 준비하며 저소득국의 채무 위기를 해소하기 위해서도 전 세계가 머리를 맞대고 대책을 찾아야 한다. 하지만 현재 국제 정세는 글로벌 문제에 대한 해결책을 기대하기 어려워지게 하고 있다. 무역 전쟁으로 시작된 미중 갈등은 금융, 인권, 지정학적, 첨단산업까지 전방위적으로 확산되고 있다. 러시아의 우크라이나 무력 침공과 이에 따른 파급효과는 전 세계 식량, 에너지 위기를 심화시키고 있다. 이 와중에 개도국들은 중립적 입장을 취하면서 이해관계에 따라 특정 사안별로 지지하는 진영을 수시로 변경하고 있다. 이처럼 복잡하게 얽힌 이해관계로 올해 현재까지 열린 18개 모든 주요 20개국(G20) 장관회의에서는 합의문 도출에 실패했다. 이러한 암울한 상황 때문이었을까. 미국의 기후학자 피터 칼무스는 트위터에 “우리는 지금 남은 인생에서 가장 서늘한 여름을 보내고 있다”며 자조적으로 상실감을 드러냈다. 아직 희망은 있다. 오는 9~10일 인도 뉴델리에서 주요 20개국 정상이 모여서 어떤 지구촌 상생의 공약수를 내놓을지 관심이 집중된다. G20은 세계 국내총생산(GDP)의 86%, 교역액의 77%, 인구의 63%를 차지한다. 명실공히 지구촌을 대표하는 최상위 협의체다. 특히 유엔 등 국제기구에서 주요국 협의가 난관에 봉착한 상황에서 G20은 G7과 중국, 러시아 그리고 개도국들이 모두 참여하는 회의체다. 탄소중립과 청정에너지 전환, 글로벌 보건 협력, IMF 등 다자기구 개혁 등 글로벌 당면 과제가 모두 협상 테이블에 올라간다. 우리로서는 개도국에서 선진국으로 발전한 유일한 국가로서 선진국과 신흥국의 입장 차이를 조율하고 글로벌 중추국가로서 위상을 공고히 할 수 있는 무대이기도 하다. 우리나라가 글로벌 사회의 책임 있는 일원이자 글로벌 중추국가로서 인류의 현안 대응에 기여하는 동시에 국익도 확보할 수 있도록 철저히 준비해서 대응해 나가야 하겠다.

미국 할리우드 영화 ‘터미네이터’ 시리즈 주인공으로 유명한 배우 아널드 슈워제네거(75)가 영화 속 인공지능(AI) 발달에 따른 인류 위기 가능성에 대한 우려를 경고했다. AI 기술 발달과 악용에 따른 피해 가능성을 제기한 것. 1일(현지시간) 미국 언론 폭스뉴스는 이날 로스앤젤레스(LA)에서 열린 한정판 사진첩 출간 기념식에 참석한 슈워제네거가 1980년대 상영된 영화 속 AI의 기술과 현재 AI 기술이 매우 유사한 수준이라면서 이같이 발언했다고 보도했다.보도에 따르면 그는 “수십 년의 세월이 지나는 동안 영화 속 AI의 모습은 이제 현실이 됐다”면서 “‘터미네이터’의 제임스 카메론 감독의 미래 예측은 탁월했다”고 입을 열었다. 그가 언급한 영화 ‘터미네이터’는 1984년 1편이 처음 개봉, 인류 말살을 목표로 인간 사회를 무차별적으로 공격하는 AI ‘스카이넷’과 인간들의 갈등을 그린 작품이다. 이 영화는 인류의 AI 기술 활용이 극대화되면서 AI가 인류의 성장을 없애거나 제약하는 상황을 중점적으로 다뤄 충격을 준 바 있다. 그는 “아직 AI와 인간의 본격적인 전쟁이 시작된 것은 아니지만, 영화를 통해 상상했던 상황과 매우 유사한 상황까지 도달했다는 것을 체감한다”면서 “오늘날 모든 인류는 AI의 발전 방향이 어디로 향할 것인지와 관련해 큰 두려움을 느끼고 있다. 기계가 스스로 자각하고 그들이 인간을 대체하려 하려는 순간을 담아낸 영화 ‘터미네이터’와 비슷하다”고 했다. 그는 또 AI와 관련한 다양한 내용을 그려냈던 터미네이터와 에일리언, 아바타 등의 영화 작품들을 잇따라 언급했다. 영화 ‘터미네이터’ 속 장면처럼 AI가 자율적으로 표적화한 대상을 사살하는 등 부작용에 대한 우려를 제기한 것. 그는 “1980년대 이후 AI가 얼마나 비약적인 발전을 했는지 생각하고 고민해봐야 하는 시점”이라면서 “(내가) 터미네이터에서 연기했던 당시 상황이 현재와 매우 유사한 부분이 많다”고 현실판 터미네이터의 등장 가능성을 지적했다. 한편 유럽연합(EU)은 최근 이같은 AI 기술 발달에 따른 부작용을 방지하기 위해 지난달 세계 최초의 AI 규제 법안을 채택한 바 있다. 또 이에 앞서 지난 5월 미국 의회에서도 AI를 주제로 첫 청문회가 개최, AI의 해악을 막기 위한 기술 안보에 논의에 방점을 찍었다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술을 안전하게 이용하려면 비공개 정보나 개인정보 등 민감한 내용을 입력해는 안된다고 권고했다. 국정원은 29일 이같은 내용을 담은 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했다. 국정원은 필수 보안 수칙으로 ▲비공개·개인정보 등 민감 정보 입력 금지 ▲생성물에 대한 정확성·윤리성·적합성 등 재검증 ▲생성물 활용시 지적 재산권·저작권 등 법률 침해·위반여부 확인 ▲연계·확장프로그램 사용시 보안 취약여부 등 안전성 확인 ▲로그인 계정에 대한 보안설정 강화 등을 제시했다.앞서 국정원은 생성형 AI를 활용하는 과정에서 업무상 비밀과 개인정보가 유출되거나 가짜뉴스, 비윤리적 자료가 생성되는 등 기술 악용 우려가 제기되자 지난 4월 국가보안기술연구소와 함께 가이드라인 제정에 착수했다. 국정원은 가이드라인을 국내 420여개 국·공·사립대학 등에 배포하고 국가사이버안보센터 홈페이지에도 게재할 계획이다. 국정원 관계자는 “챗GPT 등이 각광을 받으면서 여러 공공기관이 해당 기술을 활용하려고 했지만 정부 차원의 보안 대책이 없어 기술도입이 어려운 상황”이라며 “보안 가이드라인으로 각급기관이 생성형 AI기술을 적극 활용할 수 있는 토대가 형성되길 기대한다”고 했다.

K팝 걸그룹 멤버 사진을 대량으로 도용해 학습시킨 AI 모델 데이터가 온라인상에서 유포되고 있다. 수익 창출이나 음란물 제작에 악용될 수 있다는 우려가 나온다. 27일 업계 등에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 뉴진스, 르세라핌, 아이브, 에스파, 트와이스 같은 인기 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라와 있다. 게시된 파일들은 지난해 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI ‘스테이블 디퓨전’(Stable Diffusion)에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다. 스테이블 디퓨전의 모델은 크게 전반적인 화풍을 결정하는 핵심 모델 ‘체크포인트’와 인물의 얼굴·자세 등을 결정하는 보조 모델 ‘LoRA’(Low-Rank Adaptation)로 나뉜다. 이 중 실존 인물 딥페이크 제작에 주로 쓰이는 LoRA는 용량이 수십~수백 메가바이트(MB)에 불과하고, 제작이 상대적으로 쉬워 시빗AI 같은 사이트나 온라인 커뮤니티에서 쉽게 공유되고 있다. ‘챗GPT’ 같은 고성능 대화형 AI와 달리, 일반인도 자기 집 PC에서 오프라인으로 구동할 수 있기 때문이다. 수익창출·음란물 제작 등 악용 가능성도 문제는 이러한 AI 모델이 수익 창출이나 음란물 제작에 악용될 수 있다는 점이다.유튜브에는 이미지 생성 AI로 만들어낸 여성 이미지를 이용한 ‘AI 룩북’ 콘텐츠가 성행하고 있고, 일부 이용자들은 AI가 생성한 음란물을 판매하기도 한다. 다만 연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 낼 경우 민형사상 책임을 질 수 있다. 부정경쟁방지법 2조는 ‘국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 타인을 식별할 수 있는 표지를 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위’를 부정행위로 간주하고 있다. 성폭력처벌법 14조의2도 ‘사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물’과 이에 따른 ‘편집물·합성물·가공물·복제물’을 당사자의 의사에 반해 유포한 사람에 대해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 하고 있다. K팝 업계도 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있는 것으로 전해졌다.

  7월 1일이면 국민건강보험공단이 창립 23주년을 맞는다. 사람으로 치면 혈기왕성한 열정으로 미래에 대한 원대한 비전과 목표를 추진해 가는 시기이다. 곧 도래할 초고령사회에 대비하는 차원에서 ‘국민보건과 사회보장 증진으로 국민 삶의 질 향상’이라는 기관 미션 달성을 위해 성장하고 있는지, 나아가 ‘장기요양보험자로서의 역할’에 대한 전반적인 성찰이 필요한 시기라고 본다. 건보공단은 2023년 현재 107조 4897억원의 재원(건강보험 92조 6734억, 장기요양보험 14조 4739억, 4대보험 분담금 3424억)을 관리하며, 전국적으로 6개 본부 178개 지사에 1만 6000여명의 직원을 거느린 거대 공기업으로 성장했다. 이러한 성장을 축하도 해야겠지만, 돌봄서비스를 공급하는 노인장기요양기관들은 그럴 여유조차 없다. 장기요양보험자로서의 역할에 대한 전반적인 성찰 필요 2008년 7월 암반 위에 심어진 묘목(苗木)마냥 어렵게 싹을 틔우며 불안하게 출발한 노인장기요양보험제도에 대해 국민적 만족도 90% 수준에서 제도 도입의 의의나 성과를 언급하기도 하지만, 장기요양 15주년을 맞는 공급자들의 현실은 ‘참담’(慘憺) 그 자체다. 도입당시 지적되었던 제도적 미비점은 개선 기미조차 보이지 않고, 오히려 정제되지 않은 정책들로 제도의 난맥상(亂脈像)을 더욱 부채질하고 있다. 그 이유로 첫째로 국민의 선택권을 제한하는 등급제도로 인한 서비스의 불공정이다. 두 번째로 모든 직종에 걸친 심각한 구인난이다. 세 번째로는 기획재정부가 실시하는 공기업(공단)경영평가 항목의 오류이다. 국민의 선택권을 제한하는 등급제도로 인한 서비스 불공정 이를 구체적으로 살펴보면 첫째로 등급제도의 문제점을 들여다보아야 한다. 돌봄이 필요한 치매노인을 사회보험이라는 울타리에 가두어두고 등급심사제도를 통해 그 서비스를 받아야 하는 수급 인원을 시설급여, 재가급여로 통제함으로써 불공정이 시작되고 있다. 치료가 필요한 중증노인들을 1등급 입소자격을 부여해 의사가 상주하지 않는 요양원에 입소하게 만들었다. 그 결과 정작 돌봄이 필요한 노인들은 등급을 받지 못해 그냥 아프다고만 말하면 입소가 가능한 요양병원으로 쏠리게 됨으로써 우후죽순(雨後竹筍)처럼 요양병원들이 늘어났다. 이러한 현상으로 건강보험재정이 더욱 악화되고 있는 것이다. 한편, 치매 수급자들에게 등급을 발급해 주기 위해 소요되는 지역별 등급판정위원회에 사용되는 예산이 과연 적정한지 검토해야 할 시기가 왔다.  노인장기요양기관의 심각한 구인난 심각 둘째는 심각한 구인난이다. 저출산 초고령화로 모든 산업에서 인력이 부족하다고 말하지만, 장기요양은 사람이 사람을 돌보는 체제이기 때문에 더욱 그렇다. 그럼에도 불구하고 포퓰리즘적 설익은 제도를 만들어 현장을 더 혼란스럽게 만드는 것이 더 문제다.  대표적으로 ‘지역사회 돌봄’(Community Care) 정책이나 ‘거주지 돌봄’(Aging in Place·AIP)을 하겠다면서 아주 쉽게 돈 버는 일이라고 인력들을 유혹하고 있다. 정작 실태를 들여다보면 수준 이하의 서비스가 제공되면서 예산만 낭비하고 있는 것으로 보인다. 누구를 위한 정책인지 정밀 검토가 필요하다.  공공기관 경영평가 항목의 오류와 공포의 현지 조사 셋째, 기획재정부는 공공기관 경영평가에서 재가급여 확대와 현지조사 환수 실적을 심사기준으로 공단을 우수기관으로 인정하고 인센티브를 지급한다. 공단이 내세우는 사업들을 보면 콧줄(레빈튜브)로 연명하거나 침대에 누워 생활해야 하는 1·2등급 중증노인들을 자택에서 모시게 하는 것이 장기요양제도의 본질일까? ‘집에서 죽고 싶다는 노인의 선택권을 위해 이 사업이 추진되어야 하는지’와 ‘이 사업의 숨은 배경에 공단이 바라보는 인센티브가 있겠구나’ 하는 의심을 떨쳐버릴 수 없다. 다음으로는 공안검찰을 떠올리게 하는 공포의 현지조사다. 현지조사는 장기요양기관이 거짓이나 부정한 방법으로 부정수급을 한 경우 반드시 이를 조사하고 처벌을 해야 할 것이다. 그럼에도 불구하고 최근 공단은 배설물이 묻은 오염된 의류를 세탁기에 돌려 빨래를 한 것을 부정한 짓이라고 수십억 원을 환수하고 위탁 급식을 하는 기관에서 따뜻한 밥을 해드리기 위해 보온밥솥에 밥을 지은 것이 인력배치기준 위반이라고 수억 원을 환수해가고 있다. 공단은 현지조사를 한다는 이유로 2023년 현재 공단이 보유하고 있는 전 국민 5155만 8000명의 99.7%인 5140만명의 건강보험 적용대상자 인적 정보를 많은 국민은 물론, 특히 장기요양시설 종사자·입소자의 동태(해외여행, 근무시간 등)를 감시하는 현미경으로 악용(惡用)하고 있다.  장기요양제도 미래를 위해 요양보호사 처우개선과 인력확보 필요 4개월간의 짧은 기간 제21대 국회의원을 지낸 바 있는 윤희숙 전 의원은 KDI연구위원 시절 출범 1주년이 되는 장기요양제도의 미래에 대해 ‘공단의 관리기능과 평가기능 분리, 최소·최저수준의 통제’를 권고하면서 ‘요양보호사 등 종사자 처우개선과 인력확보 방안을 강구하라’고 촉구한 바 있다. 각성을 촉구하는 목소리가 그것뿐이겠는가? 출범 4주년인 2012년의 양승조 국회의원 토론회와 15주년을 맞은 2023년의 최재형 국회의원 토론회에서 표출된 종사자 처우개선과 구인난 해소, 등급제와 등급판정위원회 제도 개선 등 문제점과 개선방안이 변한 것 없이 15년이라는 세월만 흐른 하나만으로도 참으로 실망스럽고 개탄스럽다.  풍전등화에 놓인 초고령사회 대비책 정부는 제1·2차 ‘장기요양 기본계획’ 등을 통해 정책목표로 제시한 바 있다. 제3차 장기요양 기본계획은 아직 확정·발표하지 못하고 있다. 응당 해결해야 할 요양시설 종사자들의 처우개선이나 요양보호사 구인난(求人難) 해소에는 손을 놓고 있다. ‘하늘의 별 따기’보다 더 어렵다는 요양보호사를 구하기 위해 ‘외국인 인력 수입’을 제안했지만, 귀족노조 눈치만 보고 있다. 최저임금 수준의 종사자 처우개선을 위해 장기요양위원회를 통한 수가(受價)체계 개선을 그토록 촉구했지만, 그때마다 특정 노조단체의 반대로 무산되었다. 종사자 처우개선은 곧 노조 탈퇴로 이어지나 보다. 현지조사에 매몰되어 있는 공단으로 말미암아 불과 2년 후면 도래할 초고령사회 대비책은커녕 그나마 민간에 의지해 명맥을 유지해 왔던 장기요양제도는 풍전등화(風前燈火) 수준이다. ‘NO老케어’(老老케어) 등 장기요양시설에 직면한 여러 현안에 대한 시의적절(時宜適切)한 대책이 제시되지 않고 있고, 이 제도를 파탄에 이르게 한 어용 교수들이 아직도 공단과 어우러져 활동하는 모습을 보면 여야를 넘나드는 처세술에 그저 고개가 끄덕여질 뿐이다. 국민의 편안한 노후 보장을 위한 3가지 제안 이제 건보공단 창립 23주년을 맞이하여 정부에 다음과 같은 몇 가지를 제안하고자 한다. 첫째, 장기요양보험심사평가원을 신설해 장기요양보험제도 운영과 평가기능을 기존 건보공단 업무에서 분리해야 한다. 시설에 대한 불필요하고 폭압적인 통제를 지양하는 한편 장기요양기관에 대한 지원 및 협력 기능을 강화해 온전히 장기요양시설 서비스의 질을 제고할 수 있도록 하는 것이 국민을 위한 길이다. 둘째, ‘국민의 편안한 노후보장’이라는 장기요양의 책무를 진정성 있게 이행하기 위해 모든 역량을 동원해 최근까지 쟁점 현안으로 지속되어 온 ‘종사자 처우개선 및 구인난 해소를 위한 대책을 수립·시행’해야 한다. 이를 위해 사회복지시설 인건비 가이드라인을 우선 적용할 것을 촉구한다. 셋째, 보건복지부에 ‘장기요양제도혁신TF’(가칭)를 구성해 장기요양위원회 거버넌스를 개혁하고 제도 전반에 걸친 제도개편(안)을 마련해야 한다.  일선에서 직접 치매수급자들을 모시고 있는 장기요양기관들은 국민건강보험공단 창립 23주년과 대비해 장기요양보험 15주년이 왠지 서자(庶子) 취급을 받는 것 같아 마음이 편치 않다. 이제 지금부터라도 다시 시작해야 한다. 명실상부한 ‘노인복지의 파수꾼’으로, 초고령사회 노령국민들의 보호자로서 국민 행복을 선도하는 기관으로 우뚝 서길 진심으로 바란다. 권태엽 (한국노인복지중앙회 회장·장기요양위원회 위원)

학생이 교사를 상대로 성희롱 문구를 작성해 폐지 논란이 일었던 교원능력개발평가(교원평가)에 대해 정부가 부적절한 용어에 대한 필터링을 강화하기로 했다. 교원평가를 유지하는 대신 보완하기로 한 것인데, 필터링을 우회할 가능성은 여전하다는 지적이 나온다. 교육부는 2023년 교원평가를 오는 9~11월 시행하기로 하고 구체적인 시행방안을 각 교육청에 안내했다고 12일 밝혔다. 2010년 도입된 교원평가는 매년 교원들에 대한 학생과 학부모 만족도를 객관식과 자유 서술식 문항으로 조사한다. 그러나 평가의 익명성을 악용해 서술식 답변에 욕설과 성희롱 문구를 적어 논란이 끊이지 않았다. 지난해 세종시의 한 고등학교에서 학생이 성희롱 문구를 적어낸 사실이 드러나 교원단체들은 서술식 답변이라도 없애야 한다고 요구해 왔다. 교육부는 학생과 학부모의 여론을 고려할 때 교원평가를 존치해야 한다고 보고 시행방안을 개선하기로 했다. 우선 7~8월 서술식 답변에서 필터링되는 금칙어 목록을 추가한다. 지난해는 데이터베이스(DB)에 저장된 금칙어 876개만 걸러낼 수 있었다. 특수기호가 섞인 금칙어도 보이지 않도록 시스템을 개선했다. 자유 서술식 문항 앞에는 “부적절한 답변을 제출할 경우 관련 법에 따라 처벌될 수 있고 교육활동 침해 행위에 따른 조치를 받을 수 있다”는 경고 문구도 넣기로 했다. 교원 보호도 강화한다. 부적절한 답변은 법에 따라 교육활동 침해 행위로 규정하고 학교와 교육지원청이 수사를 의뢰하는 등 적극 대응할 계획이다. 가해 학생이 특정되면 교권보호위원회를 열어 교내·사회 봉사, 특별교육·심리 치료, 출석 정지, 학급 교체, 전학, 퇴학 등 교육활동 침해 행위에 따른 조치를 시행한다. 교원단체들은 근본적인 대책이 부족하다고 비판했다. 기존에도 필터링 기능이 있었지만 작성자들이 교묘하게 피했기 때문이다. 교사노동조합연맹은 “서술형 평가는 작성자의 무책임한 발언에 대해 책임을 물을 수 없는 구조로 교사들에게 미치는 정신적 악영향이 심각하다”고 지적했다. 한국교원단체총연합회는 “생활지도에 적극적인 교사들이 압력을 받고 낮은 평가 결과를 받는다”며 “인기 평가로 전락한 교원 평가를 전면 개선해야 한다”고 했다. 교육부 관계자는 “장기적으로 인공지능(AI) 기반 필터링을 도입할 필요가 있다”며 “정책 연구와 의견 수렴을 거쳐 전면적인 개선 방안을 마련하겠다”고 말했다.

학생이 교사에게 성희롱 문구를 작성해 폐지 논란이 일었던 교원능력개발평가(교원평가)에 대해 정부가 부적절한 용어 필터링을 강화하기로 했다. 교원평가를 유지하되 보완하는 것인데, 필터링을 우회할 가능성은 여전하다는 지적이 나온다. 교육부는 2023년 교원평가를 오는 9~11월 시행하기로 하고 구체적인 시행방안을 각 교육청에 안내했다고 12일 밝혔다. 2010년 도입된 교원평가는 매년 교원들에 대한 학생과 학부모 만족도를 객관식과 자유 서술식 문항으로 조사한다. 그러나 평가의 익명성을 악용해 서술식 답변에 욕설과 성희롱 문구를 적어 논란이 끊이지 않았다. 지난해 세종시의 한 고등학교에서는 학생이 성희롱 문구를 쓴 사실이 드러나 교원단체들은 서술식 답변이라도 없애야 한다고 요구해 왔다. 교육부는 학생과 학부모의 여론을 고려할 때 교원평가를 존치해야 한다고 보고 시행방안을 개선하기로 했다. 우선 7~8월 서술식 답변에서 필터링되는 금칙어 목록을 추가한다. 지난해는 데이터베이스(DB)에 저장된 금칙어 876개만 걸러낼 수 있었다. 특수기호가 섞인 금칙어도 보이지 않도록 시스템을 개선했다. 자유 서술식 문항 앞에는 “부적절한 답변을 제출할 경우 관련 법에 따라 처벌될 수 있고 교육활동 침해 행위에 따른 조치를 받을 수 있다”는 경고 문구도 넣기로 했다. 교원 보호도 강화한다. 부적절한 답변은 법에 따라 교육활동 침해 행위로 규정하고 학교와 교육지원청이 수사를 의뢰하는 등 적극 대응할 계획이다. 가해 학생이 특정되면 교권보호위원회를 열어 교내·사회 봉사, 특별교육·심리 치료, 출석 정지, 학급 교체, 전학, 퇴학 등 교육활동 침해 행위에 따른 조치를 시행한다. 교원단체들은 근본적인 대책이 부족하다고 비판했다. 기존에도 필터링 기능이 있었지만 작성자들이 교묘하게 피했기 때문이다. 교사노동조합연맹은 “서술형 평가는 작성자의 무책임한 발언에 대해 책임을 물을 수 없는 구조로 교사들에게 미치는 정신적 악영향이 심각하다”며 “교육활동 보호 조치는 사안이 발생한 경우의 후속 조치”라고 지적했다. 한국교원단체총연합회는 “생활지도에 적극적인 교사들이 압력을 받고 낮은 평가 결과를 받는다”며 “인기 평가로 전락한 교원 평가는 전면 개선해야 한다”고 했다. 전국교직원노동조합은 “교원평가를 통한 성희롱, 인격 모독 피해에 대한 전수 조사 실시와 여성 교사에 대한 성희롱 방지 대책이 빠져있다”고 했다. 교육부 관계자는 “장기적으로 인공지능(AI) 기반 필터링을 도입할 필요가 있다”며 “정책 연구와 의견 수렴을 거쳐 전면적인 개선 방안을 마련하겠다”고 말했다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 돼야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야 할 사항을 제시했다. 이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정 분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무 효율화를 달성할 수 있도록 지원하는 가이드라인을 만들어 왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다는 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용 시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급 기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 되어야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야할 사항을 제시했다.이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무를 효율화을 달성할 수 있도록 지원하는 가이드라인을 만들어왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다고 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

미국 워싱턴DC 인근 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 근처에서 대형 폭발이 발생했다는 가짜뉴스가 나돌아 금융시장이 일시 출렁였다. 테러 의혹으로까지 이어진 해당 사진은 생성형 인공지능(AI)으로 만든 가짜 사진으로 밝혀졌다. 22일(현지시간) 오전 트위터와 텔레그램 등 각종 SNS에 펜타곤 폭발 현장 사진이 하나 나돌기 시작했다. 사진에는 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습이 담겨 있었다. 사진은 오전 8시 42분 트위터 유료 인증 계정 ‘@CBKNews121’에 처음 게시됐다. 이 계정에서는 미국 내 음모론자들과 관계가 있는 여러 아이콘, 대표적 음모론 단체인 큐어넌에 대한 지지가 목격됐다. 게시물은 유명 ‘오픈 소스 정보’(OSINT) 관련 계정을 타고 급속도로 확산했다. 전쟁 당사국인 러시아와 우크라이나 매체도 큰 관심을 보였다. 같은날 오전 10시 3분 러시아 해외 선전매체인 RT는 “펜타곤(미국 국방부 청사) 근처에 폭발 보도가 있다”고 트윗했고, 친러 세력은 환호했다. 반대로 우크라이나 나우는 텔레그램을 통해 해당 소식을 속보로 전하며 우려를 표했다. 사진은 트위터 팔로워 65만명으로 블룸버그통신의 헤드라인을 트윗하는 경제뉴스 인플루언서까지 퍼날랐다. 그는 오전 10시 6분쯤 “펜타곤 단지 근처에 대형 폭발”이라는 글을 올렸다가 나중에 삭제했는데, 그 사이 리트윗 수백건이 이뤄졌다. 팔로워 160만명을 보유한 월가의 유명 블로거 ‘제로헤지’도 “펜타곤 근처 폭발”이라는 설명과 함께 사진을 게시했다가 지웠다. 블룸버그 통신과 전혀 관계가 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들도 사진을 퍼뜨리는 데 가세했다.러시아 선전매체도 ‘깜빡’ 속아투자자 동요→금융 시장 일시 출렁AI 가짜사진의 위력 확인되지 않은 SNS발 속보에 일부 투자자들이 동요하면서 금융 시장은 일시 출렁였다. 오전 9시 30분에 개장하는 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했다. 이는 시장에 큰 우려가 돌출할 때 나타나는 전형적 현상으로 관측됐다. 위기 때 투자자들이 피신하는 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 불안이 확산하자 현지 언론인들이 속속 사실 확인에 나섰다. 블룸버그 수석 에디터 데이비드 요아킴은 자신의 트위터를 통해 “국방부 대변인은 오늘 아침 펜타곤에서 폭발 같은 건 없었다고 했다”며 “가짜 뉴스”라고 밝혔다. 튀르키예 국영방송 TRT 워싱턴 특파원 유누스 팍소이는 직접 찍은 현장 사진과 함께 “펜타곤 폭발은 없다. 가짜 뉴스”라고 전했다. 당국이 개입에 나선 것은 약 2시간 만인 같은 날 오전 10시 27분쯤이었다. 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “SNS 등 온라인에 펜타곤 폭발 관련 정보가 돌고 있으나, 펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았으며 대중에게 즉각적인 위험은 없다”고 확인했다.전문가들은 이번 소동에 다소 황당한 면이 있다고 분석했다. 디지털자료분석단체 ‘벨링캣’ 조사관 닉 워터스는 “사진을 두고 허둥지둥한 게 아예 납득이 되지 않는다”고 평가했다. 이어 “사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다”고 지적했다. 해당 사진에서는 AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장이 변형되고 뒤섞인 흔적도 포착됐다. 그러나 이번 사태로 AI발 가짜뉴스 하나가 세상을 어느 정도로 뒤흔들 수 있는지가 재확인됐다. AP통신은 “점점 섬세해지고 접근하기 편한 프로그램이 일상에 가할 수 있는 혼란이 이번 사태에서 부각된다”고 지적했다. 특히 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 선거 판도에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다.미 대선 국면 AI발 허위정보 유포 우려“유권자 맞춤형 허위정보·사진·음성 등장” 20일 영국 가디언은 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 짚었다. 미국 사이버보안 업체인 ‘레코디드 퓨처’의 알렉산더 레슬리 분석가는 “미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다”며 “폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다”고 경고했다. 영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수도 “AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리”라고 말했다. 그는 “영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다”며 “생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다”고 경고했다. 아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 16일 미 의회 청문회에서 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라고 우려한 바 있다.실제로 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다. 지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다. 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다. 뉴스가드 공동CEO인 스티븐 브릴은 “누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다”고 지적했다.

보이스피싱 범죄에 AI(인공지능) 기술이 악용돼 단 10분 만에 8억 원대의 돈이 이체되는 사건이 발생했다. 22일 신징바오 등 중국 매체들은 최근 푸저우의 한 과학기술개발 전문업체 법인장 궈 모 씨가 지인을 사칭한 피싱범에게 속아 430만 위안(약 8억 6000만 원) 상당의 돈을 한 번에 이체하는 사건이 발생, 관할 바오터우 경찰이 대대적인 수사에 나섰다고 보도했다. 보도에 따르면, 사건 당일 궈 씨는 평소 사업체를 운영하며 큰 도움을 받았던 절친한 지인으로부터 긴급한 자금 이체를 요구하는 영상 통화 한 통을 받았다. 영상 속 지인의 얼굴과 목소리가 평소 알고 지냈던 것과 완전히 일치해 의심할 겨를이 없었던 궈 씨는 영상 속 남성이 요구하는 거액의 돈을 두 차례에 나누어 송금을 완료했다. 하루 만에 마련해 송금하기에는 적지 않은 금액이었기에 잠시 망설였지만, 워낙 평소에 자주 도움을 받아왔던 형편이었고 영상 통화로 얼굴까지 확인했다는 점에서 보이스 피싱 사기범들의 행각일 것이라고는 추호도 의심하지 않은 채 큰돈을 전액 이체했던 것. 이후 궈 씨는 이체 직후 상대방에게 일반 전화로 걸어 송금 사실을 알렸을 때야 비로소 자신이 사기범들에게 속았다는 것을 알아차렸다. 경찰 수사 결과, 이 사기범들은 자산가인 궈 씨의 소셜미디어 계정을 해킹해 해당 SNS에 저장된 궈 씨의 지인으로 가장한 뒤 접근했다. 이 과정에서 범죄자들은 AI 딥페이크와 음색과 억양 등 말투를 위조하는 딥보이스를 악용해 지인을 사칭, 피해자에게 다급한 금전 요구를 하며 돈을 뜯어냈다. 특히 피해자가 쉽게 믿게 하기 위해 일반 음성 통화 대신 고의로 얼굴을 노출 시키는 영상 통화를 시도했고, “현재 해외에서 대형 계약 입찰 중이며 거액의 보증금이 급하다”는 등 궈 씨에게 마치 시각을 다투는 듯한 인상을 남겼다. 다만 불행 중 다행인지, 궈 씨의 신고를 받고 긴급하게 수사에 나선 경찰들이 푸저우와 바오터우 두 곳에 있는 궈 씨 명의와 회사 명의 계좌에 즉시 지급 정지 명령을 내리면서 약 336만 위안(약 6억 3000만 원)의 돈이 인출되는 것을 중도에 막아 피해를 줄였다. 하지만 경찰의 지급 정지 명령 이전에 이미 93만 위안(약 1억 7500만 원)이 피싱범들에게 인출된 것이 확인돼 해당 인출금에 대한 추적 수사를 진행 중인 것으로 전해졌다.