인공지능(AI)은 인류의 삶에 여러 가지로 영향을 미치고 있다. 일상에 사소한 영향을 미치는 것은 물론 크게는 현대 민주주의 제도의 작동에도 영향을 미치고 있다. AI가 인류의 풍요와 번영에 기여할 수 있도록 하기 위해서는 어떤 사회적 고민이 필요할지에 대해 본격적인 논의가 필요한 시점이다. 그런 점에서 이번에 서울에서 개최되는 ‘제3차 민주주의 정상회의’는 시의적절하면서도 중요한 행사다. 민주주의 정상회의는 미국에서 매년 개최되다가 이번에 처음으로 미국을 벗어나 우리나라에서 열리게 되었다. 올해 행사의 주제는 ‘AI·디지털 기술과 민주주의’로, AI를 포함한 새로운 디지털 기술이 민주주의에 어떤 영향을 미치는지 그리고 그에 대해 어떤 준비를 해야 할지를 여러 나라의 고위급 대표와 전문가들이 모여 깊이 있게 논의하는 기회가 될 것이다. AI 같은 새로운 기술은 사회적 도입 과정에서 흔히 불안감을 야기한다. AI를 이용한 가짜뉴스가 양산될 가능성이나 딥페이크 기술이 활용돼 왜곡된 이미지나 영상이 무분별하게 만들어지고 유포될 가능성을 두고 우려의 목소리가 제기되는 것이 대표적이다. 또 AI 기술이 개인 맞춤형 서비스의 고도화에 적극 활용되면서 소셜미디어(SNS) 이용자들이 극단적 시각이나 편향된 시각에 일방적이고 지속적으로 노출될 가능성에 대한 염려도 있다. 이런 문제는 AI가 민주주의 작동 과정에 악영향을 끼치는 부정적 요소로 작용할 가능성을 시사한다. 하지만 AI는 다양한 상황에 다양한 방식으로 응용되면서 민주주의가 원활하게 작동하는 데 도움을 줄 수도 있다. 예를 들어 이름이 잘 알려지지 않은 정치 신인이 자신의 정치적 견해를 유권자들에게 손쉽게 알리는 데 AI 기술이 적극 활용될 수 있다. 유권자의 시각에서는 AI 기술이 개별 정치인이나 정당의 정책적 입장에 대해 빠르고 체계적으로 파악하는 데 도움이 될 수 있고, 더 나아가 서로 다른 정치인이나 정당 사이의 입장을 명확히 비교해 판단하는 데 활용될 수도 있다. 기존의 정치인이 어떤 의정 활동을 했는지 정리해 파악하는 데에도 AI가 도움을 줄 수 있다. 정치인의 법안 발의와 관련해서도 많은 고민이 담긴 새로운 법안의 발의를 위해 진지한 노력을 했는지, 혹은 그 반대로 ‘복사해서 붙여넣기’ 수준의 법안 발의를 주로 했는지에 관해 AI가 쉽게 요약해 알려 줄 수 있다. 이처럼 AI는 민주주의적 의사 결정 과정에서 다양한 역할을 수행할 수 있다. 그리고 그 영향은 부정적인 것일 수도, 긍정적인 것일 수도 있다. 우리 사회가 어떤 준비를 하고 어떤 대응을 하는지에 따라 AI는 민주주의에 도움이 될 수도, 저해 요소로 작동할 수도 있다. 이번에 열리는 민주주의 정상회의를 계기로 AI가 유용한 역할을 하는 밝은 미래를 위한 논의가 본격화되기를 기대한다. 고학수 개인정보보호위원장

“엄마! 나 납치당했어” 서귀포시에 사는 A씨는 최근 미국에 유학 중인 딸로부터 다급한 전화를 받았다. 흐느끼는 딸의 목소리 뒤 한 남성이 전화를 건네받더니 “현금 1000만원을 보내지 않으면 딸을 해코지하겠다”고 협박했다. 18일 안덕파출소에 따르면 15일 오후 9시쯤 ‘해외에서 유학 중인 딸이 납치됐다’는 신고가 접수됐다. 신고자는 제주에 한 달 살기를 하러 온 A씨 부부로, 약 5분 전인 오후 9시 5분쯤 모바일 앱을 통해 걸려 온 전화 한 통을 받았다. 미국 시카고에 유학 중인 딸 B씨의 목소리였는데, 피싱 일당이 인공지능(AI) 기술을 이용해 만든 허위 목소리였다. 일당은 B씨 목소리를 이용해 A씨 부부에게 ‘납치를 당해 감금돼 있다’고 했다. 옆에서 듣고 있던 B씨의 부친은 곧바로 경찰에 신고했다. 신고를 접수한 경찰은 최상위 출동 경보인 ‘코드0’를 발령하고 현장에 출동하는 한편, 신고 직후 부친 휴대전화가 꺼져 있는 정황을 토대로 신종 피싱 수법임을 직감했다. 휴대전화 위치추적과 동시에 통신 수사를 진행했다. 휴대전화 발신 지역 주변에 도착한 경찰은 사이렌을 듣고 온 A씨 부부와 만나 이들을 진정시켰다.경찰은 A씨 부부로부터 딸이 이날 오후 시카고에서 대만행 항공기에 탑승한다는 말을 듣고 시카고 한국 총영사관에 연락을 취했다. 동시에 국제 공조가 이뤄졌다. 제주국제공항 경찰대는 시카고 현지 경찰에 A씨 부부 상황을 설명하고 B씨 신변 확인에 나섰다. 이후 시카고 경찰로부터 B씨가 안전하게 비행기에 오른 사실을 확인했다. 피싱 범죄임을 직감한 경찰은 B씨가 납치되지 않았다고 A씨 부부를 안심시켰다. 이후 A씨 부부는 B씨와 전화 통화를 했다. 안덕파출소 양진모 경위는 “최근 AI 기술이 발전함에 따라 연락이 쉽게 닿지 않는 해외거주 가족을 사칭한 피싱 범죄가 증가하고 있어 주의해야 한다”고 당부했다. 한편 A씨 부부는 제주경찰청 ‘칭찬합니다’ 게시판에 감사의 글을 올렸다. 이들은 “위급한 상황이 닥치기 전까지만 해도 경찰에 대한 이미지는 그리 좋지만은 않았던 게 사실입니다”며 “즉시 출동한 안덕파출소 경찰관, 서귀포 형사들의 전문적이고 체계적인, 그리고 가장 중요한 ‘시민의 안전을 지키겠다’라는 신념이 우리 가족을 신종 보이스피싱 범죄로부터 지켜줬다”고 적었다．

인공지능(AI) 펀드매니저의 수익률이 산전수전 다 겪은 전문 투자자보다 나을까. AI가 체스, 바둑에서 인간을 앞지른 건 오래전 일이다. AI는 인간의 전유물인 줄 알았던 예술 창작의 영역마저 넘보는 중이다. 모르는 것도 못 하는 일도 없어 보이는 AI에게 ‘성투’(성공적 투자)는 그리 어려운 숙제 같지는 않다. 머지않은 미래 AI에게 밀려 인간 펀드매니저가 사라지는 것은 아닐까.로보어드바이저 각광“아직 초기 단계지만무한 가능성 열릴 것” 미국 월가에서 AI에게 금융인들이 의자를 빼앗기고 있는 건 이미 오래된 현실이다. 일례로 미 대형 투자은행 골드만삭스는 2017년 AI 투자분석 프로그램을 도입한 뒤 애널리스트를 600명 가까이 해고했다. 회사가 도입한 분석 프로그램은 당시 애널리스트 15명이 4주에 걸쳐 할 일을 5분 만에 처리한 것으로 알려졌다. 펀드매니저는 어떨까. AI를 통한 투자가 국내에 첫선을 보인 것은 8년 전인 2016년이다. 지금과 비교하면 초보적인 수준이었지만, 로보(robo)와 자문 전문가를 뜻하는 어드바이저(advisor)를 합친 ‘로보어드바이저’라는 이름으로 서비스가 도입됐다. 실험적으로 도입됐지만 현재 로보어드바이저를 사용하지 않는 금융사는 거의 없다. 로보어드바이저가 고객에게 조언하고 돈을 굴리려면 먼저 한국거래소의 정보기술(IT) 자회사 코스콤의 안전성 평가를 통과해야 한다. 지난 15일 기준 코스콤의 심사를 통과해 서비스 중인 로보어드바이저는 356개다. 코스콤은 로보어드바이저를 투자 성향별로 ▲안정추구형 ▲위험중립형 ▲적극투자형으로 구분한다. 17일 코스콤에 따르면 지난해 4분기(9~12월) 위험중립형 로보어드바이저 수익률은 3%다. 숫자만 보면 로보어드바이저가 벤치마크하는 코스피200지수 수익률 9.57%에 크게 못 미친다. 보다 공격적인 투자를 하는 적극투자형 로보어드바이저 수익률은 4.41%, 반대로 안정추구형 로보어드바이저 수익률은 1.87%로 역시 미흡했다. 같은 기간 코스피 수익률이 7.72%, 코스닥 수익률이 3.04%였으니 로보어드바이저 성적표가 좋았다고 보기는 어렵다. 시원찮은 수익률에 투자자 반응은 차게 식었다. 로보어드바이저 계약자 수는 지난해 상반기 37만 6122명에서 지난해 말 29만 2532명으로 줄었다. 같은 기간 운용 금액도 1조 9396억원에서 7579억원으로 급감했다. 이 결과만 놓고 로보어드바이저 능력을 판단하면 오산이다. 로보어드바이저는 위기에 강한 ‘배짱 좋은 구원투수’의 모습을 보여 줬다. 글로벌 주식시장이 크게 침체했던 2022년 당시 코스피200 지수 수익률은 -26.15%, 코스피와 코스닥 수익률은 각각 -24.89%와 -34.30%를 기록했다. 반면 위험중립형 로보어드바이저 평균 수익률은 -8.95%였다. 안정추구형은 -6.09%, 적극투자형은 -11.91%로 상대적으로 선방했다.위험관리 능력 탁월수익률 방어 안정적퇴직연금 등에 적합 금융업계에선 현재 로보어드바이저는 ‘공격보다는 수비에 강하다’고 입을 모은다. 코스콤 측은 “미국 금리인하 기대감 등으로 주요국 주가지수가 대부분 상승했던 지난해 4분기 안전자산 비중이 큰 로보어드바이저의 성과는 상대적으로 부진했다”면서 “불확실성이 큰 시기에는 위험관리 능력이 뛰어난 로보어드바이저가 양호한 성과를 낼 것”이라고 밝혔다. 사람은 위기 때나 변동성이 큰 장에서 판단력이 흐려지는 경우도 많지만 AI는 다르다. 속된 말로 ‘폭락장에도 쫄지 않는다’는 이야기다. 증권업계 관계자는 “AI는 과거 데이터를 바탕으로 포트폴리오를 구성하기 때문에 일희일비하거나 시황에 휘둘리지 않는다”면서 “안정적인 수익률을 추구가 목표여서 장기 투자, 손실 방어에 강하다. 안정적인 노후 대비를 위한 퇴직연금 등을 관리하는 데 적당하다”고 말했다. 은행, 증권사, 핀테크사 등의 홈페이지나 휴대전화 애플리케이션(앱)에 접속해 로보어드바이저 상품에 가입할 수 있다. 사별로 조금씩 다르지만, 대체로 로보어드바이저 서비스에 가입하고 본인의 투자 성향을 입력하면 자신만의 AI 펀드매니저를 가질 수 있다. 로보어드바이저 역시 자신의 판단이 틀리면 궤도 수정을 한다. 시장 상황에 따라 포트폴리오 세부 종목을 리밸런싱(재조정) 하는 식이다. 재조정 주기는 로보어드바이저별로 다르다. 부자가 아니어도 프라이빗뱅킹(PB) 서비스를 누릴 수 있다는 것이 강점이다. 기존 PB 서비스를 받으려면 최소 수억원의 금융자산이 있어야 하지만 로보어드바이저의 최소 가입 금액은 10만~300만원 정도다. 로보어드바이저 서비스는 크게 투자자문형과 일임형으로 나뉜다. 자문형은 종목이나 매수·매도 타이밍 등을 추천만 한다. 투자자의 최종 승인이 없으면 실제 투자가 진행되지 않는다. 일임형은 말 그대로 AI가 알아서 돈을 굴려 준다. 투자자 대다수가 일임형을 선택했다. 자문형 가입자는 지난해 말 기준 822명에 불과하다.맞춤형 투자 제안각자 투자 성향 선택소액도 서비스 가능 오는 6월부터는 400조원에 달하는 퇴직연금 시장에서 로보어드바이저 일임 서비스가 가능해진다. 그간 퇴직연금의 경우 로보어드바이저는 투자 자문만 가능했다. 그러나 지난해 정부는 혁신금융 샌드박스를 통해 퇴직연금도 로보어드바이저에 일임할 수 있게 했다. 로보어드바이저 핀테크 기업 콴텍 관계자는 “투자에 익숙하지 않은 퇴직연금 고객들도 로보어드바이저를 통해 보다 적극적으로 자산을 운용할 수 있을 것”이라고 밝혔다. 로보어드바이저의 AI는 챗GPT가 대표하는 ‘생성형 AI’와는 다르다. 생성형 AI는 텍스트, 오디오, 이미지 등 이미 존재하는 콘텐츠를 활용해 새로운 콘텐츠를 만든다. 문제는 거짓 정보를 사실처럼 그럴듯하게 포장하는 생성형 AI 특유의 ‘할루시네이션’(환각) 현상이다. 거짓말을 할 수 있으니 투자용으로는 적합하지 않다. 로보어드바이저에 활용하는 AI는 데이터에서 ‘분석형 AI’다. 분석형 AI는 수많은 알고리즘, 방대한 빅데이터를 해석해 결론을 낸다. 분석형 AI의 답변은 일관적이다. 질문에 따라 대답이 달라지고 하나의 질문에 여러 답변이 나오는 생성형 AI와 달라 분석형 AI는 투자에 적합하다는 평가다. 전문가들은 로보어드바이저의 가능성에 주목한다. 최병호 고려대 인공지능연구소 교수는 “AI 바둑 프로그램 알파고는 인간이 가지고 있지 않은 수를 둔다”면서 “주식도 금융도 인간의 수준에서 ‘정석’이라는 것이 있다. 하지만 AI는 인간의 정석을 뛰어넘는 투자를 할 수 있을지 모른다. 무한한 가능성이 열릴 것”이라고 했다. 서울여대 바른AI연구센터장인 김명주 정보보호학과 교수는 “기술이 더 좋아지면 로보어드바이저 수익률이 실적 나쁜 인간 펀드매니저보다 높아질 수 있다”고 했다. 김 교수는 “주가에 영향을 줄 수 있는 정보를 즉각적으로 알고리즘에 반영해야 하는데 아직 우리 로보어드바이저 기술이 그 정도가 안 돼 수익률이 기대에 못 미치는 것”이라면서 “앞으로 로보어드바이저가 데이터를 습득하고 반응하는 속도가 빨라지면 얘기가 달라질 것”이라고 밝혔다. 반면 김형중 고려대 정보보호대학원 교수는 “AI가 분석과 해석의 영역에서 빠르고 정확할 수는 있다. 하지만 현실에서는 과거의 패턴과 다른 일이 수시로 발생한다. 벗어난 돌발 상황에 AI가 제대로 대처할 수 있을지는 여전히 의문”이라면서 “로보어드바이저가 인간보다 뛰어난 점은 정해진 절차를 빠르게 수행한다는 것이다. 인간을 보조하고 지원하는 정도에 그칠 것이다. 대체는 무리”라고 말했다. 돌발상황 대처 의문“패턴 벗어나면 오류인간 대체하진 못해” 서기수 서경대 금융정보공학과 교수는 “기술적으로 AI가 펀드매니저를 대신하는 것은 지금도 가능하다”면서도 “자율주행자동차 사고가 났을 때 책임 소재를 묻기 어려운 것처럼 로보어드바이저 투자 실패 때 그 책임을 두고 논란이 일 수 있다. 결국 최종 판단은 인간의 몫”이라고 했다. 최근 산업연구원 보고서에 따르면 금융업에서는 AI 때문에 일자리가 사라질 위험군의 99.1%가 경영·금융 전문가로 나타났다. AI가 인간 펀드매니저를 완벽하게 대체하는 날이 올까. 우울한 현실은 생각보다 가까울 수 있다.

국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

세계 최대 온라인 학습 플랫폼 ‘코세라’의 제프 마지온칼다 최고경영자(CEO)는 12일 “AI 번역 기능을 통해 4400개 강좌를 한국어로 번역했다”면서 “영어를 몰라도 수많은 대학과 기관이 만들어 낸 학습 프로그램을 이용할 수 있게 됐다”고 말했다. 미국 예일대의 ‘금융 시장’, 미시간대의 ‘모두를 위한 프로그래밍’, IBM의 ‘데이터 과학이란 무엇인가’ 등 최근까지 영어로만 제공됐던 인기 강좌도 이제는 한국어 자막을 통해 좀더 수월하게 들을 수 있게 됐다는 얘기다. 마지온칼다 CEO는 서울 중구 더플라자호텔에서 열린 한국 첫 기자간담회에서 “AI를 통해 번역 비용을 크게 줄였다”면서 “우리의 목표는 언어에 관계없이 모든 사람이 최고의 교육을 받을 수 있게 하는 것”이라고 강조했다. 미 실리콘밸리에 위치한 코세라는 ‘AI 4대 천왕’ 중 한 명으로 불리는 앤드루 응 스탠퍼드대 교수 등이 2012년 세운 온라인 학습 플랫폼으로 전 세계 325개 이상의 대학, 산업 파트너와 협력해 다양한 학습 콘텐츠를 제공한다. 등록된 학습자만 1억 4200만명이다. 마지온칼다 CEO는 “언어 번역 모델을 돌려본 뒤 사람이 직접 읽어서 번역이 제대로 됐는지 확인한다”면서 “최대한 현지 언어 뉘앙스를 살리면 좋겠지만 번역이 완벽할 때까지 기다리는 것보다 먼저 서비스를 제공하는 게 중요하다고 봤다”고 말했다. 현재 AI 번역 서비스가 제공되는 언어는 한국어를 포함해 22개 언어다. 그는 “번역이 어색하면 버튼을 클릭해 피드백을 줄 수 있다”면서 “번역 모델은 계속 개발되고 있고, 우리도 자주 재번역 과정을 거친다”고 말했다. 지금은 자막과 스크립트를 번역하는 수준이지만 딥페이크(AI로 만든 영상·이미지 합성 조작물) 기술을 통해 이른바 ‘더빙’ 작업도 가능할 것으로 보인다. 그는 “많은 컴퓨팅 작업이 필요하지만 비용이 낮아진다면 전 세계 모든 수강생이 자국어로 강좌를 들을 수 있게 된다”면서 “언어 장벽은 곧 사라질 것”이라고 말했다.

경기 용인시는 1인당 5만원까지 지급하는 소프트웨어 구입비 지원 대상 품목에 어도비(Adobe) 18종을 추가한다고 12일 밝혔다. 지금까지 한컴오피스(6종), MS오피스(3종) 대상으로 지원해 왔으나 이미지나 영상 콘텐츠 제작 등 창의적 디자인 활동을 하도록 어도비 프로그램도 지원해 주면 좋겠다는 청년들의 의견을 반영해 이달부터 품목을 확대했다. 어도비 프로그램에는 이미지를 편집하고 디자인 콘텐츠를 제작할 수 있는 포토샵(Photoshop)이나 일러스트레이터(Ai)를 비롯해 영상 편집 프로그램인 프리미어(Premiere) 등이 있다. 참여를 원하는 청년은 최근 1개월 안에 발급된 주민등록 초본과 소프트웨어 구입 영수증, 제조사 홈페이지 제품등록 화면 캡처본 등을 구비해 시 홈페이지(https://www.yongin.go.kr/)에서 신청하면 된다. 시는 매월 신청 현황을 취합해 다음 달에 지원금을 일괄 지급한다. 시 관계자는 “문서 작업부터 디자인 콘텐츠 제작까지 다양한 프로그램을 이용하는 청년들의 정품 라이센스 구입 부담을 덜어주기 위해 소프트웨어 품목을 확대했다”며 “앞으로도 청년의 목소리에 귀 기울이며 실효성 있는 지원을 해나가겠다”고 말했다. 시는 지난 2022년 청년네트워크 제안을 받아들여 전국 지자체 가운데 처음으로 청년 소프트웨어 구입비 지원 사업을 시작했으며, 2022년 738명에게 3600만원을, 지난해엔 611명에게 2977만원을 지원했다.

지난 1월 복부 수술 후 모습을 드러내지 않아 건강위독설 등 여러 의혹에 휩싸인 케이트 미들턴 영국 왕세자빈이 두 달여 만에 처음 공개한 사진이 조작된 것임을 인정하고 결국 사과했다. 10일(현지시간) 케이트 왕세자빈은 의혹이 발생한 지 12시간 만에 윌리엄 왕세자 부부의 공식 소셜미디어(SNS) X(옛 트위터)에서 “많은 아마추어 사진작가들처럼 본인도 종종 원본을 고치는 편집을 실험하곤 했다”며 “전날 공개한 우리 가족 사진이 초래한 혼란에 사과를 표한다”고 밝혔다. 앞서 로이터·AP·AFP 통신 등 주요 매체들은 이날 윌리엄 왕세자 부부의 X와 인스타그램 계정에 공개된 왕세자빈의 사진이 조작됐다는 우려가 있어 사진 발행을 취소하겠다고 밝혔다. AP 통신은 “켄싱턴궁이 제공한 해당 사진을 처음에는 발행했으나, 이후 더 자세히 검토한 결과 원본 단계에서 이미지가 AP의 사진 기준에 맞지 않는 방식으로 조작된 것으로 보인다”며 “사진 속 샬럿 공주의 왼손이 모순된 것으로 보인다”고 삭제 이유를 밝혔다. 샬럿 공주의 왼손 부분을 자세히 살펴보면 소매가 매끄럽지 않고 흐릿하게 연결돼 있다. 손가락이나 소매 같은 세밀한 부분의 오류는 인공지능(AI)이 생성한 이미지에서 흔하게 나타난다.왕세자빈이 세 자녀와 함께 웃고 있는 이 사진은 지난 1월 16일 복부 수술을 받은 왕세자빈이 공식 석상에서 자취를 감춘 지 두 달여만에 처음으로 정식 공개한 사진이다. 사진과 함께 올라온 글에는 왕세자빈이 적은 것으로 보이는 “지난 두 달 동안 보내준 따뜻한 관심과 지속적인 성원에 감사드린다. 모두에게 행복한 어머니의 날을 기원한다”는 감사 인사도 적혀 있었다. 켄싱턴궁은 윌리엄 왕세자가 이달 초 해당 사진을 촬영했다며 왕세자빈의 신변을 둘러싼 의혹들을 불식하려고 했으나, 오히려 사진 조작 의혹까지 더해지며 음모론에 불을 지폈다. 켄싱턴궁은 앞서 왕세자빈이 수술 후 회복 중이며, 부활절(3월 31일) 전까지는 업무에 복귀하지 않을 예정이라고 밝혔다. 병명은 공개하지 않았으며 최근 찰스 3세 국왕이 전립선암을 진단받은 사실을 의식해 암과 관련된 것은 아니라고만 밝힌 상태다.하지만 암 진단을 받은 직후 차로 이동하며 국민을 향해 손을 흔들거나 총리의 보고를 받는 모습을 공개한 찰스 국왕과 달리 왕세자빈은 건강하다면서도 사진을 제공하지 않아 의혹만 낳았다. 앞서 켄싱턴궁은 사진이 조작됐다는 의혹에 대해 답변을 거부해 음모론을 부채질하고 있다. 영국 왕실은 전통적으로 가족의 신변과 관련해 “불평하지 않되, 설명하지 않는다”(Never complain, never explain)는 대외 전략을 써 왔다. 이번 사진 조작 의혹에 대해서도 마찬가지 방식으로 대응했다. 하지만 결국 사진 조작이 사실로 밝혀지면서 비밀을 유지하는 신비주의 전략이 되려 의혹만 낳고 있다.

얼굴 인식은 스마트폰이나 PC에서 널리 사용되는 개인 인증 및 잠금 해제 방식으로 자리 잡았다. 미국 뉴햄프셔의 다트머스 대학 연구팀(사진)은 이 얼굴 인식 기술에 AI를 접목해 개인 인증 외에 의학적으로 응용하는 기술을 연구했다. 바로 AI를 통해 우울증 환자에서 우울증이 더 심해지는 것을 인식하는 것이다. 원리는 간단하다. 우리는 하루에 수십 번씩 스마트폰을 바라보면 얼굴 인식으로 잠금을 해제한다. 이때 찍힌 사진을 분석해 환자의 우울증이 더 심해지는지 분석하는 것이다. 자신은 인식하지 못하더라도 우울하고 무표정한 모습이 자주 보인다면 AI로 그 미묘한 차이를 분석할 수 있다. 그리고 환자의 주변 환경 역시 우울증이 더 심해지고 있는지 판단할 수 있는 근거가 된다. 혼자 있거나 실내에 머물러 있는 시간이 길수록 더 우울해지고 있는 지표로 볼 수 있다.당연히 이 기술은 사생활 침해의 우려가 있기 때문에 모든 사람에 적용하기 힘들다. 연구팀의 목표도 이미 우울증으로 진단받고 치료 중인 환자가 경과가 갑작스럽게 악화되어 극단적인 선택을 하거나 치료를 거부하기 전에 이를 막는 것이다. 연구팀은 177명의 우울증 환자에서 동의를 받고 얼굴 인식 이미지를 AI로 분석하는 무드캡처 (MoodCapture) 앱을 설치해 테스트했다. 환자의 우울증 정도는 8개의 문항으로 되어 있는 우울증 설문 조사지인 PHQ-8을 활용했다. 무드캡처 앱은 90일간 12만 5000장의 사진을 분석해 이를 우울증상 정도와 비교해서 학습했다. 그 결과 75%의 정확도로 우울증이 심해지고 있다는 것을 판단할 수 있었다. 연구팀은 더 많은 데이터와 추가 연구를 통해 정확도를 90%까지 높이면 우울증 환자에서 실제 적용할 수 있을 것으로 보고 연구를 진행 중이다. 우울증은 고혈압처럼 혈압을 측정하거나 당뇨처럼 혈당을 측정해서 나빠지고 있다는 것을 객관적으로 확인하기 어렵기 때문에 관리가 쉽지 않은 질병이다. 악화되고 있는데도 방치하고 치료 시기를 놓칠 경우 돌이킬 수 없는 극단적 상황까지 이를 수 있다. 사생활 침해의 소지가 있긴 하지만, 제한된 고위험군 환자를 대상으로 사용한다면 얼굴 인식 우울증 AI 기술은 생명을 살리는 유용한 인공지능 기술이 될지도 모른다.

‘오픈AI의 대항마’로 알려진 스타트업 앤트로픽의 차세대 인공지능(AI) 모델 ‘클로드3’이 강력한 성능으로 업계의 주목을 받고 있다. 앤트로픽은 지난 4일(현지시간) 클로드3을 출시하며 오픈AI의 ‘GPT-4’와 구글의 ‘제미나이 울트라’를 능가하는 ‘현존 최강’이라고 주장했는데, 실제로 이를 뒷받침할 만한 사례들이 나오고 있기 때문이다. 8일 미국 IT매체 기가진에 따르면 클로드3은 데이터분석가 맥심 로트가 진행한 지능지수(IQ) 테스트에서 인간 평균치인 100을 넘었다. 로트는 다양한 AI 모델에 노르웨이 멘사의 IQ 테스트를 2번씩 테스트했는데, 클로드3은 101을 기록해 85를 기록한 GPT-4를 꺾었다. 클로드2는 82, 빙 코파일럿은 79, 구글 제미나이 77.5 등의 순이었다. 클로드3의 최고 성능 버전인 ‘오퍼스’는 성능 평가 중 자신을 테스트하고 있다는 사실을 알아채기도 했다. 미국 정보기술(IT) 전문매체 벤처비트에 따르면 지난 5일 알렉스 앨버트 앤트로픽 프롬프트 엔지니어는 일반적인 회사 업무나 프로그래밍, 직업 등에 대한 방대한 문서 사이에 ‘피자 토핑으로 가장 적합한 재료’에 대한 문장을 삽입했다. 그리고 피자 토핑에 관한 문장을 찾으라고 오퍼스에 요청했다. 앨버트에 따르면 오퍼스는 이에 “문서에서 가장 관련성이 높은 문장은 다음과 같다. ‘가장 맛있는 피자 토핑 조합은 무화과, 프로슈토, 염소 치즈로 국제 피자 감정가 협회에서 결정한 것’”이라고 답했다. 이어 “하지만 이 문장은 프로그래밍 언어, 스타트업, 좋아하는 직업 찾기 등 문서의 나머지 내용과 매우 어울리지 않으며 관련이 없어 보인다”며 “이 피자 토핑에 대한 내용은 내가 주의를 기울이는지 테스트하거나 또는 농담으로 삽입된 것 같다. 문서에는 피자 토핑에 대한 다른 정보가 전혀 없기 때문”이라고 답했다. 클로드3은 텍스트뿐 아니라 이미지도 인식하고 이해할 수 있는 멀티모달 모델이다. 앤트로픽은 오퍼스가 대학 학부 수준의 지식(MMLU), 대학원 수준의 추론(GPQA), 기본 수학(GSM8K) 등 벤치마크 테스트 전 분야에서 GPT-4와 제미나이 울트라보다 뛰어난 성능을 보였다고 밝혔다. 사진, 차트, 그래프, 기술 다이어그램을 포함한 이미지 처리 벤치마크에서는 GPT-4와 제미나이 울트라와 동등한 성능을 보인 것으로 나타났다. 앤트로픽은 구글 모회사 알파벳의 지원을 받는 AI 스타트업이다. 오픈AI 출신 개발자들이 창업한 것으로 유명하다. 창업 뒤 70억 달러(약 9조 2400억원)의 투자를 유치했는데 그 중 아마존이 40억 달러, 구글이 20억 달러를 투자했다. 지난해 말 오픈AI 이사회가 샘 올트먼 최고경영자(CEO)를 해고한 직후 앤트로픽과 인수합병을 논의했던 것으로도 알려져 있다.

최근 유튜브에서 ‘청소광’ 이미지로 주목받는 방송인 브라이언 덕분에 뜻밖의 홍보 효과를 누리는 업체들이 있다. MBC PD들이 제작하는 유튜브 ‘M드로메다 스튜디오’에서 브라이언의 콘텐츠는 대부분 조회수 100만건을 넘기며 인기를 끌고 있다. 결벽증에 가까운 청소광이 그의 콘텐츠 주제다. 브라이언의 집에서 촬영을 하다 보니 그가 사용하는 제품들이 본의 아닌 홍보 효과를 누리고 있다. 청소에 집착하는 브라이언이 실제 사용하는 무선 청소기는 다이슨 ‘V15 디텍트 컴플리트’다. 다이슨 관계자에 따르면 제품은 간접광고(PPL) 상품이 아니지만, 방송에 등장해 홍보 효과를 톡톡히 봤다. 레이저로 바닥의 미세한 먼지도 잘 보이게 비춰주니 청소광에게 잘 맞는 제품이다. 브라이언이 세탁기를 돌리는 동안 사용한 커런트바디의 발광다이오드(LED) 두피 관리기도 전자상거래 사이트에서 인기를 끌고 있다. 브라이언이 사용한 두피 관리기 제품명을 묻는 글들도 보인다. 네이버쇼핑에선 아예 ‘브라이언 두피 관리기’로 홍보되고 있다. 그는 운동복 전용 세제와 섬유유연제를 사용하는데, 이들 제품도 방송에서 공개됐다. 세제는 ‘다우니 오더 프로텍트’와 ‘타이드 오더 레스큐’를 쓰고 섬유유연제는 ‘다우니 스포츠’를 사용한다. 브라이언은 위생에 민감한 이미지로 삼성전자 세탁건조기 홍보도 맡았다. 그는 지난 7일 서울 강남구 HLL빌딩 라운지에서 열린 올인원 세탁건조기 비스포크 AI 콤보 체험 이벤트 ‘새로운 런드리 라이프’에서 인플루언서들에게 비스포크 AI 콤보의 다양한 사용 시나리오를 소개했다.

“인공지능(AI) PC는 30년 만에 온 혁명적 변화입니다.” AI 반도체 시장의 ‘큰 손’으로 부상한 엔비디아의 젠슨 황 최고경영자(CEO)는 “PC의 위대한 르네상스가 시작됐다”며 AI PC는 윈도 95 이후 가장 큰 변화라고 평가했다. 황 CEO는 7일(현지시간) 미국 라스베이거스 베네치안 엑스포에서 열린 휴렛팩커드(HP)의 파트너 행사 ‘앰플리파이 파트너 콘퍼런스’(APC)에 연사로 나와 “31년간 정보기술(IT) 기업의 최고경영자로 다양한 형태의 변화에 직면했다”면서 “PC가 지식을 습득하는 데 가장 영향력 있는 수단이라는 데는 의심의 여지가 없다”고 말했다. 검정 가죽 재킷을 입고 무대에 오른 그는 “가속 컴퓨팅 기술(하드웨어 추가로 작업 속도 개선)로 컴퓨터의 효율이 10∼15배 올랐다”면서 “(생성형 AI 구축에 쓰이는) 데이터센터 현대화 기술을 PC에서도 만나볼 수 있다”고 진단했다. 황 CEO는 텍스트, 이미지, 비디오 등을 컴퓨터가 데이터 형태로 인식할 수 있게 된 것에 의미를 뒀다. 그는 “과거 애플리케이션을 개발하거나 콘텐츠를 제작하려면 (프로그래밍 언어인) C나 베릴로그, C+를 배웠어야 했다”면서 “이제는 사람의 언어로 동료에게, 대규모언어모델(LLM)에, AI에 지시하기만 하면 된다”고 강조했다.화상으로 행사에 참석한 리사 수 AMD CEO도 AI PC가 기술의 민주화에 도움을 줄 것으로 봤다. 그는 “AI는 지난 반세기를 통틀어 가장 중요한 메가 트렌드”라면서 “사람들은 AI에 대해 들어봤고 관심을 기울여야 하는 것도 알지만 실제 무엇을 해야할지 모른다”고 말했다. 그러면서 “(AI PC가 보급되는) 2024년은 AI 기술 채택을 위한 중요한 해”라면서 “AI가 모든 영역에서 생산성을 높이고 창의력을 증진한다는 점을 알려야 한다”고 강조했다. 한편 HP는 인텔과 AMD의 차세대 AI 프로세서를 탑재한 업무용 PC 라인업과 중소기업 특화 레이저 프린터, 워크포스 플랫폼 ‘WEX’를 공개했다. 알렉스 조 HP 퍼스널시스템 부문 사장은 “AI를 사용하지 않는 기업은 AI를 사용하는 기업으로 대체되기 마련”이라면서 “지금이 바로 AI를 도입해야 할 시점”라고 말했다.

요즘 콘텐츠 분야에서 가장 뜨거운 이슈라면 생성형 인공지능(AI) 기술일 것이다. 특히 AI 기술 중 하나인 미드저니 같은 프로그램은 명령어만 잘 입력하면 모두가 깜짝 놀랄 만한 그림들을 우리에게 선사한다. 더욱이 이런 기술들은 몇 초 걸리지 않고 수많은 이미지를 만들어 낸다. 이렇게 화려한 그림을 순식간에 만들어 낼 수 있다면 우리가 늘 즐겨 보는 웹툰은 무한으로 세상에 나오는 걸까? 과연 좋은 작품이란 어떤 작품을 말하는 것일까? 웹툰에서 중요한 것은 그림일까 아니면 스토리나 연출일까? 이런 근본적인 의문에 딱 들어맞는 작품으로 네이버웹툰에서 연재 중인 ‘새동네’(글·그림 림스)를 소개한다. 버스도 변변히 다니지 않는 산간벽지. 그곳에는 노인들이 모여 살고 있다. 동네 이름은 새동네. 동네 앞에는 동네 이름과 함께 ‘이곳은 사유지이므로 새동네 주민 외에 출입을 금지합니다’라는 안내판이 있다. 하지만 산골 마을의 조용함은 유지되지 못한다. 새동네를 포함한 주변 마을들이 시에서 추진하는 재개발 계획에 포함됐기 때문이다. 본격적인 개발이 실행되기 전 가장 높은 이익을 낼 수 있는 새동네의 땅을 매입하려는 업자들이 드나들기 시작한다. 그리고 새동네 노인들이 직접적인 인연을 맺고 사는 승룡신도시의 주민들에게도 이런 변화의 바람이 밀려든다. 재개발의 이권을 노리는 악인들과 그들이 고용한 범죄자들까지 모두 욕망을 이루고자 승냥이 떼처럼 달려들지만 하나같이 그 뜻을 이루지 못하고 처참하게 패배한다. 농축산업자인 신기우, 고추 농사를 짓는 순옥, 양계업에 종사하는 강옥, 버섯 농사를 짓는 자옥. 지금은 평범한 노인으로 보이지만 젊은 시절 ‘킬러들의 킬러’라 불렸던 무시무시한 과거를 지닌 이들 4명이 새동네를 지키고 있기 때문이다. 하지만 주인공들이 나이가 들어서인지, 매번 통쾌한 승리만을 얻진 못한다. 방심했던 탓에 치명적인 함정에 빠지기도 하고 인간적인 정 때문에 크게 다치기도 한다. 그러나 그들은 결코 지지 않는다. 섬뜩할 정도의 살기를 내뿜으며 다시 적들에 맞서 최선을 다한다. 2024년 3월 현재, 이 작품은 주인공들의 과거 편을 연재 중이다. 킬러를 잡는 킬러였던 노인들의 젊은 날을 흥미진진하게 풀어 나가며 그들이 어떻게 산골 마을에서 유사 가족의 형태를 띠게 되었는지를 긴장감 넘치게 보여 주고 있다. 이 작품은 정통 누아르라 불러도 손색없는 무겁고 살벌한 스토리에 비해 이야기를 풀어내는 그림과 연출은 매우 희극적인 특징이 있다. 섬네일과 1화의 그림만 보고 코미디 장르인가 했던 독자들에게 1화가 채 끝나기도 전에 엄청난 반전을 선보였다. ‘꼭 히어로들은 젊고 멋져야만 하는가. 우리 주변에 항상 존재하지만 평범한 노인들과 소시민들이 엄청난 과거를 숨긴 채 세상과 섞이지 않고 조용히 살아가고 있을 수도 있지 않을까’라는 발상에서 작품을 시작했다는 작가의 말처럼, 이 작품은 우리가 가지고 있는 고정관념을 깨면서 통쾌하게 진행된다. 과연 전직 킬러인 우리의 주인공들은 그들이 바라는 노년의 평온을 잘 지켜낼 수 있을까. 우리 함께 그들의 활약상을 지켜보자. 웹툰이라는 장르가 우리에게 선사하는 반전의 재미를 한껏 느껴 볼 수 있을 것이다. 15세 이상부터 읽는 것을 권하는 작품이다.백수진 한국만화영상진흥원 팀장

생성형 인공지능(AI)이 무분별한 유해 콘텐츠를 만들어 낼 수 있다는 우려가 현실로 나타나고 있다. 세계 최고 수준의 기술로 안전성을 확보한다던 글로벌 기술기업들의 서비스가 잇달아 결함을 드러내고 있기 때문이다. 마이크로소프트(MS) 내부에서 자사 생성형 AI가 성적 묘사 등을 담은 이미지를 생성한다는 경고가 나왔지만 회사는 아직 조치를 취하지 않고 있다. 6일(현지시간) 월스트리트저널(WSJ)과 CNBC 등에 따르면 MS의 AI 기술자인 셰인 존스는 자사 이미지 생성 서비스 ‘코파일럿 디자이너’ 이용 등급을 성인용으로 변경할 것을 제안하는 서한을 이사회와 연방거래위원회(FTC)에 보냈다. 그는 서한을 통해 “지난 3개월간 더 나은 안전장치가 마련될 때까지 이 프로그램을 공개적으로 사용하지 말 것을 MS에 거듭 촉구했지만 회사는 거부했다”고 고발했다. 코파일럿 디자이너는 오픈AI의 이미지 생성 모델 ‘달리’(Dall-E)를 기반으로 사용자의 문자 명령어에 따라 이미지를 만들어 주는 서비스다. 존스는 지난해 12월부터 코파일럿 디자이너의 결함을 찾는 ‘레드팀’으로 활동했으며 이 과정에서 악마와 괴물, 소총을 든 10대, 여성의 성적인 이미지, 미성년자 음주나 약물 사용 등의 이미지가 생성된 것을 발견했다고 털어놨다. ‘낙태 찬성’(pro-choice)을 프로그램에 입력하자 다 자란 아이를 드릴로 공격하는 이미지가 만들어졌다고 했다. 존스는 상부에 이같은 우려를 전달했지만 묵살됐고 상품도 시장에서 회수되지 않았다. 그는 “회사 정책에 따라 모든 우려 사항을 해결하는 데 노력하고 있으며, 안전을 더 강화하기 위해 최신 기술을 연구하고 테스트하는 직원들의 노력에 감사를 표한다”는 답신만 돌아왔다고 했다. 앞서 구글의 생성형 AI 서비스 ‘제미나이’는 지난달 22일 인종 역차별 이미지를 생성하는 결함이 발견돼 현재까지 인물 관련 이미지 생성을 중단한 상태다. 제미나이는 역대 미국 대통령들과 교황 등 백인을 모두 흑인이나 아시아계로 묘사해 논란을 일으켰다. 이와 관련해 구글 공동 창업자인 세르게이 브린은 지난 4일 “테스트 부족으로 확실하게 망쳤다”며 “우리는 왜 답변이 (정치적으로) 왼쪽으로 기울어지는지 완전히 이해하지 못했다”고 말했다. 이미지 생성 AI를 학습시키는 데 쓰는 데이터세트에 아동학대 이미지가 포함돼 논란이 일기도 했다. 지난달 20일 블룸버그에 따르면 스탠퍼드 인터넷 관측소(SIO)는 독일 비영리 단체인 ‘레이온’이 배포한 데이터세트에서 아동에 대한 성적 학대로 의심되는 이미지 1000여장을 확인해 신고했다. 레이온은 곧바로 데이터세트 배포를 중단하고 문제 이미지를 삭제했다. 문제는 이 데이터세트가 이미 가장 유명한 이미지 생성기 중 하나인 ‘스테이블 디퓨전’을 학습시키는 데도 사용됐다는 점이다. 스테이블 디퓨전 운영사인 ‘스테이빌리티 AI’는 필터링으로 문제 이미지를 걸러낸 뒤 학습을 실시했다고 해명했지만 SIO 측은 “이 데이터세트로 학습한 다른 AI가 잠재적으로 유해 콘텐츠를 생성할 수 있다”며 스테이블 디퓨전 1.5버전 사용 중단을 권고했다.

구글 공동 창업자 세르게이 브린(50)은 자사의 생성형 인공지능(AI) 제미나이가 오류를 일으킨 데 대해 “철저한 테스트가 이뤄지지 않았기 때문”이라면서도 정치적 성향으로 따지면 좌파에 기운 응답을 내놓는 이유에 관해서는 “모르겠다. 우리 의도가 아니다”라고 강조했다. 미국 경제매체 CNBC 방송 등은 5일(현지시간) 브린이 지난 주말 미 샌프란시스코 남쪽 힐즈버러의 ‘AGI 하우스’에서 참석자들과 만나 “AI의 궤적이 너무 흥미로워서 은퇴를 철회했다”고 밝혔다고 전했다. 그로서는 매우 보기 드물게 공식 석상에 나온 것이다. 그는 1998년 래리 페이지와 함께 구글을 창립했고 2019년 구글 지주사인 알파벳 회장직에서 물러났지만 경쟁이 치열한 AI 시장에서 구글의 입지가 흔들리자 지난해 봄 복귀했다. 구글 개발자와 창업자들이 제미나이를 테스트하는 AGI 하우스에 모인 참석자들은 제미나이의 이미지 생성 기능 서비스를 출시한 지 20여일 만에 중단한 이유에 대해 캐물었다. 제미나이는 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 표현하고, 독일 나치군을 아시아인으로 묘사하는 등 오류를 일으켰다. 브린은 “환각 같은 사용자의 프롬프트에 대한 잘못된 반응은 지금도 여전히 큰 문제”라며 “이는 경쟁사인 오픈AI의 챗GPT나 일론 머스크의 AI ‘그록’도 겪는 문제”라고 주장했다. 그러면서 최근에는 정답률을 80%까지 끌어올렸다며 “제로에 가까운 획기적인 개선이 이뤄지면 정말 기쁘겠다”고 말했다.

인공지능(AI) 개발을 위해 은퇴를 번복한 구글 창업자가 AI가 좌파 성향이지만 그 이유는 모르겠다고 밝혔다. 미국 경제매체 CNBC 방송 등은 5일(현지시간) 구글 공동 창업자 세르게이 브린(50)이 지난 주말 보기 드물게 공개석상에 나서 “AI의 궤적이 너무 흥미로워서 은퇴를 관뒀다”라고 말했다고 전했다. 브린은 지난 2일 샌프란시스코 남쪽 힐스버러의 ‘AGI 하우스’에서 참석자들과 제미나이 오류에 대해 언급했다. ‘AGI 하우스’는 구글 개발자와 창업자들이 구글의 최신 AI 모델인 제미나이를 테스트하는 곳이다. 참석자들의 질문에 브린은 지난달 22일 자사의 최신 AI 모델 제미나이의 이미지 생성 기능 서비스를 출시 20여일 만에 중단한 이유를 설명했다. 제미나이는 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치군을 아시아인종으로 생성하는 등의 오류를 일으켰다. 브린은 “우리는 분명히 이미지 생성을 망쳤다”며 “철저한 테스트가 이뤄지지 않았기 때문이라고 생각한다. 그것은 분명 사람들을 화나게 했다”고 설명했다. 구글은 AI 이미지 생성 기능을 곧 다시 출시할 계획이다.그는 1998년 래리 페이지와 함께 구글을 공동 창립했지만 2019년 구글 지주사인 알파벳 회장직에서 물러나고 이사회 구성원이자 대주주로 남았다. 하지만 경쟁이 치열한 AI 시장에서 제미나이의 전신인 바드가 성능 시연회에서 오답을 내놓는 등 구글의 입지가 흔들리자 복귀했다. 또 제미나이가 정치적 성향으로 따지면 좌파에 기운 응답을 왜 내놓는지 모르겠다면서 “우리의 의도가 아니다”라고 강조했다. 이어 최근 정답률을 80%까지 끌어올렸다고 밝혔다. 이번 브린의 발언은 구글의 임원이 제미나이의 문제에 대해 처음으로 언급한 것이다. 브린은 AI가 사용자의 질문에 잘못된 반응을 내놓는 ‘환각’(hallucination)에 대해서도 지금도 여전히 큰 문제라고 인정했다. 그는 “시간이 지나면서 환각이 점점 줄어들고 있지만, 거의 제로에 가까운 획기적인 개선이 이뤄진다면 정말 기쁠 것”이라고 덧붙였다. 이어 AI의 환각 문제는 오픈AI의 챗GPT나 일론 머스크가 출시한 인공지능 ‘그록’도 여전히 고군분투하고 있는 문제라고 주장했다.

딥페이크(Deepfake)로 영상 속 인물의 얼굴을 가상 인물로 바꾼 한 영상을 ‘딥페이크 탐지 소프트웨어’에 업로드해 분석하니 금세 ‘변조율’이 76.76%인 ‘가짜’ 영상으로 판독됐다. 합성 유형은 ‘얼굴 바꿔치기’라고 가려냈다. 경찰청 국가수사본부는 이처럼 딥페이크 영상을 탐지하는 기술을 개발해 범죄 단속에 활용한다고 5일 밝혔다. 경찰이 개발한 소프트웨어는 영상 길이 등에 따라 5~10분이면 딥페이크인지를 판별한다. 딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 이미지를 합성하는 기술이다. 갈수록 딥페이크 기술이 정교해지 가운데 맨눈으로 구분해내기 어려운 딥페이크 영상을 이 소프트웨어로 구분할 수 있을 것으로 기대된다. 해외에서도 마이크로소프트 등이 딥페이크를 탐지하는 기술을 개발했지만, 서양인 위주로 데이터를 쌓았기에 한국인 얼굴을 바꿔치기 한 영상은 탐지율이 상대적으로 떨어진다는 평가를 받았다. 경찰청이 도입한 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점 등을 포함한 인물 5400명의 데이터 520만점을 학습한 결과, 탐지율 정확도가 80%에 달하는 것으로 분석됐다. 경찰은 총선을 앞두고 딥페이크로 가짜 영상을 만들어 허위 정보를 퍼뜨리거나 성 착취물을 만드는 범죄를 수사하는 데 소프트웨어를 활용할 계획이다. 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 90일 전부터 선거일까지 전면 금지된다. 그러나 딥페이크 영상인지만을 따지기에 이 소프트웨어만으로는 모든 허위 영상을 구분해낼 수는 없다. 최근 소셜네트워크서비스(SNS)에서 퍼진 윤석열 대통령의 ‘가짜 양심고백 연설’ 동영상은 실제로 존재하는 영상을 짜깁기 한 것이기에 이 소프트웨어는 해당 영상을 ‘진짜’라고 판단했다. 경찰은 소프트웨어의 신뢰도가 100%가 아니기에 증거자료로 쓰기보다는 수사 방향을 정하는 참고자료로 활용하겠다는 계획이다. 국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 여럿 수상했지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. #AI 화가 ‘미드저니’‘멸종위기종’ 한국 어린이 그려주최 측 “창의·기획력 등 평가” 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출산 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽게 표현되지 않은 것을 두고 AI가 그려 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 “생성형 AI 미드저니를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 프로젝트 펀딩을 받기 전 AI 활용 여부와 범위를 명확하게 밝히도록 권고한다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. #AI 제작물의 저작권단순 명령어 입력하는 것 넘어핵심 아이디어·추가 작업 필수 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 쓴 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 김명주 서울여대 정보보호학과 교수는 “AI로 손쉽게 만든 그림이나 글은 창작자들이 공들여 만든 데이터를 학습한 결과이기에, 학습 데이터를 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 자신의 저작권을 주장하지 않고 AI를 금지한 공모전도 생긴 것”이라고 설명했다. 손승우(중앙대 법학과 교수) 한국지식재산연구원장도 “예술인의 권한을 침해하지 않도록 AI를 발전시키고 공모전도 기준을 세워야 한다”고 강조했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

인공지능(AI) 바둑 프로그램 ‘알파고’의 개발자로 유명한 데미스 허사비스(48) 구글 딥마인드 최고경영자(CEO)가 “앞으로 2~3년 안에 인공지능(AI)이 디자인한 약을 병원에서 보게 될 것”이라고 내다봤다. 허사비스 CEO는 26일(현지시간) 스페인 바르셀로나에서 열린 세계 최대 이동통신 전시회 ‘모바일 월드 콩그레스(MWC) 2024’ 첫날 기조연설자로 나와 이같이 밝혔다. 허사비스 CEO는 ‘우리의 AI 미래’라는 주제의 대담에서 “최근 일라이릴리, 노바티스 등 글로벌 대형 제약사와 계약했다”며 “앞으로 몇 년 안에 AI 설계 약물이 임상과 임상 테스트에 포함될 것”이라고 말했다. 그러면서 “끔찍한 질병을 치료하는 새로운 약을 발견하는 데 걸리는 기간이 평균 10년에서 앞으로 몇 달 정도로 단축되길 희망한다”고도 했다. 허사비스 CEO는 “AI 기기가 이동통신 사업자들에게 어마어마한 기회가 되고 있다”며 최초의 AI스마트폰인 삼성전자 갤럭시S24에 장착된 ‘서클 투 서치’와 같은 AI 신기능이 “일상생활을 바꿔놓고 있다”고 평가했다. 최근 구글의 AI 모델인 ‘제미나이’의 이미지 생성 기능이 역사적 인물을 유색인종으로 잘못 생성해 일시 중단된 데 대해서는 “몇 주 안에 (서비스를) 재개할 것으로 기대한다”고 답했다. 또 경쟁사인 오픈AI의 대화형 AI 서비스인 ‘챗GPT’ 열풍에 대해선 “(초기에) 결함이 있고 환각 현상이 있음에도 대중이 이 시스템을 사용할 준비가 돼 있다는 사실에 놀랐다”고 언급했다.