찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 우려
    2026-11-19
    검색기록 지우기
  • 회
    2026-11-19
    검색기록 지우기
  • 처리
    2026-11-19
    검색기록 지우기
  • 세종
    2026-11-19
    검색기록 지우기
  • 소비
    2026-11-19
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 6,698 건
  • 하루 7건꼴… 딥페이크, 총선 파고들다

    하루 7건꼴… 딥페이크, 총선 파고들다

    #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.
  • 챗GPT에 음주운전 친구 탄원서 요청하니…10초만에 ‘뚝딱’

    챗GPT에 음주운전 친구 탄원서 요청하니…10초만에 ‘뚝딱’

    “존경하는 판사님. 저의 친구 OO에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라는 점을 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고, 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만, 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “OO은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역 사회의 문제에 관한 관심, 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”고 꾸며썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례가 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT를 이용해 지방자치단체 체육회 팀장 명의로 자신의 선처를 요청하는 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미가 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적 형식적 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”면서 “챗GPT로 물량공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI기술을 악용한 증거조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.
  • ‘입틀막 강퇴’ 카이스트 졸업생 “끌려 나간 뒤 30분 감금… 과잉 진압 사과하라”

    ‘입틀막 강퇴’ 카이스트 졸업생 “끌려 나간 뒤 30분 감금… 과잉 진압 사과하라”

    지난 16일 대전 한국과학기술원(KAIST·카이스트) 학위 수여식에서 윤석열 대통령 축사 도중 소리를 질러 퇴장당한 카이스트 졸업생 신민기 녹색정의당 대전시당 대변인이 19일 윤 대통령의 사과를 촉구했다. 신 대변인은 이날 대전시당과 함께 대전 서구 전교조 대전지부에서 기자 회견을 열고 “대통령을 향해 어떠한 위해도 가할 의도가 없었지만 쓰고 있던 안경이 날아가고 마스크 줄이 끊어지는 등 과도하게 제압당했다”면서 “대통령실은 과잉 진압에 사과하고 경호 책임자를 경질하라”고 밝혔다. 신 대변인은 축사에 나선 윤 대통령이 “과학 강국으로의 퀀텀 점프를 위해 연구개발(R&D) 예산을 대폭 확대하겠다”고 하자 “생색내지 말고 R&D 예산을 복원하라”고 외치다 사복 경호원들에 의해 행사장 밖으로 끌려 나갔다. 그는 “경호원들이 문밖을 지키고 있는 별실에서 30분 동안 감금당했고 ‘사람들을 선동할 수 있는 행위를 했다’는 이유로 경찰에 그대로 연행됐다”며 “대통령을 향해 피켓을 들어 올린 게 표현의 자유, 신체의 자유를 억압할 정도의 업무 방해였는지 이해되지 않는다”고 말했다.신 대변인은 “경찰 조사의 부당함에 대응하고 강제적인 수단마저도 서슴지 않는 윤 정권을 심판하는 데 힘을 모으고 싶다”며 경찰 조사 배경으로 제기된 업무 방해 혐의를 인정할 수 없다고 강조했다. 그는 “제가 한 행동이 어떤 것·누구에 대한 업무방해인지 궁금하다”며 “그것이 표현의 자유로 용납되지 않는 수준의 범법 행위였는지 궁금하다”고 했다. 강제 퇴장 사태 이후 자신이 겪게 될 상황에 대한 우려도 드러냈다. 신 대변인은 “석사 과정을 졸업하고 한국에서 취업을 이어 나갈 생각이었다”며 “경호원에게 제압당한 사건 때문에 불이익이 있지 않을까 걱정된다”고 말했다. 2022년 정의당에 입당한 신 대변인은 지난해 말부터 대전시당 대변인으로 활동해 왔다. 지난해 8월 카이스트 석사 과정을 마치고 현재 취업 준비 중이다. 신씨는 이날 회견에 나선 이유에 대해 “경호원들에 제압당한 장면이 화제가 됐지만 정작 하고 싶었던 말인 ‘부자 감세 철폐’와 ‘R&D 예산 삭감’ 메시지는 제대로 전달되지 않았다고 느꼈다”며 “부자 감세는 물론 R&D 예산 (삭감) 때도 연구자들 모르게 밀실 합의를 진행했다. 정부·여당은 이에 대해 사과하고 그 과정에서 최대한 노력하지 못한 더불어민주당도 책임을 져야 한다”고 했다.
  • 단 몇 문장에 영화 같은 동영상…딥페이크 우려 더 키운 ‘AI소라’

    단 몇 문장에 영화 같은 동영상…딥페이크 우려 더 키운 ‘AI소라’

    ‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.
  • 尹, 대전서 “이공계 석박사 생활비 지원” … 과학계·중원 민심 달래기

    尹, 대전서 “이공계 석박사 생활비 지원” … 과학계·중원 민심 달래기

    ‘과학 수도 대전’ 주제 12번째 민생토론회尹 “과학 장학생 대상 대학원생으로 확대”혁신클러스터 글로벌 허브로서 대전 약속 윤석열 대통령은 16일 “이공계 학생들이 학비나 생활비 걱정을 덜고 학업과 연구에 매진할 수 있도록 전폭적인 지원을 펼칠 것”이라고 약속했다. 이를 위해 이공계 대학원생 ‘연구생활장학금’(스타이펜드)을 도입하겠다고 발표했다.윤 대통령은 이날 대전 유성구의 한 호텔에서 ‘대한민국을 혁신하는 과학 수도 대전’이라는 주제로 열두 번째 민생토론회를 주재하고 “국가 과학기술 경쟁력을 높이는 가장 확실한 방법은 미래 인재를 키우는 것”이라면서 이렇게 말했다. 윤 대통령의 대전행은 과학기술 분야 연구개발(R&D) 예산 삭감으로 인한 과학계의 반발을 달래고, 선거 때마다 전국 표심의 ‘바로미터’로 통하는 충청권 민심에 구애하기 위한 행보로 읽힌다. 비수도권 민생토론회 개최는 지난 13일 부산에서 열린 ‘부산이 활짝 여는 지방시대’에 이어 대전이 두 번째다. 윤 대통령이 대전을 찾은 것은 지난해 11월 2일 ‘제1회 지방자치 및 균형발전의 날 기념식’ 이후 약 세 달여만이다. 윤 대통령은 토론회 모두발언에서 “국가 연구개발에 참여하는 모든 전일제 이공계 대학원생들에게 석사는 매월 최소 80만원, 박사는 매월 최소 110만원을 빠짐없이 지원할 것”이라고 했다. 이어 “학부생만을 대상으로 대통령 과학 장학생을 선발해왔는데 이번엔 대학원생까지 대상을 확대하고 장학금 규모도 1인당 연평균 2500만원 수준으로 지급하기로 했다”고 밝혔다. 또한 윤 대통령은 대전 소재 16개 정부출연연구기관을 포함한 총 26개 출연연(부설 포함)의 공공기관 해제를 알리면서 “정원과 총 인건비 제한과 같은 각종 규제를 풀었다. 전 세계 우수한 연구자들이 모여드는 역동적인 연구기관으로 탈바꿈시키겠다”고 했다. 윤 대통령은 정부 지원도 중요하지만 출연연 스스로의 혁신이 중요하다는 취지로 말하기도 했다. 윤 대통령은 지난해 방미 당시 고등국방과학연구소에 갔던 경험을 언급하며 “연구원이 아니라 매니저 시스템으로 자금 배정과 연구과제 배분을 했다. 이 자체가 시장”이라고 설명했다. 그러면서 “커다란 마켓을 형성하고 마켓을 굴러가게 만드는 매니지먼트에 대해 각별한 관심을 가져야만 R&D 혁신을 할 수 있다”고 덧붙였다. 대전의 발전을 위한 공간과 인프라 혁신에 대해서도 약속했다. 윤 대통령은 경부선·호남선 철도를 지하화, ‘대전-세종-청주 간 CTX(충청 Train Express) 사업’의 민자사업 적격성 조사 신속 착수, 제2대덕연구단지 조성 가속, 대전 첨단클러스터 조성 등에 대해 거론했다. 그러면서 “과학기술에 대한 과감한 투자 확대와 획기적인 인프라 혁신을 통해 대전이 대한민국에 과학 수도를 넘어 세계적인 첨단과학도시로 커가도록 지원을 아끼지 않겠다”고 말했다. 마무리 발언에서 윤 대통령은 “대전을 과학 수도로 제대로 키우려면 연구 생태계만 조성해서는 안되고 연구와 산업이 연결되는 산업 생태계를 만들어 줘야 한다”며 “과학 수도 메갈로폴리스를 확실하게 만들어내고 이것을 토대로 대한민국 전체의 국제 경쟁력이 강화될 수 있도록 모두 한 번 노력해보자”고 했다. 메갈로폴리스란, 대도시가 연속적으로 이어진 도시권을 말한다. 토론회에는 황창용 한국표준과학연구원 소장, 김의중 연구소기업협회 회장, 김수언 한선에스티 대표이사 등 대전‧충천 소재 출연연 연구원과 이공계 대학원생 및 기업인 등 국민 50여 명이 참석했다. 정부에서는 이종호 과학기술정보통신부 장관, 이장우 대전광역시장 등이, 대통령실에서는 성태윤 정책실장, 박춘섭 경제수석, 장상윤 사회수석, 박상욱 과학기술수석 등이 자리했다.
  • 국민 실생활 밀접한 불공정 관행 ‘메스’… “기프티콘 90% 이상 환불”

    국민 실생활 밀접한 불공정 관행 ‘메스’… “기프티콘 90% 이상 환불”

    한기정 공정거래위원장은 올해 공정위의 키워드로 ‘민생’을 제시했다. 국민에게 경제적 부담을 안기는 담합에 대한 감시를 강화하고, 국민 실생활과 밀접한 분야의 불공정 문제를 해소하는 데 주력하겠다고 밝혔다. 건설 경기 위축으로 피해를 입은 중소기업을 보호하는 장치를 마련하고 혁신 기업의 성장을 막는 규제를 적극 발굴·개선해 나가기로 했다. 한 위원장은 최근 공정위가 제재 불복 소송에서 잇달아 패소한 것과 관련해 “고등법원과 공정위의 견해차로 발생한 것”이라며 “상고해 대법원의 판단을 받아 보겠다”고 밝혔다. 국세청처럼 패소 사건 담당자에게 책임을 묻는 제도가 필요한 것 아니냐는 질문에는 “관련자의 고의·중과실이 명백히 확인될 때는 성과 평가지표를 개선하는 방안을 검토해 볼 수 있을 것”이라고 답했다. 인터뷰는 15일 서울 중구 한국공정거래조정원에서 이뤄졌다.‘모바일상품권’ 거래 관행 개선카드보다 수수료율 4.5~9.5%P ↑정산 기간 길어 소상공인 부담민관협의체 통해 새 방안 도출기한 넘으면 환불액 90% 그쳐 -‘기프티콘’이라고 불리는 모바일상품권 거래 관행의 문제점과 개선책은. “모바일상품권은 다양한 이해관계가 복잡하게 얽혀 있다. 특히 다른 결제수단보다 수수료율이 높고 정산 기간이 길어 소상공인의 부담이 커지고 있다. 신용카드 수수료율은 0.5~1.5%, 정산 기간은 최대 3영업일 이내인데, 모바일상품권 수수료율은 5~11%, 정산 기간은 최대 60일 이내다. 수수료와 정산 기간은 민관협의체를 구성해 개선 방안을 도출할 계획이다. 소비자 입장에서는 유효기간이 지난 모바일상품권에 대한 환불이 90%만 이뤄져 불만이 크다. 앞으로 90% 이상을 돌려받을 수 있도록 표준 약관을 개정하려고 한다.” -건설경기 침체로 피해가 우려되는 중소기업을 보호할 방안은. “건설 분야의 어려움이 가중돼 하도급대금 미지급, 불리한 거래 조건 강요와 같은 불공정한 거래 관행이 증가할 것으로 예상된다. 공정위에도 신고가 늘어나고 있다. 피해 중소기업이 신속하게 구제받을 수 있도록 제도를 마련하고 법 집행에 집중할 계획이다.” -인공지능(AI)과 소프트웨어 오작동 등에 따른 사고의 배상을 가능하게 하는 ‘제조물 책임법 개정안’은 어떻게 준비되고 있는가. “현행법상 AI와 소프트웨어가 제조물 책임법상 ‘제조물’에 해당하는지 불명확하다. 그래서 소프트웨어의 결함으로 인한 피해는 구제가 쉽지 않다. 공정위는 제조물 개념을 재정의해 AI와 소프트웨어를 제조물에 포함하는 방안을 검토할 계획이다. 포함된다면 자율주행 소프트웨어 오작동으로 인한 교통사고에도 법이 적용될 수 있다.” 4건의 기업 제재 불복소송 상고패소 원인은 고법과의 견해 차이쿠팡 사건, 기존 판례와 달리 판단행정소송 승소율 5년간 90% 넘어최종 결과까지 지켜봐야 할 상황 -공정위가 행정소송에서 잇달아 패소하면서 애초 무리한 과징금 부과였던 것 아니냐는 지적이 있는데. “SK실트론의 사익 편취, SPC의 부당 지원 행위, 쿠팡의 대규모유통업법 위반, 해운 담합 제재 관련 소송에서 패소했다. 공정위와 서울고법 사이에 견해 차이가 있다고 본다. SK실트론 사건은 지난 13일 상고했다. 해운 담합 사건은 고등법원이 공정거래법에 대한 새로운 해석을 시도했고, SK실트론 사건은 판례가 정립되지 않은 상황에서 ‘사업 기회 제공 행위’에 대한 해석을 두고 견해 차이가 있었다. SPC 사건에서 패소한 건 정상가격 산정에 대한 견해 차이 때문이다. 쿠팡 사건은 고법이 기존 판례와 다르게 판단했다. 최근 5년간 대법원에서 공정위 승소 취지로 파기 환송된 비율은 약 33%로 높은 편이다.” -공정위 제재 결정에 대한 기업 수용도가 떨어지고 있는데. “공정위의 행정소송 승소율은 최근 5년 평균 90%가 넘는다. 일부 승소를 제외한 전부 승소율만 보면 73.8%다. 내부적으로는 패소 사례와 관련해 조사와 심결의 품질을 조금 더 높이는 노력을 해야겠다고 생각하고 있다. 최근 법원이 보다 엄격하게 증거를 요구하는 추세다. 이런 부분에 적극 대응할 생각이다. 심의 단계에서는 처분의 타당성을 높이기 위해 심사관과 피심인 사이에 충분히 공방이 이뤄질 수 있도록 더 많은 기회를 부여할 계획이다. 판단을 내리기 모호할 때는 재심사 결정을 적극 활용해 심의의 타당성을 높이려고 한다.” 제재 중과실 확인시 평가지표 개선 공정위 제재, 회의서 합의로 결정 조세법정주의 국세청 과세와 달라 개인의 책임으로 돌리기 어려워4건의 패소 사건 원인 분석 마쳐 -패소했을 때 담당자에게 책임을 묻는 제도가 필요하다는 지적이 있는데. “국세청의 과세는 조세법정주의에 따라 과세 요건이 법에 명확하게 규정돼 있지만 공정위 제재는 위법성 평가와 관련해 판단 여지가 많다. 또 전원회의나 소회의 등 합의제로 운영되기 때문에 개인 책임으로 귀속시키긴 어려운 측면이 있다. 다만 행정소송 패소 원인을 보다 체계적으로 관리하고 분석할 필요가 있다. 최근 4건의 패소와 관련해 내부적으로 무엇을 보완해야 할지 분석을 마쳤다.” -공정위가 올해 추진하는 대기업집단 제도 개선 방안은. “일관되게 대기업집단 제도의 합리적인 운영을 강조해 왔다. 올해도 기업 활동을 과도하게 제약하는 규제는 합리적으로 조정할 계획이다. 일부 교묘하게 법 위반을 회피하려는 시도에 대해서는 엄정하게 대응하기 위한 제도적 보완 장치를 마련할 것이다. 기업집단 규제의 합리적 조정을 위해 현재 자산총액 5조원 이상인 공시대상기업집단 기준이 국내총생산(GDP)과 연동되도록 연내 입법을 추진할 방침이다.” 혁신기업 성장 막는 규제 완화 개선된 대기업집단제 연내 추진사주 사익편취 고발 지침 급선회플랫폼법, 관계자 의견 수렴 필요소비자단체와도 소통, 입법 지속 -김범석 쿠팡 이사회 의장의 올해 동일인 지정 가능성 전망은. “개별 기업집단 동일인이 누가 될 것인지는 현재로서는 말씀드리기 곤란하다.” -재계 반발로 무산된 사주 일가 사익 편취 고발 강화 지침에 대해선 어떤 입장인가. “고발 지침 개정은 하지 않을 것이다. 당초 사익 편취 행위에 특수관계인이 관여한 사실을 입증할 때 간접·정황증거도 고려한다는 대법원 판례를 반영하려고 했다. 지침을 개정하지 않고 조사·심결에 적용할 수도 있었는데 피심인의 방어권 보장에 문제가 생길 수 있기 때문에 지침에 반영하려고 했던 것이다. 그런데 이를 오해해 ‘특수관계인의 관여 사실이 입증되지 않아도 무조건 고발하려고 한다’는 의견이 제기됐다. 이후 업계와 충분한 소통이 이뤄져 지침을 개정하기보다 사건 조사와 심결 과정에 판례 취지를 반영하는 쪽으로 선회했다. 앞으로는 판례 취지에 따라 간접·정황증거까지 포함해 종합적으로 고려할 예정이다.” -플랫폼 공정경쟁 촉진법 발표를 연기한 배경과 앞으로의 계획은. “지난해 12월에 추진 방침을 발표했고 이해관계자 의견 수렴 과정에서 추가 청취 및 검토가 필요하다고 판단했다. 시장에 미치는 영향이 큰 사안이니까 당장 법안을 공개하기보단 플랫폼 업계와 소상공인, 소비자단체 등과 폭넓게 소통하고 지배적 사업자 지정 제도를 포함해 대안을 열어 놓고 충분히 검토할 계획이다. 입법은 분명히 한다.” ●한기정 공정거래위원장 서울대 법학전문대학원장 출신 경제·금융·보험법 전문가다. 최상목 부총리 겸 기획재정부 장관, 조국 전 법무부 장관, 나경원 국민의힘 전 의원, 원희룡 전 국토교통부 장관, 조해진·송언석·박수영 의원(국민의힘), 송기헌 의원(더불어민주당) 등과 함께 서울대 법대 82학번이다. 정부 기관과 위원회에서도 경력을 쌓았다. 2009년 금융감독원 금융분쟁조정 전문위원, 2016~2017년 금융위원회 금융발전심의회 위원, 2016~2019년 보험연구원 원장을 역임했다. 법무부 감찰위원회 위원장과 대법원 사법행정자문회의 위원도 맡은 바 있다.
  • [서울 on] AI 기본법 외면 땐 멀어질 ‘3등 꿈’/이정수 세종취재본부 기자

    [서울 on] AI 기본법 외면 땐 멀어질 ‘3등 꿈’/이정수 세종취재본부 기자

    온 세상이 인공지능(AI)이다. 뉴스에 AI 얘기가 빠지는 날이 하루도 없다. 삼성전자는 자체 거대언어모델(LLM) 가우스의 일부 기능을 경량화해 ‘온디바이스 AI’ 휴대전화를 손에 쥘 수 있게 했다. AI가 일자리를 빼앗을 것이란 우려가 일찍부터 현실화한 웹소설 시장에선 AI 표지를 쓴 작품은 불매하자는 목소리가 일기도 했으나 AI 이미지 활용이 웹툰과 영상 등에 빠르게 확산될 것은 자명하다. 2022년 공개된 챗GPT가 불러일으킨 생성형 AI 열풍은 메타버스, 대체불가토큰(NFT) 등 한철 유행처럼 지나간 개념들과 파급력이 다르다. AI 반도체 시장에서 독점적 위치를 차지한 엔비디아 주가는 신고가를 경신하며 1년 새 3배 넘게 올랐다. 생성형 AI의 등장은 인류의 생활양식을 통째로 바꿔 놓은 전기 발명에 비견되는 혁신이다. AI는 ‘뉴노멀’로 굳어질 가능성이 커 보인다. 주요국이 AI 산업 지원 관련 법안·제도 정비에 나서고 있다. 특히 미중 경쟁에서도 AI는 핵심으로 들어왔다. 미국은 지난해 수출관리규정(EAR) 2차 개정을 통해 13개 중국 AI 반도체 설계 기업을 통제 대상에 추가했다. 챗GPT를 만든 샘 올트먼 오픈AI 최고경영자(CEO)가 최근 AI 반도체 자체 개발을 위해 최대 7조 달러(약 9300조원)의 투자금을 유치하려 한다는 외신 보도가 나오기도 했다. 영국 데이터 분석 미디어 토터스인텔리전스의 ‘글로벌 AI 지수’에 따르면 한국의 AI 산업 수준은 62개국 중 6위다. 1위 미국, 2위 중국과의 격차는 크지만 3~8위는 엇비슷하다. 상대적으로 낮은 점수를 받은 현장 인력 부문, AI 기업 수 및 투자 규모 등을 보완하면 우위에 설 수도 있다. 요즘 과학기술정보통신부에서는 AI 담당자들이 가장 바쁘다. 그런데도 최근 사무관급 이하 직원 인사 때 지원자들이 AI 관련 과들에 몰렸다고 한다. 정부는 ‘전 세계에서 AI를 가장 잘 활용하는 대한민국’이라는 비전을 내걸고 있다. 투자 규모에선 미중을 이길 수 없지만, 사회 전 분야에 AI 대중화를 서둘러 디지털 강국을 실현하겠다는 것이다. 지난 13일 발표된 과기부의 ‘2024년 주요 정책 추진계획’에도 AI는 핵심 과제로 담겼다. 박윤규 과기부 2차관이 많게는 일주일에 두 번씩 ‘AI 일상화 연속 현장 간담회’를 이어 가는 것도 같은 취지다. AI 반도체 기업 방문을 시작으로 법률, 뷰티, 의료·심리상담 등 AI가 접목될 분야 종사자들을 만나 현장 목소리를 제도 개선으로 옮기려 한다. 하지만 ‘AI 기본법’(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 1년 넘게 국회에 계류 중인 점은 우려스럽다. AI 산업 발전과 안정성 확보를 위한 방향성을 모두 담고 있는 이 법안은 AI 규제 부분이 취약하다는 시민단체의 지적 이후 논의가 이뤄지지 않고 있다. 과기부는 올해 추진계획에서 AI 기본법을 제정하겠다는 계획을 내세우면서도 구체적인 방안은 밝히지 않았다. 관련 법조차 정비되지 않은 상태로 AI 일상화만 서두른다면 자칫 ‘AI 무법지대’로 국민을 몰아넣는 꼴이 될까 우려스럽다. 세계 3위 AI 강국의 꿈을 실현하기 위해서라도 입법을 서둘러야 할 때다.
  • 정보 수집 통제·워터마크까지… 세계는 ‘AI 목에 방울 달기’ 전쟁 [AI 블랙홀 시대-인간다움을 묻다]

    정보 수집 통제·워터마크까지… 세계는 ‘AI 목에 방울 달기’ 전쟁 [AI 블랙홀 시대-인간다움을 묻다]

    지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.
  • 잡혀가는 트럼프, 바이든 전화…美 AI기업, ‘정치 이미지 제한’ 검토

    잡혀가는 트럼프, 바이든 전화…美 AI기업, ‘정치 이미지 제한’ 검토

    최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다. 대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다. 10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다. AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.
  • 야타브엔터, ‘메타버스 상담의 보안성 증진’ 연구 논문 SCIE에 게재

    야타브엔터, ‘메타버스 상담의 보안성 증진’ 연구 논문 SCIE에 게재

    메타버스 상담 서비스 플랫폼 ‘메타포레스트’를 운영하는 기업 야타브엔터가 국제전문학술지(SCIE)에 메타버스 상담의 보안성 증진 관련 연구 결과를 게재했다고 5일 밝혔다. 이번 연구는 기존 비대면 상담에서 우려됐던 내담자의 얼굴, 목소리 등 개인 정보 공개나, 비언어적 요소의 제한으로 효과적 상담이 어려운 상담자들의 실제 현장 상황을 바탕으로 진행됐다. 연구를 위해 메타포레스트 플랫폼 내 총 550회의 심리상담이 진행됐으며, 상담 이후 진행된 상담사 만족도 설문 조사에서 5점 만점에 평균 4.6점의 수치를 기록했다.호서대 게임소프트웨어 학과 이준 교수 및 육군사관학교 AI데이터과학과 권현 교수는 “최근 MZ세대들의 비대면 상담 선호 현상과 맞물려 개인의 신원 정보 노출을 최소화하는 음성 변조 기반의 메타버스 상담 시스템을 개발했다. 기존 비대면 상담이나 타 메타버스 플랫폼의 경우 내담자의 개인 정보 보안을 강화시키기 위해 아바타를 활용할 수 있었으나, 상담 효과성 측면에서는 상담사가 내담자의 비언어적 단서를 식별하고 분석하기 어렵다는 한계가 있었다. 하지만 메타포레스트 플랫폼 내에서는 실시간 얼굴인식 인공지능 시스템, 아바타 표현 기술을 통해 그 우수성을 입증해 나가고 있다. 이번 연구 결과 역시 비대면 상담의 효과 고도화를 위한 중요한 사료가 될 것이라 기대한다.”라고 밝혔다. 야타브엔터 이성찬 대표는 “심리상담에서 그 무엇보다 중요한 사안은 익명성 존중 및 개인정보 보호를 위해 높은 민감성을 지니는 태도라고 생각한다. 내담자 측면에서는 상담의 보안성을 높이고 상담사 측면에서는 비언어적 요소 파악을 위한 기술 개발에 힘을 더해 누구나 마음 편하게 사용할 수 있는 가상환경 메타버스 상담 플랫폼을 제공하고자 한다.”라고 연구 목적에 대한 추가의견을 전달했다. 한편, 야타브엔터는 지난 1월 CES(Consumer Electronics Show, CES 2024)에 참여, 신한장학재단 및 한국아동복지협회와의 사회공헌 상담 서비스 활동 등을 통해 메타버스 상담의 기술 고도화뿐만 아니라, 사회적 이슈 해결을 위한 활동들을 이어오고 있다.
  • 사법 리스크 부담 던 이재용… 뉴삼성·M&A 큰 그림 다시 그리나

    사법 리스크 부담 던 이재용… 뉴삼성·M&A 큰 그림 다시 그리나

    이재용(56) 삼성전자 회장이 3년 넘게 진행된 경영권 불법 승계 의혹 사건 1심에서 무죄를 선고받자 긴장감 속에서 결과를 지켜봤던 삼성 직원들은 안도의 한숨을 내쉬었다. 총수 부재 상황을 우려했던 삼성은 최악의 시나리오를 피했지만 검찰의 항소 가능성이 남아 있어 공식 입장을 내지 않고 관련 절차를 지켜보기로 했다. 삼성을 옭아맸던 사법 리스크가 일부 해소된 측면도 있어 그간 멈춰 섰던 대형 인수합병(M&A)이 속도를 낼 것으로 보인다. 판결이 확정된 건 아니지만 이 회장이 사실상 경영권 승계의 최대 고비를 넘은 만큼 ‘이재용식 뉴삼성’ 구축에 나서면서 재계 맏형으로서의 역할을 강화할 것이란 관측도 나온다. 재계는 서울중앙지법 형사합의25-2부(부장 박정제·지귀연·박정길)가 5일 이 회장의 자본시장법상 부정거래행위·시세조종, 업무상 배임 등의 혐의에 대해 전부 무죄를 선고하자 “삼성발 혁신의 바람이 불어올 수 있다”는 기대 섞인 전망을 내놨다. 이번 재판은 이 회장의 경영권 승계의 정당성과 관련돼 있어 재계에서도 큰 관심이 쏠렸는데 일단 승계 과정에서 불법행위가 없었다는 1심 재판부의 판단이 나왔기 때문에 사법 리스크를 덜어낸 삼성이 보다 공격적으로 미래 먹거리 발굴에 나설 수 있다는 것이다. 삼성전자는 지난 3년간 인공지능(AI), 디지털 헬스, 핀테크, 로봇, 전장(자동차 전기·전자장비) 등 5개 분야 260여개 회사에 벤처 투자를 하는 등 물밑에서 신규 사업 기회를 엿보고 있었지만 대형 M&A는 2017년 전장업체 하만 인수 이후 뚝 끊긴 상태였다.생성형 AI ‘챗GPT’를 개발한 오픈AI가 반도체 개발에 직접 뛰어들 채비를 하면서 글로벌 반도체 시장이 요동치는 가운데 삼성이 선제적으로 움직이지 않는다면 빅테크(대형 기술기업) 주도 질서에서 주도권을 쥐기도 쉽지 않은 상황이었다. 이 회장은 지난해 11월 최후진술에서 “글로벌 공급망이 광범위하게 재편되고 있고 생성형 AI 기술이 반도체는 물론 전 세계 산업에 영향을 미치는 등 상상보다 빠른 속도로 기술 혁신이 이뤄지고 있다”며 “현재 벌어지는 이런 일은 사전에 정확하게 알 수 있는 것이 아니다”라고 위기감을 나타내기도 했다. 삼성 입장에서는 뭔가 치고 나갈 수 있는 ‘한 방’이 필요했는데 이를 가로막는 최대 장벽이 사실상 사라지면서 올해 대형 M&A 추진도 가시화될 수 있을 것으로 보인다. 한종희 삼성전자 부회장도 지난달 기자간담회에서 “대형 M&A도 착실히 (준비)하고 있기 때문에 올해는 뭔가 계획이 나오지 않을까 생각한다”고 말한 바 있다. 이 회장이 2021년 국정농단 사건과 관련해 가석방으로 풀려난 뒤 대규모 투자 계획을 발표한 것처럼 이번에도 과감한 투자를 예고할 가능성이 있다. 검찰의 항소 여부에 따라 이 회장의 행보가 달라질 수 있지만 글로벌 네트워크 구축을 위한 해외 출장도 보다 잦아질 것으로 보인다. 이 회장은 일주일에 한두 번씩 재판에 출석하느라 상대적으로 해외 출장에 일정 부분 제약을 받아 왔다. 1년의 절반 이상을 해외에서 지내며 경영 구상에 몰두한 이건희 선대회장과 달리 지난해 5월 22일간의 미국 출장이 2014년 이 회장이 경영 전면에 나선 이후 다녀온 최장 기간의 해외 출장이었다. 재계 관계자는 “아무래도 이전보다 움츠러들지는 않을 것 같다”고 내다봤다. 1심 판결이 그대로 확정된다면 다음달 정기 주주총회에 이 회장의 등기임원 선임과 관련한 안건이 올라올 가능성도 배제할 수 없다. 이 회장이 이사회 멤버로 활동하면 책임경영 강화, 경영 안정성 제고는 물론 의사결정 속도도 빨라질 것으로 전망된다. 이 회장은 2016년 10월 부회장 시절 임시 주주총회에서 사내이사로 선임됐지만 국정농단 사건에 연루되면서 제대로 이사회 활동을 하지 못한 채 4년 임기를 마치고 물러났다. 현재 4대 그룹 총수 중에선 이 회장이 유일한 미등기 임원이다. 미래전략실 해체 후 컨트롤타워 기능이 약화됐다는 목소리도 나오고 있는 만큼 이재용식 뉴삼성에 맞는 조직 개편이 이뤄질 수 있다는 관측도 있다. 이달 3기 체제를 맞는 삼성 준법감시위원회가 지배구조 개선, 컨트롤타워와 관련해 어떤 그림을 그릴지도 주목된다. 다만 각 계열사 모두 이사회 중심의 경영이 안착된 상황에서 다시 그룹 중심으로 의사결정 구조를 바꾸기는 쉽지 않을 것이란 반론도 만만찮다. 김용진 서강대 경영학과 교수는 이 회장의 무죄 소식에 “깜짝 놀랐다”면서 “주주들의 이익을 해치지 않는 방향으로 지배구조를 개선하면서 사회적 기여를 해야 한다. 그건 돈을 내놓으라는 얘기가 아니라 급변기에 있는 반도체 산업에서 관련 생태계를 키우는 데 투자를 많이 해야 한다는 뜻”이라고 말했다. 조명현 고려대 경영대학 교수는 “이 회장이 재판을 통해 느낀 바를 실천해 나간다면 환경·사회·지배구조(ESG) 경영을 통해 사회적으로 온기를 불어넣을 수 있을 것으로 기대된다”면서 “이제는 그룹의 총수로서 일자리를 창출하는 데 앞장서고 투자도 많이 하면 국내 경기가 살아나는 긍정적인 측면도 있을 것 같다”고 말했다. 이어 “삼성이 나름대로 좋은 의도를 가지고 합병을 했다 해도 다르게 해석될 수 있는 여지가 분명히 있기 때문에 앞으로 이 회장 등 특수관계인이 관련된 의사결정을 할 때는 여러 각도에서 신중하게 따져 보고 결정해야 한다는 교훈을 얻었을 것”이라고 덧붙였다.
  • [한국과학기술연구원(KIST) 함께하는 과학 다이브] 쫓기고 쫓는 기술패권 경쟁… 개방형 혁신에 국가 생존 달렸다/석현광 KIST 연구기획조정본부장

    [한국과학기술연구원(KIST) 함께하는 과학 다이브] 쫓기고 쫓는 기술패권 경쟁… 개방형 혁신에 국가 생존 달렸다/석현광 KIST 연구기획조정본부장

    세계 최초 기술로 신시장 창출 시대파트너십 산업계 넘어 국경 초월기초연구 중심 R&D예산 재조정선도형 연구개발 체계 구축해야KIST 기업공동연구실 사업 주목자발적 참여·상호 존중의 동반자상용화 앞당기고 원천기술 확보정부의 현명한 지원 반드시 필요 지난 1월 초, 서울 성북구에 위치한 한국과학기술연구원(KIST) 캠퍼스에서는 연구자, 기업인, 정부 주요 인사가 한자리에 모여 2024년 새해의 의지를 다짐하는 과학기술인·정보방송통신인 신년 인사회가 개최됐다. 작년과 올해 연이어 행사에 참석한 윤석열 대통령은 한국을 과학기술 퍼스트무버로 만들자는 비전을 제시하며 참석자들에게 격려와 감사 인사를 전했다. 또한 혁신적이고 도전적인 연구에 대한 전폭적인 투자를 약속하며 “집에서 돈을 아끼더라도 자녀의 교육을 위해서라면 얼마든지 지출하는 것”에 이를 비유하기도 했다. 윤 대통령의 단호한 메시지는 국가 연구개발(R&D) 체계를 선도형으로 전환하겠다는 정부의 의지를 느끼게 함과 동시에 우리 과학기술계가 품어 왔던 오랜 고민도 떠올리게 한다. 선도형 R&D에 정말로 필요한 것, 그리고 한국이 놓치고 있는 부분은 과연 무엇인가? 풍부한 예산, 두터운 인재 풀, 도전을 지향하는 연구문화 등 다양한 요인이 있겠지만 그중 특히 개방형 혁신(open innovation)의 중요성을 간과할 수 없다. 개방형 혁신은 오늘날 우리에게 낯선 개념이 아니다. 지난해 설립 50주년을 맞은 한국 최초의 과학도시 대덕연구단지가 대표적인 예다. 당시 정부는 단지 내에 여러 정부출연연구기관(출연연)과 대학을 밀집시켜 개방형 혁신을 활성화하고자 했다. R&D에 투자할 국가 예산이 절대적으로 부족한 상황에서 각 기관의 인프라와 인력을 공유해 예산 효율성을 높인다는 게 주된 목표였다. 잘 알려져 있듯이 대덕은 국가 산업화의 견인차 역할을 훌륭히 수행해 왔다. 그러나 개방형 협력의 측면에서 바라보면 다소 아쉽다는 평가도 적지 않다. 정부의 판단하에 개방과 협력이 일방적으로 추진되다 보니 기관들의 자발적인 참여 의지가 부족했던 탓이다.또 다른 사례는 교육기관인 한국과학원(KAIS)과 연구기관인 KIST를 통합해 한국과학기술원(KAIST)을 설립한 것이다. 두 기관의 통합도 당시 정부의 정책 기조에 따라 무리하게 추진된 측면이 많았다. 9년의 짧은 동거 기간 동안 많은 성과를 낸 것은 사실이나 구성원 간 존중과 신뢰의 부족으로 하나의 조직으로 융화하는 데 많은 어려움이 있었다. 결국 1989년 KIST가 분리돼 오늘날 개방형 정부출연연구기관의 모델을 만들어 나가고 있다. 앞선 사례들로 알 수 있듯이 과거의 개방형 협력은 한정된 자원으로 최대의 성과를 내기 위한 것이 주목적이었다. 하지만 협력의 성공은 참여 파트너 사이의 자발적인 참여 의지, 상호 존중, 그리고 신뢰가 있을 때 가능하다는 교훈을 주고 있다. 선도형 연구체계로 전환이 일어나고 있는 오늘날에도 개방형 협력은 여전히 중요하지만 풀기 어려운 숙제이며 그 성공에 국가 존망이 달려 있다고 해도 과언이 아니다. 그 이유는 무엇일까? 먼저 우리가 처한 현실을 보자. 과거 한국은 선진국의 기술을 빠르게 모방, 답습해 수출을 통해 성장하는 소위 ‘추격형 전략’에 의존했다. 그러나 지금은 우리의 과학기술이 세계적 수준에 도달하며 더이상 추격할 대상이 없는 위치에 올라섰다. 이제는 세계 최초 기술에 기반해 신시장을 창출하거나 세계 최고 기술로 글로벌 경쟁에서 이겨야만 성장이 가능한 시대가 도래한 것이다. 추격형 전략을 그대로 유지한다면 우리의 주력 산업은 후발 국가에 침식당해 미래의 국가 경쟁력이 크게 위태로워질 것이다. 엎친 데 덮친 격으로 전 세계가 기술패권 경쟁에 뛰어들면서 핵심 전략기술을 확보하지 못하는 국가는 생존을 보장받기 어려운 세상이 됐다. 양자, 첨단 바이오, 인공지능 등 대표적인 분야에서 일찍이 앞서나가고 있는 선진국들은 지금도 어마어마한 규모의 예산을 쏟아붓고 있다. 가령 미국 양자기술 연구비는 한국의 27배, 첨단백신 연구비는 24배 수준에 달한다. 현실적으로 타 경쟁국 수준으로 예산을 확대할 수 없는 것은 자명하다.어떻게 문제를 풀어야 할까? 먼저 정부 R&D 예산 포트폴리오를 기초연구 강화와 전략기술 확보 등을 중심으로 재조정하는 것, 그리고 예산의 효율성을 높이는 것이 필요하다. 예산이 급격히 확장되던 과거에는 효율성이 선택의 문제였으나 지금은 예전과 같은 양적 확대가 어려운 상황이다. 한정된 자원으로 선도형 R&D 전환과 기술 패권 경주를 동시에 해내야 하는 지금 예산 효율화는 한국이 반드시 풀어야 할 숙제다. 이를 위해 다양한 전략을 생각해 볼 수 있다. 무엇보다도 선택과 집중을 통해 파급력 있는 세계 1등 기술을 확보하는 전략이 필요하다. 1990년대 당시 국가 R&D 예산이 9000억원에 불과했던 때 한국이 CDMA 단일 기술 개발에 약 1000억원을 과감히 투자해 정보기술(IT) 강국으로 도약한 것이 좋은 사례다. 개방형 협력 역시 빼놓을 수 없는 필수 전략이다. 과학기술 선도국의 역량은 기초연구에서부터 산업계의 응용·개발 연구, 인재 양성, 첨단 장비·인프라 구축, 기술 사업화 등 매우 다양한 영역에 걸쳐 있으며 어느 한 영역은 다른 영역에 영향을 미치며 상호의존적으로 발전한다. 다행스럽게도 최근 새로운 개방형 협력 사례가 다수 시도되고 있다. 요즘 뜨거운 관심을 받고 있는 양자기술 분야를 살펴보자. KIST는 지난해 개방형 양자기술 연구소를 설치해 KIST 연구자뿐만 아니라 다수의 대학교수와 산업계 연구원이 겸직연구원으로 참여하는 협력 플랫폼을 구축했다. 파트너십은 국경을 넘어 계속 확장되고 있는데 글로벌 선도기관인 시카고대와 캐나다의 자나두(Xanadu)사 등이 핵심 멤버로 활약하고 있다.올해로 시행 3년을 맞는 KIST의 기업공동연구실 사업도 주목할 만하다. 기업의 연구인력이 KIST 캠퍼스에 직접 입주해 함께 상용화 연구를 수행하는 개념으로 산업계의 호응이 뜨겁다. 이전의 협력 방식이 주로 단순 기술이전이나 기업 애로사항을 지원하는 수준에 그쳤다면 지금은 같은 공간에서 동고동락하는 연구 동반자로서 기업과의 관계가 격상됐다. 기업은 KIST가 보유한 원천기술의 잠재성을 일찍 파악해 상용화를 앞당겼고 KIST는 시장 정보를 통해 다음 단계의 원천기술을 미리 준비할 수 있었다. 개방형 협력의 핵심 성공 요인은 참여 주체들의 자발적 참여, 상호 존중과 신뢰이지만 여기에 더해 정부의 현명한 지원이 있다면 금상첨화일 것이다. 인류를 달에 보낸 아폴로 프로그램, 코로나19 발발 1년 안에 끝낸 백신 개발 등은 미국이 자랑하는 역사적인 성공 사례다. 정부의 막대한 예산 투입 외에도 국가 전역에서 산학연 협력을 조율하는 과정, 실패 위험에 따른 우려에도 불구하고 국민과 의회를 끝까지 설득해 임무를 완수해 가는 모습에서 미국 정부의 저력에 놀라게 된다. 코로나19 백신 개발 때에는 전시 상황을 방불케 하는 정부의 명확한 지휘체계가 작동했고 바이오의료고등연구국(BARDA), 질병통제예방센터(CDC) 등 연구기관과 바이오 산업계가 효과적으로 정보를 공유하며 역할을 분담했다. IT를 접목해 신속하고 정교하게 방역정책을 펼친 한국도 전 세계의 모범 사례로 손꼽힌다. 최근 정부는 출연연을 중심으로 국가 연구인력을 통합 운영하기 위한 새로운 개방형 혁신 프로그램인 ‘글로벌 톱 전략연구단’, ‘국가전략기술센터’를 준비하고 있다. 대한민국이 처한 위기 상황을 고려할 때 더이상 미룰 수 없는 과제이며 새로운 시도가 성공하기 위해서는 과학기술계의 적극적인 참여도 간절하다. 개방형 협력에는 상호 존중과 신뢰, 자발성이 중요함을 유념하며 정부와 연구자가 함께 머리를 맞대어 새로운 협력 관계에 대해 답을 찾아야 할 것이다. 하나로 똘똘 뭉친 우리 과학기술계가 대한민국 위기 극복의 선두 주자로 나서길 기대해 본다. ■석현광 본부장은 30여년간 바이오·메디컬 분야에서 활약한 연구자로 국가 과학기술 정책과 연구소 운영에 대해 깊이 고민해 왔다. KIST 의공학연구소장을 거쳐 현재는 기관의 R&D 포트폴리오를 총괄하는 연구기획조정본부장을 맡고 있다.
  • 김진남 전남도의원 ‘상상이 곧 현실로’···생성형 AI 시대, 전남교육 대비 필요

    김진남 전남도의원 ‘상상이 곧 현실로’···생성형 AI 시대, 전남교육 대비 필요

    전라남도의회 교육위원회 김진남 부위원장(더불어민주당·순천5)이 대표 발의한 ‘전라남도교육청 생성형 인공지능 활용 지원 조례안’이 1일 열린 제377회 임시회 제2차 본회의에서 최종 심의를 통과했다. 생성형 인공지능(이하 생성형 AI)은 텍스트, 오디오, 이미지 등 기존 콘텐츠를 활용해 다른 콘텐츠를 생성 해내는 기술을 의미한다. 그 중에서도 챗GPT가 많은 이들이 직관적으로 체감할 수 있도록 함으로써 혁신을 직접 경험하고 세계적 관심을 주목시킨 바 있다. 이러한 생성형 AI의 등장으로 교육계 역시 앞으로 바뀌어야 할 방향에 대한 대안 마련의 필요성이 꾸준히 제기되고 있는 실정이다. 조례에는 생성형 AI를 교육 현장에 효과적으로 활용하기 위해 필요한 사항을 규정하고, 학생을 위한 맞춤형 교육 실현과 디지털 기반 교육혁신 및 환경을 구축해 지원하는 내용 등을 담았다. 이같은 필요성에 대해 정당을 떠나 전남도의회 소속 의원 61명이 전원 공감하고 발의에 참여해 의미를 더하고 있다. 특히 김 의원은 디지털 기반 교육혁신을 통한 ‘디지털 교육 대전환’이라는 교육부 기조로 추진되고 있는 교실의 변화와 김대중 전남교육감의 전남교육 기본방향인 ‘함께 여는 미래, 탄탄한 전남교육’에 발맞춰 교육 현장에 안착될 수 있는 기반을 마련했다는 평가를 받았다. 김 의원은 “생성형 AI는 업무 효율을 높이고, 전문영역의 창작 등 수많은 영역의 신세계를 경험하게 하고 날로 고도화되고 있는 등 여러 다양한 분야에서 활용될 수 있다”며 “교육 및 사회 전반에 편리함과 동시에 여러 가지 교육적 이슈가 지속적으로 등장하고 있어 필요성이 제기되고 있다”고 언급했다. 이어 “어제 본회의에서 김영록 도지사님과 김대중 교육감님께서도 필요성을 언급할 만큼 중요성이 커지고 있다”며 “생성형 AI가 가져올 미래에 대한 기대와 우려가 교차하는 가운데 본 조례 제정을 통해 미래 교실혁명을 이끌고 윤리적 문제를 사전에 방지할 수 있길 기대한다”고 전했다. 한편 전남교육청에서는 본 조례를 통해 생성형 AI와 관련한 구체적인 교육 방침을 마련해 시행할 예정이다.
  • 테일러 스위프트도 당했다…노골적 음란물 유포

    테일러 스위프트도 당했다…노골적 음란물 유포

    팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.
  • 댐 건설 등 인프라 확충·먹는 물 안전 등 물관리 ‘백년지계’ 실행

    댐 건설 등 인프라 확충·먹는 물 안전 등 물관리 ‘백년지계’ 실행

    홍수와 가뭄 피해를 줄이고 먹는물 안전을 제고하기 위한 물관리 ‘백년지계’가 올해 본격 시행된다. 무탄소 녹색성장을 위해 고성능 전기차에 보조금을 집중 지원하고 우수한 국내 녹색산업의 해외 진출도 확대키로 했다. 환경부는 26일 이같은 내용의 2024년 주요 환경정책 추진계획을 발표했다. 녹색산업 수출·수주 20조원 달성과 제1차 국가 탄소중립·녹색성장 기본계획 수립, 과감한 규제 혁신, 과학과 실용에 기반한 물관리정책 등을 지난해 주요 성과로 소개했다. 홍수기를 앞둔 오는 5월부터 인공지능(AI) 예보를 전국 지류까지 본격 시행하고, 비상상황 발생 자동전파시스템 가동으로 홍수대응공동체계를 구축한다. 침수우려지역 주민에 대한 적시 안내 및 내비게이션을 활용한 정보 제공으로 국민 안전도 확보키로 했다. 댐 건설(10개)과 지류·지천, 지방하천 정비, 도심 빗물터널 등 기반시설 확충 사업에 착수한다. 4대강 보를 활용해 농업용수와 소수력발전 등을 실시하고 대산·여수 산업단지 해수담수화, 섬·산간 지역 지하수 저류댐 등 다양한 대체 수자원을 개발해 물 부족 지역에 공급할 계획이다. AI·빅데이터 기반 스마트정수장을 광역정수장 43개로 확대해 먹는 물 안전을 실시간 관리한다. 깨끗한 대기질 대책으로 택배차와 어린이통학차의 경유차 신규 등록을 제한하고 노후 경유차 조기 폐차와 전기·수소차 보급을 지원해 무공해차로의 질서있는 전환을 유도키로 했다. 특히 고성능 차량에 보조금을 집중 지원하고 주요 이동거점에 충전시설을 확충해 무공해차 90만대 보급 계획을 차질없이 달성한다는 계획이다. 한화진 환경부 장관은 전날 브리핑에서 “배터리 효율 등 친환경성을 반영해 전기차 보조금 체계를 개편할 예정”이라고 밝혔다. 지난해 전기승합차에 이어 전기승용차로 보조금 차등화를 확대하는 것으로 중국산 리튬인산철(LFP) 배터리에 대한 견제로 해석될 수 있다. 올해 녹색산업 수출·수주액 목표치는 22조원으로 상향했다. 올해부터 2028년까지 4000억원 규모의 녹색인프라 해외 수출 지원펀드를 신설하고 녹색특화무역상사를 20개 지정한다. 각 국 환경 난제를 분석한 뒤 해결 방안을 제시해 수출·수주를 확대할 계획이다. 중동에는 그린수소 생산, 에너지난에 시달리는 중앙아시아에는 매립가스 발전시설 등을 공략하고 북미·호주(그린가스)와 아프리카(매립가스) 등 미개척지 진출도 추진한다. 환경오염 피해에 대한 신속한 구제도 이뤄진다. 건강영향조사와 환경오염·석면 등 피해구제, 분쟁조정까지 한 번에 신청·해결할 수 있는 일괄서비스체계로 전환한다. 권역형 환경보건센터를 14개 시도로 확대해 선제 대응 및 산단·발전소·난개발지역 등 맞춤형 환경서비스 제공으로 체감도를 높인다. 위해한 어린이용품에 대한 자발적 회수도 올해 첫 시행된다. 한 장관은 “환경 현안 해결을 위해 장관 직속 환경개혁 전담반을 신설하고 부처간 협업 과제 등을 발굴·정비하는 등 민생을 위한 개혁에 적극적으로 행동하겠다”고 밝혔다.
  • 테슬라의 추락 어디까지… ‘차세대 모델·로봇’으로 반등 나서나

    테슬라의 추락 어디까지… ‘차세대 모델·로봇’으로 반등 나서나

    미국의 전기차 업체 테슬라의 추락이 계속되고 있다. 지난해 4분기 실적이 전년 동기 대비 반토막이 나면서 주가 급락한데다, 올해도 전기차 시장 성장 둔화와 가격 출혈경쟁 등 난제가 겹치면서 암울한 전망이 이어지고 있어서다. 테슬라는 차세대 저가형 전기차 출시 및 휴머노이드 로봇 상용화를 예고하며 자신감을 내비쳤지만, 분위기 반전에 나설 수 있을지는 아직 미지수다.25일(현지시간) 뉴욕증시에서 테슬라 주가는 전장보다 12.13% 떨어진 182.63 달러에 마감했다. 지난해 5월 이후 8개월 만의 최저치다. 테슬라 시가총액은 이날 하루에만 800억 달러(약 107조원)가량 증발하면서 5805억 6600만 달러(약 775조 6361억원)로 쪼그라들었다. 올해 주가 하락률은 26.47%에 달한다. 전날 장마감 후 공개된 테슬라의 지난해 4분기 실적이 시장 기대치를 밑돈데다, 올해도 글로벌 전기차 시장의 불확실성이 예견된 가운데 테슬라가 명확한 실적 개선안을 내놓지 않은 것이 우려를 키웠다는 분석이다. 그동안 테슬라는 실적 가이던스를 명확하게 제시하지 않고 연초에 그해 생산량 목표치만 발표해왔는데, 올해는 이마저 공개하지 않은 셈이다. 테슬라가 발표한 실적 보고서에 따르면 지난해 4분기 순이익은 79억 달러(약 10조 6000억원)로, 전년 대비 두배 이상 늘었다. 그러나 이는 약 59억 달러(약 7조 9000억원)에 달하는 일회성 세제 혜택의 영향이라는 설명이다. 착시효과를 걷어내고 사업으로 창출한 이익은 전년 동기 대비 절반 가까이 급감했다. 영업이익률도 8.2%로 전년 동기(16.0%) 대비 반토막 수준이 됐다. 지난해 4분기 매출액은 251억 6700만 달러(약 33조 5224억원)로 전년 동기 대비 소폭 늘었지만, 시장 전망치인 256억 달러를 하회했다. 테슬라의 지난해 전기차 인도량은 전년 대비 38% 늘어난 181만대를 기록했다. 그러나 지난해 4분기 전기차 평균 판매단가가 4만 3600 달러(약 5800만원)로 전년 동기 대비 15% 가량 줄어든 것이 실적 하락에 영향을 줬다는 분석이다. 여기에 테슬라가 “텍사스 기가팩토리에서 차세대 차량 출시를 위한 작업을 진행하고 있어 올해 자동차 판매 성장률은 지난해에 달성한 성장률보다 눈에 띄게 낮아질 수 있다”고 밝히면서 올해도 실적 둔화가 계속될 것이라는 관측이 나온다. 다만 테슬라는 올해의 부진이 혁신을 위한 ‘숨고르기’라는 자신감을 내비쳤다. 테슬라는 이날 실적 보고서와 함께 주주들에게 보낸 서한에서 “우리는 가능하면 빨리 차세대 플랫폼을 시장에 내놓는데 주력하고 있다”면서 “이 플랫폼은 자동차가 제조되는 방식을 혁명할 것”이라고 밝혔다. 일론 머스크 테슬라 최고경영자(CEO)도 이날 콘퍼런스 콜에서 차세대 전기차에 대해 내년 말부터 생산을 시작할 예정이라고 언급했다.머스크는 자사의 인공지능(AI) 기반 휴머노이드 로봇인 옵티머스에 대해서도 “테슬라의 다른 모든 가치를 합한 것보다 더 큰 가치를 창출할 수 있는 잠재력을 지니고 있다고 생각한다”고 말했다. 그는 “옵티머스는 전 세계에서 개발 중인 휴머노이드 로봇 중 가장 정교한 제품”이라며 “내년에 몇 대의 옵티머스를 출시할 수 있는 좋은 기회가 있을 것”이라고 말했다.
  • 미중증시 양극화…7억원 번 낸시 펠로시 vs 7만위안 날린 후시진

    미중증시 양극화…7억원 번 낸시 펠로시 vs 7만위안 날린 후시진

    낸시 펠로시 전 미국 하원의장이 생성형 인공지능(AI) 최대 수혜주 엔비디아에 베팅해 두 달 만에 50만 달러(약 7억원)를 벌었다. 미국의 투자 전문매체 벤징가는 24일(현지시간) 현재 하원의장직을 내려놓고 캘리포니아주 지역구 하원 의원으로 활동 중인 펠로시의 투자 근황을 전했다. 펠로시는 지난해 11월 엔비디아에 투자해 약 두 달 만에 50만 달러를 벌어들였다고 벤징가는 추산했다. 수익액은 그의 연봉 22만3500 달러의 약 두 배에 해당한다. 벤처 캐피털리스트인 남편과 함께 펠로시는 다양한 우량 기업에 투자해 상당한 이익을 거두곤 했다. 그의 이 같은 행보는 자주 비판에 직면했다. 펠로시가 의원 직위를 이용해 내부자 정보를 사전에 획득할 것이란 우려 때문이다. 남편의 투자도 펠로시가 획득한 고급 정보를 이용한다는 의혹이 제기됐다. 그는 이 같은 비판에도 아랑곳없이 꾸준히 주식투자를 하고 있다. 펠로시 전 의장의 남편 폴 펠로시(82)는 지난해 10월 둔기 폭행을 당하기도 했다. 2023년 10월 28일 폴의 911 신고 전화를 받고 경찰관 2명이 샌프란시스코 자택 앞에 출동하기 전 폭행범 데이비드 디파페(42)는 해머를 휘둘렀다. 사건 당시 펠로시 전 의장은 자택에 없었고, 남편은 둔기 공격에 머리 등을 크게 다쳤다. 연일 사상 최고 주가를 기록 중인 엔비디아는 25일 기준 전거래일보다 2.49% 급등한 613.62 달러를 기록해 마감가 기준 사상 최초로 600달러를 돌파했다. 시총도 1조5000억달러를 넘어 미국 기업 시총 5위에 올랐다.반면 코로나19 이후 경제활동을 재개한 리오프닝에도 경기 침체에 빠진 중국 증시는 하락세를 면치 못하고 있다. 특히 일본 니케이 225지수가 34년 만에 최고치를 경신하는 가운데 중국 증시의 부진은 더 도드라진다. 글로벌 경제 조사업체 게이브칼 드래고노믹스의 중국 리서치 부국장인 크리스토퍼 베더는 “지난 1년간의 주식 시장 하락은 분명히 중국 경제에 대한 심판”이라고 말했다. 중국 증시 하락장을 대변하는 대표적 인물로 후시진 전 환구시보 편집장이 거론된다고 블룸버그 통신은 25일 지목했다. 블룸버그는 공산당 기관지 인민일보의 자매지인 환구시보 전 편집장이자 저명한 언론인인 후시진은 지난해 초기 투자금 10만 위안(약 1865만원)으로 중국 주식 거래 계좌를 개설해 대중의 주목을 받았다고 보도했다. 이후 후시진은 7만 위안 이상을 잃었다고 말해 중국 최대 소셜미디어 웨이보에서 화제를 모았다. 후시진은 웨이보에 “손실을 거부하고 시장을 떠나는 개인 투자자들은 경제의 미래에 대한 자신감을 보여준 사람들”이라고 썼다. 또 환구시보 논평을 통해 “중국 주식시장이 바닥을 쳤다”라고 주장했다. 후시진은 상하이 증시가 올해 개장 이후 이례적으로 7.35% 하락을 기록했다고 설명했다. 하지만 중국 인민은행이 2월 5일부터 지급준비율(RRR·지준율)을 0.5%포인트 인하해 시장에 약 1조위안(약 188조원)의 유동성을 제공하기로 하면서 중국 경제에 상승효과를 가져다줄 것이라고 전망했다.
  • “러시아 核사용 신호…지구종말시계, 남은 시간은 90초”

    “러시아 核사용 신호…지구종말시계, 남은 시간은 90초”

    지구 멸망까지 남은 시간은 90초. 핵확산과 기후변화 등의 위협으로 인류는 멸망을 코앞에 두고 있다는 평가가 나왔다. 미국 핵과학자회(BSA)는 23일(현지시간) ‘지구 종말(둠스데이) 시계’의 초침을 자정에서 90초 전으로 유지한다고 밝혔다. 지구가 자정에 종말한다면 현재 시각은 ‘오후 11시 58분 30초’라는 얘기다. 이는 지난해와 같은 수준이다. BSA는 2020년부터 100초 전으로 유지해 오다 지난해 90초로 당긴 바 있다. 러시아의 우크라이나 침공 이후 핵 사용 우려가 고조된 데 따른 것이다. BSA는 올해 시계를 설정한 위험의 근거로 핵 위협, 기후 변화, 인공지능(AI)과 새로운 생명 공학을 포함한 파괴적인 기술 등을 들었다. 레이첼 브론슨 BSA 회장은 “전 세계 분쟁 지역은 핵확산 위협을 안고 있고, 기후 변화는 이미 죽음과 파괴를 야기하고 있다”며 “AI와 생물학적 연구와 같은 파괴적인 기술은 안전장치보다 더 빨리 발전하고 있다”고 지적했다. 이어 “지난해와 (90초로) 변함이 없는 것은 세계가 안정적이라는 표시가 아니”라며 자정까지 90초는 매우 불안정한 것이라고 강조했다. “러시아 핵 사용·이스라엘 확전 우려”“기술, 안전장치보다 빨리 발전” 브론슨 회장은 “러시아와 우크라이나 간 전쟁 종식은 요원해 보이며, 러시아의 핵무기 사용은 여전히 심각한 가능성으로 남아 있다”며 “지난 1년 동안 러시아는 수많은 우려스러운 핵무기 사용 신호를 보냈다”고 지적했다. 그는 팔레스타인 무장정파 하마스와 전쟁 중인 이스라엘에 대해서도 우려를 나타냈다. 브론슨 회장은 “핵보유국으로서 이스라엘은 분명 지구 종말 시계와 관련이 있다. 특히 이 지역에서 분쟁이 더 광범위하게 확대돼 더 큰 전쟁이 일어나고, 더 많은 핵보유국이 개입할 수 있다는 점이 우려된다”고 말했다. 기후 변화에 대해서는 “2023년 세계는 기록적으로 가장 더운 해를 겪었고 전 세계 온실가스 배출량도 계속 증가하면서 미지의 영역에 진입했다”며 “전 세계와 북대서양 해수면 온도는 기록을 경신했고, 남극 해빙은 위성 데이터가 등장한 이래 가장 낮은 수치를 기록했다”고 짚었다. 그러면서 지난해에는 청정에너지에 대한 신규 투자가 1조 7000억 달러에 달했지만, 약 1조 달러에 달하는 화석연료 투자가 이를 상쇄했다고 덧붙였다. 지구 종말 시계가 처음 만들어졌을 때 가장 큰 위험은 핵이었고, 2007년 처음 기후변화가 요인으로 작용했다.알베르트 아인슈타인 등이 주축이 돼 1945년 창설한 BAS는 지구 멸망 시간을 자정으로 설정하고, 1947년부터 매년 지구의 시각을 발표해 왔다. 자정 7분 전으로 시작한 시계는 미국과 소련이 경쟁적으로 핵실험을 하던 1953년에는 종말 2분 전까지 임박했다가 미소 간 전략무기감축협정이 체결된 1991년 17분 전으로 가장 늦춰진 바 있다. 그러나 이후 핵무기가 사라지지 않고 기후 변화와 신종 코로나바이러스 감염증(코로나19) 등 위협이 이어지며 2019년 시계는 자정 2분 전으로 설정됐다. 이어 2020년 이란과 북한의 핵 프로그램 등을 이유로 자정 전 100초로 이동했고 지난해 90초 전까지 앞당겨졌다.
  • “투표하지 말라”…바이든 목소리로 걸려온 전화, 알고보니 ‘AI’

    “투표하지 말라”…바이든 목소리로 걸려온 전화, 알고보니 ‘AI’

    11월 미국 대선을 앞두고 인공지능(AI) 기술이 선거에 미치는 영향에 대한 우려가 커지는 가운데 실제로 미 경선에서 이를 악용한 사례가 접수됐다. 23일(한국시간) 뉴욕타임스와 NBC 등 외신에 따르면 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 상황에서 민주당 당원에게 ‘투표하지 말라’는 조 바이든 미국 대통령의 목소리가 담긴 전화가 걸려왔다. 뉴햄프셔 법무장관실에 따르면 가짜 녹음에는 “당신의 투표는 11월이 중요하다. 이번 화요일은 그렇지 않다”라는 내용이 담겼다. 이어 법무장관실은 “뉴햄프셔 대통령 예비선거를 방해하고 유권자들을 억압하려는 불법 시도로 보인다”며 “유권자들은 이 내용을 완전히 무시해야 한다”라고 밝혔다. 이처럼 AI 기술이 빠르게 발전하면서 이를 기반으로 한 가짜뉴스도 기승을 부리고 있다. 지난해 공화당은 바이든 대통령이 대선 출마를 발표했을 때 세상의 종말 시나리오를 담은 비디오를 생성하는 데 이 기술을 사용하기도 했다. 도널드 트럼프 전 대통령 역시 미 경찰에게 체포당하는 가짜 이미지가 공개된 바 있다.“백인 AI이미지, 실제보다 더 현실적이라 느껴” AI로 생성된 사람 얼굴 사진이 실제 사람을 찍은 사진보다 더 진짜처럼 보이는 현상도 나타나고 있다. 최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다. 실제로 최근 미국 일간 뉴욕타임스(NYT)가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다. 이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다. 그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다. 하지만 AI의 발전됨에 따라 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다. 오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다. 호주국립대(ANU)의 에이미 다웰 교수는 이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다고 우려했다. 다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.
  • AI, 태조 이성계를 그리다...박평종 중앙대 교수, ‘생성사진 프로젝트’ 사진전 열어

    AI, 태조 이성계를 그리다...박평종 중앙대 교수, ‘생성사진 프로젝트’ 사진전 열어

    박평종 중앙대학교 교수(인문콘텐츠연구소 HK연구교수) 가 오는 2월8일까지 복합문화공간 마프(서울시 중구 서애로33)에서 인공지능(AI) 시대 기술 생성 이미지가 만드는 초상사진전을 연다. 이번 전시회에는 태조 이성계, 영조, 철종, 윤두서, 논개, 갈릴레이, 아그리파, 마리앙투아네트 등 과거 인물들의 초상화로부터 생성 인공지능을 활용해 사실적인 사진 이미지를 구현한 총 200여점의 작품을 선 보였다. ‘생성사진 프로젝트’는 인공지능이 초상화를 사진이미지로 합성하는 놀라운 능력을 보여주며 과거 인물의 사실적 시각적 경험과 효과를 제공한다. 그러나 생성 인공지능의 산출 이미지는 학습 데이터의 총합 평균치로 이미 결정된 알고리즘의 구조적 한계점도 존재함을 함께 고민하고 있다. 특히 생성 이미지는 잠재적으로 획일적이며 결국 인간의 개별 특질을 사라지게 해 학습 데이터 평균치로 대체함을 우리에게 보여준다. 박평종 교수는 “순수 자동 생성 단계에서 생성 인공지능은 단 하나의 이미지만 산출하는 기계의 의도를 통제하지 못하면 개별 인간의 특질은 사라지고 스테레오타입으로 변환될 것”이라면서 “이 모순에서 벗어나기 위해서는 인간의 개입이 필요하다”고 설명했다. 이어 박 교수는 “우리가 AI에 대한 기대가 커지고 있지만, 또 다른 한편에는 많은 우려의 목소리도 공존한다”면서 “이번 ‘생성사진 프로젝트’는 AI에 대한 기대와 우려를 고찰하는 계기가 돨 것”이라고 덧붙였다.
위로