신동빈 롯데그룹 회장이 인공지능(AI) 전환을 연이어 강조하면서 그룹 전체가 생성형 AI 기술 개발에 박차를 가하고 있다. 25일 업계에 따르면 롯데그룹은 연내 상용화를 목표로 직원용 개인 맞춤형 AI 플랫폼을 개발하고 있다. 정보 유출 우려 없이 업무 문서와 일정, 연락처 등을 업로드해 활용할 수 있는 개인 AI 플랫폼을 개발해 전 직원에게 지원한다는 방침이다. 이를 위해 롯데 측은 롯데정보통신이 만든 생성형 AI 플랫폼 ‘아이멤버’를 기반으로 계열사별 사업 특성에 맞춘 ‘아이멤버 커스텀 챗봇’을 개발했다. 앞으로 챗봇을 더 고도화해 상반기 중 팀 단위에 제공되는 맞춤형 플랫폼을 개발하고 연내에 개인 맞춤형 AI 플랫폼을 선보인다는 계획이다. 각 계열사에서도 AI 활용 범위를 넓히고 있다. 롯데백화점은 AI아티스트 노엘 반다이크와 협업, 올해 봄 시즌 비주얼 이미지를 제작했으며 롯데홈쇼핑은 지난 8일 가상인간 루시가 출연하는 ‘루시톡라이브’를 론칭했다. 루시의 AI 아바타를 만들고 음성합성(TTS) 기술로 제작된 목소리를 송출하는 방식이다. 롯데마트는 오는 3월 3일 삼겹살데이를 앞두고 대형마트 검품 현장에 AI 기술을 활용한 삼겹살 선별기를 도입했다. 딥러닝 기반의 AI 장비가 삼겹살 단면을 분석해 살코기와 지방의 비중을 확인하고 과지방 삼겹살을 선별해 낸다. 롯데그룹은 또 하반기에 메타버스 플랫폼 ‘칼리버스’를 공개하고 국내외 시장 공략에 나설 계획이다. 롯데가 이처럼 AI 기술에 힘을 주는 것은 신 회장이 각별히 관심을 쏟고 있기 때문이다. 앞서 신년사에서 ‘AI 트랜스포메이션’ 시대를 맞이하기 위한 사업 혁신을 주문하며 “확보된 AI 기술을 활용해 업무 전반에 AI 수용성을 높이고, 생성형 AI를 비롯한 다양한 부문에 기술 투자를 강화해 달라”고 말했다. 상반기 사장단 회의(VCM)에서도 “AI를 단순히 업무 효율화 수단으로 생각하지 말고, 혁신의 관점에서 본원적 경쟁력을 강화하기 위한 방안으로 여겨 달라”고 했다. 앞서 롯데그룹은 지난해 9월부터 노준형 ESG경영혁신실 실장(부사장)을 중심으로 하는 AI 태스크포스(TF)를 가동해 왔다. 애초 TF는 다음달 운영을 마칠 예정이었지만, 업계에서는 그룹 안팎의 관심을 고려할 때 TF 운영이 어떤 식으로든 연장될 가능성이 있을 것으로 전망하고 있다.

국내 대표 가전업체가 경쟁적으로 일체형 세탁·건조기를 출시하면서 가격·성능·용량 경쟁도 치열해질 전망이다. 두 제품 모두 인공지능(AI) 기술을 적용한 것도 특징이다. 삼성전자는 세탁부터 건조까지 빠르게 한 대로 가능한 ‘비스포크 AI 콤보’를 24일부터 판매한다고 23일 밝혔다. 25㎏ 용량의 드럼 세탁기와 15㎏ 용량 인버터 히트펌프 건조기를 합친 제품으로 건조 용량은 국내 최대라는 게 삼성전자 설명이다. 대용량 열교환기에서 따뜻한 바람을 순환시키는 고효율 인버터 히트펌프 모듈이 적용돼 기존 히터 방식의 콘덴싱 타입 건조기와 비교해 건조 시간을 최대 60% 절약할 수 있다. 일반 건조를 할 때도 드럼 내부 최고 온도가 60도를 넘지 않아 옷감 손상 우려도 줄어든다고 회사 측은 밝혔다. 삼성전자는 “셔츠 약 17장인 3㎏ 수준의 세탁물의 경우 세탁부터 건조까지 99분 걸린다”고 했다. 삼성의 AI 플랫폼 ‘빅스비’로 음성을 통한 제어가 가능하다. 최적의 에너지 효율로 전기 사용량을 아껴주는 ‘AI 절약 모드’, 세탁물의 무게와 오염도, 건조도를 감지해 세탁·건조 시간을 맞춤 조절하는 ‘AI맞춤코스’도 탑재됐다. 세탁물 오염도를 학습해 적정량의 세제를 넣어주는 ‘AI세제 자동투입’ 기능도 있다. 출고가는 399만 9000원. 온라인 매장에서 먼저 판매한 뒤 다음달 4일부터 순차 배송한다.LG전자가 전날부터 판매하기 시작한 ‘LG 시그니처 세탁건조기’도 시작 버튼 하나로 세탁물을 꺼내지 않고 건조까지 할 수 있다. 세탁과 건조 용량은 각각 25㎏과 13㎏으로 세탁 용량은 삼성 ‘비스포크 AI 콤보’와 동일하다. 제품 밑에는 섬세한 의류나 기능성 의류, 속옷, 아동 옷 등을 분리 세탁할 수 있는 4㎏ 용량의 미니워시도 탑재됐다. 세탁기 온디바이스 AI칩(DQ-C)이 탑재돼 탈수 과정의 딥러닝 기능이 향상된 점도 이 제품의 장점으로 꼽힌다. 탈수할 때 세탁물을 균일하게 분산시켜 진동과 소음을 줄이는 식이다. “5시간 뒤에 완료해줘”, “세탁 종료시간 알려줘” 등 음성 명령이 가능하다. “오늘의 세탁결과 알려줘”라고 말하면 음성으로 오염도에 따른 세탁 시간도 알려준다. 시그니처 제품이라 가격(690만원, 출하가 기준)은 상대적으로 비싸다. LG전자는 오는 4월 일반형 제품인 ‘LG 트롬 오브제컬렉션 워시콤보’도 출시할 예정이라고 밝혔다.

21일 경기 고양시 일산 킨텍스에 문을 연 ‘서울신문 120주년 기념 동반성장 엑스포’ 현장. 궂은 날씨에도 전시장은 미래를 선도할 건설·건축 분야 신기술을 보기 위해 발걸음을 한 사람들로 북적였다. 각 부스에서는 업계 전문가와 산업 핵심 이해관계자들이 최신 트렌드와 지식을 공유하는 교류의 장이 열렸다. 서울신문사가 주최하고 메쎄이상이 주관하는 이번 전시회는 건설, 건축, 인테리어 전문 전시회인 ‘2024 코리아빌드위크’ 전시 주간에 특별관 형태로 마련됐다.입구에 들어서자 1997년 세계 최초의 폐쇄회로(CC)TV 디지털영상저장장치(DVR)를 출시한 보안기업 아이디스의 부스가 눈에 들어왔다. 부스 벽면에서는 딥러닝사물인식시스템(IDLE)에 대한 소개 영상이 나왔다. 최한슬 아이디스 과장은 “자전거를 잃어버렸을 경우 모든 CCTV 영상을 일일이 돌려 볼 필요 없이 자전거를 인식한 부분만 따로 볼 수 있는 기술”이라고 말했다.지난해 세계가전박람회(CES)에서 3개 부문 혁신상을 받은 기업 라오나크는 보안 기능과 편리함을 높인 도어록을 전시했다. 보통 도어록이 ‘띠띠띠’ 소리를 내며 잠기는 데 3초가량 걸린다면 라오나크의 도어록은 특허받은 잠금쇠를 통해 즉시잠김이 가능하다. 스마트 주차 관제 전문 업체인 넥스파시스템은 ‘카드 리더기 출구 무인 정산기’를 소개했다. 차량이 출구 무인 정산기에 접근할 때 신용카드 리더기가 자동으로 움직이는 기술은 관람객들의 감탄을 자아냈다. 해당 제품은 이미 서울 보라매병원, 신촌세브란스병원 등에 설치돼 있고 넥스파시스템 관계자는 밝혔다.현장을 찾은 이순석 건축사사무소 더블유 대표는 “다양한 정보를 한꺼번에 얻을 수 있고 궁금했던 제품, 기술들을 볼 수 있는 기회”라며 “무엇보다 새로운 기술의 개발자들과 직접 만나서 이야기할 수 있어서 좋았다”고 말했다. 호반건설은 이날 협력사의 판로 개척을 돕기 위해 전시회에 참가한 협력사의 홍보 부스 100여개를 지원했다고 밝혔다. 지원 규모는 1억 5000여만원이다. 22~23일에는 호반건설과 호반산업 구매 담당자가 현장에 나와 희망 기업과 일대일 상담회도 진행한다. 호반건설 관계자는 “연초부터 건설·건축 전문 전시회를 통해 경쟁력을 갖춘 협력사와 스타트업을 지원하게 됐다”며 “앞으로 더 많은 협력사의 국내외 판로 개척을 지원하고 동반성장을 위한 다양한 활동을 모색하겠다”고 말했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

삼성전자가 일본의 대표 인공지능(AI) 업체로부터 2나노(㎚·10억분의 1m) 반도체 생산을 수주했다. 첨단 초미세공정 기술을 놓고 대만 TSMC와 경쟁을 펼치는 삼성전자의 파운드리(반도체 위탁생산) 사업도 탄력을 받을 전망이다. 15일 업계에 따르면 삼성전자는 일본 AI 스타트업 프리퍼드네트웍스(PFN)로부터 AI 가속기를 비롯한 2나노 공정 기반 AI 반도체를 수주한 것으로 알려졌다. 2014년 설립된 PFN은 AI 딥러닝(심층학습) 개발 분야에서 전문성을 인정받는 업체로 도요타, NTT, 화낙(Fanuc) 등 주요 기업으로부터 대규모 투자를 유치했다. 앞서 삼성전자는 지난달 실적 발표 콘퍼런스콜을 통해 “최근 HBM(고대역폭메모리), 첨단 패키징을 포함한 2나노 AI 가속기 과제를 수주했다”고 밝혔다. 삼성전자가 메모리와 파운드리 사업을 함께 하고 있는 것도 PFN의 선택을 받은 배경으로 꼽힌다. 삼성전자는 “고객사 관련 내용을 확인할 수 없다”고 밝혔다. 삼성전자는 올해 2나노 공정 개발에 집중하며 AI 가속기 등 성장세가 가파른 응용처 수주를 늘려간다는 계획이다.한편 경계현 삼성전자 반도체(DS) 부문장(사장)은 소셜미디어(SNS)에 “HBM3E 샤인볼트와 같은 제품은 생성형 AI 애플리케이션의 속도와 효율성을 크게 향상시킬 준비가 돼 있다”고 밝혔다. 초당 최대 1.2테라바이트(TB) 이상의 데이터를 처리할 수 있는 HBM3E D램 샤인볼트를 통해 HBM 시장의 주도권을 가져오겠다는 의지를 드러낸 것으로 풀이된다. 현재 HBM 시장에선 SK하이닉스가 한발 앞서 있다는 평가를 받는다. HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고성능 메모리다.

미래를 선도할 건설·건축 신기술을 한꺼번에 만나 볼 수 있는 장이 열린다. 서울신문사와 국내 대표 박람회 전문 기업인 메쎄이상은 오는 21~24일 경기 고양 킨텍스에서 ‘서울신문 120주년 기념 동반성장 엑스포’를 개최한다고 14일 밝혔다. 국토교통부, 중소벤처기업부, 동반성장위원회, 호반그룹 공식 후원으로 열리는 이번 박람회는 대기업 중소기업간의 동반성장 상생 협력 가치를 공유하는 자리라는 점에서도 의미있다. 주요 참여 업체로는 건설 기초 소재 선도기업인 삼표그룹, 국내 최대 규모의 ‘할로우코어 슬래브’(HCS·슬래브 단면에 다수의 중공으로 콘크리트의 물량을 줄이고 경량화한 제품) 생산 라인 보유 기업인 한성피씨건설, 세계 최초 디지털 폐쇄회로(CC)TV 디지털영상저장장치(DVR)를 출시한 아이디스, 프리미엄 금속 내장재 전문 기업인 아주, 스마트 주차 관제 전문 업체인 넥스파시스템 등이 있다. 삼표그룹은 골재부터 시멘트, 레미콘, 사전제작 콘크리트(PC)까지 건설 기초 소재 수직계열화를 완성한 선도 기업이다. 1957년 국내 최초로 시멘트 산업에 진출해 아시아 최대 규모의 단일 공장을 갖추고 있다. 2020년에는 국내 시멘트 단일 공장으로는 최초로 클링커(시멘트의 원료) 누적 생산량 3억t을 돌파했다. 계열사인 에스피앤모빌리티를 통해 첨단 로봇 주차 솔루션을 제공하는 신기술을도 선보였다. 이 회사의 주차 로봇은 어떤 차량이라도 신속한 이송이 가능하고 공간의 효율을 극대화한다는 설명이다. 한성피씨건설은 물류센터, 지식산업센터, 일반 대형 건물, 경기장, 지하 주차장 등에 다양한 PC 건축 부재를 적용하고 있다. 현재 ‘탈현장 건축방식(OSC) PC공동주택 실증 사업’에 참여해 경기 김포 한강신도시, 평택 고덕동, 충남 아산 탕정면에서 기존의 재래식 공법 대비 PC공법이 생산성, 공사기간, 비용, 사용성 측면에서 얼마나 뛰어난 지 검증하고 있다. 아이디스는 1997년 세계 최초의 디지털 CCTV DVR을 출시한 보안 기업이다. 기업 전체 인원의 약 40%가 연구·개발(R&D) 인력으로 구성된 것이 특징이다. 아이디스는 자체 개발한 딥러닝 엔진으로 다양한 고객 맞춤형 솔루션을 출시해 시장에 적극적으로 대응하고 있다. 아이디스는 중소기업 간 상생협력 제도를 발판 삼아 공공 조달 시장에 진출했으며 현재 200여곳의 군부대에서 아이디스 제품을 사용하고 있다. 최근에는 건설 현장에도 문을 두드리고 있다. 아이디스 관계자는 “중대재해 예방을 위해 아이디스의 솔루션이 건설 현장에 공급되는 등 급변하는 시장 트렌드에 대응하며 국내 시장 점유율 추가 확대를 기대하고 있다”고 설명했다. 아주는 프리미엄 금속 건축 내장재의 활성화를 위한 전문시스템을 구축했다. 다양한 소재의 인쇄 기술과 라미네이팅 설비를 이용, 원스톱 생산 시스템을 구축했으며 대량 생산 능력을 보유하고 있다. 특히 디자인센터를 운영하며 고객 만족도를 높이고 있다. 아주 관계자는 “다양한 컬러 코팅과 강판 인쇄 기술로 고객이 원하는 디자인을 구현해 낸다”고 말했다. 넥스파시스템은 ‘카드 리더기 출구 무인 정산기’를 주력 제품으로 출시한다. 이 제품은 운전자가 주차 요금을 정산할 때 발생하는 문제를 해결할 수 있는 솔루션으로 주목받고 있다. 차량이 출구 무인 정산기에 접근할 때 신용카드 리더기가 자동으로 움직이도록 설계됐다. 이 제품을 활용하면 주차 정산 시 리더기와 차량이 멀찍이 떨어져 있어도 운전자가 차량에서 내릴 필요가 없다. 이번 박람회는 건설, 건축, 인테리어 전문 전시회인 ‘2024 코리아빌드위크’ 전시 주간에 특별관 형태로 진행된다. 오는 20일까지 박람회 홈페이지에서 사전 등록하면 무료로 입장할 수 있으며, 전용 바코드를 발급해 빠른 입장과 무료 초청장 발송 등의 혜택을 누릴 수 있다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

서울시의회 서울미래전략통합추진특별위원회(이하 미래전략특위) 위원장이자 기획경제위원회 소속 김동욱 의원(국민의힘·강남5)은 지난 1일 제6회 국제 인공지능(AI) 콘퍼런스 ‘AI SEOUL 2024’에 참석하여 미래기술 선도를 위해서는 지속적인 연구 확대가 이뤄져야 한다고 강조했다. ‘AI SEOUL 2024’는 AI 기술개발을 이끄는 세계적 석학, 딥러닝 권위자, 구글·아마존·네이버 등 주요 프로젝트 총괄의 참여로 국제적인 AI기술 발전 흐름과 인사이트를 직접 들을 수 있어 시민들의 많은 관심과 기대 속에 진행됐다.이번 행사의 메인 주제인 인공지능(AI)과 같이 미래 신기술 및 전략 산업 등을 정책에 활용해 서울의 미래비전을 세우기 위해 구성된 미래전략특위 위원장인 김 의원은 “인공지능(AI), 의료바이오, 신기술신산업, 시스템 의학 등의 미래 융합 산업 성장을 위해 서울시 차원의 R&D 예산 확대를 통해 다양한 연구가 지속되어 미래전략의 체계적인 수립이 가능해질 수 있도록 의회 차원에서도 많이 노력하겠다. ”라고 AI 산업을 위한 미래전략특위 차원의 지원 의지를 밝혔다. 김 의원은 “AI 산업은 빠르게 변화하는 시대에 ‘퍼스트무버’를 얼마나 많이 배출하느냐에 따라 생존 성패가 갈릴 수 있다”라며 “서울시에서 관련 기술 연구 및 개발을 위해 더 적극적으로 미래전략을 수립하고 관련 정책을 마련해 지원될 수 있도록 미래전략특위에서 중장기적인 서울 비전 수립 등을 통한 선도적 역할을 하겠다”라며 이번 ‘AI SEOUL 2024’의 의미와 미래전략특위의 역할을 되짚었다.

경기도와 성균관대 ,아주대가 ‘AI기반 의료·바이오 분야 응용연구 지원’ 사업 업무협약을 체결했다. 30일 성균관대학교 제2공학과 제2회의실에서 체결한 협약에 따라 이들 기관은 인공지능 기반 의료·바이오 분야 응용연구사업의 효과적인 추진과 혁신 인재 양성에 적극 협력하고, 경기도는 재정 지원과 행정적 절차에 협력할 계획이다. ‘AI기반 의료·바이오 분야 응용연구 지원’ 사업은 과학기술정보통신부 공모사업(AI 분야)에 선정된 대학들을 대상으로 대학별 7500만 원을 지원해 차세대 의료 진단, 신약 개발 기간단축 등 의료비용 절감을 도모하는 사업이다. 성균관대는 과기정통부의 ICT명품인재양성사업과 연계해 인공지능 기술을 접목한 안저영상(망막, 시신경 등 눈 뒷부분 고해상도 영상) 데이터 분석, 미래기술 선행연구 등을 진행한다. 아주대는 과기정통부의 인공지능융합혁신인재양성 사업과 연계해 대장수술 위험도 예측, 딥러닝 활용 의료데이터 연구 등을 진행한다. 김현대 경기도 미래성장산업국장은 “3차 경기도 과학기술진흥 기본계획 5대 전략 분야에 데이터·AI 핵심인재 양성과 디지털 바이오헬스 분야 산업기반 강화가 포함돼 있다”며 “도 차원에서 적극 지원해 의료 바이오 분야 응용연구 결과의 산업 활용도를 높이고, 지속적인 산학연관 협력을 통해 미래를 위한 투자 지원을 아끼지 않겠다”고 말했다.

조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

초분광기술 기반 딥러닝 AI(인공지능) 솔루션 전문기업 엘로이랩(대표 유광선)이 최근 50억원 규모의 시리즈A 투자를 유치했다고 25일 밝혔다. 이번 투자로 엘로이랩의 누적 투자금은 약 70억원이 됐다. 추가로 10억원도 멀티 클로징 중이라 시리즈A 총 투자 금액은 60억원이 될 전망이다. 이번 투자는 우리벤처파트너스가 리드 투자자로 참여했으며, 신한캐피탈, 에트리홀딩스, 빌랑스인베스트먼트, 한국바이오기술투자, 마그나인베스트먼트가 함께 투자했다. 리드 투자자인 우리벤처파트너스는 한국 1세대 벤처캐피탈(VC)인 KTB투자증권의 후신으로 현재 운용자산(AUM) 약 1조 5000억원 규모로 우아한형제들(배달의 민족)과 비바리퍼블리카(토스)등 투자한 국내 톱 벤처캐피탈 중 하나다. 추가로 이번 투자에 한국바이오기술투자를 통해 식품 분야 디지털전환(DX) 선도기업인 풀무원(대표 이효율)의 투자 결정도 포함돼 있어 향후 식품 분야에 있어 다양한 협업이 이뤄질 것으로 기대되고 있다고 엘로이앱 측은 설명했다. 엘로이랩의 초분광 AI 기술은 식품업계에서 그 기술력을 인정받아 다양한 식품 기업으로부터 ‘이물선별 및 품질관리’ 솔루션으로 적극 도입을 진행 중이며, 이외에도 2차 전지, 제약, 재활용 분야에서 기술 도입을 위하여 다양한 협업 가능성을 타진 중에 있는 기술이다. 유광선 엘로이랩 대표는 “지난 12월 ‘스케일업 팁스’ 업체로 선정돼 중소벤처기업으로부터 향후 약 12억원의 연구과제비를 지원받게 된 이후 금번 시리즈 A 투자로 엘로이랩의 초분광 AI 솔루션 기술에 대한 최적화 및 연구역량 증대를 위해 필요한 자금을 확보하게 돼 기쁘다”고 밝혔다. 엘로이랩은 지난해 10월 SCI 평가정보로부터 ‘우수한 기술력과 성장잠재력이 양호한 시장을 바탕으로 미래성장잠재력이 우수한 수준’으로 평가받으며 투자용 기술신용평가등급 TI3로 선정된 바 있다. 기존 식품 대기업에 도입된 다양한 이물 선별 및 품질 관리 솔루션이 그 효용성을 인정받아 식품 제조 라인에 추가 도입이 결정되고 있는 중으로 엘로이랩의 기술 경쟁력 및 역량은 지속적으로 검증되고 있다고 회사 측은 전했다. 유 대표는 “엘로이랩의 비전인 ‘우주의 별빛을 관찰하던 새로운 눈으로 깨끗한 세상을 만드는 일에 공헌한다’를 더욱 활발히 실행해 가겠다”고 포부를 밝혔다. 엘로이랩은 최근 시리즈 A 투자유치와 함께 연구·개발, 사업 및 다양한 분야에서 인재를 모집하고 있다.

한자를 수기로 작성한 옛 토지대장이 인공지능(AI)을 활용해 쉬운 한글로 바뀐다. 울산시는 일제강점기에 작성돼 현재까지 토지행정의 기초자료로 활용되고 있는 옛 토지대장의 한자 정보를 인공지능을 활용해 한글로 변환하는 사업을 추진한다고 24일 밝혔다. 옛 토지대장은 1910년 토지조사사업 당시 일제에 의해 수기체 한자(행서, 초서)와 일어로 만들어진 지적공부다. 토지의 소재, 지목, 면적과 소유자의 현황 등 표시사항의 변동을 확인할 수 있다. 현재까지 과세, 보상, 평가, 토지 소유권 분쟁, 조상땅 찾기, 토지이동 업무 등 행정 전반에서 기초자료로 활용되고 있다. 이에 시는 10억원을 들여 올해부터 2026년까지 사업을 추진한다. 올해는 울주군지역을 대상으로 먼저 진행한다. 사업은 한자 OCR(광학 문자 인식) 추출, 한자 글자 주석(텍스트 레이블) 작성, 인공지능 심화학습(AI 딥러닝) 기반 데이터 반복학습, 인공지능 연산방식(AI알고리즘) 기반 정형화된 글자 변환 작업 등으로 진행한다. 시는 인공지능 학습데이터를 활용한 자동 한글 변환과 검수 작업을 통해 정확도를 높일 계획이다. 시 관계자는 “AI 기반 한글화 변환 사업으로 효율적인 행정처리뿐 아니라 시민들의 재산권 행사에 편의성을 높여줄 것으로 기대한다”고 말했다.

“인공지능(AI)가 할 수 있는 일의 범위는 놀랍도록 확장될 겁니다.” 자체 대규모언어모델(LLM)을 개발해 세계를 놀라게 한 토종 AI 스타트업 ‘업스테이지’의 최홍준(44) 부사장은 23일 “모든 사물이 AI와 결합되는 상황에서 ‘AI를 어떤 기계에 넣을 것이냐, 어떻게 쓸 것이냐’에 따라 기회는 무수히 많다”고 힘줘 말했다. 최 부사장은 지난 9~12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024에서 가장 인상적인 제품으로 삼성전자가 선보인 AI 로봇 ‘볼리’를 꼽은 뒤 “상상력을 자극하는 제품”이라고 말했다. 그는 “(이미지와 영상 등을 학습·분석하는) 멀티모달이 생활에 적용된 사례로 눈이 있고 음성 인식 기능도 있다. 볼리에 탑재된 AI가 GPT 성능 이상으로 좋아진다면 때로는 에이전트(일종의 비서), 때로는 말동무로 역할을 할 수 있을 것”이라고 내다봤다.현재의 AI 기술 수준에 대해선 “딥러닝(컴퓨터가 스스로 데이터를 조합 분석해 학습하는 기술) 알고리즘과 슈퍼 컴퓨팅 기반 대규모 데이터 처리 능력의 향상으로 자연어 처리, 이미지·음성 인식은 인간 수준의 성능을 달성했다”고 짚었다. 오픈AI의 GPT-4와 같은 LLM이 자연어 생성·이해 분야에서 혁신적인 결과를 보여줬다는 것이다. AI가 의료 진단, 금융 예측, 자율주행 자동차 등 다양한 응용 분야에서 활용되고 있는 것도 AI 기술이 상당한 발전을 이룬 사례라고 설명했다. 다만 “AI가 의사결정을 지원하고 인간을 대체하기에는 인간의 추상적 사고, 도덕적 판단, 문맥 이해 등에서 한계를 갖고 있다”는 게 최 부사장의 주장이다. 글로벌 불확실성, 경제적 요인, 정치적 변수 등도 AI 기술 발전을 예측하기 어렵게 만든다고 했다. 업스테이지는 지난달 자체 개발한 LLM ‘솔라’를 공개하고 글로벌 기술 경쟁에 뛰어들었다. 솔라는 세계 최대 AI 플랫폼 허깅페이스가 운영하는 ‘오픈 LLM 리더보드’ 평가에서 1위를 차지했다. 솔라는 기업이 활용할 수 있게 작은 크기로 구성된 경량형 언어모델(sLLM 혹은 SLM)로 매개변수(파라미터) 규모는 107억개(10.7B) 수준이다. LLM 뛰어난 발전에도 할루시네이션 여전정확성, 신뢰성 높여줄 RAG 기술 떠올라 최 부사장은 “지난해 등장한 GPT-4와 같은 LLM은 뛰어난 발전을 이뤘지만 ‘할루시네이션’(환각현상·AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)과 같은 문제는 아직 해결되지 않았다”고 지적했다. 그러면서 “앞으로 검색 증강 생성(RAG)과 같은 새로운 방법론이 AI 기술 발전의 핵심적인 역할을 할 것”이라고 전망했다. RAG는 외부에서 가져온 정보로 생성형 AI 모델의 정확성과 신뢰성을 높여주는 기술로 LLM의 한계를 보완해준다는 점에서 주목을 받고 있다. 최 부사장은 AI가 아직 인간의 지능을 뛰어넘는 ‘티핑 포인트’(극적인 변화의 순간)에 도달하진 못 했지만 현재의 기술 속도로 보면 몇 년 안 걸릴 것으로 봤다. 그는 “수 년 내 인간 지능을 뛰어넘을 수 있다고 생각한다”면서 “기술 발전을 통제할 수 있는 장치를 빠르게 도입해야 한다”고 강조했다. 이어 “과연 AI 규제를 통해 ‘통제가 가능할까’에 대해선 확신하기 어렵다”며 “이럴 때는 오히려 AI 대 AI의 구조로 기술 개발을 통한 통제를 하는 것도 방법일 수 있다”고 제안했다.

챗GPT 제작사 오픈AI의 샘 올트먼 최고경영자(CEO)가 자체 인공지능(AI) 반도체 개발을 위해 아랍에미리트(UAE) 투자자들을 만나고 대만 TSMC와 협의 중이라고 영국 파이낸셜타임스(FT)가 20일(현지시간) 보도했다. 익명의 소식통은 FT에 올트먼이 새로운 AI 모델 구축에 필요한 AI 반도체를 개발하고 이를 생산하는 공장을 짓기 위해 중동의 부유한 투자자들과 자금 조달에 대해 대화하고 있다고 밝혔다. 올트먼이 만난 잠재적 투자자 중에는 타흐눈 빈 자예드 UAE 국가안보보좌관이 포함된 것으로 알려졌다. 그는 무함마드 빈 자예드 알 나흐얀 UAE 대통령의 동생이고, UAE의 AI 기업 G42의 소유주이자 회장직을 맡고 있다. 올트먼은 현재 AI 반도체 시장을 장악한 미국 반도체기업 엔비디아에 대한 의존도를 낮추기 위해 자체 AI 반도체 개발을 추진하고 있다. G42는 오픈AI의 투자사인 마이크로소프트(MS), 오픈AI와 이미 협력 중이다. 전날 블룸버그통신도 올트먼이 G42, 일본 소프트뱅크 그룹을 포함해 다수의 재무 투자자들과 자금 조달 방안에 관해 논의 중이라고 보도했다. 타흐눈 보좌관은 8000억 달러(약 1070조원) 규모의 아부다비 국부펀드를 운용하는 아부다비투자청(ADIA)과 또 다른 아부다비 국부펀드인 ADQ도 관리하고 있다. GPU 반도체업계 시장 선도 기업인 엔비디아와 시장에서 경쟁하기 위해 품질과 기술력이 뒷받침된 반도체를 개발하려면 막대한 자금이 들어갈 수밖에 없기 때문에 FT는 오픈AI가 수십억 달러를 조달해야 한다고 설명했다. 생성형 AI에 투입되는 딥러닝에는 동시에 여러 연산을 처리할 수 있는 성능을 갖춘 컴퓨터가 필요하다. 올트먼은 또 세계 최대 파운드리(반도체 수탁생산) 기업인 TSMC와 AI 반도체 생산에 대해 협의 중인 것으로 전해졌다. 올트먼의 AI 칩 벤처기업이 오픈AI의 자회사가 될지 또는 별도 기업이 될지는 확실하지 않지만, 오픈AI는 이 기업의 최우선 고객이 될 것으로 알려졌다.

지난 12일(현지시간) 미국 라스베이거스에서 막을 내린 세계 최대 가전·IT 전시회 CES 2024의 화두는 단연 인공지능(AI)이었다. ‘챗GPT’가 생성형 AI 시대를 연 뒤 처음 열린 전시인만큼, ‘올 투게더, 올 온(All Together All On)’이라는 주제 아래 다양한 산업 분야와 융합되는 AI 기술이 전시의 중심이었다. 이에 그동안 AI 기술을 고도화 시켜 온 국내 스타트업들이 CES에서 전에 없던 주목을 받았다. 소규모 벤처기업들이 혁신 기술을 선보이는 전시관인 ‘유레카파크’가 ‘K-스타트업’의 무대가 됐다. 국내 스타트업들은 대기업의 투자를 유치하거나 해외 업체와 협력을 체결하고 CES 혁신상을 받는 등 호평을 얻었다.●포바이포 ‘픽셀’, 혁신상 2개 부문 수상 포바이포는 딥러닝 AI 기반 화질 개선 솔루션 ‘픽셀(PIXELL)’로 ‘콘텐츠&엔터테인먼트’, ‘디지털 이미징/사진’ 부문에서 CES 2024 혁신상을 수상했다. 픽셀은 수만 건의 초고화질 영상을 학습한 AI가 채도, 선예도, 명암, 노이즈 등을 미세하게 조정하는 방식으로 화질을 고도화한다. 인간이 눈으로 보는 것과 비슷한 수준의 영상 화질을 구현할 수 있다는 게 포바이포의 설명이다. 영상의 초당 데이터 전송량도 낮추면서도 화질은 초고화질로 바꿀 수 있어 다양한 업계에서 활용할 수 있다. 한국콘텐츠진흥원(KOCCA) 공동부스에 마련된 포바이포 전시 공간엔 미국, 영국, 일본, 스페인 등 글로벌 방송사와 통신사, 증강현실(AR)/가상현실(VR) 협회, 3D 콘텐츠 제작사, 글로벌 VFX 스튜디오, 글로벌 기술 기업, e러닝 교육기업, 헬스케어 이미지 영상 기업 등 디지털 영상 및 이미지 콘텐츠를 생성, 활용하는 다양한 영역의 관계자가 약 300명 이상 방문한 것으로 전해졌다. 현장을 방문한 AI 솔루션 인프라 구축 기업 올파이브데이터 최고기술책임자(CTO) 셔먼 탕은 “AI 화질 개선 결과물의 퀄리티가 매우 놀랍다”며 “미국 등 글로벌 미디어 서비스 및 콘텐츠 제작 분야에서도 활용 잠재력이 매우 클 것이라 생각한다”고 소감을 전했다. 포바이포는 오는 2월 말, 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘모바일 월드 콩그레스(MWC) 2024’에서도 스타트업 전문관 ‘4YFN’에도 전시장을 꾸린다. ●에이아이포펫, 반려동물 헬스케어로 주목 반려동물 헬스케어 전문 기업 ㈜에이아이포펫은 CES에 3년 연속 참가해 AI 반려동물 건강관리 기술을 선보이고 현지 관람객들에게 큰 호응을 얻었다. 이번 전시에선 강아지와 고양이 이빨 건강까지 확인하고 관리할 수 있는 발전된 AI 분석 기술을 전시했다. 반려인은 집에서 직접 ‘티티케어’ 앱으로 반려동물 건강 상태를 확인하고 그 데이터를 연계 병원과 실시간 공유할 수도 있다. 현재 한국마사회와 함께 연구개발 중인 AI 기반의 말 개체 식별 기술과 보행 이상 진단 보조 기술도 함께 선보였다. ●딥인사이트, 프롭테크 기술로 美업체와 MOU 인공지능 기반 3D 센싱 솔루션 스타트업 ㈜딥인사이트는 CES 2024에서 미국 라이다(LiDAR) 기업 아우스터와 전략적 기술 협력 업무협약(MOU)를 맺었다. 두 회사는 건설, 건축, 프롭테크(부동산 기술), 인테리어 등 분야에서 3D 공간 정보 획득에 사용되는 라이다 기반의 3D 스캐너 개발과 보급에 협력하기로 했다. 딥인사이트의 ‘디멘뷰’는 아우스터 라이다와 고용량 리튬이온 베터리를 소형화, 경량화한 프롭테크 장비로, 필요한 공간 정보만 선택적으로 모니터링하고 촬영, 2D, 3D 도면 정보를 실시간으로 획득할 수 있도록 만들어졌다.●딥브레인AI, 전시장에 가상인간 세워 AI 휴먼 제작 선도 기업인 딥브레인AI는 2019년부터 매년 CES에 참가하고 있다. 이번엔 LG 노바와 협력해 ‘함께 만드는 더 밝은 미래’를 주제로 유레카 파크에 전시관을 꾸렸다. 이번 전시에서 딥브레인AI는 대화형 AI 키오스크와 가상인간 영상 편집 플랫폼인 ‘AI 스튜디오스’를 중점적으로 소개했다. 특히 자사 ‘드림아바타’ 기술을 기반으로 실제 AI 휴먼을 구현해 화제를 모았다. 드림아바타는 사진 한장과 음성 10초 분량만 있으면 2분 내에 가상인간을 제작할 수 있는 기술이다. 딥브레인AI 전시장에선 AI 스튜디오스를 통해 텍스트 입력만으로 쉽고 간단하게 AI 휴먼을 활용한 영상을 제작해 보는 체험도 이뤄졌다. 글로벌 IT 기업 레노버 및 스콧 모건 재단과 함께 진행한 ‘AI 아바타 프로젝트’도 공개됐다. 스타트업얼라이언스에 따르면 CES 2024에서 한국 기업 중 혁신상을 수상한 스타트업은 116개로, 그 중 가장 많은 30개(25.86%) 스타트업이 헬스케어 분야에 해당됐다. CES 2024 최고 혁신상을 수상한 3D 프린팅 의수 개발 기업 ‘만드로’, AI 전립선암 진단 솔루션 ‘딥바이오’, 재생의료 스타트업 ‘플코스킨’ 등이 이 분야에 해당된다. 두번째로 혁신상이 많은 산업군은 스마트홈&스마트시티 분야(14개, 12.07%), 세번째는 AI(12개, 10.34%)였다.

캘러웨이골프가 인공지능(AI) 기술의 정수를 집약한 ‘패러다임 Ai 스모크 패밀리’를 17일 선보였다. ‘Ai 스모크’는 관용성을 극한으로 끌어올린 ‘Ai 스마트 페이스’를 장착한 게 그 특징이다. Ai 스마트 페이스는 스피드, 페이스 앵글, 스윙 패스, 다이나믹 로프트, 론치 앵글 등 임팩트 순간 클럽 헤드 움직임에 대한 데이터 등 실제 골퍼들의 스윙 데이터와 샷 결과를 AI가 딥러닝하고 이를 통해 만들어진 5만개의 프로토타입 페이스 샘플의 테스트 과정을 거쳐 탄생했다. 가장 큰 특징은 수백 만개의 마이크로 디플렉션(미세 스윗스팟)으로 페이스 전체를 덮어 정타를 치지 못하더라도 마이크로 디플렉션의 작용으로 최적 발사 조건과 스핀을 제공한다는 데 있다. 쉽게 말해 페이스 정중앙만이 아니라 페이스 전체가 스윗스팟이라는 이야기다. Ai 스마트 페이스는 이러한 관용성을 바탕으로 비거리를 평균 7야드 늘리고 탄착군은 11% 좁힌 효과를 냈다. 모델에 따라 헤드 디자인을 달리한 Ai 스모크 패밀리는 골퍼의 취향과 구력, 선호하는 플레이에 따라 클럽별 다양한 선택지를 제공한다. Ai 스모크 맥스 드라이버는 솔 뒤쪽 무게추를 조절해 좌우 최대 17m까지 다양한 구질을 구사하게 한다. 뛰어난 관용성과 안정감을 제공하는 Ai 스모크 맥스D 드라이버는 드로우 구질을 구사하려는 골퍼에게 적합하다. Ai 스모크 TD(트리플 다이아몬드) 드라이버는 고수들이 선호하는 캠팩트한 사이즈에 다양하게 코스를 공략하려는 니즈를 적극 반영했다. Ai 스모크 맥스 패스트 여성용 드라이버는 낮은 스윙 스피드를 지닌 골퍼를 위해 경량으로 설계됐다. 이 밖에도 Ai 스마트 페이스 기술이 동일하게 적용된 페어웨이 우드 4종, 하이브리드 3종, 아이언 3종이 Ai 스모크 패밀리를 이룬다. 캘러웨이골프 코리아는 이날부터 19일까지 서울 종로구 익선동 소재 누디트에서 Ai 스모크 패밀리를 체험할 수 있는 ‘랩’을 운영한다. 전시 공간과 시타 공간으로 구성된 랩에서는 다양한 프로그램을 즐길 수 있다.

생성형 인공지능(AI)으로 만든 허위조작정보가 미 대선을 비롯해 전 세계 40여개국에서 진행하는 선거를 망칠 수 있다는 우려가 커지자 챗GPT 제작사 오픈AI가 선거 관련 콘텐츠의 정보 출처와 조작 여부를 알 수 있는 시스템을 만드는 등 자율규제책을 발표했다. 오픈AI는 15일(현지시간) 자사 홈페이지에 “올해 세계 각국에서 치러지는 민주주의 선거의 공정성을 지키기 위해 민주적 절차의 모든 부분에서 협력이 필요하다”며 AI 챗봇 챗GPT와 이미지 생성 AI ‘달리’(Dall-E) 관련 선거 공정성 세이프가드 방안을 발표했다. 구체적으로는 챗GPT를 통해 사람들이 선거 캠페인이나 로비 활동을 위한 애플리케이션(앱)을 만드는 것과 임의의 개발자가 선거에 나선 특정 인물이나 중앙정부 또는 지방정부인 것처럼 가장하는 챗봇을 만드는 것을 금지했다. 또 투표소 위치 등을 잘못 알려 주거나 ‘민주주의에서 투표가 무의미하다’고 주장하는 등 민주주의 시민의 참정권 행사를 방해하는 앱 제작을 금지했다. 오픈AI는 “챗GPT는 언론사 뉴스 등 기존의 정보 소스들과 점점 더 통합되고 있다”면서 “전 세계 언론의 실시간 선거 관련 속보 기사를 볼 수 있도록 연결해 생성형 AI를 이용하는 사람들이 정보의 출처와 취재원을 투명하게 쉽게 찾아볼 수 있도록 하겠다”고 밝혔다. 미 대선과 관련해서는 초당파적 단체인 미 국무장관협회(NASS)와 협력해 유권자들이 챗GPT에 투표소 위치 등 선거 관련 특정 질문을 하면 주 선거관리위원회가 정보를 제공하는 공식 웹사이트(CanIVote.org)로 안내한다. 이를 통해 정확한 선거 관련 정보를 안내하는 프로토콜을 구축해 세계 각국의 선거 관련 정보를 준다. 또 후보 관련 사실과 거짓이 뒤섞인 정보, 딥러닝을 이용한 합성기술인 딥페이크 영상 유포를 막기 위해 생성형 AI가 만든 콘텐츠의 출처와 세부 정보를 암호화해 인코딩하는 디지털 자격 증명 체계도 마련한다. 앞서 구글도 자사 챗봇 ‘바드’가 대답을 내놓는 선거 관련 질문을 후보자, 투표 방법, 장소 등으로 제한하는 조처를 했다. 이 내용도 별도 외부 기관을 통해 검증된 정보만으로 구성했다. 선거 관련 정보는 출처를 반드시 제시하고, AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 AI가 사용됐다는 것을 눈에 띄게 표시하도록 했다.

AI 적용해 최적 패션 스타일 추천공기주입식 조끼, 감정 상태 측정GPT 등 거대언어모델 무료 공급도 “모발이 가늘고 두피 민감도가 높게 나왔습니다.” 뷰티·헬스케어 스타트업 ‘비컨’의 박민석 대표가 10일(현지시간) 미국 라스베이거스에서 열리고 있는 세계 최대 가전·정보기술(IT) 전시회 CES 2024의 스타트업 전시관 ‘유레카 파크’에서 인공지능(AI) 두피 스캐너로 기자의 두피를 촬영한 뒤 모니터 화면에 뜬 결과를 보여 주며 “관리가 필요하다”고 했다. 인터넷 연결 상태가 좋지 못한 탓에 분석 결과가 나오기까지 15초 정도 걸렸지만 보통은 스캐너를 두피에 갖다 대면 곧바로 결과값이 나온다고 한다. 모낭 밀도, 모낭당 모발, 피지, 민감도, 굵기, 모발량 등 다양한 항목으로 세분화돼 사진과 함께 상태를 확인할 수 있다. 이 AI 기술은 사용자의 두피·모발 상태에 맞는 샴푸도 추천해 준다. 2020년 삼성전자 사내 벤처 프로그램 C랩에서 분사한 박 대표는 “전 세계 두피 데이터 40만건을 모았다”면서 “데이터가 많을수록 정확도는 더 높아질 것”이라고 말했다. 이날 찾은 유레카 파크에는 혁신 기술·아이디어를 가진 스타트업들이 빼곡하게 모여 있었다. ‘유니콘’(기업 가치 1조원 이상 스타트업)을 꿈꾸는 스타트업 중심에는 삼성전자와 현대차가 육성한 벤처 기업들이 즐비했다. 삼성전자가 ‘C랩 아웃사이드’(외부 스타트업 대상 프로그램)로 육성한 ‘스타일봇’은 AI를 적용해 집 안의 의류 이미지를 기반으로 패션 스타일을 추천해 주는 기술을 선보였다. 개인이 촬영한 의류 이미지를 자동으로 분석해 가상의 마네킹에 입힌 뒤 AI 딥러닝 기술과 사용자의 취향을 기반으로 화면을 통해 최적의 스타일을 안내해 주는 식이다. 멘탈헬스케어 스타트업 ‘돌봄드림’은 공기주입식 조끼를 선보였다. 조끼에 공기를 불어넣어 압박이 되면 안아 주는 느낌을 줘 심리적으로 안정이 된다는 게 이 회사 관계자의 설명이다. 심박수, 호흡 등의 생체 정보를 통해 조끼를 입은 사람의 감정 상태와 스트레스를 모니터링하는 기술도 공개했다. AI 포털 서비스 기업 뤼튼테크놀로지스 역시 C랩 아웃사이드 소속으로 오픈AI의 ‘GPT-4’, 구글의 ‘팜2’, 앤스로픽의 ‘클로드2’ 등 거대언어모델(LLM)을 무료로 공급하는 AI 플랫폼 ‘뤼튼’을 전시했다.현대자동차가 육성한 스타트업이 모인 제로원 전시관에서는 4개의 바퀴가 달린 사각형 형태의 배달 로봇 ‘M2’ 두 대가 수평을 유지한 채 바퀴를 유연하게 움직여 계단을 오르내리는 모습을 시연하자 관람객들이 일제히 박수를 보냈다. “낯익은 현대차와 기아의 로고를 보고 들어와 봤는데 어떤 기업이냐”고 묻는 외국인 관람객도 있었다. M2는 2020년 현대자동차그룹의 사내 스타트업으로 시작해 지난해 3월 독립 기업으로 분사한 스타트업 ‘모빈’이 자체 개발한 자율주행 로봇이다. 대학 캠퍼스나 아파트 단지 내와 같은 ‘라스트마일’(배달 과정에서 소비자에게 가는 최종 단계) 배달 서비스를 제공한다.