마이크로소프트(MS)가 강력한 동맹 관계를 맺고 있는 오픈AI의 최신 인공지능(AI) 모델인 ‘GPT-4o’를 전면에 내세우며 새로운 서비스를 대거 출시했다. 앞서 구글이 자사 AI ‘제미나이’를 사업 전반에 적용하기 시작했다고 발표한 지 불과 일주일 만으로 AI 주도권을 놓고 양사의 경쟁은 더욱 치열해질 것으로 보인다. 21일(현지시간) MS는 미국 워싱턴주 레드먼드에서 연례 개발자 회의 ‘빌드’를 개최했다. 기조 연설자로 나선 사티아 나델라 MS 최고경영자(CEO)는 이날 “코파일럿을 중심으로 새롭게 공개할 서비스와 파트너십이 50가지가 넘는다”면서 “MS는 태생부터 플랫폼 기업이었으며, 궁극적인 목표는 여러분이 첨단 기술의 힘을 빌려 자신만의 도구를 만들 수 있게 하는 것”이라고 말했다. 단연 눈에 띄는 건 MS가 지분 49%를 갖고 있는 오픈AI의 멀티모델 AI인 GPT-4o를 자사의 클라우드 서비스인 ‘애저’에서 이날부터 이용할 수 있도록 했다는 점이다. 기업 고객이나 엔지니어들이 AI 모델을 개발할 수 있도록 돕는 ‘애저 AI 스튜디오’에서 오픈AI가 지난 13일 공개한 GPT-4o를 사용할 수 있게 되면 우리가 사용하는 애플리케이션이나 온라인 사이트에서도 음성으로 대화가 가능하고, 이미지도 실시간으로 인식하는 AI 기능을 활용할 수 있게 된다. MS는 영상을 통해 이를 시연하기도 했는데, 한 남성이 여름용 스포츠 샌들을 보여주며 “춥고 어두운 산에 하룻밤 캠핑을 갈 건데 이 신발을 신고 가도 되느냐”고 묻자 AI가 “감기에 걸릴 수 있다”며 반대 의견을 내는 모습이 나오기도 했다. 남성이 “그럼 적절한 신발을 골라 주문해 달라”고 하자 AI는 “하이킹 부츠가 좋겠다”며 이를 장바구니에 자동으로 넣어주기도 했다. 또 다른 핵심 서비스엔 AI비서 기능이 있다. MS의 모든 제품에 탑재된 코파일럿을 이용하면 별다른 명령 없이 사용자의 이메일을 모니터링하고, 프로젝트의 다음 단계를 수행하기 위해 필요한 데이터나 연락망들을 빠르게 이용할 수 있다. 기존엔 1인용 코파일럿만 있었지만, 이날 공개한 ‘팀 코파일럿’을 통해 팀 단위로 함께 이용할 수 있다. 팀 코파일럿은 MS의 회의 앱인 팀즈에서 회의 안건을 관리하고 중요 정보를 요약하는 등 일종의 ‘회의 진행자’ 역할도 할 수 있다. 이 같은 기능은 올해 말 미리 보기 버전으로 출시될 예정이다. 행사가 끝날 무렵 샘 올트먼 오픈AI CEO가 깜짝 등장해 양사의 끈끈한 파트너십을 과시했다. 올트먼 CEO는 케빈 스코트 MS 최고기술책임자(CTO)와 함께 무대에 올라 오픈AI의 AI모델을 직접 소개하고 슈퍼컴퓨터 구축을 위한 양사의 협력이 이어질 것임을 강조했다. 그는 GPT-4o에 대해 “기술이 이렇게 의미있는 방식으로 빠르게 채택되는 것을 본 적이 없다”면서 “가장 중요한 것들은 (AI) 모델들이 점점 더 똑똑해질 것이며, 이런 일들이 계속 일어날 것”이라고 말했다. 한편 올트먼 CEO는 GPT-4o가 미국 유명 배우 스칼렛 조핸슨의 목소리를 무단으로 모방했다는 논란에 대해선 별다른 답변은 하지 않았다. 다만 스코트 CTO가 “(GPT-4o 공개 이후) 힘든(wild) 한 주였느냐”고 묻자 “그렇다”라고 답했다. 오픈AI는 다른 전문 배우의 목소리라고 주장했지만 조핸슨이 법적 조치를 시사하면서 논란은 가중되고 있다.

이재용 삼성전자 회장은 “인공지능(AI)이 산업 혁신과 경제 성장에 영향을 미치는 것을 넘어서 우리의 삶과 일하는 방식, 세상과 소통하는 방식을 근본적으로 바꾸고 있다”고 말했다. 22일 삼성전자에 따르면 이 회장은 전날 열린 ‘AI 서울 정상회의’에 화상으로 참석해 “AI 기술의 장점을 책임감 있게 활용하는 것이 무엇보다 중요하다”면서 “혁신의 과정에서 AI의 악용을 최소화하고 혜택을 극대화하기 위한 방안이 전 세계적으로 논의돼야 한다”고 밝혔다. AI 서울 정상회의는 지난해 11월 영국에서 열린 ‘AI 안전성 정상회의’에 이은 두 번째 회의로 한국과 영국 정부가 공동 주최했다. 윤석열 대통령과 리시 수낵 영국 총리를 포함한 주요 7개국(G7) 국가 정상들과 삼성, 아마존, 메타, 구글, 마이크로소프트(MS), 네이버 등 국내외 기업 대표들이 화상으로 참가했다. 이 회장은 화상 연설에서 기술을 통한 인류 사회 공헌은 삼성의 핵심 가치라고 강조했다. 그러면서 “안전하고 혁신적이며 포용적인 AI를 만들기 위한 국제사회의 노력에 동참하겠다”고 밝혔다. 이 회장은 삼성의 기술, 제품을 통해 전 인류가 AI의 혜택을 누릴 수 있게 하겠다고 했다. 삼성의 고효율, 저전력 반도체가 기업들이 비용과 에너지 소모를 최소화한 AI 서비스를 개발·제공할 수 있도록 지원하고 있다는 점도 예시로 들었다. 이어 “글로벌 협업을 통해 AI가 지금 세대 뿐 아니라 다음 세대의 더 나은 미래를 만드는 도구로 활용될 수 있도록 노력하자”고 제안했다. 삼성전자는 ‘기술의 중심에는 사람을 둬야 한다’, ‘인류에 도움이 되는 기술을 만들어야 한다’는 이 회장의 경영 철학에 기반해 AI 기술·제품을 추구해 왔다. 해마다 세계적 석학과 AI 분야 전문가가 참여하는 ‘AI 포럼’을 열어 미래 AI 기술 방향도 논의하고 있다.

정보의 홍수 속에 살고 있지만 정작 우리 실생활에 도움이 되는 정보는 쉽게 접하기 어렵습니다. 특히 딱딱한 행정 뉴스는 매일 같이 쏟아지지만 안에 숨겨진 알짜배기 생활 정보는 묻혀버리기 십상입니다. 서울신문 시청팀은 서울시와 자치구가 내놓은 행정 소식 중 우리 일상의 허기를 채우고 입맛을 돋워줄 뉴스들을 모은 ‘생생우동’(생생한 우리 동네 정보)을 매주 전합니다.우리 사회는 이미 고령화 사회로 접어든 지 오래다. 2025년에는 65세 이상 인구가 차지하는 비중이 20%가 넘는 초고령화 사회로 진입할 예정이다. 서울시에 따르면 지난해 기준 서울에 거주하는 독거노인은 44만 8000여명이다. 혼자 사는 노인은 건강과 안전의 위험에 노출된 가능성이 높고 작은 사고나 질병, 상해가 큰 사고로 이어질 가능성도 높다. 때문에 서울시를 비롯해 각 자치구에서는 다양한 어르신 지원 사업을 시행 중이다. 우리 동네에서 운영 중인 어르신 지원 사업을 꼼꼼하게 살펴 챙긴다면 안전도 지키고 생활의 편리함도 얻을 수 있을 것이다. 디지털 문해교육부터 맞춤형 교통안전 교육도 서울시 산하 서울디지털재단은 지난 13일 서울시교육청과 ‘어르신 문해학습자를 위한 업무협약(MOU)’을 체결하고 서울시 문해학습자를 대상으로 디지털 역량진단과 1:1 교육을 제공한다. 5월 말부터 200여 명을 대상으로 시작되는 문해학습자 대상 교육은 서울시교육청이 관리하는 ‘학력인정 문해교육 프로그램 설치·지정기관 6개소(노원구, 중랑구, 강북구, 마포구, 성북구, 송파구 소재 복지관, 초등학교 등)’에서 실시된다. 교육은 사전 디지털 역량진단 후 어디나지원단 강사의 1대1 맞춤형 디지털 교육(4회), 사후 디지털 역량진단 순으로 진행된다.중구는 지난 9일부터 오는 6월 말까지 동주민센터, 복지관, 경로당 등 총 13곳을 찾아가 65세 이상 어르신 520여 명에게 교통사고 예방을 위한 맞춤형 교육 프로그램을 운영한다. 한국교통안전교육센터, 중부경찰서, 남대문경찰서 등에서 전문가가 강사로 나와 어르신들이 자주 겪는 교통사고 유형과 원인을 알려주고 위험 상황에서 어떻게 움직여야 사고를 막을 수 있는지 등을 사례를 들어 쉽고 자세하게 설명해 준다. 마포구는 구과 16개 모든 동 주민센터 내에 75세 이상 어르신 전용 창구인 ‘효창구’를 설치했다. 인터넷과 키오스크가 친숙하지 않은 어르신은 간단한 서류 한 장을 위해 여전히 동 주민센터 등 관공서를 직접 방문하고 민원인이 많을 때는 한참을 기다려야 한 점을 고려해 기획됐다. ‘효창구’의 ‘효도벨’이 울리면 민원업무 담당자뿐 아니라 팀장, 동장과 과장까지 누구든 먼저 나와 응대에 나선다. 응대에 나선 직원은 어르신의 방문 목적을 파악한 후 민원을 조속히 해결할 수 있도록 어르신과 해당 업무 담당자를 연결해준다. 마포구, 구청·주민센터에 75세 이상 어르신 전용 ‘효창구’ 설치 영등포구는 65세 이상 어르신들의 과학 문화 참여 기회를 확대하기 위해 ‘실버 나눔 생활과학 교실’을 신설했다. 분기별 총 4회로 구성되며, 이번 회차는 6월 5일까지 매주 수요일마다 YDP 성인문해교육센터에서 진행된다. 프로그램은 ▲고체 비누 만들기 ▲친환경 샴푸 만들기 ▲건조한 우리집을 구해, 스칸디아모스(순록 이끼) ▲색이 변하는 팔찌, 자외선 등 실험도구를 활용한 참여형 수업으로 구성되어 있다. 동작구는 돌봄이 필요한 어르신을 위해 말벗, 응급 알림 서비스 등의 기능이 탑재된 인공지능(AI) 반려로봇 ‘효돌이’와 ‘효순이’를 보급한다. ‘효돌이’와 ‘효순이’는 손주 역할을 톡톡히 한다. 챗 GPT 방식으로 양방향 자유로운 대화가 가능해 기상 시간부터 취침까지 일정을 관리해 주고 어르신에게 먼저 말을 걸어 다양한 주제에 대해 질문하고 대답한다. 이를 통해 사회적 고립 가구의 우울감, 고독감을 완화시키는 효과를 구는 기대하고 있다.

국내기업 와포가 자체 제작한 애니메이션 ‘홍진이네 식당’ 예고편 영상을 공개했다. 지난 9일 와포 공식 유튜브 채널을 통해 공개된 ‘홍진이네 식당’은 판타지 장르의 애니메이션으로, 식당 주인 홍진이와 신비한 양념을 만들어내는 톡톡이, 여러 고민을 가진 손님들이 만들어내는 이야기를 옴니버스 형식으로 다뤄냈다. ‘홍진이네 식당’ 예고편 영상은 기획을 제외한 애니메이션 제작 과정을 모두 자체 인공지능(AI) 기술로 구현했다는 점에서 기술적으로 높은 평가를 받고 있다. 와포는 애니메이션 제작을 위해 AI 영상 제작툴인 스노피(Snowpea)를 자체 개발했다. 스노피는 텍스트 입력을 통해 영상을 자동 생성하며, 캐릭터의 표정, 몸짓, 손짓, 입 모양 등을 자동으로 자연스럽게 구현할 수 있다는 것이 특징이다. 특히 비전 트랜스포머(Vision Transformer) 기반 모델에 모션 매트릭스(Motion Matrix) 기술을 적용해 생성형 AI의 문제로 지적돼 온 영상 내 캐릭터와 배경 간 전체적인 일관성을 유지했다. 자연스러운 캐릭터 움직임을 구현한 고품질의 영상을 신속하게 제작할 수 있게 되면서 영상 제작 비용 및 제작 시간을 대폭 절감, 영상 제작 분야의 새로운 패러다임을 제시했다. 향후 캐릭터가 다양한 일상 도구를 입체적으로 다룰 수 있도록 신규 기술을 적용할 예정이다. 스노피를 이용하면 1명의 제작자가 약 10분 분량의 극장 수준 영상 제작에 1주 정도의 시간밖에 소요되지 않을 것으로 예상된다. ‘홍진이네 식당’ 1화는 올해 7월에 유튜브 채널을 통해 공개될 예정이다. 노두호 와포 최고경영자(CEO)는 “와포의 스노피가 영상 제작에 새로운 장을 열었다”면서 “‘홍진이네 식당’ 제작을 통해 스노피의 성능을 검증했고, 앞으로 기술적 보완 과정을 거쳐 스노피를 상용화해 애니메이션, 영화, 광고 등 다양한 콘텐츠 제작을 지원할 계획이다”고 설명했다. ‘스노피’ 관련 정보는 와포 홈페이지를 통해 확인할 수 있다.

개인정보 등 담은 민감한 데이터암호화 통해 해킹 막는 근본 개념성범죄자 등 접근금지 알림 가능금융 신용점수·맞춤 의료에 적용데이터를 보호하고 자유롭게 해독보적 기술에 성공한 대한민국세계에서 인정받는 것 보고 싶어 인공지능(AI)이 발전하려면 수많은 데이터가 필요하다. 많은 데이터는 민감한 개인정보를 담고 있어 사용이 자유롭지 않고 암호화돼 있다. 데이터를 활용하려고 암호를 푸는 과정에서 해킹의 위험에 노출된다. 데이터를 암호화해 계산해도 원래 값과 같게 만드는‘동형(同形)암호’ 개념이 1978년 나온 이유다. 많은 계산량으로 속도가 느려 외면받았으나 최근 연산 기술의 발달로 빠르게 적용되고 있다. 현재 최고의 동형암호 기술은 국내 스타트업 크립토랩이 갖고 있는 ‘혜안’(HEAAN)이다. 혜안을 2016년 개발하고 크립토랩을 세운 천정희(55) 서울대 수리과학부 교수를 지난달 30일 서울대 산업수학센터에서 만나 암호와 수학의 세계에 대해 들었다.-국내에서 혜안이 쓰인 사례는. “2021년 개발한 ‘코동이’(코로나 동선 안심이) 앱에 쓰였다. 사용자의 이동경로를 위성항법장치(GPS)로 추적해 스마트폰에 암호화해 저장한다. 확진자와 동선이 겹치는지를 실시간으로 확인할 수 있다. 당시 경기도, 서울대 등이 채택했다. 접근금지에도 쓸 수 있다.” -좀더 자세히 설명하면. “성범죄, 스토킹 등의 피해자가 접근금지명령을 요청할 때 정부가 피해자 정보를 가져간다. 피해자들은 이 과정에서 가해자에게 정보가 전달될 수 있다고 걱정한다. 피해자가 어디에 있건 위치정보를 암호화해 가해자와의 거리를 계산하면 된다. 결과는 피해자의 스마트폰에서 암호를 풀어 확인할 수 있다. 위험 상황이 발생하면 피해자가 능동적으로 가해자를 피할 수 있는 방식이다. 개인정보보호위원회와 한국인터넷진흥원(KISA)이 2022년 개최한 ‘개인정보 보호·활용 기술개발 스타트업 챌린지’에서 우수상을 받았다.” -민감한 개인정보는 금융과 의료 분야에 많다. “250만명의 국민연금 정보와 코리아크레딧뷰로(KCB)의 신용정보를 결합·분석해 국민연금을 성실하게 낸 사람은 대출 연체 발생률이 낮다는 결과를 얻었다(2021년부터 국민연금 성실 납부 기간에 따라 신용점수가 최대 41점 오른다). 세계 최초로 대규모 데이터를 동형암호로 분석한 사례다. 이후 여러 금융회사에서 문의는 오는데 진도가 느리다. 실리콘밸리에 있는 금융사라며 창업자들의 개인정보 분석에 동형암호를 쓸 수 있느냐고 물어 온 적도 있다. 혜안은 2017년 미국 올랜도에서 열린 ‘국제 게놈 정보보호 경연대회’(iDASH)에서 1등을 하면서 유명해졌다. 당시 분석이 2위보다 30배 빨랐다. 건강관리기업 마크로젠에 올해부터 3년간 동형암호 기술을 공급한다. 유전자 정보 분석을 통해 맞춤형 의료 서비스를 제공하는 것이 목표다. 마크로젠이 오늘 첫 입금을 해 줬다. 크립토랩의 첫 수익이자 동형암호 사업화의 세계 첫 번째 사례다.” -교수와 사업가를 병행하고 있다. “교수에게는 절대적 권한과 책임이 있다. 교수를 도와줄 사람은 별로 없고 교수한테 뭔가를 원하는 사람이 있는 편이다. 사업을 하고 나니 모두가 다 나를 도와줄 사람이다. 혜안을 누군가에게 주고 싶었는데 10년 이상 개발에 집중할지 확신이 들지 않았다. 수학적으로 생각한 것을 경영자에게 전달하는 과정도 힘들었다. 기술이 발전하면 산업이 될 줄 알았는데 산업은 완전히 다른 영역이더라. 기술개발 이후 산업화 과정까지 곳곳이 비어 있다. 아직까지는 크립토랩에서 기술을 개발하는 것이 중요하다. 지금 이 순간 최선책을 찾는, AI 용어로 ‘그레이디언트 디센트’(경사하강법)인데 나중에도 내가 사업을 할지는 모르겠다.” -크립토랩 지사가 있던데. “지난해 실리콘밸리에 세웠다. 신기술에 대한 수용성은 미국이 높다. 국방부 등 공공 분야의 드라이브도 세다. 드론, GPS 등 혁신적 기술개발을 주도한 국방고등연구계획국(DARPA)이 동형암호를 이용한 데이터 보호 프로그램 개발을 진행하고 있는데 여기에 인텔과 팀을 이뤄 참여하고 있다. 미국 기업과 ‘프라이빗 AI’(기업 고객의 데이터를 개인정보 노출 없이 처리해 활용하는 AI) 사업화를 논의 중이다. 프랑스에는 연구 지사가 있다.” -2017년 창업 이후 가장 힘들었던 때는. (천 교수는 한참을 생각했다) “늘 지금인 것 같다. 그래서 다시 돌아가고 싶지 않다. 힘들다는 것과 하기 싫다는 것은 다르다. 힘든데 많이 배우고 재미있다. 사업을 안 했으면 많이 아쉬웠을 거 같다. 사업을 시작하고 나서 사람들에 대한 관심도 많아졌다. 세상을 넓게 볼 수 있는 기회를 가졌다는 점이 감사하다.” -강의는 계속 하나. “2학년에게 정수론을 가르친다. 원래 전공이 순수수학이다. 정수론이 어디에 쓰이는지 설명하니 학생들이 좋아한다. 강의 중 동형암호 혜안에 대해 특강도 한다.” -‘수포자’(수학포기자)란 말도 있는데 수학은 본인에게 어떤 의미인가. “수학이 어려운 건 왜 배우는지 몰라서다. 수학은 물리적 실체가 없는데 생각을 통해 결론이 나올 수 있도록 하는 도구다. 블록체인은 현물이 없지만 사이버 세상에서 가치가 유지된다. 그 근간이 암호고 암호를 만드는 건 수학이다. 수학은 사이버 세상에서 질서를 유지해 주는 키다.” -그럼 수학만 잘해도 됐을 텐데 왜 암호를. “1997년 박사 학위를 받고 한국전자통신연구원(ETRI)에 들어갔다. 암호 연구하면 돈 많이 준다고 해서(당시 ETRI 연봉은 삼성보다 높았다). 5년 외도했으니 모은 돈으로 원래 하던 순수수학하려고 미국으로 떠났다. 가 보니 내가 했던 것이 더 재밌더라. 지도교수는 나한테 암호를 물었다. 내가 수학이 세상에서 어떻게 활용되는지에 관심이 있다는 걸 알았다.” -그래서 다시 암호로 돌아왔나. “지도교수가 순수수학에서는 나보다 몇 단계 위이지만 암호는 내가 몇 단계 위다. 자기가 많이 하고 열심히 한 걸 잘하는 거다. 자꾸 배우려 하지 말고 내가 잘하는 분야에서 새로운 걸 만들어야 되겠다고 생각했다. 우리나라 사람들은 배우려는 자세가 너무 많다. 학생도 정부도 우리가 새로운 걸 해야 될 때다. 새로운 걸 하면 힘들지만 재미있다. 다른 사람들이 쫓아온다.” -동형암호의 발전 가능성은. “특정 정보에서 민감한 개인정보는 굉장히 적을 수 있지만 이를 골라낼 수 없어 결국 대부분의 데이터는 동형암호화될 거라고 생각한다. 동형암호는 데이터를 보호하고 자유롭게 해 세상에 기여하는 기술이다. 우리나라가 어떤 원천기술에서 성공한 나라가 되는 것을 보고 싶다. 적어도 지금 서울이 동형암호의 메카가 돼 가고 있다.” ●천정희 교수는 한국과학기술원(KAIST) 수리과학과에서 정수론으로 박사 학위를 받았고 2003년부터 서울대 수리과학부 교수로 재직 중이다. 지난해 세계암호학회 석학회원에 선정됐다. 한국인으로는 2017년 김광조 KAIST 교수 이후 두 번째다. 세계암호학회가 밝힌 선정 사유는 ‘대수적 공격과 완전동형암호에 대한 탁월한 성과를 이뤘으며 아시아태평양 지역 암호학계 발전에 기여한 점’이다. 한국을 대표하는 암호학자로 인정받아 2022년 한국과학기술한림원 정회원에 선정되고 녹조근정훈장을 받았다.

생성형 인공지능(AI) 챗GPT를 만든 샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI)에게 전쟁을 맡겨도 되는지에 대해 ‘복잡하고 쉽지 않은 문제’라는 견해를 밝혔다. 7일(현지시간) 올트먼은 미 싱크탱크 브루킹스연구소가 ‘AI시대의 지정학적 변화’를 주제로 개최한 대담에서 북한이 서울을 기습 공격할 경우 이를 방어하기 위해 인간보다 대응 속도가 빠른 AI에 의존해도 되는지에 대해 질문을 받았다. 진행자는 북한이 서울을 향해 군 항공기 100대를 출격시키고, 한국이 AI가 통제하는 로봇을 활용해 이를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황을 가정했다. 이어 이러한 상황이 발생할 경우 AI가 사람을 죽이는 결정을 해도 되는지에 대해 질문했다. 올트먼은 “항공기가 한국에 접근했고, 인간이 의사결정에 관여할 시간이 없을 때라면 AI가 요격을 결정할 수도 있지만, 그런 상황이라고 얼마나 확신할 수 있나? 어느 정도 확실해야 AI에 맡길 수 있나? 회색지대(애매한 범위)의 어느 지점에 선을 그어야 하는가? 정말 (따져봐야 할) 질문이 많다”고 대답했다. 그는 “난 누군가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하는 것을 들은 적이 없다”며 “또한 누군가 접근하는 미사일을 요격할 때처럼 정말 빠르게 행동해야 할 때 AI를 사용해서는 안 된다고 주장하는 것도 들은 적이 없다. 그런데 그 사이에 이런 지대도 있다”고 지적했다. 이어 그는 이러한 내용은 자신의 전문 분야가 아니라고 밝히며 “오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 덧붙였다. 이날 대담에서 올트먼 CEO는 AI를 구동하는 ‘연산력(Compute)과 반도체, 데이터센터 등의 시설이 “미래에 가장 중요한 상품이 될 것”이라고 강조했다. 그러면서 “AI 기반 시설이 저렴해져 누구나 사용할 수 있도록 민간뿐 아니라 정부가 공공재로 투자하고, 이를 사람들에게 공평하게 분배하길 바란다”고 전했다. 특히 AI 기반 시설을 확대하는 데 있어 “미국이 이끌면서도, 넓고 포용적인 연합체가 이를 주도했으면 좋겠다”며 “미국만 AI 데이터센터를 지어야 한다는 방식은 통하지 않을 것”이라고 말했다. 한편 오픈AI는 이날 자사 이미지 생성 AI인 ‘달리’를 사용해 만든 이미지인지 여부를 감지할 수 있는 도구를 공개했다. 가짜뉴스를 방지하는 데 AI가 생성한 콘텐츠를 구분하는 게 중요해진 만큼 달리로 만들어진 이미지를 역추적할 수 있게 하겠다는 취지다.

“이제는 나 말고 네가 대신 생각해라. 그런데 쟤가 생각하면, 그러니까 인공지능이 생각하면 나는 이제 무엇을 할 수 있단 말인가. 데카르트의 명제가 더이상 불가능하다면, 이제 나는 누구인가.” 소설가 서이제는 챗GPT로 대표되는 생성형 인공지능을 상대하며 이렇게 탄식했다. 문예 전문 반(半)연간지 ‘쓺-문학의 이름으로’(문학실험실) 2024년 상권(18호)은 이렇듯 문학 평론가들과 소설가, 시인들이 생각하는 인공지능과 인간의 관계에 대한 사유를 모아 ‘인공지능 시대의 인간, 그 개체성과 집단성’이란 주제의 특집을 다뤘다. 인공지능은 명령어에 따라 신속하고 정확하게 답을 제시하지만 명령어 너머나 그 틈을 보지 않는다. 세계를 패턴화한 인공지능은 세상에 없는 것도 만들어 내는 능력인 할루시네이션으로 명령을 충실히 따른다. 환각, 환영이라는 의미의 할루시네이션은 인공지능이 만들어 내는 일종의 오류로 잘못된 답변을 생성해 내는 것을 말한다. 이는 물음 자체에 어떤 의문도 갖지 않고 회의하지 않기 때문에 생기는 현상이다.‘인공지능 앞에 서면 나는 왜 이리 작아지는가’라는 글에서 서이제는 인공지능이 인간보다 빠른 결과를 산출해 내는 것은 분명하다고 말한다. 인공지능이 시와 소설을 쓰고 영화, 음악도 만들고 그림까지 만들어 내는 시대가 됐다. 인공지능이 만든 것과 인간이 만든 것을 구별하기도 어려운 상황이 됐다고 한탄한다. 그렇지만 서이제는 “어디까지나 완성된 작품만 봤을 때 그렇다”고 지적하며 결과보다 과정에 집중함으로써 인간 작가의 개성과 고유성을 발견할 수 있다고 말한다. 그런가 하면 소설가 정지돈은 ‘마음 기계 마음’이라는 글에서 우리가 관심을 가져야 할 부분은 인공지능이 실제로 어떻게 작동하는가이기보다 그것이 사람의 마음에 스며들어 세계를 바꿔 놓는 과정이라고 강조한다. 그는 인공지능 윤리에 관한 지금까지의 질문을 바꿔야 한다고도 주장한다. 그 질문은 “인공지능이 우리처럼 생각하는 게 아니라 우리가 인공지능처럼 생각하는 것 아닐까”이다. 정지돈은 “인간은 늘 자신이 창조한 도구와 결합하고 도구에 의해 변화된 존재”였기 때문에 알고리즘이 인간의 편견을 반영하는 것처럼 인간도 알고리즘의 선택을 내면화하고 있지 않나를 물어야 한다고 말하는 것이다. ‘편집의 글’에서도 이런 인공지능의 문제는 결국 인간의 문제이며 언어의 문제라고 지적한다. 상투적이고 도구적인 언어가 세상을 지배하는 한 깔끔하고 매끈한 언어로 점철된 그럴듯한 폭력의 세상을 벗어나지 못하게 될 것이라고 경고하는 것이다.

미국의 인공지능 기술을 따라잡기 위해 안간힘을 쓰고 있는 중국이 오픈AI의 동영상 생성 인공지능(AI) 도구인 ‘소라’의 대항마 ‘비두(Vidu)’를 내놓았다. 중국 중앙(CC)TV는 29일 중국 스타트업 ‘셍슈 테크놀로지’가 명문 칭화대와 공동 노력을 통해 문자를 영상으로 만들어내는 AI인 ‘비두’를 출시했다고 보도했다. 오픈AI의 소라가 60초의 동영상을 제작하는 데 비해 중국의 비두는 간단한 텍스트를 기반으로 1080p 해상도의 16초 이하 비디오를 생성할 수 있다. 셍슈 테크놀로지의 최고 과학자이자 칭화대 AI 연구소의 부원장이기도 한 주쥔은 베이징 중관춘 포럼에서 “비두는 자립적 혁신의 최신 성과이며 많은 분야에서 획기적인 발전을 이루었다”라고 말했다.그는 “비두가 상상력이 풍부하고, 실제 세계를 시뮬레이션할 수 있으며 일관된 캐릭터, 장면 및 타임라인으로 16초짜리 비디오를 제작할 수 있다”고 설명했다. 게다가 비두는 판다, 용 등 ‘중국적인 요소’도 이해하며 이미지를 생성할 수 있다고 덧붙였다. 모델 공개 과정에서 셍슈 테크놀로지는 기타를 연주하는 판다와 수영장에서 수영하는 강아지 등 여러 데모 영상 클립을 공개했는데 생생한 디테일을 보여준다는 평가를 받았다. 하지만 인공지능이 손가락, 발가락 등 섬세한 이미지 생성에서 보이는 오류를 비두 역시 반복했다. 기타를 치는 판다의 발가락이 5개가 아니라 6~7개로 보인다고 중국 네티즌들은 지적했다. 게다가 판다의 앞발에는 발톱이 아예 없다. 그럼에도 지난 2월 오픈AI가 동영상 생성 인공지능 소라를 공개한 지 두 달여 만에 중국에서 비슷한 서비스를 내놓자 일각에서는 희망 섞인 전망을 내놓고 있다. 경쟁이 치열한 AI 시장에서 짧은 시간에 제품을 생산한 것은 고무적이란 평가다.중국은 AI 기술 격차를 따라잡는 데 있어 미국의 첨단 칩 규제 때문에 적잖은 애로를 겪고 있다. 예를 들어 소라가 1분짜리 동영상을 제작하려면 8개의 엔비디아 A100 그래픽 처리 장치(GPU)가 3시간 이상 돌아가야만 한다. 하지만 미국은 A100, H100 GPU 등 엔비디아 등이 생산하는 첨단 칩을 중국으로 수출하는 것을 금지했다. 엔비디아의 A100과 H100 GPU는 AI 시스템 훈련용 부품으로 인기가 높다. 중국 베이징에 본사를 둔 셍슈 테크놀로지는 2023년 3월에 설립되었으며 핵심 연구원은 칭화대 AI 연구소 및 알리바바, 텐센트, 바이트댄스 등에서 온 직원 80여명으로 구성됐다. 알리바바 역시 자체적으로 문자를 영상으로 생성하는 AI 모델을 개발 중이다.

교육부가 발표한 ‘디지털 인재 양성 종합방안’에 따라 2025년부터 초·중등학교에 코딩 교육이 필수화되는 가운데 글로벌 게임사인 넥슨과 사단법인 한국비버정보교육연합(비브라스 코리아)이 출시한 무료 코딩 교육 통합 플랫폼 ‘모두의 코딩학교 비코’(BIKO, Bebras Informatics KOrea)가 국내 교육계의 이목을 끌고 있다. 18일 넥슨과 비브라스 코리아에 따르면 비코 홈페이지는 프로그래밍의 토대가 되는 컴퓨팅 사고력 함양과 함께 텍스트 코딩의 기초부터 심화까지 체계적인 커리큘럼을 제공하고 있다. 특히 전국 100여명의 정보 교사와 교수진들이 소속된 비브라스코리아가 기획과 개발에 직접 참여하면서 일선 현장 교사의 필요가 반영된 실용적인 교육 플랫폼으로 주목받고 있다. 2025년 초부터 중·고 코딩 교육 의무화에 맞춰 출시한 비코는 전국 디지털 교육 격차 해소와 공교육 내에서도 질 높은 프로그래밍 수업을 운영하는 데 이바지할 것으로 기대된다.향후 초등학교와 중학교의 정보 수업 시수가 2배로 늘어나고, 고등학교에서도 소프트웨어(SW)·인공지능(AI) 분야 선택과목 및 공동교육 과정이 운영이 확대됨에 따라 공교육 내 코딩 수업도 더욱 활성화될 예정이다. 교육부 종합방안 발표로 코딩 교육이 중요성이 높아지면서 사교육 시장은 이미 활기를 띠고 있다. 지난해부터 학부모의 불안 심리를 악용한 고액 코딩 학원들도 성행하고 있다. 이에 따라 업계 안팎에서는 내년부터 시행될 정책 변화가 오히려 디지털 교육 격차 심화와 사교육 과열을 부추길 수 있다는 우려도 제기되고 있다. 넥슨 관계자는 “이러한 과도기적 상황에서 국내 주요 정보교육 관계자들은 공교육 경쟁력 강화를 위해 넥슨이 내놓은 무료 학습 플랫폼 비코 활용을 독려하고 있다”고 전했다. 비코는 C언어, 자바(Java), 파이선(Python) 등 실전용 프로그래밍 언어를 쉽고 체계적으로 배울 수 있는 사이트다.기존 초·중학교에서 선택적으로 활용되는 플랫폼은 대부분 블록 코딩 기반 학습 프로그램이었다. 블록 코딩은 명령어를 블록 쌓기 하듯 조립해 코딩의 기초 원리를 익힐 수 있는 교육용 언어로, 개념 이해에는 유용하지만 실제 프로그래밍 언어 학습과 응용에는 한계가 있다. 비코에서 제공하는 텍스트 코딩은 프로그래밍 언어 학습에 필수적이다. 실생활에서 활용되는 대부분 기술과 프로그램, 정보기술(IT) 신기술의 기반이 되는 핵심 언어다. 업계 관계자는 “초·중·고 학생들이 프로그래밍 역량을 탄탄히 쌓기 위해서는 블록 코딩과 더불어 텍스트 코딩에 대한 단계별 학습과 경험도 필요하다”고 강조했다. 이미 해외에서는 정규 교과과정 내 단계별 프로그래밍 수업이 활발히 운영되고 있다. 특히 2014년부터 초·중·고 정규 과목에 코딩을 채택한 영국은 6세부터 15세까지 프로그래밍을 배우고 있다. 초등 저학년(1~2학년)은 프로그래밍 알고리즘을 배우고, 고학년(3~6학년)은 프로그램을 직접 설계하고 모바일 앱까지 만들기도 한다. 이 때문에 국내 정보 교사들은 질 높은 프로그래밍 수업 운영을 위해 해외 사례와 같은 단계적인 학습 커리큘럼이 뒷받침되어야 한다고 강조하고 있다. 이러한 점에서 SW 분야 공교육 경쟁력을 한층 높일 수 있는 교육 도구로 비코를 주목하고 있다. 한국 정보 교사연합회 회장인 정웅열 백신중학교 정보 교사는 “AI 시대가 도래함에 따라 코딩 교육을 통해 컴퓨팅 사고력을 함양하는 것은 더욱 중요해지고 있다”며 “청소년을 위한 텍스트 코딩 학습 플랫폼인 비코는 교육부의 AI·디지털 교과서 개발 정책과 함께 초·중등 정보 교육 현장의 맞춤형·개별화 수업에 큰 도움이 될 것”이라고 말했다.

초등학교 4학년 영어를 가르치는 A교사는 ‘좋아하는 과목 듣고 말하기’ 수업에 인공지능(AI) 도구를 활용했다. 전에는 암기나 읽기 위주 수업이었지만, AI 기반 코스웨어로 학생 수준에 맞는 개별 학습을 설계하고 도전과제를 추가하며 피드백하는 과정을 반복했다. 스스로 단어 연습과 문장 녹음, 영작을 한 뒤 모둠끼리 대화하는 시간도 가졌다. A교사는 “평소 말하기를 안 하던 학생들도 자신의 속도에 맞춰 학습하다 보니 492회까지 말하기를 했다”며 “더 많은 학생이 말하기에 자신감이 붙는 수업을 설계할 수 있었다”고 말했다. 내년 인공지능(AI) 디지털교과서 도입을 앞두고 정부가 교사들의 디지털 수업 역량을 강화하기 위한 연수에 나선다. 디지털 시대 맞춤형 교육을 제공하고 학생들의 수업 참여를 높이기 위해 디지털 기술을 효과적으로 활용할 수 있는 교사들을 길러낸다는 취지다. 교육부는 이런 내용의 ‘디지털 기반 교육혁신 역량 강화 지원 방안’을 15일 발표했다. 교육부는 우선 2026년까지 수업 혁신에 의지와 전문성을 갖춘 ‘교실 혁명 선도 교사’를 총 3만 4000명을 양성한다. 현재 한 학교당 1명에서 2~3명의 선도 교사를 배치해 동료 교사와 협업하며 학교를 변화시킨다는 구상이다. 올해 1만 1500명을 시작으로 내년 1만 1500명, 2026년 1만 1000명을 선도 교사로 키운다. 이들은 동료교사 코칭과 교육청 연수 강사로 활동하게 된다. 이와 함께 AI디지털교과서가 적용되는 과목 담당 교원 32만명을 대상으로 맞춤 연수도 한다. 이 가운데 내년 디지털교과서를 사용하게 될 초등교사, 중·고등학교 수학·영어·정보 교사 중 15만명에 대한 연수를 올해 우선 진행한다. 올해 선도교사와 교과별 연수 대상자를 합하면 16만 1500명으로 전체 초중고 교사(44만 497명)의 36%에 이른다. AI 디지털교과서 시제품(프로토타입)을 실제 사용해 보는 실습 연수도 대폭 개설할 계획이다. 학교로 ‘찾아가는 연수’도 운영된다. 교육부는 올해 3000개교를 비롯해 내년 4000개교, 2026년 5000개교 등 3년간 전체 초·중·고(1만 2000개교)에서 연수를 진행한다. 교사의 업무가 가중되지 않도록 디지털 기기(인프라) 관리를 지원하는 보조강사인 ‘디지털 튜터’를 올해 1200명 투입한다. 모든 교육청에 관내 학교의 기기와 네트워크 품질을 점검하고 장애가 발생할 때 지원하는 거점 기술지원 기관(테크센터)도 시범 운영한다. 이영찬 교육부 디지털교육기획관은 “교사들이 새로운 기술을 사용하는 데 대해 대한 부담을 느낀다는 이야기가 많았다”며 “초기에 세팅하는 데 들어가는 어려움을 최소화하기 위해 디지털 튜터나 수업을 보조할 수 있는 강사요원을 1200명 양성할 계획”이라고 설명했다. 교사 연수에는 지난해 늘어난 특별교부금 3818억원이 투입된다. 지난해 말 국회는 ‘지방교육재정교부금법’ 일부개정 법률안을 통과시켜 교육교부금 중 특별교부금 비율을 올해부터 3년간 3.0%에서 3.8%로 높였다. 이에 따라 디지털 교육 목적으로 전체 교육교부금의 0.8%가 배정된다. 올해는 특별교부금(5333억원) 가운데 71.6%가 활용된다.

이스라엘과 팔레스타인 무장정파 하마스의 전쟁이 이어지는 가운데, 이스라엘이 표적(하마스 대원) 식별에 인공지능(AI)으로 구축한 데이터베이스를 활용했다는 주장이 제기됐다. 영국 가디언은 3일(이하 현지시간) 이스라엘·팔레스타인 독립 매체 ‘+972 매거진’과 히브리어 매체 ‘로컬콜’로부터 공유받은 이스라엘 정보 장교 6명의 증언을 토대로, 이스라엘방위군(IDF)이 지난 6개월간 하마스 또는 팔레스타인 이슬라믹지하드(PIJ)를 식별하는 과정에서 ‘라벤더’로 불리는 AI 시스템을 활용했다고 밝혔다. 이스라엘군 정보부대가 개발한 해당 AI 시스템은 방대한 양의 정보를 처리한 뒤 하마스 무장대원일 가능성이 있는 사람을 빠른 속도로 식별해내는 역할을 하는 것으로 알려졌다.당국자는 “‘라벤더’가 하마스 및 PIJ와 연계 가능성이 있는 팔레스타인 남성 최대 3만 7000명을 추려내 AI 시스템에 등록했다”면서 “이 대량의 데이터를 처리해 잠재적인 하급 무장대원을 표적으로 삼았다”고 전했다. 실제로 ‘라벤더’를 이용했다는 한 소식통은 “나는 (라벤더를 이용해) 하나의 표적을 찾는데 20초 정도를 썼으며, 매일 수십 명을 작업(식별) 했다. 이로서 (적을 구별해 내는) 시간을 많이 절약했다”고 주장했다. 소식통들은 “라벤더로 식별된 수만 명의 표적 중 약 10%는 무장 세력과 관련성이 약하거나, 전혀 관련되지 않았다”고 전했다. 소식통들의 주장이 사실이라면 데이터의 약 10%는 AI 정확도의 문제로 억울하게 표적이 됐을 가능성이 있음에도 불구하고, 이스라엘군은 전쟁 초기 라벤더를 표적 식별 도구로 적극 활용했다는 것을 의미한다. “라벤더 사용시 민간인 살해는 감수해야” 가디언에 따르면 이스라엘군은 돈·시간·인력을 아끼는 것이 민간인 목숨보다 훨씬 중요하다고 판단했다. 한 소식통은 AI의 오류와 관련해 “하위급 무장 세력에게 인력과 시간을 쓰고 싶지는 않다”면서 “부수적인 피해와 민간인 살상, 그리고 실수로 (무고한 사람을) 공격하는 오류를 감수하고라도 AI를 쓸 만하다”고 말했다.실제로 이스라엘군은 전쟁 초기 하마스·PIJ 요원 사살 시 허용 가능한 민간인 인명피해 규모도 라벤더에 학습시켰다. 라벤더 분석 결과 하마스·PIJ 하위 요원의 경우 민간인 최대 15~20명, 고위 요원은 민간인 최대 100명이 사망할 것으로 예상돼도 공습을 용인했다는 게 정보당국 관계자들의 증언이다. 가디언은 “강력한 AI 시스템을 사용하면서 법적, 도덕적 문제가 제기되고 군인과 기계의 관계에 변화를 가져왔다”고 분석했다. 이스라엘군 당국 “라벤더 데이터, 공식 목록 아니다” 라벤더에 관한 증언이 보도된 뒤, 이스라엘군은 공식 성명을 통해 “(라벤더는) 참조를 위한 데이터베이스일뿐, 공식적인 공격 대상 목록은 아니다”라며 “테러리스트를 식별하거나 테러리스트일 가능성을 예측하는 데 AI를 사용하지 않았다”고 반박했다.해당 소식을 접한 미국은 진상조사에 착수했다. 존 커비 미 백악관 국가안보회의(NSC) 국가안보소통보좌관은 4일 CNN 인터뷰 중 관련 질문을 받자 “미국은 해당 보도가 아직 사실인지 여부를 확인하지 못했다”면서 “현재 보도 내용을 들여다보고 있다”고 전했다.

중국이 인공지능(AI) 기술을 이용해 한국 등 여러 국가에서 선거에 개입하려는 시도를 할 것이라는 경고가 나왔다. 영국 가디언의 5일(이하 현지시간) 보도에 따르면, 이날 공개된 마이크로소프트(MS) 위협 인텔리전스 센터의 보고서에는 중국에서 국가의 지원을 받는 사이버 그룹이 2024년에 열리는 주요 선거를 목표로 삼을 것이라는 내용이 담겨 있다.해당 보고서는 “한국과 미국, 인도의 국민이 투표소로 향함에 따라 중국의 영향력 있는 사이버 공격자들을 마주할 가능성이 높으며, 북한의 해커 역시 이러한 선거를 표적으로 삼으려 노력할 것”이라고 예측했다. 또 “중국은 자국의 입지에 도움이 되는 AI 생성 콘텐츠를 제작해 소셜미디어(SNS)에 배포할 것”이라면서 “이런 콘텐츠가 청중에게 미치는 영향은 아직 적지만, 밈이나 비디오, 오디오(의 이용을)를 강화하려는 중국의 실험은 계속될 것이며, 앞으로는 그 (파급) 효과가 입증될 수 있다”고 덧붙였다. “중국 정부 지원받는 사이버 그룹, 한국 표적 삼아” 이번 보고서에는 스패무플라주(Spamouflage) 또는 드래곤브릿지(Dragonbridg) 등으로도 불리며 중국 당국의 지원을 받는 것으로 추정되는 ‘스톰-1376’(Storm-1376) 그룹이 한국을 표적 삼고 집중적으로 활동했다는 주장이 담겼다.보고서에 따르면, 스톰-1376은 일본 후쿠시마 제1원전 오염수 해양 방류와 관련해 한국 내 반대 시위와 일본 정부에 대한 비판적인 메시지를 담은 콘텐츠로 한국을 집중 공략했다. 해당 콘텐츠들은 카카오스토리, 티스토리, 벨로그(velog) 등 한국의 소셜미디어와 여러 플랫폼, 웹사이트에 한국어로 게시됐다. 보고서는 “스톰-1376은 한국 표적 활동의 일환으로 (더불어)민주당의 대표이자 지난 대선 후보였던 이재명의 발언과 행동을 자세히 전달했다”면서 “이재명 대표는 후쿠시마 원전 오염수 해양 방류와 관련해 ‘오염수 테러’라고 표현하거나, 한국 정부에 대해 일본의 결정을 뒷받침한 ‘공범’이라고 비난하며 24일간 단식을 하기도 했다”고 전했다. 이어 “스톰-1376은 현지화한 콘텐츠로 한국 내에서 불화를 조장했다”면서 후쿠시마 원전 오염수 해양 방류를 반대하는 내용의 여러 밈이 티스토리에 게재됐으며 해당 게시물을 올린 것이 스톰-1376이라고 설명했다. “스톰-1376, 대만 총통 선거에도 개입” 보고서에는 중국이 이미 지난 1월 대만 총통 선거 당시 AI를 활용한 ‘가짜뉴스’ 캠페인을 시도했었다는 내용도 담겼다. 스톰-1376은 지난 1월 대만 선거기간 동안 사퇴한 총통 후보가 다른 후보를 지지하는 내용의 가짜 오디오를 만들어 유튜브에 게시한 바 있다.MS는 보고서에서 “유튜브에 게지된 오디오 파일은 AI가 생성한 콘텐츠로 추정된다”면서 “당시 유튜브는 해당 콘텐츠가 더 많은 사용자들에게 도달하기 전에 콘텐츠를 삭제했다”고 전했다. 이어 “당시 스톰-1376은 중국이 반대하는 후보였던 반중성향의 라이칭더 후보가 국고를 횡령했다거나, 사생아가 있다는 가짜 뉴스를 퍼뜨리기도 했다”면서 “이런 가짜뉴스에 나오는 AI 뉴스앵커는 틱톡의 소유주인 중국회사 바이트댄스가 개발한 캡컷 도구로 만들어졌다”고 덧붙였다. 또 “국가가 지원하는 단체가 외국 선거에 영향을 미치기 위해 AI 생성 콘텐츠를 사용한 사실이 확인된 것은 이번이 처음”이라고 밝혔다. “북한 해커들, 암호화폐 수억 달러 훔쳐…한국 단체 대상으로도 활동” MS의 이번 보고서에는 북한의 사이버 위협에 대한 경고 메시지도 포함됐다. 보고서는 “북한의 사이버 공격자들은 2023년 한 해 동안 암호화폐 수억 달러 어치를 훔치고, 소프트웨어 공급망을 공격했으며, 국가 안보의 적이라고 인식되는 국가를 표적으로 삼았다”면서 “이들의 활동은 북한 정부, 특히 무기 (개발)을 위한 수익을 창출하고, 동시에 미국‧한국‧일본에 대한 정보를 수집한다”고 주장했다. 이어 “북한의 이러한 사이버 활동은 미국·한국·일본 간의 3국 동맹에 대항하려는 북한의 지정학적 목표를 잘 보여준다”면서 “북한의 해커 집단들은 미국과 한국의 항공우주 및 방위 기관을 표적으로 삼고, 탈북자 및 북한 인권문제에 중점을 둔 활동가들이 있는 한국 단체를 대상으로 활동 중”이라고 덧붙였다. 美·英 “중국이 악의적 사이버 공작” vs 中 “적반하장” 앞서 지난달 25일, 미국과 영국은 중국 국가안전부와 연계된 단체인 일명 ‘APT31’가 양국의 정치인, 유권자, 기업 등을 대상으로 악의적인 사이버 스파이 공작을 벌인 것으로 의심된다며 관련자들을 제재했다. 이에 중국 국가안전부는 지난 2일 “미국이 지정학적 목적으로 세계 최대 정보조직 ‘파이브 아이즈’를 부추겨 ‘중국 해킹 위협’이라는 허위사실을 유포해왔다””면서 “전형적인 적반하장식 모독이자 사이버안보 문제를 정치화하는 악의적 조작이다. 중국의 합법적 권익을 심각하게 침해하고 있다”고 반박했다. 이어 “미국은 사이버 공격의 가장 큰 원천이며 전 세계 사이버 공간 안보의 가장 큰 위협”이라면서 “오히려 미국이 대규모 감청·도청 등을 통해 다른 국가들의 데이터를 불법적으로 수집하고 있다”고 주장했다.

생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.

갤럭시 S23 시리즈와 갤럭시 Z 플립·폴드 5 시리즈 등 지난해 출시된 삼성전자 스마트폰 사용자도 실시간 통번역 기능을 비롯한 ‘갤럭시 인공지능(AI)’ 기능을 쓸 수 있게 됐다. 삼성전자는 갤럭시 S23 시리즈 등 지난해 출시한 주요 모델을 대상으로 갤럭시 AI 기능 업데이트를 전날부터 시작했다고 29일 밝혔다.이번 원 UI(One UI) 6.1 소프트웨어 업데이트는 ▲갤럭시 S23 시리즈(일반·플러스·울트라) ▲갤럭시 S23 FE ▲갤럭시 Z 플립·폴드5 ▲갤럭시 탭 S9 시리즈(일반·플러스·울트라) 등 총 9개 모델 대상이며, 업데이트를 통해 갤럭시 AI를 지원한다. 해당 제품 사용자들은 업데이트를 통해 삼성전자가 올해 출시한 갤럭시 S24 시리즈에 탑재한 실시간 통번역, 채팅 어시스트, 서클 투 서치, 노트 어시스트, 생성형 편집 등 갤럭시 AI 기능을 곧바로 사용할 수 있다. 삼성전자는 13개 언어를 지원하는 실시간 통역과 메시지의 번역부터 톤 변경까지 제공하는 채팅 어시스트를 통해 사용자들은 언어의 장벽을 넘어 보다 자유로운 소통을 할 수 있다고 강조했다. 어느 화면에서나 간단히 동그라미를 그리면 구글 검색 결과가 제공되는 서클 투 서치, 복잡한 글을 간략하고 쉽게 정리해주는 노트 어시스트, 인터넷 페이지를 원하는 언어로 번역하고 요약해주는 브라우징 어시스트는 생산성을 극대화해준다. 생성형 AI 기반으로 사진 일부를 채워주거나 사물을 삭제·이동할 수 있는 생성형 편집 기능과 AI가 사진을 분석하여 편집 도구를 추천해주는 편집 제안 기능도 지원해 갤럭시 AI를 기반으로 더욱 효율적인 사진 편집 경험을 제공한다.갤럭시 AI를 지원하는 원 UI 6.1 소프트웨어 업데이트는 스마트폰 알림창의 안내에 따라 28일부터 순차적으로 진행된다. 아울러 삼성전자는 갤럭시 AI 적용 모델 확대를 기념해 다음 달 30일까지 갤럭시 AI가 지원되는 기종을 구매하는 고객에게 갤럭시 스마트태그2를 증정하는 등 프로모션을 진행한다. 다음 달 1일부터 5월 31일까지 갤럭시 탭S9 시리즈를 구매하는 고객에게는 S펜 크리에이터 에디션 등 정품 액세서리를 최대 70% 할인하고, 기존 갤럭시 탭이나 아이패드를 반납하면 중고 매입가에서 최대 35만원을 추가 보상한다.

국내 인공지능(AI) 서비스 ‘뤼튼’의 검색 기능이 강화됐다. 질문자의 의도를 분석한 뒤 실시간 탐색을 하고 정보 출처와 연관 콘텐츠, 후속 질문도 제공한다. 질문과 답변 수에 대한 제한이 없다. AI 서비스 플랫폼 기업 뤼튼테크놀로지스는 뤼튼의 대규모 업데이트를 진행했다고 26일 밝혔다. 지난 1월부터 한국과 일본 양국에서 이용자 공개 테스트를 진행한 뒤 이번에 정식 서비스를 내놓았다. 회사 측은 최신 정보 학습이 덜 된 기존 대규모언어모델(LLM)의 한계를 극복하기 위해 검색 증강 생성(RAG) 기술과 인터넷 브라우징 AI 에이전트 기술을 활용했다고 설명했다. 이용자가 원하는 AI 캐릭터 챗봇을 손쉽게 만들 수 있는 기능이 추가됐다. 또한 정보 탐색과 창작을 함께 추구하는 이용자 행동 패턴을 반영해 AI 채팅창도 전면 개편했다. PC와 모바일 등 모든 기기에서 자유롭게 이용할 수 있다. 이세영 대표는 “뤼튼 이용자의 절반에 달하는 10대와 20대는 유튜브 등 다양한 플랫폼으로 정보를 검색한다”면서 “AI 대중화에 힘쓰겠다”고 말했다. AI 에이전트·툴 제작 도구인 ‘뤼튼 스튜디오’를 업그레이드한 ‘뤼튼 스튜디오 프로’도 조만간 선보일 예정이다. 문서 분석 AI 채팅과 소셜 네트워킹 AI 서비스도 준비 중이다.

‘우리는 생성형 AI를 적극 이용, 업무 효율성과 생산성을 높여야 한다.’ GS그룹이 전 직원을 대상으로 ‘GS GenAI Connect day’를 여는 등 전 계열사 업무에 AI를 접목하고 있다. 지난달 28일 열린 GenAI 행사는 생성형 AI 를 활용한 업무개선 프로젝트 경험과 기술 노하우를 공유하고, 생성형 AI라는 공통의 관심사를 가진 그룹사 직원들이 자율적으로 교류 협력할 수 있도록 행사를 꾸몄다. GS칼텍스, GS리테일, GS건설 등 여러 계열사에서 모인 68명의 직원이 생성형 AI 관련 응용 프로그램과 업무개선 프로젝트 경험을 나눴다. GS 허태수 회장은 2024 신년 경영방침 발표에서 “생성형 AI의 등장과 함께 현장 직원들이 직접 DX를 추진할 수 있게 됐다. 그룹사 전반에서 많은 임직원이 생성형 AI 도구를 익숙하게 사용함으로써 업무 혁신을 가속화하자”고 강조했다. 이에 GS그룹은 지난 1월 한 달간 각 계열사의 DX 담당 인력 약 40명을 한 자리에 모아 합동 근무를 하고, 생성형 AI를 활용해 고객의 고충을 해결하는 프로토타입 경진대회를 열기도 했다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

국내 연구 환경에 특화된 첫 서지관리 솔루션인 ‘싸이티지(Citeasy)’가 출시돼 국내 연구자들의 논문 작성과 학술 자료 관리가 한층 용이해질 전망이다. 국내 1위 학술 콘텐츠 플랫폼 디비피아(DBpia)를 운영하고 있는 누리미디어는 지난 12일 연구자들의 학술 작업을 혁신할 새로운 서지 관리 프로그램 싸이티지를 출시한다고 밝혔다. 싸이티지는 ‘인용(Citation)’과 ‘쉽다(Easy)’의 합성어로 해당 프로그램을 사용하면 각주 및 참고문헌 등 인용을 삽입하는 작업이 쉽고 간편하게 해결된다는 의미를 담았다. ‘한국형 서지 관리 프로그램’을 표방하는 싸이티지의 특장점은 두 가지다. 첫째는 국내 주요 학술지 인용 양식 240여 개를 구현했다는 점이다. 이로써 특히 인문·사회 계열 연구자들의 서지관리 도구 활용도가 높아질 전망이다. 둘째는 한국 연구자들에게 떼어놓을 수 없는 문서 작성 프로그램인 ‘아래아한글’과 연동해 바로 한글 문서에 인용 작성을 가능하게 했다는 점이다. 서지 관리 프로그램이란 주로 전문 연구자들 사이에서 사용되는 논문 작성 보조 도구다. 연구자들이 학술 논문이나 보고서를 작성할 때 참고한 자료의 서지 정보(저자, 제목, 출판년도 등)를 체계적으로 관리하고 이를 바탕으로 인용 및 참고문헌 목록을 쉽게 생성할 수 있게 돕는다. 석사 혹은 박사과정 이상의 연구자들은 연구 과정에서 상당한 양의 자료를 참조하게 되는데 이를 토대로 학술지 논문, 연구 보고서 등을 작성할 때에는 반드시 해당 출처를 논문에 밝혀야 한다. 그런데 학술지마다 각주와 참고문헌 등의 인용 양식이 다르기 때문에 투고할 때마다 각 학술지에서 요구하는 방식대로 재편집해야 하는 어려움이 있다. 이때 서지 관리 프로그램을 사용하면 편리하게 문헌의 메타정보를 가져와서 양식에 맞게 문서 작성 프로그램(아래아한글, 워드 등)에 붙여 넣을 수 있다. 이 메타정보를 ‘서지’라고 한다. 그러나 기존에 있던 서지 관리 프로그램들은 모두 외국산 제품이었던 탓에 국내 연구자들이 이용에 겪는 불편함이 컸다. 한국의 연구환경 특성상 국내 연구자들은 영문 문헌뿐만 아니라 국문 문헌을 함께 참고하고 인용해야 한다. 해외에서 개발된 서지 관리 프로그램은 국문으로 된 문헌을 잘 인식하지 못하고 언어별로 다른 인용 양식의 적용이 미흡하다. 이러한 한계 때문에 국내 연구자들에게는 실질적인 도움이 되지 않는다는 평가가 많았다. 또한 외국산 서지 관리 프로그램은 국내 연구자 대다수가 사용하는 아래아한글 문서 작성 프로그램 연동을 지원하지 않는다는 점도 큰 한계다. 누리미디어가 진행한 설문조사 결과에 따르면 국내 연구자의 75.6%는 논문을 작성할 때 아래아한글을 주로 사용한다. 특히 인문·사회 계열 연구자들은 한자, 우리말 고어 등을 써야 하기 때문에 이에 강한 국산 문서 작성 프로그램을 이용할 수밖에 없다는 특수한 배경이 작용한다. 한국의 특수한 연구 환경에 최적화된 한국형 서지 관리 프로그램 싸이티지 출시 소식에 국내 연구자들은 큰 기대를 모으고 있다. 인문학 연구자 A씨는 “국내 학술지에 논문을 투고할 때마다 일일이 수작업으로 인용을 수정하느라 고충이 있었는데 싸이티지가 이를 해결해 줄 것으로 기대한다”고 밝혔다. 누리미디어는 싸이티지 출시를 기념해 해당 프로그램을 2024년 12월까지 무료로 배포한다고 밝혔다. 모든 국내 연구자들이 새로운 한국형 서지 관리 프로그램의 편리함을 경험할 수 있게 하기 위해서다. 싸이티지는 디비피아 웹사이트(https://www.dbpia.co.kr/)의 논문 상세 페이지를 통해 다운로드 받을 수 있다. 누리미디어는 국내 대표 학술 콘텐츠 플랫폼 DBpia, 한국학 전문 데이터베이스 KRpia, 학술 연구지원 사업 아카루트를 운영하는 학술 전문 기업이다. DBpia는 그동안 투고 저널 추천 서비스, AI 논문 주제 추천 서비스 등 연구자의 학술 활동에 실질적인 도움을 줄 수 있는 서비스를 개발해 왔다. 누리미디어는 기존의 논문 검색 서비스 외에도 논문 작성과 이용을 위한 제반 서비스를 제공할 수 있는 ‘통합 연구 지원 플랫폼’을 지향점으로 삼아, 학술계의 숨은 요구에 적극 부응하고 국내 학술계 발전에 기여할 수 있는 서비스를 계속 출시할 예정이라고 밝혔다.

생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것 -텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가. “놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.” -대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다. “딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.” -AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다. “그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것 -생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까. “실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.” -AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다. “국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.” -생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까. “생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.” -사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까. “저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.” #오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것 -정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가. “포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.” -AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나. “인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.” #저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것 -생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다. “AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.” -챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가. “그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.” #제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.