숙명여자대학교는 지난달 29일부터 챗GPT와 독자적인 대화엔진 기술을 활용해 개발한 ‘AI눈송’ 챗봇 서비스를 시작했다고 7일 밝혔다. 숙명여대 마스코트 캐릭터 ‘눈송이’의 명칭을 따온 ‘AI눈송’ 챗봇은 홈페이지를 통해 제공되는 다양한 정보를 다국어로 제공할 수 있는 차세대 자연어 챗봇이다. 한국어를 비롯해 영어, 중국어, 일본어 등 외국어로 질문하면 그에 대한 답변을 해당 언어에 맞게 번역해 제공한다. 국문 홈페이지에 수시로 업데이트되는 정보를 실시간으로 학습하기 때문에 별도의 외국어 홈페이지를 운영하지 않아도 외국인들이 필요한 정보를 쉽게 습득할 수 있다. 또한 기존 챗봇이 쓰던 키워드 검색이나 룰·메뉴 방식이 아니라 자연어 문답 방식을 사용하기 때문에 학생들이 좀 더 친근감을 갖고 마치 대화하듯이 정보를 얻을 수 있다. 예를 들어 아침 식사를 할 수 있는 교내 식당 리스트를 묻거나 휴대전화를 잃어버렸을 경우 출석체크를 어떻게 하는지 등을 물어보면 이에 대한 안내를 대화 문답 형식으로 알려준다. 생성형 AI의 특징인 ‘할루시네이션’(데이터의 부족으로 인해 사실이 아닌 정보를 진실인 것처럼 만들어내는 현상)에 대응하기 위해 챗봇의 모든 답변은 출처와 해당 링크를 함께 제공해 정확한 정보를 이용자가 다시 한번 확인할 수 있도록 했다. AI눈송의 개발은 스타트업 ‘마인드로직’이 담당했다. 숙명여대 디지털정보혁신처는 “질문과 답을 자연스럽게 이어나가고 주제 변경도 자연스럽게 할 수 있어 전화 상담을 24시간 내내 하는 것 같은 효과를 준다”며 “홈페이지에서 한국어 사용자 수준의 정보를 다양한 언어로 제공하기 때문에 비한국어권 학생들의 정보 접근성도 비약적으로 증가할 것으로 기대한다”고 밝혔다. AI눈송 챗봇은 이번 학기 동안 서비스를 운영하면서 사용자들의 반응을 모니터링하고 문제점을 보완하고, 추후 대표 홈페이지에 한정된 정보제공 범위를 확대해 더욱 다양한 정보를 제공해 나간다는 계획이다.

챗GPT를 활용하니 한 건물당 30분 정도 걸리던 소방시설 업무가 채 1분도 안돼 뚝딱 해결돼 화제다. 제주특별자치도는 지난달 30일 제주도청 4층 탐라홀에서 열린 전국 지방자치단체 최초로 공직자와 공공기관 임직원 대상 챗GPT 활용 경진대회에서 서부소방서 예방구조과 김찬호 소방장의 ‘안전에 챗-GPT를 더하다’가 최우수상의 영예를 안았다. 챗GPT를 활용해 건축주가 건축물에 설치해야 하는 소방시설을 한눈에 파악하는 프로그램을 구현했는데 건축물 1개당 통상 30분 정도 소요되는 업무를 1분도 채 안돼 마무리 됐다. 우수상에는 김태우 친환경농업정책과 여성농업인지원팀장의 ‘몬딱-물어봅써(‘무엇이든 물어보세요’ 제주 사투리) 제주여성농업인정책 GPTs’와 권용석 도개발공사 경영혁신팀 과장의 ‘너무 힘든 민원, 감정 안쓰고 10배 빠르게 처리하기’가 차지했다. 장려상은 ▲이동민 도 회계과 주무관의 지방계약 상담 챗봇 ‘계약의 신’ 누구나 쉽게 계약 체결!’ ▲오현진 서귀포시 정보화지원과 주무관의 온나라 문서 기안을 위한 공문서 작성 ‘공문이 챗봇과 함께!’ ▲한수미 제주시 재산세과 주무관의 ChatGPT를 활용한 효율적인 세입자료 검증 및 보정 ▲문현식 도 정책기획관 미래창의혁신팀장의 ‘생성형 AI를 활용한 제주신화 콘텐츠 재창출로 그리스 로마신화를 뛰어 넘는다’가 선정됐다. 도는 우수사례 7건에 대해 관련 부서 검토를 거친 후 정책에 반영할 방침이다. 수상작 외 작품도 관련 부서에 공유하고 타당성 검토 및 보완·발전방안을 모색한다. 양제윤 도 혁신산업국장은 “경진대회를 통해 제주도 공직자들은 챗GPT 기술의 이해를 더욱 높이고, 실제 업무에 적용 가능한 다양한 방안을 실험하는 기회가 됐다”며 “응모작들은 향후 제주도의 디지털전환 행정 및 도민서비스 개선 작업에 실질적인 도움이 될 것으로 기대한다”고 말했다.

SK텔레콤(SKT)이 오는 6월까지 5G 요금제, T멤버십, 공시지원금 등 국내 통신 전문용어와 통신사 내부 지침을 학습한 ‘텔코 LLM’(통신업 특화 거대언어모델) 개발을 완료할 예정이라고 30일 밝혔다. 텔코 LLM은 우리나라 통신 전문용어는 물론 인공지능(AI) 윤리 가치와 같은 통신사 내부 지침을 학습한 통신 특화 LLM으로 GPT나 클로드와 같은 범용 LLM과는 차이가 있다. SKT는 미국의 AI 기업 오픈AI(GPT-4)와 엔트로픽(클로드)을 비롯해 자사의 에이닷엑스(A.X) 등 다양한 범용 모델에 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등을 학습시키는 방식으로 텔코 LLM을 개발하고 있다. 에릭 데이비스 SKT AI 테크 컬래버레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”면서 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세 조정(파인튜닝)과 모델 평가(벤치마킹)를 거쳐 다양한 텔코 LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략”이라고 설명했다. SKT는 텔코 LLM이 향후 ▲고객센터 업무 ▲네트워크 인프라 운용 ▲기업의 경영지원 업무 등에서 유용하게 활용될 것이라고 설명했다. SKT는 이날 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축·개발할 수 있는 ‘인텔리전스 플랫폼’도 공개했다. 이 플랫폼은 일종의 기업용 AI 개발·운용 패키지로 통신업에 특화한 다양한 LLM을 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트 등에 쉽고 효율적으로 사용할 수 있다.

“남편이 바람 났는데 남편 회사에 말해도 되나요?”, “협의 이혼 중 배우자 통장에서 돈 빼도 되나요?”, “이혼할 때 애 셋을 어떻게 나눠야 할까요?” 리걸테크 스타트업 로앤굿이 지난달부터 시행 중인 법률 인공지능(AI) 챗봇 서비스 ‘로앤서치’에 들어온 질문들이다. 변호사에게 직접 묻기 부담스러운 내밀한 사생활에 대한 법률자문이 적잖다. 이용자들은 AI에 이런 질문을 입력한 후 참고 가능한 법규와 소송 절차 등을 무료로 조언받을 수 있다. 법조계에선 최근 등장한 이런 ‘AI 무료 법률 상담 서비스’가 의뢰인의 선택권을 넓히고 이용을 도울 수 있다는 평가가 나온다. 하지만 대한변호사협회(대한변협)은 AI가 변호사 업무를 대행하는만큼 현행법 위반이라며 징계까지 예고한 상태다. 법률시장에서 AI 서비스를 어디까지 수용할 수 있을 지 관심이 쏠리는 이유다 29일 법조계에 따르면 현재 운영 중인 AI 법률 상담 서비스는 로앤굿의 ‘로앤서치’와 법무법인 대륙아주의 인공지능 서비스 ‘AI대륙아주’이다. 비대면 AI 상담인인만큼 말 못 할 고민도 쉽게 자문받을 수 있어 지난달 출시 후 인기를 끌고 있다. 실제 소송 준비를 위한 변호사도 추천 받을 수 있다. 성폭력처벌법 위반 혐의 고소를 준비했던 30대 직장인 A씨는 “소송을 해본 적이 없어 막막했는데 AI 서비스로 기본적인 사항을 확인하고 변호사 상담을 연계해 받을 수 있어 편리했다”고 말했다. 리걸테크 스타트업 관계자는 “AI가 법률 서비스는 변호사의 영역을 침범하는 것이 아니라 오히려 의뢰인들의 법률 서비스 접근 장벽을 허물어 시장 확대에 기여할 것”이라고 말했다. 하지만 대한변협은 AI대륙아주에 대해 징계 절차에 착수했다. 변호사법 34조에 따르면, 변호사가 아닌 자의 법률 사무수행 및 이익 분배를 금하고 있는데 AI를 변호사로 보기 어렵다는 이유에서다. 변협 측은 이 서비스와 관련한 변호사 광고 규정 위반, 의뢰인 개인정보 유출 등으로 인한 변호사법 위반 가능성도 들여다보고 있다. 변협 측은“로앤굿 등 다른 스타트업 AI 상담도 포괄적으로 예의주시 중”이라고 밝혔다. 대륙아주 측은 “AI 서비스 이용자들에게 실제 의사 결정에 필요한 법률상담은 변호사와 하라는 취지의 안내를 하고 있다”며 문제가 없다고 반박한다. 또 ’24시간 무료 상담’이라는 표현이 변호사 광고 규정 위반 소지가 있다는 변협의 지적에 따라 이를 홈페이지에서 삭제하고, 공식 명칭도 법률상담 대신 ‘법률 Q&A’로 바꿨다. 변협 징계가 확정되고 대륙아주가 이를 거부하면 최종 판단은 법무부 징계위원회로 넘어간다. 전삼현 숭실대 법학과 교수는 “AI 법률 상담 서비스의 긍정적인 측면도 있어 무조건적인 반대보다는 구체적인 가이드라인부터 마련할 필요가 있다”며 “변호사 자격이 있는 사람에 한해 AI 서비스 개발이나 시행을 허가하는 등 시대 변화에 따른 논의가 필요하다”고 조언했다.

서울 중랑구가 중랑양원미디어센터의 개관을 기념해 다양한 주제의 미디어 특강과 이벤트를 실시한다고 23일 밝혔다. 중랑양원미디어센터는 중랑면목미디어센터에 이은 구의 두 번째 미디어 공간으로, 지난 3월 15일 문을 열었다. 이곳에서는 다양한 미디어 체험과 교육, 장비 대여, 창작 활동 지원이 이뤄진다. 개관 기념행사는 먼저 오는 26일부터 다음달 24일까지 ▲독립영화 제작 ▲라이브커머스 ▲AI(인공지능) ▲유튜브 운영을 주제로 미디어 특강을 진행한다. 오는 26일 진행되는 첫 번째 강의는 ‘영화의 매력속으로: 독립영화 연출 그리고 영화가 말하는 것들’이다. ’높이뛰기‘, ’나는보리‘ 등을 연출하고 독일 슈링겔국제영화제 등 국내외 영화제에서 수상한 바 있는 김진유 독립영화감독이 진행한다. 영화 현장의 이야기, ’나는보리‘ 제작기, 그리고 한국 영화가 지닌 사회적 역할과 의미에 대해 심도 있게 다룰 예정이다. 다음달 3일에는 쇼호스트이자 라이브커머스 전문가인 김진희 강사가 ‘라이브커머스 입문: 라이브로 판매의 마법을 배우다’를 주제로 강의를 진행한다. 라이브커머스의 기본 개념, 시장 전망, 필수 플랫폼 조건들, 그리고 소상공인이 알아야 할 준비사항 등을 설명할 계획이다. 세 번째 강의는 다음달 16일에 열린다. 경희대학교 미디어커뮤니케이션 대학원 겸임교수인 김용희 강사가 ‘미래를 그리는 AI: 챗봇에서 미디어 혁신까지’를 주제로 강의한다. 다음달 24일 진행되는 마지막 강의는 구독자 50만 유튜브 채널 ‘비됴클래스’ 대표 하지원 강사가 ‘50만 유튜버 하줜과 함께하는 유튜브 첫걸음: 롱런하는 채널의 비밀’을 주제로 진행한다. 강의에서는 유튜브 기획, 롱런하는 채널 유지 방법, 콘텐츠 제작 전략 등을 다룰 예정이다. 모든 강의는 무료로 제공되며, 중랑양원미디어센터 홈페이지를 통해 선착순 50명까지 신청할 수 있다. 아울러 구는 오는 16일부터 30일까지 ‘시네마 노필’ 관람 인증샷 이벤트도 실시한다. 중랑양원미디어센터의 영화관 ‘시네마 노필’에서 영화를 관람한 뒤 인증사진을 촬영해 해시태그와 함께 개인 SNS에 업로드하면 된다. 이후 미디어센터 누리집(홈페이지)에 있는 이벤트 신청 양식을 작성해 제출하면 100명을 선정해 소정의 모바일상품권을 증정할 예정이다. 류경기 중랑구청장은 “이번 특강을 통해 미디어 분야의 깊이 있는 지식을 습득하고, 문화적 풍요를 누리길 바란다”고 말했다.

축전지 제조기업인 LG에너지솔루션(LG엔솔)이 업무 전반에 생성형 인공지능(AI) 기술 도입을 추진한다고 14일 밝혔다. LG엔솔 ‘유튜브 트렌드 리포트’는 AI가 유튜브 영상을 분석해 배터리 관련 분야 최신 흐름을 정리해 임직원에게 메일로 전달하고 있다. 전기차(EV)와 EV 정책 등 핵심 키워드별로 최신 유튜브 영상의 주요 내용이 요약되고 관련 영상 정보가 첨부돼 임직원들의 시장 파악 업무를 보조해주는 역할을 한다. LG엔솔 관계자는 “상세한 내용이 알고 싶은 부분을 클릭하면 추가적인 내용과 해당 영상의 댓글 내용까지 확인이 가능하다”라고 설명했다. 마케팅 부서뿐만 아니라 원자재 관련 부서까지 현재 수백 명의 LG엔솔 직원들이 리포트를 받아보면서 도입 초기부터 금속 등 주요 원재료 공급망 관리에 있어서 효과가 나타나고 있다는 평가다. 원자재 관련 부서에서 근무하는 한 관계자는 “리튬의 경우 가격 변동이 심해 재고 관리의 효율화가 중요한데 정확하고 신속하게 업계 추세를 공급망 관리에 반영할 수 있어 큰 도움을 받고 있다”고 했다.생성형 AI의 대표적인 기술인 ‘대화형 챗봇’도 이미 활용 단계에 들어갔다. LG엔솔은 올해 채용된 신입사원과 경력사원을 대상으로 AI가 인적 자원(HR) 제도에 대해 답해주는 시험 시스템도 열었다. LG엔솔의 HR 제도를 학습한 AI가 권장 휴무일이나 휴가 신청 절차 등에 대한 다양한 질문에 대해 챗봇을 통해 실시간으로 대답해주는 방식이다. LG엔솔은 업무 전반에 AI 기술을 도입하는 ‘AI 통합 플랫폼’을 올해까지 구축 완료할 예정이다. 고객 및 협력사 계약 관리, 전사적 자원 관리(ERP), 소프트웨어 개발, 원자재 구매, 배터리 제작 등 전체 업무 분야에 AI를 접목해 직원들의 업무 효율성과 생산성 향상을 지원한다는 계획이다. 이진규 LG엔솔 최고개발책임자(CDO) 전무는 “AI 기술력을 통해 빠르게 변화하는 이차 전지 시장에서 고객사와 시장 동향에 대한 정보를 자동으로 수집 및 분석하고 전략 리포트를 생성함으로써 데이터 기반 의사 결정을 내리겠다”라며 “디지털 전환을 가속해 차별화된 고객 가치를 선보이겠다”라고 강조했다.

인공지능(AI) 전문기업 와이즈넛(대표 강용성)이 2023년도 매출, 영업이익, 순이익 전 부문 흑자를 달성하며 견조한 성장세를 이어가고 있다고 9일 밝혔다. 금융감독원 전자공시시스템에 따르면, 와이즈넛은 2023년 매출액 351억 7200만원, 영업이익 34억 5700만원, 당기순이익 42억 6700만원을 기록했다. 전년 대비 매출은 2% 상승했고, 영업이익과 당기순이익은 각각 12%, 173% 증가한 수치다. 업체에 따르면 이러한 성장은 자체 AI 원천기술을 기반으로 인공지능 챗봇 및 검색, 분석 사업을 이어나간 결과로 풀이된다.와이즈넛은 24년 업력의 언어처리기술 기반 인공지능 전문기업이다. 국내 최다 AI 사업 레퍼런스를 통해 쌓아온 노하우와 더불어, 최근 독자적으로 개발한 RAG(검색증강생성)기술에 검색, 챗봇 등 인공지능 솔루션을 접목해 생성형AI 솔루션을 선보이며 사업 영역을 확대해 나가고 있다. 특히 올해 일본, 아세안(ASEAN), 중동 지역 등 글로벌 사업 경쟁력을 끌어올리기 위한 행보에 박차를 가할 계획이다. 강용성 와이즈넛 대표는 “지난해 경기침체와 생성형AI의 등장으로 치열한 격변기를 맞이했던 불확실한 시장 상황 속에서도, 올해로 11년 연속 영업이익 흑자를 달성했다”고 말했다. 이어 “와이즈넛의 경영 실적을 통해 AI 기술력 입증은 물론이고, 인공지능 선도기업의 저력을 다시 한번 보여주는 계기가 되었다”며 “올해는 국내 시장에서의 도약과 더불어 적극적인 글로벌 신사업 확대를 도모하고, 고도화된 AI 기반 기술 확보를 위한 R&D 투자에 더욱 집중해 외형과 내실을 모두 잡는 한 해가 될 것”이라고 강조했다. 와이즈넛은 연내 코스닥 상장 및 IPO(기업공개)를 본격 추진하고 있다. 대표주관사는 삼성증권이며, 최근 기술성 평가 통과로 AI 기술력에 대한 검증을 마친 상태다. 모든 상장 트랙에 대한 가능성을 열어두고 가장 적합한 방법을 검토 중이며, 코스닥 상장 예비심사 청구를 앞두고 있다.

#1. 상담 중인 고객이 실제로 보험에 가입할 사람인지 아닌지를 인공지능(AI)이 계산해 보험설계사에게 귀띔한다. #2. AI가 교통사고 영상을 모두 분석해 예상 보험금을 계산한다. #3. AI가 보험사 신입 직원에게 고객 응대 훈련을 시키고 점수를 매긴다. 다음 중 실제 보험시장에서 적용되는 AI 기술을 고른다면 몇 번일까. 정답부터 말하면 1~3번 모두다. 8일 보험연구원 보고서 ‘생성형 AI 시대, 보험산업의 AI 활용과 과제’에 따르면 해외 보험사들은 이른바 챗GPT로 대표되는 ‘생성형 AI’ 활용에 박차를 가하고 있다. 반면 국내 보험사의 생성형 AI 활용은 아직 걸음마 단계다. 보험연구원은 전 세계 보험산업에서 생성형 AI가 차지하는 시장 규모가 2022년 3억 달러(약 4059억원)에서 2032년 55억 달러로 18배 이상 불어날 것으로 보고 있다. 그간 보험사들은 주로 분석형 AI를 활용해 자사가 방대한 데이터를 해석하는 정도에 그쳤지만 최근엔 적극적으로 생성형 AI를 적용하고 있다. 실제 미국 자동차 보험사 클리어커버는 특정 잠재 고객이 실제 고객이 될 것인지 판단해 보험설계사에게 알려준다. 미국의 대형 보험사 리버티뮤추얼은 AI를 활용해 교통사고 수리비를 산출한다. 일본 보험사 제일생명 프런티어는 고객관리 담당자 훈련에 AI를 투입했다. 우리나라는 교보생명, 삼성화재, DB손해보험 등이 고객 응대 챗봇, 업무지원 챗봇 등 상대적으로 단순한 업무에 생성형 AI를 투입하고 있다. 보험연구원은 “AI 활용은 생산성을 끌어올리는 긍정적 효과가 있지만, 할루시네이션(환각) 등으로 잘못된 정보를 확산시키는 피해를 키울 수 있다”면서 “피해를 막기 위한 노력에도 보험사들이 선제적으로 대비해야 한다”고 밝혔다.

서울시가 인공지능(AI)을 접목한 행정 혁신에 2026년까지 2064억원을 투입해 시민 편의와 공무원 업무 효율을 동시에 높일 계획이다. 시는 AI를 활용해 행정 서비스의 질을 높이는 ‘서울시 인공지능(AI) 행정 추진계획’을 2일 발표했다. 지자체 단위에선 최초의 AI 활성화 전략이다. 먼저 ‘약자와의 동행’, ‘시민 안전망 조성’ 등의 분야에서 기존에 추진하던 28개의 AI 기반 사업을 지속·확대하고, 신규 사업도 10개 추진한다. 신규 사업엔 신고 음성을 분석해 긴급도와 위험 징후를 파악하는 ‘AI 기반 119 종합상황 관리체계’ 구축, 도시철도 시설 드론 관제 AI 시스템, 서울시 특화 경량형 언어모델(sLLM) 개발 등이 포함된다. 혼자 사는 노인에게 AI가 주기적으로 전화를 걸고, 움직임 등을 감지해 모니터링하는 ‘스마트 안부 확인 서비스’를 확대하고, 언어장벽 없이 지하철을 이용할 수 있도록 돕는 ‘실시간 동시대화 시스템’과 서울관광 ‘생성형 다국어 챗봇’ 등도 확대한다. 시는 실·국 단위로 분절된 사업의 전문성과 실행력을 높이기 위해 ‘디지털정책관’을 컨트롤타워로 운영하고, AI 전문기관인 서울디지털재단을 ‘AI기술지원센터(가칭)’로 지정해 기술자문, 컨설팅 등을 실시한다.

싱글사인온(SSO) 방식으로 오투미트 단위 솔루션 단독 사용 가능…접근성 확대 마이스(MICE) 산업 디지털 전환 선도기업 이즈피엠피(대표 한신자, 최학찬)의 마이스 행사 자동화 플랫폼 오투미트(O2MEET)는 쇼케이스를 열고 새로운 솔루션과 연내 신기능 출시 로드맵을 공개했다고 2일 밝혔다. ‘What’s New 2024’를 주제로 이즈피엠피 본사에서 진행된 쇼케이스는 오투미트 서비스 담당자가 직접 자리한 가운데 유튜브 라이브로 생중계됐다. 오투미트는 이번 업데이트에서 웹앱〮을 연결하는 ‘하이브리드 기능’ 확대에 주력했다. ▲자율형∙주선형∙혼합형∙멀티그룹∙기간제 등 6가지 매칭 유형을 혼용하여 매칭 성공률을 높이는 ‘비즈니스 매칭 솔루션’ ▲상담 스케줄표를 메일로 안내하고 출력할 수 있는 ‘비즈니스 상담 솔루션’ ▲등록, 결제, 홍보 등 상황별 알림을 템플릿으로 제공하고 이메일∙문자∙카카오톡으로 자동 발송되도록 한 ‘알림 솔루션’ ▲행사에 필요한 결제 기능을 추가하고 간편결제 방식을 탑재한 ‘결제 솔루션’ ▲행사 입장권, 전시 부스 정보, 비즈니스 상담 일정 등 용도에 따라 QR코드 자동 생성∙발송 및 현황 관리가 가능한 ‘QR 솔루션’이 새롭게 공개됐다. 신규 솔루션들은 싱글사인온(SSO) 방식으로 출시돼, 오투미트의 기존 상품과 조합해 사용하거나 단독 사용할 수 있다. 싱글사인온은 사용자가 하나의 계정으로 여러 시스템에 접근할 수 있는 통합 로그인 방식이다. 오투미트를 사용하지 않던 고객이 기존에 보유한 행사 사이트에 원하는 오투미트 기능만 탑재해 사용할 수도 있고, 기존 사이트의 회원 데이터베이스를 오투미트에 연동할 수도 있기 때문에 서비스 접근성과 편의성이 높아졌다. 또 오투미트의 컨트롤타워인 ‘메이킹센터’를 개편해 사용 편의성을 대폭 높였다. 메이킹센터는 개발자 관여 없이 행사 기획자가 직접 마이스 행사 사이트를 구축하고 운영하는 관리자 모드다. 오투미트는 웹사이트 제작하는 업무 흐름에 맞춰 메이킹센터 메뉴를 수정하고 실시간 통계 대시보드의 시인성을 개선했다. 이외에도 ‘고객 케어 라운지’를 신설, 이용 가이드를 제공하고 챗봇 및 채팅상담 기능을 마련해 고객만족(CS)을 위한 서비스를 강화했다. 이어 오투미트는 연내 추가 출시할 상품 계획을 발표했다. 실내 측위 기술 기반 전시장 길 안내와 QR 명함 교환 등이 가능한 ‘오투미트 MICE 비서 앱’, AI 추천 알고리즘으로 적합한 기업을 찾아주는 ‘AI 추천 비즈매칭’을 예고했다. 최학찬 이즈피엠피 대표는 “이번 쇼케이스를 통해 오투미트는 행사 기획과 운영 전 과정의 효율성을 크게 높이는 신규 솔루션들을 선보였다”며 “앞으로도 지속적인 서비스 개선과 신규 솔루션 출시로 행사 기획자와 참가자의 긍정적인 고객경험(CX)을 축적하고, 마이스 산업의 디지털 전환을 가속화하겠다”고 말했다.

국내 인공지능(AI) 서비스 ‘뤼튼’의 검색 기능이 강화됐다. 질문자의 의도를 분석한 뒤 실시간 탐색을 하고 정보 출처와 연관 콘텐츠, 후속 질문도 제공한다. 질문과 답변 수에 대한 제한이 없다. AI 서비스 플랫폼 기업 뤼튼테크놀로지스는 뤼튼의 대규모 업데이트를 진행했다고 26일 밝혔다. 지난 1월부터 한국과 일본 양국에서 이용자 공개 테스트를 진행한 뒤 이번에 정식 서비스를 내놓았다. 회사 측은 최신 정보 학습이 덜 된 기존 대규모언어모델(LLM)의 한계를 극복하기 위해 검색 증강 생성(RAG) 기술과 인터넷 브라우징 AI 에이전트 기술을 활용했다고 설명했다. 이용자가 원하는 AI 캐릭터 챗봇을 손쉽게 만들 수 있는 기능이 추가됐다. 또한 정보 탐색과 창작을 함께 추구하는 이용자 행동 패턴을 반영해 AI 채팅창도 전면 개편했다. PC와 모바일 등 모든 기기에서 자유롭게 이용할 수 있다. 이세영 대표는 “뤼튼 이용자의 절반에 달하는 10대와 20대는 유튜브 등 다양한 플랫폼으로 정보를 검색한다”면서 “AI 대중화에 힘쓰겠다”고 말했다. AI 에이전트·툴 제작 도구인 ‘뤼튼 스튜디오’를 업그레이드한 ‘뤼튼 스튜디오 프로’도 조만간 선보일 예정이다. 문서 분석 AI 채팅과 소셜 네트워킹 AI 서비스도 준비 중이다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

마이크로소프트(MS)가 자체 생성형 인공지능(AI) 모델 ‘코파일럿’을 키보드에 기본 버튼으로 탑재한 PC와 노트북을 선보였다. 1994년 키보드에 윈도 시작 키가 탑재된 이후 30년 만의 변화다. AI PC 시장 선점 경쟁이 치열한 가운데, MS의 실험이 시장의 판도를 바꿔놓을지 주목된다. MS는 21일(현지시간) 코파일럿 키가 추가된 비즈니스용 ‘서피스 프로 10’과 노트북인 ‘서피스 랩톱 6’을 출시했다고 밝혔다. 오픈AI의 AI 모델을 기반으로 이용자의 질문에 답하는 생성형 AI 코파일럿 버튼은 키보드의 스페이스바 오른쪽 옆에 배치됐다. 이 버튼만 누르면 챗봇이 나타나고 프롬프트(명령어)를 입력할 수 있다. 회사 측은 지난 1월 “올해는 AI PC의 해”라면서 “코파일럿 키가 그 시작이 될 것”이라고 밝혔다. 코파일럿 키가 탑재된 기기 가격은 1199달러(약 160만원)부터 시작한다. 미국 CNBC 등에 따르면 알파고를 개발한 딥마인드의 공동 창업자인 무스타파 술레이만이 MS의 AI 사업부 최고경영자(CEO)로 영입돼 코파일럿 사업을 총괄할 것으로 알려졌다. 술레이만은 최근 AI 기술이 몰고 온 변화를 다룬 ‘더 커밍 웨이브’란 책을 쓰기도 했다. 그는 MS 제품에 코파일럿을 적용하는 연구에 주력할 전망이다.

생성형 인공지능(AI) 기술에서 ‘마이크로소프트(MS)·오픈AI’ 진영에 밀린다는 평가를 받는 애플과 구글이 전략적 제휴에 나설 것으로 알려졌다. 애플 아이폰에 구글의 AI ‘제미나이’를 탑재하려는 시도다. 세계 AI 업계의 합종연횡이 본격화하고 있다. 블룸버그통신은 18일(현지시간) 소식통의 말을 인용해 “애플이 조만간 출시할 아이폰 운영체제 iOS18에 자체 AI 모델을 탑재할 예정인 가운데 생성형 AI 기능을 강화할 파트너를 찾고 있다”고 전했다. 애플은 지난해 초부터 ‘아약스’라는 코드명으로 대규모 언어모델(LLM)을 시험하고 있다. 일부 직원은 ‘애플GPT’로 불리는 챗봇을 훈련시킨다. 그러나 자사 AI 기술이 ‘MS·오픈AI’ 동맹에 크게 뒤진다는 지적을 받자 결국 경쟁자와의 협력을 택했다고 블룸버그는 분석했다. 현재 애플은 구글과 라이선스 계약을 논의 중이며 오픈AI와도 협의를 진행하고 있다. 그럼에도 월가는 애플이 오픈AI보다 구글과 손잡을 가능성에 무게를 둔다. 시장 선두인 MS에 맞서려면 두 회사가 힘을 모을 수밖에 없다고 보기 때문이다. 이런 계산을 반영하듯 이날 뉴욕증시에서 구글의 모회사 알파벳과 애플 주가는 장중 각각 6%, 2% 넘게 올랐다. 두 기업은 10년 넘게 스마트폰 운영체제 시장에서 안드로이드와 iOS로 세계를 양분해 왔다. 그러나 AI 시대로 접어들면서 MS와 오픈AI 진영과의 경쟁에서 뒤처졌다는 평가를 받아 왔다. 구글은 2016년 ‘알파고’를 내놓고 이세돌과 바둑 대결을 벌일 때만 해도 AI 기술의 선두로 인정받았지만 챗GPT를 내놓은 오픈AI에 주도권을 빼앗겼다. 애플도 아이폰 판매가 줄어드는 가운데 생성형 AI 투자마저 늦어져 MS에 시가총액 세계 1위 자리를 내줬다. 이에 따라 애플과 구글의 파트너십은 서로에게 ‘윈윈’의 기회가 될 수 있다는 예상이 나온다. 일종의 ‘오월동주’(적대적 상황에서도 서로 협력함)다. 구글로서는 아이폰에 제미나이를 탑재하면 전 세계 20억대가 넘는 애플 기기로 자사 AI를 확장할 수 있다. 이미 구글은 삼성전자의 ‘AI폰’에도 제미나이를 장착했다. 전 세계 스마트폰 시장 점유율 1·2위 업체에 모두 AI 서비스를 제공하면 차기 검색시장에서도 MS에 밀리지 않을 수 있다. 앞서 구글과 애플은 검색 엔진 분야에서 수년간 협력해 왔다. 애플은 자사 웹브라우저 사파리에서 구글을 기본 검색엔진으로 사용하는데 구글은 검색 독점권을 유지하고자 애플에 해마다 수십억 달러를 지불한다. 이번 제휴로 구글은 애플에 제미나이 사용료를 받을 수 있다. 애플 입장에서도 구글과의 협력을 통해 ‘AI에서 뒤처졌다’는 시장의 우려를 어느 정도 씻을 수 있고, 이를 통해 MS에 내준 시가총액 1위 자리도 탈환할 수 있을 것으로 기대하는 눈치다. 다만 일각에서는 초대형 기술기업 간 파트너십이기에 전 세계 규제 당국의 반독점 조사 대상이 될 수 있다는 지적이 제기된다. 최근 제미나이가 이미지 생성에서 역사적 사실을 왜곡하는 등 문제가 드러나 ‘아직 MS의 경쟁자가 되지 못한다’는 비판도 있다.

인공지능(AI) 기업 페르소나에이아이(페르소나AI, 대표 유승재)는 네이버클라우드(대표 김유원)로부터 투자를 유치했다고 7일 밝혔다. 투자 금액은 공개되지 않았다 페르소나AI는 2021년 국내 최초의 구독형 인공지능 컨택센터(AICC)를 개발한 기업이다. AICC란 콜센터 등의 고객 접점에 챗봇, 콜봇, 주소봇 등 AI 기술을 적용한 것이다. 산업군이나 규모와 구애받지 않고 대고객 서비스를 제공하는 모든 기업에 적용 가능해 성장성이 크다.AICC 시장에 일찌감치 뛰어든 페르소나AI는 금융권에서 다수 레퍼런스를 확보하고 원천기술을 고도화했다. 단시간 내 10만 개 이상의 AI 학습 데이터를 자동 생성하는 자연어 생성(NLG) 기술과 한국어 인식률 100%를 달성한 자연어 처리(NLP) 기술이 핵심이다. 현재 공개된 누적 투자액만 약 200억 원에 달한다. 네이버클라우드 역시 원천기술을 바탕으로 AICC 시장에서 유의미한 성과를 거둔 페르소나AI의 잠재력과 성장성을 높이 평가해 투자를 결정한 것으로 알려졌다. 지난해 초거대 AI ‘하이퍼클로바X’를 공개한 네이버클라우드는 검색, 광고 등 핵심 서비스에 AI를 적용하는 한편, 다양한 산업군과 협업하며 AI 리더십을 구축하고 있다. 페르소나AI와 협력해 AI 역량을 강화하고 국내 AI 생태계 확장에도 박차를 가할 것으로 보인다. 이번 투자 유치를 계기로 페르소나AI는 AICC 전문성을 높이고 시장 지배력 강화에 나선다. 금융권뿐만 아니라 쇼핑, 의료, 렌탈 등 고객 응대를 디지털 전환하고자 하는 다양한 업계를 대상으로 AICC 사업을 적극 전개할 계획이다. 유승재 페르소나AI 대표는 “네이버클라우드의 이번 투자는 페르소나AI의 AICC 사업 성과와 가능성을 다시 한번 인정받은 결과라는 점에서 의미가 크다”며 “AICC 시장의 발전을 선도하며 누구나 편리하게 접하고 이용할 수 있는 AI 서비스를 만들어 나가겠다”고 밝혔다.

신동빈 롯데그룹 회장이 인공지능(AI) 전환을 연이어 강조하면서 그룹 전체가 생성형 AI 기술 개발에 박차를 가하고 있다. 25일 업계에 따르면 롯데그룹은 연내 상용화를 목표로 직원용 개인 맞춤형 AI 플랫폼을 개발하고 있다. 정보 유출 우려 없이 업무 문서와 일정, 연락처 등을 업로드해 활용할 수 있는 개인 AI 플랫폼을 개발해 전 직원에게 지원한다는 방침이다. 이를 위해 롯데 측은 롯데정보통신이 만든 생성형 AI 플랫폼 ‘아이멤버’를 기반으로 계열사별 사업 특성에 맞춘 ‘아이멤버 커스텀 챗봇’을 개발했다. 앞으로 챗봇을 더 고도화해 상반기 중 팀 단위에 제공되는 맞춤형 플랫폼을 개발하고 연내에 개인 맞춤형 AI 플랫폼을 선보인다는 계획이다. 각 계열사에서도 AI 활용 범위를 넓히고 있다. 롯데백화점은 AI아티스트 노엘 반다이크와 협업, 올해 봄 시즌 비주얼 이미지를 제작했으며 롯데홈쇼핑은 지난 8일 가상인간 루시가 출연하는 ‘루시톡라이브’를 론칭했다. 루시의 AI 아바타를 만들고 음성합성(TTS) 기술로 제작된 목소리를 송출하는 방식이다. 롯데마트는 오는 3월 3일 삼겹살데이를 앞두고 대형마트 검품 현장에 AI 기술을 활용한 삼겹살 선별기를 도입했다. 딥러닝 기반의 AI 장비가 삼겹살 단면을 분석해 살코기와 지방의 비중을 확인하고 과지방 삼겹살을 선별해 낸다. 롯데그룹은 또 하반기에 메타버스 플랫폼 ‘칼리버스’를 공개하고 국내외 시장 공략에 나설 계획이다. 롯데가 이처럼 AI 기술에 힘을 주는 것은 신 회장이 각별히 관심을 쏟고 있기 때문이다. 앞서 신년사에서 ‘AI 트랜스포메이션’ 시대를 맞이하기 위한 사업 혁신을 주문하며 “확보된 AI 기술을 활용해 업무 전반에 AI 수용성을 높이고, 생성형 AI를 비롯한 다양한 부문에 기술 투자를 강화해 달라”고 말했다. 상반기 사장단 회의(VCM)에서도 “AI를 단순히 업무 효율화 수단으로 생각하지 말고, 혁신의 관점에서 본원적 경쟁력을 강화하기 위한 방안으로 여겨 달라”고 했다. 앞서 롯데그룹은 지난해 9월부터 노준형 ESG경영혁신실 실장(부사장)을 중심으로 하는 AI 태스크포스(TF)를 가동해 왔다. 애초 TF는 다음달 운영을 마칠 예정이었지만, 업계에서는 그룹 안팎의 관심을 고려할 때 TF 운영이 어떤 식으로든 연장될 가능성이 있을 것으로 전망하고 있다.

‘일찍 부모 여읜 친구’ 가정하니순식간에 원고지 4장 분량 뚝딱수사·재판 과정서 악용 우려 급증檢 “진정성 의심 땐 철저히 확인” “존경하는 판사님. 저의 친구 ○○에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라고 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”라는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “○○은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역사회의 문제에 관한 관심 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”라고 꾸며 썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여 보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례도 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT로 지방자치단체 체육회 팀장 명의의 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미를 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적이고 형식적인 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”며 “챗GPT를 이용해 물량 공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해 달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

“존경하는 판사님. 저의 친구 OO에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라는 점을 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고, 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만, 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “OO은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역 사회의 문제에 관한 관심, 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”고 꾸며썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례가 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT를 이용해 지방자치단체 체육회 팀장 명의로 자신의 선처를 요청하는 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미가 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적 형식적 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”면서 “챗GPT로 물량공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI기술을 악용한 증거조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다. 대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다. 10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다. AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.