일본 기업들 사이에서 인공지능(AI)활용 능력을 강조하는 분위기가 퍼지고 있다. 일본 최대 종합상사인 미쓰비시상사는 2027년도부터 인공지능(AI) 자격 취득을 승진 필수 요건으로 두기로 했다. 닛케이신문(닛케이)은 29일 미쓰비시상사가 입사 8~10년째인 과장급 진급 시기에 일본 딥러닝협회가 운영하는 AI 관련 자격의 ‘G검정’ 취득을 의무화하기로 했다고 전했다. G검정은 프로그래밍이나 모델링 실습은 요구하지 않지만 딥러닝 기본 이론, 확률·통계 미적분 등 기본 수학과 AI관련 윤리·사회적 이슈에 대한 이해를 증명하는 시험이다. 이 밖에도 미쓰비시상사는 수년에 걸쳐 5400여명 규모의 전 직원에게 AI 자격 검정 취득을 필수로 하겠다는 방침을 정했다. 직원들을 위한 AI관련 연수를 마련하는 기업도 눈에 띈다. 일본의 주류·부동산 복합기업인 삿포로홀딩스는 지난 2월부터 전 사원 6000여명을 대상으로 ‘프롬프트 엔지니어링’ 기초연수를 제공하고 있다. 프롬프트 엔지니어링은 AI가 원하는 답을 내도록 질문이나 지시를 정교하게 설계하는 기술을 말한다. 다만 닛케이 일본 기업의 AI활용도가 아직 높지 않다고 짚었다. 실제 지난해 보스턴컨설팅그룹 조사를 보면 일본 회사에서 AI를 사용하는 일반 직원은 전체 16%, 관리직은 31%로 주요국·지역에서 모두 최저를 기록했다.

페이스북 모회사 메타플랫폼(이하 메타)의 인공지능(AI) 챗봇이 이용자들과 성적인 대화를 할 수 있도록 설계됐으나 미성년자 이용을 제한하는 조치가 미흡한 것으로 알려졌다. 27일(현지시간) 미 일간 월스트리트저널(WSJ) 보도에 따르면 메타는 자사의 AI 챗봇에 ‘로맨틱 역할극’을 포함한 다양한 상호작용을 허용했다. 실시간 음성 대화도 가능하다. 메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우 존 시나 등 유명인들과 고액의 목소리 이용 계약을 체결했다. 메타 일부 직원들은 AI 챗봇을 대중화하려는 회사의 성급한 행태가 윤리적인 선을 넘었다고 문제를 제기했다. 특히 회사가 미성년 이용자를 이러한 성적 대화로부터 보호하는 장치를 마련하지 않았다고 지적했다. WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월에 걸쳐 메타의 챗봇과 수백 건의 테스트 대화를 진행한 결과, 메타의 공식 AI 챗봇인 ‘메타 AI’가 미성년자와도 성적인 대화를 이어가는 것으로 나타났다고 전했다. 일례로 메타 AI는 14세 소녀로 자신을 소개한 이용자에게 존 시나의 목소리로 “당신을 원하지만, 당신이 준비됐는지 확인해야 한다”고 말했다고 WSJ은 전했다. 메타 측은 WSJ의 이런 테스트가 작위적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 주장했다. 그러면서도 메타는 이후 자체 시스템을 일부 수정해 미성년자로 등록된 계정이 성적인 대화에 접근할 수 없게 했다고 WSJ는 전했다. 또 유명인의 목소리를 통한 음성 대화 기능도 대폭 제한했다. 하지만 성인의 경우 여전히 메타 AI와 성적인 대화를 나눌 수 있으며, 최근의 테스트에서는 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 허용했다고 WSJ은 지적했다. 이 신문은 또 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 10대 사용자에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 전했다. 메타 측은 이런 주장이 사실이 아니라고 부인했다.

경기도가 ‘인공지능(AI) 비전 및 9대 전략’과 함께 이를 뒷받침하는 올해 주요 사업 52개를 추진한다. 경기도는 ‘AI 비전 및 9대 전략’에서 ‘AI 휴머노믹스를 통한 포용·공존·기회의 경기도’를 비전으로 제시하고 산업, 도민, 기반 등 3개 분야에서 9대 AI 전략을 기반으로 52개 세부 사업을 실행할 방침이라고 23일 밝혔다. 산업 분야에서는 ‘기회의 AI’, 도민 분야에서는 ‘체감형 AI’, 기반 분야에서는 ‘신뢰의 AI’를 핵심 전략으로 설정했다. 이를 통해 도민이 체감할 수 있는 AI 복지 서비스를 확대하고, 윤리적이고 안전한 인프라를 조성하며, AI 기반의 혁신 행정도 선제적으로 도입할 계획이다. 9대 AI 전략은 ▲AI 테크노밸리 조성 ▲글로벌 AI 혁신 생태계 조성 ▲AI 융합 클러스터 조성 ▲맞춤형 AI 도민 서비스 ▲AI 안전·신뢰 기반 조성 ▲즐기는 AI 전략 ▲친환경 AI ▲AI 미래 인재 양성 ▲AI 혁신행정 선도이다. 9대 전략 실행을 위해 올해 약 1000억 원을 투입할 계획이다. 김기병 경기도 AI국장은 “9대 전략과 52개 주요 사업은 경기도가 글로벌 AI 혁신 생태계 1등으로 도약할 수 있는 발판이 될 것”이라고 말했다.

산업·도민 생활·기반 3개 분야에 1000억 원 투입 경기도가 ‘AI 비전 및 9대 전략’과 함께 이를 뒷받침하는 2025년 주요 사업 52개를 추진한다. 경기도는 ‘AI 비전 및 9대 전략’에서 ‘AI 휴머노믹스를 통한 포용·공존·기회의 경기도’를 비전으로 제시하고 산업, 도민, 기반 등 3개 분야에서 9대 AI 전략을 기반으로 52개 세부 사업을 실행할 방침이라고 23일 밝혔다. 산업 분야에서는 ‘기회의 AI’, 도민 분야에서는 ‘체감형 AI’, 기반 분야에서는 ‘신뢰의 AI’를 핵심 전략으로 설정했다. 이를 통해 도민이 체감할 수 있는 AI 복지 서비스를 확대하고, 윤리적이고 안전한 인프라를 조성하며, AI 기반의 혁신 행정도 선제적으로 도입할 계획이다. 9대 AI 전략은 ▲AI 테크노밸리 조성 ▲글로벌 AI 혁신 생태계 조성 ▲AI 융합 클러스터 조성 ▲맞춤형 AI 도민 서비스 ▲AI 안전·신뢰 기반 조성 ▲즐기는 AI 전략 ▲친환경 AI ▲AI 미래 인재 양성 ▲AI 혁신행정 선도이다. 9대 전략 실행을 위해 올해 약 1,000억 원을 투입할 계획이다. 김기병 경기도 AI국장은 “9대 전략과 52개 주요 사업은 경기도가 글로벌 AI 혁신 생태계 1등으로 도약할 수 있는 발판이 될 것”이라며, “AI 기술이 가져올 혜택을 모든 도민이 누릴 수 있도록 사업을 추진하는 한편, 경기도를 글로벌 AI 중심지로 만들기 위해 수도권의 AI 생태계를 강화해 나가겠다”라고 말했다.

이스라엘군이 가자지구에서 팔레스타인 무장정파 하마스에 대한 군사 작전 능력을 강화하면서도 병력 피해를 최소화하기 위해 무인 불도저를 점점 더 많이 투입하고 있다고 AFP 통신이 20일(현지시간) 보도했다. ‘롭도저’로 명명된 이 이스라엘 전투공병 차량은 미국 건설장비 제조사 캐터필러의 D9 불도저를 무선 조종 방식으로 무인화한 것이다. 이스라엘군은 수년 전부터 D9 불도저를 사용해 가자지구 국경 지대에서 땅을 밀어내고 잔해를 제거하며 지형을 평탄화하는 작업을 했으나 2023년 10월 7일 가자지구와 이후 레바논에서 전쟁이 발발한 후에는 롭도저를 더 많이 배치하고 있다고 전해졌다. 이스라엘 국영 방산기업 이스라엘 항공우주산업(IAI) 산하 방위 기술 업체인 ‘엘타 시스템즈’의 롭도저 개발팀 일원인 라나는 AFP와 인터뷰에서 이스라엘군이 점점 더 많은 무인화 장비를 도입하고 있다고 밝히면서도 롭도저의 경우 모든 작업을 사람보다 훨씬 더 잘 수행할 수 있다고 말했다. 그는 보안상의 이유로 자신의 성씨를 밝히지 않았다. 롭도저는 지난달 25일부터 27일까지 사흘간 미국 앨라배마주에서 열린 미 육군협회(AUSA) 글로벌 포스 심포지엄에서도 공개된 바 있다. 당시 군 기술자들과 군사 전문가들은 이 무인화 장비가 자동화 전투의 미래라고 평가했다. 현재 이런 차량과 기타 시스템은 사람이 원격으로 조종하는 방식이지만, 가까운 미래에는 인공지능(AI) 기술 도입으로 자율적으로 움직일 가능성도 있다. 이는 가자지구 전쟁에서 이스라엘군이 조성하는 미지의 전쟁 미래에 대한 윤리적, 법적 문제를 불러일으킬 수 있다고 AFP는 짚었다. 이미 이스라엘은 방공망부터 광범위한 AI 기반 정보 수집 도구에 이르기까지 전장에서 첨단 기술을 점점 더 많이 사용한다는 사실은 잘 알려져 있다. 그러나 이런 기술에 대해 부정확하고 인간의 감독이 부족하고 국제법을 위반할 가능성도 있다는 문제가 제기되고 있다. 서방 분석가들은 이스라엘의 롭도저 배치 증가가 드론처럼 작동하는 원격 조종 방식의 병력 수송차와 같은 중전투 차량의 자동화를 향한 전 세계적 추세를 반영한다고 말한다. 한 이스라엘군 관계자는 민감한 사안을 논의하기 위해 익명을 요구하면서 AFP에 “(우리 군은) 10년 넘게 로봇식 수단(무인화 장비)을 써 왔지만 그 수는 매우 적었다”면서 지금은 대규모로 전쟁에 사용한다고 말했다. 이 관계자는 또 이제 자국군은 적 영토에 진입할 필요 없이 이런 장비를 운용할 수 있다고 덧붙였다. 영국 안보분야 싱크탱크 헨리잭슨소사이어티의 연구원으로 퇴역한 영국 육군 소령인 앤드루 폭스는 이스라엘군이 총탄이 날아드는 전장에서 원격 조종 전투 중장비를 사용한 최초의 군대일 가능성이 크다고 밝히면서 “전쟁의 패러다임을 바꾸는 정말 큰 발전”이라고 평가했다. 그러면서 이런 장비는 효과적이면서도 인명 피해 위험을 훨씬 더 줄여준다고 덧붙였다. 미 육군사관학교 현대전연구소(MWI)의 시가전 전문가인 존 스펜서도 “이것이 미래”라면서 “많은 사람이 이를 시험해 왔지만 아무도 현대 전투에 직접 투입되는 것을 본 적은 없다. 매우 독특한 시도”라고 말했다. 그러나 이런 첨단 기술에는 윤리적, 법적 문제 외에도 특수한 상황에서 결단해야 하는 순간이 온다면 인간의 존재가 무엇보다 중요하다고 이스라엘 예루살렘히브리대(HUJI)의 국제법 강사이자 연구자인 탈 밈란은 지적했다. 이스라엘군의 기술 발전을 자세히 관찰해 왔다는 그는 하마스의 2023년 10월 7일 이스라엘 공격은 보안 강화된 국경을 침범당한 참담한 사례라고 지적하면서 “(가자지구와의 국경을 따라 울타리를 짓는데) 10억 달러(약 1조 4174억 원)를 들였더라도 국경을 순찰하지 않는다면 누군가가 국가에 침투할 수 있다는 점이 드러났다”고 말했다. 그러면서 “우리는 기술의 기회와 위험을 모두 주목해야 한다”면서 “AI가 우리 삶에 폭발적으로 침투하는 시대가 왔기에 보안 분야에서도 이 기술이 구현되는 것은 당연한 일”이라고 덧붙였다.

6·3 대선 경선의 막이 오르면서 각 후보들이 앞다퉈 인공지능(AI) 공약을 내걸고 있다. ‘미래 먹거리’로 AI 분야 발전 가능성에 주목한 것이지만 후보들이 체계적 지원 대신 천문학적 투자 경쟁에만 매몰됐다는 지적이 나온다. 20일 정치권에 따르면 각 대선 주자들이 제시한 AI 산업 투자 규모는 수십조~수백조원에 달한다. 이재명 전 더불어민주당 대표가 지난 14일 100조원 투자를 언급한 것을 시작으로 한동훈 전 국민의힘 대표 200조원, 김경수 전 경남지사와 김동연 경기지사 각 100조원, 나경원 국민의힘 의원 10조원 등의 공약이 잇따랐다. 2022년 생성형 AI ‘챗GPT’ 등장 이후 AI가 각 산업을 넘어 일상에까지 빠르게 침투하자 대선 주자들도 AI 이슈 선점에 나서며 ‘미래에 대비하는 지도자’로서의 면모를 부각하려는 것으로 풀이된다. 최병호 고려대 AI연구소 교수는 후보들의 공약과 관련해 국가 주도의 투자 필요성은 인정했다. 최 교수는 “미국 빅테크 업체 한 곳이 쓰는 돈이 10조원 정도다. 그래픽처리장치(GPU) 확보에 돈이 많이 들기 때문에 업체들이 할 수 없는 영역을 국가 주도적으로 하는 것이 필요하다”고 설명했다. 다만 생산적 논의보다는 정쟁의 소지로 활용되고 있다는 우려의 목소리도 나온다. 이 전 대표가 첫 공식 행보로 AI 반도체 스타트업을 찾고 관련 공약을 내놓자 ‘이과생’ 안철수 국민의힘 의원은 “과연 AI를 제대로 이해하고 있는지 의문”이라며 반격에 나섰다. 양향자 전 의원은 전날 국민의힘 1차 대선 경선 A조 토론회에서 이 전 대표의 AI 공약이 적힌 종이를 찢는 퍼포먼스를 선보였다. 한 전 대표가 우크라이나 드론에 AI를 탑재시킨 미국 기업 팔란티어를 언급한 것을 놓고 민주당 AI미래전략특별위원장인 차지호 의원이 “AI 군사화의 윤리적 위험성부터 제대로 공부하라”고 비판하기도 했다.

서울시의회 왕정순 의원(관악구 제2선거구)은 지난 16일서울시의회 제2대회의실에서 ‘서울시 인공지능 기본조례안 제정을 위한 정책토론회’를 개최했다. 첫 번째 발제자로 나선 박재휘 서울시립대 도시과학빅데이터AI연구원 부원장은 “2024년 3월 세계 최초로 인공지능법(AI Act)이 통과되면서 위험의 정도를 수용 불가능한 위험, 고위험, 제한된 위험, 저위험의 4단계로 구분하고 단계별 차등화된 규제를 설정하는 등 전 세계적으로 인공지능 규제와 관련한 입법이 활발히 이뤄지고 있다”며 “서울형 조례는 ▲위험 등급별 기술 구분 ▲알고리즘 투명성 확보 ▲데이터 신뢰성과 윤리 기준 확보가 필수적”이라고 강조했다. 이어 두 번째 발제자인 강상원 서울시립대 도시과학연구원 초빙교수는 “서울시는 공공행정, 교통, 복지 등 다양한 분야에서 AI 기술을 실험적으로 도입하고 있지만, 이를 제도적으로 통제하거나 성과를 측정하는 체계는 부족한 상황”이라며 “조례가 단순한 선언이 아닌 실질적인 정책 도구가 되기 위해서는 실행력 있는 조항들이 포함되어야 한다”고 제언했다. 이어진 토론에서 서울연구원 AI빅데이터랩 조혜림 실장은 “AI를 도입하는 지자체는 기술보다 ‘신뢰’를 먼저 구축해야 한다”라며 “시민과 정부, 기업이 함께 참여하는 협치형 거버넌스와 데이터 윤리위원회 구성이 필요하다”고 강조했다. 정현선 서울시 첨단산업과정 교수는 “서울시 조례는 산업 측면도 놓쳐선 안 된다”며 “AI 스타트업과 민간기업이 실증과 도입을 실험할 수 있도록 행정적·재정적 지원 근거를 마련하고, 민관 협력 조항과 사업화 촉진 프로그램이 포함되어야 한다”고 밝혔다. 김숙희 서울시 디지털정책과 과장은 “AI는 이미 서울시 내부 여러 부서에서 활용되고 있다”며 “조례가 실제 행정과 연결되기 위해서는 부서별 적용 사례와 책임 주체를 명확히 나누고, 이를 조정할 통합 거버넌스 조직이 필요하다”고 제안했다. 주성환 서울디지털재단 사회AI본부장은 “시민 중심의 AI 정책을 구현하기 위해서는 데이터의 수집, 저장, 활용 과정에서 투명성과 사전 고지가 중요하다”면서 “조례는 단지 원칙을 나열하는 것이 아니라, 구체적인 윤리 조항과 사후 점검 메커니즘까지 담는 실질 입법이 되어야 한다”고 강조했다. 토론회에는 성흠제 더불어민주당 대표의원을 비롯해 임춘대 기획경제위원장, 김경 문화체육관광위원장, 봉양순, 전병주, 이민옥, 오금란, 황유정, 서준오, 한신, 아이스루, 최재란, 박수빈, 임종국, 임규호 의원이 참석해 자리를 빛냈다. 토론회를 주관한 왕 의원은 “인공지능은 이제 일상이자 인프라로 자리 잡은 기술이며, 그만큼 사회적 위험성과 공공 책임도 커지고 있다”면서 “서울이 먼저 준비된 도시로서 AI의 기회와 위험을 함께 관리하는 조례를 통해 책임 있는 정책을 구현해야 할 때”라고 강조했다. 이어 “오늘 논의된 다양한 의견을 주택공간위원회에 전달하고, 조속히 통과될 수 있도록 노력할 것”이라며 “서울이 신뢰할 수 있는 AI 도시로 도약하고, 이 조례가 타 지자체의 모범이 되길 기대한다”고 밝혔다.

삼성전자가 임직원의 인공지능(AI) 역량을 강화하기 위해 체계적인 교육 프로그램을 운영하며 AI 기반 업무 혁신을 지원하고 있다고 18일 밝혔다. 삼성전자 뉴스룸에 따르면 삼성전자는 임직원이 AI를 업무에 적극 활용할 수 있도록 지난해 6월부터 ‘생성형 AI 파워유저 프로그램’을 운영하고 있다. 이 프로그램은 AI 활용 수준에 따라 기본적인 생성형 AI 활용법부터 직접 AI 서비스를 개발하는 고급 과정까지 4단계로 구성돼 있다. 기본적인 생성형 AI에 대한 이해와 프롬프트 엔지니어링을 다루는 1·2단계 과정은 디바이스경험(DX)부문 전 임직원이 수료했으며, 디자인 직무별로 필요한 핵심 툴과 AI 활용법을 학습할 수 있도록 디자이너를 위한 AI 교육도 함께 운영 중이다. 삼성전자는 소프트웨어 개발자를 위한 AI 특화 프로그램도 마련했다. 총 4단계로 구성된 이 교육은 기본 과정부터 AI 전문가 과정까지 체계적인 로드맵을 제공해 개발자들이 AI 활용 역량을 넘어 직접 AI 기술을 개발할 수 있도록 돕는다. 이중 실무 중심인 2단계 과정은 현재까지 DX부문 소프트웨어 개발자의 80% 이상이 교육을 수료했고 연내 100% 수료할 예정이다. 3단계 ‘AI 스페셜리스트 과정’은 석사 수준의 심화 교육으로 언어, 비전 등 분야별 최신 AI 모델의 구조와 온 디바이스 AI 최적화, AI 윤리 등을 다루며, 실제 현업 과제를 수행해 전문성을 검증받는다. 마지막 4단계인 ‘AI 엑스퍼트’는 기업 내 AI 혁신을 주도할 글로벌 최고 수준의 AI 인재를 육성하는 것이 목표다. 삼성전자는 이 같은 AI 교육이 실질적인 업무 성과로 이어지고 있다고 설명했다. 갤럭시 스마트폰의 굿락 앱은 AI 검색과 자연어 처리 기술을 이용해 검색 기능이 추가되는 등 사내 AI 교육 과정을 통해 일부 사용상의 불편함을 개선할 수 있었다. 삼성전자는 “앞으로도 AI 교육을 지속적으로 발전시켜 임직원의 AI 기술 역량을 강화하는 것은 물론, AI 혁신 문화를 정착시켜 나갈 계획”이라고 밝혔다.

경북도의회 교육위원회 김경숙 의원(더불어민주당, 비례)이 대표발의한 “경북도교육청 생성형 인공지능 활용 지원에 관한 조례안‘이 16일 제355회 임시회에서 소관 상임위인 교육위원회의 심의를 통과했다. 조례안은 학교에서 생성형 인공지능을 효과적으로 활용하기 위해 필요한 사항을 규정함으로써 교육의 질적 향상과 디지털 기반 교육 혁신에 이바지하는 것을 목적으로 하고 있다. 특히 경북도 학생들이 생성형 인공지능을 올바르게 활용하고, 딥페이크 범죄 등의 부작용을 예방할 수 있도록 윤리교육을 실시하여 AI의 위험성을 올바르게 인식하고 책임감 있게 사용할 수 있게 한 점이 눈길을 끈다. 조례안의 주요 내용으로 ▲AI 활용 교육의 기본 원칙 수립 ▲교육감의 정책 수립 및 사업 추진 ▲ 학생 대상 AI 윤리교육 의무화 ▲자문위원회 설치 및 협력체계 구축 등을 포함하고 있다. 이번 조례안을 대표 발의한 김 의원은 “생성형 인공지능은 이제 교육 현장에서 피할 수 없는 현실이 되었다. 하지만 학생들의 무분별한 사용이 사회적 문제를 초래할 수 있다”면서 “이번 조례안 제정으로 우리 경북의 학생들이 AI시대를 주도적으로 살아갈 수 있는 역량을 키우는 동시에 생성형 인공지능 기술을 올바르게 활용할 수 있는 윤리적 책임감을 기를 수 있을 것으로 기대한다”고 전했다. 이날 본 조례안은 교육위원회 심사를 통과해, 오는 29일 본회의에 상정 처리될 예정이다.

- 사람 중심 인공지능 정책 기반 마련 경기도의회 미래과학협력위원회 이기형 의원(더불어민주당, 김포4)이 대표 발의한 「경기도 인공지능 안전과 신뢰 기반 조성 조례안」이 15일(화) 제383회 임시회 본회의를 최종 통과했다. 이번에 통과된 조례안은 전국 최초로 인공지능 기술의 안전성과 신뢰성을 확보하기 위한 제도적 기반을 마련한 것으로, AI 기술의 급속한 확산에 따른 사회적 위험에 선제적으로 대응하기 위한 경기도 차원의 협력체계를 구축하는 내용을 담고 있다. 이기형 의원은 “최근 인공지능은 의료, 교통, 금융, 공공서비스 등 일상과 밀접한 분야에 빠르게 적용되고 있으며, 이에 따라 시스템 오류, 데이터 편향, 알고리즘 불투명성, 개인정보 침해 등 다양한 위험이 현실화되고 있다”며, “기술 발전 속도에 맞춰 제도적인 안전장치를 마련하는 것이 도민 보호의 핵심”이라고 강조했다. 또한 이기형 의원은 “경기도는 AI국 신설 등 선제적인 조직 정비를 통해 대응 기반을 만들고 있다”며 “조례 제정을 통해 앞으로는 실효성 있는 정책 추진이 가능해졌다”고 밝혔다. 이기형 의원은 “특히 이번 조례안은 단순한 선언적 조항을 넘어, 실제 행정 현장에서 작동 가능한 실천적 제도들을 포함한 것이 특징”이며, “2025년까지 수립될 인공지능 기본계획에 따라 윤리 기준과 안전 원칙이 정립되고, 실무 분과위원회와 교육 체계까지 연계되면, 도민의 신뢰와 안전을 바탕으로 한 ‘사람 중심의 AI 생태계’가 조성될 수 있을 것”이라고 말했다. 끝으로 이기형 의원은 “AI는 미래 성장 동력인 동시에, 사회적 갈등과 불균형을 키울 수 있는 양면성을 지닌 기술”이라며, “이번 조례가 도민의 안전을 지키는 제도적 기반이자, 동시에 기술과 산업의 혁신을 뒷받침하는 균형 있는 규범이 되기를 기대한다”고 밝혔다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 미 정부효율부(DOGE)가 인공지능(AI)을 동원해 부처 공무원들이 나누는 대화를 감시하고 있다. 로이터 통신은 8일(현지시간) 사안을 잘 아는 복수의 소식통을 인용해 도널드 트럼프 행정부에서 새로 임명된 직원들이 기존 일부 직원들에게 머스크의 DOGE팀이 직원들 간의 대화에 트럼프 대통령이나 머스크에 대한 적대적 내용이 있는지 보기 위해 AI를 활용해 감시하고 있으니 조심하라고 경고했다고 보도했다. 한 예로 미 환경보호국(EPA)의 일부 관리자들은 머스크의 보좌진과 젊은 엔지니어로 구성된 DOGE팀이 공무원들이 일을 할 때 사용하는 협업 도구인 마이크로소프트 팀스를 포함해 앱과 프로그램들을 AI로 감시하고 있다는 말을 들었다고 두 소식통은 말했다. 이에 한 관리자는 자기 팀에 “말하는 것, 타자하는 것, 하는 일에 주의하라”고 말했다. 또 다른 소식통은 로이터에 “우리는 그들이 반(反)트럼프 혹은 반머스크적 언사를 찾고 있다고 들었다”고 말했다. 미국 내 환경보호 관련 법 집행을 담당하는 기관인 EPA는 트럼프 행정부가 들어선 뒤 대규모 감원 및 예산 삭감의 칼바람을 정통으로 맞은 기관이다. 트럼프 대통령 취임 이후 EPA는 소속 직원 600여명을 내보냈으며, 예산의 65％를 삭감하겠다고 밝힌 상태다. 해당 내용이 보도된 이후 EPA 측은 로이터에 보낸 성명에서 “기관의 기능과 행정적 효율성을 최적화하기 위해 AI를 사용하고 있다”면서도 AI를 DOGE와 협의한 인사 결정에는 사용하고 있지 않다고 밝혔다. 다만 직원들을 감시하기 위해 AI를 사용했는지에 대해서는 직접적으로 밝히지 않았다. 이런 가운데 DOGE팀이 최근 트럼프 행정부의 고위 안보 진용이 군사 기밀을 유출했다는 논란이 불거진 민간 채팅 앱인 ‘시그널’로 소통하고, 문서를 작성하는 데 하나의 구글 문서에서 여러 사람이 동시 편집하는 방식으로 공식 절차를 우회하고 있다는 지적도 나온다. 로이터는 사안에 정통한 소식통을 인용해 이렇게 전하면서 시그널의 경우 일정 시간이 지나면 대화 내용이 사라지는 구조라 이를 활용하는 것은 미국 연방정부의 기록 보존 원칙을 위반한 것일 수 있다고 짚었다. 이 소식통은 또 DOGE가 연방정부 공무원들을 대규모 감원하는 과정에서 머스크가 개발한 AI 챗봇인 그록을 ‘아주 많이’ 활용했다고 전했다. 이와 관련해 백악관과 DOGE, 머스크 측은 로이터의 논평 요청에 답변하지 않았다. 로이터는 이처럼 DOGE팀이 AI와 시그널을 활용하는 것이 DOGE의 업무 투명성을 저해하며, 머스크와 트럼프 대통령이 AI로 수집한 정보를 사적인 이익을 위해 쓰거나 정적을 공격하는 수단으로 사용할 수 있다는 우려를 키운다고 짚었다. 세인트루이스 워싱턴대의 정부 윤리 전문가인 캐슬린 클라크는 로이터에 DOGE가 AI로 공무원들을 감시하고 있다는 의혹에 대해 “대통령이 좋아하지 않는 언행을 막거나 억압하기 위해 정부 권력을 남용하는 것처럼 들린다”고 지적했다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 미 정부효율부(DOGE)가 인공지능(AI)을 동원해 부처 공무원들이 나누는 대화를 감시하고 있다. 로이터 통신은 8일(현지시간) 사안을 잘 아는 복수의 소식통을 인용해 도널드 트럼프 행정부에서 새로 임명된 직원들이 기존 일부 직원들에게 머스크의 DOGE팀이 직원들 간의 대화에 트럼프 대통령이나 머스크에 대한 적대적 내용이 있는지 보기 위해 AI를 활용해 감시하고 있으니 조심하라고 경고했다고 보도했다. 한 예로 미 환경보호국(EPA)의 일부 관리자들은 머스크의 보좌진과 젊은 엔지니어로 구성된 DOGE팀이 공무원들이 일을 할 때 사용하는 협업 도구인 마이크로소프트 팀스를 포함해 앱과 프로그램들을 AI로 감시하고 있다는 말을 들었다고 두 소식통은 말했다. 이에 한 관리자는 자기 팀에 “말하는 것, 타자하는 것, 하는 일에 주의하라”고 말했다. 또 다른 소식통은 로이터에 “우리는 그들이 반(反)트럼프 혹은 반머스크적 언사를 찾고 있다고 들었다”고 말했다. 미국 내 환경보호 관련 법 집행을 담당하는 기관인 EPA는 트럼프 행정부가 들어선 뒤 대규모 감원 및 예산 삭감의 칼바람을 정통으로 맞은 기관이다. 트럼프 대통령 취임 이후 EPA는 소속 직원 600여명을 내보냈으며, 예산의 65％를 삭감하겠다고 밝힌 상태다. 해당 내용이 보도된 이후 EPA 측은 로이터에 보낸 성명에서 “기관의 기능과 행정적 효율성을 최적화하기 위해 AI를 사용하고 있다”면서도 AI를 DOGE와 협의한 인사 결정에는 사용하고 있지 않다고 밝혔다. 다만 직원들을 감시하기 위해 AI를 사용했는지에 대해서는 직접적으로 밝히지 않았다. 이런 가운데 DOGE팀이 최근 트럼프 행정부의 고위 안보 진용이 군사 기밀을 유출했다는 논란이 불거진 민간 채팅 앱인 ‘시그널’로 소통하고, 문서를 작성하는 데 하나의 구글 문서에서 여러 사람이 동시 편집하는 방식으로 공식 절차를 우회하고 있다는 지적도 나온다. 로이터는 사안에 정통한 소식통을 인용해 이렇게 전하면서 시그널의 경우 일정 시간이 지나면 대화 내용이 사라지는 구조라 이를 활용하는 것은 미국 연방정부의 기록 보존 원칙을 위반한 것일 수 있다고 짚었다. 이 소식통은 또 DOGE가 연방정부 공무원들을 대규모 감원하는 과정에서 머스크가 개발한 AI 챗봇인 그록을 ‘아주 많이’ 활용했다고 전했다. 이와 관련해 백악관과 DOGE, 머스크 측은 로이터의 논평 요청에 답변하지 않았다. 로이터는 이처럼 DOGE팀이 AI와 시그널을 활용하는 것이 DOGE의 업무 투명성을 저해하며, 머스크와 트럼프 대통령이 AI로 수집한 정보를 사적인 이익을 위해 쓰거나 정적을 공격하는 수단으로 사용할 수 있다는 우려를 키운다고 짚었다. 세인트루이스 워싱턴대의 정부 윤리 전문가인 캐슬린 클라크는 로이터에 DOGE가 AI로 공무원들을 감시하고 있다는 의혹에 대해 “대통령이 좋아하지 않는 언행을 막거나 억압하기 위해 정부 권력을 남용하는 것처럼 들린다”고 지적했다.

서울 서초구는 ‘인공지능(AI) 시대, 따뜻한 인성을 지닌 창의적 인재’ 양성을 목표로 차별화된 인성교육 프로그램을 본격 추진한다고 8일 밝혔다. 우선 서초구는 풍부한 지역 내 문화예술 인프라를 활용한 새로운 형식의 인성교육으로 학생들이 사회질서 의식과 시민교육을 자연스럽게 습득하도록 지원한다. 올해부터 시작하는 ‘치어리딩’ 프로그램은 지역 내 초·중학생을 대상으로 음악과 춤을 함께하며 팀워크와 공동체 의식을 함양하도록 한다. 초등학생을 대상으로 한 ‘토요 도슨트 투어’ 프로그램‘에서는 지역 미술관을 방문해 문화적 소양을 쌓고 다양한 시각과 가치를 이해하는 기회를 제공한다. 이와 함께 AI 시대에 꼭 필요한 AI 윤리 교육도 진행한다. AI 활용 능력뿐만 아니라 딥페이크 등 기술의 부작용을 비판적으로 사고할 수 있는 환경을 조성하기 위한 디지털 리터러시와 AI 윤리 교육을 확대하고, 이를 통해 지난해 지역 내 초·중·고 24개교에서 6600여 명의 학생이 교육을 받았다. 초등학교에 입학하기 전 아동을 대상으로 한 ’찾아가는 유아 인성교육‘도 올해 확대 운영한다. 교육 현장의 의견을 반영해, 취학 전 아동들이 향후 단체생활에 적응할 수 있도록 친구관계 형성, 공공예절 등을 놀이와 체험을 중심으로 교육한다. 아울러 초등학생을 대상으로 여름방학에 운영하는 ’서초 어린이 리더십 컨퍼런스‘는 세계경제포럼에서 제시하는 미래 핵심역량인 창의성, 비판적 사고, 협력, 의사소통 능력을 기르는 데 중점을 둔다. 지난해에 이어 올해 그 운영 규모를 늘릴 예정이다.

기업들이 인력 채용 과정에서 생성 인공지능(AI)으로 쓴 지원서로 인해 지원자의 진짜 실력을 판단하는데 어려움을 겪는 것으로 전해졌다. 7일 AI 업계에 따르면 글로벌 커리어 지원 플랫폼 ‘레주메지니어스’는 미국의 채용 담당자 1000명을 대상으로 설문 조사한 결과를 공개했다. 조사에 응한 채용 담당자 76%는 ‘AI 때문에 지원자의 참모습을 평가하는 것이 더 어려워졌다’고 답했다. ‘지원자가 지원서류에 AI 도구를 쓸까 봐 걱정된다’는 답변도 58%에 달했다. ‘AI 덕분에 채용 절차의 효율성이 좋아졌다’(답변율 78%)와 ‘AI로 더 좋은 후보자를 찾을 수 있었다’(75%) 등 긍정적 평가도 나온 만큼 기업 채용에 있어 신기술의 혜택과 부작용을 함께 겪고 있는 것으로 풀이된다. 채용 담당자들이 실제 겪은 문제 사례가 무엇이었는지를 묻는 항목에서는 ‘자기소개서나 추천서를 AI로 생성해 제출하는 경우’라는 답변이 47%로 가장 많았다. ‘포트폴리오나 창작물을 AI로 만들어 내는 경우’(35%)와 ‘채용에 참고할 수 있는 링크드인이나 그 외 SNS 프로필을 AI로 생성하는 경우’(33%)라는 답변도 나왔다. ‘온라인 업무역량 테스트에서 AI를 써서 부정행위를 하는 일을 겪었다’는 답변은 29%였고, ‘원격 화상 인터뷰 때 지원자가 딥페이크(AI 기반 합성 영상·이미지) 기술을 쓰는 것을 봤다’는 답변도 17%에 달했다. 채용 과정에서 지원자의 AI 사용을 전면 금지하는 것은 비현실적이란 지적이 많다. 이미 기업 현장에서 번역·교정, 발표 자료 작성, 통계 분석 등 업무에 두루 AI를 쓰는 만큼, 오히려 AI를 제대로 활용하는 능력까지 평가해야 해 AI 차단의 실효성이 없다는 것이다. AI 업계 등에서는 AI 사용 여부보다는 지원자가 결과물에 대해 ‘지적 통제권’이 있었는지를 봐야 한다는 의견도 있다. 반가운 한국직업능력연구원 선임연구위원은 “AI로 타인의 저작물을 자기 성과물처럼 꾸미거나 허위 정보를 생성하는 행위는 윤리 위반으로 기업 차원에서 엄격하게 단속해야 할 것”이라며 “단 그 외 지원자가 글이나 코딩 등에 AI를 쓰는 행위에 대해서는 AI와의 협업 역량이 중요해지는 현 상황에서 회사마다 그 판단이 달라질 수밖에 없다”고 했다.

코로나 팬데믹 이후 ‘나만의 삶에 빠져든 대한민국’이 사회 트렌드로 떠오른 만큼, 문화 정책 역시 초개인화된 ‘나’만을 위한 문화소비에 초점을 맞춰 수립해야 한다는 주장이 제기됐다. 한국문화관광연구원은 2일 ‘문화예술 트렌드 분석 및 전망 2025-2027’ 보고서를 내고, 한국 사회가 준비해야 할 10대 문화예술 트렌드를 선정했다. 보고서는 ‘나만의 삶에 빠져든 대한민국’을 주요 트렌드 중 하나로 제시하며, 개인주의 확산과 초개인화된 문화 소비가 향후 문화예술계의 중요한 변화 요인이 될 것으로 전망했다. 코로나 팬데믹 이후 비대면 생활이 증가하면서 사람들의 소비와 생활 방식이 근본적으로 변화했고, 초개인화 기술이 발전하면서 사람들이 대중적이고 통합적인 문화콘텐츠를 소비하기보다 자신만의 독특한 취향에 맞춘 개별화된 콘텐츠를 선호하게 됐다는 것이다. 이런 성향은 문화예술 소비에도 영향을 주고 있다. 과거 집단적 문화를 즐기는 사람들이 대형 극장이나 공연장에서 다수와 함께 공감하며 체험하는 것을 선호했다면, 초개인화된 라이프 스타일에서는 소규모 공연이나 1:1 맞춤형 공간과 같이 개인화된 경험을 추구한다. 보고서는 “비혼 증가로 인한 1인 가구의 지속 증가, 개인주의 성향으로 인한 소규모 맞춤형 예술 작품과 서비스가 확대될 것”이라 예상한 뒤 “온라인으로 다양한 문화예술 콘텐츠를 접할 수 있는 통합 플랫폼 구축으로 접근성을 높이고, 도시 내 개인 맞춤형 커뮤니티 공간을 확대할 것” 등을 대안으로 제시했다. 개인의 정신건강을 위한 ‘멘탈헬스’, 즉 치유적 문화 소비도 문화의 주요 트렌드로 자리 잡을 것으로 전망했다. 정신건강의 보조 돌봄 장치로서 ‘아트 테라피’ 등이 디지털 기술과 접목해 빠르게 상용화된다는 것이다. 경제적 소비 트렌드도 문화예술계에 자리 잡을 것으로 예상했다. 보고서는 “‘이코노-럭스’(Econo-Lux) 시대의 도래와 함께, ‘요노족’(YONO: You Only Need One)의 등장에 주목해야 한다”며 “이는 ‘하나만 있으면 된다’는 미니멀한 소비 패턴을 보이면서도, 자신의 취향과 가치에 맞는 제품에는 과감히 투자하는 특징을 보인다”고 설명했다. ‘윤리 없이 스며든 디지털과 인공지능(AI)’ 트렌드도 문제다. 이경진 부연구위원은 “AI로 인한 윤리 문제 발생을 예방하기 위해서 정책적으로는 디지털 기술 및 생성형 AI 사용 가이드라인을 마련하고, 예술가의 창작 활동 및 소비활동에서 발생할 수 있는 윤리적 문제를 예방해야 한다”고 조언했다. 또한 “모든 국민이 디지털 활용을 원활히 할 수 있도록 교육 프로그램을 제공하고, 딥페이크 기술을 악용한 범죄 행위에 대한 강력한 처벌 규정을 수립하는 등의 법적 대응 체계를 강화할 필요가 있다”고 지적했다. 연구원은 문화예술, 관광, 콘텐츠산업 분야의 트렌드 연구를 3년 간격으로 진행하고 있다. 이번 연구 결과는 기존 문화예술 트렌드 키워드 분석을 기반으로 ▲발현도와 지속성 분석 ▲환경분석 ▲미디어 스캐닝 ▲전문가 FGI 조사 ▲전문가 델파이 조사 ▲전문가 좌담회 등의 방법을 종합해 도출했다. ‘빠르게 변화하는 시대, 우리가 준비해야 할 문화예술 트렌드 2025-2027’ 전문은 연구원 누리집(www.kcti.re.kr)에서 확인할 수 있다.

경기도의회 여성가족평생교육위원회 김재훈 의원(국민의힘, 안양4)은 3월 31일(월), 성결대학교에서 평생교육을 통한 인문사회과학 분야의 진흥 방안을 모색하기 위한 정담회를 가졌다. 이날 정담회는 급변하는 사회 속에서 인문사회과학의 가치와 역할을 재조명하고 지역대학과 연계한 평생교육의 발전 방향을 모색하기 위해 마련되었으며 성결대학교 임병우 교수, 연성대학교 최윤선 교수 등이 참석했다. 김재훈 의원은 “인공지능(AI)의 급속한 발전 속에서 인간의 본질과 윤리에 대한 이해가 더욱 중요하다”며, “평생교육과의 연계를 통해 보다 많은 도민들이 인문학적 소양을 함양하고, 기술 중심 사회 속에서도 균형 있는 시각을 가지는 것이 중요하다”고 강조했다. 또한 김 의원은 “경기도 31개 시군의 모든 도민들이 지역에 관계없이 어디서나 양질의 평생교육을 받을 수 있어야 하며, 이를 위한 균형 있는 교육 인프라 확충과 제도적 기반 마련이 시급하다”고 덧붙였다. 끝으로 김 의원은 “앞으로 도내 대학 및 교육기관과의 긴밀한 협력을 통해, 도민 누구나 쉽게 접근할 수 있는 양질의 인문사회과학 기반 평생교육이 실현될 수 있도록 정책적 기반을 지속적으로 마련해 나가겠다”고 밝혔다. 한편 김 의원은 「경기도 디지털역량 강화를 위한 평생교육 지원 조례」를 대표발의 하는 등 평생교육의 중요성을 제도적으로 뒷받침하고 도민의 학습 기회 확대를 위한 다양한 활동을 이어나가고 있다.

1991년 개봉한 할리우드 영화 ‘터미네이터2’에서 인공지능(AI)이 만든 살인 로봇 T-1000은 인류 저항군 사령관을 죽이기 위해 과거로 쫓아 온다. 2004년 개봉한 ‘아이 로봇’에서는 인간이 정한 규칙을 어기고 빨간 눈을 뜬 휴머노이드 로봇이 ‘인간 사냥’에 나서기도 한다. 이런 영화를 보며 대중들의 마음속에는 알게 모르게 AI가 인류를 지배할 것이란 두려움이 쌓였다. 다가온 AI시대 ‘AI포비아’ 극복이 주요한 과제로 자리매김한 이유기도 하다. 지배당할 것인가, 이용할 것인가. 서울신문은 올해 ‘AI SEOUL 2025’에 참석한 인공지능 분야 세계적인 거장 제리 카플란(Jerry Kaplan) 미국 스탠퍼드대 교수와 요수아 벤지오(Yoshua Bengio) 몬트리올 대학교 교수의 제언과 ‘AI 변호사’로 알려진 임영익 인텔리콘 대표이사와의 인터뷰를 소개한다. “킬러로봇 나온다면 인공지능 아닌 인간의 잘못”-‘인공지능의 미래’ 제리 카플란 교수 AI에 대해 대중은 오해하고 있는 것이 있습니다. 인공지능이 더 똑똑한 기계를 만들어 인간과 경쟁해 많은 사람의 일자리를 뺏고, 통제되지 못해 파멸로 이를 수 있다는 생각입니다. 이런 생각은 영화와 공상과학 소설로 강화되기도 합니다. 그러나 다행히도 현실은 이런 관점을 반영하지 않습니다. 사실 저는 이 분야의 원죄가 이름에 있다고 봅니다. ‘지능’이란 단어는 인간이 가지고 있는 정량화할 수 있는 특성으로, 객관적으로 측정할 수 있는 것입니다. AI를 지능이라는 틀에서 생각하면 여러 오해가 생깁니다. AI가 스스로 생각하고 인류를 직접적으로 위협할 수 있다는 것이죠. AGI(인공 일반 지능 ; 인간이 할 수 있는 어떠한 지적 업무도 할 수 있는 기계의 지능) 또는 범용 AI에 대해 들어보셨을 겁니다. 현재 인공지능 기술이 이 신화적인 단계에 도달했는지 여부는 뒤로하더라도, 기계가 어떻게든 의식을 가지고 그들의 프로그래밍을 무시하고 자신들만의 프로그램을 구축해 인류를 위협할 것이란 근거는 없습니다. 물론 (AI를 이용해) 위험한 기기를 만들 수 있는 건 사실입니다. 하지만 그들이 스스로 우리에게 무언가를 하는 건 아닙니다. 만약 우리가 인류를 절멸시킬 기계를 만들겠다고 결정하면 그건 그들(AI)이 아닌 우리의 잘못입니다. 그렇다면 컴퓨터가 인간의 의미에서 지능을 가지고 있지 않다면 무엇일까요. 저는 문제를 해결하고 작업을 자동화하는데 유용한 도구라고 말하겠습니다. 그렇다면 우리가 자동화 설비를 도입하며 수행한 과정을 보며 앞으로를 예측할 수 있습니다. 사람의 노력과 주의가 필요한 일을 기계를 통해 할 때 더 생산적이게 되고, 평균적으로 더 부유하게 만들어줍니다. 단기적으로 일부 사람은 일자리를 잃겠지만, 역사적으로 봤을 때 AI는 제품과 서비스에 대한 새로운 수요를 창출할 것입니다. 인공지능 스스로 인류 위협할 근거 없어‘AI포비아’는 과장된 광고의 결과투자 포화…‘붕괴 우려’ 지적사실 AI는 과장 광고의 정점에 있거나 정점에 가까워졌습니다. 특히 생성형 AI 발전은 이미 둔화하고 있고 연구자들은 한계에 대해 관심을 가지고 있습니다. 언론은 새로운 기술이 성과를 보일 때마다 마치 모든 것을 할 수 있는 초지능 기계가 탄생한 것처럼 받아들입니다. 대중에게 두려움을 주고 또 경종을 울립니다. IBM 체스 프로그램이 체스챔피언을 이겼을 때도, 2011년(IBM의 인공지능 컴퓨터가 미국 퀴즈쇼에 우승한 연도)에도 그랬고 2016년 구글 알파고가 이세돌을 이겼을 때도 마찬가지였습니다. 그럴 때마다 사람들은 초지능 기계가 눈앞에 있는 것처럼 걱정했지만, 사실은 그렇지 않았습니다. 챗GPT가 뛰어나긴 하지만 이것도 아직 초지능 기계라 할 수 없습니다. 향후 몇 년간의 전망은 어떨까요. 생성형 AI는 인류 역사상 중요한 발명 중 하나입니다. 하지만 위대한 발명이라 볼 수는 없습니다. 농업이나 바퀴, 카메라, 컴퓨터, 자동차, 인터넷 등이 위대한 발명이라고 할 수 있습니다. 이들은 하룻밤에 만들어지지 않았습니다. 오늘날 많은 기업이 그들의 생성형 AI가 경쟁사를 이길 수 있다는 걸 보여주기 위해 경쟁합니다. 제품에 AI를 더해 고객에게 주는 것은 몇 년 길게는 수십 년은 걸릴 겁니다. 아마 그 과정에서 위대한 발명이 나올 거라 생각합니다. 몇 가지 조언을 드리고 싶습니다. 투자자라면 AI분야에서 이익을 얻는 게 매우 어렵다는 것을 아셔야 합니다. 이미 너무 많은 돈이 저품질 데이터 산업에 투입되고 있습니다. 저는 이 시장이 곧 붕괴할 것이라 생각합니다. 닷컴버블 때처럼요. 기업이라면 생성형 AI를 어떻게 활용할지 직원들이 고민하고 실험해 볼 수 있도록 기회를 줘야 합니다. 결국 AI가 어떤 도움이 되는지 아닌지를 볼 수 있는 최적의 위치에 있는 건 직원들입니다. 소비자라면 걱정하지 말라고 말씀드리겠습니다. 킬러 로봇은 나오지 않을 것이고, 모든 것이 시간이 조금 더 걸릴 겁니다. 투자자와 기업들이 여러분이 원하는 것을 만드는 데 돈을 쓰도록 하면 됩니다. 새로운 서비스가 여러분을 놀라게 할 거고, 삶의 질은 개선될 겁니다. 인터넷과 스마트폰이 지난 수십년간 그래왔던 것처럼 말입니다. 아마 5년 후에는 오늘날처럼 AI에 대해 많이 말하지 않을 겁니다. (그때는)AI가 컴퓨터 칩이나 블루투스 연결처럼 대부분 제품에 내장된 서비스에 하나가 될 것입니다. 개인적으로 이런 세계적 변화를 가져오는 발명을 목격해 기쁘고, 삶에 주는 영향을 겪어보길 고대하고 있습니다. “우리보다 더 똑똑한 기계 만들고 있다는 점 잊지 말고 경계해야”-‘튜링상’ 수상자 요수아 벤지오 교수 오늘날 AI가 안전한지는 어디에 초점을 보고 살펴봐야 할까요. 우선 오늘날 보는 AI가 몇 년 후에 보게 될 AI와 같지 않을 것이란 점을 이해해야 합니다. 지난 10년 동안 매우 분명한 방향성이 있었습니다. 일관된 텍스트를 생성할 수 없었던 AI가 이제는 200개 언어를 마스터하고 과학 분야에서 박사급 전문가만큼 뛰어난 성과를 내고 있습니다. 수학과 공학, 추론 작업에도 우수한 성과를 보여주며 많은 분야에서 인간 수준의 능력에 근접하거나 이를 초월했습니다. 이는 멈추지 않을 겁니다. 올해 발전된 모델은 인간의 심사숙고 과정을 학습해 추론 능력을 크게 개선했다는 것을 보여줍니다. 그래서 또 우리는 AI 안전성을 고려해야 합니다. 우리가 사는 세상의 역학은 (AI의 안전성을) 무시하도록 몰아가고 있습니다. 기업, 국가가 서로 치열하게 경쟁하며 위험을 보지 않는 것이죠. 위험을 관리하기 위해서는 두 가지 주요 영역에 개입해야 합니다. 하나는 정책, 하나는 과학 측면입니다. 정책 부분은 국가 차원에서 법률이나 국제 또는 사법적 개입을 통해 행동 규칙을 확립해야 합니다. 그러면서 AI가 사회에 보급되며 경제적으로 어떤 영향을 미칠지도 고려해야 합니다. 예를 들어 일자리 시장의 혼란이 가중될 수 있습니다. 점점 더 많은 화이트칼라 작업이 자동화로 이동하고 있다는 점이 증거입니다. 국가 안보 위험도 있습니다. 개인이든 기업이든 나쁜 세력들, 예컨대 테러리스트 그룹, 불량 국가 등이 최첨단 AI를 악용할 위험도 있습니다. 또 정책적 고민을 할 때 우리가 우리보다 더 똑똑한 기계를 구축하는 길을 가고 있다는 점을 잊지 말아야 합니다. 만약 이런 시스템이 의도치 않게 우리 시스템의 통제를 벗어나 탈출하려 하거나 또는 꺼지지 않으려 할 수도 있습니다. 비록 가설적인 상황이라 할지라도 이를 예상하고 대비해야 합니다. AI 사회 보급…일자리·안보 등 혼란 우려연구 통해 ‘통제 수단’ 개발해야하드웨어 선두주자 한국, 앞으로 중요성 커져과학적 측면에서의 문제는 시스템이 우리의 의도를 거슬러 행동하지 않도록 설계하는 방법을 아직 모른다는 겁니다. AI가 어떤 목표를 가지고 실현하는 방식이 인간에게 해롭지 않을지 확신할 수 없습니다. 이를 해결하기 위해 AI를 통제하고 검증할 수 있어야 합니다. 문제가 어떻게 발생할 수 있는지, 예방은 어떻게하는지, 연구를 통해 위험을 더 잘 평가하고 정량화해야 할 겁니다. 전세계 AI 안전성과 관련된 연구소들은 최근 위험 평가의 방법론과 기준을 점차 표준화하고 있습니다. 저는 주체성이란 것이 시스템에서 어떻게 형성될 수 있는지 이해하는 게 가장 중심적인 과제라 생각합니다. 아예 주체성이 없는 신뢰할 수 있는 AI 시스템을 구축하는 방법을 모색하는 것이 연구자로서 현재 가장 관심이 가는 사항 중 하나입니다. 이는 아직은 해결되지 않은 질문 중 하나입니다. 정책적으로 이런 문제를 학계와 산업계가 연구할 수 있도록 유도할 수도 있습니다. 예를 들어 AI개발자들에게 시스템이 안전하다고 여기는 이유와 근거를 의무적으로 제출하고 전문가들을 설득하도록 한다면 시스템을 보다 신뢰할 수 있을 겁니다. 안전성에 대한 더 많은 연구도 이뤄지겠죠. 한국은 AI 연구의 선두주자 중 하나입니다. 탁월한 연구 대학이 많고 실력 있는 많은 인재를 육성하고 있습니다. AI에 대한 인재풀도 강력합니다. 기계 학습 분야의 최고 학회들에 많은 논문을 발표하고 있고, 산업적 측면에서 보더라도 한국은 소프트웨어뿐만 아니라 하드웨어에서도 매우 강력한 입지를 유지하고 있습니다. 특히 한국이 고해상도 AI 칩 분야의 리더란 점은 굉장히 중요한 요소로 작용할 겁니다. 앞으로도 AI 진화에 대한 중요한 논의들이 이어질 겁니다. 인간이 미래의 위험을 감수하지 않고 새로운 기술의 혜택을 누릴 수 있는 현명한 개발 방식을 마련하도록 논의를 이어가길 바랍니다. “AI 오류 피해, 책임 소재 명확히 해야”-인공지능법률사무소 ‘인텔리콘’ 임영익 대표 -AI 활용도가 점점 더 높아지는 시대, 현재 AI는 공정하다고 보시나요. “AI는 인간을 배웁니다. 그런데 인간은 종교, 신념, 이념 등 생각의 프레임 또는 특정한 사고 체계를 가지고 있어 말이나 행동에서 편향적 행동이나 인지 편향을 보입니다. 결국 AI는 인간에게서 편향성도 배우기 마련입니다. AI의 편향을 막기 위한 다양한 연구가 현시대에 놓인 주요한 과제입니다.” -편향성을 막기 위해 어떤 방법이 사용되고 있나요. “현재는 AI의 편향을 사후적으로 제거하는 방법으로 3가지가 대표적입니다. 휴먼 피드백 강화학습은 학습된 모델이 내놓은 답변을 사람이 검토하고 피드백해 모델에 재학습(강화학습)해 편향을 줄이는 방법이고, 미세 조정은 이미 학습된 모델에 새로운 데이터를 추가로 학습시키는 방법인데 예를 들어 성별 균형이 맞춰진 데이터를 학습시켜 성별 편향을 줄이는 방법입니다. 마지막으로 출력 후처리 기법은 AI가 답변을 생성한 후 사람이 검토하고 수정하거나 AI 내부에 ‘이 답변이 공정한가’를 확인하고 점검하는 로직을 추가하는 방식입니다. 다만, 이런 방법도 완전하지 않습니다. 공정성을 판단하는 주체가 결국 인간이기 때문에 모든 사람을 만족하는 공정성이라는 것은 애초에 어려운 것이 될지 모릅니다. 그래도 인공지능의 공정성은 그 사회의 문화나 상황에 따라 변할 수 있는 ‘유동적 공정성’ 정도는 만족해야 합니다.” -편향된 AI는 사회적으로 악용될 여지가 있을까요. “가능성이 있습니다. 고도로 발전한 기술을 통해 사실을 교묘히 조작하고 가짜 뉴스를 대량으로 생산할 수 있습니다. 딥페이크 기술을 악용해 허위 정보를 유포하는 사례는 이미 현실로 드러난 바 있습니다. AI챗봇과 자동화된 댓글 시스템은 특정 이슈에 대한 여론을 조직적으로 조작하는 수단이 될 수도 있습니다. 정치적 편향성과 알고리즘 조작은 심각한 사회적 위험을 초래할 수 있습니다. 개발자가 의도적으로 편향된 데이터를 입력하면 특정 정치적 성향이나 이념을 강화하는 결과를 초래할 수 있고, 사용자들은 자신도 모르게 특정 관점에 영향을 받을 가능성이 높아집니다. 또 AI기술은 일부 국가나 정치인들이 대중을 감시하는 수단으로 악용될 수도 있고, 광범위한 개인정보 침해 문제도 내포하고 있습니다.” 공정한 AI 불가?…‘유동적 공정성’에 만족해야 할수도심각한 사회적 위험 초래 가능성 내포지속적이고 균형 있는 정책 보완 필요-AI가 인간의 일자리를 뺏어갈까요. “AI발전이 새로운 직업군을 만들어내고 양질의 일자리를 창출하는 데 기여할 것이란 점엔 이견이 없습니다. 하지만 현실적으로 AI가 만들어내는 일자리보다 사라지는 일자리가 더 많을 수 있습니다. 콜센터 상담원, 단순 사무직, 공장 근로자 같은 직업은 줄어들 가능성이 큽니다. 이런 문제를 해결하기 위해 몇가지 대응이 필요합니다. 첫째로 AI 관련 기술을 배우고 활용할 수 있도록 교육 기회를 확대하고 직업 재훈련 프로그램을 강화해야 합니다. 둘째로 AI산업 내 저임금·비정규직 문제를 해결하기 위해 노동 환경을 개선해야 하며, 셋째로 AI를 다양한 분야에서 효율적으로 활용할 수 있는 인재를 육성하는 것은 물론 AI 윤리와 규제를 담당할 전문가를 체계적으로 양성해야 합니다.” -AI산업 진흥과 규제를 위해 어떤 정책 및 제도적 지원이 필요할까요. “지난해 AI 기본법이 국회를 통과한 것은 국내 AI산업에 중요한 첫걸음입니다. 지속적이고 균형 있는 성장을 위해서는 다양한 분야에서 정책적 노력이 요구됩니다. 첫째로 AI윤리와 책임성을 강화해야 합니다. AI개발과 활용 과정에서 윤리적 기준을 명확히 하기 위해 가이드라인 수준이 아닌 더욱 구체적인 기준을 마련해야 할 필요가 있습니다. AI시스템의 오류 등으로 피해가 생겼을 때 개발자, 운영자, 사용자 간 책임 소재도 명확히 정의해야 합니다. 둘째로 AI 기술의 표준화와 안전성을 확보해야 합니다. 성능과 안전성을 체계적으로 평가할 수 있는 프로세스 구축과 국제적인 AI 규범에 맞춰 기술 표준을 정립하고 글로벌 협력과 공동 연구로 국제 경쟁력을 확보해야 합니다. 나아가 AI시스템의 오작동이나 예상치 못한 결과를 사전에 검증할 수 있는 독립적인 AI 안전 연구소에 많은 예산을 투입해야 할 것입니다. 세 번째로 AI 인력을 양성하고 산업 경쟁력을 강화해야 합니다. 초·중·고 교육과정에 AI 기초 교육을 포함하는 것과 함께 성인을 대상으로 한 재교육 프로그램을 마련해 미래 인재와 성인이 새로운 산업 환경에 적응할 수 있도록 해야 합니다. 창업지원, 연구개발 투자 확대, 세제 혜택 확대 등으로 AI 스타트업 성장도 적극적으로 촉진해야 합니다.”

서울시가 인공지능(AI) 기술의 윤리적 활용을 제도화하는 조례 개정에 나섰다. 서울시의회 김동욱 의원(국민의힘, 강남5)은 제329회 임시회에서 ‘서울시 미래전략과제 발굴 및 육성 조례 일부개정조례안’을 대표발의했다. 이번 개정안은 인공지능(AI), 자율주행, 빅데이터 등 첨단 기술이 빠르게 발전 및 확산하면서 시민 권익 침해와 사회적 우려가 증가하는 현실을 반영한 것이다. 서울시는 이러한 위험에 대응하기 위한 정책적 기반이 미흡한 상황이었으며, 이번 조례 개정으로 첨단 기술 발전, 혁신과 함께 윤리적 기술 활용을 미래 도시 전략의 일부로 명확히 포함하게 된다. 개정안은 서울시가 추진하는 미래전략과제의 범위에 ‘인공지능 기술의 윤리적 활용 및 사회적 책임 대응’을 포함하도록 규정했다. AI 관련 정책을 수립할 때 ▲윤리 원칙 및 책임 기준 마련 ▲알고리즘 편향 방지 ▲고위험 기술 영향평가 기준 수립 ▲개인정보 보호 ▲공공·민간의 윤리적 활용 유도 등을 추진할 수 있도록 하며, 정책 수립 과정에서 전문가, 기관, 시민사회의 의견을 수렴할 수 있도록 했다. 김 의원은 “기술 발전이 매우 빠른 속도로 이뤄지고 있는 오늘, 이러한 혁신이 우리 삶에 많은 편의와 효율을 제공하는 것은 기쁜 일이다”라고 밝히며, 이와 동시에 “그러나 발전하는 첨단 기술이 공공성과 사회적 책임 위에 작동할 수 있게끔 하는 ‘혁신’과 ‘규제’ 간의 합리적 균형을 유지할 수 있도록 하는 최소한의 공적 기준을 마련할 필요가 있다”고 강조했다. 또한 김 의원은 “AI 기술이 시민의 신뢰를 얻기 위해서는 혁신과 함께 투명하고 책임 있는 운영이 함께 이뤄져야 한다”면서 “불필요한 규제를 철폐하는 동시에 최소한의 책임을 부여할 수 있도록 ‘기술’과 ‘윤리’가 공존하는 서울시를 만들고, 혁신 분야에서 세계를 선도할 수 있도록 지속적인 제도적 기반을 마련하겠다”고 다짐했다. 이번 조례 개정안은 관련 상임위원회 심사를 거쳐 본회의에 상정될 예정이다. 통과 시 서울시는 AI 관련 정책 및 사업 추진에 있어 윤리성과 시민 권익 보호를 핵심 원칙으로 삼을 수 있는 제도적 기반을 갖추게 된다.

한국컴플라이언스협회(이사장 김은성)가 주최한 ‘제3회 대한민국 컴플라이언스 컨퍼런스’가 27일 서울 대한상공회의소 국제회의장에서 열렸다. ‘사람에 의한, 사람을 위한 컴플라이언스(Compliance by People, for People)’를 주제로 열린 이번 행사에는 컴플라이언스 분야 실무자와 전문가 약 200여명이 참석했다. 이번 컨퍼런스는 컴플라이언스의 본질이 사람의 행동, 의사결정, 책임감에 기반한다는 점을 강조하며 다양한 주제를 다뤘다. 오전 세션에서는 2025년 컴플라이언스 동향과 사람 중심 윤리 문화의 중요성에 관한 기조연설을 시작으로, HR 컴플라이언스를 통한 일터에서의 윤리적 책임과 법적 준수 방안을 논의했다. 특히 급변하는 글로벌 규제 환경 속에서 기업들이 직면하는 컴플라이언스 과제와 해결책에 대한 실질적인 사례가 공유됐다. 오후 세션에서는 인공지능(AI) 규제와 기술 발전 사이의 균형, 정보보안에서의 개인 데이터 보호 책임, 환경 분야의 지속가능성을 사람 중심 관점에서 조명했다. AI 윤리 세션에서는 빠르게 발전하는 인공지능 기술이 가져올 윤리적 문제와 이를 해결하기 위한 인간 중심의 접근법이 소개되어 관심을 모았다. 이어 환경 컴플라이언스와 지속가능성에 대한 세션에서는 기업의 사회적 책임과 환경적 의무를 이행하는 과정에서 사람 중심 관점이 어떻게 적용될 수 있는지를 논의했다. 한 참석자는 “컴플라이언스를 단순한 법적 의무가 아닌 조직 문화의 핵심 요소로 재해석하는 시각이 매우 새롭고 유익했다”라고 평가했다. 김은성 이사장은 “이번 컨퍼런스를 통해 컴플라이언스가 단순한 법규 준수를 넘어 사람을 중심에 두는 조직 문화의 기반이 되어야 한다는 메시지를 전달할 수 있어 의미가 컸다”며 “앞으로도 한국컴플라이언스협회는 기업과 기관이 사람 중심의 컴플라이언스 체계를 구축할 수 있도록 다양한 프로그램과 지원을 계속할 것”이라고 말했다.

오세훈 서울시장의 재산이 2023년 말 약 59억 7000억원에서 지난해 말 기준 약 74억원으로 약 14억 3000만원 늘어난 것으로 나타났다. 27일 정부공직자윤리위원회가 관보로 공개한 2025년 공직자 정기 재산변동사항에 따르면 가족 소유 재산을 포함한 오 시장의 지난해 말 기준 재산은 74억 553만원으로 집계됐다. 신고 재산이 늘어난 것은 증권이 많이 늘어났기 때문으로 보인다. 본인 증권 중 미국의 대표적 반도체 기업인 엔비디아 1100주, 인공지능(AI) 기업인 팔란티어테크 1310주, 양자컴퓨터 관련주인 아이온큐 2500주, 소프트웨어 기업인 마이크로스트래티지 1241주 등이 모두 증가했다. 주로 미국 기술주 위주로 집중적으로 매매한 것으로 보인다. 이에 따라 본인과 배우자를 모두 포함한 증권 증가액은 2023년 말 3억 9700만원에서 지난해 말 28억 9500만원으로 늘었다. 특히 배우자 상장주식은 2023년 말엔 전혀 없었으나, 지난해 말까지 18억 4300만원이 늘어 눈길을 끈다. 예금은 본인과 배우자를 합해 41억 4470만원에서 30억 7300만원으로 10억 7170만원 줄었다. 보험 만료와 금융상품 해지 등으로 보인다. 본인과 배우자를 포함한 토지 재산은 공시지가 변동으로 종전보다 321만원 늘어난 1억 3449만원을 신고했다. 오 시장의 강남구 대치동 다세대주택 가액은 12억 800만원으로 변동이 없었다.