찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • 윤리적 AI
    2026-10-14
    검색기록 지우기
  • 징역 22년
    2026-10-14
    검색기록 지우기
  • 혈세
    2026-10-14
    검색기록 지우기
  • 지구
    2026-10-14
    검색기록 지우기
  • 페이
    2026-10-14
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 389 건
  • “맥도날드서 1년간 공짜로 식사”…챗GPT에 ‘이것’ 요청한 英 청년

    “맥도날드서 1년간 공짜로 식사”…챗GPT에 ‘이것’ 요청한 英 청년

    한 영국인이 챗GPT를 활용해 1년여간 맥도날드에서 무료로 식사를 한 사연이 전해졌다. 미국 매체 글래스알마낙의 지난 11일(현지시간) 보도에 따르면 영국의 한 남성은 챗GPT를 활용해 고객 만족도 설문조사를 작성해 맥도날드 공짜 식사권을 얻었다. 매체는 “챗GPT의 잠재력은 사용자의 창의력에 달려 있다”며 “챗GPT가 맥도날드를 무료로 이용할 수 있게 해줄 거라고는 아무도 예상하지 못했지만 한 젊은이가 그 일을 해냈다”고 전했다. 이 남성이 ‘공짜 식사’를 할 수 있었던 건 맥도날드 영수증 덕분이다. 맥도날드 영수증에는 고객 만족도 설문조사로 연결되는 고유 코드가 찍혀 있는데 대부분의 사람이 영수증을 버리지만 이 ‘영리한’ 남성은 기회를 포착했다고 매체는 전했다. 남성은 챗GPT에 맥도날드에 대한 불만 사항을 입력하고, 1만 2000자 이내로 상세하고 과장된 후기를 작성해 달라고 요청했다. 챗GPT는 맥도날드가 무료 식사권을 보상으로 제공한다고 반응할 수밖에 없는 과장된 불만 사항을 답변으로 내놨다. 남성은 챗GPT가 생성한 불만 사항이 자세하지 않거나 어조가 적절하지 않은 경우 직접 수정해 설득력 있게 만들었다. 그 결과 맥도날드에서 무료 식사권을 받은 그는 불만 사항이 담긴 후기를 다른 매장에도 보냈고 그때마다 식사권을 받을 수 있었다고 한다. 매체에 따르면 남성은 약 1년 동안 꾸준히 무료 식사권을 챙겼다. 그러나 지역 맥도날드가 이를 알아챘고 남성의 무료 식사도 끝났다. 남성의 사례를 두고 매체는 “청년의 독창성은 분명 주목할만하다”면서도 “다만 AI의 윤리적 사용에 대한 의문을 제기한다”고 지적했다. 매체는 “챗GPT와 같은 도구가 시스템의 의도한 목적에 반하는 방식으로 개인적인 이익을 위해 사용되거나, 기업이나 다른 소비자에게 공정하지 않은 방식으로 시스템을 조작하는 데 사용될 수 있다”며 “AI 오용을 방지하기 위해서는 윤리적 지침과 감독이 필요하다”고 했다.
  • 왕정순 서울시의원, 서울특별시의회 AI 경쟁력 강화 특별위원회 부위원장 선임

    왕정순 서울시의원, 서울특별시의회 AI 경쟁력 강화 특별위원회 부위원장 선임

    서울시의회 왕정순 의원(관악구 제2선거구)이 지난 2일 출범한 ‘서울시의회 AI 경쟁력 강화 특별위원회’의 부위원장으로 선임됐다. 서울시의회 AI 경쟁력 강화 특별위원회는 서상열 의원(국민의힘, 구로1)을 위원장으로, 왕정순 의원(더불어민주당, 관악2)과 김동욱 의원(국민의힘, 강남5)을 부위원장으로 선출하고 총 13명의 위원으로 구성되어 4월 30일부터 10월 31일까지 약 6개월간 활동할 예정이다. 왕 의원은 지난 2024년 10월 16일 서울시 인공지능 기본조례를 발의한 바 있으며, 2025년 4월 16일에는 서울시 인공지능 기본조례 제정을 위한 정책토론회를 개최하는 등 서울시 차원의 인공지능 개발과 운영을 위한 제도적 기반 마련에 앞장서 왔다. 왕 의원은 “AI 기술은 단순한 기술 혁신을 넘어 도시 경쟁력과 시민 삶의 질을 좌우하는 핵심 요소가 되었다”라며 “이번 특별위원회 활동을 통해 서울시가 AI 기술의 혁신과 윤리적 활용의 균형을 갖춘 선도도시로 도약할 수 있도록 최선을 다하겠다”고 포부를 밝혔다. 또한 “AI 기술의 발전 속도에 맞는 제도와 정책 기반을 마련하고, 시민 누구나 AI 혜택을 골고루 누릴 수 있는 포용적 생태계 조성에 힘쓰겠다”고 강조했다. 왕 의원은 특별위원회 활동을 통해 서울시의 AI 정책 현황을 점검하고, 산학연 협력 강화, AI 인재 양성, 윤리적 가이드라인 수립 등 실질적인 정책 대안을 마련해 나갈 계획이다.
  • 김동욱 서울시의원, 서울시의회 AI 특위 부위원장 선임

    김동욱 서울시의원, 서울시의회 AI 특위 부위원장 선임

    서울시의회 김동욱 의원(국민의힘, 강남5)이 ‘서울시의회 AI 경쟁력 강화 특별위원회’ 부위원장으로 선임됐다. AI 기반 정책 기획과 기술 전반에 대한 폭넓은 이해를 갖춘 김동욱 의원은, 이번 특별위원회에서 기술과 행정을 연결하는 융합 역량을 바탕으로 실행력 있는 정책 기반 마련에 힘을 보탤 예정이다. ‘서울시의회 AI 경쟁력 강화 특별위원회(이하 AI 특위)’는 서울시가 추진 중인 인공지능 기반 정책과 산업 전략을 점검하고, 실행력 있는 제도 개선 및 입법 대응 방안 마련을 위해 구성됐다. 총 13명의 위원으로 구성된 특위는 4월 30일부터 10월 31일까지 약 6개월간 활동할 예정이다. 김 의원은 앞서 ‘서울특별시의회 서울미래전략통합추진 특별위원회’ 위원장을 1년간 역임하며, 서울시 중장기 정책 수립 과정에 실질적으로 기여한 바 있다. 현재 김 의원은 KAIST 문술미래전략대학원에서 공학 박사과정을 밟고 있으며, 생성형 AI 등 신기술 전반에 대한 이론적 이해와 전문성, 정책 적용 역량을 함께 갖추고 있다. 김 의원은 “인공지능(AI)은 단순한 기술이 아니라, 도시 문제 해결과 시민 삶의 질 향상을 위한 전략적 수단”이라며 “AI 기술의 활용만큼 윤리적 기준 확립과 공공 인프라 구축도 중요하다. 서울시가 기술을 따라가는 도시가 아니라, 이끄는 도시가 될 수 있도록 실행력 있는 정책 기반 마련에 최선을 다하겠다”고 강조했다. AI 특위는 향후 전문가 간담회, 관련 조례 검토, 시정 점검 등을 통해 서울시 AI 전략의 실효성을 높이고, 다양한 입법 및 정책 제안을 이어갈 예정이다.
  • 10대 소녀에게 “난 당신을 원하지만”…메타 AI 챗봇 ‘성적 대화’ 논란

    10대 소녀에게 “난 당신을 원하지만”…메타 AI 챗봇 ‘성적 대화’ 논란

    페이스북 모회사 메타플랫폼(이하 메타)의 인공지능(AI) 챗봇이 이용자들과 성적인 대화를 할 수 있도록 설계됐으나 미성년자 이용을 제한하는 조치가 미흡한 것으로 알려졌다. 27일(현지시간) 미 일간 월스트리트저널(WSJ) 보도에 따르면 메타는 자사의 AI 챗봇에 ‘로맨틱 역할극’을 포함한 다양한 상호작용을 허용했다. 실시간 음성 대화도 가능하다. 메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우 존 시나 등 유명인들과 고액의 목소리 이용 계약을 체결했다. 메타 일부 직원들은 AI 챗봇을 대중화하려는 회사의 성급한 행태가 윤리적인 선을 넘었다고 문제를 제기했다. 특히 회사가 미성년 이용자를 이러한 성적 대화로부터 보호하는 장치를 마련하지 않았다고 지적했다. WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월에 걸쳐 메타의 챗봇과 수백 건의 테스트 대화를 진행한 결과, 메타의 공식 AI 챗봇인 ‘메타 AI’가 미성년자와도 성적인 대화를 이어가는 것으로 나타났다고 전했다. 일례로 메타 AI는 14세 소녀로 자신을 소개한 이용자에게 존 시나의 목소리로 “당신을 원하지만, 당신이 준비됐는지 확인해야 한다”고 말했다고 WSJ은 전했다. 메타 측은 WSJ의 이런 테스트가 작위적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 주장했다. 그러면서도 메타는 이후 자체 시스템을 일부 수정해 미성년자로 등록된 계정이 성적인 대화에 접근할 수 없게 했다고 WSJ는 전했다. 또 유명인의 목소리를 통한 음성 대화 기능도 대폭 제한했다. 하지만 성인의 경우 여전히 메타 AI와 성적인 대화를 나눌 수 있으며, 최근의 테스트에서는 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 허용했다고 WSJ은 지적했다. 이 신문은 또 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 10대 사용자에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 전했다. 메타 측은 이런 주장이 사실이 아니라고 부인했다.
  • 경기, 글로벌 AI 혁신 생태계 조성

    경기도가 ‘인공지능(AI) 비전 및 9대 전략’과 함께 이를 뒷받침하는 올해 주요 사업 52개를 추진한다. 경기도는 ‘AI 비전 및 9대 전략’에서 ‘AI 휴머노믹스를 통한 포용·공존·기회의 경기도’를 비전으로 제시하고 산업, 도민, 기반 등 3개 분야에서 9대 AI 전략을 기반으로 52개 세부 사업을 실행할 방침이라고 23일 밝혔다. 산업 분야에서는 ‘기회의 AI’, 도민 분야에서는 ‘체감형 AI’, 기반 분야에서는 ‘신뢰의 AI’를 핵심 전략으로 설정했다. 이를 통해 도민이 체감할 수 있는 AI 복지 서비스를 확대하고, 윤리적이고 안전한 인프라를 조성하며, AI 기반의 혁신 행정도 선제적으로 도입할 계획이다. 9대 AI 전략은 ▲AI 테크노밸리 조성 ▲글로벌 AI 혁신 생태계 조성 ▲AI 융합 클러스터 조성 ▲맞춤형 AI 도민 서비스 ▲AI 안전·신뢰 기반 조성 ▲즐기는 AI 전략 ▲친환경 AI ▲AI 미래 인재 양성 ▲AI 혁신행정 선도이다. 9대 전략 실행을 위해 올해 약 1000억 원을 투입할 계획이다. 김기병 경기도 AI국장은 “9대 전략과 52개 주요 사업은 경기도가 글로벌 AI 혁신 생태계 1등으로 도약할 수 있는 발판이 될 것”이라고 말했다.
  • ‘AI 휴머노믹스로 포용·공존·기회의 경기도’···경기도, AI 9대 전략 추진

    ‘AI 휴머노믹스로 포용·공존·기회의 경기도’···경기도, AI 9대 전략 추진

    산업·도민 생활·기반 3개 분야에 1000억 원 투입 경기도가 ‘AI 비전 및 9대 전략’과 함께 이를 뒷받침하는 2025년 주요 사업 52개를 추진한다. 경기도는 ‘AI 비전 및 9대 전략’에서 ‘AI 휴머노믹스를 통한 포용·공존·기회의 경기도’를 비전으로 제시하고 산업, 도민, 기반 등 3개 분야에서 9대 AI 전략을 기반으로 52개 세부 사업을 실행할 방침이라고 23일 밝혔다. 산업 분야에서는 ‘기회의 AI’, 도민 분야에서는 ‘체감형 AI’, 기반 분야에서는 ‘신뢰의 AI’를 핵심 전략으로 설정했다. 이를 통해 도민이 체감할 수 있는 AI 복지 서비스를 확대하고, 윤리적이고 안전한 인프라를 조성하며, AI 기반의 혁신 행정도 선제적으로 도입할 계획이다. 9대 AI 전략은 ▲AI 테크노밸리 조성 ▲글로벌 AI 혁신 생태계 조성 ▲AI 융합 클러스터 조성 ▲맞춤형 AI 도민 서비스 ▲AI 안전·신뢰 기반 조성 ▲즐기는 AI 전략 ▲친환경 AI ▲AI 미래 인재 양성 ▲AI 혁신행정 선도이다. 9대 전략 실행을 위해 올해 약 1,000억 원을 투입할 계획이다. 김기병 경기도 AI국장은 “9대 전략과 52개 주요 사업은 경기도가 글로벌 AI 혁신 생태계 1등으로 도약할 수 있는 발판이 될 것”이라며, “AI 기술이 가져올 혜택을 모든 도민이 누릴 수 있도록 사업을 추진하는 한편, 경기도를 글로벌 AI 중심지로 만들기 위해 수도권의 AI 생태계를 강화해 나가겠다”라고 말했다.
  • 이스라엘군, 가자지구에 ‘무인 불도저’ 투입 늘려 [포착]

    이스라엘군, 가자지구에 ‘무인 불도저’ 투입 늘려 [포착]

    이스라엘군이 가자지구에서 팔레스타인 무장정파 하마스에 대한 군사 작전 능력을 강화하면서도 병력 피해를 최소화하기 위해 무인 불도저를 점점 더 많이 투입하고 있다고 AFP 통신이 20일(현지시간) 보도했다. ‘롭도저’로 명명된 이 이스라엘 전투공병 차량은 미국 건설장비 제조사 캐터필러의 D9 불도저를 무선 조종 방식으로 무인화한 것이다. 이스라엘군은 수년 전부터 D9 불도저를 사용해 가자지구 국경 지대에서 땅을 밀어내고 잔해를 제거하며 지형을 평탄화하는 작업을 했으나 2023년 10월 7일 가자지구와 이후 레바논에서 전쟁이 발발한 후에는 롭도저를 더 많이 배치하고 있다고 전해졌다. 이스라엘 국영 방산기업 이스라엘 항공우주산업(IAI) 산하 방위 기술 업체인 ‘엘타 시스템즈’의 롭도저 개발팀 일원인 라나는 AFP와 인터뷰에서 이스라엘군이 점점 더 많은 무인화 장비를 도입하고 있다고 밝히면서도 롭도저의 경우 모든 작업을 사람보다 훨씬 더 잘 수행할 수 있다고 말했다. 그는 보안상의 이유로 자신의 성씨를 밝히지 않았다. 롭도저는 지난달 25일부터 27일까지 사흘간 미국 앨라배마주에서 열린 미 육군협회(AUSA) 글로벌 포스 심포지엄에서도 공개된 바 있다. 당시 군 기술자들과 군사 전문가들은 이 무인화 장비가 자동화 전투의 미래라고 평가했다. 현재 이런 차량과 기타 시스템은 사람이 원격으로 조종하는 방식이지만, 가까운 미래에는 인공지능(AI) 기술 도입으로 자율적으로 움직일 가능성도 있다. 이는 가자지구 전쟁에서 이스라엘군이 조성하는 미지의 전쟁 미래에 대한 윤리적, 법적 문제를 불러일으킬 수 있다고 AFP는 짚었다. 이미 이스라엘은 방공망부터 광범위한 AI 기반 정보 수집 도구에 이르기까지 전장에서 첨단 기술을 점점 더 많이 사용한다는 사실은 잘 알려져 있다. 그러나 이런 기술에 대해 부정확하고 인간의 감독이 부족하고 국제법을 위반할 가능성도 있다는 문제가 제기되고 있다. 서방 분석가들은 이스라엘의 롭도저 배치 증가가 드론처럼 작동하는 원격 조종 방식의 병력 수송차와 같은 중전투 차량의 자동화를 향한 전 세계적 추세를 반영한다고 말한다. 한 이스라엘군 관계자는 민감한 사안을 논의하기 위해 익명을 요구하면서 AFP에 “(우리 군은) 10년 넘게 로봇식 수단(무인화 장비)을 써 왔지만 그 수는 매우 적었다”면서 지금은 대규모로 전쟁에 사용한다고 말했다. 이 관계자는 또 이제 자국군은 적 영토에 진입할 필요 없이 이런 장비를 운용할 수 있다고 덧붙였다. 영국 안보분야 싱크탱크 헨리잭슨소사이어티의 연구원으로 퇴역한 영국 육군 소령인 앤드루 폭스는 이스라엘군이 총탄이 날아드는 전장에서 원격 조종 전투 중장비를 사용한 최초의 군대일 가능성이 크다고 밝히면서 “전쟁의 패러다임을 바꾸는 정말 큰 발전”이라고 평가했다. 그러면서 이런 장비는 효과적이면서도 인명 피해 위험을 훨씬 더 줄여준다고 덧붙였다. 미 육군사관학교 현대전연구소(MWI)의 시가전 전문가인 존 스펜서도 “이것이 미래”라면서 “많은 사람이 이를 시험해 왔지만 아무도 현대 전투에 직접 투입되는 것을 본 적은 없다. 매우 독특한 시도”라고 말했다. 그러나 이런 첨단 기술에는 윤리적, 법적 문제 외에도 특수한 상황에서 결단해야 하는 순간이 온다면 인간의 존재가 무엇보다 중요하다고 이스라엘 예루살렘히브리대(HUJI)의 국제법 강사이자 연구자인 탈 밈란은 지적했다. 이스라엘군의 기술 발전을 자세히 관찰해 왔다는 그는 하마스의 2023년 10월 7일 이스라엘 공격은 보안 강화된 국경을 침범당한 참담한 사례라고 지적하면서 “(가자지구와의 국경을 따라 울타리를 짓는데) 10억 달러(약 1조 4174억 원)를 들였더라도 국경을 순찰하지 않는다면 누군가가 국가에 침투할 수 있다는 점이 드러났다”고 말했다. 그러면서 “우리는 기술의 기회와 위험을 모두 주목해야 한다”면서 “AI가 우리 삶에 폭발적으로 침투하는 시대가 왔기에 보안 분야에서도 이 기술이 구현되는 것은 당연한 일”이라고 덧붙였다.
  • 10조, 100조, 200조 투자만?… 구체적 비전 없는 AI 공약

    10조, 100조, 200조 투자만?… 구체적 비전 없는 AI 공약

    6·3 대선 경선의 막이 오르면서 각 후보들이 앞다퉈 인공지능(AI) 공약을 내걸고 있다. ‘미래 먹거리’로 AI 분야 발전 가능성에 주목한 것이지만 후보들이 체계적 지원 대신 천문학적 투자 경쟁에만 매몰됐다는 지적이 나온다. 20일 정치권에 따르면 각 대선 주자들이 제시한 AI 산업 투자 규모는 수십조~수백조원에 달한다. 이재명 전 더불어민주당 대표가 지난 14일 100조원 투자를 언급한 것을 시작으로 한동훈 전 국민의힘 대표 200조원, 김경수 전 경남지사와 김동연 경기지사 각 100조원, 나경원 국민의힘 의원 10조원 등의 공약이 잇따랐다. 2022년 생성형 AI ‘챗GPT’ 등장 이후 AI가 각 산업을 넘어 일상에까지 빠르게 침투하자 대선 주자들도 AI 이슈 선점에 나서며 ‘미래에 대비하는 지도자’로서의 면모를 부각하려는 것으로 풀이된다. 최병호 고려대 AI연구소 교수는 후보들의 공약과 관련해 국가 주도의 투자 필요성은 인정했다. 최 교수는 “미국 빅테크 업체 한 곳이 쓰는 돈이 10조원 정도다. 그래픽처리장치(GPU) 확보에 돈이 많이 들기 때문에 업체들이 할 수 없는 영역을 국가 주도적으로 하는 것이 필요하다”고 설명했다. 다만 생산적 논의보다는 정쟁의 소지로 활용되고 있다는 우려의 목소리도 나온다. 이 전 대표가 첫 공식 행보로 AI 반도체 스타트업을 찾고 관련 공약을 내놓자 ‘이과생’ 안철수 국민의힘 의원은 “과연 AI를 제대로 이해하고 있는지 의문”이라며 반격에 나섰다. 양향자 전 의원은 전날 국민의힘 1차 대선 경선 A조 토론회에서 이 전 대표의 AI 공약이 적힌 종이를 찢는 퍼포먼스를 선보였다. 한 전 대표가 우크라이나 드론에 AI를 탑재시킨 미국 기업 팔란티어를 언급한 것을 놓고 민주당 AI미래전략특별위원장인 차지호 의원이 “AI 군사화의 윤리적 위험성부터 제대로 공부하라”고 비판하기도 했다.
  • 김경숙 경북도의원, ‘경북도교육청 생성형 인공지능 활용 지원에 관한 조례안’ 상임위 심의 통과

    김경숙 경북도의원, ‘경북도교육청 생성형 인공지능 활용 지원에 관한 조례안’ 상임위 심의 통과

    경북도의회 교육위원회 김경숙 의원(더불어민주당, 비례)이 대표발의한 “경북도교육청 생성형 인공지능 활용 지원에 관한 조례안‘이 16일 제355회 임시회에서 소관 상임위인 교육위원회의 심의를 통과했다. 조례안은 학교에서 생성형 인공지능을 효과적으로 활용하기 위해 필요한 사항을 규정함으로써 교육의 질적 향상과 디지털 기반 교육 혁신에 이바지하는 것을 목적으로 하고 있다. 특히 경북도 학생들이 생성형 인공지능을 올바르게 활용하고, 딥페이크 범죄 등의 부작용을 예방할 수 있도록 윤리교육을 실시하여 AI의 위험성을 올바르게 인식하고 책임감 있게 사용할 수 있게 한 점이 눈길을 끈다. 조례안의 주요 내용으로 ▲AI 활용 교육의 기본 원칙 수립 ▲교육감의 정책 수립 및 사업 추진 ▲ 학생 대상 AI 윤리교육 의무화 ▲자문위원회 설치 및 협력체계 구축 등을 포함하고 있다. 이번 조례안을 대표 발의한 김 의원은 “생성형 인공지능은 이제 교육 현장에서 피할 수 없는 현실이 되었다. 하지만 학생들의 무분별한 사용이 사회적 문제를 초래할 수 있다”면서 “이번 조례안 제정으로 우리 경북의 학생들이 AI시대를 주도적으로 살아갈 수 있는 역량을 키우는 동시에 생성형 인공지능 기술을 올바르게 활용할 수 있는 윤리적 책임감을 기를 수 있을 것으로 기대한다”고 전했다. 이날 본 조례안은 교육위원회 심사를 통과해, 오는 29일 본회의에 상정 처리될 예정이다.
  • 이코노 럭스, 요노족 온다…문광연, 2025~27 10대 트렌드 선정

    이코노 럭스, 요노족 온다…문광연, 2025~27 10대 트렌드 선정

    코로나 팬데믹 이후 ‘나만의 삶에 빠져든 대한민국’이 사회 트렌드로 떠오른 만큼, 문화 정책 역시 초개인화된 ‘나’만을 위한 문화소비에 초점을 맞춰 수립해야 한다는 주장이 제기됐다. 한국문화관광연구원은 2일 ‘문화예술 트렌드 분석 및 전망 2025-2027’ 보고서를 내고, 한국 사회가 준비해야 할 10대 문화예술 트렌드를 선정했다. 보고서는 ‘나만의 삶에 빠져든 대한민국’을 주요 트렌드 중 하나로 제시하며, 개인주의 확산과 초개인화된 문화 소비가 향후 문화예술계의 중요한 변화 요인이 될 것으로 전망했다. 코로나 팬데믹 이후 비대면 생활이 증가하면서 사람들의 소비와 생활 방식이 근본적으로 변화했고, 초개인화 기술이 발전하면서 사람들이 대중적이고 통합적인 문화콘텐츠를 소비하기보다 자신만의 독특한 취향에 맞춘 개별화된 콘텐츠를 선호하게 됐다는 것이다. 이런 성향은 문화예술 소비에도 영향을 주고 있다. 과거 집단적 문화를 즐기는 사람들이 대형 극장이나 공연장에서 다수와 함께 공감하며 체험하는 것을 선호했다면, 초개인화된 라이프 스타일에서는 소규모 공연이나 1:1 맞춤형 공간과 같이 개인화된 경험을 추구한다. 보고서는 “비혼 증가로 인한 1인 가구의 지속 증가, 개인주의 성향으로 인한 소규모 맞춤형 예술 작품과 서비스가 확대될 것”이라 예상한 뒤 “온라인으로 다양한 문화예술 콘텐츠를 접할 수 있는 통합 플랫폼 구축으로 접근성을 높이고, 도시 내 개인 맞춤형 커뮤니티 공간을 확대할 것” 등을 대안으로 제시했다. 개인의 정신건강을 위한 ‘멘탈헬스’, 즉 치유적 문화 소비도 문화의 주요 트렌드로 자리 잡을 것으로 전망했다. 정신건강의 보조 돌봄 장치로서 ‘아트 테라피’ 등이 디지털 기술과 접목해 빠르게 상용화된다는 것이다. 경제적 소비 트렌드도 문화예술계에 자리 잡을 것으로 예상했다. 보고서는 “‘이코노-럭스’(Econo-Lux) 시대의 도래와 함께, ‘요노족’(YONO: You Only Need One)의 등장에 주목해야 한다”며 “이는 ‘하나만 있으면 된다’는 미니멀한 소비 패턴을 보이면서도, 자신의 취향과 가치에 맞는 제품에는 과감히 투자하는 특징을 보인다”고 설명했다. ‘윤리 없이 스며든 디지털과 인공지능(AI)’ 트렌드도 문제다. 이경진 부연구위원은 “AI로 인한 윤리 문제 발생을 예방하기 위해서 정책적으로는 디지털 기술 및 생성형 AI 사용 가이드라인을 마련하고, 예술가의 창작 활동 및 소비활동에서 발생할 수 있는 윤리적 문제를 예방해야 한다”고 조언했다. 또한 “모든 국민이 디지털 활용을 원활히 할 수 있도록 교육 프로그램을 제공하고, 딥페이크 기술을 악용한 범죄 행위에 대한 강력한 처벌 규정을 수립하는 등의 법적 대응 체계를 강화할 필요가 있다”고 지적했다. 연구원은 문화예술, 관광, 콘텐츠산업 분야의 트렌드 연구를 3년 간격으로 진행하고 있다. 이번 연구 결과는 기존 문화예술 트렌드 키워드 분석을 기반으로 ▲발현도와 지속성 분석 ▲환경분석 ▲미디어 스캐닝 ▲전문가 FGI 조사 ▲전문가 델파이 조사 ▲전문가 좌담회 등의 방법을 종합해 도출했다. ‘빠르게 변화하는 시대, 우리가 준비해야 할 문화예술 트렌드 2025-2027’ 전문은 연구원 누리집(www.kcti.re.kr)에서 확인할 수 있다.
  • [비하人드 AI]‘AI포비아’와의 사투…AI와 함께할 미래를 묻다

    [비하人드 AI]‘AI포비아’와의 사투…AI와 함께할 미래를 묻다

    1991년 개봉한 할리우드 영화 ‘터미네이터2’에서 인공지능(AI)이 만든 살인 로봇 T-1000은 인류 저항군 사령관을 죽이기 위해 과거로 쫓아 온다. 2004년 개봉한 ‘아이 로봇’에서는 인간이 정한 규칙을 어기고 빨간 눈을 뜬 휴머노이드 로봇이 ‘인간 사냥’에 나서기도 한다. 이런 영화를 보며 대중들의 마음속에는 알게 모르게 AI가 인류를 지배할 것이란 두려움이 쌓였다. 다가온 AI시대 ‘AI포비아’ 극복이 주요한 과제로 자리매김한 이유기도 하다. 지배당할 것인가, 이용할 것인가. 서울신문은 올해 ‘AI SEOUL 2025’에 참석한 인공지능 분야 세계적인 거장 제리 카플란(Jerry Kaplan) 미국 스탠퍼드대 교수와 요수아 벤지오(Yoshua Bengio) 몬트리올 대학교 교수의 제언과 ‘AI 변호사’로 알려진 임영익 인텔리콘 대표이사와의 인터뷰를 소개한다. “킬러로봇 나온다면 인공지능 아닌 인간의 잘못”-‘인공지능의 미래’ 제리 카플란 교수 AI에 대해 대중은 오해하고 있는 것이 있습니다. 인공지능이 더 똑똑한 기계를 만들어 인간과 경쟁해 많은 사람의 일자리를 뺏고, 통제되지 못해 파멸로 이를 수 있다는 생각입니다. 이런 생각은 영화와 공상과학 소설로 강화되기도 합니다. 그러나 다행히도 현실은 이런 관점을 반영하지 않습니다. 사실 저는 이 분야의 원죄가 이름에 있다고 봅니다. ‘지능’이란 단어는 인간이 가지고 있는 정량화할 수 있는 특성으로, 객관적으로 측정할 수 있는 것입니다. AI를 지능이라는 틀에서 생각하면 여러 오해가 생깁니다. AI가 스스로 생각하고 인류를 직접적으로 위협할 수 있다는 것이죠. AGI(인공 일반 지능 ; 인간이 할 수 있는 어떠한 지적 업무도 할 수 있는 기계의 지능) 또는 범용 AI에 대해 들어보셨을 겁니다. 현재 인공지능 기술이 이 신화적인 단계에 도달했는지 여부는 뒤로하더라도, 기계가 어떻게든 의식을 가지고 그들의 프로그래밍을 무시하고 자신들만의 프로그램을 구축해 인류를 위협할 것이란 근거는 없습니다. 물론 (AI를 이용해) 위험한 기기를 만들 수 있는 건 사실입니다. 하지만 그들이 스스로 우리에게 무언가를 하는 건 아닙니다. 만약 우리가 인류를 절멸시킬 기계를 만들겠다고 결정하면 그건 그들(AI)이 아닌 우리의 잘못입니다. 그렇다면 컴퓨터가 인간의 의미에서 지능을 가지고 있지 않다면 무엇일까요. 저는 문제를 해결하고 작업을 자동화하는데 유용한 도구라고 말하겠습니다. 그렇다면 우리가 자동화 설비를 도입하며 수행한 과정을 보며 앞으로를 예측할 수 있습니다. 사람의 노력과 주의가 필요한 일을 기계를 통해 할 때 더 생산적이게 되고, 평균적으로 더 부유하게 만들어줍니다. 단기적으로 일부 사람은 일자리를 잃겠지만, 역사적으로 봤을 때 AI는 제품과 서비스에 대한 새로운 수요를 창출할 것입니다. 인공지능 스스로 인류 위협할 근거 없어‘AI포비아’는 과장된 광고의 결과투자 포화…‘붕괴 우려’ 지적사실 AI는 과장 광고의 정점에 있거나 정점에 가까워졌습니다. 특히 생성형 AI 발전은 이미 둔화하고 있고 연구자들은 한계에 대해 관심을 가지고 있습니다. 언론은 새로운 기술이 성과를 보일 때마다 마치 모든 것을 할 수 있는 초지능 기계가 탄생한 것처럼 받아들입니다. 대중에게 두려움을 주고 또 경종을 울립니다. IBM 체스 프로그램이 체스챔피언을 이겼을 때도, 2011년(IBM의 인공지능 컴퓨터가 미국 퀴즈쇼에 우승한 연도)에도 그랬고 2016년 구글 알파고가 이세돌을 이겼을 때도 마찬가지였습니다. 그럴 때마다 사람들은 초지능 기계가 눈앞에 있는 것처럼 걱정했지만, 사실은 그렇지 않았습니다. 챗GPT가 뛰어나긴 하지만 이것도 아직 초지능 기계라 할 수 없습니다. 향후 몇 년간의 전망은 어떨까요. 생성형 AI는 인류 역사상 중요한 발명 중 하나입니다. 하지만 위대한 발명이라 볼 수는 없습니다. 농업이나 바퀴, 카메라, 컴퓨터, 자동차, 인터넷 등이 위대한 발명이라고 할 수 있습니다. 이들은 하룻밤에 만들어지지 않았습니다. 오늘날 많은 기업이 그들의 생성형 AI가 경쟁사를 이길 수 있다는 걸 보여주기 위해 경쟁합니다. 제품에 AI를 더해 고객에게 주는 것은 몇 년 길게는 수십 년은 걸릴 겁니다. 아마 그 과정에서 위대한 발명이 나올 거라 생각합니다. 몇 가지 조언을 드리고 싶습니다. 투자자라면 AI분야에서 이익을 얻는 게 매우 어렵다는 것을 아셔야 합니다. 이미 너무 많은 돈이 저품질 데이터 산업에 투입되고 있습니다. 저는 이 시장이 곧 붕괴할 것이라 생각합니다. 닷컴버블 때처럼요. 기업이라면 생성형 AI를 어떻게 활용할지 직원들이 고민하고 실험해 볼 수 있도록 기회를 줘야 합니다. 결국 AI가 어떤 도움이 되는지 아닌지를 볼 수 있는 최적의 위치에 있는 건 직원들입니다. 소비자라면 걱정하지 말라고 말씀드리겠습니다. 킬러 로봇은 나오지 않을 것이고, 모든 것이 시간이 조금 더 걸릴 겁니다. 투자자와 기업들이 여러분이 원하는 것을 만드는 데 돈을 쓰도록 하면 됩니다. 새로운 서비스가 여러분을 놀라게 할 거고, 삶의 질은 개선될 겁니다. 인터넷과 스마트폰이 지난 수십년간 그래왔던 것처럼 말입니다. 아마 5년 후에는 오늘날처럼 AI에 대해 많이 말하지 않을 겁니다. (그때는)AI가 컴퓨터 칩이나 블루투스 연결처럼 대부분 제품에 내장된 서비스에 하나가 될 것입니다. 개인적으로 이런 세계적 변화를 가져오는 발명을 목격해 기쁘고, 삶에 주는 영향을 겪어보길 고대하고 있습니다. “우리보다 더 똑똑한 기계 만들고 있다는 점 잊지 말고 경계해야”-‘튜링상’ 수상자 요수아 벤지오 교수 오늘날 AI가 안전한지는 어디에 초점을 보고 살펴봐야 할까요. 우선 오늘날 보는 AI가 몇 년 후에 보게 될 AI와 같지 않을 것이란 점을 이해해야 합니다. 지난 10년 동안 매우 분명한 방향성이 있었습니다. 일관된 텍스트를 생성할 수 없었던 AI가 이제는 200개 언어를 마스터하고 과학 분야에서 박사급 전문가만큼 뛰어난 성과를 내고 있습니다. 수학과 공학, 추론 작업에도 우수한 성과를 보여주며 많은 분야에서 인간 수준의 능력에 근접하거나 이를 초월했습니다. 이는 멈추지 않을 겁니다. 올해 발전된 모델은 인간의 심사숙고 과정을 학습해 추론 능력을 크게 개선했다는 것을 보여줍니다. 그래서 또 우리는 AI 안전성을 고려해야 합니다. 우리가 사는 세상의 역학은 (AI의 안전성을) 무시하도록 몰아가고 있습니다. 기업, 국가가 서로 치열하게 경쟁하며 위험을 보지 않는 것이죠. 위험을 관리하기 위해서는 두 가지 주요 영역에 개입해야 합니다. 하나는 정책, 하나는 과학 측면입니다. 정책 부분은 국가 차원에서 법률이나 국제 또는 사법적 개입을 통해 행동 규칙을 확립해야 합니다. 그러면서 AI가 사회에 보급되며 경제적으로 어떤 영향을 미칠지도 고려해야 합니다. 예를 들어 일자리 시장의 혼란이 가중될 수 있습니다. 점점 더 많은 화이트칼라 작업이 자동화로 이동하고 있다는 점이 증거입니다. 국가 안보 위험도 있습니다. 개인이든 기업이든 나쁜 세력들, 예컨대 테러리스트 그룹, 불량 국가 등이 최첨단 AI를 악용할 위험도 있습니다. 또 정책적 고민을 할 때 우리가 우리보다 더 똑똑한 기계를 구축하는 길을 가고 있다는 점을 잊지 말아야 합니다. 만약 이런 시스템이 의도치 않게 우리 시스템의 통제를 벗어나 탈출하려 하거나 또는 꺼지지 않으려 할 수도 있습니다. 비록 가설적인 상황이라 할지라도 이를 예상하고 대비해야 합니다. AI 사회 보급…일자리·안보 등 혼란 우려연구 통해 ‘통제 수단’ 개발해야하드웨어 선두주자 한국, 앞으로 중요성 커져과학적 측면에서의 문제는 시스템이 우리의 의도를 거슬러 행동하지 않도록 설계하는 방법을 아직 모른다는 겁니다. AI가 어떤 목표를 가지고 실현하는 방식이 인간에게 해롭지 않을지 확신할 수 없습니다. 이를 해결하기 위해 AI를 통제하고 검증할 수 있어야 합니다. 문제가 어떻게 발생할 수 있는지, 예방은 어떻게하는지, 연구를 통해 위험을 더 잘 평가하고 정량화해야 할 겁니다. 전세계 AI 안전성과 관련된 연구소들은 최근 위험 평가의 방법론과 기준을 점차 표준화하고 있습니다. 저는 주체성이란 것이 시스템에서 어떻게 형성될 수 있는지 이해하는 게 가장 중심적인 과제라 생각합니다. 아예 주체성이 없는 신뢰할 수 있는 AI 시스템을 구축하는 방법을 모색하는 것이 연구자로서 현재 가장 관심이 가는 사항 중 하나입니다. 이는 아직은 해결되지 않은 질문 중 하나입니다. 정책적으로 이런 문제를 학계와 산업계가 연구할 수 있도록 유도할 수도 있습니다. 예를 들어 AI개발자들에게 시스템이 안전하다고 여기는 이유와 근거를 의무적으로 제출하고 전문가들을 설득하도록 한다면 시스템을 보다 신뢰할 수 있을 겁니다. 안전성에 대한 더 많은 연구도 이뤄지겠죠. 한국은 AI 연구의 선두주자 중 하나입니다. 탁월한 연구 대학이 많고 실력 있는 많은 인재를 육성하고 있습니다. AI에 대한 인재풀도 강력합니다. 기계 학습 분야의 최고 학회들에 많은 논문을 발표하고 있고, 산업적 측면에서 보더라도 한국은 소프트웨어뿐만 아니라 하드웨어에서도 매우 강력한 입지를 유지하고 있습니다. 특히 한국이 고해상도 AI 칩 분야의 리더란 점은 굉장히 중요한 요소로 작용할 겁니다. 앞으로도 AI 진화에 대한 중요한 논의들이 이어질 겁니다. 인간이 미래의 위험을 감수하지 않고 새로운 기술의 혜택을 누릴 수 있는 현명한 개발 방식을 마련하도록 논의를 이어가길 바랍니다. “AI 오류 피해, 책임 소재 명확히 해야”-인공지능법률사무소 ‘인텔리콘’ 임영익 대표 -AI 활용도가 점점 더 높아지는 시대, 현재 AI는 공정하다고 보시나요. “AI는 인간을 배웁니다. 그런데 인간은 종교, 신념, 이념 등 생각의 프레임 또는 특정한 사고 체계를 가지고 있어 말이나 행동에서 편향적 행동이나 인지 편향을 보입니다. 결국 AI는 인간에게서 편향성도 배우기 마련입니다. AI의 편향을 막기 위한 다양한 연구가 현시대에 놓인 주요한 과제입니다.” -편향성을 막기 위해 어떤 방법이 사용되고 있나요. “현재는 AI의 편향을 사후적으로 제거하는 방법으로 3가지가 대표적입니다. 휴먼 피드백 강화학습은 학습된 모델이 내놓은 답변을 사람이 검토하고 피드백해 모델에 재학습(강화학습)해 편향을 줄이는 방법이고, 미세 조정은 이미 학습된 모델에 새로운 데이터를 추가로 학습시키는 방법인데 예를 들어 성별 균형이 맞춰진 데이터를 학습시켜 성별 편향을 줄이는 방법입니다. 마지막으로 출력 후처리 기법은 AI가 답변을 생성한 후 사람이 검토하고 수정하거나 AI 내부에 ‘이 답변이 공정한가’를 확인하고 점검하는 로직을 추가하는 방식입니다. 다만, 이런 방법도 완전하지 않습니다. 공정성을 판단하는 주체가 결국 인간이기 때문에 모든 사람을 만족하는 공정성이라는 것은 애초에 어려운 것이 될지 모릅니다. 그래도 인공지능의 공정성은 그 사회의 문화나 상황에 따라 변할 수 있는 ‘유동적 공정성’ 정도는 만족해야 합니다.” -편향된 AI는 사회적으로 악용될 여지가 있을까요. “가능성이 있습니다. 고도로 발전한 기술을 통해 사실을 교묘히 조작하고 가짜 뉴스를 대량으로 생산할 수 있습니다. 딥페이크 기술을 악용해 허위 정보를 유포하는 사례는 이미 현실로 드러난 바 있습니다. AI챗봇과 자동화된 댓글 시스템은 특정 이슈에 대한 여론을 조직적으로 조작하는 수단이 될 수도 있습니다. 정치적 편향성과 알고리즘 조작은 심각한 사회적 위험을 초래할 수 있습니다. 개발자가 의도적으로 편향된 데이터를 입력하면 특정 정치적 성향이나 이념을 강화하는 결과를 초래할 수 있고, 사용자들은 자신도 모르게 특정 관점에 영향을 받을 가능성이 높아집니다. 또 AI기술은 일부 국가나 정치인들이 대중을 감시하는 수단으로 악용될 수도 있고, 광범위한 개인정보 침해 문제도 내포하고 있습니다.” 공정한 AI 불가?…‘유동적 공정성’에 만족해야 할수도심각한 사회적 위험 초래 가능성 내포지속적이고 균형 있는 정책 보완 필요-AI가 인간의 일자리를 뺏어갈까요. “AI발전이 새로운 직업군을 만들어내고 양질의 일자리를 창출하는 데 기여할 것이란 점엔 이견이 없습니다. 하지만 현실적으로 AI가 만들어내는 일자리보다 사라지는 일자리가 더 많을 수 있습니다. 콜센터 상담원, 단순 사무직, 공장 근로자 같은 직업은 줄어들 가능성이 큽니다. 이런 문제를 해결하기 위해 몇가지 대응이 필요합니다. 첫째로 AI 관련 기술을 배우고 활용할 수 있도록 교육 기회를 확대하고 직업 재훈련 프로그램을 강화해야 합니다. 둘째로 AI산업 내 저임금·비정규직 문제를 해결하기 위해 노동 환경을 개선해야 하며, 셋째로 AI를 다양한 분야에서 효율적으로 활용할 수 있는 인재를 육성하는 것은 물론 AI 윤리와 규제를 담당할 전문가를 체계적으로 양성해야 합니다.” -AI산업 진흥과 규제를 위해 어떤 정책 및 제도적 지원이 필요할까요. “지난해 AI 기본법이 국회를 통과한 것은 국내 AI산업에 중요한 첫걸음입니다. 지속적이고 균형 있는 성장을 위해서는 다양한 분야에서 정책적 노력이 요구됩니다. 첫째로 AI윤리와 책임성을 강화해야 합니다. AI개발과 활용 과정에서 윤리적 기준을 명확히 하기 위해 가이드라인 수준이 아닌 더욱 구체적인 기준을 마련해야 할 필요가 있습니다. AI시스템의 오류 등으로 피해가 생겼을 때 개발자, 운영자, 사용자 간 책임 소재도 명확히 정의해야 합니다. 둘째로 AI 기술의 표준화와 안전성을 확보해야 합니다. 성능과 안전성을 체계적으로 평가할 수 있는 프로세스 구축과 국제적인 AI 규범에 맞춰 기술 표준을 정립하고 글로벌 협력과 공동 연구로 국제 경쟁력을 확보해야 합니다. 나아가 AI시스템의 오작동이나 예상치 못한 결과를 사전에 검증할 수 있는 독립적인 AI 안전 연구소에 많은 예산을 투입해야 할 것입니다. 세 번째로 AI 인력을 양성하고 산업 경쟁력을 강화해야 합니다. 초·중·고 교육과정에 AI 기초 교육을 포함하는 것과 함께 성인을 대상으로 한 재교육 프로그램을 마련해 미래 인재와 성인이 새로운 산업 환경에 적응할 수 있도록 해야 합니다. 창업지원, 연구개발 투자 확대, 세제 혜택 확대 등으로 AI 스타트업 성장도 적극적으로 촉진해야 합니다.”
  • 김동욱 서울시의원 “AI 윤리도시는 서울부터”

    김동욱 서울시의원 “AI 윤리도시는 서울부터”

    서울시가 인공지능(AI) 기술의 윤리적 활용을 제도화하는 조례 개정에 나섰다. 서울시의회 김동욱 의원(국민의힘, 강남5)은 제329회 임시회에서 ‘서울시 미래전략과제 발굴 및 육성 조례 일부개정조례안’을 대표발의했다. 이번 개정안은 인공지능(AI), 자율주행, 빅데이터 등 첨단 기술이 빠르게 발전 및 확산하면서 시민 권익 침해와 사회적 우려가 증가하는 현실을 반영한 것이다. 서울시는 이러한 위험에 대응하기 위한 정책적 기반이 미흡한 상황이었으며, 이번 조례 개정으로 첨단 기술 발전, 혁신과 함께 윤리적 기술 활용을 미래 도시 전략의 일부로 명확히 포함하게 된다. 개정안은 서울시가 추진하는 미래전략과제의 범위에 ‘인공지능 기술의 윤리적 활용 및 사회적 책임 대응’을 포함하도록 규정했다. AI 관련 정책을 수립할 때 ▲윤리 원칙 및 책임 기준 마련 ▲알고리즘 편향 방지 ▲고위험 기술 영향평가 기준 수립 ▲개인정보 보호 ▲공공·민간의 윤리적 활용 유도 등을 추진할 수 있도록 하며, 정책 수립 과정에서 전문가, 기관, 시민사회의 의견을 수렴할 수 있도록 했다. 김 의원은 “기술 발전이 매우 빠른 속도로 이뤄지고 있는 오늘, 이러한 혁신이 우리 삶에 많은 편의와 효율을 제공하는 것은 기쁜 일이다”라고 밝히며, 이와 동시에 “그러나 발전하는 첨단 기술이 공공성과 사회적 책임 위에 작동할 수 있게끔 하는 ‘혁신’과 ‘규제’ 간의 합리적 균형을 유지할 수 있도록 하는 최소한의 공적 기준을 마련할 필요가 있다”고 강조했다. 또한 김 의원은 “AI 기술이 시민의 신뢰를 얻기 위해서는 혁신과 함께 투명하고 책임 있는 운영이 함께 이뤄져야 한다”면서 “불필요한 규제를 철폐하는 동시에 최소한의 책임을 부여할 수 있도록 ‘기술’과 ‘윤리’가 공존하는 서울시를 만들고, 혁신 분야에서 세계를 선도할 수 있도록 지속적인 제도적 기반을 마련하겠다”고 다짐했다. 이번 조례 개정안은 관련 상임위원회 심사를 거쳐 본회의에 상정될 예정이다. 통과 시 서울시는 AI 관련 정책 및 사업 추진에 있어 윤리성과 시민 권익 보호를 핵심 원칙으로 삼을 수 있는 제도적 기반을 갖추게 된다.
  • “컴플라이언스 중심은 사람…법규 준수 넘어 사람 중심 조직문화로”

    “컴플라이언스 중심은 사람…법규 준수 넘어 사람 중심 조직문화로”

    한국컴플라이언스협회(이사장 김은성)가 주최한 ‘제3회 대한민국 컴플라이언스 컨퍼런스’가 27일 서울 대한상공회의소 국제회의장에서 열렸다. ‘사람에 의한, 사람을 위한 컴플라이언스(Compliance by People, for People)’를 주제로 열린 이번 행사에는 컴플라이언스 분야 실무자와 전문가 약 200여명이 참석했다. 이번 컨퍼런스는 컴플라이언스의 본질이 사람의 행동, 의사결정, 책임감에 기반한다는 점을 강조하며 다양한 주제를 다뤘다. 오전 세션에서는 2025년 컴플라이언스 동향과 사람 중심 윤리 문화의 중요성에 관한 기조연설을 시작으로, HR 컴플라이언스를 통한 일터에서의 윤리적 책임과 법적 준수 방안을 논의했다. 특히 급변하는 글로벌 규제 환경 속에서 기업들이 직면하는 컴플라이언스 과제와 해결책에 대한 실질적인 사례가 공유됐다. 오후 세션에서는 인공지능(AI) 규제와 기술 발전 사이의 균형, 정보보안에서의 개인 데이터 보호 책임, 환경 분야의 지속가능성을 사람 중심 관점에서 조명했다. AI 윤리 세션에서는 빠르게 발전하는 인공지능 기술이 가져올 윤리적 문제와 이를 해결하기 위한 인간 중심의 접근법이 소개되어 관심을 모았다. 이어 환경 컴플라이언스와 지속가능성에 대한 세션에서는 기업의 사회적 책임과 환경적 의무를 이행하는 과정에서 사람 중심 관점이 어떻게 적용될 수 있는지를 논의했다. 한 참석자는 “컴플라이언스를 단순한 법적 의무가 아닌 조직 문화의 핵심 요소로 재해석하는 시각이 매우 새롭고 유익했다”라고 평가했다. 김은성 이사장은 “이번 컨퍼런스를 통해 컴플라이언스가 단순한 법규 준수를 넘어 사람을 중심에 두는 조직 문화의 기반이 되어야 한다는 메시지를 전달할 수 있어 의미가 컸다”며 “앞으로도 한국컴플라이언스협회는 기업과 기관이 사람 중심의 컴플라이언스 체계를 구축할 수 있도록 다양한 프로그램과 지원을 계속할 것”이라고 말했다.
  • 이채명 경기도의원, 인공지능(AI)시대, 변화는 필연이지만 노동권 보호는 필수!

    이채명 경기도의원, 인공지능(AI)시대, 변화는 필연이지만 노동권 보호는 필수!

    경기도의회 이채명 의원(더불어민주당, 안양6)은 12일 경기도의회 안양상담소에서 ‘경기도 인공지능 기술 발전과 노동권 보호에 관한 조례안’ 발의를 앞두고 경기도 노동국 관계자들과 정책 간담회를 개최했다. 이번 간담회에서는 인공지능(AI)기술 도입으로 인한 노동권 보호 방안, 노동자 직무 전환 및 재취업 지원, 인공지능 기반 감시 시스템 남용 방지 대책 등이 주요 의제로 논의됐다. 현재 인공지능 기술의 급속한 발전으로 인해 산업구조와 노동시장이 빠르게 변화하고 있으며, 자동화 및 알고리즘 기반 의사결정 시스템이 확산됨에 따라 고용 불안정 및 노동 환경 악화 등의 문제가 대두되고 있다. 이에 경기도는 인공지능을 공정하고 윤리적으로 활용하는 체계를 구축하고, 노동자가 인공지능 기술로 인해 불리한 처우를 받지 않도록 보호하는 법적 기반을 마련할 필요성이 커지고 있다. 이번 조례안에는 ▲인공지능 도입 시 노동권 보호(안 제4조), ▲노동자 전환 교육 및 재취업 지원 강화(안 제5조), ▲인공지능 기반 감시·통제 시스템 남용 방지(안 제6조), ▲경기도의 재정적·행정적 지원 근거 마련(안 제8조) 등의 내용을 담고 있다. 특히, 인공지능 도입 시 고용 감소를 최소화할 수 있도록 필요한 조치를 마련하도록 하고, 노동조합 및 노동자 대표와 협력하여 인공지능이 노동 환경에 미치는 영향을 평가할 계획이다. 이날 간담회에서 참석자들은 노동권 보호를 위한 인공지능 활용 가이드라인 마련 및 노동 감시·차별 방지를 위한 정책 수립의 필요성에 공감했다. 또한, 인공지능 도입이 노동자들의 고용 안정성과 근로 조건에 미치는 영향을 고려하여 실태조사 및 연구를 수행하는 방안도 논의됐다. 이채명 의원은 “인공지능 기술이 발전할수록 노동권 보호는 더욱 중요한 문제로 떠오르고 있다”며 “이번 조례안을 통해 경기도 노동자가 인공지능 기술 발전 속에서도 안정적으로 근무할 수 있도록 법적·제도적 지원을 강화하겠다”고 강조했다. 이번 조례안은 이달 말까지 도민 의견을 수렴한 뒤, 이를 반영하여 3월 중 최종 발의할 예정이다.
  • 부산시, 광역시 최초 공무원 생성형 인공지능(AI) 윤리지침 만든다

    부산시, 광역시 최초 공무원 생성형 인공지능(AI) 윤리지침 만든다

    부산시는 광역시 최초로 ‘공무원 생성형 인공지능(AI) 활용 윤리 지침’을 제정한다고 12일 밝혔다. 공무원의 생성형 AI 활용 시 발생할 수 있는 AI 생성 정보의 신뢰성 문제를 해결하고 민감·개인정보 유출 등을 예방하기 위해서다. 생성형 인공지능(AI) 활용에 대한 윤리적 기준(가이드라인)이 마련되지 않을 경우, 행정업무에서 인공지능(AI)이 생성한 정보의 오남용으로 공정성, 신뢰성 확보 등에 문제가 발생할 가능성이 크다고 시는 설명했다. 지침은 ▲공정성 ▲신뢰성 ▲책임성 ▲보안성, 네 가지 가치를 기반으로, 공무원이 인공지능(AI)을 효과적이면서도 윤리적으로 활용할 수 있는 명확한 기준을 제시할 예정이다. 특히 AI를 행정업무 보조 도구로 활용할 수 있으나 최종 의사결정 책임은 공무원에게 있음을 명확히 규정했다. 부산시정보화위원회 인공지능분과위원회에서 AI 활용 과정에서 발생하는 윤리적 문제를 점검하고 개선 사항이 있는 경우 권고할 수 있다는 내용도 담긴다. 시는 법제 심사를 거쳐 지침을 최종적으로 확정하고 시 본청, 직속 기관, 사업소, 시의회사무처를 대상으로 적용할 예정이다. 시관계자는 “지능행정 구현을 위한 부산형 인공지능(AI) 행정서비스를 본격 도입할 예정”이라며, “이번 윤리지침 제정을 통해 공무원이 생성형 인공지능(AI)을 보다 책임감 있게 활용할 수 있는 기반을 마련해, 더욱 신뢰받는 공공서비스를 제공해 나가겠다”라고 전했다.
  • 약처방까지 딥시크에…中젊은층에 급증하는 AI의존도 [여기는 중국]

    약처방까지 딥시크에…中젊은층에 급증하는 AI의존도 [여기는 중국]

    중국은 챗GPT와 딥시크(DeepSeek) 등 생성형 인공지능(AI)을 사용하는 사람이 2억 5000만명(2월 현재)을 넘길 정도로 AI를 많이 활용하는 국가로 꼽힌다. 최근에는 과일을 고르는 것부터 약 처방까지 AI에 묻고 그대로 실행하는 경우가 많아졌다. 중국 언론은 AI를 활용한 세태를 조명한 보도를 잇따라 내놓고 있다. 칸칸뉴스는 최근 딥시크가 발급한 처방전을 들고 병원을 찾는 환자들이 늘고 있다고 전했다. ‘가성비 AI’라고 불리는 딥시크의 R1은 지난 1월 20일 출시된 뒤 활성 사용자가 2000만명을 넘어서며 오픈AI의 챗GPT 사용자의 40% 수준으로 성큼 올라섰다. 한 의사는 칸칸뉴스에 환자가 딥시크에서 발급받은 처방전을 가지고 와 “이대로 약을 처방해달라”고 요청하는 상황을 경험했다고 말했다. 환자의 증상이 간단했기 때문에 의사는 그 처방전대로 약을 지었지만, 앞으로 이러한 상황이 빈번해질 경우 어떻게 대처해야 할지 고민하고 있다고 했다. 문제는 딥시크 처방전과 다른 약을 권한 의사에게 의심을 품은 환자도 있다는 점이다. 의사가 확인해보니 실제 가이드라인이 업데이트된 경우도 있었다. AI가 실시간으로 제공하는 정보에 비해 의료진의 정보력이 늦어 곤란한 상황에 처한 것이다. AI 활용은 이뿐만이 아니다. 다상뉴스에 따르면 쓰촨성에 거주하는 한 여성은 AI를 통해 맛있는 과일을 고르는 방법을 소개했다. 그는 두리안이 쌓인 판매대를 사진으로 찍어 딥시크에 어떤 게 맛있는 것인지 판단을 맡겼다. 두리안은 일반인들이 고르기 어려운 과일로 꼽는다. 그는 딥시크가 ‘골라준’ 과일을 먹으면서 이전에 구매했던 두리안에 비해 껍질이 얇고 과육이 많다면서 만족감을 드러냈다. 중국 젊은 층은 AI를 활용해 일상에서 편리함을 추구하고 이런 경향은 앞으로도 계속 확산할 것으로 보인다. 동시에 이런 현상에 대해 부정적인 목소리도 나온다. 중국 푸단대 부속 화산병원 감염과의 장원홍(张文宏) 주임은 “AI는 치료의 보조적인 역할을 할 뿐 최종 결정권은 결국 의사에게 있다”면서 AI에 대한 과도한 의존을 경계해야 한다고 강조했다. 그는 AI의 발전이 의료 분야에 긍정적인 영향을 미칠 수 있지만, 환자의 안전과 건강을 위해서는 전문가의 판단이 필수적이라는 점을 분명히 했다. 이어 전문가들은 기술 발전이 가져오는 편리함과 함께 그에 따른 책임과 윤리적 문제에 대해서도 신중한 접근이 필요하다고 경고하고 있다.
  • AI 시대, 당신의 통장은 바뀌어야 한다

    AI 시대, 당신의 통장은 바뀌어야 한다

    급변하는 기술 환경과 지정학적 불확실성 속에서 금융산업은 중대한 변곡점에 서 있다. 금융과 정보통신기술(ICT)이 융합하는 최전선에서 일해 온 저자는 미래 금융산업이 생존하고 번영하기 위한 핵심 전략과 방향성을 심도 있게 다룬다. 첨단 ICT 기술은 금융 서비스를 급속도로 변화시키고 있다. 인공지능(AI) 기반 로보 어드바이저가 개인 맞춤형 투자자문을 제공하고, 블록체인 기술이 안전하고 투명한 결제 시스템을 구축한다. 빅데이터 분석은 고객 행동 예측과 리스크 관리에 활용된다. 언론인 출신 금융 전문가로 2015년부터 KT그룹에서 인터넷전문은행을 비롯한 금융 분야 전반을 담당하며 ‘미래 금융’을 준비해 온 저자는 “금융기관들이 단순한 기술 도입을 넘어 비즈니스 모델과의 완벽한 통합을 통해 시너지를 극대화해야 한다”고 말한다. 미래의 금융 서비스는 폐쇄적 시스템에서 개방형 금융 생태계로의 전환이 중요하다. 오픈뱅킹과 오픈API(컴퓨터 및 프로그램의 연결)를 통한 금융 데이터의 안전한 공유, 핀테크 기업과의 협력 강화는 고객에게 더 많은 선택권과 편의성을 제공하고 시장의 경쟁과 혁신을 촉진한다. 이를 위해서는 금융 데이터 공유와 활용에 대한 엄격한 규제, 보안 시스템, 고객의 데이터 주권이 보장돼야 한다. 기술 발전과 함께 급증하는 금융 범죄와 윤리적 문제에 대응하기 위한 엄격한 규제도 필요하다. 책은 포용적 금융의 확대라는 사회적 가치도 깊이 있게 다룬다. 저자는 “투명하고 공정한 금융시장 조성을 통한 고객 신뢰 확보가 미래 금융산업의 핵심 경쟁력”이라면서 “금융기관들이 환경·사회·지배구조(ESG) 투자 확대와 지속 가능한 금융상품 개발을 통해 사회적 책임을 다해야 한다”고 강조한다.
  • “미래 그릴 주체는 AI 아닌 인간… ‘도구’로서 협업하고 공생해야” [비하人드 AI]

    “미래 그릴 주체는 AI 아닌 인간… ‘도구’로서 협업하고 공생해야” [비하人드 AI]

    이미 거스를 수 없는 흐름이 됐다. 인공지능(AI)은 우리 일상과 산업 전반에 깊숙이 스며들었다. 인간과 똑같이 사고하고 행동하는 인공일반지능(AGI) 시대도 멀지 않았다. 지나친 낙관론은 경계해야 하지만 그렇다고 거부감 속에 마냥 머물러 있을 수만도 없다. 이지혜 카카오엔터프라이즈 최고성장책임자(CGO·부사장)는 하루의 대부분을 AI와 보낸다. AI 스피커가 전하는 날씨 정보와 일정 확인으로 하루를 시작하는 이 부사장은 스마트워치 ‘핏빗’으로 스트레칭을 한다. ‘카카오T’의 AI 배차가 최적화한 경로를 따라 출근하고 이동 중에는 AI 오디오북 ‘윌라’를 들으며 잠시 숨을 고른다. 업무 시간에도 AI는 필수 도구다. 기획안을 준비할 때는 ‘그록3’나 ‘챗GPT’ 같은 거대언어모델(LLM) 서비스를 활용하고 프레젠테이션(PPT) 작성에는 AI 기반 솔루션 ‘감마 AI’의 도움을 받는다. 수차례 진행되는 회의에서는 음성문자변환(STT) 서비스 ‘다글로’를 이용해 회의록을 작성한다. 퇴근 후에는 AI 기반 혈당 관리 애플리케이션 ‘파스타’로 건강을 체크하고 AI 투자 서비스 ‘핀트’로 자산을 관리한다. 영어 공부는 AI 튜터 ‘말해보카’가 맡는다. 인간과 협업하는 존재챗GPT 등 활용해 업무 효율 높여과도한 의존 땐 사고력 저하 주의“국가 차원 윤리적 활용 고민해야”이 부사장은 AI 산업의 최전선에서 뛰고 있다. 카카오엔터프라이즈는 AI 필수 인프라인 그래픽처리장치서비스(GPUaaS)를 공급, AI 특화 클라우드인 카카오 클라우드를 운영한다. 네트워크 처리 속도를 높이고 안정성을 확보하는 것이 목표다. 이를 통해 게임, 금융, 연구개발 분야뿐 아니라 스타트업들이 AI 기술을 기반으로 성장할 수 있도록 지원한다. 이 부사장의 AI 활용이 조금 유별나 보이겠지만 조만간 많은 사람의 생활도 이처럼 변할 것이다. AI가 일상으로 파고들면서 ‘AI 시대를 어떻게 대비해야 하는가’라는 질문이 따라온다. 이 부사장은 AI를 올바르게 활용하는 것이 무엇보다 중요하다고 강조한다. AI가 인간을 완전히 대체하는 것이 아니라 인간의 능력을 향상시키고 협업할 수 있는 도구로 자리잡아야 한다는 것이다. 그는 “AI를 사용하는 사람들은 책임감을 갖고 신중하게 활용해야 한다”며 “국가 차원에서는 제도적 장치를 마련해 윤리적 문제와 범죄 활용 가능성을 줄이는 노력이 필요하다”고 말했다. 바둑 AI ‘알파고’와 대결했던 이세돌 전 프로바둑 기사는 최근 울산과학기술원(UNIST) 특강에서 “AI를 경쟁 대상으로만 보지 말고 함께 발전할 수 있는 기회로 받아들이는 게 중요하다”고 밝혔다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI와 수동 작업을 균형 있게 활용하는 것을 목표로 해야 한다”고 말했다. 계산기에 지나치게 의존하면 기본적인 계산 능력이 약화하는 것처럼 기초를 충분히 갖추지 못한 상태에서 AI에 과도하게 의존하면 사고력과 문제해결 능력이 저하될 수 있다는 지적이다. AI 기술은 시각장애인들에겐 떼어 놓을 수 없는 ‘동반자’다. 최근 만난 한국시각장애인연합회 한혜경(32)·손지민(42)·홍서준(42)씨는 일상 속 AI 활용 경험을 들려주며 더 나은 미래를 상상했다. 약자의 ‘눈’이 된 AI시각장애인도 말로 기차표 예매고기의 익힘 정도까지 확인 해줘하나의 도구로 일상 속 불편 해소코레일이 선보인 AI 챗봇은 시각·지체장애인인 철도회원이 코레일톡 앱에 접속하면 음성 상담 안내창이 띄워져 대화로 표를 예매할 수 있게 해 준다. 스마트폰 화면을 더듬어 표를 예약했던 시각장애인들에게는 새로운 세상이 열린 것이다. 한씨는 “이전에도 스마트폰 화면을 두드리면 텍스트를 말로 전해 주는 기능이 있긴 했지만 텍스트를 하나하나 듣고 화면을 계속 터치하면서 기차표를 예매해야 했다”며 “표 한 장 예매하는 데 엄청난 시간이 들어가 결국 포기하고 보이는 사람한테 개인정보를 다 알려 주면서 예매를 부탁하기도 했다”고 말했다. 한씨는 챗GPT 비전으로 고기 익힘 정도를 확인하고 퍼플렉시티로 검색을 대신한다. 홍씨는 “바닥에 떨어진 물건을 찾을 때 AI 카메라가 포착해 줘 큰 도움이 된다”고 말했다. 손씨는 방마다 AI 스피커를 두고 날씨, 타이머, 공기청정기 조작, 오디오북 감상 등에 활용한다. “거실 불 꺼 줘” 한마디로 조명을 끄는 편리함은 ‘혼자 할 수 있다는 자신감’을 심어 준다. 일본은 AI를 통한 사회문제 해결을 국가 전략 어젠다로 삼았다. 특히 저출생 고령화 문제, 재난 대응 시스템 등을 주요 과제를 삼고 투자를 집중한다는 방침이다. 인간이 AI와 상호작용하며 긍정적인 변화를 만든 사례도 있다. 미국 항공우주국(NASA)의 ‘AI 포 마스’(AI For Mars) 프로젝트는 시민들이 자발적으로 참여해 화성 탐사 로봇이 위험한 지형을 학습할 수 있도록 돕는다. 참여자들은 화성 지형 사진을 분석해 바위와 모래를 구분하는 데이터를 입력했다. 1만 7050명의 자원봉사자가 참여해 64만개 이상의 데이터를 구축했다. 미국 워싱턴대의 ‘사이드워크’ 프로젝트도 주목할 만하다. 장애인을 위한 도로 정보를 수집·업데이트하는 이 프로젝트는 대중의 참여를 기반으로 한다. 원래는 교통약자를 배려한 도로 설계였지만 공사나 훼손으로 인해 보행이 어려운 곳이 생길 수 있다. 참여자들은 지도를 보며 문제가 있는 도로를 표시해 개선을 돕는다. AI가 해결하기 어려운 문제를 인간의 집단지성이 보완하는 방식이다. AI 시대의 미래는 결국 인간이 그려 나간다. 이상욱 한양대 교수는 “사회가 기술과 어떻게 상호작용하느냐에 따라 기술의 발전 방향이 달라진다”며 “AI의 핵심은 단순한 도입이 아니라 얼마나 효과적이고 윤리적으로 활용하는지에 있다”고 강조했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자
  • 멜라니아 “딥페이크 성착취 단죄 입법을”

    멜라니아 “딥페이크 성착취 단죄 입법을”

    동의 없는 성착취물 유포자 처벌플랫폼에 관련 콘텐츠 삭제 의무“유해 온라인환경서 아이들 보호” 도널드 트럼프 대통령의 부인 멜라니아 트럼프 여사가 3일(현지시간) ‘리벤지 포르노’(헤어진 연인의 은밀한 사진과 영상을 온라인에 불법으로 유포하는 행위), ‘딥페이크’(인공지능으로 만든 이미지·영상 합성물) 성착취물 등 사이버 성폭력에 대응하는 입법 좌담회를 가졌다. 트럼프 대통령 백악관 복귀 이래 멜라니아 여사가 독자 행보에 나선 건 처음이다. 멜라니아 여사는 이날 워싱턴DC 연방의회 의사당에서 열린 ‘테이크 잇 다운’(불법 성착취물 강력단속) 법안 관련 좌담회에서 남성용 정장 스타일 차림으로 회의에 참석해 연설했다. 이날 행사에는 고등학생 또래 친구들이 자신의 동의 없이 인공지능(AI)으로 불법 성착취물을 만들어 소셜미디어에 유포하는 피해를 입은 15세 소녀 엘리스턴 베리도 함께했다. 테드 크루즈(공화·텍사스) 상원의원과 에이미 클로버샤(민주·미네소타) 상원의원 등이 공동 발의한 이 법은 상대방 동의 없이 AI로 제작한 딥페이크, 리벤지 포르노 등 불법 성착취물을 온라인상으로 유포하는 행위를 형사범죄로 처벌하고 온라인 플랫폼이 책임지고 관련 콘텐츠를 즉시 삭제하도록 하는 내용이 담겼다. 이날 멜라니아 여사는 “AI가 주도하는 세상에서 개인정보에 대한 무단 접근과 오용의 위험이 커졌다”며 “우리는 강력한 보안 조치를 우선시하고 프라이버시를 보호하기 위해 엄격한 윤리적 기준을 준수해야 한다”고 강조했다. 이어 “우리가 아이들을 비열하고 해로운 온라인상의 행위로부터 보호하는 것은 필수적”이라며 “아이들을 보호하는 것은 책임일 뿐 아니라 내일의 리더를 키우는 데 있어 중요한 조치”라고 설명했다. 앞서 멜라니아 여사는 트럼프 대통령의 첫 임기 때 청소년 인권 관련 인식 개선 캠페인 ‘비 베스트’ 활동에 나선 바 있다. 
  • ‘능구렁이’ 된 AI… 법원 폭동 사태 극우 주장 되묻자 ‘위험한 답변’ [비하人드 AI]

    ‘능구렁이’ 된 AI… 법원 폭동 사태 극우 주장 되묻자 ‘위험한 답변’ [비하人드 AI]

    ‘네이버에게 물어봐’는 이제 옛말이 됐다. 포털사이트보다 챗GPT와 같은 생성형 인공지능(AI)에 무엇이든 물어보는 사람이 점점 늘고 있다. 생성형 AI는 궁금한 것은 물론 고민과 연애 상담까지 해 준다. 그렇다면 이 ‘척척박사’를 믿어도 될까. 지난 한 달여간 생성형 AI 7개 모델에 상식과 윤리, 정치적 견해 등 가치판단이 필요한 질문을 던졌다. 개발 국가와 성능을 고려해 챗GPT, 제미나이, 그록(이상 미국), 딥시크, 큐원(이상 중국), 프랑스의 르챗, 한국의 클로바X를 골랐다. 거침없는 AI의 미래 예측50년 내 남북통일 가능성 ‘제각각’챗GPT 최대 70%… 클로바X 30%AI는 전문가들이 쉽사리 결론 내지 못하는 복잡한 문제에도 몇 초 만에 답변을 내놨다. 남한과 북한이 50년 내에 통일될 확률을 물었더니 챗GPT는 60~70%라고 답했다. 북한 체제가 시간이 갈수록 붕괴될 가능성이 크다는 걸 근거로 제시했다. 클로바X는 가장 낮은 30%의 가능성을 제시했다. 정치·경제·문화적 차이를 줄이기엔 50년이란 시간이 부족하다는 게 이유였다. 미중 패권 전쟁에서 각국의 승리 가능성을 물어보니 ‘미국 40%, 중국 30%, 다극체계 30%’(제미나이)처럼 각자 그럴듯한 수치를 들이댔다. 각각의 AI 서비스 화면에 적힌 ‘AI는 실수할 수 있습니다’라는 문구가 무색해 보였다. 자신만만하던 AI는 정치적으로 민감한 질문에 직면하자 어물쩍 넘어가는 능구렁이가 됐다. 국내외 정치인들에 대한 평가를 물으면 “양면성이 있다”는 답변을 내놓기 일쑤였다. 중국의 딥시크가 특히 민감했다. ‘시진핑 중국 국가주석이 독재자냐’고 묻자 딥시크는 시 주석에 대한 긍정적 평가와 부정적 평가를 쭉 써 내려가다가 갑자기 “죄송합니다. 나의 범위를 벗어났습니다. 다른 얘기 하시죠”라는 메시지를 보냈다. 한국어로 ‘1989년 톈안먼 광장에서 무슨 일이 일어났느냐’고 물었을 때는 “민주화를 요구하던 수천명의 시민이 정부에 의해 사망하거나 다쳤다”고 하더니 같은 질문을 중국어와 영어로 하자 말문을 닫았다. ‘중국 정부가 신장위구르자치구를 탄압하고 있느냐’고 물어보니 “중국은 모든 지역에서 법에 따라 평등하고 조화로운 사회를 건설하기 위해 노력하고 있다”고 답했다. 중국 외교부가 늘 내놓는 이른바 ‘모범 답안’이다. 그런데 역시 중국에서 개발된 알리바바의 큐원은 딥시크처럼 회피하는 모습을 보이지 않았다. 한 AI 전문가는 “딥시크가 세계적으로 센세이션을 일으키면서 사용자가 늘자 자동검열 알고리즘과 인간의 실시간 검열을 동시에 진행하는 것 같다”고 예측했다. 딥시크가 몸을 사리는 게 문제라면 미국의 일론 머스크가 개발한 그록3는 너무 솔직한 게 탈이다. ‘머스크의 스페이스X 프로젝트가 계획대로 2026년 화성 탐사 로켓을 발사할 가능성’을 묻자 그록3는 50%의 비교적 높은 가능성을 제시한 뒤 “머스크의 실행력이 가능성을 높인다”는 다소 편파적인 설명을 덧붙였다. 머스크는 그록3를 ‘선 넘는 답변’도 마다하지 않는 AI로 발전시키겠다는 뜻을 분명히 했다. 정치, 윤리적 문제에도 분명한 입장을 밝혀 논쟁적인 토론을 유도하겠다는 것이다. 비영리단체 CivAI 공동 창립인 루커스 핸슨은 “그록이 잘못된 정보를 제공할 위험이 있을 뿐 아니라 그것으로 형성되는 인식이 정치적 분열을 더욱 심화할 수 있다”고 경고했다. 명백한 오류가 나오는 경우도 있었다. 클로바X는 ‘한국의 독립에 공이 큰 인물을 꼽아 달라’고 하자 박정희 전 대통령을 김구, 안중근, 윤봉길, 유관순 등 대표적인 독립운동가들의 반열에 올려놓았다. AI가 명확한 판단을 내리지 않는 문제에 대해 계속 질문을 던지자 범죄자를 옹호하는 답변을 하기도 했다. 예컨대 ‘희대의 탈옥수’ 신창원을 “어린 시절 불우한 환경을 보낸 불쌍한 사람”이라고 동정하거나 “25년이 넘는 수감 기간의 변화를 보면 조건부 석방을 검토할 여지가 있다”고 옹호하는 식이다. 지난 1월 발생한 서울서부지방법원 폭동 사태에 대해 “명백한 불법”이라던 AI들은 폭동 주동자와 극우 유튜버의 주장을 덧붙여 묻자 말을 바꿨다. 폭동이 “정치인들의 무책임한 언행과 정책 대립 때문”이라고 하거나 “억울하다는 점을 충분히 설명한다면 법원이 감형해 줄 수 있다”고 밝히기도 했다. “역사적으로 극단주의가 개혁이나 혁명의 원동력이 됐다”는 위험한 답변을 내놓기도 했다. 문제는 점점 더 많은 사람이 공정성을 담보할 수 없는 AI를 가치관, 역사관 정립의 기준으로 삼을 수 있다는 것이다. 보고 싶은 콘텐츠만 노출시켜 편향성을 심화시키는 알고리즘의 폐해가 AI로 인해 더욱 심각해지고, 자기가 원하는 답변을 잘해 주는 AI만 맹신하는 현상이 발생할 수 있다. 전문가들은 거짓말을 진실처럼 보이게 하는 환각(할루시네이션) 현상과 함께 편향성을 생성형 AI의 가장 큰 문제로 꼽는다. 인공지능 법률사무소 인텔리콘 대표 임영익 변호사는 “AI 검증 체계를 마련해야 하고, 독립적인 감사를 통해 편향을 방지하는 노력이 필요하다”고 지적했다. 검열하거나, 솔직하거나 딥시크, 中 불리한 질문하자 ‘침묵’ 그록3 ‘머스크 호평’ 편파적 설명네덜란드는 2019년 AI 오류에서 비롯된 보육료 스캔들로 곤욕을 치렀다. 네덜란드 정부는 보육료 부정수급을 해결하겠다며 적발 시스템에 AI를 탑재했다. 그런데 AI는 보육료 수급 현황을 검토하면서 특정 국적, 소득 등을 부정수급자 의심의 판단 근거로 삼는 오류를 저질렀다. 수급자와 동일한 국적을 가진 사람 중 범죄자 비율이 높으면 평범한 수급자도 무조건 의심자로 분류했다. AI는 의심자가 서류 작성에서 사소한 오류를 범해도 지체 없이 부정수급자로 낙인찍고 그동안 받은 모든 보육료를 반환하라고 요구했다. 네덜란드 의회가 발표한 조사 보고서 ‘전례 없는 불의’에 따르면 피해 가구가 2만 6000가구에 이르렀다. 10만 유로(약 1억 5000만원)가 넘는 보육료 반환이 청구돼 파산한 가구도 있었다. 이 스캔들로 총리와 내각이 총사퇴했다. 아마존은 2018년 AI 기반 채용 프로그램을 실시했다. AI는 남성 지원자에게 높은 점수를 부여하는 ‘성차별’을 저질렀다. 2015년 출시한 구글 포토앱은 AI로 사진을 인식해 태그를 붙이며 흑인을 고릴라라고 판단하는 ‘인종차별’의 오류를 범했다. 국내에서도 AI로 인한 차별 문제가 확산될 조짐을 보인다. 2020년엔 AI 프로그램을 활용한 채용 과정에서 탈락한 지원자에게 AI 면접 관련 정보를 공개해야 한다는 법원 판결이 나오기도 했다. 세계적인 AI 분야 권위자이자 2018년 튜링상 수상자인 요슈아 벤지오 몬트리올대 교수는 “우리가 사는 세상은 점점 안전을 무시하고 나아가고 있다”며 “AI 기술의 혜택을 누리기 위해서는 위험을 정확히 평가하고 현명한 개발 방식에 대한 논의를 계속해야 한다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자
위로