찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 투명성
    2026-06-27
    검색기록 지우기
  • 일가
    2026-06-27
    검색기록 지우기
  • SNS 유포
    2026-06-27
    검색기록 지우기
  • 소화
    2026-06-27
    검색기록 지우기
  • 피파
    2026-06-27
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
474
  • EU, 세계 첫 AI법 통과

    EU, 세계 첫 AI법 통과

    유럽연합(EU) 의회가 세계 최초로 ‘인공지능(AI)법’을 통과시켰다. EU 의회가 13일(현지시간) AI법을 통과시켰다고 블룸버그통신이 보도했다. 티에리 브레통 내부시장 담당 집행위원은 이날 성명에서 “유럽은 이제 신뢰할 수 있는 AI 분야에서 글로벌 표준을 제시하는 국가가 됐다”고 밝혔다. 이 법은 EU 27개 회원국이 각국 의회 비준을 거치고 EU 공식 관보에 게재되면 발효된다. 이 법은 AI가 인간의 편견을 재생산할 우려, 개인정보와 프라이버시권이 침해될 위험 등을 방지하기 위해 만들어졌다. 예를 들어 직장과 학교에서 개인의 감정을 감지하는 데 AI를 사용하는 것을 금지하고 직원 채용 시 입사 지원서를 분류할 때 AI 사용을 금지한다. 블룸버그는 “챗GPT 출시 이후 초국적인 개발 붐이 일고 있는 생성형 AI에 관한 최초의 규제법”이라면서 “미국에서 아직 AI법이 마련되지 않은 상황에서 서방 세계에서 AI법에 관한 기준을 제시했다”고 평가했다. 이 법은 지난해 12월 EU 관계자들이 35시간이 넘는 마라톤 협상 끝에 잠정 합의에 도달한 뒤 지난 3개월간 계속 논란을 빚었다. 빅테크 기업들은 EU의 AI 규제가 너무 지나치다고 반발하는 반면 이들을 감시하는 시민단체는 규제가 충분치 않다고 토로해 왔다. 지난해 12월 법안 통과가 임박하자 프랑스와 독일 정부는 “자국의 AI 스타트업인 ‘미스트랄 AI’, ‘알레프 알파’와 같은 유럽 AI 스타트업이 국제 경쟁력을 잃을 것”이라며 법안 통과에 반대했다. 이 법 초안 작성에 핵심 역할을 한 카이 제너 유엔 AI 정책 고문은 “EU 입법자가 또 놀아났다”고 쏘아붙였다. 시민단체 유럽기업관측소도 “범용인공지능(AGI)에 대한 규제는 대부분 빠졌고, 투명성 의무 몇 가지만 준수하면 되는 수준”이라고 비판했다. 반면 싱크탱크 카네기 유럽의 랄루카 세르나토니 연구원은 “미국과 중국에 비해 절대적 투자가 부족한 상황에서 강한 규제까지 더해지면 AI 기술 패권 경쟁에서 주도권을 쥐려는 EU의 야망은 좌절될 가능성이 높다”고 지적했다.
  • “이스라엘, AI 자동식별장치로 가자 민간인 살상”

    “이스라엘, AI 자동식별장치로 가자 민간인 살상”

    이스라엘 군(IDF)이 팔레스타인 가자지구를 인공지능(AI) 자동 표적 식별 장치를 활용한 드론·미사일 타격해 무고한 민간인 사상자가 발생하는 등 국제사회가 금지중인 반인권적 행태를 벌이고 있다는 보도가 잇따랐다. 팔레스타인 디지털 인권 단체 ‘7amleh’가 IDF가 가자지구 내 학교, 구호단체 사무실, 예배 장소, 의료 시설 등을 포함해 공격 표적을 정할 때 이스라엘 자체 개발 AI 자동 표적 식별 시스템인 ‘가스펠’(복음)을 미국의 묵인 하에 광범위하게 사용중이라고 비판했다고 정치전문매체 폴리티코가 3일(현지시간) 보도했다. IDF가 세부 정보를 거의 제공하지 않은 AI 자동식별 시스템인 ‘가스펠’은 머신러닝을 통해 방대한 양의 데이터를 신속하게 분석해 잠재적 공격 대상을 정하는 것으로 알려졌다. 이스라엘의 가장 오래되고 최대 규모의 인권 단체인 이스라엘 민권 협회는 지난해 12월 이스라엘 국방군 법무 부서에 자동 표적화에 대한 투명성을 높일 것을 요구하는 정보공개청구서를 제출했다. 다니엘 하가리 IDF 대변인은 지난달 공개 성명에서 “가스펠이 잠재적 표적을 식별하는 데 사용되지만 대한 최종 결정은 항상 인간이 내리고 명령 체계에 있는 적어도 한 명의 다른 사람의 승인을 받는다”고 설명했다. 하지만 IDF는 지난해 11월 성명에서는 “복음 시스템을 사용해 빠른 속도로 표적을 생성할 수 있다”며 “이스라엘이 개전 첫 27일 동안 1만 2000개 이상의 표적을 명중시켰다”고 밝혔다. 미국의 AI 전쟁 윤리 정책을 추적하는 일부 사람들은 이스라엘이 AI 기술을 통해 민간인을 보호하기보다는 오히려 공격하는 데 사용되는 등 ‘정밀 타격’이라는 AI 기술 본래의 취지를 왜곡하고 있다고 주장했다. 진보적인 외교 정책 싱크탱크 국제정책센터 낸시 오케일 대표는 “이스라엘이 ‘파워 타깃’이라고 불리는 민간인을 표적으로 삼기 위해 AI를 사용하고 있다는 것은 분명해졌다”면서 “정밀 타격에 도움을 주는 본래의 목적과 달리 의도적으로 민간인을 표적으로 삼고 있다”고 지적했다. 낸시 대표는 IDF가 자체적으로 정한 ‘파워 타깃’의 정의는 하마스나 팔레스타인 이슬람 지하드의 정치적, 군사적 거물 등 주요 표적을 말하지만, 사실상 IDF 정보 부서는 IDF에 대해 광범위한 정의를 허용하고 있는 것으로 보인다고 말했다. 전략국제문제연구소의 미사일 방어 프로젝트 부국장 겸 연구원 샨 샤이크는 “가자지구에서 3만 명이 넘는 사상자가 발생한 상황에서 IDF가 첨단 AI를 사용해 표적을 식별하는지 아니면 지도에 다트를 던지는 것인지 알기 어렵다”라고 말했다. 사이버 보안 전문가들은 모든 AI 표적 시스템이 민간인을 무차별하게 살상할 우려를 제기했다. 영국에 본사를 둔 사이버 보안 업체 ‘트레일 오브 비츠’의 머신러닝 엔지니어링 디렉터 하이디 클라프는 “AI 시스템의 높은 오류율을 고려할 때, 표적을 부정확하고 편향적으로 자동화하는 것은 무차별 표적 공격과 크게 다르지 않다”고 지적했다. 폴리티코는 “구호 단체와 의료 시설이 이스라엘 당국에 GPS 좌표를 제공한 후에도 공격을 받은 사례가 있다”면서 “이스라엘은 하마스가 이러한 건물에 전투원과 무기를 숨겨 놓았기 때문에 병원과 학교와 같은 민간 인프라를 공격해야 할 표적으로 간주한다고” 보도했다. 이스라엘에 본사를 둔 사이버 기업 센트라의 공동 창립자이자 전 이스라엘 정보 책임자인 론 라이터는 “AI 기술이 판도라의 상자를 열었다는 사실이 우려스럽다”고 말했다. 이스라엘 엘리트 사이버 정보 부대인 8200부대 장교 출신인 라이터는 “8200부대가 모바일 네트워크의 인터넷 통신, 영상 및 정보를 분석하여 사람들이 어디에 있는지 파악하는 데 AI 표적 시스템인 가스펠을 사용한다”고 설명했다. 미국 관리들은 이스라엘의 AI 사용에 대한 언급을 대체로 피했다. 중동연구소의 팔레스타인과 팔레스타인-이스라엘 문제 프로그램의 연구 책임자인 칼레드 엘긴디는 “미 정부에서 인권을 중시하는 사람들과 행정부와의 회의에서 여러 차례 회의를 가졌지만 AI가 구체적으로 언급되는 것을 듣지 못했다”고 말했다. ‘가자전쟁에서 이스라엘의 AI 표적화 사용 규모가 어떻게 되냐’는 질문에 앤 노이버거 백악관 사이버 및 신흥 기술 담당 국가안보 부보좌관은 이스라엘에 대한 언급을 피하면서도 ‘전쟁에서 AI 기술의 위험성’을 재빨리 지적했다. 노이버거는 인터뷰에서 “우리는 AI 시스템에 대해 정말 우려하고 있다”며 “조 바이든 대통령께서 AI에 대한 행정명령을 발동하고 그 다음 단계로 나아가기 위해 그렇게 빨리 움직인 것”이라고 말했다. 그가 언급한 행정명령은 지난해 10월에 발표된 것으로, 미군과 정보기관의 AI 사용 지침을 제공하는 동시에 외국 적들의 인공지능 무기화에 대응하기 위해 추진되고 있다. 가스펠 기술이 미국의 감시를 피하고 있는 것은 이스라엘 군사 작전의 불투명하기 때문이라는 지적도 나왔다. 휴먼라이츠워치의 워싱턴 지부장 사라 야거는 “이스라엘이 이 전쟁을 어떻게 수행하고 있는지에 대해 미국 정책 입안자들을 포함해 그 누구도 알고 있지 못하다”고 말했다.
  • [공직자의 창] 국고보조금 누수, AI 탐지모델로 잡아낸다

    [공직자의 창] 국고보조금 누수, AI 탐지모델로 잡아낸다

    기획재정부는 최근 국고보조금 부정 징후 탐지시스템(SFDS)을 활용한 지난해 보조금 부정수급 점검 결과를 발표했다. 2018년 첫 가동 이후 최대 규모인 493건, 700억원의 부정수급을 적발했다. 기재부와 각 사업부처가 현장을 누빈 결과다. 한국재정정보원과 회계법인의 전문성도 뒷받침됐다. 적발 유형별로는 휴·폐업 기간 보조금 지급, 보조금 사용금지 업종 거래 등 집행 오·남용(비중 33%)이 가장 많았다. 이어 가족 거래(28%)가 뒤를 이었다. 실제 사례 중에는 보조금 사용 제한 업종인 주류판매업에서 약 30만원을 집행한 건부터 보조사업자가 본인이 대표로 있는 자회사와 80억원의 수의계약을 맺은 건도 있었다. 올해 국고보조금은 109조 1000억원으로 취약계층 보호와 민생 안정을 위해 사회 곳곳에 지원되고 있다. 국가 예산 656조 6000억원의 16.6%에 이르는 국고보조금을 부정으로 인한 누수 없이 관리하는 건 국가 재정건전성을 지키기 위한 일이자 윤석열 정부의 국정과제이기도 하다. 정부는 부정수급 현장을 사후 적발하는 노력과 함께 보조사업의 투명성을 확보하기 위한 제도적 정비도 추진하고 있다. 지난해 6월 민간 보조사업 정산보고서 외부 검증 대상 범위를 보조금 총액 3억원 이상에서 1억원 이상으로 넓혔다. 올해 1월에는 보조사업자 선정 기준을 강화하고 부정수급 적발 사례가 많았던 쪼개기 계약과 부정한 내부거래에 대한 관리·감독 의무를 신설했다. 아울러 국고보조금과 지방보조금 간 연계를 강화해 국민 체감도를 높이고 감시 사각지대를 줄이고자 한다. 이를 위해 정부는 국고보조금과 지방보조금 정보를 통합해 제공하는 ‘보조금 통합포털’(bojo.go.kr)을 개통했다. 이제 보조금 정보가 투명하게 공개돼 누구든 본인 정보나 관심 정보를 입력해 맞춤형 보조금을 편리하게 찾아볼 수 있다. 상반기 중에는 국고보조금과 지방보조금 간 중복 수급 여부를 상호 검증할 수 있는 체계를 구축할 예정이다. 기재부는 올해도 국고보조금 부정수급을 점검하는 데 박차를 가할 예정이다. 역대 최대 규모인 총 8000건의 부정 징후 의심 사업을 추출해 더 폭넓은 탐지망을 형성하고, 이 중 450건에 대해서는 합동 현장점검을 실시하기로 했다. 기존 부정수급 사례를 학습해 효과적으로 탐지하는 인공지능(AI) 탐지 모델을 활용해 적발률을 높여 나갈 계획이다. 그간 부정 징후 탐지시스템 운영 경험이 쌓이면서 적발 실적이 점점 올라가는 추세다. 앞으로 정부는 보조금 집행의 투명성을 높여 낭비 요인을 차단하는 데 총력을 다할 방침이다. 특히 부정수급을 통한 재정 누수를 막기 위해 남아 있는 사각지대를 촘촘하게 점검하고 개선해 나갈 것이다. 국민이 낸 세금으로 조성된 재정이 허투루 쓰이지 않도록 확인하고 철저하게 지키는 것이야말로 정부 본연의 역할이기 때문이다. 김윤상 기획재정부 제2차관
  • “민간 참여사에 ‘연대책임’ 요구해 관철”… 제2 대장동 우려 씻었다

    “민간 참여사에 ‘연대책임’ 요구해 관철”… 제2 대장동 우려 씻었다

    좌초 위기 딛고 공정·투명성 강조“市 이익 극대화한 대표 사례 될 것” “민간 컨소시엄이 연대책임을 지지 않으면 자금 조달과 책임 준공을 보장하기 어려워 피해가 고스란히 시민들에게 돌아간다는 것을 잘 알기에 연대책임을 끝까지 요구해 마감 며칠 전에 관철시켰습니다.” 신상진 경기 성남시장은 지난 23일 서울신문과의 인터뷰에서 “‘백현마이스 도시개발사업’을 추진해 우리 성남시에 서울 코엑스보다 현대화된 최첨단 복합 마이스 단지가 들어서게 된다. 인허가를 포함한 사업 과정을 공정하고 투명하게 추진해 성남시민의 기대에 부응하겠다”며 이같이 밝혔다. 신 시장은 “사업의 안정적인 추진을 위해 ‘사업협약 연대책임’을 주주 협약에 포함하자는 요구를 민간 참여사들이 받아들이지 않으면서 사업이 무산될 위기도 있었다”며 협약 과정에서의 어려움을 토로했다. 그는 “사업 공모와 추진 과정에서 제기된 예비 평가위원 명단 유출 의혹, 제2의 대장동 우려 등 고비가 있었지만 슬기롭게 극복했다”며 “사업 방법, 공모 절차, 개발이익 환수에 이르기까지 절차의 공정성과 과정의 투명성을 최우선으로 생각하고 있다”고 밝혔다. 또 신 시장은 “지금까지 마이스는 대형 일반 사무실과 다름없는 업무공간으로 통합 활성화에 어려움을 겪는 분절된 시설들에다가 기술 속도를 따라가지 못하는 인프라에 그쳤다”며 “2030년 개장하는 백현마이스는 그 자체로 미래 첨단 기술 산업의 시험장으로, 단지 내외부 전체를 하나로 초연결해 빠르게 진화하는 기술과 문화로 미래를 이끌어 가는, 기존과 완전히 다른 미래형 마이스”라고 말했다. 그러면서 그는 “특히 인공지능(AI), 사물인터넷(IoT), 팹리스, 자율주행, 바이오헬스, 드론 등 첨단 및 정보통신기술(ICT) 집적단지인 판교테크노밸리와 연계해 성남시 기업들의 글로벌 네트워크와 마케팅 활성화로 4차산업 글로벌 도시를 지원하는 성남형 마이스가 될 것”이라고 자신했다. 신 시장은 “사업이 완료되면 공공기여로 전체면적 12만㎡의 전시컨벤션시설, 전체 면적 6만㎡의 공공지원시설, 백현로 지하차도 신설, 수내교와 한국잡월드, 백현동 카페거리를 연결하는 다리 3개 시설, 주변 도로 확장, 스마트 공원을 갖추게 된다”고 설명했다. 아울러 그는 “백현마이스 사업은 민간사업자의 이익 대신 시의 이익을 극대화한 대표 사례가 될 것”이며 “사업이 완료되면 공공기여와 토지 매각 대금, 개발이익을 모두 합쳐 2조 4000억원의 이익을 우리 시가 얻게 될 것”이라고 강조했다. 마지막으로 신 시장은 “성남시는 다른 도시와 달리 첨단산업 기반에다가 2025년까지 선진 교통 시스템인 첨단 간선급행버스시스템(S BRT)과 위례트램 개통으로 사통팔달 교통망을 구축해 백현마이스가 대한민국 4차산업 특별도시 허브 역할을 하게 되면서 성남의 미래 50년 먹거리를 책임지게 될 것”이라고 역설했다.
  • “선거 1~2일 전 ‘딥페이크’ 가장 위험… 법보다 AI 윤리로 선제 대응”[이순녀의 이사람]

    “선거 1~2일 전 ‘딥페이크’ 가장 위험… 법보다 AI 윤리로 선제 대응”[이순녀의 이사람]

    인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).
  • 정보 수집 통제·워터마크까지… 세계는 ‘AI 목에 방울 달기’ 전쟁 [AI 블랙홀 시대-인간다움을 묻다]

    정보 수집 통제·워터마크까지… 세계는 ‘AI 목에 방울 달기’ 전쟁 [AI 블랙홀 시대-인간다움을 묻다]

    지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.
  • 포스코 새 회장 후보에 내부 출신 장인화

    포스코 새 회장 후보에 내부 출신 장인화

    재계 서열 5위 포스코그룹을 이끌어 갈 차기 회장 후보로 장인화(69) 전 포스코 사장이 낙점됐다. 포스코가 지난해 12월 21일 차기 회장 선임 절차에 착수한 지 49일 만이다. 장 회장 후보자는 다음달 21일 정기 주주총회 의결을 통해 제10대 포스코 회장에 취임한다. 포스코홀딩스 CEO후보추천위원회(후추위)는 8일 장 전 사장을 회장 최종 후보로 결정해 이사회에 추천했다고 밝혔다. 포스코홀딩스는 이어 임시 이사회를 개최해 장 전 사장을 회장 최종 후보로 올리는 안건을 의결했다. 포스코그룹 내부 후보군 중 한 명이던 장 후보자는 2018년 최정우 현 회장과 최종 후보 자리를 두고 경합을 벌였던 인물로, 6년 만에 포스코 회장 취임을 눈앞에 두게 됐다. 장 후보자는 경기고, 서울대 조선해양공학과를 졸업한 뒤 서울대 공과대학원에서 조선해양공학 석사학위를 취득했다. 미국 매사추세츠공과대학(MIT) 대학원에서 해양공학 박사학위를 받은 뒤 포항산업과학연구원(RIST)에 입사했다. 포항산업과학연구원 강구조연구소 소장을 거쳐 포스코 성장투자부문 신사업실장, 재무투자본부 신사업관리실장을 지냈다. 정통 포스코맨으로, 기술 전문가로 꼽힌다. 포스코에서 연구소부터 시작해 신사업 재무 마케팅까지 두루 경험했고, 2021년 퇴임 후에는 포스코 자문역을 맡아 왔다. 2018년 포스코 사장을 맡아 인공지능(AI) 신기술을 이용한 제철소 스마트 팩토리 체계를 구축해 그룹 핵심 사업인 철강 사업 경쟁력을 강화시켰고, 신사업 분야에서도 배터리 양·음극재 사업을 재편해 그룹 신사업 기반을 마련하는 데 기여한 것으로 평가받는다.포스코 재직 당시 사내에서는 직급과 관계없이 직원들에게 존댓말을 쓰고, 백팩을 멘 채 현장을 돌아다니는 소탈한 성품으로 통한다. 포스코 관계자는 “노사관계에서 사측 대표로 활동하면서도 친화력과 현장 중심 행보를 보이면서 화합의 리더십을 발휘했던 인물”이라고 했다. 장 후보는 장영신 애경그룹 회장의 조카로도 알려져 있다. 후추위는 장 후보자에 대해 “미래의 도전을 치밀하게 준비하고 과감하게 실행할 수 있는 역량을 갖춘 인물”이라면서 “그룹의 핵심 사업과 개선점에 대한 확실한 문제의식을 바탕으로 미래 비전을 명확하게 실현해 낼 수 있는 최적의 후보”라고 선정 배경을 밝혔다. 이어 “장 후보가 글로벌 전략 구상과 함께 기술 중심의 혁신을 주도하고 그룹 내부의 조직문화 개선에도 크게 기여할 수 있을 것으로 기대한다”고 했다. 앞서 후추위는 지난달 31일 장 전 사장을 비롯해 권영수 전 LG에너지솔루션 부회장, 김동섭 한국석유공사 사장, 김지용 포스코홀딩스 미래기술연구원장, 우유철 전 현대제철 부회장, 전중선 전 포스코홀딩스 사장 등 회사 안팎 인사 6명을 후보군으로 압축했다. 이어 지난 7일부터 이날 오전까지 비공개로 미래 비전과 수행 전략, 리더십 등을 평가 기준으로 삼아 6명의 후보를 상대로 심층 면접을 진행했다. 업계에서는 그간 후추위를 구성하는 7명의 사외이사 전원이 포스코 사내이사들과 중국과 캐나다 등으로 초호화 출장을 다니며 유착했다는 의혹을 받는 만큼 이번에는 30년 만에 ‘순혈주의’를 깨고 외부 인사가 최종 후보로 낙점될 수 있다는 전망이 나오기도 했다. 포스코그룹은 역대 회장 중 정치권 출신인 4대 김만제 회장(1994∼1998년)을 제외하면 모두 포스코 출신 인사들이 회장을 맡아 왔다. 장 후보자는 2019년 포스코 사장 재직 당시 사내이사 자격으로 사외이사들과 중국 베이징 이사회 개최를 이유로 출장을 다녀왔고, 중국 출장 당시 업무와 관련성이 적은 백두산 관광과 5성급 고급 호텔 숙박 및 호화 식사 등을 회삿돈으로 사외이사들에게 제공해 회사에 손해를 끼친 혐의(업무상 배임)로 시민단체로부터 고발된 상태다. 그럼에도 후추위는 6명의 후보 중 장 후보자가 철강 분야 전문성을 바탕으로 그룹의 미래 비전을 제시하면서 조직을 안정적으로 이끌 수 있는 적임자로 판단했다. 박희재 후추위 위원장은 “투명성과 공정성, 객관성이 무엇보다 중요하다는 데 후추위 위원 모두가 뜻을 같이했다”며 “외부의 간섭 없이 독립적으로 맡은 바 책무를 수행하는 데 혼신의 노력을 다했다”고 밝혔다. 포스코 최대주주인 국민연금공단(지분율 6.71%) 역시 후추위 구성을 두고 공정성에 의문을 제기하기도 했지만, 업계는 포스코의 소액주주 지분이 75%가 넘는 만큼 특정 주주의 영향력은 크지 않을 것으로 보고 있다.
  • “AI, 실생활에 어떻게 밀착할까에서 출발”

    “AI, 실생활에 어떻게 밀착할까에서 출발”

    “인공지능(AI)을 어떻게 하면 고객의 실생활에 의미 있게 활용할 수 있냐는 생각에서 출발했습니다.” 김영집(53) 삼성전자 모바일경험(MX)사업부 언어 AI 팀장(부사장)은 지난 18일(현지시간) 미국 캘리포니아주 마운틴뷰 ‘삼성리서치 아메리카’(SRA)에서 갤럭시 S24 시리즈에 새로 탑재한 갤럭시 AI를 소개하면서 ‘고객 경험’을 강조했다.그는 AI가 전 세계적 관심을 받게 된 건 2022년부터지만, 삼성전자는 그보다 훨씬 오래전부터 AI 개발을 진행해 왔다고 소개했다. 김 부사장은 갤럭시 S24 시리즈에 생성형 AI인 챗GPT를 사용할 수 있는 챗봇 아이콘 도입을 고민했던 점을 설명하면서 “챗봇 아이콘을 하나 추가한다고 해서 고객이 의미 있는 AI를 쓸 수는 없을 것이라는 게 우리의 결론이었다”고 말했다. 그러면서 “스마트폰이기 때문에 문자나 음성을 통해 통화하는 기능에서부터 사용자에게 AI를 실제로 체험할 수 있고 활용할 수 있게 하자는 것에서 출발했다”고 회상했다. 갤럭시 AI는 ‘하이브리드 AI’를 표방하며 기기 내에 탑재된 온디바이스와 클라우드 방식을 모두 활용할 수 있는 구조로 설계됐다. 김 부사장은 “갤럭시 S24를 개발할 때 자체 개발뿐만 아니라 여러 파트너와 같이 가장 좋은 서비스와 기능을 고객에게 제공하는 것이 목표가 됐다”며 “갤럭시 AI는 기능 전반에 걸쳐 공정성, 투명성, 책임성 원칙을 준수하고 있다”고 했다. 실리콘밸리의 중심인 마운틴뷰에 있는 SRA는 삼성전자의 해외 연구개발(R&D) 핵심 기지다. 부지 면적 약 3만 5815㎡(1만 834평)에 700여명의 연구원이 근무하고 있다. 이 가운데 한국인 직원은 10%에 불과하다. 2018년 SRA 산하에 설립된 ‘SRA AI 센터’는 실리콘밸리의 AI 전문가들과 협력하며 연구 역량을 강화하고 있다.노원일(57) SRA 연구소장(부사장)은 “SRA가 있는 곳은 구글, 메타, 애플, 인텔, 엔비디아, 넷플릭스 등이 가까이에 있는 혁신의 산실”이라며 “온디바이스 AI나 디지털 헬스 핵심 기술에 SRA가 상당히 많은 선행 연구를 통해 이바지했다”고 말했다.
  • [차상균의 혁신의 세계] AI가 바꿀 기업과 국가 경영/서울대 데이터사이언스대학원 초대원장

    [차상균의 혁신의 세계] AI가 바꿀 기업과 국가 경영/서울대 데이터사이언스대학원 초대원장

    새해가 시작됐다. 기업들은 빠르게 변하는 세계 속에서 한 해의 경영 계획을 정하기 바쁜 때다. 정부와 공공기관도 연말에 정해진 예산에 따라 올해 추진할 사업에 대해 구체적으로 고민하는 때다. 미국 라스베이거스에서는 지난 9일부터 12일까지 컨슈머 전자 쇼(CES)가 열린다. 삼성, LG, 현대자동차 등 국내 대표 기업들은 매년 이 행사에서 미래 제품과 기술을 선보여 왔다. CES에서도 지난해 내내 지구상의 관심을 끌어 왔던 젠AI가 화두다. 휴대폰, TV, 자동차 등 개인 소비자들의 모든 전자 제품에 젠 AI가 탑재돼 상호작용하는 ‘앰비언트 젠AI 시대’가 오고 있다. 이 때문에 엔비디아 GPU와 같은 고성능 데이터센터 AI 반도체 외에도 다양한 용도와 성능의 엣지 AI 반도체 수요가 늘어날 전망된다. 지금까지 젠AI에 대한 관심은 챗GPT 같은 서비스가 개인 소비자들의 지적 활동을 도와주는 데 집중됐다. 하지만 젠AI는 기업, 국가와 같이 목적을 가진 엔터프라이즈 경영에서 투명성과 생산성, 유연성을 높여 엔터프라이즈 내부와 외부의 상호작용 프로세스의 파괴적 혁신을 일으킬 수 있는 무한 가능성이 있다. 잘 알려진 것처럼 젠AI의 파워는 데이터에서 나온다. 예를 들어 CES에서 선보이는 새로운 제품들도 각 기업에서 연구개발과 생산, 인재와 시설의 선행 투자, 부품 공급망 확보 등 일련의 프로세스를 통해 만들어진다. 이 각각의 프로세스에서 다양한 데이터가 ERP를 비롯해 기업 내부의 여러 정보 시스템에 축적된다. 젠AI는 일차적으로 설계, 생산, 인사, 재무 등 기업의 각 단위 조직에서 비효율적이고 사람이 하기 싫어 하는 반복적 데이터 기반 업무를 자동화하는 데 효과를 낼 수 있다. 예를 들어 기업의 분기, 반기, 연차 경영 성과는 상장 기업이면 감사 절차를 거쳐 누구든 공개해야 하고 그 내용에 대해 CEO와 CFO가 법적 책임을 진다. 젠AI 시스템이 내부 감사 보고서 초안과 공시용 경영 보고서 초안을 ERP에 쌓인 경영 히스토리 데이터와 과거의 보고서를 바탕으로 만들고, 내부 전문가와 최고 경영진이 수정을 하면 이 결과를 젠AI가 다시 학습해 다음 보고서 수준을 높이는 선순환 구조를 만들 수 있다. ERP 데이터가 기반이므로 기업의 투명성을 높여 최고 경영진의 법적 위험을 낮추고 데드라인에 쫓기는 감사 및 경영 보고서 작업자의 효율성을 키워 경영 진단과 미래 예측에 도움이 되는 인사이트 도출에 집중하도록 할 수 있다. SAP나 세일즈포스닷컴, 워크데이 같은 기존 ERP, CRM, HR 시스템 소프트웨어는 데이터베이스 위에 전통적 코딩 방식으로 이뤄진 시스템이다. 이 소프트웨어들을 이루는 수천만 라인의 코드에는 기업의 각종 업무 프로세스 로직이 경직된 형태로 구현돼 있다. 이들 소프트웨어에 구현된 로직이 특정 기업 또는 신규 사업과 맞지 않아도 의존할 수밖에 없었다. 젠AI 기반의 엔터프라이즈 경영관리 시스템은 경직된 코딩을 없애고 기업 경영 전반에 필요한 데이터의 라이프사이클에 집중하는 새로운 패러다임의 소프트웨어다. 기업 경영에 필요한 다양한 기능의 모델이 학습을 통해 자동적으로 만들어진다. 혁신을 추구하는 기업에 절대적으로 필요한 유연성이다. 투입된 데이터의 다양성만큼 기업의 경영 효율화가 이뤄지므로 기업 내 조직들 사이의 데이터 흐름과 상호 협력이 불가피하다. 기업 내 사일로가 사라질 수밖에 없다. 이 새로운 엔터프라이즈 젠AI 패러다임은 국가 운영에도 적용된다. 올해 657조원의 정부 예산 집행은 기획재정부 산하 한국재정정보원이 운영하는 통합재정정보시스템에 기록돼 분석된다. 젠AI 시대에 이 통합재정정보시스템에 국가의 모든 프로젝트 데이터가 실시간으로 모이게 하면 대한민국의 경영에 어떤 파괴적 혁신이 일어날지 상상해 보라.
  • X는 ×?…“SNS 가짜 뉴스 오죽했으면” EU 핀셋 조사 도마에

    X는 ×?…“SNS 가짜 뉴스 오죽했으면” EU 핀셋 조사 도마에

    일론 머스크(52)의 소셜미디어(SNS) 엑스(X·옛 트위터)가 유럽연합(EU)의 SNS 규제법 첫 공식 조사 대상에 올랐다. EU 집행위원회는 18일(현지시간) 성명을 통해 X에 대해 디지털서비스법(DSA)에 따른 위반 조사를 공식적으로 개시했다고 밝혔다. DSA는 메타, 인스타그램 등 SNS 플랫폼에서 가짜 뉴스와 불법 콘텐츠가 유통되는 것을 막기 위한 장치다. EU의 공식 조사는 지난 8월 법 시행 이후 처음이다. 플랫폼은 유해·불법 콘텐츠의 신속한 제거와 예방 시스템을 마련해야 하고, 이를 어길 경우 연간 글로벌 수익의 최대 6%에 해당하는 과징금을 물게 된다. EU는 지난 10월 머스크에게 DSA를 준수하라고 촉구한 지 두 달여 만에 X에 대한 공식 조사에 착수했다. 당시 EU는 이스라엘과 팔레스타인 무장정파 하마스 간 전쟁 초기 X에 가짜뉴스가 범람한다며 DSA 준수를 촉구한 바 있다. 티에리 브르통 EU 집행위원은 “X는 투명성 의무 준수 미흡 및 사용자 인터페이스의 기만적인 디자인으로 조사를 받고 있다”며 “대형 온라인 플랫폼이 ‘규모가 커서 신경 쓰지 않아도 되는’ 시대는 이제 끝났다”고 말했다. 집행위는 개별 콘텐츠에 대한 조사보다 X가 콘텐츠를 처리하는 방식을 살펴볼 예정이라고 설명했다. X가 자체 약관을 준수하는지, 불법 콘텐츠 신고 메커니즘이 있는지, 이를 얼마나 신속하게 처리하는지 등을 집중적으로 조사할 예정이다. 특히 X의 ‘블루체크’ 시스템을 살펴보고 있다고 EU 관계자는 덧붙였다. 블루체크는 당초 누군가가 검증되고 신뢰할 수 있는 출처임을 나타내는 인증 시스템이었는데, 머스크 인수 후 프리미엄 서비스 이용자 표시로 바뀌었다. 집행위는 블루 체크가 여전히 인증된 계정임을 나타내는 것처럼 이용자에게 오해를 주는지, 프리미엄 사용자의 게시물이 일반 사용자보다 더 많이 노출되는지 등도 파악하기로 했다. 이에 대해 X 측은 “DSA를 준수하기 위해 최선을 다하고 있으며, 규제 절차에도 협조하고 있다. 이번 조사 과정이 정치적 영향력으로부터 자유롭고 법을 준수하는 게 중요하다”고 밝혔다. 머스크는 앞서 지난 10월 EU의 경고에 대해 “우리의 정책은 모든 것의 출처가 공개되고 투명하다는 점이며, 이는 EU도 지지하는 접근 방식”이라면서 “대중들이 볼 수 있도록 뭘 위반했다는 말인지 나열해달라”고 발끈한 바 있다. 블룸버그 통신은 최근 소식통을 인용해 X가 올해 연간 25억 달러(약 3조 2683억원)의 광고 수입을 올릴 것으로 전망했다. 이를 기준으로 환산하면 과징금은 최대 1억 5000만 달러(약 1964억원)이다. X를 ‘시민 저널리즘’의 한마당으로 만들겠다는 머스크는 가짜 뉴스를 창궐하게 만든 책임자라는 비판을 받았다. 이스라엘과 하마스 간 전쟁 이틀째인 지난 10월 8일엔 미국이 이스라엘에 80억 달러 규모 지원을 승인했다는 백악관 문서를 퍼다 나르기도 했다. 하지만 이는 지난 7월 조 바이든 행정부가 우크라이나에 4억 달러를 지원한 문서를 조작한 문건이었다. 이스라엘 언론인 것처럼 이름을 ‘예루살렘 포스트’라고 지은 한 계정은 X에서 베냐민 네타냐후 이스라엘 총리가 병원으로 이송됐다는 허위 기사를 올려 비난을 샀다. 지난해 4월 트위터 인수 후 신원 인증을 받은 미디어·유명인의 계정 옆에만 표시해주던 ‘블루체크’ 마크를 월 8달러에 아무에게나 판매하면서 정보의 진실 여부를 더욱 알기 어렵게 만들었다는 것이다. 익명 기반으로 한 사람이 다수의 계정을 운영할 수 있는 X는 SNS 중 가짜 뉴스 생성과 확산이 가장 빠른 플랫폼으로 꼽혀 악명을 높였다. 가짜 뉴스가 ‘직접적인 테러’라는 인식이 세계적으로 강화되고 있지만 정작 미국에서는 규제가 힘을 받지 못하고 있다. 워싱턴포스트(WP)에 따르면 바이든 정부는 최근 가짜 뉴스 유포를 차단하기 위해 페이스북, 인스타그램 등 일부 SNS 회사와 진행하던 허위정보 경고 시스템 운영을 중단했다. 야당인 공화당이 ‘기본권 침해’라며 공세에 나섰고 법원에서도 공화당을 지지하는 판결을 내렸기 때문이다. WP는 “인공지능(AI)이 발달하며 한층 손쉽게 선동 자료를 만들 수 있는 환경이 됐다”고 했다. 메타 유럽 본사가 있는 아일랜드의 규제 당국은 지난 5월 개인정보보호법 위반을 이유로 메타에 12억유로(약 1조 7000억원) 규모 과징금을 부과했다. 노르웨이 정부는 메타가 이용자의 데이터를 무분별하게 수집하고 있다며 지난 8월 이후 매일 하루 100만크로네(약 1억 2000만원)의 벌금을 부과하고 있다. 개인정보 수집을 막는 방식으로 페이스북과 인스타그램의 영향력을 줄이려는 것이다.
  • 사업 영역 넓혀가는 AI… 챗GPT, 뉴스 사용 계약 체결

    사업 영역 넓혀가는 AI… 챗GPT, 뉴스 사용 계약 체결

    인공지능(AI)의 영역이 확대되면서 기술 개발에 따른 시장 선점 경쟁도 치열해지고 있다. 구글은 13일(현지시간)부터 최신 AI 언어모델 ‘제미나이 프로’를 구글 클라우드가 제공하는 기업용 AI 플랫폼인 ‘버텍스 AI’에 탑재한다고 밝혔다. 구글은 제미나이를 처음 공개한 지난 6일부터 AI 챗봇인 바드에 적용했고, 개발자를 위한 AI 개발 도구인 구글 ‘AI 스튜디오’에도 이 기술을 넣어 사용 영역을 계속 확장하고 있다. 버텍스 AI를 사용하는 기업은 글자뿐 아니라 이미지, 오디오, 영상 등의 다양한 형태로 제미나이에 답을 요청하고 결과물을 얻을 수 있다. 사용 가능한 언어도 한국어를 포함해 38개 언어에 이른다. 구글 측은 “제미나이는 처음부터 다양한 유형의 데이터를 학습했다”며 “기업들이 원하는 목적에 따라 원하는 AI 기능을 만들 수 있다”고 설명했다. 이와 함께 AI 이미지 생성 도구인 ‘이마젠 2’를 구글 워크스페이스에 적용했을 뿐 아니라 의료용 AI 모델인 메드LM 제품군도 선보였다. 의료용 AI는 환자 데이터 연구에 적합한 대규모 모델과 의사와 환자 사이 대화를 요약하는 실시간 기능에 잘 작동하는 중형 모델이 있다. 구글은 향후 의료에 특화한 제미나이 AI 모델도 출시할 예정이다. 구글의 거센 추격을 받는 챗GPT 개발사 오픈AI는 글로벌 통신사인 AP통신과 뉴스 콘텐츠 사용에 대한 계약을 한 데 이어 이날 악셀 스프링어와도 사용 계약을 체결했다. 악셀 스프링어는 미국 폴리티코와 비즈니스 인사이드, 독일의 빌트 및 디벨트 등의 매체를 보유한 미디어 기업이다. 이번 계약으로 오픈AI는 이들 언론사에 일정 비용을 내고 챗GPT 훈련과 답변 생성에 기사를 이용한다. 챗GPT가 내놓는 답에는 투명성을 위해 출처와 링크도 포함된다. 지난 7월에는 AP통신과 지역언론 지원기관인 아메리칸 저널리즘 프로젝트와 잇달아 사용 계약을 맺었다. 챗GPT 학습에 사용된 콘텐츠를 둘러싸고 제기되는 저작권 침해 논란을 해소하기 위한 움직임이다.
  • [열린세상] 인공지능을 둘러싼 글로벌 규범 전쟁/고학수 개인정보보호위원회 위원장

    [열린세상] 인공지능을 둘러싼 글로벌 규범 전쟁/고학수 개인정보보호위원회 위원장

    올 한 해 동안의 주요 뉴스를 꼽아 보자면 새롭게 등장한 챗GPT가 당연히 포함될 것이다. 지난해 말 챗GPT가 처음 선보인 이후 인공지능(AI) 영역에 대한 세계의 관심은 그 이전과는 다른 차원으로 크게 증폭됐다. 챗GPT를 개발한 기업인 오픈AI 대표의 사임 여부를 둘러싼 최근의 분쟁은 세계적 주요 뉴스로 등장하며 인공지능에 대한 관심을 더욱 뜨겁게 달구는 계기로도 작동했다. 이 흥미로운 분쟁은 인공지능 기술의 발전을 적극적이고 지속적으로 추진해야 한다는 입장과 기술 발전이 결국 인류에 큰 해악을 가져올 가능성이 높으므로 그러한 해악의 가능성에 더욱 주목해야 한다는 입장이 대립한 결과였다. 인공지능 기술의 발전을 둘러싼 경쟁이 국내외적으로 매우 치열하게 전개되고 있다. 그와 동시에 인공지능 규범을 둘러싼 경쟁 또한 이제는 규범 전쟁이라 표현될 정도로 치열하게 진행되고 있다. 오픈AI의 분쟁만큼 언론의 관심을 크게 받지는 않았지만 유럽연합(EU)에서는 지난 수년간 인공지능 영역의 규율을 위한 실정법 입법 논의가 진행돼 왔다. EU의 법안은 지난 6월 유럽의회에서 가결된 후 마지막 입법 단계에서 합의에 어려움을 겪다 지난주 마침내 최종 타결됐다. EU에서의 논의는 실정법 입법을 위한 것이어서 특히 주목을 받았다. 그런가 하면 지난 몇 년간 인공지능 영역의 규율 체계를 마련하고자 하는 노력은 세계 곳곳에서 다양한 형태로 이루어졌다. 우리나라를 포함해 여러 개별 국가 차원의 논의도 있었다. 주요 7개국(G7) 등 국가 간 협의체에서의 논의, 경제협력개발기구(OECD)와 같은 국제기구에서의 논의, 그리고 유엔을 통한 글로벌 차원의 논의도 있다. 이러한 논의의 주요한 특징을 두 가지만 간추린다면 다음과 같다. 첫째, 지금까지의 논의가 주로 대원칙을 세우는 것에 초점이 맞춰졌다면 이제는 이를 구체화하기 위한 논의로 본격화하고 있다. 공정성, 안전성, 투명성, 프라이버시 등 지금까지 논의된 대원칙은 추상적인 개념에 그친 경우가 많았다. 최근 들어서는 이로부터 실행 가능한 형태의 규율 체계를 만들어 가는 노력이 본격적으로 나타나고 있다. 지난 10월 말 미국 백악관이 발표한 행정명령은 이러한 변화의 양상을 구체적으로 보여 준다. 행정명령은 상당히 상세하고 방대한 내용을 담고 있는데, 여기에는 인공지능이 생성한 결과물에 대해 워터마크 표시를 하게 한다든가 주요 인공지능 모형에 대해 안전성 검사를 하고 그 결과를 보고하도록 하는 등 실무자들이 이행해야 하는 내용들이 구체적인 형태로 담겼다. 둘째, 규범 마련 작업은 국경을 뛰어넘고 있다. 미국이나 EU에서의 논의는 국경을 뛰어넘어 세계 곳곳의 논의에 실질적으로 크고 작은 영향을 미치고 있다. 더 나아가 유엔의 인공지능 고위급 자문기구 회의에서는 세계 여러 나라 출신의 위원들이 활동하면서 다양한 견해를 제시하고 있기도 하다. 글로벌 무대에서 규범이 마련되고 나면 그 규범은 개별 국가들에 다양한 형태로 영향을 미치게 될 것이다. 인류가 어떤 유형의 인공지능 기술을 더욱 적극적으로 개발하게 될지, 인공지능이 인류에 미칠지도 모르는 해악은 어떤 것이며 이를 방지하기 위해 어떤 조치를 취해야 할지 등의 사안은 결국 개별 기업이나 개별 국가보다는 글로벌 규범 체계를 통해 그 윤곽이 잡힐 가능성이 높다. 인공지능에 관한 국제 규범 마련을 위한 논의는 우리나라에도 중요한 기회를 주고 있다. 우리나라의 축적된 경험이 글로벌 논의에서 중요한 시사점을 제공하는 경우가 적지 않다. 글로벌 인공지능 규범 전쟁에서 우리나라는 소프트파워를 지닌 주요 국가로 점차 인식되고 있다. 그 기회를 잘 살려 낼 지혜가 필요하다.
  • 세계 최초 ‘AI 규제법’ 만든 EU, MS의 오픈AI 투자 반독점 조사

    세계 최초 ‘AI 규제법’ 만든 EU, MS의 오픈AI 투자 반독점 조사

    유럽연합(EU)이 지난 8일(현지시간) 세계 최초로 인공지능(AI)에 관한 규제 법안을 만든 가운데 마이크로소프트(MS)의 오픈AI 투자에 대한 반독점법 위반 여부 조사가 시작됐다. EU 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 37시간이 넘는 마라톤 회의 끝에 AI의 위험성을 규제하는 ‘AI 법’에 합의했다. 이 법은 AI의 위험성을 분류하고 투명성을 강화하는 내용으로 정치·종교적 신념, 성적 지향, 인종 등의 기준으로 사람들을 분류하는 안면 인식과 데이터베이스 구축을 위한 생체정보 수집을 금지했다. 다만 사법당국의 테러 위협 예방, 범죄 용의자 추적 등을 위한 ‘실시간’ 안면 인식은 예외적으로 허용했다. 오픈AI의 챗GPT, 구글의 제미나이와 같은 대규모 언어 모델은 규제하되 국가 안보를 위해 활용하는 AI에는 광범위한 예외를 허용했다. 따라서 EU에서 자율주행차 등 ‘고위험 AI’ 기술을 사용하는 기업은 데이터를 공개해야 하며 규정을 위반하면 최대 3500만 유로(약 500억원) 또는 전 세계 매출의 7%에 해당하는 벌금을 부과받게 된다. EU의 AI 규제 논의는 2021년 4월 본격적으로 시작됐고 챗GPT와 같은 새로운 기술 혁신이 등장하면서 법안을 다시 작성했다. 최종 합의문은 아직 공개되지 않았으며 법안 승인 후 발효까지는 2년이 걸릴 예정이다. 미국은 아직 AI 규제 초기 단계로 의회에서 AI를 다루는 초당적 법안을 만들고 있다. 한편 유럽과 미국은 세계 AI 개발을 주도하고 있는 MS와 챗GPT 개발사 오픈AI에 대해 반독점법 위반 조사에 나섰다. 영국 경쟁시장청(CMA)은 이날 MS와 오픈AI의 투자·협력 관계를 합병으로 볼 것인지를 조사하는 예비 자료 수집에 착수했다. 미 연방거래위원회(FTC)도 예비 조사를 시작했는데 블룸버그통신은 “MS는 비영리단체인 오픈AI에 대한 투자가 회사를 지배하는 것으로 보지 않았다”고 전했다.
  • 과학기술정보통신부·정보통신정책연구원, ‘제3회 디지털 대전환 메가트렌드 컨퍼런스’ 개최

    과학기술정보통신부·정보통신정책연구원, ‘제3회 디지털 대전환 메가트렌드 컨퍼런스’ 개최

    정보통신정책연구원(KISDI, 원장 배경율)은 과학기술정보통신부(장관 이종호)와 7일 포스트타워 대회의실에서 ‘제3회 디지털 대전환 메가트렌드 컨퍼런스’를 개최했다. 과학기술정보통신부와 정보통신정책연구원은 올 한 해 동안 지난 1, 2차연도 메가트렌드 연구에서 디지털 대전환의 방향성으로 제시하고 있는 ‘디지털 공동번영사회’로의 이행을 위해, 새로운 디지털 질서를 정립하고 현 한국사회에 필요한 미래전략을 제시했다. 디지털 대전환 메가트렌드 연구는 한국통신학회, 한국정보과학회, 대한전자공학회, 정보통신정책학회, 한국경영학회, 한국행정학회, 한국정책학회, 한국사회학회, 한국정치학회 등 국내 학회들과 협동연구 형식으로 진행됐으며, 산학연의 전문가들이 연쇄적인 합동 세미나를 개최하며 디지털 대전환 메가트렌드의 영역별 변화상과 중장기 정책 수요를 연구해왔다. 2023년도 연구는 디지털 심화시대의 새로운 질서 정립 및 법제도 정비, 미래 전략 도출을 위한 연구에 중점을 두고 추진됐다. 이날 정보통신정책연구원 배경율 원장은 개회사를 통해 “인공지능을 중심으로 하는 새로운 디지털 기술이 개발·활용되면서 다양한 기회와 함께 디지털 격차, 개인정보 유출 등 새로운 사회적 문제에 직면하고 있다”라며 우리나라가 “글로벌 디지털 규범을 선도할 수 있으려면 디지털 전환의 혜택을 정의롭고 공정하게 누리기 위한 노력을 지속해야 한다”라고 밝혔다. 먼저 1부 세션에서는 대표 발제를 맡은 정보통신정책연구원 디지털경제사회연구단 김정언 선임연구위원이 ‘디지털 공동번영사회 실현을 위한 새로운 질서 정립과 미래전략’을 발표한 뒤, 각 학회가 발표하는 세션으로 이어졌다. 김정언 선임연구위원은 대표발제에서 디지털 대전환의 사회경제적 파급효과를 진단하고 기술, 산업·경제, 공공·행정, 사회·제도 등 영역별 변화상을 살펴보며 디지털 심화 시대에서 국민의 기본권 보호를 위한 입법 개선과제를 도출·제시했다. 또한 대국민 인식조사와 전문가 설문조사를 통해 디지털 관련 국민 역량 측정 및 권리 인식을 조사하고, 디지털 심화 양상 진단, 우리나라의 디지털 메가트렌드 대응 역량 진단, 관련 정책 대응 방향 등에 관한 결과를 공유했다. 마지막으로 디지털 공동번영사회를 실현하기 위한 디지털 혁신과 성장기반 조성, 지속 가능한 사회안정성 확보, 디지털 시민권의 확립, 공공영역의 변화 대응 탄력성 제고, 선도적 글로벌 협력·연대 리딩, 정보 범람과 탈진실 사회 대응, 인간 고유성에 대한 새로운 고찰이라는 일곱 가지 미래 전략을 제안했다. 2023년 일반 시민을 대상으로 성, 연령, 지역을 할당한 표본을 온라인 조사(갤럽)한 결과 디지털 시대에 시민의 권리나 개인적 이익을 보호하기 위한 국가의 의무나 책임에 대한 기대치가 과거에 비해 높아진 편(53.9%)이라는 응답이 가장 많은 것으로 나타나 디지털 심화에 다른 정부 차원의 적극적인 대응이 요구됨을 보여줬다. 새로운 디지털 질서 정립 시 가장 먼저 다뤄야 할 이슈로 경제 분야에서는 ‘디지털 자산에 대한 소비자 보호 법적 근거 마련’(28.9%)이, 사회 분야에서는 ‘인공지능이 출력한 결과물에 대한 지식재산권, 저작권, 발명권에 대한 허용 여부’(24.3%)가, 문화/정치 분야에서는 ‘가짜뉴스/허위정보 등으로 인한 정치적 갈등’(27.6%)과 ‘딥페이크 기술을 활용한 허위 영상의 확산’(27%)이 각각 가장 높게 나타나, 시민들이 중요하게 생각하는 의제들의 우선순위를 확인했다. 2부 세션에서는 ‘기술혁신과 제도 정립방안 연구’라는 주제로 ‘미래 ICT 핵심기술 발전 방향과 기술혁신 요소’, ‘AI기반 전방위적 자동화 시대의 혁신, 경쟁, 포용적 성장’,‘디지털 시대 메타 거버넌스 구축을 위한 중앙-지방정부의 역할’의 발표와 토론이 이어졌다. 2부 세션의 첫 번째 발제를 맡은 한국외국어대학교 정보통신공학과 정성호 교수는 디지털 기술의 급속한 진화에 따른 미래 사회변화를 6G, 양자인터넷, 인공지능, 메타버스 등 미래 핵심 기술의 발전방향 및 관련 이슈를 살펴보며 전망하고, 새로운 디지털 질서 정립을 위한 해당 기술별 혁신 요소와 관련 정책 방향을 논의했다. 두 번째 발제에서 경희대학교 경영대학 김도훈 교수는 일반 인공지능의 확산으로 AI가 사회·경제에 미치는 영향에 대해 분석, 이러한 흐름으로 인한 노동의 과잉 대체와 같은 사회·경제적 딜레마를 데이터세(data tax)와 AI-로봇세(AI-robot tax)와 같은 생산·서비스 활동에 직접 영향을 미치는 과세로 해결하는 방안을 제시함과 동시에 포용적 성장의 가능성에 대해서도 검토했다. 다음으로 아주대학교 행정학과 김서용 교수는 기존에 볼 수 없었던 복잡한 사회문제 해결을 위해 문제해결 대상과 영역에 그 형상이 유동적으로 변화하는 조정 거버넌스와 초월적 거버넌스를 메타 거버넌스라는 개념을 통해 설명했다. 다양한 사례분석을 통해 전통적 거버넌스를 벗어나 메타 거버넌스가 형성되고 있다는 점을 확인, 그 성공적 전환을 위해 관료, 기업가, 시민들의 행태 변화를 비롯한 기존 행정 및 정책 틀의 근본적 변화를 제언했다. 이어지는 종합토론에서는 이경원 교수(정보통신정책학회 차년도 학회장, 동국대학교 경제학과)의 사회로 홍인기 교수(한국통신학회장, 경희대학교 전자공학과), 이희정 교수(정보통신정책학회장, 고려대학교 법학전문대학원), 이덕로 교수(한국행정학회장, 세종대학교 행정학과)가 각 학회 연구책임자에 관한 토론을 진행했다. 3부 세션에는 ‘디지털 보안, 디지털금융과 글로벌 규범’이라는 주제로 ‘새로운 질서를 위한 데이터 보호 및 보안 기술’, ‘디지털 금융의 경제적 영향 및 이슈와 쟁점’,‘디지털 심화에 따른 정치적 분극과 갈등해결 방안 모색’의 발표가 마련됐다. 3부 세션의 첫 발제는 한성대학교 컴퓨터공학부의 허준영 교수가 맡아 새로운 디지털 하에 상호신뢰를 구축하는 데 필요한 규범과 이를 뒷받침해 줄 사이버 보안 기술을 중심으로 설명했다. 특히 최근 주목받고 있는 제로트러스트와 인공지능 활용 보안, 신뢰 가능 인공지능, 공급망 보안을 중심으로 소개했고, 이런 기술에 대한 미래 전망과 관련 R&D 전략과 정책 방향에 대해서도 제시했다. 뒤이어 이화여자대학교 경영대학의 양희동 교수는 디지털 금융의 발전 및 현재 상황에 대해 포괄적으로 조명하여, 디지털 금융의 기본적인 정의에서부터 금융산업 변화의 주요 트렌드, 도전, 기회, 미래 전망을 설명했다. 특히 디지털 자산 시장의 성장이 금융산업의 혁신과 성장을 주도한다면서 정부의 디지털금융 전환 지원을 촉구함과 동시에 디지털 금융 생태계를 고려한 전략 수립을 제시했다. 세 번째로 대구가톨릭대학교 정치외교학과의 장우영 교수는 한국정치가 사회정치적 양극화를 넘어 분극화의 위기에 직면하고 있으며, 자유 공론장을 위협하는 허위조작정보(disinformation), 디지털 플랫폼 정부의 민주적 통제 등의 현상이 디지털 심화 환경에서의 민주주의와 헌정체제의 혁신을 요청하고 있다고 강조했다. 빅데이터 분석을 통해 한국사회의 정치양극화 추세와 구조를 밝히며 정보의 투명성과 디지털 권리 강화의 필요성을 제기했다. 3부 세션의 종합토론은 조화순 교수(한국정치학회 차년도 학회장, 연세대학교 정치외교학과)의 사회로 이원준 교수(한국정보과학회장, 고려대학교 정보보호대학원), 김재구 교수(한국경영학회장, 명지대학교 경영학과), 최아진 교수(한국정치학회장, 연세대학교 국제학대학원)가 디지털 심화시대의 새로운 질서 정립을 위한 방안을 토론했다. 마지막 세션에는 ‘노동 및 교육 그리고 기술 규범’이라는 주제로 ‘새로운 디지털 질서를 위한 기술 규범과 정책 방향’, ‘디지털 전환기 노동과 고등교육의 변화’, ‘디지털 기반 정책 과정의 공정성과 신뢰성 제고 방안’에 대한 주제 발표와 토론이 진행됐다. 첫 번째 발제는 인천대학교 전자공학과의 김훈 교수가 디지털 전환의 가속화 과정에서의 위협요소와 대응 기술 등, 디지털 전환시대의 주요 분야인 AI, 데이터, 메타버스, 자율주행 등에서의 기술 규범 이슈를 분석했다. 이어서 우리나라가 디지털 전환의 기술 규범 이슈에 유연하게 대응하고 기술 규범 선도 국가로의 위상을 다지는데 필요한 기술 정책 방향을 제시했다. 이어서 KAIST 디지털인문사회과학부의 김란우 조교수는 사회적 변화가 노동시장에 미치는 영향과 디지털 전환기의 맥락에서의 세계 각국의 정책적인 대응 현황을 소개했다. 또한 현재 한국의 노동 현장에서 생성형 인공지능으로 대표되는 디지털 대전환의 체감 수준 및 노동자의 대응 정도, 디지털 전환에 선도적으로 대응했던 미국 고등 교육을 분석해 한국의 대학 교육 정책에 시사점을 제공했다. 세 번째로 서울과학기술대학교 IT정책대학원의 성욱준 교수는 디지털 신기술의 공공 도입 확산에 따른 정책결정 과정에서 디지털 신기술의 활용과 이로 인한 변화를 예측해, 정부 정책의 공정성과 신뢰성을 높일 수 있는 방안을 제시했다. 이를 위해 최근 디지털 신기술 도입에 따른 공공·행정 영역 변화 방향과 정책결정 과정에서의 디지털 신기술 접목과 활용에 따른 주요 쟁점을 도출했다. 4부 세션의 종합토론은 윤지웅 교수(한국정책학회 차년도 학회장, 경희대학교 행정학과)의 사회로 황인철 교수(대한전자공학회 부회장, 강원대학교 전기전자공학과), 설동훈 교수(한국사회학회장, 전북대학교 사회학과), 박현희 교수(한국정책학회 총무위원장, 국민대학교 행정학과)가 참여했다. 이번 컨퍼런스는 디지털 공동번영사회로의 성공적인 이행을 위한 새로운 디지털 질서 정립의 중요성을 조명하며 국민의 기본권 보호라는 기초적 제반 환경 마련과 기술, 경제, 공공, 사회제도 등 각 영역에 필요한 정책과제에 대한 학계 및 연구계의 포괄적인 통찰과 분석을 엿볼 수 있는 장이었으며 2024년 디지털 대전환 메가트렌드 4년차 연구로 연결될 예정이다.
  • ‘최장기간 후원’ 정의선 “韓 양궁 사회적 역할 수행할 것”

    ‘최장기간 후원’ 정의선 “韓 양궁 사회적 역할 수행할 것”

    현대차그룹이 후원하는 대한양궁협회가 60주년을 맞아 글로벌 양궁 리더 도약 목표라는 새로운 비전을 제시했다. 현대차그룹은 올해로 39년째 한국 양궁을 후원하고 있다. 국내 기업의 단일 종목 스포츠단체 후원 중에서는 최장 기록이다. 현대차그룹은 1일 서울 광진구 그랜드 워커힐 서울 호텔에서 대한양궁협회 주관으로 ‘2023 한국 양궁 60주년 기념행사’가 열렸다고 밝혔다. 대한양궁협회장인 정의선 현대차그룹 회장은 환영사에서 “중장기적으로 우리 양궁은 대중에게 보다 가까이 다가가는 노력을 계속해야 하고, 양궁이 우리 사회에 어떻게 기여할 지도 함께 고민하고 실천해야 한다”면서 “대한양궁협회는 공정성과 투명성을 원칙으로 혁신에 앞장서 국민들의 신뢰와 사랑을 받고 그에 걸맞은 사회적 역할도 수행할 것”이라고 강조했다. 대한양궁협회는 이날 ‘모두가 즐겁고 건강하게 성장하는 양궁 문화 구축’을 지향점으로 ‘Aim Higher, Shoot Together’(더 높은 목표를 향해 한마음으로 쏘는 화살)라는 슬로건을 공개했다. 최고를 향해 성장하고, 함께 즐기고 참여하는 양궁 문화를 만들어 나가겠다는 의미를 담았다는 설명이다. 그 일환으로 생활체육 저변확대, 국내 대회 전문화, 국제경쟁력 강화 등을 추진할 예정이다. 양궁 보급이 더딘 국가들을 대상으로 한 공적개발원조도 확대한다. 아시아에 더해 내년부터는 아프리카 국가들에도 한국인 지도자를 파견하고 장비를 지원하는 방안을 검토 중이다. 여자단체 10연패 및 전종목 석권을 위해 사전 답사, 전지 훈련을 진행하는 등 내년에 열리는 파리올림픽 준비에도 만전을 기한다는 목표다. 정 회장도 양궁의 대중화와 글로벌 인재 육성 등에 앞장선다는 구상이다. 실제로 대한양궁협회는 지난해부터 일부 지역 중학교에서 양궁 수업을 시행하는 등 학교 체육 수업에 양궁을 포함시키는 프로젝트를 추진하고 있다. 내년부터는 초등학교에서도 방과후 수업이나 체육수업에 양궁을 포함시켜나간다는 계획이다. 아울러 양궁 선수는 물론 국제 심판, 지도자를 양성하기 위해 다각적 지원을 추진하고, 국가간 양궁 교류도 확대할 방침이다. 새로운 기술 도입에도 속도를 낸다. 앞서 한국 양궁은 정 회장의 제안으로 2016년 리우올림픽에서부터 인공지능(AI), 비전인식, 3D프린팅 등 현대차그룹의 연구개발(R&D)기술을 훈련과 장비 제작에 도입해 큰 성과를 거뒀다. 대한양궁협회는 이날 정몽구 현대차그룹 명예회장에게 협회 회장 재임 당시 주요 사진들로 제작한 특별 공로 감사 액자를 헌정했다. 정 명예회장은 1985년 대한양궁협회장에 취임해 인재 발굴, 장비 국산화 등으로 한국 양궁의 저변을 확대한 인물로 평가받는다. 지금도 대한양궁협회 명예회장을 맡고 있다. 이 밖에도 1950년대 말 한국에 양궁 보급을 시작한 체육 교사 고(故) 석봉근 씨와 김진호·서향순·김수녕 등 역대 메달리스트와 지도자에게 공로패와 감사패가 수여됐다. 현대차그룹과 양궁의 인연은 1984년 정 명예회장이 LA올림픽에서 서향순 선수가 한국 양궁 최초로 올림픽 금메달을 따는 모습을 본 것으로 거슬러 올라간다. 정 명예회장이 “한국인이 세계 1등하는 종목이 지원을 못 받아 경쟁에서 밀리면 안된다”면서 후원을 시작한 일화는 유명하다. 2005년부터는 정 회장이 회장직을 물려받아 지원을 이어오고 있다. 한편 이날 행사에는 정 회장을 비롯해 대한체육회 이기흥 회장, 국제올림픽위원회(IOC) 김재열 위원 등 단체 관계자와 현대차그룹 정지선 회장, 양궁 전현직 선수 등 400여명이 행사에 참여했다.
  • 이동관 “가짜뉴스, 대한민국 존립 흔들어”

    이동관 “가짜뉴스, 대한민국 존립 흔들어”

    李 “괴벨스가 탄식… 규제 시급”김기현 “총선, AI 조작뉴스 우려”포털 제평위 심사 개선도 촉구 이동관 방송통신위원장은 19일 국민의힘이 국회에서 개최한 ‘가짜뉴스 근절 입법청원 긴급공청회’에 참석해 “(가짜뉴스를) 빨리 바로잡지 않으면 대한민국 존립 자체가 흔들릴 수밖에 없다”고 밝혔다. 그는 이날 공청회 축사에서 “요새 지하에서 괴벨스(나치 독일의 선동가)가 탄식하고 있을 것이다. 소셜미디어(SNS), 유튜브, 딥페이크 기술 등 많은 수단이 생겨나 지금 내가 나가서 활약하면 지구를 뒤엎어 놓겠구나 생각할 것”이라며 이렇게 말했다. 이어 “제도의 사각지대가 많아 선제 대응을 해야 한다”고 강조한 뒤 방통위의 ‘가짜뉴스 근절 방안’을 언급하며 “이건 응급조치일 뿐으로, 입법을 통해 규제의 틀이 만들어져야 할 것”이라고 밝혔다. 방통위는 전날 발표에서 긴급 재난 상황이나 금융시장에 심각한 혼란을 유발하거나 선거 결과에 영향을 끼치는 가짜뉴스의 경우 포털사이트에 선제적으로 임시 삭제나 차단을 요청하는 방안을 추진하기로 했다. 이 위원장은 “국민의 69%가 포털로 뉴스를 보는데 포털은 어떤 규제 수단도 없이 사회적 책임을 뺀 사각지대에서 움직이고 있다”며 “더이상의 국기문란 사태가 없도록 최선을 다할 것”이라고 말했다. 김기현 국민의힘 대표도 “내년 총선을 앞두고 인공지능(AI) 등을 활용한 조작 뉴스의 횡행이 우려된다”며 “법적, 제도적, 사회문화적 조치가 필요하다”고 밝혔다. 이어진 발제 및 토론에서는 법·제도의 보완 방안에 대한 논의가 이뤄졌다. 신홍균 국민대 법학과 교수는 “전문성을 갖춘 전담 조직 또는 기구가 가짜뉴스 판별 기준 및 절차에 있어 객관성과 투명성을 확보해야 한다”며 “다양한 분야에서 ‘상시 모니터링’을 통해 과학적 증거를 기반으로 행정이 구현돼야 할 것”이라고 설명했다. 최철호 공정언론국민연대 공동대표는 잘못된 언론 보도에 대한 ‘징벌적 손해배상제’ 도입과 형사책임 강화, 선거와 관련된 허위 보도에 대한 가중처벌 등을 촉구했다. 한편 이날 국민의힘 정책위원회와 윤두현 의원은 거대 포털의 뉴스 정책에 대한 개혁을 촉구하는 ‘포스트 뉴스제휴평가위원회(제평위)’ 전문가 토론회를 개최했다. 제평위는 뉴스 제휴를 심사·관리하기 위해 네이버·카카오 등이 자율적으로 운영하는 기구다. 박대출 정책위의장은 “제평위는 포털에 입점할 언론을 결정하는 등 막대한 권한을 행사해 왔지만 밀실 심사 등 자의적 심의에 대한 지적이 지속됐다”고 비판했다.
  • 與 ‘가짜뉴스 공청회’…이동관 “괴벨스가 탄식할 듯, 국가 존립 흔들려”

    與 ‘가짜뉴스 공청회’…이동관 “괴벨스가 탄식할 듯, 국가 존립 흔들려”

    이동관 방송통신위원장은 19일 국민의힘이 국회에서 개최한 ‘가짜뉴스 근절 입법청원 긴급공청회’에 참석해 “(가짜뉴스를) 빨리 바로잡지 않으면 대한민국 존립 자체가 흔들릴 수밖에 없다”고 밝혔다. 그는 이날 공청회 축사에서 “요새 지하에서 괴벨스(나치 독일의 선동가)가 탄식하고 있을 것이다. SNS(소셜미디어), 유튜브, 딥페이크 기술 등 많은 수단이 생겨나 지금 내가 나가서 활약하면 지구를 뒤엎어 놓겠구나 생각할 것”이라며 이렇게 말했다. 이어 “제도의 사각지대가 많아 선제 대응을 해야 한다”고 강조한 뒤, 방통위의 ‘가짜뉴스 근절 방안’을 언급하며 “이건 응급조치일 뿐으로, 입법을 통해 규제의 틀이 만들어져야 할 것”이라고 했다. 방통위는 전날 발표에서 긴급 재난상황이나 금융시장에 심각한 혼란을 유발하거나 선거 결과에 영향을 끼치는 가짜뉴스의 경우, 포탈사이트에 선제적으로 임시 삭제나 차단을 요청하는 방안을 추진키로 했다. 이 위원장은 “국민의 69%가 포털로 뉴스를 보는데 포털은 어떤 규제 수단도 없이 사회적 책임을 뺀 사각지대에서 움직이고 있다”며 “더 이상의 국기 문란 사태가 없도록 최선을 다할 것”이라고 말했다.김기현 국민의힘 대표도 “내년 총선을 앞두고 인공지능(AI) 등을 활용한 조작뉴스의 횡행이 우려된다”며 “법적, 제도적, 사회문화적 조치가 필요하다”고 말했다. 이어진 발제 및 토론에서는 법·제도의 보완 방안에 대한 논의가 이뤄졌다. 신홍균 국민대 법학과 교수는 “전문성을 갖춘 전담 조직 또는 기구가 가짜뉴스 판별 기준 및 절차에 있어 객관성과 투명성을 확보해야 한다”며 “다양한 분야에서 ‘상시 모니터링’을 통해 과학적 증거를 기반으로 행정이 구현되어야 할 것”이라고 설명했다. 최철호 공정언론국민연대 공동대표는 잘못된 언론 보도에 대한 ‘징벌적 손해배상제’ 도입과 형사 책임 강화, 선거와 관련된 허위 보도에 대한 가중 처벌 등을 촉구했다. 한편, 이날 국민의힘 정책위원회와 윤두현 의원은 거대 포털의 뉴스 정책에 대한 개혁을 촉구하는 ‘포스트 뉴스제휴평가위원회(제평위)’ 전문가 토론회를 개최했다. 제평위는 뉴스 제휴를 심사·관리하기 위해 네이버·카카오 등이 자율적으로 운영하는 기구다. 박대출 정책위의장은 “제평위는 포털에 입점할 언론을 결정하는 등 막대한 권한을 행사해 왔지만, 밀실 심사 등 자의적 심의에 대한 지적이 지속됐다”고 비판했다.
  • “생성형AI, 뉴스 콘텐츠 저작권 침해 논란… 사용료 등 사회적 합의를”[이순녀의 이사람]

    “생성형AI, 뉴스 콘텐츠 저작권 침해 논란… 사용료 등 사회적 합의를”[이순녀의 이사람]

    지난 3월 만화 ‘검정고무신’의 작가 이우영의 죽음으로 국내 문화예술계의 불공정한 저작권 계약 실태가 또다시 수면 위로 떠올랐다. 2007년 출판사 형설앤에 모든 사업권을 양도하는 이른바 ‘매절(買切)계약’을 맺은 작가는 자신이 창작한 캐릭터를 사업자 허락 없이 활용했다는 이유로 고소당하는 등 저작권 분쟁에 시달리다 세상을 등졌다. 백희나 작가의 ‘구름빵’ 사태와 유사한 불공정 계약 관행이 초래한 비극이었다. 이후 ‘제2의 검정고무신’ 재발 방지를 위한 법적·제도적 개선 논의가 진행되고 있다. 한국저작권위원회가 지난달 14일 확정한 ‘검정고무신’ 캐릭터 저작자 등록 직권말소 처분도 그중 하나다. 이우영 작가와 함께 공동저작자로 등록된 다른 3명이 창작에 참여하지 않았음을 확인하고 저작자 등록을 직권으로 취소한 것이다. 2020년 직권말소등록제도 도입 이후 첫 사례다.최병구 한국저작권위원회 위원장은 “실제 창작에 참여하지 않은 사람은 저작자가 될 수 없다는 점을 분명히 한 것”이라고 의미를 짚었다. K콘텐츠의 활발한 해외 진출, 1인 크리에이터 등 누구나 창작자가 될 수 있는 시대적 변화와 맞물려 저작권 보호에 대한 중요성은 커지고 있다. 오픈AI의 ‘챗GPT’에 이어 네이버의 ‘하이퍼클로바X’ 등 국내외 생성형 인공지능(AI)으로 인한 새로운 유형의 저작권 침해 논란도 당면한 과제다. 6일 최 위원장을 만나 여러 현안에 대한 의견을 들었다. -저작권 개념부터 설명해 달라. “인간의 사상과 감정을 표현한 창작물을 저작물이라고 한다. 저작물을 창작한 사람, 즉 저작자에게 창작에 대한 공정한 대가를 받을 수 있도록 헌법과 법률이 부여한 권리가 저작권이다. 세부적으로는 저작자의 인격적 이익을 보호하는 저작인격권, 저작물의 재산적 이익에 대한 권리인 저작재산권, 저작권은 아니지만 저작물에 대한 해석과 전달자로서의 역할을 하는 사람에게 부여하는 권리인 저작인접권 등으로 나뉜다.” -저작권위원회가 하는 일은. “저작권법 제113조에 따라 저작권 보호와 공정한 저작물 이용 환경을 조성하기 위한 업무를 수행한다. 저작권 등록, 분쟁 해결을 위한 조정 및 감정 제도, 저작물 사용료와 수수료 심의, 저작권 연구와 교육 등 저작권에 관한 업무를 총괄하는 전문기관이다.” 생성형AI 시대, 저작권 논의 시급올 2월 문체부와 ‘워킹그룹’ 발족학계·법조계·IT업계 머리 맞대새달 활용 가이드라인 제공 목표수출 신기록… “지식재산권 확보”11월 진주에 체험형 박물관 개관 ‘검정고무신 비극’ 막을 지원 확대회사대표 등 공동저작자만 3명캐릭터 저작자 등록 ‘직권 말소’“실제 창작자만이 저작자” 쐐기4월부터 저작권법률센터 운영출장 상담 활발… 700여명 자문 -생성형AI 기술이 급속도로 발전하면서 저작권 논란이 뜨겁다. “챗GPT 등 생성형AI 등장에 따른 저작권 이슈에 대응하기 위해 지난 2월 문화체육관광부와 함께 ‘AI 저작권법 제도개선 워킹그룹’을 발족했다. 학계, 법조계, 정보기술(IT)업계 등 분야별 전문가들이 생성형 AI와 관련된 저작권 침해의 법적 쟁점을 검토하고 문제 해결을 위한 합의점을 모색하는 한편 이를 제도적으로 뒷받침하기 위한 정책적 개선 방안도 논의하고 있다.” -구체적인 내용은. “생성형AI와 관련한 저작권 논란은 학습 단계와 생성 단계로 나누어 볼 수 있다. AI 학습 단계에서 해당 저작물의 권리자로부터 허락을 받지 않고 사용할 경우 일차적으로 저작권 문제가 발생한다. 다음으로 AI를 이용해 만들어진 결과물이 학습에 사용한 다른 사람의 저작물과 실질적으로 유사하다고 판단될 경우에도 저작권 침해 논란이 생길 수 있다. 핵심은 AI 발전과 창의성 보호라는 두 개의 가치를 어떻게 조화시키느냐다. 둘 다 중요하기 때문에 어느 한쪽이 훼손돼선 안 되고 선순환을 이룰 수 있는 방향으로 사회적 합의를 이뤄야 한다. 워킹그룹은 10월까지 활동할 예정이다. 최종적으로 AI 생성물 활용 가이드라인을 만들어 현행 저작권 제도하에서 지침을 제공하는 것이 목표다.” -네이버, 카카오, 구글 등이 초거대 AI 개발에 뉴스 콘텐츠를 무단으로 활용하는 문제도 심각한데. “한국언론진흥재단이 워킹그룹에 참여해 AI기업의 뉴스 콘텐츠 저작권 침해에 관한 논의를 진행하고 있다. 뉴욕타임스가 최근 오픈AI의 GPT봇을 차단해 자사 기사를 무단으로 활용하지 않도록 약관을 변경하는 등 해외에서도 논란이 큰 사안이다. AI 산업의 발전과 뉴스 콘텐츠의 저작권 보호가 균형을 이루도록 투명성 제고와 정당한 대가의 지급 등에 관하여 사회적 합의가 필요하다고 본다.” -최근 저작권위원회가 이 작가를 뺀 ‘검정고무신’ 캐릭터의 저작자 등록을 직권으로 말소했다. “지난 4월 이 작가 유족 측이 만화 속 캐릭터 그림(9건)에 대한 공동저작자 등록 말소를 요청했다. 청문 등 확인 절차를 진행한 결과 공동저작자로 등록된 4명 중 이 작가를 제외한 나머지 3명은 캐릭터 그림이 창작된 이후에 참여한 만화가, 캐릭터 그림이 아닌 만화의 글 작가, 수익 배분 차원에서 등록한 회사 대표 등 창작과 관련 없는 사람들로 밝혀졌다. 창작자가 아닌 사람이 저작자로 등록된 것을 알게 되면 직권으로 말소할 수 있는 제도에 따라 이들에 대한 저작권 등록을 말소했다. 실제로 저작물을 창작한 사람만이 저작권 등록을 할 수 있다는 점을 명확히 한 것이다.” -‘검정고무신’ 사태를 계기로 지난 4월부터 저작권법률지원 센터를 운영하고 있다. “계약서 내용이 어렵다 보니 불공정 계약인 줄 모르고 체결하는 창작자들이 대다수다. 저작권법률지원센터는 저작권 사각지대에 놓여 있는 이들에게 계약 상담과 컨설팅을 제공해 공정한 권리를 보장받을 수 있도록 돕는다. 법률, 방송, 음악 등 각 분야 전문 변호사 26명으로 구성된 ‘찾아가는 저작권 법률서비스 지원단’을 통해 출장 상담도 활발하게 진행하고 있다. 지금까지 700여명의 문화예술인에게 도움을 줬다.” -창작자 권리 보호와 더불어 정당한 보상 요구도 커지고 있다. 한국영화감독조합 등 17개 단체가 지난달 14일 국회에서 영상저작물 수익 배분과 관련한 저작권법 개정안 처리를 촉구하는 기자회견을 열었다. 쟁점은 무엇이고 논의는 어디까지 진행됐나. “영상저작물 저작자 또는 실연자가 자신의 권리를 타인에게 양도한 경우라도 저작물 이용에 따른 수익의 보상청구권을 인정하자는 취지의 법안 7개가 국회에 발의된 상태다. 현재 문화체육관광위원회 법안심사소위에서 논의 중이다. ‘오징어 게임’이 넷플릭스로부터 추가 수익을 받지 못한 사실이 알려지면서 관심이 높아졌다. 영상저작물 창작에 기여한 이들이 정당한 보상을 받을 수 있는 환경 개선과 온라인동영상서비스(OTT) 등 영상산업계에 미칠 부정적 영향을 균형 있게 고려해 합리적인 해결 방안이 마련될 수 있도록 입법 과정에서 국회와 정부 등을 적극 지원하겠다.” -K콘텐츠 붐으로 저작권산업이 우리 경제에서 차지하는 비중도 확대되고 있다. 현황과 전망은. “핵심 저작권산업의 경제기여도는 2020년 기준 전체 국내총생산(GDP)의 7.4%로 주요국 대비 높은 수준이다. 저작권 수지도 2013년 이후 10년 연속 흑자 기조를 유지해 왔다. 지난해 문화예술 저작권 수출 규모는 28억 9000만 달러로 신기록을 경신했다. 글로벌 경기 둔화로 인한 산업재산권 수출이 줄어 전체 지식재산권(IP) 무역수지가 적자로 전환된 상황에서 음악·영상 분야 저작권 흑자는 매우 고무적인 결과다. AI를 비롯한 신기술의 등장으로 저작권산업도 새로운 국면에 접어든 만큼 지속적인 성장을 위해 법과 제도, 산업 인프라를 확충하는 선제적인 노력이 필요하다.” -IP 확보의 중요성도 클 것 같다. 이에 대한 지원책은. “콘텐츠 해외 진출에 가장 중요한 것이 IP 확보다. 저작물을 안전하게 유통시키고 부가수익을 창출하기 위한 필수 조건이다. IP를 등록하지 않으면 상표 불법 선점이나 저작권 침해 문제 등으로 사업을 할 수 없는 상황이 발생한다. 위원회는 올해 중소 콘텐츠 기업 125곳의 해외 저작권 등록과 산업재산권 출원을 지원했고 내년에는 지원 기업 수를 더 확대할 계획이다.” -오는 11월 체험형 교육을 할 수 있는 저작권박물관(경남 진주)을 개관한다. 전문 창작자가 아닌 일반 시민들도 저작권에 관심을 가져야 하는 이유는. “저작권은 몇몇 한정된 크리에이터를 위한 권리가 아니라 지식정보사회를 살아가는 국민 모두가 반드시 알아야 하는 권리다. 아침에 일어나 음악을 들을 때, 예쁜 무늬가 그려진 옷을 입거나 웹툰을 볼 때도 저작권은 항상 함께하고 있다. 누구든 창작자가 될 수 있는 시대에 내 저작권을 지키려면 타인의 저작권을 존중할 줄 알아야 한다. 맞춤형 저작권 교육 체험 시설인 저작권박물관이 올바른 저작물 이용 문화를 정착시키는 데 기여할 것으로 기대한다.” 최병구 한국저작권위원회 위원장은 ▲1964년생 ▲서울대 영어교육과, 미 시러큐스대 행정학 석사, 정책학 박사 ▲문화체육관광부 저작권산업과장, 문화콘텐츠진흥과장, 주미대사관 공사참사관, 문체부 콘텐츠정책관, 종무실장
  • [열린세상] AI 시대의 데이터 정책 방향/고학수 개인정보보호위원회 위원장

    [열린세상] AI 시대의 데이터 정책 방향/고학수 개인정보보호위원회 위원장

    지난해 말 챗GPT(대화형 인공지능)가 서비스를 시작한 이후 전 세계적으로 인공지능(AI)에 대한 관심이 크게 늘어난 상태다. 관련 시장 영역에 참여하고 있는 기업들은 기술개발에 더욱 속도를 내고 있다. 기술변화의 빠른 속도를 반영해 비즈니스 생태계 또한 빠르게 변화하고 있다. 챗GPT를 이용한 일종의 응용 서비스인 ‘플러그인’ 서비스는 이미 700개 넘게 제공되고 있는 것으로 알려져 있다. 대기 중인 서비스를 고려하면 앞으로 그 숫자는 계속해 늘어날 전망이다. 이와 함께 이 영역에 대한 규율 체계의 마련이 시급하다는 주장과 문제 제기가 국내외 곳곳에서 나타나고 있기도 하다. 인공지능에 대한 논의는 곧바로 데이터에 대한 논의로 이어진다. 인공지능 기술 개발을 위해서는 유용한 데이터를 확보해 학습 데이터를 구축하는 것이 핵심 관건이기 때문이다. 학습 데이터를 구축한 뒤에도 인공지능 모형을 마련해 가는 과정 그리고 그 후에 서비스를 제공하는 과정의 거의 모든 단계에서 데이터는 성능에 영향을 미치는 주요 요인으로 작동할 수 있다. 인공지능 모형을 마련하고 서비스를 제공하는 각각의 단계에서 세심하게 주의하지 않으면 결과에 편향이나 오류가 나타나게 되는 것을 포함해 부작용이 불거질 가능성도 있다. 또한 개인정보가 부당하게 노출될 가능성이나 개인의 정체성을 왜곡해 제시할 가능성은 챗GPT 유형의 생성형 인공지능과 관련해 특히 주목받는 문제다. 인공지능의 시대적 중요성을 고려할 때 이제 개인정보를 포함해 데이터에 관한 국가적 정책 방향을 정립하기 위한 논의를 본격화해야 한다. 개인정보와 관련해서는 다음과 같은 사항에 관한 고려가 필요하다. 우선 새로운 혁신 활동을 장려해야 한다. 기술 발전은 인류가 풍요로운 삶을 살 수 있게 해준 핵심 원동력이다. 인공지능이 우리의 삶을 더욱 편리하고 풍요롭게 만들어 줄 수 있도록 새로운 혁신적 시도와 도전을 격려하는 태도가 필요하다. 그와 동시에 투명성을 확보하는 것이 중요하다. 기술 발전과 새로운 혁신이 중요하다고 해서 기술이 모든 것을 해결해 준다고 볼 수는 없다. 부작용의 가능성에 대해 명확하고 투명하게 밝히고 최소화하기 위한 지속적인 노력이 필요하다. 사실 인공지능 기술은 결과에 이르는 과정을 포함해 작동 방식에 대해 충분히 밝혀지지 않은 영역이 적지 않다. 인공지능이 사회 각 분야에 어떤 영향을 미칠 것인지에 관해서도 체계화해 이해하기 위한 노력은 아직 부족한 형편이다. 개인정보 처리와 관련해서는 인공지능 학습 데이터 구축, 모형 개발, 서비스 제공 각각의 단계에서 어떤 구체적인 작용이 일어나는지에 관해 좀더 명확한 파악과 정리가 필요하다. 이런 사항들에 대해 상세히 파악하고 지속적인 소통을 통해 투명성을 높이기 위한 노력을 하는 것은 인공지능에 대한 사회적 신뢰를 확보하는 데 중요한 선결 요건이다. 이와 별도로 새로운 시도와 실험 과정에서 나타날 수도 있는 법적 불확실성을 줄여 가기 위한 노력도 중요하다. 새로운 시도가 개인정보 보호를 포함한 기존 법령 위반을 정당화하는 것은 전혀 아니다. 다만 새로운 시도 과정에서 법적 불확실성의 가능성이 보인다면 정책당국과의 협의를 통해 이를 최소화하는 장치를 마련할 필요가 있다. 국내 정책당국은 물론 기업들 또한 국제규범을 만들어 가는 데 적극적인 역할을 해야 한다. 21세기 새로운 국제질서는 인공지능 및 데이터와 결부돼 전개될 것이기 때문에 이와 관련한 국가적 차원의 노력이 특히 중요하다. 우리나라의 국제적 위상에 걸맞게 그리고 미래의 대한민국을 위해 새로운 국제질서 형성에 주도적으로 참여해야 한다.
  • “UFO 자주 목격, 정부가 실물 보관하면서 은폐” 美 하원 술렁…여전히 믿고 싶다

    “UFO 자주 목격, 정부가 실물 보관하면서 은폐” 美 하원 술렁…여전히 믿고 싶다

    26일(현지시간) 미국 하원 정부감독개혁위원회의 한 소위원회가 개최한 ‘미확인 비행현상(UAP):국가 안보, 국민 안전, 정부 투명성’ 청문회를 찾은 방청객의 양복 정장에 꽂힌 배지다. ‘나는 여전히 믿고 싶다(I still want to believe)’라고 새겨져 있다. ‘진실은 저 너머에 있다’처럼 미확인 비행물체(UFO)를 얘기할 때 꼭 들먹이는 마법 같은 주문이다. 증언에 나선 이들은 해군 전투기 조종사 출신 라이언 그레이브스와 데이비드 프레이버, 공군 소령 출신으로 군사정보 담당관을 지낸 데이비드 그러시다. 해군에서 10년 넘게 복무한 뒤 민간단체 ‘미국 안전 우주비행’ 이사로 있는 그레이브스는 “군과 민간 조종사 사이에서는 인간이 만들지 않은 것으로 추정되는 비행물체를 접하는 일이 흔하다”고 입을 열었다. 그는 “조종사들은 군인이건 민간인이건 비행 물체를 정확히 판명하는 것이 목숨을 좌우하는 이들로 이를 식별하는 훈련을 받는다”는 사실을 강조했다. 그레이브스는 “버지니아주 버지니아비치 연안에서 훈련 비행 도중 UAP를 목격했다”며 “당시 전투기 2대가 ‘내부가 투명한 암회색, 또는 검은색 정육면체’와 조우했다”고 밝혔다. 이어 “이 물체는 선도 전투기 약 15m 이내까지 접근했다. 직경이 1.5~4.5m 정도 되는 물체였다”면서 “이 때문에 작전이 취소됐고, 편대가 안전을 위협할 수도 있는 내용을 보고했다”고 밝혔다. 하지만 이 내용은 공식 보고되지 않았다고 했다. 그는 이어 “하늘에서 UAP를 조우하는 일이 너무도 흔해 조종사들은 비행 전 브리핑에서 자신의 안전을 지키기 위해 어떻게 대처할지 논의한다”고 덧붙였다. 대령 출신인 프레이버도 “2004년 샌디에이고 연안에서 UAP를 목격했다”면서 작전 통제사로부터 이 물체가 2주 동안 관측됐으며, 24㎞ 상공에서 급강하해 6㎞ 상공까지 고도가 떨어지곤 했다는 말을 들었다고 주장했다. 이어 6㎞까지 고도를 낮춘 비행체가 여러 시간 그 상태를 유지하다가 곧바로 치솟았다는 말도 들었다며 UAP를 좀 더 가까이 보려고 접근하자 비행체가 급격하게 속도를 높여 사라졌다고 설명했다. 미 공군 UAP위원회 패널이었다가 내부 고발자가 됐다는 그러시는 UFO 관련 정보에 접근하려다가 정부로부터 제지당한 일이 있었다고 주장했다. 그는 ”정부가 인류가 만들지 않은 비행체를 확보했지만 의회와 대중에 공개하지 않고 있다“고 성토했다. 이어 “추락한 UAP를 정부가 회수한 뒤 분해해 원리를 파악하는 역공학이 수십년 진행돼 왔다”고 말했다. 나아가 그는 “해당 정보를 상관에게 보고했고, 다수가 관련 보고를 받았다”면서 “지난 4년 동안 증인 40명을 인터뷰했다. 이를 토대로 현재 미국 정부가 UAP를 확보하고 있다고 믿는다”고 덧붙였다.그러나 국방부는 곧바로 그러시의 주장을 부인했다. 국방부 대변인은 성명을 통해 “외계 물질의 소유나 역공학에 관한 프로그램이 존재했거나 존재한다는 주장을 입증할 수 있는 정보를 발견하지 못했다”고 반박했다. 존 커비 백악관 국가안보회의(NSC) 전략소통조정관은 지구 밖에 생명체가 있느냐는 물음에 답변을 피했다. 그는 “해군과 공군 조종사들이 전하거나 보고한 미확인 비행현상들이 있지만 그게 뭔지에 대해서는 답변할 수 있는 게 없다”고 잘랐다. 국방부가 UAP를 확인하기 위해 설립된 ‘전영역 이상현상 조사실’(All-domain Anomaly Resolution Office)도 적어도 외계인 활동을 추론할 정황이 관측된 적이 없다는 입장이다. 물리학자인 숀 커크패트릭 조사실장은 지난 4월 의회에 출석해 “지금까지는 지구 밖 생물체의 활동, 지구 밖 기술, 우리가 아는 물리학의 법칙을 거부하는 물체에 대한 신뢰성 있는 증거가 발견되지 않았다”고 밝혔다. 미국 정부는 최근에야 UAP 문제에 더 진지하게 접근하기 시작했다. 미국항공우주국(NASA)은 지난 5월 UAP와 관련한 공청회를 열어 미스터리 수백건에 대한 적극적인 과학적 접근을 촉구했다. 국방부는 외계 비행선일 가능성 뿐만아니라 중국 등이 정보를 수집하려고 알려지지 않은 정찰 기술을 쓰는 것일 수 있다는 점 때문에 해군과 공군 조종사들의 증언을 유심히 들여다보고 있다. 청문회를 주도한 팀 버쳇 공화당 하원의원은 앞서 국방부가 외계 존재 가능성을 보여주는 근거를 공개하지 않는다며 “미국 국민들이 알아야 할 많은 것들이 있다. 내가 원하는 것은 투명성이며 관련된 모든 파일을 공개하는 것”이라고 말했다. 글렌 그로스먼 공화당 하원의원도 “UAP와 관련한 투명성 결여가 수십년 동안 온갖 억측과 논란에 불을 지폈다”면서 “시민들은 자신을 돌보고 지켜야 할 기관들에 대해 점점 신뢰를 잃고 있다”고 지적했다.
위로