찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 규범
    2026-11-19
    검색기록 지우기
  • PCA
    2026-11-19
    검색기록 지우기
  • FTA
    2026-11-19
    검색기록 지우기
  • DMC
    2026-11-19
    검색기록 지우기
  • VR
    2026-11-19
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 319 건
  • 무력충돌에서 ‘캠페이닝’으로, 北 대응 패러다임 바뀔까? [FM리포트]

    무력충돌에서 ‘캠페이닝’으로, 北 대응 패러다임 바뀔까? [FM리포트]

    “(북한이) 선을 넘었다고 판단될 경우 단호한 군사적 조치를 시행하겠다.”(이성준 합동참모본부 공보실장, 지난 23일 정례브리핑) 북한은 지난 5월부터 최근까지 22차례에 걸쳐 총 5500여개 오물(쓰레기) 풍선을 살포했다. 여기 맞서 군 당국은 급기야 ‘단호한 군사적 조치’를 거론했다. 풍선에 달린 발열 타이머가 원인으로 추정되는 화재가 발생하고, 항공기 연착 등 실제 피해가 쌓이자 강도 높은 메시지를 내놓은 것이다. 충돌과 평화 사이, 애매한 ‘회색지대’ 도발그렇다면 정말 군 당국은 풍선 살포를 이유로 군사적 조치에 나설 수 있을까. 군사적 조치의 의미는 다양하지만 쉽게 생각할 수 있는 총격, 포격 등 물리적 공격은 불가하다는 것이 전문가들의 지적이다. 오물 풍선 살포는 전형적인 회색지대 도발 중 하나다. 무력 충돌과 평화 사이 모호한 영역에서 전통적인 군사적 조치로 맞서기는 애매한 도발을 의미한다. 제1·2차 연평해전, 천안함 폭침 등과 달리 근래 북한은 위치정보시스템(GPS) 교란 공격, 사이버 공격 등 우리 안보를 위협하면서도 물리적 공격으로 대응하기 애매한 도발을 반복하고 있다. 문제는 이 같은 회색지대 도발에 섣불리 직접 타격 등으로 대응할 경우 오히려 우리 군이 무력 충돌 및 확전에 대한 책임을 지게 된다는 점이다. 신원식 대통령실 국가안보실장도 지난 24일 방송 인터뷰에서 “군사적으로 직접 대응하는 건 또 다른 문제를 야기할 수 있다”고 밝혔다. 결국 대북 확성기 방송 등 심리전 확대 정도가 현실적인 선택지라는 분석이 나오는 이유다. 군사적 대응은 한계가 분명하기 때문에 오물 풍선 살포에 대응하기 위해선 범정부적 협력이 필요하다는 목소리도 적지 않다. 군 당국이 강력한 대응 의지를 보이며 억제력을 확보하되 비군사적 대응도 함께 검토돼야 한다는 것이다. 대표적으로 북한을 상대로 한 상징적인 손해배상 또는 구상권 청구, 주변국과 다자협의체를 통한 외교적 압박, 공식·비공식적 경제 제재 등이 그런 예다. 앞서 김영호 통일부 장관은 지난 11일 국회에서 “북한에 (오물 풍선 피해에 대한) 책임을 물어야 한다”며 “사후적으로라도 법적 조치는 필요하다”고 밝혔다. “미군처럼 경쟁 및 캠페이닝 개념 도입 필요”전문가들은 장기화된 오물 풍선 살포를 계기로 우리 군 군사전략 패러다임의 근본적 변화를 검토할 필요가 있다고도 주장했다. 기본적으로 우리 군은 평시 또는 전시 상황을 가정해 군사전략, 작전계획 등을 수립하고 있다. 그러나 오물 풍선의 지속적 살포처럼 구분이 애매한 회색지대 도발이 일상화되면서 이제는 전시와 평시 사이에 일종의 군사적 ‘주도권 경쟁’ 상황을 가정한 전략과 작전계획이 수립돼야 한다는 것이다. 미군은 이미 2022년 국방전략서(NDS)에서 동맹국 역량을 결집한다는 통합억제와 함께 캠페이닝(전역화·Campaigning) 개념을 제시했다. 캠페이닝은 억제력을 강화하고 주도권 경쟁에서 우세를 점하기 위해 평시에도 정부가 동원 가능한 군사적, 비군사적 수단, 민간 자원 등을 모두 동원하는 일련의 행동 전략을 의미한다. 관련 연구를 진행했던 손한별 국방대 교수는 “캠페이닝 개념 도입을 비롯해 우리군이 수행해야 할 경쟁전략을 구체화할 필요가 있다”며 “일상적 경쟁에서 우세를 달성하지 못하면 인식하지 못하는 사이에 국익을 지속적으로 침해받게 된다”고 주장했다. 현재 우리 군의 군사전략에 군사적 주도권 경쟁 및 캠페이닝 요소가 얼마나 포함돼 있는지는 분명치 않다. 2022년 국방백서에는 국방태세 확립과 관련해 ‘상황발생 이전부터 적극적으로 유리한 환경을 조성’한다는 표현이 들어가 있다. 하지만 이를 구체화한 회색지대 대응 방안 등은 알려져 있지 않다. 실제로 오물 풍선 사건 이후 군 당국은 대체로 일관된 대응을 해오고 있지만 그외에 정부 부처에서는 별다른 대응이 없다. 전경주 한국국방연구원 연구위원은 “오물 풍선에 대응하는 우리 군의 심리전 등도 캠페이닝 성격이라고 볼 수 있지만 이를 국방전략에 반영하는 것은 다른 차원의 문제”라며 “전략에 반영한다면 예산을 투입하고 그에 따른 대응 계획도 수립하게 된다. 북한의 회색지대 도발에 대응하는 체계적인 프로토콜이 생기는 것”이라고 설명했다. ‘FM리포트’는 우리 군이 지켜야 할 규범(Field Manual), 우리 군이 나아갈 미래(Future of Military)에 대해 씁니다. 잘못을 비판하고 나은 대안을 고민하며 정예 선진강군 육성에 힘을 보태겠습니다.
  • 이세돌·알파고 대국장에서…尹 “2027년까지 AI 강국 도약”

    이세돌·알파고 대국장에서…尹 “2027년까지 AI 강국 도약”

    윤석열 대통령은 26일 “대한민국을 오는 2027년까지 인공지능(AI) 세계 3대 강국으로 도약시킬 것”이라고 밝혔다. 윤 대통령은 이날 서울 종로구 포시즌스 호텔에서 ‘인공지능 대전환, 도약하는 대한민국’을 주제로 한 국가인공지능위원회 출범식 및 제1차 회의를 주재하며 “AI 세계 3대 강국이라는 비전을 이루기 위한 국가 총력전을 선포한다”고 밝혔다. 포시즌스 호텔은 지난 2016년 3월 이세돌 9단과 인공지능 스타트업 ‘딥마인드’가 개발한 바둑 AI ‘알파고’가 대국을 벌여 국내를 비롯한 전 세계에 ‘알파고 쇼크’를 안긴 장소다. 윤 대통령은 “AI가 국가 역량과 경제성장을 좌우하고 경제, 안보의 핵심이 되는 시대로 전환되는 과정”이라며 “세계 주요 국가들이 디지털 패권 경쟁에서 승리하기 위한 AI 기술 및 주도권 선점에 사활을 걸고 있다”고 설명했다. 대통령 직속 국가AI위원회의 위원장을 맡은 윤 대통령은 “우리나라의 명운이 걸린 AI 전환을 국가인공지능위원회가 선두에서 이끌며 견인차 역할을 할 것”이라며 “국가 AI컴퓨팅 센터를 민·관 합작투자로 구축하고, 산업과 사회 전반에 AI 전환을 촉진해 민간의 인공지능 분야 투자 확대를 견인하겠다”고 밝혔다. 윤 대통령은 “자유민주주의를 위협하는 가짜뉴스와 딥페이크 기술을 악용한 인권침해 등 디지털 격차에 따른 여러 부작용이 등장하고 있다”고 지적했다. 그러면서 이를 해결하기 위한 2022년 ‘뉴욕 구상’과 지난 5월 AI 서울 정상회의에서의 ‘서울 선언’ 등으로 디지털 규범 정립에 앞장서왔다고 소개했다. 대통령 직속 국가AI위원회는 AI 관련 연구개발(R&D)과 투자, 전문인력 양성, 규제 개선 등 국가 AI 정책 전반을 진두지휘한다. 엄재호 태제대 총장이 부위원장을 맡으며 곽노정 SK하이닉스 대표이사, 전경훈 삼성전자 디자이스경험(DX) 부문 최고기술책임자(CTO), 김영섭 KT 대표, 김승환 아모레퍼시픽 대표, 정신아 카카오 대표, 류석영 카이스트 전산학부 교수 등 민간기업 및 학계 전문가 30명 및 장관급 정부위원 10명 등이 참여한다.
  • [열린세상] 어떤 대한민국을 만들 것인가

    [열린세상] 어떤 대한민국을 만들 것인가

    검찰은 문재인 전 대통령을 뇌물 수수 혐의 피의자로 적시했다. 이재명 민주당 대표는 공직선거법 위반 혐의에 대한 1심 선고를 앞두고 있다. 정치권 분위기는 살벌하기 이를 데 없다. 그간의 입법 폭주와 거부권 릴레이로 달군 정쟁의 화약고가 폭발 일보 직전이다. 민생 정책은 뒷전으로 밀렸다. 의료개혁은 7개월 넘게 표류하며 국민 생명을 위협하는 지경에 이르렀다. 공론화위원회까지 거친 연금개혁 역시 합의안을 못 찾고 설왕설래만 하고 있다. 정부의 핵심 과제인 노동·교육 개혁 역시 방향을 정하지 못하고 있다. 무엇을 위한 싸움인지 난장판 정치의 끝이 어딘지 알 수 없다. 분명한 사실은 전직 대통령, 야당 대표 그리고 대통령 부인에 대한 수사가 어떻게 끝나든 민생과는 별 상관이 없다는 것이다. 공정과 정의 실현 같은 민주주의 가치와도 관련이 없다. 더 큰 권력을 장악하려는 아귀다툼일 뿐이다. 안타까운 점은 강성 지지자를 필두로 일반 시민들까지 더러운 싸움판으로 끌려 들어가는 것이다. 삶의 질과 민주주의 수준을 결정하는 것은 갈등의 양이 아니라 질이다. 현재 인류는 대격변의 전환시대를 살아가고 있다. “위기란 옛것은 죽어 가고 새로운 것은 태어나지 않는다는 것이다. 이 공백 기간에 매우 다양한 병적 징후가 나타난다.” 20세기 초 이탈리아의 정치인이자 철학자 안토니오 그람시가 쓴 ‘옥중수고’에 나오는 말이다. 그람시의 이 어록은 21세기 민주주의의 위기를 설명하면서 자주 인용된다. 디지털 기술과 인공지능(AI)의 발달로 세상은 완전히 달라지고 있다. 변화의 폭은 넓고 속도는 빠르다. 방향도 예측하기 어렵다. 불예측성과 불확실성의 시대가 된 것이다. 선과 악, 진실과 거짓을 가늠하기 힘든 탈진실의 시대를 살고 있다. 당연히 불안과 갈등은 커진다. 지금 우리가 할 일은 죽어 가는 옛것을 대체할 새것을 찾는 것이다. 옛것에 매달리는 정쟁이 아니라 미래가치를 둘러싼 갈등에 집중해야 한다. 지금 여와 야, 보수와 진보 세력의 갈등은 이와 아무 관련이 없다. 우리가 치러야 할 싸움은 누구를 감옥에 보내고, 누가 선하고 정의로운 세력인가를 심판하는 것이 아니라 어떤 대한민국을 만들 것인가여야 한다. 싸움의 원칙은 칼 포퍼가 ‘열린 사회와 그 적들’에서 말한 ‘열린 사회’의 가치에 기반해야 한다. 열린 사회는 획일화된 규범이나 절대적 진리를 인정하지 않는다. 열린 사회는 서로 다른 생각과 자유로운 비판, 시행착오를 통해 발전한다. 미래 대한민국을 둘러싼 싸움은 열린 사회의 원칙을 지키는 국민 토론의 장에서 벌어져야 한다. 구체적 방식은 2019년 스코틀랜드 자치정부가 소집한 시민의회 사례를 참조할 수 있다. 브렉시트와 스코틀랜드 분리독립 국민투표를 앞둔 상황에서 스코틀랜드 정부는 국가의 미래에 대한 국민적 논의와 합의를 만들기 위한 목적으로 시민의회를 소집했다. 시민의회는 지역, 나이, 성별, 인종, 교육 수준, 장애 여부 등을 감안해 스코틀랜드 전역에서 추첨으로 선발한 120명으로 구성했다. 시민의회는 2019년 10월부터 이듬해 12월까지 다음 세 가지 주제에 대해 토의했다. 첫째, 향후 어떤 나라를 만들 것인가. 둘째, 브렉시트를 비롯해 21세기 들어 스코틀랜드가 직면한 위기를 어떻게 극복할 것인가. 셋째, 국가의 미래에 대한 올바른 판단을 위해 필요한 정보를 시민들에게 어떻게 제공할 것인가. 시민의회는 1년여의 토의 후 ‘다르게 정치하기’(Doing Politics Differently)라는 보고서를 스코틀랜드 정부에 제출했다. 보고서에는 빈곤, 세금, 청년 지원, 건강과 복지, 지속가능성 등 7개 분야에 걸쳐 10개의 비전과 60개의 권고안을 담았다. 스코틀랜드 정부는 2021년 11월 의회 토의를 거친 뒤 최종 정책안을 발표했다. 미래 대한민국에 대한 사회적 논의와 합의가 시급하다. 누구를 위해, 무엇 때문에 우리 사회가 저급한 싸움박질에 갇혀 있는지 곰곰이 생각해 보자. 윤성이 경희대 정치외교학과 교수
  • 90개국 글로벌 AI 군사회의서, HD현대 ‘무인함정 기술’ 공개

    90개국 글로벌 AI 군사회의서, HD현대 ‘무인함정 기술’ 공개

    HD현대가 90여개국의 외교·국방 대표단이 참석하는 회의에서 인공지능(AI) 기반의 무인함정 기술을 선보이며 K방산의 우수성을 알렸다. HD현대는 AI의 책임 있는 군사적 이용 문제를 논의하는 ‘2024 REAIM 고위급 회의’에서 무인함정 기술을 공개했다고 9일 밝혔다. REAIM은 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향을 논의하고 관련 국제 규범 형성을 위해 출범한 국제 다자회의체다. 한국과 네덜란드 정부가 지난해 네덜란드 헤이그에서 제1차 회의를 공동 주최했고, 이번이 두 번째다. 10일까지 이틀 동안 서울 중구 롯데호텔에서 열리는 이번 회의에는 34개국의 외교·국방 장·차관급 인사를 비롯해 전 세계 90여개국 정부 대표단이 참석했다. 행사장에는 HD현대와 한국항공우주산업(KAI), 국방과학연구소(ADD) 등 모두 3개사의 메인 전시 부스가 설치돼 각각 해상·공중·육상 무인체계 핵심 기술을 소개했다. HD현대는 미국 방산 AI 기업 팔란티어와 공동개발 중인 무인수상정(USV) ‘테네브리스’ 모형을 전시했고, 미래 전장 지휘 프로그램의 가상현실(VR) 영상을 시연했다. 중량 14t, 전장 17m의 테네브리스는 고성능 하드웨어와 고도화된 AI를 적용한 것이 특징이다. HD현대의 자율운항 및 함정 통합관리 시스템과 팔란티어의 AI 플랫폼을 통한 미션 오토노미(임무 자율화)가 적용됐다. 라틴어로 ‘어둠’이란 뜻의 테네브리스는 지난 5월 미국 워싱턴DC에서 열린 ‘AI 엑스포’에서 처음 공개됐고, 2026년 개발 완료를 목표로 하고 있다.
  • [외안대전] 자율살상무기·로봇 탐지… ‘게임체인저’ AI, 국제규범 청사진 만든다

    [외안대전] 자율살상무기·로봇 탐지… ‘게임체인저’ AI, 국제규범 청사진 만든다

    인공지능(AI) 기술의 발전이 군사 분야에서도 급속도로 진전되고 있습니다. 빅데이터로 보다 정밀하게 정보를 분석하고, 신속하교 효율적이면서 정확도를 높인 군사기술은 상상만으로도 위력이 크게 그려집니다. 실제로 자율탐사로봇이나 자율살상무기 등은 ‘게임체인저’로 부상하고 있습니다. 그러나 첨단 AI 기술이 오남용되거나 또다른 유형의 군비경쟁을 키울 수도 있고, 대량살상무기(WMD) 등과 결합해 치명적인 위협을 가할 수도 있다는 우려가 나옵니다. AI 기술의 잠재력이 커질수록 첨단 기술의 위험요소들은 최소화하면서 장점을 극대화할 수 있는 방안들을 국제사회가 함께 모색해야 한다는 목소리도 더욱 커지고 있습니다. 그리고 다음주 AI 활용에 관한 국제규범을 마련하기 위한 국제사회 논의의 장이 서울에서 열립니다. 정부는 오는 9~10일 외교부와 국방부 공동 주관으로 ‘2024 인공지능의 책임있는 군사적 이용(REAIM: Responsible AI in the Military domain)’ 고위급 회의를 개최합니다. 한국과 네덜란드, 싱가포르, 케냐, 영국이 공동 주최국으로 참여하는 이번 회의에는 90여개국 정부 대표단이 참석하기로 했습니다. 정부, 네덜란드와 REAIM 논의 주도…위험 최소화 위한 규범 논의AI 주도 미·중 정부 대표단 모두 참석…미묘한 입장차도 REAIM 고위급 회의는 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 기여하고자 출범한 1.5트랙(반관반민) 형식의 국제 다자회의체입니다. 정부는 글로벌 반도체 장비 기업인 ASML이 있는 네덜란드와 REAIM 고위급 회의를 출범시켜 지난해 2월 네덜란드 헤이그에서 첫 회의를 가졌습니다. 네덜란드 의회가 정부에 AI 이용에 대한 국제사회의 논의가 필요하다며 건의했고 네덜란드 정부가 한국에 함께 할 것을 제안해 양국이 공동 주최로 출발하게 됐습니다. 정부 고위 당국자는 “한국이 국제사회의 최대 화두인 AI 관련 논의를 주도한다는 데 큰 의의가 있다”며 “반도체 기업이 있는 네덜란드와 반도체는 물론 IT와 관련 첨단기술을 선도하는 기업들이 많이 있는 한국이 미중 패권 경쟁이 강화되는 가운데 국제사회의 AI 군사적 이용 관련 논의를 선도하기 좋은 위치에 있다”고 설명했습니다. 지난 5월 서울에서는 AI정상회의가 열리기도 했습니다. 이번 회의에는 90여개국 정부 대표단이 참석하는데 이 가운데 34개국의 외교·국방 장·차관급 인사가 참여한다고 합니다. 국내외 국제기구·학계·산업계·시민사회 관계자 등 2000여명도 서울을 찾습니다. 특히 AI 경쟁을 세계적으로 주도하고 있는 미국과 중국이 모두 정부 대표단을 보내고, 전쟁 중인 우크라이나와 이스라엘, 팔레스타인 관계자들도 논의에 참여할 예정입니다. 정부는 121개국 정부대표와 62개국 기관 등에 고위급 회의 참석을 초청했는데 우크라이나 전쟁을 일으킨 러시아는 지난해와 올해 모두 초청 대상에서 빠졌습니다. ‘AI가 국제 평화와 안보에 미치는 영향’과 ‘군사 분야 AI의 책임있는 이용 이행 방안’ 등을 주제로 다양한 논의의 장이 이어진 뒤 이틀째인 10일에는 군사 분야 AI 규범 마련을 위한 청사진을 제시하는 선언적 문서인 ‘블루프린트 포 액션(Blueprint for Action)’을 채택할 예정입니다. AI 기술의 혜택은 누리면서도 위험을 최소화하기 위해 국제사회가 함께 가져야 할 책임과 나아가야 할 방향을 내놓을 것으로 보이는데요. 아직 AI 기술이 성숙하지 않은 데다 워낙 이해관계가 다양한 만큼 얼마나 구체적인 약속들이 나올 수 있을지는 아직 의문입니다. “AI가 아닌 사람이 문제…위험 줄이고 혜택 누리도록 약속” 결과 선언문 채택 이후 유엔총회 등 국제사회 논의 확대 회의에 참석하는 미국과 중국만 해도 벌써 미묘한 입장차를 보이는 것으로 알려졌습니다. 미국은 지난해 첫 고위급 회의 때부터 자체적으로 AI 군사 이용 관련 정치적 선언을 만들어 오는 등 규범을 만드는 데 매우 적극적인 반면 중국은 AI가 또 다른 군비 경쟁이나 패권 추구의 수단이 되어선 안 된다며 신중하게 접근하고 개발도상국의 목소리를 많이 대변하고 있는 것으로 전해졌습니다. 자율살상무기, 오작동, 사이버 공격 등 AI와 군사를 떠올리면 위험하다는 인식이 먼저 들기도 하지만, 한 외교부 당국자는 이런 설명도 덧붙였습니다. “사실은 사람이 문제이지 AI가 문제는 아닙니다.” 부족한 병력을 AI가 대신 채워줄 수도 있고 더욱 정확한 공격과 방어를 인명 피해를 더 줄이거나 인간이 닿기 어려운 영역까지 탐지·정찰할 수도 있다는 것이죠. 따라서 “AI가 줄 수 있는 혜택은 무궁무진한데 사용하는 사람과 국가들이 위험하게 활용을 할 수 있으니 규율을 갖는 것”이 이런 회의체에서 논의하는 이유라고 합니다. 외교부 당국자는 “군사 분야 AI 이용 관련된 최소한의 ‘가드레일’과 책임있는 이용을 위한 원칙 등이 제시될 ‘블루프린트 포 액션’이 채택되면 이를 바탕으로 다음달 열리는 유엔총회에서 후속 논의를 추진하는 등 계속해서 국제사회에 화두를 던지고 논의를 구체화해 나갈 것”이라고 말했습니다.
  • 롯데지주·포스코인터 ‘2024 컴플라이언스 어워즈’ 대상

    롯데지주·포스코인터 ‘2024 컴플라이언스 어워즈’ 대상

    한국컴플라이언스협회(KCA)가 5일 서울 코엑스에서 ‘국제 컴플라이언스협회(ICA) 후원 2024 컴플라이언스 어워즈’를 개최했다. 기업 부문에서 롯데지주와 포스코인터내셔널이, 공공부문에서 한국전기안전공사와 한국에너지공단이 대상을 받았다. 컴플라이언스란 기업이 각종 규제나 법규, 윤리를 준수하기 위해 행하는 준법 활동을 뜻한다. 대상을 받은 기업들은 예방적·선제적으로 사내 컴플라이언스 위협 요인을 진단하고 적극 개선한 공로를 인정 받았다. 이날 ‘제2회 대한민국 컴플라이언스 컨퍼런스’도 기업윤리와 컴플라이언스를 주제로 개최되었다. 지난 1월 ‘ESG(환경·사회·지속가능성 경영)의 근간, 컴플라이언스’를 주제로 컨퍼런스를 연 이후 KCA가 개최한 두 번째 컨퍼런스로 전문가와 실무자 300여명이 참석했다. 준법경영을 수행하는 개념을 넘어 조직이 내외부 관계자들의 공정과 행복을 추구하는 방식, 생성형 인공지능(AI) 기술 대응 새 규범을 모색해야 할 필요성 등에 대한 폭넓은 논의가 컨퍼런스에서 이뤄졌다. KMA 경영자교육위원회 위원장을 맡고 있는 김형철 전 연세대 교수가 ‘기업윤리와 리더의 윤리의식’을 주제로 기조강연에 나서며 컨퍼런스를 시작했다. 김 교수는 서브프라임 모기지 사태부터 다국적 기업들의 위기관리 사례를 예로 들며 윤리 경영의 중요성을 강조했다. 이어 박종근 지멘스 윤리경영실장이 사내 준법제도에 대해 설명했다. 박 실장은 “준법 제도는 기업이 경쟁우위를 섭렵하고 지속가능한 성장을 지탱하기 위한 것”이라고 했다.이어진 오전 세션에서 맹수석 대한상사중재원 원장이 ‘중재를 통한 전략적 컴플라이언스’를, 법무법인 세종의 홍탁균 변호사가 ‘반부패 뇌물방지 규제 최근 동향’을 전했다. 이어 정연홍 한국공정거래조정원 실장의 ‘CP등급평가 운영계획 및 공정거래 자율준수 사례’, 김광기 ESG경제 대표의 ‘ESG 공시 의무 컴플라이언스’, 성수용 금융감독원 선임교수의 ‘금융회사 내부통제와 책무구조도’ 강의로 참석한 준법경영관리 실무자들이 궁금증을 풀어냈다. 오후에는 신주호 성균관대 글로벌스마트시티융합전공 겸임교수가 ‘AI 시대의 컴플라이언스’에 대해 설명했다. 신 교수는 “2022년 생성형 AI 작품이 미술대회에서 수상을 하면서 창의성이 중요한 분야에서도 AI 활용이 용이하다는 점을 보여준 동시에 딥페이크 등에 대한 우려도 커지고 있다”고 진단했다. 그는 이어 “모니터링 솔루션이나 편향성 검사에 AI를 활용할 수 있다”고 제안했다. 이어 김재은 서울과학종합대학원 교수가 ‘청렴윤리 컴플라이언스’를, 김은성 KCA 이사장이 ‘공공부문의 컴플라이언스’를 주제로 강의하며 공공 부문에서 컴플라이언스 경영의 중요성이 커지고 있는 실태를 소개했다. 김은성 이사장은 “컴플라이언스가 단순 법적 의무를 넘어 기업의 지속가능성을 좌우할 핵심 요인이 되고 있다”면서 “앞으로 컴플라이언스의 변화가 우리 기업과 산업의 변화를 이끌 것”이라고 강조했다. KCA는 지난해 11월 산업통상자원부 설립인가를 받아 출범했다. 협회는 기업 전반의 컴플라이언스 체계 진단 및 컨설팅, 교육, 정책연구, 국내외 네트워킹 공유, 어워즈 등의 활동을 통해 컴플라이언스 생태계 확장에 나서고 있다.
  • “AI 기술 진흥 촉진이 우선… 규제로 틀면 국가 경쟁력 뒤처져”[최광숙의 Inside]

    “AI 기술 진흥 촉진이 우선… 규제로 틀면 국가 경쟁력 뒤처져”[최광숙의 Inside]

    각국 AI 경쟁… 우리는 기본법 없어생성형 AI 등 응용 자유 줘야 발전위험성 대비 ‘안전장치’ 마련 필요향후 부작용 제도적으로 극복 가능기후변화 법제 어떻게 해야 하나강대국 보호무역 방식 제도화 안 돼무역장벽 선회해 녹색산업 키워야우리 실정에 맞는 탄소중립 고민을메가시티 논의, 정치 개입 방지 중요지방자치 바탕 초광역권 발전 추진국세·지방세 재정립 세제개혁 필요지방소멸 대응하는 법제 준비해야세상을 바꾼다는 인공지능(AI) 사용 기준에 관해 세계 각국이 관련 법규를 만들고 있지만 우리나라는 AI 활용을 위한 ‘AI 기본법’조차 제정되지 않았다. 국민생활과 경제활동에 핵심 요소로 등장한 각종 디지털 기술뿐 아니라 기후변화, 지방자치단체 간 통합 움직임 등 새로운 변화에 대응하기 위한 법제 필요성도 제기되고 있다. 정부 입법을 뒷받침하는 국책 연구기관인 한국법제연구원의 한영수 원장을 최근 만나 각종 정책 현안의 법제화 방향에 대해 이야기를 나눴다.-세계 각국이 AI 기술 패권 경쟁에 나선 가운데 우리나라도 ‘AI 기본법’을 제정해야 한다는 목소리가 높다. 현재 추진되는 AI 관련 법안은. “21대 국회에서 10여개의 AI 관련 입법이 제안됐으나 임기 만료로 폐기됐다. 22대 국회 개원 이후 4개의 법안이 국회에 제출됐다. 이달 중 대통령 직속 국가인공지능위원회도 출범을 앞두고 있어 AI 연구 및 산업 활성화, 규제 논의가 힘을 얻어 법제화 작업이 가속화될 것으로 보인다.” -AI 관련 기본법이 만들어진다면 내용은. “윤석열 대통령은 지난 5월 리시 수낵 영국 총리와 공동으로 주최한 ‘AI 서울정상회의’에서 안전·혁신·포용 등 AI 규범 가치를 담은 ‘서울선언’을 채택했다. 기본법 제정 시 AI의 안전성 및 새로운 성장동력을 확보해야 하며 누구나 접근 가능하고 포용할 수 있어야 한다는 내용이 담겨야 한다고 생각한다.” ●AI 기술 연구·개발·활용 자유롭게 해야 -AI 규제와 관련, 유럽은 엄격한 통제 하에 AI를 ‘사전’에 규제하려는 반면 빅테크 등 AI 관련 글로벌 기업이 많은 미국은 AI로 인한 위험성이 명확하게 드러난 후인 ‘사후’ 규제를 적용하는 추세다. 우리나라는 어떤 스탠스를 취해야 하나. “AI 기술을 둘러싼 각국의 주도권 경쟁이 치열하다. 자원이 부족한 우리나라는 생성형 AI를 비롯한 다양한 AI 기술이 응용되고 발전할 수 있도록 과학기술계의 연구, 개발, 시장에서의 활용을 자유롭게 해 줄 필요가 있다. 여러 부작용이 나타난다고 해서 규제로 방향을 틀면 국가 경쟁력에서 뒤처질 가능성이 크다. 우선 기술을 진흥시키고 규제는 선진국의 추이를 서서히 봐 가면서 해도 된다. 강한 규제가 산업에 미치는 영향 등을 지켜보며 AI 위험성을 최소화하는 방안을 검토해야 한다. 다른 나라보다 앞서 규제를 서두를 필요는 없다.” -AI 규제보다 기술 진흥에 무게중심을 둬야 한다는 입장인가. “바둑 팬인데, 2013년 알파고와 이세돌의 바둑 대결에서 이세돌이 패한 데 엄청난 충격을 받았다. 바둑은 수가 복잡해 AI가 절대로 이길 수 없다고 생각했었기 때문이다. AI 발달에 대한 여러 우려의 목소리가 나오고 있지만 인간이 AI를 활용해 더 나은 미래를 구현할 수 있다고 생각한다. 예상치 못한 문제가 있다고 AI 기술 개발에 미리 재갈을 물릴 필요는 없다. 앞으로 생길 부작용은 제도적으로 극복할 수 있다.” -AI 등 신기술 분야의 등장이 기존 산업과 충돌하면서 갈등을 빚는 게 우리 현실인데, 법제에 고민이 많겠다. “영국 빅토리아 여왕 시절이던 1865년 마차 사업을 보호하기 위해 자동차의 최고 속도를 시속 3㎞로 제한하고 마차가 붉은 깃발을 꽂고 달리면 자동차는 그 뒤를 따라가도록 하는 ‘붉은 깃발법’(적기 조례)을 만들었다. 30년간 이 법을 시행함으로써 영국은 가장 먼저 자동차 산업을 시작했음에도 미국과 독일에 뒤처졌다. 이 법은 마부들이 청원해서 만들어진 것인데, 현재 신산업의 등장에 전통 산업계가 저항하는 현실에도 시사하는 바가 크다. 양측의 갈등을 해결하기 위해서는 정치력이 필요하다.”●AI 예상치 못한 오류 등에도 대비 필요 -AI 기술이 주는 이익은 크지만 관련 규제가 없으면 문제도 커지지 않나. “AI가 사람의 감독을 벗어나 예상치 못한 중대한 오류가 생기거나 해킹 등으로 주요 국가 시설이 마비될 때의 피해는 예측할 수 없다. AI 기술의 위험성에 대비해서 안전성을 확보하고 우리 사회의 안전, 보건, 기본권 침해 소지가 있는 영역에 대해서는 최소한의 안전장치를 마련할 필요가 있다. 연구원에서는 AI가 사회에 미칠 영향, 위험성 등에 대한 영향평가 기준을 마련하는 연구를 진행하고 있는데 연구 결과가 나오면 입법정책 방안을 제안하려고 한다.” -세계 곳곳에서 구글·넷플릭스 등 빅테크로부터 ‘망 사용료’를 받자는 주장이 나오고 있다. 우리나라에선 SK브로드밴드와 넷플릭스가 소송까지 벌이다 지난해 합의로 마무리된 바 있다. 전 세계를 활동 무대로 하는 빅테크 관련 규제는 어떻게 해야 하나. “최근 애플은 유럽연합(EU)의 규제를 우려해 아이폰 등에 탑재하는 새로운 AI 기능을 유럽에는 내놓지 않기로 했다. 빅테크 규제는 불공정한 시장 지배력을 제한하고 공정한 시장을 조성하기도 하지만, 한편으로는 신기술 성장에 제동을 걸 수 있다는 점을 명심하고 조심스럽게 접근해야 한다.” -기후변화 문제와 관련, 세계 각국은 새 국제규범을 만들어 대응하고 있다. EU는 탄소국경세, 미국은 인플레이션 감축법을 제정했다. 우리나라는 어떻게 접근해야 하나. “국제사회에서 강대국들이 탄소 중립을 이유로 보호무역에 가까운 법제도를 도입한다고 해서 우리나라도 같은 방식으로 보호무역을 제도화할 수는 없다. 수출 비중이 높은 우리나라는 강대국들의 무역 장벽을 선회하고 국내 녹색산업 경쟁력을 키울 방안을 고민해야 한다. 기후변화 및 탄소 중립에 대해 우리 실정에 맞는 제도를 만들어야 한다.” -기후변화 대응이 국가 경쟁력으로 이어지고 있다. 이 과정에서 산업구조 변화, 일자리 전환 등이 불가피한데 법제의 정비는. “국가 경쟁력 강화를 위한 녹색산업 육성 관련 법제도를 연구하고 있다. 석탄화력발전소 폐지에 따른 일자리 전환 및 연관 지역 지원에 관한 법제도 포함돼 있다.” -기후변화 대응을 위한 산업 전환에서 피해를 보는 이들이 생기는데. “탄소 중립 사회로의 전환 과정에서 피해를 입을 수 있는 지역이나 해당 산업 노동자 등을 보호해 그 부담을 분담하고 피해를 최소화하기 위한 ‘정의로운 전환’ 대책이 필요하다. 정부를 비롯해 산업 전환 과정에서 혜택을 받는 집단이 피해 기금 등을 조성해 지원하는 법제를 검토할 필요가 있다.”●특별자치시도, 자치분권 모델 만들어야 -지방 소멸 위기에 대응하기 위한 지방자치단체 간 통합이 핫이슈로 등장했다. 하지만 지방마다 각기 사정이 달라 공통적인 관리 규약을 만드는 게 어려워 보인다. “내년으로 지방자치 부활 30년이다. 지난 30년 동안 지방의 자치 역량 강화가 주된 관심사였다면 이제는 지방의 발전 가능성, 사회·경제·문화 전 분야 잠재력을 어떻게 발현시켜 나갈 것인가가 지방자치제도의 핵심이 돼야 한다. 인구 감소 및 지방 소멸 대응을 위한 자치환경 조성을 뒷받침할 수 있는 법제를 준비해야 할 것이다.” -지방을 살리는 데 있어 가장 큰 문제는 열악한 지방재정이다. 지방재원 확보를 위한 방안은. “실질적인 재정 분권을 달성하기 위해서는 국세와 지방세 체계 재정립 등 세제 개혁이 필요하다. 지방재정 확대, 재정 분권과 함께 지방재정의 투명성, 효율성 및 건전성 등을 확보해야 한다.” -몇 년 사이 제주특별자치도에 이어 세종특별자치시, 강원특별자치도, 전북특별자치도 등이 등장했다. 특별자치시도의 위상 강화를 위한 법제 방향은. “특별지자체가 중앙정부로부터 모든 권한을 부여받는 것보다 각 지자체별 고유 특성을 살릴 수 있는 분야에 대한 권한을 확보하고 성공적인 지방자치분권 모델을 만드는 게 중요하다. 예를 들어 강원도의 경우 관광진흥법 권한을 이양해 달라고 요청해 관광 분야에서 중앙부처 수준으로 독자적 권한을 행사하는 게 현실성이 있다. ” -대구·경북 통합 등 권역별 메가시티 논의가 활발한데 법제 뒷받침이 필요하지 않나. “권역별 메가시티 논의는 국가 경쟁력 제고, 인구구조 변화, 지방 소멸 등 국가적 난제를 해결하기 위한 방향에서 논의돼야 한다. 지방자치의 본질을 훼손하지 않으면서 초광역권 발전을 추진해야 한다. 법제도적으로 메가시티의 자치권, 주민의 참여와 통제 등에 대한 제도적 장치를 면밀히 설계해야 한다. 특히 2022년 부산·울산·경남 메가시티 무산 과정에서 드러났던 것과 같이 정치권 영향을 최소화하고 메가시티 설치 및 운영을 보장하는 절차에 관한 논의가 이뤄져야 한다.” ■ 한영수 원장은 누구 서울대 법대 출신의 행시 34회로 법제 이론과 실무에 정통하다. 법제처 법제정책국장, 법령해석정보국장, 대통령실 법무비서관실 행정관, 헌법재판소 헌법연구관 등을 거쳐 법제처 차장을 역임했다. 지난해 3월 원장으로 취임한 이후 AI 법제팀, 해외법제조사팀, 현안 대응팀 등을 새로 만들어 AI, 기후변화, 저출생 등 핫이슈 법제화 연구에 적극 나서고 있다. 최광숙 대기자
  • 윤리규범·관계소통·사회문화… AI 시대 대응할 인문학 한눈에

    윤리규범·관계소통·사회문화… AI 시대 대응할 인문학 한눈에

    2016년 구글 딥마인드의 바둑 인공지능(AI) 알파고가 이세돌 9단에게 압승을 거두면서 AI에 대한 관심이 폭발적으로 증가했다. 이세돌과 알파고 대국이 있은 지 불과 6년 뒤인 2022년 말 챗GPT가 공개되면서 이제 생성형 AI는 누구나 사용하는 세상이 됐다. 이런 추세에 맞춰 학계는 물론 대중을 대상으로 한 책들이 쏟아지고 있다. 그렇지만 대부분 유행을 따르거나 개별적 주제에만 초점을 맞추고 있어 AI의 현재를 이해하고 미래를 예측하기란 쉽지 않다. 이런 상황에서 ‘인공지능 인문학’이라는 틀에서 AI 시대 전체를 개괄할 수 있는 학술서가 나와 눈길을 끈다.중앙대 인문콘텐츠연구소에서 기획·연구·집필한 ‘인공지능인문학 학술총서’(태학사)가 최근 출간됐다. 다양한 분야의 연구자들이 모여 7년 동안 이뤄 낸 학제적 연구의 성과물인 총서는 ▲인공지능 윤리규범학 ▲인공지능 관계소통학 ▲인공지능 데이터해석학 ▲인공지능 기술비평학 ▲인공지능 사회문화학 5권으로 구성됐다. 학술서이지만 일반인도 쉽게 읽을 수 있다는 장점까지 갖추고 있다. 1권 ‘인공지능 윤리규범학’에서는 AI가 우리 삶에 들어오면서 나타날 수 있는 일들과 규제를 다룬다. 흔히 AI 윤리라고 하면 교통사고를 낸 자율주행차, 살인을 목적으로 만들어 낸 전투용 로봇, 애인 행세를 하는 AI에게 버림받은 사람 등 SF에서 볼 법한 흥미 위주의 사례를 떠올린다. 그러나 연구자들은 ‘AI는 윤리적 주체가 될 수 있나’, ‘AI 윤리는 발전하는 기술의 발목을 잡는 성가신 존재일까’ 같은 본질적 문제를 마주한다. 저자들은 ‘기술·윤리’의 관계는 실제로 ‘기술·기업·윤리’로 봐야 한다고 강조한다. 기술과 윤리라는 긴장 관계 뒤에 숨어 드러나지 않는 기업과 자본의 존재를 인식하는 것이 중요하다는 것이다. 이들은 윤리가 소외된 기술의 전형으로 2020년 12월 출시된 AI 챗봇 서비스 ‘이루다’ 사태를 지적하며 ‘무엇보다 윤리적이지 않은 토양의 사회’에서 “윤리는 기술 설계의 기획, 형성, 발전 단계 내에 이미 포함돼 있어야 한다”고 강조했다. ‘인공지능 관계소통학’에서는 참여·개방·공유를 통해 인간들끼리 연결됐던 웹 2.0시대를 지나 현재 사람과 사람을 넘어 사람과 사물, 인공지능으로까지 확장되는 웹 3.0시대에 어떻게 대응해야 하는지를 말한다. 서비스 일자리를 빼앗는다고 비판받는 키오스크도 사실은 감정 노동자의 상처를 줄이기 위해 등장한 것이고, 챗봇 같은 소셜 로봇 역시 소외된 사람들의 외로움을 덜기 위해 개발되기 시작했다. 사회가 초연결을 지향하면서 점점 인간화되는 AI와의 관계를 어떻게 설정해야 하는지에 대한 고민은 인류의 새로운 숙제가 됐다고 저자들은 지적한다. 마지막 권인 ‘인공지능 사회문화학’에서는 AI가 인간의 삶에 들어온 이후 어떤 변화를 만들어 내고 있는지를 꼼꼼하게 짚어 본다. 인간 고유의 영역이라는 창조성까지 넘보는 AI의 발전을 기술 문화, 대중문화, 예술 및 시각문화 등 세 영역으로 나눠 AI 시대의 인간의 역할까지 논의의 장으로 끌어들이고 있다. 저자들은 “이번 총서는 AI의 현재와 미래를 피상적으로 살펴보는 것을 넘어 AI에 대한 인문학적 접근을 통해 인문학 자체의 위상과 역할을 재고하기 위해 기획된 것”이라고 입을 모았다.
  • 尹 “한국에도 AI 안전연구소 설립”… ‘서울선언’ 채택

    尹 “한국에도 AI 안전연구소 설립”… ‘서울선언’ 채택

    윤석열 대통령은 21일 ‘인공지능(AI) 서울정상회의’에서 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다”고 밝혔다. 정상 세션에서는 안전하고 혁신적이며 포용적인 AI를 위한 ‘서울선언’이 채택됐다. 윤 대통령은 이날 리시 수낵 영국 총리와 공동 주재한 AI 서울정상회의 개회사에서 “영국, 미국을 비롯한 주요국들의 AI 안전연구소 설립 노력을 환영한다”며 이렇게 밝혔다. 또 “이러한 AI 혁신은 글로벌 경제에 새로운 성장동력을 부여하고, 환경오염 등 전 지구적인 난제를 풀어 가는 데 큰 도움을 줄 것”이라고 말했다. 윤 대통령은 “지난해 11월 영국 블레츨리 파크에서 개최된 ‘AI 안전성 정상회의’에서 AI 안전을 논의했으며 혁신과 포용까지 논의의 지평을 넓히는 AI 서울정상회의를 개최하게 돼 매우 기쁘게 생각한다”고 밝혔다. 이어 “AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다”고 덧붙였다. 윤 대통령은 “AI 서울정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것”이라며 “AI가 미칠 수 있는 악영향을 최소화하고 민주주의가 훼손되지 않도록 AI 안전성을 확보해야 한다”고 말했다. 이어 “거주 지역과 소득수준에 관계없이 누구나 AI의 혜택을 누릴 수 있도록 AI의 포용성을 확보하는 것도 중요하다”고 했다. 정상 세션에는 G7(미국·영국·프랑스·독일·이탈리아·캐나다·일본)과 싱가포르 정상이 참석했다. 유엔, 유럽연합(EU), 경제협력개발기구(OECD)와 삼성전자, 네이버, 슈밋재단, 구글 딥마인드, 앤트로픽, xAI, 미스트랄AI, 오픈AI, 마이크로소프트, 아마존 웹 서비스, 메타 등 글로벌 빅테크 수장들도 참석했다. 정상들은 안전하고 혁신적이며 포용적인 AI를 위한 서울선언을 채택했다. 정상들은 “AI의 전례 없는 발전과 우리 경제사회에 미치는 영향을 마주해 AI 분야에서 국제 협력과 대화를 촉진하고자 하는 공동의 헌신을 확인했다”고 밝혔다. 지난해 영국에서 개최된 1차 회의가 AI의 위험성에 따른 안전성에 초점을 맞췄다면 이번 서울 2차 회의에서는 안전성에 더해 혁신과 포용성으로 의제를 확대했다. 또 “AI 안전연구소, 연구 프로그램을 포함한 유관기관을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지하고 단체 간 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고자 노력한다”고 밝혔다. 이어 “세 번째 모임으로 프랑스가 개최하는 AI 행동 정상회의를 기대한다”고 덧붙였다. 22일에는 서울 한국과학기술연구원(KIST)에서 19개국 이상의 정부와 기업 인사가 참여하는 장관 세션이 열린다. 이종호 과학기술정보통신부 장관은 미셸 더넬런 영국 과학혁신기술부 장관과 공동으로 장관급 회의를 주재한다. 정상 세션에 불참한 중국도 참석한다.
  • AI 서울 정상회의 개막… 대통령실 “AI ‘G3’ 도약 발판”

    AI 서울 정상회의 개막… 대통령실 “AI ‘G3’ 도약 발판”

    21~22일 열리는 ‘인공지능(AI) 서울 정상회의’에선 AI 혁신·포용성 원칙에 관한 논의가 진행되고 공동 합의문 ‘서울 선언’ 채택이 추진된다. 이번 회의는 지난해 11월 영국 블레츨리 파크에서 열린 ‘AI 안전성 정상회의’의 후속으로 윤 대통령과 리시 수낵 영국 총리가 공동 주재한다. 대통령실은 이번 회의를 통해 한국이 AI 주요 3개국(G3)으로 도약하는 발판을 마련할 것이라고 20일 밝혔다. 박상욱 대통령실 과학기술수석은 이날 용산 대통령실 브리핑에서 “AI 서울 정상회의를 바탕으로 확보한 디지털 AI 규범의 글로벌 리더십을 통해 우리나라가 AI 선도 국가로서 글로벌 영향력을 높이고 AI G3 국가로 도약하는 발판을 마련할 수 있을 것으로 기대한다”고 밝혔다. 왕윤종 국가안보실 3차장은 브리핑에서 “각국 정상들은 글로벌 AI 기업 CEO들과 안전성, 혁신, 포용성 등 AI의 핵심 가치를 기반으로 한 거버넌스, 즉 규범에 대해서 논의할 예정”이라고 말했다. 그는 “지난해 첫 회의는 안전성에 초점을 뒀다면 이번 회의는 포용과 혁신까지 의제를 확대하는 것”이라면서 “정상 세션에서는 안전하고 혁신적이고 포용적인 AI를 위한 합의문 채택도 추진되고 있다”고 덧붙였다. 21일 오후 화상회의 방식으로 열리는 정상 세션은 윤 대통령과 수낵 총리가 회의를 주재한다. 주제는 ‘AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로’다. 윤 대통령과 수낵 총리는 20일 한국과 영국 언론에 공동 게재한 기고문에서 “한국과 영국은 AI 기술의 잠재력을 활용해 더 나은 세상을 만들기로 했다. 서울에서 AI 잠재력을 완전히 실현하기 위한 혁신·안전·포용성 세 가지 원칙을 제시할 것”이라고 밝혔다. 22일 장관 세션은 이종호 과학기술정보통신부 장관과 미셸 더넬란 영국 과학혁신기술부 장관이 공동 의장을 맡아 서울 성북구 한국과학기술연구원(KIST)에서 대면으로 개최한다. 중국은 장관 세션에만 참석한다.
  • 경찰이 히잡 안 쓴 10대 여학생 폭행…현장 시민들의 놀라운 반응[포착](영상)

    경찰이 히잡 안 쓴 10대 여학생 폭행…현장 시민들의 놀라운 반응[포착](영상)

    이란의 한 10대 소녀가 히잡 복장 규정을 지키지 않았다는 이유로 길거리에서 도덕경찰에게 폭행당하는 모습을 담은 영상이 공개돼 논란이 됐다. 최근 소셜미디어를 중심으로 확산된 해당 영상은 이란 로레스탄주(州) 보루제르드 카운티에서 촬영된 것으로, 도덕 경찰로 불리는 여성이 히잡을 쓰지 않은 10대 여성 청소년을 구타하는 모습을 담고 있다. 도덕 경찰은 이란과 아프가니스탄 등 샤리아(이슬람 율법)을 따르는 국가에서 사회 통제를 위해 마련한 수단이다. 대체로 여성의 복장이나 행동 등이 샤리아에 어긋나지 않는지를 감시하고 지도하기 위해 고용된 사람들이다. 당시 구타를 당한 소녀는 히잡을 쓰지 않은 채 티셔츠를 입고 있는 상태였으며, 히잡을 입은 여성 도덕경찰이 다가가 구타를 시작하자 고통에 비명을 지르기 시작했다. 영상 속 도덕 경찰은 중년 여성으로 추정된다. 이란의 중년 여성 일부는 도덕 경찰로서 특히 여성의 히잡 복장 규정을 엄하게 단속하기로 유명하다.폭행을 당하던 10대 소녀는 도덕경찰로부터 벗어나려 애썼지만, 도덕 경찰은 쓰러진 소녀의 몸 위에 올라가 폭력을 이어갔다. 10대 소녀의 비명소리를 들은 행인들이 하나 둘 가까이 다가갔고, 일부 남성과 여성 행인들이 두 사람을 떼어놓았다. 그 이후에도 도덕경찰이 소녀에게 해를 가하려 하자 시민들이 막아서며 소녀를 지킨 것으로 알려졌다. 해당 영상을 최초로 공유한 이란 언론인이자 활동가인 마시 알리네자드는 엑스(옛 트위터)에 “현장에서 이를 지켜본 시민에 따르면, 도덕경찰이 티셔츠를 입은 10대 소녀를 잔인하게 체포하려 했다. 소녀가 도와달라고 소리를 지르자 사람들이 모여들어 경찰로부터 소녀를 구해냈다”고 전했다. 이어 “영상을 직접 확인한다면 우리가 여러분에게 ‘성차별에 반대하는 연합’(#United Against Gender Apartheid)에 대해 알리는 이유를 이해하게 될 것”이라고 강조했다. 이란 당국, 아미니 의문사 1주기 직후 히잡 규정 강화 이스라엘 매체인 예루살렘포스트의 보도에 따르면, 이란은 지난달 일명 ‘누르 계획’을 발표하고 히잡 단속을 다시 강화하기 시작했다. 페르시아어로 ‘빛’을 의미하는 ‘누르’ 계획에 따라 테헤란 등 여러 도시에서 히잡을 착용하지 않은 여성에 대한 강력한 단속에 들어갔다.도덕경찰은 공공장소에서 히잡 규정을 어긴 여성들을 마구잡이로 체포하고 있으며 이 과정에서 성희롱과 구타 등을 자행하는 것으로 알려졌다. 또 여성에게 테이저건을 사용하거나 승용차 유리창을 파손하는 등의 폭력적인 행위도 서슴지 않고 있는 것으로 전해졌다. 이번 단속은 여성의 히잡 착용을 강제하기 위한 ‘히잡과 순결 법안’이 이슬람 규범과 헌법 해석권을 가진 헌법수호위원회의 최종 승인을 받지 않은 상태에서 이뤄졌다는 점에서 더 주목을 받았다.앞서 2022년 9월 16일 마흐사 아미니(사망 당시 22세)는 히잡 사이로 머리카락이 보이는 등 복장 규정을 어겼다는 이유로 경찰에 끌려갔다가 의문사 했다. 이는 ‘히잡 시위’로 불리는 전국적이고 국제적인 항의시위로 이어졌다. 이란 당국은 히잡 시위에 대해 강경 진압을 명령했고, 이 과정에서 최소 551명이 사망하고 1500명 이상이 체포됐다. 아미니의 사망 1주기로부터 나흘밖에 지나지 않은 지난해 9월, 이란 의회는 이슬람 율법에 따른 복장 규정을 어기는 사람에게 최대 징역 10년형을 선고하도록 하는 ‘히잡과 순결 법안’을 통과시켰다. 이에 지난해 옥중에서 노벨평화상을 수상한 이란의 여성운동가 나르게스 모하마디는 가족을 통해 인스타그램에 공개한 성명에서 “당국이 협박과 공포를 통해 거리를 여성과 청소년을 대상으로 한 전쟁터로 만들었다”면서 당국의 히잡 단속 강화를 강력하게 비판했다. 한편, 이란은 1979년 이슬람 혁명 이후 모든 여성의 히잡 착용을 의무화했다. 히잡을 거부하거나 선택권을 요구하는 여성이 늘었지만, 이란은 더 강력한 제재로 여성 인권을 억압하고 있다.
  • [글로벌 In&Out] ‘브뤼셀 효과’가 착한 AI 만들까

    [글로벌 In&Out] ‘브뤼셀 효과’가 착한 AI 만들까

    인공지능(AI)의 성장 속도가 놀라울 정도다. 생성형 AI인 챗GPT가 등장한 후 경쟁 업체들은 유사한 서비스를 서둘러 출시했다. 불과 1년여 만에 AI 서비스는 업무, 교육 등에서 널리 활용된다. 기업들은 AI 관련 연구에 몰두하고 있고, 국가들은 연구개발(R&D) 예산을 활용해 다양한 지원 정책을 시행하고 있다. 반면 AI의 급속한 발달에 우려도 크다. 기술 진보 속도가 너무 빠르고, 기업 간 경쟁이 격화되면서 자칫 통제할 수 없는 수준으로 발전할 수 있다는 것이다. 의도적으로 AI 분야의 발전 속도를 늦춰야 한다는 지적까지 나왔다. 저명한 과학자들조차 AI 기술의 너무 빠른 발전에 놀라 6개월 정도 기술 발전 노력을 정지할 것을 제안했다. 작년 말 주요 7개국(G7)은 AI 개발 관련 국제 지침과 행동 규범에 합의했다. 이달 초 유엔총회는 AI의 안전한 사용을 위해 국제적 합의를 시급히 마련해야 한다는 결의안을 채택했다. 유럽연합(EU)은 구속력을 갖춘 AI법을 가장 먼저 발표했다. 지난달 13일 유럽의회는 AI법 최종안을 가결했다. AI 활용 분야를 네 단계 위험 등급으로 구분해 차등 규제하는 방식이다. 가장 고위험 분야로 의료, 교육, 공공서비스, 선거, 핵심 인프라, 자율주행 등이 선정됐다. 이 분야에서는 반드시 사람이 AI를 감독하고 위험관리 시스템을 구축해야 한다. 위반 시에는 강력한 과징금이 부과된다. EU의 AI법에 맞춰 많은 국가들이 유사한 규제를 마련 중이다. 적절한 시점에 맞춰 규제가 나왔다는 평가도 있지만 반발도 있다. 과도한 규제이며 관료주의적 접근 방식이라는 것이다. 비판은 주로 관련 기술을 개발하는 산업계에서 나온다. 이 법이 혁신보다는 안전을 중시하는 유럽의 성향에서 비롯됐다는 지적도 있다. 미국에 비해 유럽은 예방 원칙에 근거해 위험을 회피하는 모습을 보인다. AI법을 서둘러 발표한 것은 ‘디지털 주권’을 확보하려는 노력의 일환이다. 유럽의 정보통신 산업이 미국과 아시아에 비해 뒤처지고 있다는 것은 잘 알려진 사실이다. 그래서 강력한 규제를 제안하고, 이를 선점함으로써 디지털 분야에서 자율적 역량을 확보하려는 것이다. EU는 유럽을 넘어 전 세계로 자신의 규제를 확산시킬 수 있는 영향력을 갖고 있다. EU의 규제가 27개 회원국은 물론 주변 국가에도 적용되는 경우가 많아서다. 이를 ‘브뤼셀 효과’라고 부른다. EU의 모든 규제가 행정기관이 위치한 벨기에 브뤼셀에서 만들어지기 때문이다. 일단 유럽을 대상으로 영업활동을 하는 경우에는 EU 규제를 따를 수밖에 없다. 2018년 발효된 EU의 개인정보보호법(GDPR)이 대표적인 사례로 한국의 개인정보보호법도 유럽의 법을 참조해 만들어졌다. EU의 AI 규제는 전 세계에 영향을 미칠 것이다. 곧 등장할 다른 국가의 규제에도 적잖은 영향을 끼칠 것으로 보인다. 기술혁신을 규제가 따라잡지 못한다면 오남용의 부작용이 자명하다. 반면에 규제가 혁신을 가로막는 상황도 발생할 수 있다. ‘규제’와 ‘기술혁신’이라는 두 가지 목표를 어떻게 달성할 수 있을지 유럽을 주목해 볼 일이다. 강유덕 한국외대 LT학부 교수
  • “데이터 뱅크로 저작권자 보호… 딥페이크 등 AI 범죄는 가중처벌”[K이슈 플랫폼]

    “데이터 뱅크로 저작권자 보호… 딥페이크 등 AI 범죄는 가중처벌”[K이슈 플랫폼]

    K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.
  • 카카오 AI 개발에 전력…국내 최초 ‘AI 얼라이언스’ 가입

    카카오 AI 개발에 전력…국내 최초 ‘AI 얼라이언스’ 가입

    카카오가 인공지능 연구 개발 지원을 위한 글로벌 오픈 소스 커뮤니티인 ‘AI 얼라이언스’에 가입했다고 12일 밝혔다. 국내 기업 중엔 최초인데 글로벌 스탠다드에 부합하는 AI 개발에 속도를 더하겠다는 의지다. AI 얼라이언스는 IBM, 메타, 인텔 등을 글로벌 기업을 비롯해 산업계, 스타트업, 학계, 연구기관, 정부를 아우르는 100여 곳의 선도적인 조직이 함께 글로벌 인공지능 분야의 개방형 혁신과 오픈 사이언스를 지원하기 위한 단체로 지난해 12월 출범했다. AI 기술 환경 전반에서 개방형 혁신을 지원하고 AI 생태계를 확장하기 위한 협력을 도모하는 것을 목표로 한다. AI의 안전과 보안, 신뢰를 개선하며 전 세계 사람과 사회에 대한 혜택을 극대화하는 데 중점을 두고 다양한 프로젝트와 활동을 이어간다는 계획이다. 카카오는 “이번 AI 얼라이언스 가입을 통해 카카오는 국내 AI 표준이 글로벌 표준에 발맞출 수 있도록 노력하겠다”면서 “AI 교육, 안전, 정책, 기술연구 등에 있어 글로벌 표준 수립에 한국의 기준들이 반영될 수 있도록 적극적인 목소리를 낼 예정”이라고 설명했다. 이를 위해 최근 신설된 CAIO 조직 주도로 AI 이니셔티브의 추진을 체계적으로 추진한다는 계획이다. 카카오는 2018년 알고리즘 윤리 헌장을 발표하며 국내 기업 중 처음으로 알고리즘 윤리 규범을 마련했다. 2022년 7월에는 업계 최초로 ‘기술윤리 위원회’를 출범하고, 계열사 전반의 기술윤리 점검을 비롯해 기술을 사회와 함께 발전시켜 나가는 방안을 지속 연구해왔다. 지난해 말에는 위원회의 다양한 행보를 담은 ‘2023 카카오 공동체 기술윤리 보고서’를 발간하기도 했다. 카카오 김경훈 AI Safety 리더는 “글로벌 수준의 신뢰와 안전을 갖춘 개방적 AI 생태계 구축을 위해 AI 얼라이언스와 상호 협력해 나갈 것”이라며 “디지털 기업으로서 사회적 책임을 다하고 AI 윤리를 강화하기 위해 지속적으로 노력하겠다”고 말했다.
  • [열린세상] 인공지능과 개인정보 보호

    [열린세상] 인공지능과 개인정보 보호

    인공지능은 지속적으로 사회적 관심의 대상이 되고 있다. 국내외의 여러 인공지능 기업이 새로운 혁신의 결과물을 계속 선보이고 있기도 하다. 그런데 새로운 인공지능 모형이 개발되는 과정에 대해 생각해 보면 유용한 학습용 데이터를 구하는 것이 모형 개발에서 핵심 관건임을 어렵지 않게 파악할 수 있다. 어떤 면에선 인공지능이란 데이터를 이용해 최신의 과학기술을 적용한 결과물을 만들어 내는 과정인 것으로 이해할 수도 있다. 유용한 데이터는 흔히 개인정보를 포함하게 되는데 그 경우 데이터의 수집과 활용 과정이 아무래도 조심스러울 수밖에 없다. 데이터, 특히 개인정보의 이용과 관련해 사회적 신뢰를 얻지 못한다면 개발된 기술이 아무리 뛰어난 것이라 하더라도 결국은 사회로부터 외면을 받게 될 것이다. 그렇다면 인공지능 시대에 걸맞은 개인정보 정책은 어떻게 마련돼야 할까? 인공지능 기술이 개발되고 이용되는 과정에서 데이터가 어떤 역할을 하는지 살펴보는 것이 출발점이다. 인공지능 데이터의 수집 및 이용에 관해 가장 넓게는 입력값과 관련된 과정과 결과값과 관련된 과정으로 나누어 파악할 수 있다. 우선 입력값 확보의 첫 단계가 되는 각종 데이터의 수집을 위해서는 인터넷 공간에서 크롤링 등의 방법으로 널리 데이터를 수집하는 방식이나 동의에 기반해 이용자로부터 데이터를 수집하는 방식 등 여러 방식이 적용될 수 있다. 수집된 데이터를 정제하고 학습용 데이터를 구축하는 과정도 이 과정에 포함해 이해할 수 있다. 결과값과 관련해서는 추론 과정을 거쳐 판단을 하거나 새로운 결과물을 만들어 내는 과정을 주로 생각할 수 있다. 이용자가 인공지능에 질문을 하거나 지시를 하는 과정은 결과값을 만들어 내는 과정의 일부로 이해할 수 있는 한편 그 과정에서 수집된 이용자의 데이터는 경우에 따라 새로운 입력값으로 활용될 가능성도 있다. 그런 점에서 이용자의 질문이나 지시는 입력값과 결과값 모두와 관련 있는 것으로 볼 수 있다. 지나칠 정도로 간략하기는 하지만 이렇게 도식화하는 것은 인공지능 모형을 만들어 내고 서비스를 제공하는 과정에서 개인정보 보호와 관련해 어떤 어려움이 있을 수 있는지 파악하는 데 도움이 된다. 우선 데이터의 수집 단계를 보자. 동의에 기반해 이용자의 데이터를 수집하는 방식은 다수의 인공지능 기업에 그다지 효과적인 방법이 되지 못한다. 충분한 분량의 데이터를 확보하기도 어렵고 좋은 품질의 다양한 데이터를 확보하기도 어려운 것이 보통이기 때문이다. 한편 인터넷 공간의 데이터를 확보해 이용하는 경우에는 해당 데이터에 개인정보가 섞여 있을 가능성을 고려해 어떤 조치를 취해야 할 것인지에 대한 새로운 질문이 제기된다. 결과값과 관련해서도 여러 질문이 제기될 수 있다. 가장 기본적인 질문으로는 이용자에게 제시되는 결과값에 제3자의 개인정보가 부적절하게 포함될 가능성에 대비해 어떤 대응책을 마련해야 할지에 관한 것이 있다. 이러한 다양한 질문으로부터 어떻게 적절한 해법을 찾아낼 것인가? 몇 가지의 기본 원칙을 들 수 있다. 첫째, 인공지능을 포함한 신기술이 개발되고 사회에 도입되는 과정에서 사회 구성원들이 느낄 수도 있는 불안감을 최소화해야 할 것이다. 둘째, 기업의 정당한 혁신 활동을 적극 장려하는 사회적 기반을 마련해야 한다. 셋째, 인공지능의 개발과 서비스 과정에서 나타날 수 있는 리스크는 다양한 형태를 띠게 될 것인데, 개별 리스크의 수준에 비례하는 유연한 규범 체계를 구축해야 한다. 이 같은 원칙에서 합리적 규범 체계와 다이내믹한 혁신 생태계를 만들어 낼 수 있는지 여부가 인공지능 시대를 맞이하는 대한민국의 성패를 좌우할 것이다. 고학수 개인정보보호위원회 위원장
  • AI는 지능형 비서, 통제불능 걱정 말라… 인간은 더 인간다워진다 [AI 블랙홀 시대]

    AI는 지능형 비서, 통제불능 걱정 말라… 인간은 더 인간다워진다 [AI 블랙홀 시대]

    생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것 -텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가. “놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.” -대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다. “딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.” -AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다. “그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것 -생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까. “실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.” -AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다. “국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.” -생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까. “생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.” -사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까. “저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.” #오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것 -정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가. “포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.” -AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나. “인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.” #저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것 -생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다. “AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.” -챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가. “그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.” #제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.
  • 尹 “메타의 상상 한국이 적극 지원”… 저커버그 “삼성이 협력의 포인트”

    尹 “메타의 상상 한국이 적극 지원”… 저커버그 “삼성이 협력의 포인트”

    윤석열 대통령은 29일 페이스북 모회사인 메타의 마크 저커버그 최고경영자(CEO)를 만나 “메타가 상상하고 설계한 것을 한국의 (관련) 산업이 적극적으로 지원할 준비가 되어 있다”며 한국 기업과의 협력을 당부했다. 윤 대통령은 이날 저커버그 CEO와 용산 대통령실에서 30분간 인공지능(AI)과 디지털 생태계 조성 비전, 메타와 한국 기업의 협력 강화 방안 등을 논의하면서 이렇게 말했다고 성태윤 대통령실 정책실장이 브리핑에서 전했다. 이어 윤 대통령은 “대한민국이야말로 메타의 AI가 적용될 수 있는 훌륭한 플랫폼이 될 수 있다”고 강조했다. 윤 대통령은 “한미 간 긴밀한 공급망 협력 체계가 구축된 만큼 필요하다면 정부 차원에서 양국 기업의 협력을 적극 지원하겠다”고 약속했다. 또 메타가 주력하는 메타버스 사업 분야 연구개발(R&D)과 인재 양성, 확장현실(XR) 헤드셋 분야 등에서 협력을 기대한다고 했다. 대통령실 고위 관계자에 따르면 저커버그 CEO는 이 자리에서 취약성 및 휘발성이 높은 시기에 메타가 대만의 반도체 기업인 TSMC에 많은 부분을 의존하는 것에 대해 우려를 표했다. 그러면서 “파운드리 거대 기업으로 삼성이 글로벌 경제에서 매우 중요한 위치에 있다”며 “이러한 부분들이 삼성과의 협력에 있어 중요한 포인트가 될 수 있다”고 말했다. 미중 반도체 전쟁과 양안관계 악화로 공급망 위기가 커지자 TSMC 의존도를 낮추고자 하는 의중을 드러냈다는 해석이 나온다. 윤 대통령은 이에 “삼성전자 AI 반도체와 시스템 반도체의 투자 생태계 조성을 위해 서울 인근에 이미 정부 지원이 이뤄지고 있다”고 화답했다. 윤 대통령의 이 발언에 대해 고위 관계자는 “현재의 지정학적 상황에서 메타 입장에서도 TSMC에 대한 의존도를 줄여 안정화하는 데 도움이 될 수 있다는 취지”라고 해석했다. 평소 AI 기술에 맞는 디지털 규범의 중요성을 주장해 온 윤 대통령은 저커버그 CEO에게도 이와 관련된 조치를 촉구했다. 윤 대통령은 “올해는 전 세계 여러 국가에서 선거가 있는 만큼 메타와 같은 빅테크 플랫폼 기업들이 가짜 뉴스와 각종 기만행위를 신속하게 모니터링해 조치해 달라”고 말했다. 저커버그 CEO는 “적극적으로 노력하고 있다”면서 “한국 선관위를 포함해 다른 나라 정부와도 가짜 정보가 유포되는 것을 제어하기 위한 협업이 광범위하게 이뤄질 수 있다”고 답했다.
  • 尹, 저커버그에 “한국 산업 메타 지원 준비돼… TSMC 의존 안정화도”

    尹, 저커버그에 “한국 산업 메타 지원 준비돼… TSMC 의존 안정화도”

    尹 “대한민국, 메타 AI의 훌륭한 플랫폼 될 수 있어”저커버그 “파운드리 거대 기업 삼성 협력 중요 포인트” 총선 앞 AI 활용 가짜뉴스·기만행위 모니터링 요청 윤석열 대통령은 29일 페이스북 모회사인 메타의 마크 저커버그 최고경영자(CEO)를 만나 “메타가 상상하고 설계한 것을 한국의 (관련) 산업이 적극적으로 지원할 준비가 되어 있다”며 한국 기업과의 협력을 당부했다.윤 대통령은 이날 저커버그 CEO와 용산 대통령실에서 30분간 인공지능(AI)과 디지털 생태계 조성 비전, 메타와 한국 기업의 협력 강화 방안 등을 논의하면서 이렇게 말했다고 성태윤 대통령실 정책실장이 브리핑에서 전했다. 이어 윤 대통령은 “대한민국이야말로 메타의 AI가 적용될 수 있는 훌륭한 플랫폼이 될 수 있다”고 강조했다. 윤 대통령은 “한·미 간 긴밀한 공급망 협력 체계가 구축된 만큼 필요하다면 정부 차원에서 양국 기업의 협력을 적극 지원하겠다”고 약속했다. 또 메타가 주력하는 메타버스 사업 분야 연구개발(R&D)과 인재 양성, 확장현실(XR) 헤드셋 분야 등에서 협력을 기대한다고 했다. 대통령실 고위 관계자에 따르면 저커버그 CEO는 이 자리에서 취약성이 높은, 휘발성이 높은 시기에 메타가 대만의 반도체 기업인 TSMC에 많은 부분을 의존하는 것에 대해 우려를 표했다. 그러면서 “삼성이 파운드리 거대 기업으로 글로벌 경제에서 매우 중요한 위치에 있다”며 “이러한 부분들이 삼성과 협력에 있어 중요한 포인트가 될 수 있다”고 말했다. 미중 반도체 전쟁과 양안관계 악화로 공급망 위기가 커지자, TSMC 의존도를 낮추고자 하는 의중을 드러냈다는 해석이 나온다. 윤 대통령은 이에 “삼성전자 AI 반도체와 시스템 반도체의 투자 생태계 조성을 위해 서울 인근에 이미 정부 지원이 이뤄지고 있다”고 화답했다. 이 고위 관계자는 윤 대통령의 발언에 대해 “현재 지정학적 상황과 메타 입장에서 TSMC에 많이 의존하는 걸 줄여 안정화하는 데 도움이 될 수 있다는 취지”라고 해석했다. 평소 AI 기술에 맞는 디지털 규범의 중요성을 주장해 온 윤 대통령은 저커버그 CEO에도 이와 관련된 조치를 촉구했다. 윤 대통령은 “올해는 전 세계 여러 국가에서 선거가 있는 만큼 메타와 같은 빅테크 플랫폼 기업들이 가짜뉴스와 각종 기만행위를 신속하게 모니터링하고 조치해달라”고 말했다. 저커버그 CEO는 “적극적으로 노력하고 있다”면서 “한국 선관위를 포함해 다른 나라 정부와 가짜정보가 유포되는 것을 제어하기 위한 협업이 광범위하게 이뤄질 수 있다”고 답했다.
  • 강인선 2차관 “北, 핵실험 자랑할 만큼 뻔뻔…완전하고 불가역적 포기해야”

    강인선 2차관 “北, 핵실험 자랑할 만큼 뻔뻔…완전하고 불가역적 포기해야”

    강인선 외교부 2차관이 유엔 군축회의에서 북한의 핵·미사일 개발이 국제 군축·비확산 체제에 위협이 되고 있다며 국제사회의 관심을 당부했다. 강 차관은 26일(현지시간) 스위스 제네바에서 열린 유엔 군축회의(CD) 고위급 회기 전체회의 연설을 통해 “북한의 핵·미사일 개발은 국제 군축·비확산 체제에 실존적 위협을 가하고 있다”면서 “지난 몇 년간 북한은 여러 차례 유엔 안전보장이사회 결의를 노골적으로 위반하며 100발 이상의 탄도미사일을 발사했다”고 지적했다. 강 차관은 이어 “21세기에 핵실험을 한 유일한 국가인 북한은 이를 자랑할 만큼 뻔뻔하다는 점도 상기할 필요가 있다”며 “북한은 마음만 먹으면 언제든 또 다른 핵실험을 할 수 있으며 이는 7번째가 될 것”이라고 설명했다. 그러면서 “다른 국제사회의 모든 국가와 마찬가지로 한국은 북한이 도발을 즉각 중단하고 대화에 복귀하며 대량파괴 무기 및 탄도미사일 프로그램을 완전 검증가능하고 불가역적인 방식으로 포기할 것을 촉구한다”고 강조했다. 강 차관은 연설에서 우크라이나 전쟁을 비롯해 미·러 신전략무기감축협정 이행 중단, 포괄적 핵실험금지조약(CTBT) 비준 철회 등으로 인해 국제비확산체제가 약화하고 있는 상황에 대해 우려하며 국제사회가 군축 논의를 활성화해야 한다고 밝혔다. 러시아는 미국과의 핵무기 통제 조약인 뉴스타트에 지난 2월부터 참여하지 않았고 같은 해 11월에는 CTBT 비준을 철회하는 등 핵무기 통제와 관련한 국제협정을 잇달아 폐기하고 있다. 그는 ”역사의 변곡점에서 군축회의의 활성화는 무엇보다 중요하다“며 ”거의 30년간 가시적 성과를 내지 못한 냉정한 사실이 무대책의 핑계가 돼선 안 되며 협상 의지를 다시 불러일으키는 계기가 될 것“이라고 말했다. 또 신기술의 급속한 발전에 국제사회가 대응할 필요성을 제기하며 특히 최근 빠르게 발전하는 인공지능(AI)의 군사적 사용에 대한 국제규범을 만들어야 한다고도 강조했다. 이와 관련, 정부가 지난해 2월 네덜란드 헤이그에서 열린 제1차 회의에 이어 올해 서울에서 개최 예정인 제2차 인공지능의 군사적 이용에 관한 고위급회의(REAIM Summit)도 소개했다.
  • 산업부 “한·EU 디지털 통상협정으로 K콘텐츠 등 수출 도울 것”

    산업부 “한·EU 디지털 통상협정으로 K콘텐츠 등 수출 도울 것”

    산업통상자원부는 16일 K콘텐츠 등의 유럽연합(EU) 시장 진출에 영향을 미치는 한·EU 디지털 통상협정에 대한 산업계 의견을 청취했다. 산업부는 이날 서울 중구 대한상공회의소에서 양병내 통상차관보 주재로 제2차 디지털 통상 대응반 회의를 개최했다. 산업부를 비롯한 관계부처와 유관기관, 콘텐츠·인공지능(AI)·빅데이터·정보보안·제조업 분야의 기업 관계자 등 약 30명이 참석했다. 이날 회의에서는 한·EU 디지털 통상협정 협상 전망에 대한 박정준 강남대 교수의 발표에 이어 기업들의 애로 및 건의사항 등 논의가 진행됐다. 기업들은 K콘텐츠의 EU 시장 진출을 위해선 불필요한 무역장벽을 해소하는 것이 필요하다고 강조했다. 데이터 이전 규범의 중요성도 언급됐다. 양 차관보는 “한·EU 디지털 통상협정을 통해 우리 기업들의 비즈니스 활동을 뒷받침하고 우리 경제에 실익이 있는 결과를 창출하고자 한다”며 “산업계의 애로와 건의 사항을 협상 과정에 적극적으로 반영할 수 있도록 최선을 다하겠다”고 말했다. 산업부는 협상 과정에서 산업계와 긴밀하게 소통하고, 민관 협력으로 협상 대응 방안을 모색해 나갈 계획이다.
위로