정부가 SF 작가 아이작 아시모프가 제시한 로봇 3원칙처럼 인공지능(AI)의 개발과 사용에 있어서 사회 전체가 함께 지켜 나가야 할 공동의 가치와 원칙을 담은 지침을 발표했다. 다른 사람의 사진이나 음성, 사적 대화 등을 프라이버시를 침해하는 방식으로 AI에 입력해서는 안 되는 등 AI를 개발·제공하는 기업뿐 아니라 이용자까지 책임 있는 AI 활용의 주체로 규정한 것이 특징이다. 과학기술정보통신부와 정보통신정책연구원(KISDI)은 지난 21일 열린 ‘제12회 과학기술관계장관회의’에서 ‘대한민국 인공지능 윤리원칙’을 심의·의결한 뒤 확정했다고 24일 밝혔다. 확정된 윤리원칙은 3대 가치와 7대 원칙으로 이뤄졌다. 3대 가치는 모든 사람이 수단이 아닌 목적 그 자체로 존중받을 수 있는 ‘인간의 존엄성’, AI 편익이 개인의 삶은 물론 사회적 신뢰, 공동의 이익으로 이어지는 ‘사회의 공공선’, 현재와 미래 세대가 함께 누리며 환경과 사회의 기반이 지속되는 ‘인류의 지속가능성’이다. 7대 원칙으로는 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성을 제시했다. 윤리원칙은 AI기본법 27조에 따라 마련된 자율규범으로 사회 전 영역에 적용돼 각 분야 윤리기준과 지침의 토대가 되나 법적 구속력은 없다. 예컨대 이용자는 AI가 내놓은 결과를 목적과 상황에 맞게 검토하고, 필요하면 다른 자료나 관점과 비교해 살펴야 한다. AI를 허위 정보 유포나 기술 유출, 비동의 성적 합성물(딥페이크) 제작에 이용하는 것도 피해야 한다. 과기정통부는 윤리원칙이 현장에서 실천될 수 있도록 사례 중심의 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련해 보급할 예정이다.

정부가 SF 작가 아이작 아시모프가 제시한 로봇 3원칙처럼 인공지능(AI)의 개발과 사용에 있어서 사회 전체가 함께 지켜나가야 할 공동의 가치와 원칙을 담은 지침을 발표했다. 과학기술정보통신부와 정보통신정책연구원(KISDI)은 24일 열린 ‘제12회 과학기술관계장관회의’에서 ‘대한민국 인공지능 윤리원칙’을 심의·의결한 뒤 확정했다고 밝혔다. 이번 윤리원칙은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(인공지능기본법) 제27조 ‘인공지능 윤리원칙 등’에 관한 조항에 근거해 제정됐다. 과기정통부와 KISDI는 지난해 12월부터 윤리원칙 제정을 추진해 지난 5월 29일 초안을 마련하고 산업계, 시민사회, 학계, 관계부처와 일반 국민에게서 116건의 의견을 접수했고 지난 14일 대토론회와 추가 의견 수렴을 거쳐 최종안을 마련했다. 확정된 윤리원칙은 3대 가치와 7대 원칙으로 이뤄졌다. AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 근본 지향점인 3대 가치는 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 누리는 ‘인간의 존엄성’, AI 편익이 개인의 삶은 물론 사회적 신뢰, 공동의 이익으로 이어지는 ‘사회의 공공선’, 현재와 미래 세대가 함께 누리며 환경과 사회의 기반이 지속되는 ‘인류의 지속가능성’이다. 모든 주체가 AI 전 생애주기에서 실천해야 할 공통의 기준인 7대 원칙으로는 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성을 제시했다. AI가 산업 생산성을 높이고 새로운 서비스를 창출하며 다양한 사회적 과제 해결에도 활용되고 있다. 그렇지만 AI 도입으로 인한 과의존, 일자리 변화, 저작권 및 표절, 채용과 평가 등에 대한 우려가 커지면서 안전과 신뢰를 확보하는 일이 더 중요해지고 있다. 이런 기회와 과제가 이번 윤리원칙의 제정 배경이다. 특히 이번 윤리원칙은 사회의 지속가능성을 위해 각 주체가 지켜야 할 원칙을 담아 AI를 개발·공급하는 공급자뿐만 아니라 이를 활용하는 이용자도 책임 있는 AI 활용의 주체로 보고 이용자의 윤리와 역할을 강조했다는 점이 특징이다. 과기정통부는 윤리원칙이 현장에서 실천될 수 있도록 사례 중심의 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련해 보급하겠다고 밝혔다. 배경훈 부총리 겸 과기정통부 장관은 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 대립하는 과제가 아니다”며 “이번에 확정한 AI 윤리원칙이 AI에 대한 사회적 신뢰를 높이고 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다”고 말했다.

인공지능(AI) 기술은 이제 행정의 주변이 아니라 중심으로 들어오고 있다. 서울시는 민원 응대, 자료 분석, 문서 작성 보조 등 다양한 분야에서 AI 시스템을 도입하고 있으며 일부 자치구도 민원 자동 분류나 도시문제 분석을 시범 운영하고 있다. 효율성과 정확성이 향상될 거란 기대가 크지만 기술의 속도보다 더 중요한 게 있다. 바로 AI 윤리의 방향이다. AI 윤리가 강조되는 이유는 명확하다. AI는 스스로 판단하는 듯 보이지만, 그 과정은 시민에게 보이지 않는다. 어떤 데이터를 학습했고, 어떤 기준으로 결론에 도달하는지는 쉽게 확인할 수 없다. 이러한 문제의식 속에서 정부와 행정안전부는 2025년 공공부문 AI 윤리원칙을 마련하며 책임성과 신뢰 확보를 핵심 과제로 제시했다. 행정은 무엇보다 시민에게 설명할 수 있어야 하고, AI는 그 설명 책임을 더욱 무겁게 만드는 요소가 된다. 올해 정부가 발표한 ‘2025 인공지능 윤리기준 자율점검표’는 인권 보장, 프라이버시 보호, 다양성 존중, 공정성, 책임성, 투명성 등 10대 기준을 명확히 제시했다. 이는 공공 AI 도입이 기술 검토만으로는 충분하지 않다는 인식을 반영한다. 특히 투명성은 시민이 정책의 기준을 이해하고 그 결과에 대해 질문할 수 있게 만드는 민주적 기반이다. 가장 우려되는 부분은 데이터 편향과 차별 가능성이다. AI는 주어진 데이터로 판단하기 때문에 데이터가 특정 지역이나 계층의 현실을 충분히 담지 못하면 정책적 판단도 왜곡될 수 있다. 인구구조와 생활환경이 크게 다른 서울에서는 이러한 위험이 더욱 민감하게 작용한다. 복지나 돌봄 정책에 AI가 활용될 때 특정 지역의 특성이 반영되지 않으면 실제로 도움이 필요한 시민이 배제될 수도 있다. 이는 기술 문제가 아니라 명백한 윤리의 문제다. 부산시가 지방정부 중 처음으로 공무원 생성형 AI 활용 윤리 가이드라인을 마련한 것도 같은 고민에서 출발했다. AI가 만든 정보가 왜곡되거나 오용될 경우 공정성 훼손은 물론 행정 판단의 오류로 이어질 수 있기 때문이다. 공공 영역에서 AI를 안전하게 활용하기 위해서는 기술보다 제도가 먼저 준비돼야 한다. AI가 행정 결정 과정에 깊숙이 들어올수록 책임성 문제도 복잡해진다. AI 분석 결과를 참고해 정책을 결정할 때 오류가 발생하면 책임은 누구에게 있는가. 행정기관인가, 기술 제공자인가. 시민의 권리와 직접 연결되는 결정일수록 책임 구조는 분명해야 하며, 이 기준을 세우는 것이 바로 지방의회의 역할이다. 공공 AI 가이드라인이 기술·윤리·보안·조직문화를 함께 강조한 이유도 여기에 있다. AI 도입은 기술사업이 아니라 행정 거버넌스의 문제다. 기관 내부의 윤리 기준, 명확한 역할과 책임, 지속적인 점검 체계가 갖춰져야 공공 AI의 부작용을 최소화할 수 있다. 이 시대에 지방의회가 해야 할 역할은 더욱 명확해지고 있다. AI 활용에 대한 윤리 기준을 조례와 가이드라인에 반영하고, 편향과 위험을 지속적으로 감시하며, 기술보다 시민의 권리를 우선하는 원칙을 확립해야 한다. 지방의회는 AI 시대의 행정이 시민을 중심에 두고 운영되도록 만드는 최후의 안전장치다. AI 윤리는 기술을 막는 장벽이 아니라 기술이 시민을 위해 작동하도록 하는 나침반이다. 지방의회가 이 원칙을 단단히 세울 때 AI는 행정 혁신의 도구가 될 수 있다. 기술의 속도보다 중요한 것은 언제나 윤리의 방향이다. 김성준 서울시의회 의원

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.

최근 정부와 기업들이 인공지능(AI) 기술의 윤리원칙 마련에 나선 가운데 LG그룹이 24일 인간존중 등 5대 핵심 가치를 담은 AI 윤리원칙을 발표했다. LG그룹에 따르면 ‘AI 윤리원칙’은 AI를 개발하고 활용하는 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준으로, ‘고객을 위한 가치 창조’와 ‘인간존중의 경영’이라는 경영이념을 고려해 5대 핵심 가치를 선정했다. 5대 핵심 가치는 ▲AI가 인간의 자율성·존엄성과 같은 권리를 침해하지 않아야 한다는 ‘인간존중’ ▲AI가 성별이나 나이·장애 등 인간의 개인 특성에 기초한 부당한 차별을 하지 않고 공정하게 작동할 수 있도록 하는 ‘공정성’ ▲AI를 활용한 제품과 서비스의 안전과 관련된 부분은 글로벌 수준의 검증 시스템을 항시 가동한다는 ‘안정성’ ▲AI를 개발하고 활용하는 LG 구성원들이 주인 의식을 가지고 역할과 책임을 명확히 해야 하는 ‘책임성’ ▲AI가 내놓은 결과를 고객이 이해할 수 있도록 끊임없이 소통한다는 ‘투명성’이다. LG는 그룹 AI 연구원에 ‘AI 윤리 점검 TF’를 신설하고 AI 연구 및 개발 단계에서 발생 가능한 윤리 문제를 사전에 검증하기로 했다. 아울러 그룹 내 주요 AI 윤리 이슈들을 논의하는 협의체인 ‘AI 윤리 워킹그룹’도 연말에 출범할 예정이다.

최근 정부와 기업들이 인공지능(AI) 기술의 윤리원칙 마련에 나선 가운데 LG그룹이 24일 인간존중 등 5대 핵심 가치를 담은 AI 윤리원칙을 발표했다. LG그룹에 따르면 ‘AI 윤리원칙’은 AI를 개발하고 활용하는 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준으로, ‘고객을 위한 가치 창조’와 ‘인간존중의 경영’이라는 경영이념을 고려해 5대 핵심 가치를 선정했다.5대 핵심 가치는 ▲ AI가 인간의 자율성, 존엄성과 같은 권리를 침해하지 않아야 한다는 ‘인간존중’ ▲ AI가 성별이나 나이, 장애 등 인간의 개인 특성에 기초한 부당한 차별을 하지 않고 공정하게 작동할 수 있도록 하는 ‘공정성’ ▲ AI를 활용한 제품과 서비스의 안전과 관련된 부분은 글로벌 수준의 검증 시스템을 항시 가동한다는 ‘안정성’ ▲ AI를 개발하고 활용하는 LG 구성원들이 주인 의식을 가지고 역할과 책임을 명확히 해야 하는 ‘책임성’ ▲ AI가 내놓은 결과를 고객이 이해할 수 있도록 끊임없이 소통한다는 ‘투명성’이다. LG는 이런 윤리원칙이 윤리적인 AI 개발에 활용될 수 있도록 그룹 AI 연구 허브인 LG AI 연구원에 ‘AI 윤리 점검 TF’를 신설했다. TF는 LG 구성원들을 대상으로 AI 윤리원칙 교육을 진행하며 AI 연구 및 개발 단계에서 발생 가능한 윤리 문제를 사전에 검증한다. LG는 그룹 내 주요 AI 윤리 이슈들을 논의하는 협의체인 ‘AI 윤리 워킹그룹’도 연말에 출범할 예정이다. 워킹그룹에는 LG전자, LG디스플레이, LG이노텍, LG화학, LG에너지솔루션 등 10개 계열사가 참여한다. LG AI 연구원은 이를 통해 축적한 데이터와 사례를 바탕으로 내년까지 LG가 연구하는 AI의 세부 분야별 윤리 가이드라인을 개발해 계열사로 전파할 계획이다. LG AI연구원은 윤리적인 AI 개발을 위해 ‘혐오 표현 감지’와 ‘설명 가능한 AI’ 등 다양한 기술 연구도 진행 중이다. 혐오 표현 감지는 소비자들이 상담 챗봇 등에서 혐오 및 차별 표현을 경험하지 않도록 단어뿐만 아니라 문장의 맥락까지 분석해 공격적이거나 편향된 정보를 걸러낸다.설명 가능한 AI는 AI가 내놓은 결괏값이 어떤 이유로 도출됐는지 사람이 이해할 수 있도록 설명하는 기술이다. 제조 공장의 경우 AI가 단순히 제품의 불량 유무만을 알려주는 것이 아니라 불량으로 판단한 근거를 명확하게 설명하는 방식이다. 이 기술은 신뢰성과 투명성이 생명인 의료, 법률, 금융 등의 전문 분야에서 인간의 의사 결정을 돕는 전문가 AI를 개발하기 위해 필수적인 기술로 꼽힌다. 배경훈 LG AI연구원장은 “인간이 AI를 어떻게 바라보고 활용하느냐에 따라 그 가치에 대한 평가는 달라질 것”이라면서 “LG는 AI 윤리원칙 수립을 통해 인간과 AI의 공존에 관한 연구를 지속하며 진정한 고객가치를 창출해 나갈 것”이라고 말했다.

정보통신정책연구원(KISDI, 원장 권호열)은 방송통신위원회(위원장, 한상혁)와 오는 3일 13시부터 온라인 생중계로 「제2회 지능정보사회 이용자보호 국제컨퍼런스(2nd International Conference on Ethics of the Intelligent Information Society, ICEI)」를 개최한다. ‘사람중심의 AI를 향하여(Toward Human-Centered AI)’를 주제로 열리는 이번 컨퍼런스는 인공지능 등 지능정보기술 적용에 따라 변화하는 사회에 필요한 윤리적 고려 사항과 이용자 정책에 대해 국내외 전문가들이 발표와 토론을 펼칠 예정이다. 컨퍼런스는 유럽연합 집행위원회(EC)의 인공지능고위전문가단 위원인 마크 코켈버그(Mark Coekelbergh) 오스트리아 국립 비엔나대학교 교수의 기조발제 ‘인공지능 윤리: 글로벌 도전의 관점에서 본 책임성’을 시작으로 3개의 주제 발표와 종합토론으로 진행된다. 첫 번째 주제는 ‘유럽의 알고리즘 공정성’으로 산드라 와처 교수(Sandra Wachter) 영국 옥스퍼드대학교 인터넷 연구소 교수, 두 번째 주제는 ‘AI 윤리원칙을 넘어: 현실적 과제와 전망’으로 고학수 서울대학교 법학전문대학원 교수, 세 번째 주제는 ‘인공지능과 법의 지배’로 다니엘 리 첸(Daniel Li Chen) 세계은행 수석 이코노미스트가 각각 발표를 진행한다. 먼저 산드라 와처 교수는 알고리즘과 관련된 유럽의 법제도 동향을 살펴보고, 알고리즘의 편향과 차별, 의도치 않은 자동화된 의사결정이 사회에 미치는 부정적 영향을 최소화하기 위한 대응 방안을 법 규범 차원에서 조망한다. 이어서 고학수 교수는 신뢰할 수 있는 인공지능이 되기 위해서 인공지능과 관련된 개념에 대한 사회적 논의와 이를 통한 일관성 있는 개념 정립의 필요성을 제안한다. 특히 알고리즘 공정성 개념에 대한 다양한 해석과 평가 기준이 제시되고 있는바, 이에 관한 사회적 기준을 마련하는 것의 중요함을 설명한다. 다니엘 리 첸 수석 이코노미스트는 인공지능을 활용한 예지적 판결의 결과가 일관되지 못한 결과치를 나타내고 있음을 지적하며, 알고리즘 편향이 사법체계와 공정성에 미치는 영향에 대해서 발표한다. 마지막으로 ‘사람중심의 AI를 향하여(Toward Human-Centered AI)’를 주제로 열리는 종합토론에서는 국내외 전문가들이 논의를 이어간다. 문명재 학장(연세대학교 사회과학대학)이 좌장을 맡고, 김병필 KAIST 교수, 이재신 중앙대 교수, 이호영 정보통신정책연구원 본부장, 오성탁 한국정보화진흥원 본부장, 윤명 소비자시민모임 사무총장이 패널로 참석해, 기조발제자, 주제발표자와 함께 심층 토론을 통해 신뢰할 수 있는 사람 중심의 인공지능을 구현하기 위한 논의를 펼칠 예정이다. 본 컨퍼런스에 대한 자세한 내용은 홈페이지(http://kisdiconference.kr)를 통해 확인이 가능하다. 사전등록자는 이벤터스 웨비나 플랫폼을 통해 참가가 가능하며, 사전등록을 하지 않았더라도 방송통신위원회 유튜브 채널(전체 중계), KTV국민방송 채널(기조발제까지 중계), KTV라이브 채널(발표까지 중계)을 통해 전체 또는 일부를 실시간 생중계로 시청할 수 있다. 온라인뉴스부 iseoul@seoul.co.kr

정보통신정책연구원(KISDI, 원장 권호열)은 오는 13일 온라인 생중계로 ‘안전한 AI사회를 위한 정책 방향과 과제’를 주제로 한 심포지엄을 개최한다.이번 심포지엄은 일상 영역의 범용기술이 된 인공지능(AI)의 사회적 영향을 고찰하고, 잠재적 위험요인에 대한 유연하고 탄력적인 대응 방안을 모색하기 위해 마련됐다. 우리나라를 비롯한 세계 각국은 인공지능(AI)의 잠재적 위험을 통제할 방안으로 인공지능(AI) 윤리원칙 제정을 우선하고 있지만, 윤리 규범만으로는 해결하지 못할 다양한 이슈가 인공지능(AI)의 대중화와 함께 발생할 것이다. 인공지능(AI)의 복잡성과 불확실성을 효과적으로 통제하기 위해서는 다각도의 통제 방안을 모색할 필요가 있으며, 창발 현상에 대한 사회학적 이해와 실증근거를 토대로 한 정책 수립, 그리고 이를 조정하는 사회적 합의 절차의 구현 등이 요구된다. 이에 심포지엄에서는 관련 연구의 개별 발표와 함께 라운드 테이블 형식의 세션을 두고 폭넓은 관점에서 인공지능(AI)사회에서 발생할 수 있는 현상들을 사회학적 접근방식으로 이해하고 정책적 대응 방향에 대한 전문가 토론도 진행한다. 먼저 발표 세션에서 기조 발제를 맡은 이상욱 한양대 과학철학 교수가 ‘AI기반 미래사회의 도전: 윤리, 제도, 국제협력’에 대해 발표한 후, 개별 발표로 ‘AI사회 이슈와 대응 방향’, ‘AI사회 사이버 안전 보장을 위한 법제도 방안’, ‘AI사회정책영향평가의 의의와 체계’ 등이 이어진다. 이 교수는 ‘AI기반 미래사회의 도전: 윤리, 제도, 국제협력’을 주제로 인공지능(AI) 윤리가 쟁점이 되는 국제 사회의 논의 방향과 우리 정부의 역할에 대한 시사점을 제시한다. 조성은 KISDI 연구위원은 ‘AI사회 이슈와 대응 방향’을 주제로 각국의 AI전략보고서 및 신문기사 분석을 통해 도출한 인공지능(AI)사회의 주요 사회정책 이슈와 시민인식조사 결과를 발표한다. 권은정 KISDI 부연구위원은 ‘AI사회 사이버 안전 보장을 위한 법제도 방안’을 주제로 인공지능(AI)사회에서의 사이버안전의 개념과 이슈를 고찰하고 사이버 위협을 유형화한 후 법제화 가능성을 타진한다. 이 연구는 김태오 창원대 교수와 함께 수행했다. 마지막으로 KISDI와 연구 협업한 심우민 경인교대 교수가 AI사회정책영향평가 체계 정립 방향에 대해 발표한다. KISDI는 인공지능(AI)의 사회적 영향에 관한 실제 사례가 부족한 상황에서, 인공지능(AI)에 대한 불확실한 전망을 제도적으로 통제 및 보완하고 사회적 신뢰를 확보할 방안으로써 AI사회정책영향평가 제도 도입을 제안했으며, 이번 발표가 그와 관련한 연구 결과의 하나이다. 라운드 테이블에서는 ‘안전한 AI사회를 위한 정책 방향’을 주제로 이호영 KISDI 디지털경제사회본부장이 좌장을 맡아 진행한다. 토론자로는 남태우 성균관대 행정학 교수, 서용석 KAIST 미래학 교수, 이명화 STEPI 단장, 윤종수 법무법인 광장 변호사, 김도훈 아르스프락시아 대표 등이 참여한다. 행사는 코로나19확산 예방을 위해 일반인 참석자는 온라인 생중계로 참여 가능하며, 생중계는 KISDI 생중계 사이트(http://kisdi.mlive.kr)에서 생중계로 시청할 수 있다. 온라인뉴스부 iseoul@seoul.co.kr