EU 인공지능법의 규제 체계에 대한 연구 - 위험 기반 접근법과 다층적 거버넌스를 중심으로 -
A Study on the Regulatory Framework of the EU Artificial Intelligence Act - Focusing on a Risk-Based Approach and Multi-Layered Governance
염규현(문화방송)
68호, 117~155쪽
초록
인공지능(AI) 기술이 급속도로 발전함에 따라 생산성 향상, 혁신 촉진, 비용 절감 등 다양한 긍정적 효과가 기대되는 동시에, 개인정보 보호, 차별과 편향성 등 새로운 위험 요소에 대한 우려도 높아지고 있다. 특히 알고리즘의 ‘블랙박스’ 특성과 대규모 개인정보 수집·처리, 자동화된 의사결정 과정이 가져올 수 있는 법적·윤리적 문제는 기존 규제 체계만으로 충분히 대응하기 어려운 상황이다. 유럽연합(EU)은 이와 같은 도전에 대처하기 위해 세계 최초로 인공지능을 포괄적으로 규제하는 EU 인공지능법(AI Act)을 제정하고, 이를 단계적으로 시행 중이다. 이 법안은 인공지능 시스템을 위험 수준별로 △금지되는 AI 관행 △고위험 △제한적 위험 △최소 위험 등으로 구분하고, 각 범주에 맞는 의무와 안전조치를 규정함으로써 위험 기반 접근법(risk-based approach)을 실천하고 있다. 특히 금지되는 AI 관행의 경우 기본권 침해 가능성이 높은 기술로 간주하여 엄격히 규제하고, 고위험 AI 시스템은 의료, 교통, 교육, 노동 등 중요한 사회적 인프라나 개인 권리에 중대한 영향을 미치는 분야에서 사용되는 기술로서, 개발 및 배포 과정 전반에 걸쳐 면밀한 위험 평가와 시정 조치를 요구한다. 또한 범용 AI 시스템(General Purpose AI, GPAI)까지 규제 대상에 포함시킴으로써, 미국 빅테크를 중심으로 한 범용 AI 산업에 대한 본격적 법적 규제 가능성도 높아졌다. 본고에서는 먼저 EU 인공지능법의 제정 과정과 입법 배경, 그리고 GDPR(개인정보 보호 규범)과의 연계 등을 중심으로 EU 주요 규제 구조의 기반을 살펴본다. 이어 위험 기반 접근법의 핵심 개념과 실제 적용 사례를 검토하고, 각 위험 범주별 규제 요건 및 준수 방안 등 구체적인 쟁점을 체계적으로 분석했다. 아울러 이러한 규제 이행을 위해 마련된 유럽연합 차원, 회원국 차원, 그리고 기업 차원의 다층적 거버넌스 구조가 어떻게 작동하는지도 고찰하였다. 본 연구는 이 같은 규제 체계 검토를 통해 EU 인공지능법이 혁신 추구와 위험 관리라는 상충 가능성이 있는 목표 사이에서 지향하는 균형점을 심층적으로 조망하고, 이를 토대로 한국을 비롯한 다른 국가들이 AI 관련 법·제도를 마련하거나 재정비하는 과정에서 활용할 수 있는 정책적 함의를 제시하고자 하였다. 특히 전 세계적인 AI 주도권 경쟁이 가속화되는 상황에서, 우리 정부와 국회가 세계에서 두 번째로 포괄적 AI 규제 법안인 ‘AI 기본법’을 마련하여 후속 조치를 진행하고 있는 만큼, 본 연구가 향후 국내 규제 설계와 실행 과정에서 유용한 참고 자료가 되기를 기대한다.
Abstract
With the rapid development of Artificial Intelligence (AI) technology, expectations are rising for enhancements in productivity, promotion of innovation, and cost savings. At the same time, many people have growing concerns that AI can lead to new risk factors including privacy violation, discrimination, and bias. In particular, because of a specific feature of AI, so-called ‘Black box’, which means that mechanism of algorithms for the large-scale collection and processing of personal data, and the automation of decision-making cannot be explained scientifically. In order to deal with these struggles, the European Union (EU) has established the world’s first comprehensive AI regulatory framework, known as the EU Artificial Intelligence Act (AI Act), which has been implemented step by step since last year. The european legislative approach categorized AI systems into four parts, according to different levels of risk—ranging from prohibited AI practices, to high-risk, limited-risk, and minimal-risk, as known as risk-based approach. Firstly, prohibited AI practices are regarded as highly harmful technology which can violate fundamental rights and shall be strictly regulated by the law. Secondly, high-risk AI systems used in critical social infrastructure and areas significantly affecting individual rights, such as healthcare, transportation, education, and labor issues. These systems shall be subject to strict risk assessment and appropriate measures throughout their development and deployment. And also, General Purpose AI (GPAI) under its regulatory framework, shall be regulated strictly, which is mainly targeting U.S. Big Tech–led general-purpose AI industry. This paper first examines the legislative process and background of the EU AI Act, along with its connections to GDPR (General Data Protection Regulation), to elucidate the foundations of the EU’s primary regulatory framework. It then explores the key concepts of the risk-based approach and reviews practical examples of its application, followed by a systematic analysis of concrete issues such as the regulatory requirements and compliance measures for each risk category. In addition, this paper investigates how the multilayered governance structure—covering EU-level, member state–level, and corporate-level frameworks—functions in implementing these regulations. By analyzing this regulatory framework, Korean authorities related to AI regulation can obtain implications for how the national authorities effectively control AI players on the value chain of its industry. Given that Korean government and the National Assembly have enacted new AI regulatory bill called the “AI Basic Act”, this study can give them a crucial reference for designing and executing the act.
- 발행기관:
- 한국법제연구원
- 분류:
- 법학