「인공지능 기본법」의 성공적 안착을 위한 입법론적 연구:‘법·제도·기술 삼각체계’와 ‘예측적 거버넌스’를 통한 접근
A Legislative Study for the Successful Implementation of the AI Basic Law: An Approach Through the “Triangular System of Law, Institutions, and Technology” and “Predictive Governance”
배성훈(한국국토정보공사 공간정보연구원); 이동환(고려대학교 법학연구원); 임정선(한국과학기술정보연구원); 이주영(고려대학교 법학연구원); 김제완(고려대학교)
118호, 641~676쪽
초록
이 글은 2026년 시행을 앞둔 대한민국 「인공지능 발전과 신뢰 기반 조성에 관한 법률」(이하 ‘AI 기본법’)의 성공적인 안착을 위한 입법론적 방향을 제시하는 것을 목적으로 한다. 현행 AI 기본법은 ‘산업 진흥’과 ‘신뢰 구축’이라는 이중적 목표를 설정하고 있으나, ‘고영향 인공지능’의 정의, 설명가능성(XAI) 및 인간 감독 의무 등 핵심 조항에서 나타나는 입법적 모호성은 규제 철학의 본질에 대한 오해에서 비롯될 수 있다. 본고는 유럽연합(EU) AI Act, 미국 NIST AI RMF 등 주요국 제도를 비교·분석하며, 서구 AI 규범, 특히 EU AI Act의 근본정신은 완벽한 법이나 기술의 구현이 아닌, AI 시스템을 개발하고 운영하는 ‘실행자의 윤리적 책임과 상식적 판단’에 있음을 강조한다. 이러한 관점에서, 본고는 ‘법·제도·기술 삼각체계’와 ‘예측적 거버넌스’를 실행자의 자율적이고 책임 있는 판단을 지원하는 프레임워크로 재해석한다. ‘법·제도·기술 삼각체계’는 실행자의 자율적 판단과 책임 수행을 지원하는 유기적 관계를 지닌 상향식 구조로, ‘예측적 거버넌스’는 정적인 규칙이 아닌, 실행자가 새로운 위험에 민첩하게 대응할 수 있도록 하는 동적 환경으로 이해한다. 아울러, AI 기본법의 성공적 안착을 위해, 특정 학계 기술(예: LIME, SHAP)의 성급한 법제화 시도를 경계하고, 규범의 본질이 ‘스스로 전 과정을 추적하고 설명하며 책임을 질 수 있도록 하는’ 실행자의 자율적 책임에 있음을 명확히 할 것을 제안한다. 국제 표준(예: ISO 31000) 역시 최소한의 가이드라인을 제공하며, 세부적인 판단은 현장의 전문가에게 위임하고 있음을 지적한다. 나아가 AI 기본법의 하위 법령 제정 및 향후 입법 과정이 기술적 완벽성 추구나 과도한 규제 설계가 아닌, 실행자의 윤리적 책임과 상식에 기반한 자율적 거버넌스를 촉진하는 방향으로 나아가야 함을 제언한다. 이와 같은 방향은 대한민국이 진정한 의미의 책임감 있는 AI 강국으로 도약하기 위한 핵심적인 법철학적 토대를 제시하는 데 그 의의가 있다.
Abstract
This article presents a legislative plan for successfully implementing the Republic of Korea's Act on the Development of Artificial Intelligence and the Establishment of a Trust-Based System, also known as the AI Basic Act, which is set to take effect in 2026. The current AI Basic Act pursues two objectives: “industrial promotion” and “trust building.” However, legislative ambiguities in key provisions, such as the definitions of “high-impact AI” and explainability (XAI), as well as the obligation of human oversight, may stem from misunderstandings of the underlying about regulatory philosophy. The paper compares and analyzes the systems of major jurisdictions, such as the European Union (EU) AI Act and the U.S. National Institute of Standards and Technology (NIST) AI Risk Management Framework (RMF), emphasizing that the fundamental spirit of Western AI norms, particularly the EU AI Act, lies not in the implementation of perfect laws or technologies but rather in the “ethical responsibility and common sense judgment” of those who develop and operate AI systems. From this perspective, the paper reinterprets the “triangular system of law, institutions, and technology” and “predictive governance” as frameworks that support the autonomous and responsible judgment of implementers. The “triangular system of law, institutions, and technology” is a bottom-up structure with an organic relationship that underpins the autonomous judgment and responsibility of implementers. “Predictive governance” is a dynamic environment that enables implementers to respond quickly to new risks rather than static rules. Additionally, to successfully establish the AI Basic Law, we recommend exercising caution against hastily codifying specific academic technologies (e.g., LIME, SHAP) and clarifying that the essence of the norm is the executor's autonomous responsibility to “track and explain the entire process and take responsibility.” We also note that international standards (e.g., ISO 31000) offer only basic guidelines, leaving detailed judgments to experts in the field. Furthermore, we recommend that the enactment of subordinate legislation under the AI Basic Act and future legislative processes not pursue technical perfection or excessive regulatory design. Rather, they should promote self-governance based on the ethical responsibility and common sense of implementers. This approach is significant because it establishes a core legal and philosophical foundation that will allow South Korea to emerge as a responsible global leader in AI.
- 발행기관:
- 법학연구원
- 분류:
- 법학