AI기본법 제정에 따른 행정설명청구권의 입법 필요성과 법적 쟁점
Legislative Necessity and Legal Issues Surrounding the Right to Administrative Explanation after the Enactment of the AI Basic Act
김하림(대전지방법원); 김응준(서울대학교 행정대학원)
38권 2호, 43~95쪽
초록
본 논문은 2025년 「인공지능기본법」 제정 이후 급격히 확산되는 공공부문의 AI 활용을 배경으로 국민이 AI가 개입·작용한 행정결정의 전 과정을 대상으로 합리적이고 의미 있는 설명을 요구할 수 있는 실정법상 권리인 행정설명청구권의 개념을 정립하고 그 입법 필요성 및 법적 정당성을 논증한다. 연구는 먼저 「행정절차법」 제23조·「정보공개법」 제9조·「인공지능기본법」 제3조를 체계적 및 목적론적으로 해석하여 현행 규율체계의 한계를 도출하고, EU AI Act·캐나다 AIDA·호주 VAISS 등 주요 해외 입법례를 비교함으로써 국제적 규범 구조를 분석하였다. 이어 적법절차원칙·재판청구권·정보주권 관점에서 행정설명청구권의 헌법적 근거를 규명하며 공공부문 알고리즘 책임성 강화를 위한 거버넌스 모델과 입법 로드맵을 제시하였다. 연구 결과, 현행 법제는 AI가 실질적으로 행정결정에 관여하더라도 국민이 결정 과정, 데이터 출처, 알고리즘 구조·추론 논리를 확인할 제도적 통로가 부재하여 절차적 기본권이 현저히 침해될 우려가 있음이 드러났다. 이에 본 논문은 인공지능기본법에 고위험 AI 사용 처분에 대한 행정설명청구권을 강행규정으로 명문화하고 행정절차법에 AI 활용 처분 특별절차를, 정보공개법에 알고리즘 정보 공개의 원칙적 개방 규정을 신설하며 독립적 행정알고리즘책임위원회를 설치하는 4단계 체계를 제안한다. 이러한 입법·제도 설계는 기술 지배적 행정 환경에서 정보 비대칭‧책임 분산‧절차적 불투명성을 해소하여 행정의 투명성과 국민 기본권 보호를 실질화할 수 있다는 점에서 의의를 지닌다.
Abstract
This article frames the enactment of Korea’s 2024 Artificial Intelligence Basic Act as a turning point that has accelerated the adoption of AI across the public sector and argues for the statutory recognition of a right to administrative explanation—a positive-law entitlement enabling citizens to demand “reasonable and meaningful explanations” for every stage of administrative decisions in which AI intervenes or operates. First, by purposively interpreting Article 23 of the Administrative Procedures Act, Article 9 of the Official Information Disclosure Act, and Article 3 of the AI Basic Act, the study reveals structural deficiencies in the current regulatory architecture. It then analyzes global norms by comparing the EU AI Act, Canada’s AIDA bill, and Australia’s VAISS. Drawing on the constitutional principles of due process, the right of access to the courts, and informational self-determination, the article locates constitutional foundations for the proposed right and develops a governance model and legislative roadmap to bolster algorithmic accountability in the public sector. The analysis shows that, even where AI substantially influences administrative outcomes, citizens lack any institutional channel to verify decision processes, data provenance, algorithmic architecture, or reasoning logic, thereby posing a grave threat to procedural fundamental rights. To remedy this gap, the article proposes (i) elevating the right to administrative explanation to a mandatory provision for high-risk AI–driven administrative acts within the AI Basic Act; (ii) creating special procedural safeguards for AI-assisted decisions under the Administrative Procedures Act; (iii) establishing a presumption of algorithmic transparency, coupled with independent audit mechanisms, in the Official Information Disclosure Act; and (iv) instituting an independent “Administrative Algorithm Accountability Commission” that oversees a four-stage system of ex-ante assessment, continuous monitoring, independent supervision, and civic oversight. These reforms, the article contends, would mitigate information asymmetries, dispersed accountability, and procedural opacity in an increasingly technology-dominated administrative environment, thereby enhancing transparency and safeguarding citizens’ fundamental rights.
- 발행기관:
- 법학연구소
- 분류:
- 기타법학