인공지능 행정과 공적의사결정의 공정성
Administrative Use of AI and the Principle of Fairness in Public Decision-Making
최명지(인하대학교)
78호, 245~277쪽
초록
인공지능 기술이 조세, 복지, 고용 등 공적의사결정 영역에 빠르게 도입되면서 행정의 효율성에 대한 기대가 높아지고 있다. 그러나 알고리즘의 불투명성과 학습 데이터에 내재된 편향은 기존의 사회적 차별을 심화시키고, 행정의 공정성에 대한 심각한 위기를 초래할 수 있다. 인공지능이 내린 결정의 근거를 시민이 알 수 없고, 그 과정에 숨겨진 차별적 요소를 다툴 수 없다면 행정에 대한 신뢰는 근본적으로 훼손될 수밖에 없다. 이에 인공지능 행정에서 요구되는 공정성의 의미를 살펴본다. 먼저 행정법상 공정성 원칙을 검토하고, 이것이 알고리즘 편향이라는 새로운 도전과 어떻게 충돌하는지를 분석한다. 나아가 OECD, 유럽연합, 미국 등에서 제시된 인공지능 윤리원칙과 입법 동향을 통해 공정성이 기술적 문제를 넘어 기본권과 민주적 가치를 보호하는데 필요한 중요한 개념으로 발전하고 있음을 확인한다. 이러한 논의를 바탕으로, 실제 분쟁 사례를 통해 인공지능 행정의 공정성이 어떻게 문제 되었는지를 분석한다. 경찰･사법, 고용･인사, 복지, 선거구획정 등 다양한 영역에서 인공지능 시스템을 도입한 공적의사결정이 문제된 해외 주요 판결례를 검토한다. 이들 사례는 사법부가 결과적 차별의 증명 여부를 넘어, 알고리즘의 잠재적 편향성을 사전에 검토하고 투명성을 확보하려는 절차적 의무를 다했는지를 공정성 판단의 핵심 기준으로 삼고 있음을 보여준다. 마지막으로, 해외 사례 분석을 통해 얻은 시사점을 바탕으로 한국의 인공지능 행정을 위한 공법적 통제 방안을 제시한다. 구체적으로 고위험 인공지능 시스템에 대한 알고리즘 영향평가제도의 의무화, 독립적인 전문가와 시민이 참여하는 사회적 감시체계의 구축, 데이터의 품질과 대표성을 확보하기 위한 데이터 거버넌스의 확립, 그리고 피해의 확산을 막고 실효적 구제를 보장하기 위한 사용중지신청제도 및 단체소송제도의 도입 방안을 살펴본다.
Abstract
As artificial intelligence technologies are being rapidly adopted in public decision-making domains such as taxation, welfare, and employment, expectations for administrative efficiency are increasing. However, algorithmic opacity and the biases inherent in training data risk deepening existing social inequalities and pose a serious threat to administrative fairness. When citizens cannot understand the basis of AI-driven decisions or challenge the discriminatory elements embedded in the process, public trust in administration is inevitably undermined. Against this backdrop, this paper seeks to redefine the meaning of fairness required in AI-driven administration. It first reviews the traditional principle of fairness under U.S. administrative law and analyzes how this principle conflicts with the new challenges posed by algorithmic bias. By examining the AI ethics principles and legislative trends advanced by the OECD, the European Union, and the United States, the study finds that fairness has evolved beyond a purely technical concern into a key concept for protecting fundamental rights and democratic values. Building on these theoretical discussions, the paper analyzes how fairness has been contested in real-world cases involving AI administration. It reviews major international precedents in which the adoption of AI systems in areas such as policing, the judiciary, employment and personnel management, welfare, and electoral redistricting has led to disputes. These cases demonstrate that courts increasingly regard as central to fairness not merely the proof of outcome-based discrimination, but also whether authorities have fulfilled their procedural duties to assess potential algorithmic bias in advance and to ensure transparency. Finally, drawing on insights from these international cases, the paper proposes a public-law framework to ensure fairness in Korea’s AI administration. Key measures include mandating Algorithmic Impact Assessments (AIAs) for high-risk AI systems, establishing a social oversight mechanism with participation from independent experts and citizens, securing data quality and representativeness through robust data governance, and introducing an AI suspension petition and collective litigation system to prevent the spread of harm and guarantee effective remedies.
- 발행기관:
- 행정법이론실무학회
- 분류:
- 법학