인공지능기본법상 형사사법 AI 규제의 한계와 입법적 개선 방안 - EU AI Act와의 비교를 중심으로 -
Limitations and Legislative Improvements for Regulating AI in Criminal Justice under the AI Basic Act: Focusing on a Comparison with the EU AI Act
허경미(계명대학교)
9권 1호, 149~171쪽
초록
본 연구는 형사사법 절차에서 인공지능이 활용되는 양상과 이에 대한 통제 법제의 한계를 분석하고, 현행 인공지능기본법의 개선 방향을 제시하는 것을 목적으로 한다. 형사사법 영역에서 인공지능은 범죄예측, 위험도 평가, 기소 및 처우 판단 등 국가 형벌권 행사와 결합되어 개인의 자유와 기본권에 중대한 영향을 미친다. 그러나 현행 인공지능기본법은 산업 진흥을 규범적 중심에 두고 설계되어 형사사법 절차의 특수성과 그에 수반되는 위험을 충분히 반영하지 못하고 있다. 특히 자동화 편향, 데이터 기반 낙인, 책임 귀속의 불명확성은 형사사법 결정의 책임성과 투명성을 약화시킬 우려가 있다. 이에 본 연구는 유럽연합 인공지능법을 비교 기준으로 삼아, 형사사법 인공지능의 법적 성격과 활용 한계의 명확화, 인공지능 기반 결정에 대한 사법적 통제 기준의 명문화, 형사사법 데이터에 대한 국가 책임과 공적 통제 강화, 국가의 형사사법 데이터 주권 확보와 벤더 종속 방지, 고위험 인공지능의 형사절차 활용 제한 및 금지의 명문화, 그리고 인공지능 결정에 대한 사법적 통제와 실효적 권리구제 절차의 제도화를 입법적 개선 방향으로 제시한다.
Abstract
This study examines the limitations of the legal framework governing the use of artificial intelligence (AI) in criminal justice procedures and proposes directions for reform of Korea’s Artificial Intelligence Basic Act. In the criminal justice context, AI is increasingly applied to crime prediction, risk assessment, prosecution, and correctional decision-making, directly affecting individual liberty and fundamental rights. However, the current Act, primarily oriented toward industrial promotion, fails to adequately address the specific risks inherent in criminal justice AI, including automation bias, data-driven stigmatization, and unclear allocation of responsibility. Using the European Union Artificial Intelligence Act as a comparative benchmark, this study identifies key legislative reform directions, including clarifying the legal nature and limits of criminal justice AI, codifying judicial control standards for AI-based decisions, strengthening state responsibility over criminal justice data, securing data sovereignty and preventing vendor lock-in, restricting high-risk AI practices in criminal procedures, and institutionalizing effective judicial review and remedies.
- 발행기관:
- 한국부패방지법학회
- 분류:
- 법학