AI의 예측능력과 재범예측알고리즘의 헌법 문제- State v. Loomis 판결을 중심으로
Constitutional Issues of AI’s Predictive Powers and Recidivism Prediction Algorithm:Consideration from State v. Loomis
이병규(동의과학대학교)
21권 2호, 169~191쪽
초록
오늘날 인류는 인공지능(Artificial Intelligence, AI)의 기술혁신으로 견인되는 제4차 산업혁명 시대를 맞이했다. 국내외적으로 민간기업의 채용이나 금융 등의 적성 평가에 AI가 이용되고 있는 등 산업사회 전반에 걸쳐 AI 이용이 확대되고 있다. 이는 법조 영역에도 예외가 아니다. AI 알고리즘이 법령 및 판례조사 등의 법률 사무를 보조하고, 유럽인권법원의 판결을 높은 정밀도로 예측하는데 이르렀다. 이러한 AI의 활용은 그것이 가진 예측능력에 기인하는 바이다. 이에 형사사법 분야에서는 AI를 이용하여 범죄 발생 등을 예측하는 시스템이 도입되어 운용되고 있다. 미국의 일부 주나 지역에서는 AI를 이용한 범죄예측시스템을 이용한 수사가 시행되고, 형사재판의 양형 판단에도 이용되고 있다. 그 대표적인 예가 ‘COMPAS’라는 유죄 확정자의 재범 위험을 예측하는 프로그램이다. 문제는 이러한 범죄예측프로그램이 어떤 알고리즘에 의해 재범을 예측하는지 명확하지 않고, 또한 이러한 알고리즘에는 젠더나 인종 등을 이유로 한 편견이 혼입되어 있다는 비판도 존재한다. 이러한 상황에서 미국 위스콘신주 대법원은 COMPAS의 합헌성을 긍정하는 판단을 내렸다(State v. Loomis 판결). 이에 본고는 State v. Loomis 판결 내용을 기초로, AI의 공정성을 담보하고, 또한 헌법에 적합하도록 이용하는 방안에 대하여 검토한다.
Abstract
Today, humanity has entered the era of the Fourth Industrial Revolution, driven by technological innovations in artificial intelligence (AI). The use of AI is expanding across the entire industrial society, such as the use of AI in domestic and overseas private companies and evaluation of suitability for finance. This is no exception in the legal area. AI algorithms have assisted legal affairs such as the investigation of laws and judicial precedents, and have come to predict the decisions of the European Court of Human Rights with high accuracy. Utilization of these AIs is due to the predictive power with which it is attached. In the field of criminal justice, a system that uses AI to predict crime occurrence has been introduced and is being used. In some states and regions of the United States, investigations have been conducted using AI-based crime prediction systems and are also used for criminal justice judgments. A typical example is “COMPAS”, a program that predicts the risk of recidivism for convicted persons. However, it is not disclosed that how COMPAS determines individual risk scores or it how weights various factors in arriving at a risk score. Critics pointed out that COMPAS’s algorithm is biased against minorities. In such a situation, the US Supreme Court of Wisconsin ruled in favor of COMPAS's constitutionality (State v. Loomis). This article is State v. Based on the contents of the Loomis judgment, we will examine measures to ensure the fairness of AI and use it in conformity with the constitution.
- 발행기관:
- 한국비교공법학회
- 분류:
- 법학