인공지능의 자동화된 결정과 인간의 주체성 보장 방안 ― AI로부터 자유로울 권리의 도출을 중심으로 ―
Ensuring Human Agency in the Face of Automated AI Decisions
허창환(서울대학교)
54권 3호, 375~397쪽
초록
이 글은 인공지능(AI)이 형사사법, 채용, 금융 등 개인의 사회적 기회와 법적 지위에 중대한 영향을 미치는 결정을 전속적으로 수행하는 현실에서, 우리 헌법이 어떠한 새로운 기본권을 구성해야 하는지 묻는다. AI의 알고리즘적 통제는 기술적 비가시성과 책임 분산을 수반하며, 인간을 예측의 주체가 아닌 통계적 객체로 전락시킨다. 이는 기존의 파편화된 전통적 방어권 법리만으로는 온전히 포섭할 수 없는 규범적 공백을 야기한다. 이에 본 논문은 헌법 제10조의 인간의 존엄, 자기결정권, 일반적 행동의 자유 등과 헌법 제37조 제1항을 결합한 해석론을 통해 ‘AI로부터 자유로울 권리’를 독자적인 헌법상 권리로 도출한다. 이 권리는 자신의 삶에 중대한 영향을 미치는 결정에서 전적으로 자동화된 판단에만 종속되지 않을 자유와, 결정의 정당화 과정에 참여하여 인간에 의한 실질적 판단과 책임 귀속을 요구할 권리가 결합된 복합적 기본권의 성격을 갖는다. 나아가 본고는 국가의 기본권 보호의무 법리를 매개로, 거대 기술기업 등 사적 주체가 야기하는 ‘제3자 위험’에 대해서도 국가가 적극적으로 결정 구조를 통제해야 함을 논증한다. 실효적 보장 방안으로서 ① 대상자의 실질적 인지를 위한 사전고지 의무, ② 인간 심사에 의한 대체 경로 요구권, ③ 응답 가능성이 확보된 이의제기 절차의 보장을 제시하였다. 특히 침해되는 기본권의 성격에 따라 AI 결정을 3단계(원칙적 배제, 강한 절차적 통제, 투명성 및 선택권 보장)로 차등 규율하는 방식을 제안하였다. 끝으로 최근 제정된 ‘인공지능기본법’ 등 관련 법률들이 공급자 중심의 진흥과 형식적인 ‘준자동화(인간 개입)’ 규율에 머물러 있음을 비판하며, 실체적 구제수단의 명문화 등 향후 입법 과제를 제시하였다.
Abstract
This paper asks what new fundamental rights our Constitution must establish in a reality where artificial intelligence (AI) exclusively performs decisions that significantly impact individuals' social opportunities and legal status—such as in criminal justice, hiring, and finance. AI's algorithmic control entails technological invisibility and dispersed responsibility, reducing humans to statistical objects rather than subjects of prediction. This creates a normative gap that existing fragmented traditional defense rights doctrines cannot fully address. Therefore, this paper derives the ‘right to freedom from AI’ as an independent constitutional right through an interpretive theory combining Article 10 of the Constitution (human dignity, right to self-determination, general freedom of action, etc.) with Article 37(1). This right combines the freedom not to be entirely subject to automated judgments in decisions significantly impacting one's life with the right to participate in the justification process of such decisions, demanding substantive human judgment and accountability. It thus constitutes a composite fundamental right. Furthermore, this paper argues that the state must actively control decision-making structures regarding ‘third-party risks’ caused by private entities, such as large tech companies, by mediating the legal doctrine of the state's duty to protect fundamental rights. As effective safeguards, it proposes: a duty of prior notification to ensure the subject's substantive awareness; a right to demand an alternative route involving human review; and the guarantee of an appeal procedure with a reasonable chance of response. It specifically suggests a tiered regulatory approach for AI decisions based on the nature of the infringed fundamental right, comprising three levels: (1) principle of exclusion, (2) strong procedural control, and (3) guarantee of transparency and choice.
- 발행기관:
- 한국공법학회
- 분류:
- 법학