디지털 행정과 기본권 — 행정영역에서의 인공지능 활용 국면에서 —
Digitalisierte Verwaltung und Grundrechte — Zur Anwendung Künstlicher Intelligenz im Verwaltungsbereich —
김후신(헌법재판소)
78호, 279~300쪽
초록
이 글은 행정영역에서의 인공지능 활용이라는 국면에서 나타날 수 있는 기본권적 제 문제를 개괄적으로 조망하는 것을 목적으로 삼는다. 디지털화 일반과 달리 머신러닝 기반 인공지능의 활용은 설명가능성 결여와 책임귀속 문제로 인하여 전통적 법도그마틱에 도전을 가한다. 인간과 기계 사이에는 공유된 언어적 맥락이 없기 때문에, 머신러닝의 근본에 있는 판단과정을 인간이 이해하는 데는 근본적인 한계가 있다. 현재 통용되고 있는 머신러닝 자체도 학습데이터에 입각한 예측치 산출이라는 구조로 인한 한계를 지니고 있다. 이러한 한계로 인하여 행정영역에서의 머신러닝 활용은 법이론적으로 민주주의 및 법치국가 원리의 측면에서 도전을 제기하는 한편, 법도그마틱적으로 여러 가지 절차적･실체적 문제를 야기한다. 절차적 통제의 관점에서 현재의 기술로는 진정한 의미의 이유제시가 이루어지기 어렵기 때문에, 학습데이터 및 학습기법 선택이라는 모델링 결정 외의 단계에서는 출력값에 기초한 영향평가라는 제한적 수단에 의존할 수밖에 없다. 머신러닝을 기반으로 한 통계적 모델을 일종의 재량준칙으로 관념화하였을 때, 그 합리성 심사를 위한 수단을 강구할 필요가 있다. 인공지능이 일상생활에 스며들게 되면서 기본권 영역에서 행동하는 여러 주체의 제반조건도 변경되었다. 개인정보자기결정권의 위험상황과 같이 직관적으로 연상되는 도전뿐만 아니라 사적 주체에 의한 기본권침해와 질서유지에 관한 국가의 사실상 이해관계가 일치하는 상황에 관한 고찰도 요구된다.
Abstract
Dieser Aufsatz untersucht die grundrechtlichen Herausforderungen beim Einsatz von KI auf Basis maschinellen Lernens in der öffentlichen Verwaltung. Anders als allgemeine Digitalisierung wirft diese Technologie wegen begrenzter Erklärbarkeit und erschwerter Verantwortungszurechnung grundlegende Fragen der Rechtsdogmatik auf. Da zwischen Mensch und Maschine kein geteilter sprachlicher Kontext besteht, sind dem Verständnis lernender Entscheidungsprozesse strukturelle Grenzen gesetzt. Maschinelles Lernen bleibt ein datenbasiertes Vorhersageverfahren, das normative Wertungen nicht vollständig erfassen kann. Dies führt zu Spannungen mit Demokratie- und Rechtsstaatsprinzip sowie zu verfahrens- und materiellrechtlichen Problemen. Eine substanzielle verwaltungsrechtliche Begründung ist nur begrenzt möglich; Kontrolle kann jenseits der Modellierungsschritte letztlich nur über nachträgliche Wirkungsanalysen erfolgen. Werden statistische Modelle als verwaltungsinterne Ermessensrichtlinien verstanden, stellt sich die Frage angemessener Rationalitätsmaßstäbe. Mit der zunehmenden Alltagsdurchdringung durch KI verändern sich auch grundrechtliche Rahmenbedingungen. Daher betrifft die Analyse nicht nur das Recht auf informationelle Selbstbestimmung, sondern auch Situationen, in denen privater KI-Einsatz faktisch staatlichen Ordnungsinteressen entspricht und neue staatliche Schutzpflichten auslöst.
- 발행기관:
- 행정법이론실무학회
- 분류:
- 법학