인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제
Die demokratische Legimation in der Algokratie im Zietalter der Künstlichen Intelligenz
김중권(중앙대학교)
69권 5호, 181~207쪽
초록
인공지능이 21세기의 핵심기술로 여겨진다. 희망과 기대가 높은 것에 비례해서 불안과 우려 역시 그에 못지않다. 이런 불안과 우려가 응축된 개념이 바로 알고리즘의 지배(Algocracy; Algokratie)의 위협이다. 알고리즘의 지배(Herrschaft der Algorithmen) 즉, 알고크라시는 다름 아닌 디지털지배(digitale Herrschaft)이다. 알고크라시는 공공의 의사결정과정의 정당성(legitimacy of public decision-making processes)을 위협한다. 자유로운 주체로서의 개인은 현대 헌법국가의 선험적인 존재이고, 모든 정당성의 최후의 주체이기에, 알고크라시는 매우 위협으로 다가오는 것은 자연스럽다. 공법에서 알고크라시의 문제는 궁극적으로 정당화(Legitimation)의 물음이다. 국가적 맥락에서 도입된 컴퓨터시스템의 아웃풋은 정당화의 주체가 결정을 통해 충분히 정해져 있다는 의미에서 정당화의 주체에 귀속될 수밖에 없다. 현재의 국가권력의 행사는 관료제의 아날로그 조직방식에 기반한 정당화의 구조에서 이루어져 왔는데, 컴퓨터시스템이 사람의 인식과정이 생략된 채 사람을 대신하여 어떤 결정을 내리고 행위를 하는 인공지능시스템은 분명 이런 전통적인 정당화의 구조와는 충돌한다. 따라서 인공지능시스템을 공공부문에 도입하는 데 있어서는 먼저 다소간 자율적인 컴퓨터시스템을 고권주체가 도입하는 것이 이런 범주에서 정당화될 수 있는지 여부와 아니면 디지털지배의 시대를 위한 새로운 정당화구상을 필요로 하지 않는지 여부의 물음이 검토되어야 한다.
Abstract
Künstliche Intelligenz(KI, artificial Intelligence:AI) gilt als Kerntechnologie des 21. Jahrhunderts. Im Verhältnis zu den hohen Hoffnungen und Erwartungen sind die Ängste und Sorgen nicht geringer. Die Verdichtung dieser Angst und Sorge ist die Bedrohung durch die Algokratie. Die Algokratie ist keine andere als digitale Herrschaft. Sie bedroht die Legitimität öffentlicher Entscheidungsprozesse(legitimacy of public decision-making processes) Das Individuum als freies Subjekt ist die a priori Existenz des modernen Verfassungsstaates und das letzte Subjekt der Legitimationszurechnung. Daher ist es natürlich, dass Algocrasi eine sehr Bedrohung darstellt. Das Algokratiesproblem im öffentlichen Recht ist letztendlich die Frage der Legitimation. Der Output des Computersystems muss dem Legitimationssubjekt im Legitimationszusammenhang in dem Sinne zugeordnet werden, dass es durch Entscheidung hinreichend bestimmt wird. Die derzeitige Ausübung staatlicher Herrschaft erfolgte in der Struktur der Legitimation auf der Grundlage der analogen Organisationsmethode der Bürokratie. In Systemen mit künstlicher Intelligenz treffen Computersysteme Entscheidungen und handeln im Namen von Menschen, wobei der Prozess der menschlichen Anerkennung weggelassen wird. Dies steht eindeutig im Widerspruch zu dieser traditionellen Legitimationsstruktur.
- 발행기관:
- 사단법인 법조협회
- 분류:
- 법학