치명적 자율무기체계(LAWS)의 공법적 규율 방안 연구- 결심의 은폐와 가시화를 중심으로 -
Public Law Regulation of Lethal Autonomous Weapon Systems (LAWS) - Focusing on Concealment and Visibilization of Volition -
한정우(서강대학교 일반대학원 법학과 박사과정, 대한민국 해군, 공학박사)
37권 4호, 187~223쪽
초록
인공지능 기술의 발전으로 인간의 개입 없이 스스로 표적을 선정하고 살상하는 치명적 자율무기체계(LAWS)가 등장하면서, 국가 권력 행사의 책 임 귀속 구조에 근본적 위기가 발생하고 있다. 생명을 박탈하는 국가 권력 행사는 인간의 도덕적 판단과 법적 책임을 본질로 하지만 LAWS는 살상 결 정을 알고리즘에 위임함으로써 이러한 헌법적 토대를 무너뜨린다. 기존 논의는 알고리즘의 설명가능성(XAI) 향상이나 의미 있는 인간 통제(MHC) 기 준을 제안했으나, 전자는 판단 과정만 해명할 뿐 책임 주체를 확정하지 못 하고, 후자는 추상적 지침에 머물러 법적 실효성을 담보하지 못한다. 이를 해결하기 위해 본 연구에서는 스티븐 루크스(Steven Lukes)의 3차 원 권력 이론과 존 가벤타(John Gaventa)의 파워큐브 모델을 분석 도구로 채택하여, LAWS가 초래하는 책임 공백의 본질을 '결심의 은폐(Concealment of Volition)' 현상으로 재정의하였다. 살상이라는 국가 권력 행사가 알고리 즘 연산이라는 기술 중립적 담론으로 치환되면서, '누가 죽이기로 결심했는 가'라는 책임 추궁의 질문 자체가 비가시적 영역으로 이동한다. 현행 규범 체계는 이러한 권력 은폐 기제를 효과적으로 통제하지 못하고 있다. 국제인도법(IHL)에서 요구하는 인간의 윤리적 판단은 확률적 수치로 대체되고, 미국·영국·EU·중국의 정책은 상이한 기제를 통해 책임 의 소재를 비가시화하고 있다. 국내법 역시 군형법상 지휘책임의 구성요 건 흠결, 국가배상법상 입증 책임의 구조적 불균형, 인공지능기본법상 국 방 AI의 적용 배제, 행정규칙에 의한 규율의 법률유보원칙 위반으로 책 임 귀속 체계에 규범적 공백이 발생한다. 이러한 진단에 기초하여 공법적 해법의 원리로 결심의 가시화(Visibilization of Volition)를 정립하였다. 형식의 가시화는 「치명적 자율무 기체계의 규율 등에 관한 법률」 제정을 통해 완전 자율무기의 원칙적 금 지와 고위험 AI 무기체계에 대한 국회 사전 동의를 의무화하는 것이다. 주체의 가시화는 MHC를 법적 의무로 전환하여 판단 근거의 설명, 최소 숙고 시간의 기술적 강제, 물리적 공격 중단권(Kill Switch)을 요구하는 것을 내용으로 한다. 책임의 가시화는 입증 책임을 국가로 전환하고, 시 스템 차원의 관리감독 과실과 운용 차원의 절차 위반을 분리하는 이원적 책임 구조의 확립을 의미한다. 세 가지 가시화를 2023년 이스라엘군의 라벤더(Lavender) 시스템 사례에 적용한 결과, 도입 단계의 민주적 통제, 운용 단계의 MHC 위반 판정, 사고 단계의 국가 배상 책임이라는 다층적 규율 가능성이 확인되었다. 본 연구는 LAWS 문제를 권력 이론의 관점에서 재구성하여 책임 공 백이 기술적 한계가 아닌 의도된 권력 은폐의 결과임을 규명하고, 법제 화의 기본 방향을 제시하였다. 생명에 대한 결정은 효율성에 우선하며, 살상은 반드시 책임질 수 있는 인간 주체에게 귀속되어야 한다는 법치주의의 대원칙이 이로써 재확인된다.
Abstract
The emergence of Lethal Autonomous Weapon Systems (LAWS), which autonomously select and engage targets without human intervention, has precipitated a fundamental crisis in the structure of responsibility attribution for state power exercise. While the exercise of state power to deprive life inherently requires human moral judgment and legal accountability, LAWS undermines this constitutional foundation by delegating lethal decisions to algorithms. Existing scholarship has proposed enhancing algorithmic explainability (XAI) or establishing Meaningful Human Control (MHC) standards, yet the former merely clarifies decision processes without identifying responsible agents, while the latter remains an abstract guideline lacking legal enforceability. This study adopts Steven Lukes' three-dimensional power theory andJohn Gaventa's power cube model as analytical frameworks to redefine the essence of LAWS-induced responsibility gaps as a phenomenon of "Concealment of Volition." The exercise of lethal state power is transmuted into the technologically neutral discourse of algorithmic computation, displacing the fundamental question of accountability—"who decided to kill" —into an invisible domain. Existing legal frameworks are rendered ineffective before this mechanism of power concealment. International Humanitarian Law (IHL)'s requirement for human ethical judgment is supplanted by probabilistic calculations, while national policies of the United States, United Kingdom, EU, and China render responsibility invisible through distinct mechanisms of abstraction, contextualization, exemption, and fusion. Domestic law similarly collapses through defects in command responsibility elements under military criminal law, structural imbalances in burden of proof under the State Compensation Act, and violations of the principle of statutory reservation through administrative rule-based regulation. Based on this diagnosis, the study establishes "Visibilization of Volition" as the fundamental principle of public law solutions. Visibilization of form mandates enactment of the "Act on the Regulation of Lethal Autonomous Weapon Systems," instituting a prohibition on fully autonomous weapons and requiring prior parliamentary consent for high-risk AI weapon systems. Visibilization of agency transforms MHC into legal obligations, demanding explanation of decision rationales, technologically enforced minimum deliberation time, and physical attack termination authority (Kill Switch). Visibilization of responsibility reverses the burden of proof to the state and establishes a dual responsibility structure distinguishing systemic supervisory negligence from operational procedural violations. Application of the proposed legal framework to the 2023 Israeli military Lavender system case validated its capacity for multi-layered regulation through democratic control at the adoption stage, MHC violation determination at the operational stage, and state compensation liability at the incident stage. This research contributes by reconceptualizing LAWS issues through power theory to demonstrate that responsibility gaps constitute not technological limitations but deliberate power concealment, while proposing fundamental directions for legislation. The fundamental principle of rule of law must be reaffirmed: decisions over life take precedence over efficiency, and lethal force must be attributed to accountable human agents.
- 발행기관:
- 법학연구원
- 분류:
- 법학