인공지능(AI) 치명적자율무기(LAWs)의 법적ㆍ윤리적 쟁점에 대한 기초연구
A Basic Study on the Legal and Moral Issues About Artificially Intelligenced Killer Robots Under the International Humanitarian Law And Human Rights Law
한희원(동국대학교)
20권 1호, 325~365쪽
초록
현재 전 세계적으로 새로운 형태의 군비경쟁이 진행되고 있다. 대표적인 것이 인공지능(AI)를 장착한 치명적자율무기(Lethal Autonomous Weapons: LAWs, 이하 LAWs), 일명 살인로봇이 그것이다. LAWs는 인간의 개입 없이 시스템 스스로가 목표물을 선택하고 공격하도록 설계된 자율무기이다. LAWs는 LAWS(lethal autonomous weapon systems, 치명적 자율무기시스템), LAR(lethal autonomous robots, 치명적 자율로봇), 로봇 무기(robotic weapons), 단순하게 킬러 로봇(killer robots)이라고도 호칭된다. LAWs는 육지, 하늘, 바다, 수중 그리고 우주에서도 작동될 수 있는 인류의 신형병기이다. 명백하게 LAWs는 어떤 방향으로든지 지구의 미래를 새롭게 형성할 것으로 보인다. 그런데 LAWs는 냉전시대처럼 경쟁하는 두 나라 사이의 경주가 아니다. 그것은 천천히 변화하는 법적ㆍ제도적 규범과 급속한 과학기술 발전 사이에 놓여 있는 법적ㆍ윤리적 쟁점이다. LAWs에 대해서는 찬반양론이 있고 각국의 입장도 상반된다. 그러나 각국은 눈에 보이지 않는 연구를 지속할 것이다. 이에 본고는 현행 국제 규범 체계와 도덕 체계에서 치명적 자율무기의 사용이 국제인도법(International Humanitarian Law: IHL)의 법적 요청을 충족할 수 있는지, 특히 전쟁이나 무력분쟁에 있어서의 차별금지의 원칙(principles of discrimination), 비례성의 원칙(proportionality) 그리고 예방 조치의 원칙(precautions in attack)을 충족시킬 수 있는 지에 대한 적법성과 그 윤리성을 개관한다.
Abstract
The enormous advances made in the field of artificial intelligence over the past years have led to mounting fears and debates on the future warfare. Especially lethal autonomous weapons(LAWs) which can select both the target and means of attack autonomously without decision of human being are in the center of the debate. The current research and future deployment of lethal autonomous weapon systems(LAWs) is actively under running throughout the military, nongovernmental, and international communities. This discussion is mainly focused on the military advantage to be gained from current and future systems, the risks and potential benefits inherent and the ethics of their use. Ongoing discussions at different multilateral fora on the definition of ‘Lethal Autonomous Weapons Systems(LAWS) are focused on a preemptive ban on LAWs on one hand and the justification of the dual use of technology on the other. Those who advocate for a pre-emptive and thorough ban on LAWs argue that such weapon systems are not able to comply with the fundamental principles of proportionality, distinction and precaution which is the main principle of the International Humanitarian Law(IHL). The issue of accountability and criminal responsibility of individuals and States for serious violations of IHL and IHRL in the use of LAWs is also matter of fundamental importance too. Considering the dual use of robot technology and already existing degree of autonomy in current warfare, what is essential is to engage in meaningful deliberations to arrive at common understandings on compliance of LAWs with the principles of IHL and IHRL ahead of their deployment in future conflicts. Like previous technological revolutions, artificial intelligence surely poses new challenges for international humanitarian law, particularly regarding accountability and the legal regulations governing the use of force. From all those point of vies, this thesis suggests and emphases to rethink its pros and cons and make a agreed rules through United Nation System.
- 발행기관:
- 중앙법학회
- 분류:
- 법학