인공지능을 이용한 무기체계의 국제인도법상 무차별성에 관한 연구
Study upon AI weapon system and the indiscriminate nature in the context of international humanitarian law
신홍균(국민대학교)
35권 3호, 105~138쪽
초록
인공지능을 이용하는 무기체계는 표적을 인식하고 조준할뿐만 아니라, 공격 여부도 결정할 수 있다. 이에 기계가 인간을 살해한다는 윤리적 쟁점이 제기되고 있으며, 그러한 쟁점중의 하나가 기계가 국제인도법상의 무차별 공격 금지의 원칙을 어떻게 이행할 수 있는가이다. 무차별적 성질이라 함은 무기체계가 군사목표물을 표적으로 할 수 없거나 그 영향이 무차별적인 성질을 말한다. 무기체계 자체가 무차별적 성질이라고 간주되지 않는 무기체계의 무차별적 이용은 금지된다. 민간인 등을 표적으로 하는 공격은 구별의 원칙 위반, 표적으로 하지 않으나 민간인 등에 대한 공격 또는 영향을 주는 공격은 무차별 공격 금지 위반에 해당한다. 즉 민간인이 목표가 아니고 군사 목표물을 표적으로 할 수 있는 무기체계이지만 그렇게 사용되지 않는다면 민간인 등에 대한 직접적인 공격, 즉 표적으로 하는 공격으로 구별의 원칙 위반일 수 있고, 또는 그 행위에 따라서는 무차별 공격 금지 위반일 수 있다. 다만, 일부 국가들의 관행에서는 표적에 대한 공격의 정확성에 기초해서 무차별적인 성질을 판단함에 있어서 그 정확성의 합리성 및 부수적 피해의 규모와 가능성이 고려된다. 요컨대, 군사 목표물을 표적으로 할 수 있는 무기체계이더라도 그것을 이용하여 민간인 등에 대해 수행되는 공격의 방식에 따라서는 무차별 공격이라로 간주될 수 있다. 민간인 등에 수행되는 공격의 방식이 무차별 공격에 이르게 하는가의 판단에 있어서는 무기체계의 정확성의 합리성과 피해 규모가 고려될 수 있다. 인공지능을 이용한 무기체계는 군사 목표물을 표적으로 할 수 있으나, 표적 인식과 구별에 실패할 수 있는 무기체계에 속한다. 그러한 실패를 고려하여 인간 병사가 무기체계를 사용할 동기가 줄어든다고 보기는 어렵다. 그래서 인공지능을 이용한 무기체계의 사용과 그 결과는 실질적으로는 무차별적인 성질의 무기체계의 사용과 결과와 비교될 수 있고, 그러한 무기체계의 남용의 가능성을 고려하면 그 사용이 마치 무차별적 성질을 가진 무기체계와 같은 수준의 결과를 가져올 가능성이 있다고 판단된다. 새로운 무기체계로서 인공지능을 이용하는 무기체계는 새로운 게임의 규칙을 요구하고 있다. 인간 병사간의 전투에 인공지능이 개입하는 방식은 인간 병사간의 전투와는 다르고, 본 연구에서 살펴 본 바는 인공지능이라는 새로운 매개체(agent)의 등장은 현재의 국제인도법의 흠결을 보여주고 있다.
Abstract
Weapon systems using artificial intelligence can not only recognize and aim targets, but also determine whether to attack. Indiscriminate nature refers to the nature that the weapon system cannot target military targets or its effects are indiscriminate. Indiscriminate use of weapons systems that are not considered indiscriminate is prohibited. Attacks targeting civilians, etc. are not targeted, but attacks on civilians, etc. are violations of the prohibition of indiscriminate attacks. In other words, it is a weapon system in which civilians can target military targets, not targets, but if not used, it may be a direct attack on civilians, that is, a target attack, a violation of the principle of distinction, or depending on its behavior, a ban on indiscriminate attacks. However, in some countries' practices, the rationality of its accuracy and the scale and possibility of incidental damage are considered in judging the indiscriminate nature based on the accuracy of the attack on the target.Even if it is a weapon system that can target military targets, it can be regarded as an indiscriminate attack depending on the way of attack against civilians, etc. using it. In determining whether the method of attack performed on civilians, etc. leads to indiscriminate attacks, the rationality of the accuracy of the weapon system and the scale of damage can be considered. Weapon systems using artificial intelligence can target military targets, but belong to weapons systems that can fail to recognize and distinguish targets. Considering such failures, it is difficult to say that the motivation for human soldiers to use weapons systems is reduced. Therefore, the use of weapons systems using artificial intelligence and their results can be compared to the use and results of weapons systems with indiscriminate properties, and considering the possibility of abuse of such weapons systems, it is judged that the use may have the same level as weapons systems with indiscriminate properties. Weapon systems using artificial intelligence as new weapons systems are demanding new rules for games. The way artificial intelligence intervenes in the battle between human soldiers is different from that between human soldiers, and the emergence of a new agent called artificial intelligence in this study shows the flaws in current international humanitarian law.
- 발행기관:
- 법학연구소
- 분류:
- 기타법학