자율무기체계의 개념과 비례성의 원칙
The Concept of Autonomous Weapon System and Principle of Proportionality
박문언(한국국방연구원)
64권 2호, 85~110쪽
초록
제4차 산업혁명의 시대를 맞이하여 인공지능 기술이 발전함에 따라 국방분야에 관련 기술이 적용되고 있다. 특히 인간이 임무를 수행하기 어려운 분야나 인간의 희생이 요구되는 위험한 분야 등에서 자율무기체계가 인간을 대신하는 것이 가능한지 국제적으로 논의되고 있다. 그러나 문제는 이러한 자율무기체계가 너무 지나치게 개발되고 사용되어 인간을 살상하는 임무뿐만 아니라 언젠가는 기술적 특이점을 넘어 오히려 인간을 위협하는 상황이 올 수도 있다는 것이다. 이러한 상황을 예방하기 위해서는 먼저 자율무기체계의 개념을 구체적으로 규정하고 이러한 무기체계의 개발과 사용에 대해 국제적으로 합의를 도출할 필요가 있다. 이 논문에서는 특정재래식무기금지협약(CCW)기구에서 국가별로 논의되고 있는 “자율무기체계” 또는 “자율살상무기체계”의 개념을 기초로 자율무기체계의 개념을 어떻게 규정하는 것이 적절할지 개인적으로 검토해 보았다. 이와 더불어 자율무기체계 자체가 국제인도법상 사용이 제한되는 무기가 아니지만 사용상의 과정에서 국제인도법상 기본원칙들을 준수할 수 있는지 살펴보았다. 특히, 전장 상황 전체의 맥락적 고려를 통해 주관적인 평가가 필요하며, 양적 평가보다는 질적 평가가 가장 많이 요구되는 비례성을 원칙을 준수할 수 있는지 여부를 검토해 보았다. 인간의 능력 또한 언제나 완전할 수 없다는 것을 고려할 때, 자율무기체계가 국제인도법상의 규정을 프로그램화하고 그 세부기준을 객관화할 수 있다면 이 또한 전혀 불가능한 것은 아닐 것이다. 판례라는 것도 결국은 개별 사건의 축적을 통해 객관화된 기준을 만들어 나가는 과정이기 때문이다. 다만, 이 경우에도 자율무기체계가 인간 사이의 생명을 비교형량해야 하는 상황이거나 적의 군사시설을 공격하는 과정에서 민간인의 살상이 발생할 수 있는 상황이라면 사용이 제한되어야 할 것이다. 결론적으로 적군을 살상하는 과정에서 민간시설에 대한 지나친 피해가 발생하지 않는다면 비례성의 원칙에는 반하지 않을 것이다. 하지만 윤리적으로나 정책적으로 인간에 대한 살상문제는 비례성의 원칙을 떠나 보다 근본적인 국제사회의 합의가 도출되어야 한다.
Abstract
As the artificial intelligence technology develops in the era of the fourth industrial revolution, the related technology is applied to the defense field. International societies have debated whether it is possible for the Autonomous Weapons System(AWS) to replace human beings, especially in areas where human tasks are difficult to carry out or in the dangerous areas where human sacrifices may be required. However, the problem is that the AWS is so over-developed, and some day it may go beyond technical singularity and threaten humans. In order to prevent such a situation, we should define the concept of the AWS and reach consensus on the development and use of AWS internationally. In this paper, I personally reviewed how to define the concept of AWS based on “autonomous weapon system” or “lethal autonomous weapon system” discussed in the CCW meeting. In addition, it is necessary to examine whether AWS itself is a weapon being restricted in international humanitarian law(IHL) and can comply with the basic principles of IHL. Particularly, I examined whether or not AWS can comply with the principle of proportionality which requires the most qualitative evaluation rather than quantitative evaluation with subjective evaluation through the contextual consideration of overall battle situation. Considering that human capabilities are not always perfect, AWS observing IHL would also not be possible at all if it could be programmed the rules of IHL and objectify its sub-criteria. Likewise, the judicial precedent is the process of creating objectified standards through filing up of individual cases. In the meantime, AWS should not be used in situations where it compares lives between human beings or where civilian casualties can occur in the course of attacking enemy forces or military facilities. In conclusion, AWS can be used limitedly if civilians are not sacrificed and only civilian facilities are damaged in the course of killing enemy forces. However, in the policy and ethics, killing of human beings by AWS will require a more fundamental international consensus, apart from the principle of proportionality.
- 발행기관:
- 대한국제법학회
- 분류:
- 법학