인공지능의 군사적 이용에 대한 국제적 규제 – 국제규범에 관한 논의의 최근 동향 –
International Regulation of Military Artificial Intelligence : Recent Debates on International Norms
박현석(홍익대학교)
24권 3호, 27~59쪽
초록
지난 10년 동안, 인공지능의 군사적 이용에 관한 국제규범은 주로 특정 재래식무기 제한협약의 당사국들이 설치한 자율살상무기체계에 관한 정부 전문가그룹에서 논의되었다. 2019년 특정 재래식무기 제한협약 당사국 회합에서 이 정부 전문가그룹이 확인한 11개 항의 ‘지도원칙’이 채택되었으나, 그러한 무기를 사용하는 경우에 발생할 수도 있는 이른바 ‘책임 간극’ 문제는 여전히 미해결 상태라고 할 수 있다. 또 2023년 5월에는 아르헨티나를 포함한 14개국이 자율무기체계를 완전히 금지하는 ‘자율무기체계에 관한 의정서(제6의정서) 초안’을 이 정부 전문가그룹에 제출했으나, 이 초안에는 이런 무기체계의 부재를 검증할 방법을 규정한 조항이 없다. 인공지능의 군사적 이용은 이미 자율무기체계의 범위를 넘어섰을 뿐 아니라, 군사적 우위를 차지하기 위한 인공지능 군비경쟁도 시작된 것으로 보인다. 이런 군비경쟁이 계속되면, ‘적대적 사례’와 같은 기계학습의 취약성 때문이든 시스템 간의 상호작용과 같은 다른 요인 때문이든 ‘벼락 전쟁’과 같은 의도하지 않은 결과가 발생할 위험이 커질 것이다. 현재의 기술로는 군사용 인공지능 시스템의 존재를 탐지하거나 그 부재를 검증하기가 어렵거나 불가능하다고 하므로, 인공지능의 군사적 이용을 전면 금지하는 식으로는 이런 위험을 해소하기가 어렵거나 불가능할 것이다. 이런 위험을 줄일 수 있는 현실적인 방법은 검증 불가능한 전면 금지가 아니라 검증 가능한 부분적 제한이지만, 거대 인공지능 훈련에 필요한 고성능 반도체 칩의 수출 통제와 같은 무역제한조치는 WTO 협정상의 의무 위반에 해당할 소지가 있다. 현재 기술적으로 검증 가능한 방식은 인공지능 기술의 이용 여부와 관계없이 특정 무기나 전투 수단을 금지하거나 제한하는 것이지만, 이런 국제적 합의는 어려울 수도 있다. 2023년 7월 18일 국제 평화와 안전에 미치는 인공지능의 영향이 처음으로 유엔 안전보장이사회의 의제로 다루어졌으며, 이 회합에서 유엔 사무총장은 인공지능의 군사적 이용에 관한 규범, 규칙, 원칙을 발전시킬 다자 프로세스에 참여하도록 회원국들에 요청할 예정이라고 밝혔다. 이제 인공지능의 군사적 이용 문제는 유엔 안전보장이사회 유엔 사무총장이 언급한 다자 프로세스에서도 논의될 것이므로, 외교적 요소도 논의의 결과를 좌우하는 변수의 하나가 될 것이다.
Abstract
Over the past decade, possible international norms governing military uses of artificial intelligence have been discussed mainly at the Group of Governmental Experts (GGE) established by High Contracting Parties to the Convention on Certain Conventional Weapons (CCW). While the ‘Guiding Principles affirmed by the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems’ was adopted by the 2019 Meeting of High Contracting Parties to the CCW, it does not appear that the so-called ‘responsibility gap’ has been filled up. In May 2023, 14 countries including Argentina submitted ‘Draft Protocol on Autonomous Weapon Systems (Protocol VI)’ which completely bans autonomous weapon systems, but this draft does not contain any provision for verification. The scope of military use of artificial intelligence has already extended beyond that of autonomous weapon systems, and it appears that an artificial intelligence arms race has begun to gain military superiority. If this arms race continues, the risk of unintended consequences such as ‘flash war’ will increase, whether due to machine learning vulnerabilities such as ‘adversarial examples’ or other factors including interactions between relevant systems. Since it is difficult or impossible to detect the presence or verify the absence of military artificial intelligence systems with current technology, it would be difficult or impossible to resolve this risk by completely banning military uses of artificial intelligence. A realistic way to reduce this risk will probably be a partial and verifiable restriction, not a complete ban that cannot be verified. On July 18, 2023, ‘artificial intelligence: opportunities and risks for international peace and security’ was placed on the agenda of the UN Security Council for the first time, and at the meeting of the Council the UN Secretary-General said that he would call on Member States to engage in a multilateral process to develop norms, rules and principles around military applications of artificial intelligence. The issue of military use of artificial intelligence will be discussed in the Security Council as well as the multilateral process mentioned by the Secretary-General, and thus diplomatic factors will become one of the important variables that will determine the outcome of the discussion.
- 발행기관:
- 법학연구소
- 분류:
- 법학