애스크로AIPublic Preview
← 학술논문 검색
학술논문한국산학기술학회논문지2025.01 발행

자율살상무기체계(LAWS)의 법적∙윤리적 판단을 위한 학습데이터셋 구축방안

A Study on the Establishment of Training Dataset for Legal∙Ethical Judgment of the Lethal Autonomous Weapons System (LAWS)

김민혁(한화시스템(주)); 차영호(국방과학연구소)

26권 1호, 361~375쪽

초록

본 연구는 민간 분야 AI의 윤리적∙법적 능력을 학습하기 위한 데이터셋 구축방법을 참조하여 LAWS(Lethal Autonomous Weapons System)의 법적∙윤리적 학습 데이터셋 구축방향을 제시하는 데 목적이 있다. 비정형 데이터 중 텍스트 위주로 데이터셋 구성안을 제시하며 음성, 영상 등 데이터를 구성하는 경우에도 본 연구결과를 가이드라인으로 활용할 수 있을 것이다. 먼저, LAWS의 자율적 행동의 법적∙윤리적 기준을 국제인도법, 국제인권법, 국제조약 등의 측면에서 연구하였다. 특히, 국제인도법의 4가지 원칙인 구별성의 원칙, 비례성의 원칙, 군사적 필요성의 원칙, 마르텐스 조약을 설명하고 원칙별 데이터셋 구축사례를 제시하였다. 다음으로 LAWS 관련 국제적 이슈, 동향 및 제약 움직임에 대하여 고찰하였다. 일반사회의 AI윤리 학습 데이터셋 구축 동향을 Ethics Dataset과 IBM, 구글 등 빅테크기업들의 AI 모델 편향성 점검사례와 한국 뉴스에서 악성 댓글 및 나쁜말 데이터셋의 사례를 참고하여 전쟁윤리 학습데이터셋 구축방향을 제시하였다. 학습데이터셋 구축 이후의 활용 방향은 원천데이터 확보, 원천데이터를 학습데이터로 전환, 학습 데이터셋을 활용한 훈련 및 학습방안 순으로 제안하였다.

Abstract

This study proposes a framework for constructing a legal and ethical training dataset for Lethal Autonomous Weapons Systems (LAWS) by drawing on methods used in the civilian AI sector. The focus is on creating a text-based, unstructured dataset, but the proposed approach can also guide the use of other data types such as voice and video. This research examines legal and ethical standards for LAWS autonomous actions, particularly under International Humanitarian Law (IHL), International Human Rights Law, and international treaties. The four main principles of IHL-distinction, proportionality, military necessity, and the Martens Clause-are explained, with dataset construction examples provided for each. Additionally, the study reviews international trends and regulatory movements surrounding LAWS. Drawing insights from AI ethics datasets, bias-checking practices by companies like IBM and Google, and cases of harmful content dataset construction in South Korea, this study proposes a direction for developing war ethics training datasets. The process for utilizing these datasets includes securing raw data and converting them into datasets for training and learning.

발행기관:
한국산학기술학회
DOI:
http://dx.doi.org/10.5762/KAIS.2025.26.1.361
분류:
공학일반

AI 법률 상담

이 논문의 주제에 대해 더 알고 싶으신가요?

460만+ 법률 자료에서 관련 판례·법령·해석례를 찾아 답변합니다

AI 상담 시작
자율살상무기체계(LAWS)의 법적∙윤리적 판단을 위한 학습데이터셋 구축방안 | 한국산학기술학회논문지 2025 | AskLaw | 애스크로 AI