현행 AI 제조물 규율 법제와 새로운 입법의 필요성
The Current Legal Framework for AI Product Liability and the Need for New Legislation
서창배(전북대학교 동북아법연구소 가상재화법센터); 송문호(전북대학교 법학전문대학원;전북대학교 동북아법연구소)
32권 4호, 99~126쪽
초록
인공지능(AI) 기술의 급속한 발전과 그로 인한 위험성을 증가 시키고 있으며 이러한 잠재적 위험성의 근거는 인공지능이 프로그램된 소프트웨어의 안전성을 검증하는 기술이 부족하며, 기업들이 기술 발전에 대한 속도 조절을 하지 않는 상황에서, 인공지능 기술이 가져올 위험성에 대한 통제 장치가 절대적으로 부족하기 때문이다. 특히 자율주행자동차와 같은 자율 판단 기계들이 발생시킬 수 있는 사고와 관련된 법적 문제는 현행법으로는 해결하기 어려운 상황이다. 이미 외국의 경우 자율 판단 기계들 그 중에서도 자율주행자동차의 거리 시험 주행이 진행되고 있는 상황에서 사망 사고를 비롯한 크고 작은 사고들이 발생하고 있는 상황이며 우리의 경우에도 이미 유사한 시험 주행이 이미 진행되고 있어 이에 대한 법적 보호 장치가 필요하다. 산업화된 오늘날에는 제조물이 유발시킨 손해에 관해 전통적인 민사법적 해결책은 거의 주장되지 않으며 이를 제조물 책임의 법리로 제조업자에게 책임을 전가하려는 것이 세계적인 추세이며 우리 법도 이러한 방식을 따르고 있다. 그러나 인간의 개입이 전혀 없이 인공지능의 자율 판단에 따라 이루어진 기기의 운행으로 발생한 손해에 관해서 그 법적 책임을 누구에게 부담시키느냐의 문제는 현재까지도 논란 중이다. EU의 경우는 이러한 경우를 대비하여 이미 EU AI Act를 통해 출시 전 위험 기반에 따른 여러 가지 의무를 제조자 측에 부담시키는 법제를 마련하고 이를 전제로 다시 제조물 책임법의 개정을 통해 인공지능과 같은 소프트웨어 등의 책임까지도 제조물 책임법의 범주에 포함시키려 한다. 이에 반해 우리의 경우는 새로운 규제법의 입법에 여전히 소극적인 태도를 보이고 있으며 그 결과 기존의 법제를 통한 해결 방안을 고수하고 있어 특히 개발 위험 항변과 같은 면책 규정이 실제로는 소비자를 전혀 보호하지 못하는 결과로 이어지고 있다. 제조물 책임을 근거로 형사법적 책임을 부담시키려는 견해도 주장되고 있으나 인공지능 기술에 대한 산업 정책적 요구와 소비자 위험에 대한 최소한의 위험 장치라는 요구의 사이에서 인공지능 제품이 초래할 수 있는 손해를 담보할 수 있는 개정법을 비롯한 책임 법제를 강화할 수 있는 현실적인 여러 법적 장치를 모색할 필요성이 크다.
Abstract
The rapid advancement of artificial intelligence (AI) technology is increasing its potential risks, largely because the current technology lacks the ability to thoroughly verify the safety of AI-programmed software, and companies are not regulating the pace of technological development. This lack of control mechanisms for the potential dangers posed by AI technology is a critical issue. In particular, legal issues related to accidents caused by autonomous decision-making machines, such as self-driving cars, are difficult to address within the current legal framework. In foreign countries, test drives of autonomous decision-making machines, especially self-driving cars, are already underway, and various accidents, including fatal ones, have occurred. In this context, there is a growing need for legal protective measures in our own system as well. In the industrialized world today, traditional civil law solutions for damages caused by products are rarely invoked. Instead, the global trend is to hold manufacturers responsible under the legal theory of product liability, and our legal system follows this approach as well. However, there remains significant controversy over who should bear legal responsibility for damages caused by devices operating purely based on AI’s autonomous decision-making, without any human intervention. The European Union (EU), for example, has already introduced the EU AI Act, which imposes various obligations on manufacturers based on risk assessment before the release of AI products. They are also moving toward revising their product liability laws to include responsibility for AI and other software within the scope of product liability. In contrast, our system still relies on existing legal frameworks, which, especially in cases of development risk defenses, fail to adequately protect consumers. There have been arguments for imposing criminal liability based on product liability, but given the balance between the industrial policy demands for AI technology and the need for minimum consumer safety measures, a new insurance system that can cover the damages caused by AI products seems necessary. From a legislative perspective, this is likely the most practical solution.
- 발행기관:
- 법학연구소
- 분류:
- 기초법