‘자율적’ AI 사용에 대한 사회적 책임의 인과성- 미국 불법행위법의 기준을 중심으로
Causality of social responsibility for the use of ‘autonomous’ artificial intelligence - Focusing on the standard of U.S. tort law
노승미(한림대학교 한림과학원)
147호, 349~396쪽
초록
현재 진보하는 AI 시스템의 리스크에 대한 법적 구속력과 법적 책임을 둘러싼 강력한 규제와 정책 요구가 크게 증가하고 있다. AI의 사회적 수용이 확장되면서 관련 소송과 판례 역시 증가하고 불법행위법이 해당 기술을 주목하고 있다. 사회가 새로운 기술과 산업을 수용하는지의 여부는 법의 규제가 그 관문의 역할을 하게 될 수밖에 없다. 하지만 비일반적으로 복잡한 기계이자 환경과의 비선형적 상호작용 방식을 부여하는 사이버네틱스 시스템으로서 AI는 그 기술의 특성상 작동 메커니즘의 인과를 설명하기 어렵고, 내부 상태와 구동함수의 결과물에 대한 설명가능성이 없다. 이런 상태에서 적용되는 영역에 따라 어떤 리스크 트리거가 될지 모르는 AI는 피해가 발생할 경우 문제가 기술적 오작동인지, 성능저하인지, 혹은 환경 때문인지 원인을 해명하기 어렵게 된다. AI는 법인격의 실체가 아니기 때문에 그 리스크에 대한 실질적인 책임배분은 법적 불확실성에 놓인다. 이를 규제해야 하는 불법행위법의 판결에서는 법의 독트린상 원인행위와 결과가 중요하지만, 불법행위법의 원리는 산업과 기술이 생산하는 새로운 사회적 관계들을 조정하는 데 핵심적인 역할을 하도록 시대적으로 변동해 왔다. 불법행위법의 인과 문제는 사회가 중시하는 이데올로기 패러다임과 상관성을 갖기 마련이며, 시기에 따른 정책목적을 지향한다. 그럼에도 불법행위법에서는 판결을 위한 규칙들이 존재하며 반드시 독트린으로서 인과의 조건이 설명되어야만 하는데, 그것이 법적 책임의 사회적 배분과 연결되기 때문이다. 사회과학의 관점에서 불법행위법은 때로 예견 가능하고 때로 그렇지 못한 사회의 정상성이 훼손되는 리스크를 예방하고 회복하는 방식이며, 사회적 리스크를 배분하는 형평성과 정당성을 담지하는 영역이다. 법의 이 영역은 항상 해악의 인과 조건을 명시함으로써 시대에 따라 도덕·법 공동체가 요구하는 설명책임을 충족시킨다. 결국 설명가능성이 없는 AI의 특수성과 설명책임을 요구하는 불법행위법의 전통적 인과 독트린이 충돌하는 상황에서 사회가 이 쟁점을 어떤 방식으로 수용할 것인지 여부는 불법행위법에 대한 전면적 도전이 될 것이며, AI는 이와 관련한 새로운 기술 분야 프런티어에 대한 사회적 수용의 분기점으로 작용할 것이다.
Abstract
There is a growing demand for regulations and policies surrounding the legal enforceability and liability of the risks associated with advancing AI systems. As the social acceptance of AI, related lawsuits and precedents are also increasing, and tort law is paying close attention to this technology. Whether society accepts new technologies and industries depends on legal regulations acting as gatekeepers. However, as a cybernetic system that is unusually complex and interacts nonlinearly with its environment, AI is difficult to explain in terms of its operational mechanisms due to its technical characteristics, and it is impossible to explain its inner state and the results of its driving functions. In such a state, AI, whose risk triggers vary depending on the application area, makes it difficult to determine the cause of harm whether it stems from technical malfunction, performance degradation, or environmental factors. Since AI can’t be a legal personality, the actual allocation of responsibility for such risks is subject to legal uncertainty. In tort law rulings that regulate this, the doctrine of law emphasizes the importance of the causal act and its results, but the principles of tort law have transformed over time to play a central role in adjusting the social relationships produced by new industry and technology. The causation issue in tort law is inherently linked to the ideological paradigms valued by society and aligns with policy objectives of the time. Nevertheless, tort law has rules for rulings, and the conditions of causation must be explained as doctrine because they are connected to the social distribution of liability. From a social science, tort law is a means of preventing and recovering from risks that sometimes predictably and sometimes unpredictably undermine social normality, and it is an area that embodies equity and legitimacy in the distribution of social risk. This area of law always satisfies the moral and legal community’s demand for accountability by explicitly stating the causal conditions of harm. Ultimately, in a situation where the characteristic of AI, which is not explainable, conflicts with the traditional doctrine of causality in tort law, which requires accountability, how society will accept this issue will be a comprehensive challenge to tort law, and AI will act as a momentum for social acceptance of new technological frontiers related to this issue.
- 발행기관:
- 비판사회학회
- 분류:
- 사회학