Artificial Intelligence and the Attribution of Criminal Liability
Artificial Intelligence and the Attribution of Criminal Liability
이상수(중국 산동 사범대학교)
27권 4호, 103~138쪽
초록
현대사회는 인공지능을 기반으로 하는 제4차 산업혁명 시대에 진입하였다. 인공지능 기술의 실용화는 인간의 생활에 많은 편의를 제공하고 있지만, 이에 못지않게 과거에는 예상하지 못했던 윤리적·법적 문제점을 야기하고 있다. 예를 들어, 자율주행 차량이 사고를 냈을 때 민사상 배상책임과 형사법적 처벌 문제, 인공지능의 기반이 되는 알고리즘의 결함 또는 오작동으로 불법행위나 피해가 발생하였을 때의 법적 처리 문제, 인공지능에 의한 질병의 검진과 로봇수술 허용 여부, 로봇 활동에 대한 관리 및 규제를 전담하는 정부 기구의 필요성과 역할 문제 등을 들 수 있다. 이것은 결국 인간 생활의 어느 영역까지 인공지능이 개입할 수 있으며, 인공지능이 인간의 행위를 대체하여 기능한 결과로 사회 내에서 의미를 가지는 법익 침해가 발생했을 때, 이것을 어떻게 법적으로 처리할 것인가의 문제와 관련된다. 인간은 자유의지를 가지고 이에 따라 여러 가지 선택을 하는 존재로 알려져 왔다. 자유의지는 인간의 본성이자 핵심이고, 자유의지의 존재는 특히 형사법 영역에서 중요한 의미를 갖는다. 현재의 범죄체계에서 형벌은 자유의지를 지닌 인간이 자신의 의사로 범죄를 선택하였음을 전제로 부과되기 때문이다. 그러나 인공지능의 등장은 전통적인 형법 체계, 특히 책임 귀속의 문제에 심대한 도전을 제기하고 있다. 약한 인공지능(weak AI)의 경우, 발생하는 법익 침해에 대하여 개발자·운영자·사용자의 책임을 통하여 기존의 법리 속에 통합될 수 있으나, 강한 인공지능(strong AI)이 법익 침해의 결과와 관련되는 경우에는 행위능력, 자율성, 그리고 책임의 기초 자체에 관한 근본적인 의문을 불러일으킨다. 자유의지, 책임능력, 그리고 이른바 책임 공백(responsibility gap)에 관한 현재의 논의들은 형법이 아직 인공지능에 대하여 독립적인 책임을 부여할 준비가 되어 있지 않음을 보여준다. 비교법적 분석에 따르면, 각국의 대응은 상이하다. 유럽연합은 위험 분류, 투명성, 책임성을 강조하는 포괄적인 규제 체계(EU AI Act)를 마련하였으며, 미국은 분야별·사례 중심의 접근을 취하고 있다. 한국은 「인공지능기본법」을 제정하여 인간의 생명과 안전에 영향을 미치는 인공지능의 규제에 대한 일반 원칙을 확립하였다. 반면 중국은 데이터 보안, 개인정보 보호, 알고리즘 관리, 플랫폼 책임과 같은 인접 규제 영역에 주로 집중하고 있으며, 형사책임 문제는 보다 광범위한 행정 집행과 국가 통제의 틀 속에 남겨 두고 있다. 이러한 상황에서 한국에 주는 시사점은 분명하다. 첫째, 기존 형법상 과실책임, 보증인지위, 예견가능성의 원리를 인공지능의 특수성을 반영하여 체계적으로 재구성해야 한다. 둘째, 새로운 입법적 조치가 필요하다. 특히 알고리즘 차별 방지, 설명가능성 확보, AI 의사결정 과정의 투명화, 그리고 국경을 초월한 책임 귀속 문제를 다루는 별도의 규율 체계를 마련하는 것은 시급한 과제라 할 수 있다. 셋째, 국제 협력의 강화도 절실하다. 인공지능의 작동은 국경을 넘는 특성을 가지므로, OECD·EU·미국 등과의 공조를 통해 글로벌 규범 형성에 적극적으로 참여할 필요가 있다. 궁극적으로는 기술혁신과 형법의 근본 원리를 조화시키는 균형 잡힌 법제가 마련되어야 할 것이다. 인공지능은 인간 사회를 변화시킬 수는 있으나, 책임이 인간의 능력과 판단을 전제로 한다는 법적 명제를 근본적으로 바꾸지는 못한다. 한국의 입법자와 학계는 신중하면서도 선제적으로 대응하여, 정의·공정·책임의 원리가 인공지능의 시대에도 굳건히 유지될 수 있도록 해야 할 것이다.
Abstract
The advent of artificial intelligence presents profound challenges to the traditional framework of criminal law, particularly in the attribution of liability. While weak AI systems can be integrated into existing doctrines through the liability of developers, operators, or users, the realization of strong AI would raise fundamental questions concerning agency, autonomy, and the very foundations of responsibility. Current debates over free will, capacity for responsibility, and the so-called “responsibility gap” demonstrate that criminal law is not yet prepared to ascribe independent liability to AI systems. Comparative analysis reveals divergent approaches. The European Union has adopted a comprehensive regulatory framework through the AI Act, emphasizing risk classification, transparency, and accountability. The United States relies on sector-specific and case-driven responses. Korea has enacted the Framework Act on AI, establishing general principles of human-centered and trustworthy AI. By contrast, China has concentrated on adjacent domains such as data security, personal information protection, algorithm governance, and platform responsibility, while leaving questions of criminal liability largely within the broader framework of administrative enforcement and state control. Against this backdrop, the implications for Korea are clear. First, existing doctrines—such as negligence liability, the guarantor’s duty, and foreseeability—must be systematically reinterpreted in light of the particularities of AI-related harms. Second, new legislative measures are urgently required. In particular, provisions on algorithmic discrimination, explainability, transparency of AI decision-making, and cross-border liability should be prioritized. Third, international cooperation must be strengthened. Given the transnational nature of AI systems, Korea should actively engage in global norm-setting through institutions such as the OECD, the EU, and collaborative dialogues with the United States. Ultimately, a balanced legal framework that harmonizes technological innovation with the fundamental principles of criminal law must be developed. While artificial intelligence may transform human society, it cannot alter the legal premise that liability presupposes human capacity and judgment. Korean legislators and scholars must therefore respond both cautiously and proactively, ensuring that justice, fairness, and responsibility remain intact in the age of artificial intelligence.
- 발행기관:
- 한국비교형사법학회
- 분류:
- 법학