의료 인공지능과 민사책임에 관한 연구-의료과실 책임과 제조물 책임을 중심으로-
A Study on Medical Artificial Intelligence and Civil Liability -Focusing on Medical Malpractice and Product Liability-
이종구(단국대학교)
210권, 68~101쪽
초록
기계학습 및 딥러닝 기반의 의료 인공지능은 정확성, 신속성, 효율성 측면에서 의료 분야에 혁신을 불러일으키고 있지만, 학습 데이터 편향과 알고리즘 불완전성 등으로 인한 오류 가능성도 상존한다. 의료 인공지능의 잘못된 예측이나 권고로 환자에게 손해가 발생한 경우, 환자를 치료한 의사와 제조자의 책임이 문제가 된다. 현재 의료 인공지능은 대부분 의사의 임상 의사결정을 보조하는 도구로 이용되므로, 의사는 인공지능 예측의 적절성을 당시 의료수준에 비추어 평가할 주의의무를 부담한다. 따라서 의사가 이를 위반하여 환자에게 피해가 발생하면 의료과실 책임을 면할 수 없다. 그러나 완전 자율형에 가까운 인공지능의 경우 의사와 인공지능의 관계는 수평적 의료분업에 유사하여 신뢰의 원칙이 적용될 수 있다. 한편 인공지능의 복잡성․불투명성․예측불가능성 및 자율성 등의 특징 때문에 피해자가 인공지능의 제조자를 상대로 제조물 책임 소송을 제기하여 승소하기에는 쉽지 않다. 그 이유는 피해자가 인공지능의 결함과 관련하여 특히 문제가 되는 설계상의 결함에 대한 입증이 매우 어렵기 때문이다. 최근 개정된 EU 제조물 책임 지침이 이러한 점을 고려하여 소프트웨어도 제조물에 포함하고, 결함에 관한 판단 시점을 확대하고, 증거공개 및 결함추정 규정 등을 도입한 점은 우리 제조물책임법 개정에 시사하는 바가 크다고 할 것이다. 본 연구에서는 인공지능의 잘못된 예측에 대하여 의사에게 전적으로 책임을 전가하는 것은 환자 보호뿐만 아니라 인공지능의 혁신에도 바람직하지 않다는 점을 지적하고, 그 대안으로 인공지능 법인격 부여론, 공동기업책임론, 무과실(위험)책임론 등을 검토하였다. 본 연구에서는 자동차손해배상보장법 상의 자율주행차 손해배상제도를 참고하여, 의료 인공지능을 활용한 의사나 병원에 무과실책임을 부과함과 동시에 무과실책임 보험 가입을 의무화할 것을 제안하였다. 그 이유는 의사와 병원이 환자와의 진료계약의 주체이고, 의료 인공지능 사용으로 인한 이익을 누림과 동시에 그 위험을 함께 부담하는 것이 공평하기 때문이다.
Abstract
Medical artificial intelligence (AI) based on machine learning and deep learning has driven substantial innovation into healthcare, improving accuracy, speed, and efficiency. However, it also carries the risk of error stemming from data bias and algorithmic imperfections. When a patient suffers harm due to an incorrect AI prediction, liability typically concerns both the physician who relied on the prediction and the AI system’s manufacturer. Currently, medical AI functions as a decision-support tool, imposing on physicians the duty to assess the appropriateness of AI recommendations in light of prevailing medical standards. A breach of this duty may constitute medical malpractice. In the case of nearly-fully autonomous AI, the physician-AI relationship may shift toward a horizontal division of medical labor, allowing for the potential application of the principle of trust among actors. In product liability claims, AI’s complexity, opacity, unpredictability, and autonomy make it difficult for plaintiffs to prove the feasibility of reasonable alternative designs, thereby lowering the likelihood of success. The revised EU Product Liability Directive includes software within the definition of “product” and introduces measures such as evidence disclosure obligations and presumptions of defect to ease the plaintiff's burden of proof. Nonetheless, substantial limitations remain, particularly regarding autonomous AI systems. This study argues that assigning sole liability to physicians is undesirable for both patient protection and technological innovation. It explores alternative frameworks, including AI legal personhood, common enterprise liability, and strict (no-fault) liability. Drawing on the liability insurance model for autonomous vehicles, it proposes mandatory no-fault liability insurance for physicians or hospitals employing medical AI.
- 발행기관:
- 한국법학원
- 분류:
- 기타법학