설명가능한 AI(XAI)와 해명책임(Accountability)
Explainable AI and Human Accountability
박희수(이화여자대학교)
49권 3호, 5~24쪽
초록
소위 블랙박스 과학기술로서의 AI가 갖는 잠재적 위험성에 대한 우려가 커짐에 따라 AI의 투명성, 안전성, 신뢰성에 대한 요구도 높아지고 있다. 유네스코의 ｢AI 윤리 권고｣, 유럽연합의 ｢AI법｣ 등 AI에 관한 국제사회의 주요 권고와 입법에서도 투명성, 설명받을 권리와 설명할 의무, 윤리적 책임, 해명책임 등을 중요한 요소로 다루고 있다. 한편 AI에 대해 ‘윤리적 AI’ ‘책임 있는 AI’, ‘자율주행차’ 등 AI를 마치 인간과 같은 책임 주체로 오인케 하는 개념들의 무분별한 사용으로 인해, AI를 둘러싼 인간의 책임을 AI에게 부여하려거나, AI에게 요구되는 기술적 속성인 ‘설명가능성’을 심지어 인간이 부담하는 책임과 같은 성격으로 이해하려는 시도들이 나타나고 있다. 이에 본고는 AI 관련 주요 권고 및 입법에서 투명성·신뢰성 등을 주요 의제로 다루면서도 책임은 분명히 인간(자연인 내지 법인)에게 귀속시키고 있음을 확인하고, XAI라는 것도 결국 안전하고 신뢰할 수 있는 AI의 사용이라는 목표하에 인간이 해명책임을 다할 수 있게 돕는 기술적 속성으로 이해해야 하며, 결국 해명책임은 인간에게 귀속되는 것임을 분명히 하고자 하였다.
Abstract
As concerns about the potential dangers of AI as so-called “black-box” technology grow, so does the demand for transparency, safety, and trustworthiness of AI. In major recommendations and legislations on AI, such as ｢Recommendations on the Ethics of Artificial Intelligence｣(UNESCO), ｢AI Act｣(EU), the transparency, the right to be explained and the obligation to explain, ethical responsibility, and accountability are addressed as important features. Meanwhile, the misidentified concepts as “ethical AI,” “responsible AI,” and “autonomous vehicles,” are generally being used for AI. So there are also attempts to give an accountability for AI, or to understand ‘explainability’, a technical attribute of AI, as similar to accountability. Therefore, this paper attempted to clarify that the accountability is clearly attributed to persons(natural person or legal person) in major AI-related recommendations and legislations, that XAI is just a technical attribute to support human accountability, and that the accountability belongs to human, not AI.
- 발행기관:
- 법학연구원
- 분류:
- 기타법학