인공지능에 의한 개인정보의 자동 처리에 대한 투명성 확보에 관한 연구 -알고리즘에 의한 자동 의사결정에 따른 ‘설명권’ 도입을 중심으로-
A Study on Securing Transparency in Automated Processing of Personal Data by Artificial Intelligence -With a Special Reference to Introduction of ‘Right to Explanation’ in Automated Decision-making by Algorithm-
이대희(고려대학교 법학전문대학원)
200권, 298~324쪽
초록
알고리즘이 우리의 일상생활에 대하여 중요한 결정을 내리는 것이 증가하고 있으나, 이에 의하여 영향을 받는 사람들이 이러한 의사결정 과정에 관여하는 것은 미미하고, 이러한 의사결정이 어떻게 이루어지는지 거의 설명할 수 없다. 알고리즘은 문제점으로는, ① 알고리즘이 거의 투명하지 않은 비밀․불명료한 블랙박스이고, ② 알고리즘이 인과관계가 아니라 상관관계에 기초하여 작동하고 ‘설명’보다는 ‘예측’을 생성하고, ③ 알고리즘의 행태는 이해가능성․예측가능성이 결여될 수 있고, ④ 인지나 인식에 대한 지금까지의 방법을 무력화시킬 수 있는 등의 문제점을 야기하고, 따라서 알고리즘에 의한 자동 의사결정 시스템을 통제할 필요성이 있게 된다. 개인정보 규범에 의한 자동 의사결정의 규율에 대한 논의는 GDPR이 DPD의 규정을 최신화․확대 규정하고, 최근 인공지능의 급격한 발전․활용에 기초하고 있다. 알고리즘 투명성․책임성은 개인정보에 관한 일반법이 존재하지 않는 미국에서는 적법절차 등과 관련되어 최근 논의가 시작되었고, 유럽에서는 GDPR과 관련하여 논의되고 있으나 설명권과 관련하여 많은 쟁점들이 여전히 논의되고 있다. 곧 해외에서도 알고리즘에 의한 자동 의사결정에 대하여 설명권 등 정보주체의 권리에 관한 논의는 이제 그 논의가 시작된 새로운 쟁점이다. 국내적으로는 데이터 3법 개정에 의하여 자동화평가 결과에 대한 설명요구권 및 이의제기권을 부여(§36조의2)한 신용정보법이 개정되었다. 신용정보법의 내용은 GDPR과 사실상 동일한 측면도 있지만, 개인신용평가를 중심으로 하는 금융분야에 한정되는 것이고, 일반 개인정보에 대해서는 입법이 이루어지지 않았다. 그러나 2023년 3월 개인정보보호법 개정에 의하여 ‘자동화된 결정에 대한 정보주체의 권리’에 관한 규정(§37조의2)이 입법됨으로써, 한국도 GDPR과 거의 동일한 내용이 규정되었다. 이 글은 인공지능 알고리즘을 고려하여 정보주체를 보호하기 위하여 개인정보 규범에 알고리즘에 의한 자동 의사결정과 관련된 정보주체를 보호하기 위한 권리를 인정하여 정보주체를 보호하기 위한 개인정보 규범을 논의하고, 한국의 입법 및 이에 대한 개선안을 제안하고자 한다.
Abstract
Algorithms are increasingly making important decisions about our daily lives, but the people who are affected by them are rarely involved in the decision-making process and can rarely explain how these decisions are made. Algorithms are problematic because they are secretive and opaque black boxes with little transparency; they operate on the basis of correlation rather than causation, and generate "predictions" rather than "explanations"; their behavior can lack comprehensibility and predictability; and they can override traditional methods of cognition and perception, thus creating the need to control algorithmic decision-making systems. The discussion on the regulation of automated decision-making by privacy norms is based on the fact that the GDPR updates and extends the provisions of the DPD and the recent rapid development and use of artificial intelligence. Algorithmic transparency and accountability have recently been discussed in the U.S., where there is no general law on personal information, in connection with due process, and in Europe in connection with the GDPR, but many issues related to the right to explanation are still being discussed. Domestically, the Credit Information Act was amended by the amendment of the Data 3 Act to grant the right of explanation and objection to automated evaluation results (§36(2)). Although the contents of the Credit Information Act are virtually identical to those of the GDPR, it is limited to the financial sector centered on personal credit evaluation. In March 2023, the Personal Information Protection Act was amended to include a regulation on the rights of information subjects regarding automated decisions (§37(2)), which is almost identical to the GDPR. This article discusses the privacy norms to protect data subjects in light of artificial intelligence algorithms by recognizing the right to protect data subjects related to automated decision-making by algorithms in the privacy norms, and suggests improvements to the Korean legislation.
- 발행기관:
- 한국법학원
- 분류:
- 기타법학