인공지능의 편향성 평가와 관리에 관한 비교법적 연구 - NIST, EU, OECD 및 ISO 프레임워크를 중심으로 -
A Comparative Legal Study on Evaluation and Management of Bias in Artificial Intelligence - Focusing on NIST, EU, OECD, and ISO Frameworks -
전우정(한국과학기술원); 박단비(고려대학교)
74권 4호, 172~217쪽
초록
본 논문은 인공지능(AI) 기술의 급속한 발전과 이에 따른 사회적 영향력 확대라는 배경 속에서 최근 중요성이 부각되고 있는 인공지능 알고리즘의 편향성 문제를 다룬다. 먼저 AI 기술의 발전 역사와 최근 ChatGPT 등 생성형 AI 기술의 대중화로 인해 일상과 업무 환경에서 발생한 변화들을 소개하며 AI 편향성 문제의 심각성을 제기한다. 또한 우리나라 인공지능기본법을 비교법적으로 분석하여 체계적으로 정리한다. 본 논문은 AI 시스템이 데이터를 기반으로 학습하는 과정에서 발생할 수 있는 편향성의 원인을 구체적인 사례를 통해 분석한다. 특히 개발자의 주관적 판단과 데이터의 불충분한 대표성 등 다양한 요인들이 알고리즘의 편향을 야기하고, 이는 특정 집단이나 개인에게 차별이나 부정적 결과를 초래할 수 있음을 강조한다. 이에 대응하기 위해 데이터 공정성 확보, 알고리즘의 투명성 강화, 지속적 모니터링 및 평가 프로세스 구축 등 실무적이고 구체적인 해결 방안을 제안한다. 또한 본 논문은 국제적으로 논의되고 있는 주요 AI 위험관리 프레임워크인 미국의 NIST AI 위험관리 프레임워크(NIST AI RMF), 유럽연합(EU)의 AI Act, OECD AI 권고, 국제표준화기구(ISO)의 AI 위험관리 가이드(ISO/IEC 23894)를 비교 분석하여, 각 프레임워크가 법적 구속력, 적용 범위, 평가 방법에서 차이는 있으나, AI의 위험을 사전에 식별·평가·완화하여 신뢰할 수 있는 AI 구현이라는 공통 목표를 공유하고 있음을 밝힌다. 이러한 분석을 바탕으로 이 논문은 편향성 문제 해결을 위한 최적의 접근은 법적 강제력, 기술적 가이드라인, 윤리적 가치 제시를 혼합한 모델임을 제안하며, 정책 입안자와 기업, 개발자들이 국제적 기준과 윤리 원칙을 적극 수용하여 혁신과 안전의 균형을 이루는 AI 거버넌스 체계를 구축해야 한다고 결론짓는다. 또한 지속적 국제 공조와 다자간 협력을 통해 AI 위험관리 프레임워크를 발전시켜 나감으로써, 인간 중심의 신뢰성 높은 AI 생태계를 구축하고 글로벌 시장에서의 경쟁력과 지속 가능한 혁신을 실현할 수 있을 것으로 기대한다.
Abstract
This article addresses the increasingly critical issue of bias in artificial intelligence (AI) algorithms, set against the backdrop of rapid advancements in AI technologies and their expanding societal impact. Initially, the article presents an overview of the historical development of AI technology and the recent widespread adoption of generative AI systems, such as ChatGPT, highlighting significant changes in everyday life and professional environments while underscoring the severity of AI bias issues. Furthermore, this study provides a systematic and comparative legal analysis of South Korea’s AI Basic Act. Subsequently, the article analyzes specific cases illustrating how AI systems, trained on data, may become biased due to various factors including developers’ subjective judgments and inadequate data representation. Such bias can lead to discrimination and negative consequences for certain groups or individuals. In response, practical and concrete solutions are proposed, emphasizing the importance of ensuring data fairness, enhancing algorithm transparency, and establishing continuous monitoring and evaluation processes. Additionally, this article conducts a comparative analysis of major international AI risk management frameworks, including the NIST AI Risk Management Framework (NIST AI RMF) from the United States, the European Union’s AI Act, the OECD Council Recommendation on AI, and ISO/IEC 23894:2023 Guidance on AI Risk Management. Although these frameworks differ in their legal enforceability, scope, and evaluation methodologies, they share a common goal of proactively identifying, assessing, and mitigating AI-related risks to ensure reliable AI implementation. Based on this analysis, the article concludes that an optimal approach to addressing AI bias combines legal enforceability, practical technological guidelines, and ethical value propositions. The authors advocate for policymakers, businesses, and developers to actively adopt international standards and ethical principles to create a balanced AI governance framework that promotes both innovation and safety. Furthermore, the article emphasizes the importance of sustained international collaboration and multilateral cooperation in evolving AI risk management frameworks, ultimately aiming to establish a human-centered, trustworthy AI ecosystem capable of driving global competitiveness and sustainable innovation.
- 발행기관:
- 사단법인 법조협회
- 분류:
- 법학