AI 거버넌스의 새로운 축(軸) ― 영향평가제도에 관한 연구 ―
A Study on Impact Assessment Systems — A New Pillar of AI Governance —
윤혜선(한양대학교 법학전문대학원)
53권 2호, 377~424쪽
초록
디지털 전환이 가속화되면서 데이터(Data), 플랫폼(Platform), 인공지능(AI)은 상호 연계된 하나의 생태계(이하 ‘DPA’)를 형성하며 현대 사회의 근간이 되고 있다. 특히 AI 시스템은 DPA 생태계의 중추적 구성요소로서, 혁신적 가치를 창출하는 한편 데이터 편향, 알고리즘 차별, 디지털 소외와 같은 새로운 리스크를 초래한다. 이러한 맥락에서 영향평가제도는 AI 거버넌스의 새로운 축으로 부상하며, AI 시스템의 혁신을 저해하지 않으면서 부정적 외부효과를 효과적으로 통제할 수 있는 핵심적 규제 수단으로 주목받고 있다. 이 글은 리스크평가와 영향평가의 관계를 이론적으로 고찰하고, 미국, 캐나다, EU와 함께 우리나라의 AI 영향평가제도 입법 사례를 비교법적으로 분석하였다. 이를 통해 영향평가제도가 AI 규제의 패러다임적 전환을 가져옴을 확인하고, 보편적 평가 모델의 부재와 리스크・영향 관계라는 두 가지 핵심 쟁점을 도출하였다. 이러한 분석을 바탕으로 국내 AI 영향평가제도의 바람직한 설계 방향으로 세 가지를 제시한다. 첫째, 리스크와 영향을 통합적으로 고려하는 평가체계 구축, 둘째, 단계적・차등적 접근방식의 채택, 셋째, 실효성 있는 거버넌스 체계의 구축이다. 이 글의 분석과 제언이 디지털 융합 시대에 걸맞은 새로운 규제 거버넌스 체계를 구축하는 데 기여할 수 있기를 기대한다.
Abstract
As digital transformation accelerates, Data, Platform, and Artificial Intelligence (hereinafter “DPA”) are forming an interconnected ecosystem and becoming the foundation of modern society. In particular, AI systems, as a pivotal component of the DPA ecosystem, create innovative value while simultaneously generating new risks such as data bias, algorithmic discrimination, and digital exclusion. In this context, impact assessment systems are gaining attention as a new axis of AI governance and as a key regulatory tool that can effectively control negative externalities without hindering AI systems' innovative potential. This article theoretically examines the relationship between risk assessment and impact assessment, and conducts a comparative legal analysis of AI impact assessment legislation in the EU, US, Canada, and Korea. Through this analysis, it confirms that impact assessment systems bring about a paradigm shift in AI regulation and identifies two key issues: the absence of a universal assessment model and the relationship between risk and impact. Based on this analysis, three directions are proposed for designing Korea's AI impact assessment system: first, establishing an assessment framework that integrates risk and impact considerations; second, adopting a phased and differentiated approach; and third, building an effective governance system. This article anticipates that its analysis and recommendations can contribute to establishing a new regulatory governance system commensurate with the digital convergence era.
- 발행기관:
- 한국공법학회
- 분류:
- 법학