생성형 AI 유해 콘텐츠의 한국형 분류체계 개발: 법률, 정책, 사회문화적 측면에서
A Study on the Korean Classification System for Generative AI Harmful Content: Focusing on Legal, Policy, and Socio-Cultural Aspects
이재식(한국인터넷진흥원)
35권 4호, 907~925쪽
초록
생성형 인공지능(Generative AI), 특히 대규모 언어 모델(LLM)의 확산은 이용자의 의도적 행위로 인해 AI가 불법적·비윤리적 콘텐츠를 생성하는 문제를 야기할 수 있다. 기존 AI 안전성 연구는 주로 모델의 기술적 한계에 집중되었으며, 이용자가 유발하는 유해성 문제에 대한 체계적 대응은 상대적으로 부족했다. 본 연구에서는 ‘이용자 유발 유해성(User-Induced Harm)’ 문제를 분석의 핵심 틀로 삼아, 한국의 법률 체계(14개 법률), 주요 AI 기업 정책(7개 기업), 사회문화적 특수성을 종합적으로 분석하여 ‘한국형 생성형 AI 유해 콘텐츠 분류체계’를 설계한다. 제안된 분류체계는 8개 대분류와 23개 세부 유형으로 구성되며, 각 유형에 대해 법적 근거, 기업 정책 반영 여부, 한국적 민감성과 가치 기준을 통합적으로 제시한다. 본 연구는 한국 사회에 적합한 AI 콘텐츠 안전 기준 마련에 기여하고, 이용자 행위 중심의 AI 위험 관리를 위한 구체적인 기준틀을 제시한다.
Abstract
The proliferation of generative artificial intelligence (Generative AI), particularly large language models (LLMs), raises concerns about the creation of illegal and unethical content caused by users’ intentional misuse. While existing AI safety research has primarily focused on the technical limitations of models, systematic responses to user-induced harm have been relatively insufficient. This study centers its analysis on the concept of “User-Induced Harm,” and constructs a “Korean Classification System for Generative AI Harmful Content” by comprehensively analyzing the Korean legal system (14 laws), major AI company policies (7 companies), and socio-cultural specificities (including domestic studies). The proposed framework comprises 8 main categories and 23 subtypes, offering an integrated classification system that reflects legal grounds, corporate policy alignment, and Korean societal sensitivity and values. This research contributes to establishing AI content safety standards tailored to Korean society and presents a concrete framework for managing AI-related risks from a user-centric perspective.
- 발행기관:
- 한국정보보호학회
- 분류:
- 컴퓨터학