생성형 인공지능 생성물의 출처 표시에 관한 중국 법률 및 판례 분석
Analysis of Chinese Laws and Cases on the Indicate the source of Generative AI Outputs
황선영(부산대학교)
106호, 333~358쪽
초록
생성형 인공지능 기술의 발전으로 다양한 부작용이 발생하고 있다. 국내에서는 인공지능을 활용한 합성 콘텐츠 제작이 빠르게 확산하면서 팁페이크 포르노, 보이스피싱, 가짜 뉴스 등의 사회적 문제가 심각하게 대두되고 있다. 이러한 문제는 개인의 프라이버시와 안전을 침해하는 것을 넘어, 정보의 신뢰성과 사회 시스템의 안전성까지 위협하고 있다. 인공지능 기술이 고도화됨에 따라 생성형 인공지능을 활용한 콘텐츠의 양이 폭발적으로 증가하고 있지만, 이에 대한 규제는 여전히 미흡하거나 제한적인 수준에 머물러 있다. 기술 발전 속도를 사회적·법적 장치가 따라가지 못하면서 사회적 피해가 점점 심화되고 있다. 특히 저작권 분야에서 생성형 인공지능의 문제가 두드러지게 나타나고 있다. 저작권 문제의 핵심은 생성형 인공지능이 데이터 학습 과정에서 권리자의 허락 없이 저작물을 활용하는 사례가 증가하고 있다는 점이다. 이는 저작권 침해로 이어져 권리자의 경제적 손실과 창작자의 권리 훼손을 초래할 수 있다. 또한, 인공지능이 생성한 콘텐츠와 인간이 창작한 콘텐츠의 구분이 점점 더 모호해지는 상황이 증가하고 있다. 이에 따라서 여러 국가에서는 생성형 인공지능이 생성한 생성물에 대해 출처 표시를 의무화하는 등 저작권 보호와 투명성을 강화하려는 규제 움직임을 보인다. 또한, 생성형 인공지능 서비스 제공자에게도 책임과 의무를 부과하려는 논의가 점차 확산되고 있다. 2023년 7월, 중국은 세계 최초로 「생성형 인공지능 서비스 관리 잠행방법」을 공포하였다. 이 규제는 생성형 인공지능 서비스의 제공 및 이용과 관련한 관리·감독체계를 포함하며, 인공지능이 생성한 생성물에 대한 표시 의무를 명시하고 있다. 특히, 소위 ‘울트라맨 사건’에서 중국 법원은 이 잠행방법을 근거로 생성형 인공지능 서비스 제공자의 저작권 침해 책임을 인정하며 국제적인 주목을 받았다. 이 판결은 생성형 인공지능 서비스 제공자의 주의 의무와 책임 범위를 구체적으로 논의하는 출발점으로 평가되고 있다. 중국은 생성형 인공지능 기술이 빠르게 발전하는 과정에서 발생하는 부작용을 해소하기 위해 「생성형 인공지능 서비스 관리 잠행방법」을 신속히 제정하였다. 이를 바탕으로 생성형 인공지능 서비스 제공자의 책임을 명확히 하고, 저작권 침해 책임을 부과하는 등 새로운 기술로 인해 발생하는 법적·사회적 변화에 적극적으로 대응하는 태도를 취하고 있다, 특히, 중국의 이러한 접근 방식은 기존 법률 개정보다 신속한 행정 규정을 활용하여 규제 체계를 마련했다는 점에서 매우 선제적이고 효과적인 대응으로 평가된다. 그러나 중국은 법률 단계가 아닌 관련 행정 규정을 통해 저작권 보호, 생성형 인공지능 생성물에 대한 책임을 논의하고 있다는 점에서 추후 법률 단계의 보호 체계 강화도 필수적이라 할 것이다.
Abstract
The rapid advancement of generative artificial intelligence (AI) technology has led to various negative consequences. In South Korea, the widespread use of AI-generated synthetic content has raised serious social issues, including deepfake pornography, voice phishing, and fake news. These problems not only infringe on individuals' privacy and safety but also threaten the reliability of information and the stability of social systems. As AI technology continues to evolve, the volume of AI-generated content is increasing exponentially. However, regulations remain insufficient or limited. The rapid development of technology has outpaced legal and social frameworks, exacerbating social harm. This issue is particularly evident in the field of copyright, where AI frequently utilizes copyrighted materials without the permission of rights holders during the training process. This results in copyright infringement, leading to financial losses for rights holders and undermining the rights of creators. Furthermore, the distinction between AI-generated and human-created content is becoming increasingly ambiguous. In response, several countries are moving to strengthen regulations by mandating clear labeling of AI-generated content to enhance transparency and copyright protection. Additionally, discussions on imposing responsibilities and obligations on AI service providers are gaining momentum. In July 2023, China became the first country to introduce the Interim Measures for the Management of Generative AI Services, a regulatory framework that governs the provision and use of generative AI services. This regulation explicitly mandates the labeling of AI-generated content. Notably, in the Ultraman case, the Chinese court held an AI service provider liable for copyright infringement under this framework, attracting international attention. This ruling is considered a pivotal moment in defining the duty of care and legal responsibility of AI service providers. China has swiftly enacted the Interim Measures to address the unintended consequences of generative AI's rapid development. By clearly defining the responsibilities of AI service providers and imposing copyright liability, China is establishing a proactive regulatory model to tackle the legal and social challenges posed by emerging technologies. Its approach, which prioritizes administrative regulations over legislative amendments, has been recognized as both preemptive and effective. However, as China currently relies on administrative guidelines rather than formal legislation to govern copyright protection and AI-generated content accountability, further legal reinforcement at the legislative level remains necessary.
- 발행기관:
- 법학연구소
- 분류:
- 법학