딥페이크 영상 제작에 따른 연예인의 인격권 침해 문제와 표현의 자유 보호 범위에 관한 헌법적 고찰
A Constitutional Study on the Infringement of Celebrities' Personality Rights via Deepfakes and the Scope of Freedom of Expression
김나래(명지전문대학)
110호, 1~30쪽
초록
본 연구는 생성형 인공지능(Generative AI) 기술의 비약적 발전이 엔터테인먼트 산업의 지형을 근본적으로 변화시키는 과정에서 발생하는 헌법적 난제들을 고찰하고, 특히 대중문화예술인의 인격권과 성적 자기결정권을 실효적으로 수호하기 위한 법제도적 조화 방안을 모색하는 데 목적이 있다. 인공지능에 의한 시청각적 형상화 기술인 딥페이크(Deepfake)는 창작의 지평을 확장하는 예술적 도구로서 헌법 제21조의 표현의 자유와 제22조의 예술의 자유라는 보호 영역에 놓여 있으나, 그 내면에 잠재된 압도적인 시각적 기망성과 무한 복제성은 타인의 인격을 도구화하는 파괴적인 권리 침해 수단으로 변모할 위험성을 동시에 안고 있다. 연구 결과, 대중문화예술인은 그 식별의 용이성과 대중적 영향력으로 인해 비동의 성적 합성물 및 악의적 허위 정보 유포의 주된 표적이 되고 있으며, 이는 단순한 초상권 침해를 넘어 성적 자기결정권의 본질적 파괴와 영구적인 인격적 낙인이라는 회복 불가능한 피해로 귀결되고 있음을 실증적 데이터를 통해 확인하였다. 특히 현행 사법 체계는 '반포 목적' 입증의 곤란함과 관대한 처벌 관행으로 인해 기술 발전 속도에 상응하는 범죄 억제력을 확보하지 못하고 있는 실정이다. 이에 본 연구는 헌법상 기본권 제한의 원칙인 과잉금지원칙을 준수하면서도 실효성 있는 보호 체계를 구축하기 위해 다음과 같은 다각적인 개선 방안을 제언하였다. 첫째, 법적 측면에서 ｢성폭력처벌법｣의 구성요건을 정밀화하여 제작 단계의 처벌 공백을 해소하고, ｢정보통신망법｣상 기술적 조작에 의한 명예훼손 가중 처벌 조항을 신설해야 한다. 둘째, 기술적 측면에서 EU의 AI Act를 참조하여 디지털 워터마크 부착 및 가상 정보 표시 의무화를 입법화함으로써 콘텐츠의 투명성을 확보하고 수용자의 알 권리를 보장해야 한다. 셋째, 플랫폼 사업자에게 EU의 DSA 모델에 기초한 위험 관리 및 '선(先)차단 후(後)조사' 의무를 부과하여 유통 단계에서의 확산을 선제적으로 억제하는 거버넌스를 구축해야 한다. 마지막으로, 엔터테인먼트 산업 내 자율 윤리 가이드라인 수립과 보편적인 디지털 리터러시 교육을 통해 기술과 인간의 존엄성이 공존할 수 있는 문화적 토대를 마련해야 함을 강조하였다. 본 연구가 제시한 법리적 논거와 정책적 대안들이 향후 대중문화예술인의 권익 보호와 건전한 미디어 생태계 조성을 위한 입법적 초석이 되기를 기대한다.
Abstract
This study examines the constitutional challenges arising from the rapid advancement of Generative AI, specifically Deepfake technology, within the entertainment industry and explores legal and institutional measures to effectively protect the personality rights and sexual self-determination of pop culture artists. While Deepfake technology, as an artistic tool for visual manifestation, falls under the protection of freedom of expression (Article 21) and freedom of the arts (Article 22) of the Constitution, its inherent visual deceptiveness and infinite replicability pose a simultaneous risk of transforming into a destructive means of infringing upon human dignity. The research findings, supported by empirical data, reveal that pop culture artists are primary targets of non-consensual sexual synthetic materials and malicious misinformation due to their recognizability and public influence. These infringements go beyond simple image rights violations, resulting in the fundamental destruction of sexual self-determination and irreparable social stigmatization. Furthermore, the current judicial system fails to secure sufficient deterrence commensurate with technological progress due to difficulties in proving the 'intent to distribute' and lenient sentencing practices. To establish an effective protection system while adhering to the constitutional principle of proportionality, this study proposes multifaceted improvement measures. First, from a legal perspective, the “Sexual Violence Punishment Act” should be refined to close loopholes in the production stage, and aggravated punishment clauses for defamation involving technological manipulation should be established under the “Information and Communications Network Act.” Second, from a technical standpoint, transparency must be secured by legislating mandatory digital watermarking and virtual information labeling, referencing the EU AI Act. Third, a governance system should be established to preemptively suppress distribution by imposing risk management and ‘take-down’ obligations on platform operators based on the EU Digital Services Act (DSA) model. Finally, the study emphasizes the need for establishing autonomous ethical guidelines within the entertainment industry and universal digital literacy education to foster a cultural foundation where technology and human dignity can coexist. The legal arguments and policy alternatives presented in this study are expected to serve as a cornerstone for protecting the rights of artists and creating a healthy digital media ecosystem.
- 발행기관:
- 법학연구소
- 분류:
- 법학