생성형 AI를 이용한 딥페이크 음란물에 대한 형사법적 가벌성
A Study on the Criminal Liability Regarding Deepfake Pornography Using Generative AI
한성훈(대덕대학교)
36권 3호, 73~90쪽
초록
본 연구는 생성형 인공지능(Generative AI)을 활용한 딥페이크 음란물 제작·유포 행위가 현행 대한민국 형사법 체계, 특히 성폭력처벌법 제14조 및 제14조의2로 충분히 규율될 수 있는지 여부를 법리적으로 분석하였다. 앞서 살펴본 바와 같이 2024년 개정으로 허위영상물의 제작·유포·소지·시청까지 규제 범위가 확장되었음에도 불구하고, 여전히 여러 구조적 한계가 존재함을 확인하였다. 첫째, 피해자 특정성 요건은 실존 인물에 대한 동일성을 중심으로 설계되어 있어, AI 순수 제작물이나 실존 인물과의 현저한 유사성만을 가진 합성물은 규제 사각지대에 놓일 수 있다. 둘째, '촬영물' 전제를 전제로 한 구성요건은 원본 자료 없이 생성된 영상에 대한 적용을 곤란하게 하며, 이는 생성형 AI 기술의 현실과 괴리된다. 셋째, '편집·합성·가공'이라는 한정적 행위 유형은 '제작' 행위를 포함하지 않아, AI 순수 생성물에 대한 처벌 가능성을 본질적으로 제약한다. 넷째, 구성요건의 추상성과 명확성 원칙 간의 긴장, 기술적·증거법적 입증 곤란, 국제적 집행 공백 역시 실효적 규율을 저해하는 요인으로 작용한다. 이에 대한 개선방안으로 첫째, 행위 유형에 '제작'을 명시하여 AI 순수 제작물을 규제 대상으로 포함시킬 것. 둘째, 피해자 특정성 기준을 '동일성'에서 '현저한 유사성'으로 완화하고, 피해자 없는 합성물에 대해서도 사회적 법익을 근거로 규율할 것. 셋째, '촬영물' 전제성을 완화하여 기술 중립적 문언으로 개정할 것. 넷째, 명확성 원칙을 확보하기 위해 구성요건 용어를 구체화하고 국제 기준을 참고할 것이다. 궁극적으로 AI 기술의 발전 속도와 그에 따른 사회적 영향력을 형사법이 적시에 완벽하게 대응하기에는 근본적인 한계가 존재할 수밖에 없다. 이는 새로운 범죄 양태에 대한 처벌의 필요성과 사회적 요구가 증대하더라도, 형사법의 대원칙인 죄형법정주의와 명확성 원칙이 우선적으로 고수되어야 하기 때문이다. 따라서 입법적 보완은 기술적 진보를 예측하며 능동적으로 이루어져야 할 것이며, 단순히 처벌만을 강화하는 것을 넘어 피해자 보호와 권리 구제 방안을 종합적으로 모색하는 균형 잡힌 접근이 필수적이다.
Abstract
Since the “Nth Room” case in 2019, deepfake sexual crimes have emerged as a new form of digital sexual violence, with a recent spike in both perpetrators and victims among teenagers. Deepfake sexual crimes, in which real people’s faces are synthesized into pornographic images or videos, cause serious psychological and social harm to victims and spread rapidly online, leading to secondary victimization. In response, the government and the National Assembly amended “Act on Special Cases Concerning the Punishment, etc. of Sexual Crimes” three times in 2024, expanding punishment to include not only the production and distribution of deepfake sexual materials, but also possession and viewing. Additional measures, such as special investigation procedures, confiscation and additional collection of criminal proceeds, and expedited removal and blocking of illegal content, have been introduced to strengthen victim protection. Despite these efforts, challenges remain, including the rapid proliferation and difficulty of recovery due to advances in artificial intelligence and the nature of online distribution, the decreasing age of both young offenders and victims, and limitations in victim assistance. This study analyzes the concept and current status of deepfake sexual offenses, recent legislative and policy responses, and highlights the need for further legislative and policy improvements to ensure effective victim protection and prevention.
- 발행기관:
- 한양법학회
- 분류:
- 법해석학