인공지능 연애와 딥페이크 관계의 확산에 따른 권리 침해와 규범 공백 - AI 페르소나 기반 정서적 관계의 법적․부패 위험 분석 -
Rights Violations and Regulatory Gaps Arising from the Expansion of AI-Mediated Romance and Deepfake Relationships- A Legal and Corruption-Risk Analysis of AI Persona-Based Emotional Relationships
김형기(sk 쉴더스); 윤철희(치안정책연구소); 윤승혜(남서울대)
30권 4호, 175~196쪽
초록
인공지능(AI) 기술의 급속한 발전은 의사결정이나 노동 영역을 넘어 인간의 감정과 친밀한 관계 영역으로까지 확장되고 있다. 특히 대화형 AI와 생성형 모델의 발전은 사용자가 AI 페르소나와 감정적 유대를 형성하거나 로맨틱한 관계를 맺는 현상을 가능하게 하였으며, 이는 이른바 ‘AI 매개 로맨스(AI-mediated romance)’라는 새로운 사회문화적 현상으로 등장하고 있다. 그러나 이러한 현상을 단순히 개인의 선택이나 디지털 문화의 일부로 보는 시각만으로는 그에 수반되는 법적 위험을 충분히 설명하기 어렵다. 본 연구는 AI 매개 로맨스와 딥페이크 기반의 감정적 관계가 플랫폼 설계, 알고리즘적 상호작용, 정보의 비대칭성에 의해 감정적 애착이 구조적으로 형성, 강화되는 현상임을 논의한다. 특히 AI 페르소나가 실제 인물을 모델로 하거나 딥페이크 기술과 결합될 경우, 인격권(정체성권, 사생활권, 정보자기결정권 등)의 침해로 이어질 수 있으며, 이러한 피해는 누적적이고 비가시적인 형태로 나타나 피해자나 제3자가 인식하거나 법적으로 문제를 제기하기 어렵다는 점을 지적한다. 또한 본 논문은 계약 및 약관규제, 개인정보보호법, 형법 등 현행 법체계가 개별적 행위나 명시적 불법성, 유형적 손해를 전제로 하고 있어, 플랫폼 기반 서비스에서 구조적으로 유발되는 감정 의존성과 책임의 분산 문제를 적절히 다루지 못하고 있음을 분석한다. 나아가 이러한 책임 공백(accountability gap)은 집중된 통제력, 책임 회피, 피해의 외부화와 같은 구조적 부패 위험을 초래할 가능성이 있음을 지적하며, 디지털 환경에서 AI 기반 감정 관계에 적합한 법적 책임 기준과 규제 접근의 재구성이 필요함을 강조한다.
Abstract
The rapid advancement of artificial intelligence (AI) technologies has extended beyond decision-making and labor domains into the realm of human emotion and intimate relationships. In particular, the development of conversational AI and generative models has enabled users to form emotional bonds and romantic relationships with AI personas, giving rise to what is commonly referred to as “AI-mediated romance.” While often framed as a matter of individual choice or emerging digital culture, this phenomenon entails significant legal risks that cannot be adequately explained by personal autonomy alone. This study argues that AI-mediated romantic and deepfake-based emotional relationships constitute a structural phenomenon in which emotional attachment is actively shaped and reinforced by platform design, algorithmic interaction, and information asymmetry. When AI personas are modeled on real individuals or combined with deepfake technologies, such relationships may lead to infringements of personality rights, including the right to identity, privacy, and informational self-determination. These harms are frequently cumulative and invisible, making them difficult for users or affected third parties to recognize and legally contest. The paper further examines the accountability gap surrounding AI romance services by analyzing the limitations of existing legal frameworks, including tort law, contract and standard-form regulation, data protection law, and criminal law. It demonstrates that current legal doctrines, which presuppose isolated acts, explicit illegality, or tangible harm, are ill-suited to address structurally induced emotional dependency and diffuse responsibility in platform-based services. From a broader governance perspective, this accountability gap may generate emerging corruption risks in the form of concentrated control, responsibility avoidance, and the systematic externalization of harm. The study concludes by emphasizing the need to reconsider legal responsibility standards and regulatory approaches suitable for AI-driven emotional relationships in the digital environment.
- 발행기관:
- 한국부패학회
- 분류:
- 행정학