생성형AI 프롬프트 인젝션의 형사법적 규제 방안 연구: 한미 비교법적 분석을 중심으로
A Study on Criminal Law Regulation Measures for Generative AI Prompt Injection: Focusing on a Comparative Legal Analysis between Korea and the US
배경(경찰대학 치안대학원); 백창원(한국과학기술연구원)
39권 2호, 47~92쪽
초록
생성형 인공지능(GAI) 기술의 발전은 '프롬프트 인젝션'과 같은 심각한 보안 위협을 야기하며 효과적인 법적 대응 마련을 요구하고 있다. 본 연구는 프롬프트 인젝션 공격의 기술적 위험성과 그로 인해 파생되는 형사법적 쟁점을 분석하고, 한국과 미국의 관련 법률 체계 및 규제 동향을 비교법적으로 검토하였다. 연구 결과, 한국과 미국 모두 프롬프트 인젝션을 직접 규율하는 법률 없이 기존의 사이버 범죄 관련 법률(한국: 정보통신망법, 형법 등 / 미국: CFAA, 연방 통신 사기법 등)을 적용하려 시도하고 있다. 그러나 AI 시스템의 특수성으로 인해 '침입', '권한 초과 접근', '위계' 등 기존 법률 개념을 해석하고 적용하는 데 상당한 법리적 불확실성이 존재한다. 규제 접근 방식에서도 한국은 'AI 기본법' 제정을 통해 포괄적인 신뢰 기반 조성을 목표하는 반면, 미국은 NIST 가이드라인 등을 중심으로 보다 분산적이고 유연한 접근을 취하는 차이를 보인다. 또한 민사 책임 영역에서도 영업비밀, 저작권, 명예훼손 등 다양한 법적 쟁점이 존재하나 명확한 기준은 부족하다. 결론적으로 프롬프트 인젝션 위협에 효과적으로 대응하기 위해서는 다층적 기술 방어 체계 구축과 더불어, 견고한 AI 거버넌스 체계 확립 및 법적, 제도적 정비가 시급하다. 기술 혁신과 사회 안전의 균형을 위해 기술 커뮤니티, 정책 입안자, 법률 전문가 등 이해관계자 간의 지속적인 논의와 협력이 필수적임을 강조한다.
Abstract
The advancement of Generative Artificial Intelligence (GAI) technology poses serious security threats such as 'prompt injection,' demanding effective legal responses. This study analyzes the technical risks of prompt injection attacks and the resultant criminal law issues, comparatively examining the relevant legal systems and regulatory trends in South Korea and the United States. Findings indicate that both countries lack specific legislation directly regulating prompt injection, instead attempting to apply existing cybercrime statutes (e.g., Network Act, Criminal Act in Korea / CFAA, Wire Fraud Act in the US). However, significant legal uncertainty exists in interpreting and applying established legal concepts such as 'intrusion,' 'exceeding authorized access,' or 'deceit' due to the unique technical characteristics of AI systems. Regulatory approaches also differ: South Korea aims to establish a comprehensive foundation of trust through its enacted 'AI Basic Act,' whereas the US adopts a more decentralized and flexible approach centered around guidelines like those from NIST. Furthermore, various legal issues concerning civil liability, including trade secrets, copyright, and defamation, arise, yet clear standards are lacking. In conclusion, effectively countering the threat of prompt injection requires not only the establishment of multi-layered technical defense systems but also robust AI governance frameworks and urgent legal and institutional adjustments. The study emphasizes the necessity of continuous dialogue and cooperation among stakeholders—including the tech community, policymakers, and legal experts—to strike a balance between technological innovation and societal safety.
- 발행기관:
- 치안정책연구소
- 분류:
- 경찰행정