생성형 인공지능의 범죄위험성 예측 및 형사정책적 대응방안
Predicting the Crime Risk of Generative AI and Countermeasures for Criminal Policy
이원상(조선대학교)
26권 3호, 93~123쪽
초록
이제까지 새로운 기술은 일부 전문가들만 사용할 수 있었고, 대중화되기까지 상당한 시간이 걸렸다. 그런데 생성형 AI는 2022년 11월 본격적으로 서비스된 이후로 빠른 속도로 대중화되고 있다. 이윤을 추구하는 기업들은 빠르게 생성형 AI를 수용하여 이익과 효율성을 높이고 있다. 그런데 그에 못지않게 범죄자들도 각종 범죄에 생성형 AI를 활용하고 있다. 따라서 기존 사이버범죄는 더욱 고도화되며, 생성형 AI를 활용하는 새로운 유형의 범죄도 예상된다. 형사사법 분야에서도 생성형 AI를 활용하려는 노력은 있지만, 사회나 범죄자에 비해 더딘 걸음을 보이고 있다. 하지만 이제는 생성형 AI를 활용하는 범죄에 대응하기 위해 생성형 AI를 형사정책 수단에 포함시키는 것을 지체할 수 없다. 생성형 AI를 활용하여 빠른 속도로 고도화 되는 사이버범죄에 전형적인 형사사법 도구로 대응하는 것에는 한계가 있기 때문이다. 그래서 본 연구에서는 생성형 AI를 활용하여 앞으로 발생할 수 있는 범죄유형을 예측하고, 생성형 AI를 활용하여 대응하는 방안들에 대해 살펴보았다. 그 결과 전통적으로 사람을 기망하여 이익을 취하는 범죄도 고도화될 것이고, 사이버범죄 가운데 해킹 범죄는 더욱 고도화 및 대중화 될 것이며, 개인정보를 침해하는 범죄유형이 단순히 개인 민감 정보, 신상 털기 등에 그치는 것이 아니라 개인의 디지털화 된 인격체 전부를 탈취할 수 있을 것으로 예상된다. 생성형 AI의 범죄위험성을 예측하기 위해 생성형 AI를 활용하고, 인간 전문가의 종합적인 견해로 판단한 결과이다. 생성형 AI와 관련된 범죄에 대해서는 형사정책에서 생성형 AI를 적극적으로 활용할 필요성이 있다. 다만, 생성형 AI라는 도구가 가지고 있는 한계를 인식하고 최종 판단은 결국 인간 전문가의 종합적인 견해가 있어야 할 것이다. 그리고 형사사법기관이 형사정책에 필요한 생성형 AI를 지속적으로 유지・보수・개발하고 운영하기 위해 적절한 예산과 전문 인력이 투입되어야 한다.
Abstract
Until now, new technologies have been available only to a select group of specialists and have taken a long time to gain widespread adoption, but generative AI is rapidly gaining traction since it became generally available in November 2022. Profit-driven companies have been quick to embrace generative AI to increase profits and efficiency. But criminals are just as quick to utilize it for their crimes. As a result, existing cybercrimes are becoming more sophisticated, and new types of crimes utilizing generative AI are expected. The criminal justice sector is also trying to utilize generative AI, but it has been slow to catch up with society and criminals. However, it is time to incorporate generative AI into criminal policy measures to counter crimes that utilize generative AI. This is because there are limitations to using traditional criminal justice tools to combat cybercrimes that utilize generative AI. As a result, crimes that traditionally deceive people to gain profits will become more sophisticated, hacking crimes will become more sophisticated and popular among cybercrimes, and crimes that infringe on personal information are expected to be able to steal an individual's entire digitized personality, not just personal information and identity theft. This is the result of utilizing generative AI to predict the criminal risk of generative AI and judging it based on the comprehensive views of human experts. It is necessary to actively utilize generative AI in criminal policy for crimes related to generative AI. However, it is necessary to recognize the limitations of generative AI as a tool, and the final judgment should be based on the comprehensive view of human experts.
- 발행기관:
- 한국비교형사법학회
- 분류:
- 법학