소프트웨어 안전을 위한 입법정책 방안
A Study on Legislative Policy Measures for Software Safety
김윤명(전남대학교 데이터사이언스대학원)
25권 2호, 273~312쪽
초록
소프트웨어(SW)의 규모가 커지면서, 이에 비례하여 품질과 안전 확보의 필요성이 커지고 있다. SW 안전이 필요한 이유는 간명하다. SW는 다양한 영역에서 필수 설비와 같이 사용되지만, 내부적으로 어떻게 처리되는지를 확인하기에 어렵기 때문이다. 또한, 발생하는 문제의 파장이 크기 때문이기도 하다. 현실적으로 개발 과정에서 나타날 수 있는 SW의 결함을 완벽하게 통제하기 어렵다. 다만, 결함을 수용 가능하거나 또는 통제 가능한 수준으로 유지할 수 있는 상태를 SW가 안전하다고 할 수 있다. SW 안전은 SW의 복잡성, SW의 사용 환경, SW의 개발 및 운영 방식 등 다양한 요인으로 인하여 위협받는다. 무엇보다, SW 오류나 결함으로 재산 피해, 인명 피해, 환경 피해 등 다양한 문제를 일으킬 수 있으므로, 정부는 SW 안전에 대한 중요성을 인식하고 예방하기 위한 조치를 하여야 한다. 이를 위하여, SW 개발의 초기 단계부터 SW 안전은 고려되어야 하며, 개발, 테스트, 운영 등 SW의 생애주기 전반에 걸쳐 안전이 담보될 수 있도록 법제 정비가 이루어질 필요가 있다. SW 안전은 헌법상 안전권에 대한 논의를 통해, 구체화할 수 있을 것이다. 기계학습을 통하여 AI 알고리즘이 고도화되면서, 블랙박스 효과(black-box effect)에 따라 개발자도 결과에 대한 설명이 어려워지고 있다. 이러한 점에서 헌법상 파생적 기본권으로 SW 안전권과 SW 안전 거버넌스를 위한 제도 정비는 중요한 정책적 과제이다. SW 안전이 정부의 국정 과제에 포함된 이유라고 생각된다. 국민 안전을 위하는 것이 SW 안전 관련 법제도 및 정책이 추구하는 궁극적인 목표라는 점에서 국정 과제의 목적과도 크게 다르지 않기 때문이다. 이에 따라, 사전적 예방과 사후적 구제를 위해 SW 내부의 안전(Safety)과 외부의 보안(Security) 확보를 통해 안전한 디지털 사회 구현을 위해 다양하게 분산된 영역에서의 안전 체계와 거버넌스의 부재에 따른 정책 효과를 높이기 위한 방안으로서 SW 안전을 넘어 AI를 포함한 디지털 안전에 관한 거버넌스 체계를 위한 입법정책 방안을 제시하고자 한다.
Abstract
As the size of software (SW) increases, the need to secure quality and safety is increasing in proportion to this. The reason for the need for SW safety is simple. SW is used with essential facilities in various areas, but it is difficult to check how it is handled internally. It is also because the wavelength of the problem that occurs is large. In reality, it is difficult to completely control the defects in SW that may appear during the development process. However, it can be said that the SW is safe in a state in which the defect can be accommodated or maintained at a controllable level. SW safety is threatened by various factors such as the complexity of the SW, the environment in which the SW is used, and the way the SW is developed and operated. Above all, SW errors or defects can cause various problems such as property damage, human life damage, and environmental damage, so the government should recognize the importance of SW safety and take measures to prevent it. To this end, SW safety must be considered from the early stages of SW development, and legal maintenance needs to be carried out so that the safety can be guaranteed throughout the entire SW life cycle such as development, test, and operation. SW safety can be materialized through discussions on constitutional safety rights. As AI algorithms are advanced through machine learning, it is becoming difficult for developers to explain the results due to the black-box effect. In this regard, it is an important policy task to improve the system for SW safety rights and SW safety governance as constitutionally derived basic rights. I think this is why SW safety is included in the government's national task. This is because it is not very different from the purpose of the national task in that it is the ultimate goal pursued by SW safety-related legal systems and policies for public safety. Accordingly, for proactive prevention and ex post relief, we would like to propose legislative policy measures for a governance system related to digital safety, including AI, beyond SW safety as a way to increase the policy effect of the absence of safety systems and governance in various distributed areas to realize a safe digital society through securing internal and external security.
- 발행기관:
- 법학연구소
- 분류:
- 법학