중국 인공지능 알고리즘 블랙박스에 대한 법적 규제
Legal Regulation of AI Algorithmic Black Boxes in China
공종잉(동아대학교); 천다펑(중국서남정치대학)
46권 3호, 41~74쪽
초록
알고리즘은 일종 첨단기술로서 사회운행효율을 크게 제고시켰고 사회발전모델의 혁신을 끊임없이 추진시켰다. 그러나 알고리즘 기술의 복잡성, 관련 법률과 정책의 결핍, 알고리즘 소양의 제한, 알고리즘 영업비밀의 보호 및 알고리즘 보안 등의 원인으로 인해 “알고리즘 블랙박스”가 형성되었다. 본 논문은 인공지능 알고리즘의 기본 이론으로부터 시작하여 알고리즘의 기원, 운영논리와 알고리즘의 응용 현황을 탐구하며, 알고리즘 블랙박스의 원인을 기술과 현실의 각도에서 분석하였다. 현재 “알고리즘 블랙박스”는 데이터주체의 프라이버시 침해, 알고리즘 편견 및 사유자본에 의한 공권력 약화 등의 위기를 가져왔다. 그러나 중국의 알고리즘 블랙박스에 관한 현행 입법은 알고리즘 기술의발전에 비해 많이 뒤떨어져 있고, 입법 분야가 단편적이고, 상대방의 권리보장이 실시되지 않는 등 부족한 점이 존재한다. 만약 조속히 법률을 제정하고 조치를 취해 블랙박스를 다스리지 않는다면 개인의 권리와 자유에 더욱 은폐하고 광범위한 위해를 조성하게 될 것이다. 알고리즘 투명성은 바로 알고리즘책임을 실현하는 중요한 메커니즘이다. 그러나 알고리즘의 상업비밀 속성, 기술의 복잡성 및 정보공개 대상의 기술능력 등 요소의 제한으로 인해 알고리즘투명성이 실현할 수 있는 효율성은 제한적이다. 만약 적당하게 알고리즘을 공개하지 않는다면 동일한 객체에서 서로 다른 권리와 이익 충돌을 초래하기 쉬우며, 심지어는 사회공공질서의 안정을 해치게 된다. 이에 알고리즘 거버넌스의 관건은 알고리즘 투명성 범위와 규칙을 설정하고 신뢰성 있는 알고리즘 심사기구를 구축하여 알고리즘 문책을 실현함으로써 알고리즘 블랙박스의 폐단을 해소하고 알고리즘 거버넌스의 효능을 향상시키는 것이다.
Abstract
As a cutting-edge technology,algorithms have greatly improved the efficiency of social operations and have continuously promoted the innovation of social development modes. However, due to the complexity of algorithm technology, the lack of relevant laws and policies, the limitation of algorithm literacy, the protection of algorithm trade secrets, and the maintenance of algorithm security, an “algorithm black box” has been formed. This paper starts from the basic theory of artificial intelligence algorithms, explores the origin, operation logic, and application status of these algorithms, and analyzes the causes of algorithm black box from technical and practical perspectives. At present, the “algorithmic black box” brings about the crisis of privacy infringement of data subjects, algorithmic bias, and the weakening of public power by private capital. If laws and measures are not introduced as soon as possible to regulate algorithmic black boxes, it will cause more hidden and widespread harm to individual rights and freedoms. Algorithm transparency is an important mechanism to achieve accountability of algorithms, but the effectiveness of algorithm transparency is limited due to the limitations of algorithms’ trade secrets, the complexity of algorithm technology, and the technical ability of information disclosure targets. Improper algorithm disclosure can easily lead to conflicts of rights and interests on the same object, threatening the stability of social public order. In this regard, the key to algorithm governance lies in setting the scope and rules of algorithm transparency, building a credible algorithm review institution, and realizing algorithm accountability so as to eliminate the drawbacks of algorithm black box and enhance the effectiveness of algorithm governance.
- 발행기관:
- 법학연구소
- 분류:
- 법학