차별에서 공정성으로:인공지능의 차별 완화와 공정성 제고를 위한 제도적 방안
From Discrimination to Fairness: Institutional Ways to Reduce the Bias and Enhance the Fairness of Artificial Intelligence
김건우(광주과학기술원)
61권, 109~143쪽
초록
사회 각 분야에 인공지능이 도입되고 활성화됨에 따라, 이와 관련하여 다양한 사회적·윤리적·법적 쟁점도 대두되고 있다. 그 중 가장 두드러진 것은 인공지능의 판단이나 의사결정의 결과가 사회가 원하지 않는 종류의 편향과 차별을 띨 수 있다는 점이다. 인공지능 알고리즘에 따른 의사결정도 인종·젠더·연령·외모 등 다양한 측면에서 편향을 드러낼 수 있으며, 이러한 편향도 인간의 의사결정에서 드러나는 편향 못지않게 심각할 수 있다는 것이다. 본고는 이러한 문제와 관련하여 다음과 같은 정책적 대응 방안을 제시하고 논의하였다. 일차적으로 인공지능의 설계와 활용 및 평가 등 모든 단계에서 국제인권규범이나 국내 법규상의 차별 금지에 관한 규율을 충실하게 준수해야 한다. 다만 이러한 경성 규범을 활용할 때에는 신중할 필요가 있고, 연성 규범을 적극적으로 활용하는 것이 더욱 권장할 만하다. 주지하듯, 국가와 정부기구에서부터 국제기구나 전문가집단, 그리고 민간 기업에 이르기까지 여러 주체들은 이미 인공지능의 활용에 관한 윤리 가이드라인과 규약, 그리고 헌장 등을 제시한 바 있으며, 우리 정부나 기관들도 이같은 규범을 제정하고 준수할 필요가 있다. 인공지능 개발자 선서나 행동규약을 제정하여 준수하게 하는 것도 유사한 의의와 효용이 있을 수 있다. 보다 근본적이고 직접적인 해결책으로, 애초에 ‘선한’ 인공지능을 설계하고 제조하고자 관련 연구개발에 노력할 필요도 있다. 그리고 인공지능(알고리즘)에 대한 사전 영향 평가나 사후 감사도 필요하다. 뿐만 아니라, 인공지능의 입출력물을 공개하는 한편 이용자로부터 설명 요청이 있을 때에 컨트롤러가 이에 응하는 것을 의무화하는 방안도 유력하다. 끝으로, 이른바 인공지능 시민권을 보장하는 차원에서, 인공지능과 관련한 시민의 전반적 이해도와 역량을 강화하는 것이 필요하다.
Abstract
With the widespread introduction and use of artificial intelligence today, there arise a variety of relevant social, ethical and legal issues. The most remarkable among them is the issue that the outcome of the decision-making made by artificial intelligence can involve bias or discrimination of the kind as the society does not want to accept. That is, such decision-making can involve vicious bias in various aspects including race, gender, age, and looks. This bias can be a problem as serious as the bias typically found in decision-making made by humans. This paper attempts to offer and discuss the following policies as responses to this problem. First of all, we would need to respect and obey the regulations and norms of international and domestic human rights laws on anti-discrimination―at the entire stages of design, use and assessment of artificial intelligence. It is recommended, however, that in the process we take advantage of the so-called soft laws rather than hard laws. In this regard, a variety of agencies including the states, governmental agencies, international agencies, expert groups, and private corporations have already proposed ethics principles, guidelines, and charters. The Korean government then also need to make endeavors similar to these proposals. In a similar vein, it would also be useful to let the developers make a declaration and codes of conduct that ensure artificial intelligence to be somehow ethical, and the developers to obey them. As a more fundamental and direct solution to the problem at issue, in the process of R&D we would need to try to design and make ‘good’ artificial intelligence as such. Next, it would also be useful to make assessment and audit of the system and service of artificial intelligence. In addition, it would also be thinkable to institutionalize to open the inputs and outputs of artificial intelligence to the users and to make it a duty for the controllers to respond to them when they claim to an explanation of the output. Lastly, we would need to enhance the literacy and capacities of users as citizens on artificial intelligence in order to secure their so-called ‘artificial intelligence citizenship.’
- 발행기관:
- 부설법학연구소
- 분류:
- 법학교육