인공지능산업 진흥에 관한 법률안에 대한 의견표명

Ⅰ.의견표명의 배경 인공지능(Artificial Intelligence; AI)은이른바 4차산업혁명으로대표되는 미래 신기술 및 신산업 혁신의 핵심적인 기술로서, 여러 다른 신기술과 융 합하여국가경제 발전의근간을 이룰 것으로 예상되고 있다. 그러나 인공지 능의 발전에 따라 기본적 인권이 침해되거나 차별이 야기될 수 있다는 지 적이국내·외에서제기되고있다. 제20대국회에서김경진국회의원은 2019. 11. 21. 「인공지능산업진흥에 관한 법률안」(이하 “인공지능산업법안”이라 한다)을 대표 발의하였다. 같 은 법률안은국가및 지방자치단체의 인공지능기술개발촉진, 인공지능산 업 진흥 환경 조성, 인공지능산업 진흥 기본계획 수립·추진 등의 내용을 담 고있다. 이에 국가인권위원회(이하 “인권위”라 한다)는 인공지능산업법안에 대 해 인공지능 개발 및 활용 과정에서 기본적 인권 보호 원칙을 반영할 필요 성이있는지에대해검토하였다. Ⅱ.검토 기준 「대한민국헌법」 제10조및제127조를판단기준으로하고, 유럽연합(EU) 2019. 4. 8. 「신뢰가능한 인공지능을 위한 윤리 가이드라인」, 경제협력개발 기구(OECD) 2019. 5. 22. 「인공지능에대한권고안」 등을참고기준으로하 였다. Ⅲ.인공지능에서의 인권 보호에 대한 검토 1. 인공지능 개관 가. 인공지능의 개념 인공지능의 개념에 대해서는 다양한 견해가 존재하나, 대체적으로는 인 간의 지적 능력을기계로 구현하는기술을 의미하며, 특히 최근에는 다양한 정보를 통해 패턴을 스스로 학습하고 그에 기반하여 사람의 지식이나 판단 과 매우 유사한 방식으로 과제를 수행하거나 문제를 해결하도록 지원하는 기술을지칭하고있다. 인공지능은 그 작동방식을 기준으로 크게 규칙기반 인공지능과 학습기 반 인공지능으로 구분할수 있다. 규칙기반인공지능은인간이 사전에 제시 한 규칙이나 기준 등에 따라 판단하고 결론을 도출하는 방식을 말한다. 반 면 학습기반 인공지능은 다양하고 방대한 데이터를 인공지능이 학습하고 이를 기반으로 스스로 판단하여 결론을 도출하는 방식을 말한다. 이러한학 습기반인공지능을 "머신러닝"(Machine Learning)으로지칭하기도한다. 나. 인공지능의 활용 인공지능이라는 용어 및 기본적 개념은 이미 1950년대에 등장하였으나, 2000년대 들어 머신러닝 기술이 본격적으로 등장하면서 획기적인 발전을 거듭하고 있으며 다양한 영역에서 활용되는 추세이다. 대중적으로 가장 널 리 알려진 인공지능 활용 사례는 2016년 우리나라의 이세돌 9단과 겨루어 4승 1패로 승리한 바둑 인공지능 "알파고"(AlphaGo)를 들 수 있다. 이 외 에도 스마트폰이나 가전제품에 탑재된 음성인식 비서, 인터넷 쇼핑몰이나 소셜미디어(Social Media)의개인맞춤형관심정보추출·제공기능등일상 생활에서다양한인공지능이활용되고있다. 최근에는 인공지능이 면접 및 채용, 형사재판, 난민심사, 범죄자의 재범 가능성 판단 등과 같이 사람의 삶과 인권에 직접 영향을 미치는 분야에 활 용되는사례가 새롭게 나타나고 있다. 국내의 일부 기업이나대학등에서는 직원의 채용이나 학생의 선발 과정에서 인공지능 면접을 도입하여 활용하 고 있다. 미국 일부 주에서는 더 나아가 인공지능을 범죄 재범가능성의 분 석이나 범죄 발생을 예측하는데 활용하는 것으로 알려져 있다. 예를 들어 미국의 "콤파스"(COMPAS) 시스템은 범죄자의 성장 배경, 기존 전과 등을 분석하여 재범가능성을 평가하고 형량 결정에 반영하고 있으며, 역시 미국 의 "프레드폴"(PredPol) 시스템은 기존 범죄 발생 데이터를 학습하고 이를 통해 강도, 절도 등 강력범죄가 언제 어디서 발생할지를 미리 예측하는 것 으로알려져있다. 2. 인공지능에 의한 인권침해 우려 인공지능은 방대한 데이터 분석과 학습을 기초로 하여 편견에 치우치지 않고 정확한 추론과 판단을 가능하게 하며, 이를 통해 경제적.사회적 혁신 을 이끌고 궁극적으로 인간의 삶을 보다 윤택하게 할 것이라는 기대를 받 고 있다. 그런데 최근 국내·외에서는 인공지능에 대해 낙관적 기대만 있는 것이 아니라, 인공지능의 활용 확산에 따라 인간의 기본적 인권이 침해될 수도있다는우려가새롭게제기되고있다. 현재 국내·외에서 주로 제시되는 인공지능에 의한 인권 침해 문제로는 인 공지능으로 인한 편향과 차별, 인공지능 기반 영상 인식·합성 기술로 인한 감시및인격침해, 인공지능판단과정의불투명성등을들수있다. 가. 인공지능으로 인한 편향과 차별 인간의 판단과 의사결정은 기존의 인적 친분관계, 편견, 고정관념 등 다 양한 요인에 의해 객관적이거나 공평하지 않은 결론이 나타날 수 있고, 더 나아가 자기 스스로도 알지 못하는 다양한 주관적, 내재적, 무의식적 원인 에 의해 판단과 의사결정이 좌우되는 문제, 즉 인지편향(cognitive bias)이 나타날 수 있다는 점이 알려지고 있다. 인지편향에 의해서 인간의 판단과 의사결정에 실제로 차별적 결과가 나타난다는 점에 대해서는 다양한 연구 와 사례가 제시되고 있다. 이러한 이유에서 인간의 주관적, 무의식적 요인 에 따르는 편향과 오류를 줄이고 데이터와 알고리즘에 기반한 객관적이고 정확한 판단을 얻기 위해 인공지능의 활용을 확대해야 한다는 목소리가 높 아지고있다. 그런데 최근에는 인공지능에 의한 판단에서도 인간과 유사한 편향이나 차별이 나타날 수 있다는 주장이 새롭게 제기되고 있다. 이를 기계 편향 (Machine Bias)이라고 부르고 있다. 인공지능에서 기계 편향이 나타나는 주요한 원인은 인공지능 개발 과정에서부터 개발자의 편향된 이념이나 사 상 등이 반영되는점, 인공지능이 학습하는데이터에 이미 사회적편견이나 차별적 요인이 내재되어 있어 인공지능도 그러한 편견·차별을 학습하는 점 등이지적되고있다. 인공지능의 활용 과정에서 기계 편향으로 인한 차별적 결과가 실제 발 생한 사례로, 미국 전자상거래 기업 아마존(Amazon)에서 개발한 인공지능 지원자 이력서 검토 시스템이 기존 남성 지원자 위주의 데이터를 학습한 결과 여성 지원자에 대해 타당한 이유 없이 감점을 주는 등 여성을 차별한 사례, 미국의 양형정보 판단 시스템 "콤파스"(COMPAS)가 피의자가 흑인 일 경우 향후 폭력범죄를 저지를 가능성을 별다른 이유 없이 타 인종 대비 최대 77% 높게 판단하는 등 인종을 차별한 사례, 미국 컴퓨터·소프트웨어 기업 마이크로소프트(MocroSoft)에서 개발한 채팅 인공지능 "테이"(Tay)에 대해 일부 인터넷 이용자들이 의도적으로 인종차별적 표현, 혐오표현 등을 지속적으로 학습시킨 결과 테이가 불과 몇 시간 만에 2차 세계대전 당시의 유태인 대학살을 옹호하는 등 혐오차별적 발언을 한 사례 등이 제시되고 있다. 나. 인공지능 기반 영상 인식·합성 기술로 인한 감시 및 인격침해 인공지능 기반 영상 인식 기술은 머신러닝 개발 초기부터 널리 연구되 어온 분야이다. 그런데인공지능영상인식기술 또한앞서검토한기계편 향의 문제점으로부터 자유롭지 못하며, 더 나아가 국가 및 기업에 의해 광 범위한감시와통제에악용될수있다는문제점이지적되고있다. 이에 주요 국가 및 기업 등에서는 인공지능 기반 영상 인식 기술의 위 험성을 지적하면서 이를 금지 또는 제한하는 방안을 논의하거나 적용 중에 있다. 예를들어유럽연합(EU) 집행위원회는 2020. 1. 얼굴인식기술의오용 을 방지하고 개인의 권리 보호 방안을 마련하기 위해 최대 5년간 공공장소 에서의 얼굴인식 기술 사용을 잠정 금지하는 방안을 검토 중이라고 밝힌 바있고, 미국인터넷기업구글(Google) 최고경영자순다르피차이(Sundar Pichai)도 2020. 1. 인공지능에기반한얼굴인식기술은부정적·비도덕적으로 악용될위험성이있어이를엄격히규제해야한다는견해를밝힌바있다. 특히 인공지능에 기반하여 특정 인물의 영상을 완전히 새롭게 합성하거 나 창조할 수 있는 딥페이크(Deep Fake) 기술의 위험성이 지적되고 있다. 딥페이크(Deep Fake) 기술은 기존의 영상 합성 기술과는 달리 인공지능에 기반하고 있어 특정 인물의 표정이나 이목구비의 세밀한 움직임, 심지어그 인물의 고유한 제스처나 목소리 등을 학습한 후 이를 인공적으로 구현할 수 있는 것으로 알려져 있다. 국내·외에서 딥페이크 기술을 이용하여 유명 여성 연예인을 포르노 영상에 합성하는 등의 새로운 범죄 유형이 나타나고 있다. 최근의 언론 보도에 따르면 전 세계 딥페이크 영상의 96%가 포르노 목적으로 제작되고 있으며, 포르노 영상에 얼굴이 합성된 피해자 중 한국 여성 연예인이 25%에 달하는 것으로 알려지는 등 인공지능 기술이 인간의 존엄성에심각한위협이될수있다는점을보여주고있다. 다. 인공지능 판단 과정의 불투명성 인공지능특히최근각광받고있는학습기반인공지능(머신러닝)은인간 의 인지범위를 넘어서는 뛰어난 판단을 내릴 수 있으나 정작 인공지능이 어떠한 이유에서 그러한 판단결과를 도출했는지는 인간이 알기 어려우며, 인공지능 스스로도 그러한 판단과정을 인간에게 설명하기 어렵다는 문제점 이있다. 이러한문제점을인공지능의불투명성이라고부르고있다. 바둑과 같은 게임에서 이긴다는 단순한 목적을 지닌 "알파고"와 같은 인공지능이라면 이러한 불투명성이 큰 문제가 되지 않을 수도 있으나, 인공 지능이 인간의 실생활이나 인권과 밀접한 영역에서 판단을 내리게 될 경우 에는 왜 그러한 가치판단을 내렸는지를 설명할 수 있는지가 중요한 쟁점이 된다. 이에 따라 최근에는 인공지능의 판단 과정과 논리에 대해 인공지능 스스로가 설명할 수 있도록 함으로써 투명성과 신뢰성을 확보하여야 한다 는 주장이 제기되고 있는바, 이를 "설명 가능한 인공지능"(explainable AI) 이라부르고있다. 3. 인공지능 활용에 따른 인권 보호 논의 가. 개요 앞서 본 바와 같이 인공지능의 기계학습 과정을 통한 차별적 결과 도출 등 인공지능으로 인한 인권침해 우려가 새롭게대두됨에 따라, 인공지능활 용에 따른 인권 보호 문제에 대해 규범적 대응이 필요하다는 견해가 국내· 외에서제기되고있다. 특히 주요 국제기구, 국가, 단체 등에서는 인공지능 개발과 활용에 있어 인권 존중과 보호가 필요하다는 공감대를 형성하고 있는 것으로 파악되며 실제 다수의국제기구, 국가 등에서 인공지능에서의 인권 보호 기준을 발표 하고있다. 나. 주요 국제기구, 국가, 단체의 인공지능과 인권·윤리 기준 2020. 4. 현재주요국제기구, 국가, 단체등에서는인공지능에서의인권 및윤리보호기준을다수발표하였다. 여기에는데이비드케이(David Kaye) 유엔의사표현의자유특별보고관 이 2018. 8. 발표하여제73차유엔총회에보고한 「인공지능이인권에미치 는영향보고서」, 유럽연합(EU)이전문가그룹의논의를거쳐 2019. 4. 채택 한 「신뢰 가능한 인공지능을 위한 윤리 가이드라인」(Ethics Guidelines for Trustworthy AI), 경제협력개발기구(OECD)가 회원국 간의 논의를 거쳐 2019. 5. 채택한 「OECD 인공지능이사회권고」(OECD Recommendation of the Council on Artificial Intelligence), 주요 20개국(G20)이 2019. 6. 개최된 "G20 오사카 정상회의"에서 채택한 「G20 인공지능 원칙」(G20 AI Principles), 국제개인정보보호감독기구협의체(International Conference of Data Protection and Privacy Commissioners; ICDPPC)가 2018. 10. 제40차 연례회의에서 채택한 「인공지능 윤리 및 개인정보 보호에 대한 선언」 (Declaration on Ethics and Data Protection in Artificial Intelligence), 일본 정부가 2019. 3. 발표한 「인간중심의인공지능사회원칙」(人間中心のAI 社 ?原則), 호주 국가인권위원회가 2019. 12. 발표한 「인권과 기술 보고서」 (Human Rights and Technology Discussion Paper), 국제전기전자기술자협회 (IEEE; Institute of Electrical and Electronics Engineers)가 2016. 12. 발표한 「윤리적으로조율된설계」(Ethically Aligned Design) 보고서등이있다. 이러한 기준 및 보고서들은 각기 인공지능에서의 인권 보호에 대한 다 양한 원칙과내용들을 담고 있는데, 그 중에서도공통적으로명시하거나강 조하는주요원칙들을살펴보면다음과같다. 첫번째로, 이들기준및보고서들은 인권및인간존엄성의존중을 최우 선적인가치로 명시하고있다. 즉 인공지능을 개발 활용하는모든이해관계 자는 인공지능의 개발, 배치, 활용 등 전 수명주기에서 인권과 인간존엄성 을 존중하고보호하도록하여야 하고, 인공지능의활용이 인간에게해가되 어서는안된다는것을강조하고있다. 두번째로, 인간의다양성존중및차별방지를우선적가치로명시하고 있다. 인공지능의 개발과 활용 과정에서 일자리 감소로인한근로의 권리나 직업선택의 자유를 침해할 우려가 있고 편견이나 차별을 조장하거나 지속 시킬 위험성이 있음을 지적하며, 인공지능이 사용(학습)하는 데이터에 내재 된편향, 불완전성등에대응하기위한조치가중요함을강조한다. 세 번째로, 인공지능 시스템의 투명성, 설명가능성 및 책임성의 확보를 중요시한다. 투명성 및 설명가능성이란 인공지능 시스템에 의해 내려진 판 단이나 결정에 대해 그 이유, 과정, 결과 등을 인간이 이해하고 추적하며 설명을받을수 있어야한다는 것이고, 책임성은인공지능의판단이나 결정 에 대해 책임을 질 수 있는 주체와 절차를 명확히 하고 그에 대한 법적·제 도적근거를갖추어야한다는것을말한다. 네 번째로, 인공지능 활용에 있어서 개인정보 및 프라이버시 보호를 강 조한다. 인공지능 기반의 시스템은 대부분 대량의 개인정보 수집 및 활용 즉 빅데이터(Big Data) 기술과 밀접히 연관되어 있고, 또한 개인의 민감한 정보나 프라이버시를 추적·감시하는데 활용될 여지가 있음을 지적하며, 인 공지능시스템의안전성및보안확보등도같이강조하고있다. 다. 우리나라의 인공지능과 인권·윤리 논의 동향 대한민국정부는 2019. 12. 17. 제53회국무회의에서과학기술정보통신부 등유관부처가공동으로마련한 「인공지능(AI) 국가전략」을발표하였다. 「 인공지능(AI) 국가전략」은인공지능기술·산업경쟁력확보등을통한인공 지능 생태계 구축, 인공지능 인재 양성과 교육 등을 통한 "인공지능을 가 장 잘 활용하는 나라" 달성, 인공지능으로 인한 역기능 방지 및 인공지능 윤리체계 마련 등을 통해 "사람 중심의 인공지능을 실현하는 나라" 구현 을주요내용으로담고있다. 특히 「인공지능(AI) 국가전략」은이미세계각국에서인간고유성담보, 안전성, 법적 책임등 인공지능윤리 문제에대응하기위한규범 마련을본 격화하고 있다고 지적하고, 글로벌 규범과 정합하는 "인공지능 윤리기준 확립과실천방안"을마련할것을명시하고있다. 방송통신위원회및정보통신정책연구원은 2019. 11. 주요기업과분야별 전문가의 의견수렴을 거쳐 「이용자 중심의 지능정보사회를 위한 원칙」을 발표하였다. 동 원칙의 세부적 내용을 살펴보면, 지능정보서비스는 사람의 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호하는 방향으로 이루 어져야 할 것, 투명성과 설명가능성, 책임성을 확보할 것, 알고리즘 개발과 사용 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력할 것, 개인정 보와프라이버시를보호할것등을명시하고있다. 4. 인공지능산업법안에 대한 검토 가. 개요 김경진 의원이 대표발의한 인공지능산업법안은 국가경제의 지속가능한 발전과 국민의 삶의 질 향상을 위해 인공지능산업을 국가 및 지방자치단체 의 지원 아래 체계적으로 육성할 수 있도록 하는 취지인바, 인공지능과 같 은 미래 첨단 신산업 지원을 위한 법률의 제정이 필요하다는 데에는 이견 이없다. 다만 인공지능산업법안은 인공지능 산업의 육성과 지원 관련 규정만을 두고 있고 앞서 살펴본 바와 같이 국내·외에서 그 필요성이 강조되고 있는 인공지능과 인권 보호에대한내용은 일절 반영하고있지않으므로, 아래에 서해당쟁점에대해검토한다. 나. 인공지능산업에 대한 인권 보호 원칙 반영 여부 검토 (1) 인공지능에서의 인권 보호 기준 마련의 필요성 인공지능은 인간의 삶과 인권에 영향을 미칠 것이라는 예측의 단계를 넘어서 이미 다양한 영향을 실제 미치고 있는 것으로 파악된다. 이러한 이 유에서유엔, EU, OECD 등주요국제기구와주요국정부, 국가인권기구등 에서는 인공지능에서의 인권 보호를 강조하면서 인공지능 기술과 산업에 적용되는기준마련에경쟁적으로나서고있음은앞서본바와같다. 우리 정부 또한 「인공지능(AI) 국가전략」, 「이용자 중심의 지능정보사 회를위한원칙」에서인공지능에서의인권·윤리기준필요성을강조하고있 고, 학계 및언론등에서도인공지능에있어서의 인권보호를위한기준마 련이필요하다는주장을하고있는것으로파악된다. 이러한논의를종합하여 보면인공지능 활용에 있어서의인권보호 기 준 마련이 필요하다는 데에는 별다른 이견이 없을 것으로 보인다. 다만 법 률 등 성문화된 규범에 의할 것인지 아니면 산업 주체에 의한 자율적 규제 에의할것인지등에대한이견이있을수있다고판단된다. (2) 인공지능산업법안에 인권 보호 원칙의 반영 필요성 2020. 4. 현재 인공지능 또는 인공지능산업을직접적인 규율 대상으로 하는 법률은 존재하지 않는 것으로 파악된다. 따라서 인공지능산업법안이 제정되는 경우에는 인공지능 관련 산업 육성에 대한 기본법이 될 것으로 예측된다. 인공지능산업법안은 법안 제안 이유에서 나타나있듯이 인공지능 관련 산업의촉진과 육성을 규정하기 위한 법률이므로, 동 법안에인공지능 활용 에 있어서의 인권 존중 관련 원칙을 두는 것은 입법 목적과 체계 상 적절 치않다는지적도있을수있다. 그러나앞서 살펴본국제기구등의인공지능과 인권 기준의 내용을 보 면, 인공지능의설계및 개발 단계에서부터이러한 원칙을 구체적으로 적용 하고 감독할 것을 강조하고있음을알 수있다. 즉 인공지능에서의인권보 호 기준은 무엇보다도 인공지능을 설계, 개발, 활용하는 산업 영역에서부터 최우선적으로 적용하는 것이 중요하다고 사료되며, 이러한 이유에서 인공지 능산업 육성을 규정한 인공지능산업법안에 인공지능 활용에서의 인권 존중 원칙을반영할필요성이있다고판단된다. 우리나라의 특정 산업·기술 분야에 대한 기본법, 진흥법 등의 입법례 를 살펴보면, 해당 산업·기술 분야에 대한 기본적·개괄적 이념이나 원칙을 규정함으로써해당산업·기술의운영및발전방향을제시하는입법례가다 수 존재하는 점도 참고할 필요가 있다. 예를 들어 과학기술혁신은 인간의 존엄을바탕으로경제·사회발전의원동력이되어야한다고규정하는 「과학 기술기본법」 제2조, 국가정보화의 추진을 통하여 인간의 존엄을 바탕으로 사회적, 윤리적 가치가 조화를 이루는 자유롭고 개방적인 지식정보사회의 실현과 발전을 기본이념으로 한다고 규정하는 「국가정보화기본법」 제2조, 콘텐츠제작자의 창의성 발휘, 콘텐츠에 관한 지식재산권의 국내외 보호, 콘 텐츠의 원활한 유통을 통한 문화 향유 등이 기본이념이라 규정하는 「콘텐 츠산업진흥법」 제3조등이그러하다. 다. 소결 이러한 논의를 종합하여 보면, 인공지능 기술의 개발촉진과 산업육성을 규정하는 인공지능산업법안에 인공지능에서의 인권 보호와 관련한 기본적· 개괄적 원칙 규정을 반영할 필요가 있다고 판단된다. 그 중에서도 앞서 국 내·외 주요 기준에서 가장 공통적이고 기본적으로 제시되는 사항과 같이, 인공지능에서의 인권 및 인간 존엄성 존중 원칙, 인공지능으로 인한 차별 방지 원칙이 반영되어야 한다. 이러한 내용을 담은 규정은 아래와 같이 하 고, 제1장총칙에포함시킬필요가있다. 제3조(인공지능산업에서의인권보호)①국가및지방자치단체,인공지 능사업자 등은 인공지능 산업에서 인간의 기본적 인권과 존엄성이 보 호되도록하여야한다. ② 국가 및 지방자치단체, 인공지능사업자 등은 인공지능의 개발, 제 조, 생산, 유통, 활용 등 모든 단계에서 차별과 편향이 발생하지 않도 록하여야한다. 한편 인공지능 산업에서의 인권 보호 원칙의 실효성을 담보하기 위한 수단 역시 마련할 필요가 있다. 이와 관련하여 인공지능산업법안 제5조는 과학기술정보통신부장관이 인공지능 기술의 개발 및 인공지능 산업의 진흥 을 위하여 인공지능산업 진흥 기본계획의 수립과 추진을 하도록 규정하는 바, 동조 제3항의 기본계획에 포함되어야 하는 사항에 "인공지능 산업에서 의인권보호에관한사항"을추가로포함하도록하는것이필요하다. Ⅳ.결론 이상과같은이유로 「국가인권위원회법」 제25조제1항에따라주문과같 이의견을표명하기로결정한다.