「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안」에 대한 의견표명

I. 검토 배경 인공지능은 방대한 데이터 분석과 학습을 기초로 하여 정확한 추론과 판 단을 가능하게 함으로써 경제적·사회적 혁신을 이끌고 궁극적으로 인간의 삶을 더욱 윤택하게 할 것이라는 기대를 받고 있으나, 한편으로는 인공지능 의 활용 확산에 따라 기본적 인권이 침해될 수도 있다는 우려가 제기되고 있다. 국가인권위원회(이하 "위원회"라 한다)는 이와 같은 문제점을 예방하고 자 2022. 4. 11. 정부에 "인공지능 개발과 활용에 관한 인권 가이드라인(이 하 "인공지능 인권 가이드라인"이라 한다)을 제시하고, 동 가이드라인에 기초하여 관계 법령을 제·개정할 것을 권고한 바 있다. 국회(과학기술정보방송통신위원회 정보통신방송법안심사소위원회)는 2022. 12. 15. 인공지능과 관련하여 당시까지 제안된 법률안 7개를 통합하여 대안 을 만들기로 의결하였다[대안 2023. 2. 14. 「인공지능산업 육성 및 신뢰 기 반 조성 등에 관한 법률안(이하 "인공지능 법률안"이라 한다)」]. 이에 위원회는 인공지능에 관한 기본법의 지위를 가지게 될 인공지능 법 률안이 인공지능 개발·활용 과정에서 발생할 수 있는 인권침해 및 차별 문제를 방지하기 위한 제도적 기반을 갖추고 있는지 등에 대해 인공지능 인권 가이드라인을 토대로 「국가인권위원회법」(이하 "위원회법"이라 한 다) 제19조 제1호 및 제25조 제1항에 따라 검토하였다. II. 판단 및 참고 기준 1. 판단 기준 「대한민국헌법」 제10조, 제11조 및 제17조, 「지능정보화 기본법」 및 「개인정보 보호법」(2023. 3. 14., 일부개정, 2023. 9. 15. 시행 예정)을 판단 기준으로 하였다. 2. 참고 기준 위원회 인공지능 인권 가이드라인, 유엔 인권이사회 "디지털 시대 프라 이버시권 보고서(A/HRC/48/31)", 유럽연합 「일반 개인정보보호법(GDPR ))」, 유럽연합 "인공지능 기반 서비스 및 솔루션의 공공조달의 데이터 윤 리 백서(White Paper on Data Ethics in Public Procurement of AI-based Services and Solutions, 이하 "인공지능 공공조달 백서"라 한다)" 등을 참고 기준으로 하였다. Ⅲ. 인공지능 법률안의 문제점 1. 이용자 및 정보주체의 권리 보장 미흡 인공지능, 특히 학습기반 인공지능(머신러닝)은 이용자가 제공한 정보뿐 만 아니라 온라인에서 방대한 양의 정보를 수집하여 이를 기반으로 서비스 를 제공하므로, 정보 수집 과정에서 이용자와 정보주체의 권리를 침해할 소 지가 있다. 또한, 결과물 산출 과정에서 개인정보 유출, 인격권 침해 및 명 예 훼손, 허위정보 생산, 저작권 등 재산권 침해 문제 등을 초래할 위험성 이 있다. 구체적으로 최근 가장 많은 주목을 받고 있는 챗 지피티(Chat GPT)에 관 한 국외의 사례를 살펴보면, 이탈리아 정부는 챗 지피티가 이탈리아 시민의 개인정보를 무단으로 수집해 학습했으며, 연령 제한도 두고 있지 않다는 이 유로 2023. 2. 세계 최초로 챗 지피티 접속을 차단하였다. 또한 챗 지피티가 호주 한 중소도시의 시장에 대하여 “뇌물 혐의로 수년간 옥살이했다”라 고 답하여 당사자가 챗 지피티 제작사인 오픈에이아이(Open AI)에 법적 대 응을 경고한 사례도 있다. 최근에는 인공지능 기술을 통해 故 마이클 잭슨 등 유명 가수의 목소리 를 학습 및 구현하여 해당 가수가 다른 가수의 곡을 부른 것처럼 제작한 영상들이 동영상 사이트에 올라와 저작권 침해 논란이 일기도 하였다. 따라서 인공지능 개발 및 활용 과정에서 이용자와 정보주체의 권리를 명 확히 하고, 이용자 등이 권리 침해를 입은 경우 이에 대한 구제절차를 마련 하는 것이 필요하다. 이와 관련하여 유엔 인권이사회는 2021년 "디지털 시 대 프라이버시권 보고서"(제48차 회기 채택)를 통해, 인공지능 시스템에서 정보주체를 법률로써 효과적으로 보호해야 할 필요성을 강조하면서, 설명에 대한 권리와 완전 자동화된 의사 결정에 반대할 권리를 강화하고, 독립적인 개인정보보호 감독기구 설치 등 개인정보 보호를 위한 체계가 필요하다는 의견을 밝힌 바 있다. 위원회도 인공지능 인권 가이드라인에 개인이 인공지능에서 보장받아야 할 기본적인 인권으로 알권리, 개인정보자기결정권을 명시하였다. 그리고 알 권리와 관련하여 자동화된 의사결정에 의하여 영향 받는 당사자는 결정의 이 유에 대하여 설명을 듣고 당사자 진술을 할 수 있어야 하며, 이의를 제기할 수 있어야 한다고 명시하였다. 위원회는 특히 완전히 자동화된 의사결정만으 로 개인에게 법적 효력 또는 생명·신체·정신·재산에 중대한 영향을 미치 는 일은 제한하여야 하고, 이러한 의사결정이 이루어진 경우에는 당사자가 해당 방식을 거부하거나 인적 개입을 요구할 수 있는 권리를 보장할 것을 강 조하였다. 또한, 국가는 인공지능으로 인하여 인권을 침해당하거나 차별을 받은 사람이 진정을 제기하여 권리를 구제받을 수 있는 기회를 보장하고, 이의를 제기할 수 있는 기관과 방법에 대한 정보를 일반에 공개하여야 한 다고 밝혔다. 그러나, 인공지능 법률안은 인공지능의 개발·활용 과정에서 인공지능이 안전성, 신뢰성을 확보해야 함을 원칙으로 정하고, 고위험 영역 인공지능을 활용하여 제품 또는 서비스를 제공하려는 자에게 해당 제품 또는 서비스가 고위험 영역 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지할 의무를 부과할 뿐, 이용자와 정보주체의 권리, 권리 침해에 대한 구 제 절차를 명확히 규정하지 않고 있다. 또한, 소관 기관인 과학기술정보통신부장관으로 하여금 인공지능 윤리 원칙 제정 및 보급 등의 권한만 부여하고 있을 뿐, 인공지능으로 인하여 발 생한 인권침해, 차별 등에 대하여 적절한 제재를 규정하지 않고 있다. 2. 인공지능 활용 분야 및 위험성 등에 대한 체계적 구분 및 접근의 부족 인공지능 기술이 활용되는 분야 및 영역이 점차 확대되고 있는바, 최근 에는 인공지능을 기업의 직원 면접 및 채용, 치안·수사 업무, 난민심사, 범 죄자의 재범 가능성 판단 등과 같이 사람의 삶과 인권에 직접적인 영향을 미치는 분야에 활용하는 사례가 나타나고 있다. 인공지능이 인권에 밀접한 영향을 미치는 영역에 사용되고, 그 영향력이 갈수록 막대해지자 국제사회와 세계 각국은 인공지능 개발·활용 과정에서 발생할 수 있는 문제점을 사전에 최소화하기 위한 방안을 마련하고 있다. 그 중 가장 선도적인 유럽연합은 2021. 4. 인공지능 기술을 위험성에 따라 "금지되는 인공지능", "고위험 인공지능", "제한된 인공지능", "최소 위험 인공지능"으로 구분하고, 각 등급에 따라 법적 의무를 부과하는 "인 공지능법안"을 발의하였으며, "인공지능법안"은 2023. 6. 14. 유럽 의회 (European Parliament) 전체회의(plenary meeting)를 통과하여 유럽 이사회 (European Council) 의결을 앞두고 있다. 위원회도 인공지능 인권 가이드라인에서 인공지능을 개인의 인권과 안전 에 미치는 위험성의 정도에 따라 구분하는 방법을 제시하였는데, 위험성이 매우 높아 "인공지능이 금지되는 영역", "상당한 제한이 필요한 고위험 영역", "일정 정도의 제한이 필요한 제한된 위험을 가진 영역", "위험 성이 거의 없는 영역"으로 구분하고, 각 등급에 맞는 규제와 인적 개입이 이루어져야 한다고 제안하였다. 그러나 인공지능 법률안은 인공지능 기술을 활용 분야·영역의 특성을 고려하여 위험도에 따라 단계별로 구분하지 않아, 인공지능 활용 분야·영 역별로 인공지능이 국민의 인권과 안전에 미치는 위험성이 다르게 나타난 다는 점을 반영하지 못하고 있다. 또한 규제의 정확성 및 효율성 면에서 위 험도에 따라 규제 수준을 달리하는 것이 타당한데도, 이에 관한 사항 역시 규율하지 않고 있다. 3. 고위험 영역 인공지능의 협소한 개념 정의와 규제의 미비 인공지능 법률안은 고위험 영역 인공지능에 대해서만 규율하고 있으며, 고위험 영역 인공지능에 해당하는 대상도 유럽연합의 "인공지능법안" 등 해외 사례에서 제시하는 기준에 비교하여 볼 때 상대적으로 협소하게 정의 하고 있다. 예를 들어, 인공지능 법률안은 범죄 수사나 체포 업무에서 생체정보를 분석·활용하는 경우만을 고위험 영역 인공지능으로 정의하는 데 반하여, 유럽연합은 "인공지능법안"에서 형사사법 분야에서 재범 위험 또는 범죄 의 잠재적 피해 위험을 평가하기 위하여 사용하는 인공지능, 거짓말 탐지기 및 유사한 도구로 사용하거나 감정 상태를 감지하기 위하여 사용하는 인공 지능, 딥페이크 감지를 위하여 사용하는 인공지능, 증거의 신뢰성을 평가하 기 위하여 사용하는 인공지능, 프로파일링을 기반으로 범죄 행위의 발생 또 는 재발을 예측하거나 과거의 범죄 행위를 평가하는 데 사용하는 인공지능 등을 고위험 영역 인공지능으로 규정하고 있다. 또한, 유엔 인권이사회가 "디지털 시대 프라이버시권 보고서"에서 법 집행, 국가안보, 형사사법, 사회보장, 고용, 보건의료, 교육 및 금융 등 개인 의 이해관계가 특히 높은 분야에서 인공지능 기술을 사용하는 경우 법적 요건을 엄격히 하여야 한다고 밝힌 점에 비추어 보아도, 인공지능 법률안은 고위험 영역 인공지능의 범위를 협소하게 정의하고 있다. 물론 인공지능 법률안이 대통령령으로 국민의 안전ㆍ건강 및 기본권 보 호에 중대한 영향을 미치는 인공지능을 고위험 영역 인공지능으로 정하도 록 규정하여 범위를 넓힐 수 있는 여지는 두고 있으나, 법률 위임의 한계를 고려하면 시행령에서 법률이 직접 규정한 범위보다 넓게 지정하는 것은 불 가능하므로, 인공지능 법률안 체계 내에서는 대상을 확대하는 데 한계가 있 을 것으로 보인다. 한편, 인공지능 법률안은 인공지능사업자 등이 고위험 영역 인공지능을 개발하여 활용할 경우 사업자 등에게 이용자에 대한 사전 고지, 신뢰성·안 전성 확보 조치 등의 의무만 부과하고 있고, 소관 기관인 과학기술정보통신 부장관이 고위험 영역 인공지능의 신뢰성 확보 조치의 구체적인 내용을 정 하여 사업자에 이를 준수하도록 권고할 수 있다고 규정하였을 뿐, 실효적인 규제 수단은 규정하고 있지 않다. 이와 같은 사전 규제의 부족뿐만 아니라, 인공지능 활용 과정에서 문제가 발생한 경우 소관 기관이 취할 수 있는 적 절한 사후 조치에 관한 규정도 마련되어 있지 않다. 4. 우선허용·사후규제 원칙의 위험성 인공지능 법률안은 우선허용·사후규제 원칙을 명시하고, “인공지능기 술, 인공지능제품 또는 인공지능서비스가 국민의 생명·안전·권익에 위해 가 되거나 공공의 안전 보장, 질서 유지 및 복리 증진을 현저히 저해할 우 려가 있는 경우가 아니라면 이를 제한하여서는 아니 된다.”라고 규정하고 있다. 그러나, 인공지능은 개발 과정에서 개발자의 이념이나 사상 등이 무의식 중에 반영될 수 있고, 인공지능이 학습하는 데이터에 이미 사회적 편견이나 차별적 요인이 내재되어 있는 경우에는 그 결과물 역시 인권침해 또는 차 별적인 요소를 포함할 수밖에 없으며, 서비스 이용자로부터 개인정보를 과 도하게 수집하거나 허위정보를 생산하는 등 각종 문제가 발생할 수 있다. 이와 같은 위험성은 이미 우리나라의 "이루다" 사태에서 여실히 드러났 으며, 앞서 살펴보았듯이 외국에서도 챗 지피티가 이용자의 질문에 답하면 서 허위정보를 생산하여 문제가 된 사례도 있다. 이처럼 인공지능 기술 개발·활용 과정에서 사전 검증 및 사후 통제가 중요한데, 관련 법률에 우선허용·사후규제 원칙을 명시한다면 개발자 및 사업자가 인공지능 기술이 인권에 미치는 영향을 사전에 평가하지 않고 효 율성과 편익만을 따져 인공지능 기술을 개발·활용함으로써 이와 같은 문 제점을 간과하게 될 우려가 있다. 5. 인공지능 개발·활용의 부작용에 대한 사전적.사후적 점검 미흡 현재 유럽을 포함한 세계 각국은 인공지능 기술이 초래할 수 있는 여러 가지 부작용과 문제점을 최소화하기 위하여 사전영향평가를 실시하고 있거 나 추진하고 있고, 특히 사전영향평가를 통과하지 못한 고위험 영역 인공지 능 기술의 활용을 제한하는 입법을 추진하고 있다. 구체적으로 미국은 2022. 2. 하원과 상원에서 "알고리즘 책무성법안 (Algorithmic Accountability Act of 2022)"을 발의하여 연방거래위원회(FTC) 가 소관하는 일정 규모 이상의 기업들을 대상으로 자동화된 의사결정 시스 템 또는 증강된 중요 의사결정 프로세스 등이 소비자에게 미치는 영향에 대하여 지속적으로 "영향평가"를 실시하도록 의무화하고, 이를 연방거래 위원회가 감독하는 방안을 논의하고 있다. 영국은 2020. 6. "인공지능 조달 지침(Guidelines for AI procurement)" 을 발표하였는데, 동 지침은 공공기관이 인공지능 기술 및 시스템, 프로세 스 등을 공공조달을 통하여 도입하는 경우 10대 원칙을 따르도록 하고, 조 달 절차 개시 전에는 데이터 평가를, 개시 단계에서는 인공지능 배치의 편 익과 위험에 대한 영향평가를 실시하도록 규정하고 있다. 네덜란드는 "기본권 알고리즘 영향평가(Fundamental Rights and Algorithms Impact Assessment)"를 개발하여 알고리즘 시스템 개발 또는 조달을 검토하는 공공기관이 초기 단계에서 4단계에 걸쳐 인권과 관련된 쟁점을 검토하도록 하고 있다. 캐나다는 2019년부터 "자동화된 의사결정 지침(Directive on Automated Decision-Making)"을 제정하여 시행하고 있는데, 공공기관이 자동화된 의사 결정 시스템을 도입·활용하기 위해서는 "캐나다 알고리즘 영향평가 도구 (Canadian Algorithmic Impact Assessment Tool"를 활용한 평가를 의무적으 로 실시하도록 하고 있다. 하지만, 인공지능 법률안에는 인공지능 개발.출시 전후 단계에서 인권과 관련한 쟁점을 점검하는 제도가 마련되지 있지 않다. 이는 인공지능 기술의 여러 문제점과 부작용이 예상됨에도 그에 대한 예방책과 해결방안이 충분 하지 못한 것이라고 할 수 있다. 6. 인공지능 감독·규제의 실효성 문제 인공지능 법률안은 과학기술정보통신부장관으로 하여금 인공지능 기술 및 알고리즘 개발 활성화를 위한 지원, 기업의 인공지능 기술 도입·활용 지원, 창업 활성화, 인공지능 융합 촉진, 인공지능 관련 제도 개선, 전문인 력 확보 등 인공지능 기술 및 산업 진흥·육성을 담당하도록 할 뿐만 아니 라, 인공지능 윤리 원칙 실천 방안 수립 및 홍보, 인공지능 윤리 관련 법 령·기준·지침 등에 관한 권고, 인공지능 신뢰성 검·인증 지원, 고위험 영역 인공지능 확인, 고위험 영역 인공지능의 기준과 예시 등에 관한 가이 드라인의 보급 등 인공지능 규제에 관한 업무도 담당하도록 하고 있다. 그러나, 산업 진흥과 규제 업무를 하나의 중앙행정기관에서 모두 담당할 경우에 규제가 실효적으로 이루어질 수 있을지 의문이 제기된다. 기관이 결 정하거나 지원한 행위에 대하여 동일한 기관이 관련 법령 및 기준의 준수 여부, 권리침해 여부를 판단하게 될 경우 자가당착의 모순이 발생할 수 있 고, 결국 규제의 실효성을 담보하기 어려워지는 문제점이 있다. 따라서 인공지능 규제 업무를 분리하여 인공지능 산업 진흥을 담당하는 기관이 아닌 별개의 기관이 독립적으로 인공지능 규제업무를 수행하도록 하는 것이 바람직하다. 유엔 인권이사회도 "디지털 시대 프라이버시권 보 고서"에서, 인공지능 시스템에 대한 적정하고 독립적이고 공정한 감독이 필요하고, 이는 행정적·사법적·준사법적 기관 및 의회 감독 기관의 조합 으로 수행될 수 있으며, 개인정보 보호 기관, 소비자 보호 기관, 부문별 규 제 기관, 차별 방지 기구 및 국가인권기구가 감독 시스템의 일부로서 구성 되어야 한다고 밝힌 바 있다. Ⅳ. 개선 방안 1. 이용자·정보주체의 권리 명시 및 피해구제 절차 마련 인공지능 개발·활용 과정에서 이용자와 정보주체가 보장받아야 할 권리 를 명확히 하고 이를 보호하기 위한 체계를 구축하는 것이 무엇보다 중요 하다. 따라서 인공지능 인권 가이드라인과 「개인정보 보호법」 제5장에 명 시된 권리 보장에 관한 사항을 참고하여 인공지능 법률안에 정보주체의 권 리를 구체적으로 명시하고, 인공지능 기술로 인하여 권리 침해를 당한 이용 자와 정보주체를 위한 구제 절차 역시 마련하여야 한다. 인공지능 기술은 다양한 분야에서 활용되므로, 권리 침해 역시 다양한 형태로 발생할 수 있다. 따라서 인공지능으로 인해 발생할 수 있는 권리 침 해 사안을 유형별로 분석·분류하고, 이미 제도화되어 있는 구제 절차 중 각 유형별로 이를 처리하기 적합한 구제 절차를 이행할 수 있도록 인공지 능 법률안에 근거 규정을 마련하여야 하며, 관련 법률 역시 이에 맞게 정비 하여야 한다. 또한, 기존의 구제 절차로 다룰 수 없는 유형의 권리 침해 사안에도 대 응할 수 있도록 인공지능의 특성을 고려한 별도의 구제 절차 역시 마련하 여야 한다. 예를 들어, 정보통신망을 통하여 일반에게 공개를 목적으로 제 공된 정보로 사생활 침해나 명예훼손 등 타인의 권리가 침해된 경우, 그 침 해를 받은 자는 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 제 44조의2에 따라 서비스 제공자에게 해당 정보의 삭제 또는 반박 내용의 게 재를 요청할 수 있는바, 챗 지피티와 같이 인공지능 챗봇 서비스를 제공하 는 과정에서 유사한 문제가 발생한 경우 이와 같은 구제 절차를 밟을 수 있도록 관련 규정을 정비하거나 별도의 구제 절차를 신설하는 방안 등을 강구할 필요가 있다. 2. 분야별·영역별 위험성을 고려한 인공지능 구분과 규제 세분화 인공지능 기술을 무분별하게 도입·활용할 경우 심각한 인권침해, 차별 문제 등을 초래할 우려가 있으므로, 인공지능을 도입·활용하고자 하는 분 야 및 영역별로 인공지능이 국민의 인권과 안전에 미치는 위험성을 고려하 여 등급을 구분하고, 위험도에 따라 규제 수준을 달리하여야 한다. 위원회가 인공지능 인권 가이드라인에서 제안한 단계별 구분 방안, 유럽 연합이 입법 추진 중인 "인공지능법안"의 4단계 분류 방안, 캐나다가 현 재 시행하고 있는 "자동화된 의사결정 지침"의 분류 방식 등을 참고하여, 인공지능이 도입·활용되는 분야 및 영역의 특성, 해당 분야 및 영역에 도 입·활용될 인공지능이 국민의 인권과 안전에 미치는 영향을 분석하여 등 급을 나누고, 등급별로 위험을 최소화하기 위한 적정한 수준의 규제를 정하 여야 한다. 3. 고위험 영역 인공지능 확대ㆍ재정의 및 사전·사후 규제 강화 인공지능 법률안은 고위험 영역 인공지능을 상대적으로 협소하게 정의하 여 국제 기준에 부합하지 못하는 측면이 있으므로, 유엔 인권이사회가 "디 지털 시대 프라이버시권 보고서"에서 고위험 영역으로 제시한 기준, 유럽 연합이 "인공지능법안"에서 제시한 기준 등을 참고하여 고위험 영역 인 공지능의 대상을 확대·재정의하여야 한다. 아울러, 고위험 영역 인공지능의 경우 공공과 민간 구분 없이 인공지능 감독·규제를 담당하는 기관이 사전에 해당 인공지능의 알고리즘이 투명성 과 설명가능성을 충족하는지, 개인정보 보호, 인권침해 및 차별 문제를 일 으킬 가능성은 없는지 엄격히 점검하도록 하여야 하고, 활용 과정에서 문제 가 발생한 경우 해당 인공지능의 알고리즘 점검, 일시 사용중지 명령 등 적 절한 대응 조치를 취할 수 있도록 규제 수단 역시 마련하여야 한다. 4. 우선허용·사후규제 원칙 삭제 인공지능 법률안에서 규정하고 있는 우선허용·사후규제 원칙은 자칫 인 공지능 산업의 경제성.효율성만을 앞세워서, 무분별한 인공지능 기술의 개 발·활용을 불러일으킬 수 있다. 또한, 인공지능 기술의 개발.활용 시 사전. 사후 평가를 도입하고 있는 국제 흐름을 감안하였을 때, 해당 인공지능 기 술이 국제 기준에 부합하지 못한 결과를 초래할 수 있고 기술에 대한 신뢰 성을 떨어뜨릴 위험성이 있으며, 국제 경쟁력을 저하시킬 우려도 있다. 따 라서 "우선허용·사후규제 원칙"을 명시한 조항을 삭제할 필요가 있다. 5. 인공지능 인권영향평가 도입 인공지능 기술에 대한 국제 기준이나 세계 각국의 대응을 살펴보면 공통 적으로 인공지능의 개발과 활용 과정에서 발생할 수 있는 인권침해, 차별 등의 문제를 예방하기 위한 조치로서 사전적인 품질 관리와 사후적인 모니 터링을 강조하고 있으며, 이를 위하여 인권영향평가를 도입하는 추세이다. 유럽연합은 2016년 제정하여 2018년부터 시행한 "일반 개인정보보호 법"에 자연인의 자유와 권리에 고위험을 야기할 수 있는 개인정보 처리에 대하여 공공과 민간을 불문하고 "개인정보보호 영향평가(Data Protection Impact Assessment)"를 실시하도록 규정하였다. 또한 2020. 5. 발표한 "인 공지능 공공조달 백서"에서 국민의 기본권에 영향을 미치는 공공 부문 인 공지능 조달에 있어 위험 기반·체계적 접근법에 따라 5단계 실사 절차를 권장하고, "위험영향평가"를 사전적으로 실시하여야 한다고 밝혔다. 아울러, 네덜란드, 캐나다는 공공부문에서 인공지능 기술 및 시스템을 조 달하는 경우 사전에 영향평가를 실시하도록 하고 있으며, 위원회도 인공지 능 인권 가이드라인에서 인공지능 출시 전 인권영향평가를 거치도록 하고, 출시 후 기능이 변경되거나 범위가 조정되는 경우 다시 한번 인권영향평가 를 실시하도록 하여야 한다고 제안하였다. 따라서 인공지능 개발 및 출시 전에 인권침해와 차별의 가능성 및 정도, 영향을 받는 당사자의 수, 사용된 데이터의 양 등을 고려하여 인권영향평가 를 실시하도록 하고, 인공지능의 기능 또는 활용 범위 변경 시에도 평가를 갱신하도록 인공지능 법률안에 관련 규정을 마련할 필요가 있다. 아울러 인 권영향평가 결과 인권에 미치는 부정적인 영향이나 편향성 및 위험성이 드 러난 경우 해당 인공지능을 개발·활용하는 자가 이를 방지하거나 완화하 기 위한 조치를 취하도록 하여야 한다. 6. 독립적 기관에 의한 인공지능 감독 및 규제 인공지능으로 인한 인권침해, 차별 등의 문제를 실효성 있게 예방하고 감독하기 위해서는 인공지능 감독·규제 업무는 인공지능 산업 진흥에 관 한 사항을 소관하는 기관이 아닌 제3의 기관이 독립적으로 수행하여야 한 다. 이와 관련하여 위원회는 인공지능 인권 가이드라인에서 인공지능을 독립 적이고 효과적으로 감독할 수 있는 체계를 수립하여 개인의 인권과 안전을 보장하고 피해를 구제하여야 하고, 국가 감독 체계가 사건을 조사하기에 충 분한 자원, 권한 및 전문지식을 구비해야 한다는 의견을 밝힌 바 있다. 따라서 개인정보보호위원회, 방송통신위원회 등 유사 업무를 수행하고 있는 기관으로 하여금 인공지능 감독·규제, 개별 피해 사례에 대한 조사 및 구제 등에 관한 업무를 담당하도록 하는 것이 효율적인지, 아니면 이를 전담할 독립 기관을 신설하는 방안이 효율적인지 등을 검토하여 가장 적정 한 방안을 인공지능 법률안에 규정하여야 한다. Ⅴ. 결론 이상과 같은 이유로 위원회법 제19조 제1호 및 제25조 제1항에 따라 주 문과 같이 의견표명을 하기로 결정한다.