인공지능과 자율성의 역학관계
The Dynamics between Artificial Intelligence and Autonomy
박도현(서울대학교 법학전문대학원 박사과정 수료)
20권 3호, 501~538쪽
초록
오늘날 소위 제4차 산업혁명 시대에 돌입하면서, 인공지능은 물리적 차원을 넘어 인간의 전유물로 여겨져 온 인지적 차원까지도 자동화(automation)의 대상으로 탈바꿈시키고 있다. 나아가 인간의 통제를 최소화한 인공지능에 대해 모종의 자율성(autonomy)을 인정하자는 견해까지도 제기되고는 한다. ‘인공지능과 자율성’ 이슈는 일정한 자율성을 갖춘 인공지능에 대한 법적 평가와, 이와 별개로 인공지능이 인간의 자율성에 미치는 영향에 대한 법적 평가라는 두 가지 측면으로 대별된다. 이때 전자는 자율성 개념을 전통적으로 이해되어온 도덕적 차원의 자율성(moral autonomy)을 대신하여 기능적 차원의 현상적 자율성으로 이해하면서, 일정 수준 이상의 현상적 자율성을 보이는 인공지능에 대해 도덕적, 법적 지위를 인정할 수 있는가 하는 문제이다. 본고는 인공지능과 자율성 논의에서 진정 중요한 것은 ‘인간의 자율성’임을 분명히 하고, 현상적 자율성을 가진 인공지능에 대한 법인격 부여는 그와 같은 목적을 달성함에 있어 현실적으로도, 이론적으로도 필수적 요소가 아님을 보인다. 자율적 인공지능과 인간의 자율성이 공존하기 위해 진정으로 요구되는 것은 인공지능의 위험성을 적절한 수준에서 통제하는 동시에 인간의 사적자치를 과다하게 억제하지 않도록 조화하는 거버넌스(governance) 구조를 모색하는 일이다.
Abstract
Today, as we are into the era of the so-called 'Fourth Industrial Revolution', Artificial Intelligence(AI) is transforming not only the physical dimension but also the cognitive dimension which has been regarded as a human-inherent domain, as an object of automation. Furthermore, it is suggested that some kind of 'autonomy' is given to AI when minimizing human control. The 'AI and autonomy' issue is divided into two aspects: legal evaluation of AI with certain autonomy and legal evaluation of the effect of AI on human autonomy. The former position is to understand the concept of 'autonomy' as functional level 'phenomenal autonomy' instead of traditionally accepted 'moral autonomy'. And it gives some kind of moral and legal status of AI that shows a certain level of this kind of autonomy. But this paper clarifies that 'human autonomy' is indeed important in AI and autonomy discussions, and that it is not necessary to provide legal personhood to AI both practically and theoretically. What is really needed for (phenomenally) autonomous AI and human autonomy to coexist is to seek the concept of AI 'Governance' that controls the risk of AI at an appropriate level and doesn't suppress private autonomy.
- 발행기관:
- 법학연구소
- 분류:
- 법학