알고리즘 권력화와 규제 거버넌스
Algorithmic Power and Regulatory Governance
김윤명(디지털정책연구소 소장)
515호, 103~128쪽
초록
알고리즘 권력화란 플랫폼사업자들이 알고리즘을 도구화하여 알고리즘에 의한 지배, 통제를 통해 영향력을 높이는 것을 말한다. 알고리즘이 스스로 의식을 가지고 작동하는 것이 아니기 때문에 알고리즘이 권력화한다는 표현은 맞지 않다. 물론, 알고리즘을 권력화함으로써 여러 가지 문제가 발생한다고 하여, 알고리즘을 통제하는 것은 문제해결에 도움이 되지 않는다. 플랫폼사업자들은 기업활동을 위해 알고리즘을 개발하고 보다 효율적으로 이익을 창출하기 위하여 알고리즘을 사용한다. 그 과정에서 고의로 알고리즘을 왜곡(歪曲)하는 경우도 있음은 부인하기 어렵다. 이처럼, 알고리즘이 권력화됨으로써 다양한 사회적 문제가 발생하는 상황에서 알고리즘에 대한 규제의 필요성이 커지고 있다. 물론, 알고리즘 규제의 필요성이 있다고 하더라도 충분한 반론이 이루어지고 그에 따른 설득의 과정이 필요하다. 예를 들면, 사업자들은 알고리즘 공개를 규제라고 보고, 영업비밀을 공개할 수 없다는 주장을 편다. 그렇지만, 알고리즘 공개를 일반 대중에게 한다고 생각할 수 있을까? 그럴 필요가 없다. 정책이나 입법 과정에서 갈등이나 오해는 풀어가는 것이 무엇보다 중요하다. 정책의 목적이 정당하더라도, 절차적인 정당성을 확보하지 못할 경우에는 목적의 정당성까지 훼손될 수 있기 때문이다. 알고리즘은 기획, 개발, 운용 및 이용 과정이나 데이터를 활용하는 학습과정에서 편향과 차별이 의식적이든 무의식적이든 반영된다면 평등이나 기본권 보장 등 헌법적 가치가 훼손될 수 있다. 이러한 한계 내지 문제를 해결하기 위해서는 알고리즘 자체의 윤리성을 높이거나 관여하는 인간의 윤리적 책임 내지 법적 책임을 강화할 필요가 있다. 고의로 알고리즘을 오용하거나 남용하여 차별을 고착하는 경우라면 헌법적 가치를 훼손하는 행위로서 절대적인 규제 대상이다. 이를 위한 입법방안은 알고리즘을 문제로 전제하기보다는 알고리즘이 가져올 수 있는 파장을 차단할 수 있는 방안을 마련하기 위한 것으로, 기술중립적 측면에서의 접근방법이다. 알고리즘의 공정성 확보를 위한 규제 내지 법적 접근은 최후의 수단이며, 집단지성을 활용하거나 알고리즘에 대한 전문적인 기관을 만들어 문제해결 방안을 찾는 것은 정책적으로 판단할 사항이다.
Abstract
Algorithm empowerment refers to platform operators tooling algorithms to increase their influence through algorithm control and control. The expression that algorithms become powerful is not correct because algorithms do not operate with consciousness on their own. Of course, controlling the algorithm does not help solve the problem because various problems arise by empowering the algorithm. Platform operators develop algorithms for corporate activities and use them to generate profits more efficiently. Of course, it is hard to deny that there are cases where algorithms are deliberately distorted in the process. As such, the need for regulation of algorithms is increasing in situations where various social problems arise as algorithms become power. Of course, even if there is a need for algorithm regulation, sufficient counterarguments are made and a process of persuasion is required accordingly. For example, operators view algorithm disclosure as a regulation and argue that trade secrets cannot be disclosed. However, can we think of releasing algorithms to the general public? There is no need for that. It is most important to resolve conflicts or misunderstandings in the policy or legislative process. Even if the purpose of the policy is justified, the legitimacy of the purpose may be undermined if procedural legitimacy is not secured. If bias and discrimination are reflected consciously or unconsciously in the process of planning, development, operation, and use of algorithms, constitutional values such as guaranteeing equality and basic rights can be undermined. To solve these limitations or problems, it is necessary to increase the ethics of the algorithm itself or strengthen the ethical or legal responsibility of humans involved. If discrimination is fixed by intentionally misusing or abusing algorithms, it is an act that undermines constitutional value and is subject to absolute regulation. Rather than presupposing the algorithm as a problem, the legislative plan for this is to come up with a way to block the wavelengths that the algorithm can bring, and it is a technology-neutral approach. Regulatory or legal approaches to securing fairness in algorithms are the last resort, and it is a policy decision to use collective intelligence or create a specialized institution for algorithms to find solutions to problems.
- 발행기관:
- 대한변호사협회
- 분류:
- 법학