AI 시대 디지털 거버넌스에의 헌법주의 재구성
Reconstructing Constitutionalism for Digital Governance in the Age of AI
이희옥(한양대학교)
54권 3호, 399~430쪽
초록
인공지능(AI)이 정보 질서・표현 영역・시장 구조를 재구성하는 국면에서, 전통적인 헌법이 사적 권력의 공법화 문제를 충분히 포착하지 못한다는 비판에 직면하고 있다. 이렇게 헌법의 원리가 AI시대 개인의 권리 보호에 충분히 작동하지 못하는 지점에서 ‘디지털 헌법주의’는 ‘현대 헌법주의의 핵심 가치인 기본권, 법치주의, 민주적 정당성을 디지털 사회의 특수성에 맞게 투사하는 이론・실천’으로, 국가・초국가・사적 영역에 적용되는 다층적 헌법화의 기획으로 정의할 수 있다. 국제사회에서는 오래전부터 디지털 헌법주의를 디지털 규범에 구현해왔다. 일찍이 OECD AI 원칙(2019) 및 UNESCO AI 윤리 권고(2021)에서 인권・투명성・안전・책임성을 축으로 인공지능 규범의 글로벌 공통분모를 제공한 이래, 글로벌 표준을 자처하는 EU는 디지털서비스법(DSA)을 통해 절차적 권리와 투명성을 플랫폼의 일반의무 및 초대형 플랫폼 강화의무로 정착시키는 동시에 이용자 권리의 실질화를 도모하였다. 또한 EU 인공지능법(AI Act)에서는 위험기반 규율과 법용 AI의 투명성・거버넌스 의무의 단계적 적용을 제시하였다. 이 영향을 받아 우리나라에서도 2026년 1월에 인공지능 기본법이 시행돼 고영향 AI에 대한 영향평가・위험관리 의무를, 생성형 AI에는 표시의무를 부과하며 국가 거버넌스를 정비하였다. 또한 같은해 7월에 시행될 정보통신망법 개정안에서도 허위조작정보 및 혐오표현(불법정보) 규제가 도입돼, 대규모 플랫폼의 신고・조치・투명성 보고의무 등 사업자의 책임이 강화되었다. 그런데 우리나라의 두 법은 사적 권력 통제・기본권 보장이라는 헌법주의의 목표를 공유하나, 규제 레이어(위험 vs 내용), 절차적 통제, 비례성에서 긴장을 형성한다. 무엇보다 입법의 핵심을 민간의 자율정책에 위임하면서, 규제 대상에 대한 기준 없이 과도한 책임을 지워 위헌성 논란에서 자유롭기 어렵다. 이처럼 인공지능・플랫폼에 대한 규율을 사적 규제를 통해 우회하는 형태의 입법은, 결국 국가공권력이 헌법과 법치를 회피하는 결과를 낳고, 국민의 기본권 제한과 디지털 공간의 표현자유에 대한 위축효과, 자본주의 감시를 초래한다. 본 논문은 이 같은 문제의식을 통해서 국내의 인공지능・플랫폼 규제에 디지털 헌법주의의 필요성을 제시하고, 그 적용 가능성을 검토하였다. 우리의 인공지능・플랫폼 법제가 디지털 헌법주의의 요소를 실질화하려면, 입법 외 사적 영역에서 실행되는 약관 및 서비스 정책과 같은 서비스 규범에도 표현의 자유 보장과 자기결정, 적법절차와 같은 권리보장의 기본원칙을 상위개념으로 도입하는 노력이 필요하다. 아울러 디지털 공간에 공통으로 적용될 수 있는 구체적 핵심 요소가 수범자 간 표준화될 수 있어야 한다.
Abstract
In a phase where Artificial Intelligence (AI) is restructuring the information order, the realm of expression, and market structures, traditional constitutionalism faces criticism for failing to adequately capture the issue of the “publicization of private power.” As traditional constitutional principles struggle to fully protect individual rights in the AI era, “Digital Constitutionalism” emerges as a crucial alternative. It is defined as a theoretical and practical framework that projects the core values of modern constitutionalism—fundamental rights, the rule of law, and democratic legitimacy—onto the specificities of digital society. Furthermore, it can be characterized as a project of multi-layered constitutionalization applicable across state, trans-state, and private spheres. The international community has long embedded digital constitutionalism within digital norms. Since the OECD AI Principles(2019) and the UNESCO Recommendation on the Ethics of AI(2021) established a global common denominator centered on human rights, transparency, safety, and accountability, the European Union(EU) has asserted itself as a global standard-setter. Through the Digital Services Act(DSA), the EU established procedural rights and transparency as general obligations for platforms and heightened duties for Very Large Online Platforms(VLOPs), thereby seeking the substantive realization of user rights. Furthermore, the EU AI Act introduced risk-based regulation and a phased application of transparency and governance obligations for general-purpose AI. Influenced largely by EU law, South Korea overhauled its national governance by implementing the Framework Act on Artificial Intelligence in January 2026, which imposes impact assessments and risk management obligations on high-impact AI, as well as labeling requirements for generative AI. Additionally, the amendment to the Act on Promotion of Information and Communications Network Utilization and Information Protection, effective July 2026, introduced regulations on disinformation and hate speech (illegal information), strengthening provider accountability through obligations for reporting, measures, and transparency reports for large-scale platforms. While both Korean statutes share the digital constitutionalist goals of controlling private power and guaranteeing fundamental rights, they face critical issues due to escalating tensions regarding regulatory layers (risk vs. content), procedural control, and proportionality. Most notably, delegating legislative content to private autonomous policies and imposing excessive liability without clear criteria for restricted subjects makes it difficult for these laws to remain free from controversies regarding unconstitutionality. Such recent legislation, which bypasses direct regulation of AI and platforms through “private regulation,” ultimately results in state authority evading the Constitution and the rule of law. This leads to the infringement of fundamental rights, a chilling effect on freedom of expression in digital spaces, and the rise of surveillance capitalism. This study is rooted in this critical awareness. It emphasizes the necessity of digital constitutionalism in domestic AI and platform regulation and examines its applicability. For South Korea's AI and platform legal system to substantively incorporate elements of digital constitutionalism, efforts must be made to introduce basic principles of rights protection—such as the guarantee of freedom of expression, self-determination, and due process—as overarching concepts even within “service norms,” such as terms of use and service policies executed in the private sphere. Furthermore, specific core elements applicable to the digital space must be standardized among the regulated entities.
- 발행기관:
- 한국공법학회
- 분류:
- 법학