경쟁과 AI 안전 조치의 조화 - 전문 정보 관련 AI 안전 조치를 중심으로 -
Harmonizing Competition and AI Safety - Focusing on AI Safety Measures Related to Professioanl Information -
박우철(네이버(주))
52권, 302~340쪽
초록
인공지능 기술 분야가 빠르게 발전하면서 인공지능 모델과 서비스가 사회적 위험을 초래할 수 있다는 우려가 꾸준히 제기되고 있다. 이러한 우려를 해소하기 위해 AI를 개발하고 이용하는 사업자는 자신의 모델과 서비스에 기술적, 정책적 조치, 즉 AI 안 전 조치를 취하고 있다. 이처럼 AI 안전 조치는 당연하고 필수적인 것으로 여겨져 왔 기 때문에, 이것이 경쟁 요소로서 시장에서 어떻게 작동하는지에 대해서는 상대적으로 관심이 적었다. 본 논문은 경쟁적이라는 평가를 받는 현재의 생성형 AI 서비스 시장에 초점을 맞추 기보다는 현재 수행되고 있는 AI 안전 조치가 미래의 생성형 AI 서비스 시장의 경쟁 에 어떤 영향을 미칠 수 있을지를 가정적으로 논의하고자 한다. 생성형 AI 관련 기술 시장과 AI 안전 조치의 필요성을 살펴보고, 그리고 전문 정보를 의료, 법률, 금융 정 보로 나누어 상세히 검토한 후, 전문 정보 분야에서 생성형 AI 서비스의 AI 안전 조 치가 과도하게 강조되어 정보 출력이 제한될 경우 경쟁에 비대칭적인 영향을 미쳐 시 장 쏠림 현상을 초래할 가능성이 있다는 점을 검토할 것이다. 나아가 이러한 시장 쏠 림 현상을 방지하기 위해, 전문 정보 분야에서 경쟁친화적인 AI 안전 조치가 무엇인 지, 즉 AI 안전 조치 수준 설정에 대한 구체적인 대안을 비교하고 분석할 것이다. 이를 통하여 경쟁을 고려하지 않는 AI 안전성 규제는 이로 인한 규제비용의 비대칭 성을 만들어 인위적인 진입장벽이 형성될 우려가 있고, 규제 준수 비용이 큰 사업자에 게는 부정적 네트워크 효과를 발생시킬 수 있는 반면, 동시에 규제 준수 비용이 적은 사업자에게는 학습 효과로 인한 시장지배력의 확보와 경우에 따라서는 규제로 인한 반경쟁적 행위의 기회가 생겨날 수도 있다는 점을 주장한다. 향후 AI 안전성 규제를 집행함에 있어서도 경쟁과 AI 안전 조치의 조화를 고려하는 것이 필요하다는 점을 강 조한다.
Abstract
The rapid advancement of Artificial Intelligence (AI) technology has persistently raised concerns regarding the social risks that AI models and services might pose. To mitigate these concerns, AI developers implement technical and policy actions, collectively known as AI safety measures. Because these measures have traditionally been viewed as necessary and fundamental, limited scholarly attention has been directed toward how they function as a competitive factor in the market. This paper shifts focus from the currently competitive generative AI service market to a hypothetical discussion of how existing AI safety measures might influence future competition in this domain. This study first examines the AI technology market and the necessity of safety protocols. Following a detailed review of professional information(specifically in the medical, legal, and financial sectors), the analysis explores the risk that an overemphasis on AI safety—leading to restricted information output—could create an asymmetric competitive impact, potentially causing market tipping. To mitigate this risk, the paper compares and analyzes concrete alternatives for establishing pro-competitive AI safety standards. I argue that AI safety regulations implemented without considering competition could create an asymmetry in regulatory costs, potentially establishing an artificial barrier to entry. This scenario could lead to negative network effects for firms facing high compliance costs. Simultaneously, it may enable firms with lower compliance costs to secure market dominance through learning effects and, in some cases, create opportunities for anticompetitive behavior resulting from the regulation itself.
- 발행기관:
- 한국경쟁법학회
- 분류:
- 기타법학