AI 자동 뉴스 추천 서비스 사용자가 인지하는 정보 편향성에 대한 연구: AI 서비스의 윤리 원칙 수립을 중심으로
A Study on Information Bias Perceived by Users of AI-driven News Recommendation Services: Focusing on the Establishment of Ethical Principles for AI Services
박민정(국립금오공과대학교 경영학과); 채상미(이화여자대학교 경영학부)
25권 3호, 47~71쪽
초록
오늘날 대중화된 AI 뉴스 추천 시스템은 개인화된 뉴스 소비 경험을 제공하여 뉴스 등 다양한 콘텐츠를 사용자가 소 비하는 과정에서 효율성을 향상시킨 반면에 특정 관점의 정보만을 제공하여 사용자의 정보 편향성을 심화할 수 있다는 우려가 제기되고 있다. 이는 사용자의 다양한 정보 접근을 제한하는 동시에 특정 사안에 대한 올바른 시각의 형성을 방 해하여 필터 버블, 에코 챔버 등의 사회적 문제 현상을 강화하여 사회적 격차 및 정보 불균형을 심화시킬 수 있다. 이에 본 연구는 AI 기반 뉴스 추천 서비스 사용자가 인지하는 정보 편향성에 미치는 영향을 탐색하여 AI 서비스의 윤리 원칙 수립을 위한 기반을 제공하고자 한다. 이를 위하여 AI 뉴스 추천 시스템에 대하여 사용자가 기대하는 책무성, 설명요구 권, 선택권, 프라이버시 보호 지원의 윤리적 원칙이 사용자가 인지하는 정보 편향성에 영향을 미치는지 확인하였다. 이를 통해 AI 제공기업의 윤리적 원칙 강화 필요성을 제기하는 동시에 서비스 품질의 향상을 통한 사용자의 신뢰 기반 지속 적 사용을 촉진할 수 있을 것으로 예상된다. 또한, AI 서비스를 설계하는 과정에서 우선적으로 고려하여야 하는 윤리 원 칙을 본 연구에서 확인함에 따라 본 연구의 결과는 기업의 윤리 원칙 프레임워크 및 내부 정책 수립 및 국내 AI 윤리 가이드라인 등 관련 정책 수립의 토대가 될 것으로 판단된다.
Abstract
AI-driven news recommendation systems are widely used today, providing personalized news consumption experiences. However, there are significant concerns that these systems might increase users' information bias by mainly showing information from limited perspectives. This lack of diverse information access can prevent users from forming well-rounded viewpoints on specific issues, leading to social problems like Filter bubbles or Echo chambers. These issues can deepen social divides and information inequality. This study aims to explore how AI-based news recommendation services affect users' perceived information bias and to create a foundation for ethical principles in AI services. Specifically, the study looks at the impact of ethical principles like accountability, the right to explanation, the right to choose, and privacy protection on users' perceptions of information bias in AI news systems. The findings emphasize the need for AI service providers to strengthen ethical standards to improve service quality and build user trust for long-term use. By identifying which ethical principles should be prioritized in the design and implementation of AI services, this study aims to help develop corporate ethical frameworks, internal policies, and national AI ethics guidelines.
- 발행기관:
- 한국지식경영학회
- 분류:
- 경영학