자동화된 의사결정 시스템(ADMS)의 공정성 인식 선행 요인 연구: Heckman의 2단계 표본선택모형 분석 활용
A Study on the Determinants of Fairness Perception in Automated Decision-Making Systems: Using Heckman's Two-Stage Sample Selection Model
김현정(연세대학교); 이준혁(연세대학교 바른ICT연구소); 김미예(국립창원대학교)
26권 4호, 57~85쪽
초록
자동화된 의사결정 시스템(ADMS)의 활용이 다양한 산업에서 증가하고 있다. 하지만 데이터 편향, 알고리즘 불투명성, 책임 소재의 모호성 등의 문제가 함께 제기되며 ADMS의 공정성 인식에 미치는 영향 요인에 대한 관심도 함께 증가하 고 있는 실정이다. 본 연구는 Heckman의 2단계 표본선택모형과 OLS 회귀분석을 활용하여 ADMS의 공정성 인식에 영 향을 미치는 요인을 실증적으로 분석하였다. 연구 결과, ADMS 사용 여부는 AI 존재 인식, ADMS 존재 인식, AI 통제감 이 결정 요인으로 작용하는 것으로 나타났다. 한편, ADMS에 대한 공정성 인식에는 기계 휴리스틱, ADMS 투명성 및 책임성이 유의미한 영향을 미치는 반면, ADMS 규제 필요성 인식은 공정성 평가에 부정적인 영향을 미치는 것으로 확인 되었다. 이는 사용자들이 현재의 규제 체계를 신뢰하지 않으며, 단순한 규제 강화가 공정성 인식 제고로 이어지지 않을 수 있음을 시사한다. 본 연구는 AI 리터러시 교육 강화, 시스템 투명성 제고, 독립적 감시 기구 설립의 필요성을 정책적 시사점으로 제안한다.
Abstract
The adoption of Automated Decision-Making Systems(ADMS) is increasing across various industries. However, concerns have been raised about how data bias, algorithmic opacity, and ambiguous accountability may influence consumers' perceptions of fairness. This study empirically examines the factors affecting fairness perceptions of ADMS using Heckman's two-step sample selection model and OLS regression analysis. The findings indicate that AI awareness, ADMS recognition, and perceived AI control are key determinants of ADMS adoption. Meanwhile, fairness perceptions are significantly influenced by machine heuristics, ADMS transparency, and accountability, whereas the perception of regulatory necessity negatively impacts fairness evaluations. This study suggests that consumers lack trust in the current regulatory framework and that simply strengthening regulations may not necessarily improve fairness perceptions. Based on these findings, this study proposes enhancing AI literacy education, increasing system transparency, and establishing independent oversight mechanisms as key policy recommendations.
- 발행기관:
- 한국지식경영학회
- 분류:
- 경영학