연구제안서 평가의 정확성에 관한 연구: 평가위원의 전문성과 평가자-피평가자 간 지인관계를 중심으로
A Study on the Accuracy of Research Proposal Appraisals: Measuring Expertise and Acquaintanceship of Evaluators
윤석민(고려대학교 기술경영전문대학원); 이영훈(고려대학교 기술경영전문대학원); 김영준(고려대학교)
24권 5호, 891~918쪽
초록
일반적으로, 국가연구개발사업의 수행기관 선정은 해당 분야의 전문가들을 평가위원으로 위촉하는 과학적 동료평가 방 식으로 이루어진다. 본 연구에서는 평가위원의 전문성과 평가자-피평가자 간 지인관계가 연구개발과제의 선정 및 수행결 과에 미치는 영향을 각각 검증한 후, 결과를 조합하는 방식을 통하여 연구제안서 평가의 정확성을 분석하고 시사점을 제 시하였다. 설명변수인 평가위원의 전문성과 지인관계를 측정하기 위하여 평가위원회별 기술 평가자 적합도(Technology Evaluator Fit) 및 피평가자와의 공동연구 수행이력을 지표로 도입하였고, 10년간 한국산업기술평가관리원의 선정평가 위원회에 상정된 19,447개 과제를 분석한 결과 평가위원의 전문성 향상은 과소평가 편향을 감소시켜 평가의 정확성을 증 가시킴을 확인하였다. 한편, 과거 과제 공동수행 등 평가자-피평가자 간 지인관계는 해당 과제의 진정한 품질과 무관하게 선정가능성을 증가시킴을 확인하였다. 본 연구의 결과는 평가자-피평가자 간 지인관계의 영향을 배제한다면, 동료평가 방식의 연구제안서 평가가 인지적 편향을 내재하고 있음에도 불구하고 편향의 비용보다 전문성의 편익이 더 크다는 주장 을 실증적으로 뒷받침한다.
Abstract
In general, implementers of national R&D projects are selected by a scientific peer review system that appoints experts in the field. This study analyzed the accuracy of the research proposal appraisals by verifying the impact of evaluators’ expertise and acquaintanceship on the selection and implementation results of R&D projects, respectively. For this, we designed indicators to measure the Technology Evaluator Fit and the joint project implementation. An analysis of 19,447 projects submitted to the Korea Evaluation Institute of Industrial Technology over 10 years showed that the appraisal committee's expertise increased the accuracy of appraisals by reducing an underestimation bias. Meanwhile, it was confirmed that the acquaintanceship between appraisers and an appraisee, such as the joint implementation of past projects, increased the likelihood of selection regardless of the true quality of the project. The results of this study empirically support the assertion that the benefits of expertise outweigh the costs of biases except in the case of acquaintanceship, even though research proposal appraisals by a peer review method embody cognitive biases such as an in-group bias.
- 발행기관:
- 한국기술혁신학회
- 분류:
- 기술정책