연구성과평가 지침 리뷰 및 국내 적용 제안을 위한 고찰 = A Review of Declarations on Appropriate Research Evaluation for Exploring Their Applications to Research Evaluation System of Korea

다국어 초록 (Multilingual Abstract)

Inappropriate applications of bibliometric approach and misinterpretation on the analysis in research evaluation have been found and recognized nationally and internationally as the use of the approach has been rapidly adopted in various sectors in research evaluation systems and research funding agencies. The flood of misuse led to several numbers of declarations and statements on appropriate research evaluation, including Leiden Manifesto, DORA, IEEE Statement, etc. The similar recommendations from five different declarations, Leiden Manifest, IEEE Statement, DORA, Institut de France, and Thomson Reuters White paper were reviewed and meta-analyzed in this study and it is revealed that most of them emphasize evaluation on quality in various aspects with multiple indicators. Research evaluation with assessing multiple aspects of individual research based on the understandings of its purpose and pertinent subject area was revealed as being mostly advised in the declarations, and this recommendation can be regarded as being mostly requested in national research evaluation system. For future study, interviews with relevant stakeholders of national research evaluation system in order to explore its application are needed to confirm the findings of this review.

국문 초록 (Abstract)

연구성과평가와 연구비 배분에 인용분석을 포함한 계량정보학적 분석방법이 많이 사용되고 있으며, 부적절한 적용 및 해석에 대한 우려와 지적 또한 계속되고 있다. 이에 따라 최근 연구성과평가 지침과 권고안이 학술 커뮤니티와 계량서지학적 연구집단에서 연이어 발표되고 있다. 따라서 이 연구에서는 2015년 발표된 라이덴 선언(Leiden Manifesto)을 중심으로 Thomson Reuters 백서, 프랑스 과학원 권고안, DORA 선언, IEEE 권고안을 비교하고 이를 통해 국내 연구성과평가 환경에의 제안 가능성을 살펴보고자 하였다. 비교분석 결과, 다수의 권고안은 연구의 목적과 연구 주제분야별 특성을 반영하고 다양한 지표를 활용한 다면적 평가를 통해 총체적인 평가를 지향하고 있는 것으로 나타났다. 이러한 결과는 국내 연구성과평가시스템 적용에서 고려해 볼 주요 권고안이라고 할 수 있으며, 추후 이에 대한 이해관계자들의 의견 수렴 등을 통하여 국내 연구성과시스템에의 적용가능성을 보다 심층적으로 살펴볼 필요가 있을 것이다.

참고문헌 (Reference)

• 1 고영만, "학술지의 피인용횟수 순위를 적용한 tapered h-지수의 변형지표 “Kor-hT”에 관한 연구" 한국정보관리학회 30 (30): 111-131, 2013
• 2 김판준, "학술지 영향력 측정을 위한 h-지수의 응용에 관한 연구" 한국정보관리학회 27 (27): 269-287, 2010
• 3 설혜심, "학문의 분화와 통섭" 32 : 91-124, 2011
• 4 한국정보과학회, "컴퓨터 분야 성과지표 개선(안)" 한국정보과학회 2013
• 5 "중앙일보 대학평가"
• 6 이재윤, "인용 네트워크 분석에 근거한 문헌 인용 지수 연구" 한국문헌정보학회 45 (45): 119-143, 2011
• 7 김판준, "연구 성과평가와 연구정보서비스의 연계를 위한 기초 연구: 과학기술 분야 연구개발사업을 중심으로" 한국정보관리학회 28 (28): 243-261, 2011
• 8 조은성, "국내외 마케팅 학술지의 영향력: Kor-Factor와 Impact Factor의 문제점을 중심으로" 한국마케팅관리학회 16 (16): 53-82, 2011
• 9 이재윤, "국내 인용 데이터베이스에서 저널 페이지랭크 측정 방안" 한국비블리아학회 22 (22): 361-379, 2011
• 10 이종욱, "교수연구업적 평가법의 계량적 분석: 국내 문헌정보학과 교수연구업적을 중심으로" 한국정보관리학회 28 (28): 119-140, 2011
• 11 Gomez Marin, J. E., "Why to disagree with the San Francisco declaration on research assessment" 19 (19): 99-100, 2015
• 12 Schubert, A., "Using the h-index for assessing single publications" 78 (78): 559-565, 2009
• 13 Thomson Reuters, "Using bibliometrics: A guide to evaluating research performance with citation data"
• 14 Pendlebury, D. A., "Using bibliometrics in evaluating research"
• 15 Pendlebury, D. A., "The use and misuse of journal metrics and other citation indicators" 57 (57): 1-11, 2009
• 16 Cagan, R., "The San Francisco declaration on research assessment" 6 (6): 869-870, 2013
• 17 Way, M., "The San Francisco declaration on research assessment" 126 : 1903-1904, 2013
• 18 Pourquié, O., "The San Francisco declaration on research assessment" 140 (140): 2643-2644, 2013
• 19 Hoppeler, H., "The San Francisco declaration on research assessment" 216 : 2163-2164, 2013
• 20 Schekman, R., "Reforming research assessment" 2 (2): e00855-, 2013
• 21 Leydesdorff, L., "Percentile ranks and the integrated impact indicator (I3)" 63 (63): 1901-1902, 2012
• 22 Servaes, J., "On impact factors and research assessment. At the start of volume 31 of telematics and informatics" 31 (31): 1-2, 2014
• 23 Moed, H. F., "Measuring contextual citation impact of scientific journals" 4 (4): 256-277, 2010
• 24 Grant Steen, R., "Journal impact factor: Baby and bathwater discarded?" 39 (39): 64-65, 2013
• 25 Jiménez-Contreras, E., "Impactfactor rewards affect Spanish research" 417 : 898-, 2002
• 26 Åström, F., "How implementation of bibliometric practice affects the role of academic libraries" 45 (45): 316-322, 2013
• 27 Hagen, N. T., "Harmonic allocation of authorship credit: Source-level correction of bibliometric bias assures accurate publication and citation analysis" 3 (3): e4021-, 2008
• 28 Garfield, E., "From information retrieval to scientometrics-is the dog still wagging its tail" Keynote Address at WIS & COLLNET
• 29 Pugh, E. N., "Embracing the principles of the san francisco declaration of research assessment: Robert Balaban’s editorial" 142 (142): 175-, 2013
• 30 Butler-Adam, J., "DORA: The San Francisco declaration on research assessment" 109 (109): 1-1, 2013
• 31 Bladek, M., "DORA: San Francisco declaration on research assessment (May 2013)" 75 (75): 191-196, 2014
• 32 Hicks, D., "Bibliometrics: The Leiden Manifesto for research metrics" 520 (520): 429-431, 2015
• 33 Ball, R., "Bibliometric analysis: A new business area for information professionals in libraries?" 66 (66): 561-577, 2006
• 34 IEEE, "Appropriate use of bibliometric indicators for the assessment of journals, research proposals, and individuals"
• 35 King, J., "A review of bibliometric and other science indicators and their role in research evaluation" 13 (13): 261-271, 1987
• 36 이재윤, "A Comparative Analysis on Multiple Authorship Counting for Author Co-citation Analysis" 한국정보관리학회 31 (31): 57-77, 2014