다국면 라쉬 모형을 통한 준거설정자의 평정결과 평가 = Evaluating cut-scores of three standard setting methods using many-faceted Rasch model

국문 초록 (Abstract)

교실평가 상황에서 점차 절대적 기준에 따라 학생의 학습 도달 정도를 해석하는 준거참조평가가 확대되고 있다. 준거참조평가의 핵심은 평가의 결과를 해석하는 기준인 준거와 준거에 따른 수행수준을 구분하는 분할점수를 어떻게 설정하는가에 있으며, 일반적으로 준거는 전문가의 주관적인 판단을 바탕으로 설정된다. 대부분의 준거설정 방법에서는 최소능력보유자라는 가상의 집단을 상정하게 되는데, 전문가들 마다 동일한 개념의 최소능력보유자를 상정하는 것은 쉽지 않다. 심지어 한 명의 준거설정자가 준거설정을 반복하는 동안 상정한 최소능력보유자의 개념은 동일하지 않을 수 있다. 그러므로 타당한 분할점수를 산출하기 위하여 성공적인 준거설정 수행이 필수적이며, 특히 준거설정자의 평정이 타당하였는지를 평가하는 것이 중요하다. 본 연구에서는 다국면 라쉬 모형을 적용하여 세 가지 준거설정 방법(Bookmark 방법, Mapmark 방법, IDM 방법)을 실시하며 산출된 6명 준거설정자들의 평정결과를 평가하였다. 분리 신뢰도 지수에 따르면, 모든 준거설정 방법에서 준거설정자들은 비슷한 수준의 엄정성을 보였다. Bookmark 방법과 IDM 방법을 통해 산출된 평균 성취 수준은 서로 비슷한 반면, Mapmark 방법에 의해 산출된 평균 성취수준은 통계적으로 유의미한 차이를 보였다. 또한 세 가지 준거설정 방법 중, IDM 방법을 적용하여 도출된 준거설정자들의 평정이 가장 높은 일관성을 보였다.

다국어 초록 (Multilingual Abstract)

In a classroom assessment situation. the criterion-referenced assessment, a student’s raw test score is interpreted by performance standards which are specifically defined to represent abilities measured on the test, became a major assessment method. The major feature of criterion-referenced assessment is that the criteria or standards are set based on experts' subjective judgments. To set standards, the experts have to conceptualize the ‘minimally competent students.’ It might be hard to coherently retain this concept, not only between experts but even for a single expert. In order to validate the cut-scores, it is important to show that the standard setting method is appropriately designed and successfully implemented by the standard setting panelists. This study evaluated the procedures of standard setting by using the many-faceted Rasch model which can incorporate multiple facets related to standard setting. In this study, four facets (i.e., panelists, items, standard setting methods, and rounds) are included. The results showed a general agreement between panelists. The average performance levels estimated by the Bookmark and IDM methods were similar, but these differed significantly from those by the Mapmark methods. Among three standard setting methods used in this study, the panelists’ ratings for the IDM method were the most consistent.