ChatGPT 기반 TOPIK 말하기 평가피드백 모형 개발 및 적용 = Development and Application of TOPIK Speech Evaluation Feedback Model Based on ChatGPT

국문 초록 (Abstract)

본 연구는 생성형 AI인 ChatGPT 기반 TOPIK 말하기 평가 피드백 모형 개발과 프롬프트를 설계하고 7차시의 교육 실험 및 사전·사후 평가 결과를 통해 그 효과성을 검증하는 데 목적을 둔다. 검증 방법으로는 TOPIK 기준 초·중·고급 수준의 중국인 한국어 학습자 22명을 대상으로, 피드백 모형을 적용한 실험집단 11명과 해당 모형을 적용하지 않은 통제집단 11명의 TOPIK 말하기 사전·사후 평가 점수를 비교 분석하였다. 분석 결과, 실험집단의 사전·사후 평가 점수 차이는 평균 18.31점으로 나타났으며, 통제집단의 9.73점과 비교할 때 실험집단의 향상 효과가 현저히 두드러진 것으로 나타났다. 두 집단 간 향상도 차이에 대한 사후 평가 대응 표본 t 검정 결과에서도 유의미한 차이를 확인할 수 있었다. 또한, '내용 및 과제 수행', '언어 사용', '발화 전달력'의 세 가지 평가 요소에서 실험집단은 각각 5.8점, 3.4점, 6.8점의 더 큰 향상폭을 기록하였다. 이러한 결과는 실험집단이 통제집단에 비해 학습 효과가 뚜렷하게 개선되었음을 시사한다. 아울러 실험집단의 사후 인터뷰에서도 참가자들은 본 연구에서 개발한 피드백 모형이 TOPIK 말하기 평가의 학습 효과를 뚜렷하게 향상시켰다는 긍정적인 반응을 보여 모형의 효과성을 다시 한번 입증하였고 통제집단의 참가자들 또한 ChatGPT 기반 피드백 모형에 대한 긍정적인 기대를 드러내었다. 본 연구는 TOPIK 말하기 평가를 중심으로 ChatGPT와 같은 생성형 AI 도구의 피드백 기능 활용이 한국어 학습자의 TOPIK 말하기 학습 능력 향상에 실질적인 도움을 줄 수 있음을 입증하였다. 또한 ChatGPT와 같은 생성형 AI 기반 학습 도구의 TOPIK 말하기 학습에서의 잠재력을 명확히 제시했다는 점에서 중요한 의의를 가진다.

다국어 초록 (Multilingual Abstract)

Thepurpose of this study is to design a TOPIK speaking evaluation feedback modeland prompt based on ChatGPT, a generative AI, and to verify its effectivenessthrough the 7th educational experiment and pre- and post-evaluation results. As averification method, the test group compared and analyzed the TOPIK speaking preandpost-evaluation scores of 11 Chinese learners in the experimental group towhich the feedback model was applied and 11 in the control group to which themodel was not applied. As a result of the analysis, the average difference in thepre- and post-evaluation scores of the experimental group was 18.31 points, andthe improvement effect of the experimental group was remarkably significantcompared to the control group’s 9.73 points. Significant differences were also foundin the post-evaluation response sample t-test results for the difference in the degreeof improvement between the two groups. In addition, in the three evaluation factors:‘content and task performance’, ‘language use’, and ‘speech delivery’, theexperimental group recorded a greater improvement of 5.8 points, 3.4 points, and6.8 points, respectively. These results suggest that the experimental group clearlyimproved the learning effect compared to the control group. Additionally, theparticipants demonstrated the model’s effectiveness once again in the experimentalgroup’s post-interview that the feedback model developed in this study clearlyimproved the learning effectiveness of the TOPIK speaking evaluation, and theparticipants of the control group also showed positive expectations for aChatGPT-based feedback model. This study demonstrated that the use of feedbackfunctions from Generative AI tools such as ChatGPT, focusing on TOPIK speakingevaluation, can actually help Korean learners improve their TOPIK speakinglearning ability. It is also significant in that it clearly demonstrates the potential of Generative AI-based learning tools such as ChatGPT in TOPIK speakinglearning.