정보검색 성능 향상을 위한 단어 중의성 해소 모형에 관한 연구 = Improving the Retrieval Effectiveness by Incorporating Word Sense Disambiguation Process

다국어 초록 (Multilingual Abstract)

This paper presents a semantic vector space retrieval model incorporating a word sense disambiguation algorithm in an attempt to improve retrieval effectiveness. Nine Korean homonyms are selected for the sense disambiguation and retrieval experiments. The total of approximately 120,000 news articles comprise the raw test collection and 18 queries including homonyms as query words are used for the retrieval experiments. A Naive Bayes classifier and EM algorithm representing supervised and unsupervised learning algorithms respectively are used for the disambiguation process. The Naive Bayes classifier achieved 92% disambiguation accuracy, while the clustering performance of the EM algorithm is 67% on the average. The retrieval effectiveness of the semantic vector space model incorporating the Naive Bayes classifier showed 39.6% precision achieving about 7.4% improvement. However, the retrieval effectiveness of the EM algorithm-based semantic retrieval is 3% lower than the baseline retrieval without disambiguation. It is worth noting that the performances of disambiguation and retrieval depend on the distribution patterns of homonyms to be disambiguated as well as the characteristics of queries.

국문 초록 (Abstract)

이 연구에서는 문헌 및 질의의 내용을 대표하는 주제어의 중의성 해소를 위해 대표적인 지도학습 모형인 나이브 베이즈 분류기와 비지도학습 모형인 EM 알고리즘을 각각 적용하여 검색 실험을 수행한 다음, 주제어의 중의성 해소를 통해 검색 성능의 향상을 가져올 수 있는지를 평가하였다. 실험문헌 집단은 약 12만 건에 달하는 한국어 신문기사로 구성하였으며, 중의성 해소 대상 단어로는 한국어 동형이의어 9개를 선정하였다. 검색 실험에는 각 중의성 단어를 포함하는 18개의 질의를 사용하였다. 중의성 해소 실험 결과 나이브 베이즈 분류기는 최적의 조건에서 평균 92%의 정확률을 보였으며, EM 알고리즘은 최적의 조건에서 평균 67% 수준의 클러스터링 성능을 보였다. 중의성 해소 알고리즘을 통합한 의미기반 검색에서는 나이브 베이즈 분류기 통합 검색이 약 39.6%의 정확률을 보였고, EM 알고리즘 통합 검색이 약 36%의 정확률을 보였다. 중의성 해소 모형을 적용하지 않은 베이스라인 검색의 정확률 37%와 비교하면 나이브 베이즈 통합 검색은 약 7.4%의 성능 향상률을 보인 반면 EM 알고리즘 통합 검색은 약 3%의 성능 저하율을 보였다.

참고문헌 (Reference)

• 1 "사전의 뜻풀이말에서 추출한 의미정보에 기반한 동형이의어 중의성 해결 시스템 소프트웨어 및 응용" 688-698, 2001
• 2 "“Word sense disambiguation in information retrieval revisited Pro- ceedings of the 26th ACM SIGIR" 159-166, 2003
• 3 "“Using WordNet to disambiguate word senses for text retrieval Proceedings of SIGIR '93" 171-180, 1993
• 4 "“Retrieving with good" 49-69, 2000
• 5 "“Information retrieval based on word sense Proceedings of the Fourth Annual Symposium on Document Analysis and Information Retrieval" 161-175, 1995
• 6 "“Estimating Upper and Lower Bounds on the Performance of Word Sense Disambiguation Programs Proceedings of the 30th Annual Meeting of the Association for Computational Linguistics" 249-256, 1992a
• 7 "“Corpus-based method for unsupervised word sense disambigu- ation Proceedings of the Workshop on Machine Learning in Human Language Technology Advanced Cou- rse on Artificial Intelligence" 267-273, 1999
• 8 "“An analysis of web searching by European AlltheWeb" 361-381, 2005
• 9 "“A method for disambiguating word senses in a large corpus" 415-439, 1993
• 10 "“A Method for Disambigu- ating Word Sense in a Large Corpus" 415-439, 1992
• 11 "“A Corpus-based Approach to Com- parative Evaluation of Statistical Term Association Measures Journal of the American Society for Infor- mation Science and Technology" 283-296, 2001
• 12 "the state of the art" 1-40, 1998
• 13 "the Case for Combinations for Knowledge Sources" 2003
• 14 "a study and analysis of user queries on the web" 207-227, 2000
• 15 "Proceedings of the Speech and Natural Language Workshop" 233-237, 1992b
• 16 "Proceedings of the Seventh Text Retrieval Conference" -7, 1999
• 17 "Proceedings of the 17th international ACM SIGIR" 49-57, 1994
• 18 "Natural Language Processing for Online Applications" John Benjamins Publishing Company 2002
• 19 "Foundations of Statistical Natural Language Processing" MIT Press 1999
• 20 "Annual Meeting of the ACL Archive Proceedings of the 33rd conference on Association for Computational Linguistics" 1995189-196
• 21 "Annual Meeting of the ACL Archive Proceedings of the 33rd conference on Association for Computational Linguistics" 1995189-196
• 22 "ACM Transactions on Information Retrieval Systems" 115-141, 1992