영-독 신경망 기계 번역을 위한 데이터 증강 방법 연구 = Eine Studie über die Datenaugmentierung für das maschinelle Übersetzen Englisch-Deutsch

국문 초록 (Abstract)

기계 번역의 패러다임이 신경망 기반의 기계 번역으로 옮겨가면서 번역기 학습에 필요한 대용량 병렬 데이터의 중요성이 점점 더 커지고 있다. 그러나 대용량 병렬 데이터를 구축하기 위해서는 많은 시간과 비용이 필요하다. 이 문제를 해결하기 위해 본 논문에서는 기존의 영-독 병렬 데이터를 이용하여 새로운 데이터를 자동으로 만드는 방법에대하여 논의한다. 이를 위하여 먼저 병렬 데이터를 구성하는 영어와 독일어 각 문장의구조를 보편 의존 문법에 기반하여 파악한 뒤, 문장을 구 단위로 나눈다. 이 정보를 기반으로 단어 정렬 정보를 이용하여 출발 문장과 도착 문장을 구성하는 구를 정렬한다.
다음으로 구의 교환, 삭제, 교체, 첨가 방식을 통해 개별 언어의 문법 규범을 위배하지않으면서 데이터의 증강을 시도한다. 본 논문에서 제안하는 방법론으로 29,000개의 영-독 문장이 100,900 여개의 문장으로 증강되었다. 증강된 데이터로 학습된 영-독 기계 번역 모델의 BLEU 점수는 기존의 34.12점에서 38.75점으로 4점 이상 증가하였다. 이를 통하여 새로운 단어나 문장을 추가하지 않더라도 본 논문에서 제안하는 방법론으로 학습 데이터를 증강할 경우, 영-독 기계 번역 성능 향상의 효과가 있음을 확인할 수 있었다.

참고문헌 (Reference)

• 1 최상혁, "한국어에 적합한 단어 임베딩 모델 및 파라미터 튜닝에 관한 연구" 252-256, 2016
• 2 김재훈 ; 양성일, "정렬기법을 이용한 미등록 대역어의 자동 추출" 한국정보처리학회 14 (14): 231-240, 2007
• 3 이민행, "독일어 전산 의존문법 연구" 역락 2021
• 4 Wang, W. Y., "That’s so annoying!!!: A Lexical and Frame-semantic Embedding Based Data Augmentation Approach to Automatic Categorization of Annoying Behaviors Using #petpeeve Tweets" 2557-2563, 2015
• 5 Qi, P., "Stanza: A Python Natural Language Processing Toolkit for Many Human Languages" 101-108, 2020
• 6 Jurafsky, D., "Speech and Language Processing" Pearson Education 2008
• 7 Sutskever, I., "Sequence to Sequence Learning with Neural Networks" 3104-3112, 2014
• 8 Bahdanau, D., "Neural Machine Translation by Jointly Learning to Align and Translate" 3104-3112, 2014
• 9 Sennrich, R., "Improving Neural Machine Translation Models with Monolingual Data" 86-96, 2016
• 10 Wei, J., "EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks" 6382-6388, 2019
• 11 Currey, A., "Copied Monolingual Data Improves Low-resource Neural Machine Translation" 148-156, 2017
• 12 Kobayashi, S., "Contextual Augmentation: Data Augmentation by Words with Paradigmatic Relations" 452-457, 2018
• 13 Wu, X., "Conditional Bert Contextual Augmentation" 84-95, 2019
• 14 Och, F. J., "A Systematic Comparison of Various Statistical Alignment Models" 29 (29): 19-51, 2003
• 15 Dyer, C., "A Simple, Fast, and Effective Reparameterization of IBM Model 2" 644-648, 2013