선형모형의 선택에 관한 통계적 기계학습: 변수선택법의 비교연구 = Statistical Learning beyond Linear Model: Comparative Study of Variable Selection Method

다국어 초록 (Multilingual Abstract)

When the number of explanatory variables in a general linear regression model is large, it is necessary to make the best subset through variable selection. In this study, in addition to the forward stepwise selection method and backward elimination method, which are mainly used in such cases, ridge regression and lasso method, which are shrinkage methodologies that select the optimum variable through a certain regulation, are compared, and the optimal variables selected in each method are compared. The reason for doing this can be said to be a process for better prediction accuracy and model interpretation. The data used for this comparative study are satisfaction survey data for SW-related subjects at University D. This is to select the optimal variables that affect the satisfaction of related subjects in the process of expanding the SW-related subjects of University D to the compulsory liberal arts subjects for all students. Various variables were considered, such as the professor's enthusiasm for the subject, the appropriateness of the class level, and the online educational environment for non-face-to-face classes in schools especially under the COVID-19 pandemic. Optimized variables were selected through this research methodology, and as a result, seven explanatory variables by the Lasso model were finally selected to evaluate the satisfaction of SW-related subjects every year.

국문 초록 (Abstract)

일반적으로 선형회귀모형에서 설명변수의 수가 많을 때는 변수선택을 통한 최적의 변수 집합(best subset)을 만들어주는 것이 필요하다. 본 연구에서는 이런 경우 주로 사용하는 변수선택 모형으로 전진선택법(forward stepwise selection) 및 후진 제거법(backward elimination) 그리고 다양한 규제를 통해 최적의 변수를 선택하는 shrinkage 방법론인 능형회귀(ridge regression)과 라쏘(lasso)방법론을 비교하여 각 각의 방법론에서 선택된 최적의 변수들을 비교하고자 한다. 이렇게 하는 이유는 보다 나은 예측 정확도와 모델 해석을 위한 과정이라 할 수 있다. 이러한 비교연구를 위해 사용된 데이터는 D대학의 SW관련 교과목에 대한 만족도 설문자료이다. D대학의 SW관련 교과목을 전체 학생의 필수 교양과목으로 확대시키는 과정에서 관련 교과목의 만족도에 영향을 주는 최적의 변수들을 선택하고자 하는 것이다. 사용된 변수들은 교수의 교과목에 대한 열정, 수업 수준의 적절성, 특히 코로나-19하에서 학교의 온라인 교육환경 수준 등 다양하고 많은 변수들을 사전에 고려하였다. 본 연구 방법론을 통해 최적화된 변수들을 선정하고자 하였으며 결과적으로 라쏘모델에 의한 7개의 설명변수를 최종 선택하여 매년 SW관련 교과목 만족도를 평가하고자 한다.

참고문헌 (Reference)

• 1 김종덕, "비직교 설명변수가 사용될 때의 일반화능형회귀의 일반적 해" 한국자료분석학회 6 (6): 129-144, 2004
• 2 서혜선, "비례오즈 로짓모형에 의한 비대면수업 만족도에 미치는 영향 연구" 한국자료분석학회 22 (22): 1371-1382, 2020
• 3 유동현, "모형 선택 기준들에 대한 LASSO 회귀 모형 편의의 영향 연구" 한국통계학회 29 (29): 643-656, 2016
• 4 서혜선, "구조방정식을 이용한 대학 소프트웨어 교과목의 만족도에 관한 연구" 한국자료분석학회 22 (22): 587-598, 2020
• 5 주아림, "고차원 선형모형에서 벌점화우도 방법을 이용한 변수 선택방법 연구" 한국자료분석학회 17 (17): 2391-2402, 2015
• 6 Joseph. O, Ogutu, "Genomic Selection using Regularized Linear Regression Models: Ridge Regression, Lasso, Elastic Net and Their Extensions"
• 7 Kim, H. J., "Effect analysis of the SW curriculum reorganization for Non-CS students on the class satisfaction" 22 (22): 45-48, 2018
• 8 James, D. G., "An Introduction to Statistical Learning" Springer 2014