군집 수에 따른 공간 제약 위계적 군집 기반 기계학습 예측 정확도 변화 = Varying Prediction Accuracies of Spatially Constrained Hierarchical Clustering-Based Machine Learning with Different Numbers of Clusters

국문 초록 (Abstract)

공간자료는 필연적으로 공간적 이질성을 내포하고 있다. 공간적 이질성의 존재는 연구 지역이 동일 모집단을 가진다는 가정을 만족하기 어렵게 하며, 이는 국지적으로 다른 기계학습 모형의 생성 필요성과 연결된다. 서울시 지하철 승하차 인원에 있어서도 공간적 이질성이 존재하며, 공간적으로 유사한 지역의 구성은 기계학습 모형의 예측 정확도 향상에 기여할 수 있다. 본 연구는 공간 제약 위계적 군집 방법으로 생성된 군집별 기계학습 모형의 추정이 기계학습 예측 정확도 향상에 미치는 영향을 탐색한다. 구체적으로 군집의 수를 변화시키며, 군집 수에 따른 예측 정확도를 각 군집별 생성된 모형과 전체 모형 간 평균 제곱근 오차를 이용하여 비교하였다. 본 연구에서 사용한 기계학습 기법은 선형회귀모형, 랜덤포레스트, 그래디언트부스팅이며, 반응변수는 지하철 승하차 인원을 사용하였다. 그 결과 대부분의 기법에서 군집의 수가 증가할수록 군집 모형의 예측 정확도가 전체 모형보다 높은 경우가 증가하는 경향을 보였다. 그러나 군집의 수가 일정 수 이상인 경우 그 경향성이 일정하게 유지되어, 예측 정확도 향상을 위해서 적절한 군집 수의 추정이 요구되는 것을 확인하였다. 본 연구는 공간 제약 위계적 군집 분석과 기계학습 기반 지하철 승하차 인원 예측 모형을 결합하여 공간적 군집 기반 모형 추정이 예측 정확도에 미치는 영향을 탐색하였다는 점에서, 공간 기계학습 발전의 기초 연구로 활용될 것으로 기대한다.

다국어 초록 (Multilingual Abstract)

Spatial data inherently contains spatial heterogeneity. The existence of spatial heterogeneity often violates the assumption that sub-study areas have the same population, necessitating the creation of local machine learning models. Subway ridership also exhibits spatial heterogeneity, and creating local models based on the composition of spatially similar regions could improve prediction accuracies. This study explores the impact of spatially constrained hierarchical clustering on the prediction accuracy of machine learning models. Specifically, the prediction accuracies are compared between models created for each cluster and the entire model by varying the number of clusters. Subway ridership is utilized as the response variable, and the machine learning techniques employed are linear regression, random forests, and gradient boosting. The results indicate that as the number of clusters increases, the prediction accuracy of the cluster model tends to exceed that of the entire model across most techniques. However, when the number of clusters exceeds a certain threshold, this tendency remains constant, highlighting the necessity of estimating the appropriate number of clusters to improve prediction accuracy. This study is expected to provide a research base for enhancing spatial machine learning by investigating the impact spatially constrained hierarchical cluster-based machine learning models.

참고문헌 (Reference)

• 1 구형모 ; 유무상 ; 서현일 ; 박성재, "exploring effectiveness of spatial features for incorporating spatial data into machine learning, Journal of the Korean Society of Surveying, Geodesy" 42 (42): 1-13, 2024
• 2 Zhao, J., "What influences metro station ridership in China? Insights from Nanjing" 35 : 114-124, 2013
• 3 김진희 ; 박일섭 ; 정진혁, "Trip generation model based on geographically weighted regression" 28 (28): 101-109, 2011
• 4 Goodchild, M. F., "The validity and usefulness of laws in geographic information science and geography" 94 (94): 300-303, 2004
• 5 Trivedi, S., "The utility of clustering in prediction tasks"
• 6 오지예 ; 홍성연 ; 진장익, "The relationship between planning elements of 5Ds RTOD and Transit Ridership : A focus on job accessibility in Seoul" 54 (54): 609-620, 2019
• 7 Burkov, A., "The hundred-page machine learning book, Vol. 1" Quebec City 3-9, 2019
• 8 Koo, H. M., "Spatio-temporal variability of the impact of population mobility on local business sales in response to COVID-19 in Seoul, Korea" 11 (11): 532-, 2022
• 9 Helbich, M., "Spatially varying coefficient models in real estate : Eigenvector spatial filtering and alternative approaches. Computers" 57 : 1-11, 2016
• 10 Breiman, L., "Random Forests" 45 : 5-32, 2001
• 11 Seoul Metropolitan Government, "Operational guidelines for the urban railway station area activation project" Seoul Metropolitan Government
• 12 Cervero, R., "Mixed land-uses and commuting : Evidence from the American housing survey" 30 (30): 361-377, 1996
• 13 Kourou, K., "Machine learning applications in cancer prognosis and prediction" 13 : 8-17, 2015
• 14 Estiri, H., "Kluster : an efficient scalable procedure for approximating the number of clusters in unsupervised learning" 13 : 38-51, 2018
• 15 Friedman, J. H., "Greedy function approximation : A gradient boosting machine" 29 : 1189-1232, 2001
• 16 Park, S. J., "Exploring the spatio-temporal clusters of closed restaurants after the COVID-19 outbreak in Seoul using relative risk surfaces" 13 (13): 13889-, 2023
• 17 유무상 ; 구형모, "Exploring discontinuous spatial heterogeneity in the determinants of apartment sales price in Seoul" 24 (24): 43-57, 2024
• 18 Lee, C., "Effects of geographically stratified random sampling initial solutions on solving a continuous surface p-median location problem using the ALTERN heuristic" 57 : 100768-, 2023
• 19 Mostafa, S. M., "Effect of clustering data in improving machine learning model accuracy" 97 (97): 2973-2981, 2019
• 20 Helbich, M., "Data-driven regionalization of housing markets" 103 (103): 871-889, 2013
• 21 Chavent, M., "ClustGeo : an R package for hierarchical clustering with spatial constraints" 33 (33): 1-24, 2018
• 22 Govender, P., "Application of k-means and hierarchical clustering techniques for analysis of air pollution : A review(1980–2019)" 11 (11): 40-56, 2020
• 23 김지윤 ; 임수연 ; 추상호 ; 박인기, "Analysis of transit ridership patterns and influencing factors in Seoul" 87 : 49-65, 2015
• 24 손동욱 ; 김진, "Analysis of the relationships between land use characteristics of urban transit centers and the level of transit usage : Case studies of Seoul Metropolitan Area" 11 (11): 33-44, 2010
• 25 James, G., "An introduction to statistical learning, Vol. 112" springer 2013
• 26 조현우 ; 이석환 ; 신강원, "An empirical study on the relationship between subway trips and characteristics of subway catchment area" 11 (11): 5191-5198, 2010
• 27 김정희, "An analysis on the spatiotemporal heterogeneity of real transaction price of apartment in Seoul using the geostatistical methods" 24 (24): 75-81, 2016
• 28 김동준 ; 김덕녕 ; 양재환 ; 성현곤 ; 이성모, "An analysis on accuracy of demand forecasts based on station-wide characteristics-Focus on Seoul subway" 17 (17): 23-35, 2010
• 29 조수진 ; 김보경 ; 김나현 ; 송종우, "A study on the number of passengers using the subway stations in Seoul" 32 (32): 111-128, 2019