연합학습의 의료분야 적용을 위한 자기지도 메타러닝 = Self-supervised Meta-learning for the Application of Federated Learning on the Medical Domain

국문 초록 (Abstract)

최근 많은 발전을 이룬 의료 인공지능은 의사가 진단과 결정을 내리는 데 도움을 주는 등 중요한 역할을 수행하고 있다. 특히, 흉부 엑스레이 분야는 접근성 및 흉부질환 탐지에 유용함과 최근 COVID-19 상황이 도래함에 따라 많은 관심을 받고 있다. 그러나, 데이터의 수가 많음에도 레이블이 있는 데이터의 수가 부족하므로 효과적인 인공지능 모델을 만드는데 한계가 있다. 이러한 문제를 완화하는 방안으로 연합학습을 흉부 엑스레이 데이터에 적용한 연구가 등장했지만, 여전히 다음과 같은 문제를 내포하고 있다. 1) Non-IID 환경에서 발생할 수 있는 문제를 고려하지 않았다. 2) 연합학습 환경에 서도 여전히 클라이언트의 레이블이 있는 데이터가 부족하다. 우리는 자기지도학습 모델을 연합학습의 Global 모델로 사용함으로써 위와 같은 문제를 해결하는 방법을 제안한다. 이를 위해 흉부 엑스레이 데이터를 사용한 연합학습에 알맞은 자기지도학습 방법론을 실험적으로 탐색하며, 자기지도학습 모델을 연합학습에 사용함으로써 얻을 수 있는 장점을 검증 한다.

참고문헌 (Reference)

• 1 공희산, "의료 데이터의자기지도학습 적용을 위한 pretext task 분석" 38-40, 2021
• 2 Doersch, C., "Unsupervised visual representation learning by context prediction" 1422-1430, 2015
• 3 Komodakis, N., "Unsupervised representation learning by predicting image rotations" 2018
• 4 Noroozi, M., "Unsupervised learning of visual representations by solving jigsaw puzzles" Springer 69-84, 2016
• 5 Caron, M., "Unsupervised learning of visual features by contrasting cluster assignments" 33 : 9912-9924, 2020
• 6 Wang, J., "Tackling the objective inconsistency problem in heterogeneous federated optimization" 33 : 7611-7623, 2020
• 7 Misra, I., "Self-supervised learning of pretext-invariant representations" 6707-6717, 2020
• 8 Karimireddy, S. P., "Scaffold: Stochastic controlled averaging for federated learning" 5132-5143, 2020
• 9 Banerjee, S., "Multi-diseases classification from chest-X-ray: A federated deep learning approach" Springer 3-15, 2020
• 10 Chen, X., "Improved baselines with momentum contrastive learning" 2020
• 11 Li, T., "Federated optimization in heterogeneous networks" 2 : 429-450, 2020
• 12 Yan, B., "Experiments of federated learning for COVID-19 chest X-ray images" Springer 41-53, 2021
• 13 Guan, Q., "Discriminative Feature Learning for Thorax Disease Classification in Chest X-ray Images" 30 : 2476-2487, 2021
• 14 Huang, G., "Densely connected convolutional networks" 4700-4708, 2017
• 15 He, K., "Deep residual learning for image recognition" 770-778, 2016
• 16 Mangal, A., "CovidAID: COVID-19 detection using chest X-ray" 2020
• 17 Baltruschat, I. M., "Comparison of deep learning approaches for multi-label chest X-ray classification" 9 (9): 1-10, 2019
• 18 McMahan, B., "Communicationefficient learning of deep networks from decentralized data" 1273-1282, 2017
• 19 Rajpurkar, P., "Chexnet : Radiologist-level pneumonia detection on chest x-rays with deep learning" 2017
• 20 Xiaosong Wang, "ChestX-ray8: Hospital-scale Chest X-ray Database and Benchmarks on Weakly-Supervised Classification and Localization of Common Thorax Diseases" 3462-3471, 2017
• 21 Grill, J. B., "Bootstrap your own latent-a new approach to self-supervised learning" 33 : 21271-21284, 2020
• 22 Zbontar, J., "Barlow twins: Self-supervised learning via redundancy reduction" 12310-12320, 2021
• 23 Kairouz, P., "Advances and open problems in federated learning" 14 (14): 1-210, 2021
• 24 Chen, T., "A simple framework for contrastive learning of visual representations" 1597-1607, 2020
• 25 Irvin, J., "A large chest radiograph dataset with uncertainty labels and expert comparison" CheXPert (33) : 590-,