AI 환경에서 모델 전도 공격에 안전한 차분 프라이버시 기술 = Differential Privacy Technology Resistant to the Model Inversion Attack in AI Environments

다국어 초록 (Multilingual Abstract)

The amount of digital data a is explosively growing, and these data have large potential values. Countries and companiesare creating various added values from vast amounts of data, and are making a lot of investments in data analysistechniques. The privacy problem that occurs in data analysis is a major factor that hinders data utilization. Recently, asprivacy violation attacks on neural network models have been proposed. researches on artificial neural network technologythat preserves privacy is required. Therefore, various privacy preserving artificial neural network technologies have beenstudied in the field of differential privacy that ensures strict privacy. However, there are problems that the balance betweenthe accuracy of the neural network model and the privacy budget is not appropriate. In this paper, we study differentialprivacy techniques that preserve the performance of a model within a given privacy budget and is resistant to modelinversion attacks. Also, we analyze the resistance of model inversion attack according to privacy preservation strength.

국문 초록 (Abstract)

온라인상에 축적되는 디지털 데이터의 양은 폭발적으로 증가하고 있으며 이러한 데이터들은 매우 큰 잠재적 가치를 갖고 있다. 국가 및 기업들은 방대한 양의 데이터로부터 다양한 부가가치를 창출하고 있으며 데이터 분석 기술에많은 투자를 하고 있다. 그러나 데이터 분석에서 발생하는 프라이버시 문제는 데이터의 활용을 저해하는 큰 요인으로작용하고 있다. 최근 신경망 모델 기반의 분석 기술에 대한 프라이버시 침해 공격들이 제안됨에 따라 프라이버시를보존하는 인공 신경망 기술에 대한 연구가 요구되고 있다. 이에 따라 엄격한 프라이버시를 보장하는 차분 프라이버시분야에서 다양한 프라이버시 보존형 인공 신경망 기술에 대한 연구가 수행되고 있지만, 신경망 모델의 정확도와 프라이버시 보존 강도 사이의 균형이 적절하지 않은 문제점이 있다. 본 논문에서는 프라이버시와 모델의 성능을 모두 보존하고 모델 전도 공격에 저항성을 갖는 차분 프라이버시 기술을 제안한다. 또한, 프라이버시 보존 강도에 따른 모델전도 공격의 저항성을 분석한다.

참고문헌 (Reference)

• 1 P. Kairouz, "The composition theorem for differential privacy" 63 (63): 4037-4049, 2017
• 2 C. Dwork, "The algorithmic foundations of differential privacy" 9 (9): 211-407, 2014
• 3 AT&T Laboratories Cambridge, "The ORL database of faces"
• 4 F. Tramèr, "Stealing machine learning models via prediction apis" 601-618, 2016
• 5 M. Fredrikson, "Privacy in pharmacogenetics: An end-to-end case study of personalized warfarin dosing" 17-32, 2014
• 6 C. Dwork, "Our data, ourselves: Privacy via distributed noise generation" 486-503, 2006
• 7 C. J. Maddison, "Move evaluation in Go using deep convolutional neural networks"
• 8 M. Fredrikson, "Model inversion attacks that exploit confidence information and basic countermeasures" 1322-1333, 2015
• 9 R. Shokri, "Membership inference attacks against machine learning models" 3-18, 2017
• 10 O. Vinyals, "Grammar as a foreign language" 2773-2781, 2015
• 11 C. Dwork, "Differential privacy and robust statistics" 9 : 371-380, 2009
• 12 K. He, "Delving deep into rectifiers: Surpassing human-level performance on imagenet classification" 1026-1034, 2015
• 13 M. Abadi, "Deep learning with differential privacy" 308-318, 2016
• 14 C. Dwork, "Calibrating noise to sensitivity in private data analysis" 265-284, 2006
• 15 A. Beimel, "Bounds on the sample complexity for private learning and private data release" 437-454, 2010
• 16 C. Dwork, "Boosting and differential privacy" 51-60, 2010