Windows OS 기반 악성코드 탐지를 위한 Volatility 3 Plug-in 개발 연구 = A Study on the Development of Volatility 3 Plug-in for Malware Detection on Windows OS

국문 초록 (Abstract)

메모리 포렌식은 시스템 메모리에서 발생한 사건과 관련된 데이터를 수집, 분석하는 과정이다. 이는 특히 악성코드 탐지, 시스템 침해 분석, 루트킷과 같은 은닉된 악성 요소 탐지에 있어 매우 중요한 역할을 한다. 전통적인 디스크 기반 분석과는 달리, 메모리 포렌식은 휘발성 데이터를 포함한 시스템의 실시간 상태를 분석할 수 있어 더욱 정확한 침해 원인 분석 및 대응이 가능하다. 본 논문은 메모리 포렌식 도구인 Volatility 3을 활용해 윈도우 은닉 악성코드 탐지 연구를 수행했고 그 결과를 기반으로 하여 숨겨진 프로세스(루트킷) 등을 탐지할 수 있는 Volatility 3의 Plug-in인 hiddenprocess를 개발했다. 이것을 사용하여 권한 상승 취약점을 이용한 악성 프로세스와 Cronos-Rookit을 통해 은닉된 프로세스를 성공적으로 탐지하는 것을 테스트를 통해 확인하였다. hiddenprocess는 여러 가지 방법으로 조회된 PID를 서로 비교하여 탐지 여부를 True/false로 출력하고 실행된 각 프로세스가 가지고 있는 권한을 조회하는 기능을 가지고 있다. hiddenprocess를 이용하여 침해사고 시스템을 분석하면 더욱 직관적으로 의심 프로세스를 판별하는 데 도움을 줄 수 있을 것으로 기대한다.

다국어 초록 (Multilingual Abstract)

Memory forensics involves the collection and analysis of data related to incidents occurring within system memory. This is particularly important for detecting malware, analyzing system intrusions, and uncovering hidden malicious elements like rootkits. Unlike traditional disk-based analysis, memory forensics allows for the examination of the system's real-time state, including volatile data, leading to more accurate identification and response to security breaches. This paper explores the use of the memory forensics tool Volatility 3 to detect hidden malware on Windows systems.
Based on the findings, we developed a plugin for Volatility 3 called "hiddenprocess," designed to detect hidden processes (rootkits). Through testing, we successfully identified malicious processes exploiting privilege escalation vulnerabilities and processes hidden by the Cronos-Rootkit using this plugin. The hiddenprocess plugin compares PIDs retrieved through various methods to output a True/False detection status and has a feature to check the privileges of each running process. Utilizing hiddenprocess to analyze compromised systems is expected to aid in more intuitively identifying suspicious processes.

참고문헌 (Reference)

• 1 AhnLab ASEC, "report [Vol.112] Q3 2023 Security Trends"
• 2 AhnLab ASEC, "report [Vol.111] Q2 2023 Security Trends"
• 3 AhnLab ASEC, "report [Vol.110] Q1 2023 Security Trends"
• 4 "chompie1337, CVE-2023-21768 Local Privilege Escalation POC"
• 5 "XaFF-XaFF, Cronos-Rootkit"
• 6 "Volatility 3, Add threads pool tag scanning"
• 7 "Volatility 2.6, Operating System Support"
• 8 한지성 ; 이상진, "The Windows Physical Memory Dump Explorer for Live Forensics" 21 (21): 72-82, 2011
• 9 Leian Liu, "Research and design of root kit detection method" 33 : 852-857, 2012
• 10 Leian Liu, "Research and Design of Roo tkit Detection Method" 33 : 852-857, 2012
• 11 Mohammad Nadim, "Kernel-level Rootkit Detection, Prevention a nd Behavior Profiling : A Taxonomy and Survey"
• 12 AhnLab Security Issues, "Hidden malware, what is it?"
• 13 Nadim, Mohammad, "Characteristic features of the kernel-level roo tkit for learning-based detection model training" 33 : 1-6, 2021
• 14 Igor Korkin, "Applying memory forensics to rootkit detection"
• 15 Aniket Sahu, "A Survey on Rootkit Techni ques" 10 (10): 4242-4246, 2021