마이크로 배치 스트리밍 시스템에서 상태 프리로딩 기법을 통한 성능 향상 = Performance Improvement Using State Preloading Mechanism in Micro-batch Streaming System

국문 초록 (Abstract)

오늘날 빅데이터 환경에서 상태 기반 실시간 스트리밍 처리를 위해, LSM-tree 기반의 키-값 저장소가 스트리밍 시스템의 상태 저장소로 도입되었다. 마이크로 배치 스트리밍 시스템에서는 상태를 저장하고 내결함성을 보장하기 위해 상태 저장소에 대한 주기적인 커밋 작업이 수행된다. 그러나 이 과정이 일반적으로 리모트 머신에서 수행되어 지연을 발생시킨다. 이를 해결하기 위해 본 논문에서는 상태 프리로딩 기법을 제안한다. 상태 프리로딩 기법은 체크포인팅 파일을 로컬에서 인터셉트하여 로컬 머신에 저장하고, 리모트 체크포인팅으로 인한 성능 저하의 주요 원인인 컴팩션 시 로컬 파일시스템에 있는 파일을 이용하여 빠르게 접근하도록 한다. 우리는 Apache Spark 프레임워크에 상태 프리로딩 기법을 적용하여 성능을 측정하였다. 대표적인 실험 결과로 리모트 체크포인팅을 수행했을 때와 비교한 경우 상태 프리로딩 기법의 꼬리 지연시간이 최대 약 61.71% 감소하였다.

다국어 초록 (Multilingual Abstract)

An LSM-tree-based key-value store has been adopted as a state store in streaming systems to support real-time stateful stream processing in today's big data environment. In micro-batch streaming systems, periodic commit operations are performed on the state store to save the state and ensure fault tolerance. However, this process is often executed on a remote machine, leading to delays. To address this issue, this paper proposes a state preloading mechanism. The state preloading mechanism intercepts checkpointing files and stores them on the local machine, allowing for quicker access to the required files during compaction, which is a primary cause of performance degradation due to remote checkpointing. We measured performance by applying the state preloading mechanism to the Apache Spark framework. As a representative experimental result, we found that the tail latency of the state preloading mechanism was reduced by up to approximately 61.71% compared to when remote checkpointing was used.