Run-Time Sampling-Based Phase Detection and Adaptive Warp Scheduling for GPUs = 실시간 프로파일링을 이용한 GPU 커널 샘플링과 페이즈 예측을 통한 Warp 스케줄링 기법 연구
저자
발행사항
서울 : 연세대학교 일반대학원, 2015
학위논문사항
학위논문(석사)-- 연세대학교 일반대학원 : 전기전자공학과 2015. 8
발행연도
2015
작성언어
영어
주제어
발행국(도시)
서울
형태사항
vii, 44p ; 26 cm
일반주기명
지도교수: 노원우
소장기관
In the many-core era, GPU architectures have become increasingly important for general-purpose computation owing to the excellent performance of a large number of parallel processors. Therefore, GPGPU research has grown to effectively process large volumes of data for GPGPU workloads. Several prior studies have proposed a variety of ideas for improving memory performance of multiple kernels across the GPGPU workloads that are distinct from CPU memory. However, although most GPGPU workloads consist of one or more iteration kernels that represent distinct characteristics, the existing single-warp scheduling policy that is fixed after being launched from the CPU across all kernels does not consider these characteristics. Therefore, GPUs conventionally make the scheduling policy tolerate the memory latency and retain high locality without considering them. In this thesis, we analyze the scheduling policy and kernel characteristics aspects of the performance and memory pressure and propose an adaptive warp scheduling that allows decisions on the more useful scheduling policy based on the profiled data for separation kernels during runtime. We study the characteristics of the kernels in GPGPU workloads that are based on decisions to select the better scheduling policy as a prediction of kernel characteristics. To detect and predict the kernel phase, we propose a decision logic to classify the characteristics of kernels for each scheduling policy and determine which scheduling policy is actually superior. The key objectives are: 1) to predict an adaptive scheduling policy from the profiled data that considers the independent kernel in the GPU architecture, and 2) to propose decision logic to predict the useful scheduling policy. Profiling cycles executed on all kernels comprise 50,000 cycles, which are analyzed by converging the accuracy of different profiling cycles to the optimal value and not being wasted on an execution to compare the profiled data. Experimental evaluations across a diverse set of workloads show that adaptive warp scheduling based on kernel characteristics achieves a performance improvement of 8.7%, 7.8%, and 14.3% and up to 26.4%, 36.7%, and 30.3% compared to the baselines with negligible overhead for LRR, GTO, and TLV, respectively; this can be used in conjunction with the existing single-warp scheduling policy.
더보기현재, 싱글 코어에서의 성능 향상의 한계로 인하여, 멀티 코어의 병렬화 측면의 다양한 연구가 진행되고 있다. 그 중 하나로 GPU를 기반으로 하는 병렬화 처리 기법이 존재한다. 일반적으로, GPU는 그래픽 처리의 고속화를 위한 장비이지만, CPU와 비교하여 대량의 코어를 기반으로 동작하기 때문에 고속 병렬화를 가능하게 하여 일반적인 연산을 위한 장비 (General-purpose GPU) 로도 각광을 받고 있다. 따라서 GPU상에서 구동하는 대량의 일반적인 연산 워크로드 (GPGPU 워크로드) 가 존재하게 되었고, 이에 대한 많은 연구가 진행 중이다.
대부분의 GPGPU 워크로드는 각각 다른 특성을 나타내는 커널들로 구성되어 있거나 혹은 하나 또는 두 종류의 커널이 반복 실행됨에도 불구하고 다른 입력 데이터 또는 실행 단계의 영향으로 인하여 특성이 다르게 나타난다. 이러한 커널들이 반복되어 전체적인 워크로드가 실행됨에도 불구하고, 커널의 특성을 고려하지 못한 단일 warp 스케줄링 정책으로는 GPU의 잠재성능을 모두 활용하지 못하는 경우가 발생한다. 따라서, 본 논문에서는 GPGPU 워크로드를 구성하는 커널의 특성을 분석하여 커널의 특성에 알맞은 프로파일링 정책과 앞으로의 커널에 대한 예측을 통해 적절한 스케줄링 정책을 기반으로 워크로드를 수행함으로써 GPU의 연산 성능을 높이는 기법을 제안한다.
GPGPU 워크로드는 2가지로 분류가 가능하다. 첫 번째, 워크로드를 구성하는 커널들이 동일한 특징을 나타내는 경우이다. GPGPU 워크로드는 대부분 병렬화를 통한 연산을 처리하므로 몇 종류의 커널들을 반복수행하며 실행된다. 그러므로 프로파일링을 통해 실시간 샘플링을 하여 성능을 높일 수 있는 스케줄링 정책을 할당함으로써 성능을 향상시킨다. 만약 커널의 특징이 다른 경우, 커널 단위로 프로파일링한 데이터 값을 기반으로 효율적인 스케줄링을 예측하여 워크로드를 수행한다. 그러므로, 실시간으로 커널에 대한 샘플링을 통해 커널의 특성을 파악하고 이로 인해 앞으로 실행될 커널에 대한 패턴을 예측하여 알맞은 스케줄링을 통해 GPU의 성능을 향상시킬 수 있다.
본 연구에서는 GPU에서 실행되는 각 커널의 특성을 실시간으로 프로파일링을 기반으로 샘플링하고, 커널 특징을 예측하여 GPU의 성능을 향상시키는 방안을 소개한다. 만약 각 커널의 특성에 맞는 스케줄링을 통해 GPU 내에서의 memory pressure를 줄이고 연산 성능의 효율성을 개선할 수 있다면, 보다 높은 성능 향상을 이룰 수 있을 것이다. 이를 위해 본 연구에서는 각 커널이 실행될 때, IPC및 발생되는 memory operation의 패턴들을 GPGPU 워크로드마다 분석하여 제안한 메커니즘의 유효성을 검증한다. 마지막으로 제안하는 아이디어를 통한 스케줄링 정책과 기존 스케줄링 정책을 비교하여 성능향상을 확인한다.
분석정보
서지정보 내보내기(Export)
닫기소장기관 정보
닫기권호소장정보
닫기오류접수
닫기오류 접수 확인
닫기음성서비스 신청
닫기음성서비스 신청 확인
닫기이용약관
닫기학술연구정보서비스 이용약관 (2017년 1월 1일 ~ 현재 적용)
학술연구정보서비스(이하 RISS)는 정보주체의 자유와 권리 보호를 위해 「개인정보 보호법」 및 관계 법령이 정한 바를 준수하여, 적법하게 개인정보를 처리하고 안전하게 관리하고 있습니다. 이에 「개인정보 보호법」 제30조에 따라 정보주체에게 개인정보 처리에 관한 절차 및 기준을 안내하고, 이와 관련한 고충을 신속하고 원활하게 처리할 수 있도록 하기 위하여 다음과 같이 개인정보 처리방침을 수립·공개합니다.
주요 개인정보 처리 표시(라벨링)
목 차
3년
또는 회원탈퇴시까지5년
(「전자상거래 등에서의 소비자보호에 관한3년
(「전자상거래 등에서의 소비자보호에 관한2년
이상(개인정보보호위원회 : 개인정보의 안전성 확보조치 기준)개인정보파일의 명칭 | 운영근거 / 처리목적 | 개인정보파일에 기록되는 개인정보의 항목 | 보유기간 | |
---|---|---|---|---|
학술연구정보서비스 이용자 가입정보 파일 | 한국교육학술정보원법 | 필수 | ID, 비밀번호, 성명, 생년월일, 신분(직업구분), 이메일, 소속분야, 웹진메일 수신동의 여부 | 3년 또는 탈퇴시 |
선택 | 소속기관명, 소속도서관명, 학과/부서명, 학번/직원번호, 휴대전화, 주소 |
구분 | 담당자 | 연락처 |
---|---|---|
KERIS 개인정보 보호책임자 | 정보보호본부 김태우 | - 이메일 : lsy@keris.or.kr - 전화번호 : 053-714-0439 - 팩스번호 : 053-714-0195 |
KERIS 개인정보 보호담당자 | 개인정보보호부 이상엽 | |
RISS 개인정보 보호책임자 | 대학학술본부 장금연 | - 이메일 : giltizen@keris.or.kr - 전화번호 : 053-714-0149 - 팩스번호 : 053-714-0194 |
RISS 개인정보 보호담당자 | 학술진흥부 길원진 |
자동로그아웃 안내
닫기인증오류 안내
닫기귀하께서는 휴면계정 전환 후 1년동안 회원정보 수집 및 이용에 대한
재동의를 하지 않으신 관계로 개인정보가 삭제되었습니다.
(참조 : RISS 이용약관 및 개인정보처리방침)
신규회원으로 가입하여 이용 부탁 드리며, 추가 문의는 고객센터로 연락 바랍니다.
- 기존 아이디 재사용 불가
휴면계정 안내
RISS는 [표준개인정보 보호지침]에 따라 2년을 주기로 개인정보 수집·이용에 관하여 (재)동의를 받고 있으며, (재)동의를 하지 않을 경우, 휴면계정으로 전환됩니다.
(※ 휴면계정은 원문이용 및 복사/대출 서비스를 이용할 수 없습니다.)
휴면계정으로 전환된 후 1년간 회원정보 수집·이용에 대한 재동의를 하지 않을 경우, RISS에서 자동탈퇴 및 개인정보가 삭제처리 됩니다.
고객센터 1599-3122
ARS번호+1번(회원가입 및 정보수정)