해상도 변화와 엣지 데이터에 따른 시공간적 딥러닝 모델 성능 분석
저자
발행사항
서울 : 성균관대학교 일반대학원, 2021
학위논문사항
학위논문(석사)-- 성균관대학교 일반대학원 : 교과교육학과 2021. 2
발행연도
2021
작성언어
한국어
주제어
발행국(도시)
서울
기타서명
Analysis of spatio-temporal deep learning model performance using resolution change and edge data
형태사항
vi, 56 p. : 삽화 ; 30 cm
일반주기명
지도교수: 류은석
참고문헌: p. 48-53
UCI식별코드
I804:11040-000000160955
DOI식별코드
소장기관
최근 하드웨어 및 소프트웨어의 발전으로 인하여 지능형 시스템이 보편화하여있다. 지능형 시스템이 보편화함에 따라 영상을 전송 표준 중 Video Coding for Machine(VCM)이 제정되었다. 본 논문은 VCM과 관련된 실험의 구조를 설계, 실험 및 분석한다.
설계 단계에서, 일반적인 영상 데이터 전송 방법인 인코딩, 디코딩에 추가로 비트율을 줄이기 위해 다운 샘플링 및 업 샘플링을 수행하는 구조를 설계하였다. 수신부에서 재구축된 영상 데이터를 복원하기 위해 edge enhancement 기법, 업 샘플링기법과 super-resolution(SR)을 적용한다. 결과적으로 전송 후 원본영상, 재구축한 영상, 복원된 재구축한 영상을 행동 인식 기반 딥러닝 모델에 입력 후 성능을 비교하는 실험 구조를 설계한다.
실험의 단계에서, edge enhancement 기법은 원본 영상에서 엣지 추출 후 정보가 손실된 재구축 영상에서 추출된 엣지 좌표의 픽셀값을 8비트 영상의 경우 0, 255, 원본 픽셀값으로 치환하는 기법을 적용한다. SR 기법은 Residual Channel Attention Network(RCAN)을 이용하며 다운 샘플링은 가로, 세로의 비율을 같게하여 1/4, 1/16, 1/64로 적용한다. 이후, 다운 샘플링 후 업 샘플링의 단계에 따른 딥러닝 모델의 성능 측정 실험을 한다.
영상의 공간적, 시간적 데이터의 분석을 위해 이용한 딥러닝 모델은 Convolution Neural Networks(CNN)과 Convolution Neural Networks-Long Short-Term Memory Models(CNN-LSTM) 모델이며, 딥러닝 테스크는 행동 인식이다. 행동 인식은 시간 정보가 포함된 동영상 데이터 세트이므로 프레임 단위로 입력할 경우 공간적 정보, 동영상을 입력할 경우 공간적, 시간적 정보의 분석이 가능하다. 인코딩 디코딩 시 적용한 모델은 국제 비디오 표준인 High Efficiency Video Coding(HEVC)의 테스트 모델인 HEVC test Model(HM)을 이용한다. 인코딩 과정중 양자화 단계에서 정보가 손실되므로 양자화 파라미터를 조정하여 단계에 따른 딥러닝 모델의 성능 변화를 실험한다.
분석의 단계에서, 실험의 결과를 기반으로 적용 기법 중 성능이 낮거나, 높은 기법을 파악하고 실험 결과의 이유를 정량, 정성적으로 분석한다.
본 논문의 실험 결과로 edge enhancement 기법을 적용할 경우 상승하는 비트율 대비 딥러닝 모델의 성능(정확도)이 높은 것을 알 수 있었다. 향상되는 성능은 CNN-based 실험의 경우 평균 2%이다. 또한, 영상 해상도를 증가시킬 수 있는 딥러닝 테스크인 SR 기법을 적용할 경우 성능이 크게 하락하는 점을 분석할 수 있었다.
본 논문의 실험 결과를 통해 공간적 정보를 이용하는 딥러닝 테스크에서 edge enhancement 기법의 효과를 분석하였다. 이를 통해 VCM의 이론인 영상의 소비자가 기계일 경우의 상황에서, 즉, 지능형 시스템 상황 속에서 영상을 송수신할 경우 손실된 정보를 복원하는 방법에 관한 연구가 지속될 것이다.
With the recent development of hardware and software, intelligent systems have become common. As intelligent systems become more common, Video Coding for Machine (VCM) has been established among video compression standards. This paper designs, tests and analyzes the structure of experiments related to VCM.
In the design stage, a structure that performs downsampling and upsampling was designed to reduce bit rate in addition to encoding and decoding, which are general video data transmission methods. The edge enhancement method, upsampling method, and super-resolution (SR) are applied to restore the image data reconstructed in the receiver. As a result, after transmission, the original image, the reconstructed image, and the reconstructed image are input into a deep learning model based on action recognition, and an experimental structure is designed to compare the performance.
In the experiment stage, the edge enhancement method applies a method of substituting 0, 255, and original pixel values for the pixel values of edge coordinates extracted from the reconstructed image in which information is lost after edge extraction from the original image. The SR method uses the Residual Channel Attention Network (RCAN), and downsampling is applied at 1/4, 1/16, 1/64, and after downsampling, the performance measurement experiment of the deep learning model according to the steps of upsampling is performed.
Deep learning models used to analyze spatial and temporal data of images are Convolution Neural Networks (CNN) and Convolution Neural Networks-Long Short-Term Memory Models (CNN-LSTM) models, and the deep learning task is action recognition. Since action recognition is a video data set including temporal information, it is possible to analyze spatial information when inputting a frame unit, and spatial and temporal information when inputting a video. The model applied during encoding and decoding was the HEVC test Model (HM), a test model of High Efficiency Video Coding (HEVC). Since information is lost in the quantization step during the encoding process, the performance change of the deep learning model according to the steps is experimented by adjusting the quantization parameters.
In analysis stage, based on the results of the experiment, the methods that have low or high performance among applied methods are identified, and the reason for the experimental results is quantitatively and qualitatively analyzed.
As a result of the experiment in this paper, it was found that the performance compared to the increased bit rate when the edge enhancement method was applied. The improved performance is on average 2% in the case of CNN-based experiments. In addition, when the SR method, a deep learning task that can increase the image resolution, is applied, the performance decrease significantly.
Through the experimental results of this paper, research on the method of restoring the lost information in the case where the consumer of the video image is a machine, that is, in the context of an intelligent system, will be continued.
분석정보
서지정보 내보내기(Export)
닫기소장기관 정보
닫기권호소장정보
닫기오류접수
닫기오류 접수 확인
닫기음성서비스 신청
닫기음성서비스 신청 확인
닫기이용약관
닫기학술연구정보서비스 이용약관 (2017년 1월 1일 ~ 현재 적용)
학술연구정보서비스(이하 RISS)는 정보주체의 자유와 권리 보호를 위해 「개인정보 보호법」 및 관계 법령이 정한 바를 준수하여, 적법하게 개인정보를 처리하고 안전하게 관리하고 있습니다. 이에 「개인정보 보호법」 제30조에 따라 정보주체에게 개인정보 처리에 관한 절차 및 기준을 안내하고, 이와 관련한 고충을 신속하고 원활하게 처리할 수 있도록 하기 위하여 다음과 같이 개인정보 처리방침을 수립·공개합니다.
주요 개인정보 처리 표시(라벨링)
목 차
3년
또는 회원탈퇴시까지5년
(「전자상거래 등에서의 소비자보호에 관한3년
(「전자상거래 등에서의 소비자보호에 관한2년
이상(개인정보보호위원회 : 개인정보의 안전성 확보조치 기준)개인정보파일의 명칭 | 운영근거 / 처리목적 | 개인정보파일에 기록되는 개인정보의 항목 | 보유기간 | |
---|---|---|---|---|
학술연구정보서비스 이용자 가입정보 파일 | 한국교육학술정보원법 | 필수 | ID, 비밀번호, 성명, 생년월일, 신분(직업구분), 이메일, 소속분야, 웹진메일 수신동의 여부 | 3년 또는 탈퇴시 |
선택 | 소속기관명, 소속도서관명, 학과/부서명, 학번/직원번호, 휴대전화, 주소 |
구분 | 담당자 | 연락처 |
---|---|---|
KERIS 개인정보 보호책임자 | 정보보호본부 김태우 | - 이메일 : lsy@keris.or.kr - 전화번호 : 053-714-0439 - 팩스번호 : 053-714-0195 |
KERIS 개인정보 보호담당자 | 개인정보보호부 이상엽 | |
RISS 개인정보 보호책임자 | 대학학술본부 장금연 | - 이메일 : giltizen@keris.or.kr - 전화번호 : 053-714-0149 - 팩스번호 : 053-714-0194 |
RISS 개인정보 보호담당자 | 학술진흥부 길원진 |
자동로그아웃 안내
닫기인증오류 안내
닫기귀하께서는 휴면계정 전환 후 1년동안 회원정보 수집 및 이용에 대한
재동의를 하지 않으신 관계로 개인정보가 삭제되었습니다.
(참조 : RISS 이용약관 및 개인정보처리방침)
신규회원으로 가입하여 이용 부탁 드리며, 추가 문의는 고객센터로 연락 바랍니다.
- 기존 아이디 재사용 불가
휴면계정 안내
RISS는 [표준개인정보 보호지침]에 따라 2년을 주기로 개인정보 수집·이용에 관하여 (재)동의를 받고 있으며, (재)동의를 하지 않을 경우, 휴면계정으로 전환됩니다.
(※ 휴면계정은 원문이용 및 복사/대출 서비스를 이용할 수 없습니다.)
휴면계정으로 전환된 후 1년간 회원정보 수집·이용에 대한 재동의를 하지 않을 경우, RISS에서 자동탈퇴 및 개인정보가 삭제처리 됩니다.
고객센터 1599-3122
ARS번호+1번(회원가입 및 정보수정)