KR20210122797A

KR20210122797A - 인트라 예측 기반 비디오 신호 처리 방법 및 장치

Info

Publication number: KR20210122797A
Application number: KR1020217025729A
Authority: KR
Inventors: 김동철; 고건중; 정재홍; 손주형; 곽진삼
Original assignee: 주식회사 윌러스표준기술연구소; (주)휴맥스
Priority date: 2019-02-28
Filing date: 2020-02-28
Publication date: 2021-10-12
Also published as: JP7293376B2; WO2020175965A1; JP2023105114A; US11979554B2; US20210377519A1; CN113491116A; JP2022522013A

Abstract

비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치가 개시된다. 비디오 신호 처리 방법에 있어서, 현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하는 단계; 상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하는 단계; 및 상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하는 단계를 포함할 수 있다.

Description

인트라 예측 기반 비디오 신호 처리 방법 및 장치

본 발명은 비디오 신호의 처리 방법 및 장치에 관한 것으로, 보다 상세하게는 인트라 예측을 기반으로 비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치에 관한 것이다.

압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 압축 부호화의 대상에는 음성, 영상, 문자 등의 대상이 존재하며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다. 비디오 신호에 대한 압축 부호화는 공간적인 상관관계, 시간적인 상관관계, 확률적인 상관관계 등을 고려하여 잉여 정보를 제거함으로써 이루어진다. 그러나 최근의 다양한 미디어 및 데이터 전송 매체의 발전으로 인해, 더욱 고효율의 비디오 신호 처리 방법 및 장치가 요구되고 있다.

본 발명의 목적은 비디오 신호의 코딩 효율을 높이고자 함에 있다. 구체적으로, 본 발명은 인트라 서브파티션(Intra sub-partitions)이 적용됨에 따라 예측 및 복원이 수행되는 단위로 PDPC(position-dependent intra prediction combination) 및 LFNST(Low-Frequency Non-Separable Transform)를 수행하는 방법을 제안한다.

상기와 같은 과제를 해결하기 위해, 본 발명은 다음과 같은 비디오 신호 처리 장치 및 비디오 신호 처리 방법을 제공한다.

본 발명의 일 실시예에 따르면, 비디오 신호 처리 방법에 있어서, 현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하는 단계; 상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하는 단계; 및 상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하는 단계를 포함하되, 상기 예측 블록을 생성하는 단계는, 상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 단계를 포함할 수 있다.

실시예로서, 상기 예측 블록을 생성하는 단계는, 상기 변환 블록의 너비 및 높이 중 적어도 하나에 기초하여 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는 단계를 더 포함할 수 있다.

실시예로서, 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는 단계는, 상기 변환 블록의 너비가 기 설정된 기준값 보다 크거나 같고, 그리고, 상기 변환 블록의 높이가 상기 기 설정된 기준값 보다 크거나 같은 경우, 상기 위치-의존적인 인트라 예측 샘플 필터링을 적용하는 것으로 결정함으로써 수행될 수 있다.

실시예로서, 상기 변환 블록의 잔차 블록은 상기 변환 블록 단위로 이차 역변환(inverse secondary transform) 및 일차 역변환(inverse primary transform)을 수행함으로써 유도될 수 있다.

실시예로서, 상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계; 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계; 상기 변환 블록 단위로 이차 역변환을 수행함으로써 상기 변환 블록의 이차 역변환된 블록을 생성하는 단계; 및 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 변환 블록의 잔차 블록을 생성하는 단계를 포함할 수 있다.

본 발명의 일 실시예에 따르면, 비디오 신호 처리 장치에 있어서, 프로세서를 포함하며, 상기 프로세서는, 현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하고, 상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하고, 상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하고, 상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하되, 상기 프로세서는, 상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 것을 특징으로 하는, 비디오 신호 처리 장치가 제공된다.

실시예로서, 상기 프로세서는, 상기 변환 블록의 너비 및 높이 중 적어도 하나에 기초하여 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정할 수 있다.

실시예로서, 상기 프로세서는, 상기 변환 블록의 너비가 기 설정된 기준값 보다 크거나 같고, 그리고, 상기 변환 블록의 높이가 상기 기 설정된 기준값 보다 크거나 같은 경우, 상기 위치-의존적인 인트라 예측 샘플 필터링을 적용하는 것으로 결정할 수 있다.

실시예로서, 상기 프로세서는, 상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하고, 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하고, 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하고, 상기 변환 블록 단위로 이차 역변환을 수행함으로써 상기 변환 블록의 이차 역변환된 블록을 생성하고, 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 변환 블록의 잔차 블록을 생성할 수 있다.

본 발명의 일 실시예에 따르면, 현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하는 단계; 상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하는 단계; 및 원본 블록에서 상기 예측 블록을 감산함으로써 상기 변환 블록의 잔차 블록을 생성하는 단계를 포함하되, 상기 예측 블록을 생성하는 단계는, 상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 단계를 포함하는, 비디오 신호 처리 방법이 제공된다.

본 발명의 일 실시예에 따르면, 컴퓨팅 디바이스의 하나 이상의 프로세서에서 실행하도록 구성된 컴퓨터 실행 가능한 컴포넌트가 저장된 비 일시적(non-transitory) 컴퓨터 판독 가능한 매체(computer-executable component)로서, 상기 컴퓨터 실행 가능한 컴포넌트는, 현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하고, 상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하고, 상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하고, 상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하되, 상기 컴퓨터 실행 가능한 컴포넌트는, 상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 것을 특징으로 하는, 비 일시적 컴퓨터 판독 가능한 매체가 제공된다.

본 발명의 실시예에 따르면, 비디오 신호의 코딩 효율이 높아질 수 있다. 또한, 본 발명의 일 실시예에 따르면, 인트라 서브파티션(Intra sub-partitions)에 의해 분할된 변환 블록 단위로 PDPC(position-dependent intra prediction combination) 및 LFNST를 수행함으로써 예측의 정확도를 높이고 압축 성능을 향상시킬 수 있다.

도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다.
도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치의 개략적인 블록도이다.
도 3은 픽쳐 내에서 코딩 트리 유닛이 코딩 유닛들로 분할되는 실시예를 도시한다.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다.
도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다.
도 7은 본 발명의 일 실시예에 따른 인터 예측 방법을 도시한다.
도 8은 인코더가 레지듀얼 신호를 변환하는 방법을 구체적으로 나타내는 도면이다.
도 9은 인코더 및 디코더가 변환 계수를 역변환하여 레지듀얼 신호를 획득하는 방법을 구체적으로 나타내는 도면이다.
도 10은 본 발명의 일 실시예에 따른 코딩 블록이 복수 개의 변환 블록으로 분할되는 경우 인트라 예측 모드의 적용 방법을 설명하기 위한 도면이다.
도 11은 본 발명의 일 실시예에 따른 PDPC(position-dependent intra prediction combination) 적용 방법을 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시예로서 인트라 예측 모드에 따라 PDPC에 이용되는 참조 샘플을 예시하는 도면이다.
도 13은 본 발명의 일 실시예로서 인트라 예측 모드에 따라 PDPC에 이용되는 참조 샘플을 예시하는 도면이다.
도 14는 본 발명이 적용되는 일 실시예에 따른 코딩 블록에 대한 ISP(Intra subpartitions) 및 PDPC(position-dependent intra prediction combination) 적용 방법을 예시하는 도면이다.
도 15는 본 발명의 일 실시예에 따른 변환 유닛 분할 처리 방법을 설명하기 위한 도면이다.
도 16은 본 발명이 적용되는 일 실시예에 따른 1차 변환(primary transform) 및 2차 변환(secondary transform)을 거쳐 인코딩/디코딩되는 프로세스를 나타내는 도면이다.
도 17는 본 발명의 일 실시예에 따른 2차 변환에 이용되는 변환 커널을 선택하는 방법을 설명하기 위한 도면이다.
도 18은 본 발명의 일 실시예에 따른 변환 블록 단위 2차 변환 적용 방법을 예시하는 도면이다.
도 19은 본 발명이 적용되는 일 실시예에 따른 인트라 예측 모드가 적용된 현재 코딩 블록에 PDPC를 적용하는 방법을 나타낸 도면이다.
도 20은 본 발명의 일 실시예를 따른 비디오 신호 처리 방법을 나타내는 흐름도이다.

본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도, 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가진 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.

본 명세서에서 일부 용어들은 다음과 같이 해석될 수 있다. 코딩은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있다. 본 명세서에서 비디오 신호의 인코딩(부호화)을 수행하여 비디오 신호 비트스트림을 생성하는 장치는 인코딩 장치 또는 인코더로 지칭되며, 비디오 신호 비트스트림의 디코딩(복호화)을 수행하여 비디오 신호를 복원하는 장치는 디코딩 장치 또는 디코더로 지칭된다. 또한, 본 명세서에서 비디오 신호 처리 장치는 인코더 및 디코더를 모두 포함하는 개념의 용어로 사용된다. 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어로서, 경우에 따라 의미는 달리 해석될 수 있으므로 본 발명은 이에 한정되지 아니한다. '유닛'은 영상 처리의 기본 단위 또는 픽쳐의 특정 위치를 지칭하는 의미로 사용되며, 루마(luma) 성분 및 크로마(chroma) 성분 중 적어도 하나를 포함하는 이미지 영역을 가리킨다. 또한, ‘블록’은 루마 성분 및 크로마 성분들(즉, Cb 및 Cr) 중 특정 성분을 포함하는 이미지 영역을 가리킨다. 다만, 실시예에 따라서 ‘유닛’, '블록', '파티션' 및 '영역' 등의 용어는 서로 혼용하여 사용될 수 있다. 또한, 본 명세서에서 유닛은 코딩 유닛, 예측 유닛, 변환 유닛을 모두 포함하는 개념으로 사용될 수 있다. 픽쳐는 필드 또는 프레임을 가리키며, 실시예에 따라 상기 용어들은 서로 혼용하여 사용될 수 있다.

도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치(100)의 개략적인 블록도이다. 도 1을 참조하면, 본 발명의 인코딩 장치(100)는 변환부(110), 양자화부(115), 역양자화부(120), 역변환부(125), 필터링부(130), 예측부(150) 및 엔트로피 코딩부(160)를 포함한다.

변환부(110)는 입력 받은 비디오 신호와 예측부(150)에서 생성된 예측 신호의 차이인 레지듀얼 신호를 변환하여 변환 계수 값을 획득한다. 예를 들어, 이산 코사인 변환(Discrete Cosine Transform, DCT), 이산 사인 변환(Discrete Sine Transform, DST) 또는 웨이블릿 변환(Wavelet Transform) 등이 사용될 수 있다. 이산 코사인 변환 및 이산 사인 변환은 입력된 픽쳐 신호를 블록 형태로 나누어 변환을 수행하게 된다. 변환에 있어서 변환 영역 내의 값들의 분포와 특성에 따라서 코딩 효율이 달라질 수 있다. 양자화부(115)는 변환부(110)에서 출력된 변환 계수 값을 양자화한다.

코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인코더와 디코더에서 미스매치가 발생되지 않도록 하기 위해, 인코더에서 예측을 수행할 때에는 디코더에서도 사용 가능한 정보를 사용해야 한다. 이를 위해, 인코더에서는 부호화한 현재 블록을 다시 복원하는 과정을 수행한다. 역양자화부(120)에서는 변환 계수 값을 역양자화하고, 역변환부(125)에서는 역양자화된 변환 계수값을 이용하여 레지듀얼 값을 복원한다. 한편, 필터링부(130)는 복원된 픽쳐의 품질 개선 및 부호화 효율 향상을 위한 필터링 연산을 수행한다. 예를 들어, 디블록킹 필터, 샘플 적응적 오프셋(Sample Adaptive Offset, SAO) 및 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(Decoded Picture Buffer, DPB, 156)에 저장된다.

코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인트라 예측부(152)에서는 현재 픽쳐 내에서 인트라 예측을 수행하며, 인터 예측부(154)에서는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 영역들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인터 예측부(154)는 다시 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)에서는 복원된 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)에서는 참조 영역의 위치 정보(참조 프레임, 모션 벡터 등) 등을 엔트로피 코딩부(160)로 전달하여 비트스트림에 포함될 수 있도록 한다. 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상부(154b)에서는 화면간 모션 보상을 수행한다.

예측부(150)는 인트라 예측부(152)와 인터 예측부(154)를 포함한다. 인트라 예측부(152)는 현재 픽쳐 내에서 인트라(intra) 예측을 수행하며, 인터 예측부(154)는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측하는 인터(inter) 예측을 수행한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 부호화 정보는 참조 샘플에 관한 정보를 포함할 수 있다. 인터 예측부(154)는 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)는 복원된 참조 픽쳐의 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)는 참조 영역에 대한 모션 정보 세트(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 엔트로피 코딩부(160)로 전달한다. 모션 보상부(154b)는 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상을 수행한다. 인터 예측부(154)는 참조 영역에 대한 모션 정보를 포함하는 인터 부호화 정보를 엔트로피 코딩부(160)에 전달한다.

추가적인 실시예에 따라, 예측부(150)는 인트라 블록 카피(block copy, BC) 예측부(미도시)를 포함할 수 있다. 인트라 BC 예측부는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 BC 예측을 수행하여, 인트라 BC 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 BC 예측부는 현재 픽쳐 내의 특정 영역을 참조하여 현재 영역의 예측에 이용되는 참조 영역을 나타내는 블록 벡터값을 획득한다. 인트라 BC 예측부는 획득된 블록 벡터값을 이용하여 인트라 BC 예측을 수행할 수 있다. 인트라 BC 예측부는 인트라 BC 부호화 정보를 엔트로피 코딩부(160)로 전달한다. 인트라 BC 부호화 정보는 블록 벡터 정보를 포함할 수 있다.

위와 같은 픽쳐 예측이 수행될 경우, 변환부(110)는 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 변환하여 변환 계수 값을 획득한다. 이때, 변환은 픽쳐 내에서 특정 블록 단위로 수행될 수 있으며, 특정 블록의 크기는 기 설정된 범위 내에서 가변할 수 있다. 양자화부(115)는 변환부(110)에서 생성된 변환 계수 값을 양자화하여 엔트로피 코딩부(160)로 전달한다.

엔트로피 코딩부(160)는 양자화된 변환 계수를 나타내는 정보, 인트라 부호화 정보, 및 인터 부호화 정보 등을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성한다. 엔트로피 코딩부(160)에서는 가변 길이 코딩(Variable Length Coding, VLC) 방식과 산술 코딩(arithmetic coding) 방식 등이 사용될 수 있다. 가변 길이 코딩(VLC) 방식은 입력되는 심볼들을 연속적인 코드워드로 변환하는데, 코드워드의 길이는 가변적일 수 있다. 예를 들어, 자주 발생하는 심볼들을 짧은 코드워드로, 자주 발생하지 않은 심볼들은 긴 코드워드로 표현하는 것이다. 가변 길이 코딩 방식으로서 컨텍스트 기반 적응형 가변 길이 코딩(Context-based Adaptive Variable Length Coding, CAVLC) 방식이 사용될 수 있다. 산술 코딩은 연속적인 데이터 심볼들을 하나의 소수로 변환하는데, 산술 코딩은 각 심볼을 표현하기 위하여 필요한 최적의 소수 비트를 얻을 수 있다. 산술 코딩으로서 컨텍스트 기반 적응형 산술 부호화(Context-based Adaptive Binary Arithmetic Code, CABAC)가 이용될 수 있다. 예를 들어, 엔트로피 코딩부(160)는 양자화된 변환 계수를 나타내는 정보를 이진화할 수 있다. 또한, 엔트로피 코딩부(160)는 이진화된 정보를 산술 코딩하여 비트스트림을 생성할 수 있다.

상기 생성된 비트스트림은 NAL(Network Abstraction Layer) 유닛을 기본 단위로 캡슐화 된다. NAL 유닛은 부호화된 정수 개의 코딩 트리 유닛(coding tree unit)을 포함한다. 비디오 디코더에서 비트스트림을 복호화하기 위해서는 먼저 비트스트림을 NAL 유닛 단위로 분리한 후, 분리된 각각의 NAL 유닛을 복호화해야 한다. 한편, 비디오 신호 비트스트림의 복호화를 위해 필요한 정보들은 픽쳐 파라미터 세트(Picture Parameter Set, PPS), 시퀀스 파라미터 세트(Sequence Parameter Set, SPS), 비디오 파라미터 세트(Video Parameter Set, VPS) 등과 같은 상위 레벨 세트의 RBSP(Raw Byte Sequence Payload)를 통해 전송될 수 있다.

한편, 도 1의 블록도는 본 발명의 일 실시예에 따른 인코딩 장치(100)를 나타낸 것으로서, 분리하여 표시된 블록들은 인코딩 장치(100)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 인코딩 장치(100)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 인코딩 장치(100)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.

도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치(200)의 개략적인 블록도이다. 도 2를 참조하면 본 발명의 디코딩 장치(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(225), 필터링부(230) 및 예측부(250)를 포함한다.

엔트로피 디코딩부(210)는 비디오 신호 비트스트림을 엔트로피 디코딩하여, 각 영역에 대한 변환 계수 정보, 인트라 부호화 정보, 인터 부호화 정보 등을 추출한다. 예를 들어, 엔트로피 디코딩부(210)는 비디오 신호 비트스트림으로부터 특정 영역의 변환 계수 정보에 대한 이진화 코드를 획득할 수 있다. 또한, 엔트로피 디코딩부(210)는 이진화 코드를 역 이진화하여 양자화된 변환 계수를 획득한다. 역양자화부(220)는 양자화된 변환 계수를 역양자화하고, 역변환부(225)는 역양자화된 변환 계수를 이용하여 레지듀얼 값을 복원한다. 비디오 신호 처리 장치(200)는 역변환부(225)에서 획득된 레지듀얼 값을 예측부(250)에서 획득된 예측값과 합산하여 원래의 화소값을 복원한다.

한편, 필터링부(230)는 픽쳐에 대한 필터링을 수행하여 화질을 향상시킨다. 여기에는 블록 왜곡 현상을 감소시키기 위한 디블록킹 필터 및/또는 픽쳐 전체의 왜곡 제거를 위한 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 다음 픽쳐에 대한 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(DPB, 256)에 저장된다.

예측부(250)는 인트라 예측부(252) 및 인터 예측부(254)를 포함한다. 예측부(250)는 전술한 엔트로피 디코딩부(210)를 통해 복호화된 부호화 타입, 각 영역에 대한 변환 계수, 인트라/인터 부호화 정보 등을 활용하여 예측 픽쳐를 생성한다. 복호화가 수행되는 현재 블록을 복원하기 위해서, 현재 블록이 포함된 현재 픽쳐 또는 다른 픽쳐들의 복호화된 영역이 이용될 수 있다. 복원에 현재 픽쳐만을 이용하는, 즉 인트라 예측 또는 인트라 BC 예측을 수행하는 픽쳐(또는, 타일/슬라이스)를 인트라 픽쳐 또는 I 픽쳐(또는, 타일/슬라이스), 인트라 예측, 인터 예측 및 인트라 BC 예측을 모두 수행할 수 있는 픽쳐(또는, 타일/슬라이스)를 인터 픽쳐(또는, 타일/슬라이스)라고 한다. 인터 픽쳐(또는, 타일/슬라이스) 중 각 블록의 샘플값들을 예측하기 위하여 최대 하나의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 예측 픽쳐(predictive picture) 또는 P 픽쳐(또는, 타일/슬라이스)라고 하며, 최대 두 개의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 쌍예측 픽쳐(Bi-predictive picture) 또는 B 픽쳐(또는, 타일/슬라이스) 라고 한다. 다시 말해서, P 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 하나의 모션 정보 세트를 이용하고, B 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 두 개의 모션 정보 세트를 이용한다. 여기서, 모션 정보 세트는 하나 이상의 모션 벡터와 하나의 참조 픽쳐 인덱스를 포함한다.

인트라 예측부(252)는 인트라 부호화 정보 및 현재 픽쳐 내의 복원된 샘플들을 이용하여 예측 블록을 생성한다. 전술한 바와 같이, 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 예측부(252)는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 샘플들을 참조 샘플들로 이용하여 현재 블록의 샘플 값들을 예측한다. 본 개시에서, 복원된 샘플들, 참조 샘플들 및 현재 블록의 샘플들은 픽셀들을 나타낼 수 있다. 또한, 샘플 값(sample value)들은 픽셀 값들을 나타낼 수 있다.

일 실시예에 따르면, 참조 샘플들은 현재 블록의 주변 블록에 포함된 샘플들일 수 있다. 예를 들어, 참조 샘플들은 현재 블록의 좌측 경계에 인접한 샘플들 및/또는 상측 경계에 인접한 샘플들일 수 있다. 또한, 참조 샘플들은 현재 블록의 주변 블록의 샘플들 중 현재 블록의 좌측 경계로부터 기 설정된 거리 이내의 라인 상에 위치하는 샘플들 및/또는 현재 블록의 상측 경계로부터 기 설정된 거리 이내의 라인 상에 위치하는 샘플들일 수 있다. 이때, 현재 블록의 주변 블록은 현재 블록에 인접한 좌측(L) 블록, 상측(A) 블록, 하좌측(Below Left, BL) 블록, 상우측(Above Right, AR) 블록 또는 상좌측(Above Left, AL) 블록 중 적어도 하나를 포함할 수 있다.

인터 예측부(254)는 복호 픽쳐 버퍼(256)에 저장된 참조 픽쳐 및 인터 부호화 정보를 이용하여 예측 블록을 생성한다. 인터 부호화 정보는 참조 블록에 대한 현재 블록의 모션 정보 세트(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 포함할 수 있다. 인터 예측에는 L0 예측, L1 예측 및 쌍예측(Bi-prediction)이 있을 수 있다. L0 예측은 L0 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측이고, L1 예측은 L1 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측을 의미한다. 이를 위해서는 1세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 필요할 수 있다. 쌍예측 방식에서는 최대 2개의 참조 영역을 이용할 수 있는데, 이 2개의 참조 영역은 동일한 참조 픽쳐에 존재할 수도 있고, 서로 다른 픽쳐에 각각 존재할 수도 있다. 즉, 쌍예측 방식에서는 최대 2세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 이용될 수 있는데, 2개의 모션 벡터가 동일한 참조 픽쳐 인덱스에 대응될 수도 있고 서로 다른 참조 픽쳐 인덱스에 대응될 수도 있다. 이때, 참조 픽쳐들은 시간적으로 현재 픽쳐 이전이나 이후 모두에 표시(또는 출력)될 수 있다. 일 실시예에 따라, 쌍예측 방식에서는 사용되는 2개의 참조 영역은 L0 픽쳐 리스트 및 L1 픽쳐 리스트 각각에서 선택된 영역일 수 있다.

인터 예측부(254)는 모션 벡터 및 참조 픽쳐 인덱스를 이용하여 현재 블록의 참조 블록을 획득할 수 있다. 상기 참조 블록은 참조 픽쳐 인덱스에 대응하는 참조 픽쳐 내에 존재한다. 또한, 모션 벡터에 의해서 특정된 블록의 샘플 값 또는 이의 보간(interpolation)된 값이 현재 블록의 예측자(predictor)로 이용될 수 있다. 서브펠(sub-pel) 단위의 픽셀 정확도를 갖는 모션 예측을 위하여 이를 테면, 루마 신호에 대하여 8-탭 보간 필터가, 크로마 신호에 대하여 4-탭 보간 필터가 사용될 수 있다. 다만, 서브펠 단위의 모션 예측을 위한 보간 필터는 이에 한정되지 않는다. 이와 같이 인터 예측부(254)는 이전에 복원된 픽쳐로부터 현재 유닛의 텍스쳐를 예측하는 모션 보상(motion compensation)을 수행한다. 이때, 인터 예측부는 모션 정보 세트를 이용할 수 있다.

추가적인 실시예에 따라, 예측부(250)는 인트라 BC 예측부(미도시)를 포함할 수 있다. 인트라 BC 예측부는 현재 픽쳐 내의 복원된 샘플들을 포함하는 특정 영역을 참조하여 현재 영역을 복원할 수 있다. 인트라 BC 예측부는 엔트로피 디코딩부(210)로부터 현재 영역에 대한 인트라 BC 부호화 정보를 획득한다. 인트라 BC 예측부는 현재 픽쳐 내의 특정 영역을 지시하는 현재 영역의 블록 벡터값을 획득한다. 인트라 BC 예측부는 획득된 블록 벡터값을 이용하여 인트라 BC 예측을 수행할 수 있다. 인트라 BC 부호화 정보는 블록 벡터 정보를 포함할 수 있다.

상기 인트라 예측부(252) 또는 인터 예측부(254)로부터 출력된 예측값, 및 역변환부(225)로부터 출력된 레지듀얼 값이 더해져서 복원된 비디오 픽쳐가 생성된다. 즉, 비디오 신호 디코딩 장치(200)는 예측부(250)에서 생성된 예측 블록과 역변환부(225)로부터 획득된 레지듀얼을 이용하여 현재 블록을 복원한다.

한편, 도 2의 블록도는 본 발명의 일 실시예에 따른 디코딩 장치(200)를 나타낸 것으로서, 분리하여 표시된 블록들은 디코딩 장치(200)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 디코딩 장치(200)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 디코딩 장치(200)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.

도 3은 픽쳐 내에서 코딩 트리 유닛(Coding Tree Unit, CTU)이 코딩 유닛들(Coding Units, CUs)로 분할되는 실시예를 도시한다. 비디오 신호의 코딩 과정에서, 픽쳐는 코딩 트리 유닛(CTU)들의 시퀀스로 분할될 수 있다. 코딩 트리 유닛은 루마(luma) 샘플들의 NXN 블록과, 이에 대응하는 크로마(chroma) 샘플들의 2개의 블록들로 구성된다. 코딩 트리 유닛은 복수의 코딩 유닛들로 분할될 수 있다. 코딩 트리 유닛은 분할되지 않고 리프 노드가 될 수도 있다. 이 경우, 코딩 트리 유닛 자체가 코딩 유닛이 될 수 있다. 코딩 유닛은 상기에서 설명한 비디오 신호의 처리 과정, 즉 인트라/인터 예측, 변환, 양자화 및/또는 엔트로피 코딩 등의 과정에서 픽쳐를 처리하기 위한 기본 단위를 가리킨다. 하나의 픽쳐 내에서 코딩 유닛의 크기 및 모양은 일정하지 않을 수 있다. 코딩 유닛은 정사각형 또는 직사각형의 모양을 가질 수 있다. 직사각형 코딩 유닛(또는, 직사각형 블록)은 수직 코딩 유닛(또는, 수직 블록)과 수평 코딩 유닛(또는, 수평 블록)을 포함한다. 본 명세서에서, 수직 블록은 높이가 너비보다 큰 블록이며, 수평 블록은 너비가 높이보다 큰 블록이다. 또한, 본 명세서에서 정사각형이 아닌(non-square) 블록은 직사각형 블록을 가리킬 수 있지만, 본 발명은 이에 한정되지 않는다.

도 3을 참조하면, 코딩 트리 유닛은 먼저 쿼드 트리(Quad Tree, QT) 구조로 분할된다. 즉, 쿼드 트리 구조에서 2NX2N 크기를 가지는 하나의 노드는 NXN 크기를 가지는 네 개의 노드들로 분할될 수 있다. 본 명세서에서 쿼드 트리는 4진(quaternary) 트리로도 지칭될 수 있다. 쿼드 트리 분할은 재귀적으로 수행될 수 있으며, 모든 노드들이 동일한 깊이로 분할될 필요는 없다.

한편, 전술한 쿼드 트리의 리프 노드(leaf node)는 멀티-타입 트리(Multi-Type Tree, MTT) 구조로 더욱 분할될 수 있다. 본 발명의 실시예에 따르면, 멀티 타입 트리 구조에서는 하나의 노드가 수평 또는 수직 분할의 2진(binary, 바이너리) 또는 3진(ternary, 터너리) 트리 구조로 분할될 수 있다. 즉, 멀티-타입 트리 구조에는 수직 바이너리 분할, 수평 바이너리 분할, 수직 터너리 분할 및 수평 터너리 분할의 4가지 분할 구조가 존재한다. 본 발명의 실시예에 따르면, 상기 각 트리 구조에서 노드의 너비 및 높이는 모두 2의 거듭제곱 값을 가질 수 있다. 예를 들어, 바이너리 트리(Binary Tree, BT) 구조에서, 2NX2N 크기의 노드는 수직 바이너리 분할에 의해 2개의 NX2N 노드들로 분할되고, 수평 바이너리 분할에 의해 2개의 2NXN 노드들로 분할될 수 있다. 또한, 터너리 트리(Ternary Tree, TT) 구조에서, 2NX2N 크기의 노드는 수직 터너리 분할에 의해 (N/2)X2N, NX2N 및 (N/2)X2N의 노드들로 분할되고, 수평 터너리 분할에 의해 2NX(N/2), 2NXN 및 2NX(N/2)의 노드들로 분할될 수 있다. 이러한 멀티-타입 트리 분할은 재귀적으로 수행될 수 있다.

멀티-타입 트리의 리프 노드는 코딩 유닛이 될 수 있다. 코딩 유닛에 대한 분할이 지시되지 않거나 코딩 유닛이 최대 변환 길이에 비해 크지 않은 경우, 해당 코딩 유닛은 더 이상의 분할 없이 예측 및 변환의 단위로 사용된다. 한편, 전술한 쿼드 트리 및 멀티-타입 트리에서 다음의 파라메터들 중 적어도 하나가 사전에 정의되거나 PPS, SPS, VPS 등과 같은 상위 레벨 세트의 RBSP를 통해 전송될 수 있다. 1) CTU 크기: 쿼드 트리의 루트 노드(root node) 크기, 2) 최소 QT 크기(MinQtSize): 허용된 최소 QT 리프 노드 크기, 3) 최대 BT 크기(MaxBtSize): 허용된 최대 BT 루트 노드 크기, 4) 최대 TT 크기(MaxTtSize): 허용된 최대 TT 루트 노드 크기, 5) 최대 MTT 깊이(MaxMttDepth): QT의 리프 노드로부터의 MTT 분할의 최대 허용 깊이, 6) 최소 BT 크기(MinBtSize): 허용된 최소 BT 리프 노드 크기, 7) 최소 TT 크기(MinTtSize): 허용된 최소 TT 리프 노드 크기.

도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다. 전술한 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하기 위해 기 설정된 플래그들이 사용될 수 있다. 도 4를 참조하면, 쿼드 트리 노드의 분할 여부를 지시하는 플래그 'qt_split_flag', 멀티-타입 트리 노드의 분할 여부를 지시하는 플래그 'mtt_split_flag', 멀티-타입 트리 노드의 분할 방향을 지시하는 플래그 'mtt_split_vertical_flag' 또는 멀티-타입 트리 노드의 분할 모양을 지시하는 플래그 'mtt_split_binary_flag' 중 적어도 하나가 사용될 수 있다.

본 발명의 실시예에 따르면, 코딩 트리 유닛은 쿼드 트리의 루트 노드이며, 쿼드 트리 구조로 우선 분할될 수 있다. 쿼드 트리 구조에서는 각각의 노드 'QT_node' 별로 'qt_split_flag'가 시그널링된다. 'qt_split_flag'의 값이 1일 경우 해당 노드는 4개의 정사각형 노드들로 분할되며, 'qt_split_flag'의 값이 0일 경우 해당 노드는 쿼드 트리의 리프 노드 'QT_leaf_node'가 된다.

각각의 쿼드 트리 리프 노드 'QT_leaf_node'는 멀티-타입 트리 구조로 더 분할될 수 있다. 멀티-타입 트리 구조에서는 각각의 노드 'MTT_node' 별로 'mtt_split_flag'가 시그널링된다. 'mtt_split_flag'의 값이 1일 경우 해당 노드는 복수의 직사각형 노드들로 분할되며, 'mtt_split_flag'의 값이 0일 경우 해당 노드는 멀티-타입 트리의 리프 노드 'MTT_leaf_node'가 된다. 멀티-타입 트리 노드 'MTT_node'가 복수의 직사각형 노드들로 분할될 경우(즉, 'mtt_split_flag'의 값이 1일 경우), 노드 'MTT_node'를 위한 'mtt_split_vertical_flag' 및 'mtt_split_binary_flag'가 추가로 시그널링될 수 있다. 'mtt_split_vertical_flag'의 값이 1일 경우 노드 'MTT_node'의 수직 분할이 지시되며, 'mtt_split_vertical_flag'의 값이 0일 경우 노드 'MTT_node'의 수평 분할이 지시된다. 또한, 'mtt_split_binary_flag'의 값이 1일 경우 노드 'MTT_node'는 2개의 직사각형 노드들로 분할되며, 'mtt_split_binary_flag'의 값이 0일 경우 노드 'MTT_node'는 3개의 직사각형 노드들로 분할된다.

코딩을 위한 픽쳐 예측(모션 보상)은 더 이상 나누어지지 않는 코딩 유닛(즉 코딩 유닛 트리의 리프 노드)을 대상으로 이루어진다. 이러한 예측을 수행하는 기본 단위를 이하에서는 예측 유닛(prediction unit) 또는 예측 블록(prediction block)이라고 한다.

이하, 본 명세서에서 사용되는 유닛이라는 용어는 예측을 수행하는 기본 단위인 상기 예측 유닛을 대체하는 용어로 사용될 수 있다. 다만, 본 발명이 이에 한정되는 것은 아니며, 더욱 광의적으로는 상기 코딩 유닛을 포함하는 개념으로 이해될 수 있다.

도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다. 전술한 바와 같이, 인트라 예측부는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 샘플들을 참조 샘플들로 이용하여 현재 블록의 샘플 값들을 예측한다.

먼저, 도 5는 인트라 예측 모드에서 현재 블록의 예측을 위해 사용되는 참조 샘플들의 일 실시예를 도시한다. 일 실시예에 따르면, 참조 샘플들은 현재 블록의 좌측 경계에 인접한 샘플들 및/또는 상측 경계에 인접한 샘플들일 수 있다. 도 5에 도시된 바와 같이, 현재 블록의 크기가 WXH이고 현재 블록에 인접한 단일 참조 라인(line)의 샘플들이 인트라 예측에 사용될 경우, 현재 블록의 좌측 및/또는 상측에 위치한 최대 2W+2H+1개의 주변 샘플들을 사용하여 참조 샘플들이 설정될 수 있다.

또한, 참조 샘플로 사용될 적어도 일부의 샘플이 아직 복원되지 않은 경우, 인트라 예측부는 참조 샘플 패딩 과정을 수행하여 참조 샘플을 획득할 수 있다. 또한, 인트라 예측부는 인트라 예측의 오차를 줄이기 위해 참조 샘플 필터링 과정을 수행할 수 있다. 즉, 주변 샘플들 및/또는 참조 샘플 패딩 과정에 의해 획득된 참조 샘플들에 필터링을 수행하여 필터링된 참조 샘플들을 획득할 수 있다. 인트라 예측부는 이와 같이 획득된 참조 샘플들을 이용하여 현재 블록의 샘플들을 예측한다. 인트라 예측부는 필터링되지 않은 참조 샘플들 또는 필터링된 참조 샘플들을 이용하여 현재 블록의 샘플들을 예측한다. 본 개시에서, 주변 샘플들은 적어도 하나의 참조 라인 상의 샘플들을 포함할 수 있다. 예를 들어, 주변 샘플들은 현재 블록의 경계에 인접한 라인 상의 인접 샘플들을 포함할 수 있다.

다음으로, 도 6은 인트라 예측에 사용되는 예측 모드들의 일 실시예를 도시한다. 인트라 예측을 위해, 인트라 예측 방향을 지시하는 인트라 예측 모드 정보가 시그널링될 수 있다. 인트라 예측 모드 정보는 인트라 예측 모드 세트를 구성하는 복수의 인트라 예측 모드들 중 어느 하나를 지시한다. 현재 블록이 인트라 예측 블록일 경우, 디코더는 비트스트림으로부터 현재 블록의 인트라 예측 모드 정보를 수신한다. 디코더의 인트라 예측부는 추출된 인트라 예측 모드 정보에 기초하여 현재 블록에 대한 인트라 예측을 수행한다.

본 발명의 실시예에 따르면, 인트라 예측 모드 세트는 인트라 예측에 사용되는 모든 인트라 예측 모드들(예, 총 67개의 인트라 예측 모드들)을 포함할 수 있다. 더욱 구체적으로, 인트라 예측 모드 세트는 평면 모드, DC 모드 및 복수의(예, 65개의) 각도 모드들(즉, 방향 모드들)을 포함할 수 있다. 각각의 인트라 예측 모드는 기 설정된 인덱스(즉, 인트라 예측 모드 인덱스)를 통해 지시될 수 있다. 예를 들어, 도 6에 도시된 바와 같이 인트라 예측 모드 인덱스 0은 평면 모드를 지시하고, 인트라 예측 모드 인덱스 1은 DC 모드를 지시한다. 또한, 인트라 예측 모드 인덱스 2 내지 66은 서로 다른 각도 모드들을 각각 지시할 수 있다. 각도 모드들은 기 설정된 각도 범위 이내의 서로 다른 각도들을 각각 지시한다. 예를 들어, 각도 모드는 시계 방향으로 45도에서 -135도 사이의 각도 범위(즉, 제1 각도 범위) 이내의 각도를 지시할 수 있다. 상기 각도 모드는 12시 방향을 기준으로 정의될 수 있다. 이때, 인트라 예측 모드 인덱스 2는 수평 대각(Horizontal Diagonal, HDIA) 모드를 지시하고, 인트라 예측 모드 인덱스 18은 수평(Horizontal, HOR) 모드를 지시하고, 인트라 예측 모드 인덱스 34는 대각(Diagonal, DIA) 모드를 지시하고, 인트라 예측 모드 인덱스 50은 수직(Vertical, VER) 모드를 지시하며, 인트라 예측 모드 인덱스 66은 수직 대각(Vertical Diagonal, VDIA) 모드를 지시한다.

이하, 도 7을 참조하여 본 발명의 일 실시예에 따른 인터 예측 방법에 대해 설명하도록 한다. 본 개시에서, 인터 예측 방법은 병진 운동(translation motion)에 최적화된 일반 인터 예측 방법 및 어파인(affine) 모델 기반의 인터 예측 방법을 포함할 수 있다. 또한, 모션 벡터는 일반 인터 예측 방법에 따른 모션 보상을 위한 일반 모션 벡터 및 어파인 모션 보상을 위한 컨트롤 포인트 모션 벡터(control point motion vector) 중 적어도 하나를 포함할 수 있다.

도 7은 본 발명의 일 실시예에 따른 인터 예측 방법을 도시한다. 전술한 바와 같이, 디코더는 복호화된 다른 픽쳐의 복원된 샘플들을 참조하여 현재 블록을 예측할 수 있다. 도 7을 참조하면, 디코더는 현재 블록(701)의 모션 정보 세트에 기초하여 참조 픽쳐(720) 내의 참조 블록(702)을 획득한다. 이때, 모션 정보 세트는 참조 픽쳐 인덱스 및 모션 벡터를 포함할 수 있다. 참조 픽쳐 인덱스는 참조 픽쳐 리스트에서 현재 블록의 인터 예측을 위한 참조 블록이 포함된 참조 픽쳐(720)를 지시한다. 일 실시예에 따라, 참조 픽쳐 리스트는 전술한 L0 픽쳐 리스트 또는 L1 픽쳐 리스트 중 적어도 하나를 포함할 수 있다. 모션 벡터는 현재 픽쳐(710) 내에서 현재 블록(701)의 좌표 값과 참조 픽쳐(720) 내에서 참조 블록(702)의 좌표 값 간의 오프셋을 나타낸다. 디코더는 참조 블록(702)의 샘플 값들에 기초하여 현재 블록(701)의 예측자를 획득하고, 상기 예측자를 이용하여 현재 블록(701)을 복원한다.

구체적으로, 인코더는 복원 순서가 앞선 픽쳐들에서 현재 블록과 유사한 블록을 탐색하여 전술한 참조 블록을 획득할 수 있다. 예를 들어, 인코더는 기 설정된 탐색 영역 내에서 현재 블록과 샘플 값 차이의 합이 최소가 되는 참조 블록을 탐색할 수 있다. 이때, 현재 블록과 참조 블록의 샘플들 간의 유사도를 측정하기 위해, SAD (Sum Of Absolute Difference) 또는 SATD (Sum of Hadamard Transformed Difference) 중 적어도 하나가 사용될 수 있다. 여기에서, SAD는 두 블록에 포함된 샘플 값들의 차이 각각의 절대값을 모두 더한 값일 수 있다. 또한, SATD는 두 블록에 포함된 샘플 값들의 차이를 하다마드 변환(Hadamard Transform)하여 획득된 하다마드 변환 계수의 절대값을 모두 더한 값일 수 있다.

한편, 현재 블록은 하나 이상의 참조 영역을 이용하여 예측될 수도 있다. 전술한 바와 같이, 현재 블록은 2개 이상의 참조 영역을 이용하는 쌍예측 방식을 통해 인터 예측될 수 있다. 일 실시예에 따라, 디코더는 현재 블록의 2개의 모션 정보 세트에 기초하여 2개의 참조 블록을 획득할 수 있다. 또한, 디코더는 획득된 2개의 참조 블록 각각의 샘플 값들에 기초하여 현재 블록의 제1 예측자 및 제2 예측자를 획득할 수 있다. 또한, 디코더는 제1 예측자 및 제2 예측자를 이용하여 현재 블록을 복원할 수 있다. 예를 들어, 디코더는 제1 예측자 및 제2 예측자의 샘플 별 평균에 기초하여 현재 블록을 복원할 수 있다.

전술한 바와 같이, 현재 블록의 모션 보상을 위해, 하나 이상의 모션 정보 세트가 시그널링될 수 있다. 이때, 복수의 블록 각각의 모션 보상을 위한 모션 정보 세트 간의 유사성이 이용될 수 있다. 예를 들어, 현재 블록의 예측에 사용되는 모션 정보 세트는 기 복원된 다른 샘플들 중 어느 하나의 예측에 사용된 모션 정보 세트로부터 유도될 수 있다. 이를 통해, 인코더 및 디코더는 시그널링 오버헤드를 감소시킬 수 있다.

예를 들어, 현재 블록의 모션 정보 세트와 동일 또는 유사한 모션 정보 세트에 기초하여 예측되었을 가능성이 있는 복수의 후보 블록들이 존재할 수 있다. 디코더는 해당 복수의 후보 블록들을 기초로 머지 후보 리스트(merge candidate list)를 생성할 수 있다. 여기에서, 머지 후보 리스트는 현재 블록보다 먼저 복원된 샘플들 중에서, 현재 블록의 모션 정보 세트와 관련된 모션 정보 세트에 기초하여 예측되었을 가능성이 있는 샘플에 대응하는 후보들을 포함할 수 있다. 인코더와 디코더는 미리 정의된 규칙에 따라 현재 블록의 머지 후보 리스트를 구성할 수 있다. 이때, 인코더와 디코더가 각각 구성한 머지 후보 리스트는 서로 동일할 수 있다. 예를 들어, 인코더 및 디코더는 현재 픽쳐 내에서 현재 블록의 위치에 기초하여 현재 블록의 머지 후보 리스트를 구성할 수 있다. 인코더 및 디코더가 현재 블록의 머지 후보 리스트를 구성하는 방법에 대해서는 도 9를 통해 후술하도록 한다. 본 개시에서, 특정 블록의 위치는 특정 블록을 포함하는 픽쳐 내에서 특정 블록의 좌상단(top-left) 샘플의 상대적인 위치를 나타낸다.

한편, 코딩 효율을 높이기 위하여 전술한 레지듀얼 신호를 그대로 코딩하는 것이 아니라, 레지듀얼 신호를 변환하여 획득된 변환 계수 값을 양자화하고, 양자화된 변환 계수를 코딩하는 방법이 사용될 수 있다. 전술한 바와 같이, 변환부는 레지듀얼 신호를 변환하여 변환 계수 값을 획득할 수 있다. 이때, 특정 블록의 레지듀얼 신호는 현재 블록의 전 영역에 분산되어 있을 수 있다. 이에 따라, 레지듀얼 신호에 대한 주파수 영역 변환을 통해 저주파 영역에 에너지를 집중시켜 코딩 효율을 향상시킬 수 있다. 이하에서는, 레지듀얼 신호가 변환 또는 역변환되는 방법에 대해 구체적으로 설명하도록 한다.

도 8은 인코더가 레지듀얼 신호를 변환하는 방법을 구체적으로 나타내는 도면이다. 전술한 바와 같이, 공간 영역의 레지듀얼 신호는 주파수 영역으로 변환될 수 있다. 인코더는 획득된 레지듀얼 신호를 변환하여 변환 계수를 획득할 수 있다. 먼저, 인코더는 현재 블록에 대한 레지듀얼 신호를 포함하는 적어도 하나의 레지듀얼 블록을 획득할 수 있다. 레지듀얼 블록은 현재 블록 또는 현재 블록으로부터 분할된 블록들 중 어느 하나일 수 있다. 본 개시에서, 레지듀얼 블록은 현재 블록의 레지듀얼 샘플들을 포함하는 레지듀얼 어레이(array) 또는 레지듀얼 매트릭스(matrix)로 지칭될 수 있다. 또한, 본 개시에서 레지듀얼 블록은 변환 유닛 또는 변환 블록의 크기와 동일한 크기의 블록을 나타낼 수 있다.

다음으로, 인코더는 변환 커널을 사용하여 레지듀얼 블록을 변환할 수 있다. 레지듀얼 블록에 대한 변환에 사용되는 변환 커널은 수직 변환 및 수평 변환의 분리 가능한 특성을 가지는 변환 커널일 수 있다. 이 경우, 레지듀얼 블록에 대한 변환은 수직 변환 및 수평 변환으로 분리되어 수행될 수 있다. 예를 들어, 인코더는 레지듀얼 블록의 수직 방향으로 변환 커널을 적용하여 수직 변환을 수행할 수 있다. 또한, 인코더는 레지듀얼 블록의 수평 방향으로 변환 커널을 적용하여 수평 변환을 수행할 수 있다. 본 개시에서, 변환 커널은 변환 매트릭스, 변환 어레이, 변환 함수, 변환과 같이 레지듀얼 신호의 변환에 사용되는 파라미터 세트를 지칭하는 용어로 사용될 수 있다. 일 실시예에 따라, 변환 커널은 복수의 사용 가능한 커널들 중 어느 하나일 수 있다. 또한, 수직 변환 및 수평 변환 각각에 대해 서로 다른 변환 타입에 기반한 변환 커널이 사용될 수도 있다. 복수의 사용 가능한 변환 커널들 중 어느 하나가 선택되는 방법에 대해서는 도 12 내지 도 26을 통해 후술하도록 한다.

인코더는 레지듀얼 블록으로부터 변환된 변환 블록을 양자화부로 전달하여 양자화할 수 있다. 이때, 변환 블록은 복수의 변환 계수들을 포함할 수 있다. 구체적으로, 변환 블록은 2차원 배열된 복수의 변환 계수들로 구성될 수 있다. 변환 블록의 크기는 레지듀얼 블록과 마찬가지로 현재 블록 또는 현재 블록으로부터 분할된 블록 중 어느 하나와 동일할 수 있다. 양자화부로 전달된 변환 계수들은 양자화된 값으로 표현될 수 있다.

또한, 인코더는 변환 계수가 양자화되기 전에 추가적인 변환을 수행할 수 있다. 도 8에 도시된 바와 같이, 전술한 변환 방법은 1차 변환(primary transform)으로 지칭되고, 추가적인 변환은 2차 변환(secondary transform)으로 지칭될 수 있다. 2차 변환은 레지듀얼 블록 별로 선택적일 수 있다. 일 실시예에 따라, 인코더는 1차 변환만으로 저주파 영역에 에너지를 집중시키기 어려운 영역에 대해 2차 변환을 수행하여 코딩 효율을 향상시킬 수 있다. 예를 들어, 레지듀얼 값들이 레지듀얼 블록의 수평 또는 수직 방향 이외의 방향에서 크게 나타나는 블록에 대해 2차 변환이 추가될 수 있다. 인트라 예측된 블록의 레지듀얼 값들은 인터 예측된 블록의 레지듀얼 값들에 비해 수평 또는 수직 방향 이외의 방향으로 변화할 확률이 높을 수 있다. 이에 따라, 인코더는 인트라 예측된 블록의 레지듀얼 신호에 대해 2차 변환을 추가적으로 수행할 수 있다. 또한, 인코더는 인터 예측된 블록의 레지듀얼 신호에 대해 2차 변환을 생략할 수 있다.

다른 예로, 현재 블록 또는 레지듀얼 블록의 크기에 따라, 2차 변환 수행 여부가 결정될 수 있다. 또한, 현재 블록 또는 레지듀얼 블록의 크기에 따라 크기가 서로 다른 변환 커널이 사용될 수 있다. 예를 들어, 너비 또는 높이 중 짧은 변의 길이가 제1 기 설정된 길이 보다 크거나 같은 블록에 대해서는 8X8 2차 변환이 적용될 수 있다. 또한, 너비 또는 높이 중 짧은 변의 길이가 제2 기 설정된 길이 보다 크거나 같고 제1 기 설정된 길이 보다 작은 블록에 대해서는 4X4 2차 변환이 적용될 수 있다. 이때, 제1 기 설정된 길이는 제2 기 설정된 길이 보다 큰 값일 수 있으나, 본 개시가 이에 제한되는 것은 아니다. 또한, 2차 변환은 1차 변환과 달리 수직 변환 및 수평 변환으로 분리되어 수행되지 않을 수 있다. 이러한 2차 변환은 저대역 비-분리 변환(Low Frequency Non-Separable Transform, LFNST)으로 지칭될 수 있다.

또한, 특정 영역의 비디오 신호의 경우, 급격한 밝기 변화로 인해 주파수 변환을 수행하여도 고주파 대역 에너지가 줄어들지 않을 수 있다. 이에 따라, 양자화에 의한 압축 성능이 저하될 수 있다. 또한, 레지듀얼 값이 드물게 존재하는 영역에 대해 변환을 수행하는 경우, 인코딩 시간 및 디코딩 시간이 불필요하게 증가할 수 있다. 이에 따라, 특정 영역의 레지듀얼 신호에 대한 변환은 생략될 수 있다. 특정 영역의 레지듀얼 신호에 대한 변환 수행 여부는 특정 영역의 변환과 관련된 신택스 요소에 의해 결정될 수 있다. 예를 들어, 상기 신택스 요소는 변환 스킵 정보(transform skip information)를 포함할 수 있다. 변환 스킵 정보는 변환 스킵 플래그(transform skip flag)일 수 있다. 레지듀얼 블록에 대한 변환 스킵 정보가 변환 스킵을 나타내는 경우, 해당 레지듀얼 블록에 대한 변환이 수행되지 않는다. 이 경우, 인코더는 해당 영역의 변환이 수행되지 않은 레지듀얼 신호를 곧바로 양자화할 수 있다. 도 8을 참조하여 설명된 인코더의 동작들은 도 1의 변환부를 통해 수행될 수 있다.

전술한 변환 관련 신택스 요소들은 비디오 신호 비트스트림으로부터 파싱된 정보일 수 있다. 디코더는 비디오 신호 비트스트림을 엔트로피 디코딩하여 변환 관련 신택스 요소들을 획득할 수 있다. 또한, 인코더는 변환 관련 신택스 요소들을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성할 수 있다.

도 9은 인코더 및 디코더가 변환 계수를 역변환하여 레지듀얼 신호를 획득하는 방법을 구체적으로 나타내는 도면이다. 이하 설명의 편의를 위해, 인코더 및 디코더 각각의 역변환부를 통해 역변환 동작이 수행되는 것으로 설명한다. 역변환부는 역양자화된 변환 계수를 역변환하여 레지듀얼 신호를 획득할 수 있다. 먼저, 역변환부는 특정 영역의 변환 관련 신택스 요소로부터 해당 영역에 대한 역변환이 수행되는지 검출할 수 있다. 일 실시예에 따라, 특정 변환 블록에 대한 변환 관련 신택스 요소가 변환 스킵을 나타내는 경우, 해당 변환 블록에 대한 변환이 생략될 수 있다. 이 경우, 변환 블록에 대해 전술한 1차 역변환 및 2차 역변환이 모두 생략될 수 있다. 또한, 역양자화된 변환 계수는 레지듀얼 신호로 사용될 수 있다. 예를 들어, 디코더는 역양자화된 변환 계수를 레지듀얼 신호로 사용하여 현재 블록을 복원할 수 있다.

다른 일 실시예에 따라, 특정 변환 블록에 대한 변환 관련 신택스 요소가 변환 스킵을 나타내지 않을 수 있다. 이 경우, 역변환부는 2차 변환에 대한 2차 역변환 수행 여부를 결정할 수 있다. 예를 들어, 변환 블록이 인트라 예측된 블록의 변환 블록인 경우, 변환 블록에 대한 2차 역변환이 수행될 수 있다. 또한, 변환 블록에 대응하는 인트라 예측 모드에 기초하여 해당 변환 블록에 사용되는 2차 변환 커널이 결정될 수 있다. 다른 예로, 변환 블록의 크기에 기초하여 2차 역변환 수행 여부가 결정될 수도 있다. 2차 역변환은 역양자화 과정 이후 1차 역변환이 수행되기 전에 수행될 수 있다.

역변환부는 역양자화된 변환 계수 또는 2차 역변환된 변환 계수에 대한 1차 역변환을 수행할 수 있다. 1차 역변환의 경우, 1차 변환과 마찬가지로 수직 변환 및 수평 변환으로 분리되어 수행될 수 있다. 예를 들어, 역변환부는 변환 블록에 대한 수직 역변환 및 수평 역변환을 수행하여 레지듀얼 블록을 획득할 수 있다. 역변환부는 변환 블록의 변환에 사용된 변환 커널에 기초하여 변환 블록을 역변환할 수 있다. 예를 들어, 인코더는 복수의 사용 가능한 변환 커널들 중 현재 변환 블록에 적용된 변환 커널을 지시하는 정보를 명시적 또는 묵시적으로 시그널링할 수 있다. 디코더는 시그널링된 변환 커널을 나타내는 정보를 이용하여 복수의 사용 가능한 변환 커널들 중 변환 블록의 역변환에 사용될 변환 커널을 선택할 수 있다. 역변환부는 변환 계수에 대한 역변환을 통해 획득된 레지듀얼 신호를 이용하여 현재 블록을 복원할 수 있다.

도 10은 본 발명의 일 실시예에 따른 코딩 블록이 복수 개의 변환 블록으로 분할되는 경우 인트라 예측 모드의 적용 방법을 설명하기 위한 도면이다. 본 발명의 일 실시예에 따르면, 인트라 예측 모드는 코딩 유닛(또는 코딩 블록)(이하, 블록으로 약칭될 수 있음) 단위로 결정될 수 있다. 그리고, 코딩 유닛은 복수 개의 변환 블록으로 분할될 수 있다. 일 실시예로서, 인트라 예측 모드는 코딩 블록의 형태에 기초하여 수정(또는 해석, 결정, 개선)될 수 있다.

일 실시예에서, 정방형(또는 정사각형) 블록이 아닌 경우 인트라 예측 모드를 재해석하는 방법을 설명한다. 도 10을 참조하면, nTbW는 변환 블록의 넓이, nTbH는 변환 블록의 높이를 나타내는 변수일 수 있다. 또는, nTbW는 코딩 블록의 넓이, nTbH는 코딩 블록의 높이를 나타내는 변수일 수 있다. 또는, ISP(Intra subpartitions)가 적용된 블록에서 nTbW는 코딩 블록의 넓이, nTbH는 코딩 블록의 높이를 나타내는 변수일 수 있다. 또한, 본 발명에서, whRatio는 너비와 높이의 비율을 나타내는 변수이다. 일 예로서, whRatio는 Abs(Log2(nTbW/nTbH))로 설정(또는 정의)될 수 있다. 이하, 인코더로부터 디코더로 시그널링된 인트라 예측 모드는 제1 예측 모드(또는 제1 인트라 예측 모드)로 지칭되고, 수정된(또는 재해석된, 결정된, 개선된) 모드는 제2 예측 모드(또는 제2 인트라 예측 모드)로 지칭될 수 있다. 이하에서, abs()는 절대값을 취하는 연산자(또는 함수)를 나타낸다. 수정된 인트라 예측 모드는 아래의 조건들에 기초하여 유도될 수 있다.

- 제1 조건: nTbW > nTbH

- 제2 조건: 제1 예측 모드가 2보다 크거나 같은지

- 제3 조건: 제1 예측 모드가 whRatio >1 인 경우 (8+2*whRatio) 보다 작고, whRatio <1 인 경우 8보다 작은지

디코더는 상기 제1 내지 3의 3가지 조건을 만족하면 wideAngle을 1로 설정하고, 제2 예측 모드를 (제1 예측 모드 + 65) 로 설정할 수 있다. 여기서, wideAngle은 광각 모드가 이용되는지 여부를 지시하는 변수이다.

- 제4 조건: nTbH > nTbW

- 제5 조건: 제1 예측 모드가 66보다 작거나 같은지

- 제6 조건: 제1 예측 모드가 whRatio>1 인 경우 (60-2*whRatio ) 보다 크고, whRatio <1 인 경우 60보다 큰지

디코더는 상기 제4 내지 6조건을 모두 만족하면 변수 wideAngle을 1로 설정하고, 제2 예측 모드를 (제1 예측 모드 - 67)로 설정할 수 있다.

본 발명의 일 실시예에 따르면, 인트라 예측 모드는 기본 각도 모드와 확장된 각도 모드로 구분될 수 있다. 기본 각도 모드는 수직 모드/수평 모드 기준 +- 45 범위 내의 각도 모드들일 수 있고, 확장된 각도 모도는 수직 모드/수평 모드 기준으로 +- 45도를 초과하는 각도 모드일 수 있다. 따라서, 시그널링된 모드 정보는 코딩 블록의 형태에 따라 기본 각도 모드를 사용하거나 확장된 각도 모드를 사용될 수 있다. 확장된 각도 모드는 코딩 블록의 형태에 기반한 가로와 세로의 비율(또는 세로와 가로의 비율)에 따라 사용할 수 있는 모드 수가 정의될 수 있다. 일 예로서, 상기 비율은 2:1, 4:1, 8:1, 16:1 등으로 정의(또는 설정)될 수 있다.

예를 들어, 도 10(a)에 도시된 바와 같이, 인트라 예측 모드 2로 결정된 cbWidth x cbHeight 코딩 블록은 도 10(b)에 도시된 바와 같이, 수평 방향 2개의 변환 블록으로 분할될 수 있다. tbWidht_1이 tbHeight_1보다 크다고 가정하면 tbWidht_1 x tbHeight_1 크기를 갖는 제1 변환 블록은 수직 직사각형 블록 형태를 가질 수 있다. 여기서, cbWidth는 코딩 블록의 너비를 나타내는 변수이고, cbHeight는 코딩 블록의 높이를 나타내는 변수이다. tbWidth는 변환 블록의 너비를 나타내는 변수이고, tbHeight는 변환 블록의 높이를 나타내는 변수이다.

이때, 시그널링된 인트라 예측 모드 2는 제1 변환 블록의 형태를 기반으로 재해석되어 확장된 각도 모드로 수정될 수 있고, 상술한 해석 방법에 따라 (2+65)가 되어 제2 예측 모드는 67로 유도(또는 결정)될 수 있다. 즉, 코딩 블록 단위에서 결정된 인트라 예측 모드는 변환 블록 단위에서도 동일하게 사용되지 않을 수 있다. 이 경우, 이로 인한 성능 변화도 야기될 수 있다.

따라서, 본 발명의 실시예에 따르면, 코딩 블록에 결정된 인트라 예측 모드를 변환 블록에서도 동일하게 적용하기 위해 광각 모드를 결정하는 방법을 다음과 같이 적용하는 방법을 제안한다. 실시예로서, 인코더/디코더는 제2 예측 모드를 유도함에 있어서, nTbW 및 nTbH를 코딩 블록의 cbWidth, cbHeight로 설정할 수 있다. 인코더/디코더는 변환 블록이 포함된 코딩 블록의 높이 및 너비를 이용하여 광각 모드의 사용 여부를 판단(또는 결정)할 수 있다. 도 10에서, 수평 직사각형 형태로 변환 블록이 분할되는 경우를 예로 들었으나 본 발명이 이에 한정되는 것은 아니다. 즉, 수직 직사각형, 정사각형 또는 조합된 여러 형태로 분할되는 경우에도 동일하게 제안하는 실시예가 적용될 수 있다.

도 11은 본 발명의 일 실시예에 따른 PDPC(position-dependent intra prediction combination) 적용 방법을 설명하기 위한 도면이다. PDPC는 다음과 같은 조건을 모두 만족하면 인트라 블록에 적용될 수 있다.

조건1. IntraSubPartitionsSplitType(ISP 분할 타입) 이 ISP_NO_SPLIT 이거나 cIdx(컴포넌트 인덱스)가 0 과 같지 않음

조건2. refIdx(참조 샘플 라인 인덱스)가 0 과 같거나 cIdx가 0과 같지 않음

조건3. 다음 조건들 중 하나라도 해당되는 경우:

- predModeIntra(인트라 예측 모드)가 INTRA_PLANAR

- predModeIntra(인트라 예측 모드)가 INTRA_DC

- predModeIntra(인트라 예측 모드)가 INTRA_ANGULAR18

- predModeIntra(인트라 예측 모드)가 INTRA_ANGULAR50

- predModeIntra(인트라 예측 모드) 가 INTRA_ANGULAR10보다 작거나 같은 경우

- predModeIntra(인트라 예측 모드) 가 INTRA_ANGULAR58과 같거나 큰 경우

본 발명의 일 실시예에 따르면, PDPC 동작은 이하에서 설명하는 방법에 따라 적용될 수 있다. 본 발명에서 설명하는 PDPC는 그 명칭에 제한되는 것이 아니며, 상시 PDPC는 위치 의존적인 인트라 예측 샘플 필터링(Position-dependent intra prediction sample filtering)으로 지칭될 수도 있다.

일 실시예로서, (x, y) 위치의 예측 샘플 pred(x, y)은 다음의 수학식 1과 같이 인트라 예측 모드(예컨대, DC, 플래너, 방향성 모드) 및 PDPC에 따른 참조 샘플의 선형 조합을 이용하여 예측될 수 있다.

여기서, R _x,-1및 R _-1,y는 각각 현재 샘플 (x, y)의 좌측 및 상측에 위치한 참조 샘플을 나타내고, R _-1,-1는 현재 블록의 좌상단(top-left)에 위치한 참조 샘플을 나타낸다. 현재 블록에 DC 모드가 적용되는 경우, 다음의 수학식 2에 기초하여 가중치(PDPC 가중치로 지칭될 수 있음)가 계산될 수 있다.

수학식 2에서, shift는 ( log2( width ) - 2 + log2( height ) - 2 + 2 ) >> 2로 설정될 수 있다. 그리고, 플래너 모드에 대하여 wTL = 0로 설정될 수 있고, 수평 모드에 대하여 wTL = wT로 설정될 수 있고, 수직 모드에 대하여 wTL = wL으로 설정될 수 있다. PDPC 가중치는 합산 및 시프트 연산에 기초하여서만 계산될 수 있다. pred(x, y) 값은 앞서 설명한 수학식 1을 이용하여 단일 단계로 계산될 수 있다.

만약, PDPC가 DC, 플래너, 수평 및/또는 수직 모드에 적용되는 경우, 추가적인 경계 필터링이 요구되지 않을 수 있다. 일 예로서, 상기 추가적인 경계 필터링은 종래의 영상 압축 기술(예컨대, HEVC)의 DC 모드 경계 필터 또는 수평/수직 모드의 엣지 필터를 포함할 수 있다.

도 12는 본 발명의 일 실시예로서 인트라 예측 모드에 따라 PDPC에 이용되는 참조 샘플을 예시하는 도면이다. 도 12를 참조하면, 도 12(a)는 인트라 예측 모드가 예측 모드 2인 경우를 가정하고, 도 12(b)는 인트라 예측 모드가 예측 모드 66인 경우를 가정한다. 구체적으로, 도 12는 우상측 대각 모드(top-right diagonal mode)에 PDPC가 적용되는 경우, 참조 샘플 R _x,-1, R _-1,y 및 R _-1,-1를 도시한다. 예측 샘플 pred(x', y')은 예측 블록 내 (x', y')에 위치한 예측 샘플을 나타낸다. 참조 샘플 R _x,-1 의 좌표 x는 x = x' + y' + 1로 주어진다. 그리고, 참조 샘플 R _-1,y의 좌표 y는 유사하게 y = x' + y' + 1로 주어진다.

본 발명의 일 실시예에 따르면, 우상측 대각 모드에 대한 PDPC 가중치는 다음의 수학식 3에 따라 결정될 수 있다.

도 13은 본 발명의 일 실시예로서 인트라 예측 모드에 따라 PDPC에 이용되는 참조 샘플을 예시하는 도면이다. 도 13을 참조하면, 도 13(a)는 인트라 예측 모드의 모드 번호(또는 모드 인덱스)가 3 내지 10 중 어느 하나인 경우를 가정하고, 도 13(b)는 인트라 예측 모드의 모드 번호가 58 내지 65 중 어느 하나인 경우를 가정한다. 앞서 설명한 도 12와 유사하게 도 13은 좌하측 대각 모드(bottom-left diagonal mode)에 PDPC가 적용되는 경우, 참조 샘플 R _x,-1, R _-1,y 및 R _-1,-1를 도시한다. 예측 샘플 pred(x', y')은 예측 블록 내 (x', y')에 위치한 예측 샘플을 나타낸다. 참조 샘플 R _x,-1 의 좌표 x는 x = x' + y' + 1로 주어진다. 그리고, 참조 샘플 R _-1,y의 좌표 y는 유사하게 y = x' + y' + 1로 주어진다.

본 발명의 일 실시예에 따르면, 좌하측 대각 모드에 대한 PDPC 가중치는 다음의 수학식 4에 따라 결정될 수 있다.

우상측 대각 모드에 대한 도 13(a)의 경우, PDPC 가중치는 다음의 수학식 5와 같이 정의될 수 있다.

마찬가지로, 좌하측 대각 모드에 대한 도 13(b)의 경우, PDPC 가중치는 다음의 수학식 6과 같이 정의될 수 있다.

도 12 및 도 13을 참조하면, 실시예로서, DC, 플래너, 수평 및/또는 수직 모드에 대하여 PDPC가 적용되는 경우와 같이, 대각 모드 및 도 13에 도시된 대각 모드의 인접 모드에 대해서는 추가적인 경계 필터링이 필요하지 않을 수 있다.

도 13에 도시된 예시의 참조 샘플 좌표는 방향성 모드 인트라 예측에 대하여 정의된 테이블에 기초하여 유도될 수 있다. 상술한 바와 같이, 대각선 및 그 인접 모드로 테이블이 정의될 수 있기 때문에 본 발명에서 설명하는 PDPC 구현에 따른 추가 테이블이 필요하지 않는다는 장점을 가진다. 또한, 좌표 x와 y를 계산할 때는 곱셈 연산이 사용되지 않을 수 있다. 또한, 일 실시예에서, 분수 기준 샘플 좌표가 이용되는 경우 참조 샘플에 대하여 선형 보간이 수행될 수 있다.

도 14는 본 발명이 적용되는 일 실시예에 따른 코딩 블록에 대한 ISP(Intra subpartitions) 및 PDPC(position-dependent intra prediction combination) 적용 방법을 예시하는 도면이다. 도 14(a)를 참조하면, 현재 코딩 블록은 너비(W) 및 높이(H)를 이용해 W x H로 표현될 수 있다. 도 14(b)는 ISP 모드가 적용되는 경우, 수직 방향으로 현재 코딩 블록이 4개의 변환 블록으로 분할된 예를 나타낸다. 그리고, 도 14(c)는 도 14(b)에서 분할된 각각의 변환 블록 단위로 PDPC를 적용하는 예를 도시한다.

일 실시예에서, 인코더/디코더는 도 14(b)에서 ISP가 적용된 변환 블록 단위에서 보간 필터(Interpolation filter)를 사용(또는 적용)할 수 있다. 보간 필터는 참조 샘플로부터 샘플 값을 취득하는 방법을 나타낸다. 일 예로서, 인코더/디코더는 필터 플래그가 0이면 큐빅 보간 필터(Cubic interpolation filter) 계수를 사용하고, 1이면 가우시안 보간 필터(Gaussian interpolation filter) 계수를 사용할 수 있다. 인코더/디코더는 결정된 보간 필터 계수를 이용하여 참조 샘플 값을 결정하고 이 값을 예측 값으로 사용할 수 있다. 또한, 일 실시예에서, 인코더/디코더는 변환 블록이 루마 컴포넌트이고 ISP가 적용된 블록에 대하여 필터 플래그를 1로 설정할 수 있다. 다른 일 예로, 인코더/디코더는 필터 플래그에 기초하여 보간 필터의 적용 여부를 결정할 수도 있다.

또한, 일 실시예에서, 인코더/디코더는 루마 컴포넌트이고 ISP가 적용된 변환 블록에 대하여, 블록의 넓이(W) 및 높이(H) 값에 기초하여 필터 플래그 값을 설정(또는 결정)할 수 있다. 일 실시예로서, 인코더/디코더는 블록의 샘플 수(W*H)와 미리 정의된(또는 미리 설정된) 특정 기준 값을 비교하여 플래그 값을 설정할 수 있다. 예를 들어, 인코더/디코더는 W*H > 기준 값, W*H >= 기준 값, W*H < 기준 값, W*H <= 기준 값을 비교할 수 있다. 다른 방법으로 인코더/디코더는 블록 너비 및 높이를 각각 기준 값과 비교하여 필터 플래그 값을 다르게 설정할 수 있다. 일 실시예로서, 필터 플래그 값을 결정하는 조건은 (W > 기준 값 및 H > 기준 값), (W > 기준 값 또는 H > 기준 값)으로 정의될 수 있다. 상기 예에서 부등호는 기준 값 보다 크다에 한정되지 않으며, 같은 경우, 크거나 같은 경우, 작은 경우, 작거나 같은 경우로 정의될 수도 있다. W 및 H에 적용되는 기준 값은 서로 다를 수도 있고 서로 다른 부등호가 적용될 수 있다. 또는, 특정 블록 크기 범위 내에 속하는지 여부에 따라 필터 플래그 값이 설정될 수 있다.

도 14(c)를 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 ISP가 적용된 블록에 대하여 PDPC를 적용할 수 있다. 일 예로서, 인코더/디코더는 ISP가 적용된 블록에 대하여 블록의 샘플 수(W*H)에 기초하여 PDPC의 적용 여부를 결정할 수 있다. 일 실시예에서, 블록의 샘플 수에 기초하여 PDPC의 적용 여부를 결정하기 위한 조건이 정의될 수 있다. 예를 들어, 상기 조건은 W*H > 기준 값, W*H >= 기준 값, W*H < 기준 값, W*H <= 기준 값 등이 될 수 있다. 상기 기준 값은 기 설정된 값일 수 있다. 다른 일 실시예로, PDPC의 적용 여부를 결정하기 위한 조건은 (W > 기준 값 및 H > 기준 값)으로 정의되거나, (W > 기준 값 또는 H > 기준 값)으로 정의될 수 있다. 이때, 상기 예에서 부등호는 기준 값 보다 크다에 한정되지 않으며, 같은 경우, 크거나 같은 경우, 작은 경우, 작거나 같은 경우로 정의될 수도 있다. 예를 들어, PDPC의 적용 여부를 결정하기 위한 조건은 (W ≥ 기준 값 및 H ≥ 기준 값)으로 정의되거나, (W ≥ 기준 값 또는 H ≥ 기준 값)으로 정의될 수 있다. 실시예로서, W 와 H에 적용되는 기준 값은 동일한 값으로 정의될 수도 있고, 서로 다른 값으로 정의될 수도 있으며, 동일한 부호(또는 부등호)로 정의될 수도 있고, 서로 다른 부호로 정의될 수도 있다.

또한, 도 14(c)를 참조하면, 본 발명의 일 실시예에서, ISP가 적용된 블록은 복수 개의 직사각형 변환 블록으로 분할되고, 분할된 변환 블록 단위로 인코딩/디코딩되는 과정이 수행될 수 있다. 일 실시예에서, 인코더/디코더는 PDPC를 적용함에 있어서 변환 블록 단위가 아닌 코딩 블록 단위로 적용할 수도 있다. 즉, 인코더/디코더는 ISP가 적용된 코딩 블록에 대해 PDPC는 변환 블록 단위 대신 코딩 블록 단위로 수행할 수 있다.

도 14(c)를 참조하면, 본 발명의 일 실시예에서, ISP가 적용된 블록에 PDPC를 적용함에 있어서, 인코더/디코더는 PDPC가 적용되는 모드들 중에서 일부 모드들에 대하여 정의된 특정 조건을 만족하는 경우에 한하여 PDPC를 적용할 수 있다. 예를 들어, 상술한 실시예에서와 같이, 샘플 수 또는 너비/높이에 기반하여 PDPC 적용 여부를 결정하는 경우, 플래너 모드, 수평 모드, 수직 모드에 대한 기준 값이 다르게 설정될 수 있다.

또한, 본 발명의 일 실시예에 따르면, 인코더/디코더는 참조 샘플 필터링의 적용 여부를 결정함에 있어서, ISP 및/또는 PDPC가 적용된 블록인지 여부에 기초하여 필터링 적용 여부를 지시하는 필터 플래그를 설정할 수 있다. 예를 들어, ISP 및 PDPC가 적용된 블록에 대하여 필터 플래그는 0 또는 1의 고정된 값으로 설정될 수 있다. 또는, ISP 및 PDPC가 적용된 블록에 대하여 MDIS(Mode dependent Intra smoothing) 조건에 의해서 필터 플래그 값이 결정될 수 있다. 또는, 인코더/디코더는 ISP 및 PDPC가 적용된 블록의 필터 플래그 값과 ISP만 적용된 블록의 필터 플래그 값을 서로 다르게 적용할 수 있다.

또한, 본 발명의 일 실시예에 따르면, 인코더/디코더는 광각 모드를 결정함에 있어서, 코딩 블록의 너비와 높이에 기반하여 인트라 예측 모드를 재설정할 수 있다. 예를 들어, 인코더/디코더는 ISP가 적용된 블록은 코딩 블록의 너비와 높이에 기반하여 광각 모드의 재해석 과정을 수행하고, 이에 기초하여 참조 샘플 필터 플래그를 설정할 수 있다. 또는, 인코더/디코더는 ISP가 적용된 블록의 분할 방향/크기에 기반하여 광각 모드 적용 방법을 다르게 설정할 수 있다. 일 실시예로서, 특정 분할 방향은 변환 블록의 너비/높이 또는 코딩 블록의 너비/높이에 기초하여 적용하고, 그 이외는 다른 방식으로 적용할 수 있다. 다른 실시예로서, 인코더/디코더는 분할된 변환 블록의 너비와 높이 값에 기반하여 광각 모드를 적용할 수 있다. 예를 들어, 변환 블록의 너비와 높이 중 최소값이 기준 값 보다 크거나 같거나 크면 코딩 블록의 높이와 너비를 이용하여 광각 모드를 적용할 수 있고 기준 값보다 같거나 작거나, 작은 경우면 변환 블록의 너비와 높이를 이용하여 광각 모드를 적용할 수 있다. 또는, 이와 반대로, 변환 블록의 너비와 높이 중 최소값이 기준 값 보다 크거나 같거나 크면 변환 블록의 높이와 너비를 이용하여 광각 모드를 적용할 수 있고 기준 값보다 같거나 작거나, 작은 경우면 코딩 블록의 너비와 높이를 이용하여 광각 모드를 적용할 수 있다.

이상에서, 도 10 내지 도 14에서 설명한 실시예들은 하나 이상의 실시예가 조합 적용될 수도 있고, 독립적으로 적용될 수도 있다. 또한, 상술한 실시예는 디코더와 인코더에서 실질적으로 동일한 방법으로 적용될 수 있다.

도 15는 본 발명의 일 실시예에 따른 변환 유닛 분할 처리 방법을 설명하기 위한 도면이다. 도 15를 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 블록(코딩 블록, 코딩 유닛)을 복수 개의 변환 블록으로 분할하여 인코딩/디코딩할 수 있다. 실시예로서, 인트라 서브파티션(Intra subpartitions, ISP) 모드가 적용되는 경우, 코딩 블록은 복수 개의 변환 블록으로 분할될 수 있다. 또는, 코딩 블록의 크기가 최대 변환 크기보다 큰 경우, 코딩 블록은 복수 개의 변환 블록으로 분할될 수 있다. 인트라 서브 파티션 모드가 적용되는 경우, 도 15에 도시된 바와 같이, 코딩 블록은 수평 또는 수직 방향의 직사각형 변환 블록으로 분할될 수 있고, 2개 또는 4개의 변환 블록으로 분할될 수 있다.

도 16은 본 발명이 적용되는 일 실시예에 따른 1차 변환(primary transform) 및 2차 변환(secondary transform)을 거쳐 인코딩/디코딩되는 프로세스를 나타내는 도면이다. 전술한 바와 같이, 코딩 블록은 복수 개의 변환 블록으로 분할될 수 있고, 분할된 변환 블록에 대하여 인코더/디코더는 변환을 적용할 수 있다. 도 16은 변환 블록에 대하여 2번의 변환을 적용하는 예를 나타낸다. 도 16의 순방향 일차 변환(Forward Primary Transform)은 인코더 측을 기준으로 첫 번째 적용되는 변환을 나타내며, 본 발명에서 1차 변환으로 지칭될 수 있다. 도 16의 순방향 이차 변환(Forward Secondary Transform)은 인코더 측을 기준으로 두 번째 적용되는 변환을 나타내며, 본 발명에서 2차 변환으로 지칭될 수 있다. 디코더 측을 기준으로 역양자화된 변환 블록에 대하여 2차 변환(즉, 2차 역변환) 및 1차 변환(즉, 1차 역변환)이 순차적으로 수행될 수 있다. 전술한 바와 같이, 2차 변환은 저대역 비-분리 변환(Low Frequency Non-Separable Transform, LFNST)으로 지칭될 수 있다.

본 발명의 일 실시예에서, 1차 변환에 이용되는 변환 매트릭스(또는 변환 커널, 변환 타입)는 DCT-2, DST-7, DCT-8 등과 같은 종래의 영상 압축 기술에서 공지된 변환 매트릭스일 수 있다. 2차 변환은 코딩 블록의 크기에 따라 변환 블록 내 일부 영역에 적용될 수 있다. 예를 들어, 상기 일부 영역은 4x4 영역, 8x8 영역일 수 있다. 상기 일부 영역의 위치는 코딩 블록(또는 변환 블록)의 좌상단 영역일 수 있다. 일 실시예로서, 코딩 블록의 너비 및 높이가 모두 4보다 크면 좌상단 8x8 영역에 적용될 수 있고, 너비와 높이 중 어느 한 변이 4와 같으면 좌상단 4x4 영역에 적용될 수 있다. 2차 변환은 인트라 모드로 코딩된 블록의 루마 성분 및 크로마 성분에 적용될 수 있다.

도 17는 본 발명의 일 실시예에 따른 2차 변환에 이용되는 변환 커널을 선택하는 방법을 설명하기 위한 도면이다. 도 17을 참조하면, 인트라 예측에 사용되는 예측 모드에 기반하여 변환 커널 세트(또는 변환 타입 세트, 변환 매트릭스 세트)가 결정될 수 있고, 도 17에 도시된 테이블이 인코더/디코더에 정의될 수 있다. 본 실시예에서, 인트라 예측 모드는 -14 ~ 83까지 정의될 수 있다. 도 17에 도시된 바와 같이 그룹화된 인트라 예측 모드별로 변환 커널 세트가 결정될 수 있다. 루마 성분 및 크로마 성분에 동일한 인덱스가 적용될 수 있다. 인트라 예측 모드 기반으로 2차 변환 커널 세트를 결정하기 때문에, 인트라 예측 모드를 획득(또는 결정)한 이후에 변환 커널 세트를 결정할 수 있다. 이로 인해 의존성 문제가 야기된다. 따라서, 본 발명의 일 실시예에서, 이러한 의존성을 없애는 방법을 설명한다.

실시예로서, 인코더/디코더는 다음의 사항을 고려하여 인트라 예측 모드에 따라 현재 블록에 적용되는 변환 커널 세트를 결정할 수 있다.

- CU의 가로 대 세로 비율 또는 세로 대 가로 비율

- CU의 크기

- 일차 변환의 종류

- MTS 인덱스

- 암시적(implicit) MTS가 적용되는지 여부

인코더/디코더는 상술한 사항들에 기초하여 변환 커널 세트를 결정할 수 있고, 상술한 사항들은 하나 또는 복수의 조합으로 변환 커널 세트 결정에 이용될 수 있다.

도 18은 본 발명의 일 실시예에 따른 변환 블록 단위 2차 변환 적용 방법을 예시하는 도면이다. 본 발명의 일 실시예에 따르면, 인코더/디코더는 코딩 블록(또는 코딩 유닛)을 복수 개의 변환 블록(또는 변환 유닛)으로 분할하고, 각각의 변환 블록에 대하여 2차 변환을 적용할 수 있다. 하나의 코딩 유닛에서 복수개의 변환 블록으로 분할된 각 변환 블록에 2차 변환을 적용할 수 있다. 각 변환 블록의 크기는 코딩 유닛에 대한 분할 방법에 기초하여 결정된다. ISP가 적용된 코딩 유닛의 각 변환 블록의 크기는 도 15에서처럼 수직 방향 분할 혹은 수평 방향 분할에 따라 결정될 수 있으며, 추가하여 분할되는 개수에 따라 그 크기가 결정될 수 있다. ISP가 적용된 블록에서 분할되는 개수는 2 혹은 4 가 될 수 있다. 도 18에서 하나의 코딩 유닛은 ISP가 적용된 블록으로 수직 방향으로 분할되며 분할 개수는 4개인 경우를 예시한다. 앞서 설명한 도 14(b)처럼 코딩 유닛의 크기가 W x H이면, 각 변환 블록의 크기는 W/4 x H 가 될 수 있다. 상기 변환 블록의 크기는 2차 변환의 적용 여부를 결정하는 너비와 높이로 사용될 수 있다.

본 발명의 일 실시예에 따르면, 인코더/디코더는 각 변환 블록별로 같은 변환 커널 세트를 사용하거나 서로 다른 변환 커널 세트를 사용할 수 있다. 분할된 변환 블록은 같은 인트라 예측 모드와 분할 블록의 크기가 같으면 같은 변환 커널을 사용할 수 있다. 이와 반대의 경우 인코더/디코더는 각 변환 블록별로 커널 세트를 결정하여 사용할 수 있다. 인트라 서브 파티션 모드가 적용된 코딩 유닛은 루마 성분은 복수 개의 변환 블록으로 변환되지만 크로마 성분들은 분할 되지 않을 수 있다. 이 경우, 루마 변환 블록과 크로마 변환 블록이 모두 같은 2차 변환 커널 세트를 사용할 수 있고, 2차 변환 블록이 적용되는 코딩 블록의 크기가 만족되어야 한다. 또한, 루마와 크로마의 변환 블록 크기가 다를 수 있다. 이때, 인코더/디코더는 2차 변환 블록이 적용되는 블록 크기 조건에 맞춰 4x4 또는 8x8 영역에 적용할 수 있다. 다른 방법으로, 인코더/디코더는 루마 변환에 적용된 영역을 크로마들도 동일한 영역에 사용할 수 있다. 인코더/디코더는 루마와 크로마의 인트라 예측 모드가 서로 다를 수 있기 때문에 각각 다른 변환 커널 세트를 사용할 수 있다. 인트라 예측 모드 기반 커널 세트를 결정하는 방법으로 설명하였으나, 도 17에서 기술된 2차 변환 커널 세트를 결정하는 모든 방법을 적용할 수 있다.

본 발명의 일 실시예에 따르면, 코딩 유닛의 크기가 최대 변환 크기보다 큰 경우, 코딩 유닛은 별도의 시그널링 없이 복수 개의 변환 블록으로 분할될 수 있다. 이 경우, 2차 변환을 적용하면 성능 저하 및 복잡도가 증가할 수 있어 2차 변환이 적용되는 최대 코딩 블록을 제한할 수 있다. 최대 코딩 블록의 크기는 최대 변환 크기와 같을 수 있다. 또는 기 설정된 코딩블록의 크기로 사용할 수 있다. 기 설정된 값은 64, 32, 16일 수 있고 이에 한정하지 않는다. 긴 변의 길이로 값 또는 총 샘플의 개수 일수 있다.

또한, 일 실시예에서, 인코더/디코더는 2차 변환 블록 크기를 코딩 유닛의 좌상단 4x4 영역 또는 8x8 영역으로 한정하지 않고 2x8, 8x2, 4x16, 16x4, 2x32, 32x2으로 정의할 수도 있다. 인코더/디코더는 코딩 블록의 가로 대 세로의 비율/세로 대 가로의 비율을 고려하여 적응적/시그널링없이 2차 변환이 적용되는 영역을 결정할 수 있다.

도 19은 본 발명이 적용되는 일 실시예에 따른 인트라 예측 모드가 적용된 현재 코딩 블록에 PDPC를 적용하는 방법을 나타낸 도면이다. 본 발명의 일 실시예에 따르면, 현재 블록이 정사각형 블록이 아닌 경우, 인코더/디코더는 인트라 예측 모드 중 DC 모드의 경우 긴 변의 참조 샘플만 이용하여 예측을 수행할 수 있다. 이 경우, 짧은 변의 샘플값은 현재 코딩 블록의 예측에 전혀 반영되지 않을 수 있다. 이 경우, 현재 블록의 예측값과 짧은 변의 참조 샘플과의 차이가 클 수 있다. 따라서, 인코더/디코더는 인트라 예측을 수행함에 있어서, 샘플의 위치 기반 필터링을 수행할 수 있다. 전술한 바와 같이, 본 발명에서, 이러한 샘플의 위치 기반 필터링 방법은 PDPC로 지칭될 수 있다. 인코더/디코더는 PDPC가 적용되는 경우 DC모드에서 제1 참조 샘플과 제2 참조 샘플과 좌상단에 인접한 참조 샘플값을 사용하여 가중치에 기초한 필터링을 수행할 수 있다. 이때, 아래의 수학식 7 내지 12를 이용하여 참조 샘플 및/또는 각각의 참조 샘플에 적용되는 가중치를 유도할 수 있다.

살펴보면, 좌측 참조 샘플은 수학식 7을 이용하여 유도될 수 있고, 우측 참조 샘플은 수학식 8을 이용하여 유도될 수 있다. 우측 참조 샘플에 적용되는 가중치 값은 수학식 9를 이용하여 유도될 수 있고, 좌측 참조 샘플에 적용되는 가중치 값은 수학식 10을 이용하여 유도될 수 있고, 좌상단에 모서리에 위치한 참조 샘플에 적용되는 가중치 값은 수학식 11을 이용하여 유도될 수 있다. 그리고, 인코더/디코더는 결정된 가중치 값에 기초하여 수학식 12에 따라 예측 샘플을 생성할 수 있다.

본 발명의 일 실시예에 따르면, 인코더/디코더는 정사각형 블록이 아닌 비정방형 블록의 경우, 상대적으로 긴 변과 짧은 변과의 가중치 값을 다르게 설정할 수 있다. 예를 들어, 인코더/디코더는 상대적으로 긴 변에 적용되는 가중치값을 짧은 변의 가중치 값보다 작게 설정할 수 있다. 상술한 수학식 9, 10에서 짧은 변에 속하면 가중치 값을 긴 변의 경우와 다르게 설정할 수 있다. 일 예로서, 가중치 값은 32 대신 16, 8, 4 등으로 설정될 수 있다. 또는, 상술한 수학식 9 및 10에 사용된 스케일 변수 nScale을 이용할 수 있다. 인코더/디코더는 긴 변과 짧은 변의 위치에 따라 그 값을 설정할 수 있다.

일 실시예에서, 복수 참조 라인 샘플을 사용하는 경우, 인코더/디코더는 PDPC를 수직 모드 및/또는 수평 모드에 적용할 수 있다. 또는, 인코더/디코더는 PDPC를 수직, 수평, DC, PLANAR 모드에 적용할 수 있다.

도 20은 본 발명의 일 실시예를 따른 비디오 신호 처리 방법을 나타내는 흐름도이다. 도 20을 참조하면, 설명의 편의를 위해 디코더를 위주로 설명하나 본 발명이 이에 제한되는 것은 아니며, 본 실시예에 따른 비디오 신호 처리 방법은 인코더에도 실질적으로 동일한 방법으로 적용될 수 있다.

도 20을 참조하면, 디코더는 현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정한다(S2001).

디코더는 상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할한다(S2002).

디코더는 상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성한다(S2003).

디코더는 상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원한다(S2004).

전술한 바와 같이, 상기 예측 블록을 생성하는 단계는, 상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 단계를 포함할 수 있다.

또한, 전술한 바와 같이, 상기 예측 블록을 생성하는 단계는, 상기 변환 블록의 너비 및 높이 중 적어도 하나에 기초하여 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는 단계를 더 포함할 수 있다.

또한, 전술한 바와 같이, 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는 단계는, 상기 변환 블록의 너비가 기 설정된 기준값 보다 크거나 같고, 그리고, 상기 변환 블록의 높이가 상기 기 설정된 기준값 보다 크거나 같은 경우, 상기 위치-의존적인 인트라 예측 샘플 필터링을 적용하는 것으로 결정함으로써 수행될 수 있다.

또한, 전술한 바와 같이, 상기 변환 블록의 잔차 블록은 상기 변환 블록 단위로 이차 역변환(inverse secondary transform) 및 일차 역변환(inverse primary transform)을 수행함으로써 유도될 수 있다.

또한, 전술한 바와 같이, 상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계; 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계; 상기 변환 블록 단위로 이차 역변환을 수행함으로써 상기 변환 블록의 이차 역변환된 블록을 생성하는 단계; 및 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 변환 블록의 잔차 블록을 생성하는 단계를 포함할 수 있다.

상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.

하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리는 프로세서의 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 프로세서와 데이터를 주고받을 수 있다.

일부 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독 가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조 또는 프로그램 모듈과 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아는 것으로 해석해야 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

이상, 전술한 본 발명의 바람직한 실시예는, 예시의 목적을 위해 개시된 것으로, 당업자라면 이하 첨부된 특허청구범위에 개시된 본 발명의 기술적 사상과 그 기술적 범위 내에서, 다양한 다른 실시예들을 개량, 변경, 대체 또는 부가 등이 가능할 것이다.

Claims

비디오 신호 처리 방법에 있어서,
현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하는 단계;
상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하는 단계;
상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하는 단계; 및
상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하는 단계를 포함하되,
상기 예측 블록을 생성하는 단계는,
상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 단계를 포함하는, 비디오 신호 처리 방법.
제1항에 있어서,
상기 예측 블록을 생성하는 단계는,
상기 변환 블록의 너비 및 높이 중 적어도 하나에 기초하여 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는 단계를 더 포함하는, 비디오 신호 처리 방법.
제2항에 있어서,
상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는 단계는,
상기 변환 블록의 너비가 기 설정된 기준값 보다 크거나 같고, 그리고, 상기 변환 블록의 높이가 상기 기 설정된 기준값 보다 크거나 같은 경우, 상기 위치-의존적인 인트라 예측 샘플 필터링을 적용하는 것으로 결정함으로써 수행되는, 비디오 신호 처리 방법.
제1항에 있어서,
상기 변환 블록의 잔차 블록은 상기 변환 블록 단위로 이차 역변환(inverse secondary transform) 및 일차 역변환(inverse primary transform)을 수행함으로써 유도되는, 비디오 신호 처리 방법.
제1항에 있어서,
상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하는 단계;
상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계;
상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계;
상기 변환 블록 단위로 이차 역변환을 수행함으로써 상기 변환 블록의 이차 역변환된 블록을 생성하는 단계; 및
상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 변환 블록의 잔차 블록을 생성하는 단계를 포함하는, 비디오 신호 처리 방법.
비디오 신호 처리 장치에 있어서,
프로세서를 포함하며,
상기 프로세서는,
현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하고,
상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하고,
상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하고,
상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하되,
상기 프로세서는,
상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 것을 특징으로 하는, 비디오 신호 처리 장치.
제6항에 있어서,
상기 프로세서는,
상기 변환 블록의 너비 및 높이 중 적어도 하나에 기초하여 상기 위치-의존적인 인트라 예측 샘플 필터링의 적용 여부를 결정하는, 비디오 신호 처리 장치.
제7항에 있어서,
상기 프로세서는,
상기 변환 블록의 너비가 기 설정된 기준값 보다 크거나 같고, 그리고, 상기 변환 블록의 높이가 상기 기 설정된 기준값 보다 크거나 같은 경우, 상기 위치-의존적인 인트라 예측 샘플 필터링을 적용하는 것으로 결정하는, 비디오 신호 처리 장치.
제6항에 있어서,
상기 변환 블록의 잔차 블록은 상기 변환 블록 단위로 이차 역변환(inverse secondary transform) 및 일차 역변환(inverse primary transform)을 수행함으로써 유도되는, 비디오 신호 처리 장치.
제6항에 있어서,
상기 프로세서는,
상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하고,
상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하고,
상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하고,
상기 변환 블록 단위로 이차 역변환을 수행함으로써 상기 변환 블록의 이차 역변환된 블록을 생성하고,
상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 변환 블록의 잔차 블록을 생성하는, 비디오 신호 처리 장치.
비디오 신호 처리 방법에 있어서,
현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하는 단계;
상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하는 단계;
상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하는 단계; 및
원본 블록에서 상기 예측 블록을 감산함으로써 상기 변환 블록의 잔차 블록을 생성하는 단계를 포함하되,
상기 예측 블록을 생성하는 단계는,
상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 단계를 포함하는, 비디오 신호 처리 방법.
컴퓨팅 디바이스의 하나 이상의 프로세서에서 실행하도록 구성된 컴퓨터 실행 가능한 컴포넌트가 저장된 비 일시적(non-transitory) 컴퓨터 판독 가능한 매체(computer-executable component)로서, 상기 컴퓨터 실행 가능한 컴포넌트는,
현재 블록에 인트라 서브 파티션(ISP, Intra Sub-Partitions) 모드가 적용되는지 여부를 결정하고,
상기 현재 블록에 ISP 모드가 적용되는 경우, 상기 현재 블록을 복수의 수평 또는 수직 방향의 직사각형 변환 블록들로 분할하고,
상기 변환 블록들 각각에 대하여 인트라 예측을 수행함으로써 상기 변환 블록들의 예측 블록을 생성하고,
상기 변환 블록의 잔차 블록 및 상기 예측 블록에 기초하여 상기 현재 블록을 복원하되,
상기 컴퓨터 실행 가능한 컴포넌트는,
상기 현재 블록으로부터 분할된 변환 블록 단위로 위치-의존적인 인트라 예측 샘플 필터링(position-dependent intra prediction sample filtering)을 수행하는 것을 특징으로 하는, 비 일시적 컴퓨터 판독 가능한 매체.