WO2020218861A1 - 다중 변환 커널을 사용하는 비디오 신호 처리 방법 및 장치 - Google Patents

Abstract

비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치가 개시된다. 구체적으로, 비디오 신호 처리 방법에 있어서, 현재 코딩 유닛에 적용되는 예측 모드를 확인하는 단계; 상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하는 단계; 상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하는 단계; 상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하는 단계; 및 상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는 단계를 포함할 수 있다.

Description

다중 변환 커널을 사용하는 비디오 신호 처리 방법 및 장치

본 발명은 비디오 신호의 처리 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치에 관한 것이다.

압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 압축 부호화의 대상에는 음성, 영상, 문자 등의 대상이 존재하며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다. 비디오 신호에 대한 압축 부호화는 공간적인 상관관계, 시간적인 상관관계, 확률적인 상관관계 등을 고려하여 잉여 정보를 제거함으로써 이루어진다. 그러나 최근의 다양한 미디어 및 데이터 전송 매체의 발전으로 인해, 더욱 고효율의 비디오 신호 처리 방법 및 장치가 요구되고 있다.

본 발명의 목적은 비디오 신호의 코딩 효율을 높이고자 함에 있다. 구체적으로, 본 발명은 변환 블록에 적합한 변환 커널을 사용하여 코딩 효율을 높이기 위한 목적을 가지고 있다.

특히, 본 발명의 목적은 인트라 블록 카피(IBC, Intra Block Copy) 모드에 대한 변환 커널을 효율적으로 결정하기 위한 방법을 제공한다. 또한, 본 발명의 목적은 루마 최대 변환 사이즈에 기초하여 암시적으로 분할된 변환 유닛에 대한 변환 커널을 효율적으로 결정하기 위한 방법을 제공한다.

상기와 같은 과제를 해결하기 위해, 본 발명은 다음과 같은 비디오 신호 처리 장치 및 비디오 신호 처리 방법을 제공한다.

본 발명의 일 실시예에 따르면, 비디오 신호 처리 방법에 있어서, 현재 코딩 유닛에 적용되는 예측 모드를 확인하는 단계; 상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하는 단계; 상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하는 단계; 상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하는 단계; 및 상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는 단계를 포함하는, 비디오 신호 처리 방법이 제공된다.

실시예로서, 상기 기 설정된 복수의 조건들을 만족하지 않는 경우, 상기 제1 신택스 요소는 0으로 추론될 수 있다.

실시예로서, 상기 제1 신택스 요소가 0인 경우, 상기 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널은 이산 코사인 변환 타입-2(DCT-2: Discrete Cosine Transform Type-2) 기반의 변환 커널로 결정될 수 있다.

실시예로서, 인트라 모드(intra mode)인 경우 현재 시퀀스에서 다중 변환 선택(MTS: Multiple Transform Selection) 모드를 사용할 수 있는지 여부를 지시하는 제2 신택스 요소를 획득하는 단계, 여기서, 상기 MTS 모드는 복수의 변환 커널들 중에서 선택된 변환 커널을 이용하여 변환을 수행하는 모드를 나타냄; 및 인터 모드(inter mode)인 경우 상기 현재 시퀀스에서 상기 MTS 모드를 사용할 수 있는지 여부를 지시하는 제3 신택스 요소를 획득하는 단계를 더 포함할 수 있다.

실시예로서, 상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 예측 모드가 인트라 모드이고 상기 제2 신택스 요소가 참(true)이거나, 또는, 상기 현재 코딩 유닛의 예측 모드가 인터 모드이고 상기 제3 신택스 요소가 참(true)인지 여부를 포함할 수 있다.

실시예로서, 상기 현재 코딩 유닛의 예측 모드가 인트라 블록 카피(Intra Block Copy) 모드인 경우, 상기 제2 신택스 요소 및 상기 제3 신택스 요소와 무관하게 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정될 수 있다.

실시예로서, 상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 너비 및 높이가 32 보다 작거나 같은지 여부를 포함할 수 있다.

실시예로서, 현재 시퀀스의 루마 최대 변환 사이즈에 대한 정보를 수신하는 단계를 더 포함하고, 상기 현재 코딩 유닛의 너비 및 높이 중 적어도 하나가 상기 루마 최대 변환 사이즈 보다 큰 경우, 상기 현재 코딩 유닛은 복수의 변환 유닛들로 분할될 수 있다.

실시예로서, 상기 루마 최대 변환 사이즈는 32 또는 64일 수 있다.

실시예로서, 상기 현재 코딩 유닛이 상기 루마 최대 변환 사이즈에 기초하여 분할된 상기 복수의 변환 유닛을 포함하는 경우, 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정될 수 있다.

본 발명의 일 실시예에 따르면, 비디오 신호 처리 장치에 있어서, 프로세서를 포함하며, 상기 프로세서는, 현재 코딩 유닛에 적용되는 예측 모드를 확인하고, 상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하고, 상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하고, 상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하고, 상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는, 비디오 신호 처리 장치가 제공된다.

실시예로서, 상기 기 설정된 복수의 조건들을 만족하지 않는 경우, 상기 제1 신택스 요소는 0으로 추론될 수 있다.

실시예로서, 상기 제1 신택스 요소가 0인 경우, 상기 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널은 이산 코사인 변환 타입-2(DCT-2: Discrete Cosine Transform Type-2) 기반의 변환 커널로 결정될 수 있다.

실시예로서, 상기 프로세서는, 인트라 모드(intra mode)인 경우 현재 시퀀스에서 다중 변환 선택(MTS: Multiple Transform Selection) 모드를 사용할 수 있는지 여부를 지시하는 제2 신택스 요소를 획득하고, 여기서, 상기 MTS 모드는 복수의 변환 커널들 중에서 선택된 변환 커널을 이용하여 변환을 수행하는 모드를 나타내고, 인터 모드(inter mode)인 경우 상기 현재 시퀀스에서 상기 MTS 모드를 사용할 수 있는지 여부를 지시하는 제3 신택스 요소를 획득할 수 있다.

실시예로서, 상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 예측 모드가 인트라 모드이고 상기 제2 신택스 요소가 참(true)이거나, 또는, 상기 현재 코딩 유닛의 예측 모드가 인터 모드이고 상기 제3 신택스 요소가 참(true)인지 여부를 포함할 수 있다.

실시예로서, 상기 현재 코딩 유닛의 예측 모드가 인트라 블록 카피(Intra Block Copy) 모드인 경우, 상기 제2 신택스 요소 및 상기 제3 신택스 요소와 무관하게 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정될 수 있다.

실시예로서, 상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 너비 및 높이가 32 보다 작거나 같은지 여부를 포함할 수 있다.

실시예로서, 상기 프로세서는, 현재 시퀀스의 루마 최대 변환 사이즈에 대한 정보를 수신하고, 상기 현재 코딩 유닛의 너비 및 높이 중 적어도 하나가 상기 루마 최대 변환 사이즈 보다 큰 경우, 상기 현재 코딩 유닛은 복수의 변환 유닛들로 분할될 수 있다.

실시예로서, 상기 루마 최대 변환 사이즈는 32 또는 64일 수 있다.

실시예로서, 상기 현재 코딩 유닛이 상기 루마 최대 변환 사이즈에 기초하여 분할된 상기 복수의 변환 유닛을 포함하는 경우, 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정될 수 있다.

본 발명의 일 실시예에 따르면, 비디오 신호 처리 방법에 있어서, 현재 코딩 유닛에 적용되는 예측 모드를 결정하는 단계; 상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하는 단계; 상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 부호화하는 단계; 상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하는 단계; 및 상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛의 잔차 신호에 대하여 변환을 수행함으로써, 상기 현재 변환 유닛의 변환 블록을 생성하는 단계를 포함하는, 비디오 신호 처리 방법이 제공된다.

본 발명의 일 실시예에 따르면, 컴퓨팅 디바이스의 하나 이상의 프로세서에서 실행하도록 구성된 컴퓨터 실행 가능한 컴포넌트가 저장된 비 일시적(non-transitory) 컴퓨터 판독 가능한 매체(computer-executable component)로서, 상기 컴퓨터 실행 가능한 컴포넌트는, 현재 코딩 유닛에 적용되는 예측 모드를 확인하고, 상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하고, 상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하고, 상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하고, 상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는, 비 일시적 컴퓨터 판독 가능한 매체가 제공된다.

본 발명의 실시예에 따르면, 비디오 신호의 코딩 효율이 높아질 수 있다. 또한, 본 발명의 일 실시예에 따르면, 현재 변환 블록에 적합한 변환 커널이 선택될 수 있다.

본 발명의 실시예에 따르면, 인트라 블록 카피(IBC, Intra Block Copy) 모드를 위한 변환 커널을 효율적으로 함으로써, 압축 효율을 높이고 변환 커널 결정을 위한 시그널링 비트를 절약할 수 있다. 또한, 본 발명의 실시예에 따르면, 루마 최대 변환 사이즈에 기초하여 암시적으로 분할된 변환 유닛에 대한 변환 커널을 효율적으로 결정함으로써, 압축 효율을 높이고 변환 커널 결정을 위한 시그널링 비트를 절약할 수 있다.

도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다.

도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치의 개략적인 블록도이다.

도 3은 픽쳐 내에서 코딩 트리 유닛이 코딩 유닛들로 분할되는 실시예를 도시한다.

도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다.

도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다.

도 7은 본 발명의 일 실시예에 따른 인터 예측 방법을 도시한다.

도 8은 인코더가 레지듀얼 신호를 변환하는 방법을 구체적으로 나타내는 도면이다.

도 9는 인코더 및 디코더가 변환 계수를 역변환하여 레지듀얼 신호를 획득하는 방법을 구체적으로 나타내는 도면이다.

도 10은 변환 타입 각각에 대응하는 기저 함수(basis function)를 나타내는 도면이다.

도 11은 변환 타입 DCT-II, DCT-V, DCT-VIII, DST-I, DST-VII 각각의 인덱스 별 신호의 크기를 나타내는 도면이다.

도 12는 변환 타입 DST-IV, DCT-IV, DST-VII 및 DCT-VIII 각각에 대한 인덱스 별 신호의 크기를 나타내는 도면이다.

도 13은 현재 블록의 예측 모드에 따라 변환 후보 세트가 구성되는 방법을 나타내는 도면이다.

도 14는 세트 인덱스에 따라 결정된 수평 변환 커널 및 수직 변환 커널을 나타낸다.

도 15는 본 발명의 일 실시예에 따른 변환 관련 정보를 획득하는 방법을 나타내는 도면이다.

도 16은 본 발명의 실시예에 따른 블록의 모양에 기초하여 변환 커널을 선택하는 방법을 설명하기 위한 도면이다.

도 17은 본 발명의 실시예에 따른 변환 커널을 시그널링 및 결정 방법을 예시하는 도면이다.

도 18은 본 발명의 일 실시예에 따른 다중 변환 선택과 변환 스킵에 관련된 정보를 획득하기 위한 신택스 구조를 나타내고, 도 19는 본 발명의 일 실시예에 따른 다중 변환 선택과 변환 스킵에 관련된 정보를 예시하는 도면이다.

도 20은 본 발명의 실시예에 따른 서브 블록 변환(SBT, Sub-Block Transform) 방법을 설명하기 위한 도면이다.

도 21은 본 발명의 일 실시예에 따른 인트라 서브 파티션(Intra Sub-Partitions) 부호화 모드에서 블록을 분할 방법을 예시하는 도면이다.

도 22는 본 발명의 실시예에 따른 인트라 서브 파티션(Intra Sub-Partitions) 모드가 적용되는 경우, 분할된 변환 유닛에 적용되는 변환 커널을 선택하는 방법을 예시하는 도면이다.

도 23은 본 발명이 적용되는 실시예에 따른 변환 유닛 신택스 구조의 일 예 및 변환 타입 결정 방법의 일 예를 도시한다.

도 24는 본 발명이 적용되는 일 실시예에 따른 상위 레벨 신택스 및 변환 유닛 신택스 구조를 예시하는 도면이다.

도 25는 본 발명이 적용되는 일 실시예로서, IBC 예측이 적용되는 경우, 변환 방법을 선택하는 방법을 예시하는 도면이다.

도 26은 본 발명의 일 실시예에 따른 변환 트리 신택스 구조의 일 예를 도시하는 도면이다.

도 27은 본 발명의 일 실시예에 따른 변환 유닛 신택스 구조를 예시하는 도면이다.

도 28은 본 발명의 일 실시예에 따른 변환 유닛 신택스 구조를 예시하는 도면이다.

도 29은 본 발명의 일 실시예에 따른 변환 유닛 신택스 구조를 예시하는 도면이다.

도 30은 본 발명의 일 실시예를 따른 비디오 신호 처리 방법을 나타내는 흐름도이다.

본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도, 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가진 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.

본 명세서에서 일부 용어들은 다음과 같이 해석될 수 있다. 코딩은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있다. 본 명세서에서 비디오 신호의 인코딩(부호화)을 수행하여 비디오 신호 비트스트림을 생성하는 장치는 인코딩 장치 혹은 인코더로 지칭되며, 비디오 신호 비트스트림의 디코딩(복호화)을 수행하여 비디오 신호를 복원하는 장치는 디코딩 장치 혹은 디코더로 지칭된다. 또한, 본 명세서에서 비디오 신호 처리 장치는 인코더 및 디코더를 모두 포함하는 개념의 용어로 사용된다. 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어로서, 경우에 따라 의미는 달리 해석될 수 있으므로 본 발명은 이에 한정되지 아니한다. '유닛'은 영상 처리의 기본 단위 또는 픽쳐의 특정 위치를 지칭하는 의미로 사용되며, 휘도(luma) 성분 및 색차(chroma) 성분 중 적어도 하나를 포함하는 이미지 영역을 가리킨다. 또한, ‘블록’은 휘도 성분 및 색차 성분들(즉, Cb 및 Cr) 중 특정 성분을 포함하는 이미지 영역을 가리킨다. 다만, 실시예에 따라서 ‘유닛’, '블록', '파티션' 및 '영역' 등의 용어는 서로 혼용하여 사용될 수 있다. 또한, 본 명세서에서 유닛은 코딩 유닛, 예측 유닛, 변환 유닛을 모두 포함하는 개념으로 사용될 수 있다. 픽쳐는 필드 혹은 프레임을 가리키며, 실시예에 따라 상기 용어들은 서로 혼용하여 사용될 수 있다.

도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치(100)의 개략적인 블록도이다. 도 1을 참조하면, 본 발명의 인코딩 장치(100)는 변환부(110), 양자화부(115), 역양자화부(120), 역변환부(125), 필터링부(130), 예측부(150) 및 엔트로피 코딩부(160)를 포함한다.

변환부(110)는 입력 받은 비디오 신호와 예측부(150)에서 생성된 예측 신호의 차이인 레지듀얼 신호를 변환하여 변환 계수 값을 획득한다. 예를 들어, 이산 코사인 변환(Discrete Cosine Transform, DCT), 이산 사인 변환(Discrete Sine Transform, DST) 또는 웨이블릿 변환(Wavelet Transform) 등이 사용될 수 있다. 이산 코사인 변환 및 이산 사인 변환은 입력된 픽쳐 신호를 블록 형태로 나누어 변환을 수행하게 된다. 변환에 있어서 변환 영역 내의 값들의 분포와 특성에 따라서 코딩 효율이 달라질 수 있다. 양자화부(115)는 변환부(110)에서 출력된 변환 계수 값을 양자화한다.

코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인코더와 디코더에서 미스매치가 발생되지 않도록 하기 위해, 인코더에서 예측을 수행할 때에는 디코더에서도 사용 가능한 정보를 사용해야 한다. 이를 위해, 인코더에서는 부호화한 현재 블록을 다시 복원하는 과정을 수행한다. 역양자화부(120)에서는 변환 계수 값을 역양자화하고, 역변환부(125)에서는 역양자화된 변환 계수값을 이용하여 레지듀얼 값을 복원한다. 한편, 필터링부(130)는 복원된 픽쳐의 품질 개선 및 부호화 효율 향상을 위한 필터링 연산을 수행한다. 예를 들어, 디블록킹 필터, 샘플 적응적 오프셋(Sample Adaptive Offset, SAO) 및 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(Decoded Picture Buffer, DPB, 156)에 저장된다.

코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인트라 예측부(152)에서는 현재 픽쳐 내에서 인트라 예측을 수행하며, 인터 예측부(154)에서는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 영역들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인터 예측부(154)는 다시 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)에서는 복원된 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)에서는 참조 영역의 위치 정보(참조 프레임, 모션 벡터 등) 등을 엔트로피 코딩부(160)로 전달하여 비트스트림에 포함될 수 있도록 한다. 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상부(154b)에서는 인터 모션 보상을 수행한다.

예측부(150)는 인트라 예측부(152)와 인터 예측부(154)를 포함한다. 인트라 예측부(152)는 현재 픽쳐 내에서 인트라(intra) 예측을 수행하며, 인터 예측부(154)는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측하는 인터(inter) 예측을 수행한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 부호화 정보는 참조 샘플에 관한 정보를 포함할 수 있다. 인터 예측부(154)는 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)는 복원된 참조 픽쳐의 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)는 참조 영역에 대한 모션 정보 세트(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 엔트로피 코딩부(160)로 전달한다. 모션 보상부(154b)는 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상을 수행한다. 인터 예측부(154)는 참조 영역에 대한 모션 정보를 포함하는 인터 부호화 정보를 엔트로피 코딩부(160)에 전달한다.

추가적인 실시예에 따라, 예측부(150)는 인트라 블록 카피(block copy, BC) 예측부(미도시)를 포함할 수 있다. 인트라 BC 예측부는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 BC 예측을 수행하여, 인트라 BC 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 BC 예측부는 현재 픽쳐 내의 특정 영역을 참조하여 현재 영역의 예측에 이용되는 참조 영역을 나타내는 블록 벡터값을 획득한다. 인트라 BC 예측부는 획득된 블록 벡터값을 이용하여 인트라 BC 예측을 수행할 수 있다. 인트라 BC 예측부는 인트라 BC 부호화 정보를 엔트로피 코딩부(160)로 전달한다. 인트라 BC 부호화 정보는 블록 벡터 정보를 포함할 수 있다.

위와 같은 픽쳐 예측이 수행될 경우, 변환부(110)는 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 변환하여 변환 계수 값을 획득한다. 이때, 변환은 픽쳐 내에서 특정 블록 단위로 수행될 수 있으며, 특정 블록의 크기는 기 설정된 범위 내에서 가변할 수 있다. 양자화부(115)는 변환부(110)에서 생성된 변환 계수 값을 양자화하여 엔트로피 코딩부(160)로 전달한다.

엔트로피 코딩부(160)는 양자화된 변환 계수를 나타내는 정보, 인트라 부호화 정보, 및 인터 부호화 정보 등을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성한다. 엔트로피 코딩부(160)에서는 가변 길이 코딩(Variable Length Coding, VLC) 방식과 산술 코딩(arithmetic coding) 방식 등이 사용될 수 있다. 가변 길이 코딩(VLC) 방식은 입력되는 심볼들을 연속적인 코드워드로 변환하는데, 코드워드의 길이는 가변적일 수 있다. 예를 들어, 자주 발생하는 심볼들을 짧은 코드워드로, 자주 발생하지 않은 심볼들은 긴 코드워드로 표현하는 것이다. 가변 길이 코딩 방식으로서 컨텍스트 기반 적응형 가변 길이 코딩(Context-based Adaptive Variable Length Coding, CAVLC) 방식이 사용될 수 있다. 산술 코딩은 연속적인 데이터 심볼들을 하나의 소수로 변환하는데, 산술 코딩은 각 심볼을 표현하기 위하여 필요한 최적의 소수 비트를 얻을 수 있다. 산술 코딩으로서 컨텍스트 기반 적응형 산술 부호화(Context-based Adaptive Binary Arithmetic Code, CABAC)가 이용될 수 있다. 예를 들어, 엔트로피 코딩부(160)는 양자화된 변환 계수를 나타내는 정보를 이진화할 수 있다. 또한, 엔트로피 코딩부(160)는 이진화된 정보를 산술 코딩하여 비트스트림을 생성할 수 있다.

상기 생성된 비트스트림은 NAL(Network Abstraction Layer) 유닛을 기본 단위로 캡슐화 된다. NAL 유닛은 부호화된 정수 개의 코딩 트리 유닛(coding tree unit)을 포함한다. 비디오 디코더에서 비트스트림을 복호화하기 위해서는 먼저 비트스트림을 NAL 유닛 단위로 분리한 후, 분리된 각각의 NAL 유닛을 복호화해야 한다. 한편, 비디오 신호 비트스트림의 복호화를 위해 필요한 정보들은 픽쳐 파라미터 세트(Picture Parameter Set, PPS), 시퀀스 파라미터 세트(Sequence Parameter Set, SPS), 비디오 파라미터 세트(Video Parameter Set, VPS) 등과 같은 상위 레벨 세트의 RBSP(Raw Byte Sequence Payload)를 통해 전송될 수 있다.

한편, 도 1의 블록도는 본 발명의 일 실시예에 따른 인코딩 장치(100)를 나타낸 것으로서, 분리하여 표시된 블록들은 인코딩 장치(100)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 인코딩 장치(100)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 인코딩 장치(100)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.

도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치(200)의 개략적인 블록도이다. 도 2를 참조하면 본 발명의 디코딩 장치(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(225), 필터링부(230) 및 예측부(250)를 포함한다.

엔트로피 디코딩부(210)는 비디오 신호 비트스트림을 엔트로피 디코딩하여, 각 영역에 대한 변환 계수 정보, 인트라 부호화 정보, 인터 부호화 정보 등을 추출한다. 예를 들어, 엔트로피 디코딩부(210)는 비디오 신호 비트스트림으로부터 특정 영역의 변환 계수 정보에 대한 이진화 코드를 획득할 수 있다. 또한, 엔트로피 디코딩부(210)는 이진화 코드를 역 이진화하여 양자화된 변환 계수를 획득한다. 역양자화부(220)는 양자화된 변환 계수를 역양자화하고, 역변환부(225)는 역양자화된 변환 계수를 이용하여 레지듀얼 값을 복원한다. 비디오 신호 처리 장치(200)는 역변환부(225)에서 획득된 레지듀얼 값을 예측부(250)에서 획득된 예측값과 합산하여 원래의 화소값을 복원한다.

한편, 필터링부(230)는 픽쳐에 대한 필터링을 수행하여 화질을 향상시킨다. 여기에는 블록 왜곡 현상을 감소시키기 위한 디블록킹 필터 및/또는 픽쳐 전체의 왜곡 제거를 위한 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 다음 픽쳐에 대한 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(DPB, 256)에 저장된다.

예측부(250)는 인트라 예측부(252) 및 인터 예측부(254)를 포함한다. 예측부(250)는 전술한 엔트로피 디코딩부(210)를 통해 복호화된 부호화 타입, 각 영역에 대한 변환 계수, 인트라/인터 부호화 정보 등을 활용하여 예측 픽쳐를 생성한다. 복호화가 수행되는 현재 블록을 복원하기 위해서, 현재 블록이 포함된 현재 픽쳐 또는 다른 픽쳐들의 복호화된 영역이 이용될 수 있다. 복원에 현재 픽쳐만을 이용하는, 즉 인트라 예측 또는 인트라 BC 예측을 수행하는 픽쳐(또는, 타일/슬라이스)를 인트라 픽쳐 또는 I 픽쳐(또는, 타일/슬라이스), 인트라 예측, 인터 예측 및 인트라 BC 예측을 모두 수행할 수 있는 픽쳐(또는, 타일/슬라이스)를 인터 픽쳐(또는, 타일/슬라이스)라고 한다. 인터 픽쳐(또는, 타일/슬라이스) 중 각 블록의 샘플값들을 예측하기 위하여 최대 하나의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 예측 픽쳐(predictive picture) 또는 P 픽쳐(또는, 타일/슬라이스)라고 하며, 최대 두 개의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 쌍예측 픽쳐(Bi-predictive picture) 또는 B 픽쳐(또는, 타일/슬라이스) 라고 한다. 다시 말해서, P 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 하나의 모션 정보 세트를 이용하고, B 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 두 개의 모션 정보 세트를 이용한다. 여기서, 모션 정보 세트는 하나 이상의 모션 벡터와 하나의 참조 픽쳐 인덱스를 포함한다.

인트라 예측부(252)는 인트라 부호화 정보 및 현재 픽쳐 내의 복원된 샘플들을 이용하여 예측 블록을 생성한다. 전술한 바와 같이, 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 예측부(252)는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 샘플들을 참조 샘플들로 이용하여 현재 블록의 샘플 값들을 예측한다. 본 개시에서, 복원된 샘플들, 참조 샘플들 및 현재 블록의 샘플들은 픽셀들을 나타낼 수 있다. 또한, 샘플 값(sample value)들은 픽셀 값들을 나타낼 수 있다.

일 실시예에 따르면, 참조 샘플들은 현재 블록의 주변 블록에 포함된 샘플들일 수 있다. 예를 들어, 참조 샘플들은 현재 블록의 좌측 경계에 인접한 샘플들 및/또는 상측 경계에 인접한 샘플들일 수 있다. 또한, 참조 샘플들은 현재 블록의 주변 블록의 샘플들 중 현재 블록의 좌측 경계로부터 기 설정된 거리 이내의 라인 상에 위치하는 샘플들 및/또는 현재 블록의 상측 경계로부터 기 설정된 거리 이내의 라인 상에 위치하는 샘플들일 수 있다. 이때, 현재 블록의 주변 블록은 현재 블록에 인접한 좌측(L) 블록, 상측(A) 블록, 하좌측(Below Left, BL) 블록, 상우측(Above Right, AR) 블록 또는 상좌측(Above Left, AL) 블록 중 적어도 하나를 포함할 수 있다.

인터 예측부(254)는 복호 픽쳐 버퍼(256)에 저장된 참조 픽쳐 및 인터 부호화 정보를 이용하여 예측 블록을 생성한다. 인터 부호화 정보는 참조 블록에 대한 현재 블록의 모션 정보 세트(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 포함할 수 있다. 인터 예측에는 L0 예측, L1 예측 및 쌍예측(Bi-prediction)이 있을 수 있다. L0 예측은 L0 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측이고, L1 예측은 L1 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측을 의미한다. 이를 위해서는 1세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 필요할 수 있다. 쌍예측 방식에서는 최대 2개의 참조 영역을 이용할 수 있는데, 이 2개의 참조 영역은 동일한 참조 픽쳐에 존재할 수도 있고, 서로 다른 픽쳐에 각각 존재할 수도 있다. 즉, 쌍예측 방식에서는 최대 2세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 이용될 수 있는데, 2개의 모션 벡터가 동일한 참조 픽쳐 인덱스에 대응될 수도 있고 서로 다른 참조 픽쳐 인덱스에 대응될 수도 있다. 이때, 참조 픽쳐들은 시간적으로 현재 픽쳐 이전이나 이후 모두에 표시(또는 출력)될 수 있다. 일 실시예에 따라, 쌍예측 방식에서는 사용되는 2개의 참조 영역은 L0 픽쳐 리스트 및 L1 픽쳐 리스트 각각에서 선택된 영역일 수 있다.

인터 예측부(254)는 모션 벡터 및 참조 픽쳐 인덱스를 이용하여 현재 블록의 참조 블록을 획득할 수 있다. 상기 참조 블록은 참조 픽쳐 인덱스에 대응하는 참조 픽쳐 내에 존재한다. 또한, 모션 벡터에 의해서 특정된 블록의 샘플 값 또는 이의 보간(interpolation)된 값이 현재 블록의 예측자(predictor)로 이용될 수 있다. 서브펠(sub-pel) 단위의 픽셀 정확도를 갖는 모션 예측을 위하여 이를 테면, 휘도 신호에 대하여 8-탭 보간 필터가, 색차 신호에 대하여 4-탭 보간 필터가 사용될 수 있다. 다만, 서브펠 단위의 모션 예측을 위한 보간 필터는 이에 한정되지 않는다. 이와 같이 인터 예측부(254)는 이전에 복원된 픽쳐로부터 현재 유닛의 텍스쳐를 예측하는 모션 보상(motion compensation)을 수행한다. 이때, 인터 예측부는 모션 정보 세트를 이용할 수 있다.

추가적인 실시예에 따라, 예측부(250)는 인트라 BC 예측부(미도시)를 포함할 수 있다. 인트라 BC 예측부는 현재 픽쳐 내의 복원된 샘플들을 포함하는 특정 영역을 참조하여 현재 영역을 복원할 수 있다. 인트라 BC 예측부는 엔트로피 디코딩부(210)로부터 현재 영역에 대한 인트라 BC 부호화 정보를 획득한다. 인트라 BC 예측부는 현재 픽쳐 내의 특정 영역을 지시하는 현재 영역의 블록 벡터값을 획득한다. 인트라 BC 예측부는 획득된 블록 벡터값을 이용하여 인트라 BC 예측을 수행할 수 있다. 인트라 BC 부호화 정보는 블록 벡터 정보를 포함할 수 있다.

상기 인트라 예측부(252) 또는 인터 예측부(254)로부터 출력된 예측값, 및 역변환부(225)로부터 출력된 레지듀얼 값이 더해져서 복원된 비디오 픽쳐가 생성된다. 즉, 비디오 신호 디코딩 장치(200)는 예측부(250)에서 생성된 예측 블록과 역변환부(225)로부터 획득된 레지듀얼을 이용하여 현재 블록을 복원한다.

한편, 도 2의 블록도는 본 발명의 일 실시예에 따른 디코딩 장치(200)를 나타낸 것으로서, 분리하여 표시된 블록들은 디코딩 장치(200)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 디코딩 장치(200)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 디코딩 장치(200)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.

도 3은 픽쳐 내에서 코딩 트리 유닛(Coding Tree Unit, CTU)이 코딩 유닛들(Coding Units, CUs)로 분할되는 실시예를 도시한다. 비디오 신호의 코딩 과정에서, 픽쳐는 코딩 트리 유닛(CTU)들의 시퀀스로 분할될 수 있다. 코딩 트리 유닛은 휘도(luma) 샘플들의 NXN 블록과, 이에 대응하는 색차(chroma) 샘플들의 2개의 블록들로 구성된다. 코딩 트리 유닛은 복수의 코딩 유닛들로 분할될 수 있다. 코딩 트리 유닛은 분할되지 않고 리프 노드가 될 수도 있다. 이 경우, 코딩 트리 유닛 자체가 코딩 유닛이 될 수 있다. 코딩 유닛은 상기에서 설명한 비디오 신호의 처리 과정, 즉 인트라/인터 예측, 변환, 양자화 및/또는 엔트로피 코딩 등의 과정에서 픽쳐를 처리하기 위한 기본 단위를 가리킨다. 하나의 픽쳐 내에서 코딩 유닛의 크기 및 모양은 일정하지 않을 수 있다. 코딩 유닛은 정사각형 혹은 직사각형의 모양을 가질 수 있다. 직사각형 코딩 유닛(혹은, 직사각형 블록)은 수직 코딩 유닛(혹은, 수직 블록)과 수평 코딩 유닛(혹은, 수평 블록)을 포함한다. 본 명세서에서, 수직 블록은 높이가 너비보다 큰 블록이며, 수평 블록은 너비가 높이보다 큰 블록이다. 또한, 본 명세서에서 정사각형이 아닌(non-square) 블록은 직사각형 블록을 가리킬 수 있지만, 본 발명은 이에 한정되지 않는다.

도 3을 참조하면, 코딩 트리 유닛은 먼저 쿼드 트리(Quad Tree, QT) 구조로 분할된다. 즉, 쿼드 트리 구조에서 2NX2N 크기를 가지는 하나의 노드는 NXN 크기를 가지는 네 개의 노드들로 분할될 수 있다. 본 명세서에서 쿼드 트리는 4진(quaternary) 트리로도 지칭될 수 있다. 쿼드 트리 분할은 재귀적으로 수행될 수 있으며, 모든 노드들이 동일한 깊이로 분할될 필요는 없다.

한편, 전술한 쿼드 트리의 리프 노드(leaf node)는 멀티-타입 트리(Multi-Type Tree, MTT) 구조로 더욱 분할될 수 있다. 본 발명의 실시예에 따르면, 멀티 타입 트리 구조에서는 하나의 노드가 수평 혹은 수직 분할의 2진(binary, 바이너리) 혹은 3진(ternary, 터너리) 트리 구조로 분할될 수 있다. 즉, 멀티-타입 트리 구조에는 수직 바이너리 분할, 수평 바이너리 분할, 수직 터너리 분할 및 수평 터너리 분할의 4가지 분할 구조가 존재한다. 본 발명의 실시예에 따르면, 상기 각 트리 구조에서 노드의 너비 및 높이는 모두 2의 거듭제곱 값을 가질 수 있다. 예를 들어, 바이너리 트리(Binary Tree, BT) 구조에서, 2NX2N 크기의 노드는 수직 바이너리 분할에 의해 2개의 NX2N 노드들로 분할되고, 수평 바이너리 분할에 의해 2개의 2NXN 노드들로 분할될 수 있다. 또한, 터너리 트리(Ternary Tree, TT) 구조에서, 2NX2N 크기의 노드는 수직 터너리 분할에 의해 (N/2)X2N, NX2N 및 (N/2)X2N의 노드들로 분할되고, 수평 터너리 분할에 의해 2NX(N/2), 2NXN 및 2NX(N/2)의 노드들로 분할될 수 있다. 이러한 멀티-타입 트리 분할은 재귀적으로 수행될 수 있다.

멀티-타입 트리의 리프 노드는 코딩 유닛이 될 수 있다. 코딩 유닛에 대한 분할이 지시되지 않거나 코딩 유닛이 최대 변환 길이에 비해 크지 않은 경우, 해당 코딩 유닛은 더 이상의 분할 없이 예측 및 변환의 단위로 사용된다. 한편, 전술한 쿼드 트리 및 멀티-타입 트리에서 다음의 파라메터들 중 적어도 하나가 사전에 정의되거나 PPS, SPS, VPS 등과 같은 상위 레벨 세트의 RBSP를 통해 전송될 수 있다. 1) CTU 크기: 쿼드 트리의 루트 노드(root node) 크기, 2) 최소 QT 크기(MinQtSize): 허용된 최소 QT 리프 노드 크기, 3) 최대 BT 크기(MaxBtSize): 허용된 최대 BT 루트 노드 크기, 4) 최대 TT 크기(MaxTtSize): 허용된 최대 TT 루트 노드 크기, 5) 최대 MTT 깊이(MaxMttDepth): QT의 리프 노드로부터의 MTT 분할의 최대 허용 깊이, 6) 최소 BT 크기(MinBtSize): 허용된 최소 BT 리프 노드 크기, 7) 최소 TT 크기(MinTtSize): 허용된 최소 TT 리프 노드 크기.

도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다. 전술한 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하기 위해 기 설정된 플래그들이 사용될 수 있다. 도 4를 참조하면, 쿼드 트리 노드의 분할 여부를 지시하는 플래그 'qt_split_flag', 멀티-타입 트리 노드의 분할 여부를 지시하는 플래그 'mtt_split_flag', 멀티-타입 트리 노드의 분할 방향을 지시하는 플래그 'mtt_split_vertical_flag' 또는 멀티-타입 트리 노드의 분할 모양을 지시하는 플래그 'mtt_split_binary_flag' 중 적어도 하나가 사용될 수 있다.

본 발명의 실시예에 따르면, 코딩 트리 유닛은 쿼드 트리의 루트 노드이며, 쿼드 트리 구조로 우선 분할될 수 있다. 쿼드 트리 구조에서는 각각의 노드 'QT_node' 별로 'qt_split_flag'가 시그널링된다. 'qt_split_flag'의 값이 1인 경우 해당 노드는 4개의 정사각형 노드들로 분할되며, 'qt_split_flag'의 값이 0인 경우 해당 노드는 쿼드 트리의 리프 노드 'QT_leaf_node'가 된다.

각각의 쿼드 트리 리프 노드 'QT_leaf_node'는 멀티-타입 트리 구조로 더 분할될 수 있다. 멀티-타입 트리 구조에서는 각각의 노드 'MTT_node' 별로 'mtt_split_flag'가 시그널링된다. 'mtt_split_flag'의 값이 1인 경우 해당 노드는 복수의 직사각형 노드들로 분할되며, 'mtt_split_flag'의 값이 0인 경우 해당 노드는 멀티-타입 트리의 리프 노드 'MTT_leaf_node'가 된다. 멀티-타입 트리 노드 'MTT_node'가 복수의 직사각형 노드들로 분할될 경우(즉, 'mtt_split_flag'의 값이 1인 경우), 노드 'MTT_node'를 위한 'mtt_split_vertical_flag' 및 'mtt_split_binary_flag'가 추가로 시그널링될 수 있다. 'mtt_split_vertical_flag'의 값이 1인 경우 노드 'MTT_node'의 수직 분할이 지시되며, 'mtt_split_vertical_flag'의 값이 0인 경우 노드 'MTT_node'의 수평 분할이 지시된다. 또한, 'mtt_split_binary_flag'의 값이 1인 경우 노드 'MTT_node'는 2개의 직사각형 노드들로 분할되며, 'mtt_split_binary_flag'의 값이 0인 경우 노드 'MTT_node'는 3개의 직사각형 노드들로 분할된다.

코딩을 위한 픽쳐 예측(모션 보상)은 더 이상 나누어지지 않는 코딩 유닛(즉 코딩 유닛 트리의 리프 노드)을 대상으로 이루어진다. 이러한 예측을 수행하는 기본 단위를 이하에서는 예측 유닛(prediction unit) 또는 예측 블록(prediction block)이라고 한다.

이하, 본 명세서에서 사용되는 유닛이라는 용어는 예측을 수행하는 기본 단위인 상기 예측 유닛을 대체하는 용어로 사용될 수 있다. 다만, 본 발명이 이에 한정되는 것은 아니며, 더욱 광의적으로는 상기 코딩 유닛을 포함하는 개념으로 이해될 수 있다.

도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다. 전술한 바와 같이, 인트라 예측부는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 샘플들을 참조 샘플들로 이용하여 현재 블록의 샘플 값들을 예측한다.

먼저, 도 5는 인트라 예측 모드에서 현재 블록의 예측을 위해 사용되는 참조 샘플들의 일 실시예를 도시한다. 일 실시예에 따르면, 참조 샘플들은 현재 블록의 좌측 경계에 인접한 샘플들 및/또는 상측 경계에 인접한 샘플들일 수 있다. 도 5에 도시된 바와 같이, 현재 블록의 크기가 WXH이고 현재 블록에 인접한 단일 참조 라인(line)의 샘플들이 인트라 예측에 사용될 경우, 현재 블록의 좌측 및/또는 상측에 위치한 최대 2W+2H+1개의 주변 샘플들을 사용하여 참조 샘플들이 설정될 수 있다.

또한, 참조 샘플로 사용될 적어도 일부의 샘플이 아직 복원되지 않은 경우, 인트라 예측부는 참조 샘플 패딩 과정을 수행하여 참조 샘플을 획득할 수 있다. 또한, 인트라 예측부는 인트라 예측의 오차를 줄이기 위해 참조 샘플 필터링 과정을 수행할 수 있다. 즉, 주변 샘플들 및/또는 참조 샘플 패딩 과정에 의해 획득된 참조 샘플들에 필터링을 수행하여 필터링된 참조 샘플들을 획득할 수 있다. 인트라 예측부는 이와 같이 획득된 참조 샘플들을 이용하여 현재 블록의 샘플들을 예측한다. 인트라 예측부는 필터링되지 않은 참조 샘플들 또는 필터링된 참조 샘플들을 이용하여 현재 블록의 샘플들을 예측한다. 본 개시에서, 주변 샘플들은 적어도 하나의 참조 라인 상의 샘플들을 포함할 수 있다. 예를 들어, 주변 샘플들은 현재 블록의 경계에 인접한 라인 상의 인접 샘플들을 포함할 수 있다.

다음으로, 도 6은 인트라 예측에 사용되는 예측 모드들의 일 실시예를 도시한다. 인트라 예측을 위해, 인트라 예측 방향을 지시하는 인트라 예측 모드 정보가 시그널링될 수 있다. 인트라 예측 모드 정보는 인트라 예측 모드 세트를 구성하는 복수의 인트라 예측 모드들 중 어느 하나를 지시한다. 현재 블록이 인트라 예측 블록인 경우, 디코더는 비트스트림으로부터 현재 블록의 인트라 예측 모드 정보를 수신한다. 디코더의 인트라 예측부는 추출된 인트라 예측 모드 정보에 기초하여 현재 블록에 대한 인트라 예측을 수행한다.

본 발명의 실시예에 따르면, 인트라 예측 모드 세트는 인트라 예측에 사용되는 모든 인트라 예측 모드들(예, 총 67개의 인트라 예측 모드들)을 포함할 수 있다. 더욱 구체적으로, 인트라 예측 모드 세트는 평면 모드, DC 모드 및 복수의(예, 65개의) 각도 모드들(즉, 방향 모드들)을 포함할 수 있다. 각각의 인트라 예측 모드는 기 설정된 인덱스(즉, 인트라 예측 모드 인덱스)를 통해 지시될 수 있다. 예를 들어, 도 6에 도시된 바와 같이 인트라 예측 모드 인덱스 0은 평면 모드를 지시하고, 인트라 예측 모드 인덱스 1은 DC 모드를 지시한다. 또한, 인트라 예측 모드 인덱스 2 내지 66은 서로 다른 각도 모드들을 각각 지시할 수 있다. 각도 모드들은 기 설정된 각도 범위 이내의 서로 다른 각도들을 각각 지시한다. 예를 들어, 각도 모드는 시계 방향으로 45도에서 -135도 사이의 각도 범위(즉, 제1 각도 범위) 이내의 각도를 지시할 수 있다. 상기 각도 모드는 12시 방향을 기준으로 정의될 수 있다. 이때, 인트라 예측 모드 인덱스 2는 수평 대각(Horizontal Diagonal, HDIA) 모드를 지시하고, 인트라 예측 모드 인덱스 18은 수평(Horizontal, HOR) 모드를 지시하고, 인트라 예측 모드 인덱스 34는 대각(Diagonal, DIA) 모드를 지시하고, 인트라 예측 모드 인덱스 50은 수직(Vertical, VER) 모드를 지시하며, 인트라 예측 모드 인덱스 66은 수직 대각(Vertical Diagonal, VDIA) 모드를 지시한다.

한편, 기 설정된 각도 범위는 현재 블록의 모양에 따라 서로 다르게 설정될 수 있다. 예를 들어, 현재 블록이 직사각형 블록인 경우 시계 방향으로 45도를 초과하거나 -135도 미만 각도를 지시하는 광각 모드가 추가적으로 사용될 수 있다. 현재 블록이 수평 블록인 경우, 각도 모드는 시계 방향으로 (45+offset1)도에서 (-135+offset1)도 사이의 각도 범위(즉, 제2 각도 범위) 이내의 각도를 지시할 수 있다. 이때, 제1 각도 범위를 벗어나는 각도 모드 67 내지 76이 추가적으로 사용될 수 있다. 또한, 현재 블록이 수직 블록인 경우, 각도 모드는 시계 방향으로 (45-offset2)도에서 (-135-offset2)도 사이의 각도 범위(즉, 제3 각도 범위) 이내의 각도를 지시할 수 있다. 이때, 제1 각도 범위를 벗어나는 각도 모드 -10 내지 -1이 추가적으로 사용될 수 있다. 본 발명의 실시예에 따르면, offset1 및 offset2의 값은 직사각형 블록의 너비와 높이 간의 비율에 따라 서로 다르게 결정될 수 있다. 또한, offset1 및 offset2는 양수일 수 있다.

본 발명의 추가적인 실시예에 따르면, 인트라 예측 모드 세트를 구성하는 복수의 각도 모드들은 기본 각도 모드와 확장 각도 모드를 포함할 수 있다. 이때, 확장 각도 모드는 기본 각도 모드에 기초하여 결정될 수 있다.

일 실시예에 따르면, 기본 각도 모드는 기존 HEVC(High Efficiency Video Coding) 표준의 인트라 예측에서 사용되는 각도에 대응하는 모드이고, 확장 각도 모드는 차세대 비디오 코덱 표준의 인트라 예측에서 새롭게 추가되는 각도에 대응하는 모드일 수 있다. 더욱 구체적으로, 기본 각도 모드는 인트라 예측 모드 {2, 4, 6, …, 66} 중 어느 하나에 대응하는 각도 모드이고, 확장 각도 모드는 인트라 예측 모드 {3, 5, 7, …, 65} 중 어느 하나에 대응하는 각도 모드일 수 있다. 즉, 확장 각도 모드는 제1 각도 범위 내에서 기본 각도 모드들 사이의 각도 모드일 수 있다. 따라서, 확장 각도 모드가 지시하는 각도는 기본 각도 모드가 지시하는 각도에 기초하여 결정될 수 있다.

다른 실시예에 따르면, 기본 각도 모드는 기 설정된 제1 각도 범위 이내의 각도에 대응하는 모드이고, 확장 각도 모드는 상기 제1 각도 범위를 벗어나는 광각 모드일 수 있다. 즉, 기본 각도 모드는 인트라 예측 모드 {2, 3, 4, …, 66} 중 어느 하나에 대응하는 각도 모드이고, 확장 각도 모드는 인트라 예측 모드 {-10, -9, …, -1} 및 {67, 68, …, 76} 중 어느 하나에 대응하는 각도 모드일 수 있다. 확장 각도 모드가 지시하는 각도는 대응하는 기본 각도 모드가 지시하는 각도의 반대편 각도로 결정될 수 있다. 따라서, 확장 각도 모드가 지시하는 각도는 기본 각도 모드가 지시하는 각도에 기초하여 결정될 수 있다. 한편, 확장 각도 모드들의 개수는 이에 한정되지 않으며, 현재 블록의 크기 및/또는 모양에 따라 추가적인 확장 각도들이 정의될 수 있다. 예를 들어, 확장 각도 모드는 인트라 예측 모드 {-14, -13, …, -1} 및 {67, 68, …, 80} 중 어느 하나에 대응하는 각도 모드로 정의될 수도 있다. 한편, 인트라 예측 모드 세트에 포함되는 인트라 예측 모드들의 총 개수는 전술한 기본 각도 모드와 확장 각도 모드의 구성에 따라 가변할 수 있다.

상기 실시예들에서, 확장 각도 모드들 간의 간격은 대응하는 기본 각도 모드들 간의 간격에 기초하여 설정될 수 있다. 예를 들어, 확장 각도 모드들 {3, 5, 7, …, 65} 간의 간격은 대응하는 기본 각도 모드들 {2, 4, 6, …, 66} 간의 간격에 기초하여 결정될 수 있다. 또한, 확장 각도 모드들 {-10, -9, …, -1} 간의 간격은 대응하는 반대편의 기본 각도 모드들 {56, 57, …, 65} 간의 간격에 기초하여 결정되고, 확장 각도 모드들 {67, 68, …, 76} 간의 간격은 대응하는 반대편의 기본 각도 모드들 {3, 4, …, 12} 간의 간격에 기초하여 결정될 수 있다. 확장 각도 모드들 간의 각도 간격은 대응하는 기본 각도 모드들 간의 각도 간격과 동일하도록 설정될 수 있다. 또한, 인트라 예측 모드 세트에서 확장 각도 모드들의 개수는 기본 각도 모드들의 개수 이하로 설정될 수 있다.

본 발명의 실시예에 따르면, 확장 각도 모드는 기본 각도 모드를 기초로 시그널링될 수 있다. 예를 들어, 광각 모드(즉, 확장 각도 모드)는 제1 각도 범위 이내의 적어도 하나의 각도 모드(즉, 기본 각도 모드)를 대체할 수 있다. 대체되는 기본 각도 모드는 광각 모드의 반대편에 대응하는 각도 모드일 수 있다. 즉, 대체되는 기본 각도 모드는 광각 모드가 지시하는 각도의 반대 방향의 각도에 대응하거나 또는 상기 반대 방향의 각도로부터 기 설정된 오프셋 인덱스만큼 차이 나는 각도에 대응하는 각도 모드이다. 본 발명의 실시예에 따르면, 기 설정된 오프셋 인덱스는 1이다. 대체되는 기본 각도 모드에 대응하는 인트라 예측 모드 인덱스는 광각 모드에 다시 매핑되어 해당 광각 모드를 시그널링할 수 있다. 예를 들어, 광각 모드 {-10, -9, …, -1}은 인트라 예측 모드 인덱스 {57, 58, …, 66}에 의해 각각 시그널링될 수 있고, 광각 모드 {67, 68, …, 76}은 인트라 예측 모드 인덱스 {2, 3, …, 11}에 의해 각각 시그널링될 수 있다. 이와 같이 기본 각도 모드를 위한 인트라 예측 모드 인덱스가 확장 각도 모드를 시그널링하도록 함으로, 각 블록의 인트라 예측에 사용되는 각도 모드들의 구성이 서로 다르더라도 동일한 세트의 인트라 예측 모드 인덱스들이 인트라 예측 모드의 시그널링에 사용될 수 있다. 따라서, 인트라 예측 모드 구성의 변화에 따른 시그널링 오버헤드가 최소화할 수 있다.

한편, 확장 각도 모드의 사용 여부는 현재 블록의 모양 및 크기 중 적어도 하나에 기초하여 결정될 수 있다. 일 실시예에 따르면, 현재 블록의 크기가 기 설정된 크기보다 클 경우 확장 각도 모드가 현재 블록의 인트라 예측을 위해 사용되고, 그렇지 않을 경우 기본 각도 모드만 현재 블록의 인트라 예측을 위해 사용될 수 있다. 다른 실시예에 따르면, 현재 블록이 정사각형이 아닌 블록인 경우 확장 각도 모드가 현재 블록의 인트라 예측을 위해 사용되고, 현재 블록이 정사각형 블록인 경우 기본 각도 모드만 현재 블록의 인트라 예측을 위해 사용될 수 있다.

이하, 도 7을 참조하여 본 발명의 일 실시예에 따른 인터 예측 방법에 대해 설명하도록 한다. 본 개시에서, 인터 예측 방법은 병진 운동(translation motion)에 최적화된 일반 인터 예측 방법 및 어파인(affine) 모델 기반의 인터 예측 방법을 포함할 수 있다. 또한, 모션 벡터는 일반 인터 예측 방법에 따른 모션 보상을 위한 일반 모션 벡터 및 어파인 모션 보상을 위한 컨트롤 포인트 모션 벡터(control point motion vector) 중 적어도 하나를 포함할 수 있다.

도 7은 본 발명의 일 실시예에 따른 인터 예측 방법을 도시한다. 전술한 바와 같이, 디코더는 복호화된 다른 픽쳐의 복원된 샘플들을 참조하여 현재 블록을 예측할 수 있다. 도 7을 참조하면, 디코더는 현재 블록(701)의 모션 정보 세트에 기초하여 참조 픽쳐(720) 내의 참조 블록(702)을 획득한다. 이때, 모션 정보 세트는 참조 픽쳐 인덱스 및 모션 벡터를 포함할 수 있다. 참조 픽쳐 인덱스는 참조 픽쳐 리스트에서 현재 블록의 인터 예측을 위한 참조 블록이 포함된 참조 픽쳐(720)를 지시한다. 일 실시예에 따라, 참조 픽쳐 리스트는 전술한 L0 픽쳐 리스트 또는 L1 픽쳐 리스트 중 적어도 하나를 포함할 수 있다. 모션 벡터는 현재 픽쳐(710) 내에서 현재 블록(701)의 좌표 값과 참조 픽쳐(720) 내에서 참조 블록(702)의 좌표 값 간의 오프셋을 나타낸다. 디코더는 참조 블록(702)의 샘플 값들에 기초하여 현재 블록(701)의 예측자를 획득하고, 상기 예측자를 이용하여 현재 블록(701)을 복원한다.

구체적으로, 인코더는 복원 순서가 앞선 픽쳐들에서 현재 블록과 유사한 블록을 탐색하여 전술한 참조 블록을 획득할 수 있다. 예를 들어, 인코더는 기 설정된 탐색 영역 내에서 현재 블록과 샘플 값 차이의 합이 최소가 되는 참조 블록을 탐색할 수 있다. 이때, 현재 블록과 참조 블록의 샘플들 간의 유사도를 측정하기 위해, SAD (Sum Of Absolute Difference) 또는 SATD (Sum of Hadamard Transformed Difference) 중 적어도 하나가 사용될 수 있다. 여기에서, SAD는 두 블록에 포함된 샘플 값들의 차이 각각의 절대값을 모두 더한 값일 수 있다. 또한, SATD는 두 블록에 포함된 샘플 값들의 차이를 하다마드 변환(Hadamard Transform)하여 획득된 하다마드 변환 계수의 절대값을 모두 더한 값일 수 있다.

한편, 현재 블록은 하나 이상의 참조 영역을 이용하여 예측될 수도 있다. 전술한 바와 같이, 현재 블록은 2개 이상의 참조 영역을 이용하는 쌍예측 방식을 통해 인터 예측될 수 있다. 일 실시예에 따라, 디코더는 현재 블록의 2개의 모션 정보 세트에 기초하여 2개의 참조 블록을 획득할 수 있다. 또한, 디코더는 획득된 2개의 참조 블록 각각의 샘플 값들에 기초하여 현재 블록의 제1 예측자 및 제2 예측자를 획득할 수 있다. 또한, 디코더는 제1 예측자 및 제2 예측자를 이용하여 현재 블록을 복원할 수 있다. 예를 들어, 디코더는 제1 예측자 및 제2 예측자의 샘플 별 평균에 기초하여 현재 블록을 복원할 수 있다.

전술한 바와 같이, 현재 블록의 모션 보상을 위해, 하나 이상의 모션 정보 세트가 시그널링될 수 있다. 이때, 복수의 블록 각각의 모션 보상을 위한 모션 정보 세트 간의 유사성이 이용될 수 있다. 예를 들어, 현재 블록의 예측에 사용되는 모션 정보 세트는 기 복원된 다른 샘플들 중 어느 하나의 예측에 사용된 모션 정보 세트로부터 유도될 수 있다. 이를 통해, 인코더 및 디코더는 시그널링 오버헤드를 감소시킬 수 있다.

예를 들어, 현재 블록의 모션 정보 세트와 동일 또는 유사한 모션 정보 세트에 기초하여 예측되었을 가능성이 있는 복수의 후보 블록들이 존재할 수 있다. 디코더는 해당 복수의 후보 블록들을 기초로 머지 후보 리스트(merge candidate list)를 생성할 수 있다. 여기에서, 머지 후보 리스트는 현재 블록보다 먼저 복원된 샘플들 중에서, 현재 블록의 모션 정보 세트와 관련된 모션 정보 세트에 기초하여 예측되었을 가능성이 있는 샘플에 대응하는 후보들을 포함할 수 있다. 인코더와 디코더는 미리 정의된 규칙에 따라 현재 블록의 머지 후보 리스트를 구성할 수 있다. 이때, 인코더와 디코더가 각각 구성한 머지 후보 리스트는 서로 동일할 수 있다. 예를 들어, 인코더 및 디코더는 현재 픽쳐 내에서 현재 블록의 위치에 기초하여 현재 블록의 머지 후보 리스트를 구성할 수 있다. 인코더 및 디코더가 현재 블록의 머지 후보 리스트를 구성하는 방법에 대해서는 도 9를 통해 후술하도록 한다. 본 개시에서, 특정 블록의 위치는 특정 블록을 포함하는 픽쳐 내에서 특정 블록의 좌상단(top-left) 샘플의 상대적인 위치를 나타낸다.

한편, 코딩 효율을 높이기 위하여 전술한 레지듀얼 신호를 그대로 코딩하는 것이 아니라, 레지듀얼 신호를 변환하여 획득된 변환 계수 값을 양자화하고, 양자화된 변환 계수를 코딩하는 방법이 사용될 수 있다. 전술한 바와 같이, 변환부는 레지듀얼 신호를 변환하여 변환 계수 값을 획득할 수 있다. 이때, 특정 블록의 레지듀얼 신호는 현재 블록의 전 영역에 분산되어 있을 수 있다. 이에 따라, 레지듀얼 신호에 대한 주파수 영역 변환을 통해 저주파 영역에 에너지를 집중시켜 코딩 효율을 향상시킬 수 있다. 이하에서는, 레지듀얼 신호가 변환 또는 역변환되는 방법에 대해 구체적으로 설명하도록 한다.

도 8은 인코더가 레지듀얼 신호를 변환하는 방법을 구체적으로 나타내는 도면이다. 전술한 바와 같이, 공간 영역의 레지듀얼 신호는 주파수 영역으로 변환될 수 있다. 인코더는 획득된 레지듀얼 신호를 변환하여 변환 계수를 획득할 수 있다. 먼저, 인코더는 현재 블록에 대한 레지듀얼 신호를 포함하는 적어도 하나의 레지듀얼 블록을 획득할 수 있다. 레지듀얼 블록은 현재 블록 또는 현재 블록으로부터 분할된 블록들 중 어느 하나일 수 있다. 본 개시에서, 레지듀얼 블록은 현재 블록의 레지듀얼 샘플들을 포함하는 레지듀얼 어레이(array) 또는 레지듀얼 매트릭스(matrix)로 지칭될 수 있다. 또한, 본 개시에서 레지듀얼 블록은 변환 유닛 또는 변환 블록의 크기와 동일한 크기의 블록을 나타낼 수 있다.

다음으로, 인코더는 변환 커널을 사용하여 레지듀얼 블록을 변환할 수 있다. 레지듀얼 블록에 대한 변환에 사용되는 변환 커널은 수직 변환 및 수평 변환의 분리 가능한 특성을 가지는 변환 커널일 수 있다. 이 경우, 레지듀얼 블록에 대한 변환은 수직 변환 및 수평 변환으로 분리되어 수행될 수 있다. 예를 들어, 인코더는 레지듀얼 블록의 수직 방향으로 변환 커널을 적용하여 수직 변환을 수행할 수 있다. 또한, 인코더는 레지듀얼 블록의 수평 방향으로 변환 커널을 적용하여 수평 변환을 수행할 수 있다. 본 개시에서, 변환 커널은 변환 매트릭스, 변환 어레이, 변환 함수, 변환과 같이 레지듀얼 신호의 변환에 사용되는 파라미터 세트를 지칭하는 용어로 사용될 수 있다. 일 실시예에 따라, 변환 커널은 복수의 사용 가능한 커널들 중 어느 하나일 수 있다. 또한, 수직 변환 및 수평 변환 각각에 대해 서로 다른 변환 타입에 기반한 변환 커널이 사용될 수도 있다.

인코더는 레지듀얼 블록으로부터 변환된 변환 블록을 양자화부로 전달하여 양자화할 수 있다. 이때, 변환 블록은 복수의 변환 계수들을 포함할 수 있다. 구체적으로, 변환 블록은 2차원 배열된 복수의 변환 계수들로 구성될 수 있다. 변환 블록의 크기는 레지듀얼 블록과 마찬가지로 현재 블록 또는 현재 블록으로부터 분할된 블록 중 어느 하나와 동일할 수 있다. 양자화부로 전달된 변환 계수들은 양자화된 값으로 표현될 수 있다.

또한, 인코더는 변환 계수가 양자화되기 전에 추가적인 변환을 수행할 수 있다. 도 8에 도시된 바와 같이, 전술한 변환 방법은 1차 변환(primary transform)으로 지칭되고, 추가적인 변환은 2차 변환(secondary transform)으로 지칭될 수 있다. 2차 변환은 레지듀얼 블록 별로 선택적일 수 있다. 일 실시예에 따라, 인코더는 1차 변환만으로 저주파 영역에 에너지를 집중시키기 어려운 영역에 대해 2차 변환을 수행하여 코딩 효율을 향상시킬 수 있다. 예를 들어, 레지듀얼 값들이 레지듀얼 블록의 수평 또는 수직 방향 이외의 방향에서 크게 나타나는 블록에 대해 2차 변환이 추가될 수 있다. 인트라 예측된 블록의 레지듀얼 값들은 인터 예측된 블록의 레지듀얼 값들에 비해 수평 또는 수직 방향 이외의 방향으로 변화할 확률이 높을 수 있다. 이에 따라, 인코더는 인트라 예측된 블록의 레지듀얼 신호에 대해 2차 변환을 추가적으로 수행할 수 있다. 또한, 인코더는 인터 예측된 블록의 레지듀얼 신호에 대해 2차 변환을 생략할 수 있다.

다른 예로, 현재 블록 또는 레지듀얼 블록의 크기에 따라, 2차 변환 수행 여부가 결정될 수 있다. 또한, 현재 블록 또는 레지듀얼 블록의 크기에 따라 크기가 서로 다른 변환 커널이 사용될 수 있다. 예를 들어, 너비 또는 높이 중 짧은 변의 길이가 제1 기 설정된 길이 보다 길거나 같은 블록에 대해서는 8X8 2차 변환이 적용될 수 있다. 또한, 너비 또는 높이 중 짧은 변의 길이가 제2 기 설정된 길이 보다 길거나 같고, 제1 기 설정된 길이 보다 짧은 블록에 대해서는 4X4 2차 변환이 적용될 수 있다. 이때, 제1 기 설정된 길이는 제2 기 설정된 길이 보다 큰 값일 수 있으나, 본 개시가 이에 제한되는 것은 아니다. 또한, 2차 변환은 1차 변환과 달리 수직 변환 및 수평 변환으로 분리되어 수행되지 않을 수 있다. 이러한 2차 변환은 저대역 비-분리 변환(Low Frequency Non-Separable Transform, LFNST)으로 지칭될 수 있다.

또한, 특정 영역의 비디오 신호의 경우, 급격한 밝기 변화로 인해 주파수 변환을 수행하여도 고주파 대역 에너지가 줄어들지 않을 수 있다. 이에 따라, 양자화에 의한 압축 성능이 저하될 수 있다. 또한, 레지듀얼 값이 드물게 존재하는 영역에 대해 변환을 수행하는 경우, 인코딩 시간 및 디코딩 시간이 불필요하게 증가할 수 있다. 이에 따라, 특정 영역의 레지듀얼 신호에 대한 변환은 생략될 수 있다. 특정 영역의 레지듀얼 신호에 대한 변환 수행 여부는 특정 영역의 변환과 관련된 신택스 요소에 의해 결정될 수 있다. 예를 들어, 상기 신택스 요소는 변환 스킵 정보(transform skip information)를 포함할 수 있다. 변환 스킵 정보는 변환 스킵 플래그(transform skip flag)일 수 있다. 레지듀얼 블록에 대한 변환 스킵 정보가 변환 스킵을 나타내는 경우, 해당 레지듀얼 블록에 대한 변환이 수행되지 않는다. 이 경우, 인코더는 해당 영역의 변환이 수행되지 않은 레지듀얼 신호를 곧바로 양자화할 수 있다. 도 8을 참조하여 설명된 인코더의 동작들은 도 1의 변환부를 통해 수행될 수 있다.

전술한 변환 관련 신택스 요소들은 비디오 신호 비트스트림으로부터 파싱된 정보일 수 있다. 디코더는 비디오 신호 비트스트림을 엔트로피 디코딩하여 변환 관련 신택스 요소들을 획득할 수 있다. 또한, 인코더는 변환 관련 신택스 요소들을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성할 수 있다.

도 9는 인코더 및 디코더가 변환 계수를 역변환하여 레지듀얼 신호를 획득하는 방법을 구체적으로 나타내는 도면이다. 이하 설명의 편의를 위해, 인코더 및 디코더 각각의 역변환부를 통해 역변환 동작이 수행되는 것으로 설명한다. 역변환부는 역양자화된 변환 계수를 역변환하여 레지듀얼 신호를 획득할 수 있다. 먼저, 역변환부는 특정 영역의 변환 관련 신택스 요소로부터 해당 영역에 대한 역변환이 수행되는지 검출할 수 있다. 일 실시예에 따라, 특정 변환 블록에 대한 변환 관련 신택스 요소가 변환 스킵을 나타내는 경우, 해당 변환 블록에 대한 변환이 생략될 수 있다. 이 경우, 변환 블록에 대해 전술한 1차 역변환 및 2차 역변환이 모두 생략될 수 있다. 또한, 역양자화된 변환 계수는 레지듀얼 신호로 사용될 수 있다. 예를 들어, 디코더는 역양자화된 변환 계수를 레지듀얼 신호로 사용하여 현재 블록을 복원할 수 있다.

다른 일 실시예에 따라, 특정 변환 블록에 대한 변환 관련 신택스 요소가 변환 스킵을 나타내지 않을 수 있다. 이 경우, 역변환부는 2차 변환에 대한 2차 역변환 수행 여부를 결정할 수 있다. 예를 들어, 변환 블록이 인트라 예측된 블록의 변환 블록인 경우, 변환 블록에 대한 2차 역변환이 수행될 수 있다. 또한, 변환 블록에 대응하는 인트라 예측 모드에 기초하여 해당 변환 블록에 사용되는 2차 변환 커널이 결정될 수 있다. 다른 예로, 변환 블록의 크기에 기초하여 2차 역변환 수행 여부가 결정될 수도 있다. 2차 역변환은 역양자화 과정 이후 1차 역변환이 수행되기 전에 수행될 수 있다.

역변환부는 역양자화된 변환 계수 또는 2차 역변환된 변환 계수에 대한 1차 역변환을 수행할 수 있다. 1차 역변환의 경우, 1차 변환과 마찬가지로 수직 변환 및 수평 변환으로 분리되어 수행될 수 있다. 예를 들어, 역변환부는 변환 블록에 대한 수직 역변환 및 수평 역변환을 수행하여 레지듀얼 블록을 획득할 수 있다. 역변환부는 변환 블록의 변환에 사용된 변환 커널에 기초하여 변환 블록을 역변환할 수 있다. 예를 들어, 인코더는 복수의 사용 가능한 변환 커널들 중 현재 변환 블록에 적용된 변환 커널을 지시하는 정보를 명시적 또는 묵시적으로 시그널링할 수 있다. 디코더는 시그널링된 변환 커널을 나타내는 정보를 이용하여 복수의 사용 가능한 변환 커널들 중 변환 블록의 역변환에 사용될 변환 커널을 선택할 수 있다. 역변환부는 변환 계수에 대한 역변환을 통해 획득된 레지듀얼 신호를 이용하여 현재 블록을 복원할 수 있다.

한편, 픽쳐의 레지듀얼 신호의 분포는 영역 별로 다를 수 있다. 예를 들어, 특정 영역 내의 레지듀얼 신호는 예측 방법에 따라 값의 분포가 달라질 수 있다. 복수의 서로 다른 변환 영역들에 대해 동일한 변환 커널을 사용하여 변환을 수행하는 경우, 변환 영역 내의 값들의 분포와 특성에 따라 변환 영역 별로 코딩 효율이 달라질 수 있다. 이에 따라, 복수의 사용 가능한 변환 커널 중 특정 변환 블록의 변환에 사용되는 변환 커널을 적응적으로 선택하는 경우 코딩 효율이 추가적으로 향상될 수 있다. 즉, 인코더 및 디코더는 비디오 신호의 변환에 있어서, 기본 변환 커널 이외의 변환 커널을 추가적으로 사용 가능하도록 설정할 수 있다. 변환 커널을 적응적으로 선택하는 방법은 적응적 다중 코어 변환(adaptive multiple core transform, AMT) 또는 다중 변환 선택(multiple transform selection, MTS)으로 지칭될 수 있다. 변환 커널을 적응적으로 선택하는 방법에 대해서는 관련 도면을 참조하여 후술하도록 한다. 본 개시에서는 설명의 편의를 위해 변환 및 역변환을 통틀어 변환이라 지칭한다. 또한, 변환 커널 및 역변환 커널을 통틀어 변환 커널이라 지칭한다.

이하에서는, 도 10을 참조하여 비디오 신호의 변환에 사용될 수 있는 복수의 변환 커널들에 대해 설명하도록 한다. 본 발명의 일 실시예에 따라, 변환 커널은 특정 기저 함수를 기반으로 도출된 커널일 수 있다. 복수의 서로 다른 변환 커널들 각각은 서로 다른 기저 함수에 기반하여 획득될 수 있다. 복수의 변환 커널들은 서로 다른 변환 타입 각각에 대응하는 기저 함수에 기초하여 획득될 수 있다.

도 10은 변환 타입 각각에 대응하는 기저 함수(basis function)를 나타내는 도면이다. 일 실시예에 따라, 비디오 레지듀얼 신호의 변환에 사용 가능한 변환 커널은 이산 코사인 변환 타입 2(discrete cosine transform type-II, DCT-II)에 기반한 변환 커널, 이산 코사인 변환 타입 5(discrete cosine transform type-V, DCT-V)에 기반한 변환 커널, 이산 코사인 변환 타입 8(discrete cosine transform type-VIII, DCT-VIII)에 기반한 변환 커널, 이산 사인 변환 타입 1(discrete sine transform type-I, DST-I)에 기반한 변환 커널, 및 이산 사인 변환 타입 7(discrete sine transform type-II, DST-VII)에 기반한 변환 커널 중 적어도 하나를 포함할 수 있다.

도 10을 참조하면, 전술한 변환 타입 DCT-II, DCT-V, DCT-VIII, DST-I, DST-VII 각각에 대응하는 기저 함수들은 코사인 또는 사인의 함수로 표현될 수 있다. 예를 들어, DCT-II, DCT-V, DCT-VIII 각각에 대응하는 기저 함수들은 코사인 형태의 함수이고, DST-I, DST-VII 각각에 대응하는 기저 함수들은 사인 형태의 함수일 수 있다. 또한, 특정 변환 타입에 대응하는 기저 함수는 주파수 빈 별 기저 함수 형태로 나타낼 수 있다. 예를 들어, 기저 함수 Ti(j)는 i번째 주파수 빈에 대응하는 기저 함수일 수 있다. 즉, i가 나타내는 값이 작을 수록 낮은 주파수에 대응하는 기저 함수를 나타낸다. 또한, i가 나타내는 값이 클 수록 높은 주파수에 대응하는 기저 함수를 나타낸다. 도 10에서, j는 0 부터 N-1 사이의 정수를 나타낼 수 있다.

기저 함수 Ti(j)는 i 번째 행의 j 번째 요소를 나타내는 2차원 행렬로 표현될 수 있다. 이 경우, 도 9의 변환 타입에 기초한 변환 커널들을 이용하는 변환은 변환을 수행하는데 있어 분리 가능한 특성을 가진다. 즉, 레지듀얼 신호에 대하여 수평 방향과 수직 방향 각각에 대한 변환이 분리되어 수행될 수 있다. 예를 들어, 레지듀얼 블록 X에 대한 변환 매트릭스 T를 이용하는 변환은 매트릭스 연산 TXT’로 나타낼 수 있다. 이때, T’는 변환 매트릭스 T의 전치(transpose) 매트릭스를 의미한다.

도 10에 도시된 기저 함수에 의해 연산되는 변환 매트릭스의 값들은 정수 형태가 아닌 소수 형태일 수 있다. 비디오 인코딩 장치 및 디코딩 장치에 하드웨어적으로 소수 형태의 값들을 구현하기 어려울 수 있다. 따라서 소수 형태의 값들을 포함하는 원형(original) 변환 커널로부터 정수 근사화된 변환 커널이 비디오 신호의 인코딩 및 디코딩에 사용될 수 있다. 정수 형태의 값들을 포함하는 근사화된 변환 커널은 원형 변형 커널에 대한 스케일링 및 라운딩을 통해 생성될 수 있다. 근사화된 변환 커널이 포함하는 정수 값은 기 설정된 개수의 비트로 표현 가능한 범위 내의 값일 수 있다. 기 설정된 개수의 비트는 8-bit 또는 10-bit일 수 있다. 근사화에 따라 DCT와 DST의 정규 직교 (orthonormal) 성질은 유지되지 않을 수 있다. 그러나, 이에 따른 부호화 효율 손실이 크지 않으므로, 변환 커널을 정수 형태로 근사화 시키는 것이 하드웨어적 구현 측면에서 유리할 수 있다.

도 11은 변환 타입 DCT-II, DCT-V, DCT-VIII, DST-I, DST-VII 각각의 인덱스 별 신호의 크기를 나타내는 도면이다. 도 11은 주파수 빈 별 기저 함수들 중에서 가장 낮은 주파수 빈에 대응하는 기저 함수의 형태를 도시한다. 도 11은 주파수 빈 별 기저 함수들 중에서 0번째 주파수 빈에 대응하는 기저 함수를 나타낸다. 도 11에서, 가로축은 기저 함수 내의 인덱스 j (j=0, 1, …, N-1)를 나타내며, 세로축은 신호의 크기 값을 나타낸다. N은 변환의 대상이 되는 특정 영역 내의 샘플 수를 나타낸다.

도 11에 도시된 바와 같이, DST-VII은 인덱스 j가 증가할수록 신호의 크기가 증가하는 경향을 보인다. 따라서, DST-VII은 인트라 예측된 블록의 레지듀얼 블록과 같이, 레지듀얼 블록의 좌상단을 기준으로 수평, 수직 방향으로의 거리가 멀어질수록 레지듀얼 신호의 크기가 증가하는 레지듀얼 블록에 대한 변환에 효율적일 수 있다.

반면, DCT-VIII은 인덱스 j가 증가할수록 신호의 크기가 감소하는 경향을 보인다. 즉, DCT-VIII은 DST-VII와 듀얼리티 특성을 만족한다. 따라서, DCT-VIII은 레지듀얼 블록의 좌상단을 기준으로 수평, 수직 방향으로의 거리가 멀어질수록 레지듀얼 신호의 크기가 감소하는 레지듀얼 블록에 대한 변환에 효율적일 수 있다.

DST-I는 기저 함수 내의 인덱스 j가 증가할수록 신호의 크기가 증가하다가 특정 인덱스를 기점으로 신호의 크기가 감소하는 경향을 보인다. 따라서 레지듀얼 블록의 중심 부분의 레지듀얼 신호의 크기가 큰 레지듀얼 블록에 대한 변환에 효율적일 수 있다.

DCT-II의 0 번째 기저 함수는 DC를 나타낸다. 따라서, 레지듀얼 블록 내의 신호 크기 분포가 균일한 레지듀얼 블록에 대한 변환에 효율적일 수 있다.

DCT-V은 DCT-II와 유사하지만 인덱스 j가 0인 경우의 신호의 크기가 인덱스 j가 0이 아닐 때의 신호의 크기보다 작은 값을 가진다. 즉, 인덱스 j가 1인 경우 직선이 꺾이는 형태의 신호 모형을 가진다.

한편, 전술한 바와 같이 분리 가능한 특성을 가지는 변환 커널을 사용하는 경우, 레지듀얼 블록의 수평 방향과 수직 방향 각각에 대한 변환이 수행될 수 있다. 구체적으로, 두 차례의 2차원 매트릭스 곱하기 연산을 통해 레지듀얼 블록에 대한 변환이 수행될 수 있다. 매트릭스 곱하기 연산에는 기 설정된 수준 이상의 연산량이 수반될 수 있다. 이에 따라, DCT-II에 기반한 변환 커널을 사용하여 레지듀얼 블록을 변환하는 경우, 버터플라이 구조(butterfly structure) 또는 하프 버터플라이 구조(half butterfly structure)와 하프 매트릭스 곱셈기(half matrix multiplier)의 조합 구조를 사용하여 연산량을 감소시킬 수 있다. 그러나 DST-VII 및 DCT-VIII은 구현 복잡도는 상대적으로 높아 연산량 측면에 있어 구현이 어려울 수 있다. 그리고 변환 커널의 요소 (변환 커널의 행렬 요소)들은 연산을 위해 메모리에 저장되어 있어야 하므로, 커널 행렬 저장을 위한 메모리 용량도 구현에 고려되어야한다. 이에 따라, DST-VII 및 DCT-VIII 각각과 유사한 특성을 가지면서 상대적으로 구현 복잡도가 낮은 변환 타입이 사용될 수 있다.

일 실시예에 따라, 이산 사인 변환 타입 IV(discrete sine transform type-IV, DST-IV) 및 이산 코사인 변환 타입-IV(discrete cosine transform type-IV, DCT-IV)은 각각 DST-VII 및 DCT-VIII을 대체할 수 있다.

도 12는 변환 타입 DST-IV, DCT-IV, DST-VII 및 DCT-VIII 각각에 대한 인덱스 별 신호의 크기를 나타내는 도면이다. 도 12(a)는 DST-IV에 대응하는 기저 함수 및 DCT-IV에 대응하는 기저 함수를 나타낸다. 샘플 수 N에 대한 DST-IV 및 DCT-IV는 샘플 수 2N에 대한 DCT-II로부터 도출될 수 있다. 즉, 샘플 수 2N에 대한 DCT-II 부분 버터플라이 구조(partial butterfly structure)는 샘플 수 N에 대한 DCT-IV를 포함한다. 또한, 샘플 수 N에 대한 DST-IV은 샘플 수 N에 대한 DCT-IV로부터 부호 반전 연산 및 해당 기저 함수를 역순으로 정렬함으로써 구현될 수 있다.

도 12(b)에 도시된 바와 같이, DST-IV는 DST-VII과 유사한 신호 모형을 나타낸다. 이에 따라, DST-IV는 인트라 예측된 블록의 레지듀얼 블록과 같이, 레지듀얼 블록의 좌상단을 기준으로 수평, 수직 방향으로의 거리가 클수록 레지듀얼 신호의 크기가 증가하는 레지듀얼 블록의 변환에 효율적일 수 있다. 또한, DCT-IV는 DCT-VIII과 유사한 신호 모형을 나타낸다. 이에 따라, DCT-IV는 특정 경계에서 레지듀얼 신호의 크기가 크고, 해당 경계로부터 다른 경계로 갈수록 레지듀얼 신호의 크기가 감소하는 레지듀얼 블록의 변환에 효율적일 수 있다.

전술한 변환 타입들 중 어느 하나에 기반한 변환 커널만이 비디오 신호의 변환을 위해 사용되는 경우, 원본 신호 자체의 특성 및 예측 모드에 따라 달라지는 레지듀얼 신호의 패턴에 따라 적응적인 변환이 수행되기 어렵다. 따라서, 본 발명의 일 실시예에 따른 인코더 및 디코더는 레지듀얼 신호의 변환에 있어 복수의 사용 가능한 변환 커널들 중에서 영역 별로 선택된 변환 커널을 사용하여 코딩 효율을 향상시킬 수 있다.

기존 HEVC(High Efficiency Video Coding) 표준에서는 전술한 복수의 변환 타입들 중 DCT-II에 기반한 변환 커널을 사용하여 레지듀얼 신호를 변환하고, 인트라 예측된 4X4 크기의 블록에 대해서만 DST-VII에 기반한 변환 커널을 한정적으로 사용하여 레지듀얼 신호를 변환하였다. 전술한 바와 같이, DCT-II는 인터 예측된 블록의 레지듀얼 신호에 대한 변환에 적합할 수 있으나, 인트라 예측된 블록의 레지듀얼 신호에 대한 변환에는 적합하지 않을 수 있다. 즉, 현재 블록이 예측된 방법에 따라, 레지듀얼 블록 내에서 레지듀얼 신호의 패턴이 달라질 수 있다.

이에 따라, 복수의 사용 가능한 변환 커널들 중 선택된 적어도 하나가 특정 변환 블록의 변환에 사용될 수 있다. 일 실시예에 따라, 인코더 및 디코더는 현재 블록이 예측된 방법에 기초하여 현재 블록의 적어도 하나의 변환 영역을 위한 변환 커널을 선택할 수 있다. 이러한 방법은 전술한 적응적 다중 코어 변환(AMT)으로 지칭될 수 있다. 특정 영역의 예측 방법에 따라 결정된 변환 커널이 해당 영역의 변환에 사용되는 경우, 모든 영역에 대해 DCT-II에 기반한 변환 커널을 사용하여 변환이 수행되는 경우 보다 코딩 효율을 향상시킬 수 있다.

도 13은 현재 블록의 예측 모드에 따라 변환 후보 세트가 구성되는 방법을 나타내는 도면이다. 본 발명의 일 실시예에 따라, 인코더 및 디코더는 현재 블록에 대응하는 변환 후보 세트에 기초하여 현재 블록의 적어도 하나의 변환 영역에 사용되는 변환 커널을 선택할 수 있다. 변환 후보 세트는 복수의 후보 변환 커널들을 포함할 수 있다. 또한, 변환 후보 세트는 현재 블록의 예측 모드에 따라 서로 다른 후보 변환 커널을 포함할 수 있다.

일 실시예에 따라, 현재 블록은 복수의 인트라 예측 모드들 중 어느 하나에 기초하여 예측된 블록일 수 있다. 이 경우, 현재 블록의 예측에 사용된 인트라 예측 모드에 따라, 현재 블록의 레지듀얼 신호의 패턴이 달라질 수 있다. 전술한 바와 같이, 인트라 예측 모드 정보는 인트라 예측 방향을 지시할 수 있다. 이에 따라, 현재 블록의 인트라 예측 모드 정보가 지시하는 예측 방향에 따라, 현재 블록의 레지듀얼 신호의 패턴이 달라질 수 있다. 인코더 및 디코더는 예측 방향에 따라 서로 다른 복수의 변환 후보 세트를 사용하여 코딩 효율을 향상시킬 수 있다.

이에 따라, 인코더 및 디코더는 현재 블록의 인트라 예측 모드에 대응하는 변환 후보 세트로부터 현재 블록의 변환 영역에 사용될 변환 커널을 결정할 수 있다. 예를 들어, 변환 영역에 사용될 변환 커널은 변환 후보 세트가 포함하는 복수의 후보 변환 커널 중 어느 하나를 나타내는 후보 인덱스를 통해 시그널링될 수 있다. 현재 블록의 인트라 예측 모드에 대응하는 변환 후보 세트가 2개의 후보 변환 커널로 구성된 경우, 변환 영역에 사용된 변환 커널을 나타내는 후보 인덱스는 1-bit로 표현될 수 있다.

또한, 변환 영역의 수직 방향 및 수평 방향 각각에 대해서 서로 다른 변환 후보 세트가 사용될 수도 있다. 방향성에 기초하여 예측되는 인트라 예측 방법의 특성으로 인해, 예측된 영역의 레지듀얼 신호의 수직 방향 패턴과 수평 방향 패턴이 서로 다를 수 있다. 따라서 특정 인트라 예측 모드를 사용하여 예측된 블록에 대한 수직 변환 커널과 수평 변환 커널은 개별적인 변환 후보 세트로부터 획득될 수 있다. 본 개시에서, 특정 변환 영역의 수직 변환에 사용되는 변환 커널은 수직 변환 커널로 지칭될 수 있다. 또한, 특정 변환 영역의 수평 변환에 사용되는 변환 커널은 수평 변환 커널로 지칭될 수 있다. 도 13(a)는 67개의 인트라 예측 모드 인덱스 각각에 대응하는 변환 후보 세트를 나타낸다. 도 13(a)에서, V (vertical)는 수직 변환 커널을 위한 변환 후보 세트를 나타낸다. 또한, H (horizontal)는 수평 변환 커널을 위한 변환 후보 세트를 나타낸다.

도 13(b)는 변환 후보 세트에 따라 정의되는 후보 변환 커널을 나타낸다. 일 실시예에 따라, 제1 변환 후보 세트(예를 들어, 도 13(b)의 Transform Set 0)는 DST-VII에 기반한 후보 변환 커널 및 DCT-VIII에 기반한 후보 변환 커널을 포함할 수 있다. 또한, 제2 변환 후보 세트(예를 들어, 도 13(b)의 Transform Set 1)는 DST-VII에 기반한 후보 변환 커널 및 DST-I에 기반한 후보 변환 커널을 포함할 수 있다. 제3 변환 후보 세트(예를 들어, 도 13(b)의 Transform Set 2)는 DST-VII에 기반한 후보 변환 커널 및 DCT-V에 기반한 후보 변환 커널을 포함할 수 있다. 도 13에서는 변환 후보 세트가 2개의 후보 변환 커널을 포함하는 것으로 도시하고 있으나, 본 개시가 이에 제한되는 것은 아니다.

다른 일 실시예에 따라, 현재 블록은 인터 예측된 블록일 수 있다. 이 경우, 현재 블록의 변환 영역에 사용되는 변환 커널은 기 설정된 변환 후보 세트로부터 획득될 수 있다. 예를 들어, 기 설정된 변환 후보 세트는 전술한 복수의 변환 후보 세트들 중 어느 하나일 수 있다. 도 13(c)는 현재 블록이 인터 예측 블록인 경우, 현재 블록에 대응하는 변환 후보 세트를 나타낸다. 예를 들어, 인터 예측 블록에 대응하는 기 설정된 변환 후보 세트는 DCT-VIII에 기반한 후보 변환 커널 및 DST-VII에 기반한 후보 변환 커널을 포함할 수 있다. 즉, 인터 예측 블록의 변환 영역에 사용되는 변환 커널은 DCT-VIII에 기반한 후보 변환 커널 및 DST-VII에 기반한 후보 변환 커널들 중 어느 하나일 수 있다.

추가적인 실시예에 따라, 전술한 실시예들은 휘도 성분의 변환 블록에 대해서만 제한적으로 적용될 수도 있다. 이 경우, 색차 성분의 변환 블록에 대해서는 기 설정된 기본 변환 커널이 사용될 수 있다. 예를 들어, 기본 변환 커널은 DCT-II에 기반한 변환 커널일 수 있다.

추가적인 실시예에 따라, 인코더는 변환 영역의 논-제로(non-zero) 변환 계수의 개수에 따라 후보 인덱스를 시그널링하지 않을 수도 있다. 이 경우, 디코더는 변환 영역의 논-제로 변환 계수의 개수를 기 설정된 개수와 비교하여 변환 커널을 결정할 수 있다. 예를 들어, 논-제로 변환 계수의 개수가 하나 또는 둘인 경우 후보 인덱스는 시그널링되지 않을 수 있다. 이 경우, 역변환부는 해당 영역에 대해 기 설정된 변환 커널을 사용하여 변환을 수행할 수 있다. 기 설정된 변환 커널은 DST-VII에 기반한 변환 커널일 수 있다.

추가적인 실시예에 따라, MTS는 휘도 성분에만 적용 가능하며, 색차 성분에 대해서는 HEVC와 같이 DCT-II 변환을 사용할 수 있다. 실시예로서, 코딩 유닛 단위에서 MTS를 컨트롤할 수 있도록 1-bit 플래그로 on/off를 지시할 수 있으며, 이 플래그가 off를 지시할 경우 색차 성분과 같이 기본 커널인 DCT-II를 사용할 수 있다. 반면 이 플래그가 on을 지시하는 경우, 예측 모드에 따라 기 설정된 변환 세트 내에서 사용하는 변환 후보 인덱스를 시그널링하여 복호화기에서 인덱스에 해당하는 변환 커널을 적용하여 역변환을 수행할 수 있다. 수평과 수직 방향에 각기 다른 변환을 적용할 수 있으므로 각각 1-bit씩 총 2-bit로 사용하는 변환 인덱스를 지시할 수 있다. 또는, 절삭형 단항(truncated unary) 이진화 방법을 사용하여 변환 인덱스를 지시할 수 있다. 예를 들어, DST-VII, DCT-VIII 두 커널을 사용할 수 있는 경우, 현재 블록에 적용 가능한 변환 커널 조합은 4가지로 정의될 수 있고, 다음과 같이 시그널링될 수 있다.

{가로: DST-VII, 세로: DST-VII}, 0

{가로: DCT-VIII, 세로: DST-VII}, 10

{가로: DST-VII, 세로: DCT-VIII}, 110

{가로: DCT-VIII, 세로: DCT-VIII}, 111

본 발명의 일 실시예에 따르면, MTS에서 통계적으로 {가로: DST-VII, 세로: DST-VII} 조합이 선택될 확률이 높으므로, 고정 길이의 2-bit를 사용하여 변환 커널을 시그널링하는 것보다 상기 기술한 절삭형 단항 이진화 방법을 사용하여 변환 커널을 시그널링할 경우, 부호화 효율 향상을 기대할 수 있다.

도 14는 세트 인덱스에 따라 결정된 수평 변환 커널 및 수직 변환 커널을 나타낸다. 본 발명의 일 실시예에 따라, 복수의 사용 가능한 변환 커널들 중에서 특정 영역의 레지듀얼 신호를 위한 변환 커널을 나타내는 정보가 시그널링될 수 있다. 이 경우, 해당 영역에 대응하는 예측 모드와 관계없이 복수의 사용 가능한 변환 커널들 중에서 어느 하나를 지시하는 정보가 시그널링될 수 있다. 예를 들어, 인코더는 특정 영역의 레지듀얼 신호를 위한 변환 커널을 나타내는 변환 커널 정보를 시그널링할 수 있다. 디코더는 시그널링된 변환 커널 정보를 사용하여 해당 영역을 위한 변환 커널을 획득할 수 있다. 이때, 변환 커널 정보는 해당 영역의 수평 변환 커널을 나타내는 정보 또는 해당 영역의 수직 변환 커널을 나타내는 정보 중 적어도 하나를 포함할 수 있다. 이러한 방법은 전술한 다중 변환 선택(MTS)으로 지칭될 수 있다.

변환 커널은 복수의 사용 가능한 변환 커널들 각각을 나타내는 커널 인덱스 중 어느 하나에 의해 지시될 수 있다. 일 실시예에 따라, 커널 인덱스 ‘0’에 대응하는 변환 커널은 DCT-II에 기반한 변환 커널이고, 커널 인덱스 ‘1’에 대응하는 변환 커널은 DST-VII에 기반한 변환 커널이고, 커널 인덱스 ‘2’에 대응하는 변환 커널은 DCT-VIII에 기반한 변환 커널일 수 있다.

일 실시예에 따라, 변환 커널 정보는 변환 커널 세트를 나타내는 세트 인덱스일 수 있다. 변환 커널 세트는 수직 변환 커널로 사용될 변환 커널 및 수평 변환 커널로 사용될 변환 커널의 조합을 나타낼 수 있다. 또한, 세트 인덱스는 수평 변환 커널을 지시하는 커널 인덱스와 수직 변환 커널을 지시하는 커널 인덱스의 조합을 지시할 수 있다. 도 14(a)를 참조하면, 특정 영역의 변환 커널 정보가 제1 변환 커널 세트(예를 들어, 도 14(a)의 tu_mts_idx[x0][y0]가 0인 경우)를 나타내는 세트 인덱스를 지시하는 경우, 해당 영역의 수직 변환 커널은 커널 인덱스 ‘0’에 대응하는 변환 커널일 수 있다. 또한, 해당 영역의 수평 변환 커널은 커널 인덱스 ‘0’에 대응하는 변환 커널일 수 있다.

또한, 도 14(b)는 커널 인덱스에 대응하는 변환 커널을 나타낸다. 도 14(b)를 참조하면, 제1 커널 인덱스 ‘0’에 대응하는 변환 커널은 DCT-II에 기반한 변환 커널을 나타낼 수 있다. 또한, 제2 커널 인덱스 ‘1’에 대응하는 변환 커널은 DST-VII에 기반한 변환 커널을 나타낼 수 있다. 또한, 제3 커널 인덱스 ‘2’에 대응하는 변환 커널은 DCT-VIII에 기반한 변환 커널을 나타낼 수 있다.

추가적인 실시예에 따라, 전술한 실시예들은 휘도 블록에 대해서만 제한적으로 적용될 수도 있다. 이 경우, 색차 성분에 대해서는 기 설정된 기본 변환 커널이 사용될 수 있다. 예를 들어, 기본 변환 커널은 DCT-II에 기반한 변환 커널일 수 있다. 또한, 전술한 세트 인덱스는 변환 블록 단위로 시그널링될 수 있다.

또한, 세트 인덱스의 시그널링 여부를 나타내는 정보는 현재 블록을 포함하는 상위 레벨의 헤더를 통해 시그널링될 수 있다. 여기에서, 상위 레벨은 현재 블록을 포함하는 슬라이스/타일, 픽쳐 또는 시퀀스를 나타낼 수 있다. 또한, 세트 인덱스에 대한 시그널링 여부를 나타내는 정보는 예측 방법 별로 개별적인 플래그를 통해 시그널링될 수 있다. 예를 들어, 블록의 변환 커널을 결정하는데 있어서, 세트 인덱스가 사용되는지 여부를 나타내는 플래그는 인트라 예측된 블록과 인터 예측된 블록 각각에 대해 독립적으로 설정될 수 있다.

일 실시예에 따라, 변환 블록을 포함하는 상위 레벨의 세트 인덱스의 시그널링 여부를 나타내는 정보가 세트 인덱스가 명시적으로 시그널링되지 않음을 나타내는 경우, 해당 변환 블록에 대해서는 다른 방식으로 변환 커널이 결정될 수 있다. 예를 들어, 현재 변환 블록의 역변환에 적용될 변환 커널은 세트 인덱스가 아닌 다른 정보로부터 유도된 정보에 기초하여 결정될 수 있다. 구체적으로, 디코더는 현재 변환 블록과 관련하여 시그널링된 정보로부터 현재 변환 블록을 위한 변환 커널을 지시하는 정보를 유도할 수 있다. 즉, 변환 블록에 사용될 수직 변환 커널을 나타내는 정보 및 수평 변환 커널을 나타내는 정보는 묵시적으로 시그널링될 수도 있다. 다른 일 실시예에 따라, 변환 블록을 포함하는 상위 레벨의 세트 인덱스의 시그널링 여부를 나타내는 정보가 세트 인덱스가 명시적으로 시그널링됨을 나타내는 경우, 디코더는 시그널링된 세트 인덱스에 기초하여 변환 블록을 위한 변환 커널을 획득할 수 있다.

추가적인 실시예에 따라, 인코더는 세트 인덱스의 시그널링 여부는 변환 영역의 논-제로 변환 계수의 개수에 따라 결정될 수도 있다. 이 경우, 디코더는 변환 영역의 논-제로 변환 계수의 개수를 기 설정된 개수와 비교하여 변환 커널을 결정할 수 있다. 예를 들어, 논-제로 변환 계수의 개수가 두개 이하인 경우, 세트 인덱스는 시그널링되지 않을 수 있다. 이 경우, 역변환부는 해당 영역에 대해 기 설정된 변환 커널을 사용하여 변환을 수행할 수 있다. 기 설정된 변환 커널은 DST-VII에 기반한 변환 커널일 수 있다.

도 15는 본 발명의 일 실시예에 따른 변환 관련 정보를 획득하는 방법을 나타내는 도면이다. 현재 블록의 레지듀얼 신호에 대한 변환 및 변환 계수에 대한 역변환은 변환 블록(또는 변환 유닛) 별로 수행될 수 있다. 현재 블록은 적어도 하나의 변환 블록으로 구성될 수 있다. 즉, 변환 블록은 현재 블록 자체이거나, 현재 블록으로부터 분할된 블록일 수 있다. 변환 블록이 현재 블록 자체인 경우, 변환 블록의 크기는 현재 블록의 크기와 동일할 수 있다. 일 실시예에 따라, 현재 블록은 현재 블록의 크기에 기초하여 복수의 변환 블록들로 분할될 수 있다. 예를 들어, 현재 블록의 크기가 최대 변환 크기 보다 큰 경우, 현재 블록은 복수의 변환 블록들로 분할될 수 있다. 현재 블록의 크기가 최대 변환 크기 이하인 경우, 변환 블록은 현재 블록 자체일 수 있다. 실시예로서, 변환 블록의 크기는 코딩 블록의 크기와 같을 수 있다. 즉, 변환 블록은 코딩 블록과 동일한 트리 구조로 분할될 수 있다. 그러나, 만약, 코딩 블록의 크기가 최대 변환 크기보다 큰 경우 최대 변환 크기를 가지는 복수의 변환 블록으로 분할될 수 있다.

일 실시예에서, 최대 변환 크기는 한 변의 길이를 나타내는 값일 수 있다. 예를 들어, 최대 변환 크기는 64-길이(length)(또는 포인트(point))일 수 있다. 이 경우, 현재 블록의 크기(너비X높이)가 (128X32)인 경우, 현재 블록은 2개의 (64X32) 크기의 변환 블록으로 분할될 수 있다. 최대 변환 크기가 32이고 현재 블록의 크기가 32X32인 경우, 변환 블록은 현재 블록으로부터 분할되지 않고, 현재 블록과 동일한 크기일 수 있다.

현재 블록의 너비 및 높이가 모두 최대 변환 크기보다 작거나 같은 경우, 현재 블록은 복수의 변환 블록으로 분할되지 않는다. 이에 따라, 현재 블록의 좌상단 좌표와 해당 변환 블록의 좌상단 좌표는 동일하다. 반면, 현재 블록의 너비 및 높이 중 적어도 하나가 최대 변환 크기보다 큰 경우, 현재 블록은 복수의 변환 블록들로 분할될 수 있다. 이에 따라, 현재 블록의 좌상단 좌표와 해당 변환 블록들의 좌상단 좌표는 다를 수 있다.

도 15(a)는 변환 유닛 신택스를 나타낸다. 변환 유닛 신택스는 변환 및 역변환과 관련된 처리를 나타낸다. 변환 유닛 신택스는 변환 블록의 좌상단 좌표인 (x0, y0)와 변환 블록의 가로, 세로 방향으로의 크기를 나타내는 tbWidth, tbHeight, 트리 유형을 나타내는 treeType을 인자로 받는다.

일 실시예에 따라, 변환 관련 정보는 변환 블록이 논-제로 변환 계수를 적어도 하나 포함하는지를 나타내는 코딩된 블록 플래그(coded block flag, cbf) 정보(tu_cbf_luma, tu_cbf_cb, tu_cdf_cr)를 포함할 수 있다. cbf 정보는 변환 유닛의 성분에 따라 별도로 획득될 수 있다. 예를 들어, 변환 관련 정보는 휘도 성분에 대한 cbf 정보(tu_cbf_luma[ x0 ][ y0 ]) 및 2개의 색차 성분 각각에 대한 cbf 정보들(tu_cbf_cb[ x0 ][ y0 ], tu_cbf_cr[ x0 ][ y0 ]) 중 적어도 하나를 포함할 수 있다.

일 실시예에 따라, 변환 블록의 cbf 정보가 변환 블록이 적어도 하나의 논-제로 변환 계수를 포함함을 나타내는 경우, 해당 변환 블록에 대한 역양자화 및 역변환이 수행될 수 있다. 이 경우, 디코더는 레지듀얼 코딩 관련 정보를 사용하여 양자화된 변환 계수를 역양자화할 수 있다. 또한, 디코더는 역양자화된 변환 계수를 역변환하여 변환 블록에 대응하는 레지듀얼 신호를 획득할 수 있다. 반대로, 해당 변환 블록의 cbf 정보가 변환 블록이 적어도 하나의 0이 아닌 계수를 포함하지 않음을 나타내는 경우, 디코더는 해당 변환 블록에 대해서는 역양자화 및 역변환을 수행하지 않을 수 있다. 이 경우, 디코더는 변환 블록에 대한 역양자화 및 역변환 과정 없이 레지듀얼 신호를 획득할 수 있다. 일 예로서, 변환 블록의 cbf 정보가 존재하지 않는 경우, cbf 정보는 변환 블록이 적어도 하나의 0이 아닌 계수를 포함하지 않는 것으로 간주될 수 있다. 인코더는 전술한 엔트로피 코딩부를 통해 cbf 정보를 엔트로피 코딩할 수 있다. 또한, 디코더는 전술한 엔트로피 디코딩부를 통해 비트스트림으로부터 cbf 정보를 획득할 수 있다.

휘도 성분에 대한 트리 구조와 색차 성분에 대한 트리 구조가 같거나 다르게 인코딩될 수 있다. 따라서, cbf 정보는 변환 블록의 트리 타입을 나타내는 정보(treeType)에 기초하여 획득될 수 있다(S1501). 일 실시예에 따라, 변환 블록의 treeType이 SINGLE_TREE를 나타내는 경우, 현재 블록의 휘도 성분을 위한 변환 블록의 트리 구조와 현재 블록의 색차 성분을 위한 변환 블록의 트리 구조가 동일할 수 있다. 이 경우, 휘도 성분에 대한 cbf 정보, 및 색차 성분 각각에 대한 cbf 정보들이 획득될 수 있다. 다른 일 실시예에 따라, 변환 블록의 treeType이 DUAL_TREE_LUMA 또는 DUAL_TREE_CHROMA를 나타내는 경우, 현재 블록의 휘도 성분과 색차 성분이 각각 서로 다른 구조의 변환 블록들로 분할될 수 있다. 변환 블록의 treeType이 DUAL_TREE_LUMA를 나타내는 경우, 현재 처리되는 변환 블록이 휘도 성분 블록임을 의미한다. 이에 따라, 휘도 성분에 대한 cbf 정보가 획득될 수 있다. 또한, 변환 블록의 treeType 정보가 DUAL_TREE_CHROMA를 나타내는 경우, 현재 처리되는 변환 블록이 색차 성분 블록임을 의미한다. 이에 따라, 색차 성분에 대한 cbf 정보가 획득될 수 있다.

도 15(a)에서, tu_cbf_luma[ x0 ][ y0 ]는 휘도 성분 변환 블록이 0이 아닌 계수를 하나 이상 포함하는지를 지시하는 요소로, 1인 경우 픽쳐의 좌상단 휘도 성분 샘플 위치를 기준으로 블록의 좌상단 휘도 성분 샘플의 위치가 (x0, y0)인 해당 변환 블록 내에 0이 아닌 계수가 존재함을 표현한다. 일 예로서, tu_cbf_luma[ x0 ][ y0 ]가 존재하지 않을 경우, 0으로 추론될 수 있다. tu_cbf_luma[ x0 ][ y0 ]가 0인 경우, 해당 휘도 변환 블록 내의 모든 계수가 0임을 나타내므로 복호화기에서는 추가적인 파싱과 역양자화, 역변환을 거치지 않고 휘도 성분에 대한 해당 잔차 신호를 복원할 수 있다. tu_cbf_luma[ x0 ][ y0 ]가 1인 경우, 해당 휘도 변환 블록 내에 하나 이상의 0이 아닌 변환 계수가 존재함을 의미하므로, residual_coding 신택스 구조에서 변환 계수와 관련된 신택스 요소의 파싱과 역양자화 과정이 필요하며, 역양자화된 계수에 대하여 역변환을 적용함으로써 잔차 신호를 복원할 수 있다. tu_cbf_luma[ x0 ][ y0 ]는 컨텍스트를 고려하는 CABAC의 정규 코딩 엔진(regular coding engine)을 사용하여 부호화/복호화될 수 있다.

tu_cbf_cb[ x0 ][ y0 ]는 색차 성분 Cb 변환 블록이 0이 아닌 계수를 하나 이상 포함하는지를 지시하는 요소로, 1인 경우 좌상단 위치가 (x0, y0)인 해당 변환 블록 내에 0이 아닌 계수가 존재함을 표현한다. 일 예로서, tu_cbf_cb[ x0 ][ y0 ]가 존재하지 않을 경우, 0으로 추론될 수 있다. tu_cbf_cb[ x0 ][ y0 ]가 0인 경우, 해당 Cb 변환 블록 내의 모든 계수가 0임을 나타내므로 복호화기에서는 추가적인 파싱과 역양자화, 역변환 과정 없이 Cb 신호에 대한 잔차 신호를 복원할 수 있다. tu_cbf_cb[ x0 ][ y0 ]가 1인 경우, 해당 Cb 변환 블록 내에 하나 이상의 0이 아닌 변환 계수가 존재함을 의미하므로, residual_coding 신택스 구조에서 변환 계수와 관련된 신택스 요소의 파싱과 역양자화 과정이 필요하며, 역양자화된 계수에 대하여 역변환을 적용함으로써 잔차 신호를 복원할 수 있다. tu_cbf_cb[ x0 ][ y0 ]는 컨텍스트를 고려하는 CABAC의 정규 코딩 엔진(regular coding engine)을 사용하여 부호화/복호화될 수 있다.

tu_cbf_cr[ x0 ][ y0 ]는 색차 성분 Cr 변환 블록이 0이 아닌 계수를 하나 이상 포함하는지를 지시하는 요소로, 1인 경우 좌상단 위치가 (x0, y0)인 해당 변환 블록 내에 0이 아닌 계수가 존재함을 표현한다. 일 예로서, tu_cbf_cr[ x0 ][ y0 ]가 존재하지 않을 경우, 0으로 추론될 수 있다. tu_cbf_cr[ x0 ][ y0 ]가 0인 경우, 해당 Cr 변환 블록 내의 모든 계수가 0임을 나타내므로 복호화기에서는 추가적인 파싱과 역양자화, 역변환 과정 없이 Cr 신호에 대한 잔차 신호를 복원할 수 있다. tu_cbf_cr[ x0 ][ y0 ]가 1인 경우, 해당 Cr 변환 블록 내에 하나 이상의 0이 아닌 변환 계수가 존재함을 의미하므로, residual_coding 신택스 구조에서 변환 계수와 관련된 신택스 요소의 파싱과 역양자화 과정이 필요하며, 역양자화된 계수에 대하여 역변환을 적용함으로써 잔차 신호를 복원할 수 있다. tu_cbf_cr[ x0 ][ y0 ]는 컨텍스트를 고려하는 CABAC의 정규 코딩 엔진(regular coding engine)을 사용하여 부호화/복호화될 수 있다.

다음으로, 인코더 및 디코더는 현재 변환 블록에서 MTS 방법이 사용되는지를 나타내는 MTS 정보(cu_mts_flag)를 파싱하기 위한 조건을 확인할 수 있다(S1502). 이하에서는 cu_mts_flag를 파싱하기 위한 조건들에 대해 설명하도록 한다. 먼저, 현재 변환 블록의 상위 레벨 헤더를 통해 시그널링된 상위 레벨 MTS 정보(sps_mts_intra_enabled_flag 및 sps_mts_inter_enabled_flag)에 기초하여 cu_mts_flag의 파싱 여부가 결정될 수 있다. 상위 레벨 MTS 정보는 기본 변환 커널 이외의 다른 변환 커널이 사용될 수 있는지를 나타내는 정보일 수 있다. 일 실시예에 따라, sps_mts_intra_enabled_flag가 0인 경우, 해당 SPS에 속한 인트라 예측된 블록에 대응하는 cu_mts_flag가 존재하지 않음을 나타낼 수 있다. 이 경우, cu_mts_flag가 파싱되지 않는다. 반대로, sps_mts_intra_enabled_flag가 1인 경우, 해당 SPS에 속한 인트라 예측된 블록에 대응하는 cu_mts_flag 존재함을 나타낼 수 있다. 이 경우, cu_mts_flag가 시그널링 및 파싱될 수 있다.

마찬가지로, sps_mts_inter_enabled_flag가 0인 경우, 해당 SPS에 속한 인터 예측된 블록에 대응하는 cu_mts_flag가 존재하지 않음을 나타낼 수 있다. 이 경우, cu_mts_flag가 파싱되지 않는다. 반대로, sps_mts_inter_enabled_flag가 1인 경우, 해당 SPS에 속한 인터 예측된 블록에 대응하는 cu_mts_flag 존재함을 나타낼 수 있다. 이 경우, cu_mts_flag가 시그널링 및 파싱될 수 있다. 상위 레벨 MTS 정보는 시퀀스, 픽쳐 또는 슬라이스/타일의 헤더를 통해와 같은 하이 레벨 신택스(high level syntax)를 통해 시그널링될 수 있다.

또한, CuPredMode[ x0 ][ y0 ]는 픽쳐의 휘도 성분 좌상단 좌표를 기준으로 좌상단 휘도 성분 샘플의 위치가 (x0, y0)인 변환 블록의 예측 모드를 나타내는 변수이다. CuPredMode[ x0 ][ y0 ]가 MODE_INTRA인 경우, 해당 블록에 인트라 예측이 적용되는 것을 나타낸다. 또한, MODE_INTER인 경우, 해당 블록에 인터 예측 이 적용되는 것을 나타낸다. 즉, S1502에서, (CuPredMode[ x0 ][ y0 ] = = MODE_INTRA) && sps_mts_intra_enabled_flag)는 현재 변환 블록에 인트라 예측이 적용되는 경우 MTS를 적용할 수 있는지를 검사한다. 또한, S1502에서, (CuPredMode[ x0 ][ y0 ] = = MODE_INTER) && sps_mts_inter_enabled_flag)는 현재 변환 블록에 인터 예측이 적용되는 경우 MTS를 적용할 수 있는지를 검사한다.

또한, tu_cbf_luma[ x0 ][ y0 ]에 기초하여 cu_mts_flag의 파싱 여부가 결정될 수 있다. tu_cbf_luma[ x0 ][ y0 ]이 해당 변환 블록의 휘도 성분의 모든 계수가 0인 것을 나타내는 경우, 역변환을 수행할 필요가 없기 때문이다. 추가적인 실시예에 따라, 색차 성분에 대한 변환에 있어서는 DCT-II에 기반한 변환 커널만이 사용될 수 있다. 또한, cu_mts_flag의 파싱 여부는, 변환 블록의 높이(tbHeight) 및 너비(tbWidth)가 기 설정된 길이 이하인지에 기초하여 결정될 수 있다. 전술한 조건들을 정리하면 다음과 같다.

조건 i) sps_mts_intra_enabled_flag == 1 이고, CuPredMode[ x0 ][ y0 ] == MODE_INTRA 또는 sps_mts_inter_enabled_flag == 1 이고, CuPredMode[ x0 ][ y0 ] == MODE_INTER,

조건 ii) tu_cbf_luma[ x0 ][ y0 ] == 1,

조건 iii) treeType != DUAL_TREE_CHROMA,

조건 iv) tbWidth <= 32이고, tbHeight <= 32.

전술한 네 개의 조건을 모두 만족하는 경우, 디코더는 cu_mts_flag를 파싱할 수 있다. 또한, 인코더는 cu_mts_flag를 엔트로피 코딩하여 시그널링할 수 있다. cu_mts_flag[ x0 ][ y0 ]가 1인 경우, 현재 변환 블록에 MTS 방법이 적용됨을 의미할 수 있다. 반대로, cu_mts_flag[ x0 ][ y0 ]가 0인 경우, 현재 변환 블록에 MTS 방법이 적용되지 않음을 나타낼 수 있다. 이 경우, DCT-II에 기반한 변환 커널과 같은 기본 커널을 사용하여 역변환이 수행될 수 있다. cu_mts_flag[ x0 ][ y0 ]가 존재하지 않을 경우, cu_mts_flag[ x0 ][ y0 ]는 ‘0’으로 추론될 수 있다.

본 발명의 일 실시예에 따라, 변환 블록의 변환에 사용되는 변환 커널은 현재 블록의 상위 레벨 헤더 및 변환 블록의 헤더를 통해 단계적으로 시그널링될 수 있다. 먼저, 현재 블록을 포함하는 시퀀스, 픽쳐 또는 슬라이스/타일에서 기본 변환 커널 이외의 다른 변환 커널이 사용될 수 있는지를 나타내는 정보가 상위 레벨 헤더를 통해 시그널링될 수 있다. 또한, 해당 정보는 인트라 예측 및 인터 예측 각각에 대해서 개별적으로 시그널링될 수 있다. 구체적인 실시예에 따라, 시퀀스, 픽쳐 또는 슬라이스/타일의 헤더를 통해 sps_mts_intra_enabled_flag 및 sps_mts_inter_enabled_flag가 시그널링될 수 있다. sps_mts_intra_enabled_flag는 인트라 예측된 블록의 변환에 있어서, 기본 변환 커널 이외의 다른 변환 커널이 사용될 수 있는지를 나타내는 정보일 수 있다. 또한, sps_mts_inter_enabled_flag는 인터 예측된 블록의 변환에 있어서, 기본 변환 커널 이외의 다른 변환 커널이 사용될 수 있는지를 나타내는 정보일 수 있다. 기본 변환 커널은 DCT-II에 기반하는 변환 커널일 수 있다.

즉, sps_mts_intra_enabled_flag가 기본 변환 커널 이외의 다른 변환 커널에 대한 사용이 허용되지 않음을 나타내고, 현재 블록이 인트라 예측된 블록인 경우, 현재 블록으로부터 획득된 변환 블록의 변환 커널과 관련된 정보는 추가적으로 파싱되지 않을 수 있다. 이 경우, 해당 변환 블록은 기본 변환 커널에 기초하여 변환될 수 있다. 또한, sps_mts_inter_enabled_flag가 기본 변환 커널 이외의 다른 변환 커널에 대한 사용이 허용되지 않음을 나타내고, 현재 블록이 인터 예측된 블록인 경우, 현재 블록으로부터 획득된 변환 블록의 변환 커널과 관련된 정보는 추가적으로 파싱되지 않을 수 있다. 이 경우, 해당 변환 블록은 기본 변환 커널에 기초하여 변환될 수 있다.

반면, 상위 레벨 헤더를 통해 시그널링된 정보가 기본 변환 커널 이외의 다른 변환 커널이 사용될 수 있음을 나타내는 경우, 변환 블록의 헤더를 통해 해당 변환 블록의 변환 커널과 관련된 추가적인 정보가 시그널링될 수 있다. 예를 들어, 변환 블록의 변환에 있어서, 기본 변환 커널이 아닌 다른 변환 커널이 사용되는지를 나타내는 정보가 해당 변환 블록의 헤더를 통해 시그널링될 수 있다.

본 발명의 일 실시예에 따라, 변환 블록에 대한 기본 변환 커널 이외의 다른 변환 커널의 사용은 해당 변환 블록의 크기에 따라 제한될 수 있다. 예를 들어, 변환 블록의 크기가 기 설정된 크기 보다 큰 경우, 해당 변환 블록에 대한 변환에 있어서 기본 변환 커널 이외의 다른 변환 커널에 대한 사용이 제한될 수 있다. 일 실시예에 따라, 변환 블록의 높이 또는 너비 중 적어도 하나가 기 설정된 길이 보다 긴 경우, 해당 변환 블록에 대한 변환에 있어서 기본 변환 커널 이외의 다른 변환 커널에 대한 사용이 허용되지 않을 수 있다. 예를 들어, 기 설정된 길이는 32일 수 있다. 도 15(a)를 참조하면, 변환 블록의 너비가 32 이하이고, 높이가 32이 이하인 경우 전술한 변환 블록의 헤더를 통해 시그널링되는 cu_mts_flag[ x0 ][ y0 ]가 파싱될 수 있다.

도 15(a)에 도시된 바와 같이, 전술한 cbf 정보가 변환 블록이 0이 아닌 변환 계수를 적어도 하나 포함함을 나타내는 경우, 해당 변환 블록에 대한 양자화된 변환 계수를 획득하는 과정이 수행될 수 있다(S1503 내지 S1505). S1503에서, tu_cbf_luma[ x0 ][ y0 ] == 1인 경우, 변환 블록의 휘도 성분에 대한 레지듀얼 코딩이 수행될 수 있다. 즉, 특정 입력 인자를 받는 레지듀얼 코딩 신택스 구조(residual_coding())의 처리가 수행될 수 있다. 구체적으로, residual_coding()는 변환 블록의 좌상단 샘플의 좌표(x0, y0), 변환 블록의 너비에 밑이 2인 로그를 취한 값(log2(tbWidth)) 및 변환 블록의 높이에 밑이 2인 로그를 취한 값(log2(tbHeight))을 입력 인자로 받을 수 있다. 또한, residual_coding()는 컬러 인덱스(cdIdx)를 입력 인자로 받을 수 있다. cdIdx의 값은 ‘0’인 경우 휘도 성분 luma를 의미하며, ‘1’인 경우 제1 색차 성분 Cb를 의미하며, ‘2’인 경우 제2 색차 성분 Cr을 나타낸다.

S1504에서, tu_cbf_cb[ x0 ][ y0 ] == 1인 경우, 제1 색차 성분에 대한 레지듀얼 코딩이 수행될 수 있다. 구체적으로, residual_coding()는 변환 블록의 좌상단 샘플의 좌표(x0, y0)를 입력 인자로 받을 수 있다. 컬러 포맷 YCbCr 이 4:2:0인 경우, 색차 성분에 대한 변환 블록의 크기는 휘도 성분 블록 크기의 절반일 수 있다. 이에 따라, residual_coding()은 색차 성분 블록의 너비(tbWidth/2)에 밑이 2인 로그를 취한 값(log2(tbWidth/2)) 및 색차 성분 블록의 높이(tbHeight/2)에 밑이 2인 로그를 취한 값(log2(tbHeight/2))을 입력 인자로 받을 수 있다. 한편, 컬러 포맷 YCbCr 이 4:4:4인 경우, 변환 블록의 색차 성분 블록의 크기는 휘도 성분 블록 크기와 동일할 수 있다. 이 경우, residual_coding()은 휘도 성분에 대한 레지듀얼 코딩과 마찬가지로 변환 블록의 너비에 밑이 2인 로그를 취한 값(log2(tbWidth)) 및 변환 블록의 높이에 밑이 2인 로그를 취한 값(log2(tbHeight))을 입력 인자로 받을 수 있다.

S1505에서, tu_cbf_cr[ x0 ][ y0 ] == 1인 경우, 제2 색차 성분에 대한 레지듀얼 코딩이 수행될 수 있다. 구체적으로, residual_coding()는 변환 블록의 좌상단 샘플의 좌표(x0, y0)를 입력 인자로 받을 수 있다. 컬러 포맷 YCbCr 이 4:2:0인 경우, 색차 성분에 대한 변환 블록의 크기는 휘도 성분 블록 크기의 절반일 수 있다. 이에 따라, residual_coding()은 색차 성분 블록의 너비(tbWidth/2)에 밑이 2인 로그를 취한 값(log2(tbWidth/2)) 및 색차 성분 블록의 높이(tbHeight/2)에 밑이 2인 로그를 취한 값(log2(tbHeight/2))을 입력 인자로 받을 수 있다. 한편, 컬러 포맷 YCbCr 이 4:4:4인 경우, 변환 블록의 색차 성분 블록의 크기는 휘도 성분 블록 크기와 동일할 수 있다. 이 경우, residual_coding()은 휘도 성분에 대한 레지듀얼 코딩과 마찬가지로 변환 블록의 너비에 밑이 2인 로그를 취한 값(log2(tbWidth)) 및 변환 블록의 높이에 밑이 2인 로그를 취한 값(log2(tbHeight))을 입력 인자로 받을 수 있다.

디코더는 전술한 변환 관련 정보들에 기초하여 해당 변환 블록에 대한 역양자화 및 역변환을 수행할 수 있다. 디코더는 역양자화 및 역변환을 수행하여 변화 블록에 대응하는 레지듀얼 신호를 획득할 수 있다. 구체적으로, 디코더는 도 15(b)의 레지듀얼 코딩 신택스(residual_coding())를 통해 변환 블록의 양자화된 변환 계수로부터 레지듀얼 신호를 획득할 수 있다.

도 15(b)의 residual_coding()은 현재 블록을 포함하는 픽쳐의 좌상단 좌표를 기준으로, 현재 블록으로부터 획득된 변환 블록의 좌상단 좌표, 변환 블록의 너비에 밑이 2인 로그를 취한 값, 변환 블록의 높이에 밑이 2인 로그를 취한 값 및 컬러 인덱스(cIdx)를 인자로 받는다. 또한, 레지듀얼 코딩 신택스 구조는 변환 블록 내에 존재하는 양자화된 변환 계수와 관련된 신택스 요소를 포함할 수 있고, 디코더는 레지듀얼 신택스 구조에 포함된 양자화된 변환 계수와 관련된 신택스 요소들을 파싱하여 양자화된 변환 계수 블록을 획득할 수 있다. 디코더의 역변환부는 양자화된 변환 계수 블록에 역양자화 및 역변환을 수행하여 변환 블록에 대응하는 레지듀얼 신호를 복원한다.

일 실시예에 따라, 디코더는 현재 변환 블록의 변환 스킵 플래그(transform_skip_flag)에 대한 파싱 여부를 결정할 수 있다(S1506). transform_skip_flag를 파싱하기 위한 조건들은 다음과 같다.

조건 i) High level syntax에 포함된 1-bit 플래그인 transform_skip_enabled_flag가 1 (on)인 경우: transform_skip_enabled_flag는 SPS (sequence parameter set), PPS (picture parameter set), slice header 중 어느 하나에 포함될 수 있으며, transform_skip_enabled_flag가 1인 경우, residual coding syntax에서 transform_skip_flag가 존재함을 나타내며, 0인 경우에는 존재하지 않음을 나타낸다.

조건 ii) 휘도 성분 변환 블록이 아니거나 (cIdx != 0), MTS를 적용하지 않는 경우 (cu_mts_flag[ x0 ][ y0 ] == 0): 변환 스킵은 휘도 성분과 색차 성분 모두에 적용이 가능하다. 휘도 성분 변환 블록에 대해 MTS를 적용하는 경우 (cIdx == 0 && cu_mts_flag[ x0 ][ y0 ] == 1), 변환을 수행하는 것이 명백하므로 trnasform_skip_flag[ x0 ][ y0 ][ cIdx]를 부호화/복호화할 필요가 없다.

조건 iii) 변환 블록의 너비가 4 이하이고 (log2TbWidth <= 2), 높이가 4이하인 (log2TbHeight <= 2) 경우

상기 기술한 조건에 따라 transform_skip_flag[ x0 ][ y0 ][ cIdx ]의 파싱 여부가 결정될 수 있다. transform_skip_flag[ x0 ][ y0 ][ cIdx]가 1인 경우, 디코더는 변환을 수행하지 않을 수 있다. transform_skip_flag[ x0 ][ y0 ][ cIdx]가 0인 경우, 디코더는 다른 신택스 요소들을 참조하여 현재 변환 블록에 대한 변환 여부를 판단할 수 있다. 도 15(b)에서 생략된 residual_coding() 부분을 통해 디코더는 양자화된 변환 계수를 파싱하고 복원하는 과정을 수행할 수 있다.

다음으로, 디코더는 세트 인덱스(mts_idx)의 파싱 여부를 결정할 수 있다(S1507). mts_idx를 파싱하기 위한 조건들은 다음과 같다.

i) cu_mts_flag[ x0 ][ y0 ] == 1 이고, 휘도 성분 변환 블록인 경우 (cIdx == 0)

ii) transform_skip_flag[ x0 ][ y0 ] == 0: transform_skip_flag[ x0 ][ y0 ]가 1인 경우, 변환 생략이 적용됨을 지시하므로 어떤 변환 커널이 사용되는지를 결정할 필요가 없다.

iii) 현재 변환 블록이 인트라 예측된 블록의 적어도 일부이고 (CuPredMode[ x0 ][ y0 ] == MODE_INTRA) 해당 블록 내에 0이 아닌 계수가 3개 이상이거나 (numSigCoeff > 2), 현재 변환 블록이 인터 예측된 블록의 적어도 일부((CuPredMode[ x0 ][ y0 ] == MODE_INTER) (여기에서, numSigCoeff 변수는 변환 블록 내에 존재하는 0이 아닌 계수의 개수를 나타냄.)

조건 iii)과 관련하여, 변환 블록 내에 존재하는 0이 아닌 계수의 개수가 2개 이하인 경우 (1 또는 2), 현재 변환 블록에 대해 mts_idx[ x0 ][ y0 ]의 시그널링/파싱 없이 기 설정된 변환 커널을 사용하는 변환이 수행될 수 있다. 이때, 기 설정된 변환 커널은 DST-VII에 기반한 변환 커널일 수 있으며, 또한 DST-VII에 기반한 변환 커널 대신 DST-IV에 기반한 변환 커널을 사용할 수도 있다.

본 발명의 실시예에 따르면, 잔차 신호의 에너지 분포는 블록의 모양과 상관 관계가 있으므로, 블록의 모양을 고려하여 변환 커널을 적응적으로 적용할 경우, 잔차 신호를 더욱 효율적으로 부호화할 수 있다.

도 16은 본 발명의 실시예에 따른 블록의 모양에 기초하여 변환 커널을 선택하는 방법을 설명하기 위한 도면이다. 본 발명의 일 실시예에 따르면, 현재 블록에 MTS가 적용됨을 지시하는 MTS 플래그(예컨대, cu_mts_flag)가 0인 경우, 인코더/디코더는 인트라 블록에 대하여 블록의 모양(또는 블록의 너비/높이)에 따라 변환 커널(또는 변환 타입)을 선택할 수 있다. 만약, MTS 플래그가 0인 경우, 현재 블록에 적용되는 특정 변환 커널을 지시하는 MTS 인덱스(예컨대, mts_idx)는 시그널링되지 않고, -1로 추론될 수 있다. 후술하는 실시예들에는, MTS 플래그가 0인 경우 인코더/디코더는 현재 블록의 크기 또는 모양에 따라 인트라 예측된 블록에 사용되는 변환 커널을 선택할 수 있고, 인터 예측된 블록에 대해서는 블록의 모양에 관계없이 수평 및 수직 방향에 대하여 DCT-II를 적용할 수 있다.

본 발명에서, MTS 플래그에 기초하여 MTS가 적용되는 경우와 그렇지 않은 경우를 구분하여 설명하나, 본 발명이 이러한 표현에 제한되는 것은 아니다. 예를 들어, MTS의 적용 여부는, 미리 정의된 특정 변환 커널(기본 변환 타입, 디폴트 변환 타입 등으로 지칭될 수 있음) 이외의 다른 변환 커널을 사용하는지 여부와 동일한 의미를 나타낼 수 있다. 만약 MTS가 적용되는 경우, 기본 변환 타입 이외의 다른 변환 타입(예컨대, 복수의 변환 타입들 중 어느 하나 또는 둘 이상의 조합된 변환 타입)이 변환에 이용되고, MTS가 적용되지 않는 경우, 기본 변환 타입이 변환에 이용될 수 있다. 일 예로서, 상기 기본 변환 타입은 DCT-II로 설정(또는 정의)될 수 있다.

본 발명의 일 실시예에서, 인코더/디코더는 인트라 예측된 블록이 정사각형 블록(즉, 정방형 블록)인 경우, 가로 방향(또는 수평 방향) 및 세로 방향(또는 수직 방향)에 대하여 DCT-II를 적용할 수 있다. 그리고, 인코더/디코더는 인트라 예측된 블록이 직사각형 블록(즉, 비정방형 블록)인 경우, 긴 길이의 방향에 대해서는 DCT-II를 적용하고, 짧은 길이의 방향에 대해서는 DST-VII을 적용할 수 있다. 이때, 만약 짧은 길이가 DST-VII의 최대 변환 크기보다 큰 경우, 인코더/디코더는 DCT-II를 사용할 수 있다. 예를 들어, DST-VII의 최대 변환 크기가 16-포인트(point)(또는 32-길이)인 경우, 64x16 블록의 가로 방향에 대해서는 DCT-II를 적용하고, 세로 방향에 대해서는 DST-VII을 적용할 수 있다. 또한, 64x32 블록에 대해서는 가로와 세로 방향 모두에 DCT-II를 적용할 수 있다.

또한, 본 발명의 일 실시예에서, 인코더/디코더는 인트라 예측된 블록이 정사각형 블록인 경우, 가로 방향 및 세로 방향에 대하여 DCT-II를 적용할 수 있고, 직사각형 블록인 경우, 긴 길이의 뱡향에 대해서는 DCT-II를 적용하고, 짧은 길이의 방향에 대해서는 1-bit 플래그(flag)를 시그널링하여 DCT-II 또는 DST-VII을 사용할 수 있다. 단, 인코더/디코더는 짧은 변의 길이가 DST-VII의 최대 변환 크기보다 큰 경우 1-bit 플래그의 시그널링 없이 DCT-II를 사용할 수 있다. 예를 들어, DST-VII의 최대 변환 크기가 16-포인트인 경우, 64x16의 수평 방향에 대해서는 DCT-II를 적용하고, 수직 방향에 대해서는 1-bit 플래그를 파싱하여 DCT-II 또는 DST-VII을 적용할 수 있으며, 64x32 블록에 대해서는 수평과 수직 방향 모두에 DCT-II를 적용할 수 있다. 인트라 예측의 특성 상, DST-VII이 효율적이라 볼 수 있으나 DST-VII 보다 DCT-II를 사용하는 경우가 더 작은 율-왜곡 비용을 발생시킬 수도 있으므로 앞선 실시예와 달리 본 실시예에서는 1-bit 시그널링으로 짧은 길이의 방향에 대하여 추가적으로 DCT-II를 고려할 수 있다. 즉, 1-bit 플래그가 0인 경우, 짧은 길이의 방향에 DCT-II가 적용됨을 나타내고, 1인 경우, 짧은 길이의 방향에 DST-VII이 적용됨을 나타낼 수 있다. 일 실시예에서, 1-bit 플래그는 컨텍스트(context)를 이용하는 CABAC의 정규 코딩 엔진(regular coding engine)을 사용하여 부호화/복호화될 수 있다.

또한, 본 발명의 일 실시예에서, 인코더/디코더는 인트라 예측된 블록에 대하여, 정사각형 블록의 경우, 가로 방향과 세로 방향에 대하여 DCT-II를 적용할 수 있고, 직사각형 블록의 경우, 긴 길이의 방향에 대해서는 DCT-II를 적용하고, 짧은 길이의 방향에 대해서는 DST-IV 또는 DST-VII을 적용할 수 있다. 단, 짧은 길이가 DST-VII의 최대 변환 크기보다 큰 경우, DCT-II를 적용할 수 있다. 전술한 바와 같이, DST-VII의 구현 복잡도가 높은 편이므로 저주파 기저 함수의 패턴이 유사한 DST-IV를 대신 사용할 수 있으나, 모든 모든 크기에 대하여 DST-VII을 DST-IV로 대체할 경우 부호화 효율이 저하될 수 있으므로 작은 크기인 4-point 크기에 대해서는 DST-IV를 사용하고 이외의 크기에서는 DST-VII을 사용할 수도 있다.

또한, 본 발명의 일 실시예에서, 인코더/디코더는 인트라 예측된 블록에 대하여, 정사각형 블록의 경우, 가로 방향과 세로 방향에 대하여 DCT-II를 적용할 수 있고, 직사각형 블록의 경우, 긴 길이의 방향에 대해서는 DCT-II를 적용하고, 짧은 길이의 방향에 대해서는 인트라 예측 모드에 따라 변환 커널을 결정할 수 있다. 일 예로서, 인코더/디코더는 인트라 예측 모드가 비방향성 모드인 DC 또는 플래너(planar) 모드인 경우, 짧은 길이의 방향에 대해서는 DCT-II를 적용할 수 있다.

인코더/디코더는 블록의 가로 길이가 세로 길이 보다 긴 수평 직사각형에 대하여 인트라 예측 모드가 수평 방향 모드(즉, 수평 대각 모드보다 크거나 같고 중앙 대각 모드보다 작거나 같은 인트라 예측 모드)인 경우, 짧은 길이의 방향 (세로 방향)에 대하여 DCT-II를 적용할 수 있다. 그리고, 인코더/디코더는 인트라 예측 모드가 수직 방향 모드(즉, 중앙 대각 모드보다 크고 수직 대각 모드보다 작거나 같은 인트라 예측 모드)인 경우, 짧은 길이의 방향에 대하여 DST-VII을 적용할 수 있다. 인코더/디코더는 블록의 세로 길이가 가로 길이 보다 긴 수직 직사각형에 대하여 인트라 예측 모드가 수평 방향 모드인 경우, 짧은 길이의 방향(가로 방향)에 대하여 DST-VII을 적용할 수 있고, 인트라 예측 모드가 수직 방향 모드인 경우, DCT-II를 적용할 수 있다.

본 발명의 일 실시예에 따르면, 이상에서 설명한 실시예들의 블록 모양에 기반하여 적응적으로 변환 커널을 결정하는 방법을 나타내는 모양 적응적 변환(SAT, Shape Adaptive Transform)의 적용 여부는 상위 레벨 신택스(high level syntax)를 통해 인코더로부터 디코더로 시그널링될 수 있다. 실시예로서, SAT의 적용 여부는 시퀀스 파라미터 세트(SPS, sequence parameter set), 픽쳐 파라미터 세트(PPS, picture parameter set), 슬라이스 헤더(slice header), 타일 헤더(tile header)를 통해 시그널링될 수 있다. 또한, 상기 SAT의 적용 여부를 지시하는 신택스 요소는 1-bit 플래그일 수 있다. 이하에서는, SAT의 적용 여부를 상위 레벨 신택스에서 지시하는 방법들에 대하여 설명한다. 본 발명에서, 설명의 편의를 위해 블록의 크기 또는 모양에 기초하여 적응적으로 변환 커널을 결정하는 방법을 SAT로 지칭하나, 본 발명이 이러한 명칭에 한정되는 것은 아니다. 예를 들어, 상기 SAT는 암시적(implicit) MTS로 지칭될 수도 있다.

이하에서는, 표 1 내지 표 8을 참조하여, SAT의 적용 여부에 관련된 신택스 시그널링 방법을 예로 들어 설명한다. SAT의 적용 여부를 나타내는 플래그가 SPS에 포함되는 경우를 위주로 실시예를 기술하나, 본 발명은 이에 제한되지 않는다.

표 1을 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부를 나타내는 신택스 요소는 MTS의 적용 여부를 나타내는 신택스 요소와 독립적으로 시그널링될 수 있다. 즉, 실시예로서, 현재 시퀀스에 MTS가 적용될 수 있는지를 지시하는 sps_mts_enabled_flag가 시그널링될 수 있으며, sps_mts_enabled_flag의 값에 관계없이, 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 sps_sat_enabled_flag가 시그널링될 수 있다. 즉, sps_mts_enabled_flag와는 별개로, sps_sat_enabled_flag의 값에 따라 현재 시퀀스에 SAT를 적용할 수 있는지가 결정될 수 있다.

표 2를 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부를 나타내는 신택스 요소는 MTS의 적용 여부를 나타내는 신택스 요소에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 MTS가 적용될 수 있는지를 지시하는 sps_mts_enabled_flag가 먼저 시그널링될 수 있으며, sps_mts_enabled_flag 값에 따라 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 sps_sat_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_mts_enabled_flag가 1인 경우, sps_sat_enabled_flag는 시그널링되지 않을 수 있다. 이 경우, sps_sat_enabled_flag는 시그널링 없이, 0으로 설정(또는 추론)될 수 있으며, 이는 현재 시퀀스 내의 모든 블록에 SAT를 사용하지 않음을 나타낼 수 있다. sps_mts_enabled_flag가 0인 경우, sps_sat_enabled_flag가 시그널링될 수 있으며, 디코더는 시그널링된 sat_enabled_flag의 값에 따라 현재 시퀀스에 SAT를 사용할 수 있는지를 결정할 수 있다.

표 3을 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부를 나타내는 신택스 요소는 MTS의 적용 여부를 나타내는 신택스 요소에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 MTS가 적용될 수 있는지를 지시하는 sps_mts_enabled_flag가 먼저 시그널링될 수 있으며, sps_mts_enabled_flag 값에 따라 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 sps_sat_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_mts_enabled_flag가 1인 경우, sps_sat_enabled_flag는 시그널링되지 않을 수 있다. 이 경우, sps_sat_enabled_flag는 시그널링 없이, 1로 설정(또는 추론)될 수 있으며, 이는 현재 시퀀스 내의 모든 블록에 SAT를 사용할 수 있음을 나타낼 수 있다. sps_mts_enabled_flag가 0인 경우, sps_sat_enabled_flag가 시그널링될 수 있으며, 디코더는 시그널링된 sat_enabled_flag의 값에 따라 현재 시퀀스에 SAT를 사용할 수 있는지를 결정할 수 있다.

표 4를 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부는 현재 시퀀스에서 DCT-II 변환 커널만을 사용함을 지시하는 플래그(또는 신택스 요소)에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 MTS가 적용될 수 있는지를 지시하는 sps_mts_enabled_flag가 먼저 시그널링될 수 있으며, sps_mts_enabled_flag에 따라 현재 시퀀스에서 DCT-II 변환 커널만을 사용하는지를 지시하는 플래그인 sps_only_dct2_enabled_flag가 시그널링될 수 있다. 예를 들어, sps_mts_enabled_flag가 0인 경우, sps_only_dct2_enabled_flag가 시그널링될 수 있다. sps_only_dct2_enabled_flag가 1인 경우, 현재 시퀀스 내의 모든 블록은 SAT를 사용할 수 없음을 나타내고, sps_only_dct2_enabled_flag가 0인 경우, 현재 시퀀스에서 SAT를 사용할 수 있음을 나타낼 수 있다. sps_mts_enabled_flag가 1인 경우, sps_only_dct2_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있으며, sps_only_dct2_enabled_flag가 0으로 설정(또는 추론)되는 경우, 현재 시퀀스에서 SAT를 사용할 수 있음을 나타낼 수 있다.

표 5를 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부는 현재 시퀀스에서 DCT-II 변환 커널만을 사용함을 지시하는 플래그(또는 신택스 요소)에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 DCT-II 변환 커널만을 사용하는지를 지시하는 플래그인 sps_only_dct2_enabled_flag가 먼저 시그널링될 수 있다. 그리고, sps_only_dct2_enabled_flag에 따라 현재 시퀀스에 MTS를 사용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_only_dct2_enabled_flag가 1인 경우, sps_mts_enabled_flag는 시그널링 없이 0으로 설정(또는 추론_될 수 있으며, 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 플래그인 sps_sat_enabled_flag는 시그널링 없이 0으로 설정될 수 있다. sps_only_dct2_enabled_flag가 0인 경우, sps_mts_enabled_flag가 시그널링될 수 있으며, 이에 따라 sps_sat_enabled_flag는 시그널링 없이 1로 설정되어 디코더는 현재 시퀀스에 SAT를 적용할 수 있다.

표 6을 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부는 현재 시퀀스에서 DCT-II 변환 커널만을 사용함을 지시하는 플래그(또는 신택스 요소)에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 DCT-II 변환 커널만을 사용하는지를 지시하는 플래그인 sps_only_dct2_enabled_flag가 먼저 시그널링될 수 있다. 그리고, sps_only_dct2_enabled_flag에 따라, 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_only_dct2_enabled_flag가 1인 경우, sps_mts_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있으며, 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 플래그인 sps_sat_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있다. sps_only_dct2_enabled_flag가 0인 경우, sps_mts_enabled_flag, sps_sat_enabled_flag가 시그널링될 수 있으며, 시그널링된 sps_sat_enabled_flag 값에 따라 현재 시퀀스에 SAT를 사용할 수 있는지가 결정될 수 있다.

표 7을 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부는 현재 시퀀스에 DCT-II 변환 커널만을 사용함을 지시하는 플래그(또는 신택스 요소) 및 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그(또는 신택스 요소)에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 DCT-II 변환 커널만을 사용하는지를 지시하는 플래그인 sps_only_dct2_enabled_flag가 먼저 시그널링될 수 있다. 그리고, sps_only_dct2_enabled_flag 값에 따라, 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_only_dct2_enabled_flag가 1인 경우, sps_mts_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있으며, 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 플래그인 sps_sat_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있다.

또한, sps_only_dct2_enabled_flag가 0인 경우, sps_mts_enabled_flag가 시그널링될 수 있다. 그리고, sps_mts_enabled_flag가 0인 경우 시그널링된 sps_sat_enabled_flag 값에 따라 현재 시퀀스에 SAT를 사용할 수 있는지 여부가 결정될 수 있다. 반면, sps_mts_enabled_flag가 1인 경우, sps_sat_enabled_flag는 시그널링 없이 0으로 설정될 수 있고, 이는 현재 시퀀스에 SAT를 적용할 수 없음을 나타낼 수 있다.

본 발명의 실시예에 따르면, 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag가 0인 경우, 명시적(explicit) MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소는 0으로 추론될 수 있다. 만약, 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 0인 경우, MTS 인덱스는 시그널링되지 않고, 0으로 추론될 수 있다. 만약, sps_mts_enabled_flag가 1인 경우, 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 시그널링 될 수 있다. 만약, 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 1인 경우, MTS 인덱스가 시그널링될 수 있다. 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 0인 경우, 암시적 MTS가 사용될 수 있다.

표 8을 참조하면, 본 발명의 일 실시예에서, SAT의 적용 여부는 현재 시퀀스에 DCT-II 변환 커널만을 사용함을 지시하는 플래그(또는 신택스 요소) 및 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그(또는 신택스 요소)에 따라 결정될 수 있다. 실시예로서, 현재 시퀀스에 DCT-II 변환 커널만을 사용하는지를 지시하는 플래그인 sps_only_dct2_enabled_flag가 먼저 시그널링될 수 있다. 그리고, sps_only_dct2_enabled_flag 값에 따라 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_only_dct2_enabled_flag가 1인 경우, 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있으며, 현재 시퀀스에 SAT를 적용할 수 있는지를 지시하는 플래그인 sps_sat_enabled_flag는 시그널링 없이 0으로 설정(또는 추론)될 수 있다.

또한, sps_only_dct2_enabled_flag가 0인 경우, sps_mts_enabled_flag가 시그널링될 수 있다. sps_mts_enabled_flag가 0인 경우, 시그널링된 sps_sat_enabled_flag 값에 따라 현재 시퀀스에 SAT를 사용할 수 있는지 여부가 결정될 수 있다. 반면, sps_mts_enabled_flag가 1인 경우, sps_sat_enabled_flag는 시그널링 없이 1로 설정될 수 있고, 이는 현재 시퀀스에 SAT를 적용할 수 있음을 나타낼 수 있다.

본 발명의 실시예에 따르면, 현재 시퀀스에 MTS를 적용할 수 있는지를 지시하는 플래그인 sps_mts_enabled_flag가 0인 경우, 명시적(explicit) MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소는 0으로 추론될 수 있다. 만약, 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 0인 경우, MTS 인덱스는 시그널링되지 않고, 0으로 추론될 수 있다. 만약, sps_mts_enabled_flag가 1인 경우, 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 시그널링 될 수 있다. 만약, 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 1인 경우, MTS 인덱스가 시그널링될 수 있다. 명시적 MTS를 사용할 수 있는지 여부를 지시하는 신택스 요소가 0인 경우, 암시적 MTS가 사용될 수 있다.

도 17은 본 발명의 실시예에 따른 변환 커널을 시그널링 및 결정 방법을 예시하는 도면이다. 도 17을 참조하면, mts_idx[ xTbY ][ yTbY ][ cIdx ]는 픽쳐의 휘도 성분 좌상단 좌표를 기준으로 변환 블록의 좌상단 휘도 성분 좌표가 (xTbY, yTbY)인 변환 블록에 적용되는 변환 커널을 지시하는 신택스 요소(또는 변수)를 나타낸다. cIdx는 컬러 성분을 나타내는 변수로서, 휘도 성분 Y인 경우는 0, 색차 성분 Cb인 경우는 1, 색차 성분 Cr인 경우는 2로 설정될 수 있다.

본 발명의 일 실시예에 따르면, MTS에서 사용되는 변환 커널(또는 변환 타입)은 {DST-VII, DCT-VIII}로 구성될 수 있다. 변환 블록의 수평 및 수직 방향에 적용될 수 있는 변환 커널의 조합은 총 4가지 조합(예를 들어, {수평: DST-VII, 수직: DST-VII}, {수평: DCT-VIII, 수직: DST-VII}, {수평: DST-VII, 수직: DCT-VIII}, {수평: DCT-VIII, 수직: DCT-VIII})으로 구성될 수 있다. 반면, MTS가 사용되지 않는 경우 1 가지 조합({수평: DCT-II, 수직: DCT-II})이 사용될 수 있다. 도 17에서, trTypeHor, trTypeVer는 각각 수평 방향과 수직 방향에 적용되는 변환 커널(또는 변환 타입)을 지시하는 변수이다. 일 예로서, 0은 DCT-II, 1은 DST-VII, 2는 DCT-VIII을 나타낼 수 있다. tu_mts_flag가 존재하지 않는 경우, mts_idx는 시그널링 없이 -1로 설정(또는 추론)될 수 있다. 이 경우 수평 방향과 수직 방향에 모두 DCT-II 커널이 적용될 수 있다.

일 실시예에서, mts_idx는 고정 길이의 2-bit로 시그널링될 수 있다. 도 17을 참조하면, mts_idx가 0인 경우, 비트열 00으로 시그널링될 수 있고, 이 경우 수평과 수직 방향에 모두 DST-VII이 적용될 수 있다. mts_idx가 1인 경우, 비트열 01로 시그널링될 수 있고, 이 경우 수평 방향에 DCT-VIII, 수직 방향에 DST-VII이 적용될 수 있다. mts_idx가 2인 경우 비트열 10으로 시그널링될 수 있고, 이 경우 수평 방향에 DST-VII, 수직 방향에 DCT-VIII이 적용될 수 있다. mts_idx가 3인 경우, 비트열 11로 시그널링될 수 있고, 이 경우 수평 방향과 수직 방향에 모두 DCT-VIII이 적용될 수 있다.

상기 기술한 mts_idx에 따른 변환 커널 결정 방법에서는 변환 커널 세트가 {DST-VII, DCT-VIII}로 구성되는 실시예를 기술하였으나, 본 발명은 이에 국한되지 아니하며 임의의 복수의 변환 커널로 구성되는 변환 커널 세트에서도 다음의 i) 내지 v)와 같이 mts_idx에 따라 수평 방향과, 수직 방향에 적용되는 변환 커널이 결정될 수 있다.

i) mts_idx가 -1 경우: 수평 - DCT-II, 수직 - DCT-II

ii) mts_idx가 0인 경우: 수평 - 변환 세트 내 첫 번째 후보, 수직 - 변환 세트 내 첫 번째 후보

iii) mts_idx가 1인 경우: 수평 - 변환 세트 내 두 번째 후보, 수직 - 변환 세트 내 첫 번째 후보

iv) mts_idx가 2인 경우: 수평 - 변환 세트 내 첫 번째 후보, 수직 - 변환 세트 내 두 번째 후보

v) mts_idx가 3인 경우: 수평 - 변환 세트 내 두 번째 후보, 수직 - 변환 세트 내 두 번째 후보

앞서 설명한 도 15의 변환과 관련된 신택스 구조에서는 MTS와 변환 스킵 (TS, Transform Skip)을 각기 다른 신택스 요소를 활용하여 시그널링하는 방법을 기술하였으나, MTS와 TS를 하나의 신택스 요소를 사용하여 시그널링할 경우, 신택스 파싱 효율을 높일 수 있고, 신택스 구조를 더욱 간결하게 표현할 수 있다. 따라서, 다음의 도면을 참조하여 MTS와 TS를 하나의 신택스 요소를 사용하여 시그널링하는 방법을 설명한다.

도 18은 본 발명의 일 실시예에 따른 다중 변환 선택과 변환 스킵에 관련된 정보를 획득하기 위한 신택스 구조를 나타내고, 도 19는 본 발명의 일 실시예에 따른 다중 변환 선택과 변환 스킵에 관련된 정보를 예시하는 도면이다. 본 발명의 일 실시예에 따르면, MTS와 TS를 하나의 신택스 요소를 사용하여 시그널링할 수 있다. 도 18의 실시예를 설명함에 있어서, 앞서 설명한 도 15와 중복되는 설명은 생략한다. 즉, 도 18에서 언급되지 않는 신택스 요소는 도 15에서 기술된 내용을 참조할 수 있다.

도 18을 참조하면, S1801에서, 디코더는 현재 잔차 신호의 수평 및 수직 방향에 적용되는 변환 커널을 지시하는 신택스 요소 tu_mts_idx[ x0 ][ y0 ]를 파싱할지 여부를 검사(또는 결정)할 수 있다. 상기 신택스 요소는 TS의 적용 여부, MTS의 적용 여부 및 수평과 수직 방향에 적용되는 변환 커널에 관련된 정보를 포함할 수 있다. 실시예로서, tu_mts_idx[ x0 ][ y0 ]는 다음의 조건 i), ii), iii), iv)가 모두 참인 경우 파싱할 수 있고, 컨텍스트(context)를 이용하는 CABAC의 정규 코딩 엔진(regular coding engine)을 사용하여 부호화/복호화될 수 있다.

조건 i) 변수 MaxMtsIdx가 0보다 큰 경우 (MaxMtsIdx > 0)

여기서, MaxMtsIdx는 tu_mts_idx의 최대값을 나타내는 변수를 나타내며, 앞서 도 15 (a)에서 설명한 방법에 따라 결정될 수 있다. 도 19(a)에서 MaxMtsIdx는 MTS를 사용할 수 있는지 및 TS를 사용할 수 있는지에 따라 결정될 수 있다. 도 19(a)의 두 번째 열은 현재 블록이 인터 예측으로 부호화되고, 인터 예측된 블록에 MTS를 사용할 수 있는지를 나타낸다. 만약, 현재 블록이 인터 예측으로 부호화되고(즉, CuPredMode[ x0 ][ y0 ] == MODE_INTER), SPS에서 인터 예측에 대해 MTS를 허용하는 경우(즉, sps_mts_inter_enabled_flag == 1), 두 번째 열의 값은 1이고, 그렇지 않은 경우 0일 수 있다.

도 19(a)의 세 번째 열은 현재 블록이 인트라 예측으로 부호화되고, 인트라 예측된 블록에 MTS를 사용할 수 있는지를 나타낸다. 만약, 현재 블록이 인트라 예측으로 코딩되고(즉, CuPredMode == MODE_INTRA), SPS에서 인트라 예측에 대해 MTS를 허용하는 경우(즉, sps_mts_intra_enabled_flag == 1) 세 번째 열의 값은 1이고, 그렇지 않은 경우 0일 수 있다. 도 18(a)의 네 번째 열은 현재 변환 블록에 TS를 적용할 수 있는 지를 나타낸다. 만약, SPS에서 TS를 사용할 수 있음이 지시되고(transform_skip_enabled_flag), 현재 변환 블록의 너비와 높이가 모두 최대 변환 스킵 크기 이하인 경우(즉, log2TbWidth <= MaxTsSize && log2TbHeight <= MaxTsSize), 네 번째 열의 값은 1이고, 그렇지 않은 경우 0일 수 있다. 이때, sps_transform_skip_enabled_flag가 1인 경우, 최대 변환 스킵 크기에 밑이 2인 로그를 취한 값에 2를 뺀 값을 시그널링하여, 최대 변환 스킵 크기를 표현하는 MaxTsSize를 결정할 수 있으며, MaxTsSize는 2에서 5 사이의 값일 수 있다. 상기 기술한 도 18(a)의 두 번째, 세 번째, 네 번째 열의 값에 따라 변수 MaxMtsIdx의 값이 결정될 수 있다.

조건 ii) 현재 휘도 성분 변환 블록이 0이 아닌 계수를 포함하는 경우 (tu_cbf_luma[ x0 ][ y0 ] == 1)

조건 ii)를 참조하면, 현재 변환 블록이 0이 아닌 계수를 포함하지 않는 경우에는 MTS와 TS를 적용할 필요가 없다. 이 경우, 디코더는 역양자화, 역변환을 수행하지 않고, 잔차 신호를 복원할 수 있다.

조건 iii) 현재 처리되는 코딩 트리가 색차 성분만을 포함하는 트리가 아닐 경우(treeType != DUAL_TREE_CHROMA)

조건 iii)을 참조하면, 앞서 도 15의 실시예에서는 TS가 휘도 성분과 색차 성분 모두에 적용될 수 있는 예를 기술하였으나, TS는 휘도 성분에만 적용될 수도 있다. 즉, MTS와 TS가 휘도 성분에만 적용될 수 있는 경우, 색차 성분만을 포함하는 코딩 트리에서는 tu_mts_idx를 시그널링할 필요가 없으므로, 현재 처리되는 부호화 트리가 휘도 성분을 포함하는 경우, 즉, treeType이 SINGLE_TREE이거나 DUAL_TREE_LUMA인 경우, 디코더는 tu_mts_idx를 파싱할 수 있다.

조건 iv) 변환 블록의 너비와 높이가 모두 32 이하인 경우 (tbWidth <= 32 && tbHeight <= 32)

일 실시예에서, tu_mts_idx[ x0 ][ y0 ]가 존재하지 않는 경우, MaxMtsSize가 4인 경우는 0으로 설정될 수 있으며, MaxMtsSize가 1이거나 5인 경우는 1로 설정될 수 있다. 도 18에서는 TS와 MTS가 통합된 하나의 신택스 요소를 사용하여 시그널링되기 때문에, 도 18(b)의 residual_coding 신택스 구조에서 TS가 현재 블록에 사용되는지를 지시하는 1-bit 플래그가 파싱되지 않을 수 있다.

도 19(b)를 참조하면, 본 발명의 일 실시예에서, 인코더는 MTS와 TS를 통합된 하나의 신택스 요소를 사용하여 디코더로 시그널링할 수 있다. 디코더는 해당 신택스 요소에 기초하여 변환 커널을 결정할 수 있다. 도 19(b)에서 TrHorType, TrVerType은 각각 수평과 수직 방향에 적용되는 변환 커널을 지시하는 변수를 나타낸다. IsTrafoSkip은 현재 변환 블록에 변환 스킵이 적용되는지를 지시하는 변수를 나타낸다. 실시예로서, tu_mts_idx[ x0 ][ y0 ] 값에 따라 상술한 TrHorType, TrVerType, IsTrafoSkip 값이 결정될 수 있다.

일 실시예에서, TrHorType(또는 TrVerType)이 -1이고, IsTrafoSkip이 1인 경우, 해당 방향에 변환 스킵이 적용되는 것을 나타낸다. TrHorType (또는 TrVerType)이 0이고, IsTrafoSkip이 0인 경우 해당 방향에 DCT-II 커널이 적용될 수 있다. TrHorType (또는 TrVerType)이 1이고, IsTrafoSkip이 0인 경우 해당 방향에 DST-VII 커널이 적용될 수 있다. TrHorType (또는 TrVerType)이 2이고, IsTrafoSkip이 0인 경우 해당 방향에 DCT-VIII 커널이 적용될 수 있다. tu_mts_idx의 최대값은 MaxMtsIdx 변수로 나타낼 수 있으며, MaxMtsIdx 값에 따라 tu_mts_idx의 이진화 방법이 달라질 수 있다.

일 실시예에서, MaxMtsIdx가 1인 경우(즉, TS만 허용된 경우), 1-bit 시그널링을 통해 TS가 적용되는지 여부를 지시할 수 있다. tu_mts_idx가 0(즉, 비트 값 0)인 경우, 현재 휘도 성분 변환 블록에 TS가 적용될 수 있고, tu_mts_idx가 1(즉, 비트 값 1)인 경우, 현제 휘도 성분 변환 블록의 수평과 수직 방향에 모두 DCT-II가 적용될 수 있다. MaxMtsIdx가 4인 경우(즉, TS는 허용되지 않고, MTS가 허용된 경우), 비트 열의 첫 번째 비트는 해당 휘도 변환 블록에 MTS가 적용되는지를 나타낼 수 있고, 비트 열의 두 번째, 세 번째, 네 번째 비트는 MTS가 사용되는 경우에 적용되는 변환 커널을 지시할 수 있다. tu_mts_idx가 0(예를 들어, 비트 열 0)인 경우, 현재 변환 블록의 수평과 수직 방향에 모두 DCT-II 커널이 적용될 수 있다. tu_mts_idx가 1(예를 들어, 비트 열 10)인 경우, 현재 변환 블록의 수평 및 수직 방향에 모두 DST-VII 커널이 적용될 수 있다. tu_mts_idx가 2(예를 들어, 비트 열 110)인 경우, 현재 변환 블록의 수평 방향에 DCT-VIII, 수직 방향에 DST-VII이 적용될 수 있다. tu_mts_idx가 3(예를 들어, 비트 열 1110)인 경우, 현재 변환 블록의 수평 방향에 DST-VII, 수직 방향에 DCT-VIII이 적용될 수 있다. tu_mts_idx가 4(예를 들어, 비트 열 1111)인 경우, 현재 변환 블록의 수평 및 수직 방향에 모두 DCT-VIII이 적용될 수 있다.

일 실시예에서, MaxMtsIdx가 5인 경우(TS와 MTS가 모두 허용된 경우), 비트 열의 첫 번째 비트는 해당 휘도 변환 블록에 TS가 적용되는지를 나타낼 수 있다. 이때, 비트 열의 두 번째 비트는 해당 휘도 변환 블록에 MTS가 적용되는지를 나타낼 수 있으며, 비트 열의 세 번째, 네 번째, 다섯 번째 비트는 MTS가 사용되는 경우에 적용되는 변환 커널을 지시할 수 있다. tu_mts_idx가 0(예를 들어, 비트 열 0)인 경우, 현재 변환 블록에 TS가 적용될 수 있다. tu_tms_idx가 1 (예를 들어, 비트 열 10)인 경우, 현재 변환 블록의 수평과 수직 방향에 모두 DCT-II가 적용될 수 있다. tu_mts_idx가 2(예를 들어, 비트 열 110)인 경우, 현재 변환 블록의 수평 및 수직 방향에 모두 DST-VII이 적용될 수 있다. tu_mts_idx가 3(예를 들어, 비트 열 1110)인 경우, 현재 변환 블록의 수평 방향에 DCT-VIII, 수직 방향에 DST-VII이 적용될 수 있다. tu_mts_idx가 4(예를 들어, 비트 열 11110)인 경우, 현재 변환 블록의 수평 방향에 DST-VII, 수직 방향에 DCT-VIII이 적용될 수 있다. tu_mts_idx가 5(예를 들어, 비트 열 11111)인 경우, 현재 변환 블록의 수평 방향 및 수직 방향에 모두 DCT-VIII이 적용될 수 있다.

상술한 실시예에서는 MTS가 사용되는 경우, 적용되는 변환 커널을 1 비트 또는 3 비트를 사용하는 절삭형 단항 이진화 방법을 사용하여 시그널링하는 예를 기술하였으나, 고정된 2 비트를 사용하여 시그널링할 수도 있다. 또한 상기 실시예에서는 변환 커널 세트를 구성하는 변환 커널 후보가 DST-VII, DCT-VIII인 경우를 예로 들었으나, 본 발명은 이에 제한되지 않고 임의의 2개의 변환 커널로 구성되는 변환 커널 세트에서도 다음의 i) 내지 v)와 같이 변환 커널을 지시하는 비트열의 값에 따라 수평 및 수직 방향에 적용되는 변환 커널을 결정할 수 있다.

i) 비트 열 ‘0’: 수평 - DCT-II, 수직 - DCT-II

ii) 비트 열 ’10’: 수평 - 변환 세트 내 첫 번째 후보, 수직 - 변환 세트 내 첫 번째 후보

iii) 비트 열 ‘110’: 수평 - 변환 세트 내 두 번째 후보, 수직 - 변환 세트 내 첫 번째 후보

iv) 비트 열 ‘1110': 수평 - 변환 세트 내 첫 번째 후보, 수직 - 변환 세트 내 두 번째 후보

v) 비트 열 ‘1111’: 수평 - 변환 세트 내 두 번째 후보, 수직 - 변환 세트 내 두 번째 후보

인터 예측된 블록의 잔차 신호는 블록의 특정 위치에 잔차 신호가 집중적으로 존재하는 경향이 발생될 수 있다. 예를 들어, 잔차 신호 블록의 경계에 잔차 신호가 큰 에너지를 가지고, 블록의 중심부와 반대편 경계에는 잔차 신호가 상대적으로 작은 에너지를 가지는 형태로 존재하는 패턴이 발생할 수 있다. 이러한 패턴을 활용하여 인터 예측된 블록의 잔차 신호에 변환을 수행할 경우, 인터 예측에 대한 부호화 효율을 향상시킬 수 있다. 다음의 도면을 참조하여 설명한다.

도 20은 본 발명의 실시예에 따른 서브 블록 변환(SBT, Sub-Block Transform) 방법을 설명하기 위한 도면이다. SBT가 적용되는 경우, 인코더/디코더는 현재 코딩 유닛(또는 코딩 블록)을 복수의 변환 유닛(또는 변환 블록)으로 분할하여 변환 부호화를 수행할 수 있다. 실시예로서, 인코더/디코더는 현재 코딩 유닛을 1:1 또는 1:3 크기의 두 개의 변환 유닛으로 분할하여 변환 부호화를 수행할 수 있다. 이 때, 분할된 두 변환 유닛 중 하나의 변환 유닛에 잔차 신호가 집중되어 있다고 가정하여 하나의 변환 유닛에만 변환을 수행하고, 나머지 하나의 변환 유닛은 잔차 신호가 없다고 가정할 수 있다. 도 20 (a), (b), (c), (d)에서 A로 표시된 영역(즉, 음영 처리된 영역)의 변환 유닛은 변환이 수행되는 영역을 나타낸다. 양자화 이후 변환 블록 내 0이 아닌 계수가 해당 영역에 존재하는지의 여부는 도 15 및 도 18에서 기술한 0이 아닌 변환 계수 정보를 나타내는 신택스 요소(tu_cbf_luma, tu_cbf_cb, tu_cbf_cr)의 시그널링을 통해 결정할 수 있다. A 영역이 아닌 나머지 한 영역은 잔차 신호가 없다고 가정하는 변환 유닛 영역으로, 변환 및 역양자화 과정이 생략될 수 있으며, tu_cbf_luma, tu_cbf_cb, tu_cbf_cr은 시그널링 없이 0으로 모두 설정(또는 추론)될 수 있다.

도 20(a)를 참조하면, 인코더/디코더는 코딩 유닛의 크기가 WxH인 경우, 코딩 유닛을 수직 방향으로 분할하여 (W/2)xH 크기의 두 개의 변환 유닛으로 분할할 수 있다. 또는, {1/4, 3/4} 분할을 지시하는 1-bit 플래그가 1인 경우, 코딩 유닛은 (W/4)xH, (3W/4)xH 크기의 두 개의 변환 유닛으로 분할될 수 있다. 두 경우 모두, 왼쪽의 변환 유닛에 대하여 변환이 수행될 수 있으며, 수평 방향으로는 DCT-VIII, 수직 방향으로는 DST-VII이 적용될 수 있다. 일 예로서, 해당 변환 유닛의 너비 또는 높이가 SBT에서 허용하는 DST-VII/DCT-VIII 커널의 최대 크기보다 큰 경우, 해당 방향에는 DCT-II가 적용될 수도 있다. 일 예로서, SBT에서 허용되는 DST-VII/DCT-VIII 커널의 최대 크기는 32-포인트(또는 길이)일 수 있다.

도 20(b)를 참조하면, 인코더/디코더는 코딩 유닛의 크기가 WxH인 경우, 코딩 유닛을 수직 방향으로 분할하여 (W/2)xH 크기의 두 개의 변환 유닛으로 분할할 수 있다. 또는, {1/4, 3/4} 분할을 지시하는 1-bit 플래그가 1인 경우, (3W/4)xH, (W/4)xH 크기의 두 개의 변환 유닛으로 분할될 수 있다. 두 경우 모두, 오른쪽의 변환 유닛에 대하여 변환이 수행될 수 있으며, 수평, 수직 방향 모두 DST-VII이 적용될 수 있다. 일 예로서, 해당 변환 유닛의 너비 또는 높이가 SBT에서 허용하는 DST-VII/DCT-VIII 커널의 최대 크기보다 큰 경우 해당 방향에는 DCT-II가 적용될 수도 있다. 일 예로서, SBT에서 허용되는 DST-VII/DCT-VIII 커널의 최대 크기는 32-포인트일 수 있다.

도 20(c)를 참조하면, 인코더/디코더는 코딩 유닛의 크기가 WxH인 경우, 수평 방향으로 분할하여 Wx(H/2) 크기의 두 개의 변환 유닛으로 분할할 수 있다. 또는, {1/4, 3/4} 분할을 지시하는 1-bit 플래그가 1인 경우, Wx(H/4), Wx(3H/4) 크기의 두 개의 변환 유닛으로 분할될 수 있다. 두 경우 모두, 위쪽의 변환 유닛에 대하여 변환이 수행될 수 있으며, 수평 방향으로는 DST-VII, 수직 방향으로는 DCT-VIII이 적용될 수 있다. 일 예로서, 해당 변환 유닛의 너비 또는 높이가 SBT에서 허용되는 DST-VII/DCT-VIII 커널의 최대 크기보다 큰 경우 해당 방향에는 DCT-II가 적용될 수도 있다. 일 예로서, SBT에서 허용하는 DST-VII/DCT-VIII 커널의 최대 크기는 32-포인트일 수 있다.

도 20(d)를 참조하면, 인코더/디코더는 코딩 유닛의 크기가 WxH인 경우, 수평 방향으로 분할하여 Wx(H/2) 크기의 두 개의 변환 유닛으로 분할할 수 있다. 또는, {1/4, 3/4} 분할을 지시하는 1-bit 플래그가 1인 경우, Wx(3H/4), Wx(H/4) 크기의 두 개의 변환 유닛으로 분할될 수 있다. 두 경우 모두, 아래쪽의 변환 유닛에 대하여 변환이 수행될 수 있으며, 수평 방향과 수직 방향 모두 DST-VII이 적용될 수 있다. 일 예로서, 해당 변환 유닛의 너비 또는 높이가 SBT에서 허용되는 DST-VII/DCT-VIII 커널의 최대 크기보다 큰 경우 해당 방향에는 DCT-II가 적용될 수도 있다. 일 예로서, SBT에서 허용하는 DST-VII/DCT-VIII 커널의 최대 크기는 32-포인트일 수 있다.

일 실시예에서, SBT는 변환과 관련된 신택스 구조(예를 들어, 변환 트리 신택스 구조)의 존재 여부를 지시하는 신택스 요소인 cu_cbf가 1인 인터 예측된 블록에 적용될 수 있고, 코딩 유닛 레벨에서 SBT의 적용 여부가 시그널링될 수 있다. 코딩 유닛 레벨에서 SBT가 적용되는 경우, {1/4, 3/4} 분할인지 1/2 분할인지를 지시하는 1-bit 플래그가 시그널링될 수 있다. 그리고, 수평 방향 분할인지 수직 방향 분할인지를 지시하는 1-bit 플래그가 시그널링 될 수 있다. 또한, 분할된 두 변환 유닛 중 변환이 수행되는 변환 유닛을 지시하는 1-bit 플래그가 추가적으로 지시될 수 있다.

SBT가 적용되는 경우, 변환 유닛의 위치에 따라 변환 커널이 결정되므로 도 15의 변환 유닛 신택스 구조에서 MTS 플래그 및/또는 MTS 인덱스는 시그널링되지 않을 수 있다. SBT에서 변환이 수행되는 변환 유닛에 적용되는 변환 커널은 해당 변환 유닛의 위치 및/또는 해당 변환 유닛의 너비, 높이에 따라 DST-VII/DCT-VIII/DCT-II중 어느 하나가 선택될 수 있고, 마찬가지 방법으로 TS 적용 여부가 선택될 수 있다. 앞서 도 18의 변환 유닛 신택스 구조에서 TS를 사용할 수 있는 경우(즉, 도 19(a)의 네 번째 조건이 참인 경우), MaxMtsIdx는 1로 결정될 수 있고, 1-bit 시그널링을 통해 TS가 적용되는지 지시될 수 있다. 도 18의 변환 유닛 신택스 구조에서 TS를 사용할 수 없는 경우(즉, 도 19(a)의 네 번째 조건이 거짓인 경우), MaxMtsIdx는 0으로 결정될 수 있고, MTS 인덱스 신택스 요소는 시그널링되지 않을 수 있다.

변환 커널의 크기가 커질 수록 에너지 압축(energy compaction) 성능이 월등히 좋아지므로, 변환 블록의 크기가 커질수록 TS보다 DST-VII, DCT-VIII, DCT-II 중의 어느 하나를 적용하여 변환을 수행하는 것이 TS를 적용하는 경우보다 부호화 효율이 높아질 가능성이 존재한다. 따라서, 일 실시예에서, 변환 블록의 크기가 미리 정의된 특정 크기 이상인 경우, TS를 사용할 수 있는지에 관계없이 MTS 인덱스 신택스 요소는 시그널링되지 않을 수도 있다.

일 실시예에서, SBT를 사용할 수 있는지 여부는 시퀀스 파라미터 세트(SPS, sequence parameter set), 픽쳐 파라미터 세트(PPS, picture parameter set), 슬라이스 헤더(slice header), 타일 그룹 헤더(tile group header), 또는 타일 헤더(tile header) 중 어느 하나에 포함되어 1-bit 플래그로 시그널링될 수 있으며, 본 발명에서 상기 플래그는 sps_sbt_enabled_flag로 지칭될 수 있다. 이하에서는, 표 9 내지 표 11을 참조하여, SPS 레벨에서 SBT와 관련된 신택스를 시그널링하는 방법에 관한 실시예들을 예로 들어 설명한다. 본 발명의 실시예에서, SPS 레벨에서의 시그널링 방법을 위주로 설명하나, 본 발명은 이에 제한되지 않고, 상위 레벨 신택스 중 어느 하나의 레벨에서 시그널링 되는 경우 후술하는 시그널링 구조가 동일하게 적용될 수 있다.

표 9를 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 시퀀스에서 SBT를 사용할 수 있는지를 나타내는 1-bit 플래그인 sps_sbt_enabled_flag를 시그널링함으로써, 현재 시퀀스에서 SBT를 사용할 수 있는지 결정할 수 있다.

표 10을 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 시퀀스에서 DCT-II 이외의 커널을 사용할 수 있는지 여부에 따라 SBT를 사용할 수 있는지 결정할 수 있다. 표 10에서, sps_dct2_only_enabled_flag는 현재 시퀀스에서 DCT-II 변환 커널만을 사용할 수 있음을 나타내는 플래그(또는 신택스 요소)이다. sps_dct2_only_enabled_flag에 따라 sps_sbt_enabled_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_dct2_only_enabled_flag가 0인 경우, 디코더는 현재 시퀀스에서 SBT를 사용할 수 있는지를 지시하는 1-bit 플래그인 sps_sbt_enabeld_flag를 파싱할 수 있다. 디코더는 sps_sbt_enabeld_flag 값에 따라 현재 시퀀스에서 SBT를 사용할 수 있는지 결정할 수 있다. 만약, sps_dct2_only_enabled_flag가 1인 경우, sps_sbt_enabled_flag는 시그널링되지 않고 0으로 설정(또는 추론)되고, 현재 시퀀스에서 SBT는 사용되지 않을 수 있다.

표 11을 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 시퀀스에서 SBT를 사용할 수 있는지 여부에 따라 현재 시퀀스에서 DCT-II 이외의 커널을 사용할 수 있는지 결정할 수 있다. 실시예로서, 현재 시퀀스에서 SBT를 사용할 수 있는지를 지시하는 1-bit 플래그인 sps_sbt_enabled_flag가 먼저 시그널링될 수 있다. 만약, sps_sbt_enabled_flag가 1인 경우, SBT가 적용될 때 사용되는 변환 커널로서 DCT-II만을 허용함을 지시하는 1-bit 플래그인 sps_sbt_dct2_enabled_flag가 시그널링될 수 있다. 즉, sps_sbt_dct2_enabled_flag가 1인 경우, SBT가 적용될 때, 코딩 유닛은 두 개의 변환 유닛으로 분할될 수 있고, 변환 유닛의 수평 및 수직 방향 모두에 DCT-II가 적용될 수 있다. sps_sbt_enabled_flag가 0인 경우, sps_sbt_dct2_enabled_flag는 0으로 설정될 수 있다.

인코더/디코더는 변환 유닛 단위로 블록을 복원할 수 있고, 인트라 예측의 경우 현재 블록 주변의 복원된 샘플들을 참조샘플로 활용하여 현재 블록에 대한 예측 블록을 생성할 수 있다. 인트라 예측의 경우, 참조 샘플에서 멀어질수록 예측 에러가 증가하는 경향을 보이므로 현재 코딩 유닛에 대하여 변환 유닛을 작은 블록들로 분할하여 분할된 작은 블록들 단위로 순차적으로 복원을 수행할 경우, 예측 에러, 즉, 잔차 신호를 줄일 수 있고 부호화 효율을 향상시킬 수 있다. 인트라 서브 파티션(ISP, Intra Sub-Partitions) 부호화 모드는 현재 코딩 유닛에 인트라 예측이 선택된 경우, 다수의 분할 유닛으로 분할하여 예측 및 복원을 수행하는 방법이다.

도 21은 본 발명의 일 실시예에 따른 인트라 서브 파티션 부호화 모드에서 블록을 분할 방법을 예시하는 도면이다. 본 발명의 일 실시예에 따르면, 현재 코딩 블록은 수평 또는 수직 방향으로 분할될 수 있다. 실시예로서, 코딩 유닛의 크기에 따라 분할되는 변환 유닛의 수는 달라질 수 있다. 예를 들어, 코딩 유닛의 크기가 4x4인 경우, ISP 부호화 모드는 적용되지 않을 수 있다. 4x8 또는 8x4 크기의 코딩 유닛에 대해서는 2개의 변환 유닛들로 분할될 수 있다. 나머지 다른 크기의 코딩 유닛은 4개의 변환 유닛들로 분할될 수 있다. ISP 부호화 모드를 적용할 수 있는 코딩 유닛의 크기는 코딩 유닛의 너비 또는 높이가 휘도 성분 최대 변환 블록 크기 이하이고(조건 A), 코딩 유닛의 너비와 높이의 곱이 휘도 성분 최소 변환 블록 크기의 제곱보다 큰 경우(조건 B)로 결정될 수 있다. 이때, 휘도 성분 최대 변환 블록 크기는 64일 수 있으며, 휘도 성분 최소 변환 블록 크기는 4일 수 있다. 조건 A를 만족하는 코딩 유닛의 크기는 다음과 같이 조건 i), ii), iii)로 분류될 수 있다.

조건 i) 코딩 유닛의 너비가 휘도 성분 최대 변환 블록 크기 이하이고, 코딩 유닛의 높이가 휘도 성분 최대 변환 블록 크기보다 큰 경우

조건 ii) 코딩 유닛의 너비가 휘도 성분 최대 변환 블록 크기보다 크고, 코딩 유닛의 높이가 휘도 성분 최대 변환 블록 크기 이하인 경우

조건 iii) 코딩 유닛의 너비와 높이가 모두 휘도 성분 최대 변환 블록 크기 이하인 경우

상기 조건 i), ii), iii) 중에서, 조건 i)의 경우 별도의 시그널링 없이 코딩 유닛은 변환 유닛의 너비가 코딩 유닛의 너비와 같고, 변환 유닛의 높이가 휘도 성분 최대 변환 블록 크기와 같은 다수의 변환 유닛으로 분할될 수 있다. 조건 ii)의 경우 별도의 시그널링 없이 코딩 유닛은 변환 유닛의 너비가 휘도 성분 최대 변환 블록 크기와 같고, 변환 유닛의 높이가 코딩 유닛의 높이와 같은 다수의 변환 유닛으로 분할될 수 있다. 즉, 조건 i), ii)의 경우 시그널링 없이 코딩 유닛의 크기와 휘도 성분 최대 변환 블록 크기를 이용하여 변환 블록 분할이 수행될 수 있으므로, 시그널링을 필요로 하는 ISP 부호화 모드를 사용하지 않을 수 있다. 따라서 상기 조건 A는 코딩 유닛의 너비와 높이가 모두 휘도 성분 최대 변환 블록 크기 이하인 경우로 결정될 수 있다.

도 21(a)는 4x8 또는 8x4 코딩 유닛에 적용될 수 있는 변환 유닛의 분할 방법을 도시한다. 실시예로서, WxH 크기의 코딩 유닛에 대하여 수평 분할이 지시된 경우, 코딩 유닛은 Wx(H/2) 크기의 두 개의 변환 유닛으로 분할될 수 있고, 수직 분할이 지시된 경우, 코딩 유닛은 (W/2)xH 크기의 두개의 변환 유닛으로 분할될 수 있다. 수평 분할 또는 수직 분할인지는 1-bit 플래그로 지시될 수 있다.

도 21(b)는 4x8 및 8x4가 크기가 아닌 코딩 유닛에 적용될 수 있는 변환 유닛의 분할 방법을 도시한다. 실시예로서, WxH 크기의 코딩 유닛에 대하여 수평 분할이 지시된 경우, 코딩 유닛은 Wx(H/4) 크기의 네 개의 변환 유닛으로 분할될 수 있으며, 수직 분할이 지시된 경우, 코딩 유닛은 (W/4)xH 크기의 네 개의 변환 유닛으로 분할될 수 있다. 수평 분할 또는 수직 분할인지는 1-bit 플래그로 지시될 수 있다.

도 22는 본 발명의 실시예에 따른 인트라 서브 파티션(Intra Sub-Partitions, ISP) 모드가 적용되는 경우, 분할된 변환 유닛에 적용되는 변환 커널을 선택하는 방법을 예시하는 도면이다. 본 발명의 일 실시예에 따르면, ISP가 적용되는 경우, 각각의 변환 유닛에 적용되는 변환 커널은 변환 블록의 크기 및 인트라 예측 모드에 따라 결정될 수 있다. 도 22에서, predModeIntra는 현재 코딩 유닛에서 사용되는 인트라 예측 모드를 나타내는 변수이고, trTypeHor 및 trTypeVer는 각각 수평 및 수직 방향에 적용되는 변환 커널을 나타내는 변수이다. 도 22를 참조하면, 67개의 인트라 예측 모드가 사용되는 경우를 가정하여 설명하나 본 발명이 이에 한정되는 것은 아니며, 67개의 인트라 예측 모드 외에 앞서 도 6에서 설명한 광각 모드가 추가적으로 사용되는 경우에도 동일하게 적용될 수 있다.

본 발명의 일 실시예에 따르면, 인트라 예측 모드는 2개의 비방향성 예측 모드 (INTRA_PLANAR, INTRA_DC)와 65개의 방향성 예측 모드(INTRA_ANGULAR2, INTRA_ANGULAR3, …, INTRA_ANGULAR66)로 구성될 수 있으며, 각각의 예측 모드에 따라 trTypeHor 및 trTypeVer 변수의 값이 결정될 수 있다. 여기서, trTypeHor 및 trTypeVer는 각각 수평 및 수직 방향에 대하여 적용되는 변환 커널(또는 변환 타입)을 나타낸다. trTypeHor 또는 trTypeVer 값이 0인 경우 해당 방향에 DCT-II 변환 커널이 적용됨을 나타내고, 1인 경우 해당 방향에 DST-VII이 적용됨을 나타낼 수 있다.

일 실시예에서, 변환 블록의 너비가 휘도 성분의 최소 변환 블록 크기보다 작거나 또는 ISP에서 사용되는 DST-VII의 최대 크기보다 큰 경우, 수평 방향에 DCT-II가 적용될 수 있다. 또한, 변환 블록의 높이가 휘도 성분의 최소 변환 블록 크기보다 작거나 또는 ISP에서 사용되는 DST-VII의 최대 크기보다 큰 경우, 수직 방향에 DCT-II가 적용될 수 있다. 일 예로서, 상기 휘도 성분의 최소 변환 블록 크기는 4로 정의될 수 있고, DST-VII의 최대 크기는 16으로 정의될 수 있다. 상기 최소 변환 블록 크기는 제1 임계치로 지칭될 수 있고, 상기 DST-VII의 최대 크기는 제2 임계치로 지칭될 수 있다.

또한, 일 실시예에서, 인코더/디코더는 비방향성 예측 모드에 대해서는 수평 방향 및 수직 방향에 모두 DST-VII을 적용할 수 있다. 그리고, 인코더/디코더는 수평 방향성 모드(INTRA_ANGULAR2, INTRA_ANGULAR3, …, INTRA_ANGULAR32, INTRA_ANGULAR33)에 대해서는 수평 방향에 DST-VII, 수직 방향에 DCT-II를 적용할 수 있다. 인코더/디코더는 수직 방향성 모드(INTRA_ANGULAR34, INTRA_ANGULAR35, … INTRA_ANGULAR65, INTRA_ANGULAR66)에 대해서는 수평 방향에 DCT-II, 수직 방향에 DST-VII을 적용할 수 있다.

일 실시예에서, 현재 코딩 유닛이 인트라 예측으로 코딩된 경우, 코딩 유닛 레벨에서 ISP를 적용하는지를 지시하는 1-bit 플래그가 시그널링될 수 있다. ISP가 현재 코딩 유닛에 적용되는 경우, 수평 분할인지 또는 수직 분할인지를 지시하는 1-bit 플래그가 시그널링될 수 있다. 현재 블록에 ISP가 적용되는 경우, 각각의 분할된 변환 유닛에 적용되는 변환 커널은 인트라 예측 모드와 변환 유닛의 크기에 따라 시그널링 없이 결정될 수 있으므로, 도 15의 변환 유닛 신택스 구조에서 MTS 플래그 및/또는 MTS 인덱스는 시그널링되지 않을 수 있다. 또한, ISP 부호화 모드에서는 TS가 사용되지 않으므로, 변환 스킵 플래그가 시그널링되지 않을 수 있다. 아울러, 도 18의 변환 유닛 신택스 구조에서 MTS 인덱스는 시그널링되지 않을 수 있다.

도 22에서 설명한 바와 같이, 현재 블록에 ISP가 적용되는 경우, 각각의 변환 블록에 적용되는 변환 커널은 인트라 예측 모드에 기반하여 시그널링 없이 결정될 수 있다. 한편, 이는 하드웨어 복호화기 구현의 복잡도를 증가시킬 수 있다. 기존의 하드웨어 복호화기 파이프라인 구조에서 인트라 예측 모드의 복호화와 변환 계수의 복원은 동시에 진행될 수 있으나, ISP 모드가 적용되는 경우에는 인트라 예측 모드의 복호화가 완료되어야만 변환 계수의 복원이 진행될 수 있으므로, 그만큼의 지연을 초래할 수 있다. 따라서, 이하에서는 ISP 부호화 모드에서 인트라 예측 모드에 기반하지 않고, 각각의 변환 블록에 적용되는 변환 커널을 결정하는 방법들을 설명한다.

본 발명의 일 실시예에서, 인코더/디코더는 변환 블록의 너비 또는 높이를 미리 정의된 특정 임계치와 비교하여 ISP 모드가 적용되는 블록의 변환 커널(또는 변환 타입)을 결정할 수 있다. DST-VII 커널이 인트라 예측이 사용되었을 때의 잔차 신호의 특성을 잘 표현하므로, 변환 블록의 너비가 특정 임계치 이하인 경우 수평 방향에 DST-VII을 적용할 수 있고, 상기 임계치보다 큰 경우 수평 방향에 DCT-II를 적용할 수 있다. 여기서, 상기 특정 임계치는 앞서 설명한 제2 임계치(즉, ISP에서 사용되는 DST-VII의 최대 크기)와 동일한 값으로 정의될 수 있다. 변환 블록의 높이가 임계치 이하인 경우 수직 방향에 DST-VII을 적용할 수 있고, 임계치보다 큰 경우 수직 방향에 DCT-II를 적용할 수 있다. 이때, 임계치는 32이하의 임의의 값으로 정의될 수 있다. 전술한 바와 같이, 실시예로서, 변환 블록의 너비가 휘도 성분의 최소 변환 블록 크기(즉, 제1 임계치)보다 작거나 또는 ISP에서 사용되는 DST-VII의 최대 크기보다 큰 경우, 수평 방향에 DCT-II가 적용될 수 있다. 또한, 변환 블록의 높이가 휘도 성분의 최소 변환 블록 크기보다 작거나 또는 ISP에서 사용되는 DST-VII의 최대 크기보다 큰 경우, 수직 방향에 DCT-II가 적용될 수 있다. 일 예로서, 상기 휘도 성분의 최소 변환 블록 크기는 4로 정의될 수 있고, DST-VII의 최대 크기는 16으로 정의될 수 있다.

또한, 본 발명의 일 실시예에서, 변환 블록의 너비와 높이가 모두 임계치 이하인 정사각형 블록의 수평과 수직 방향에 모두 DST-VII을 적용할 수 있으며, 너비와 높이가 모두 임계치보다 큰 정사각형 블록의 수평과 수직 방향에는 DCT-II를 적용할 수 있다. 직사각형 블록에서 짧은 변이 임계치 이하인 경우 해당 방향에 DST-VII을 적용할 수 있으며, 임계치보다 큰 경우에는 DCT-II를 적용할 수 있다. 직사각형 블록의 긴 변에 대해서는 해당 방향에 DCT-II를 적용할 수 있다.

또한, 본 발명의 일 실시예에서, 도 15 및 도 18에서 기술한 MTS 관련 신택스 요소 시그널링을 활용하여 각각의 변환 유닛에 적용되는 변환 커널을 결정할 수 있다. 예를 들어, 도 18의 변환 유닛 신택스 구조가 사용되는 경우, 현재 코딩 유닛에서 ISP가 사용되는 경우에도 MTS 인덱스가 시그널링할 수 있다. 각각의 변환 유닛마다 MTS 인덱스를 시그널링하는 경우, 시그널링 오버헤드가 증가할 수 있기 때문에 처리 순서 상, 휘도 성분 변환 블록에 대하여 0이 아닌 변환 계수가 존재하는(즉, tu_cbf_luma == 1인) 첫 번째 변환 유닛에서만 MTS 인덱스를 시그널링하고, 시그널링된 MTS 인덱스를 모든 변환 유닛들이 공유할 수도 있다. 이때, 일 예로서, TS 적용 여부도 함께 시그널링될 수 있다.

일 실시예에서, ISP 부호화 모드를 사용할 수 있는지의 여부는 시퀀스 파라미터 세트(SPS, sequence parameter set), 픽쳐 파라미터 세트(PPS, picture parameter set), 슬라이스 헤더(slice header), 타일 그룹 헤더(tile group header), 또는 타일 헤더(tile header) 중 어느 하나에 포함되어 1-bit 플래그로 시그널링될 수 있으며, 본 발명에서 상기 플래그는 sps_isp_enabled_flag로 지칭될 수 있다. 이하에서는, 표 12 내지 표 14를 참조하여, SPS 레벨에서 SPS 레벨에서 ISP 부호화 모드와 관련된 신택스를 시그널링하는 방법에 관한 실시예들을 예로 들어 설명한다. 본 발명의 실시예에서, SPS 레벨에서의 시그널링 방법을 위주로 설명하나, 본 발명은 이에 제한되지 않고, 상위 레벨 신택스 중 어느 하나의 레벨에서 시그널링 되는 경우 후술하는 시그널링 구조가 동일하게 적용될 수 있다.

표 12를 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 시퀀스에서 ISP 부호화 모드를 사용할 수 있는지를 나타내는 1-bit 플래그인 sps_isp_enabled_flag를 시그널링함으로써, 현재 시퀀스에서 ISP 부호화 모드를 사용할 수 있는지를 결정할 수 있다.

표 13을 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 시퀀스에서 DCT-II 이외의 커널을 사용할 수 있는지에 따라 ISP 부호화 모드를 사용할 수 있는지 결정할 수 있다. 표 12에서, sps_dct2_only_enabled_flag는 현재 시퀀스에서 DCT-II 변환 커널만을 사용할 수 있음을 나타내는 플래그(또는 신택스 요소)이다. sps_dct2_only_enabled_flag에 따라 현재 시퀀스에서 ISP 부호화 모드를 사용할 수 있는지를 지시하는 플래그(또는 신택스 요소)인 sps_isp_enabeld_flag의 시그널링 여부가 결정될 수 있다. 예를 들어, sps_dct2_only_enabled_flag가 0인 경우, 디코더는 현재 시퀀스에서 ISP 부호화 모드를 사용할 수 있는지를 지시하는 1-bit 플래그인 sps_isp_enabeld_flag를 파싱할 수 있다. 디코더는 sps_isp_enabeld_flag 값에 따라 현재 시퀀스에서 ISP 부호화 모드를 사용할 수 있는지 결정할 수 있다. 만약, sps_dct2_only_enabled_flag가 1인 경우, sps_isp_enabled_flag는 시그널링되지 않고 0으로 0으로 설정(또는 추론)되고, 현재 시퀀스에서 ISP 부호화 모드는 사용되지 않을 수 있다.

표 14를 참조하면, 본 발명의 일 실시예에서, 인코더/디코더는 현재 시퀀스에서 ISP 부호화 모드를 사용할 수 있는지 여부에 따라 현재 시퀀스에서 DCT-II 이외의 커널을 사용할 수 있는지 결정할 수 있다. 실시예로서, 현재 시퀀스에서 SBT를 사용할 수 있는지를 지시하는 1-bit 플래그인 sps_isp_enabled_flag가 먼저 시그널링될 수 있다. 만약, sps_isp_enabled_flag가 1인 경우, ISP 부호화 모드가 적용될 때 사용되는 변환 커널에 대히여 DCT-II만을 허용함을 지시하는 1-bit 플래그인 sps_isp_dct2_enabled_flag가 시그널링될 수 있다. 즉, sps_isp_dct2_enabled_flag가 1인 경우, ISP 부호화 모드가 적용될 때, 코딩 유닛은 복수의 변환 유닛으로 분할될 수 있고, 변환 유닛의 수평 및 수직 방향 모두에 DCT-II가 적용될 수 있다. sps_isp_enabled_flag가 0인 경우, sps_isp_dct2_enabled_flag는 0으로 설정될 수 있다.

도 23은 본 발명이 적용되는 실시예에 따른 변환 유닛 신택스 구조의 일 예 및 변환 타입 결정 방법의 일 예를 도시한다. 본 발명의 일 실시예에 따르면, MTS의 적용 여부 및/또는 변환 커널(또는 변환 타입)은 변환 스킵 여부에 따라 결정될 수 있다. 현재 변환 블록에 변환 스킵이 적용되는 경우 현재 변환 블록에 적용되는 변환 커널을 지시(또는 시그널링)할 필요가 없으므로, 변환 스킵의 적용 여부를 MTS 관련 신택스 요소(syntax element)보다 먼저 시그널링하고, 변환 스킵의 적용 여부에 따라 MTS 관련 신택스 요소를 시그널링함으로써, 변환에 필요한 시그널링 비트를 줄이고 압축 효율을 높일 수 있다. 도 23을 참조하여 본 발명의 실시예를 설명함에 있어서, 설명의 편의를 위해 디코더를 위주로 설명하나, 본 실시예에 따른 변환 스킵 및 MTS 결정 방법은 인코더에서도 실질적으로 동일하게 적용될 수 있다.

도 23(a)은 본 발명의 일 실시예에 따른 변환 스킵 및 MTS 정보를 시그널링/파싱하는 방법을 예시한다. 일 예로서, 변환 스킵 및 MTS는 도 23(a)에 도시된 바와 같이 변환 유닛 레벨에서 처리될 수 있다. 다만, 도 23(a)는 일 예로서 본 발명이 이에 제한되는 것은 아니며, 제안하는 방법은 변환 유닛 이외의 레벨(예를 들어, 코딩 유닛 레벨, 예측 유닛 레벨)에서 실질적으로 동일한 방법으로 처리될 수도 있다. 도 23(a)를 참조하면, 변환 유닛(transform unit) 신택스 구조는 변환 프로세스가 수행되는 변환 유닛과 관련된 신택스 구조를 나타낸다. 변환 유닛 신택스는 x0, y0, tbWidth, tbHeight, treeType, subTuIndex를 입력 받을 수 있다. (x0, y0)는 현재 변환 블록의 좌상단(top-right) 루마 샘플의 위치를 나타낼 수 있으며, 현재 픽쳐의 좌상단 루마 샘플 위치를 기준으로 하는 상대적인 위치일 수 있다. 변수 tbWidth 및 tbHeight는 각각 현재 변환 블록의 너비 및 높이를 나타낸다.

루마 성분에 대한 코딩 트리 구조와 크로마 성분에 대한 코딩 트리 구조는 서로 동일한 구조로 코딩될 수도 있고, 서로 다른 구조로 코딩될 수도 있다. 따라서, treeType 변수는 현재 처리되는 코딩 트리의 유형을 지시할 수 있다. 만약, treeType이 SINGLE_TREE인 경우, 루마 성분과 크로마 성분은 동일한 코딩 트리 구조로 코딩되었음을 의미하고, 이 경우 변환 유닛은 루마 변환 블록과 컬러 포맷에 따른 크로마 변환 블록을 포함할 수 있다. 만약, treeType이 DUAL_TREE_LUMA인 경우, 루마 성분과 크로마 성분은 서로 다른 구조의 코딩 트리 구조로 코딩되었을 때, 현재 처리되는 코딩 트리가 루마 성분의 코딩 트리임을 나타낼 수 있다. 이 경우, 변환 유닛은 루마 변환 블록을 포함할 수 있다. 만약, treeType이 DUAL_TREE_CHROMA인 경우, 루마 성분과 크로마 성분은 서로 다른 구조의 코딩 트리 구조로 코딩되었을 때, 현재 처리되는 코딩 트리가 크로마 성분의 코딩 트리임을 나타낼 수 있다. 이 경우, 변환 유닛은 컬러 포맷에 따른 크로마 변환 블록을 포함할 수 있다. subTuIndex는 현재 처리되는 변환 유닛의 인덱스를 나타낸다.

변환 유닛 신택스 구조(즉, transform_unit())에서, 먼저 인코더는 루마 블록, Cb 크로마 블록, Cr 크로마 블록에 대한 CBF(Coded Block Flag)를 시그널링함으로써, 현재 변환 블록이 하나 이상의 0이 아닌 변환 계수를 가지는지 지시할 수 있다. 마찬가지로, 디코더는 루마 블록, Cb 블록(또는 Cb 크로마 블록), Cr 블록(또는 Cr 크로마 블록)에 대한 CBF(Coded Block Flag)를 파싱함으로써, 현재 변환 블록이 하나 이상의 0이 아닌 변환 계수를 가지는지를 결정(또는 유도)할 수 있다. 예를 들어, tu_cbf_luma[x0][y0] 가 1인 경우, 현재 루마 변환 블록이 0이 아닌 변환 계수를 하나 이상 포함하는 것을 나타낼 수 있으며, tu_cbf_luma[x0][y0]가 0인 경우, 현재 루마 변환 블록의 변환 계수는 모두 0임을 나타낼 수 있다. tu_cbf_cb[x0][y0]가 1인 경우, 현재 Cb 변환 블록이 0이 아닌 변환 계수를 하나 이상 포함하는 것을 나타낼 수 있으며, tu_cbf_cb[x0][y0]가 0인 경우, 현재 Cb 변환 블록의 변환 계수는 모두 0임을 나타낼 수 있다. tu_cbf_cr[x0][y0]가 1인 경우, 현재 Cr 변환 블록이 0이 아닌 변환 계수를 하나 이상 포함하는 것을 나타낼 수 있으며, tu_cbf_cr[x0][y0]가 0인 경우, 현재 Cr 변환 블록의 변환 계수는 모두 0임을 나타낼 수 있다.

S2301 단계(즉, 첫 번째 조건문)에서, 디코더는 변환 스킵 및/또는 MTS 적용 여부를 결정하기 위한 기 설정된 조건을 확인(또는 검사)할 수 있다. 실시예로서, 이하의 조건 i), ii), iii), iv), v) 가 모두 참인 경우, 디코더는 후술하는 S2302 단계의 두 번째 조건문, S2304 단계의 세 번째 조건문에 따라 각각 변환 스킵, MTS 정보(즉, 신택스 요소)를 파싱(S2303, S2305)할 수 있다.

조건 i) tu_cbf_luma[x0][y0] == 1: 디코더는 tu_cbf_luma[x0][y0]의 값이 1인지 확인할 수 있다. 만약, tu_cbf_luma[x0][y0]의 값이 0일 경우, 현재 루마 변환 블록의 모든 변환 계수가 0임을 나타내므로, 디코더는 역양자화 및 역변환을 수행하지 않고 잔차 신호를 0으로 복원할 수 있다. 따라서, tu_cbf_luma[x0][y0]의 값이 0일 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 ii) treeType != DUAL_TREE_CHROMA: 디코더는 트리 타입이 루마 변환 블록을 포함하는 트리 타입인지 확인할 수 있다. 변환 스킵과 MTS는 모두 루마 변환 블록에만 적용될 수 있으므로, 현재 변환 유닛(또는 변환 블록)이 루마 변환 블록을 포함하지 않는 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다. 즉, 트리 타입이 DUAL_TREE_CHROMA인 경우, 현재 변환 유닛은 루마 변환 블록을 포함하지 않으므로, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 iii) (tbWidth<=32) && (tbHeight<=32): 디코더는 현재 변환 블록의 너비 및 높이가 32보다 작거나 같은지 확인할 수 있다. 변환 스킵 및 MTS가 적용될 수 있는 변환 블록의 최대 사이즈는 32x32이므로, 변환 블록의 너비 및 이가 모두 32 이하인 경우, 추가적인 조건에 따라 변환 스킵 및 MTS 정보의 시그널링 및 파싱이 수행될 수 있다.

조건 iv) IntraSubPartitionsSplitType[x0][y0]==ISP_NO_SPLIT: 디코더는 현재 코딩 유닛(또는 코딩 블록)에 ISP가 적용되지 않는지 확인할 수 있다. 만약, 현재 코딩 유닛에 ISP가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 ISP가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. IntraSubPartitionsSplitType는 ISP에 의한 블록의 분할 방법을 지시하는 변수를 나타낸다. IntraSubPartitionsSplitType는 코딩 유닛 레벨에서 시그널링된 ISP 정보에 따라 ISP에 의한 블록의 분할 방법을 지시할 수 있다. IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 현재 블록에 ISP가 적용되는 것을 나타낼 수 있다. 따라서, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 v) !cu_sbt_flag: 디코더는 현재 코딩 유닛에 서브 블록 변환(SBT, Sub-Block Transform)이 적용되지 않는지 확인할 수 있다. 현재 코딩 유닛에 SBT가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 SBT가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. cu_sbt_flag는 현재 코딩 유닛에 SBT가 적용되는지를 지시하는 신택스 요소를 나타낸다. cu_sbt_flag는 코딩 유닛 레벨에서 시그널링 및 파싱될 수 있다. cu_sbt_flag가 1일 경우, 현재 코딩 유닛에 SBT가 적용되는 것을 나타낼 수 있고, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

상술한 조건 i) 내지 조건 v)가 모두 참인 경우, S2302 단계에서, 디코더는 변환 스킵 적용 여부 결정하기 위한 이하의 조건 a), b)를 확인(또는 검사)할 수 있다. 일 예로서, 이하의 조건 a), b)가 모두 참일 때, 변환 스킵과 관련된 정보가 MTS와 관련된 정보보다 먼저 시그널링 및 파싱될 수 있다.

조건 a) transform_skip_enabled_flag==1: 디코더는 현재 블록에 변환 스킵이 이용(또는 적용) 가능한지 확인할 수 있다. transform_skip_enabled_flag는 변환 스킵이 이용 가능한지 여부를 지시하는 플래그(또는 신택스 요소)를 나타낸다. 상기 변환 스킵의 이용 가능 여부를 지시하는 플래그는 PPS(Picture Parameter Set), SPS(Sequence Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 신택스 중의 적어도 어느 하나에 포함되어 시그널링 및 파싱될 수 있다. transform_skip_enabled_flag가 1인 경우, 변환 유닛 레벨에서 변환 스킵의 적용 여부가 지시될 수 있다. 추가적으로, transform_skip_enabled_flag가 1인 경우, 변환 스킵이 가능한 최대 블록 사이즈가 인코더로부터 디코더로 시그널링될 수 있다. transform_skip_enabled_flag가 0인 경우, 변환 유닛 신택스 구조에서 변환 스킵을 지시하는 신택스 요소는 존재하지(또는 파싱되지) 않을 수 있다.

조건 b) tbWidth<=MaxTsSize && tbHeight <= MaxTsSize: 디코더는 현재 변환 블록의 너비 및 높이가 최대 변환 스킵 크기 보다 작거나 같은지 확인할 수 있다. transform_skip_enabled_flag가 1인 경우, 변환 스킵이 가능한 블록의 최대 사이즈가 지시될 수 있고, 이를 통해 최대 변환 크기를 나타내는 MaxTsSize 변수가 설정될 수 있다. 실시예로서, 변환 스킵은 변환 블록의 너비와 높이가 모두 MaxTsSize 이하인 블록에 적용될 수 있다.

S2303 단계에서, 상술한 조건 i) 내지 v), 조건 a) 및 b)가 모두 참인 경우, 현재 루마 변환 블록에 변환 스킵이 적용되는지를 지시하는 신택스 요소인 transform_skip_flag[x0][y0]가 시그널링 및 파싱될 수 있다. transform_skip_flag[x0][y0]가 1인 경우, 현재 루마 변환 블록에 변환이 적용되지 않음을 나타낼 수 있다. transform_skip_flag[x0][y0]가 0인 경우, 현재 루마 변환 블록에 변환이 적용됨을 나타낼 수 있다. transform_skip_flag[x0][y0]가 존재하지 않는 경우, transform_skip_flag[x0][y0]는 0으로 설정(또는 추론)될 수 있다.

상술한 조건 i) 내지 v)가 모두 참인 경우, 이하의 조건 x), y), z)가 모두 참일 때(S2304), 변환 스킵 정보에 기반하여 MTS 관련 정보가 시그널링 및 파싱될 수 있다(S2305).

조건 x) (CuPredMode[x0][y0] != MODE_INTRA && sps_explicit_mts_inter_enabled_flag) || (CuPredMode[x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag): 디코더는 현재 블록의 예측 모드 및 명시적(explicit) MTS를 이용할 수 있는지 여부에 기초하여 기 설정된 조건을 만족하는지 확인할 수 있다. 코딩 유닛 레벨에서 예측의 방법(즉, 예측 모드)이 결정될 수 있다. 디코더는 코딩 유닛 레벨에서 수신한 정보에 기초하여 CuPredMode[x0][y0] 변수를 설정할 수 있다. 예측 모드는 인트라 예측, 인터 예측을 포함한다. 추가적으로, 예측 모드는 현재 픽쳐 내 복원된 영역으로부터 예측 블록을 생성하는 인트라 블록 카피(IBC, Intra Block Copy) 예측을 포함할 수 있다. CuPredMode[x0][y0]가 MODE_INTRA인 경우, 현재 블록이 인트라 예측으로 코딩되었음을 나타내며, CuPredMode[x0][y0]가 MODE_INTER인 경우, 현재 블록이 인터 예측으로 코딩되었음을 나타낼 수 있다. 또한, CuPredMode[x0][y0]가 MODE_IBC인 경우, 현재 블록이 IBC 예측으로 코딩되었음을 나타낼 수 있다.

한편, MTS의 이용 가능 여부를 지시하는 플래그는 PPS(Picture Parameter Set), SPS(Sequence Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 신택스 중의 적어도 어느 하나에 포함되어 시그널링 및 파싱될 수 있다. 구체적으로, 예측 방법에 대한 MTS의 이용 가능 여부가 독립적으로 각각 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 1인 경우, 인터 예측 및/또는 IBC 예측된 코딩 유닛에 대하여 변환 커널을 지시하는 신택스 요소인 MTS 인덱스(본 명세서에서, tu_mts_idx, mts_idx로 지칭될 수 있음)가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측 및/또는 IBC 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(즉, 명시적으로 시그널링되지 않음)을 나타내며, 이는 인터 예측 및/또는 IBC 예측된 블록에 MTS를 적용할 수 없음을 의미한다. 다시 말해, sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측 및/또는 IBC 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. sps_explicit_mts_intra_enabled_flag가 1인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음을 나타내며, 이는 인트라 예측된 블록에 MTS를 적용할 수 없음을 나타낸다. 다시 말해, sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다.

본 발명에서, MTS의 적용 여부는, 미리 정의된 특정 변환 타입(기본 변환 타입, 디폴트 변환 타입 등으로 지칭될 수 있다) 이외의 다른 변환 타입(또는 변환 커널)을 사용하는지 여부와 동일한 의미를 가질 수 있다. 만약 MTS가 적용되는 경우, 기본 변환 타입 이외의 다른 변환 타입(예컨대, 복수의 변환 타입들 중 어느 하나 또는 둘 이상이 조합된 변환 타입)이 변환에 이용될 수 있다. MTS가 적용되지 않는 경우, 기본 변환 타입만이 변환에 이용될 수 있다. 일 실시예에서, 상기 기본 변환 타입은 이산 코사인 변환 타입-2(DCT-2: Discrete Cosine Transform Type-2) 기반의 변환 타입으로 설정(또는 정의)될 수 있다. 따라서, 현재 변환 블록에 적용되는 변환 타입을 지시하는 신택스 요소인 MTS 인덱스는 MTS 적용 여부에 관한 정보를 포함할 수 있다.

현재 블록이 인트라 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인트라 예측에 대해 MTS가 이용 가능한 경우이거나(즉, CuPredMode[x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag), 현재 블록이 인터 예측 또는 IBC 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인터/IBC 예측에 대해 MTS가 이용 가능한 경우(CuPredMode[x0][y0] != MODE_INTRA && sps_explicit_mts_inter_enabled_flag) 조건 x)는 참일 수 있다. 즉, 조건 x)에서는 예측 모드에 따라(즉, CuPredMode[x0][y0] 변수에 따라) 상위 레벨 신택스 상에서 해당 MTS 가능 플래그가 온(on)일 경우, MTS에 관련된 정보가 시그널링 및 파싱될 수 있다.

조건 y) tbWidth<=32 && tbHeight<=32: 디코더는 현재 변환 블록의 너비 및 높이가 32보다 작거나 같은지 확인할 수 있다. MTS를 적용할 수 있는 변환 블록의 최대 사이즈는 32x32로 정의될 수 있다. 변환 블록의 너비와 높이가 모두 32 이하인 경우, MTS와 관련된 정보가 시그널링 및 파싱될 수 있다.

조건 z) !transform_skip_flag[x0][y0]: 디코더는 현재 변환 블록에 변환 스킵이 적용되지 않는지 확인할 수 있다. 현재 변환 블록에 변환 스킵이 적용되는 경우, 변환이 적용되지 않는 것이므로 MTS와 관련된 정보는 시그널링 및 파싱되지 않을 수 있다.

상기 조건 i) 내지 v), 조건 x), y), z)가 모두 참일 때, S2305 단계에서, 루마 변환 블록의 잔차 샘플들의 수평 및 수직 방향에 적용되는 변환 커널(또는 변환 타입)을 지시하는 신택스 요소인 MTS 인덱스가 시그널링 및 파싱될 수 있다. 실시예로서, MTS 인덱스가 존재하지 않는 경우, 0으로 설정(또는 추론)될 수 있다.

본 발명의 일 실시예에 따르면, 디코더는 MTS 인덱스에 기초하여 수평 및 수직 방향에 적용되는 변환 커널(또는 변환 타입)을 결정할 수 있다. 도 23(b)를 참조하면, 디코더는 MTS 인덱스 값에 따라 도 23(b)에 도시된 미리 정의된 변환 커널 조합들 중에서 현재 변환 블록의 잔차 샘플들의 수평 및 수직 방향에 적용되는 변환 커널(또는 변환 커널 조합)을 결정할 수 있다. 도 23(b)의 표에서 trTypeHor는 변환 블록에 대한 잔차 샘플들의 수평 방향에 적용되는 변환 커널(또는 변환 타입)을 나타내는 변수이고, trTypeVer는 변환 블록에 대한 잔차 샘플들의 수직 방향에 적용되는 변환 커널(또는 변환 타입)을 나타내는 변수이다.

trTypeHor/trTypeVer가 0인 경우, 기본 변환 커널이 적용됨을 나타낸다. 본 발명에서, 상기 기본 변환 커널은 제1 변환 타입으로 지칭될 수 있다. 상기 기본 변환 커널은 DCT-II(또는 DCT-II 기반 변환 커널)일 수 있다. trTypeHor/trTypeVer가 1인 경우, 변환 커널 세트 내에 정의된 첫 번째 변환 커널이 적용됨을 나타낸다. 이때, 상기 변환 커널 세트는 기본 변환 커널(즉, 제1 변환 타입) 이외에 복수의 변환 커널들을 포함할 수 있다. 상기 변환 커널 세트 내에 정의된 첫 번째 변환 커널은 제2 변환 타입으로 지칭될 수 있다. 상기 제2 변환 타입은 DST-VII(또는 DST-VII 기반 변환 커널)일 수 있다. trTypeHor/trTyepeVer가 2인 경우, 변환 커널 세트 내에 정의된 두 번째 변환 커널이 적용됨을 나타낸다. 상기 변환 커널 세트 내에 정의된 두 번째 변환 커널은 제3 변환 타입으로 지칭될 수 있다. 상기 제3 변환 타입은 DCT-VIII(또는 DCT-VIII 기반 변환 커널)일 수 있다.

본 발명의 일 실시예에서, MTS 인덱스의 첫 번째 비트는 현재 변환 블록에 MTS가 적용되는지를 나타낼 수 있다. MTS 인덱스의 첫 번째 비트가 0인 경우(즉, 도 23(b)의 tu_mts_idx[x][y]가 0(즉, 이진화 ‘0’)인 경우), 현재 변환 블록에 MTS가 적용되지 않음을 나타낼 수 있고, 이 경우 수평 및 수직 방향에 모두 기본 커널(또는 기본 변환 커널)(즉, 제1 변환 타입)이 적용될 수 있다. 상기 기본 변환 커널은 DCT-II(또는 DCT-II 기반 변환 커널)일 수 있다. MTS 인덱스의 첫 번째 비트가 1인 경우(즉, 1<=tu_mts_idx[x][y]<=4), 두 번째 또는 최대 네 번째 비트를 활용하여 MTS가 적용되는 경우에 현재 변환 블록에 적용되는 변환 커널 조합을 지시할 수 있다.

예를 들어, MTS 인덱스가 1(즉, 이진화 ‘10’)인 경우, 수평 및 수직 방향에 모두 제2 변환 타입이 적용됨을 나타낼 수 있다. 전술한 바와 같이, 상기 제2 변환 타입은 DST-VII일 수 있다. MTS 인덱스가 2(즉, 이진화 ‘110’)인 경우, 수평 방향에 제3 변환 타입이 적용되고, 수직 방향에 제2 변환 타입이 적용됨을 나타낼 수 있다. 전술한 바와 같이, 상기 제3 변환 타입은 DCT-VIII일 수 있다. MTS 인덱스가 3(즉, 이진화 ‘1110’)인 경우, 수평 방향에 제2 변환 타입이 적용되고, 수직 방향에 제3 변환 타입이 적용됨을 나타낼 수 있다. MTS 인덱스가 4(즉, 이진화 ‘1111’)인 경우, 수평 방향과 수직 방향에 모두 제3 변환 타입이 적용됨을 나타낼 수 있다.

상기 기술한 실시예에서는 MTS 인덱스가 플래그와 인덱스를 통합하여 시그널링되는 예를 기술하였으나, 본 발명은 이에 국한되지 않는다. 앞서 도 15에서 기술한 방법처럼, MTS 플래그가 먼저 시그널링되고, 해당 플래그가 1일 때, MTS 인덱스가 시그널링될 수도 있다. 즉, 조건 i) 내지 v), 조건 x), y), z)가 모두 참일 때, MTS 플래그가 시그널링 및 파싱될 수 있으며, 해당 MTS 플래그가 1인 경우, MTS 인덱스가 시그널링 및 파싱될 수 있다. MTS 플래그 및 인덱스가 존재하지 않는 경우, 그 값은 각각 0으로 설정(또는 추론)될 수 있다. 또한, 일 실시예에서, 상기 MTS 인덱스는 고정 길이의 비트 수를 이용하여 시그널링될 수도 있다.

한편, MTS는 변환 커널 세트 내에 정의된 변환 커널에 기반하여 잔차 신호의 에너지 분포에 최적화된 수평 및 수직 방향의 변환 커널의 조합을 찾는 방법이다. 변환 커널 세트 내에 정의된 변환 커널의 수가 N개인 경우, 인코더는 최대 2^N+1 회의 변환 및 역변환을 수행한 후, 율-왜곡 비용을 최소화하는 최적의 변환 커널 조합(즉, 수평 및 수직 방향 변환 커널)을 찾을 수 있다. 따라서, MTS로 인해 인코더의 시간 복잡도는 급격히 증가될 수 있다. 그리고, 변환 커널의 사이즈가 커질수록, 일반적으로 구현 복잡도가 증가하는 경향이 있다. 따라서, MTS를 적용할 수 있는 블록의 최대 사이즈를 상위 레벨에서 시그널링하고, 처리 블록의 사이즈가 MTS를 적용할 수 있는 최대 사이즈 이하인 경우에만 MTS를 적용하고 MTS에 관련된 신택스를 시그널링 및 파싱하는 경우, 상술한 인코더 시간 복잡도를 효율적으로 개선할 수 있고, MTS 관련 신택스 시그널링에 따른 오버헤드를 줄이고 압축 성능을 높일 수 있다.

도 24는 본 발명이 적용되는 일 실시예에 따른 상위 레벨 신택스 및 변환 유닛 신택스 구조를 예시하는 도면이다. 본 발명의 일 실시예에 따르면, MTS의 적용 가능 여부는 SPS(Sequence Parameter Set), PPS(Picture Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 세트의 RBSP(Raw Byte Sequence Payload) 신택스들 중 어느 하나에서 시그널링될 수 있다. 도 24에서는 시퀀스 레벨의 신택스를 통해 MTS 관련 정보를 시그널링하는 방법을 가정한다. 도 24를 참조하여 본 발명의 실시예를 설명함에 있어서, 설명의 편의를 위해 디코더를 위주로 설명하나, 본 실시예에 따른 MTS 시그널링 방법은 인코더에서도 실질적으로 동일하게 적용될 수 있다.

구체적으로, 먼저 디코더는 sps_mts_enabled_flag를 파싱할 수 있다(S2401). sps_mts_enabled_flag가 1인 경우, 기본 변환 커널을 포함하여, 복수의 변환 커널을 사용할 수 있음을 나타낼 수 있다. 그리고, 해당 레벨 신택스 구조 내에서 sps_explicit_mts_inter_enabled_flag 및 sps_explicit_mts_intra_enabled_flag가 존재함을 나타낼 수 있다. sps_explicit_mts_inter_enabled_flag 및 sps_explicit_mts_intra_enabled_flag는 각각 인터 및 인트라 예측이 적용되는 경우 MTS가 이용 가능한지 여부를 지시하는 신택스(또는 신택스 요소)를 나타낸다. 만약, sps_mts_enabled_flag가 0인 경우, 해당 레벨 신택스 구조 내에서 sps_explicit_mts_intra_enabled_flag 및 sps_explicit_mts_inter_enabled_flag가 존재하지 않음을 나타낼 수 있다. 즉, 이는 기본 변환 커널만이 변환에 사용됨을 지시할 수 있다.

sps_mts_enabled_flag가 1인 경우, 디코더는 sps_explicit_mts_intra_enabled_flag 및 sps_explicit_mts_inter_enabled_flag를 파싱할 수 있다(S2402). sps_explicit_mts_intra_enabled_flag는 인트라 예측된 블록에 MTS를 적용할 수 있는지를 지시하는 신택스 요소를 나타낸다. sps_explicit_mts_intra_enabled_flag가 1일 경우, 인트라 예측된 코딩 유닛의 변환 유닛 내에 MTS 인덱스가 존재할 수 있음을 나타낼 수 있다. sps_explicit_mts_intra_enabled_flag가 0일 경우, 인트라 예측된 코딩 유닛의 변환 유닛 내에 MTS 인덱스가 존재하지 않음을 나타내며, 이는 인트라 예측된 블록에 MTS가 적용될 수 없음을 나타낼 수 있다. sps_explicit_mts_inter_enabled_flag는 인터 예측 또는 IBC 예측된 블록에 MTS를 적용할 수 있는지를 지시하는 요소로, sps_explicit_mts_inter_enabled_flag가 1일 경우, 인터 예측 또는 IBC 예측된 코딩 유닛의 변환 유닛 내에 MTS 인덱스가 존재할 수 있음을 나타낼 수 있다. sps_explicit_mts_inter_enabled_flag가 0일 경우, 인터 예측 또는 IBC 예측된 코딩 유닛에 대한 MTS 인덱스가 존재하지 않음을 나타내며, 이는 인터 예측 또는 IBC 예측된 블록에 MTS가 적용될 수 없음을 나타낼 수 있다.

sps_explicit_mts_intra_enabled_flag가 1이거나, sps_explicit_mts_inter_enabled_flag가 1인 경우, 추가적으로 MTS를 적용할 수 있는 최대 블록 사이즈 정보가 시그널링될 수 있다(S2403). 구체적으로, MTS를 적용할 수 있는 블록의 최대 사이즈를 MaxMtsSize라고 할 때, MaxMtsSize에 밑이 2인 로그를 취한 후, 2를 뺀 값이 시그널링 및 파싱될 수 있다. 즉, sps_log2_max_explicit_mts_size_minus2 + 2는 루마 변환 블록에서 MTS 인덱스가 0보다 클 수 있는 블록의 최대 사이즈를 나타낼 수 있다. MTS 인덱스가 0보다 큰 것은 해당 변환 블록에 MTS가 적용되었음을 나타낼 수 있다. 실시예로서, sps_log2_max_explicit_mts_size_minus2의 값은 [0, 3] 범위의 값일 수 있으며, sps_log2_max_explicit_mts_size_minus2가 존재하지 않을 때는, 0으로 설정(또는 추론)될 수 있다. 수신된 sps_log2_max_explicit_mts_size_minus2의 값에 따라, 변수 MaxMtsSize는 1<<(sps_log2_max_explicit_mts_size_minus2+2)로 설정(또는 유도)될 수 있다.

본 발명의 일 실시예에 따르면, 디코더는 도 24(b)의 예시와 같은 신택스구조에서 도 24(a)에서 설명한 실시예에 따른 상위 레벨 신택스에서 획득한 정보에 기반하여, 변환 유닛 레벨에서 MTS 정보를 획득할 수 있다. 도 24(b)에서 기술되지 않는 부분은 앞서 도 23에서 설명한 내용을 참조할 수 있다. 전술한 바와 같이, 도 23(a)에서는 MTS 인덱스를 시그널링 및 파싱할 수 있는 블록 사이즈 조건은 변환 블록의 너비가 32 이하이고, 변환 블록의 높이가 32 이하인 경우(즉, tbWidth<=32 && tbHeight <=32)를 포함할 수 있다. 즉, 이 경우에는 인코더와 디코더에서 모두 MTS를 적용할 수 있는 블록의 최대 사이즈를 고정된 값인 32로 설정되는 것으로 해석할 수 있다.

만약, 인코더에서 고속 인코딩을 수행하기 위하여 변환 블록의 너비가 16 이하이고, 변환 블록의 높이가 16 이하인 블록(즉, tbWidth <= 16 && tbHeight <= 16)에 대해서만 MTS를 수행(또는 적용)하는 경우, 변환 블록의 사이즈가 16x16 보다 큰 경우에도(예를 들어, (tbWidth<=16 && tbHeight==32) || (tbWidth==32 && tbHeight<=16)), 인코더는 항상 MTS 인덱스를 0으로 시그널링하여야 한다. 그리고, 디코더는 16x16 보다 큰 경우에도 항상 MTS 인덱스를 파싱하여야 한다. 본 발명의 일 실시예에서는, 이러한 시그널링 구조의 비효율성을 해결하기 위하여, 상위 레벨에서 지시되는 MTS를 적용할 수 있는 최대 변환 블록의 사이즈 정보에 기반하여, MTS를 적용하고, MTS와 관련된 신택스 요소를 시그널링 및 파싱할 수 있다. 일 예로서, sps_log2_max_explicit_mts_size_minus2로부터 MTS를 적용할 수 있는 변환 블록의 최대 사이즈를 나타내는 변수인 MaxMtsSize가 결정될 수 있다. 인코더/디코더는 변환 블록의 너비가 MaxMtsSize 이하이고, 변환 블록의 높이가 MaxMtsSize 이하인 블록(즉, tbWidth<=MaxMtsSize && tbHeight<=MaxMtsSize)에 MTS를 적용할 수 있고, 이 조건을 만족하는 경우, MTS 인덱스를 시그널링 및 파싱할 수 있다.

인코더는 현재 변환 블록의 사이즈가 상술한 조건을 만족하는 경우에만, 기 설정된 다수의 변환 커널 조합(즉, 수평 및 수직 방향 변환 커널)을 이용하여 변환 및 역변환을 수행할 수 있고, 율-왜곡 비용을 최소화하는 최적의 변환 커널 조합을 선택할 수 있다. 최적의 변환 커널 조합은 MTS 인덱스 신택스 요소로 시그널링될 수 있다. 디코더는 상술한 블록 사이즈 조건을 만족하는 경우(즉, tbWidth<=MaxMtsSize && tbHeight<=MaxMtsSize), MTS 인덱스를 파싱함으로써 현재 변환 블록의 잔차 샘플들의 수평 및 수직 방향에 적용되는 변환 커널을 결정할 수 있다. 만약, 현재 변환 블록의 너비가 MaxMtsSize 보다 크거나 높이가 MaxMtsSize 보다 큰 경우(즉, tbWidth>MaxMtsSize || tbHeight>MaxMtsSize), 수평 및 수직 방향에 모두 기본 커널이 적용되는 하나의 변환 커널 조합만이 이용될 수 있고, 인코더는 MTS 인덱스를 시그널링하지 않을 수 있다. 디코더는 MTS 인덱스를 파싱하지 않고, 그 값을 0으로 설정(또는 추론)할 수 있으며, 수평 및 수직 방향에 모두 기본 변환 커널을 적용할 수 있다. 전술한 바와 같이, 상기 기본 변환 커널은 DCT-II일 수 있다.

한편, IBC 예측은 복원이 진행 중인 현재 픽쳐의 복원된 영역으로부터 현재 블록에 대한 예측 블록을 생성하는 방법으로, 현재 블록 주변의 복원된 참조 샘플들을 활용하여 방향성 또는 무 방향성 예측을 수행하는 인트라 예측과는 다르게, 현재 픽쳐 내에서 현재 블록의 블록 벡터가 지시하는 위치의 블록을 참조 블록으로 활용하여 예측을 수행할 수 있다. 이때, 블록 벡터가 지시하는 위치는 현재 픽쳐의 복원된 영역일 수 있다. 또한, 참조 블록을 포함하는 참조 픽쳐가 이미 복원된 과거 또는 미래 픽쳐인 인터 예측과는 다르게, IBC 예측은 현재 픽쳐를 참조 픽쳐로 사용할 수 있다. 이와 같이, IBC 예측은 기존의 인트라 예측 및 인터 예측과는 다른 특징을 가지며, 벡터가 지시하는 위치로부터 예측 블록을 생성한다는 점에서 인터 예측과 유사하다고 볼 수 있지만, 예측을 위한 참조 영역이 현재 픽쳐이기 때문에 인터 예측과는 다른 특성을 보일 수 있다.

예측 방법에 따라 잔차 신호의 에너지 분포 특성(즉, 수평 방향에 대한 잔차 신호의 에너지 분포 및 수직 방향에 대한 잔차 신호의 에너지 분포)이 변하는 경향을 보이므로, 예측 방법에 따라 최적의 변환 커널은 변할 수 있다. 인터 및 인트라 예측된 블록에 사용되는 DST-VII, DCT-VIII 기반 변환 커널은 IBC로 예측된 블록의 잔차 신호의 특성을 잘 반영한다고 볼 수 없다. 이러한 이유로, IBC로 예측된 블록에는 변환 스킵 또는 기본 커널인 DCT-II가 더 효율적일 수 있다. 특히, IBC 예측의 경우에는 일반적으로 스크린 컨텐츠 코딩시 높은 효율을 보이고 상대적으로 많이 사용된다. 스크린 컨텐츠 코딩이 수행되는 경우에는 일반적인 영상에 대한 코딩 대비 잔차 신호의 양이 상대적으로 적으면서 동시에 잔차 신호의 패턴이 균일할 수 있다. 이와 같은 경우 MTS를 적용하지 않고 기본 변환 커널을 적용한다면 시그널링 비트를 줄일 수 있을뿐만 아니라, 변환 효율을 향상시킬 수 있다. 따라서, 본 발명의 일 실시예에 따르면, 현재 블록에 IBC 예측이 사용되는 경우, MTS를 적용하지 않고, 변환 스킵 또는 기본 변환 커널을 사용할 수 있다. 상기 기본 변환 커널은 DCT-II(또는 DCT-II 기반 변환 커널)일 수 있다.

도 25는 본 발명이 적용되는 일 실시예로서, IBC 예측이 적용되는 경우, 변환 방법을 선택하는 방법을 예시하는 도면이다. 도 25의 실시예에 기술되지 않은 사항은 앞서 설명한 도 23의 내용을 참조할 수 있으며, 관련하여 중복되는 설명은 생략한다. 도 23의 조건 x)를 다시 살펴보면, 디코더는 sps_explicit_mts_inter_enabled_flag가 1일 때, CuPredMode[x0][y0]가 MODE_INTER 또는 MODE_IBC인 경우, 즉 현재 블록에 인터 예측 또는 IBC 예측이 적용되는 경우, 조건 y), z)에 따라 MTS 인덱스를 파싱하여 변환 커널을 결정할 수 있다. 다시 말해, 현재 블록에 인터 예측이 적용되는 경우뿐만 아니라, IBC 예측이 적용되는 경우에도, 인코더/디코더는 기 설정된 조건을 만족하는 경우, MTS 인덱스를 시그널링/파싱함으로써 변환 커널을 결정할 수 있다.

반면에, 도 25를 참조하면, S2501 단계에서, 디코더는 sps_explicit_mts_inter_enabled_flag가 1일 때, CuPredMode[x0][y0]가 MODE_INTER인지 확인하고, MTS 인덱스의 파싱 여부를 결정할 수 있다. 즉, sps_explicit_mts_inter_enabled_flag가 1일 때, CuPredMode[x0][y0]가 MODE_INTER인 경우, 즉, 현재 블록에 인터 예측이 적용되는 경우, 디코더는 조건 y), z)를 확인하고 MTS 인덱스를 파싱함으로서 변환 커널을 결정할 수 있다. 본 발명의 일 실시예에 따르면, CuPredMode[x0][y0]가 MODE_IBC인 경우, sps_explicit_mts_inter_enabled_flag, sps_explicit_mts_intra_enabled_flag와 무관하게 MTS 인덱스는 시그널링 되지 않을 수 있다. 디코더는 MTS 인덱스를 파싱하지 않고, 그 값을 0으로 설정(또는 추론)할 수 있다. 따라서, 현재 블록에 IBC 예측이 적용되는 경우, 변환 스킵 플래그(즉, transform_skip_flag[x0][y0])에 기초하여 현재 변환 유닛(또는 변환 블록)에 변환 스킵 또는 기본 변환 커널이 수평 및 수직 방향에 적용될 수 있다. 이때, 기본 변환 커널은 DCT-II일 수 있다.

또한, 본 발명의 다른 일 실시예에 따르면, 현재 블록에 IBC 예측이 적용되는 경우, 인코더/디코더는 MTS를 활용하되, 인트라 및/또는 인터 예측에서 사용되는 변환 커널 세트와 다른 변환 커널 세트를 구성할 수 있다. 또는, 인코더/디코더는 IBC 예측이 적용되는 경우, 인트라 및/또는 인터 예측에서 사용되는 변환 커널의 전부 또는 일부를 포함하는 변환 커널 세트를 구성할 수 있다. 이 경우, 인코더/디코더는 앞서 설명한 도 23(a)와 동일한 구조로 MTS 인덱스를 시그널링 및 파싱하여 변환 커널을 결정할 수 있다.

도 26은 본 발명의 일 실시예에 따른 변환 트리 신택스 구조의 일 예를 도시하는 도면이다. 본 발명의 일 실시예에 따르면, 변환 트리 신택스 구조(transform tree syntax structure)를 통해 변환 트리 분할이 처리될 수 있다. 변환 트리의 리프 노드(leaf node)들은 변환 유닛(transform unit, TU)이 될 수 있으며, 변환 유닛에서 잔차 신호와 관련된 신택스 요소의 파싱 및 처리가 수행될 수 있다. 변환 트리 신택스는 변환 트리 내에서 분할된 노드(또는 분할된 블록)의 좌상단 좌표를 나타내는 (x0, y0), 분할된 노드의 너비를 나타내는 tbWidth, 분할된 노드의 높이를 나타내는 tbHeight, 현재 처리되는 코딩 트리의 종류를 지시하는 변수를 나타내는 treeType, treeType 변수에 따라 설정되는 chType 변수를 입력받을 수 있다. treeType이 SINGLE_TREE인 경우, 루마와 크로마가 동일한 코딩 트리 구조로 코딩되었음을 나타낼 수 있다. treType이 DUAL_TREE_LUMA인 경우, 루마와 크로마가 서로 다른 코딩 트리 구조로 코딩된 경우, 현재 처리되는 트리가 루마 성분에 대한 트리임을 나타낼 수 있다. treeType이 DUAL_TREE_CHROMA인 경우, 루마와 크로마가 서로 다른 코딩 트리 구조로 되었을 때, 현재 처리되는 트리가 크로마 성분에 대한 트리임을 나타낼 수 있다. 변수 chType은 treeType에 기초하여 설정될 수 있으며, treeType이 DUAL_TREE_CHROMA인 경우, chType은 1로 설정될 수 있으며, 그렇지 않은 경우에는 0으로 설정될 수 있다. 변환 트리 신택스(또는 함수)가 최초로 호출되었을 때, (x0, y0)는 코딩 유닛의 좌 상단 좌표와 동일하고, tbWidth, tbHeight, treeType, chType은 각각 코딩 유닛의 너비, 높이, treeType, chType과 동일할 수 있다. 코딩 유닛과 동일한 사이즈인 변환 트리의 루트 노드가 분할되는 경우는 다음의 세 가지로 구분될 수 있다. 변환 트리의 루트 노드는 코딩 유닛에 대응되고, 변환 트리의 리프 노드는 변환 유닛에 대응될 수 있다.

i) 루트 노드 및 분할된 노드의 크기가 루마 최대 변환 사이즈 (MaxTbSizeY)보다 큰 경우(tbWidth>MaxTbSizeY || tbHeight>MaxTbSizeY): MaxTbSizeY는 루마 최대 변환 블록의 사이즈를 나타내는 변수로, 인코더/디코더에 정의된 변환 커널의 최대 사이즈에 기초하여 결정될 수 있다. 일반적으로 변환 커널의 최대 사이즈가 증가할수록 에너지 압축(energy compaction)이 증가하여 코딩 효율을 향상시킬 수 있으나, 변환 커널의 최대 사이즈에 따라 하드웨어 인코더 및 디코더의 파이프라인 버퍼의 사이즈가 결정될 수 있으므로 복잡도와 코딩 효율을 모두 고려하여 변환 커널의 최대 사이즈가 결정될 수 있다. 실시예로서, MaxTbSizeY는 인코더와 디코더에서 모두 동일한 고정된 상수 값으로 설정될 수도 있고, 상위 레벨에서 시그널링되는 신택스 요소에 따라 설정될 수도 있다. 예를 들어, 루마 변환 블록의 최대 사이즈 정보는 SPS, PPS, VPS 중의 어느 하나에 포함되어 지시될 수 있다. 예를 들어, sps_max_luma_transform_size_64_flag는 SPS에 포함되어 시그널링될 수 있다. sps_max_luma_transform_size_64_flag가 1인 경우, 루마 최대 변환 사이즈가 64임을 나타내고, 0인 경우, 루마 최대 변환 사이즈가 32임을 나타낼 수 있다. 상기 sps_max_luma_transform_size_64_flag에 기초하여 변수 MaxTbLog2SizeY 및 MaxTbSizeY는 다음의 수학식 1과 같이 설정될 수 있다.

수학식 1에서, 변수 MaxTbSizeY는 루마 변환 블록의 최대 사이즈를 나타내며, MaxTbLog2SizeY는 MaxTbSizeY에 밑이 2인 로그를 취한 값을 나타내는 변수이다. 상술한 실시예에서, 루마 변환 블록의 최대 사이즈 정보(또는 신택스 요소)가 SPS 레벨에서 플래그 형태로 시그널링될 수 있다. 본 발명의 실시예를 설명함에 있어서, 루마 변환 블록의 최대 사이즈가 64 또는 32 중의 어느 하나로 결정되는 것을 기술하였으나, 본 발명은 이에 국한되지 않는다. 예를 들어, 루마 변환 블록의 최대 사이즈에 밑이 2인 로그를 취한 값을 직접 시그널링할 수도 있다. 실시예로서, MaxTbLo2SizeY, MaxTbSizeY는 시퀀스 레벨에서 결정될 수도 있고, 다른 예로서, 상기 파라미터(또는 변수)는 시퀀스 하위 레벨인 픽쳐, 타일, 슬라이스 레벨에서 결정될 수도 있다.

일 실시예에서, 상술한 루마 변환 블록의 최대 사이즈 기반 변환 트리 분할은 분할 방법(또는 분할 관련된 정보)이 명시적으로 시그널링되지 않을 수 있다. 반면에 ISP 또는 SBT의 경우, 변환 트리에 대한 분할 방법이 명시적으로 시그널링될 수 있고, 루마 최대 변환 사이즈에 기반하는 변환 트리의 분할은 ISP 및 SBT가 적용되지 않는 경우에 수행될 수 있다. 따라서, 도 26을 참조하면, S2601 단계에서, 디코더는 현재 코딩 유닛에 ISP 또는 SBT가 적용되는지를 확인할 수 있다. 만약, IntraSubPartitionsSplitType이 ISP_NO_SPLIT인 경우, 현재 코딩 유닛에 ISP가 적용되지 않음을 나타낼 수 있다. IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 현재 코딩 유닛에 ISP가 적용됨을 나타낼 수 있다. 그리고, cu_sbt_flag가 1일 경우, 현재 코딩 유닛에 SBT가 적용됨을 나타낼 수 있으며, cu_sbt_flag가 0인 경우, 현재 코딩 유닛에 SBT가 적용되지 않음을 나타낼 수 있다. 상술한 바와 같이, 루마 최대 변환 사이즈에 기반한 변환 트리 분할은 ISP및 SBT가 적용되지 않는 경우에 수행될 수 있으므로, S2601 단계의 if 구문에서 IntraSubPartitionsSplitType이 ISP_NO_SPLIT이고 cu_sbt_flag가 0인 경우에 루마 최대 변환 사이즈에 기초하여 변환 트리의 분할이 수행될 수 있다.

본 발명의 일 실시예에서, 변환 트리의 루트 노드 및 분할된 중간 노드의 너비(tbWidth) 또는 높이(tbHeight)가 루마 최대 변환 사이즈보다 큰 경우, 인코더/디코더는 분할 방법에 관한 정보를 명시적으로 시그널링/파싱하지 않고, 분할된 노드의 너비와 높이가 모두 루마 최대 변환 사이즈 이하가 될 때까지 변환 트리를 분할할 수 있다. 현재 노드의 너비(tbWidth) 및 높이(tbHeight)가 모두 루마 최대 변환 사이즈 이하인 경우, 상기 현재 노드는 변환 트리의 리프 노드로, 즉, 변환 유닛으로 결정될 수 있다.

예를 들어, 64x64 루트 노드(코딩 유닛과 동일한 크기)에 대하여 루마 최대 변환 사이즈가 32인 경우, 변환 트리의 루트 노드는 32x32 크기의 네 개의 노드로 분할되며, 32x32 크기의 리프 노드는 추가적인 분할 없이 변환 유닛으로 결정될 수 있다. 또 다른 예로, 64x32 루트 노드에 대하여 루마 최대 변환 사이즈가 32인 경우, 변환 트리의 루트 노드는 32x32 크기의 두 개의 노드로 분할되며, 32x32 크기의 리프 노드는 추가적인 분할 없이 변환 유닛으로 결정될 수 있다. 변환 트리의 루트 노드 및/또는 분할된 중간 노드의 너비 또는 높이가 루트보다 큰 경우, 인코더/디코더는 변환 트리 신택스를 재귀적으로 호출하여 변환 트리를 분할할 수 있다. 변환 트리의 루트 노드 및/또는 분할된 중간 노드의 너비와 높이가 모두 루마 최대 변환 사이즈 이하인 경우, 해당 노드는 추가적인 분할 없이 변환 유닛으로 결정될 수 있으며, 변환 유닛 신택스 구조에서 잔차 신호와 관련된 신택스 요소에 대한 파싱 및 처리가 수행될 수 있다.

ii) 현재 코딩 유닛에 SBT가 적용되는 경우(cu_sbt_flag==1): 상기 i) 경우에서 설명한 바와 다르게, SBT가 적용되는 경우, 코딩 유닛 레벨에서 명시적인 신택스 요소의 시그널링을 통해, 변환 트리의 분할 방법이 결정될 수 있다.

iii) 현재 코딩 유닛에 ISP가 적용되는 경우(IntraSubPartitionsSplitType != ISP_NO_SPLIT): 상기 i) 경우에서 설명한 바와 다르게, ISP가 적용되는 경우, 코딩 유닛 레벨에서 명시적인 신택스 요소의 시그널링을 통해, 변환 트리의 분할 방법이 결정될 수 있다. 예를 들어, IntraSubPartitionsSplitType이 ISP_HOR_SPLIT인 경우, ISP에 의한 수평 분할을 의미할 수 있으며, IntraSubPartitionsSplitType이 ISP_VER_SPLIT인 경우, ISP에 의한 수직 분할을 의미할 수 있다.

상기 i), ii), iii)의 경우에 설명한 바와 같이, 변환 트리 분할은 명시적인 신택스 요소의 시그널링 없이 분할되는 경우 i)과 명시적인 신택스 요소의 시그널을 이용하여 분할 방법이 지시되는 경우 ii), iii)으로 구분될 수 있다. 도 26에 도시된 변환 트리 신택스 구조에 의하면 i), ii), iii)의 경우에 기술된 변환 트리 분할이 모두 수행(또는 적용)될 수 있다. 도 26의 변환 트리 신택스 구조는 다음의 표 15와 같이 요약될 수 있다.

표 15를 참조하면, 먼저 IntraSubPartitionsSplitType이 ISP_NO_SPLIT이고 cu_sbt_flag가 0인 경우, 현재 노드의 크기 정보와 루마 최대 변환 블록 사이즈에 기초하여 암시적 분할이 수행될 수 있다. 다음으로, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이고, cu_sbt_flag가 1인 경우, 인코더/디코더는 코딩 유닛 레벨에서 시그널링/파싱된 SBT와 관련된 신택스 요소에 기반하여 변환 트리를 분할할 수 있다. 다음으로, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아니고, cu_sbt_flag가 0인 경우, IntraSubPartitionsSplitType에 기반하여 ISP의 수평 분할 또는 수직 분할이 수행될 수 있다.

도 27은 본 발명의 일 실시예에 따른 변환 유닛 신택스 구조를 예시하는 도면이다. 본 발명의 일 실시예에 따르면, 변환 스킵 관련 정보 및/또는 변환 커널을 지시하는 신택스 요소인 MTS 인덱스는 변환 유닛 신택스 구조 내에서 처리될 수 있다. 도 27을 참조하면, 설명의 편의를 위해 디코더를 위주로 본 발명의 실시예를 설명하나, 본 발명이 이에 제한되는 것은 아니며, 본 실시예에 따른 변환 스킵 및 MTS 결정 방법은 인코더에서도 실질적으로 동일하게 적용될 수 있다.

도 27을 참조하면, 변환 유닛 신택스 구조는 변환 프로세스가 수행되는 변환 유닛과 관련된 신택스 구조를 나타낸다. 변환 유닛 신택스는 x0, y0, tbWidth, tbHeight, treeType, subTuIndex, chType을 입력 받을 수 있다. (x0, y0)는 현재 변환 블록의 좌상단(top-right) 루마 샘플의 위치를 나타낼 수 있으며, 현재 픽쳐의 좌상단 루마 샘플 위치를 기준으로 하는 상대적인 위치일 수 있다. 변수 tbWidth 및 tbHeight는 각각 현재 변환 블록의 너비 및 높이를 나타낸다. 루마 성분에 대한 코딩 트리 구조와 크로마 성분에 대한 코딩 트리 구조는 서로 동일한 구조로 코딩될 수도 있고, 서로 다른 구조로 코딩될 수도 있다. 따라서, treeType 변수는 현재 처리되는 코딩 트리의 유형을 지시할 수 있다. 만약, treeType이 SINGLE_TREE인 경우, 루마 성분과 크로마 성분은 동일한 코딩 트리 구조로 코딩되었음을 의미하고, 이 경우 변환 유닛은 루마 변환 블록과 컬러 포맷에 따른 크로마 변환 블록을 포함할 수 있다. 만약, treeType이 DUAL_TREE_LUMA인 경우, 루마 성분과 크로마 성분은 서로 다른 구조의 코딩 트리 구조로 코딩되었을 때, 현재 처리되는 코딩 트리가 루마 성분의 코딩 트리임을 나타낼 수 있다. 이 경우, 변환 유닛은 루마 변환 블록을 포함할 수 있다. 만약, treeType이 DUAL_TREE_CHROMA인 경우, 루마 성분과 크로마 성분은 서로 다른 구조의 코딩 트리 구조로 코딩되었을 때, 현재 처리되는 코딩 트리가 크로마 성분의 코딩 트리임을 나타낼 수 있다. 이 경우, 변환 유닛은 컬러 포맷에 따른 크로마 변환 블록을 포함할 수 있다. subTuIndex는 현재 처리되는 변환 유닛의 인덱스를 나타낸다. chType은 treeType에 기초하여 설정될 수 있다. treeType이 DUAL_TREE_CHROMA인 경우, chType은 1로 설정될 수 있으며, 그렇지 않은 경우에는 0으로 설정될 수 있다.

변환 유닛 신택스 구조(즉, transform_unit())에서, 먼저 인코더는 루마 블록, Cb 크로마 블록, Cr 크로마 블록에 대한 CBF(Coded Block Flag)를 시그널링함으로써, 현재 변환 블록이 하나 이상의 0이 아닌 변환 계수를 포함하는지 지시할 수 있다. 마찬가지로, 디코더는 루마 블록, Cb 블록(또는 Cb 크로마 블록), Cr 블록(또는 Cr 크로마 블록)에 대한 CBF(Coded Block Flag)를 파싱함으로써, 현재 변환 블록이 하나 이상의 0이 아닌 변환 계수를 포함하는지를 결정(또는 유도)할 수 있다. 예를 들어, tu_cbf_luma[x0][y0] 가 1인 경우, 현재 루마 변환 블록이 0이 아닌 변환 계수를 하나 이상 포함하는 것을 나타낼 수 있으며, tu_cbf_luma[x0][y0]가 0인 경우, 현재 루마 변환 블록의 변환 계수는 모두 0임을 나타낼 수 있다. tu_cbf_cb[x0][y0]가 1인 경우, 현재 Cb 변환 블록이 0이 아닌 변환 계수를 하나 이상 포함하는 것을 나타낼 수 있으며, tu_cbf_cb[x0][y0]가 0인 경우, 현재 Cb 변환 블록의 변환 계수는 모두 0임을 나타낼 수 있다. tu_cbf_cr[x0][y0]가 1인 경우, 현재 Cr 변환 블록이 0이 아닌 변환 계수를 하나 이상 포함하는 것을 나타낼 수 있으며, tu_cbf_cr[x0][y0]가 0인 경우, 현재 Cr 변환 블록의 변환 계수는 모두 0임을 나타낼 수 있다.

S2701 단계(즉, 첫 번째 조건문)에서, 디코더는 변환 스킵 및/또는 MTS 적용 여부 결정하기 위한 기 설정된 조건을 확인(또는 검사)할 수 있다. 실시예로서, 이하의 조건 i), ii), iii), iv), v) 가 모두 참인 경우, 디코더는 후술하는 S2702 단계의 두 번째 조건문, S2704 단계의 세 번째 조건문에 따라 각각 변환 스킵, MTS 정보(즉, 신택스 요소)를 파싱(S2703, S2705)할 수 있다.

조건 i) tu_cbf_luma[x0][y0] == 1: 디코더는 tu_cbf_luma[x0][y0]의 값이 1인지 확인할 수 있다. 만약, tu_cbf_luma[x0][y0]의 값이 0일 경우, 현재 루마 변환 블록의 모든 변환 계수가 0임을 나타내므로, 디코더는 역양자화 및 역변환을 수행하지 않고 잔차 신호를 0으로 복원할 수 있다. 따라서, tu_cbf_luma[x0][y0]의 값이 0일 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 ii) treeType != DUAL_TREE_CHROMA: 디코더는 트리 타입이 루마 변환 블록을 포함하는 트리 타입인지 확인할 수 있다. 변환 스킵과 MTS는 모두 루마 변환 블록에만 적용될 수 있으므로, 현재 변환 유닛(또는 변환 블록)이 루마 변환 블록을 포함하지 않는 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다. 즉, 트리 타입이 DUAL_TREE_CHROMA인 경우, 현재 변환 유닛은 루마 변환 블록을 포함하지 않으므로, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 iii) (tbWidth<=32) && (tbHeight<=32): 디코더는 현재 변환 블록의 너비 및 높이가 32보다 작거나 같은지 확인할 수 있다. 변환 스킵 및 MTS가 적용될 수 있는 변환 블록의 최대 사이즈는 32x32이므로, 변환 블록의 너비 및 이가 모두 32 이하인 경우, 추가적인 조건에 따라 변환 스킵 및 MTS 정보의 시그널링 및 파싱이 수행될 수 있다.

조건 iv) IntraSubPartitionsSplitType[x0][y0]==ISP_NO_SPLIT: 디코더는 현재 코딩 유닛(또는 코딩 블록)에 ISP가 적용되지 않는지 확인할 수 있다. 만약, 현재 코딩 유닛에 ISP가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 ISP가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. IntraSubPartitionsSplitType는 ISP에 의한 블록의 분할 방법을 지시하는 변수를 나타낸다. IntraSubPartitionsSplitType는 코딩 유닛 레벨에서 시그널링된 ISP 정보에 따라 ISP에 의한 블록의 분할 방법을 지시할 수 있다. IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 현재 블록에 ISP가 적용되는 것을 나타낼 수 있다. 따라서, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 v) !cu_sbt_flag: 디코더는 현재 코딩 유닛에 서브 블록 변환(SBT, Sub-Block Transform)이 적용되지 않는지 확인할 수 있다. 현재 코딩 유닛에 SBT가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 SBT가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. cu_sbt_flag는 현재 코딩 유닛에 SBT가 적용되는지를 지시하는 신택스 요소를 나타낸다. cu_sbt_flag는 코딩 유닛 레벨에서 시그널링 및 파싱될 수 있다. cu_sbt_flag가 1일 경우, 현재 코딩 유닛에 SBT가 적용되는 것을 나타낼 수 있고, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

상술한 조건 i) 내지 v)가 모두 참인 경우, S2702 단계에서, 디코더는 변환 스킵 적용 여부를 결정하기 위한 이하의 조건 a), b), c)를 확인(또는 검사)할 수 있다. 일 예로서, 이하의 조건 a), b), c)가 모두 참일 때, 변환 스킵과 관련된 정보가 시그널링 및 파싱될 수 있다.

조건 a) sps_transform_skip_enabled_flag==1: 디코더는 현재 블록에 변환 스킵이 이용(또는 적용) 가능한지 확인할 수 있다. sps_transform_skip_enabled_flag는 변환 스킵이 이용 가능한지 여부를 지시하는 플래그(또는 신택스 요소)를 나타낸다. 상기 변환 스킵의 이용 가능 여부를 지시하는 플래그는 PPS(Picture Parameter Set), SPS(Sequence Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 신택스 중의 적어도 어느 하나에 포함되어 시그널링 및 파싱될 수 있다. sps_transform_skip_enabled_flag가 1인 경우, 변환 유닛 레벨에서 변환 스킵의 적용 여부가 지시될 수 있다. 추가적으로, sps_transform_skip_enabled_flag가 1인 경우, 변환 스킵이 가능한 최대 블록 사이즈가 인코더로부터 디코더로 시그널링될 수 있다. sps_transform_skip_enabled_flag가 0인 경우, 변환 유닛 신택스 구조에서 변환 스킵을 지시하는 신택스 요소는 존재하지(또는 파싱되지, 명시적으로 시그널링되지) 않을 수 있다.

조건 b) !BdpcmFlag[x0][y0]: 인트라 예측 방법의 하나로서, 블록 기반 델타 펄스 모듈레이션(BDPCM, Block-based Delta Pulse Code Modulation) 방법이 정의될 수 있다. BDPCM 모드가 적용되는 경우, 인코더/디코더는 기 설정된 예측 모드를 이용하여 인트라 예측을 수행하고, 변환 스킵을 적용한 후, 양자화된 계수를 기 설정된 모드에 따라 이전 위치의 샘플과 현재 위치의 샘플의 합으로 표현할 수 있다. 즉, BDPCM 모드에서는 변환이 적용되지 않고, 양자화된 계수로서 기 설정된 모드에 따라 현재 위치의 샘플과 이전 위치의 샘플 간의 차이가 인코더로부터 디코더로 전송될 수 있다. BDPCM에 관련된 정보(또는 신택스 요소)는 코딩 유닛 레벨에서 지시될 수 있다. 실시예로서, BdpcmFlag[x0][y0]가 인코더로부터 디코더로 전송될 수 있다. BdpcmFlag[x0][y0]가 1인 경우, 현재 블록에 BDPCM이 적용되는 것을 나타낼 수 있다. 현재 BDPCM이 적용되는 경우, 변환 스킵이 적용되는 것을 알 수 있으므로, 현재 루마 변환 블록에 변환 스킵이 적용되는지를 나타내는 신택스 요소인 transform_skip_flag[x0][y0]는 명시적으로 시그널링되지 않고, 1로 설정(또는 추론)될 수 있다.

조건 c) tbWidth<=MaxTsSize && tbHeight <= MaxTsSize: 변환 블록의 너비 및 높이가 최대 변환 스킵 크기 보다 작거나 같은지 확인할 수 있다. sps_transform_skip_enabled_flag가 1인 경우, 변환 스킵이 가능한 블록의 최대 사이즈가 지시될 수 있고, 이를 통해 최대 변환 크기를 나타내는 MaxTsSize 변수가 설정될 수 있다. 실시예로서, 변환 스킵은 변환 블록의 너비와 높이가 모두 MaxTsSize 이하인 블록에 적용될 수 있다.

S2703 단계에서, 상술한 조건 i) 내지 v), 조건 a), b), c)가 모두 참인 경우, 현재 루마 변환 블록에 변환 스킵이 적용되는지를 지시하는 신택스 요소인 transform_skip_flag[x0][y0]가 시그널링 및 파싱될 수 있다. transform_skip_flag[x0][y0]가 1인 경우, 현재 루마 변환 블록에 변환이 적용되지 않음을 나타낼 수 있다. transform_skip_flag[x0][y0]가 0인 경우, 현재 루마 변환 블록에 변환이 적용됨을 나타낼 수 있다. transform_skip_flag[x0][y0]가 존재하지 않는 경우(즉, 명시적으로 시그널링되지 않은 경우), BdpcmFlag[x0][y0]에 따라 transform_skip_flag[x0][y0] 값이 설정(또는 추론)될 수 있다. BdpcmFlag[x0][y0]가 1인 경우, transform_skip_flag[x0][y0]는 1로 설정(또는 추론)될 수 있으며 BdpcmFlag[x0][y0]가 0인 경우, transform_skip_flag[x0][y0]는 0으로 설정(또는 추론)될 수 있다.

상술한 상기 조건 i) 내지 v)가 모두 참인 경우, 이하의 다음의 조건 x), y)가 모두 참일 때(S2704), MTS 관련 정보가 시그널링 및 파싱될 수 있다(S2705).

조건 x) (CuPredMode[chType][x0][y0] == MODE_INTER && sps_explicit_mts_inter_enabled_flag) || (CuPredMode[chType][x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag): 디코더는 현재 블록의 예측 모드 및 명시적(explicit) MTS를 이용할 수 있는지 여부에 기초하여 기 설정된 조건을 만족하는지 확인할 수 있다. 코딩 유닛 레벨에서 예측의 방법(즉, 예측 모드)이 결정될 수 있으며, 코딩 유닛 레벨에서 수신한 정보에 기초하여 CuPredMode[chType][x0][y0] 변수를 설정할 수 있다. 예측 모드는 인트라 예측, 인터 예측을 포함한다. 추가적으로, 예측 모드는 현재 픽쳐 내 복원된 영역으로부터 예측 블록을 생성하는 인트라 블록 카피(IBC, Intra Block Copy) 예측을 포함할 수 있다. CuPredMode[chType][x0][y0]가 MODE_INTRA인 경우, 현재 블록이 인트라 예측으로 코딩되었음을 나타내며, CuPredMode[chType][x0][y0]가 MODE_INTER인 경우, 현재 블록이 인터 예측으로 코딩되었음을 나타낼 수 있다. 또한 CuPredMode[chType][x0][y0]가 MODE_IBC인 경우, 현재 블록이 IBC 예측으로 코딩되었음을 나타낼 수 있다.

한편, MTS의 이용 가능 여부를 지시하는 플래그는 PPS(Picture Parameter Set), SPS(Sequence Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 신택스 중의 적어도 어느 하나에 포함되어 시그널링 및 파싱될 수 있다. 구체적으로, 예측 방법에 대한 MTS의 이용 가능 여부가 독립적으로 각각 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 1인 경우, 인터 예측된 코딩 유닛에 대하여 변환 커널을 지시하는 신택스 요소인 MTS 인덱스(본 명세서에서, tu_mts_idx, mts_idx로 지칭될 수 있음)가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(즉, 명시적으로 시그널링되지 않음)을 나타내며, 이는 인터 예측된 블록에 MTS를 적용할 수 없음을 의미한다. 다시 말해, sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. MTS가 적용되지 않는 경우에는 기 설정된 변환 커널이 사용될 수 있으며, 이는 DCT-II에 기반하는 변환 커널일 수 있다. sps_explicit_mts_intra_enabled_flag가 1인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(명시적으로 시그널링되지 않음)을 나타낸다. 다시 말해, sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. MTS가 적용되지 않는 경우에는 기 설정된 변환 커널이 사용될 수 있으며, 이는 DCT-II에 기반하는 변환 커널일 수 있다.

현재 블록이 인트라 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인트라 예측에 대해 MTS가 이용 가능한 경우이거나(즉, CuPredMode[x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag), 현재 블록이 인터 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인터 예측에 대해 MTS가 이용 가능한 경우(즉, CuPredMode[chTye][x0][y0] == MODE_INTER && sps_explicit_mts_inter_enabled_flag) 조건 x)는 참일 수 있다. 즉, 조건 x)에서는 예측 모드에 따라(즉, CuPredMode[chType][x0][y0] 변수에 따라) 상위 레벨 신택스 상에서 해당 MTS 가능 플래그가 온(on)일 경우, MTS에 관련된 정보가 시그널링 및 파싱될 수 있다.

조건 y) !transform_skip_flag[x0][y0]: 디코더는 현재 변환 블록에 변환 스킵이 적용되지 않는지 확인할 수 있다. 현재 변환 블록에 변환 스킵이 적용되는 경우, 변환이 적용되지 않는 것이므로 MTS와 관련된 정보는 시그널링 및 파싱되지 않을 수 있다.

상기 조건 i) 내지 v), 조건 x), y)가 모두 참일 때, S2705 단계에서, 루마 변환 블록의 잔차 샘플들의 수평 및 수직 방향에 적용되는 변환 커널(또는 변환 타입)을 지시하는 신택스 요소인 MTS 인덱스가 시그널링 및 파싱될 수 있다. 실시예로서, MTS 인덱스가 존재하지 않는 경우, 상기 MTS 인덱스는 0으로 설정(또는 추론)될 수 있다. 이는 기 설정된 기본 커널이 수평 방향과 수직 방향에 모두 적용되는 것임을 나타낼 수 있으며, 기본 커널은 DCT-II에 기반하는 정수 커널일 수 있다. MTS 인덱스에 따라 수평 방향과 수직 방향에 적용되는 변환 커널은 앞서 도 14에서 기술한 방법을 따를 수 있다.

한편, 도 27의 변환 유닛 신택스 구조에서는 변환 트리가 루마 변환 블록의 최대 사이즈(MaxTbSizeY)에 기초하여 코딩 유닛이 다수의 변환 유닛으로 분할되는 경우에도, 분할된 각각의 변환 유닛들은 MTS 인덱스를 파싱할 수 있다. 그리고, 파싱된 MTS 인덱스에 기초하여 각각의 변환 유닛들에 서로 다른 변환 커널이 적용될 수 있다. 예를 들어, 루마 최대 변환 사이즈가 32일 때, 64x64 코딩 유닛은 32x32 변환 유닛 4개로 분할될 수 있다. 분할된 각각의 변환 유닛은 항상 tbWidth가 32이하(tbWidth<=32)이고, tbHeight가 32이하(tbHeight<=32)이므로, MTS 인덱스를 시그널링/파싱하기 위한 나머지 조건이 참인 경우, MTS 인덱스를 시그널링 및 파싱할 수 있다. 이 경우, 분할된 각각의 변환 유닛은 서로 다른 MTS 인덱스 값을 가질 수 있다. 즉, 이는 분할된 각각의 변환 유닛의 수평 방향과 수직 방향에 적용되는 변환 커널이 다를 수 있음을 의미한다. 예를 들어, 분할된 첫 번째 변환 블록의 수평 방향과 수직 방향에는 DCT-II에 기반하는 커널이 적용되고, 분할된 두 번째 변환 블록의 수평 방향과 수직 방향에는 DST-VII에 기반하는 커널이 적용되는 것이 가능할 수 있다.

상기 기술한 것처럼, 분할된 각각의 변환 유닛이 MTS 인덱스에 따라 서로 다른 변환 커널을 적용하는 경우, 변환 유닛이 포함하는 잔차 신호의 특성에 따라 최적의 변환 커널을 선택할 수 있는 장점이 있다. 그러나, 예측의 방법이 코딩 유닛 레벨에서 결정되므로, 코딩 유닛 레벨에서 분할된 변환 유닛들이 포함하는 잔차 신호의 특성은 서로 유사할 확률이 높다. 따라서, 루마 변환 블록의 최대 사이즈에 기반하여 분할된 변환 유닛에 대해서 MTS 인덱스를 명시적으로 시그널링하지 않고, 기 설정된 값으로 설정함으로써, 분할된 변환 유닛들에 대하여 모두 동일한 변환 커널을 적용할 경우, 변환 커널을 지시하는데 필요한 시그널링 오버헤드를 줄일 수 있다. 즉, 루마 변환 블록의 최대 사이즈에 의해 분할되는 변환 유닛에서 (tbWidth<=32) && (tbHeight<=32) 조건이 참인 경우에도 MTS 인덱스는 명시적으로 시그널링되지 않을 수 있고, MTS 인덱스는 기 설정된 값으로 설정될 수 있다. 기 설정된 값은 0일 수 있으며, 이 경우 수평 방향과 수직 방향에 모두 DCT-II에 기반하는 기본 커널이 적용될 수 있다.

도 28은 본 발명의 일 실시예에 따른 변환 유닛 신택스 구조를 예시하는 도면이다. 도 28의 실시예에 기술되지 않은 사항은 앞서 설명한 도 27의 내용을 참조할 수 있으며, 관련하여 중복되는 설명은 생략한다. 본 발명의 일 실시예에 따르면, 변환 스킵 관련 정보 및/또는 변환 커널을 지시하는 신택스 요소인 MTS 인덱스는 변환 유닛 신택스 구조 내에서 처리될 수 있다. 도 28을 참조하면, 설명의 편의를 위해 디코더를 위주로 본 발명의 실시예를 설명하나, 본 발명이 이에 제한되는 것은 아니며, 본 실시예에 따른 변환 스킵 및 MTS 결정 방법은 인코더에서도 실질적으로 동일하게 적용될 수 있다.

S2801 단계(즉, 첫 번째 조건문)에서, 디코더는 변환 스킵 및/또는 MTS 적용 여부 결정하기 위한 기 설정된 조건을 확인(또는 검사)할 수 있다. 실시예로서, 이하의 조건 i), ii), iii), iv)가 모두 참인 경우, 디코더는 후술하는 S2802 단계의 두 번째 조건문, S2804 단계의 세 번째 조건문에 따라 각각 변 변환 스킵, MTS 정보(즉, 신택스 요소)를 파싱(S2703, S2705)할 수 있다.

조건 i) tu_cbf_luma[x0][y0] == 1: 디코더는 tu_cbf_luma[x0][y0]의 값이 1인지 확인할 수 있다. 만약, tu_cbf_luma[x0][y0]의 값이 0일 경우, 현재 루마 변환 블록의 모든 변환 계수가 0임을 나타내므로, 디코더는 역양자화 및 역변환을 수행하지 않고 잔차 신호를 0으로 복원할 수 있다. 따라서, tu_cbf_luma[x0][y0]의 값이 0일 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 ii) treeType != DUAL_TREE_CHROMA: 디코더는 트리 타입이 루마 변환 블록을 포함하는 트리 타입인지 확인할 수 있다. 변환 스킵과 MTS는 모두 루마 변환 블록에만 적용될 수 있으므로, 현재 변환 유닛(또는 변환 블록)이 루마 변환 블록을 포함하지 않는 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다. 즉, 트리 타입이 DUAL_TREE_CHROMA인 경우, 현재 변환 유닛은 루마 변환 블록을 포함하지 않으므로, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 iii) IntraSubPartitionsSplitType[x0][y0]==ISP_NO_SPLIT: 디코더는 현재 코딩 유닛(또는 코딩 블록)에 ISP가 적용되지 않는지 확인할 수 있다. 만약, 현재 코딩 유닛에 ISP가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 ISP가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. IntraSubPartitionsSplitType는 ISP에 의한 블록의 분할 방법을 지시하는 변수를 나타낸다. IntraSubPartitionsSplitType는 코딩 유닛 레벨에서 시그널링된 ISP 정보에 따라 ISP에 의한 블록의 분할 방법을 지시할 수 있다. IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 현재 블록에 ISP가 적용되는 것을 나타낼 수 있다. 따라서, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

iv) !cu_sbt_flag: 디코더는 현재 코딩 유닛에 서브 블록 변환(SBT, Sub-Block Transform)이 적용되지 않는지 확인할 수 있다. 현재 코딩 유닛에 SBT가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 SBT가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. cu_sbt_flag는 현재 코딩 유닛에 SBT가 적용되는지를 지시하는 신택스 요소를 나타낸다. cu_sbt_flag는 코딩 유닛 레벨에서 시그널링 및 파싱될 수 있다. cu_sbt_flag가 1일 경우, 현재 코딩 유닛에 SBT가 적용되는 것을 나타낼 수 있고, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

상기 조건 i) 내지 iv)가 모두 참인 경우, S2802 단계에서, 디코더는 다음의 변환 스킵 적용 여부 결정하기 위한 조건 a), b) c)를 확인(또는 검사)할 수 있다. 일 예로서, 이하의 조건 a), b) c)가 모두 참일 때, 변환 스킵과 관련된 정보가 시그널링 및 파싱될 수 있다. 상기 조건 a), b), c)는 앞서 도 27에서 설명한 조건 a), b), c)와 동일하게 정의될 수 있다.

S2803 단계에서, 상기 조건 i) 내지 iv), 조건 a), b), c)가 모두 참인 경우, 현재 루마 변환 블록에 변환 스킵이 적용되는지를 지시하는 신택스 요소인 transform_skip_flag[x0][y0]가 시그널링 및 파싱될 수 있다. transform_skip_flag[x0][y0]가 1인 경우, 현재 루마 변환 블록에 변환이 적용되지 않음을 나타낼 수 있다. transform_skip_flag[x0][y0]가 0인 경우, 현재 루마 변환 블록에 변환이 적용됨을 나타낼 수 있다. transform_skip_flag[x0][y0]가 존재하지 않는 경우(즉, 명시적으로 시그널링되지 않은 경우), BdpcmFlag[x0][y0]에 따라 transform_skip_flag[x0][y0] 값이 설정(또는 추론)될 수 있다. BdpcmFlag[x0][y0]가 1인 경우, transform_skip_flag[x0][y0]는 1로 설정(또는 추론)될 수 있으며 BdpcmFlag[x0][y0]가 0인 경우, transform_skip_flag[x0][y0]는 0으로 설정(또는 추론)될 수 있다.

본 발명의 일 실시예에 따르면, 변환 트리가 루마 변환 블록의 최대 사이즈 조건에 의해 다수의 변환 유닛들로 분할되는 경우(즉, 루마 변환 최대 사이즈에 기초하여 암시적 분할 되는 경우)에도, 상기 조건 i) 내지 iv), 조건 a), b), c)를 모두 만족하는 경우, 디코더는 transform_skip_flag[x0][y0]를 파싱할 수 있고, transform_skip_flag[x0][y0]의 값에 따라, 분할된 변환 유닛에 대하여 변환 스킵을 적용할 수 있다.

상술한 조건 i) 내지 iv)가 모두 참인 경우, 이하의 조건 x), y), z)가 모두 참일 때(S2804), MTS 관련 정보가 시그널링 및 파싱될 수 있다(S2805).

조건 x) (CuPredMode[chType][x0][y0] == MODE_INTER && sps_explicit_mts_inter_enabled_flag) || (CuPredMode[chType][x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag): 디코더는 현재 블록의 예측 모드 및 명시적(explicit) MTS를 이용할 수 있는지 여부에 기초하여 기 설정된 조건을 만족하는지 확인할 수 있다. 코딩 유닛 레벨에서 예측의 방법(즉, 예측 모드)이 결정될 수 있으며, 코딩 유닛 레벨에서 수신한 정보에 기초하여 CuPredMode[chType][x0][y0] 변수를 설정할 수 있다. 예측 모드는 인트라 예측, 인터 예측을 포함한다. 추가적으로, 예측 모드는 현재 픽쳐 내 복원된 영역으로부터 예측 블록을 생성하는 인트라 블록 카피(IBC, Intra Block Copy) 예측을 포함할 수 있다. CuPredMode[chType][x0][y0]가 MODE_INTRA인 경우, 현재 블록이 인트라 예측으로 코딩되었음을 나타내며, CuPredMode[chType][x0][y0]가 MODE_INTER인 경우, 현재 블록이 인터 예측으로 코딩되었음을 나타낼 수 있다. 또한 CuPredMode[chType][x0][y0]가 MODE_IBC인 경우, 현재 블록이 IBC 예측으로 코딩되었음을 나타낼 수 있다.

한편, MTS의 이용 가능 여부를 지시하는 플래그는 PPS(Picture Parameter Set), SPS(Sequence Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 신택스 중의 적어도 어느 하나에 포함되어 시그널링 및 파싱될 수 있다. 구체적으로, 예측 방법에 대한 MTS의 이용 가능 여부가 독립적으로 각각 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 1인 경우, 인터 예측된 코딩 유닛에 대하여 변환 커널을 지시하는 신택스 요소인 MTS 인덱스(본 명세서에서, tu_mts_idx, mts_idx로 지칭될 수 있음)가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(즉, 명시적으로 시그널링되지 않음)을 나타내며, 이는 인터 예측된 블록에 MTS를 적용할 수 없음을 의미한다. 다시 말해, sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. MTS가 적용되지 않는 경우에는 기 설정된 변환 커널이 사용될 수 있으며, 이는 DCT-II에 기반하는 변환 커널일 수 있다. sps_explicit_mts_intra_enabled_flag가 1인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(명시적으로 시그널링되지 않음)을 나타낸다. 다시 말해, sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. MTS가 적용되지 않는 경우에는 기 설정된 변환 커널이 사용될 수 있으며, 이는 DCT-II에 기반하는 변환 커널일 수 있다.

현재 블록이 인트라 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인트라 예측에 대해 MTS가 이용 가능한 경우이거나(즉, CuPredMode[chType][x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag), 현재 블록이 인터 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인터 예측에 대해 MTS가 이용 가능한 경우(즉, CuPredMode[chTye][x0][y0] == MODE_INTER && sps_explicit_mts_inter_enabled_flag) 조건 x)는 참일 수 있다. 즉, 조건 x)에서는 예측 모드에 따라(즉, CuPredMode[chType][x0][y0] 변수에 따라) 상위 레벨 신택스 상에서 해당 MTS 가능 플래그가 온(on)일 경우, MTS에 관련된 정보가 시그널링 및 파싱될 수 있다.

조건 y) !transform_skip_flag[x0][y0]: 디코더는 현재 변환 블록에 변환 스킵이 적용되지 않는지 확인할 수 있다. 현재 변환 블록에 변환 스킵이 적용되는 경우, 변환이 적용되지 않는 것이므로 MTS와 관련된 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 z) (CbWidth[chType][x0][y0] <= 32) && (CbHeight[chType][x0][y0] <= 32): CbWidth[chType][x0][y0]와 CbHeight[chType][x0][y0]는 각각 현재 코딩 블록의 너비와 높이를 나타낼 수 있다. 변환 유닛은 코딩 유닛을 루트 노드로 하여, 변환 트리에 의해 분할될 수 있으므로, CbWidth[chType][x0][y0]>=tbWidth, CbHeight[chType][x0][y0]>=tbHeight 관계를 만족할 수 있다. 즉, 본 발명의 일 실시예에 따르면, 도 28의 변환 유닛 신택스 구조에서 MTS 인덱스는 변환 트리 구조 내에서 루트 노드인 코딩 블록의 너비와 높이가 모두 기 설정된 값 이하인 경우에만 명시적으로 시그널링될 수 있다. 또한, 실시예로서, 상기 기 설정된 값은 32일 수 있다. 따라서, 인코더/디코더는 루마 변환 블록의 최대 사이즈 조건에 의해 분할되는 변환 유닛에 대해서는 MTS 인덱스를 시그널링/파싱하지 않고, 기 설정된 값인 0으로 설정(또는 추론)할 수 있다. 이 경우, 수평 방향과 수직 방향에 DCT-II에 기반하는 기본 변환 커널이 적용될 수 있다.

일 실시예에서, 루마 변환 최대 사이즈가 64이고, 현재 블록에 ISP와 SBT가 모두 적용되지 않는 경우를 가정하면, 코딩 블록의 너비와 높이가 모두 32 이하일 때, 변환 트리는 분할되지 않고, 변환 유닛의 사이즈는 코딩 유닛의 사이즈와 동일하게 결정될 수 있다. 이 경우, 변환 블록의 너비와 높이가 모두 32 이하임이 보장되므로, 디코더는 MTS 인덱스를 파싱하여, MTS 인덱스 값에 따라 변환 커널을 결정/사용할 수 있다.

또한, 일 실시예에서, 루마 변환 최대 사이즈가 32이고, 현재 블록에 ISP와 SBT가 모두 적용되지 않는 경우를 가정하면, 코딩 블록의 너비와 높이가 모두 32 이하일 경우, 변환 트리는 분할되지 않고, 변환 유닛의 사이즈는 코딩 유닛의 사이즈와 동일하게 결정될 수 있다. 따라서, 변환 블록의 너비와 높이가 모두 32 이하임이 보장되므로, 디코더는 MTS 인덱스를 파싱하여, MTS 인덱스 값에 따라 변환 커널을 결정/사용할 수 있다. 반면, 변환 블록의 너비와 높이가 모두 32 이하이더라도, 코딩 블록의 너비 또는 높이가 32보다 큰 경우, 이는 루마 변환 블록의 최대 사이즈 조건에 의해 분할된 변환 유닛임을 나타내므로, MTS 인덱스는 파싱되지 않고, 기 설정된 값으로 설정(또는 추론)될 수 있다. 즉, 변환 블록의 너비 및 높이가 모두 32보다 작은 경우라도, 코딩 블록의 너비 또는 높이가 32보다 큰 경우, MTS 인덱스는 파싱되지 않고, 기 설정된 값으로 설정(또는 추론)될 수 있다. 상기 기 설정된 값은 0일 수 있으며, 이 경우 수평 방향과 수직 방향에 모두 DCT-II에 기반하는 기본 커널이 적용될 수 있다.

상기 조건 i) 내지 iv), 조건 x), y), z)가 모두 참인 경우, S2805 단계에서, 루마 변환 블록의 잔차 샘플들의 수평과 수직 방향에 적용되는 변환 커널(또는 변환 타입)을 지시하는 신택스 요소인 MTS 인덱스가 시그널링 및 파싱될 수 있다. 실시예로서, MTS 인덱스가 존재하지 않는 경우, 상기 MTS 인덱스는 0으로 설정(또는 추론)될 수 있다. 이는 기 설정된 기본 커널이 수평 방향과 수직 방향에 모두 적용되는 것임을 나타낼 수 있으며, 기본 커널은 DCT-II에 기반하는 정수 커널일 수 있다. MTS 인덱스에 따라 수평 방향과 수직 방향에 적용되는 변환 커널은 앞서 도 14에서 기술한 방법을 따를 수 있다.

도 29은 본 발명의 일 실시예에 따른 변환 유닛 신택스 구조를 예시하는 도면이다. 도 29의 실시예에 기술되지 않은 사항은 앞서 설명한 도 27의 내용을 참조할 수 있으며, 관련하여 중복되는 설명은 생략한다. 도 29의 변환 유닛 신택스 구조에서는 trafoDepth 변수를 추가적으로 입력 받을 수 있다. 여기서, trafoDepth는 변환 트리의 분할 정도(또는 분할 깊이)를 나타내는 변수이다. 예를 들어, trafoDepth가 0인 경우, 변환 트리가 분할되지 않은 것을 나타낼 수 있으며, 이 경우 코딩 유닛과 변환 유닛의 사이즈는 동일할 수 있다. trafoDepth가 0보다 큰 경우, 코딩 유닛을 루트 노드로 하여, 변환 트리가 분할된 것을 나타낼 수 있으며, 이 경우 코딩 유닛은 복수의 변환 유닛을 포함할 수 있다. trafoDepth의 계산을 위해, 변환 트리 신택스 구조 또한 trafoDepth 변수를 입력 받을 수 있으며, 변환 트리 신택스 구조가 처음 수행될 때, trafoDepth는 0으로 입력 받을 수 있다.

앞서 도 26에서 설명한 변환 트리 신택스 구조에서, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이고 cu_sbt_flag[x0][y0]가 0일 때, 루마 변환 블록의 최대 사이즈 조건에 의해 변환 트리를 분할하는 경우(즉, tbWidth>MaxTbSizeY || tbHeight>MaxTbSizeY), 인코더/디코더는 변환 트리 프로세스(또는 신택스)를 수행함에 있어서, trafoDepth를 trafoDepth+1(즉, 현재 분할 깊이+1)로 설정할 수 있다. 반면에, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이고 cu_sbt_flag[x0][y0]가 0일 때, 변환 트리가 분할되지 않는 경우(즉, tbWidth<=MaxTbSizeY && tbHeight<=MaxTbSizeY), 변환 유닛 신택스 구조가 수행될 수 있으며, 인코더/디코더는 변환 유닛의 trafoDepth를 trafoDepth로 설정(즉, 현재 분할 심도와 동일하게 설정)할 수 있다. SBT 또는 ISP가 적용되어 변환 트리가 분할되는 경우, 변환 유닛 처리 프로세스를 수행함에 있어서, 인코더/디코더는 trafoDepth를 trafoDepth+1 (현재 분할 심도+1)로 설정할 수 있다.

S2901 단계(즉, 첫 번째 조건문)에서, 디코더는 변환 스킵 및/또는 MTS 적용 여부 결정하기 위한 기 설정된 조건을 확인(또는 검사)할 수 있다. 실시예로서, 디코더는 이하의 조건 i), ii), iii), iv), v)가 모두 참인 경우, 후술하는 S2902 단계의 두 번째 조건문, S2904 단계의 세 번째 조건문에 따라 각각 변 변환 스킵, MTS 정보(즉, 신택스 요소)를 파싱(S2903, S2905)할 수 있다.

조건 i) tu_cbf_luma[x0][y0] == 1: 디코더는 tu_cbf_luma[x0][y0]의 값이 1인지 확인할 수 있다. 만약, tu_cbf_luma[x0][y0]의 값이 0일 경우, 현재 루마 변환 블록의 모든 변환 계수가 0임을 나타내므로, 디코더는 역양자화 및 역변환을 수행하지 않고 잔차 신호를 0으로 복원할 수 있다. 따라서, tu_cbf_luma[x0][y0]의 값이 0일 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 ii) treeType != DUAL_TREE_CHROMA: 디코더는 트리 타입이 루마 변환 블록을 포함하는 트리 타입인지 확인할 수 있다. 변환 스킵과 MTS는 모두 루마 변환 블록에만 적용될 수 있으므로, 현재 변환 유닛(또는 변환 블록)이 루마 변환 블록을 포함하지 않는 경우, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다. 즉, 트리 타입이 DUAL_TREE_CHROMA인 경우, 현재 변환 유닛은 루마 변환 블록을 포함하지 않으므로, 변환 스킵, MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 iii) (tbWidth<=32) && (tbHeight<=32): 디코더는 현재 변환 블록의 너비 및 높이가 32보다 작거나 같은지 확인할 수 있다. 변환 스킵 및 MTS가 적용될 수 있는 변환 블록의 최대 사이즈는 32x32이므로, 변환 블록의 너비 및 이가 모두 32 이하인 경우, 추가적인 조건에 따라 변환 스킵 및 MTS 정보의 시그널링 및 파싱이 수행될 수 있다.

조건 iv) IntraSubPartitionsSplitType[x0][y0]==ISP_NO_SPLIT: 디코더는 현재 코딩 유닛(또는 코딩 블록)에 ISP가 적용되지 않는지 확인할 수 있다. 만약, 현재 코딩 유닛에 ISP가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 ISP가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. IntraSubPartitionsSplitType는 ISP에 의한 블록의 분할 방법을 지시하는 변수를 나타낸다. IntraSubPartitionsSplitType는 코딩 유닛 레벨에서 시그널링된 ISP 정보에 따라 ISP에 의한 블록의 분할 방법을 지시할 수 있다. IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 현재 블록에 ISP가 적용되는 것을 나타낼 수 있다. 따라서, IntraSubPartitionsSplitType이 ISP_NO_SPLIT이 아닌 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 v) !cu_sbt_flag: 디코더는 현재 코딩 유닛에 서브 블록 변환(SBT, Sub-Block Transform)이 적용되지 않는지 확인할 수 있다. 현재 코딩 유닛에 SBT가 적용되는 경우, 기 설정된 방법에 따라 변환 및 역변환이 수행될 수 있다. 따라서 현재 코딩 유닛에 SBT가 적용되는 경우, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다. cu_sbt_flag는 현재 코딩 유닛에 SBT가 적용되는지를 지시하는 신택스 요소를 나타낸다. cu_sbt_flag는 코딩 유닛 레벨에서 시그널링 및 파싱될 수 있다. cu_sbt_flag가 1일 경우, 현재 코딩 유닛에 SBT가 적용되는 것을 나타낼 수 있고, 변환 스킵 및 MTS 정보는 시그널링 및 파싱되지 않을 수 있다.

상기 조건 i) 내지 v)가 모두 참인 경우, S2902 단계에서, 디코더는 다음의 변환 스킵 적용 여부 결정하기 위한 조건 a), b) c)를 확인(또는 검사)할 수 있다. 일 예로서, 이하의 조건 a), b) c)가 모두 참일 때, 변환 스킵과 관련된 정보가 시그널링 및 싱될 수 있다. 상기 조건 a), b), c)는 앞서 도 27에서 설명한 조건 a), b), c)와 동일하게 정의될 수 있다.

S2903 단계에서, 상기 조건 i) 내지 v), 조건 a), b), c)가 모두 참인 경우, 현재 루마 변환 블록에 변환 스킵이 적용되는지를 지시하는 신택스 요소인 transform_skip_flag[x0][y0]가 시그널링 및 파싱될 수 있다. transform_skip_flag[x0][y0]가 1인 경우, 현재 루마 변환 블록에 변환이 적용되지 않음을 나타낼 수 있다. transform_skip_flag[x0][y0]가 0인 경우, 현재 루마 변환 블록에 변환이 적용됨을 나타낼 수 있다. transform_skip_flag[x0][y0]가 존재하지 않는 경우(즉, 명시적으로 시그널링되지 않은 경우), BdpcmFlag[x0][y0]에 따라 transform_skip_flag[x0][y0] 값이 설정(또는 추론)될 수 있다. BdpcmFlag[x0][y0]가 1인 경우, transform_skip_flag[x0][y0]는 1로 설정(또는 추론)될 수 있으며 BdpcmFlag[x0][y0]가 0인 경우, transform_skip_flag[x0][y0]는 0으로 설정(또는 추론)될 수 있다.

본 발명의 일 실시예에 따르면, 변환 트리가 루마 변환 블록의 최대 사이즈 조건에 의해 다수의 변환 유닛들로 분할되는 경우(즉, 루마 변환 최대 사이즈에 기초하여 암시적 분할 되는 경우)에도, 상기 조건 i) 내지 v), 조건 a), b), c)를 모두 만족하는 경우, 디코더는 transform_skip_flag[x0][y0]를 파싱할 수 있고, transform_skip_flag[x0][y0]의 값에 따라, 분할된 변환 유닛에도 변환 스킵을 적용할 수 있다.

상술한 조건 i) 내지 v)가 모두 참인 경우, 다음의 조건 x), y), z)가 모두 참일 때(S2904), MTS 관련 정보가 시그널링 및 파싱될 수 있다(S2905).

조건 x) (CuPredMode[chType][x0][y0] == MODE_INTER && sps_explicit_mts_inter_enabled_flag) || (CuPredMode[chType][x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag): 디코더는 현재 블록의 예측 모드 및 명시적(explicit) MTS를 이용할 수 있는지 여부에 기초하여 기 설정된 조건을 만족하는지 확인할 수 있다. 코딩 유닛 레벨에서 예측의 방법(즉, 예측 모드)이 결정될 수 있으며, 코딩 유닛 레벨에서 수신한 정보에 기초하여 CuPredMode[chType][x0][y0] 변수를 설정할 수 있다. 예측 모드는 인트라 예측, 인터 예측을 포함한다. 추가적으로, 예측 모드는 현재 픽쳐 내 복원된 영역으로부터 예측 블록을 생성하는 인트라 블록 카피(IBC, Intra Block Copy) 예측을 포함할 수 있다. CuPredMode[chType][x0][y0]가 MODE_INTRA인 경우, 현재 블록이 인트라 예측으로 코딩되었음을 나타내며, CuPredMode[chType][x0][y0]가 MODE_INTER인 경우, 현재 블록이 인터 예측으로 코딩되었음을 나타낼 수 있다. 또한 CuPredMode[chType][x0][y0]가 MODE_IBC인 경우, 현재 블록이 IBC 예측으로 코딩되었음을 나타낼 수 있다.

한편, MTS의 이용 가능 여부를 지시하는 플래그는 PPS(Picture Parameter Set), SPS(Sequence Parameter Set), VPS(Video Parameter Set), 타일 그룹 헤더, 슬라이스 헤더 등의 상위 레벨 신택스 중의 적어도 어느 하나에 포함되어 시그널링 및 파싱될 수 있다. 구체적으로, 예측 방법에 대한 MTS의 이용 가능 여부가 독립적으로 각각 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 1인 경우, 인터 예측된 코딩 유닛에 대하여 변환 커널을 지시하는 신택스 요소인 MTS 인덱스(본 명세서에서, tu_mts_idx, mts_idx로 지칭될 수 있음)가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(즉, 명시적으로 시그널링되지 않음)을 나타내며, 이는 인터 예측된 블록에 MTS를 적용할 수 없음을 의미한다. 다시 말해, sps_explicit_mts_inter_enabled_flag가 0인 경우, 인터 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. MTS가 적용되지 않는 경우에는 기 설정된 변환 커널이 사용될 수 있으며, 이는 DCT-II에 기반하는 변환 커널일 수 있다. sps_explicit_mts_intra_enabled_flag가 1인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스가 변환 유닛 신택스 내에 존재할 수 있음을 나타내며, 변환 유닛 레벨에서 MTS 인덱스에 따라 MTS의 적용 여부가 지시될 수 있다. sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 변환 유닛 신택스 내에 MTS 인덱스가 존재할 수 없음(명시적으로 시그널링되지 않음)을 나타낸다. 다시 말해, sps_explicit_mts_intra_enabled_flag가 0인 경우, 인트라 예측된 코딩 유닛에 대하여 MTS 인덱스는 시그널링되지 않음을 나타내고, MTS 인덱스가 존재하지 않는 경우, 그 값은 0으로 추론될 수 있다. MTS가 적용되지 않는 경우에는 기 설정된 변환 커널이 사용될 수 있으며, 이는 DCT-II에 기반하는 변환 커널일 수 있다.

현재 블록이 인트라 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인트라 예측에 대해 MTS가 이용 가능한 경우이거나(즉, CuPredMode[chType][x0][y0] == MODE_INTRA && sps_explicit_mts_intra_enabled_flag), 현재 블록이 인터 예측으로 코딩되었고, 상위 레벨 신택스 시그널링을 통해 인터 예측에 대해 MTS가 이용 가능한 경우(즉, CuPredMode[chTye][x0][y0] == MODE_INTER &&s ps_explicit_mts_inter_enabled_flag) 조건 x)는 참일 수 있다. 즉, 조건 x)에서는 예측 모드에 따라(즉, CuPredMode[chType][x0][y0] 변수에 따라) 상위 레벨 신택스 상에서 해당 MTS 가능 플래그가 온(on)일 경우, MTS에 관련된 정보가 시그널링 및 파싱될 수 있다.

조건 y) !transform_skip_flag[x0][y0]: 디코더는 현재 변환 블록에 변환 스킵이 적용되지 않는지 확인할 수 있다. 현재 변환 블록에 변환 스킵이 적용되는 경우, 변환이 적용되지 않는 것이므로 MTS와 관련된 정보는 시그널링 및 파싱되지 않을 수 있다.

조건 z) trafoDepth==0: 디코더는 trafoDepth가 0인지 확인할 수 있다. trafoDepth는 변환 트리의 분할 정도(또는 분할 깊이)를 나타내는 변수이다. trafoDepth가 0인 경우, 코딩 유닛과 변환 유닛의 사이즈가 동일한 것을 나타낼 수 있다. 반면, trafoDepth가 0보다 큰 경우, 코딩 유닛을 루트 노드로 하여 변환 트리 분할이 수행된 것을 나타낼 수 있으며, 이 경우, 코딩 유닛과 변환 유닛의 사이즈는 다를 수 있다. 본 발명의 일 실시예에 따르면, 도 29의 변환 유닛 신택스 구조에서 MTS 인덱스는 trafoDepth가 0인 경우에만 시그널링될 수 있다. 디코더는 루마 변환 블록의 최대 사이즈 조건에 의해 분할되는 변환 유닛에 대해서는 MTS 인덱스는를 시그널링하지 않고, 기 설정된 값인 0으로 설정할 수 있다. 이 경우, 디코더는 수평 방향과 수직 방향에 DCT-II에 기반하는 기본 커널을 이용하여 변환을 수행할 수 있다.

일 실시예에서, 루마 변환 최대 사이즈가 64이고, 현재 블록에 ISP와 SBT가 모두 적용되지 않는 경우를 가정하면, 코딩 블록의 너비와 높이가 모두 32 이하일 때, 변환 트리는 분할되지 않고, trafoDepth 변수는 항상 0일 수 있다. 이 경우, 디코더는 MTS 인덱스를 파싱하여, MTS 인덱스 값에 따라 변환 커널을 결정/사용할 수 있다.

또한, 일 실시예에서, 루마 변환 최대 사이즈가 32이고, 현재 블록에 ISP와 SBT가 모두 적용되지 않는 경우를 가정하면, 코딩 블록의 너비와 높이가 모두 32 이하일 경우, trafoDepth에 따라 MTS 인덱스의 파싱 여부가 결정될 수 있다. trafoDepth가 0인 경우, 변환 트리는 분할되지 않고, 변환 유닛의 사이즈는 코딩 유닛의 사이즈와 동일하게 결정될 수 있다. 이 경우, 디코더는 MTS 인덱스를 파싱하여, MTS 인덱스 값에 따라 변환 커널을 결정/사용할 수 있다. 반면, trafoDepth가 0이 아닌 경우, 코딩 유닛을 루트 노드로하여, 루마 변환 블록의 최대 사이즈 조건에 의해 변환 트리가 분할된 것을 나타낼 수 있으며, MTS 인덱스는 파싱되지 않고, 기 설정된 값으로 설정(또는 추론)될 수 있다. 상기 기 설정된 값은 0일 수 있으며, 이 경우 수평 방향과 수직 방향에 모두 DCT-II에 기반하는 기본 커널이 적용될 수 있다.

상기 조건 i) 내지 v), 조건 x), y), z)가 모두 참일 때, S2905 단계에서, 루마 변환 블록의 잔차 샘플들의 수평과 수직 방향에 어떤 변환 커널이 적용되는지를 지시하는 신택스 요소인 MTS 인덱스가 시그널링 및 파싱될 수 있다. 실시예로서, MTS 인덱스가 존재하지 않는 경우, 상기 MTS 인덱스는 0으로 설정(또는 추론)될 수 있다. 이는 기 설정된 기본 커널이 수평 방향과 수직 방향에 모두 적용되는 것임을 나타낼 수 있으며, 기본 커널은 DCT-II에 기반하는 정수 커널일 수 있다. MTS 인덱스에 따라 수평 방향과 수직 방향에 적용되는 변환 커널은 앞서 도 14에서 기술한 방법을 따를 수 있다.

도 30은 본 발명의 일 실시예를 따른 비디오 신호 처리 방법을 나타내는 흐름도이다. 도 30을 참조하면, 설명의 편의를 위해 디코더를 위주로 설명하나 본 발명이 이에 제한되는 것은 아니며, 본 실시예에 따른 비디오 신호 처리 방법은 인코더에도 실질적으로 동일한 방법으로 적용될 수 있다.

디코더는 현재 코딩 유닛에 적용되는 예측 모드를 확인한다(S3001).

디코더는 상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인한다(S3002).

디코더는 상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱한다(S3003).

디코더는 상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정한다(S3004).

디코더는 상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성한다(S3005).

전술한 바와 같이, 상기 기 설정된 복수의 조건들을 만족하지 않는 경우, 상기 제1 신택스 요소는 0으로 추론될 수 있다.

또한, 전술한 바와 같이, 상기 제1 신택스 요소가 0인 경우, 상기 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널은 이산 코사인 변환 타입-2(DCT-2: Discrete Cosine Transform Type-2) 기반의 변환 커널로 결정될 수 있다.

또한, 전술한 바와 같이, 디코더는 인트라 모드(intra mode)인 경우 현재 시퀀스에서 다중 변환 선택(MTS: Multiple Transform Selection) 모드를 사용할 수 있는지 여부를 지시하는 제2 신택스 요소를 획득할 수 있다. 여기서, 상기 MTS 모드는 복수의 변환 커널들 중에서 선택된 변환 커널을 이용하여 변환을 수행하는 모드를 나타낸다. 그리고, 디코더는 인터 모드(inter mode)인 경우 상기 현재 시퀀스에서 상기 MTS 모드를 사용할 수 있는지 여부를 지시하는 제3 신택스 요소를 획득할 수 있다.

또한, 전술한 바와 같이, 상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 예측 모드가 인트라 모드이고 상기 제2 신택스 요소가 참(true)이거나, 또는, 상기 현재 코딩 유닛의 예측 모드가 인터 모드이고 상기 제3 신택스 요소가 참(true)인지 여부를 포함할 수 있다.

또한, 전술한 바와 같이, 상기 현재 코딩 유닛의 예측 모드가 인트라 블록 카피(Intra Block Copy) 모드인 경우, 상기 제2 신택스 요소 및 상기 제3 신택스 요소와 무관하게 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정될 수 있다.

또한, 전술한 바와 같이, 상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 너비 및 높이가 32 보다 작거나 같은지 여부를 포함할 수 있다.

또한, 전술한 바와 같이, 현재 시퀀스의 루마 최대 변환 사이즈에 대한 정보를 수신하는 단계를 더 포함하고, 상기 현재 코딩 유닛의 너비 및 높이 중 적어도 하나가 상기 루마 최대 변환 사이즈 보다 큰 경우, 상기 현재 코딩 유닛은 복수의 변환 유닛들로 분할될 수 있다.

또한, 전술한 바와 같이, 상기 루마 최대 변환 사이즈는 32 또는 64일 수 있다.

또한, 전술한 바와 같이, 상기 현재 코딩 유닛이 상기 루마 최대 변환 사이즈에 기초하여 분할된 상기 복수의 변환 유닛을 포함하는 경우, 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정될 수 있다.

상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.

하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리는 프로세서의 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 프로세서와 데이터를 주고받을 수 있다.

일부 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독 가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조 또는 프로그램 모듈과 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아는 것으로 해석해야 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (22)

1. 비디오 신호 처리 방법에 있어서,

   현재 코딩 유닛에 적용되는 예측 모드를 확인하는 단계;

   상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하는 단계;

   상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하는 단계;

   상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하는 단계; 및

   상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는 단계를 포함하는, 비디오 신호 처리 방법.
2. 제1항에 있어서,

   상기 기 설정된 복수의 조건들을 만족하지 않는 경우, 상기 제1 신택스 요소는 0으로 추론되는 것을 특징으로 하는, 비디오 신호 처리 방법.
3. 제2항에 있어서,

   상기 제1 신택스 요소가 0인 경우, 상기 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널은 이산 코사인 변환 타입-2(DCT-2: Discrete Cosine Transform Type-2) 기반의 변환 커널로 결정되는, 비디오 신호 처리 방법.
4. 제1항에 있어서,

   인트라 모드(intra mode)인 경우 현재 시퀀스에서 다중 변환 선택(MTS: Multiple Transform Selection) 모드를 사용할 수 있는지 여부를 지시하는 제2 신택스 요소를 획득하는 단계, 여기서, 상기 MTS 모드는 복수의 변환 커널들 중에서 선택된 변환 커널을 이용하여 변환을 수행하는 모드를 나타냄; 및

   인터 모드(inter mode)인 경우 상기 현재 시퀀스에서 상기 MTS 모드를 사용할 수 있는지 여부를 지시하는 제3 신택스 요소를 획득하는 단계를 더 포함하는, 비디오 신호 처리 방법.
5. 제4항에 있어서,

   상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 예측 모드가 인트라 모드이고 상기 제2 신택스 요소가 참(true)이거나, 또는, 상기 현재 코딩 유닛의 예측 모드가 인터 모드이고 상기 제3 신택스 요소가 참(true)인지 여부를 포함하는 것을 특징으로 하는, 비디오 신호 처리 방법.
6. 제5항에 있어서,

   상기 현재 코딩 유닛의 예측 모드가 인트라 블록 카피(Intra Block Copy) 모드인 경우, 상기 제2 신택스 요소 및 상기 제3 신택스 요소와 무관하게 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정되는, 비디오 신호 처리 방법.
7. 제1항에 있어서,

   상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 너비 및 높이가 32 보다 작거나 같은지 여부를 포함하는 것을 특징으로 하는, 비디오 신호 처리 방법.
8. 제1항에 있어서,

   현재 시퀀스의 루마 최대 변환 사이즈에 대한 정보를 수신하는 단계를 더 포함하고,

   상기 현재 코딩 유닛의 너비 및 높이 중 적어도 하나가 상기 루마 최대 변환 사이즈 보다 큰 경우, 상기 현재 코딩 유닛은 복수의 변환 유닛들로 분할되는 것을 특징으로 하는, 비디오 신호 처리 방법.
9. 제8항에 있어서,

   상기 루마 최대 변환 사이즈는 32 또는 64인 것을 특징으로 하는, 비디오 신호 처리 방법.
10. 제8항에 있어서,

    상기 현재 코딩 유닛이 상기 루마 최대 변환 사이즈에 기초하여 분할된 상기 복수의 변환 유닛을 포함하는 경우, 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정되는, 비디오 신호 처리 방법.
11. 비디오 신호 처리 장치에 있어서,

    프로세서를 포함하며,

    상기 프로세서는,

    현재 코딩 유닛에 적용되는 예측 모드를 확인하고,

    상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하고,

    상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하고,

    상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하고,

    상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는, 비디오 신호 처리 장치.
12. 제11항에 있어서,

    상기 기 설정된 복수의 조건들을 만족하지 않는 경우, 상기 제1 신택스 요소는 0으로 추론되는 것을 특징으로 하는, 비디오 신호 처리 장치.
13. 제12항에 있어서,

    상기 제1 신택스 요소가 0인 경우, 상기 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널은 이산 코사인 변환 타입-2(DCT-2: Discrete Cosine Transform Type-2) 기반의 변환 커널로 결정되는, 비디오 신호 처리 장치.
14. 제11항에 있어서,

    상기 프로세서는,

    인트라 모드(intra mode)인 경우 현재 시퀀스에서 다중 변환 선택(MTS: Multiple Transform Selection) 모드를 사용할 수 있는지 여부를 지시하는 제2 신택스 요소를 획득하고, 여기서, 상기 MTS 모드는 복수의 변환 커널들 중에서 선택된 변환 커널을 이용하여 변환을 수행하는 모드를 나타내고,

    인터 모드(inter mode)인 경우 상기 현재 시퀀스에서 상기 MTS 모드를 사용할 수 있는지 여부를 지시하는 제3 신택스 요소를 획득하는, 비디오 신호 처리 장치.
15. 제14항에 있어서,

    상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 예측 모드가 인트라 모드이고 상기 제2 신택스 요소가 참(true)이거나, 또는, 상기 현재 코딩 유닛의 예측 모드가 인터 모드이고 상기 제3 신택스 요소가 참(true)인지 여부를 포함하는 것을 특징으로 하는, 비디오 신호 처리 장치.
16. 제15항에 있어서,

    상기 현재 코딩 유닛의 예측 모드가 인트라 블록 카피(Intra Block Copy) 모드인 경우, 상기 제2 신택스 요소 및 상기 제3 신택스 요소와 무관하게 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정되는, 비디오 신호 처리 장치.
17. 제11항에 있어서,

    상기 기 설정된 복수의 조건들은, 상기 현재 코딩 유닛의 너비 및 높이가 32 보다 작거나 같은지 여부를 포함하는 것을 특징으로 하는, 비디오 신호 처리 장치.
18. 제11항에 있어서,

    상기 프로세서는,

    현재 시퀀스의 루마 최대 변환 사이즈에 대한 정보를 수신하고,

    상기 현재 코딩 유닛의 너비 및 높이 중 적어도 하나가 상기 루마 최대 변환 사이즈 보다 큰 경우, 상기 현재 코딩 유닛은 복수의 변환 유닛들로 분할되는 것을 특징으로 하는, 비디오 신호 처리 장치.
19. 제18항에 있어서,

    상기 루마 최대 변환 사이즈는 32 또는 64인 것을 특징으로 하는, 비디오 신호 처리 장치.
20. 제18항에 있어서,

    상기 현재 코딩 유닛이 상기 루마 최대 변환 사이즈에 기초하여 분할된 상기 복수의 변환 유닛을 포함하는 경우, 상기 기 설정된 복수의 조건들을 만족하지 않는 것으로 결정되는, 비디오 신호 처리 장치.
21. 비디오 신호 처리 방법에 있어서,

    현재 코딩 유닛에 적용되는 예측 모드를 결정하는 단계;

    상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하는 단계;

    상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 부호화하는 단계;

    상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하는 단계; 및

    상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛의 잔차 신호에 대하여 변환을 수행함으로써, 상기 현재 변환 유닛의 변환 블록을 생성하는 단계를 포함하는, 비디오 신호 처리 방법.
22. 컴퓨팅 디바이스의 하나 이상의 프로세서에서 실행하도록 구성된 컴퓨터 실행 가능한 컴포넌트가 저장된 비 일시적(non-transitory) 컴퓨터 판독 가능한 매체(computer-executable component)로서, 상기 컴퓨터 실행 가능한 컴포넌트는,

    현재 코딩 유닛에 적용되는 예측 모드를 확인하고,

    상기 현재 코딩 유닛의 예측 모드 또는 상기 현재 코딩 유닛의 사이즈 중 적어도 하나에 기초하여 기 설정된 복수의 조건들을 만족하는지 확인하고,

    상기 기 설정된 복수의 조건들을 만족하는 경우, 상기 현재 코딩 유닛에 포함된 변환 유닛에 적용되는 변환 커널을 지시하는 제1 신택스 요소를 파싱하고,

    상기 제1 신택스 요소에 기초하여 현재 변환 유닛의 수평 및 수직 방향에 적용되는 변환 커널을 결정하고,

    상기 결정된 변환 커널을 이용하여 상기 현재 변환 유닛에 대하여 역변환을 수행함으로써, 상기 현재 변환 유닛의 잔차 신호를 생성하는, 비 일시적 컴퓨터 판독 가능한 매체.

Images