KR20210113389A

KR20210113389A - 코딩 및 디코딩을 진행하는 방법, 디코더, 코더 및 저장 매체

Info

Publication number: KR20210113389A
Application number: KR1020217026567A
Authority: KR
Inventors: 샤오창 카오; 팡동 첸; 리 왕
Original assignee: 항조우 힉비젼 디지털 테크놀로지 컴퍼니 리미티드
Priority date: 2019-03-09
Filing date: 2020-03-09
Publication date: 2021-09-15
Also published as: CN113596445A; CN113596446A; CN113747157A; CN113365048A; CN113747156A; CN113365050A; CA3131035C; CN111669580B; CN113905232A; CN113365056A; CN110708550B; CN113365054B; CN113365051A; CA3131035A1; CN113596447A; CN113365057B; CN113365049A; CN113365053A; CN113365056B; WO2020182102A1

Abstract

본 발명은 코딩 및 디코딩을 진행하는 방법, 디코딩단 및 코딩단을 제공하고, 오디오 및 비디오 기술분야에 속한다. 상기 방법은 현재 블록의 코딩 데이터를 획득하는 단계; 코딩 데이터로부터 현재 블록의 변환 커널 페어 인덱스를 획득하되, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행하는 단계; 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함한다. 본 발명을 사용하여 코딩 및 디코딩 성능을 향상시킬 수 있다.

Description

코딩 및 디코딩을 진행하는 방법, 디코딩단 및 코딩단

본 발명은 2019년 3월 9일에 제출한 출원번호가 201910177580.4이고 발명의 명칭이 “코딩 및 디코딩을 진행하는 방법, 디코딩단, 코딩단 및 시스템”인 중국 특허출원의 우선권을 주장하고, 그 모든 내용은 참조로서 본 발명에 인용된다.

본 발명은 오디오 및 비디오 기술분야에 관한 것이고, 특히 코딩 및 디코딩을 진행하는 방법, 디코딩단 및 코딩단에 관한 것이다.

인터넷 기술과 컴퓨터 기술의 발달로 비디오 애플리케이션이 점점 더 많아지고 있으며, 사용자는 비디오 애플리케이션에서 고화질 비디오에 대한 수요가 증가하고 있지만, 고화질 비디오의 데이터양이 상대적으로 많기 때문에 고화질 비디오를 제한된 제한된 네트워크 대역폭에서 전송하려면 고화질 비디오에 대해 코딩 처리를 진행해야 한다. 일반적인 코딩 처리에는 인트라 예측(또는 인터 예측), 변환, 양자화, 엔트로피 코딩 및 인 루프 필터링 등 과정이 포함된다. 코딩 처리를 진행할 경우, 인트라 예측을 통해 잔차 블록(TU(Transmission Unit, 변환 유닛)이라고도 하고, 현재 블록의 잔차 신호이라 할 수도 있음)을 획득하고, TU에 대해 변환(변환은 공간 영역에서 픽셀 형식으로 설명된 이미지를 변환 영역으로 변환시켜 변환 계수 형식으로 표현하는 것을 가리킨다)을 진행하여 변환 계수를 얻는다. 다음 변환 계수에 대해 양자화 및 엔트로피 코딩을 진행하여 코딩 데이터를 얻는다.

관련 기술에서 변환 시 통상적으로 특정 기설정 변환 커널 페어 (변환 커널 페어는 수평 변환 커널 및 수직 변환 커널로 이루어진 변환 커널 페어)를 선택하여 TU에 대해 변환 처리를 진행하여 변환 계수를 얻는다. 상응하게, 디코딩 시에도 코딩 시에 사용된 기설정 변환 커널 페어를 선택하여 TU에 대해 역변환 처리를 진행하여 잔차 신호를 얻는다.

이로써, 동일한 TU가 상이한 변환 커널 페어를 사용하여 변환을 진행하였기에 압축 효과가 상당히 다르므로, 동일한 기설정 변환 커널 페어를 사용하여 모든 TU에 대해 변환 처리를 진행하면 코딩 및 디코딩 성능이 저하될 수 있다.

관련 기술에 존재하는 문제를 해결하기 위해, 본 발명의 실시예는 코딩 및 디코딩을 진행하는 방법, 디코딩단 및 코딩단을 제공한다. 상기 과제의 해결 수단은 아래와 같다.

1 양태에 따르면, 디코딩을 진행하는 방법을 제공하고, 상기 방법은,

현재 블록의 코딩 데이터를 획득하는 단계;

상기 코딩 데이터로부터 상기 현재 블록의 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행하는 단계;

상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드는 다수의 비트를 포함하고, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 디코딩 방식으로 코딩을 진행한다.

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,

상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계; 또는,

상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계를 포함한다.

제2 양태에 따르면, 코딩을 진행하는 방법을 제공하고, 상기 방법은,

현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계;

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계는,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하고, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하는 단계;

코딩 후의 변환 커널 페어 인덱스를 상기 코딩 데이터에 추가하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,

상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계; 또는,

상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계를 포함한다.

제3 양태에 따르면, 디코딩을 진행하는 방법을 제공하고, 상기 방법은,

현재 블록의 코딩 데이터를 획득하는 단계;

상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 디코딩 방식으로 코딩을 진행하는 단계;

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행한다.

상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함한다.

제4 양태에 따르면, 코딩을 진행하는 방법을 제공하고, 상기 방법은,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 방법은,

상기 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 단계를 더 포함한다.

제5 양태에 따르면, 디코딩을 진행하는 방법을 제공하고, 상기 방법은,

현재 블록의 코딩 데이터를 획득하는 단계;

상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 상기 현재 블록의 인트라 예측 모드 또는 상기 현재 블록의 형상 정보를 획득하는 단계;

상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계;

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계;

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행한다.

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드는 다수의 비트를 포함하고, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 디코딩 방식으로 코딩을 진행한다.

제6 양태에 따르면, 코딩을 진행하는 방법을 제공하고, 상기 방법은,

현재 블록의 인트라 예측 모드, 상기 현재 블록에 대응되는 변환 커널 페어, 또는 상기 현재 블록의 형상 정보, 상기 현재 블록에 대응되는 변환 커널 페어를 획득하는 단계;

상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계;

변환 커널 페어 인덱스에 대해 코딩 처리를 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계;

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계;

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계를 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 변환 커널 페어 인덱스에 대해 코딩 처리를 진행하는 단계는,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라 코딩을 진행하는 단계를 포함한다.

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하는 단계를 포함한다.

제7 양태에 따르면, 디코딩을 진행하는 디코딩단을 제공하고, 상기 디코딩단은 아래 모듈을 포함한다.

획득 모듈은,

현재 블록의 코딩 데이터를 획득하고;

상기 코딩 데이터로부터 상기 현재 블록의 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행하며;

결정 모듈은 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하거나; 또는,

상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정한다.

제8 양태에 따르면, 코딩을 진행하는 코딩단을 제공하고, 상기 코딩단은,

현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 결정 모듈;

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 코딩 모듈을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈은,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하고, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하며;

코딩 후의 변환 커널 페어 인덱스를 상기 코딩 데이터에 추가한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나; 또는,

상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

제9 양태에 따르면, 디코딩을 진행하는 디코딩단을 제공하고, 상기 디코딩단은 아래 모듈을 포함한다.

획득 모듈은,

현재 블록의 코딩 데이터를 획득하고;

상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 디코딩 방식으로 코딩을 진행하며;

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

제10 양태에 따르면, 코딩을 진행하는 코딩단을 제공하고, 상기 코딩단은,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 코딩 모듈을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈은 또한,

상기 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

제11 양태에 따르면, 디코딩을 진행하는 디코딩단을 제공하고, 상기 디코딩단은 아래 모듈을 포함한다.

획득 모듈은,

현재 블록의 코딩 데이터를 획득하고;

상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 상기 현재 블록의 인트라 예측 모드 또는 상기 현재 블록의 형상 정보를 획득하며;

결정 모듈은, 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하고;

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하며;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하고;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하고;

상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하며;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하고;

상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정한다.

제12 양태에 따르면, 코딩을 진행하는 코딩단을 제공하고, 상기 코딩단은,

현재 블록의 인트라 예측 모드, 상기 현재 블록에 대응되는 변환 커널 페어, 또는 상기 현재 블록의 형상 정보, 상기 현재 블록에 대응되는 변환 커널 페어를 획득하는 획득 모듈;

상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 결정 모듈;

변환 커널 페어 인덱스에 대해 코딩 처리를 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 코딩 모듈을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하고;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하며;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하고;

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈은,

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하고;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하며;

상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하고;

상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다.

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈은,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라 코딩을 진행한다.

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈은,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행한다.

제13 양태에 따르면, 디코딩을 진행하는 디코딩단을 제공하고, 이는 프로세서 및 메모리를 포함하며, 상기 메모리에는 컴퓨터 프로그램이 저장되고; 상기 프로세서는 상기 메모리에 저장된 프로그램을 실행하여 상기 제1 양태, 제3 양태, 제5 양태 중 어느 하나의 양태에 따른 방법의 단계를 수행한다.

제14 양태에 따르면, 코딩을 진행하는 코딩단을 제공하고, 상기 코딩단은 프로세서 및 메모리를 포함하며, 상기 메모리에는 컴퓨터 프로그램이 저장되고; 상기 프로세서는 상기 메모리에 저장된 프로그램을 실행하여 상기 제2 양태, 제4 양태, 제6 양태 중 어느 하나의 양태에 따른 방법의 단계를 수행한다.

제15 양태에 따르면, 컴퓨터 판독 가능 저장 매체를 제공하고, 상기 저장 매체 내에는 컴퓨터 프로그램이 저장되며, 상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우 상기 제1 양태 내지 제6 양태 중 어느 하나의 양태에 따른 방법의 단계를 수행한다.

제16 양태에 따르면, 코딩 및 디코딩을 진행하는 시스템을 제공하고, 상기 시스템은 코딩단 및 디코딩단을 포함하며,

상기 코딩단은 상기 제8 양태에 따른 코딩단이고; 상기 디코딩단은 상기 제7 양태에 따른 디코딩단이거나; 또는,

상기 코딩단은 상기 제10 양태에 따른 코딩단이고; 상기 디코딩단은 상기 제9 양태에 따른 디코딩단이거나; 또는,

상기 코딩단은 상기 제12 양태에 따른 코딩단이고; 상기 디코딩단은 상기 제11 양태에 따른 디코딩단이다.

본 발명의 실시예에서 제공하는 과제 해결 수단이 가져오는 유익한 효과는 적어도 아래와 같은 것을 포함한다.

본 발명의 실시예에서, 코딩단이 현재 블록을 코딩할 때 기설정된 변환 커널 페어를 직접 획득하는 것이 아니라 현재 블록에 대응되는 변환 커널 페어를 획득하고 코딩 처리를 진행함으로써, 코딩 및 디코딩 성능을 향상시킬 수 있다. 코딩단이 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드를 코딩할 때, 다수의 컨텍스트 모델이 필요 없이 하나의 컨텍스트 모델을 사용하여 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드 중 첫 번째 비트에 대해 코딩 처리를 진행하기에, 메모리 공간을 절약할 수 있다. 이 밖에 다수의 컨텍스트 모델이 필요 없으므로 컨텍스트 업데이트가 필요 없고 코딩 및 디코딩의 복잡도를 감소할 수 있다.

도 1은 본 발명의 실시예에서 제공하는 블록의 분할 타입 모식도이다.
도 2는 본 발명의 실시예에서 제공하는 CTU를 CU로 분할한 모식도이다.
도 3은 본 발명의 실시예에서 제공하는 흔히 사용하는 3가지 블록의 모식도이다.
도 4는 본 발명의 실시예에서 제공하는 인트라 예측 시의 방향 모식도이다.
도 5는 본 발명의 실시예에서 제공하는 코딩을 진행하는 모식도이다.
도 6은 본 발명의 실시예에서 제공하는 분포 신호의 모식도이다.
도 7은 본 발명의 실시예에서 제공하는 잔차 신호 분포의 모식도이다.
도 8은 본 발명의 실시예에서 제공하는 코딩을 진행하는 방법의 흐름 모식도이다.
도 9는 본 발명의 실시예에서 제공하는 디코딩을 진행하는 방법의 흐름 모식도이다.
도 10은 본 발명의 실시예에서 제공하는 코딩을 진행하는 방법의 흐름 모식도이다.
도 11은 본 발명의 실시예에서 제공하는 디코딩을 진행하는 방법의 흐름 모식도이다.
도 12는 본 발명의 실시예에서 제공하는 코딩을 진행하는 방법의 흐름 모식도이다.
도 13은 본 발명의 실시예에서 제공하는 디코딩을 진행하는 방법의 흐름 모식도이다.
도 14는 본 발명의 실시예에서 제공하는 디코딩단의 구조 모식도이다.
도 15는 본 발명의 실시예에서 제공하는 코딩단의 구조 모식도이다.
도 16은 본 발명의 실시예에서 제공하는 디코딩단의 구조 모식도이다.
도 17은 본 발명의 실시예에서 제공하는 코딩단의 구조 모식도이다.
도 18은 본 발명의 실시예에서 제공하는 디코딩단의 구조 모식도이다.
도 19는 본 발명의 실시예에서 제공하는 코딩단의 구조 모식도이다.
도 20은 본 발명의 실시예에서 제공하는 코딩단의 구조 모식도이다.
도 21은 본 발명의 실시예에서 제공하는 디코딩단의 구조 모식도이다.

본 발명의 목적, 기술적 해결수단 및 장점이 보다 명확해지도록, 이하 첨부된 도면을 참조하여 본 발명의 실시 형태를 더 상세하게 설명한다.

본 발명은 코딩을 진행하는 방법 및 디코딩을 진행하는 방법을 제공하고, 코딩을 진행하는 방법의 수행 주체는 코딩단이고, 디코딩을 진행하는 방법의 수행 주체는 디코딩단일 수 있으며, 여기서 코딩단 또는 디코딩단은 서버, 컴퓨터, 휴대폰 등 비디오 데이터에 대해 코딩 및/또는 디코딩을 진행하는 기기일 수 있다.

여기서, 코딩단 또는 디코딩단에는 프로세서, 메모리 및 송수신기 등이 설치될 수 있으며, 프로세서는 코딩 및/또는 디코딩 처리를 진행할 수 있고, 메모리는 코딩 및/또는 디코딩을 진행하는 과정에서 필요한 데이터 및 발생한 데이터를 저장할 수 있으며, 송수신기는 데이터를 수신 및 송신할 수 있고 예를 들면 비디오 데이터를 획득하는 등이다.

실시하기 전에 먼저 본 발명의 실시예에서 언급될 수 있는 개념에 대해 설명한다.

변환 커널(transform kernel):

비디오 코딩에서 변환은 신호 에너지를 더 집중시킬 수 있는 비디오 데이터 압축에서 필수 단계이고, DCT(Discrete Cosine Transform, 이산 코사인 변환)/DST (Discrete Sine Transform, 이산 사인 변환) 기반 변환 기술은 줄곧 비디오 코딩의 주류 변환 기술이었다. DCT 및 DST는 기저 함수의 상이함에 따라 또 구체적으로 몇 가지 변환 커널로 구분되며, 표 1은 흔히 사용하는 3가지 변환 커널의 기저 함수를 보여준다.

변환 커널 타입	기저 함수
DCT2	, 여기서
DCT8
DST7

정변환(forward transform) 및 역변환(inverse transform):

비디오 코딩 과정에서 변환 과정은 정변환 및 역변환 과정을 포함하고, 이는 정방향 변환 및 역방향 변환이라고도 한다. 여기서 정변환은 하나의 이차원 잔차 신호(잔차 계수)를 에너지가 더 집중된 이차원 주파수 스펙트럼 신호(변환 계수)로 변환시키고, 변환 계수는 양자화 과정을 거쳐 고주파 성분을 효과적으로 제거하고 중주파 및 저주파 성분을 남겨 압축 작용을 할 수 있다. 매트릭스 형식으로 표시하면 공식 (1)과 같다.

(1)

상기 식에서 M은 잔차 블록 폭을 가리키고, N은 잔차 블록 높이를 가리키며, f는 NxM 차원의 원래 잔차 신호를 가리키고, F는 NxM 차원의 주파수 영역 신호를 가리킨다. A 및 B는 MxM 및 NxN 차원의 변환 매트릭스이고 이들은 모두 직교성을 만족한다.

역변환은 또한 반대 변환이라고도 하고, 정변환의 역과정인 바, 즉 매트릭스 A 및 B를 직교 변환하는 것을 통해, 주파수 영역 신호 F를 시간 영역 잔차 신호 f로 변환시킨다. 매트릭스 형식으로 표시하면 공식 (2)와 같다.

(2)

수평 변환(Horizental transform) 및 수직 변환(Vertical transform):

비디오 코딩의 변환 단계에서 입력되는 것은 하나의 이차원 잔차 신호이고 공식 (3)과 같이

이면,

이다.

(3)

따라서 하나의 이차원 잔차 신호의 정변환은 두 번의 일차원 정변환 방식으로 수행될 수 있고, 1차 정변환을 진행하여 하나의 MxN의 신호 X를 얻고 이차원 잔차 신호의 수평 방향 픽셀 사이의 연관성을 제거하기에 1차 정변환을 수평 변환이라고 하고 A를 수평 변환 매트리스라고 한다. 2차 정변환은 이차원 잔차 신호의 수직 방향 픽셀 사이의 연관성을 제거하기에 2차 정변환을 수직 변환이라고 하고 B를 수직 변환 매트리스라고 한다.

변환 커널 페어 (Transform pair):

차세대 비디오 코딩 표준에서, TU(Transmission Unit, 변환 유닛)는 직사각형 블록을 지원하기에 M은 N과 같지 않을 수 있고 A와 B의 차원도 다를 수 있다. 이 밖에 차세대 비디오 코딩 표준은 A와 B가 같은 변환 커널에 생성한 변환 매트릭스가 아닌 경우도 지원하기에 변환 시 A와 B에 대응되는 변환 커널로 이루어진 변환 커널 페어{H, V}가 존재하고 여기서 H를 수평 변환 커널, V를 수직 변환 커널이라고 한다.

블록 분할 기술(Block Partition)

HEVC(High Efficiency Video Coding, 고효율 비디오 압축)에서 하나의 64x64 크기의 CTU(Coding Tree Unit, 코딩 트리 유닛)는 쿼드 트리 재귀를 사용하여 CU(Coding Unit, 코딩 유닛)로 분할된다. 리프 노드 CU 레벨은 인트라 코딩 또는 인터 코딩의 사용 여부를 결정한다. CU는 두 개 또는 네 개의 PU(Prediction Unit, 예측 유닛)로 더 분할될 수 있고, 동일한 PU 내에서 동일한 예측 정보를 사용한다. 예측 완료 후 잔차 신호를 획득한 이후, 하나의 CU는 쿼드 분할에 의해 다수의 TU로 더 분할될 수 있다.

그러나, 새롭게 제기된 VVC(Versatile Video Coding, 범용 비디오 코딩) 중의 블록 분할 기술은 많은 변화가 발생하였다. 이진 트리/삼항 트리/쿼드 트리((binary/ternary/quaternary) tree (BT/TT/QT)) 분할 구조를 혼합하여 기존의 분할 모드를 대체하였고, 기존 CU, PU, TU 개념의 구별을 취소하였으며, CU의 더욱 유연한 분할 방법을 지원하였다. CU는 정사각형 분할일 수 있고 직사각형 분할일 수도 있다. CTU가 먼저 쿼드 트리의 분할을 진행한 다음, 쿼드 트리 분할된 리프 노드가 이진 트리 및 삼항 트리의 분할을 더 진행할 수 있다. 다시 말하면 총 5가지 분할 타입이 존재하는데, 각각 쿼드 트리 분할, 수평 이진 트리 분할, 수직 이진 트리 분할, 수평 삼항 트리 분할 및 수직 삼항 트리 분할이다. 도 1은 5가지 분할 타입을 도시하였고, 도 1에서 (a)는 분할을 진행하지 않았고, (b)는 쿼드 트리 분할, (c)는 수평 이진 트리 분할, (d)는 수직 이진 트리 분할, (e)는 수평 삼항 트리 분할, (f)는 수직 삼항 트리 분할을 보여준다. 도 2는 하나의 CTU를 CU로 분할한 예시적 도면이다.

따라서, 상기 분할 방식에 의하면 블록은 일반적으로 도 3에 도시된 바와 같이 3가지 형상이 존재하는데, 도 3에서 (a)는 폭이 높이보다 큰 블록, (b)는 폭과 높이가 같은 블록, (c)는 폭이 높이보다 작은 블록이다.

인트라 예측:

인트라 예측은 이미지에서 인접한 블록 사이에 아주 강한 공간 영역 연관성이 존재한다는 점을 고려하여 주변의 이미 재구축된 픽셀을 참조 픽셀로 하여 현재 코딩되지 않은 블록을 예측하는 것이므로, 원래 신호에 대해 코딩 처리를 진행하는 것이 아니라, 잔차 신호(원래 신호-예측 신호)에 대해서만 후속적인 코딩 처리를 진행하면 되기에, 공간 영역의 중복을 효과적으로 제거하여 비디오 신호의 압축 효율을 크게 향상시킨다. 또한 인트라 예측에서 각도가 더 조밀할수록 예측 효과가 더 좋고, 도 4에 도시된 바와 같이 VVC는 67가지 인트라 예측 모드에서 인트라 예측 시의 각도 방향 모식도이다. 인트라 예측 모드 개수가 HEVC의 33가지로부터 65가지로 추가되고, 모드 번호가 0일 경우 Planar (평면) 모드임을 가리키고, 모드 번호가 1일 경우 DC 모드(DC 모드는 현재 블록의 예측 픽셀이 모두 참조 픽셀인 평균 값임을 가리킴) 임을 가리키며, 검은색 실선은 원래 HEVC의 각도 방향(2, 4, 6, 8,…, 64, 66)을 가리키고, 점선은 새로 추가된 각도 방향(3, 5, 7, 9,.., 63, 65)을 가리키며, 더 조밀한 각도 방향은 자연적인 비디오에서 임의의 방향의 경계를 더 효과적으로 포획할 수 있고 더 많은 참조 정보를 사용하여 율-왜곡 비용을 선택할 수 있다. 이로써 더 적절한 인트라 예측 모드를 찾아 현재 블록을 더 정확하게 예측함으로써, 예측 블록이 원래 블록에 더 근접하도록 하고 현재 브록의 코딩에 필요한 전송 비트가 더 적기에 코딩 성능이 더 높다. 인트라 예측 코딩을 진행할 경우, 이 67가지 인트라 모드를 모든 사이즈의 코딩 블록에 응용하고 루마 컴포넌트 및 크로마 컴포넌트를 포함한다.

도 4에서, 인트라 예측 모드의 모드 번호가 2~34이면, 각도 방향과 수평 오른쪽 방향의 끼인 각 범위는: -45도~45도이며, 인트라 예측 모드의 모드 번호가 35~66이면, 각도 방향과 수평 오른쪽 방향의 끼인 각 범위는 -135도~-45도이다.

설명할 것은, 하나의 평면 직각 좌표계에서 수평 오른쪽 방향은 x 축의 정방향이고 수직 위쪽 방향은 y 축의 정방향이다. 이로써 제1 상한과 제2 상한의 중심 원점을 꼭짓점으로 하는 사선(사선이 원점에서 멀어지는 방향)과 x 축의 정 방향이 이루는 끼인 각은 양의 값이고, 제3 상한과 제4 상한의 중심 원점을 꼭짓점으로 하는 사선(사선이 원점에서 멀어지는 방향)과 x 축의 정 방향이 이루는 끼인 각은 음의 값이다. 예를 들면, 수평 오른쪽 방향과 제4 상한 중의 대칭축(원점에서 멀어지는 방향)의 끼인 각은 -45도이다.

본 발명의 실시예는 흔히 보는 코딩 프레임워크를 제공한다. 도 5에 도시된 바와 같이 완전한 비디오 코딩 방법은 일반적으로, 예측, 변환, 양자화, 엔트로피 코딩, 인 루프 필터링 등 절차를 포함한다. 여기서 예측은 구체적으로 인트라 예측 및 인터 예측으로 나뉘고, 인트라 예측은 이미지에서 인접한 블록 사이에 아주 강한 공간 영역 연관성이 존재한다는 점을 고려하여 주변의 이미 재구축된 픽셀을 참조 픽셀로 하여 현재 코딩되지 않은 블록을 예측하는 것이므로, 원래 신호에 대해 코딩 처리를 진행하는 것이 아니라, 잔차 신호(원래 신호-예측 신호)에 대해서만 후속적인 코딩 처리를 진행하면 되기에, 공간 영역의 중복을 효과적으로 제거하여 비디오 신호의 압축 효율을 크게 향상시킨다. 인터 예측은 비디오 신호 시간 영역 연관성을 사용하여, 인근의 코딩된 이미지 픽셀을 사용하여 현재 이미지의 픽셀을 예측함으로써 비디오 시간 영역 중복을 제거하는 목적을 달성한다. 인터 예측 과정에서 비디오는 아주 강한 시간 영역 연관성이 존재하는 바, 즉 시간 영역의 인접한 두 프레임 이미지는 유사한 이미지 블록이 아주 많기에, 현재 프레임의 이미지 블록은 종종 인접한 참조 이미지 중에서 모션 검색을 수행하여 현재 블록과 가장 매칭되는 블록을 찾아 참조 블록으로 한다. 참조 블록과 현재 블록의 유사도가 높고 양자의 차이 값이 아주 작기에 코딩 차이 값의 비트레이트 오버헤드가 현재 블록 픽셀 값을 직접 코딩하는 경우의 비트레이트 오버헤드보다 훨씬 작다.

상기 변환 과정에서, 동일한 TU(잔차 블록 또는 현재 블록이라고도 함)에 대해 상이한 변환 커널 페어를 사용하여 잔차 블록을 압축하면 압축 효과가 상당이 다르다. 이것은 변환 커널 자체의 기저 함수에 의해 결정되는 바, 도 6에 도시된 바와 같이 DCT2, DST7 및 DCT8 3가지 변환 커널 기저 함수에 대응되고, 입력 신호 비트는 64비트이다. 도면의 0계 기저 함수에서, DCT2는 균일하게 분포된 신호에 대해 강한 에너지 집중 효과를 나타내고 형성된 직류 컴포넌트는 입력 신호 평균값의 배수이며, DST7은 진폭이 증가하는 입력 신호에 대해 강한 에너지 집중 효과를 나타내고, DCT8은 진폭이 감소하는 입력 신호에 대해 강한 에너지 집중 효과를 나타낸다.

상이한 변환 커널과 잔차 특성의 관계를 더 직관적으로 알아보기 위해, 도 7을 참조하면 5가지 상이한 수평 수직 변환 커널 페어는 상이한 타입의 잔차 분포 상황을 가리키는데, {DCT2, DCT2} 변환 커널 타입은 TU의 잔차 분포가 균일하며, {DST7, DST7} 변환 커널 타입은 TU의 잔차 분포가 왼쪽에서 오른쪽, 위에서 아래로 순차적으로 커지고 주로 TU의 오른쪽 하단에 분포되며, 유사하게 {DCT8, DST7}은 잔차가 주로 TU의 왼쪽 하단에 분포되고, {DST7, DCT8}은 잔차가 주로 TU의 오른쪽 상단에 분포되며, {DCT8, DCT8}은 잔차가 주로 TU의 왼쪽 상단에 분포된다.

컨텍스트 모델은 비디오 코딩에서 컨텍스트에 기반하여 부호 확률을 업데이트하는 과정을 컨텍스트 모델이라고 한다.

본 발명의 실시예는 코딩을 진행하는 방법을 제공하고, 상기 방법의 수행 단계는 도 8에 도시된 바와 같을 수 있다.

단계 801: 코딩단이 현재 블록의 잔차 신호를 획득한다.

실시 과정에서, 코딩단이 비디오 데이터에 대해 코딩을 진행할 경우, 먼저 인트라 예측을 진행하여 잔차 신호(잔차 블록을 획득하는 방식은 기존의 비디오 코딩 표준과 일치하기에 더 설명하지 않는다)를 얻은 다음 잔차 신호를 현재 처리할 현재 블록의 잔차 신호로 한다.

인트라 예측 모드의 선택 방식은 아래와 같을 수 있다.

일반적으로 코딩 효율의 두 가지 지표인 비트레이트 및 PSNR(Peak Signal to Noise Ratio, 최대 신호 대 잡음비)로 코딩 효율을 평가한다. 일반적으로 비트스트림이 작을수록 압축률이 크고; PSNR이 클수록 재구축 이미지 품질이 좋다. 모드 선택 시 판별 공식은 실질적으로 이 양자에 대한 종합적인 평가이다.

모드에 대응되는 율-왜곡 비용: J(mode)＝D＋λ*R, 여기서 D는 Distortion(왜곡)을 가리키고, 일반적으로 SSE(Sum of Squares Error, 및 분산) 지표를 사용하여 가늠하며, SSE는 재구축 블록과 원 이미지의 차이 값 평균제곱이고, λ는 라그랑주 승수이며, R이 바로 상기 인트라 예측 모드에서 이미지 블록 코딩에 필요한 실제 비트 수로서, 코딩 모드 정보, 모션 정보, 잔차 신호 등 필요한 총 비트 수를 포함한다.

코딩단은 명시적 다중 커널 변환 문법 테이블을 획득할 수 있고, 표 2와 같이 한 가지 인트라 예측 모드만 선택하면 표 2 중 각각의 변환 커널 페어를 선택하여 변환 처리를 진행하고 양자화, 엔트로피 코딩, 디코딩 처리를 진행한다. 이로써 각각의 인트라 예측 모드를 순회 완료한 후, 율-왜곡 비용이 가장 작은 인트라 예측 모드 및 변환 커널 페어를 선택하고, 상기 인트라 예측 모드를 현재 블록에 대응되는 인트라 예측 모드로 결정한다. 이로써 현재 블록에 대응되는 인트라 예측 모드 및 변환 커널 페어를 결정할 수 있다. 예를 들면, 인트라 예측 모드에는 67가지가 있고, 한 가지에는 5개의 변환 커널 페어가 있기에 67*5개의 조합이 있게 된다. 각 조합마다 한 가지 인트라 예측 모드 및 하나의 변환 커널 페어를 포함하고, 율-왜곡 비용이 가장 작은 조합을 선택하여 최종 인트라 예측 및 변환을 진행한다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2	3
1	DCT2	DCT2	0	-	-	-
2	DST7	DST7	1	0	-	-
3	DCT8	DST7	1	1	0	-
4	DST7	DCT8	1	1	1	0
5	DCT8	DCT8	1	1	1	1

설명할 것은, 표 2의 다른 가능한 실시형태는 DCT8 대신 DCT4를 사용하고, DST7 대신 DST4를 사용하거나, 또는 DCT8 및 DST7 대신 다른 변환 커널을 사용할 수도 있다.

이 밖에, 표 3과 같이, 코딩 시간을 단축하기 위해 표 2의 기초상에서 변환 커널 페어 (DCT8, DCT8)을 삭제할 수 있다. 즉 (DCT8, DCT8)의 RDO 결정을 실행하지 않음으로써, 상기 조합은 67*5개에서 67*4개로 변하므로 RDO 결정 횟수를 줄이고 코딩 시간을 단축한다. 또한 변환 커널 페어 (DCT8, DCT8)이 적어지기에, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 비트도 4개에서 3개로 줄어들고, 코딩의 오버헤드 비트도 줄일 수 있다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2
1	DCT2	DCT2	0	-	-
2	DST7	DST7	1	0	-
3	DCT8	DST7	1	1	0
4	DST7	DCT8	1	1	1

설명할 것은, 표 3의 다른 가능한 실시형태는 DCT8 대신 DCT2를 사용하거나, 소정의 기설정 형상 제한 조건에서 DCT8 대신 DCT2를 사용할 수도 있다.

이 밖에, 표 4와 같이, 코딩 시간을 단축하기 위해 표 3의 기초상에서 변환 커널 페어 (DST7, DCT8)을 삭제할 수 있다. 즉 (DST7, DCT8)의 RDO 결정을 실행하지 않음으로써, 상기 조합은 67*4개에서 67*3개로 변하므로 RDO 결정 횟수를 줄이고 코딩 시간을 단축한다. 또한 변환 커널 페어 (DCT8, DCT8), (DST7, DCT8)이 적어지기에, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 비트도 3개에서 2개로 줄어들고, 코딩의 오버헤드 비트도 줄일 수 있다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2
1	DCT2	DCT2	0	-	-
2	DST7	DST7	1	0	-
3	DCT8	DST7	1	1	-

이 밖에, 표 5와 같이, 코딩 시간을 단축하기 위해 표 3의 기초상에서 변환 커널 페어 (DCT8, DST7)을 삭제할 수 있다. 즉 (DCT8, DST7)의 RDO 결정을 실행하지 않음으로써, 상기 조합은 67*3개에서 67*2개로 변하므로 RDO 결정 횟수를 줄이고 코딩 시간을 단축한다. 또한 변환 커널 페어 (DCT8, DCT8), (DCT8, DST7)이 적어지기에, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 비트도 3개에서 2개로 줄어들고, 코딩의 오버헤드 비트도 줄일 수 있다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2
1	DCT2	DCT2	0	-	-
2	DST7	DST7	1	0	-
3	DST7	DCT8	1	1	-

이 밖에, 표 6과 같이, 코딩 시간을 단축하기 위해 표 2의 기초상에서 변환 커널 페어 (DCT8, DCT8), (DCT8, DST7), (DST7, DCT8)을 삭제할 수 있다. 즉 (DCT8, DCT8), (DCT8, DST7), (DST7, DCT8)의 RDO 결정을 실행하지 않음으로써, 상기 조합은 67*4개에서 67*2개로 변하므로 RDO 결정 횟수를 줄이고 코딩 시간을 단축한다. 또한 변환 커널 페어 (DCT8, DCT8), (DCT8, DST7), (DST7, DCT8)이 적어지기에, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 비트도 3개에서 1개로 줄어들고, 코딩의 오버헤드 비트도 줄일 수 있다.

설명할 것은, 표 4 및 표 5의 다른 가능한 실시형태는 DCT8 대신 DCT2를 사용하거나, 소정의 기설정 형상 제한 조건에서 DCT8 대신 DCT2를 사용할 수도 있다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2
1	DCT2	DCT2	0	-	-
2	DST7	DST7	1	-	-

설명할 것은, 표 4를 사용하면 RDO 결정 횟수는 줄일 수 있으나 코딩 성능도 같이 내려간다.

이 밖에, 더 설명할 것은, 표 2에서 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대한 변환은 현재 블록이 변환 커널 페어 인덱스 1에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 2-5에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이고; 두 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 2에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 3-5에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이며; 세 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 3에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 4-5에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이고; 네 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 4에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 5에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이다. 즉, 첫 번째 비트가 0이면, (DCT2, DCT2)의 변환 커널 페어를 사용함을 설명하고, 첫 번째 비트가 1, 두 번째 비트가 0이면, (DST7, DST7)의 변환 커널 페어를 사용함을 설명하며; 첫 번째 비트가 1, 두 번째 비트가 1, 세 번째 비트가 0이면, (DCT8, DST7)의 변환 커널 페어를 사용함을 설명하고; 첫 번째 비트가 1, 두 번째 비트가 1, 세 번째 비트가 1, 네 번째 비트가 0이면, (DST7, DCT8)의 변환 커널 페어를 사용함을 설명하며; 첫 번째 비트가 1, 두 번째 비트가 1, 세 번째 비트가 1, 네 번째 비트가 1이면, (DCT8, DCT8)의 변환 커널 페어를 사용함을 설명한다.

이 밖에, 더 설명할 것은, 표 3에서 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대한 변환은 현재 블록이 변환 커널 페어 인덱스 1에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 2-4에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이고; 두 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 2에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 3-4에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이며; 세 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 3에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 4에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이다. 즉, 첫 번째 비트가 0이면, (DCT2, DCT2)의 변환 커널 페어를 사용함을 설명하고; 첫 번째 비트가 1, 두 번째 비트가 0이면, (DST7, DST7)의 변환 커널 페어를 사용함을 설명하며; 첫 번째 비트가 1, 두 번째 비트가 1, 세 번째 비트가 0이면, (DCT8, DST7)의 변환 커널 페어를 사용함을 설명하고; 첫 번째 비트가 1, 두 번째 비트가 1, 세 번째 비트가 1이면, (DST7, DCT8)의 변환 커널 페어를 사용함을 설명한다.

이 밖에, 더 설명할 것은, 표 4에서, 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대한 변환은 현재 블록이 변환 커널 페어 인덱스 1에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 2-3에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이고; 두 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 2에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 3에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이다. 즉, 첫 번째 비트가 0이면, (DCT2, DCT2)의 변환 커널 페어를 사용함을 설명하고; 첫 번째 비트가 1, 두 번째 비트가 0이면, (DST7, DST7)의 변환 커널 페어를 사용함을 설명하며; 첫 번째 비트가 1, 두 번째 비트가 1이면, (DCT8, DST7)의 변환 커널 페어를 사용함을 설명한다.

이 밖에, 더 설명할 것은, 표 5에서, 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대한 변환은 현재 블록이 변환 커널 페어 인덱스 1에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 2-3에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이고; 두 번째 비트에 대한 코딩은 현재 블록이 변환 커널 페어 인덱스 2에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 3에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이다. 즉, 첫 번째 비트가 0이면, (DCT2, DCT2)의 변환 커널 페어를 사용함을 설명하고; 첫 번째 비트가 1, 두 번째 비트가 0이면, (DST7, DST7)의 변환 커널 페어를 사용함을 설명하며; 첫 번째 비트가 1, 두 번째 비트가 1이면, (DST7, DCT8)의 변환 커널 페어를 사용함을 설명한다.

이 밖에, 더 설명할 것은, 표 6에서 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대한 변환은 현재 블록이 변환 커널 페어 인덱스 1에 대응되는 변환 커널 페어를 사용하는지, 아니면 변환 커널 페어 인덱스 2에 대응되는 변환 커널 페어를 사용하는지를 구분하기 위한 것이다. 즉, 첫 번째 비트가 0이면, (DCT2, DCT2)의 변환 커널 페어를 사용함을 설명하고, 첫 번째 비트가 1이면, (DST7, DST7)의 변환 커널 페어를 사용함을 설명한다.

단계 802: 코딩단이 현재 블록에 대응되는 변환 커널 페어 및 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

여기서, 변환 커널 페어는 수직 변환 커널 및 수평 변환 커널을 포함한다.

실시 과정에서, 코딩단은 최종적으로 선택한 변환 커널 페어를 획득한 다음, 표 2 내지 표 6 중 어느 하나의 표에 설명된 변환 커널 페어와 변환 커널 페어 인덱스의 대응 관계에서 상기 변환 커널 페어에 대응되는 변환 커널 페어 인덱스를 선택할 수 있다.

설명할 것은, 코딩 시 일반적으로 표 2 내지 표 6 중 어느 하나를 사용할 것을 이미 결정하였기에 표 2 내지 표 6 중 어느 하나의 표만 획득할 수 있다.

본 발명의 일 가능한 실시형태에서, 단계 802 전에 아래와 같은 판단을 더 진행할 수 있다.

코딩단이 현재 블록의 높이와 폭이 모두 기설정 임계값보다 작거나 같고, 현재 블록이 루마 블록이라고 결정한다.

여기서, 기설정 임계값은 기설정될 수 있고 코딩단에 저장되며, 기설정 임계값은 일반적으로 N(N은 32일 수 있음)이다.

실시 과정에서, 코딩단은 단계 801을 수행 완료 후, 현재 블록의 높이 방향에서의 픽셀점의 개수, 즉 현재 블록의 높이를 결정하고, 현재 블록의 폭 방향에서의 픽셀점의 개수, 즉 현재 블록의 폭을 결정할 수 있다. 또한 현재 블록이 루마 블록인지 여부를 판단할 수 있고, 현재 블록이 루마 블록이고, 현재 블록의 높이와 폭이 모두 기설정 임계값보다 작거나 같을 경우에만, 단계 802의 처리를 수행한다.

본 발명의 일 가능한 실시형태에서, 인트라 예측 모드 또는 현재 블록의 형상 정보를 사용하여, 변환 커널 페어 인덱스를 결정할 수도 있고, 아래와 같다.

방식 1: 코딩단이 현재 블록에 대응되는 변환 커널 페어를 결정하고, 현재 블록의 인트라 예측 모드 및 변환 커널 페어에 따라, 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

실시 과정에서, 코딩단은 앞에서 언급한 방식으로 변환 커널 페어 및 현재 블록의 인트라 예측 모드를 결정한 다음, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블을 획득하고, 상기 문법 테이블에서, 인트라 예측 모드 및 변환 커널 페어를 사용하여, 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정할 수 있다.

본 발명의 일 가능한 실시형태에서, 인트라 예측 모드를 사용하여 변환 커널 페어 인덱스를 결정하는 방식을 사용할 수 있고 상응한 처리는 아래와 같을 수 있다.

변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하고, 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하며, 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하고, 변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다.

실시 과정에서, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블은 표 7과 같다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2	3
1	DCT2	DCT2	0
2	DST7	DST7	1	0
3	Mode=0~34? DST7: DCT8	Mode=0~34? DCT8: DST7	1	1	0
4	Mode=0~34? DCT8: DST7	Mode=0~34? DST7: DCT8	1	1	1	0
5	DCT8	DCT8	1	1	1	1

표 7에서 제1 변환 커널 페어가 (DST7, DCT8)이고, 인트라 예측 모드의 모드 번호가 기설정 수치(기설정 수치는 34임)보다 작거나 같으면, 변환 커널 페어 인덱스를 3으로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 3개이고 순차적으로 1, 1, 0이다. 제2 변환 커널 페어가 (DCT8, DST7)이고, 인트라 예측 모드의 모드 번호가 34보다 크면, 대응되는 변환 커널 페어 인덱스를 3으로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 3개이고 순차적으로 1, 1, 0이다. 제2 변환 커널 페어가 (DCT8, DST7)이고, 인트라 예측 모드의 모드 번호가 34보다 작거나 같으면, 대응되는 변환 커널 페어 인덱스를 4로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 4개이고 순차적으로 1, 1, 1, 0이다. 제1 변환 커널 페어가 (DST7, DCT8)이고, 인트라 예측 모드의 모드 번호가 34보다 크면, 변환 커널 페어 인덱스를 4로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 4개이고 순차적으로 1, 1, 1, 0이다.

설명할 것은, 특정 변환 커널 페어는 변환 커널 페어 인덱스를 직접 결정할 수 있기에, 방식 1을 진행할 때 만족하는 조건은 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아니라는 것이다.

더 설명할 것은, 표 7에서, 변환 커널 페어 인덱스가 3일 경우, 상기 Mode=0~34? DST7: DCT8은, 인트라 예측 모드의 모드 번호가 0 내지 34이면 수평 변환 커널이 DST7이고, 아니면 수평 변환 커널이 DCT8임을 가리킨다. Mode=0~34? DCT8: DST7은, 인트라 예측 모드의 모드 번호가 0 내지 34이면, 수직 변환 커널이 DCT8이고, 아니면 수직 변환 커널이 DST7임을 가리킨다. 변환 커널 페어 인덱스가 4일 경우, 상기 Mode=0~34? DCT8: DST7은, 인트라 예측 모드의 모드 번호가 0 내지 34이면, 수평 변환 커널이 DCT8이고, 아니면 수평 변환 커널이 DST7임을 가리킨다. Mode=0~34? DST7: DCT8은, 인트라 예측 모드의 모드 번호가 0 내지 34이면, 수직 변환 커널이 DST7이고, 아니면 수직 변환 커널이 DCT8임을 가리킨다.

방식 2: 코딩단이 현재 블록에 대응되는 변환 커널 페어를 결정하고, 현재 블록의 형상 정보 및 변환 커널 페어에 따라, 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

실시 과정에서, 코딩단은 앞에서 언급한 방식으로 변환 커널 페어 및 현재 블록의 형상 정보를 결정한 다음, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블을 획득하고, 상기 문법 테이블에서 변환 커널 페어 및 현재 블록의 형상 정보를 사용하고, 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정할 수 있다.

본 발명의 일 가능한 실시형태에서, 현재 블록의 형상 정보를 참조하여 변환 커널 페어 인덱스를 결정하는 처리는 아래와 같을 수 있다.

변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정한다. 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정한다. 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다. 변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다.

여기서, 기설정 형상 제한 조건은 기설정될 수 있고 코딩단에 저장되며, 기설정 형상 제한 조건은 폭이 높이보다 크거나 같은 것이다.

실시 과정에서, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블은 표 8과 같다.

변환 커널 페어 인덱스	변환 커널 페어		이진화 코드 워드의 비트
변환 커널 페어 인덱스	수평 변환 커널	수직 변환 커널	0	1	2	3
1	DCT2	DCT2	0
2	DST7	DST7	1	0
3	W≥H? DST7: DCT8	W≥H? DCT8: DST7	1	1	0
4	W≥H? DCT8: DST7	W≥H? DST7: DCT8	1	1	1	0
5	DCT8	DCT8	1	1	1	1

표 8에서 제1 변환 커널 페어가 (DST7, DCT8)이고, 현재 블록의 형상 정보가 폭이 높이보다 크거나 같은 것이면, 대응되는 변환 커널 페어 인덱스를 3으로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 3개이고 순차적으로 1, 1, 0이다. 제2 변환 커널 페어가 (DCT8, DST7)이고, 현재 블록의 형상 정보가 폭이 높이보다 작은 것이면, 대응되는 변환 커널 페어 인덱스를 3으로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 3개이고 순차적으로 1, 1, 0이다. 제2 변환 커널 페어가 (DCT8, DST7)이고, 현재 블록의 형상 정보가 폭이 높이보다 크거나 같은 것이면, 대응되는 변환 커널 페어 인덱스를 4로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 4개이고 순차적으로 1, 1, 1, 0이다. 제1 변환 커널 페어가 (DST7, DCT8)이고, 현재 블록의 형상 정보가 폭이 높이보다 작은 것이면, 변환 커널 페어 인덱스를 4로 결정할 수 있다. 이때 대응되는 이진화 코드 워드의 비트는 4개이고 순차적으로 1, 1, 1, 0이다.

표 8에 따르면, 방식 2에서 현재 블록의 형상 정보가 폭이 높이보다 크거나 같은 것이고, 제1 변환 커널 페어가 (DST7, DCT8)일 경우, 제1 인덱스는 3이고; 현재 블록의 형상 정보가 폭이 높이보다 작은 것이고, 제2 변환 커널 페어가 (DCT8, DST7)일 경우, 제1 인덱스는 3이며; 현재 블록의 형상 정보가 폭이 높이보다 작은 것이고, 제1 변환 커널 페어가 (DST7, DCT8)일 경우, 제2 인덱스는 4이고, 현재 블록의 형상 정보가 폭이 높이보다 크거나 같은 것이고, 제2 변환 커널 페어가 (DCT8, DST7)일 경우, 제2 인덱스는 4이다.

설명할 것은, 특정 변환 커널 페어는 변환 커널 페어 인덱스를 직접 결정할 수 있기에, 방식 2를 진행할 때 만족하는 조건은 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아니라는 것이다.

더 설명할 것은, 표 8에서, 변환 커널 페어 인덱스가 3일 경우, 상기 W≥H? DST7: DCT8은, 현재 블록의 폭이 높이보다 크거나 같으면, 수평 변환 커널이 DST7이고, 아니면 수평 변환 커널이 DCT8임을 가리킨다. W≥H? DCT8: DST7은, 현재 블록의 폭이 높이보다 크거나 같으면, 수직 변환 커널이 DCT8이고, 아니면 수직 변환 커널이 DST7임을 가리킨다. 변환 커널 페어 인덱스가 4일 경우, 상기 W≥H? DCT8: DST7은, 현재 블록의 폭이 높이보다 크거나 같으면, 수평 변환 커널이 DCT8이고, 아니면 수평 변환 커널이 DST7임을 가리킨다. W≥H? DST7: DCT8은, 현재 블록의 폭이 높이보다 크거나 같으면, 수직 변환 커널이 DST7이고, 아니면 수직 변환 커널이 DCT8임을 가리킨다.

더 설명할 것은, 상기 표 7에서 Mode는 모드 번호를 가리키고, 상기 표 8에서, W는 폭, H는 높이를 가리킨다.

이로써, 현재 블록의 형상 정보, 인트라 예측 모드에 기반하여 변환 커널 페어의 우선순위를 적응적으로 조정함으로써, 확률이 높은 변환 커널 페어일수록 코딩할 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 더 짧도록 한다.

이 밖에, 코딩단이 현재 블록을 획득한 후, 먼저 현재 블록의 높이 및 폭이 모두 N(N은 32일 수 있음)보다 작거나 같은지 여부를 판단하고, 또한 루마 블록인지 여부를 판단하며, 현재 블록의 높이 및 폭이 모두 N보다 작거나 같고 루마 블록이면 계속하여 단계 801를 수행하고, 현재 블록의 높이 및 폭이 모두 N보다 작거나 같은 조건과 루마 블록이라는 조건 중 적어도 하나가 만족되지 않으면 직접 기설정된 변환 커널 페어(즉 (DCT2, DCT2))를 획득한다.

단계 803: 코딩단이 변환 커널 페어에 따라, 현재 블록의 잔차 신호에 대해 코딩 처리를 진행하여, 현재 블록에 대응되는 코딩 데이터를 얻는다.

실시 과정에서, 코딩단이 현재 블록에 대응되는 변환 커널 페어를 획득한 후, 변환 커널 페어에 의해 현재 블록의 잔차 신호에 대해 변환을 진행하여 변환 계수를 얻은 다음, 변환 계수에 대해 양자화 처리를 진행하여 양자화 계수를 얻고, 양자화 계수에 대해 엔트로피 코딩 처리를 진행하여 현재 블록에 대응되는 코딩 데이터를 얻을 수 있다.

단계 804: 코딩단이 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 현재 블록의 코딩 데이터에 추가한다.

실시 과정에서, 코딩단이 사용한 변환 커널 페어를 디코딩단이 알 수 있도록, 코딩 데이터에 변환 커널 페어 인덱스를 추가해야 한다.

코딩단은 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행할 수 있고, 이진화 코드 워드가 기타 비트를 더 포함하면, 이런 기타 비트에 대해, CABAC(Context-based Adaptive Binary Arithmetic Coding, 컨텍스트 기반 적응적 이진 산술 코딩) 방식의 코딩을 진행할 수 있고, 바이패스 기반 이진 산술 코딩 방식의 코딩을 진행할 수도 있다. 이어서 코딩단은 코딩 후의 변환 커널 페어 인덱스를 현재 블록의 코딩 데이터에 추가한다.

이로써, 현재 블록의 코딩 처리를 완료한다. 각 현재 블록을 모두 도 8에 도시된 흐름에 따라 처리하면 전체 비디오 데이터에 대한 코딩을 완료할 수 있다.

본 발명의 일 가능한 실시형태에서, 상기 기타 비트에 대해 바이패스 기반 이진 산술 코딩 방식의 코딩을 진행할 수 있고, 상응한 처리는 아래와 같을 수 있다.

변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하고, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하며, 코딩 후의 변환 커널 페어 인덱스를 현재 블록의 코딩 데이터에 추가한다.

실시 과정에서, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함할 경우, 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하고, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행한 다음, 코딩 후의 변환 커널 페어 인덱스를 현재 블록의 코딩 데이터에 추가할 수 있다.

예를 들면, 사용된 변환 커널 페어가 (DCT8, DCT8)이고, 대응되게 4개 비트가 있으며 순차적으로 1, 1, 1, 1이면, 첫 번째 비트를 코딩 시, 하나의 컨텍스트 모델을 사용하고, 뒤의 3개 비트를 코딩 시 모두 바이패스 기반 이진 산술 코딩 방식의 코딩을 진행한다. 이로써 뒤에 몇 개 비트의 컨텍스트 모델을 저장할 필요가 없기에 메모리 공간을 절약하고 코딩 및 디코딩의 복잡도를 감소할 수 있다.

이 밖에, 디코딩단도 명시적 다중 커널 변환 방식을 사용할 수 있도록, 코딩 데이터에 타깃 식별자를 추가할 수 있고, 타깃 식별자는 명시적 다중 커널 변환 방식을 사용했음을 지시한다.

상기 도 8에 도시된 코딩 방식에 대해, 본 발명의 실시예는 대응되는 디코딩 방식을 더 제공하고, 도 9를 참조하면 처리 흐름은 아래와 같을 수 있다.

단계 901: 디코딩단이 현재 블록의 코딩 데이터를 획득한다.

실시 과정에서, 디코딩단이 코딩 데이터에 대해 디코딩을 진행하고자 할 경우, 코딩 데이터를 획득한 다음, 코딩 데이터에 대해 엔트로피 디코딩 처리를 진행하고, 엔트로피 디코딩 결과에 대해 역 양자화 처리를 진행하여 현재 블록의 코딩 데이터를 얻을 수 있다.

단계 902: 디코딩단이 코딩 데이터로부터 현재 블록의 변환 커널 페어 인덱스를 획득하고, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의한 적응적 이진 산술 코딩을 통해 디코딩을 진행한다.

실시 과정에서, 디코딩단은 현재 블록의 코딩 데이터로부터 현재 블록에 대응되는 변환 커널 페어 인덱스를 획득하고, 코딩단이 현재 블록의 변환 커널 페어 인덱스에 대해 코딩을 진행할 경우, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행한다. 이로써, 첫 번째 비트를 디코딩 시, 디코딩단도 하나의 컨텍스트 모델에 의한 적응적 이진 산술 코딩을 통해 디코딩을 진행한다.

본 발명의 일 가능한 실시형태에서, 단계 902 전에 아래와 같은 판단을 더 진행할 수 있다.

디코딩단이 현재 블록의 높이와 폭이 모두 기설정 임계값보다 작거나 같고, 현재 블록이 루마 블록이라고 결정한다.

여기서, 기설정 임계값은 기설정될 수 있고 디코딩단에 저장되며, 기설정 임계값은 일반적으로 N(N은 32일 수 있음)이다.

실시 과정에서, 디코딩단은 단계 901을 수행 완료 후, 현재 블록의 높이 방향에서의 픽셀점의 개수, 즉 현재 블록의 높이를 결정하고, 현재 블록의 폭 방향에서의 픽셀점의 개수, 즉 현재 블록의 폭을 결정할 수 있다. 또한 디코딩단은 현재 블록이 루마 블록인지 여부를 판단할 수 있고, 현재 블록이 루마 블록이고, 현재 블록의 높이와 폭이 모두 기설정 임계값보다 작거나 같을 경우에만, 단계 902의 처리를 수행한다.

이 밖에, 단계 902의 처리를 수행하기 전에, 코딩 데이터가 타깃 식별자를 휴대하고 있는지 여부를 더 판단할 수 있고, 타깃 식별자는 명시적 다중 커널 변환 처리를 진행함을 지시한다. 코딩 데이터에 타깃 식별자가 포함되면, 명시적 다중 커널 변환 처리를 사용했음을 설명하고 단계 902의 처리를 진행할 수 있다.

단계 903: 디코딩단이 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하고, 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

실시 과정에서, 디코딩단이 현재 블록의 변환 커널 페어 인덱스를 결정한 후, 변환 커널 페어 인덱스 및 변환 커널 페어의 대응 관계에서 현재 블록에 대응되는 변환 커널 페어를 결정할 수 있다.

단계 904: 디코딩단이 변환 커널 페어에 따라, 현재 블록에 대해 디코딩 처리를 진행하여, 현재 블록에 대응되는 재구축 정보를 얻는다.

실시 과정에서, 디코딩단은 현재 블록에 대응되는 변환 커널 페어를 결정한 후, 상기 변환 커널 페어를 사용하여, 현재 블록에 대해 역 양자화를 진행한 후의 데이터에 대해 역변환 처리를 진행하여 현재 블록에 대응되는 잔차 신호를 얻은 다음, 잔차 신호와 예측 신호를 더하여 현재 블록에 대응되는 재구축 정보를 얻을 수 있다.

이로써, 현재 블록의 디코딩 처리를 완료한다. 각 현재 블록을 모두 도 9에 도시된 흐름에 따라 처리하면 전체 비디오 데이터에 대한 디코딩을 완료할 수 있다.

단계 903에서 여러 가지 방식으로 현재 블록의 변환 커널 페어를 결정할 수 있고, 아래 몇 가지 가능한 방식을 소개한다.

방식 1: 표 2와 같이 변환 커널 인덱스가 1이면, 사용된 변환 커널 페어가 (DCT2, DCT2) 임을 설명하고, 변환 커널 인덱스가 2이면, 사용된 변환 커널 페어가 (DST7, DST7) 임을 설명하며, 변환 커널 인덱스가 3이면, 사용된 변환 커널 페어가 (DCT8, DST7) 임을 설명하고, 변환 커널 인덱스가 4이면, 사용된 변환 커널 페어가 (DST7, DCT8) 임을 설명하며, 변환 커널 인덱스가 5이면, 사용된 변환 커널 페어가 (DCT8, DCT8) 임을 설명한다.

방식 2: 표 3에 설명된 변환 커널 페어 인덱스와 변환 커널 페어의 대응 관계, 현재 블록의 변환 커널 페어 인덱스를 사용하여, 현재 블록의 변환 커널 페어를 결정할 수 있다.

방식 3: 표 4에 설명된 변환 커널 페어 인덱스와 변환 커널 페어의 대응 관계, 현재 블록의 변환 커널 페어 인덱스를 사용하여, 현재 블록의 변환 커널 페어를 결정할 수 있다.

방식 4: 표 5에 설명된 변환 커널 페어 인덱스와 변환 커널 페어의 대응 관계, 현재 블록의 변환 커널 페어 인덱스를 사용하여, 현재 블록의 변환 커널 페어를 결정할 수 있다.

방식 5: 표 6에 설명된 변환 커널 페어 인덱스와 변환 커널 페어의 대응 관계, 현재 블록의 변환 커널 페어 인덱스를 사용하여, 현재 블록의 변환 커널 페어를 결정할 수 있다.

본 발명의 일 가능한 실시형태에서, 현재 블록의 인트라 모드 정보 또는, 현재 블록의 형상 정보를 사용하여, 변환 커널 페어를 결정할 수도 있고, 상응한 처리는 아래와 같을 수 있다.

디코딩단이 현재 블록의 인트라 예측 모드 및 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하거나; 또는,

디코딩단이 변환 커널 페어 인덱스, 현재 블록의 폭 및 높이에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정한다.

실시 과정에서, 변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널로 결정하고; 변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널로 결정하며; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널로 결정하고; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널로 결정한다.

또는, 변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하고; 변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하며; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하고; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정한다.(상기 과정은 단계 803의 과정과 대응될 수 있기에 여기서는 반복 설명하지 않는다).

상기 기설정 수치는 표 7 중의 34일 수 있고, 제1 인덱스는 3일 수 있으며, 제1 변환 커널 페어는 (DST7, DCT8)이고, 제2 인덱스는 4일 수 있으며, 제2 변환 커널 페어는 (DCT8, DST7)이다.

본 발명의 일 가능한 실시형태에서, 코딩단의 메모리 공간을 절약하기 위해, 코딩단이 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드에 대해 코딩을 진행할 경우, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행한다. 이로써, 어느 비트가 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하면, 컨텍스트 모델을 저장할 필요가 없기에 메모리 공간을 절약할 수 있다. 마찬가지로 디코딩단이 디코딩 시에도 상응한 방식으로 디코딩을 진행한다.

본 발명의 다른 실시예는 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함할 때 메모리 공간을 절약하는 것을 고려하고자, 아래 코딩 및 디코딩 과정을 제공하며, 도 10에 도시된 바와 같다.

단계 1001: 코딩단이 현재 블록의 잔차 신호를 획득한다.

인트라 예측 모드의 선택 방식은 단계 801 중 인트라 예측 모드의 선택 방식과 같고, 단계 801을 참조할 수 있기에 여기서는 반복 설명하지 않는다.

단계 1002: 코딩단이 현재 블록에 대응되는 변환 커널 페어 및 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

실시 과정에서, 코딩단은 최종적으로 선택한 변환 커널 페어를 획득한 다음, 표 2 내지 표 6 중 어느 하나의 표에서 상기 변환 커널 페어에 대응되는 변환 커널 페어 인덱스를 선택할 수 있다(이 처리 과정은 단계 802의 처리를 참조할 수 있다).

본 발명의 일 가능한 실시형태에서, 여러 가지 방식으로 변환 커널 페어 인덱스를 결정할 수 있고, 아래 두 가지 가능한 실시형태를 소개한다.

이 과정은 단계 802 중 표 7의 방식 1과 완전히 같기에, 여기서는 반복 설명하지 않는다.

이 과정은 단계 802 중 표 8의 방식 2와 완전히 같기에, 여기서는 반복 설명하지 않는다.

이 밖에, 코딩단이 현재 블록을 획득한 후, 먼저 현재 블록의 높이 및 폭이 모두 N(N은 32일 수 있음)보다 작거나 같은지 여부를 판단하고, 또한 루마 블록인지 여부를 판단하며, 현재 블록의 높이 및 폭이 모두 32보다 작거나 같고 루마 블록이면 계속하여 단계 1002를 수행하고, 현재 블록의 높이 및 폭이 모두 32보다 작거나 같은 조건과 루마 블록이라는 조건 중 적어도 하나가 만족되지 않으면 직접 기설정된 변환 커널 페어(즉 (DCT2, DCT2))를 획득한다.

단계 1003: 코딩단이 변환 커널 페어에 따라, 현재 블록의 잔차 신호에 대해 코딩 처리를 진행하여, 현재 블록에 대응되는 코딩 데이터를 얻는다.

실시 과정에서, 코딩단이 현재 블록에 대응되는 변환 커널 페어를 획득한 후, 변환 커널 페어에 의해 현재 블록의 잔차 신호에 대해 변환을 진행하여 변환 계수를 얻는다. 다음 코딩단이 변환 계수에 대해 양자화 처리를 진행하여 양자화 계수를 얻고, 코딩단이 양자화 계수에 대해 엔트로피 코딩 처리를 진행하여 현재 블록에 대응되는 코딩 데이터를 얻을 수 있다.

단계 1004: 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 코딩단이 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하고, 현재 블록의 코딩 데이터에 추가한다.

변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 코딩단은 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드 중 첫 번째 비트에 대해 CABAC 방식의 코딩을 진행할 수 있고, 변환 커널 페어 인덱스가 기타 비트를 더 포함하면, 이런 기타 비트에 대해, 적어도 하나의 비트가 바이패스 기반 이진 산술 코딩 방식의 코딩을 진행한 다음, 코딩 후의 변환 커널 페어 인덱스를 코딩 데이터에 추가한다. 이로써, 바이패스 기반 이진 산술 코딩 방식은 컨텍스트 모델을 저장할 필요가 없기에, 바이패스 기반 이진 산술 코딩 방식의 코딩을 진행하면, 상기 비트는 컨텍스트 모델을 저장할 필요가 없다.

이로써, 현재 블록의 코딩 처리를 완료한다. 각 현재 블록을 모두 도 10에 도시된 흐름에 따라 처리하면 전체 비디오 데이터에 대한 코딩을 완료할 수 있다.

본 발명의 일 가능한 실시형태에서, 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행한다.

실시 과정에서, CABAC 방식으로 첫 번째 비트에 대해 코딩을 진행할 경우, 다수의 컨텍스트 모델이 아니라 하나의 컨텍스트 모델을 사용하여 적응적 이진 산술 코딩을 진행하기에, 다수의 컨텍스트 모델을 저장할 필요가 없어, 저장 공간을 절약할 수도 있다.

도 10에 도시된 코딩 방식에 대해, 도 11에 도시된 바와 같이 본 발명의 실시예는 상응한 디코딩 방식을 더 제공한다.

단계 1101: 디코딩단이 현재 블록의 코딩 데이터를 획득한다.

실시 과정에서, 디코딩단이 코딩 데이터에 대해 디코딩을 진행하고자 할 경우, 코딩 데이터를 획득한 다음, 코딩 데이터에 대해 엔트로피 디코딩 처리를 진행한다., 디코딩단이 엔트로피 디코딩 결과에 대해 역 양자화 처리를 진행하여 코딩 데이터 중의 현재 블록을 얻고 현재 블록의 코딩 데이터로 한다.

단계 1102: 디코딩단이 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 디코딩을 진행한다.

실시 과정에서, 디코딩단은 코딩 데이터로부터 현재 블록에 대응되는 변환 커널 페어 인덱스를 획득하고, 코딩단이 현재 블록의 변환 커널 페어 인덱스에 대해 코딩을 진행할 경우, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행한다. 이로써, 디코딩단이 바이패스 기반 이진 산술 코딩 방식으로 코딩된 비트를 디코딩 시에도, 바이패스 기반 이진 산술 디코딩 방식으로 디코딩을 진행하여, 디코딩단의 메모리 공간을 절약할 수 있다.

본 발명의 일 가능한 실시형태에서, 메모리 공간을 절약하기 위해, 다수의 비트 중 첫 번째 비트는 하나의 컨텍스트 모델을 사용하여 코딩을 진행한다.

본 발명의 일 가능한 실시형태에서, 단계 1102 전에, 현재 블록의 높이와 폭이 모두 타깃 수치보다 작거나 같고, 현재 블록이 루마 블록이라고 결정한다.

실시 과정에서, 타깃 수치는 기설정될 수 있고 디코딩단에 저장되며, 일반적으로 N(N은 32일 수 있음)이다. 현재 블록의 높이 및 폭이 모두 N보다 작거나 같고, 현재 블록이 루마 블록인 경우에만, 단계 1102의 처리를 수행한다. 아니면 현재 블록에 대응되는 변환 커널 페어를 (DCT2, DCT2)로 결정하고, 추후 직접 상기 변환 커널 페어를 사용하여 디코딩 처리를 진행할 수 있다.

이 밖에, 단계 1102의 처리를 수행하기 전에, 코딩 데이터가 타깃 식별자를 휴대하고 있는지 여부를 더 판단할 수 있고, 타깃 식별자는 명시적 다중 커널 변환 처리를 진행함을 지시한다. 코딩 데이터에 타깃 식별자가 포함되면, 명시적 다중 커널 변환 처리를 사용했음을 설명하고 단계 1102의 처리를 진행할 수 있다.

단계 1103: 디코딩단이 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하고, 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

이 과정은 단계 903의 처리 과정과 완전히 같기에, 단계 903의 처리를 참조할 수 있고, 여기서는 반복 설명하지 않는다.

본 발명의 일 가능한 실시형태에서, 변환 커널 페어를 결정 시, 현재 블록의 높이 및 폭, 또는 현재 블록의 인트라 예측 모드를 사용할 수도 있고, 상응한 처리는 아래와 같을 수 있다.

현재 블록의 인트라 예측 모드 및 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하거나; 또는, 현재 블록의 형상 정보 및 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하고, 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

실시 과정에서, 상기 과정은 단계 903에서 현재 블록의 높이 및 폭, 또는 현재 블록의 인트라 예측 모드를 사용하여 변환 커널 페어를 결정하는 방식과 같기에, 단계 903의 처리를 참조할 수 있고, 여기서는 반복 설명하지 않는다.

단계 1104: 디코딩단이 변환 커널 페어에 따라, 현재 블록에 대해 디코딩 처리를 진행하여, 현재 블록에 대응되는 재구축 정보를 얻는다.

실시 과정에서, 디코딩단은 현재 블록에 대응되는 변환 커널 페어를 결정한 후, 상기 변환 커널 페어를 사용하여, 현재 블록에 대응되는 양자화 계수에 대해 역변환 처리를 진행하여 현재 블록에 대응되는 잔차 신호를 얻는다. 다음 디코딩단은 현재 블록 주변의 재구축된 영역 내 픽셀점의 픽셀 값을 사용하여, 사용된 인트라 예측 모드에 따라 예측 신호를 구축한 다음, 잔차 신호와 예측 신호를 더하여 현재 블록에 대응되는 재구축 정보를 얻을 수 있다.

이로써, 현재 블록의 디코딩 처리를 완료한다. 각 현재 블록을 모두 도 11에 도시된 흐름에 따라 처리하면 전체 비디오 데이터에 대한 디코딩을 완료할 수 있다.

본 발명의 실시예에서, 코딩단이 현재 블록을 코딩할 때, 기설정된 변환 커널 페어를 직접 획득하는 것이 아니라 현재 블록에 대응되는 변환 커널 페어를 획득하고 코딩 처리를 진행함으로써, 코딩 및 디코딩 성능을 향상시킬 수 있다. 코딩단이 변환 커널 페어 인덱스를 코딩할 때, 바이패스 기반 이진 산술 코딩 방식을 사용하여 변환 커널 페어 인덱스에 대응되는 이진화 인덱스에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 코딩 처리를 진행하기에, 적어도 하나의 비트는 컨텍스트 모델을 저장할 필요가 없기에 메모리 공간을 절약할 수 있다. 이 밖에, 적어도 하나의 비트는 CABAC 방식을 사용하지 않고 바이패스 기반 이진 산술 코딩 방식을 사용하기에, 코딩 및 디코딩 복잡도를 감소할 수 있다.

본 발명의 다른 실시예에서, 도 12에 도시된 바와 같이, 현재 블록의 형상 정보, 또는 현재 블록의 인트라 예측 모드에 따라, 변환 커널 페어를 결정하는 처리를 더 제공한다.

단계 1201: 코딩단이 현재 블록의 잔차 신호를 획득한다.

설명할 것은, 본 발명의 실시예에서의 TU는 앞에서 언급한 CU와 같다.

단계 1202: 코딩단이 현재 블록의 인트라 예측 모드, 현재 블록에 대응되는 변환 커널 페어, 또는 현재 블록의 형상 정보, 현재 블록에 대응되는 변환 커널 페어를 획득한다.

실시 과정에서, 코딩단은 단계 1201에서 최종적으로 인트라 예측 시 사용한 인트라 예측 모드(즉 현재 블록에 대응되는 인트라 예측 모드), 율-왜곡 비용이 최소일 경우의 상기 인트라 예측 모드에 대응되는 변환 커널 페어(즉 현재 블록에 대응되는 변환 커널 페어)를 획득할 수 있다.

또는, 코딩단은 상기 현재 블록의 높이 및 폭(즉 코딩 블록의 높이 방향에서의 픽셀점의 개수, 코딩 블록의 폭 방향에서의 픽셀점의 개수)을 결정할 수 있다. 이로써, 코딩단은 현재 블록의 형상 정보를 획득하고, 율-왜곡 비용이 최소일 경우 사용된 변환 커널 페어(즉 현재 블록에 대응되는 변환 커널 페어)를 획득할 수 있다.

이 밖에, 코딩단이 현재 블록을 획득한 후, 먼저 현재 블록의 높이 및 폭이 모두 N(N은 32일 수 있음)보다 작거나 같은지 여부를 판단하고, 또한 루마 블록인지 여부를 판단하며, 현재 블록의 높이 및 폭이 모두 N보다 작거나 같고 루마 블록이면 계속하여 단계 1202를 수행하고, 현재 블록의 높이 및 폭이 모두 N보다 작거나 같은 조건과 루마 블록이라는 조건 중 적어도 하나가 만족되지 않으면 직접 기설정된 변환 커널 페어(즉 (DCT2, DCT2))를 획득한다.

단계 1203: 코딩단이 현재 블록의 인트라 예측 모드 및 현재 블록에 대응되는 변환 커널 페어에 따라, 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나, 또는, 현재 블록의 형상 정보 및 현재 블록에 대응되는 변환 커널 페어에 따라, 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

실시 과정에서, 단계 1202에서 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아닐 경우, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블(상기 표 7)을 획득할 수 있고, 표 7로부터 현재 블록에 대응되는 인트라 예측 모드 및 변환 커널 페어에 공통으로 대응되는 변환 커널 페어 인덱스, 즉 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정할 수 있다. 예를 들면, 변환 커널 페어가 (DST7, DCT8)이고, 현재 블록에 대응되는 인트라 예측 모드의 모드 번호가 32이면, 공통으로 대응되는 변환 커널 페어 인덱스는 3이다.

또는, 단계 1202에서 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아닐 경우, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블(상기 표 8)을 획득할 수 있고, 표 8로부터 현재 블록의 형상 정보, 변환 커널 페어에 공통으로 대응되는 변환 커널 페어 인덱스, 즉 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정할 수 있다. 예를 들면, 변환 커널 페어가 (DST7, DCT8)이고, 현재 블록의 폭이 높이보다 크면, 공통으로 대응되는 변환 커널 페어 인덱스는 3이다.

본 발명의 일 가능한 실시형태에서, 코딩단이 인트라 예측 모드 및 변환 커널 페어를 사용하여 변환 커널 인덱스를 결정 시 아래 방식을 사용할 수 있다.

변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하고;, 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하며; 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하고; 변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다.

실시 과정에서, 상기 과정은 단계 802 중 표 7의 방식 1과 완전히 같기에, 여기서는 반복 설명하지 않는다.

본 발명의 일 가능한 실시형태에서, 코딩단이 현재 블록의 형상 정보, 변환 커널 페어를 사용하여 변환 커널 인덱스를 결정 시 아래 방식을 사용할 수 있다.

변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하고; 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하며; 변환 커널 페어가 제2 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하고 변환 커널 페어가 제1 변환 커널 페어이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정한다.

실시 과정에서, 상기 과정은 단계 802 중 표 8의 방식 2와 완전히 같기에, 여기서는 반복 설명하지 않는다.

단계 1204: 코딩단이 변환 커널 페어에 따라, 현재 블록의 잔차 신호에 대해 코딩 처리를 진행하여, 현재 블록에 대응되는 코딩 데이터를 얻는다.

실시 과정에서, 코딩단이 현재 블록에 대응되는 변환 커널 페어를 획득한 후, 변환 커널 페어에 의해 현재 블록의 잔차 신호에 대해 변환을 진행하여 변환 계수를 얻을 수 있다. 다음 코딩단이 변환 계수에 대해 양자화 처리를 진행하여 양자화 계수를 얻고, 코딩단이 양자화 계수에 대해 엔트로피 코딩 처리를 진행하여 현재 블록에 대응되는 코딩 데이터를 얻는다.

단계 1205, 코딩단이 변환 커널 페어 인덱스에 대해 코딩 처리를 진행하고, 현재 블록의 코딩 데이터에 추가한다.

실시 과정에서, 코딩단이 사용한 변환 커널 페어를 디코딩단이 알 수 있도록, 코딩 데이터에 변환 커널 페어 인덱스의 이진화 코드 워드를 추가해야 한다.

코딩단은 변환 커널 페어 인덱스에 대해 코딩 처리를 진행한 다음, 코딩 처리 후의 변환 커널 페어 인덱스를 코딩 데이터에 추가할 수 있다.

이로써, 현재 블록의 코딩 처리를 완료한다. 각 현재 블록을 모두 도 12에 도시된 흐름에 따라 처리하면 전체 비디오 데이터에 대한 코딩을 완료할 수 있다.

본 발명의 일 가능한 실시형태에서, 메모리 공간을 절약하기 위해, 아래 방식으로 변환 커널 페어 인덱스에 대해 코딩을 진행할 수 있고, 상응한 단계 1205의 처리는 아래와 같을 수 있다.

변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 첫 번째 비트에 대해 CABAC 방식으로 코딩을 진행하고, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행한다.

실시 과정에서, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 하나의 비트만 포함하면, 직접 CABAC 방식으로 코딩 처리를 진행할 수 있고, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 첫 번째 비트에 대해 CABAC 방식으로 코딩을 진행하고, 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행할 수 있다. 이어서 코딩단은 코딩 후의 변환 커널 페어 인덱스를 현재 블록의 코딩 데이터에 추가한다. 이로써, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함할 때, 일부 비트는 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하기에, 컨텍스트 모델을 저장할 필요가 없으므로, 메모리 공간을 절약할 수 있다.

본 발명의 일 가능한 실시형태에서, 코딩단이 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드 중 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행한다.

실시 과정에서, 코딩단은 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드 중 첫 번째 비트에 대해 하나의 컨텍스트 모델을 사용하여 코딩을 진행할 수 있다. 이로써, 하나의 컨텍스트 모델만 사용하였기에, 하나의 컨텍스트 모델만 저장하므로 차지하는 메모리 공간도 적고 코딩단의 저장 공간도 절약한다.

도 12에 도시된 코딩 과정에 기반하여, 본 발명의 실시예는 디코딩 과정을 더 제공하고, 도 13에 도시된 바와 같다.

단계 1301: 디코딩단이 현재 블록의 코딩 데이터를 획득한다.

실시 과정에서, 디코딩단이 코딩 데이터에 대해 디코딩을 진행하고자 할 경우, 코딩 데이터를 획득한 다음, 코딩 데이터에 대해 엔트로피 디코딩 처리를 진행한다. 디코딩단이 엔트로피 디코딩 결과에 대해 역 양자화 처리를 진행하여 코딩 데이터 중 현재 블록을 얻고 현재 블록의 코딩 데이터로 한다.

단계 1302: 디코딩단이 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 현재 블록의 인트라 예측 모드 또는 현재 블록의 형상 정보를 획득한다.

실시 과정에서, 디코딩단은 코딩 데이터로부터 현재 블록에 대응되는 변환 커널 페어 인덱스를 획득할 수 있고, 현재 블록이 높이 방향에서 포함하는 픽셀점의 개수(즉 높이)를 결정할 수 있으며, 현재 블록이 폭 방향에서 포함하는 픽셀점의 개수(즉 폭)를 결정할 수 있다. 다음 디코딩단이 현재 블록의 높이와 폭의 크기를 판단하고, 즉 현재 블록의 형상 정보를 획득한다.

또는, 디코딩단은 코딩 데이터로부터 현재 블록에 대응되는 변환 커널 페어 인덱스를 획득하고, 코딩 데이터로부터 인트라 예측 모드의 플래그를 해석하여 인트라 예측 모드의 모드 번호를 얻을 수 있다.

본 발명의 일 가능한 실시형태에서, 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드는 다수의 비트를 포함하고, 첫 번째 비트는 CABAC 방식으로 디코딩을 진행하고, 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 디코딩을 진행한다. 이로써, 코딩단은 변환 커널 페어 인덱스가 다수의 비트를 포함할 때, 일부 비트는 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하기에, 컨텍스트 모델을 저장할 필요가 없으므로, 메모리 공간을 절약할 수 있다. 이로써, 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하는 비트에 대해 디코딩단도 바이패스 기반 이진 산술 디코딩 방식으로 디코딩을 진행하기에, 디코딩단도 컨텍스트 모델을 저장할 필요가 없으므로, 메모리 공간도 절약할 수 있다.

본 발명의 일 가능한 실시형태에서, 변환 커널 페어 인덱스의 첫 번째 비트는 하나의 컨텍스트 모델을 사용하여 디코딩을 진행한다. 이로써, 디코딩단은 하나의 컨텍스트 모델만 사용하였기에, 하나의 컨텍스트 모델만 저장하므로 차지하는 메모리 공간도 상대적으로 적다.

본 발명의 일 가능한 실시형태에서, 단계 1302 전에, 현재 블록의 높이와 폭이 모두 타깃 수치보다 작거나 같고, 현재 블록이 루마 블록이라고 결정한다.

실시 과정에서, 타깃 수치는 기설정될 수 있고 디코딩단에 저장되며, 일반적으로 N(N은 32일 수 있음)이다. 현재 블록의 높이 및 폭이 모두 N보다 작거나 같고, 현재 블록이 루마 블록인 경우에만, 단계 1302의 처리를 수행한다. 아니면 현재 블록에 대응되는 변환 커널 페어를 (DCT2, DCT2)로 결정하고, 추후 직접 상기 변환 커널 페어를 사용하여 디코딩 처리를 진행할 수 있다.

이 밖에, 단계 1302의 처리를 수행하기 전에, 코딩 데이터가 타깃 식별자를 휴대하고 있는지 여부를 더 판단할 수 있고, 타깃 식별자는 명시적 다중 커널 변환 처리를 진행함을 지시한다. 코딩 데이터에 타깃 식별자가 포함되면, 명시적 다중 커널 변환 처리를 사용했음을 설명하고 단계 1302의 처리를 진행할 수 있다.

단계 1303: 디코딩단이 현재 블록의 인트라 예측 모드 및 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하거나, 또는, 현재 블록의 형상 정보 및 변환 커널 페어 인덱스에 따라, 현재 블록에 대응되는 변환 커널 페어를 결정하고, 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

실시 과정에서, 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다. 단계 1302에서 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아닐 경우, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블(상기 표 7)을 획득할 수 있고, 표 7로부터 현재 블록에 대응되는 인트라 예측 모드 및 변환 커널 페어 인덱스에 공통으로 대응되는 변환 커널 페어, 즉 현재 블록에 대응되는 변환 커널 페어를 결정할 수 있다. 예를 들면, 현재 블록에 대응되는 인트라 예측 모드의 모드 번호가 32이고, 변환 커널 페어 인덱스가 3이면, 변환 커널 페어는 (DST7, DCT8)이다.

또는, 단계 1302에서 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아닐 경우, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블(상기 표 8)을 획득할 수 있고, 표 8로부터 현재 블록의 높이 및 폭, 변환 커널 페어 인덱스에 공통으로 대응되는 변환 커널 페어, 즉 현재 블록에 대응되는 변환 커널 페어를 결정할 수 있다. 예를 들면, 현재 블록의 폭이 폭보다 크고, 변환 커널 페어 인덱스가 3이면, 변환 커널 페어는 (DST7, DCT8)이다.

본 발명의 일 가능한 실시형태에서, 인트라 예측 모드 및 변환 커널 페어 인덱스를 사용하여 변환 커널 인덱스를 결정 시 아래 방식을 사용할 수 있다.

변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하고; 변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하며; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하고; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정한다.

실시 과정에서, 단계 1302에서 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8) 중 어느 하나가 아닐 경우, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블(상기 표 7)을 획득할 수 있고, 표 7로부터 현재 블록에 대응되는 변환 커널 페어를 결정할 수 있다.

상기 제1 인덱스가 3이고, 기설정 수치가 34이며, 제1 변환 커널 페어가 (DST7, DCT8)이고, 제2 인덱스가 4이며, 기설정 수치가 34이고, 제2 변환 커널 페어가 (DCT8, DST7)이다.

본 발명의 일 가능한 실시형태에서, 현재 블록의 높이 및 폭, 변환 커널 페어 인덱스를 사용하여 변환 커널 페어를 결정 시 아래 방식을 사용할 수 있다.

변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하고; 변환 커널 페어 인덱스가 제1 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하며; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하고; 변환 커널 페어 인덱스가 제2 인덱스이고, 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정한다.

실시 과정에서, 단계 1302에서 결정한 변환 커널 페어가 (DCT2, DCT2), (DST7, DST7), (DCT8, DCT8)중 어느 하나가 아닐 경우, 기설정된 명시적 다중 커널 변환 커널 페어의 문법 테이블(상기 표 8)을 획득할 수 있고, 표 8로부터 현재 블록에 대응되는 변환 커널 페어를 결정할 수 있다.

상기 제1 인덱스가 3이고, W≥H이며, 제1 변환 커널 페어는 (DST7, DCT8)이고, 제2 인덱스가 4이고, W≥H이며, 제2 변환 커널 페어는 (DCT8, DST7)이다.

단계 1304: 디코딩단이 변환 커널 페어에 따라, 현재 블록에 대해 디코딩 처리를 진행하여, 현재 블록에 대응되는 재구축 정보를 얻는다.

실시 과정에서, 현재 블록에 대응되는 타깃 변환 커널 페어를 결정한 후, 상기 타깃 변환 커널 페어를 사용하여, 현재 블록에 대응되는 양자화 계수에 대해 역변환 처리를 진행하여 현재 블록에 대응되는 잔차 신호를 얻는다. 다음 디코딩단은 현재 블록 주변의 재구축된 영역 내 픽셀점의 픽셀 값을 사용하여, 사용된 인트라 예측 모드에 따라 예측 신호를 구축한 다음, 잔차 신호와 예측 신호를 더하여 현재 블록에 대응되는 재구축 정보를 얻을 수 있다.

이로써, 현재 블록의 디코딩 처리를 완료한다. 각 현재 블록을 모두 도 13에 도시된 흐름에 따라 처리하면 전체 비디오 데이터에 대한 디코딩을 완료할 수 있다.

설명할 것은, 본 발명의 실시예에서, 인트라 예측 모드, 또는 현재 블록의 형상 정보에 기반하여 변환 커널 페어의 우선순위를 적응적으로 조정함으로써, 확률이 높은 변환 커널 페어일수록 코딩할 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 더 짧도록 한다.

본 발명의 실시예에서, 코딩단이 코딩을 진행할 경우, 변환 커널 페어를 선택 시, 기설정된 변환 커널 페어가 아니라, 현재 블록의 인트라 예측 모드 또는 현재 블록의 형상 정보를 더 사용하고, 상응하게 디코딩을 진행할 경우에도 기설정된 변환 커널 페어가 아니라 현재 블록의 인트라 예측 모드 또는 현재 블록의 형상 정보를 더 사용하여 코딩 및 디코딩 성능을 향상시킬 수 있다.

동일한 기술적 구상에 기반하여, 본 발명의 실시예는 디코딩을 진행하는 디코딩단을 더 제공하고, 도 14에 도시된 바와 같이, 상기 디코딩단은 아래 모듈을 포함한다.

획득 모듈(1410)은,

현재 블록의 코딩 데이터를 획득하고;

상기 코딩 데이터로부터 상기 현재 블록의 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행한다.

결정 모듈(1420)은 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈(1420)은,

동일한 기술적 구상에 기반하여, 본 발명의 실시예는 코딩을 진행하는 코딩단을 더 제공하고, 도 15에 도시된 바와 같이, 상기 코딩단은 아래 모듈을 포함한다.

결정 모듈(1510)은 현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하고;

코딩 모듈(1520)은 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가한다.

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈(1520)은,

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈(1510)은,

동일한 기술적 구상에 기반하여, 본 발명의 실시예는 디코딩을 진행하는 디코딩단을 더 제공하고, 도 16에 도시된 바와 같이 상기 디코딩단은 아래 모듈을 포함한다.

획득 모듈(1610)은,

현재 블록의 코딩 데이터를 획득하고;

상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 디코딩 방식으로 코딩을 진행한다.

결정 모듈(1620)은 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈(1620)은,

동일한 기술적 구상에 기반하여, 본 발명의 실시예는 코딩을 진행하는 코딩단을 더 제공하고, 도 17에 도시된 바와 같이 상기 코딩단은 아래 모듈을 포함한다.

결정 모듈(1710)은 현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

코딩 모듈(1720)은 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가한다.

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈(1720)은 또한,

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈(1710)은,

본 발명의 실시예에서, 코딩단이 현재 블록을 코딩할 때 기설정된 변환 커널 페어를 직접 획득하는 것이 아니라 현재 블록에 대응되는 변환 커널 페어를 획득하고 코딩 처리를 진행함으로써, 코딩 및 디코딩 성능을 향상시킬 수 있다. 코딩단이 변환 커널 페어 인덱스를 코딩할 때, 바이패스 기반 이진 산술 코딩 방식을 사용하여 변환 커널 페어 인덱스에 대응되는 이진화 인덱스에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 코딩 처리를 진행하기에, 적어도 하나의 비트는 컨텍스트 모델을 저장할 필요가 없기에 메모리 공간을 절약할 수 있다. 이 밖에, 적어도 하나의 비트는 CABAC 방식을 사용하지 않고 바이패스 기반 이진 산술 코딩 방식을 사용하기에, 코딩 및 해석 복잡도를 감소할 수도 있다.

동일한 기술적 구상에 기반하여, 본 발명의 실시예는 디코딩을 진행하는 디코딩단을 더 제공하고, 도 18에 도시된 바와 같이 상기 디코딩단은 아래 모듈을 포함한다.

획득 모듈(1810)은,

현재 블록의 코딩 데이터를 획득하고;

상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 상기 현재 블록의 인트라 예측 모드 또는 상기 현재 블록의 형상 정보를 획득한다.

결정 모듈(1820)은 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈(1820)은,

동일한 기술적 구상에 기반하여, 본 발명의 실시예는 코딩을 진행하는 코딩단을 더 제공하고, 도 19에 도시된 바와 같이, 상기 코딩단은 아래 모듈을 포함한다.

획득 모듈(1910)은 현재 블록의 인트라 예측 모드, 상기 현재 블록에 대응되는 변환 커널 페어, 또는 상기 현재 블록의 형상 정보, 상기 현재 블록에 대응되는 변환 커널 페어를 획득한다.

결정 모듈(1920)은 상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정한다.

코딩 모듈(1930)은 변환 커널 페어 인덱스에 대해 코딩 처리를 진행하고, 상기 현재 블록의 코딩 데이터에 추가한다.

본 발명의 일 가능한 실시형태에서, 상기 결정 모듈(1920)은,

본 발명의 일 가능한 실시형태에서, 상기 코딩 모듈(1930)은,

상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행한다.

본 발명의 실시예에서, 코딩단이 코딩을 진행할 경우, 변환 커널 페어를 선택 시 기설정된 변환 커널 페어를 사용하는 것이 아니라 현재 블록의 인트라 예측 모드 또는 현재 블록의 형상 정보를 사용하고, 상응하게 디코딩 시에도 기설정된 변환 커널 페어를 사용하는 것이 아니라 현재 블록의 인트라 예측 모드 또는 현재 블록의 형상 정보를 사용하기에, 코딩 및 디코딩 성능을 향상시킬 수 있다.

설명할 것은, 상기 실시예에서 제공하는 디코딩단이 디코딩을 진행할 경우, 상기 각 기능 모듈이 분할된 경우만 예로 들어 설명하였으나 실제 응용에서 필요에 따라 상기 기능을 상이한 기능 모듈에 할당하여 완성할 수 있다. 즉 디코딩단의 내부 구조를 상이한 기능 모듈로 분할하여 앞에서 설명한 전부 또는 일부 기능을 완료할 수 있다. 이 밖에, 상기 실시예에서 제공하는 디코딩단은 디코딩을 진행하는 방법 실시예와 동일한 발명 구상에 속하고 구체적인 실시 과정은 방법 실시예를 참조할 수 있으므로 여기서는 반복 설명하지 않는다.

설명할 것은, 상기 실시예에서 제공하는 코딩단이 코딩을 진행할 경우, 상기 각 기능 모듈이 분할된 경우만 예로 들어 설명하였으나 실제 응용에서 필요에 따라 상기 기능을 상이한 기능 모듈에 할당하여 완성할 수 있다. 즉 디코딩단의 내부 구조를 상이한 기능 모듈로 분할하여 앞에서 설명한 전부 또는 일부 기능을 완료할 수 있다. 이 밖에, 상기 실시예에서 제공하는 코딩단은 코딩을 진행하는 방법 실시예와 동일한 발명 구상에 속하고 구체적인 실시 과정은 방법 실시예를 참조할 수 있으므로 여기서는 반복 설명하지 않는다.

도 20은 본 발명의 실시예에서 제공하는 코딩단의 구조 모식도이고, 상기 코딩단(2000)은 구성 또는 성능이 다름에 따라 상대적으로 큰 차이가 있을 수 있으며, 하나 이상의 프로세서(central processing units, CPU)(2001) 및 하나 이상의 메모리(2002)를 포함할 수 있고, 상기 메모리(2002)에는 적어도 하나의 명령이 저장되고, 상기 적어도 하나의 명령은 상기 프로세서(2001)에 의해 로딩되고 실행되어 상기 코딩을 진행하는 방법의 단계를 수행한다.

도 21은 본 발명의 실시예에서 제공하는 디코딩단의 구조 모식도이고, 상기 디코딩단(2100)은 구성 또는 성능이 다름에 따라 상대적으로 큰 차이가 있을 수 있으며, 하나 이상의 프로세서(central processing units, CPU)(2101) 및 하나 이상의 메모리(2102)를 포함할 수 있고, 상기 메모리(2102)에는 적어도 하나의 명령이 저장되고, 상기 적어도 하나의 명령은 상기 프로세서(2101)에 의해 로딩되고 실행되어 상기 디코딩을 진행하는 방법의 단계를 수행한다.

본 발명의 실시예는 컴퓨터 판독 가능 저장 매체를 더 제공하고, 상기 저장 매체 내에는 컴퓨터 프로그램이 저장되며, 상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우 상기 코딩을 진행하는 방법 및 디코딩을 진행하는 방법의 단계를 수행한다.

본 발명의 실시예는 코딩단을 더 제공하고, 이는 프로세서 및 메모리를 포함하며, 상기 메모리에는 컴퓨터 프로그램이 저장되고; 상기 프로세서는 상기 메모리에 저장된 프로그램을 실행하여 상기 코딩을 진행하는 방법의 단계를 수행한다.

본 발명의 실시예는 디코딩단을 더 제공하고, 이는 프로세서 및 메모리를 포함하며, 상기 메모리에는 컴퓨터 프로그램이 저장되고; 상기 프로세서는 상기 메모리에 저장된 프로그램을 실행하여 상기 디코딩을 진행하는 방법의 단계를 수행한다.

본 발명의 실시예는 코딩 및 디코딩을 진행하는 시스템을 더 제공하고, 상기 시스템은 코딩단 및 디코딩단을 포함하며,

상기 코딩단은 상기 코딩 처리를 진행하는 코딩단이고;

상기 디코딩단은 상기 디코딩 처리를 진행하는 디코딩단이다.

당업자는 상기 실시예의 전부 또는 일부 단계가 하드웨어 또는 관련 하드웨어를 지시하는 프로그램을 통해 구현될 수 있고, 상기 프로그램은 컴퓨터 판독 가능 저장 매체에 저장될 수 있으며, 전술한 저장 매체는 판독 전용 메모리, 자기 디스크 또는 광 디스크 등일 수 있음을 이해할 것이다.

상기 내용은 본 발명의 바람직한 실시예일뿐 본 발명을 한정하려는 의도는 없으며, 본 발명의 사상과 원칙 내에서 이루어진 모든 수정, 등가 대체, 개선 등은 모두 본 발명의 보호 범위에 포함되어야 한다.

Claims

디코딩을 진행하는 방법에 있어서,
현재 블록의 코딩 데이터를 획득하는 단계;
상기 코딩 데이터로부터 상기 현재 블록의 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행하는 단계;
상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제1항에 있어서,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드는 다수의 비트를 포함하고, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 디코딩을 진행하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제1항 또는 제2항에 있어서,
상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,
상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계; 또는,
상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
코딩을 진행하는 방법에 있어서,
현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계;
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제4항에 있어서,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계는,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하고, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하는 단계;
코딩 후의 변환 커널 페어 인덱스를 상기 코딩 데이터에 추가하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제4항 또는 제5항에 있어서,
상기 현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,
상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계; 또는,
상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
디코딩을 진행하는 방법에 있어서,
현재 블록의 코딩 데이터를 획득하는 단계;
상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 디코딩을 진행하는 단계;
상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제7항에 있어서,
상기 변환 커널 페어 인덱스의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제7항 또는 제8항에 있어서,
상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,
상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계; 또는,
상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
코딩을 진행하는 방법에 있어서,
현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계;
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제10항에 있어서,
상기 방법은,
상기 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 단계를 더 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제10항 또는 제11항에 있어서,
상기 현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,
상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계; 또는,
상기 현재 블록에 대응되는 변환 커널 페어를 결정하고, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
디코딩을 진행하는 방법에 있어서,
현재 블록의 코딩 데이터를 획득하는 단계;
상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 상기 현재 블록의 인트라 예측 모드 또는 상기 현재 블록의 형상 정보를 획득하는 단계;
상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제13항에 있어서,
상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,
상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계;
상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;
상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;
상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제13항에 있어서,
상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하는 단계는,
상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계;
상기 변환 커널 페어 인덱스가 제1 인덱스이고, 상기 현재 블록의 형상 정보가 상기 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;
상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 형상 정보가 상기 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어를 제2 변환 커널 페어로 결정하는 단계;
상기 변환 커널 페어 인덱스가 제2 인덱스이고, 상기 현재 블록의 형상 정보가 상기 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어를 제1 변환 커널 페어로 결정하는 단계를 포함하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제13항 내지 제15항 중 어느 한 항에 있어서,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 것을 특징으로 하는 디코딩을 진행하는 방법.
제13항 내지 제15항 중 어느 한 항에 있어서,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드는 다수의 비트를 포함하고, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 디코딩을 진행하는 것을 특징으로 하는 디코딩을 진행하는 방법.
코딩을 진행하는 방법에 있어서,
현재 블록의 인트라 예측 모드, 상기 현재 블록에 대응되는 변환 커널 페어, 또는 상기 현재 블록의 형상 정보, 상기 현재 블록에 대응되는 변환 커널 페어를 획득하는 단계;
상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계;
변환 커널 페어 인덱스에 대해 코딩 처리를 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제18항에 있어서,
상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,
상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;
상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;
상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 작거나 같으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계;
상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 인트라 예측 모드의 모드 번호가 기설정 수치보다 크면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제18항에 있어서,
상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 단계는,
상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;
상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제1 인덱스로 결정하는 단계;
상기 변환 커널 페어가 제2 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계;
상기 변환 커널 페어가 제1 변환 커널 페어이고, 상기 현재 블록의 형상 정보가 기설정 형상 제한 조건을 만족하지 않으면, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 제2 인덱스로 결정하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제18항 내지 제20항 중 어느 한 항에 있어서,
상기 변환 커널 페어 인덱스에 대해 코딩 처리를 진행하는 단계는,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라 코딩을 진행하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
제18항 내지 제20항 중 어느 한 항에 있어서,
상기 변환 커널 페어 인덱스에 대해 코딩 처리를 진행하는 단계는,
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하는 단계를 포함하는 것을 특징으로 하는 코딩을 진행하는 방법.
디코딩을 진행하는 디코딩단에 있어서,
현재 블록의 코딩 데이터를 획득하고; 상기 코딩 데이터로부터 상기 현재 블록의 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트는 하나의 컨텍스트 모델에 의해 적응적 이진 산술 디코딩을 진행하는 획득 모듈;
상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 결정 모듈을 포함하는 것을 특징으로 하는 디코딩을 진행하는 디코딩단.
코딩을 진행하는 코딩단에 있어서,
현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 결정 모듈;
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드의 첫 번째 비트에 대해 하나의 컨텍스트 모델에 의해 적응적 이진 산술 코딩을 진행하는 방식에 따라, 상기 변환 커널 페어 인덱스에 대해 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 코딩 모듈을 포함하는 것을 특징으로 하는 코딩을 진행하는 코딩단.
디코딩을 진행하는 디코딩단에 있어서,
현재 블록의 코딩 데이터를 획득하고; 상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하되, 상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 디코딩을 진행하는 획득 모듈;
상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 결정 모듈을 포함하는 것을 특징으로 하는 디코딩을 진행하는 디코딩단.
코딩을 진행하는 코딩단에 있어서,
현재 블록에 대응되는 변환 커널 페어 및 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 결정 모듈;
상기 변환 커널 페어 인덱스에 대응되는 이진화 코드 워드가 다수의 비트를 포함하면, 상기 다수의 비트에서 상기 첫 번째 비트 외의 기타 비트 중 적어도 하나의 비트에 대해 바이패스 기반 이진 산술 코딩 방식으로 코딩을 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 코딩 모듈을 포함하는 것을 특징으로 하는 코딩을 진행하는 코딩단.
디코딩을 진행하는 디코딩단에 있어서,
현재 블록의 코딩 데이터를 획득하고; 상기 코딩 데이터로부터 변환 커널 페어 인덱스를 획득하고, 상기 현재 블록의 인트라 예측 모드 또는 상기 현재 블록의 형상 정보를 획득하는 획득 모듈;
상기 현재 블록의 인트라 예측 모드 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 변환 커널 페어 인덱스에 따라, 상기 현재 블록에 대응되는 변환 커널 페어를 결정하되, 상기 변환 커널 페어는 수평 변환 커널 및 수직 변환 커널을 포함하는 결정 모듈을 포함하는 것을 특징으로 하는 디코딩을 진행하는 디코딩단.
코딩을 진행하는 코딩단에 있어서,
현재 블록의 인트라 예측 모드, 상기 현재 블록에 대응되는 변환 커널 페어, 또는 상기 현재 블록의 형상 정보, 상기 현재 블록에 대응되는 변환 커널 페어를 획득하는 획득 모듈;
상기 현재 블록의 인트라 예측 모드 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하거나, 또는, 상기 현재 블록의 형상 정보 및 상기 현재 블록에 대응되는 변환 커널 페어에 따라, 상기 현재 블록에 대응되는 변환 커널 페어 인덱스를 결정하는 결정 모듈;
변환 커널 페어 인덱스에 대해 코딩 처리를 진행하고, 상기 현재 블록의 코딩 데이터에 추가하는 코딩 모듈을 포함하는 것을 특징으로 하는 코딩을 진행하는 코딩단.