KR20230054915A

KR20230054915A - 픽처 경계 처리를 위한 멀티형 트리 깊이 확장

Info

Publication number: KR20230054915A
Application number: KR1020237013252A
Authority: KR
Inventors: 한 가오; 즈지에 자오; 세미흐 에센리크; 아난드 메헤르 코트라; 장러 천
Original assignee: 후아웨이 테크놀러지 컴퍼니 리미티드
Priority date: 2018-05-30
Filing date: 2019-05-29
Publication date: 2023-04-25
Also published as: AU2019276189A1; ES2964088T3; MX2020012809A; FI3782369T3; CA3209197A1; PT3782369T; AU2022259770A1; US20210084299A1; AU2022259770B2; AU2019276189B2; US11323707B2; CN111713112A; HUE063791T2; KR20210002674A; US20220182628A1; PL3782369T3; CN114598870A; US11968363B2; EP3782369B1; EP4283998A1

Abstract

본 개시는 이미지를 코딩 단위로 분할하기 위한 장치와 방법을 제공한다. 이미지가 계층적으로 분할되는 코딩 트리 유닛(coding tree unit, CTU)으로 구분된다. 계층적 분할은 이진 트리 또는 쿼드 트리 분할과 같은 멀티형 분할을 포함한다. 완전히 이미지 내의 CTU와 경계의 CTU에 대해, 각각의 멀티형 파티션 깊이가 선택된다. 본 개시는 이미지의 경계 부분에서 멀티형 분할 유연성을 제공한다.

Description

픽처 경계 처리를 위한 멀티형 트리 깊이 확장{MULTI-TYPE TREE DEPTH EXTENSION FOR PICTURE BOUNDARY HANDLING}

본 출원은 2019년 5월 30일에 출원된 미국 임시출원 번호 제62/ 678,241호에 대해 우선권을 주장하는 2019년 5월 29일에 출원된 PCT 출원 번호 PCT/EP2019/064061의 연속 출원으로, 그 전체 내용이 원용에 의해 본 명세서에 포함된다.

본 개시는 비디오 처리 분야, 특히 일반적으로 하이브리드 비디오 코딩과 압축이라고 하는 주제에 관한 것이다.

다용도 비디오 코딩(Versatile Video Coding, VVC) 차세대 표준은 ITU-T 비디오 코딩 전문가 그룹(Video Coding Experts Group, VCEG)과 ISO/IEC 동영상 전문가 그룹(Moving Picture Experts Group, MPEG) 표준화 기구의 가장 최근의 공동 비디오 프로젝트이며, 공동 비디오 탐사 팀(Joint Video Exploration Team, JVET)으로 알려진 파트너십으로 함께 협력하고 있다.

현재 블록 기반의 하이브리드 비디오 코덱이 예측 코딩을 사용한다. 비디오 시퀀스의 픽처가 픽셀의 블록으로 세분화된 다음 이러한 블록이 코딩된다. 블록을 픽셀 단위로 코딩하는 대신에, 이미 인코딩된 픽셀을 이용하여 이 블록의 공간적 근접이나 시간적 근접으로 전체 블록이 예측된다. 인코더는 이 블록과 예측 사이의 차이만을 추가로 처리한다. 추가적인 처리는 일반적으로 변환 영역에서 블록 픽셀을 계수로 변환하는 것을 포함한다. 그런 다음, 이 계수는 (예를 들어, 양자화에 의해) 추가로 압축되고 (예를 들어, 엔트로피 코딩에 의해) 추가로 압축되어 비트스트림을 형성할 수 있다. 비트스트림은 디코더로 하여금 인코딩된 비디오를 디코딩할 수 있게 하는 임의의 시그널링 정보를 더 포함할 수 있다. 예를 들어, 시그널링은 인코더 설정에 관한 설정, 예컨대 입력된 픽처의 크기, 프레임 레이트(frame rate), 양자화 스텝 지시(quantization step indication), 및 픽처의 블록에 적용되는 예측 등을 포함 할 수 있다.

하나의 블록과 이 블록의 예측 사이의 차이를 블록의 잔차(residual)라고 한다. 더 구체적으로, 이 블록의 각각의 픽셀은 잔차를 가지고 있으며, 잔차는 그 픽셀의 강도 레벨(intensity level)과 예측된 강도 레벨 사이의 차이이다. 픽셀의 강도 레벨을 픽셀 값 또는 픽셀의 값이라고 한다. 하나의 블록의 모든 픽셀의 잔차를 총칭하여 블록의 잔차라고 한다. 즉, 블록은 블록의 모든 픽셀의 잔차로 구성된 세트 또는 행렬인 잔차를 가지고 있다. 그런 다음, 잔차는 시그널링 정보와 함께 변환되고, 양자화되며, 코딩된다. 이 코딩은 산술 코딩 또는 기타 엔트로피 코딩 유형을 포함하는 다양한 형태의 고정 및 가변 길이 코딩을 포함할 수 있다.

블록 기반의 하이브리드 비디오 코딩에서, 각각의 픽처가 샘플 블록으로 분할되고, 하나의 픽처 내의 복수의 블록이 모여서 독립적으로 디코딩 가능한 엔티티로서의 슬라이스를 형성한다. 예측 및/또는 변환이 적용되는 블록을 코딩 유닛(Coding Unit, CU) 또는 코딩 블록(Coding Block, CB)이라 한다. 코딩 유닛은 다른 크기를 가질 수 있다.

예를 들어, 고효율 비디오 코딩(High-Efficiency Video Coding, HEVC)(H.265라고도 함)에서, 비디오 프레임이 코딩 트리 유닛(coding tree unit, CTU)(CTB라고도 함)로 세분화된다. CTB는 동일한 크기, 예를 들어 64×64개의 샘플의 분리된 정사각형 블록이다. 각각의 CTB는 블록 분할 쿼드 트리 구조(block partitioning quad-tree structure)의 루트로서 코딩 트리의 역할을 한다. CTB는 코딩 트리 구조를 따라 코딩 블록으로 더 세분화될 수 있다. 코딩 블록에 대해, 예측 유형이 결정된다. 코딩 블록은 추가적으로, 변환 및 양자화가 적용되는 더 작은 변환 블록으로 분할될 수 있다.

"V. Sze et al (Ed.), HEVC (High Efficiency Video Coding):Algorithms and Architectures, Springer, 2014, Chapter 3.2"에서 HEVC의 파티셔닝에 대한 세부사항을 찾을 수 있다.

또한, WO 2016/090568은 쿼드 트리(quad-tree) + 이진 트리 구조를 이용하여 하나의 유닛을 여러 개의 더 작은 유닛으로 분할하기 위한 이진 트리 구조를 제시한다. 따라서, 루트 유닛이 먼저 쿼드 트리 구조에 의해 분할되고, 그런 다음 쿼드 트리의 리프 노드(leaf node)가 이진 트리 구조에 의해 추가로 분할된다.

본 발명의 실시예는 독립 청구항의 특징에 의해 정의되고, 이러한 실시예의 더 유리한 구현은 종속 청구항의 특징에 의해 정의된다.

일반적인 양태에 따르면, 본 개시는 이미지를 코딩 유닛으로 분할하기 위한 장치를 제공하며, 상기 장치는 처리 회로를 포함한다. 상기 장치는 상기 이미지를 수평 및 수직 방향의 사전 설정된 크기를 가진 비경계 CTU와 수평 또는 수직 이미지 경계로 구분된 상기 이미지 내의 부분을 가진 경계 CTU를 포함하는 코딩 트리 유닛(coding tree unit, CTU)으로 세분화하고, 상기 비경계 CTU와 상기 경계 CTU를 각각의 코딩 유닛으로 계층적으로 분할하도록 구성된다. 여기서, 상기 부분은 상기 이미지 경계에 수직인 방향의 사전 설정된 크기보다 작은 크기를 가지고 있고, 상기 비경계 CTU의 계층적 분할은 최대 비경계 멀티형 파티션 깊이(non-boundary multi-type partition depth)를 가진 멀티형 분할을 포함하며, 상기 멀티형 분할은 분할 방향이 상기 수직 방향이거나 또는 상기 수평 방향인 분할이고, 상기 경계 CTU의 계층적 분할은 최대 경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함한다.

이는 경계 분할의 유연성이 강화된다는 장점을 제공한다.

상기 장치의 추가적인 구현에서, 상기 최대 경계 멀티형 파티션 깊이는 적어도 적응적 경계 멀티형 파티션 깊이(adaptive boundary multi-type partition depth)와 미리 정의된 멀티형 파티션 깊이의 합이고, 상기 적응적 경계 멀티형 파티션 깊이는, 분할 방향이 상기 이미지 경계의 방향인 멀티형 분할의 깊이이다.

이렇게 하면, 멀티형 분할을 경계 코딩 트리 유닛 또는 파티션 블록에 사용할 때 파티션 깊이의 적응적 결정이 제공된다.

예를 들면, 상기 미리 정의된 멀티형 파티션 깊이는 상기 최대 비경계 멀티형 파티션 깊이와 동일하다.

이는 최대 비경계 멀티형 파티션 깊이를 재사용할 수 있게 한다.

상기 장치의 추가적인 구현에서, 상기 합은 상기 이미지 경계의 방향의 크기와 상기 경계 CTU의 경계 파티션 블록의 이미지 경계에 수직인 상기 방향의 크기의 비율의 함수를 더 포함하고, 상기 경계 파티션 블록은 상기 적응적 경계 멀티형 파티션 깊이의 블록이다.

이는 멀티형 경계 분할의 최대 깊이를 더 증가시켜 분할 유연성을 향상시킨다.

예를 들어, 상기 함수는 이진 로그(binary logarithm)이다.

이는 실용적인 구현을 제공하므로 유익하다.

다른 일부 실시예에서, 상기 최대 경계 멀티형 파티션 깊이는 미리 정의되어 있다.

이는 계층적 분할을 결정할 때 계산 비용을 줄이는 데 도움이 된다.

예를 들어, 상기 경계 CTU의 계층적인 분할은 쿼드 트리 분할을 더 포함한다.

이는 다양한 모드에서 유연하게 선택할 수 있게 한다.

상기 장치의 추가적인 구현에서, 상기 최대 경계 멀티형 파티션 깊이는 상기 최대 비경계 멀티형 파티션 깊이보다 크거나 같다.

이는 가능한 최대 경계 분할 깊이를 향상시킨다.

비디오 시퀀스의 이미지를 인코딩하기 위한 장치가 추가로 제공된다. 상기 장치는 전술한 예와 실시예 중 어느 것의 이미지를 코딩 유닛으로 분할하기 위한 장치를 포함한다. 상기 장치는 상기 코딩 유닛을 인코딩하도록 구성된 이미지 코딩 유닛; 및 상기 코딩 트리 유닛이 어떻게 분할되는지를 나타내는 파티셔닝 정보와 상기 인코딩된 코딩 유닛을 포함하는 비트스트림을 생성하도록 구성된 비트스트림 형성 유닛을 더 포함한다.

추가적인 구현에서, 상기 이미지를 인코딩하기 위한 장치는 이미지를 분할하기 위한 장치를 포함한다. 여기서, 상기 최대 경계 멀티형 파티션 깊이는 미리 정의되어 있고, 상기 비트스트림은 상기 최대 경계 멀티형 파티셔닝 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함한다.

또한, 비디오 시퀀스의 이미지를 디코딩하기 위한 장치가 제공된다. 상기 비디오 시퀀스의 이미지를 디코딩하기 위한 장치는 인코딩된 코딩 유닛을 포함하는 비트스트림을 파싱하기 위한 비트스트림 파서, 전술한 예와 실시예 중 어느 것에 따른 이미지의 분할을 결정하기 위한 장치, 및 상기 이미지의 상기 결정된 분할에 기초하여 상기 인코딩된 코딩 유닛을 디코딩하기 위한 이미지 디코딩 유닛을 포함한다.

추가적인 구현에서, 상기 이미지를 디코딩하기 위한 장치는 이미지의 분할을 결정하기 위한 장치를 포함한다. 여기서, 상기 최대 경계 멀티형 파티션 깊이는 미리 정의되어 있고, 상기 비트스트림은 상기 최대 경계 멀티형 파티셔닝 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함하며, 상기 이미지의 분할을 결정하기 위한 장치는, 상기 시퀀스 파라미터 세트로부터 제2 최대 멀티형 파티셔닝 깊이를 획득하도록 추가적으로 구성된다.

다른 일반적인 양태에 따르면, 이미지를 코딩 유닛으로 분할하기 위한 방법이 제공된다. 상기 방법은, 상기 이미지를 코딩 트리 유닛(CTU)로 세분화하는 단계 - 상기 CTU는 수평 및 수직 방향의 사전 설정된 크기를 가진 비경계 CTU와 수평 또는 수직 이미지 경계로 구분된 상기 이미지 내의 부분을 가진 경계 CTU를 포함하고 있음 -; 및 상기 비경계 CTU와 상기 경계 CTU를 각각의 코딩 유닛으로 계층적으로 분할하는 단계를 포함한다. 여기서, 상기 부분은 상기 이미지 경계에 수직인 방향의 사전 설정된 크기보다 작은 크기를 가지고 있고, 상기 비경계 CTU의 계층적 분할은 최대 비경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함하며, 상기 멀티형 분할은, 분할 방향이 상기 수직 방향이거나 또는 상기 수평 방향인 분할이고, 상기 경계 CTU의 계층적 분할은 최대 경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함한다.

상기 방법의 추가적인 구현에서, 상기 최대 경계 멀티형 파티션 깊이는 적어도 적응적 경계 멀티형 파티션 깊이와 미리 정의된 멀티형 파티션 깊이의 합이고, 상기 적응적 경계 멀티형 파티션 깊이는, 분할 방향이 상기 이미지 경계의 방향인 멀티형 분할의 깊이이다.

상기 방법의 추가적인 구현에서, 상기 합은 상기 이미지 경계의 방향의 크기와 상기 경계 CTU의 경계 파티션 블록의 이미지 경계에 수직인 상기 방향의 크기의 비율의 함수를 더 포함하고, 상기 경계 파티션 블록은 상기 적응적 경계 멀티형 파티션 깊이의 블록이다.

예를 들어, 상기 함수는 이진 로그이다.

다른 실시예에서, 상기 최대 경계 멀티형 파티션 깊이는 미리 정의되어 있다.

추가적인 구현에서, 상기 경계 CTU의 계층적인 분할은 쿼드 트리 분할을 더 포함한다.

예를 들면, 상기 최대 경계 멀티형 파티션 깊이는 상기 최대 비경계 멀티형 파티션 깊이보다 크거나 같다.

비디오 시퀀스의 이미지를 인코딩하기 위한 방법이 추가로 제공된다. 상기 방법은 전술한 실시예 중 어는 것에 따라 이미지를 코딩 유닛으로 분할하는 단계, 및 상기 코딩 트리 유닛이 어떻게 분할되는지를 나타내는 파티셔닝 정보와 상기 인코딩된 코딩 유닛을 포함하는 비트스트림을 생성하는 비트스트림 형성 단계를 포함한다.

추가적인 구현에서, 상기 이미지를 인코딩하기 위한 방법은 상기 이미지를 분할하기 위한 방법을 포함한다. 여기서, 상기 최대 경계 멀티형 파티션 깊이는 미리 정의되어 있고, 상기 비트스트림은 상기 최대 경계 멀티형 파티셔닝 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함한다.

비디오 시퀀스의 이미지를 디코딩하기 위한 방법이 추가로 제공된다. 상기 방법은 상기 인코딩된 코딩 유닛을 포함하는 비트스트림을 파싱하는 단계; 전술한 실시예 중 어느 것에 따라 이미지의 분할을 결정하는 단계; 및 상기 이미지의 결정된 분할에 기초하여 상기 인코딩된 코딩 유닛을 디코딩하는 이미지 디코딩 단계를 포함한다.

추가적인 구현에서, 상기 이미지를 디코딩하기 위한 방법은 상기 이미지의 분할을 결정하기 위한 방법을 포함한다. 여기서, 상기 최대 경계 멀티형 파티션 깊이는 미리 정의되어 있고, 상기 비트스트림은 상기 최대 경계 멀티형 파티셔닝 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함하며, 상기 이미지의 분할을 결정하기 위한 방법은 상기 시퀀스 파라미터 세트로부터 상기 제2 최대 멀티형 파티셔닝 깊이를 획득하는 단계를 더 포함한다.

또 다른 양태로서, 본 개시는 컴퓨터 판독가능 매체를 제공한다. 상기 컴퓨터 판독가능 매체는 명령을 저장하고, 상기 명령은 처리 회로에 의해 실행될 때 상기 처리 회로로 하여금, 전술한 실시예 중 어느 것에 따른 이미지를 코딩 유닛으로 분할하기 위한 방법, 상기 비디오 시퀀스의 이미지를 인코딩하기 위한 방법, 또는 상기 비디오 시퀀스의 이미지를 디코딩하기 위한 방법을 실행하게 한다.

첨부 도면과 아래의 설명에서는 하나 이상의 실시예의 세부사항이 제시된다. 다른 특징, 목적, 및 장점은 이러한 설명, 도면, 및 청구 범위로부터 명백해질 것이다.

이하, 첨부 도면을 참조하여 본 발명의 실시예에 대해 더 상세하게 설명한다.
도 1은 본 발명의 실시예를 구현하도록 구성된 비디오 인코더의 예시적인 구조를 나타낸 블록도이다.
도 2는 본 발명의 실시예를 구현하도록 구성된 비디오 디코더의 예시적인 구조를 나타낸 블록도이다.
도 3은 HEVC에 의해 사용되는 쿼드 트리 분할의 예를 나타낸 개략도이다.
도 4는 코딩 유닛을 분할하는 몇 개의 모드를 나타낸 도면이다.
도 5는 쿼드 트리/이진 트리 분할의 예를 나타낸 개략도이다.
도 6은 경계 부분의 강제 쿼드 트리 분할을 예시하는 개략도이다.
도 7은 경계 부분의 이진 트리 분할을 예시하는 개략도이다.
도 8은 이미지를 코딩 유닛으로 분할하기 위한 장치의 블록도이다.
도 9는 경계 부분 분할을 예시하는 개략도이다.
도 10은 이진 트리 분할을 이용하는 경계 분할의 예를 나타낸 도면이다.
도 11은 이진 트리 분할을 이용하는 경계 분할의 추가적인 예를 나타낸 도면이다.
도 12는 쿼드 트리 분할과 이진 트리 분할을 이용하는 경계 분할을 비교한 것을 나타낸 도면이다.
도 13은 최대 멀티형 트리 깊이 확장의 구현을 나타낸 흐름도이다.
도 14는 본 발명의 실시예를 구현하도록 구성된 비디오 코딩 시스템의 예를 나타낸 블록도이다.
도 15는 비디오 코딩 장치의 개략도이다.

본 발명은 추가적인 처리를 위해 이미지를 더 작은 유닛으로 분할(즉, 파티셔닝)하는 것에 관한 것이다. 이러한 분할은 정지 이미지 또는 비디오 이미지 코딩 및 디코딩에 유리하게 사용될 수 있다. 이하, 본 개시에 따른 분할을 구현할 수 있는 예시적인 비디오 코더와 디코더에 대해 설명한다.

도 1은 프레임의 입력된 블록 또는 비디오 스트림의 픽처(picture)를 수신하기 위한 입력, 및 인코딩된 비디오 비트스트림을 제공하기 위한 출력을 포함하는 인코더(100)를 도시하고 있다. 본 명세서의 "프레임"이라는 용어는 픽처의 동의어로 사용된다. 하지만, 본 발명이 인터레이스가 적용되는 경우에도 적용 가능하다는 것을 유의해야 한다. 일반적으로, 픽처가 m×n개의 픽셀을 포함한다. 이러한 픽셀은 이미지 샘플에 대응하며 각각 하나 이상의 색상 성분을 포함할 수 있다. 단순화를 위해, 다음의 설명은 휘도의 샘플을 의미하는 픽셀을 지칭한다. 하지만, 본 개시의 분할 접근법이 RGB 등과 같은 색 공간의 색차 또는 성분을 포함하는 어떠한 색상 성분에도 적용될 수 있다는 것을 유의해야 한다. 한편, 단 하나의 성분에 대해서만 분할을 수행하고, 결정된 분할을 더 많은(또는 모든) 나머지 성분에 적용하는 것이 유리할 수 있다.

인코더(100)는 분할(partitioning), 예측, 변환, 양자화, 및 엔트로피 코딩을 비디오 스트림에 적용하도록 구성된다.

분할 유닛(110)에서, 입력된 비디오 프레임은 코딩 전에 추가로 분할된다. 코딩될 블록의 크기가 반드시 같지는 않다. 하나의 픽처가 서로 다른 크기의 블록을 포함할 수 있고, 비디오 시퀀스의 서로 다른 픽처의 블록 래스터(block raster)도 서로 다를 수 있다. 특히, 각각의 비디오 이미지(픽처)가 처음에 동일한 고정 크기의 CTU로 세분화된다. CTU 크기가 예를 들어 표준에 고정되고 미리 정의되어 있을 수 있다. HEVC에서, 64×64의 크기가 사용된다. 하지만, 본 개시는 표준화된 크기와 고정된 크기에 제한되지 않는다. 인코더에 설정될 수 있고 비트스트림 내의 시그널링 파라미터로서 제공될 수 있는 CTU 크기를 제공하는 것이 유리할 수 있다. 예를 들어, 서로 다른 CTU 크기는 서로 다른 각각의 픽처 크기 및/또는 콘텐츠 유형에 대해 유리할 수 있다.

CTU 크기는 어떠한 시그널링 레벨에서도 시그널링될 수 있다. 예를 들어, CTU 크기는 전체 비디오 시퀀스 또는 그 일부(즉, 복수의 픽처)에 대해 공통이거나 또는 픽처마다 개별적일 수 있다. 따라서, CTU 크기는 예를 들어 현재 코덱(H.264/AVC, H.265/HEVC)에서 알려져 있는 픽처 파라미터 세트(Picture Parameter Set, PPS) 또는 시퀀스 파라미터 세트(Sequence Parameter Set, SPS) 또는 비디오 파라미터 세트(Video Parameter Set, VPS), 또는 유사한 파라미터 세트 내에서 시그널링될 수 있다. 대안적으로, CTU 크기는 슬라이스 헤더에서 또는 다른 레벨에서 지정될 수 있다. CTU 크기는 64×64와 다른 값을 가질 수 있다. 예를 들어, CTU 크기는 128×128 샘플 크기일 수 있다. 일반적으로, 이진 트리 또는 쿼드트리(quad-tree)에 의한 계층 분할을 수행하기 위해, 2의 거듭 제곱인 CTU 크기, 즉 n이 2보다 큰 정수인 2ⁿ 형식으로 제공하는 것이 유리할 수 있다.

도 3에는 "V.Sze et al (Ed.),High Efficiency Video Coding (HEVC): Algorithms and Architectures, Springer, 2014"로부터의 픽처를 CTU로 분할하고 CTU를 CU로 분할하는 것이 도시되어 있다. 분할은 다양한 로컬 특성에 적응하기 위해 쿼드트리 구조를 따른다. 도 3의 좌측에는 우측의 쿼드트리 구조에 따라 계층적으로 분할된 CTU가 도시되어 있다. 특히, 코딩 트리는 구문을 정의하고, 구문은 CTU를 CU로 세분화하는 것을 지정한다. CTU와 마찬가지로, CU가 샘플의 정사각형 블록과 이러한 샘플 블록과 연관된 구문으로 구성된다. 따라서, 계층 구조 깊이 1의 4개의 CU(쿼드트리)로 세분화될 수 있지만 그렇게 세분화될 필요는 없는 CTU(계층 구조 깊이 0)에서 시작하여, 파티셔닝이 계층적으로 수행된다. 도 3에서, CTU가 제1 계층 깊이(레벨)의 CU 8과 CU 16으로 분할되고, CU 8과 CU 16은 더 분할되지 않고 따라서 2개의 추가적인 CU뿐만 아니라 쿼드트리의 리프(leaf)를 형성하며, 2개의 추가적인 CU는 계층 깊이 2의 CU(깊이-2 CU)로 추가로 분할된다. 특히, 좌측 상단의 깊이-1 CU는 쿼드트리 리프를 형성하는 깊이-2 CU 1, CU 2, CU 7과 또 다른 CU로 더 세분화되고, 또 다른 CU는 모두 리프인 깊이-3 CU 3, CU 4, CU 5, 및 CU 6으로 더 분할된다. 유사하게, 좌측 하단의 깊이-1 CU도 쿼드트리의 리프와 나머지 CU인 깊이-2 CU 13, CU 14, 및 CU 15로 더 분할되고, 나머지 CU는 모두 리프이고 따라서 더 분할되지 않는 레벨-3 CU 9, CU 10, CU 11, 및 CU 12로 더 분할된다.

아래의 표 1은 HEVC에서의 쿼드트리 분할을 위한 예시적인 구문을 나타낸다.

(표 1) CTU 분할 플래그를 위한 구문

특히, CTU 레벨에서, split_cu_flag이라는 플래그가 비트스트림에 포함되고, 완전한 CTU가 CU를 형성하는지 여부 또는 완전한 CTU가 정사각형 샘플 블록에 대응하는 4개의 동일한 크기의 블록으로 분할되는지 여부를 나타낸다. CTU가 분할되면, 결과 블록 각각에 대해, 또 다른 split_cu_flag가 전송되고, 이 블록이 CU를 나타내는지 또는 이 블록이 동일한 크기의 4개의 블록으로 더 분할되는지 여부를 지정한다. 이 계층적 세분화는 결과 블록이 더 이상 세분화되지 않을 때까지 계속된다. CU의 최소 크기가 시퀀스 매개 변수 세트로 시그널링되고, 8×8개의 루마 샘플에서 CTU 크기까지의 범위를 포함할 수 있다. 계층적 세분화 과정에서 최소 CU 크기에 도달하면, 대응하는 블록에 대해 분할 플래그가 전송되지 않고, 대신에 이러한 블록이 더 분할되지 않는다고 가정한다. 전형적인 HEVC 인코더 설정에서, 8×8개의 샘플 ~ 64×64개의 샘플의 범위의 CU가 사용될 수 있도록, 지원되는 CU 크기의 최대 범위가 활용된다. CTU 내부의 CU는 깊이 우선 순서로 코딩된다. 이 코딩 순서를 z-scan이라고도 한다. 대응하는 샘플이 인트라 예측(intra prediction)에 사용될 수 있고 또한 연관된 코딩 파라미터가 현재 CU의 코딩 파라미터를 예측하는 데 사용될 수 있도록, 각각의 CU에 대해, 슬라이스의 맨위 또는 좌측 경계에 위치하는 샘플을 제외하고, CU 위쪽과 CU 왼쪽의 모든 샘플이 이미 코딩되어 있다는 것을 보장한다.

다시 말해, split_cu_flag[x0][y0]은 코딩 유닛이 수평 및 수직 크기의 1/2인 코딩 유닛으로 분할되는지 여부를 지정한다. 배열 인덱스(x0, y0)은 픽처의 왼쪽 상단의 루마 샘플에 대한 고려된 코딩 블록의 왼쪽 상단의 루마 샘플의 위치(x0, y0)를 지정한다. split_cu_flag[x0][y0]이 없으면, 디코더에는 다음이 적용된다.

og2CbSize(코딩 블록 크기를 지정하는 파라미터)가 MinCbLog2SizeY(구성 가능한 최소 코딩 유닛 크기를 지정하는 파라미터)보다 크면, split_cu_flag[x0][y0]의 값이 1이라고 가정한다.

그렇지 않으면(log2CbSize가 MinCbLog2SizeY와 같으면), split_cu_flag[x0][y0]의 값이 0이라고 가정한다.

배열(CtDepth[x][y])는 위치(x,y)를 포함하는 루마 코딩 블록에 대한 코딩 트리 깊이를 지정한다. split_cu_flag[x0][y0]이 0이면, x = x0…x0 + nCbS - 1과 y = y0..y0 + nCbS - 1에 대해 CtDepth[x][y]가 cqtDepth이라고 가정한다.

다용도 비디오 코딩(versatile video coding, VVC)에서, 쿼드트리(quad tree, QT) 세그멘테이션 및 멀티형(이진/삼항(ternary)/비대칭 이진 유형) 트리(BT/TT/ABT) 분할 구조를 포함하는 세그멘테이션 구조가 복수의 파티션 단위 유형의 개념을 대체한다. 즉, 새로운 세그멘테이션 구조는 최대 변환 길이에 비해 너무 큰 크기를 가진 CU에 필요한 경우를 제외하고 코딩 유닛(coding unit, CU) 개념, 예측 유닛(prediction unit, PU) 개념, 및 변환 유닛(TU) 개념의 분리를 제거하고, CU 파티션 모양([JVET-J1002])에 대해 더 많은 유연성을 지원한다. 도 4는 현재 VTM(VVC Test Model)에서 사용되는 파티션 모드를 나타내고, 도 4의 파트 (a)는 더 이상 분할이 적용되지 않는(분할되지 않는) CTU 또는 CU를 나타낸다. 파트 (b)는 CTU 또는 CU가 수직 및 수평 방향으로 모두 분할되는 사항 트리(quaternary tree)(일반적으로 "쿼드트리"라고도 함) 분할 모드를 나타낸다. 파트 (c)와 파트 (d)는 각각 수직 및 수평 방향의 이진 트리 분할 모드를 나타낸다. 또한, 파트 (e)와 파트 (f)는 수직 및 수평 방향의 삼항 트리 분할을 나타낸다. 삼항 트리 분할에서, 1/4 크기의 2개의 블록와 1/2 크기의 하나의 블록이 있음을 알 수 있다.

CTU의 계층적 분할과 관련된 다음의 파라미터는 BT/TT/QT 코딩 트리 체계에 대한 시퀀스 파라미터 세트(sequence parameter set, SPS)의 구문 요소에 의해 정의되고 지정된다.

- CTU 크기: 사항 트리의 루트 노드 크기

- MinQTSize: 최소 허용된 사항 트리 리프 노드 크기

- MaxBTT크기: 최대 허용된 이진 및 삼항 트리 루트 노드 크기

- MaxBTTDepth: 최대 허용된 이진 및 삼항 트리 깊이

- MinBTT크기: 최소 허용된 이진 및 삼항 트리 리프 노드 크기

- MinCU크기: 최소 허용된 CU 크기

도 5는 혼합된 쿼드트리 및 이진 트리 분할을 도시하고 있다. 쿼드트리 분할은 실선으로 표시되고, 이진 트리 분할은 점선으로 표시된다. 이진 트리에 의해 추가로 분할될 코딩 유닛을 나타내는 노드 상의 레이블 1 또는 레이블 0은 이진 분할이 각각 수직으로 또는 수평으로 적용되는지 여부를 나타낸다.

루마 샘플에서의 비디오 픽처의 수평 및 수직 크기가 시퀀스 파라미터 세트로 전송되는, 루마 샘플에서의 최소 CU 크기의 정수배이어야 하며 CTU 크기의 정수배일 필요는 없다. 비디오 픽처의 수평 또는 수직 크기가 CTU 크기의 정수배를 나타내지 않으면, 결과 블록의 경계가 픽처 경계와 일치할 때까지 이러한 경계의 CTU가 분할될 것이라고 가정한다. 이 강제 분할의 경우, 분할 플래그가 전송되지 않지만 결과 블록이 전술한 쿼드트리 구문을 이용하여 더 분할될 수 있다. 픽처 영역 외부에 있는 CU는 코딩되지 않는다.

이 분할은 도 6에 도시되어 있으며, 도 6은 HD 시퀀스(1920×1080) 하단 경계 CTU(128×128) 강제 QT 파티션의 예시이다. 특히, 도 6은 56개의 선(128개의 샘플 길이)이 슬라이스 또는 이미지의 경계 부분인 프레임 경계를 나타낸다. 예를 들어, 프레임 경계가 하단 픽처 경계이면, 프레임 경계 아래의 CTU 부분이 다른 슬라이스에 속하거나 또는 전혀 존재하지 않을 수 있다. 볼 수 있듯이, 강제 쿼드트리 분할이 128×56개의 샘플에 적용된다.

크로마 CTB(chroma CTB)의 세분화는 HEVC에서 각각의 루마 CTB의 세분화와 항상 정렬되어 있다. 본 개시가 동일한 방식으로 크로마 성분을 처리할 수 있지만 이에 제한되지 않는다는 것을 유의해야 한다. 다른 색상 구성 요소의 독립적인 분할도 있을 수 있다.

다시 도 1을 참조하면, 분할 유닛(110)에서 이미지 분할을 수행한 후, 변환 유닛(130), 양자화 유닛(140), 및 엔트로피 인코딩 유닛(150)에 의해 각각 변환, 양자화, 및 엔트로피 코딩이 수행되어, 인코딩된 비디오 비트 스트림의 출력이 생성된다.

비디오 스트림은 복수의 프레임을 포함할 수 있다. 예를 들어, 비디오 스트림의 제1 프레임의 블록이 인트라 예측 유닛(190)에 의해 인트라 코딩(intra code)된다. 인트라 프레임이 다른 프레임과 독립적으로 디코딩될 수 있도록, 인트라 프레임은 그 프레임으로부터의 정보만을 이용하여 코딩된다. 따라서, 인트라 프레임이 예를 들어 랜덤 액세스에 대한 비트스트림 내의 진입점을 제공할 수 있다. 비디오 스트림의 다른 프레임의 블록은 인터 예측 유닛(195)에 의해 인터 코딩(inter-code)될 수 있다. 인터 코딩된 프레임의 각각의 블록은 다른 프레임(참조 프레임), 예를 들어 이전에 코딩된 프레임 내의 블록으로부터 예측된다. 모드 선택 유닛(180)은 프레임의 블록이 인트라 예측되는지 또는 인터 예측되는지 여부, 즉 프레임의 블록이 인트라 예측 유닛(190) 또는 인터 예측 유닛(195)에 의해 처리될 것인지를 선택하도록 구성된다. 모드 선택 유닛(180)은 인트라 또는 인터 예측의 파라미터도 제어한다. 이미지 정보의 재생(refresh)이 가능하도록, 인터 코딩된 프레임이 인터 코딩된 블록뿐만 아니라 하나 이상의 인트라 코딩된 블록을 포함할 수 있다. 그에 비해, 인트라 프레임은 인트라 코딩된 블록만을 포함하고 인터 코딩된 블록을 포함하지 않는다. 디코딩을 위한 진입점, 즉 디코더가 이전 프레임으로부터의 정보를 사용하지 않고 디코딩을 시작할 수 있는 지점을 제공하기 위해, 인트라 프레임이 비디오 시퀀스에(예를 들어, 정기적으로, 즉 특정 개수의 인터 프레임 이후에 매번) 삽입될 수 있다.

인트라 예측 유닛(190)은 블록 예측 유닛이다. 공간적 예측이나 시간적 예측을 수행하기 위해, 코딩된 블록은 추가적으로, 역양자화 유닛(145)과 역변환 유닛(135)에 의해 처리될 수 있다. 재구성기(reconstructor, 125)가 블록을 재구성한 후, 루프 필터링 유닛(160)이 적용되어 디코딩된 이미지의 품질을 더 개선할 수 있다. 재구성된 블록을 얻기 위해, 재구성기(125)는 디코딩된 잔차를 예측기에 추가한다. 다음, 필터링된 블록이 프레임 버퍼(170)에 저장되는 참조 프레임을 형성한다. 인코더 측의 이러한 디코딩 루프(디코더)는 디코더 측에서 재구성된 참조 픽처와 동일한 참조 프레임을 생성하는 장점을 제공한다. 따라서, 인코더 및 디코더 측은 대응하는 방식으로 동작한다. 여기서, "재구성"이라는 용어는 재구성된 블록을 얻기 위해 디코딩된 잔차 블록을 예측 블록에 추가하는 것을 말한다.

인터 예측 유닛(195)은 프레임 버퍼(170)로부터 인터 코딩될 현재 프레임 또는 픽처의 블록과 하나 이상의 참조 프레임 또는 픽처를 입력으로서 수신한다. 움직임 추정과 움직임 보상은 인터 예측 유닛(195)에 의해 수행된다. 움직임 추정은, 예를 들어 비용 함수에 기초하여 움직임 벡터와 참조 프레임을 획득하는 데 사용된다. 그 다음, 움직임 보상은, 즉 움직임 벡터가 참조 프레임의 참조 블록을 현재 프레임으로 변환하는 관점에서 현재 프레임의 현재 블록을 기술한다. 인터 예측 유닛(195)은, 예측 블록이 비용 함수를 최소화할 수 있도록 하나 이상의 참조 프레임 내의 후보 블록의 세트(즉, 후보 예측자(candidate predictor)) 중에서 현재 블록에 대한 예측 블록(즉, 예측자)을 선택한다. 즉, 비용 함수가 최소인 후보 블록이 현재 블록에 대한 예측 블록으로서 사용된다.

예를 들어, 비용 함수는 현재 블록과 후보 블록 간의 차이를 측정하는 것, 즉 후보 블록에 대한 현재 블록의 잔차를 측정하는 것일 수 있다. 예를 들어, 비용 함수는 후보 참조 픽처 내의 현재 블록의 모든 픽셀(샘플)과 후보 블록의 모든 픽셀 간의 절대 차이(sum of absolute differences, SAD)의 합일 수 있다. 하지만, 일반적으로, 평균 제곱 오차(mean square error, MSE) 또는 구조적 유사도 메트릭(structural similarity metric, SSIM)과 같은 어떠한 유사도 메트릭도 사용될 수 있다.

그러나, 비용 함수는 이러한 코딩으로 인한 이러한 인터 블록 및/또는 왜곡을 코딩하는 데 필요한 비트의 수일 수도 있다. 따라서, 레이트-왜곡 최적화 절차는 움직임 벡터 선택, 및/또는 일반적으로 블록에 대해 그리고 어느 설정으로 인터 예측이나 인트라 예측을 사용할지 여부와 같은 인코딩 파라미터를 결정하는 데 사용될 수 있다.

인트라 예측 유닛(190)는 현재 프레임의 이미 재구성된 영역으로부터 인트라 코딩될 현재 프레임 또는 픽처의 블록과 하나 이상의 참조 샘플을 입력으로서 수신한다. 인트라 예측은 현재 프레임의 참조 샘플의 함수의 관점에서 현재 프레임의 현재 블록의 픽셀을 기술한다. 인트라 예측 유닛(190)은 현재 블록에 대한 예측 블록을 출력한다. 여기서, 유리하게도 예측 블록은 코딩될 현재 블록과 예측 블록 사이의 차이를 최소화한다. 즉, 예측 블록은 잔차 블록을 최소화한다. 잔차 블록을 최소화하는 것은, 예를 들어 레이트 왜곡 최적화 절차에 기초할 수 있다. 특히, 참조 샘플의 방향성 보간(directional interpolation)으로서 예측 블록이 얻어진다. 이 방향은 레이트 왜곡 최적화 및/또는 인터 예측과 관련하여 위에서 언급한 유사도 측정을 계산하여 결정될 수 있다.

다음, 현재 블록과 예측의 차이, 즉 잔차 블록이 변환 유닛(130)에 의해 변환된다. 변환 계수가 양자화 유닛(140)에 의해 양자화되고 엔트로피 인코딩 유닛(150)에 의해 엔트로피 코딩된다. 이렇게 생성된 인코딩된 비디오 비트스트림은 인트라 코딩된 블록과 인터 코딩된 블록, 및 대응하는 시그널링(모드 지시, 움직임 벡터의 지시, 및/또는 인트라 예측 방향)을 포함한다. 변환 유닛(130)은 선형 변환, 예컨대 이산 푸리에 변환(discrete Fourier transformation, DFT) 또는 이산 코사인 변환(discrete cosine transformation, DCT)을 적용할 수 있다. 공간 주파수 영역으로의 이러한 변환은, 낮은 주파수에서 결과 계수가 일반적으로 더 높은 값을 가진다는 장점을 제공한다. 따라서, 효과적인 계수 스캐닝(지그재그 등) 및 양자화 이후, 값들의 결과 시퀀스는 통상적으로 시작 부분에 더 큰 값이 있고 0으로 끝난다. 이를 통해 더 효율적인 코딩이 가능하다. 양자화 유닛(140)은 계수 값의 해상도를 낮춤으로써 손실 압축을 수행한다. 다음, 엔트로피 코딩 유닛위(150)은 이진 코드워드를 계수 값에 할당한다. 코드 워드는 인코딩된 비트 스트림으로 불리는 비트스트림에 기입된다. 엔트로피 코더는 또한 위에 표시된 분할 플래그 구문에 따른 코딩을 포함할 수 있는 시그널링 정보(도 1에 도시되지 않음)를 코딩한다.

도 2는 비디오 디코더(200)의 예를 도시한다. 비디오 디코더(200)는 특히 참조 픽처 버퍼(270), 및 블록 예측 유닛인 인트라 예측 유닛(290)을 포함한다. 참조 픽처 버퍼(270)는 인코딩된 비디오 비트스트림으로부터 재구성되는 적어도 하나의 참조 프레임을 저장하도록 구성된다. 인트라 예측 유닛(290)은 디코딩될 블록의 추정인 예측 블록을 생성하도록 구성된다. 인트라 예측 유닛(290)은 참조 픽처 버퍼(270)로부터 획득된 참조 샘플에 기초하여 이 예측을 생성하도록 구성된다.

디코더(200)는 비디오 인코더(100)에 의해 생성되는 인코딩된 비디오 비트스트림을 디코딩하도록 구성되며, 바람직하게는 디코더(200)와 인코더(100)는 모두 인코딩/디코딩될 각각의 블록에 대해 동일한 예측을 생성한다. 참조 픽처 버퍼(270)와 인트라 예측 유닛(290)의 특징은 도 1의 참조 픽처 버퍼(170)와 인트라 예측 유닛(190)의 특징과 유사하다.

비디오 디코더(200)는 비디오 인코더(100)에도 존재하는 추가적인 유닛, 예를 들어, 비디오 코더(100)의 역양자화 유닛(140), 역변환 유닛(150), 및 루프 필터링 유닛(160)에 각각 대응하는 역양자화 유닛(240), 역변환 유닛(230), 및 루프 필터링 유닛(260)을 포함한다.

비트스트림 파싱, 엔트로피 디코딩 및 분할 유닛(250)은 수신되는 인코딩된 비디오 비트 스트림을 파싱 및 디코딩하여, 양자화된 잔차 변환 계수와 시그널링 정보를 획득하도록 구성된다. 양자화된 잔차 변환 계수는 역양자화 유닛(240)과 역변환 유닛(230)에 공급되어 잔차 블록을 생성한다. 잔차 블록은 재구성기(225) 내의 예측 블록에 추가되고, 디코딩된 비디오 블록을 얻기 위해 결과 합이 루프 필터링 유닛(260)에 공급된다. 디코딩된 비디오의 프레임은 참조 픽처 버퍼(270)에 저장되고, 인터 예측을 위한 참조 프레임의 역할을 할 수 있다. 비트스트림으로부터 파싱되어 디코딩된 시그널링 정보는 일반적으로 프레임 분할과 관련된 제어 정보를 포함할 수 있다. 이미지를 더 정확하게 파싱하고 디코딩하기 위해, 제어 정보는 이미지를 코딩 유닛으로 분할하는 것을 복원하는 데 사용되어 다음의 디코딩된 데이터를 각각의 코딩 유닛에 정확하게 할당한다

일반적으로, 도 1과 도 2의 인트라 예측 유닛(190, 290)은 이미 인코딩된 영역으로부터의 참조 샘플을 이용하여, 인코딩되거나 또는 디코딩되어야 하는 블록에 대한 예측 신호를 생성할 수 있다.

비트스트림 파싱, 엔트로피 디코딩 및 분할 유닛(250)은 인코딩된 비트스트림을 입력으로서 수신한다. 비트스트림이 먼저 파싱될 수 있다. 즉, 비트스트림으로부터 시그널링 파라미터와 잔차가 추출된다. 인코더와 디코더가 상호 운용 가능한 방식으로 작동할 수 있도록, 비트 스트림의 구문과 의미가 표준에 의해 정의될 수 있다.

HEVC 표준에서, 슬라이스/픽처 경계에 위치하는 코딩 트리 유닛(coding tree unit, CTU) 또는 코딩 유닛(coding unit, CU)은, 리프 노드의 오른쪽 하단 샘플이 슬라이스/픽처 경계 안에 위치할 때까지 강제 쿼드트리 분할(quad tree splitting, QT)을 이용하여 분할될 것이다. 강제 QT 파티션은 비트 스트림으로 시그널링될 필요가 없다. 강제 파티션의 목적은 인코더/디코더로 하여금 경계 CTU/CU를 인코딩/디코딩할 수 있게 하는 것이다. 즉, 분할 모드의 추가적인 시그널링 없이, 인코딩 측과 디코딩 측이 QT 분할이 사용된다는 것을 동의한다.

QTBT 구조가 있는 특허 [WO2016090568]와 VTM-1.0 모두에서, HEVC로부터 경계 CTU/CU 강제 분할 프로세스가 상속된다. 이는 CTU/CU가 프레임 경계에 위치한다는 것, 특히 전체 현재 CU가 슬라이스/픽처 경계 내부에 위치할 때까지 CTU/CU의 부분이 픽처/프레임(본 개시에서, 이러한 CTU/CU를 각각 "경계 CTU"와 "경계 CU"라고도 함) 외부에 있고, 레이트-왜곡(RD) 최적화 없이 쿼드트리(QT) 구조에 의해 먼저 강제 분할될 수 있도록, CTU/CU가 경계에 위치한다는 것을 의미한다. 이러한 강제 파티션은 비트스트림으로 시그널링될 필요가 없다. 추가적인 파티션은 경우에 따라 RD 최적화에 기초하여 달성될 수 있다. 도 6은 강제 QT에 의한 HD(1920×1080 픽셀) 시퀀스 하단 경계 CTU(128×128)의 하나의 강제 파티션 예를 도시하고 있다.

QT 파티션 구조만이 경계 파티션에 사용되므로, VTM에서의 멀티형 트리(BT/TT/ABT) 제한이 SPS 내의 MaxBTTDepth로부터 지시된다. 따라서, 경계 CTU의 분할(즉, 도 6에 도시된 바와 같이, 경계의 양측에 부분을 가지고 있는 CTU)에 대해, 전체 계층 깊이(TotalDepthLim)의 제한, 즉 최대 계층 깊이가 다음의 수식 (1)을 따른다.

수식 (1)에서, SPS에 지정된 바와 같이, MaxBttDepth는 허용되는 최대 이진 및 삼항 트리 깊이이다. QTDepth는 쿼드트리 분할로 인한 분할 블록의 계층 깊이이다. 즉, 쿼드트리 분할이 적용되는 계층적 분할의 각각의 분할 단계에 대해, QTDepth 값이 1만큼 증가한다. 예를 들어, 표 1의 구문 예에서 QTDepth가 파라미터(cqtDepth)에 대응할 수 있다. 그러나, QTDepth 한도가 각각의 QT 분할 단계에서 증가하더라도, 계층적 깊이가 결국 (예를 들어, SPS 파라미터(minCUSize)에 대응하는) 미리 결정된 최소 허용 CU 크기로 제한된다.

픽처 경계가 BT, TT, 또는 비대칭 이진 트리(asymmetric binary tree, ABT)를 이용하여 처리될 수 있다. 강제 방법과 적응적 방법이 모두 사용될 수 있다. BT/TT와 같은 멀티형 트리(multi-type tree, MTT)가 QT 분할이 아닌 경계 분할에 사용되면, SPS MaxBTTDepth로부터의 이진 및 삼항 트리(binary and ternary tree, BTT)의 제한을 쉽게 초과할 수 있다. 도 7은 HD 시퀀스 하단 경계 CTU에 사용되는 BT의 예이다. BT가 CTU 레벨로부터 완전히 경계 내부의 리프 노드 (코딩 유닛)까지 사용되기 시작하면, SPS로부터의 MaxBTTDepth를 초과하는 4의 깊이가 BT 분할에 사용된다(VTM-1.0, VVC 테스트 모델 버전 1.0에서, MaxBTTDepth가 3으로 설정된다).

본 발명의 목적은 경계 부분의 분할 유연성을 높이고 화면 경계 처리를 위한 관점을 제공하는 것이다. 본 개시의 접근법은 분할에 사용되는 SPS로부터 종래 기술의 MaxBTTdepth 외에 경계 분할 깊이 한도를 정의하는 것이다. 이를 위해, 수식 (1)의 MaxBttDepth가 아닌 깊이 값(예를 들어, ExtdMaxBTTDepth라고도 함)이 경계 분할을 위해 구체적으로 설정된다. ExtdMaxBTTDepth는 SPS 내에 사전 정의되어 고정되며, SPS 비트스트림으로 시그널링될 수 있거나 또는 계산될 수 있다. 따라서, 멀티형 트리(MT) 분할(BT, TT, 또는 ABT 등)이 (강제 또는 적응적) 픽처 경계 처리에 사용되면, 디코더와 인코더 모두에서 최대 MTT 깊이의 한도가 확장될 수 있다.

본 개시의 다음의 양태와 실시예에서, ExtdMaxBTTDepth를 획득하고 계산하는 가능한 방식을 설명한다.

일반적인 양태에 따르면, 도 8에 도시된 바와 같이, 이미지를 코딩 유닛으로 분할하기 위한 장치(800)(전술한 인코더 또는 디코더의 유닛(110, 250)으로 구현될 수 있음)가 제공된다. 이미지를 코딩 유닛으로 분할하기 위한 장치는 이미지를 코딩 트리 유닛(CTU)로 세분화하도록 구성된 처리 회로(810)를 포함한다. CTU는 수평 및 수직 방향의 사전 설정된 크기를 가진 비경계 CTU, 및 수평 또는 수직 이미지 경계로 구분된 이미지 내의 부분을 가진 경계 CTU를 포함한다. 이미지 내의 부분은 이미지 경계에 수직인 방향의 사전 설정된 크기보다 작은 크기를 가지고 있다. 처리 회로는 추가적으로, 비경계 CTU와 경계 CTU를 각각의 코딩 유닛으로 분할하도록 구성된다. 여기서, 비경계 CTU의 계층적 분할은 최대 비경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함하고, 멀티형 분할은 분할 방향이 수직 방향이거나 또는 수평 방향인 분할이다. 또한, 경계 CTU의 계층적 분할(820)은 최대 경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함한다.

따라서, 이미지를 코딩 유닛으로 분할하기 위한 장치(800)의 회로는 이 분할에 포함된 MTT 분할 단계에 대한 제1 분할 깊이 한도, 즉 최대 비경계 멀티형 분할 깊이를 이용하여 비경계 CTU를 코딩 유닛으로 분할하도록 구성된다. 이 회로는 추가적으로, 이 분할에 포함된 MTT 분할에 대한 제2 분할 깊이 한도, 즉 최대 경계 멀티형 분할 깊이를 이용하여 경계 CTU를 코딩 유닛으로 분할(820)하도록 구성된다. 즉, 본 개시에 따르면, 동작중인 장치(800)의 회로는 비경계 CTU와 경계 CTU에 대해 각각의 최대 MTT 분할 깊이(MTT 깊이 한도)를 사용한다.

경계 CTU의 계층적 분할(820)을 포함하는 프레임 분할(810)에 의해 획득된 CTU는 계층적으로 더 분할될 수 있다. 이 분할은, 예를 들어 도 3 내지 도 5에 예시되고 이러한 도면을 참조하여 전술한 바와 같이 어떠한 방식으로도 수행될 수 있다.

도 8은 이미지를 코딩 유닛으로 분할하기 위한 장치(800) 회로의 내부 구조를 도시한다. 이 회로는 이미지(또는 프레임)를 CTU로 각각 분할(세분화)하고, 비경계 CTU와 특히 경계 CTU를 포함하는 CTU를 분할하기 위한 기능 유닛(810, 820)을 가진 하드웨어와 소프트웨어라면 종류에 무관하다. 이러한 유닛은, 예를 들어 단일 프로세서 상에 구현될 수 있다. 하지만, 본 발명은 이러한 적용에 제한되지 않으며, 이러한 유닛은 또한 별도의 하드웨어 부품에 의해 구현될 수 있다.

본 개시에서, "경계 CTU"라는 용어는 이미지 경계에 의해 분할될 이미지의 부분(이미지 경계 내의 부분)과 이미지 내부에 위치하지 않는 부분(즉, 이미지 경계 너머에 있는 부분)으로 분리되는 코딩 트리 유닛을 나타내는 데 사용된다. 코딩될 이미지의 크기가 적어도 한 방향의 CTU 크기의 (정수)배가 아니면, 경계 CTU가 존재한다.

도 9는 하단 픽처 경계(900)와 경계 CTU를 포함하는 대응하는 경계 부분(910)(음영 처리되어 있음)의 예를 도시하고 있다. 부분(950)은 수직 및 수평으로 CTU의 정수배의 크기를 가진 이미지의 나머지 부분을 예시한다. 또한, CTU의 세로 크기가 970V로 표시되고, CTU의 가로 크기가 970H로 표시된다. 도 9에서 볼 수 있듯이, 이 예의 경계 부분이 수평 방향의 CTU 크기(970H)의 정수배이다. 하지만, 세로 방향으로, 경계 부분(910)은 세로 픽처 크기를 세로 CTU 크기(970V)로 나눈 후의 나머지 크기를 가지고 있다. 부분(920)은 가상일 뿐이며 경계 부분의 높이와 CTU 크기의 차이를 나타낸다. 현재 구현에서, 970H와 970V가 동일할 수 있도록 CTU가 정사각형이라는 것을 유의해야 한다. 그러나, 본 개시는 이에 제한되지 않으며, CTU의 세로 크기와 가로 크기가 다를 수 있다.

경계 부분을 인코딩(하고 그에 따라 디코딩)하기 위해, 도 9의 경계 부분(910)은 불완전한 CTU로, 즉 CTU(970H)의 수평 크기와 CTU 크기(970V)보다 작은 수직 크기를 가진 CTU 부분으로 분할된다. 이러한 불완전한 CTU는 본 출원의 "경계 CTU"에 대응하고, "불완전한 CTU"는 이미지 내의 CTU의 일부에 대응한다. 수평 경계 부분이 도 9에 도시되어 있지만, 수평 경계 부분 외에 또는 수평 경계 부분 대신에 수직 경계 부분도 있을 수 있다. 특히, 수평 방향도 수직 방향도 아닌 방향의 이미지 크기(즉, 이미지 폭과 높이)가 CTU 크기의 배수가 아니면, 수직 경계 CTU뿐만 아니라 수평 경계인 불완전한 CTU가 더 존재하고, 이미지 내의 CTU 부분의 수직 및 수평 크기가 완전한 CTU의 크기보다 작다.

"경계 CTU"와는 대조적으로, "비경계 CTU"라는 용어는 프레임 또는 픽처에 완전히 꼭 맞는 CTU, 즉 도 9에 도시된 예의 부분(950) 내부의 CTU를 나타내는 데 사용된다. 즉, 세로 및 가로 방향의 완전한 크기로 인코딩/디코딩될 이미지 내부에 비경계 CTU가 있다. 하지만, 비경계 CTU는 적어도 하나의 이미지 경계에 인접할 수 있거나, 또는 비경계 CTU와 임의의 이미지 경계 사이의 추가적인 CTU일 수 있다.

비경계 CTU와 경계 CTU가 코딩되거나 또는 지정되는 방법이 서로 다른 상이한 종류의 CTU를 구성하지 않는다는 것을 추가로 유의해야 한다. 비경계 CTU와 경계 CTU의 차이점은 경계(즉, 비경계 CTU와 경계 CTU를 통과하는 경계)에 있는지 여부 또는 이미지를 구분하는 경계 내부에 위치하는지 여부이다.

또한, CTU가 경계 CTU인지 여부는 예를 들어 CTU의 위치(특히, CTU 내의 적합한 픽셀 위치)와 경계의 위치(또는 샘플 단위의 수직/수평 이미지 크기)를 비교하여 결정된다. 이 코드에서, 전술한 바와 같이, CTU는 HEVC에서와 같이 미리 정의되는 고정된 크기, 예를 들어 128×128 또는 64×64를 기지고 있다. 픽처는 겹치지 않고 CTU로 분할될 것이다. 왼쪽 하단 모서리가 적합한 픽셀 위치로서 선택되는데, 이미지가 왼쪽에서 오른쪽으로 그리로 위쪽에서 아래쪽으로 처리되면(일반적으로, 어느 픽셀 위치가 가장 적합한지 여부가 처리 방향에 따라 달라질 것임), 왼쪽 하단 모서리가, 수직 및 수평 픽처 경계 각각에 대해 CTU가 경계 CTU라고 결정하는 것을 허용하기 때문이다. 인코더/디코더는 CTU의 오른쪽 하단 모서리 픽셀을 검사하고, 이미지의 수직 및 수평 크기와 비교할 것이다. 오른쪽 하단 픽셀이 픽처 경계 내부에 있으면, CTU가 비경계 CTU이고, 그렇지 않으면 경계 CTU이다. 분할 블록이 경계에 위치하는지 또는 위치하지 않는지 여부를 판정하는 이 방식이 CTU에 적용될 뿐만 아니라 파티셔닝 계층 내의 CTU 또는 일부 블록을 분할하여 생기는 CU와 어느 파티션 블록에도 사용될 수 있다.

또한, CTU가 경계 CTU인지 여부를 판정하는 다른 방법이 사용될 수 있다. 예를 들어, 전술한 바와 같이, 이미지 크기(너비/높이)를 CTU 크기로 나누면 CTU의 개수와 경계 CTU가 수직 및 수평 방향으로 있는지 여부를 판정할 수 있다. CTU는 인덱싱될 수 있고, 경계 CTU가 있으면 마지막 k개의 CTU가 하단 경계 CTU라고 결정될 수 있거나, 또는 각각의 k번째 CTU가 오른쪽 경계 CTU에 대응할 수 있다(k는 행마다 (경계 CTU를 포함하는) CTU의 개수, 즉 이미지 폭과 CTU 크기의 비율의 최고 한도이다).

도 3과 관련하여 계층적 분할의 계층 구조 깊이에 대해 위에서 설명하였다. 따라서, 파티션 깊이는 특정한 분할 레벨을 획득하기 위해 수행되는 분할 단계의 개수에 대응하고, 특정한 분할 레벨은 레벨 0(또는 계층 0)에 대응하는 분할 깊이 0을 가진 CTU에서 시작하여 코딩 유닛의 깊이까지 도달한다.

비경계 CTU의 경우, 설정, 예컨대 SPS에서의 설정을 따르는 최대 계층 깊이를 초과할 수 없다는 점에서 코딩 유닛의 계층 깊이가 제한된다. 예를 들어, 이 설정에서 쿼드트리 분할과 멀티형 분할의 각각의 분할 깊이에 대해 다른 제한이 설정될 수 있다. 예를 들어, 깊이 한도가 QT 분할 단계와 MTT 분할에 대해 개별적으로 설정될 수 있기 때문에, CTU의 파티셔닝은 서로 다른 레벨에서 또는 동일한 레벨의 서로 다른 일부 블록에서, 깊이 한도로서 QT 분할과 MTT 분할(BT, TT, 및 ABT 분할 등)을 모두 포함한다. 예를 들어, 최대 비경계 MTT 깊이는 현재 VTM의 파라미터(MaxBTTDepth)에 대응하거나, 또는 예를 들어 MaxMTTDepth와 같이 재정의되고 명명될 수 있다. 예를 들어, 최대 비경계 MTT 깊이는 BT, TT 등과 같은 모든 MTT 분할 유형에 적용된다. 따라서, 깊이 한도, 즉 CTU 분할을 위한 최대 총 깊이는 QT 분할 및 MTT(예를 들어, BTT)에 대한 각각의 깊이 한도의 합일 수 있다.

한편, 경계 CTU의 경우, 본 개시는 다음의 수식 (2)에 의해 주어진 깊이 한도를 제공한다.

수식 (2)로부터 알 수 있는 바와 같이, 본 개시가 또한 경계 파티션 깊이로서 참조하는 경계 CTU에 대한 깊이 한도가 일반적으로 QT 분할에 대한 깊이와 MTT 분할에 대한 깊이로 구성된다(이는 이진 및 삼항 분할로 제한되지 않고; ExtdMaxBttDepth라는 명칭은 단지 예로서 간주될 뿐이다). 강제 QT 분할의 경우, QT 깊이가 수식 (1)에 사용된 것과 동일한 QT 깊이일 수 있다. 하지만, 예를 들어 "

"라고 대안적으로 불릴 수 있는 최대 경계 멀티형 파티션 깊이(

, 확장된 최대 이진/삼항 트리 깊이)가 수식 (2)와 수식 (1)에서 다르다.

이미지를 코딩 유닛으로 분할하기 위한 장치(800)에 대응하여, 본 개시의 추가적인 양태로서, 이미지를 코딩 유닛으로 분할하기 위한 방법이 제공된다. 이미지를 코딩 유닛으로 분할하기 위한 방법은 이미지를 코딩 트리 유닛(CTU)로 세분화하는 단계를 포함한다. 여기서, CTU는 수평 및 수직 방향의 사전 설정된 크기를 가진 비경계 CTU와 수평 또는 수직 이미지 경계로 구분된 이미지 내의 부분을 가진 경계 CTU를 포함하고, 이미지 내의 부분은 이미지 경계에 수직인 방향의 사전 설정된 크기보다 작은 크기를 가지고 있다. 이미지를 코딩 유닛으로 분할하기 위한 방법은 비경계 CTU와 경계 CTU를 각각의 코딩 유닛으로 계층적으로 분할하는 단계를 더 포함한다. 여기서, 비경계 CTU의 계층적인 분할은은 최대 비경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함하고, 멀티형 분할은 분할 방향이 수직 방향이거나 또는 수평 방향인 분할이다. 경계 CTU의 계층적 분할은 최대 경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함한다.

이하, 이미지를 코딩 유닛으로 분할하기 위한 장치(800) 및 대응하는 방법 모두를 더 명시하는 본 개시의 몇몇 예시적인 실시예에 대해 설명할 것이다.

(실시예 1)

전술한 바와 같이, HEVC 또는 VTM-1.0이 경계 CTU을 분할할 때 강제 QT를 사용하기 때문에, 경계 파티셔닝을 위한 별도의 BTT 깊이 한도를 정의할 필요가 없다. HEVC 또는 VTM-1.0에서, 수식 (1)로부터의 파라미터(MaxBttDepth)는 경계 사례와 비경계 사례에 모두 적용된다.

하지만, CE 1이 경계 파티션으로서 BT 또는 TT를 포함하기 시작하므로, SubCE2와 관련하여 위에서 설명한 이유로 인해 수식 (1)에 따른 경계에 대한 MaxBTTDepth에 대한 제한이 적합하지 않을 수 있다. 실시예 1에서, MTT 파티션 구조가 경계 파티션에 포함될 때 경계 파티션에만 사용되는 새로운 MaxBTTDepth가 정의된다.

본 개시는 하이브리드 비디오 코딩에서 경계 파티션 MTT 깊이의 새로운 제한에 대한 정의를 제공한다. 언급한 바와 같이, 이 최대 경계 멀티형 파티션 깊이는 계산되거나 또는 미리 정의되어 있을 수 있다. 본 실시예 1은 최대 경계 멀티형 파티션 깊이를 계산하는 몇 가지 예시적인 방법을 제공한다.

실시예 1에서, 최대 경계 멀티형 분할 깊이는 적어도 적응적 경계 멀티형 분할 깊이와 미리 정의된 멀티형 분할 깊이의 합이다. 적응적 경계 멀티형 분할 깊이는 분할 방향이 이미지 경계의 방향인 멀티형 분할의 깊이이다.

따라서, 경계 블록 파티션의 유연성을 보존하기 위해, 경계 CTU에 위치하는 블록의 총 깊이 한도의 공정한 처리를 수행하는 것이 제안된다. 여기서, 공정성은 수식 (1)에 의해 정의된 바와 같이 JEM 픽처 경계 처리에서 QT 분할과 비교하여 경계 CTU의 직접적인 MTT 분할을 지시한다.

이를 위해, 수식 (2)에서 사용되는 최대 경계 MTT 파티션 깊이가 다음과 같이 재정의된다.

여기서, ExtdMaxBTTDepth로 나타낸 최대 경계 MTT 파티션 깊이는 수식 (1) 또는 수식 (2)로부터 도출될 수 있다. 따라서, 경계 CTU에 대한 총 분할 깊이 한도는 다음과 같이 재정의된다.

수식 (3)과 수식 (4)에서,

가 분할 계층, 즉 최종적으로 인코딩되고 디코딩될 결과 CU의 계층뿐만 아니라 각각의 분할 단계의 코딩 블록의 계층에 따라 변경될수 있도록, 본 실시예 1의 적응적 경계 멀티형 분할 깊이인 BTTBPDepth가 각각의 계층에서 결정된다. 예를 들어, 서로 다른 MTT 분할 모드, 예컨대 BT/TT/ ABT 경계 분할에 대해 적응적 경계 다중 유형 파티션 깊이가 동일하도록 선택될 수 있다. 이 계층에서 BT, TT, ABT, 또는 일부 다른 MTT 분할 유형이 수행되는지 여부와 무관하게, 각각의 분할 계층에서 적응적 경계 다중 유형 분할 깊이가 다시 결정된다(즉, 증가한다). QT 분할의 경우에서와 같이, 절대 깊이 한도가 미리 결정된 최소 CU 크기(예를 들어 위에서 언급된 SPS 파라미터(minCUSize)로 인한 것일 수 있다. BT 분할 단계의 경우, 이 단계로 인해 각각의 파티션 블록에 대한 깊이가 1만큼 증가한다. TT 파티셔닝의 경우, VTM-1.0에 따라, 결과적인 1/2 크기의 블록에 대해 깊이가 1만큼 증가하고, 1/4 크기의 블록에 대해 2만큼 증가함으로써, 깊이와 코딩 크기 간의 관계를 구축하고 또한 BT와 TT 분할 간의 호환성을 보장한다.

위에서 언급한 바와 같이, 적응적 멀티형 파티션 깊이는 분할 방향이 이미지 경계의 방향인 깊이이다. 즉, 대응하는 계층의 블록을 더 깊은 후속 계층의 2개, 또는 3개, 또는 그 이상의 블록으로 분할하는 분할선이, 분할될 경계 CTU를 통과하는 고려 중인 이미지 경계와 동일한 방향이라는 것, 즉 평행하다는 것을 의미한다. 하지만, 고려 중인 픽처 경계에 수직인 분할 방향을 가진 분할/분할 단계는 적응형 다중형 분할 깊이의 값에 기여하지 않는다. 특히, 픽처 경계가 수평 경계이면, 수평 분할 방향을 가진 단계만이 적응형 다중 유형 파티션 깊이에 의해 카운트된다. 그렇지 않으면, 픽처 경계가 수직 경계이면, 분할 방향이 수직인 단계만이 카운트될 것이다. 이는 도 10과 도 11에 도시된 파티셔닝 예에서 볼 수 있을 것이다.

하지만, 본 개시는 수평(예를 들어, 바닥)과 수직 경계(예를 들어, 우측 경계) 모두에 위치하는 경계 CTU, 예컨대 우측 하단 CTU의 분할 계층 내의 경계 CU와 경계 파티션 블록에도 적용 가능하다. 이 경우, 두 분할 방향의 MTT 단계가 수식 (3)의 BTTBPDepth라는 용어 또는 별도의 개별 변수에 의해 카운트될 것이다.

한편, 수식 (3)과 수식 (4)로부터 알 수 있듯이, 최대 경계 멀티형 파티션 깊이에서의 비적응적 용어(즉, 미리 정의된 멀티형 파티션 깊이)는 예를 들어 최대 비경계 멀티형 파티션 깊이와 동일할 수 있다. 그러나, 본 개시는 이에 제한되지 않는다. 예를 들어, 추가로 미리 정의된 멀티형 경계 파티션 깊이 파라미터가 정의될 필요가 있는 경우, (예를 들어, 하나 이상의 비트를 절약하기 위해) 이 파라미터를 더 작은 값으로 설정하는 것이 유리할 수 있다.

도 10은 이진 트리 분할을 사용하는 경계 분할의 제1 예, 특히 BT를 사용하는 하단 경계 분할의 예를 도시하고 있다. 이 도면의 위쪽 절반의 왼쪽에 표시된 출발점은 경계 CTU와 경계 CTU를 통과하는 하단 픽처 경계(굵은 실선)를 나타낸다. 또한, CTU의 오른쪽 상단 모서리에는 이미지 분할을 통해 얻어질 수 있는 마킹된 블록 객체가 있다. 도면의 위쪽 절반의 오른쪽에는 경계 CTU가 분할될 최종 분할(즉, 분할 패턴)을 나타낸다. 하지만, 도 10에 도시된 예뿐만 아니라 이 제1 예에서, MTT(특히 BTT) 분할 단계만이 고려된다. 수식 4에 따라, QT 분할은 MTT 분할 단계 이전의 추가적인 단계에서 수행될 수 있다. 따라서, 출발점은 반드시 CTU일 필요는 없지만, 예를 들어 QT 분할로 인해 0보다 큰 깊이의 (수직 크기와 수평 크기가 동일한) 정사각형 코딩 블록일 수도 있다.

여기서, 두꺼운 실선은 픽처 경계이고, CTU 파티션뿐만 아니라 BTT 경계는 실선(내부 경계) 또는 점선(경계 외부)으로 표시되며, (단계 3에서의) 점선은 BTT "일반" 파티션이다(예를 들어, 수직인 파티션은 분할 방향이 이미지 경계의 방향인 경계 파티션이 아니다). MaxBTTDepth(VTM에서 한도가 3임)가 수식 (1)에 따라 사용되면, 3개의 MTT 분할 단계가 있으므로 CTU의 오른쪽 상단에 있는 객체 블록이 더 분할될 수 없고, CurrentBTTDepht(3) >= MaxBTTDepth(3)이다(CurrentBTTDepth는 BTT 파티셔닝이 수행되는 단계의 개수에 대응하는 현재 단계에서 BTT 분할의 깊이이다).

실시예 1에 따르면, 단계 1에서, (BTT) 경계 분할(즉, 분할 방향이 경계 방향인 분할)의 하나의 계층이 있다. 따라서, BTTBPDepth = 1이다. 따라서, 수식 (3)으로부터, ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 1 + 3 = 4(SPS에서 MaxBTTDepth가 3으로 설정됨)이 얻어진다. 단계 1에 대한 최대 BTT 깊이 계층(최대 경계 멀티형 파티션 깊이)이 4이고, 블록이 이미 한 번 파티셔닝되었으므로, 분할된 블록은 추가적으로, 최대 경계 멀티형 파티션 깊이에 따라 단계 1에서 설정된 ExtdMaxBTTdepth에 따라 세 번 더 MTT 분할될 수 있다.

단계 2에서, 지금까지 수행된 경계 분할(boundary partitioning, BP)을 통해 얻어진 경계 분할의 2개의 층의 경계 분할이 있다(BTTBPDepth =2). 따라서, 수식 (3)으로부터, ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 2 + 3 = 5(SPS에서 MaxBTTDepth가 3으로 설정됨)이 얻어진다. 단계 2에 대한 새로운 최대 BTT 깊이 계층(최대 경계 멀티형 파티션 깊이)이 5이고, (출발점(a)로부터 계산되고) 블록이 이미 두 번 분할되었으므로, 분할된 블록은 최대 경계 멀티형 파티션 깊이에 따라 세 번 더 분할될 수 있다. 경계 분할(즉, 분할 방향이 이미지 경계 방향과 같은 방향인 수평임), BTTBPDepth, 및 그에 따라 ExtdMaxBttDepth가 단계 1에서 단계 2로 1만큼 증가했음을 알 수 있다.

단계 3에서, 추가적인 BT 분할이 수행되었다. 하지만, 이 마지막 파티셔닝의 분할 방향이 이미지 경계의 방향이 아니고, 특히 단계 3에서의 분할 방향이 이미지 경계에 수직이다. 이러한 이유로, 단계 3은 BPPBPDepth 값에 기여하지 않는다. 따라서, 여전히 2개의 BTT BP의 층이 있고, BTTBPDepth = 2이다. 다음과 같이, ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 2 + 3 = 5이다(SPS에서 MaxBTTDepth가 3으로 설정됨). 설명된 바와 같이, 적응적 멀티형 분할 깊이에서, 분할 방향이 이미지 경계 방향인 멀티형 분할인 깊이(스텝/계층의 개수)만이 기여한다. 하지만, 최대 경계 멀티형 파티션 깊이는 임의의 MTT 경계 분할에 대한 한도이다. 따라서, 단계 3에 대한 최대 깊이 층이 5(출발점에서 계산됨)로 유지되고, 블록이 이미 세 번 분할되었으므로(여기서, BP뿐만 아니라 모든 분할이 고려됨), 분할된 블록은 두 번 더 BTT 분할될 수 있다.

도 11에는 최대 MTT 파티션 깊이 계산의 제2 예가 도시되어 있다. 도면에서, 굵은 실선이 픽처 경계이고, 실선(내부) 또는 점선(외부)은 도 10에서와 동일한 방식으로 CTU 경계이거나 또는 BTT 경계 파티션이다. 경계 CTU 내부에 위치하는 마킹된 목표(즉, MTT 분할에 의해 획득될 목표 코딩 블록)가 있다. 도면의 오른쪽 상단 부분의 최종 파티션 패턴을 얻기 위해, 도면 단계 1 내지 도면 단계 4에 도시된 바와 같이 분할의 4개의 단계가 수행될 필요가 있다.

MaxBTTDepth가 수식 1에 따라 사용되고 VTM에서와 같이 3으로 제한되면, (MTT 깊이 4의) 마킹된 목표 블록이 얻어질 수 없으며 더 분할될 수 없다. 왜냐하면 CurrentBTTDepht(4) >= MaxBTTDepth(3)이기 때문이다.

도 11의 단계 1에서, BTT BP의 1개 계층이 있다(BTTBPDepth =1). 따라서, ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 1 + 3 = 4이다(SPS에서 MaxBTTDepth가 3으로 설정됨). 단계 1에 대한 최대 BTT 깊이 계층이 4이고, 블록이 이미 한 번 분할되었으므로, 분할된 블록이 세 번 더 BTT 분할될 수 있다.

도 11의 단계 2에서, BTT BP의 2개 계층이 있다(BTTBPDepth = 2). 따라서, ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 2 + 3 = 5이다. 단계 2에 대한 최대 BTT 깊이 계층이 5이고, 이 블록이 이미 한 번 파티셔닝되었으므로, 분할된 블록은 세 번 더 BTT 분할될 수 있다.

도 11의 단계 3에서, BTT BP의 3개 계층이 있다(BTTBPDepth =3). 따라서, ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 3 + 3 = 6이다. 단계 2에 대한 최대 BTT 깊이 계층이 6이고, 블록이 이미 한 번 파티셔닝되었으므로, 분할된 블록은 세 번 더 BTT 분할될 수 있다.

또한, 단계 4에서, BTT 분할의 4개 계층이 있다. ExtdMaxBTTdepth = BTTBPDepth + MaxBTTDepth = 4 + 3 = 7이다. 단계 4에 대한 최대 깊이 계층이 7(출발점(a)으로부터 계산됨)이고, 블록이 이미 네 번 분할되었으므로, 분할된 블록은 최대 세 번 더 분할될 수 있다.

최대 경계 멀티형 파티션 깊이에서, 분할 방향이 경계 방향인 BP뿐만 아니라 모든 파티션이 고려되고 제한된다. 하지만, 도 11에 도시된 예의 모든 단계에서, 분할 방향이 이미지 경계의 방향인 멀티형 분할이 수행된다. 따라서, 이러한 단계 각각에서, 적응적 경계 멀티형 파티션 깊이(이 예에서는 BTTBPDepth)의 값이 1만큼 증가한다.

분할 방향이 경계와 동일한 방향인 분할 단계의 수에 경계 멀티형 분할에 대한 깊이 제한을 적용함으로써, 본 개시는 이미지 경계의 부근에서 더 실질적으로 CTU의 나머지 부분에 가까운 코딩 유닛의 분할 패턴을 용이하게 한다. 특히, QT 분할만 사용하는 것에 비해, 경계 CTU/부분에서의 코딩 유닛의 개수가 줄어들 수 있다.

(실시예 2)

전술한 실시예 1에 따르면, (예를 들어, ExtdMaxBTTDepth로 주어진) 최대 경계 멀티형 파티션 깊이는 적어도 적응적 경계 멀티형 파티션 깊이와 미리 정의된 멀티형 파티션 깊이의 합이다. 이제, 본 실시예 2에 따르면, 이 합은 경계 CTU의 경계 파티션 블록의 이미지 경계에 수직인 방향과 이미지 경계의 방향의 크기의 비율의 함수를 더 포함한다. 여기서, 경계 파티션 블록은 적응적 경계 멀티형 파티션 깊이의 블록이다.

본 명세서에서, "파티션 블록"이라는 용어는 CTU 또는 하위 레벨의 블록/유닛의 분할로 인한 블록을 지칭한다. 따라서, 파티션 블록은 인코딩/디코딩될 계층적 분할의 최종 결과인 계층적 분할 또는 코딩 유닛의 상단에 있는 CTU로 제한되지 않고 중간 분할 단계, 예컨대 도 11의 단계 1과 단계 2 그리고 도 11의 단계 1 내지 단계 3에서 얻어진 블록도 포함한다. 또한, "경계 파티션 블록"은 경계 CTU가 경계에 위치하는 것과 동일한 방식으로 이미지 경계(블록을 통과하는 이미지 경계)에 위치하는 파티션 블록이다.

고려 중인 경계가 수평 이미지 경계이면, 위에서 언급된 크기 비율이 분할된 경계 파티션 블록의 수평 크기(너비)와 수직 크기(높이)의 비율이다. 한편, 이미지 경계가 수직이면, 이 비율은 높이를 경계 파티션 블록의 너비로 나눈 값이다.

예를 들어, 비율의 함수는 이진 로그(log₂ 비율)일 수 있다. 실시예 1에서, 전체 깊이 한도가 경계 블록에 대한 BTT 한도를 정의하는 기준으로서 간주된다. 실시예 2는 수식 1을 이용하는 MTT BP 깊이 한도 계산과 비교하여, 특히 도달 가능한 코딩 유닛의 크기를 공정성 기준(즉, QT 분할과 MTT 분할 사이의 공정성)으로 간주한다. 따라서, 최대 경계 멀티형 파티션 깊이는 다음의 수식 (5)에 따라 확장된다.

여기서, Ratio는 폭 높이 비율을 나타낸다(경계가 수평이면 폭/높이 또는 경계가 수직이면 높이/폭).

도 12에는 실시예 2에 따른 경계 분할의 예가 도시되어 있다. 그림 파트 (a)가 강제 QT를 사용하는 VTM-1.0의 경계 분할을 나타내고, 도 1의 파트 (b)가 BT를 사용하는 경계 파티션이다. 도 10과 도 11에서와 같이, 솔리드(경계의 내부). 파선은 CTU 및 (분할 방향이 경계 방향인) 경계 분할을 나타내고, 점선은 분할 방향이 경계 방향과 동일하지 않은 분할을 나타낸다. 도 12의 파트 (a)에서, VTM-1.0의 구성에서 SPS로부터의 MaxBTTDepth가 3으로 설정되기 때문에, CTU의 좌측 상단의 마킹된 블록은 경우에 따라 BT의 3개의 추가 레벨로 더 분할될 수 있고, 지금까지는 BT 분할이 수행되지 않았다. 파트 (b)에서, CTU의 왼쪽 상단의 마킹된 블록을 BT(또는 기타 MTT 유형)의 추가적인 3개의 레벨로 분할하는 것도 가능하고, 따라서 마킹된 블록의 ExtdMaxBTTDepht는 수식 (5)로부터 얻어진다.

ExtdMaxBTTDepth = log2(boundary partition block ratio(4)) + BTTBPdepth(2) + MaxBTTDepth(3) = 7

도 12의 파트 (b)에 도시된 현재 실시예 2의 경우, 최대 경계 멀티형 분할 깊이를 나타내는 ExtendedMaxBTTDepth에 따라, 마킹된 블록은 경우에 따라 3개 레벨의 BT로 더 분할된다((ExtdMaxBTTDepht (7)-CurrentBTDepht(4)) = 3).

여기서, 마킹된 블록은 분할 방향이 경계 방향인 2개의 BT 분할 단계에 의해 획득되었고, 분할 방향이 경계 분할에 수직인 2개의 BT 단계가 뒤따르며, 결과적인 현재 BT 깊이가 4라고 가정한다. 하지만, 본 개시는 MTT 분할이 BTT 분할인 것에 제한되지 않는다. 예를 들면, 4개의 파티션 블록이, 파티션 블록이 동일한 분할 방향으로 세 번 이상 분할되는 단일 단계에서 획득된 분할 모드가 추가로 사용될 수 있다(4개의 분할 블록이 획득되는 이러한 분할 모드를 때로는 SplitInto4라고 하며, 4개의 파티션 블록이 하나의 단계에서 획득되지만 SplitInto4는 QT 분할과 다르다). 도 12의 예에서, 마지막 2개의 BT 분할 단계가 하나의 SplitInto4 분할 단계로 대체되면, 결과적인 현재 MTT 깊이는 4가 아닌 3이다.

또한, MTT에서, 카운팅된 계층 구조 깊이는 결과적인 가장 작은 파티션의 결과적인 블록 크기와 관련하여 결정될 수 있다. 예를 들어, VTM-1.0의 현재 TT 구현에서, 블록이 1/4, 1/2, 및 1/4개의 서브블록/파티션 블록으로 분할된다. 제1 및 제3 파티션 블록에 대해, BT와 TT 모두에 대해 깊이가 동등하게 유효하다는 것을 확인하기 위해 VTM-1.0에서 깊이가 두 번 카운팅되어 한다(또한, 결과적인 파티션 블록 중 더 작은 파티션 블록에 대해 ABT 단계가 두 번 카운팅될 수 있다). 따라서, BT 분할과의 호환성을 보장하기 위해 단일 SplitInto4 단계도 2개의 단계로서 카운팅될 수 있다. 이와 같이, 파티션 블록/코딩 유닛의 결과적인 블록 크기는 깊이로부터 알 수 있다. 하지만, 일부 다른 가능한 방법에서, 각각의 단계는 각각의 파티션 유형이 알려져 있다는 것이 예를 들어 일부 변수로부터 보장되면 한 번 카운팅될 수 있다

수식 (5)에서, 특히 BT 파티셔닝이 적용되면(도 12에 도시된 바와 같이, 파트 (b)), 우측의 경계 파티션 블록 비율의 이진 로그(제1항)가 MTT BP 깊이(제2항)와 동일할 수 있다는 것을 유의해야 한다.

또한, 본 개시가 이진 로그인 경계 파티션 블록의 함수로 제한되지 않는다는 것을 추가로 유의해야 한다. 예를 들어, 비율 자체(아이덴티티 함수)가 사용될 수 있거나, 또는 예를 들어 이 비율이 상수 또는 일부 적응적 파라미터와 곱해질 수 있다.

(실시예 3)

전술한 실시예 1과 실시예 2에서, 최대 경계 멀티형 분할 깊이가 계산될 수 있는 방법에 대해 설명하였다. 한편, 본 실시예 3에서, 최대 경계 멀티형 분할 깊이가 미리 정의되어 있다(즉, 고정된다). 미리 결정된 값이 수식 4의 BTTBPDepth라는 용어로서 제공되거나, 또는 경계 CTU에 대한 수식 1과 같은 수식의 MaxBttDepth를 대체할 수 있다.

예를 들어, 이러한 고정된 최대 경계 멀티형 분할 깊이는 비트스트림 내의 시그널링으로부터 획득될 수 있다. 예를 들어, 이러한 고정된 최대 경계 멀티형 분할 깊이는 HEVC의 PPS, SPS, VPS와 같은 하나 이상의 비디오 프레임에 대해 공통인 제어 파라미터의 세트로 시그널링될 수 있다. 이러한 고정된 최대 경계 멀티형 분할 깊이는 전체 비디오 시퀀스마다 한 번 시그널링될 수도 있다. 이 시그널링은 차등 코딩(differential coding), 예측 코딩, 엔트로피 코딩, 또는 비트 스트림으로의 어떤 다른 임베딩과 같은 파라미터의 추가 코딩을 포함할 수 있다.

하지만, 전술한 바와 같이, 실시예 1 내지 실시예 3을 포함하는 본 발명은 최대 경계 멀티형 파티션 깊이가 고정되고 비트 스트림으로 시그널링되는 것에 제한되지 않는다. 최대 경계 멀티형 파티션 깊이는 비트스트림(예를 들어, SPS 내의 MaxBTTDepth)으로 전달되는 하나 이상의 파라미터 및/또는 위에서 언급된 BTTBPDepth 또는 QTDepth와 같은 내부 변수에 기초하여 도출될 수도 있다. 하지만, 도출이 표준의 미리 정의된 관계에 기초하거나 또는 시그널링될 수 있다.

(수식 1 내지 수식 5를 포함하는) 일부 예의 설명이 BTT 분할을 지칭하고 이 변수가 그에 따라 명명되지만(예컨대 BTTBPDepth; MaxBTTDepth), 본 개시는 비대칭 이진 분할(asymmetric binary partitioning, ABT)과 같은 다른 유형의 MTT 분할(분할 블록이 하나의 분할 단계에서 1/4 및 3/4와 같은 다른 크기를 가진 2개 이상의 파티션 블록으로 분할됨), 또는 도 12의 파트 (b)와 관련하여 언급된 SplitInto4Mode에도 적용 가능하다. 따라서, 변수는 다르게, 예를 들어 BTTBPDepth. MaxBTTDepth 등으로 명명될 수 있다. 따라서, 사용되는 특정 MTT 분할 모드에 관계없이, 본 발명은 QT 분할 외에 대안적인 멀티형 분할 모드를 사용하여 픽처 경계 처리에 유연성을 제공하는 것이 용이하다.

하지만, 일부 실시예에서, MTT 분할 외에, (비경계 CTU의 계층적인 분할뿐만 아니라) 경계 CTU의 계층적인 분할이 QT 분할을 더 포함할 수 있다. 이는 최대 경계 멀티형 파티션 깊이(괄호 안의 용어)와 QT 파티션 깊이(내부 변수 QTDepth)의 합으로 총 최대 경계 파티션 깊이를 정의하는 수식 (4)로부터 알 수 있을 것이다. 예를 들어, 이미 VTM-1.0의 경우에서와 같이, 사항 분할(quaternary splitting)은 MTT 분할 전에 수행될 수 있다. 즉, QT 분할 단계가 수행되고, 그런 다음 MTT 분할 단계가 수행된다. 그러나, 본 발명은 이에 한정되지 않고 MTT 분할 이후 QT 분할이 수행되는 구성에도 적용 가능하다. 따라서, 언급하였듯이, 도 10과 도 11의 출발점은 CTU일 필요는 없지만 하나 이상의 이전 분할 단계에서 얻어진 파티션 블록일 수도 있다.

또한, 본 개시에 따르면, 최대 경계 멀티형 파티션 깊이는 최대 비경계 멀티형 파티션 깊이보다 크거나 같을 수 있다. 예를 들어, 경계 CTU에서 분할 방향이 경계 방향인 멀티형 분할이 수행되지 않으면, 최대 경계 멀티형 파티션 깊이는 최대 비경계 멀티형 파티션 깊이와 동일할 수 있다. 이 경우, 내부 변수 BTTBPDepth(또는 MTTBPDepth)가 증가하는 분할 단계가 없다. 여전히, 이미지를 코딩 유닛으로 분할하기 위한 장치는 전술한 바와 같이 각각 다른 방식으로 비경계 멀티형 파티션 깊이와 최대 경계 멀티형 파티션 깊이의 결정을 수행한다.

하지만, 최대 경계 멀티형 파티션 깊이가 미리 결정되는 실시예 3에서, 경계 CTU에서 MTT 분할을 위한 더 큰 유연성을 허용하기 위해, 미리 결정된 값이 최대 비경계 멀티형 파티션 깊이보다 커야 한다.

도 13에는 본 개시의 최대 BT/TT(또는 일반적으로 MTT) 깊이 확장의 흐름도가 도시되어 있다. 조건부 "경계 CTU 안(In boundary CTU)"는 현재 CTU/CU가 경계에 위치한 CTU의 내부에 있는지 여부의 조건을 나타낸다. 조건이 거짓(N)이면, SPS로부터의 일반 MaxBTTDepth가 비경계 멀티형 파티션 깊이로서 사용되어 가능한 최대 BT/TT(또는 다른 MTT) 깊이를 제한한다. 그렇지 않으면, MaxBttdepth는 본 개시의 실시예 중 하나에 따라 확장되고 결정될 것이다.

언급한 바와 같이, 이미지를 분할하기 위한 장치(800)는 도 1과 도 2에 도시된 바와 같이 비디오 인코딩 장치(100) 또는 디코딩 장치(200)에 내장될 수 있다. 따라서, 본 발명은 비디오 시퀀스의 이미지를 인코딩하는 장치, 즉 인코딩 장치를 추가로 제공한다. 인코딩 장치(100)는 본 개시에서 설명된 실시예 중 어느 것에 따른 이미지를 분할하기 위한 장치(800), 코딩 유닛을 인코딩할 이미지 코딩 유닛, 및 코딩 트리 유닛이 어떻게 분할되는지를 나타내는 분할 정보와 인코딩된 코딩 단위를 포함하는 비트스트림을 생성하도록 구성된 비트스트림 형성 유닛을 포함한다.

특히, 파티션 정보는 각각의 CTU 또는 중간 단계의 분할 블록에 대해, QT 및 여러 개의 MTT 분할 모드 중에서 어느 분할 유형 모드가 적용되는지를 나타내는 정보를 포함할 수 있다. 예를 들어, 파티션 블록 또는 CTU의 각각의 분할에 대해, 분할 모드를 나타내는 파라미터가 비트 스트림에 포함될 수 있다. 대안적으로, 특정 분할 모드가 강제로 사용될 수 있다.

경계 CTU와 비경계 CTU에 대한 분할 모드가 다를 수 있다는 것을 유의해야 한다. 예를 들어, 위에서 예시된 바와 같이, 분할 모드는 경계 CTU와 비경계 CTU 모두에 대해 CTU 기반(및/또는 파티션 블록 기반)으로 시그널링될 수 있다. 대안적으로, 특정 경계(수직 또는 수평)에 있는 모든 CTU에 대한 분할 모드는 동일할 수 있고, 하나 이상의 비디오 픽처와 관련된 시그널링 내에서 설정될 수 있다.

하지만, 경계 CTU의 분할 모드는 비경계 CTU의 분할 모드와 다른 방식으로 결정될 수 있다. 예를 들어, 경계 CTU(및 파티션 블록)에 대해, 미리 결정된 분할 모드가 강요될 수 있다. 즉, 표준이 예를 들어 경계 및/또는 크기 및/또는 인접 CTU의 분할 모드 내에서 이들의 위치에 기초하여, 고정된 분할 모드 또는 경계 CTU에 대한 분할 모드를 결정하기 위한 알고리즘을 정의할 수 있다.

따라서, 본 개시는 비디오 시퀀스의 이미지를 인코딩하기 위한 방법을 더 제공한다. 비디오 시퀀스의 이미지를 인코딩하기 위한 방법은 본 개시에서 설명된 실시예 중 어느 것에 따른 이미지를 분할하는 방법의 단계, 코딩 유닛을 인코딩하는 이미지 코딩 단계, 및 코딩 트리 유닛이 어떻게 분할되는지를 나타내는 분할 정보와 인코딩된 코딩 단위를 포함하는 비트스트림을 생성하는 비트스트림 형성 단계를 포함한다.

또한, 비디오 시퀀스의 이미지를 디코딩하기 위한 장치(200)와 방법이 제공된다. 디코딩 장치(200)에 내장되면, 비디오 시퀀스의 이미지를 디코딩하기 위한 장치(800)는 (디코딩된) 이미지를 코딩 유닛으로 분할하는 것을 결정하는 데 사용된다. 디코딩 장치(200)는, 인코딩된 코딩 유닛을 포함하는 비트스트림을 파싱하기 위한 비트스트림 파서(bitstream parser), 실시예 중 어느 것에 따른 이미지의 분할을 결정하기 위한 장치(800), 및 이미지의 결정된 분할에 기초하여 인코딩된 코딩 유닛을 디코딩하기 위한 이미지 디코딩 유닛을 포함한다.

따라서, 이미지를 디코딩하기 위한 방법은 인코딩된 코딩 유닛을 포함하는 비트스트림을 파싱하는 단계; 본 개시의 실시예 중 어느 것에 따라 이미지의 분할을 결정하는 단계, 및 이미지의 결정된 분할에 기초하여 인코딩된 코딩 유닛을 디코딩하는 이미지 디코딩 단계를 포함한다.

디코더 측에서, 최대 BT/TT 깊이가 경계 CTU/CU에 대해 확장될 것이다. 즉, 최대 경계 멀티형 파티션 깊이는 디코딩될 경계 CTU에 사용될 것이다. 이 확장은 SPS로부터 단순하게 파싱되거나 또는 특정 조건에 기초하여 도출될 수 있다. 실시예 1에 기초하여, 최대 BTT 깊이는 BTT 경계 파티션 깊이까지 확장될 수 있다. 그리고 실시예 2에 기초하여, 최대 BTT 깊이는 경계 파티션 블록과 BTT 경계 파티션 깊이의 비율로 확장될 수 있다.

인코더/디코더 및 각각의 인코딩/디코딩 방법에 의한 비디오 이미지의 인코딩과 디코딩에서, 실시예 3에 따라 분할(또는 분할의 결정)이 수행되면, 최대 경계 멀티형 분할 깊이가 미리 정의된다. 이 경우, 인코딩된/디코딩된 비트스트림은 최대 경계 멀티형 분할 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함할 수 있다. 디코더 측에서, 이미지의 분할을 결정하기 위한 장치(800)는 추가적으로, 시퀀스 파라미터 세트로부터 제2 최대 멀티형 분할 깊이를 획득하도록 구성될 수 있다.

도 14는 예를 들어 코딩 시스템(300), 예를 들어 픽처 코딩 시스템(300)의 실시예를 예시하는 개념적 블록도 또는 개략적인 블록도이다. 여기서, 코딩 시스템(300)은 인코딩된 데이터(330), 예를 들어 인코딩된 픽처(330)를 예를 들어 인코딩된 데이터(330)를 디코딩하기 위한 목적지 장치(320)에 제공하도록 구성된 소스 장치(310)를 포함한다.

소스 장치(310)는 인코더(100) 또는 인코딩 유닛(100)을 포함하고, 추가적으로, 즉 선택적으로, 예를 들어, 픽처 소스(312), 전처리 유닛(pre-processing unit, 314), 예를 들어 픽처 전처리 유닛(314), 및 통신 인터페이스 또는 통신 유닛(318)을 포함할 수 있다.

픽처 소스(312)는 예를 들어 현실 세계의 픽처를 캡처하기 위한 어떠한 종류의 픽처 캡처 장치 및/또는 임의의 종류의 픽처 생성 장치, 예를 들어 컴퓨터 애니메이션 픽처를 생성하기 위한 컴퓨터 그래픽 프로세서, 또는 현실 세계 픽처, 컴퓨터 애니메이션 픽처(예를 들어, 스크린 콘텐츠, 가상 현실(virtual reality, VR) 픽처), 및/또는 이들의 조합(예를 들어, 증강 현실(augmented reality, AR) 사진)을 획득하기 위한 임의의 종류의 장치일 수 있거나 또는 이들을 포함할 수 있다. 이하에서, 이러한 모든 종류의 픽처 및 다른 종류의 픽처는 특별히 달리 설명하지 않으면 "픽처" 또는 "이미지"로 지칭될 것이고, "비디오 픽처"와 "스틸 픽처"를 포함하는 "비디오"라는 용어에 관한 이전 설명은 명시적으로 달리 설명하지 않으면 여전히 유효하다.

(디지털) 픽처가 강도 값(intensity value)을 가진 2차원 배열 또는 샘플 행렬이거나 또는 그렇게 간주될 수 있다. 배열 내의 샘플을 픽셀(픽처 요소의 짧은 형태) 또는 펠(pel)이라고도 한다. 배열 또는 픽처의 수평 및 수직 방향(또는 축)의 샘플의 수가 픽처의 크기 및/또는 해상도를 정의한다. 색상의 표현을 위해, 일반적으로 세 가지 색상 구성 요소가 사용된다. 즉, 픽처가 표현되거나 또는 3개의 샘플 어레이를 포함할 수 있다. RBG 포맷 또는 색 공간에서, 픽처가 대응하는 적색, 녹색, 및 청색 샘플 배열을 포함한다. 하지만, 비디오 코딩에서, 각각의 픽셀은 일반적으로 휘도/색차 포맷(luminance/chrominance format) 또는 색 공간으로, 예를 들어 YCbCr로 표현되고, YCbCr는 Y로 표시된 휘도 성분(때때로 L이 대신 사용됨)과 Cb와 Cr로 표시된 2개의 색차 성분을 포함한다. 휘도(또는 짧은 루마) 성분 Y는 휘도 또는 그레이 레벨 강도(예를 들어, 그레이스케일 픽처에서와 같이)를 나타내는 반면, 2개의 색차(또는 짧은 채도) 성분(Cb와 Cr)은 색도(chromaticity) 또는 색상 정보 성분을 나타낸다. 따라서, YCbCr 포맷의 픽처가 휘도 샘플 값(Y)의 휘도 샘플 배열과, 색차 값(Cb 및 Cr)의 2개의 색차 샘플 배열을 포함한다. RGB 포맷의 픽처는 YCbCr 형식으로 전환되거나 또는 변환될 수 있으며 그 반대의 경우도 마찬가지이다. 이 과정은 색상 변환 또는 전환이라고도 한다. 픽처가 단색이면, 픽처는 휘도 샘플 배열만을 포함할 수 있다.

픽처 소스(312)는 예를 들어 픽처를 캡처하기 위한 카메라, 메모리, 예를 들어 픽처 메모리일 수 있으며, 메모리는 이전에 캡처되거나 또는 생성된 픽처, 및/또는 픽처를 획득하거나 또는 수신하기 위한 임의의 종류의 (내부 또는 외부) 인터페이스를 포함하거나 저장한다. 카메라는 예를 들어 소스 장치에 통합된 로컬 또는 통합 카메라일 수 있고, 메모리는 예를 들어 소스 장치에 통합된 로컬 또는 통합 메모리일 수 있다. 인터페이스는 예를 들어 외부 비디오 소스로부터 사진을 수신하기 위한 외부 인터페이스, 예를 들어 카메라와 같은 외부 사진 캡처링 장치, 외부 메모리, 또는 외부 픽처 생성 장치(예를 들어, 외부 컴퓨터 그래픽 프로세서, 또는 컴퓨터, 또는 서버)일 수 있다. 인터페이스는 임의의 종류의 인터페이스, 임의의 전용 또는 표준화된 인터페이스 프로토콜에 따른 유선 또는 무선 인터페이스, 광학 인터페이스일 수 있다. 픽처 데이터(313)를 획득하기 위한 인터페이스는 통신 인터페이스와 동일한 인터페이스이거나 또는 통신 인터페이스(318)의 일부일 수 있다. 통신 인터페이스는 이더넷, WLAN, 블루투스, LTE와 같은 인터페이스이거나, 또는 위성 또는 광 인터페이스와 같은 유선 또는 무선 인터페이스일 수 있다. 이 전송은 피어 투 피어(peer-to-peer) 또는 브로드캐스트 또는 멀티캐스트일 수 있다.

전처리 유닛(314) 및 전처리 유닛(314)에 의해 수행되는 처리와는 달리, 픽처 또는 픽처 데이터(313)는 원시 픽처(raw picture) 또는 원시 픽처 데이터(313)로 지칭될 수도 있다.

전처리 유닛(314)은 (원시) 픽처 데이터(313)를 수신하고 픽처 데이터(313)에 대해 전처리를 수행하여 전처리된 픽처(315) 또는 전처리된 픽처 데이터(315)를 획득하도록 구성된다. 전처리 유닛(314)에 의해 수행되는 전처리는, 예를 들어 트리밍(trimming), 색상 포맷 변환(예를 들어 RGB에서 YCbCr로), 색상 보정, 또는 잡음 제거(de-noising)를 포함할 수 있다.

인코더(100)는 전처리된 픽처 데이터(315)를 수신하고 인코딩된 픽처 데이터를 제공하도록 구성된다(예를 들어, 추가적인 세부 사항이 도 1에 기초하여 설명되어 있다).

소스 장치(310)의 통신 인터페이스(318)는 인코딩된 픽처 데이터를 수신하고 저장 또는 직접 재구성을 위해 이를 다른 장치, 예를 들어 목적지 장치(320) 또는 임의의 다른 장치에 직접 전송하도록 구성되거나, 또는 인코딩된 데이터(330)를 저장하고 인코딩된 데이터(330)를 다른 장치, 예를 들어 디코딩 또는 저장을 위한 목적지 장치(320) 또는 임의의 다른 장치에 전송하기 전에 인코딩 픽처 데이터를 각각 처리하도록 구성된다.

수신 장치(320)는 디코더(200) 또는 디코딩 유닛(200)을 포함하고, 추가적으로, 즉 선택적으로, 통신 인터페이스 또는 통신 유닛(322), 후처리 유닛(post-processing unit, 326), 및 표시 장치(328)를 포함할 수 있다.

목적지 장치(320)의 통신 인터페이스(322)는 예를 들어, 인코딩된 픽처 데이터 또는 인코딩된 데이터(330)를, 소스 장치(310)로부터 직접 수신하거나 또는 임의의 다른 소스, 예를 들어 메모리, 예를 들어 인코딩된 픽처 데이터 메모리로부터 수신하도록 구성된다.

통신 인터페이스(318)와 통신 인터페이스(322)는 예를 들어, 소스 장치(310)와 목적지 장치320) 사이의 직접 통신 링크, 직접 유선 또는 무선 연결 또는 임의의 종류의 네트워크, 예를 들어 유선(광, 전력선, 구리, 동축, 또는 다른 임의의 매체 기반 등) 또는 무선 네트워크 또는 이들의 조합, 또는 임의의 종류의 사설 및 공용 네트워크 또는 이들의 임의의 종류의 조합을 통해, 인코딩된 픽처 데이터 또는 인코딩된 데이터(330)를 각각 송수신하도록 구성될 수 있다.

통신 인터페이스(318)는 예를 들어 인코딩된 픽처 데이터를 적절한 포맷, 예를 들어, 통신 링크 또는 통신 네트워크를 통한 전송을 위해 패킷으로 패키징하도록 구성되고, 데이터 손실 보호 및 데이터 손실 복구를 더 포함할 수 있다.

통신 인터페이스(318)의 상대를 형성하는 통신 인터페이스(322)는, 예를 들어 인코딩된 데이터(330)를 디패키징하도록 구성될 수 있고, 추가적으로, 인코딩된 픽처 데이터를 획득하고 예컨대 에러 은닉을 포함하는 데이터 손실 보호 및 데이터 손실 복구를 수행하도록 구성될 수 있다.

통신 인터페이스(318)와 통신 인터페이스(322)는, 소스 장치(310)로부터 목적지 장치(320)를 가리키는, 도 14의 인코딩된 픽처 데이터(330)에 대한 화살표로 나타낸 바와 같이 모두 단방향 통신 인터페이스, 또는 양방향 통신 인터페이스로서 구성될 수 있고, 예를 들어 메시지를 송수신하고, 예를 들어 연결을 셋업하며, 픽처 데이터를 포함하는 유실되거나 지연된 데이터를 수신 확인(acknowledge)하거나 및/또는 재송신하고, 통신 링크 및/또는 데이터 전송, 예컨대 인코딩된 픽처 데이터 전송과 관련된 다른 임의의 정보를 교환하도록 구성될 수 있다.

디코더(200)는 인코딩된 픽처 데이터를 수신하고 디코딩된 픽처 데이터 또는 디코딩된 픽처를 제공하도록 구성된다(추가적인 세부사항이 예를 들어 도 2에 기초하여 설명되었다).

목적지 장치(320)의 후처리기(326)는, 예를 들어 디코딩된 픽처 데이터, 예를 들어 디코딩된 픽처를 후처리하여, 후처리된 픽처 데이터(327), 예를 들어 후처리된 픽처(327)를 획득하도록 구성된다. 후처리 유닛(326)에 의해 수행되는 후처리는, 예를 들어 표시 장치(328)가 표시할 디코딩된 픽처 데이터를 준비하기 위해, 예를 들어 색상 포맷 변환(예를 들어, YCbCr에서 RGB로), 색상 보정, 트리밍, 또는 재샘플링, 또는 기타 처리를 포함할 수 있다.

목적지 장치(320)의 표시 장치(328)는, 예를 들어 사용자 또는 시청자에게 픽처를 표시하기 위해 후처리된 픽처 데이터(327)를 수신하도록 구성된다. 표시 장치(328)는 예를 들어, 재구성된 픽처를 표현하기 위한 임의의 종류의 디스플레이, 통합된 또는 외부 디스플레이 또는 모니터이거나 또는 이를 포함할 수 있다. 디스플레이는 예를 들어 음극선관(cathode ray tube, CRT), 액정 표시 장치(liquid crystal display, LCD), 플라즈마 디스플레이, 유기 발광 다이오드(organic light emitting diode, OLED) 디스플레이, 또는 비머(beamer), 홀로그램, 또는 3D/VR 안경을 포함하는 임의의 종류의 다른 디스플레이를 포함할 수 있다.

도 14가 소스 장치(310)와 목적지 장치(320)를 별도의 장치로서 도시하고 있지만, 장치의 실시예는 양쪽의 장치 또는 양쪽의 장치의 기능, 소스 장치(310) 또는 대응하는 기능 및 목적지 장치(320) 또는 대응하는 기능을 포함할 수도 있다. 이러한 실시예에서, 소스 장치(310) 또는 대응하는 기능 및 목적지 장치(320) 또는 대응하는 기능은 동일한 하드웨어 및/또는 소프트웨어를 이용하거나 및/또는 별도의 하드웨어 및/또는 소프트웨어 또는 이들의 임의의 조합에 의해 구현될 수 있다.

이 설명에 기초하여 당업자에게 명백한 바와 같이, 도 14에 도시된 바와 같이 소스 장치(310) 및/또는 목적지 장치(320) 내의 서로 다른 유닛 또는 기능의 기능의 존재와 (정확한) 분할은 실제 장치 및 적용에 따라 달라질 수 있다.

따라서, 도 14에 도시된 소스 장치310)와 목적지 장치(320)는 단지 본 발명의 예시적인 실시예일 뿐이며, 본 발명의 실시예는 도 14에 도시된 실시예에 제한되지 않는다.

소스 장치(310)와 목적지 장치(320)는 임의의 종류의 핸드헬드(handheld) 또는 고정형 장치(stationary device), 예를 들어, 노트북 또는 랩톱 컴퓨터, 휴대폰, 스마트폰, 태블릿 또는 태블릿 컴퓨터, 카메라, 데스크톱 컴퓨터, 셋톱 박스, 텔레비전, 표시 장치, 디지털 미디어 플레이어, 비디오 게이밍 콘솔, 비디오 스트리밍 장치, 브로드캐스트 수신기 장치 등을 포함하는 넓은 범위의 장치 중 어느 것을 포함할 수 있고, 임의의 종류의 운영 체제도 사용할 수 없다.

도 15는 본 개시의 일 실시예에 따른 비디오 코딩 장치(1000)의 개략도이다. 비디오 코딩 장치(1000)는, 예를 들어 인코더 또는 디코더로서 본 명세서에 설명된 바와 같이 개시된 실시예를 구현하기에 적합하다. 비디오 코딩 장치(1000)는 데이터를 수신하기 위한 입구 포트(ingress port, 1010)와 수신기 유닛(Rx, 1020); 데이터를 처리하기 위한 프로세서, 로직 유닛, 또는 중앙처리장치(CPU, 1030); 데이터를 전송하기 위한 송신기 유닛(Tx, 1040)과 출구 포트(egress port, 1050); 및 데이터를 저장하기 위한 메모리(1060)를 포함한다. 비디오 코딩 장치(1000)는 광 신호 또는 전기적 신호의 유출 또는 유입을 위한 입구 포트(1010), 수신기 유닛(1020), 송신기 유닛(1040), 및 출구 포트(1050)에 결합된 광전(optical-to-electrical, OE) 구성 요소와 전광(electrical-to-optical, EO) 구성 요소를 더 포함할 수 있다.

본 개시는 장치에 구현될 수 있다. 이러한 장치는 소프트웨어와 하드웨어의 조합일 수 있다. 예를 들어, 인트라 예측 및 디블로킹 필터링(deblocking filtering)은 범용 프로세서, 또는 디지털 신호 프로세서(digital signal processor, DSP), 또는 FPGA(Field Programmable Gate Array) 등과 같은 칩에 의해 수행될 수 있다. 그러나, 본 발명은 프로그래밍 가능한 하드웨어 상의 구현에 제한되지 않는다. 본 발명은 주문형 반도체(application-specific integrated circuit, ASIC) 또는 위에서 언급한 하드웨어 구성 요소의 조합으로 구현될 수 있다.

본 개시는 명령을 저장하는 컴퓨터 판독가능 매체를 더 제공하고, 이 명령은 처리 회로에 의해 실행될 때 처리 회로로 하여금 이미지를 분할하게 하고, 인코딩하게 하며, 디코딩하기 위한 개시된 방법 중 어느 방법을 실행하게 한다. 컴퓨터 판독가능 매체는 프로그램이 저장되는 임의의 매체, 예컨대 DVD, CD, USB(플래시) 드라이브, 하드디스크, 네트워크를 통해 이용 가능한 서버 스토리지 등일 수 있다.

인코더 및/또는 디코더는 TV 세트, 셋톱 박스, PC, 태블릿, 또는 스마트폰 등을 포함하는 다양한 장치에 구현될 수 있다. 인코더 및/또는 디코더는 방법 단계를 구현하는 소프트웨어(app)일 수 있다.

요약하면, 본 발명은 이미지를 코딩 유닛으로 분할하는 장치와 방법을 제공한다. 이미지가 계층적으로 분할된 코딩 트리 단위(CTU)로 구분된다. 계층적 분할은 이진 트리 또는 쿼드트리 분할과 같은 멀티형 분할을 포함한다. 완전히 이미지 내에 있는 CTU와 경계의 CTU에 대해, 각각의 멀티형 파티션 깊이가 선택된다. 본 개시는 이미지의 경계 부분에서 멀티형 분할 유연성을 제공한다.

Claims

이미지를 코딩 유닛으로 분할하기 위한 장치로서,
상기 이미지를 코딩 트리 유닛(coding tree unit, CTU)으로 세분화하고, 비경계 CTU(non-boundary CTU)와 경계 CTU를 각각의 코딩 유닛으로 계층적으로 분할하도록 구성된 처리 유닛 - 상기 CTU는 수평 및 수직 방향의 크기를 가진 상기 비경계 CTU, 및 수평 또는 수직 이미지 경계로 구분된 상기 이미지 내의 부분을 가진 상기 경계 CTU를 포함하고, 상기 부분은 상기 이미지 경계에 수직인 방향의 크기보다 작은 크기를 가지고 있음 -;
를 포함하고,
상기 비경계 CTU의 계층적 분할은 최대 비경계 멀티형 파티션 깊이(non-boundary multi-type partition depth)를 가진 멀티형 분할을 포함하고, 상기 멀티형 분할은, 분할 방향이 상기 수직 방향이거나 또는 상기 수평 방향인 분할이며,
상기 경계 CTU의 계층적 분할은 최대 경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함하고, 여기서:

이며, ExtdMaxBTTDepth는 최대 경계 멀티형 파티션 깊이를 표기하고, BTTBPDepth는 적응적 경계 멀티형 파티션 깊이를 표기하며, MaxBTTDepth는 미리 정의된 멀티형 파티션 깊이를 표기하는, 이미지를 코딩 유닛으로 분할하기 위한 장치.
제1항에 있어서,
상기 미리 정의된 멀티형 파티션 깊이는 비트스트림의 시퀀스 파라미터 세트(SPS)에 포함되는, 이미지를 코딩 유닛으로 분할하기 위한 장치.
제1항 또는 제2항에 있어서,
상기 적응적 경계 멀티형 파티션 깊이는 이진 트리(Binary Tree, BT) 경계 분할(Boundary Partitioning, BP)의 하나의 계층이 있을 때 1씩 증가하는, 이미지를 코딩 유닛으로 분할하기 위한 장치.
제3항에 있어서,
상기 적응적 경계 멀티형 파티션 깊이는 분할 방향이 픽처 경계에 수직일 때에는 증가하지 않는, 이미지를 코딩 유닛으로 분할하기 위한 장치.
제1항 또는 제2항에 있어서,
상기 적응적 경계 멀티형 파티션 깊이는 이진 및 삼진 트리(BTT) 경계 분할(BP)의 N개의 계층이 있을 때 N만큼 증가하며, 여기서 N은 1, 2, 3 또는 4와 같은, 이미지를 코딩 유닛으로 분할하기 위한 장치.
제1항 또는 제2항에 있어서,
수평 및 수직 경계 모두에 위치하는 경계 CTU, 양쪽 분할 방향의 멀티형 트리(Multi-Type Tree, MTT) 스텝이 카운트되며, BTTBPDepth인, 이미지를 코딩 유닛으로 분할하기 위한 장치.
비디오 시퀀스의 이미지를 인코딩하기 위한 장치로서,
제1항의 이미지를 코딩 유닛으로 분할하기 위한 장치;
상기 코딩 유닛을 인코딩하도록 구성된 이미지 코딩 유닛; 및
상기 코딩 트리 유닛이 어떻게 분할되는지를 나타내는 파티셔닝 정보와 상기 인코딩된 코딩 유닛을 포함하는 비트스트림을 생성하도록 구성된 비트스트림 형성 유닛(bitstream forming unit)
을 포함하는 비디오 시퀀스의 이미지를 인코딩하기 위한 장치.
제7항에 있어서,
상기 이미지를 코딩 유닛으로 분할하기 위한 장치는 제2항의 이미지를 코딩 유닛으로 분할하기 위한 장치이고,
상기 비트스트림은 상기 최대 경계 멀티형 파티셔닝 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함하는, 비디오 시퀀스의 이미지를 인코딩하기 위한 장치.
비디오 시퀀스의 이미지를 디코딩하기 위한 장치로서,
인코딩된 코딩 유닛을 포함하는 비트스트림을 파싱하기 위한 비트스트림 파서(bitstream parser);
제1항에 따라 이미지를 코딩 유닛으로 분할하기 위한 장치; 및
상기 이미지의 결정된 분할에 기초하여 상기 인코딩된 코딩 유닛을 디코딩하기 위한 이미지 디코딩 유닛
을 포함하는 비디오 시퀀스의 이미지를 디코딩하기 위한 장치.
제9항에 있어서,
상기 이미지의 분할을 결정하기 위한 장치는 제2항의 이미지를 코딩 유닛으로 분할하기 위한 장치이고,
상기 비트스트림은 상기 최대 경계 멀티형 파티셔닝 깊이를 포함하는 인코딩된 시퀀스 파라미터 세트를 더 포함하며,
상기 이미지의 분할을 결정하기 위한 장치는 추가적으로, 상기 시퀀스 파라미터 세트로부터 제2 최대 멀티형 파티셔닝 깊이를 획득하도록 구성된, 비디오 시퀀스의 이미지를 디코딩하기 위한 장치.
이미지를 코딩 유닛으로 분할하기 위한 방법으로서,
상기 이미지를 코딩 트리 유닛(coding tree unit, CTU)으로 세분화하는 단계 - 상기 CTU는 수평 및 수직 방향의 크기를 가진 비경계 CTU(non-boundary CTU), 및 수평 또는 수직 이미지 경계로 구분된 상기 이미지 내의 부분을 가진 경계 CTU를 포함하고, 상기 부분은 상기 이미지 경계에 수직인 방향의 크기보다 작은 크기를 가지고 있음 -;
상기 비경계 CTU와 상기 경계 CTU를 각각의 코딩 유닛으로 계층적으로 분할하는 단계
를 포함하고,
상기 비경계 CTU의 계층적 분할은 최대 비경계 멀티형 파티션 깊이(maximum non-boundary multi-type partition depth)를 가진 멀티형 분할을 포함하고, 상기 멀티형 분할은, 분할 방향이 상기 수직 방향이거나 또는 상기 수평 방향인 분할이며,
상기 경계 CTU의 계층적 분할은 최대 경계 멀티형 파티션 깊이를 가진 멀티형 분할을 포함하고, 여기서:

이며, ExtdMaxBTTDepth는 최대 경계 멀티형 파티션 깊이를 표기하고, BTTBPDepth는 적응적 경계 멀티형 파티션 깊이를 표기하며, MaxBTTDepth는 미리 정의된 멀티형 파티션 깊이를 표기하는, 이미지를 코딩 유닛으로 분할하기 위한 방법.
제11항에 있어서,
상기 미리 정의된 멀티형 파티션 깊이는 비트스트림의 시퀀스 파라미터 세트(SPS)에 포함되는, 이미지를 코딩 유닛으로 분할하기 위한 방법.
제11항 또는 제12항에 있어서,
상기 적응적 경계 멀티형 파티션 깊이는 이진 트리(Binary Tree, BT) 경계 분할(Boundary Partitioning, BP)의 하나의 계층이 있을 때 1씩 증가하는, 이미지를 코딩 유닛으로 분할하기 위한 방법.
제13항에 있어서,
상기 적응적 경계 멀티형 파티션 깊이는 분할 방향이 픽처 경계에 수직일 때에는 증가하지 않는, 이미지를 코딩 유닛으로 분할하기 위한 방법.
제11항 또는 제12항에 있어서,
상기 적응적 경계 멀티형 파티션 깊이는 이진 및 삼진 트리(BTT) 경계 분할(BP)의 N개의 계층이 있을 때 N만큼 증가하며, 여기서 N은 1, 2, 3 또는 4와 같은, 이미지를 코딩 유닛으로 분할하기 위한 방법.
제11항 또는 제12항에 있어서,
수평 및 수직 경계 모두에 위치하는 경계 CTU, 양쪽 분할 방향의 멀티형 트리(Multi-Type Tree, MTT) 스텝이 카운트되며, BTTBPDepth인, 이미지를 코딩 유닛으로 분할하기 위한 방법.
비디오 시퀀스의 이미지를 인코딩하기 위한 방법으로서,
제11항에 따라 이미지를 코딩 유닛으로 분할하기 위한 방법을 수행하는 단계;
상기 코딩 유닛을 인코딩하는 이미지 코딩 단계; 및
상기 코딩 트리 유닛이 어떻게 분할되는지를 나타내는 파티셔닝 정보와 상기 인코딩된 코딩 유닛을 포함하는 비트스트림을 생성하는 비트스트림 형성 단계
를 포함하는 비디오 시퀀스의 이미지를 인코딩하기 위한 방법.
비디오 시퀀스의 이미지를 디코딩하기 위한 방법으로서,
인코딩된 코딩 유닛을 포함하는 비트스트림을 파싱하는 단계;
제11항에 따라 이미지를 코딩 유닛으로 분할하기 위한 방법을 수행하는 단계; 및
상기 이미지의 결정된 분할에 기초하여 상기 인코딩된 코딩 유닛을 디코딩하는 이미지 디코딩 단계
를 포함하는 비디오 시퀀스의 이미지를 디코딩하기 위한 방법.
컴퓨터 판독가능 매체로서,
상기 컴퓨터 판독가능 매체는 명령을 포함하고, 상기 명령은 처리 회로에 의해 실행될 때 상기 처리 회로로 하여금 제11항의 이미지를 코딩 유닛으로 분할하기 위한 방법을 실행하게 하는, 컴퓨터 판독가능 매체.