KR20160019904A - 상이한 계층간 예측 타입들에 대한 참조 픽처들의 독립적인 리샘플링 및 선택 - Google Patents

Abstract

소정의 양태들에 따른 비디오 정보를 코딩하기 위한 장치는 컴퓨팅 하드웨어를 포함한다. 컴퓨팅 하드웨어는 계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하는 것으로서, 그 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함하는, 상기 현재의 픽처를 식별하고; 그리고 (1) ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 (2) ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수를 제어하도록 구성되며, 여기서 컴퓨팅 하드웨어는 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 독립적으로 ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수를 제어하도록 구성된다.

Description

상이한 계층간 예측 타입들에 대한 참조 픽처들의 독립적인 리샘플링 및 선택{INDEPENDENT RESAMPLING AND SELECTION OF REFERENCE PICTURES FOR DIFFERENT INTER-LAYER PREDICTION TYPES}

본 개시물은 비디오 코딩 및 압축의 분야와 관련된다. 특히, 본 개시물은 어드밴스드 비디오 코딩 (Advanced Video Coding; AVC) 에 대한 스케일러블 비디오 코딩 (scalable video coding; SVC) 은 물론 고효율 비디오 코딩 (HEVC) 에 대한 SVC (스케일러블 HEVC (Scalable HEVC; SHVC) 로도 지칭됨) 를 포함한 SVC 와 관련된다. 본 개시물은 또한, MV-HEVC 로 지칭된 HEVC 의 멀티뷰 확장과 같은 3D 비디오 코딩과 관련된다. 다양한 실시형태들은 계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어를 위한 및 계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하기 위한 시스템들 및 방법들에 관한 것이다.

디지털 비디오 능력들은 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 휴대 정보 단말기들 (PDA들), 랩톱 또는 데스크톱 컴퓨터들, 태블릿 컴퓨터들, e-book 리더들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트 폰들", 비디오 텔레컨퍼런싱 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한 광범위한 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, 어드밴스드 비디오 코딩 (AVC) 에 의해 정의된 표준들, 현재 개발중인 고효율 비디오 코딩 (HEVC) 표준, 및 이러한 표준들의 확장들에서 설명된 것들과 같은 비디오 코딩 기법들을 구현한다. 비디오 디바이스들은 이러한 비디오 코딩 기법들을 구현함으로써 디지털 비디오 정보를 보다 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.

비디오 코딩 기법들은 비디오 시퀀스들에 내재하는 리던던시를 감소 또는 제거하기 위해 공간 (인트라-픽처) 예측 및/또는 시간 (인터-픽처) 예측을 포함한다. 블록 기반 비디오 코딩을 위해, 비디오 슬라이스 (예를 들어, 비디오 프레임 또는 비디오 프레임의 부분) 는 트리블록들, 코딩 유닛들 (CU들) 및/또는 코딩 노드들로 또한 지칭될 수도 있는 비디오 블록들로 파티셔닝될 수도 있다. 픽처의 인트라-코딩된 (I) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 픽처의 인터-코딩된 (P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측을 이용하거나 또는 다른 참조 픽처들에서의 참조 샘플들에 대한 시간 예측을 이용할 수도 있다. 픽처들은 프레임들로 지칭될 수도 있고 참조 픽처들은 참조 프레임들로 지칭될 수도 있다.

공간 또는 시간 예측은 코딩될 블록에 대한 예측 블록을 초래한다. 잔차 데이터는 코딩될 오리지널 블록과 예측 블록 간의 픽셀 차이들을 표현한다. 인터-코딩된 블록은 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터, 및 코딩된 블록과 예측 블록 간의 차이를 나타내는 잔차 데이터에 따라 인코딩된다. 인트라-코딩된 블록은 인트라-코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 픽셀 도메인으로부터 변환 도메인으로 변환되어, 잔차 변환 계수들을 초래할 수도 있으며, 그 잔차 변환 계수들은 후에 양자화될 수도 있다. 초기에 2 차원 어레이로 배열되는 양자화된 변환 계수들은 변환 계수들의 1 차원 벡터를 생성하기 위하여 스캔될 수도 있고, 엔트로피 코딩이 훨씬 더 많은 압축을 달성하기 위해 적용될 수도 있다.

일반적으로, 본 개시물은 스케일러블 비디오 코딩 (SVC) 에 관련된 기법들을 설명한다. 이하 설명된 다양한 기법들은 계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어를 위한 방법들 및 디바이스들을 제공 설명한다. 이하 설명된 다양한 기법들은 계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하기 위한 방법들 및 디바이스들을 제공 설명한다.

소정의 양태들에 따른 비디오 정보를 코딩하기 위한 장치는 메모리 및 컴퓨팅 하드웨어를 포함한다. 메모리 유닛은 비디오 정보를 저장하도록 구성된다. 컴퓨팅 하드웨어는 : 계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하는 것으로서, 그 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함하는, 상기 현재의 픽처를 식별하고; 그리고 (1) ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 (2) ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수를 제어하도록 구성되며, 컴퓨팅 하드웨어는 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 독립적으로 ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수를 제어하도록 구성된다.

소정의 양태들에 따른 비디오 정보를 코딩하기 위한 장치는 메모리 및 컴퓨팅 하드웨어를 포함한다. 메모리 유닛은 비디오 정보를 저장하도록 구성된다. 컴퓨팅 하드웨어는 : 계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하는 것으로서, 그 ILP 의 타입은 계층간 모션 예측 (ILMP), 또는 계층간 샘플 예측 (ILSP), 또는 그 양자를 포함하는, 상기 현재의 픽처를 식별하고; 현재의 픽처가 적어도 ILMP 를 이용하여 예측될 경우 : 현재의 픽처와 연관된 병치된 (collocated) 참조 인덱스 값을 프로세싱하는 것으로서, 병치된 참조 인덱스 값은 ILMP 를 이용하여 현재의 픽처를 예측하는데 있어서 이용되는 제 1 참조 픽처를 나타내는, 상기 병치된 참조 인덱스 값을 프로세싱하고; 그리고 병치된 참조 인덱스 값에 의해 나타내진 제 1 참조 픽처가 ILMP 를 위해 인에이블되는지 여부를 결정하고; 그리고 현재의 픽처가 적어도 ILSP 를 이용하여 예측될 경우 : 현재의 픽처에서의 블록과 연관된 참조 인덱스 값을 프로세싱하는 것으로서, 참조 인덱스 값은 ILSP 를 이용하여 현재의 픽처에서의 블록을 예측하는데 있어서 이용되는 제 2 참조 픽처를 나타내는, 상기 참조 인덱스 값을 프로세싱하고; 그리고 참조 인덱스 값에 의해 나타내진 제 2 참조 픽처가 ILSP 를 위해 인에이블되는지 여부를 결정하도록 구성된다.

하나 이상의 예들의 상세들은 첨부한 도면들 및 이하의 설명에서 기재되며, 이는 본 명세서에서 설명된 발명적 개념들의 모든 범위를 제한하도록 의도되지 않는다. 다른 특징들, 목적들, 및 이점들은 설명 및 도면들로부터, 및 청구항들로부터 명백할 것이다.

도면들 전반에 걸쳐, 참조 번호들은 참조된 엘리먼트들 간의 대응성을 나타내기 위해 재사용될 수도 있다. 도면들은 본 명세서에서 설명된 예시적인 실시형태들을 예시하기 위해 제공되며 본 개시물의 범위를 제한하도록 의도되지 않는다,
도 1 은 본 개시물에서 설명된 양태들에 따라 기법들을 활용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템을 예시하는 블록 다이어그램이다.
도 2a 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 비디오 인코더의 일 예를 예시하는 블록 다이어그램이다.
도 2b 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 비디오 인코더의 일 예를 예시하는 블록 다이어그램이다.
도 3a 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 비디오 디코더의 일 예를 예시하는 블록 다이어그램이다.
도 3b 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 비디오 디코더의 일 예를 예시하는 블록 다이어그램이다.
도 4 는 본 개시물의 양태들에 따른, 계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어를 위한 일 예의 방법을 예시하는 플로우차트이다.
도 5 는 계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하기 위한 일 예의 방법을 예시하는 플로우차트이다.

본 개시물에서 설명된 기법들은 일반적으로 스케일러블 비디오 코딩 (SHVC, SVC) 및 멀티뷰/3D 비디오 코딩 (예를 들어, 멀티뷰 코딩 플러스 심도, MVC+D) 에 관한 것이다. 예를 들어, 기법들은 고효율 비디오 코딩 (HEVC) 스케일러블 비디오 코딩 (SVC, 때로는 SHVC 로 지칭됨) 확장에 관련되고, 그 확장과 함께 이용되거나 또는 그 확장 내에서 이용될 수도 있다. SHVC, SVC 확장에서, 비디오 정보의 다수의 계층들이 있을 수 있다. 비디오 정보의 가장 낮은 레벨에 있는 계층은 기본 계층 (BL) 또는 참조 계층 (RL) 으로서 기능할 수도 있고, 비디오 정보의 최상부에 있는 계층 (또는 가장 높은 계층) 은 인핸스드 계층 (EL) 으로서 기능할 수도 있다. "인핸스드 (enhanced) 계층" 은 때로는 "인핸스먼트 계층" 으로 지칭되고, 이들 용어들은 상호교환가능하게 사용될 수도 있다. 기본 계층은 때로는 "참조 계층" 으로 지칭되고, 이들 용어들은 또한 상호교환가능하게 사용될 수도 있다. 기본 계층과 상부 계층 사이에 있는 모든 계층들은 추가적인 EL들 및/또는 참조 계층들로서 기능할 수도 있다. 예를 들어, 주어진 계층은 기본 계층 또는 임의의 사이에 오는 인핸스먼트 계층과 같이, 그 주어진 계층보다 아래의 (예를 들어, 그 계층에 선행하는) 계층에 대해 EL 일 수도 있다. 게다가, 주어진 계층은 또한 그 주어진 계층보다 위의 (예를 들어, 그 계층에 후속하는) 하나 이상의 인핸스먼트 계층(들)에 대해 RL 로서 기능할 수도 있다. 기본 계층 (예컨대, 예를 들어 "1" 로 설정 또는 그와 동일한 계층 ID (identification) 를 갖는 가장 낮은 계층) 과 상부 계층 (또는 가장 높은 계층) 사이에 있는 임의의 계층은 그 주어진 계층에 대해 더 높은 계층에 의해 계층간 예측을 위한 참조로서 이용될 수도 있고 계층간 예측을 위한 참조로서 주어진 계층에 대해 더 낮은 계층을 이용할 수도 있다. 예를 들어, 주어진 계층은 계층간 예측을 위한 참조로서 주어진 계층에 대해 더 낮은 계층을 이용하여 결정될 수 있다.

단순화를 위해, 예들은 단지 2 개의 계층들의 관점에서 제시된다 : BL 및 EL; 그러나, 이하에 설명된 아이디어들 및 실시형태들은 다수의 계층들을 이용한 케이스들에도 물론 적용가능하다는 것이 잘 이해되어야 한다. 또한, 설명의 용이함을 위해, 용어들 "프레임들" 또는 "블록들" 이 종종 사용된다. 그러나, 이들 용어들은 제한하는 것으로 의도되지 않는다. 예를 들어, 이하에 설명된 기법들에는 픽셀들, 블록들 (예를 들어, CU, PU, TU, 매크로블록들 등), 슬라이스들, 프레임들, 픽처 등을 포함하지만 이들에 제한되지는 않는, 다양한 비디오 유닛들 중 임의의 것이 사용될 수 있다.

비디오 코딩

비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 그것의 스케일러블 비디오 코딩 (SVC) 및 멀티-뷰 비디오 코딩 (MVC) 및 멀티-뷰 코딩 플러스 심도 (MVC+D) 확장들을 포함하는 ITU-T H.264 (ISO/IEC MPEG-4 AVC 로도 공지됨) 를 포함한다. 최근의 HEVC 초안 사양 (이하 HEVC WD10 으로 지칭됨) 은 http://phenix.int-evry.fr/jct/doc_end_user/documents/12_Geneva/wg11/JCTVC-L1003-v34.zip 으로부터 입수가능하다. HEVC 에 대한 멀티뷰 확장, 즉 MV-HEVC 는 또한 JCT-3V 에 의해 개발되고 있다. 이하 HV-HEVC WD3 의 최근의 작업 초안 (WD) 은 http://phenix.it-sudparis.eu/jct2/doc_end_user/documents/3_Geneva/wg11/JCT3V-C1004-v4.zip 으로부터 입수가능하다. HEVC 에 대한 스케일러블 확장 (SHVC 로 명명됨) 은 또한 JCT-VC 에 의해 개발되고 있다. SHVC 의 최근의 작업 초안 (WD) (이하 SHVC WD2 로 지칭됨) 은 http://phenix.int-evry.fr/jct/doc_end_user/documents/13_Incheon/wg11/JCTVC-M1008-v1.zip 으로부터 입수가능하다.

SVC 및 SHVC 에서, 비디오 정보는 다수의 계층들로서 제공될 수도 있다. 최하부 레벨에 있는 계층은 단지 기본 계층 (BL) 으로서 기능할 수 있고 최상부 레벨에 있는 계층은 인핸스먼트 계층 (EL) 으로서 기능할 수 있다. 상부 및 하부 계층들 사이의 모든 계층들은 인핸스먼트 계층들 및 참조 계층들 양자로서 기능할 수도 있다. 예를 들어, 중간의 계층은 그것보다 아래의 계층들에 대해 EL 일 수 있고, 동시에 그것보다 위의 계층들에 대해 RL 일 수 있다. 설명의 단순화를 위해, 우리는 이하에 설명된 기법들을 예시하는데 있어서 2 개의 계층들, BL 및 EL 이 있다는 것을 가정할 수 있다. 그러나, 본 명세서에서 설명된 모든 기법들은 다수 (3 개 이상) 의 계층들을 이용한 케이스들에도 물론 적용가능하다.

스케일러블 비디오 코딩 (SVC) 은 품질 (신호-대-잡음 (SNR) 으로도 지칭됨) 스케일러빌리티, 공간 스케일러빌리티 및/또는 시간 스케일러빌리티를 제공하는데 이용될 수도 있다. 예를 들어, 하나의 실시형태에서, 참조 계층 (예를 들어, 기본 계층) 은 제 1 품질 레벨에서 비디오를 디스플레이하기에 충분한 비디오 정보를 포함하고, 인핸스먼트 계층은 참조 계층 및 인핸스먼트 계층이 함께 제 1 레벨보다 더 높은 제 2 품질 레벨 (예를 들어, 더 적은 잡음, 더 큰 해상도, 더 나은 프레임 레이트 등) 에서 비디오를 디스플레이하기에 충분한 비디오 정보를 포함하도록 참조 계층에 대하여 추가적인 비디오 정보를 포함한다. 인핸스드 계층은 기본 계층과는 상이한 공간 해상도를 가질 수도 있다. 예를 들어, EL 과 BL 사이의 공간 애스펙트비는 1.0, 1.5, 2.0 또는 다른 상이한 비율들일 수 있다. 즉, EL 의 공간 애스펙트는 BL 의 공간 애스펙트의 1.0, 1.5, 또는 2.0 배와 동일할 수도 있다. 일부 예들에서, EL 의 스케일링 팩터는 BL 보다 더 클 수도 있다. 예를 들어, EL 에서의 픽처들의 사이즈는 BL 에서의 픽처들의 사이즈보다 더 클 수도 있다. 이 방식으로, 제한하는 것은 아니지만, EL 의 공간 해상도가 BL 의 공간 해상도보다 더 큰 것이 가능할 수도 있다.

(상기 논의한 바와 같이) H.264 에 대한 SVC 확장 또는 H.265 에 대한 SHVC 확장을 지칭하는 SVC 에서, 현재의 블록의 예측은 SVC 를 위해 제공되는 상이한 계층들을 이용하여 수행될 수도 있다. 이러한 예측은 계층간 예측으로 지칭될 수도 있다. 계층간 예측 방법들은 계층간 리던던시를 감소시키기 위하여 SVC 에서 활용될 수도 있다. 계층간 예측의 일부 예들은 계층간 인트라 예측, 계층간 모션 예측, 및 계층간 잔차 예측을 포함할 수도 있다. 계층간 인트라 예측은 인핸스먼트 계층에서의 현재의 블록을 예측하기 위해 기본 계층에서의 공동-위치된 블록들의 복원을 이용한다. 계층간 모션 예측은 인핸스먼트 계층에서의 모션을 예측하기 위해 기본 계층의 모션 정보 (모션 벡터들을 포함) 를 이용한다. 계층간 잔차 예측은 인핸스먼트 계층의 잔차를 예측하기 위해 기본 계층의 잔차를 이용한다.

개관

SHVC 에서, 계층간 예측 (ILP) 에서 이용된 계층간 참조 픽처 (ILRP) 는 계층간 모션 예측 (ILMP), 계층간 샘플 예측 (ILSP), 또는 그 양자를 위해 이용될 수도 있다. ILRP 가 이용되는 ILP 의 타입은 계층간 예측 타입 (예를 들어, ILMP, ILSP, 또는 그 양자) 으로 지칭될 수 있다. ILSP 만을 위해 이용된 참조 픽처의 경우, 참조 계층 픽처가 현재의 픽처와는 상이한 픽처 사이즈를 갖는다면, 참조 계층 픽처는 ILRP 를 생성하기 위해 샘플-리샘플링되어야 하지만, 모션 정보가 이용되지 않기 때문에 모션-리샘플링되지 않는다. ILMP 만을 위해 이용된 참조 픽처의 경우, 참조 계층 픽처가 현재의 픽처와는 상이한 픽처 사이즈를 갖는다면, 참조 계층 픽처는 ILRP 를 생성하기 위해 모션-리샘플링되어야 하지만, 참조 계층 픽처로부터의 샘플들이 이용되지 않기 때문에 샘플-리샘플링되지 않는다. ILSP 및 ILMP 양자를 위해 이용된 참조 픽처의 경우, 참조 픽처가 현재의 픽처와는 상이한 사이즈를 갖는다면, 참조 계층 픽처는 샘플-리샘플링 및 모션-리샘플링되어야 한다.

SHVC 작업 초안 (WD) 의 초기 버전들에서, 참조 계층 픽처가 현재의 픽처와는 상이한 사이즈를 갖는다면, 리샘플링 프로세스는 참조 계층 픽처의 계층간 예측 타입 (예를 들어, ILMP, ILSP, 또는 그 양자) 을 체크하지 않고 계층간 참조 픽처를 유도하기 위해 인보크된다. 이것은 ILRP 로부터의 샘플들이 필요하지 않더라도 ILMP 를 위해서만 이용된 ILRP 를 샘플-리샘플링하는 것을 야기할 수 있다. 더욱이, 일부 SHVC 프로파일들에서, 임의의 특정 픽처를 디코딩하기 위해 리샘플링될 수 있는 계층간 참조 픽처들의 수는 소정의 수 (예를 들어, 1) 에 제한될 수 있다. 그러나, 2 개의 리샘플링 프로세스들 (예를 들어, 샘플-리샘플링 및 모션-리샘플링) 은 리샘플링된 픽처들의 수를 카운트하는데 있어서 별도로 고려되지 않았다. 이에 따라, 샘플-리샘플링 프로세스가 단지 계층간 모션 예측만을 위해 이용된 픽처를 위해 인보크된다면, 샘플-리샘플링 프로세스는 특정 픽처를 디코딩할 때 계층간 샘플 예측을 위한 다른 픽처를 위해 더 이상 인보크될 수 없다. 따라서, ILMP 를 위해서만 이용된 ILRP 를 샘플-리샘플링하지 않고, 또한 특정 픽처를 위해 리샘플링된 ILRP 의 수에 대한 한계를 향하여 ILMP 를 위해서만 이용된 ILRP 의 샘플-리샘플링을 카운트하지 않는 것이 바람직할 것이다. 다른 예에서, 모션-리샘플링 프로세스가 ILSP 만을 위해 이용된 픽처를 위해 인보크된다면, 모션-리샘플링 프로세스는 특정 픽처를 디코딩할 때 ILMP 를 위한 다른 픽처를 위해 더 이상 인보크될 수 없다. 또한, ILSP 를 위해서만 이용된 ILRP 를 모션-리샘플링하지 않고, 또한 특정 픽처를 위해 리샘플링된 ILRP 의 수에 대한 한계를 향하여 ILSP 를 위해서만 이용된 ILRP 의 모션-리샘플링을 카운트하지 않는 것이 바람직할 것이다. 논의를 용이하게 하기 위해, 특정 픽처를 위해 리샘플링된 ILRP 의 수에 대한 한계는 또한 "리샘플링된 픽처 카운트" 로 지칭될 수도 있다.

이들 및 다른 도전과제들을 다루기 위하여, 기법들은 계층간 모션 예측만을 위해 이용된 계층간 참조 픽처들을 위해 리샘플링 프로세스를 인보크하는 것을 회피할 수 있다. 기법들은 또한, ILRP들이 현재의 픽처와는 상이한 픽처 사이즈를 갖는 경우라도 리샘플링된 픽처 카운트를 향하여 계층간 모션 예측만을 위해 이용된 계층간 참조 픽처들을 카운트할 수 없다.

소정의 실시형태들에서, 기법들은 리샘플링된 픽처들의 수에 대한 제약들에 대하여 계층간 샘플 예측을 위해 이용된 계층간 참조 픽처들과는 별도로 계층간 모션 예측을 위해 이용된 계층간 참조 픽처들을 카운트할 수 있다. 예를 들어, 기법들은 ILMP 를 위한 ILRP들에 대해 하나의 리샘플링된 픽처 카운트, 및 ILSP 를 위한 ILRP들에 대해 다른 리샘플링된 픽처 카운트를 가질 수 있다.

또한, 기법들은 또한 계층간 예측 타입들에 관한 비트스트림 제약들을 제공 및/또는 프로세싱할 수 있다. 예를 들어, 기법들은 병치된 참조 인덱스 (예를 들어, collocated_ref_idx) 가 단지 적어도 ILMP 를 위해 이용된 ILRP 만을 지칭할 수 있다는 비트스트림 제약을 제공 및/또는 프로세싱할 수 있다. 기법들은 또한 참조 인덱스 (예를 들어 ref_idx) 가 단지 적어도 ILSP 를 위해 이용된 ILRP 만을 지칭할 수 있다는 비트스트림 제약을 제공 및/또는 프로세싱할 수 있다. 비트스트림 제약들은 하나 이상의 플래그들을 이용하여 구현될 수 있다.

신규한 시스템들, 장치들, 및 방법들의 다양한 양태들은 첨부한 도면들을 참조하여 이하 보다 완전히 설명된다. 그러나, 본 개시물은 다수의 상이한 형태들로 구현될 수도 있고 본 개시물 전반에 걸쳐 제시된 임의의 특정 구조 또는 기능에 제한되는 것으로 해석되지 않아야 한다. 오히려, 이들 양태들이 제공되어 본 개시물은 철저하거나 완전할 것이고, 당업자에게 본 개시물의 범위를 완전히 전달할 것이다. 본 명세서의 교시에 기초하여, 당업자는 본 개시물의 범위가 본 발명의 임의의 다른 양태에 독립적으로 구현되든, 또는 본 발명의 임의의 다른 양태와 조합되든 간에, 본 명세서에 개시된 신규한 시스템들, 장치들, 및 방법들의 임의의 양태들을 커버하도록 의도된다는 것을 인식해야 한다. 예를 들어, 본 명세서에 기재된 임의의 수의 양태들을 이용하여 장치가 구현될 수도 있고 또는 방법이 실시될 수도 있다. 또한, 본 발명의 범위는 본 명세서에 기재된 본 발명의 다양한 양태들에 더하여 또는 이들 이외에, 다른 구조, 기능성, 또는 구조 및 기능성을 이용하여 실시되는 그러한 장치 또는 방법을 커버하도록 의도된다. 본 명세서에 개시된 임의의 양태는 청구항의 하나 이상의 엘리먼트들에 의해 구현될 수도 있다는 것이 이해되어야 한다.

특정 양태들이 본 명세서에서 설명되지만, 이들 양태들의 많은 변화들 및 치환들은 본 개시물의 범위에 포함된다. 선호된 양태들의 일부 이익들 및 이점들이 언급되지만, 본 개시물의 범위는 특정 이익들, 이용들, 또는 목적들에 제한되도록 의도되지 않는다. 오히려, 본 개시물의 양태들은 상이한 무선 기술들, 시스템 구성들, 네트워크들, 및 송신 프로토콜들에 대체적으로 적용가능한 것으로 의도되며, 이들 중 일부는 도면들에서 그리고 다음의 선호된 양태들의 설명에서 일 예로 예시된다. 상세한 설명 및 도면들은 제한보다는 단지 본 개시물의 예시일 뿐이며, 본 개시물의 범위는 첨부된 청구항들 및 그 등가물들에 의해 정의된다.

비디오 코딩 시스템

도 1 은 본 개시물에서 설명된 양태들에 따라 기법들을 활용할 수도 있는 예시적인 비디오 코딩 시스템 (10) 을 예시하는 블록 다이어그램이다. 본 명세서에서 이용하고 설명한 바와 같이, 용어 "비디오 코더" 는 일반적으로 비디오 인코더들 및 비디오 디코더들 양자를 지칭한다. 본 개시물에서, 용어들 "비디오 코딩" 또는 "코딩" 은 일반적으로 비디오 인코딩 및 비디오 디코딩을 지칭할 수도 있다.

도 1 에 도시한 바와 같이, 비디오 코딩 시스템 (10) 은 소스 디바이스 (12) 및 목적지 디바이스 (14) 를 포함한다. 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 생성한다. 목적지 디바이스 (14) 는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오 데이터를 디코딩할 수도 있다. 소스 디바이스 (12) 는 컴퓨터 판독가능 저장 매체 또는 다른 통신 채널을 포함할 수도 있는 통신 채널 (16) 을 통해 목적지 디바이스 (14) 에 비디오 데이터를 제공할 수 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 데스크톱 컴퓨터들, 노트북 (예를 들어, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋-톱 박스들, 전화기 핸드셋들, 이를 테면 소위 "스마트" 폰들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 자동차용 컴퓨터들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들을 포함할 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신을 위해 장비될 수도 있다.

목적지 디바이스 (14) 는 통신 채널 (16) 을 통해 디코딩될 인코딩된 비디오 데이터를 수신할 수도 있다. 통신 채널 (16) 은 소스 디바이스 (12) 로부터의 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 이동시킬 수 있는 일 타입의 매체 또는 디바이스를 포함할 수도 있다. 예를 들어, 통신 채널 (16) 은 소스 디바이스 (12) 가 인코딩된 비디오 데이터를 직접 목적지 디바이스 (14) 에 실시간으로 송신하는 것을 가능하게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 통신 표준, 이를 테면 무선 통신 프로토콜에 따라 변조되고, 목적지 디바이스 (14) 에 송신될 수도 있다. 통신 매체는 무선 또는 유선 통신 매체, 이를 테면 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리 송신 라인들을 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷 기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는데 유용할 수도 있는 다른 장비를 포함할 수도 있다.

일부 실시형태들에서, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스에 출력될 수도 있다. 이러한 예들에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오 데이터를 저장하는 저장 디바이스 또는 컴퓨터 판독가능 저장 매체에 대응할 수도 있다. 예를 들어, 목적지 디바이스 (14) 는 디스크 액세스 또는 카드 액세스를 통해 컴퓨터 판독가능 저장 매체에 액세스할 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스 (28) 에 의해 컴퓨터 판독가능 저장 매체로부터 액세스될 수도 있다. 컴퓨터 판독가능 저장 매체는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 비디오 데이터를 저장하기 위한 다른 디지털 저장 매체들과 같은 다양한 분산된 또는 로컬로 액세스된 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 컴퓨터 판독가능 저장 매체는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스 (14) 는 스트리밍 또는 다운로드를 통해 컴퓨터 판독가능 저장 매체로부터의 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에 송신할 수 있는 일 타입의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예를 들어, 웹사이트용), FTP 서버, NAS (network attached storage) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는 인터넷 접속을 포함한 표준 데이터 접속을 통하여 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은 무선 채널 (예를 들어, Wi-Fi 접속), 유선 접속 (예를 들어, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양자의 조합을 포함할 수도 있다. 컴퓨터 판독가능 저장 매체로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 그 양자의 조합일 수도 있다.

본 개시물의 기법들은 무선 애플리케이션들 또는 세팅들에 더하여 애플리케이션들 또는 세팅들을 적용할 수 있다. 기법들은 공중 경유 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 인터넷 스트리밍 비디오 송신들, 이를 테면 HTTP 를 통한 동적 적응형 스트리밍 (DASH), 데이터 저장 매체 상으로 인코딩되는 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들과 같은 다양한 멀티미디어 애플리케이션들의 지원 하에 비디오 코딩에 적용될 수도 있다. 일부 실시형태들에서, 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 텔레포니와 같은 애플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

도 1 에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 포함한다. 목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 소스 디바이스 (12) 의 비디오 인코더 (20) 는 다수의 표준들 또는 표준 확장들에 따르는 비디오 데이터를 포함한 비트스트림을 코딩하기 위한 기법들을 적용하도록 구성될 수도 있다. 다른 실시형태들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 어레인지먼트들을 포함할 수도 있다. 예를 들어, 소스 디바이스 (12) 는 외부 카메라와 같은 외부 비디오 소스 (18) 로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스 (14) 는 통합된 디스플레이 디바이스를 포함하는 것보다는, 외부 디스플레이 디바이스와 인터페이스할 수도 있다.

소스 디바이스 (12) 의 비디오 소스 (18) 는 비디오 캡처 디바이스, 이를 테면 비디오 카메라, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 콘텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스를 포함할 수도 있다. 비디오 소스 (18) 는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성된 비디오의 조합, 또는 소스 비디오로서 컴퓨터 그래픽스 기반 데이터를 생성할 수도 있다. 일부 실시형태들에서, 비디오 소스 (18) 가 비디오 카메라라면, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 캡처된, 프리-캡처된, 또는 컴퓨터 생성된 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 출력 인터페이스 (22) 에 의해, 상기 논의한 바와 같이, 컴퓨터 판독가능 저장 매체를 포함할 수도 있는 통신 채널 (16) 에 출력될 수도 있다.

컴퓨터 판독가능 저장 매체는 일시적 (transient) 매체들, 이를 테면 무선 브로드캐스트 또는 유선 네트워크 송신, 또는 저장 매체들 (예를 들어, 비일시적 저장 매체들), 이를 테면 하드 디스크, 플래시 드라이브, 콤팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터 판독가능 매체들을 포함할 수도 있다. 네트워크 서버 (미도시) 는 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에 (예를 들어, 네트워크 송신을 통해) 제공할 수도 있다. 디스크 스탬핑 시설과 같은 매체 생산 시설의 컴퓨팅 디바이스는 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 인코딩된 비디오 데이터를 포함한 디스크를 생산할 수도 있다. 따라서, 통신 채널 (16) 은 다양한 형태들의 하나 이상의 컴퓨터 판독가능 저장 매체들을 포함하는 것으로 이해될 수도 있다.

목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 통신 채널 (16) 로부터 정보를 수신할 수 있다. 통신 채널 (16) 의 정보는 비디오 인코더 (20) 에 의해 정의된 신택스 정보를 포함할 수도 있으며, 그 신택스 정보는 비디오 디코더 (30) 에 의해 이용될 수 있고, 블록들 및 다른 코딩된 유닛들, 예를 들어, GOP들의 특성들 및/또는 프로세싱을 설명하는 신택스 엘리먼트들을 포함한다. 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 다양한 디스플레이 디바이스들, 이를 테면 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스 중 임의의 것을 포함할 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는 비디오 코딩 표준, 이를 테면 현재 개발중인 고효율 비디오 코딩 (HEVC) 표준에 따라 동작할 수도 있고, HEVC 테스트 모델 (HM) 에 따를 수도 있다. 대안적으로, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 다른 특허 또는 산업 표준들, 이를 테면 ITU-T H.264 표준 (대안적으로는 MPEG-4, 파트 10, 어드밴스드 비디오 코딩 (AVC) 으로 지칭됨), 또는 이러한 표준들의 확장들에 따라 동작할 수도 있다. 그러나, 본 개시물의 기법들은 임의의 특정 코딩 표준에 제한되지 않는다. 비디오 코딩 표준들의 다른 예들은 MPEG-2 및 ITU-T H.263 을 포함한다. 도 1 에 도시하고 있지 않지만, 일부 양태들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각 오디오 인코더 및 디코더와 통합될 수도 있고, 공통 데이터 스트림 또는 별개의 데이터 스트림들에서의 오디오 및 비디오 양자의 인코딩을 핸들링하기 위해, 적절한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함할 수도 있다. 적용가능하다면, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 다른 프로토콜들, 이를 테면 사용자 데이터그램 프로토콜 (UDP) 에 따를 수도 있다.

도 1 은 단지 일 예일 뿐이며 본 개시물의 기법들은 인코딩 디바이스와 디코딩 디바이스 간의 임의의 데이터 통신을 반드시 포함하는 것은 아닌 비디오 코딩 세팅들 (예를 들어, 비디오 인코딩 또는 비디오 디코딩) 에 적용할 수도 있다. 다른 예들에서, 데이터는 로컬 메모리로부터 취출되고, 네트워크를 통해 스트리밍되며, 등등일 수 있다. 인코딩 디바이스는 데이터를 인코딩하고 그 데이터를 메모리에 저장할 수도 있고, 및/또는 디코딩 디바이스는 메모리로부터 데이터를 취출하고 그 데이터를 디코딩할 수도 있다. 많은 예들에서, 인코딩 및 디코딩은 서로 통신하지 않고 단순히 메모리로의 데이터를 인코딩하고 및/또는 메모리로부터의 데이터를 취출 및 디코딩하는 디바이스들에 의해 수행된다.

비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적 회로들 (ASIC들), 필드 프로그램가능 게이트 어레이들 (FPGA들), 이산 로직, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합들과 같은 다양한 적합한 인코더 회로부 중 임의의 것으로서 구현될 수도 있다. 기법들이 소프트웨어에서 부분적으로 구현되는 경우, 디바이스는 비일시적 컴퓨터 판독가능 매체에서 소프트웨어에 대한 명령들을 저장하고 그 명령들을 본 개시물의 기법들을 수행하기 위해 하나 이상의 프로세서들을 이용하는 하드웨어에서 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있으며, 이 중 어느 하나는 개별의 디바이스에서 조합된 인코더/디코더 (CODEC) 의 일부로서 통합될 수도 있다. 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 를 포함하는 디바이스는 통합된 회로, 마이크로프로세서, 및/또는 무선 통신 디바이스, 이를 테면 셀룰러 전화기를 포함할 수도 있다.

JCT-VC 는 HEVC 표준 및 그것의 확장의 개발에 착수하고 있으며, 버전 1 이 완결되었다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HM) 로 지칭된 비디오 코딩 디바이스의 진화 모델에 기초한다. HM 은 예를 들어, ITU-T H.264/AVC 에 따라 기존의 디바이스들에 대한 비디오 코딩 디바이스들의 여러 추가적인 능력들을 추정한다. 예를 들어, H.264 는 9 개의 인트라-예측 인코딩 모드들을 제공하지만, HM 은 무려 33 개나 되는 인트라-예측 인코딩 모드들을 제공할 수도 있다.

일반적으로, HM 의 작업 모델은 비디오 프레임 또는 픽처가 루마와 크로마 샘플들 양자를 포함하는 일 시퀀스의 트리블록들 또는 최대 코딩 유닛들 (LCU) 로 분할될 수도 있다는 것을 설명한다. 비트스트림 내의 신택스 데이터는 픽셀들의 수의 관점에서 최대 코딩 유닛인 LCU 에 대한 사이즈를 정의할 수도 있다. 슬라이스는 코딩 순서에 있어서 다수의 연속적인 트리블록들을 포함한다. 비디오 프레임 또는 픽처는 하나 이상의 슬라이스들로 파티셔닝될 수도 있다. 각각의 트리블록은 쿼드트리에 따라 코딩 유닛들 (CU들) 로 스플리팅될 수도 있다. 일반적으로, 쿼드트리 데이터 구조는 CU 당 하나의 노드를 포함하며, 루트 노드 (root node) 가 트리블록에 대응한다. CU 가 4 개의 서브-CU들로 스플리팅된다면, CU 에 대응하는 노드는 각각이 서브-CU들 중 하나에 대응하는 4 개의 리프 노드 (leaf node) 들을 포함한다.

쿼드트리 데이터 구조의 각각의 노드는 대응하는 CU 에 대한 신택스 데이터를 제공할 수도 있다. 예를 들어, 쿼드트리에서의 노드는 노드에 대응하는 CU 가 서브-CU들로 스플리팅되는지 여부를 나타내는 스플릿 플래그 (split flag) 를 포함할 수도 있다. CU 에 대한 신택스 엘리먼트들은 재귀적으로 정의될 수도 있고, CU 가 서브-CU들로 스플리팅되는지 여부에 의존할 수도 있다. CU 가 추가 스플리팅되지 않는다면, 그것은 리프-CU 로 지칭된다. 본 개시물에서, 오리지널 리프-CU 의 명시적 스플리팅이 없더라도, 리프-CU 의 4 개의 서브-CU들은 리프-CU들로 또한 지칭될 것이다. 예를 들어, 16x16 사이즈에서의 CU 가 추가 스플리팅되지 않는다면, 16x16 CU 가 결코 스플리팅되지 않았지만, 4 개의 8x8 서브-CU들이 또한 리프-CU들로 지칭될 것이다.

CU 는 CU 가 사이즈 구분 (size distinction) 을 갖지 않는다는 것을 제외하고는, H.264 표준의 매크로블록과 유사한 목적을 갖는다. 예를 들어, 트리블록은 4 개의 자식 노드들 (서브-CU들로도 지칭됨) 로 스플리팅될 수도 있고, 각각의 자식 노드는 결국 부모 노드일 수도 있고 다른 4 개의 자식 노드들로 스플리팅될 수도 있다. 쿼드트리의 리프 노드로 지칭되는 최종, 스플리팅되지 않은 자식 노드는 리프-CU 로도 지칭되는 코딩 노드를 포함한다. 코딩된 비트스트림과 연관된 신택스 데이터는 최대 CU 심도로 지칭되는, 트리블록이 스플리팅될 수도 있는 최대 횟수를 정의할 수도 있고, 또한 코딩 노드들의 최소 사이즈를 정의할 수도 있다. 이에 따라, 비트스트림은 또한 최소 코딩 유닛 (SCU) 을 정의할 수도 있다. 본 개시물은 HEVC 맥락에서, CU, PU, 또는 TU 중 임의의 것, 또는 다른 표준들의 맥락에서 유사한 데이터 구조들 (예를 들어, H.264/AVC 에서 매크로블록들 및 그의 서브-블록들) 을 지칭하기 위해 용어 "블록" 을 사용한다.

CU 는 코딩 노드 및 그 코딩 노드와 연관된 예측 유닛들 (PU들) 및 변환 유닛들 (TU들) 을 포함한다. CU 의 사이즈는 코딩 노드의 사이즈에 대응하며 형상이 정사각형이어야 한다. CU 의 사이즈는 8x8 픽셀들로부터 최대 64x64 픽셀들 또는 그 이상을 가진 트리블록의 사이즈까지의 범위일 수도 있다. 각각의 CU 는 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다. CU 와 연관된 신택스 데이터는 예를 들어, CU 의 하나 이상의 PU들로의 파티셔닝을 설명할 수도 있다. 파티셔닝 모드들은 CU 가 스킵 또는 직접 모드 인코딩되는지, 인트라-예측 모드 인코딩되는지, 또는 인터-예측 모드 인코딩되는지 여부 간에 상이할 수도 있다. PU들은 형상이 비-정사각형인 것으로 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는 또한, 예를 들어, CU 의 쿼드트리에 따른 하나 이상의 TU들로의 파티셔닝을 설명할 수도 있다. TU 는 형상이 정사각형 또는 비-정사각형 (예를 들어, 직사각형) 일 수 있다.

HEVC 표준은 상이한 CU들에 대해 상이할 수도 있는 TU들에 따른 변환들을 허용한다. TU들은 통상 파티셔닝된 LCU 에 대해 정의된 주어진 CU 내의 PU들의 사이즈에 기초하여 사이징되지만, 이것이 항상 그렇지는 않을 수도 있다. TU들은 통상 PU들과 동일한 사이즈이거나 PU들보다 더 작다. 일부 예들에서, CU 에 대응하는 잔차 샘플들은 "잔차 쿼드 트리" (RQT) 로 공지된 쿼드트리 구조를 이용하여 더 작은 유닛들로 서브분할될 수도 있다. RQT 의 리프 노드들은 변환 유닛들 (TU들) 로 지칭될 수도 있다. TU들과 연관된 픽셀 차이 값들은 양자화될 수도 있는 변환 계수들을 생성하기 위해 변환될 수도 있다.

리프-CU 는 하나 이상의 예측 유닛들 (PU들) 을 포함할 수도 있다. 일반적으로, PU 는 대응하는 CU 의 전부 또는 부분에 대응하는 공간 영역을 표현하고, PU 에 대한 참조 샘플을 취출하기 위한 데이터를 포함할 수도 있다. 더욱이, PU 는 예측에 관련된 데이터를 포함한다. 예를 들어, PU 가 인트라-모드 인코딩되는 경우, 그 PU 에 대한 데이터는 잔차 쿼드트리 (RTQ) 에 포함될 수도 있으며, 이는 PU 에 대응하는 TU 에 대한 인트라-예측 모드를 설명하는 데이터를 포함할 수도 있다. 다른 예로서, PU 가 인터-모드 인코딩되는 경우, PU 는 PU 에 대한 하나 이상의 모션 벡터들을 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 해상도 (예를 들어, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 가리키는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예를 들어, List 0, List 1, 또는 List C) 를 설명할 수도 있다.

하나 이상의 PU들을 갖는 리프-CU 는 또한 하나 이상의 변환 유닛들 (TU들) 을 포함할 수도 있다. 변환 유닛들은 상기 논의한 바와 같이, RQT (TU 쿼드트리 구조로도 지칭됨) 를 이용하여 특정될 수도 있다. 예를 들어, 스플릿 플래그는 리프-CU 가 4 개의 변환 유닛들로 스플리팅되는지 여부를 나타낼 수도 있다. 그 후, 각각의 변환 유닛은 추가의 서브-TU들로 추가 스플리팅될 수도 있다. TU 가 추가 스플리팅되지 않을 때, 그것은 리프-TU 로 지칭될 수도 있다. 일반적으로, 인트라 코딩을 위해, 리프-CU 에 속하는 모든 리프-TU들은 동일한 인트라 예측 모드를 공유한다. 즉, 동일한 인트라-예측 모드는 일반적으로 리프-CU 의 모든 TU들에 대한 예측된 값들을 계산하기 위해 적용된다. 인트라 코딩을 위해, 비디오 인코더는 TU 에 대응하는 CU 의 부분과 오리지널 블록 간의 차이로서, 인트라 예측 모드를 이용하여 각각의 리프-TU 에 대한 잔차 값을 계산할 수도 있다. TU 는 PU 의 사이즈에 반드시 제한되는 것은 아니다. 따라서, TU들은 PU 보다 더 크거나 더 작을 수도 있다. 인트라 코딩을 위해, PU 는 동일한 CU 에 대한 대응하는 리프-TU 와 병치될 수도 있다. 일부 예들에서, 리프-TU 의 최대 사이즈는 대응하는 리프-CU 의 사이즈에 대응할 수도 있다.

더욱이, 리프-CU들의 TU들은 또한, 잔차 쿼드트리들 (RQT들) 로 지칭된, 개별의 쿼드트리 데이터 구조들과 연관될 수도 있다. 즉, 리프-CU 는 그 리프-CU 가 TU들로 파티셔닝되는 방법을 나타내는 쿼드트리를 포함할 수도 있다. TU 쿼드트리의 루트 노드는 일반적으로 리프-CU 에 대응하는 한편, CU 쿼드트리의 루트 노드는 일반적으로 트리블록 (또는 LCU) 에 대응한다. 스플리팅되지 않는 RQT 의 TU들은 리프-TU들로 지칭된다. 일반적으로, 본 개시물은 다르게 언급하지 않는다면, 리프-CU 및 리프-TU 를 각각 지칭하기 위해 용어들 CU 및 TU 를 사용한다.

비디오 시퀀스는 통상 일련의 비디오 프레임들 또는 픽처들을 포함한다. 픽처들의 그룹 (GOP) 은 일반적으로 비디오 픽처들 중 일련의 하나 이상을 포함한다. GOP 는 GOP 의 헤더, 픽처들 중 하나 이상의 픽처들의 헤더, 또는 다른 곳에, GOP 에 포함된 픽처들의 수를 설명하는 신택스 데이터를 포함할 수도 있다. 픽처의 각각의 슬라이스는 개별의 슬라이스에 대한 인코딩 모드를 설명하는 슬라이스 신택스 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 통상 비디오 데이터를 인코딩하기 위하여 개개의 비디오 슬라이스들 내의 비디오 블록들에 대해 동작한다. 비디오 블록은 CU 내의 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정된 또는 가변하는 사이즈들을 가질 수도 있고, 특정된 코딩 표준에 따라 사이즈가 상이할 수도 있다.

일 예로서, HM 은 다양한 PU 사이즈들에 있어서의 예측을 지원한다. 특정 CU 의 사이즈가 2Nx2N 인 것을 가정하면, HM 은 2Nx2N 또는 NxN 의 PU 사이즈들에 있어서의 인트라-예측, 및 2Nx2N, 2NxN, Nx2N, 또는 NxN 의 대칭적인 PU 사이즈들에 있어서의 인터-예측을 지원한다. HM 은 또한 2NxnU, 2NxnD, nLx2N, 및 nRx2N 의 PU 사이즈들에 있어서의 인터-예측을 위한 비대칭적 파티셔닝을 지원한다. 비대칭적 파티셔닝에서, CU 의 하나의 방향은 파티셔닝되지 않는 한편, 다른 방향은 25% 및 75% 로 파티셔닝된다. 25% 파티션에 대응하는 CU 의 부분은 "n" 다음에 "Up (상)", "Down (하)", "Left (좌)", 또는 "Right (우)" 의 표시가 오는 것에 의해 표시된다. 따라서, 예를 들어, "2NxnU" 는 상부의 2Nx0.5N PU 및 하부의 2Nx1.5N PU 로 수평으로 파티셔닝되는 2Nx2N CU 를 지칭한다.

본 개시물에서, "NxN" 및 "N 바이 N" 은 수직 및 수평 차원들의 관점에서의 비디오 블록의 픽셀 차원들, 예를 들어, 16x16 픽셀들 또는 16 바이 16 픽셀들을 지칭하기 위해 상호교환가능하게 사용될 수도 있다. 일반적으로, 16x16 블록은 수직 방향에서의 16 개의 픽셀들 (y=16) 및 수평 방향에서의 16 개의 픽셀들 (x=16) 을 가질 것이다. 마찬가지로, NxN 블록은 일반적으로 수직 방향에서의 N 개의 픽셀들 및 수평 방향에서의 N 개의 픽셀들을 가지며, 여기서 N 은 음이 아닌 정수 값을 표현한다. 블록에서의 픽셀들은 행 (row) 들 및 열 (column) 들로 배열될 수도 있다. 더욱이, 블록들은 수평 방향에서, 수직 방향에서와 동일한 수의 픽셀들을 반드시 가질 필요는 없다. 예를 들어, 블록들은 NxM 픽셀들을 포함할 수도 있으며, 여기서 M 은 N 과 반드시 동일하지는 않다.

CU 의 PU들을 이용한 인트라-예측 또는 인터-예측 코딩에 후속하여, 비디오 인코더 (20) 는 CU 의 TU들에 대한 잔차 데이터를 계산할 수도 있다. PU들은 공간 도메인 (픽셀 도메인으로도 지칭됨) 에서 예측 픽셀 데이터를 생성하는 방법 또는 모드를 설명하는 신택스 데이터를 포함할 수도 있고 TU들은 변환, 예를 들어, 이산 사인 변환 (DST), 이산 코사인 변환 (DCT), 정수 변환, 웨이블렛 변환, 또는 개념상 유사한 변환의 잔차 비디오 데이터에 대한 적용에 후속하는 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과 PU들에 대응하는 예측 값들 간의 픽셀 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는 CU 에 대한 잔차 데이터를 포함한 TU들을 형성할 수도 있고, 그 후 TU들을 변환하여 CU 에 대한 변환 계수들을 생성할 수도 있다.

변환 계수들을 생성하기 위한 임의의 변환들에 후속하여, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 그것의 가장 폭넓은 통상적인 의미를 갖도록 의도된 폭넓은 용어이다. 하나의 실시형태에서, 양자화는 변환 계수들이 계수들을 표현하는데 이용되는 데이터의 양을 가능한 대로 감소시키기 위해 양자화되어, 추가 압축을 제공하는 프로세스를 지칭한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 예를 들어, n-비트 값은 양자화 동안 m-비트 값으로 라운드 다운될 수도 있으며, 여기서 n 은 m 보다 더 크다.

양자화에 후속하여, 비디오 인코더는 변환 계수들을 스캔하여, 양자화된 변환 계수들을 포함하는 2 차원 매트릭스로부터 1 차원 벡터를 생성할 수도 있다. 스캔은 더 높은 에너지 (및 그에 따른 더 낮은 주파수) 계수들을 어레이의 전방에 배치하고 더 낮은 에너지 (및 그에 따른 더 높은 주파수) 계수들을 그 어레이의 후방에 배치하도록 설계될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 미리 정의된 스캔 순서를 활용하여 양자화된 변환 계수들을 스캔하여 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 1 차원 벡터를 형성하기 위해 양자화된 변환 계수들을 스캔한 후, 비디오 인코더 (20) 는 예를 들어, 콘텍스트-적응적 가변 길이 코딩 (CAVLC), 콘텍스트-적응적 이진 산술 코딩 (CABAC), 신택스-기반 콘텍스트-적응적 이진 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론에 따라 1 차원 벡터를 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한, 비디오 데이터를 디코딩하는데 있어서의 비디오 디코더 (30) 에 의한 이용을 위해 인코딩된 비디오 데이터와 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

CABAC 을 수행하기 위해, 비디오 인코더 (20) 는 송신될 심볼에 콘텍스트 모델 내의 콘텍스트를 할당할 수도 있다. 콘텍스트는 예를 들어, 심볼의 이웃하는 값들이 넌-제로인지 아닌지 여부와 관련될 수도 있다. CAVLC 를 수행하기 위해, 비디오 인코더 (20) 는 송신될 심볼에 대한 가변 길이 코드를 선택할 수도 있다. VLC 에서의 코드워드들은 상대적으로 더 짧은 코드들이 더 가능성 있는 심볼들에 대응하는 한편, 더 긴 코드들은 덜 가능성 있는 심볼들에 대응하도록 구성될 수도 있다. 이 방식으로, VLC 의 이용은 예를 들어, 송신될 각각의 심볼에 대해 동일한 길이의 코드워드들을 이용하는 것에 비해 비트 절약들을 달성할 수도 있다. 확률 결정은 심볼에 할당된 콘텍스트에 기초할 수도 있다.

비디오 인코더 (20) 는 예를 들어, 프레임 헤더, 블록 헤더, 슬라이스 헤더, 또는 GOP 헤더에서, 신택스 데이터, 이를 테면 블록 기반 신택스 데이터, 프레임 기반 신택스 데이터, 및 GOP 기반 신택스 데이터를 비디오 디코더 (30) 로 추가 전송할 수도 있다. GOP 신택스 데이터는 개별의 GOP 에서의 프레임들의 수를 설명할 수도 있고, 프레임 신택스 데이터는 대응하는 프레임을 인코딩하는데 이용된 인코딩/예측 모드를 나타낼 수도 있다.

비디오 인코더

도 2a 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 비디오 인코더의 일 예를 예시하는 블록 다이어그램이다. 비디오 인코더 (20) 는 HEVC 를 위해서와 같이, 비디오 비트스트림의 단일 계층을 프로세싱하도록 구성될 수도 있다. 게다가, 비디오 인코더 (20) 는 계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어의 방법들, 계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하는 방법들, 및 상기 및 도 4 및 도 5 에 대하여 이하 더 상세히 설명된 관련 프로세스들을 포함하는 (그러나 이들에 제한되지는 않는다) 본 개시물의 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다. 하나의 예로서, 계층간 예측 유닛 (66) (제공될 경우) 은 본 개시물에서 설명된 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다. 그러나, 본 개시물의 양태들은 그렇게 제한되지는 않는다. 일부 예들에서, 본 개시물에서 설명된 기법들은 비디오 인코더 (20) 의 다양한 컴포넌트들 간에 공유될 수도 있다. 일부 예들에서, 추가적으로 또는 대안적으로, 프로세서 (미도시) 는 본 개시물에서 설명된 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다.

설명을 목적으로, 본 개시물은 HEVC 코딩의 맥락에서 비디오 인코더 (20) 를 설명한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에 적용가능할 수도 있다. 도 2a 의 인코더 (20) 는 코덱의 단일 계층을 예시한다. 그러나, 도 2b 에 대하여 추가 설명될 바와 같이, 비디오 인코더 (20) 의 일부 또는 전부는 멀티-계층 코덱에 따라 프로세싱하기 위해 중복될 수도 있다.

비디오 인코더 (20) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라-, 인터-, 및 계층간 예측 (때로는, 인트라-, 인터-, 또는 계층간 코딩으로 지칭됨) 을 수행할 수도 있다. 인트라 코딩은 주어진 비디오 프레임 또는 픽처 내의 비디오에서의 공간적 리던던시를 감소 또는 제거하기 위해 공간 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 프레임들 또는 픽처들 내의 비디오에서의 시간적 리던던시를 감소 또는 제거하기 위해 시간 예측에 의존한다. 계층간 코딩은 동일한 비디오 코딩 시퀀스 내의 상이한 계층(들) 내의 비디오에 기초한 예측에 의존한다. 인트라-모드 (I 모드) 는 여러 공간 기반 코딩 모드들 중 임의의 것을 지칭할 수도 있다. 인터-모드들, 이를 테면 단방향 예측 (P 모드) 또는 양예측 (B 모드) 은 여러 시간 기반 코딩 모드들 중 임의의 것을 지칭할 수도 있다.

도 2a 에 도시한 바와 같이, 비디오 인코더 (20) 는 인코딩될 비디오 프레임 내의 현재의 비디오 블록을 수신한다. 도 2a 의 예에서, 비디오 인코더 (20) 는 모드 선택 유닛 (40), 참조 프레임 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 모드 선택 유닛 (40) 은 결국, 모션 보상 유닛 (44), 모션 추정 유닛 (42), 인트라 예측 유닛 (46), 계층간 예측 유닛 (66), 및 파티션 유닛 (48) 을 포함한다. 참조 프레임 메모리 (64) 는 디코딩된 픽처 버퍼를 포함할 수도 있다. 디코딩된 픽처 버퍼는 그것의 통상적인 의미를 갖는 폭넓은 용어이며, 일부 실시형태들에서는 참조 프레임들의 비디오 코덱-관리된 데이터 구조를 지칭한다.

비디오 블록 복원을 위해, 비디오 인코더 (20) 는 또한, 역 양자화 유닛 (58), 역 변환 유닛 (60), 및 합산기 (62) 를 포함한다. 디블록킹 필터 (도 2a 에는 미도시) 가 또한, 복원된 비디오에서 블록키니스 아티팩트들을 제거하기 위해 블록 경계들을 필터링하도록 포함될 수도 있다. 원한다면, 디블록킹 필터는 통상 합산기 (62) 의 출력을 필터링할 것이다. (루프 내 또는 루프 이후의) 추가적인 필터들이 또한 디블록킹 필터에 더하여 이용될 수도 있다. 이러한 필터들은 간결함을 위해 도시되지 않지만, 원한다면, (루프내 필터로서) 합산기 (50) 의 출력을 필터링할 수도 있다.

인코딩 프로세스 동안, 비디오 인코더 (20) 는 코딩될 비디오 프레임 또는 슬라이스를 수신한다. 프레임 또는 슬라이스는 다수의 비디오 블록들로 분할될 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 시간 예측을 제공하기 위해 하나 이상의 참조 프레임들에서의 하나 이상의 블록들에 대하여 수신된 비디오 블록의 인터-예측 코딩을 수행한다. 인트라 예측 유닛 (46) 은 대안적으로 공간 예측을 제공하기 위해 코딩될 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃하는 블록들에 대하여 수신된 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 비디오 인코더 (20) 는 예를 들어, 비디오 데이터의 각각의 블록에 대한 적절한 코딩 모드를 선택하기 위해, 다수의 코딩 패스들을 수행할 수도 있다.

더욱이, 파티션 유닛 (48) 은 이전의 코딩 패스들에서의 이전의 파티셔닝 스킴들의 평가에 기초하여, 비디오 데이터의 블록들을 서브-블록들로 파티셔닝할 수도 있다. 예를 들어, 파티션 유닛 (48) 은 초기에는 프레임 또는 슬라이스를 LCU들로 파티셔닝하고 LCU들 각각을 레이트-왜곡 분석 (예를 들어, 레이트-왜곡 최적화 등) 에 기초하여 서브-CU들로 파티셔닝할 수도 있다. 모드 선택 유닛 (40) 은 LCU 를 서브-CU들로 파티셔닝하는 것을 나타내는 쿼드트리 데이터 구조를 추가 생성할 수도 있다. 쿼드트리의 리프-노드 CU들은 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다.

모드 선택 유닛 (40) 은 예를 들어, 에러 결과들에 기초하여 코딩 모드들, 인트라, 인터 또는 계층간 예측 모드 중 하나를 선택하고, 결과의 인트라-, 인터-, 또는 계층간 코딩된 블록을, 잔차 블록 데이터를 생성하기 위해 합산기 (50) 에, 그리고 참조 프레임으로서의 이용을 위한 인코딩된 블록을 복원하기 위해 합산기 (62) 에 제공할 수도 있다. 모드 선택 유닛 (40) 은 또한, 신택스 엘리먼트들, 이를 테면 모션 벡터들, 인트라-모드 표시자들, 파티션 정보, 및 다른 이러한 신택스 정보를 엔트로피 인코딩 유닛 (56) 에 제공한다.

모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적 목적들을 위해 별도로 예시된다. 모션 추정 유닛 (42) 에 의해 수행되는 모션 추정은, 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 현재의 프레임 (또는 다른 코딩된 유닛) 내에서 코딩되는 현재의 블록에 대한 참조 프레임 (또는 다른 코딩된 유닛) 내의 예측 블록에 대한 현재의 비디오 프레임 또는 픽처 내의 비디오 블록의 PU 의 변위를 나타낼 수도 있다. 예측 블록은 절대차의 합 (SAD), 제곱차의 합 (SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 픽셀 차이의 관점에서, 코딩될 블록에 밀접하게 매칭하는 것으로 확인되는 블록이다. 일부 예들에서, 비디오 인코더 (20) 는 참조 프레임 메모리 (64) 에 저장된 참조 픽처들의 서브-정수 픽셀 포지션들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 픽처의 1/4 픽셀 포지션들, 1/8 픽셀 포지션들, 또는 다른 분수 픽셀 포지션들의 값들을 보간할 수도 있다. 따라서, 모션 추정 유닛 (42) 은 전체 픽셀 포지션들 및 분수 픽셀 포지션들에 대해 모션 탐색을 수행하고 분수 픽셀 정밀도를 가진 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은 PU 의 포지션을 참조 픽처의 예측 블록의 포지션과 비교함으로써 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 계산한다. 참조 픽처는 각각이 참조 프레임 메모리 (64) 에 저장된 하나 이상의 참조 픽처들을 식별하는 제 1 참조 픽처 리스트 (List 0) 또는 제 2 참조 픽처 리스트 (List 1) 에서 선택될 수도 있다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.

모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은, 모션 추정 유닛 (42) 에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 또는 생성하는 것을 수반할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 일부 예들에서, 기능상 통합될 수도 있다. 현재의 비디오 블록의 PU 에 대한 모션 벡터를 수신할 때, 모션 보상 유닛 (44) 은 참조 픽처 리스트들 중 하나에서 모션 벡터가 가리키는 예측 블록을 로케이팅할 수도 있다. 합산기 (50) 는 이하 논의한 바와 같이, 코딩되는 현재의 비디오 블록의 픽셀 값들에서 예측 블록의 픽셀 값들을 감산하여, 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 일부 실시형태들에서, 모션 추정 유닛 (42) 은 루마 컴포넌트들에 대해 모션 추정을 수행할 수 있고, 모션 보상 유닛 (44) 은 크로마 컴포넌트들 및 루마 컴포넌트들 양자에 대해 루마 컴포넌트들에 기초하여 계산된 모션 벡터들을 이용할 수 있다. 모드 선택 유닛 (40) 은 비디오 슬라이스의 비디오 블록들을 디코딩하는데 있어서의 비디오 디코더 (30) 에 의한 이용을 위해 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라 예측 유닛 (46) 은 상기 설명한 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측 또는 계산할 수도 있다. 특히, 인트라 예측 유닛 (46) 은 현재의 블록을 인코딩하기 위해 이용할 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 유닛 (46) 은 예를 들어, 별개의 인코딩 패스들 동안 다양한 인트라-예측 모드들을 이용하여 현재의 블록을 인코딩할 수도 있고, 인트라 예측 유닛 (46) (또는 일부 예들에서 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 이용하기 위한 적절한 인트라-예측 모드를 선택할 수도 있다.

예를 들어, 인트라 예측 유닛 (46) 은 다양한 테스트된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산하고, 테스트된 모드들 중에서 최적의 레이트-왜곡 특성들을 갖는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로 인코딩된 블록과 그 인코딩된 블록을 생성하기 위해 인코딩되었던 오리지널의 인코딩되지 않은 블록 간의 왜곡 (또는 에러) 의 양은 물론, 인코딩된 블록을 생성하는데 이용된 비트레이트 (즉, 비트들의 수) 를 결정한다. 인트라 예측 유닛 (46) 은 어느 인트라-예측 모드가 블록에 대한 최적의 레이트-왜곡 값을 보이는지를 결정하기 위해 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터의 비율들을 계산할 수도 있다.

블록에 대한 인트라-예측 모드를 선택한 후, 인트라 예측 유닛 (46) 은 블록에 대한 선택된 인트라-예측 모드를 나타내는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라-예측 모드를 나타내는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 복수의 인트라-예측 모드 인덱스 테이블들 및 복수의 수정된 인트라-예측 모드 인덱스 테이블들 (코드워드 맵핑 테이블들로도 지칭됨) 을 포함할 수도 있는 송신된 비트스트림 구성 데이터에, 다양한 블록들에 대한 인코딩 콘텍스트들의 정의들, 및 콘텍스트들 각각에 이용하기 위한 가장 가능성 있는 인트라-예측 모드, 인트라-예측 모드 인덱스 테이블, 및 수정된 인트라-예측 모드 인덱스 테이블의 표시들을 포함할 수도 있다.

비디오 인코더 (20) 는 계층간 예측 유닛 (66) 을 포함할 수도 있다. 계층간 예측 유닛 (66) 은 SVC 에서 이용가능한 하나 이상의 상이한 계층들 (예를 들어, 기본 및 참조 계층) 을 이용하여 현재의 블록 (예를 들어, EL 에서의 현재의 블록) 을 예측하도록 구성된다. 이러한 예측은 계층간 예측으로 지칭될 수도 있다. 계층간 예측 유닛 (66) 은 계층간 리던던시를 감소시키기 위해 예측 방법들을 활용하여, 코딩 효율을 개선시키고 컴퓨테이션 리소스 요건들을 감소시킨다. 계층간 예측의 일부 예들은 계층간 인트라 예측, 계층간 모션 예측, 및 계층간 잔차 예측을 포함한다. 계층간 인트라 예측은 인핸스먼트 계층에서의 현재의 블록을 예측하기 위해 기본 계층에서의 공동-위치된 블록들의 복원을 이용한다. 계층간 모션 예측은 인핸스먼트 계층에서의 모션을 예측하기 위해 기본 계층의 모션 정보를 이용한다. 계층간 잔차 예측은 인핸스먼트 계층의 잔차를 예측하기 위해 기본 계층의 잔차를 이용한다. 기본 및 인핸스먼트 계층들이 상이한 공간 해상도들을 가질 때, 시간적 스케일링 함수를 이용한 공간적 모션 벡터 스케일링 및/또는 계층간 포지션 맵핑이 이하 더 상세히 설명한 바와 같이, 계층간 예측 유닛 (66) 에 의해 수행될 수도 있다.

비디오 인코더 (20) 는 코딩되는 오리지널 비디오 블록에서 모드 선택 유닛 (40) 으로부터의 예측 데이터를 감산함으로써 잔차 비디오 블록을 형성한다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 변환 프로세싱 유닛 (52) 은 변환, 이를 테면 이산 코사인 변환 (DCT) 또는 개념상 유사한 변환을 잔차 블록에 적용하여, 잔차 변환 계수 값들을 포함하는 비디오 블록을 생성한다. 변환 프로세싱 유닛 (52) 은 DCT 와 개념상 유사한 다른 변환들을 수행할 수도 있다. 예를 들어, 이산 사인 변환들 (DST), 웨이블렛 변환들, 정수 변환들, 서브-대역 변환들 또는 다른 타입들의 변환들이 또한 이용될 수 있다.

변환 프로세싱 유닛 (52) 은 잔차 블록에 변환을 적용하여 잔차 변환 계수들의 블록을 생성할 수 있다. 변환은 잔차 정보를 픽셀 값 도메인으로부터 변환 도메인, 이를 테면 주파수 도메인으로 컨버팅할 수도 있다. 변환 프로세싱 유닛 (52) 은 결과의 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 추가 감소시킨다. 양자화 프로세스는 계수들 중 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 일부 예들에서, 양자화 유닛 (54) 은 그 후 양자화된 변환 계수들을 포함한 매트릭스의 스캔을 수행할 수도 있다. 대안적으로는, 엔트로피 인코딩 유닛 (56) 이 스캔을 수행할 수도 있다.

양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 콘텍스트-적응적 가변 길이 코딩 (CAVLC), 콘텍스트-적응적 이진 산술 코딩 (CABAC), 신택스-기반 콘텍스트-적응적 이진 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 코딩 기법을 수행할 수도 있다. 콘텍스트 기반 엔트로피 코딩의 경우에, 콘텍스트는 이웃하는 블록들에 기초할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 코딩에 후속하여, 인코딩된 비트스트림은 다른 디바이스 (예를 들어, 비디오 디코더 (30)) 에 송신되거나 또는 추후 송신 또는 취출을 위해 아카이브될 수도 있다.

역 양자화 유닛 (58) 및 역 변환 유닛 (60) 은 (예를 들어, 참조 블록으로서의 추후 이용을 위해) 픽셀 도메인에서의 잔차 블록을 복원하기 위해, 각각 역 양자화 및 역 변환을 적용한다. 모션 보상 유닛 (44) 은 잔차 블록을 참조 프레임 메모리 (64) 의 프레임들 중 하나의 프레임의 예측 블록에 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한, 모션 추정에서의 이용을 위한 서브-정수 픽셀 값들을 계산하기 위해 복원된 잔차 블록에 하나 이상의 보간 필터들을 적용할 수도 있다. 합산기 (62) 는 참조 프레임 메모리 (64) 에서의 저장을 위한 복원된 비디오 블록을 생성하기 위해 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산한다. 복원된 비디오 블록은 후속의 비디오 프레임에서의 블록을 인터-코딩하기 위한 참조 블록으로서 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 이용될 수도 있다.

멀티-계층 비디오 인코더

도 2b 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 멀티-계층 비디오 인코더 (21) 의 일 예를 예시하는 블록 다이어그램이다. 비디오 인코더 (21) 는 SHVC 및 멀티뷰 코딩을 위해서와 같이, 멀티-계층 비디오 프레임들을 프로세싱하도록 구성될 수도 있다. 게다가, 비디오 인코더 (21) 는 본 개시물의 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다.

비디오 인코더 (21) 는 각각이 도 2a 의 비디오 인코더 (20) 로서 구성될 수도 있고 비디오 인코더 (20) 에 대하여 상기 설명된 기능들을 수행할 수도 있는 비디오 인코더 (20A) 및 비디오 인코더 (20B) 를 포함한다. 게다가, 참조 번호들의 재사용에 의해 나타낸 바와 같이, 비디오 인코더들 (20A 및 20B) 은 비디오 인코더 (20) 로서 시스템들 및 서브시스템들의 적어도 일부를 포함할 수도 있다. 비디오 인코더 (21) 는 2 개의 비디오 인코더들 (20A 및 20B) 을 포함하는 것으로서 예시되지만, 비디오 인코더 (21) 는 이로써 제한되지 않고 임의의 수의 비디오 인코더 (20) 계층들을 포함할 수도 있다. 일부 실시형태들에서, 비디오 인코더 (21) 는 액세스 유닛에서의 각각의 픽처 또는 프레임에 대해 비디오 인코더 (20) 를 포함할 수도 있다. 예를 들어, 5 개의 픽처들을 포함하는 액세스 유닛은 5 개의 인코더 계층들을 포함하는 비디오 인코더에 의해 프로세싱 또는 인코딩될 수도 있다. 일부 실시형태들에서, 비디오 인코더 (21) 는 액세스 유닛에서의 프레임들보다 더 많은 인코더 계층들을 포함할 수도 있다. 일부 이러한 경우들에서, 비디오 인코더 계층들 중 일부는 일부 액세스 유닛들을 프로세싱할 때 비활성일 수도 있다.

비디오 인코더들 (20A 및 20B) 에 더하여, 비디오 인코더 (21) 는 리샘플링 유닛 (90) 을 포함할 수도 있다. 리샘플링 유닛 (90) 은, 일부 경우들에서, 예를 들어, 인핸스먼트 계층을 생성하기 위해, 수신된 비디오 프레임의 기본 계층을 업샘플링할 수도 있다. 리샘플링 유닛 (90) 은 프레임의 수신된 기본 계층과 연관된 특정 정보를 업샘플링할 수도 있지만, 다른 정보는 업샘플링하지 않는다. 예를 들어, 리샘플링 유닛 (90) 은 기본 계층의 픽셀들의 수 또는 공간 사이즈를 업샘플링할 수도 있지만, 슬라이스들의 수 또는 픽처 순서 카운트는 계속 일정할 수도 있다. 일부 경우들에서, 리샘플링 유닛 (90) 은 수신된 비디오를 프로세싱하지 않을 수도 있고 및/또는 옵션적일 수도 있다. 예를 들어, 일부 경우들에서, 모드 선택 유닛 (40) 은 업샘플링을 수행할 수도 있다. 일부 실시형태들에서, 리샘플링 유닛 (90) 은 계층을 업샘플링하고 일 세트의 슬라이스 경계 룰들 및/또는 래스터 스캔 룰들에 따르기 위해 하나 이상의 슬라이스들을 재조직화, 재정의, 수정, 또는 조정하도록 구성된다. 액세스 유닛에서의 기본 계층 또는 하위 계층을 업샘플링하는 것으로서 주로 설명되지만, 일부 경우들에서, 리샘플링 유닛 (90) 은 계층을 다운샘플링할 수도 있다. 예를 들어, 비디오의 스트리밍 동안 대역폭이 감소된다면, 프레임은 업샘플링되는 대신에 다운샘플링될 수도 있다. 리샘플링 유닛 (90) 은 크롭핑 (cropping) 및/또는 패딩 (padding) 동작들도 물론 수행하도록 추가 구성될 수도 있다.

리샘플링 유닛 (90) 은 하위 계층 인코더 (예를 들어, 비디오 인코더 (20A)) 의 디코딩된 픽처 버퍼 (114) 로부터 픽처 또는 프레임 (또는 픽처와 연관된 픽처 정보) 를 수신하고 픽처 (또는 수신된 픽처 정보) 를 업샘플링하도록 구성될 수도 있다. 이 업샘플링된 픽처는 그 후 하위 계층 인코더와 동일한 액세스 유닛에서 픽처를 인코딩하도록 구성된 상위 계층 인코더 (예를 들어, 비디오 인코더 (20B)) 의 모드 선택 유닛 (40) 에 제공될 수도 있다. 일부 경우들에서, 상위 계층 인코더는 하위 계층 인코더에서 제거된 하나의 계층이다. 다른 경우들에서, 도 2b 의 계층 0 비디오 인코더와 계층 1 비디오 인코더 사이에는 하나 이상의 상위 계층 인코더들이 있을 수도 있다.

일부 경우들에서, 리샘플링 유닛 (90) 은 생략 또는 바이패스될 수도 있다. 이러한 경우들에서, 비디오 인코더 (20A) 의 디코딩된 픽처 버퍼 (64) 로부터의 픽처는 직접, 또는 리샘플링 유닛 (90) 에 적어도 제공되지 않고, 비디오 인코더 (20B) 의 모드 선택 유닛 (40) 에 제공될 수도 있다. 예를 들어, 비디오 인코더 (20B) 에 제공된 비디오 데이터 및 비디오 인코더 (20A) 의 디코딩된 픽처 버퍼 (64) 로부터의 참조 픽처가 동일한 사이즈 또는 해상도의 것이라면, 참조 픽처는 임의의 리샘플링 없이 비디오 인코더 (20B) 에 제공될 수도 있다.

일부 실시형태들에서, 비디오 인코더 (21) 는 비디오 데이터를 비디오 인코더 (20A) 에 제공하기 전에 다운샘플링 유닛 (94) 을 이용하여 하위 계층 인코더에 제공될 비디오 데이터를 다운샘플링한다. 대안적으로, 다운샘플링 유닛 (94) 은 비디오 데이터를 업샘플링 또는 다운샘플링가능한 리샘플링 유닛 (90) 일 수도 있다. 또 다른 실시형태들에서, 다운샘플링 유닛 (94) 은 생략될 수도 있다.

도 2b 에 예시한 바와 같이, 비디오 인코더 (21) 는 멀티플렉서 (98), 또는 MUX 를 더 포함할 수도 있다. MUX (98) 는 비디오 인코더 (21) 로부터의 조합된 비트스트림을 출력할 수 있다. 조합된 비트스트림은 비디오 인코더들 (20A 및 20B) 각각으로부터 비트스트림을 취하고 어느 비트스트림이 주어진 시간에 출력되는지를 교대함으로써 생성될 수도 있다. 일부 경우들에서 2 개 (또는 3 개 이상의 비디오 인코더 계층들의 경우에는 3 개 이상) 의 비트스트림들로부터의 비트들은 한번에 1 비트씩 교대될 수도 있지만, 많은 경우들에서, 비트스트림들은 상이하게 조합된다. 예를 들어, 출력 비트스트림은 선택된 비트스트림을 한번에 하나의 블록씩 교대함으로써 생성될 수도 있다. 다른 예에서, 출력 비트스트림은 비디오 인코더들 (20A 및 20B) 각각으로부터 블록들의 넌-1:1 비율을 출력함으로써 생성될 수도 있다. 예를 들어, 2 개의 블록들은 비디오 인코더 (20A) 로부터 출력된 각각의 블록에 대해 비디오 인코더 (20B) 로부터 출력될 수도 있다. 일부 실시형태들에서, MUX (98) 로부터의 출력 스트림은 프리프로그램될 수도 있다. 다른 실시형태들에서, MUX (98) 는 비디오 인코더 (21) 외부의 시스템으로부터, 이를 테면 소스 디바이스 (12) 상의 프로세서로부터 수신된 제어 신호에 기초하여, 비디오 인코더들 (20A, 20B) 로부터의 비트스트림들을 조합할 수도 있다. 제어 신호는 비디오 소스 (18) 로부터의 비디오의 해상도 또는 비트레이트에 기초하여, 채널 (16) 의 대역폭에 기초하여, 사용자와 연관된 가입 (subscription) (예를 들어, 유료 가입 대 무료 가입) 에 기초하여, 또는 비디오 인코더 (21) 로부터 원하는 해상도 출력을 결정하기 위한 임의의 다른 팩터에 기초하여 생성될 수도 있다.

비디오 디코더

도 3a 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 비디오 디코더의 일 예를 예시하는 블록 다이어그램이다. 비디오 디코더 (30) 는 HEVC 를 위해서와 같이, 비디오 비트스트림의 단일 계층을 프로세싱하도록 구성될 수도 있다. 게다가, 비디오 디코더 (30) 는 계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어의 방법들, 계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하는 방법들, 및 상기 및 도 4 및 도 5 에 대하여 이하 더 상세히 설명된 관련 프로세스들을 포함하는 (그러나 이들에 제한되지는 않음) 본 개시물의 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다. 하나의 예로서, 계층간 예측 유닛 (75) 은 본 개시물에서 설명된 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다. 그러나, 본 개시물의 양태들은 그렇게 제한되지는 않는다. 일부 예들에서, 본 개시물에서 설명된 기법들은 비디오 디코더 (30) 의 다양한 컴포넌트들 간에 공유될 수도 있다. 일부 예들에서, 추가적으로 또는 대안적으로, 프로세서 (미도시) 는 본 개시물에서 설명된 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다.

설명을 목적으로, 본 개시물은 HEVC 코딩의 맥락에서 비디오 디코더 (30) 를 설명한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에 적용가능할 수도 있다. 도 3a 의 디코더 (30) 는 코덱의 단일 계층을 예시한다. 그러나, 도 3b 에 대하여 추가 설명될 바와 같이, 비디오 디코더 (30) 의 일부 또는 전부는 멀티-계층 코덱에 따라 프로세싱하기 위해 중복될 수도 있다.

도 3a 의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (70), 모션 보상 유닛 (72), 인트라 예측 유닛 (74), 계층간 예측 유닛 (75), 역 양자화 유닛 (76), 역 변환 유닛 (78), 참조 프레임 메모리 (82) 및 합산기 (80) 를 포함한다. 일부 실시형태들에서, 모션 보상 유닛 (72) 및/또는 인트라 예측 유닛 (74) 은 계층간 예측을 수행하도록 구성될 수도 있으며, 이 경우 계층간 예측 유닛 (75) 이 생략될 수도 있다. 비디오 디코더 (30) 는 일부 예들에서, 비디오 인코더 (20) (도 2a) 에 대하여 설명된 인코딩 패스에 일반적으로 상반된 디코딩 패스를 수행할 수도 있다. 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들에 기초하여 예측 데이터를 생성할 수도 있는 한편, 인트라 예측 유닛 (74) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 인트라-예측 모드 표시자들에 기초하여 예측 데이터를 생성할 수도 있다. 참조 프레임 메모리 (82) 는 디코딩된 픽처 버퍼를 포함할 수도 있다. 디코딩 픽처 버퍼는 그것의 통상적인 의미를 갖는 폭넓은 용어이며, 일부 실시형태들에서는 참조 프레임들의 비디오 코덱-관리된 데이터 구조를 지칭한다.

디코딩 프로세스 동안, 비디오 디코더 (30) 는 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 표현하는 인코딩된 비디오 비트스트림을 비디오 인코더 (20) 로부터 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (70) 은 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 모션 벡터들 또는 인트라-예측 모드 표시자들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (70) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 모션 보상 유닛 (72) 으로 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.

비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩될 때, 인트라 예측 유닛 (74) 은 현재의 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 시그널링된 인트라 예측 모드 및 데이터에 기초하여 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터-코딩된 (예를 들어, B, P 또는 GPB) 슬라이스로서 코딩될 때, 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트들 중 하나 내의 참조 픽처들 중 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 는 참조 프레임 메모리 (82) 에 저장된 참조 픽처들에 기초한 디폴트 구성 기법들을 이용하여, 참조 프레임 리스트들, List 0 및 List 1 을 구성할 수도 있다. 모션 보상 유닛 (72) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 이용하여 디코딩되는 현재의 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들 중 일부를 이용하여 비디오 슬라이스의 비디오 블록들을 코딩하는데 이용되는 예측 모드 (예를 들어, 인트라- 또는 인터-예측), 인터-예측 슬라이스 타입 (예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 참조 픽처 리스트들 중 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 현재의 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.

모션 보상 유닛 (72) 은 또한 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (72) 은 참조 블록들의 서브-정수 픽셀들에 대한 보간된 값들을 계산하기 위해 비디오 블록들의 인코딩 동안 비디오 인코더 (20) 에 의해 이용된 바와 같이 보간 필터들을 이용할 수도 있다. 이 경우에, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 이용된 보간 필터들을 결정하고 그 보간 필터들을 이용하여 예측 블록들을 생성할 수도 있다.

비디오 디코더 (30) 는 또한 계층간 예측 유닛 (75) 을 포함할 수도 있다. 계층간 예측 유닛 (75) 은 SVC 에서 이용가능한 하나 이상의 상이한 계층들 (예를 들어, 기본 또는 참조 계층) 을 이용하여 현재의 블록 (예를 들어, EL 에서의 현재의 블록) 을 예측하도록 구성된다. 이러한 예측은 계층간 예측으로 지칭될 수도 있다. 계층간 예측 유닛 (75) 은 계층간 리던던시를 감소시키기 위해 예측 방법들을 활용하여, 코딩 효율을 개선시키고 컴퓨테이션 리소스 요건들을 감소시킨다. 계층간 예측의 일부 예들은 계층간 인트라 예측, 계층간 모션 예측, 및 계층간 잔차 예측을 포함한다. 계층간 인트라 예측은 인핸스먼트 계층에서의 현재의 블록을 예측하기 위해 기본 계층에서의 공동-위치된 블록들의 복원을 이용한다. 계층간 모션 예측은 인핸스먼트 계층에서의 모션을 예측하기 위해 기본 계층의 모션 정보를 이용한다. 계층간 잔차 예측은 인핸스먼트 계층의 잔차를 예측하기 위해 기본 계층의 잔차를 이용한다. 기본 및 인핸스먼트 계층들이 상이한 공간 해상도들을 가질 때, 공간적 모션 벡터 스케일링 및/또는 계층간 포지션 맵핑이 이하 더 상세히 설명된 바와 같이, 시간적 스케일링 함수를 이용하여 계층간 예측 유닛 (75) 에 의해 수행될 수도 있다.

역 양자화 유닛 (76) 은 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (70) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 예를 들어, 탈양자화한다. 역 양자화 프로세스는 적용되어야 하는 양자화의 정도, 및 마찬가지로 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스에서의 각각의 비디오 블록에 대해 비디오 디코더 (30) 에 의해 계산된 양자화 파라미터 (QPY) 의 이용을 포함할 수도 있다.

역 변환 유닛 (78) 은, 픽셀 도메인에서의 잔차 블록들을 생성하기 위하여 역 변환, 예를 들어, 역 DCT, 역 DST, 역 정수 변환, 또는 개념상 유사한 역 변환 프로세스를 변환 계수들에 적용한다.

모션 보상 유닛 (72) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 디코더 (30) 는 역 변환 유닛 (78) 으로부터의 잔차 블록들을 모션 보상 유닛 (72) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 원한다면, 디블록킹 필터가 또한, 블록키니스 아티팩트들을 제거하기 위하여 디코딩된 블록들을 필터링하도록 적용될 수도 있다. (코딩 루프 내 또는 코딩 루프 다음에 중 어느 하나의) 다른 루프 필터들이 또한 픽셀 트랜지션들을 평활화하거나 또는 다르게는 비디오 품질을 개선시키기 위해 이용될 수도 있다. 주어진 프레임 또는 픽처에서의 디코딩된 비디오 블록들은 그 후 후속의 모션 보상을 위해 이용되는 참조 픽처들을 저장하는 참조 프레임 메모리 (82) 에 저장된다. 참조 프레임 메모리 (82) 는 또한 도 1 의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상의 추후 프리젠테이션을 위해 디코딩된 비디오를 저장한다.

멀티-계층 디코더

도 3b 는 본 개시물에서 설명된 양태들에 따라 기법들을 구현할 수도 있는 멀티-계층 비디오 디코더 (31) 의 일 예를 예시하는 블록 다이어그램이다. 비디오 디코더 (31) 는 SHVC 및 멀티뷰 코딩을 위해서와 같이, 멀티-계층 비디오 프레임들을 프로세싱하도록 구성될 수도 있다. 게다가, 비디오 디코더 (31) 는 본 개시물의 기법들 중 임의의 것 또는 전부를 수행하도록 구성될 수도 있다.

비디오 디코더 (31) 는 각각이 도 3a 의 비디오 디코더 (30) 로서 구성될 수도 있고 비디오 디코더 (30) 에 대하여 상기 설명된 기능들을 수행할 수도 있는 비디오 디코더 (30A) 및 비디오 디코더 (30B) 를 포함한다. 게다가, 참조 번호들의 재사용에 의해 나타낸 바와 같이, 비디오 디코더들 (30A 및 30B) 은 비디오 디코더 (30) 로서 시스템들 및 서브시스템들의 적어도 일부를 포함할 수도 있다. 비디오 디코더 (31) 는 2 개의 비디오 디코더들 (30A 및 30B) 을 포함하는 것으로서 예시되지만, 비디오 디코더 (31) 는 이로써 제한되지 않고 임의의 수의 비디오 디코더 (30) 계층들을 포함할 수도 있다. 일부 실시형태들에서, 비디오 디코더 (31) 는 액세스 유닛에서의 각각의 픽처 또는 프레임에 대해 비디오 디코더 (30) 를 포함할 수도 있다. 예를 들어, 5 개의 픽처들을 포함하는 액세스 유닛은 5 개의 디코더 계층들을 포함하는 비디오 디코더에 의해 프로세싱 또는 디코딩될 수도 있다. 일부 실시형태들에서, 비디오 디코더 (31) 는 액세스 유닛에서의 프레임들보다 더 많은 디코더 계층들을 포함할 수도 있다. 일부 이러한 경우들에서, 비디오 디코더 계층들의 일부는 일부 액세스 유닛들을 프로세싱할 때 비활성일 수도 있다.

비디오 디코더들 (30A 및 30B) 에 더하여, 비디오 디코더 (31) 는 업샘플링 유닛 (92) 을 포함할 수도 있다. 일부 실시형태들에서, 업샘플링 유닛 (92) 은 프레임 또는 액세스 유닛에 대한 참조 픽처 리스트에 추가될 인핸스드 계층을 생성하기 위해 수신된 비디오 프레임의 기본 계층을 업샘플링할 수도 있다. 이 인핸스드 계층은 참조 프레임 메모리 (82) 에 (예를 들어, 그것의 디코딩된 픽처 버퍼 등에) 저장될 수 있다. 일부 실시형태들에서, 업샘플링 유닛 (92) 은 도 2a 의 업샘플링 유닛 (90) 에 대하여 설명된 실시형태들 중 일부 또는 전부를 포함할 수 있다. 일부 실시형태들에서, 업샘플링 유닛 (92) 은 계층을 업샘플링하고 일 세트의 슬라이스 경계 룰들 및/또는 래스터 스캔 룰들에 따르기 위해 하나 이상의 슬라이스들을 재조직화, 재정의, 수정, 또는 조정하도록 구성된다. 일부 경우들에서, 업샘플링 유닛 (92) 은 수신된 비디오 프레임의 계층을 업샘플링 및/또는 다운샘플링하도록 구성된 리샘플링 유닛일 수도 있다.

업샘플링 유닛 (92) 은 하위 계층 디코더 (예를 들어, 비디오 디코더 (30A)) 의 디코딩된 픽처 버퍼 (82) 로부터 픽처 또는 프레임 (또는 픽처와 연관된 픽처 정보) 을 수신하고 그 픽처 (또는 수신된 픽처 정보) 를 업샘플링하도록 구성될 수도 있다. 이 업샘플링된 픽처는 그 후 하위 계층 디코더와 동일한 액세스 유닛에서 픽처를 디코딩하도록 구성된 상위 계층 디코더 (예를 들어, 비디오 디코더 (30B)) 의 모드 선택 유닛 (71) 에 제공될 수도 있다. 일부 경우들에서, 상위 계층 디코더는 하위 계층 디코더에서 제거된 하나의 계층이다. 다른 경우들에서, 도 3b 의 계층 0 디코더와 계층 1 디코더 사이에는 하나 이상의 상위 계층 디코더들이 있을 수도 있다.

일부 경우들에서, 업샘플링 유닛 (92) 은 생략 또는 바이패스될 수도 있다. 이러한 경우들에서, 비디오 디코더 (30A) 의 디코딩된 픽처 버퍼 (82) 로부터의 픽처는 직접, 또는 업샘플링 유닛 (92) 에 적어도 제공되지 않고, 비디오 디코더 (30B) 의 모드 선택 유닛 (71) 에 제공될 수도 있다. 예를 들어, 비디오 디코더 (30B) 에 제공된 비디오 데이터 및 비디오 디코더 (30A) 의 디코딩된 픽처 버퍼 (82) 로부터의 참조 픽처가 동일한 사이즈 또는 해상도의 것이라면, 참조 픽처는 업샘플링 없이 비디오 디코더 (30B) 에 제공될 수도 있다. 게다가, 일부 실시형태들에서, 업샘플링 유닛 (92) 은 비디오 디코더 (30A) 의 디코딩된 픽처 버퍼 (82) 로부터 수신된 참조 픽처를 업샘플링 또는 다운샘플링하도록 구성된 리샘플링 유닛 (90) 일 수도 있다.

도 3b 에 예시한 바와 같이, 비디오 디코더 (31) 는 디멀티플렉서 (99), 또는 DEMUX 를 더 포함할 수도 있다. DEMUX (99) 는 인코딩된 비디오 비트스트림을 다수의 비트스트림들로 스플리팅할 수 있으며, DEMUX (99) 에 의해 출력된 각각의 비트스트림은 상이한 비디오 디코더 (30A 및 30B) 에 제공된다. 다수의 비트스트림들은 비트스트림을 수신함으로써 생성될 수도 있고 비디오 디코더들 (30A 및 30B) 각각은 주어진 시간에 비트스트림의 일 부분을 수신한다. 일부 경우들에서, DEMUX (99) 에서 수신된 비트스트림으로부터의 비트들은 비디오 디코더들 (예를 들어, 도 3b 의 예에서의 비디오 디코더들 (30A 및 30B)) 각각 사이에서 한번에 1 비트씩 교대될 수도 있지만, 많은 경우들에서, 비트스트림은 상이하게 분할된다. 예를 들어, 비트스트림은 어느 비디오 디코더가 비트스트림을 한번에 하나의 블록씩 수신하는지를 교대함으로써 분할될 수도 있다. 다른 예에서, 비트스트림은 비디오 디코더들 (30A 및 30B) 각각에 대한 블록들의 넌-1:1 비율에 의해 분할될 수도 있다. 예를 들어, 2 개의 블록들은 비디오 디코더 (30A) 에 제공된 각각의 블록에 대해 비디오 디코더 (30B) 에 제공될 수도 있다. 일부 실시형태들에서, DEMUX (99) 에 의한 비트스트림의 분할은 프리프로그램될 수도 있다. 다른 실시형태들에서, DEMUX (99) 는 비디오 디코더 (31) 외부의 시스템으로부터, 이를 테면 목적지 디바이스 (14) 상의 프로세서로부터 수신된 제어 신호에 기초하여 비트스트림을 분할할 수도 있다. 제어 신호는 입력 인터페이스 (28) 로부터의 비디오의 해상도 또는 비트레이트에 기초하여, 채널 (16) 의 대역폭에 기초하여, 사용자와 연관된 가입 (예를 들어, 유료 가입 대 무료 가입) 에 기초하여, 또는 비디오 디코더 (31) 에 의해 획득가능한 해상도를 결정하기 위한 임의의 다른 팩터에 기초하여 생성될 수도 있다.

참조 계층 타입들

MV-HEVC 및 SHVC 의 구현에서, 계층간 예측을 위해 어떤 계층이 이용될 수 있는지를 특정하는 direct_dependency_flag 신택스 엘리먼트가 있다. 0 과 동일한 direct_dependency_flag[ i ][ j ] 는 인덱스 j 를 가진 계층이 인덱스 i 를 가진 계층에 대한 직접 참조 계층이 아니라는 것을 특정한다. 1 과 동일한 direct_dependency_flag[ i ][ j ] 는 인덱스 j 를 가진 계층이 인덱스 i 를 가진 계층에 대한 직접 참조 계층일 수도 있다는 것을 특정한다. direct_dependency_flag[ i ][ j ] 가 0 내지 vps_max_layers_minus1 의 범위에 있어서 i 및 j 에 대해 존재하지 않을 때, 그것은 0 과 동일한 것으로 추론된다.

또한, 2 개의 계층간 예측의 타입들이 적용될 수 있다 : 계층간 모션 예측, 계층간 샘플 예측, 또는 그 양자. 일부 특정 계층에 대해 어떤 계층간 예측 타입들이 이용가능한지를 특정하기 위해, direct_dependency_type 이 시그널링된다.

direct_dependency_type[　i　][　j　] 는 변수들 NumSamplePredRefLayers[　i　], NumMotionPredRefLayers[　i　], SamplePredEnabledFlag[　i　][　j　], 및 MotionPredEnabledFlag[　i　][　j　] 를 유도하는데 이용된다. 변수 NumSamplePredRefLayers[　i　] 는 인덱스 i 를 가진 계층에 대한 샘플 예측을 위해 이용될 수 있는 참조 계층들의 수를 지칭할 수 있다. 변수 NumMotionPredRefLayers[　i　] 는 인덱스 i 를 가진 계층에 대한 모션 예측을 위해 이용될 수 있는 참조 계층들의 수를 지칭할 수 있다. 변수 SamplePredEnabledFlag[　i　][　j　] 는 인덱스 j 를 가진 계층을 이용한 샘플 예측이 인덱스 i 를 가진 계층을 위해 인에이블되는지 여부를 지칭할 수 있다. 변수 MotionPredEnabledFlag[　i　][　j　] 는 인덱스 j 를 가진 계층을 이용한 모션 예측이 인덱스 i 를 가진 계층을 위해 인에이블되는지 여부를 지칭할 수 있다. direct_dependency_type[　i　][　j　] 는 비트스트림들에서, 0 내지 2 까지의 범위에 있어야 한다. direct_dependency_type[　i　][　j　] 의 값이 0 내지 2 까지의 범위에 있어야 하지만, 디코더들은 3 내지 2³²-2 까지의 범위의 direct_dependency_type[　i　][　j　] 의 값들이 신택스에서 나타나는 것을 허용해야 한다.

변수들 NumSamplePredRefLayers[　i　], NumMotionPredRefLayers[　i　], SamplePredEnabledFlag[　i　][　j　], MotionPredEnabledFlag[　i　][　j　], NumDirectRefLayers[　i　], RefLayerId[　i　][　j　], MotionPredRefLayerId[　i　][　j　], 및 SamplePredRefLayerId[　i　][　j　] 는 다음과 같이 유도된다 :

리샘플링하는 계층간 참조를 위해 이용된 픽처들의 수에 대한 규제

하나의 SHVC 구현에서, 임의의 특정 픽처의 디코딩을 위해 리샘플링될 필요가 있는 계층간 참조 픽처의 수는 최대 1 인 것으로 제한된다. 리샘플링 프로세스는 예를 들어, 참조 및 인핸스먼트 계층이 상이한 픽처 사이즈들을 가질 때 인보크된다.

그러나, 리샘플링되는 계층간 참조 픽처의 수에 대한 한계를 갖는 것은, 다음과 같은 문제들을 야기할 수도 있다 :

현재의 픽처를 디코딩할 때, (샘플 예측을 위해서가 아닌) 단지 계층간 모션 예측을 위해서만 이용되는 픽처가 또한 그것이 현재의 픽처와는 상이한 공간 해상도를 가질 때 리샘플링된다. 그러나, 이러한 픽처의 리샘플링은 컴퓨팅 리소스를 불필요하게 낭비할 수도 있다.

계층간 모션 예측을 위해서만 이용되는 픽처가 현재의 픽처를 디코딩할 때 존재한다면, 계층간 샘플 예측을 위한 어떤 다른 픽처들도 리샘플링하는 계층간 참조를 위해 이용되는 픽처들의 수가 1 보다 더 클 수 없다는 규제에 따라 샘플-리샘플링될 수 없다. 즉, 이러한 픽처가 존재할 때, 현재의 픽처와 동일한 해상도를 갖는 다른 하위 계층 픽처가 없다면, 샘플들의 계층간 예측은 상이한 공간 해상도를 가진 다른 하위 계층 픽처가 있더라도 현재의 픽처를 위해 이용될 수 없다.

비트스트림 적합성 규제들이 계층간 샘플 예측을 위해 이용되지 않는 것으로 나타내지거나 또는 계층간 모션 예측을 위해 이용되지 않는 것으로 나타내지는 소정의 직접 참조 계층들의 픽처들에 대해 없다.

계층간 참조를 위한 픽처들은 픽처들에 대해 나타내진 상이한 계층간 예측들의 타입들 간에 차이를 만들지 않고 (참조 픽처 리스트 수정 커맨드들 전에) 초기 참조 픽처 리스트들에 포함되며, 이는 차선이다.

슬라이스 헤더에서 시그널링된 collocated_ref_idx 및 블록 (예를 들어, CU, PU 등) 레벨에서 시그널링된 참조 인덱스의 코딩은 불필요하게 더 많은 비트들을 이용할 수도 있다.

멀티-계층 비디오 코딩에서의 계층간 예측 타입들

이들 및 다른 도전과제들을 다루기 위하여, 소정의 양태들에 따른 기법들은 계층간 모션 예측을 위해 리샘플링될 참조 픽처들의 수 및 계층간 샘플 예측을 위해 리샘플링될 참조 픽처들의 수를 독립적으로 제어할 수 있다. 기법들은 또한 계층간 예측 타입들에 관한 비트스트림 제약들을 제공 및/또는 프로세싱할 수 있다. 보다 구체적으로, 기법들은 병치된 참조 인덱스 (예를 들어, collocated_ref_idx) 가 단지 적어도 ILMP 를 위해 이용된 ILRP 만을 지칭할 수 있다는 비트스트림 제약을 제공 및/또는 프로세싱할 수 있다. 기법들은 또한, 참조 인덱스 (예를 들어, ref_idx) 가 단지 적어도 ILSP 를 위해 이용된 ILRP 만을 지칭할 수 있다는 비트스트림 제약을 제공 및/또는 프로세싱할 수 있다.

이 방식으로, 현재의 픽처를 디코딩할 때, ILMP 에만 이용되는 ILRP 는 샘플-리샘플링될 필요가 없다. 또한, ILMP 에만 이용되는 ILRP 는 다른 ILRP 가 ILP 에 이용되는 것을 막을 필요가 없다. 예를 들어, ILSP 에 이용되는 ILRP 는 샘플-리샘플링되고 ILP 에 이용될 수 있다. 이것은 더 정확한 예측 및 더 효율적인 코딩을 야기할 수 있다. 예를 들어, 하나 더의 ILP 의 타입 (예를 들어, 상기 예에서의 ILSP) 이 이용될 수 있다. 또한, 컴퓨테이션 복잡도가 불필요한 리샘플링 프로세스들을 인보크하는 것을 회피함으로써 감소될 수 있다. 기법들에 관한 소정의 상세들은 이하 설명된다.

계층간 샘플 예측을 위해 이용되지 않는 것으로 나타내진 픽처들

소정의 양태들에 따르면, 기법들은 계층간 참조 픽처가 계층간 모션 예측을 위해서만 이용되는 것으로 나타내진다면 그 계층간 참조 픽처를 리샘플링 프로세스에서 배제할 수 있다. 이 타입의 픽처들의 경우, 샘플 (픽셀) 정보는 메모리에 저장될 필요가 없다.

또한, 계층간 모션 예측을 위해서만 이용되는 것으로 나타내진 계층간 참조 픽처는 샘플들이 인터 예측을 목적으로 이용되지 않을 것이기 때문에, 샘플-리샘플링 프로세스를 요구하는 픽처로서 카운트되지 않는다. 그 결과, 상이한 공간 해상도를 가진 다른 하위 계층 픽처가 현재의 픽처에 대한 샘플들의 계층간 예측을 위해 이용될 수 있다.

더욱이, 계층간 샘플 예측을 위해 이용되지 않는 것으로 나타내지는 픽처는 블록 (예를 들어, CU, PU 등) 레벨에서 시그널링된 참조 인덱스에 의해 나타내지지 않을 수도 있다. 예를 들어, 이러한 픽처는 인터-예측을 위해 이용될 수 없다.

더욱이, 참조 인덱스 시그널링에서 이용되는 참조 픽처들의 총 수는 블록 (예를 들어, CU, PU 등) 레벨에서 시그널링된 참조 인덱스가 더 적은 비트들을 이용할 수 있도록, 인터 예측을 위해 이용될 수 있는 픽처들만을 포함하여, 조정될 수 있다.

계층간 모션 예측을 위해 이용되지 않는 것으로 나타내진 픽처들

소정의 양태들에 따르면, 계층간 모션 예측을 위해 이용되지 않는 것으로 나타내진 (예를 들어, 계층간 샘플 예측을 위해서만 이용되는 것으로 나타내진) 픽처의 경우, 모션 정보가 유도되도록 요구되지 않고 이 픽처는 시간적 모션 벡터 (TMVP) 유도를 위해 이용될 수 없다. 예를 들어, 이러한 픽처는 TMVP 유도에서 병치된 픽처로서 이용될 수 없다. 그리고, 모션 정보가 이 픽처에 대해서 저장되지 않을 수도 있다.

예를 들어, collocated_ref_idx 신택스 엘리먼트에 의해 정의된 병치된 픽처가 계층간 모션 예측을 위해 이용되지 않는 것으로 나타내지는 픽처일 수 없다는 것이 암시될 수 있다. 즉, collocated_ref_idx 는 단지 계층간 샘플 예측을 위한 것이거나 또는 결코 계층간 예측을 위해 이용되지 않는 하위 계층 픽처를 가리켜서는 안된다.

collocated_ref_idx 범위를 정의하는데 이용된 참조 픽처들의 총 수는 collocated_ref_idx 의 시그널링이 더 적은 비트들을 이용할 수 있도록, TMVP 유도를 위해 이용될 수 있는 픽처들만을 포함하도록 조정될 수 있다.

병치된 픽처로서 이 타입의 참조 픽처를 이용하지 않는 것에 대한 대안으로, 디폴트 모션 정보가 계층간 샘플 전용 예측 픽처들에 할당될 수 있다. 디폴트 모션 정보는 적어도 예측 모드, 모션 벡터들, 참조 인덱스들, 및 참조 픽처 POC들 (picture order counts) 을 포함할 수 있다. 예를 들어, 어떤 모션 정보도 특정하지 않는 인트라 예측 모드는 계층간 샘플 전용 예측 픽처를 위해 할당될 수 있다. 이러한 경우에, 이 픽처가 인트라 예측 모드가 할당되는 것으로 인해 병치된 픽처로서 이용된다면 어떤 TMVP 도 유도되지 않을 수도 있다. 이에 따라, 디폴트 모션 정보가 할당될 수도 있다.

샘플 리샘플링된 및 모션 리샘플링된 계층간 픽처들의 수에 대한 별개의 제약

하나의 실시형태에서, 계층간 모션 예측을 위해 이용된 계층간 참조 픽처들은 리샘플링된 픽처들의 수에 대한 제약을 향하여 계층간 샘플 예측과는 별도로 카운트된다. SHVC 의 초기 버전들에서, 단지 하나의 리샘플링된 픽처만이 이용될 수 있다; 샘플-리샘플링된 및 모션-리샘플링된 픽처들은 별도로 카운트되지 않았으며, 그 결과, 단지 하나의 ILP 타입 (예를 들어, ILMP 단독 또는 ILSP 단독) 이 상기 언급한 바와 같이, 일부 경우들에서 이용될 수 있다. 샘플-리샘플링된 및 모션-리샘플링된 픽처들이 별도로 카운트된다면, 최대 1 번의 샘플 리샘플링이 적용될 수 있으며, 최대 1 번의 모션 리샘플링이 적용될 수 있다.

다른 실시형태에서, 샘플 리샘플링된 계층간 픽처들의 수 및 모션 리샘플링된 계층간 픽처들의 수는 상이한 수로 별도로 규제 및/또는 제한될 수 있다. 예를 들어, 하나의 샘플 리샘플링된 계층간 픽처 및 2 개의 모션 리샘플링된 계층간 픽처들이 이용되는 것으로 규제될 수 있다.

상기 언급된 기법들은 다음의 실시예들에서 나타낸 바와 같이 구현될 수 있다. 실시예들은 SHVC 의 초기 버전들의 맥락에서 제공된다. SHVC 의 초기 버전들로부터의 변경들은 이탤릭체로 나타내진다. 소정의 실시형태들에서, 기법들은 리샘플링된 픽처들 수를 향하여 계층간 모션 예측을 위해서만 이용된 픽처를 카운트하지 않을 수도 있다.

실시예 1

실시예 1 에서, 모션-리샘플링 프로세스는 ILRP 가 ILMP 만을 위해 이용되는 샘플-리샘플링 프로세스와는 별도로 불린다. 이 예에서, ILRP 픽처가 ILMP 와 ILSP 양자를 위해 이용될 때, 모션-리샘플링 프로세스는 샘플-리샘플링 프로세스를 통하여 인보크된다. 대안의 디스크립션이 실시예 2 에 제공된다. 상기 및 이하의 실시예들 및 디스크립션에서, 이탤릭체의 부분들은 SHVC 의 초기 버전들에 대한 변경들을 나타낼 수도 있다. 언더라인된 부분들은 SHVC 만을 위해 특정되고 MV-HEVC 에 존재하지 않는 부분들을 나타낼 수도 있다.

실시예 2

실시예 2 에서, 대안의 디스크립션이 제공되며, 여기서 2 개의 프로세스들 (예를 들어, 모션-리샘플링 및 샘플-리샘플링) 은 ILRP 가 ILMP 및/또는 ILSP 를 위해 이용되는지 여부에 의존하여 독립적으로 불린다. 모션-리샘플링 프로세스의 인보케이션은 예를 들어, 명세서 텍스트의 판독성을 개선시키기 위하여, 섹션 G.8.1.4 에서의 샘플-리샘플링에서 제거되고 별개의 섹션 G.8.1.5 로 이동된다.

비트스트림 제약들

상기 설명한 바와 같이, 기법들은 또한 계층간 예측 타입들에 관한 비트스트림 제약들을 제공 및/또는 프로세싱할 수 있다. 용어 또는 표현 "비트스트림 제약" 은 그것의 가장 폭넓은 통상적인 의미를 갖도록 의도된 폭넓은 용어 및/또는 표현이다. 하나의 실시형태에서, 비트스트림 제약은 인코더 또는 디코더가 소정의 표준에 따르기 위해 추종해야 하는 룰을 지칭할 수 있다. 예를 들어, 소정의 표준 비트스트림에 대한 적합성은 그 제약을 위배하는 엘리먼트들 (예를 들어, 신택스 엘리먼트들) 을 포함해서는 안된다. 제약 위배의 경우에, 비트스트림은 적합하지 않은 것으로 취급되며 디코더에 의해 디코딩되지 않을 수도 있다.

보다 구체적으로, 기법들은 병치된 참조 인덱스 (예를 들어, collocated_ref_idx) 가 적어도 ILMP 을 위해 이용된 ILRP 만을 지칭할 수 있다는 비트스트림 제약을 제공 및/또는 프로세싱할 수 있다. 기법들은 또한, 참조 인덱스 (예를 들어, ref_idx) 가 단지 적어도 ILSP 를 위해 이용된 ILRP 만을 지칭할 수 있다는 비트스트림 제약을 제공 및/또는 프로세싱할 수 있다. 일부 실시형태들에서, 비트스트림 제약들은 다음과 같이 정의될 수 있다. 예를 들어,

collocated_ref_idx 는 시간적 모션 벡터 예측을 위해 이용된 병치된 픽처의 참조 인덱스를 특정한다.

- slice_type 이 P 와 동일하거나 slice_type 이 B 와 동일하고 collocated_from_l0 이 1 과 동일한 경우, collocated_ref_idx 는 리스트 0 에서의 픽처를 지칭하고, collocated_ref_idx 의 값은 0 내지 num_ref_idx_l0_active_minus1 까지의 범위에 있어야 한다.

- slice_type 이 B 와 동일하고 collocated_from_l0 이 0 과 동일한 경우, collocated_ref_idx 는 리스트 1 에서의 픽처를 지칭하고, collocated_ref_idx 의 값은 0 내지 num_ref_idx_l1_active_minus1 까지의 범위에 있어야 한다.

- 그것은 collocated_ref_idx 에 의해 나타내진 픽처가 코딩된 픽처의 모든 슬라이스들에 대해 동일해야 한다는 비트스트림 적합성의 요건이다.

- refLayerId 는 collocated_ref_idx 에 의해 나타내진 픽처의 nuh_layer_id 의 값이라고 하고, currLayerId 는 현재의 픽처의 nuh_layer_id 의 값이라고 하자. 그것은 MotionPredEnabledFlag[currLayerId][refLayerId] 가 1 과 동일해야 한다는 비트스트림 적합성의 요건이다.

ref_idx_l0[　x0　][　y0　] 은 현재의 예측 유닛에 대한 리스트 0 참조 픽처 인덱스를 특정한다. 어레이 인덱스들 x0, y0 은 픽처의 상부-좌측 루마 샘플에 대하여 고려된 예측 블록의 상부-좌측 루마 샘플의 로케이션 (　x0,　y0　) 을 특정한다.

- ref_idx_l0[　x0　][　y0　] 이 존재하지 않는 경우, 그것은 0 과 동일한 것으로 추론된다.

- refLayerId 는 ref_idx_l0[　x0　][　y0　] 에 의해 나타내진 픽처의 nuh_layer_id 의 값이라고 하고, currLayerId 는 현재의 픽처의 nuh_layer_id 의 값이라고 하자. 그것은 SamplePredEnabledFlag[currLayerId][refLayerId] 가 1 과 동일해야 한다는 비트스트림 적합성의 요건이다.

- ref_idx_l1[　x0　][　y0　] 은 ref_idx_l0 과 동일한 시맨틱스를 가지며, 여기서 l0 및 리스트　0 은 각각 l1 및 리스트　1 로 대체된다.

기법들에 관한 소정의 상세들은 도 4 및 도 5 를 참조하여 이하 설명된다. 본 개시물 전반에 걸쳐 사용된 다양한 용어는 그들의 통상적인 의미를 갖는 폭넓은 용어들이다. 또한, 일부 실시형태들에서, 소정의 용어들은 다음의 비디오 개념들과 관련된다. 픽처는 그 용어가 현재의 표준들 (예를 들어, HEVC, SHVC) 에서 사용되기 때문에 비디오 픽처를 지칭할 수 있다. 도 4 및 도 5 에 대하여 설명된 방법들은 컴퓨팅 하드웨어에 의해 구현될 수도 있다. 일부 실시형태들에서, 컴퓨팅 하드웨어는 컴퓨터 하드웨어를 포함하는 하나 또는 컴퓨팅 디바이스들을 포함할 수 있다.

계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어를 위한 방법

도 4 는 본 개시물의 양태들에 따른, 계층간 모션 예측 참조 리샘플링 및 계층간 샘플 예측 참조 리샘플링의 독립적인 제어를 위한 일 예의 방법을 예시하는 플로우차트이다. 프로세서 (400) 는 실시형태에 의존하여, 인코더 (예를 들어, 도 2a, 도 2b 등에 도시한 바와 같은 인코더), 디코더 (예를 들어, 도 3a, 도 3b 등에 도시한 바와 같은 디코더), 또는 임의의 다른 컴포넌트에 의해 수행될 수도 있다. 프로세스 (400) 의 블록들은 도 3b 의 디코더 (31) 에 대하여 설명되지만, 프로세스 (400) 는 상기 언급한 바와 같이, 다른 컴포넌트, 이를 테면 인코더에 의해 수행될 수도 있다. 디코더 (31) 의 계층 1 비디오 디코더 (30B) 및 디코더 (31) 의 계층 0 디코더 (30A) 는 실시형태에 의존하여, 프로세스 (400) 를 수행할 수도 있다. 도 4 에 대하여 설명된 모든 실시형태들은 별도로, 또는 서로 조합하여 구현될 수도 있다. 프로세스 (400) 에 관한 소정의 상세들은 상기 설명된다.

프로세스 (400) 는 블록 401 에서 시작한다. 디코더 (31) 는 비디오 정보를 저장하기 위한 메모리 (예를 들어, 참조 프레임 메모리 (82)) 를 포함할 수 있다.

블록 402 에서, 디코더 (31) 는 계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하며, 그 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함한다.

블록 403 에서, 디코더 (31) 는 : (1) ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 (2) ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수를 제어한다. ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수는 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 독립적으로 제어될 수 있다. 예를 들어, 디코더 (31) 는 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 독립적으로 ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수를 제어할 수 있다.

용어 또는 표현 "독립적으로 제어된", "독립적인 제어" 또는 그의 변형들은 그것의 가장 폭넓은 통상적인 의미를 갖도록 의도된 폭넓은 용어 및/또는 표현이다. 논의를 용이하게 하기 위해, 용어 또는 표현 "독립적인 제어" 는 다음의 설명에서 이용될 것이다. 하나의 실시형태에서, 독립적인 제어는 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 영향을 주거나 그 수를 세팅하지 않고 ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 영향을 주거나 그 수를 세팅하는 것을 지칭할 수 있으며, 그 역도 또한 마찬가지이다.

다른 실시형태에서, 독립적인 제어는 ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 대한 별개의 한계를 갖는 것을 지칭할 수 있다. ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 대한 한계는 실시형태에 의존하여, 동일하거나 또는 상이할 수 있다. 또 다른 실시형태에서, 독립적인 제어는 ILP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수에 대한 한계를 향하여 ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 (예를 들어, 샘플-리샘플링, 모션-리샘플링, 또는 그 양자) 및 이용될 수도 있는 픽처를 카운트하지 않는 것을 지칭할 수 있다.

일부 실시형태들에서, ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수는 동일하다 (예를 들어, 양자가 1 과 동일하다). 다른 실시형태들에서, ILMP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수 및 ILSP 를 이용하여 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수도 있는 픽처들의 수는 상이하다.

소정의 실시형태들에서, 디코더 (31) 는 적어도 하나의 리샘플링된 픽처를 이용하여 현재의 픽처를 예측한다. 적어도 하나의 리샘플링된 픽처는 실시형태에 의존하여, ILMP, ILSP, 또는 그 양자를 이용하여 현재의 픽처를 예측하는데 이용될 수 있다.

프로세스 (400) 는 블록 404 에서 종료한다. 블록들은 실시형태에 의존하여, 프로세스 (400) 에서 추가 및/또는 생략될 수도 있고, 프로세스 (400) 의 블록들은 실시형태에 의존하여, 상이한 순서로 수행될 수도 있다. 본 개시물에서 리샘플링하는 것에 대하여 설명된 임의의 특징들 및/또는 실시형태들은 별도로 또는 이들의 임의의 조합으로 구현될 수도 있다. 예를 들어, 도 4 와 관련하여 설명된 임의의 특징들 및/또는 실시형태들은 도 5 와 관련하여 설명된 임의의 특징들 및/또는 실시형태들과의 임의의 조합으로 구현될 수도 있고, 그 역도 또한 마찬가지이다.

계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하기 위한 방법

도 5 는 계층간 예측 타입들에 관한 비트스트림 제약들을 프로세싱하기 위한 일 예의 방법을 예시하는 플로우차트이다. 프로세스 (500) 는 실시형태에 의존하여, 인코더 (예를 들어, 도 2a, 도 2b 등에 도시한 바와 같은 인코더), 디코더 (예를 들어, 도 3a, 도 3b 등에 도시한 바와 같은 디코더), 또는 임의의 다른 컴포넌트에 의해 수행될 수도 있다. 프로세스 (500) 의 블록들은 도 3b 의 인코더 (21) 에 대하여 설명되지만, 프로세스 (500) 는 상기 언급한 바와 같이, 다른 컴포넌트들, 이를 테면 디코더에 의해 수행될 수도 있다. 인코더 (21) 의 계층 1 비디오 인코더 (20B) 및 인코더 (21) 의 계층 0 인코더 (20A) 는 실시형태에 의존하여, 프로세스 (500) 를 수행할 수도 있다. 도 5 에 대하여 설명된 모든 실시형태들은 별도로, 또는 서로 조합하여 구현될 수도 있다. 프로세스 (500) 에 관한 소정의 상세들은 예를 들어 도 4 에 대하여 상기 설명된다.

프로세스 (500) 는 블록 501 에서 시작한다. 인코더 (21) 는 비디오 정보를 저장하기 위한 메모리 (예를 들어, 참조 프레임 메모리 (82)) 를 포함할 수 있다.

블록 502 에서, 인코더 (21) 는 계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별한다. 그 ILP 의 타입은 계층간 모션 예측 (ILMP), 또는 계층간 샘플 예측 (ILSP), 또는 그 양자를 포함할 수 있다.

블록 503 에서, 인코더 (21) 는, 현재의 픽처가 적어도 ILMP 를 이용하여 예측될 경우, 현재의 픽처와 연관된 병치된 참조 인덱스 값을 프로세싱하며, 여기서 병치된 참조 인덱스 값은 ILP 를 이용하여 현재의 픽처를 예측하는데 있어서 이용되는 제 1 참조 픽처를 나타낸다. 일부 실시형태들에서, 병치된 참조 인덱스 값은 병치된 참조 인덱스의 값을 지칭할 수 있다. 소정의 실시형태들에서, 병치된 참조 인덱스는 또한 병치된 참조 인덱스 값으로 지칭될 수 있다.

블록 504 에서, 인코더 (21) 는 병치된 참조 인덱스 값에 의해 나타내진 제 1 참조 픽처가 ILMP 를 위해 인에이블되는지 여부를 결정한다. 예를 들어, 인코더 (21) 는 현재의 픽처가 적어도 ILMP 를 이용하여 예측될 경우 제 1 참조 픽처가 ILMP 를 위해 인에이블되는지 여부를 결정할 수 있다. 일부 실시형태들에서, 제 1 참조 픽처에 대한 모션 예측 인에이블된 플래그의 값을 결정함으로써 제 1 참조 픽처가 ILMP 를 위해 인에이블되는지 여부를 결정한다. 예를 들어, 인코더 (21) 는 모션 예측 인에이블된 플래그 값이 1 과 동일한 경우 제 1 참조 픽처가 ILMP 를 위해 인에이블된다고 결정할 수 있다. 다른 예에서, 인코더 (21) 는 모션 예측 인에이블된 플래그 값이 0 과 동일한 경우 제 1 참조 픽처가 ILMP 를 위해 인에이블되지 않는다고 결정할 수 있다. 다른 실시형태들에서, 모션 예측 인에이블된 플래그 값의 다른 값들이 제 1 참조 픽처가 ILMP 를 위해 인에이블되는지 안되는지를 결정하는데 이용될 수 있다 (예를 들어, 2, 3 등과 동일).

블록 505 에서, 인코더 (21) 는, 현재의 픽처가 적어도 ILSP 를 이용하여 예측될 경우, 현재의 픽처에서의 블록과 연관된 참조 인덱스 값을 프로세싱하며, 참조 인덱스 값은 ILP 를 이용하여 현재의 픽처에서의 블록을 예측하는데 있어서 이용되는 제 2 참조 픽처를 나타낸다. 일부 실시형태들에서, 참조 인덱스 값은 참조 인덱스의 값을 지칭할 수 있다. 소정의 실시형태들에서, 참조 인덱스는 또한 참조 인덱스 값으로 지칭될 수 있다.

블록 506 에서, 인코더 (21) 는 참조 인덱스 값에 의해 나타내진 제 2 참조 픽처가 ILSP 를 위해 인에이블되는지 여부를 결정한다. 예를 들어, 인코더 (21) 는 현재의 픽처가 적어도 ILSP 를 이용하여 예측될 경우 제 2 참조 픽처가 ILSP 를 위해 인에이블되는지 여부를 결정할 수 있다. 일부 실시형태들에서, 인코더 (21) 는 제 1 참조 픽처에 대한 샘플 예측 인에이블된 플래그의 값을 결정함으로써 제 2 참조 픽처가 ILMP 를 위해 인에이블되는지 여부를 결정한다. 예를 들어, 인코더 (21) 는 샘플 예측 인에이블된 플래그 값이 1 과 동일한 경우 제 2 참조 픽처가 ILSP 를 위해 인에이블된다고 결정할 수 있다. 다른 예에서, 인코더 (21) 는 샘플 예측 인에이블된 플래그 값이 0 과 동일한 경우 제 2 참조 픽처가 ILSP 를 위해 인에이블되지 않는다고 결정할 수 있다. 다른 실시형태들에서, 샘플 예측 인에이블된 플래그 값의 다른 값들이 제 2 참조 픽처가 ILSP 를 위해 인에이블되는지 안되는지를 결정하는데 이용될 수 있다 (예를 들어, 2, 3 등과 동일).

소정의 실시형태들에서, 인코더 (21) 는 제 1 참조 픽처가 ILMP 를 위해 인에이블되는 경우 비트스트림에서의 병치된 참조 인덱스 값을 시그널링하거나, 또는 제 2 참조 픽처가 ILSP 를 위해 인에이블되는 경우 비트스트림에서의 참조 인덱스 값을 시그널링하거나, 또는 그 양자를 행한다. 예를 들어, 인코더 (21) 는 단지 ILMP 를 위해 인에이블되는 참조 픽처를 나타내는 병치된 참조 인덱스 값만을 시그널링한다. 또는, 인코더 (21) 는 ILSP 를 위해 인에이블되는 참조 픽처를 나타내는 참조 인덱스 값을 시그널링한다. 또는, 인코더 (21) 는 그 양자를 행할 수 있다. 이 방식으로, 단지 대응하는 참조 픽처의 타입 (예를 들어, 병치된 참조 인덱스를 위해 인에이블된 ILMP, 참조 인덱스를 위해 인에이블된 ILSP 등) 을 참조하는 인덱스 값들만이 비트스트림에서 시그널링될 수도 있다.

일부 실시형태들에서, 제 1 참조 픽처 및 제 2 참조 픽처는 동일할 수도 있다. 예를 들어, 참조 픽처는 ILMP 및 ILSP 양자를 위해 이용될 수도 있다 (예를 들어, 모션 정보 및 샘플들 양자를 갖는다).

프로세스 (500) 는 블록 507 에서 종료한다. 블록들은 실시형태들에 의존하여 프로세스 (500) 에서 추가 및/또는 생략될 수도 있고, 프로세스 (500) 의 블록들은 실시형태에 의존하여 상이한 순서로 수행될 수도 있다. 본 개시물에서 샘플링하는 것에 대하여 설명된 임의의 특징들 및/또는 실시형태들은 별도로 또는 이들의 임의의 조합으로 구현될 수도 있다. 예를 들어, 도 5 와 관련하여 설명된 임의의 특징들 및/또는 실시형태들은 도 4 와 관련하여 설명된 임의의 특징들 및/또는 실시형태들과의 임의의 조합으로 구현될 수도 있으며, 그 역도 또한 마찬가지이다.

참조 픽처 리스트에서의 계층간 픽처 순서

하나의 구현에서, 3 개의 계층간 픽처들의 타입들이 가능하다 : 모션 전용 계층간 픽처들, 샘플 전용 계층간 예측, 및 그 양자를 함께. 모든 이들 타입들의 픽처들은 계층간 참조 픽처 세트로 포함된다. 그러나, 이들 타입들을 가진 픽처들은 코딩 효율에 동일하게 기여하지 않을 수도 있다. 예를 들어, 계층간 샘플 예측을 위해 이용되는 픽처들은 계층간 모션 예측만을 위한 픽처보다 더 중요할 수 있다. 이에 따라, 계층간 모션 예측만을 위한 픽처들과 비교하여 계층간 샘플 예측을 위한 픽처들에 대해 더 작은 참조 인덱스들을 갖는 것이 바람직할 수도 있다.

하나의 실시형태에서, 계층간 모션 예측만을 위한 픽처들을 참조 픽처 세트의 마지막에 두고 초기 계층간 참조 픽처 리스트들을 계층간 샘플 예측을 위한 픽처들 다음에 두는 것이 제안된다. 그래서, 모든 시간적 참조 픽처들 다음의 참조 픽처 리스트에서의 그리고 계층간 참조 픽처 세트에서의 순서는 픽처들을 2 개의 서브-세트들로 분할함으로써 다음과 같을 수 있다 : 계층간 샘플 예측을 위한 픽처들, 계층간 모션 예측만을 위한 픽처들. 상기 2 개의 부분들과 유사하게, 대안적으로는, 모든 시간적 참조 픽처들 다음의 참조 픽처 리스트에서의 그리고 계층간 참조 픽처 세트에서의 순서는 픽처들을 3 개의 서브-세트들로 분할함으로써 다음과 같을 수 있다 : 계층간 샘플 및 모션 예측을 위한 픽처들, 계층간 샘플 예측만을 위한 픽처들, 및 계층간 모션 예측만을 위한 픽처들. 추가적으로, 각각의 서브-세트에서, 순서화가 계층간 픽처의 nuh_layer_id 의 내림차순으로 행해질 수 있다. 대안적으로, 그 순서는 계층간 예측을 위한 참조 계층들의 명시적으로 시그널링된 순서를 뒤따를 수 있으며, 이는 VPS 또는 다른 곳에서 시그널링될 수 있다.

상기 설명된 2 개의 서브-세트들 케이스의 경우, 다른 타입의 참조 픽처 세트들이 할당될 수 있다. 예를 들어, 샘플 계층간 참조 픽처 세트는 계층간 샘플 예측만을 위해 또는 계층간 샘플 예측과 계층간 모션 예측 양자를 위해 이용된 픽처들을 포함할 수 있고, 모션 계층간 참조 픽처 세트는 계층간 모션 예측만을 위해 이용된 픽처들을 포함할 수 있다. 추가적으로, 순서화가 적용될 수 있고 모션 계층간 참조 픽처 세트는 샘플 계층간 참조 픽처 세트 다음에 초기 참조 픽처 리스트들에 배치될 수 있다. 유사하게, 3 개의 서브-세트 케이스의 경우, 다음의 새로운 계층간 참조 픽처 세트 및 순서화는 계층간 예측을 위해 이용된 픽처들을 초기 참조 픽처 리스트들에 배치할 때 적용될 수 있다 : 샘플 및 모션 계층간 참조 픽처 세트, 샘플 전용 계층간 참조 픽처 세트, 및 모션 전용 계층간 참조 픽처 세트. 서브-세트들과 유사하게, 각각의 새로운 계층간 참조 픽처 세트에서는, 픽처 순서화가 계층간 픽처의 nuh_layer_id 의 내림차순으로 행해질 수 있다.

참조 인덱스들 시그널링

기법들은 PU 레벨에서의 참조 인덱스들 및 슬라이스 레벨에서의 공동-위치된 참조 인덱스를 시그널링하는데 있어서의 최적화를 제공할 수 있다. 예를 들어, 참조 인덱스 시그널링에서 이용된 참조 픽처들의 총 수는, 블록 (예를 들어, CU, PU 등) 에서 시그널링된 참조 인덱스가 더 적은 비트들을 이용할 수 있도록, 인터 예측을 위해 이용될 수 있는 픽처들만을 포함하여, 조정될 수 있다. 또한, collocated_ref_idx 범위를 정의하는데 이용된 참조 픽처들의 총 수는 collocated_ref_idx 의 시그널링이 더 적은 비트들을 이용할 수 있도록, TMVP 유도를 위해 이용될 수 있는 픽처들만을 포함하도록 조정될 수 있다.

일부 실시형태들에서, 0 및 1 과 동일한 변수들 NumOnlySampleRefIdxLX 및 NumOnlyMotionRefIdxLX 는 다음과 같이 유도된다 :

1. PU 참조 시그널링

하나의 실시형태에서, ref_idx_l0[　x0　][　y0　] 은 현재의 예측 유닛에 대한 리스트 0 참조 픽처 인덱스를 특정한다. 어레이 인덱스들 x0, y0 은 픽처의 상부-좌측 루마 샘플에 대하여 고려된 예측 블록의 상부-좌측 루마 샘플의 로케이션 (　x0,　y0　) 을 특정한다. ref_idx_l1[　x0　][　y0　] 은 ref_idx_l0 과 동일한 시맨틱스를 갖고, 여기서 l0 및 list　0 은 각각 l1 및 list　1 로 대체된다. 소정의 실시형태들에서, 코딩 프로세스는 다음과 같이 SHVC 의 초기 버전들로부터 변경될 수도 있다 (변경들은 굵은 이탤릭체로 나타내진다) :

ref_idx_lX[x0][y0] 은 다음과 같이 조정되며 X 는 0 및 1 과 동일하다 :

2. 병치된 참조 인덱스 시그널링

하나의 실시형태에서, collocated_ref_idx 는 시간적 모션 벡터 예측을 위해 이용된 병치된 픽처의 참조 인덱스를 특정한다.

slice_type 이 P 와 동일한 경우 또는 slice_type 이 B 와 동일하고 collocated_from_l0 이 1 과 동일한 경우, collocated_ref_idx 는 리스트 0 에서의 픽처를 지칭하고, collocated_ref_idx 의 값은 0 내지 num_ref_idx_l0_active_minus1 - NumOnlySampleRefIdxL0 까지의 범위에 있어야 한다.

slice_type 이 B 와 동일하고 collocated_from_l0 이 0 과 동일한 경우, collocated_ref_idx 는 리스트 1 에서의 픽처를 지칭하고, collocated_ref_idx 의 값은 0 내지 num_ref_idx_l1_active_minus1　- NumOnlySampleRefIdxL1 까지의 범위에 있어야 한다.

그것은 collocated_ref_idx 에 의해 나타내진 픽처가 코딩된 픽처의 모든 슬라이스들에 대해 동일해야 한다는 비트스트림 적합성의 요건이다.

collocated_ref_idx 는 다음과 같이 조정되며 :

여기서 X 는 collocated_from_l0 과 동일하다.

전문용어

상기 개시물은 특정 실시형태들을 설명하였지만, 많은 변화들이 가능하다. 예를 들어, 상기 언급한 바와 같이, 상기 기법들은 3D 비디오 인코딩에 적용될 수도 있다. 3D 비디오의 일부 실시형태들에서, 참조 계층 (예를 들어, 기본 계층) 은 비디오의 제 1 뷰를 디스플레이하기에 충분한 비디오 정보를 포함하고 인핸스먼트 계층은 참조 계층 및 인핸스먼트 계층이 함께 비디오의 제 2 뷰를 디스플레이하기에 충분한 비디오 정보를 포함하도록 참조 계층에 대하여 추가적인 비디오 정보를 포함한다. 이들 2 개의 뷰들은 스테레오스코픽 이미지를 생성하는데 이용될 수 있다. 상기 논의한 바와 같이, 참조 계층으로부터의 모션 정보는 본 개시물의 양태들에 따라, 인핸스먼트 계층에서의 비디오 유닛을 인코딩 또는 디코딩할 때 추가적인 암시적 가설을 식별하는데 이용될 수 있다. 이것은 3D 비디오 비트스트림에 대한 더 큰 코딩 효율을 제공할 수 있다.

예에 의존하여, 본 명세서에서 설명된 기법들 중 임의의 것의 소정의 액트들 또는 이벤트들이 상이한 시퀀스로 수행될 수 있고, 추가, 병합, 또는 완전히 배제될 수도 있다는 것이 인정될 것이다 (예를 들어, 반드시 설명된 액트들 또는 이벤트들이 기법들의 실시에 필수적인 것은 아니다). 더욱이, 소정의 예들에서, 액트들 또는 이벤트들은 순차적이라기 보다는, 예를 들어, 멀티-스레디드 프로세싱, 인터럽트 프로세싱, 또는 다중 프로세서들을 통하여 동시에 수행될 수도 있다.

본 명세서에 개시된 정보 및 신호들은 다양한 상이한 기술들 및 기법들 중 임의의 것을 이용하여 표현될 수도 있다. 예를 들어, 상기 설명 전반에 걸쳐 참조될 수도 있는 데이터, 명령들, 커맨드들, 정보, 신호들, 비트들, 심볼들, 및 칩들은 전압들, 전류들, 전자기파들, 자기장들 또는 입자들, 광학장들 또는 입자들, 또는 이들의 임의의 조합에 의해 표현될 수도 있다.

본 명세서에 개시된 실시형태들과 관련하여 설명된 다양한 예시적인 논리 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 그 양자의 조합들로서 구현될 수도 있다. 하드웨어와 소프트웨어의 이 상호교환가능성을 명확히 예시하기 위해, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들 및 단계들은 그들의 기능성의 관점에서 일반적으로 상기 설명되었다. 이러한 기능성이 하드웨어로 구현되는지 소프트웨어로 구현되는지 여부는 전체 시스템에 부과된 설계 제약들 및 특정 애플리케이션에 의존한다. 당업자는 설명된 기능성을 각각의 특정 애플리케이션에 대해 다양한 방식으로 구현할 수도 있지만, 이러한 구현 결정들은 본 발명의 범위로부터 벗어남을 야기하는 것으로 해석되어서는 안된다.

본 명세서에서 설명된 기법들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합에서 구현될 수도 있다. 이러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 적용을 포함한 다수의 이용들을 갖는 집적 회로 디바이스들과 같은 다양한 디바이스들 중 임의의 것에서 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명된 임의의 특징들은 통합된 로직 디바이스에서 함께 또는 별개이지만 상호운용가능한 로직 디바이스들로서 별도로 구현될 수도 있다. 소프트웨어에서 구현된다면, 기법들은 실행될 때, 상기 설명된 방법들 중 하나 이상을 수행하는 명령들을 포함하는 프로그램 코드를 포함한 컴퓨터 판독가능 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터 판독가능 데이터 저장 매체는 패키징 자료들을 포함할 수도 있는 컴퓨터 프로그램 제품의 일부를 형성할 수도 있다. 컴퓨터 판독가능 매체는 메모리 또는 데이터 저장 매체들, 이를 테면 랜덤 액세스 메모리 (RAM), 이를 테면 동기식 동적 랜덤 액세스 메모리 (SDRAM), 판독 전용 메모리 (ROM), 비휘발성 랜덤 액세스 메모리 (NVRAM), 전기적으로 소거가능한 프로그램가능 판독 전용 메모리 (EEPROM), FLASH 메모리, 자기 또는 광학 데이터 저장 매체들 등을 포함할 수도 있다. 기법들은 추가적으로, 또는 대안적으로, 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 운반 또는 통신하고 전파된 신호들 또는 파형들과 같이 컴퓨터에 의해 액세스, 판독, 및/또는 실행될 수 있는 컴퓨터 판독가능 통신 매체에 의해 적어도 부분적으로 실현될 수도 있다.

프로그램 코드는 하나 이상의 프로세서들, 이를 테면 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적 회로들 (ASIC들), 필드 프로그램가능 로직 어레이들 (FPGA들), 또는 다른 등가의 집적 또는 이산 로직 회로부를 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 이러한 프로세서는 본 개시물에서 설명된 기법들 중 임의의 것을 수행하도록 구성될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있다; 그러나 대안적으로, 프로세서는 임의의 종래의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한 컴퓨팅 디바이스들의 조합, 예를 들어, DSP 와 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 결합된 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성으로서 구현될 수도 있다. 이에 따라, 용어 "프로세서" 는 본 명세서에 사용한 바와 같이, 전술한 구조의 임의의 것, 전술한 구조의 임의의 조합, 또는 본 명세서에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 또는 장치를 지칭할 수도 있다. 또한, 일부 양태들에서, 본 명세서에서 설명된 기능성은 인코딩 및 디코딩하기 위해 구성된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에 제공되거나, 또는 조합된 비디오 인코더-디코더 (CODEC) 에 통합될 수도 있다.

본 명세서에 논의된 코딩 기법들은 일 예의 비디오 인코딩 및 디코딩 시스템에서의 실시형태일 수도 있다. 시스템은 목적지 디바이스에 의해 추후에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 컴퓨터 판독가능 매체를 통해 비디오 데이터를 목적지 디바이스에 제공한다. 소스 디바이스 및 목적지 디바이스는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋-톱 박스들, 전화기 핸드셋들, 이를 테면 소위 "스마트" 폰들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스들 등을 포함한 광범위한 디바이스들 중 임의의 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스 및 목적지 디바이스는 무선 통신을 위해 장비될 수도 있다.

목적지 디바이스는 컴퓨터 판독가능 매체를 통해 디코딩될 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터 판독가능 매체는 소스 디바이스로부터의 인코딩된 비디오 데이터를 목적지 디바이스로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 컴퓨터 판독가능 매체는 소스 디바이스 (12) 가 인코딩된 비디오 데이터를 직접 목적지 디바이스에 실시간으로 송신하는 것을 가능하게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되고, 목적지 디바이스에 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 이를 테면 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리 송신 라인들을 포함할 수도 있다. 송신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷 기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

일부 예들에서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스에 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산된 또는 로컬로 액세스된 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 추가 예에서, 저장 디바이스는 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스는 스트리밍 또는 다운로드를 통해 저장 디바이스로부터의 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스에 송신할 수 있는 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예를 들어, 웹사이트용), FTP 서버, NAS (network attached storage) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스는 인터넷 접속을 포함한 임의의 표준 데이터 접속을 통하여 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은 무선 채널 (예를 들어, Wi-Fi 접속), 유선 접속 (예를 들어, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양자의 조합을 포함할 수도 있다. 저장 매체로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이들의 조합일 수도 있다.

본 개시물의 기법들은 무선 애플리케이션들 또는 세팅들에 반드시 제한되지는 않는다. 기법들은 공중 경유 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 인터넷 스트리밍 비디오 송신들, 이를 테면 HTTP 를 통한 동적 적응형 스트리밍 (DASH), 데이터 저장 매체 상으로 인코딩되는 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들과 같은 다양한 멀티미디어 애플리케이션들 중 임의의 것의 지원 하에 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 텔레포니와 같은 애플리케이션들 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

하나의 예에서, 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함할 수도 있다. 소스 디바이스의 비디오 인코더는 본 명세서에 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 어레인지먼트들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 카메라와 같은 외부 비디오 소스로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스는 통합된 디스플레이 디바이스를 포함하기 보다는, 외부 디스플레이 디바이스와 인터페이스할 수도 있다.

상기 예시적인 시스템은 단지 하나의 예일 뿐이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 본 개시물이 기법들은 일반적으로 비디오 인코딩 디바이스에 의해 수행되지만, 그 기법들은 또한 "CODEC" 으로 통상 지칭되는 비디오 인코더/디코더에 의해 수행될 수도 있다. 더욱이, 본 개시물의 기법들은 또한 비디오 프리프로세서에 의해 수행될 수도 있다. 소스 디바이스 및 목적지 디바이스는 소스 디바이스가 목적지 디바이스로의 송신을 위한 코딩된 비디오 데이터를 생성하는 이러한 코딩 디바이스들의 예들일 뿐이다. 일부 예들에서, 소스 및 목적지 디바이스들은 디바이스들 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 이런 이유로, 예시적인 시스템들은 예를 들어, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 또는 비디오 텔레포니를 위해 비디오 디바이스들 간에 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.

비디오 소스는 비디오 카메라, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 콘텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스와 같은 비디오 캡처 디바이스를 포함할 수도 있다. 추가 대안으로서, 비디오 소스는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성된 비디오의 조합, 또는 소스 비디오로서 컴퓨터 그래픽스 기반 데이터를 생성할 수도 있다. 일부 경우들에서, 비디오 소스가 비디오 카메라라면, 소스 디바이스 및 목적지 디바이스는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 상기 언급한 바와 같이, 본 개시물에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각각의 경우에, 캡처된, 프리-캡처된, 또는 컴퓨터 생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 그 후 컴퓨터 판독가능 매체 상으로 출력 인터페이스에 의해 출력될 수도 있다.

언급한 바와 같이, 컴퓨터 판독가능 매체는 일시적 매체들, 이를 테면 무선 브로드캐스트 또는 유선 네트워크 송신, 또는 저장 매체들 (즉, 비일시적 저장 매체들), 이를 테면 하드 디스크, 플래시 드라이브, 콤팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터 판독가능 매체들을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (미도시) 는 소스 디바이스로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 예를 들어, 네트워크 송신을 통해 목적지 디바이스에 제공할 수도 있다. 유사하게, 디스크 스탬핑 시설과 같은 매체 생산 시설의 컴퓨팅 디바이스는 소스 디바이스로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 포함한 디스크를 생산할 수도 있다. 따라서, 컴퓨터 판독가능 매체는 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체들을 포함하는 것으로 이해될 수도 있다.

목적지 디바이스의 입력 인터페이스는 컴퓨터 판독가능 매체로부터 정보를 수신한다. 컴퓨터 판독가능 매체의 정보는 비디오 인코더에 의해 정의된 신택스 정보를 포함할 수도 있으며, 그 신택스 정보는 비디오 디코더에 의해서도 이용되고, 블록들 및 다른 코딩된 유닛들, 예를 들어, 픽처들의 그룹 (GOP) 의 특성들 및/또는 프로세싱을 설명하는 신택스 엘리먼트들을 포함한다. 디스플레이 디바이스는 디코딩된 비디오 데이터를 사용자에게 디스플레이하며, 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다. 본 발명의 다양한 실시형태들이 설명되었다. 이들 및 다른 실시형태들은 다음의 청구항들의 범위 내에 있다.

본 발명의 다양한 실시형태들이 설명되었다. 이들 및 다른 실시형태들은 다음의 청구항들의 범위 내에 있다.

Claims (27)

1. 비디오 정보를 코딩하도록 구성된 장치로서,
   비디오 정보를 저장하도록 구성된 메모리; 및
   상기 메모리에 동작가능하게 커플링된 컴퓨팅 하드웨어를 포함하며,
   상기 컴퓨팅 하드웨어는 :
   계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하는 것으로서, 상기 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함하는, 상기 현재의 픽처를 식별하고; 그리고
   (1) ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 (2) ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록
   구성되며,
   상기 컴퓨팅 하드웨어는 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수에 독립적으로 상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
2. 제 1 항에 있어서,
   상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 동일한, 비디오 정보를 코딩하도록 구성된 장치.
3. 제 1 항에 있어서,
   상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 상이한, 비디오 정보를 코딩하도록 구성된 장치.
4. 제 1 항에 있어서,
   상기 컴퓨팅 하드웨어는 또한, 적어도 하나의 리샘플링된 픽처를 이용하여 상기 현재의 픽처를 예측하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
5. 제 4 항에 있어서,
   상기 적어도 하나의 리샘플링된 픽처는 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 이용되는, 비디오 정보를 코딩하도록 구성된 장치.
6. 제 4 항에 있어서,
   상기 적어도 하나의 리샘플링된 픽처는 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 이용되는, 비디오 정보를 코딩하도록 구성된 장치.
7. 제 1 항에 있어서,
   상기 컴퓨팅 하드웨어는 또한, ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되며, 상기 ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 단지 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수만을 포함하는, 비디오 정보를 코딩하도록 구성된 장치.
8. 제 1 항에 있어서,
   상기 컴퓨팅 하드웨어는 또한, 비트스트림에서의 하나 이상의 신택스 엘리먼트들을 인코딩하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
9. 제 1 항에 있어서,
   상기 컴퓨팅 하드웨어는 또한, 비트스트림에서의 하나 이상의 신택스 엘리먼트들을 디코딩하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
10. 제 1 항에 있어서,
    상기 비디오 정보를 코딩하도록 구성된 장치는 : 데스크톱 컴퓨터, 노트북 컴퓨터, 랩톱 컴퓨터, 태블릿 컴퓨터, 셋-톱 박스, 전화기 핸드셋, 스마트 폰, 스마트 패드, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 콘솔, 및 비디오 스트리밍 디바이스 중 하나 이상으로 이루어진 그룹에서 선택되는, 비디오 정보를 코딩하도록 구성된 장치.
11. 비디오 정보를 코딩하는 방법으로서,
    계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하는 단계로서, 상기 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함하는, 상기 현재의 픽처를 식별하는 단계; 및
    (1) ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 (2) ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하는 단계
    를 포함하며,
    상기 컴퓨팅 하드웨어는 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수에 독립적으로 상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되는, 비디오 정보를 코딩하는 방법.
12. 제 11 항에 있어서,
    상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 동일한, 비디오 정보를 코딩하는 방법.
13. 제 11 항에 있어서,
    상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 상이한, 비디오 정보를 코딩하는 방법.
14. 제 11 항에 있어서,
    적어도 하나의 리샘플링된 픽처를 이용하여 상기 현재의 픽처를 예측하는 단계를 더 포함하는, 비디오 정보를 코딩하는 방법.
15. 제 14 항에 있어서,
    상기 적어도 하나의 리샘플링된 픽처는 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 이용되는, 비디오 정보를 코딩하는 방법.
16. 제 14 항에 있어서,
    상기 적어도 하나의 리샘플링된 픽처는 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 이용되는, 비디오 정보를 코딩하는 방법.
17. 제 11 항에 있어서,
    ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하는 단계를 더 포함하며, 상기 ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 단지 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수만을 포함하는, 비디오 정보를 코딩하는 방법.
18. 제 11 항에 있어서,
    비트스트림에서의 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계를 더 포함하는, 비디오 정보를 코딩하는 방법.
19. 제 11 항에 있어서,
    비트스트림에서의 하나 이상의 신택스 엘리먼트들을 디코딩하는 단계를 더 포함하는, 비디오 정보를 코딩하는 방법.
20. 명령들을 포함하는 비일시적 컴퓨터 판독가능 매체로서,
    상기 명령들은, 컴퓨터 하드웨어를 포함하는 컴퓨팅 하드웨어 상에서 실행될 때, 상기 컴퓨팅 하드웨어로 하여금 :
    계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하게 하는 것으로서, 상기 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함하는, 상기 현재의 픽처를 식별하게 하고; 그리고
    (1) ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 (2) ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하게 하며,
    상기 컴퓨팅 하드웨어는 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수에 독립적으로 상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되는, 비일시적 컴퓨터 판독가능 매체.
21. 제 20 항에 있어서,
    상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 동일한, 비일시적 컴퓨터 판독가능 매체.
22. 제 20 항에 있어서,
    상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 상이한, 비일시적 컴퓨터 판독가능 매체.
23. 제 20 항에 있어서,
    상기 컴퓨팅 하드웨어는 또한, ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되며, 상기 ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 단지 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수만을 포함하는, 비일시적 컴퓨터 판독가능 매체.
24. 비디오 정보를 코딩하도록 구성된 장치로서,
    계층간 예측 (ILP) 의 적어도 하나의 타입을 이용하여 예측될 현재의 픽처를 식별하는 수단으로서, 상기 ILP 의 타입은 계층간 모션 예측 (ILMP) 또는 계층간 샘플 예측 (ILSP) 중 하나 이상을 포함하는, 상기 현재의 픽처를 식별하는 수단; 및
    (1) ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 (2) ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하는 수단
    을 포함하며,
    상기 컴퓨팅 하드웨어는 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수에 독립적으로 상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
25. 제 24 항에 있어서,
    상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 동일한, 비디오 정보를 코딩하도록 구성된 장치.
26. 제 24 항에 있어서,
    상기 ILMP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수 및 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 상이한, 비디오 정보를 코딩하도록 구성된 장치.
27. 제 24 항에 있어서,
    상기 제어하는 수단은 또한, ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수를 제어하도록 구성되며, 상기 ILP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수는 단지 상기 ILSP 를 이용하여 상기 현재의 픽처를 예측하기 위해 리샘플링 및 이용될 수 있는 픽처들의 수만을 포함하는, 비디오 정보를 코딩하도록 구성된 장치.

Images