KR20150079732A

KR20150079732A - 비디오 코딩에서의 타겟 출력 레이어

Info

Publication number: KR20150079732A
Application number: KR1020157013434A
Authority: KR
Inventors: 잉 천; 예-쿠이 왕
Original assignee: 퀄컴 인코포레이티드
Priority date: 2012-10-30
Filing date: 2013-10-30
Publication date: 2015-07-08
Also published as: WO2014070911A1; MA38045B1; KR101909331B1; HUE044973T2; JP6377623B2; US9936196B2; BR112015008574B1; BR112015008574A2; ECSP15021478A; AP2015008435A0; SA515360352B1; TWI532365B; ES2730876T3; TW201433146A; US20140119437A1; CN104782131A; MA38045A1; CN104782131B; JP2015537446A; EP2915334A1

Abstract

하나의 예에서, 디바이스는 비디오 코더를 포함하고 상기 비디오 코더는, 비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하는 것으로서, 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하고, 하나 이상의 출력 동작점들을 표시하는 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 것으로서, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하도록 구성된다.

Description

비디오 코딩에서의 타겟 출력 레이어{TARGET OUTPUT LAYERS IN VIDEO CODING}

본원은 2012년 10월 30일자로 출원된 U.S. 가특허출원 61/720,364의 혜택을 주장하며, 그의 전체 내용은 참조에 의해 본원에 포함된다.

기술 분야

본 개시는 비디오 코딩에 관한 것이다.

디지털 비디오 능력들은 디지털 텔레비전들, 디지털 다이렉트 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 휴대정보 단말기 (PDA) 들, 랩탑 또는 데스크탑 컴퓨터들, 태블릿 컴퓨터들, 전자책 단말기, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트 폰", 원격 화상회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들에 포함될 수 있다. 디지털 비디오 디바이스들은, MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, Part 10, AVC (Advanced Video Coding) 에 의해 정의되는 표준들, 현재 개발중인 HEVC (High Efficiency Video Coding) 표준, 및 그러한 표준들의 확장들, 이를테면 스케일러블 비디오 코딩 (SVC) 및 멀티뷰 비디오 코딩 (MVC) 에 설명된 것들과 같은 비디오 코딩 기법들을 구현한다. HEVC 의 작업 초안 (WD) 의 버전 6, Bross 등의 “High efficiency video coding (HEVC) text specification draft 6” (ITU-T SG16 WP3 및 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 8차 미팅 : 2012년 2월 1-10일, 미국, 캘리포니아, 산호세) 가 http://phenix.it-sudparis.eu/jct/doc_end_user/current_document.php?id=5096 로부터 입수가능하다. 비디오 디바이스들은, 그러한 비디오 코딩 기법들을 구현함으로써 보다 효율적으로 디지털 비디오 정보를 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.

비디오 코딩 기법들은, 비디오 시퀀스들에 내재하는 중복성 (redundancy) 을 감소시키거나 또는 제거하기 위해 공간 (인트라-화상) 예측 및/또는 시간 (인터-화상) 예측을 포함한다. 블록 기반 비디오 코딩을 위해, 비디오 슬라이스 (예를 들어, 비디오 화상, 또는 비디오 화상의 일부) 는 비디오 블록들로 파티션될 수도 있고, 이 비디오 블록들은 트리 블록들, 코딩 유닛 (CU) 들, 및/또는 코딩 노드들로도 지칭될 수도 있다. 화상의 인트라-코딩된 (I) 슬라이스에서의 비디오 블록들은 동일한 화상에서 이웃 블록들에 있는 참조 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 화상의 인터-코딩된 (P 또는 B) 슬라이스에서의 비디오블록들은 동일한 화상에서 이웃 블록들에 있는 참조 샘플들에 대한 공간 예측, 또는 다른 참조 화상들에서 참조 샘플들에 대한 시간 예측을 이용할 수도 있다. 화상들은 프레임들로 지칭될 수도 있고, 참조 화상들은 참조 프레임들로 지칭될 수도 있다.

공간 또는 시간 예측은 코딩될 블록을 위한 예측 블록을 초래한다. 잔차 데이터는 코딩될 원래 블록과 예측 블록 사이의 픽셀 차이들을 나타낸다. 인터-코딩된 블록은, 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터, 및 코딩된 블록과 예측 블록 사이의 차이를 표시하는 잔차 데이터에 따라 인코딩된다. 인트라-코딩된 블록은 인트라-코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 픽셀 도메인으로부터 변환 도메인으로 변환되어, 잔차 변환 계수들을 초래할 수도 있으며, 다음으로 이들은 양자화될 수도 있다. 초기에 2 차원 어레이로 배열된, 양자화된 변환 계수들은, 변환 계수들의 1 차원 벡터를 생성하기 위하여 스캔될 수도 있고, 엔트로피 코딩이 적용되어 훨씬 더 많은 압축을 달성할 수도 있다.

개요

본 개시의 기법들은 멀티뷰 비디오 코딩 및/또는 스케일러블 비디오 코딩에서 하나 이상의 타겟 출력 레이어 (target output layer) 들을 결정하는 것을 포함한다. 예를 들어, 현재 HEVC 베이스 규격 (위에서 언급된 바처럼, WD 6) 에서 정의된 동작점 (operation point) 은, 동작점이 비디오 데이터 비트스트림의 하나 이상의 레이어들을 갖는 레이어 세트를 나타내도록, 비디오 데이터의 다수의 레이어들을 포함할 수도 있다. 일부 경우들에서, 그러한 레이어들의 서브세트만이 출력, 예를 들어, 디스플레이를 위해 디코딩될 수도 있다. 본 개시의 양태들에 따르면, 출력을 위한 비디오 데이터의 타겟 레이어들을 구체적으로 식별하는 출력 동작점이 정의될 수도 있다.

일 예에서, 비디오 데이터를 디코딩하는 방법은, 복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들을, 멀티레이어 비트스트림으로부터, 획득하는 단계로서, 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 획득하는 단계, 및 하나 이상의 출력 동작점들을, 비트스트림의 하나 이상의 신택스 엘리먼트들에 기초하여, 결정하는 단계로서, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 결정하는 단계를 포함한다.

또 다른 예에서, 비디오 데이터를 인코딩하는 방법은, 복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들을 인코딩하는 단계로서, 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 복수의 레이어들을 인코딩하는 단계, 및 하나 이상의 출력 동작점들을 표시하는 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계로서, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계를 포함한다.

또 다른 예에서, 장치는 하나 이상의 프로세서들을 포함하고 상기 하나 이상의 프로세서들은, 비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하는 것으로서, 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고, 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하고, 하나 이상의 출력 동작점들을 표시하는 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 것으로서, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하도록 구성된다.

또 다른 예에서, 비디오 데이터를 코딩하기 위한 디바이스는, 비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하는 수단으로서, 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고, 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하는 수단, 및 하나 이상의 출력 동작점들을 표시하는 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 수단으로서, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 수단을 포함한다.

또 다른 예에서, 비일시적 컴퓨터 판독가능 저장 매체는 저장된 명령들을 갖고 상기 명령들은 실행될 때, 비디오 데이터를 코딩하기 위한 디바이스의 프로세서로 하여금, 비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하게 하는 것으로서, 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고, 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하게 하고, 하나 이상의 출력 동작점들을 표시하는 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하게 하는 것으로서, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하게 한다.

하나 이상의 예들의 상세는 첨부 도면 및 아래의 설명에 제시되어 있다. 다른 특징, 목적 및 이점들은 상세한 설명 및 도면, 그리고 청구항들로부터 분명해질 것이다.

도 1 은 본 개시의 양태들에 따른, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 이용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2 은 본 개시의 양태들에 따른, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 구현할 수도 있는 비디오 인코더의 예를 도시하는 블록도이다.
도 3 은 본 개시의 양태들에 따른, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 구현할 수도 있는 비디오 디코더 (30) 의 예를 도시하는 블록도이다.
도 4는 예시적인 MVC 예측 패턴을 도시하는 개념도이다.
도 5는 예시적인 스케일러블 비디오 코딩 시퀀스를 도시하는 개념도이다.
도 6은 본 개시의 양태들에 따른 출력 동작점을 인코딩하기 위한 예시적인 프로세스를 도시하는 플로우차트이다.
도 7은 본 개시의 양태들에 따른 출력 동작점을 디코딩하기 위한 예시적인 프로세스를 도시하는 플로우차트이다.

본 개시의 기법들은 멀티뷰 비디오 코딩 및/또는 스케일러블 비디오 코딩에서 하나 이상의 타겟 출력 레이어들을 결정하는 것을 포함한다. 현재, MPEG (Motion Pictures Experts Group) 은 다가오는 HEVC (high efficiency video coding) 표준에 기초한 3차원 비디오 (3DV) 표준을 개발하고 있다. 표준화 노력의 부분은 또한 HEVC 에 기초하여 HEVC 에 기초한 멀티뷰 비디오 코덱 및 스케일러블 비디오 코덱의 표준화를 포함한다. 예를 들어, 하나의 표준화 노력은, MV-HEVC 로도 지칭되는, HEVC 의 멀티뷰 확장의 개발을 포함하고, 또 다른 하나는 3D-HEVC 로 지칭되는 깊이 향상 HEVC-기반 풀 3DV 코덱이다. 스케일러블 비디오 코딩에 관하여, 뷰 스케일러빌리티 (view scalability) 및/또는 공간 스케일러빌리티 (spatial scalability) 는 또한, 그러한 스케일러빌리티들이 더 많은 뷰들을 위한 역호환 (backward-compatible) 확장들, 및/또는 레거시 디바이스들에 의한 디코딩을 허용하는 방식으로 뷰들의 해상도를 향상시키는 것을 허용하므로, 3차원 비디오 서비스들에 기여할 수도 있다.

3차원 비디오 데이터에 대해, 일반적으로, 각각의 뷰는, 공통 장면의 대응하는 비디오 데이터가 캡쳐된, 상이한 시점 또는 각도에 대응한다. 코딩된 뷰들은 비디오 데이터의 3차원 (3D) 디스플레이에 사용될 수 있다. 예를 들어, 2개의 뷰들 (예를 들면, 인간 뷰어의 좌측 및 우측 눈 뷰들) 이 광의 상이한 편광들을 이용하여 동시에 또는 거의 동시에 디스플레이될 수도 있고, 뷰어는 뷰어의 각각의 눈들이 뷰들의 각각의 뷰를 수신하도록 패시브형, 편광 안경을 착용할 수도 있다. 다르게는, 뷰어는, 각각의 눈을 독립적으로 셔터링 (shuttering) 하는 액티브형 안경을 착용할 수도 있고, 디스플레이는 안경과 동기화하여 각각의 눈의 이미지들간에 빠르게 교번할 수도 있다.

ITU-T H.264 표준 (다르게는 MPEG 4, Part 10, Advanced Video Coding (AVC) 표준이라 한다) 에 대한 부록 H 에 제시된 멀티뷰 비디오 코딩 (MVC) 과 같은 멀티뷰 코딩에 관하여, 특정 뷰의 특정 화상이 뷰 컴포넌트로 지칭된다. 즉, 뷰의 뷰 컴포넌트는 뷰의 특정 시간 인스턴스 (temporal instance) 에 대응한다. 멀티뷰 비디오는, 멀티뷰 데이터를 캡쳐하는데 사용된 모든 카메라들이 상이한 관점들로부터 동일한 장면을 캡쳐하므로, 비교적 많은 양의 인터-뷰 통계 의존성을 포함할 수도 있다. 그러한 의존성들은, 이미지들이 시간적으로 이웃하는 이미지들뿐만 아니라, 다른 뷰들로부터의 대응하는 이미지들로부터 예측되는, 결합된 시간 및/또는 인터-뷰 예측에 활용될 수 있다. 즉, 인터-뷰 예측은 동일한 액세스 유닛에서 (즉, 동일한 시간 인스턴스 내의) 화상들 중에서 수행될 수도 있다.

위에 언급된 바처럼, 스케일러블 비디오 코딩은 또한, 뷰 스케일러빌리티 및/또는 공간 스케일러빌리티를 제공하기 위하여 다수의 뷰들을 코딩하는데 사용될 수도 있다. 예를 들어, 스케일러블 비디오 코딩 (SVC) 은 H.264/AVC 표준에 대한 부록 G 에 기재되어 있고, 비디오 데이터의 다수의 레이어들을 코딩하는데 사용될 수도 있다. 일부 경우들에서, 각각의 레이어는 특정 뷰에 대응할 수도 있다.

여기에 기재된 비디오 "레이어 (layer)" 은 일반적으로, 뷰, 프레임 레이트, 해상도 등과 같은 적어도 하나의 공통 특징을 갖는 화상들의 시퀀스를 지칭할 수도 있다. 예를 들어, 레이어는 멀티뷰 비디오 데이터의 특정 뷰와 연관된 비디오 데이터를 포함할 수도 있다. 또 다른 예로서, 레이어는 스케일러블 비디오 데이터의 특정 레이어과 연관된 비디오 데이터를 포함할 수도 있다. 따라서, 본 개시는 상호교환가능하게 비디오 데이터의 뷰 및 레이어를 나타낸다.

어느 경우든, 비디오 코더 (이를테면, 아래에 더 상세하게 설명된, 비디오 인코더 또는 비디오 디코더) 는 코딩된 비디오 데이터의 다양한 특성들을 기술하거나 또는 결정하는데 하나 이상의 파라미터 세트들을 이용할 수도 있다. 파라미터 세트들로, 드물게 변화하는 정보는 각각의 화상 또는 화상들의 시퀀스에 대해 반복될 필요가 없음으로써, 코딩 효율을 증가시킨다. 일부 경우들에서, 파라미터 세트들은 비디오 비트스트림의 일부를 형성할 수도 있다. 다른 경우들에서, 파라미터 세트들은 다른 방식들 (예를 들어, 대역외 송신, 하드 코딩 등) 에서 비디오 디코더에 의해 수신될 수도 있다. 코딩된 비디오 시퀀스는 그의 연관된 파라미터 세트들과 함께 비디오 비트스트림의 독립적으로 디코딩가능한 부분을 나타낼 수도 있다.

HEVC 는 H.264/AVC 의 파라미터 세트 개념을 물려받았지만, 여러 변경들과 추가들을 포함한다. 일반적으로, 시퀀스 파라미터 세트 (SPS) 는 코딩된 비디오 시퀀스의 모든 슬라이스들에 적용되는 정보를 포함한다. HEVC 에서, 코딩된 비디오 시퀀스는 (시퀀스에 포함된) 제 1 순시 디코딩 리프레쉬 (IDR) 화상 및 (시퀀스에 포함되지 않은) 후속 IDR 화상 또는 (제 1 IDR 화상이 비트스트림에서 마지막 것이라면) 비트스트림의 종료 사이의 모든 화상들을 포함한다. 화상 파라미터 세트 (PPS) 는 화상간에 변화될 수도 있는 정보를 포함한다.

HEVC 는 또한, 비디오 파라미터 세트 (VPS) 구조를 포함한다. 일반적으로, VPS 는 시간적 서브레이어들 사이의 의존성 (dependency) 을 포함한, 코딩된 비디오 시퀀스의 전반적인 특성들을 기술한다. VPS 는 시스템 레이어에서 HEVC 표준의 호환 확장가능성을 가능하게 할 수도 있다. 예를 들어, VPS 는 그러한 레이어들을 디코딩할 수 있는 디코더에 적절할 수도 있지만, 레거시 디코더로 하여금 베이스 레이어를 디코딩하고 그러한 레이어들을 무시할 수 있게 하는 스케일러블 또는 멀티뷰 비트스트림 구조에 관한 추가적인 정보를 제공할 수도 있다.

비디오 데이터의 다수의 레이어들이 비트스트림에 포함될 때, 동작점이 비트스트림으로부터 일부 레이어들을 파싱 또는 추출하는데 사용될 수도 있다. 예를 들어, 멀티레이어 비트스트림은 수신된 인코딩 데이터의 서브세트를 디코딩 및 디스플레이하는 것을 용이하게 하기 위한 복수의 동작점들을 포함할 수도 있다. 여기에 기재된 "동작점 (operation point)" 은 일반적으로, 비디오 데이터의 하나 이상의 레이어들을 포함할 수도 있는, 레이어 세트를 나타낼 수도 있다. 위에 언급된 바처럼, 레이어는 일반적으로, 뷰, 프레임 레이트, 해상도 등 (예를 들어, 비디오 데이터의 뷰, 스케일러블 비디오 데이터의 레이어 등) 과 같은 적어도 하나의 공통 특성을 갖는 화상들의 시퀀스를 나타낼 수도 있다. 따라서, 동작점은, 비디오 데이터의 하나 이상의 뷰들, 비디오 데이터의 하나 이상의 레이어들 등을 갖는 레이어 세트를 나타낼 수도 있다. 따라서, "동작점" 및 "레이어 세트" 는 여기에서 교환가능하게 사용될 수도 있다.

상이한 동작점들을 사용하는 것은 다양한 클라이언트 디바이스들로 하여금 적응화를 수행할 수 있게 할 수도 있다. 즉, 상이한 렌더링 및 디코딩 능력들을 가진 클라이언트 디바이스들은 2차원 또는 3차원 비디오 데이터를 디스플레이하기 위하여 상이한 뷰들을 추출할 수도 있다. 클라이언트 디바이스들은 또한, 다양한 대역폭 능력들의 전송 매체에 적응시키기 위한 변화하는 비트레이트들의 데이터를 취출하기 위해 서버 디바이스와 협상할 수도 있다.

따라서, 각각의 동작점은 멀티뷰 비디오 데이터의 뷰들의 상이한 조합 및/또는 변화하는 시간 프레임 레이트들 및 공간 해상도로 인코딩된 스케일러블 비디오 데이터의 레이어들의 상이한 조합, 예를 들어, 상이한 레이어 세트들을 나타낼 수도 있다. 즉, 동작점은 (뷰들의 수를 반영하는) 뷰 차원, (프레임 레이트를 반영하는) 시간 차원 및 (공간 해상도를 반영하는) 공간 차원을 포함하는 3개 차원들에서 멀티뷰 비디오 데이터의 인코딩을 나타낼 수도 있다. 일부 경우들에서, 하나보다 많은 동작 점이 동일한 비트스트림 서브세트와 연관될 수도 있다. 즉, 하나보다 많은 레이어 세트가 동일한 비트스트림과 연관되어, 비트스트림은 레이어들의 하나 이상의 세트들을 포함할 수도 있다.

비디오 인코더는 베이스 뷰(base view)/레이어 및 향상 뷰(enhancement view)/레이어의 다양한 조합을 위한 다수의 레이어 세트들을 정의할 수도 있다. 특정 레이어 세트는 디스플레이를 위한 하나 이상의 타겟 출력 레이어들을 포함한, 비디오 데이터의 다수의 레이어들을 포함할 수도 있다. 예를 들어, 타겟 출력 뷰는 출력되도록 의도된, 예를 들어, 디스플레이될 때 가시성, 멀티뷰 비디오 데이터의 뷰를 포함할 수도 있다. 마찬가지로, 타겟 출력 레이어는 출력되도록 의도된 스케일러블 비디오 데이터의 레이어를 포함할 수도 있다. 여기에 기재된 타겟 출력 뷰 및 타겟 출력 레이어는 교환가능하게 사용될 수도 있다.

예를 들어, MVC 에 관하여, 동작점들은 SPS 에서 시그널링될 수도 있다. MVC 데이터의 타겟 출력 뷰들은 MVC 데이터의 타겟 최고 시간 레벨과 함께 시그널링될 수도 있다. SVC 에 관하여, 타겟 출력 레이어는 동작점의 최고 레이어에 따라, 예를 들어, 최고 dependency_id 및 quality_id 로 자동 선택될 수도 있다. HEVC 에 관하여, 동작점은 서브 비트스트림의 최고 시간 레벨에 기초하여 추출될 수도 있는 서브 비트스트림을 명시할 수도 있다. HEVC 는 또한, layer_id 로 이름이 바꾸어질 수도 있는 nuh_reserved_zero_6bits 값들의 리스트를 사용할 수도 있다.

HEVC 의 멀티뷰 코딩 확장 (MV-HEVC) 을 위한 것과 같은 비디오 데이터의 다수의 레이어들에 사용을 위해 HEVC 를 적응시킬 때, 동작점들은 오로지 VPS 에서 시그널링될 수도 있다. 예를 들어, (디코딩될) 비트스트림에 존재하는 뷰들은 각각의 동작점에 대해 VPS 에서 시그널링될 수도 있다. HEVC 의 스케일러블 확장 (HSVC, 또는, 다르게는 SHVC) 의 표준화에 관하여, 최고 layer_id 를 갖는 레이어가 특정 동작점에 대해 타겟 출력 레이어가 될 것이라고 예상된다.

VPS 구조를 사용하는 것을 포함한 HEVC 에서의 동작점들에 대한 현재 접근법은 다수의 레이어들로 코딩할 때 결점들을 가질 수도 있다. 예를 들어, HEVC 에서 정의된 동작점들은 비트스트림 추출 목적들을 위해서는 충분할 수도 있지만, VPS 는 동작점들의 타겟 출력 뷰들/레이어들을 명시하지 않는다. 즉, VPS 는 디스플레이되도록 의도된 비디오 데이터의 특정 레이어들을 식별하지 않는다.

어느 레이어들이 타겟 출력 레이어들인지를 알지 않고서, 출력에 사용되지 않은 일부 레이어들의 디코딩된 화상들이 필요한 것보다 더 오래 디코딩 화상 버퍼 (DPB) 에 유지됨으로써, 멀티뷰 시퀀스들을 위한 저장 요건을 증가시킬 수도 있다. 또한, 다수의 뷰들이 서브 비트스트림에 포함될 때, 콘텐츠 제공자는 뷰잉 경험 (viewing experience) 을 제어하기 위해 어느 서브 비트스트림들이 디코딩되고 출력으로서 디스플레이에 제공되는지를 제어하기 원할 수도 있다. 예를 들어, 콘텐츠 제공자는 사용자로 하여금 어느 서브 비트스트림으로부터 또는 서브 비트스트림의 조합으로부터 화상들을 볼 수 있게 하기 원하지 않을 수도 있다. 그러한 제어는 HEVC 의 현재 HEVC 스킴으로는 이용가능하지 않을 수도 있다.

본 개시의 기법들은, (각각 비디오 데이터의 하나 이상의 레이어들을 포함하는) 다수의 레이어 세트들을 포함한 비디오 데이터의 복수의 레이어들로부터, 다수의 레이어 세트들의 레이어 세트와 연관된 하나 이상의 출력 동작점들 및 하나 이상의 타겟 출력 레이어들을 결정하는 것을 포함한다. 예를 들어, 본 개시의 기법들은 멀티뷰 비디오 데이터를 위한 하나 이상의 타겟 출력 뷰들 및/또는 스케일러블 비디오 데이터를 위한 타겟 출력 레이어들을 식별하는 출력 동작점을 결정하는 것을 포함한다.

본 개시의 기법들은 또한, 출력 동작점을 표시하는 하나 이상의 신택스 엘리먼트들 및/또는 타겟 출력 레이어들을, 비디오 인코더에 의해, 시그널링하는 것, 및 출력 동작점 및/또는 타겟 출력 레이어들을 표시하는 하나 이상의 신택스 엘리먼트들을, 인코딩된 비트스트림으로부터 비디오 디코더에 의해, 파싱 (parsing) 하는 것을 포함한다. 타겟 출력 레이어(들) 과 함께 출력 동작점의 표시를 제공 및 이용하는 것은 디코딩된 화상 버퍼 관리에 관하여 효율을 증가시킬 수도 있고, 출력 (예를 들어, 디스플레이) 될 특정 뷰들 및/또는 레이어들을 표시하는 것에 관하여 유연성을 증가시킬 수도 있다.

본 개시의 양태들에 따르면, 현재 HEVC 베이스 규격 (예를 들어, 위에서 언급된 WD 6) 에 정의된 하나의 동작점은 하나 이상의 출력 동작점들에 대응할 수도 있으며, 각각의 출력 동작점은 상이한 타겟 출력 뷰(들) 및/또는 레이어(들) 을 갖는다. 예를 들어, 일부 경우들에서, 비디오 코더 (이를테면 비디오 인코더 또는 비디오 디코더) 는 비디오 데이터를 적절히 코딩하기 위해 레이어 세트의 비디오 데이터의 다수의 레이어들을 사용할 수도 있다. 하지만, 디코딩된 레이어들의 서브세트만이 출력, 예를 들어, 디스플레이에 바람직할 수도 있다. 본 개시의 양태들에 따르면, 비디오 코더는 출력을 위한 비디오 데이터의 타겟 레이어들을 특히 식별하는 출력 동작점을 결정할 수도 있다. 일부 경우들에서, 비디오 코더는, 예를 들어, 출력을 위한 비디오 데이터의 레이어들의 상이한 조합들을 수용하기 위해, 레이어 세트에 대해 하나보다 많은 출력 동작점을 결정할 수도 있다.

예시의 목적을 위한 예에서, 레이어 세트는 베이스 뷰 (뷰0), 제 1 뷰 (뷰1), 제 2 뷰 (뷰2), 및 제 3 뷰 (뷰3) 를 입체 애플리케이션을 위해 (예를 들어, 출력을 위한 2개 뷰들) 을 포함한다고 가정한다. 또한 뷰2 및 뷰3 는 최적 스테레오 출력을 제공한다고 가정한다. 이 예에서, 비디오 디코더는 뷰2 및 뷰3 를 디코딩하기 위하여 참조로서 베이스 뷰를 사용할 수도 있다. 또한, 비디오 디코더가 어느 종래 코딩 표준들 (이를테면, 위에 언급된 H.264/AVC 에 대한 MVC 또는 SVC 확장들) 에 따르면, 뷰2 및 뷰3 가 출력을 위한 최적 뷰들임에도 불구하고, 비디오 디코더는 출력을 위한 동작점의 최고 레벨, 즉 베이스 레이어를 선택할 수도 있다.

본 개시의 양태들에 따르면, 레이어 세트는 디코딩되는 하나 이상의 서브 비트스트림들을 명시하고, 출력 동작점은 출력될 레이어 세트 내의 레이어들의 서브세트를 표시한다. 따라서, 위의 예에서, 비디오 디코더는, 베이스 뷰, 제 1 뷰, 제 2 뷰, 및 제 3 뷰를 갖는 레이어 세트를 디코딩할 수도 있다. 또한, 비디오 디코더는 레이어 세트를 위한 출력 동작점을 결정할 수도 있고, 여기서 그 출력 동작점은 뷰2 및 뷰3 를 포함한다. 따라서, 비디오 코더는 디스플레이를 위해 뷰2 및 뷰3 를 디코딩 및 출력할 수도 있다.

위에 설명된 출력 동작점은 HEVC 에 대해서는 이전에 명시되지 않았다. 또한, H.264/AVC 에 대한 MVC 확장은 동작점의 어느 서브 비트스트림들이 디스플레이를 위해 의도되는지를 결정하는 문제에 부딪히지 않았는데, 왜냐하면 MVC 는 동작점들의 개념을 사용하지 않고, MVC 비트스트림의 모든 타겟 뷰들은 비트스트림에 있는 모든 뷰들에 의해 명시되기 때문이다. 따라서, 본 개시의 기법들은 다양한 표준들로 구현될 수도 있지만, 본 개시의 양태들은 HEVC 표준을 사용하여 명시될 동작점의 특정 타겟 출력 뷰들을 위한 메카니즘을 제공한다.

도 1 은 본 개시의 양태들에 따른, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 이용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템 (10) 을 도시하는 블록도이다. 도 1에 도시된 바처럼, 시스템 (10) 은, 목적지 디바이스 (14) 에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스 (12) 를 포함한다. 특히, 소스 디바이스 (12) 는, 컴퓨터 판독가능 매체 (16) 를 통해 목적지 디바이스 (14) 로 비디오 데이터를 제공한다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 데스크탑 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 전화기 핸드셋 이를테면 소위 "스마트" 폰들, 소위 "스마트" 패드, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 재생기들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스 등을 포함한, 광범위한 디바이스들 중 어느 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신을 위해 갖추어질 수도 있다.

목적지 디바이스 (14) 는, 컴퓨터 판독가능 매체 (16) 를 통해 디코딩될 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터 판독가능 매체 (16) 는, 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 일 예에서, 컴퓨터 판독가능 매체 (16) 는, 소스 디바이스 (12) 로 하여금 실시간으로 직접 목적지 디바이스 (14) 로, 인코딩된 비디오 데이터를 송신할 수 있게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는, 무선 통신 프로토콜 등의 통신 표준에 따라 변조되고, 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 이를테면, 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는, 로컬 영역 네트워크, 와이드 영역 네트워크, 또는 인터넷과 같은 글로벌 네트워크 등의 패킷 기반 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터, 스위치, 기지국, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

일부 예들에서, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스로 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는, 하드 드라이브, 블루레이 디스크, DVD, CD-ROM, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체 등의 다양한 분산형 또는 로컬적으로 액세스되는 데이터 저장 매체 중 어느 것을 포함할 수도 있다. 다른 예에서, 저장 디바이스는, 소스 디바이스 (12) 에 의해 생성되는 인코딩된 비디오를 저장할 수도 있는, 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스 (14) 는, 스트리밍 또는 다운로드를 통해 저장 디바이스로부터 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는, 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은, (예를 들어, 웹사이트용) 웹 서버, FTP 서버, NAS (network attached storage) 디바이스, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는, 인터넷 접속을 포함한, 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은, 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하는데 적합한 무선 채널 (예를 들어, Wi-Fi 접속), 유선 접속 (예를 들어, DSL, 케이블 모뎀 등), 또는 양자 모두의 조합을 포함할 수도 있다. 저장 디바이스로부터 인코딩된 비디오 데이터의 송신은, 스트리밍 송신, 다운로드 송신 또는 이들의 조합일 수도 있다.

본 개시의 기법들은 무선 어플리케이션들 또는 세팅들에 반드시 한정되는 것은 아니다. 그 기법들은, 공중 경유 (over-the-air) 텔레비전 브로드캐스트, 케이블 텔레비전 송신, 위성 텔레비전 송신, DASH (dynamic adaptive streaming over HTTP) 와 같은 인터넷 스트리밍 비디오 송신, 데이터 저장 매체 상에 인코딩되는 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션 등의 다양한 멀티미디어 애플리케이션들 중 어느 것을 지원하는 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템 (10) 은, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅 및/또는 화상 통화등의 애플리케이션들을 지원하기 위하여 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

도 1의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 포함한다. 목적지 디바이스 (14) 는, 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 본 개시에 따르면, 소스 디바이스 (12) 의 비디오 인코더 (20) 는, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 배열 (arrangement) 들을 포함할 수도 있다. 예를 들어, 소스 디바이스 (12) 는 외부 카메라와 같은 외부 비디오 소스 (18) 로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스 (14) 는 통합된 디스플레이 디바이스를 포함하기 보다는, 외부 디스플레이 디바이스와 인터페이스 접속할 수도 있다.

도 1의 예시된 시스템 (10) 은 하나의 예일 뿐이다. 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 일반적으로 본 개시의 기법들은 비디오 인코딩 디바이스에 의해 수행되지만, 그 기법들은 또한 "코덱 (CODEC)" 으로서 통상적으로 지칭되는, 비디오 인코더/디코더에 의해 수행될 수도 있다. 더욱이, 본 개시의 기법들은 또한 비디오 프리프로세서에 의해 수행될 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 소스 디바이스 (12) 가 목적지 디바이스 (14) 로의 송신을 위해 코딩된 비디오 데이터를 생성하는 그러한 코딩 디바이스들의 예들일 뿐이다. 일부 예들에서, 디바이스들 (12, 14) 은, 디바이스들 (12, 14) 의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 그러므로, 시스템 (10) 은 예를 들면, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅 또는 화상 통화를 위해, 비디오 디바이스들 (12, 14) 간의 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.

소스 디바이스 (12) 의 비디오 소스 (18) 는 비디오 카메라와 같은 비디오 캡쳐 디바이스, 이전에 캡처된 비디오를 포함하는 비디오 아카이브 (video archive), 및/또는 비디오 콘텐트 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스 (video feed interface) 를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스 (18) 는 라이브 비디오, 보관된 비디오 및 컴퓨터 생성된 비디오의 조합, 또는 소스 비디오로서 컴퓨터 그래픽스 기반 데이터를 생성할 수도 있다. 일부 경우들에서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 하지만, 위에서 언급된 바처럼, 본 개시에 설명된 기법들은, 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각 경우에서, 캡처되거나, 미리 캡처되거나, 또는 컴퓨터 생성된 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 다음으로, 인코딩된 비디오 정보는 컴퓨터 판독가능 매체 (16) 상으로 출력 인터페이스 (22) 에 의해 출력될 수도 있다.

컴퓨터 판독가능 매체 (16) 는, 무선 브로드캐스트 또는 유선 네트워크 송신 등의 일시적 매체, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루레이 디스크 또는 다른 컴퓨터 판독가능 매체 등의 저장 매체 (즉, 비일시적 저장 매체) 를 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (미도시) 는 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로, 예를 들어, 네트워크 송신을 통해 제공할 수도 있다. 유사하게, 디스크 스탬핑 설비 등의 매체 제조 설비의 컴퓨팅 디바이스는, 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 포함하는 디스크를 제조할 수도 있다. 그러므로, 컴퓨터 판독가능 매체 (16) 는, 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체를 포함하는 것으로 이해될 수도 있다.

목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 컴퓨터 판독가능 매체 (16) 로부터 정보를 수신한다. 컴퓨터 판독가능 매체 (16) 의 정보는 비디오 인코더 (20) 에 의해 정의된 신택스 정보를 포함할 수도 있고, 이는 또한 비디오 디코더 (30) 에 의해 사용되고, 이는 블록들 및 다른 코딩된 유닛들, 예컨대, GOP들의 프로세싱 및/또는 특성들을 기술하는 신택스 엘리먼트들을 포함한다. 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 어느 것을 포함할 수도 있다.

비록 도 1에 도시되지는 않았지만, 일부 양태들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각 오디오 인코더 및 디코더와 통합될 수도 있고, 적절한 MUX-DEMUX 유닛들 또는 다른 하드웨어 및 소프트웨어를 포함하여, 공통 데이터 스트림 또는 분리된 데이터 스트림들에서 오디오 및 비디오 양자 모두의 인코딩을 핸들링 (handling) 할 수도 있다. 적용가능하면, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜 또는 다른 프로토콜들 이를테면 사용자 데이터그램 프로토콜 (UDP) 을 따를 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각, 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서 (DSP) 들, 주문형 반도체 (ASIC), 필드 프로그램머블 게이트 어레이 (FPGA), 이산 로직 회로, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합과 같은 임의의 다양한 적합한 인코더 또는 디코더 회로로서, 적용가능한 바에 따라, 구현될 수도 있다. 그 기법들이 부분적으로 소프트웨어로 구현될 때, 디바이스는 적합한 비일시적 컴퓨터 판독가능 매체에 그 소프트웨어를 위한 명령들을 저장하고 본 개시의 기법들을 수행하기 위하여 하나 이상의 프로세서들을 이용하여 하드웨어에서 그 명령들을 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있는데, 이들 중 어느 한쪽은 결합된 비디오 인코더/디코더 (CODEC) 의 부분으로서 통합될 수도 있다. 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 를 포함하는 디바이스는 집적 회로, 마이크로프로세서, 및/또는 무선 통신 디바이스, 이를테면 셀룰러 전화기를 포함할 수도 있다.

도 1에 도시된 예에서, 시스템 (10) 은 또한, 라우터 (36) 를 갖는 서버/콘텐츠 전달 네트워크 (34) 를 포함한다. 일부 예들에서, 소스 디바이스 (12) 는, 상술된 바처럼, 다양한 무선 및/또는 유선 송신 또는 저장 매체를 통해 서버/콘텐츠 전달 네트워크 (34) 와 통신할 수도 있다. 게다가, 도 1의 예에서 따로 도시되었지만, 일부 예들에서, 소스 디바이스 (12) 및 서버/콘텐츠 전달 네트워크 (34) 는 동일한 디바이스를 포함한다. 서버/콘텐츠 전달 네트워크 (34) 는 (소스 디바이스 (12) 의 비디오 인코더 (20) 로부터) 코딩된 비디오 데이터의 하나 이상의 버전들을 저장할 수도 있고, 그러한 코딩된 비디오 데이터를 목적지 디바이스 (14) 및 비디오 디코더 (30) 에 의한 액세스에 이용가능하게 만들 수도 있다. 일부 예들에서, 라우터 (36) 는 요청된 포맷으로 코딩된 비디오 데이터를 목적지 디바이스 (14) 로 제공하는 것을 담당할 수도 있다.

본 개시는 일반적으로 어느 정보를 또 다른 디바이스, 이를테면 비디오 디코더 (30) 로 "시그널링" 하는 비디오 인코더 (20) 및/또는 서버/콘텐츠 전달 네트워크 (34) 를 나타낼 수도 있다. 하지만, 비디오 인코더 (20) 및/또는 서버/콘텐츠 전달 네트워크 (34) 는 비디오 데이터의 다양한 인코딩된 부분들과 어느 신택스 엘리먼트들을 연관시키는 것에 의해 정보를 시그널링할 수도 있다는 것에 유의해야 한다. 즉, 비디오 인코더 (20) 및/또는 서버/콘텐츠 전달 네트워크 (34) 는 비디오 데이터의 다양한 인코딩된 부분들의 헤더들에 어느 신택스 엘리먼트들을 저장하는 것에 의해 데이터를 "시그널링" 할 수도 있다. 일부 경우들에서, 그러한 신택스 엘리먼트들은 비디오 디코더 (30) 에 의해 수신 및 디코딩되기 전에 인코딩 및 저장 (예를 들어, 저장 디바이스 (24) 에 저장) 될 수도 있다. 따라서, 용어 " 시그널링" 은 일반적으로, 압축된 비디오 데이터를 디코딩하기 위한 신택스 또는 다른 데이터의 통신을, 그러한 통신이 실시간 또는 근 실시간으로 또는, 인코딩 시에 매체에 신택스 엘리먼트들을 저장한 다음, 이 매체에 저장된 후 언제든 디코딩 디바이스에 의해 취출될 수도 있는 경우에 일어날 수도 있는 것과 같이 어떤 기간에 걸쳐 일어나든지 간에, 나타낼 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는, 다르게는 MPEG-4, Part 10, AVC (Advanced Video Coding) 으로 지칭되는, ITU-T H.264 표준과 같은 비디오 압축 표준, 또는 그러한 표준들의 확장들에 따라 동작할 수도 있다. ITU-T H.264/MPEG-4 (AVC) 표준은, JVT (Joint Video Team) 로서 알려진 공동의 파트너쉽의 결과물로서 ISO/IEC MPEG (Moving Picture Experts Group) 과 함께 ITU-T VCEG (Video Coding Experts Group) 에 의해 공식화되었다. 일부 양태들에서, 본 개시에 설명된 기법들은 일반적으로 H.264 표준을 따르는 디바이스들에 적용될 수도 있다. H.264 표준은 ITU-T 연구 그룹에 의한 2005년 3월자의, ITU-T Recommendation H.264, Advanced Video Coding for generic audiovisual services 에 기술되어 있는데, 이는 여기서 H.264 표준 또는 H.264 규격 (specification), 또는 H.264/AVC 표준 또는 규격으로 지칭될 수도 있다. 비디오 압축 표준들의 다른 예들은 MPEG-2 및 ITU-T H.263 를 포함한다.

본 개시의 기법들은 임의의 특정 코딩 표준에 한정되지 않지만, 그 기법들은 HEVC 표준에 관련될 수도 있다. 보다 구체적으로, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 HEVC 표준의 확장, 예를 들어, SVC (scalable video coding) 확장을 포함한, 멀티뷰 확장 또는 3차원 비디오 (3DV) 확장에 따라 비디오 데이터를 코딩하도록 구성될 수도 있다.

일반적으로, HEVC 는 비디오 화상이, 루마 및 크로마 샘플들 양자 모두를 포함하는 트리블록들 또는 최대 코딩 유닛 (LCU) 들의 시퀀스로 분할될 수 있게 한다. 비트스트림 내의 신택스 데이터는, 픽셀들의 수의 면에서 가장 큰 코딩 유닛인 LCU 를 위한 크기를 정의할 수도 있다. 슬라이스는, 다수의 연속적인 코딩 트리 유닛 (CTU) 들을 포함한다. CTU 들의 각각은 루마 샘플들의 코딩 트리 블록, 크로마 샘플들의 2개의 대응 코딩 트리 블록들, 및 코딩 트리 블록들의 샘플들을 코딩하는데 사용된 신택스 구조들을 포함할 수도 있다. 단색 화상 또는 3개의 분리된 색 평면들을 갖는 화상에서, CTU 는 단일 코딩 트리 블록 및 그 코딩 트리 블록의 샘플들을 코딩하는데 사용된 신택스 구조들을 포함할 수도 있다.

비디오 화상은, 하나 이상의 슬라이스들로 파티션될 수도 있다. 각 트리블록은 쿼드트리에 따라 코딩 유닛 (CU) 들로 스플릿될 수도 있다. 일반적으로, 쿼드트리 데이터 구조는, 트리블록에 대응하는 루트 노드와, CU 당 하나의 노드를 포함한다. CU 가 4 개의 서브 CU 들로 스플릿되는 경우, 그 CU 에 대응하는 노드는 4 개의 리프 노드들을 포함하고, 이들의 각각은 서브 CU 들의 하나에 대응한다. CU 는 루마 샘플 어레이, Cb 샘플 어레이 및 Cr 샘플 어레이를 갖는 화상의 루마 샘플들의 코딩 블록 및 크로마 샘플들의 2개의 대응하는 코딩 블록들, 및 그 코딩 블록들의 샘플들을 코딩하는데 사용된 신택스 구조를 포함할 수도 있다. 단색 화상 또는 3개의 분리된 색 평면들을 갖는 화상에서, CU 는 단일 코딩 블록 및 그 코딩 블록의 샘플들을 코딩하는데 사용된 신택스 구조들을 포함할 수도 있다. 코딩 블록은 샘플들의 NxN 블록이다.

쿼드트리 데이터 구조의 각각의 노드는, 대응하는 CU 를 위한 신택스 데이터를 제공할 수도 있다. 예를 들어, 쿼드트리에서의 노드는, 그 노드에 대응하는 CU 가 서브 CU 들로 스플릿되는지 여부를 표시하는, 스플릿 플래그 (split flag) 를 포함할 수도 있다. CU 를 위한 신택스 엘리먼트들은 회귀적으로 정의될 수도 있고, CU 가 서브 CU 들로 스플릿되는지 여부에 의존할 수도 있다. CU가 더 스플릿되지 않으면, 그것은 리프 CU (leaf-CU) 로 지칭된다. 본 개시에서, 리프 CU의 4개 서브 CU 들은 또한, 원래 리프 CU 의 명시적 스플릿 (explicit splitting) 이 없더라도, 리프 CU들로 지칭될 것이다. 예를 들어, 16x16 크기의 CU 가 더 스플릿되지 않으면, 16x16 CU 가 스플릿되지 않았지만 4개의 8x8 서브 CU들이 또한 리프 CU 들로 지칭될 것이다.

CU 가 크기 구별을 갖지 않는다는 점을 제외하면, CU 는 H.264 표준의 매크로블록과 유사한 목적을 갖는다. 예를 들어, 트리블록은 (서브 CU 들로도 지칭되는) 4개의 자식 노드 (child node) 들로 스플릿될 수도 있고, 각 자식 노드는 차례로 부모 노드 (parent node) 가 될 수도 있고 또 다른 4개의 자식 노드들로 스플릿될 수도 있다. 쿼드트리의 리프 노드로 지칭되는, 최종, 스플릿되지 않은 자식 노드는, 리프 CU 로도 지칭되는, 코딩 노드를 포함한다. 코딩된 비트스트림과 연관된 신택스 데이터는, 최대 CU 깊이로도 지칭되는, 트리블록이 스플릿될 수도 있는 최대 횟수를 정의할 수도 있고, 또한 코딩 노드들의 최소 크기를 정의할 수도 있다. 따라서, 비트스트림은 최소 코딩 유닛 (smallest coding unit; SCU) 을 또한 정의할 수도 있다. 본 개시는, 용어 "블록" 을 사용하여, HEVC 의 콘텍스트에서, CU, PU, 또는 TU 중 어느 것을 지칭하거나, 또는 다른 표준들의 콘텍스트에서 유사한 데이터 구조들 (예를 들어, H.264/AVC 에서 매크로블록들 및 이들의 서브 블록들) 을 지칭한다.

CU 는 코딩 노드 그리고 그 코딩 노드와 연관된 예측 유닛 (PU) 들 및 변환 유닛 (TU) 들을 포함한다. CU 의 크기는 코딩 노드의 크기에 대응하고 형상이 정사각형이어야 한다. CU 의 크기는 8x8 픽셀들로부터, 최대 64x64 픽셀들 이상인 트리블록의 크기에 이르기까지의 범위일 수도 있다. 각 CU 는 하나 이상의 PU 들 및 하나 이상의 TU 들을 포함할 수도 있다.

일반적으로, PU 는, 대응하는 CU 의 전부 또는 일부에 대응하는 공간 영역을 나타내고, PU 를 위해 참조 샘플을 취출하기 위한 데이터를 포함할 수도 있다. 더욱이, PU 는 예측에 관한 데이터를 포함한다. 예를 들어, PU 가 인트라 모드 인코딩될 때, PU 를 위한 데이터는 잔차 쿼드트리 (RQT) 에 포함될 수도 있고, 이는, PU에 대응하는 TU 를 위한 인트라 예측 모드를 기술하는 데이터를 포함할 수도 있다. 또 다른 예로서, PU 가 인터 모드 인코딩될 때, PU 는 PU 를 위한 하나 이상의 모션 벡터들을 정의하는 데이터를 포함할 수도 있다. 예측 블록은, 동일한 예측이 적용되는 샘플들의 직사각형 (즉, 정사각형 또는 비정사각형) 블록일 수도 있다. CU 의 PU 는 화상의 루마 샘플들의 예측 블록, 크로마 샘플들의 2개 대응하는 예측 블록들, 및 예측 블록 샘플들을 예측하는데 사용된 신택스 구조들을 포함할 수도 있다. 단색 화상 또는 3개의 분리된 색 평면들을 갖는 화상에서, PU 는 단일 예측 블록 및 그 예측 블록 샘플들을 예측하는데 사용된 신택스 구조들을 포함할 수도 있다.

TU 들은 잔차 비디오 데이터에의 변환, 예를 들어, 이산 코사인 변환 (DCT), 정수 변환, 웨이블릿 변환, 또는 개념적으로 유사한 변환의 적용에 따라 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는, PU 들에 대응하는 예측 값들 및 인코딩되지 않은 화상의 픽셀들간의 픽셀 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는, CU 를 위한 잔차 데이터를 포함한 TU 들을 형성할 수도 있고, 다음으로 그 TU 들을 변환하여 CU 를 위한 변환 계수들을 생성할 수도 있다. 변환 블록은, 동일한 변환이 적용되는 샘플들의 직사각형 블록일 수도 있다. CU 의 변환 유닛 (TU) 은 루마 샘플들의 변환 블록, 크로마 샘플들의 2개 대응하는 변환 블록들, 및 변환 블록 샘플들을 변환하는데 사용된 신택스 구조들을 포함할 수도 있다. 단색 화상 또는 3개의 분리된 색 평면들을 갖는 화상에서, TU 는 단일 변환 블록 및 그 변환 블록 샘플들을 변환하는데 사용된 신택스 구조들을 포함할 수도 있다.

CU 의 PU 들을 이용한 인트라 예측 또는 인터 예측 코딩 다음에, 비디오 인코더 (20) 는 CU 의 TU 들을 위한 잔차 데이터를 계산할 수도 있다. PU 들은, (픽셀 도메인으로도 지칭되는) 공간 도메인에서 예측 픽셀 데이터를 생성하는 방법 또는 모드를 기술하는 신택스 데이터를 포함할 수도 있고, TU들은 잔차 비디오 데이터에의, 변환, 예를 들어, 이산 코사인 변환 (DCT), 정수 변환, 웨이블릿 변환, 또는 개념적으로 유사한 변환의 적용을 따라 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는, PU 들에 대응하는 예측 값들 및 인코딩되지 않은 화상의 픽셀들간의 픽셀 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는, CU 를 위한 잔차 데이터를 포함한 TU 들을 형성할 수도 있고, 다음으로 그 TU 들을 변환하여 CU 를 위한 변환 계수들을 생성할 수도 있다.

변환 계수들을 생성하기 위한 임의의 변환 다음에, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 일반적으로 양자화는, 변환 계수들이 양자화되어 그 계수들을 나타내는데 사용된 데이터의 양을 감소시킬 수 있으며, 추가 압축을 제공하는 프로세스를 지칭한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 깊이를 감소시킬 수도 있다. 예를 들면, n 비트 값은 양자화 동안 m 비트 값으로 절사 (round down) 될 수도 있고, 여기서 n은 m보다 더 크다.

양자화 다음에, 비디오 인코더는 변환 계수들을 스캔하여, 양자화된 변환 계수들을 포함하는 2차원 매트릭스로부터 1차원 벡터를 생성할 수도 있다. 그 스캔은 더 높은 에너지 (그리고 따라서 더 낮은 주파수) 계수들을 어레이의 전방에 두고 더 낮은 에너지 (그리고 따라서 더 높은 주파수) 계수들을 어레이의 후방에 두도록 설계될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는, 미리정의된 스캔 순서를 이용하여 양자화된 변환 계수들을 스캔함으로써 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 양자화된 변환 계수들을 스캔하여 1차원 벡터를 형성한 후에, 비디오 인코더 (20) 는 1차원 벡터를, 예를 들어, CAVLC (context-adaptive variable length coding), CABAC (context-adaptive binary arithmetic coding), SBAC (syntax-based context-adaptive binary arithmetic coding), PIPE (Probability Interval Partitioning Entropy) 코딩 또는 또 다른 엔트로피 인코딩 방법론에 따라, 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한, 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 인코딩된 비디오 데이터와 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

CABAC 을 수행하기 위하여, 비디오 인코더 (20) 는, 송신될 심볼에 콘텍스트 모델 내의 콘텍스트를 할당할 수도 있다. 콘텍스트는, 예를 들어, 심볼의 이웃 값들이 비영 (non-zero) 인지 여부에 관한 것일 수도 있다. CAVLC 을 수행하기 위하여, 비디오 인코더 (20) 는, 송신될 심볼을 위해 가변 길이 코드를 선택할 수도 있다. VLC 에서의 코드워드들은, 상대적으로 더 짧은 코드들이 더 높은 확률 심볼들에 대응하는 한편, 더 긴 코드들이 더 적은 확률 심볼들에 대응하도록 구성될 수도 있다. 이런 식으로, VLC 의 사용은, 예를 들어, 송신될 각 심볼에 동일 길이 코드워드들을 이용하는 것에 비해, 비트 절약 (bit savings) 을 달성할 수도 있다. 확률 결정은, 심볼에 할당된 콘텍스트에 기초할 수도 있다.

비디오 인코더 (20) 는 또한, 신택스 데이터, 이를테면 블록 기반 신택스 데이터, 화상 기반 신택스 데이터, 및 화상들의 그룹 (GOP) 기반 신택스 데이터를 비디오 디코더 (30) 로, 예를 들어, 화상 헤더, 블록 헤더, 슬라이스 헤더, 또는 GOP 헤더에서 전송할 수도 있다. GOP 신택스 데이터는, 각각의 GOP 에서 화상들의 수를 기술할 수도 있고, 화상 신택스 데이터는 대응하는 화상을 인코딩하는데 사용된 인코딩/예측 모드를 나타낼 수도 있다.

일부 예들에서, 비디오 데이터를 디코딩할 때 사용될 수도 있는 일부 파라미터 세트들을 비디오 인코더 (20) 가 생성하고 비디오 디코더 (30) 가 수신할 수도 있다. 예를 들어, 파라미터 세트들은, 드물게 변화하는 정보를 따로 시그널링하는 것에 의해 효율을 향상시키는, SPS, PPS, 또는 VPS 를 포함할 수도 있다. 더욱이, 파라미터 세트들의 사용은, 중요한 헤더 정보의 대역외 송신을 가능하여, 에러 레질런스 (error resilience) 를 위한 불필요한 송신들의 필요를 피할 수도 있다. 대역외 송신 예들에서, 파라미터 세트 네트워크 추상 레이어 (NAL) 유닛들은 SEI (Supplemental Enhancement Information) NAL 유닛들과 같은 다른 NAL 유닛들과는 상이한 채널 상에서 송신될 수도 있다.

SEI NAL 유닛들 (SEI 메시지로 지칭됨) 은 VCL NAL 유닛들로부터 코딩된 화상 샘플들을 디코딩하는데 필요하지 않는 정보를 포함할 수도 있지만, 디코딩, 디스플레이, 에러 레질런스 및 다른 목적들에 관한 프로세스들을 도울 수도 있다. SEI 메시지들은 비-VCL NAL 유닛들에 포함될 수도 있다. SEI 메시지들은 일부 표준 규격 (standard specification) 들의 규범 부분 (normative part) 에 포함될 수도 있고, 따라서, 표준 준수 디코더 구현을 위해 항상 의무적인 것은 아니다. SEI 메시지들은 시퀀스 레벨 SEI 메시지들 또는 화상 레벨 SEI 메시지들일 수도 있다. 일부 시퀀스 레벨 정보가 SEI 메시지들, 이를테면 SVC 의 예에서의 스케일러빌리티 (scalability) 정보 SEI 메시지들 및 MVC 에서의 뷰 스케일러빌리티 정보 SEI 메시지들에 포함될 수도 있다.

HEVC 에서, 비디오 인코더 (20) 는 nuh_reserved_zero_6bits 의 리스트뿐만 아니라, 서브 비트스트림의 최고 시간 레벨에 기초하여 인코딩된 비트스트림으로부터 추출될 수도 있는 서브 비트스트림을 표시하기 위한 동작점들을 정의할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 아래 나타낸 표 1에 따라 동작점들을 시그널링할 수도 있다:

위의 표 1에서, 1 과 같은 op_layer_id_included_flag[ opIdx ][ i ] 는 i 와 같은 layer_id 를 갖는 레이어가 layer_id 값들의 opIdx-번째 세트에 존재한다는 것을 명시할 수도 있다. 또한, 1 과 같은 op_layer_id_included_flag[ opIdx ][ i ] 는 i 와 같은 layer_id 를 갖는 레이어가 layer_id 값들의 opIdx-th 세트에 존재하지 않는다는 것을 명시할 수도 있다.

비디오 인코더 (20) 는 또한, VPS 에서 신택스 엘리먼트 vps_max_nuh_reserved_zero_layer_id 를 시그널링할 수도 있고, 여기서 vps_max_nuh_reserved_zero_layer_id 는 비디오 파라미터 세트에서 opIdx-번째 hrd_parameters( ) 신택스 구조가 적용되는 동작점들의 OpLayerIdSet 에 있는 코딩된 비디오 시퀀스에서 모든 NAL 유닛들에 대해 nuh_reserved_zero_6bits 의 최대 값을 명시한다.

일부 경우들에서, 비디오 인코더 (20) 는 HEVC에 대한 멀티뷰 확장 (MV-HEVC) 또는 3D-HEVC 에 사용을 위한 동작점들을 시그널링할 수도 있다. MV-HEVC 의 멀티뷰 확장의 최근 작업 초안 및 3D-HEVC 는 ITU-T SG 16 WP 3 및 ISO/IEC JTC 1/SC 29/WG 11 의 3D 비디오 코딩 확장 개발에 관한 공동 협력 팀, 1차 미팅 : 2012년 7월 16-20일, 스웨덴, 스톡홀름, “MV-HEVC 작업 초안 1”, http://phenix.it-sudparis.eu/jct2/doc_end_user/documents/1_Stockholm/wg11/JCT3V-A1004-v1.zip 에서 입수가능한, JCT3V-A1004, 및 ITU-T SG 16 WP 3 및 ISO/IEC JTC 1/SC 29/WG 11 의 3D 비디오 코딩 확장 개발에 관한 공동 협력 팀, 1차 미팅 : 2012년 7월 16-20일, 스웨덴, 스톡홀름, “3D-HEVC Test Model 1”, http://phenix.int-evry.fr/jct2/doc_end_user/documents/1_Stockholm/wg11/JCT3V-A1005-v1.zip 에서 입수가능한, JCT3V-A1005 에 각각 명시되어 있다.

MV-HEVC 및/또는 3D0-HEVC 의 동작점들은 오로지 비디오 파라미터 세트에서 시그널링될 수도 있다. 예를 들어, 비디오 인코더 (20) 는 각 동작점에 대해 존재하고 디코딩될 뷰들을 시그널링할 수도 있다.

위에 언급된 바처럼, HEVC 에서 정의된 동작점들은 비트스트림 추출 목적들을 위해서는 충분할 수도 있지만, VPS 는 동작점들의 타겟 출력 뷰들/레이어들을 명시하지 않는다. 즉, VPS 는 디스플레이되도록 의도된 비디오 데이터의 특정 레이어들을 식별하지 않는다.

어느 레이어들이 타겟 출력 레이어들인지를 알지 않고서, 출력에 사용되지 않은 일부 레이어들의 디코딩된 화상들이 필요한 것보다 더 오래 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 의 디코딩된 화상 버퍼 (DPB) 에 유지됨으로써, 멀티뷰 시퀀스들을 위한 저장 요건을 증가시킬 수도 있다. 또한, 다수의 뷰들이 서브 비트스트림에 포함될 때, 서버/콘텐츠 전달 네트워크 (34) 와 연관된 콘텐츠 제공자는 뷰잉 경험을 제어하기 위해 어느 서브 비트스트림들이 비디오 디코더 (30) 에 의해 디코딩되고 출력으로서 디스플레이 디바이스 (32) 에 제공되는지를 제어하기를 원할 수도 있다. 그러한 제어는 현재 HEVC 스킴으로는 이용가능하지 않을 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 는 본 개시의 다양한 기법들의 하나 이상을, 단독으로 또는 임의의 조합으로, 수행하도록 구성될 수도 있다. 예를 들어, 본 개시의 양태들에 따르면, 비디오 인코더 (20) 는, 인코딩된 비트스트림에 있는 하나 이상의 신택스 엘리먼트들로, 비디오 데이터의 복수의 레이어들을 갖는, 동작점, 예를 들어, 레이어 세트를 나타내는 데이터를 표시할 수도 있다. 또한, 비디오 인코더 (20) 는 동작점을 위한 출력 동작점을 표시하는 하나 이상의 신택스 엘리먼트들을 인코딩할 수도 있고, 출력 동작점은 비디오 데이터의 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관된다.

마찬가지로, 비디오 디코더 (30) 는, 인코딩된 비트스트림으로부터, 비디오 데이터의 복수의 레이어들을 갖는, 동작점, 예를 들어, 레이어 세트를 나타내는 데이터를 획득할 수도 있다. 또한, 비디오 디코더 (30) 는 동작점을 위한 출력 동작점을, 인코딩된 비트스트림의 하나 이상의 신택스 엘리먼트들에 기초하여, 결정할 수도 있고, 출력 동작점은 비디오 데이터의 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관된다.

예를 들어, 본 개시의 양태들에 따르면, HEVC 에 대한 멀티뷰 확장 (MV-HEVC) 또는 HEVC 에 대한 3차원 비디오 확장 (깊이 데이터의 하나 이상의 레이어들을 포함할 수도 있는, 3DV) 을 위하여, 비디오 인코더 (20) 는 VPS 또는 VPS 확장에서 각 출력 동작점에 대해 타겟 출력 레이어들을 시그널링할 수도 있다. 비디오 디코더 (30) 는 그러한 시그널링을 수신하고 각 출력 동작 점을 위한 타겟 출력 레이어들을 결정할 수도 있다.

예로서, MV-HEVC 에 관하여, 출력 동작점은, 동작점에 포함된 뷰들에 속하는 식별된 타겟 출력 뷰들의 리스트를 가진 레이어 세트를 나타낼 수도 있다. 비디오 인코더 (20) 는, 아래의 표 2의 예에 나타낸 바처럼, VPS 확장에서 출력 동작점을 시그널링할 수도 있다:

위의 표 2의 예에서, num_layer_operation_points 는 비디오 파라미터 세트가 적용되는 코딩된 비디오 시퀀스에 존재하는 출력 동작점들의 최대 수를 명시할 수도 있다. 또한, op_point_index 는 현재 i-번째 출력 동작점이 형성되는 것에 기초하여 동작점을 식별할 수도 있다. 또한, 1 과 같은 output_layer_flag[ op_point_index ][ j ] 는 j 와 같은 layer_id 를 갖는 레이어가 현재 i-번째 출력 동작점에 대한 출력을 위한 타겟이라는 것을 표시할 수도 있다. 또한, 0 과 같은 output_layer_flag[ j ] 는 j 와 같은 layer_id 를 갖는 레이어가 현재 i-번째 출력 동작점에 대한 출력을 위한 타겟이 아니라는 것을 표시할 수도 있다.

또 다른 예로서, 비디오 인코더 (20) 는, 아래의 표 3의 예에 나타낸 바처럼, VPS 에서 출력 동작점을 시그널링할 수도 있다:

위의 표 3의 예에서, num_target_views 는 현재 i-번째 출력 동작에 대해 타겟 출력 뷰들의 수를 명시할 수도 있다. 또한, target_layer_id[ i ][ j ] 는 현재 i-번째 출력 동작점의 j-번째 타겟 출력 뷰의 layer_id 를 명시할 수도 있다.

또 다른 예에서, 비디오 인코더 (20) 는 다른 신택스 엘리먼트들을 사용하여 타겟 출력 뷰들을 시그널링할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 SEI 메시지에서 또는 다른 대역외 시그널링 기법들을 사용하여 타겟 출력 뷰들을 표시하는 데이터를 인코딩할 수도 있다.

3D-HEVC 에 관하여, 출력 동작점은, 동작점에 포함된 뷰들에 속하는 식별된 타겟 출력 텍스쳐 또는 깊이 뷰들의 리스트를 가진, 동작점, 예를 들어, 레이어 세트를 나타낼 수도 있다. 비디오 인코더 (20) 는 MV-HEVC 에 관하여 상술된 것들과 유사한 신택스 및 시맨틱스를 이용하여 3D-HEVC 를 위한 출력 동작점을 시그널링할 수도 있다. 하지만, 3D-HEVC 에 대하여, 비디오 인코더 (20) 는 각각 layer_id 시그널링하여 타겟 출력 뷰가 깊이 또는 텍스쳐 뷰 중 어느 하나에 대응할 수도 있게 한다.

HSVC 에 관하여, 동작점의 타겟 출력 레이어는 수치적으로 가장 높은 layer_id 를 지닌 레이어가 되게 도출될 수도 있다. 예를 들어, 출력 동작점은, 출력을 위해 고려되는 동작점에서 최대 layer_id 를 갖는 레이어만을 갖는, 동작점, 예를 들어, 레이어 세트일 수도 있다. 따라서, 비디오 디코더 (30) 는 특정 동작점을 위해 출력 동작점을 결정하기 위하여 layer_id 신택스 엘리먼트를 디코딩할 수도 있다.

따라서, 본 개시의 양태들에 따르면, 현재 HEVC 베이스 규격에 정의된 하나의 동작점은 하나 이상의 출력 동작점들에 대응할 수도 있으며, 각각의 출력 동작점은 상이한 타겟 출력 뷰(들) 및/또는 레이어(들) 을 갖는다. 예를 들어, 디코딩된 레이어들의 서브세트가 출력, 예를 들어, 디스플레이에 바람직할 수도 있다는 표시를 비디오 인코더 (20) 가 인코딩된 비트스트림에서 시그널링할 수도 있다 (그리고 비디오 디코더 (30) 는 인코딩된 비트스트림을 파싱함으로써 획득할 수도 있다). 위에서 비디오 인코더 (20) 에 관하여 설명되었지만, 일부 예들에서, 서버/콘텐츠 전달 네트워크 (34) 가 그러한 시그널링을 담당할 수도 있다.

예를 들어, 서버/콘텐츠 전달 네트워크 (34) 는 비트스트림의 어느 레이어들이 출력에 최적인지 결정할 수도 있다. 이 예에서, 서버/콘텐츠 전달 네트워크 (34) 는 VPS, VPS 확장, SEI 메시지, 또는 출력 동작점을 위한 타겟 출력 레이어들을 표시하기 위한 다른 구조를 생성 및/또는 변경하는 것을 담당할 수도 있다.

디코딩된 화상 버퍼 (예를 들어, 도 2 및 도 3을 참조하여 설명된 바처럼, 참조 화상 메모리로도 지칭됨) 관리에 관하여, 본 개시의 양태들에 따르면, 동작 출력점이 디코딩될 때, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 디코딩된 화상 버퍼로부터 출력을 위해 타겟이 되지 않은 레이어의 디코딩된 화상을 제거할 수도 있는데, 단, 그 화상이 시간 예측 (예를 들어, 레이어 또는 뷰 내의 인터 예측) 또는 인터-레이어/인터-뷰 예측에 더 이상 필요하지 않은 것을 조건으로 한다. 예를 들어, 제거를 용이하게 하기 위하여, 비디오 인코더 (20) 는 타겟 출력 뷰 또는 레이어에 속하지 않는 레이어의 각각의 뷰 컴포넌트의 PicOutputFlag 를 0 과 같게 설정할 수도 있다. 따라서, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 참조를 위해 어느 화상들이 사용되지 않는지 결정할 수도 있고 그 결정에 기초하여 디코딩된 화상 버퍼로부터 그러한 화상들을 출력하지 않고 제거할 수도 있다.

도 2 은 본 개시의 양태들에 따른, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 구현할 수도 있는 비디오 인코더 (20) 의 예를 도시하는 블록도이다. 비디오 인코더 (20) 는, 비디오 슬라이스들 내의 비디오 블록들의 인트라 코딩 및 인터 코딩을 수행할 수도 있다. 인트라 코딩은 소정의 비디오 화상 내의 비디오에서 공간적 중복성을 감소 또는 제거하기 위하여 공간적 예측에 의존한다. 인터 코딩은 비디오 시퀀스의 인접하는 화상들 내의 비디오에서 시간적 중복성을 감소 또는 제거하기 위하여 시간적 예측에 의존한다. 인트라 모드 (I 모드) 는 여러 공간 기반 코딩 모드들 중 어느 것을 지칭할 수도 있다. 인터 모드들, 이를테면 단방향 예측 (P 모드) 또는 양 예측 (B 모드) 은, 여러 시간 기반 코딩 모드들 중 어느 것을 지칭할 수도 있다.

위에 언급된 바처럼, 비디오 인코더 (20) 는 멀티뷰 및/또는 스케일러블 비디오 코딩을 수행하도록 적응될 수도 있다. 일부 경우들에서, 비디오 인코더 (20) 는, 시간 인스턴스 (time instance) 에서 각각의 뷰가 비디오 디코더 (30) 와 같은 디코더에 의해 프로세싱될 수 있도록, MV-HEVC 비디오 코딩 표준에 따르도록 구성될 수도 있다. 다른 경우들에서, 비디오 인코더 (20) 는 3D-HEVC 비디오 코딩 표준에 따르도록 구성될 수도 있고, 각각의 뷰에 대하여 인코딩 텍스쳐 맵 (즉, 루마 및 크로마 값들) 을 인코딩하는 것에 더하여 각각의 뷰를 위한 깊이 맵을 인코딩하도록 구성될 수도 있다. 또 다른 경우들에서, 비디오 인코더 (20) 는 HSVC 비디오 코딩 표준에 따라 비디오 데이터의 다수의, 스케일러블 레이어들을 인코딩하도록 구성될 수도 있다. 특정 코딩 표준들이 언급되었지만, 그 기법들은 임의의 하나의 코딩 표준에 전용되는 것이 아니고, 향후 및/또는 아직 개발되지 않은 표준들로 구현될 수도 있다는 것이 이해되야 한다.

어느 경우든, 도 2에 도시된 바처럼, 비디오 인코더 (20) 는 인코딩될 비디오 화상 내의 현재 비디오 블록을 수신한다. 도 2 의 예에서, 비디오 인코더 (20) 는, 모드 선택 유닛 (40), 참조 화상 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 모드 선택 유닛 (40) 은, 차례로, 모션 보상 유닛 (44), 모션 추정 유닛 (42), 인트라 예측 유닛 (46), 및 파티션 유닛 (48) 을 포함한다. 비디오 블록 재구성을 위해, 비디오 인코더 (20) 는 또한 역 양자화 유닛 (58), 역 변환 유닛 (60), 및 합산기 (62) 를 포함한다. 디블록킹 필터 (도 2에 미도시) 가 또한 포함되어, 재구성된 비디오로부터 블록키니스 아티팩트 (blockiness artifact) 를 제거하기 위해 블록 경계들을 필터링할 수도 있다. 원하는 경우, 디블록킹 필터는 통상적으로 합산기 (62) 의 출력을 필터링한다. 추가적인 필터들 (인 루프 또는 포스트 루프) 이 또한, 디블록킹 필터에 추가하여 사용될 수도 있다. 그러한 필터들은 간결성을 위해 도시되지는 않았지만, 원한다면, (인루프 필터로서) 합산기 (50) 의 출력을 필터링할 수도 있다.

인코딩 프로세스 동안, 비디오 인코더 (20) 는 코딩될 비디오 화상 또는 슬라이스를 수신한다. 화상 또는 슬라이스는 다수의 비디오 블록들로 분할될 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 하나 이상의 참조 화상들에서의 하나 이상의 블록들에 대해 수신된 비디오 블록의 인터 예측 코딩을 수행해 시간적 예측을 제공한다. 인트라 예측 유닛 (46) 은 대안적으로, 코딩될 블록과 동일한 화상 또는 슬라이스에서의 하나 이상의 이웃 블록들에 상대적으로 수신된 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 예측을 제공할 수도 있다. 비디오 인코더 (20) 는, 예를 들어, 비디오 데이터의 각 블록을 위한 적절한 코딩 모드를 선택하기 위하여, 다중 코딩 패스들을 수행할 수도 있다.

또한, 파티션 유닛 (48) 은, 이전 코딩 패스들에서 이전 파티셔닝 스킴들의 평가에 기초하여, 비디오 데이터의 블록들을 서브블록들로 파티션할 수도 있다. 예를 들어, 파티션 유닛 (48) 은, 초기에 화상 또는 슬라이스를 LCU 들로 파티션할 수도 있고, 레이트 왜곡 분석 (예를 들어, 레이트 왜곡 최적화) 에 기초하여, LCU 들의 각각을 서브 CU들로 파티션할 수도 있다. 모드 선택 유닛 (40) 은 또한, LCU 의 서브 CU들로의 파티셔닝을 나타내는 쿼드트리 데이터 구조를 생성할 수도 있다. 쿼드트리의 리프 노드 CU 들은 하나 이상의 PU 들 및 하나 이상의 TU 들을 포함할 수도 있다.

모드 선택 유닛 (40) 은, 예를 들면, 에러 결과들에 기초하여 코딩 모드들 중 하나, 인트라 또는 인터 코딩 모드를 선택할 수도 있고, 결과적인 인트라 또는 인터 코딩된 블록을 합산기 (50) 에 제공하여 잔차 블록 데이터를 생성하고 합산기 (62) 에 제공하여 참조 화상으로서 이용을 위해 인코딩된 블록을 재구성한다. 모드 선택 유닛 (40) 은 또한, 신택스 엘리먼트들, 이를테면 모션 벡터들, 인트라 모드 표시자, 파티션 정보, 및 다른 그러한 신택스 정보를 엔트로피 인코딩 유닛 (56) 에 제공한다.

모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적을 위해 따로따로 예시되어 있다. 모션 추정 유닛 (42) 에 의해 수행되는, 모션 추정은, 비디오 블록들을 위한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 현재 화상 (또는 다른 코딩된 유닛) 내의 코딩되는 현재 블록에 대한 참조 화상 (또는 다른 코딩된 유닛) 내의 예측 블록에 대한 현재 비디오 화상 내의 비디오 블록의 PU 의 변위를 표시할 수도 있다. 예측 블록은, 절대 차이의 합 (sum of absolute difference; SAD), 제곱 차이의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 픽셀 차이에 관하여, 코딩될 블록과 밀접하게 매치하는 것으로 구해진 블록이다. 일부 예들에서, 비디오 인코더 (20) 는 참조 화상 메모리 (64) 에 저장된 참조 화상들의 서브 정수 픽셀 위치 (sub-integer pixel position) 들을 위한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 화상의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치 (fractional pixel position) 들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은, 전 (full) 픽셀 위치들 그리고 분수 픽셀 위치들에 대해 모션 검색을 수행하고 분수 픽셀 정밀도로 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은, PU 의 위치와 참조 화상의 예측 블록의 위치를 비교함으로써 인터 코딩된 슬라이스에서 비디오 블록의 PU를 위한 모션 벡터를 계산한다. 참조 화상은, 제 1 참조 화상 리스트 (리스트 0) 또는 제 2 참조 화상 리스트 (리스트 1) 로부터 선택될 수도 있고, 이들의 각각은 참조 화상 메모리 (64) 에 저장된 하나 이상의 참조 화상들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.

모션 보상 유닛 (44) 에 의해 수행된 모션 보상은, 모션 추정 유닛 (42) 에 의해 결정된 모션 벡터에 기초한 예측 블록의 페칭 (fetching) 또는 생성을 수반할 수도 있다. 또, 일부 예들에서, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 기능적으로 통합될 수도 있다. 현재 비디오 블록의 PU를 위한 모션 벡터의 수신시에, 모션 보상 유닛 (44) 은, 모션 벡터가 참조 화상 리스트들 중 하나에서 가리키는 예측 블록을 로케이팅할 수도 있다. 합산기 (50) 는, 아래에 논의되는 바처럼, 코딩되는 현재 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여, 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 일반적으로, 모션 추정 유닛 (42) 은 루마 컴포넌트들에 대해 모션 추정을 수행하고, 모션 보상 유닛 (44) 은 크로마 컴포넌트들 및 루마 컴포넌트들 양자 모두를 위해 루마 컴포넌트들에 기초하여 계산된 모션 벡터들을 사용한다. 모드 선택 유닛 (40) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라-예측 유닛 (46) 은, 상술된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행되는 인터 예측에 대한 대안으로서, 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라-예측 유닛 (46) 은 현재 블록을 인코딩하는데 이용할 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 유닛 (46) 은, 예를 들어, 분리된 인코딩 패스들 동안에, 다양한 인트라 예측 모드들을 이용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 유닛 (46) (또는, 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 이용할 적절한 인트라 예측 모드를 선택할 수도 있다.

예를 들어, 인트라-예측 유닛 (46) 은 다양한 테스트된 인트라-예측 모드들에 대한 레이트 왜곡 분석을 이용하여 레이트 왜곡 값들을 산출하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라-예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록을 생성하는데 이용된 비트레이트 (즉, 비트들의 수) 뿐만 아니라, 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의, 인코딩되지 않은 블록과 인코딩된 블록 사이의 왜곡 (또는 에러) 의 양을 결정한다. 인트라 예측 유닛 (46) 은 그 왜곡들로부터 비 (ratio) 및 여러 인코딩된 블록들에 대한 레이트들을 산출하여 어느 인트라 예측 모드가 블록에 대한 최상의 레이트 왜곡 값을 나타내는지를 결정할 수도 있다.

블록에 대한 인트라 예측 모드를 선택한 후에, 인트라 예측 유닛 (46) 은 엔트로피 인코딩 유닛 (56) 에 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라 예측 모드를 표시하는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 송신된 비트스트림에서 구성 데이터를 포함할 수도 있고, 이는 복수의 인트라 예측 모드 인덱스 테이블들 및 복수의 수정된 인트라 예측 모드 인덱스 테이블들 (코드워드 맵핑 테이블이라고도 한다), 다양한 블록들을 위한 인코딩 콘텍스트들의 정의들, 그리고 최고 확률 인트라 예측 모드의 표시들, 인트라 예측 모드 인덱스 테이블, 및 수정된 인트라 예측 모드 인덱스 테이블을 포함하여 콘텍스트들의 각각을 위해 사용할 수도 있다.

비디오 인코더 (20) 는, 코딩되는 원래 비디오 블록으로부터 모드 선택 유닛 (40) 으로부터의 예측 데이터를 감산함으로써 잔차 비디오 블록을 형성한다. 합산기 (50) 는 이 감산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 변환 프로세싱 유닛 (52) 은 변환, 이를테면 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환을 잔차 블록에 적용하며, 잔차 변환 계수 값들을 포함하는 비디오 블록을 생성한다. 변환 프로세싱 유닛 (52) 은, DCT 와 개념적으로 유사한 다른 변환들을 수행할 수도 있다. 웨이브릿 변환 (wavelet transform), 정수 변환, 서브밴드 변환 또는 다른 타입들의 변환들이 또한 사용될 수 있다.

어느 경우든, 변환 프로세싱 유닛 (52) 은 변환을 잔차 블록에 적용하며, 잔차 변환 계수들의 블록을 생성한다. 변환은 잔차 정보를 픽셀 값 도메인으로부터 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다. 변환 프로세싱 유닛 (52) 은 양자화 유닛 (54) 에 결과적인 변환 계수들을 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더 감소시킨다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 깊이를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 변경될 수도 있다. 다음으로, 일부 예들에서, 양자화 유닛 (54) 은 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.

양자화 다음에, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 CAVLC (context adaptive variable length coding), CABAC (context adaptive binary arithmetic coding), SBAC (syntax-based context-adaptive binary arithmetic coding), PIPE (probability interval partitioning entropy) 코딩 또는 또 다른 엔트로피 코딩 기법을 수행할 수도 있다. 콘텍스트 기반 엔트로피 코딩의 경우에, 콘텍스트는 이웃 블록들에 기초할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 코딩 다음에, 인코딩된 비트스트림은 다른 디바이스 (예를 들어, 비디오 디코더 (30)) 로 송신되거나 또는 나중의 송신 또는 취출을 위해 보관될 수도 있다.

역 양자화 유닛 (58) 및 역 변환 유닛 (60) 은 역 양자화 및 역 변환을 각각 적용하여, 예를 들면 참조 블록으로서 나중에 사용을 위해 픽셀 도메인에서 잔차 블록을 재구성한다. 모션 보상 유닛 (44) 은, 참조 화상 메모리 (64) 의 화상들 중 하나의 화상의 예측 블록에 잔차 블록을 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한 하나 이상의 보간 필터들을 그 재구성된 잔차 블록에 적용하여, 모션 추정에 사용하기 위한 서브 정수 픽셀 값들을 산출할 수도 있다. 합산기 (62) 는 재구성된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성되는 모션 보상된 예측 블록에 가산하여 참조 화상 메모리 (64) 에 저장하기 위해 재구성된 비디오 블록을 생성한다. 재구성된 비디오 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 참조 블록으로서 사용되어 후속 비디오 화상에서 블록을 인터 코딩할 수도 있다.

비디오 인코더 (20) 는 상술된 바처럼, 엔트로피 인코딩 유닛 (56) 또는 비디오 인코더 (20) 의 또 다른 인코딩 유닛에 의해 인코딩될 수도 있는, 다수의 신택스 엘리먼트들을 생성할 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 상술된 바처럼 멀티뷰 및/또는 멀티레이어 비트스트림을 위한 신택스 엘리먼트들을 생성 및 인코딩할 수도 있다.

예를 들어, 본 개시의 양태들에 따르면, 엔트로피 인코딩 유닛 (56) 은, 비디오 데이터의 복수의 레이어들을 갖는, 동작점, 예를 들어, 레이어 세트를 표시하는 인코딩된 비트스트림에 있는 하나 이상의 신택스 엘리먼트들을 인코딩할 수도 있다. 또한, 엔트로피 인코딩 유닛 (56) 은 레이어 세트를 위한 출력 동작점을 표시하는 하나 이상의 신택스 엘리먼트들을 인코딩할 수도 있고, 출력 동작점은 비디오 데이터의 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관된다.

일부 예들에서, 본 개시의 양태들에 따르면, 비디오 인코더 (20) 는 MV-HEVC, 3D-HEVC, 또는 HSVC 와 같은 비디오 코딩 표준에 따라 출력 동작점을 위한 타겟 출력 레이어들을 표시할 수도 있다. 예를 들어, 멀티뷰 비디오 코딩 (예를 들어, MV-HEVC 또는 3D-HEVC) 에 관하여, 비디오 인코더 (20) 는 VPS 확장 (이를테면, 위의 표 2의 예에 관하여 나타내고 설명된 것), VPS (예를 들어, 위의 표 3의 예에 관하여 나타내고 설명된 것), SEI 메시지, 또는 하나 이상의 출력 동작점들을 표시하기 위한 다른 메시지들을 인코딩할 수도 있고, 각각의 출력 동작점은 연관된 타겟 출력 레이어들을 갖는다. 위에 언급된 바처럼, 깊이 뷰들을 인코딩할 때, 출력 동작점은, 동작점에 포함된 뷰들에 속하는 식별된 타겟 출력 텍스쳐 또는 깊이 뷰들의 리스트를 가진 동작점을 나타낼 수도 있다.

HSVC 에 관하여, 비디오 인코더 (20) 는 (예를 들어, 아래에서 도 5를 참조하여, 더 상세하게 설명되는 바처럼) 비디오 데이터의 각각의 레이어를 식별하기 위하여 비디오 데이터의 각각의 레이어에 layer_id 를 인코딩할 수도 있다. 본 개시의 양태들에 따르면, 출력 동작점은 출력을 위해 고려되는 동작점에서의 최대 layer_id 를 갖는 레이어만을 갖는 동작점일 수도 있다.

따라서, 본 개시의 양태들에 따르면, 현재 HEVC 베이스 규격에 정의된 하나의 동작점은 하나 이상의 출력 동작점들에 대응할 수도 있으며, 각각의 출력 동작점은 상이한 타겟 출력 뷰(들) 및/또는 레이어(들) 을 갖는다. 예를 들어, 비디오 인코더 (20) 는 디코딩된 레이어들의 서브세트가 출력, 예를 들어, 디스플레이에 바람직할 수도 있다는 표시를 인코딩된 비트스트림에서 시그널링할 수도 있다.

본 개시의 일부 양태들에 따르면, 비디오 인코더 (20) 는 결정된 출력 동작점 및 타겟 출력 레이어들에 기초하여 참조 화상 메모리 (64) 로부터 하나 이상의 화상들을 제거할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 출력을 위해 타겟이 되지 않고 시간 예측 (예를 들어, 레이어 또는 뷰 내의 인터 예측) 또는 인터-레이어/인터-뷰 예측에 필요하지 않은 화상들을 참조 화상 메모리 (64) 로부터 제거할 수도 있다.

이런 식으로, 비디오 인코더 (20) 는 복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들을 인코딩하도록 구성된 비디오 인코더의 하나의 예를 나타내고, 여기서 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함한다. 비디오 인코더 (20) 는 또한, 하나 이상의 출력 동작점들을 표시하는 비트스트림의 하나 이상의 신택스 엘리먼트들을 인코딩하도록 구성되고, 여기서 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관된다.

도 3 은 본 개시의 양태들에 따른, 하나 이상의 타겟 출력 레이어들을 결정하기 위한 기법들을 구현할 수도 있는 비디오 디코더 (30) 의 예를 도시하는 블록도이다. 도 3 의 예에서, 비디오 디코더 (30) 는, 엔트로피 디코딩 유닛 (70), 모션 보상 유닛 (72), 인트라 예측 유닛 (74), 역 양자화 유닛 (76), 역 변환 유닛 (78), 참조 화상 메모리 (82) 및 합산기 (80) 를 포함한다.

위에 언급된 바처럼, 비디오 디코더 (30) 는 멀티뷰 및/또는 스케일러블 비디오 코딩을 수행하도록 적응될 수도 있다. 일부 경우들에서, 비디오 디코더 (30) 는 MV-HEVC 비디오 코딩 표준에 따르도록 구성될 수도 있다. 다른 경우들에서, 비디오 디코더 (30) 는 3D-HEVC 비디오 코딩 표준에 따르도록 구성될 수도 있고, 각각의 뷰에 대하여 인코딩 텍스쳐 맵 (즉, 루마 및 크로마 값들) 을 인코딩하는 것에 더하여 각각의 뷰에 대하여 깊이 맵을 디코딩하도록 구성될 수도 있다. 또 다른 사례들에서, 비디오 디코더 (30) 는 HSVC 비디오 코딩 표준에 따라 비디오 데이터의 다수의, 스케일러블 레이어들을 디코딩하도록 구성될 수도 있다. 특정 코딩 표준들이 언급되었지만, 그 기법들은 임의의 하나의 코딩 표준에 전용되는 것이 아니고, 향후 및/또는 아직 개발되지 않은 표준들로 구현될 수도 있다는 것이 이해되야 한다.

비디오 디코더 (30) 는, 일부 예들에서, 비디오 인코더 (20) (도 2) 에 대해 설명된 인코딩 패스에 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다. 모션 보상 유닛 (72) 은, 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들에 기초하여 예측 데이터를 생성할 수도 있는 한편, 인트라 예측 유닛 (74) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 인트라 예측 모드 표시자들에 기초하여 예측 데이터를 생성할 수도 있다.

디코딩 프로세스 동안, 비디오 디코더 (30) 는, 비디오 인코더 (20) 로부터 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.

엔트로피 디코딩 유닛 (70) 은 양자화된 계수들, 모션 벡터들 또는 인트라 예측 모드 표시자들, 및 다른 신텍스 엘리먼트들을 생성하기 위하여 비트스트림을 디코딩한다. 일부 예들에서, 엔트로피 디코딩 유닛 (70) 또는 비디오 디코더의 또 다른 유닛은, 상술된 바처럼, 멀티뷰 및/또는 멀티레이어 비트스트림으로부터 신택스 엘리먼트들을 파싱 및 디코딩할 수도 있다.

본 개시의 양태들에 따르면, 엔트로피 디코딩 유닛 (70) 은, 인코딩된 비트스트림으로부터, 비디오 데이터의 복수의 레이어들을 갖는, 동작점, 예를 들어, 레이어 세트를 나타내는 데이터를 획득할 수도 있다. 또한, 엔트로피 디코딩 유닛 (70) 은 동작점을 위한 출력 동작점을 표시하는 하나 이상의 신택스 엘리먼트들에 대해 디코딩할 수도 있고, 출력 동작점은 비디오 데이터의 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관된다. 비디오 디코더 (30) 는 하나 이상의 신택스 엘리먼트들에 기초하여 출력 동작점 및 타겟 출력 레이어들을 결정할 수도 있다.

일부 예들에서, 본 개시의 양태들에 따르면, 비디오 디코더 (30) 는 MV-HEVC, 3D-HEVC, 또는 HSVC 와 같은 비디오 코딩 표준에 따를 수도 있다. 예를 들어, 멀티뷰 비디오 코딩 (예를 들어, MV-HEVC 또는 3D-HEVC) 에 관하여, 비디오 디코더 (30) 는 VPS 확장 (예를 들어, 이를테면 위의 표 2의 예에 관하여 나타내고 설명된 것), VPS (예를 들어, 위의 표 3의 예에 관하여 나타내고 설명된 것), SEI 메시지 또는 다른 메시지에서 표시된 출력 동작점 및 타겟 출력 레이어들에 기초하여 수신된 인코딩 비트스트림으로부터 서브 비트스트림들을 파싱할 수도 있다. 깊이 뷰들을 디코딩할 때, 출력 동작점은, 동작점에 포함된 뷰들에 속하는 식별된 타겟 출력 텍스쳐 또는 깊이 뷰들의 리스트를 가진 동작점을 나타낼 수도 있다.

HSVC 에 관하여, 엔트로피 디코딩 유닛 (70) 은 비디오 데이터의 각각의 레이어에 대해 layer_id 를 디코딩할 수도 있다. 본 개시의 양태들에 따르면, 비디오 디코더 (30) 는 동작점에서 최대 layer_id 를 갖는 레이어에 기초하여 출력 동작점을 추론할 수도 있다.

따라서, 본 개시의 양태들에 따르면, 현재 HEVC 베이스 규격에 정의된 하나의 동작점은 하나 이상의 출력 동작점들에 대응할 수도 있으며, 각각의 출력 동작점은 상이한 타겟 출력 뷰(들) 및/또는 레이어(들) 을 갖는다. 엔트로피 디코딩 유닛 (70) 은 수신된 인코딩 비트스트림으로부터 파싱되고 디코딩된 하나 이상의 신택스 엘리먼트들에 기초하여 타겟 출력 레이어들을 포함하는 서브 비트스트림을 디코딩할 수도 있다.

엔트로피 디코딩 유닛 (70) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 모션 보상 유닛 (72) 에 포워딩한다. 특정 출력 레이어에 대하여, 비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩될 때, 인트라 예측 유닛 (74) 은, 현재 화상의 이전에 디코딩된 블록들로부터 시그널링된 인트라 예측 모드 및 데이터에 기초하여 현재 비디오 슬라이스의 비디오 블록을 위한 예측 데이터를 생성할 수도 있다. 비디오 화상이 인터 코딩된 (즉, B, P 또는 GPB) 슬라이스로서 코딩될 때, 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 슬라이스의 비디오 블록을 위한 예측 블록들을 생성한다. 예측 블록들은 참조 화상 리스트들 중의 하나의 리스트 내의 참조 화상들 중의 하나의 화상로부터 생성될 수도 있다. 비디오 디코더 (30) 는 참조 화상 메모리 (82) 에 저장된 참조 화상들에 기초하여 디폴트 (default) 구성 기법들을 이용하여 참조 화상 리스트들, 리스트 0 및 리스트 1 을 구성할 수도 있다.

모션 보상 유닛 (72) 은, 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱 (parsing) 하여 현재 비디오 슬라이스의 비디오 블록을 위한 예측 정보를 결정하고, 그 예측 정보를 사용하여 디코딩되는 현재 비디오 블록을 위한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들의 일부를 사용하여 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예를 들어, 인트라 또는 인터 예측), 인터 예측 슬라이스 타입 (예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스를 위한 참조 화상 리스트들의 하나 이상을 위한 구성 정보, 슬라이스의 각 인터 인코딩된 비디오 블록을 위한 모션 벡터들, 슬라이스의 각 인터 코딩된 비디오 블록을 위한 인터 예측 상태, 및 현재 비디오 슬라이스에서 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.

모션 보상 유닛 (72) 은, 이전에 디코딩된 화상으로부터, 예를 들어, 참조 화상 메모리 (82) 로부터, 데이터를 취출하는데 디코딩된 모션 벡터를 이용할 수도 있다. 모션 보상 유닛 (72) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (72) 은 비디오 블록들의 인코딩 동안 비디오 인코더 (20) 에 의해 이용되는 보간 필터들을 이용하여 참조 블록들의 서브 정수 픽셀들을 위한 보간된 값들을 계산할 수도 있다. 이 경우에, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 이용된 보간 필터들을 결정하고, 그 보간 필터들을 이용하여 예측 블록들을 생성할 수도 있다.

역 양자화 유닛 (76) 은 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (70) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 즉 탈양자화한다. 역 양자화 프로세스는, 양자화의 정도, 그리고, 마찬가지로, 적용되어야 하는 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스에서 각 비디오 블록에 대해 비디오 디코더 (30) 에 의해 계산된 양자화 파라미터 QP_Y 의 이용을 포함할 수도 있다. 역 변환 유닛 (78) 은, 픽셀 도메인에서 잔차 블록들을 생성하기 위해 변환 계수들에, 역 변환, 예를 들어, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스를 적용한다.

모션 보상 유닛 (72) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 블록을 위한 예측 블록을 생성한 후에, 비디오 디코더 (30) 는 역 변환 유닛 (78) 으로부터의 잔차 블록들과 모션 보상 유닛 (72) 에 의해 생성된 대응하는 예측 블록들을 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (80) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원하는 경우, 블로키니스 아티팩트 (blockiness artifact) 들을 제거하기 위하여 디코딩된 블록들을 필터링하기 위한 디블록킹 필터가 또한 적용될 수도 있다. (코딩 루프내 또는 코딩 루프 후의) 다른 루프 필터들이 또한 픽셀 천이들을 매끄럽게 하거나 또는 다른 방법으로 비디오 품질을 향상시키는데 사용될 수도 있다. 다음으로, 주어진 화상에서 디코딩된 비디오 블록들은 참조 화상 메모리 (82) 에 저장되고, 이는 후속 모션 보상을 위해 사용되는 참조 화상들을 저장한다. 참조 화상 메모리 (82) 는 또한, 도 1의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상에 나중에 표시하기 위해 디코딩된 비디오를 저장한다.

본 개시의 일부 양태들에 따르면, 비디오 디코더 (30) 는 결정된 출력 동작점 및 타겟 출력 레이어들에 기초하여 참조 화상 메모리 (82) 로부터 하나 이상의 화상들을 제거할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 출력을 위해 타겟이되지 않고 시간 예측 (예를 들어, 레이어 또는 뷰 내의 인터 예측) 또는 인터-레이어/인터-뷰 예측에 필요하지 않은 화상들을 참조 화상 메모리 (82) 로부터 제거할 수도 있다. 비디오 디코더 (30) 는 참조 화상 메모리 (82) 의 화상들이 디코딩된 비트스트림의 하나 이상의 신택스 엘리먼트들에 기초하여 예측에 사용되는지 또는 타겟 출력 레이어에 포함되는지를 결정할 수도 있다. 예를 들어, 엔트로피 디코딩 유닛 (70) 은 화상이 타겟 출력 뷰에 속하는지 여부를 표시하는 레이어의 각각의 뷰 컴포넌트에 대해 PicOutputFlag 를 디코딩할 수도 있다. 비디오 디코더 (30) 는 타겟 출력 뷰에 속하지 않고 디코딩 동안 "참조에 미사용" 으로 마킹된 화상들을 참조 화상 메모리 (82) 로부터 제거할 수도 있다.

따라서, 일 예에서, 비디오 디코더 (30) 는 레이어 세트와 연관된 하나 이상의 출력 부분 점들의 출력 동작점을 디코딩하고, 하나 이상의 타겟 출력 레이어 중의 한 타겟 출력 레이어가 아니라 레이어 세트에 속하는 하나 이상의 레이어들을 포함하는 디코딩되지만 출력되지 않은 레이어들의 세트를 디코딩할 수도 있다. 또한, 비디오 디코더 (30) 는 출력에 사용될 화상으로서 디코딩된 화상 버퍼에서 하나 이상의 타겟 출력 레이어들에 포함된 제 1 디코딩된 화상을 마킹하고, 출력에 사용되지 않을 화상으로서 디코딩된 화상 버퍼에서 디코딩되지만 출력되지 않을 레이어들의 세트에 포함된 제 2 디코딩된 화상을 마킹하여, 출력에 사용되지 않을 화상이 출력에 사용될 화상보다 더 일찍, 디코딩된 화상 버퍼로부터 제거될 수도 있다. 또한, 비디오 디코더 (30) 는 출력에 사용되지 않을 것으로 마킹된 화상이 인터-예측 및 인터-레이어 예측 중 하나에 사용되는지 여부를 결정하고, 출력에 사용되지 않을 화상이 인터-예측 및 인터-레이어 예측 중 하나에 사용되지 않을 때 디코딩된 화상 버퍼로부터 출력에 사용되지 않을 것으로서 마킹된 화상을 제거할 수도 있다.

이런 식으로, 비디오 디코더 (30) 는 복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들을, 멀티레이어 비트스트림으로부터, 획득할 수도 있는 비디오 디코더 (30) 의 하나의 예를 나타내고, 여기서 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함한다. 비디오 디코더 (30) 는 또한, 하나 이상의 출력 동작점들을, 비트스트림의 하나 이상의 신택스 엘리먼트들에 기초하여, 결정할 수도 있고, 여기서 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관된다.

도 4는 예시적인 MVC 예측 패턴을 도시하는 개념도이다. 도 4는 H.264/AVC 및 MVC에 관하여 설명되었지만, 유사한 예측 패턴이, MV-HEVC 및 3D-HEVC (멀티뷰 플러스 깊이) 를 포함한, 다른 멀티뷰 비디오 코딩 스킴들에 사용될 수도 있다는 것이 이해되야 한다. 따라서, 이하의 MVC 에 대한 언급은 일반적으로 멀티뷰 비디오 코딩에 적용되고 H.264/MVC 에 한정되지 않는다.

도 4의 예에서, (뷰 ID “S0” 내지 “S7” 를 갖는) 8개의 뷰들이 예시되고, 12개의 시간 위치들 (“T0” 내지 “T11”) 가 각각의 뷰에 대해 예시된다. 즉, 도 4에 있는 각각의 행은 뷰에 대응하는 한편, 각각의 열은 시간 위치를 표시한다.

MVC 는 H.264/AVC 디코더에 의해 디코딩가능한 소위 베이스 뷰를 갖고 스테레오 뷰 쌍은 또한 MVC 에 의해 지원될 수 있지만, MVC 의 이점은 3D 비디오 입력으로서 2개보다 많은 뷰들을 사용하고 다수의 뷰들에 의해 나타낸 이 3D 비디오를 디코딩하는 예를 지원할 수 있다는 점이다. MVC 디코더를 갖는 클라이언트의 렌더러는 다수의 뷰들을 갖는 3D 비디오 콘텐츠를 예상할 수도 있다.

도 4에 있는 화상들은 글자를 포함한 음영 블록을 사용하여 도 4에서 각각의 행 및 각각의 열의 교점에 표시되어 있으며, 대응하는 화상이 인트라-코딩되는지 (즉, I-프레임인지), 또는 일 방향으로 (즉, P-프레임으로서) 또는 다수의 방향들에서 (즉, B-프레임으로서) 인터-코딩되는지를 지정한다. 일반적으로, 예측들은 화살표들에 의해 표시되며, 화살표가 가리키는 화상이 예측 참조를 위해 화살표가 나오는 오브젝트를 사용한다. 예를 들어, 시간 위치 T0 에서 뷰 S2 의 P-프레임은 시간 위치 T0 에서 뷰 S0 의 I-프레임으로부터 예측된다.

단일 뷰 비디오 인코딩과 마찬가지로, 멀티뷰 비디오 코딩 비디오 시퀀스의 화상들은 상이한 시간 위치들에 있는 화상들에 관하여 예측적으로 인코딩될 수도 있다. 예를 들어, 시간 위치 T1 에서 뷰 S0 의 b-프레임은, 시간 위치 T0 에서 뷰 S0 의 I-프레임에서 나와 b-프레임을 가리키는 화살표를 가지며, b-프레임은 I-프레임으로부터 예측된다는 것을 표시한다. 하지만, 또한, 멀티뷰 비디오 인코딩의 콘텍스트에서, 화상들은 인터-뷰 예측될 수도 있다. 즉, 뷰 컴포넌트는 참조를 위해 다른 뷰들에 있는 뷰 컴포넌트들을 사용할 수 있다. MVC 에서, 예를 들어, 또 다른 뷰에 있는 뷰 컴포넌트가 인터-예측 참조인 듯이 인터-뷰 예측이 실현된다. 가능한 인터-뷰 참조들이 시퀀스 파라미터 세트 (SPS) MVC 확장에서 시그널링되고 참조 화상 리스트 구성 프로세스에 의해 수정될 수 있으며, 이는 인터-예측 또는 인터-뷰 예측 참조의 유연한 순서화를 가능하게 한다.

MVC 에서, 인터-뷰 예측은 동일한 액세스 유닛에 있는 (즉, 동일한 시간 인스턴스를 갖는) 화상들 중에서 허용된다. 액세스 유닛은, 일반적으로, 공통 시간 인스턴스를 위한 모든 뷰 컴포넌트들 (예를 들어, 모든 NAL 유닛들) 을 포함한 데이터의 유닛이다. 이렇게 하여, MVC 에서, 인터-뷰 예측이 동일한 액세스 유닛에 있는 화상들 중에서 허락된다. 비 베이스 (non-base) 뷰들 중 하나에서 화상을 코딩할 때, 화상은, 상이한 뷰에 있지만 동일한 시간 인스턴스를 갖는다면 (예를 들어, 동일한 POC 값, 그리고 따라서, 동일한 액세스 유닛에 있다면), 참조 화상 리스트에 추가될 수도 있다. 인터-뷰 예측 참조 화상은, 임의의 인터 예측 참조 화상처럼, 참조 화상 리스트의 임의의 위치에 놓여질 수도 있다.

도 4는 인터-뷰 예측의 다양한 예들을 제공한다. 도 4의 예에서, 뷰 S1 의 화상들은, 동일한 시간 위치들의 뷰 S0 및 S2의 화상들로부터 인터-뷰 예측되는 것 뿐만 아니라, 뷰 S1 의 상이한 시간 위치들의 화상들로부터 예측되는 것으로 예시되어 있다. 예를 들어, 시간 위치 T1 에서의 뷰 S1 의 b-프레임이, 시간 위치 T1 에서의 뷰들 S0 및 S2 의 b-프레임들뿐만 아니라, 시간 위치들 T0 및 T2 에서의 뷰 S1 의 B-프레임들의 각각으로부터 예측된다.

도 4의 예에서, 대문자 "B" 및 소문자 "b" 는, 상이한 인코딩 방법론보다는, 화상들 간의 상이한 계층적 관계 (hierarchical relationship) 를 나타내도록 의도된다. 일반적으로, 대문자 "B" 화상들은 소문자 "b" 화상들보다 예측 계층에 있어서 상대적으로 더 높다. 도 4는 또한, 상이한 레벨의 음영들을 사용하여 예측 계층의 변화들을 예시하고, 여기서 더 많은 양의 음영 (즉, 상대적으로 더 어두운) 화상들은 더 적은 음영을 갖는 (즉, 상대적으로 더 밝은) 그러한 화상들보다 예측 계층에 있어서 더 높다. 예를 들어, 도 4에 있는 모든 I-프레임들은 완전 음영으로 예시되어 있지만, P-프레임들은 약간 더 밝은 음영을 갖고, B-프레임들( 및 소문자 b-프레임들) 은 서로에 대해 다양한 레벨들의 음영을 갖지만, P-프레임들 및 I-프레임들의 음영보다 항상 더 밝다.

일반적으로, 예측 계층은 뷰 순서 인덱스들에 관련되는데, 계층에서 상대적으로 더 높은 그러한 화상들이 계층에서 상대적으로 더 낮은 화상들의 디코딩 동안 참조 화상들로서 사용될 수 있도록, 예측 계층에서 상대적으로 더 높은 화상들은 계층에서 상대적으로 더 낮은 화상들을 디코딩하기 전에 디코딩되어야 한다. 뷰 순서 인덱스는 액세스 유닛에서의 뷰 컴포넌트들의 디코딩 순서를 표시하는 인덱스이다. 뷰 순서 인덱스들은, H.264/AVC 의 부록 H (MVC 개정) 에 명시된 바처럼, SPS MVC 확장에 내포된다. SPS 에서, 각각의 인덱스 i 에 대하여, 대응하는 view_id 가 시그널링된다. 일부 예들에서, 뷰 컴포넌트들의 디코딩은 뷰 순서 인덱스의 오름 차순을 따를 것이다. 모든 뷰들이 제시되면, 뷰 순서 인덱스들은 0 으로부터 num_views_minus_1 까지의 연속 순서에 있다.

이런 식으로, 참조 화상들로서 사용된 화상들은 참조 화상들에 관하여 인코딩된 화상들을 디코딩하기 전에 디코딩될 수도 있다. 뷰 순서 인덱스는 액세스 유닛에서의 뷰 컴포넌트들의 디코딩 순서를 표시하는 인덱스이다. 각각의 뷰 순서 인덱스 i 에 대하여, 대응하는 view_id 가 시그널링된다. 뷰 컴포넌트들의 디코딩은 뷰 순서 인덱스의 오름 차순을 따른다. 모든 뷰들이 제시되면, 뷰 순서 인덱스들의 세트는 뷰들의 전체 수보다 적은 0 에서 1 까지 연속적으로 순서화된 세트를 포함할 수도 있다.

계층의 동일 레벨들의 일부 화상들에 대해, 디코딩 순서는 서로에 대해 중요하지 않을 수도 있다. 예를 들어, 시간 위치 T0 에서의 뷰 S0 의 I-프레임이 시간 위치 T0 에서의 뷰 S2 의 P-프레임을 위한 참조 화상으로서 사용되고, 이 시간 위치 T0 에서의 뷰 S2 의 P-프레임은 차례로 시간 위치 T0 에서의 뷰 S4 의 P-프레임을 위한 참조 화상으로서 사용된다. 따라서, 시간 위치 T0 에서의 뷰 S0 의 I-프레임은, 시간 위치 T0 에서의 뷰 S2 의 P-프레임전에 디코딩되야 하고, 이 시간 위치 T0 에서의 뷰 S2 의 P-프레임은 시간 위치 T0 에서의 뷰 S4 의 P-프레임전에 디코딩되야 한다. 하지만, 뷰들 S1 과 S3 사이에서, 디코딩 순서는 중요하지 않은데, 왜냐하면 뷰들 S1 및 S3 은 예측을 위해 서로에 의존하는 것이 아니라, 그 대신에 예측 계층에서 더 높은 뷰들로부터만 예측되기 때문이다. 게다가, 뷰 S1 은 뷰 S4 전에 디코딩될 수도 있는데, 단, 뷰 S1 이 뷰들 S0 및 S2 후에 디코딩되는 것을 조건으로 한다

이런 식으로, 계층적 순서화가 뷰들 S0 내지 S7 를 기술하는데 사용될 수도 있다. 표기 SA > SB 는 뷰 SA 가 뷰 SB 전에 디코딩되야 한다는 것을 의미하는 것으로 한다. 이 표기를 이용하면, 도 4의 예에서, S0 > S2 > S4 > S6 > S7 이다. 또한, 도 4의 예에 관하여, S0 > S1, S2 > S1, S2 > S3, S4 > S3, S4 > S5, 및 S6 > S5 이다. 이들 요건들을 어기지 않는 뷰들을 위한 임의의 디코딩 순서가 가능하다. 따라서, 많은 상이한 디코딩 순서들이 가능하다.

본 개시의 양태들에 따르면, 비디오 코더 (이를테면 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 하나 이상의 타겟 출력 레이어들을 갖는 출력 동작점을 결정할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 도 4에 도시된 멀티뷰 구조로부터 하나 이상의 타겟 출력 레이어들을 결정하고 인코딩된 비트스트림에서 타겟 출력 레이어들을 표시하는 데이터를 인코딩할 수도 있다. 마찬가지로, 비디오 디코더 (30) 는, 인코딩된 비트스트림으로부터 파싱 및 디코딩된 데이터에 기초하여 하나 이상의 타겟 출력 레이어들을 포함하는 출력 동작점을 결정할 수도 있다.

예를 들어, 비디오 인코더 (20) 는 VPS 확장 (예를 들어, 위의 표 2의 예에 관하여 나타내고 설명된 것), VPS (예를 들어, 위의 표 3의 예에 관하여 나타내고 설명된 것), SEI 메시지, 또는 하나 이상의 출력 동작점들을 표시하기 위한 다른 메시지들을 인코딩할 수도 있고, 각각의 출력 동작점은 연관된 타겟 출력 레이어들을 갖는다. 위에 언급된 바처럼, 깊이 뷰들을 인코딩할 때, 출력 동작점은, 동작점에 포함된 뷰들에 속하는 식별된 타겟 출력 텍스쳐 또는 깊이 뷰들의 리스트를 가진 동작점을 나타낼 수도 있다.

비디오 디코더 (30) 는 데이터를 수신하고 디스플레이를 위한 타겟 출력 뷰들을 결정할 수도 있다. 일 예로서, 비디오 디코더 (30) 는 뷰들 S0, S2, S4, 및 S6 을 포함하는 동작점을 수신할 수도 있다. 비디오 디코더 (30) 는, 스테레오 출력 동작점을 위한 타겟 출력 뷰들이 뷰들 S0 및 S4 를 포함한다는 것을, 비트스트림에 포함된 신택스 엘리먼트들에 기초하여, 결정할 수도 있다. 비디오 디코더 (30) 는, S0, S2, S4, 및 S6 의 각각을 디코딩할 수도 있지만, 뷰들 S0 및 S4 만을 출력할 수도 있다.

도 5는 스케일러블 비디오 코딩을 도시하는 개념도이다. 도 5는 H.264/AVC 및 SVC에 관하여 설명되었지만, 유사한 레이어들이, HSVC 를 포함한, 다른 멀티레이어 비디오 코딩 스킴들을 사용하여 코딩될 수도 있다는 것이 이해되야 한다. 따라서, 아래의 SVC 에 대한 언급은 일반적으로 스케일러블 비디오 코딩에 적용될 수도 있고 H.264/SVC 에 한정되지 않는다.

SVC 에서, 예를 들어, 공간, 시간 및 품질 (비트레이트 또는 신호대잡음 비 (SNR) 로서 나타냄) 을 포함하는, 3차원으로 스케일러빌리티가 가능해질 수도 있다. 일반적으로, 더 좋은 표현은 보통, 임의의 차원의 표현에 추가함으로써 달성될 수 있다. 예를 들어, 도 5의 예에서, 레이어 0 은 7.5 Hz 의 프레임 레이트 및 64 KBPS (kilobytes per second) 의 비트레이트를 갖는 QCIF (Quarter Common Intermediate Format) 에서 코딩된다. 또한, 레이어 1은 15 Hz의 프레임 레이트 및 64 KBPS 의 비트 레이트를 갖는 QCIF 에서 코딩되고, 레이어 2는 15 Hz 의 프레임 레이트 및 256 KBPS 의 비트 레이트를 갖는 CIF 에서 코딩되고, 레이어 3은 7.5 Hz 의 프레임 레이트 및 512 KBPS 의 비트 레이트를 갖는 QCIF 에서 코딩되고, 레이어 4는 30 Hz 의 프레임 레이트 및 MBPS (Megabyte per second) 의 비트 레이트를 갖는 4CIF 에서 코딩된다. 도 5 에 도시된 레이어들의 특정 수, 콘텐츠 및 배열은 예시만을 위해 제공된다는 것이 이해되야 한다.

어느 경우든, 비디오 인코더 (이를테면, 비디오 인코더 (20)) 가 그러한 스케일러블 방식으로 콘텐츠를 인코딩하고 나면, 비디오 디코더 (이를테면 비디오 디코더 (30)) 는, 예를들어, 클라이언트 또는 송신 채널에 의존할 수도 있는, 애플리케이션 요건들에 따라 실제 전달된 콘텐츠를 적응시키기 위하여 추출기 도구를 사용할 수도 있다.

SVC 에서, 최저 공간 및 품질 레이어를 갖는 화상들은 통상 H.264/AVC 와 호환된다. 도 5의 예에서, 최저 공간 및 품질 레이어를 갖는 화상 (레이어 0 및 레이어 1 에서, QCIF 해상도를 갖는 화상들) 은 H.264/AVC 와 호환될 수도 있다. 그들 중에서, 최저 시간 레벨의 그러한 화상들은 시간 베이스 레이어 (레이어 0) 을 형성한다. 이 시간 베이스 레이어 (레이어 0) 은 보다 높은 시간 레벨들 (레이어 1) 의 화상들로 향상될 수도 있다.

H.264/AVC 호환 레이어에 추가하여, 여러 공간 및/또는 품질 향상 레이어들이 공간 및/또는 품질 스케일러빌리티를 제공하기 위하여 추가될 수도 있다. 각각의 공간 또는 품질 향상 레이어 그 자체는, H.264/AVC 호환 레이어과 동일한 시간 스케일러빌리티 구조를 가지고, 시간적으로 스케일러블할 수도 있다.

본 개시의 양태들에 따르면, 비디오 코더 (이를테면 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 하나 이상의 타겟 출력 레이어들을 갖는 출력 동작점을 결정할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 하나 이상의 타겟 출력 레이어들을 결정하고 인코딩된 비트스트림에서 타겟 출력 레이어들을 표시하는 데이터를 인코딩할 수도 있다. 마찬가지로, 비디오 디코더 (30) 는, 인코딩 비트스트림으로부터 파싱 및 디코딩된 데이터에 기초하여 하나 이상의 타겟 출력 레이어들을 포함하는 출력 동작점을 결정할 수도 있다.

일부 예들에서, 타겟 출력 레이어들은 동작점의 layer_id 에 기초하여 도출될 수도 있다. 예를 들어, 비디오 디코더 (30) 는, 레이어 0, 레이어 1 및 레이어 2를 포함하는 동작점을 디코딩할 수도 있다. 이 예에서, 비디오 디코더 (30) 는, 최고 layer_id, 예를 들어 레이어 2에 기초하여 출력 동작점을 결정할 수도 있다. 따라서, 비디오 디코더 (30) 는 타겟 출력 화상들로서 레이어 2의 화상들을 출력할 수도 있다.

도 6은 본 개시의 양태들에 따른 출력 동작점을 인코딩하기 위한 예시적인 프로세스를 도시하는 플로우차트이다. 비디오 인코더 (20) (도 1 및 도 2) 에 관하여 설명되었지만, 다른 디바이스들이 도 6과 유사한 방법을 수행하도록 구성될 수도 있다는 것이 이해되야 한다.

이 예에서, 비디오 인코더 (20) 는 레이어 세트를 위해 비디오 데이터의 복수의 레이어들을 인코딩할 수도 있다 (100). 예를 들어, 비디오 인코더 (20) 는, (예를 들어, MV-HEVC 표준 또는 3D-HEVC 표준에 따르는 비트스트림을 포함한) 멀티뷰 비트스트림을 위해 비디오 데이터의 복수의 뷰들을 인코딩할 수도 있다. 이 예에서, 레이어 세트는 비트스트림을 디코딩하는데 필요한 비디오 데이터의 복수의 뷰들, 그리고 출력, 예를 들어, 비트스트림을 디코딩하는 클라이언트 디바이스에 의한 디스플레이를 위해 의도된 비디오 데이터의 뷰들을 포함할 수도 있다. 또 다른 예에서, 비디오 인코더 (20) 는, (예를 들어, HSVC 표준에 따르는 비트스트림을 포함한) 스케일러블 비트스트림을 위해 비디오 데이터의 복수의 스케일러블 레이어들을 인코딩할 수도 있다. 이 예에서, 레이어 세트는 비트스트림을 디코딩하기만을 위해 필요한 비디오 데이터의 복수의 레이어들 (예를 들어, "출력되지 않을 레이어들"), 그리고 출력을 위해 의도된 비디오 데이터의 레이어들을 포함할 수도 있다.

비디오 인코더 (20) 는 복수의 레이어들 중 어느 것이 타겟 출력 레이어들인지를 결정할 수도 있다 (102). 타겟 출력 레이어들은, 디스플레이될 때 비디오 데이터의 가시 표현을 제공하는, 출력을 위해 의도된 레이어들을 포함할 수도 있다. 타겟 출력 레이어들은, 원하는 표현 품질, 비디오 코딩 디바이스들의 능력, 대역폭 고려사항, 또는 다른 요인들에 기초하여 선택될 수도 있다.

비디오 인코더 (20) 는 결정된 타겟 출력 레이어들을 포함하는 출력 동작점을 표시하는 데이터를 인코딩할 수도 있다 (104). 예를 들어, 비디오 인코더 (20) 는, 타겟 출력 레이어들을 표시하는 하나 이상의 신택스 엘리먼트들을 인코딩하고, 그러한 신택스 엘리먼트를 파라미터 세트에 포함할 수도 있다. 표 2 및 표 3에 관하여 상술된 바처럼, 비디오 인코더 (20) 는, VPS 확장 또는 VPS 에서 출력 동작점을 표시하는 데이터를 인코딩할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 SPS 또는 다른 메시지에서 출력 동작점을 표시하는 데이터를 인코딩할 수도 있다. 다음으로, 비디오 인코더 (20) 는 (예를 들어, 저장 또는 또 다른 디바이스로의 송신을 위해) 엔트로피 인코딩된 데이터를 출력할 수도 있다 (106).

도 7은 본 개시의 양태들에 따른 출력 동작점을 디코딩하기 위한 예시적인 프로세스를 도시하는 플로우차트이다. 비디오 디코더 (30) (도 1 및 도 3) 에 관하여 설명되었지만, 다른 디바이스들이 도 7과 유사한 방법을 수행하도록 구성될 수도 있다는 것이 이해되야 한다.

초기에, 비디오 디코더 (30) 는 레이어 세트를 위해 비디오 데이터의 복수의 레이어들을 디코딩한다 (120). 예를 들어, 비디오 디코더 (30) 는, (예를 들어, MV-HEVC 표준 또는 3D-HEVC 표준에 따르는 비트스트림을 포함한) 멀티뷰 비트스트림의 비디오 데이터의 복수의 뷰들을 디코딩할 수도 있다. 이 예에서, 레이어 세트는 비트스트림을 디코딩하기 위해 필요한 비디오 데이터의 복수의 뷰들, 그리고 출력을 위해 의도된 비디오 데이터의 뷰들을 포함할 수도 있다. 또 다른 예에서, 비디오 디코더 (30) 는, (예를 들어, HSVC 표준에 따르는 비트스트림을 포함한) 스케일러블 비트스트림의 비디오 데이터의 복수의 스케일러블 레이어들을 디코딩할 수도 있다. 이 예에서, 레이어 세트는 비트스트림을 디코딩하기 위해 필요한 비디오 데이터의 복수의 레이어들, 그리고 출력을 위해 의도된 비디오 데이터의 레이어들을 포함할 수도 있다.

비디오 디코더 (30) 는 또한 하나 이상의 타겟 출력 레이어들을 포함하는 출력 동작점을 표시하는 데이터를 디코딩할 수도 있다 (122). 위에 언급된 바처럼, 타겟 출력 레이어들은, 디스플레이될 때 비디오 데이터의 가시 표현 (viewable representation) 을 제공하는, 출력을 위해 의도된 레이어들을 포함할 수도 있다. 일부 예들에서, 타겟 출력 레이어들은, 디코딩된 복수의 레이어들의 서브세트일 수도 있다.

타겟 출력 레이어들을 표시하는 데이터는 타겟 출력 레이어들을 표시하는 하나 이상의 신택스 엘리먼트들을 포함할 수도 있다. 이들 신택스 엘리먼트들은, 위에 설명된 바처럼, VPS 확장, VPS, SPS, 또는 또 다른 타입의 메시지에 포함될 수도 있다.

비디오 디코더 (30) 는 데이터에 기초한 비트스트림으로부터 타겟 출력 레이어들을 추출할 수도 있다 (124). 예를 들어, 비디오 디코더 (30) 는 비트스트림으로부터 타겟 출력 레이어들을 포함하는 하나 이상의 서브 비트스트림들을 추출할 수도 있다. 비디오 디코더 (30) 는 또한 하나 이상의 서브 비트스트림들을 디코딩할 수도 있다. 다음으로, 비디오 디코더 (30) 는 디스플레이를 위해 (예를 들어, 디스플레이 디바이스 (32)(도1) 에 의한 디스플레이를 위해) 타겟 출력 레이어들을 출력할 수도 있다 (126).

따라서, 비디오 디코더 (30) 는, 복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들로서, 각각의 레이어 세트는 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 복수의 레이어들을 획득하고, 하나 이상의 출력 동작점들을, 비트스트림의 하나 이상의 신택스 엘리먼트들에 기초하여, 결정하고, 각각의 출력 동작점은 복수의 레이어 세트들의 레이어 세트 및 복수의 레이어들의 하나 이상의 타겟 출력 레이어과 연관되는, 상기 결정하는 단계를 포함한다.

예에 따라, 여기에 기재된 기법들 중 어느 것의 특정 행위들 또는 이벤트들이 상이한 시퀀스에서 수행될 수 있거나, 추가될 수 있거나, 병합될 수 있거나, 또는 전부 생략될 수 있다 (예를 들어, 모든 설명된 행위들 또는 이벤트들이 그 기법들의 실시를 위해 필요한 것은 아니다) 는 것이 인식되야 한다. 또한, 특정 예들에서, 행위들 또는 이벤트들은, 예를 들어, 순차적으로 보다는 멀티스레드 프로세싱, 인터럽트 프로세싱 또는 다수의 프로세서들을 통해, 동시적으로 수행될 수도 있다.

본 개시의 특정 양태들이 예시의 목적을 위해 개발중인 HEVC 표준에 관하여 설명되었다. 하지만, 본 개시에 설명된 기법들은, 아직 개발되지 않은 다른 표준 또는 사유 (proprietary) 비디오 코딩 프로세스들을 포함한, 다른 비디오 코딩 프로세스들에 유용할 수도 있다.

본 개시에 설명된 비디오 코더는 비디오 인코더 또는 비디오 디코더를 지칭할 수도 있다. 유사하게, 비디오 코딩 유닛은 비디오 인코더 또는 비디오 디코더를 지칭할 수도 있다. 마찬가지로, 비디오 코딩은, 적용가능한 바에 따라, 비디오 인코딩 또는 비디오 디코딩을 지칭할 수도 있다.

하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현되면, 그 기능들은 컴퓨터 판독가능 매체 상의 하나 이상의 명령 또는 코드로서 저장되거나 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체는, 예를 들면, 통신 프로토콜에 따라, 일 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체 또는 데이터 저장 매체와 같은 유형의 매체에 대응하는 컴퓨터 판독가능 저장 매체를 포함할 수도 있다. 이런 방식으로, 컴퓨터 판독가능 매체는 일반적으로, (1) 비일시적인 유형의 컴퓨터 판독가능 저장 매체 또는 (2) 신호 또는 캐리어 파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체는, 본 개시에서 설명된 기술들의 구현을 위해 명령들, 코드 및/또는 데이터 구조들을 취출하기 위하여 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 가용 매체일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수도 있다.

비한정적 예로서, 이러한 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 저장, 자기 디스크 저장 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 명령 또는 데이터 구조의 형태로 원하는 프로그램 코드를 저장하는데 사용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터 판독가능 매체로 적절히 칭해진다. 예를 들어, 명령들이 동축 케이블, 광섬유 케이블, 연선 (twisted pair), 디지털 가입자 라인 (DSL), 또는 적외선, 전파 (radio), 및 마이크로파와 같은 무선 기술을 사용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되면, 그 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 전파, 및 마이크로파와 같은 무선 기술은 매체의 정의 내에 포함된다. 하지만, 컴퓨터 판독가능 저장 매체 및 데이터 저장 매체는 접속, 캐리어 파, 신호 또는 다른 일시적 매체를 포함하는 것이 아니라, 대신에 비일시적, 유형의 저장 매체에 관련된다는 것이 이해되야 한다. 여기에 사용된, 디스크 (disk) 및 디스크 (disc) 는 콤팩트 디스크 (CD), 레이저 디스크, 광 디스크, DVD (digital versatile disc), 플로피 디스크 및 블루레이 디스크를 포함하며, 여기서, 디스크 (disk) 는 보통 데이터를 자기적으로 재생하지만, 디스크 (disc) 는 레이저를 이용하여 광학적으로 데이터를 재생한다. 또한, 상기의 조합은 컴퓨터 판독가능 매체의 범위 내에 포함되어야 한다.

명령들은 하나 이상의 프로세서, 이를테면 하나 이상의 DSP (digital signal processor), 범용 마이크로프로세서, ASIC (application specific integrated circuit), FPGA (field programmable logic array), 또는 다른 동등한 집적 또는 이산 로직 회로에 의해 실행될 수도 있다. 따라서, 본원에 사용된 용어 "프로세서" 는 이전 구조 중 임의의 것 또는 본원에 설명된 기술들의 구현에 적합한 임의의 다른 구조를 지칭할 수도 있다. 추가로, 일부 양태들에서, 여기서 설명된 기능은 인코딩 및 디코딩을 위해 구성된 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공되거나 또는 결합된 코덱에 포함될 수도 있다. 또한, 그 기법들은 하나 이상의 회로 또는 로직 엘리먼트들에서 완전히 구현될 수 있다.

본 개시의 기법들은 무선 핸드셋, 집적 회로 (IC) 또는 IC 들의 세트 (예를 들면, 칩 세트) 를 포함하여, 광범위하게 다양한 디바이스들 또는 장치들에서 구현될 수도 있다. 다양한 컴포넌트들, 모듈들 또는 유닛들이, 개시된 기술들을 수행하도록 구성된 디바이스들의 기능적인 양태들을 강조하기 위하여 본 개시에 설명되었지만, 다른 하드웨어 유닛들에 의한 실현을 반드시 필요로 하는 것은 아니다. 오히려, 상술된 바처럼, 다양한 유닛들이 코덱 하드웨어 유닛에 결합될 수도 있거나, 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 상술된 하나 이상의 프로세서들을 포함하는 연동적인 (interoperative) 하드웨어 유닛들의 집합에 의해 제공될 수도 있다.

다양한 예들이 설명되었다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims

비디오 데이터를 디코딩하는 방법으로서,
멀티레이어 비트스트림으로부터, 복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들을 획득하는 단계로서, 각각의 레이어 세트는 상기 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 복수의 레이어들을 획득하는 단계; 및
상기 비트스트림의 하나 이상의 신택스 엘리먼트들에 기초하여, 하나 이상의 출력 동작점들을 결정하는 단계로서, 각각의 출력 동작점은 상기 복수의 레이어 세트들의 레이어 세트 및 상기 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 출력 동작점들을 결정하는 단계
를 포함하는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 신택스 엘리먼트들은 제 1 신택스 엘리먼트들이고, 상기 방법은,
상기 비트스트림의 하나 이상의 제 2 신택스 엘리먼트들에 기초하여 상기 출력 동작점을 위해 상기 하나 이상의 타겟 출력 레이어들을 결정하는 단계로서, 상기 제 2 신택스 엘리먼트들은 하나 이상의 제 1 신택스 엘리먼트들과 상이한, 상기 하나 이상의 타겟 출력 레이어들을 결정하는 단계
를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
제 2 항에 있어서,
상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 타겟 출력 레이어들의 각각을 표시하는 하나 이상의 신택스 엘리먼트들을 포함하는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 멀티레이어 비트스트림은 멀티뷰 비트스트림을 포함하여, 각각의 레이어가 비디오 데이터의 뷰를 포함하고 상기 하나 이상의 타겟 출력 레이어들은 하나 이상의 타겟 출력 뷰들을 포함하는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 멀티레이어 비트스트림은 하나 이상의 깊이 레이어들을 포함하여, 상기 하나 이상의 출력 동작점들을 결정하는 단계는 깊이 데이터를 포함하는 하나 이상의 타겟 출력 깊이 레이어들을 결정하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 멀티레이어 비트스트림은 비디오 데이터의 복수의 스케일러블 레이어들을 갖는 비트스트림을 포함하여, 상기 하나 이상의 출력 동작점들을 결정하는 단계는 하나 이상의 스케일러블 타겟 출력 레이어들을 결정하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
제 6 항에 있어서,
상기 출력 동작점을 결정하는 단계는 수치적으로 최고 layer_id 를 갖는 스케일러블 타겟 출력 레이어를 결정하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 레이어 세트와 연관된 상기 하나 이상의 출력 동작점들의 출력 동작점을 디코딩하는 단계;
상기 하나 이상의 타겟 출력 레이어들 중의 하나의 타겟 출력 레이어가 아니라 상기 레이어 세트에 속하는 하나 이상의 레이어들을 포함하는 디코딩되지만 출력되지 않은 레이어들의 세트를 디코딩하는 단계;
출력에 사용될 화상으로서 디코딩된 화상 버퍼에서 상기 하나 이상의 타겟 출력 레이어들에 포함된 제 1 디코딩된 화상을 마킹하는 단계; 및
출력에 사용되지 않을 화상으로서 상기 디코딩된 화상 버퍼에서 상기 디코딩되지만 출력되지 않은 레이어들의 세트에 포함된 제 2 디코딩된 화상을 마킹하는 단계로서, 상기 출력에 사용되지 않을 화상이 상기 출력에 사용될 화상보다 더 일찍 상기 디코딩된 화상 버퍼로부터 제거되도록, 상기 제 2 디코딩된 화상을 마킹하는 단계
를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
제 8 항에 있어서,
출력에 사용되지 않을 것으로서 마킹된 상기 화상은 인터-예측 및 인터-레이어 예측 중 하나의 예측에 사용되는지 여부를 결정하는 단계; 및
상기 출력에 사용되지 않을 화상이 인터-예측 및 인터-레이어 예측 중 하나의 예측에 사용되지 않을 때, 상기 디코딩된 화상 버퍼로부터 출력에 사용되지 않을 것으로 마킹된 상기 화상을 제거하는 단계
를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들은 상기 인코딩된 비트스트림의 비디오 파라미터 세트 (VPS) 및 VPS 확장 중 하나에 포함되는, 비디오 데이터를 디코딩하는 방법.
제 1 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들은 상기 인코딩된 비트스트림의 SEI (supplemental enhancement information) 메시지에 포함되는, 비디오 데이터를 디코딩하는 방법.
비디오 데이터를 인코딩하는 방법으로서,
복수의 레이어 세트들을 포함하는 비디오 데이터의 복수의 레이어들을 인코딩하는 단계로서, 각각의 레이어 세트는 상기 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 복수의 레이어들을 인코딩하는 단계; 및
하나 이상의 출력 동작점들을 표시하는 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계로서, 각각의 출력 동작점은 상기 복수의 레이어 세트들의 레이어 세트 및 상기 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계
를 포함하는, 비디오 데이터를 인코딩하는 방법.
제 12 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들은 하나 이상의 제 1 신택스 엘리먼트들을 포함하고, 상기 방법은,
상기 출력 동작점을 위한 상기 하나 이상의 타겟 출력 레이어들을 표시하는 하나 이상의 제 2 신택스 엘리먼트들을 인코딩하는 단계로서, 상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 제 1 신택스 엘리먼트들과 상이한, 상기 제 2 신택스 엘리먼트들을 인코딩하는 단계
를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
제 13 항에 있어서,
상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 타겟 출력 레이어들의 각각을 표시하는 하나 이상의 신택스 엘리먼트들을 포함하는, 비디오 데이터를 인코딩하는 방법.
제 12 항에 있어서,
멀티레이어 비트스트림은 멀티뷰 비트스트림을 포함하여, 각각의 레이어가 비디오 데이터의 뷰를 포함하고 상기 하나 이상의 타겟 출력 레이어들은 하나 이상의 타겟 출력 뷰들을 포함하는, 비디오 데이터를 인코딩하는 방법.
제 12 항에 있어서,
멀티레이어 비트스트림은 하나 이상의 깊이 레이어들을 포함하여, 상기 하나 이상의 출력 동작점들이 깊이 데이터를 포함하는 하나 이상의 타겟 출력 깊이 레이어들을 포함하는, 비디오 데이터를 인코딩하는 방법.
제 12 항에 있어서,
멀티레이어 비트스트림은 비디오 데이터의 복수의 스케일러블 레이어들을 갖는 비트스트림을 포함하여, 상기 하나 이상의 출력 동작점들은 하나 이상의 스케일러블 타겟 출력 레이어들을 포함하는, 비디오 데이터를 인코딩하는 방법.
제 17 항에 있어서,
상기 출력 동작점은 수치적으로 최고 layer_id 를 갖는 스케일러블 타겟 출력 레이어를 포함하는, 비디오 데이터를 인코딩하는 방법.
제 12 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계는 상기 인코딩된 비트스트림의 비디오 파라미터 세트 (VPS) 및 VPS 확장 중 하나에 상기 하나 이상의 신택스 엘리먼트들을 포함시키는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
제 12 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들을 인코딩하는 단계는 상기 인코딩된 비트스트림의 SEI (supplemental enhancement information) 에 상기 하나 이상의 신택스 엘리먼트들을 포함시키는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
비디오 데이터를 코딩하기 위한 장치로서,
디바이스는 하나 이상의 프로세서들을 포함하고, 상기 하나 이상의 프로세서들은,
비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하는 것으로서, 상기 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고, 각각의 레이어 세트는 상기 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하고; 및
하나 이상의 출력 동작점들을 표시하는 상기 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 것으로서, 각각의 출력 동작점은 상기 복수의 레이어 세트들의 레이어 세트 및 상기 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하도록 구성된, 비디오 데이터를 코딩하기 위한 장치.
제 21 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들은 하나 이상의 제 1 신택스 엘리먼트들을 포함하고, 상기 하나 이상의 프로세서들은 또한, 상기 출력 동작점을 위한 상기 하나 이상의 타겟 출력 레이어들을 표시하는 하나 이상의 제 2 신택스 엘리먼트들을 코딩하도록 구성되고, 상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 제 1 신택스 엘리먼트들과 상이한, 비디오 데이터를 코딩하기 위한 장치.
제 22 항에 있어서,
상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 타겟 출력 레이어들의 각각을 표시하는 하나 이상의 신택스 엘리먼트들을 포함하는, 비디오 데이터를 코딩하기 위한 장치.
제 21 항에 있어서,
코딩은 디코딩을 포함하고 상기 하나 이상의 프로세서들은 또한,
상기 레이어 세트와 연관된 상기 하나 이상의 출력 동작점들의 출력 동작점을 디코딩하고;
상기 하나 이상의 타겟 출력 레이어들의 하나의 타겟 출력 레이어가 아니라 상기 레이어 세트에 속하는 하나 이상의 레이어들을 포함하는 디코딩되지만 출력되지 않은 레이어들의 세트를 디코딩하고;
출력에 사용될 화상으로서 디코딩된 화상 버퍼에서 상기 하나 이상의 타겟 출력 레이어들에 포함된 제 1 디코딩된 화상을 마킹하고; 및
출력에 사용되지 않을 화상으로서 상기 디코딩된 화상 버퍼에서 디코딩되지만 출력되지 않은 레이어들의 세트에 포함된 제 2 디코딩된 화상을 마킹하는 것으로서, 상기 출력에 사용되지 않을 화상이 상기 출력에 사용될 화상보다 더 일찍 상기 디코딩된 화상 버퍼로부터 제거되도록, 상기 제 2 디코딩된 화상을 마킹하도록 구성되는, 비디오 데이터를 코딩하기 위한 장치.
제 24 항에 있어서,
상기 하나 이상의 프로세서들은 또한,
출력에 사용되지 않을 것으로서 마킹된 상기 화상은 인터-예측 및 인터-레이어 예측 중 하나의 예측에 사용되는지 여부를 결정하고; 및
상기 출력에 사용되지 않을 화상이 인터-예측 및 인터-레이어 예측 중 하나의 예측에 사용되지 않을 때, 상기 디코딩된 화상 버퍼로부터 출력에 사용되지 않을 것으로 마킹된 상기 화상을 제거하도록 구성되는, 비디오 데이터를 코딩하기 위한 장치.
비디오 데이터를 코딩하기 위한 디바이스로서,
비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하는 수단으로서, 상기 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고, 각각의 레이어 세트는 상기 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하는 수단; 및
하나 이상의 출력 동작점들을 표시하는 상기 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 수단으로서, 각각의 출력 동작점은 상기 복수의 레이어 세트들의 레이어 세트 및 상기 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하는 수단
을 포함하는, 비디오 데이터를 코딩하기 위한 디바이스.
제 26 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들은 하나 이상의 제 1 신택스 엘리먼트들을 포함하고, 상기 디바이스는, 상기 출력 동작점을 위한 상기 하나 이상의 타겟 출력 레이어들을 표시하는 하나 이상의 제 2 신택스 엘리먼트들을 코딩하는 수단을 더 포함하고, 상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 제 1 신택스 엘리먼트들과 상이한, 비디오 데이터를 코딩하기 위한 디바이스.
제 27 항에 있어서,
상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 타겟 출력 레이어들의 각각을 표시하는 하나 이상의 신택스 엘리먼트들을 포함하는, 비디오 데이터를 코딩하기 위한 디바이스.
제 26 항에 있어서,
상기 레이어 세트와 연관된 상기 하나 이상의 출력 동작점들의 출력 동작점을 디코딩하는 수단;
상기 하나 이상의 타겟 출력 레이어들 중의 하나의 타겟 출력 레이어가 아니라 상기 레이어 세트에 속하는 하나 이상의 레이어들을 포함하는 디코딩되지만 출력되지 않은 레이어들의 세트를 디코딩하는 수단;
출력에 사용될 화상으로서 디코딩된 화상 버퍼에서 상기 하나 이상의 타겟 출력 레이어들에 포함된 제 1 디코딩된 화상을 마킹하는 수단; 및
출력에 사용되지 않을 화상으로서 상기 디코딩된 화상 버퍼에서 디코딩되지만 출력되지 않은 레이어들의 세트에 포함된 제 2 디코딩된 화상을 마킹하는 수단로서, 상기 출력에 사용되지 않을 화상이 상기 출력에 사용될 화상보다 더 일찍 상기 디코딩된 화상 버퍼로부터 제거되도록, 상기 제 2 디코딩된 화상을 마킹하는 수단
을 더 포함하는, 비디오 데이터를 코딩하기 위한 디바이스.
제 29 항에 있어서,
출력에 사용되지 않을 것으로서 마킹된 상기 화상은 인터-예측 및 인터-레이어 예측 중 하나의 예측에 사용되는지 여부를 결정하는 수단; 및
상기 출력에 사용되지 않을 화상이 인터-예측 및 인터-레이어 예측 중의 하나의 예측에 사용되지 않을 때, 상기 디코딩된 화상 버퍼로부터 출력에 사용되지 않을 것으로 마킹된 상기 화상을 제거하는 수단
을 더 포함하는, 비디오 데이터를 코딩하기 위한 디바이스.
명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 명령들은 실행될 때 비디오 데이터를 코딩하기 위한 디바이스의 프로세서로 하여금,
비디오 데이터의 복수의 레이어들을 포함하는 멀티레이어 비트스트림을 코딩하게 하는 것으로서, 상기 비디오 데이터의 복수의 레이어들은 복수의 레이어 세트들과 연관되고, 각각의 레이어 세트는 상기 복수의 레이어들의 비디오 데이터의 하나 이상의 레이어들을 포함하는, 상기 멀티레이어 비트스트림을 코딩하게 하고; 및
하나 이상의 출력 동작점들을 표시하는 상기 비트스트림의 하나 이상의 신택스 엘리먼트들에 대해 코딩하게 하는 것으로서, 각각의 출력 동작점은 상기 복수의 레이어 세트들의 레이어 세트 및 상기 복수의 레이어들의 하나 이상의 타겟 출력 레이어들과 연관되는, 상기 하나 이상의 신택스 엘리먼트들에 대해 코딩하게 하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
제 31 항에 있어서,
상기 하나 이상의 신택스 엘리먼트들은 하나 이상의 제 1 신택스 엘리먼트들을 포함하고, 상기 명령들은 또한 상기 하나 이상의 프로세서들로 하여금 상기 출력 동작점을 위한 상기 하나 이상의 타겟 출력 레이어들을 표시하는 하나 이상의 제 2 신택스 엘리먼트들을 코딩하게 하고, 상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 제 1 신택스 엘리먼트들과 상이한, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
제 32 항에 있어서,
상기 하나 이상의 제 2 신택스 엘리먼트들은 상기 하나 이상의 타겟 출력 레이어들의 각각을 표시하는 하나 이상의 신택스 엘리먼트들을 포함하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
제 31 항에 있어서,
상기 명령들은 또한 상기 하나 이상의 프로세서들로 하여금,
상기 레이어 세트와 연관된 상기 하나 이상의 출력 동작점들의 출력 동작점을 디코딩하게 하고;
상기 하나 이상의 타겟 출력 레이어들 중의 하나의 타겟 출력 레이어가 아니라 상기 레이어 세트에 속하는 하나 이상의 레이어들을 포함하는 디코딩되지만 출력되지 않은 레이어들의 세트를 디코딩하게 하고;
출력에 사용될 화상으로서 디코딩된 화상 버퍼에서 상기 하나 이상의 타겟 출력 레이어들에 포함된 제 1 디코딩된 화상을 마킹하게 하고; 및
출력에 사용되지 않을 화상으로서 상기 디코딩된 화상 버퍼에서 디코딩되지만 출력되지 않은 레이어들의 세트에 포함된 제 2 디코딩된 화상을 마킹하는 것으로서, 상기 출력에 사용되지 않을 화상이 상기 출력에 사용될 화상보다 더 일찍 상기 디코딩된 화상 버퍼로부터 제거되도록, 상기 제 2 디코딩된 화상을 마킹하게 하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
제 34 항에 있어서,
상기 명령들은 또한 상기 하나 이상의 프로세서들로 하여금,
출력에 사용되지 않을 것으로서 마킹된 상기 화상은 인터-예측 및 인터-레이어 예측 중 하나의 예측에 사용되는지 여부를 결정하게 하고; 및
상기 출력에 사용되지 않을 화상이 인터-예측 및 인터-레이어 예측 중의 하나의 예측에 사용되지 않을 때, 상기 디코딩된 화상 버퍼로부터 출력에 사용되지 않을 것으로 마킹된 상기 화상을 제거하게 하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.