KR101691572B1 - 3ｄｖ를 위한 층간 종속성 정보 - Google Patents

Abstract

다양한 구현은 층간 종속성 정보를 제공하는 것에 관한 것이다. 하나의 구현에서, 3DV(3차원 비디오) 층들 중에서 층간 종속성 구조를 표시하는 구문 요소가 생성된다. 층간 종속성 구조에 기초하여, 층간 기준은 3DV 층들의 하나의 층으로부터 화상에 대해 식별된다. 화상은 적어도 부분적으로 층간 기준에 기초하여 인코딩된다. 대응하는 디코딩 구현이 또한 제공된다. 추가로, 다른 구현에서, 송신 우선 순위 및 네트워크 혼잡도의 표시는 특정한 3DV 층에 대한 데이터를 송신할 지의 여부를 결정하는데 사용된다. 송신 우선 순위는 다중 3DV 층들 중에서 층간 종속성 구조에 기초한다. 다른 구현은, 층간 기준 및 대응하는 종속성을 명백히 식별하고 이를 운반할 수 있는 네트워크 요약 층 유닛에 관한 것이다.

Description

3ＤＶ를 위한 층간 종속성 정보{INTER-LAYER DEPENDENCY INFORMATION FOR 3DV}

본 출원은, "3D Video Coding Formats"라는 명칭으로 2009년 5월 1일에 출원된 미국 가특허 출원 61/215,154의 출원일과, "Reference Pictures for 3D Video"라는 명칭으로 2009년 5월 11일에 출원된 미국 가특허 출원 61/215,874의 출원일과, "Extended SPS for 3DV sequences"라는 명칭으로 2010년 3월 4일에 출원된 미국 가특허 출원 61/310,497의 출원일의 이익을 주장하며, 이들 각각의 내용은 모든 목적을 위해 그 전체가 참고용으로 병합된다.

코딩 시스템에 관련된 구현이 기재된다. 다양한 특정한 구현은 3차원(3D) 비디오 코딩 방식에 관련된다.

3차원 텔레비전(3DTV) 및 자유 시점 비디오(FVV: Free-Viewpoint Video)과 같은 새로운 비디오 응용을 용이하게 하기 위해, 종래의 2D 비디오 및 깊이 맵 모두를 포함하는 3D 비디오(3DV) 데이터 포맷은, 추가 뷰(view)가 최종 사용자에게 렌더링될 수 있도록 이용될 수 있다. 그러한 3DV 포맷의 예는, 2차원(2D) 비디오 및 대응하는 깊이 맵을 포함하는, 2D 플러스 깊이(2D+Z)와, 2D+Z 및 폐색(occlusion) 비디오 플러스 폐색 깊이를 포함하는 LDV(Layered Depth Video: 계층형 깊이 비디오)를 포함한다. 그러한 3DV 포맷의 다른 예는 MVD(Multiview plus Depth: 멀티뷰 플러스 깊이) 및 DES(Disparity Enhanced Stereo)를 포함한다. MVD는 상이한 시점으로부터 다중 2D+Z를 포함하기 때문에 2D+Z의 확장이다. 다시, DES는 2개의 상이한 시점으로부터 2개의 LDV로 구성된다. 3DV 포맷의 다른 예는, 좌측 뷰의 하나의 LDV 및 우측 뷰의 2D 비디오로 구성된 LDV+R(Layer Depth Video plus Right View)이다.

이들 모든 포맷에서 데이터를 운반(인코딩 및 전송)하는 방법은 도전되는 문제인데, 이는 상이한 구성요소가 3DV 컨텐츠를 디코딩하기 위해 최종 사용자에게 결합하여 사용되기 때문이다.

일반적인 양상에 따라, 3차원 비디오(3DV) 층 중에서 층간 종속성 구조(inter-layer dependency structure)를 나타내는 구문(syntax) 요소가 생성된다. 층간 종속성 구조에 기초하여, 층간 참조(reference)는 3DV 층들 중 하나의 층으로부터의 화상에 대해 식별된다. 화상은 적어도 부분적으로 층간 참조에 기초하여 인코딩된다.

다른 일반적인 양상에 따라, 비디오 신호 또는 비디오 신호 구조는 3차원 비디오(3DV) 층 중에 층간 종속성 구조를 나타내는 구문 요소를 위한 하나 이상의 구문 부분을 포함한다. 비디오 신호 또는 비디오 신호 구조는 또한 적어도 부분적으로 층간 종속성 구조로부터 층간 참조에 기초하여 인코딩되는 인코딩된 화상에 대한 하나 이상의 화상 부분을 포함한다. 인코딩된 화상 및 구문 요소는 인코딩된 화상을 디코딩하는데 사용하기 위해 제공된다.

다른 일반적인 양상에 따라, 인코딩된 화상은 비트스트림으로부터 액세스된다. 화상은 주어진 시간에 주어진 뷰로부터 특정 3DV 층을 위한 3차원 비디오(3DV) 정보를 기재한다. 특정 3DV 층을 포함하는 3DV 층의 세트를 위한 층간 종속성 구조를 나타내는 구문 요소가 액세스된다. 인코딩된 화상은 적어도 부분적으로 층간 종속성 구조에 기초하여 디코딩된다.

다른 일반적인 양상에 따라, 송신 우선 순위(transmission priority)은 다중 3DV 층들의 특정 3차원(3DV) 층에 대해 액세스된다. 송신 우선 순위은 다중 3DV 층들 중에 층간 종속성 구조에 기초한다. 특정 3DV 층에 속하는 인코딩된 데이터를 송신할 지의 여부가 결정된다. 송신할 지의 여부의 결정은 특정 3DV 층에 대한 송신 우선 순위, 및 네트워크 혼잡도의 표시에 기초한다.

하나 이상의 구현에 대한 세부사항은 첨부 도면 및 아래의 설명에서 설명된다. 하나의 특정한 방식으로 설명되지만, 구현은 다양한 방식으로 구성되거나 구현될 수 있다는 것이 명백하다. 예를 들어, 구현은 방법으로서 수행될 수 있거나, 예를 들어 동작 세트를 수행하도록 구성된 장치, 또는 동작 세트를 수행하기 위한 지령을 저장하는 장치와 같은 장치로서 구현되거나, 신호로 구현될 수 있다. 다른 양상 및 특징은 첨부 도면 및 청구항과 연계하여 고려된 다음의 상세한 설명으로부터 명백해질 것이다.

본 발명은 상이한 구성요소가 3DV 컨텐츠를 디코딩하기 위해 최종 사용자에게 결합하여 사용되는 것에 효과적이다.

도 1은 깊이 맵의 일례를 도시한 도면.
도 2는 LDV 포맷의 4가지 구성요소를 보여주는 일례를 도시한 도면.
도 3은 3DV 인코더의 구현을 도시한 블록도/흐름도.
도 4는 3DV 디코더의 구현을 도시한 블록도/흐름도.
도 5는 3DV 층 인코더의 구현을 도시한 블록도/흐름도.
도 6은 3DV 층 디코더의 구현을 도시한 블록도/흐름도.
도 7은 비디오 송신 시스템의 구현을 도시한 블록도/흐름도.
도 8은 비디오 수신 시스템의 구현을 도시한 블록도/흐름도.
도 9는 비디오 처리 디바이스의 구현을 도시한 블록도/흐름도.
도 10은 3DV 코딩 구조의 일례를 도시한 도면.
도 11은 NAL(Network Abstraction Layer) 유닛 스트림의 제 1 예를 도시한 블록도/흐름도.
도 12는 NAL 유닛 스트림의 제 2 예를 도시한 블록도/흐름도.
도 13은 3DV 컨텐츠를 디코딩하는 방법의 일례를 도시한 흐름도.
도 14는 3DV 컨텐츠를 인코딩하는 방법의 일례를 도시한 흐름도.
도 15는 층간 종속성 구조의 일례를 도시한 블록도.
도 16은 인코딩 프로세스에 대한 기준 화상 리스트를 구성하는 방법의 일례를 도시한 흐름도.
도 17은 디코딩 프로세스에 대한 기준 화상 리스트를 구성하는 방법의 일례를 도시한 흐름도.
도 18은 3DV 컨텐츠에 대한 확장된 시퀀스 파라미터 세트를 위한 NAL 유닛을 인코딩하는 방법의 일례를 도시한 흐름도.
도 19는 3DV 컨텐츠에 대한 확장된 시퀀스 파라미터 세트를 위한 NAL 유닛을 디코딩하는 방법의 일례를 도시한 흐름도.
도 20은 확장부를 갖는 시퀀스 파라미터 세트를 인코딩하는 방법의 일례를 도시한 흐름도.
도 21은 확장부를 갖는 시퀀스 파라미터 세트를 디코딩하는 방법의 일례를 도시한 흐름도.
도 22는 3DV 컨텐츠에 대한 층간 종속성 구조를 위한 시퀀스 파라미터 서브셋을 인코딩하는 제 1 방법의 일례를 도시한 블록도/흐름도.
도 23은 3DV 컨텐츠에 대한 층간 종속성 구조를 위한 시퀀스 파라미터 서브셋을 디코딩하는 제 1 방법의 일례를 도시한 블록도/흐름도.
도 24는 3DV 컨텐츠에 대한 층간 종속성 구조를 위한 시퀀스 파라미터 서브셋을 인코딩하는 제 2 방법의 일례를 도시한 블록도/흐름도.
도 25는 3DV 컨텐츠에 대한 층간 종속성 구조를 위한 시퀀스 파라미터 서브셋을 디코딩하는 제 2 방법의 일례를 도시한 블록도/흐름도.
도 26은 3DV 컨텐츠를 인코딩하는 방법의 일례를 도시한 흐름도.
도 27은 3DV 컨텐츠를 디코딩하는 방법의 일례를 도시한 흐름도.
도 28은 코딩 동작을 위한 기준 화상 리스트를 구성하는 방법의 일례를 도시한 흐름도.
도 29는 도 28의 방법으로 구현될 수 있는 2D 비디오 층 화상을 처리하는 방법의 일례를 도시한 흐름도.
도 30은 3DV 컨텐츠를 인코딩하고 층간 종속성 구조를 운반하는 방법의 일례를 도시한 흐름도.
도 31은 3DV 컨텐츠를 디코딩하고 층간 종속성 구조를 운반하는 방법의 일례를 도시한 흐름도.
도 32는 NAL 유닛 스트림의 일례를 도시한 블록도/흐름도.
도 33은 층간 종속성 구조를 이용함으로써 네트워크 트래픽을 관리하는 시스템의 일례를 도시한 블록도/흐름도.
도 34는 층간 종속성 구조를 이용함으로써 네트워크 트래픽을 관리하는 방법의 일례를 도시한 흐름도.

종래 기술에서 이해되는 바와 같이, 3D 비디오(3DV)의 기본적인 원칙은, 일반적으로 장면(scene) 또는 대상(object)의 상이한 뷰를 사용자의 각 눈에 제공하여, 사용자가 그 장면 또는 대상의 깊이를 인식할 수 있다는 것이다. 추가적으로, 사용자 경험을 향상시키기 위해, 송신되는 뷰 이외의 다른 가상 뷰는 예를 들어 상이한 인식된 깊이 범위에 대한 베이스라인(baseline) 거리를 조정하도록 렌더링될 수 있다. 전술한 바와 같이 이들 하나 이상의 목적을 달성하기 위해, 3D 비디오(3DV) 표현 포맷은 비디오, 깊이와 같은 다양한 층과, 가능하면 2D+Z(MVD) 및 LDV(DES)와 같은 더 많은 보충 정보를 포함할 수 있다. 3DV 컨텐츠에 대한 깊이 및 다른 보충 정보의 개념을 더 양호하게 예시하기 위해, 도 1 및 도 2가 참조된다.

도 1은 종래의 비디오에 대응하는 깊이 맵(100)의 일례를 제공한다. 더욱이, 도 2는 LDV 포맷에서의 4가지 구성요소, 즉 2D 비디오(202) 플러스 깊이(Z)(204), 및 폐색 깊이(208)와 함께 동일한 장면에 대한 폐색 비디오(206)의 일례를 포함한다. 전술한 데이터 포맷의 인코딩 및 송신은 많은 양상에서 도전되고 있다. 예를 들어, 코딩 효율 외에도, 동기화 및 역 호환성(종래의 단안식 2D 비디오에 대해)과 같은 기준은 또한 바람직하게 레거시 고급형 비디오 코딩(AVC: Advanced Video Coding)/멀티뷰 코딩(MVC) 디코더는 비트스트림으로부터 시청가능한 비디오를 추출할 수 있도록 제공될 수 있다.

이들 문제 중 적어도 일부를 다룰 수 있는 한가지 해결책은 동시 방송(simulcast)이며, 여기서 각 뷰 및/또는 층은 인코딩되어 독립적으로 송신된다. 이러한 접근법은 각각 개별적인 뷰/층을 인코딩하고 디코딩하고, 뷰/층을 시스템 레벨 또는 응용 레벨에서 시청가능한 이미지로 동기화하도록 다중 인코더 및 디코더를 이용할 수 있다. 예를 들어, 동화상 전문가 그룹(MPEG)-C 파트 3{ISO(International Organization for Standarization)/IEC(International Electrotechnical Commission) 23002-3}은 2D+Z에 대한 시스템 프레임워크를 규정한다. 전형적인 구현은 비디오와 깊이 사이에 시스템 레벨에서 동기화를 이용한다. 비디오 및 깊이는 임의의 기존의 비디오 코딩 표준을 이용하여 코딩될 수 있다. 그러나, 전형적인 구현에서, 비디오 및 깊이의 인코딩은 분리된다. 따라서, 동시 방송의 비용은 일반적으로 송신된 뷰 및/또는 층의 개수와 곱해진다. 더욱이, 상이한 뷰 및/또는 층이 개별적으로 인코딩되기 때문에, 뷰 및/또는 층 중의 임의의 잔여물은 일반적으로 더 높은 인코딩 효율을 달성하기 위해 이용된 임의의 방식으로 이루어지지 않는다.

이와 대조적으로, 본 명세서에 기재된 하나 이상의 구현은, 층간 코딩이 층 사이의 잔여물을 이용하도록 하여, AVC/MVC 시스템의 역 호환성 외에도 더 높은 인코딩 효율을 달성하도록 할 수 있다. 특히, 하나 이상의 구현은 이들 이익 중 적어도 일부를 얻기 위해 코딩 레벨에서 뷰 및/또는 층의 동기화를 허용하는 수단을 제공한다. 예를 들어, 본 명세서에 기재된 적어도 하나의 구현에서, AVC의 NAL(Network Abstraction Layer) 유닛 설계 상의 새로운 3DV 프리픽스 NAL 유닛 및 새로운 3DV NAL 유닛 헤더 확장부는 뷰/층의 층간 코딩 및 동기화를 효율적으로 가능하게 하도록 제안된다. 높은 레벨의 구문은, 3DV 구성요소가 AVC 및 스케일가능(scalable) 비디오 코딩(SVC)/MVC 비트스트림과 같은 비트스트림으로부터 어떻게 추출될 수 있는지를 신호 발신(signals)한다. 따라서, 이러한 접근법은, 3DV 구성요소가 코딩된 비트스트림(SVC 층, 또는 MVC 뷰와 같은)에서 결합될 수 있기 때문에, 시스템 레벨에서의 상이한 3DV 구성요소 사이에서 더 이상 동기화가 필요 없다는 장점을 갖는다. 다른 잠재적인 이익은, 층간 또는 뷰간의 잔여물이 이러한 방식으로 인코딩될 때 제거될 수 있다는 것이다. 더욱이, 새로운 NAL 유닛 설계는 MVC와 호환될 수 있고, 또한 임의의 미래의 캡슐화(encapulating) 코딩 기술과 호환할 수 있어서, 개선된 압축 효율을 달성할 수 있다.

본 명세서에서 아래에 설명되는 바와 같이, 시스템 레벨과 대조적으로 코딩 레벨에서 상이한 뷰/층에 대한 동기화를 가능하게 하기 위해, 하나 이상의 구현은 3DV NAL 유닛 설계를 3DV 뷰 식별자(ID) 및 3DV 층 ID와 연관시킨다. 더욱이, 뷰간/층간 잔여물을 더 잘 이용하기 위해, 뷰간/층간 예측이 이용되어, 인터리빙 방법을 갖는 AVC에 비해 더 높은 코딩 효율을 제공한다. 더욱이, 3DV 보충 층에 대한 NAL 유닛 설계는 완전한 역 호환성을 달성하면서, MVC/AVC와의 2D 뷰 층 호환성을 달성하지 않고도 새로운 코딩 모드/툴의 개발을 가능하게 한다.

다양한 실시예는 다중-기준 예측을 이용함으로써 3DV 컨텐츠를 포함하는 비트스트림의 인코딩 및 디코딩을 허용하기 위해 기준 리스트의 구성에 관한 것이다. 예를 들어, 3DV 코딩 구조에 있어서, 적어도 3가지 가능한 기준 화상의 유형이 있을 수 있는데, 이러한 기준 화상은 예를 들어 임시 기준 화상, 뷰간 기준 화상, 및 상이한 3DV 층으로부터의 기준 화상을 포함한다. 상이한 3DV 층으로부터의 기준 화상은 예를 들어 깊이 층에 대한 기준으로서 사용된 2D 비디오 층을 포함할 수 있다. 본 출원에 기재된 적어도 하나의 실시예는 기준 화상 리스트에서 3가지 유형의 기준 화상을 어떻게 배치할 지에 대한 개념 및 구현을 제공한다. 예를 들어, 예측 모드에서 매크로블록(MB)을 인코딩할 때, 인코더는, 어떤 화상(들)이 이용가능한 다중 기준 화상 중에서 기준으로서 사용되는지를 신호 발신할 수 있다. 여기서, 리스트에서의 인덱스는 어떤 기준 화상이 사용되는지를 나타낼 수 있다. 본 명세서에서 아래에 더 논의되는 바와 같이, 하나 이상의 실시예는 층간 예측을 가능하게 하기 위해 리스트에서 하나 이상의 층간 기준 화상을 제공할 수 있다.

전술한 바와 같이, 하나 이상의 실시예는 많은 장점을 제공하는데, 이러한 장점 중 하나는 MVC와의 잠재적인 호환성이다. 즉, 이들 실시예 중 하나에 따른 3DV 비트스트림이 레거시 MVC 디코더에 공급될 때, 2D 비디오(예를 들어, 아래에 층 0으로 규정됨)는 디코딩되고 출력될 수 있다. MVC와의 호환성에 추가로 도움을 주면서, 동시에 다양한 층을 이용하여 3DV 컨텐츠의 효율적인 코딩을 허용하기 위해, 다양한 실시예는 추가적으로 시퀀스 파라미터 세트(SPS)의 구성 및 신호 발신에 관한 것이다. 당업자에게 이해되는 바와 같이, SPS는 화상의 시퀀스 중 화상들 사이에서 공유된 공통 특성을 규정할 수 있다. 그러한 공통 특성은 예를 들어 화상 크기, 선택적인 이용된 코딩 모드, 및 그룹 맵을 슬라이싱하기 위한 매크로블록을 포함할 수 있으며, 이들 각각은 선택적으로 시퀀스에서의 화상들 사이에 공유될 수 있다. 적어도 하나의 실시예에 대해, SPS의 확장부는 3DV 컨텐츠를 인코딩하고 디코딩하는데 사용되는 새로운 시퀀스 파라미터를 신호 발신하도록 이용된다. 더욱이, 개별적이고 새로운 NAL 유닛 유형은 확장된 SPS에 대해 이용될 수 있다. 확장된 SPS는 라우터와 같은 네트워크 디바이스에 의해 사용될 수 있어서, 본 명세서에서 아래에 구체적으로 논의되는 바와 같이, 3DV 컨텐츠 스트리밍의 비트율에 적응하도록 한다.

특정한 세부사항에서 실시예를 논의하기 전에, 이용된 용어의 몇몇 논의는 설명된 개념의 이해를 용이하게 하기 위해 제공된다.

용어 :

"2D 비디오" 층은 일반적으로 본 명세서에서 전형적인 비디오 신호를 언급하는데 사용된다.

"깊이" 층은 일반적으로 본 명세서에서 장면 대상에 대한 거리 정보를 나타내는 데이터를 언급하는데 사용된다. "깊이 맵"은 깊이 층의 일반적인 예이다.

"폐색 비디오" 층은 일반적으로 본 명세서에서 특정 시점으로부터 폐색되는 비디오 정보를 언급하는데 사용된다. 폐색 비디오 층은 일반적으로 2D 비디오 층에 대한 배경 정보를 포함한다.

"폐색 깊이" 층은 일반적으로 본 명세서에서 특정 시점으로부터 폐색되는 깊이 정보를 언급하는데 사용된다. 폐색 깊이 층은 일반적으로 깊이 층에 대한 배경 정보를 포함한다.

"투명" 층은 일반적으로 본 명세서에서 깊이 불연속성 또는 깊이 경계를 나타내는 화상을 언급하는데 사용된다. 일반적인 투명 층은 이진 정보를 갖고, 2개의 값 중 하나는 이웃 깊이 값에 대해 깊이가 불일치를 갖는 위치를 나타내고, 특정 임계치보다 더 크다.

"3DV 뷰"는 본 명세서에서 MVC에 사용된 "뷰"와 상이한 하나의 뷰 위치로부터 데이터 세트로서 한정된다. 예를 들어, 3DV 뷰는 MVC에서의 뷰보다 더 많은 데이터를 포함할 수 있다. 2D+Z 포맷에 대해, 3DV 뷰는 2개의 층, 즉 2D 비디오 플러스 그 깊이 맵을 포함할 수 있다. LDV 포맷에 대해, 3DV 뷰는 4개의 층, 즉 2D 비디오, 깊이 맵, 폐색 비디오, 및 폐색 깊이 맵을 포함할 수 있다. 더욱이, 투명 맵은 특히 3DV 뷰 내에 또 다른 층 데이터 유형일 수 있다.

"3DV 층"은 3DV 뷰의 층들 중 하나의 층으로서 한정된다. 3DV 층의 예는 예를 들어 2D 뷰 또는 비디오, 깊이, 폐색 비디오, 폐색 깊이, 및 투명 맵이다. 2D 뷰 또는 비디오 이외의 층은 또한 "3DV 보충 층"으로서 한정된다. 하나 이상의 실시예에서, 3DV 디코더는 3dv_layer_id를 이용하여 층을 식별하고 다른 층으로부터 그 층을 구별하도록 구성될 수 있다. 하나의 구현에서, 3dv_layer_id는 표 1에서와 같이 한정된다. 그러나, 본 명세서에 제공된 가르침의 관점에서 당업자에게 이해되는 바와 같이, 층이 다른 방식으로 한정되고 식별될 수 있다는 것이 주지되어야 한다.

도 3 및 도 4는 각각 높은-레벨의 일반적인 3DV 인코더(300) 및 디코더(400)를 도시한다. 인코더(300)/디코더(400)는 층의 인코더/디코더 및 3DV 기준 버퍼로 구성된다. 예를 들어, 3DV 컨텐츠 신호(302)는 예를 들어 2D 뷰, 깊이, 폐색 뷰, 폐색 깊이, 및 투명 맵 층을 포함할 수 있고, 도 3에 도시된 다양한 층 인코더에 입력된다. 특히, 인코더 시스템/장치(300)는 AVC 호환될 수 있는 2D 층을 인코딩하도록 구성된 2D 층 인코더(304)와, 개선된 2D 층을 인코딩하도록 구성된 개선된 2D 층 인코더(306)와, 깊이 층을 인코딩하도록 구성된 깊이 층 인코더(308)와, 폐색 뷰 층을 인코딩하도록 구성된 폐색 뷰 층 인코더(310)와, 폐색 깊이 층을 인코딩하도록 구성된 폐색 깊이 층 인코더(312)와, 투명 층을 인코딩하도록 구성된 투명 층 인코더(314)를 포함한다. 따라서, 각 층은 상이한 인코더 및/또는 인코딩 기술을 이용하여 인코딩될 수 있다.

개선된 2D 층은 일반적으로 본 명세서에서 AVC, MVC, SVC, 또는 몇몇 다른 기본적인 표준과 호환하는 층으로부터 그러한 층을 구별하는데 사용된다. 예를 들어, 개선된 2D 층은 일반적으로 그러한 층이 예를 들어 층간 기준을 이용하는 것과 같은 새로운 코딩 툴을 허용하기 때문에 MVC와 호환하지 않는다. 그러므로, 그러한 층은 MVC와 역 호환하지 않는다.

"개선된 2D 층"(또는 보충 층)이, 또한 MVC로 코딩될 수 있지만 디스플레이되는 것으로 예측되지 않아서 일반적으로 MVC로 코딩되는 것으로 설명되지 않는 층을 언급하는데 사용될 수 있다는 것이 주지된다. 예를 들어, 일련의 깊이 층은 일련의 화상으로서 MVC에 의해 처리될 수 있고, MVC에 의해 코딩될 수 있다. 그러나, 깊이 층을 디스플레이하는데 일반적이지 않아서, 종종 MVC를 이용하는 것 외에도 그러한 층을 식별하고 코딩하는 상이한 방식을 갖는 것이 바람직하다.

각 층은 또한 상이한 기준을 이용할 수 있다. 기준은 인코딩(디코딩)되는 화상/블록과 상이한 층으로부터 이루어질 수 있다. 상이한 층으로부터의 기준은 3DV 기준 버퍼(316){3DV 기준/출력 버퍼(414)}로부터 얻어질 수 있다. 도 3에 도시된 바와 같이, 각 층 인코더는 3DV 기준 버퍼(316)와 신호 통신 상태(in signal communication)에 있어서, 출력 신호(318)를 생성하기 위해 입력 신호(302)의 다양한 인코딩 모드를 허용한다.

3DV 기준 버퍼(316)를 이용함으로써, 3DV 포맷의 각 층은, 예를 들어 움직임 및/또는 불일치 보상을 갖는 동일한 층 내의 임시 기준 및/또는 층간 기준과 같은 자체 층으로부터의 기준을 이용하여, 및/또는 다양한 층들 사이의 층간 예측을 이용하여 인코딩될 수 있다. 예를 들어, 층간 예측은 현재 층을 인코딩하기 위해 다른 층으로부터 예를 들어 움직임 벡터, 기준 인덱스 등과 같은 움직임 정보를 재사용할 수 있으며, 이것은 또한 움직임 스킵 모드라 언급된다. 이러한 방식으로, 출력 신호(318)는 하나 이상의 3DV 뷰에 대한 다양한 층 정보로 인터리빙될 수 있다. 층간 예측은 다른 층의 액세스에 기초한 임의의 종류의 기술일 수 있다.

디코더 시스템/장치(400)에 관해, 시스템(400)은, 신호(318)가 도 4에 도시된 바와 같이 입력될 수 있는 다양한 층 디코더를 포함한다. 특히, 인코더 시스템/장치(400)는, 2D 층을 디코딩하도록 구성되고 AVC 호환가능할 수 있는 2D 층 디코더(402)와, 개선된 2D 층을 디코딩하도록 구성된 개선된 2D 층 디코더(404)와, 깊이 층을 디코딩하도록 구성된 깊이 층 디코더(406)와, 폐색 뷰 층을 디코딩하도록 구성된 폐색 뷰 층 디코더(408)와, 폐색 깊이 층을 디코딩하도록 구성된 폐색 깊이 층 디코더(410), 및/또는 투명 층을 디코딩하도록 구성된 투명 층 디코더(412)를 포함한다.

도 4에 도시된 바와 같이, 각 층 디코더는 3DV 기준/출력 버퍼(414)와 신호 통신 상태에 있고, 이러한 3DV 기준/출력 버퍼(414)는 층 디코더로부터 수신된 디코딩된 층 정보를 파싱(parse)하고, 입력 신호에 포함된 층이 3D 처리를 지원하는 구조에 어떻게 맞춰지는지를 결정하도록 구성될 수 있다. 그러한 3D 처리는 예를 들어 본 명세서에 기재된 3D 층의 코딩, 또는 수신기 또는 디스플레이 유닛에서 추가 화상의 렌더링(합성)을 포함할 수 있다. 렌더링은 예를 들어 2D 비디오를 워핑(warp)하기 위한 깊이 화상, 및/또는 배경 정보를 갖는 렌더링된 화상의 구멍을 채우기 위한 폐색 화상을 이용할 수 있다.

더욱이, 3DV 기준/출력 버퍼(414)는 사용자로의 표현을 위해 3DV 호환 포맷으로 출력 신호(416)를 생성하도록 구성될 수 있다. 포맷된 3DV 컨텐츠 신호(416)는 물론 예를 들어, 2D 뷰, 깊이, 폐색 뷰, 폐색 깊이, 및 투명 맵 층을 포함할 수 있다. 출력 버퍼는 도 4에 도시된 바와 같이, 기준 버퍼와 함께 구현될 수 있고, 또는 대안적으로 다른 실시예에서, 기준 및 출력 버퍼는 분리될 수 있다.

인코더(300) 및 디코더(400)의 다른 구현은 더 많거나 더 적은 층을 이용할 수 있다. 더욱이, 도시된 것과 상이한 층이 사용될 수 있다.

3DV 기준 버퍼(316) 및 3DV 기준/출력 버퍼(414)에 사용된 용어 "버퍼"가 지능형 버퍼라는 것이 이해되어야 한다. 그러한 버퍼는 예를 들어 화상을 저장하고, 기준(또는 기준의 부분)을 제공하고, 출력을 위한 화상을 재주문(reorder)하는데 사용될 수 있다. 더욱이, 그러한 버퍼는 예를 들어, 가정(hypothetical) 기준 디코더 테스팅, 마킹 명령(예를 들어 AVC에서의 메모리 관리 및 제어 동작)의 처리, 및 디코딩된 화상 버퍼 관리와 같은 다양한 다른 처리 동작을 수행하는데 사용될 수 있다.

도 5 및 도 6은 각각 임의의 하나 이상의 층 인코더(304-314) 및 임의의 하나 이상의 층 디코더(402-412)를 구현하는데 각각 사용될 수 있는 일반적인 3DV 층 인코더(500) 및 디코더(600)의 고레벨의 블록도/흐름도를 각각 도시한다. 각 층 인코더(304-314)는 특정한 목적을 위해 예를 들어 도 5에 도시된 대응하는 층에 대해 동일한 일반적인 방식으로 설계될 수 있다는 것이 주지된다. 이와 반대로, 층 인코더는 본 명세서에 제공된 가르침을 고려하여 이해되는 바와 같이, 고유한 특성을 더 잘 이용하도록 상이하게 구성될 수 있다. 유사하게, 디코더(402-412)는 예를 들어 도 6에 도시된 대응하는 층에 대해 동일한 일반적인 방식으로 설계될 수 있다. 이와 반대로, 층 디코더는 고유한 특성을 더 잘 이용하도록 상이하게 구성될 수 있다.

MVC 인코더에 관해, 입력이 다중 뷰로 구성된다는 것이 주지되어야 한다. 각 뷰는 전형적인 2D 비디오이다. 따라서, AVC 인코더에 비해, 일반적인 MVC 인코더는 불일치 추정 블록, 불일치 보상 블록, 및 뷰간 기준 버퍼와 같은 추가 블록을 포함한다. 유사하게, 도 5 및 도 6은 3DV 기준 및 층간 예측을 위한 블록을 포함한다. 3DV 인코더를 통해, 입력은 다중 3D 뷰로 구성된다. 전술한 바와 같이, 각 3D 뷰는 여러 개의 층을 포함할 수 있다. 따라서, 각 층에 대한 인코딩 방법은 고유한 특징을 이용하도록 상이하게 설계될 수 있다. 따라서, 3DV 인코더는 도 3에 도시된 바와 같이 층 인코더로 분리될 수 있다. 그러나, 층 인코더는 또한 밀접하게 결합될 수 있다. 층 인코더에 사용된 기술은 주어진 시스템에 대해 바람직하게 맞춰질 수 있다. 각 층이 비디오 신호로서 나타나기 때문에, 층은 도 5에 도시된 바와 같이 높은 레벨에서 유사한 구조를 가질 수 있다. 층 인코더가 더 낮은 더 특정한 레벨에서 상이하게 설계될 수 있다는 것이 주지되어야 한다. 물론, 일실시예는 또한 모든 층을 인코딩하도록 구성된 단일 인코더를 이용할 수 있다.

도 5에 도시된 높은 레벨의 도면에 관해, 3DV 층인코더(500)는 입력 신호(502) 내에서 3DV 뷰에 대해 3DV 뷰(i) 층을 수신하고 서로 분할하도록 구성된 층 분할기(layer partitioner)(504)를 포함할 수 있다. 분할기(504)는 가산기 또는 결합기(506)와, 변위(움직임/불일치) 보상 모듈(508)과, 변위(움직임/불일치) 추정 모듈(510)과 신호 통신 상태에 있고, 이들 각각은 분할기(504)로부터 분할된 층의 세트를 수신한다. 가산기(506)로의 다른 입력은 스위치(512)를 통해 수신된 다양한 가능한 기준 화상 정보들 중 하나이다.

예를 들어, 스위치(512)와 신호 통신 상태에 있는 모드 결정 모듈(536)이, 인코딩 모드가 현재 인코딩되는 동일한 블록 또는 슬라이스를 참조하여 인트라-예측되어야 하는지를 결정하면, 가산기는 인트라-예측 모듈(530)로부터 입력을 수신한다. 대안적으로, 모드 결정 모듈(536)이, 인코딩 모드가 현재 처리되는 동일한 프레임 또는 3DV 뷰 또는 3DV 층의 블록 또는 슬라이스, 또는 현재 인코딩되는 블록 또는 슬라이스와 상이한, 다른 이전에 처리된 프레임 또는 3DV 뷰 또는 3DV 층의 블록 또는 슬라이스를 참조하여 변위 보상 및 추정이어야 하는지를 결정하면, 가산기는 도 5에 도시된 바와 같이, 변위 보상 모듈(508)로부터 입력을 수신한다. 더욱이, 모드 결정 모듈(536)이, 인코딩 모드가 현재 처리되는 동일한 프레임 또는 3DV 뷰, 또는 현재 처리되는 층과 상이한, 다른 이전에 처리된 프레임 또는 3DV 뷰의 3DV 층을 참조하여 3DV 층간 예측이어야 하는지를 결정하면, 가산기는 3DV 기준 버퍼(532)와 신호 통신 상태에 있는 3DV 층간 예측 모듈(534)로부터 입력을 수신한다.

가산기(506)는 3DV 층(들) 및 예측, 보상, 및/또는 추정 정보를 포함하는 신호를 변환 모듈(514)에 제공하고, 이러한 변환 모듈(514)은 그 입력 신호를 변환하고 변환된 신호를 양자화 모듈(516)에 제공하도록 구성된다. 양자화 모듈(516)은 수신된 신호 상의 양자화를 수행하고, 양자화된 정보를 엔트로피 인코더(518)로 출력하도록 구성된다. 엔트로피 인코더(518)는 입력 신호 상의 엔트로피 인코딩을 수행하여, 비트스트림(520)을 생성하도록 구성된다. 역 양자화 모듈(522)은 양자화 모듈(516)로부터 양자화된 신호를 수신하고, 양자화된 신호 상의 역 양자화를 수행하도록 구성된다. 다시, 역 변환 모듈(524)은 모듈(522)로부터 역 양자화된 신호를 수신하고, 수신된 신호 상의 역 변환을 수행하도록 구성된다. 모듈(522 및 524)은 가산기(506)로부터 신호 출력을 재생성하거나 재구성한다.

가산기 또는 결합기(526)는 역 변환 모듈(524) 및 스위치(512)로부터 수신된 신호를 가산(결합)하고, 결과적인 신호를 인트라 예측 모듈(530) 및 디블록킹(deblocking) 필터(528)로 출력한다. 더욱이, 인트라 예측 모듈(530)은 수신된 신호를 이용하여 전술한 바와 같이 인트라-예측을 수행한다. 유사하게, 디블록킹 필터(528)는 가산기(526)로부터 수신된 신호를 필터링하고, 필터링된 신호를 3DV 기준 버퍼(532)에 제공한다.

다시 3DV 기준 버퍼(532)는 수신된 신호를 파싱한다. 3DV 기준 버퍼(532)는 요소(534, 508 및 510)에 의해 전술한 바와 같이 층간 및 변위 보상/추정 인코딩에 도움을 준다. 3DV 기준 버퍼(532)는 예를 들어 다양한 3DV 층의 전부 또는 일부를 제공한다.

다시 도 6을 참조하면, 3DV 층 디코더(600)는 비트스트림 수신기(602)를 이용하여 비트스트림(318)을 수신하도록 구성될 수 있고, 이러한 비트스트림 수신기(602)는 다시 비트스트림 파서(parser)(604)와 신호 통신 상태에 있고, 비트스트림을 파서(604)에 제공한다. 비트스트림 파서(604)는 잔여 비트스트림(605)을 엔트로피 디코더(606)로 송신하고, 구문 요소(607)를 모드 선택 모듈(622)로 송신하고, 변위(움직임/불일치) 벡터 정보(609)를 변위 보상(움직임/불일치) 모듈(618)로 송신하고, 현재 디코딩된 3DV 층 이외의 3DV 층으로부터 코딩 정보(611)를 3DV 층간 예측 모듈(620)로 송신하도록 구성될 수 있다. 역 양자화 모듈(608)은 엔트로피 디코더(606)로부터 수신된 엔트로피 디코딩된 신호 상의 역 양자화를 수행하도록 구성될 수 있다. 더욱이, 역 변환 모듈(610)은 역 양자화 모듈(608)로부터 수신된 역 양자화된 신호 상의 역 변환을 수행하고, 역 변환된 신호를 가산기 또는 결합기(612)로 출력하도록 구성될 수 있다.

가산기(612)는 이용된 디코딩 모드에 따라 다양한 다른 신호들 중 하나의 신호를 수신할 수 있다. 예를 들어, 모드 결정 모듈(622)은, 3DV 층간 예측, 변위 보상 또는 인트라 예측 인코딩이 제어 구문 요소(607)를 파싱하고 분석함으로써 인코더(500)에 의해 현재 처리된 블록 상에서 수행되었는지를 결정할 수 있다. 결정된 모드에 따라, 모드 선택 제어 모듈(622)은 제어 구문 요소(607)에 기초하여 스위치(623)를 액세스하고 제어할 수 있어서, 가산기(612)는 3DV 층간 예측 모듈(620), 변위 보상 모듈(618) 또는 인트라 예측 모듈(614)로부터 신호를 수신할 수 있다.

여기서, 인트라 예측 모듈(614)은 예를 들어, 현재 디코딩되는 동일한 블록 또는 슬라이스에 대한 기준을 이용하여 블록 또는 슬라이스를 디코딩하기 위해 인트라 예측을 수행하도록 구성될 수 있다. 다시, 변위 보상 모듈(618)은 예를 들어, 현재 처리되는 동일한 프레임 또는 3DV 뷰 또는 3DV 층의 블록 또는 슬라이스, 또는 현재 디코딩되는 블록 또는 슬라이스와 상이한, 다른 이전에 처리된 프레임 또는 3DV 뷰 또는 3DV 층의 블록 또는 슬라이스에 대한 기준을 이용하여 블록 또는 슬라이스를 디코딩하기 위해 변위 보상을 수행하도록 구성될 수 있다. 더욱이, 3DV 층간 예측 모듈(620)은 예를 들어, 현재 처리되는 동일한 프레임 또는 3DV 뷰의 3DV 층에 대한 기준을 이용한 블록 또는 슬라이스, 또는 현재 처리되는 층과 상이한, 다른 이전에 처리된 프레임 또는 3DV 뷰의 블록 또는 슬라이스를 디코딩하기 위해 3DV 층간 예측을 수행하도록 구성될 수 있다.

예측 또는 보상 정보 신호를 수신한 후에, 가산기(612)는 예측 또는 보상 정보 신호를 디블록킹 필터(602)로의 송신을 위한 역 변환된 신호에 가산할 수 있다. 디블록킹 필터(602)는 입력 신호를 필터링하고 디코딩된 화상을 출력하도록 구성될 수 있다. 가산기(612)는 또한 가산된 신호를 인트라 예측에서의 사용을 위한 인트라 예측 모듈(614)로 출력할 수 있다. 더욱이, 디블록킹 필터(602)는 필터링된 신호를 3DV 기준 버퍼(616)로 송신할 수 있다. 3DV 기준 버퍼(316)는 요소(618 및 620)에 의해 전술한 바와 같이 층간 및 변위 보상 디코딩을 허용하고 이에 도움을 주기 위해 수신된 신호를 파싱하도록 구성될 수 있으며, 3DV 기준 버퍼(616)는 파싱된 신호를 이러한 요소(618 및 620) 각각에 제공한다. 그러한 파싱된 신호는 예를 들어 다양한 3DV 층의 전부 또는 일부일 수 있다.

시스템/장치(300, 400, 500 및 600)가 당업자에게 이해되는 바와 같이 상이하게 구성되고 상이한 요소를 포함할 수 있다는 것이 이해되어야 한다.

이제 도 7을 참조하면, 도 7은 비디오 송신 시스템/장치(700)를 도시하며, 본 명세서에 기재된 양상은 구현에 따라 상기 비디오 송신 시스템/장치(700)에 적용될 수 있다. 비디오 송신 시스템(700)은 예를 들어 위성, 케이블, 전화선, 또는 지상파 방송과 같은 임의의 다양한 매체를 이용하여 신호를 송신하기 위한 헤드-엔드(head-end) 또는 송신 시스템일 수 있다. 송신은 인터넷 또는 몇몇 다른 네트워크를 통해 제공될 수 있다.

비디오 송신 시스템(700)은 다른 3DV 보충 층과 함께, 예를 들어 비디오 컨텐츠 및 깊이를 생성하고 전달할 수 있다. 이것은, 3DV 보충 층 정보, 또는 예를 들어 디코더를 가질 수 있는 수신기 측에서 3DV 보충 층 정보를 합성하는데 사용될 수 있는 정보를 포함하는 인코딩된 신호(들)를 생성함으로써 달성된다.

비디오 송신 시스템(700)은 인코더(710), 및 인코딩된 신호를 송신할 수 있는 송신기(720)를 포함한다. 인코더(710)는 비디오 정보를 수신하고, 비디오 정보 및/또는 3DV 층 정보에 기초하여 인코딩된 신호(들)를 생성한다. 인코더(710)는 예를 들어 위에서 구체적으로 기재된 인코더(300)일 수 있다. 인코더(710)는 예를 들어, 정보의 다양한 부분을 수신하고 이러한 정보의 다양한 부분을 저장 또는 송신을 위해 구조화된 포맷으로 어셈블링하기 위한 어셈블리 유닛을 포함하는 하위-모듈을 포함할 수 있다. 정보의 다양한 부분은 예를 들어, 코딩되거나 코딩되지 않은 비디오, 코딩되거나 코딩되지 않은 깊이 정보, 및 예를 들어 움직임 벡터, 코딩 모드 표시자(indicators) 및 구문 요소와 같은 코딩되거나 코딩되지 않은 요소를 포함할 수 있다.

송신기(720)는 예를 들어 인코딩된 화상 및/또는 이와 관련된 정보를 나타내는 하나 이상의 비트스트림을 갖는 프로그램 신호(750)를 송신하도록 적응될 수 있다. 일반적인 송신기는 예를 들어 에러 정정 코딩을 제공하는 모드, 신호에서 데이터를 인터리빙하는 모드, 신호에서 에너지를 랜덤화(randomizing)하는 모드, 및 변조기(722)를 이용하여 신호를 하나 이상의 캐리어로 변조하는 모드 중 하나 이상과 같은 기능을 수행한다. 송신기(720)는 안테나(미도시)를 포함하거나 이와 인터페이싱할 수 있다. 더욱이, 송신기(720)의 구현은 변조기를 포함하거나 이에 한정될 수 있다.

도 8을 참조하면, 도 8은 구현에 따라 본 명세서에 기재된 양상이 적용되는 비디오 수신 시스템/장치(800)를 도시한다. 비디오 수신 시스템(800)은 예를 들어 위성, 케이블, 전화선, 또는 지상파 방송과 같은 다양한 매체를 통해 신호를 수신하도록 구성될 수 있다. 신호는 인터넷 또는 몇몇 다른 네트워크를 통해 수신될 수 있다.

비디오 수신 시스템(800)은 예를 들어, 셀-폰, 컴퓨터, 셋탑 박스, 텔레비전, 또는 인코딩된 비디오를 수신하고, 예를 들어 사용자로의 디스플레이 또는 저장부를 위한 디코딩된 비디오를 제공하는 다른 디바이스일 수 있다. 따라서, 비디오 수신 시스템(800)은 출력을 예를 들어, 텔레비전 스크린, 컴퓨터 모니터, 컴퓨터(저장, 처리, 또는 디스플레이를 위한), 또는 몇몇 다른 저장, 처리, 또는 디스플레이 디바이스에 제공할 수 있다.

비디오 수신 시스템(800)은 비디오 정보를 포함하는 비디오 컨텐츠를 수신하고 처리할 수 있다. 비디오 수신 시스템(800)은, 예를 들어 이러한 응용의 구현에 기재된 신호와 같은 인코딩된 신호를 수신할 수 있는 수신기(810)와, 수신된 신호를 디코딩할 수 있는 디코더(820)를 포함한다.

수신기(810)는, 예를 들어 인코딩된 화상을 나타내는 복수의 비트스트림을 갖는 프로그램 신호를 수신하도록 적응될 수 있다. 일반적인 수신기는, 예를 들어 변조되고 인코딩된 데이터 신호를 수신하는 것과, 복조기(822)를 이용하여 하나 이상의 캐리어로부터 데이터 신호를 복조하는 것과, 신호에서 에너지를 역-랜덤화(de-randomizing)하는 것과, 신호에서 데이터를 역-인터리빙하는 것과, 신호를 에러 정정 디코딩하는 것 중 하나 이상과 같은 기능을 수행한다. 수신기(810)는 안테나(미도시)를 포함하거나 이와 인터페이싱할 수 있다. 수신기(810)의 구현은 복조기를 포함하거나 이에 한정될 수 있다.

디코더(820)는 비디오 정보 및 깊이 정보를 포함하는 비디오 신호를 출력한다. 디코더(820)는 예를 들어, 위에서 구체적으로 기재된 디코더(400)일 수 있다.

시스템(700)으로의 입력은 도 7에서, "입력 비디오(들)"로 기술되고, 시스템(800)으로의 출력은 도 8에서, "출력 비디오"로 기술된다. 적어도 이들 구현에서, 이들은 다중 층을 포함하는 3D 비디오를 언급한다는 것이 이해되어야 한다.

도 9를 참조하면, 도 9는, 본 명세서에 기재된 양상이 구현에 따라 적용될 수 있는 비디오 처리 디바이스(900)를 도시한다. 비디오 처리 디바이스(900)는 예를 들어, 셋탑 박스, 또는 인코딩된 비디오를 수신하고 예를 들어 사용자로의 디스플레이 또는 저장부를 위한 디코딩된 비디오를 제공하는 다른 디바이스일 수 있다. 따라서, 비디오 처리 디바이스(900)는 그 출력을 텔레비전, 컴퓨터 모니터, 또는 컴퓨터 또는 다른 처리 디바이스에 제공할 수 있다.

비디오 처리 디바이스(900)는 프론트-엔드(FE) 디바이스(905) 및 디코더(910)를 포함한다. 프론트-엔드 디바이스(905)는 예를 들어, 인코딩된 화상을 나타내는 복수의 비트스트림을 갖는 프로그램 신호를 수신하고, 복수의 비트스트림으로부터 디코딩을 위한 하나 이상의 비트스트림을 선택하도록 적응된 수신기일 수 있다. 일반적인 수신기는, 예를 들어 변조되고 인코딩된 데이터 신호를 수신하는 것과, 데이터 신호를 복조하는 것과, 데이터 신호의 하나 이상의 인코딩(예를 들어, 채널 코딩 및/또는 소스 코딩)을 디코딩하는 것과, 및/또는 데이터 신호를 에러 정정하는 것 중 하나 이상과 같은 기능을 수행한다. 프론트-엔드 디바이스(905)는 예를 들어 안테나(미도시)로부터 프로그램 신호를 수신할 수 있다. 프론트-엔드 디바이스(905)는 수신된 데이터 신호를 디코더(910)에 제공한다.

디코더(910)는 데이터 신호(920)를 수신한다. 데이터 신호(920)는 예를 들어, 하나 이상의 AVC(Advanced Video Coding), SVC(Scalable Video Coding), 또는 MVC(Multi-view Video Coding) 호환가능 스트림을 포함할 수 있다.

AVC는 더 구체적으로 기존의 ISO/IEC(International Organization for Standardization/International Electrotechnical Commssion) MPEG-4(Moving Picture Experts Group-4) 파트 10 AVC(Advanced Video Coding) ITU-T(standard/International Telecommunication Union, Telecommunication Sector) H.264 권고안(이후부터 "H.264/MPEG-4 AVC 표준", 또는 "AVC 표준" 또는 간단히 "AVC"와 같은 변형)을 언급한다.

MVC는 더 구체적으로 H.264/MPEG-4 AVC, MVC 확장부("MVC 확장부" 또는 간단히 "MVC")를 언급하는, AVC 표준의 MVC(multi-view video coding) 확장부(첨부 H)를 언급한다.

SVC는 더 구체적으로 H.264/MPEG-4 AVC, SVC 확장부("SVC 확장부" 또는 간단히 "SVC")를 언급하는, AVC 표준의 SVC(scalable video coding) 확장부(첨부 G)를 언급한다.

디코더(910)는 수신된 신호(920)의 전부 또는 부분을 디코딩하고, 출력으로서 디코딩된 비디오 신호(930)를 제공한다. 디코딩된 비디오(930)는 선택기(950)에 제공된다. 디바이스(900)는 또한 사용자 입력(970)을 수신하는 사용자 인터페이스(960)를 포함한다. 사용자 인터페이스(960)는 사용자 입력(970)에 기초하여 화상 선택 신호(980)를 선택기(950)에 제공한다. 화상 선택 신호(980) 및 사용자 입력(970)은 다중 화상, 시퀀스, 스케일가능한 버전, 뷰, 또는 이용가능한 디코딩된 데이터의 다른 선택 중에서 어떤 것이 사용자가 디스플레이하기를 원하는 것인지를 나타낸다. 선택기(950)는 출력(990)으로서 선택된 화상(들)을 제공한다. 선택기(950)는, 디코딩된 비디오(930)에서의 어떤 화상을 출력(990)으로서 제공할 것인지를 선택하기 위해 화상 선택 정보(980)를 이용한다.

다양한 구현에서, 선택기(950)는 사용자 인터페이스(960)를 포함하고, 다른 구현에서는 어떠한 사용자 인터페이스(960)도 필요하지 않은데, 그 이유는 선택기(950)가 개별적인 인터페이스 기능이 수행되지 않고도 직접 사용자 입력(970)을 수신하기 때문이다. 선택기(950)는 예를 들어 소프트웨어 또는 집적 회로로서 구현될 수 있다. 하나의 구현에서, 선택기(950)는 디코더(910)에 병합되고, 다른 구현에서, 디코더(910), 선택기(950), 및 사용자 인터페이스(960) 모두 집적된다.

하나의 응용에서, 프론트-엔드(905)는 다양한 텔레비전 쇼의 방송을 수신하고, 처리를 위해 하나를 선택한다. 하나의 쇼의 선택은 시청할 원하는 채널의 사용자 입력에 기초한다. 프론트-엔드 디바이스(905)로의 사용자 입력은 도 9에 도시되지 않지만, 프론트-엔드 디바이스(905)는 사용자 입력(970)을 수신한다. 프론트-엔드(905)는 방송을 수신하고, 방송 스펙트럼의 관련 부분을 복조하고, 복조된 쇼의 임의의 외부 인코딩을 디코딩함으로써 원하는 쇼를 처리한다. 프론트-엔드(905)는 디코딩된 쇼를 디코더(910)에 제공한다. 디코더(910)는 디바이스(960 및 950)를 포함하는 집적된 유닛이다. 디코더(910)는 이에 따라 쇼에서 시청할 원하는 뷰의 사용자-공급된 표시인 사용자 입력을 수신한다. 디코더(910)는 선택된 뷰 뿐 아니라 다른 뷰로부터의 임의의 필요한 기준 화상을 디코딩하고, 텔레비전(미도시) 상의 디스플레이를 위한 디코딩된 뷰(990)를 제공한다.

상기 응용을 계속하면, 사용자는 디스플레이되는 뷰를 스위칭하기를 원할 수 있고, 그런 후에 새로운 입력을 디코더(910)에 제공할 수 있다. 사용자로부터 "뷰 변경(view change)"을 수신한 후에, 디코더(910)는 오래된 뷰 및 새로운 뷰 뿐 아니라, 오래된 뷰와 새로운 뷰 사이에 있는 임의의 뷰 모두를 디코딩한다. 즉, 디코더(910)는, 오래된 뷰를 찍은 카메라와 새로운 뷰를 찍은 카메라 사이에 물리적으로 위치한 카메라로부터 찍은 임의의 뷰를 디코딩한다. 프론트-엔드 디바이스(905)는 또한 오래된 뷰, 새로운 뷰, 및 그 사이의 뷰를 식별하는 정보를 수신한다. 그러한 정보는 예를 들어 뷰의 장소에 관한 정보를 갖는 제어기(도 9에는 미도시), 또는 디코더(910)에 의해 제공될 수 있다. 다른 구현은 프론트-엔드 디바이스에 집적된 제어기를 갖는 프론트-엔드 디바이스를 이용할 수 있다.

디코더(910)는 출력(990)으로서 이들 모든 디코딩된 뷰를 제공한다. 후치-프로세서(도 9에는 미도시)는 오래된 뷰로부터 새로운 뷰로의 매끄러운 전이를 제공하도록 뷰들 사이에서 보간하고, 이러한 전이를 사용자에게 디스플레이한다. 새로운 뷰로의 전이 이후에, 후치-프로세서는 새로운 뷰만이 필요하다는 것을 (도시되지 않은 하나 이상의 통신 링크를 통해) 디코더(910) 및 프론트-엔드 디바이스(905)에게 통보한다. 그 후에, 디코더(910)만이 새로운 뷰를 출력(990)으로서 제공한다.

시스템/장치(900)는 이미지의 시퀀스의 다중 뷰를 수신하고, 디스플레이를 위한 단일 뷰를 제공하고, 매끄러운 방식으로 다양한 뷰들 사이에서 스위칭하는데 사용될 수 있다. 매끄러운 방식은 다른 뷰로 이동하기 위해 뷰들 사이에서의 보간을 수반할 수 있다. 더욱이, 시스템(900)은, 사용자가 대상 또는 장면을 회전시키도록 하거나, 그렇지 않으면 대상 또는 장면의 3차원 표현을 보도록 할 수 있다. 예를 들어 대상의 회전은 뷰간의 이동, 및 뷰간의 보간에 대응하여, 뷰간의 매끄러운 전이를 얻거나, 간단히 3차원 표현을 얻을 수 있다. 즉, 사용자는 디스플레이되는 "뷰"로서 보간된 뷰를 "선택"할 수 있다.

비디오 송신 시스템(700), 비디오 수신 시스템(800), 및 비디오 처리 디바이스(900)가 모두 본 출원에 기재된 다양한 구현과 함께 사용하기 위해 적응될 수 있다는 것이 이해되어야 한다. 예를 들어, 시스템(700, 800 및 900)은 논의된 3DV 포맷들 중 하나에서의 데이터 뿐 아니라, 연관된 신호 발신 정보로 동작하도록 적응될 수 있다.

실시예 1 : 3DV 프리픽스 NAL 유닛

이 실시예에서, 새로운 NAL 유닛 유형이 소개되고, 특정한 3DV 뷰 또는 3DV 층에 대한 비디오 코딩 층(VCL) NAL 유닛 또는 MVC 프리픽스 NAL 유닛(14로 표시된 nal_unit_type)보다 선행할 수 있는 "16"으로 표시된 "3DV 프리픽스 NAL 유닛"으로 언급된다. VCL NAL 유닛 및 MVC 프리픽스 유닛은, 본 명세서에 참고용으로 병합되고 제안된 AVC 표준에 관련된, 제네바 CH, 2009년 1월-2월, JVT-AD007, Gary Sullivan 등의 "Editors' draft revision to ITU-T Rec. H.264| ISO/IEC 14496-10 Advanced Video Coding"(이후부터 'AVC 드래프트')에 구체적으로 설명된다. 본 명세서에 사용되고 명백히 한정되는 많은 항목 및 약어의 의미는 AVC 드래프트에서 알 수 있듯이 당업자에게 이해될 수 있다. 3DV 프리픽스 NAL 유닛을 나타내는 "16"의 이용은 임의적이고, AVC 드래프트에서 임의의 확보된 NAL 유닛 유형인 것으로 선택될 수 있다.

아래에 제공된 표 2는 nal_unit_type 코드에 대한 AVC 드래프트에서의 표 7-1의 변형된 개정이고, 3DV 프리픽스 NAL 유닛(16)을 한정한다. AVC 드래프트에서의 표 7-1은 표 3으로서 아래에 재현된다. 표 2는 또한 아래에 더 구체적으로 논의된 실시예 3에 대한 변형을 포함한다는 것이 주지되어야 한다. 3DV 프리픽스 NAL 유닛(16)은 MVC 호환가능 디코더가 3DV 보충 층을 포함하는 송신된 모든 3DV 층을 디코딩하도록 하고, 또한 코딩 레벨에서 3DV 뷰 및 층을 동기화하도록 한다. 표 2의 행 2-5{NAL 유닛 유형(16-23)}은 표3에 대한 구문 변화를 반영한다.

표 4에 도시된 바와 같이, 3DV 프리픽스 NAL 유닛은 3dv_view_id 및 3dv_layer_id를 포함할 수 있다. 3dv_view_id는 3DV 뷰와 연관된 프레임의 3DV 뷰 ID 번호를 규정한다. 더욱이, 3dv_layer_id는 연관된 프레임의 3DV 층 ID 번호를 규정한다. reserved_bits는 NAL 유닛이 정렬된 바이트가 되도록 한다. 각 구문 요소에 사용된 비트의 수 및 그 코딩 방법이 예로서만 제공된다는 것이 이해되어야 한다. 또한 NAL 유닛(16)의 헤더가 아래의 표 9의 처음 3가지 요소에서와 같이 표준 제 1 바이트를 포함할 수 있다는 것이 주지되어야 한다. 이 실시예에서, NAL 유닛(16)은 헤더 및 확장된 헤더를 포함할 수 있고, 페이로드를 필요로 하지 않을 수 있다. NAL 유닛(16)은 예를 들어, 모든 3DV 층 프레임 이전에, 또는 3DV 층 프레임의 모든 슬라이스 이전에 송신될 수 있다.

3DV 프리픽스 NAL 유닛이 어떻게 이용될 수 있는지를 더 잘 예시하기 위해, 3DV 뷰(1002, 1004, 1006)의 구조(1000)를 포함하는 3DV 컨텐츠의 일례를 도시한 도 10이 참조된다. 여기서 뷰(1002, 1004, 1006)는 동일한 장면 또는 대상의 상이한 사시도를 제공한다. 이 예에서, 각 3DV 뷰는 추가로 2개의 층, 즉 2D 뷰(1010) 플러스 그 깊이(1008)로 구성된다. 도 10에서의 화살표는 상이한 뷰와 층 사이의 코딩 종속성을 보여준다. 예를 들어, 코딩 목적을 위해 B 뷰(1004), 양방향 예측된 뷰는 베이스 뷰(1002) 및 P 뷰(1006), 예측 뷰에 의존하고, 이를 참조한다. 유사하게, P 뷰(1006)는 베이스 뷰(1002)에 의존하고, 이를 참조한다. 여기서, 각 3DV 뷰의 깊이 층(1008)은 대응하는 3DV 뷰의 2D 뷰 층(1010)을 참조한다. 3DV 뷰 및 종속성이 본 명세서에 제공된 가르침을 고려하여 당업자에 의해 MVD, LDV, DES 포맷에 따른 것과 같은 추가 3DV 보충 층을 갖는 3DV 컨텐츠로 확장될 수 있다는 것이 주지되어야 한다. 또한, 도 10에 제공된 종속성이 단지 예에 불과하고, 3DV 프리픽스 NAL 유닛의 이용이 다양한 다른 종속성을 허용한다는 것이 주지되어야 한다.

이 실시예에 따라 도 10에서의 3DV 컨텐츠에 대한 NAL 유닛 스트림은 도 11에 도시된다. 특히, 도 11은 비디오 표현을 위해 상이한 시간(T0 1102 및 T1 1110) 동안 NAL 유닛(1100)의 스트림을 제공한다. 여기서, 뷰(1104) 및 뷰(1112)(3DV 뷰 0)는, 이들이 베이스 뷰(1002)와 동일한 사시도 또는 시점과 연관된다는 점에서 각각 시간(T0 및 T1)에 베이스 뷰(1002)에 대응한다. 유사하게, 뷰(1106) 및 뷰(1114)(3DV 뷰 2)는 각각 시간(T0 및 T1)에 P 뷰(1006)에 대응하는 한편, 뷰(1108) 및 뷰(1116)(3DV 뷰 1)는 각각 시간(T0 및 T1)에 B 뷰(1004)에 대응한다.

도 11에 도시된 바와 같이, 각 3DV 뷰는 2D 뷰 층 및 깊이 층으로 구성된다. 그러나, 추가 보충 층이 다른 실시예에 이용될 수 있다는 것이 주지되어야 한다. 여기서, 뷰(1104)는 2D 뷰 층(1118) 및 깊이 층(1120)으로 구성된다. 2D 뷰 층(1118) 자체는 NAL 유닛{16(1126), 14(1128), 및 5(1130)}으로 구성되는 한편, 깊이 층(1120)은 NAL 유닛(16) 및 NAL 유닛{20(1132)}으로 구성된다. 다시, 뷰(1106)의 2D 뷰 층(1122) 및 깊이 층(1124) 자체는 도 11에 도시된 바와 같이 NAL 유닛(16) 및 NAL 유닛(20)으로 구성된다. 뷰(1112)는, NAL 유닛(16 및 20)을 포함하는 깊이 층과, NAL 유닛{16, 14 및 1(1134)}을 포함하는 2D 뷰 층(1136)으로 구성된다.

도 11의 화살표는 NAL 유닛의 송신 순서를 나타낸다. 예를 들어, NAL 유닛{16(1126)}은 NAL 유닛{14(1128)} 이전에 송신되고, 이러한 NAL 유닛{14(1128)} 자체는 NAL 유닛{5(1130)} 등의 이전에 송신된다. NAL 유닛(16)은 표 2 및 표 4에 한정되는 한편, 도 11에 도시된 다른 NAL 유닛은 표 3에 한정된다. 예를 들어, NAL 유닛(5)은 AVC 드래프트에 한정된 바와 같이, 인트라 슬라이스 또는 SI 슬라이스만으로 구성되는 IDR(Instantaneous Decoding Refresh: 순시 디코딩 리프레시) 화상의 코딩된 슬라이스의 비디오 데이터를 포함한다. 일반적으로, IDR 화상은 인트라 예측 단독만을 이용하거나, 예측 샘플의 인트라 예측 단독 및 양자화를 이용하여 코딩된다. 더욱이, NAL 유닛(1)은 양방향(B) 코딩된 화상 또는 예측(P) 코딩된 화상과 같은 비-IDR 화상의 코딩된 슬라이스의 비디오 데이터를 포함하고, 이것은 다시 다른 화상, 3DV 층 또는 3DV 뷰를 참조할 수 있다. 다시, NAL 유닛(20)은 예를 들어 도 10에 표시된 다른 층, 또는 다른 3DV 뷰를 참조할 수 있는 코딩된 슬라이스 확장부이다. 또한 도 11에 도시된 NAL 유닛(1, 5 및 20)이 그러한 많은 유닛을 대표하고, 표현의 용이함을 위해 생략(truncated)된다는 것이 주지되어야 한다. 예를 들어, 프리픽스 유닛(16 및 14)이 2D 뷰(1118)에 대해 송신된 후에, 여러 개의 NAL 유닛{5(1130)}은, 대응하는 프레임의 모든 슬라이스가 송신될 때까지 송신될 수 있다. 유사하게, 프리픽스 NAL 유닛(16)이 깊이 뷰에 대해 송신된 후에, 깊이 층 프레임을 포함하는 복수의 NAL 유닛(20)이 송신될 수 있다. 도 11에서의 NAL 유닛(1)은 유사하게 2D 뷰 층(1136)의 프레임에 대응하는 슬라이스의 생략된 표현이다.

각 NAL 유닛(14)은 대응하는 층에 대한 MVC 뷰 ID를 나타내는 전술한 프리픽스 NAL 유닛이다. 예를 들어, NAL 유닛(14)은 대응하는 2D 뷰 층(1118)에 대한 MVC 뷰 ID를 포함한다. 유사하게, NAL 유닛(20)은 또한 대응하는 3DV 층에 대한 MVC 뷰 ID를 포함한다. 이 실시예에서, 모든 3DV 층은 개별적인 MVC 뷰로서 코딩되고, 이에 따라 코딩 동안 고유 MVC view_id가 할당된다. 전술한 인코더(300)와 같은 인코더는 실시예 5 내지 7에 대해 본 명세서에서 아래에 추가로 논의되는 바와 같이 시퀀스 파라미터 세트(SPS)에서의 층 및/또는 프레임 사이의 종속성을 나타내도록 MVC view_id를 이용할 수 있고, 디코더(400)와 같은 디코더가 3DV 프리픽스 NAL 유닛을 이용하여 정확한 방식으로 프레임을 해석하고 디코딩할 수 있도록 프리픽스 NAL 유닛(16)에서 대응하는 3dv_view_id 및 3dv_layer_id를 규정할 수 있다.

일례로, 각 3DV 층의 MVC view_id는 표 5에서와 같이 설정될 수 있다. 따라서, 실시예 1의 구조에서, 4와 동일한 MVC view_id를 갖는 임의의 NAL 유닛은 2로 설정된 3dv_view_id 및 0으로 설정된 3dv_layer_id를 갖는 프리픽스 NAL 유닛(16)에 의해 선행될 수 있다. 여기서 할당된 실제 값은 임의적이고, 각각이 상이한 사시도 또는 시점에 대응하는 상이한 3DV 뷰가 고유하게 식별되고 대응하는 3DV 층이 적절하게 식별되고 운반되는 한 변경될 수 있다. 표 5에서의 값이 상이한 시간에 걸쳐 일정하다는 것이 또한 주지되어야 한다. 예를 들어, 뷰(1104 및 1112)는 동일한 MVC 뷰, 3DV 뷰 및 3DV 층 ID를 공유한다.

실시예 1에 한정된 비트스트림이 MVC 호환가능하고, 모든 3DV 뷰 및 모든 층이 종래의 MVC 디코더에 의해 디코딩될 수 있다는 것이 이해되어야 한다. 따라서, 3DV 프리픽스 NAL 유닛(16)은, MVC 호환가능 디코더가 3DV 보충 층을 포함하는 모든 송신된 3DV 층을 디코딩하도록 한다. 그러나, 종래의 MVC 디코더가 디코딩된 데이터를 3DV 포맷으로 어떻게 조직화(organize)하는 지를 인식하지 않더라도, NAL 유닛(16)의 이용은 실시예에 의해 코딩 레벨에서 3DV 뷰 및 층의 동기화를 허용한다. 예를 들어, 도 3에 도시된 인코더(300)의 3DV 기준 버퍼(316)는 비트스트림(318)에서 전술한 가르침에 따라 적절한 3DV 프리픽스 유닛을 포함할 수 있는 한편, 도 4의 디코더(400)의 3DV 기준 버퍼(414)는 비트스트림(318)에서 NAL 유닛을 해석할 수 있고, 이에 따라 NAL 유닛을 이용하여 3DV 컨텐츠를 구성 및 포맷하여, 이들은 상기 도 10 및 도 11에 대해 논의된 구조에 따른다.

MVC 역 호환성이, 3DV 뷰의 모든 2D 뷰 층이 MVC에 따라 종래의 MVC 디코더에 의해 디코딩되고 포맷될 수 있다는 점에서 달성된다는 것이 주지되어야 한다. 그러나, 깊이 층 및 다른 3DV 보충 층이 자체로 고유한 MVC 뷰 ID를 포함하기 때문에, 3DV 보충 층은 개별적인 MVC 뷰로서 MVC 디코더에 의해 해석된다. 따라서, 3DV 보충 층이 MVC에 따라 포맷되고 디스플레이되면, 디스플레이된 이미지는 본래 3차원 효과를 갖지 않는다. 이와 같이, 사용자는 시청가능한 3D 이미지가 제공될 때까지 MVC 뷰를 검색하여 MVC 뷰를 디스플레이할 수 있다. 여기서, 시청가능한 3D 뷰는, 2개의 2D 뷰 층이 사용자의 각 눈에 선택/디스플레이되고 제공될 때마다 제공된다.

추가로, 사용자는, 또한 사용자의 디스플레이가 예를 들어 실시예 1을 이용하여 송신된 3DV 보충 층을 수용하고 3D 이미지를 생성하도록 구성되는 경우, 3D 이미지를 시청할 수 있다. 예를 들어, 사용자의 디스플레이는 LDV 포맷된 입력을 수용할 수 있고, 그 입력으로부터 3D 이미지를 생성할 수 있다. 이러한 경우에, 사용자는, 예를 들어 입력이 LDV 포맷인지를 나타내도록 사용자의 디스플레이 상에 모드를 선택할 수 있다.

실시예 2 : 3DV 하에서 MVC view_id를 재사용

실시예 1의 대안적인 구현으로서 실시예 2에 따라, NAL 유닛 헤더 상의 새로운 인코딩 및 디코딩 프로세스가 제안된다. 여기서, 실시예 1에 관해 위에서 제공된 세부사항은, MVC view_id를 수반하는 특정한 넘버링(numbering) 방법이 이용되어, 3DV 프리픽스 NAL 유닛(16)의 이용이 회피된다는 점을 제외하고, 실시예 2에 적용된다. 예를 들어, MVC view_id가 10 비트를 갖도록 한정될 때, MVC view_id의 3 최하위 비트는 3dv_layer_id를 나타낼 수 있고, MVC view_id의 7 최상위 비트는 3dv_view_id를 나타낼 수 있다. 그 결과, 표 5에서의 MVC view_id는 아래의 표 6에서와 같이 설정될 수 있다. 따라서, 도 11에 제공된 3DV 컨텐츠는, NAL 유닛(16)이 실시예 2에 제공되지 않고 디코더가 추출된 MVC 뷰 ID를 3DV 뷰 ID 및 3DV 층 ID와 교차-참조(cross-referencing)함으로써 비트스트림에서의 추출된 MVC 뷰 ID로부터 3DV 뷰 ID 및 3DV 층 ID를 결정하기 위해 표 6을 저장하고 이용할 수 있다는 점을 제외하고, 실시예 2와 동일하다. 따라서, NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20)은 MVC 뷰 ID를 수반하는 넘버링 방법에 따라 구성될 수 있다. 여기서, 전술한 바와 같이, MVC 뷰 ID는 3DV 뷰 ID 및 3DV 층 ID를 운반하여, 코딩 레벨에서 3DV 컨텐츠의 동기화 및 포맷팅을 허용하도록 이용될 수 있다.

실시예 3 : 3DV NAL 유닛 확장부

실시예 1 및 2에서, 특정한 MVC 코딩 기술은 모든 3DV 층을 코딩하는데 사용되었고, 이와 같이, 모든 3DV 층은 종래의 MVC 디코더에 의해 디코딩가능하였다. 그러나, 현재의 MVC 표준을 구현하는 종래의 MVC 디코더는 전술한 바와 같이, 다양한 각 3DV 층을 3DV 포맷으로 구성하지 않는다. 실시예 3에서, 추가 코딩 기술의 도입을 허용하고, 현재 MVC 표준의 부분이 아니고, 특정한 3DV 뷰 및/또는 특정한 3DV 층에 적용가능한 코딩 프레임워크가 제안된다.

이러한 목적을 달성하기 위해, 위의 표 2에 도시된 바와 같이, "21"로서 언급되는 새로운 NAL 유닛 유형이 이용될 수 있다. NAL 유닛(16)과 유사하게, 실시예 3의 새로운 NAL 유닛에 대해 선택된 참조 번호는 표 3에서 AVC 드래프트에 의해 확보된 임의의 번호일 수 있다. 여기서, MVC 디코더에 의해 디코딩될 필요가 없는 임의의 3DV 뷰 및/또는 3DV 층은 3DV 컨텐츠를 디코딩하기 위해 NAL 유닛 유형(21)을 이용할 수 있다. 더욱이, MVC 디코더에 의해 디코딩되고 적절히 해석될 수 있는 모든 2D 뷰 층은 전술한 바와 같이, 1, 5 및 20과 같은 종래의 NAL 유닛 유형으로 코딩될 수 있고, 이들은 MVC 호환가능 2D 뷰로 언급된다. MVC 호환가능 2D 뷰는 실시예 1에 대해 설명된 바와 같이, NAL 유닛(16)과 같은 3DV 프리픽스 NAL 유닛보다 선행할 수 있고; 또는 MVC view_id 넘버링 방법이 규정될 수 있어서, 실시예 2에 대해 설명된 바와 같이 3DV 프리픽스 NAL 유닛을 피하게 된다.

아래의 표 7에 제공된 AVC 드래프트 MVC NAL 유닛 헤더 확장부와 유사하게, 새로운 3DV NAL 유닛 헤더 확장부가 제안되고, 아래의 표 8에 제공된다.

표 7 및 8에 도시된 바와 같이, 3DV NAL 유닛 헤더 확장부는, view_id MVC NAL 유닛 헤더 확장부의 구문 요소가 2개의 구문 요소, 즉 3DV NAL 유닛 헤더 확장부에서의 3dv_view_id 및 3dv_layer_id로 대체된다는 점을 제외하고, MVC NAL 유닛 헤더 확장부와 동일한 구문 요소를 포함할 수 있다. 여기서, 실시예 3에서, 3dv_view_id는 연관된 프레임의 3DV 뷰 ID 번호를 규정한다. 동일한 3dv_view_id는 동일한 시점으로부터 3DV 뷰 층 중에서 공유된다. 다시, 3dv_layer_id는 연관된 프레임의 3DV 층 ID 번호를 규정한다. nal_unit_header_3dv_extension()에 대한 호출은 아래의 표 9에 도시된다.

여기서, if(nal_unit_type==21){...} 문장은 AVC 드래프트에 기재된 NAL 유닛 구문에 추가되었다.

실시예 3에 따른 NAL 유닛 스트림(1200)의 일례는 새로운 NAL 유닛 유형(21)이 이용되는 도 12에 제공된다. 여기서, 3DV 프리픽스 NAL 유닛 유형의 이용이 회피되는데, 이는 view_id 넘버링이 NAL 유닛 헤더 파싱 프로세스에서 규정되기 때문이다. NAL 유닛 스트림(1200)은 도 10에 제공된 3DV 컨텐츠 일례에 대한 실시예 3의 적용의 예시이다. 전술한 바와 같이, 3DV 뷰와 3DV 층 사이의 종속성 및 사용된 3DV 층의 상이한 변형은 다양한 구현에 따라 상이할 수 있다.

스트림(1100)과 유사하게, 스트림(1200)은 상이한 시간 동안 뷰의 상이한 세트를 포함할 수 있으며, 뷰(1204, 1206 및 1208)는 T0(1202)에 대응하고, 뷰(1212, 1214, 및 1216)는 시간{T1(1210)}에 대응한다. 뷰(1204) 및 뷰(1212)(3DV 뷰 0)는, 이들이 베이스 뷰(1002)와 동일한 사시도 또는 시점과 연관된다는 점에서 각각 시간(T0 및 T1)에 베이스 뷰(1002)에 대응한다. 유사하게, 뷰(1206) 및 뷰(1214)(3DV 뷰 2)는 각각 시간(T0 및 T1)에 P 뷰(1006)에 대응하는 한편, 뷰(1208) 및 뷰(1216)(3DV 뷰 1)는 각각 시간(T0 및 T1)에 B 뷰(1004)에 대응한다. 각 3DV 뷰는 2D 뷰 층 및 깊이 층으로 구성된다. 스트림(1100)에 있어서, 추가 보충 층이 다른 실시예에서 이용될 수 있다는 것이 이해되어야 한다. 뷰(1204)는 2D 뷰 층(1218) 및 깊이 층(1220)으로 구성된다. 다시, 2D 뷰 층(1218)은 NAL 유닛{14(1226) 및 5(1230)}으로 구성되는 한편, 깊이 층(1220)은 NAL 유닛{21(1230)}으로 구성된다. 더욱이, 뷰(1206)는 NAL 유닛(20)을 포함하는 2D 뷰(1222)와, NAL 유닛(21)으로 구성된 깊이 뷰(1224)로 구성된다. 더욱이, 뷰(1212)의 2D 뷰(1236)는 NAL 유닛(14 및 1)으로 구성된다.

NAL 유닛(1, 5, 14 및 20)은 도 11에 대해 위에서 설명되었다. NAL 유닛(21)은 NAL 유닛(14 및 20)에 의해 사용된 표 7의 MVC NAL 유닛 헤더 확장부에 대조적으로 표 8의 3DV NAL 유닛 헤더 확장부를 이용한다. 새로운 3DV NAL 유닛 헤더 확장부의 이용은 코딩 레벨에서 3DV 컨텐츠 포맷으로의 3DV 층의 동기화를 가능하게 하는 한편, 새로운 코딩 방법의 적용을 허용한다. NAL 유닛(16)과 달리, NAL 유닛(21)은 대응하는 비디오 데이터의 페이로드를 포함할 수 있다. 더 일반적으로, 페이로드는 화상 데이터를 포함할 수 있는데, 이러한 화상 데이터는 일반적으로 대응하는 인코딩된 화상에 대한 데이터를 언급한다. 화상 데이터는 예를 들어, 2D 비디오, 깊이, 폐색 비디오, 폐색 깊이, 또는 투명도와 같은 임의의 층으로부터 나올 수 있다.

도 11과 유사하게, 도 12의 화살표가 NAL 유닛의 송신 순서를 나타낸다는 것이 또한 주지되어야 한다. 더욱이, 도 12에서의 NAL 유닛(1, 5, 20, 및 21)은, 도 11의 NAL 유닛(1, 5 및 20)이 생략되는 동일한 방식으로 생략된다. 더욱이, 실시예 3은, 2D 뷰 층이 종래의 디코더에 의해 디코딩될 수 있고, MVC에 따라 결합되어, 3D 컨텐츠의 생성 및 디스플레이를 허용한다는 점에서 MVC 호환가능하다.

이제 도 13 및 도 14를 참조하면, 실시예 3에 따라 3DV 컨텐츠 스트림을 각각 디코딩하고 인코딩하기 위한 방법(1300 및 1400)이 도시된다. 방법(1300)은 도 4의 디코더(400)에 의해 수행되고 구현될 수 있는 한편, 방법(1400)은 도 3의 인코더(300)에 의해 수행되고 구현될 수 있다는 점이 이해되어야 한다. 방법(1300 및 1400) 모두는 위의 표 9에 제공된 구문을 이용한다.

방법(1300)은, 디코더(400)가 위의 표 9 및 또한 AVC 드래프트에 기재된 수신된 NAL유닛의 nal_ref_idc를 판독할 수 있는 단계(1302)에서 시작할 수 있다.

단계(1304)에서, 디코더(400)는 NAL 유닛 유형을 판독할 수 있다.

단계(1306)에서, 디코더(400)는, NAL 유닛 유형이 14인지를 결정할 수 있다. NAL 유닛 유형이 14이면, 디코더(400)는 단계(1308)로 진행할 수 있고, MVC 뷰 ID를 얻기 위해 현재 처리된 NAL 유닛의 나머지 부분을 파싱한다. 실시예 3의 이러한 특정한 구현에서, 3DV 뷰 ID 및 3DV 층 ID는 예를 들어 실시예 2에 관해 전술한 바와 같이, MVC 뷰 ID로 표시된다.

따라서, 단계(1310)에서, 디코더(400)는 예를 들어 실시예 2에 관해 전술한 바와 같이, MVC 뷰 ID로부터 3DV 뷰 ID 및 3DV 층 ID를 얻을 수 있다.

단계(1312)에서, 디코더(400)는 수신된 다음 NAL 유닛을 판독하고 파싱할 수 있다. 다음 NAL 유닛은 유형 1 또는 유형 15 중 하나일 수 있다. 따라서, 디코더가, 다음 NAL 유닛이 유형 1 또는 유형 15 중 하나가 아닌지를 결정하면, 에러가 발생한다.

단계(1314)에서, 디코더(400)는 현재 처리된 NAL 유닛의 현재 슬라이스 데이터를 디코딩할 수 있다.

단계(1316)에서, 디코더(400)는, 처리된 NAL 유닛이 현재 프레임의 종단에 대응하는지를 결정할 수 있다. 처리된 NAL 유닛이 현재 프레임의 종단에 대응하지 않으면, 단계(1312 내지 1316)는 디코더(400)에 의해 반복될 수 있다.

현재 프레임의 종단에 도달한 후에, 방법은 단계(1318)로 진행할 수 있고, 이러한 단계(1318)에서, 디코더(400)는 3DV 뷰 ID 및 3DV 층 ID를 갖는 디코딩된 프레임을 예를 들어, 3DV 기준/출력 버퍼(414)와 같은 출력 버퍼로 송신할 수 있으며, 이러한 3DV 기준/출력 버퍼(414)는 다시 전술한 바와 같이 디스플레이를 위한 3DV 포맷으로 프레임을 구성할 수 있다.

단계(1320)에서, 디코더(400)는, 비트스트림 또는 시퀀스의 종단에 도달하였는지를 결정할 수 있다. 비트스트림 또는 시퀀스의 종단에 도달하지 않았으면, 방법은 단계(1302)로 진행할 것이고, 디코더(400)는 방법(1300)을 반복할 것이다. 비트스트림 또는 시퀀스의 종단에 도달하면, 방법(1300)은 종료할 것이다.

단계(1306)로 되돌아가면, 디코더(400)가, 현재 처리된 NAL 유닛의 NAL 유닛 유형이 유형 14가 아닌지를 결정하면, 방법은 단계(1322)로 진행할 것이고, 단계(1322)에서, 디코더(400)는 현재 처리된 NAL 유닛의 NAL 유닛 유형이 20인지를 결정할 것이다. 현재 처리된 NAL 유닛이 유형 20이면, 방법은 단계(1324)로 진행할 것이고, 단계(1324)에서 디코더(400)는 MVC 뷰 ID를 얻기 위해 현재 처리된 NAL 유닛의 나머지 부분을 파싱할 수 있다. 실시예 3의 이러한 특정한 구현에서, 3DV 뷰 ID 및 3DV 층 ID는 예를 들어 실시예 2에 관해 위에서 기재된 바와 같이, MVC 뷰 ID로 표시된다.

따라서, 단계(1326)에서, 디코더(400)는 예를 들어 실시예 2에 관해 위에서 논의된 바와 같이, MVC 뷰 ID로부터 3DV 뷰 ID 및 3DV 층 ID를 얻을 수 있다.

단계(1328)에서, 디코더(400)는 현재 처리된 NAL 유닛의 현재 슬라이스 데이터를 디코딩할 수 있다.

단계(1330)에서, 디코더(400)는, 처리된 NAL 유닛이 현재 프레임의 종단에 대응하는 지를 결정할 수 있다. 처리된 NAL 유닛이 현재 프레임의 종단에 대응하지 않으면, 방법은 단계(1332)로 진행할 것이고, 단계(1332)에서 디코더(400)는 수신된 다음 NAL 유닛을 판독하고 파싱할 수 있다. 다음 NAL 유닛은 유형 20이어야 한다. 따라서, 디코더가, 다음 NAL 유닛이 유형 20이 아닌 것으로 결정하면, 에러가 발생한다. 그 후에, 단계(1326 내지 1330)는 디코더(400)에 의해 반복될 것이다.

단계(1330)에서, 디코더(400)가 현재 프레임의 종단에 도달하였는지를 결정하면, 방법은 단계(1318)로 진행할 것이고, 단계(1318)에서 디코더(400)는 전술한 바와 같이, 3DV 뷰 ID 및 3DV 층 ID를 갖는 디코딩된 프레임을 출력 버퍼로 송신할 것이다. 그 후에, 방법은 단계(1320)로 진행할 것이고, 전술한 바와 같이, 반복되거나 종료될 것이다.

단계(1322)로 되돌아가면, 디코더(400)가 현재 처리된 NAL 유닛이 유형 20이 아닌지를 결정하면, 방법은 단계(1334)로 진행할 것이고, 단계(1334)에서 디코더는 현재 처리된 NAL 유닛이 유형 21인지를 결정한다. 현재 처리된 NAL 유닛이 유형 21이면, 방법은 단계(1336)로 진행할 것이고, 단계(1336)에서 디코더(400)는 현재 처리된 NAL 유닛의 나머지 부분을 파싱할 것이고, 3DV NAL 유닛 헤더 확장부에 의해 제공된 3DV 뷰 ID 및 3DV 층 ID를 얻을 것이다.

단계(1338)에서, 디코더(400)는 현재 처리된 NAL 유닛의 현재 슬라이스 데이터를 디코딩할 수 있다.

단계(1340)에서, 디코더(400)는 처리된 NAL 유닛이 현재 프레임의 종단에 대응하는 지를 결정할 수 있다. 처리된 NAL 유닛이 현재 프레임의 종단에 대응하지 않으면, 방법은 단계(1342)로 진행할 것이고, 단계(1342)에서 디코더(400)는 수신된 다음 NAL 유닛을 판독하고 파싱할 수 있다. 다음 NAL 유닛은 유형 21이어야 한다. 따라서, 디코더가, 다음 NAL 유닛이 유형 21이 아닌 것으로 결정하면, 에러가 발생한다. 그 후에, 단계(1338 내지 1340)는 디코더(400)에 의해 반복될 것이다.

단계(1340)에서, 디코더(400)가 현재 프레임의 종단에 도달하였는지를 결정하면, 방법은 단계(1318)로 진행할 것이고, 단계(1318)에서 디코더(400)는 전술한 바와 같이, 3DV 뷰 ID 및 3DV 층 ID를 갖는 디코딩된 프레임을 출력 버퍼로 송신할 것이다. 그 후에, 방법은 단계(1320)로 진행할 것이고, 전술한 바와 같이, 반복되거나 종료될 것이다.

단계(1334)로 되돌아가면, 단계(1334)에서 디코더(400)가 현재 처리된 NAL 유닛이 유형 21이 아닌지를 결정하면, 방법은 단계(1344)로 진행할 것이고, 단계(1344)에서 현재 처리된 NAL 유닛의 나머지 부분은 파싱되고, 이것은 시퀀스 파라미터 세트(SPS), 화상 파라미터 세트(PPS) 또는 다른 목적을 위해 의도될 수 있다. 그 후에, 방법은 단계(1320)로 진행할 것이고, 전술한 바와 같이 반복되거나 종료될 것이다.

다시 도 14를 참조하면, 실시예 3에 따라 3DV 컨텐츠 스트림을 인코딩하는 방법(1400)은 단계(1402)에서 시작할 것이고, 단계(1402)에서 인코더(300)는 구성 프로파일을 판독할 것이다.

단계(1404)에서, 인코더(300)는 SPS 및/또는 PPS NAL 유닛을 기록할 수 있다.

단계(1406)에서, 인코더(300)는 인코딩할 다음 프레임을 판독할 수 있다.

단계(1408)에서, 인코더(300)는 현재 처리된 프레임이 AVC 호환가능 뷰인지를 결정할 수 있다. 현재 처리된 프레임이 AVC 호환가능 뷰이라면, 방법은 단계(1410)로 진행할 것이고, 단계(1410)에서 인코더(300)는 현재 프레임의 다음 슬라이스를 인코딩할 수 있다.

단계(1412)에서, 현재 프레임의 현재 처리된 슬라이스가 인코더(300)에 의해 결정된, 현재 프레임의 제 1 슬라이스이면, 인코더(300)는 예를 들어 14의 NAL 유닛 유형을 갖는 MVC 프리픽스 NAL 유닛을 기록할 수 있다.

단계(1414)에서, 인코더(300)는 현재 슬라이스를 예를 들어 유형 1 또는 5의 NAL 유닛과 같은 NAL 유닛으로 캡슐화(encapsulate)할 수 있다.

단계(1416)에서, 인코더(300)는 현재 슬라이스가 단계(1414)에서 캡슐화되는 NAL 유닛을 기록할 수 있다.

단계(1418)에서, 인코더(300)는 현재 프레임의 종단에 도달했는지를 결정할 수 있다. 인코더가 현재 프레임의 종단에 도달하지 않았으면, 방법은 단계(1410)로 진행할 것이고, 인코더(300)는 단계(1410 내지 1418)를 반복할 것이다. 인코더가 현재 프레임의 종단에 도달하였으면, 방법은 단계(1420)로 진행할 것이고, 단계(1420)에서 인코더(300)는 모든 프레임이 시퀀스 또는 비트스트림에 대해 처리되었는지를 결정할 수 있다. 모든 프레임이 처리되었으면, 방법은 종료할 것이다. 그렇지 않으면, 방법은 단계(1406)로 진행할 것이고, 인코더는 단계(1406 및 1408)를 반복할 것이다.

위에서 소개된 단계(1408)로 되돌아가면, 인코더(300)가 현재 처리된 프레임이 AVC 호환가능 뷰일 필요가 없다는 것을 결정하면, 방법은 단계(1422)로 진행할 것이고, 단계(1422)에서 인코더(300)는 현재 처리된 프레임이 MVC 호환가능 뷰인지를 결정할 것이다. 현재 처리된 프레임이 MVC 호환가능 뷰라면, 방법은 단계(1424)로 진행할 것이고, 단계(1424)에서 인코더(300)는 현재 처리된 프레임의 다음 슬라이스를 인코딩할 것이다.

단계(1426)에서, 인코더는 현재 슬라이스를 예를 들어, 20의 NAL 유닛 유형의 NAL 유닛으로 캡슐화할 수 있다.

단계(1428)에서, 인코더(300)는 현재 슬라이스가 단계(1426)에서 캡슐화되는 NAL 유닛을 기록할 수 있다.

단계(1430)에서, 인코더(300)는 현재 프레임의 종단에 도달했는지를 결정할 수 있다. 인코더가 현재 프레임의 종단에 도달하지 않았으면, 방법은 단계(1424)로 진행할 것이고, 인코더(300)는 단계(1424 내지 1430)를 반복할 것이다. 인코더가 현재 프레임의 종단에 도달하였으면, 방법은 단계(1420)로 진행할 것이고, 단계(1420)에서 인코더(300)는 모든 프레임이 시퀀스 또는 비트스트림에 대해 처리되었는지를 결정할 수 있다. 모든 프레임이 처리되었으면, 방법은 종료할 것이다. 그렇지 않으면, 방법은 단계(1406)로 진행할 것이고, 인코더는 단계(1406 및 1408)를 반복할 것이다.

단계(1422)로 되돌아가면, 인코더(300)가 현재 처리된 프레임이 MVC 호환가능 뷰일 필요가 없는지를 결정하면, 방법은 단계(1432)로 진행할 것이고, 단계(1432)에서 인코더(300)는 현재 프레임의 다음 슬라이스를 인코딩할 것이다.

단계(1434)에서, 인코더는 현재 슬라이스를 예를 들어, 21의 NAL 유닛 유형의 NAL 유닛으로 캡슐화할 수 있다.

단계(1436)에서, 인코더(300)는 현재 슬라이스가 단계(1434)에서 캡슐화되는 NAL 유닛을 기록할 수 있다.

단계(1440)에서, 인코더(300)는 현재 프레임의 종단에 도달했는지를 결정할 수 있다. 인코더가 현재 프레임의 종단에 도달하지 않았으면, 방법은 단계(1432)로 진행할 것이고, 인코더(300)는 단계(1432 내지 1440)를 반복할 것이다. 인코더가 현재 프레임의 종단에 도달하였으면, 방법은 단계(1420)로 진행할 것이고, 단계(1420)에서 인코더(300)는 모든 프레임이 시퀀스 또는 비트스트림에 대해 처리되었는지를 결정할 수 있다. 모든 프레임이 처리되었으면, 방법은 종료할 것이다. 그렇지 않으면, 방법은 단계(1406)로 진행할 것이고, 인코더는 단계(1406 및 1408)를 반복할 것이다.

인코딩 단계(1410, 1424 및 1432) 및 디코딩 단계(1314, 1328 및 1338)가, 예를 들어 도 10 및 도 12에 관해 전술한 실시예의 구조 및 특징에 일치하도록 하는 다양한 상이한 코딩 방법 및 표준에 따라 수행될 수 있다는 것이 이해되어야 한다.

더욱이, 3DV 층에 대한 새로운 NAL 유닛 유형 21의 도입을 통해, 특수 코딩 기술은 상이한 특성을 이용하는 상이한 3DV 층에 대해 한정될 수 있다. 예를 들어, 2D 뷰의 디코딩은, 깊이 맵이 기준 화상에서 예측 블록을 찾는데 사용될 때 깊이 맵의 디코딩에 의존할 수 있다. 더욱이, 다른 그러한 종속성은 전술한 바와 같이 이용될 수 있다.

새로운 NAL 유닛 유형 21을 통해, 3DV 뷰/층이 표 10에서와 같이 3dv_slice_layer_extension_rbsp()로 코딩될 수 있으며, 여기서 3dv_slice_header() 및 3dv_slice_data()가 변형된 slice_header() 및 slice_data()를 포함할 수 있다는 것이 또한 주지되어야 한다.

실시예 1 내지 3이 개별적으로 설명되었지만, 하나 이상의 실시예는 본 명세서에 제공된 가르침을 고려하여 당업자에게 이해되는 바와 같이, 다양한 방식으로 조합될 수 있다는 것이 또한 이해되어야 한다. 예를 들어, 동일한 프레임의 상이한 슬라이스는 상이한 방식으로 인코딩될 수 있다. 예를 들어, 프레임의 특정한 슬라이스는 실시예 1 및/또는 2에 따라 MVC 호환가능 방식으로 인코딩될 수 있는 한편, 다른 슬라이스는 실시예 3에 따라 비-MVC 인코딩 모드를 이용하여 인코딩될 수 있다. 더욱이, 실시예 1 및/또는 2에 따른 MVC는 예를 들어 2D 뷰와 같은 3DV 뷰의 특정한 층을 인코딩하기 위해 이용될 수 있는 한편, 실시예 3에 따른 비-MVC 모드는 예를 들어 폐색 뷰와 같은 3DV 뷰의 다른 층을 인코딩하도록 적용될 수 있다. 여기서, NAL 유닛 1 및/또는 5를 갖는 NAL 유닛 16은 하나 이상의 3DV 뷰의 몇몇 층에 적용되는 한편, NAL 유닛 21은 하나 이상의 다른 3DV 뷰의 다른 층에 적용될 수 있다.

실시예 4 : 기준 화상 리스트 구조

전술한 바와 같이, 실시예는 기준 화상 리스트 구조 프로세스에 관한 것이다. 본 명세서에서 아래에 논의되는 실시예에서, 각 화상은 자체 기준 화상 리스트를 갖는다. 그러나, 다른 구현은 다중 화상에 특정한(그리고 이에 사용된) 기준 화상 리스트를 제공할 수 있다. 예를 들어, 기준 화상 리스트는 시간에 따른 화상의 전체 시퀀스, 또는 시간에 따른 주어진 지점에서 다중 뷰에 걸친 화상의 전체 세트, 또는 화상의 서브셋에 할당될 수 있다. 예를 들어, 화상의 서브셋은 슬라이스 또는 단일 매크로블록 또는 서브-매크로블록으로 구성될 수 있다. 이러한 기준 화상 리스트 구조 프로세스의 입력은 시퀀스 파라미터 세트로부터 디코딩된 NAL 유닛 헤더 및 뷰 종속성 정보로부터의 inter_view_flag이다. 도 3의 인코더(300) 및 도 4의 디코더(400) 모두가 본 명세서에서 아래에 기재된 가르침을 이용함으로써 비트스트림을 각각 인코딩 및 디코딩하기 위해 기준 화상 리스트를 구성하도록 구성될 수 있다는 것이 이해되어야 한다.

프로세스에서의 제 1 단계에서, 임시 기준 화상 및 뷰간 기준 화상은 예를 들어 AVC 또는 MVC 시스템에서 이루어진 바와 같이, 초기 기준 화상 리스트, RefPicListX(X는 0 또는 1)에 삽입될 수 있다. AVC 드래프트에 한정된 RefPicListX는 예로서 초기 기준 화상 리스트로 작용할 수 있다. 예를 들어, RefPicList0(X는 0)는 임의의 유형의 예측 코딩된 화상의 인코딩 또는 디코딩에 사용될 수 있는 한편, RefPicList1(X는 1)은 양방향 코딩된 화상 또는 B 화상의 인코딩 또는 디코딩에 사용될 수 있다. 따라서, B 화상은 2개의 기준 화상 리스트, 즉 RefPicList0 및 RefPicList1을 가질 수 있는 한편, 다른 유형의 예측 코딩된 화상은 하나의 기준 화상 리스트 RefPicList0만을 가질 수 있다. 더욱이, 여기서 임시 기준이 기준 리스트가 할당되는 대응하는 화상에 시간에 따라 차이나는 화상의 기준에 대응한다는 것이 주지되어야 한다. 예를 들어, 도 11을 참조하면, 임시 기준은 뷰(1112)의 인코딩/디코딩에 대한 뷰(1104)의 기준에 대응할 수 있다. 다시, 뷰간 기준은 뷰(1106)의 인코딩/디코딩에 대한 뷰(1104)의 기준에 대응할 수 있다. 임시 및 뷰간 기준 화상을 기준 화상 리스트에 삽입함으로써, 기존의 임시 및 뷰간 예측 기술(예를 들어, AVC 및/또는 MVC로부터)이 지원된다. 알려진 바와 같이, AVC 시스템은 기준 화상 리스트에서의 임시 기준 화상을 포함하고, MVC 시스템은 기준 화상 리스트에서 뷰간 기준 화상을 더 포함한다.

프로세스에서의 제 2 단계는 독립적으로 각 층에 대해 한정될 수 있는 층간 기준 화상을 추가하는 것을 포함할 수 있다. 실시예 4에 대해 하나의 층간 예측 구조(1500)는 도 15에 제공된다. 구조(1500)에서의 화살표는 예측 방향을 나타낸다. 예를 들어, 특정 뷰의 2D 비디오(뷰) 층(1502)(특정 뷰로부터 화살표)은 뷰의 깊이 층(1504)(뷰로의 화살표)을 인코딩하기 위한 기준으로서 사용된다. 따라서, 층간 예측 구조는, 어떤 화상(들)이 기준으로서 사용될 수 있는지, 이에 따라 어떤 화상(들)이 기준 화상 리스트에 포함되어야 하는지를 결정하는데 사용될 수 있다. 구조(1500)에서, 2D 비디오 층은 또한 폐색 비디오 층(1506) 및 투명 층(1510) 모두를 위한 기준으로서 사용된다. 더욱이, 깊이 층(1504)은 폐색 깊이 층(1508)을 위한 기준으로서 사용된다.

도 15에 도시된 바와 같이, 층간 예측 구조(1500)에 대해, 각 3DV 층은 최대 하나의 층간 기준을 갖는다. 주어진 층을 인코딩하기 위해, 유사한 특성을 갖는 층이 기준으로서 사용된다. 예를 들어, 다시 도 2를 참조하면, 폐색 비디오 층(206)은 2D 비디오 층(202)의 배경을 포함하는 한편, 폐색 깊이 층(208)은 깊이 층(204)의 배경을 포함한다. 따라서, 층에 걸친 잔여물을 더 잘 이용하기 위해, 구현은 뷰의 폐색 층을 위한 기준으로서 뷰의 2D 비디오 층을 이용할 수 있고, 뷰의 폐색 깊이 층을 위한 기준으로서 뷰의 깊이 층을 이용할 수 있다. 다른 구현은 주어진 3DV 층을 위한 다중 층간 기준을 허용할 수 있다.

2D 비디오 층 화상에 대해, 층간 기준이 구현에서 2D 비디오 층 화상에 사용될 필요가 없기 때문에, 제 2 단계에서 어떤 것도 이루어질 필요가 없다. 다른 실시예는 2D 비디오 층을 위한 층간 기준을 더 제공할 수 있다. 예를 들어, 주어진 뷰의 폐색 층은 기준의 2D 비디오 층을 위한 기준으로서 사용될 수 있다. 2D 뷰 층을 위한 층간 기준의 이용을 피하는 장점은, 모든 2D 뷰 층이 종래의 MVC 디코더에 의해 디코딩될 수 있다는 것이다. 다른 구현에서, 예를 들어 합성된 가상 기준 화상과 같은 워핑된 화상이 기준 리스트에 첨부될 수 있다는 것이 주지되어야 한다. 기준 리스트에서의 워핑된 화상 기준 위치에 관해, 워핑된 화상 기준은 높은 합성 품질을 갖는 초기 기준 리스트의 시작 또는 보통의 합성 품질을 갖는 기준 리스트의 마지막에 삽입될 수 있다. 이러한 방식으로 워핑된 화상의 이용은 코딩 효율을 개선시킬 수 있다.

도 15로 되돌아가면, 깊이 층 화상(1504)에 대해, 2D 비디오 층 화상(1502)(도 15에서 깊이 층을 위한 기준으로서 도시됨)은 제 2 단계에서 RefPicListX의 마지막에 첨부될 수 있다. 다양한 구현에서, 2D 비디오 화상 기준은 기준 리스트의 시작이 아닌, 기준 리스트의 마지막에 첨부되는데, 그 이유는 최소의 잔여물(임의의 제 1 단계의 임시 및 뷰간 기준에 비해)을 갖고, 기준으로서 사용될 가능성이 적은 것으로 예측되기 때문이다. 따라서, 여기서, 층간 기준은 기준 화상 리스트에서 임의의 임시 및 뷰간 기준 이후에 제공된다.

폐색 비디오 층 구조(1506)에 대해, 2D 비디오 층 화상(1502)은 제 2 단계에서 RefPicListX의 시작에 첨부될 수 있다. 2D 비디오 화상은 마지막 또는 중간이 아니라, 기준 화상 리스트에서 임의의 임시 및 뷰간 기준 이전에, 시작(사전 첨부됨)에 첨부될 수 있는데, 그 이유는 2D 비디오 화상이 이용가능한 기준 화상의 대부분의 잔여물을 갖고, 기준으로서 사용될 가능성이 가장 높도록 예측되기 때문이다.

폐색 깊이 층 화상(1508)에 대해, 깊이 화상(1504)은, 폐색 깊이 층과 깊이 층 사이에 예측된 높은 레벨의 잔여물(임의의 제 1 단계의 임시 및 뷰간 기준에 비해)로 인해, 기준 화상 리스트에서의 임의의 임시 및 뷰간 기준 이전에, 제 2 단계에서 RefPicListX의 시작에 첨부될 수 있다.

투명 층 화상(1510)에 대해, 2D 비디오 층 화상(1502)은, 투명 층과 2D 비디오 층 사이에 예측된 낮은 레벨의 잔여물(임의의 제 1 단계의 임시 및 뷰간 기준에 비해)로 인해 제 2 단계에서, 기준 화상 리스트에서의 임의의 임시 및 뷰간 기준 이후에 RePicListX의 마지막에 첨부될 수 있다.

더 구체적으로, 화상에 대한 층간 기준은 상기 기준이 얼마나 자주 사용되는 지에 의해 결정된 위치에서 상기 화상에 대한 기준 화상 리스트에 삽입될 수 있다. 우선 순위이 각 기준에 할당되는 구현에 대해, 우선 순위은 상기 기준이 얼마나 자주 사용되는 지에 기초하여 할당될 수 있다. 일례로, 하나의 구현은 매크로블록에 의해 화상을 인코딩하고, 각 매크로블록은 기준 화상 리스트로부터 주어진 기준을 이용하거나 이용하지 않을 수 있다. 이러한 구현의 각 매크로블록에 대해, 비율-왜곡(rate-distortion) 최적화는 상이한 코딩 모드 및 상이한 기준을 포함하는 다양한 코딩 옵션 중에서 수행된다. 따라서, 주어진 층간 기준은 단지 화상의 매크로블록의 서브셋을 코딩하는데 사용될 수 있다. 주어진 층간 기준에 할당된 우선 순위은 기준 화상 리스트에서 이용가능한 다른 기준을 얼마나 많은 매크로블록이 이용되는지에 비해, 얼마나 많은 매크로블록이 층간 기준을 이용하는 지에 기초하여 결정될 수 있다

이제 도 16 및 도 17을 참조하면, 각각 인코딩 및 디코딩 프로세스를 위한 기준 화상 리스트를 구성하는 방법(1600 및 1700)이 도시된다. 실시예 4의 하나의 구현에 따라 인코딩 프로세스를 위한 기준 화상 리스트를 구성하는 방법(1600)은 도 3의 인코더(300)에 의해 수행될 수 있다. 예를 들어, 3DV 기준 버퍼(316)는 방법(1600)을 구현하도록 구성될 수 있다.

방법(1600)은 단계(1602)에서 시작할 것이고, 단계(1602)에서 인코더(300)는 기준 화상 리스트, 즉 RefPicListX를 초기화할 수 있다. 전술한 바와 같이, RefPicListX(X는 0 또는 1)는 AVC 드래프트에 따라 초기화될 수 있다. 예를 들어, 전술한 바와 같이, 임시 및/또는 뷰간 기준 화상은 초기 기준 화상 리스트에 삽입될 수 있다.

단계(1604)에서, 인코더(300)는, 기준 화상 리스트가 2D 비디오 층 화상을 위한 것인지를 결정할 수 있다. 기준 화상 리스트가 2D 비디오 층 화상을 위한 것이면, 방법은 단계(1622)로 진행할 것이고, 단계(1622)에서 인코더(300)는 현재 처리되는 슬라이스를 계속해서 인코딩할 것이다. 그 후에, 방법은 종료하거나, 방법은 다른 3DV 층 화상을 위한 기준 화상 리스트를 반복해서 구성할 수 있다. 대안적으로, 3DV 층 화상이 B 화상이면, 방법은 RefPicList1을 구성하기 위해 동일한 3DV 층 화상에 대해 반복할 것이다.

단계(1604)에서, 인코더(300)가, 기준 화상 리스트가 2D 비디오 층 화상을 위한 것이 아닌지를 결정하면, 방법은 단계(1606)로 진행할 것이고, 단계(1606)에서 인코더(300)는, 기준 화상 리스트가 깊이 층 화상을 위한 것인지를 결정할 것이다. 기준 화상 리스트가 깊이 층 화상을 위한 것이면, 방법은 단계(1608)로 진행할 것이고, 단계(1608)에서, 깊이 층 화상과 동일한 3D 뷰로부터 2D 비디오 층 화상이 기준 화상 리스트의 마지막에 첨부된다. 그 후에, 방법은 단계(1622)로 진행할 것이고, 단계(1622)에서 인코더(300)는 현재 처리되는 슬라이스를 계속해서 인코딩할 것이다. 방법은 종료하거나, 다른 3DV 층 화상을 위한 기준 화상 리스트를 반복하여 구성할 것이다. 대안적으로, 3DV 층 화상이 B 화상이면, 방법은 RefPicList1을 구성하기 위해 동일한 3DV 층 화상에 대해 반복할 것이다.

단계(1606)에서, 인코더(300)가, 기준 화상 리스트가 깊이 층 화상을 위한 것이 아닌지를 결정하면, 방법은 단계(1610)로 진행할 것이고, 단계(1610)에서 인코더(300)는, 기준 화상 리스트가 폐색 비디오 층 화상을 위한 것인지를 결정할 것이다. 기준 화상 리스트가 폐색 비디오 층 화상을 위한 것이면, 방법은 단계(1612)로 진행할 것이고, 단계(1612)에서, 폐색 비디오 층 화상과 동일한 3D 뷰로부터 2D 비디오 층 화상이 기준 화상 리스트의 시작에 첨부된다. 그 후에, 방법은 단계(1622)로 진행할 것이고, 단계(1622)에서 인코더(300)는 현재 처리되는 슬라이스를 계속해서 인코딩할 것이다. 방법은 종료하거나, 다른 3DV 층 화상을 위한 기준 화상 리스트를 반복하여 구성할 것이다. 대안적으로, 3DV 층 화상이 B 화상이면, 방법은 RefPicList1을 구성하기 위해 동일한 3DV 층 화상에 대해 반복할 것이다.

단계(1610)에서, 인코더(300)가, 기준 화상 리스트가 폐색 비디오 층 화상을 위한 것이 아닌지를 결정하면, 방법은 단계(1614)로 진행할 것이고, 단계(1614)에서 인코더(300)는, 기준 화상 리스트가 폐색 깊이 층 화상을 위한 것인지를 결정할 것이다. 기준 화상 리스트가 폐색 깊이 층 화상을 위한 것이면, 방법은 단계(1616)로 진행할 것이고, 단계(1616)에서, 폐색 깊이 층 화상과 동일한 3D 뷰로부터 깊이 층 화상이 기준 화상 리스트의 시작에 첨부된다. 그 후에, 방법은 단계(1622)로 진행할 것이고, 단계(1622)에서 인코더(300)는 현재 처리되는 슬라이스를 계속해서 인코딩할 것이다. 방법은 종료하거나, 다른 3DV 층 화상을 위한 기준 화상 리스트를 반복하여 구성할 것이다. 대안적으로, 3DV 층 화상이 B 화상이면, 방법은 RefPicList1을 구성하기 위해 동일한 3DV 층 화상에 대해 반복할 것이다.

단계(1614)에서, 인코더(300)가, 기준 화상 리스트가 폐색 깊이 층 화상을 위한 것이 아닌지를 결정하면, 방법은 단계(1618)로 진행할 것이고, 단계(1618)에서 인코더(300)는, 기준 화상 리스트가 투명 층 화상을 위한 것인지를 결정할 것이다. 기준 화상 리스트가 투명 층 화상을 위한 것이면, 방법은 단계(1620)로 진행할 것이고, 단계(1620)에서, 투명 층 화상과 동일한 3D 뷰로부터 2D 비디오 층 화상이 기준 화상 리스트의 마지막에 첨부된다. 그 후에, 방법은 단계(1622)로 진행할 것이고, 단계(1622)에서 인코더(300)는 현재 처리되는 슬라이스를 계속해서 인코딩할 것이다. 방법은 종료하거나, 다른 3DV 층 화상을 위한 기준 화상 리스트를 반복하여 구성할 것이다. 대안적으로, 3DV 층 화상이 B 화상이면, 방법은 RefPicList1을 구성하기 위해 동일한 3DV 층 화상에 대해 반복할 것이다. 유사하게, 단계(1618)에서, 인코더(300)가 상기 층이 투명 층 화상이 아닌지를 결정하면, 방법은 단계(1622)로 진행할 것이고, 단계(1622)에서, 인코더(300)는 현재 처리되는 슬라이스를 계속해서 인코딩할 것이다. 방법은 종료하거나, 다른 3DV 층 화상을 위한 기준 화상 리스트를 반복하여 구성할 것이다. 대안적으로, 3DV 층 화상이 B 화상이면, 방법은 RefPicList1을 구성하기 위해 동일한 3DV 층 화상에 대해 반복할 것이다.

이제 다시 도 17의 방법(1700)을 참조하면, 실시예 4의 하나의 구현에 따라 디코딩 프로세스를 위한 기준 화상 리스트를 구성하는 방법(1700)은 도 4의 디코더(400)에 의해 수행될 수 있다. 예를 들어, 3DV 기준/출력 버퍼(414)는 방법(1700)을 구현하도록 구성될 수 있다.

방법(1700)은 단계(1702)에서 시작할 것이고, 단계(1702)에서 디코더(400)는 3DV 층 식별자를 추출하기 위해 수신된 NAL 유닛 및 슬라이스 헤더를 파싱할 것이다. 예를 들어, NAL 유닛은 실시예 1에 관해 전술한 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)일 수 있다. 더욱이, 전술한 바와 같이, 디코더(400)에 의해 수신된 3DV 컨텐츠를 포함하는 비트스트림으로부터 디코더(400)에 의해 추출될 수 있는 다른 정보는 NAL 유닛 헤더로부터의 inter_view_flag와, 시퀀스 파라미터 세트로부터 디코딩된 뷰 종속성 정보를 포함할 수 있다. 그 후에, 기준 화상 리스트, 즉 RefPicListX는 초기화될 수 있다. 전술한 바와 같이, RefPicListX(X는 0 또는 1)는 AVC 드래프트에 따라 초기화될 수 있다. 예를 들어, 전술한 바와 같이, NAL 유닛 헤더로부터의 inter_view_flag와, 시퀀스 파라미터 세트로부터 디코딩된 뷰 종속성 정보는 RefPicListX를 초기화하기 위해 이용될 수 있다. 다시, 임시 및/또는 뷰간 기준 화상은 초기 기준 화상 리스트에 삽입될 수 있다.

방법(1700)의 나머지 단계는, 단계(1622)가 단계(1722)로 대체된다는 점을 제외하고, 방법(1600)에 관해 전술한 동일한 방식으로 디코더(400)에 의해 수행될 수 있다. 예를 들어, 단계(1704 내지 1720)는, 단계(1604 내지 1620)가 인코더(300)에 의해 수행될 때와 동일한 방식으로 디코더(400)에 의해 수행될 수 있다. 그러나, 단계(1722)에서, 디코더는 현재 처리된 슬라이스를 인코딩하는 것에 대조적으로 현재 처리된 슬라이스를 계속해서 디코딩한다.

도 15에 관해 전술한 것 이외의 층간 종속성을 갖는 층간 예측 구조가 실시예 4에 관해 위에서 제공된 가르침을 이용하여 당업자에 의해 쉽게 인식될 수 있다는 것이 이해되어야 한다.

따라서, 실시예 4는 상이한 유형의 층간 예측을 지원할 수 있다. 더욱이, 실시예 4는 예를 들어 도 15에 관해 전술한 구조와 같은 층간 예측 구조에 기준 화상 리스트를 적응시킨다. 그 결과, 실시예 4는 시스템의 층간 예측 구조에 기초한 기준 화상 리스트를 제공하는 한편, 동시에 종래의 MVC 디코더가 3DV 컨텐츠를 추출하도록 하고 디스플레이를 위해 컨텐츠를 포맷하도록 한다.

기준 화상이, AVC 시스템과 호환하도록 조직화될 수 있다는 것이 주지되어야 한다. 예를 들어, 층간 및 뷰간 기준 화상은 임시로 별도의 화상으로서 멀티플렉싱될 수 있다.

실시예 5 : 서브셋 SPS 3DV를 위한 새로운 NAL 유닛 유형

전술한 바와 같이, 적어도 하나의 실시예에서, SPS는, 3DV 포맷을 위한 새로운 시퀀스 파라미터가 신호 발신될 수 있도록 확장될 수 있다. 3DV를 위한 확장된 SPS는 "서브셋 SPS 3DV"로서 본 명세서에서 아래에 언급된다. 실시예 5에서, 서브셋 SPS 3DV를 위한 새로운 NAL 유닛 유형이 이용될 수 있다. 아래에 논의된 실시예 6 및 7에서, 서브셋 SPS 3DV가 어떻게 구성될 수 있는지가 설명된다. 제안된 파라미터는 SPS 내에 있는 것으로 한정되지 않고, NAL 유닛 헤더, 화상 파라미터 세트(PPS), 보충 개선 정보(SEI), 슬라이스 헤더, 및 임의의 다른 높은 레벨의 구문 요소에서 나타날 수 있다는 것이 이해되어야 한다. 실시예는 또한 낮은-레벨의 구문 및 대역 외 정보를 이용할 수 있다.

여기서, 실시예 5에서, 새로운 NAL 유닛 유형은 서브셋 SPS 3DV를 나타내는데 사용될 수 있다. 이 실시예에서 NAL 유닛 유형 번호는 전술한 바와 같이, AVC 드래프트로부터 복사한 위의 표 3에 할당되지 않은 값들 중 임의의 값일 수 있다. 더욱이, 3DV 층에 대한 VCL NAL 유닛에 할당된 새로운 NAL 유닛 유형 번호는 실시예 1 및 3에 관해 전술한 새로운 NAL 유닛 유형과 상이한 방식으로 선택되어야 한다. 그 결과, 17은 아래의 표 11에서의 subset_seq_parameter_set_3dv_rbsp()로서 표현된 서브셋 SPS 3DV를 위한 NAL 유닛 유형 번호로서 선택된다. 물론, 다른 NAL 유닛 유형 번호가 선택될 수 있다. 실시예가 조합되지 않으면, NAL 유닛 유형(16 또는 21)은 또한 17 대신에 사용될 수 있다. nal_unit_type 17 및 nal_unit_type 18 ... 20에 대한 행은 위의 표 2에 관해 새롭게 추가된다.

새로운 NAL 유닛 유형은, MVC 디코더 또는 3DV 디코더가 서브셋 SPS 3DV 내에서 컨텐츠를 폐기할 것인지 파싱할 것인지를 결정하도록 할 수 있다. 유형(17)이 MVC 하에서 확보되기 때문에, MVC 디코더는 이러한 NAL 유닛에서 데이터를 무시하거나 폐기하도록 선택할 수 있다. 그러나, 3DV 디코더는 유닛에서 데이터를 파싱할 수 있고, 이것은 3DV 디코더가 3DV 보충 층을 디코딩하도록 한다.

스마트 네트워크 디바이스, 예를 들어 새로운 NAL 유닛 유형을 인식할 수 있는 라우터에 대해, 네트워크 디바이스는, 네트워크 제공자가 3DV 보충 층이 특정 환경에서 송신되지 않아야 한다는 것을 결정하는 경우, 서브셋 SPS 3DV를 폐기하도록 선택할 수 있다. 대안적으로 또는 추가로, 서브셋 SPS 3DV에서의 컨텐츠는 파싱되어, 스트리밍을 이용가능한 네트워크 대역폭에 적응시키도록 이용될 수 있다. 예를 들어, 3DV 층 예측 구조의 인식을 통해, 기준으로서 사용되지 않은 3DV 층은, 네트워크가 심한 트래픽을 겪을 때, 네트워크 디바이스(예를 들어, 스트리밍 서버 또는 라우터)에 의해 폐기될 수 있다.

또한 스트림 서버로 언급된 비트스트림 추출기는 또한 3DV 스트림의 다양한 부분을 추출하는데 사용될 수 있다. 상기 라우터는 비트스트림을 파싱하고, 다양한 3DV 층을 송출(송신)할 것인지에 대한 결정을 한다. 비트스트림 추출기는 또한 비트스트림을 파싱할 수 있고, 우선 순위에 기초한 결정을 송출하지만, 또한 추출된 비트스트림(또한 서브-비트스트림이라 불림)을 다운스트림 디바이스에 적합하게 할 수 있다. 예를 들어, 비트스트림 추출기는 단지 2D 비디오 및 깊이 층을 추출할 수 있는데, 이는 다운스트림 수신기가 폐색 또는 투명 층을 이용하지 않기 때문이다. 더욱이, 비트스트림 추출기는 비트스트림에 있는 처음 2개의 뷰에 대응하는 층만을 추출할 수 있는데, 이는 다운스트림 수신기가 2개보다 많은 뷰를 이용하지 않기 때문이다. 그러나, 더욱이, 비트스트림 추출기는 3DV SPS, 임의의 MVC SPS, 또는 다른 종속성 정보를 분석할 수 있어서, 2D 비디오 또는 깊이 층이 층간 기준으로서 임의의 폐색 또는 투명 층을 이용할지를 결정하고, 처음 2개의 뷰가 뷰간 기준으로서 다른 임의의 뷰를 이용할지를 결정한다. 다른 층 또는 뷰가 처음 2개의 뷰에 대한 2D 비디오 및 깊이 층인 원하는 3DV 층의 적절한 디코딩에 필요하면, 비트스트림 추출기는 또한 이들 층 및/또는 뷰를 추출할 것이다.

3DV 층 및 3DV 뷰에 대한 우선 순위 정보가 라우터, 또는 비트스트림 추출기에 의해 결정될 수 있다는 것이 주지된다. 그러나, 그러한 우선 순위 정보는 또한 예를 들어 NAL 유닛 헤더에 위치됨으로써 비트스트림에 제공될 수 있다. 그러한 우선 순위 정보는 예를 들어, 임시 레벨 ID, 우선 순위 ID, 뷰 ID, 및 3DV 정보에 관련된 우선 순위 ID를 포함할 수 있다.

이제 도 18 및 도 19를 참조하면, 실시예 5의 구현에 따라 서브셋 SPS 3DV 정보에 대한 NAL 유닛을 각각 인코딩 및 디코딩하는 방법(1800 및 1900)이 도시된다. 방법(1800 및 1900)은 예를 들어, 각각 인코더(300)의 3DV 기준 버퍼(316) 및 디코더(400)의 3DV 기준 버퍼(414)에 의해 수행될 수 있다.

방법(1800)은, 예를 들어 단계(1802)에서 시작할 수 있으며, 단계(1802)에서 인코더(300)는 17인 NAL 유닛에 대한 NAL 유닛 유형을 설정할 수 있다. 단계(1804)에서, 인코더(300)는 NAL 유닛 헤더를 기록할 수 있다. 그 후에, 단계(1806)에서 인코더(300)는 SPS를 구성하고 기록할 수 있다. 예를 들어, SPS는 subset_sequence_parameter_set_3dv_rbsp()에 대응할 수 있고, 실시예 6 및 7에 대해 아래에 논의되는 바와 같이 구성되고 기록될 수 있다.

방법(1900)은 예를 들어, 단계(1902)에서 시작할 수 있고, 단계(1902)에서 디코더(400)는 NAL 유닛을 수신하고 NAL 유닛 헤더를 판독할 수 있다. NAL 유닛은 방법(1800)에서 인코딩된 NAL 유닛에 대응할 수 있다. 단계(1904)에서, 디코더(400)는 NAL 유닛 유형을 추출할 수 있다. NAL 유닛 유형이 17로 설정되면, 인코더는 SPS를 판독하고 파싱할 수 있다. SPS는 예를 들어 subset_sequence_parameter_set_3dv_rbsp()에 대응할 수 있고, 실시예 6 및 7에 관해 아래에 논의되는 바와 같이 판독되고 파싱될 수 있다.

실시예 6 : SPS의 3DV 응용에 대한 신호 파라미터로 확장

실시예 1 내지 4에 관해 전술한 바와 같이, 3DV 보충 층은 개선된 3D 렌더링 성능을 지원하도록 이용될 수 있어서, 3DV 층 식별 번호(3dv_layer_id)는 SPS에서 신호 발신될 수 있다. 더욱이, 전술한 바와 같이, 층간 잔여물을 제거하기 위해, 층간 코딩이 이용될 수 있고, 층간 화상은 층간 코딩을 용이하게 하기 위해 기준 화상 리스트에 추가될 수 있다. 따라서, 디코더가 층간 기준을 갖는 화상을 어떻게 디코딩할지를 결정하도록 하기 위해, 인코더는 SPS에서 층간 예측 구조를 규정할 수 있다. 그러한 층간 예측 구조는 예를 들어 도 15에 관해 전술한 구조(1500)에 대응할 수 있다.

SPS 구조를 구체적으로 설명하기 전에, 다양한 구현에 따라, 새로운 프로파일이 3DV 컨텐츠를 지원하는 비트스트림에 대해 이용될 수 있다는 것이 주지되어야 한다. ITU-T, "Advanced Video Coding for Generic audiovisual Services - Recommendation ITU-T H.264", 2009년 3월(이후에 "갱신된 AVC 드래프트"로 언급됨)은 프로파일의 논의를 제공하고, 본 명세서에 참고용으로 병합된다. 하나 이상의 구현에서, profile_idc는 218로 설정될 수 있다. 갱신된 AVC 드래프트는 AVC/MVC에서 다른 기존의 프로파일을 설명한다.

아래에 제공된 표 12는 실시예 5에 관해 전술한 함수(subset_sequence_parameter_set_3dv_rbsp())에 대해 이루어진 프로세스를 구체적으로 기술한다. 특히, 표 12는 else if(profile_idc==218){...}의 구문에서, 실시예 6에 따라 서브셋 SPS 3DV의 하나의 높은 레벨의 구현을 예시한다. 구체적인 신호 발신은 예를 들어 아래의 표 13에 도시된 seq_parameter_set_3dv_extension()의 함수에서 구현될 수 있다. 218의 Profile_idc는 MVC 표준에 대한 새로운 프로파일을 나타내고, 3DV 프로파일이다.

도 20 및 도 21은 실시예 6의 다양한 구현에 따른 SPS를 각각 인코딩하는 방법(2000) 및 디코딩하는 방법(2100)에 대한 높은 레벨의 흐름도를 도시한다. 방법(2000 및 2100)은 각각 예를 들어 표 12에 의해 주어진 형태로 SPS를 인코딩 및 디코딩한다. 표 12는 예를 들어 NAL 유닛 유형(17)과 함께 사용될 수 있다. 도 3의 인코더(300)가 방법(2000)을 수행하도록 구성될 수 있고, 도 4의 디코더(400)가 방법(2100)을 수행하도록 구성될 수 있다는 것이 주지되어야 한다.

방법(2000)은 단계(2002)에서 시작할 수 있고, 단계(2002)에서 인코더(300)는 profile_idc를 설정할 수 있다. 전술한 바와 같이, profile_idc는 예를 들어 서브셋 SPS 3DV에 대해 218로 설정될 수 있다.

단계(2004)에서, 인코더(300)는 시퀀스 파라미터 세트 데이터를 기록할 수 있다. 예를 들어, 그러한 데이터는 seq_parameter_set_data() 구문 구조에 관해 갱신된 AVC 드래프트에 기재된 임의의 SPS 데이터에 대응할 수 있다.

단계(2006)에서, 인코더(300)는 profile_idc가 83 또는 86으로 설정되는 지를 결정할 수 있다. profile_idc가 83 또는 86으로 설정되면, 방법은 단계(2008)로 진행할 것이고, 단계(2008)에서 인코더(300)는 seq_parameter_set_svc_extension()을 기록할 수 있고, 갱신된 AVC 드래프트에 논의된 바와 같이, svc_vui_parameters_present_flag를 설정하고 기록할 수 있다. 더욱이, 단계(2008)에서, svc_vui_parameters_present_flag가 1로 설정되면, 인코더(300)는 갱신된 AVC 드래프트에 논의된 바와 같이, svc_vui_parameter_extension()을 기록할 수 있다. 그 후에, 방법은 아래에 더 구체적으로 논의되는 단계(2010)로 진행할 것이다.

단계(2006)로 되돌아가면, profile_idc가 83 또는 86으로 설정되지 않으면, 방법은 단계(2014)로 진행할 것이고, 단계(2014)에서 인코더(300)는 profile_idc가 118로 설정되는지를 결정할 수 있다. profile_idc가 118로 설정되면, 방법은 단계(2016)로 진행할 것이고, 단계(2016)에서 인코더(300)는 bit_equal_to_one을 1과 동일하게 설정할 수 있고, bit_equal_to_one을 기록하고, seq_parameter_set_mvc_extensino()을 기록하고, 갱신된 AVC 드래프트에 기재된 바와 같이, mvc_vui_parameters_present_flag를 설정하고 기록한다. mvc_vui_parameters_present_flag가 1로 설정되면, 인코더(300)는 갱신된 AVC 드래프트에 기재된 바와 같이, mvc_vui_parameters_extension()을 기록할 것이다. 그 후에, 방법은 아래에 더 구체적으로 논의되는 단계(2010)로 진행할 것이다.

단계(2014)에서, 인코더(300)가, profile_idc가 118로 설정되지 않는지를 결정하면, 방법은 단계(2018)로 진행할 것이고, 단계(2018)에서 인코더(300)는 profile_idc가 218로 설정되는 지를 결정할 수 있다. profile_idc가 218로 설정되지 않으면, 방법은 단계(2022)로 진행할 것이고, 단계(2022)에서 인코더(300)는 profile_idc가 알려지지 않는 지를 결정할 수 있고, 에러 메시지를 출력할 수 있다.

그러나, profile_idc가 218로 설정되면, 인코더(300)는 단계(2020)를 수행할 수 있고, 단계(2020)에서 인코더(300)는 bit_equal_to_one을 1과 동일하게 설정하고, bit_equal_to_one을 기록할 수 있다. 전술한 바와 같이, bit_equal_to_one은 갱신된 AVC 드래프트에 기재된다. 단계(2020)에서, 인코더(300)는 표 13 및 14 및 도 22 내지 25에 관해 아래에 더 구체적으로 기재되는 seq_parameter_set_3dv_extension()을 추가로 기록할 수 있다. 본 명세서에서 아래에 논의되는 바와 같이, seq_parameter_set_3dv_extension()은, 디코더가 디코딩 동안 화상을 위한 적절한 예측 기준을 결정하도록 하기 위해 층간 종속성을 표시하거나 디코더로 운반할 수 있다. 그 후에, 방법은 단계(2010)로 진행할 것이다.

단계(2010)에서, 인코더(300)는 additional_exension2_flag를 설정할 수 있고, additional_extension2_flag가 1로 설정되면, 인코더(300)는 갱신된 AVC 드래프트에 논의되는 바와 같이, 모든 additional_extension2_data_flags를 기록할 수 있다. 단계(2012)에서, 인코더(300)는 갱신된 AVC 드래프트에 기재된 바와 같이, rbsp_trailing_bits()를 기록할 수 있고, 그 후에 방법은 종료할 것이다.

이제 예를 들어 방법(2000)에 따라 생성된 SPS를 디코딩하기 위한 방법(2100)을 도시하는 다시 도 21을 참조하면, 방법(2100)은 단계(2102)에서 시작할 것이고, 단계(2102)에서 디코더(400)는 수신된 비트스트림으로부터 시퀀스 파라미터 세트 데이터, seq_parameter_set_data()를 디코딩할 수 있고, 갱신된 AVC 드래프트에 논의된 바와 같이, profile_idc를 설정할 수 있다.

단계(2104)에서, 디코더(400)는, profile_idc가 83 또는 86으로 설정되는 지를 결정할 수 있다. profile_idc가 83 또는 86으로 설정되면, 방법은 단계(2106)로 진행할 수 있고, 단계(2106)에서, 디코더(400)는 seq_parameter_set_svc_extension()를 디코딩할 수 있고, 갱신된 AVC 드래프트에 논의된 바와 같이, svc_vui_parameters_present_flag를 디코딩할 수 있다. 더욱이, 단계(2106)에서, svc_vui_parameters_present_flag가 1로 설정되면, 디코더(400)는 갱신된 AVC 드래프트에 논의된 바와 같이, svc_vui_parameter_exteion()을 디코딩할 수 있다. 그 후에, 방법은 아래에 더 구체적으로 논의되는 단계(2108)로 진행할 것이다.

다시 단계(2104)로 되돌아가면, profile_idc가 83 또는 86으로 설정되지 않으면, 방법은 단계(2112)로 진행할 수 있고, 단계(2112)에서, 디코더(400)는 profile_idc가 118로 설정되는 지를 결정할 수 있다. profile_idc가 118로 설정되면, 방법은 단계(2114)로 진행할 것이고, 단계(2114)에서 디코더(400)는 bit_equal_to_one을 디코딩할 수 있고, seq_parameter_set_mvc_extension()를 디코딩할 수 있고, 갱신된 AVC 드래프트에 논의된 바와 같이, mvc_vui_parameters_present_flag를 디코딩할 수 있다. 더욱이, mvc_vui_parameters_present_flag가 1로 설정되면, 디코더(400)는 갱신된 AVC 드래프트에 논의된 바와 같이, mvc_vui_parameters_exteion()을 디코딩할 수 있다. 그 후에, 방법은 아래에 더 구체적으로 논의되는 단계(2108)로 진행할 것이다.

단계(2112)에서, 디코더(400)가 profile_idc가 118로 설정되지 않는지를 결정하면, 방법은 단계(2116)로 진행할 수 있고, 단계(2116)에서, 디코더(400)는 profile_idc가 218로 설정되는 지를 결정할 수 있다. profile_idc가 218로 설정되지 않으면, 방법은 단계(2120)로 진행할 것이고, 단계(2120)에서 디코더(400)는 알려지지 않은 profile_idc가 판독되었는 지를 결정할 수 있고, 에러 메시지를 출력할 수 있다.

그러나, profile_idc가 218로 설정되면, 디코더(400)는 단계(2118)를 수행할 수 있고, 단계(2118)에서 디코더(400)는 bit_equal_to_one을 디코딩할 수 있고, 표 13 및 14 및 도 22-25에 관해 아래에 더 구체적으로 기재되는 seq_parameter_set_3dv_extension()을 추가로 디코딩할 수 있다. 그 후에, 방법은 단계(2108)로 진행할 것이다.

단계(2108)에서, 디코더(400)는 additinoal_extension2_flag를 디코딩할 수 있고, additinoal_extension2_flag가 1로 설정되면, 디코더(400)는 갱신된 AVC 드래프트에 논의된 바와 같이, 모든 additional_extension2_data_flags를 디코딩할 수 있다. 단계(2110)에서, 디코더(400)는 갱신된 AVC 드래프트에 기재된 바와 같이 rbsp_trailing_bits()를 디코딩활 수 있고, 그 후에 방법은 종료할 것이다.

전술한 바와 같이, 표 13은 seq_parameter_set_3dv_extension()의 하나의 구현을 도시하며, 여기서 3dv_layer_id 및 층간 예측 구조는 명백히 신호 발신된다. 그러한 구현은 많은 융통성을 제공하는데, 이는 3DV 층의 상이한 순서 및 상이한 층간 예측 구조가 규정되기 때문이다.

표 13의 의미는 다음과 같이 주어진다:

num_3dv_layer_minus1 플러스 1은 3DV 층의 개수를 나타낸다.

3dv_layer_id[i]는 i번째 3DV 층 식별 번호를 규정한다.

num_3dv_layer_refs_10[i]는 3dv_layer_id[i]인 3DV 층 식별 번호를 갖는 3DV 층에 대한 기준 화상 리스트 0에서 층간 기준의 개수를 규정한다.

3dv_layer_ref_ℓ0[i][j]는 3dv_layer_id[i]인 3DV 층 식별 번호를 갖는 3DV 층에 대한 기준 화상 리스트 0에서 j번째 층간 기준으로서 사용되는 3DV 층 식별 번호를 규정한다.

num_3dv_layer_refs_ℓ1[i]는 3dv_layer_id[i]인 3DV 층 식별 번호를 갖는 3DV 층에 대한 기준 화상 리스트 1에서 층간 기준의 개수를 규정한다.

3dv_layer_ref_ℓ1[i][j]는 3dv_layer_id[i]인 3DV 층 식별 번호를 갖는 3DV 층에 대한 기준 화상 리스트 1에서 j번째 층간 기준으로서 사용되는 3DV 층 식별 번호를 규정한다.

표 13의 seq_parameter_set_3dv_extension()이 실시예 6에서 어떻게 이용되는 지를 더 잘 예시하기 위해, 각각 서브셋 SPS 3DV 확장부를 인코딩하는 방법(2200) 및 디코딩하는 방법(2300)을 도시하는 도 22 및 도 23을 참조한다. 방법(2200)은 인코더(300)에 의해 구현되는 한편, 방법(2300)은 디코더(400)에 의해 구현될 수 있다는 것이 이해되어야 한다.

방법(2200)은 단계(2202)에서 시작할 수 있고, 단계(2202)에서 인코더(300)는 갱신된 AVC 드래프트에 기재된 seq_parameter_set_mvc_extension()을 인코딩할 수 있다.

단계(2204)에서, 인코더(300)는 num_3dv_layer_minus1을 설정하고 인코딩할 수 있다. 전술한 바와 같이, num_3dv_layer_minus1은 인코딩될 3DV 컨텐츠의 3DV 뷰에 이용된 3DV 층의 총 개수를 나타낸다. 코딩 및 디코딩에서의 편리함을 위해, num_3dv_layer_minus1의 수치값은 3DV 층의 실제 수보다 작은 1이다.

전술한 바와 같이, "i"는 3DV 층 id 번호를 나타낸다. 예를 들어, 3DV 층 id는 상기 표 1에서 한정된 3DV 층 id에 대응할 수 있다. 여기서, 단계(2208)에서, 인코더(300)는 인코딩될 3DV 컨텐츠에 이용된 각 유형의 3DV 층에 대한 3DV 층 ID를 설정하고 인코딩할 수 있다. 따라서, 인코더(300)는, 3DV 컨텐츠의 3DV 뷰에 이용된 3DV 층의 총 개수에 도달할 때까지 루프(2206)에서 각 3DV 층 id를 반복하여 처리한다.

루프(2210)에서, 루프(2210)의 첫번째 라인에 주지된 바와 같이, 인코더(300)는 각 기준 화상 리스트 유형 0, 및 잠재적으로 1에 대해 각 3DV 층에 대한 3DV 층간 기준을 설정하고 인코딩하기 위해 루프(2210)에서 각 3DV 층 id를 연속적으로 처리한다. 예를 들어, 단계(2212)에서, 인코더(300)는, 기준 화상 리스트가 할당되는 3DV 층("i"로 표시됨)에 대한 기준 화상 리스트 0에서 층간 기준의 총 개수(num_3dv_layer_refs_ℓ0[i])를 설정하고 인코딩할 수 있다. 임의의 기준 화상 리스트에서의 층간 기준의 개수가 이용된 층간 종속성 구조에 의존한다는 것이 주지되어야 한다. 예를 들어, 도 15의 구조(1500)에서, 각 3DV 층은 3DV 층에 할당된 기준 화상 리스트에서 최대 하나의 층간 기준을 갖는다. 그러나, 실시예 7에 관해 본 명세서에 아래에 논의된 구조와 같은 다른 층간 종속성 또는 예측 구조가 이용될 수 있다.

기준 화상 리스트 '0'에서의 3DV 층 "i"의 총 개수가 설정된 후에, 단계(2216)에서, 인코더(300)는 3DV 층'i'의 기준 화상 리스트 '0'에 대한 층간 기준을 설정하고 인코딩할 수 있다. 특히, 인코더(300)는 3DV 층 'i'의 기준 화상 리스트 '0'에서 층간 기준의 3DV 층 id(3dv_layer_ref_ℓ0[i][j])를 규정할 수 있다. 도 22 및 표 13에서, 3DV 층 'i'의 기준 화상 리스트 '0'에서 층간 기준은 'j'로 표시될 수 있어서, 단계(2216)는, 기준 화상 리스트 '0'에 대한 3DV 층 'i'의 층간 기준의 총 개수에 도달할 때까지 루프(2214)에서 반복될 수 있다.

인코더(300)는 3DV 층 'i'의 임의의 기준 화상 리스트 '1'에 대한 층간 기준을 제공하도록 추가로 구성될 수 있다. 그러나, 방법(2200)의 다음 단계가, 특정 3DV 'i'가 기준 화상 리스트 '1'를 갖지 않는 경우 스킵될 수 있다는 것이 이해되어야 한다. 3DV 층 'i'이 기준 화상 리스트 '1'를 가지면, 방법은 단계(2218)로 진행할 것이고, 단계(2218)에서 인코더(300)는, 기준 화상 리스트 '1'가 할당되는 3DV 층 i에 대한 기준 화상 리스트 1에서의 층간 기준의 총 개수(num_3dv_layer_refs_ℓ1'[i])를 설정하고 인코딩할 수 있다.

기준 화상 리스트 '1'에서의 3DV 층 'i'에 대한 층간 기준의 총 개수가 설정된 후에, 인코더(300)는 단계(2222)에서, 3DV 층'i'의 기준 화상 리스트 '1'에 대한 층간 기준을 설정하고 인코딩할 수 있다. 특히, 인코더(300)는 3DV 층 'i'의 기준 화상 리스트 '1'에서의 층간 기준의 3DV 층 id(3dv_layer_ref_ℓ1[i][j])를 규정할 수 있다. 3DV 층'i'에 대한 기준 화상 리스트 0에 관해 전술한 논의와 유사하게, 3DV 층 'i'의 기준 화상 리스트 '1'에서의 층간 기준은 'j'로 표시될 수 있어서, 단계(2222)는, 기준 화상 리스트 '1'에 대한 3DV 층 'i'의 층간 기준의 총 개수에 도달할 때까지 루프(2220)에서 반복될 수 있다.

추가로, 전술한 바와 같이, 루프(2210)에서, 단계(2212 및 2218) 및 루프(2214 및 2220)는, 모든 그러한 층이 처리될 때까지 인코딩될 3DV 컨텐츠의 3DV 뷰에 이용된 3DV 층의 각 층에 대해 반복될 수 있다.

이제 다시 도 23을 참조하면, seq_parameter_set_3dv_extension()을 이용하여 비트스트림에 수신된 SPS 3DV 확장부를 디코딩하는 방법(2300)이 기재된다. 방법(2300)은 단계(2302)에서 시작할 수 있으며, 단계(2302)에서 디코더(400)는 갱신된 AVC 드래프트에 기재된 seq_parameter_set_mvc_extension()을 디코딩할 수 있다.

단계(2304)에서, 디코더(400)는 num_3dv_layer_minus1을 디코딩하고 얻을 수 있다. 전술한 바와 같이, num_3dv_layer_minus1은 3DV 컨텐츠의 3DV 뷰에 이용된 3DV 층의 총 개수를 나타낸다. 전술한 바와 같이, num_3dv_layer_minus1의 수치값은 3DV 층의 실제 번호보다 작은 1이다.

전술한 바와 같이, "i"는 3DV 층 id 번호를 나타낸다. 예를 들어, 3DV 층 id는 상기 표 1에 한정된 3DV 층 id에 대응한다. 여기서, 단계(2208)에서, 디코더(400)는 3DV 컨텐츠에 이용된 3DV 층의 각 유형에 대한 3DV 층 ID를 디코딩하고 얻을 수 있다. 따라서, 디코더(400)는, 3DV 컨텐츠의 3DV 뷰에 이용된 3DV 층의 총 개수에 도달하고, 각 3DV 층 id가 얻어질 때까지 루프(2306)에서 각 3DV 층 id를 반복적으로 처리한다.

루프(2310)에서, 루프(2310)의 첫번째 라인에 주지된 바와 같이, 디코더(400)는 각 기준 화상 리스트 유형 0, 및 잠재적으로 1에 대해 각 3DV 층에 대한 3DV 층간 기준을 디코딩하고 얻기 위해 루프(2310)에서 각 3DV 층 id를 연속적으로 처리한다. 예를 들어, 단계(2312)에서, 디코더(400)는, 기준 화상 리스트가 할당되는 3DV 층("i"로 표시됨)에 대한 기준 화상 리스트 0에서 층간 기준의 총 개수(num_3dv_layer_refs_ℓ0[i])를 디코딩하고 얻을 수 있다. 임의의 기준 화상 리스트에서의 층간 기준의 개수가 이용된 층간 종속성 구조에 의존한다는 것이 주지되어야 한다. 예를 들어, 도 15의 구조(1500)에서, 각 3DV 층은 3DV 층에 할당된 기준 화상 리스트에서 최대 하나의 층간 기준을 갖는다. 그러나, 실시예 7에 관해 본 명세서에 아래에 논의된 구조와 같은 다른 층간 종속성 또는 예측 구조가 이용될 수 있다.

기준 화상 리스트 '0'에서의 3DV 층 "i"의 층간 기준의 총 개수가 얻어질 후에, 단계(2316)에서, 디코더(400)는 3DV 층'i'의 기준 화상 리스트 '0'에 대한 층간 기준을 디코딩하고 얻을 수 있다. 특히, 디코더(400)는 3DV 층 'i'의 기준 화상 리스트 '0'에서 층간 기준의 3DV 층 id(3dv_layer_ref_ℓ0[i][j])를 규정할 수 있다. 도 23 및 표 13에서, 3DV 층 'i'의 기준 화상 리스트 '0'에서 층간 기준은 'j'로 표시될 수 있어서, 단계(2316)는, 기준 화상 리스트 '0'에 대한 3DV 층 'i'의 층간 기준의 총 개수에 도달할 때까지 루프(2314)에서 반복될 수 있다.

디코더(400)는 3DV 층 'i'의 임의의 기준 화상 리스트 '1'에 대한 층간 기준을 제공하도록 추가로 구성될 수 있다. 그러나, 방법(2300)의 다음 단계가, 특정 3DV 'i'가 기준 화상 리스트 '1'를 갖지 않는 경우 스킵될 수 있다는 것이 이해되어야 한다. 3DV 층 'i'이 기준 화상 리스트 '1'를 가지면, 방법은 단계(2318)로 진행할 것이고, 단계(2318)에서 디코더(400)는, 기준 화상 리스트 '1'가 할당되는 3DV 층 i에 대한 기준 화상 리스트 1에서의 층간 기준의 총 개수(num_3dv_layer_refs_ℓ1'[i])를 디코딩하고 얻을 수 있다.

기준 화상 리스트 '1'에서의 3DV 층 'i'에 대한 층간 기준의 총 개수가 얻어진 후에, 디코더(400)는 단계(2322)에서, 3DV 층'i'의 기준 화상 리스트 '1'에 대한 층간 기준을 디코딩하고 얻을 수 있다. 특히, 디코더(400)는 3DV 층 'i'의 기준 화상 리스트 '1'에서의 층간 기준의 3DV 층 id(3dv_layer_ref_ℓ1[i][j])를 규정할 수 있다. 3DV 층'i'에 대한 기준 화상 리스트 0에 관해 전술한 논의와 유사하게, 3DV 층 'i'의 기준 화상 리스트 '1'에서의 층간 기준은 'j'로 표시될 수 있어서, 단계(2322)는, 기준 화상 리스트 '1'에 대한 3DV 층 'i'의 층간 기준의 총 개수에 도달할 때까지 루프(2320)에서 반복될 수 있다.

추가로, 전술한 바와 같이, 루프(2310)에서, 단계(2312 및 2318) 및 루프(2314 및 2320)는, 모든 그러한 층이 처리될 때까지 인코딩될 3DV 컨텐츠의 3DV 뷰에 이용된 3DV 층의 각 층에 대해 반복될 수 있다. 따라서, 디코더(400)는 각 3DV 층에 대한 기준 화상 리스트(들)를 재구성하여, 디코더(400)가 화상의 디코딩 동안 수신된 각 3DV 층 화상에 대한 층간 기준을 결정하도록 한다.

네트워크 디바이스가 3DV 층 및 예측 구조에 대한 정보를 파싱할 때, 상이한 3DV 층으로부터 NAL 유닛에 대한 송신 동안 상이한 우선 순위을 할당할 수 있다. 따라서, 혼잡이 발생할 때, "더 높은" 3DV 보충 층(예를 들어, 표 1에서의 더 높은 3D 층 id)으로부터의 몇몇 NAL 유닛은 트래픽을 완화시키기 위해 폐기될 수 있다.

실시예 7 : 3DV 응용에 대한 파라미터를 신호 발신하기 위한 SPS의 대안적인 확장

특정한 구현에서, 사용된 3DV 층의 잠재적인 개수가 한정되고, 다시 3DV 층에서의 컨텐츠가 특정하고 일정한 특성을 가지기 때문에, 3DV를 인코딩하고 디코딩하는데 사용된 예측 구조는 사전 구성되고, 인코더 및 디코더 모두에 알려져 있을 수 있다. 따라서, 예를 들어 실시예 6의 표 13에서와 같이 명백한 방식으로 특정한 예측 또는 층간 종속성 구조를 신호 발신하거나 운반할 필요가 없다. 오히려, 층간 예측 구조는 실시예 7에서 인코더 및 디코더 모두에게 알려져 있어서, 디코더로의 3DV에 대한 확장된 SPS의 운반을 간략하게 한다.

간단한 예를 제공하기 위해, 위에 한정된 다음의 3DV 층, 즉 2D 비디오 층, 깊이 층, 폐색 비디오 층, 폐색 깊이 층, 및 투명 층이 이용된다.

아래에서, 다양한 구현에 따라 이용될 수 있는 미리 한정된 층간 예측 구조의 일례가 제공된다. 그러나, 다른 미리 한정된 층간 예측 구조는 다른 구현에 이용될 수 있다는 것이 이해되어야 한다. 구조에서, 2D 비디오 층에 대해, 층간 예측 기준으로서 어떠한 3DV 보충 층도 사용되지 않는다. 깊이 층에 대해, 2D 비디오 층은 층간 예측 기준으로서 사용된다. 폐색 비디오 층에 대해, 2D 비디오 층 및 깊이 층은 층간 기준으로서 사용된다. 폐색 깊이 층에 대해, 2D 비디오 층 및 깊이 층은 층간 기준으로서 사용된다. 투명 층에 대해, 2D 비디오 층 및 깊이 층은 층간 기준으로서 사용된다.

여기서 실시예 7에서, 층간 예측 구조가 미리 한정될 수 있기 때문에, 3DV에 대한 확장된 SPS는, 특정 층이 표 14에 도시된 바와 같이 각 3DV 뷰에 대해 존재하는지를 간략히 운반할 수 있다. 따라서, seq_parameter_set_3dv_extension()은, 이들이 3DV 컨텐츠에서의 각 3DV 뷰에 이용되는지를 나타내도록 각 가능한 3DV 층에 대한 플래그를 간단히 이용할 수 있다. 따라서, 3DV에 대한 확장된 SPS는 임의의 명백한 방식으로 층간 예측 구조를 신호 발신하거나 운반할 필요가 없다. 하나의 구현에서, 층간 예측 구조는 일정하고, 변경될 수 없다. 다른 구현에서, 층간 예측 구조는 표 13(예를 들어, 표 12의 초기 출현, 또는 주기적 출현에서)를 이용하여 설정되고, 그렇지 않으면 표 14는 확장 정보를 전달하도록 사용된다. 표 12 내지 14는 설계 선택에 따라 원하는 만큼 종종 디코더로 재송신될 수 있고, 하나의 구현에서, 그 정보가 변할 때만 재송신될 수 있다는 것이 이해되어야 한다.

표 14의 seq_parameter_set_3dv_extension()이 실시예 7에서 어떻게 이용되는 지를 더 잘 예시하기 위해, 각각 서브셋 SPS 3DV를 인코딩하는 방법(2400) 및 디코딩하는 방법(2500)을 도시하는 도 24 및 도 25를 참조한다. 방법(2400)은 인코더(300)에 의해 구현되는 한편, 방법(2500)은 디코더(400)에 의해 구현될 수 있다는 것이 이해되어야 한다.

방법(2400)은 단계(2402)에서 시작할 수 있고, 단계(2402)에서 인코더(300)는 갱신된 AVC 드래프트에 기재된 seq_parameter_set_mvc_extension()을 인코딩할 수 있다. 인코더(300)는 루프(2404)를 수행할 수 있고, 루프(2404)에서, 인코더(300)는 각 3DV 층이 특정한 3DV 뷰 'i'에 대해 존재하는지를 나타내도록 3DV 층 플래그를 설정할 수 있다. 예를 들어, num_views_minus1은 3DV 컨텐츠에 이용된 3DV 뷰의 총 개수를 나타낸다. 도 10 내지 12에 제공된 예에서, 3개의 3DV 뷰가 이용된다(3DV 뷰 0 내지 3DV 뷰 2). 코딩 및 디코딩에서의 편리함을 위해, num_views_minus1의 수치값은 3DV의 실제 값보다 1 작다. 인코더(300)는, 3DV 컨텐츠에 이용된 3DV 뷰의 총 개수에 도달할 때까지 각 3DV 뷰 "i"에 대해 단계(2406 내지 2414)를 반복할 수 있다.

특히, 루프(2404)에서, 인코더(300)는, 2D 비디오 층이 3DV 뷰 "i"에 존재하는지를 나타내도록 단계(2406)에서 2D 비디오 층 플래그를 설정하고 인코딩하고, 깊이 층이 3DV 뷰 "i"에 존재하는지를 나타내도록 단계(2408)에서 (2D) 깊이 층 플래그를 설정하고 인코딩하고, 폐색 비디오 층이 3DV 뷰 "i"에 존재하는지를 나타내도록 단계(2410)에서 폐색 비디오 층 플래그를 설정하고 인코딩하고, 폐색 깊이 층이 3DV 뷰 "i"에 존재하는지를 나타내도록 단계(2412)에서 폐색 깊이 층 플래그를 설정하고 인코딩하고, 투명 층이 3DV 뷰 "i"에 존재하는지를 나타내도록 단계(2414)에서 투명 층 플래그를 설정하고 인코딩할 수 있다.

이제 다시 표 14를 이용하여 서브셋 SPS 3DV를 디코딩하는 방법(2500)을 참조하면, 방법(2500)은 단계(2502)에서 시작하고, 단계(2502)에서 다코더(400)는 갱신된 AVC 드래프트에 기재된 seq_parameter_set_mvc_extension()을 디코딩할 수 있다. 방법(2500)에서의 디코더(400)가 방법(2400)에 따라 인코더(300)에 의해 인코딩된 비트스트림을 수신할 수 있다는 것이 주지되어야 한다. 디코더(400)는 또한 루프(2504)를 수행할 수 있고, 루프(2504)에서, 디코더(400)는 각 3DV 층이 특정한 3DV 뷰 'i'에 대해 존재하는지를 결정하도록 3DV 층 플래그를 디코딩할 수 있다. 예를 들어, 방법(2400)에 관해 전술한 바와 같이, num_views_minus1은 3DV 컨텐츠에 이용된 3DV 뷰의 총 개수를 나타낸다. 디코더(400)는, 3DV 컨텐츠에 이용된 3DV 뷰의 총 개수에 도달할 때까지 각 3DV 뷰 "i"에 대해 단계(2506 내지 2514)를 반복할 수 있다.

특히, 루프(2504)에서, 디코더(400)는, 2D 비디오 층이 3DV 뷰 "i"에 존재하는지를 결정하도록 단계(2506)에서 2D 비디오 층 플래그를 디코딩하여 얻고, 깊이 층이 3DV 뷰 "i"에 존재하는지를 결정하도록 단계(2508)에서 (2D) 깊이 층 플래그를 디코딩하여 얻고, 폐색 비디오 층이 3DV 뷰 "i"에 존재하는지를 결정하도록 단계(2510)에서 폐색 비디오 층 플래그를 디코딩하여 얻고, 폐색 깊이 층이 3DV 뷰 "i"에 존재하는지를 결정하도록 단계(2512)에서 폐색 깊이 층 플래그를 디코딩하여 얻고, 투명 층이 3DV 뷰 "i"에 존재하는지를 결정하도록 단계(2514)에서 투명 층 플래그를 디코딩하여 얻을 수 있다.

전술한 바와 같이, 디코더(400)는 각 3DV 뷰에서 각 3DV 층에 대한 기준 화상 리스트(들)를 재구성하여, 디코더(400)가 화상의 디코딩 동안 수신된 각 3DV 층 화상에 대한 층간 기준을 결정하도록 한다.

추가 실시예

이제 도 26 및 도 27을 참조하면, 3DV 컨텐츠를 인코딩하는 방법(2600) 및 디코딩하는 방법(2700)이 도시된다. 실시예에 대해, 본 명세서에 논의된 임의의 하나 이상의 양상, 및 그 조합은 방법(2600 및 2700)으로 구현될 수 있다는 것이 이해되어야 한다. 예를 들어, 본 명세서에서 아래에 추가로 논의되는 바와 같이, 단일로 또는 임의의 조합으로 실시예 1 내지 3은 방법(2600 및 2700)으로 구현될 수 있다. 더욱이, 도 3의 인코더(300) 및 도 4의 디코더(400)는 각각 방법(2600 및 2700)을 구현하는데 사용될 수 있다는 것이 또한 주지되어야 한다.

방법(2600)은 단계(2602)에서 시작할 수 있고, 단계(2602)에서, 인코더(300)는 다중 화상을 인코딩할 수 있고, 여기서 다중 화상은 주어진 시간에 주어진 뷰에 대한 상이한 3D 정보를 설명한다. 예를 들어, 인코더(300)에 대해 전술한 임의의 하나 이상의 층 인코더는 임의의 하나 이상의 실시예 1, 2 및/또는 3에 따라 다중 화상의 인코딩을 구현하는데 사용될 수 있다. 다중 화상은 예를 들어, 2D 비디오 층 화상 및 깊이 층 화상일 수 있다. 2D 비디오 층 화상에 의해 설명된 3D 정보는 예를 들어 2D 비디오일 수 있다. 유사하게, 깊이 층 화상에 의해 설명된 3D 정보는 예를 들어 깊이 정보일 수 있다. 2D 비디오 정보 및 깊이 정보 모두는 주어진 시간에 주어진 뷰에 대한 3D 정보의 예이다.

추가 실시예의 방법을 설명하기 위해, "화상"은 다양한 실시예에 대해 전술한 "프레임"과 등가적일 수 있다. 더욱이, 화상은 전술한 임의의 하나 이상의 3DV 층에 대응할 수 있다. 예를 들어, 2D 뷰(1010) 및 깊이 뷰(1008) 각각은 개별적인 화상을 구성할 수 있다. 추가로, 도 11 및/또는 도 12에 대해 전술한 임의의 2D 뷰 층(1118, 1122, 1136, 1218, 1222, 1236) 및/또는 임의의 깊이 층(1120, 1124, 1220, 1224) 각각은 개별적인 화상을 구성할 수 있다. 더욱이, 도 11 및 도 12에 명백히 도시되지 않았지만, 전술한 다른 3DV 보충 층은 또한 각각 개별적인 화상을 구성할 수 있다. 더욱이, 전술한 임의의 하나 이상의 3DV 뷰는 도 11 및 도 12에 대해 전술한 시간(T0 및 T1)에 3D 뷰(0, 1, 2)과 같은 주어진 시간에서의 주어진 뷰를 구성할 수 있다.

단계(2604)에서, 인코더(300)는, 인코딩된 다중 화상에 대해, 인코딩된 화상이 3D 처리를 지원하는 구조에 어떻게 적합하게 되는지를 나타내는 구문 요소를 생성할 수 있고, 상기 구조는 다중 화상에 대한 컨텐츠 유형을 한정한다. 예를 들어, 3D 기준 버퍼(316)는 임의의 하나 이상의 실시예 1, 2 및/또는 3에 따라 구문 요소를 생성할 수 있다. 구문 요소는 예를 들어, 실시예 1에 대해 전술한 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)일 수 있다. 전술한 바와 같이, 실시예 1, 2, 3에 따른 새로운 NAL 유닛은 인코딩된 3DV 층에 대해, 각 층이 3D 처리를 지원하는 도 10의 구조(1000)와 같은 구조에 어떻게 적합하게 되는지를 나타낼 수 있다. 더욱이, NAL 유닛(16 및 21)과 같은 새로운 NAL 유닛의 이용은, 도 10에 도시된 것과 같은 3DV 구조가 비트스트림에 사용된다는 것을 나타낼 수 있다. 전술한 바와 같이, 구조(1000)는 상이한 유형의 3DV 층과 같은 상이한 컨텐츠 유형을 한정할 수 있다. 구조는 도 10에 표시된 3DV 뷰의 세트에 대응할 수 있고, 및/또는 3DV 뷰 내의 층의 세트에 대응할 수 있다는 것이 이해되어야 한다. 인코더(300)가 기준으로서 상이한 인코딩된 화상을 이용하여 화상을 인코딩할 수 있어서, 상이한 컨텐츠 유형의 화상 사이에 층간 코딩을 제공하는 것이 또한 이해되어야 한다. 예를 들어, 일례로 도 10을 이용하여, 뷰(1004)의 깊이 뷰는 뷰(1004)의 2D 뷰와 같은 상이한 층에 종속하고 이를 참조할 수 있어서, 층간 코딩을 제공한다. 더욱이, 도 10의 코딩 구조는, 뷰(1004)의 2D 뷰가 뷰(1006)의 깊이 층과 같은 상이한 층에 종속하고 이를 참조할 수 있도록 구성될 수 있다. 다른 유형의 층간 코딩이 전술한 바와 같이 가능하고, 본 명세서에 제공된 가르침을 고려하여 당업자에게 구현될 수 있다.

단계(2606)에서, 인코더(300)는 인코딩된 다중 화상 및 구문 요소를 포함하는 비트스트림을 생성할 수 있고, 여기서 구문 요소의 포함은 코딩된-비트스트림 레벨에서, 구조에서의 인코딩된 다중 화상 사이의 관련성의 표시를 제공한다. 예를 들어, 3DV 기준 버퍼(316)는 전술한 바와 같이 실시예 1, 2 및/또는 3에 따라 생성된 임의의 인코딩된 비트스트림을 포함할 수 있는 비트스트림(318)을 생성할 수 있다. 따라서, 비트스트림은 도 10 내지 도 12에 대해 전술한 임의의 하나 이상의 층 프레임과 같은 다중 인코딩된 화상을 포함할 수 있고, 또한 실시예 1의 임의의 하나 이상의 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)을 포함할 수 있으며, 이것은 전술한 바와 같이, 코딩된 비트스트림 레벨에서, 구조에서의 인코딩된 다중 화상 사이의 관련성의 표시를 제공할 수 있다. 예를 들어, 구문 요소는 도 10의 구조 또는 3DV 컨텐츠를 지원하는 다른 구조에서 화상 또는 층 사이의 종속성 및 관련성을 나타낼 수 있다. 예를 들어, 구문 요소는 3DV 컨텐츠를 생성하도록 화상이 어떻게 조합되어야 하는지에 대한 표시를 제공할 수 있다.

다양한 실시예에 따라, 인코더(300)의 층 인코더의 세트(304 내지 314)가 단계(2602)를 수행하도록 구성될 수 있다는 것이 이해되어야 한다. 더욱이, 3DV 기준 버퍼(316) 및/또는 층 인코더(304 내지 314)는 하나 이상의 단계(2604 내지 2606)를 수행하도록 구성될 수 있다. 인코더(300)는 대안적으로 또는 추가로 적어도 방법(2600)을 수행하도록 구성된 프로세서를 포함할 수 있다. 더욱이, 실시예는 단계(2602)에서 생성된 다중 인코딩된 화상, 단계(2604)에서 생성된 구문 요소, 및/또는 비트스트림 자체를 포함하는 2606에서 생성된 비트스트림에 포함된 임의의 하나 이상의 요소를 포함하도록 포맷팅되는 비디오 신호 및/또는 비디오 신호 구조를 포함할 수 있다. 더욱이, 실시예는 그 안에 저장된 비디오 신호 구조를 갖는 프로세서 판독가능 매체를 포함할 수 있다. 추가로, 전술한 바와 같이, 도 7의 변조기(722)는 비디오 신호를 변조하도록 구성될 수 있다. 더욱이, 실시예는 프로세서가 적어도 방법(2600)을 수행하도록 하기 위해 지시를 저장한 프로세서 판독가능 매체를 포함할 수 있다.

다시 3DV 컨텐츠를 디코딩하기 위해 도 27의 방법(2700)을 참조하면, 방법(2700)은 단계(2702)에서 시작할 수 있고, 단계(2702)에서 디코더(400)는 비트스트림으로부터 인코딩된 다중 화상을 액세스할 수 있다. 다중 화상은 주어진 시간에 주어진 뷰에 대한 상이한 3D 정보를 설명한다. 예를 들어, 비트스트림은 방법(2600)에 따라 생성된 비트스트림에 대응할 수 있다. 방법(2600)에 대해 전술한 바와 같이, 도 11 및/또는 도 12에 대해 전술한 임의의 2D 뷰 층 및/또는 임의의 깊이 층 각각은 개별적인 화상을 구성할 수 있다. 더욱이, 도 11 및 도 12에 명백히 도시되지 않은 전술한 다른 3D 보충 층 각각은 또한 개별적인 화상을 구성할 수 있다. 더욱이, 전술한 임의의 하나 이상의 3DV 뷰는 도 11 및 도 12에 대해 전술한, 시간(T0 및 T1)에 3D 뷰(0, 1, 2)과 같은 주어진 시간에서의 주어진 뷰를 구성할 수 있다.

단계(2704)에서, 디코더(400)는 비트스트림으로부터 구문 요소를 액세스할 수 있다. 구문 요소는 인코딩된 화상이 3D 처리를 지원하는 구조에 어떻게 적합하게 하는지를 인코딩된 다중 화상에 대해 표시한다. 구조는 다중 화상 사이의 한정된 관련성을 제공한다. 예를 들어, 3DV 기준 버퍼(414)는 임의의 하나 이상의 실시예 1, 2 및/또는 3에 따라 구문 요소에 액세스할 수 있다. 구문 요소는 예를 들어 실시예 1에 대해 전술한 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)을 포함할 수 있다. 전술한 바와 같이, 실시예 1, 2 및 3에 따른 새로운 NAL 유닛은 인코딩된 3DV 층에 대해, 3D 처리를 지원하는 도 10의 구조(1000)와 같은 구조에 각 층이 어떻게 적합하게 되는지를 나타낼 수 있다. 더욱이, NAL 유닛(16 및 21)과 같은 새로운 NAL 유닛의 이용은 도 10에 도시된 것과 같은 3DV 구조가 비트스트림에 사용되는지를 나타낼 수 있다. 전술한 바와 같이, 구조(1000)는 상이한 유형의 3DV 층과 같은 상이한 컨텐츠 유형을 한정할 수 있다. 구조가 도 10에 도시된 3DV 뷰의 세트에 대응할 수 있고, 및/또는 3DV 뷰 내의 층의 세트에 대응할 수 있다는 것이 이해되어야 한다. 또한 디코더(400)가 기준으로서 상이한 인코딩된 화상을 이용하여 화상을 디코딩할 수 있어서, 상이한 컨텐츠 유형의 화상 사이의 층간 디코딩을 허용한다는 것이 이해되어야 한다. 예를 들어, 일례로 도 10을 이용하여, 뷰(1004)의 깊이 뷰는 뷰(1004)의 2D 뷰와 같은 상이한 층에 종속되고 이를 참조할 수 있어서, 층간 디코딩을 허용한다. 더욱이, 도 10의 코딩 구조는, 뷰(1004)의 2D 뷰가 뷰(1006)의 깊이 층과 같은 상이한 층에 종속되고 이를 참조할 수 있도록 구성될 수 있다. 다른 유형의 층간 코딩은 전술한 바와 같이 가능하며, 본 명세서에 제공된 가르침을 고려하여 당업자에게 구현될 수 있다. 더욱이, 실시예 1 내지 3에 대해 전술한 바와 같이, 실시예 1의 임의의 하나 이상의 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)은 전술한 바와 같이, 3DV 뷰 ID 및 3DV 층 ID의 이용을 통해 비트스트림의 화상 사이의 한정된 관련성을 제공할 수 있다. 예를 들어, 디코더(400)는 도 10의 구조(1000)와 같은 3DV 구조에 따라 화상을 조합하도록 미리 구성될 수 있고, 미리 한정된 구조에서 상이한 층에 어떠한 수신된 화상이 대응하는 지를 식별하기 위해 3DV 뷰 ID 및 3DV 층 ID를 이용할 수 있다.

단계(2706)에서, 디코더(400)는 인코딩된 다중 화상을 디코딩하도록 구성될 수 있다. 예를 들어, 디코더(400)는 예를 들어 도 4 및 도 6에 대해 전술한 바와 같이, 층 디코더(402 내지 412)을 이용하여 수신된 화상을 디코딩할 수 있다. 예를 들어, 디코더(400)는 2차원(2D) 비디오 층 화상, 깊이 층 화상, 폐색 층 화상, 또는 투명 화상 중 하나 이상을 참조하는 추가 화상을 렌더링하기 위해 구문 요소에 의해 표시되고 제공된 한정된 관련성을 이용할 수 있다. 예를 들어, 전술한 바와 같이, 도 10의 뷰(1004)의 깊이 뷰는 뷰(1004)의 2D 뷰와 같은 상이한 층에 종속되고 이를 참조할 수 있다. 따라서, 디코더(400)는 다양한 상이한 층 화상 중 하나 이상으로부터 뷰(1004)의 깊이 뷰와 같은 추가 화상을 렌더링할 수 있다.

단계(2708)에서, 디코더(400)는 다중 화상 사이에서의 한정된 관련성을 표시하는 출력 포맷으로 디코딩된 화상을 제공할 수 있다. 예를 들어, 디코더(400)의 3DV 기준/출력 버퍼(414)는 3DV 구조에 따라 포맷팅된 3DV 컨텐츠를 출력할 수 있다. 따라서, 출력은, 구조에 따라 다중 화상 사이의 관련성을 디스플레이 디바이스에 표시하여, 디스플레이 디바이스 상에 3DV 컨텐츠의 적절한 디스플레이를 허용하고, 사용자가 3DV 컨텐츠를 시청하도록 한다. 특히, 출력 포맷은 디코딩된 화상을 구조에 어떻게 적합하게 하는지를 규정하는 구문 요소를 포함할 수 있다. 그러한 구문 요소의 예는 실시예 1의 임의의 하나 이상의 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)을 포함할 수 있다.

선택적인 단계(2710 내지 2714)는 단계(2708)를 수행한 후에 디코더에서 수행될 수 있다. 구현은 단계(2708)의 부분으로서 및/또는 단계(2706)의 디코딩의 부분으로서 단계(2710 내지 2714) 중 하나 이상을 수행할 수 있다. 다양한 구현에서, 하나 이상의 단계(2710 내지 2714), 특히 단계(2714)는 디스플레이에서 수행될 수 있다.

선택적으로, 단계(2710)에서, 디코더(400)는 구문 요소를 이용하여 다중 화상으로부터 2D 비디오 화상을 식별할 수 있다. 예를 들어, 디코더(400)는 3DV 층을 인코딩하도록 구현된, 실시예 1의 임의의 하나 이상의 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)을 파싱함으로써 2D 비디오 화상 또는 층을 식별할 수 있다. 디코더(400)는 위에서 '0'으로 표시된, 인코딩된 화상 중 어떤 것이 2D 뷰 층 ID를 갖는지를 추가로 결정할 수 있고, 3DV 뷰 ID를 이용하여 대응하는 3DV 뷰를 결정할 수 있다.

선택적으로, 단계(2712)에서, 디코더(400)는 구문 요소를 이용하여 다중 화상으로부터 깊이 화상을 식별할 수 있다. 예를 들어, 디코더(400)는 3DV 층을 인코딩하도록 구현된, 실시예 1의 임의의 하나 이상의 3DV 프리픽스 유닛(16), 실시예 2의 NAL 프리픽스 유닛(14) 및/또는 NAL 유닛(20), 및/또는 실시예 3의 NAL 유닛(21)을 파싱함으로써 깊이 화상 또는 층을 식별할 수 있다. 더욱이, 디코더(400)는 '1'로 위에서 표시된, 깊이 층 ID를 인코딩된 화상 중 어떤 것이 갖는지를 결정할 수 있고, 3DV 뷰 ID를 이용하여 대응하는 3DV 뷰를 결정할 수 있다. 다른 3DV 보충 층이 다양한 실시예에 따라 구문 요소를 이용하여 식별될 수 있다는 것이 주지되어야 한다.

선택적으로, 단계(2714)에서, 디코더(400)는 2D 비디오 화상 및 깊이 화상에 기초하여 추가 뷰에 대한 새로운 화상을 렌더링할 수 있다. 예를 들어, 식별된 화상 또는 뷰는 도 10의 2D 뷰(1010) 및 깊이 뷰(1008)에 대응할 수 있다. 더욱이, 3D 뷰(1004 및 1006)는 예를 들어 도 10에 대해 위에서 제공된 설명에 따라 기준으로서 3DV 베이스 뷰(1002)의 2D 뷰(1010) 및 깊이 뷰(1008)를 이용하여 렌더링될 수 있다. 유사하게, 3D 뷰(1006)의 2D 비디오 층 및 깊이 층은 도 10에 대해 위에서 제공된 설명에 따라 3DV 뷰(1004)를 렌더링하기 위해 기준으로서 사용될 수 있다.

다양한 실시예에 따라, 디코더(400)의 층 디코더의 세트(402 내지 412)가 단계(2702 내지 2706)를 수행하도록 구성될 수 있다는 것이 이해되어야 한다. 더욱이, 3DV 기준 버퍼(414) 및/또는 층 디코더(402 내지 412)는 하나 이상의 단계(2704 및 2708)를 수행하도록 구성될 수 있다. 디코더(400)는 대안적으로 또는 추가로 적어도 방법(2700)을 수행하도록 구성된 프로세서를 포함할 수 있다. 더욱이, 전술한 바와 같이, 도 8의 복조기(822)는 비트스트림을 포함하는 비디오 신호를 복조하도록 구성될 수 있으며, 이러한 비트스트림으로부터 다중 인코딩된 화상이 단계(2702)에서 액세스된다. 더욱이, 실시예는 프로세서가 적어도 방법(2700)을 수행하도록 하기 위한 지령을 그 안에 저장하는 프로세서 판독가능 매체를 포함할 수 있다.

이제 도 28을 참조하면, 기준 화상 리스트를 구성하는 방법(2800)이 도시된다. 실시예에 대해 본 명세서에 논의된 임의의 하나 이상의 양상, 및 그 조합이 방법(2800)으로 구현될 수 있다는 것이 이해되어야 한다. 예를 들어, 본 명세서에서 아래에 더 논의되는 바와 같이, 실시예 4는 방법(2800)으로 구현될 수 있다. 더욱이, 임의의 하나 이상의 실시예 1 내지 3 및 5 내지 7은 실시예 4와 조합될 수 있고, 방법(2800)으로 구현될 수 있다. 더욱이, 또한 도 3의 인코더(300) 및/또는 도 4의 디코더(400)가 방법(2800)을 구현하는데 사용될 수 있다는 것이 주지되어야 한다. 더욱이, 방법(2800)이 화상에 대한 기준 화상 리스트를 구성하도록 설명되지만, 그러한 기준 리스트는 실시예 4에 대해 전술한 바와 같이, 화상의 시퀀스, 다중 뷰에 걸친 화상의 세트, 또는 화상의 서브셋에 대해 구성될 수 있다.

방법(2800)은 선택 단계(2802)에서 시작할 수 있고, 단계(2802)에서, 인코더(300) 또는 디코더(400)는 화상에 대한 종속성 정보에 기초하여 화상에 대한 층간 기준을 결정할 수 있다. 예를 들어, 디코더(400)는 전술한 바와 같이, 시퀀스 파라미터 세트(SPS)를 운반하는 수신된 구문 요소로부터 종속성 정보를 추출하고 디코딩할 수 있다. 다시, 인코더(300)에 대해, 종속성 정보는 예를 들어 실시예 5 내지 8에 대해 전술한 바와 같이, SPS에 포함된 인코더(300)의 종속성 정보와 동일할 수 있다. 예를 들어, 인코더(300)는 인코더에 저장된 구성 파일로부터 종속성 정보를 얻을 수 있다. 종속성 정보가 임의의 하나 이상의 임시 종속성, 뷰간 종속성, 및 상이한 화상 및 화상 유형이 어떻게 예측 코딩되는지를 나타내는 층간 종속성을 포함할 수 있다. 따라서, 종속성 정보에 기초하여, 인코더(300) 또는 디코더(400)는 기준 화상 리스트가 구성되는 화상에 대한 층간 기준을 결정할 수 있다. 더욱이, 층간 기준은 실시예 4에 대해 전술한 층간 기준에 따를 수 있다. 예를 들어, 층간 기준은 도 15에 대해 전술한 임의의 하나 이상의 구조에 대응할 수 있다.

단계(2804)에서, 인코더(300) 또는 디코더(400)는 화상에 대해 하나 이상의 다른 기준에 관련하여 층간 기준의 우선 순위을 결정할 수 있다. 예를 들어, 인코더(300) 또는 디코더(400)는 기준 화상 리스트에서 화상의 우선 순위를 정하기 위해 우선 순위 방식을 적용하도록 구성될 수 있다. 예를 들어, 실시예 4에 대해 전술한 바와 같이, 기준 리스트에서의 화상은, 기준 화상이 구성되는 화상이 기준 화상 리스트에 기술된 화상을 갖는 잔여도에 따라 순서 배치/우선 순위가 정해질 수 있다. 예를 들어, 깊이 화상에 대해 전술한 바와 같이, 층간 기준은 기준 리스트에서의 임시 및 뷰간 기준에 비해 최소 잔여물을 갖도록 예측된다. 따라서, 층간 기준은 임시 및 뷰간 기준보다 더 낮은 우선 순위를 갖는다. 실시예 4에서의 상이한 3DV 층 유형에 대해 전술한 임의의 우선 순위가 본 명세서에서 단계(2804)에 적용될 수 있다는 것이 주지되어야 한다. 그러나, 또한 상이한 우선 순위가 본 명세서에 기재된 다양한 양상에 따라 이용될 수 있다는 것이 이해되어야 한다. 예를 들어, 우선 순위는 화상 기준과 3DV 컨텐츠에 대한 기준 화상 리스트와 연관된 화상 사이의 실제 잔여물에 따라 변경될 수 있다. 예를 들어, 잔여물은 3DV 컨텐츠를 구성하는 화상 또는 층의 측정에 기초하여 결정될 수 있고, 우선 순위 방식은 측정된 잔여물 레벨을 반영하도록 적응될 수 있어서, 더 높은 잔여물을 갖는 기준 화상은 기준 리스트와 연관된 화상을 갖는 더 낮은 잔여물을 갖는 기준 화상에 걸쳐 더 높은 우선 순위가 주어진다. 더욱이, 그러한 우선 순위 방식은 다른 양상 또는 실시예에서, 각 화상 또는 기준 화상 리스트에 대해 상이하게 개정될 수 있다.

단계(2806)에서, 인코더(300) 또는 디코더(400)는 우선 순위에 기초하여 화상에 대한 기준의 순서 배치된 리스트에서 층간 기준을 포함할 수 있다. 예를 들어, 더 낮은 또는 가장 낮은 우선 순위를 갖는 층간 기준 화상은 리스트의 마지막에 또는 더 높은 우선 순위를 갖는 다른 기준 화상 뒤에 포함될 수 있다. 다시, 더 높은 또는 가장 높은 우선 순위를 갖는 층간 기준 화상은 리스트의 시작에 또는 더 낮은 우선 순위를 갖는 다른 기준 화상 앞에 포함된다. 그러한 기준은 전술한 바와 같이 임시 및/또는 뷰간 기준을 포함할 수 있다. 전술한 바와 같이, 층간 기준은 인코더 구현을 위한 방법(1600) 또는 디코더 구현을 위한 방법(1700)에 따라 기준의 리스트에 포함될 수 있다. 더욱이, 층간 기준은 단계(2804)에 대해 전술한 바와 같이, 다른 우선 순위 방식에 따라 기준의 리스트에 포함될 수 있다. 리스트는 예측된 사용에 기초하여 순서 배치되고 우선 순위가 정해질 수 있어서, 더 작은 인덱스가 더 공통적인 기준에 사용될 수 있고, 비트가 송신시 절감될 수 있다는 것이 주지되어야 한다.

선택 단계(2808)에서, 인코더(300) 또는 디코더(400)는 화상을 수반하는 코딩 동작에서 층간 기준을 이용할 수 있다. 예를 들어, 인코더(300)는, 기준 리스트가 기준 화상으로서 층간 기준을 이용하여 구성되는 화상을 인코딩하도록 예측 인코딩 동작을 수행할 수 있다. 다시, 디코더(400)는 기준 화상으로서 층간 기준을 이용하여 기준 리스트가 구성되는 화상을 디코딩하도록 예측 디코딩 동작을 수행할 수 있다. 따라서, 화상의 인코딩 또는 디코딩은 적어도 부분적으로 층간 기준에 기초할 수 있다.

선택적으로, 단계(2810)에서, 인코더(300) 또는 디코더(400)는 코딩된 화상을 포함하는 비트스트림을 생성할 수 있다. 예를 들어, 인코더(300)는 도 3 및 도 5에 대해 전술한 논의에 따라 비트스트림(318)에서 인코딩된 화상을 포함할 수 있다. 더욱이, 디코더(400)는 도 4 및 도 6에 대해 전술한 논의에 따라 비트스트림(416)에서 디코딩된 화상을 포함할 수 있다.

그 후에, 방법은 종료하거나 반복될 수 있어서, 인코더(300) 또는 디코더(400)는 다른 화상에 대한 기준 화상 리스트를 생성할 수 있거나, 화상이 B 화상인 경우 동일한 화상에 대한 제 2 기준 화상 리스트를 생성할 수 있다.

하나의 구현은 단계(2804 및 2806)만을 수행한다. 층간 기준이 예를 들어 제공될 수 있고, 구현은 층간 기준의 우선 순위를 결정한다. 구현은 결정된 우선 순위에 기초하여 순서 배치된 리스트에서 층간 기준을 포함한다.

다시 단계(2802)로 되돌아가면, 선택적으로, 단계(2802)는 2D 비디오 층 화상을 처리하기 위해 도 29에 제공된 방법(2900)의 수행을 포함할 수 있다. 예를 들어, 방법(2900)은 단계(2902)에서 시작할 수 있으며, 단계(2902)에서 인코더(300) 또는 디코더(400)는, 기준 화상 리스트가 구성되는 화상이 2D 비디오 층 화상인지를 결정할 수 있다. 기준이 2D 비디오 층 화상이 아닌 경우, 방법은 방법(2800)의 단계(2804)로 진행할 것이다. 그렇지 않으면, 방법은 단계(2904)로 진행할 것이고, 단계(2904)에서 인코더(300) 또는 디코더(400)는 기준 화상 리스트로부터 임의의 층간 기준을 배제할 수 있다. 예를 들어, 실시예 4에 대해 전술한 바와 같이, 2D 비디오 층에 대한 층간 기준을 이용하는 것을 억제하는 것은 종래의 MVC가 3DV 컨텐츠를 추출하도록 하고, 디스플레이를 위한 컨텐츠를 포맷팅하도록 한다. 그 후에, 방법은 방법(2800)의 단계(2804)로 진행할 것이다.

단계(2904)는 2D 비디오 층에 대한 기준으로서 사용되는 것으로부터 깊이 층만을 배제하도록 변형될 수 있다. 그러한 구현은 예를 들어, 2D 비디오 층에 대한 층간 기준으로서 폐색 비디오 층에 의존할 수 있다.

다양한 실시예에 따라, 디코더(400)의 층 디코더(402 내지 412) 또는 인코더(300)의 층 인코더(304 내지 314)와 같은 층 코더의 세트가 단계(2808) 및 단계(2810)를 수행하도록 구성될 수 있다는 것이 이해되어야 한다. 더욱이, 3DV 기준 버퍼(414), 3DV 기준 버퍼(316), 및/또는 층 코더는 하나 이상의 단계(2802 내지 2806 및 2810)를 수행하도록 구성될 수 있다. 인코더(300) 또는 디코더(400)는 대안적으로 또는 추가로 적어도 방법(2800)을 수행하도록 구성된 프로세서를 포함할 수 있다. 더욱이, 실시예는 프로세서가 적어도 방법(2800)을 수행하도록 하기 위한 지령을 그 안에 저장하는 프로세서 판독가능 매체를 포함할 수 있다

이제 도 30 및 도 31을 참조하면, 3DV 층간 종속성 구조가 운반되도록 3DV 컨텐츠를 인코딩하는 방법(3000) 및 디코딩하는 방법(3100)이 도시된다. 실시예에 대해 본 명세서에 논의된 임의의 하나 이상의 양상, 및 그 조합이 방법(3000 및 3100)으로 구현될 수 있다는 것이 이해되어야 한다. 예를 들어, 본 명세서에서 아래에 더 논의되는 바와 같이, 실시예 5 내지 7은 방법(2600 및 2700)으로 구현될 수 있다. 더욱이, 도 3의 인코더(300) 및/또는 도 4의 디코더(400)가 방법(3000 및 3100)을 각각 구현하는데 사용될 수 있다는 것이 주지되어야 한다.

방법(3000)은 단계(3002)에서 시작할 수 있으며, 단계(3002)에서 인코더(300)는 3DV 층 중에서 층간 종속성 구조를 표시하는 구문 요소를 생성할 수 있다. 예를 들어, 구문 요소는 임의의 하나 이상의 실시예 5 내지 7에 대해 전술한 바와 같이 생성될 수 있다. 예를 들어, NAL 유닛(17)는 실시예 5에 대해 전술한 바와 같이, 종속성간 구조를 운반하도록 구문 요소로서 이용될 수 있다. 더욱이, 종속성간 구조는 실시예 6 및 7에 대해 그리고 표 13 및 14에 대해 전술한 바와 같이 운반될 수 있다. 예를 들어, 임의의 하나 이상의 방법(2000, 2200 및 2400)은 종속성간 구조를 운반하도록 이용될 수 있다. 예를 들어, 구문 요소는 실시예 6에 대해 전술한 바와 같이 층간 종속성 구조를 명백히 운반할 수 있거나, 구문 요소는, 실시예 7에 대해 전술한 바와 같이, 특정 3DV 층이 층간 종속성이 미리 한정되는 3DV 층 id를 이용하여 각 3DV 뷰에 대해 제공되는지를 운반함으로써 층간 종속성 구조를 표시할 수 있다. 더욱이, 층간 종속성 구조는 다수의 상이한 층간 종속성 구조 중 하나에 대응할 수 있다. 예를 들어, 층간 종속성 구조는 도 15에 대해 전술한 것에 대응할 뿐 아니라 실시예 7에 대해 전술한 것에 대응할 수 있다. 더욱이, 전술한 바와 같이, 층간 종속성 구조는 임의의 하나 이상의 NAL 유닛 헤더, SPS, PPS, SEI 또는 슬라이스 헤더에 제공될 수 있다. 더욱이, 인코더(300)는 예를 들어 실시예 4에 대해 전술한 바와 같이, 기준 화상 리스트를 구성하고 이용함으로써 구문 요소를 생성할 수 있다.

단계(3004)에서, 인코더(300)는 층간 종속성 구조에 기초하여, 3D 층의 층으로부터 화상에 대한 층간 기준을 식별할 수 있다. 예를 들어, 층간 종속성 구조가 도 15에 대해 전술한 것에 대응하는 경우, 깊이 층 화상을 인코딩하기 위해, 인코더(300)는 단계(3002)에서 구성될 수 있는 기준 화상 리스트를 이용하여, 깊이 층 화상에 대한 층간 기준이 깊이 층 화상과 동일한 뷰 또는 3DV 뷰에서 2D 비디오 층 화상인지를 결정할 수 있다. 전술한 바와 같이, 종속성간 구조는 변할 수 있고, 특히 2D 비디오 층, 깊이 층, 폐색 비디오 층, 폐색 깊이 층 및 투명 층과 같은 다수의 상이한 유형의 층을 포함할 수 있고, 상이한 종속성은 예를 들어 상이한 3DV 뷰 사이의 층간 종속성을 포함한다.

단계(3006)에서, 인코더(300)는 적어도 부분적으로 층간 기준에 기초하여 화상을 인코딩할 수 있다. 예를 들어, 인코더(300)는 인코더(304 내지 314)를 이용하여 도 3 및 도 5에 관해 전술한 바와 같이 화상을 인코딩할 수 있다. 여기서, 다시 일례로 구조(1500) 및 깊이 층을 이용하여, 깊이 층은 적어도 부분적으로 전술한 바와 같이 2D 비디오 층에 기초하여 인코딩될 수 있다.

선택 단계(3008)에서, 인코더(300)는 인코딩된 화상을 포함하는 비트스트림을 생성할 수 있다. 예를 들어, 인코딩된 비트스트림은 도 3 및 도 5에 대해 전술한 바와 같이 생성될 수 있고, 예를 들어 비트스트림(318)에 대응할 수 있다.

선택 단계(3010)에서, 인코더(300)는 인코딩된 화상, 및 인코딩된 화상을 디코딩하는데 사용하기 위한 구문 요소를 제공할 수 있다. 예를 들어, 구문 요소 및 인코딩된 화상은 비트스트림(318)을 통해 디코더(400)로 송신될 수 있다. 대안적으로, 구문 요소는 3DV 데이터 컨텐츠를 송신하는데 사용된 비트스트림으로부터 분리되는 비트스트림에서 송신될 수 있다. 따라서, 도 3에서의 비트스트림(318)은 2개의 개별적인 대응하는 비트스트림을 나타낼 수 있다. 대안적으로, 상이한 비트스트림은 개별적으로 송신될 수 있다. 예를 들어, 하나의 비트스트림은 케이블 네트워크를 통해 디코더(400)로 송신될 수 있는 반면, 다른 비트스트림은 무선으로 디코더(400)로 송신될 수 있다. 더욱이, 구문 요소는 방법(3100)에 대해 아래에 논의되는 바와 같이 인코딩된 화상을 디코딩하는데 사용될 수 있다.

다양한 실시예에 따라, 인코더(300)의 층 인코더의 세트(304 내지 314)가 단계(3006)를 수행하도록 구성될 수 있다는 것이 이해되어야 한다. 더욱이, 3DV 기준 버퍼(316) 및/또는 층 인코더(304 내지 314)는 하나 이상의 단계(3002, 3004, 3008 및 3010)를 수행하도록 구성될 수 있다. 인코더(300)는 대안적으로 또는 추가로 적어도 방법(3000)을 수행하도록 구성된 프로세서를 포함할 수 있다. 더욱이, 실시예는 방법(3000)에 따라 생성된 인코딩된 화상, 구문 요소 및/또는 비트스트림을 포함하도록 포맷팅된 비디오 신호 및/또는 비디오 신호 구조를 포함할 수 있다. 더욱이, 실시예는 그 안에 저장된 비디오 신호 구조를 갖는 프로세서 판독가능 매체를 포함할 수 있다. 더욱이, 전술한 바와 같이, 도 7의 변조기(722)는 비디오 신호를 변조하도록 구성될 수 있다. 더욱이, 실시예는 프로세서가 적어도 방법(3000)을 수행하도록 하기 위한 지령을 그 안에 저장하는 프로세서 판독가능 매체를 포함할 수 있다.

하나의 구현은 단계(3002 내지 3006)만을 수행한다. 구현은 화상에 대한 층간 기준을 식별하는 구문 요소를 생성하고, 적어도 부분적으로 식별된 층간 기준에 기초하여 화상을 인코딩한다. 구현은 이 경우에, 인코딩된 화상을 포함하는 비트스트림을 생성할 필요가 없거나, 디코딩에 사용하기 위해 인코딩된 화상 및 구문을 제공할 필요가 없다.

다시 3DV 컨텐츠를 디코딩하기 위해 도 31의 방법(3100)을 참조하면, 방법(3100)은 단계(3102)에서 시작할 수 있다. 디코더(400)는 주어진 시간에 주어진 뷰로부터 화상이 특정한 3DV 층에 대한 3DV 정보를 기재하는 비트스트림으로부터 인코딩된 화상을 액세스할 수 있다. 예를 들어, 인코딩된 화상은 전술한 임의의 하나 이상의 3DV 층에 대응할 수 있다. 예를 들어, 2D 뷰(1010) 및 깊이 뷰(1008)는 개별적인 화상을 각각 구성할 수 있다. 추가로, 도 11 및/또는 도 12에 대해 전술한 임의의 2D 뷰 층(1118, 1122, 1136, 1218, 1222, 1236) 및/또는 임의의 깊이 층(1120, 1124, 1220, 1224) 각각은 개별적인 화상을 구성할 수 있다. 더욱이, 도 11 및 도 12에 명백히 도시되지 않지만 전술한 다른 3DV 보충 층 각각은 개별적인 화상을 또한 구성할 수 있다. 더욱이, 전술한 임의의 하나 이상의 3DV 뷰는 도 11 및 도 12에 대해 전술한, 시간(T0 및 T1)에 3D 뷰(0, 1, 2)와 같이, 주어진 시간에 주어진 뷰를 구성할 수 있다. 더욱이, 인코딩된 화상은 방법(3000)에 의해 생성된 인코딩된 화상일 수 있다.

단계(3104)에서, 디코더(400)는 특정 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스할 수 있다. 예를 들어, NAL 유닛(17)은 실시예 5에 관해 전술한 바와 같이, 종속성간 구조를 표시하는 구문 요소일 수 있다. 더욱이, 종속성간 구조는 실시예 6 및 7과 표 13 및 표 14에 관해 전술한 바와 같이 표시되거나 운반될 수 있다. 예를 들어, 임의의 하나 이상의 방법(2000, 2200 및 2400)은 종속성간 구조를 운반하거나 표시될 수 있다.

예를 들어, 구문 요소는 실시예 6에 관해 전술한 바와 같이, 층간 종속성 구조를 명백히 운반할 수 있다. 또는 구문 요소는, 실시예 7에 관해 전술한 바와 같이, 층간 종속성이 미리 한정되는 경우에, 특정 3DV 층이 3DV 층 ids를 이용하여 각 3DV 뷰에 대해 제공되는지의 여부를 운반함으로써 층간 종속성 구조를 표시할 수 있다. 더욱이, 종속성간 구조는 많은 상이한 종속성 구조 중 하나에 대응할 수 있다. 예를 들어, 종속성간 구조는 도 15에 관해 설명될 뿐 아니라 실시예 7에 관해 전술한 것에 대응할 수 있다. 더욱이, 전술한 바와 같이, 종속성간 구조 및 구문 요소는 임의의 하나 이상의 NAL 유닛 헤더, SPS, PPS, SEI 또는 슬라이스 헤더로부터 얻어질 수 있다. 더욱이, 디코더는 예를 들어, 임의의 하나 이상의 방법(2100, 2300 및 2500)에 관해 전술한 바와 같이, 구문 요소를 액세스할 수 있다.

단계(3106)에서, 디코더(400)는 적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩할 수 있다. 예를 들어, 디코더(400)는 도 4 및 도 6에 관해 전술한 인코딩된 화상을 디코딩할 수 있다. 더욱이, 디코더(400)는 인코딩된 화상을 디코딩하기 위해 예를 들어 실시예 4에 관해 전술한 구문을 이용하여 하나 이상의 기준 화상 리스트를 구성하고 이용할 수 있다. 따라서, 디코더(400)는 예측 코딩 목적을 위해 인코딩된 화상의 기준을 결정할 수 있고, 적어도 부분적으로 기준에 기초하여 화상을 디코딩할 수 있다.

선택 단계(3108)에서, 디코더(400)는 층간 종속성 구조를 표시하는 출력 포맷으로 디코딩된 화상을 제공할 수 있다. 예를 들어, 디코더(400)의 3DV 기준/출력 버퍼(414)는 층간 종속성 구조에 따라 포맷된 3DV 컨텐츠를 출력할 수 있다. 따라서, 출력은, 디스플레이 상에 3DV 컨텐츠의 적절한 디스플레이를 허용하고 사용자가 3DV 컨텐츠를 볼 수 있도록 하기 위해 구조에 따라 다중 화상 사이의 관련성을 디스플레이 디바이스에 표시할 수 있다. 특히, 출력 포맷은 디코딩된 화상이 구조에 어떻게 적합하게 되는지를 규정하는 구문 요소를 포함할 수 있다. 그러한 구문 요소의 예는 전술한 바와 같이 NAL 유닛(17)을 포함할 수 있다.

다양한 실시예에 따라, 디코더(400)의 층 디코더(402-412)의 세트는 단계(3106)를 수행하도록 구성될 수 있다. 더욱이, 3DV 기준 버퍼(414) 및/또는 층 디코더(402-412)는 하나 이상의 단계(3102, 3104, 및 3108)를 수행하도록 구성될 수 있다. 디코더(400)는 대안적으로 또는 추가로 적어도 방법(3100)을 수행하도록 구성된 프로세서를 포함할 수 있다. 더욱이, 전술한 바와 같이, 도 8의 복조기(822)는 단계(3102)에서 다중 인코딩된 화상이 액세스되는 비트스트림을 포함하는 비디오 신호를 복조하도록 구성될 수 있다. 더욱이, 실시예는, 프로세서가 적어도 방법(3100)을 수행하도록 하기 위한 지령을 그 안에 저장한 프로세서 판독가능 매체를 포함할 수 있다.

전술한 실시예는 본 명세서에 제공된 가르침을 고려하여 당업자에 의해 다양한 방식으로 조합될 수 있다는 것이 이해되어야 한다. 예를 들어, 이제 도 32를 참조하면, 전술한 여러 실시예로부터의 특징들을 병합하는 NAL 유닛 스트립(3200)이 도시된다. 여기서, 스트림(3200)은, 위의 표 3에 제공되고 AVC 드래프트에 한정된 바와 같이, MVC를 위한 서브셋 시퀀스 파라미터 세트에 대한 NAL 유닛(15)(3202)을 포함할 수 있다. 더욱이, 스트림(3200)은 실시예 5 내지 7에 관해 전술한 바와 같이, 적어도 하나의 층간 종속성 구조를 표시하는 3DV에 대한 확장된 SPS를 위한 NAL 유닛(17)을 더 포함할 수 있다. 여기서, 간략함을 위해, 도 10에 도시된 층간 종속성 구조가 스트림(3200)에 사용된다.

도 11 및 도 12와 유사하게, 도 32는 각각 시간(T0) 및 시간(T1)에 대응하는 3DV 뷰의 세트를 제공한다. 전술한 도 11 및 도 12의 절단은 또한 도 32에 적용되고, 도 32의 화살표는 도 11 및 도 12의 화살표와 유사하게 NAL 유닛의 송신 순서를 표시한다. 물론, 도 32는 스트림(3200)을 제외하고 작다. 스트림(3200)은 실질적인 응용에서 다수의 상이한 시간 순간 동안 더 많은 NAL 유닛을 포함한다. 더욱이, 이들 3DV 뷰의 이용은 예에 불과하고, MVC에 관련된 당업자에 의해 이해되는 바와 같이, 더 많은 뷰가 디코더에서 이용되고 및/또는 렌더링될 수 있다. 더욱이, 각 뷰에 대한 2개의 3DV 층의 이용은 또한 예에 불과하고, 여러 개의 추가 3DV 층이 위의 길이에서 논의된 바와 같이 이용될 수 있다.

스트림(3200)을 제외하고, 3개의 3DV 뷰(3206, 3208, 및 3210)는 시간(T0)에 대응하는 한편, 3개의 3DV 뷰(3212, 3214, 및 3216)는 시간(T1)에 대응한다. 도 11 및 도 12와 유사하게, 3DV 뷰 0(3206, 3212)는 도 10의 베이스 뷰(1002)에 대응되는 반면, 3DV 뷰 2(3208, 3214) 및 3DV 뷰 1(3210, 3216)은 각각 도 10의 P 뷰(1006) 및 B 뷰(1004)에 대응할 수 있다. 3DV 뷰(3206)는 NAL 유닛 {16(3220), 14(3222), 및 5(3224)}을 포함하여, 2D 비디오 층(3218)을 구성할 수 있다. 전술한 바와 같이, NAL 유닛(5)은 IDR(instantaneous decoding refresh) 화상의 코딩된 슬라이스의 비디오 데이터를 포함하고, AVC 드래프트에 한정된 바와 같이, 인트라 슬라이스 또는 SI 슬라이스만으로 구성된다. 더욱이, NAL 유닛(14)은 MVC에 따라 다른 뷰에 대한 기본 층으로서 2D 비디오 층(3218)을 나타내는 기준을 MVC 프리픽스로서 포함할 수 있다. 스테레오 프로파일이 사용되는 다른 구현에서, NAL 유닛(14 및 17)은 생략될 수 있다.

NAL 유닛(16)은 예를 들어, 실시예 1에 관해 전술한 3DV 뷰 ID 및 3DV 층 ID를 포함할 수 있다. 여기서, 3DV 뷰 ID 및 3DV 층 ID는 예를 들어, 깊이 층 또는 다른 3DV 층에 대한 층간 기준으로서 2D 비디오 층(3218)을 식별하기 위해 디코더(400)에 의해 사용될 수 있다. 도 32에 도시된 바와 같이, 3DV 뷰(3206)는 실시예 3에 관해 전술한 바와 같이, NAL 유닛{21(3228)}으로 구성된 깊이 층(3226)을 더 포함할 수 있다. 실시예 3에 관해 전술한 바와 같이, NAL 유닛(21)은 MVC NAL 유닛 헤더 확장부에 제공된 다른 정보 이외에 3DV 뷰 ID 및 3DV 층 ID를 포함할 수 있다.

실시예 4 내지 7에 관해 전술한 바와 같이, 디코더(400)는 NAL 유닛(17)에 의해 제공된 층간 종속성 구조와 같은 SPS에 제공된 정보를 사용하여 기준 화상 리스트를 재구성할 수 있고, 3DV 컨텐츠를 적절히 디코딩하기 위해 기준 화상 리스트를 사용한다. 예를 들어, 3DV 뷰 ID 및 3DV 층 ID에 기초하여, 디코더(400)는 SPS에서 운반된 층간 종속성 구조에서의 대응하는 층{이 경우에 깊이 층(3226)}의 역할을 결정할 수 있다. 여기서, 3DV 뷰 ID 및 3DV 층 ID는, 2D 비디오 층(3218)이 깊이 층(3226)을 디코딩하기 위해 기준으로서 사용되어야 한다는 것을 표시할 수 있다.

또한 도 32에 도시된 바와 같이, 시간(T0) 동안 각 다른 3DV 뷰는 3DV 뷰에서, 각각 2D 비디오 층 및 깊이 층에 대응하는 NAL 유닛(20 및 21)으로 구성된다. 뷰(3208 및 3210) 내의 NAL 유닛은 도 12에 관해 전술한 바와 같이, 뷰(1206 및 1208)에서의 NAL 유닛과 동일한 기능을 가질 수 있다. 유사하게, 시간(T1)의 3DV 뷰의 세트는, 3DV 뷰(3206)에서의 NAL 유닛(5)이 3DV 뷰(3212)에서의 NAL 유닛(1)으로 대체된다는 점을 제외하고 시간(T0) 동안 3DV 뷰의 세트와 본질적으로 동일한 방식으로 구성된다. 실시예 3에 관해 전술한 바와 같이, NAL 유닛(1)은 비-IDR 화상의 코팅된 슬라이스의 비디오 데이터를 포함한다.

이제 도 33을 참조하면, 층간 종속성 구조를 이용함으로써 네트워크 트래픽을 관리하는 시스템(3300)이 도시된다. 시스템(3300)은 도 7 및 도 8에 관해 전술한 송신 시스템/장치(700) 및 수신 시스템/장치(800)를 포함할 수 있다. 특히, 송신 시스템/장치(700)의 인코더(710)는 본 명세서에 기재된 다양한 구현에 관해 전술한 인코더(300)에 의해 구현될 수 있다. 유사하게, 송신 시스템/장치(800)의 디코더(820)는 본 명세서에 기재된 다양한 구현에 관해 전술한 디코더(400)에 의해 구현될 수 있다. 시스템(3300)의 입력 및 출력은 도 33에서 "입력 비디오(들)" 및 "출력 비디오"로 기술된다. 적어도 이러한 구현에서, 이들은 다중 층을 포함하는 3D 비디오를 언급한다는 것이 명백해야 한다.

시스템(3300)은 송신 시스템/장치(700)와 수신 시스템/장치(800) 사이의 네트워크(3350)에 제공된 네트워크 디바이스/시스템(3301)을 더 포함할 수 있다. 네트워크(3350)는 예를 들어 인터넷, 광역 네트워크 또는 근거리 네트워크(LAN)와 같은 유선 네트워크, 또는 무선 셀룰러 네트워크 또는 무선 LAN과 같은 무선 네트워크일 수 있다. 다시, 네트워크 디바이스(3301)는 유선 네트워크에서의 라우터로서 또는 무선 네트워크에서의 기지국으로서 구현될 수 있다. 도 33에 도시된 바와 같이, 네트워크 디바이스(3301)는 파서(3302)와, 제어기(3304)와, 네트워크 트래픽 모니터(3306)와, 송출 모듈(3308)을 포함할 수 있다. 추가적으로, 네트워크 디바이스(3301)의 각 요소는 하드웨어 요소 또는 소프트웨어와 하드웨어의 조합으로서 구현될 수 있다. 네트워크 디바이스(3301) 및 그 요소의 기능은 네트워크 디바이스(3301)에 의해 구현될 수 있는 도 34의 방법(3400)에 관해 아래에 더 구체적으로 설명된다.

계속해서 도 33을 참조하는 도 34를 참조하면, 네트워크 리소스를 관리하는 방법(3400)이 제공된다. 방법(3402)은 단계(3402)에서 시작하며, 단계(3402)에서 파서(3302)는 구조에 기초하여 적어도 3DV 층의 서브셋에 대한 송출 우선 순위를 결정하기 위해 3DV 층에 대한 층간 종속성 구조를 표시하는 수신된 구문 요소를 파싱할 수 있다. 예를 들어, 구문 요소는, 실시예 5-7에 관해 전술한 바와 같이, 예를 들어 표 13 또는 표 14에 따라 종속성간 구조를 표시할 수 있는, NAL 유닛(17)에서의 송신 시스템/장치(700)로부터 수신될 수 있다.

여기서, 파서(3302)는 종속성간 구조에 표시된 3DV 층의 중요성에 따라 송출 우선 순위를 결정할 수 있다. 예를 들어, 3DV 층 ids는, 가장 낮은 수가 가장 높은 우선 순위에 대응하는 반면, 가장 높은 수가 가장 낮은 우선 순위에 대응하도록 구성될 수 있다. 도 15의 종속성간 구조 및 표 1의 3DV 층 식별자가 이용되면, 파서(3302)는, 3DV 층 식별자에 기초하여, 2D 비디오 층이 가장 높은 우선 순위를 갖는다는 것과, 깊은 층이 다음으로 가장 높은 우선 순위를 갖는다는 것 등을 결정할 수 있다. 특히, 3DV 층 식별자는 3DV 컨텐츠에 대한 기여의 중요성에 따라 순서 배치된다. 예를 들어, 도 2를 참조하면, 2D 비디오의 깊이 층(204)은 폐색 비디오 층(206) 또는 폐색 깊이 층(208)보다 더 중요한 것으로 간주될 수 있는데, 그 이유는 뷰에서의 메인 대상에 3차원 효과를 제공하는 반면, 폐색 비디오 층(206) 또는 폐색 깊이 층(208)은 그렇지 않기 때문이다. 상이한 3DV 층 사이의 중요성을 결정하는 변형이 적용될 수 있다.

예를 들어, 하나의 변형은, 층이 층간 종속성 구조에서 갖는 기준의 수, 또는 특정 층이 포함될 수 있는 기준 화상 리스트의 수에 따라 층의 우선 순위를 기초하는 것이다. 예를 들어, 층간 종속성 구조 및/또는 대응하는 층간 기준을 결정하는 것에 응답하여, 파서(3302)는 가증 큰 층에 의해 참조되는 층에 가장 높은 우선 순위를 할당하는 한편, 가장 적은 층에 의해 참조되는 층에 가장 낮은 우선 순위를 할당할 수 있다. 예를 들어, 도 15의 층간 종속성 구조에서, 2D 비디오 층은 3개의 층에 의해 참조되는 바와 같이 가장 높은 우선 순위를 갖는 한편, 하나의 층에 의해 참조되는 깊이 층은 다음으로 가장 높은 우선 순위를 갖는 것 등이 이루어진다.

다른 변형은 층을 적절히 인코딩/디코딩하기 위해 이용된 기준의 수에 따라 3DV 층을 순서 배치하는 것에 관한 것이다. 예를 들어, 실시예 7에 관해 전술한 종속성간 구조에서, 폐색 비디오, 폐색 깊이, 및 투명 층에는 이들 각각이 2개의(층간) 기준을 이용하기 때문에 가장 낮은 우선 순위가 주어질 수 있고, 깊이 층에는 하나의(층간) 기준을 이용하기 때문에 다음으로 더 높은 우선 순위가 주어질 수 있고, 2D 비디오 층에는 어떠한 (층간) 기준도 이용하지 않기 때문에 가장 높은 우선 순위가 주어질 수 있다.

더욱이, 상이한 조합은 우선 순위를 결정하는데 적용될 수 있다. 예를 들어, 3D 뷰를 렌더링하는데 있어서의 주어진 층의 중요성과, 주어진 층을 참조하는 층의 수 모두를 고려한 가중치 함수는 송출 우선 순위를 결정하는데 사용될 수 있다. 더욱이, 층간 기준 이외에도 다른 유형의 기준이 고려될 수 있다는 것이 이해되어야 한다. 예를 들어, 전술한 우선 순위 결정은 시간 기준, 및 특정 층이 종속하는 뷰간 기준을 추가로 고려할 수 있다. 따라서, 전술한 이유는 임의의 유형의 기준 및/또는 시간 기준 및 뷰간 기준 및/또는 층간 기준과 같은 기준의 조합에 적용될 수 있다.

단계(3404)에서, 파서(3302)는 3DV 층을 구성하기 위한 데이터 유닛을 수신할 수 있다. 예를 들어, 다시 도 11을 참조하면, 파서(3302)는 2D 비디오 층(1118)을 구성하도록 이용되는 NAL 유닛(16, 14, 및 5)을 수신할 수 있다. 파서(3302)는 깊이 층(1120) 등을 구성하는데 사용되는 NAL 유닛(16 및 20)을 추가로 수신할 수 있다.

단계(3406)에서, 네트워크 트래픽 모니터(3306)는 네트워크(3350) 상의 트래픽/네트워크 혼잡도를 측정할 수 있다. 다양한 알려진 네트워크 트래픽 모니터는 당업자에게 이해되는 바와 같이 본 명세서에 사용될 수 있다.

단계(3408)에서, 네트워크 트래픽 모니터(3306)로부터 수신된 혼합도 측정치에 기초하여 제어기(3304)는, 제 1 혼잡도 임계치가 단계(3406)에서 측정된 네트워크 트래픽에 의해 충족되는 지를 결정할 수 있다. 본 명세서에서, 선택적으로, 복수의 상이한 혼잡도 임계치가 이용될 수 있고, 전술한 바와 같이, 층간 종속성 구조에 기초할 수 있는 결정된 송출 우선 순위에 따라 3DV 층과 연관될 수 있다는 것이 이해되어야 한다. 예를 들어, 하나의 혼합도 임계치는 3DV 컨텐츠를 렌더링하는데 이용된 각 3DV 층에 대해, 또는 각 드롭가능한 3DV 층에 대해 사용될 수 있다. 예를 들어, 다시 표 1을 참조하면, 송출 우선 순위가 단계(3402)에 관해 전술한 3DV 층 ID 번호에 따라 결정되면, 제 1 임계치는 투명 층과 연관될 수 있고, 제 1 임계치보다 더 높은 레벨의 네트워크 혼잡도에 대응하는 제 2 임계치는 폐색 깊이 층과 연관될 수 있고, 제 1 및 제 2 임계치보다 더 높은 레벨의 네크워크 혼잡도에 대응하는 제 3 임계치는 폐색 비디오 층 등과 연관될 수 있다.

따라서, 단계(3412)에서 제 1 혼잡도 임계치가 충족되면, 제어기(3304)는 가장 낮은 우선 순위를 갖는 3DV 층에 대해 단계(3404)에서 수신된 유닛 또는 NAL 유닛을 드롭할 수 있고, 나머지 3DV 층(다음 임계치가 충족되지 않으면)에 대한 유닛을 수신 시스템 장치(800)로 송출하도록 송출 모듈(3308)에게 지시할 수 있다. 제 1 혼잡도 임계치가 충족되지 않으면, 제어기(3304)의 방향 하에 송출 모듈(3308)이 단계(3410)에서 모든 3DV 층에 대한 유닛을 송출할 수 있다. 임계치 결정이 3DV 층의 각 N 번호에 대해 반복된다는 것이 이해되어야 한다. 예를 들어, 층의 N 번호는 3DV 컨텐츠를 렌더링하기 위해 하나 이상의 뷰 내에 이용된 층의 수에 대응할 수 있다. 이와 같이, 임계치 결정은 각 임계치에 대해 반복될 수 있고, 유닛 드롭핑 및 송출 결정은 그 결과에 따라 이루어질 수 있다.

예를 들어, 단계(3412) 이후에, 제 2 임계치가 충족되지 않으면, N-1 3DV 층에 대한 유닛은 단계(3412)에서 송출 모듈(3308)에 의해 수신 유닛(800)으로 송출될 수 있다. 대안적으로, 단계(3412) 이후에, 제어기(3304)가 제 1 N-2 임계치가 충족되지 않는다는 것을 결정하면, 방법은 단계(3414)로 진행하고, 이 단계(3414)에서 제어기(3304)는, (N-1)번째 혼잡도 임계치가 충족되는 지를 결정할 수 있다. (N-1)번째 혼잡도 임계치가 충족되지 않으면, 제어기(3304)의 방향 하에 송출 모듈(3308)은 단계(3416)에서, 가장 높은 2개의 우선 순위를 갖는 3DV 층에 대한 유닛을 송출할 수 있다. 더욱이, 단계(3416)에서, 제어기(3304)는, N-2 가장 낮은 우선 순위의 3DV 층에 대한 임계치가 충족되기 때문에 N-2 가장 낮은 우선 순위의 3DV 층을 드롭시킬 수 있다. (N-1)번째 혼잡도 임계치가 충족되면, 제어기(3304)의 방향 하에 송출 모듈(3308)은 단계(3418)에서, 가장 높은 우선 순위를 갖는 3DV 층에 대한 유닛을 송출할 수 있다. 더욱이, 제어기(3304)는 (N-1) 가장 낮은 우선 순위의 3DV 층에 대한 유닛을 드롭시킬 수 있다. 따라서, 방법(3400)은, M번째 임계치가 충족되고 (M+1)번째 임계치가 충족되지 않을 때, M개의 가장 낮은 우선 순위의 3DV에 대한 유닛, 예를 들어 NAL 유닛이 드롭되고 나머지 더 높은 우선 순위의 층이 송출되도록 임계치 결정을 통해 진행할 수 있다. 이 예에서, 수신 장치/시스템(800)이 적어도 일부 컨텐츠를 디코딩할 수 있는 것을 보장하기 위해 적어도 가장 높은 우선 순위의 층이 드롭되지 않는 것을 보장하도록 N-1 임계치만이 고려되는 것이 주지되어야 한다. 그러나, 방법(3400)의 변형이 이용될 수 있다. 또한 방법(3400)의 하나 이상의 단계가 네트워크 혼잡도에서의 임의의 변화를 설명하기 위해 주기적으로 반복될 수 있다는 것이 주지되어야 한다.

방법(3400) 이외에 다른 구현이 가능하다는 것이 명백하다. 하나의 그러한 구현은 더 일반적이고, 3차원 비디오(3DV) 층 중에서 층간 종속성 구조를 표시하는 구문 요소를 액세스하는 것을 포함한다. 이러한 액세스는 예를 들어, 단계(3402)에 도시된 바와 같이 수신된 구문 요소를 파싱함으로써 수행될 수 있다.

구현은 또한 구조에 기초하여 3DV 층들의 특정 3DV 층에 대한 송신 우선 순위를 결정한다. 송신 우선 순위는 예를 들어, 화상(또는 화상의 부분)을 송출하거나, 스트림으로부터 화상(또는 화상의 부분)을 드롭하는 것에 관련된 우선 순위일 수 있다. 송신 우선 순위는 예를 들어, 기준(층간 기준, 뷰간 기준, 및/또는 시간 기준)으로서 얼마나 많은 층이 특정 3DV 층을 이용하는 지를 결정함으로써 결정될 수 있다.

구현은 또한 특정 3DV 층에 속하는 인코딩된 데이터를 송신할 지의 여부를 결정한다. 송신할 지의 여부에 대한 결정은 특정 3DV 층에 대한 결정된 송신 우선 순위, 및 네트워크 혼잡도의 표시에 기초한다. 네트워크 혼잡도는 예를 들어 단계(3406)에서와 같이 결정될 수 있다. 네트워크 혼잡도의 표시는 예를 들어 단계(3408 및 3414)에서와 같이, 하나 이상의 혼잡도 임계치가 충족되는 지를 표시하는 플래그(또는 플래그의 세트)를 포함할 수 있다. 다른 표시자는 예를 들어, 네트워크 활동도(처리량 속도, 에러율, 재송신 요청의 수 또는 비율, 확인 응답의 수 또는 비율, 등)의 측정치를 포함할 수 있다.

송신 우선 순위와 같은 추가 구현이 다루어지고, 특정 3DV 층에 대한 액세스된 송신 우선 순위 및 네트워크 혼잡도의 표시에 기초하여 특정 3DV 층에 속하는 인코딩된 데이터를 송신할 지의 여부를 결정한다. 그러나, 이러한 구현은 3DV 층 중에서 층간 종속성 구조를 표시하는 구문을 액세스할 필요가 없다. 이러한 구현은 또한 층간 종속성 구조에 기초하여, 송신 우선 순위를 결정할 필요가 없다.

또한, 송신 우선 순위가 전체적으로 또는 부분적으로 다른 정보에 기초할 수 있다는 것이 명백하다. 그러한 정보는 예를 들어, AVC, MVC, 또는 SVC 시스템에 관련된 예를 들어 시간 레벨 ID, 우선 순위 ID, 또는 뷰 ID를 포함할 수 있다.

따라서, 특정한 특징 및 양상을 갖는 하나 이상의 구현이 제공된다. 그러나, 설명된 구현의 특징 및 양상은 또한 다른 구현에 적응될 수 있다.

본 출원에 기재된 여러 개의 구현 및 특징은 H.264/MPEG-4 AVC(AVC) 표준, 또는 MVC 확장부를 갖는 AVC 표준, 또는 SVC 확장부를 갖는 AVC 표준의 정황에서 사용될 수 있다. 추가적으로, 구현은 (a) MPEG 및 ITU-T로부터의 JCT-VC(Joint Collaborative Team for Video Coding), (b) MPEG으로부터의 고성능 비디오 코딩 그룹, (c) ITU-T의 VCEG(Video Coding Experts Group)로부터의 차세대 비디오 코딩 그룹, (d) MPEG으로부터의 3D 비디오 코딩 그룹, (e) 하나 이상의 MPEG 또는 ITU-T와 연관된 임의의 다른 그룹, 또는 (f) 회사에 의해 개발된 표준(전용 또는 공공)으로부터 코딩 표준 또는 코딩 제안의 정황에서 사용될 수 있다. 그러나, 이들 구현 및 특징은 다른 표준(기존의 또는 미래의)의 정황에서, 또는 표준을 수반하지 않는 정황에서 사용될 수 있다.

추가로, 구현은 SEI 메시지, 슬라이스 헤더, 다른 높은 레벨의 구문, 비-높은-레벨의 구문, 대역 외 정보, 데이터스트림 데이터, 및 암시적 신호 발신(implicit signaling)을 포함하지만, 여기에 한정되지 않은 다양한 기술을 이용하여 정보를 신호 발신할 수 있다. 따라서, 본 명세서에 기재된 구현이 특정 정황에서 기재되었지만, 그러한 설명은 특징 및 개념을 그러한 구현 또는 정황에 한정시키는 것으로 고려되지 않는다.

추가로, 많은 구현은 인코더, 디코더, 디코더로부터의 출력을 처리하는 후치-프로세서, 또는 인코더에 입력을 제공하는 전치-프로세서 중 하나 이상에서 구현될 수 있다. 더욱이, 다른 구현은 이러한 개시에 의해 구상된다.

본 명세서에서 "일실시예" 또는 "실시예" 또는 "하나의 구현" 또는 "구현" 뿐 아니라 다른 변형의 참조는, 실시예에 관련하여 설명된 특정한 특징, 구조, 특성 등이 적어도 하나의 실시예에 포함된다는 것을 의미한다. 따라서, 본 명세서 전체에 여러 위치에서 나타나는 "일실시예" 또는 "실시예" 또는 "하나의 구현" 또는 "구현" 및 임의의 다른 변형에서의 문장의 출현은 모두 동일한 실시예를 언급할 필요는 없다.

예를 들어 "A/B", "A 및/또는 B" 및 "A 및 B의 적어도 하나"의 경우에서, 임의의 "/", "및/또는", 및 "적어도 하나"의 사용은 제 1 기술된 옵션(A)만의 선택, 또는 제 2 기술된 옵션(B)만의 선택, 양쪽 옵션(A 및 B)의 선택을 수용하도록 의도된다는 것이 이해될 것이다. 추가 예로서, "A, B, 및/또는 C" 및 "A, B, 및 C의 적어도 하나" 및 "A, B, 또는 C의 적어도 하나"의 경우에, 그러한 문장은 제 1 기술된 옵션(A)만의 선택, 또는 제 2 기술된 옵션(B)만의 선택, 또는 제 3 기술된 옵션(C)만의 선택, 또는 제 1 및 제 2 기술된 옵션(A 및 B)만의 선택, 또는 제 1 및 제 3 기술된 옵션(A 및 C)만의 선택, 또는 제 2 및 제 3 기술된 옵션(B 및 C)만의 선택, 또는 모든 3가지 옵션(A 및 B 및 C)의 선택을 수용하도록 의도된다. 이것은 기술된 많은 항목에 대해, 당업자에게 쉽게 명백한 바와 같이 확장될 수 있다.

또한, 본 명세서에 사용된 바와 같이, "화상" 및 "이미지"라는 용어는 상호 연관되게 사용되고, 예를 들어 비디오 시퀀스로부터 스틸 이미지의 전부 또는 부분(일부분), 또는 화상의 전부 또는 부분(일부분)을 언급한다. 더 구체적으로, 화상은, 예를 들어 이미지 또는 비디오 데이터의 임의의 세트를 언급한다. 화상은 예를 들어, 픽셀, 매크로블록, 슬라이스, 프레임, 필드, 전체 화상, 화상에서의 대상의 경계를 이루는 영역, 화상의 전경, 화상의 배경, 또는 화상에서의 (x,y) 좌표의 특정 세트일 수 있다. 유사하게, 화상의 "부분"은 예를 들어, 픽셀, 매크로블록, 슬라이스, 프레임, 필드, 전체 화상, 화상에서의 대상의 경계를 이루는 영역, 화상의 전경, 화상의 배경, 또는 화상에서의 (x,y) 좌표의 특정 세트일 수 있다. 다른 예로서, 깊이 화상(깊이 이미지)은 예를 들어, 대응하는 비디오 프레임의 단일 매크로블록에 대한 깊이 정보만을 포함하는 완전한 깊이 맵 또는 부분 깊이 맵일 수 있다.

추가로, 층(또는 "비디오" 또는 "이미지" 또는 "화상")이 임의의 다양한 비디오 구성요소 또는 그 조합을 언급할 수 있다는 것을 당업자는 인식할 것이다. 그러한 구성요소, 또는 그 조합은 예를 들어 휘도, 색차, Y(YUV 또는 YCbCr 또는 YPbPr 또는 YPcPr의), U(YUV의), V(YUV의), Cb(YCbCr의), Cr(YCbCr의), Pb(YPbPr의), Pr(YPbPr 또는 YPcPr의), Pc(YPcPr의), 적색(RGB의), 녹색(RGB의), 청색(RGB의), S-비디오, 및 임의의 이들 구성요소의 음 또는 양을 포함한다. 더욱이, 이들 상이한 유형의 구성요소는 설명된 구현과 함께 사용될 수 있다. 예를 들어, 구성요소의 YUV 세트는 하나 이상의 설명된 구현과 함께 사용될 수 있고, 기존의 구현에서, YUV는 매크로블록 레벨에서 조합된다. 추가로, 다른 화상 유형은 본 명세서에 기재된 구현 및 특징과 함께 사용될 수 있다. 그러한 다른 화상 유형은 예를 들어, 2D 비디오, 깊이, 폐색 또는 배경, 투명 또는 에지 불연속성 이외의 다른 정보를 포함하는 화상을 포함할 수 있다.

추가로, 본 출원 또는 청구항은 다양한 부분의 정보를 "결정"하는 것을 언급할 수 있다. 정보를 결정하는 것은 예를 들어, 정보를 추정하는 것, 정보를 계산하는 것, 정보를 예측하는 것, 데이터의 리스트 또는 다른 세트로부터 정보를 식별하는 것, 또는 메모리로부터 정보를 검색하는 것 중 하나 이상을 포함할 수 있다.

유사하게, "액세스"는 광범위한 용어인 것으로 의도된다. 정보의 부분을 액세스하는 것은 예를 들어, 정보를 사용하고, 저장하고, 보내고, 송신하고, 수신하고, 검색하고, 변형하고, 파싱하거나, 제공하는 임의의 동작을 포함할 수 있다.

많은 구현은 "기준"을 언급한다. "기준"은 예를 들어, 기준으로부터의 픽셀-기반의 미분이 소스를 예측하는데 사용되는 전형적인 기준일 수 있다. 기준은 또한, 또는 대안적으로, 소스를 예측하는데 상이한 방식으로 사용될 수 있다. 예를 들어, 하나의 구현에서, 에지 장소 또는 에지 불연속성의 측정은 소스를 예측하는데 사용된다. 일반적으로, 임의의 정보는 소스를 예측하는데 도움을 주기 위해 기준으로부터 차용될 수 있다. 픽셀 값, 에지 위치, 및 에지 불연속성의 측정과 같은 정보의 예가 주어지지만, 다른 유형의 정보도 또한 가능하다.

본 명세서에 기재된 구현은 예를 들어, 방법 또는 프로세스, 장치, 소프트웨어 프로그램, 데이터 스트림, 또는 신호로 구현될 수 있다. 단일 형태의 구현의 정황에서 논의되더라도(예를 들어, 방법만으로서 논의되더라도), 논의된 특징의 구현은 또한 다른 형태(예를 들어, 장치 또는 프로그램)로 구현될 수 있다. 장치는 예를 들어, 적절한 하드웨어, 소프트웨어, 및 펌웨어로 구현될 수 있다. 방법은 예를 들어, 일반적으로 컴퓨터, 마이크로프로세서, 집적 회로, 또는 프로그래밍가능 논리 디바이스를 포함하는 처리 디바이스를 언급하는 프로세서와 같은 장치로 구현될 수 있다. 프로세서는 또한 예를 들어, 컴퓨터, 셀 폰, 휴대용/개인용 디지털 단말기("PDA"), 및 최종 사용자간의 정보의 통신을 용이하게 하는 다른 디바이스와 같은 통신 디바이스를 포함한다.

본 명세서에 기재된 다양한 프로세스 및 특징의 구현은 특히, 예를 들어 데이터 인코딩 및 디코딩과 연관된 기기 또는 응용과 같은 다양한 상이한 기기 또는 응용에서 구현될 수 있다. 그러한 기기의 예는 인코더, 디코더, 디코더로부터 출력을 처리하는 후치-프로세서, 인코더에 입력을 제공하는 전치-프로세서, 비디오 코더, 비디오 디코더, 비디오 코덱, 웹 서버, 셋탑 박스, 랩탑, 개인용 컴퓨터, 셀 폰, PDA, 및 다른 통신 디바이스를 포함한다. 명백한 바와 같이, 기기는 이동형일 수 있고, 심지어 이동 차량에 설치될 수 있다.

추가로, 방법은 프로세서에 의해 수행되는 지령에 의해 구현될 수 있고, 그러한 지령(및/또는 구현에 의해 생성된 데이터 값)은 예를 들어, 집적 회로, 소프트웨어 캐리어와 같은 프로세서-판독가능 매체, 또는 예를 들어 하드 디스크, 컴팩트 디스켓, 랜덤 액세스 메모리("RAM"), 또는 판독 전용 메모리("ROM")와 같은 다른 저장 디바이스 상에 저장될 수 있다. 지령은 프로세서-판독가능 매체 상에서 확실히 구현된 응용 프로그램을 형성할 수 있다. 지령은 예를 들어, 하드웨어, 펌웨어, 소프트웨어, 또는 그 조합에 있을 수 있다. 지령은 예를 들어, 운영 체제, 개별적인 응용, 또는 이들 2개의 조합에서 발견될 수 있다. 그러므로, 프로세서는, 예를 들어, 프로세스를 수행하도록 구성된 디바이스, 및 프로세스를 수행하기 위한 지령을 갖는 프로세서-판독가능 매체(저장 디바이스와 같은)를 포함하는 디바이스로서 특징지어진다. 더욱이, 프로세서-판독가능 매체는 지령에 더하여 또는 이 외에도, 구현에 의해 생성된 데이터 값을 저장할 수 있다.

당업자에게 명백한 바와 같이, 구현은 예를 들어 저장되거나 송신될 수 있는 정보를 전달하도록 포맷된 다양한 신호를 생성할 수 있다. 정보는 예를 들어, 방법을 수행하기 위한 지령, 또는 설명된 구현 중 하나의 구현에 의해 생성된 데이터를 포함할 수 있다. 예를 들어, 신호는, 설명된 실시예의 구문을 기록 또는 판독하기 위한 역할을 데이터로서 전달하거나, 설명된 실시예에 의해 기록된 실제 구문-값을 데이터로서 전달하도록 포맷될 수 있다. 그러한 신호는 예를 들어, 전자기파(예를 들어 스펙트럼의 무선 주파수 부분을 이용하여) 또는 기저 대역 신호로서 포맷될 수 있다. 포맷은 예를 들어 데이터 스트림을 인코딩하는 것과, 인코딩된 데이터 스트림으로 캐리어를 변조하는 것을 포함할 수 있다. 신호가 전달하는 정보는 예를 들어 아날로그 또는 디지털 정보일 수 있다. 신호는 알려진 바와 같이, 다양한 상이한 유선 또는 무선 링크를 통해 송신될 수 있다. 신호는 프로세서-판독가능 매체 상에 저장될 수 있다.

구현에 대한 상기 설명에서, 다양한 특징이 개시를 합리화하고 하나 이상의 다양한 양상을 이해하는데 도움을 주기 위해 단일 구현, 도면, 또는 설명에서 함께 종종 그룹화된다는 것이 이해되어야 한다. 그러나, 이러한 개시의 방법은, 본 발명이 각 청구항에 명백히 언급된 것보다 더 많은 특징을 요구한다는 의도를 반영하는 것으로 해석되지 않는다. 오히려, 다음의 청구항이 반영할 때, 본 발명의 양상은 단일의 이전에 개시된 실시예의 모든 특징보다 적게 있을 수 있다. 따라서, 각 청구항이 또한 개별적인 구현을 제공한다는 것이 이해된다.

다수의 구현이 설명되었다. 그럼에도 불구하고, 다양한 변형이 이루어질 수 있다는 것이 추가로 이해될 것이다. 예를 들어, 상이한 구현의 요소는 다른 구현을 생성하도록 조합되고, 보충되고, 변형되거나, 제거될 수 있다. 추가로, 동작은 기능 블록 중에서 상호 교환될 수 있다. 더욱이, 다른 구조 및 프로세스가 개시된 것으로 대체될 수 있고, 그 결과적인 구현이 개시된 구현과 적어도 실질적으로 동일한 결과(들)를 달성하기 위해 적어도 실질적으로 동일한 방식(들)으로 적어도 실질적으로 동일한 기능(들)을 수행한다는 것이 당업자는 이해할 것이다. 따라서, 이들 및 다른 구현은 본 출원에 의해 구상되고, 다음의 청구 범위 내에 있다.

Claims (32)

1. 방법으로서,
   3DV(three-dimensional video: 3차원 비디오) 층들 중에서 층간(inter-layer) 종속성 구조를 표시하는 구문(syntax) 요소를 생성하는 단계로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소를 생성하는 단계와;
   층간 종속성 구조에 기초하여, 3DV 층들 중 하나의 층으로부터 화상에 대한 층간 예측 기준을 식별하는 단계와;
   적어도 부분적으로 층간 예측 기준에 기초하여 화상을 인코딩하는 단계를
   포함하는, 방법.
2. 제 1항에 있어서,
   인코딩된 화상을 포함하는 비트스트림을 생성하는 단계와;
   인코딩된 화상을 디코딩하는데 사용하기 위해 인코딩된 화상 및 구문 요소를 제공하는 단계를
   더 포함하는, 방법.
3. 제 2항에 있어서, 구문 요소는 비트스트림으로부터 분리되는, 방법.
4. 제 2항에 있어서, 구문 요소는 비트스트림 내에 포함되는, 방법.
5. 제 2항에 있어서, 구문 요소는 NAL(Network Abstraction Layer: 네트워크 요약 층) 유닛 헤더, SPS(Sequence Parameter Set: 시퀀스 파라미터 세트), PPS(Picture Parameter Set: 화상 파라미터 세트), SEI(Supplemental Enhancement Information: 보충 개선 정보) 또는 슬라이스 헤더 중 적어도 하나 내에서 구성되는, 방법.
6. 제 2항에 있어서, 구문 요소는 층간 종속성 구조를 확실히 운반하는, 방법.
7. 제 6항에 있어서, 구문 요소는 각각의 주어진 3DV 층에 대한 3DV 층 식별자를 제공하고, 3DV 층 식별자는 대응하는 주어진 3DV 층에 대한 층간 예측 기준을 표시하는, 방법.
8. 제 1항에 있어서, 층간 종속성 구조는 미리 한정되고, 구문 요소는, 특정한 3DV 층이 각 3DV 뷰(view)에 대해 존재하는 지의 여부를 운반함으로써 층간 종속성 구조를 표시하는, 방법.
9. 삭제
10. 제 1항에 있어서, 층간 종속성 구조는, a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색 비디오 층에 대한 층간 예측 기준이 2D 비디오 층 및 깊이 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 2D 비디오 층 및 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층 및 깊이 층이라는 것 중 적어도 하나를 추가로 규정하는, 방법.
11. 제 1항에 있어서, 구문 요소를 생성하는 단계와, 층간 예측 기준을 식별하는 단계와, 화상을 인코딩하는 단계는 하나 이상의 인코더에서 수행되는, 방법.
12. 장치로서,
    3DV(three-dimensional video: 3차원 비디오) 층들 중에서 층간 종속성 구조를 표시하는 구문 요소를 생성하는 수단으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소를 생성하는 수단과;
    층간 종속성 구조에 기초하여, 3DV 층들 중 하나의 층으로부터 화상에 대한 층간 예측 기준을 식별하는 수단과;
    적어도 부분적으로 층간 예측 기준에 기초하여 상기 화상을 인코딩하는 수단을
    포함하는, 장치.
13. 프로세서 판독가능 매체로서,
    3DV(3차원 비디오) 층들 중에서 층간 종속성 구조를 표시하는 구문 요소를 생성하는 것으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소를 생성하는 것과;
    층간 종속성 구조에 기초하여, 3DV 층들 중 하나의 층으로부터 화상에 대한 층간 예측 기준을 식별하는 것과;
    적어도 부분적으로 층간 예측 기준에 기초하여 화상을 인코딩하는 것을
    프로세서가 적어도 수행하도록 하기 위한 지령을 저장한, 프로세서 판독가능 매체.
14. 장치로서,
    3DV(3차원 비디오) 층들 중에서 층간 종속성 구조를 표시하는 구문 요소를 생성하는 것으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소를 생성하는 것과;
    층간 종속성 구조에 기초하여, 3DV 층들 중 하나의 층으로부터 화상에 대한 층간 예측 기준을 식별하는 것과;
    적어도 부분적으로 층간 예측 기준에 기초하여 화상을 인코딩하는 것을
    적어도 수행하도록 구성된 프로세서를 포함하는, 장치.
15. 장치로서,
    3DV(3차원 비디오) 층들 중에서 층간 종속성 구조를 표시하며, 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 구문 요소를 생성하도록 구성되고, 층간 종속성 구조에 기초하여, 3DV 층들의 하나의 층으로부터 화상에 대한 층간 예측 기준을 식별하도록 구성된 3DV 기준 버퍼로서, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 3DV 기준 버퍼;
    적어도 부분적으로 층간 예측 기준에 기초하여 화상을 인코딩하도록 구성된 3DV 층 인코더를
    포함하는, 장치.
16. 제 15항에 있어서, 3DV 층 인코더는, 인코딩된 화상을 포함하는 비트스트림을 생성하고, 인코딩된 화상을 디코딩하는데 사용하기 위해 인코딩된 화상 및 구문 요소를 제공하도록 추가로 구성되는, 장치.
17. 장치로서,
    3DV 층들 중에서 층간 종속성 구조를 표시하며, 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 구문 요소를 생성하도록 구성되고, 층간 종속성 구조에 기초하여, 3DV 층들의 하나의 층으로부터 화상에 대한 층간 예측 기준을 식별하도록 구성된 3DV 기준 버퍼로서, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 3DV 기준 버퍼;
    적어도 부분적으로 층간 예측 기준에 기초하여 화상을 인코딩하도록 구성된 3DV 층 인코더와;
    인코딩된 화상을 포함하는 신호를 변조하도록 구성된 변조기를
    포함하는, 장치.
18. 정보를 포함하도록 포맷된 비디오 신호를 저장한 컴퓨터 판독가능 기록 매체로서, 비디오 신호는,
    3DV 층들 중에서 층간 종속성 구조를 표시하는 구문 요소에 대한 하나 이상의 구문 부분으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것인, 하나 이상의 구문 부분과;
    적어도 부분적으로, 층간 종속성 구조로부터 층간 예측 기준에 기초하여 인코딩되는 인코딩된 화상에 대한 하나 이상의 화상 부분을 포함하고,
    인코딩된 화상 및 구문 요소는 인코딩된 화상을 디코딩하는데 사용하기 위해 제공되는, 컴퓨터 판독가능 기록 매체.
19. 삭제
20. 비디오 신호 구조를 저장한 프로세서 판독가능 매체로서,
    3DV 층들 중에서 층간 종속성 구조를 표시하는 구문 요소에 대한 하나 이상의 구문 부분으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 하나 이상의 구문 부분과;
    적어도 부분적으로, 층간 종속성 구조로부터 층간 예측 기준에 기초하여 인코딩되는 인코딩된 화상에 대한 하나 이상의 화상 부분을 포함하고,
    인코딩된 화상 및 구문 요소는 인코딩된 화상을 디코딩하는데 사용하기 위해 제공되는, 프로세서 판독가능 매체.
21. 방법으로서,
    비트스트림으로부터 인코딩된 화상을 액세스하는 단계로서, 화상은 주어진 시간에, 주어진 뷰로부터 특정한 3DV 층에 대한 3DV 정보를 설명하는, 인코딩된 화상의 액세스 단계와;
    특정한 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스하는 단계로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소의 액세스 단계와;
    적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩하는 단계를
    포함하는, 방법.
22. 제 21항에 있어서, 층간 종속성 구조를 표시하는 출력 포맷으로 디코딩된 화상을 제공하는 단계를 더 포함하는, 방법.
23. 제 22항에 있어서, 출력 포맷은 구문 요소를 포함하는, 방법.
24. 제 21항에 있어서, 디코딩 단계는 구문 요소에 기초하여 화상에 대한 기준 화상 리스트를 구성하는 단계를 더 포함하는, 방법.
25. 제 21항에 있어서, 인코딩된 화상의 액세스 단계와, 구문 요소의 액세스 단계와, 인코딩된 화상의 디코딩 단계는 하나 이상의 인코더 또는 디코더에서 수행되는, 방법.
26. 장치로서,
    비트스트림으로부터 인코딩된 화상을 액세스하는 수단으로서, 화상은 주어진 시간에, 주어진 뷰로부터 특정한 3DV 층에 대한 3DV 정보를 설명하는, 인코딩된 화상의 액세스 수단과;
    특정한 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스하는 수단으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소의 액세스 수단과;
    적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩하는 수단을
    포함하는, 장치.
27. 프로세서 판독가능 매체로서,
    비트스트림으로부터 인코딩된 화상을 액세스하는 것으로서, 화상은 주어진 시간에, 주어진 뷰로부터 특정한 3DV 층에 대한 3DV 정보를 설명하는, 인코딩된 화상을 액세스하는 것과;
    특정한 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스하는 것으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소를 액세스하는 것과;
    적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩하는 것을
    프로세서가 적어도 수행하도록 하기 위한 지령을 저장한, 프로세서 판독가능 매체.
28. 장치로서,
    비트스트림으로부터 인코딩된 화상을 액세스하는 것으로서, 화상은 주어진 시간에, 주어진 뷰로부터 특정한 3DV 층에 대한 3DV 정보를 설명하는, 인코딩된 화상을 액세스하는 것과;
    특정한 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스하는 것으로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 구문 요소를 액세스하는 것과;
    적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩하는 것을
    적어도 수행하도록 구성된 프로세서를 포함하는, 장치.
29. 장치로서,
    비트스트림으로부터 인코딩된 화상을 액세스하도록 구성된 3DV 층 디코더로서, 화상은 주어진 시간에, 주어진 뷰로부터 특정한 3DV 층에 대한 3DV 정보를 설명하는, 3DV 층 디코더와;
    특정한 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스하도록 구성된 3DV 기준 버퍼로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것이고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 3DV 기준 버퍼를
    포함하고, 3DV 층 디코더는 적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩하도록 추가로 구성되는, 장치.
30. 장치로서,
    복조된 비트스트림을 생성하기 위해 신호를 복조하도록 구성된 복조기와;
    복조된 비트스트림으로부터 인코딩된 화상을 액세스하도록 구성된 3DV 층 디코더로서, 화상은 주어진 시간에, 주어진 뷰로부터 특정한 3DV 층에 대한 3DV 정보를 설명하는, 3DV 층 디코더와;
    특정한 3DV 층을 포함하는 3DV 층의 세트에 대한 층간 종속성 구조를 표시하는 구문 요소를 액세스하도록 구성된 3DV 기준 버퍼로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것인, 3DV 기준 버퍼를
    포함하고, 3DV 층 디코더는 적어도 부분적으로, 층간 종속성 구조에 기초하여 인코딩된 화상을 디코딩하도록 추가로 구성되고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 장치.
31. 방법으로서,
    다중 3DV 층들의 특정한 3DV 층에 대한 송신 우선 순위를 액세스하는 단계로서, 송신 우선 순위는 다중 3DV 층들 중에서 층간 종속성 구조에 기초하고, 층간 종속성 구조는 a) 깊이 층에 대한 층간 예측 기준이 2차원(2D) 비디오 층이라는 것과, b) 폐색(occlusion) 비디오 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것과, c) 폐색 깊이 층에 대한 층간 예측 기준이 깊이 층이라는 것과, d) 투명 층에 대한 층간 예측 기준이 2D 비디오 층이라는 것 중 적어도 하나를 규정하는, 송신 우선 순위의 액세스 단계와;
    특정한 3DV 층에 대한 송신 우선 순위 및 네트워크 혼잡도의 표시에 기초하여, 특정한 3DV 층에 속하는 인코딩된 데이터를 송신할 지의 여부를 결정하는 단계를
    포함하는, 방법.
32. 제 31항에 있어서,
    다중 3DV 층들 중에서 층간 종속성 구조를 표시하는 구문 요소를 액세스하는 단계로서, 구문 요소는 3DV 층들 중에서 층간 종속성을 한정하는 구문 구조에 관한 것인, 구문 요소의 액세스 단계와;
    구조에 기초하여 3DV 층들의 특정한 3DV 층에 대한 송신 우선 순위를 결정하는 단계를
    더 포함하는, 방법.

Images