KR102084344B1 - L-hevc 파일 포맷에서의 엔드 오브 비트스트림 nal 유닛들의 처리 및 hevc 및 l-hevc 타일 트랙들에 대한 개선들 - Google Patents

Abstract

여러 구현들에서, ISO 기본 미디어 파일에서 EOB NAL 유닛의 위치에 관련된 문제들을 해결하는 기술들이 본원에 설명된다. 여러 구현들에서, 이들 기술들은 파일이 오직 하나의 EOB NAL 유닛만을 포함한다는 요건을 완화시키는 것을 포함한다. 이들 기술들은 비트스트림을 복원할 때 최고 계층으로부터 EOB NAL 유닛을 제공하는 것을 더 포함한다. 이 EOB NAL 유닛은 복원된 비트스트림에서의 최종 액세스 유닛에 추가될 수 있다. 최고 계층으로부터의 EOB NAL 유닛이 존재하지 않을 때, 최저 계층으로부터의 EOB NAL 유닛이 대신 제공될 수 있다.

Description

L-HEVC 파일 포맷에서의 엔드 오브 비트스트림 NAL 유닛들의 처리 및 HEVC 및 L-HEVC 타일 트랙들에 대한 개선들

본 출원은 계층화된 고효율 비디오 코딩 (layered High Efficiency Video Coding; L-HEVC, LHEVC 로서 또한 지칭됨) 비트스트림이 파일에 저장 (예를 들어, 기록) 될 때 엔드 오브 비트스트림 (end of bitstream; EOB) 네트워크 추상화 계층 (Network Abstraction Layer; NAL) 유닛들의 처리에 관한 것이다. 추가로, 본 출원은 무엇보다도 HEVC 및 L-HEVC 타일 트랙들에서의 순환 참조를 회피하는 방법, 완전한 픽처들의 비디오를 포함하는 대응 트랙에 대한 타일 트랙의 상대 위치를 시그널링하기 위한 방법들을 포함하는 HEVC 및 L-HEVC 타일 트랙들에 대한 개선들을 또한 설명한다.

비디오 코딩 표준들은 스케일러블 코딩 확장 (즉, 스케일러블 고효율 비디오 코딩 (scalable high-efficiency video coding; SHVC)) 및 멀티뷰 확장 (즉, 멀티뷰 고효율 비디오 코딩 (multi-view high efficiency video coding; MV-HEVC)) 을 포함한 스케일러블 비디오 코딩 (Scalable Video Coding; SVC) 및 멀티뷰 비디오 코딩 (Multiview Video Coding; MVC) 확장들, 및 고효율 비디오 코딩 (High-Efficiency Video Coding; HEVC)(또한, ITU-T H.265 및 ISO/IEC 23008-2 로서 알려져 있음) 을 포함하는 ITU-T H.261, ISO/IEC MPEG-1 Visual, ITU-T H.262 또는 ISO/IEC MPEG-2 Visual, ITU-T H.263, ISO/IEC MPEG-4 Visual, ITU-T H.264 또는 ISO/IEC MPEG-4 AVC 를 포함한다.

일부 실시형태들에서, 계층화된 고효율 비디오 코딩 (layered High Efficiency Video Coding; L-HEVC) 이 파일에 기록될 때 엔드 오브 비트스트림 (end of bitstream; EOB) 네트워크 추상화 계층 (Network Access Layer; NAL) 유닛들을 제공하기 위한 것 뿐만 아니라 이러한 파일을 판독하기 위한 기법이 설명된다.

적어도 일 예에 따르면, 인코딩된 비디오 데이터와 연관된 파일을 수신하는 것을 포함하는 인코딩된 비디오 데이터를 프로세싱하기 위한 방법이 제공된다. 인코딩된 비디오 데이터는 파일 포맷에 따라 파일에 저장될 수 있다. 인코딩된 비디오 데이터는 2개 이상의 계층들을 포함할 수 있다. 2 개 이상의 계층들은 파일에서 2 개 이상의 트랙들에 저장된다. 본 방법은 2 개 이상의 계층들 중에서 제 1 계층을 결정하는 단계를 더 포함한다. 제 1 계층은 엔드-오브-비트스트림 표시자를 포함하는 2 개 이상의 계층들 중에서 최고 계층인 것으로 결정될 수 있다. 본 방법은 제 1 엔드-오브-비트스트림 표시자를 결정하는 단계를 더 포함한다. 엔드-오브-비트스트림 표시자는 제 1 계층으로부터의 엔드-오브-비트스트림 표시자일 수 있다. 본 방법은 2 개 이상의 계층들 중에서 계층들의 세트를 선택하는 단계를 더 포함한다. 본 방법은 일련의 액세스 유닛들을 생성하는 단계를 더 포함한다. 일련의 액세스 유닛들은 계층들의 세트로부터의 샘플들을 포함할 수 있다. 본 방법은 일련의 액세스 유닛들 및 제 1 엔드-오브-비트스트림 표시자를 이용하여 복원된 비트스트림을 생성하는 단계를 더 포함한다. 복원된 비트스트림에서의 최종 액세스 유닛은 제 1 엔드-오브-비트스트림 표시자를 포함할 수 있다.

다른 예에서, 비디오 데이터를 저장하도록 구성된 메모리 및 프로세서를 포함하는 장치가 제공된다. 프로세서는 인코딩된 비디오 데이터와 연관된 파일을 수신하도록 구성되고 수신할 수 있다. 인코딩된 비디오 데이터는 파일 포맷에 따라 파일에 저장될 수 있다. 인코딩된 비디오 데이터는 2개 이상의 계층들을 포함할 수 있다. 2 개 이상의 계층들은 파일에서 2 개 이상의 트랙들에 저장된다. 프로세서는 2 개 이상의 계층들 중에서 제 1 계층을 결정하도록 구성되고 결정할 수 있다. 제 1 계층은 엔드-오브-비트스트림 표시자를 포함하는 2 개 이상의 계층들 중에서 최고 계층인 것으로 결정될 수 있다. 프로세서는 제 1 엔드-오브-비트스트림 표시자를 결정하도록 구성되고 결정할 수 있다. 엔드-오브-비트스트림 표시자는 제 1 계층으로부터의 엔드-오브-비트스트림 표시자일 수 있다. 프로세서는 2 개 이상의 계층들 중에서 계층들의 세트를 선택하도록 구성되고 선택할 수 있다. 프로세서는 일련의 액세스 유닛들을 생성하도록 구성되고 생성할 수 있다. 일련의 액세스 유닛들은 계층들의 세트로부터의 샘플들을 포함할 수 있다. 프로세서는 일련의 액세스 유닛들 및 제 1 엔드-오브-비트스트림 표시자를 이용하여 복원된 비트스트림을 생성하도록 구성되고 생성할 수 있다. 복원된 비트스트림에서의 최종 액세스 유닛은 제 1 엔드-오브-비트스트림 표시자를 포함할 수 있다.

다른 예에서, 명령들이 저장된 컴퓨터 판독가능 매체가 제공되고, 명령들은 프로세서에 의해 실행될 때, 인코딩된 비디오 데이터와 연관된 파일을 수신하는 것을 포함하는 방법을 수행한다. 인코딩된 비디오 데이터는 파일 포맷에 따라 파일에 저장될 수 있다. 인코딩된 비디오 데이터는 2개 이상의 계층들을 포함할 수 있다. 2 개 이상의 계층들은 파일에서 2 개 이상의 트랙들에 저장된다. 본 방법은 2 개 이상의 계층들 중에서 제 1 계층을 결정하는 단계를 더 포함한다. 제 1 계층은 엔드-오브-비트스트림 표시자를 포함하는 2 개 이상의 계층들 중에서 최고 계층인 것으로 결정될 수 있다. 본 방법은 제 1 엔드-오브-비트스트림 표시자를 결정하는 단계를 더 포함한다. 엔드-오브-비트스트림 표시자는 제 1 계층으로부터의 엔드-오브-비트스트림 표시자일 수 있다. 본 방법은 2 개 이상의 계층들 중에서 계층들의 세트를 선택하는 단계를 더 포함한다. 본 방법은 일련의 액세스 유닛들을 생성하는 단계를 더 포함한다. 일련의 액세스 유닛들은 계층들의 세트로부터의 샘플들을 포함할 수 있다. 본 방법은 일련의 액세스 유닛들 및 제 1 엔드-오브-비트스트림 표시자를 이용하여 복원된 비트스트림을 생성하는 단계를 더 포함한다. 복원된 비트스트림에서의 최종 액세스 유닛은 제 1 엔드-오브-비트스트림 표시자를 포함할 수 있다.

다른 예에서, 인코딩된 비디오 데이터와 연관된 파일을 수신하기 위한 수단을 포함하는 장치가 제공된다. 인코딩된 비디오 데이터는 파일 포맷에 따라 파일에 저장될 수 있다. 인코딩된 비디오 데이터는 2개 이상의 계층들을 포함할 수 있다. 2 개 이상의 계층들은 파일에서 2 개 이상의 트랙들에 저장된다. 본 장치는 2 개 이상의 계층들 중에서 제 1 계층을 결정하기 위한 수단을 더 포함한다. 제 1 계층은 엔드-오브-비트스트림 표시자를 포함하는 2 개 이상의 계층들 중에서 최고 계층인 것으로 결정될 수 있다. 본 장치는 제 1 엔드-오브-비트스트림 표시자를 결정하기 위한 수단을 더 포함한다. 엔드-오브-비트스트림 표시자는 제 1 계층으로부터의 엔드-오브-비트스트림 표시자일 수 있다. 본 장치는 2 개 이상의 계층들 중에서 계층들의 세트를 선택하기 위한 수단을 더 포함한다. 본 장치는 일련의 액세스 유닛들을 생성하기 위한 수단을 더 포함한다. 일련의 액세스 유닛들은 계층들의 세트로부터의 샘플들을 포함할 수 있다. 본 장치는 일련의 액세스 유닛들 및 제 1 엔드-오브-비트스트림 표시자를 이용하여 복원된 비트스트림을 생성하기 위한 수단을 더 포함한다. 복원된 비트스트림에서의 최종 액세스 유닛은 제 1 엔드-오브-비트스트림 표시자를 포함할 수 있다.

일부 양태들에서, 위에 설명된 방법들, 장치들 및 컴퓨터 판독가능 매체는 일련의 액세스 유닛들로부터의 최종 액세스 유닛이 엔드-오브-비트스트림 표시자를 포함하지 않는 것으로 결정하는 것을 더 포함한다. 이들 양태들은 제 1 엔드-오브-비트스트림 표시자를 일련의 액세스 유닛들에서의 최종 액세스 유닛에 추가하는 것을 더 포함한다.

일부 양태들에서, 위에 설명된 방법들, 장치들 및 컴퓨터 판독가능 매체는 계층들의 세트 중에서 제 2 계층을 식별하는 것을 더 포함하며, 제 2 계층은 계층들의 세트 중에서 최고 계층으로서 식별된다. 이들 양태들은 제 1 계층이 제 2 계층보다 더 높은 계층인 것으로 결정하는 것을 더 포함한다. 이들 양태들은 제 1 엔드-오브-비트스트림 표시자를 일련의 액세스 유닛들에서의 최종 액세스 유닛에 추가하는 것을 더 포함한다.

일부 양태들에서, 위에 설명된 방법들, 장치들 및 컴퓨터 판독가능 매체는 계층들의 세트 중에서 제 2 계층을 식별하는 것을 더 포함하며, 제 2 계층은 계층들의 세트 중에서 최고 계층으로서 식별된다. 이들 양태들은 제 2 계층이 제 1 계층보다 더 높은 계층인 것으로 결정하는 것을 더 포함한다. 이들 양태들은 제 1 엔드-오브-비트스트림 표시자를 일련의 액세스 유닛들에서의 최종 액세스 유닛으로 이동시키는 것을 더 포함한다.

일부 양태들에서, 위에 설명된 방법들, 장치들 및 컴퓨터 판독가능 매체는 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자들을 포함하는 것으로 결정하는 것을 더 포함한다. 이들 양태들에서, 1 개 보다 많은 엔드-오브-비트스트림 표시자들은 제 1 엔드-오브-비트스트림 표시자를 포함한다. 이들 양태들은 최종 액세스 유닛으로부터 제 1 엔드-오브-비트스트림 표시자 이외의 1 개 보다 많은 엔드-오브-비트스트림 표시자 모두를 제거하는 것을 더 포함한다.

일부 양태들에서, 2 개 이상의 계층들 중에서의 적어도 2 개의 계층들은 엔드-오브-비트스트림 표시자를 포함한다. 일부 양태들에서, 계층들의 세트에서의 계층들로부터의 샘플들이 디스플레이를 위하여 선택되는 것에 기초하여 계층들의 세트가 선택된다. 일부 양태들에서, 파일 포맷은 ISO 기본 미디어 파일 포맷으로부터 유도된다.

이 요약은 청구물들의 주요한 특징들 또는 기본적인 특징들을 확인하려고 의도하거나, 청구된 주제의 범위를 한정하는데 이용되고자 하지 않는다. 청구물은 이 특허, 임의의 또는 모든 도면들 및 각각의 청구항의 전체 사양의 적절한 부분들을 참조하여 이해되어야 한다.

앞의 설명은 다른 특징들 및 실시형태들과 함께, 다음의 명세서, 청구범위 및 첨부 도면들을 참조하여 보다 명확해질 것이다.

본 발명의 예시적 실시형태들은 다음의 도면들을 참조하여 아래 자세하게 설명된다.
도 1 은 인코딩 디바이스 및 디코딩 디바이스를 포함하는 시스템의 일 예를 예시하는 블록도이다.
도 2 는 계층화된 HEVC 비트스트림의 간략화된 예를 예시한다.
도 3 은 ISOBMFF 에 따라 포맷화된 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 기본 미디어 파일의 일 예를 예시한다.
도 4 는 2 개의 계층들을 포함하는 비디오 프리젠테이션을 위한 ISO 기본 미디어 파일의 일 예를 예시한다.
도 5a 는 멀티-계층 비트스트림이 저장된 ISO 기본 미디어 파일의 일 예를 예시한다.
도 5b 및 도 5c 는 도 5a 에서 예시된 ISO 기본 미디어 파일이 상이한 디코더 디바이스들에 의해 판독될 때 결과일 수 있는 비트스트림들의 예들을 예시한다.
도 6a 는 멀티-계층화된 비트스트림이 저장된 ISO 기본 미디어 파일의 다른 예를 예시한다.
도 6b 및 도 6c 는 도 6a 에 예시된 ISO 기본 미디어 파일을 판독하는 것으로부터 비롯될 수 있는 비트스트림들의 예들을 예시한다.
도 7 은 멀티-계층화된 비트스트림이 저장된 ISO 기본 미디어 파일의 다른 예를 예시한다.
도 8a 는 이들 기법들에 따라 생성된 ISO 기본 미디어 파일의 일 예를 예시한다.
도 8b 및 도 8c 는 도 8a 에 예시된 파일로부터 구성될 수 있는 비트스트림들의 예들을 예시한다.
도 9 는 ISO 기본 미디어 파일에 포함될 수 있는 미디어 박스 및 미디어 데이터 박스들의 일 예를 예시한다.
도 10 은 인코딩된 비디오 데이터를 포함하는 파일이 1 개 보다 많은 EOB NAL 유닛을 가질 수도 있는 경우, 인코딩된 비디오 데이터를 프로세싱하기 위한 프로세스의 일 예를 예시한다.
도 11 은 예시의 인코딩 디바이스를 예시하는 블록도이다.
도 12 는 예시의 디코딩 디바이스를 예시하는 블록도이다.

본 개시의 특정 양태들 및 실시형태들이 아래 제공된다. 당해 분야의 당업자들에게 명백한 바와 같이, 이 양태들 및 실시형태들의 일부는 독립적으로 적용될 수도 있고 이들의 일부는 조합하여 적용될 수도 있다. 다음의 설명에서는, 설명의 목적들을 위하여, 특정 세부사항들이 본 개시의 실시형태들의 철저한 이해를 제공하기 위하여 기재된다. 그러나, 다양한 실시형태들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 명백할 것이다. 도면들 및 설명은 한정적인 것으로 의도된 것이 아니다.

뒤따르는 설명은 예시적인 실시형태들을 오직 제공하고, 본 개시의 범위, 적용가능성, 또는 구성을 제한하도록 의도된 것이 아니다. 오히려, 예시적인 실시형태들의 뒤따르는 설명은 당해 분야의 당업자들에게 예시적인 실시형태를 구현하기 위한 가능한 설명을 제공할 것이다. 첨부된 청구항들에서 기재된 바와 같은 본 개시의 사상 및 범위로부터 이탈하지 않으면서, 구성요소들의 기능 및 배열에 있어서 다양한 변경들이 행해질 수도 있다는 것을 이해해야 한다.

특정 세부사항들은 실시형태들의 철저한 이해를 제공하기 위하여 다음의 설명에서 주어진다. 그러나, 실시형태들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 당해 분야의 당업자에 의해 이해될 것이다. 예를 들어, 회로들, 시스템들, 네트워크들, 프로세스들, 및 다른 컴포넌트들은 실시형태들을 불필요한 세부사항으로 모호하게 하지 않도록 하기 위하여 블록도에서 컴포넌트들로서 도시될 수도 있다. 다른 사례들에서는, 잘 알려진 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들이 실시형태들을 모호하게 하는 것을 회피하기 위하여 불필요한 세부사항 없이 도시될 수도 있다.

또한, 개별적인 실시형태들은 플로우차트, 흐름도, 데이터 흐름도, 구조도, 또는 블록도로서 도시되는 프로세스로서 설명될 수도 있다는 것에 주목한다. 플로우차트는 동작들을 순차적인 프로세스로서 설명할 수도 있지만, 동작들 중의 다수는 병렬로 또는 동시에 수행될 수 있다. 또한, 동작들의 순서는 재배열될 수도 있다. 프로세스는 프로세스의 동작들이 완료될 때에 종결되지만, 도면에서 포함되지 않은 추가적인 단계들을 가질 수 있다. 프로세스는 방법, 함수, 프로시저 (procedure), 서브루틴, 서브프로그램 등에 대응할 수도 있다. 프로세스가 함수에 대응할 때, 프로세스의 종결은 호출 함수 또는 주 함수로의 함수의 복귀에 대응할 수 있다.

용어 "컴퓨터-판독가능 매체" 는 휴대용 또는 비-휴대용 저장 디바이스들, 광학 저장 디바이스들, 및 명령 (들) 및/또는 데이터를 저장할 수 있거나, 포함할 수 있거나, 반송할 수 있는 다양한 다른 매체들을 포함하지만, 이것으로 제한되지는 않는다. 컴퓨터-판독가능 매체는 데이터가 저장될 수 있으며 무선으로 또는 유선 접속들을 통해 전파하는 반송파들 및/또는 일시적 전자 신호들을 포함하지 않는 비-일시적 매체를 포함할 수도 있다. 비-일시적 매체의 예들은 자기 디스크 또는 테이프, 컴팩트 디스크 (compact disk; CD) 또는 디지털 다기능 디스크 (digital versatile disk; DVD) 와 같은 광학 저장 매체들, 플래시 메모리, 메모리 또는 메모리 디바이스들을 포함할 수도 있지만, 이것으로 제한되지는 않는다. 컴퓨터-판독가능 매체는 프로시저, 함수, 서브프로그램, 프로그램, 루틴, 서브루틴, 모듈, 소프트웨어 패키지, 클래스, 또는 명령들, 데이터 구조들, 또는 프로그램 명령문들의 임의의 조합을 나타낼 수도 있는 코드 및/또는 머신-실행가능 명령들을 저장하였을 수도 있다. 코드 세그먼트는 정보, 데이터, 인수들, 파라미터들, 또는 메모리 내용들을 전달 및/또는 수신함으로써 또 다른 코드 세그먼트 또는 하드웨어 회로에 결합될 수도 있다. 정보, 인수들, 파라미터들, 데이터 등은 메모리 공유, 메시지 전달, 토큰 전달, 네트워크 송신 등을 포함하는 임의의 적절한 수단을 통해 전달되거나, 포워딩되거나, 또는 전송될 수도 있다.

또한, 실시형태들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 설명 언어들, 또는 그 임의의 조합에 의해 구현될 수도 있다. 소프트웨어, 펌웨어, 미들웨어, 또는 마이크로코드로 구현될 때, 필요한 태스크 (task) 들을 수행하기 위한 프로그램 코드 또는 코드 세그먼트들 (예를 들어, 컴퓨터-프로그램 제품) 은 컴퓨터-판독가능 또는 머신-판독가능 매체 내에 저장될 수도 있다. 프로세서(들)은 필요한 태스크들을 수행할 수도 있다.

파일 포맷 표준들은 비디오 (및 가능하다면 또한 오디오) 데이터를 하나 이상의 파일들로 팩킹 및 언팩킹하기 위한 포맷을 정의할 수 있다. 파일 포맷 표준들은 MPEG (Motion Pictures Experts Group) MPEG-4 파일 포맷 (ISO/IEC 14496-15 에서 정의됨), 3GPP (3rd Generation Partnership Project) 파일 포맷 (3GPP TS 26.244 에서 정의됨) 및 AVC (Advanced Video Coding) 파일 포맷 (ISO/IEC 14496-15 에서 정의됨) 을 포함한, ISO (International Organization for Standardization) 기본 미디어 파일 포맷 (ISOBMFF, ISO/IEC 14496-12 에서 정의됨) 및 ISOBMFF 로부터 유도된 다른 파일 포맷들을 포함한다. ISO/IEC 14496-12 및 14496-15 를 위한 최신 신규 에디션의 드래프트 텍스트들은 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/111_Geneva/wg11/w15177-v6-w15177.zip 및 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/112_Warsaw/wg11/w15479-v2-w15479.zip 에서 각각 이용가능하다.

ISOBMFF 는 많은 코덱 캡슐화 포맷들 (예를 들어, AVC 파일 포맷 또는 임의의 다른 적절한 코덱 캡슐화 포맷), 뿐만 아니라 많은 멀티미디어 컨테이너 포맷들 (예를 들어, MPEG-4 파일 포맷, 3GPP 파일 포맷 (3GP), 및 DVB 파일 포맷, 또는 임의의 다른 적절한 멀티미디어 컨테이너 포맷) 에 대하여 기반으로서 이용된다. ISOBMFF-기반 파일 포맷들은 또한 스트리밍 미디어로서 지칭되는 연속 미디어에 이용될 수 있다.

연속 미디어 (예를 들어, 오디오 및 비디오) 에 더하여, 정적 미디어 (예를 들어, 이미지들) 및 메타데이터는 ISOBMFF 에 따라 파일에 저장될 수도 있다. ISOBMFF 에 따라 구조화된 파일들은 로컬 미디어 파일 플레이백을 포함한 많은 목적들을 위하여 원격 파일의 프로그래시브 다운로딩, DASH (Dynamic Adaptive Streaming over HTTP) 에 대한 세그먼트들로서, 컨텐츠가 스트리밍되기 위한 컨테이너들로서 (이 경우, 컨테이너들은 패킷화 명령들을 포함함), 수신된 실시간 미디어 스트림들의 레코딩을 위한 컨테이너들로서 또는 다른 용도로서 이용될 수도 있다.

HEVC 또는 HEVC 의 확장을 이용하여 인코딩된 비트스트림들은 일반적으로 엔드-오브-비트스트림에서의 표시자를 포함하고, 이 표시자는 엔드 오브 비트스트림이 도달됨을 디코더에 표시할 수 있다. 표시자는 엔드-오브-비트스트림 (end-of-bitstream; EOB) 네트워크 추상화 계층 (network abstraction layer; NAL) 유닛의 형태를 취할 수 있다.

비트스트림이 다수의 계층들을 포함할 때, EOB NAL 유닛은 엔드-오브-비트스트림에 여전히 위치될 것이지만, 비트스트림이 파일에 기록될 때 EOB NAL 유닛이 위치되는 곳이 변할 수도 있고 디코더 디바이스에 대해 문제를 야기할 수도 있다. 예를 들어, EOB NAL 유닛이 최고 계층에 있고 디코더 디바이스는 기본 계층만을 판독할 때, EOB NAL 유닛은 손실될 수 있다. 다른 예로서, EOB NAL 유닛이 기본 계층에 있고 디코더 디바이스가 상위 계층을 렌더링하도록 구성될 때, EOB NAL 유닛은 복원된 엔드 오브 비트스트림에서의 위치 이외의 위치에서의 복원된 비트스트림에 위치될 수도 있다. 다른 예로서, 기본 계층이 HEVC (예를 들어, AVC) 이외의 코덱을 이용하여 인코딩되고 또한 EOB NAL 유닛을 포함할 때, EOB NAL 유닛은 비-HEVC NAL 유닛으로서 인코딩될 것이다. 이 예에서, 디코더 디바이스가 상위 계층으로부터의 HEVC 샘플들을 렌더링하도록 구성될 때, 디코더 디바이스는 HEVC NAL 유닛이 아닌 EOB NAL 유닛을 수신할 수도 있다.

여러 구현들에서, ISO 기본 미디어 파일에서 EOB NAL 유닛의 위치 (예를 들어, 위치) 에 관련된 문제들을 해결하는 기술들이 본원에 설명된다. 여러 구현들에서, 이들 기법들은 파일이 오직 하나의 EOB NAL 유닛만을 포함한다는 요건을 완화시키는 것을 포함한다. 이들 기법들은 비트스트림을 복원할 때 최고 계층으로부터 EOB NAL 유닛을 제공하는 것을 더 포함한다. 최고 계층으로부터의 EOB NAL 유닛이 존재하지 않을 때, 최저 계층으로부터의 EOB NAL 유닛이 대신 제공될 수 있다.

ISO 기본 미디어 파일이 타일 트랙들을 포함할 때 여러 문제들이 발생할 수 있다. 예를 들어, 원형 추출기 레퍼런스들, 추출기들에 기인한 복제된 데이터, 불필요한 추출기들, 타일 트랙의 비디오 부분만이 요구될 때 비트스트림을 재구성하기 위한 사양의 결여, 타일 트랙들에 대한 오프셋 정보의 결여, 및 다른 문제들이 발생할 수도 있다. 이들 문제들에 대한 여러 솔루션들이 아래 논의된다.

도 1 은 인코딩 디바이스 (104) 및 디코딩 디바이스 (112) 를 포함하는 시스템 (100) 의 예를 예시하는 블록도이다. 인코딩 디바이스 (104) 는 소스 디바이스의 일부일 수도 있고, 디코딩 디바이스 (112) 는 수신 디바이스의 일부일 수도 있다. 소스 디바이스 및/또는 수신 디바이스는 이동식 또는 정지식 전화 핸드셋 (예를 들어, 스마트폰, 셀룰러 전화 등), 데스크톱 컴퓨터, 랩톱 또는 노트북 컴퓨터, 태블릿 컴퓨터, 셋-톱 박스, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게임용 콘솔, 비디오 스트리밍 디바이스, 또는 임의의 다른 적당한 전자 디바이스와 같은 전자 디바이스를 포함할 수도 있다. 일부 예들에서, 소스 디바이스 및 수신 디바이스는 무선 통신들을 위한 하나 이상의 무선 트랜시버들을 포함할 수도 있다. 본원에서 설명된 코딩 기법들은 (예를 들어, 인터넷을 통한) 스트리밍 비디오 송신들, 텔레비전 브로드캐스트들 또는 송신들, 데이터 저장 매체 상에서의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에서 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들을 포함하는 다양한 멀티미디어 애플리케이션들에서의 비디오 코딩에 적용가능하다. 일부 예들에서, 시스템 (100) 은 비디오 화상회의, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 게이밍, 및/또는 화상 전화 (video telephony) 와 같은 애플리케이션들을 지원하기 위하여 일방향 (one-way) 또는 양방향 (two-way) 비디오 송신을 지원할 수 있다.

인코딩 디바이스 (104)(또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하기 위한 비디오 코딩 표준 또는 프로토콜을 이용하여 가상 현실 비디오 데이터 포함한 비디오 데이터를 인코딩하는데 이용될 수 있다. 비디오 코딩 표준들은 SVC 및 MVC 로서 각각 알려진, 그 스케일러블 비디오 코딩 및 멀티뷰 비디오 코딩 확장들을 포함하는, ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 ITU-T H.264 (또한, ISO/IEC MPEG-4 AVC 로서 알려짐) 를 포함한다. 더욱 최근의 비디오 코딩 표준, 고효율 비디오 코딩 (HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group; VCEG) 및 ISO/IEC 동화상 전문가 그룹 (Moving Picture Experts Group; MPEG) 의 비디오 코딩에 관한 합동 협력 팀 (Joint Collaboration Team on Video Coding; JCT-VC) 에 의해 완결되었다. MV-HEVC 로 칭해진 HEVC 에 대한 멀티뷰 확장 (multiview extension) 과, SHVC 로 칭해진 HEVC 에 대한 스케일러블 확장 (scalable extension), 또는 임의의 다른 적당한 코딩 프로토콜을 포함하는, HEVC 에 대한 다양한 확장들은 멀티-계층 비디오 코딩을 다루고, 또한, JCT-VC 에 의해 개발되고 있다.

본원에서 설명된 구현들은 HEVC 표준, 또는 그 확장들을 이용하는 예들을 설명한다. 그러나, 본원에서 설명된 기법들 및 시스템들은 또한, AVC, MPEG, 그 확장들, 또는 이미 이용가능하거나 아직 이용가능하거나 개발되지 않은 다른 적당한 코딩 표준들과 같은 다른 코딩 표준들에 적용가능할 수도 있다. 따라서, 본원에서 설명된 기법들 및 시스템들은 특정한 비디오 코딩 표준을 참조하여 설명될 수도 있지만, 당해 분야의 당업자는 설명이 그 특정한 표준에 오직 적용하는 것으로 해독되지 않아야 한다는 것을 인식할 것이다.

비디오 소스 (102) 는 비디오 데이터를 인코딩 디바이스 (104) 에 제공할 수도 있다. 비디오 소스 (102) 는 소스 디바이스의 일부일 수도 있거나, 소스 디바이스 이외의 디바이스의 일부일 수도 있다. 비디오 소스 (102) 는 비디오 캡처 디바이스 (예를 들어, 비디오 카메라, 카메라 폰, 비디오 폰 등), 저장된 비디오를 포함하는 비디오 아카이브, 비디오 데이터를 제공하는 비디오 서버 또는 컨텐츠 제공자, 비디오 서버 또는 컨텐츠 제공자로부터 비디오를 수신하는 비디오 공급 인터페이스, 컴퓨터 그래픽 비디오 데이터를 생성하기 위한 컴퓨터 그래픽 시스템, 이러한 소스들의 조합, 또는 임의의 다른 적당한 비디오 소스를 포함할 수도 있다. 비디오 소스 (102) 의 하나의 예는 인터넷 프로토콜 카메라 (IP 카메라) 를 포함할 수 있다. IP 카메라는 감시, 가정 보안, 또는 다른 적당한 애플리케이션을 위하여 이용될 수 있는 디지털 비디오 카메라의 타입이다. 아날로그 폐쇄 회로 텔레비전 (closed circuit television; CCTV) 카메라들과 달리, IP 카메라는 컴퓨터 네트워크 및 인터넷을 통해 데이터를 전송할 수 있고 수신할 수 있다.

비디오 소스 (102) 로부터의 비디오 데이터는 하나 이상의 입력 픽처들 또는 프레임들을 포함할 수도 있다. 픽처 또는 프레임은 비디오의 일부인 스틸 이미지 (still image) 이다. 인코딩 디바이스 (104) 의 인코더 엔진 (106) (또는 인코더) 은 인코딩된 비디오 비트스트림을 생성하기 위하여 비디오 데이터를 인코딩한다. 일부 예들에서, 인코딩된 비디오 비트스트림 (또는 "비디오 비트스트림" 또는 "비트스트림") 은 일련의 하나 이상의 코딩된 비디오 시퀀스들이다. 코딩된 비디오 시퀀스 (coded video sequence; CVS) 는, 기본 계층에서 랜덤 액세스 포인트 픽처를 가지고, 기본 계층에서 랜덤 액세스 포인트 픽처를 가지고 어떤 성질들을 갖는 다음 AU 에까지 이르고 다음 AU 를 포함하지 않는 어떤 성질들을 갖는 AU 와 함께 시작하는 일련의 액세스 유닛 (access unit; AU) 들을 포함한다. 예를 들어, CVS 를 시작하는 랜덤 액세스 포인트 픽처의 어떤 성질들은 1 과 동일한 RASL 플래그 (예를 들어, NoRaslOutputFlag) 를 포함할 수도 있다. 그렇지 않을 경우, (0 과 동일한 RASL 플래그를 갖는) 랜덤 액세스 포인트 픽처는 CVS 를 시작하지 않는다. 액세스 유닛 (AU) 은 하나 이상의 코딩된 픽처들, 및 동일한 출력 시간을 공유하는 코딩된 픽처들에 대응하는 제어 정보를 포함한다. 픽처들의 코딩된 슬라이스들은 비트스트림 레벨에서, 네트워크 추상화 계층 (NAL) 유닛들로 칭해진 데이터 유닛들로 캡슐화 (encapsulate) 된다. 예를 들어, HEVC 비디오 비트스트림은 NAL 유닛들을 포함하는 하나 이상의 CVS 들을 포함할 수도 있다. 비디오 코딩 계층 (VCL) NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는, NAL 유닛들의 2 개의 클래스들은 HEVC 표준에서 존재한다. VCL NAL 유닛은 코딩된 픽처 데이터의 (이하에서 설명된) 하나의 슬라이스 또는 슬라이스 세그먼트를 포함하고, 비-VCL NAL 유닛은 하나 이상의 코딩된 픽처들에 관련되는 제어 정보를 포함한다.

NAL 유닛들은 비디오에서의 픽처들의 코딩된 표현들과 같은, 비디오 데이터 (예를 들어, 인코딩된 비디오 비트스트림, 비트스트림의 CVS 등) 의 코딩된 표현을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 인코더 엔진 (106) 은 각각의 픽처를 다수의 슬라이스들로 파티셔닝함으로써 픽처들의 코딩된 표현들을 생성한다. 다음으로, 슬라이스들은 루마 샘플 (luma sample) 들 및 크로마 샘플 (chroma sample) 들의 코딩 트리 블록 (coding tree block; CTB) 들로 파티셔닝된다. 루마 샘플들의 CTB 및 크로마 샘플들의 하나 이상의 CTB 들은 샘플들에 대한 신택스와 함께, 코딩 트리 유닛 (coding tree unit; CTU) 으로서 지칭된다. CTU 는 HEVC 인코딩을 위한 기본 프로세싱 유닛이다. CTU 는 변동되는 사이즈들의 다수의 코딩 유닛 (coding unit; CU) 들로 분할될 수 있다. CU 는 코딩 블록 (coding block; CB) 들로서 지칭되는 루마 및 크로마 샘플 어레이들을 포함한다.

루마 및 크로마 CB 들은 예측 블록 (prediction block; PB) 들로 추가로 분할될 수 있다. PB 는 인터-예측을 위하여 동일한 모션 파라미터들을 이용하는 루마 또는 크로마 컴포넌트의 샘플들의 블록이다. 루마 PB 및 하나 이상의 크로마 PB 들은 연관된 신택스와 함께, 예측 유닛 (prediction unit; PU) 을 형성한다. 모션 파라미터들의 세트는 각각의 PU 에 대한 비트스트림에서 시그널링되고, 루마 PB 및 하나 이상의 크로마 PB 들의 인터-예측을 위하여 이용된다. CB 는 또한, 하나 이상의 변환 블록 (transform block; TB) 들로 파티셔닝될 수 있다. TB 는 동일한 2 차원 변환이 예측 잔차 신호를 코딩하기 위하여 적용되는 컬러 컴포넌트의 샘플들의 정사각형 블록을 나타낸다. 변환 유닛 (transform unit; TU) 은 루마 및 크로마 샘플들의 TB 들과, 대응하는 신택스 엘리먼트들을 나타낸다.

CU 의 사이즈는 코딩 노드의 사이즈에 대응하고, 형상에 있어서 정사각형일 수도 있다. 예를 들어, CU 의 사이즈는 8 x 8 샘플들, 16 x 16 샘플들, 32 x 32 샘플들, 64 x 64 샘플들, 또는 대응하는 CTU 의 사이즈에 이르는 임의의 다른 적절한 사이즈일 수도 있다. 어구 "N x N" 은 수직 및 수평 차원들의 측면에서의 비디오 블록의 픽셀 차원들 (예를 들어, 8 픽셀들 x 8 픽셀들) 을 지칭하기 위하여 본원에서 이용된다. 블록 내의 픽셀들은 행 (row) 들 및 열 (column) 들로 배열될 수도 있다. 일부 실시형태들에서, 블록들은 수직 방향에서와 동일한 수의 픽셀들을 수평 방향에서 가지지 않을 수도 있다. CU 와 연관된 신택스 데이터는 예를 들어, 하나 이상의 PU 들로의 CU 의 파티셔닝을 설명할 수도 있다. 파티셔닝 모드들은 CU 가 인트라-예측 모드 인코딩되는지, 또는 인터-예측 모드 인코딩되는지 여부의 사이에서 상이할 수도 있다. PU 들은 형상에 있어서 비-정사각형 (non-square) 이 되도록 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는 또한, 예를 들어, CTU 에 따른 하나 이상의 TU 들로의 CU 의 파티셔닝을 설명할 수도 있다. TU 는 형상에 있어서 정사각형 또는 비-정사각형일 수 있다.

HEVC 표준에 따르면, 변환들은 변환 유닛 (TU) 들을 이용하여 수행될 수도 있다. TU 들은 상이한 CU 들에 대하여 변동될 수도 있다. TU 들은 소정의 CU 내의 PU 들의 사이즈에 기초하여 사이즈가 정해질 수도 있다. TU 들은 동일한 사이즈일 수도 있거나, PU 들보다 더 작을 수도 있다. 일부 예들에서, CU 에 대응하는 잔차 샘플들은 잔차 쿼드 트리 (residual quad tree; RQT) 로서 알려진 쿼드트리 구조를 이용하여 더 작은 유닛들로 재분할될 수도 있다. RQT 의 리프 노드들은 TU 들에 대응할 수도 있다. TU 들과 연관된 픽셀 차이 값들은 변환 계수들을 생성하기 위하여 변환될 수도 있다. 다음으로, 변환 계수들은 인코더 엔진 (106) 에 의해 양자화될 수도 있다.

일단 비디오 데이터의 픽처들이 CU 들로 파티셔닝되면, 인코더 엔진 (106) 은 예측 모드를 이용하여 각각의 PU 를 예측한다. 다음으로, 예측은 (이하에서 설명된) 잔차들을 얻기 위하여 원래의 비디오 데이터로부터 감산 (subtract) 된다. 각각의 CU 에 대하여, 예측 모드는 신택스 데이터를 이용하여 비트스트림의 내부에서 시그널링될 수도 있다. 예측 모드는 인트라-예측 (또는 인트라-픽처 예측) 또는 인터-예측 (또는 인터-픽처 예측) 을 포함할 수도 있다. 인트라-예측을 이용하면, 각각의 PU 는 예를 들어, PU 에 대한 평균 값을 구하기 위한 DC 예측, 평면 표면을 PU 에 맞추기 위한 평면 예측, 이웃하는 데이터로부터 추론하기 위한 방향 예측, 또는 임의의 다른 적당한 타입들의 예측을 이용하여 동일한 픽처에서 이웃하는 이미지 데이터로부터 예측된다. 인터-예측을 이용하면, 각각의 PU 는 (출력 순서에서 현재의 픽처 이전 또는 이후의) 하나 이상의 참조 픽처들에서의 이미지 데이터로부터의 모션 보상 예측을 이용하여 예측된다. 인터-픽처 또는 인트라-픽처 예측을 이용하여 픽처 영역을 코딩할 것인지 여부의 판단은 예를 들어, CU 레벨에서 행해질 수도 있다. 일부 예들에서, 픽처의 하나 이상의 슬라이스들에는 슬라이스 타입이 배정된다. 슬라이스 타입들은 I 슬라이스, P 슬라이스, 및 B 슬라이스를 포함한다. I 슬라이스 (인트라-프레임들, 독립적으로 디코딩가능함) 는 인트라 예측에 의해 오직 코딩되는 픽처의 슬라이스이고, 그러므로, I 슬라이스가 슬라이스의 임의의 블록을 예측하기 위하여 프레임 내에서 오직 데이터를 요구하므로, 독립적으로 디코딩가능하다. P 슬라이스 (단방향 예측된 프레임들) 는 인트라-예측 및 단방향 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. P 슬라이스 내의 각각의 블록은 인트라 예측 또는 인터-예측의 어느 하나로 코딩된다. 인터-예측이 적용될 때, 블록은 하나의 참조 픽처에 의해 오직 예측되고, 그러므로, 참조 샘플들은 오직 하나의 프레임의 하나의 참조 영역으로부터의 것이다. B 슬라이스 (양방향 예측 프레임들) 는 인트라-예측 및 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. B 슬라이스의 블록은 2 개의 참조 픽처들로부터 양방향 예측될 수도 있고, 여기서, 각각의 픽처는 하나의 참조 영역에 기여하고, 2 개의 참조 영역들의 샘플 세트들은 양방향 예측된 블록의 예측 신호를 생성하기 위하여 (예를 들어, 동일한 가중치들로) 가중화된다. 위에서 설명된 바와 같이, 하나의 픽처의 슬라이스들은 독립적으로 코딩된다. 일부 경우들에는, 픽처가 단지 하나의 슬라이스로서 코딩될 수 있다.

PU 는 예측 프로세스에 관련된 데이터를 포함할 수도 있다. 예를 들어, PU 가 인트라-예측을 이용하여 인코딩될 때, PU 는 PU 에 대한 인트라-예측 모드를 설명하는 데이터를 포함할 수도 있다. 또 다른 예로서, PU 가 인터-예측을 이용하여 인코딩될 때, PU 는 PU 에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 해상도 (예를 들어, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 지시하는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예를 들어, List 0, List 1, 또는 List C) 를 설명할 수도 있다.

다음으로, 인코딩 디바이스 (104) 는 변환 및 양자화를 수행할 수도 있다. 예를 들어, 예측에 후속하여, 인코더 엔진 (106) 은 PU 에 대응하는 잔차 값들을 계산할 수도 있다. 잔차 값들은 픽셀 차이 값들을 포함할 수도 있다. 예측이 수행된 후에 남아 있을 수도 있는 임의의 잔차 데이터는, 이산 코사인 변환, 이산 사인 변환, 정수 변환, 웨이블렛 변환, 또는 다른 적당한 변환 함수에 기초할 수도 있는 블록 변환을 이용하여 변환된다. 일부 경우들에는, 하나 이상의 블록 변환들 (예를 들어, 사이즈들 32 x 32, 16 x 16, 8 x 8, 4 x 4 등) 은 각각의 CU 에서의 잔차 데이터에 적용될 수도 있다. 일부 실시형태들에서, TU 는 인코더 엔진 (106) 에 의해 구현된 변환 및 양자화 프로세스들을 위하여 이용될 수도 있다. 하나 이상의 PU 들을 가지는 소정의 CU 는 또한, 하나 이상의 TU 들을 포함할 수도 있다. 이하에서 더욱 상세하게 설명된 바와 같이, 잔차 값들은 블록 변환들을 이용하여 변환 계수들로 변환될 수도 있고, 다음으로, 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위하여 TU 들을 이용하여 양자화될 수도 있고 스캔될 수도 있다.

CU 의 PU 들을 이용한 인트라-예측 또는 인터-예측 코딩에 후속하는 일부 실시형태들에서, 인코더 엔진 (106) 은 CU 의 TU 들에 대한 잔차 데이터를 계산할 수도 있다. PU 들은 공간적 도메인 (또는 픽셀 도메인) 에서 픽셀 데이터를 포함할 수도 있다. TU 들은 블록 변환의 적용에 후속하여 변환 도메인에서 계수들을 포함할 수도 있다. 이전에 언급된 바와 같이, 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과, PU 들에 대응하는 예측 값들과의 사이의 픽셀 차이 값들에 대응할 수도 있다. 인코더 엔진 (106) 은 CU 에 대한 잔차 데이터를 포함하는 TU 들을 형성할 수도 있고, 다음으로, CU 에 대한 변환 계수들을 생성하기 위하여 TU 들을 변환할 수도 있다.

인코더 엔진 (106) 은 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 계수들을 나타내기 위하여 이용된 데이터의 양을 감소시키기 위하여 변환 계수들을 양자화함으로써 추가의 압축을 제공한다. 예를 들어, 양자화는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 하나의 예에서, n-비트 값을 갖는 계수는 양자화 동안에 m-비트 값으로 버림 (round down) 될 수도 있고, n 은 m 보다 더 클 수도 있다.

일단 양자화가 수행되면, 코딩된 비디오 비트스트림은 양자화된 변환 계수들, 예측 정보 (예를 들어, 예측 모드들, 모션 벡터들 등), 파티셔닝 정보, 및 다른 신택스 데이터와 같은 임의의 다른 적당한 데이터를 포함한다. 다음으로, 코딩된 비디오 비트스트림의 상이한 엘리먼트들은 인코더 엔진 (106) 에 의해 엔트로피 인코딩될 수도 있다. 일부 예들에서, 인코더 엔진 (106) 은 양자화된 변환 계수들을 스캔하여, 엔트로피 인코딩될 수 있는 직렬화된 벡터 (serialized vector) 를 생성하기 위하여, 미리 정의된 스캔 순서를 사용할 수도 있다. 일부 예들에서, 인코더 엔진 (106) 은 적응적 스캔 (adaptive scan) 을 수행할 수도 있다. 벡터 (예를 들어, 1 차원 벡터) 를 형성하기 위하여 양자화된 변환 계수들을 스캔한 후, 인코더 엔진 (106) 은 벡터를 엔트로피 인코딩할 수도 있다. 예를 들어, 인코더 엔진 (106) 은 컨텍스트 적응 가변 길이 코딩, 컨텍스트 적응 2 진 산술 코딩, 신택스-기반 컨텍스트-적응 2 진 산술 코딩, 확률 간격 파티셔닝 엔트로피 코딩, 또는 또 다른 적당한 엔트로피 인코딩 기법을 이용할 수도 있다.

인코딩 디바이스 (104) 의 출력 (110) 은 인코딩된 비디오 비트스트림 데이터를 구성하는 NAL 유닛들을 통신 링크 (120) 상에서 수신 디바이스의 디코딩 디바이스 (112) 로 전송할 수도 있다. 디코딩 디바이스 (112) 의 입력 (114) 은 NAL 유닛들을 수신할 수도 있다. 통신 링크 (120) 는 무선 네트워크, 유선 네트워크, 또는 유선 및 무선 네트워크의 조합에 의해 제공된 채널을 포함할 수도 있다. 무선 네트워크는 임의의 무선 인터페이스 또는 무선 인터페이스들의 조합을 포함할 수도 있고, 임의의 적당한 무선 네트워크 (예를 들어, 인터넷 또는 다른 광역 네트워크, 패킷-기반 네트워크, WiFi™, 라디오 주파수 (RF), UWB, WiFi-다이렉트 (WiFi-Direct), 셀룰러, 롱텀 에볼루션 (Long-Term Evolution; LTE), WiMax™ 등) 를 포함할 수도 있다. 유선 네트워크는 임의의 유선 인터페이스 (예를 들어, 섬유, 이더넷, 전력선 이더넷, 이더넷 오버 동축 케이블, 디지털 신호 라인 (digital signal line; DSL) 등) 를 포함할 수도 있다. 유선 및/또는 무선 네트워크들은 기지국들, 라우터들, 액세스 포인트들, 브릿지들, 게이트웨이들, 스위치들 등과 같은 다양한 장비를 이용하여 구현될 수도 있다. 인코딩된 비디오 비트스트림 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 수신 디바이스로 송신될 수도 있다.

일부 예들에서, 인코딩 디바이스 (104) 는 인코딩된 비디오 비트스트림 데이터를 저장부 (108) 내에 저장할 수도 있다. 출력 (110) 은 인코더 엔진 (106) 으로부터, 또는 저장부 (108) 로부터 인코딩된 비디오 비트스트림 데이터를 취출할 수도 있다. 저장부 (108) 는 다양한 분산되거나 국소적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 예를 들어, 저장부 (108) 는 하드 드라이브, 저장 디스크, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적당한 디지털 저장 매체들을 포함할 수도 있다.

디코딩 디바이스 (112) 의 입력 (114) 은 인코딩된 비디오 비트스트림 데이터를 수신하고, 비디오 비트스트림 데이터를 디코더 엔진 (116) 에, 또는 디코더 엔진 (116) 에 의한 더 이후의 이용을 위하여 저장부 (118) 에 제공할 수도 있다. 디코더 엔진 (116) 은 인코딩된 비디오 데이터를 구성하는 하나 이상의 코딩된 비디오 시퀀스들의 엘리먼트들을 (예를 들어, 엔트로피 디코더를 이용하여) 엔트로피 디코딩하고 이를 추출함으로써 인코딩된 비디오 비트스트림 데이터를 디코딩할 수도 있다. 다음으로, 디코더 엔진 (116) 은 인코딩된 비디오 비트스트림 데이터에 대한 역변환을 리스케일링 (rescaling) 할 수도 있고 이 역변환을 수행할 수도 있다. 다음으로, 잔차 데이터는 디코더 엔진 (116) 의 예측 스테이지로 전달된다. 다음으로, 디코더 엔진 (116) 은 픽셀들의 블록 (예를 들어, PU) 을 예측한다. 일부 예들에서, 예측은 역변환의 출력 (잔차 데이터) 에 추가된다.

디코딩 디바이스 (112) 는 디코딩된 비디오를, 디코딩된 비디오 데이터를 컨텐츠의 소비자에게 디스플레이하기 위한 디스플레이 또는 다른 출력 디바이스를 포함할 수도 있는 비디오 목적지 디바이스 (122) 에 출력할 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (122) 는 디코딩 디바이스 (112) 를 포함하는 수신 디바이스의 일부일 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (122) 는 수신 디바이스 이외의 별도의 디바이스의 일부일 수도 있다.

보충 인핸스먼트 정보 (Supplemental Enhancement information; SEI) 메시지들은 비디오 비트스트림들 내에 포함될 수 있다. 예를 들어, SEI 메시지들은 디코딩 디바이스 (112) 에 의해 비트스트림을 디코딩하기 위하여 필수적이지 않은 정보 (예를 들어, 메타데이터) 를 반송하기 위하여 이용될 수도 있다. 이 정보는 디코딩된 출력의 디스플레이 또는 프로세싱을 개선시킴에 있어서 유용하다 (예를 들어, 이러한 정보는 컨텐츠의 가시성 (viewability) 을 개선시키기 위하여 디코더-측 엔티티들에 의해 이용될 수 있음).

일부 실시형태들에서, 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 각각 오디오 인코딩 디바이스 및 오디오 디코딩 디바이스와 통합될 수도 있다. 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 또한, 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서 (digital signal processor; DSP) 들, 애플리케이션 특정 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능 게이트 어레이 (field programmable gate array; FPGA) 들, 개별 로직, 소프트웨어, 하드웨어, 펌웨어, 또는 그 임의의 조합들과 같은, 위에서 설명된 코딩 기법들을 구현하기 위하여 필요한 다른 하드웨어 또는 소프트웨어를 포함할 수도 있다. 비디오 인코딩 디바이스 (104) 및 비디오 디코딩 디바이스 (112) 는 개개의 디바이스에서 조합된 인코더/디코더 (combined encoder/decoder; codec) 의 일부로서 통합될 수도 있다.

HEVC 표준에 대한 확장들은 MV-HEVC 로서 지칭된 멀티뷰 비디오 코딩 확장과, SHVC 로서 지칭된 스케일러블 비디오 코딩 확장을 포함한다. MV-HEVC 및 SHVC 확장들은 계층화된 코딩의 개념을 공유하고, 상이한 계층들은 인코딩된 비디오 비트스트림 내에 포함된다. 코딩된 비디오 시퀀스에서의 각각의 계층은 고유의 계층 식별자 (ID) 에 의해 어드레싱된다. 계층 ID 는 NAL 유닛이 연관되는 계층을 식별하기 위하여 NAL 유닛의 헤더 내에 존재할 수도 있다. MV-HEVC 에서, 상이한 계층들은 비디오 비트스트림에서 동일한 장면의 상이한 뷰들을 나타낼 수 있다. SHVC 에서는, 상이한 공간적 해상도들 (또는 픽처 해상도) 에서, 또는 상이한 복원 충실도들에서 비디오 비트스트림을 나타내는 상이한 스케일러블 계층들이 제공된다. 스케일러블 계층들은 (계층 ID = 0 을 갖는) 기본 계층과, (계층 ID 들 = 1, 2, … n 을 갖는) 하나 이상의 인핸스먼트 계층들을 포함할 수도 있다. 기본 계층은 HEVC 의 제 1 버전의 프로파일을 준수할 수도 있고, 비트스트림에서 최저 이용가능한 계층을 나타낸다. 인핸스먼트 계층들은 기본 계층에 비해 증가된 공간적 해상도, 시간적 해상도 또는 프레임 레이트, 및/또는 복원 충실도 (또는 품질) 를 가진다. 인핸스먼트 계층들은 계층적으로 편성되고, 더 낮은 계층들에 종속될 수도 있다 (또는 그러하지 않을 수도 있음). 일부 예들에서, 상이한 계층들은 단일 표준 코덱을 이용하여 코딩될 수도 있다 (예를 들어, 모든 계층들은 HEVC, SHVC, 또는 다른 코딩 표준을 이용하여 인코딩됨). 일부 예들에서, 상이한 계층들은 멀티-표준 코덱을 이용하여 코딩될 수도 있다. 예를 들어, 기본 계층은 AVC 를 이용하여 코딩될 수도 있는 반면, 하나 이상의 인핸스먼트 계층들은 HEVC 표준에 대한 SHVC 및/또는 MV-HEVC 확장들을 이용하여 코딩될 수도 있다. 일반적으로, 계층은 VCL NAL 유닛들의 세트와, 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들에는 특정한 계층 ID 값이 배정된다. 계층들은 계층이 하위 계층에 의존할 수도 있는 점에서 계층적일 수 있다.

일반적으로, 계층은 VCL NAL 유닛들의 세트와, 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들에는 특정한 계층 ID 값이 배정된다. 계층들은 계층이 하위 계층에 의존할 수도 있는 점에서 계층적일 수 있다. 계층 세트 내의 계층들이 디코딩 프로세스에서의 계층 세트에서 다른 계층들에 의존할 수 있지만, 디코딩에 대해서 어떠한 다른 계층들에도 의존하지 않음을 의미하는 점에서 계층 세트는 자체-내장되어 비트스트림 내에 표현된 계층들 세트를 지칭한다. 따라서 계층 세트에서의 계층들은 비디오 컨텐츠를 표현할 수 있는 독립 비트스트림을 형성할 수 있다. 계층에서의 계층들의 세트는 서브-비트스트림 추출 프로세스의 동작에 의해 다른 비트스트림으로부터 획득될 수도 있다. 계층 세트는 특정 파라미터들에 따라 디코더가 동작하기 원할 때 코딩될 계층들의 세트에 대응할 수도 있다.

도 2 는 계층화된 HEVC 비트스트림 (200) 의 간략화된 예를 예시한다. 비트스트림 (200) 은 MV-HEVC 비트스트림 및/또는 SHVC 비트스트림일 수 있다. 예시된 예에서, 비트스트림은 기본 계층 (202) 및 2 개의 인핸스먼트 계층들 (계층 1 (212) 및 계층 2 (214)) 을 포함한다. 기본 계층 (202) 은 HEVC 의 특정 버전, 이를 테면, 현재 이전 (less-than-current) 버전에 따라 인코딩될 수 있다. 대안적으로, 기본 계층 (202) 은 다른 코덱, 이를 테면 AVC 를 이용하여 인코딩될 수 있다. 이들 및 다른 예들에서, HEVC 의 최신 버전 이외의 코덱을 이용하여 기본 계층 (202) 을 인코딩하는 것은 HEVC 의 최신 버전을 지원하지 않거나 HEVC 를 지원하지 않는 디코딩 디바이스들 (예를 들어, AVC 만을 지원하는 디바이스들) 에 대해 역방향 호환성을 제공할 수 있다. 인핸스먼트 계층들을 추가하는 것에 의해, 기존 비트스트림은 다른 코덱에 대해 재인코딩될 필요는 없다.

도 2 의 예에서, 제 1 인핸스먼트 계층 (계층 1 (212)) 은 기본 계층 (202) 에 제공된 것과 동일한 비디오를 제공하지만, 더 높은 해상도를 제공한다. 일부 경우, 계층 1 (212) 에서의 픽처들 (214) 은 기본 계층 (202) 에서의 픽처들 (204) 로부터 데이터를 이용하여 인코딩될 수도 있다. 일부 경우, 계층 1 (212) 에서의 픽처들 (214) 은 독립적으로 인코딩될 수도 있다. 더 높은 해상도를 지원하는 디코딩 디바이스는 따라서 기본 계층 (202) 또는 계층 1 (212) 을 렌더링하도록 선택할 수 있다. 다른 예들에서, 계층 1 (212) 은 기본 계층 (202) 과 동일한 픽처들 (214) 을 제공하지만, 상이한 코덱을 이용하여 제공한다.

계층 2 (222) 는 인핸스먼트 계층의 다른 예로서 예시된 예에 제공된다. 이 예에서, 계층 2 (222) 는 계층 1 (212) 에 제공된 것과 동일한 비디오를 제공하지만 더 높은 프레임 레이트로 제공한다. 계층 2 (222) 는 따라서 계층 1 (212) 에 포함된 것보다 더 많은 픽처들 (224) 을 포함한다. 일부 경우에, 계층 2 (222) 에서의 픽처들 (224) 은 계층 1 (212) 에서의 픽처들 (214) 및/또는 기본 계층 (202) 에서의 픽처들 (204) 을 이용하여 인코딩될 수도 있다. 일부 경우에, 계층 2 (222) 에서의 픽처들 (224) 은 독립적으로 제공될 수도 있다. 일부 경우, 계층 2 (222) 에서의 일부 픽처들 (224) 은 다른 계층들로부터의 데이터를 이용하여 인코딩될 수도 있는 한편 다른 픽처들 (222) 은 독립적으로 인코딩된다.

예들에서, 도 2 에 예시된 것들 이외에, 비트스트림 (200) 에서의 계층들은 예를 들어, 하나의 비디오에 대해 상이한 뷰들, 하나의 픽처로 타일될 수 있는 상이한 비디오들, 상이한 비트 레이트들, 상이한 프레임 레이트들, 상이한 해상도들 등에서 인코딩된 픽처들을 제공할 수도 있다.

다수의 계층들을 포함하는 비트스트림에서, 액세스 유닛은 특정 시간 인스턴스에 대해 픽처들 모두를 포함할 수 있다. 예를 들어, 도 2 에 예시된 예를 참조하여 보면, 하나의 액세스 유닛은 기본 계층 (202) 으로부터의 픽처 그리고, 기본 계층 (202) 으로부터의 픽처와 시간적으로 동일한 각각의 순간에 인핸스먼트 계층들 (212, 214) 에 대한 대응 픽처들을 포함할 수 있다. 일부 경우에, 액세스 유닛은 오직 일부 계층들로부터의 픽처들을 가질 수도 있다. 예를 들어, 계층 2 (222) 에서의 픽처들 (224) 이 더 높은 프레임 레이트에서 인코딩되었기 때문에, 계층 2 (222) 로부터의 일부 픽처들 (224) 은 이들 자신의 액세스 유닛들에 남아 있을 수도 있다. 일부 경우, 기본 계층 (202) 에서의 픽처들 (204) 은 인핸스먼트 계층들 (212, 214) 에서의 대응 픽처들을 갖지 않을 수도 있고, 따라서 이들 픽처들 (204) 을 포함하는 액세스 유닛은 어떠한 다른 픽처들도 포함하지 않을 수도 있다.

이전에 설명된 바와 같이, HEVC 비트스트림은 VCL NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는 NAL 유닛들의 그룹을 포함한다. 비-VCL NAL 유닛들은 다른 정보에 추가하여, 인코딩된 비디오 비트스트림에 관련되는 하이-레벨 정보를 갖는 파라미터 세트들을 포함할 수도 있다. 예를 들어, 파라미터 세트는 비디오 파라미터 세트 (video parameter set; VPS), 시퀀스 파라미터 세트 (sequence parameter set; SPS), 및 픽처 파라미터 세트 (picture parameter set; PPS) 를 포함할 수도 있다. 파라미터 세트들의 목표들의 예들은 비트 레이트 효율, 에러 복원력 (error resiliency), 및 시스템 계층 인터페이스들을 제공하는 것을 포함한다. 각각의 슬라이스는, 디코딩 디바이스 (112) 가 슬라이스를 디코딩하기 위하여 이용할 수도 있는 정보를 액세스하기 위하여, 단일의 활성 PPS, SPS, 및 VPS 를 참조한다. VPS ID, SPS ID, 및 PPS ID 를 포함하는 식별자 (identifier; ID) 는 각각의 파라미터 세트에 대하여 코딩될 수도 있다. SPS 는 SPS ID 및 VPS ID 를 포함한다. PPS 는 PPS ID 및 SPS ID 를 포함한다. 각각의 슬라이스 헤더는 PPS ID 를 포함한다. ID 들을 이용하면, 활성 파라미터 세트들은 소정의 슬라이스에 대하여 식별될 수 있다.

VCL NAL 유닛들은 코딩된 비디오 비트스트림을 형성하는 코딩된 픽처 데이터를 포함한다. 다양한 타입들의 VCL NAL 유닛들은 HEVC 표준에서 정의된다. 단일-계층 비트스트림에서는, 제 1 HEVC 표준에서 정의된 바와 같이, AU 내에 포함된 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값을 가지고, NAL 유닛 타입 값은 AU 의 타입 및 AU 내의 코딩된 픽처의 타입을 정의한다. 예를 들어, 특정한 AU 의 VCL NAL 유닛들은 순시적 디코딩 리프레시 (instantaneous decoding refresh; IDR) NAL 유닛들 (값 19) 을 포함할 수도 있어서, AU 를 IDR AU로, 그리고 AU 의 코딩된 픽처를 IDR 픽처로 만들 수도 있다. 소정의 타입의 VCL NAL 유닛은 VCL NAL 유닛 내에 포함된 픽처 또는 그 부분 (예를 들어, VCL NAL 유닛에서의 픽처의 슬라이스 또는 슬라이스 세그먼트) 에 관련된다. 선두 픽처들, 후미 픽처들, 및 인트라 랜덤 액세스 (intra random access; IRAP) 픽처들 (또한, "랜덤 액세스 픽처들" 로서 지칭됨) 을 포함하는 픽처들의 3 개의 클래스들은 HEVC 표준에서 정의된다. 멀티-계층 비트스트림에서, AU 내의 픽처의 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값 및 동일한 타입의 코딩된 픽처를 가진다. 예를 들어, 타입 IDR 의 VCL NAL 유닛들을 포함하는 픽처는 AU 에서의 IDR 픽처인 것으로 말해진다. 또 다른 예에서, AU 가 기본 계층 (0 과 동일한 계층 ID) 에서 IRAP 픽처인 픽처를 포함할 때, AU 는 IRAP AU 이다.

HEVC 비트스트림들은 엔드 오브 비트스트림 (end-of-bitstream; EOB) NAL 유닛을 더 포함할 수 있다. EOB NAL 유닛은 엔드 오브 비트스트림이 도달되었음을 표시한다. 인코더는 일반적으로 EOB NAL 유닛을 형성하고, HEVC 비트스트림에 대해 EOB NAL 유닛은 비트스트림의 최종 AU 에서 최종 NAL 유닛이다.

위에 논의된 바와 같이 인코딩된 비디오 비트스트림은 인코딩 디바이스 (104) 로부터 디코딩 디바이스 (112) 로 비트스트림을 전달하기 위하여 하나 이상의 파일들에 기록 또는 팩킹될 수 있다. 예를 들어, 출력 (110) 은 비트스트림을 포함하는 하나 이상의 파일을 생성하도록 구성된 파일 기록 엔진을 포함할 수도 있다. 출력 (110) 은 통신 링크 (120) 를 통하여 디코딩 디바이스 (112) 에 하나 이상의 파일들을 송신할 수 있다. 대안적으로 또는 추가적으로, 하나 이상의 파일들은 디코딩 디바이스 (112) 로의 나중의 송신을 위하여 저장 매체 (예를 들어, 테이프, 자기 디스크, 또는 하드 디스크 또는 일부 다른 매체) 에 저장될 수 있다.

디코딩 디바이스 (112) 는 예를 들어, 입력 (114) 에 파일 파싱 엔진을 포함할 수 있다. 파일 파싱 엔진은 통신 링크 (120) 를 통하여 또는 저장 매체로부터 수신된 파일들을 판독할 수 있다. 파일 파싱 엔진은 파일로부터 샘플들을 추가로 추출할 수 있고 디코더 엔진 (116) 에 의한 디코딩을 위하여 비트스트림을 복원한다. 일부 경우, 복원된 비트스트림은 인코더 엔진 (106) 에 의해 생성된 비트스트림과 동일한 것일 수 있다. 일부 경우, 인코더 엔진 (106) 은 비트스트림을 디코딩하기 위한 수개의 가능한 옵션들로 비트스트림을 생성할 수도 있었고, 이 경우 복원된 비트스트림은 가능한 모든 옵션들 보다 더 적은 옵션 또는 오직 하나의 옵션만을 포함할 수 있다.

위에 논의된 바와 같이 인코딩된 비트스트림들은 ISOBMFF, ISOBMFF 로부터 유도된 파일 포맷, 일부 다른 파일 포맷, 및/또는 ISOBMFF 를 포함하는 파일 포맷들의 조합을 이용하여 파일에 기록될 수 있다. 위에 주지된 바와 같이, 파일에 기록될 때, 비트스트림은 디코딩 디바이스에 저장 및/또는 송신될 수 있고, 디코딩 디바이스는 비트스트림의 컨텐츠들을 렌더링 및 디스플레이할 수 있다.

도 3 은 ISOBMFF 에 따라 포맷화된 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 기본 미디어 파일 (300) 의 일 예를 예시한다. ISOBMFF 는 미디어의 상호교환, 관리, 편집, 및 프리젠테이션을 용이하게 하는 플렉시블하고 확장가능한 포맷으로 타이밍된 미디어 정보를 포함하도록 설계된다. 미디어의 프리젠테이션은 그 프리젠테이션을 포함하는 시스템에 "로컬"일 수도 있거나, 또는 프리젠테이션이 네트워크 또는 다른 스트림 전달 메커니즘을 통할 수도 있다.

ISOBMFF 사양에 의해 정의된 "프리젠테이션" 은 픽처들의 시퀀스이고, 종종 비디오 캡처 디바이스에 의해 순차적으로 캡처되었던 것에 의해 관련되거나 또는 일부 다른 이유로 관련된다. 여기에서, 프리젠테이션은 또한 무비 또는 비디오 프리젠테이션으로서 지칭될 수도 있다. 프리젠테이션은 오디오를 포함할 수도 있다. 단일의 프리젠테이션은 하나 이상의 파일에 포함될 수도 있고, 하나의 파일은 전체 프리젠테이션에 대한 메타데이터를 포함한다. 메타데이터는 타이밍 및 프레이밍 데이터, 디스크립터들, 포인터들, 파라미터들과 같은 정보 및 프리젠테이션을 기술하는 다른 정보를 포함한다. 메타데이터는 비디오 및/또는 오디오 데이터 자체를 포함하지 않는다. 메타데이터를 포함하는 파일 이외의 다른 파일들은 ISOBMFF 에 따라 포맷될 필요는 없고, 단지 이들 파일이 메타데이터에 의해 참조될 수 있도록 포맷될 필요가 있다.

ISO 기본 미디어 파일의 파일 구조는 객체 지향적이며, 파일에서의 개개의 오브젝트의 구조는 오브젝트의 타입으로부터 직접 추론될 수 있다. ISO 기본 미디어 파일에서의 오브젝트들은 ISOBMFF 사양에 의해 "박스들"로서 지칭된다. ISO 기본 미디어 파일은 다른 박스들을 포함할 수 있는 박스들의 시퀀스로서 구조화된다. 박스들은 일반적으로 박스에 대한 사이즈 및 타입을 제공하는 헤더를 포함한다. 사이즈는 헤더, 필드들 및 박스 내에 포함된 모든 박스들을 포함한 박스의 전체 사이즈를 기술한다. 플레이어 디바이스에 의해 인식되지 않는 타입을 갖는 박스들은 통상적으로 무시되고 스킵된다.

도 3 의 예에 의해 예시된 바와 같이, 파일의 상단 레벨에서, ISO 기본 미디어 파일 (300) 은 파일 타입 박스 (310), 무비 박스 (320) 및 하나 이상의 무비 프래그먼트들 (330a, 330n) 을 포함할 수 있다. 이 레벨에 포함될 수 있지만 이 예에서는 표현되지 않는 다른 박스들은 다른 무엇보다도 자유 공간 박스들, 메타데이터 박스들, 및 미디어 데이터 박스들을 포함한다.

ISO 기본 미디어 파일은 박스 타입 "ftyp" 에 의해 식별된 파일 타입 박스 (310) 를 포함할 수 있다. 파일 타입 박스 (310) 는 파일을 파싱하기에 가장 적합한 ISOBMFF 사양을 식별한다. 이 사례에서의 "가장" 은 ISO 기본 미디어 파일 (300) 이 특정 ISOBMFF 사양에 따라 포맷될 수도 있지만, 다른 버전들 (iterations) 의 사양과도 거의 호환가능함을 의미한다. 이 가장 적절한 사양은 메이저 브랜드로서 지칭된다. 플레이어 디바이스는 디바이스가 파일의 컨텐츠들을 디코딩 및 디스플레이가능한지의 여부를 결정하도록 메이저 브랜드를 이용할 수 있다. 파일 타입 박스 (310) 는 또한 ISOBMFF 사양의 버전을 표시하는데 이용될 수 있는 버전 넘버를 포함할 수 있다. 파일 타입 박스 (310) 는 또한 파일이 호환가능한 다른 브랜드들의 리스트를 포함하는 호환가능 브랜드들의 리스트를 포함할 수 있다. ISO 기본 미디어 파일은 1 개 보다 많은 메이저 브랜드와 호환가능할 수 있다.

ISO 기본 미디어 파일 (300) 이 파일 타입 박스 (310) 를 포함할 때, 오직 하나의 파일 타입 박스만이 존재한다. ISO 기본 미디어 파일 (300) 은 더 오래된 플레이어 디바이스들과 호환가능하기 위하여 파일 타입 박스 (310) 를 생략할 수도 있다. ISO 기본 미디어 파일 (300) 이 파일 타입 박스 (310) 를 포함하지 않을 때, 플레이어 디바이스는 디폴트 메이저 브랜드 (예를 들어, "mp41"), 마이너 버전 (예를 들어, "0"), 및 호환가능 브랜드 (예를 들어, "mp41") 를 추정할 수 있다. 파일 타입 박스 (310) 는 통상적으로 ISO 기본 미디어 파일 (300) 에서 가능한 조기에 위치된다.

ISO 기본 미디어 파일은 프리젠테이션을 위한 메타데이터를 포함하는 무비 박스 (320) 를 더 포함할 수 있다. 무비 박스 (320) 는 박스 타입 "moov" 에 의해 식별된다. ISO/IEC 14496-12 는 프리젠테이션이 하나의 파일에 포함되는지 또는 다수의 파일에 포함되는지의 여부에 따라 오직 하나의 무비 박스 (320) 를 포함할 수 있음을 제공한다. 빈번하게, 무비 박스 (320) 는 ISO 기본 미디어 파일의 시작부 근처에 있다. 무비 박스 (320) 는 무비 헤더 박스 (322) 를 포함하고, 하나 이상의 트랙 박스들 (324) 뿐만 아니라 다른 박스들을 포함할 수 있다.

박스 타입 "mvhd" 에 의해 식별된 무비 헤더 박스 (322) 는 전체적으로 프리젠테이션에 관련되고 미디어 독립적인 정보를 포함할 수 있다. 예를 들어, 무비 헤더 박스 (322) 는 다른 무엇보다도 작성 시간, 수정 시간, 타임 스케일, 및/또는 프리젠테이션 지속기간과 같은 정보를 포함할 수 있다. 무비 헤더 박스 (322) 는 또한 프리젠테이션에 다음 트랙을 식별하는 식별자를 포함할 수 있다. 예를 들어, 식별자는 예시된 예에서 무비 박스 (320) 에 포함된 트랙 박스 (324) 를 지시할 수 있다.

박스 타입 "trak" 에 의해 식별된 트랙 박스 (324) 는 프리젠테이션을 위한 트랙에 대한 정보를 포함할 수 있다. 프리젠테이션은 하나 이상의 트랙들을 포함할 수 있고, 각각의 트랙은 프리젠테이션에서의 다른 트랙들에 독립한다. 각각의 트랙은 트랙에서의 컨텐츠에 고유한 시간 및 공간 정보를 포함할 수 있고, 각각의 트랙은 미디어 박스와 연관될 수 있다. 트랙에서의 데이터는 미디어 데이터일 수 있거나 (이 경우, 트랙은 미디어 트랙임) 또는 데이터는 스트리밍 프로토콜들에 대한 패킷화 정보일 수 있다 (이 경우, 트랙은 힌트 트랙임). 미디어 데이터는 예를 들어, 비디어 및 오디오 데이터를 포함한다. 예시된 예에서, 예시의 트랙 박스 (324) 는 트랙 헤더 박스 (324a) 및 미디어 박스 (324b) 를 포함한다. 트랙 박스는 다른 박스들, 이를 테면, 트랙 참조 박스, 트랙 그룹 박스, 편집 박스, 사용자 데이터 박스, 메타 박스, 및 기타의 것들을 포함할 수 있다.

박스 타입 "tkhd" 에 의해 식별된 트랙 헤더 박스 (324a) 는 트랙 박스 (324) 에 포함된 트랙의 특징들을 특정할 수 있다. 예를 들어, 트랙 헤더 박스 (324a) 는 다른 무엇보다도 트랙의 작성 시간, 수정 시간, 지속기간, 트랙 식별자, 계층 식별자, 그룹 식별자, 볼륨, 폭 및/또는 높이를 포함할 수 있다. 미디어 트랙에 대해, 트랙 헤더 박스 (324a) 는 다른 무엇보다도, 트랙이 인에이블되는지의 여부, 트랙이 프리젠테이션의 부분으로서 플레이되어야 하는지의 여부, 또는 프리젠테이션을 프리뷰하는데 이용될 수 있는지의 여부를 추가로 식별할 수 있다. 트랙의 프리젠테이션은 일반적으로 프리젠테이션의 시작부에 있는 것으로 추정된다. 트랙 박스 (324) 는 명시적 타임라인 맵을 포함할 수 있는, 본원에는 예시되어 있지 않은 편집 리스트 박스를 포함할 수 있다. 타임라인 맵은 다른 무엇보다도, 트랙에 대한 오프셋 시간을 규정하며, 여기에서 오프셋은 프리젠테이션의 시작부 이후의 트랙에 대한 시작 시간을 표시한다.

예시된 예에서, 트랙 박스 (324) 는 또한 박스 타입 "mdia" 에 의해 식별된 미디어 박스 (324b) 를 포함한다. 미디어 박스 (324b) 는 트랙에서의 미디어 데이터에 대한 정보 및 오브젝트를 포함할 수 있다. 예를 들어, 미디어 박스 (324b) 는 트랙에서의 미디어가 프리젠테이션되게 하는 프로세스 및 트랙의 미디어 타입을 식별할 수 있는 핸들러 참조 박스를 포함할 수 있다. 다른 예로서, 미디어 박스 (324b) 는 트랙에서의 미디어의 특징을 규정할 수 있는 미디어 정보 박스를 포함할 수 있다. 미디어 정보 박스는 샘플들의 테이블을 더 포함할 수 있고, 여기에서 각각의 샘플은 예를들어, 샘플에 대한 데이터의 위치를 포함하는 미디어 데이터 (예를 들어, 비디오 또는 오디오 데이터) 의 청크를 기술한다. 샘플에 대한 데이터는 아래 추가로 논의된 바와 같이 미디어 데이터 박스에 저장된다. 대부분의 다른 박스들에서와 같이, 미디어 박스 (324b) 는 또한 미디어 헤더 박스를 포함할 수 있다.

예시된 예에서, 일 예의 ISO 기본 미디어 파일 (300) 은 또한, 프리젠테이션의 다수의 프래그먼트들 (330a, 330b, 330c, 330n) 을 포함한다. 프래그먼트들 (330a, 330b, 303c, 330n) 은 ISOBMFF 박스들이 아니고, 다만 무비 프래그먼트 박스 (332) 및 무비 프래그먼트 박스 (332) 에 의해 참조된 미디어 데이터 박스 (338) 를 기술한다. 무비 프래그먼트 박스 (332) 및 미디어 데이터 박스들 (338) 은 상단 레벨 박스들이지만, 여기에서는 무비 프래그먼트 박스 (332) 와 미디어 데이터 박스 (338) 간의 관계를 표시하기 위해 그룹화된다.

박스 타입 "moof" 에 의해 식별된 무비 프래그먼트 박스 (332) 는 무비 박스 (320) 에 달리 저장된 추가적인 정보를 포함하는 것에 의해 프리젠테이션을 확장할 수 있다. 무비 프래그먼트 박스들 (332) 을 이용하여, 프리젠테이션은 증분적으로 구축될 수 있다. 무비 프래그먼트 박스 (332) 는 무비 프래그먼트 헤더 박스 (334) 및 트랙 프래그먼트 박스 (336) 뿐만 아니라 여기에 예시되지 않은 다른 박스들을 포함할 수 있다.

박스 타입 "mfhd" 에 의해 식별된 무비 프래그먼트 헤더 박스 (334) 는 시퀀스 넘버를 포함할 수 있다. 플레이어 디바이스는 프래그먼트 (330a) 가 프리젠테이션을 위한 다음 데이터 피스를 포함함을 확인하기 위해 시퀀스 넘버를 이용할 수 있다. 일부 경우에, 프리젠테이션을 위한 파일 또는 파일들의 컨텐츠들은 플레이어 디바이스에 무질서적으로 제공될 수 있다. 예를 들어, 네트워크 패킷들은 패킷들이 원래 송신되었던 순서에서와 다른 순서로 빈번하게 도달할 수 있다. 이들 경우, 시퀀스 넘버는 프래그먼트들에 대한 정확한 순서를 결정함에 있어서 플레이어 디바이스를 지원할 수 있다.

무비 프래그먼트 박스 (332) 는 또한 박스 타입 "traf" 에 의해 식별된 하나 이상의 트랙 프래그먼트 박스들 (336) 을 포함할 수 있다. 무비 프래그먼트 박스 (332) 는 트랙 당 0 이상인 트랙 프래그먼트들의 세트를 포함할 수 있다. 트랙 프래그먼트들은 0 이상의 트랙 런들을 포함할 수 있고, 트랙 런들 각각은 트랙에 대한 샘플들의 연속하는 런을 기술한다. 트랙 프래그먼트들은 트랙에 샘플들을 추가하는 것에 더하여, 트랙에 빈 시간을 추가하는 데 이용될 수 있다.

박스 타입 "mdat" 에 의해 식별된 미디어 데이터 박스 (338) 는 미디어 데이터를 포함한다. 비디오 트랙들에서, 미디어 데이터 박스 (338) 는 비디오 프레임들을 포함할 것이다. 미디어 데이터 박스는 대안적으로 또는 추가적으로 오디오 데이터를 포함할 수 있다. 프리젠테이션은 하나 이상의 개별적인 파일들에 포함된 0 이상의 미디어 데이터 박스를 포함할 수 있다. 미디어 데이터는 메타데이터에 의해 기술된다. 예시된 예에서, 미디어 데이터 박스 (338) 에서의 미디어 데이터는 트랙 프래그먼트 박스 (336) 에 포함된 메타데이터에 의해 기술될 수 있다. 다른 예들에서, 미디어 데이터 박스에서의 미디어 데이터는 무비 박스 (320) 에서 메타데이터에 의해 기술될 수 있다. 메타데이터는 파일 (300) 내의 절대 오프셋에 의해 특정 미디어 데이터를 참조할 수 있어, 미디어 데이터 헤더 및/또는 미디어 데이터 박스 (338) 내의 자유 공간은 스킵될 수 있게 된다.

ISO 기본 미디어 파일 (300) 에서의 다른 프래그먼트들 (330b, 330c, 330n) 은 제 1 프래그먼트 (330a) 에 대하여 예시된 것들과 유사한 박스들을 포함할 수 있고/있거나 다른 박스들을 포함할 수 있다.

ISOBMFF 는 네트워크 상에서 마디어 데이터를 스트리밍하기 위한 지원 뿐만 아니라, 미디어의 로컬 플레이백을 지원하는 것을 포함한다. 하나의 무비 프리젠테이션을 포함하는 파일 또는 파일들은 힌트 트랙들로 불리는 추가적인 트랙들을 포함할 수 있고, 이 트랙들은 패킷들로서 파일 또는 파일들을 형성하고 송신하는데 스트리밍 서버를 보조할 수 있는 명령들을 포함한다. 이들 명령들은 예를 들어, 서버가 미디어 데이터의 세그먼트들을 전송하거나 또는 참조하기 위한 데이터 (예를 들어, 헤더 정보) 를 포함할 수 있다. 파일은 상이한 스트리밍 프로토콜에 대한 별도의 힌트 트랙을 포함할 수 있다. 힌트 트랙들은 또한 파일을 재포맷할 필요 없이 파일에 추가될 수 있다.

미디어 데이터를 스트리밍하는 하나의 방법은 (ISO/IEC 33009-1:2014 에서 정의된) HTTP (HyperText Transfer Protocol) 상에서의 동적 적응적 스트리밍 (Dynamic Adaptive Streaming over HyperText Transfer Protocol), 또는 DASH 이다. MPEG-DASH 로서 또한 알려진 DASH 는 통상의 HTTP 웹 서버들을 이용하여 미디어 컨텐츠의 고품질 스트리밍을 가능하게 하는 적응적 비트레이트 스트리밍 기법이다. DASH 는 작은 HTTP-기반 파일 세그먼트들의 시퀀스로 미디어 컨텐츠를 나누는 것에 의해 동작하며, 각각의 세그먼트는 컨텐츠의 단기 시구간을 포함한다. DASH 를 이용하여, 서버는 상이한 비트 레이트들에서 미디어 컨텐츠를 제공할 수 있다. 미디어에서 플레이하는 클라이언트 디바이스는 다음 세그먼트를 다운로딩할 때 대안의 비트 레이트들 중에서 선택할 수 있고, 따라서 변하는 네트워크 조건들에 적응할 수 있다. DASH 는 인터넷의 HTTP 웹 서버 인프라스트럭처를 이용하여 World Wide Web 상에서의 컨텐츠를 전달할 수 있다. DASH 는 미디어 컨텐츠를 인코딩 및 디코딩하는데 이용된 코덱에 독립적이며, 따라서, 다른 무엇보다도 H.264 및 HEVC 와 같은 코덱으로 동작한다.

ISOBMFF 사양은 DASH 와의 이용을 위하여 6 개의 타입들의 스트림 액세스 포인트 (Stream Access Point; SAP) 들을 특정한다. 최초의 2 개의 SAP 타입들 (타입들 1 및 2) 은 H.264/AVC 및 HEVC 에서의 순시적 디코딩 리프레시 (IDR) 픽처들에 대응한다. 예를 들어, IDR 픽처는 디코더에서 디코딩 프로세스를 완전하게 리프레시하거나 재초기화하고 새로운 코딩된 비디오 시퀀스를 시작하는 인트라-픽처 (I-픽처) 이다. 일부 예들에서, IDR 픽처 및 디코딩 순서에서 IDR 픽처를 후행하는 임의의 픽처는 디코딩 순서에서 IDR 픽처 전에 나오는 임의의 픽처에 종속적이지 않을 수 있다.

제 3 SAP 타입 (타입 3) 은 HEVC 에서의 파손된 링크 액세스 (broken link access; BLA) 또는 클린 랜덤 액세스 (clean random access; CRA) 픽처들과 같은 개방-GOP (Group of Pictures; 픽처들의 그룹) 랜덤 액세스 포인트들에 대응한다. 예를 들어, CRA 픽처는 또한 I-픽처이다. CRA 픽처는 디코더를 리프레시하지 않을 수도 있고 새로운 코딩된 비디오 시퀀스 (coded video sequence; CVS) 를 시작하지 않을 수도 있어서, CRA 픽처의 선두 픽처들이 디코딩 순서에서 CRA 픽처 전에 나오는 픽처들에 종속되는 것을 허용할 수도 있다. 랜덤 액세스는 CRA 픽처, 디코딩 순서에서 CRA 픽처 전에 나오는 임의의 픽처에 종속적이지 않은 CRA 픽처와 연관된 선두 픽처들, 및 디코딩 및 출력 순서의 양자에서 CRA 를 후행하는 모든 연관된 픽처들을 디코딩함으로써 CRA 픽처에서 행해질 수도 있다. 일부 경우들에는, CRA 픽처가 연관된 선두 픽처들을 가지지 않을 수도 있다. 멀티-계층의 경우, 제로보다 더 큰 계층 ID 를 갖는 계층에 속하는 IDR 또는 CRA 픽처는 P-픽처 또는 B-픽처일 수도 있지만, 이 픽처들은, IDR 또는 CRA 픽처와 동일한 액세스 유닛에 속하고 IDR 또는 CRA 픽처를 포함하는 계층보다 더 작은 계층 ID 를 가지는 다른 픽처들로부터의 인터-계층 예측을 오직 이용할 수 있다.

제 4 SAP 타입 (타입 4) 은 점진적 디코딩 리프레시 (gradual decoding refresh; GDR) 랜덤 액세스 포인트들에 대응한다.

도 4 는 2 개의 계층들을 포함하는 비디오 프리젠테이션을 위한 ISO 기본 미디어 파일 (400) 의 일 예를 예시한다. 위에 논의된 바와 같이, 비디오 프리젠테이션은 기본 계층 및 하나 이상의 인핸스먼트 계층들을 포함한 다수의 계층들을 포함할 수 있다. 도 4 의 예에서, 비디오는 계층 0 에서기 기본 계층, 및 계층 1 에서의 인핸스먼트 계층을 포함한다. 다른 예들에서, 비디오는 1 개 보다 많은 인핸스먼트 계층을 포함할 수 있다.

파일 (400) 의 상단 레벨에서, ISO 기본 미디어 파일 (400) 은 파일 타입 박스 (410), 무비 박스 (420), 및 2 개의 미디어 데이터 박스들 (430a, 430b) (계층 0 및 계층 1 에 대한 샘플들에 대해 각각 하나) 을 포함한다. 파일 타입 박스 (410) 는 파일 (400) 을 판독하는데 가장 적합한 브랜드 (예를 들어, ISOBMFF 사양의 버전 또는 그 파생물) 을 식별할 수 있다. 파일 타입 박스 (410) 는 또한 호환가능 브랜드들의 리스트, 즉, 파일 (400) 을 판독하는데 적합한 다른 브랜드들을 식별할 수 있다.

무비 박스 (720) 는 비디오 프리젠테이션에 대한 메타데이터를 포함할 수 있다. 무비 박스 (420) 는 전체적으로 프리젠테이션에 대한 정보를 포함할 수 있는 무비 헤더 박스 (422) 를 포함할 수 있다. 무비 박스 (420) 는 또한 하나 이상의 트랙 박스들을 포함할 수 있다. 예시된 예에서, 무비 박스 (420) 는 2 개의 트랙 박스들 (424a, 424b) 을 포함한다 (계층 0 에 대한 메타데이터 및 계층 1 에 대한 메타데이터에 대해 각각 하나). 다른 예들에서, 양쪽 계층 0 및 계층 1 에 대한 메타데이터는 하나의 트랙 박스에 포함될 수 있다. 프리젠테이션이 2 개 보다 많은 계층들을 포함하는 예에서, 계층들 모두가 하나의 트랙에 포함될 수 있거나 또는 일부 트랙들이 오직 하나의 계층만을 가질 수 있는 한편, 다른 트랙들은 2 개 이상의 계층들을 갖는다.

트랙 박스들 (424a, 424b) 각각은 트랙 헤더 박스 (426a, 426b) 을 포함한다. 트랙 헤더 박스들 (426a, 426b) 은 개별적인 트랙 박스 (424a, 424b) 에 의해 참조되는 트랙의 특징을 기술할 수 있다. 예를 들어, 트랙 헤더 박스들 (426a, 426b) 은 다른 무엇보다도, 트랙에서의 픽처들에 대한 폭, 높이 및 계층 ID 를 포함할 수 있다.

트랙 박스들 (424a, 424b) 각각은 각각이 미디어 데이터 박스 (428a, 482b) 를 더 포함할 수 있다. 미디어 데이터 박스들 (428a, 428b) 은 각각의 개별적인 트랙에 포함된 계층들에서의 샘플들의 디스크립션을 포함한다. 샘플에 대한 디스크립션은 다른 무엇보다도, 예를 들어, 파일 (400) 내의 (또는 다른 파일 내의) 샘플의 위치, 시간적으로 병치된 샘플들의 디스크립션들, 및/또는 참조 샘플들의 디스크립션들을 포함할 수 있다.

미디어 데이터 박스들 (430a, 430b) 은 2 개 이상의 계층들에 대한 샘플들을 포함한다. 샘플들은 ISO 기본 미디어 파일 (400) 에 포함된 미디어에 대한 데이터를 포함한다. 예시된 예에서, 샘플들은 비디오 데이터 및 오디오 데이터를 포함할 수 있다. 이 예에서, 계층 0 에 대한 샘플들은 하나의 미디어 데이터 박스 (430a) 에 위치되고, 계층 1 에 대한 샘플들은 제 2 미디어 데이터 박스 (430b) 에 위치된다. 다른 예들에서, 양쪽 계층들에 대한 샘플들은 동일한 미디어 데이터 박스에 포함될 수 있다. 다른 예들에서, 하나의 계층에 대한 샘플들은 다수의 미디어 데이터 박스들에 포함될 수 있다. 다른 예들에서, 샘플들은 다른 파일들에 포함될 수 있다.

위에 논의된 바와 같이, HEVC 비트스트림은 EOB (end-of-bitstream) NAL 유닛을, 비트스트림의 최종 액세스 유닛에서의 최종 NAL 유닛으로서 포함할 수 있다. EOB NAL 유닛은 엔드 오브 비트스트림이 도달함을 디코더에 시그널링할 수 있다. 비트스트림이 멀티-계층 비트스트림일 때, 인코더는 비트스트림에서의 최종 액세스 유닛에 EOB NAL 유닛을 적절하게 배치시킬 것이다. 그러나, 비트스트림이 후속하여 파일에 기록 (예를 들어, 파일 내에 저장 또는 파일로 저장) 될 때, EOB NAL 유닛의 위치에 관한 문제가 발생할 수도 있다.

도 5a 는 멀티-계층 비트스트림이 저장된 ISO 기본 미디어 파일 (500) 의 일 예를 예시한다. 예시된 예에서, 비트스트림은 계층 0 에서의 기본 계층 및 계층 1 에서의 인핸스먼트 계층을 포함한다. 예시적 파일 (500) 은 파일 타입 박스 (510) 을 더 포함하고, 이 파일 타입 박스는 파일 (500) 이 호환가능하게 되는 ISOBMFF 의 브랜드(들) 또는 특정 버전들, 또는 ISOBMFF 의 파생물들을 규정할 수 있다. 파일 (500) 은 또한 무비 박스 (520) 를 포함할 수 있고, 이는 비트스트림에 대한 메타데이터를 포함할 수 있다. 예시적 파일 (500) 은 또한 미디어 데이터 박스들 (530a, 530b) 을 포함하고, 이 박스는 비트스트림에 대한 샘플들을 포함할 수 있다.

이 예에서의 무비 박스 (520) 는 트랙 0 및 트랙 1 에 대한 무비 헤더 박스 (522) 및 2 개의 트랙 박스들 (524a, 524b) 을 포함한다. 무비 헤더 박스 (522) 는 전체적으로 프리젠테이션을 기술하는 정보를 포함할 수 있다. 이 예에서, 계층 0 은 트랙 0 에 있고, 이에 따라 제 1 트랙 박스 (524a) 는 계층 0 에 대한 메타데이터를 포함한다. 또한, 계층 1 은 트랙 1 에 있고, 이에 따라 제 2 트랙 박스 (524b) 는 계층 1 에 대한 메타데이터를 포함한다. 다른 예들에서, 양쪽 계층들에 대한 메타데이터는 하나의 트랙 박스에 있을 수 있다. 다른 예들에서, 비트스트림은 2 개 보다 많은 계층들을 포함할 수 있다. 이들 예들에서, 일부 트랙들은 하나의 계층을 포함할 수 있고/있거나 일부 트랙들은 2 개 이상의 계층들을 포함할 수 있다.

이 예에서, 각각의 트랙 박스 (524a, 524b) 는 트랙 헤더 박스 (526a, 526b) 및 미디어 박스 (528a, 528b) 를 포함한다. 트랙 헤더 박스들 (526a, 526b) 은 트랙을 기술할 수 있는 한편, 미디어 박스들 (528a, 528b) 은 트랙에서의 샘플들의 디스크립션들을 포함할 수 있다.

위에 논의된 바와 같이, 파일 (500) 에 저장된 비트스트림은 EOB NAL 유닛 (540) 을 가질 수 있다. 예시된 예에서, 인코더는 인핸스먼트 계층인 계층 1 에서 데이터의 종점에 EOB NAL 유닛 (540) 을 배치하였다. 이 예에서, EOB NAL 유닛 (540) 은 따라서 트랙 1 에서 찾을 수 있다.

일부 경우, 트랙 1 의 EOB NAL 유닛 (540) 의 배치는 디코딩 디바이스의 파일 파싱 엔진에 대하여 문제를 일으킬 수 있다. 도 5b 및 도 5c 는 도 5a 에서 예시된 ISO 기본 미디어 파일 (500) 이 상이한 디코더 디바이스들에 의해 판독될 때 결과일 수 있는 비트스트림들 (550, 552) 의 예들을 예시한다. 도 5b 에서, 디코딩 디바이스는 오직 트랙 0 만을 판독한다. 파일 (500) 로부터 추출된 비트스트림 (550) 은 따라서, 각각이 기본 계층으로부터의 기본 픽처 (564a, 564b, 564c, 564n) 를 포함하는 일련의 액세스 유닛들 (562a, 562b, 562c, 562n) 을 포함한다. 그러나, 도 5a 의 예에서, EOB NAL 유닛 (540) 은 트랙 1 에 있었고, 따라서, EOB NAL 유닛 (540) 은 복원된 비트스트림 (550) 에 포함되지 않는다.

도 5b 의 예에서, 디코딩 디바이스는 기본 계층만을 플레이하도록 구성되었기 때문에 (예를 들어, 인핸스먼트 계층은 디스플레이를 위하여 선택되지 않았음), 디코딩 디바이스는 예를 들어, 오직 트랙 0 만을 판독할 수도 있다. 대안으로서 또는 추가적으로, 디코딩 디바이스는 기본 계층만을 플레이할 수도 있다 (예를 들어, 디코딩 디바이스는 오직 AVC 호환가능하고, 기본 계층은 AVC 로 인코딩된 비트스트림을 포함한다). 디코딩 디바이스는 다른 이유로 달리 트랙 0 만을 판독할 수도 있다.

도 5c 의 예에서, 디코딩 디바이스는 파일 (500) 로부터 기본 계층 및 인핸스먼트 계층 양쪽을 추출하였다. 따라서, 결과적인 비트스트림 (552) 은 각각이 기본 계층으로부터의 기본 픽처 (564a, 564b, 564c, 564n) 및 인핸스먼트 계층으로부터의 인핸스드 픽처 (566a, 566b, 566c 566n) 를 포함하는 일련의 액세스 유닛들 (562a, 562b, 562c, 562n) 을 포함한다. 이 예에서, EOB NAL 유닛 (540) 이 인핸스먼트 계층에 있었기 때문에, 인핸스먼트 계층이 파일로부터 추출될 때, EOB NAL 유닛 (540) 이 또한 추출되고 최종 액세스 유닛 (562n) 에 적절하게 배치된다.

도 5c 의 예에서, 예를 들어, 인핸스먼트 계층이 디스플레이를 위하여 선택되었고 인핸스먼트 계층이 기본 계층으로부터의 데이터를 요청하기 때문에 디코딩 디바이스는 양쪽 트랙 0 및 트랙 1 을 판독할 수도 있다. 디코딩 디바이스는 다른 이유로 달리 양쪽 트랙들을 판독할 수도 있다.

도 6a 는 멀티-계층화된 비트스트림이 저장된 ISO 기본 미디어 파일 (600) 의 다른 예를 예시한다. 예시된 예에서, 비트스트림은 계층 0 에서의 기본 계층 및 계층 1 에서의 인핸스먼트 계층을 포함한다. 예시적 파일 (600) 은 파일 타입 박스 (610) 를 더 포함하고, 이 파일 타입 박스는 파일 (600) 이 호환가능하게 되는 ISOBMFF 의 브랜드(들) 또는 특정 버전들, 또는 ISOBMFF 의 파생물들을 규정할 수 있다. 파일 (600) 은 또한 무비 박스 (620) 를 포함할 수 있고, 이는 비트스트림에 대한 메타데이터를 포함할 수 있다. 예시적 파일 (600) 은 또한 미디어 데이터 박스들 (630a, 630b) 을 포함하고, 이 박스는 비트스트림에 대한 샘플들을 포함할 수 있다.

이 예에서의 무비 박스 (620) 는 트랙 0 및 트랙 1 에 대한 무비 헤더 박스 (622) 및 2 개의 트랙 박스들 (624a, 624b) 을 포함한다. 무비 헤더 박스 (622) 는 전체적으로 프리젠테이션을 기술하는 정보를 포함할 수 있다. 이 예에서, 계층 0 은 트랙 0 에 있고, 이에 따라 제 1 트랙 박스 (624a) 는 계층 0 에 대한 메타데이터를 포함한다. 또한, 계층 1 은 트랙 1 에 있고, 이에 따라 제 2 트랙 박스 (624b) 는 계층 1 에 대한 메타데이터를 포함한다. 다른 예들에서, 양쪽 계층들에 대한 메타데이터는 하나의 트랙 박스에 있을 수 있다. 다른 예들에서, 비트스트림은 2 개 보다 많은 계층들을 포함할 수 있다. 이들 예들에서, 일부 트랙들은 하나의 계층을 포함할 수 있고/있거나 일부 트랙들은 2 개 이상의 계층들을 포함할 수 있다.

이 예에서, 각각의 트랙 박스 (624a, 624b) 는 트랙 헤더 박스 (626a, 626b) 및 미디어 박스 (628a, 628b) 를 포함한다. 트랙 헤더 박스들 (626a, 626b) 은 트랙을 기술할 수 있는 한편, 미디어 박스들 (628a, 628b) 은 트랙에서의 샘플들의 디스크립션들을 포함할 수 있다.

위에 논의된 바와 같이, 파일 (600) 에 저장된 비트스트림은 EOB NAL 유닛 (640) 을 가질 수 있다. 예시된 예에서, 인코더 디바이스는 기본 계층에 EOB NAL 유닛 (640) 을 배치하였고, EOB NAL 유닛 (640) 은 따라서 트랙 0 에서 찾을 수 있다. 여러 구현들에서, 인코더 디바이스는 인코딩 제약들로 인하여 기본 계층에 EOB NAL 유닛 (640) 을 배치하도록 요구될 수도 있다. 일부 경우, 인코더는 다른 이유로 기본 계층에 EOB NAL 유닛 (640) 을 배치할 수도 있다. 예를 들어, 비트스트림에서의 최종 액세스 유닛은 기본 계층에서 픽처만을 포함할 수도 있다.

EOB NAL 유닛 (640) 이 기본 계층에 있을 때, 디코더 디바이스에 대해 문제가 생길 수도 있다. 도 6b 및 도 6c 는 도 6a 에 예시된 ISO 기본 미디어 파일 (600) 을 판독하는 것으로부터 비롯될 수 있는 비트스트림들 (650, 652) 의 예들을 예시한다. 도 6b 에서, 디코딩 디바이스는 비트스트림의 기본 계층만을 요구하였고, 따라서 트랙 0 만을 판독하도록 파일 파싱 엔진에 명령하였다. 따라서, 결과적인 비트스트림 (650) 은 각각이 트랙 0 으로부터 판독된 기본 픽처 (664a, 664b, 664c, 664n) 를 포함하는 일련의 액세스 유닛들 (662a, 662b 662c, 662n) 을 포함한다. 이 예에서, 기본 계층은 EOB NAL 유닛 (640) 을 포함하였고, 따라서, 도 6b 에 예시된 비트스트림 (650) 은 최종 액세스 유닛 (662n) 에서 EOB NAL 유닛 (640) 을 포함한다.

도 6c 의 예에서, 디코딩 디바이스의 파일 파싱 엔진은 파일 (600) 로부터 기본 계층 및 인핸스먼트 계층 양쪽을 판독한다. 따라서, 결과적인 비트스트림 (652) 은 각각이 트랙 0 으로부터 판독된 기본 픽처 (664a, 664b, 664c, 664n) 및 트랙 1 로부터 판독된 인핸스드 픽처 (666a, 666b, 666c, 666n) 를 포함하는 일련의 액세스 유닛들 (662a, 662b 662c, 662n) 을 포함한다. 이 예에서, 각각의 액세스 유닛은 기본 계층으로부터의 NAL 유닛들로 충전되었고, 그 후, 인핸스먼트 계층으로부터의 NAL 유닛들로 충전되었다. EOB NAL 유닛 (640) 이 일 예의 파일 (600) 에서 기본 계층에 있었기 때문에, 이 예의 비트스트림 (652) 에서, EOB NAL 유닛 (640) 은 최종 액세스 유닛에서의 최종 NAL 유닛이 아니다. 따라서, 비트스트림 (652) 은 정확하게 디코딩되지 않을 수도 있다.

도 7 은 멀티-계층화된 비트스트림이 저장된 ISO 기본 미디어 파일 (700) 의 다른 예를 예시한다. 예시된 예에서, 비트스트림은 계층 0 에서의 AVC 기본 계층, 및 AVC 기본 계층의 HEVC 버전을 포함하는 계층 1 에서의 인핸스먼트 계층을 포함한다. 비트스트림은 HEVC 에 대하여 인코딩되지 않았던 레거시 비트스트림이기 때문에 또는 비트스트림이 더 오래된 디코더 엔진들을 갖는 디코더 디바이스와 호환가능하게 이루어졌기 때문에 기본 계층은 AVC 를 이용하여 인코딩될 수도 있다. 인핸스먼트 계층은 동일한 비트스트림이 HEVC 를 지원하는 디코더 디바이스들에 의해 뷰잉될 수 있도록 추가로 제공될 수 있다. 다른 예들에서, 기본 계층은 AVC 이외의 코덱을 이용하여 인코딩될 수 있어, 기본 계층이 HEVC 코덱을 이용하여 인코딩되지 않았던 샘플들을 포함하게 된다.

예시적 파일 (700) 은 파일 타입 박스 (710) 를 더 포함하고, 이 파일 타입 박스는 파일 (700) 이 호환가능하게 되는 ISOBMFF 의 브랜드(들) 또는 특정 버전들, 또는 ISOBMFF 의 파생물들을 규정할 수 있다. 파일 (700) 은 또한 무비 박스 (720) 를 포함할 수 있고, 이는 비트스트림에 대한 메타데이터를 포함할 수 있다. 예시적 파일 (700) 은 또한 미디어 데이터 박스들 (730a, 730b) 을 포함하고, 이 박스는 비트스트림에 대한 샘플들을 포함할 수 있다.

이 예에서의 무비 박스 (720) 는 트랙 0 및 트랙 1 에 대한 무비 헤더 박스 (722) 및 2 개의 트랙 박스들 (724a, 724b) 을 포함한다. 무비 헤더 박스 (722) 는 전체적으로 프리젠테이션을 기술하는 정보를 포함할 수 있다. 이 예에서, 계층 0 은 트랙 0 에 있고, 이에 따라 제 1 트랙 박스 (724a) 는 계층 0 에 대한 메타데이터를 포함한다. 또한, 계층 1 은 트랙 1 에 있고, 이에 따라 제 2 트랙 박스 (724b) 는 계층 1 에 대한 메타데이터를 포함한다. 다른 예들에서, 양쪽 계층들에 대한 메타데이터는 하나의 트랙 박스에 있을 수 있다. 다른 예들에서, 비트스트림은 2 개 보다 많은 계층들을 포함할 수 있다. 이들 예들에서, 일부 트랙들은 하나의 계층을 포함할 수 있고/있거나 일부 트랙들은 2 개 이상의 계층들을 포함할 수 있다.

이 예에서, 각각의 트랙 박스 (724a, 724b) 는 트랙 헤더 박스 (726a, 726b) 및 미디어 박스 (728a, 728b) 를 포함한다. 트랙 헤더 박스들 (726a, 726b) 은 트랙을 기술할 수 있는 한편, 미디어 박스들 (728a, 728b) 은 트랙에서의 샘플들의 디스크립션들을 포함할 수 있다. 예를 들어, 트랙 0 에 대한 박스 (724a) 에서의 트랙 헤더 박스 (726a) 및/또는 미디어 박스 (728a) 는 트랙 0 에 대한 샘플들이 AVC 를 이용하여 인코딩되었음을 표시할 수 있다. 이와 유사하게, 트랙 1 에 대한 박스 (724b) 에서의 트랙 헤더 박스 (726b) 및/또는 미디어 박스 (728b) 는 트랙 1 에 대한 샘플들이 HEVC 를 이용하여 인코딩되었음을 표시할 수 있다.

위에 논의된 바와 같이, 파일 (700) 에 저장된 비트스트림은 EOB NAL 유닛 (740) 을 가질 수 있다. 예시된 예에서, 인코더 디바이스는 기본 계층에 EOB NAL 유닛 (740) 을 배치하였고, EOB NAL 유닛 (740) 은 따라서 트랙 0 에서 찾을 수 있다. 여러 구현들에서, 인코더 디바이스는 인코딩 제약들로 인하여 기본 계층에 EOB NAL 유닛 (740) 을 배치하도록 요구될 수도 있다. 일부 경우, 인코더는 다른 이유로 기본 계층에 EOB NAL 유닛 (740) 을 배치할 수도 있다. 예를 들어, 비트스트림에서의 최종 액세스 유닛은 기본 계층에서 픽처만을 포함할 수도 있다. 이들 및 다른 예들에서, EOB NAL 유닛 (740) 은 AVC 코덱에 따라 생성될 것이다.

이 예에서, 디코더 디바이스에 대해 문제가 생길 수도 있다. 예를 들어, 디코더 디바이스가 HEVC 호환가능할 때, 디코더 디바이스는 파일 (700) 로부터 기본 계층 및 인핸스먼트 계층 양쪽을 판독하도록 파일 파싱 엔진에 명령할 수도 있다. 그러나, EOB NAL 유닛 (740) 은 기본 계층에 있는 것에 기인하여, AVC 를 이용하여 생성되었던 EOB NAL 유닛일 것이다. 따라서, 파일 (700) 로부터 판독되고 결과적인 비트스트림의 종점에 배치되는 경우에도, 결과적인 비트스트림은 완전히 HEVC 호환가능한 것은 아닐 수도 있고, HEVC 디코더 디바이스에 의해 적절하게 프로세싱되지 않을 수도 있다.

여러 구현들에서, 여러 기법들이 EOB NAL 유닛과 관련하여 위에 논의된 문제들을 극복하는데 이용될 수 있다. 도 8a 는 이들 기법들에 따라 생성된 ISO 기본 미디어 파일 (800) 의 일 예를 예시한다. 예시된 예에서, 비트스트림은 계층 0 에서의 기본 계층 및 계층 1 에서의 인핸스먼트 계층을 포함한다. 예시적 파일 (800) 은 파일 타입 박스 (810) 를 더 포함하고, 이 파일 타입 박스는 파일 (800) 이 호환가능하게 되는 ISOBMFF 의 브랜드(들) 또는 특정 버전들, 또는 ISOBMFF 의 파생물들을 규정할 수 있다. 파일 (800) 은 또한 무비 박스 (820) 를 포함할 수 있고, 이는 비트스트림에 대한 메타데이터를 포함할 수 있다. 예시적 파일 (800) 은 또한 미디어 데이터 박스들 (830a, 830b) 을 포함하고, 이 박스는 비트스트림에 대한 샘플들을 포함할 수 있다.

이 예에서의 무비 박스 (820) 는 트랙 0 및 트랙 1 에 대한 무비 헤더 박스 (822) 및 2 개의 트랙 박스들 (824a, 824b) 을 포함한다. 무비 헤더 박스 (822) 는 전체적으로 프리젠테이션을 기술하는 정보를 포함할 수 있다. 이 예에서, 계층 0 은 트랙 0 에 있고, 이에 따라 제 1 트랙 박스 (824a) 는 계층 0 에 대한 메타데이터를 포함한다. 또한, 계층 1 은 트랙 1 에 있고, 이에 따라 제 2 트랙 박스 (824b) 는 계층 1 에 대한 메타데이터를 포함한다. 다른 예들에서, 양쪽 계층들에 대한 메타데이터는 하나의 트랙 박스에 있을 수 있다. 다른 예들에서, 비트스트림은 2 개 보다 많은 계층들을 포함할 수 있다. 이들 예들에서, 일부 트랙들은 하나의 계층을 포함할 수 있고/있거나 일부 트랙들은 2 개 이상의 계층들을 포함할 수 있다.

이 예에서, 각각의 트랙 박스 (824a, 824b) 는 트랙 헤더 박스 (826a, 826b) 및 미디어 박스 (828a, 828b) 를 포함한다. 트랙 헤더 박스들 (826a, 826b) 은 트랙을 기술할 수 있는 한편, 미디어 박스들 (828a, 828b) 은 트랙에서의 샘플들의 디스크립션들을 포함할 수 있다.

본 개시의 여러 구현들에서, 파일 (800) 에서의 EOB NAL 유닛의 배치에 관련된 문제를 극복하는 기법은 EOB NAL 유닛 (840a, 840b) 이 하나 이상의 트랙들에 존재할 수도 있도록 파일에서의 EOB NAL 유닛들의 존재를 완화하는 것이다. 도 8 에 예시된 바와 같이, 따라서, 트랙 0 은 EOB NAL 유닛 (840a) 을 포함할 수도 또는 포함하지 않을 수도 있다. 이와 유사하게, 트랙 1 은 EOB NAL 유닛 (840b) 을 포함할 수도 또는 포함하지 않을 수도 있다. 일부 경우, EOB NAL 유닛 (840a, 840b) 이 유사할 수도 있다. 일부 경우, 트랙 0 에서의 EOB NAL 유닛 (840a) 은 트랙 1 에서의 EOB NAL 유닛 (840b) 과는 상이할 수도 있다. 예를 들어, 트랙 0 에서의 EOB NAL 유닛은 HEVC 코덱 이외의 다른 코덱을 이용하여 인코딩될 수도 있는 한편, 트랙 1 에서의 EOB NAL 유닛은 HEVC 코덱을 이용하여 인코딩될 수도 있다.

도 8b 및 도 8c 는 도 8a 에 예시된 파일 (800) 로부터 구성될 수 있는 비트스트림들 (850, 852) 의 예들을 예시한다. 도 8b 와 도 8c 양쪽에서, 디코더 디바이스는 비트스트림의 기본 계층만을 요구하였고, 따라서 트랙 0 만을 판독하도록 파일 파싱 엔진에 명령하였다. 각각의 예시적 비트스트림 (850, 852) 은 따라서 일련의 액세스 유닛들 (862a 862b, 862c, 862n) 을 포함하여, 각각이 기본 계층으로부터의 기본 픽처 (864a, 864b, 864c, 864n) 를 포함하게 된다.

도 8b 의 예에서, 트랙 0 은 기본 계층에 대한 EOB NAL 유닛 (840a) 을 포함하고, 트랙 1 은 인핸스먼트 계층에 대한 EOB NAL 유닛 (840b) 을 포함하지 않는다. 이 예에서, 다른 계층 (이 예에서 기본 계층) 보다 더 큰 (예를 들어, "더 높은") 계층 ID 값과 연관된 어떠한 다른 "상위" 계층 (예를 들어, 인핸스먼트 계층) 도 EOB NAL 유닛을 포함하지 않음을 의미하는 점에서, 디코더 디바이스의 파일 파싱 엔진은 기본 계층이 EOB NAL 유닛을 포함하는 최고 계층인 것으로 결정할 수 있다. 파일 파싱 엔진은 따라서 복원된 비트스트림 (850) 의 최종 액세스 유닛 (862n) 에서의 기본 계층으로부터의 EOB NAL 유닛 (840a) 을 포함할 수도 있다. 결과적인 비트스트림 (850) 은 따라서 EOB NAL 유닛 (840a) 에 관련된 어떠한 에러들도 없이 디코딩될 수 있다.

도 8b 에 예시된 기술은 오직 트랙 0 만이 파일 (800) 로부터 판독될 때 EOB NAL 유닛 (840a) 이 복원된 비트스트림 (650) 에 포함되는 것을 보장할 수 있다. 이 예에서, 다른 계층들이 고려되는 경우에도, 파일 파싱 엔진은 기본 계층으로부터의 EOB NAL 유닛 (840a) 이 비트스트림 (650) 에서의 이용에 적절한 것으로 결정할 수도 있다.

도 8c 의 예에서, 트랙 0 은 EOB NAL 유닛을 포함하지 않았고, 트랙 1 에서의 인핸스먼트 계층은 EOB NAL 유닛 (840b) 을 포함한 것일 수도 있다. 이 예에서, 디코더 디바이스의 파일 파싱 엔진이 파일 (800) 을 판독할 때, 파싱 엔진은 기본 계층이 EOB NAL 유닛을 포함하지 않음을 검출하도록 구성될 수 있다. 파일 파싱 엔진은 또한, 트랙에서의 계층이 EOB NAL 유닛을 포함하는지의 여부를 결정하기 위해 최고 계층에 대한 트랙 (이 예에서는 트랙 1) 을 판독 (예를 들어, 프로세싱) 하도록 구성될 수도 있다. 여러 구현들에서, 최고 계층 트랙이 EOB NAL 유닛을 포함하지 않을 때, EOB NAL 유닛이 위치될 때까지 또는 파일 (800) 이 EOB NAL 유닛들을 포함하지 않는 것으로 파일 파싱 엔진이 결정할 때까지 파일 파싱 엔진은 다음 최고 계층에 대한 트랙을 시도할 수도 있는 등을 행한다. 예시된 예에서, 트랙 1 에서 EOB NAL 유닛을 찾는 것에 의해, 파일 파싱 엔진은 이 EOB NAL 유닛 (840b) 을 복원된 비트스트림 (852) 의 최종 액세스 유닛 (862n) 으로 (예를 들어, 내에) 배치 (예를 들어, 포함) 시킬 수 있다. 결과적인 비트스트림 (852) 은 따라서 EOB NAL 유닛에 관련된 어떠한 에러들도 없이 디코딩될 수 있다.

대안으로서, 도 8c 의 예에서, 트랙 0 및 트랙 1 양쪽은 EOB NAL 유닛들 (840a, 840b) 을 포함하는 것일 수도 있다. 이 경우, 일부 구현들에서, 파일 파싱 엔진은 최고 계층 (예를 들어, 이 예에서 인핸스먼트 계층) 에 EOB NAL 유닛 (840b) 을 위치시키고 복원된 비트스트림 (852) 의 최종 액세스 유닛 (862n) 에 EOB NAL 유닛 (840b) 을 배치하도록 구성될 수 있다. 기본 계층으로부터의 EOB NAL 유닛 (840a) 을 포함한 임의의 다른 EOB NAL 유닛들은 폐기될 수 있다.

도 8c 에 예시된 기법은 디코더 디바이스가 기본 계층만을 필요로 할 때 생성될 수 있는 문제들을 회피할 수 있고, EOB NAL 유닛을 포함하지 않든 EOB NAL 유닛을 포함하든 디코더 디바이스의 디코더 엔진과 잠재적으로 호환가능하지 않은 문제들을 회피할 수 있다. 예를 들어, 이 예의 파일 (800) 이 기본 계층에서 EOB NAL 유닛을 포함하지 않을 때, 상위 계층으로부터의 EOB NAL 유닛이 대신 제공될 수 있다. 다른 예로서, 기본 계층에서의 EOB NAL 이 AVC 를 이용하여 인코딩되었지만, 디코더 디바이스가 HEVC 디코더 엔진을 포함할 때, 상위 계층으로부터의 HEVC EOB NAL 유닛이 기본 계층에서의 EOB NAL 유닛에 대해 대체될 수 있다.

도 8d 및 도 8e 는 도 8a 에 예시된 파일 (800) 로부터 구성될 수 있는 비트스트림들 (854, 856) 의 추가적인 예들을 예시한다. 도 8d 및 도 8e 에서, 디코더 디바이스는 기본 계층 및 강화 계층 양쪽을 요구하고 따라서 트랙 0 및 트랙 1 양쪽을 판독하도록 파일 파싱 엔진에 명령한다. 따라서, 각각의 예의 비트스트림 (850, 852) 은 각각이 기본 계층으로부터의 기본 픽처 (864a, 864b, 864c, 864n) 및 인핸스먼트 계층으로부터의 인핸스드 픽처 (868a, 868b, 868c, 868n) 를 포함하는 일련의 액세스 유닛들 (862a 862b, 862c, 862n) 을 포함한다.

도 8d 의 예에서, 기본 계층 및 인핸스먼트 계층들 양쪽은 EOB NAL 유닛들 (840a, 840b) 을 포함하였다. 이 예에서, 여러 구현들에서, 디코더 디바이스의 파일 파싱 엔진은 최고 계층 (이 예에서, 인핸스먼트 계층) 으로부터의 EOB NAL 유닛 (840b) 만을 포함하고 임의의 다른 EOB NAL 유닛들 (예를 들어, 기본 계층으로부터의 EOB NAL 유닛 (840a)) 을 폐기하도록 구성될 수 있다. 복원된 파일 (854a) 은 따라서 인핸스먼트 계층 (예를 들어, 최고 계층) 으로부터의 EOB NAL 유닛 (840b) 만을 포함한다.

도 8d 에 예시된 기법은 1 개 보다 많은 EOB NAL 유닛을 포함하거나 또는 기본 계층으로부터의 EOB NAL 유닛만을 포함하는 비트스트림을 생성하는 것을 회피할 수 있다. 예를 들어, 파일은 기본 계층에서 EOB NAL 유닛만을 가질 때, 양쪽 계층들을 포함하는 복원된 비트스트림이 최종 액세스 유닛의 중간에 부적절하게 위치된 기본 계층으로부터의 EOB NAL 유닛만을 갖지 않도록 인핸스먼트 계층에서의 EOB NAL 유닛이 허용된다. 디코더 디바이스의 파일 파싱 엔진은 또한 비트스트림이 1 개보다 많은 EOB NAL 유닛을 갖지 않는 것을 보장할 수 있다.

도 8e 의 예에서, 기본 계층은 EOB NAL 유닛 (840a) 을 포함하지만, 인핸스먼트 계층은 EOB NAL 유닛을 포함하지 않는다. 이 예에서, 여러 구현들에서, 디코더 디바이스의 파일 파싱 엔진은 최고 계층 (이 예에서, 기본 계층) 에 있는 EOB NAL 유닛을 식별하고 파일로부터 판독된 NAL 유닛을 재정렬하여, 최고 계층으로부터의 EOB NAL 유닛이 최종 액세스 유닛 (862n) 의 종점으로 이동되게 한다. 임의의 다른 EOB NAL 유닛이 폐기될 수 있다.

도 8e 에 예시된 기법은 최종 액세스 유닛의 종점에 있지 않은 EOB NAL 유닛을 갖는 비트스트림을 생성하는 것을 회피할 수 있다. 예를 들어, 기본 계층이 EOB NAL 유닛을 포함하지만 인핸스먼트 계층이 EOB NAL 유닛을 포함하지 않을 때, 예시된 기법이 없으면, EOB NAL 유닛은 종점에 있기 보다는 최종 액세스 유닛 (862n) 의 중간 어딘가에 배치된다.

위에 논의된 여러 기법들은 따라서 비트스트림이 파일에 기록 (예를 들어, 저장) 될 때 EOB NAL 유닛들의 배치 근방에 생성될 수 있는 문제들을 해결할 수 있다. 보다 일반적으로 설명하면, 위의 기법들은, EOB NAL 유닛이 최고 계층으로부터 기원하지 않는 픽처의 부분일 때, 최고 계층에 픽처의 부분으로서 존재하는 EOB NAL 유닛이 있지 않는 한, EOB NAL 유닛은 비트스트림의 복원 동안 최종 액세스 유닛의 종점에 발생될 것이다. 후자의 경우, 최고 계층으로부터의 EOB NAL 유닛은 최종 액세스 유닛에 포함될 것이다. 대안적으로 또는 추가적으로, 1 개 보다 많은 EOB NAL 유닛이 액세스 유닛에 존재할 때, 최고 계층 ID 값을 갖는 픽처의 부분인 EOB NAL 유닛이 이용될 것이고 임의의 다른 EOB NAL 유닛들이 폐기된다.

도 9 는 ISO 기본 미디어 파일에 포함될 수 있는 미디어 박스 (940) 및 미디어 데이터 박스들 (938a, 938b) 의 일 예를 예시한다. 위에 논의된 바와 같이, 미디어 박스는 트랙 박스에 포함될 수 있고 트랙에 미디어 박스를 기술하는 정보 및 오브젝트들을 포함할 수 있다. 예시된 예에서, 미디어 박스 (940) 는 미디어 정보 박스 (942) 를 포함한다. 미디어 박스 (940) 는 또한 다른 박스들을 포함할 수 있고, 이는 여기에 예시되지 않는다.

미디어 정보 박스 (942) 는 트랙에서 미디어에 대한 특징 정보를 기술하는 오브젝트들을 포함할 수 있다. 예를 들어, 미디어 정보 박스 (942) 는 트랙에서의 미디어 정보의 위치를 기술하는 데이터 정보 박스를 포함할 수 있다. 다른 예로서, 미디어 정보 박스 (942) 는 트랙이 비디오 데이터를 포함할 때 비디오 미디어 헤더를 포함할 수 있다. 비디오 미디어 헤더는 비디오 미디어의 코딩에 독립적인 일반 프리젠테이션 정보를 포함할 수 있다. 미디어 정보 박스 (942) 는 또한 트랙이 오디오 데이터를 포함할 때 사운드 미디어 헤더를 포함할 수 있다.

미디어 정보 박스 (942) 는 또한 예시된 예에 제공된 바와 같이 샘플 테이블 박스 (944) 를 포함할 수 있다. 박스 타입 "stbl" 에 의해 식별된 샘플 테이블 박스 (944) 는 트랙에서의 미디어 샘플들에 대한 위치들 (예를 들어, 파일에서의 위치들) 뿐만 아니라 샘플들에 대한 시간 정보를 제공할 수 있다. 샘플 테이블 박스 (944) 에 의해 제공된 정보를 이용하여, 플레이어 디바이스는 정확한 시간 순서로 샘플들을 위치시키고 샘플의 타입을 결정하고/하거나 다른 무엇보다도 컨테이너 내의 샘플의 사이즈, 컨테이너 및 오프셋을 결정할 수 있다.

샘플 테이블 박스 (944) 는 박스 타입 "stsd" 에 의해 식별된 샘플 디스크립션 박스 (946) 를 포함할 수 있다. 샘플 디스크립션 박스 (946) 는 예를 들어, 샘플에 이용된 코딩 타입에 대한 상세한 정보 및 그 코딩 타입에 필요한 임의의 초기화 정보를 제공할 수 있다. 샘플 디스크립션 박스에 저장된 정보는 샘플들을 포함하는 트랙의 타입에 고유할 수 있는 샘플 디스크립션 박스에 저장된다. 예를 들어, 트랙이 비디오 트랙일 때 하나의 포맷이 샘플 디스크립션에 이용될 수도 있고 트랙이 힌트 트랙일 때 상이한 포맷이 이용될 수도 있다. 추가의 예로서, 샘플 디스크립션에 대한 포맷은 또한 힌트 트랙의 포맷에 의존하여 변할 수도 있다.

샘플 디스크립션 박스 (946) 는 하나 이상의 샘플 엔트리들 (948a, 948b, 948c) 을 포함할 수 있다. 샘플 엔트리 타입은 추상화 클래스이고, 따라서 통상적으로 샘플 디스크립션 박스 (946) 는 고유의 샘플 엔트리들, 이를 테면, 무엇보다도, 비디오 데이터에 대한 비쥬얼 샘플 엔트리 또는 오디오 샘플들에 대한 오디오 샘플 엔트리를 포함한다. 샘플 엔트리 박스는 특정 샘플에 대한 파라미터들을 저장할 수 있다. 예를 들어, 비디오 샘플에 대해, 샘플 엔트리 박스는 다른 무엇보다도, 비디오 샘플에 대한 폭, 높이, 수평 해상도, 수직 해상도, 프레임 카운트 및/또는 심도를 포함할 수 있다. 다른 예로서, 오디오 샘플에 대해, 샘플 엔트리는 다른 무엇보다도, 채널 카운트, 채널 레이아웃, 및/또는 샘플링 레이트를 포함할 수 있다.

샘플 엔트리들 (948a, 948b, 948c) 에 의해 기술되는 샘플들 (970a, 970b, 970c) 은 미디어 데이터 박스들 (938a, 938b) 에 저장된다. 미디어 데이터 박스들 (938a, 938b) 은 파일의 상단 레벨에 포함될 수 있다. 샘플 디스크립션 박스 (946) 에서 참조되는 샘플들은 상이한 미디어 데이터 박스들 (938a, 938b) 에 포함될 수 있거나 또는 하나의 미디어 데이터 박스에 포함될 수 있다. 미디어 데이터 박스들 (938a, 938b) 은 미디어 박스 (940) 와 동일한 파일에 있을 수 있고/있거나 다른 파일에 있을 수 있다.

위에 논의된 문제들에 더하여, ISOBMFF 또는 ISOBMFF 로부터 유도된 포맷에 따라 포맷화된 파일로의 타일 트랙들의 기록에 관련된 여러 문제들이 발생한다.

HEVC 표준의 특정 버전들은 타일들로 지칭되는 직사각형 영역들의 코딩에 대한 지원을 제공한다. 이들 영역들은 이전에 코딩된 픽처들로부터 다른 타일들과의 코딩 종속성들을 가질 수도 있거나 또는 독립적으로 디코딩될 수도 있다. 타일은 프레임에서의 하나 이상의 슬라이스들에 대응하여 단일의 직사각형 영역으로서 설명될 수 있다. 타일들은 단일의 슬라이스에서 코딩된 수개의 타일들에 대응하는 타일 세트들로 그룹화될 수 있다. 타일 세트들은 타일들 사이의 종속성들을 기술하고/하거나 관심 범위에 있는 수개의 타일들의 영역을 기술하는데 이용될 수 있다.

타일들에 대한 샘플들을 포함하는 ISO 기본 미디어 파일에서의 트랙은 통상적으로 타일 트랙으로서 통상 지칭된다. 타일 트랙들은 다른 트랙들과 이들 트랙을 구별하는 요건들을 가질 수도 있다. ISO/IEC 14496-15 의 조항 10.6.1 로부터 다음 인용은 이들 요건들의 일부 예들을 제공한다:

"HEVC (그 역으로는 LHEHC) 타일 트랙은 타일(들)이 속하는 연관된 HEVC 계층의 NALU들을 반송하는 HEVC (그 역으로는 LHEVC) 트랙에 대한 'tbas' 참조가 존재하는 비디오 트랙이다. HEVC 타일 트랙에 대한 샘플 디스크립션 타입은 'hvt1' 이다. LHEVC 타일 트랙에 대한 샘플 디스크립션 타입은 'lht1' 이다.

타이 트랙에서의 샘플들도 샘플 디스크립션 박스도 VPS, SPS 또는 PPS NAL 유닛들을 포함하지 않고, 이들 NAL 유닛들은 트랙 참조로 식별되는 연관된 계층을 포함하는 트랙의 샘플 디스크립션 박스에 또는 샘플들에 있다. HEVC/LHEVC 타일 트랙 및 'tbas' 트랙 참조로 표시된 연관 계층을 포함하는 트랙 양쪽은 추출기들을 이용하여, Annex B 에 정의된 바와 같이 오리지널 비트스트림이 복원되는 방법을 표시할 수도 있고; 이들 트랙들에서의 추출기들의 존재는 일부 애플리케이션 도메인들에 구속될 수도 있다."

위에서, 타일 트랙의 'tbas' 참조에 의해 참조되는 타일 트랙이 속하는 계층을 포함하는 트랙은 기본 트랙으로서 지칭될 수 있다.

위의 인용에서 주지된 바와 같이, 추출기들은 타일된 비트스트림을 복원하는데 이용될 수 있다. 추출기는 추출기를 포함하는 트랙 이외의 트랙으로부터의 NAL 유닛들의 추출을 가능하게 하는 ISO 기본 미디어 파일에서의 구조이다. 구체적으로, 추출기는 추출기가 존재하는 트랙에 링크되는 다른 트랙으로부터 데이터를 추출하라는 명령을 포함한다. ISO/IEC 14496-15 의 조항 10.6.4 는 다음과 같이 타일 트랙들에 관한 추출기들의 이용을 설명한다:

"타일 트랙들을 이용한 HEVC 또는 L-HEVC 트랙은 그 타일 트랙들로부터 데이터를 참조하도록 추출기를 이용할 수도 있고, 이 경우, 트랙은 타일 트랙들에 대한 'scal' 트랙 참조들을 갖는다."

일부 경우들에서, 원형 추출기 참조는 ISO 기본 미디어 파일이 HEVC 및 L-HEVC 타일 트랙을 포함할 때 발생할 수 있는 것이 가능할 수도 있다. 예를 들어, 위에 주지된 바와 같이, 파라미터 세트들 (예를 들어, VPS, SPS 또는 PPS NAL 유닛들) 은 타일 트랙들에 저장되지 않고, 그 대신에, 샘플 디스크립션 박스 또는 타일 트랙 (예를 들어, 기본 트랙) 과 연관된 계층을 포함하는 트랙의 샘플들에서 찾을 수 있다. 타일 트랙에서의 샘플들은 따라서 추출기들을 이용하여 파라미터 세트를 참조한다. 그러나, 일부 경우, 기본 트랙은 추출기들을 자체적으로 이용하여, 조항 10.6.4 로부터 위의 인용부에 의해 제공된 바와 같이 타일 트랙에서의 NAL 유닛들을 참조할 수도 있다. 따라서, 타일 트랙의 샘플들과 기본 트랙에서의 샘플들 사이의 원형 참조가 생성될 수도 있다.

여러 기법들은, 원형 추출기 참조들이 발생하면 타일 트랙들에서의 이러한 원형 추출기 참조들을 극복하는데 이용될 수 있다. 예를 들어, 트랙이 타일 트랙에 대한 'scal' 트랙 참조를 포함할 때, 참조된 타일 트랙이 추출기를 포함하지 않도록 제약들이 정의될 수 있다. 이 예에서, 파라미터 세트들은 샘플 엔트리에만 존재하고, 'tbas' 트랙 참조에 의해서만 참조되는 기본 트랙의 샘플들에는 존재하지 않는다.

일부 경우, 하나 이상의 타일된 액세스 유닛들의 ISO 기본 미디어 파일로부터의 복원도 또한 문제들을 겪는다. 타일된 액세스 유닛들의 복원은 IOS/IEC 14496-14 의 조항 10.6.4 에서 설명되고, 다음과 같이 요약될 수 있다 : 암시적 복원을 위하여, 타일 트랙들을 이용한 HEVC 또는 L-HEVC 트랙은 타일 트랙들에 대한 'sabt' 트랙 참조를 이용한 타일 정렬을 표시하고; HEVC 또는 LHEVC 트랙의 샘플은 트랙 참조들의 순서로 이 트랙의 'sabt' 트랙 참조들에 표시된 모든 트랙들에서 (예를 들어, 편집 리스트들을 고려하는 것이 없이 시간-투-샘플 테이블만을 이용하여) 동일한 디코딩 시간으로 샘플들에 포함된 NAL 유닛들을 샘플 데이터에 첨부하는 것에 의해 복원된다.

HEVC 또는 LHEVC 타일 트랙이 (예를 들어, HEVC 또는 LHEVC 트랙 샘플에 포함된 파라미터 세트 NAL 유닛을 참조하기 위해) 추출기를 이용할 때 위의 복원 방법에 의해 문제가 발생할 수 있다. 일부 경우들에서, 추출기에 의해 참조된 데이터는 최종 복원된 타일된 액세스 유닛에서 복제될 것이다.

여러 기술들은 타일된 액세스 유닛에서의 데이터의 복제를 회피하는데 이용될 수 있다. 예를 들어, HEVC 또는 L-HEVC 타일 트랙이 추출기를 이용하여 타일 트랙의 'tbas' 트랙을 참조하지 않도록 제약이 적용될 수 있다. 다른 예로서, 타일 액세스 유닛들의 복원에서, 묵시적 복원이 이용될 때 'tbas' 트랙들에 대한 추출기들은 무시될 것이다. 추가의 예로서, 타일된 액세스 유닛의 묵시적 복원을 위하여, 존재한다면 타일 트랙들에서의 추출기들이 무시되도록 제약이 적용될 수 있다.

위에 인용된 ISO/IEC 14496-15 의 조항 10.6.1 로부터의 인용에 의해 제공된 바와 같이, HEVC 및 L-HEVC 타일 트랙들은 추출기들을 이용할 수 있다. 예를 들어, 타일 트랙은 타일 트랙의 'tbas' 참조 (예를 들어, 기본 트랙) 에 의해 참조되는 트랙으로부터 샘플들을 추출할 수도 있다. 따라서, 타일 트랙의 디코딩 및/또는 플레이백은 기본 트랙의 존재를 요구한다. 추출기들의 일 목적이 트랙들의 보다 작은 형성을 제공하기 위한 것이기 때문에, 타일 트랙이 추출기를 이용하게 하는 것은 이 목적에 반하는 것으로 보여진다.

여러 기법들은 어떠한 이점도 이러한 이용으로부터 얻어지지 않는 경우에 추출기들의 이용을 회피하는데 이용될 수 있다. 예를 들어, 여러 구현들에서, 임의의 타일 트랙에서의 추출기들의 이용은 금지될 수 있다.

타일 트랙에 관하여 발생할 수도 있는 다른 문제는 HEVC 또는 L-HEVC 타일 트랙으로부터의 비디오 부분만이 요구될 때 발생한다. 이 상황에서, ISO/IEC 14496-15 사양은 오류의 파서가 디코더 엔진에 대하여 발생할 것이라는 데이터를 규정하지 않는다.

HEVC 또는 L-HEVC 타일 트랙의 비디오 부분만이 요구될 때 ISO/IEC 14496-15 관련 스트림 또는 액세스 유닛 구성에서 놓치고 있는 사양들을 극복하기 위해 여러 기법들이 이용될 수 있다. 예를 들어, 다음의 프로세스가 이용될 수 있다: 첫번째로, 샘플 엔트리에 포함된 파라미터 세트들 및 보충 인핸스먼트 정보 (SEI) NAL 유닛들이 출력될 수 있다. 다음으로, 다른 NAL 유닛들이 다음의 순서로 출력될 수 있다: VCL NAL 유닛들 앞에 존재해야 하는, ('tbas' 트랙 참조로 표시되는) 기본 트랙에서의 (이하 "firstSampleInBaseTrack" 으로 지칭되는) 제 1 샘플에서의 NAL 유닛들 (예를 들어, 파라미터 세트 NAL 유닛, 프리픽스 SEI NAL 유닛들 등); 타일 트랙에서의 firstSampleInBaseTrack 의 대응 샘플에서의 NAL 유닛들; VLC NAL 유닛들 뒤에 존재해야 하는, firstSampleInBaseTrack 에서의 NAL 유닛들 (예를 들어, EOS NAL 유닛, EOB NAL 유닛); VLC NAL 유닛들 앞에 존재해야 하는, 기본 트랙에서의 (이하, "secondSampleInBaseTrack" 으로 지칭되는) 제 2 샘플에서의 NAL 유닛들; 타일 트랙에서의 secondSampleInBaseTrack 의 대응 샘플에서의 NAL 유닛들; VLC NAL 유닛들 뒤에 존재해야 하는, secondSampleInBaseTrack 에서의 NAL 유닛들 등.

위의 프로세스에서, 기본 트랙 및 타일 트랙에서의 샘플들은 디코딩 시간들로 동기화된다. 즉, 기본 트랙에서의 샘플 및 타일 트랙에서의 그 대응 샘플은 동일한 디코딩 시간을 갖는다.

HEVC 및 L-HEVC 타일 트랙들에 대한 하나의 이용 케이스는 전체 픽처를 디코딩하는 대신에 픽처 내의 관심 영역 (region of interest; ROI) 을 디코딩하는 것이다. 이러한 케이스에서, 타일 트랙에 저장된 픽처의 부분은 디코딩될 수 있다. 이를 위하여, 픽처 내의 타일의 상대 위치가 알려지는 것이 필요할 수도 있다.

픽처 내의 타일의 위치를 시그널링하는데 여러 기법들이 이용될 수 있다. 예를 들어, 오프셋 정보는 HEVC 또는 L-HEVC 타일 트랙의 샘플 엔트리에 포함될 수 있다. 오프셋 정보는 수평 및/또는 수직 오프셋을 포함할 수 있다. 오프셋은 픽셀 유닛들, 파이카 (picas), 센티미터, 인치의 부분들, 매크로블록들 또는 일부 다른 척도 유닛으로 제공될 수 있다.

타일 트랙에 대한 오프셋 정보를 제공하기 위해, ISO/IEC 14496-15 의 섹션 10.6.2.2 및 10.6.3.2 에 대한 수정안들이 제안된다. 이들 섹션에 대한 텍스트는 아래와 같고, 여기에서 이들 섹션에 추가된 텍스트는 밑줄 친 텍스트 (추가된 텍스트의 예) 를 이용하여 표시된다.

10.6.2.2 신택스

class HEVCTileConfigurationBox extends Box('hvtC') {

unsigned int(16) horizontal_offset;

unsigned int(16) vertical_offset;

HEVCTileTierLevelConfigurationRecord() HEVCTileTierLevelConfig;

}

horizontal_offset 및 vertical_offset 은 루마 샘플들의 유닛에 있어서, 'tbas' 참조 트랙에 의해 표현되는 상부-좌측 루마 샘플에 대하여, 이 트랙으로 표현되는 타일에 의해 표현되는 직사각형 영역의 상부-좌측 루마 샘플의, 수평 및 수직 오프셋들을 제공한다.

10.6.3.2 신택스

class LHEVCTileSampleEntry() extends VisualSampleEntry ('lht1'){

unsigned int(16) min_horizontal_offset;

unsigned int(16) min_vertical_offset;

unsigned int(16) max_horizontal_offset;

unsigned int(16) max_vertical_offset;

MPEG4BitRateBox (); // optional

Box extra_boxes[]; // optional

}

min_horizontal_offset 및 min_vertical_offset 은 각각 루마 샘플들의 유닛에 있어서, 'tbas' 참조 트랙에 의해 표현되는 최저 계층의 픽처의 상부-좌측 루마 샘플에 대하여, 최저 계층의 이 트랙으로 표현되는 타일에 의해 표현되는 직사각형 영역의 상부-좌측 루마 샘플의, 수평 및 수직 오프셋들을 제공한다.

max_horizontal_offset 및 max_vertical_offset 은 각각 루마 샘플들의 유닛에 있어서, 'tbas' 참조 트랙에 의해 표현되는 최저 계층의 픽처의 상부-좌측 루마 샘플에 대하여, 최고 계층의 이 트랙으로 표현되는 타일에 의해 표현되는 직사각형 영역의 상부-좌측 루마 샘플의, 수평 및 수직 오프셋들을 제공한다.

도 10 은 인코딩된 비디오 데이터를 포함하는 파일이 1 개 보다 많은 EOB NAL 유닛을 가질 수도 있는 경우, 인코딩된 비디오 데이터를 프로세싱하기 위한 프로세스 (1000) 의 일 예를 예시한다. 1002 에서, 프로세스 (1000) 는 인코딩된 비디오 데이터와 연관된 파일을 수신하는 것을 포함하며, 여기에서, 인코딩된 비디오 데이터는 파일 포맷에 따라 파일에 저장되고, 인코딩된 비디오 데이터는 2 개 이상의 계층들을 포함하고, 2 개 이상의 계층들은 파일에서의 2 개 이상의 트랙들에 저장된다. 일부 경우들에서, 파일에서의 적어도 2 개의 계층들은 각각이 EOB NAL 유닛을 가질 수 있다. 일부 경우들에서, 기본 계층만이 EOB NAL 유닛을 포함한다. 일부 경우, 하나 이상의 인핸스먼트 계층들은 각각이 EOB NAL 유닛을 가질 수도 있다.

1004 에서, 프로세스 (1000) 는 2 개 이상의 계층들 중에서 제 1 계층을 결정하는 것을 포함하고, 여기에서, 제 1 계층은 엔드-오브-비트스트림 표시자를 포함하는 2 개 이상의 계층들 중에서 최고 계층 (예를 들어, 최고 계층 ID 값을 갖는 계층) 인 것으로 결정된다. 즉, 파일이 EOB 표시자를 갖는 1 개 보다 많은 계층을 포함할 때, 단계 1004 에서 EOB 표시자를 갖는 최고 계층이 식별된다 (예를 들어, 결정된다). 일부 경우, 파일에 심지어 더 높은 계층들 (예를 들어, EOB 표시자를 가진 앞서 언급된 최고 계층 보다 더 높은 계층 ID 값들과 연관된 계층들) 이 존재할 수도 있지만, 이들 더 높은 계층들은 EOB 를 포함하지 않는다.

1006 에서, 프로세스 (1000) 는 본 장치는 제 1 엔드-오브 비트스트림 표시자를 결정하는 것을 포함하고, 제 1 엔드-오브 비트스트림 표시자는 제 1 계층으로부터의 엔드-오브-비트스트림 표시자이다.

1008 에서, 프로세스 (1000) 는 2 개 이상의 계층들 중에서 계층들의 세트를 선택 (예를 들어, 식별) 하는 것을 포함한다. 여러 구현들에서, 계층들의 세트는 계층들에서의 샘플들이 디스플레이를 위하여 선택되는 것에 기초하여 계층들의 세트가 선택된다. 일부 경우, 계층들의 세트는 파일에서의 계층들의 수 보다 더 적은 수를 포함할 수도 있다. 일부 경우, 계층들의 세트는 오직 하나의 계층을 포함할 수도 있다.

1010 에서, 프로세스 (1000) 는 일련의 액세스 유닛들을 생성하는 것을 포함하고, 여기에서, 일련의 액세스 유닛들은 계층들의 세트로부터의 샘플들을 포함한다.

1012 에서, 프로세서 (1000) 는 일련의 액세스 유닛들 및 제 1 엔드-오브-비트스트림 표시자를 이용하여 복원된 비트스트림을 생성하는 것을 포함하고, 여기에서, 복원된 비트스트림에서의 최종 액세스 유닛은 제 1 엔드-오브-비트스트림 표시자를 포함한다. 예를 들어, 일부 경우, 위에 설명된 바와 같이, 일련의 액세스 유닛들에서의 최종 액세스 유닛은 엔드-오브-비트스트림 표시자를 포함하지 않을 수도 있다. 이들 경우, 제 1 엔드-오브-비트스트림 표시자는 일련의 액세스 유닛들에서의 최종 액세스 유닛에 추가될 수 있다. 여러 구현들에서, 제 1 엔드-오브-비트스트림 표시자는 일련의 액세스 유닛들에서의 최종 액세스 유닛에 추가될 수 있다. 일련의 액세스 유닛들에서의 최종 액세스 유닛은 복원된 비트스트림에서의 최종 액세스 유닛이 될 수도 있다.

일부 경우, 복원된 비트스트림이 제 1 계층을 포함하지 않을 수도 있는 계층들의 세트가 단계 1004 에서 결정된다. 즉, 복원된 비트스트림과 연관된 계층들의 세트는 엔드-오브-비트스트림 표시자를 또한 포함하는 최고 계층 ID 값과 연관된 계층을 포함하지 않을 수도 있다. 이들 경우, 제 1 계층은 단계 1008 에서 선택 또는 식별된 계층들의 세트에 존재하는 최고 계층보다 더 높은 계층 ID 값과 연관된 계층일 수도 있다. 이것이 해당 케이스일 때, 계층들의 세트에서의 임의의 계층들이 이 최종 액세스 유닛에 엔드-오브-비트스트림 표시자를 제공하는지의 여부와 무관하게, 제 1 계층에 포함된 제 1 엔드-오브-비트스트림 표시자는 일련의 액세스 유닛들에서의 최종 액세스 유닛에 추가 (예를 들어, 포함) 될 수 있다.

일부 경우, 단계 1004 에서 결정된 제 1 계층은 단계 1008 에서 결정된 계층들의 세트에서의 최고 계층보다 더 낮은 계층일 수도 있다. 이들 경우들에서, 제 1 계층으로부터의 제 1 엔드-오브-비트스트림 표시자는 일련의 액세스 유닛들에서의 최종 액세스 유닛으로 이동될 수 있다. 제 1 계층은 일련의 계층들에 있을 수 있거나 있지 않을 수도 있다.

일부 경우, 복원된 비트스트림에서의 최종 액세스 유닛이 생성되면, 이 최종 액세스 유닛은 1 개 보다 많은 엔드-오브-비트스트림 표시자를 가질 수도 있다. 이것이 해당 케이스일 때, 제 1 계층으로부터의 제 1 엔드-오브-비트스트림 표시자 이외의 엔드-오브-비트스트림 표시자들 각각은 제거될 수 있다. 그 결과, 복원된 비트스트림에서의 최종 액세스 유닛은 제 1 엔드-오브-비트스트림 표시자만을 포함한다.

일부 예들에서, 프로세스 (1000) 는 시스템 (100) 과 같은 컴퓨팅 디바이스 또는 장치에 의해 수행될 수도 있다. 예를 들어, 프로세스 (1000) 는 도 1 에 도시된 시스템 (100) 및/또는 저장부 (108) 또는 출력 (110) 에 의해 수행될 수 있다. 일부 경우, 컴퓨팅 디바이스 또는 장치는 프로세서, 마이크로프로세서, 마이크로컴퓨터, 또는 프로세스 (1000) 의 단계들을 수행하도록 구성된 디바이스의 다른 컴포넌트를 포함할 수도 있다. 일부 경우들에서, 컴퓨팅 디바이스 또는 장치는 비디오 프레임들을 포함하는 비디오 데이터 (예를 들어, 비디오 시퀀스) 를 캡처하도록 구성된 카메라를 포함할 수도 있다. 예를 들어, 컴퓨팅 디바이스는 비디오 코덱을 포함할 수도 있는 카메라 디바이스 (예를 들어, IP 카메라 또는 다른 유형의 카메라 디바이스) 를 포함할 수도 있다. 일부 예들에서, 비디오 데이터를 캡처하는 카메라 또는 다른 캡처 디바이스는 컴퓨팅 디바이스로부터 분리되고, 이 경우, 컴퓨팅 디바이스는 캡처된 비디오 데이터를 수신한다. 컴퓨팅 디바이스는 비디오 데이터를 통신하도록 구성된 네트워크 인터페이스를 더 포함할 수도 있다. 네트워크 인터페이스는 인터넷 프로토콜 (IP) 기반 데이터를 통신하도록 구성될 수도 있다.

프로세스 (1000) 는 논리적 흐름도로서 예시되어 있고, 그 동작은 하드웨어, 컴퓨터 명령들, 또는 그 조합으로 구현될 수 있는 동작들의 시퀀스를 나타낸다. 컴퓨터 명령들의 문맥에서, 동작들은 하나 이상의 프로세서들에 의해 실행될 때, 열거된 동작들을 수행하는, 하나 이상의 컴퓨터-판독가능 저장 매체들 상에 저장된 컴퓨터-실행가능 명령들을 나타낸다. 일반적으로, 컴퓨터-실행가능 명령들은 특정한 기능들을 수행하거나 특정한 데이터 타입들을 구현하는 루틴들, 프로그램들, 오브젝트들, 컴포넌트들, 데이터 구조들 등을 포함한다. 동작들이 설명되는 순서는 제한으로서 해석되도록 의도된 것이 아니고, 임의의 수의 설명된 동작들은 프로세스들을 구현하기 위하여 임의의 순서로 및/또는 병렬로 조합될 수 있다.

추가적으로, 프로세스 (1000) 는 실행가능 명령들로 구성된 하나 이상의 컴퓨터 시스템들의 제어 하에서 수행될 수도 있고, 하나 이상의 프로세서들 상에서, 하드웨어에 의해, 또는 그 조합들로 집합적으로 실행되는 코드 (예를 들어, 실행가능 명령들, 하나 이상의 컴퓨터 프로그램들, 또는 하나 이상의 애플리케이션들) 로서 구현될 수도 있다. 위에서 언급된 바와 같이, 코드는 예를 들어, 하나 이상의 프로세서들에 의해 실행가능한 복수의 명령들을 포함하는 컴퓨터 프로그램의 형태로, 컴퓨터-판독가능 또는 머신-판독가능 저장 매체 상에 저장될 수도 있다. 컴퓨터-판독가능 또는 머신-판독가능 저장 매체는 비-일시적일 수도 있다.

인코딩 디바이스 (1104) 및 디코딩 디바이스 (1212) 의 특정 세부사항들은 도 11 및 도 12 에서 각각 도시되어 있다. 도 11 은 이 개시에서 설명된 기법들 중의 하나 이상을 구현할 수도 있는 일 예의 인코딩 디바이스 (1104) 를 예시하는 블록도이다. 인코딩 디바이스 (1104) 는 예를 들어, 본원에서 설명된 신택스 구조들 (예를 들어, VPS, SPS, PPS, 또는 다른 신택스 엘리먼트들의 신택스 구조들) 을 생성할 수도 있다. 인코딩 디바이스 (1104) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라-예측 및 인터-예측 코딩을 수행할 수도 있다. 이전에 설명된 바와 같이, 인트라-코딩은 소정의 비디오 프레임 또는 픽처 내에서 공간적 중복성을 감소시키거나 제거하기 위하여 적어도 부분적으로 공간적 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 또는 둘러싸는 프레임들 내에서 시간적 중복성을 감소시키거나 제거하기 위하여 적어도 부분적으로 시간적 예측에 의존한다. 인트라-모드 (I 모드) 는 몇몇 공간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향-예측 (B 모드) 과 같은 인터-모드들은 몇몇 시간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다.

인코딩 디바이스 (1104) 는 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 복원을 위하여, 인코딩 디바이스 (1104) 는 또한, 역양자화 유닛 (58), 역변환 프로세싱 유닛 (60), 및 합산기 (62) 를 포함한다. 필터 유닛 (63) 은 디블록킹 필터, 적응적 루프 필터 (ALF), 및 샘플 적응적 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 나타내도록 의도된다. 필터 유닛 (63) 은 인 루프 필터 (in loop filter) 인 것으로서 도 11 에서 도시되어 있지만, 다른 구성들에서는, 필터 유닛 (63) 이 포스트 루프 필터로서 구현될 수도 있다. 포스트 프로세싱 디바이스 (57) 는 인코딩 디바이스 (1104) 에 의해 생성된 인코딩된 비디오 데이터에 대한 추가적인 프로세싱을 수행할 수도 있다. 이 개시의 기법들은 일부 사례들에서, 인코딩 디바이스 (1104) 에 의해 구현될 수도 있다. 그러나, 다른 사례들에서, 이 개시의 기법들 중의 하나 이상은 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.

도 11 에서 도시된 바와 같이, 인코딩 디바이스 (1104) 는 비디오 데이터를 수신하고, 파티셔닝 유닛 (35) 은 데이터를 비디오 블록들로 파티셔닝한다. 파티셔닝은 또한, 슬라이스 (slice) 들, 슬라이스 세그먼트들, 타일 (tile) 들, 또는 다른 더 큰 유닛들로의 파티셔닝뿐만 아니라, 예를 들어, LCU 들 및 CU 들의 쿼드트리 구조에 따른 비디오 블록 파티셔닝을 포함할 수도 있다. 인코딩 디바이스 (1104) 는 인코딩되어야 할 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 일반적으로 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고 아마도 타일들로서 지칭된 비디오 블록들의 세트들로) 분할될 수도 있다. 예측 프로세싱 유닛 (41) 은 에러 결과들 (예를 들어, 코딩 레이트 및 왜곡의 레벨 등) 에 기초하여, 현재의 비디오 블록에 대하여, 복수의 인트라-예측 코딩 모드들 중의 하나 또는 복수의 인터-예측 코딩 모드들 중의 하나와 같은 복수의 가능한 코딩 모드들 중의 하나를 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라-코딩된 또는 인터-코딩된 블록을, 잔차 블록 데이터를 생성하기 위하여 합산기 (50) 에, 그리고 참조 픽처로서의 이용을 위한 인코딩된 블록을 복원하기 위하여 합산기 (62) 에 제공할 수도 있다.

예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 공간적 압축을 제공하기 위하여, 코딩되어야 할 현재의 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃하는 블록들에 관련된 현재의 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 시간적 압축을 제공하기 위하여, 하나 이상의 참조 픽처들 내의 하나 이상의 예측 블록들에 관련된 현재의 비디오 블록의 인터-예측 코딩을 수행한다.

모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터-예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들, B 슬라이스들, 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적들을 위하여 별도로 예시되어 있다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 예를 들어, 모션 벡터는 참조 픽처 내에서의 예측 블록에 관련된 현재의 비디오 프레임 또는 픽처 내에서의 비디오 블록의 예측 유닛 (PU) 의 변위를 표시할 수도 있다.

예측 블록은, 절대차의 합 (sum of absolute difference; SAD), 제곱차의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는 픽셀 차이의 측면에서, 코딩되어야 할 비디오 블록의 PU 와 근접하게 일치시키기 위하여 구해지는 블록이다. 일부 예들에서, 인코딩 디바이스 (1104) 는 픽처 메모리 (64) 내에 저장된 참조 픽처들의 서브-정수 (sub-integer) 픽셀 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 인코딩 디바이스 (1104) 는 참조 픽처의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치들의 값들을 보간 (interpolate) 할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 전체 픽셀 위치들 및 분수 픽셀 위치들에 관하여 모션 검색을 수행할 수도 있고, 분수 픽셀 정밀도를 갖는 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은 PU 의 위치를 참조 픽처의 예측 블록의 위치와 비교함으로써, 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 계산한다. 참조 픽처는 제 1 참조 픽처 리스트 (List 0) 또는 제 2 참조 픽처 리스트 (List 1) 로부터 선택될 수도 있고, 이들의 각각은 픽처 메모리 (64) 내에 저장된 하나 이상의 참조 픽처들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.

모션 보상 유닛 (44) 에 의해 수행된 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 (fetch) 하거나 생성하여, 서브-픽셀 정밀도 (sub-pixel precision) 로의 보간들을 아마도 수행하는 것을 수반할 수도 있다. 현재의 비디오 블록의 PU 에 대한 모션 벡터를 수신할 시에, 모션 보상 유닛 (44) 은 모션 벡터가 참조 픽처 리스트에서 지시하는 예측 블록을 위치시킬 수도 있다. 인코딩 디바이스 (1104) 는 코딩되고 있는 현재의 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 컴포넌트들의 양자를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 모션 보상 유닛 (44) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩할 시에 디코딩 디바이스 (1212) 에 의한 이용을 위한 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라 예측 프로세싱 유닛 (46) 은 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측할 수도 있다. 특히, 인트라 예측 프로세싱 유닛 (46) 은 현재의 블록을 인코딩하기 위하여 이용하기 위한 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 프로세싱 유닛 (46) 은 예를 들어, 별도의 인코딩 패스 (encoding pass) 들 동안에 다양한 인트라-예측 모드들을 이용하여 현재의 블록을 인코딩할 수도 있고, 인트라 예측 유닛 프로세싱 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스팅된 모드들로부터 이용하기 위한 적절한 인트라-예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 프로세싱 유닛 (46) 은 다양한 테스트된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산할 수도 있고, 테스트된 모드들 중에서 최상의 레이트-왜곡 특성들을 가지는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록과, 인코딩된 블록을 생성하기 위하여 인코딩되었던 원래의 인코딩되지 않은 블록과의 사이의 왜곡 (또는 에러) 의 양 뿐만 아니라, 인코딩된 블록을 생성하기 위하여 이용된 비트 레이트 (즉, 비트들의 수) 를 결정한다. 인트라 예측 프로세싱 유닛 (46) 은 어느 인트라-예측 모드가 블록에 대한 최상의 레이트-왜곡 값을 나타내는지를 결정하기 위하여 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율 (ratio) 들을 계산할 수도 있다.

어떤 경우에도, 블록에 대한 인트라-예측 모드를 선택한 후, 인트라 예측 프로세싱 유닛 (46) 은 블록에 대한 선택된 인트라-예측 모드를 표시하는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라-예측 모드를 표시하는 정보를 인코딩할 수도 있다. 인코딩 디바이스 (1104) 는 송신된 비트스트림 내에서, 다양한 블록들에 대한 인코딩 컨텍스트들의 구성 데이터 정의들뿐만 아니라, 컨텍스트들의 각각에 대하여 이용하기 위한 가장 가능성 있는 인트라-예측 모드, 인트라-예측 모드 인덱스 표, 및 수정된 인트라-예측 모드 인덱스 표의 표시들을 포함할 수도 있다. 비트스트림 구성 데이터는 복수의 인트라-예측 모드 인덱스 표들 및 복수의 수정된 인트라-예측 모드 인덱스 표들 (또한, 코드워드 맵핑 표들로서 지칭됨) 을 포함할 수도 있다.

예측 프로세싱 유닛 (41) 이 인터-예측 또는 인트라-예측의 어느 하나를 통해 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 인코딩 디바이스 (1104) 는 현재의 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 하나 이상의 TU 들에 포함될 수도 있고 변환 프로세싱 유닛 (52) 에 적용될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (discrete cosine transform; DCT) 또는 개념적으로 유사한 변환과 같은 변환을 이용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환한다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 픽셀 도메인으로부터, 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다.

변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 비트 레이트를 추가로 감소시키기 위하여 변환 계수들을 양자화한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 양자화도는 양자화 파라미터를 조절함으로써 수정될 수도 있다. 일부 예들에서, 다음으로, 양자화 유닛 (54) 은 양자화된 변환 계수들을 포함하는 행렬의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.

양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트-적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 컨텍스트 적응 2 진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스-기반 컨텍스트-적응 2 진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 확률 간격 파티셔닝 엔트로피 (probability interval partitioning entropy; PIPE) 코딩, 또는 또 다른 엔트로피 인코딩 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 후속하여, 인코딩된 비트스트림은 디코딩 디바이스 (1212) 로 송신될 수도 있거나, 디코딩 디바이스 (1212) 에 의한 더 이후의 송신 또는 취출을 위하여 아카이빙될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한, 코딩되고 있는 현재의 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

역양자화 유닛 (58) 및 역변환 프로세싱 유닛 (60) 은 참조 픽처의 참조 블록으로서의 더 이후의 이용을 위해 픽셀 도메인에서 잔차 블록을 복원하기 위하여, 역양자화 및 역변환을 각각 적용한다. 모션 보상 유닛 (44) 은 잔차 블록을 참조 픽처 리스트 내의 참조 픽처들 중의 하나의 참조 픽처의 예측 블록에 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한, 모션 추정 시에 이용하기 위한 정수 미만 픽셀 값들을 계산하기 위하여 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용할 수도 있다. 합산기 (62) 는 픽처 메모리 (64) 에서의 저장을 위한 참조 블록을 생성하기 위하여, 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산한다. 참조 블록은 후속 비디오 프레임 또는 픽처에서 블록을 인터-예측하기 위하여, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 참조 블록으로서 이용될 수도 있다.

이러한 방식으로, 도 11 의 인코딩 디바이스 (1104) 는 인코딩된 비디오 비트스트림에 대한 신택스를 생성하도록 구성된 비디오 인코더의 예를 나타낸다. 인코딩 디바이스 (1104) 는 예를 들어, 위에서 설명된 바와 같이 VPS, SPS, 및 PPS 파라미터 세트들을 생성할 수도 있다. 인코딩 디바이스 (1104) 는 도 11 및 도 12 에 대하여 위에서 설명된 프로세스들을 포함하는, 본원에서 설명된 기법들 중의 임의의 것을 수행할 수도 있다. 이 개시의 기법들은 인코딩 디바이스 (1104) 에 대하여 일반적으로 설명되었지만, 위에서 언급된 바와 같이, 이 개시의 기법들 중의 일부는 또한, 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.

도 12 는 일 예의 디코딩 디바이스 (1212) 를 예시하는 블록도이다. 디코딩 디바이스 (1212) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역양자화 유닛 (86), 역변환 프로세싱 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 픽처 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 및 인트라 예측 프로세싱 유닛 (84) 을 포함한다. 디코딩 디바이스 (1212) 는 일부 예들에서, 도 11 로부터의 인코딩 디바이스 (1104) 에 대하여 설명된 인코딩 패스와 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다.

디코딩 프로세스 동안, 디코딩 디바이스 (1212) 는 인코딩 디바이스 (1104) 에 의해 전송된 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 일부 실시형태들에서, 디코딩 디바이스 (1212) 는 인코딩 디바이스 (1104) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 일부 실시형태들에서, 디코딩 디바이스 (1212) 는 서버, 미디어-인지 네트워크 엘리먼트 (media-aware network element; MANE), 비디오 편집기/스플라이서, 또는 위에서 설명된 기법들 중의 하나 이상을 구현하도록 구성된 다른 이러한 디바이스와 같은 네트워크 엔티티 (79) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 네트워크 엔티티 (79) 는 인코딩 디바이스 (1104) 를 포함할 수도 있거나 포함하지 않을 수도 있다. 이 개시에서 설명된 기법들의 일부는, 네트워크 엔티티 (79) 가 인코딩된 비디오 비트스트림을 디코딩 디바이스 (1212) 로 송신하기 이전에 네트워크 엔티티 (79) 에 의해 구현될 수도 있다. 일부 비디오 디코딩 시스템들에서, 네트워크 엔티티 (79) 및 디코딩 디바이스 (1212) 는 별도의 디바이스들의 일부들일 수도 있는 반면, 다른 사례들에서는, 네트워크 엔티티 (79) 에 대하여 설명된 기능성이 디코딩 디바이스 (1212) 를 포함하는 동일한 디바이스에 의해 수행될 수도 있다.

디코딩 디바이스 (1212) 의 엔트로피 디코딩 유닛 (80) 은 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성하기 위하여 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 으로 포워딩한다. 디코딩 디바이스 (1212) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 디코딩 유닛 (80) 은 VPS, SPS, 및 PPS 와 같은 하나 이상의 파라미터 세트들에서의 고정-길이 신택스 엘리먼트들 및 가변-길이 신택스 엘리먼트들의 양자를 프로세싱하고 파싱할 수도 있다.

비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 은 시그널링된 인트라-예측 모드와, 현재의 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 데이터에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P 또는 GPB) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트 내의 참조 픽처들 중의 하나로부터 생성될 수도 있다. 디코딩 디바이스 (1212) 는 픽처 메모리 (92) 내에 저장된 참조 픽처들에 기초하여, 디폴트 구성 (default construction) 기법들을 이용하여 참조 프레임 리스트들, List 0 및 List 1 을 구성할 수도 있다.

모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱 (parsing) 함으로써 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 디코딩되고 있는 현재의 비디오 블록에 대한 예측 블록들을 생성하기 위하여 예측 정보를 이용한다. 예를 들어, 모션 보상 유닛 (82) 은 비디오 슬라이스의 비디오 블록들을 코딩하기 위해 이용된 예측 모드 (예를 들어, 인트라-예측 또는 인터-예측), 인터-예측 슬라이스 타입 (예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 하나 이상의 참조 픽처 리스트들에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 현재의 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정하기 위하여, 파라미터 세트에서의 하나 이상의 신택스 엘리먼트들을 이용할 수도 있다.

모션 보상 유닛 (82) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (82) 은 참조 블록들의 서브-정수 픽셀들에 대한 보간된 값들을 계산하기 위하여, 비디오 블록들의 인코딩 동안에 인코딩 디바이스 (1104) 에 의해 이용된 바와 같은 보간 필터들을 이용할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 인코딩 디바이스 (1104) 에 의해 이용된 보간 필터들을 결정할 수도 있고, 예측 블록들을 생성하기 위하여 보간 필터들을 이용할 수도 있다.

역양자화 유닛 (86) 은, 비트스트림에서 제공되며 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역양자화 (inverse quantize), 또는 탈양자화(de-quantize) 한다. 역양자화 프로세스는 적용되어야 할 양자화도 및, 마찬가지로, 역양자화도를 결정하기 위하여 비디오 슬라이스에서의 각각의 비디오 블록에 대해 인코딩 디바이스 (1104) 에 의해 계산된 양자화 파라미터의 이용을 포함할 수도 있다. 역변환 프로세싱 유닛 (88) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위하여, 역변환 (예를 들어, 역 DCT 또는 다른 적당한 역변환), 역정수 변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다.

모션 보상 유닛 (82) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 디코딩 디바이스 (1212) 는 역변환 프로세싱 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 희망하는 경우, (코딩 루프 내 또는 코딩 루프 이후 중의 어느 하나에서의) 루프 필터들은 또한, 픽셀 천이 (pixel transition) 들을 평활화하거나, 또는 이와 다르게 비디오 품질을 개선시키기 위하여 이용될 수도 있다. 필터 유닛 (91) 은 디블록킹 필터, 적응적 루프 필터 (adaptive loop filter; ALF), 및 샘플 적응적 오프셋 (sample adaptive offset; SAO) 필터와 같은 하나 이상의 루프 필터들을 나타내도록 의도된다. 필터 유닛 (91) 은 인 루프 필터인 것으로서 도 12 에서 도시되어 있지만, 다른 구성들에서는, 필터 유닛 (91) 이 포스트 루프 필터로서 구현될 수도 있다. 다음으로, 소정의 프레임 또는 픽처에서의 디코딩된 비디오 블록들은, 후속 모션 보상을 위해 이용된 참조 픽처들을 저장하는 픽처 메모리 (92) 내에 저장된다. 픽처 메모리 (92) 는 또한, 도 1 에서 도시된 비디오 목적지 디바이스 (122) 와 같은 디스플레이 디바이스 상에서의 더 이후의 제시를 위하여 디코딩된 비디오를 저장한다.

상기한 설명에서, 애플리케이션의 양태들은 그 특정 실시형태들을 참조하여 설명되지만, 당해 분야의 당업자들은 발명이 그것으로 제한되지는 않는다는 것을 인식할 것이다. 이에 따라, 애플리케이션의 예시적인 실시형태들은 본원에서 상세하게 설명되었지만, 발명 개념들은 이와 다르게 다양하게 구체화될 수도 있고 채용될 수도 있고, 첨부된 청구항들은 선행 기술에 의해 제한된 것과 같은 것을 제외하고는, 이러한 변형들을 포함하는 것으로 해석되는 것으로 의도된다는 것이 이해되어야 한다. 상기 설명된 발명의 다양한 특징들 및 양태들은 개별적으로 또는 공동으로 이용될 수도 있다. 또한, 실시형태들은 명세서의 더 넓은 사상 및 범위로부터 이탈하지 않으면서, 본원에서 설명된 것들을 초월하여 임의의 수의 환경들 및 애플리케이션들에서 사용될 수 있다. 따라서, 명세서 및 도면들은 한정적인 것이 아니라, 예시적인 것으로 간주되어야 한다. 예시의 목적들을 위하여, 방법들은 특정한 순서로 설명되었다. 대안적인 실시형태들에서, 방법들은 설명된 것 이외의 상이한 순서로 수행될 수도 있다는 것이 인식되어야 한다.

컴포넌트들이 어떤 동작들을 수행하도록 "구성되는 것" 으로서 설명될 경우, 이러한 구성들은 예를 들어, 동작을 수행하기 위하여 전자 회로들 또는 다른 하드웨어를 설계함으로써, 동작을 수행하기 위하여 프로그래밍가능한 전자 회로들 (예를 들어, 마이크로프로세서들, 또는 다른 적당한 전자 회로들) 을 프로그래밍함으로써, 또는 그 임의의 조합으로 달성될 수 있다.

본원에서 개시된 실시형태들과 관련하여 설명된 다양한 예시적인 논리적 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합들로서 구현될 수도 있다. 하드웨어 및 소프트웨어의 이 교환가능성을 명확하게 예시하기 위하여, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들, 및 단계들은 일반적으로 그 기능성의 측면에서 위에서 설명되었다. 이러한 기능성이 하드웨어 또는 소프트웨어로서 구현되는지 여부는 특정한 애플리케이션과, 전체적인 시스템에 부과된 설계 제약들에 종속된다. 숙련된 기술자들은 각각의 특정한 애플리케이션을 위한 다양한 방법들로 설명된 기능성을 구현할 수도 있지만, 이러한 구현 판정들은 본원에서 설명된 시스템들 및 방법들의 범위로부터의 이탈을 야기시키는 것으로서 해석되지 않아야 한다.

본원에서 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그 임의의 조합으로 구현될 수도 있다. 이러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 애플리케이션을 포함하는 다수의 용도들을 가지는 집적 회로 디바이스들과 같은 다양한 디바이스들 중의 임의의 것에서 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명된 임의의 특징들은 집적된 로직 디바이스에서 함께, 또는 개별적이지만 상호 동작가능한 로직 디바이스들로서 별도로 구현될 수도 있다. 소프트웨어로 구현될 경우, 기법들은, 실행될 때, 위에서 설명된 방법들 중의 하나 이상을 수행하는 명령들을 포함하는 프로그램 코드를 포함하는 컴퓨터-판독가능한 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터-판독가능 데이터 저장 매체는 패키징 재료들을 포함할 수도 있는 컴퓨터 프로그램 제품의 일부를 형성할 수도 있다. 컴퓨터-판독가능 매체는 동기식 랜덤 액세스 메모리 (synchronous dynamic random access memory; SDRAM) 와 같은 랜덤 액세스 메모리 (random access memory; RAM), 판독-전용 메모리 (read-only memory; ROM), 비-휘발성 랜덤 액세스 메모리 (non-volatile random access memory; NVRAM), 전기적 소거가능 프로그래밍가능 판독-전용 메모리 (electrically erasable programmable read-only memory; EEPROM), 플래시 메모리 (FLASH memory), 자기 또는 광학 데이터 저장 매체들 등과 같은 메모리 또는 데이터 저장 매체들을 포함할 수도 있다. 추가적으로 또는 대안적으로, 기법들은 전파된 신호들 또는 파 (wave) 들과 같이, 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 반송하거나 통신하며 컴퓨터에 의해 액세스, 판독, 및/또는 실행될 수 있는 컴퓨터-판독가능 통신 매체에 의해 적어도 부분적으로 실현될 수도 있다.

프로그램 코드는, 하나 이상의 디지털 신호 프로세서 (digital signal processor; DSP) 들, 범용 마이크로프로세서들, 애플리케이션 특정 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능한 로직 어레이 (field programmable logic array; FPGA) 들, 또는 다른 등가의 집적 또는 개별 로직 회로부와 같은 하나 이상의 프로세서들을 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 이러한 프로세서는 이 개시에서 설명된 기법들 중의 임의의 것을 수행하도록 구성될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안적으로, 프로세서는 임의의 기존의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한, 컴퓨팅 디바이스들의 조합, 예를 들어, DSP 및 마이크로프로세서, 복수의 마이크로프로세서들, DSP 코어와 함께 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성의 조합으로서 구현될 수도 있다. 따라서, 본원에서 이용된 바와 같은 용어 "프로세서" 는 상기한 구조, 상기 구조의 임의의 조합, 또는 본원에서 설명된 기법들의 구현을 위해 적당한 임의의 다른 구조 또는 장치 중의 임의의 것을 지칭할 수도 있다. 게다가, 일부의 양태들에서, 본원에서 설명된 기능성은, 인코딩 및 디코딩을 위해 구성되거나, 조합된 비디오 인코더-디코더 (combined video encoder-decoder; CODEC) 내에 편입된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에서 제공될 수도 있다.

본원에 논의된 코딩 기법들은 일 예의 비디오 인코딩 및 디코딩 시스템에서 구체화될 수도 있다. 시스템은 목적지 디바이스에 의해 더 이후의 시간에 디코딩되어야 할 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 컴퓨터-판독가능 매체를 통해 비디오 데이터를 목적지 디바이스에 제공한다. 소스 디바이스 및 목적지 디바이스는, 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 (set-top) 박스들, 소위 "스마트" 폰들과 같은 전화 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스 등을 포함하는 광범위한 디바이스들 중의 임의의 것을 포함할 수도 있다. 일부 경우들에는, 소스 디바이스 및 목적지 디바이스가 무선 통신을 위해 구비될 수도 있다.

목적지 디바이스는 컴퓨터-판독가능 매체를 통해, 디코딩되어야 할 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터-판독가능 매체는 인코딩된 비디오 데이터를 소스 디바이스로부터 목적지 디바이스로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 컴퓨터-판독가능 매체는 소스 디바이스가 인코딩된 비디오 데이터를 실시간으로 목적지 디바이스로 직접 송신하는 것을 가능하게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 목적지 디바이스로 송신될 수도 있다. 통신 매체는 라디오 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷-기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 가능하게 하기 위해 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

일부 예들에서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스로 출력될 수도 있다. 마찬가지로, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리와 같은 임의의 다양한 분산된 또는 로컬하게 액세스된 데이터 저장 매체, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적절한 디지털 저장 매체를 포함할 수도 있다. 추가 예에서, 저장 디바이스는 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스는 스트리밍 또는 다운로드를 통해 저장 디바이스로부터의 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장할 수 있고 그 인코딩된 비디오 데이터를 목적지 디바이스로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은 (예를 들면 웹사이트용의) 웹서버, FTP 서버, NAS(network attached storage) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스는 인터넷을 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은 파일 서버에 저장된 인코딩된 비디오 데이터를 액세스하는데 적합한 무선 채널 (예를 들면, 와이파이 접속), 유선 접속 (예를 들면,DSL, 케이블 모뎀 등), 또는 이들의 조합을 포함할 수도 있다. 저장 디바이스로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이들의 조합일 수도 있다.

본 개시의 기술들은 무선 어플리케이션들 또는 설정들에 반드시 제한되는 것은 아니다. 기법들은 다양한 멀티미디어 애플리케이션들, 예를 들어 지상파 (over-the-air) 텔레비젼 브로드캐스트들, 케이블 텔레비젼 송신들, 위성 텔레비젼 송신들, 인터넷 스트리밍 비디오 송신들, 이를 테면 DASH (dynamic adaptive streaming over HTTP), 데이터 저장 매체 상에서 인코딩된 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩 또는 다른 애플리케이션들의 지원에 있어서 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템은, 비디오 스트리밍, 비디오 플레이백, 비디오 방송, 및/또는 영상 전화와 같은 어플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

일 예에서, 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함한다. 소스 디바이스의 비디오 인코더는 본원에서 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 장치들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 카메라와 같은 외부 비디오 소스로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스는 통합된 디스플레이 디바이스를 포함하는 것이 아니라, 외부 디스플레이 디바이스와 인터페이스할 수도 있다.

상기 일 예의 시스템은 단지 하나의 예이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 일반적으로, 이 개시의 기법들은 비디오 인코딩 디바이스에 의해 수행되지만, 기법들은 또한, "CODEC" 으로서 전형적으로 지칭된 비디오 인코더/디코더에 의해 수행될 수도 있다. 또한, 이 개시의 기법들은 또한, 비디오 프리프로세서 (video preprocessor) 에 의해 수행될 수도 있다. 소스 디바이스 및 목적지 디바이스는, 소스 디바이스가 목적지 디바이스로의 송신을 위한 코딩된 비디오 데이터를 생성하는 이러한 코딩 디바이스들의 예들에 불과하다. 일부 예들에서, 소스 및 목적지 디바이스들은, 디바이스들의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 이 때문에, 일 예의 시스템들은 예를 들어, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 또는 화상 통화를 위하여, 비디오 디바이스들 사이에서 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.

비디오 소스는 비디오 카메라와 같은 비디오 캡처 디바이스, 이전에 캡처된 비디오를 포함하는 비디오 아카이브 (video archive), 및/또는 비디오 컨텐츠 제공자로부터 비디오를 수신하기 위한 비디오 공급 인터페이스를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스는 소스 비디오로서, 또는 라이브 비디오 (live video), 아카이빙된 비디오 (archived video), 및 컴퓨터 생성된 비디오의 조합으로서, 컴퓨터 그래픽-기반 (computer graphics-based) 데이터를 생성할 수도 있다. 일부 경우들에는, 비디오 소스가 비디오 카메라일 경우, 소스 디바이스 및 목적지 디바이스가 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 위에서 언급된 바와 같이, 이 개시에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각각의 경우에 있어서, 캡처된, 프리-캡처된 (pre-captured), 또는 컴퓨터-생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 다음으로, 인코딩된 비디오 정보는 출력 인터페이스에 의해 컴퓨터-판독가능 매체 상으로 출력될 수도 있다.

언급된 바와 같이, 컴퓨터-판독가능 매체는 무선 브로드캐스트 또는 유선 네트워크 송신과 같은 순시적 매체 (transient medium) 들, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터-판독가능 매체들과 같은 저장 매체들 (즉, 비-일시적인 저장 매체들) 을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (도시되지 않음) 는 예를 들어, 네트워크 송신을 통해, 소스 디바이스로부터 인코딩된 비디오 데이터를 수신할 수도 있으며 인코딩된 비디오 데이터를 목적지 디바이스에 제공할 수도 있다. 유사하게, 디스크 스탬핑 (disc stamping) 설비와 같은 매체 생산 설비의 컴퓨팅 디바이스는 소스 디바이스로부터 인코딩된 비디오 데이터를 수신할 수도 있고, 인코딩된 비디오 데이터를 포함하는 디스크를 생산할 수도 있다. 그러므로, 컴퓨터-판독가능 매체는 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터-판독가능 매체들을 포함하는 것으로 이해될 수도 있다.

목적지 디바이스의 입력 인터페이스는 컴퓨터-판독가능 매체로부터 정보를 수신한다. 컴퓨터-판독가능 매체의 정보는, 블록들 및 다른 코딩된 유닛들, 예를 들어, 픽처들의 그룹 (group of pictures; GOP) 들의 특성들 및/또는 프로세싱을 설명하는 신택스 엘리먼트들을 포함하는 신택스 정보로서, 비디오 인코더에 의해 정의되며 또한, 비디오 디코더에 의해 이용되는 상기 신택스 정보를 포함할 수도 있다. 디스플레이 디바이스는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (cathode ray tube; CRT), 액정 디스플레이 (liquid crystal display; LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (organic light emitting diode; OLED) 디스플레이, 또는 또 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중의 임의의 것을 포함할 수도 있다. 발명의 다양한 실시형태들이 설명되었다.

Claims (32)

1. 인코딩된 비디오 데이터를 프로세싱하기 위한 방법으로서,
   인코딩된 비디오 데이터와 연관된 파일을 수신하는 단계로서, 상기 인코딩된 비디오 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 인코딩된 비디오 데이터는 2 개 이상의 계층들을 포함하고, 상기 2 개 이상의 계층들은 상기 파일에서의 2 개 이상의 트랙들에 저장되는, 상기 파일을 수신하는 단계;
   상기 2 개 이상의 계층들 중에서 제 1 계층을 결정하는 단계로서, 상기 제 1 계층은 제 1 엔드-오브-비트스트림 표시자 (end-of-bitstream indicator) 를 포함하고, 상기 제 1 계층은 상기 2 개 이상의 계층들 중에서 엔드-오브-비트스트림 표시자를 포함하는 최고 계층인 것으로 결정되는, 상기 제 1 계층을 결정하는 단계;
   상기 2 개 이상의 계층들 중에서 계층들의 세트를 식별하는 단계로서, 상기 계층들의 세트는 복원된 비트스트림에서의 포함을 위하여 선택된 하나 이상의 계층들을 포함하는, 상기 계층들의 세트를 식별하는 단계; 및
   상기 복원된 비트스트림을 생성하는 단계로서, 상기 복원된 비트스트림을 생성하는 단계는 복수의 액세스 유닛들을 생성하는 단계를 포함하고, 상기 복수의 액세스 유닛들은 상기 계층들의 세트로부터의 하나 이상의 샘플들을 포함하고, 상기 복원된 비트스트림에서의 최종 액세스 유닛은 상기 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복원된 비트스트림을 생성하는 단계를 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
2. 제 1 항에 있어서,
   상기 복수의 액세스 유닛들의 생성 동안에, 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛이 엔드-오브-비트스트림 표시자를 포함하지 않는 것으로 결정하는 단계; 및
   상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하는 단계를 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
3. 제 1 항에 있어서,
   상기 계층들의 세트 중에서 제 2 계층을 식별하는 단계로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하지 않는, 상기 제 2 계층을 식별하는 단계;
   상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것으로 결정하는 단계; 및
   상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하는 단계를 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
4. 제 1 항에 있어서,
   상기 계층들의 세트 중에서 제 2 계층을 식별하는 단계로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하는, 상기 제 2 계층을 식별하는 단계;
   상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것으로 결정하는 단계; 및
   상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 최종 액세스 유닛으로 이동시키는 단계를 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
5. 제 1 항에 있어서,
   상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하는 단계로서, 상기 1 개 보다 많은 엔드-오브-비트스트림 표시자는 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하는 단계; 및
   상기 최종 액세스 유닛으로부터 제 1 엔드-오브-비트스트림 표시자 이외의 각각의 엔드-오브-비트스트림 표시자를 제거하는 단계를 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
6. 제 1 항에 있어서,
   상기 2 개 이상의 계층들 중에서의 적어도 2 개의 계층들은 각각 엔드-오브-비트스트림 표시자를 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
7. 제 1 항에 있어서,
   상기 계층들의 세트에서의 계층들로부터의 샘플들이 디스플레이를 위하여 선택되는 것에 기초하여 상기 계층들의 세트가 선택되는 것을 식별하는 단계를 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
8. 제 1 항에 있어서,
   상기 파일 포맷은 ISO (International Standards Organization) 기본 미디어 파일 포맷으로부터 유도되는, 인코딩된 비디오 데이터를 프로세싱하기 위한 방법.
9. 인코딩된 비디오를 프로세싱하기 위한 장치로서,
   파일을 저장하도록 구성된 메모리로서, 상기 파일은 인코딩된 비디오 데이터를 포함하고, 상기 인코딩된 비디오 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 인코딩된 비디오 데이터는 2 개 이상의 계층들을 포함하고, 상기 2 개 이상의 계층들은 상기 파일에서의 2 개 이상의 트랙들에 저장되는, 상기 메모리; 및
   프로세서를 포함하고,
   상기 프로세서는:
   상기 2 개 이상의 계층들 중에서 제 1 계층을 결정하는 것으로서, 상기 제 1 계층은 제 1 엔드-오브-비트스트림 표시자를 포함하고, 상기 제 1 계층은 상기 2 개 이상의 계층들 중에서 엔드-오브-비트스트림 표시자를 포함하는 최고 계층인 것으로 결정되는, 상기 제 1 계층을 결정하고;
   상기 2 개 이상의 계층들 중에서 계층들의 세트를 식별하는 것으로서, 상기 계층들의 세트는 복원된 비트스트림에서의 포함을 위하여 선택된 하나 이상의 계층들을 포함하는, 상기 계층들의 세트를 식별하고; 그리고
   상기 복원된 비트스트림의 생성 동안에, 복수의 액세스 유닛들을 생성하는 것으로서, 상기 복수의 액세스 유닛들은 상기 계층들의 세트로부터의 하나 이상의 샘플들을 포함하고, 상기 복원된 비트스트림에서의 최종 액세스 유닛은 상기 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복수의 액세스 유닛들을 생성하도록 구성되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
10. 제 9 항에 있어서,
    상기 프로세서는 또한:
    상기 복수의 액세스 유닛들의 생성 동안에 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛이 엔드-오브-비트스트림 표시자를 포함하지 않는 것으로 결정하고; 그리고
    상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하도록 구성되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
11. 제 9 항에 있어서,
    상기 프로세서는 또한:
    상기 계층들의 세트 중에서 제 2 계층을 식별하는 것으로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하지 않는, 상기 제 2 계층을 식별하고;
    상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것으로 결정하고; 그리고
    상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하도록 구성되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
12. 제 9 항에 있어서,
    상기 프로세서는 또한:
    상기 계층들의 세트 중에서 제 2 계층을 식별하는 것으로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하는, 상기 제 2 계층을 식별하고;
    상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것으로 결정하고; 그리고
    상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛으로 이동시키도록 구성되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
13. 제 9 항에 있어서,
    상기 프로세서는 또한:
    상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하는 것으로서, 상기 1 개 보다 많은 엔드-오브-비트스트림 표시자는 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하고; 그리고
    상기 최종 액세스 유닛으로부터 제 1 엔드-오브-비트스트림 표시자 이외의 각각의 엔드-오브-비트스트림 표시자를 제거하도록 구성되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
14. 제 9 항에 있어서,
    상기 2 개 이상의 계층들 중에서의 적어도 2 개의 계층들은 각각 엔드-오브-비트스트림 표시자를 포함하는, 인코딩된 비디오를 프로세싱하기 위한 장치.
15. 제 9 항에 있어서,
    상기 계층들의 세트에서의 계층들로부터의 샘플들이 디스플레이를 위하여 선택되는 것에 기초하여 상기 계층들의 세트가 선택되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
16. 제 9 항에 있어서,
    상기 파일 포맷은 ISO 기본 미디어 파일 포맷으로부터 유도되는, 인코딩된 비디오를 프로세싱하기 위한 장치.
17. 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들은 하나 이상의 프로세서들에 의해 실행될 때 상기 하나 이상의 프로세서들로 하여금:
    인코딩된 비디오 데이터와 연관된 파일을 수신하게 하는 것으로서, 상기 인코딩된 비디오 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 인코딩된 비디오 데이터는 2 개 이상의 계층들을 포함하고, 상기 2 개 이상의 계층들은 상기 파일에서의 2 개 이상의 트랙들에 저장되는, 상기 파일을 수신하게 하고;
    상기 2 개 이상의 계층들 중에서 제 1 계층을 결정하게 하는 것으로서, 상기 제 1 계층은 제 1 엔드-오브-비트스트림 표시자를 포함하고, 상기 제 1 계층은 상기 2 개 이상의 계층들 중에서 엔드-오브-비트스트림 표시자를 포함하는 최고 계층인 것으로 결정되는, 상기 제 1 계층을 결정하게 하고;
    상기 2 개 이상의 계층들 중에서 계층들의 세트를 식별하게 하는 것으로서, 상기 계층들의 세트는 복원된 비트스트림에서의 포함을 위하여 선택된 하나 이상의 계층들을 포함하는, 상기 계층들의 세트를 식별하게 하고; 그리고
    상기 복원된 비트스트림의 생성 동안에, 복수의 액세스 유닛들을 생성하게 하는 것으로서, 상기 복수의 액세스 유닛들은 상기 계층들의 세트로부터의 하나 이상의 샘플들을 포함하고, 상기 복원된 비트스트림에서의 최종 액세스 유닛은 상기 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복수의 액세스 유닛들을 생성하게 하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
18. 제 17 항에 있어서,
    상기 하나 이상의 프로세서들에 의해 실행될 때 상기 하나 이상의 프로세서들로 하여금:
    상기 복수의 액세스 유닛들의 생성 동안에, 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛이 엔드-오브-비트스트림 표시자를 포함하지 않는 것으로 결정하게 하고; 그리고
    상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하게 하는 명령들을 더 포함하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
19. 제 17 항에 있어서,
    상기 하나 이상의 프로세서들에 의해 실행될 때 상기 하나 이상의 프로세서들로 하여금:
    상기 계층들의 세트 중에서 제 2 계층을 식별하게 하는 것으로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하지 않는, 상기 제 2 계층을 식별하게 하고;
    상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것으로 결정하게 하고; 그리고
    상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하게 하는 명령들을 더 포함하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
20. 제 17 항에 있어서,
    상기 하나 이상의 프로세서들에 의해 실행될 때 상기 하나 이상의 프로세서들로 하여금:
    상기 계층들의 세트 중에서 제 2 계층을 식별하게 하는 것으로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하는, 상기 제 2 계층을 식별하게 하고;
    상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것으로 결정하게 하고; 그리고
    상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛으로 이동시키게 하는 명령들을 더 포함하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
21. 제 17 항에 있어서,
    상기 하나 이상의 프로세서들에 의해 실행될 때 상기 하나 이상의 프로세서들로 하여금:
    상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하게 하는 것으로서, 상기 1 개 보다 많은 엔드-오브-비트스트림 표시자는 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하게 하고; 그리고
    상기 최종 액세스 유닛으로부터 제 1 엔드-오브-비트스트림 표시자 이외의 각각의 엔드-오브-비트스트림 표시자를 제거하게 하는 명령들을 더 포함하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
22. 제 17 항에 있어서,
    상기 2 개 이상의 계층들 중에서의 적어도 2 개의 계층들은 각각 엔드-오브-비트스트림 표시자를 포함하는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
23. 제 17 항에 있어서,
    상기 계층들의 세트에서의 계층들로부터의 샘플들이 디스플레이를 위하여 선택되는 것에 기초하여 상기 계층들의 세트가 선택되는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
24. 제 17 항에 있어서,
    상기 파일 포맷은 ISO 기본 미디어 파일 포맷으로부터 유도되는, 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체.
25. 인코딩된 비디오 데이터를 프로세싱하기 위한 장치로서,
    인코딩된 비디오 데이터와 연관된 파일을 수신하기 위한 수단으로서, 상기 인코딩된 비디오 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 인코딩된 비디오 데이터는 2 개 이상의 계층들을 포함하고, 상기 2 개 이상의 계층들은 상기 파일에서의 2 개 이상의 트랙들에 저장되는, 상기 파일을 수신하기 위한 수단;
    상기 2 개 이상의 계층들 중에서 제 1 계층을 결정하기 위한 수단으로서, 상기 제 1 계층은 제 1 엔드-오브-비트스트림 표시자를 포함하고, 상기 제 1 계층은 상기 2 개 이상의 계층들 중에서 엔드-오브-비트스트림 표시자를 포함하는 최고 계층인 것으로 결정되는, 상기 제 1 계층을 결정하기 위한 수단;
    상기 2 개 이상의 계층들 중에서 계층들의 세트를 식별하기 위한 수단으로서, 상기 계층들의 세트는 복원된 비트스트림에서의 포함을 위하여 선택된 하나 이상의 계층들을 포함하는, 상기 계층들의 세트를 식별하기 위한 수단; 및
    복원된 비트스트림을 생성하기 위한 수단으로서, 상기 복원된 비트스트림을 생성하기 위한 수단은 복수의 액세스 유닛들을 생성하기 위한 수단을 포함하고, 상기 복수의 액세스 유닛들은 상기 계층들의 세트로부터의 하나 이상의 샘플들을 포함하고, 상기 복원된 비트스트림에서의 최종 액세스 유닛은 상기 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복원된 비트스트림을 생성하기 위한 수단을 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
26. 제 25 항에 있어서,
    상기 복수의 액세스 유닛들의 생성 동안에, 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛이 엔드-오브-비트스트림 표시자를 포함하지 않는 것으로 결정하기 위한 수단; 및
    상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하기 위한 수단을 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
27. 제 25 항에 있어서,
    상기 계층들의 세트 중에서 제 2 계층을 식별하기 위한 수단으로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하지 않는, 상기 제 2 계층을 식별하기 위한 수단;
    상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것으로 결정하기 위한 수단; 및
    상기 제 1 계층이 상기 제 2 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛에 추가하기 위한 수단을 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
28. 제 25 항에 있어서,
    상기 계층들의 세트 중에서 제 2 계층을 식별하기 위한 수단으로서, 상기 제 2 계층은 상기 계층들의 세트 중에서 최고 계층으로서 식별되고, 상기 제 2 계층은 상기 제 1 계층과는 상이하고, 상기 계층들의 세트는 상기 제 1 계층을 포함하는, 상기 제 2 계층을 식별하기 위한 수단;
    상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것으로 결정하기 위한 수단; 및
    상기 제 2 계층이 상기 제 1 계층보다 더 높은 계층인 것에 기초하여 상기 제 1 엔드-오브-비트스트림 표시자를 상기 복원된 비트스트림에서의 상기 최종 액세스 유닛으로 이동시키기 위한 수단을 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
29. 제 25 항에 있어서,
    상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하기 위한 수단으로서, 상기 1 개 보다 많은 엔드-오브-비트스트림 표시자는 제 1 엔드-오브-비트스트림 표시자를 포함하는, 상기 복원된 비트스트림에서의 최종 액세스 유닛이 1 개 보다 많은 엔드-오브-비트스트림 표시자를 포함하는 것으로 결정하기 위한 수단; 및
    상기 최종 액세스 유닛으로부터 제 1 엔드-오브-비트스트림 표시자 이외의 각각의 엔드-오브-비트스트림 표시자를 제거하기 위한 수단을 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
30. 제 25 항에 있어서,
    상기 2 개 이상의 계층들 중에서의 적어도 2 개의 계층들은 각각 엔드-오브-비트스트림 표시자를 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
31. 제 25 항에 있어서,
    상기 계층들의 세트에서의 계층들로부터의 샘플들이 디스플레이를 위하여 선택되는 것에 기초하여 상기 계층들의 세트가 선택되는 것을 식별하기 위한 수단을 더 포함하는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.
32. 제 25 항에 있어서,
    상기 파일 포맷은 ISO (International Standards Organization) 기본 미디어 파일 포맷으로부터 유도되는, 인코딩된 비디오 데이터를 프로세싱하기 위한 장치.

Images