KR102161903B1

KR102161903B1 - 미디어 파일들에서의 가상 현실 비디오의 저장

Info

Publication number: KR102161903B1
Application number: KR1020187023512A
Authority: KR
Inventors: 예-쿠이 왕; 프누 헨드리; 마르타 카르체비츠
Original assignee: 퀄컴 인코포레이티드
Priority date: 2016-02-17
Filing date: 2017-02-15
Publication date: 2020-10-05
Also published as: JP2019512186A; BR112018016787A2; TW201733361A; US10389999B2; CN108605168B; CA3011941A1; KR20180112793A; TWI692974B; EP3417634A1; WO2017142951A1; US20170237965A1; JP6676771B2; CN108605168A

Abstract

다양한 구현예들에서, ISOBMFF 에 대한 수정들 및/또는 추가들은 ISOBMFF, 또는 ISOBMFF 로부터 파생된 포맷에 따라 포맷되었던 파일이 가상 현실 컨텐츠를 포함한다는 것을 표시할 수 있다. 파일은 파일에서의 트랙 박스로 기입된 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 트랙의 컨텐츠들에 대한 가상 현실 방식을 표시할 수 있다. 예를 들어, 한정된 방식 정보 박스는 방식 타입 박스를 포함할 수 있고, 여기서, 타입은 가상 현실 방식을 표시한다. 추가의 예로서, 한정된 방식 정보 박스는 가상 현실 방식에 관련되는 파라미터들을 제공할 수 있는 방식 정보 방식을 포함할 수 있다.

Description

미디어 파일들에서의 가상 현실 비디오의 저장

이 출원은 ISO 기반 미디어 파일 포맷 (ISO based media file format; ISOBMFF) 및/또는 ISOBMFF 로부터 유도된 파일 포맷들과 같은 하나 이상의 미디어 파일 포맷들에서의 가상 현실 (virtual reality; VR) 비디오 컨텐츠들의 저장에 관련된다. 예를 들어, 이 출원은 역호환 방식으로, 일부 예들에서, 하나 이상의 VR 비디오 특정 세부사항들을 포함하는 VR 비디오 컨텐츠의 식별의 시그널링을 위한 방법들 및 시스템들에 관한 것이다.

비디오 코딩 표준들은 스케일러블 비디오 코딩 (Scalable VIdeo Coding; SVC) 로서 알려진 그 스케일러블 비디오 코딩 확장 및 그 멀티뷰 비디오 코딩 확장 멀티뷰 비디오 코딩 (Multiview Video Coding; MVC) 확장들을 포함하는, ITU-T H.261, ISO/IEC MPEG-1 비주얼 (Visual), ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼, ITU-T H.264 또는 ISO/IEC MPEG-4 AVC 와, 그 스케일러블 코딩 확장 (즉, 스케일러블 고효율 비디오 코딩 (scalable high-efficiency video coding), SHVC) 및 멀티뷰 확장 (즉, 멀티뷰 고효율 비디오 코딩 (multiview high efficiency video coding), MV-HEVC) 을 포함하는, ITU-T H.265 및 ISO/IEC 23008-2 로서 또한 알려진, 고효율 비디오 코딩 (High-Efficiency Video Coding; HEVC) 을 포함한다.

일부 실시형태들에서, 파일이 가상 현실 컨텐츠를 포함한다는 것을 파일에서 표시하기 위한 기법들이 설명되어, 비디오 플레이어 디바이스들은 가상 현실 컨텐츠를 적절하게 렌더링할 수 있고 및/또는 무시할 수 있다.

적어도 하나의 예에 따르면, 가상 현실 데이터를 획득하는 단계를 포함하는, 파일에서 가상 현실 컨텐츠를 표시하기 위한 방법이 제공된다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰 (360-degree view) 를 표현할 수 있다. 방법은 파일에서 가상 현실 데이터를 저장하는 단계를 더 포함한다. 가상 현실 데이터는 포맷에 따라 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스 (track box) 에서 저장될 수 있다. 방법은 샘플 엔트리 (sample entry) 를 트랙 박스로 저장하는 단계를 더 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스 (restricted scheme information box) 를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다.

또 다른 예에서는, 비디오 데이터를 저장하도록 구성된 메모리 및 프로세서를 포함하는 장치가 제공된다. 프로세서는 가상 현실 데이터를 획득하도록 구성되고, 가상 현실 데이터를 획득할 수 있다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 프로세스는 파일에서 가상 현실 데이터를 저장하도록 구성되고, 파일에서 가상 현실 데이터를 저장할 수 있다. 가상 현실 데이터는 포맷에 따라 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터와 연관된 정보의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스에서 저장될 수 있다. 프로세서는 샘플 엔트리를 트랙 박스로 저장하도록 구성되고, 샘플 엔트리를 트랙 박스로 추가로 저장할 수 있다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다.

또 다른 예에서는, 프로세서에 의해 실행될 경우, 가상 현실 데이터를 획득하는 단계를 포함하는 방법을 수행하는 명령들을 그 상에 저장한 컴퓨터 판독가능 매체가 제공된다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 방법은 파일에서 가상 현실 데이터를 저장하는 단계를 더 포함한다. 가상 현실 데이터는 포맷에 따른 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터와 연관된 정보의 배치를 기술할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스에서 저장될 수 있다. 방법은 샘플 엔트리를 트랙 박스로 기입 (write) 하는 단계를 더 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다.

또 다른 예에서는, 파일에서 가상 현실 컨텐츠를 표시하기 위한 수단을 포함하는 장치가 제공된다. 장치는 가상 현실 데이터를 획득하기 위한 수단을 더 포함한다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 장치는 파일에서 가상 현실 데이터를 저장하기 위한 수단을 더 포함한다. 가상 현실 데이터는 포맷에 따른 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스에서 저장될 수 있다. 장치는 샘플 엔트리를 트랙 박스로 저장하기 위한 수단을 더 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다.

일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 방식 타입 박스를 샘플 엔트리로 저장하는 것을 더 포함한다. 방식 타입 박스는 방식 타입을 포함할 수 있다. 방식 타입은 가상 현실 방식으로서 정의될 수 있다.

일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 가상 현실 데이터에 관련된 파라미터들을 파일로 저장하는 것을 더 포함한다. 일부 양태들에서, 파라미터들은 가상 현실 데이터가 2-차원 또는 3-차원 비디오 데이터를 포함하는지 여부, 비디오 데이터가 프리-스티칭 (pre-stitched) 또는 포스트-스티칭 (post-stitched) 되는지 여부, 또는 비디오 데이터에 대한 맵핑 타입 중의 하나 이상을 포함한다. 일부 양태들에서, 파라미터들을 저장하는 것은 파라미터들을 방식 정보 박스로 저장하는 것을 포함한다.

일부 양태들에서, 파일 포맷은 ISO 기반 미디어 파일 포맷 (ISO base media file format) 에 기초한다.

적어도 하나의 예에 따르면, 파일을 획득하는 단계를 포함하고, 여기서, 파일은 가상 현실 데이터를 포함하는, 파일에서 현실 데이터 컨텐츠를 프로세싱하기 위한 방법이 제공된다. 가상 현실 데이터는 파일 포맷에 따라 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치를 특정할 수 있고, 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스 내에서 저장될 수 있다. 방법은 파일을 프로세싱하는 단계를 더 포함하고, 여기서, 파일을 프로세싱하는 단계는 트랙 박스에서의 샘플 엔트리를 프로세싱하는 단계를 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 하나 이상의 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다. 방법은 가상 현실 방식에 따라 하나 이상의 샘플들을 프로세싱하는 단계를 더 포함한다.

또 다른 예에서는, 파일을 저장하도록 구성된 메모리 및 프로세서를 포함하는 장치가 제공된다. 파일은 가상 현실 데이터를 포함한다. 가상 현실 데이터는 파일 포맷에 따라 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스에서 저장될 수 있다. 프로세서는 파일을 프로세싱하도록 구성되고 파일을 프로세싱할 수 있고, 여기서, 파일을 프로세싱하는 것은 트랙 박스에서의 샘플 엔트리를 프로세싱하는 것을 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 하나 이상의 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다. 프로세서는 가상 현실 방식에 따라 하나 이상의 샘플들을 프로세싱하도록 구성되고, 가상 현실 방식에 따라 하나 이상의 샘플들을 프로세싱할 수 있다.

또 다른 예에서는, 프로세서에 의해 실행될 경우, 파일을 획득하는 단계를 포함하고, 여기서, 파일은 가상 현실 데이터를 포함하는 방법을 수행하는 명령들을 그 상에 저장한 컴퓨터 판독가능 매체가 제공된다. 가상 현실 데이터는 파일 포맷에 따라 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치를 특정할 수 있고, 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스 내에서 저장될 수 있다. 방법은 파일을 프로세싱하는 단계를 더 포함하고, 여기서, 파일을 프로세싱하는 단계는 트랙 박스에서의 샘플 엔트리를 프로세싱하는 단계를 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 하나 이상의 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다. 방법은 가상 현실 방식에 따라 하나 이상의 샘플들을 프로세싱하는 단계를 더 포함한다.

또 다른 예에서는, 가상 현실 컨텐츠를 포함하는 파일을 프로세싱하기 위한 수단을 포함하는 장치가 제공된다. 장치는 파일을 획득하기 위한 수단을 포함하고, 여기서, 파일은 가상 현실 데이터를 포함한다. 가상 현실 데이터는 파일 포맷에 따라 파일에서 저장될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치를 특정할 수 있고, 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정할 수 있다. 가상 현실 데이터와 연관된 정보는 트랙 박스 내에서 저장될 수 있다. 장치는 파일을 프로세싱하기 위한 수단을 더 포함하고, 여기서, 파일을 프로세싱하는 것은 트랙 박스에서의 샘플 엔트리를 프로세싱하는 것을 포함한다. 샘플 엔트리는 하나 이상의 샘플들과 연관될 수 있다. 샘플 엔트리는 한정된 방식 정보 박스를 포함할 수 있다. 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의할 수 있다. 하나 이상의 샘플들은 가상 현실 데이터의 적어도 부분을 포함할 수 있다. 장치는 가상 현실 방식에 따라 하나 이상의 샘플들을 프로세싱하기 위한 수단을 더 포함한다.

일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 샘플 엔트리에서의 방식 타입 박스를 프로세싱하는 것을 더 포함한다. 방식 타입 박스는 방식 타입을 포함할 수 있다. 방식 타입은 가상 현실 방식으로서 정의된다.

일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 가상 현실 데이터에 관련된 파라미터들을 프로세싱하는 것을 더 포함한다. 파라미터들은 파일에서 저장될 수 있다.

일부 양태들에서, 파라미터들은 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 비디오 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 비디오 데이터에 대한 맵핑 타입 중의 하나 이상을 포함한다. 일부 양태들에서, 파라미터들은 방식 정보 박스에서의 파일에서 저장된다.

일부 양태들에서, 파일 포맷은 국제 표준 기구 (International Standards Organization; ISO) 기반 미디어 파일 포맷에 기초한다.

적어도 하나의 예에 따르면, 가상 현실 데이터를 획득하는 단계를 포함하는, 파일에서 가상 현실 컨텐츠를 표시하기 위한 방법이 제공된다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 방법은 가상 현실 데이터를 파일로 기입하는 단계를 더 포함한다. 가상 현실 데이터는 포맷에 따라 파일로 기입될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터를 설명하는 정보의 배치를 기술할 수 있다. 가상 현실 데이터를 설명하는 정보는 트랙 박스로 기입될 수 있다. 방법은 트랙 박스에서의 값을 설정하는 단계를 더 포함한다. 값은 트랙 박스에 의해 참조된 샘플이 가상 현실 제시를 위하여 포맷된다는 것을 표시할 수 있다.

또 다른 예에서는, 비디오 데이터를 저장하도록 구성된 메모리 및 프로세서를 포함하는 장치가 제공된다. 프로세서는 가상 현실 데이터를 획득하도록 구성되고, 가상 현실 데이터를 획득할 수 있다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 프로세서는 가상 현실 데이터를 파일로 기입하도록 구성되고, 가상 현실 데이터를 파일로 기입할 수 있다. 가상 현실 데이터는 포맷에 따라 파일로 기입될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터를 설명하는 정보의 배치를 기술할 수 있다. 가상 현실 데이터를 설명하는 정보는 트랙 박스로 기입될 수 있다. 프로세서는 트랙 박스에서의 값을 설정하도록 구성되고, 트랙 박스에서의 값을 설정할 수 있다. 값은 트랙 박스에 의해 참조된 샘플이 가상 현실 제시를 위하여 포맷된다는 것을 표시할 수 있다.

또 다른 예에서는, 프로세서에 의해 실행될 경우, 가상 현실 데이터를 획득하는 단계를 포함하는 방법을 수행하는 명령들을 그 상에 저장한 컴퓨터 판독가능 매체가 제공된다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 방법은 가상 현실 데이터를 파일로 기입하는 단계를 더 포함한다. 가상 현실 데이터는 포맷에 따라 파일로 기입될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터를 설명하는 정보의 배치를 기술할 수 있다. 가상 현실 데이터를 설명하는 정보는 트랙 박스로 기입될 수 있다. 방법은 트랙 박스에서의 값을 설정하는 단계를 더 포함한다. 값은 트랙 박스에 의해 참조된 샘플이 가상 현실 제시를 위하여 포맷된다는 것을 표시할 수 있다.

또 다른 예에서는, 가상 현실 데이터를 획득하기 위한 수단을 포함하는 장치가 제공된다. 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현할 수 있다. 장치는 가상 현실 데이터를 파일로 기입하기 위한 수단을 더 포함한다. 가상 현실 데이터는 포맷에 따라 파일로 기입될 수 있다. 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치와, 또한, 가상 현실 데이터를 설명하는 정보의 배치를 기술할 수 있다. 가상 현실 데이터를 설명하는 정보는 트랙 박스로 기입될 수 있다. 장치는 트랙 박스에서의 값을 설정하기 위한 수단을 더 포함한다. 값은 트랙 박스에 의해 참조된 샘플이 가상 현실 제시를 위하여 포맷된다는 것을 표시할 수 있다.

일부 양태들에서, 트랙 박스에서의 값을 설정하는 것은 미디어 핸들러 박스 (media handler box) 에서의 값을 설정하는 것을 포함한다. 미디어 핸들러 박스는 비디오 핸들러 박스 (video handler box) 일 수 있다. 일부 양태들에서, 미디어 핸들러 박스는 가상 현실 핸들러 박스 (virtual reality handler box) 일 수 있다.

일부 양태들에서, 트랙 박스에서의 값을 설정하는 것은 샘플 엔트리 박스 (sample entry box) 에서의 값을 설정하는 것을 포함한다.

일부 양태들에서, 트랙 박스에서의 값을 설정하는 것은 트랙 헤더 박스 (track header box), 미디어 헤더 박스 (media header box), 또는 비디오 미디어 헤더 박스 (video media header box) 에서의 값을 설정하는 것을 포함한다.

일부 양태들에서, 위에서 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 가상 현실 데이터에 관련된 파라미터들을 파일로 기입하는 것을 더 포함한다. 일부 양태들에서, 파라미터들은 가상 현실 데이터가 2-차원 또는 3-차원 비디오 데이터를 포함하는지 여부, 비디오 데이터가 프리-스티칭 또는 포스트-스티칭되는지 여부, 또는 비디오 데이터에 대한 맵핑 타입 중의 하나 이상을 포함한다. 일부 양태들에서, 파라미터들을 기입하는 것은 파라미터들을 방식 정보 박스로 기입하는 것을 포함한다.

일부 양태들에서, 파일 포맷은 ISO 기반 미디어 파일 포맷에 기초한다. 일부 양태들에서, 가상 현실 데이터는 비디오 데이터 및 오디오 데이터를 포함한다.

이 개요는 청구된 발명 요지의 핵심적인 또는 필수적인 특징들을 식별하도록 의도된 것도 아니고, 청구된 발명 요지의 범위를 결정하기 위하여 별개로 이용되도록 의도된 것도 아니다. 발명 요지는 이 특허의 전체 명세서, 임의의 또는 모든 도면들, 및 각각의 청구항의 적절한 부분들을 참조하여 이해되어야 한다.

상기한 것은 다른 특징들 및 실시형태들과 함께, 다음의 명세서, 청구항들, 및 동반된 도면들을 참조할 시에 더욱 분명해질 것이다.

본 발명의 예시적인 실시형태들은 다음 도면의 도면들을 참조하여 이하에서 상세하게 설명된다.
도 1 은 인코딩 디바이스 및 디코딩 디바이스를 포함하는 시스템의 예를 예시하는 블록도이다.
도 2 는 ISOBMFF 에 따라 포맷된, 비디오 제시를 위한 데이터 및 메타데이터를 포함하는 ISO 기반 미디어 파일의 예를 예시한다.
도 3a 및 도 3b 는 ISO 기반 미디어 파일에서의 상부-레벨 박스가 파일이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용되는 예들을 예시한다.
도 4 는 영화-레벨 표시가 파일이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 ISO 기반 미디어 파일 (400) 에서 이용되는 예를 예시한다.
도 5 는 트랙 레벨 표시자가 파일이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 ISO 기반 미디어 파일에서 이용되는 예를 예시한다.
도 6 은 핸들러 박스 (handler box) 가 트랙의 컨텐츠들이 가상 현실 비디오를 포함한다는 것을 시그널링하기 위하여 이용되는 ISO 기반 미디어 파일의 하나의 예를 예시한다.
도 7 은 새로운 핸들러 박스가 트랙이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 정의된 ISO 기반 미디어 파일의 예를 예시한다.
도 8 은 ISO 기반 미디어 파일에서 포함될 수 있는 미디어 박스의 예를 예시한다.
도 9 는 가상 현실 컨텐츠를 포함하는 파일을 생성하기 위한 프로세스의 예를 예시한다.
도 10 은 가상 현실 컨텐츠를 포함하는 파일을 프로세싱하기 위한 프로세스의 예를 예시한다.
도 11 은 가상 현실 컨텐츠를 포함하는 파일을 생성하기 위한 프로세스의 예를 예시한다.
도 12 는 이 개시물에서 설명된 기법들 중의 하나 이상을 구현할 수도 있는 일 예의 인코딩 디바이스를 예시하는 블록도이다.
도 13 은 일 예의 디코딩 디바이스를 예시하는 블록도이다.

이 개시물의 어떤 양태들 및 실시형태들이 이하에서 제공된다. 당해 분야의 당업자들에게 명백한 바와 같이, 이 양태들 및 실시형태들의 일부는 독립적으로 적용될 수도 있고 이들의 일부는 조합하여 적용될 수도 있다. 다음의 설명에서는, 설명의 목적들을 위하여, 특정 세부사항들이 발명의 실시형태들의 철저한 이해를 제공하기 위하여 기재된다. 그러나, 다양한 실시형태들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 명백할 것이다. 도면들 및 설명은 한정적인 것으로 의도된 것이 아니다.

뒤따르는 설명은 예시적인 실시형태들을 오직 제공하고, 개시물의 범위, 적용가능성, 또는 구성을 제한하도록 의도된 것이 아니다. 오히려, 예시적인 실시형태들의 뒤따르는 설명은 당해 분야의 당업자들에게 예시적인 실시형태를 구현하기 위한 가능한 설명을 제공할 것이다. 첨부된 청구항들에서 기재된 바와 같은 발명의 사상 및 범위로부터 이탈하지 않으면서, 구성요소들의 기능 및 배열에 있어서 다양한 변경들이 행해질 수도 있다는 것이 이해되어야 한다.

특정 세부사항들은 실시형태들의 철저한 이해를 제공하기 위하여 다음의 설명에서 주어진다. 그러나, 실시형태들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 당해 분야의 당업자에 의해 이해될 것이다. 예를 들어, 회로들, 시스템들, 네트워크들, 프로세스들, 및 다른 컴포넌트들은 실시형태들을 불필요한 세부사항으로 모호하게 하지 않도록 하기 위하여 블록도에서 컴포넌트들로서 도시될 수도 있다. 다른 사례들에서는, 잘 알려진 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들이 실시형태들을 모호하게 하는 것을 회피하기 위하여 불필요한 세부사항 없이 도시될 수도 있다.

또한, 개별적인 실시형태들은 플로우차트, 흐름도, 데이터 흐름도, 구조도, 또는 블록도로서 도시되는 프로세스로서 설명될 수도 있다는 것에 주목한다. 플로우차트는 동작들을 순차적인 프로세스로서 설명할 수도 있지만, 동작들 중의 다수는 병렬로 또는 동시에 수행될 수 있다. 게다가, 동작들의 순서는 재배열될 수도 있다. 프로세스는 그 동작들이 완료될 때에 종결되지만, 도면에서 포함되지 않은 추가적인 단계들을 가질 수도 있다. 프로세스는 방법, 함수, 프로시저 (procedure), 서브루틴 (subroutine), 서브프로그램 등에 대응할 수도 있다. 프로세스가 함수에 대응할 때, 그 종결은 호출 함수 또는 주 함수로의 함수의 복귀에 대응할 수 있다.

용어 "컴퓨터-판독가능 매체" 는 휴대용 또는 비-휴대용 저장 디바이스들, 광학 저장 디바이스들, 및 명령 (들) 및/또는 데이터를 저장할 수 있거나, 포함할 수 있거나, 반송할 수 있는 다양한 다른 매체들을 포함하지만, 이것으로 제한되지는 않는다. 컴퓨터-판독가능 매체는 데이터가 저장될 수 있으며 무선으로 또는 유선 접속들을 통해 전파하는 반송파들 및/또는 일시적 전자 신호들을 포함하지 않는 비-일시적 매체를 포함할 수도 있다. 비-일시적 매체의 예들은 자기 디스크 또는 테이프, 컴팩트 디스크 (compact disk; CD) 또는 디지털 다기능 디스크 (digital versatile disk; DVD) 와 같은 광학 저장 매체들, 플래시 메모리, 메모리 또는 메모리 디바이스들을 포함할 수도 있지만, 이것으로 제한되지는 않는다. 컴퓨터-판독가능 매체는 프로시저, 함수, 서브프로그램, 프로그램, 루틴, 서브루틴, 모듈, 소프트웨어 패키지, 클래스, 또는 명령들, 데이터 구조들, 또는 프로그램 명령문들의 임의의 조합을 표현할 수도 있는 코드 및/또는 머신-실행가능 명령들을 저장하였을 수도 있다. 코드 세그먼트는 정보, 데이터, 아규먼트 (argument) 들, 파라미터들, 또는 메모리 내용들을 전달하고 및/또는 수신함으로써 또 다른 코드 세그먼트 또는 하드웨어 회로에 결합될 수도 있다. 정보, 아규먼트들, 파라미터들, 데이터 등은 메모리 공유, 메시지 전달, 토큰 전달, 네트워크 송신 등을 포함하는 임의의 적당한 수단을 통해 전달될 수도 있거나, 포워딩될 수도 있거나, 또는 송신될 수도 있다.

또한, 실시형태들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 설명 언어들, 또는 그 임의의 조합에 의해 구현될 수도 있다. 소프트웨어, 펌웨어, 미들웨어, 또는 마이크로코드로 구현될 때, 필요한 태스크 (task) 들을 수행하기 위한 프로그램 코드 또는 코드 세그먼트들 (예컨대, 컴퓨터-프로그램 제품) 은 컴퓨터-판독가능 또는 머신-판독가능 매체 내에 저장될 수도 있다. 프로세서 (들) 는 필요한 태스크들을 수행할 수도 있다.

가상 현실 (VR) 은 외견상으로 현실의 또는 물리적인 방법 내에서 상호작용될 수 있는 3 차원, 컴퓨터-생성된 환경을 설명한다. 일반적으로, 가상 현실 환경을 경험하는 사용자는 가상적인 환경과 상호작용하기 위하여, 헤드-장착형 디스플레이 (head-mounted display; HMD) 및 임의적으로 또한, 의류 (예컨대, 센서들로 끼워진 장갑들) 과 같은 전자 장비를 이용한다. 사용자가 실세계에서 이동할 때, 가상적인 환경에서 렌더링된 이미지들은 또한 변경하여, 사용자가 가상적인 환경 내에서 이동하고 있다는 지각을 사용자에게 부여한다. 일부 경우들에는, 가상적인 환경이 사용자의 이동들과 상관 (correlate) 되는 사운드를 포함하여, 사운드들이 특정한 거리 또는 소스로부터 발신된다는 인상을 사용자에게 부여한다. 가상 현실 비디오는 매우 높은 품질로 캡처될 수 있고 렌더링될 수 있어서, 진정한 실감형 가상 현실 경험을 잠재적으로 제공할 수 있다. 가상 현실 애플리케이션들은 그 중에서도 게이밍, 트레이닝, 교육, 스포츠 비디오, 및 온라인 쇼핑을 포함한다.

가상 현실 시스템은 전형적으로, 비디오 캡처 디바이스 및 비디오 디스플레이 디바이스와, 아마도 또한, 서버들, 데이터 저장장치, 및 데이터 송신 장비와 같은 다른 중간 디바이스들을 포함한다. 비디오 캡처 디바이스는 카메라 세트, 즉, 각각이 상이한 방향으로 배향되고 상이한 뷰를 캡처하는 다수의 카메라들의 세트를 포함할 수도 있다. 6 개만큼의 적은 카메라들은 카메라 세트의 로케이션 (location) 을 중심에 둔 전체 360-도 뷰를 캡처하기 위하여 이용될 수 있다. 일부 비디오 캡처 디바이스들은 예를 들어, 사이드-투-사이드 (side-to-side) 뷰들을 주로 캡처하는 비디오 캡처 디바이스들과 같은 더 적은 카메라들을 이용할 수도 있다. 비디오는 일반적으로 프레임들을 포함하고, 여기서, 프레임은 장면의 전자적으로 코딩된 스틸 이미지 (still image) 이다. 카메라들은 카메라의 프레임 레이트로서 통상적으로 지칭되는, 초 당 어떤 수의 프레임들을 캡처한다.

심리스 (seamless) 360-도 뷰를 제공하기 위하여, 카메라 세트에서의 카메라들의 각각에 의해 캡처된 비디오는 전형적으로 이미지 스티칭 (image stitching) 을 거친다. 360-도 비디오 생성의 경우의 이미지 스티칭은 비디오 프레임들이 중첩하거나 그렇지 않을 경우에 접속할 영역에서의 인접한 카메라들로부터의 비디오 프레임들을 조합하거나 병합하는 것을 수반한다. 결과는 대략 구형 프레임 (spherical frame) 이지만, 메트카토르 투영 (Mercator projection) 과 유사할 것이고, 병합된 데이터는 전형적으로 평면 방식으로 표현된다. 예를 들어, 병합된 비디오 프레임에서의 픽셀들은 정육면체 형상, 또는 일부 다른 3 차원 평면 형상 (예컨대, 피라미드 (pyramid), 팔면체 (octahedron), 십면체 (decahedron) 등) 의 평면들 상으로 맵핑될 수도 있다. 비디오 캡처 및 비디오 디스플레이 디바이스들은 전형적으로, 래스터 원리 (raster principle) 에 따라 동작하고, 이것은 비디오 프레임이 픽셀들의 그리드 (grid) 로서 취급된다는 것을 의미하고, 이에 따라, 정사각형 또는 직사각형 평면들이 구형 환경을 표현하기 위하여 전형적으로 이용된다.

평면 표현으로 맵핑된 가상 현실 비디오 프레임들은 저장 및/또는 송신을 위하여 인코딩될 수 있고 및/또는 압축될 수 있다. 인코딩 및/또는 압축은 비디오 코덱 (예컨대, H.265/HEVC 준수 코덱, H.264/AVC 준수 코덱, 또는 다른 적당한 코덱) 을 이용하여 달성될 수 있고, 압축된 비디오 비트스트림 또는 비트스트림들의 그룹으로 귀착된다. 비디오 코덱을 이용한 비디오 데이터의 인코딩은 이하에서 더욱 상세하게 설명된다.

인코딩된 비디오 비트스트림 (들) 은 미디어 포맷 또는 파일 포맷으로 저장될 수 있고 및/또는 캡슐화 (encapsulate) 될 수 있다. 저장된 비트스트림 (들) 은 예를 들어, 네트워크 상에서, 디스플레이를 위하여 비디오를 디코딩할 수 있고 렌더링할 수 있는 수신기 디바이스로 송신될 수 있다. 이러한 수신기 디바이스는 비디오 디스플레이 디바이스로서 본원에서 지칭될 수도 있다. 예를 들어, 가상 현실 시스템은 (예컨대, 국제 표준 기구 (ISO) 기반 미디어 파일 포맷 및/또는 파생된 파일 포맷들을 이용하여) 인코딩된 비디오 데이터로부터 캡슐화된 파일들을 생성할 수 있다. 예를 들어, 비디오 코덱은 비디오 데이터를 인코딩할 수 있고, 캡슐화 엔진은 하나 이상의 ISO 포맷 미디어 파일들에서의 비디오 데이터를 캡슐화함으로써 미디어 파일들을 생성할 수 있다. 대안적으로 또는 추가적으로, 저장된 비트스트림 (들) 은 저장 매체로부터 수신기 디바이스로 직접적으로 제공될 수 있다.

수신기 디바이스는 또한, 인코딩된 비디오 비트스트림을 디코딩하고 및/또는 압축해제하기 위한 코덱을 구현할 수 있다. 수신기 디바이스는 비디오 비트스트림을 파일 (또는 파일들) 로 팩킹 (pack) 하고, 비디오 (및 아마도 또한, 오디오) 데이터를 추출하고, 인코딩된 비디오 데이터를 생성하기 위하여 이용되었던 미디어 또는 파일 포맷을 지원할 수 있다. 예를 들어, 수신기 디바이스는 인코딩된 비디오 데이터를 생성하기 위하여 캡슐화된 비디오 데이터로 미디어 파일들을 파싱 (parsing) 할 수 있고, 수신기 디바이스에서의 코덱은 인코딩된 비디오 데이터를 디코딩할 수 있다.

다음으로, 수신기 디바이스는 디코딩된 비디오 신호를 렌더링 디바이스 (예컨대, 비디오 디스플레이 디바이스) 로 전송할 수 있다. 렌더링 디바이스들은 예를 들어, 헤드-장착형 디스플레이들, 가상 현실 텔레비전들, 및 다른 180 또는 360-도 디스플레이 디바이스들을 포함한다. 일반적으로, 헤드-장착형 디스플레이는 착용자의 헤드의 이동 및/또는 착용자의 눈들의 이동을 추적할 수 있다. 헤드-장착형 디스플레이는 착용자가 쳐다 보고 있는 방향에 대응하는 360-도 비디오의 일부를 렌더링하기 위하여 추적 정보를 이용할 수 있어서, 착용자는 그녀가 실세계를 경험하는 것과 동일한 방법으로 가상적인 환경을 경험한다. 렌더링 디바이스는 비디오가 캡처되었던 것과 동일한 프레임 레이트에서, 또는 상이한 프레임 레이트에서 비디오를 렌더링할 수도 있다.

파일 포맷 표준들은 비디오 (및 아마도 또한, 오디오) 데이터를 하나 이상의 파일들로 팩킹하고 언팩킹 (unpacking) 하기 위한 포맷을 정의할 수 있다. 파일 포맷 표준들은 국제 표준화 기구 (ISO) 기반 미디어 파일 포맷 (ISOBMFF, ISO/IEC 14496-12 에서 정의됨) 과, 모션 픽처 전문가 그룹 (Motion Pictures Experts Group; MPEG) MPEG-4 파일 포맷 (ISO/IEC 14496-15 에서 정의됨), 3 세대 파트너십 프로젝트 (3rd Generation Partnership Project; 3GPP) 파일 포맷 (3GPP TS 26.244 에서 정의됨), 및 진보된 비디오 코딩 (AVC) 파일 포맷 및 고효율 비디오 코딩 (HEVC) 파일 포맷 (양자는 ISO/IEC 14496-15 에서 정의됨) 을 포함하는, ISOBMFF 로부터 파생된 다른 파일 포맷들을 포함한다. ISO/IEC 14496-12 및 14496-15 에 대한 최근의 새로운 편집들의 초안 텍스트들은 각각 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/111_Geneva/wg11/w15177-v6-w15177.zip 및 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/112_Warsaw/wg11/w15479-v2-w15479.zip 에서 입수가능하다.

ISOBMFF 는 많은 코덱 캡슐화 포맷들 (예컨대, AVC 파일 포맷 또는 임의의 다른 적당한 코덱 캡슐화 포맷) 뿐만 아니라, 많은 멀티미디어 컨테이너 (multimedia container) 포맷들 (예컨대, MPEG-4 파일 포맷, 3GPP 파일 포맷 (3GP), DVB 파일 포맷, 또는 임의의 다른 적당한 멀티미디어 컨테이너 포맷) 에 대한 기초로서 이용된다. ISOBMFF-기반 파일 포맷들은 스트리밍 미디어로서 또한 지칭되는 연속적인 미디어를 위하여 이용될 수 있다.

연속적인 미디어 (예컨대, 오디오 및 비디오) 에 추가하여, 정적 미디어 (예컨대, 이미지들) 및 메타데이터는 ISOMBFF 를 준수하는 파일에서 저장될 수 있다. ISOBMFF 에 따라 구조화된 파일들은 로컬 미디어 파일 재생, 동적 적응 스트리밍 오버 HTTP (Dynamic Adaptive Streaming over HTTP; DASH) 를 위한 세그먼트들로서, 스트리밍되어야 할 컨텐츠에 대한 컨테이너들 (이 경우, 컨테이너들은 패킷화 명령들을 포함함) 로서, 수신된 실시간 미디어 스트림들의 레코딩을 위한 원격 파일의 프로그레시브 다운로딩, 또는 다른 이용들을 포함하는 많은 목적들을 위하여 이용될 수도 있다.

ISOBMFF 및 그 파생된 파일 포맷들 (예컨대, AVC 파일 포맷 또는 다른 파생된 파일 포맷들) 은 많은 멀티미디어 애플리케이션들에서의 미디어 컨텐츠 (예컨대, 비디오, 오디오, 및 타이밍 정해진 텍스트) 의 저장 및 캡슐화를 위하여 폭넓게 이용된다. 그러나, ISOBMFF 및 ISOBMFF 로부터 파생된 파일 포맷들은 가상 현실 (VR) 비디오를 저장하기 위한 사양들을 포함하지 않는다. 예를 들어, 가상 현실 비디오가 ISOBMFF 또는 파생된 파일 포맷에 기초하여 파일에서 저장될 경우, 플레이어 디바이스는 가상 현실 비디오를 기존의 평면 비디오로서 취급 (예컨대, 프로세싱하는 것을 시도) 할 수도 있다 (예컨대, 플레이어 디바이스는 가상 현실 비디오를 가상 현실 컨텐츠를 포함하지 않는 것으로서 취급할 수도 있음). 이에 따라, 플레이어는 렌더링 동안에 가상 현실 비디오의 필요한 투영을 적용할 수도 없어서, 비디오가 왜곡되고 디스플레이될 때에 잠재적으로 시인불가능 (unviewable) 한 것으로 귀착될 수도 있다.

다양한 구현예들에서, ISOBMFF 에 대한 수정들 및/또는 추가들은 ISOBMFF, 또는 ISOBMFF 로부터 파생된 포맷에 따라 포맷되었던 파일이 가상 현실 컨텐츠를 포함한다는 것을 표시할 수 있다. 예를 들어, 일부 구현예들에서, 파일은 파일의 컨텐츠들이 가상 현실 이용 경우들 또는 구현예들에서의 이용을 위하여 포맷된다는 것을 시그널링 (예컨대, 표시함) 하는 파일-레벨 표시를 포함할 수 있다. 또 다른 예로서, 일부 구현예들에서, 파일은 파일에서의 영화 제시가 가상 현실 컨텐츠를 포함하다는 것을 시그널링 (예컨대, 표시함) 하는 영화-레벨 표시를 포함할 수 있다. 또 다른 예로서, 일부 구현예들에서, 파일은 트랙이 가상 현실 컨텐츠를 포함하다는 것을 시그널링 (예컨대, 표시함) 하는 트랙-레벨 표시를 포함할 수 있다. 다양한 구현예들에서, 가상 현실 컨텐츠에 관련된 파라미터는 또한, 파일, 영화, 및/또는 트랙 레벨에서 시그널링될 수 있다.

이러한 그리고 다른 구현예들에서, 플레이어 디바이스들은 파일이 언제 가상 현실 컨텐츠를 포함하는지를 인식할 수 있다. 일부 경우들에는, 가상 현실 컨텐츠를 디스플레이할 수 없는 플레이어 디바이스들이 가상 현실 미디어를 무시할 수 있고 및/또는 스킵 (skip) 할 수 있다.

도 1 은 인코딩 디바이스 (104) 및 디코딩 디바이스 (112) 를 포함하는 시스템 (100) 의 예를 예시하는 블록도이다. 인코딩 디바이스 (104) 는 소스 디바이스의 일부일 수도 있고, 디코딩 디바이스 (112) 는 수신 디바이스의 일부일 수도 있다. 소스 디바이스 및/또는 수신 디바이스는 이동식 또는 정지식 전화 핸드셋 (예컨대, 스마트폰, 셀룰러 전화 등), 데스크톱 컴퓨터, 랩톱 또는 노트북 컴퓨터, 태블릿 컴퓨터, 셋-톱 박스, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게임용 콘솔, 비디오 스트리밍 디바이스, 또는 임의의 다른 적당한 전자 디바이스와 같은 전자 디바이스를 포함할 수도 있다. 일부 예들에서, 소스 디바이스 및 수신 디바이스는 무선 통신들을 위한 하나 이상의 무선 트랜시버들을 포함할 수도 있다. 본원에서 설명된 코딩 기법들은 (예컨대, 인터넷을 통한) 스트리밍 비디오 송신들, 텔레비전 브로드캐스트들 또는 송신들, 데이터 저장 매체 상에서의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에서 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들을 포함하는 다양한 멀티미디어 애플리케이션들에서의 비디오 코딩에 적용가능하다. 일부 예들에서, 시스템 (100) 은 비디오 화상회의, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 게이밍, 및/또는 전화 (video telephony) 와 같은 애플리케이션들을 지원하기 위하여 일방향 (one-way) 또는 양방향 (two-way) 비디오 송신을 지원할 수 있다.

인코딩 디바이스 (104) (또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하기 위한 비디오 코딩 표준 또는 프로토콜을 이용하여, 가산 현실 비디오 데이터를 포함하는 비디오 데이터를 인코딩하기 위하여 이용될 수 있다. 비디오 코딩 표준들은 SVC 및 MVC 로서 각각 알려진, 그 스케일러블 비디오 코딩 및 멀티뷰 비디오 코딩 확장들을 포함하는, ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 ITU-T H.264 (또한, ISO/IEC MPEG-4 AVC 로서 알려짐) 를 포함한다. 더욱 최근의 비디오 코딩 표준, 고효율 비디오 코딩 (HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group; VCEG) 및 ISO/IEC 동화상 전문가 그룹 (Moving Picture Experts Group; MPEG) 의 비디오 코딩에 관한 합동 협력 팀 (Joint Collaboration Team on Video Coding; JCT-VC) 에 의해 완결되었다. MV-HEVC 로 칭해진 HEVC 에 대한 멀티뷰 확장 (multiview extension) 과, SHVC 로 칭해진 HEVC 에 대한 스케일러블 확장 (scalable extension), 또는 임의의 다른 적당한 코딩 프로토콜을 포함하는, HEVC 에 대한 다양한 확장들은 멀티-계층 비디오 코딩을 다루고, 또한, JCT-VC 에 의해 개발되고 있다.

본원에서 설명된 구현예들은 HEVC 표준, 또는 그 확장들을 이용하는 예들을 설명한다. 그러나, 본원에서 설명된 기법들 및 시스템들은 또한, AVC, MPEG, 그 확장들, 또는 이미 이용가능하거나 아직 이용가능하거나 개발되지 않은 다른 적당한 코딩 표준들과 같은 다른 코딩 표준들에 적용가능할 수도 있다. 따라서, 본원에서 설명된 기법들 및 시스템들은 특정한 비디오 코딩 표준을 참조하여 설명될 수도 있지만, 당해 분야의 당업자는 설명이 그 특정한 표준에 오직 적용하는 것으로 해독되지 않아야 한다는 것을 인식할 것이다.

비디오 소스 (102) 는 비디오 데이터를 인코딩 디바이스 (104) 에 제공할 수도 있다. 비디오 소스 (102) 는 소스 디바이스의 일부일 수도 있거나, 소스 디바이스 이외의 디바이스의 일부일 수도 있다. 비디오 소스 (102) 는 비디오 캡처 디바이스 (예컨대, 비디오 카메라, 카메라 폰, 비디오 폰 등), 저장된 비디오를 포함하는 비디오 아카이브, 비디오 데이터를 제공하는 비디오 서버 또는 컨텐츠 제공자, 비디오 서버 또는 컨텐츠 제공자로부터 비디오를 수신하는 비디오 공급 인터페이스, 컴퓨터 그래픽 비디오 데이터를 생성하기 위한 컴퓨터 그래픽 시스템, 이러한 소스들의 조합, 또는 임의의 다른 적당한 비디오 소스를 포함할 수도 있다. 비디오 소스 (102) 의 하나의 예는 인터넷 프로토콜 카메라 (IP 카메라) 를 포함할 수 있다. IP 카메라는 감시, 가정 보안, 또는 다른 적당한 애플리케이션을 위하여 이용될 수 있는 디지털 비디오 카메라의 타입이다. 아날로그 폐쇄 회로 텔레비전 (closed circuit television; CCTV) 카메라들과 달리, IP 카메라는 컴퓨터 네트워크 및 인터넷을 통해 데이터를 전송할 수 있고 수신할 수 있다.

비디오 소스 (102) 로부터의 비디오 데이터는 하나 이상의 입력 픽처들 또는 프레임들을 포함할 수도 있다. 픽처 또는 프레임은 비디오의 일부인 스틸 이미지이다. 인코딩 디바이스 (104) 의 인코더 엔진 (106) (또는 인코더) 은 인코딩된 비디오 비트스트림을 생성하기 위하여 비디오 데이터를 인코딩한다. 일부 예들에서, 인코딩된 비디오 비트스트림 (또는 "비디오 비트스트림" 또는 "비트스트림") 은 일련의 하나 이상의 코딩된 비디오 시퀀스들이다. 코딩된 비디오 시퀀스 (coded video sequence; CVS) 는, 기본 계층에서 랜덤 액세스 포인트 픽처를 가지고 어떤 성질들을 갖는 AU 와 함께 시작하며, 기본 계층에서 랜덤 액세스 포인트 픽처를 가지고 어떤 성질들을 갖는 다음 AU 에 이르기까지 그리고 다음 AU 를 포함하지 않는 일련의 액세스 유닛 (access unit; AU) 들을 포함한다. 예를 들어, CVS 를 시작하는 랜덤 액세스 포인트 픽처의 어떤 성질들은 1 과 동일한 RASL 플래그 (예컨대, NoRaslOutputFlag) 를 포함할 수도 있다. 그렇지 않을 경우, (0 과 동일한 RASL 플래그를 갖는) 랜덤 액세스 포인트 픽처는 CVS 를 시작하지 않는다. 액세스 유닛 (AU) 은 하나 이상의 코딩된 픽처들, 및 동일한 출력 시간을 공유하는 코딩된 픽처들에 대응하는 제어 정보를 포함한다. 픽처들의 코딩된 슬라이스들은 비트스트림 레벨에서, 네트워크 추상화 계층 (NAL) 유닛들로 칭해진 데이터 유닛들로 캡슐화된다. 예를 들어, HEVC 비디오 비트스트림은 NAL 유닛들을 포함하는 하나 이상의 CVS 들을 포함할 수도 있다. 비디오 코딩 계층 (VCL) NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는, NAL 유닛들의 2 개의 클래스들은 HEVC 표준에서 존재한다. VCL NAL 유닛은 코딩된 픽처 데이터의 (이하에서 설명된) 하나의 슬라이스 또는 슬라이스 세그먼트를 포함하고, 비-VCL NAL 유닛은 하나 이상의 코딩된 픽처들에 관련되는 제어 정보를 포함한다.

NAL 유닛들은 비디오에서의 픽처들의 코딩된 표현들과 같은, 비디오 데이터 (예컨대, 인코딩된 비디오 비트스트림, 비트스트림의 CVS 등) 의 코딩된 표현을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 인코더 엔진 (106) 은 각각의 픽처를 다수의 슬라이스들로 파티셔닝함으로써 픽처들의 코딩된 표현들을 생성한다. 다음으로, 슬라이스들은 루마 샘플 (luma sample) 들 및 크로마 샘플 (chroma sample) 들의 코딩 트리 블록 (coding tree block; CTB) 들로 파티셔닝된다. 루마 샘플들의 CTB 및 크로마 샘플들의 하나 이상의 CTB 들은 샘플들에 대한 신택스와 함께, 코딩 트리 유닛 (coding tree unit; CTU) 으로서 지칭된다. CTU 는 HEVC 인코딩을 위한 기본 프로세싱 유닛이다. CTU 는 변동되는 크기들의 다수의 코딩 유닛 (coding unit; CU) 들로 분할될 수 있다. CU 는 코딩 블록 (coding block; CB) 들로서 지칭되는 루마 및 크로마 샘플 어레이들을 포함한다.

루마 및 크로마 CB 들은 예측 블록 (prediction block; PB) 들로 추가로 분할될 수 있다. PB 는 인터-예측을 위하여 동일한 모션 파라미터들을 이용하는 루마 또는 크로마 컴포넌트의 샘플들의 블록이다. 루마 PB 및 하나 이상의 크로마 PB 들은 연관된 신택스와 함께, 예측 유닛 (prediction unit; PU) 을 형성한다. 모션 파라미터들의 세트는 각각의 PU 에 대한 비트스트림에서 시그널링되고, 루마 PB 및 하나 이상의 크로마 PB 들의 인터-예측을 위하여 이용된다. CB 는 또한, 하나 이상의 변환 블록 (transform block; TB) 들로 파티셔닝될 수 있다. TB 는 동일한 2 차원 변환이 예측 잔차 신호를 코딩하기 위하여 적용되는 컬러 컴포넌트의 샘플들의 정사각형 블록을 표현한다. 변환 유닛 (transform unit; TU) 은 루마 및 크로마 샘플들의 TB 들과, 대응하는 신택스 엘리먼트들을 표현한다.

CU 의 크기는 코딩 노드의 크기에 대응하고, 형상에 있어서 정사각형일 수도 있다. 예를 들어, CU 의 크기는 8 x 8 샘플들, 16 x 16 샘플들, 32 x 32 샘플들, 64 x 64 샘플들, 또는 대응하는 CTU 의 크기에 이르는 임의의 다른 적절한 크기일 수도 있다. 어구 "N x N" 은 수직 및 수평 차원들의 측면에서의 비디오 블록의 픽셀 차원들 (예컨대, 8 픽셀들 x 8 픽셀들) 을 지칭하기 위하여 본원에서 이용된다. 블록 내의 픽셀들은 행 (row) 들 및 열 (column) 들로 배열될 수도 있다. 일부 실시형태들에서, 블록들은 수직 방향에서와 동일한 수의 픽셀들을 수평 방향에서 가지지 않을 수도 있다. CU 와 연관된 신택스 데이터는 예를 들어, 하나 이상의 PU 들로의 CU 의 파티셔닝을 설명할 수도 있다. 파티셔닝 모드들은 CU 가 인트라-예측 모드 인코딩되는지, 또는 인터-예측 모드 인코딩되는지 여부의 사이에서 상이할 수도 있다. PU 들은 형상에 있어서 비-정사각형 (non-square) 이 되도록 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는 또한, 예를 들어, CTU 에 따른 하나 이상의 TU 들로의 CU 의 파티셔닝을 설명할 수도 있다. TU 는 형상에 있어서 정사각형 또는 비-정사각형일 수 있다.

HEVC 표준에 따르면, 변환들은 변환 유닛 (TU) 들을 이용하여 수행될 수도 있다. TU 들은 상이한 CU 들에 대하여 변동될 수도 있다. TU 들은 소정의 CU 내의 PU 들의 크기에 기초하여 크기가 정해질 수도 있다. TU 들은 동일한 크기일 수도 있거나, PU 들보다 더 작을 수도 있다. 일부 예들에서, CU 에 대응하는 잔차 샘플들은 잔차 쿼드 트리 (residual quad tree; RQT) 로서 알려진 쿼드트리 구조를 이용하여 더 작은 유닛들로 재분할될 수도 있다. RQT 의 리프 노드들은 TU 들에 대응할 수도 있다. TU 들과 연관된 픽셀 차이 값들은 변환 계수들을 생성하기 위하여 변환될 수도 있다. 다음으로, 변환 계수들은 인코더 엔진 (106) 에 의해 양자화될 수도 있다.

일단 비디오 데이터의 픽처들이 CU 들로 파티셔닝되면, 인코더 엔진 (106) 은 예측 모드를 이용하여 각각의 PU 를 예측한다. 다음으로, 예측은 (이하에서 설명된) 잔차들을 얻기 위하여 원래의 비디오 데이터로부터 감산 (subtract) 된다. 각각의 CU 에 대하여, 예측 모드는 신택스 데이터를 이용하여 비트스트림의 내부에서 시그널링될 수도 있다. 예측 모드는 인트라-예측 (또는 인트라-픽처 예측) 또는 인터-예측 (또는 인터-픽처 예측) 을 포함할 수도 있다. 인트라-예측을 이용하면, 각각의 PU 는 예를 들어, PU 에 대한 평균 값을 구하기 위한 DC 예측, 평면 표면을 PU 에 맞추기 위한 평면 예측, 이웃하는 데이터로부터 추론하기 위한 방향 예측, 또는 임의의 다른 적당한 타입들의 예측을 이용하여 동일한 픽처에서 이웃하는 이미지 데이터로부터 예측된다. 인터-예측을 이용하면, 각각의 PU 는 (출력 순서에서 현재의 픽처 이전 또는 이후의) 하나 이상의 참조 픽처들에서의 이미지 데이터로부터의 모션 보상 예측을 이용하여 예측된다. 인터-픽처 또는 인트라-픽처 예측을 이용하여 픽처 영역을 코딩할 것인지 여부의 판단은 예를 들어, CU 레벨에서 행해질 수도 있다. 일부 예들에서, 픽처의 하나 이상의 슬라이스들에는 슬라이스 타입이 배정된다. 슬라이스 타입들은 I 슬라이스, P 슬라이스, 및 B 슬라이스를 포함한다. I 슬라이스 (인트라-프레임들, 독립적으로 디코딩가능함) 는 인트라 예측에 의해 오직 코딩되는 픽처의 슬라이스이고, 그러므로, I 슬라이스가 슬라이스의 임의의 블록을 예측하기 위하여 프레임 내에서 오직 데이터를 요구하므로, 독립적으로 디코딩가능하다. P 슬라이스 (단방향 예측된 프레임들) 는 인트라-예측 및 단방향 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. P 슬라이스 내의 각각의 블록은 인트라 예측 또는 인터-예측의 어느 하나로 코딩된다. 인터-예측이 적용될 때, 블록은 하나의 참조 픽처에 의해 오직 예측되고, 그러므로, 참조 샘플들은 오직 하나의 프레임의 하나의 참조 영역으로부터의 것이다. B 슬라이스 (양방향 예측 프레임들) 는 인트라-예측 및 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. B 슬라이스의 블록은 2 개의 참조 픽처들로부터 양방향 예측될 수도 있고, 여기서, 각각의 픽처는 하나의 참조 영역에 기여하고, 2 개의 참조 영역들의 샘플 세트들은 양방향 예측된 블록의 예측 신호를 생성하기 위하여 (예컨대, 동일한 가중치들로) 가중화된다. 위에서 설명된 바와 같이, 하나의 픽처의 슬라이스들은 독립적으로 코딩된다. 일부 경우들에는, 픽처가 단지 하나의 슬라이스로서 코딩될 수 있다.

PU 는 예측 프로세스에 관련된 데이터를 포함할 수도 있다. 예를 들어, PU 가 인트라-예측을 이용하여 인코딩될 때, PU 는 PU 에 대한 인트라-예측 모드를 설명하는 데이터를 포함할 수도 있다. 또 다른 예로서, PU 가 인터-예측을 이용하여 인코딩될 때, PU 는 PU 에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 해상도 (예컨대, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 지시하는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예컨대, List 0, List 1, 또는 List C) 를 설명할 수도 있다.

다음으로, 인코딩 디바이스 (104) 는 변환 및 양자화를 수행할 수도 있다. 예를 들어, 예측에 후속하여, 인코더 엔진 (106) 은 PU 에 대응하는 잔차 값들을 계산할 수도 있다. 잔차 값들은 픽셀 차이 값들을 포함할 수도 있다. 예측이 수행된 후에 남아 있을 수도 있는 임의의 잔차 데이터는, 이산 코사인 변환, 이산 사인 변환, 정수 변환, 웨이블렛 변환, 또는 다른 적당한 변환 함수에 기초할 수도 있는 블록 변환을 이용하여 변환된다. 일부 경우들에는, 하나 이상의 블록 변환들 (예컨대, 크기들 32 x 32, 16 x 16, 8 x 8, 4 x 4 등) 은 각각의 CU 에서의 잔차 데이터에 적용될 수도 있다. 일부 실시형태들에서, TU 는 인코더 엔진 (106) 에 의해 구현된 변환 및 양자화 프로세스들을 위하여 이용될 수도 있다. 하나 이상의 PU 들을 가지는 소정의 CU 는 또한, 하나 이상의 TU 들을 포함할 수도 있다. 이하에서 더욱 상세하게 설명된 바와 같이, 잔차 값들은 블록 변환들을 이용하여 변환 계수들로 변환될 수도 있고, 다음으로, 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위하여 TU 들을 이용하여 양자화될 수도 있고 스캔될 수도 있다.

CU 의 PU 들을 이용한 인트라-예측 또는 인터-예측 코딩에 후속하는 일부 실시형태들에서, 인코더 엔진 (106) 은 CU 의 TU 들에 대한 잔차 데이터를 계산할 수도 있다. PU 들은 공간적 도메인 (또는 픽셀 도메인) 에서 픽셀 데이터를 포함할 수도 있다. TU 들은 블록 변환의 적용에 후속하여 변환 도메인에서 계수들을 포함할 수도 있다. 이전에 언급된 바와 같이, 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과, PU 들에 대응하는 예측 값들과의 사이의 픽셀 차이 값들에 대응할 수도 있다. 인코더 엔진 (106) 은 CU 에 대한 잔차 데이터를 포함하는 TU 들을 형성할 수도 있고, 다음으로, CU 에 대한 변환 계수들을 생성하기 위하여 TU 들을 변환할 수도 있다.

인코더 엔진 (106) 은 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 계수들을 표현하기 위하여 이용된 데이터의 양을 감소시키기 위하여 변환 계수들을 양자화함으로써 추가의 압축을 제공한다. 예를 들어, 양자화는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 하나의 예에서, n-비트 값을 갖는 계수는 양자화 동안에 m-비트 값으로 버림 (round down) 될 수도 있고, n 은 m 보다 더 클 수도 있다.

일단 양자화가 수행되면, 코딩된 비디오 비트스트림은 양자화된 변환 계수들, 예측 정보 (예컨대, 예측 모드들, 모션 벡터들 등), 파티셔닝 정보, 및 다른 신택스 데이터와 같은 임의의 다른 적당한 데이터를 포함한다. 다음으로, 코딩된 비디오 비트스트림의 상이한 엘리먼트들은 인코더 엔진 (106) 에 의해 엔트로피 인코딩될 수도 있다. 일부 예들에서, 인코더 엔진 (106) 은 양자화된 변환 계수들을 스캔하여, 엔트로피 인코딩될 수 있는 직렬화된 벡터 (serialized vector) 를 생성하기 위하여, 미리 정의된 스캔 순서를 사용할 수도 있다. 일부 예들에서, 인코더 엔진 (106) 은 적응적 스캔 (adaptive scan) 을 수행할 수도 있다. 벡터 (예컨대, 1 차원 벡터) 를 형성하기 위하여 양자화된 변환 계수들을 스캔한 후, 인코더 엔진 (106) 은 벡터를 엔트로피 인코딩할 수도 있다. 예를 들어, 인코더 엔진 (106) 은 컨텍스트 적응 가변 길이 코딩, 컨텍스트 적응 2 진 산술 코딩, 신택스-기반 컨텍스트-적응 2 진 산술 코딩, 확률 간격 파티셔닝 엔트로피 코딩, 또는 또 다른 적당한 엔트로피 인코딩 기법을 이용할 수도 있다.

인코딩 디바이스 (104) 의 출력부 (110) 는 인코딩된 비디오 비트스트림 데이터를 구성하는 NAL 유닛들을 통신 링크 (120) 상에서 수신 디바이스의 디코딩 디바이스 (112) 로 전송할 수도 있다. 디코딩 디바이스 (112) 의 입력부 (114) 는 NAL 유닛들을 수신할 수도 있다. 통신 링크 (120) 는 무선 네트워크, 유선 네트워크, 또는 유선 및 무선 네트워크의 조합에 의해 제공된 채널을 포함할 수도 있다. 무선 네트워크는 임의의 무선 인터페이스 또는 무선 인터페이스들의 조합을 포함할 수도 있고, 임의의 적당한 무선 네트워크 (예컨대, 인터넷 또는 다른 광역 네트워크, 패킷-기반 네트워크, WiFi™, 라디오 주파수 (RF), UWB, WiFi-다이렉트 (WiFi-Direct), 셀룰러, 롱텀 에볼루션 (Long-Term Evolution; LTE), WiMax™ 등) 를 포함할 수도 있다. 유선 네트워크는 임의의 유선 인터페이스 (예컨대, 섬유, 이더넷, 전력선 이더넷, 이더넷 오버 동축 케이블, 디지털 신호 라인 (digital signal line; DSL) 등) 를 포함할 수도 있다. 유선 및/또는 무선 네트워크들은 기지국들, 라우터들, 액세스 포인트들, 브릿지들, 게이트웨이들, 스위치들 등과 같은 다양한 장비를 이용하여 구현될 수도 있다. 인코딩된 비디오 비트스트림 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 수신 디바이스로 송신될 수도 있다.

일부 예들에서, 인코딩 디바이스 (104) 는 인코딩된 비디오 비트스트림 데이터를 저장장치 (108) 내에 저장할 수도 있다. 출력부 (110) 는 인코더 엔진 (106) 으로부터, 또는 저장장치 (108) 로부터 인코딩된 비디오 비트스트림 데이터를 취출할 수도 있다. 저장장치 (108) 는 다양한 분산되거나 국소적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 예를 들어, 저장장치 (108) 는 하드 드라이브, 저장 디스크, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적당한 디지털 저장 매체들을 포함할 수도 있다.

디코딩 디바이스 (112) 의 입력부 (114) 는 인코딩된 비디오 비트스트림 데이터를 수신하고, 비디오 비트스트림 데이터를 디코더 엔진 (116) 에, 또는 디코더 엔진 (116) 에 의한 더 이후의 이용을 위하여 저장장치 (118) 에 제공할 수도 있다. 디코더 엔진 (116) 은 인코딩된 비디오 데이터를 구성하는 하나 이상의 코딩된 비디오 시퀀스들의 엘리먼트들을 (예컨대, 엔트로피 디코더를 이용하여) 엔트로피 디코딩하고 이를 추출함으로써 인코딩된 비디오 비트스트림 데이터를 디코딩할 수도 있다. 다음으로, 디코더 엔진 (116) 은 인코딩된 비디오 비트스트림 데이터에 대한 역변환을 리스케일링 (rescaling) 할 수도 있고 이 역변환을 수행할 수도 있다. 다음으로, 잔차 데이터는 디코더 엔진 (116) 의 예측 스테이지로 전달된다. 다음으로, 디코더 엔진 (116) 은 픽셀들의 블록 (예컨대, PU) 을 예측한다. 일부 예들에서, 예측은 역변환의 출력 (잔차 데이터) 에 추가된다.

디코딩 디바이스 (112) 는 디코딩된 비디오를, 디코딩된 비디오 데이터를 컨텐츠의 소비자에게 디스플레이하기 위한 디스플레이 또는 다른 출력 디바이스를 포함할 수도 있는 비디오 목적지 디바이스 (122) 에 출력할 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (122) 는 디코딩 디바이스 (112) 를 포함하는 수신 디바이스의 일부일 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (122) 는 수신 디바이스 이외의 별도의 디바이스의 일부일 수도 있다.

보충 강화 정보 (Supplemental Enhancement Information; SEI) 메시지들은 비디오 비트스트림들 내에 포함될 수 있다. 예를 들어, SEI 메시지들은 디코딩 디바이스 (112) 에 의해 비트스트림을 디코딩하기 위하여 필수적이지 않은 정보 (예컨대, 메타데이터) 를 반송하기 위하여 이용될 수도 있다. 이 정보는 디코딩된 출력의 디스플레이 또는 프로세싱을 개선시킴에 있어서 유용하다 (예컨대, 이러한 정보는 컨텐츠의 시인성 (viewability) 을 개선시키기 위하여 디코더-측 엔티티들에 의해 이용될 수 있음).

일부 실시형태들에서, 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 각각 오디오 인코딩 디바이스 및 오디오 디코딩 디바이스와 통합될 수도 있다. 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 또한, 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서 (digital signal processor; DSP) 들, 애플리케이션 특정 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능 게이트 어레이 (field programmable gate array; FPGA) 들, 개별 로직, 소프트웨어, 하드웨어, 펌웨어, 또는 그 임의의 조합들과 같은, 위에서 설명된 코딩 기법들을 구현하기 위하여 필요한 다른 하드웨어 또는 소프트웨어를 포함할 수도 있다. 비디오 인코딩 디바이스 (104) 및 비디오 디코딩 디바이스 (112) 는 개개의 디바이스에서 조합된 인코더/디코더 (combined encoder/decoder; codec) 의 일부로서 통합될 수도 있다.

HEVC 표준에 대한 확장들은 MV-HEVC 로서 지칭된 멀티뷰 비디오 코딩 확장과, SHVC 로서 지칭된 스케일러블 비디오 코딩 확장을 포함한다. MV-HEVC 및 SHVC 확장들은 계층화된 코딩의 개념을 공유하고, 상이한 계층들은 인코딩된 비디오 비트스트림 내에 포함된다. 코딩된 비디오 시퀀스에서의 각각의 계층은 고유의 계층 식별자 (ID) 에 의해 어드레싱된다. 계층 ID 는 NAL 유닛이 연관되는 계층을 식별하기 위하여 NAL 유닛의 헤더 내에 존재할 수도 있다. MV-HEVC 에서, 상이한 계층들은 비디오 비트스트림에서 동일한 장면의 상이한 뷰들을 표현할 수 있다. SHVC 에서는, 상이한 공간적 해상도들 (또는 픽처 해상도) 에서, 또는 상이한 복원 충실도들에서 비디오 비트스트림을 표현하는 상이한 스케일러블 계층들이 제공된다. 스케일러블 계층들은 (계층 ID = 0 을 갖는) 기본 계층과, (계층 ID 들 = 1, 2, … n 을 갖는) 하나 이상의 강화 계층들을 포함할 수도 있다. 기본 계층은 HEVC 의 제 1 버전의 프로파일을 준수할 수도 있고, 비트스트림에서 최저 이용가능한 계층을 표현한다. 강화 계층들은 기본 계층에 비해 증가된 공간적 해상도, 시간적 해상도 또는 프레임 레이트, 및/또는 복원 충실도 (또는 품질) 를 가진다. 강화 계층들은 계층적으로 편성되고, 더 낮은 계층들에 종속될 수도 있다 (또는 그러하지 않을 수도 있음). 일부 예들에서, 상이한 계층들은 단일 표준 코덱을 이용하여 코딩될 수도 있다 (예컨대, 모든 계층들은 HEVC, SHVC, 또는 다른 코딩 표준을 이용하여 인코딩됨). 일부 예들에서, 상이한 계층들은 멀티-표준 코덱을 이용하여 코딩될 수도 있다. 예를 들어, 기본 계층은 AVC 를 이용하여 코딩될 수도 있는 반면, 하나 이상의 강화 계층들은 HEVC 표준에 대한 SHVC 및/또는 MV-HEVC 확장들을 이용하여 코딩될 수도 있다. 일반적으로, 계층은 VCL NAL 유닛들의 세트와, 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들에는 특정한 계층 ID 값이 배정된다. 계층들은 계층이 더 낮은 계층에 종속될 수도 있다는 의미에서 계층적일 수 있다.

이전에 설명된 바와 같이, HEVC 비트스트림은 VCL NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는 NAL 유닛들의 그룹을 포함한다. 비-VCL NAL 유닛들은 다른 정보에 추가하여, 인코딩된 비디오 비트스트림에 관련되는 하이-레벨 정보를 갖는 파라미터 세트들을 포함할 수도 있다. 예를 들어, 파라미터 세트는 비디오 파라미터 세트 (video parameter set; VPS), 시퀀스 파라미터 세트 (sequence parameter set; SPS), 및 픽처 파라미터 세트 (picture parameter set; PPS) 를 포함할 수도 있다. 파라미터 세트들의 목표들의 예들은 비트 레이트 효율, 에러 복원력 (error resiliency), 및 시스템 계층 인터페이스들을 제공하는 것을 포함한다. 각각의 슬라이스는, 디코딩 디바이스 (112) 가 슬라이스를 디코딩하기 위하여 이용할 수도 있는 정보를 액세스하기 위하여, 단일의 활성 PPS, SPS, 및 VPS 를 참조한다. VPS ID, SPS ID, 및 PPS ID 를 포함하는 식별자 (identifier; ID) 는 각각의 파라미터 세트에 대하여 코딩될 수도 있다. SPS 는 SPS ID 및 VPS ID 를 포함한다. PPS 는 PPS ID 및 SPS ID 를 포함한다. 각각의 슬라이스 헤더는 PPS ID 를 포함한다. ID 들을 이용하면, 활성 파라미터 세트들은 소정의 슬라이스에 대하여 식별될 수 있다.

VCL NAL 유닛들은 코딩된 비디오 비트스트림을 형성하는 코딩된 픽처 데이터를 포함한다. 다양한 타입들의 VCL NAL 유닛들은 이하의 표 A 에서 예시된 바와 같이, HEVC 표준에서 정의된다. 단일-계층 비트스트림에서는, 제 1 HEVC 표준에서 정의된 바와 같이, AU 내에 포함된 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값을 가지고, NAL 유닛 타입 값은 AU 의 타입 및 AU 내의 코딩된 픽처의 타입을 정의한다. 예를 들어, 특정한 AU 의 VCL NAL 유닛들은 순간적 디코딩 리프레시 (instantaneous decoding refresh; IDR) NAL 유닛들 (값 19) 을 포함할 수도 있어서, AU 를 IDR AU로, 그리고 AU 의 코딩된 픽처를 IDR 픽처로 만들 수도 있다. 소정의 타입의 VCL NAL 유닛은 VCL NAL 유닛 내에 포함된 픽처 또는 그 부분 (예컨대, VCL NAL 유닛에서의 픽처의 슬라이스 또는 슬라이스 세그먼트) 에 관련된다. 선두 픽처들, 후미 픽처들, 및 인트라 랜덤 액세스 (intra random access; IRAP) 픽처들 (또한, "랜덤 액세스 픽처들" 로서 지칭됨) 을 포함하는 픽처들의 3 개의 클래스들은 HEVC 표준에서 정의된다. 멀티-계층 비트스트림에서, AU 내의 픽처의 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값 및 동일한 타입의 코딩된 픽처를 가진다. 예를 들어, 타입 IDR 의 VCL NAL 유닛들을 포함하는 픽처는 AU 에서의 IDR 픽처인 것으로 말해진다. 또 다른 예에서, AU 가 기본 계층 (0 과 동일한 계층 ID) 에서 IRAP 픽처인 픽처를 포함할 때, AU 는 IRAP AU 이다.

위에서 논의된 바와 같이 인코딩된 비디오 비트스트림은 비트스트림을 인코딩 디바이스 (104) 로부터 디코딩 디바이스 (112) 로 전송하기 위하여 하나 이상의 파일들로 기입될 수 있거나 팩킹될 수 있다. 예를 들어, 출력부 (110) 는 비트스트림을 포함하는 하나 이상의 파일들을 생성하도록 구성된 파일 기입 엔진을 포함할 수도 있다. 출력부 (110) 는 하나 이상의 파일들을 통신 링크 (120) 상에서 디코더 디바이스 (112) 로 송신할 수 있다. 대안적으로 또는 추가적으로, 하나 이상의 파일들은 디코딩 디바이스 (112) 로의 더 이후의 송신을 위하여 저장 매체 (예컨대, 테이프, 자기 디스크, 또는 하드 드라이브, 또는 일부 다른 매체) 상에서 저장될 수 있다.

디코더 디바이스 (112) 는 예를 들어, 입력부 (114) 에서, 파일 파싱 엔진을 포함할 수 있다. 파일 파싱 엔진은 통신 링크 (120) 상에서, 또는 저장 매체로부터 수신된 파일들을 판독할 수 있다. 파일 파싱 엔진은 파일로부터 샘플들을 추가로 추출할 수 있고, 디코더 엔진 (116) 에 의한 디코딩을 위하여 비트스트림을 복원할 수 있다. 일부 경우들에는, 복원된 비트스트림이 인코더 엔진 (106) 에 의해 생성된 비트스트림과 동일할 수 있다. 일부 경우들에는, 인코더 엔진 (106) 이 비트스트림을 디코딩하기 위한 몇몇 가능한 옵션들로 비트스트림을 생성하였을 수도 있고, 이 경우, 복원된 비트스트림은 오직 하나 또는 전부보다 더 적은 가능한 옵션들을 포함할 수도 있다.

위에서 논의된 바와 같이 인코딩된 비디오 비트스트림은 ISOBMFF, ISOBMFF 로부터 파생된 파일 포맷, 일부 다른 파일 포맷, 및/또는 ISOBMFF 를 포함하는 파일 포맷들의 조합을 이용하여 하나 이상의 파일들로 기입될 수 있거나 팩킹될 수 있다. 파일 또는 파일들은 비디오 플레이어 디바이스를 이용하여 재생될 수 있고, 송신되고 그 다음으로 디스플레이될 수 있고, 및/또는 저장될 수 있다.

도 2 는 ISOBMFF 에 따라 포맷된, 비디오 제시를 위한 데이터 및 메타데이터를 포함하는 ISO 기반 미디어 파일 (200) 의 예를 예시한다. ISOBMFF 는, 미디어의 교환, 관리, 편집, 및 제시를 용이하게 하는 신축적이고 확장가능한 포맷에서의 타이밍 정해진 미디어 정보를 포함하도록 설계된다. 미디어의 제시는 제시를 포함하는 시스템에 대해 "로컬" 일 수도 있거나, 제시는 네트워크 또는 다른 스트림 전달 메커니즘을 통할 수도 있다.

ISOBMFF 사양에서 정의된 바와 같은 "제시" 는 비디오 캡처 디바이스에 의해 순차적으로 캡처됨으로써 종종 관련된, 또는 일부 다른 이유로 관련된 픽처들의 시퀀스이다. 본원에서, 제시는 또한, 영화 또는 비디오 제시로서 지칭될 수도 있다. 제시는 오디오를 포함할 수도 있다. 단일 제시는 하나 이상의 파일들에서 포함될 수도 있고, 하나의 파일은 전체적인 제시를 위한 메타데이터를 포함할 수도 있다. 메타데이터는 타이밍 및 프레이밍 데이터, 디스크립터 (descriptor) 들, 포인터들, 파라미터들, 및 제시를 설명하는 다른 정보와 같은 정보를 포함한다. 메타데이터는 비디오 및/또는 오디오 데이터 자체를 포함하지 않는다. 메타데이터를 포함하는 파일 이외의 파일들은 ISOBMFF 에 따라 포맷될 필요가 없고, 이 파일들이 메타데이터에 의해 참조될 수 있도록 오직 포맷될 필요가 있다.

ISO 기반 미디어 파일의 파일 구조는 객체-지향적이고, 파일에서의 개별적인 객체의 구조는 객체의 타입으로부터 직접적으로 추론될 수 있다. ISO 기반 미디어 파일에서의 객체들은 ISOBMFF 사양에 의해 "박스들" 로서 지칭된다. ISO 기반 미디어 파일은 다른 박스들을 포함할 수 있는 박스들의 시퀀스로서 구조화된다. 박스들은 일반적으로, 박스에 대한 크기 및 타입을 제공하는 헤더를 포함한다. 크기는 박스 내에 포함된 헤더, 필드들, 및 모든 박스들을 포함하는, 박스의 전체 크기를 설명한다. 플레이어 디바이스에 의해 인식되지 않는 타입을 갖는 박스들은 전형적으로 무시되고 스킵된다.

도 2 의 예에 의해 예시된 바와 같이, 파일의 상부 레벨에서, ISO 기반 미디어 파일 (200) 은 파일 타입 박스 (210), 영화 박스 (220), 및 하나 이상의 영화 프래그먼트 (movie fragment) 박스들 (230a, 230n) 을 포함할 수 있다. 이 레벨에서 포함될 수 있지만, 이 예에서 표현되지 않는 다른 박스들은 그 중에서도, 자유 공간 박스들, 메타데이터 박스들, 및 미디어 데이터 박스들을 포함한다.

ISO 기반 미디어 파일은 박스 타입 "ftyp" 에 의해 식별된 파일 타입 박스 (210) 를 포함할 수 있다. 파일 타입 박스 (210) 는 파일을 파싱하기 위하여 가장 적당한 ISOBMFF 사양을 식별한다. 이 사례에서의 "가장" 은, ISO 기반 미디어 파일 (200) 이 특정한 ISOBMFF 사양에 따라 포맷되었을 수도 있지만, 사양의 다른 반복들과 호환가능할 가능성이 있다는 것을 의미한다. 이 가장 적당한 사양은 메이저 브랜드 (major brand) 로서 지칭된다. 플레이어 디바이스는 디바이스가 파일의 컨텐츠들을 디코딩할 수 있고 디스플레이할 수 있는지 여부를 결정하기 위하여 메이저 브랜드를 이용할 수 있다. 파일 타입 박스 (210) 는 또한, ISOBMFF 사양의 버전 (version) 을 표시하기 위하여 이용될 수 있는 버전 번호를 포함할 수 있다. 파일 타입 박스 (210) 는 또한, 파일이 호환가능한 다른 브랜드들의 리스트를 포함하는 호환가능한 브랜드들의 리스트를 포함할 수 있다. ISO 기반 미디어 파일은 하나를 초과하는 메이저 브랜드와 호환가능할 수 있다.

ISO 기반 미디어 파일 (200) 이 파일 타입 박스 (210) 를 포함할 때, 오직 하나의 파일 타입 박스가 있다. ISO 기반 미디어 파일 (200) 은 더 오래된 플레이어 디바이스들과 호환가능하기 위하여 파일 타입 박스 (210) 를 생략할 수도 있다. ISO 기반 미디어 파일 (200) 이 파일 타입 박스 (210) 를 포함하지 않을 때, 플레이어 디바이스는 디폴트 메이저 브랜드 (예컨대, "mp41"), 마이너 버전 (예컨대, "0"), 및 호환가능한 브랜드 (예컨대, "mp41") 를 가정할 수 있다. 파일 타입 박스 (210) 는 전형적으로, ISO 기반 미디어 파일 (200) 에서 가능한 한 조기에 배치된다.

ISO 기반 미디어 파일은 제시를 위한 메타데이터를 포함하는 영화 박스 (220) 를 더 포함할 수 있다. 영화 박스 (220) 는 박스 타입 "moov" 에 의해 식별된다. ISO/IEC 14496-12 는 제시가 하나의 파일 또는 다수의 파일들에서 포함되든지 간에, 오직 하나의 영화 박스 (220) 를 포함할 수 있다는 것을 규정한다. 흔히, 영화 박스 (220) 는 ISO 기반 미디어 파일의 시작부 근처에 있다. 영화 박스 (220) 는 영화 헤더 박스 (222) 를 포함하고, 하나 이상의 트랙 박스들 (224) 뿐만 아니라 다른 박스들을 포함할 수 있다.

박스 타입 "mvhd" 에 의해 식별된 영화 헤더 박스 (222) 는 미디어-독립적이며 전체적으로 제시에 관련되는 정보를 포함할 수 있다. 예를 들어, 영화 헤더 박스 (222) 는 그 중에서도, 생성 시간, 수정 시간, 타임스케일, 및/또는 제시를 위한 기간과 같은 정보를 포함할 수 있다. 영화 헤더 박스 (222) 는 또한, 제시에서의 다음 트랙을 식별하는 식별자를 포함할 수 있다. 예를 들어, 식별자는 예시된 예에서 영화 박스 (220) 에 의해 포함된 트랙 박스 (224) 를 지시할 수 있다.

박스 타입 "trak" 에 의해 식별된 트랙 박스 (224) 는 제시를 위한 트랙에 대한 정보를 포함할 수 있다. 제시는 하나 이상의 트랙들을 포함할 수 있고, 여기서, 각각의 트랙은 제시에서의 다른 트랙들에 독립적이다. 각각의 트랙은 트랙에서의 컨텐츠에 특정적인 시간적 및 공간적 정보를 포함할 수 있고, 각각의 트랙은 미디어 박스와 연관될 수 있다. 트랙에서의 데이터는 미디어 데이터일 수 있고, 이 경우, 트랙은 미디어 트랙이거나, 데이터는 스트리밍 프로토콜들에 대한 패킷화 정보일 수 있고, 이 경우, 트랙은 힌트 트랙 (hint track) 이다. 미디어 데이터는 예를 들어, 비디오 및 오디오 데이터를 포함한다. 예시된 예에서, 일 예의 트랙 박스 (224) 는 트랙 헤더 박스 (224a) 및 미디어 박스 (224b) 를 포함한다. 트랙 박스는 트랙 참조 박스, 트랙 그룹 박스, 편집 박스, 사용자 데이터 박스, 메타 박스, 및 그 이외의 것들과 같은 다른 박스들을 포함할 수 있다.

박스 타입 "tkhd" 에 의해 식별된 트랙 헤더 박스 (224a) 는 트랙 박스 (224) 에서 포함된 트랙의 특성들을 특정할 수 있다. 예를 들어, 트랙 헤더 박스 (224a) 는 그 중에서도, 생성 시간, 수정 시간, 기간, 트랙 식별자, 계층 식별자, 그룹 식별자, 트랙의 용량, 폭, 및/또는 높이를 포함할 수 있다. 미디어 트랙에 대하여, 트랙 헤더 박스 (224a) 는 그 중에서도, 트랙이 인에이블되는지 여부, 트랙이 제시의 일부로서 플레이되어야 하는지 여부, 또는 트랙이 제시를 프리뷰 (preview) 하기 위하여 이용될 수 있는지 여부를 추가로 식별할 수 있다. 트랙의 제시는 일반적으로 제시의 시작부에 있는 것으로 가정된다. 트랙 박스 (224) 는 명시적인 타임라인 맵 (timeline map) 을 포함할 수 있는, 여기에서 예시되지 않은 편집 리스트 박스를 포함할 수 있다. 타임라인 맵은 그 중에서도, 트랙에 대하여, 제시의 시작부 후에, 오프셋이 시작 시간을 표시하는, 트랙에 대한 오프셋 시간을 특정할 수 있다.

예시된 예에서, 트랙 박스 (224) 는 또한, 박스 타입 "mdia" 에 의해 식별된 미디어 박스 (224b) 를 포함한다. 미디어 박스 (224b) 는 트랙에서의 미디어 데이터에 대한 객체들 및 정보를 포함할 수 있다. 예를 들어, 미디어 박스 (224b) 는 트랙의 미디어 타입 및 트랙에서의 미디어가 제시되는 프로세스를 식별할 수 있는 핸들러 참조 박스를 포함할 수 있다. 또 다른 예로서, 미디어 박스 (224b) 는 트랙에서의 미디어의 특성들을 특정할 수 있는 미디어 정보 박스를 포함할 수 있다. 미디어 정보 박스는 샘플들의 표를 더 포함할 수 있고, 여기서, 각각의 샘플은 예를 들어, 샘플에 대한 데이터의 로케이션을 포함하는 미디어 데이터 (예컨대, 비디오 또는 오디오 데이터) 의 청크 (chunk) 를 설명한다. 샘플에 대한 데이터는 이하에서 추가로 논의된 미디어 데이터 박스에서 저장된다. 대부분의 다른 박스들에서와 같이, 미디어 박스 (224b) 는 또한, 미디어 헤더 박스를 포함할 수 있다.

예시된 예에서, 일 예의 ISO 기반 미디어 파일 (200) 은 또한, 제시의 다수의 프래그먼트들 (230a, 230b, 230c, 230n) 을 포함한다. 프래그먼트들 (230a, 230b, 203c, 230n) 은 ISOBMFF 박스들이 아니지만, 오히려, 영화 프래그먼트 박스 (232), 및 영화 프래그먼트 박스 (232) 에 의해 참조되는 미디어 데이터 박스 (238) 를 설명한다. 영화 프래그먼트 박스 (232) 및 미디어 데이터 박스들 (238) 은 상부-레벨 박스들이지만, 영화 프래그먼트 박스 (232) 와 미디어 데이터 박스 (238) 사이의 관계를 표시하기 위하여 여기에서 그룹화된다.

박스 타입 "moof" 에 의해 식별된 영화 프래그먼트 박스 (232) 는 그렇지 않을 경우에 영화 박스 (220) 에서 저장될 추가적인 정보를 포함함으로써 제시를 확장시킬 수 있다. 영화 프래그먼트 박스들 (232) 을 이용하면, 제시는 증분식으로 구축될 수 있다. 영화 프래그먼트 박스 (232) 는 영화 프래그먼트 헤더 박스 (234) 및 트랙 프래그먼트 박스 (236) 뿐만 아니라, 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다.

박스 타입 "mfhd" 에 의해 식별된 영화 프래그먼트 헤더 박스 (234) 는 시퀀스 번호를 포함할 수 있다. 플레이어 디바이스는 프래그먼트 (230a) 가 제시를 위한 데이터의 다음 피스 (piece) 를 포함한다는 것을 검증하기 위하여 시퀀스 번호를 이용할 수 있다. 일부 경우들에는, 제시를 위한 파일 또는 파일들의 컨텐츠들이 플레이어 디바이스로 순서에 관계 없이 제공될 수 있다. 예를 들어, 네트워크 패킷들은 패킷들이 원래 송신되었던 순서 이외의 순서로 빈번하게 도달할 수 있다. 이 경우들에는, 시퀀스 번호는 프래그먼트들에 대한 올바른 순서를 결정할 시에 플레이어 디바이스를 보조할 수 있다.

영화 프래그먼트 박스 (232) 는 또한, 박스 타입 "traf" 에 의해 식별된 하나 이상의 트랙 프래그먼트 박스들 (236) 을 포함할 수 있다. 영화 프래그먼트 박스 (232) 는 트랙 당 제로 이상인 트랙 세그먼트들의 세트를 포함할 수 있다. 트랙 프래그먼트들은 제로 이상의 트랙 런 (track run) 들을 포함할 수 있고, 그 각각은 트랙에 대한 샘플들의 인접 런을 설명한다. 트랙 프래그먼트들은 샘플들을 트랙에 추가하는 것에 더하여, 빈 시간 (empty time) 을 트랙에 추가하기 위하여 이용될 수 있다.

박스 타입 "mdat" 에 의해 식별된 미디어 데이터 박스 (238) 는 미디어 데이터를 포함한다. 비디오 트랙들에서, 미디어 데이터 박스 (238) 는 비디오 프레임들을 포함할 것이다. 미디어 데이터 박스는 대안적으로 또는 추가적으로, 오디오 데이터를 포함할 수 있다. 제시는 하나 이상의 개별적인 파일들에서 포함된 제로 이상의 미디어 데이터 박스들을 포함할 수 있다. 미디어 데이터는 메타데이터에 의해 설명된다. 예시된 예에서, 미디어 데이터 박스 (238) 에서의 미디어 데이터는 트랙 프래그먼트 박스 (236) 에서 포함된 메타데이터에 의해 설명될 수 있다. 다른 예들에서, 미디어 데이터 박스에서의 미디어 데이터는 영화 박스 (220) 에서의 메타데이터에 의해 설명될 수 있다. 메타데이터는 파일 (200) 내의 절대적인 오프셋에 의해 특정한 미디어 데이터를 참조할 수 있어서, 미디어 데이터 박스 (238) 내의 미디어 데이터 헤더 및/또는 자유 공간은 스킵될 수 있다.

ISO 기반 미디어 파일 (200) 에서의 다른 프래그먼트들 (230b, 230c, 230n) 은 제 1 프래그먼트 (230a) 에 대하여 예시된 것들과 유사한 박스들을 포함할 수 있고, 및/또는 다른 박스들을 포함할 수 있다.

ISOBMFF 는 미디어의 로컬 재생을 지원하는 것에 추가하여, 네트워크 상에서 미디어 데이터를 스트리밍하기 위한 지원을 포함한다. 하나의 영화 제시를 포함하는 파일 또는 파일들은, 파일 또는 파일들을 패킷들로서 형성하고 송신할 시에 스트리밍 서버를 보조할 수 있는 명령들을 포함하는, 힌트 트랙들로서 칭해진 추가적인 트랙들을 포함할 수 있다. 이 명령들은 예를 들어, 서버가 전송하기 위한 데이터 (예컨대, 헤더 정보), 또는 미디어 데이터의 세그먼트들에 대한 참조들을 포함할 수 있다. 파일은 상이한 스트리밍 프로토콜들에 대한 별도의 힌트 트랙들을 포함할 수 있다. 힌트 트랙들은 또한, 파일을 재포맷할 필요 없이 파일에 추가될 수 있다.

미디어 데이터를 스트리밍하기 위한 하나의 방법은 동적 적응 스트르밍 오버 하이퍼텍스트 전송 프로토콜 (HTTP) 또는 DASH (ISO/IEC 23009-1:2014 에서 정의됨) 이다. MPEG-DASH 로서 또한 알려지는 DASH 는 기존의 HTTP 웹 서버들을 이용하여 미디어 컨텐츠의 고품질 스트리밍을 가능하게 하는 적응적 비트레이트 스트리밍 기법이다. DASH 는 미디어 컨텐츠를 작은 HTTP-기반 파일 세그먼트들의 시퀀스로 분리시킴으로써 동작하고, 여기서, 각각의 세그먼트는 컨텐츠의 짧은 시간 간격을 포함한다. DASH 를 이용하면, 서버는 상이한 비트 레이트들에서 미디어 컨텐츠를 제공할 수 있다. 미디어를 플레이하고 있는 클라이언트 디바이스는 다음 세그먼트를 다운로딩할 때에 대안적인 비트 레이트들을 중에서 선택할 수 있고, 이에 따라, 변경되는 네트워크 조건들에 적응할 수 있다. DASH 는 월드 와이드 웹 (World Wide Web) 상에서 컨텐츠를 전달하기 위하여 인터넷의 HTTP 웹 서버 기반구조를 이용한다. DASH 는 미디어 컨텐츠를 인코딩하고 디코딩하기 위하여 이용된 코덱에 독립적이고, 이에 따라, 그 중에서도, H.264 및 HEVC 와 같은 코덱들로 동작한다.

ISOBMFF 사양은 DASH 와의 이용을 위하여 6 개의 타입들의 스트림 액세스 포인트 (Stream Access Point; SAP) 들을 특정한다. 최초의 2 개의 SAP 타입들 (타입들 1 및 2) 은 H.264/AVC 및 HEVC 에서의 순간적 디코딩 리프레시 (IDR) 픽처들에 대응한다. 예를 들어, IDR 픽처는 디코더에서 디코딩 프로세스를 완전하게 리프레시하거나 재초기화하고 새로운 코딩된 비디오 시퀀스를 시작하는 인트라-픽처 (I-픽처) 이다. 일부 예들에서, IDR 픽처 및 디코딩 순서에서 IDR 픽처를 후행하는 임의의 픽처는 디코딩 순서에서 IDR 픽처 전에 나오는 임의의 픽처에 종속적이지 않을 수 있다.

제 3 SAP 타입 (타입 3) 은 개방-GOP (Group of Pictures; 픽처들의 그룹) 랜덤 액세스 포인트들, 이 때문에, HEVC 에서의 파손된 링크 액세스 (broken link access; BLA) 또는 클린 랜덤 액세스 (clean random access; CRA) 픽처들에 대응한다. 예를 들어, CRA 픽처는 또한 I-픽처이다. CRA 픽처는 디코더를 리프레시하지 않을 수도 있고 새로운 CVS 를 시작하지 않을 수도 있어서, CRA 픽처의 선두 픽처들이 디코딩 순서에서 CRA 픽처 전에 나오는 픽처들에 종속되는 것을 허용할 수도 있다. 랜덤 액세스는 CRA 픽처, 디코딩 순서에서 CRA 픽처 전에 나오는 임의의 픽처에 종속적이지 않은 CRA 픽처와 연관된 선두 픽처들, 및 디코딩 및 출력 순서의 양자에서 CRA 를 후행하는 모든 연관된 픽처들을 디코딩함으로써 CRA 픽처에서 행해질 수도 있다. 일부 경우들에는, CRA 픽처가 연관된 선두 픽처들을 가지지 않을 수도 있다. 일부 실시형태들에서, 멀티-계층의 경우, 0 보다 더 큰 계층 ID 를 갖는 계층에 속하는 IDR 또는 CRA 픽처는 P-픽처 또는 B-픽처일 수도 있지만, 이 픽처들은, IDR 또는 CRA 픽처와 동일한 액세스 유닛에 속하고 IDR 또는 CRA 픽처를 포함하는 계층보다 더 작은 계층 ID 를 가지는 다른 픽처들로부터의 인터-계층 예측을 오직 이용할 수 있다.

제 4 SAP 타입 (타입 4) 은 점진적 디코딩 리프레시 (gradual decoding refresh; GDR) 랜덤 액세스 포인트들에 대응한다.

ISOBMFF 는, 신축적이고 확장가능하며, 다양한 타입들의 미디어를 저장하고 송신하기 위하여 폭넓게 이용되지만, 가상 현실 비디오를 저장하기 위한, 또는 ISO 기반 미디어 파일의 컨텐츠들을 가상 현실 컨텐츠를 포함하는 것으로서 식별하기 위한 메커니즘들을 포함하지 않는다. 이에 따라, 플레이어 디바이스들은 파일의 컨텐츠들이 가상 현실 비디오를 포함하는 것으로 결정할 수 없을 수도 있다. 가상 현실 컨텐츠를 디스플레이할 수 없는 플레이어 디바이스들은 컨텐츠를 여하튼 디스플레이하는 것을 시도할 수도 있어서, 왜곡된 제시로 귀착될 수도 있다.

다양한 구현예들에서, ISOBMFF 및/또는 ISOBMFF 로부터 파생된 파일 포맷들은 가상 현실 컨텐츠가 식별될 수 있도록 수정될 수 있고 및/또는 확장될 수 있다. 이 구현예들은 박스들, 브랜드 값들, 박스에서의 예약된 비트들, 및/또는 각각 독립적으로 또는 조합하여 가상 현실 컨텐츠를 식별할 수 있는 다른 표시자들을 수반할 수 있다.

도 3a 및 도 3b 는 ISO 기반 미디어 파일 (300) 에서의 상부-레벨 박스가 파일 (300) 이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용되는 예들을 예시한다. 다양한 구현예들에서, 상부-레벨 박스를 이용하는 것은 파일 (300) 에서의 컨텐츠의 전부가 가상 현실 컨텐츠인 것을 표시한다. 파일 (300) 은 파일 (300) 이 호환가능한 브랜드 (들) 또는 ISOBMFF 의 특정한 반복들 또는 ISOBMFF 의 파생물들을 특정할 수 있는 파일 타입 박스 (310) 를 포함할 수 있다. 파일 (300) 또한, 제시를 위한 메타데이터를 포함할 수 있는 영화 박스 (320) 를 포함할 수 있다. 파일 (300) 은 임의적으로 또한, 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (330a, 330b, 330c, 330n) 을 포함할 수 있다.

도 3a 의 예에서, 파일 타입 박스 (310) 는 파일 (300) 이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용될 수 있다. 파일 타입 박스 (310) 는 예를 들어, 파일이 가상 현실 브랜드와 호환가능하다는 것을 표시하는 브랜드 값을 특정하기 위하여 이용될 수 있다. 다양한 구현예들에서, 파일 타입 박스 (310) 에서 열거된 호환가능한 브랜드들은 또한, 가상-현실 관련된 파라미터들을 제공하기 위하여 이용될 수 있는 임의적인 브랜드 표시자들을 제공하기 위하여 이용될 수 있다. 예를 들어, 하나의 호환가능한 브랜드 값은 가상 현실 컨텐츠가 2-차원 (2-D) 인 것을 표시할 수 있는 반면, 또 다른 호환가능한 브랜드 값은 가상 현실 컨텐츠가 3-차원 (3-D) 인 것을 표시할 수 있다. 또 다른 예로서, 호환가능한 브랜드 값들은 맵핑 타입; 즉, 가상 현실 비디오의 구현 표현이 파일 (300) 에서의 저장을 위한 등직사각형 (equirectangular), 정육면체, 또는 피라미드 포맷, 또는 일부 다른 포맷으로 맵핑되었는지 여부를 표시하기 위하여 이용될 수 있다. 다양한 구현예들에서, 비디오의 차원성 (dimensionality) 및/또는 맵핑과 같은 정보는 대안적으로 또는 추가적으로, 파일 타입 박스 (310) 에서의 임의적인 필드들을 이용하여 표시될 수 있다.

도 3b 의 예에서는, 새로운 박스 타입 (360) 이 정의되었다. 새로운 박스 타입 (360) 은 파일 타입 박스 (310) 와 유사한 상부 레벨 박스이다. 파일에서의 새로운 박스 타입 (360) 의 존재, 및/또는 새로운 박스 타입 (360) 에서의 표시자들은 파일 (300) 이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용될 수 있다. 예를 들어, 새로운 박스 타입 (360) 은 가상 현실-호환가능한 브랜드 값을 특정할 수 있고, 및/또는 호환가능한 브랜드들 리스트에서의 가상 현실 컨텐츠와 호환가능한 브랜드 값을 포함할 수 있다. 새로운 박스 타입 (360) 은 예를 들어, 가상 현실 컨텐츠가 2-D 또는 3-D 인지 여부 및/또는 파일 (300) 에서의 가상 현실 데이터에 대한 맵핑을 표시할 수 있는 임의적인 파라미터들을 더 포함할 수 있다. 새로운 박스 타입 (360) 을 특정하는 것은 도 3a 의 예에서와 같이, 파일 타입 박스 (310) 를 수정하기 위한 필요성을 회피할 수 있다. 새로운 박스 타입 (360) 을 인식할 수 없는 플레이어 디바이스들은 그것을 무시할 수도 있다.

파일의 상부 레벨에 대하여 정의된 파일 타입 박스 (310) 또는 새로운 박스 타입 (360) 이 파일 (300) 이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용될 때, 일부 구현예들에서, 파일 (300) 은 또한, 가상 현실 컨텐츠의 존재를 시그널링하기 위하여 파일 (300) 에서의 다른 박스들에서 표시자들을 포함할 필요가 없을 수도 있다.

도 4 는 영화-레벨 표시가 파일 (400) 이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 ISO 기반 미디어 파일 (400) 에서 이용되는 예를 예시한다. 파일 (400) 은 파일 (400) 이 호환가능한 브랜드 (들) 또는 ISOBMFF 의 특정한 반복들 또는 ISOBMFF 의 파생물들을 특정할 수 있는 파일 타입 박스 (410) 를 포함할 수 있다. 파일 (400) 또한, 제시를 위한 메타데이터를 포함할 수 있는 영화 박스 (420) 를 포함할 수 있다. 파일 (400) 은 임의적으로 또한, 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (430a, 430b, 430c, 430n) 을 포함할 수 있다.

위에서 논의된 바와 같이, 영화 박스 (420) 는 영화 헤더 박스 (422) 및 임의적으로, 하나 이상의 트랙 박스들 (424) 을 포함할 수 있다. 도 4 의 예에서, 영화 헤더 박스 (422) 는 영화 박스 (420) 에 의해 설명된 영화 또는 제시가 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용된다. 예를 들어, 영화 헤더 박스 (422) 에서의 예약된 비트는, 하나의 값으로 설정될 때, 영화 컨텐츠가 가상 현실 비디오인 것을 표시할 수 있고, 영화가 가상 현실 비디오일 수도 있거나 가상 현실 비디오가 아닐 수도 있을 때에 또 다른 값으로 설정될 수 있다. 하나의 예시적인 예에서, 예약된 비트들 중의 하나가 표시를 전달하기 위하여 이용될 경우, 1 과 동일한 비트는 컨텐츠가 가상 현실 비디오 컨텐츠인 것을 표시하고, 0 과 동일한 비트는 컨텐츠가 가상 현실 비디오 컨텐츠일 수도 있거나 가상 현실 비디오 컨텐츠가 아닐 수도 있다는 것을 표시한다. 예약된 비트들을 프로세싱하도록 구성되지 않은 플레이어 디바이스들은 이 비트들을 무시할 수도 있다.

영화 헤더 박스 (422) 에서의 다른 필드들 및/또는 예약된 비트들은 가상 현실 컨텐츠에 속하는 임의적인 파라미터들을 제공하기 위하여 이용될 수 있다. 예를 들어, 영화 헤더 박스 (422) 는 가상 현실 컨텐츠가 2-D 또는 3D 인지 여부를 표시하는 파라미터를 포함할 수 있다.

또 다른 예로서, 영화 헤더 박스 (422) 는 가상 현실 컨텐츠가 프리-스티칭 또는 포스트-스티칭되는지 여부를 표시하는 파라미터를 포함할 수 있다. "프리-스티칭된" 은 가상 현실 제시를 위하여 캡처된 상이한 뷰들이 파일 (400) 에서 저장되기 전에 단일 표현으로 조립되었다는 것을 의미한다. "포스트-스티칭된" 은 상이한 뷰들이 파일 (400) 에서 개별적으로 저장되었고 디코더 디바이스에 의해 단일 표현으로 조립될 것이라는 것을 의미한다.

프리-스티칭된 가상 현실 비디오는 전형적으로, 형상에 있어서 구현으로서 표현되고, 저장을 위하여 더 편리한 또 다른 형상으로 맵핑된다 (예컨대, 등직사각형, 정육면체 맵핑, 피라미드 맵핑, 또는 일부 다른 형상). 이용된 맵핑 타입을 표시하는 파라미터들은 예를 들어, 예약된 비트들을 이용하여 영화 헤더 박스 (422) 에서 시그널링될 수 있는 파라미터들의 또 다른 예이다. 예를 들어, 하나의 예약된 비트는 각각의 맵핑 타입 표시를 전달하기 위하여 이용될 수 있다. 다양한 구현예들에서, 플레이어 디바이스는 다수의 맵핑 타입들을 지원할 수 있다. 이 구현예들에서, 영화 헤더 박스 (422) 는 각각의 개별적인 트랙 및/또는 트랙들의 그룹들에 대한 맵핑 타입을 포함할 수 있다.

영화 헤더 박스 (422) 가 영화 박스 (420) 에서 저장된 영화 제시가 가상 현실 비디오를 포함한다는 것을 표시하기 위하여 이용될 때, 다양한 구현예들에서, 영화 박스 (420) 에서의 다른 박스들은 또한, 가상 현실 비디오의 존재를 시그널링할 필요가 없을 수도 있다.

도 5 는 트랙 레벨 표시자가 파일 (500) 이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 ISO 기반 미디어 파일 (500) 에서 이용되는 예를 예시한다. 파일 (500) 은 파일 (500) 이 호환가능한 브랜드 (들) 또는 ISOBMFF 의 특정한 반복들 또는 ISOBMFF 의 파생물들을 특정할 수 있는 파일 타입 박스 (510) 를 포함할 수 있다. 파일 (500) 또한, 제시를 위한 메타데이터를 포함할 수 있는 영화 박스 (520) 를 포함할 수 있다. 파일 (500) 은 임의적으로 또한, 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (530a, 530b, 530c, 530n) 을 포함할 수 있다.

영화 박스 (520) 는 영화 헤더 박스 (522) 및 하나 이상의 트랙 박스들 (524) 뿐만 아니라 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다. 영화 헤더 박스 (522) 는 전체적으로 제시를 설명하는 정보를 포함할 수 있다. 트랙 박스 (524) 는 제시에서의 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (524) 는 트랙 헤더 박스 (524a) 및 제로 이상의 미디어 데이터 박스들 (524b) 을 포함할 수 있다.

도 5 의 예에서, 특정한 트랙 박스 (524) 에 대한 트랙 헤더 박스 (524a) 는 트랙 박스 (524) 에 의해 설명된 트랙이 가상 현실 트랙인 것을 표시하기 위하여 이용되어, 트랙에 의해 참조된 샘플들이 가상 현실 비디오 데이터를 포함한다는 것을 의미한다. 트랙에서의 가상 현실 컨텐츠는 예를 들어, 트랙 헤더 박스 (524a) 에서의 예약된 비트들을 이용하여 표시될 수 있다. 예를 들어, 특정한 예약된 비트가 하나의 값으로 설정될 때, 트랙은 가상 현실 컨텐츠를 포함하고, 비트가 또 다른 값으로 설정될 때, 트랙은 가상 현실 컨텐츠를 포함할 수도 있거나 포함하지 않을 수도 있다. 하나의 예시적인 예에서, 예약된 비트들 중의 하나가 표시를 전달하기 위하여 이용될 경우, 1 과 동일한 비트는 컨텐츠가 가상 현실 비디오 컨텐츠인 것을 표시하고, 0 과 동일한 비트는 컨텐츠가 가상 현실 비디오 컨텐츠일 수도 있거나 가상 현실 비디오 컨텐츠가 아닐 수도 있다는 것을 표시한다. 일부 구현예들에서, 트랙 헤더 박스 (524) 에서의 가상 현실 컨텐츠의 시그널링은 영화 헤더 박스 (522) 에서 시그널링되는 것에 종속될 수도 있다. 예를 들어, 영화 헤더 박스 (622) 가 영화가 가상 현실 데이터를 포함하지 않는다는 것을 표시할 때, 트랙이 가상 현실 데이터를 포함한다는 트랙 헤더 박스 (524a) 에서의 임의의 표시는 무시될 수 있다.

다양한 구현예들에서, 다른 가상 현실-관련된 파라미터들은 또한, 트랙 헤더 박스 (524a) 에서 시그널링될 수 있다. 예를 들어, 예약된 비트 또는 일부 다른 변수는 트랙에서의 가상 현실 비디오가 프리-스티칭 또는 포스트-스티칭되는지 여부를 표시하기 위하여 이용될 수 있다. 트랙에서의 비디오가 프리-스티칭될 때, 추가적인 파라미터들은 (예컨대, 시점 (point of view) 및/또는 시인 각도 (viewing angle) 에 대한) 카메라 위치와 같은 정보를 제공할 수 있다. 트랙에서의 비디오가 포스트-스티칭될 때, 추가적인 파라미터들은 구형 비디오 표현과 파일 (500) 에서의 데이터를 저장하기 위하여 이용된 표현 (예컨대, 등직사각형, 정육면체 맵, 피라미드 맵, 또는 일부 다른 형상) 사이의 맵핑 타입을 제공할 수 있다.

트랙 박스 (524) 에 대한 트랙 헤더 박스 (524a) 가 트랙이 가상 현실 컨텐츠를 포함한다는 것을 시그널링하기 위하여 이용될 때, 일부 구현예들에서, 트랙 박스 (524) 에서의 다른 박스들은 또한, 트랙에서의 가상 현실 컨텐츠의 존재를 시그널링할 필요가 없을 수도 있다.

다양한 구현예들에서, 위에서 논의된 것들과 유사한 기법들은 DASH 를 이용하여 송신된 파일에서의 가상 현실 컨텐츠를 표시하기 위하여 이용될 수 있다. 예를 들어, 가상 현실 컨텐츠는 DASH 제시의 미디어 제시 레벨에서 시그널링될 수 있다. DASH 사양에 의해 정의된 바와 같은 미디어 제시는 경계가 정해진 또는 경계가 정해지지 않은 미디어 제시 (예컨대, 다른 예들 중에서, 단일 모션 픽처 또는 연속적인 라이브 스트림) 를 위한 데이터의 집합이다. 미디어 제시는 미디어 제시 설명에 의해 설명될 수 있고, 문서는 미디어 제시의 세그먼트들을 액세스하기 위한 적절한 HTTP 균일 리소스 로케이터 (uniform resource locator; URL) 들을 구축하기 위하여 DASH 클라이언트에 의해 이용될 수 있는 메타데이터를 포함한다.

다양한 구현예들에서, 미디어 제시 설명은 미디어 제시 설명에 의해 설명된 미디어 컨텐츠가 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용될 수 있다. 예를 들어, 엘리먼트는 수정될 수 있거나 미디어 제시 설명에 대한 스키마 (schema) 에 추가될 수 있고, 여기서, 그 다음으로, 엘리먼트는 가상 현실 컨텐츠를 시그널링한다. 다양한 구현예들에서, 컨텐츠가 2-D 또는 3-D 인지 여부, 컨텐츠가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 컨텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 맵핑과 같은, 가상 현실 컨텐츠에 대한 정보를 제공하기 위하여, 속성들은 또한 수정될 수 있거나, 미디어 제시 설명에 추가될 수 있다. 일부 구현예들에서, 미디어 제시 설명에서의 가상 현실 표시자는 제시에서의 컨텐츠의 저눕가 가상 현실을 위하여 포맷된다는 것을 표시한다.

DASH 제시에서는, 하나의 제시에 대한 미디어 컨텐츠가 주기들로 분할된다. DASH 에 의해 정의된 바와 같은 주기는 미디어 제시 내에서의 시간의 간격이다. 이에 따라, 제시는 주기들의 인접 시퀀스로 구성된다. 주기 내에서, 미디어 컨텐츠는 전형적으로, 하나의 평균 비트레이트, 하나의 언어, 하나의 캡션 설정 (caption setting), 하나의 서브타이틀 설정 (subtitle setting) 등을 포함하는 인코딩들의 일관된 세트를 가진다.

다양한 구현예들에서, 주기의 엘리먼트들 및/또는 속성들은 가상 현실 컨텐츠를 표시하기 위하여 이용될 수 있다. 예를 들어, 엘리먼트는 수정될 수 있거나 주기에 대한 스키마에 추가될 수 있고, 여기서, 그 다음으로, 엘리먼트는 가상 현실 컨텐츠를 시그널링한다. 다양한 구현예들에서, 컨텐츠가 2-D 또는 3-D 인지 여부, 컨텐츠가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 컨텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 맵핑과 같은, 가상 현실 컨텐츠에 대한 정보를 제공하기 위하여, 속성들은 또한 수정될 수 있거나 주기에 추가될 수 있다. 일부 구현예들에서, 주기에서의 가상 현실 표시자는 주기에서의 컨텐츠가 가상 현실을 위하여 포맷된다는 것을 표시한다.

주기 내에서, 컨텐츠는 적응 세트들로 배열될 수 있다. 적응 세트는 하나 이상의 미디어 컨텐츠 컴포넌트들의 상호 교환가능한 인코딩된 버전들의 세트를 표현한다. 예를 들어, 주기는 주요 비디오 컴포넌트에 대한 하나의 적응 세트 및 주요 오디오 컴포넌트에 대한 별도의 적응 세트를 포함할 수도 있다. 이 예에서, 캡션들 또는 오디오 설명들과 같은, 이용가능한 다른 컨텐츠가 있을 경우, 이것들의 각각은 별도의 적응 세트를 가질 수도 있다.

다양한 구현예들에서, 가상 현실 컨텐츠는 적응 세트에서 시그널링될 수 있다. 예를 들어, 엘리먼트는 수정될 수 있거나 적응 세트에 대한 스키마에 추가될 수 있고, 여기서, 그 다음으로, 엘리먼트는 가상 현실 컨텐츠를 시그널링한다. 다양한 구현예들에서, 컨텐츠가 2-D 또는 3-D 인지 여부, 컨텐츠가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 컨텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 맵핑과 같은, 가상 현실 컨텐츠에 대한 정보를 제공하기 위하여, 속성들은 또한 수정될 수 있거나 적응 세트에 추가될 수 있다. 일부 구현예들에서, 적응 세트에서의 가상 현실 표시자는 적응 세트에서의 표현들의 각각이 가상 현실 컨텐츠를 포함한다는 것을 표시한다.

적응 세트는 다수의 대안적인 표현들을 포함할 수 있다. 표현은 하나 또는 몇몇 미디어 컨텐츠 컴포넌트들의 전달가능한 인코딩된 버전을 설명한다. 적응 세트 내에서의 임의의 단일 표현은 주기에서의 미디어 컨텐츠 컴포넌트들을 렌더링하기 위하여 이용될 수 있다. 전송된 하나의 적응에서의 상이한 표현들은 지각적으로 동등한 것으로 고려될 수도 있고, 이것은 클라이언트 디바이스가 네트워크 조건들 또는 다른 인자들에 적응하기 위하여 하나의 표현으로부터 적응 세트 내의 또 다른 표현으로 동적으로 스위칭할 수 있다는 것을 의미할 수도 있다.

다양한 구현예들에서, 가상 현실 컨텐츠는 표현에서 시그널링될 수 있다. 예를 들어, 엘리먼트는 수정될 수 있거나 표현에 대한 스키마에 추가될 수 있고, 여기서, 그 다음으로, 엘리먼트는 가상 현실 컨텐츠를 시그널링한다. 다양한 구현예들에서, 컨텐츠가 2-D 또는 3-D 인지 여부, 컨텐츠가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 컨텐츠가 포스트-스티칭될 때의 비디오 프레임들에 대한 맵핑과 같은, 가상 현실 컨텐츠에 대한 정보를 제공하기 위하여, 속성들은 또한 수정될 수 있거나 표현에 추가될 수 있다. 일부 구현예들에서, 표현에서의 가상 현실 표시자는 표현의 컨텐츠가 가상 현실을 위하여 포맷되었다는 것을 표시한다.

미디어 컨텐츠의 스트리밍에 관련된 또 다른 포맷은 RFC 4566 에서 설명되는 세션 설명 프로토콜 (Session Description Protocol; SDP) 이다. SDP 는 멀티미디어 통신 세션들을 설명하기 위하여 이용될 수 있다. 이러한 설명들은 예를 들어, 세션 발표, 세션 초대, 및 파라미터 협상을 위하여 이용될 수 있다. SDP 는 미디어 자체를 전달하기 위하여 이용되는 것이 아니라, 미디어 타입, 포맷, 및 연관된 성질들의 협상에 대한 종점들 사이에서 이용될 수 있다. 성질들 및 파라미터들의 세트는 세션 프로파일로서 종종 지칭된다. SDP 는 원래 세션 발표 프로토콜 (Session Announcement Protocol; SAP) 의 컴포넌트이었지만, 실시간 전송 프로토콜 (Real-time Transfer Protocol; RTP), 실시간 스트리밍 프로토콜 (Real-time Streaming Protocol; RTSP), 세션 개시 프로토콜 (Session Initiation Protocol; SIP) 과 함께, 그리고 멀티캐스트 세션들을 설명하기 위한 단독형 포맷으로서 다른 용도들을 발견하였다.

다양한 구현예들에서, 가상 현실 컨텐츠의 표시는 SDP 메시지에서의 세션 설명 및/또는 미디어 설명에서 포함될 수 있다. 예를 들어, 필드는 스트리밍 컨텐츠에서의 가상 현실 컨텐츠의 존재를 표시하기 위하여 세션 설명 및/또는 미디어 설명에서 추가될 수 있거나 수정될 수 있다. 추가적으로, 일부 구현예들에서, 가상 현실 컨텐츠에 관련되는 파라미터들은 또한, SDP 메시지에 추가될 수 있다. 이러한 파라미터들은 예를 들어, 가상 현실 컨텐츠가 2-D 또는 3-D 인지 여부, 컨텐츠가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 데이터를 저장하기 위하여 이용된 맵핑을 포함할 수 있다. 이러한 그리고 다른 예들에서, SDP 는 미디어 컨텐츠가 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 RTP-기반 스트리밍, 브로드캐스트, 및/또는 원격실재 (telepresence) 또는 회의 애플리케이션들에서 이용될 수 있다.

또 다른 예로서, 멀티미디어 브로드캐스트 멀티캐스트 서비스 (Multimedia Broadcast Multicast Service; MBMS) 들은 컨텐츠가 3GPP 셀룰러 네트워크들 상에서 송신될 때에 가상 현실 컨텐츠를 표시하기 위하여 이용될 수 있다. MBMS 는 셀 내에서 그리고 코어 네트워크 내에서의 양자에서, 브로드캐스트 및 멀티캐스트 서비스들의 효율적인 전달을 제공할 수 있는 포인트-투-멀티포인트 (point-to-multipoint) 인터페이스 사양이다. MBMS 를 위한 타겟 애플리케이션들은 이동 텔레비전, 라이브 비디오 및 오디오 스트리밍, 파일 전달, 및 비상 경보들의 전달을 포함한다.

다양한 구현예들에서, 가상 현실 컨텐츠 뿐만 아니라, 컨텐츠에 관련된 파라미터들의 시그널링은 새로운 특징을 MBMS 특징 요건 리스트에 추가함으로써 달성될 수 있다. 다양한 구현예들에서, 가상 현실 컨텐츠의 시그널링은 다른 브로드캐스트 및 멀티캐스트 애플리케이션들에 대한 유사한 방식으로 달성될 수 있다.

다양한 구현예들에서, ISO 기반 미디어 파일에서의 트랙이 가상 현실 컨텐츠를 포함할 때, 다양한 추가적인 또는 대안적인 접근법들은 가상 현실 컨텐츠를 플레이어 디바이스로 시그널링하기 위하여 이용될 수 있다. 도 6 은 핸들러 박스 (624c) 가 트랙의 컨텐츠들이 가상 현실 비디오를 포함한다는 것을 시그널링하기 위하여 이용되는 ISO 기반 미디어 파일 (600) 의 하나의 예를 예시한다. 파일 (600) 은 파일 (600) 이 호환가능한 브랜드 (들) 또는 ISOBMFF 의 특정한 반복들 또는 ISOBMFF 의 파생물들을 특정할 수 있는 파일 타입 박스 (610) 를 포함할 수 있다. 파일 (600) 또한, 제시를 위한 메타데이터를 포함할 수 있는 영화 박스 (620) 를 포함할 수 있다. 파일 (600) 은 임의적으로 또한, 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (630a, 630b, 630c, 630n) 을 포함할 수 있다.

영화 박스 (620) 는 영화 헤더 박스 (622) 및 하나 이상의 트랙 박스들 (624) 뿐만 아니라 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다. 영화 헤더 박스 (622) 는 전체적으로 제시를 설명하는 정보를 포함할 수 있다. 트랙 박스 (624) 는 제시에서의 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (624) 는 트랙 헤더 박스 (624a) 및 제로 이상의 미디어 데이터 박스들 (624b) 을 포함할 수 있다.

미디어 데이터 박스 (624b) 는 다른 박스들 중에서, 핸들러 박스 (642c) 를 포함할 수 있다. 핸들러 참조 박스로서 또한 지칭될 수도 있는 핸들러 박스 (642c) 는 트랙의 미디어 타입을 표시할 수 있다. 트랙의 미디어 타입은 트랙에서의 미디어 데이터가 제시되도록 하는 프로세스를 정의한다. 미디어 타입들의 예들은 그 중에서도, 비디오 및 오디오를 포함한다. 미디어가 제시되는 방식은 미디어에 대한 포맷을 포함할 수 있다. 예를 들어, 플레이어 디바이스가 트랙에서의 비디오 데이터를 전달하기 위하여 이용하는 포맷 (예컨대, 종횡비, 해상도, 프레임 레이트 등) 은 비디오 트랙에서 저장될 수 있고, 핸들러 박스 (642c) 의 비디오 핸들러 버전에 의해 식별될 수 있다. 일부 경우들에는, 파일 (600) 이 임의의 타입의 메타데이터 스트림들에 대한 일반적인 핸들러를 포함할 수 있다. 이 경우들에는, 비디오 컨텐츠의 특정 포맷이 컨텐츠를 설명하는 샘플 엔트리에 의해 식별될 수 있다.

일부 경우들에는, 미디어 데이터 박스 (624b) 가 핸들러 박스 (642c) 를 포함할 수 있다. 핸들러 박스 (642c) 는 트랙 박스 (624) 에 의해 설명된 트랙이 가상 현실 데이터를 포함한다는 것을 표시하기 위하여 이용될 수 있다. 예를 들어, 트랙이 비디오 데이터를 설명할 때, 핸들러 박스 (642c) 는 구체적으로, 박스 타입 "vide" 에 의해 식별될 수 있는 비디오 핸들러 박스일 수 있다.

다양한 구현예들에서, 핸들러 박스 (642c) 는 미디어 데이터 박스 (642b) 에 의해 참조된 미디어 컨텐츠가 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 이용될 수 있다. 예를 들어, 핸들러 박스 (642c) 는 트랙에서 포함된 비디오 컨텐츠가 가상 현실 비디오인 (예컨대, 예약된 비트 또는 새로운 변수에서의) 임의적인 표시자를 포함할 수 있다. 임의적인 표시자를 판독하도록 구성되지 않은 비디오 플레이어들은 그것을 무시할 수도 있다.

일부 구현예들에서, 비디오 핸들러 박스는 임의적으로 또한, 가상 현실 비디오가 2-D 또는 3-D 인지 여부, 가상 현실 비디오가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 가상 현실 비디오에 대한 맵핑과 같은, 가상 현실 컨텐츠를 설명하는 파라미터들을 포함할 수 있다. 다양한 구현예들에서, 가상 현실 컨텐츠에 관련된 파라미터들은 트랙 박스 (524) 에서 발견될 수 있는 다양한 다른 박스들에서 표시될 수 있다. 예를 들어, 파라미터들은 트랙 헤더 박스 (624a) 에서 시그널링될 수 있다. 대안적으로 또는 추가적으로, 파라미터들은 여기에서 예시되지 않은, (박스 타입 "mdhd" 에 의해 식별된) 미디어 헤더 박스에서, 및/또는 (박스 타입 "vmhd" 에 의해 식별된) 비디오 미디어 헤더 박스에서 시그널링될 수 있다. 대안적으로 또는 추가적으로, 파라미터들 샘플 엔트리에서, 및/또는 트랙 박스 (624) 의 상부 레벨에서 배치될 수 있는 새롭게 정의된 박스에서 표시될 수 있다.

도 7 은 새로운 핸들러 박스 (724d) 가 트랙이 가상 현실 컨텐츠를 포함한다는 것을 표시하기 위하여 정의된 ISO 기반 미디어 파일 (700) 의 예를 예시한다. 파일 (700) 은 파일 (700) 이 호환가능한 브랜드 (들) 또는 ISOBMFF 의 특정한 반복들 또는 ISOBMFF 의 파생물들을 특정할 수 있는 파일 타입 박스 (710) 를 포함할 수 있다. 파일 (700) 또한, 제시를 위한 메타데이터를 포함할 수 있는 영화 박스 (720) 를 포함할 수 있다. 파일 (700) 은 임의적으로 또한, 위에서 논의된 바와 같이, 하나 이상의 프래그먼트들 (730a, 730b, 730c, 730n) 을 포함할 수 있다.

영화 박스 (720) 는 영화 헤더 박스 (722) 및 하나 이상의 트랙 박스들 (724) 뿐만 아니라 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다. 영화 헤더 박스 (722) 는 전체적으로 제시를 설명하는 정보를 포함할 수 있다. 트랙 박스 (724) 는 제시에서의 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (724) 는 트랙 헤더 박스 (724a) 및 제로 이상의 미디어 데이터 박스들 (724b) 을 포함할 수 있다.

위에서 논의된 바와 같이, 일부 경우들에는, 미디어 데이터 박스 (724b) 는 미디어 데이터 박스 (724b) 에 의해 설명된 미디어 컨텐츠를 제시하기 위한 포맷을 설명할 수 있는 핸들러 박스 (724d) 를 포함할 수 있다. 도 7 의 예에서는, 가상 현실 비디오 데이터에 특정적인 새로운 핸들러 박스 (724d) 가 정의되었다. 새로운 핸들러 박스 (724d) 는 예를 들어, 박스 타입 "vrvd" 에 의해 식별될 수 있다. 이 예에서, 가상 현실 컨텐츠와 호환가능하지 않은 비디오 플레이어들은 새로운 핸들러 박스 (724d) 를 식별할 수 없을 수도 있고, 이에 따라, 새로운 핸들러 박스 (724d) 를 무시할 수도 있고 트랙 박스 (724) 에 의해 참조된 임의의 컨텐츠를 스킵할 수도 있다. 이에 따라, 가상 현실 컨텐츠는 가상 현실 비디오를 디스플레이하도록 구성되지 않은 플레이어에 의해 렌더링되지 않을 것이고 디스플레이되지 않을 것이다.

일부 구현예들에서, 새로운 핸들러 박스는 임의적으로 또한, 가상 현실 비디오가 2-D 또는 3-D 인지 여부, 가상 현실 비디오가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 가상 현실 비디오에 대한 맵핑과 같은, 가상 현실 컨텐츠를 설명하는 파라미터들을 포함할 수 있다. 다양한 구현예들에서, 가상 현실 컨텐츠에 관련된 파라미터들은 트랙 박스 (724) 에서 발견될 수 있는 다양한 다른 박스들에서 표시될 수 있다. 예를 들어, 파라미터들은 트랙 헤더 박스 (724a) 에서 시그널링될 수 있다. 대안적으로 또는 추가적으로, 파라미터들은 여기에서 예시되지 않은, (박스 타입 "mdhd" 에 의해 식별된) 미디어 헤더 박스에서, 및/또는 (박스 타입 "vmhd" 에 의해 식별된) 비디오 미디어 헤더 박스에서 시그널링될 수 있다. 대안적으로 또는 추가적으로, 파라미터들 샘플 엔트리에서, 및/또는 트랙 박스 (724) 의 상부 레벨에서 배치될 수 있는 새롭게 정의된 박스에서 표시될 수 있다.

도 8 은 ISO 기반 미디어 파일에서 포함될 수 있는 미디어 박스 (840) 의 예를 예시한다. 위에서 논의된 바와 같이, 미디어 박스는 트랙 박스에서 포함될 수 있고, 트랙에서의 미디어 데이터를 설명하는 객체들 및 정보를 포함할 수 있다. 예시된 예에서, 미디어 박스 (840) 는 미디어 정보 박스 (842) 를 포함한다. 미디어 박스 (840) 는 또한, 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다.

미디어 정보 박스 (842) 는 트랙에서의 미디어에 대한 특성 정보를 설명하는 객체들을 포함할 수 있다. 예를 들어, 미디어 정보 박스 (842) 는 트랙에서의 미디어 정보의 로케이션을 설명하는 데이터 정보 박스를 포함할 수 있다. 또 다른 예로서, 미디어 정보 박스 (842) 는 트랙이 비디오 데이터를 포함할 때, 비디오 미디어 헤더를 포함할 수 있다. 비디오 미디어 헤더는 비디오 미디어의 코딩에 독립적인 일반적인 제시 정보를 포함할 수 있다. 미디어 정보 박스 (842) 는 또한, 트랙이 오디오 데이터를 포함할 때, 사운드 미디어 헤더를 포함할 수 있다.

미디어 정보 박스 (842) 는 또한, 예시된 예에서 제공된 바와 같이, 샘플 표 박스 (844) 를 포함할 수 있다. 박스 타입 "stbl" 에 의해 식별된 샘플 표 박스 (844) 는 트랙에서의 미디어 샘플들에 대한 로케이션들 (예컨대, 파일을 갖는 로케이션들) 뿐만 아니라, 샘플들에 대한 시간 정보를 제공할 수 있다. 샘플 표 박스 (844) 에 의해 제공된 정보를 이용하면, 플레이어 디바이스는 샘플들을 올바른 시간 순서로 위치시킬 수 있고, 샘플의 타입을 결정할 수 있고, 그 중에서도, 컨테이너 내에서의 샘플의 크기, 컨테이너, 및 오프셋을 결정할 수 있다.

샘플 표 박스 (844) 는 박스 타입 "stsd" 에 의해 식별된 샘플 설명 박스 (846) 를 포함할 수 있다. 샘플 설명 박스 (846) 는 예를 들어, 샘플에 대하여 이용된 코딩 타입에 대한 상세한 정보, 및 그 코딩 타입에 대하여 필요한 임의의 초기화 정보를 제공할 수 있다. 샘플 설명 박스에서 저장된 정보는 샘플들을 포함하는 트랙의 타입에 대해 특정적일 수 있다. 예를 들어, 하나의 포맷은 트랙이 비디오 트랙일 때에 샘플 설명에 대하여 이용될 수도 있고, 상이한 포맷은 트랙이 힌트 트랙일 때에 이용될 수도 있다. 추가의 예로서, 샘플 설명에 대한 포맷은 또한, 힌트 트랙의 포맷에 따라 변동될 수도 있다.

샘플 설명 박스 (846) 는 하나 이상의 샘플 엔트리 박스들 (848a, 848b, 848c) 을 포함할 수 있다. 샘플 엔트리 타입은 추상 클래스 (abstract class) 이고, 이에 따라, 전형적으로 샘플 설명 박스는 그 중에서도, 비디오 데이터에 대한 시각적 샘플 엔트리 또는 오디오 샘플들에 대한 오디오 샘플 엔트리와 같은 특정 샘플 엔트리 박스를 포함한다. 샘플 엔트리 박스는 특정한 샘플에 대한 파라미터들을 저장할 수 있다. 예를 들어, 비디오 샘플에 대하여, 샘플 엔트리 박스는 그 중에서도, 비디오 샘플에 대한 폭, 높이, 수평 해상도, 수직 해상도, 프레임 카운트, 및/또는 심도를 포함할 수 있다. 또 다른 예로서, 오디오 샘플에 대하여, 샘플 엔트리는 그 중에서도, 채널 카운트, 채널 레이아웃, 및/또는 샘플링 레이트를 포함할 수 있다.

예시된 예에서, 제 1 샘플 엔트리 (848a) 는 한정된 방식 정보 박스 (860) 를 포함한다. 박스 타입 "rinf" 에 의해 식별된 한정된 방식 정보 박스는 샘플에 적용된 한정된 방식 및 방식의 파라미터들을 양자 모두 이해하기 위하여 요구된 정보를 포함할 수 있다. 일부 경우들에는, 파일의 저자 (author) 가 플레이어 디바이스로부터의 어떤 액션들을 요구할 수도 있다. 이 경우들에는, 파일은 플레이어 디바이스가 파일의 미디어 컨텐츠들을 렌더링하기 위한 요건들을 결정하기 위하여 위치시킬 수 있고 이용할 수 있는 한정된 방식 정보 박스를 포함할 수 있다. 컨텐츠를 렌더링할 수 없을 수도 있는 플레이어들은 또한, 그것들이 컨텐츠를 렌더링할 수 없고, 이에 따라, 컨텐츠를 프로세싱하는 것을 시도하지 않아야 하는 것으로 결정하기 위하여 한정된 방식 정보 박스를 이용할 수 있다. 한정된 방식 정보 박스는 전형적으로, 원래의 샘플 엔트리 타입, 즉, 한정된 방식 정보 박스에 의해 설명된 임의의 변환 이전의 샘플 엔트리의 타입을 포함한다.

다양한 구현예들에서, 한정된 방식은 가상 현실 컨텐츠에 대하여 정의될 수 있다. 이 구현예들에서, 한정된 방식 정보 박스 (860) 는 가상 현실 데이터를 포함하는 샘플 엔트리 (848a) 에 추가될 수 있다. 한정된 방식의 타입은 박스 타입 "schm" 에 의해 식별된 방식 타입 박스 (862) 에서 특정될 수 있다. 예를 들어, "vrvd" 에 대응하는 인코딩은 가상 현실 컨텐츠에 대한 한정된 방식을 식별하기 위하여 이용될 수 있다.

예시된 예에서의 한정된 방식 정보 박스 (860) 는 박스 타입 "schi" 에 의해 식별된 방식 정보 박스 (864) 를 포함한다. 방식 정보 박스 (864) 는 특정 방식에 대한 정보를 저장할 수 있다. 예를 들어, 한정된 방식이 가상 현실 컨텐츠에 대한 것일 때, 방식 정보 박스 (864) 는 가상 현실 컨텐츠에 대한 파라미터들을 포함할 수 있다. 이 파라미터들은 예를 들어, 가상 현실 비디오가 2-D 또는 3-D 인지 여부, 가상 현실 비디오가 프리-스티칭 또는 포스트-스티칭되는지 여부, 및/또는 가상 현실 비디오에 대한 맵핑을 포함할 수 있다. 다양한 구현예들에서, 방식 정보 박스는 가상 현실 컨텐츠에 대하여, 구체적으로, 가상 현실 컨텐츠에 대한 파라미터들을 포함하기 위하여 정의될 수 있다.

도 8 에서 예시된 기법을 이용하면, 새로운 박스들은 레거시 (legacy) 플레이어 디바이스들에 의해 이해되지 않을 수도 있는 ISOBMFF 사양에 추가될 필요가 없다. 심지어 새로운 박스들로도, 레거시 플레이어 디바이스는 디바이스들이 식별할 수 없는 컨텐츠를 플레이하는 것을 시도할 수도 있고, 이 컨텐츠가 가상 현실 미디어일 때, 결과는 왜곡된 제시일 수 있다. 새로운 박스들을 추가하는 것을 회피할 시에, 파일은 가상 현실 컨텐츠에 대하여 생성될 수 있고, 여기서, 파일은 레거시 플레이어 디바이스가 식별할 수 있는 박스들을 오직 포함할 가능성이 있다. 레거시 플레이어 디바이스는 디바이스가 한정된 방식 정보 박스 (864) 에 의해 설명된 한정된 방식을 구현할 수 없는 것으로 추가로 결정할 수 있고, 이에 따라, 가상 현실 컨텐츠를 디스플레이하는 것을 시도하지 않을 수도 있다.

기법은 추가적으로, 레거시 플레이어들 및 가상 현실 컨텐츠를 렌더링할 수 있는 플레이어들의 양자에 대해 신축성을 제공한다. 레거시 플레이어는 예를 들어, 플레이어가 한정된 방식 정보 박스에 의해 식별된 가상 현실 방식을 이해하는지 여부를 결정할 수 있다. 플레이어 디바이스가 한정된 방식을 준수할 수 없을 때, 플레이어 디바이스는 트랙에서의 컨텐츠를 전혀 렌더링하지 않도록 선택할 수도 있거나, 그 대신에,원래의 비변환된 샘플들을 프로세싱할 수 있을 수도 있다. 이에 따라, 한정된 방식 메커니즘은 플레이어 디바이스들이 비트스트림을 렌더링하기 위한 요건들을 결정하기 위하여 파일을 검사하는 것을 가능하게 할 수 있고, 디바이스가 프로세싱할 수 없을 수도 있는 파일들을 디코딩하고 렌더링하는 것으로부터 레거시 플레이어 디바이스를 정지시킬 수 있다.

다양한 구현예들에서, 가상 현실 컨텐츠는 대안적으로 또는 추가적으로, 비디오 비트스트림에서의 보충 강화 정보 (SEI) 메시지에서 포함될 수 있다. 이에 따라, SEI 메시지는 비트스트림이 가상 현실 컨텐츠를 포함한다는 것을 표시할 수 있다. 다양한 구현예들에서, SEI 메시지는 파일의 레벨, 영화 레벨, 및/또는 트랙 레벨에서 가상 현실 컨텐츠를 표시할 수 있다. 다양한 구현예들에서, SEI 메시지는 또한, 가상 현실 비디오의 성질들을 설명하는 파라미터들 (예컨대, 비디오가 2-D 또는 3-D 인지, 프리-스티칭 또는 포스트-스티칭되는지 여부 등) 을 포함할 수 있다.

다양한 구현예들에서, ISOBMFF 사양에 대한 확장은 트랙이 가상 현실 비디오를 포함한다는 것을 표시하기 위한 트랙-레벨 표시를 포함한다. 다양한 구현예들에서, 포스트-디코더 요건 메커니즘들은 예를 들어, 한정된 방식 정보 (rinf) 박스를 이용하는 이 트랙-레벨 표시에 대하여 이용될 수 있다. 다양한 구현예들에서, 확장은 ISOBMFF 사양의 섹션 8.15 에 대한 수정들을 포함할 수 있다. 뒤따르는 단락들은 새로운 섹션들 및 서브섹션들 8.15.5 ("Scheme for virtual reality video (가상 현실 비디오에 대한 방식)"), 8.15.5.1 ("General (일반)"), 8.15.5.2 ("VR video box (VR 비디오 박스)"), 8.15.5.2.1 ("Definition (정의)"), 8.15.5.2.2 ("Syntax (신택스)"), 및 8.15.5.2.3 ("Semantics (시맨틱들)") 을 포함하는 ISO/IEC 14496-12 의 섹션 8.15 의 텍스트를 제공한다. 섹션 8.15 의 텍스트에 대한 변경들은 밑줄표시된 텍스트 (텍스트에 대한 변경의 예) 를 이용하여 표시된다.

8.15 미디어에 관한 포스트-디코더 요건들

8.15.1 일반

파일 저자가 플레이어 또는 렌더러에 대한 어떤 액션들을 요구하는 상황들을 핸들링하기 위하여, 이 하위조항은 플레이어들이 비트스트림을 렌더링하기 우히ㅏㄴ 이러한 요건들을 구하기 위하여 파일을 간단하게 검사하는 것을 가능하게 하고 추가의 프로세싱을 요구하는 파일들을 디코딩하고 렌더링하는 것으로부터 레거시 플레이어들을 정지시키는 메커니즘을 특정한다. 메커니즘은 임의의 타입의 비디오 코덱에 적용된다. 특히, 그것은 AVC 에 적용되고, 이 경우에 대하여, 파일 저자가 발생하는 SEI 메시지 ID 들을 열거하고 렌더링 프로세스에 대한 요구된 및 비-요구된 액션들 사이를 구별하는 것을 허용하는 특정 시그널링이 AVC 파일 포맷 (ISO/IEC 14496-15) 에서 정의된다.

메커니즘은 샘플 엔트리들이 암호화된 또는 캡슐화된 미디어를 표시하는 일반적인 샘플 엔트리들 'encv', 'enca' 등의 후방에 은닉되는 컨텐츠 보호 변환과 유사하다. 한정된 비디오에 대한 유사한 메커니즘은 일반적인 샘플 엔트리 'resv' 를 갖는 변환을 이용한다. 방법은 컨텐츠가 그것을 올바르게 제시하는 플레이어들에 의해 오직 디코딩되어야 할 때에 적용될 수도 있다.

8.15.2 변환

방법은 다음과 같이 적용된다:

1) 샘플 엔트리의 4-문자-코드는 한정된 비디오를 의미하는 새로운 샘플 엔트리 코드 'resv' 에 의해 대체된다.

2) 한정된 방식 정보 박스는 샘플 설명에 추가되어, 모든 다른 박스들을 비수정된 상태로 한다.

3) 원래의 샘플 엔트리 타입은 한정된 방식 정보 박스에서 포함된 원래의 포맷 박스 내에서 저장된다.

RestrictedSchemeInfoBox 는 'sinf' 대신에 식별자 'rinf' 를 이용한다는 것을 제외하고는, ProtectionSchemeInfoBox 와 정확하게 동일하게 포맷된다 (이하 참조).

원래의 샘플 엔트리 타입은 (암호화된 미디어에 대한 보호 방식 정보 박스와 동일한 방법으로) 한정된 방식 정보 박스에서 위치된 원래의 포맷 박스에서 포함된다.

한정의 정확한 본질은 SchemeTypeBox 에서 정의되고, 그 방식을 위하여 필요한 데이터는 다시, 보호 정보와 유사하게, SchemeInformationBox 에서 저장된다.

한정 및 보호는 동시에 적용될 수 있다는 것에 주목한다. 변환들의 순서는 샘플 엔트리의 4-문자 코드로부터 후행한다. 예를 들어, 샘플 엔트리 타입이 'resv' 일 경우, 상기 변환을 행하지 않는 것은 샘플 엔트리 타입 'encv' 로 귀착될 수도 있어서, 미디어가 보호된다는 것을 표시할 수도 있다.

파일 저자가 파일을 플레이하는 것으로부터 레거시 플레이어들을 정지시키지 않으면서, 권고 정보를 제공하는 것을 오직 원할 경우, 한정된 방식 정보 박스는 4-문자-코드 변환을 적용하지 않으면서, 샘플 엔트리 내부에서 배치될 수도 있다. 이 경우, 원래의 포맷 박스를 포함하는 것은 필요하지 않다.

8.15.3 한정된 방식 정보 박스

8.15.3. 1 정의

박스 타입들: 'rinf'

컨테이너: 한정된 샘플 엔트리 또는 샘플 엔트리

의무적: 예

수량: 정확하게 1

한정된 방식 정보 박스는 적용된 한정 방식 및 그 파라미터들의 양자를 이해하기 위하여 요구된 모든 정보를 포함한다. 그것은 또한, 미디어의 원래의 (비변환된) 샘플 엔트리 타입을 문서화 (document) 한다. 한정된 방식 정보 박스는 컨테이너 박스이다. 그것은 한정된 스트림을 표시하는 코드, 즉, 'resv' 를 이용하는 샘플 엔트리에서 의무적이다.

한정된 샘플 엔트리에서 이용될 때, 이 박스는 원래의 샘플 엔트리 타입 및 방식 타입 박스를 문서화하기 위하여 원래의 포맷 박스를 포함해야 한다. 방식 정보 박스는 한정 방식에 따라 요구될 수도 있다.

8.15.3.2 신택스

aligned(8) class RestrictedSchemeInfoBox(fmt) extends Box('rinf') {

OriginalFormatBox(fmt) original_format;

SchemeTypeBox scheme_type_box;

SchemeInformationBox info; // 임의적

}

8.15.4 입체적 비디오 배열들을 위한 방식

8.15.4.1 일반

스테레오-코딩된 비디오 프레임들이 디코딩될 때, 디코딩된 프레임들은 스테레오 쌍 (프레임 팩킹) 또는 스테레오 쌍의 오직 하나의 뷰 (상이한 트랙들에서의 좌측 및 우측 뷰들) 를 형성하는 2 개의 공간적으로 팩킹된 구성 프레임들의 표현을 어느 하나 포함한다. 스테레오-코딩된 비디오로 인한 한정들은 스테레오 비디오 박스에서 포함된다.

SchemeType 'stvi' (입체적 비디오) 가 이용된다.

8.15.4.2 스테레오 비디오 박스

8.15.4.2.1 정의

박스 타입: 'stvi'

컨테이너: 방식 정보 박스 ('schi')

의무적: 예 (SchemeType 이 'stvi' 일 때)

수량: 1

스테레오 비디오 박스는 디코딩된 프레임들이 스테레오 쌍을 형성하거나 스테레오 쌍의 2 개의 뷰들 중의 하나를 포함하는 2 개의 공간적으로 팩킹된 구성 프레임들의 표현을 어느 하나 포함한다는 것을 표시하기 위하여 이용된다. 스테레오 비디오 박스는 SchemeType 이 'stvi' 일 때에 존재하 것이다.

8.15.4.2.2 신택스

aligned(8) class StereoVideoBox extends extends FullBox('stvi', version = 0, 0) {

template unsigned int(30) reserved = 0;

unsigned int(2) single_view_allowed;

unsigned int(32) stereo_scheme;

unsigned int(32) length;

unsigned int(8)[length] stereo_indication_type;

Box[] any_box; // 임의적

}

8.15.4.2.3 시맨틱들

single_view_allowed 는 정수이다. 제로 값은 컨텐츠가 입체 디스플레이들 상에서 오직 디스플레이될 수도 있다는 것을 표시한다. (single_view_allowed & 1) 가 1 과 동일할 때, 모노스코픽 (monoscopic) 단일-뷰 디스플레이 상에서 우측 뷰를 디스플레이하는 것이 허용된다. (single_view_allowed & 2) 가 2 와 동일할 때, 모노스코픽 단일-뷰 디스플레이 상에서 좌측 뷰를 디스플레이하는 것이 허용된다.

stereo_scheme 은 이용된 스테레오 배열 방식 및 이용된 방식에 따른 스테레오 표시 타입을 표시한다. stereo_scheme 에 대한 다음의 값들이 특정된다:

1: ISO/IEC 14496-10 의 프레임 팩킹 배열 보충 강화 정보 메시지에 의해 특정된 바와 같은 프레임 팩킹 방식 [ISO/IEC 14496-10]

2: ISO/IEC 13818-2 의 부록 L 에서 특정된 바와 같은 배열 타입 방식 [ISO/IEC 13818-2:2000/Amd.4]

3: 양자의 프레임/서비스 호환가능하고 2D/3D 혼합된 서비스들에 대하여 ISO/IEC 23000-11 에서 특정된 바와 같은 스테레오 방식.

stereo_scheme 의 다른 값들이 예약된다.

길이는 stereo_indication_type 필드에 대한 바이트들의 수를 표시한다.

stereo_indication_type 은 이용된 스테레오 표시 방식에 따른 스테레오 배열 타입을 표시한다. stereo_indication_type 의 신택스 및 시맨틱들은 stereo_scheme 의 값에 종속된다. stereo_scheme 의 다음의 값들에 대한 stereo_indication_type 에 대한 신택스 및 시맨틱들은 다음과 같이 특정된다:

1 과 동일한 stereo_scheme: 길이의 값은 4 일 것이고, stereo_indication_type 은 ISO/IEC 14496-10 의 표 D-8 로부터의 frame_packing_arrangement_type 값을 포함하는 무부호 int(32) 일 것이다 [ISO/IEC 14496-10] ('frame_packing_arrangement_type 의 정의').

2 와 동일한 stereo_scheme: 길이의 값은 4 일 것이고, stereo_indication_type 은 ISO/IEC 13818-2 의 표 L-1 로부터의 타입 값을 포함하는 무부호 int(32) 일 것이다 [ISO/IEC 13818-2:2000/Amd.4] ('arrangement_type 의 정의')

3 과 동일한 stereo_scheme: 길이의 값은 2 일 것이고, stereo_indication_type 은 무부호 int(8) 의 2 개의 신택스 엘리먼트들을 포함할 것이다. 제 1 신택스 엘리먼트는 ISO/IEC 23000-11:2009 의 표 4 로부터의 입체 조성 타입을 포함할 것이다. 제 2 신택 엘리먼트의 최하위 비트는 ISO/IEC 23000-11:2009 의 8.4.3 에서 특정된 바와 같은 is_left_first 의 값을 포함할 것인 반면, 다른 비트들은 예약되고 0 으로 설정될 것이다.

다음은 스테레오 비디오 박스가 이용될 때에 적용된다:

트랙 헤더 박스에서

폭 및 높이는 언팩킹 후의 단일 뷰의 시각적 제시 크기를 특정한다.

샘플 설명 박스에서

디코더가 단일 프레임을 물리적으로 출력하므로, frame_count 는 1 일 것이다. 다시 말해서, 프레임-팩킹된 픽처 내에서 포함된 구성 프레임들은 frame_count 에 의해 문서화되지 않는다.

폭 및 높이는 (프레임-팩킹된 픽처 내에서의 단일 뷰의 픽셀 카운트들이 아니라) 프레임-팩킹된 픽처의 픽셀 카운트들을 문서화한다.

픽셀 종횡비 박스는 뷰가 모노스코픽 단일-뷰 디스플레이 상에서 디스플레이될 때에 각각의 뷰의 픽셀 종횡비를 문서화한다. 예를 들어, 많은 공간적 프레임 팩킹 배열들에서는, 프레임-팩킹된 비디오의 하나의 뷰의 공간적 해상도는 동일한 포맷의 단일-뷰 비디오의 그것과 비교하여 하나의 좌표 축을 따라 전형적으로 절반으로 되므로, 픽셀 종횡비 박스는 그러므로, 2:1 또는 1:2 픽셀 종횡비를 표시한다.

8.15.5 가상 현실 비디오에 대한 방식

8.15.5.1 일반

가상 현실 (VR) 비디오의 디코딩된 픽처들은 특수한 렌더링 프로세스를 필요로 한다. VR 비디오에 관한 정보는 VR 비디오 박스에서 포함된다.

방식 타입 ' vrvd ' (VR 비디오) 이 이용된다 .

8.15.5.2 VR 비디오 박스

8.15.5.2.1 정의

박스 타입: ` vrvd '

컨테이너: 방식 정보 박스 (' schi ')

의무적: 예 ( SchemeType 이 ' vrvd' 일 때)

수량: 1

VR 비디오 박스는 트랙에서 포함된 비디오가 VR 비디오인 것을 표시하기 위하여 이용된다. VR 비디오 박스는 SchemeType 이 ' vrvd' 일 때에 존재할 것이다.

8.15.5.2.2 신택스

aligned(8) class VrVideoBox extends extends FullBox (' vrvd ', version = 0, 0) {

template unsigned int (28) reserved = 0;

unsigned int (4) vr_mapping_type;

Box[] any_box; // 임의적

}

8.15.5.2.3 시맨틱들

vr_mapping_type 은 구형 비디오로부터 직사각형 포맷까지의 맵핑 타입을 표시하는 정수이다. 제로 값은 등직사각형 맵을 표시한다. 값 1 은 정육면체 맵을 표시한다. 값 2 는 피라미드 맵을 표시한다. 다른 값들이 예약된다.

도 9 는 본원에서 설명된 바와 같이, 가상 현실 컨텐츠를 포함하는 파일을 생성하기 위한 프로세스 (900) 의 예를 예시한다. 902 에서, 프로세스 (900) 는 가상 현실 데이터를 획득하는 것을 포함하고, 여기서, 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현한다. 일부 구현예들에서, 가상 현실 데이터는 가상 현실 비디오를 포함한다. 일부 구현예들에서, 가상 현실 비디오는 프리-스티칭될 수도 있다. 일부 구현예들에서, 가상 현실 비디오에서의 프레임들은 조립되지 않을 수도 있고, 포스트-스티칭을 요구할 수도 있다.

904 에서, 프로세스 (900) 는 가상 현실 데이터를 파일에서 저장하는 것을 포함하고, 여기서, 가상 현실 데이터는 파일 포맷에 따라 저장되고, 여기서, 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치를 특정하고 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정하고, 여기서, 가상 현실 데이터와 연관된 정보는 트랙 박스에서 저장된다. 다양한 구현예들에서, 파일 포맷은 ISOBMFF 또는 ISOBMFF 로부터 파생된 파일 포맷이다. 일부 구현예들에서, 가상 현실 데이터와 연관된 정보는 예를 들어, 프레임 레이트들, 해상도들, 비디오 및/또는 오디오 샘플들의 파일 내에서 또는 다른 파일들 내에서의 로케이션, 및/또는 다른 정보를 포함할 수 있다.

906 에서, 프로세스 (900) 는 샘플 엔트리를 트랙 박스로 저장하는 것을 포함하고, 여기서, 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 여기서, 샘플 엔트리는 한정된 방식 정보 박스를 포함하고, 여기서, 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의하고, 여기서, 하나 이상의 샘플들은 가상 현실 데이터의 적어도 부분을 포함한다. 일부 구현예들에서, 한정된 방식 정보 박스는 방식 타입 박스를 포함할 수 있다. 이 구현예들에서, 가상 현실 방식은 방식 타입 박스를 이용하여 정의될 수 있다. 일부 구현예들에서, 한정된 방식 정보 박스는 방식 정보 박스를 포함할 수 있다. 이 구현예들에서, 가상 현실 데이터에서의 비디오에 관련되는 임의적인 파라미터들은 방식 정보 박스를 이용하여 파일로 기입될 수 있다. 임의적인 파라미터들은 예를 들어, 가상 현실 데이터가 2-D 또는 3-D 비디오를 포함하는지 여부, 비디오가 프리-스티칭되는지 또는 포스트-스티칭을 요구하는지 여부, 및/또는 비디오에 대한 맵핑 타입을 포함한다.

일부 구현예들에서, 프로세스 (900) 는 또한, 가상 현실 비디오에 관련된 파라미터들 (예컨대, 위에서 설명된 임의적인 파라미터들) 을 파일로 저장하는 것을 포함할 수 있다. 일부 구현예들에서, 파라미터들은 방식 정보 박스에서 저장된다.

도 10 은 본원에서 설명된 바와 같이, 가상 현실 컨텐츠를 포함하는 파일을 프로세싱하기 위한 프로세스 (1000) 의 예를 예시한다. 1002 에서, 프로세스는 파일을 획득하는 것을 포함하고, 여기서, 파일은 가상 현실 데이터를 포함하고, 여기서, 가상 현실 데이터는 파일 포맷에 따라 파일에서 저장되고, 여기서, 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치 및 가상 현실 데이터와 연관된 정보의 파일 내에서의 배치를 특정하고, 여기서, 가상 현실 데이터와 연관된 정보는 트랙 박스 내에서 저장된다. 다양한 구현예들에서, 파일 포맷은 ISOBMFF 포맷에 기초한다.

1004 에서, 프로세스는 파일을 프로세싱하는 것을 포함하고, 여기서, 파일을 프로세싱하는 것은 트랙 박스에서의 샘플 엔트리를 프로세싱하는 것을 포함하고, 여기서, 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 여기서, 샘플 엔트리는 한정된 방식 정보 박스를 포함하고, 여기서, 한정된 방식 정보 박스는 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의하고, 여기서, 하나 이상의 샘플들은 가상 현실 데이터의 적어도 부분을 포함한다. 일부 구현예들에서, 파일을 프로세싱하는 것은 샘플 엔트리에서의 방식 타입 박스를 프로세싱하는 것을 더 포함한다. 이 구현예들에서, 방식 타입 박스는 가상 현실 방식으로서 정의되는 방식 타입을 포함한다.

일부 구현예들에서, 파일을 프로세싱하는 것은 가상 현실 데이터에 관련된 파라미터들을 프로세싱하는 것을 포함한다. 파라미터들은 또한, 파일에서 저장된다. 다양한 구현예들에서, 파라미터들은 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 비디오 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 비디오 데이터에 대한 맵핑 타입 중의 하나 이상을 포함할 수 있다.

1006 에서, 프로세스는 가상 현실 방식에 따라 하나 이상의 샘플들을 프로세싱하는 것을 포함한다. 다양한 구현예들에서, 샘플들을 프로세싱하는 것은 가상 현실 컨텐츠를 디스플레이할 수 있는 디바이스에 의한 디스플레이를 위한 비디오 프레임들을 생성하는 것을 포함할 수 있다.

도 11 은 본원에서 설명된 바와 같이, 가상 현실 컨텐츠를 포함하는 파일을 생성하기 위한 프로세스 (1100) 의 예를 예시한다. 1102 에서, 프로세스 (1100) 는 가상 현실 데이터를 획득하는 것을 포함하고, 여기서, 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현한다. 가상 현실 데이터는 비디오 데이터 및 오디오 데이터를 포함할 수 있다.

1104 에서, 프로세스 (1100) 는 가상 현실 데이터를 파일로 기입하는 것을 포함하고, 여기서, 가상 현실 데이터는 파일 포맷에 따라 기입되고, 여기서, 파일 포맷은 가상 현실 데이터의 파일 내에서의 배치 및 가상 현실 데이터를 설명하는 정보를 기술하고, 여기서, 가상 현실 데이터를 설명하는 정보는 트랙 박스로 기입된다.

1106 에서, 프로세스 (1100) 는 트랙 박스에서의 값을 설정하는 것을 포함하고, 여기서, 값은 트랙 박스에 의해 참조된 샘플이 가상 현실 제시를 위하여 포맷된다는 것을 표시한다. 가상 현실 제시는 파일에서 저장된 비디오 데이터를 구형의 360-도 포맷으로 맵핑하는 것을 포함할 수 있다. 그 다음으로, 비디오 데이터는 360-도 비디오를 시인하도록 구성된 디바이스를 이용하여 디스플레이될 수도 있다.

일부 구현예들에서, 샘플들이 가상 현실 제시를 위하여 포맷된다는 것을 표시하는 값은 미디어 핸들러 박스에서 설정될 수 있다. 이 구현예들에서, 미디어 핸들러 박스는 비디오 핸들러 박스일 수 있다. 일부 구현예들에서, 미디어 핸들러 박스는 더 구체적으로 가상 현실 비디오 핸들러 박스이다.

일부 구현예들에서, 값은 샘플 엔트리 박스로 기입될 수도 있다. 이 구현예들에서, 값은 다른 예들 중에서, 트랙 헤더 박스, 미디어 헤더 박스, 또는 비디오 미디어 헤더 박스로 기입될 수도 있다.

다양한 구현예들에서, 가상 현실 데이터에 관련된 파라미터들은 또한, 파일로 기입될 수 있다. 이러한 파라미터들은 예를 들어, 다른 예들 중에서, 가상 현실 데이터가 2-차원 또는 3-차원 비디오 데이터를 포함하는지 여부, 비디오 데이터가 프리-스티칭 또는 포스트-스티칭되는지 여부, 또는 비디오 데이터에 대한 맵핑 타입을 포함할 수 있다.

다양한 구현예들에서, 파일 포맷은 ISO 기반 미디어 파일 포맷에 기초할 수도 있다.

일부 예들에서, 프로세스들 (900, 1000, 및 1100) 은 시스템 (100) 과 같은 컴퓨팅 디바이스 또는 장치에 의해 수행될 수도 있다. 예를 들어, 프로세스 (900, 1000, 및/또는 1100) 는 도 1 에서 도시된 시스템 (100) 및/또는 저장장치 (108) 또는 출력부 (110) 에 의해 수행될 수 있다. 일부 경우들에는, 컴퓨팅 디바이스 또는 장치는 프로세스 (900, 1000, 또는 1100) 의 단계들을 수행하도록 구성되는 디바이스의 프로세서, 마이크로프로세서, 마이크로컴퓨터, 또는 다른 컴포넌트를 포함할 수도 있다. 일부 예들에서, 컴퓨팅 디바이스 또는 장치는 비디오 프레임들을 포함하는 비디오 데이터 (예컨대, 비디오 시퀀스) 를 캡처하도록 구성된 카메라를 포함할 수도 있다. 예를 들어, 컴퓨팅 디바이스는 비디오 코덱을 포함할 수도 있는 카메라 디바이스 (예컨대, IP 카메라 또는 다른 타입의 카메라 디바이스) 를 포함할 수도 있다. 일부 예들에서, 비디오 데이터를 캡처하는 카메라 또는 다른 캡처 디바이스는 컴퓨팅 디바이스로부터 분리되고, 이 경우, 컴퓨팅 디바이스는 캡처된 비디오 데이터를 수신한다. 컴퓨팅 디바이스는 비디오 데이터를 통신하도록 구성된 네트워크 인터페이스를 더 포함할 수도 있다. 네트워크 인터페이스는 인터넷 프로토콜 (IP) 기반 데이터를 통신하도록 구성될 수도 있다.

프로세스들 (900, 1000, 및 1100) 은 논리적 흐름도들로서 예시되고, 그 동작은 하드웨어, 컴퓨터 명령들, 또는 그 조합으로 구현될 수 있는 동작들의 시퀀스를 표현한다. 컴퓨터 명령들의 문맥에서, 동작들은 하나 이상의 프로세서들에 의해 실행될 때, 열거된 동작들을 수행하는, 하나 이상의 컴퓨터-판독가능 저장 매체들 상에 저장된 컴퓨터-실행가능 명령들을 표현한다. 일반적으로, 컴퓨터-실행가능 명령들은 특정한 기능들을 수행하거나 특정한 데이터 타입들을 구현하는 루틴들, 프로그램들, 오브젝트들, 컴포넌트들, 데이터 구조들 등을 포함한다. 동작들이 설명되는 순서는 제한으로서 해석되도록 의도된 것이 아니고, 임의의 수의 설명된 동작들은 프로세스들을 구현하기 위하여 임의의 순서로 및/또는 병렬로 조합될 수 있다.

추가적으로, 프로세스들 (900, 1000, 및 1100) 은 실행가능 명령들로 구성된 하나 이상의 컴퓨터 시스템들의 제어 하에서 수행될 수도 있고, 하나 이상의 프로세서들 상에서, 하드웨어에 의해, 또는 그 조합들로 집합적으로 실행되는 코드 (예컨대, 실행가능 명령들, 하나 이상의 컴퓨터 프로그램들, 또는 하나 이상의 애플리케이션들) 로서 구현될 수도 있다. 위에서 언급된 바와 같이, 코드는 예를 들어, 하나 이상의 프로세서들에 의해 실행가능한 복수의 명령들을 포함하는 컴퓨터 프로그램의 형태로, 컴퓨터-판독가능 또는 머신-판독가능 저장 매체 상에 저장될 수도 있다. 컴퓨터-판독가능 또는 머신-판독가능 저장 매체는 비-일시적일 수도 있다.

인코딩 디바이스 (1204) 및 디코딩 디바이스 (1312) 의 특정 세부사항들은 도 12 및 도 13 에서 각각 도시되어 있다. 도 12 는 이 개시물에서 설명된 기법들 중의 하나 이상을 구현할 수도 있는 일 예의 인코딩 디바이스 (1204) 를 예시하는 블록도이다. 인코딩 디바이스 (1204) 는 예를 들어, 본원에서 설명된 신택스 구조들 (예컨대, VPS, SPS, PPS, 또는 다른 신택스 엘리먼트들의 신택스 구조들) 을 생성할 수도 있다. 인코딩 디바이스 (1204) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라-예측 및 인터-예측 코딩을 수행할 수도 있다. 이전에 설명된 바와 같이, 인트라-코딩은 소정의 비디오 프레임 또는 픽처 내에서 공간적 중복성을 감소시키거나 제거하기 위하여 적어도 부분적으로 공간적 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 또는 둘러싸는 프레임들 내에서 시간적 중복성을 감소시키거나 제거하기 위하여 적어도 부분적으로 시간적 예측에 의존한다. 인트라-모드 (I 모드) 는 몇몇 공간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향-예측 (B 모드) 과 같은 인터-모드들은 몇몇 시간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다.

인코딩 디바이스 (1204) 는 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 복원을 위하여, 인코딩 디바이스 (1204) 는 또한, 역양자화 유닛 (58), 역변환 프로세싱 유닛 (60), 및 합산기 (62) 를 포함한다. 필터 유닛 (63) 은 디블록킹 필터, 적응적 루프 필터 (adaptive loop filter; ALF), 및 샘플 적응적 오프셋 (sample adaptive offset; SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된 것이다. 필터 유닛 (63) 은 인 루프 필터 (in loop filter) 인 것으로서 도 12 에서 도시되어 있지만, 다른 구성들에서는, 필터 유닛 (63) 이 포스트 루프 필터 (post loop filter) 로서 구현될 수도 있다. 포스트 프로세싱 디바이스 (57) 는 인코딩 디바이스 (1204) 에 의해 생성된 인코딩된 비디오 데이터에 대한 추가적인 프로세싱을 수행할 수도 있다. 이 개시물의 기법들은 일부 사례들에서, 인코딩 디바이스 (1204) 에 의해 구현될 수도 있다. 그러나, 다른 사례들에서, 이 개시물의 기법들 중의 하나 이상은 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.

도 12 에서 도시된 바와 같이, 인코딩 디바이스 (1204) 는 비디오 데이터를 수신하고, 파티셔닝 유닛 (35) 은 데이터를 비디오 블록들로 파티셔닝한다. 파티셔닝은 또한, 슬라이스 (slice) 들, 슬라이스 세그먼트들, 타일 (tile) 들, 또는 다른 더 큰 유닛들로의 파티셔닝 뿐만 아니라, 예컨대, LCU 들 및 CU 들의 쿼드트리 구조에 따른 비디오 블록 파티셔닝을 포함할 수도 있다. 인코딩 디바이스 (1204) 는 인코딩되어야 할 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 일반적으로 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고 아마도 타일들로서 지칭된 비디오 블록들의 세트들로) 분할될 수도 있다. 예측 프로세싱 유닛 (41) 은 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨 등) 에 기초하여, 현재의 비디오 블록에 대하여, 복수의 인트라-예측 코딩 모드들 중의 하나 또는 복수의 인터-예측 코딩 모드들 중의 하나와 같은 복수의 가능한 코딩 모드들 중의 하나를 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라-코딩된 또는 인터-코딩된 블록을, 잔차 블록 데이터를 생성하기 위하여 합산기 (50) 에, 그리고 참조 픽처로서의 이용을 위한 인코딩된 블록을 복원하기 위하여 합산기 (62) 에 제공할 수도 있다.

예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 공간적 압축을 제공하기 위하여, 코딩되어야 할 현재의 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃하는 블록들에 관련된 현재의 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 시간적 압축을 제공하기 위하여, 하나 이상의 참조 픽처들 내의 하나 이상의 예측 블록들에 관련된 현재의 비디오 블록의 인터-예측 코딩을 수행한다.

모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터-예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들, B 슬라이스들, 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적들을 위하여 별도로 예시되어 있다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 예를 들어, 모션 벡터는 참조 픽처 내에서의 예측 블록에 관련된 현재의 비디오 프레임 또는 픽처 내에서의 비디오 블록의 예측 유닛 (PU) 의 변위를 표시할 수도 있다.

예측 블록은, 절대차의 합 (sum of absolute difference; SAD), 제곱차의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는 픽셀 차이의 측면에서, 코딩되어야 할 비디오 블록의 PU 와 근접하게 일치시키기 위하여 구해지는 블록이다. 일부 예들에서, 인코딩 디바이스 (1204) 는 픽처 메모리 (64) 내에 저장된 참조 픽처들의 정수-미만 (sub-integer) 픽셀 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 인코딩 디바이스 (1204) 는 참조 픽처의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치들의 값들을 보간 (interpolate) 할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 전체 픽셀 위치들 및 분수 픽셀 위치들에 관하여 모션 검색을 수행할 수도 있고, 분수 픽셀 정밀도를 갖는 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은 PU 의 위치를 참조 픽처의 예측 블록의 위치와 비교함으로써, 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 계산한다. 참조 픽처는 제 1 참조 픽처 리스트 (List 0) 또는 제 2 참조 픽처 리스트 (List 1) 로부터 선택될 수도 있고, 이들의 각각은 픽처 메모리 (64) 내에 저장된 하나 이상의 참조 픽처들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.

모션 보상 유닛 (44) 에 의해 수행된 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 (fetch) 하거나 생성하여, 서브-픽셀 정밀도 (sub-pixel precision) 로의 보간들을 아마도 수행하는 것을 수반할 수도 있다. 현재의 비디오 블록의 PU 에 대한 모션 벡터를 수신할 시에, 모션 보상 유닛 (44) 은 모션 벡터가 참조 픽처 리스트에서 지시하는 예측 블록을 위치시킬 수도 있다. 인코딩 디바이스 (1204) 는 코딩되고 있는 현재의 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 컴포넌트들의 양자를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 모션 보상 유닛 (44) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩할 시에 디코딩 디바이스 (1312) 에 의한 이용을 위한 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.

인트라 예측 프로세싱 유닛 (46) 은 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측할 수도 있다. 특히, 인트라 예측 프로세싱 유닛 (46) 은 현재의 블록을 인코딩하기 위하여 이용하기 위한 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 프로세싱 유닛 (46) 은 예컨대, 별도의 인코딩 패스 (encoding pass) 들 동안에 다양한 인트라-예측 모드들을 이용하여 현재의 블록을 인코딩할 수도 있고, 인트라 예측 유닛 프로세싱 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스팅된 모드들로부터 이용하기 위한 적절한 인트라-예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 프로세싱 유닛 (46) 은 다양한 테스트된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산할 수도 있고, 테스트된 모드들 중에서 최상의 레이트-왜곡 특성들을 가지는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록과, 인코딩된 블록을 생성하기 위하여 인코딩되었던 원래의 인코딩되지 않은 블록과의 사이의 왜곡 (또는 에러) 의 양뿐만 아니라, 인코딩된 블록을 생성하기 위하여 이용된 비트 레이트 (즉, 비트들의 수) 를 결정한다. 인트라 예측 프로세싱 유닛 (46) 은 어느 인트라-예측 모드가 블록에 대한 최상의 레이트-왜곡 값을 나타내는지를 결정하기 위하여 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 계산할 수도 있다.

어떤 경우에도, 블록에 대한 인트라-예측 모드를 선택한 후, 인트라 예측 프로세싱 유닛 (46) 은 블록에 대한 선택된 인트라-예측 모드를 표시하는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라-예측 모드를 표시하는 정보를 인코딩할 수도 있다. 인코딩 디바이스 (1204) 는 송신된 비트스트림 내에서, 다양한 블록들에 대한 인코딩 컨텍스트들의 구성 데이터 정의들뿐만 아니라, 컨텍스트들의 각각에 대하여 이용하기 위한 가장 가능성 있는 인트라-예측 모드, 인트라-예측 모드 인덱스 표, 및 수정된 인트라-예측 모드 인덱스 표의 표시들을 포함할 수도 있다. 비트스트림 구성 데이터는 복수의 인트라-예측 모드 인덱스 표들 및 복수의 수정된 인트라-예측 모드 인덱스 표들 (또한, 코드워드 맵핑 표들로서 지칭됨) 을 포함할 수도 있다.

예측 프로세싱 유닛 (41) 이 인터-예측 또는 인트라-예측의 어느 하나를 통해 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 인코딩 디바이스 (1204) 는 현재의 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 하나 이상의 TU 들에 포함될 수도 있고 변환 프로세싱 유닛 (52) 에 적용될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (discrete cosine transform; DCT) 또는 개념적으로 유사한 변환과 같은 변환을 이용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환한다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 픽셀 도메인으로부터, 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다.

변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 비트 레이트를 추가로 감소시키기 위하여 변환 계수들을 양자화한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 양자화도는 양자화 파라미터를 조절함으로써 수정될 수도 있다. 일부 예들에서, 그 다음으로, 양자화 유닛 (54) 은 양자화된 변환 계수들을 포함하는 행렬의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.

양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트-적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 컨텍스트 적응 2 진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스-기반 컨텍스트-적응 2 진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 확률 간격 파티셔닝 엔트로피 (probability interval partitioning entropy; PIPE) 코딩, 또는 또 다른 엔트로피 인코딩 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 후속하여, 인코딩된 비트스트림은 디코딩 디바이스 (1312) 로 송신될 수도 있거나, 디코딩 디바이스 (1312) 에 의한 더 이후의 송신 또는 취출을 위하여 아카이빙될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한, 코딩되고 있는 현재의 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.

역양자화 유닛 (58) 및 역변환 프로세싱 유닛 (60) 은 참조 픽처의 참조 블록으로서의 더 이후의 이용을 위해 픽셀 도메인에서 잔차 블록을 복원하기 위하여, 역양자화 및 역변환을 각각 적용한다. 모션 보상 유닛 (44) 은 잔차 블록을 참조 픽처 리스트 내의 참조 픽처들 중의 하나의 참조 픽처의 예측 블록에 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한, 모션 추정 시에 이용하기 위한 정수 미만 픽셀 값들을 계산하기 위하여 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용할 수도 있다. 합산기 (62) 는 픽처 메모리 (64) 에서의 저장을 위한 참조 블록을 생성하기 위하여, 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산한다. 참조 블록은 후속 비디오 프레임 또는 픽처에서 블록을 인터-예측하기 위하여, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 참조 블록으로서 이용될 수도 있다.

이러한 방식으로, 도 12 의 인코딩 디바이스 (1204) 는 인코딩된 비디오 비트스트림에 대한 신택스를 생성하도록 구성된 비디오 인코더의 예를 표현한다. 인코딩 디바이스 (1204) 는 예를 들어, 위에서 설명된 바와 같이 VPS, SPS, 및 PPS 파라미터 세트들을 생성할 수도 있다. 인코딩 디바이스 (1204) 는 도 12 및 도 13 에 대하여 위에서 설명된 프로세스들을 포함하는, 본원에서 설명된 기법들 중의 임의의 것을 수행할 수도 있다. 이 개시물의 기법들은 인코딩 디바이스 (1204) 에 대하여 일반적으로 설명되었지만, 위에서 언급된 바와 같이, 이 개시물의 기법들 중의 일부는 또한, 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.

도 13 은 일 예의 디코딩 디바이스 (1312) 를 예시하는 블록도이다. 디코딩 디바이스 (1312) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역양자화 유닛 (86), 역변환 프로세싱 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 픽처 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 및 인트라 예측 프로세싱 유닛 (84) 을 포함한다. 디코딩 디바이스 (1312) 는 일부 예들에서, 도 12 로부터의 인코딩 디바이스 (1204) 에 대하여 설명된 인코딩 패스와 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다.

디코딩 프로세스 동안, 디코딩 디바이스 (1312) 는 인코딩 디바이스 (1204) 에 의해 전송된 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 표현하는 인코딩된 비디오 비트스트림을 수신한다. 일부 실시형태들에서, 디코딩 디바이스 (1312) 는 인코딩 디바이스 (1204) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 일부 실시형태들에서, 디코딩 디바이스 (1312) 는 서버, 미디어-인지 네트워크 엘리먼트 (media-aware network element; MANE), 비디오 편집기/스플라이서, 또는 위에서 설명된 기법들 중의 하나 이상을 구현하도록 구성된 다른 이러한 디바이스와 같은 네트워크 엔티티 (79) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 네트워크 엔티티 (79) 는 인코딩 디바이스 (1204) 를 포함할 수도 있거나 포함하지 않을 수도 있다. 이 개시물에서 설명된 기법들의 일부는, 네트워크 엔티티 (79) 가 인코딩된 비디오 비트스트림을 디코딩 디바이스 (1312) 로 송신하기 이전에 네트워크 엔티티 (79) 에 의해 구현될 수도 있다. 일부 비디오 디코딩 시스템들에서, 네트워크 엔티티 (79) 및 디코딩 디바이스 (1312) 는 별도의 디바이스들의 일부들일 수도 있는 반면, 다른 사례들에서는, 네트워크 엔티티 (79) 에 대하여 설명된 기능성이 디코딩 디바이스 (1312) 를 포함하는 동일한 디바이스에 의해 수행될 수도 있다.

디코딩 디바이스 (1312) 의 엔트로피 디코딩 유닛 (80) 은 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성하기 위하여 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 으로 포워딩한다. 디코딩 디바이스 (1312) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 디코딩 유닛 (80) 은 VPS, SPS, 및 PPS 와 같은 하나 이상의 파라미터 세트들에서의 고정-길이 신택스 엘리먼트들 및 가변-길이 신택스 엘리먼트들의 양자를 프로세싱하고 파싱할 수도 있다.

비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 은 시그널링된 인트라-예측 모드와, 현재의 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 데이터에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P 또는 GPB) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트 내의 참조 픽처들 중의 하나로부터 생성될 수도 있다. 디코딩 디바이스 (1312) 는 픽처 메모리 (92) 내에 저장된 참조 픽처들에 기초하여, 디폴트 구성 (default construction) 기법들을 이용하여 참조 프레임 리스트들, List 0 및 List 1 을 구성할 수도 있다.

모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 디코딩되고 있는 현재의 비디오 블록에 대한 예측 블록들을 생성하기 위하여 예측 정보를 이용한다. 예를 들어, 모션 보상 유닛 (82) 은 비디오 슬라이스의 비디오 블록들을 코딩하기 위해 이용된 예측 모드 (예컨대, 인트라-예측 또는 인터-예측), 인터-예측 슬라이스 타입 (예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 하나 이상의 참조 픽처 리스트들에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 현재의 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정하기 위하여, 파라미터 세트에서의 하나 이상의 신택스 엘리먼트들을 이용할 수도 있다.

모션 보상 유닛 (82) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (82) 은 참조 블록들의 정수-미만 픽셀들에 대한 보간된 값들을 계산하기 위하여, 비디오 블록들의 인코딩 동안에 인코딩 디바이스 (1204) 에 의해 이용된 바와 같은 보간 필터들을 이용할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 인코딩 디바이스 (1204) 에 의해 이용된 보간 필터들을 결정할 수도 있고, 예측 블록들을 생성하기 위하여 보간 필터들을 이용할 수도 있다.

역양자화 유닛 (86) 은, 비트스트림에서 제공되며 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역양자화 (inverse quantize), 또는 탈양자화(de-quantize) 한다. 역양자화 프로세스는 적용되어야 할 양자화도 및, 마찬가지로, 역양자화도를 결정하기 위하여 비디오 슬라이스에서의 각각의 비디오 블록에 대해 인코딩 디바이스 (1204) 에 의해 계산된 양자화 파라미터의 이용을 포함할 수도 있다. 역변환 프로세싱 유닛 (88) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위하여, 역변환 (예컨대, 역 DCT 또는 다른 적당한 역변환), 역정수 변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다.

모션 보상 유닛 (82) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 디코딩 디바이스 (1312) 는 역변환 프로세싱 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 희망하는 경우, (코딩 루프 내 또는 코딩 루프 이후 중의 어느 하나에서의) 루프 필터들은 또한, 픽셀 천이 (pixel transition) 들을 평활화하거나, 또는 이와 다르게 비디오 품질을 개선시키기 위하여 이용될 수도 있다. 필터 유닛 (91) 은 디블록킹 필터, 적응적 루프 필터 (adaptive loop filter; ALF), 및 샘플 적응적 오프셋 (sample adaptive offset; SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된 것이다. 필터 유닛 (91) 은 인 루프 필터 (in loop filter) 인 것으로서 도 13 에서 도시되어 있지만, 다른 구성들에서는, 필터 유닛 (91) 이 포스트 루프 필터 (post loop filter) 로서 구현될 수도 있다. 다음으로, 소정의 프레임 또는 픽처에서의 디코딩된 비디오 블록들은, 후속 모션 보상을 위하여 이용된 참조 픽처들을 저장하는 픽처 메모리 (92) 내에 저장된다. 픽처 메모리 (92) 는 또한, 도 1 에서 도시된 비디오 목적지 디바이스 (122) 와 같은 디스플레이 디바이스 상에서의 더 이후의 제시를 위하여 디코딩된 비디오를 저장한다.

상기한 설명에서, 애플리케이션의 양태들은 그 특정 실시형태들을 참조하여 설명되지만, 당해 분야의 당업자들은 발명이 그것으로 제한되지는 않는다는 것을 인식할 것이다. 이에 따라, 애플리케이션의 예시적인 실시형태들은 본원에서 상세하게 설명되었지만, 발명 개념들은 이와 다르게 다양하게 구체화될 수도 있고 채용될 수도 있고, 첨부된 청구항들은 선행 기술에 의해 제한된 것과 같은 것을 제외하고는, 이러한 변형들을 포함하는 것으로 해석되는 것으로 의도된다는 것이 이해되어야 한다. 상기 설명된 발명의 다양한 특징들 및 양태들은 개별적으로 또는 공동으로 이용될 수도 있다. 또한, 실시형태들은 명세서의 더 넓은 사상 및 범위로부터 이탈하지 않으면서, 본원에서 설명된 것들을 초월하여 임의의 수의 환경들 및 애플리케이션들에서 사용될 수 있다. 따라서, 명세서 및 도면들은 한정적인 것이 아니라, 예시적인 것으로 간주되어야 한다. 예시의 목적들을 위하여, 방법들은 특정한 순서로 설명되었다. 대안적인 실시형태들에서, 방법들은 설명된 것 이외의 상이한 순서로 수행될 수도 있다는 것이 인식되어야 한다.

컴포넌트들이 어떤 동작들을 수행하도록 "구성되는 것" 으로서 설명될 경우, 이러한 구성들은 예를 들어, 동작을 수행하기 위하여 전자 회로들 또는 다른 하드웨어를 설계함으로써, 동작을 수행하기 위하여 프로그래밍가능한 전자 회로들 (예컨대, 마이크로프로세서들, 또는 다른 적당한 전자 회로들) 을 프로그래밍함으로써, 또는 그 임의의 조합으로 달성될 수 있다.

본원에서 개시된 실시형태들과 관련하여 설명된 다양한 예시적인 논리적 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합들로서 구현될 수도 있다. 하드웨어 및 소프트웨어의 이 교환가능성을 명확하게 예시하기 위하여, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들, 및 단계들은 일반적으로 그 기능성의 측면에서 위에서 설명되었다. 이러한 기능성이 하드웨어 또는 소프트웨어로서 구현되는지 여부는 특정 애플리케이션과, 전체적인 시스템에 부과된 설계 제약들에 종속된다. 숙련된 기술자들은 각각의 특별한 애플리케이션을 위한 다양한 방법들로 설명된 기능성을 구현할 수도 있지만, 이러한 구현 판정들은 본 발명의 범위로부터의 이탈을 야기시키는 것으로 해석되지 않아야 한다.

본원에서 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그 임의의 조합으로 구현될 수도 있다. 이러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 애플리케이션을 포함하는 다수의 용도들을 가지는 집적 회로 디바이스들과 같은 다양한 디바이스들 중의 임의의 것에서 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명된 임의의 특징들은 집적된 로직 디바이스에서 함께, 또는 개별적이지만 상호 동작가능한 로직 디바이스들로서 별도로 구현될 수도 있다. 소프트웨어로 구현될 경우, 기법들은, 실행될 때, 위에서 설명된 방법들 중의 하나 이상을 수행하는 명령들을 포함하는 프로그램 코드를 포함하는 컴퓨터-판독가능 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터-판독가능 데이터 저장 매체는 패키징 재료들을 포함할 수도 있는 컴퓨터 프로그램 제품의 일부를 형성할 수도 있다. 컴퓨터-판독가능 매체는 동기식 랜덤 액세스 메모리 (synchronous dynamic random access memory; SDRAM) 와 같은 랜덤 액세스 메모리 (random access memory; RAM), 판독-전용 메모리 (read-only memory; ROM), 비-휘발성 랜덤 액세스 메모리 (non-volatile random access memory; NVRAM), 전기적 소거가능 프로그래밍가능 판독-전용 메모리 (electrically erasable programmable read-only memory; EEPROM), 플래시 메모리 (FLASH memory), 자기 또는 광학 데이터 저장 매체들 등과 같은 메모리 또는 데이터 저장 매체들을 포함할 수도 있다. 추가적으로 또는 대안적으로, 기법들은 전파된 신호들 또는 파 (wave) 들과 같이, 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 반송하거나 통신하며 컴퓨터에 의해 액세스, 판독, 및/또는 실행될 수 있는 컴퓨터-판독가능 통신 매체에 의해 적어도 부분적으로 실현될 수도 있다.

프로그램 코드는, 하나 이상의 디지털 신호 프로세서 (digital signal processor; DSP) 들, 범용 마이크로프로세서들, 애플리케이션 특정 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능한 로직 어레이 (field programmable logic array; FPGA) 들, 또는 다른 등가의 집적 또는 개별 로직 회로부와 같은 하나 이상의 프로세서들을 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 이러한 프로세서는 이 개시물에서 설명된 기법들 중의 임의의 것을 수행하도록 구성될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안적으로, 프로세서는 임의의 기존의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한, 컴퓨팅 디바이스들의 조합, 예를 들어, DSP 및 마이크로프로세서, 복수의 마이크로프로세서들, DSP 코어와 함께 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성의 조합으로서 구현될 수도 있다. 따라서, 본원에서 이용된 바와 같은 용어 "프로세서" 는 상기한 구조, 상기 구조의 임의의 조합, 또는 본원에서 설명된 기법들의 구현을 위해 적당한 임의의 다른 구조 또는 장치 중의 임의의 것을 지칭할 수도 있다. 게다가, 일부의 양태들에서, 본원에서 설명된 기능성은, 인코딩 및 디코딩을 위해 구성되거나, 조합된 비디오 인코더-디코더 (combined video encoder-decoder; CODEC) 내에 편입된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에서 제공될 수도 있다.

본원에서 논의된 코딩 기법들은 일 예의 비디오 인코딩 및 디코딩 시스템에서 구체화될 수도 있다. 시스템은 목적지 디바이스에 의해 더 이후의 시간에 디코딩되어야 할 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 컴퓨터-판독가능 매체를 통해 비디오 데이터를 목적지 디바이스에 제공한다. 소스 디바이스 및 목적지 디바이스는, 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 (set-top) 박스들, 소위 "스마트" 폰들과 같은 전화 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스들, 또는 등을 포함하는 광범위한 디바이스들 중의 임의의 것을 포함할 수도 있다. 일부 경우들에는, 소스 디바이스 및 목적지 디바이스가 무선 통신을 위해 구비될 수도 있다.

목적지 디바이스는 컴퓨터-판독가능 매체를 통해, 디코딩되어야 할 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터-판독가능 매체는 인코딩된 비디오 데이터를 소스 디바이스로부터 목적지 디바이스로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 컴퓨터-판독가능 매체는 소스 디바이스가 인코딩된 비디오 데이터를 실시간으로 목적지 디바이스로 직접 송신하는 것을 가능하게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 목적지 디바이스로 송신될 수도 있다. 통신 매체는 라디오 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷-기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 가능하게 하기 위해 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

일부 예들에서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스로 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 (Blu-ray) 디스크들, DVD 들, CD-ROM 들, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적당한 디지털 저장 매체들과 같은, 다양한 분산되거나 국소적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스는 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스는 스트리밍 또는 다운로드를 통해 저장 디바이스로부터 저장된 비디오 데이터를 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장할 수 있으며 그 인코딩된 비디오 데이터를 목적지 디바이스로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 일 예의 파일 서버들은 (예컨대, 웹사이트를 위한) 웹 서버, FTP 서버, 네트워크 연결 저장 (network attached storage; NAS) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스는 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터를 액세스할 수도 있다. 이것은, 파일 서버 상에 저장된 인코딩된 비디오 데이터를 액세스하기 위해 적당한 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 양자의 조합을 포함할 수도 있다. 저장 디바이스로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 그 조합일 수도 있다.

이 개시물의 기법들은 무선 애플리케이션들 또는 세팅들로 반드시 제한되는 것은 아니다. 기법들은 오버-디-에어 (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, HTTP 를 통한 동적 적응 스트리밍 (DASH) 과 같은 인터넷 스트리밍 비디오 송신들, 데이터 저장 매체 상으로 인코딩되는 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들과 같은, 다양한 멀티미디어 애플리케이션들 중의 임의의 것의 지원 하에서 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템은 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위하여 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

하나의 예에서, 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함할 수도 있다. 소스 디바이스의 비디오 인코더는 본원에서 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 배열들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 카메라와 같은 외부 비디오 소스로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스는 통합된 디스플레이 디바이스를 포함하는 것이 아니라, 외부 디스플레이 디바이스와 인터페이스할 수도 있다.

상기 일 예의 시스템은 단지 하나의 예이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 일반적으로, 이 개시물의 기법들은 비디오 인코딩 디바이스에 의해 수행되지만, 기법들은 또한, "CODEC" 으로서 전형적으로 지칭된 비디오 인코더/디코더에 의해 수행될 수도 있다. 또한, 이 개시물의 기법들은 또한, 비디오 프리프로세서 (video preprocessor) 에 의해 수행될 수도 있다. 소스 디바이스들 및 목적지 디바이스들은, 소스 디바이스가 목적지 디바이스로의 송신을 위한 코딩된 비디오 데이터를 생성하는 이러한 코딩 디바이스들의 예들에 불과하다. 일부 예들에서, 소스 및 목적지 디바이스들은, 디바이스들의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 이 때문에, 일 예의 시스템들은 예컨대, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 또는 화상 통화를 위하여, 비디오 디바이스들 사이에서 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.

비디오 소스는 비디오 카메라와 같은 비디오 캡처 디바이스, 이전에 캡처된 비디오를 포함하는 비디오 아카이브 (video archive), 및/또는 비디오 컨텐츠 제공자로부터 비디오를 수신하기 위한 비디오 공급 인터페이스를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스는 소스 비디오로서, 또는 라이브 비디오 (live video), 아카이빙된 비디오 (archived video), 및 컴퓨터 생성된 비디오의 조합으로서, 컴퓨터 그래픽-기반 (computer graphics-based) 데이터를 생성할 수도 있다. 일부 경우들에는, 비디오 소스가 비디오 카메라일 경우, 소스 디바이스 및 목적지 디바이스가 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 위에서 언급된 바와 같이, 이 개시에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각각의 경우에 있어서, 캡처된, 프리-캡처된 (pre-captured), 또는 컴퓨터-생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 다음으로, 인코딩된 비디오 정보는 출력 인터페이스에 의해 컴퓨터-판독가능 매체 상으로 출력될 수도 있다.

언급된 바와 같이, 컴퓨터-판독가능 매체는 무선 브로드캐스트 또는 유선 네트워크 송신과 같은 순시적 매체 (transient medium) 들, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터-판독가능 매체들과 같은 저장 매체들 (즉, 비-일시적인 저장 매체들) 을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (도시되지 않음) 는 예컨대, 네트워크 송신을 통해, 소스 디바이스로부터 인코딩된 비디오 데이터를 수신할 수도 있으며 인코딩된 비디오 데이터를 목적지 디바이스에 제공할 수도 있다. 유사하게, 디스크 스탬핑 (disc stamping) 설비와 같은 매체 생산 설비의 컴퓨팅 디바이스는 소스 디바이스로부터 인코딩된 비디오 데이터를 수신할 수도 있고, 인코딩된 비디오 데이터를 포함하는 디스크를 생산할 수도 있다. 그러므로, 컴퓨터-판독가능 매체는 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터-판독가능 매체들을 포함하는 것으로 이해될 수도 있다.

목적지 디바이스의 입력 인터페이스는 컴퓨터-판독가능 매체로부터 정보를 수신한다. 컴퓨터-판독가능 매체의 정보는, 블록들 및 다른 코딩된 유닛들, 예컨대, 픽처들의 그룹 (group of pictures; GOP) 들의 특성들 및/또는 프로세싱을 설명하는 신택스 엘리먼트들을 포함하는 신택스 정보로서, 비디오 인코더에 의해 정의되며 또한, 비디오 디코더에 의해 이용되는 상기 신택스 정보를 포함할 수도 있다. 디스플레이 디바이스는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (cathode ray tube; CRT), 액정 디스플레이 (liquid crystal display; LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (organic light emitting diode; OLED) 디스플레이, 또는 또 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중의 임의의 것을 포함할 수도 있다. 발명의 다양한 실시형태들이 설명되었다.

Claims

가상 현실 데이터를 프로세싱하는 방법으로서,
상기 가상 현실 데이터를 획득하는 단계로서, 상기 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현하는, 상기 가상 현실 데이터를 획득하는 단계;
파일에 상기 가상 현실 데이터를 저장하는 단계로서, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일에 상기 가상 현실 데이터를 저장하는 단계; 및
상기 트랙 박스에 샘플 엔트리를 저장하는 단계로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하며, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하고, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의하는, 상기 트랙 박스에 샘플 엔트리를 저장하는 단계를 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 1 항에 있어서,
상기 샘플 엔트리에 방식 타입 박스를 저장하는 단계로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에 방식 타입 박스를 저장하는 단계를 더 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 1 항에 있어서,
상기 파일 내에 상기 가상 현실 데이터에 관련된 파라미터들을 저장하는 단계를 더 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 3 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 (pre-stitched) 비디오 데이터 또는 포스트-스티칭된 (post-stitched) 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 3 항에 있어서,
방식 정보 박스에 상기 파라미터들을 저장하는 단계를 더 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 1 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (International Standards Organization; ISO) 기반 미디어 파일 포맷에 기초하는, 가상 현실 데이터를 프로세싱하는 방법.
가상 현실 데이터를 인코딩하기 위한 디바이스로서,
상기 가상 현실 데이터를 저장하도록 구성된 메모리로서, 상기 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현하는, 상기 메모리; 및
상기 메모리와 통신하는 출력 엔진으로서, 상기 출력 엔진은,
파일에 상기 가상 현실 데이터를 저장하는 것으로서, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일에 상기 가상 현실 데이터를 저장하고; 그리고
샘플 엔트리를 상기 트랙 박스로 저장하는 것으로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하며, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하고, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의하는, 상기 샘플 엔트리를 상기 트랙 박스로 저장하도록 구성되는, 상기 출력 엔진을 포함하는, 가상 현실 데이터를 인코딩하기 위한 디바이스.
제 7 항에 있어서,
상기 출력 엔진은,
방식 타입 박스를 상기 샘플 엔트리로 저장하는 것으로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 방식 타입 박스를 상기 샘플 엔트리로 저장하도록 추가로 구성되는, 가상 현실 데이터를 인코딩하기 위한 디바이스.
제 7 항에 있어서,
상기 출력 엔진은,
상기 파일에 상기 가상 현실 데이터에 관련된 파라미터들을 저장하도록 추가로 구성되는, 가상 현실 데이터를 인코딩하기 위한 디바이스.
제 9 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 가상 현실 데이터를 인코딩하기 위한 디바이스.
제 9 항에 있어서,
상기 출력 엔진은,
방식 정보 박스에 상기 파라미터들을 저장하도록 추가로 구성되는, 가상 현실 데이터를 인코딩하기 위한 디바이스.
제 7 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 가상 현실 데이터를 인코딩하기 위한 디바이스.
명령들을 저장한 비-일시적 컴퓨터-판독가능 저장 매체로서,
상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서들로 하여금,
가상 현실 데이터를 획득하게 하는 것으로서, 상기 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현하는, 상기 가상 현실 데이터를 획득하게 하고;
파일에 상기 가상 현실 데이터를 저장하게 하는 것으로서, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일에 상기 가상 현실 데이터를 저장하게 하고; 그리고
상기 트랙 박스에 샘플 엔트리를 저장하게 하는 것으로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하며, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하고, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의하는, 상기 트랙 박스에 샘플 엔트리를 저장하게 하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 13 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서들로 하여금,
상기 샘플 엔트리에 방식 타입 박스를 저장하게 하는 것으로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에 방식 타입 박스를 저장하게 하는 명령들을 더 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 13 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서들로 하여금,
상기 파일 내에 상기 가상 현실 데이터에 관련된 파라미터들을 저장하게 하는 명령들을 더 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 15 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 15 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서들로 하여금,
방식 정보 박스에 상기 파라미터들을 저장하게 하는 명령들을 더 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 13 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 비-일시적 컴퓨터-판독가능 저장 매체.
가상 현실 데이터를 프로세싱하기 위한 장치로서,
상기 가상 현실 데이터를 획득하기 위한 수단으로서, 상기 가상 현실 데이터는 가상적인 환경의 360-도 뷰를 표현하는, 상기 가상 현실 데이터를 획득하기 위한 수단;
파일에 상기 가상 현실 데이터를 저장하기 위한 수단으로서, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일에 상기 가상 현실 데이터를 저장하기 위한 수단; 및
상기 트랙 박스에 샘플 엔트리를 저장하기 위한 수단으로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하며, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하고, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 정의하는, 상기 트랙 박스에 샘플 엔트리를 저장하기 위한 수단을 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 19 항에 있어서,
상기 샘플 엔트리에 방식 타입 박스를 저장하기 위한 수단으로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에 방식 타입 박스를 저장하기 위한 수단을 더 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 19 항에 있어서,
상기 파일 내에 상기 가상 현실 데이터에 관련된 파라미터들을 저장하기 위한 수단을 더 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 21 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 21 항에 있어서,
방식 정보 박스에 상기 파라미터들을 저장하기 위한 수단을 더 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 19 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
가상 현실 데이터를 프로세싱하는 방법으로서,
파일을 획득하는 단계로서, 상기 파일은 가상 현실 데이터를 포함하고, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일을 획득하는 단계;
상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하는 단계로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하는, 상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하는 단계;
상기 한정된 방식 정보 박스에 의해 제공된 정보에 기초하여, 상기 하나 이상의 샘플들에 대한 방식이 가상 현실 방식인 것으로 결정하는 단계로서, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 상기 방식을 상기 가상 현실 방식으로서 정의하고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하는, 상기 하나 이상의 샘플들에 대한 방식이 가상 현실 방식인 것으로 결정하는 단계; 및
상기 가상 현실 방식에 따라 상기 하나 이상의 샘플들을 프로세싱하는 단계를 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 25 항에 있어서,
상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하는 단계로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하는 단계를 더 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 25 항에 있어서,
상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하는 단계로서, 상기 파라미터들은 상기 파일에 저장되는, 상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하는 단계를 더 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 27 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 가상 현실 데이터를 프로세싱하는 방법.
제 27 항에 있어서,
상기 파라미터들은 방식 정보 박스에서의 상기 파일에 저장되는, 가상 현실 데이터를 프로세싱하는 방법.
제 25 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 가상 현실 데이터를 프로세싱하는 방법.
가상 현실 데이터를 디코딩하기 위한 디바이스로서,
파일을 저장하도록 구성된 메모리로서, 상기 파일은 상기 가상 현실 데이터를 포함하고, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 메모리; 및
상기 메모리와 통신하는 입력 엔진으로서, 상기 입력 엔진은,
상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하는 것으로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하는, 상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하고;
상기 한정된 방식 정보 박스에서의 정보에 기초하여, 상기 하나 이상의 샘플들에 대한 방식이 가상 현실 방식인 것으로 결정하는 것으로서, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 상기 방식을 상기 가상 현실 방식으로서 정의하고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하는, 상기 하나 이상의 샘플들에 대한 방식이 가상 현실 방식인 것으로 결정하고; 그리고
상기 가상 현실 방식에 따라 상기 하나 이상의 샘플들을 프로세싱하도록 구성되는, 상기 입력 엔진을 포함하는, 가상 현실 데이터를 디코딩하기 위한 디바이스.
제 31 항에 있어서,
상기 입력 엔진은,
상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하는 것으로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하도록 추가로 구성되는, 가상 현실 데이터를 디코딩하기 위한 디바이스.
제 31 항에 있어서,
상기 입력 엔진은,
상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하는 것으로서, 상기 파라미터들은 상기 파일에 저장되는, 상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하도록 추가로 구성되는, 가상 현실 데이터를 디코딩하기 위한 디바이스.
제 33 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 가상 현실 데이터를 디코딩하기 위한 디바이스.
제 33 항에 있어서,
상기 파라미터들은 방식 정보 박스에서의 상기 파일에 저장되는, 가상 현실 데이터를 디코딩하기 위한 디바이스.
제 31 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 가상 현실 데이터를 디코딩하기 위한 디바이스.
명령들을 저장한 비-일시적 컴퓨터-판독가능 저장 매체로서,
상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서로 하여금,
파일을 획득하게 하는 것으로서, 상기 파일은 가상 현실 데이터를 포함하고, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일을 획득하게 하고;
상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하게 하는 것으로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하는, 상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하게 하고;
상기 한정된 방식 정보 박스에 의해 제공된 정보에 기초하여, 상기 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 결정하게 하는 것으로서, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 상기 방식을 상기 가상 현실 방식으로서 정의하고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하는, 상기 하나 이상의 샘플들에 대한 방식을 가상 현실 방식으로서 결정하게 하고; 그리고
상기 가상 현실 방식에 따라 상기 하나 이상의 샘플들을 프로세싱하게 하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 37 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서들로 하여금,
상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하게 하는 것으로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하게 하는 명령들을 더 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 37 항에 있어서,
상기 하나 이상의 프로세서들에 의해 실행될 경우, 상기 하나 이상의 프로세서들로 하여금,
상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하게 하는 것으로서, 상기 파라미터들은 상기 파일에 저장되는, 상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하게 하는 명령들을 더 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 39 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 39 항에 있어서,
상기 파라미터들은 방식 정보 박스에서의 상기 파일에 저장되는, 비-일시적 컴퓨터-판독가능 저장 매체.
제 37 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 비-일시적 컴퓨터-판독가능 저장 매체.
가상 현실 데이터를 프로세싱하기 위한 장치로서,
파일을 획득하기 위한 수단으로서, 상기 파일은 상기 가상 현실 데이터를 포함하고, 상기 가상 현실 데이터는 파일 포맷에 따라 상기 파일에 저장되고, 상기 파일 포맷은 상기 파일에 데이터를 저장하기 위한 박스들을 정의하며, 박스는 객체 지향 데이터 구조이고, 상기 파일 포맷은 상기 가상 현실 데이터를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고 상기 가상 현실 데이터와 연관된 정보를 저장하는 하나 이상의 박스들의 상기 파일 내의 배치를 특정하고, 상기 가상 현실 데이터와 연관된 상기 정보는 트랙 박스 내에 저장되며, 트랙 박스들은 오디오 데이터 또는 비디오 데이터 중 하나 이상에 대한 데이터를 저장하는, 상기 파일을 획득하기 위한 수단;
상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하기 위한 수단으로서, 상기 샘플 엔트리는 하나 이상의 샘플들과 연관되고, 상기 샘플 엔트리는 한정된 방식 정보 박스를 포함하는, 상기 파일 내의 상기 트랙 박스에서의 샘플 엔트리를 프로세싱하기 위한 수단;
상기 한정된 방식 정보 박스에 의해 제공된 정보에 기초하여, 상기 하나 이상의 샘플들에 대한 방식이 가상 현실 방식인 것으로 결정하기 위한 수단으로서, 상기 한정된 방식 정보 박스는 상기 하나 이상의 샘플들에 대한 상기 방식을 상기 가상 현실 방식으로서 정의하고, 상기 하나 이상의 샘플들은 상기 가상 현실 데이터의 적어도 부분을 포함하는, 상기 하나 이상의 샘플들에 대한 방식이 가상 현실 방식인 것으로 결정하기 위한 수단; 및
상기 가상 현실 방식에 따라 상기 하나 이상의 샘플들을 프로세싱하기 위한 수단을 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 43 항에 있어서,
상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하기 위한 수단으로서, 상기 방식 타입 박스는 방식 타입을 포함하고, 상기 방식 타입은 상기 가상 현실 방식으로서 정의되는, 상기 샘플 엔트리에서의 방식 타입 박스를 프로세싱하기 위한 수단을 더 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 43 항에 있어서,
상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하기 위한 수단으로서, 상기 파라미터들은 상기 파일에 저장되는, 상기 가상 현실 데이터에 관련된 파라미터들을 프로세싱하기 위한 수단을 더 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 45 항에 있어서,
상기 파라미터들은 상기 가상 현실 데이터가 2-차원 비디오 데이터 또는 3-차원 비디오 데이터를 포함하는지 여부의 표시, 상기 가상 현실 데이터가 프리-스티칭된 비디오 데이터 또는 포스트-스티칭된 비디오 데이터인지 여부의 표시, 또는 상기 가상 현실 데이터에 대한 맵핑 타입 중의 하나 이상을 포함하는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 45 항에 있어서,
상기 파라미터들은 방식 정보 박스에서의 상기 파일에 저장되는, 가상 현실 데이터를 프로세싱하기 위한 장치.
제 43 항에 있어서,
상기 파일 포맷은 국제 표준 기구 (ISO) 기반 미디어 파일 포맷에 기초하는, 가상 현실 데이터를 프로세싱하기 위한 장치.