KR102614206B1 - 비디오 코딩을 위한 서브-픽처 비트스트림들을 포함한 비디오 컨텐츠의 시그널링 - Google Patents
비디오 코딩을 위한 서브-픽처 비트스트림들을 포함한 비디오 컨텐츠의 시그널링 Download PDFInfo
- Publication number
- KR102614206B1 KR102614206B1 KR1020197030999A KR20197030999A KR102614206B1 KR 102614206 B1 KR102614206 B1 KR 102614206B1 KR 1020197030999 A KR1020197030999 A KR 1020197030999A KR 20197030999 A KR20197030999 A KR 20197030999A KR 102614206 B1 KR102614206 B1 KR 102614206B1
- Authority
- KR
- South Korea
- Prior art keywords
- sub
- picture
- track
- video
- box
- Prior art date
Links
- 230000011664 signaling Effects 0.000 title description 13
- 238000012545 processing Methods 0.000 claims abstract description 63
- 238000000034 method Methods 0.000 claims description 98
- 238000004891 communication Methods 0.000 claims description 37
- 238000003860 storage Methods 0.000 claims description 32
- 230000005540 biological transmission Effects 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 22
- 230000008520 organization Effects 0.000 claims description 10
- 230000001413 cellular effect Effects 0.000 claims description 6
- 230000010267 cellular communication Effects 0.000 claims description 5
- 238000012986 modification Methods 0.000 abstract description 4
- 230000004048 modification Effects 0.000 abstract description 4
- 238000007792 addition Methods 0.000 abstract 1
- 230000033001 locomotion Effects 0.000 description 70
- 239000010410 layer Substances 0.000 description 37
- 239000012634 fragment Substances 0.000 description 30
- 239000013598 vector Substances 0.000 description 26
- 238000013139 quantization Methods 0.000 description 21
- 238000013459 approach Methods 0.000 description 17
- 230000000875 corresponding effect Effects 0.000 description 15
- 230000003044 adaptive effect Effects 0.000 description 13
- 238000000638 solvent extraction Methods 0.000 description 12
- 238000013500 data storage Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 11
- 241000023320 Luma <angiosperm> Species 0.000 description 10
- 230000006835 compression Effects 0.000 description 10
- 238000007906 compression Methods 0.000 description 10
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 10
- 238000009877 rendering Methods 0.000 description 10
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 8
- 230000002123 temporal effect Effects 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 7
- 238000013507 mapping Methods 0.000 description 6
- 230000001419 dependent effect Effects 0.000 description 5
- 238000005538 encapsulation Methods 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 108091000069 Cystinyl Aminopeptidase Proteins 0.000 description 3
- 102100020872 Leucyl-cystinyl aminopeptidase Human genes 0.000 description 3
- 238000003491 array Methods 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000004424 eye movement Effects 0.000 description 2
- 230000004886 head movement Effects 0.000 description 2
- AWSBQWZZLBPUQH-UHFFFAOYSA-N mdat Chemical compound C1=C2CC(N)CCC2=CC2=C1OCO2 AWSBQWZZLBPUQH-UHFFFAOYSA-N 0.000 description 2
- 238000012856 packing Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 101500019086 Ustilago maydis P6 virus KP6 killer toxin subunit alpha Proteins 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012432 intermediate storage Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000005022 packaging material Substances 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
- H04N21/2353—Processing of additional data, e.g. scrambling of additional data or processing content descriptors specifically adapted to content descriptors, e.g. coding, compressing or processing of metadata
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/19—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
- G11B27/28—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
- G11B27/30—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording
- G11B27/3027—Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording used signal is digitally coded
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/33—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4347—Demultiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4348—Demultiplexing of additional data and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/84—Generation or processing of descriptive data, e.g. content descriptors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/85406—Content authoring involving a specific file format, e.g. MP4 format
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/8547—Content authoring involving timestamps for synchronizing content
Abstract
다양한 구현들에 있어서, ISOBMFF 에 대한 수정들 및/또는 추가들이 비디오 데이터를 프로세싱하기 위해 제공된다. 복수의 서브-픽처 비트스트림들이 메모리로부터 획득되며, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩된다. 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들이 복수의 서브-픽처 트랙들로서 각각 저장된다. 복수의 서브-픽처 트랙들을 기술하는 메타데이터가 파일 포맷에 따라 미디어 파일 내의 트랙 박스에 저장된다. 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 포함하는 서브-픽처 베이스 트랙이 제공된다.
Description
우선권 주장
본 특허 출원은 "SIGNALLING OF VIDEO CONTENT INCLUDING SUB-PICTURE BITSTREAMS" 의 명칭으로 2017년 3월 23일자로 출원된 가출원 제 62/475,832 호, 및 2018년 3월 21일자로 출원된 미국 정규출원 제 15/927,993 호를 우선권 주장하고, 이 출원들의 전체 내용들은 본 명세서에 참조로 명백히 통합된다.
기술분야
본 출원은 ISO 베이스 미디어 파일 포맷 (ISOBMFF) 및/또는 ISOBMFF 로부터 파생된 파일 포맷들과 같은 비디오 코딩에 사용될 수도 있는 하나 이상의 미디어 파일 포맷들과 관련된 비디오 컨텐츠의 시그널링에 관한 것이다. 예를 들어, 본 출원은 가상 현실 (VR) 과의 사용을 위한 하나 이상의 미디어 파일 포맷들과 관련된 비디오 컨텐츠의 시그널링에 관한 것이다. 추가의 예로서, 본 출원은 비디오 코딩과의 사용을 위한 서브-픽처 비트스트림들을 포함한 하나 이상의 미디어 파일 포맷들과 관련된 비디오 컨텐츠의 시그널링을 위한 방법들, 디바이스들, 및 시스템들에 관한 것이다.
비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼, ITU-T H.264 또는 ISO/IEC MPEG-4 AVC (스케일러블 비디오 코딩 (SVC) 으로서 공지된 그 스케일러블 비디오 코딩 확장 및 멀티뷰 비디오 코딩 (MVC) 확장들로서 공지된 그 멀티뷰 비디오 코딩 확장을 포함), 및 ITU-T H.265 및 ISO/IEC 23008-2 로서 또한 공지된 고효율 비디오 코딩 (HEVC) (그 스케일러블 코딩 확장 (즉, 스케일러블 고효율 비디오 코딩, SHVC) 및 멀티뷰 확장 (즉, 멀티뷰 고효율 비디오 코딩, MV-HEVC) 을 포함) 을 포함한다.
복수의 서브-픽처 트랙들에 저장된 복수의 서브-픽처 비트스트림들을 포함한 비디오의 시그널링을 위한 기법들이 설명된다. 더 구체적으로, 서브-픽처 트랙들 간의 관계의 시그널링, 전체 픽처의 공간 해상도, 및 모든 비디오 컨텐츠에 대한 타이밍된 메타데이터를 인에이블하는 시그널링 접근법들에 대한 기법들이 설명된다.
일부 예들에 있어서, 별도의 및 독립적인 서브-픽처 비트스트림들의 인코딩 및 디코딩을 위한 기법들이 설명된다. 독립적인 서브-픽처 비트스트림들은, 예를 들어, 종래의 2차원 (2D) 뿐 아니라 가상 현실 (VR) 환경에 대한 적용가능성을 찾는다. VR 은 사용자로 하여금 비물리적 세계와 상호작용할 수 있게 하는 움직임들에 의해 상관된 자연적 및/또는 합성적 이미지 및 사운드의 렌더링에 의해 생성된 그 비물리적 세상에 사용자가 존재한다는 인식을 사용자에게 제공한다.
일부 예들에 있어서, 상기 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 것을 더 포함하고, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩된다. 일부 예들에 있어서, 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 것, 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들과 연관된 파라미터들을 기술하는 메타데이터를 저장하는 것이다.
일부 예들에 있어서, 상기 설명된 방법들, 장치들, 및 컴퓨터 판독가능 매체는 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 저장하는 것을 더 포함한다.
일부 예들에 있어서, 파라미터들은 가상 현실 데이터가 2차원 비디오 데이터를 포함하는지 또는 3차원 비디오 데이터를 포함하는지 여부의 표시, 비디오 데이터가 사전-스티칭된 (pre-stitched) 비디오 데이터인지 또는 사후-스티칭된 비디오 데이터인지의 표시, 또는 비디오 데이터의 맵핑 타입 중 하나 이상을 포함한다. 일부 예들에 있어서, 파라미터들은 방식 정보 박스에서의 파일에 저장된다.
일부 예들에 있어서, 파일 포맷은 ISO (International Standards Organization) 베이스 미디어 파일 포맷에 기초한다.
일 예에 따르면, 비디오 데이터를 프로세싱하는 방법은, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 단계로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 단계; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 단계; 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하는 단계를 포함한다. 미디어 파일은 옵션적으로, 적어도 하나의 파일을 포함한다. 마찬가지로, 그 방법은 옵션적으로, 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 저장하는 단계 및 트랙 박스의 샘플 디스크립션 박스 내의 샘플 엔트리 타입에 기초하여 서브-픽처 베이스 트랙을 표시하는 단계를 포함할 수도 있다. 일 예에 따르면, 서브-픽처 베이스 트랙은 옵션적으로, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 포함한다. 마찬가지로, 메타데이터는 옵션적으로, 복수의 서브-픽처 트랙들의 세트와 연관된 전체 픽처의 공간 해상도를 포함할 수도 있다. 파일 포맷은 옵션적으로, ISO (International Standards Organization) 베이스 미디어 파일 포맷 및/또는 ISO/IEC 14496-12, 파트 12 에 의해 식별된 ISO 베이스 미디어 파일 포맷의 8.3.4절에 기재된 TrackGroupTypeBox 로의 역방향 호환성 확장에 기초할 수도 있다.
다른 예에 따르면, 비디오 데이터를 프로세싱하는 방법은, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 단계로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 단계; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 단계; 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하는 단계를 포함한다. 그 방법은 옵션적으로, 트랙 박스 내에, 트랙 박스와 연관된 트랙이 서브-픽처 트랙들의 그룹 중 하나임을 표시하는 값에 대한 트랙 그룹 타입을 저장하는 단계를 포함할 수도 있고, 서브-픽처 트랙들의 그룹은 비디오 데이터의 단일의 표현을 나타낸다. 그 방법은 또한 옵션적으로, 트랙 박스 내에, 트랙 그룹화 타입을 지정하는 트랙 그룹 타입 박스를 저장하는 단계를 포함할 수도 있다. 파일 포맷은 옵션적으로, ISO (International Standards Organization) 베이스 미디어 파일 포맷 및/또는 ISO/IEC 14496-12, 파트 12 에 의해 식별된 ISO 베이스 미디어 파일 포맷의 8.3.4절에 기재된 TrackGroupTypeBox 로의 역방향 호환성 확장에 기초할 수도 있다.
다른 예에 따르면, 비디오 데이터를 프로세싱하는 방법은, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 단계로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 단계; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 단계; 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하는 단계를 포함한다. 그 방법은 옵션적으로, 트랙 박스 내에, 트랙 그룹화 타입을 지정하는 트랙 그룹 타입 박스를 저장하는 단계를 포함할 수도 있다. 마찬가지로, 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시할 수도 있다. 추가로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 트랙 그룹화 타입이 표시할 경우, 그 방법은 옵션적으로, 트랙 박스 내에, 트랙에서의 서브-픽처들의 서브-픽처 행 인덱스 정보 및 서브-픽처 열 인덱스 정보를 저장하는 단계를 포함할 수도 있다.
다른 예에 따르면, 비디오 데이터를 프로세싱하는 방법은, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 단계로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 단계; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 단계; 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하는 단계를 포함한다. 서브-픽처들은 옵션적으로, 서브-픽처 비트스트림 내에서 인코딩될 수도 있고, 서브-픽처 행들 및 서브-픽처 열들에서 정의된다. 서브-픽처들은 옵션적으로, 서브-픽처 비트스트림 내에서 인코딩될 수도 있고, 타일들이 타일 행들 및 타일 열들로 정의되도록 타일들로서 그룹화가능하다.
다른 예에 따르면, 비디오 데이터를 프로세싱하는 방법은, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 단계로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 단계; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 단계; 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하는 단계를 포함한다. 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 트랙 그룹화 타입이 표시할 경우, 그 방법은 옵션적으로, 트랙 박스 내에, 트랙에서의 서브-픽처의 좌상측 코너 픽셀에 대응하는 좌표를 저장할 수도 있다. 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 트랙 그룹화 타입이 표시할 경우, 그 방법은 옵션적으로, 트랙 박스 내에, 전체 픽처의 사이즈를 나타내는 정보를 저장할 수도 있다.
일 예에 따르면, 비디오 데이터를 디코딩하기 위한 디바이스가 제공되며, 그 디바이스는 적어도 하나의 파일 및 미디어 파일을 저장하도록 구성된 메모리로서, 미디어 파일은 파일 포맷에 따라 포맷팅되고, 적어도 하나의 파일은 복수의 서브-픽처 트랙들을 포함하는, 상기 메모리; 및 메모리와 통신하는 프로세서를 포함하고, 그 프로세서는 미디어 파일을 프로세싱하고; 그리고 미디어 파일 내의 트랙 박스로부터, 적어도 하나의 파일 내에 포함된 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 획득하도록 구성된다. 관련 예에 따르면, 그 디바이스는 상기 기재한 예시적인 방법 동작들에서 유사한 동작들을 수행하도록 동작가능할 수도 있다. 그 디바이스는 옵션적으로, 무선 통신 디바이스일 수도 있고, 복수의 서브-픽처 비트스트림들을 송신하도록 구성된 송신기를 더 포함할 수도 있다. 그 디바이스는 옵션적으로, 셀룰러 전화기일 수도 있고, 복수의 서브-픽처 비트스트림들은 옵션적으로, 셀룰러 통신 표준에 따른 송신을 위해 변조될 수도 있다.
다른 예에 따르면, 비디오 데이터를 프로세싱하기 위한 디바이스가 제공되며, 그 디바이스는 복수의 서브-픽처 비트스트림들을 저장하도록 구성된 메모리로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 메모리; 및 메모리와 통신하는 프로세서를 포함하고, 그 프로세서는, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하고; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하고; 그리고 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하도록 구성된다. 관련 예에 따르면, 그 디바이스는 상기 기재한 예시적인 방법 동작들에서 유사한 동작들을 수행하도록 동작가능할 수도 있다.
관련 예에 따르면, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하는 수단으로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 수단; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하는 수단; 및 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하는 수단을 포함하는 디바이스가 제공된다. 그 디바이스는, 미디어 파일이 적어도 하나의 파일을 포함하는 것을 제공할 수도 있다. 그 디바이스는 옵션적으로, 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 저장하는 수단 또는 트랙 박스의 샘플 디스크립션 박스 내의 샘플 엔트리 타입에 기초하여 서브-픽처 베이스 트랙을 표시하는 수단을 제공할 수도 있다. 그 디바이스는 옵션적으로, 서브-픽처 베이스 트랙이 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 포함하는 것을 제공할 수도 있거나, 또는 그 디바이스는 옵션적으로, 메타데이터가 복수의 서브-픽처 트랙들의 세트와 연관된 전체 픽처의 공간 해상도를 포함하는 것을 제공할 수도 있다. 마찬가지로, 그 디바이스는 ISO (International Standards Organization) 베이스 미디어 파일 포맷에 기초한 파일 포맷을 제공할 수도 있다. 추가로, 그 디바이스는 옵션적으로, 트랙 박스 내에, 트랙 박스와 연관된 트랙이 서브-픽처 트랙들의 그룹 중 하나임을 표시하는 값에 대한 트랙 그룹 타입을 저장하는 수단을 제공할 수도 있고, 서브-픽처 트랙들의 그룹은 비디오 데이터의 단일의 표현을 나타낸다. 트랙 그룹 타입은 옵션적으로, ISO/IEC 14496-12, 파트 12 에 의해 식별된 ISO 베이스 미디어 파일 포맷의 8.3.4절에 기재된 TrackGroupTypeBox 로의 역방향 호환성 확장이다.
관련 예에 따르면, 그 디바이스는 옵션적으로, 트랙 박스 내에, 트랙 그룹화 타입을 지정하는 트랙 그룹 타입 박스를 저장하는 수단을 제공할 수도 있다. 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시할 수도 있다. 추가로, 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시하여, 트랙 박스 내에, 트랙에서의 서브-픽처들의 서브-픽처 행 인덱스 정보 및 서브-픽처 열 인덱스 정보를 저장할 수도 있거나, 또는 서브-픽처 비트스트림 내에서 인코딩된 서브-픽처들이 서브-픽처 행들 및 서브-픽처 열들에서 정의됨을 표시할 수도 있다. 서브-픽처 비트스트림 내에서 인코딩된 서브-픽처들은 옵션적으로, 타일들이 타일 행들 및 타일 열들로 정의되도록 타일들로서 그룹화가능하다. 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시하여, 트랙 박스 내에, 트랙에서의 서브-픽처의 좌상측 코너 픽셀에 대응하는 좌표를 저장할 수도 있다. 추가로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 트랙 그룹화 타입이 표시할 경우, 그 디바이스는, 트랙 박스 내에, 전체 픽처의 사이즈를 나타내는 정보를 저장하는 수단을 제공할 수도 있다.
다른 관련 예에 따르면, 비일시적인 컴퓨터 판독가능 매체가 명령들이 저장된 채로 제공되며, 그 명령들은, 실행될 경우, 전자 디바이스의 하나 이상의 프로세서들로 하여금, 메모리로부터, 복수의 서브-픽처 비트스트림들을 획득하게 하는 것으로서, 각각의 서브-픽처 비트스트림은 비디오 데이터의 공간 부분을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하게 하고; 적어도 하나의 파일에, 복수의 서브-픽처 비트스트림들을 복수의 서브-픽처 트랙들로서 각각 저장하게 하고; 그리고 파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 저장하게 한다. 하나 이상의 프로세서들은, 미디어 파일이 적어도 하나의 파일을 포함하는 것을 제공할 수도 있다. 하나 이상의 프로세서들은 옵션적으로, 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 저장하기 위한 또는 트랙 박스의 샘플 디스크립션 박스 내의 샘플 엔트리 타입에 기초하여 서브-픽처 베이스 트랙을 표시하기 위한 명령들을 제공할 수도 있다. 하나 이상의 프로세서들은 옵션적으로, 서브-픽처 베이스 트랙이 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 포함하는 명령들을 제공할 수도 있거나, 또는 하나 이상의 프로세서들은 옵션적으로, 메타데이터가 복수의 서브-픽처 트랙들의 세트와 연관된 전체 픽처의 공간 해상도를 포함하는 것을 제공할 수도 있다. 마찬가지로, 하나 이상의 프로세서들은 ISO (International Standards Organization) 베이스 미디어 파일 포맷에 기초한 파일 포맷을 제공할 수도 있다. 추가로, 하나 이상의 프로세서들은 옵션적으로, 트랙 박스 내에, 트랙 박스와 연관된 트랙이 서브-픽처 트랙들의 그룹 중 하나임을 표시하는 값에 대한 트랙 그룹 타입을 저장하기 위한 명령들을 제공할 수도 있고, 서브-픽처 트랙들의 그룹은 비디오 데이터의 단일의 표현을 나타낸다. 트랙 그룹 타입은 옵션적으로, ISO/IEC 14496-12, 파트 12 에 의해 식별된 ISO 베이스 미디어 파일 포맷의 8.3.4절에 기재된 TrackGroupTypeBox 로의 역방향 호환성 확장이다.
관련 예에 따르면, 하나 이상의 프로세서들은 옵션적으로, 트랙 박스 내에, 트랙 그룹화 타입을 지정하는 트랙 그룹 타입 박스를 저장하기 위한 명령들을 제공할 수도 있다. 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시할 수도 있다. 추가로, 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시하여, 트랙 박스 내에, 트랙에서의 서브-픽처들의 서브-픽처 행 인덱스 정보 및 서브-픽처 열 인덱스 정보를 저장할 수도 있거나, 또는 서브-픽처 비트스트림 내에서 인코딩된 서브-픽처들이 서브-픽처 행들 및 서브-픽처 열들에서 정의됨을 표시할 수도 있다. 서브-픽처 비트스트림 내에서 인코딩된 서브-픽처들은 옵션적으로, 타일들이 타일 행들 및 타일 열들로 정의되도록 타일들로서 그룹화가능하다. 트랙 그룹화 타입은 옵션적으로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 표시하여, 트랙 박스 내에, 트랙에서의 서브-픽처의 좌상측 코너 픽셀에 대응하는 좌표를 저장할 수도 있다. 추가로, 추가적인 정보가 트랙 박스에 추가되도록 이용가능함을 트랙 그룹화 타입이 표시할 경우, 하나 이상의 프로세서들은, 트랙 박스 내에, 전체 픽처의 사이즈를 나타내는 정보를 저장하기 위한 명령들을 제공할 수도 있다.
이 개요는 청구된 주제의 핵심적인 또는 본질적인 특징들을 식별하도록 의도되지 않으며, 청구된 주제의 범위를 결정하는데 홀로 사용되도록 의도되지도 않는다. 그 주제는 이 특허의 전체 명세서, 임의의 또는 모든 도면들, 및 각각의 청구항의 적절한 부분들을 참조하여 이해되어야 한다.
전술한 바는, 다른 특징들 및 예들과 함께, 다음의 명세서, 청구항들, 및 첨부 도면들을 참조할 시 더 명백하게 될 것이다.
도 1 은 인코딩 디바이스 (104) 및 디코딩 디바이스 (112) 를 포함하는 시스템 (100) 의 일 예를 예시한 블록도이다.
도 2 는 ISOBMFF 에 따라 포맷팅된, 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 베이스 미디어 파일 (200) 의 일 예를 예시한다.
도 3 은 비디오 미디어 트랙이 서브-픽처 베이스 트랙임을 지정하기 위한 ISO 베이스 미디어 파일 (300) 을 예시한다.
도 4 는, ISO 베이스 미디어 파일에 포함될 수 있고 특별한 샘플 엔트리 타입을 포함할 수도 있는 미디어 박스 (440) 의 일 예를 예시하며, 예컨대, 'spbt' 은 서브-픽처 베이스 트랙을 위해 사용된다.
도 5 는, 서브-픽처 베이스 트랙이 타이밍된 메타데이터 트랙의 참조된 미디어 트랙으로서 선택될 수 있음을 표시한 ISO 베이스 미디어 파일 (500) 의 일 예를 예시한다.
도 6 은, 서브-픽처 베이스 트랙 메커니즘으로 사용된 ISO 베이스 미디어 파일 (600) 이 모든 서브-픽처 트랙들의 그룹화를 가능케 하는 일 예를 예시하고, 서브-픽처 트랙들의 각각은 특정 타입, 예컨대, 서브-픽처 베이스 트랙을 지칭하는 'spbs' 의 트랙 참조를 갖는다.
도 7 은, 서브-픽처 베이스 트랙이 특정 타입, 예컨대, 모든 관련 서브-픽처 트랙들을 포인팅하는 'strk' 의 트랙 참조들을 포함할 수도 있는 ISO 베이스 미디어 파일 (700) 의 일 예를 예시한다.
도 8 은, 예컨대, 'subp' 와 동일한 track_group_type 에 의해 식별되는 새로운 트랙 그룹화 타입을 정의하는 ISO 베이스 미디어 파일 (800) 의 일 예를 예시한다.
도 9 는 본 개시에서 설명된 기법들 중 하나 이상을 구현할 수도 있는 예시적인 인코딩 디바이스 (900) 를 예시한 블록 다이어그램이다.
도 10 은 예시적인 디코딩 디바이스 (1000) 를 예시한 블록 다이어그램이다.
도 2 는 ISOBMFF 에 따라 포맷팅된, 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 베이스 미디어 파일 (200) 의 일 예를 예시한다.
도 3 은 비디오 미디어 트랙이 서브-픽처 베이스 트랙임을 지정하기 위한 ISO 베이스 미디어 파일 (300) 을 예시한다.
도 4 는, ISO 베이스 미디어 파일에 포함될 수 있고 특별한 샘플 엔트리 타입을 포함할 수도 있는 미디어 박스 (440) 의 일 예를 예시하며, 예컨대, 'spbt' 은 서브-픽처 베이스 트랙을 위해 사용된다.
도 5 는, 서브-픽처 베이스 트랙이 타이밍된 메타데이터 트랙의 참조된 미디어 트랙으로서 선택될 수 있음을 표시한 ISO 베이스 미디어 파일 (500) 의 일 예를 예시한다.
도 6 은, 서브-픽처 베이스 트랙 메커니즘으로 사용된 ISO 베이스 미디어 파일 (600) 이 모든 서브-픽처 트랙들의 그룹화를 가능케 하는 일 예를 예시하고, 서브-픽처 트랙들의 각각은 특정 타입, 예컨대, 서브-픽처 베이스 트랙을 지칭하는 'spbs' 의 트랙 참조를 갖는다.
도 7 은, 서브-픽처 베이스 트랙이 특정 타입, 예컨대, 모든 관련 서브-픽처 트랙들을 포인팅하는 'strk' 의 트랙 참조들을 포함할 수도 있는 ISO 베이스 미디어 파일 (700) 의 일 예를 예시한다.
도 8 은, 예컨대, 'subp' 와 동일한 track_group_type 에 의해 식별되는 새로운 트랙 그룹화 타입을 정의하는 ISO 베이스 미디어 파일 (800) 의 일 예를 예시한다.
도 9 는 본 개시에서 설명된 기법들 중 하나 이상을 구현할 수도 있는 예시적인 인코딩 디바이스 (900) 를 예시한 블록 다이어그램이다.
도 10 은 예시적인 디코딩 디바이스 (1000) 를 예시한 블록 다이어그램이다.
본 개시의 특정 양태들 및 예들이 하기에서 제공된다. 이들 양태들 및 예들 중 일부는 독립적으로 적용될 수도 있고, 그들 중 일부는 당업자에게 명백할 바와 같이 조합하여 적용될 수도 있다. 다음의 설명에 있어서, 설명의 목적들로, 특정 상세들이 본 개시의 예들의 철저한 이해를 제공하기 위하여 기재된다. 하지만, 다양한 예들은 이들 특정 상세들없이도 실시될 수도 있음이 명백할 것이다. 도면들 및 설명은 제한적인 것으로 의도되지 않는다.
다음의 설명은 오직 예들을 제공할 뿐이고, 본 개시의 범위, 적용가능성, 또는 구성을 한정하도록 의도되지 않는다. 오히려, 예들의 다음의 설명은 예시적인 실시형태를 구현하기 위한 가능한 설명을 당업자에게 제공할 것이다. 첨부된 청구항들에 기재된 바와 같은 본 개시의 사상 및 범위로부터 일탈함없이 엘리먼트들의 기능 및 배열에서 다양한 변경들이 행해질 수도 있음이 이해되어야 한다.
특정 상세들이 예들의 철저한 이해를 제공하기 위해 다음의 설명에서 주어진다. 하지만, 그 예들은 이들 특정 상세들없이도 실시될 수도 있음이 당업자에 의해 이해될 것이다. 예를 들어, 회로들, 시스템들, 네트워크들, 프로세스들 및 다른 컴포넌트들은, 예들을 불필요한 상세로 불명료하게 하지 않기 위하여 블록 다이어그램 형태의 컴포넌트들로서 도시될 수도 있다. 다른 경우들에 있어서, 널리 공지된 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들은 예들을 불명료하게 하는 것을 회피하기 위하여 불필요한 상세없이 도시될 수도 있다.
또한, 개별 예들은, 플로우차트, 플로우 다이어그램, 데이터 플로우 다이어그램, 구조 다이어그램, 또는 블록 다이어그램으로서 도시된 프로세스로서 설명될 수도 있음이 주목된다. 비록 플로우차트가 동작들을 순차적인 프로세스로서 기술할 수도 있지만, 동작들 중 다수는 병렬로 또는 동시에 수행될 수 있다. 부가적으로, 동작들의 순서는 재배열될 수도 있다. 프로세스는, 그의 동작들이 완료될 때 종료되지만, 도면에 포함되지 않은 추가적인 단계들을 가질 수 있다. 프로세스는 방법, 함수, 절차, 서브루틴, 서브프로그램 등에 대응할 수도 있다. 프로세스가 함수에 대응할 경우, 그의 종료는 그 함수의 호출 함수로의 또는 메인 함수로의 반환에 대응할 수 있다.
용어 "컴퓨터 판독가능 매체" 는 휴대용 또는 비-휴대용 저장 디바이스들, 광학 저장 디바이스들, 및 명령(들) 및/또는 데이터를 저장, 포함, 또는 수록 가능한 다양한 다른 매체들을 포함하지만 이에 한정되지 않는다. 컴퓨터 판독가능 매체는, 데이터가 저장될 수 있고 그리고 무선으로 또는 유선 커넥션들 상으로 전파하는 일시적인 전자 신호들 및/또는 캐리어파들을 포함하지 않는 비일시적인 매체를 포함할 수도 있다. 비일시적인 매체의 예들은 자기 디스크 또는 테이프, 컴팩트 디스크 (CD) 또는 디지털 다기능 디스크 (DVD) 와 같은 광학 저장 매체들, 플래시 메모리, 메모리 또는 메모리 디바이스들을 포함할 수도 있지만 이에 한정되지 않는다. 컴퓨터 판독가능 매체는, 절차, 함수, 서브프로그램, 프로그램, 루틴, 서브루틴, 모듈, 소프트웨어 패키지, 클래스, 또는 명령들, 데이터 구조들, 또는 프로그램 스테이트먼트들의 임의의 조합을 나타낼 수도 있는 코드 및/또는 머신 실행가능 명령들이 저장될 수도 있다. 코드 세그먼트는, 정보, 데이터, 인수들 (arguments), 파라미터들, 또는 메모리 컨텐츠를 전달 및/또는 수신함으로써 다른 코드 세그먼트 또는 하드웨어 회로에 커플링될 수도 있다. 정보, 인수들, 파라미터들, 데이터 등은 메모리 공유, 메시지 전달, 토큰 전달, 네트워크 전송 등을 포함한 임의의 적합한 수단을 통해 전달, 포워딩, 또는 전송될 수도 있다.
더욱이, 예들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 디스크립션 언어들, 또는 이들의 임의의 조합에 의해 구현될 수도 있다. 소프트웨어, 펌웨어, 미들웨어 또는 마이크로코드에서 구현될 경우, 필요한 태스크들을 수행하기 위한 프로그램 코드 또는 코드 세그먼트들 (예컨대, 컴퓨터 프로그램 제품) 은 컴퓨터 판독가능 또는 머신 판독가능 매체에 저장될 수도 있다. 프로세서(들)는 필요한 태스크들을 수행할 수도 있다.
가상 현실 (VR) 은 겉보기에 현실적인 또는 물리적인 방식 내에서 상호작용될 수 있는 3차원 컴퓨터 생성 환경을 기술한다. 일반적으로, 가상 현실 환경을 경험하는 사용자는 가상 환경과 상호작용하기 위해, 헤드 장착식 디스플레이 (HMD) 및 또한 옵션적으로 의류 (예컨대, 센서들로 피팅된 장갑들) 와 같은 전자 장비를 사용한다. 사용자가 현실 세계에서 움직임에 따라, 가상 환경에서 렌더링된 이미지들이 또한 변경되어, 사용자가 가상 환경 내에서 움직이고 있다는 인식을 사용자에게 제공한다. 일부 경우들에 있어서, 가상 환경은 사용자의 움직임들과 상관되는 사운드를 포함하여, 사운드들이 특정 방향 또는 소스로부터 발생한다는 인상을 사용자에게 제공한다. 가상 현실 비디오는 매우 높은 품질로 캡처 및 렌더링되어, 잠재적으로, 진정한 몰입형 가상 현실 경험을 제공할 수 있다. 가상 현실 어플리케이션들은, 다른 것들 중에서, 게이밍, 트레이닝, 교육, 스포츠 비디오 및 온라인 쇼핑을 포함한다.
가상 현실 시스템은 통상적으로, 비디오 캡처 디바이스 및 비디오 디스플레이 디바이스를 포함하고, 가능하게는, 또한 서버들, 데이터 저장부, 및 데이터 송신 장비와 같은 다른 중간 디바이스들을 포함한다. 비디오 캡처 디바이스는 카메라 세트, 즉, 다중의 카메라들의 세트를 포함할 수도 있으며, 다중의 카메라들의 각각은 상이한 방향으로 배향되고 상이한 뷰를 캡처한다. 카메라 세트의 위치에 중심을 둔 전체 360도 뷰를 캡처하기 위해 겨우 6대의 카메라들만이 사용될 수 있다. 일부 비디오 캡처 디바이스들은, 예를 들어, 주로 측 대 측 (side-to-side) 뷰들을 캡처하는 비디오 캡처 디바이스와 같이 더 적은 수의 카메라들을 사용할 수도 있다. 비디오는 일반적으로 프레임들을 포함하며, 여기서, 프레임은 장면의 전자적으로 코딩된 스틸 이미지이다. 카메라들은 초당 특정 수의 프레임들을 캡처하며, 이는 일반적으로 카메라의 프레임 레이트로서 지칭된다.
이음매없는 360도 뷰를 제공하기 위해, 카메라 세트에서의 카메라들의 각각에 의해 캡처된 비디오는 통상적으로 이미지 스티칭을 받는다. 360도 비디오 생성의 경우에서의 이미지 스티칭은, 비디오 프레임들이 오버랩되거나 또는 그렇지 않으면 연결되는 영역에서의 인접한 카메라들로부터의 비디오 프레임들을 결합하거나 또는 병합하는 것을 수반한다. 그 결과는 대략 구형 프레임이지만, Mercator 투영과 유사하게, 병합된 데이터는 통상적으로 평면 방식으로 표현된다. 예를 들어, 병합된 비디오 프레임에서의 픽셀들은 큐브 형상, 또는 일부 다른 3 차원, 평면 형상 (예컨대, 피라미드, 팔면체, 십면체 등) 의 평면들 상으로 맵핑될 수도 있다. 비디오 캡처 및 비디오 디스플레이 디바이스들은 일반적으로 래스터 원리 - 비디오 프레임이 픽셀들의 그리드로서 처리됨을 의미함 - 에서 동작하고, 따라서, 정방형 또는 장방형 평면들이 통상적으로 구형 환경을 표현하는데 사용된다.
평면 표현에 맵핑된 가상 현실 비디오 프레임들은 저장 및/또는 송신을 위해 인코딩 및/또는 압축될 수 있다. 인코딩 및/또는 압축은 비디오 코덱 (예컨대, H.265/HEVC 호환 코덱, H.264/AVC 호환 코덱, 또는 다른 적합한 코덱) 을 사용하여 달성될 수 있으며, 압축된 비디오 비트스트림 또는 비트스트림들의 그룹을 발생시킨다. 비디오 코덱을 사용한 비디오 데이터의 인코딩은 하기에서 더 상세하게 설명된다.
인코딩된 비디오 비트스트림(들)은 미디어 포맷 또는 파일 포맷으로 저장 및/또는 캡슐화될 수 있다. 저장된 비트스트림(들)은 디스플레이를 위해 비디오를 디코딩 및 렌더링할 수 있는 수신기 디바이스에, 예를 들어, 네트워크 상으로 송신될 수 있다. 그러한 수신기 디바이스는 본 명세서에서 비디오 디스플레이 디바이스로서 지칭될 수도 있다. 예를 들어, 가상 현실 시스템은 (예컨대, ISO (International Standards Organization) 베이스 미디어 파일 포맷 및/또는 파생된 파일 포맷들을 사용하여) 인코딩된 비디오 데이터로부터 캡슐화된 파일을 생성할 수 있다. 예를 들어, 비디오 코덱은 비디오 데이터를 인코딩할 수 있고, 캡슐화 엔진은 하나 이상의 ISO 포맷 미디어 파일들에서 비디오 데이터를 캡슐화함으로써 미디어 파일들을 생성할 수 있다. 대안적으로 또는 부가적으로, 저장된 비트스트림(들)은 저장 매체로부터 수신기 디바이스로 직접 제공될 수 있다.
수신기 디바이스는 또한, 인코딩된 비디오 비트스트림을 디코딩 및/또는 압축해제하기 위한 코덱을 구현할 수 있다. 수신기 디바이스는 비디오 비트스트림을 파일 (또는 파일들) 로 패킹하기 위해 사용되었던 미디어 또는 파일 포맷을 지원할 수 있고, 비디오 (그리고 가능하게는 또한 오디오) 데이터를 추출하여 인코딩된 비디오 데이터를 생성할 수 있다. 예를 들어, 수신기 디바이스는 캡슐화된 비디오 데이터를 갖는 미디어 파일들을 파싱하여 인코딩된 비디오 데이터를 생성할 수 있으며, 수신기 디바이스에서의 코덱은 인코딩된 비디오 데이터를 디코딩할 수 있다.
그 다음, 수신기 디바이스는 디코딩된 비디오 신호를 렌더링 디바이스 (예컨대, 비디오 디스플레이 디바이스) 로 전송할 수 있다. 렌더링 디바이스들은, 예를 들어, 헤드 장착식 디스플레이들, 가상 현실 텔레비전들, 및 다른 180 또는 360도 디스플레이 디바이스들을 포함한다. 일반적으로, 헤드 장착식 디스플레이는 착용자의 머리의 움직임 및/또는 착용자의 눈의 움직임을 추적할 수 있다. 헤드 장착식 디스플레이는 착용자가 보고 있는 방향에 대응하는 360도 비디오의 부분을 렌더링하기 위해 추적 정보를 사용하여, 착용자가 현실 세상을 경험하는 것과 동일한 방식으로 가상 환경을 경험하게 한다. 렌더링 디바이스는 비디오가 캡처된 것과 동일한 프레임 레이트로 또는 상이한 프레임 레이트로 비디오를 렌더링할 수도 있다.
파일 포맷 표준들은 비디오 (및 가능하게는 오디오) 데이터를 하나 이상의 파일들로 패킹 및 언패킹 (unpack) 하기 위한 포맷을 정의할 수 있다. 파일 포맷 표준들은 ISO (International Organization for Standardization) 베이스 미디어 파일 포맷 (ISOBMFF, ISO/IEC 14496-12 에서 정의됨) 및 ISOBMFF 로부터 파생된 다른 파일 포맷들을 포함하고, 이는 모션 픽처 전문가 그룹 (MPEG) MPEG-4 파일 포맷 (ISO/IEC 14496-15 에서 정의됨), 제 3 세대 파트너쉽 프로젝트 (3GPP) 파일 포맷 (3GPP TS 26.244 에서 정의됨) 및 어드밴스드 비디오 코딩 (AVC) 파일 포맷과 고효율 비디오 코딩 (HEVC) 파일 포맷 (양자는 ISO/IEC 14496-15 에서 정의됨) 을 포함한다.
ISOBMFF 는 다수의 코덱 캡슐화 포맷들 (예컨대, AVC 파일 포맷 또는 임의의 다른 적합한 코덱 캡슐화 포맷) 뿐만 아니라, 다수의 멀티미디어 컨테이너 포맷들 (예컨대, MPEG-4 파일 포맷, 3GPP 파일 포맷 (3GP), DVB 파일 포맷, 또는 임의의 다른 적합한 멀티미디어 컨테이너 포맷) 에 대한 기반으로서 사용된다. ISOBMFF 베이스 파일 포맷들은, 스트리밍 미디어로서 또한 지칭되는 연속적인 미디어를 위해 사용될 수 있다.
연속적인 미디어 (예컨대, 오디오 및 비디오) 에 부가하여, 정적 미디어 (예컨대, 이미지들) 및 메타데이터는 ISOBMFF 에 따르는 파일에 저장될 수 있다. ISOBMFF 에 따라 구조화된 파일들은, 로컬 미디어 파일 플레이백, 수신된 실시간 미디어 스트림들의 레코딩을 위한 스트리밍될 컨텐츠에 대한 컨테이너들 (이 경우, 컨테이너들은 패킷화 명령들을 포함함) 로서의 DASH (Dynamic Adaptive Streaming over HTTP) 를 위한 세그먼트들로서의 원격 파일의 점진적 다운로딩, 또는 다른 용도들을 포함하여 다수의 목적들을 위해 사용될 수도 있다.
박스는, 4문자 코딩된 박스 타입, 박스의 바이트 카운트, 및 페이로드를 포함하는 ISOBMFF 에서의 기본 신택스 구조이다. ISOBMFF 파일은 박스들의 시퀀스를 포함하고, 박스들은 다른 박스들을 포함할 수도 있다. 무비 박스 ("moov") 는 파일에 존재하는 연속적인 미디어 스트림들에 대한 메타데이터를 포함하고, 각각의 미디어 스트림은 트랙으로서 파일에서 표현된다. 트랙에 대한 메타데이터는 트랙 박스 ("trak") 에 인클로징되는 한편, 트랙의 미디어 컨텐츠는 미디어 데이터 박스 ("mdat") 에 또는 직접적으로 별도의 파일에 인클로징된다. 트랙들에 대한 미디어 컨텐츠는 오디오 또는 비디오 액세스 유닛들과 같은 샘플들의 시퀀스로 이루어진다.
ISOBMFF 는 다음의 타입들의 트랙들을 명시한다: 기본 미디어 스트림을 포함하는 미디어 트랙, 미디어 송신 명령들을 포함하거나 또는 수신된 패킷 스트림을 표현하는 힌트 트랙, 및 시간-동기화된 메타데이터를 포함하는 타이밍된 메타데이터 트랙.
저장용으로 원래 설계되었지만, ISOBMFF 는 스트리밍을 위해, 예컨대, 점진적 다운로드 또는 DASH 를 위해 매우 유용한 것으로 입증되었다. 스트리밍 목적으로, ISOBMFF 에서 정의된 무비 프래그먼트들이 사용될 수 있다.
각각의 트랙에 대한 메타데이터는, 트랙에서 사용되는 코딩 또는 캡슐화 포맷 및 그 포맷을 프로세싱하기 위해 필요한 초기화 데이터를 각각 제공하는 샘플 디스크립션 엔트리들의 리스트를 포함한다. 각각의 샘플은 트랙의 샘플 디스크립션 엔트리들 중 하나와 연관된다.
ISOBMFF 는 다양한 메커니즘들로 샘플 특정 메타데이터를 명시하는 것을 가능케 한다. 샘플 테이블 박스 ("stbl") 내의 특정 박스들은 공통의 필요성들에 응답하도록 표준화되었다. 예를 들어, 싱크 샘플 박스 ("stss") 는 트랙의 랜덤 액세스 샘플들을 리스팅하기 위해 사용된다. 샘플 그룹화 메커니즘은, 파일에서의 샘플 그룹 디스크립션 엔트리로서 명시된 동일한 특성을 공유하는 샘플들의 그룹들로의 4문자 그룹화 타입에 따른 샘플들의 맵핑을 가능케 한다. 수개의 그룹화 타입들이 ISOBMFF 에서 명시되었다.
일반적으로, 가상 현실 (VR) 은, 몰입된 사용자의 움직임들에 의해 상관된 자연적인 및/또는 합성의 이미지 및 사운드의 렌더링에 의해 생성된 비-물리적 세계에서 가상적으로 존재하여, 몰입된 사용자로 하여금 그 세계와 상호작용하게 하는 능력이다. 헤드 장착식 디스플레이들 (HMD) 및 VR 비디오 (종종 360도 비디오로서도 또한 지칭됨) 생성과 같지만 이에 한정되지 않는 렌더링 디바이스들에서 이루어진 최근의 진보로, 상당한 품질의 경험이 제공될 수 있다. VR 어플리케이션은 게이밍, 트레이닝, 교육, 스포츠 비디오, 온라인 쇼핑, 성인 엔터테인먼트 등을 포함한다.
통상적인 VR 시스템은 다음과 같은 것을 포함한다:
1) 카메라 세트, 이는 통상적으로 상이한 방향들을 포인팅하고 그리고 카메라 세트 주위의 모든 뷰포인트들을 이상적으로는 집합적으로 커버하는 다중의 개별 카메라들을 포함한다.
2) 이미지 스티칭, 여기서, 다중의 개별 카메라들에 의해 촬영된 비디오 픽처들은, 구형 비디오가 되도록, 시간 도메인에서 동기화되고 공간 도메인에서 스티칭이지만, (세계지도와 같은) 등장방형 (equi-rectangular) 또는 큐브 맵과 같은 장방형 포맷으로 맵핑된다.
3) 맵핑된 장방형 포맷에서의 비디오는 비디오 코덱, 예컨대, H.265/HEVC, H.264/AVC, 현재 개발중인 압축 기법들 및/또는 다가오는 비디오 압축 기법들/비디오 압축 표준들을 사용하여 인코딩/압축될 수도 있다.
4) 압축된 비디오 비트스트림(들)은 미디어 포맷으로 저장 및/또는 캡슐화되고, 유선 또는 무선 네트워크를 통해 수신기로 (가능하게는 오직 사용자에 의해 인식되는 영역만을 커버하는 서브세트만으로) 송신될 수도 있다.
5) 수신기는, 가능하게는 포맷으로 캡슐화된 비디오 비트스트림(들) 또는 그 부분을 수신하고, 디코딩된 비디오 신호 또는 그 부분을 렌더링 디바이스로 전송한다.
6) 렌더링 디바이스는, 예컨대, HMD 일 수 있으며, HMD 는 머리 움직임/포지셔닝 및 심지어 눈 움직임 순간을 추적할 수 있어서 몰입형 경험이 사용자에게 전달되도록 비디오의 대응하는 부분을 렌더링할 수 있다.
360° 비디오 및 관련 오디오를 갖는 VR 어플리케이션들에 초점을 맞춘, 전방향성 미디어 어플리케이션들을 가능케 하는 미디어 어플리케이션 포맷을 정의하기 위해, 전방향성 미디어 어플리케이션 포맷 (OMAF) 이 MPEG 에 의해 개발되고 있다. OMAF 는, 구형 또는 360° 비디오의 2차원 장방형 비디오로의 변환을 위해 사용될 수 있는 투영 방법들의 리스트를 명시한다. OMAF 는 추가로, ISO 베이스 미디어 파일 포맷 (ISOBMFF) 을 사용하여 전방향성 미디어 및 관련 메타데이터의 저장, 및 DASH (Dynamic Adaptive Streaming over HTTP) 를 사용하여 전방향성 미디어를 캡슐화, 시그널링, 및 스트리밍하는 방법을 명시한다. OMAF 는 추가로, 전방향성 미디어 신호의 압축 및 플레이백을 위해 사용될 수 있는 미디어 코딩 구성들 뿐아니라 비디오 및 오디오 코덱들을 명시한다. OMAF 는 ISO/IEC 23000-20 으로서 표준화되고, OMAF 위원회 초안 (CD) 으로서 지칭되는 그 최신 초안 사양은 MPEG (SC29 의 워킹 그룹 11) 으로부터 입수가능하다.
뷰포트 의존형 비디오 코딩이 가상 현실 어플리케이션들에서 제공될 수도 있다. A.3절에서의 OMAF 위원회 초안 (CD) 은 뷰포트 의존형 비디오 코딩에 기초한 전방향성 비디오 스트리밍에 대한 수개의 접근법들의 설명들을 포함한다. 접근법들 중 일부는 HEVC 타일들에 기초하는 한편, 접근법들 중 하나는 서브-픽처 비트스트림들의 인코딩 및 디코딩에 기초한다. 예로서, 뷰포트 의존형 비디오 코딩의 시그널링은 특히, 서브-픽처 비트스트림들의 인코딩 및 디코딩에 기반한 접근법들과 관련될 수도 있다.
서브-픽처 비트스트림 코딩 방식은, 소스 비디오 컨텐츠의 서브-픽처 시퀀스들이 프리프로세싱 (preprocessing) 동안에, 예컨대, 인코딩 이전에, 형성되어 각각의 서브-픽처 비트스트림이 서로 별도로 인코딩될 수도 있는 접근법이다. 예를 들어, 소스 비디오 컨텐츠는 인코딩 이전에 서브-픽처 시퀀스들로 분리 (예컨대, 분할) 된다. 결과적인 (즉, 분리 이후) 서브-픽처 시퀀스들은 개별 서브-픽처 비트스트림들로 후속적으로 인코딩된다. 예를 들어, AVC 또는 HEVC 와 같은 다양한 비디오 코덱들에 의해, 별도의 및 독립적인 인코딩이 제공될 수도 있다. 당업자는 VP9 와 같은 다른 비디오 인코딩 기법들 및 예를 들어 VP10 및 AV1 과 같은 개발 중인 다른 기법들이 활용될 수도 있음을 인식할 것이다. 본 개시의 새롭게 제시된 양태들 및 예들은 서브-픽처 베이스 트랙의 생성, 수정, 및/또는 지정과 관련되었음이 당업자에게 또한 자명할 것이다.
상기 언급된 바와 같이, 서브-픽처 비트스트림 코딩 방식 (또는 접근법) 은, 서로 별도로 및 독립적으로 인코딩될 수도 있는 소스 비디오 컨텐츠와 연관된 서브-픽처 비트스트림들을 허용한다. 본 개시의 양태들에 따르면, 서브-픽처 베이스 트랙은 서브-픽처 비트스트림 접근법을 활용할 경우에 이점들을 제공한다.
서브-픽처 비트스트림 접근법에 있어서, 비디오 컨텐츠는 다음과 같이 ISOBMFF 에 기초하여 파일에서 인코딩 및 저장된다. 소스 비디오는, 인코딩되는 소스 비디오 컨텐츠 전 (이전에) 서브-픽처 시퀀스들로 분할된다. 각각의 서브-픽처 시퀀스는 전체 소스 비디오 컨텐츠의 공간 영역의 서브세트를 커버 (즉, 포함 또는 구비) 한다. 그 다음, 각각의 서브-픽처 시퀀스는 단일의 비트스트림으로서 서로 독립적으로 인코딩된다. 그러한 비트스트림은 서브-픽처 비트스트림으로서 지칭된다. 수개의 별개의 비트스트림들이 동일한 서브-픽처 시퀀스로부터 인코딩될 수도 있으며, 예컨대, 단일의 서브-픽처 시퀀스는 상이한 비트레이트들로 인코딩되고, 이에 의해, 복수의 별개의 서브-픽처 비트스트림들을 산출할 수도 있다. 각각의 서브-픽처 비트스트림은 그 자신의 개별 트랙으로서 파일에서 캡슐화된다. 그러한 트랙은 서브-픽처 트랙으로서 지칭된다.
서브-픽처 기반 접근법에 대한 본 개선들 및 최적화들은 VR 어플리케이션들에서 디코딩 복잡도 및 송신 대역폭의 최적화들에 대한 필요성을 인식하였다.
서브-픽처 비트스트림 접근법에 있어서, 각각의 서브-픽처 비트스트림은 그 자신의 트랙으로서 파일에서 캡슐화되고 스트리밍에 이용가능하게 된다. 수신기 측에서, 스트리밍될 트랙들이 배향/뷰포트 메타데이터에 기초하여 선택된다. 클라이언트 (예컨대, 목적지 디바이스) 는 일반적으로, 전체 전방향성 콘텐츠를 커버하는 트랙을 수신한다. 나머지의 현재 보이지 않는 영역들을 커버하는 품질 또는 해상도와 비교할 때 현재의 뷰포트에 대해 더 양호한 품질 또는 더 높은 해상도 트랙들이 수신된다. 각각의 트랙은 별도의 디코더 인스턴스로 디코딩된다. 예컨대, 가드 대역 기능을 제공하기 위해 서브-픽처들이 중첩하는 것이 가능하다.
다중의 서브-픽처 트랙들에 저장된 다중의 서브-픽처 비트스트림들을 포함하는 비디오 컨텐츠의 저장 및 시그널링을 위한 기존의 설계들은 다수의 문제들을 갖는다. 첫번째 문제는, 서브-픽처 트랙들 사이의 관계에 대한 현재의 서브-픽처 비트스트림 접근법에서 제공되는 표시가 없다는 것이다. 이는, 파일 파서가 서브-픽처 트랙들의 어느 세트가 전체 비디오 컨텐츠의 하나의 완전한 표현을 운반하는지를 알아 내기 (즉, 결정하기) 쉽지 않게 한다.
다른 문제는 전체 픽처 (즉, 전체 비디오 컨텐츠) 의 공간 해상도의 표시가 없다는 것이다. 즉, 모든 서브-픽처 트랙들이 전체 픽처의 사이즈를 알아 내기 위해 페치 및 파싱될 필요가 있으며, 이는, 다수의 경우들에서 오직 이들 트랙들의 서브세트만이 필요하기 때문에 번거롭다.
다른 문제는 타입 'cdsc' 의 ISOBMFF 트랙 참조와 관련된다. 타이밍된 메타데이터 트랙은 미디어 트랙의 타이밍된 정보를 시그널링하는데 사용될 수도 있으며, 타입 'cdsc' 의 트랙 참조를 통해 미디어 트랙과 연관된다. 이러한 미디어 트랙은 또한, 타이밍된 메타데이터 트랙의 참조된 (미디어) 트랙으로서 지칭된다. 하지만, 미디어 컨텐츠는 다중의 미디어 트랙들, 예컨대, 타일 베이스 트랙 및 다수의 타일 트랙들에서 운반되는 비디오 컨텐츠, 또는 다수의 서브-픽처 트랙들에서 운반되는 비디오 컨텐츠로 표현될 수 있다. 전자의 경우 (타일 베이스 트랙 및 다수의 타일 트랙들의 경우), 타이밍된 메타데이터 트랙에 대한 참조된 미디어 트랙으로서 타일 베이스 트랙을 선택하는 것이 간단하며, 트랙 참조 타입 'cdsc' 의 의미는, "이 트랙은 참조된 타일 베이스 트랙 및 모든 관련 타일 트랙들에 의해 표현된 비디오 컨텐츠를 기술함" 으로서 해석된다. 하지만, 후자의 경우 (서브-픽처 비트스트림 접근법에 따른 다수의 서브-픽처 트랙들의 경우), 참조된 트랙으로서 임의의 서브-픽처 트랙들을 선택하는 것은 바람직하지 않은데, 왜냐하면 이는 "타이밍된 메타데이터 트랙이 오직 비디오 컨텐츠의 서브-픽처 부분에 대한 정보만 포함함" 으로서 해석되기 때문이다. 즉, 타임 메타데이터 트랙은 오직 단일의 서브-픽처 트랙에 관한 정보만을 포함할 것이고, 따라서, 전체 비디오 컨텐츠를 구성하는 서브-픽처 트랙들의 세트에 대한 정보를 제공하지 않을 것이다.
도 1 은 인코딩 디바이스 (104) 및 디코딩 디바이스 (112) 를 포함하는 시스템 (100) 의 일 예를 예시한 블록도이다. 인코딩 디바이스 (104) 는 소스 디바이스의 부분일 수도 있고, 디코딩 디바이스 (112) 는 수신 디바이스의 부분일 수도 있다. 소스 디바이스 및/또는 수신 디바이스는 전자 디바이스, 예컨대, 이동식 또는 고정식 전화 핸드셋 (예컨대, 스마트폰, 셀룰러 전화기, 이동국 등), 데스크탑 컴퓨터, 랩탑 또는 노트북 컴퓨터, 태블릿 컴퓨터, 셋탑 박스, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 콘솔, 비디오 스트리밍 디바이스, 또는 임의의 다른 적합한 전자 디바이스를 포함할 수도 있다. 일부 예들에 있어서, 소스 디바이스 및 수신 디바이스는 무선 통신을 위한 하나 이상의 무선 트랜시버들을 포함할 수도 있다. 본 명세서에서 설명된 코딩 기법들은, (예컨대, 인터넷 또는 셀룰러 통신 환경 상으로의) 스트리밍 비디오 송신들, 텔레비전 브로드캐스트들 또는 송신들, 데이터 저장 매체 상의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 어플리케이션들을 포함하는, 다양한 멀티미디어 어플리케이션들에서의 비디오 코딩에 적용가능하다. 일부 예들에 있어서, 시스템 (100) 은 비디오 컨퍼런싱, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 게이밍, 및/또는 비디오 전화와 같은 어플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원할 수 있다.
도 1 은 본 개시에서 설명된 바와 같은 비디오 코딩 기법 및 파일 포맷 기법을 활용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템 (100) 을 예시한다. 도 1, 시스템 (100) 에 도시된 바와 같이, 비디오 소스 (102) 및 인코딩 디바이스 (104) 는, 비디오 목적지 디바이스 (122) 및 디코딩 디바이스 (112) 를 포함하는 목적지 모듈에 의해 나중 시간에 디코딩될 인코딩된 비디오 데이터를 생성하는데 활용될 수도 있다. 도 1 의 예에 있어서, 무선 디바이스 (도시 안됨) 에서 인코딩 디바이스 (104) 와 함께 포함될 수도 있는 비디오 소스 (102) 및 무선 디바이스 (도시 안됨) 에서 디코딩 디바이스 (112) 와 함께 포함될 수도 있는 비디오 목적지 디바이스는 별도의 디바이스들 상에 있다. 구체적으로, 비디오 소스 모듈 (102) 은 소스 모듈의 부분이고, 비디오 목적지 모듈 (122) 은 목적지 디바이스의 부분이다. 하지만, 소스 및 목적지 모듈들 (102, 122) 이 동일한 디바이스 상에 있거나 그 부분일 수도 있음이 주목된다. 예로서, 무선 디바이스 (도시 안됨) 는 비디오 소스 (102), 인코딩 디바이스 (104), 및 송신기 (도시 안됨) 를 포함할 수도 있다. 무선 통신 디바이스는 옵션적으로 셀룰러 전화기일 수도 있으며, 인코딩된 비디오 비트스트림은 송신기에 의해 송신되고 셀룰러 통신 표준에 따라 변조될 수도 있다. 마찬가지로, 무선 디바이스 (도시 안됨) 는 비디오 목적지 디바이스 (122), 디코딩 디바이스 (112), 및 수신기 (도시 안됨) 를 포함할 수도 있다. 무선 통신 디바이스는 옵션적으로 셀룰러 전화기일 수도 있으며, 인코딩된 비디오 비트스트림은 수신기에 의해 수신되고 셀룰러 통신 표준에 따라 변조될 수도 있다.
도 1 을 다시 참조하면, 비디오 소스 (102) 및 비디오 목적지 디바이스 (122) 는 데스크탑 컴퓨터들, 노트북 (즉, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋탑 박스들, 소위 "스마트" 폰들과 같은 전화기 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스, 자동차들/차량들, 웨어러블 기어 등을 포함한 광범위한 디바이스들 중 임의의 디바이스를 포함하거나 포함될 수도 있다. 일부 경우들에 있어서, 비디오 소스 (102) 및 비디오 목적지 디바이스 (122) 는 무선 통신을 위해 장비될 수도 있다.
비디오 목적지 디바이스 (122) 는 디코딩될 인코딩된 비디오 데이터를 링크 (120) 를 통해 수신할 수도 있다. 링크 (120) 는 인코딩된 비디오 데이터를 비디오 소스 (102) 로부터 비디오 목적지 디바이스 (122) 로 이동 가능한 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 일 예로서, 링크 (120) 는, 비디오 소스 (102) 로 하여금 인코딩된 비디오 데이터를 비디오 목적지 디바이스 (122) 로 실시간으로 직접 송신할 수 있게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되고, 비디오 목적지 디바이스 (122) 로 송신될 수도 있다. 통신 매체는 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷 기반 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 비디오 소스 (102) 로부터 비디오 목적지 디바이스 (122) 로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
인코딩 디바이스 (104) (또는 인코더) 는 비디오 코딩 표준 또는 프로토콜을 사용하여 가상 현실 비디오 데이터를 포함한 비디오 데이터를 인코딩하여 인코딩된 비디오 비트스트림을 생성하는데 사용될 수 있다. 비디오 코딩 표준들은, 그 스케일러블 비디오 코딩 및 멀티뷰 비디오 코딩 확장들 (각각, SVC 및 MVC 로서 공지됨) 을 포함하여, ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 ITU-T H.264 (ISO/IEC MPEG-4 AVC 로서도 또한 공지됨) 를 포함한다. 더 최근의 비디오 코딩 표준, 즉, 고효율 비디오 코딩 (HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (VCEG) 및 ISO/IEC 무빙 픽처 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 완결되었다. MV-HEVC 로 칭해지는 HEVC 에 대한 멀티뷰 확장 및 SHVC 로 칭해지는 HEVC 에 대한 스케일러블 확장 또는 임의의 다른 적합한 코딩 프로토콜을 포함하여, HEVC 에 대한 다양한 확장들이 멀티-계층 비디오 코딩을 다루고 있고 또한 JCT-VC 에 의해 개발되고 있다.
본 명세서에서 설명된 구현들은 HEVC 표준, 또는 그 확장들을 사용하는 예들을 설명한다. 하지만, 본 명세서에서 설명된 기법들 및 시스템들은 또한, AVC, MPEG, 그 확장들과 같은 다른 코딩 표준들, 또는 이미 이용가능하거나 아직 이용가능하지 않은 또는 개발되고 있는 다른 적합한 코딩 표준들에 적용가능할 수도 있다. 이에 따라, 본 명세서에서 설명된 기법들 및 시스템들이 특정 비디오 코딩 표준을 참조하여 설명될 수도 있지만, 당업자는 그 설명이 오직 그 특정 표준에만 적용되도록 해석되지 않아야 함을 인식할 것이다.
비디오 소스 (102) 는 비디오 데이터를 인코딩 디바이스 (104) 에 제공할 수도 있다. 비디오 소스 (102) 는 소스 디바이스의 부분일 수 있거나, 또는 소스 디바이스 이외의 디바이스의 부분일 수도 있다. 비디오 소스 (102) 는 비디오 캡처 디바이스 (예컨대, 비디오 카메라, 카메라 폰, 비디오 폰 등), 저장된 비디오를 포함하는 비디오 아카이브, 비디오 데이터를 제공하는 비디오 서버 또는 컨텐츠 제공자, 비디오 서버 또는 컨텐츠 제공자로부터 비디오를 수신하는 비디오 피드 인터페이스, 컴퓨터 그래픽스 비디오 데이터를 생성하는 컴퓨터 그래픽스 시스템, 그러한 소스들의 조합, 또는 임의의 다른 적합한 비디오 소스를 포함할 수도 있다. 비디오 소스 (102) 의 일 예는 인터넷 프로토콜 카메라 (IP 카메라) 를 포함할 수 있다. IP 카메라는 감시, 홈 보안, 또는 다른 적합한 어플리케이션을 위해 사용될 수 있는 디지털 비디오 카메라의 타입이다. 아날로그 폐쇄 회로 텔레비전 (CCTV) 카메라들과 달리, IP 카메라는 컴퓨터 네트워크 및 인터넷을 통해 데이터를 전송 및 수신할 수 있다.
비디오 소스 (102) 로부터의 비디오 데이터는 하나 이상의 입력 픽처들 또는 프레임들을 포함할 수도 있다. 픽처 또는 프레임은 비디오의 부분인 스틸 이미지이다. 인코딩 디바이스 (104) 의 인코더 엔진 (106) (또는 인코더) 은 인코딩된 비디오 비트스트림을 생성하기 위해 비디오 데이터를 인코딩한다. 일부 예들에 있어서, 인코딩된 비디오 비트스트림 (또는 "비디오 비트스트림" 또는 "비트스트림") 은 일련의 하나 이상의 코딩된 비디오 시퀀스들이다. 코딩된 비디오 시퀀스 (CVS) 는 기본 계층에서의 그리고 특정한 특성들을 갖는 랜덤 액세스 포인트 픽처를 가지는 액세스 유닛 (AU) 으로 시작하여 기본 계층에서의 그리고 특정한 특성들을 갖는 랜덤 액세스 포인트 픽처를 가지는 다음 AU 까지 (상기 다음 AU 를 포함하진 않음) 일련의 AU들을 포함한다. 예를 들어, CVS 를 시작하는 랜덤 액세스 포인트 픽처의 특정한 특성들은 1 과 동일한 RASL 플래그 (예컨대, NoRaslOutputFlag) 를 포함할 수도 있다. 그렇지 않으면, 랜덤 액세스 포인트 픽처 (0 과 동일한 RASL 플래그를 가짐) 는 CVS 를 시작하지 않는다. 액세스 유닛 (AU) 은 하나 이상의 코딩된 픽처들, 및 동일한 출력 시간을 공유하는 코딩된 픽처들에 대응하는 제어 정보를 포함한다. 픽처들의 코딩된 슬라이스들은, 비트스트림 레벨에서, 네트워크 추상화 계층 (NAL) 유닛들로 지칭되는 데이터 유닛들로 캡슐화된다. 예를 들어, HEVC 비디오 비트스트림은, NAL 유닛들을 포함하는 하나 이상의 CVS들을 포함할 수도 있다. 비디오 코딩 계층 (VCL) NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는 2개 클래스들의 NAL 유닛들이 HEVC 표준에 존재한다. VCL NAL 유닛은 코딩된 픽처 데이터의 하나의 슬라이스 또는 슬라이스 세그먼트 (하기에서 설명됨) 를 포함하고, 비-VCL NAL 유닛은 하나 이상의 코딩된 픽처들에 관련되는 제어 정보를 포함한다.
NAL 유닛들은, 비디오에서의 픽처들의 코딩된 표현들과 같은 비디오 데이터의 코딩된 표현 (예컨대, 인코딩된 비디오 비트스트림, 비트스트림의 CVS 등) 을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 인코더 엔진 (106) 은 각각의 픽처를 다중의 슬라이스들로 파티셔닝함으로써 픽처들의 코딩된 표현들을 생성한다. 그 다음, 슬라이스들은 루마 샘플들 및 크로마 샘플들의 코딩 트리 블록들 (CTB들) 로 파티셔닝된다. 루마 샘플들의 CTB 및 크로마 샘플들의 하나 이상의 CTB들은, 그 샘플들을 위한 신택스와 함께, 코딩 트리 유닛 (CTU) 으로서 지칭된다. CTU 는 HEVC 인코딩을 위한 기본 프로세싱 유닛이다. CTU 는, 가변하는 사이즈들의 다중의 코딩 유닛들 (CU들) 로 분할될 수 있다. CU 는, 코딩 블록들 (CB들) 로서 지칭되는 루마 및 크로마 샘플 어레이들을 포함한다.
루마 및 크로마 CB들은 예측 블록들 (PB들) 로 추가로 분할될 수 있다. PB 는, 인터-예측을 위해 동일한 모션 파라미터들을 사용하는 루마 또는 크로마 컴포넌트의 샘플들의 블록이다. 루마 PB 및 하나 이상의 크로마 PB들은, 관련 신택스와 함께, 예측 유닛 (PU) 을 형성한다. 모션 파라미터들의 세트는 각각의 PU 에 대한 비트스트림에서 시그널링되고, 루마 PB 및 하나 이상의 크로마 PB들의 인터-예측을 위해 사용된다. CB 는 또한, 하나 이상의 변환 블록들 (TB들) 로 파티셔닝될 수 있다. TB 는, 예측 잔차 신호를 코딩하기 위해 동일한 2차원 변환이 적용되는 컬러 컴포넌트의 샘플들의 정방형 블록을 나타낸다. 변환 유닛 (TU) 은 루마 및 크로마 샘플들의 TB들 및 대응하는 신택스 엘리먼트들을 나타낸다.
CU 의 사이즈는 코딩 노드의 사이즈에 대응하고, 형상이 정방형일 수도 있다. 예를 들어, CU 의 사이즈는 8 x 8 샘플들, 16 x 16 샘플들, 32 x 32 샘플들, 64 x 64 샘플들, 또는 대응하는 CTU 의 사이즈까지의 임의의 다른 적절한 사이즈일 수도 있다. 어구 "N x N" 은 수직 및 수평 치수들의 관점에서의 비디오 블록의 픽셀 치수들 (예컨대, 8 픽셀들 x 8 픽셀들) 을 지칭하기 위해 본 명세서에서 사용된다. 블록에서의 픽셀들은 행들 및 열들로 배열될 수도 있다. 일부 예들에 있어서, 블록들은 수평 방향에서 수직 방향에서와 동일한 수의 픽셀들을 갖지 않을 수도 있다. CU 와 연관된 신택스 데이터는, 예를 들어, 하나 이상의 PU들로의 CU 의 파티셔닝을 기술할 수도 있다. 파티셔닝 모드들은 CU 가 인트라-예측 모드 인코딩되는지 또는 인터-예측 모드 인코딩되는지 여부 간에 상이할 수도 있다. PU들은 형상이 비-정방형이도록 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는 또한, 예를 들어, CTU 에 따라 하나 이상의 TU들로의 CU 의 파티셔닝을 기술할 수도 있다. TU 는 형상이 정방형이거나 또는 비-정방형일 수 있다.
HEVC 표준에 따르면, 변환들이 변환 유닛들 (TU들) 을 사용하여 수행될 수도 있다. TU들은 상이한 CU들에 대해 변할 수도 있다. TU들은 주어진 CU 내의 PU들의 사이즈에 기초하여 사이징될 수도 있다. TU들은 PU들과 동일한 사이즈이거나 또는 더 작을 수도 있다. 일부 예들에 있어서, CU 에 대응하는 잔차 샘플들은 잔차 쿼드 트리 (RQT) 로서 공지된 쿼드트리 구조를 사용하여 더 작은 유닛들로 세분될 수도 있다. RQT 의 리프 노드들은 TU들에 대응할 수도 있다. TU들과 연관된 픽셀 차이 값들은 변환 계수들을 생성하도록 변환될 수도 있다. 그 다음, 변환 계수들은 인코더 엔진 (106) 에 의해 양자화될 수도 있다.
일단 비디오 데이터의 픽처들이 CU들로 파티셔닝되면, 인코더 엔진 (106) 은 예측 모드를 사용하여 각각의 PU 를 예측한다. 그 다음, 예측은 잔차들을 얻기 위해 원래의 비디오 데이터로부터 감산된다 (하기에서 설명됨). 각각의 CU 에 대해, 예측 모드는 신택스 데이터를 사용하여 비트스트림 내부에서 시그널링될 수도 있다. 예측 모드는 인트라-예측 (또는 인트라-픽처 예측) 또는 인터-예측 (또는 인터-픽처 예측) 을 포함할 수도 있다. 인트라-예측을 이용하여, 각각의 PU 는, 예를 들어, PU 에 대한 평균 값을 찾기 위한 DC 예측, PU 에 대해 평면 표면을 피팅하기 위한 평면 예측, 이웃한 데이터로부터 외삽하기 위한 방향 예측, 또는 임의의 다른 적합한 타입들의 예측을 이용하여 동일한 픽처에서의 이웃한 이미지 데이터로부터 예측된다. 인터-예측을 이용하여, 각각의 PU 는 (출력 순서로 현재의 픽처 이전 또는 이후의) 하나 이상의 참조 픽처들에서의 이미지 데이터로부터의 모션 보상 예측을 이용하여 예측된다. 인터-픽처 또는 인트라-픽처 예측을 이용하여 픽처 영역을 코딩할지 여부의 판정은, 예를 들어, CU 레벨에서 행해질 수도 있다. 일부 예들에 있어서, 픽처의 하나 이상의 슬라이스들에는 슬라이스 타입이 할당된다. 슬라이스 타입들은 I 슬라이스, P 슬라이스, 및 B 슬라이스를 포함한다. I 슬라이스 (인트라-프레임, 독립적으로 디코딩가능함) 는 오직 인트라 예측에 의해서만 코딩되는 픽처의 슬라이스이고, 따라서, I 슬라이스는 슬라이스의 임의의 블록을 예측하기 위해 오직 프레임 내의 데이터만을 요구하기 때문에 독립적으로 디코딩가능하다. P 슬라이스 (단방향 예측된 프레임들) 는, 인트라-예측 및 단방향 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. P 슬라이스 내의 각각의 블록은 인트라 예측 또는 인터-예측 중 어느 하나로 코딩된다. 인터-예측이 적용될 경우, 블록은 하나의 참조 픽처에 의해서만 예측되고, 따라서, 참조 샘플들은 하나의 프레임의 하나의 참조 영역으로부터만 나온다. B 슬라이스 (양방향 예측 프레임들) 는 인트라-예측 및 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. B 슬라이스의 블록은 2개의 참조 픽처들로부터 양방향 예측될 수도 있으며, 여기서, 각각의 픽처는 하나의 참조 영역에 기여하고, 2개의 참조 영역들의 샘플 세트들은 양방향 예측 블록의 예측 신호를 생성하기 위해 (예컨대, 동일한 가중치들로) 가중된다. 상기 설명된 바와 같이, 하나의 픽처의 슬라이스들은 독립적으로 코딩된다. 일부 경우들에 있어서, 픽처는 단지 하나의 슬라이스로서 코딩될 수 있다.
PU 는 예측 프로세스와 관련된 데이터를 포함할 수도 있다. 예를 들어, PU 가 인트라-예측을 이용하여 인코딩될 경우, PU 는 PU 에 대한 인트라-예측 모드를 기술하는 데이터를 포함할 수도 있다. 다른 예로서, PU 가 인터-예측을 이용하여 인코딩될 경우, PU 는 PU 에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 해상도 (예컨대, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 포인팅하는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예컨대, 리스트 0, 리스트 1, 또는 리스트 C) 를 기술할 수도 있다.
그 다음, 인코딩 디바이스 (104) 는 변환 및 양자화를 수행할 수도 있다. 예를 들어, 예측 이후, 인코더 엔진 (106) 은 PU 에 대응하는 잔차 값들을 계산할 수도 있다. 잔차 값들은 픽셀 차이 값들을 포함할 수도 있다. 예측이 수행된 이후 남아 있을 수도 있는 임의의 잔차 데이터는, 이산 코사인 변환, 이산 사인 변환, 정수 변환, 웨이브릿 변환, 또는 다른 적합한 변환 함수에 기초할 수도 있는 블록 변환을 사용하여 변환된다. 일부 경우들에 있어서, 하나 이상의 블록 변환들 (예컨대, 사이즈들 32 x 32, 16 x 16, 8 x 8, 4 x 4 등) 은 각각의 CU 에서의 잔차 데이터에 적용될 수도 있다. 일부 예들에 있어서, TU 는, 인코더 엔진 (106) 에 의해 구현되는 변환 및 양자화 프로세스들을 위해 사용될 수도 있다. 하나 이상의 PU들을 갖는 주어진 CU 가 또한, 하나 이상의 TU들을 포함할 수도 있다. 하기에서 더 상세히 설명되는 바와 같이, 잔차 값들은 블록 변환들을 사용하여 변환 계수들로 변환될 수도 있고, 그 다음, 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위해 TU들을 사용하여 양자화되고 스캐닝될 수도 있다.
일부 예들에 있어서, CU 의 PU들을 사용한 인트라-예측 또는 인터-예측 코딩 이후, 인코더 엔진 (106) 은 CU 의 TU들에 대한 잔차 데이터를 계산할 수도 있다. PU들은 공간 도메인 (또는 픽셀 도메인) 에서 픽셀 데이터를 포함할 수도 있다. TU들은 블록 변환의 적용 이후 변환 도메인에서의 계수들을 포함할 수도 있다. 전술된 바와 같이, 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과 PU들에 대응하는 예측 값들 사이의 픽셀 차이 값들에 대응할 수도 있다. 인코더 엔진 (106) 은 CU 에 대한 잔차 데이터를 포함하는 TU들을 형성할 수도 있고, 그 다음, TU들을 변환하여 CU 에 대한 변환 계수들을 생성할 수도 있다.
인코더 엔진 (106) 은 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 변환 계수들을 양자화하여 그 계수들을 나타내는데 사용되는 데이터의 양을 감소시킴으로써 추가의 압축을 제공한다. 예를 들어, 양자화는 그 계수들의 일부 또는 모두와 연관되는 비트 심도를 감소시킬 수도 있다. 일 예에 있어서, n 비트 값을 갖는 계수는 양자화 동안 m 비트 값으로 라운드-다운될 수도 있으며, 여기서, n 은 m 보다 크다.
일단 양자화가 수행되면, 코딩된 비디오 비트스트림은 양자화된 변환 계수들, 예측 정보 (예컨대, 예측 모드들, 모션 벡터 등), 파티셔닝 정보, 및 다른 신택스 데이터와 같은 임의의 다른 적합한 데이터를 포함한다. 그 다음, 코딩된 비디오 비트스트림의 상이한 엘리먼트들이 인코더 엔진 (106) 에 의해 엔트로피 인코딩될 수도 있다. 일부 예들에 있어서, 인코더 엔진 (106) 은, 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 미리 정의된 스캔 순서를 활용하여 양자화된 변환 계수들을 스캔할 수도 있다. 일부 예들에 있어서, 인코더 엔진 (106) 은 적응적 스캔을 수행할 수도 있다. 벡터 (예컨대, 1차원 벡터) 를 형성하기 위해 양자화된 변환 계수들을 스캐닝한 이후, 인코더 엔진 (106) 은 그 벡터를 엔트로피 인코딩할 수도 있다. 예를 들어, 인코더 엔진 (106) 은 컨텍스트 적응적 가변 길이 코딩, 컨텍스트 적응적 바이너리 산술 코딩, 신택스 기반 컨텍스트 적응적 바이너리 산술 코딩, 확률 인터벌 파티셔닝 엔트로피 코딩, 또는 다른 적합한 엔트로피 인코딩 기법을 사용할 수도 있다.
인코딩 디바이스 (104) 의 출력부 (110) 는 인코딩된 비디오 비트스트림 데이터를 구성하는 NAL 유닛들을 통신 링크 (120) 상으로 수신 디바이스의 디코딩 디바이스 (112) 로 전송할 수도 있다. 디코딩 디바이스 (112) 의 입력부 (114) 는 NAL 유닛들을 수신할 수도 있다. 통신 링크 (120) 는 무선 네트워크, 유선 네트워크, 또는 유선 및 무선 네트워크의 조합에 의해 제공된 채널을 포함할 수도 있다. 무선 네트워크는 임의의 무선 인터페이스 또는 무선 인터페이스들의 조합을 포함할 수도 있고, 임의의 적합한 무선 네트워크 (예컨대, 인터넷 또는 다른 광역 네트워크, 패킷 기반 네트워크, WiFi™, 무선 주파수 (RF), UWB, WiFi-다이렉트, 셀룰러, 롱 텀 에볼루션 (LTE), WiMax™ 등) 를 포함할 수도 있다. 유선 네트워크는 임의의 유선 인터페이스 (예컨대, 섬유, 이더넷, 전력선 이더넷, 이더넷 오버 동축 케이블, 디지털 신호 라인 (DSL) 등) 를 포함할 수도 있다. 유선 및/또는 무선 네트워크들은 기지국들, 라우터들, 액세스 포인트들, 브릿지들, 게이트웨이들, 스위치들 등과 같은 다양한 장비를 이용하여 구현될 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되고, 수신 디바이스로 송신될 수도 있다.
일부 예들에 있어서, 인코딩 디바이스 (104) 는 인코딩된 비디오 비트스트림 데이터를 저장부 (108) 에 저장할 수도 있다. 출력부 (110) 는 인코더 엔진 (106) 으로부터 또는 저장부 (108) 로부터 인코딩된 비디오 비트스트림 데이터를 취출할 수도 있다. 저장부 (108) 는 다양한 분산되거나 국부적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 예를 들어, 저장부 (108) 는 하드 드라이브, 저장 디스크, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들을 포함할 수도 있다.
디코딩 디바이스 (112) 의 입력부 (114) 는 인코딩된 비디오 비트스트림 데이터를 수신하고, 비디오 비트스트림 데이터를 디코더 엔진 (116) 에, 또는 디코더 엔진 (116) 에 의한 나중 사용을 위해 저장부 (118) 에 제공할 수도 있다. 디코더 엔진 (116) 은, 인코딩된 비디오 데이터를 구성하는 하나 이상의 코딩된 비디오 시퀀스들의 엘리먼트들을 (예컨대, 엔트로피 디코더를 사용하여) 엔트로피 디코딩하고 추출함으로써 인코딩된 비디오 비트스트림 데이터를 디코딩할 수도 있다. 그 다음, 디코더 엔진 (116) 은 인코딩된 비디오 비트스트림 데이터에 대해 리스케일링 (rescale) 하고 역변환을 수행할 수도 있다. 그 다음, 잔차 데이터가 디코더 엔진 (116) 의 예측 스테이지로 전달된다. 그 다음, 디코더 엔진 (116) 은 픽셀들의 블록 (예컨대, PU) 을 예측한다. 일부 예들에 있어서, 예측은 역변환의 출력 (잔차 데이터) 에 추가된다.
디코딩 디바이스 (112) 는 디코딩된 비디오를 비디오 목적지 디바이스 (122) 에 출력할 수도 있고, 비디오 목적지 디바이스는 디코딩된 비디오 데이터를 컨텐츠의 소비자에게 디스플레이하기 위한 디스플레이 또는 다른 출력 디바이스를 포함할 수도 있다. 일부 예들에 있어서, 비디오 목적지 디바이스 (122) 는 디코딩 디바이스 (112) 를 포함하는 수신 디바이스의 부분일 수도 있다. 일부 예들에 있어서, 비디오 목적지 디바이스 (122) 는 수신 디바이스 이외의 별도의 디바이스의 부분일 수도 있다.
보충 강화 정보 (SEI) 메시지들이 비디오 비트스트림들에 포함될 수 있다. 예를 들어, SEI 메시지들은 디코딩 디바이스 (112) 에 의해 비트스트림을 디코딩하기 위하여 필수적이지 않은 정보 (예컨대, 메타데이터) 를 운반하는데 사용될 수도 있다. 이러한 정보는 디코딩된 출력의 디스플레이 또는 프로세싱을 개선하는데 유용하다 (예컨대, 그러한 정보는 컨텐츠의 가시성을 개선하기 위해 디코더 측 엔티티들에 의해 사용될 수 있음). SEI 메시지들은 비-VCL NAL 에서 비디오 비트스트림으로 캡슐화될 수도 있다.
일부 예들에 있어서, 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 각각 오디오 인코딩 디바이스 및 오디오 디코딩 디바이스와 통합될 수도 있다. 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 또한, 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 어플리케이션 특정 집적 회로들 (ASIC들), 필드 프로그래밍가능 게이트 어레이들 (FPGA들), 이산 로직, 소프트웨어, 하드웨어, 펌웨어, 또는 이들의 임의의 조합들과 같은, 상기 설명된 코딩 기법들을 구현하기 위해 필요한 다른 하드웨어 또는 소프트웨어를 포함할 수도 있다. 비디오 인코딩 디바이스 (104) 및 비디오 디코딩 디바이스 (112) 는 개별 디바이스에서 조합된 인코더/디코더 (코덱) 의 부분으로서 통합될 수도 있다.
HEVC 표준에 대한 확장들은 MV-HEVC 로서 지칭되는 멀티뷰 비디오 코딩 확장, 및 SHVC 로서 지칭되는 스케일러블 비디오 코딩 확장을 포함한다. MV-HEVC 및 SHVC 확장들은 계층화된 코딩의 개념을 공유하고, 상이한 계층들은 인코딩된 비디오 비트스트림에 포함된다. 코딩된 비디오 시퀀스에서의 각각의 계층은 고유의 계층 식별자 (ID) 에 의해 어드레싱된다. 계층 ID 는, NAL 유닛이 연관되는 계층을 식별하기 위해 NAL 유닛의 헤더에 존재할 수도 있다. MV-HEVC 에 있어서, 상이한 계층들은 비디오 비트스트림에서 동일한 장면의 상이한 뷰들을 표현할 수 있다. SHVC 에 있어서, 상이한 공간 해상도들 (또는 픽처 해상도) 에서 또는 상이한 복원 충실도들에서 비디오 비트스트림을 표현하는 상이한 스케일러블 계층들이 제공된다. 스케일러블 계층들은 (계층 ID = 0 을 갖는) 기본 계층, 및 (계층 ID들 = 1, 2, … n 을 갖는) 하나 이상의 강화 계층들을 포함할 수도 있다. 기본 계층은 HEVC 의 제 1 버전의 프로파일에 부합할 수도 있고, 비트스트림에서 최저 이용가능한 계층을 표현한다. 강화 계층들은, 기본 계층과 비교할 때, 증가된 공간 해상도, 시간 해상도 또는 프레임 레이트, 및/또는 복원 충실도 (또는 품질) 를 갖는다. 강화 계층들은 계위적으로 조직되고, 하위 계층들에 의존할 수도 있다 (또는 의존하지 않을 수도 있음). 일부 예들에 있어서, 상이한 계층들은 단일 표준 코덱을 이용하여 코딩될 수도 있다 (예컨대, 모든 계층들은 HEVC, SHVC, 또는 다른 코딩 표준을 이용하여 인코딩됨). 일부 예들에 있어서, 상이한 계층들은 멀티-표준 코덱을 이용하여 코딩될 수도 있다. 예를 들어, 기본 계층은 AVC 를 이용하여 코딩될 수도 있는 한편, 하나 이상의 강화 계층들은 HEVC 표준에 대한 SHVC 및/또는 MV-HEVC 확장들을 이용하여 코딩될 수도 있다. 일반적으로, 계층은 VCL NAL 유닛들의 세트, 및 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들은 특정 계층 ID 값을 할당받는다. 계층들은, 계층이 하위 계층에 의존할 수도 있다는 의미에서 계위적일 수 있다.
전술된 바와 같이, HEVC 비트스트림은, VCL NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는 NAL 유닛들의 그룹을 포함한다. 비-VCL NAL 유닛들은, 다른 정보에 부가하여, 인코딩된 비디오 비트스트림에 관한 하이-레벨 정보를 갖는 파라미터 세트들을 포함할 수도 있다. 예를 들어, 파라미터 세트는 비디오 파라미터 세트 (VPS), 시퀀스 파라미터 세트 (SPS), 및 픽처 파라미터 세트 (PPS)를 포함할 수도 있다. 파라미터 세트들의 목적들의 예들은 비트 레이트 효율, 에러 내성, 및 시스템들에게 계층 인터페이스들을 제공하는 것을 포함한다. 슬라이스는, 동일한 프레임에서 임의의 다른 영역과는 별도로 인코딩된 비디오 프레임의 공간적으로 별개의 영역이다. 각각의 슬라이스는 단일 액티브 PPS, SPS, 및 VPS 를 참조하여, 디코딩 디바이스 (112) 가 슬라이스를 디코딩하기 위해 사용할 수도 있는 정보에 액세스한다. VPS ID, SPS ID, 및 PPS ID 를 포함하여 식별자 (ID) 가 각각의 파라미터 세트에 대해 코딩될 수도 있다. SPS 는 SPS ID 및 VPS ID 를 포함한다. PPS 는 PPS ID 및 SPS ID 를 포함한다. 각각의 슬라이스 헤더는 PPS ID 를 포함한다. ID들을 사용하여, 액티브 파라미터 세트들이 주어진 슬라이스에 대해 식별될 수 있다.
VCL NAL 유닛들은 코딩된 비디오 비트스트림을 형성하는 코딩된 픽처 데이터를 포함한다. 다양한 타입들의 VCL NAL 유닛들이 HEVC 표준에서 정의된다. 단일 계층 비트스트림에 있어서, 제 1 HEVC 표준에서 정의된 바와 같이, AU 에 포함된 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값을 가지며, NAL 유닛 타입 값은 AU 의 타입 및 AU 내의 코딩된 픽처의 타입을 정의한다. 예를 들어, 특정 AU 의 VCL NAL 유닛들은 순시 디코딩 레프레시 (IDR) NAL 유닛들 (값 19) 을 포함하여, AU 를 IDR AU 로 하게 하고 AU 의 코딩된 픽처를 IDR 픽처로 하게 할 수도 있다. VCL NAL 유닛의 주어진 타입은 VCL NAL 유닛에 포함된 픽처 또는 그의 일부 (예컨대, VCL NAL 유닛에서의 픽처의 슬라이스 또는 슬라이스 세그먼트) 와 관련된다. 리딩 픽처들, 트레일링 픽처들, 및 인트라 랜덤 액세스 (IRAP) 픽처들 ("랜덤 액세스 픽처들" 로서도 또한 지칭됨) 을 포함하여 3개 클래스들의 픽처들이 HEVC 표준에서 정의된다. 멀티-계층 비트스트림에 있어서, AU 내의 픽처의 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값 및 동일한 타입의 코딩된 픽처를 갖는다. 예를 들어, 타입 IDR 의 VCL NAL 유닛들을 포함하는 픽처는 AU 에서의 IDR 픽처인 것으로 일컬어진다. 다른 예에 있어서, AU 가 기본 계층 (계층 ID 는 0 과 동일함) 에서의 IRAP 픽처인 픽처를 포함할 경우, AU 는 IRAP AU 이다.
상기 논의된 바와 같이 인코딩된 비디오 비트스트림은, 비트스트림을 인코딩 디바이스 (104) 로부터 디코딩 디바이스 (112) 로 전송하기 위하여 하나 이상의 파일들에 기입되거나 패킹될 수 있다. 예를 들어, 출력부 (110) 는, 비트스트림을 포함하는 하나 이상의 파일들을 생성하도록 구성된 파일 기입 엔진을 포함할 수도 있다. 출력부 (110) 는 하나 이상의 파일들을 통신 링크 (120) 상으로 디코더 디바이스 (112) 로 송신할 수 있다. 대안적으로 또는 부가적으로, 하나 이상의 파일들은 디코딩 디바이스 (112) 로의 나중 송신을 위해 저장 매체 (예컨대, 테이프, 자기 디스크, 또는 하드 드라이브, 또는 일부 다른 매체) 상에 저장될 수 있다.
디코더 디바이스 (112) 는, 예를 들어, 입력부 (114) 에, 파일 파싱 엔진을 포함할 수 있다. 파일 파싱 엔진은 통신 링크 (120) 상으로 또는 저장 매체로부터 수신된 파일들을 판독할 수 있다. 파일 파싱 엔진은 추가로, 파일로부터 샘플들을 추출하고, 디코더 엔진 (116) 에 의한 디코딩을 위해 비트스트림을 복원할 수 있다. 일부 경우들에 있어서, 복원된 비트스트림은 인코더 엔진 (106) 에 의해 생성된 비트스트림과 동일할 수 있다. 일부 경우들에 있어서, 인코더 엔진 (106) 은 비트스트림을 디코딩하기 위한 수개의 가능한 옵션들로 비트스트림을 생성하였을 수도 있으며, 그 경우, 복원된 비트스트림은 가능한 옵션들의 모두보다는 적거나 또는 오직 하나만을 포함할 수도 있다.
상기 논의된 바와 같이 인코딩된 비디오 비트스트림은 ISOBMFF, ISOBMFF 로부터 파생된 파일 포맷, 일부 다른 파일 포맷, 및/또는 ISOBMFF 를 포함한 파일 포맷들의 조합을 사용하여 하나 이상의 파일들로 기입되거나 패킹될 수 있다. 파일 또는 파일들은 비디오 플레이어 디바이스를 사용하여 플레이백될 수 있고, 송신되고 그 다음 디스플레이되고/되거나 저장될 수 있다.
도 2 는 ISOBMFF 에 따라 포맷팅된, 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 베이스 미디어 파일 (200) 의 일 예를 예시한다. ISOBMFF 는 미디어의 상호교환, 관리, 에디팅, 및 프리젠테이션을 용이하게 하는 유연하고 확장가능한 포맷으로 타이밍된 미디어 정보를 포함하도록 설계된다. 미디어의 프리젠테이션은 프리젠테이션을 포함하는 시스템에 "국부적" 일 수도 있거나, 그 프리젠테이션은 네트워크 또는 다른 스트림 전달 메커니즘을 통한 것일 수도 있다.
ISOBMFF 사양에 의해 정의된 바와 같은 "프리젠테이션" 은, 종종, 비디오 캡처 디바이스에 의해 순차적으로 캡처된 것에 의해 관련된 또는 몇몇 다른 이유로 관련된, 픽처들의 시퀀스이다. 본 명세서에서, 프리젠테이션은 또한, 무비 또는 비디오 프리젠테이션으로서 지칭될 수도 있다. 프리젠테이션은 오디오를 포함할 수도 있다. 단일 프리젠테이션은 하나 이상의 파일들에 포함될 수도 있고, 하나의 파일은 전체 프리젠테이션을 위한 메타데이터를 포함한다. 메타데이터는 타이밍 및 프레이밍 데이터, 디스크립터들, 포인터들, 파라미터들, 및 프리젠테이션을 기술하는 다른 정보와 같은 정보를 포함한다. 메타데이터는 비디오 및/또는 오디오 데이터 자체는 포함하지 않는다. 메타데이터를 포함하는 파일 이외의 파일들은 ISOBMFF 에 따라 포맷팅될 필요가 없고, 오직 이들 파일들이 메타데이터에 의해 참조될 수 있도록 포맷팅될 필요만 있다.
ISO 베이스 미디어 파일의 파일 구조는 오브젝트 지향적이며, 그 파일에서의 개별 오브젝트의 구조는 오브젝트의 타입으로부터 직접 추론될 수 있다. ISO 베이스 미디어 파일에서의 오브젝트들은 ISOBMFF 사양에 의해 "박스들 (boxes)" 로서 지칭된다. ISO 베이스 미디어 파일은, 다른 박스들을 포함할 수 있는 박스들의 시퀀스로서 구조화된다. 박스들은 일반적으로, 박스에 대한 사이즈 및 타입을 제공하는 헤더를 포함한다. 사이즈는 헤더, 필드들, 및 박스 내에 포함된 모든 박스들을 포함하는 박스의 전체 사이즈를 기술한다. 플레이어 디바이스에 의해 인식되지 않는 타입을 갖는 박스들은 통상적으로 무시되고 스킵된다.
도 2 는, 파일의 최상위 레벨에서, ISO 베이스 미디어 파일 (200) 이 파일 타입 박스 (210), 무비 박스 (220), 및 하나 이상의 무비 프래그먼트 박스들 (230a, ..., 230n) 을 포함할 수 있다. 이 레벨에 포함될 수 있지만 이 예에서 표현되지 않은 다른 박스들은, 다른 것들 중에서, 자유 공간 박스들, 메타데이터 박스들, 및 미디어 데이터 박스들을 포함한다.
ISO 베이스 미디어 파일은, 박스 타입 "ftyp" 에 의해 식별된 파일 타입 박스 (210) 를 포함할 수 있다. 파일 타입 박스 (210) 는, 파일을 파싱하기에 가장 적합한 ISOBMFF 사양을 식별한다. 이 경우에서의 "가장 (most)" 은, ISO 베이스 미디어 파일 (200) 이 특정 ISOBMFF 사양에 따라 포맷팅되었을 수도 있지만, 그 사양의 다른 반복들과 호환될 가능성이 있음을 의미한다. 이러한 가장 적합한 사양은 주요 브랜드로서 지칭된다. 플레이어 디바이스는, 디바이스가 파일의 컨텐츠들을 디코딩 및 디스플레이 가능한지 여부를 결정하기 위해 주요 브랜드를 사용할 수 있다. 파일 타입 박스 (210) 는 또한 버전 번호를 포함할 수 있고, 이는 ISOBMFF 사양의 버전을 표시하기 위해 사용될 수 있다. 파일 타입 박스 (210) 는 또한 호환가능한 브랜드들의 리스트를 포함할 수 있으며, 이는 파일이 호환가능한 다른 브랜드들의 리스트를 포함한다. ISO 베이스 미디어 파일은 1 초과의 주요 브랜드와 호환가능할 수 있다.
ISO 베이스 미디어 파일 (200) 이 파일 타입 박스 (210) 를 포함할 경우, 오직 하나의 파일 타입 박스만이 존재한다. ISO 베이스 미디어 파일 (200) 은, 더 오래된 플레이어 디바이스들과 호환가능하기 위하여 파일 타입 박스 (210) 를 생략할 수도 있다. ISO 베이스 미디어 파일 (200) 이 파일 타입 박스 (210) 를 포함하지 않을 경우, 플레이어 디바이스는 디폴트 주요 브랜드 (예컨대, "mp41"), 마이너 버전 (예컨대, "0") 및 호환가능한 브랜드 (예컨대, "mp41") 를 가정할 수 있다. 파일 타입 박스 (210) 는 통상적으로, ISO 베이스 미디어 파일 (200) 에 가능한 일찍 배치된다.
ISO 베이스 미디어 파일은, 프리젠테이션을 위한 메타데이터를 포함하는 무비 박스 (220) 를 더 포함할 수 있다. 무비 박스 (220) 는 박스 타입 "moov" 에 의해 식별된다. ISO/IEC 14496-12 는 프리젠테이션이, 하나의 파일에 포함되든지 또는 다중의 파일들에 포함되든지 간에, 오직 하나의 무비 박스 (220) 를 포함할 수 있는 것을 규정한다. 빈번하게, 무비 박스 (220) 는 ISO 베이스 미디어 파일의 시작부 부근에 있다. 무비 박스 (220) 는 무비 헤더 박스 (222) 를 포함하고, 하나 이상의 트랙 박스들 (224) 뿐 아니라 다른 박스들을 포함할 수 있다.
박스 타입 "mvhd" 에 의해 식별되는 무비 헤더 박스 (222) 는, 미디어-독립적이고 전체적으로 프리젠테이션에 관련된 정보를 포함할 수 있다. 예를 들어, 무비 헤더 박스 (222) 는, 다른 것들 중에서, 생성 시간, 수정 시간, 타임스케일, 및/또는 프리젠테이션을 위한 지속기간과 같은 정보를 포함할 수 있다. 무비 헤더 박스 (222) 는 또한, 프리젠테이션에서 다음 트랙을 식별하는 식별자를 포함할 수 있다. 예를 들어, 식별자는 예시된 예에서 무비 박스 (220) 에 의해 포함된 트랙 박스 (224) 를 포인팅할 수 있다.
박스 타입 "trak" 에 의해 식별되는 트랙 박스 (224) 는 프리젠테이션을 위한 트랙에 대한 정보를 포함할 수 있다. 프리젠테이션은 하나 이상의 트랙들을 포함할 수 있고, 여기서, 각각의 트랙은 프리젠테이션에서 다른 트랙들에 독립적이다. 각각의 트랙은 트랙에서의 컨텐츠에 특정적인 시간 및 공간 정보를 포함할 수 있고, 각각의 트랙은 미디어 박스와 연관될 수 있다. 트랙에서의 데이터는 미디어 데이터일 수 있으며 이 경우에 트랙은 미디어 트랙이고, 또는, 그 데이터는 스트리밍 프로토콜들을 위한 패킷화 정보일 수 있으며 이 경우에 트랙은 힌트 트랙이다. 미디어 데이터는, 예를 들어, 비디오 및 오디오 데이터를 포함한다. 예시된 예에 있어서, 예시적인 트랙 박스 (224) 는 트랙 헤더 박스 (224a) 및 미디어 박스 (224b) 를 포함한다. 트랙 박스는 트랙 참조 박스, 트랙 그룹 박스, 에디트 박스, 사용자 데이터 박스, 메타 박스, 및 기타와 같은 다른 박스들을 포함할 수 있다.
박스 타입 "tkhd" 에 의해 식별되는 트랙 헤더 박스 (224a) 는 트랙 박스 (224) 에 포함된 트랙의 특성들을 명시할 수 있다. 예를 들어, 트랙 헤더 박스 (224a) 는, 다른 것들 중에서, 생성 시간, 수정 시간, 지속기간, 트랙 식별자, 계층 식별자, 그룹 식별자, 트랙의 볼륨, 폭, 및/또는 높이를 포함할 수 있다. 미디어 트랙에 대해, 트랙 헤더 박스 (224a) 는, 다른 것들 중에서, 트랙이 인에이블되는지 여부, 트랙이 프리젠테이션의 부분으로서 플레이되어야 하는지 여부, 또는 트랙이 프리젠테이션을 프리뷰하기 위해 사용될 수 있는지 여부를 추가로 식별할 수 있다. 트랙의 프리젠테이션은 일반적으로, 프리젠테이션의 시작부에 있는 것으로 가정된다. 트랙 박스 (224) 는, 명시적 타임라인 맵을 포함할 수 있는, 본원에서 예시되지 않은, 에디트 리스트 박스를 포함할 수 있다. 타임라인 맵은, 다른 것들 중에서, 트랙에 대한 오프셋 시간을 명시할 수 있으며, 여기서, 오프셋은 트랙에 대한, 프리젠테이션의 시작 이후의 시작 시간을 표시한다.
예시된 예에 있어서, 트랙 박스 (224) 는 또한, 박스 타입 "mdia" 에 의해 식별되는 미디어 박스 (224b) 를 포함한다. 미디어 박스 (224b) 는 트랙에서 미디어 데이터에 관한 정보 및 오브젝트들을 포함할 수 있다. 예를 들어, 미디어 박스 (224b) 는 핸들러 참조 박스를 포함할 수 있고, 이 핸들러 참조 박스는 트랙의 미디어 타입, 및 트랙에서의 미디어가 프리젠테이션되는 프로세스를 식별할 수 있다. 다른 예로서, 미디어 박스 (224b) 는, 트랙에서의 미디어의 특성들을 명시할 수 있는 미디어 정보 박스를 포함할 수 있다. 미디어 정보 박스는 샘플들의 테이블을 더 포함할 수 있고, 여기서, 각각의 샘플은, 예를 들어, 그 샘플에 대한 데이터의 위치를 포함하는 미디어 데이터 (예컨대, 비디오 또는 오디오 데이터) 의 청크 (chunk) 를 기술한다. 샘플에 대한 데이터는, 하기에서 추가로 논의되는 미디어 데이터 박스에 저장된다. 대부분의 다른 박스들과 같이, 미디어 박스 (224b) 는 또한, 미디어 헤더 박스를 포함할 수 있다.
예시된 예에 있어서, 예시적인 ISO 베이스 미디어 파일 (200) 은 또한, 프리젠테이션의 다중의 프래그먼트들 (230a, 230b, 230c, 230n) 을 포함한다. 프래그먼트들 (230a, 230b, 203c, 230n) 은 ISOBMFF 박스들이 아니며, 오히려, 무비 프래그먼트 박스 (232) 및 무비 프래그먼트 박스 (232) 에 의해 참조되는 미디어 데이터 박스 (238) 를 기술한다. 무비 프래그먼트 박스 (232) 및 미디어 데이터 박스들 (238) 은 최상위-레벨 박스들이지만, 여기서, 무비 프래그먼트 박스 (232) 와 미디어 데이터 박스 (238) 사이의 관계를 표시하기 위해 그룹화된다.
박스 타입 "moof" 에 의해 식별되는 무비 프래그먼트 박스 (232) 는 무비 박스 (220) 에 달리 저장될 추가적인 정보를 포함함으로써 프리젠테이션을 확장할 수 있다. 무비 프래그먼트 박스들 (232) 을 사용하여, 프리젠테이션이 증분적으로 구축될 수 있다. 무비 프래그먼트 박스 (232) 는, 무비 프래그먼트 헤더 박스 (234) 및 트랙 프래그먼트 박스 (236) 뿐 아니라 본원에서 예시되지 않은 다른 박스들을 포함할 수 있다.
박스 타입 "mfhd" 에 의해 식별되는 무비 프래그먼트 헤더 박스 (234) 는 시퀀스 번호를 포함할 수 있다. 플레이어 디바이스는, 프래그먼트 (230a) 가 프리젠테이션을 위한 데이터의 다음 피스 (piece) 를 포함하는 것을 확인하기 위해 시퀀스 번호를 사용할 수 있다. 일부 경우들에 있어서, 프리젠테이션을 위한 파일 또는 파일들의 컨텐츠들은 순서없이 플레이어 디바이스에 제공될 수 있다. 예를 들어, 네트워크 패킷들은, 패킷들이 원래 송신되었던 순서와는 다른 순서로 빈번하게 도달할 수 있다. 이들 경우들에 있어서, 시퀀스 번호는 프래그먼트들에 대한 정확한 순서를 결정함에 있어서 플레이어 디바이스를 도울 수 있다.
무비 프래그먼트 박스 (232) 는 또한, 박스 타입 "traf" 에 의해 식별되는 하나 이상의 트랙 프래그먼트 박스들 (236) 을 포함할 수 있다. 무비 프래그먼트 박스 (232) 는 트랙 당 제로 이상의 트랙 프래그먼트들의 세트를 포함할 수 있다. 트랙 프래그먼트들은, 제로 이상의 트랙 런들 (runs) 을 포함할 수 있으며, 이 트랙 런들의 각각은 트랙에 대한 샘플들의 인접한 런을 기술한다. 트랙 프래그먼트들은 트랙에 샘플들을 부가하는 것에 추가하여 트랙에 엠프티 타임 (empty time) 을 부가하기 위해 사용될 수 있다.
박스 타입 "mdat" 에 의해 식별되는 미디어 데이터 박스 (238) 는 미디어 데이터를 포함한다. 비디오 트랙들에 있어서, 미디어 데이터 박스 (238) 는 비디오 프레임들을 포함할 것이다. 미디어 데이터 박스는 대안적으로 또는 부가적으로 오디오 데이터를 포함할 수 있다. 프리젠테이션은, 하나 이상의 개별 파일들에 포함된 제로 이상의 미디어 데이터 박스들을 포함할 수 있다. 미디어 데이터는 메타데이터에 의해 기술된다. 예시된 예에 있어서, 미디어 데이터 박스 (238) 에서의 미디어 데이터는 트랙 프래그먼트 박스 (236) 에 포함된 메타데이터에 의해 기술될 수 있다. 다른 예들에 있어서, 미디어 데이터 박스에서의 미디어 데이터는 무비 박스 (220) 에서의 메타데이터에 의해 기술될 수 있다. 메타데이터는 파일 (200) 내의 절대 오프셋에 의해 특정 미디어 데이터를 지칭할 수 있어서, 미디어 데이터 박스 (238) 내의 미디어 데이터 헤더 및/또는 자유 공간은 스킵될 수 있다.
ISO 베이스 미디어 파일 (200) 에서의 다른 프래그먼트들 (230b, 230c, 230n) 은 제 1 프래그먼트 (230a) 에 대해 예시된 것들과 유사한 박스들을 포함할 수 있고, 및/또는, 다른 박스들을 포함할 수 있다.
ISOBMFF 는 미디어의 로컬 플레이백을 지원하는 것에 부가하여, 네트워크 상으로 미디어 데이터를 스트리밍하기 위한 지원을 포함한다. 하나의 무비 프리젠테이션을 포함하는 파일 또는 파일들은 힌트 트랙으로 지칭되는 추가적인 트랙들을 포함할 수 있고, 이들은 패킷들로서 파일 또는 파일들을 형성하고 송신하는데 있어서 스트리밍 서버를 보조할 수 있는 명령들을 포함한다. 이들 명령들은, 예를 들어, 서버가 전송하기 위한 데이터 (예컨대, 헤더 정보) 또는 미디어 데이터의 세그먼트들에 대한 참조들을 포함할 수 있다. 파일은 상이한 스트리밍 프로토콜들에 대해 별도의 힌트 트랙들을 포함할 수 있다. 힌트 트랙들은 또한, 파일을 재포맷팅할 필요 없이 파일에 부가될 수 있다.
미디어 데이터를 스트리밍하기 위한 하나의 방법은 동적 적응적 스트리밍 오버 하이퍼텍스트 전송 프로토콜 (HTTP) 또는 DASH (ISO/IEC 23009-1:2014 에서 정의됨) 이다. MPEG-DASH 로서도 또한 공지된 DASH 는 종래의 HTTP 웹 서버들을 사용하여 미디어 컨텐츠의 고품질 스트리밍을 가능하게 하는 적응적 비트레이트 스트리밍 기법이다. DASH 는 미디어 컨텐츠를 작은 HTTP 기반 파일 세그먼트들의 시퀀스로 분할함으로써 동작하며, 여기서, 각각의 세그먼트는 컨텐츠의 짧은 시간 인터벌을 포함한다. DASH 를 사용하여, 서버는 상이한 비트 레이트들에서 미디어 컨텐츠를 제공할 수 있다. 미디어를 플레이하고 있는 클라이언트 디바이스는 다음 세그먼트를 다운로드할 때 대체 비트 레이트들 중에서 선택할 수 있고, 따라서, 네트워크 조건들을 변경하도록 적응할 수 있다. DASH 는 월드 와이드 웹 (World Wide Web) 상으로 컨텐츠를 전달하기 위해 인터넷의 HTTP 웹 서버 인프라구조를 사용한다. DASH 는, 미디어 컨텐츠를 인코딩 및 디코딩하는데 사용되는 코덱에 독립적이고, 따라서, 다른 것들 중에서, H.264 및 HEVC 와 같은 코덱들과 동작한다.
ISOBMFF 는, 유연하고 확장가능하며 다양한 타입들의 미디어를 저장하고 송신하는데 널리 사용되지만, 별도로 코딩되고 독립적인 서브-픽처 트랙들 간의 관계의 표시를 위한 메커니즘들을 포함하지 않는다. 그러한 메커니즘들의 부재는, 파일 파서가 비디오 트랙들의 어느 세트가 전체 비디오 컨텐츠의 하나의 표현을 운반하는지를 알아 내기 쉽지 않게 할 것이다.
ISOBMFF 는 또한, 별도로 코딩되고 독립적인 서브-픽처 트랙들을 활용할 때 전체 픽처의 공간 해상도의 표시를 제공하지 않는다. 그러한 표시의 부재는, 모든 서브-픽처 트랙들이 전체 픽처의 사이즈를 알아 내기 위해 페치 및 파싱될 필요가 있음을 의미하며, 이는, 다수의 경우들에서 오직 이들 트랙들의 서브세트만이 필요하기 때문에 번거롭다.
ISOBMFF 는, 별도로 코딩되고 독립적인 서브-픽처 트랙들을 활용할 때, 타입 'cdsc' 의 트랙 참조와 관련된 문제를 갖는다. 타이밍된 메타데이터 트랙은 미디어 트랙의 타이밍된 정보를 시그널링하는데 사용될 수도 있으며, 타입 'cdsc' 의 트랙 참조를 통해 미디어 트랙과 연관된다. 이러한 미디어 트랙은 또한, 타이밍된 메타데이터 트랙의 참조된 (미디어) 트랙으로서 지칭된다. 하지만, 미디어 컨텐츠는 다중의 미디어 트랙들, 예컨대, 타일 베이스 트랙 및 다수의 타일 트랙들에서 운반되는 비디오 컨텐츠, 또는 다수의 서브-픽처 트랙들에서 운반되는 비디오 컨텐츠로 표현될 수 있다. 전자의 경우 (타일 베이스 트랙 및 다수의 타일 트랙들의 경우), 타이밍된 메타데이터 트랙에 대한 참조된 미디어 트랙으로서 타일 베이스 트랙을 선택하는 것이 간단하며, 트랙 참조 타입 'cdsc' 의 의미는, "이 트랙은 참조된 타일 베이스 트랙 및 모든 관련 타일 트랙들에 의해 표현된 비디오 컨텐츠를 기술함" 으로서 해석된다. 하지만, 후자의 경우 (다수의 서브-픽처 트랙들의 경우), 참조된 트랙으로서 임의의 서브-픽처 트랙들을 선택하는 것은 바람직하지 않은데, 왜냐하면 이는 "타이밍된 메타데이터 트랙이 오직 비디오 컨텐츠의 서브-픽처 부분에 대한 정보만 포함함" 으로서 해석되기 때문이다.
다양한 구현들에 있어서, ISOBMFF 및/또는 ISOBMFF 로부터 파생된 파일 포맷들은 그 예들 및 하기에 기재된 예들에 의해 상기 기재된 문제들을 해결하기 위해 수정 및/또는 확장될 수 있다. 하기에 기재된 예들 및 실시형태들은 가상 현실 컨텐츠에 대한 제어 및 프로세싱과 관련된 특정 적용가능성을 가질 수도 있다.
서브-픽처 베이스 트랙은 핸들러 타입 'vide' 를 사용하는 비디오 미디어 트랙이며, 비디오 컨텐츠의 모든 서브-픽처 트랙들에 공통인 비디오 컨텐츠의 일부 "글로벌" 정보 (즉, 복수의 서브-픽처 트랙들에 적용가능하거나, 그들과 연관되거나 또는 그들을 기술하는 정보) 를 문서화 (즉, 제공/포함) 하는데 사용될 수 있다. 서브-픽처 베이스 트랙은 코딩된 비디오 데이터 유닛들을 포함하지 않는다. 예를 들어, AVC 및 HEVC 와 같은 NAL 유닛 기반 비디오의 컨텍스트에 있어서, 서브-픽처 베이스 트랙은 어떠한 VCL NAL 유닛들도 포함하지 않는다. ISOBMFF 의 샘플 디스크립션 박스 ("stsd") 내의 특별한 샘플 엔트리 타입, 예컨대, 'spbt' 는 서브-픽처 베이스 트랙을 위해 (예컨대, 표시하기 위해) 사용된다.
그러한 글로벌 정보의 일 예는 비디오 컨텐츠의 전체 픽처의 공간 해상도 뿐 아니라 전체 픽처에 대한 서브-픽처들의 각각의 개별 포지션 및 개별 사이즈일 수도 있으며, 여기서, 각각의 서브-픽처는, 주어진 서브-픽처가 대응하는 서브-픽처 비트스트림을 포함하는 트랙 식별자 (ID) 에 의해 식별된다. 이들 파라미터들은 서브-픽처 베이스 트랙의 샘플 엔트리에 포함될 수도 있다. 이러한 예는, 특히, VR 어플리케이션들 뿐 아니라 비-VR 어플리케이션들에도 적용될 수도 있다.
그러한 글로벌 정보의 다른 예는 OMAF CD 에서 명시된 바와 유사하게 투영, 영역 단위 패킹, 배향, 및/또는 커버리지와 같은 글로벌 전방향성 미디어 특정 정보일 수도 있다. 글로벌 전방향성 미디어 특정 정보는 또한, 서브-픽처 베이스 트랙의 샘플 엔트리에서 시그널링될 수도 있으며, 서브-픽처 트랙들 내에서 시그널링될 수도 있거나 시그널링되지 않을 수도 있으며, 이 서브-픽처 트랙들은 바람직하게, 서브-픽처 베이스 트랙과 동일한 제약된 방식의 샘플 엔트리 타입을 또한 사용한다.
도 3 은 비디오 미디어 트랙이 서브-픽처 베이스 트랙임을 지정하기 위한 ISO 베이스 미디어 파일 (300) 을 예시한다. 파일 타입 박스 (310) 는, 파일 (300) 이 가상 현실 컨텐츠를 포함함을 표시하기 위해 옵션적으로 사용될 수 있다. 파일 타입 박스 (310) 는 또한, 예를 들어, 파일이 가상 현실 브랜드와 호환가능함을 표시하는 브랜드 값을 명시하기 위해 사용될 수 있다. 다양한 구현들에 있어서, 파일 타입 박스 (310) 에 리스팅된 호환가능한 브랜드들은 또한, 가상 현실 관련 파라미터들을 제공하는데 사용될 수 있는 옵션적인 브랜드 표시자들을 제공하는데 사용될 수 있다. 예를 들어, 하나의 호환가능한 브랜드 값은 가상 현실 컨텐츠가 2차원 (2D) 임을 표시할 수 있는 한편, 다른 호환가능한 브랜드 값은 가상 현실 컨텐츠가 3차원 (3D) 임을 표시할 수 있다. 다른 예로서, 호환가능한 브랜드 값들은 맵핑 타입; 즉, 가상 현실 비디오의 구형 표현이 등장방형, 큐브, 또는 피라미드 포맷, 또는 파일 (300) 에의 저장을 위한 일부 다른 포맷에 맵핑되었는지 여부를 표시하는데 사용될 수 있다. 다양한 구현들에 있어서, 비디오의 차원 및/또는 맵핑과 같은 정보는, 대안적으로 또는 부가적으로, 파일 타입 박스 (310) 의 옵션적인 필드들을 사용하여 표시될 수 있다.
무비 박스 (320) 는 무비 헤더 박스 (322), 및 옵션적으로 하나 이상의 트랙 박스들 (324) 을 포함할 수 있다. 무비 헤더 박스 (322) 는 옵션적으로, 무비 박스 (320) 에 의해 기술된 무비 또는 프리젠테이션이 가상 현실 컨텐츠를 포함함을 표시하는데 사용될 수도 있다. 무비 박스 (320) 는 프레젠테이션을 전체적으로 기술하는 정보를 포함할 수 있다. 트랙 박스 (324) 는 프리젠테이션에 있어서 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (324) 는 트랙 헤더 박스 (324a) 및 제로 이상의 미디어 데이터 박스들 (324b) 을 포함할 수 있다.
파일 (300) 은 파일 타입 박스 (310) 를 포함할 수 있으며, 이 파일 타입 박스 (310) 는 파일 (300) 이 호환가능한 ISOBMFF 또는 ISOBMFF 의 파생물들의 브랜드(들) 또는 특정 반복들을 명시할 수 있다. 파일 (300) 은 또한, 프리젠테이션을 위한 메타데이터를 포함할 수 있는 무비 박스 (320) 를 포함할 수 있다. 파일 (300) 은 옵션적으로, 상기 논의된 바와 같은 하나 이상의 프래그먼트들 (330a, 330b, 330c, 330n) 을 또한 포함할 수 있다.
무비 박스 (320) 는 무비 헤더 박스 (322) 및 하나 이상의 트랙 박스들 (324) 뿐 아니라 본원에서 예시되지 않은 다른 박스들을 포함할 수 있다. 무비 헤더 박스 (322) 는 프레젠테이션을 전체적으로 기술하는 정보를 포함할 수 있다. 트랙 박스 (324) 는 프리젠테이션에 있어서 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (324) 는 트랙 헤더 박스 (324a) 및 제로 이상의 미디어 데이터 박스들 (324b) 을 포함할 수 있다.
미디어 데이터 박스 (324b) 는, 다른 박스들 중에서, 핸들러 박스 (342c) 를 포함할 수 있다. 핸들러 참조 박스로서 또한 지칭될 수도 있는 핸들러 박스 (342c) 는 트랙의 미디어 타입을 표시할 수 있다. 트랙의 미디어 타입은, 트랙에서의 미디어 데이터가 프리젠테이션되는 프로세스를 정의한다. 미디어 타입들의 예들은, 다른 것들 중에서, 비디오 및 오디오를 포함한다. 미디어가 프리젠테이션되는 방식은 미디어에 대한 포맷을 포함할 수 있다. 예를 들어, 플레이어 디바이스가 트랙에 비디오 데이터를 전달하기 위해 사용하는 포맷 (예컨대, 애스펙트비, 해상도, 프레임 레이트 등) 은 비디오 트랙에 저장될 수 있고, 핸들러 박스 (342c) 의 비디오 핸들러 버전에 의해 식별될 수 있다. 일부 경우들에 있어서, 파일 (300) 은 임의의 타입의 메타데이터 스트림들에 대한 일반적인 핸들러를 포함할 수 있다. 이들 경우들에 있어서, 비디오 컨텐츠의 특정 포맷은, 컨텐츠를 기술하는 샘플 엔트리에 의해 식별될 수 있다.
일부 경우들에 있어서, 미디어 데이터 박스 (324b) 는 핸들러 박스 (342c) 를 포함할 수 있다. 핸들러 박스 (324c) 는, 트랙의 컨텐츠들이 비디오 핸들러 타입 'vide' 을 포함함을 시그널링하는데 사용될 수도 있다. 핸들러 타입 'vide' 은, 모든 서브-픽처 트랙들에 공통인 비디오 컨텐츠의 일부 글로벌 정보를 문서화하는데 사용될 수 있다. 서브-픽처 베이스 트랙은 코딩된 비디오 데이터 유닛들을 포함하지 않는다. 예를 들어, AVC 및 HEVC 와 같은 NAL 유닛 기반 비디오의 컨텍스트에 있어서, 서브-픽처 베이스 트랙은 어떠한 VCL NAL 유닛들도 포함하지 않는다.
다양한 구현들에 있어서, 핸들러 박스 (342c) 는, 미디어 데이터 박스 (324b) 에 의해 참조된 미디어 컨텐츠가 가상 현실 컨텐츠를 포함함을 표시하기 위해 사용될 수 있다. 예를 들어, 핸들러 박스 (342c) 는, 트랙에 포함된 비디오 컨텐츠가 가상 현실 비디오라는 (예컨대, 예약된 비트 또는 새로운 변수로의) 옵션적인 표시자를 포함할 수 있다. 옵션적인 표시자를 판독하도록 구성되지 않은 비디오 플레이어들은 그것을 무시할 수도 있다.
일부 구현들에 있어서, 비디오 핸들러 박스는 옵션적으로, 가상 현실 비디오가 2D 인지 또는 3D 인지 여부, 가상 현실 비디오가 사전-스티칭되는지 또는 사후-스티칭되지 여부, 및/또는 가상 현실 비디오에 대한 맵핑과 같이 가상 현실 컨텐츠를 기술하는 파라미터들을 또한 포함할 수 있다. 다양한 구현들에 있어서, 가상 현실 컨텐츠와 관련된 파라미터들은 트랙 박스 (324) 에서 찾을 수 있는 다양한 다른 박스들에 표시될 수 있다. 예를 들어, 파라미터들은 트랙 헤더 박스 (324a) 에서 시그널링될 수 있다. 대안적으로 또는 부가적으로, 파라미터들은, 본원에서 예시되지 않은, 미디어 헤더 박스 (박스 타입 "mdhd" 에 의해 식별됨) 에서 및/또는 비디오 미디어 헤더 박스 (박스 타입 "vmhd" 에 의해 식별됨) 에서 시그널링될 수 있다. 대안적으로 또는 부가적으로, 파라미터들은 샘플 엔트리에 및/또는 트랙 박스 (324) 의 최상위 레벨에 배치될 수 있는 새롭게 정의된 박스에 표시될 수 있다.
도 4 는, ISO 베이스 미디어 파일에 포함될 수 있고 특별한 샘플 엔트리 타입을 포함할 수도 있는 미디어 박스 (440) 의 일 예를 예시하며, 예컨대, 'spbt' 은 서브-픽처 베이스 트랙을 위해 사용된다. 상기 논의된 바와 같이, 미디어 박스는 트랙 박스에 포함될 수 있고, 트랙에서의 미디어 데이터를 기술하는 정보 및 오브젝트들을 포함할 수 있다. 예시된 예에 있어서, 미디어 박스 (440) 는 미디어 정보 박스 (442) 를 포함한다. 미디어 박스 (440) 는 또한, 본원에서 예시되지 않은 다른 박스들을 포함할 수 있다.
미디어 정보 박스 (442) 는 트랙에서의 미디어에 관한 특성 정보를 기술하는 오브젝트들을 포함할 수 있다. 예를 들어, 미디어 정보 박스 (442) 는, 트랙에서의 미디어 정보의 위치를 기술하는 데이터 정보 박스를 포함할 수 있다. 다른 예로서, 미디어 정보 박스 (442) 는, 트랙이 비디오 데이터를 포함할 경우 비디오 미디어 헤더를 포함할 수 있다. 비디오 미디어 헤더는 비디오 미디어의 코딩에 독립적인 일반적인 프리젠테이션 정보를 포함할 수 있다. 미디어 정보 박스 (442) 는 또한, 트랙이 오디오 데이터를 포함할 경우 사운드 미디어 헤더를 포함할 수 있다.
미디어 정보 박스 (442) 는 또한, 예시된 예에서 제공된 바와 같이 샘플 테이블 박스 (444) 를 포함할 수 있다. 박스 타입 "stbl" 에 의해 식별되는 샘플 테이블 박스 (444) 는 트랙에서의 미디어 샘플들에 대한 위치들 (예컨대, 파일을 갖는 위치들), 뿐 아니라 샘플들에 대한 시간 정보를 제공할 수 있다. 샘플 테이블 박스 (444) 에 의해 제공된 정보를 이용하여, 플레이어 디바이스는, 다른 것들 중에서, 샘플들을 정확한 시간 순서로 로케이팅시키고, 샘플의 타입을 결정하고, 및/또는 컨테이너 내의 샘플의 사이즈, 컨테이너, 및 오프셋을 결정할 수 있다.
샘플 테이블 박스 (444) 는 박스 타입 "stsd" 에 의해 식별되는 샘플 디스크립션 박스 (446) 를 포함할 수 있다. 샘플 디스크립션 박스 (446) 는, 예를 들어, 샘플에 대해 사용되는 코딩 타입에 관한 상세 정보, 및 그 코딩 타입에 대해 필요한 임의의 초기화 정보를 제공할 수 있다. 샘플 디스크립션 박스에 저장된 정보는 샘플들을 포함하는 트랙의 타입에 대해 특정적일 수 있다. 예를 들어, 트랙이 비디오 트랙일 경우 샘플 디스크립션을 위해 하나의 포맷이 사용될 수도 있고, 트랙이 힌트 트랙일 경우 상이한 포맷이 사용될 수도 있다. 추가적인 예로서, 샘플 디스크립션에 대한 포맷은 또한, 힌트 트랙의 포맷에 의존하여 변할 수도 있다.
샘플 디스크립션 박스 (446) 는 하나 이상의 샘플 엔트리 박스들 (448a, 448b, 448c) 을 포함할 수 있다. 샘플 엔트리 타입은 추상적 클래스이고, 따라서 통상적으로, 샘플 디스크립션 박스는, 다른 예들 중에서, 비디오 데이터에 대한 시각적 샘플 엔트리 또는 오디오 샘플들에 대한 오디오 샘플 엔트리와 같은 특정 샘플 엔트리 박스를 포함한다. 샘플 엔트리 박스는 특정 샘플에 대한 파라미터들을 저장할 수 있다. 예를 들어, 비디오 샘플에 대해, 샘플 엔트리 박스는, 다른 것들 중에서, 비디오 샘플에 대한 폭, 높이, 수평 해상도, 수직 해상도, 프레임 카운트, 및/또는 심도를 포함할 수 있다. 다른 예로서, 오디오 샘플에 대해, 샘플 엔트리는, 다른 것들 중에서, 채널 카운트, 채널 레이아웃, 및/또는 샘플링 레이트를 포함할 수 있다.
도 5 는, 서브-픽처 베이스 트랙이 타이밍된 메타데이터 트랙의 참조된 미디어 트랙으로서 선택될 수 있음을 표시한 ISO 베이스 미디어 파일 (500) 의 일 예를 예시한다. 트랙 참조 타입 'cdsc' 의 의미는 "이 트랙은 참조된 서브-픽처 베이스 트랙 및 모든 관련 서브-픽처 트랙들에 의해 표현된 비디오 컨텐츠를 기술함" 으로서 해석된다. 파일 (500) 은 파일 타입 박스 (510) 를 포함할 수 있으며, 이 파일 타입 박스 (510) 는 파일 (500) 이 호환가능한 ISOBMFF 또는 ISOBMFF 의 파생물들의 브랜드(들) 또는 특정 반복들을 명시할 수 있다. 파일 (500) 은 또한, 프리젠테이션을 위한 메타데이터를 포함할 수 있는 무비 박스 (520) 를 포함할 수 있다. 파일 (500) 은 옵션적으로, 상기 논의된 바와 같은 하나 이상의 프래그먼트들 (530a, 530b, 530c, 530n) 을 또한 포함할 수 있다.
무비 박스 (520) 는 무비 헤더 박스 (522) 및 하나 이상의 트랙 박스들 (524) 뿐 아니라 본원에서 예시되지 않은 다른 박스들을 포함할 수 있다. 무비 헤더 박스 (522) 는 프레젠테이션을 전체적으로 기술하는 정보를 포함할 수 있다. 트랙 박스 (524) 는 프리젠테이션에 있어서 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (524) 는 트랙 헤더 박스 (524a) 및 제로 이상의 미디어 데이터 박스들 (524b) 을 포함할 수 있다.
상기 논의된 바와 같이, 일부 경우들에 있어서, 트랙 참조 박스 (524b) 는 컨텐츠 디스크립션 참조 'cdsc' (524c) 를 포함할 수 있으며, 이 'cdsc' (524c) 는 "이 트랙은 참조된 서브-픽처 베이스 트랙 및 모든 관련 서브-픽처 트랙들에 의해 표현된 비디오 컨텐츠를 기술함" 으로서 해석된다. 이는 다중의 서브-픽처 트랙들에 저장된 다중의 서브-픽처 비트스트림들을 포함하는 비디오 컨텐츠의 저장 및 시그널링에서의 문제를 해결한다. 타이밍된 메타데이터 트랙은 미디어 트랙의 타이밍된 정보를 시그널링하는데 사용될 수도 있으며, 타입 'cdsc' 의 트랙 참조를 통해 미디어 트랙과 연관된다. 이러한 미디어 트랙은 또한, 타이밍된 메타데이터 트랙의 참조된 (미디어) 트랙으로서 지칭된다. 하지만, 미디어 컨텐츠는 다중의 미디어 트랙들, 예컨대, 타일 베이스 트랙 및 다수의 타일 트랙들에서 운반되는 비디오 컨텐츠, 또는 다수의 서브-픽처 트랙들에서 운반되는 비디오 컨텐츠로 표현될 수 있다. HEVC 타일 기반의 경우 (타일 베이스 트랙 및 다수의 타일 트랙들의 경우), 타이밍된 메타데이터 트랙에 대한 참조된 미디어 트랙으로서 타일 베이스 트랙을 선택하는 것이 간단하며, 트랙 참조 타입 'cdsc' 의 의미는, "이 트랙은 참조된 타일 베이스 트랙 및 모든 관련 타일 트랙들에 의해 표현된 비디오 컨텐츠를 기술함" 으로서 해석된다. 하지만, 다수의 별도로 코딩되고 독립적인 서브-픽처 트랙들의 경우, 참조된 트랙으로서 임의의 서브-픽처 트랙들을 선택하는 것은 바람직하지 않은데, 왜냐하면 그것은, 타이밍된 메타데이터 트랙이 오직 비디오 컨텐츠의 서브-픽처 부분에 대한 정보만 포함함을 의미하기 때문이다.
도 6 은, 서브-픽처 베이스 트랙 메커니즘으로 사용된 ISO 베이스 미디어 파일 (600) 이 모든 서브-픽처 트랙들의 그룹화를 가능케 하는 일 예를 예시하고, 서브-픽처 트랙들의 각각은 특정 타입, 예컨대, 서브-픽처 베이스 트랙을 지칭하는 'spbs' 의 트랙 참조를 갖는다. 파일 (600) 은 파일 타입 박스 (610) 를 포함할 수 있으며, 이 파일 타입 박스 (610) 는 파일 (600) 이 호환가능한 ISOBMFF 또는 ISOBMFF 의 파생물들의 브랜드(들) 또는 특정 반복들을 명시할 수 있다. 파일 (600) 은 또한, 프리젠테이션을 위한 메타데이터를 포함할 수 있는 무비 박스 (620) 를 포함할 수 있다. 파일 (600) 은 옵션적으로, 상기 논의된 바와 같은 하나 이상의 프래그먼트들 (630a, 630b, 630c, 630n) 을 또한 포함할 수 있다.
도 6 의 예에 있어서, 파일 타입 박스 (610) 는 서브-픽처 기반 접근법에서 사용될 수 있으며, 여기서, 비디오 컨텐츠는 다음과 같이 ISOBMFF 에 기초하여 파일에서 인코딩 및 저장된다. 소스 비디오는 인코딩 전에 서브-픽처 시퀀스들로 분할된다. 각각의 서브-픽처 시퀀스는 전체 비디오 컨텐츠의 공간 영역의 서브세트를 커버한다. 그 다음, 각각의 서브-픽처 시퀀스는 단일의 비트스트림으로서 서로 독립적으로 인코딩된다. 그러한 비트스트림은 서브-픽처 비트스트림으로서 지칭된다. 수개의 비트스트림들이, 예컨대, 상이한 비트레이트들에 대해 동일한 서브-픽처 시퀀스로부터 인코딩될 수도 있다. 각각의 서브-픽처 비트스트림은 그 자신의 트랙으로서 파일에서 캡슐화된다. 그러한 트랙은 서브-픽처 트랙으로서 지칭된다. HEVC 타일 기반 뷰포트 의존 비디오 코딩 방식들과 유사하게, 그러한 서브-픽처 기반 접근법은 또한, VR 어플리케이션들에서의 디코딩 복잡도 및 송신 대역폭의 최적화들을 위해 활용될 수 있다.
도 7 은, 서브-픽처 베이스 트랙이 새로운 특정 타입, 예컨대, 모든 관련 서브-픽처 트랙들을 포인팅하는 'sptk' 의 트랙 참조들을 포함할 수도 있는 ISO 베이스 미디어 파일 (700) 의 일 예를 예시한다. 이 트랙 참조는 서브-픽처 트랙들 사이의 관계를 표시할 수도 있다. 파일 (700) 은 파일 타입 박스 (710) 를 포함할 수 있으며, 이 파일 타입 박스 (710) 는 파일 (700) 이 호환가능한 ISOBMFF 또는 ISOBMFF 의 파생물들의 브랜드(들) 또는 특정 반복들을 명시할 수 있다. 파일 (700) 은 또한, 프리젠테이션을 위한 메타데이터를 포함할 수 있는 무비 박스 (720) 를 포함할 수 있다. 파일 (700) 은 옵션적으로, 상기 논의된 바와 같은 하나 이상의 프래그먼트들 (730a, 730b, 730c, 730n) 을 또한 포함할 수 있다.
무비 박스 (720) 는 무비 헤더 박스 (722) 및 하나 이상의 트랙 박스들 (724) 뿐 아니라 본원에서 예시되지 않은 다른 박스들을 포함할 수 있다. 무비 헤더 박스 (722) 는 프레젠테이션을 전체적으로 기술하는 정보를 포함할 수 있다. 트랙 박스 (724) 는 프리젠테이션에 있어서 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (724) 는 트랙 헤더 박스 (724a) 및 제로 이상의 사용자 데이터 박스들 (724b) 을 포함할 수 있다.
상기 논의된 바와 같이, 일부 경우들에 있어서, 트랙 참조 박스 (724b) 는, 특정 타입, 예컨대, 모든 관련 서브-픽처 트랙들을 포인팅하는 'sptk' 의 참조들을 제공하는 새로운 타입 박스 (724c) 를 포함할 수도 있다. OMAF CD 서브-픽처 기반 접근법에 있어서, 비디오 컨텐츠는 다음과 같이 ISOBMFF 에 기초하여 파일에서 인코딩 및 저장된다. 소스 비디오는 인코딩 전에 서브-픽처 시퀀스들로 분할된다. 각각의 서브-픽처 시퀀스는 전체 비디오 컨텐츠의 공간 영역의 서브세트를 커버한다. 그 다음, 각각의 서브-픽처 시퀀스는 단일의 비트스트림으로서 서로 독립적으로 인코딩된다. 그러한 비트스트림은 서브-픽처 비트스트림으로서 지칭된다. 수개의 비트스트림들이, 예컨대, 상이한 비트레이트들에 대해 동일한 서브-픽처 시퀀스로부터 인코딩될 수도 있다. 각각의 서브-픽처 비트스트림은 그 자신의 트랙으로서 파일에서 캡슐화된다. 그러한 트랙은 서브-픽처 트랙으로서 지칭된다. 서브-픽처 베이스 트랙의 사용을 통해, 'sptk' 와 같은 특정 타입의 참조들이 프로세싱을 위해 그룹화될 수도 있다.
상기 기재된 예들에 의해, 각각의 서브-픽처 트랙은 여전히, 독립적으로 파싱되고 디코딩될 수 있다. 대안적으로, 파라미터 세트들은 서브-픽처 베이스 트랙에서 운반되고, 각각의 서브-픽처 트랙은 미디어 디코딩을 위해 서브-픽처 베이스 트랙의 존재를 활용할 수도 있다. 이는, 서브-픽처 트랙들의 비트스트림들을 인코딩할 경우, 상이한 컨텐츠들을 갖는 특정 타입의 파라미터 세트들이 상이한 파라미터 세트 ID들을 사용할 것을 요구한다.
상기에서 식별된 문제들에 대한 다른 솔루션은, 하기에서 추가로 설명되는 바와 같이 TrackGroupTypeBox 로의 역방향 호환성 확장을 통해 ISOBMFF 의 8.3.4절에서의 트랙 그룹 설계를 사용하는 것이다.
도 8 은, 예컨대, 'subp' 와 동일한 track_group_type 에 의해 식별되는 새로운 트랙 그룹화 타입을 정의하는 ISO 베이스 미디어 파일 (800) 의 일 예를 예시한다. 이 트랙 그룹 타입은, 현재 트랙이 전체 비디오 컨텐츠의 하나의 표현을 운반하는 서브-픽처 트랙들의 하나의 그룹임을 표시한다. 파일 (800) 은 파일 타입 박스 (810) 를 포함할 수 있으며, 이 파일 타입 박스 (810) 는 파일 (800) 이 호환가능한 ISOBMFF 또는 ISOBMFF 의 파생물들의 브랜드(들) 또는 특정 반복들을 명시할 수 있다. 파일 (800) 은 또한, 프리젠테이션을 위한 메타데이터를 포함할 수 있는 무비 박스 (820) 를 포함할 수 있다. 파일 (800) 은 옵션적으로, 상기 논의된 바와 같은 하나 이상의 프래그먼트들 (830a, 830b, 830c, 830n) 을 또한 포함할 수 있다.
무비 박스 (820) 는 무비 헤더 박스 (822) 및 하나 이상의 트랙 박스들 (824) 뿐 아니라 본원에서 예시되지 않은 다른 박스들을 포함할 수 있다. 무비 헤더 박스 (822) 는 프레젠테이션을 전체적으로 기술하는 정보를 포함할 수 있다. 트랙 박스 (824) 는 프리젠테이션에 있어서 트랙에 대한 정보를 포함할 수 있다. 트랙 박스 (824) 는 트랙 헤더 박스 (824a) 및 제로 이상의 트랙 그룹 박스들 (824b) 을 포함할 수 있다.
트랙 그룹 박스 (824b) 는 트랙들의 그룹들의 표시를 가능케 하며, 여기서, 각각의 그룹이 특정한 특성을 공유하거나 또는 그룹 내의 트랙들이 특정한 관계를 갖는다. 박스는 제로 이상의 박스들을 포함하며, 특정한 특성 또는 관계는 포함된 박스들의 박스 타입에 의해 표시된다. 포함된 박스들은, 동일한 트랙 그룹에 속하는 트랙들을 결론짓는데 사용될 수 있는 식별자를 포함한다. 트랙 그룹 박스 내에 동일한 타입의 포함된 박스를 포함하고 이들 포함된 박스들 내에 동일한 식별자 값을 갖는 트랙들은 동일한 트랙 그룹에 속한다. 트랙 그룹들은 트랙들 간의 종속 관계들을 표시하는데 사용되지 않을 것이다. 대신, 트랙 참조 박스가 그러한 목적으로 사용된다.
의미에 관하여, track_group_type 은 그룹화 타입을 표시하고, 다음의 값들 중 하나, 또는 등록된 값, 또는 파생된 사양 또는 등록으로부터의 값으로 설정될 것이다.
예를 들어, 'msrc' 의 track_group_type 은 이 트랙이 멀티-소스 프리젠테이션에 속함을 표시한다. track_group_type 'msrc' 의 그룹 타입 박스 내에 동일한 값의 track_group_id 를 갖는 트랙들은 동일한 소스로부터 발생되는 것으로서 맵핑된다. 예를 들어, 비디오 전화 호출의 레코딩은 참가자들 양자 모두를 위한 오디오 및 비디오 양자 모두를 가질 수도 있으며, 한 참가자의 오디오 트랙 및 비디오 트랙과 연관된 track_group_id 의 값은 다른 참가자의 트랙들과 연관된 track_group_id 의 값과는 상이하다. track_group_id 및 track_group_type 의 쌍은 파일 내에서 트랙 그룹을 식별한다. 동일한 값의 track_group_id 를 갖는 특정 트랙 그룹 타입 박스를 포함하는 트랙들은 동일한 트랙 그룹에 속한다.
이 예에 있어서, 예컨대, 'subp' 와 동일한 track_group_type 에 의해 식별되는 새로운 트랙 그룹화 타입이 정의된다. TrackGroupTypeBox 에 있어서, track_group_type 이 새로운 트랙 그룹화 타입, 예컨대, 'subp' 와 동일한 경우 더 많은 정보가 추가되도록 이용가능하다. 그러한 정보의 일 예는 현재 트랙에서의 서브 픽처들의 서브-픽처 행 인덱스 및 서브-픽처 열 인덱스이다. 이는, 서브-픽처들이 서브-픽처 행들 및 서브-픽처 열들에 있어야 함을 요구한다. 더 유연한 서브-픽처 구성들을 가능케 하기 위해, 서브-픽처의 좌상측 코너 픽셀에 대응하는 픽셀 (즉, 루마 샘플) 의 전체 픽처 상의 좌표 (즉, 수평 오프셋 및 수직 오프셋) 가 시그널링된다. 이는, 서브-픽처 행 인덱스 및 서브-픽처 열 인덱스의 시그널링보다 바람직할 수도 있다. 좌표는 픽셀들의 단위 또는 상대적 단위 중 어느 하나일 수도 있다. 후자의 경우, 전체 픽처의 폭 및 높이 뿐 아니라 서브-픽처의 폭 및 높이가, 또한 상대적 단위로, 시그널링되어야 한다.
TrackGroupTypeBox 에 있어서, track_group_type 이 새로운 트랙 그룹화 타입, 예컨대, 'subp' 와 동일한 경우 더 많은 정보가 추가되도록 이용가능하다. 그러한 정보의 일 예는 전체 픽처의 사이즈이다. 다른 정보, 예를 들어, 상기 글로벌 정보로서 설명된 정보가, 부가적으로 또는 대안적으로, track_group_type 이 새로운 트랙 그룹화 타입과 동일한 경우에 제공될 수도 있다. 뷰포트 의존 비디오 코딩에 기초한 전방향성 비디오 스트리밍을 위한 서브-픽처 비트스트림들의 인코딩 및 디코딩에 기초한 접근법에 대해, 소스 비디오는 인코딩 전에 서브-픽처 시퀀스들로 분할된다. 각각의 서브-픽처 시퀀스는 전체 비디오 컨텐츠의 공간 영역의 서브세트를 커버한다. 그 다음, 각각의 서브-픽처 시퀀스는 단일의 비트스트림으로서 서로 독립적으로 인코딩된다. 그러한 비트스트림은 서브-픽처 비트스트림으로서 지칭된다. 수개의 비트스트림들이, 예컨대, 상이한 비트레이트들에 대해 동일한 서브-픽처 시퀀스로부터 인코딩될 수도 있다. 그 다음, 각각의 서브-픽처 비트스트림은, 서브-픽처 트랙으로서 지칭되는 그 자신의 트랙으로서 파일에서 캡슐화된다. 각각의 서브-픽처가 독립적으로 인코딩되기 때문에, 전체 픽처의 사이즈를 결정하기 위한 메커니즘은 현재 존재하지 않는다. 상기 기재된 바와 같이, 머리 움직임 및/또는 눈 움직임 순간을 추적하고 그리고 비디오의 대응하는 부분을 렌더링하여 사용자에게 몰입형 경험을 전달할 수 있는 HMD 와 같은 VR 컨텐츠 렌더링 디바이스들은 내재한 프로세싱 및 저장 제약들을 갖는다. 고품질 몰입형 사용자 경험을 전달하기 위해, VR 컨텐츠 렌더링 디바이스는, 적합한 비트레이트 및 품질을 갖는 서브-픽처 시퀀스를 선택하기 위한 기준으로서 전체 픽처의 사이즈 정보를 활용할 수도 있다. TrackGroupTypeBox 에서 전체 픽처 사이즈를 시그널링하는 것에 의해, 이 정보는 모든 서브-픽처 트랙들에서 반복된다.
TrackGroupTypeBox 로의 역방향 호환성 확장을 통해, 전체 비디오 컨텐츠의 하나의 표현을 운반하는 모든 서브-픽처 트랙들은 동일한 값의 track_group_id 및새로운 트랙 그룹화 타입과 연관될 것이다. 그 다음, 서브-픽처 트랙들 중 임의의 것이 타이밍된 메타데이터 트랙의 참조된 미디어 트랙으로서 선택될 수 있고, 트랙 참조 타입 'cdsc' 의 의미는 "이 트랙은 참조된 서브-픽처 트랙 및 동일한 트랙 그룹에 속하는 모든 다른 관련 서브-픽처 트랙들에 의해 표현된 비디오 컨텐츠를 기술함" 으로서 해석된다.
도 9 및 도 10 은, 각각, 인코딩 디바이스 (900) 및 디코딩 디바이스 (1000) 의 특정 상세들을 도시한다. 도 9 는 본 개시에서 설명된 기법들 중 하나 이상을 구현할 수도 있는 예시적인 인코딩 디바이스 (900) 를 예시한 블록 다이어그램이다. 인코딩 디바이스 (900) 는, 예를 들어, 본 명세서에서 설명된 신택스 구조들 (예컨대, VPS, SPS, PPS, 또는 다른 신택스 엘리먼트들의 신택스 구조들) 을 생성할 수도 있다. 인코딩 디바이스 (900) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라-예측 및 인터-예측 코딩을 수행할 수도 있다. 전술된 바와 같이, 인트라-코딩은 주어진 비디오 프레임 또는 픽처 내에서 공간 리던던시를 감소시키거나 또는 제거하기 위해 공간 예측에 적어도 부분적으로 의존한다. 인터-코딩은, 비디오 시퀀스의 인접한 또는 주위의 프레임들 내의 시간 리던던시를 감소시키거나 또는 제거하기 위해 시간 예측에 적어도 부분적으로 의존한다. 인트라-모드 (I 모드) 는 수개의 공간 기반 압축 모드들 중 임의의 모드를 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향 예측 (B 모드) 과 같은 인터-모드들은 수개의 시간 기반 압축 모드들 중 임의의 모드를 지칭할 수도 있다.
인코딩 디바이스 (900) 는 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 복원을 위해, 인코딩 디바이스 (900) 는 또한, 역양자화 유닛 (58), 역변환 프로세싱 유닛 (60), 및 합산기 (62) 를 포함한다. 필터 유닛 (63) 은 디블록킹 (deblocking) 필터, 적응적 루프 필터 (ALF), 및 샘플 적응적 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 나타내도록 의도된다. 비록 필터 유닛 (63) 이 인-루프 (in loop) 필터인 것으로서 9 에 도시되지만, 다른 구성들에 있어서, 필터 유닛 (63) 은 포스트 (post) 루프 필터로서 구현될 수도 있다. 포스트 프로세싱 디바이스 (57) 는, 인코딩 디바이스 (900) 에 의해 생성되는 인코딩된 비디오 데이터에 대해 추가적인 프로세싱을 수행할 수도 있다. 본 개시의 기법들은, 일부 경우들에 있어서, 인코딩 디바이스 (900) 에 의해 구현될 수도 있다. 하지만, 다른 경우들에 있어서, 본 개시의 기법들 중 하나 이상은 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.
도 9 에 도시된 바와 같이, 인코딩 디바이스 (900) 는 비디오 데이터를 수신하고, 파티셔닝 유닛 (35) 은 그 데이터를 비디오 블록들로 파티셔닝한다. 파티셔닝은 또한, 예컨대, LCU들 및 CU들의 쿼드트리 구조에 따라 비디오 블록 파티셔닝 뿐 아니라 슬라이스들, 슬라이스 세그먼트들, 타일들, 또는 다른 더 큰 유닛들로의 파티셔닝을 포함할 수도 있다. 인코딩 디바이스 (900) 는 일반적으로, 인코딩될 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 예시한다. 슬라이스는 다중의 비디오 블록들로 (및 가능하게는 타일들로서 지칭되는 비디오 블록들의 세트들로) 분할될 수도 있다. 예측 프로세싱 유닛 (41) 은 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨 등) 에 기초하여 현재 비디오 블록에 대해 복수의 인트라-예측 코딩 모드들 중 하나 또는 복수의 인터-예측 코딩 모드들 중 하나와 같은, 복수의 가능한 코딩 모드들 중 하나를 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라- 또는 인터-코딩된 블록을 합산기 (50) 에 제공하여 잔차 블록 데이터를 생성하고, 합산기 (62) 에 제공하여 참조 픽처로서의 사용을 위한 인코딩된 블록을 복원할 수도 있다.
예측 프로세싱 유닛 (41) 내의 인트라-예측 프로세싱 유닛 (46) 은 공간 압축을 제공하기 위해, 코딩될 현재 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃 블록들에 관해 현재 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 시간 압축을 제공하기 위해 하나 이상의 참조 픽처들에서의 하나 이상의 예측 블록들에 관해 현재 비디오 블록의 인터-예측 코딩을 수행한다.
모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리결정된 패턴에 따라 비디오 슬라이스에 대한 인터-예측 모드를 결정하도록 구성될 수도 있다. 미리결정된 패턴은 시퀀스에서의 비디오 슬라이스들을, P 슬라이스들, B 슬라이스들 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적을 위해 별도로 예시된다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은, 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 참조 픽처 내에서의 예측 블록에 관한 현재 비디오 프레임 또는 픽처 내의 비디오 블록의 예측 유닛 (PU) 의 변위를 표시할 수도 있다.
예측 블록은 픽셀 차이의 관점에서 코딩될 비디오 블록의 PU 와 밀접하게 매칭하도록 발견되는 블록이며, 이 픽셀 차이는 절대 차이의 합 (SAD), 제곱 차이의 합 (SSD), 또는 다른 상이한 메트릭들에 의해 결정될 수도 있다. 일부 예들에 있어서, 인코딩 디바이스 (900) 는 픽처 메모리 (64) 에 저장된 참조 픽처들의 서브-정수 픽셀 포지션들에 대한 값들을 계산할 수도 있다. 예를 들어, 인코딩 디바이스 (900) 는 참조 픽처의 1/4 픽셀 포지션들, 1/8 픽셀 포지션들, 또는 다른 분수 픽셀 포지션들의 값들을 보간할 수도 있다. 따라서, 모션 추정 유닛 (42) 은 전체 픽셀 포지션들 및 분수 픽셀 포지션들에 관한 모션 탐색을 수행하고, 분수 픽셀 정밀도로 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (42) 은 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를, 그 PU 의 포지션을 참조 픽처의 예측 블록의 포지션과 비교함으로써 계산한다. 참조 픽처는 제 1 참조 픽처 리스트 (리스트 0) 또는 제 2 참조 픽처 리스트 (리스트 1) 로부터 선택될 수도 있으며, 이 리스트들의 각각은 픽처 메모리 (64) 에 저장된 하나 이상의 참조 픽처들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.
모션 보상 유닛 (44) 에 의해 수행된 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 또는 생성하여, 가능하게는 서브-픽셀 정밀도로 보간들을 수행하는 것을 수반할 수도 있다. 현재 비디오 블록의 PU 에 대한 모션 벡터를 수신할 시, 모션 보상 유닛 (44) 은, 모션 벡터가 참조 픽처 리스트에서 포인팅하는 예측 블록을 로케이팅할 수도 있다. 인코딩 디바이스 (900) 는, 코딩되고 있는 현재 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 컴포넌트들 양자를 포함할 수도 있다. 합산기 (50) 는 이러한 감산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (44) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩함에 있어서 디코딩 디바이스 (1000) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.
인트라-예측 프로세싱 유닛 (46) 은 현재 블록을, 상기 설명된 바와 같은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서 인트라-예측할 수도 있다. 특히, 인트라-예측 프로세싱 유닛 (46) 은 현재 블록을 인코딩하는데 이용하기 위한 인트라-예측 모드를 결정할 수도 있다. 일부 예들에 있어서, 인트라-예측 프로세싱 유닛 (46) 은, 예컨대, 별도의 인코딩 패스들 동안에 다양한 인트라-예측 모드들을 이용하여 현재 블록을 인코딩할 수도 있으며, 인트라-예측 프로세싱 유닛 (46) (또는 일부 예들에서는 모드 선택 유닛 (40)) 은 테스팅된 모드들로부터의 이용을 위해 적당한 인트라-예측 모드를 선택할 수도 있다. 예를 들어, 인트라-예측 프로세싱 유닛 (46) 은 다양한 테스팅된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산할 수도 있고, 테스팅된 모드들 중 최상의 레이트-왜곡 특성들을 갖는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록과 그 인코딩된 블록을 생성하도록 인코딩되었던 원래의 인코딩되지 않은 블록 간의 왜곡 (또는 에러) 의 양뿐 아니라 인코딩된 블록을 생성하는데 사용된 비트 레이트 (즉, 비트들의 수) 를 결정한다. 인트라-예측 프로세싱 유닛 (46) 은 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터의 비율들을 계산하여, 어느 인트라-예측 모드가 그 블록에 대한 최상의 레이트-왜곡 값을 나타내는지를 결정할 수도 있다.
어떤 경우든, 블록에 대한 인트라-예측 모드를 선택한 이후, 인트라-예측 프로세싱 유닛 (46) 은 블록에 대한 선택된 인트라-예측 모드를 표시하는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라-예측 모드를 표시한 정보를 인코딩할 수도 있다. 인코딩 디바이스 (900) 는 다양한 블록들에 대한 인코딩 컨텍스트들의 정의들 뿐아니라 그 컨텍스트들의 각각에 대해 사용할 가장 가능성있는 인트라-예측 모드, 인트라-예측 모드 인덱스 테이블, 및 수정된 인트라-예측 모드 인덱스 테이블의 표시들을, 송신된 비트 스트림 구성 데이터에 포함할 수도 있다. 비트스트림 구성 데이터는 복수의 인트라-예측 모드 인덱스 테이블들 및 복수의 수정된 인트라-예측 모드 인덱스 테이블들 (코드워드 맵핑 테이블들로서도 또한 지칭됨) 을 포함할 수도 있다.
예측 프로세싱 유닛 (41) 이 인터-예측 또는 인트라-예측 중 어느 하나를 통해 현재 비디오 블록에 대한 예측 블록을 생성한 이후, 인코딩 디바이스 (900) 는 현재 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 하나 이상의 TU들에 포함되고 변환 프로세싱 유닛 (52) 에 적용될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환과 같은 변환을 이용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환한다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 픽셀 도메인으로부터 주파수 도메인과 같은 변환 도메인으로 컨버팅할 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 비트 레이트를 추가로 감소시키기 위해 변환 계수들을 양자화한다. 양자화 프로세스는 그 계수들의 일부 또는 모두와 연관되는 비트 심도를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 그 다음, 일부 예들에 있어서, 양자화 유닛 (54) 은, 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 이 스캔을 수행할 수도 있다.
양자화 이후, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트 적응적 가변 길이 코딩 (CAVLC), 컨텍스트 적응적 바이너리 산술 코딩 (CABAC), 신택스 기반 컨텍스트 적응적 바이너리 산술 코딩 (SBAC), 확률 인터벌 파티셔닝 엔트로피 (PIPE) 코딩, 또는 다른 엔트로피 인코딩 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩 이후, 인코딩된 비트스트림은 디코딩 디바이스 (1000) 로 송신되거나, 또는 디코딩 디바이스 (1000) 에 의한 더 나중의 송신 또는 취출을 위해 아카이브될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한, 코딩되고 있는 현재 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.
역양자화 유닛 (58) 및 역변환 프로세싱 유닛 (60) 은, 각각, 역양자화 및 역변환을 적용하여, 참조 픽처의 참조 블록으로서의 더 나중 사용을 위해 픽셀 도메인에서 잔차 블록을 복원한다. 모션 보상 유닛 (44) 은, 참조 픽처 리스트 내에서의 참조 픽처들 중 하나의 예측 블록에 잔차 블록을 부가함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한, 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용하여, 모션 추정에서의 사용을 위한 서브-정수 픽셀 값들을 계산할 수도 있다. 합산기 (62) 는 복원된 잔차 블록을, 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 부가하여, 픽처 메모리 (64) 로의 저장을 위한 참조 블록을 생성한다. 참조 블록은, 후속 비디오 프레임 또는 픽처에서의 블록을 인터-예측하기 위해 참조 블록으로서 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 사용될 수도 있다.
이러한 방식으로, 도 9 의 인코딩 디바이스 (900) 는, 인코딩된 비디오 비트스트림을 위한 신택스를 생성하도록 구성된 비디오 인코더의 일 예를 나타낸다. 인코딩 디바이스 (900) 는 예를 들어, 상기 설명된 바와 같이 VPS, SPS, 및 PPS 파라미터 세트들을 생성할 수도 있다. 인코딩 디바이스 (900) 는 도 9 및 도 10 에 관하여 상기 설명된 프로세스들을 포함하여 본 명세서에서 설명된 기법들 중 임의의 기법을 수행할 수도 있다. 본 개시의 기법들은 인코딩 디바이스 (900) 에 관하여 일반적으로 설명되었지만, 상기 언급된 바와 같이, 본 개시의 기법들 중 일부는 또한, 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.
도 10 은 예시적인 디코딩 디바이스 (1000) 를 예시한 블록 다이어그램이다. 디코딩 디바이스 (1000) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역양자화 유닛 (86), 역변환 프로세싱 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 픽처 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 및 인트라 예측 프로세싱 유닛 (84) 을 포함한다. 디코딩 디바이스 (1000) 는, 일부 예들에 있어서, 도 9 로부터의 인코딩 디바이스 (900) 에 관하여 설명된 인코딩 패스에 일반적으로 상호적인 디코딩 패스를 수행할 수도 있다.
디코딩 프로세스 동안, 디코딩 디바이스 (1000) 는 인코딩 디바이스 (900) 에 의해 전송되는 인코딩된 비디오 슬라이스의 비디오 블록들 및 관련 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 일부 예들에 있어서, 디코딩 디바이스 (1000) 는 인코딩 디바이스 (900) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 일부 예들에 있어서, 디코딩 디바이스 (1000) 는 서버, 미디어 인식 네트워크 엘리먼트 (MANE), 비디오 에디터/스플라이서 (splicer), 또는 상기 설명된 기법들 중 하나 이상을 구현하도록 구성된 다른 그러한 디바이스와 같은 네트워크 엔티티 (79) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 네트워크 엔티티 (79) 는 인코딩 디바이스 (900) 를 포함할 수도 있거나 포함하지 않을 수도 있다. 본 개시에서 설명된 기법들 중 일부는, 네트워크 엔티티 (79) 가 인코딩된 비디오 비트스트림을 디코딩 디바이스 (1000) 로 송신하기 전에 네트워크 엔티티 (79) 에 의해 구현될 수도 있다. 일부 비디오 디코딩 시스템들에 있어서, 네트워크 엔티티 (79) 및 디코딩 디바이스 (1000) 는 별도의 디바이스들의 부분들일 수도 있는 한편, 다른 경우들에 있어서, 네트워크 엔티티 (79) 에 관하여 설명된 기능은 디코딩 디바이스 (1000) 를 포함하는 동일한 디바이스에 의해 수행될 수도 있다.
디코딩 디바이스 (1000) 의 엔트로피 디코딩 유닛 (80) 은 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성하기 위해 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 으로 포워딩한다. 디코딩 디바이스 (1000) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 디코딩 유닛 (80) 은 VPS, SPS, 및 PPS 와 같은 하나 이상의 파라미터 세트들에서 고정 길이 신택스 엘리먼트들 및 가변 길이 신택스 엘리먼트들 양자 모두를 프로세싱 및 파싱할 수도 있다.
비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩된 경우, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 은 현재 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 데이터 및 시그널링된 인트라-예측 모드에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터-코딩된 (즉, B, P 또는 GPB) 슬라이스로서 코딩된 경우, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트 내의 참조 픽처들 중 하나로부터 생성될 수도 있다. 디코딩 디바이스 (1000) 는 픽처 메모리 (92) 에 저장된 참조 픽처들에 기초한 디폴트 구성 기법들을 이용하여 참조 프레임 리스트들, 즉, 리스트 0 및 리스트 1 을 구성할 수도 있다.
모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 사용하여, 디코딩되고 있는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 은 파라미터 세트에서의 하나 이상의 신택스 엘리먼트들을 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예컨대, 인트라-예측 또는 인터-예측), 인터-예측 슬라이스 타입 (예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 하나 이상의 참조 픽처 리스트들에 대한 구축 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 스테이터스, 및 현재 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정할 수도 있다.
모션 보상 유닛 (82) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (82) 은 비디오 블록들의 인코딩 동안 인코딩 디바이스 (900) 에 의해 사용된 바와 같은 보간 필터들을 이용하여, 참조 블록들의 서브-정수 픽셀들에 대한 보간된 값들을 계산할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 인코딩 디바이스 (900) 에 의해 사용된 보간 필터들을 결정할 수도 있고, 보간 필터들을 이용하여 예측 블록들을 생성할 수도 있다.
역양자화 유닛 (86) 은, 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (80) 에 의해 디코딩되는 양자화된 변환 계수들을 역양자화하거나 양자화해제한다. 역양자화 프로세스는 비디오 슬라이스에서의 각각의 비디오 블록에 대해 인코딩 디바이스 (900) 에 의해 계산된 양자화 파라미터의 이용을 포함하여, 적용되어야 하는 양자화의 정도 및 유사하게 역양자화의 정도를 결정할 수도 있다. 역변환 프로세싱 유닛 (88) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위하여, 역변환 (예컨대, 역 DCT 또는 다른 적합한 역변환), 정수 역변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다.
모션 보상 유닛 (82) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 블록에 대한 예측 블록을 생성한 이후, 디코딩 디바이스 (1000) 는 역변환 프로세싱 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이러한 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 요구된다면, (코딩 루프에 있어서 또는 코딩 루프 이후에) 루프 필터들이 또한 픽셀 천이들을 평활하게 하거나 그렇지 않으면 비디오 품질을 개선하기 위해 이용될 수도 있다. 필터 유닛 (91) 은 디블록킹 필터, 적응적 루프 필터 (ALF), 및 샘플 적응적 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 나타내도록 의도된다. 비록 필터 유닛 (91) 이 인-루프 필터인 것으로서 10 에 도시되지만, 다른 구성들에 있어서, 필터 유닛 (91) 은 포스트 루프 필터로서 구현될 수도 있다. 그 다음, 주어진 프레임 또는 픽처에서의 디코딩된 비디오 블록들이 픽처 메모리 (92) 에 저장되고, 이 픽처 메모리는 후속적인 모션 보상을 위해 사용되는 참조 픽처들을 저장한다. 픽처 메모리 (92) 는 또한, 도 1 에 도시된 비디오 목적지 디바이스 (122) 와 같은 디스플레이 디바이스 상의 나중의 프리젠테이션을 위해 디코딩된 비디오를 저장한다.
전술한 설명에 있어서, 어플리케이션의 양태들이 그의 특정 예들을 참조하여 설명되지만, 당업자는 본 개시가 이에 한정되지 않음을 인식할 것이다. 따라서, 어플리케이션의 예시적인 예들이 본 명세서에서 상세히 설명되었지만, 본 발명의 개념들은 달리 다양하게 구체화되고 채용될 수도 있으며, 첨부된 청구항들은 종래기술에 의해 제한되는 것을 제외하고는 그러한 변동들을 포함하는 것으로 해석되도록 의도됨이 이해되어야 한다. 상기 설명된 개시의 다양한 특징들 및 양태들은 개별적으로 또는 공동으로 사용될 수도 있다. 추가로, 예들은 본 명세서의 더 넓은 사상 및 범위로부터 일탈함없이 본 명세서에서 설명된 것들을 넘어서는 임의의 수의 환경들 및 어플리케이션들에서 활용될 수 있다. 본 명세서 및 도면들은, 이에 따라, 제한적이라기 보다는 예시적인 것으로서 간주되어야 한다. 예시의 목적으로, 방법들은 특정 순서로 설명되었다. 대안적인 예들에 있어서, 방법들은 설명된 것과는 다른 순서로 수행될 수도 있음이 인식되어야 한다.
컴포넌트들이 특정 동작들을 수행하도록 "구성된" 것으로서 설명되는 경우, 그러한 구성은 예를 들어, 전자 회로들 또는 다른 하드웨어를 설계하여 그 동작을 수행하는 것에 의해, 프로그래밍가능 전자 회로들 (예컨대, 마이크로프로세서들 또는 다른 적합한 전자 회로들) 을 프로그래밍하여 그 동작을 수행하는 것에 의해, 또는 이들의 임의의 조합에 의해, 달성될 수 있다.
본 명세서에 개시된 예들과 관련하여 설명된 다양한 예시적인 논리 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 이들 양자의 조합으로서 구현될 수도 있다. 하드웨어와 소프트웨어의 이러한 상호교환 가능성을 분명히 예시하기 위해, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들 및 단계들이 일반적으로 그들의 기능의 관점에서 상기 설명되었다. 그러한 기능이 하드웨어로서 구현될지 또는 소프트웨어로서 구현될지는 전체 시스템에 부과된 설계 제약들 및 특정 어플리케이션에 의존한다. 당업자는 설명된 기능을 각각의 특정 어플리케이션에 대하여 다양한 방식들로 구현할 수도 있지만, 그러한 구현의 결정들이 본 개시의 범위로부터의 일탈을 야기하는 것으로서 해석되지는 않아야 한다.
본 명세서에서 설명된 기법들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합에서 구현될 수도 있다. 그러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 어플리케이션을 포함하여 다중의 이용들을 갖는 집적 회로 디바이스들과 같은 임의의 다양한 디바이스들에서 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명된 임의의 특징들은 집적된 로직 디바이스에서 함께 또는 별개지만 상호운용가능한 로직 디바이스들로서 별도로 구현될 수도 있다. 소프트웨어에서 구현되면, 그 기법들은, 실행될 경우 상기 설명된 방법들 중 하나 이상을 수행하는 명령들을 포함하는 프로그램 코드를 포함하는 컴퓨터 판독가능 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터 판독가능 데이터 저장 매체는 컴퓨터 프로그램 제품의 부분을 형성할 수도 있으며, 이는 패키징 재료들을 포함할 수도 있다. 컴퓨터 판독가능 매체는 동기식 동적 랜덤 액세스 메모리 (SDRAM) 와 같은 랜덤 액세스 메모리 (RAM), 판독 전용 메모리 (ROM), 비휘발성 랜덤 액세스 메모리 (NVRAM), 전기적으로 소거가능한 프로그래밍가능 판독 전용 메모리 (EEPROM), 플래시 메모리, 자기 또는 광학 데이터 저장 매체들 등과 같은 메모리 또는 데이터 저장 매체들을 포함할 수도 있다. 그 기법들은, 부가적으로 또는 대안적으로, 전파된 신호들 또는 파동들과 같이, 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 수록하거나 통신하고 그리고 컴퓨터에 의해 액세스, 판독 및/또는 실행될 수 있는 컴퓨터 판독가능 통신 매체에 의해 적어도 부분적으로 실현될 수도 있다.
프로그램 코드는, 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로 프로세서들, 주문형 집적 회로들 (ASIC들), 필드 프로그래밍가능 로직 어레이들 (FPGA들), 또는 다른 균등한 집적된 또는 별개의 로직 회로부와 같은 하나 이상의 프로세서들을 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 그러한 프로세서는 본 개시에서 설명된 기법들 중 임의의 기법을 수행하도록 구성될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안적으로, 그 프로세서는 임의의 종래의 프로세서, 제어기, 마이크로 제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한, 컴퓨팅 디바이스들의 조합, 예컨대, DSP 와 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 결합된 하나 이상의 마이크로프로세서들, 또는 임의의 기타 다른 구성물로서 구현될 수도 있다. 이에 따라, 본 명세서에서 사용된 바와 같은 용어 "프로세서" 는 전술한 구조, 전술한 구조의 임의의 조합, 또는 본 명세서에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 또는 장치 중 임의의 것을 지칭할 수도 있다. 부가적으로, 일부 예들에 있어서, 본 명세서에서 설명된 기능은, 인코딩 및 디코딩을 위해 구성된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에서 제공되거나, 또는 결합된 비디오 인코더-디코더 (CODEC) 에 통합될 수도 있다.
본 명세서에서 논의된 코딩 기법들은 예시적인 비디오 인코딩 및 디코딩 시스템에서 구현될 수도 있다. 시스템은 목적지 디바이스에 의해 나중 시간에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 비디오 데이터를 컴퓨터 판독가능 매체를 통해 목적지 디바이스에 제공한다. 소스 디바이스 및 목적지 디바이스는 데스크탑 컴퓨터들, 노트북 (즉, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋탑 박스들, 소위 "스마트" 폰들과 같은 전화기 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스들 등을 포함한 광범위한 디바이스들 중 임의의 디바이스를 포함할 수도 있다. 일부 경우들에 있어서, 소스 디바이스 및 목적지 디바이스는 무선 통신을 위해 장비될 수도 있다.
목적지 디바이스는 디코딩될 인코딩된 비디오 데이터를 컴퓨터 판독가능 매체를 통해 수신할 수도 있다. 컴퓨터 판독가능 매체는 인코딩된 비디오 데이터를 소스 디바이스로부터 목적지 디바이스로 이동 가능한 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 일 예에 있어서, 컴퓨터 판독가능 매체는, 소스 디바이스로 하여금 인코딩된 비디오 데이터를 직접 목적지 디바이스로 실시간으로 송신할 수 있게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되고, 목적지 디바이스로 송신될 수도 있다. 통신 매체는 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷 기반 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
일부 예들에 있어서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스로 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산된 또는 국부적으로 액세스된 데이터 저장 매체들 중 임의의 데이터 저장 매체를 포함할 수도 있다. 추가의 예에 있어서, 저장 디바이스는, 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스는 저장 디바이스로부터의 저장된 비디오 데이터에 스트리밍 또는 다운로드를 통해 액세스할 수도 있다. 파일 서버는, 인코딩된 비디오 데이터를 저장하고 그리고 그 인코딩된 비디오 데이터를 목적지 디바이스로 송신하는 것이 가능한 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예컨대, 웹 사이트용), FTP 서버, 네트워크 어태치형 저장 (NAS) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스는 인코딩된 비디오 데이터에, 인터넷 커넥션을 포함한 임의의 표준 데이터 커넥션을 통해 액세스할 수도 있다. 이는 파일 서버 상에 저장되는 인코딩된 비디오 데이터에 액세스하기에 적합한 무선 채널 (예컨대, Wi-Fi 커넥션), 유선 커넥션 (예컨대, DSL, 케이블 모뎀 등), 또는 이들 양자의 조합을 포함할 수도 있다. 인코딩된 비디오 데이터의 저장 디바이스로부터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이들의 조합일 수도 있다.
본 개시의 기법들은 무선 어플리케이션들 또는 설정들로 반드시 한정되는 것은 아니다. 그 기법들은, 공중 경유 (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, DASH (dynamic adaptive streaming over HTTP) 와 같은 인터넷 스트리밍 비디오 송신들, 데이터 저장 매체 상으로 인코딩된 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 어플리케이션들과 같은 다양한 멀티미디어 어플리케이션들 중 임의의 멀티미디어 어플리케이션의 지원으로 비디오 코딩에 적용될 수도 있다. 일부 예들에 있어서, 시스템은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 전화와 같은 어플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
일 예에 있어서, 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함할 수도 있다. 소스 디바이스의 비디오 인코더는 본 명세서에서 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에 있어서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 배열들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 카메라와 같은 외부 비디오 소스로부터 비디오 데이터를 수신할 수도 있다. 유사하게, 목적지 디바이스는 통합된 디스플레이 디바이스를 포함하는 것보다는 외부 디스플레이 디바이스와 인터페이싱할 수도 있다.
상기 예시적인 시스템은 단지 일 예일 뿐이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 비록 일반적으로 본 개시의 기법들이 비디오 인코딩 디바이스에 의해 수행되지만, 그 기법들은 또한, 통상적으로 "CODEC" 로서 지칭되는 비디오 인코더/디코더에 의해 수행될 수도 있다. 더욱이, 본 개시의 기법들은 또한 비디오 프리프로세서에 의해 수행될 수도 있다. 소스 디바이스들 및 목적지 디바이스들은, 단지, 소스 디바이스가 목적지 디바이스로의 송신을 위한 코딩된 비디오 데이터를 생성하는 그러한 코딩 디바이스들의 예들일 뿐이다. 일부 예들에 있어서, 소스 및 목적지 디바이스들은, 디바이스들의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 따라서, 예시적인 시스템들은, 예컨대, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 또는 비디오 전화를 위해, 비디오 디바이스들간의 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.
비디오 소스는 비디오 카메라와 같은 비디오 캡처 디바이스, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 컨텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스를 포함할 수도 있다. 추가적인 대안으로서, 비디오 소스는 컴퓨터 그래픽스 기반 데이터를 소스 비디오로서, 또는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성된 비디오의 조합으로서 생성할 수도 있다. 일부 경우들에 있어서, 비디오 소스가 비디오 카메라이면, 소스 디바이스 및 목적지 디바이스는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 하지만, 상기 언급된 바와 같이, 본 개시에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있으며, 무선 및/또는 유선 어플리케이션들에 적용될 수도 있다. 각각의 경우에 있어서, 캡처되거나 사전-캡처되거나 또는 컴퓨터 생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 그 다음, 인코딩된 비디오 정보는 출력 인터페이스에 의해 컴퓨터 판독가능 매체 상으로 출력될 수도 있다.
언급된 바와 같이, 컴퓨터 판독가능 매체는 무선 브로드캐스트 또는 유선 네트워크 송신과 같은 일시적인 매체들, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터 판독가능 매체들과 같은 저장 매체들 (즉, 비일시적인 저장 매체들) 을 포함할 수도 있다. 일부 예들에 있어서, 네트워크 서버 (도시 안됨) 는 인코딩된 비디오 데이터를 소스 디바이스로부터 수신하고, 인코딩된 비디오 데이터를, 예컨대, 네트워크 송신을 통해 목적지 디바이스에 제공할 수도 있다. 유사하게, 디스크 스탬핑 설비와 같은 매체 생성 설비의 컴퓨팅 디바이스는 인코딩된 비디오 데이터를 소스 디바이스로부터 수신하고, 인코딩된 비디오 데이터를 포함하는 디스크를 생성할 수도 있다. 따라서, 컴퓨터 판독가능 매체는, 다양한 예들에 있어서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체들을 포함하도록 이해될 수도 있다.
목적지 디바이스의 입력 인터페이스는 컴퓨터 판독가능 매체로부터 정보를 수신한다. 컴퓨터 판독가능 매체의 정보는, 블록들 및 다른 코딩된 유닛들, 예컨대, 픽처들의 그룹 (GOP) 의 특성들 및/또는 프로세싱을 기술하는 신택스 엘리먼트들을 포함하는, 비디오 디코더에 의해 또한 사용되는, 비디오 인코더에 의해 정의된 신택스 정보를 포함할 수도 있다. 디스플레이 디바이스는 디코딩된 비디오 데이터를 사용자에게 디스플레이하며, 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 디스플레이 디바이스를 포함할 수도 있다. 본 개시의 다양한 예들 및 실시형태들이 설명되었다.
Claims (38)
- 메모리에 결합된 프로세서에 의해 수행되는, 전방향성 비디오 데이터를 프로세싱하는 방법으로서,
상기 메모리로부터, 전방향성 장면과 연관된 복수의 서브-픽처 비트스트림들을 획득하는 단계로서, 각각의 서브-픽처 비트스트림은, 공간 부분의 각각의 개별 서브세트는 상기 전방향성 장면의 전체 공간 부분보다 적은, 상기 전방향성 장면의 상기 전체 공간 부분의 공간 부분의 개별 서브세트를 명시하는 비디오 데이터를 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 단계;
적어도 하나의 파일에, 상기 전방향성 장면과 연관된 상기 복수의 서브-픽처 비트스트림들을 상기 전방향성 장면과 연관된 복수의 서브-픽처 트랙들로서 각각 저장하는 단계; 및
파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 상기 복수의 서브-픽처 트랙들 중 서브-픽처 트랙의 트랙 그룹 타입을 상기 서브-픽처 트랙이 상기 전방향성 장면을 운반하는 서브-픽처 트랙들의 그룹에 속하는 것을 표시하는 값으로 설정하는 단계로서, 상기 서브-픽처 트랙들의 그룹은 상기 복수의 서브-픽처 트랙들인, 상기 트랙 그룹 타입을 설정하는 단계를 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 미디어 파일은 상기 적어도 하나의 파일을 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 저장하는 단계를 더 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 3 항에 있어서,
상기 트랙 박스의 샘플 디스크립션 박스 내의 샘플 엔트리 타입에 기초하여 상기 서브-픽처 베이스 트랙을 표시하는 단계를 더 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 3 항에 있어서,
상기 서브-픽처 베이스 트랙은 상기 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 복수의 서브-픽처 트랙들의 세트와 연관된 전체 픽처의 공간 해상도를 포함하는 메타데이터를 포함하는 단계를 더 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 파일 포맷은 ISO (International Standards Organization) 베이스 미디어 파일 포맷에 기초하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 삭제
- 제 1 항에 있어서,
상기 트랙 그룹 타입은 ISO/IEC 14496-12, 파트 12 에 의해 식별된 ISO 베이스 미디어 파일 포맷의 8.3.4절에 기재된 TrackGroupTypeBox 로의 역방향 호환성 확장인, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 트랙 박스 내에, 상기 트랙 그룹 타입을 지정하는 트랙 그룹 타입 박스를 저장하는 단계를 더 포함하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 10 항에 있어서,
상기 트랙 그룹 타입은 추가적인 정보가 상기 트랙 박스에 추가되도록 이용가능함을 표시하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 11 항에 있어서,
상기 추가적인 정보가 상기 트랙 박스에 추가되도록 이용가능함을 상기 트랙 그룹 타입이 표시할 경우, 상기 트랙 박스 내에, 트랙에서의 서브-픽처들의 서브-픽처 행 인덱스 정보 및 서브-픽처 열 인덱스 정보를 저장하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 11 항에 있어서,
상기 서브-픽처 비트스트림 내에서 인코딩된 서브-픽처들은 서브-픽처 행들 및 서브-픽처 열들에서 정의되는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 11 항에 있어서,
상기 서브-픽처 비트스트림 내에서 인코딩된 서브-픽처들은, 타일들이 타일 행들 및 타일 열들로 정의되도록 상기 타일들로서 그룹화가능한, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 11 항에 있어서,
상기 추가적인 정보가 상기 트랙 박스에 추가되도록 이용가능함을 상기 트랙 그룹 타입이 표시할 경우, 상기 트랙 박스 내에, 트랙에서의 서브-픽처의 좌상측 코너 픽셀에 대응하는 좌표를 저장하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 제 11 항에 있어서,
상기 추가적인 정보가 상기 트랙 박스에 추가되도록 이용가능함을 상기 트랙 그룹 타입이 표시할 경우, 상기 트랙 박스 내에, 전체 픽처의 사이즈를 나타내는 정보를 저장하는, 전방향성 비디오 데이터를 프로세싱하는 방법. - 전방향성 비디오 데이터를 디코딩하기 위한 디바이스로서,
적어도 하나의 파일 및 미디어 파일을 저장하도록 구성된 메모리로서, 상기 미디어 파일은 파일 포맷에 따라 포맷팅되고, 상기 적어도 하나의 파일은 전방향성 장면과 연관된 복수의 서브-픽처 트랙들을 포함하고, 각각의 서브-픽처 트랙은, 공간 부분의 각각의 개별 서브세트는 상기 전방향성 장면의 전체 공간 부분보다 적은, 상기 전방향성 장면의 상기 전체 공간 부분의 공간 부분의 개별 서브세트를 명시하는 비디오 데이터를 포함하는 개별 서브-픽처 비트스트림을 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 메모리; 및
상기 메모리와 통신하는 프로세서를 포함하고,
상기 프로세서는,
상기 미디어 파일을 프로세싱하고; 그리고
상기 미디어 파일 내의 트랙 박스로부터 그리고 상기 전방향성 장면과 연관된 상기 복수의 서브-픽처 트랙들 중 서브-픽처 트랙을 위해, 상기 서브-픽처 트랙의 트랙 그룹 타입의 값에 기초하여 상기 서브-픽처 트랙들이 상기 전방향성 장면을 운반하는 서브-픽처 트랙들의 그룹에 속하는 것을 결정하는 것으로서, 상기 서브-픽처 트랙들의 그룹이 상기 적어도 하나의 파일 내에 포함된 상기 복수의 서브-픽처 트랙들인, 상기 결정하도록
구성되는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 제 17 항에 있어서,
상기 미디어 파일은 상기 적어도 하나의 파일을 포함하는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 제 17 항에 있어서,
상기 프로세서는 추가로, 상기 미디어 파일로부터, 상기 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 획득하도록 구성되는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 제 19 항에 있어서,
상기 프로세서는 추가로, 상기 트랙 박스의 샘플 디스크립션 박스 내의 샘플 엔트리 타입에 기초하여, 상기 서브-픽처 베이스 트랙의 존재를 결정하도록 구성되는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 제 19 항에 있어서,
상기 프로세서는 추가로, 상기 서브-픽처 베이스 트랙으로부터, 상기 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 획득하도록 구성되는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 제 17 항에 있어서,
상기 프로세서는 추가로, 상기 복수의 서브-픽처 트랙들의 세트와 연관된 전체 픽처의 공간 해상도를 포함하는 메타데이터를 프로세스하도록 구성되는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 제 17 항에 있어서,
상기 파일 포맷은 ISO (International Standards Organization) 베이스 미디어 파일 포맷에 기초하는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 삭제
- 제 17 항에 있어서,
상기 프로세서는 추가로, 상기 트랙 박스의 트랙 그룹 타입 박스로부터, 상기 트랙에서의 서브-픽처들의 서브-픽처 행 인덱스 정보 및 서브-픽처 열 인덱스 정보를 획득하도록 구성되는, 전방향성 비디오 데이터를 디코딩하기 위한 디바이스. - 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스로서,
전방향성 장면과 연관된 복수의 서브-픽처 비트스트림들을 저장하도록 구성된 메모리로서, 각각의 서브-픽처 비트스트림은, 공간 부분의 각각의 개별 서브세트는 상기 전방향성 장면의 전체 공간 부분보다 적은, 상기 전방향성 장면의 상기 전체 공간 부분의 공간 부분의 개별 서브세트를 명시하는 비디오 데이터를 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 메모리; 및
상기 메모리와 통신하는 프로세서를 포함하고,
상기 프로세서는,
상기 메모리로부터, 상기 전방향성 장면과 연관된 상기 복수의 서브-픽처 비트스트림들을 획득하고;
적어도 하나의 파일에, 상기 복수의 서브-픽처 비트스트림들을 상기 전방향성 장면과 연관된 복수의 서브-픽처 트랙들로서 각각 저장하고; 그리고
파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 상기 복수의 서브-픽처 트랙들을 중 서브-픽처 트랙의 트랙 그룹 타입을 상기 서브-픽처 트랙이 상기 전방향성 장면을 운반하는 서브-픽처 트랙들의 그룹에 속하는 것을 표시하는 값으로 설정하는 것으로서, 상기 서브-픽처 트랙들의 그룹은 상기 복수의 서브-픽처 트랙들인, 상기 트랙 그룹 타입을 설정하도록
구성되는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 26 항에 있어서,
상기 미디어 파일은 상기 적어도 하나의 파일을 포함하는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 26 항에 있어서,
상기 프로세서는 추가로, 상기 복수의 서브-픽처 트랙들과 연관된 서브-픽처 베이스 트랙을 저장하도록 구성되는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 28 항에 있어서,
상기 프로세서는 추가로, 상기 트랙 박스의 샘플 디스크립션 박스 내의 샘플 엔트리 타입의 값을 설정하도록 구성되고, 상기 값은 상기 서브-픽처 베이스 트랙의 존재를 표시하는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 28 항에 있어서,
상기 서브-픽처 베이스 트랙은 상기 복수의 서브-픽처 트랙들을 기술하는 메타데이터를 포함하는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 26 항에 있어서,
상기 프로세서는 추가로, 상기 복수의 서브-픽처 트랙들의 세트와 연관된 전체 픽처의 공간 해상도를 포함하는 메타데이터를 포함하도록 구성되는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 26 항에 있어서,
상기 파일 포맷은 ISO (International Standards Organization) 베이스 미디어 파일 포맷에 기초하는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 삭제
- 제 26 항에 있어서,
상기 프로세서는 추가로, 상기 트랙 박스의 트랙 그룹 타입 박스 내에, 상기 트랙에서의 서브-픽처들의 서브-픽처 행 인덱스 정보 및 서브-픽처 열 인덱스 정보를 저장하도록 구성되는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 26 항에 있어서,
상기 디바이스는 무선 통신 디바이스이고,
상기 복수의 서브-픽처 비트스트림들을 송신하도록 구성된 송신기를 더 포함하는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 제 35 항에 있어서,
상기 무선 통신 디바이스는 셀룰러 전화기이고,
상기 복수의 서브-픽처 비트스트림들은 추가로, 셀룰러 통신 표준에 따른 송신을 위해 변조되는, 전방향성 비디오 데이터를 프로세싱하기 위한 디바이스. - 메모리로부터, 전방향성 장면과 연관된 복수의 서브-픽처 비트스트림들을 획득하는 수단으로서, 각각의 서브-픽처 비트스트림은, 공간 부분의 각각의 개별 서브세트는 상기 전방향성 장면의 전체 공간 부분보다 적은, 상기 전방향성 장면의 상기 전체 공간 부분의 공간 부분의 개별 서브세트를 명시하는 비디오 데이터를 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하는 수단;
적어도 하나의 파일에, 상기 전방향성 장면과 연관된 상기 복수의 서브-픽처 비트스트림들을 상기 전방향성 장면과 연관된 복수의 서브-픽처 트랙들로서 각각 저장하는 수단; 및
파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 상기 복수의 서브-픽처 트랙들 중 서브-픽처 트랙의 트랙 그룹 타입을 상기 서브-픽처 트랙이 상기 전방향성 장면을 운반하는 서브-픽처 트랙들의 그룹에 속하는 것을 표시하는 값으로 설정하는 것으로서, 상기 서브-픽처 트랙들의 그룹은 상기 복수의 서브-픽처 트랙들인, 상기 트랙 그룹 타입을 설정하는 수단을 포함하는, 디바이스. - 명령들이 저장된 비일시적인 컴퓨터 판독가능 저장 매체로서,
상기 명령들은, 실행될 경우, 전자 디바이스의 하나 이상의 프로세서들로 하여금
메모리로부터, 전방향성 장면과 연관된 복수의 서브-픽처 비트스트림들을 획득하게 하는 것으로서, 각각의 서브-픽처 비트스트림은, 공간 부분의 각각의 개별 서브세트는 상기 전방향성 장면의 전체 공간 부분보다 적은, 상기 전방향성 장면의 상기 전체 공간 부분의 공간 부분의 개별 서브세트를 명시하는 비디오 데이터를 포함하고, 각각의 서브-픽처 비트스트림은 독립적으로 코딩되는, 상기 복수의 서브-픽처 비트스트림들을 획득하게 하고;
적어도 하나의 파일에, 상기 전방향성 장면과 연관된 상기 복수의 서브-픽처 비트스트림들을 상기 전방향성 장면과 연관된 복수의 서브-픽처 트랙들로서 각각 저장하게 하고; 그리고
파일 포맷에 따라 미디어 파일 내의 트랙 박스에, 상기 복수의 서브-픽처 트랙들 중 서브-픽처 트랙의 트랙 그룹 타입을 상기 서브-픽처 트랙이 상기 전방향성 장면을 운반하는 서브-픽처 트랙들의 그룹에 속하는 것을 표시하는 값으로 설정하는 것으로서, 상기 서브-픽처 트랙들의 그룹은 상기 복수의 서브-픽처 트랙들인, 상기 트랙 그룹 타입을 설정하게 하는, 비일시적인 컴퓨터 판독가능 저장 매체.
Applications Claiming Priority (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201762475832P | 2017-03-23 | 2017-03-23 | |
| US62/475,832 | 2017-03-23 | ||
| US15/927,993 US11062738B2 (en) | 2017-03-23 | 2018-03-21 | Signalling of video content including sub-picture bitstreams for video coding |
| US15/927,993 | 2018-03-21 | ||
| PCT/US2018/023879 WO2018175802A1 (en) | 2017-03-23 | 2018-03-22 | Signalling of video content including sub-picture bitstreams for video coding |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20190131077A KR20190131077A (ko) | 2019-11-25 |
| KR102614206B1 true KR102614206B1 (ko) | 2023-12-14 |
Family
ID=63581773
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020197030999A KR102614206B1 (ko) | 2017-03-23 | 2018-03-22 | 비디오 코딩을 위한 서브-픽처 비트스트림들을 포함한 비디오 컨텐츠의 시그널링 |
Country Status (9)
| Country | Link |
|---|---|
| US (1) | US11062738B2 (ko) |
| EP (1) | EP3603095A1 (ko) |
| KR (1) | KR102614206B1 (ko) |
| CN (1) | CN110431849B (ko) |
| AU (1) | AU2018240385A1 (ko) |
| BR (1) | BR112019019339A2 (ko) |
| SG (1) | SG11201907473WA (ko) |
| TW (1) | TW201838419A (ko) |
| WO (1) | WO2018175802A1 (ko) |
Families Citing this family (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10962780B2 (en) * | 2015-10-26 | 2021-03-30 | Microsoft Technology Licensing, Llc | Remote rendering for virtual images |
| US20190373245A1 (en) * | 2017-03-29 | 2019-12-05 | Lg Electronics Inc. | 360 video transmission method, 360 video reception method, 360 video transmission device, and 360 video reception device |
| CN107071515B (zh) * | 2017-04-08 | 2018-12-07 | 腾讯科技（深圳）有限公司 | 一种图片文件处理方法及系统 |
| GB2567625B (en) * | 2017-10-12 | 2020-07-15 | Canon Kk | Method, device, and computer program for generating timed media data |
| WO2019195037A1 (en) * | 2018-04-03 | 2019-10-10 | Futurewei Technologies, Inc. | Bitstream signaling of error mitigation in sub-picture bitstream based viewport dependent video coding |
| WO2019192870A1 (en) * | 2018-04-05 | 2019-10-10 | Canon Kabushiki Kaisha | Method and apparatus for encapsulating images or sequences of images with proprietary information in a file |
| KR102188270B1 (ko) * | 2018-07-06 | 2020-12-09 | 엘지전자 주식회사 | 360 비디오 데이터의 서브픽처 기반 처리 방법 및 그 장치 |
| WO2020008758A1 (ja) * | 2018-07-06 | 2020-01-09 | ソニー株式会社 | 情報処理装置および情報処理方法、並びにプログラム |
| KR102656614B1 (ko) * | 2018-10-01 | 2024-04-12 | 삼성전자주식회사 | 비디오 컨텐츠를 전송하는 방법 및 장치 및 비디오 컨텐츠를 수신하는 방법 및 장치 |
| EP3766245A4 (en) * | 2018-12-20 | 2021-01-27 | Telefonaktiebolaget Lm Ericsson (Publ) | IMPROVED SIGNAGE OF PAVERS ADDRESSES IN VIDEO ENCODING AND DECODING |
| GB2585052B (en) * | 2019-06-26 | 2023-07-26 | Canon Kk | Method and apparatus for encapsulating panorama images in a file |
| CN114827600B (zh) * | 2019-07-08 | 2023-09-01 | 华为技术有限公司 | 一种图像解码的方法及解码器 |
| EP4035386A1 (en) * | 2019-09-27 | 2022-08-03 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Merging friendly file format |
| CN112911299B (zh) * | 2019-12-03 | 2023-02-28 | 浙江宇视科技有限公司 | 一种视频码率控制方法、装置、电子设备和存储介质 |
| WO2021133065A1 (ko) * | 2019-12-23 | 2021-07-01 | 엘지전자 주식회사 | 픽처 분할 기반 영상 코딩 장치 및 방법 |
| EP4085645A4 (en) * | 2019-12-31 | 2023-12-27 | Nokia Technologies Oy | METHOD, APPARATUS AND COMPUTER PROGRAM PRODUCT FOR VIDEO CODING AND VIDEO CODING |
| CN115428454A (zh) | 2020-04-06 | 2022-12-02 | 字节跳动有限公司 | 使用参数集的视频编解码 |
| CN115398901A (zh) * | 2020-04-12 | 2022-11-25 | 字节跳动有限公司 | 瞬时解码刷新子图片的编解码 |
| CN111726655B (zh) * | 2020-07-02 | 2022-09-06 | 中影华夏寰宇(北京)电影科技有限公司 | 视频处理装置、方法和系统 |
| US20230362456A1 (en) * | 2020-09-24 | 2023-11-09 | Lg Electronics Inc. | Media file processing method and device |
| US20230328261A1 (en) * | 2020-09-24 | 2023-10-12 | Lg Electronics Inc. | Media file processing method and device therefor |
| US20240056578A1 (en) * | 2020-12-14 | 2024-02-15 | Lg Electronics Inc. | Media file generation/reception method and apparatus supporting random access in units of samples, and method for transmitting media file |
| WO2022164024A1 (ko) * | 2021-01-26 | 2022-08-04 | 엘지전자 주식회사 | 미디어 파일 처리 방법 및 그 장치 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100153395A1 (en) * | 2008-07-16 | 2010-06-17 | Nokia Corporation | Method and Apparatus For Track and Track Subset Grouping |
| US20150110118A1 (en) * | 2013-10-22 | 2015-04-23 | Canon Kabushiki Kaisha | Method of processing disordered frame portion data units |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20060047674A1 (en) | 2004-09-01 | 2006-03-02 | Mohammed Zubair Visharam | Method and apparatus for supporting storage of multiple camera views |
| WO2006079368A1 (en) | 2005-01-25 | 2006-08-03 | Nero Ag | Method for preparing dvd-video formatted data, method for reconstructing dvd-video data and dvd-video data structure |
| GB2551296B (en) | 2013-04-09 | 2018-02-28 | Canon Kk | Method, device, and computer program for encapsulating partitioned timed media data |
| GB2516825B (en) * | 2013-07-23 | 2015-11-25 | Canon Kk | Method, device, and computer program for encapsulating partitioned timed media data using a generic signaling for coding dependencies |
| GB2519746B (en) * | 2013-10-22 | 2016-12-14 | Canon Kk | Method, device and computer program for encapsulating scalable partitioned timed media data |
| US9648348B2 (en) * | 2013-10-23 | 2017-05-09 | Qualcomm Incorporated | Multi-layer video file format designs |
-
2018
- 2018-03-21 US US15/927,993 patent/US11062738B2/en active Active
- 2018-03-22 BR BR112019019339A patent/BR112019019339A2/pt not_active IP Right Cessation
- 2018-03-22 SG SG11201907473W patent/SG11201907473WA/en unknown
- 2018-03-22 CN CN201880019591.3A patent/CN110431849B/zh active Active
- 2018-03-22 KR KR1020197030999A patent/KR102614206B1/ko active IP Right Grant
- 2018-03-22 EP EP18718259.7A patent/EP3603095A1/en active Pending
- 2018-03-22 TW TW107109900A patent/TW201838419A/zh unknown
- 2018-03-22 AU AU2018240385A patent/AU2018240385A1/en not_active Abandoned
- 2018-03-22 WO PCT/US2018/023879 patent/WO2018175802A1/en unknown
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100153395A1 (en) * | 2008-07-16 | 2010-06-17 | Nokia Corporation | Method and Apparatus For Track and Track Subset Grouping |
| US20150110118A1 (en) * | 2013-10-22 | 2015-04-23 | Canon Kabushiki Kaisha | Method of processing disordered frame portion data units |
Also Published As
| Publication number | Publication date |
|---|---|
| SG11201907473WA (en) | 2019-10-30 |
| US11062738B2 (en) | 2021-07-13 |
| AU2018240385A1 (en) | 2019-08-29 |
| CN110431849A (zh) | 2019-11-08 |
| KR20190131077A (ko) | 2019-11-25 |
| US20180277164A1 (en) | 2018-09-27 |
| CN110431849B (zh) | 2021-10-22 |
| WO2018175802A1 (en) | 2018-09-27 |
| BR112019019339A2 (pt) | 2020-04-14 |
| EP3603095A1 (en) | 2020-02-05 |
| TW201838419A (zh) | 2018-10-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102614206B1 (ko) | 비디오 코딩을 위한 서브-픽처 비트스트림들을 포함한 비디오 컨텐츠의 시그널링 | |
| KR102185811B1 (ko) | 컨테이너 파일들 및 비디오 비트스트림들의 관심 영역들의 강화된 시그널링 | |
| CN110024400B (zh) | 感兴趣区的信号发送的系统和方法 | |
| US10917564B2 (en) | Systems and methods of generating and processing files for partial decoding and most interested regions | |
| CN108605168B (zh) | 一种处理虚拟现实数据的方法、装置以及非暂时性计算机可读媒体 | |
| EP3602261B1 (en) | Advanced signalling of regions of interest in omnidirectional visual media | |
| CN110089126B (zh) | 处理视频数据的方法、设备及计算机可读媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |