KR102616943B1 - 손실 또는 손상된 비디오 데이터를 시그널링하는 시스템들 및 방법들 - Google Patents
손실 또는 손상된 비디오 데이터를 시그널링하는 시스템들 및 방법들 Download PDFInfo
- Publication number
- KR102616943B1 KR102616943B1 KR1020197010056A KR20197010056A KR102616943B1 KR 102616943 B1 KR102616943 B1 KR 102616943B1 KR 1020197010056 A KR1020197010056 A KR 1020197010056A KR 20197010056 A KR20197010056 A KR 20197010056A KR 102616943 B1 KR102616943 B1 KR 102616943B1
- Authority
- KR
- South Korea
- Prior art keywords
- video
- sample
- segment
- frames
- media
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 129
- 230000011664 signaling Effects 0.000 title abstract description 28
- 238000012545 processing Methods 0.000 claims description 106
- 230000008569 process Effects 0.000 claims description 58
- 238000003860 storage Methods 0.000 claims description 38
- 230000006978 adaptation Effects 0.000 claims description 24
- 230000014509 gene expression Effects 0.000 claims description 15
- 230000008520 organization Effects 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 5
- 230000004048 modification Effects 0.000 abstract description 5
- 238000012986 modification Methods 0.000 abstract description 5
- 238000007792 addition Methods 0.000 abstract description 3
- 239000010410 layer Substances 0.000 description 42
- 239000012634 fragment Substances 0.000 description 35
- 239000013598 vector Substances 0.000 description 26
- 230000005540 biological transmission Effects 0.000 description 25
- 238000013139 quantization Methods 0.000 description 24
- 238000004891 communication Methods 0.000 description 23
- 230000003044 adaptive effect Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 12
- 238000000638 solvent extraction Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 11
- 238000013500 data storage Methods 0.000 description 10
- 241000023320 Luma <angiosperm> Species 0.000 description 9
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 9
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 8
- 238000005538 encapsulation Methods 0.000 description 8
- 230000002123 temporal effect Effects 0.000 description 8
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 238000013507 mapping Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 108091000069 Cystinyl Aminopeptidase Proteins 0.000 description 3
- 102100020872 Leucyl-cystinyl aminopeptidase Human genes 0.000 description 3
- 238000003491 array Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000007727 signaling mechanism Effects 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 241000238876 Acari Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000001627 detrimental effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 238000012432 intermediate storage Methods 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- AWSBQWZZLBPUQH-UHFFFAOYSA-N mdat Chemical compound C1=C2CC(N)CCC2=CC2=C1OCO2 AWSBQWZZLBPUQH-UHFFFAOYSA-N 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 239000005022 packaging material Substances 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/65—Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/70—Media network packetisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/762—Media network packet handling at the source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/65—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
- H04N19/66—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience involving data partitioning, i.e. separation of data into packets or partitions according to importance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/89—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/262—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
- H04N21/26258—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists for generating a list of items to be played back in a given order, e.g. playlist, or scheduling item distribution according to such list
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/85406—Content authoring involving a specific file format, e.g. MP4 format
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
다양한 구현들에서, 파일이 손상된 비디오 프레임들을 포함한다는 표시를 제공하기 위한 방법, 장치 및 컴퓨터 판독가능 매체가 설명된다. 예를 들어, 파일은 특정 플레잉 타임스탬프 및 플레잉 지속기간과 연관된 하나 이상의 비디오 프레임들이 손상되었음을 표시하는 표시기를 포함할 수 있다. 또한 표시기는 손상된 비디오 프레임과 손실된 비디오 프레임과 연관된 통합 표시기로 구성될 수 있다. 일부 구현들에서, 손상된 비디오 프레임의 존재에 대한 시그널링은 미디어 파일로부터 손상된 비디오 프레임을 생략하는 형태로 나타날 수 있다. 다양한 구현들에서, 하나 이상의 기존 미디어 스트리밍 방식에 대한 수정들 및/또는 추가는 수신기 디바이스가 미디어 세그먼트를 요청하기 전에 미디어 세그먼트가 손실 (또는 그렇지 않으면 디코딩 불가능한) 프레임을 포함하고 있음을 수신기 디바이스에 표시할 수 있다.
Description
이 출원은 손실 또는 손상된 비디오 데이터의 시그널링에 관한 것이다. 시그널링 정보는 하나 이상의 미디어 파일 포맷들, 이를 테면, ISO 기반 미디어 파일 포맷 (ISOBMFF) 또는 다른 적절한 파일 포맷들, 스트리밍 애플리케이션들, 이를 테면, DASH (Dynamic Adaptive Streaming over HTTP), HLS (HTTP Live Streaming), CMAF (Common Media Application Format) 및/또는 다른 적절한 스트리밍 애플리케이션들과 연관된 파일 포맷들의 부분일 수 있다.
비디오 코딩 표준들은 스케일러블 비디오 코딩 (Scalable Video Coding; SVC) 로서 알려진 그 스케일러블 비디오 코딩 확장 및 그 멀티뷰 비디오 코딩 확장 멀티뷰 비디오 코딩 (Multiview Video Coding; MVC) 확장들을 포함하는, ITU-T H.261, ISO/IEC MPEG-1 비주얼 (Visual), ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼, ITU-T H.264 또는 ISO/IEC MPEG-4 AVC 와, 그 스케일러블 코딩 확장 (즉, 스케일러블 고효율 비디오 코딩 (scalable high-efficiency video coding), SHVC) 및 멀티뷰 확장 (즉, 멀티뷰 고효율 비디오 코딩 (multiview high efficiency video coding), MV-HEVC) 을 포함하는, ITU-T H.265 및 ISO/IEC 23008-2 로서 또한 알려진, 고효율 비디오 코딩 (High-Efficiency Video Coding; HEVC) 을 포함한다.
일부 실시형태들에서, 미디어 컨텐츠가 손실 및/또는 손상된 비디오 데이터를 포함함을 표시하는 기법들이 설명된다. 예를 들어, 파일에서의 미디어 컨텐츠가 손실 또는 손상된 미디어 데이터를 포함함을 표시하는 표시를 파일에 추가할 수 있다. 다른 예에서, 손실 및/또는 손상된 미디어 데이터는 이러한 미디어 데이터가 파일 및/또는 비트스트림에 포함되는 것을 불허하는 것에 의해 표시될 수 있다. 예를 들어, 인코더 또는 다른 송신기측 디바이스가 파일들 (캡슐화시) 및/또는 세그먼트들 (세그먼트화시) 에 손상된 미디어 프레임들을 포함하지 않을 것을 요구하는 송신기측 제약이 정의될 수 있다. 손실 또는 손상된 비디오 데이터는 비디오 프레임의 비디오 데이터 (손실 또는 손상된 비디오 프레임이라 함), 비디오 세그먼트들의 비디오 데이터 (손실 또는 손상된 비디오 세그먼트들이라 함) 또는 다른 손실된 비디오 데이터를 포함할 수 있다. 손실 및/또는 손상된 비디오 데이터를 시그널링하는 것에 의해, 비디오 플레이어 디바이스는 미디어 컨텐츠를 프로세싱할 때 손실 및/또는 손상된 비디오 프레임들을 적절하게 렌더링하거나 또는 달리 처리할 수 있다.
적어도 하나의 예에 따르면, 비디오 데이터를 프로세싱하는 방법이 제공된다. 방법은 비디오 데이터의 복수의 프레임들을 획득하는 단계, 손상된 복수의 프레임들 중 손상되어 있는 적어도 하나의 프레임을 결정하는 단계, 적어도 하나의 프레임의 손상의 표시를 생성하는 단계, 및 표시를 포함하는 미디어 파일을 생성하는 단계를 포함한다.
다른 예에서, 비디오 데이터를 프로세싱하기 위한 장치가 제공된다. 상기 장치는 비디오 데이터를 저장하도록 구성된 메모리 및 프로세서 (예를 들어, 프로세싱 회로) 를 포함할 수 있다. 프로세서는 비디오 데이터의 복수의 프레임들을 획득하고, 손상된 복수의 프레임들 중 손상되어 있는 적어도 하나의 프레임을 결정하고, 적어도 하나의 프레임의 손상의 표시를 생성하고, 그리고 표시를 포함하는 미디어 파일을 생성하도록 구성된다.
다른 예에서, 비일시적 컴퓨터 판독가능 매체가 제공되고, 매체는 하나 이상의 프로세서들에 의해 실행될 때 하나 이상의 프로세서들로 하여금 비디오 데이터의 복수의 프레임들을 획득하게 하고, 손상된 복수의 프레임들 중 손상되어 있는 적어도 하나의 프레임을 결정하게 하고, 적어도 하나의 프레임의 손상의 표시를 생성하게 하고, 그리고 표시를 포함하는 미디어 파일을 생성하게 하는 명령들이 저장되어 있다.
다른 예에서, 비디오 데이터를 프로세싱하기 위한 장치가 제공된다. 장치는 데이터의 복수의 프레임들을 획득하기 위한 수단, 손상된 복수의 프레임들 중 손상되어 있는 적어도 하나의 프레임을 결정하기 위한 수단, 적어도 하나의 프레임의 손상의 표시를 생성하기 위한 수단, 및 표시를 포함하는 미디어 파일을 생성하기 위한 수단을 포함한다.
일부 양태들에서, 비디오 데이터는 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함한다. 이러한 경우들에, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다.
일부 양태들에서, 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분이고, 비디오 데이터는 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함한다. 이러한 경우들에, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다.
일부 양태들에서, 비디오 데이터는 복수의 비디오 샘플들을 포함할 수 있다. 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 복수의 비디오 샘플들은 손상된 적어도 하나의 프레임을 포함하는 제 1 비디오 샘플을 포함한다. 제 1 비디오 샘플은 제 1 비디오 샘플에 포함된 컨텐츠 타입을 식별하는 타입 식별자와 연관된다. 표시는 타입 식별자를 포함할 수도 있다.
일부 양태들에서, 타입 식별자는 제 1 비디오 샘플이 손상된 프레임들 중 적어도 하나의 프레임을 포함함을 표시할 수도 있다. 타입 식별자는 또한 미디어 타입 및 미디어 파일을 프로세싱하는데 사용되는 디코더의 타입을 표시할 수 있다. 일부 양태들에서, 타입 식별자는 샘플 엔트리 타입을 포함한다.
일부 양태들에서, 미디어 파일은 ISO (International Standards Organization) 기본 미디어 파일 포맷 (ISOBMFF) 에 기초한다.
일부 양태들에서, 미디어 파일은 비디오 데이터의 복수의 세그먼트들의 리스트 표현을 포함할 수도 있다. 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함할 수도 있다. 제 1 세그먼트 및 제 2 세그먼트는 복수의 프레임들 중 하나 이상의 프레임들을 포함할 수도 있다. 제 2 세그먼트는 복수의 프레임들 중 하나 이상의 손실된 프레임들을 포함할 수도 있다. 표시는 제 1 표시일 수도 있다. 몇몇 양태들에서, 방법, 장치들 및 컴퓨터 판독가능 매체는 제 2 세그먼트가 하나 이상의 손실된 프레임들을 포함한다고 결정하는 것, 하나 이상의 손실된 프레임들의 제 2 표시를 생성하는 것, 및 미디어 파일에 제 2 표시를 포함시키는 것을 더 포함할 수도 있다.
몇몇 양태들에서, 미디어 파일은 MPD (media presentation description) 포맷에 기초한다. 리스트 표현은 하나 이상의 적응 세트들을 포함할 수도 있다. 하나 이상의 적응 세트들 각각은 하나 이상의 표현들 또는 하나 이상의 손실된 프레임들을 포함하는 하나 이상의 서브-표현들 중 적어도 하나 이상을 포함한다. 하나 이상의 표현들 또는 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관된다. 제 2 표시는 제 2 세그먼트와 연관된 하나 이상의 표현들 또는 서브-표현들에 포함된 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함한다. 하나 이상의 엘리먼트들은 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관된다.
일부 양태들에서, 리스트 표현은 제 2 세그먼트가 아닌 제 1 세그먼트를 취출하기 위한 정보를 포함한다. 제 2 표시는 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함한다.
일부 양태들에서, 리스트 표현은 제 2 세그먼트와 연관된 텍스트 표시자를 포함한다. 텍스트 표시자는 제 2 세그먼트가 하나 이상의 손실된 프레임들을 포함함을 표시할 수 있다. 제 2 표시는 텍스트 식별자를 포함할 수도 있다.
일부 양태들에서, 미디어 파일은 HTTP 라이브 스트리밍 (HTTP Live Streaming; HLS) 플레이리스트 포맷에 기초한다. 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관된다. 리스트 표현은 태그들의 세트를 포함한다. 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 양태들에서, 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함한다. 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관된다. 리스트 표현은 태그들의 세트를 포함할 수 있고, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 양태들에서, 장치는 픽처들을 캡처하기 위한 카메라를 갖는 모바일 디바이스를 포함한다.
적어도 하나의 다른 예에 따르면, 미디어 파일을 프로세싱하는 방법이 제공된다. 본 방법은 미디어 컨텐츠를 포함하는 미디어 파일을 획득하는 단계를 포함하고, 미디어 컨텐츠는 비디오 데이터의 복수의 프레임들을 포함한다. 본 방법은 미디어 파일 내의 표시에 기초하여, 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하는 단계를 더 포함한다. 본 방법은 표시에 기초하여 적어도 하나의 손상된 프레임을 프로세싱하는 단계를 더 포함한다.
다른 예에 따르면, 미디어 파일을 프로세싱하기 위한 장치가 제공된다. 본 장치는 미디어 파일을 저장하도록 구성된 메모리 및 프로세서를 포함할 수 있다. 프로세서는 미디어 컨텐츠를 포함하는 미디어 파일을 획득하도록 구성된다. 미디어 컨텐츠는 비디오 데이터의 복수의 프레임들을 포함한다. 프로세서는 또한, 미디어 파일 내의 표시에 기초하여, 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하도록 구성된다. 프로세서는 또한, 표시에 기초하여 적어도 하나의 손상된 프레임을 프로세싱하도록 구성된다.
또 다른 예에서, 비일시적 컴퓨터 판독가능 매체가 제공되며, 매체는 하나 이상의 프로세서들에 의해 실행될 때, 하나 이상의 프로세서들로 하여금 미디어 컨텐츠를 포함하는 미디어 파일을 획득하게 하는 것으로서, 미디어 컨텐츠는 비디오 데이터의 복수의 프레임들을 포함하는, 미디어 파일을 획득하게 하고; 미디어 파일 내의 표시에 기초하여, 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하게 하고; 그리고 표시에 기초하여 적어도 하나의 손상된 프레임을 프로세싱하게 한다.
다른 예에서, 비디오 데이터를 프로세싱하기 위한 장치가 제공된다. 본 장치는 미디어 컨텐츠를 포함하는 미디어 파일을 획득하기 위한 수단으로서, 미디어 컨텐츠는 비디오 데이터의 복수의 프레임들을 포함하는, 획득하기 위한 수단; 미디어 파일 내의 표시에 기초하여, 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하기 위한 수단; 및 표시에 기초하여 적어도 하나의 손상된 프레임을 프로세싱하기 위한 수단을 포함한다.
일부 양태들에서, 비디오 데이터는 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함한다. 이러한 양태들에서, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다.
일부 양태들에서, 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분이고, 비디오 데이터는 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함한다. 이러한 경우들에, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다.
일부 양태들에서, 미디어 컨텐츠는 복수의 비디오 샘플들을 포함하며, 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 복수의 비디오 샘플들은 손상된 적어도 하나의 프레임을 포함하는 제 1 비디오 샘플을 포함한다. 제 1 비디오 샘플은 제 1 비디오 샘플에 포함된 컨텐츠 타입을 식별하는 타입 식별자와 연관된다. 이러한 양태들에서, 표시는 타입 식별자를 포함한다.
일부 양태들에서, 타입 식별자는 비디오 샘플이 손상된 프레임들 중 적어도 하나의 프레임을 포함함을 표시할 수도 있다. 일부 경우들에서, 타입 식별자는 또한 미디어 타입 및 미디어 파일을 프로세싱하는데 사용되는 디코더의 타입을 표시할 수 있다. 일부 양태들에서, 타입 식별자는 샘플 엔트리 타입을 포함한다.
일부 양태들에서, 미디어 파일은 ISO (International Standards Organization) 기본 미디어 파일 포맷 (ISOBMFF) 에 기초한다.
일부 양태들에서, 표시에 기반하여 적어도 하나의 손상된 프레임을 프로세싱하는 것은, 표시에 기초하여, 손상된 적어도 하나의 프레임에 대응하는 미디어 컨텐츠의 부분을 식별하는 것; 및 미디어 컨텐츠의 부분의 프로세싱을 스킵하는 것을 포함한다.
일부 양태들에서, 미디어 파일은 비디오 데이터의 복수의 세그먼트들의 리스트 표현을 포함한다. 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함한다. 제 1 세그먼트 및 제 2 세그먼트의 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 제 2 세그먼트는 복수의 프레임들 중 하나 이상의 손실된 프레임들을 더 포함한다. 표시는 제 1 표시이며, 미디어 파일은 제 2 세그먼트가 복수의 프레임들 중 하나 이상의 손실된 프레임을 포함함을 표시하는 제 2 표시를 더 포함한다.
일부 양태들에서, 미디어 파일은 미디어 프리젠 테이션 디스크립션 (MPD) 포맷에 기초하고, 리스트 표현은 하나 이상의 적응 세트들을 포함한다. 하나 이상의 적응 세트들 각각은 하나 이상의 표현들 또는 하나 이상의 손실된 프레임들을 포함하는 하나 이상의 서브-표현들 중 적어도 하나 이상을 포함한다. 하나 이상의 표현들 또는 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관된다. 제 2 표시는 제 2 세그먼트와 연관된 하나 이상의 표현들 또는 하나 이상의 서브-표현들에 포함된 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함한다. 하나 이상의 엘리먼트들은 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관된다.
일부 양태들에서, 리스트 표현은 제 2 세그먼트가 아닌 제 1 세그먼트를 취출하기 위한 정보를 포함한다. 이러한 양태들에서, 제 2 표시는 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함한다.
일부 양태들에서, 리스트 표현은 제 2 세그먼트와 연관된 텍스트 표시자를 포함한다. 텍스트 표시자는 제 2 세그먼트가 하나 이상의 손실된 프레임들을 포함함을 표시한다. 이러한 양태들에서, 제 2 표시는 텍스트 식별자를 포함한다.
일부 양태들에서, 미디어 파일은 HTTP 라이브 스트리밍 (HLS) 플레이리스트 포맷에 기초하고, 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관된다. 이러한 양태들에서, 리스트 표현은 태그들의 세트를 포함할 수 있고, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 양태들에서, 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함한다. 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관된다. 이러한 양태들에서, 리스트 표현은 태그들의 세트를 포함할 수 있고, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 양태들에서, 표시에 기초하여 적어도 하나의 손상된 프레임을 프로세싱하는 것은 제 2 세그먼트 대신에 제 3 세그먼트를 요청하는 요청을 스트림 서버에 송신하는 것을 포함한다.
일부 양태들에서, 장치는 비디오 데이터의 복수의 프레임들 중 하나 이상을 디스플레이하기 위한 디스플레이를 더 포함한다.
일부 양태들에서, 장치는 픽처들을 캡처하기 위한 카메라를 갖는 모바일 디바이스를 포함한다.
이 개요는 청구된 발명 요지의 핵심적인 또는 필수적인 특징들을 식별하도록 의도된 것도 아니고, 청구된 발명 요지의 범위를 결정하기 위하여 별개로 이용되도록 의도된 것도 아니다. 발명 요지는 이 특허의 전체 명세서, 임의의 또는 모든 도면들, 및 각각의 청구항의 적절한 부분들을 참조하여 이해되어야 한다.
상기한 것은 다른 특징들 및 실시형태들과 함께, 다음의 명세서, 청구항들, 및 동반된 도면들을 참조할 시에 더욱 분명해질 것이다.
본 발명의 예시적인 실시형태들은 다음 도면의 도면들을 참조하여 이하에서 상세하게 설명된다.
도 1 은 인코딩 디바이스 및 디코딩 디바이스를 포함하는 시스템의 예를 예시하는 블록도이다.
도 2 및 도 3 은 ISOBMFF 에 따라 포맷된, 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 기반 미디어 파일의 예를 예시한다.
도 4 는 미디어 스트리밍을 위한 일 예의 시스템을 예시한다.
도 5 는 미디어 프리젠테이션 기술의 일 예에 대한 그래픽 표현을 제공한다.
도 6 은 플레이리스트의 일 예의 그래픽 표현을 제공한다.
도 7a 및 도 7b 는 ISOBMFF 파일에서 손상된 프레임들을 시그널링하는 일 예를 예시한다.
도 8a 및 도 8b 는 ISOBMFF 파일에서 손실된 프레임들을 시그널링하는 일 예를 예시한다.
도 9 는 ISOBMFF 파일에서 손실된 프레임들을 시그널링하는 일 예를 예시한다.
도 10 은 ISOBMFF 파일에서 손실된 비디오 프레임들 또는 손상된 비디오 프레임들의 통합된 시그널링을 제공하는 일 예를 예시한다.
도 11 및 도 12 는 미디어 스트리밍을 위한 손상된 파일 세그먼트들의 시그널링의 예들을 예시한다.
도 13 은 비디오 데이터를 프로세싱하기 위한 프로세스의 일 예를 예시한다.
도 14 는 미디어 파일을 프로세싱하기 위한 프로세스의 일 예를 예시한다.
도 15 는 이 개시에서 설명된 기법들 중의 하나 이상을 구현할 수도 있는 일 예의 인코딩 디바이스를 예시하는 블록도이다.
도 16 은 일 예의 디코딩 디바이스를 예시하는 블록도이다.
도 1 은 인코딩 디바이스 및 디코딩 디바이스를 포함하는 시스템의 예를 예시하는 블록도이다.
도 2 및 도 3 은 ISOBMFF 에 따라 포맷된, 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 기반 미디어 파일의 예를 예시한다.
도 4 는 미디어 스트리밍을 위한 일 예의 시스템을 예시한다.
도 5 는 미디어 프리젠테이션 기술의 일 예에 대한 그래픽 표현을 제공한다.
도 6 은 플레이리스트의 일 예의 그래픽 표현을 제공한다.
도 7a 및 도 7b 는 ISOBMFF 파일에서 손상된 프레임들을 시그널링하는 일 예를 예시한다.
도 8a 및 도 8b 는 ISOBMFF 파일에서 손실된 프레임들을 시그널링하는 일 예를 예시한다.
도 9 는 ISOBMFF 파일에서 손실된 프레임들을 시그널링하는 일 예를 예시한다.
도 10 은 ISOBMFF 파일에서 손실된 비디오 프레임들 또는 손상된 비디오 프레임들의 통합된 시그널링을 제공하는 일 예를 예시한다.
도 11 및 도 12 는 미디어 스트리밍을 위한 손상된 파일 세그먼트들의 시그널링의 예들을 예시한다.
도 13 은 비디오 데이터를 프로세싱하기 위한 프로세스의 일 예를 예시한다.
도 14 는 미디어 파일을 프로세싱하기 위한 프로세스의 일 예를 예시한다.
도 15 는 이 개시에서 설명된 기법들 중의 하나 이상을 구현할 수도 있는 일 예의 인코딩 디바이스를 예시하는 블록도이다.
도 16 은 일 예의 디코딩 디바이스를 예시하는 블록도이다.
이 개시의 어떤 양태들 및 실시형태들이 이하에서 제공된다. 당해 분야의 당업자들에게 명백한 바와 같이, 이 양태들 및 실시형태들의 일부는 독립적으로 적용될 수도 있고 이들의 일부는 조합하여 적용될 수도 있다. 다음의 설명에서는, 설명의 목적들을 위하여, 특정 세부사항들이 발명의 실시형태들의 철저한 이해를 제공하기 위하여 기재된다. 그러나, 다양한 실시형태들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 명백할 것이다. 도면들 및 설명은 한정적인 것으로 의도된 것이 아니다.
뒤따르는 설명은 예시적인 실시형태들을 오직 제공하고, 개시의 범위, 적용가능성, 또는 구성을 제한하도록 의도된 것이 아니다. 오히려, 예시적인 실시형태들의 뒤따르는 설명은 당해 분야의 당업자들에게 예시적인 실시형태를 구현하기 위한 가능한 설명을 제공할 것이다. 첨부된 청구항들에서 기재된 바와 같은 발명의 사상 및 범위로부터 이탈하지 않으면서, 구성요소들의 기능 및 배열에 있어서 다양한 변경들이 행해질 수도 있다는 것이 이해되어야 한다.
특정 세부사항들은 실시형태들의 철저한 이해를 제공하기 위하여 다음의 설명에서 주어진다. 그러나, 실시형태들은 이 특정 세부사항들 없이 실시될 수도 있다는 것이 당해 분야의 당업자에 의해 이해될 것이다. 예를 들어, 회로들, 시스템들, 네트워크들, 프로세스들, 및 다른 컴포넌트들은 실시형태들을 불필요한 세부사항으로 모호하게 하지 않도록 하기 위하여 블록도에서 컴포넌트들로서 도시될 수도 있다. 다른 사례들에서는, 잘 알려진 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들이 실시형태들을 모호하게 하는 것을 회피하기 위하여 불필요한 세부사항 없이 도시될 수도 있다.
또한, 개별적인 실시형태들은 플로우차트, 흐름도, 데이터 흐름도, 구조도, 또는 블록도로서 도시되는 프로세스로서 설명될 수도 있다는 것에 주목한다. 플로우차트는 동작들을 순차적인 프로세스로서 설명할 수도 있지만, 동작들 중의 다수는 병렬로 또는 동시에 수행될 수 있다. 게다가, 동작들의 순서는 재배열될 수도 있다. 프로세스는 그 동작들이 완료될 때에 종결되지만, 도면에서 포함되지 않은 추가적인 단계들을 가질 수도 있다. 프로세스는 방법, 함수, 프로시저 (procedure), 서브루틴 (subroutine), 서브프로그램 등에 대응할 수도 있다. 프로세스가 함수에 대응할 때, 그 종결은 호출 함수 또는 주 함수로의 함수의 복귀에 대응할 수 있다.
용어 "컴퓨터-판독가능 매체" 는 휴대용 또는 비-휴대용 저장 디바이스들, 광학 저장 디바이스들, 및 명령 (들) 및/또는 데이터를 저장할 수 있거나, 포함할 수 있거나, 반송할 수 있는 다양한 다른 매체들을 포함하지만, 이것으로 제한되지는 않는다. 컴퓨터-판독가능 매체는 데이터가 저장될 수 있으며 무선으로 또는 유선 접속들을 통해 전파하는 반송파들 및/또는 일시적 전자 신호들을 포함하지 않는 비-일시적 매체를 포함할 수도 있다. 비-일시적 매체의 예들은 자기 디스크 또는 테이프, 컴팩트 디스크 (compact disk; CD) 또는 디지털 다기능 디스크 (digital versatile disk; DVD) 와 같은 광학 저장 매체들, 플래시 메모리, 메모리 또는 메모리 디바이스들을 포함할 수도 있지만, 이것으로 제한되지는 않는다. 컴퓨터-판독가능 매체는 프로시저, 함수, 서브프로그램, 프로그램, 루틴, 서브루틴, 모듈, 소프트웨어 패키지, 클래스, 또는 명령들, 데이터 구조들, 또는 프로그램 명령문들의 임의의 조합을 표현할 수도 있는 코드 및/또는 머신-실행가능 명령들을 저장하였을 수도 있다. 코드 세그먼트는 정보, 데이터, 아규먼트 (argument) 들, 파라미터들, 또는 메모리 내용들을 전달하고 및/또는 수신함으로써 또 다른 코드 세그먼트 또는 하드웨어 회로에 결합될 수도 있다. 정보, 아규먼트들, 파라미터들, 데이터 등은 메모리 공유, 메시지 전달, 토큰 전달, 네트워크 송신 등을 포함하는 임의의 적당한 수단을 통해 전달될 수도 있거나, 포워딩될 수도 있거나, 또는 송신될 수도 있다.
또한, 실시형태들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 설명 언어들, 또는 그 임의의 조합에 의해 구현될 수도 있다. 소프트웨어, 펌웨어, 미들웨어, 또는 마이크로코드로 구현될 때, 필요한 태스크 (task) 들을 수행하기 위한 프로그램 코드 또는 코드 세그먼트들 (예컨대, 컴퓨터-프로그램 제품) 은 컴퓨터-판독가능 또는 머신-판독가능 매체 내에 저장될 수도 있다. 프로세서 (들) 는 필요한 태스크들을 수행할 수도 있다.
비디오 프레임들은 저장 및/또는 송신을 위하여 인코딩될 수 있고 및/또는 압축될 수 있다. 인코딩 및/또는 압축은 비디오 코덱 (예컨대, H.265/HEVC 준수 코덱, H.264/AVC 준수 코덱, 또는 다른 적당한 코덱) 을 이용하여 달성될 수 있고, 압축된 비디오 비트스트림 또는 비트스트림들의 그룹으로 귀착된다. 비디오 코덱을 이용한 비디오 데이터의 인코딩은 이하에서 더욱 상세하게 설명된다.
인코딩된 비디오 비트스트림 (들) 은 미디어 포맷 또는 파일 포맷으로 저장될 수 있고 및/또는 캡슐화 (encapsulate) 될 수 있다. 저장된 비트스트림 (들) 은 예를 들어, 네트워크 상에서, 디스플레이를 위하여 비디오를 디코딩할 수 있고 렌더링할 수 있는 수신기 디바이스로 송신될 수 있다. 이러한 수신기 디바이스는 비디오 디스플레이 디바이스로서 본원에서 지칭될 수도 있다. 예를 들어, 스트리밍 서버는 (예컨대, 국제 표준 기구 (ISO) 기반 미디어 파일 포맷 및/또는 스트리밍을 위하여 최적화된 다른 파일 포맷들을 이용하여) 인코딩된 비디오 데이터로부터 캡슐화된 파일들을 생성할 수 있다. 예를 들어, 비디오 코덱은 비디오 데이터를 인코딩할 수 있고, 캡슐화 엔진은 하나 이상의 ISO 포맷 미디어 파일들에서의 비디오 데이터를 캡슐화함으로써 미디어 파일들을 생성할 수 있다. 대안적으로 또는 추가적으로, 저장된 비트스트림 (들) 은 저장 매체로부터 수신기 디바이스로 직접적으로 제공될 수 있다.
수신기 디바이스는 또한, 인코딩된 비디오 비트스트림을 디코딩하고 및/또는 압축해제하기 위한 코덱을 구현할 수 있다. 수신기 디바이스는 비디오 비트스트림을 파일 (또는 파일들) 로 팩킹 (pack) 하고, 비디오 (및 아마도 또한, 오디오) 데이터를 추출하고, 인코딩된 비디오 데이터를 생성하기 위하여 이용되었던 미디어 또는 파일 포맷을 지원할 수 있다. 예를 들어, 수신기 디바이스는 인코딩된 비디오 데이터를 생성하기 위하여 캡슐화된 비디오 데이터로 미디어 파일들을 파싱 (parsing) 할 수 있고, 수신기 디바이스에서의 코덱은 인코딩된 비디오 데이터를 디코딩할 수 있다. 다음으로, 수신기 디바이스는 디코딩된 비디오 신호를 렌더링 디바이스 (예컨대, 비디오 디스플레이 디바이스) 로 전송할 수 있다. 렌더링 디바이스는 비디오가 캡처되었던 것과 동일한 프레임 레이트에서, 또는 상이한 프레임 레이트에서 비디오를 렌더링할 수도 있다.
파일 포맷 표준들은 비디오 (및 아마도 또한, 오디오) 데이터를 하나 이상의 파일들로 팩킹하고 언팩킹 (unpacking) 하기 위한 포맷을 정의할 수 있다. 파일 포맷 표준들은 국제 표준화 기구 (ISO) 기반 미디어 파일 포맷 (ISOBMFF, ISO/IEC 14496-12 에서 정의됨) 과, 모션 픽처 전문가 그룹 (Motion Pictures Experts Group; MPEG) MPEG-4 파일 포맷 (ISO/IEC 14496-15 에서 정의됨), 3 세대 파트너십 프로젝트 (3rd Generation Partnership Project; 3GPP) 파일 포맷 (3GPP TS 26.244 에서 정의됨), 및 진보된 비디오 코딩 (AVC) 파일 포맷 및 고효율 비디오 코딩 (HEVC) 파일 포맷 (양자는 ISO/IEC 14496-15 에서 정의됨) 을 포함하는, ISOBMFF 로부터 파생된 다른 파일 포맷들을 포함한다. ISO/IEC 14496-12 및 14496-15 에 대한 최근의 새로운 편집들의 초안 텍스트들은 각각 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/111_Geneva/wg11/w15177 -v6-w15177.zip 및 http://phenix.int-evry.fr/mpeg/doc_end_user/documents/112_ Warsaw/wg11/w15479-v2-w15479.zip 에서 입수가능하다.
ISOBMFF 는 많은 코덱 캡슐화 포맷들 (예컨대, AVC 파일 포맷 또는 임의의 다른 적당한 코덱 캡슐화 포맷) 뿐만 아니라, 많은 멀티미디어 컨테이너 (multimedia container) 포맷들 (예컨대, MPEG-4 파일 포맷, 3GPP 파일 포맷 (3GP), DVB 파일 포맷, 또는 임의의 다른 적당한 멀티미디어 컨테이너 포맷) 에 대한 기초로서 이용된다. ISOBMFF-기반 파일 포맷들은 스트리밍 미디어로서 또한 지칭되는 연속적인 미디어를 위하여 이용될 수 있다.
연속적인 미디어 (예컨대, 오디오 및 비디오) 에 추가하여, 정적 미디어 (예컨대, 이미지들) 및 메타데이터는 ISOMBFF 를 준수하는 파일에서 저장될 수 있다. ISOBMFF 에 따라 구조화된 파일들은 로컬 미디어 파일 재생, 동적 적응 스트리밍 오버 HTTP (Dynamic Adaptive Streaming over HTTP; DASH) 와 같은 미디어 스트리밍 방식, 공통 미디어 애플리케이션 포맷 (Common Media Application Format; CMAF) 을 이용한 미디어 스트리밍 방식 등을 위한 세그먼트들로서, 스트리밍되어야 할 컨텐츠에 대한 컨테이너들 (이 경우, 컨테이너들은 패킷화 명령들을 포함함) 로서, 수신된 실시간 미디어 비트스트림들의 레코딩을 위한 원격 파일의 프로그레시브 다운로딩, 또는 다른 이용들을 포함하는 많은 목적들을 위하여 이용될 수도 있다.
미디어 파일 또는 미디어 비트스트림은 인코딩된 데이터에 손상 또는 손실된 비디오 프레임들을 포함할 수 있다. 손실된 프레임의 모든 인코딩된 데이터가 소실될 때 손실된 프레임이 발생할 수 있다. 손상된 프레임은 여러 방식들로 발생할 수 있다. 예를 들어, 그 프레임에 대한 인코딩된 데이터의 부분이 소실될 때 손상될 수도 있다. 다른 예로서, 프레임이 인터-프레임 예측 체인의 일부일 때 프레임이 손상될 수 있고, 인터-프레임 예측 체인의 일부 다른 인코딩된 데이터가 소실되어 프레임이 정확하게 디코딩될 수 없게 된다.
인코딩된 데이터는 여러 이유로 인해 손상 또는 손실된 비디오 프레임들을 포함할 수 있다. 예를 들어, 데이터 소실은 미디어 비트스트림 (예를 들어, 압축되어진 캡슐화된 비트스트림) 의 송신 중에 발생할 수 있다. 결과적으로, 미디어 파일이 부분적으로 수신되어 기록될 수 있으며 결과적으로 레코딩된 파일에 손상 또는 손실된 비디오 프레임이 존재한다. 전술한 바와 같이, 손실된 프레임은 모든 코딩된 데이터가 소실된 프레임이고, 손상된 프레임은 코딩된 데이터의 일부가 인터-프레임 예측 체인에서의 프레임의 일부 코딩된 데이터가 소실되어 손상된 프레임이 정확하게 디코딩될 수 없도록 하는 프레임이다. 다른 예로서, 인코딩된 미디어 데이터는 서버에서의 송신을 위해 캡슐화되기 전에 손상 (예를 들어, 미디어 파일의 손상에 기인함) 되거나 심지어 손실될 수 있다. 다른 예로서, 인코더 (또는 트랜스코더) 는 미디어 데이터를 인코딩하는 중에 충돌하거나 실패할 수 있다. 인코더 실패는 일부 프레임이 인코딩된 데이터에 인코딩되지 않고 (그리고 포함되지 않아) 인코딩된 데이터가 손실된 프레임을 포함하게 되는 것을 야기할 수도 있다. 인코더 실패는 프레임들의 부분 인코딩 및 인코딩 데이터에의 부분 데이터의 포함을 야기할 수도 있다. 부분 데이터가 프레임을 적절하게 디코딩하기에 충분하지 않은 경우, 인코딩된 데이터는 또한 손상된 프레임들을 포함할 수 있다.
위에 주지된 바와 같이, 미디어 인코더가 비디오 데이터를 핸들링하기 전에 데이터 손실 또는 부재가 발생할 수 있다. 경우에 따라 인코딩 중에 인코더에 의해 프레임들이 스킵될 수 있다. 이러한 경우에, 인코더는 손실되거나 스킵된 프레임없이 비트스트림들을 인코딩할 수 있고, 비트스트림은 일정하지 않은 프레임 레이트로 될 수 있다. 사실상, 비디오의 경우 손실되거나 스킵된 프레임 바로 앞의 프레임은 더 긴 재생 시간을 가지며 오디오의 경우 손실되거나 스킵된 프레임은 무음 프레임으로 간주된다. 일부 경우에, 비디오에 대해 손실되거나 스킵된 프레임 각각에 대해, 인코더는 최소 비트 수를 사용하여 더미 비디오 프레임을 인코딩 할 수 있으며, 이 경우 더미 비디오 프레임의 디코딩 결과는 출력 순서에서 이전 프레임과 정확하게 동일하다. 스피치/오디오의 경우, 묵음 프레임이 인코딩되므로 비트스트림이 일정한 프레임 레이트로 유지된다. 어느 경우에도, 코딩된 미디어 비트스트림은 손실되거나 손상된 프레임이 없는 것으로 간주되며 파일 및/또는 스트리밍 포맷의 미디어 캡슐화는 그러한 데이터 소실/부재 또는 프레임 스킵이 없는 경우와 동일하게 유지될 수 있다.
이전에 주지된 바와 같이 인코딩 및/또는 트랜스코딩 중에 데이터 소실 또는 부재가 발생할 수 있다. 이러한 경우, 충돌이나 실패가 언제 발생하는지에 따라 미디어 프레임이 손실되거나 손상될 수 있다. 미디어 인코더 (캡슐화 및/또는 세그먼테이션) 이후의 미디어 프로세싱 기능에 있어서, 인코더 이후에 데이터 손실이 발생하는 경우와 핸들링이 동일할 수 있다.
ISOBMFF 와 그 유도된 파일 포맷들 (예를 들어, AVC 파일 포맷 또는 기타 유도된 파일 포맷) 은 많은 멀티미디어 애플리케이션들에서 미디어 컨텐츠 (예를 들어, 비디오, 오디오 및 타이밍된 텍스트를 포함) 의 저장 및 캡슐화에 널리 사용된다. 그러나, ISOBMFF 및 ISOBMFF 로부터 유도된 파일 포맷들은 손상된 비디오 프레임의 시그널링을 위한 사양을 포함하지 않는다. 또한, 미디어 스트리밍 방식에서 손실 또는 손상된 비디오 프레임들을 시그널링하는 메카니즘이 결여되어 있다.
시그널링 방식의 결여는 손상 또는 손실된 비디오 프레임을 갖는 인코딩된 데이터를 프로세싱할 때 수신기 디바이스에 바람직하지 않은 거동으로 야기될 수 있다. 예를 들어, 수신기 디바이스는 프레임의 인코딩된 데이터가 손실 또는 손상되었기 때문에 디코딩될 수 없는 프레임을 디코딩하려 시도할 수도 있다. 결과적으로 디코더가 충돌되거나 또는 중단될 수도 있다. 더욱이, 미디어 스트리밍 세션 동안, 수신기 디바이스는 빈 프레임들을 포함하거나 또는 손실된 미디어 세그먼트 파일을 취출 또는 플레이하려 시도할 수도 있다. 수신기 디바이스가 미디어 세그먼트 파일을 취출하고 플레이하지 못하면 미디어 스트리밍 세션이 중단된다. 양쪽 경우 모두 미디어 스트림의 렌더링을 중단하여 사용자 경험의 악화로 이어진다.
다양한 구현들에서, ISOBMFF 에 대한 수정 및/또는 추가는 ISOBMFF 에 따라 포맷된 파일 또는 ISOBMFF 로부터 유도된 포맷이 손상된 비디오 프레임들을 포함한다는 것을 표시할 수 있다. 예를 들어, 일부 구현들에서, 미디어 파일은 특정 플레잉 타임스탬프 및 플레잉 지속기간과 연관된 하나 이상의 비디오 프레임들이 손상되었음을 표시하는 표시자를 포함할 수 있다. 또한 표시자는 손상된 비디오 프레임과 손실된 비디오 프레임과 연관된 통합 표시기로 구성될 수 있다. 일부 구현들에서, 손상된 비디오 프레임의 존재에 대한 시그널링은 미디어 파일로부터 이들 손상된 비디오 프레임의 하나 이상의 생략들의 형태로 나타날 수 있다. 다양한 구현들에서, 하나 이상의 기존 미디어 스트리밍 방식에 대한 수정들 및/또는 추가는 수신기 디바이스가 미디어 세그먼트를 요청하기 전에 미디어 세그먼트가 손실 (또는 그렇지 않으면 디코딩 불가능한) 프레임을 포함하고 있음을 수신기 디바이스에 또한 표시할 수 있다.
이들 및 다른 구현들에서, 수신기 디바이스는 표시/표시자/시그널링/신호에 기초하여 미디어 파일이 손상된 비디오 프레임을 포함하고 있음을 인식할 수 있다. 수신기 디바이스는 또한 데이터를 디코딩하기 전에 손상된 비디오 프레임을 포함하는 인코딩된 데이터의 부분을 식별할 수 있고, 손상된 비디오 프레임을 핸들링하는데 있어서 특정 대책들을 채택할 수 있다. 예를 들어, 수신기 디바이스는 손상된 비디오 프레임의 디코딩을 스킵하고, 다음 디코딩가능한 비디오 프레임으로 이동하여 상술한 바와 같이 디코더가 충돌하거나 중단되는 것을 방지할 수 있다. 또한, 미디어 스트리밍 세션 동안, 수신기 디바이스는 또한 지시/표시자/시그널링/신호에 기초하여 미디어 세그먼트가 그 미디어 세그먼트를 요청하기 전에 손실 (또는 그렇지 않으면 디코딩 불가능한) 프레임을 포함하고 있음을 또한 인식할 수 있고 그 미디어 세그먼트를 핸들링하는 특정 대책들을 채택할 수 있다. 예를 들어, 수신기 디바이스는 다른 미디어 세그먼트 (예를 들어, 동일한 컨텐츠이지만 상이한 소스에 기인하는 미디어 세그먼트, 동일한 타임스탬프 및 지속기간을 갖지만 다른 해상도/비트레이트를 갖는 미디어 세그먼트) 를 획득하여, 스트리밍 세션의 연속성을 유지할 수도 있다.
도 1 은 인코딩 디바이스 (104) 및 디코딩 디바이스 (112) 를 포함하는 시스템 (100) 의 예를 예시하는 블록도이다. 인코딩 디바이스 (104) 는 소스 디바이스의 일부일 수도 있고, 디코딩 디바이스 (112) 는 수신기 디바이스의 일부일 수도 있다. 소스 디바이스 및/또는 수신기 디바이스는 이동식 또는 정지식 전화 핸드셋 (예컨대, 스마트폰, 셀룰러 전화 등), 데스크톱 컴퓨터, 랩톱 또는 노트북 컴퓨터, 태블릿 컴퓨터, 셋-톱 박스, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게임용 콘솔, 비디오 스트리밍 디바이스, 또는 임의의 다른 적당한 전자 디바이스와 같은 전자 디바이스를 포함할 수도 있다. 일부 예들에서, 소스 디바이스 및 수신기 디바이스는 무선 통신들을 위한 하나 이상의 무선 트랜시버들을 포함할 수도 있다. 본원에서 설명된 코딩 기법들은 (예컨대, 인터넷을 통한) 스트리밍 비디오 송신들, 텔레비전 브로드캐스트들 또는 송신들, 데이터 저장 매체 상에서의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에서 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들을 포함하는 다양한 멀티미디어 애플리케이션들에서의 비디오 코딩에 적용가능하다. 일부 예들에서, 시스템 (100) 은 비디오 화상회의, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 게이밍, 및/또는 전화 (video telephony) 와 같은 애플리케이션들을 지원하기 위하여 일방향 (one-way) 또는 양방향 (two-way) 비디오 송신을 지원할 수 있다.
인코딩 디바이스 (104) (또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하기 위한 비디오 코딩 표준 또는 프로토콜을 이용하여, 가산 현실 비디오 데이터를 포함하는 비디오 데이터를 인코딩하기 위하여 이용될 수 있다. 비디오 코딩 표준들은 SVC 및 MVC 로서 각각 알려진, 그 스케일러블 비디오 코딩 및 멀티뷰 비디오 코딩 확장들을 포함하는, ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 ITU-T H.264 (또한, ISO/IEC MPEG-4 AVC 로서 알려짐) 를 포함한다. 더욱 최근의 비디오 코딩 표준, 고효율 비디오 코딩 (HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group; VCEG) 및 ISO/IEC 동화상 전문가 그룹 (Moving Picture Experts Group; MPEG) 의 비디오 코딩에 관한 합동 협력 팀 (Joint Collaboration Team on Video Coding; JCT-VC) 에 의해 완결되었다. MV-HEVC 로 칭해진 HEVC 에 대한 멀티뷰 확장 (multiview extension) 과, SHVC 로 칭해진 HEVC 에 대한 스케일러블 확장 (scalable extension), 또는 임의의 다른 적당한 코딩 프로토콜을 포함하는, HEVC 에 대한 다양한 확장들은 멀티-계층 비디오 코딩을 다루고, 또한, JCT-VC 에 의해 개발되고 있다.
본원에서 설명된 구현예들은 HEVC 표준, 또는 그 확장들을 이용하는 예들을 설명한다. 그러나, 본원에서 설명된 기법들 및 시스템들은 또한, AVC, MPEG, 그 확장들, 또는 이미 이용가능하거나 아직 이용가능하거나 개발되지 않은 다른 적당한 코딩 표준들과 같은 다른 코딩 표준들에 적용가능할 수도 있다. 따라서, 본원에서 설명된 기법들 및 시스템들은 특정한 비디오 코딩 표준을 참조하여 설명될 수도 있지만, 당해 분야의 당업자는 설명이 그 특정한 표준에 오직 적용하는 것으로 해독되지 않아야 한다는 것을 인식할 것이다.
비디오 소스 (102) 는 비디오 데이터를 인코딩 디바이스 (104) 에 제공할 수도 있다. 비디오 소스 (102) 는 소스 디바이스의 일부일 수도 있거나, 소스 디바이스 이외의 디바이스의 일부일 수도 있다. 비디오 소스 (102) 는 비디오 캡처 디바이스 (예컨대, 비디오 카메라, 카메라 폰, 비디오 폰 등), 저장된 비디오를 포함하는 비디오 아카이브, 비디오 데이터를 제공하는 비디오 서버 또는 컨텐츠 제공자, 비디오 서버 또는 컨텐츠 제공자로부터 비디오를 수신하는 비디오 공급 인터페이스, 컴퓨터 그래픽 비디오 데이터를 생성하기 위한 컴퓨터 그래픽 시스템, 이러한 소스들의 조합, 또는 임의의 다른 적당한 비디오 소스를 포함할 수도 있다. 비디오 소스 (102) 의 하나의 예는 인터넷 프로토콜 카메라 (IP 카메라) 를 포함할 수 있다. IP 카메라는 감시, 가정 보안, 또는 다른 적당한 애플리케이션을 위하여 이용될 수 있는 디지털 비디오 카메라의 타입이다. 아날로그 폐쇄 회로 텔레비전 (closed circuit television; CCTV) 카메라들과 달리, IP 카메라는 컴퓨터 네트워크 및 인터넷을 통해 데이터를 전송할 수 있고 수신할 수 있다.
비디오 소스 (102) 로부터의 비디오 데이터는 하나 이상의 입력 픽처들 또는 프레임들을 포함할 수도 있다. 픽처 또는 프레임은 비디오의 일부인 스틸 이미지이다. 인코딩 디바이스 (104) 의 인코더 엔진 (106) (또는 인코더) 은 인코딩된 비디오 비트스트림을 생성하기 위하여 비디오 데이터를 인코딩한다. 일부 예들에서, 인코딩된 비디오 비트스트림 (또는 "비디오 비트스트림" 또는 "비트스트림") 은 일련의 하나 이상의 코딩된 비디오 시퀀스들이다. 코딩된 비디오 시퀀스 (coded video sequence; CVS) 는, 기본 계층에서 랜덤 액세스 포인트 픽처를 가지고 어떤 성질들을 갖는 AU 와 함께 시작하며, 기본 계층에서 랜덤 액세스 포인트 픽처를 가지고 어떤 성질들을 갖는 다음 AU 에 이르기까지 그리고 다음 AU 를 포함하지 않는 일련의 액세스 유닛 (access unit; AU) 들을 포함한다. 예를 들어, CVS 를 시작하는 랜덤 액세스 포인트 픽처의 어떤 성질들은 1 과 동일한 RASL 플래그 (예컨대, NoRaslOutputFlag) 를 포함할 수도 있다. 그렇지 않을 경우, (0 과 동일한 RASL 플래그를 갖는) 랜덤 액세스 포인트 픽처는 CVS 를 시작하지 않는다. 액세스 유닛 (AU) 은 하나 이상의 코딩된 픽처들, 및 동일한 출력 시간을 공유하는 코딩된 픽처들에 대응하는 제어 정보를 포함한다. 픽처들의 코딩된 슬라이스들은 비트스트림 레벨에서, 네트워크 추상화 계층 (NAL) 유닛들로 칭해진 데이터 유닛들로 캡슐화된다. 예를 들어, HEVC 비디오 비트스트림은 NAL 유닛들을 포함하는 하나 이상의 CVS 들을 포함할 수도 있다. 비디오 코딩 계층 (VCL) NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는, NAL 유닛들의 2 개의 클래스들은 HEVC 표준에서 존재한다. VCL NAL 유닛은 코딩된 픽처 데이터의 (이하에서 설명된) 하나의 슬라이스 또는 슬라이스 세그먼트를 포함하고, 비-VCL NAL 유닛은 하나 이상의 코딩된 픽처들에 관련되는 제어 정보를 포함한다.
NAL 유닛들은 비디오에서의 픽처들의 코딩된 표현들과 같은, 비디오 데이터 (예컨대, 인코딩된 비디오 비트스트림, 비트스트림의 CVS 등) 의 코딩된 표현을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 인코더 엔진 (106) 은 각각의 픽처를 다수의 슬라이스들로 파티셔닝함으로써 픽처들의 코딩된 표현들을 생성한다. 다음으로, 슬라이스들은 루마 샘플 (luma sample) 들 및 크로마 샘플 (chroma sample) 들의 코딩 트리 블록 (coding tree block; CTB) 들로 파티셔닝된다. 루마 샘플들의 CTB 및 크로마 샘플들의 하나 이상의 CTB 들은 샘플들에 대한 신택스와 함께, 코딩 트리 유닛 (coding tree unit; CTU) 으로서 지칭된다. CTU 는 HEVC 인코딩을 위한 기본 프로세싱 유닛이다. CTU 는 변동되는 크기들의 다수의 코딩 유닛 (coding unit; CU) 들로 분할될 수 있다. CU 는 코딩 블록 (coding block; CB) 들로서 지칭되는 루마 및 크로마 샘플 어레이들을 포함한다.
루마 및 크로마 CB 들은 예측 블록 (prediction block; PB) 들로 추가로 분할될 수 있다. PB 는 인터-예측을 위하여 동일한 모션 파라미터들을 이용하는 루마 또는 크로마 컴포넌트의 샘플들의 블록이다. 루마 PB 및 하나 이상의 크로마 PB 들은 연관된 신택스와 함께, 예측 유닛 (prediction unit; PU) 을 형성한다. 모션 파라미터들의 세트는 각각의 PU 에 대한 비트스트림에서 시그널링되고, 루마 PB 및 하나 이상의 크로마 PB 들의 인터-예측을 위하여 이용된다. CB 는 또한, 하나 이상의 변환 블록 (transform block; TB) 들로 파티셔닝될 수 있다. TB 는 동일한 2 차원 변환이 예측 잔차 신호를 코딩하기 위하여 적용되는 컬러 컴포넌트의 샘플들의 정사각형 블록을 표현한다. 변환 유닛 (transform unit; TU) 은 루마 및 크로마 샘플들의 TB 들과, 대응하는 신택스 엘리먼트들을 표현한다.
CU 의 크기는 코딩 노드의 크기에 대응하고, 형상에 있어서 정사각형일 수도 있다. 예를 들어, CU 의 크기는 8 x 8 샘플들, 16 x 16 샘플들, 32 x 32 샘플들, 64 x 64 샘플들, 또는 대응하는 CTU 의 크기에 이르는 임의의 다른 적절한 크기일 수도 있다. 어구 "N x N" 은 수직 및 수평 차원들의 측면에서의 비디오 블록의 픽셀 차원들 (예컨대, 8 픽셀들 x 8 픽셀들) 을 지칭하기 위하여 본원에서 이용된다. 블록 내의 픽셀들은 행 (row) 들 및 열 (column) 들로 배열될 수도 있다. 일부 실시형태들에서, 블록들은 수직 방향에서와 동일한 수의 픽셀들을 수평 방향에서 가지지 않을 수도 있다. CU 와 연관된 신택스 데이터는 예를 들어, 하나 이상의 PU 들로의 CU 의 파티셔닝을 설명할 수도 있다. 파티셔닝 모드들은 CU 가 인트라-예측 모드 인코딩되는지, 또는 인터-예측 모드 인코딩되는지 여부의 사이에서 상이할 수도 있다. PU 들은 형상에 있어서 비-정사각형 (non-square) 이 되도록 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는 또한, 예를 들어, CTU 에 따른 하나 이상의 TU 들로의 CU 의 파티셔닝을 설명할 수도 있다. TU 는 형상에 있어서 정사각형 또는 비-정사각형일 수 있다.
HEVC 표준에 따르면, 변환들은 변환 유닛 (TU) 들을 이용하여 수행될 수도 있다. TU 들은 상이한 CU 들에 대하여 변동될 수도 있다. TU 들은 소정의 CU 내의 PU 들의 크기에 기초하여 크기가 정해질 수도 있다. TU 들은 동일한 크기일 수도 있거나, PU 들보다 더 작을 수도 있다. 일부 예들에서, CU 에 대응하는 잔차 샘플들은 잔차 쿼드 트리 (residual quad tree; RQT) 로서 알려진 쿼드트리 구조를 이용하여 더 작은 유닛들로 재분할될 수도 있다. RQT 의 리프 노드들은 TU 들에 대응할 수도 있다. TU 들과 연관된 픽셀 차이 값들은 변환 계수들을 생성하기 위하여 변환될 수도 있다. 다음으로, 변환 계수들은 인코더 엔진 (106) 에 의해 양자화될 수도 있다.
일단 비디오 데이터의 픽처들이 CU 들로 파티셔닝되면, 인코더 엔진 (106) 은 예측 모드를 이용하여 각각의 PU 를 예측한다. 다음으로, 예측은 (이하에서 설명된) 잔차들을 얻기 위하여 원래의 비디오 데이터로부터 감산 (subtract) 된다. 각각의 CU 에 대하여, 예측 모드는 신택스 데이터를 이용하여 비트스트림의 내부에서 시그널링될 수도 있다. 예측 모드는 인트라-예측 (또는 인트라-픽처 예측) 또는 인터-예측 (또는 인터-픽처 예측) 을 포함할 수도 있다. 인트라-예측을 이용하면, 각각의 PU 는 예를 들어, PU 에 대한 평균 값을 구하기 위한 DC 예측, 평면 표면을 PU 에 맞추기 위한 평면 예측, 이웃하는 데이터로부터 추론하기 위한 방향 예측, 또는 임의의 다른 적당한 타입들의 예측을 이용하여 동일한 픽처에서 이웃하는 이미지 데이터로부터 예측된다. 인터-예측을 이용하면, 각각의 PU 는 (출력 순서에서 현재의 픽처 이전 또는 이후의) 하나 이상의 참조 픽처들에서의 이미지 데이터로부터의 모션 보상 예측을 이용하여 예측된다. 인터-픽처 또는 인트라-픽처 예측을 이용하여 픽처 영역을 코딩할 것인지 여부의 판단은 예를 들어, CU 레벨에서 행해질 수도 있다. 일부 예들에서, 픽처의 하나 이상의 슬라이스들에는 슬라이스 타입이 배정된다. 슬라이스 타입들은 I 슬라이스, P 슬라이스, 및 B 슬라이스를 포함한다. I 슬라이스 (인트라-프레임들, 독립적으로 디코딩가능함) 는 인트라 예측에 의해 오직 코딩되는 픽처의 슬라이스이고, 그러므로, I 슬라이스가 슬라이스의 임의의 블록을 예측하기 위하여 프레임 내에서 오직 데이터를 요구하므로, 독립적으로 디코딩가능하다. P 슬라이스 (단방향 예측된 프레임들) 는 인트라-예측 및 단방향 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. P 슬라이스 내의 각각의 블록은 인트라 예측 또는 인터-예측의 어느 하나로 코딩된다. 인터-예측이 적용될 때, 블록은 하나의 참조 픽처에 의해 오직 예측되고, 그러므로, 참조 샘플들은 오직 하나의 프레임의 하나의 참조 영역으로부터의 것이다. B 슬라이스 (양방향 예측 프레임들) 는 인트라-예측 및 인터-예측으로 코딩될 수도 있는 픽처의 슬라이스이다. B 슬라이스의 블록은 2 개의 참조 픽처들로부터 양방향 예측될 수도 있고, 여기서, 각각의 픽처는 하나의 참조 영역에 기여하고, 2 개의 참조 영역들의 샘플 세트들은 양방향 예측된 블록의 예측 신호를 생성하기 위하여 (예컨대, 동일한 가중치들로) 가중화된다. 위에서 설명된 바와 같이, 하나의 픽처의 슬라이스들은 독립적으로 코딩된다. 일부 경우들에는, 픽처가 단지 하나의 슬라이스로서 코딩될 수 있다.
PU 는 예측 프로세스에 관련된 데이터를 포함할 수도 있다. 예를 들어, PU 가 인트라-예측을 이용하여 인코딩될 때, PU 는 PU 에 대한 인트라-예측 모드를 설명하는 데이터를 포함할 수도 있다. 또 다른 예로서, PU 가 인터-예측을 이용하여 인코딩될 때, PU 는 PU 에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 해상도 (예컨대, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 지시하는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예컨대, List 0, List 1, 또는 List C) 를 설명할 수도 있다.
다음으로, 인코딩 디바이스 (104) 는 변환 및 양자화를 수행할 수도 있다. 예를 들어, 예측에 후속하여, 인코더 엔진 (106) 은 PU 에 대응하는 잔차 값들을 계산할 수도 있다. 잔차 값들은 픽셀 차이 값들을 포함할 수도 있다. 예측이 수행된 후에 남아 있을 수도 있는 임의의 잔차 데이터는, 이산 코사인 변환, 이산 사인 변환, 정수 변환, 웨이블렛 변환, 또는 다른 적당한 변환 함수에 기초할 수도 있는 블록 변환을 이용하여 변환된다. 일부 경우들에는, 하나 이상의 블록 변환들 (예컨대, 크기들 32 x 32, 16 x 16, 8 x 8, 4 x 4 등) 은 각각의 CU 에서의 잔차 데이터에 적용될 수도 있다. 일부 실시형태들에서, TU 는 인코더 엔진 (106) 에 의해 구현된 변환 및 양자화 프로세스들을 위하여 이용될 수도 있다. 하나 이상의 PU 들을 가지는 소정의 CU 는 또한, 하나 이상의 TU 들을 포함할 수도 있다. 이하에서 더욱 상세하게 설명된 바와 같이, 잔차 값들은 블록 변환들을 이용하여 변환 계수들로 변환될 수도 있고, 다음으로, 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위하여 TU 들을 이용하여 양자화될 수도 있고 스캔될 수도 있다.
CU 의 PU 들을 이용한 인트라-예측 또는 인터-예측 코딩에 후속하는 일부 실시형태들에서, 인코더 엔진 (106) 은 CU 의 TU 들에 대한 잔차 데이터를 계산할 수도 있다. PU 들은 공간적 도메인 (또는 픽셀 도메인) 에서 픽셀 데이터를 포함할 수도 있다. TU 들은 블록 변환의 적용에 후속하여 변환 도메인에서 계수들을 포함할 수도 있다. 이전에 언급된 바와 같이, 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과, PU 들에 대응하는 예측 값들과의 사이의 픽셀 차이 값들에 대응할 수도 있다. 인코더 엔진 (106) 은 CU 에 대한 잔차 데이터를 포함하는 TU 들을 형성할 수도 있고, 다음으로, CU 에 대한 변환 계수들을 생성하기 위하여 TU 들을 변환할 수도 있다.
인코더 엔진 (106) 은 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 계수들을 표현하기 위하여 이용된 데이터의 양을 감소시키기 위하여 변환 계수들을 양자화함으로써 추가의 압축을 제공한다. 예를 들어, 양자화는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 하나의 예에서, n-비트 값을 갖는 계수는 양자화 동안에 m-비트 값으로 버림 (round down) 될 수도 있고, n 은 m 보다 더 클 수도 있다.
일단 양자화가 수행되면, 코딩된 비디오 비트스트림은 양자화된 변환 계수들, 예측 정보 (예컨대, 예측 모드들, 모션 벡터들 등), 파티셔닝 정보, 및 다른 신택스 데이터와 같은 임의의 다른 적당한 데이터를 포함한다. 다음으로, 코딩된 비디오 비트스트림의 상이한 엘리먼트들은 인코더 엔진 (106) 에 의해 엔트로피 인코딩될 수도 있다. 일부 예들에서, 인코더 엔진 (106) 은 양자화된 변환 계수들을 스캔하여, 엔트로피 인코딩될 수 있는 직렬화된 벡터 (serialized vector) 를 생성하기 위하여, 미리 정의된 스캔 순서를 사용할 수도 있다. 일부 예들에서, 인코더 엔진 (106) 은 적응적 스캔 (adaptive scan) 을 수행할 수도 있다. 벡터 (예컨대, 1 차원 벡터) 를 형성하기 위하여 양자화된 변환 계수들을 스캔한 후, 인코더 엔진 (106) 은 벡터를 엔트로피 인코딩할 수도 있다. 예를 들어, 인코더 엔진 (106) 은 컨텍스트 적응 가변 길이 코딩, 컨텍스트 적응 2 진 산술 코딩, 신택스-기반 컨텍스트-적응 2 진 산술 코딩, 확률 간격 파티셔닝 엔트로피 코딩, 또는 또 다른 적당한 엔트로피 인코딩 기법을 이용할 수도 있다.
인코딩 디바이스 (104) 의 출력부 (110) 는 인코딩된 비디오 비트스트림 데이터를 구성하는 NAL 유닛들을 통신 링크 (120) 상에서 수신기 디바이스의 디코딩 디바이스 (112) 로 전송할 수도 있다. 디코딩 디바이스 (112) 의 입력부 (114) 는 NAL 유닛들을 수신할 수도 있다. 통신 링크 (120) 는 무선 네트워크, 유선 네트워크, 또는 유선 및 무선 네트워크의 조합에 의해 제공된 채널을 포함할 수도 있다. 무선 네트워크는 임의의 무선 인터페이스 또는 무선 인터페이스들의 조합을 포함할 수도 있고, 임의의 적당한 무선 네트워크 (예컨대, 인터넷 또는 다른 광역 네트워크, 패킷-기반 네트워크, WiFi??, 라디오 주파수 (RF), UWB, WiFi-다이렉트 (WiFi-Direct), 셀룰러, 롱텀 에볼루션 (Long-Term Evolution; LTE), WiMax?? 등) 를 포함할 수도 있다. 유선 네트워크는 임의의 유선 인터페이스 (예컨대, 섬유, 이더넷, 전력선 이더넷, 이더넷 오버 동축 케이블, 디지털 신호 라인 (digital signal line; DSL) 등) 를 포함할 수도 있다. 유선 및/또는 무선 네트워크들은 기지국들, 라우터들, 액세스 포인트들, 브릿지들, 게이트웨이들, 스위치들 등과 같은 다양한 장비를 이용하여 구현될 수도 있다. 인코딩된 비디오 비트스트림 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 수신기 디바이스로 송신될 수도 있다.
일부 예들에서, 인코딩 디바이스 (104) 는 인코딩된 비디오 비트스트림 데이터를 저장부 (108) 내에 저장할 수도 있다. 출력부 (110) 는 인코더 엔진 (106) 으로부터, 또는 저장부 (108) 로부터 인코딩된 비디오 비트스트림 데이터를 취출할 수도 있다. 저장부 (108) 는 다양한 분산되거나 국소적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 일 예로서, 저장부 (108) 는 인코딩 디바이스 (104) 의 부분으로서 내부 저장 디바이스일 수 있다. 다른 예로서, 저장부 (108) 는 통신 링크 (120) 에 커플링된 다른 디바이스들 또는 장비와 또한 연관될 수도 있다. 모든 이들 예에서, 저장부 (108) 는 하드 드라이브, 저장 디스크, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적당한 디지털 저장 매체들을 포함할 수도 있다.
디코딩 디바이스 (112) 의 입력부 (114) 는 인코딩된 비디오 비트스트림 데이터를 수신하고, 비디오 비트스트림 데이터를 디코더 엔진 (116) 에, 또는 디코더 엔진 (116) 에 의한 더 이후의 이용을 위하여 저장부 (118) 에 제공할 수도 있다. 디코더 엔진 (116) 은 인코딩된 비디오 데이터를 구성하는 하나 이상의 코딩된 비디오 시퀀스들의 엘리먼트들을 (예컨대, 엔트로피 디코더를 이용하여) 엔트로피 디코딩하고 이를 추출함으로써 인코딩된 비디오 비트스트림 데이터를 디코딩할 수도 있다. 다음으로, 디코더 엔진 (116) 은 인코딩된 비디오 비트스트림 데이터에 대한 역변환을 리스케일링 (rescaling) 할 수도 있고 이 역변환을 수행할 수도 있다. 다음으로, 잔차 데이터는 디코더 엔진 (116) 의 예측 스테이지로 전달된다. 다음으로, 디코더 엔진 (116) 은 픽셀들의 블록 (예컨대, PU) 을 예측한다. 일부 예들에서, 예측은 역변환의 출력 (잔차 데이터) 에 추가된다.
디코딩 디바이스 (112) 는 디코딩된 비디오를, 디코딩된 비디오 데이터를 컨텐츠의 소비자에게 디스플레이하기 위한 디스플레이 또는 다른 출력 디바이스를 포함할 수도 있는 비디오 목적지 디바이스 (122) 에 출력할 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (122) 는 디코딩 디바이스 (112) 를 포함하는 수신기 디바이스의 일부일 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (122) 는 수신기 디바이스 이외의 별도의 디바이스의 일부일 수도 있다.
보충 강화 정보 (Supplemental Enhancement Information; SEI) 메시지들은 비디오 비트스트림들 내에 포함될 수 있다. 예를 들어, SEI 메시지들은 디코딩 디바이스 (112) 에 의해 비트스트림을 디코딩하기 위하여 필수적이지 않은 정보 (예컨대, 메타데이터) 를 반송하기 위하여 이용될 수도 있다. 이 정보는 디코딩된 출력의 디스플레이 또는 프로세싱을 개선시킴에 있어서 유용하다 (예컨대, 이러한 정보는 컨텐츠의 시인성 (viewability) 을 개선시키기 위하여 디코더-측 엔티티들에 의해 이용될 수 있음).
일부 실시형태들에서, 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 각각 오디오 인코딩 디바이스 및 오디오 디코딩 디바이스와 통합될 수도 있다. 비디오 인코딩 디바이스 (104) 및/또는 비디오 디코딩 디바이스 (112) 는 또한, 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서 (digital signal processor; DSP) 들, 애플리케이션 특정 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능 게이트 어레이 (field programmable gate array; FPGA) 들, 개별 로직, 소프트웨어, 하드웨어, 펌웨어, 또는 그 임의의 조합들과 같은, 위에서 설명된 코딩 기법들을 구현하기 위하여 필요한 다른 하드웨어 또는 소프트웨어를 포함할 수도 있다. 비디오 인코딩 디바이스 (104) 및 비디오 디코딩 디바이스 (112) 는 개개의 디바이스에서 조합된 인코더/디코더 (combined encoder/decoder; codec) 의 일부로서 통합될 수도 있다.
HEVC 표준에 대한 확장들은 MV-HEVC 로서 지칭된 멀티뷰 비디오 코딩 확장과, SHVC 로서 지칭된 스케일러블 비디오 코딩 확장을 포함한다. MV-HEVC 및 SHVC 확장들은 계층화된 코딩의 개념을 공유하고, 상이한 계층들은 인코딩된 비디오 비트스트림 내에 포함된다. 코딩된 비디오 시퀀스에서의 각각의 계층은 고유의 계층 식별자 (ID) 에 의해 어드레싱된다. 계층 ID 는 NAL 유닛이 연관되는 계층을 식별하기 위하여 NAL 유닛의 헤더 내에 존재할 수도 있다. MV-HEVC 에서, 상이한 계층들은 비디오 비트스트림에서 동일한 장면의 상이한 뷰들을 표현할 수 있다. SHVC 에서는, 상이한 공간적 해상도들 (또는 픽처 해상도) 에서, 또는 상이한 복원 충실도들에서 비디오 비트스트림을 표현하는 상이한 스케일러블 계층들이 제공된다. 스케일러블 계층들은 (계층 ID = 0 을 갖는) 기본 계층과, (계층 ID 들 = 1, 2, ... n 을 갖는) 하나 이상의 강화 계층들을 포함할 수도 있다. 기본 계층은 HEVC 의 제 1 버전의 프로파일을 준수할 수도 있고, 비트스트림에서 최저 이용가능한 계층을 표현한다. 강화 계층들은 기본 계층에 비해 증가된 공간적 해상도, 시간적 해상도 또는 프레임 레이트, 및/또는 복원 충실도 (또는 품질) 를 가진다. 강화 계층들은 계층적으로 편성되고, 더 낮은 계층들에 종속될 수도 있다 (또는 그러하지 않을 수도 있음). 일부 예들에서, 상이한 계층들은 단일 표준 코덱을 이용하여 코딩될 수도 있다 (예컨대, 모든 계층들은 HEVC, SHVC, 또는 다른 코딩 표준을 이용하여 인코딩됨). 일부 예들에서, 상이한 계층들은 멀티-표준 코덱을 이용하여 코딩될 수도 있다. 예를 들어, 기본 계층은 AVC 를 이용하여 코딩될 수도 있는 반면, 하나 이상의 강화 계층들은 HEVC 표준에 대한 SHVC 및/또는 MV-HEVC 확장들을 이용하여 코딩될 수도 있다. 일반적으로, 계층은 VCL NAL 유닛들의 세트와, 비-VCL NAL 유닛들의 대응하는 세트를 포함한다. NAL 유닛들에는 특정한 계층 ID 값이 배정된다. 계층들은 계층이 더 낮은 계층에 종속될 수도 있다는 의미에서 계층적일 수 있다.
이전에 설명된 바와 같이, HEVC 비트스트림은 VCL NAL 유닛들 및 비-VCL NAL 유닛들을 포함하는 NAL 유닛들의 그룹을 포함한다. 비-VCL NAL 유닛들은 다른 정보에 추가하여, 인코딩된 비디오 비트스트림에 관련되는 하이-레벨 정보를 갖는 파라미터 세트들을 포함할 수도 있다. 예를 들어, 파라미터 세트는 비디오 파라미터 세트 (video parameter set; VPS), 시퀀스 파라미터 세트 (sequence parameter set; SPS), 및 픽처 파라미터 세트 (picture parameter set; PPS) 를 포함할 수도 있다. 파라미터 세트들의 목표들의 예들은 비트 레이트 효율, 에러 복원력 (error resiliency), 및 시스템 계층 인터페이스들을 제공하는 것을 포함한다. 각각의 슬라이스는, 디코딩 디바이스 (112) 가 슬라이스를 디코딩하기 위하여 이용할 수도 있는 정보를 액세스하기 위하여, 단일의 활성 PPS, SPS, 및 VPS 를 참조한다. VPS ID, SPS ID, 및 PPS ID 를 포함하는 식별자 (identifier; ID) 는 각각의 파라미터 세트에 대하여 코딩될 수도 있다. SPS 는 SPS ID 및 VPS ID 를 포함한다. PPS 는 PPS ID 및 SPS ID 를 포함한다. 각각의 슬라이스 헤더는 PPS ID 를 포함한다. ID 들을 이용하면, 활성 파라미터 세트들은 소정의 슬라이스에 대하여 식별될 수 있다.
VCL NAL 유닛들은 코딩된 비디오 비트스트림을 형성하는 코딩된 픽처 데이터를 포함한다. 다양한 타입들의 VCL NAL 유닛들은 이하의 테이블 A 에서 예시된 바와 같이, HEVC 표준에서 정의된다. 단일-계층 비트스트림에서는, 제 1 HEVC 표준에서 정의된 바와 같이, AU 내에 포함된 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값을 가지고, NAL 유닛 타입 값은 AU 의 타입 및 AU 내의 코딩된 픽처의 타입을 정의한다. 예를 들어, 특정한 AU 의 VCL NAL 유닛들은 순간적 디코딩 리프레시 (instantaneous decoding refresh; IDR) NAL 유닛들 (값 19) 을 포함할 수도 있어서, AU 를 IDR AU로, 그리고 AU 의 코딩된 픽처를 IDR 픽처로 만들 수도 있다. 소정의 타입의 VCL NAL 유닛은 VCL NAL 유닛 내에 포함된 픽처 또는 그 부분 (예컨대, VCL NAL 유닛에서의 픽처의 슬라이스 또는 슬라이스 세그먼트) 에 관련된다. 선두 픽처들, 후미 픽처들, 및 인트라 랜덤 액세스 (intra random access; IRAP) 픽처들 (또한, "랜덤 액세스 픽처들" 로서 지칭됨) 을 포함하는 픽처들의 3 개의 클래스들은 HEVC 표준에서 정의된다. 멀티-계층 비트스트림에서, AU 내의 픽처의 VCL NAL 유닛들은 동일한 NAL 유닛 타입 값 및 동일한 타입의 코딩된 픽처를 가진다. 예를 들어, 타입 IDR 의 VCL NAL 유닛들을 포함하는 픽처는 AU 에서의 IDR 픽처인 것으로 말해진다. 또 다른 예에서, AU 가 기본 계층 (0 과 동일한 계층 ID) 에서 IRAP 픽처인 픽처를 포함할 때, AU 는 IRAP AU 이다.
위에서 논의된 바와 같이 인코딩된 비디오 비트스트림은 비트스트림을 인코딩 디바이스 (104) 로부터 디코딩 디바이스 (112) 로 전송하기 위하여 하나 이상의 파일들로 기입될 수 있거나 팩킹될 수 있다. 예를 들어, 출력부 (110) 는 비트스트림을 포함하는 하나 이상의 파일들을 생성하도록 구성된 파일 기입 엔진을 포함할 수도 있다. 출력부 (110) 는 하나 이상의 파일들을 통신 링크 (120) 상에서 디코더 디바이스 (112) 로 송신할 수 있다. 대안적으로 또는 추가적으로, 하나 이상의 파일들은 디코딩 디바이스 (112) 로의 더 이후의 송신을 위하여 저장 매체 (예컨대, 테이프, 자기 디스크, 또는 하드 드라이브, 또는 일부 다른 매체) 상에서 저장될 수 있다.
디코더 디바이스 (112) 는 예를 들어, 입력부 (114) 에서, 파일 파싱 엔진을 포함할 수 있다. 파일 파싱 엔진은 통신 링크 (120) 상에서, 또는 저장 매체로부터 수신된 파일들을 판독할 수 있다. 파일 파싱 엔진은 파일로부터 샘플들을 추가로 추출할 수 있고, 디코더 엔진 (116) 에 의한 디코딩을 위하여 비트스트림을 복원할 수 있다. 일부 경우들에는, 복원된 비트스트림이 인코더 엔진 (106) 에 의해 생성된 비트스트림과 동일할 수 있다. 일부 경우들에는, 인코더 엔진 (106) 이 비트스트림을 디코딩하기 위한 몇몇 가능한 옵션들로 비트스트림을 생성하였을 수도 있고, 이 경우, 복원된 비트스트림은 오직 하나 또는 전부보다 더 적은 가능한 옵션들을 포함할 수도 있다.
위에 논의된 바와 같이, 미디어 파일 및/또는 미디어 비트스트림은 손상되거나 손실된 비디오 프레임을 포함할 수 있다. 도 1 에서, 손상 또는 손실된 비디오 프레임들은, 예를 들어, 저장부 (108) 에 저장된 인코딩된 비디오 비트스트림 데이터를 포함하는 데이터 파일의 손상 및/또는 통신 링크 (120) 를 통한 데이터 파일의 송신 중의 데이터 소실에 기인하여 발생할 수도 있다. 전체 프레임의 모든 인코딩된 데이터 (예를 들어, 비디오 코딩 계층, 모션 파라미터들의 세트, 제어 정보, 변환 정보 등) 가 손실된 경우 비디오 프레임이 손실될 수 있다. 비디오 프레임은 다양한 이유로 손상될 수도 있다. 예를 들어, 특정 프레임에 대한 인코딩된 데이터 (예를 들어, 비디오 코딩 계층, 모션 파라미터들의 세트, 제어 정보 등) 의 일부 (전부는 아님) 가 손상될 수 있거나 또는 달리 취출되지 않을 수 있다. 다른 예로서, 비디오 프레임에 대한 인터-예측 체인에서의 참조 프레임의 인코딩된 데이터는 손실되거나 손상되어 비디오 프레임이 정확하게 디코딩될 수 없게 할 수 있다.
도 2 는 ISOBMFF 에 따라 포맷된, 비디오 프리젠테이션을 위한 데이터 및 메타데이터를 포함하는 ISO 기반 미디어 파일 (200) 의 예를 예시한다. ISOBMFF 는, 미디어의 교환, 관리, 편집, 및 프리젠테이션을 용이하게 하는 신축적이고 확장가능한 포맷에서의 타이밍 정해진 미디어 정보를 포함하도록 설계된다. 미디어의 프리젠테이션은 프리젠테이션을 포함하는 시스템에 대해 "로컬" 일 수도 있거나, 프리젠테이션은 네트워크 또는 다른 스트림 전달 메커니즘을 통할 수도 있다.
ISOBMFF 사양에서 정의된 바와 같은 "프리젠테이션" 은 비디오 캡처 디바이스에 의해 순차적으로 캡처됨으로써 종종 관련된, 또는 일부 다른 이유로 관련된 픽처들의 시퀀스이다. 본원에서, 프리젠테이션은 또한, 영화 또는 비디오 프리젠테이션으로서 지칭될 수도 있다. 프리젠테이션은 오디오를 포함할 수도 있다. 당해 기술 분야의 당업자는 프리젠테이션이 임의의 다른 유형의 미디어 컨텐츠, 이를 테면, 게임, 텔레비전 쇼, 스트리밍 비디오 파일 등을 포함할 수 있음을 알 것이다. 단일 프리젠테이션은 하나 이상의 파일들에서 포함될 수도 있고, 하나의 파일 (또는 다수의 파일들) 은 전체적인 프리젠테이션을 위한 메타데이터를 포함할 수도 있다. 메타데이터는 타이밍 및 프레이밍 데이터, 디스크립터 (descriptor) 들, 포인터들, 파라미터들, 및 프리젠테이션을 설명하는 다른 정보와 같은 정보를 포함한다. 메타데이터는 비디오 및/또는 오디오 데이터 자체를 포함하지 않는다. 메타데이터를 포함하는 파일 이외의 파일들은 ISOBMFF 에 따라 포맷될 필요가 없고, 이 파일들이 메타데이터에 의해 참조될 수 있도록 오직 포맷될 필요가 있다.
ISO 기반 미디어 파일의 파일 구조는 객체-지향적이고, 파일에서의 개별적인 객체의 구조는 객체의 타입으로부터 직접적으로 추론될 수 있다. ISO 기반 미디어 파일에서의 객체들은 ISOBMFF 사양에 의해 "박스들" 로서 지칭된다. ISO 기반 미디어 파일은 다른 박스들을 포함할 수 있는 박스들의 시퀀스로서 구조화된다. 박스들은 일반적으로, 박스에 대한 크기 및 타입을 제공하는 헤더를 포함한다. 크기는 박스 내에 포함된 헤더, 필드들, 및 모든 박스들을 포함하는, 박스의 전체 크기를 설명한다. 플레이어 디바이스에 의해 인식되지 않는 타입을 갖는 박스들은 전형적으로 무시되고 스킵된다.
도 2 의 예에 의해 예시된 바와 같이, 파일의 상부 레벨에서, ISO 기반 미디어 파일 (200) 은 파일 타입 박스 (210), 영화 박스 (220), 및 하나 이상의 영화 프래그먼트 (movie fragment) 박스들 (230a, 230b 내지 230n) 을 포함할 수 있다. 이 레벨에서 포함될 수 있지만, 이 예에서 표현되지 않는 다른 박스들은 그 중에서도, 자유 공간 박스들, 메타데이터 박스들, 및 미디어 데이터 박스들을 포함한다.
ISO 기반 미디어 파일은 박스 타입 "ftyp" 에 의해 식별된 파일 타입 박스 (210) 를 포함할 수 있다. 파일 타입 박스 (210) 는 파일을 파싱하기 위하여 가장 적당한 ISOBMFF 사양을 식별한다. 이 사례에서의 "가장" 은, ISO 기반 미디어 파일 (200) 이 특정한 ISOBMFF 사양에 따라 포맷되었을 수도 있지만, 사양의 다른 반복들과 호환가능할 가능성이 있다는 것을 의미한다. 이 가장 적당한 사양은 메이저 브랜드 (major brand) 로서 지칭된다. 플레이어 디바이스는 디바이스가 파일의 컨텐츠들을 디코딩할 수 있고 디스플레이할 수 있는지 여부를 결정하기 위하여 메이저 브랜드를 이용할 수 있다. 파일 타입 박스 (210) 는 또한, ISOBMFF 사양의 버전 (version) 을 표시하기 위하여 이용될 수 있는 버전 번호를 포함할 수 있다. 파일 타입 박스 (210) 는 또한, 파일이 호환가능한 다른 브랜드들의 리스트를 포함하는 호환가능한 브랜드들의 리스트를 포함할 수 있다. ISO 기반 미디어 파일은 하나를 초과하는 메이저 브랜드와 호환가능할 수 있다.
ISO 기반 미디어 파일 (200) 이 파일 타입 박스 (210) 를 포함할 때, 오직 하나의 파일 타입 박스가 있다. ISO 기반 미디어 파일 (200) 은 더 오래된 플레이어 디바이스들과 호환가능하기 위하여 파일 타입 박스 (210) 를 생략할 수도 있다. ISO 기반 미디어 파일 (200) 이 파일 타입 박스 (210) 를 포함하지 않을 때, 플레이어 디바이스는 디폴트 메이저 브랜드 (예컨대, "mp41"), 마이너 버전 (예컨대, "0"), 및 호환가능한 브랜드 (예컨대, "mp41") 를 가정할 수 있다. 파일 타입 박스 (210) 는 전형적으로, ISO 기반 미디어 파일 (200) 에서 가능한 한 조기에 배치된다.
ISO 기반 미디어 파일은 프리젠테이션을 위한 메타데이터를 포함하는 영화 박스 (220) 를 더 포함할 수 있다. 영화 박스 (220) 는 박스 타입 "moov" 에 의해 식별된다. ISO/IEC 14496-12 는 프리젠테이션이 하나의 파일 또는 다수의 파일들에서 포함되든지 간에, 오직 하나의 영화 박스 (220) 를 포함할 수 있다는 것을 규정한다. 흔히, 영화 박스 (220) 는 ISO 기반 미디어 파일의 시작부 근처에 있다. 영화 박스 (220) 는 영화 헤더 박스 (222) 를 포함하고, 하나 이상의 트랙 박스들 (224) 뿐만 아니라 다른 박스들을 포함할 수 있다.
박스 타입 "mvhd" 에 의해 식별된 영화 헤더 박스 (222) 는 미디어-독립적이며 전체적으로 프리젠테이션에 관련되는 정보를 포함할 수 있다. 예를 들어, 영화 헤더 박스 (222) 는 그 중에서도, 생성 시간, 수정 시간, 타임스케일, 및/또는 프리젠테이션을 위한 기간과 같은 정보를 포함할 수 있다. 영화 헤더 박스 (222) 는 또한, 프리젠테이션에서의 다음 트랙을 식별하는 식별자를 포함할 수 있다. 예를 들어, 식별자는 예시된 예에서 영화 박스 (220) 에 의해 포함된 트랙 박스 (224) 를 지시할 수 있다.
박스 타입 "trak" 에 의해 식별된 트랙 박스 (224) 는 프리젠테이션을 위한 트랙에 대한 정보를 포함할 수 있다. 프리젠테이션은 하나 이상의 트랙들을 포함할 수 있고, 여기서, 각각의 트랙은 프리젠테이션에서의 다른 트랙들에 독립적이다. 각각의 트랙은 트랙에서의 컨텐츠에 특정적인 시간적 및 공간적 정보를 포함할 수 있고, 각각의 트랙은 미디어 박스와 연관될 수 있다. 트랙에서의 데이터는 미디어 데이터일 수 있고, 이 경우, 트랙은 미디어 트랙이거나, 데이터는 스트리밍 프로토콜들에 대한 패킷화 정보일 수 있고, 이 경우, 트랙은 힌트 트랙 (hint track) 이다. 미디어 데이터는 예를 들어, 비디오 및 오디오 데이터를 포함한다. 예시된 예에서, 일 예의 트랙 박스 (224) 는 트랙 헤더 박스 (224a) 및 미디어 박스 (224b) 를 포함한다. 트랙 박스는 트랙 참조 박스, 트랙 그룹 박스, 편집 박스, 사용자 데이터 박스, 메타데이터 박스, 및 그 이외의 것들과 같은 다른 박스들을 포함할 수 있다.
박스 타입 "tkhd" 에 의해 식별된 트랙 헤더 박스 (224a) 는 트랙 박스 (224) 에서 포함된 트랙의 특성들을 특정할 수 있다. 예를 들어, 트랙 헤더 박스 (224a) 는 그 중에서도, 생성 시간, 수정 시간, 기간, 트랙 식별자, 계층 식별자, 그룹 식별자, 트랙의 용량, 폭, 및/또는 높이를 포함할 수 있다. 미디어 트랙에 대하여, 트랙 헤더 박스 (224a) 는 그 중에서도, 트랙이 인에이블되는지 여부, 트랙이 프리젠테이션의 일부로서 플레이되어야 하는지 여부, 또는 트랙이 프리젠테이션을 프리뷰 (preview) 하기 위하여 이용될 수 있는지 여부를 추가로 식별할 수 있다. 트랙의 프리젠테이션은 일반적으로 프리젠테이션의 시작부에 있는 것으로 가정된다. 트랙 박스 (224) 는 명시적인 타임라인 맵 (timeline map) 을 포함할 수 있는, 여기에서 예시되지 않은 편집 리스트 박스를 포함할 수 있다. 타임라인 맵은 그 중에서도, 트랙에 대하여, 프리젠테이션의 시작부 후에, 오프셋이 시작 시간을 표시하는, 트랙에 대한 오프셋 시간을 특정할 수 있다.
예시된 예에서, 트랙 박스 (224) 는 또한, 박스 타입 "mdia" 에 의해 식별된 미디어 박스 (224b) 를 포함한다. 미디어 박스 (224b) 는 트랙에서의 미디어 데이터에 대한 객체들 및 정보를 포함할 수 있다. 예를 들어, 미디어 박스 (224b) 는 트랙의 미디어 타입 및 트랙에서의 미디어가 프리젠테이션되는 프로세스를 식별할 수 있는 핸들러 참조 박스를 포함할 수 있다. 또 다른 예로서, 미디어 박스 (224b) 는 트랙에서의 미디어의 특성들을 특정할 수 있는 미디어 정보 박스를 포함할 수 있다. 미디어 정보 박스는 샘플들의 테이블을 더 포함할 수 있고, 여기서, 각각의 샘플은 예를 들어, 샘플에 대한 데이터의 로케이션을 포함하는 미디어 데이터 (예컨대, 비디오 또는 오디오 데이터) 의 청크 (chunk) 를 설명한다. 샘플에 대한 데이터는 이하에서 추가로 논의된 미디어 데이터 박스에서 저장된다. 대부분의 다른 박스들에서와 같이, 미디어 박스 (224b) 는 또한, 미디어 헤더 박스를 포함할 수 있다. 각각의 트랙에 대한 메타데이터는 각각이 트랙에서 사용되는 코딩 또는 캡슐화 포맷 및 그 포맷을 프로세싱하기 위해 사용되는 초기화 데이터를 제공하는, 샘플 디스크립션 엔트리들의 리스트를 포함한다. 각각의 샘플은 트랙의 샘플 디스크립션 엔트리들 중 하나와 연관된다. ISOBMFF 는 다양한 메커니즘들로 샘플 특정 메타데이터를 명시하는 것을 가능케 한다. 샘플 테이블 박스 ("stbl") 내의 특정 박스들은 공통의 필요성들에 응답하도록 표준화되었다. 예를 들어, 싱크 샘플 박스 ("stss") 는 트랙의 랜덤 액세스 샘플들을 리스팅하기 위해 사용된다. 샘플 그룹핑 메커니즘은, 파일에서의 샘플 그룹 디스크립션 엔트리로서 명시된 동일한 특성을 공유하는 샘플들의 그룹들로의 4문자 그룹핑 타입에 따른 샘플들의 맵핑을 가능케 한다. 수개의 그룹핑 타입들이 ISOBMFF 에 명시되어 있다.
예시된 예에서, 일 예의 ISO 기반 미디어 파일 (200) 은 또한, 프리젠테이션의 다수의 프래그먼트들 (230a, 230b 내지 230n) 을 포함한다. 프래그먼트들 (230a, 230b 내지 230n) 은 ISOBMFF 박스들이 아니지만, 오히려, 옵션적 세그먼트 타입 박스 (231), 영화 프래그먼트 박스 (232), 및 영화 프래그먼트 박스 (232) 에 의해 참조되는 하나 이상의 미디어 데이터 박스들 (238) 을 설명한다. 세그먼트 타입 박스 (231), 영화 프래그먼트 박스 (232) 및 미디어 데이터 박스들 (238) 은 상부-레벨 박스들이지만, 영화 프래그먼트 박스 (232) 와 미디어 데이터 박스 (238) 사이의 관계를 표시하기 위하여 여기에서 그룹화된다.
세그먼트 타입 박스 (231), 영화 프래그먼트 박스 (232) 및 미디어 데이터 박스들 (238) 은 ISOBMFF 세그먼트를 정의한다. 세그먼트 타입 박스 (231) 는 세그먼트의 브랜드를 정의하는 세그먼트 타입 "styp" 을 식별한다. 세그먼트의 브랜드는 파일 타입 박스 (210) 에 리스트된 호환가능 브랜드들 중 하나일 필요가 있다. 세그먼트 타입 박스 (231) 에 뒤이어서 영화 프래그먼트 박스 (232) 가 후속하고 이 영화 프래그먼트 박스 (232) 는 박스 타입 "moof" 에 의해 식별되고, 영화 박스 (220) 에 달리 저장될 추가적인 정보를 포함함으로써 프리젠테이션을 확장시킬 수 있다. 영화 프래그먼트 박스들 (232) 을 이용하면, 프리젠테이션은 증분식으로 구축될 수 있다. 영화 프래그먼트 박스 (232) 는 영화 프래그먼트 헤더 박스 (234) 및 트랙 프래그먼트 박스 (236) 뿐만 아니라, 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다.
박스 타입 "mfhd" 에 의해 식별된 영화 프래그먼트 헤더 박스 (234) 는 시퀀스 번호를 포함할 수 있다. 플레이어 디바이스는 프래그먼트 (230a) 가 프리젠테이션을 위한 데이터의 다음 피스 (piece) 를 포함한다는 것을 검증하기 위하여 시퀀스 번호를 이용할 수 있다. 일부 경우들에는, 프리젠테이션을 위한 파일 또는 파일들의 컨텐츠들이 플레이어 디바이스로 순서에 관계 없이 제공될 수 있다. 예를 들어, 네트워크 패킷들은 패킷들이 원래 송신되었던 순서 이외의 순서로 빈번하게 도달할 수 있다. 이 경우들에는, 시퀀스 번호는 프래그먼트들에 대한 올바른 순서를 결정할 시에 플레이어 디바이스를 보조할 수 있다.
영화 프래그먼트 박스 (232) 는 또한, 박스 타입 "traf" 에 의해 식별된 하나 이상의 트랙 프래그먼트 박스들 (236) 을 포함할 수 있다. 영화 프래그먼트 박스 (232) 는 트랙 당 제로 이상인 트랙 세그먼트들의 세트를 포함할 수 있다. 트랙 프래그먼트들은 제로 이상의 트랙 런 (track run) 들을 포함할 수 있고, 그 각각은 트랙에 대한 샘플들의 인접 런을 설명한다. 트랙 프래그먼트들은 샘플들을 트랙에 추가하는 것에 더하여, 빈 시간 (empty time) 을 트랙에 추가하기 위하여 이용될 수 있다.
박스 타입 "mdat" 에 의해 식별된 미디어 데이터 박스 (238) 는 미디어 데이터를 포함한다. 비디오 트랙들에서, 미디어 데이터 박스 (238) 는 비디오 프레임들을 포함할 것이다. 미디어 데이터 박스는 대안적으로 또는 추가적으로, 오디오 데이터를 포함할 수 있다. 프리젠테이션은 하나 이상의 개별적인 파일들에서 포함된 제로 이상의 미디어 데이터 박스들을 포함할 수 있다. 미디어 데이터는 메타데이터에 의해 설명된다. 예시된 예에서, 미디어 데이터 박스 (238) 에서의 미디어 데이터는 트랙 프래그먼트 박스 (236) 에서 포함된 메타데이터에 의해 설명될 수 있다. 다른 예들에서, 미디어 데이터 박스에서의 미디어 데이터는 영화 박스 (220) 에서의 메타데이터에 의해 설명될 수 있다. 메타데이터는 파일 (200) 내의 절대적인 오프셋에 의해 특정한 미디어 데이터를 참조할 수 있어서, 미디어 데이터 박스 (238) 내의 미디어 데이터 헤더 및/또는 자유 공간은 스킵될 수 있다.
ISO 기반 미디어 파일 (200) 에서의 다른 프래그먼트들 (230b, 230c 내지 230n) 은 제 1 프래그먼트 (230a) 에 대하여 예시된 것들과 유사한 박스들을 포함할 수 있고, 및/또는 다른 박스들을 포함할 수 있다.
도 3 은 ISO 기반 미디어 파일에서 포함될 수 있는 미디어 박스 (340) 의 예를 예시한다. 위에서 논의된 바와 같이, 미디어 박스는 트랙 박스에서 포함될 수 있고, 트랙에서의 미디어 데이터를 설명하는 객체들 및 정보를 포함할 수 있다. 예시된 예에서, 미디어 박스 (340) 는 미디어 정보 박스 (342) 를 포함한다. 미디어 박스 (340) 는 또한, 여기에서 예시되지 않은 다른 박스들을 포함할 수 있다.
미디어 정보 박스 (342) 는 트랙에서의 미디어에 대한 특성 정보를 설명하는 객체들을 포함할 수 있다. 예를 들어, 미디어 정보 박스 (342) 는 트랙에서의 미디어 정보의 로케이션을 설명하는 데이터 정보 박스를 포함할 수 있다. 또 다른 예로서, 미디어 정보 박스 (342) 는 트랙이 비디오 데이터를 포함할 때, 비디오 미디어 헤더를 포함할 수 있다. 비디오 미디어 헤더는 비디오 미디어의 코딩에 독립적인 일반적인 프리젠테이션 정보를 포함할 수 있다. 미디어 정보 박스 (342) 는 또한, 트랙이 오디오 데이터를 포함할 때, 사운드 미디어 헤더를 포함할 수 있다.
미디어 정보 박스 (342) 는 또한, 예시된 예에서 제공된 바와 같이, 샘플 테이블 박스 (344) 를 포함할 수 있다. 박스 타입 "stbl" 에 의해 식별된 샘플 테이블 박스 (344) 는 트랙에서의 미디어 샘플들에 대한 로케이션들 (예컨대, 파일을 갖는 로케이션들) 뿐만 아니라, 샘플들에 대한 시간 정보를 제공할 수 있다. 샘플 테이블 박스 (344) 에 의해 제공된 정보를 이용하면, 플레이어 디바이스는 샘플들을 올바른 시간 순서로 위치시킬 수 있고, 샘플의 타입을 결정할 수 있고, 그 중에서도, 컨테이너 내에서의 샘플의 크기, 컨테이너, 및 오프셋을 결정할 수 있다.
샘플 테이블 박스 (344) 는 박스 타입 "stsd" 에 의해 식별된 샘플 설명 박스 (346) 를 포함할 수 있다. 샘플 설명 박스 (346) 는 예를 들어, 샘플에 대하여 이용된 코딩 타입에 대한 상세한 정보, 및 그 코딩 타입에 대하여 필요한 임의의 초기화 정보를 제공할 수 있다. 샘플 설명 박스에서 저장된 정보는 샘플들을 포함하는 트랙의 타입에 대해 특정적일 수 있다. 예를 들어, 하나의 포맷은 트랙이 비디오 트랙일 때에 샘플 설명에 대하여 이용될 수도 있고, 상이한 포맷은 트랙이 힌트 트랙일 때에 이용될 수도 있다. 추가의 예로서, 샘플 설명에 대한 포맷은 또한, 힌트 트랙의 포맷에 따라 변동될 수도 있다.
샘플 설명 박스 (346) 는 샘플 엔트리 박스들 (348a 내지 348n) 을 포함할 수 있다. 샘플 엔트리는 추상 클래스 (abstract class) 이고, 이에 따라, 전형적으로 샘플 설명 박스는 그 중에서도, 비디오 데이터에 대한 비주얼 샘플 엔트리 또는 오디오 샘플들에 대한 오디오 샘플 엔트리와 같은 특정 샘플 엔트리 박스를 포함한다. 비디오 데이터에 대한 각각의 비주얼 샘플 엔트리는 하나 이상의 비디오 프레임들을 포함할 수도 있다. 샘플 엔트리 박스는 특정한 샘플에 대한 파라미터들을 저장할 수 있다. 예를 들어, 비디오 샘플에 대하여, 샘플 엔트리 박스는 그 중에서도, 비디오 샘플에 대한 폭, 높이, 수평 해상도, 수직 해상도, 프레임 카운트, 및/또는 심도를 포함할 수 있다. 또 다른 예로서, 오디오 샘플에 대하여, 샘플 엔트리는 그 중에서도, 채널 카운트, 채널 레이아웃, 및/또는 샘플링 레이트를 포함할 수 있다.
예시된 예에서, 제 1 샘플 엔트리 (348a) 는 샘플 사이즈 박스 타입 "stsz" 에 의해 식별되는 샘플 크기 박스 (350) 를 포함한다. 샘플 사이즈 박스는 샘플의 바이트 수를 표시할 수 있다. 예를 들어, 비주얼 샘플의 경우, 샘플 크기는 비주얼 샘플의 하나 이상의 비디오 프레임들에 포함된 데이터의 바이트 수를 표시할 수 있다. 제 1 샘플 엔트리 (348a) 는 또한 샘플의 데이터 타입을 나타내기 위한 샘플 엔트리 타입을 정의할 수 있는 스킴 박스 타입 "schm"에 의해 식별되는 스킴 타입 박스 (352) 를 포함한다. 샘플 엔트리 타입 정보는 디코더가 샘플 데이터를 핸들링하는 방법에 관하여 결정하는데 도움을 줄 수 있다.
샘플 엔트리 박스들에 더하여, 샘플 디스크립션 (346) 은 샘플 그룹 디스크립션 박스 (360)(샘플 그룹 디스크립션 박스 타입 "sgpd"에 의해 식별됨) 그리고 샘플 투 그룹 박스 (362)("sbgp" 에 의해 식별됨) 를 더 포함할 수 있다. 샘플 그룹 디스크립션 박스 (360) 및 샘플 투 그룹 박스 (362) 모두는 샘플 그룹 디스크립션 박스 (360) 와 연관된 미리 결정된 특성에 기초하여 샘플 엔트리들의 세트를 그룹화하는 샘플 그룹화 메커니즘의 부분일 수 있다. 예를 들어, 샘플 그룹 디스크립션 박스 (360) 는 미리 결정된 그룹핑 타입 엔트리를 포함할 수 있다. 미리 결정된 그룹화 타입 (샘플 엔트리들에 의해 공유되는 특정 공통 특성에 기초함) 과 연관된 샘플 엔트리들은 샘플 투 그룹 박스 (362) 의 그 그룹화 타입 엔트리에 맵핑될 수 있다.
ISOBMFF 는 미디어의 로컬 재생을 지원하는 것에 추가하여, 네트워크 상에서 미디어 데이터를 스트리밍하기 위한 지원을 포함한다. 하나의 영화 프리젠테이션을 포함하는 파일 또는 파일들은, 파일 또는 파일들을 패킷들로서 형성하고 송신할 시에 스트리밍 서버를 보조할 수 있는 명령들을 포함하는, 힌트 트랙들로서 칭해진 추가적인 트랙들을 포함할 수 있다. 이 명령들은 예를 들어, 서버가 전송하기 위한 데이터 (예컨대, 헤더 정보), 또는 미디어 데이터의 세그먼트들에 대한 참조들을 포함할 수 있다. 파일은 상이한 스트리밍 프로토콜들에 대한 별도의 힌트 트랙들을 포함할 수 있다. 힌트 트랙들은 또한, 파일을 재포맷할 필요 없이 파일에 추가될 수 있다.
이제 도 4 를 참조하며, 이는 스트리밍을 위한 예시적인 시스템 (400) 을 나타낸다. 시스템 (400) 은 네트워킹 프로토콜에 기초하여 네트워크 (406) 를 통해 서로 통신가능하게 커플링된 서버 (402) 및 클라이언트 디바이스 (404) 를 포함한다. 예를 들어, 서버 (402) 는 종래의 HTTP 웹 서버를 포함할 수 있는 반면, 클라이언트 디바이스 (404)는 종래의 HTTP 클라이언트를 포함할 수 있다. HTTP 통신 채널이 확립될 수 있고, 특정 네트워크 리소스를 요청하기 위한 HTTP 요청을 서버 (402) 로 송신하기 위해 클라이언트 디바이스 (404) 에 의해 사용될 수 있다. HTTP 통신 채널은 요청된 네트워크 리소스들을 포함하는 HTTP 응답을 클라이언트 디바이스 (404) 로 다시 송신하기 위해 서버 (402) 에 의해 사용될 수 있다. 서버 (402) 에 의해 호스팅되는 하나의 네트워크 리소스는 미디어 세그먼트들로 분할될 수 있는 미디어 컨텐츠일 수 있다. 클라이언트 디바이스 (404) 는 네트워크 (406) 를 통해 서버 (402) 와 스트리밍 세션을 확립하기 위해 스트리밍 애플리케이션 (408) 을 포함할 수 있다. 스트리밍 세션 동안, 스트리밍 애플리케이션 (408) 은 하나 이상의 미디어 세그먼트들에 대한 요청을 네트워크 (406) 를 통해 서버 (402) 의 요청 프로세서 (410) 에 송신할 수도 있다. 스트리밍 애플리케이션 (408) 은 요청된 하나 이상의 미디어 세그먼트를 수신할 수 있고, 후속 미디어 세그먼트에 대한 후속 요청을 송신하기 전에 클라이언트 디바이스 (404) 상에 수신된 미디어 세그먼트들의 일부 또는 전부를 렌더링할 수 있다. 이러한 구성을 사용하면, 스트리밍 애플리케이션 (408) 은 클라이언트 디바이스 (404) 에서 미디어 컨텐츠를 렌더링하기 전에 전체 미디어 컨텐츠의 다운로딩이 완료될 때까지 기다릴 필요가 없어, 네트워크 리소스의 이용을 용이하게 하고 사용자 경험을 향상시킬 수 있다.
기존 HTTP 웹 서버를 사용하여 고품질의 미디어 컨텐츠 스트리밍을 가능하게 하기 위해 적응형 비트레이트 스트리밍이 사용될 수 있다. 적응성 비트레이트 스트리밍 하에서, 각각의 미디어 세그먼트에 대해, 클라이언트 디바이스 (404) 는 대안적인 세그먼트 파일들 (420 및 440) 의 세트에 관한 정보를 제공받을 수 있다. 여기서, 미디어 세그먼트는 특정 플레잉 타임스탬프 및 지속기간과 연관된 미디어 비트스트림의 부분을 참조할 수 있다. 대안적인 세그먼트 파일들 (420 및 440) 의 각각의 세트들은 (예를 들어, 특정 플레잉 타임스탬프 및 지속기간과 연관된) 미디어 세그먼트의 특정 표현에 대응할 수 있다. 표현은 특정 미디어 컨텐츠를 인코딩한 특정 결과 (예를 들어, 특정 비트레이트, 프레임 레이트, 스크린 사이즈 및/또는 기타 적합한 미디어 특성) 를 참조할 수 있다. 여기서, 미디어 세그먼트의 상이한 표현들은 그 미디어 세그먼트의 미디어 컨텐츠를 인코딩하는 상이한 결과들을 참조할 수 있다. 표현은 하나 이상의 서브-표현들을 포함할 수도 있다. 서브-표현은 예를 들어, 표현의 세그먼트 파일들로부터 미디어 컨텐츠를 디코딩 및/또는 추출하는데 사용될 수 있는 인코딩 결과를 특정하는 정보 (예를 들어, 코덱, 언어, 내장된 저품질 비디오 계층 및/또는 다른 미디어 특성) 를 포함할 수 있다. 대안적인 세그먼트 파일들의 각각의 세트 중에서, 각각의 미디어 세그먼트 파일은 예를 들어, 특정 비트레이트, 프레임 레이트, 해상도, 오디오 언어, 및/또는 서브 표현들에서 특정된 다른 적절한 미디어 특성들을 포함하는 속성들의 세트와 연관될 수 있다. 로컬 정보 (예를 들어, 네트워크 (406) 의 대역폭, 클라이언트 디바이스 (404) 의 디코딩/디스플레이 능력들, 사용자 선호도 등) 에 기초하여, 스트리밍 애플리케이션 (408) 은 각각의 표현에 대해 세트로부터 특정 미디어 세그먼트 파일을 선택할 수 있다. 예시적인 예로서, 클라이언트 디바이스 (404) 는 미디어 세그먼트 파일들 (420) 로부터 제 1 해상도와 연관된 미디어 세그먼트 파일에 대한 요청을 송신할 수 있다. 후속하여, 네트워크 (406)의 대역폭의 변화로 인해, 클라이언트 디바이스 (404) 는 제 2 해상도와 연관된 미디어 세그먼트 파일에 대한 다른 요청을 송신할 수 있다.
대안적인 세그먼트 파일들 (420 및 440) 의 세트에 관한 정보는 서버 (402) 에 의해 유지되는 설명 파일 (460) 의 일부일 수 있다. 클라이언트 디바이스 (404) 는 서버 (402) 로부터 디스크립션 파일 (460) 을 획득할 수 있고, 디스크립션 파일 (460) 에 기초하여 미디어 세그먼트 파일에 대한 요청을 송신할 수 있다. 디스크립션 파일 (460) 은 예를 들어 미디어 컨텐츠의 각각의 표현에 대한 대안의 미디어 세그먼트 파일들의 세트의 리스트 뿐만 아니라 각각의 대안의 미디어 세그먼트 파일과 연관된 특성들 (예를 들어, 비트레이트, 프레임 레이트, 해상도, 오디오 언어 및/또는 다른 적절한 매체 특성들) 을 포함할 수 있다. 리스트는 또한 대안의 세그먼트 파일들의 저장 로케이션들과 연관된 위치 식별자 (예를 들어 URL (Uniform Resource Locator), URI (Uniform Resource Indicator) 및/또는 다른 적합한 식별자) 를 포함한다.
적응적 비트레이트 스트리밍을 위한 다양한 프로토콜이 존재한다. 한 가지 예는 HTTP (HyperText Transfer Protocol) 또는 MPEG-DASH 로도 또한 알려져 있는 DASH (ISO/IEC 23009-1 : 2014 에서 정의됨) 를 통한 동적 적응형 스트리밍이다. DASH 하에서, 디스크립션 파일 (460) 은 미디어 프리젠테이션 디스크립션 (MPD) 파일을 포함할 수 있다.
도 5 는 MPD (500) 의 일 예를 제공한다. 도 5 에 도시된 바와 같이, MPD (500) 는 리스트 표현에 제공된 하나 이상의 적응 세트들 (예를 들어, 적응 세트 (510)) 을 포함한다. 적응 세트 (510) 는 시작 타임스탬프 및 플레잉의 지속기간과 연관될 수 있고, 표현들의 세트 (512a 및 512b) 를 포함할 수 있다. 표현들 (512a 및 512b) 각각은 미디어 세그먼트들의 세트를 포함할 수 있다. 표현 (512a) 의 미디어 세그먼트들 및 표현 (512b) 의 미디어 세그먼트들은 동일한 컨텐츠 소스로부터 인코딩될 수도 있고, 상이한 비트레이트, 해상도, 프레임 레이트 및/또는 다른 적절한 미디어 특성과 연관될 수 있다. 예를 들어, 표현 (512a) 은 미디어 세그먼트 (516a 및 518a) 를 포함하는 반면, 표현 (512b) 은 미디어 세그먼트 (516b 및 518b) 를 포함한다. 미디어 세그먼트 (516a 및 518a) 는 미디어 세그먼트 (516b 및 518b) 의 미디어 속성과 다른 미디어 속성 (예를 들어, 해상도, 비트 레이트 등) 과 연관될 수 있다.
또한, 각각의 표현은 하나 이상의 서브-표현들을 또한 포함할 수 있다. 예를 들어, 표현 (512a) 은 서브-표현 (520a) 을 포함할 수 있는 반면, 표현 (512b) 은 서브-표현 (520b) 을 포함할 수 있다. 위에 논의된 바와 같이, 서브-표현은 예를 들어, 표현의 세그먼트 파일들로부터 미디어 콘텐츠를 디코딩 및/또는 추출하는데 사용될 수 있는 인코딩 결과를 특정하는 정보 (예를 들어, 코덱, 언어, 내장된 저품질 비디오 계층 및/또는 다른 미디어 특성) 를 포함할 수 있다.
또한, 각각의 표현은 표현에 포함된 미디어 세그먼트들의 미디어 특성을 시그널링하는 속성 정보를 포함할 수도 있다. 예를 들어, 표현 (512a) 은 표현 속성 (514a) 을 포함하는 반면, 표현 (512b) 은 표현 속성 (514b) 을 포함한다. 표현 속성 (514a 및 514b) 각각은 예를 들어 대역폭, 프레임폭, 프레임 높이, 이들의 조합 및/또는 다른 속성 정보를 포함하는 정보를 포함할 수 있다.
MPD 는 XML (eXtensible Markup Language) 로 표현될 수 있다. XML 포맷의 MPD 파일은 적응 세트들의 리스트 표현을 제공할 수 있고 각각의 적응 세트를 정의하기 위한 엘리먼트들의 세트를 포함할 수 있다. 엘리먼트들의 세트의 각각은, 예를 들어, 적응 세트, 표현 등의 속성들을 정의하는 속성들의 세트와 연관될 수 있다. 하기는 도 5 의 MPD (500) 의 일부의 예이다:
위의 예에서 "Period", "AdaptationSet", "Representation", "SubRepresentation", "SegmentURL"등과 같은 텍스트들은 엘리먼트들인 한편, "duration", "mimeType", "id", "bandwidth" "width"와 "height", "media” 등은 속성들이다. 이 예에서, 적응 세트 (예를 들어, 적응 세트 (510)) 는 ("duration” 속성에 기초하여) 30 초의 지속기간을 갖는 (예를 들어, "mimeType"속성에 기초한) mp2t 비디오 스트림과 연관될 수 있다. 또한, 적응 세트는 3.2M 의 대역폭 및 1280의 프레임 폭 및 720 의 프레임 높이와 연관된 표현 (예를 들어, 표현 (512a)) 을 포함할 수 있다. 대역폭, 프레임 폭 및 프레임 높이 정보는 표현 속성 (514a) 에 포함될 수 있다. 표현은 오디오 컴포넌트들에 대한 코덱 및 대역폭을 특정하는 서브-표현 (예를 들어, 서브-표현 (520a)) 을 포함할 수 있다. 표현은 또한 복수의 세그먼트들을 포함할 수 있으며, 세그먼트들 각각은 "SegmentURL" 엘리먼트 다음에 오는 URI 로 표현된다. 세그먼트들은 표현과 연관되거나 다른 서브-표현으로 그룹화될 수 있다.
적응적 비트레이트 스트리밍의 또 다른 예는 전송 스트림 (TS) 포맷과 연관된 파일 세그먼트의 스트리밍을 제공하는 HTTP 라이브 스트리밍 (HLS) 이다. 전송 스트림은 패킷화된 기본 스트림 (PES) 을 캡슐화하는 컨테이너 포맷을 특정한다. 각각의 PES 는 비디오 또는 오디오 디코더로부터 PES 패킷들로 순차적인 데이터 바이트들의 캡슐화를 포함한다. 서버는 HLS 를 사용하여 플레이리스트 파일들의 세트를 제공할 수 있고, 파일들 각각은 TS 포맷의 파일 세그먼트들의 시퀀스에 대한 링크를 포함하고 특정 비트레이트와 연관된다. 플레이리스트 파일은 .m3u8 포맷의 포맷으로 될 수 있으며 미디어 세그먼트 파일의 리스트 표현을 제공하는 태그들 및 속성들의 집합을 포함한다. 변형 플레이리스트 파일은 일련의 플레이리스트 파일의 세트를 참조할 수 있고, 파일들 각각은 동일한 프리젠테이션에 대한 미디어 세그먼트 파일들의 세트 (예를 들어, 비디오 프레임들의 시퀀스) 와 연관될 수 있으며 플레이리스트 파일 세트는 다른 비트레이트와 연관될 수 있다. 수신 디바이스는 변형 플레이리스트 파일을 제공받을 수 있고, 로컬 조건 (예를 들어, 네트워크 대역폭) 에 기초하여, 특정 대역폭, 비트레이트, 프레임 레이트 등과 연관된 플레이리스트 파일을 선택한다. 수신기 디바이스는 그 후, 스트리밍을 위한 미디어 세그먼트 파일을 획득하기 위해 선택된 플레이리스트 파일의 정보를 이용할 수도 있다.
이하는 HLS 변형 플레이리스트의 일 예이다:
여기서 "#EXT-X-STREAM-INF"텍스트는 플레이리스트의 특정 정보와 구조를 제공하는 태그이다. 예를 들어 "# EXT-X-STREAM-INF"는 뒤따르는 URL (예를 들어, "prog_200kbs.m3u") 이 플레이리스트 파일임을 나타낸다. 태그는 속성과도 또한 연관될 수 있다. 예를 들어, #EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=300000”은 플레이리스트가 초당 300000 비트의 비트레이트의 상한값을 갖는 비디오 파일들과 연관되고, 1 의 프리젠테이션 식별자와 연관됨을 기술한다.
위의 HLS 변형 플레이리스트에 의해 참조된 플레이리스트 파일의 예는 다음과 같을 수 있다:
여기서 텍스트 "#EXTINF"는 플레이리스트의 특정 정보와 구조를 제공하는 태그이다. 예를 들어 "#EXTINF"는 그 뒤에 오는 URL 로 식별되는 미디어 파일을 기술하는 레코드 마커일 수 있다. 태그는 속성과도 또한 연관될 수 있다. 예를 들어, "#EXTINF:10.0"은 뒤에 오는 미디어 세그먼트 파일이 10 초의 지속기간을 가짐을 기술한다. 도 6 은 변형 플레이리스트 파일 및 변형 플레이리스트 파일에 의해 참조된 플레이리스트 파일의 세트의 일 예의 그래픽 표현을 제공한다. 플레이리스트 파일은 URL ( "abc.ts") 및 연관된 지속기간 (10 초) 과 같은 각각의 미디어 세그먼트에 대한 정보를 포함할 수 있다.
도 7a 는 ISOBMFF (ISO base media format) 파일에서 손상된 프레임들을 시그널링하는 일 예를 예시한다. 도 7a 에 도시된 미디어 박스 (740) 는 ISOBMFF 파일에 포함될 수 있는 미디어 박스의 예이다. ISOBMFF 파일은 예를 들어, 스트리밍 서버에 의해, 호스팅 서버와 수신 디바이스 간의 중간 네트워크 디바이스에 의해, 수신기 디바이스에 의해, 또는 인코딩된 데이터를 미디어 파일로 캡슐화하는 다른 디바이스에 의해 생성되거나 업데이트될 수 있다. 예시된 예에서, 미디어 박스 (740) 는 샘플 테이블 (744) 을 포함하는 미디어 정보 박스 (742) 를 포함한다. 샘플 테이블 (744) 은 샘플 디스크립션 (746)(stsd) 을 포함하고, 이 디스크립션은 이어서 샘플 엔트리들 (748a 내지 748n) 을 포함할 수 있다. 엔트리 (748a) 는 샘플 사이즈 박스 (750) (stsz) 및 스킴 타입 박스 (752)(schm) 를 포함할 수 있다. 선택적으로, 샘플 디스크립션 (746) 은 또한 샘플 그룹 디스크립션 박스 (760)(sgpd) 및 샘플 투 그룹 박스 (762)(sbgp) 를 포함할 수 있다. 달리 명시되지 않는 한, 이들 박스의 속성은 도 3 의 대응하는 박스들과 동일 할 수 있고 이에 대한 설명들은 여기에서 반복하지 않는다.
도 7a 의 예에서, 샘플 엔트리 (748a) 는 하나 이상의 손상된 비디오 프레임들을 포함하는 비디오 샘플들을 포함할 수 있다. 이전에 주지된 바와 같이, 손상된 미디어 프레임은, 손상된 프레임의 비디오 데이터가 부분적으로 수신되는 것에 기인하여, 손실된 데이터가 인터-프레임 예측 체인에 이용된 미디어 프레임들에서 또는 프레임들과 연관된 것에 기인하여, 또는 비디오 프레임이 디코딩불가능하게 되는 비디오 다른 팩터들에 기인하여 정확하게 디코딩될 수 없는 미디어 프레임이다. 디코더가 손상된 미디어 프레임을 디코딩하려고 시도하면 디코딩 프로세스에서 예상하지못한 거동이 발생하며 그 결과는 디코더 충돌, 에러 또는 다른 부정적인 결과를 포함할 수 있다. 샘플 엔트리 (748a) 에서 손상된 비디오 프레임의 존재를 시그널링하기 위해, 샘플 엔트리 (748a) 의 스킴 타입 박스 (752) 는 손상된 비디오 프레임들과 연관된 샘플 엔트리 타입을 반송할 수 있다. 샘플 엔트리 타입은 4 문자 코드에 의해 식별될 수 있다 (도 7a 의 예에서, 4 문자 코드는 "crpt"로 정의될 수 있다). 다른 한편으로, 샘플 엔트리 (748a) 가 손실된 비디오 프레임을 갖는 비디오 샘플을 포함한다면, 샘플 엔트리 (748a) 는 "lost", "null"또는 다른 적절한 코드 식별자와 같은 다른 코드 식별자를 포함하여, 그 특정 샘플 엔트리에서 손실된 비디오 프레임들의 발생을 표시할 수 있다.
도 7b 는 ISOBMFF 파일에서 손상된 프레임들을 시그널링하는 다른 예를 예시한다. 예를 들어, 미디어 박스 (740) 는 ISOBMFF 파일에 포함될 수 있다. 샘플 엔트리 (748a) 의 모든 비디오 프레임들이 손상되었다고 가정하면 (즉, 샘플 엔트리 (748a) 의 비디오 프레임 중 어느 것도 디코딩될 수 없음), 인코딩된 미디어 비트 스트림을 캡슐화하는 것에 의해 ISOBMFF 파일을 생성하는 애플리케이션은 샘플 엔트리 (748a) 에 대응하는 비디오 샘플을 ISOBMFF 파일로부터 생략할 수 있다. 즉, 도 7b 의 예에서, 샘플 엔트리 (748a) 는 샘플 테이블 (744) 로부터 생략된다 (그리고 샘플 테이블 (744) 에는 존재하지 않는다). 샘플 엔트리 (748a) 의 생략은, 예를 들어 샘플 테이블 박스 (744) 에 리스트된 샘플들의 시퀀스의 위치 및 시간 정보의 갭에 기초하여 수신기 디바이스에 의해 검출될 수 있다.
도 7a 및도 7b 의 예들에서, 수신기 디바이스는 ISOBMFF 파일을 팩킹해제할 때 손상된 프레임을 검출할 수 있다. 샘플 엔트리 타입 정보 또는 특정 샘플 엔트리의 생략에 기초하여, 수신기 디바이스는 손상된 비디오 프레임의 정확한 파일 위치 (예를 들어, 어느 트랙 및 어느 샘플이 손상된 비디오 프레임을 포함하는지) 뿐만 아니라 손상되고 디코딩불가능한 비디오 프레임들의 타이밍 정보를 직접 획득할 수 있다. 그 다음, 수신기 디바이스는 손상된 비디오 프레임을 효율적인 방식으로 핸들링하기 위해 미리 결정된 파일 핸들링 절차를 수행할 수 있다. 예를 들어, 파일 내의 손상된 미디어 프레임들의 표시에 기초하여, 수신기 디바이스는 손상된 비디오 프레임들을 탐색하기 위해 다른 계산 단계들을 수행 할 필요가 없다. 예를 들어, 수신기 디바이스는 손상된 비디오 프레임의 정확한 파일 위치를 탐색하기 위해 바이트 위치를 트랙 및 타이밍 정보로 변환하거나 다른 변환 동작을 수행할 필요가 없다. 또한, 손상된 프레임의 표시에 기인하여, 수신기 디바이스는 또한 손상된 비디오 프레임을 디코딩하려고 시도하는 것을 방지하여, 디코더 충돌, 에러 메시지, 및/또는 디코딩 프로세스에 해를 미칠 수 있는 다른 바람직하지 않은 결과를 방지할 수 있다. 이러한 모든 기능을 통해 손상된 비디오 프레임을 적절하게 핸들링하고 사용자 환경을 개선할 수 있다.
도 8a 및 도 8b 는 ISOBMFF 파일에서 손실된 프레임들을 시그널링하는 일 예를 예시한다. 도 8a 는 ISO 기본 미디어 파일 (800) 의 최상위 레벨의 예를 예시한다. ISO 기반 미디어 파일은 예를 들어, 인코딩된 데이터를 미디어 파일로 캡슐화하는, 스트리밍 서버, 호스팅 서버와 수신 디바이스 간의 중간 네트워크 디바이스 등에 의해, 생성되거나 업데이트될 수 있다. 도 8a 의 예에서, 미디어 파일 (800) 은 파일 타입 박스 (810), 무비 박스 (820), 및 하나 이상의 무비 프래그먼트 박스 (830a, 830b 내지 830n) 를 포함할 수 있다. 이 레벨에 포함될 수 있지만 이 예에서 표현되지 않는 그 외의 박스들은 프리 스페이스 박스, 메타데이터 박스 및 미디어 데이터 박스 등을 포함한다. 무비 박스 (820) 는 무비 헤더 박스 (822) 를 포함하고, 하나 이상의 트랙 박스들 (824) 뿐만 아니라 다른 박스들을 포함할 수 있다. 트랙 박스 (824) 는 트랙 헤더 박스 (824a) 및 미디어 박스 (824b) 를 포함한다. 프래그먼트 (830a) 는 세그먼트 타입 박스 (831) 및 무비 프래그먼트 박스 (832)를 포함한다. 달리 명시되지 않는 한, 이들 박스의 속성은 도 2 의 대응하는 박스들과 동일 할 수 있고 이에 대한 설명들은 여기에서 반복하지 않는다.
프래그먼트 (830a) 가 빈 세그먼트를 포함한다고 가정하면, 세그먼트 타입 (831) 은 빈 세그먼트와 연관된 브랜드 식별자를 전달할 수 있다. 브랜드 식별자는 파일 타입 (810) 에 리스트된 호환가능한 브랜드들 중 하나일 수 있다. 도 8a 의 예에서, 그러한 브랜드 식별자는 4 문자 코드 "empt"일 수 있다. 또한, 빈 세그먼트와 연관된 미디어 데이터 박스는 프래그먼트 (830) 로부터 생략될 수 있다.
또한, 미디어 (824b) 는 빈 세그먼트를 표시하는 표시자를 또한 포함할 수도 있다. 이제 도 도 8b 를 참조하여 보면, 이는 도 8a 의 미디어 박스 (824b) 의 일 예를 예시한다. 도 8b 에 예시된 예에서, 미디어 박스 (824b) 는 샘플 테이블 (844) 을 포함하는 미디어 정보 박스 (842) 를 포함한다. 샘플 테이블 (844)은 샘플 디스크립션 (846)을 포함하고 이 디스크립션은 이어서 샘플 엔트리들 (848a 내지 848n) 등을 포함할 수 있다. 엔트리 (848a) 는 샘플 사이즈 박스 (850) 및 스킴 타입 박스 (852) 를 포함할 수 있다. 선택적으로, 샘플 디스크립션 (846) 은 또한 샘플 그룹 디스크립션 박스 (860) 및 샘플 투 그룹 박스 (862) 를 포함할 수 있다. 달리 명시되지 않는 한, 이들 박스의 속성은 도 3 의 대응하는 박스들과 동일 할 수 있고 이에 대한 설명들은 여기에서 반복하지 않는다.
여기서, 샘플 엔트리 (848a) 가 세그먼트 타입 (831) 및 무비 프래그먼트 (832) 에 의해 정의된 빈 세그먼트의 일부라고 가정하면, 샘플 엔트리 (848a) 의 샘플 사이즈 박스 (850) 는 샘플이 제로 사이즈를 가짐을 표시하는 제로의 값을 반송할 수 있다.
도 9 는 ISOBMFF 파일에서 손실된 프레임들을 시그널링하는 일 예를 예시한다. 도 9 는 ISO 기본 미디어 파일 (900) 의 최상위 레벨의 예를 예시한다. ISO 기반 미디어 파일은 예를 들어, 인코딩된 데이터를 미디어 파일로 캡슐화하는, 스트리밍 서버, 호스팅 서버와 수신 디바이스 간의 중간 네트워크 디바이스 등에 의해, 생성되거나 업데이트될 수 있다. 도 8a 의 예에서, 미디어 파일 (900) 은 파일 타입 박스 (910), 무비 박스 (920), 및 하나 이상의 무비 프래그먼트 박스 (930a, 930b 내지 930n) 를 포함할 수 있다. 이 레벨에 포함될 수 있지만 이 예에서 표현되지 않는 그 외의 박스들은 프리 스페이스 박스, 메타데이터 박스 및 미디어 데이터 박스 등을 포함한다. 달리 명시되지 않는 한, 이들 박스의 속성은 도 2 의 대응하는 박스들과 동일 할 수 있고 이에 대한 설명들은 여기에서 반복하지 않는다.
도 9 의 예에서, 프래그먼트 (930a)는 세그먼트 타입 박스 (931) 를 포함하며, 이는 도 8a 에서와 같이 브랜드 "empt"를 반송한다. 프래그먼트 (930a) 는 또한 빈 세그먼트 정보 박스 (932) 를 포함한다. 빈 세그먼트 정보 박스 (932)는 박스 타입 코드 "esif"를 나타내는 데이터를 포함할 수 있고, "esif"박스 타입 코드에 의해 식별될 수 있다. 빈 세그먼트 정보 박스 (932) 는 프래그먼트가 세그먼트 타입 (931) 과 연관된 빈 세그먼트를 포함 할 때마다 프래그먼트에 포함될 수있다. 빈 세그먼트 정보 박스 (932) ( "EmptySegmentInfoBox") 의 정의, 신택스 및 시맨틱 스 그 일부가 도 9 에 예시되어 있으며 다음과 같을 수 있다:
정의
신택스
시맨틱스
reference_ID 필드는 부호없는 32 비트 정수를 보유할 수 있으며 참조 스트림에 대한 스트림 ID 를 제공할 수 있고, 여기서 스트림은 트랙이고 스트림 ID는 스트림 트랙의 트랙 ID 이다. reference_ID 는 빈 세그먼트가 위치된 트랙을 결정하는데 사용할 수 있다.
timescale 필드는 부호없는 32 비트 정수를 저장할 수 있으며 이 박스 내의 earliest_presentation_time 및 segment_duration (아래 설명됨) 에 대해 초당 ticks 단위인 시간스케일을 정의한다. 일 실시형태에서, 빈 세그먼트 정보 박스 (932) 에 정의된 시간스케일은 트랙의 미디어 헤더 박스 (예를 들어,도 2 의 무비 헤더 (222)) 의 시간스케일 필드 뿐만 아니라 참조 스트림 또는 트랙의 시간스케일에 매칭할 수 있다.
earliest_presentation_time 필드는 (버전에 따라) 부호없는 32 비트 또는 64 비트 정수를 저장할 수 있다. Earliest_presentation_time 은 이 박스를 포함한 빈 미디어 세그먼트의 가장 이른 프레젠테이션 시간을 시간스케일 필드에 표시된 시간스케일에 제공할 수 있다.
segment_duration 필드는 참조 스트림의 다음 세그먼트의 가장 이른 프리젠테이션 시간 (또는 이것이 참조 스트림의 마지막 세그먼트라면 참조 스트림의 종료 프리젠테이션 타임)과 이 빈 세그먼트의 가장 이른 프리젠테이션 시간 사이의 차이 값을 유지할 수 있다. 지속기간은 earliest_presentation_time 필드에 유지된 값과 동일한 단위들로 된다.
도 8a 및 8b 그리고 도 9 의 예들에서, 수신 디바이스는 또한 빈 세그먼트 (예를 들어, 코드워드 "empt") 와 연관된 세그먼트 유형 브랜드를 인식함으로써 ISOBMFF 파일을 패키지해제하는 경우 빈 세그먼트 (손실된 비디오 프레임을 가짐) 를 검출할 수 있다. 또한, 수신기 디바이스는 또한 예를 들어, (도 8b 의) 샘플 사이즈 정보, (도 9 의) 빈 세그먼트 정보 박스 정보 등에 기초하여 손실된 세그먼트들에 관한 정확한 위치 (예를 들어, 어느 트랙) 및 타이밍 정보를 직접 획득할 수 있다. 이는 수신기 디바이스가 손실된 프레임들에 대한 미리 결정된 핸들링 절차를 효율적인 방식으로 수행하게 한다. 예를 들어, 수신기 디바이스는 누락된 비디오 프레임을 찾기 위해 다른 계산 단계를 수행할 필요가 없다. 수신기 디바이스는 또한 누락된 비디오 프레임을 디코딩하려고 시도하는 것을 방지할 수 있다. 수신기 디바이스에 의한 그러한 동작을 방지하는 것은 누락된 비디오 프레임의 적절한 핸들링을 용이하게 하고 사용자 경험을 향상시킬 수 있다.
도 10 은 ISOBMFF 파일에서 손실된 비디오 프레임들 또는 손상된 비디오 프레임들의 통합된 시그널링을 제공하는 일 예를 예시한다. 통합된 시그널링에 의해, 단일의 표시자가 누락된 비디오 프레임과 손상된 비디오 프레임 모두와 연관될 수 있다. 수신기 디바이스는 단일 표시자를 검출하면, 하나 이상의 비디오 프레임들이 누락되었거나 손상되었음을 결정할 수 있고 누락되거나 손상된 비디오 프레임을 핸들링 (또는 프로세스) 하기 위해 (예를 들어, 비디오 프레임들을 디코딩하지 않음으로써) 미리 결정된 핸들링 절차를 수행할 수 있다. 대안적으로, 수신기 디바이스는 손실된 프레임과 손상된 프레임을 구별하기 위해 단일 표시자를 다른 정보 (예를 들어, 손실된 프레임 및/또는 빈 세그먼트에 대해 제로 샘플 사이즈) 와 결합할 수 있다.
도 10 에 도시된 바와 같이, ISO 기본 미디어 파일의 미디어 박스 (1040) 의 예가 제공된다. ISO 기반 미디어 파일은 예를 들어, 인코딩된 데이터를 미디어 파일로 캡슐화하는, 스트리밍 서버, 호스팅 서버와 수신 디바이스 간의 중간 네트워크 디바이스 등에 의해, 생성되거나 업데이트될 수 있다. 도 10 에 예시된 예에서, 미디어 박스 (1040) 는 샘플 테이블 (1044) 을 포함하는 미디어 정보 박스 (1040) 를 포함한다. 샘플 테이블 (1044) 은 샘플 디스크립션 (1046)을 포함하고 이 디스크립션은 이어서 샘플 엔트리들 (1048a 내지 1084n) 등을 포함할 수 있다. 엔트리 (1048a) 는 샘플 사이즈 박스 (1050) 및 스킴 타입 박스 (1052) 를 포함할 수 있다. 샘플 테이블 (1044) 은 또한 샘플 그룹 디스크립션 박스 (1060) 및 샘플 투 그룹 박스 (1062) 를 포함할 수 있다.
도 10 의 예에서, 샘플 엔트리 (1048a) 는 하나 이상의 손상된 비디오 프레임들, 하나 이상의 손실된 비디오 프레임들, 또는 이들의 임의의 조합을 포함하는 비디오 샘플들을 포함할 수 있다. 샘플 엔트리 (1048a) 에서 손상되거나 손실된 비디오 프레임의 존재를 시그널링하기 위해, 샘플 엔트리 (748a) 의 스킴 타입 박스 (1052) 는 손상된 비디오 프레임들 및 손실된 비디오 프레임들과 연관된 샘플 엔트리 타입을 반송할 수 있다. 샘플 엔트리 타입은 4 문자 코드에 의해 식별될 수 있다 (도 10 의 예에서, 4 문자 코드는 "mcpt"로 정의될 수 있다). 누락되거나 손상된 비디오 프레임의 존재를 알리는 4 자리 코드를 식별함으로써 수신기 디바이스는 손상되거나 손실된 (그리고 디코딩불가능한) 비디오 프레임에 대한 정확한 파일 위치 및 타이밍 정보 (예를 들어, 트랙의 어느 샘플이 손상된 비디오 프레임을 포함하는지) 를 획득할 수 있고 효율적인 방식으로 미리 결정된 파일 핸들링 절차를 수행할 수 있다.
또한 새로운 타입의 샘플 그룹화를 정의하여 그룹이 샘플 엔트리 타입 "mcpt"와 연관됨을 표시할 수 있다. 예를 들어, 도 10 에 도시된 바와 같이, 샘플 그룹 디스크립션 박스 (1060) 는 샘플 그룹 타입 엔트리 (1061) 를 저장할 수 있다. 샘플 그룹 타입 엔트리 ("MissingAndCorruptedFramesSampleEntry") 는 4 문자 코드 식별자 (도 10 의 "mptf"의 예에서) 와 연관될 수 있으며, 다음의 정의 및 신택스와 연관될 수 있다:
정의
신택스
샘플 그룹 타입 엔트리는 mpt_frame_type 에 대한 부호없는 2 비트 정수를 포함할 수 있다. mpt_frame_type 의 값은 샘플 그룹 디스크립션 엔트리와 연관된 샘플 그룹의 샘플에서 미디어 프레임의 상태를 표시할 수 있다. 예를 들어, 값 0 은 샘플 그룹에 손실된 비디오 프레임도 손상된 비디오 프레임도 포함되어 있지 않음을 표시할 수 있다. 값 1 은 샘플 그룹이 손실된 비디오 프레임을 포함함을 표시할 수 있다. 값 2 는 샘플 그룹이 손상된 비디오 프레임을 포함함을 표시할 수 있다. 값 3 은 미디어 프레임의 상태를 알 수 없음을 표시할 수 있다.
또한, 샘플 투 그룹 박스 (1062) 는 샘플 그룹 디스크립션 박스 (1060) 에 포함된 샘플 그룹 타입 엔트리들과 샘플 엔트리들을 나타내는 인덱스들 간의 맵핑을 포함할 수 있다. 도 10 의 예에서는, 샘플 투 그룹 박스 (1062) 는 샘플 그룹의 mpt_frame_type 값으로 표시된 바와 같이, 샘플 엔트리가 비디오 프레임의 공통 조건을 공유하는 샘플들의 그룹의 일부임을 표시하기 위해 샘플 엔트리 타입 (1061) 을 샘플 엔트리 (1048a) 와 연관된 인덱스로 맵핑하는 맵핑 (1063) 을 포함할 수 도 있다.
도 10 의 예에서는, 통합된 시그널링 메카니즘은 샘플 그룹이 손실된 비디오 프레임, 손상된 비디오 프레임을 포함하는지 또는 완전히 디코딩가능한 비디오 프레임을 포함하는지 여부를 표시하기 위해 채택될 수 있다. 통합된 시그널링 메커니즘은 미디어 파일에서 비디오 프레임의 조건을 간결하고 효율적으로 제공한다. 이는 신호를 해석하고 핸들링하기 위한 수신기 디바이스의 설계를 단순화할 수 있다.
도 11 및 도 12 는 미디어 스트리밍을 위한 손상된 파일 세그먼트들의 시그널링의 예들을 예시한다. 도 11 은 DASH 스트리밍을 위한 MPD 의 일 예를 예시하고, 도 12 는 HLS 스트리밍을 위한 플레이리스트 파일 또는 CMAF 파일의 일 예를 예시한다. MPD, 플레이리스트 파일 및 CMAF 파일은 파일들을 유지하는 스트리밍 서버 (예를 들어, 도 4 의 서버 (402)) 에 의해 생성되거나 업데이트될 수 있다. 대안적으로, 이들 파일들은 또한 클라이언트 디바이스 (예를 들어, 도 4 의 클라이언트 디바이스 (404)) 에 의해 생성되거나 업데이트될 수 있다. 예를 들어, 클라이언트 디바이스는 클라이언트 디바이스에 의해 다운로드될 미디어 세그먼트 파일들의 세트를 리스팅하는 스트리밍 서버로부터의 디스크립션 파일 (MPD, 플레이리스트 파일, CMAF 파일, 또는 임의의 적절한 파일) 을 수신할 수 있다. 스트리밍 세션 동안, 클라이언트 디바이스는 디스크립션 파일에 따라 미디어 세그먼트 파일 세트를 다운로드할 수 있고, (예를 들어, 다운로딩된 미디어 세그먼트 파일들을 디코딩시 실패에 기인하여) 다운로드된 미디어 세그먼트 파일 중 하나 이상이 손실되거나 손상된 비디오 프레임을 포함한다고 결정할 수 있다. 이러한 경우에, 클라이언트 장치는 도 11 및 도 12 에 개시된 기술에 기초하여 MPD, 플레이리스트 파일, CMAF 파일 등을 업데이트할 수 있고, 손상되거나 손실된 비디오 프레임을 갖는 미디어 세그먼트 파일을 수신하는 것을 방지하기 위해, 다음 스트리밍 세션에서 미디어 세그먼트 파일을 요청하기 위해 업데이트된 파일을 사용한다.
이제 도 11 을 참조하면, 손실된 미디어 세그먼트를 시그널링하는 MPD (1100) 의 일례의 구조를 나타낸다. MPD (1100)는 표현 (1104) 및 표현 (1106) 을 포함하는 적응 세트 (1102) 를 포함할 수 있다. 도 11 의 예에서는, 표현 (1106) 은 표현 속성 (1110), 미디어 세그먼트 (1112), 미디어 세그먼트 (1114) 등을 포함한다. 미디어 세그먼트들 (1112, 1114) 각각은 시작 시간 및 지속기간과 연관될 수도 있다.
도 11 의 예에서, 미디어 세그먼트 (1112) 는 손실된 미디어 세그먼트 파일과 연관될 수 있다. MPD (1100) 는 미디어 세그먼트 (1112) 가 손실된 미디어 세그먼트 파일과 연관되어 있음을 나타내는 시그널링 정보를 포함할 수 있다. 손실된 미디어 세그먼트 파일은 표현 또는 서브-표현과 연관될 수 있다. 예를 들어, 표현 (1106) 의 표현 속성 (1110) (미디어 세그먼트 (1112) 를 포함함) 은 세그먼트들이 손실됨을 특정하는 엘리먼트 "SegmentsMissingDurations" 및 MPD 에서 이들 세그먼트들이 시그널링되는 지속기간을 포함할 수도 있다. 표현 속성 (1110) 은 또한 손실된 엘리먼트에 대한 지속시간을 특정하는 엘리먼트 "MissingDurations"를 포함할 수 있다. 지속 시간은 "MissingDurations"엘리먼트와 연관된 속성들의 세트로 표현될 수 있다. 도 11 의 예에서는, 손실된 미디어 세그먼트는 시작 시간이 0:01 이고 지속 시간은 1 초이고 시작 시간은 0.06 이며 지속 시간은 0.2 초이다. 일부 실시형태들에서, "SegmentsMissingDuration" 및 "MissingDurations" 엘리먼트들은 또한 서브-표현의 손실된 세그먼트를 표시하기 위해 서브-표현의 부분일 수 있다. "SegmentsMissingDurations" 및 "MissingDurations" 의 의미 및 신택스는 다음과 같을 수 있다:
시맨틱스
XML
신택스
이제 도 12 를 참조하면, 손실된 미디어 세그먼트를 시그널링하는 플레이리스트 파일 (1200) 의 일례의 구조를 나타낸다. 플레이리스트 파일 (1200) 은 또한 (예를 들어, 전송 스트림 (TS) 파일들 대신에 ISOBMFF 파일들에 대한 링크를 갖는) CMAF 파일일 수 있다. 도 12 의 예에서, 미디어 세그먼트 (1202) 는 손실된 미디어 세그먼트 파일과 연관될 수 있다. 플레이리스트 파일 (1200) 은 미디어 세그먼트 (1202) 가 손실된 세그먼트 파일을 포함함을 표시하기 위해 특수한 태그 "missing_segment"로 이를 표시할 수 있다.
도 11 및 도 12 의 예를 사용하여, 수신기 디바이스는 미디어 세그먼트 파일에 대한 요청을 송신하기 전에 파일이 손실되었다고 결정할 수 있다. 예를 들어, 도 11 의 "SegmentsMissingDurations" 및 "MissDurations" 엘리먼트 및 이들과 연관된 속성에 기초하여, 수신기 디바이스는 손실된 파일을 갖는 세그먼트들과 연관된 시작 시간 및 지속기간 정보를 식별할 수 있다. 수신기 디바이스는 미디어 세그먼트 (1112) 가 손실된 미디어 세그먼트 파일과 연관되어 있다고 결정하기 위해 손실된 세그먼트의 시작 시간 및 지속 기간 정보를 미디어 세그먼트들 (1112 및 1114) 각각의 시작 시간 및 지속기간 정보와 비교할 수 있다. 마찬가지로, 도 12 의 "missing_segment" 태그에 기초하여, 수신기 디바이스는 또한 미디어 세그먼트 (1202) 가 손실된 미디어 세그먼트 파일과 연관되어 있다고 결정할 수 있다. 양쪽 경우에서, 수신기는 그 후, 미디어 세그먼트 (1202) 의 대안의 프리젠테이션을 획득하기 위해 예를 들어 미디어 세그먼트 (1112) 대신에 다른 표현 (예를 들어, 표현 (1104)) 으로부터 또는 다른 재생 목록으로부터 대응하는 미디어 세그먼트를 획득하는 것을 포함하는 미리 결정된 핸들링 절차를 수행할 수 있다.
도 13 은 비디오 데이터를 프로세싱하기 위한 프로세스 (1300) 의 일 예를 예시한다. 이 프로세스는, 예를 들어 스트리밍 서버 (예를 들어,도 4 의 서버 (402)), 호스팅 서버와 수신기 디바이스 사이의 중간 네트워크 장치, 또는 인코딩 된 데이터를 미디어 파일(예를 들어, ISOBMFF 파일) 에서 캡슐화하는 다른 적절한 디바이스에 의해 수행될 수 있다. 프로세스는 또한 디스크립션 파일 (예를 들어, MPD, 플레이리스트 파일, CMAF 파일, 또는 임의의 적절한 파일) 을 사용하여 스트리밍 서버로부터 비디오 데이터를 스트리밍하는 클라이언트 디바이스 (예를 들어, 도 4 의 클라이언트 디바이스 (404)) 에 의해 수행될 수 있다.
블록 1302 에서, 프로세스 (1300) 는 비디오 데이터의 복수의 프레임들을 획득하는 것을 포함한다. 프로세스에 의해 획득된 복수의 프레임들은 비디오 코덱을 사용하여 비디오 데이터를 인코딩 및/또는 압축한 결과일 수 있다. 일부 양태들에서, 비디오 데이터는 복수의 비디오 샘플들을 포함하며, 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 일부 실시형태들에서, 비디오 샘플들 각각은 비디오 샘플들 각각에 포함된 컨텐츠 타입을 식별하는 타입 식별자와 연관될 수 있다. 프로세스에 의해 수신되는 비디오 데이터의 복수의 프레임들은 하나 이상의 ISO 포맷 미디어 파일 (예를 들어, ISOBMFF) 로 이루어질 수 있다. 비디오 데이터의 복수의 프레임들은 전술한 디스크립션 파일에 기초하여 획득된 하나 이상의 미디어 세그먼트 파일들로 이루어질 수 있다.
블록 1304 에서, 프로세스 (1300) 는 복수의 프레임들 중 적어도 하나의 프레임이 손상된다고 결정할 수 있다. 예를 들어, 프로세스 (1300) 는 복수의 프레임들 중 적어도 하나의 프레임이 손상된다고 결정할 수 있다. 비디오 데이터는 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함하고, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다. 위에 논의된 바와 같이, 손상된 프레임은 여러 방식들로 발생할 수 있다. 일부 경우들에, 프레임은 그 프레임에 대한 인코딩된 데이터의 부분이 소실될 때 손상될 수도 있다. 일부 경우들에, 프레임이 인터-프레임 예측 체인의 일부일 때 프레임이 손상될 수 있고, 인터-프레임 예측 체인의 일부 다른 인코딩된 데이터가 소실되어 프레임이 정확하게 디코딩될 수 없게 된다. 예를 들어, 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분일 수 있고, 비디오 데이터는 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함한다. 이러한 경우들에, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다. 일부 경우들에, 인코딩된 미디어 데이터는 서버에서의 송신을 위해 캡슐화되기 전에 손상 (예를 들어, 미디어 파일의 손상에 기인함) 되거나 심지어 손실될 수 있다. 일부 경우들에, 인코더 (또는 트랜스코더) 는 미디어 데이터를 인코딩하는 중에 충돌하거나 실패할 수 있다. 인코더 실패는 일부 프레임이 인코딩된 데이터에 인코딩되지 않고 (그리고 포함되지 않아) 인코딩된 데이터가 손실된 프레임을 포함하게 되는 것을 야기할 수도 있다. 인코더 실패는 프레임들의 부분 인코딩 및 인코딩 데이터에의 부분 데이터의 포함을 야기할 수도 있다. 부분 데이터가 프레임을 적절하게 디코딩하기에 충분하지 않은 경우, 인코딩된 데이터는 또한 손상된 프레임들을 포함할 수 있다.
시스템 (예를 들어, 스트리밍 서버) 이 복수의 프레임들 중 적어도 하나의 프레임이 손상된 것으로 결정하는 다른 방법이 있다. 예를 들어, 스트리밍 서버는 네트워크 패킷의 형태로 다른 비디오 소스 (예를 들어, 컨텐츠 서버) 로부터 비디오 데이터를 수신할 수 있으며 스트리밍 서버는 예를 들어, 일부 네트워크 패킷들이 송신시 소실되었던 것, (예를 들어, 에러-수정 코드들에 기초하여) 에러들이 네트워크 패킷들의 페이로드들에 도입되었던 것, 및 에러들이 수정될 수 없는 것 등에 기초하여, 데이터 소실이 비디오 데이터의 송신 동안에 발생한다고 결정할 수 있다. 소실된 데이터의 사이즈뿐만 아니라 비디오 데이터 내의 소실된 데이터의 위치에 기초하여, 스트리밍 서버는 또한 (예를 들어, 네트워크 패킷들로부터 수신된 데이터가 프레임 속성을 디코딩하는데 사용될 수 없을 때) 비디오 데이터가 손상된 프레임을 포함하는지 여부를 결정할 수 있고, 손상된 프레임을 식별할 수 있다. 다른 예로서, 스트리밍 서버는 이미지들의 세트를 표현하는 데이터를 인코딩함으로써 비디오 파일을 생성하기 위해 인코더를 사용할 수 있고, 인코더는 손상된 데이터를 포함하는 프레임을 인코딩하려고 시도할 때 충돌할 수 있다. 인코더는 충돌로 이어지는 프레임들에 대해 스트리밍 서버에 표시를 제공할 수 있다. 그 다음, 스트리밍 서버는 손상된 프레임이 있는지의 여부를 결정하고, 인코더로부터의 표시에 기초하여 손상된 프레임들을 식별할 수 있다.
다른 예로서, 스트리밍 세션 동안, 클라이언트 디바이스는 디스크립션 파일에 따라 미디어 세그먼트 파일 세트를 다운로드할 수 있고, (예를 들어, 미디어 세그먼트 파일들을 디코딩시 실패에 기인하여) 다운로드된 미디어 세그먼트 파일 중 하나 이상이 손실되거나 손상된 비디오 프레임을 포함한다고 결정할 수 있다.
블록 1306 에서, 프로세스 (1300) 는 적어도 하나의 프레임의 손상의 표시를 생성하는 것을 포함한다. 표시는 예를 들어 도 7a 내지 도 12 를 포함한 본원에 기술된 예들에 따른 형태일 수 있다.
일부 실시형태들에서, 표시는 ISO 포맷 파일의 부분일 수 있다. 일 예에서, 도 7a 와 관련하여 설명된 바와 같이, 손상된 적어도 하나의 프레임을 포함하는 비디오 샘플과 연관된 타입 식별자 (예를 들어, 샘플 엔트리 타입과 관련된 코드 식별자) 에 의해 표시가 제공될 수 있다. 다른 예에서, 표시는 도 7b 와 관련하여 논의된 바와 같이 손상된 비디오 프레임에 대응하는 하나 이상의 샘플 엔트리들의 생략에 의해 제공될 수 있다. 또 다른 예에서, 도 10 과 관련하여 논의된 바와 같이, 손상 및 손실된 비디오 프레임들 모두와 연관된 통합된 샘플 타입 식별자가 표시를 제공하기 위해 사용될 수 있다. 또한, 통합된 샘플 그룹 타입 식별자는 (샘플 그룹 타입 식별자와 연관된) 비디오 샘플 그룹이 손상/손실된 비디오 프레임들을 포함한다는 것을 표시하기 위해 사용될 수 있다. 통합된 샘플 그룹 타입 식별자를 손상/손실된 샘플 그룹을 포함하는 비디오 샘플에 맵핑하는 샘플 투 그룹 박스는 또한, 비디오 샘플들 중 어느 것이 손상/손실된 비디오 프레임들을 포함하는지의 표시를 제공하도록 포함될 수 있다.
일부 실시형태에서, 표시는 또한 스트리밍 애플리케이션에 대한 전술한 디스크립션 파일의 부분일 수 있다. 예를 들어, 스트리밍 서버는 디스크립션 파일에 포함 된 하나 이상의 미디어 세그먼트가 손실 (및/또는 손상) 됨을 표시하기 위해 디스크립션 파일을 생성할 수 있다. 다른 예에서, 클라이언트 디바이스는 블록 1302 에서 획득된 오리지널 디스크립션 파일로부터 업데이트된 디스크립션 파일을 생성하여, 오리지널 디스크립션 파일에 포함된 미디어 세그먼트들 중 어느 것이 손실 (및/또는 손상) 된 것인지를 표시할 수 있다. 일 예에서, 디스크립션 파일은 MPD 파일일 수 있으며, 손실된 미디어 세그먼트가 있고 이들 세그먼트들에 대한 지속 시간들을 특정하기 위해 미리 결정된 엘리먼트들 및 속성들을 포함할 수 있다. 다른 예에서, 디스크립션 파일은 플레이리스트 파일일 수 있고, 소실된 세그먼트 파일 또는 손상된 데이터를 갖는 세그먼트 파일을 표시하는 미리 결정된 태그들을 포함할 수 있다.
블록 1308 에서, 프로세스 (1300) 는 블록 1306 에서 결정된 표시를 포함하는 미디어 파일을 생성하는 것을 포함한다. 미디어 파일은 ISOBMFF 파일, 스트리밍 애플리케이션 (예를 들어, MPD, 플레이리스트, CMAF 등) 에 대한 디스크립션 파일 등일 수 있다.
위에 주지된 바와 같이, 비디오 데이터는 복수의 비디오 샘플들을 포함하며, 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 복수의 비디오 샘플들은 손상된 적어도 하나의 프레임을 포함하는 제 1 비디오 샘플을 포함할 수 있다. 제 1 비디오 샘플은 제 1 비디오 샘플에 포함된 컨텐츠 타입을 식별하는 타입 식별자와 연관된다. 이 경우에, 표시는 타입 식별자를 포함할 수 있다. 타입 식별자는 제 1 비디오 샘플이 손상된 프레임들 중 적어도 하나의 프레임을 포함함을 표시할 수 있다. 타입 식별자는 또한 미디어 타입 및 미디어 파일을 프로세싱하는데 사용되는 디코더의 타입을 표시할 수 있다. 일부 경우들에, 타입 식별자는 샘플 엔트리 타입을 포함한다.
일부 예들에서, 미디어 파일은 비디오 데이터의 복수의 세그먼트들의 리스트 표현을 포함할 수도 있다. 일 예에서, 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함할 수도 있다. 제 1 세그먼트 및 제 2 세그먼트는 복수의 프레임들 중 하나 이상의 프레임들을 포함할 수도 있다. 제 2 세그먼트는 또한 복수의 프레임들 중 하나 이상의 손실된 프레임들을 포함할 수 있다. 예를 들어, 파일에 제공되지 않은 손실된 프레임은 제 2 세그먼트의 부분인 것으로 의미되지만 파일에 포함되지 않았다. 위에 주지된 표시는 제 1 표시로 지칭될 수도 있다. 이러한 예들에서, 프로세스 (1300) 는 제 2 세그먼트가 하나 이상의 손실된 프레임들을 포함한다고 결정하는 것 및 하나 이상의 손실된 프레임들의 표시를 제공하는 제 2 표시를 생성하는 것을 더 포함할 수 있다. 프로세스 (1300) 는 제 2 표시를 미디어 파일에 추가 (또는 포함) 할 수 있다.
일부 예들에서, 미디어 파일은 MPD (media presentation description) 포맷 파일을 포함한다. 위에 언급된 리스트 표현은 하나 이상의 적응 세트들을 포함할 수 있으며, 하나 이상의 적응 세트들 각각은 하나 이상의 손실된 프레임들을 갖는 비디오 데이터를 포함하는 하나 이상의 표현들 및/또는 하나 이상의 서브-표현들을 포함할 수 있다. 하나 이상의 표현들 또는 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관된다. 제 2 표시는 하나 이상의 표현들 또는 하나 이상의 서브-표현들에 대한 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함한다. 하나 이상의 엘리먼트들은 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관된다.
일부 구현들에서, 리스트 표현은 제 2 세그먼트가 아닌 제 1 세그먼트를 취출하기 위한 정보를 포함한다. 이러한 경우들에, 제 2 표시는 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함한다. 일부 구현들에서, 리스트 표현은 제 2 세그먼트와 연관된 텍스트 표시자를 포함한다. 텍스트 표시자는 제 2 세그먼트가 하나 이상의 손실된 프레임들을 포함함을 표시할 수 있다. 이러한 구현들에서, 제 2 표시는 텍스트 표시자를 포함할 수 있다.
일부 예들에서, 미디어 파일은 HTTP 라이브 스트리밍 (HTTP Live Streaming; HLS) 플레이리스트 포맷에 기초한다. 그러한 경우들에, 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관되고, 리스트 표현은 태그들의 세트를 포함할 수 있다. 이러한 경우들에, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 예들에서, 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함한다. 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관된다. 리스트 표현은 태그들의 세트를 포함할 수 있고, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
도 14 는 미디어 파일 데이터를 프로세싱하기 위한 프로세스 (1400)의 일 예를 예시한다. 프로세스는 예를 들면 미디어 파일 데이터의 수신기 디바이스에 의해 수행될 수 있다. 수신기 디바이스는 미디어 파일에 포함된 인코딩된 비디오 데이터를 수신하고 디코딩하는 임의의 디바이스일 수 있다. 수신기 디바이스는 예를 들어 클라이언트 디바이스 (예를 들어, 도 4 의 클라이언트 디바이스 (404)), 호스팅 서버와 클라이언트 디바이스 사이의 중간 네트워크 디바이스, 또는 다른 적절한 디바이스일 수 있다.
블록 1402 에서, 프로세스 (1400) 는 미디어 컨텐츠를 포함하는 미디어 파일을 획득하는 것을 포함한다. 미디어 컨텐츠는 비디오 데이터의 복수의 프레임들을 포함한다. 미디어 파일은 미디어 컨텐츠를 캡슐화하는 파일 (예를 들어 ISOBMFF 파일) 또는 하나 이상의 미디어 컨텐츠 세그먼트 파일들을 링크하는 스트리밍 애플리케이션 (예를 들어, MPD, 플레이리스트, CMAF 등) 에 대한 디스크립션 파일일 수 있다. 미디어 파일에서의 복수의 프레임들은 비디오 코덱을 사용하여 비디오 데이터를 인코딩 및/또는 압축한 결과일 수 있다. 비디오 데이터는 복수의 비디오 샘플들을 포함하며, 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 일부 실시형태들에서, 비디오 샘플들 각각은 비디오 샘플들 각각에 포함된 컨텐츠 타입을 식별하는 타입 식별자와 연관될 수 있다. 프로세스에 의해 수신되는 비디오 데이터의 복수의 프레임들은 하나 이상의 ISO 포맷 미디어 파일 (예를 들어, ISOBMFF) 로 이루어질 수 있다. 비디오 데이터의 복수의 프레임들은 전술한 디스크립션 파일에 기초하여 획득된 하나 이상의 미디어 세그먼트 파일들로 이루어질 수 있다.
블록 1404 에서, 프로세스 (1400) 은 미디어 파일 내의 표시에 기초하여, 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하는 것을 포함한다. 미디어 컨텐츠는 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함하고, 이 경우에, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다. 위에 논의된 바와 같이, 손상된 프레임은 여러 방식들로 발생할 수 있다. 일부 경우들에, 프레임은 그 프레임에 대한 인코딩된 데이터의 부분이 소실될 때 손상될 수도 있다. 일부 경우들에, 프레임이 인터-프레임 예측 체인의 일부일 때 프레임이 손상될 수 있고, 인터-프레임 예측 체인의 일부 다른 인코딩된 데이터가 소실되어 프레임이 정확하게 디코딩될 수 없게 된다. 예를 들어, 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분일 수 있고, 비디오 데이터는 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함한다. 이러한 경우들에, 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분하다. 일부 경우들에, 인코딩된 미디어 데이터는 서버에서의 송신을 위해 캡슐화되기 전에 손상 (예를 들어, 미디어 파일의 손상에 기인함) 되거나 심지어 손실될 수 있다. 일부 경우들에, 인코더 (또는 트랜스코더) 는 미디어 데이터를 인코딩하는 중에 충돌하거나 실패할 수 있다. 인코더 실패는 일부 프레임이 인코딩된 데이터에 인코딩되지 않고 (그리고 포함되지 않아) 인코딩된 데이터가 손실된 프레임을 포함하게 되는 것을 야기할 수도 있다. 인코더 실패는 프레임들의 부분 인코딩 및 인코딩 데이터에의 부분 데이터의 포함을 야기할 수도 있다. 부분 데이터가 프레임을 적절하게 디코딩하기에 충분하지 않은 경우, 인코딩된 데이터는 또한 손상된 프레임들을 포함할 수 있다.
블록 1404 에서의 결정은 손상 또는 손실된 비디오 프레임을 시그널링하는 표시에 기초할 수 있다. 표시는 예를 들어 도 7a 내지 도 12 를 포함한 본원에 기술된 예들에 따른 형태일 수 있다. 일부 실시형태들에서, 표시는 ISO 포맷 파일의 부분일 수 있다. 일 예에서, 도 7a 와 관련하여 설명된 바와 같이, 손상된 적어도 하나의 프레임을 포함하는 비디오 샘플과 연관된 타입 식별자 (예를 들어, 샘플 엔트리 타입과 관련된 코드 식별자) 에 의해 표시가 제공될 수 있다. 다른 예에서, 표시는 도 7b 와 관련하여 논의된 바와 같이 손상된 비디오 프레임에 대응하는 하나 이상의 샘플 엔트리들의 생략에 의해 제공될 수 있다. 또 다른 예에서, 도 10 과 관련하여 논의된 바와 같이, 손상 및 손실된 비디오 프레임들 모두와 연관된 통합된 샘플 타입 식별자가 표시를 제공하기 위해 사용될 수 있다. 또한, 통합된 샘플 그룹 타입 식별자는 (샘플 그룹 타입 식별자와 연관된) 비디오 샘플 그룹이 손상/손실된 비디오 프레임들을 포함한다는 것을 표시하기 위해 사용될 수 있다. 통합된 샘플 그룹 타입 식별자를 손상된 샘플 그룹을 포함하는 비디오 샘플에 맵핑하는 샘플 투 그룹 박스는 또한, 비디오 샘플들 중 어느 것이 손상/손실된 비디오 프레임들을 포함하는지의 표시를 제공하도록 포함될 수 있다. 표시에 기초하여, 시스템은, 예를 들어, 손상된 비디오 프레임을 포함하는 미디어 파일의 비디오 샘플을 식별할 수 있다.
일부 실시형태들에서, 표시는 또한 오리지널 디스크립션 파일에 포함된 미디어 세그먼트들 중 어느 것이 손상되었는지 (또는 손실되었는지) 를 표시하기 위해, 스트리밍 애플리케이션에 대한 상술한 디스크립션 파일의 부분일 수 있다. 일 예에서, 디스크립션 파일은 MPD 파일일 수 있으며, 손실되어 스트리밍에 이용불가능한 미디어 세그먼트가 있고 이들 세그먼트들에 대한 지속 시간들을 특정하기 위해 미리 결정된 엘리먼트들 및 속성들을 포함할 수 있다. 다른 예에서, 디스크립션 파일은 플레이리스트 파일일 수 있고, 손상된 (및/또는 손실된) 세그먼트 파일을 표시하기 위해 미리 결정된 태그들을 포함할 수 있다. 표시에 기초하여, 시스템은, 예를 들어, 프레젠테이션, 또는 손상된 비디오 프레임들을 갖는 미디어 세그먼트를 포함하는 표현/서브-표현을 식별할 수 있다.
블록 1406 에서, 프로세스 (1400) 는 표시에 기초하여 결정된 적어도 하나의 손상된 프레임을 프로세싱하는 것을 포함한다. 예를 들어, 손상된 비디오 프레임들을 포함하는 비디오 샘플을 식별하는 것에 기초하여, 시스템은 그 비디오 샘플의 디코딩을 스킵할 수 있다. 일부 양태들에서, 프로세스 (1400) 는 표시에 기초하여 손상된 적어도 하나의 프레임에 대응하는 미디어 컨텐츠의 부분을 식별할 수 있고 미디어 컨텐츠의 부분의 프로세싱을 스킵할 수 있다. 다른 예로서, 손상된 비디오 프레임들을 갖는 미디어 세그먼트를 포함하는 프리젠테이션/표현/서브-표현을 식별하는 것에 기초하여, 대체 프리젠테이션/표현/서브-표현을 요청한다. 대체 프리젠테이션/표현/서브-표현은 다른 소스로부터 요청될 수 있으며, 손상된 미디어 세그먼트를 포함하는 프리젠테이션/표현/서브-표현과 동일하거나 상이한 미디어 특성과 연관될 수 있다.
위에 주지된 바와 같이, 비디오 데이터는 복수의 비디오 샘플들을 포함하며, 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함한다. 복수의 비디오 샘플들은 손상된 적어도 하나의 프레임을 포함하는 제 1 비디오 샘플을 포함할 수 있다. 제 1 비디오 샘플은 제 1 비디오 샘플에 포함된 컨텐츠 타입을 식별하는 타입 식별자와 연관된다. 이 경우에, 표시는 타입 식별자를 포함할 수 있다. 타입 식별자는 제 1 비디오 샘플이 손상된 프레임들 중 적어도 하나의 프레임을 포함함을 표시할 수 있다. 타입 식별자는 또한 미디어 타입 및 미디어 파일을 프로세싱하는데 사용되는 디코더의 타입을 표시할 수 있다. 일부 경우들에, 타입 식별자는 샘플 엔트리 타입을 포함한다.
일부 예들에서, 미디어 파일은 비디오 데이터의 복수의 세그먼트들의 리스트 표현을 포함한다. 일 예에서, 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함할 수도 있다. 제 1 세그먼트 및 제 2 세그먼트는 복수의 프레임들 중 하나 이상의 프레임들을 포함할 수도 있다. 제 2 세그먼트는 또한 복수의 프레임들 중 하나 이상의 손실된 프레임들을 포함할 수 있다. 위에 주지된 표시는 제 1 표시로 지칭될 수 있으며, 이 경우, 미디어 파일은 제 2 세그먼트가 복수의 프레임들 중 하나 이상의 손실된 프레임을 포함함을 표시하는 제 2 표시를 더 포함할 수 있다.
일부 예들에서, 미디어 파일은 MPD (media presentation description) 포맷 파일을 포함한다. 위에 언급된 리스트 표현은 하나 이상의 적응 세트들을 포함할 수 있으며, 하나 이상의 적응 세트들 각각은 하나 이상의 손실된 프레임들을 갖는 비디오 데이터를 포함하는 하나 이상의 표현들 및/또는 하나 이상의 서브-표현들을 포함할 수 있다. 하나 이상의 표현들 또는 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관된다. 제 2 표시는 하나 이상의 표현들 또는 하나 이상의 서브-표현들에 대한 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함한다. 하나 이상의 엘리먼트들은 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관된다.
일부 구현들에서, 리스트 표현은 제 2 세그먼트가 아닌 제 1 세그먼트를 취출하기 위한 정보를 포함한다. 이러한 경우들에, 제 2 표시는 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함한다. 일부 구현들에서, 리스트 표현은 제 2 세그먼트와 연관된 텍스트 표시자를 포함한다. 텍스트 표시자는 제 2 세그먼트가 하나 이상의 손실된 프레임들을 포함함을 표시할 수 있다. 이러한 구현들에서, 제 2 표시는 텍스트 표시자를 포함할 수 있다.
일부 예들에서, 미디어 파일은 HTTP 라이브 스트리밍 (HTTP Live Streaming; HLS) 플레이리스트 포맷에 기초한다. 그러한 경우들에, 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관되고, 리스트 표현은 태그들의 세트를 포함할 수 있다. 이러한 경우들에, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 예들에서, 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함한다. 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관된다. 리스트 표현은 태그들의 세트를 포함할 수 있고, 텍스트 표시자는 태그들의 세트 중, 제 2 세그먼트와 연관된 태그이다.
일부 양태들에서, 프로세스 (1400) 는 제 2 세그먼트 대신에 제 3 세그먼트를 요청하는 요청을 스트림 서버에 송신하는 것에 의해, 표시에 기초하여 적어도 하나의 손상된 프레임을 프로세싱할 수 있다.
프로세스들 (1300 및 1400) 은 논리적 흐름도들로서 예시되고, 그 동작은 하드웨어, 컴퓨터 명령들, 또는 그 조합으로 구현될 수 있는 동작들의 시퀀스를 표현한다. 컴퓨터 명령들의 문맥에서, 동작들은 하나 이상의 프로세서들에 의해 실행될 때, 열거된 동작들을 수행하는, 하나 이상의 컴퓨터-판독가능 저장 매체들 상에 저장된 컴퓨터-실행가능 명령들을 표현한다. 일반적으로, 컴퓨터-실행가능 명령들은 특정한 기능들을 수행하거나 특정한 데이터 타입들을 구현하는 루틴들, 프로그램들, 오브젝트들, 컴포넌트들, 데이터 구조들 등을 포함한다. 동작들이 설명되는 순서는 제한으로서 해석되도록 의도된 것이 아니고, 임의의 수의 설명된 동작들은 프로세스들을 구현하기 위하여 임의의 순서로 및/또는 병렬로 조합될 수 있다.
추가적으로, 프로세스들 (1300 및 1400) 은 실행가능 명령들로 구성된 하나 이상의 컴퓨터 시스템들의 제어 하에서 수행될 수도 있고, 하나 이상의 프로세서들 상에서, 하드웨어에 의해, 또는 그 조합들로 집합적으로 실행되는 코드 (예컨대, 실행가능 명령들, 하나 이상의 컴퓨터 프로그램들, 또는 하나 이상의 애플리케이션들) 로서 구현될 수도 있다. 위에서 언급된 바와 같이, 코드는 예를 들어, 하나 이상의 프로세서들에 의해 실행가능한 복수의 명령들을 포함하는 컴퓨터 프로그램의 형태로, 컴퓨터-판독가능 또는 머신-판독가능 저장 매체 상에 저장될 수도 있다. 컴퓨터-판독가능 또는 머신-판독가능 저장 매체는 비-일시적일 수도 있다. 컴퓨터 시스템들은 예를 들어, 도 1 의 비디오 소스 (102), 인코딩 디바이스 (104), 디코딩 디바이스 (112), 및 비디오 목적지 디바이스 (122), 뿐만 아니라 도 4 의 서버 (402) 및 클라이언트 디바이스 (404) 를 포함할 수도 있다.
인코딩 디바이스 (1504) 및 디코딩 디바이스 (1312) 의 특정 세부사항들은 도 15 및 도 16 에서 각각 도시되어 있다. 도 15 는 이 개시에서 설명된 기법들 중의 하나 이상을 구현할 수도 있는 일 예의 인코딩 디바이스 (1504) 를 예시하는 블록도이다. 인코딩 디바이스 (1504) 는 예를 들어, 본원에서 설명된 신택스 구조들 (예컨대, VPS, SPS, PPS, 또는 다른 신택스 엘리먼트들의 신택스 구조들) 을 생성할 수도 있다. 인코딩 디바이스 (1504) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라-예측 및 인터-예측 코딩을 수행할 수도 있다. 이전에 설명된 바와 같이, 인트라-코딩은 소정의 비디오 프레임 또는 픽처 내에서 공간적 중복성을 감소시키거나 제거하기 위하여 적어도 부분적으로 공간적 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 또는 둘러싸는 프레임들 내에서 시간적 중복성을 감소시키거나 제거하기 위하여 적어도 부분적으로 시간적 예측에 의존한다. 인트라-모드 (I 모드) 는 몇몇 공간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향-예측 (B 모드) 과 같은 인터-모드들은 몇몇 시간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다.
인코딩 디바이스 (1504) 는 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 복원을 위하여, 인코딩 디바이스 (1504) 는 또한, 역양자화 유닛 (58), 역변환 프로세싱 유닛 (60), 및 합산기 (62) 를 포함한다. 필터 유닛 (63) 은 디블록킹 필터, 적응적 루프 필터 (adaptive loop filter; ALF), 및 샘플 적응적 오프셋 (sample adaptive offset; SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된 것이다. 필터 유닛 (63) 은 인 루프 필터 (in loop filter) 인 것으로서 도 15 에서 도시되어 있지만, 다른 구성들에서는, 필터 유닛 (63) 이 포스트 루프 필터 (post loop filter) 로서 구현될 수도 있다. 포스트 프로세싱 디바이스 (57) 는 인코딩 디바이스 (1504) 에 의해 생성된 인코딩된 비디오 데이터에 대한 추가적인 프로세싱을 수행할 수도 있다. 이 개시의 기법들은 일부 사례들에서, 인코딩 디바이스 (1504) 에 의해 구현될 수도 있다. 그러나, 다른 사례들에서, 이 개시의 기법들 중의 하나 이상은 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.
도 15 에서 도시된 바와 같이, 인코딩 디바이스 (1504) 는 비디오 데이터를 수신하고, 파티셔닝 유닛 (35) 은 데이터를 비디오 블록들로 파티셔닝한다. 파티셔닝은 또한, 슬라이스 (slice) 들, 슬라이스 세그먼트들, 타일 (tile) 들, 또는 다른 더 큰 유닛들로의 파티셔닝 뿐만 아니라, 예컨대, LCU 들 및 CU 들의 쿼드트리 구조에 따른 비디오 블록 파티셔닝을 포함할 수도 있다. 인코딩 디바이스 (1504) 는 인코딩되어야 할 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 일반적으로 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고 아마도 타일들로서 지칭된 비디오 블록들의 세트들로) 분할될 수도 있다. 예측 프로세싱 유닛 (41) 은 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨 등) 에 기초하여, 현재의 비디오 블록에 대하여, 복수의 인트라-예측 코딩 모드들 중의 하나 또는 복수의 인터-예측 코딩 모드들 중의 하나와 같은 복수의 가능한 코딩 모드들 중의 하나를 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라-코딩된 또는 인터-코딩된 블록을, 잔차 블록 데이터를 생성하기 위하여 합산기 (50) 에, 그리고 참조 픽처로서의 이용을 위한 인코딩된 블록을 복원하기 위하여 합산기 (62) 에 제공할 수도 있다.
예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 공간적 압축을 제공하기 위하여, 코딩되어야 할 현재의 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃하는 블록들에 관련된 현재의 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 시간적 압축을 제공하기 위하여, 하나 이상의 참조 픽처들 내의 하나 이상의 예측 블록들에 관련된 현재의 비디오 블록의 인터-예측 코딩을 수행한다.
모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터-예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들, B 슬라이스들, 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적들을 위하여 별도로 예시되어 있다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 예를 들어, 모션 벡터는 참조 픽처 내에서의 예측 블록에 관련된 현재의 비디오 프레임 또는 픽처 내에서의 비디오 블록의 예측 유닛 (PU) 의 변위를 표시할 수도 있다.
예측 블록은, 절대차의 합 (sum of absolute difference; SAD), 제곱차의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는 픽셀 차이의 측면에서, 코딩되어야 할 비디오 블록의 PU 와 근접하게 일치시키기 위하여 구해지는 블록이다. 일부 예들에서, 인코딩 디바이스 (1504) 는 픽처 메모리 (64) 내에 저장된 참조 픽처들의 정수-미만 (sub-integer) 픽셀 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 인코딩 디바이스 (1504) 는 참조 픽처의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치들의 값들을 보간 (interpolate) 할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 전체 픽셀 위치들 및 분수 픽셀 위치들에 관하여 모션 검색을 수행할 수도 있고, 분수 픽셀 정밀도를 갖는 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (42) 은 PU 의 위치를 참조 픽처의 예측 블록의 위치와 비교함으로써, 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 계산한다. 참조 픽처는 제 1 참조 픽처 리스트 (List 0) 또는 제 2 참조 픽처 리스트 (List 1) 로부터 선택될 수도 있고, 이들의 각각은 픽처 메모리 (64) 내에 저장된 하나 이상의 참조 픽처들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.
모션 보상 유닛 (44) 에 의해 수행된 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 (fetch) 하거나 생성하여, 서브-픽셀 정밀도 (sub-pixel precision) 로의 보간들을 아마도 수행하는 것을 수반할 수도 있다. 현재의 비디오 블록의 PU 에 대한 모션 벡터를 수신할 시에, 모션 보상 유닛 (44) 은 모션 벡터가 참조 픽처 리스트에서 지시하는 예측 블록을 위치시킬 수도 있다. 인코딩 디바이스 (1504) 는 코딩되고 있는 현재의 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 컴포넌트들의 양자를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 모션 보상 유닛 (44) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩할 시에 디코딩 디바이스 (1612) 에 의한 이용을 위한 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.
인트라 예측 프로세싱 유닛 (46) 은 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측할 수도 있다. 특히, 인트라 예측 프로세싱 유닛 (46) 은 현재의 블록을 인코딩하기 위하여 이용하기 위한 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 프로세싱 유닛 (46) 은 예컨대, 별도의 인코딩 패스 (encoding pass) 들 동안에 다양한 인트라-예측 모드들을 이용하여 현재의 블록을 인코딩할 수도 있고, 인트라 예측 유닛 프로세싱 (46) (또는 도 15 에 도시되지 않은 모드 선택 유닛 (40)) 은 테스팅된 모드들로부터 이용하기 위한 적절한 인트라-예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 프로세싱 유닛 (46) 은 다양한 테스트된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산할 수도 있고, 테스트된 모드들 중에서 최상의 레이트-왜곡 특성들을 가지는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록과, 인코딩된 블록을 생성하기 위하여 인코딩되었던 원래의 인코딩되지 않은 블록과의 사이의 왜곡 (또는 에러) 의 양뿐만 아니라, 인코딩된 블록을 생성하기 위하여 이용된 비트레이트 (즉, 비트들의 수) 를 결정한다. 인트라 예측 프로세싱 유닛 (46) 은 어느 인트라-예측 모드가 블록에 대한 최상의 레이트-왜곡 값을 나타내는지를 결정하기 위하여 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 계산할 수도 있다.
어떤 경우에도, 블록에 대한 인트라-예측 모드를 선택한 후, 인트라 예측 프로세싱 유닛 (46) 은 블록에 대한 선택된 인트라-예측 모드를 표시하는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라-예측 모드를 표시하는 정보를 인코딩할 수도 있다. 인코딩 디바이스 (1504) 는 송신된 비트스트림 내에서, 다양한 블록들에 대한 인코딩 컨텍스트들의 구성 데이터 정의들뿐만 아니라, 컨텍스트들의 각각에 대하여 이용하기 위한 가장 가능성 있는 인트라-예측 모드, 인트라-예측 모드 인덱스 표, 및 수정된 인트라-예측 모드 인덱스 표의 표시들을 포함할 수도 있다. 비트스트림 구성 데이터는 복수의 인트라-예측 모드 인덱스 표들 및 복수의 수정된 인트라-예측 모드 인덱스 표들 (또한, 코드워드 맵핑 표들로서 지칭됨) 을 포함할 수도 있다.
예측 프로세싱 유닛 (41) 이 인터-예측 또는 인트라-예측의 어느 하나를 통해 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 인코딩 디바이스 (1504) 는 현재의 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 하나 이상의 TU 들에 포함될 수도 있고 변환 프로세싱 유닛 (52) 에 적용될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (discrete cosine transform; DCT) 또는 개념적으로 유사한 변환과 같은 변환을 이용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환한다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 픽셀 도메인으로부터, 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 비트 레이트를 추가로 감소시키기 위하여 변환 계수들을 양자화한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 양자화도는 양자화 파라미터를 조절함으로써 수정될 수도 있다. 일부 예들에서, 그 다음으로, 양자화 유닛 (54) 은 양자화된 변환 계수들을 포함하는 행렬의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.
양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트-적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 컨텍스트 적응 2 진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스-기반 컨텍스트-적응 2 진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 확률 간격 파티셔닝 엔트로피 (probability interval partitioning entropy; PIPE) 코딩, 또는 또 다른 엔트로피 인코딩 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 후속하여, 인코딩된 비트스트림은 디코딩 디바이스 (1612) 로 송신될 수도 있거나, 디코딩 디바이스 (1612) 에 의한 더 이후의 송신 또는 취출을 위하여 아카이빙될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한, 코딩되고 있는 현재의 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.
역양자화 유닛 (58) 및 역변환 프로세싱 유닛 (60) 은 참조 픽처의 참조 블록으로서의 더 이후의 이용을 위해 픽셀 도메인에서 잔차 블록을 복원하기 위하여, 역양자화 및 역변환을 각각 적용한다. 모션 보상 유닛 (44) 은 잔차 블록을 참조 픽처 리스트 내의 참조 픽처들 중의 하나의 참조 픽처의 예측 블록에 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한, 모션 추정 시에 이용하기 위한 정수 미만 픽셀 값들을 계산하기 위하여 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용할 수도 있다. 합산기 (62) 는 픽처 메모리 (64) 에서의 저장을 위한 참조 블록을 생성하기 위하여, 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산한다. 참조 블록은 후속 비디오 프레임 또는 픽처에서 블록을 인터-예측하기 위하여, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 참조 블록으로서 이용될 수도 있다.
이러한 방식으로, 도 15 의 인코딩 디바이스 (1504) 는 인코딩된 비디오 비트스트림에 대한 신택스를 생성하도록 구성된 비디오 인코더의 예를 표현한다. 인코딩 디바이스 (1504) 는 예를 들어, 위에서 설명된 바와 같이 VPS, SPS, 및 PPS 파라미터 세트들을 생성할 수도 있다. 인코딩 디바이스 (1504) 는 도 13 및 도 14 에 대하여 위에서 설명된 프로세스들을 포함하는, 본원에서 설명된 기법들 중의 임의의 것을 수행할 수도 있다. 이 개시의 기법들은 인코딩 디바이스 (1504) 에 대하여 일반적으로 설명되었지만, 위에서 언급된 바와 같이, 이 개시의 기법들 중의 일부는 또한, 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.
도 16 은 일 예의 디코딩 디바이스 (1612) 를 예시하는 블록도이다. 디코딩 디바이스 (1612) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역양자화 유닛 (86), 역변환 프로세싱 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 픽처 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 및 인트라 예측 프로세싱 유닛 (84) 을 포함한다. 디코딩 디바이스 (1612) 는 일부 예들에서, 도 15 로부터의 인코딩 디바이스 (1504) 에 대하여 설명된 인코딩 패스와 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다.
디코딩 프로세스 동안, 디코딩 디바이스 (1612) 는 인코딩 디바이스 (1504) 에 의해 전송된 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 표현하는 인코딩된 비디오 비트스트림을 수신한다. 일부 실시형태들에서, 디코딩 디바이스 (1612) 는 인코딩 디바이스 (1504) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 일부 실시형태들에서, 디코딩 디바이스 (1612) 는 서버, 미디어-인지 네트워크 엘리먼트 (media-aware network element; MANE), 비디오 편집기/스플라이서, 또는 위에서 설명된 기법들 중의 하나 이상을 구현하도록 구성된 다른 이러한 디바이스와 같은 네트워크 엔티티 (79) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 네트워크 엔티티 (79) 는 인코딩 디바이스 (1504) 를 포함할 수도 있거나 포함하지 않을 수도 있다. 이 개시에서 설명된 기법들의 일부는, 네트워크 엔티티 (79) 가 인코딩된 비디오 비트스트림을 디코딩 디바이스 (1612) 로 송신하기 이전에 네트워크 엔티티 (79) 에 의해 구현될 수도 있다. 일부 비디오 디코딩 시스템들에서, 네트워크 엔티티 (79) 및 디코딩 디바이스 (1612) 는 별도의 디바이스들의 일부들일 수도 있는 반면, 다른 사례들에서는, 네트워크 엔티티 (79) 에 대하여 설명된 기능성이 디코딩 디바이스 (1612) 를 포함하는 동일한 디바이스에 의해 수행될 수도 있다.
디코딩 디바이스 (1612) 의 엔트로피 디코딩 유닛 (80) 은 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성하기 위하여 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 으로 포워딩한다. 디코딩 디바이스 (1612) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 디코딩 유닛 (80) 은 VPS, SPS, 및 PPS 와 같은 하나 이상의 파라미터 세트들에서의 고정-길이 신택스 엘리먼트들 및 가변-길이 신택스 엘리먼트들의 양자를 프로세싱하고 파싱할 수도 있다.
비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 은 시그널링된 인트라-예측 모드와, 현재의 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 데이터에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P 또는 GPB) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트 내의 참조 픽처들 중의 하나로부터 생성될 수도 있다. 디코딩 디바이스 (1612) 는 픽처 메모리 (92) 내에 저장된 참조 픽처들에 기초하여, 디폴트 구성 (default construction) 기법들을 이용하여 참조 프레임 리스트들, List 0 및 List 1 을 구성할 수도 있다.
모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 디코딩되고 있는 현재의 비디오 블록에 대한 예측 블록들을 생성하기 위하여 예측 정보를 이용한다. 예를 들어, 모션 보상 유닛 (82) 은 비디오 슬라이스의 비디오 블록들을 코딩하기 위해 이용된 예측 모드 (예컨대, 인트라-예측 또는 인터-예측), 인터-예측 슬라이스 타입 (예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 하나 이상의 참조 픽처 리스트들에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 현재의 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정하기 위하여, 파라미터 세트에서의 하나 이상의 신택스 엘리먼트들을 이용할 수도 있다.
모션 보상 유닛 (82) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (82) 은 참조 블록들의 정수-미만 픽셀들에 대한 보간된 값들을 계산하기 위하여, 비디오 블록들의 인코딩 동안에 인코딩 디바이스 (1504) 에 의해 이용된 바와 같은 보간 필터들을 이용할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 인코딩 디바이스 (1504) 에 의해 이용된 보간 필터들을 결정할 수도 있고, 예측 블록들을 생성하기 위하여 보간 필터들을 이용할 수도 있다.
역양자화 유닛 (86) 은, 비트스트림에서 제공되며 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역양자화 (inverse quantize), 또는 탈양자화(de-quantize) 한다. 역양자화 프로세스는 적용되어야 할 양자화도 및, 마찬가지로, 역양자화도를 결정하기 위하여 비디오 슬라이스에서의 각각의 비디오 블록에 대해 인코딩 디바이스 (1504) 에 의해 계산된 양자화 파라미터의 이용을 포함할 수도 있다. 역변환 프로세싱 유닛 (88) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위하여, 역변환 (예컨대, 역 DCT 또는 다른 적당한 역변환), 역정수 변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다.
모션 보상 유닛 (82) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 디코딩 디바이스 (1612) 는 역변환 프로세싱 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 표현한다. 희망하는 경우, (코딩 루프 내 또는 코딩 루프 이후 중의 어느 하나에서의) 루프 필터들은 또한, 픽셀 천이 (pixel transition) 들을 평활화하거나, 또는 이와 다르게 비디오 품질을 개선시키기 위하여 이용될 수도 있다. 필터 유닛 (91) 은 디블록킹 필터, 적응적 루프 필터 (adaptive loop filter; ALF), 및 샘플 적응적 오프셋 (sample adaptive offset; SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된 것이다. 필터 유닛 (91) 은 인 루프 필터 (in loop filter) 인 것으로서 도 16 에서 도시되어 있지만, 다른 구성들에서는, 필터 유닛 (91) 이 포스트 루프 필터 (post loop filter) 로서 구현될 수도 있다. 다음으로, 소정의 프레임 또는 픽처에서의 디코딩된 비디오 블록들은, 후속 모션 보상을 위하여 이용된 참조 픽처들을 저장하는 픽처 메모리 (92) 내에 저장된다. 픽처 메모리 (92) 는 또한, 도 1 에서 도시된 비디오 목적지 디바이스 (122) 와 같은 디스플레이 디바이스 상에서의 더 이후의 프리젠테이션을 위하여 디코딩된 비디오를 저장한다.
상기한 설명에서, 애플리케이션의 양태들은 그 특정 실시형태들을 참조하여 설명되지만, 당해 분야의 당업자들은 발명이 그것으로 제한되지는 않는다는 것을 인식할 것이다. 이에 따라, 애플리케이션의 예시적인 실시형태들은 본원에서 상세하게 설명되었지만, 발명 개념들은 이와 다르게 다양하게 구체화될 수도 있고 채용될 수도 있고, 첨부된 청구항들은 선행 기술에 의해 제한된 것과 같은 것을 제외하고는, 이러한 변형들을 포함하는 것으로 해석되는 것으로 의도된다는 것이 이해되어야 한다. 상기 설명된 발명의 다양한 특징들 및 양태들은 개별적으로 또는 공동으로 이용될 수도 있다. 또한, 실시형태들은 명세서의 더 넓은 사상 및 범위로부터 이탈하지 않으면서, 본원에서 설명된 것들을 초월하여 임의의 수의 환경들 및 애플리케이션들에서 사용될 수 있다. 따라서, 명세서 및 도면들은 한정적인 것이 아니라, 예시적인 것으로 간주되어야 한다. 예시의 목적들을 위하여, 방법들은 특정한 순서로 설명되었다. 대안적인 실시형태들에서, 방법들은 설명된 것 이외의 상이한 순서로 수행될 수도 있다는 것이 인식되어야 한다.
컴포넌트들이 어떤 동작들을 수행하도록 "구성되는 것" 으로서 설명될 경우, 이러한 구성들은 예를 들어, 동작을 수행하기 위하여 전자 회로들 또는 다른 하드웨어를 설계함으로써, 동작을 수행하기 위하여 프로그래밍가능한 전자 회로들 (예컨대, 마이크로프로세서들, 또는 다른 적당한 전자 회로들) 을 프로그래밍함으로써, 또는 그 임의의 조합으로 달성될 수 있다.
본원에서 개시된 실시형태들과 관련하여 설명된 다양한 예시적인 논리적 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합들로서 구현될 수도 있다. 하드웨어 및 소프트웨어의 이 교환가능성을 명확하게 예시하기 위하여, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들, 및 단계들은 일반적으로 그 기능성의 측면에서 위에서 설명되었다. 이러한 기능성이 하드웨어 또는 소프트웨어로서 구현되는지 여부는 특정 애플리케이션과, 전체적인 시스템에 부과된 설계 제약들에 종속된다. 숙련된 기술자들은 각각의 특별한 애플리케이션을 위한 다양한 방법들로 설명된 기능성을 구현할 수도 있지만, 이러한 구현 판정들은 본 발명의 범위로부터의 이탈을 야기시키는 것으로 해석되지 않아야 한다.
본원에서 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그 임의의 조합으로 구현될 수도 있다. 이러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 애플리케이션을 포함하는 다수의 용도들을 가지는 집적 회로 디바이스들과 같은 다양한 디바이스들 중의 임의의 것에서 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명된 임의의 특징들은 집적된 로직 디바이스에서 함께, 또는 개별적이지만 상호 동작가능한 로직 디바이스들로서 별도로 구현될 수도 있다. 소프트웨어로 구현될 경우, 기법들은, 실행될 때, 위에서 설명된 방법들 중의 하나 이상을 수행하는 명령들을 포함하는 프로그램 코드를 포함하는 컴퓨터-판독가능 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터-판독가능 데이터 저장 매체는 패키징 재료들을 포함할 수도 있는 컴퓨터 프로그램 제품의 일부를 형성할 수도 있다. 컴퓨터-판독가능 매체는 동기식 랜덤 액세스 메모리 (synchronous dynamic random access memory; SDRAM) 와 같은 랜덤 액세스 메모리 (random access memory; RAM), 판독-전용 메모리 (read-only memory; ROM), 비-휘발성 랜덤 액세스 메모리 (non-volatile random access memory; NVRAM), 전기적 소거가능 프로그래밍가능 판독-전용 메모리 (electrically erasable programmable read-only memory; EEPROM), 플래시 메모리 (FLASH memory), 자기 또는 광학 데이터 저장 매체들 등과 같은 메모리 또는 데이터 저장 매체들을 포함할 수도 있다. 추가적으로 또는 대안적으로, 기법들은 전파된 신호들 또는 파 (wave) 들과 같이, 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 반송하거나 통신하며 컴퓨터에 의해 액세스, 판독, 및/또는 실행될 수 있는 컴퓨터-판독가능 통신 매체에 의해 적어도 부분적으로 실현될 수도 있다.
프로그램 코드는, 하나 이상의 디지털 신호 프로세서 (digital signal processor; DSP) 들, 범용 마이크로프로세서들, 애플리케이션 특정 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능한 로직 어레이 (field programmable logic array; FPGA) 들, 또는 다른 등가의 집적 또는 개별 로직 회로부와 같은 하나 이상의 프로세서들을 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 이러한 프로세서는 이 개시에서 설명된 기법들 중의 임의의 것을 수행하도록 구성될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안적으로, 프로세서는 임의의 기존의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한, 컴퓨팅 디바이스들의 조합, 예를 들어, DSP 및 마이크로프로세서, 복수의 마이크로프로세서들, DSP 코어와 함께 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성의 조합으로서 구현될 수도 있다. 따라서, 본원에서 이용된 바와 같은 용어 "프로세서" 는 상기한 구조, 상기 구조의 임의의 조합, 또는 본원에서 설명된 기법들의 구현을 위해 적당한 임의의 다른 구조 또는 장치 중의 임의의 것을 지칭할 수도 있다. 게다가, 일부의 양태들에서, 본원에서 설명된 기능성은, 인코딩 및 디코딩을 위해 구성되거나, 조합된 비디오 인코더-디코더 (combined video encoder-decoder; CODEC) 내에 편입된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에서 제공될 수도 있다.
본원에서 논의된 코딩 기법들은 일 예의 비디오 인코딩 및 디코딩 시스템에서 구체화될 수도 있다. 시스템은 목적지 디바이스에 의해 더 이후의 시간에 디코딩되어야 할 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 컴퓨터-판독가능 매체를 통해 비디오 데이터를 목적지 디바이스에 제공한다. 소스 디바이스 및 목적지 디바이스는, 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 (set-top) 박스들, 소위 "스마트" 폰들과 같은 전화 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스들, 또는 등을 포함하는 광범위한 디바이스들 중의 임의의 것을 포함할 수도 있다. 일부 경우들에는, 소스 디바이스 및 목적지 디바이스가 무선 통신을 위해 구비될 수도 있다.
목적지 디바이스는 컴퓨터-판독가능 매체를 통해, 디코딩되어야 할 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터-판독가능 매체는 인코딩된 비디오 데이터를 소스 디바이스로부터 목적지 디바이스로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 컴퓨터-판독가능 매체는 소스 디바이스가 인코딩된 비디오 데이터를 실시간으로 목적지 디바이스로 직접 송신하는 것을 가능하게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 목적지 디바이스로 송신될 수도 있다. 통신 매체는 라디오 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷-기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 가능하게 하기 위해 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
일부 예들에서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스로 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 (Blu-ray) 디스크들, DVD 들, CD-ROM 들, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적당한 디지털 저장 매체들과 같은, 다양한 분산되거나 국소적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스는 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스는 스트리밍 또는 다운로드를 통해 저장 디바이스로부터 저장된 비디오 데이터를 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장할 수 있으며 그 인코딩된 비디오 데이터를 목적지 디바이스로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 일 예의 파일 서버들은 (예컨대, 웹사이트를 위한) 웹 서버, FTP 서버, 네트워크 연결 저장 (network attached storage; NAS) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스는 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터를 액세스할 수도 있다. 이것은, 파일 서버 상에 저장된 인코딩된 비디오 데이터를 액세스하기 위해 적당한 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 양자의 조합을 포함할 수도 있다. 저장 디바이스로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 그 조합일 수도 있다.
이 개시의 기법들은 무선 애플리케이션들 또는 세팅들로 반드시 제한되는 것은 아니다. 기법들은 오버-디-에어 (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, HTTP 를 통한 동적 적응 스트리밍 (DASH) 과 같은 인터넷 스트리밍 비디오 송신들, 데이터 저장 매체 상으로 인코딩되는 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들과 같은, 다양한 멀티미디어 애플리케이션들 중의 임의의 것의 지원 하에서 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템은 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위하여 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
하나의 예에서, 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함할 수도 있다. 소스 디바이스의 비디오 인코더는 본원에서 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 배열들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 카메라와 같은 외부 비디오 소스로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스는 통합된 디스플레이 디바이스를 포함하는 것이 아니라, 외부 디스플레이 디바이스와 인터페이스할 수도 있다.
상기 일 예의 시스템은 단지 하나의 예이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 일반적으로, 이 개시의 기법들은 비디오 인코딩 디바이스에 의해 수행되지만, 기법들은 또한, "CODEC" 으로서 전형적으로 지칭된 비디오 인코더/디코더에 의해 수행될 수도 있다. 또한, 이 개시의 기법들은 또한, 비디오 프리프로세서 (video preprocessor) 에 의해 수행될 수도 있다. 소스 디바이스들 및 목적지 디바이스들은, 소스 디바이스가 목적지 디바이스로의 송신을 위한 코딩된 비디오 데이터를 생성하는 이러한 코딩 디바이스들의 예들에 불과하다. 일부 예들에서, 소스 및 목적지 디바이스들은, 디바이스들의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 이 때문에, 일 예의 시스템들은 예컨대, 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 또는 화상 통화를 위하여, 비디오 디바이스들 사이에서 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.
비디오 소스는 비디오 카메라와 같은 비디오 캡처 디바이스, 이전에 캡처된 비디오를 포함하는 비디오 아카이브 (video archive), 및/또는 비디오 컨텐츠 제공자로부터 비디오를 수신하기 위한 비디오 공급 인터페이스를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스는 소스 비디오로서, 또는 라이브 비디오 (live video), 아카이빙된 비디오 (archived video), 및 컴퓨터 생성된 비디오의 조합으로서, 컴퓨터 그래픽-기반 (computer graphics-based) 데이터를 생성할 수도 있다. 일부 경우들에는, 비디오 소스가 비디오 카메라일 경우, 소스 디바이스 및 목적지 디바이스가 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 위에서 언급된 바와 같이, 이 개시에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각각의 경우에 있어서, 캡처된, 프리-캡처된 (pre-captured), 또는 컴퓨터-생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 다음으로, 인코딩된 비디오 정보는 출력 인터페이스에 의해 컴퓨터-판독가능 매체 상으로 출력될 수도 있다.
언급된 바와 같이, 컴퓨터-판독가능 매체는 무선 브로드캐스트 또는 유선 네트워크 송신과 같은 순시적 매체 (transient medium) 들, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터-판독가능 매체들과 같은 저장 매체들 (즉, 비-일시적인 저장 매체들) 을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (도시되지 않음) 는 예컨대, 네트워크 송신을 통해, 소스 디바이스로부터 인코딩된 비디오 데이터를 수신할 수도 있으며 인코딩된 비디오 데이터를 목적지 디바이스에 제공할 수도 있다. 유사하게, 디스크 스탬핑 (disc stamping) 설비와 같은 매체 생산 설비의 컴퓨팅 디바이스는 소스 디바이스로부터 인코딩된 비디오 데이터를 수신할 수도 있고, 인코딩된 비디오 데이터를 포함하는 디스크를 생산할 수도 있다. 그러므로, 컴퓨터-판독가능 매체는 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터-판독가능 매체들을 포함하는 것으로 이해될 수도 있다.
목적지 디바이스의 입력 인터페이스는 컴퓨터-판독가능 매체로부터 정보를 수신한다. 컴퓨터-판독가능 매체의 정보는, 블록들 및 다른 코딩된 유닛들, 예컨대, 픽처들의 그룹 (group of pictures; GOP) 들의 특성들 및/또는 프로세싱을 설명하는 신택스 엘리먼트들을 포함하는 신택스 정보로서, 비디오 인코더에 의해 정의되며 또한, 비디오 디코더에 의해 이용되는 상기 신택스 정보를 포함할 수도 있다. 디스플레이 디바이스는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (cathode ray tube; CRT), 액정 디스플레이 (liquid crystal display; LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (organic light emitting diode; OLED) 디스플레이, 또는 또 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중의 임의의 것을 포함할 수도 있다. 발명의 다양한 실시형태들이 설명되었다.
Claims (67)
- 비디오 데이터를 프로세싱하는 방법으로서,
비디오 데이터의 복수의 프레임들을 획득하는 단계로서, 상기 비디오 데이터는 복수의 비디오 샘플들을 포함하고, 상기 복수의 비디오 샘플들 각각은 상기 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 비디오 데이터의 복수의 프레임들을 획득하는 단계;
상기 복수의 비디오 샘플들 중 제 1 비디오 샘플의 상기 복수의 프레임들 중 적어도 하나의 프레임이 손상되었다고 결정하는 단계;
미디어 파일을 생성하는 단계로서, 상기 미디어 파일은 상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리, 및 샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스를 포함하고, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 손상된 적어도 하나의 프레임을 갖는 비디오 샘플을 표시하는 타입 식별자를 포함하는, 상기 미디어 파일을 생성하는 단계를 포함하고,
상기 미디어 파일을 생성하는 단계는, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플을 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리에 연관시키는 단계를 포함하고, 그리고
상기 복수의 비디오 샘플들 각각을 샘플 그룹 타입 엔트리에 연관시키는 단계는, 상기 제 1 비디오 샘플의 적어도 하나의 프레임이 손상되었다고 결정하는 것에 응답하여, 상기 제 1 비디오 샘플을 상기 제 1 엔트리에 연관시키는 단계를 포함하는, 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 비디오 데이터는 상기 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분이고, 상기 비디오 데이터는 상기 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 비디오 데이터를 프로세싱하는 방법. - 삭제
- 삭제
- 삭제
- 제 1 항에 있어서,
상기 타입 식별자는 샘플 엔트리 타입을 포함하는, 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 미디어 파일은 ISO (International Standards Organization) 기본 미디어 파일 포맷 (ISO base media file format; ISOBMFF) 에 기초하는, 비디오 데이터를 프로세싱하는 방법. - 제 1 항에 있어서,
상기 비디오 데이터의 복수의 세그먼트들의 리스트 표현을 포함하는 제 2 미디어 파일을 생성하는 단계로서, 상기 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함하고, 상기 제 1 세그먼트 및 제 2 세그먼트의 각각은 상기 비디오 데이터의 하나 이상의 프레임들을 포함하고, 상기 제 2 세그먼트는 상기 비디오 데이터의 하나 이상의 손실된 프레임들을 더 포함하는, 상기 제 2 미디어 파일을 생성하는 단계;
상기 제 2 세그먼트가 상기 하나 이상의 손실된 프레임들을 포함한다고 결정하는 단계;
상기 하나 이상의 손실된 프레임들의 제 2 표시를 생성하는 단계; 및
상기 제 2 미디어 파일에 상기 제 2 표시를 포함하는 단계를 더 포함하는, 비디오 데이터를 프로세싱하는 방법. - 제 9 항에 있어서,
상기 제 2 미디어 파일은 미디어 프리젠테이션 디스크립션 (media presentation description; MPD) 포맷에 기초하고, 상기 리스트 표현은 하나 이상의 적응 세트들을 포함하고, 상기 하나 이상의 적응 세트들 각각은 상기 하나 이상의 손실된 프레임들을 포함하는 하나 이상의 표현들 또는 하나 이상의 서브-표현들 중 적어도 하나 이상을 포함하고, 상기 하나 이상의 표현들 또는 상기 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관되고, 상기 제 2 표시는 상기 하나 이상의 표현들 또는 상기 하나 이상의 서브-표현들에 포함된 상기 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함하고, 상기 하나 이상의 엘리먼트들은 상기 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관되는, 비디오 데이터를 프로세싱하는 방법. - 제 9 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트가 아닌 상기 제 1 세그먼트를 취출하기 위한 정보를 포함하고, 상기 제 2 표시는 상기 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함하는, 비디오 데이터를 프로세싱하는 방법. - 제 9 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트와 연관된 텍스트 표시자를 포함하고, 상기 텍스트 표시자는 상기 제 2 세그먼트가 상기 하나 이상의 손상된 프레임들을 포함함을 표시하고, 상기 제 2 표시는 상기 텍스트 표시자를 포함하는, 비디오 데이터를 프로세싱하는 방법. - 제 12 항에 있어서,
상기 제 2 미디어 파일은 HTTP 라이브 스트리밍 (HTTP Live Streaming; HLS) 플레이리스트 포맷에 기초하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (Transport Stream; TS) 파일과 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 상기 제 2 세그먼트와 연관된 태그인, 비디오 데이터를 프로세싱하는 방법. - 제 12 항에 있어서,
상기 제 2 미디어 파일은 공통 미디어 애플리케이션 포맷 (common media application format; CMAF) 에 기초하고 플레이리스트를 포함하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 상기 제 2 세그먼트와 연관된 태그인, 비디오 데이터를 프로세싱하는 방법. - 미디어 파일을 프로세싱하는 방법으로서,
미디어 컨텐츠를 포함하는 미디어 파일을 획득하는 단계로서, 상기 미디어 컨텐츠는:
복수의 비디오 샘플들로서, 상기 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 복수의 비디오 샘플들;
상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리;
샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스로서, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 손상된 적어도 하나의 프레임을 갖는 비디오 샘플을 나타내는 타입 식별자를 포함하고, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플은 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리와 연관되는, 상기 샘플 그룹 디스크립션 박스
를 포함하는, 상기 미디어 파일을 획득하는 단계;
상기 복수의 샘플들 중 제 1 비디오 샘플이 상기 제 1 엔트리와 연관된다고 결정하는 단계;
상기 제 1 비디오 샘플과 상기 제 1 엔트리의 연관에 기초하여, 상기 제 1 비디오 샘플의 상기 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하는 단계; 및
상기 적어도 하나의 손상된 프레임을 프로세싱하는 단계를 포함하는, 미디어 파일을 프로세싱하는 방법. - 제 15 항에 있어서,
상기 비디오 샘플은 상기 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 미디어 파일을 프로세싱하는 방법. - 제 15 항에 있어서,
상기 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분이고, 상기 비디오 샘플은 상기 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 미디어 파일을 프로세싱하는 방법. - 삭제
- 삭제
- 삭제
- 제 15 항에 있어서,
상기 타입 식별자는 샘플 엔트리 타입을 포함하는, 미디어 파일을 프로세싱하는 방법. - 제 15 항에 있어서,
상기 미디어 파일은 ISO (International Standards Organization) 기본 미디어 파일 포맷 (ISOBMFF) 에 기초하는, 미디어 파일을 프로세싱하는 방법. - 제 15 항에 있어서,
상기 적어도 하나의 손상된 프레임을 프로세싱하는 단계는:
상기 제 1 엔트리에 기초하여, 손상된 상기 적어도 하나의 프레임에 대응하는 상기 미디어 컨텐츠의 부분을 식별하는 단계; 및
상기 미디어 컨텐츠의 상기 부분의 프로세싱을 스킵하는 단계를 포함하는, 미디어 파일을 프로세싱하는 방법. - 제 15 항에 있어서,
상기 비디오 샘플의 복수의 세그먼트들의 리스트 표현을 포함하는 제 2 미디어 파일을 수신하는 단계로서, 상기 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함하고, 상기 제 1 세그먼트 및 제 2 세그먼트의 각각은 상기 비디오 샘플의 하나 이상의 프레임들을 포함하고, 상기 제 2 세그먼트는 상기 비디오 샘플의 하나 이상의 손실된 프레임들을 더 포함하고, 상기 미디어 파일은 상기 제 2 세그먼트가 상기 비디오 샘플의 하나 이상의 손실된 프레임들을 포함함을 표시하는 제 2 표시를 더 포함하는, 상기 제 2 미디어 파일을 수신하는 단계; 및
상기 제 2 표시에 기초하여 상기 제 2 미디어 파일을 프로세싱하는 단계를 더 포함하는, 미디어 파일을 프로세싱하는 방법. - 제 24 항에 있어서,
상기 제 2 미디어 파일은 미디어 프리젠테이션 디스크립션 (MPD) 포맷에 기초하고, 상기 리스트 표현은 하나 이상의 적응 세트들을 포함하고, 상기 하나 이상의 적응 세트들 각각은 상기 하나 이상의 손실된 프레임들을 포함하는 하나 이상의 표현들 또는 하나 이상의 서브-표현들 중 적어도 하나 이상을 포함하고, 하나 이상의 표현들 또는 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관되고, 상기 제 2 표시는 상기 제 2 세그먼트와 연관된 상기 하나 이상의 표현들 또는 상기 서브-표현들에 포함된 상기 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함하고, 상기 하나 이상의 엘리먼트들은 상기 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관되는, 미디어 파일을 프로세싱하는 방법. - 제 24 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트가 아닌 상기 제 1 세그먼트를 취출하기 위한 정보를 포함하고, 상기 제 2 표시는 상기 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함하는, 미디어 파일을 프로세싱하는 방법. - 제 24 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트와 연관된 텍스트 표시자를 포함하고, 상기 텍스트 표시자는 상기 제 2 세그먼트가 상기 하나 이상의 손상된 프레임들을 포함함을 표시하고, 상기 제 2 표시는 상기 텍스트 표시자를 포함하는, 미디어 파일을 프로세싱하는 방법. - 제 27 항에 있어서,
상기 제 2 미디어 파일은 HTTP 라이브 스트리밍 (HLS) 플레이리스트 포맷에 기초하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 상기 제 2 세그먼트와 연관된 태그인, 미디어 파일을 프로세싱하는 방법. - 제 27 항에 있어서,
상기 제 2 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 상기 제 2 세그먼트와 연관된 태그인, 미디어 파일을 프로세싱하는 방법. - 제 24 항에 있어서,
상기 적어도 하나의 손상된 프레임을 프로세싱하는 단계는:
상기 제 2 세그먼트 대신에 제 3 세그먼트를 요청하는 요청을 스트림 서버에 송신하는 단계를 포함하는, 미디어 파일을 프로세싱하는 방법. - 비디오 데이터를 프로세싱하기 위한 장치로서,
상기 비디오 데이터를 저장하도록 구성되는 메모리; 및
프로세서를 포함하고,
상기 프로세서는,
상기 비디오 데이터의 복수의 프레임들을 획득하는 것으로서, 상기 비디오 데이터는 복수의 비디오 샘플들을 포함하고, 상기 복수의 비디오 샘플들 각각은 상기 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 비디오 데이터의 복수의 프레임들을 획득하고;
상기 복수의 비디오 샘플들 중 제 1 비디오 샘플의 상기 복수의 프레임들 중 적어도 하나의 프레임이 손상되었다고 결정하고;
미디어 파일을 생성하는 것으로서, 상기 미디어 파일은 상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리, 및 샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스를 포함하고, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 손상된 적어도 하나의 프레임을 갖는 비디오 샘플을 표시하는 타입 식별자를 포함하는, 상기 미디어 파일을 생성하도록 구성되고,
상기 미디어 파일을 생성하는 것은, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플을 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리에 연관시키는 것을 포함하고; 그리고
상기 복수의 비디오 샘플들 각각을 샘플 그룹 타입 엔트리에 연관시키는 것은, 상기 제 1 비디오 샘플의 적어도 하나의 프레임이 손상되었다고 결정하는 것에 응답하여, 상기 제 1 비디오 샘플을 상기 제 1 엔트리에 연관시키는 것을 포함하는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 31 항에 있어서,
상기 비디오 데이터는 상기 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 비디오 데이터를 프로세싱하기 위한 장치. - 제 31 항에 있어서,
상기 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분이고, 상기 비디오 데이터는 상기 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 비디오 데이터를 프로세싱하기 위한 장치. - 삭제
- 삭제
- 삭제
- 제 31 항에 있어서,
상기 타입 식별자는 샘플 엔트리 타입을 포함하는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 31 항에 있어서,
상기 미디어 파일은 ISO (International Standards Organization) 기본 미디어 파일 포맷 (ISOBMFF) 에 기초하는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 31 항에 있어서,
상기 프로세서는 또한:
상기 비디오 데이터의 복수의 세그먼트들의 리스트 표현을 포함하는 제 2 미디어 파일을 생성하는 것으로서, 상기 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함하고, 상기 제 1 세그먼트 및 제 2 세그먼트의 각각은 상기 비디오 데이터의 하나 이상의 프레임들을 포함하고, 상기 제 2 세그먼트는 상기 비디오 데이터의 하나 이상의 손실된 프레임들을 더 포함하는, 상기 제 2 미디어 파일을 생성하고:
상기 제 2 세그먼트가 상기 하나 이상의 손실된 프레임들을 포함한다고 결정하고;
상기 하나 이상의 손실된 프레임들의 제 2 표시를 생성하고; 그리고
상기 제 2 미디어 파일에 상기 제 2 표시를 포함하도록 구성되는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 39 항에 있어서,
상기 제 2 미디어 파일은 미디어 프리젠테이션 디스크립션 (MPD) 포맷에 기초하고, 상기 리스트 표현은 하나 이상의 적응 세트들을 포함하고, 상기 하나 이상의 적응 세트들 각각은 상기 하나 이상의 손실된 프레임들을 포함하는 하나 이상의 표현들 또는 하나 이상의 서브-표현들 중 적어도 하나 이상을 포함하고, 상기 하나 이상의 표현들 또는 상기 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관되고, 상기 제 2 표시는 상기 하나 이상의 표현들 또는 상기 하나 이상의 서브-표현들에 포함된 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함하고, 상기 하나 이상의 엘리먼트들은 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관되는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 39 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트가 아닌 상기 제 1 세그먼트를 취출하기 위한 정보를 포함하고, 상기 제 2 표시는 상기 제 2 세그먼트를 취출하기 위한 정보의 생략을 포함하는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 39 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트와 연관된 텍스트 표시자를 포함하고, 상기 텍스트 표시자는 상기 제 2 세그먼트가 상기 하나 이상의 손상된 프레임들을 포함함을 표시하고, 상기 제 2 표시는 상기 텍스트 표시자를 포함하는, 비디오 데이터를 프로세싱하기 위한 장치. - 제 42 항에 있어서,
상기 제 2 미디어 파일은 HTTP 라이브 스트리밍 (HLS) 플레이리스트 포맷에 기초하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 제 2 세그먼트와 연관된 태그인, 비디오 데이터를 프로세싱하기 위한 장치. - 제 42 항에 있어서,
상기 제 2 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 제 2 세그먼트와 연관된 태그인, 비디오 데이터를 프로세싱하기 위한 장치. - 제 31 항에 있어서,
상기 장치는 픽처들을 캡처하기 위한 카메라를 갖는 모바일 디바이스를 포함하는, 비디오 데이터를 프로세싱하기 위한 장치. - 미디어 파일을 프로세싱하기 위한 장치로서,
상기 미디어 파일을 저장하도록 구성되는 메모리; 및
프로세서를 포함하고,
상기 프로세서는,
미디어 컨텐츠를 포함하는 미디어 파일을 획득하는 것으로서, 상기 미디어 컨텐츠는:
복수의 비디오 샘플들로서, 상기 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 복수의 비디오 샘플들;
상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리;
샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스로서, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 손상된 적어도 하나의 프레임을 갖는 비디오 샘플을 나타내는 타입 식별자를 포함하고, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플은 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리와 연관되는, 상기 샘플 그룹 디스크립션 박스
를 포함하는, 상기 미디어 파일을 획득하고;
상기 복수의 샘플들 중 제 1 비디오 샘플이 상기 제 1 엔트리와 연관되어 있있다고 결정하고;
상기 제 1 비디오 샘플과 상기 제 1 엔트리의 연관에 기초하여, 상기 제 1 비디오 샘플의 상기 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하고; 그리고
상기 적어도 하나의 손상된 프레임을 프로세싱하도록 구성되는, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
상기 비디오 샘플은 상기 복수의 프레임들 중 적어도 하나의 프레임에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
상기 적어도 하나의 프레임은 인터-프레임 예측 체인의 부분이고, 상기 비디오 샘플은 상기 인터-프레임 예측 체인에 대응하는 제 1 데이터를 포함하고, 상기 제 1 데이터는 상기 적어도 하나의 프레임을 적절하게 디코딩하기에 불충분한, 미디어 파일을 프로세싱하기 위한 장치. - 삭제
- 삭제
- 삭제
- 제 46 항에 있어서,
상기 타입 식별자는 샘플 엔트리 타입을 포함하는, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
상기 미디어 파일은 ISO (International Standards Organization) 기본 미디어 파일 포맷 (ISOBMFF) 에 기초하는, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
상기 프로세서는 또한:
상기 제 1 엔트리에 기초하여, 손상된 상기 적어도 하나의 프레임에 대응하는 상기 미디어 컨텐츠의 부분을 식별하고; 그리고
상기 미디어 컨텐츠의 상기 부분의 프로세싱을 스킵하도록 구성되는, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
상기 프로세서는 또한:
상기 비디오 샘플의 복수의 세그먼트들의 리스트 표현을 포함하는 제 2 미디어 파일을 수신하는 것으로서, 상기 복수의 세그먼트들은 제 1 세그먼트 및 제 2 세그먼트를 포함하고, 상기 제 1 세그먼트 및 제 2 세그먼트의 각각은 상기 비디오 샘플의 하나 이상의 프레임들을 포함하고, 상기 제 2 세그먼트는 상기 비디오 샘플의 하나 이상의 손실된 프레임들을 더 포함하고, 상기 제 1 엔트리는 제 1 표시이며, 상기 미디어 파일은 상기 제 2 세그먼트가 상기 비디오 샘플의 하나 이상의 손실된 프레임들을 포함함을 표시하는 제 2 표시를 더 포함하는, 상기 제 2 미디어 파일을 수신하고; 그리고
상기 제 2 표시에 기초하여 상기 제 2 미디어 파일을 프로세싱하도록 구성되는, 미디어 파일을 프로세싱하기 위한 장치. - 제 55 항에 있어서,
상기 제 2 미디어 파일은 미디어 프리젠테이션 디스크립션 (MPD) 포맷에 기초하고, 상기 리스트 표현은 하나 이상의 적응 세트들을 포함하고, 상기 하나 이상의 적응 세트들 각각은 상기 하나 이상의 손실된 프레임들을 포함하는 하나 이상의 표현들 또는 하나 이상의 서브-표현들 중 적어도 하나 이상을 포함하고, 상기 하나 이상의 표현들 또는 상기 하나 이상의 서브-표현들 각각은 하나 이상의 세그먼트들과 연관되고, 상기 제 2 표시는 상기 제 2 세그먼트와 연관된 상기 하나 이상의 표현들 또는 상기 서브-표현들에 포함된 상기 하나 이상의 손실된 프레임들과 연관된 하나 이상의 엘리먼트들을 포함하고, 상기 하나 이상의 엘리먼트들은 제 2 세그먼트의 타임스탬프 및 지속기간을 포함하는 속성들의 세트와 연관되는, 미디어 파일을 프로세싱하기 위한 장치. - 제 55 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트가 아닌 상기 제 1 세그먼트를 취출하기 위한 정보를 포함하고, 상기 제 2 표시는 상기 제 2 세그먼트를 취출하기 위한 정보의 누락을 포함하는, 미디어 파일을 프로세싱하기 위한 장치. - 제 55 항에 있어서,
상기 리스트 표현은 상기 제 2 세그먼트와 연관된 텍스트 표시자를 포함하고, 상기 텍스트 표시자는 상기 제 2 세그먼트가 상기 하나 이상의 손상된 프레임들을 포함함을 표시하고, 상기 제 2 표시는 상기 텍스트 표시자를 포함하는, 미디어 파일을 프로세싱하기 위한 장치. - 제 58 항에 있어서,
상기 제 2 미디어 파일은 HTTP 라이브 스트리밍 (HLS) 플레이리스트 포맷에 기초하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 전송 스트림 (TS) 파일과 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 제 2 세그먼트와 연관된 태그인, 미디어 파일을 프로세싱하기 위한 장치. - 제 58 항에 있어서,
상기 제 2 미디어 파일은 공통 미디어 애플리케이션 포맷 (CMAF) 에 기초하고 플레이리스트를 포함하고, 상기 복수의 세그먼트들의 각각의 세그먼트는 ISOBMFF 와 연관되고, 상기 리스트 표현은 태그들의 세트를 포함하고, 상기 텍스트 표시자는 상기 태그들의 세트 중, 제 2 세그먼트와 연관된 태그인, 미디어 파일을 프로세싱하기 위한 장치. - 제 55 항에 있어서,
상기 프로세서는 또한:
상기 제 2 세그먼트 대신에 제 3 세그먼트를 요청하는 요청을 스트림 서버에 송신하도록 구성되는, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
비디오 데이터의 상기 복수의 프레임들 중 하나 이상을 디스플레이하기 위한 디스플레이를 더 포함하는, 미디어 파일을 프로세싱하기 위한 장치. - 제 46 항에 있어서,
상기 장치는 픽처들을 캡처하기 위한 카메라를 갖는 모바일 디바이스를 포함하는, 미디어 파일을 프로세싱하기 위한 장치. - 비디오 데이터를 프로세싱하기 위한 장치로서,
비디오 데이터의 복수의 프레임들을 획득하기 위한 수단으로서, 상기 비디오 데이터는 복수의 비디오 샘플들을 포함하고, 상기 복수의 비디오 샘플들 각각은 상기 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 비디오 데이터의 복수의 프레임들을 획득하기 위한 수단;
상기 복수의 비디오 샘플들 중 제 1 비디오 샘플의 상기 복수의 프레임들 중 적어도 하나의 프레임이 손상되었다고 결정하기 위한 수단;
미디어 파일을 생성하기 위한 수단으로서, 상기 미디어 파일은 상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리, 및 샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스를 포함하고, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 적어도 하나의 손상된 프레임을 갖는 비디오 샘플을 표시하는 타입 식별자를 포함하는, 상기 미디어 파일을 생성하기 위한 수단을 포함하고,
상기 미디어 파일을 생성하는 것은, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플을 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리에 연관시키는 것을 포함하고, 그리고
상기 복수의 비디오 샘플들 각각을 샘플 그룹 타입 엔트리에 연관시키는 것은, 상기 제 1 비디오 샘플의 적어도 하나의 프레임이 손상되었다고 결정하는 것에 응답하여, 상기 제 1 비디오 샘플을 상기 제 1 엔트리에 연관시키는 것을 포함하는, 비디오 데이터를 프로세싱하기 위한 장치. - 미디어 파일을 프로세싱하기 위한 장치로서,
미디어 컨텐츠를 포함하는 미디어 파일을 획득하기 위한 수단으로서, 상기 미디어 컨텐츠는:
복수의 비디오 샘플들로서, 상기 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 복수의 비디오 샘플들;
상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리;
샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스로서, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 손상된 적어도 하나의 프레임을 갖는 비디오 샘플을 나타내는 타입 식별자를 포함하고, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플은 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리와 연관되는, 상기 샘플 그룹 디스크립션 박스
를 포함하는, 상기 미디어 파일을 획득하기 위한 수단;
상기 복수의 샘플들 중 제 1 비디오 샘플이 상기 제 1 엔트리와 연관되어 있다고 결정하기 위한 수단;
상기 제 1 비디오 샘플과 상기 제 1 엔트리의 연관에 기초하여, 상기 제 1 비디오 샘플의 상기 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하기 위한 수단; 및
상기 적어도 하나의 손상된 프레임을 프로세싱하기 위한 수단을 포함하는, 미디어 파일을 프로세싱하기 위한 장치. - 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서,
상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금:
비디오 데이터의 복수의 프레임들을 획득하게 하는 것으로서, 상기 비디오 데이터는 복수의 비디오 샘플들을 포함하고, 상기 복수의 비디오 샘플들 각각은 상기 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 비디오 데이터의 복수의 프레임들을 획득하게 하고;
상기 복수의 비디오 샘플들 중 제 1 비디오 샘플의 상기 복수의 프레임들 중 적어도 하나의 프레임이 손상되었다고 결정하게 하고;
미디어 파일을 생성하게 하는 것으로서, 상기 미디어 파일은 상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리, 및 샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스를 포함하고, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 적어도 하나의 손상된 프레임을 갖는 비디오 샘플을 표시하는 타입 식별자를 포함하는, 상기 미디어 파일을 생성하게 하고,
상기 미디어 파일을 생성하게 하는 것은, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플을 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리에 연관시키는 것을 포함하고, 그리고
상기 복수의 비디오 샘플들 각각을 샘플 그룹 타입 엔트리에 연관시키는 것은, 상기 제 1 비디오 샘플의 적어도 하나의 프레임이 손상되었다고 결정하는 것에 응답하여, 상기 제 1 비디오 샘플을 상기 제 1 엔트리에 연관시키는 것을 포함하는, 비일시적 컴퓨터 판독가능 저장 매체. - 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서,
상기 명령들은, 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금:
미디어 컨텐츠를 포함하는 미디어 파일을 획득하게 하는 것으로서, 상기 미디어 컨텐츠는:
복수의 비디오 샘플들로서, 상기 복수의 비디오 샘플들 각각은 복수의 프레임들 중 하나 이상의 프레임들을 포함하는, 상기 복수의 비디오 샘플들;
상기 복수의 비디오 샘플들의 각각의 비디오 샘플에 대한 샘플 엔트리;
샘플 그룹 타입 엔트리들을 포함하는 샘플 그룹 디스크립션 박스로서, 상기 샘플 그룹 타입 엔트리들 중 제 1 엔트리는 손상된 적어도 하나의 프레임을 갖는 비디오 샘플을 나타내는 타입 식별자를 포함하고, 상기 복수의 비디오 샘플들의 각각의 비디오 샘플은 상기 샘플 그룹 디스크립션 박스에 포함된 샘플 그룹 타입 엔트리와 연관되는, 상기 샘플 그룹 디스크립션 박스
를 포함하는, 상기 미디어 파일을 획득하게 하고;
상기 복수의 샘플들 중 제 1 비디오 샘플이 상기 제 1 엔트리와 연관되어 있다고 결정하게 하고;
상기 제 1 비디오 샘플과 상기 제 1 엔트리의 연관에 기초하여, 상기 제 1 비디오 샘플의 상기 복수의 프레임들이 적어도 하나의 손상된 프레임을 포함한다고 결정하게 하고; 그리고
상기 적어도 하나의 손상된 프레임을 프로세싱하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
Applications Claiming Priority (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201662406349P | 2016-10-10 | 2016-10-10 | |
| US62/406,349 | 2016-10-10 | ||
| US15/708,914 | 2017-09-19 | ||
| US15/708,914 US20180103271A1 (en) | 2016-10-10 | 2017-09-19 | Systems and methods for signaling missing or corrupted video data |
| PCT/US2017/052540 WO2018071149A1 (en) | 2016-10-10 | 2017-09-20 | Systems and methods for signaling missing or corrupted video data |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20190059290A KR20190059290A (ko) | 2019-05-30 |
| KR102616943B1 true KR102616943B1 (ko) | 2023-12-22 |
Family
ID=61829290
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020197010056A KR102616943B1 (ko) | 2016-10-10 | 2017-09-20 | 손실 또는 손상된 비디오 데이터를 시그널링하는 시스템들 및 방법들 |
Country Status (9)
| Country | Link |
|---|---|
| US (1) | US20180103271A1 (ko) |
| EP (1) | EP3523982B1 (ko) |
| KR (1) | KR102616943B1 (ko) |
| CN (1) | CN109792567B (ko) |
| AU (2) | AU2017342736A1 (ko) |
| BR (1) | BR112019007080A2 (ko) |
| SG (1) | SG11201901860WA (ko) |
| TW (1) | TWI787207B (ko) |
| WO (1) | WO2018071149A1 (ko) |
Families Citing this family (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10924822B2 (en) | 2017-04-04 | 2021-02-16 | Qualcomm Incorporated | Segment types as delimiters and addressable resource identifiers |
| US10484726B2 (en) * | 2017-06-02 | 2019-11-19 | Apple Inc. | Playlist error tags for delivery and rendering of streamed media |
| US10367682B2 (en) * | 2017-06-30 | 2019-07-30 | Bank Of American Corporation | Node failure recovery tool |
| US11146852B2 (en) | 2018-05-11 | 2021-10-12 | Qualcomm Incorporated | Signaling missing sections of media data for network streaming in a segment |
| US10986402B2 (en) | 2018-07-11 | 2021-04-20 | Qualcomm Incorporated | Time signaling for media streaming |
| US11750784B2 (en) * | 2019-05-31 | 2023-09-05 | Medicapture, Inc. | Automatic video file repair method and system |
| CN110149560B (zh) * | 2019-06-05 | 2021-11-16 | 亦非云互联网技术（上海）有限公司 | 基于hls协议的播放器优化方法及系统、存储介质及终端 |
| BR112022005789A2 (pt) * | 2019-09-27 | 2022-06-21 | Vid Scale Inc | Dispositivo de decodificação e codificação de vídeo, e, método para decodificação de vídeo |
| US11902584B2 (en) * | 2019-12-19 | 2024-02-13 | Tencent America LLC | Signaling of picture header parameters |
| US20210306703A1 (en) * | 2020-03-25 | 2021-09-30 | Qualcomm Incorporated | Determination of availability of chunks of data for network streaming media data |
| US20220070495A1 (en) | 2020-09-02 | 2022-03-03 | Lemon Inc. | Pictures and layers included in a vvc image item |
| US11595672B2 (en) | 2020-09-02 | 2023-02-28 | Lemon Inc. | Brand for a media file |
| WO2023274877A1 (en) * | 2021-06-29 | 2023-01-05 | Canon Kabushiki Kaisha | Method, device, and computer program for dynamically encapsulating media content data |
| US20230336602A1 (en) * | 2022-04-19 | 2023-10-19 | Tencent America LLC | Addressable resource index events for cmaf and dash multimedia streaming |
| WO2024072750A1 (en) * | 2022-09-27 | 2024-04-04 | Bytedance Inc. | Enhanced signalling of lost or corrupted samples in a media file |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013535886A (ja) * | 2010-07-15 | 2013-09-12 | クゥアルコム・インコーポレイテッド | ビデオ構成要素を多重化するためのデータを信号伝達すること |
| WO2016128803A1 (en) * | 2015-02-11 | 2016-08-18 | Expway | Method of handling packet losses in transmissions based on dash standard and flute protocol |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102665103A (zh) * | 2012-04-13 | 2012-09-12 | 烽火通信科技股份有限公司 | 一种适用于流媒体服务的音频视频封装方法 |
| KR20150058324A (ko) * | 2013-01-30 | 2015-05-28 | 인텔 코포레이션 | 차세대 비디오용 콘텐츠 적응적 엔트로피 코딩 |
| US9380097B2 (en) * | 2014-04-01 | 2016-06-28 | Gamefly Israel Ltd. | Overcoming data loss in streaming video in IP networks |
| US10499068B2 (en) * | 2014-12-31 | 2019-12-03 | Nokia Technologies Oy | Apparatus, a method and a computer program for video coding and decoding |
-
2017
- 2017-09-19 US US15/708,914 patent/US20180103271A1/en not_active Abandoned
- 2017-09-20 EP EP17778082.2A patent/EP3523982B1/en active Active
- 2017-09-20 AU AU2017342736A patent/AU2017342736A1/en not_active Abandoned
- 2017-09-20 WO PCT/US2017/052540 patent/WO2018071149A1/en active Application Filing
- 2017-09-20 CN CN201780061429.3A patent/CN109792567B/zh active Active
- 2017-09-20 SG SG11201901860WA patent/SG11201901860WA/en unknown
- 2017-09-20 BR BR112019007080A patent/BR112019007080A2/pt unknown
- 2017-09-20 KR KR1020197010056A patent/KR102616943B1/ko active IP Right Grant
- 2017-09-30 TW TW106133859A patent/TWI787207B/zh active
-
2022
- 2022-09-05 AU AU2022228092A patent/AU2022228092B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013535886A (ja) * | 2010-07-15 | 2013-09-12 | クゥアルコム・インコーポレイテッド | ビデオ構成要素を多重化するためのデータを信号伝達すること |
| WO2016128803A1 (en) * | 2015-02-11 | 2016-08-18 | Expway | Method of handling packet losses in transmissions based on dash standard and flute protocol |
Also Published As
| Publication number | Publication date |
|---|---|
| TWI787207B (zh) | 2022-12-21 |
| EP3523982A1 (en) | 2019-08-14 |
| EP3523982B1 (en) | 2022-03-09 |
| AU2022228092B2 (en) | 2023-11-23 |
| CN109792567A (zh) | 2019-05-21 |
| KR20190059290A (ko) | 2019-05-30 |
| TW201818727A (zh) | 2018-05-16 |
| AU2022228092A1 (en) | 2022-09-29 |
| WO2018071149A1 (en) | 2018-04-19 |
| SG11201901860WA (en) | 2019-04-29 |
| BR112019007080A2 (pt) | 2019-07-02 |
| US20180103271A1 (en) | 2018-04-12 |
| AU2017342736A1 (en) | 2019-03-28 |
| CN109792567B (zh) | 2022-06-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| AU2022228092B2 (en) | Systems and methods for signaling missing or corrupted video data | |
| US10389999B2 (en) | Storage of virtual reality video in media files | |
| US10701400B2 (en) | Signalling of summarizing video supplemental information | |
| KR102646968B1 (ko) | 전방향 시각 미디어에서의 관심 영역들의 어드밴스드 시그널링 | |
| US10679415B2 (en) | Enhanced signaling of regions of interest in container files and video bitstreams | |
| US10349067B2 (en) | Handling of end of bitstream NAL units in L-HEVC file format and improvements to HEVC and L-HEVC tile tracks | |
| US20160373771A1 (en) | Design of tracks and operation point signaling in layered hevc file format | |
| KR102105804B1 (ko) | 비디오를 위한 개선된 제약 스킴 설계 | |
| US10986402B2 (en) | Time signaling for media streaming |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal | ||
| E90F | Notification of reason for final refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |