KR102084822B1 - Irap 액세스 단위들과 비트스트림 스위칭 및 스플라이싱 - Google Patents
Irap 액세스 단위들과 비트스트림 스위칭 및 스플라이싱 Download PDFInfo
- Publication number
- KR102084822B1 KR102084822B1 KR1020157031269A KR20157031269A KR102084822B1 KR 102084822 B1 KR102084822 B1 KR 102084822B1 KR 1020157031269 A KR1020157031269 A KR 1020157031269A KR 20157031269 A KR20157031269 A KR 20157031269A KR 102084822 B1 KR102084822 B1 KR 102084822B1
- Authority
- KR
- South Korea
- Prior art keywords
- picture
- irap
- video
- delete delete
- pictures
- Prior art date
Links
- 101100510671 Rattus norvegicus Lnpep gene Proteins 0.000 title description 3
- 238000000034 method Methods 0.000 claims description 132
- 230000008569 process Effects 0.000 claims description 60
- 238000003860 storage Methods 0.000 claims description 22
- 239000010410 layer Substances 0.000 description 146
- 239000013598 vector Substances 0.000 description 28
- 238000012545 processing Methods 0.000 description 24
- 238000013139 quantization Methods 0.000 description 23
- 230000002123 temporal effect Effects 0.000 description 15
- 238000004891 communication Methods 0.000 description 14
- 230000006835 compression Effects 0.000 description 12
- 238000007906 compression Methods 0.000 description 12
- 238000000638 solvent extraction Methods 0.000 description 12
- 230000003044 adaptive effect Effects 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 10
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 7
- 230000007774 longterm Effects 0.000 description 7
- 238000013500 data storage Methods 0.000 description 6
- FMYKJLXRRQTBOR-UBFHEZILSA-N (2s)-2-acetamido-4-methyl-n-[4-methyl-1-oxo-1-[[(2s)-1-oxohexan-2-yl]amino]pentan-2-yl]pentanamide Chemical group CCCC[C@@H](C=O)NC(=O)C(CC(C)C)NC(=O)[C@H](CC(C)C)NC(C)=O FMYKJLXRRQTBOR-UBFHEZILSA-N 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000012805 post-processing Methods 0.000 description 5
- 241001482237 Pica Species 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 4
- 238000007792 addition Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 101150103552 cagE gene Proteins 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 239000011229 interlayer Substances 0.000 description 3
- 230000011664 signaling Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 241000023320 Luma <angiosperm> Species 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000009795 derivation Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 229920000069 polyphenylene sulfide Polymers 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 241000985610 Forpus Species 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000012432 intermediate storage Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/89—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
- H04N19/895—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234327—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8451—Structuring of content, e.g. decomposing content into time segments using Advanced Video Coding [AVC]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8455—Structuring of content, e.g. decomposing content into time segments involving pointers to the content, e.g. pointers to the I-frames of the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/438—Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
- H04N21/4383—Accessing a communication channel
- H04N21/4384—Accessing a communication channel involving operations to reduce the access time, e.g. fast-tuning for reducing channel switching latency
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
하나의 예에서, 비디오 데이터를 코딩하는 디바이스가 비디오 데이터의 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위의 IRAP 화상을 코딩하고, 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 코딩하도록 구성된 비디오 코더를 포함한다. 비디오 코더가 비디오 디코더를 포함하는 경우, 비디오 디코더는 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 시작하여 수행된다고 가정하여, 올바르게 디코딩가능하지 않는 화상들의 디코딩을 스킵할 수도 있다.
Description
본 출원은 2013년 4월 5일자로 출원된 미국 가출원 제61/809,063호, 및 2013년 4월 15일자로 출원된 미국 가출원 제61/812,225호를 우선권 주장하며, 그것들의 각각의 전체 내용은 참조로 본원에 통합된다.
기술 분야
[0002] 본 개시물은 비디오 프로세싱에 관한 것이다.
디지털 비디오 능력들은 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 정보 단말기들 (PDA들), 랩톱 또는 데스크톱 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 이른바 "스마트 폰들", 비디오 원격회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한 넓은 범위의 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, 고급 비디오 코딩 (Advanced Video Coding, AVC) 에 의해 규정된 표준들, 현재 개발중인 고 효율 비디오 코딩 (High Efficiency Video Coding, HEVC) 표준, 및 이러한 표준들의 확장본들에 기재된 것들과 같은 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 이러한 비디오 압축 기법들을 구현하는 것에 의해 디지털 비디오 정보를 더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.
비디오 압축 기법들은 공간적 (화상 내) 예측 및/또는 시간적 (화상 간) 예측을 수행하여 비디오 시퀀스들에 내재하는 리던던시를 감소시키거나 또는 제거한다. 블록 기반 비디오 코딩을 위해, 비디오 슬라이스 (즉, 비디오 프레임 또는 비디오 프레임의 부분) 는 비디오 블록들로 구획될 수도 있으며, 그 비디오 블록들은 또한 트리블록들 (treeblocks), 코딩 단위 (coding unit, CU) 들 및/또는 코딩 노드들이라고 지칭될 수도 있다. 화상의 인트라 코딩식 (intra-coded; I) 슬라이스에서의 비디오 블록들은 동일한 화상의 이웃 블록들에서의 참조 샘플들에 관한 공간적 예측을 이용하여 인코딩된다. 화상의 인터 코딩식 (inter-coded; P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 화상의 이웃 블록들에서의 참조 샘플들에 관한 공간적 예측 또는 다른 참조 화상들에서의 참조 샘플들에 관한 시간적 예측을 이용할 수도 있다. 화상들은 프레임들이라고 지칭될 수도 있고, 참조 화상들은 참조 프레임들이라고 지칭될 수도 있다.
공간적 또는 시간적 예측은 코딩될 블록에 대한 예측 블록으로 나타나게 된다. 잔차 데이터는 코딩될 원본 블록과 예측 블록 사이의 화소 차이들을 나타낸다. 인터 코딩식 블록이 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터와, 코딩된 블록 및 예측 블록 사이의 차이를 나타내는 잔차 데이터에 따라 인코딩된다. 인트라 코딩식 블록이 인트라 코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 화소 도메인으로부터 변환 도메인으로 변환될 수도 있으며, 결과적으로 잔차 변환 계수들이 생겨나며, 그 계수들은 그 다음에 양자화될 수도 있다. 처음에는 2차원 어레이로 배열된 양자화된 변환 계수들은, 변환 계수들의 1차원 벡터를 생성하기 위하여 스캐닝될 수도 있고, 엔트로피 코딩이 더 많은 압축을 달성하기 위해 적용될 수도 있다.
본 개시물은 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (intra random access point, IRAP) 액세스 단위들 내에서의 그리고 그런 액세스 단위들 뒤에서의 화상들의 코딩 (예컨대, 인코딩 및 디코딩) 의 지원에 관련된 기법들을 설명한다. 본 개시물의 기법들은 부분적으로 정렬된 IRAP 액세스 단위들로부터 시작하는 랜덤 액세스를 수행하는 기법들을 지원하는데 사용될 수도 있다. 부분적으로 정렬된 IRAP 액세스 단위가 적어도 하나의 IRAP 화상 및 적어도 하나의 비-IRAP 화상을 포함하는 액세스 단위일 수도 있다. 비디오 코더가 부분적으로 정렬된 IRAP 액세스 단위에서의 비-IRAP 화상들을 포함하는 계층들에서의 화상들이 이러한 랜덤 액세스가 수행되는 경우에 올바르게 디코딩가능함을 나타내는 데이터를 코딩할 수도 있다. 이런 방식으로, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로 시작하여 수행되는 경우, 비디오 디코더가 올바르게 디코딩가능하지 않는 화상들의 디코딩을 스킵할 수도 있다.
하나의 예에서, 비디오 데이터를 디코딩하는 방법이, 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 비디오 코딩 계층의 올바르게 디코딩가능하지 않는 적어도 하나의 화상을 나타내는 데이터를 디코딩하는 단계, 및 올바르게 디코딩가능하지 않는 적어도 하나의 화상을 나타내는 데이터에 기초하여 그리고 IRAP 화상에 기초하여 비디오 데이터를 디코딩하는 단계를 포함한다.
다른 예에서, 비디오 데이터를 인코딩하는 방법이, 부분적으로 정렬된 IRAP 액세스 단위의 인트라 랜덤 액세스 포인트 (IRAP) 화상을 인코딩하는 단계, 및 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 인코딩하는 단계를 포함한다.
다른 예에서, 비디오 데이터를 코딩하는 디바이스가 비디오 데이터를 저장하는 메모리, 및 비디오 데이터의 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위의 IRAP 화상을 코딩하고, 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 코딩 (예컨대, 인코딩 또는 디코딩) 하도록 구성된 비디오 코더 (예컨대, 비디오 인코더 또는 비디오 디코더) 를 포함한다.
다른 예에서, 비디오 데이터를 코딩하는 디바이스가 비디오 데이터의 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위의 IRAP 화상을 코딩하는 수단, 및 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 코딩하는 수단을 포함한다.
다른 예에서, 컴퓨터 판독가능 저장 매체가, 실행될 때, 비디오 데이터를 코딩하는 디바이스의 프로세서로 하여금, 비디오 데이터의 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위의 IRAP 화상을 코딩하게 하고, 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 비디오 코딩 계층의 올바르게 디코딩가능하지 않는 적어도 하나의 화상을 나타내는 데이터를 코딩하게 하는 명령들을 저장하고 있다.
하나 이상의 예들의 세부사항들은 첨부 도면들 및 다음의 설명에서 언급된다. 다른 특징들, 목적들, 및 이점들은 상세한 설명 및 도면들로부터, 그리고 청구항들로부터 명확하게 될 것이다.
도 1은 본 개시물에서 설명되는 기법들을 이용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2는 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 인코더를 도시하는 블록도이다.
도 3은 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 디코더를 도시하는 블록도이다.
도 4는 비디오 데이터의 통신을 위한 네트워크의 부분을 형성하는 디바이스들의 일 예의 세트를 도시하는 블록도이다.
도 5는 액세스 단위들에서의 인트라 랜덤 액세스 포인트 (IRAP) 화상들의 상이한 정렬의 일 예를 도시한다.
도 6은 부분적으로 정렬된 IRAP 액세스 단위 (AU) 에서 스플라이싱 (splicing) 하는 일 예를 도시한다.
도 7은 본 개시물의 기법들에 따라 비디오 데이터를 인코딩하는 일 예의 방법을 도시하는 흐름도이다.
도 8은 본 개시물의 기법들에 따라 비디오 데이터를 디코딩하는 일 예의 방법을 도시하는 흐름도이다.
도 2는 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 인코더를 도시하는 블록도이다.
도 3은 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 디코더를 도시하는 블록도이다.
도 4는 비디오 데이터의 통신을 위한 네트워크의 부분을 형성하는 디바이스들의 일 예의 세트를 도시하는 블록도이다.
도 5는 액세스 단위들에서의 인트라 랜덤 액세스 포인트 (IRAP) 화상들의 상이한 정렬의 일 예를 도시한다.
도 6은 부분적으로 정렬된 IRAP 액세스 단위 (AU) 에서 스플라이싱 (splicing) 하는 일 예를 도시한다.
도 7은 본 개시물의 기법들에 따라 비디오 데이터를 인코딩하는 일 예의 방법을 도시하는 흐름도이다.
도 8은 본 개시물의 기법들에 따라 비디오 데이터를 디코딩하는 일 예의 방법을 도시하는 흐름도이다.
본 개시물은 다수의 계층들을 갖는 비디오 비트스트림의 액세스 단위들에서 랜덤 액세스 및 스플라이싱의 동작들을 지원하는 기법들을 설명한다. 특히, 본 개시물의 기법들은 다층 비트스트림이 비-정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위들을 포함하는 상황들을 위한 것이다. 본원에서 부분적으로 정렬된 IRAP 액세스 단위라고 또한 지칭되는 비-정렬된 IRAP 액세스 단위가, 적어도 하나의 IRAP 화상과 적어도 하나의 비-IRAP 화상을 포함한다. IRAP 화상은, 예를 들어, 순간적 디코더 리프레시 (instantaneous decoder refresh, IDR) 화상, 깨끗한 랜덤 액세스 (clean random access, CRA) 화상, 또는 깨진 링크 액세스 (broken link access, BLA) 화상을 포함할 수도 있다. 본 개시물의 기법들은 IRAP 액세스 단위에서의 모든 화상들이 IRAP 화상들인 것은 아닌 경우에 대한 지원을 제공한다. 액세스 단위가 특정 출력 시간에 관계된 모든 코딩된 화상들을, 그것들의 연관된 비-VCL NAL 단위들과 함께 포함한다. 계층이 스케일러블 계층, 뷰, 뷰의 깊이 성분, 뷰의 텍스처 성분 등일 수도 있다.
대체로, 본 개시물의 기법들은 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스가 시작하여 수행되는 상황들을 지원한다. 예를 들어, 부분적으로 정렬된 IRAP 액세스 단위는 기본 계층에서의 IRAP 화상과 향상 계층에서의 비-IRAP 화상을 포함할 수도 있다. 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 시작하여 수행되기 때문에, 향상 계층의 비-IRAP 화상이 시간적 인터 예측을 적어도 부분적으로는 사용하여 예측된다고 가정하면, 향상 계층의 비-IRAP 화상은 디코딩가능하지 않을 것이다. 다시 말하면, 비-IRAP 화상이 의존하는 선행 화상이 취출되지 않을 것이다. 덧붙여, 향상 계층에서의 비-IRAP 화상에 대한 하나 이상의 후속 화상들이 또한 디코딩가능하지 않을 수도 있다. 올바르게 디코딩가능하지 않는 이러한 화상들은 향상 계층 폐기가능 (enhancement layer discardable, ELDISC) 화상들이라고 지칭될 수도 있다. "올바르게 디코딩가능하지 않는"이란 어구는 비디오 디코더에 의한 경우, 비디오 인코더에 의해 재생가능한 경우와 동일하지 않는 화상들을 지칭한다는 것이 이해되어야 한다. 이는, 예를 들어, 이들 화상들에 대한 참조 화상들이 수신되는 않는 경우, 예컨대, 참조 화상들이 디코딩 순서에서의 대응 IRAP 액세스 단위에 선행하는 경우, 및 IRAP 액세스 단위가 랜덤 액세스를 위해 사용되는 경우에 발생할 수도 있다.
본 개시물의 기법들에 따라, 비디오 인코더가, 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우에 특정한 화상들이 올바르게 디코딩가능하지 않음을 시그널링할 수도 있다. 이러한 비-디코딩가능 화상들은 IRAP 액세스 단위가 IRAP 화상을 포함하지 않는 향상 계층에 있는 화상과 IRAP 액세스 단위와 동일한 코딩된 비디오 시퀀스 (coded video sequence, CVS) 에 있는 화상을 포함할 수도 있다. 이런 방식으로, 비디오 디코더가 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우 어떤 화상들이 올바르게 디코딩가능하지 않는지를 결정하고, 비-디코딩가능 화상들의 디코딩을 스킵할 수도 있다. 대신, 비디오 디코더는 비-디코딩가능 화상들의 데이터를, 이들 화상들을 디코딩하려는 시도 없이, 단순히 파싱할 수도 있다. 이런 방식으로, 비디오 디코더는 이러한 화상들이 올바르게 디코딩가능하지 않음을 시그널링된 데이터로부터 간단히, 빠르게, 그리고 효율적으로 결정할 수도 있어서, 비디오 디코더는 이들 화상들에 대해 비-존재 화상들을 위한 절차를 수행할 것을 단순히 결정하거나 또는 이들 화상들의 디코딩을 스킵할 수도 있다.
비-디코딩가능 화상들을 위해 시그널링되는 데이터는, 예를 들어, 화상들의 네트워크 추상화 계층 (network abstraction layer, NAL) 단위들에 대한 특정 NAL 단위 유형을 포함할 수도 있다. 부가적으로 또는 대안으로, 그 데이터는 화상을 포함하는 코딩된 비디오 시퀀스가 부분적으로 정렬된 액세스 단위로 시작하여 랜덤으로 액세스가능한 경우에 그 화상이 디코딩가능한지의 여부를 나타내는 플래그 또는 다른 신택스 엘리먼트를 포함할 수도 있다. 그 플래그 또는 신택스 엘리먼트는, 예를 들어, 슬라이스 헤더 데이터, NAL 단위 헤더에 포함된 데이터, 화상 파라미터 세트 (picture parameter set, PPS) 에 포함된 데이터, 시퀀스 파라미터 세트 (sequence parameter set, SPS), 또는 다른 이러한 데이터일 수도 있다.
특정 화상이 올바르게 디코딩가능하지 않음을 나타내는 데이터는 코딩된 이미지 데이터 자체, 다시 말하면, 화상의 코딩된 블록들에 대한 데이터로부터 분리되어 있다는 것이 이해되어야 한다. 다시 말하면, 특정 화상이 올바르게 디코딩가능하지 않음을 나타내는 데이터는 화상을 디코딩하려는 것을 실제로 시도하는 일 없이 파싱되고 해석될 수 있다. 이런 방식으로, 화상이 올바르게 디코딩가능하지 않음을 나타내는 데이터는 그 화상을 디코딩하는 것보다 먼저 해석될 수도 있어서, 디코더는 디코딩가능하지 않는 그리고 비-디코딩가능한 것으로 시그널링되는 화상을 디코딩하려는 시도를 피할 수 있다. 대신, 비디오 디코더는 비-디코딩가능 화상의 데이터를 그 화상의 데이터를 디코딩하려는 시도 없이 단순히 파싱할 수도 있다. 대안으로, 비디오 디코더는 이들 화상들을 디코딩하기 위해 비-존재 화상 프로세스를 수행할 수도 있다.
부분적으로 정렬된 IRAP 액세스 단위들을 허용하는 것은 다양한 이점들을 제공할 수 있다. 예를 들면, 기본 계층이 향상 계층보다 더 빈번한 IRAP 화상들을 포함할 수 있다. 이는, 심지어 향상 계층 데이터가 아직 디코딩가능하지 않더라도, 클라이언트 디바이스가 기본 계층의 비디오 데이터의 디코딩 및 디스플레이를 시작할 수 있다는 점에서, 클라이언트 디바이스에 대한 튠-인 지연을 감소시킬 수도 있다. 덧붙여, 이는 랜덤 액세스 포인트들의 미세립 (fine grain) 선택을 허용한다. 더구나, 향상 계층이 기본 계층만큼 빈번하게 IRAP 화상들을 포함할 필요가 없기 때문에, 향상 계층에 대한 비트레이트는 감소될 수 있다.
비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 SVC (Scalable Video Coding) 및 MVC (Multiview Video Coding) 확장본들을 포함한 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 를 포함한다.
덧붙여서, ITU-T 비디오 코딩 전문가 그룹 (VCEG) 및 ISO/IEC 동 화상 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 개발된 새로운 비디오 코딩 표준, 즉 고 효율 비디오 코딩 (HEVC) 이 있다. HEVC의 최근의 규격 초안 (Working Draft, WD) 이고 이후로 HEVC WD10이라고 지칭하는 것이, http://phenix.int-evry.fr/jct/doc_end_user/documents/12_Geneva/wg11/JCTVC-L1003-v34.zip으로부터 입수가능하다.
HEVC에 대한 멀티뷰 확장본, 즉 MV-HEVC는, JCT-3V에 의해 또한 개발되고 있고 이로써 그것의 전부가 참조로 통합된다. MV-HEVC의 최근의 규격 초안 (WD) (문서: JCT3V-C1004_d3) 이고 이후로 MV-HEVC WD3라고 지칭하는 것이, http://phenix.it-sudparis.eu/jct2/doc_end_user/documents/3_Geneva/wg11/JCT3V-C1004-v4.zip으로부터 입수가능하다.
HEVC에 대한 스케일러블 확장본, 이름하여 SHVC가 JCT-VC에 의해 또한 개발되고 있고 이로써 그 전부가 참조로 통합된다. SHVC의 최근의 규격 초안 (WD) (문서: JCTVC-L1008) 이고 이후로 SHVC WD1라고 지칭되는 것이, http://phenix.int-evry.fr/jct/doc_end_user/documents/12_Geneva/wg11/JCTVC-L1008-v1.zip으로부터 입수가능하다.
HEVC에서의 IRAP 화상들과 액세스 단위들이 이하에서 논의된다. 단일-계층 코딩을 갖는 HEVC에서는, IRAP 화상 및 IRAP AU의 다음의 개념들이 적용된다.
IRAP 화상들은 I 슬라이스들만을 포함하는 화상들이고, 디코딩 순서에서 IRAP 화상에서 시작하는 디코딩 프로세스가, 디코딩 순서에서 IRAP 화상에 선행하는 임의의 화상의 디코딩을 수행하는 일 없이, 디코딩 순서에서 그 IRAP 화상의 뒤를 잇는 모든 비-랜덤 액세스 스킵된 리딩 (non-random access skipped leading, 비-RASL) 화상들을 올바르게 디코딩할 수 있다는 특성을 갖는다. IRAP 화상이 깨진 링크 액세스 (BLA) 화상, 깨끗한 랜덤 액세스 (CRA) 화상, 또는 순간적 디코딩 리프레시 (IDR) 화상일 수도 있다. IRAP 화상으로 시작하여 랜덤 액세스를 수행하는 경우에 올바르게 디코딩가능하지 않는, IRAP 화상에 연관된 RASL 화상들이 있을 수도 있다.
IRAP 화상을 포함하는 액세스 단위가 아래에서 논의되는 IRAP 액세스 단위이다.
스플라이싱과 비트스트림 스위칭이 아래에서 논의된다.
비트스트림 스위칭과 스플라이싱 동작들은, 스플라이스 포인트에서 비트스트림에 대한 최소 변경들과 거의 이음매 없는 전환 (seamless transition) 을 갖는 하나의 비트스트림이 생겨나도록 두 개의 비트스트림들을 결합하는 프로세스로 이루어진다. 보통, 두 개의 원본 비트스트림들의 양쪽 모두가 랜덤 액세스 포인트 - 보통, IRAP 액세스 단위에서 시작한다.
스플라이싱의 하나의 통상의 사용 사례는 TV 광고들이 미디어 데이터 내에 삽입되는 경우이다. 스플라이싱의 다른 통상의 사용 사례는 적응적 비디오 스트리밍에서의 비트스트림 스위칭이다.
MV-HEVC 및 SHVC에서의 IRAP 화상들이 아래에서 논의된다.
MV-HEVC 또는 SHVC에서, 계층 성분의 용어가 MV-HEVC WD3 및 SHVC WD1에서의 화상의 용어와 동일한, 고유 nuh_layer_id를 갖는 액세스 단위의 코딩된 VCL NAL 단위들의 콜렉션을 특정하는데 사용될 수도 있다. 계층 성분이라는 용어는 고유 계층의 특정한 시간 인스턴스에서의 비디오의 디코딩된 표현인 디코딩된 VCL NAL 단위들을 특정하기 위해 또한 사용될 수도 있다.
MV-HEVC WD3 및 SHVC WD1에서, IDR 및 BLA 계층 성분들 (화상들) 이 계층들에 걸쳐 정렬되는 반면, CRA 화상들은 그렇지 않다. 예를 들어, IDR 계층 성분들이 정렬될 것이 요구되는 경우, AU에서의 임의의 화상이 IDR 화상이면, AU에서의 모든 화상들은 IDR 계층 성분들이며, 즉, IDR_W_RADL 또는 IDR_N_LP의 NAL 단위 유형을 갖는다. 마찬가지로, BLA 화상들이 정렬될 것이 요구되는 경우, 액세스 단위에서의 임의의 계층 성분이 BLA 계층 성분이면, AU에서의 모든 계층 성분들은 BLA 화상들이다.
본 개시물에서, 특정 출력 시간에 관계된 모든 코딩된 화상들이, 그것들의 연관된 비-VCL NAL 단위들과 함께 AU를 구성한다고 가정된다.
HEVC 확장본들에서, 비트스트림이 하나 이상의 계층들을 가질 수도 있다. 최근 규격 초안에 따르면, IDR 및 BLA 계층 성분들 (화상들) 은 액세스 단위에서의 상이한 계층들에 걸쳐 정렬되어야 하는 반면, CRA 화상들에 대해 그러한 제한이 없다.
IRAP 화상들로서 모든 화상들을 갖지 않는 특정한 AU들에서 간단한 랜덤 액세스 또는 스플라이싱 동작들을 지원하는 메커니즘이 현재 없어서, 기껏해야 일부 계층 성분들의 NAL 단위 헤더들에서의 NAL 단위 유형 값들의 변경들이 필요하다. 랜덤 액세스 또는 비트스트림 스위칭이 기본 계층만이 CRA 화상인 액세스 단위로 수행되는 경우, 다른 IRAP 계층 성분이 당해 계층에서 발생하기까지 더 높은 계층 화상들을 올바르게 디코딩 및 출력하는 것이 가능하지 않다. 위의 단순한 랜덤 액세스 또는 비트스트림 스플라이싱 동작들을 지원하기 위해, 이러한 더 높은 계층 화상들의 적절한 핸들링이 필요하다.
본 개시물은 IRAP 화상들이 정렬되지 않은 (즉, AU에서의 모든 화상들이 IRAP 화상들인 것은 아님) AU들에서 랜덤 액세스 및 비트스트림 스플라이싱을 수행하는 수단을 제공하는 방법들을 제공하는 여러 예들을 설명한다. 예들 중 일부는 다음과 같다:
1. IRAP 화상들의 부분적 정렬을 갖는 AU들 (즉, 일부 계층 성분들이 IRAP 화상들인 반면 일부 다른 계층 성분들이 IRAP 화상들이 아닌 AU들) 을 포함하도록 IRAP AU들을 정의. 이러한 IRAP AU들은 부분적으로 정렬된 IRAP AU들이라고 지칭된다.
2. 부합하는 비트스트림이 부분적으로 정렬된 IRAP AU로 시작하는 것을 허용.
3. 스플라이싱이 부분적으로 정렬된 IRAP AU에서 수행되는 경우 비-디코딩가능인 계층 성분들의 표시를 제공.
4. 각각의 비-기본 계층 성분 (즉, 0과 동일한 nuh_layer_id를 갖는 계층에 속하지 않는 계층 성분) 에 대해 그것이 IRAP AU로부터 스플라이싱을 수행하는 경우 디코딩가능한지의 여부를 나타냄.
5. 자신들의 신택스 및 다른 특성들이 비트스트림 적합성 요건들을 준수할 것을 요구하는 비-디코딩가능 화상들의 디코딩 프로세스를 특정.
본 개시물의 하나의 특징은 모든 화상들이 IRAP인 것이 아닌 일부 액세스 단위들을 IRAP 액세스 단위로서 포함하는 개념을 수반한다. 이는 부분적으로 정렬된 IRAP 액세스 단위들을 정의함으로써 달성된다. 상이한 액세스 단위들의 IRAP 화상들의 정렬의 예시가 도 5에서 주어지고, 상세한 설명들이 다음의 섹션들에서 주어진다.
도 5는 액세스 단위들에서의 IRAP 화상들의 상이한 정렬의 일 예를 도시한다. AU들의 좌우 정렬은 그 AU들의 디코딩 순서를 나타내지 않는다. 도 6은 부분적으로 정렬된 IRAP AU에서의 스플라이싱의 일 예를 도시한다. ELDISC 화상들이 스플라이싱 동작으로 인한 비-디코딩가능인 화상들이다.
제 1 예가 아래에서 설명된다. 이 예에서, 디코딩 순서에서의 이전의 (부분적으로 정렬된) IRAP 액세스 단위로부터 시작하는 경우에 올바르게 디코딩가능하지 않는 비트스트림에서의 화상들은 새로운 NAL 단위 유형에 배정된다. 디코딩이 부분적으로 정렬된 IRAP AU로부터 시작하는 경우, 이들 화상들은 출력되지 않고 이용불가 화상들을 생성하는 프로세스는 호출된다. 덧붙여, AU에서의 IDR 화상들이 계층 교차 (cross-layer) 정렬되는 반면, BLA 화상은 계층 교차 정렬되지 않을 수도 있다고 가정된다.
예를 목적으로, 본 개시물은 다음의 정의들을 가정한다:
IRAP 액세스 단위 (AU): 계층 ID nuh_layer_id를 갖는 각각의 IRAP 화상에 대해, nuh_layer_id 미만의 계층 ID를 갖는 AU에서의 모든 화상들이 또한 IRAP인 하나 이상의 IRAP 화상들을 포함하는 액세스 단위.
정렬된 IRAP AU: AU에서의 모든 화상들이 IRAP 화상들인 IRAP AU.
부분적으로 정렬된 IRAP AU: 정렬된 IRAP AU가 아닌 IRAP AU.
ELDISC 화상: 영이 아닌 계층 ID layerId를 갖는 그리고 layerId 미만의 액세스 계층 ID를 갖는 부분적으로 정렬된 IRAP AU에 속하는 또는 layerId 이상의 액세스 계층 ID를 갖는 임의의 부분적으로 정렬된 IRAP AU에 디코딩 순서에서 선행하면서 디코딩 순서에서 후속 AU에 속하는 트레일링 trailing) 화상.
액세스 계층 ID: IRAP AU의 액세스 계층 ID는 IRAP AU에서의 모든 IRAP 화상들의 nuh_layer_id의 최대 값이다.
EL 화상들의 비-디코딩능력의 시그널링이 아래에서 논의된다.
NAL 단위 헤더 시맨틱스
아래에 주어진 표에서 도시되는 두 개의 NAL 단위 유형들 (ELDISC_R 및 ELDISC_N) 이 도입된다. NAL 단위 유형들의 시맨틱스에 대한 변경들이 또한 아래에서 설명된다. 변경들은 추가를 표현하는 이텔릭체 텍스트와 삭제를 표현하는 [removed: ""]를 사용하여 도시되어 있다.
forbidden_zero_bit가 0과 동일해야 한다.
nal_unit_type은 표 7-1에서 특정된 바와 같이 NAL 단위에 포함된 RBSP 데이터 구조의 유형을 특정한다.
UNSPEC48 내지 UNSPEC63의 범위의 nal_unit_type을 갖는 NAL 단위들은, 그것들에 대해 시맨틱스가 특정되지 않으며, 이 스펙 (Specification) 에서 특정된 디코딩 프로세스에 영향을 미치지 않을 것이다.
주 1 - UNSPEC48 내지 UNSPEC63의 범위에서의 NAL 단위 유형들은 애플리케이션에서 결정된 대로 사용될 수도 있다. nal_unit_type의 이들 값들에 대한 디코딩 프로세스는 이 스펙에서 특정되지 않는다. 상이한 애플리케이션들이 상이한 목적들을 위해 이들 NAL 단위 유형들을 사용할 수 있으므로, 이들 nal_unit_type 값들을 갖는 NAL 단위들을 생성하는 인코더들의 설계에서 그리고 이들 nal_unit_type 값들을 갖는 NAL 단위들의 콘텐츠를 해석하는 디코더들의 설계에서 특별한 주의가 행사되어야만 한다.
비트스트림의 디코딩 단위들에서 데이터의 양을 결정하는 것 (WD 10의 부록 C에서 특정된 바와 같음) 이외의 목적들을 위해, 디코더들은 nal_unit_type의 유보된 (reserved) 값들을 사용하는 모든 NAL 단위들의 콘텐츠들을 무시할 (비트스트림으로부터 제거할 그리고 버릴) 것이다.
주 2 - 이 요건은 이 스펙에 대한 호환가능 확장본들의 추가의 정의를 허용한다.
표 7-1 - NAL 단위 유형 코드들 및 NAL 단위 유형 클래스들
주 3 - CRA 화상이 비트스트림에 존재하는 연관된 RASL 또는 RADL 화상들을 가질 수도 있다.
주 4 - BLA_W_LP와 동일한 nal_unit_type을 갖는 BLA 화상이 비트스트림에 존재하는 연관된 RASL 또는 RADL 화상들을 가질 수도 있다. BLA_W_RADL과 동일한 nal_unit_type을 갖는 BLA 화상이 비트스트림에 존재하는 연관된 RASL 화상들을 갖지 않지만, 비트스트림에서 연관된 RADL 화상들을 가질 수도 있다. BLA_N_LP와 동일한 nal_unit_type을 갖는 BLA 화상이 비트스트림에 존재하는 연관된 리딩 화상들을 갖지 않는다.
주 5 - IDR_N_LP와 동일한 nal_unit_type을 갖는 IDR 화상이 비트스트림에 존재하는 연관된 리딩 화상들을 갖지 않는다. IDR_W_RADL과 동일한 nal_unit_type을 갖는 IDR 화상이 비트스트림에 존재하는 연관된 RASL 화상들을 갖지 않지만, 비트스트림에서 연관된 RADL 화상들을 가질 수도 있다.
주 6 - 서브-계층 비-참조 화상이 동일한 값의 TemporalId를 갖는 임의의 화상의 RefPicSetStCurrBefore, RefPicSetStCurrAfter 및 RefPicSetLtCurr 중 임의의 것 내에 포함되지 않고, 동일한 값의 TemporalId를 갖는 다른 화상들의 디코딩능력에 영향을 미치는 일 없이 버려질 수도 있다.
액세스 단위의 모든 코딩된 슬라이스 세그먼트 NAL 단위들이 동일한 값의 nal_unit_type을 가질 것이다. 화상 또는 액세스 단위가 화상 또는 액세스 단위의 코딩된 슬라이스 세그먼트 NAL 단위들의 nal_unit_type과 동일한 nal_unit_type을 갖는 것이라고 또한 언급된다.
화상이 ELDISC_N, TRAIL_N, TSA_N, STSA_N, RADL_N, RASL_N, RSV_VCL_N10, RSV_VCL_N12, 또는 RSV_VCL_N14와 동일한 nal_unit_type을 갖는다면, 그 화상은 서브-계층 비-참조 화상이다. 그렇지 않으면, 그 화상은 서브-계층 참조 화상이다.
IRAP AU에 속하는 ELDISC 화상이 서브-계층 참조 화상이라는 것이 비트스트림 적합성의 요건이다.
디코딩 순서에서 비트스트림에서의 첫 번째 화상 이외의 각각의 화상이, 디코딩 순서에서 이전의 IRAP 화상과 연관되는 것으로 간주된다.
화상이 리딩 화상인 경우, 그 화상은 RADL 또는 RASL 화상일 것이다.
화상이 트레일링 화상인 경우, 그 화상은 RADL 또는 RASL 화상이 아닐 것이다.
화상이 리딩 화상인 경우, 그 화상은, 디코딩 순서에서, 동일한 IRAP 화상에 연관되는 모든 트레일링 화상들에 선행할 것이다.
BLA_W_RADL 또는 BLA_N_LP와 동일한 nal_unit_type을 갖는 BLA 화상에 연관되는 RASL 화상들은 비트스트림에는 존재하지 않을 것이다.
IDR 화상에 연관되는 RASL 화상들은 비트스트림에 존재하지 않을 것이다.
BLA_N_LP와 동일한 nal_unit_type을 갖는 BLA 화상에 연관되는 또는 IDR_N_LP와 동일한 nal_unit_type을 갖는 IDR 화상에 연관되는 RADL 화상들은 비트스트림에 존재하지 않을 것이다.
주 7 - 각각의 파라미터 세트가 활성화될 것이 필요한 경우 (비트스트림에서 또는 이 스펙에서 특정되지 않은 외부 수단에 의해) 이용가능하다면, IRAP 액세스 단위 전의 모든 액세스 단위들을 버림으로써 IRAP 액세스 단위의 포지션에서 랜덤 액세스를 수행하는 것 (과 IRAP 화상과 디코딩 순서에서의 모든 후속 비-RASL 화상들을 올바르게 디코딩하는 것) 이 가능하다.
디코딩 순서에서 IRAP 화상에 선행하는 1과 동일한 PicOutputFlag를 갖는 임의의 화상이, 출력 순서에서 IRAP 화상에 선행할 것이고 출력 순서에서 IRAP 화상에 연관된 임의의 RADL 화상에 선행할 것이다.
CRA 또는 BLA 화상에 연관된 임의의 RASL 화상이 CRA 또는 BLA 화상에 연관된 임의의 RADL 화상에 출력 순서에서 선행할 것이다.
CRA 화상에 연관된 임의의 RASL 화상이, 디코딩 순서에서 CRA 화상에 선행하는 임의의 IRAP 화상을 출력 순서에서 뒤따를 것이다.
sps_temporal_id_nesting_flag가 1과 동일하고 TemporalId이 0보다 큰 경우, nal_unit_type은 TSA_R, TSA_N, RADL_R, RADL_N, RASL_R, 또는 RASL_N과 동일할 것이다.
nuh_layer_id는 0과 동일할 것이다. nuh_layer_id의 다른 값들은 ITU-T|ISO/IEC에 의해 향후 특정될 수도 있다. 비트스트림의 디코딩 단위들에서 데이터의 양을 결정하는 것 (부록 C에서 특정된 바와 같음) 이외의 목적들을 위해, 디코더들은 0과 동일하지 않는 nuh_layer_id의 값들을 갖는 모든 NAL 단위들을 무시할 (비트스트림으로부터 제거할 그리고 버릴) 것이다.
주 8 - 이 스펙의 미래의 스케일러블 또는 3D 비디오 코딩 확장본들에서, 이 신택스 엘리먼트는 CVS에 존재할 수도 있는 부가적인 계층들을 식별하는데 사용될 것이며, 계층이, 예컨대 공간적 스케일러블 계층, 품질 스케일러블 계층, 텍스처 뷰 또는 깊이 뷰일 수도 있다는 것이 예상된다.
nal_unit_type이 ELDISC_R 또는 ELDISC_N과 동일하면, 즉, 코딩된 슬라이스 세그먼트가 ELDISC 화상에 속한다면, nuh_layer_id의 값은 0보다 클 것이다.
대안으로, nal_unit_type이 ELDISC_R 또는 ELDISC_N과 동일하면, 즉, 코딩된 슬라이스 세그먼트가 ELDISC 화상에 속한다면, nuh_layer_id의 값은 다음과 같이 제한될 것이다:
- 현재 AU가 IRAP AU이면, nuh_layer_id는 현재 AU의 액세스 계층 ID보다 더 클 것이다
- 아니면, nuh_layer_id의 값은 이전의 IRAP AU의 액세스 계층 ID보다 더 클 것이다
nuh_temporal_id_plus1 빼기 1이 NAL 단위에 대한 시간적 식별자를 특정한다. nuh_temporal_id_plus1의 값은 0과 동일하지 않을 것이다.
변수 TemporalId는 다음과 같이 특정된다:
TemporalId = nuh_temporal_id_plus1 - 1 (7-1)
nal_unit_type이 BLA_W_LP 내지 RSV_IRAP_VCL23의 범위에 있다면, 즉, 코딩된 슬라이스 세그먼트가 IRAP 화상에 속한다면, TemporalId는 0과 동일할 것이다. 그렇지 않고, nal_unit_type이 TSA_R, TSA_N, STSA_R, 또는 STSA_N과 동일한 경우, TemporalId는 0과 동일하지 않을 것이다.
TemporalId의 값은 액세스 단위의 모든 VCL NAL 단위들에 대해 동일할 것이다. 액세스 단위의 TemporalId의 값은 그 액세스 단위의 VCL NAL 단위들의 TemporalId의 값이다.
비-VCL NAL 단위들에 대한 TemporalId의 값은 다음과 같이 제약된다:
- nal_unit_type이 VPS_NUT 또는 SPS_NUT와 동일하면, TemporalId는 0과 동일할 것이고 NAL 단위를 포함하는 액세스 단위의 TemporalId는 0과 동일할 것이다.
- 그렇지 않고 nal_unit_type이 EOS_NUT 또는 EOB_NUT와 동일하면, TemporalId는 0과 동일할 것이다.
- 그렇지 않고, nal_unit_type이 AUD_NUT 또는 FD_NUT와 동일하면, TemporalId는 NAL 단위를 포함하는 액세스 단위의 TemporalId와 동일할 것이다.
- 그렇지 않으면, TemporalId는 NAL 단위를 포함하는 액세스 단위의 TemporalId 이상일 것이다.
주 9 - NAL 단위가 비-VCL NAL 단위인 경우, TemporalId의 값은 비-VCL NAL 단위가 적용되는 모든 액세스 단위들의 TemporalId 값들의 최소 값과 동일하다. nal_unit_type이 PPS_NUT와 동일한 경우, TemporalId는 포함하는 액세스 단위의 TemporalId 이상일 수도 있는데, 모든 PPS들이 비트스트림의 시작부분에 포함될 수도 있고 첫 번째 코딩된 화상이 0과 동일한TemporalId를 갖기 때문이다. nal_unit_type이 PREFIX_SEI_NUT 또는 SUFFIX_SEI_NUT와 동일한 경우, TemporalId는 포함하는 액세스 단위의 TemporalId 이상일 수도 있는데, SEI NAL 단위가, TemporalId 값들이 SEI NAL 단위를 포함하는 액세스 단위의 TemporalId보다 큰 액세스 단위들을 포함하는 비트스트림 서브 세트에 적용하는 정보를, 예컨대 버퍼링 기간 SEI 메시지 또는 화상 타이밍 SEI 메시지 내에 포함할 수도 있어서이다.
대안으로, ELDISC 화상들에 대한 새로운 NAL 단위 유형들이 없다. ELDISC 화상들이 트레일링 화상, TSA 화상 또는 STSA 화상일 수 있다는 것에 여기서 주의해야만 한다.
일반 디코딩 프로세스가 아래에서 논의된다.
디코딩 프로세스는 SHVC WD1 일부 변경들에서 하위절 F.8에서 정의된 바와 동일하고, SHVC WD1 및 HEVC WD10에 대한 디코딩 프로세스에서의 각각의 수정된 하위절에서의 변경들이 아래에서 주어진다.
SHVC WD1에서의 하위절 F.8.1에 대한 변경들이 아래에서 논의된다.
하위절 8.1에서의 스펙들이 다음의 부가물들에 적용된다. 현재 화상이 0보다 큰 nuh_layer_id를 갖는 경우, 다음이 적용된다.
- separate_colour_plane_flag의 값에 의존하여, 디코딩 프로세스는 다음과 같이 구조화된다:
- separate_colour_plane_flag가 0과 동일하면, 다음의 디코딩 프로세스가 출력인 현재 화상으로 한번 호출된다.
- 그렇지 않으면 (separate_colour_plane_flag가 1과 동일하면), 다음의 디코딩 프로세스가 3 번 호출된다. 디코딩 프로세스에 대한 입력들은 동일한 값의 colour_plane_id를 갖는 코딩된 화상의 모든 NAL 단위들이다. colour_plane_id의 특정 값을 갖는 NAL 단위들의 디코딩 프로세스는, 당해 특정 값의 colour_plane_id를 갖는 모노크롬 컬러 포맷을 갖는 CVS만이 비트스트림에 존재하는 것처럼 특정된다. 세 개의 디코딩 프로세스들의 각각의 출력은 SL, SCb, 및 SCr에 각각 배정된 0, 1 및 2와 동일한 colour_plane_id를 갖는, 현재 화상의 3 개의 샘플 어레이들 중 하나에 배정된다.
주 - 변수 ChromaArrayType은, separate_colour_plane_flag가 1과 동일하고 chroma_format_idc가 3과 동일한 경우 0과 동일한 것으로 도출된다. 디코딩 프로세스에서, 이 변수의 값은 평가되어 모노크롬 화상들의 동작과 동일한 동작들이 되게 한다 (chroma_format_idc가 0과 동일한 경우임).
- 디코딩 프로세스는 현재 화상 CurrPic에 대해 다음과 같이 동작한다.
- 변수 각각의 화상에 대한 NoELDiscPicDecodeFlag는 NoELDiscPicDecodeFlag의 도출이란 타이틀의 섹션에서 특정된 바와 같이 도출된다.
- CurrPic이 영과 동일한 nuh_layer_id를 갖고 IRAP AU에 속한다면, AU에 대한 변수 NoRaslOutputFlag는 다음과 같이 도출된다.
o IRAP AU에서 0과 동일한 nuh_layer_id를 갖는 화상이 1과 동일한 NoRaslOutputFlag를 갖는다면, 현재 IRAP AU에 대한 변수 NoRaslOutputFlag는 1과 동일하게 설정된다.
o 그렇지 않으면, 현재 IRAP AU에 대한 NoRaslOutputFlag는 0과 동일하게 설정된다.
- 현재 화상의, 디코딩 순서에서의, 제 1 슬라이스의 슬라이스 세그먼트 헤더의 디코딩의 경우, 하위절 F.8.1.1에서 특정된 0보다 큰 nuh_layer_id를 갖는 코딩된 화상의 디코딩을 시작하는 디코딩 프로세스가 호출된다.
- ViewId[ nuh_layer_id ]가 0보다 크면, 하위절 G.8.1에서 특정된 0보다 큰 nuh_layer_id를 갖는 코딩된 화상에 대한 디코딩 프로세스가 호출된다.
- 그렇지 않고, DependencyId[nuh_layer_id]가 0보다 크면, 하위절 F.8.1.1에서 특정된 0보다 큰 nuh_layer_id를 갖는 코딩된 화상에 대한 디코딩 프로세스가 호출된다.
- 현재 화상의 모든 슬라이스들이 디코딩된 후, 하위절 F.8.1.2에서 특정된 0보다 큰 nuh_layer_id를 갖는 코딩된 화상의 디코딩의 종료를 위한 디코딩 프로세스가 호출된다.
NoELDiscPicDecodeFlag의 도출
변수 NoELDiscPicDecodeFlag는 다음과 같이 도출된다:
- 현재 AU가 IRAP AU이면, 다음이 적용된다:
o NoRaslOutputFlag가 현재 AU에서의 0과 동일한 nuh_layer_id를 갖는 화상에 대해 1과 동일하면, 다음이 적용된다:
o
그렇지 않으면 (현재 AU에서의 0과 동일한 nuh_layer_id를 갖는 화상이 0과 동일한 NoRaslOutputFlag를 갖는 CRA 화상이면), 다음이 적용된다:
-
그렇지 않으면, 다음이 적용된다:
o
NoELDiscPicDecodeFlag는 동일한 계층에서, 디코딩 순서에서의 선행 화상의 NoELDiscPicDecodeFlag의 값과 동일하게 설정된다.
대안으로, NoELDiscPicDecodeFlag는 ELDISC 화상들에 대해 유추되는 것이 아니고 그보다는 슬라이스 헤더에서 시그널링된 또는 외부 수단을 통해 특정된다.
대안으로, 각각의 IRAP AU에 대해, 어떤 화상들이 당해 특정 AU에서의 IRAP인지를 나타내는 계층 세트가 시그널링되며; 계층 ID들이 계층 세트에 포함되지 않는 IRAP AU에서의 화상들은 비-디코딩가능으로 간주될 것이다. NoELDiscPicDecodeFlag의 값은 시그널링된 계층 세트에 포함되지 않는 CVS 내의 모든 화상들에 대해 1과 동일한 것으로 유추될 수 있다. 이 계층 세트는 SEI 메시지를 사용하여 또는 외부 수단을 통해 중 어느 하나로 시그널링될 수도 있다.
SHVC WD1에서의 하위절 F.8.1.1에 대한 변경들이 아래에서 논의된다.
이 하위절에서 언급되는 각각의 화상이 완전히 코딩된 화상이다.
디코딩 프로세스는 현재 화상 CurrPic에 대해 다음과 같이 동작한다.
1. NAL 단위들의 디코딩은 하위절 8.2에서 특정된다.
2. 하위절 8.3에서의 이 프로세싱들은 신택스 슬라이스 세그먼트 계층 및 그 위에서의 엘리먼트들을 사용하여 다음의 디코딩 프로세스들을 특정한다.
- 화상 순서 카운트에 관련한 변수들과 함수들이 하위절 8.3.1에서 도출된다. 이는 화상의 제 1 슬라이스 세그먼트에 대해서만 호출될 필요가 있다. [removed: "PicOrderCntVal이 액세스 단위 내에서 변경없이 남아 있을 것이라는 것이 비트스트림 적합성의 요건이다."]
- 하위절 8.3.2에서의 RPS에 대한 디코딩 프로세스는 CurrPic의 그것과 동일한 nuh_layer_id를 갖는 화상들에 대해 호출되며, 참조 화상들은 "참조를 위해 미사용됨" 또는 "장기 참조를 위해 사용됨"으로서 마킹될 수도 있다. 이는 화상의 제 1 슬라이스 세그먼트에 대해서만 호출될 필요가 있다.
- CurrPic이 BLA 화상이거나 또는 1과 동일한 NoRaslOutputFlag를 갖는 CRA 화상 또는 1과 동일한 NoELDiscPicDecodeFlag를 갖는 ELDISC 화상이고 IRAP AU에 속하는 경우, 하위절 8.3.3에 특정된 이용불가 참조 화상들을 생성하는 디코딩 프로세스는 호출되는데, 이 디코딩 프로세스는 화상의 제 1 슬라이스 세그먼트에 대해서만 호출될 것이 필요하다.
SHVC WD1에서의 하위절 F.8.1.2에 대한 변경들이 아래에서 논의된다.
PicOutputFlag는 다음과 같이 설정된다:
- 현재 화상이 RASL 화상이고 연관된 IRAP 화상의 NoRaslOutputFlag가 1과 동일거나, 또는 1과 동일한 NoELDiscPicDecodeFlag를 갖는 ELDISC 화상이면, PicOutputFlag는 0과 동일하게 설정된다.
- 그렇지 않으면, PicOutputFlag는 pic_output_flag와 동일하게 설정된다.
다음이 적용된다:
- 디코딩된 화상은 "단기 참조를 위해 사용됨"으로서 마킹된다.
- TemporalId가 HighestTid와 동일한 경우, 하위절 F.8.1.2.1에서 특정된 층 간 예측에 필요하지 않는 서브-계층 비-참조 화상들에 대한 마킹 프로세스는 nuh_layer_id와 동일한 latestDeclayerId를 입력으로 하여 호출된다.
HEVC WD10에서의 하위절 8.3.1.에 대한 변경들이 아래에서 논의된다.
이 프로세스의 출력은 PicOrderCntVal, 즉, 현재 화상의 화상 순서 카운트이다.
화상 순서 카운트들이 화상들을 식별하는데, 병합 모드 및 모션 벡터 예측에서의 모션 파라미터들을 도출하기 위해, 그리고 디코더 적합성 체킹 (하위절 C.5 참조) 을 위해 사용된다.
각각의 코딩된 화상은 PicOrderCntVal라고 지칭되는 화상 순서 카운트 변수와 연관된다.
현재 화상이 1과 동일한 NoRaslOutputFlag를 갖는 IRAP 액세스 단위 [removed: "화상"]에 속하지 않는 [removed: "이 아닌"] 경우, 변수들 (prevPicOrderCntLsb 및 prevPicOrderCntMsb) 은 다음과 같이 도출된다:
- prevTid0Pic을 0과 동일한 TemporalId를 갖고 RASL 화상, RADL 화상, 또는 서브-계층 비-참조 화상이 아닌 디코딩 순서에서 이전의 화상이라고 하자.
- 변수 prevPicOrderCntLsb는 prevTid0Pic의 slice_pic_order_cnt_lsb과 동일하게 설정된다.
- 변수 prevPicOrderCntMsb는 prevTid0Pic의 PicOrderCntMsb와 동일하게 설정된다.
현재 화상의 변수 PicOrderCntMsb는 다음과 같이 도출된다:
- 현재 화상이 1과 동일한 NoRaslOutputFlag를 갖는 IRAP 액세스 단위 [removed: "화상"]에 속하면 [removed: "이면"], PicOrderCntMsb는 0과 동일하게 설정된다.
- 그렇지 않으면, PicOrderCntMsb는 다음과 같이 도출된다:
if((slice_pic_order_cnt_lsb < prevPicOrderCntLsb ) &&
((prevPicOrderCntLsb - slice_pic_order_cnt_lsb) >= (MaxPicOrderCntLsb / 2)))
PicOrderCntMsb = prevPicOrderCntMsb + MaxPicOrderCntLsb (8-1)
else if((slice_pic_order_cnt_lsb > prevPicOrderCntLsb) &&
((slice_pic_order_cnt_lsb - prevPicOrderCntLsb) > (MaxPicOrderCntLsb/2)))
PicOrderCntMsb = prevPicOrderCntMsb - MaxPicOrderCntLsb
else
PicOrderCntMsb = prevPicOrderCntMsb
PicOrderCntVal는 다음과 같이 도출된다:
PicOrderCntVal = PicOrderCntMsb + slice_pic_order_cnt_lsb (8-2)
주 1 - 모든 IDR 화상들은 0과 동일한 PicOrderCntVal를 가질 것인데, slice_pic_order_cnt_lsb가 IDR 화상들에 대해 0과 동일한 것으로 유추되고 prevPicOrderCntLsb 및 prevPicOrderCntMsb는 양쪽 모두가 0으로 설정된다.
PicOrderCntVal의 값은 -231 내지 231 - 1의 범위에 있을 것이다. 하나의 CVS에서, 임의의 두 개의 코딩된 화상들에 대한 PicOrderCntVal 값들은 동일하지 않을 것이다.
함수 PicOrderCnt(picX)는 다음과 같이 특정된다:
PicOrderCnt(picX) = 화상 picX의 PicOrderCntVal (8-3)
함수 DiffPicOrderCnt(picA, picB)는 다음과 같이 특정된다:
DiffPicOrderCnt(picA, picB) = PicOrderCnt(picA) - PicOrderCnt(picB) (8-4)
비트스트림은 -215 내지 215 - 1의 범위에 있지 않는, 디코딩 프로세스에서 사용되는 DiffPicOrderCnt(picA, picB) 의 값들이 되는 데이터를 포함하지 않을 것이다.
주 2 - X를 현재 화상 그리고 Y 및 Z를 동일한 시퀀스에서의 2 개의 다른 화상들이라고 하면, DiffPicOrderCnt(X, Y) 및 DiffPicOrderCnt(X, Z) 양쪽 모두가 양이거나 또는 양쪽 모두가 음인 경우에 Y 및 Z는 X로부터의 동일한 출력 순서 방향이라고 간주한다.
HEVC WD10에서의 하위절 8.3.2에 대한 변경들이 아래에서 논의된다.
이 프로세스는, 슬라이스 헤더의 디코딩 후이지만 임의의 코딩 단위의 디코딩 전 및 서브클래스 8.3.3에서 특정된 바와 같은 슬라이스에 대한 참조 화상 리스트 구축을 위한 디코딩 프로세스 전에, 화상 당 한 번 호출된다. 이 프로세스는 DPB에서의 하나 이상의 참조 화상들이 "참조를 위해 미사용됨" 또는 "장기 참조를 위해 사용됨"으로서 마킹되게 할 수도 있다.
주 1 - RPS는 현재 및 미래의 코딩된 화상들의 디코딩 프로세스에서 사용되는 참조 화상들의 완전한 설명이다. RPS 시그널링은 RPS에 포함된 모든 참조 화상들이 명시적으로 열거된다는 점에서 명시적이다.
DPB에서의 디코딩된 화상이 "참조를 위해 미사용됨", "단기 참조를 위해 사용됨", 또는 "장기 참조를 위해 사용됨"으로서, 하지만 디코딩 프로세스의 동작 동안의 임의의 주어진 순간에 이들 세 개 중 하나만이 마킹될 수 있다. 이들 마킹들 중 하나를 화상이라고 암시적으로 배정하는 것은 해당하는 경우 이들 마킹들의 다른 것들을 제거한다. 화상이 "참조를 위해 사용됨"으로서 언급되는 경우, 이는 "단기 참조를 위해 사용됨" 또는 "장기 참조를 위해 사용됨" (하지만 양쪽 모두는 아님) 으로서 마킹되는 화상을 총괄하여 지칭한다.
현재 화상이 1과 동일한 NoRaslOutputFlag를 갖는 IRAP AU[removed: "화상"]에 속하는 경우, 현재 DPB 내의 모든 참조 화상들은 (만약 있다면) "참조를 위해 미사용됨"으로서 마킹된다.
단기 참조 화상들이 그것들의 PicOrderCntVal 값들에 의해 식별된다. 장기 참조 화상들은 그것들의 PicOrderCntVal 값들 또는 그것들의 slice_pic_order_cnt_lsb 값들 중 어느 하나에 의해 식별된다.
…
- 현재 화상이 현재 화상의 그것과 동일한 TemporalId를 갖는 STSA 화상을 디코딩 순서에서 뒤따르는 화상인 경우, 디코딩 순서에서 STSA 화상에 선행하는 RefPicSetStCurrBefore, RefPicSetStCurrAfter, 또는 RefPicSetLtCurr에 포함된 현재 화상의 그것과 동일한 TemporalId를 갖는 화상이 없을 것이다.
- 현재 화상이 CRA 화상인 경우, 디코딩 순서에서 임의의 선행하는 IRAP 화상 (존재하는 경우임) 을 디코딩 순서에서 선행하는 RPS에 포함된 화상이 없을 것이다.
- 현재 화상이 1과 동일한 NoELDiscPicDecodeFlag를 갖는 ELDISC 화상이 아닌 트레일링 화상인 경우, 하위절 8.3.3에서 특정된 바와 같은 이용불가 참조 화상들을 생성하는 디코딩 프로세스에 의해 생성되었던 화상이 RefPicSetStCurrBefore, RefPicSetStCurrAfter, 또는 RefPicSetLtCurr에서 없을 것이다.
- 현재 화상이 트레일링 화상인 경우, 출력 순서 또는 디코딩 순서에서 연관된 IRAP 화상에 선행하는 화상이 RPS에서 없을 것이다.
…
제 2 예가 아래에서 설명된다. 이 예는 제 1 예와 유사하지만, 새로운 NAL 단위 유형이 정의되지 않는다. 슬라이스 헤더에서의 하나의 유보된 플래그는 슬라이스가 IRAP AU에 속한 화상에 속하는지의 여부를 나타내는데 이용된다.
슬라이스 헤더 세그먼트 신택스
num_extra_slice_header_bits의 신택스 엘리먼트들은 아래에 보인 바와 같이 변경되는데, 이텔릭체는 추가를 나타내고 [removed: ""]는 삭제를 나타낸다.
num_extra_slice_header_bits는 PPS를 참조하는 코딩된 화상들에 대해 슬라이스 헤더 RBSP에서 존재하는 여분의 슬라이스 헤더 비트들의 수를 나타낸다[removed: "여분의 슬라이스 헤더 비트들이 존재하지 않음을 특정하는 0과 동일하다"]. num_extra_slice_header_bits는 [removed: "이 스펙의 이 버전에 부합하는 비트스트림들에서 0"] 1과 동일하거나 또는 1보다 클 것이다. num_extra_slice_header_bits에 대한 다른 값들은 ITU-T | ISO/IEC에 의한 향후의 사용을 위해 유보된다. 그러나, 디코더들은 num_extra_slice_header_bits가 임의의 값을 갖는 것을 허용한다.
slice_in_irap_au_flag의 신택스는 다음과 같이 특정된다:
1과 동일한
slice_in_irap_au_flag
는 슬라이스가 IRAP AU에 속하는 화상에 존재함을 특정한다. 0과 동일한 slice_in_irap_au_flag는 슬라이스가 IRAP AU에 속하지 않는 화상에 존재함을 특정한다.
제 3 예가 아래에서 설명된다. 이 예에서, IRAP AU들은 0과 동일한 nuh_layer_id를 갖는 IRAP 화상을 포함하는 임의의 AU를 포함한다. 디코딩이 디코딩 순서에서 현재 AU 또는 이전의 IRAP AU인 IRAP AU로부터 시작하는 경우, 두 개의 부가적인 IRAP NAL 단위 유형들이 비트스트림의 각각의 계층에서의 첫 번째 IDR 화상을 나타내는데 사용된다. 덧붙여서, 두 개 이상의 NAL 단위 유형들이 비트스트림이 스플라이싱되는 경우에 디코딩가능하지 않을 그들 화상들을 나타내는데 사용될 것이다. BLA 화상들 및 IDR 화상들이 계층 교차 정렬되지 않을 수도 있다고 가정된다.
이 예는 다음의 정의들을 가정한다:
IRAP 액세스 단위 (AU): 0과 동일한 nuh_layer_id를 갖는 AU에서의 화상이 IRAP 화상인 하나 이상의 IRAP 화상들을 포함하는 액세스 단위.
졍렬된 IRAP AU: AU에서의 모든 화상들이 IRAP 화상들인 IRAP AU.
부분적으로 정렬된 IRAP AU: 정렬된 IRAP AU이 아닌 그리고 layerId과 동일한 nuh_layer_id를 갖는 AU에서의 모든 IRAP 화상에 대해, layerId 미만의 nuh_layer_id 값을 갖는 AU에서의 모든 화상이 또한 IRAP 화상인 IRAP AU.
비-정렬된 IRAP AU: 정렬된 IRAP AU나 부분적으로 정렬된 IRAP AU가 아닌 IRAP AU.
계층-스위치 IRAP AU: IRAP AU가 아닌 그리고 적어도 하나의 IRAP 화상을 포함하는 AU.
액세스 계층 ID: IRAP AU의 액세스 계층 ID는 layerId 이하의 nuh_layer_id를 갖는 AU에서의 모든 화상들이 IRAP 화상들인 nuh_layer_id layerId의 최대 값이다.
계층 교차 랜덤 액세스 스킵 화상: layerId 미만의 액세스 계층 ID를 갖는 IRAP AU에 속하는, 또는 layerId 미만의 액세스 계층 ID를 갖는 IRAP AU에 디코딩 순서에서 뒤를 잇는 그리고 다음의 IRAP AU에 디코딩 순서에서 선행하는 그리고 또한 layerId와 동일한 nuh_layer_id를 갖는 IRAP 화상을 포함하는계층-스위치 IRAP AU에 디코딩 순서에서 선행하는 AU에 속하는, layerId와 동일한 nuh_layer_id를 갖는 화상.
CL-RASP: CL_RAS_N 또는 CL_RAS_R와 동일한 nal_unit_type를 갖는 화상.
IRAP AU에 속하는 계층 교차 랜덤 액세스 스킵 화상이 서브-계층 참조 화상이라는 것이 비트스트림 적합성의 요건이다.
순간적 디코딩 리프레시 (IDR) 화상: 각각의 VCL NAL 단위가 BL_IDR_W_RADL, BL_IDR_N_LP, IDR_W_RADL 또는 IDR_N_LP와 동일한 nal_unit_type을 갖는 IRAP 화상.
주 7 - IDR 화상이 I 슬라이스들만을 포함하고, 디코딩 순서에서 비트스트림에서의 첫 번째 화상일 수도 있거나, 또는 비트스트림에서 나중에 나타날 수도 있다. 0과 동일한 nuh_layer_id를 갖는 각각의 IDR 화상은 디코딩 순서에서 CVS의 첫 번째 화상이다. 각각의 VCL NAL 단위가 IDR_W_RADL과 동일한 nal_unit_type을 갖는 IDR 화상의 경우, 그것은 연관된 RADL 화상들을 가질 수도 있다. 각각의 VCL NAL 단위가 IDR_N_LP와 동일한 nal_unit_type을 갖는 IDR 화상의 경우, 그것은 임의의 연관된 리딩 화상들을 갖지 않는다. IDR 화상이 연관된 RASL 화상들을 갖지 않는다.
대안으로, 다음의 제약조건이 추가된다:
layerId와 동일한 nuh_layer_id의 IRAP 화상을 갖는 그리고 디코딩 순서에서의 선행하는 IRAP AU가 nuh_layer_id 미만의 액세스 계층 ID 값을 갖는 모든 현재 계층-스위치 IRAP AU에 대해, 계층_id_in_nuh[ layerIdInVps[layerId] - 1]과 동일한 nuh_layer_id의 IRAP 화상를 갖는 그리고 현재 계층-스위치 IRAP AU에 디코딩 순서에서 선행하는 및 이전의 IRAP AU에 디코딩 순서에서 뒤를 잇는 적어도 하나의 계층-스위치 AU이 있을 것이라는 것이 비트스트림 적합성의 요건이다.
NAL 단위 헤더 시맨틱스가 아래에서 논의된다.
네 개의 NAL 단위 유형들이 아래에 주어진 표에서 도시된다. NAL 단위들 유형의 시맨틱스에 대한 변경들은 추가를 나타내는 이텔릭체 텍스트와 삭제를 나타내는 [removed: ""]를 사용하여 표현된다.
forbidden_zero_bit는 0과 동일하게 될 것이다.
nal_unit_type은 표 7-1에 특정된 바와 같은 NAL 단위에 포함되는 RBSP 데이터 구조의 유형을 특정한다.
UNSPEC48 내지 UNSPEC63의 범위의 nal_unit_type을 갖는 NAL 단위들은, 그것들에 대해 시맨틱스가 특정되지 않으며, 이 스펙에서 특정된 디코딩 프로세스에 영향을 미치지 않을 것이다.
주 1 - UNSPEC48 내지 UNSPEC63의 범위에서의 NAL 단위 유형들은 애플리케이션에서 결정된 대로 사용될 수도 있다. nal_unit_type의 이들 값들에 대한 디코딩 프로세스는 이 스펙에서 특정되지 않는다. 상이한 애플리케이션들이 상이한 목적들을 위해 이들 NAL 단위 유형들을 사용할 수 있으므로, 이들 nal_unit_type 값들을 갖는 NAL 단위들을 생성하는 인코더들의 설계에서 그리고 이들 nal_unit_type 값들을 갖는 NAL 단위들의 콘텐츠를 해석하는 디코더들의 설계에서 특별한 주의가 행사되어야만 한다.
비트스트림의 디코딩 단위들에서 데이터의 양을 결정하는 것 (부록 C에서 특정된 바와 같음) 이외의 목적들을 위해, 디코더들은 nal_unit_type의 유보된 (reserved) 값들을 사용하는 모든 NAL 단위들의 콘텐츠들을 무시할 (비트스트림으로부터 제거할 그리고 버릴) 것이다.
주 2 - 이 요건은 이 스펙에 대한 호환가능 확장본들의 추가의 정의를 허용한다.
표 7-1 - NAL 단위 유형 코드들 및 NAL 단위 유형 클래스들
주 3 - CRA 화상이 비트스트림에 존재하는 연관된 RASL 또는 RADL 화상들을 가질 수도 있다.
주 4 - BLA_W_LP와 동일한 nal_unit_type을 갖는 BLA 화상이 비트스트림에 존재하는 연관된 RASL 또는 RADL 화상들을 가질 수도 있다. BLA_W_RADL과 동일한 nal_unit_type을 갖는 BLA 화상이 비트스트림에 존재하는 연관된 RASL 화상들을 갖지 않지만, 비트스트림에서 연관된 RADL 화상들을 가질 수도 있다. BLA_N_LP와 동일한 nal_unit_type을 갖는 BLA 화상이 비트스트림에 존재하는 연관된 리딩 화상들을 갖지 않는다.
주 5 - IDR_N_LP와 동일한 nal_unit_type을 갖는 IDR 화상이 비트스트림에 존재하는 연관된 리딩 화상들을 갖지 않는다. IDR_W_RADL과 동일한 nal_unit_type을 갖는 IDR 화상이 비트스트림에 존재하는 연관된 RASL 화상들을 갖지 않지만, 비트스트림에서 연관된 RADL 화상들을 가질 수도 있다.
주 6 - 서브-계층 비-참조 화상이 동일한 값의 TemporalId를 갖는 임의의 화상의 RefPicSetStCurrBefore, RefPicSetStCurrAfter 및 RefPicSetLtCurr 중 임의의 것 내에 포함되지 않고, 동일한 값의 TemporalId를 갖는 다른 화상들의 디코딩능력에 영향을 미치는 일 없이 버려질 수도 있다.
액세스 단위의 모든 코딩된 슬라이스 세그먼트 NAL 단위들이 동일한 값의 nal_unit_type을 가질 것이다. 화상 또는 액세스 단위가 화상 또는 액세스 단위의 코딩된 슬라이스 세그먼트 NAL 단위들의 nal_unit_type과 동일한 nal_unit_type을 갖는 것이라고 또한 언급된다.
화상이 CL_RAS_N, TRAIL_N, TSA_N, STSA_N, RADL_N, RASL_N, RSV_VCL_N10, RSV_VCL_N12, 또는 RSV_VCL_N14와 동일한 nal_unit_type을 갖는다면, 그 화상은 서브-계층 비-참조 화상이다. 그렇지 않으면, 그 화상은 서브-계층 참조 화상이다.
IRAP AU에 속하는 CL-RAS 화상이 서브-계층 참조 화상이라는 것이 비트스트림 적합성의 요건이다.
디코딩 순서에서 비트스트림에서의 첫 번째 화상 이외의 각각의 화상이, 디코딩 순서에서 이전의 IRAP 화상과 연관되는 것으로 간주된다.
화상이 리딩 화상인 경우, 그 화상은 RADL 또는 RASL 화상일 것이다.
화상이 트레일링 화상인 경우, 그 화상은 RADL 또는 RASL 화상이 아닐 것이다.
화상이 리딩 화상인 경우, 그 화상은, 디코딩 순서에서, 동일한 IRAP 화상에 연관되는 모든 트레일링 화상들에 선행할 것이다.
BLA_W_RADL 또는 BLA_N_LP와 동일한 nal_unit_type을 갖는 BLA 화상에 연관되는 RASL 화상들은 비트스트림에는 존재하지 않을 것이다.
IDR 화상에 연관되는 RASL 화상들은 비트스트림에 존재하지 않을 것이다.
BLA_N_LP와 동일한 nal_unit_type을 갖는 BLA 화상에 연관되는 또는 IDR_N_LP와 동일한 nal_unit_type을 갖는 IDR 화상에 연관되는 RADL 화상들은 비트스트림에 존재하지 않을 것이다.
주 7 - 각각의 파라미터 세트가 활성화될 것이 필요한 경우 (비트스트림에서 또는 이 스펙에서 특정되지 않은 외부 수단에 의해) 이용가능하다면, IRAP 액세스 단위 전의 모든 액세스 단위들을 버림으로써 IRAP 액세스 단위의 포지션에서 랜덤 액세스를 수행하는 것 (과 IRAP 화상과 디코딩 순서에서의 모든 후속 비-RASL 화상들을 올바르게 디코딩하는 것) 이 가능하다.
디코딩 순서에서 IRAP 화상에 선행하는 1과 동일한 PicOutputFlag를 갖는 임의의 화상이, 출력 순서에서 IRAP 화상에 선행할 것이고 출력 순서에서 IRAP 화상에 연관된 임의의 RADL 화상에 선행할 것이다.
CRA 또는 BLA 화상에 연관된 임의의 RASL 화상이 CRA 또는 BLA 화상에 연관된 임의의 RADL 화상에 출력 순서에서 선행할 것이다.
CRA 화상에 연관된 임의의 RASL 화상이, 디코딩 순서에서 CRA 화상에 선행하는 임의의 IRAP 화상을 출력 순서에서 뒤따를 것이다.
sps_temporal_id_nesting_flag가 1과 동일하고 TemporalId이 0보다 큰 경우, nal_unit_type은 TSA_R, TSA_N, RADL_R, RADL_N, RASL_R, 또는 RASL_N과 동일할 것이다.
nuh_layer_id는 0과 동일할 것이다. nuh_layer_id의 다른 값들은 ITU-T|ISO/IEC에 의해 향후 특정될 수도 있다. 비트스트림의 디코딩 단위들에서 데이터의 양을 결정하는 것 (부록 C에서 특정된 바와 같음) 이외의 목적들을 위해, 디코더들은 0과 동일하지 않는 nuh_layer_id의 값들을 갖는 모든 NAL 단위들을 무시할 (비트스트림으로부터 제거할 그리고 버릴) 것이다.
주 8 - 이 스펙의 미래의 스케일러블 또는 3D 비디오 코딩 확장본들에서, 이 신택스 엘리먼트는 CVS에 존재할 수도 있는 부가적인 계층들을 식별하는데 사용될 것이며, 계층이, 예컨대 공간적 스케일러블 계층, 품질 스케일러블 계층, 텍스처 뷰 또는 깊이 뷰일 수도 있다는 것이 예상된다.
nal_unit_type이 CL_RAS_R 또는 CL_RAS_N과 동일하면, 즉, 코딩된 슬라이스 세그먼트가 CL_RAS 화상에 속한다면, nuh_layer_id의 값은 0보다 클 것이다.
대안으로, nal_unit_type이 CL_RAS_R 또는 CL_RAS_N과 동일하면, 즉, 코딩된 슬라이스 세그먼트가 깨끗한 랜덤 액세스 스킵 화상에 속한다면, nuh_layer_id의 값은 다음과 같이 제한될 것이다:
- 현재 AU가 IRAP AU이면, nuh_layer_id는 현재 AU의 액세스 계층 ID보다 더 클 것이다
- 아니면, nuh_layer_id의 값은 디코딩 순서에서의 선행하는 IRAP AU의 액세스 계층 ID보다 더 클 것이다.
nuh_temporal_id_plus1 빼기 1이 NAL 단위에 대한 시간적 식별자를 특정한다. nuh_temporal_id_plus1의 값은 0과 동일하지 않을 것이다.
변수 TemporalId는 다음과 같이 특정된다:
TemporalId = nuh_temporal_id_plus1 - 1 (7-1)
nal_unit_type이 BLA_W_LP 내지 RSV_IRAP_VCL23의 범위에 있다면, 즉, 코딩된 슬라이스 세그먼트가 IRAP 화상에 속한다면, TemporalId는 0과 동일할 것이다. 그렇지 않고, nal_unit_type이 TSA_R, TSA_N, STSA_R, 또는 STSA_N과 동일한 경우, TemporalId는 0과 동일하지 않을 것이다.
TemporalId의 값은 액세스 단위의 모든 VCL NAL 단위들에 대해 동일할 것이다. 액세스 단위의 TemporalId의 값은 그 액세스 단위의 VCL NAL 단위들의 TemporalId의 값이다.
비-VCL NAL 단위들에 대한 TemporalId의 값은 다음과 같이 제약된다:
- nal_unit_type이 VPS_NUT 또는 SPS_NUT와 동일하면, TemporalId는 0과 동일할 것이고 NAL 단위를 포함하는 액세스 단위의 TemporalId는 0과 동일할 것이다.
- 그렇지 않고 nal_unit_type이 EOS_NUT 또는 EOB_NUT와 동일하면, TemporalId는 0과 동일할 것이다.
- 그렇지 않고, nal_unit_type이 AUD_NUT 또는 FD_NUT와 동일하면, TemporalId는 NAL 단위를 포함하는 액세스 단위의 TemporalId와 동일할 것이다.
- 그렇지 않으면, TemporalId는 NAL 단위를 포함하는 액세스 단위의 TemporalId 이상일 것이다.
주 9 - NAL 단위가 비-VCL NAL 단위인 경우, TemporalId의 값은 비-VCL NAL 단위가 적용되는 모든 액세스 단위들의 TemporalId 값들의 최소 값과 동일하다. nal_unit_type이 PPS_NUT와 동일한 경우, TemporalId는 포함하는 액세스 단위의 TemporalId 이상일 수도 있는데, 모든 PPS들이 비트스트림의 시작부분에 포함될 수도 있고 첫 번째 코딩된 화상이 0과 동일한TemporalId를 갖기 때문이다. nal_unit_type이 PREFIX_SEI_NUT 또는 SUFFIX_SEI_NUT와 동일한 경우, TemporalId는 포함하는 액세스 단위의 TemporalId 이상일 수도 있는데, SEI NAL 단위가, TemporalId 값들이 SEI NAL 단위를 포함하는 액세스 단위의 TemporalId보다 큰 액세스 단위들을 포함하는 비트스트림 서브 세트에 적용하는 정보를, 예컨대 버퍼링 기간 SEI 메시지 또는 화상 타이밍 SEI 메시지 내에 포함할 수도 있어서이다.
일반 디코딩 프로세스가 아래에서 논의된다.
디코딩 프로세스는 예 1에서 설명된 것과 유사하여, 1과 동일한 NoELDiscPicDecodeFlag를 갖는 ELDISC 화상들에 대한 디코딩 프로세스가 CL-RAS 화상들에 적용된다.
도 1은 본 개시물에서 설명되는 기법들을 이용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템 (10) 을 도시하는 블록도이다. 도 1에 도시된 바와 같이, 시스템 (10) 은 목적지 디바이스 (14) 에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 생성하는 소스 디바이스 (12) 를 포함한다. 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 이른바 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스 등을 포함하는 매우 다양한 디바이스들 중 임의의 것을 포함할 수도 있다. 몇몇 경우들에서, 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 무선 통신을 위해 장비될 수도 있다.
목적지 디바이스 (14) 는 디코딩될 인코딩된 비디오 데이터를 링크 (16) 를 통해 수신할 수도 있다. 링크 (16) 는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 인코딩된 비디오 데이터를 이동시킬 수 있는 임의의 유형의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 링크 (16) 는 소스 디바이스 (12) 가 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 직접 실시간으로 송신하는 것을 가능하게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 통신 표준, 이를테면 무선 통신 프로토콜에 따라 변조되고 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 이를테면 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는 패킷 기반 네트워크, 이를테면 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
대안으로, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스 (34) 로 출력될 수도 있다. 마찬가지로, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스 (34) 로부터 액세스될 수도 있다. 저장 디바이스 (34) 는 하드 드라이브, 블루 레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산형 또는 국소적으로 액세스되는 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스 (34) 는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오를 유지할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 해당할 수도 있다. 목적지 디바이스 (14) 는 저장 디바이스 (34) 로부터의 저장된 비디오 데이터에 스트리밍 또는 다운로드를 통해 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에 송신할 수 있는 임의의 유형의 서버일 수도 있다. 예의 파일 서버들은 웹 서버 (예컨대, 웹사이트용), FTP 서버, 네트워크 부속 스토리지 (network attached storage; NAS) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는 인터넷 접속을 포함한 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양쪽 모두의 조합을 포함할 수도 있다. 저장 디바이스 (34) 로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 양쪽 모두의 조합일 수도 있다.
본 개시물의 기법들은 무선 애플리케이션들 또는 설정 (setting) 들로 반드시 제한되지는 않는다. 그 기법들은, 다양한 멀티미디어 애플리케이션들, 이를테면 OTA (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 예컨대, 인터넷을 통한 스트리밍 비디오 송신들 중 임의의 것의 지원 하의 비디오 코딩, 데이터 저장 매체 상의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들에 적용될 수도 있다. 몇몇 예들에서, 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위해 단방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
도 1의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20) 및 출력 인터페이스 (22) 를 구비한다. 몇몇 경우들에서, 출력 인터페이스 (22) 는 변조기/복조기 (모뎀) 및/또는 송신기를 구비할 수도 있다. 소스 디바이스 (12) 에서, 비디오 소스 (18) 는 비디오 캡처 디바이스, 예컨대, 비디오 카메라, 이전에 캡처된 비디오를 담고 있는 비디오 아카이브, 비디오 콘텐츠 제공자로부터 비디오를 수신하는 비디오 피드 인터페이스, 및/또는 컴퓨터 그래픽 데이터를 소스 비디오로서 생성하는 컴퓨터 그래픽 시스템과 같은 소스, 또는 그런 소스들의 조합을 포함할 수도 있다. 하나의 예로서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 이른바 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 본 개시물에서 설명되는 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다.
캡처된, 사전-캡처된 (pre-captured), 또는 컴퓨터-생성된 비디오는 비디오 인코더 (12) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 데이터는 소스 디바이스 (12) 의 출력 인터페이스 (22) 를 통해 목적지 디바이스 (14) 로 직접 송신될 수도 있다. 인코딩된 비디오 데이터는 또한 (또는 대안으로) 목적지 디바이스 (14) 또는 다른 디바이스들에 의한 디코딩 및/또는 플레이백을 위한 나중의 액세스를 위해 저장 디바이스 (34) 상에 저장될 수도 있다.
목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 구비한다. 몇몇 경우들에서, 입력 인터페이스 (28) 는 수신기 및/또는 모뎀을 구비할 수도 있다. 목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 링크 (16) 를 통해 인코딩된 비디오 데이터를 수신한다. 링크 (16) 를 통해 통신되거나 또는 저장 디바이스 (34) 상에 제공된 인코딩된 비디오 데이터는, 비디오 데이터를 디코딩함에 있어서, 비디오 디코더, 이를테면 비디오 디코더 (30) 에 의한 사용을 위해 비디오 인코더 (20) 에 의해 생성된 다양한 신택스 엘리먼트들을 포함할 수도 있다. 이러한 신택스 엘리먼트들은 통신 매체 상에서 송신되는, 저장 매체 상에 저장되는, 또는 파일 서버에 저장되는 인코딩된 비디오 데이터에 포함될 수도 있다.
디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나, 또는 그것 외부에 있을 수도 있다. 몇몇 예들에서, 목적지 디바이스 (14) 는 통합형 디스플레이 디바이스를 포함할 수도 있고 또한 외부 디스플레이 디바이스와 인터페이싱하도록 구성될 수도 있다. 다른 예들에서, 목적지 디바이스 (14) 는 디스플레이 디바이스일 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다.
비디오 인코더 (20) 와 비디오 디코더 (30) 는 비디오 압축 표준, 이를테면 현재 개발 중인 고 효율 비디오 코딩 (HEVC) 표준에 따라 동작할 수도 있고, HEVC 테스트 모델 (HEVC Test Model; HM) 을 준수할 수도 있다. 대안으로, 비디오 인코더 (20) 와 비디오 디코더 (30) 는, 다르게는 MPEG-4, 파트 10, 고급 비디오 코딩 (AVC) 이라고 지칭되는 ITU-T H.264 표준과 같은 다른 독점 또는 업계 표준들, 또는 그런 표준들의 확장본들에 따라 동작할 수도 있다. 본 개시물의 기법들은, 그러나, 임의의 특정 코딩 표준으로 제한되지 않는다. 비디오 압축 표준들의 다른 예들은 MPEG-2와 ITU-T H.263을 포함한다.
비록 도 1에 도시되지 않았지만, 몇몇 양태들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각 오디오 인코더 및 디코더와 통합될 수도 있고, 적절한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함하여, 공통 데이터 스트림 또는 개별 데이터 스트림들에서의 오디오 및 비디오 양쪽 모두의 인코딩을 핸들링할 수도 있다. 적용가능하다면, 몇몇 예들에서, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 사용자 데이터그램 프로토콜 (UDP) 과 같은 다른 프로토콜들에 부합할 수도 있다.
비디오 인코더 (20) 와 비디오 디코더 (30) 각각은 다양한 적합한 인코더 회로, 이를테면 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적회로들 (ASIC들), 필드 프로그램가능 게이트 어레이들 (FPGA들), 개별 로직, 소프트웨어, 하드웨어, 펌웨어 또는 그것들의 임의의 조합 중 임의의 것으로서 구현될 수도 있다. 그 기법들이 소프트웨어에서 부분적으로 구현되는 경우, 디바이스가 본 개시물의 기법들을 수행하기 위해, 적합한 비일시적 컴퓨터 판독가능 매체 내에 소프트웨어에 대한 명령들을 저장하고 하나 이상의 프로세서들을 사용하여 하드웨어에서 그 명령들을 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들 내에 구비될 수도 있고, 그것들 중 어느 하나는 결합형 인코더/디코더 (CODEC) 의 일부로서 개별 디바이스 내에 통합될 수도 있다.
JCT-VC는 HEVC 표준을 개발하였다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HM) 이라고 지칭되는 비디오 코딩 디바이스의 모델에 기초했었다. HM은, 예컨대, ITU-T H.264/AVC에 따른 기존 디바이스들에 비해 비디오 코딩 디바이스들의 몇몇 부가적인 능력들을 상정한다. 예를 들어, H.264가 9 개의 인트라 예측 인코딩 모드들을 제공하는 반면, HM은 33 개 정도의 인트라 예측 인코딩 모드들을 제공할 수도 있다.
일반적으로, HM의 작업 모델은 비디오 프레임 또는 화상이 루마 및 크로마 샘플들 양쪽 모두를 포함하는 트리블록들 또는 최대 코딩 단위 (largest coding unit, LCU) 들의 시퀀스로 분할될 수도 있다는 것을 설명한다. 트리블록은 H.264 표준의 매크로블록과 유사한 목적을 가진다. 슬라이스가 코딩 순서에서 다수의 연속적인 트리블록들을 포함한다. 비디오 프레임 또는 화상이 하나 이상의 슬라이스들로 구획화될 수도 있다. 각각의 트리블록은 쿼드트리에 따라 코딩 단위 (CU) 들로 분할될 수도 있다. 예를 들어, 쿼드트리의 루트 노트인 트리블록이 4 개의 자식 노드들로 분할될 수도 있고, 각각의 자식 노드는 다시 부모 노드가 될 수도 있고 다른 4 개의 자식 노드들로 분할될 수도 있다. 쿼드트리의 리프 노드인, 최종의 분할되지 않는 자식 노드가 코딩 노드, 즉 코딩된 비디오 블록을 포함한다. 코딩된 비트스트림에 연관된 신택스 데이터는 트리블록이 분할될 수도 있는 최대 횟수를 정의할 수도 있고, 또한 코딩 노드들의 최소 사이즈를 정의할 수도 있다.
CU가 코딩 노드와 그 코딩 노드에 연관된 예측 단위 (prediction unit, PU) 들 및 변환 단위 (transform unit, TU) 들을 포함한다. CU의 사이즈가 코딩 노드의 사이즈에 대응하고 형상이 정사각형이어야만 한다. CU의 사이즈는 8x8 화소들로부터 최대 64x64 화소들 또는 그 이상을 갖는 트리블록의 사이즈까지의 범위일 수도 있다. 각각의 CU는 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다. CU에 연관된 신택스 데이터는, 예를 들어, 하나 이상의 PU들로의 CU의 구획화를 기술할 수도 있다. 구획화 모드들은 CU가 스킵되는지 또는 직접 모드 인코딩되는지, 인트라 예측 모드 인코딩되는지, 또는 인터 예측 모드 인코딩되는지의 사이에서 상이할 수도 있다. PU들은 형상이 정사각형이 아니도록 구획화될 수도 있다. CU에 연관된 신택스 데이터는, 예를 들어, 쿼드트리에 따른 하나 이상의 TU들로의 CU의 구획화를 또한 기술할 수도 있다. TU가 형상이 정사각형이거나 또는 정사각형이 아닐 수 있다.
HEVC 표준은 TU들에 따른 변환들을 허용하는데, 이 변환들은 상이한 CU들에 대해 상이할 수도 있다. TU들은, 항상 그런 것은 아닐 수도 있지만, 구획화된 LCU에 대해 정의된 주어진 CU 내의 PU들의 사이즈에 기초하여 통상 사이즈가 정해진다. TU들은 통상 PU들과 동일한 사이즈이거나 또는 그것들보다 작다. 몇몇 예들에서, CU에 대응하는 잔차 샘플들은 "잔차 쿼드 트리 (residual quad tree)" (RQT) 로서 알려진 쿼드트리 구조를 이용하여 더 작은 단위들로 세분될 수도 있다. RQT의 리프 노드들은 변환 단위 (TU) 들이라고 지칭될 수도 있다. TU들에 연관된 화소 차이 값들은 양자화될 수도 있는 변환 계수들을 생성하기 위해 변환될 수도 있다.
일반적으로, PU가 예측 프로세스에 관련된 데이터를 포함한다. 예를 들어, PU가 인트라 모드 인코딩되는 경우, PU는 PU에 대한 인트라 예측 모드를 기술하는 데이터를 포함할 수도 있다. 다른 예로서, PU가 인터 모드 인코딩되는 경우, PU는 PU에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU에 대한 모션 벡터를 정의하는 데이터는, 예를 들어, 모션 벡터의 수평 성분, 모션 벡터의 수직 성분, 모션 벡터에 대한 해상도 (예컨대, 1/4 화소 정밀도 또는 1/8 화소 정밀도), 모션 벡터가 가리키는 참조 화상, 및/또는 모션 벡터에 대한 참조 화상 리스트 (예컨대, List0, List 1, 또는 List C) 를 기술할 수도 있다.
대체로, TU는 변환 및 양자화 프로세스들을 위해 사용된다. 하나 이상의 PU들을 갖는 주어진 CU는 또한 하나 이상의 변환 단위들 (TU들) 을 포함할 수도 있다. 예측을 뒤따라, 비디오 인코더 (20) 는 PU에 대응하는 잔차 값들을 계산할 수도 있다. 그 잔차 값들은 엔트로피 코딩을 위한 직렬화된 (serialized) 변환 계수들을 생성하기 위해 TU들을 사용하여 변환 계수들로 변환되며, 양자화되고, 스캐닝될 수도 있는 화소 차이 값들을 포함한다. 본 개시물은 통상적으로 용어 "비디오 블록"을 CU의 코딩 노드를 지칭하기 위해 사용한다. 몇몇 특정 경우들에서, 본 개시물은 또한 용어 "비디오 블록"을 트리블록, 즉, LCU, 또는 코딩 노드와 PU들 및 TU들을 포함하는 CU를 지칭하기 위해 사용할 수도 있다.
비디오 시퀀스는 통상 일련의 비디오 프레임들 또는 화상들을 포함한다. 화상들의 그룹 (GOP) 이 일반적으로 일련의 하나 이상의 비디오 화상들을 포함한다. GOP가 GOP에 포함된 다수의 화상들을 기술하는 신택스 데이터를 GOP의 헤더, 그 화상들 중 하나 이상의 화상들의 헤더, 또는 다른 곳에 포함할 수도 있다. 화상의 각각의 슬라이스는 개별 슬라이스에 대한 인코딩 모드를 기술하는 슬라이스 신택스 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 비디오 데이터를 인코딩하기 위하여 개개의 비디오 슬라이스들 내의 비디오 블록들에 대해 통상 동작한다. 비디오 블록이 CU 내의 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정된 또는 가변하는 사이즈들을 가질 수도 있고, 특정된 코딩 표준에 따라 사이즈를 달리할 수도 있다.
일 예로서, HM은 다양한 PU 사이즈들에서 예측을 지원한다. 특정 CU의 사이즈가 2Nx2N이라고 가정하면, HM은 2Nx2N 또는 NxN의 PU 사이즈들에서의 인트라 예측과, 2Nx2N, 2NxN, Nx2N, 또는 NxN의 대칭적 PU 사이즈들에서의 인터 예측을 지원한다. HM은 또한 2NxnU, 2NxnD, nLx2N, 및 nRx2N의 PU 사이즈들에서의 인터 예측을 위한 비대칭 구획화를 지원한다. 비대칭 구획화에서, CU의 하나의 방향은 구획화되지 않는 반면, 다른 방향은 25% 및 75%로 구획화된다. 25% 구획에 대응하는 CU의 부분은 "Up", "Down", "Left", 또는 "Right"의 표시가 뒤따르는 "n"에 의해 나타내어진다. 따라서, 예를 들어, "2NxnU"는 상단의 2Nx0.5N PU 및 하단의 2Nx1.5N PU로 수평으로 구획화되는 2Nx2N CU를 지칭한다.
본 개시물에서, "NxN" 및 "N 바이 N", 예컨대, 16x16 화소들 또는 16 바이 16 화소들은 수직 및 수평 치수들의 측면에서 비디오 블록의 화소 치수들을 상호교환적으로 말하는데 이용될 수도 있다. 일반적으로, 16x16 블록이 수직 방향의 16 개 화소들 (y = 16) 과 수평 방향의 16 개 화소들 (x = 16) 을 가질 것이다. 비슷하게, NxN 블록이 일반적으로 수직 방향의 N 개 화소들과 수평 방향의 N 개 화소들을 가지며, 여기서 N은 음이 아닌 정수 값을 나타낸다. 블록에서의 화소들은 행들 및 열들로 배열될 수도 있다. 더구나, 블록들은 수직 방향에서와 동일한 수의 화소들을 수평 방향에서 반드시 가질 필요는 없다. 예를 들어, 블록들은 M이 N과 반드시 동일하지는 않은 NxM 개 화소들을 포함할 수도 있다.
CU의 PU들을 이용하는 인트라 예측 또는 인터 예측 코딩에 뒤따라, 비디오 인코더 (20) 는 CU의 TU들에 대한 잔차 데이터를 계산할 수도 있다. PU들은 공간 도메인 (또한 화소 도메인이라고 지칭됨) 에서의 화소 데이터를 포함할 수도 있고 TU들은, 잔차 비디오 데이터에 대한 변환, 예컨대, 이산 코사인 변환 (DCT), 정수 변환, 웨이브릿 변환, 또는 개념적으로 유사한 변환의 적용에 뒤따르는 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는 인코딩되지 않은 화상의 화소들 및 PU들에 대응하는 예측 값들 사이의 화소 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는 CU에 대한 잔차 데이터를 포함하는 TU들을 형성한 다음 CU에 대한 변환 계수들을 생성하기 위해 TU들을 변환할 수도 있다.
변환 계수들을 생성하는 임의의 변환들에 뒤따라, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 변환 계수들이 그 계수들을 표현하는데 사용된 데이터의 양을 가능한 한 줄이도록 양자화되어서, 추가의 압축을 제공하는 프로세스를 일반적으로 지칭한다. 양자화 프로세스는 그 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 예를 들어, n-비트 값은 양자화 동안에 m-비트 값으로 버림될 (rounded down) 수도 있으며, 여기서 n 은 m보다 크다.
일부 예들에서, 비디오 인코더 (20) 는 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 미리 정의된 스캔 순서를 활용하여 양자화된 변환 계수들을 스캔할 수도 있다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 1차원 벡터를 형성하기 위해 양자화된 변환 계수들을 스캔한 후, 비디오 인코더 (20) 는, 예컨대, 콘텍스트 적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 콘텍스트 적응 이진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 확률 간격 구획화 엔트로피 (Probability Interval Partitioning Entropy; PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론에 따라, 1차원 벡터를 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 인코딩된 비디오 데이터에 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.
CABAC를 수행하기 위해, 비디오 인코더 (20) 는 콘텍스트 모델 내의 콘텍스트를 송신될 심볼에 할당할 수도 있다. 그 콘텍스트는, 예를 들어, 심볼의 이웃 값들이 영이 아닌지의 여부에 관련될 수도 있다. CAVLC를 수행하기 위해, 비디오 인코더 (20) 는 송신될 심볼에 대한 가변 길이 코드를 선택할 수도 있다. VLC에서의 코드워드들은 상대적으로 더 짧은 코드들이 더 가능성 있는 심볼들에 대응하는 반면, 더 긴 코드들은 덜 가능성 있는 심볼들에 대응하도록 구성될 수도 있다. 이런 식으로, VLC의 사용은, 예를 들어, 송신될 각각의 심볼에 대해 동일 길이 코드워드들을 사용하여, 비트 절약을 달성할 수도 있다. 확률 결정은 심볼에 할당된 콘텍스트에 기초할 수도 있다.
비디오 인코더 (20) 는 비디오 데이터의 다수의 계층들을 포함하는 비트스트림을 형성할 수도 있다. 예를 들어, 비트스트림은 기본 계층과 비디오 코딩 표준에 대한 스케일러블 확장본, 이를테면 HEVC에 대한 스케일러블 확장본 (SHVC) 에 따른 하나 이상의 향상 계층들을 포함할 수도 있다. 부가적으로 또는 대안으로, 비트스트림은 다수의 뷰들, 예컨대, 기본 뷰 및 하나 이상의 의존성 뷰들을 포함할 수도 있다. 예를 들면, 비트스트림은 HEVC에 대한 멀티-뷰 확장본 (MV-HEVC) 또는 HEVC에 대한 3차원 확장본 (3D-HEVC) 에 부합할 수도 있다. 본 개시물에서, 뷰가 계층의 하나의 유형으로서 간주된다. 따라서, 다층 비디오 데이터에 대한 언급은 멀티-뷰 비디오 데이터를 포함한다.
본 개시물의 기법들에 따라, 비디오 인코더 (20) 는 상이한 계층들이 IRAP 화상들의 상이한 빈도들을 갖도록 비트스트림에 대한 데이터를 형성할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 2 초의 플레이백 시간마다 기본 계층에 대한, 5 초의 플레이백 시간마다 제 1 향상 계층에 대한, 그리고 10 초의 플레이백 시간마다 제 2 향상 계층에 대한 IRAP 화상을 제공할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 적어도 2 초의 플레이백 간격들로 기본 계층의 데이터를 취출하는 랜덤 액세스를 시작할 수 있다. 다르게 말하면, 이 예에서, 목적지 디바이스 (14) 는 2 초의 최대 튠-인 지연을 경험할 수도 있다. 보통, 사용자들은 심지어 상대적으로 낮은 품질이더라도, 블랭크 화면보다는 더 바람직할 적어도 일부 비디오 데이터를 찾는다. 상이한 계층들에서 랜덤 액세스 포인트들에 대해 가변하는 빈도들을 갖는 비트스트림을 제공함으로써, 비디오 인코더 (20) 는 다양한 비디오 코딩 계층들 전체에 걸쳐 비트스트림에 대한 비트레이트를 감소시키면서도 또한 목적지 디바이스 (14) 가 튠-인 지연을 감소시키는 것을 허용할 수도 있다.
위에서 논의된 바와 같이, 액세스 단위가 특정 출력 시간에 플레이될 모든 화상들에 대한 데이터를 포함한다. 예를 들면, 위에서 설명된 예에 따르면, 액세스 단위가 기본 계층에 대한 화상, 제 1 향상 계층에 대한 화상, 및 제 2 향상 계층에 대한 화상을 포함할 수도 있다. 비디오 디코더 (30) 는 향상 계층의 화상들을 사용하여 기본 계층 화상의 품질을 향상시킬 수도 있다. 예를 들어, 향상 계층들에서의 화상들은 공간적 해상도, 신호 대 잡음 비 (SNR) 품질, 크로마 비트 깊이, 상이한 카메라 관점들 (perspectives) (예컨대, 멀티-뷰 비디오 데이터용) 등 중 하나 이상을 개선하기 위한 데이터를 포함할 수도 있다.
비디오 인코더 (20) 는 인트라 예측, 층 간 예측, 및/또는 시간적 인터 예측을 사용하여 향상 계층(들)에서의 화상들을 인코딩할 수도 있다. 시간적 인터 예측을 사용하여 예측된 화상이 디코딩가능하도록 하기 위하여, 그 화상이 의존하는 참조 화상들은 이용가능해 (예컨대, 이전에 디코딩되어) 야만 한다. 몇몇 경우들에서, 이러한 참조 화상들은, 예컨대, 송신 에러들로 인해 이용가능하지 않다. 따라서, 비디오 디코더 (30) 는 하나 이상의 참조 화상들이 이용가능하지 않는 화상의 디코딩을 시도하는 경우 비-존재 화상 프로세스를 수행하도록 구성될 수도 있다.
본 개시물은, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로 시작하여 수행되는 경우, 액세스 단위의 비-IRAP 화상들을 포함하는 비디오 코딩 계층들의 부분적으로 정렬된 IRAP 액세스 단위 및/또는 후속 화상들의 비-IRAP 화상들이 디코딩가능하지 않을 수도 있다는 것을 인식한다. 따라서, 본 개시물의 기법들에 따라, 비디오 인코더 (20) 는 올바르게 디코딩가능하지 않는 부분적으로 정렬된 IRAP 액세스 단위로 시작하는 코딩된 비디오 시퀀스의 화상들을 나타내는 데이터를 시그널링할 수도 있다. 이런 방식으로, 비디오 디코더 (30) 는 화상이 올바르게 디코딩가능하지 않음을 나타내는 시그널링된 데이터를 (랜덤 액세스가 대응하는 부분적으로 정렬된 IRAP 액세스 단위로 시작하여 수행되는 경우) 그 화상의 디코딩을 스킵하기 위해 사용할 수 있다. 따라서, 비디오 디코더 (30) 는 화상을 디코딩하는 것과 비-존재 화상 프로세스를 수행하는 것을 시도할 필요가 없고, 대신, 화상을 임의의 디코딩할 시의 시도를 스킵하고 그 화상에 대한 데이터를 단순히 파싱할 수도 있다. 대안으로, 비디오 디코더 (30) 는, 예컨대, 이 시그널링된 데이터에 기초하여 비-존재 화상 프로세스의 수행을 결정할 수도 있다.
이런 방식으로, 본 개시물의 기법들은 부분적으로 정렬된 IRAP 액세스 단위들을 지원하는데, 이는 랜덤 액세스에 대한 감소된 튠-인 지연 및 향상 계층들 (이는 의존성 뷰들을 포함할 수도 있음) 에 대한 감소된 비트레이트의 측면에서 유익을 제공할 수도 있다. 비슷하게, 본 개시물의 기법들은 비디오 디코더들, 이를테면 비디오 디코더 (30) 에 대한 이점들을 또한 제공할 수도 있는데, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 수행되는 경우 비디오 디코더 (30) 가 비-디코딩가능 화상들을 쉽사리 스킵할 수 있기 때문이다.
도 2는 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 인코더 (20) 를 도시하는 블록도이다. 비디오 인코더 (20) 는 비디오를 포스트 프로세싱 엔티티 (27) 로 출력하도록 구성될 수도 있다. 포스트 프로세싱 엔티티 (27) 는, 비디오 인코더 (20) 로부터의 인코딩된 비디오 데이터를 프로세싱할 수도 있는 미디어 인식 네트워크 엘리먼트 (media aware network element, MANE) 또는 스플라이싱/편집 디바이스와 같은 비디오 엔티티의 일 예를 나타내기 위해 의도된다. 어떤 경우들에서, 포스트 프로세싱 엔티티는 네트워크 엔티티의 일 예일 수도 있다. 몇몇 비디오 디코딩 시스템들에서, 포스트 프로세싱 엔티티 (27) 와 비디오 인코더 (20) 는 별개의 디바이스들의 부분들일 수도 있지만, 다른 경우들에서, 포스트 프로세싱 엔티티 (27) 에 관해 설명된 기능은 비디오 인코더 (20) 를 포함하는 동일한 디바이스에 의해 구현될 수도 있다.
비디오 인코더 (20) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라 코딩 및 인터 코딩을 수행할 수도 있다. 인트라 코딩은 공간적 예측에 의존하여, 주어진 비디오 프레임 또는 화상 내의 비디오에서 공간적 리던던시를 감소시키거나 또는 제거한다. 인터 코딩은 시간적 예측에 의존하여, 비디오 시퀀스의 인접한 프레임들 또는 화상들 내의 비디오에서 시간적 리던던시를 감소시키거나 또는 제거한다. 인트라 모드 (I 모드) 는 여러 공간 기반 압축 모드들 중 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양-예측 (B 모드) 과 같은 인터 모드들은 여러 시간 기반 압축 모드들 중 임의의 것을 말할 수도 있다.
도 2의 예에서, 비디오 인코더 (20) 는 구획화 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 참조 화상 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 구비한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 유닛 (46) 을 구비한다. 비디오 블록 복원을 위해, 비디오 인코더 (20) 는 역 양자화 유닛 (58), 역 변환 유닛 (60), 및 합산기 (62) 를 또한 구비한다. 필터 유닛 (63) 은 블록화제거 필터, 적응 루프 필터 (adaptive loop filter; ALF), 및 샘플 적응 오프셋 (sample adaptive offset; SAO) 필터와 같은 하나 이상의 루프 필터들을 나타내고자 하는 것이다. 비록 필터 유닛 (63) 이 도 2에서 루프 내 필터 (in loop filter) 인 것으로 도시되고 있지만, 다른 구성들에서, 필터 유닛 (63) 은 후 (post) 루프 필터일 수도 있다.
도 2에 도시된 바와 같이, 비디오 인코더 (20) 는 비디오 데이터를 수신하고 구획화 유닛 (35) 은 그 데이터를 비디오 블록들로 구획화한다. 이 구획화는 또한 슬라이스들, 타일들, 또는 다른 큰 단위들로의 구획화, 뿐만 아니라, 예컨대, LCU들 및 CU들의 쿼드트리 구조에 따른 비디오 블록 구획화를 포함할 수도 있다. 비디오 인코더 (20) 는 일반적으로 인코딩될 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 예시한다. 슬라이스는 다수의 비디오 블록들로 (및 타일들이라고 지칭된 비디오 블록들의 세트들로 아마도) 나누어질 수도 있다. 예측 프로세싱 유닛 (41) 은 복수의 가능한 코딩 모드들 중 하나, 이를테면 복수의 인트라 코딩 모드들 중 하나 또는 복수의 인터 코딩 모드들 중 하나를 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨) 에 기초하여 현재 비디오 블록에 대해 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라 또는 인터 코딩된 블록을 잔차 블록 데이터를 생성하는 합산기 (50) 및 참조 화상으로서 사용하기 위해 인코딩된 블록을 복원하는 합산기 (62) 에 제공할 수도 있다.
예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 코딩될 현재 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃 블록들을 기준으로 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 압축을 제공할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 하나 이상의 참조 화상들에서의 하나 이상의 예측 블록들을 기준으로 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 압축을 제공한다.
모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터 예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들, B 슬라이스들 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 과 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만 개념적 목적들을 위해 별개로 예시된다. 모션 추정 유닛 (42) 에 의해 수행되는 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터가, 예를 들어, 참조 화상 내의 예측 블록에 대한 현재 비디오 프레임 또는 화상 내의 비디오 블록의 PU의 변위 (displacement) 를 나타낼 수도 있다.
예측 블록은 차의 절대값 합 (SAD), 차의 제곱 합 (SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 화소 차이의 관점에서 코딩될 비디오 블록의 PU에 밀접하게 매칭된다고 생각되는 블록이다. 몇몇 예들에서, 비디오 인코더 (20) 는 참조 화상 메모리 (64) 에 저장된 참조 화상들의 부 정수 (sub-integer) 화소 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 화상의 1/4 화소 위치들, 1/8 화소 위치들, 또는 다른 분수 (fractional) 화소 위치들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (42) 은 풀 (full) 화소 위치들 및 분수 화소 위치들에 대한 모션 검색을 수행하여 분수 화소 정밀도를 갖는 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (42) 은 PU의 위치와 참조 화상의 예측 블록의 위치를 비교함으로써 인터 코딩된 슬라이스에서의 비디오 블록의 PU에 대한 모션 벡터를 계산한다. 참조 화상은 참조 화상 메모리 (64) 에 저장된 하나 이상의 참조 화상들을 각각이 식별하는 제 1 참조 화상 리스트 (List 0) 또는 제 2 참조 화상 리스트 (List 1) 로부터 선택될 수도 있다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.
모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치하는 것 또는 생성하는 것, 아마도 부 화소 (sub-pixel) 정밀도로 보간들을 수행하는 것을 수반할 수도 있다. 현재 비디오 블록의 PU에 대한 모션 벡터를 수신 시, 모션 보상 유닛 (44) 은 참조 화상 리스트들 중 하나에서 모션 벡터가 가리키는 예측 블록을 찾을 수도 있다. 비디오 인코더 (20) 는, 코딩되고 있는 현재 비디오 블록의 화소 값들로부터 예측 블록의 화소 값들을 감산하여 화소 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 화소 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 성분들 양쪽 모두를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (44) 은 비디오 슬라이스의 비디오 블록들을 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스에 연관된 신택스 엘리먼트들을 또한 생성할 수도 있다.
인트라 예측 유닛 (46) 은, 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터 예측에 대한 대안으로서 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라 예측 유닛 (46) 은 현재 블록을 인코딩하는데 사용하기 위한 인트라 예측 모드를 결정할 수도 있다. 몇몇 예들에서, 인트라 예측 유닛 (46) 은, 예컨대, 별개의 인코딩 과정들 동안 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 유닛 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 유닛 (46) 은 다양한 테스트된 인트라 예측 모드들에 대한 레이트 왜곡 분석을 사용하여 레이트 왜곡 값들을 계산하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라 예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록과 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의 인코딩되지 않은 블록 사이의 왜곡 (또는 에러) 의 양, 뿐만 아니라 인코딩된 블록을 생성하는데 사용된 비트 레이트 (다시 말하면, 비트들의 수) 를 결정한다. 인트라 예측 유닛 (46) 은 어떤 인트라 예측 모드가 그 블록에 대한 최상의 레이트 왜곡 값을 나타내는지를 결정하기 위해 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 계산할 수도 있다.
어느 경우에나, 블록에 대한 인트라 예측 모드를 선택한 후, 인트라 예측 유닛 (46) 은 그 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 본 개시물의 기법들에 따라 선택된 인트라 예측 모드를 나타내는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 송신되는 비트스트림에 구성 데이터를 포함시킬 수도 있는데, 이 구성 데이터는 복수의 인트라 예측 모드 인덱스 테이블들 및 복수의 수정된 인트라 예측 모드 인덱스 테이블들 (코드워드 매핑 테이블들이라고 또한 지칭됨), 다양한 블록들에 대한 콘텍스트들을 인코딩하는 정의들, 그리고 그 콘텍스트들의 각각에 대한 사용을 위한 가장 가능성 있는 인트라 예측 모드, 인트라 예측 모드 인덱스 테이블, 및 수정된 인트라 예측 모드 인덱스 테이블의 표시들을 포함할 수도 있다.
비디오 인코더 (20) 는 기본 비디오 코딩 계층의 인트라 랜덤 액세스 화상 (IRAP) (예컨대, 기본 뷰) 을 인코딩할 것을 결정할 수도 있다. 따라서, 예측 프로세싱 유닛 (41) 은 인트라 예측 유닛 (46) 이 인트라 예측을 사용하여 IRAP 화상의 블록들을 예측하게 하도록 구성될 수도 있다. IRAP 화상은, 예를 들어, IDR 화상, CRA 화상, 또는 BLA 화상일 수도 있다. 비디오 인코더 (20) 는 기본 계층의 IRAP 화상을 포함하는 액세스 단위의 향상 계층에 대한 화상 (예컨대, 비-기본 뷰) 을 비-IRAP 화상으로서 인코딩할 것을 추가로 결정할 수도 있다. 따라서, 예측 프로세싱 유닛 (41) 은, 비-IRAP 화상의 블록들을, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 을 사용한 인터 예측 (예컨대, 시간적 인터 예측 및/또는 층 간 예측) 을 사용하여 예측할지, 그리고/또는 인트라 예측 유닛 (46) 에 의해 수행된 인트라 예측을 사용하여 예측할지를 결정할 수도 있다.
비디오 인코더 (20) 가 액세스 단위의 화상을 비-IRAP 화상으로서 인코딩할 것을 결정하고 그 액세스 단위는 적어도 하나의 IRAP 화상을 포함하는 경우, 비디오 인코더 (20) 는, 랜덤 액세스가 그 액세스 단위로부터 시작하여 수행되는 경우 비-IRAP 화상으로서 코딩된 화상이 올바르게 디코딩가능하지 않음을 나타내는 값을 신택스 엘리먼트에 대해 추가로 인코딩할 수도 있다. 이 상황에서, 액세스 단위는 부분적으로 정렬된 IRAP 액세스 단위를 나타낸다. 예를 들어, 비디오 인코더 (20) 는 비-IRAP 화상의 슬라이스들을 캡슐화하는 특정 값을, 예컨대, 위의 표 7-1의 예에서 보인 바와 같은 24 또는 25의 값들을 네트워크 추상화 계층 (NAL) 단위들에 대해 배정할 수도 있다. 부가적으로 또는 대안으로, 비디오 인코더 (20) 는, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로 시작하는 경우, 그 액세스 단위의 비-IRAP 화상들이 올바르게 디코딩가능하지 않음을 나타내는 플래그에 대한 값을 인코딩할 수도 있다. 더욱이, 비디오 인코더 (20) 는, 부가적으로 또는 대안으로, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로 시작하여 수행되는 경우 이들 화상들이 디코딩가능한지의 여부를 나타내는 데이터를 동일한 코딩된 비디오 시퀀스에서의 다른 액세스 단위들의 다른 화상들을 위해 인코딩할 수도 있다.
예측 프로세싱 유닛 (41) 이 인터 예측 또는 인트라 예측 중 어느 하나를 통해 현재 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 인코더 (20) 는 현재 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는, 하나 이상의 TU들에 포함되고 변환 프로세싱 유닛 (52) 에 인가될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환과 같은 변환을 사용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환시킨다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 화소 도메인으로부터 변환 도메인, 이를테면 주파수 도메인으로 변환할 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 에 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더욱 감소시킨다. 양자화 프로세스는 그 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 양자화 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 몇몇 예들에서, 양자화 유닛 (54) 은 그 후, 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안으로, 엔트로피 인코딩 유닛 (56) 이 그 스캔을 수행할 수도 있다.
양자화를 뒤따라, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 콘텍스트 적응 가변 길이 코딩 (CAVLC), 콘텍스트 적응 이진 산술 코딩 (CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩 (SBAC), 확률 간격 구획화 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 인코딩 수법 또는 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 뒤이어, 인코딩된 비트스트림은 비디오 디코더 (30) 로 송신되거나 또는 나중의 송신 또는 비디오 디코더 (30) 에 의한 취출을 위해 보관될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 코딩되고 있는 현재 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 또한 엔트로피 인코딩할 수도 있다.
역 양자화 유닛 (58) 과 역 변환 유닛 (60) 은 역 양자화 및 역 변환을 각각 적용하여, 참조 화상의 참조 블록으로서 나중에 사용하기 위해 화소 도메인에서 잔차 블록을 복원한다. 모션 보상 유닛 (44) 은 참조 화상 리스트들 중 하나의 참조 화상 리스트 내의 참조 화상들 중 하나의 참조 화상의 예측 블록에 잔차 블록을 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용하여 모션 추정에서 사용하기 위한 부 정수 화소 값들을 또한 계산할 수도 있다. 합산기 (62) 는 복원된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산하여, 참조 화상 메모리 (64) 에 저장하기 위한 참조 블록을 생성한다. 참조 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 후속 비디오 프레임 또는 화상에서 블록을 인터 예측하기 위한 참조 블록으로서 사용될 수도 있다.
이런 방식으로, 비디오 인코더 (20) 는 비디오 데이터의 부분적으로 정렬된 IRAP 액세스 단위의 인트라 랜덤 액세스 포인트 (IRAP) 화상을 인코딩하도록 구성된 비디오 인코더의 일 예를 나타내고, 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 인코딩한다.
도 3은 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 디코더 (30) 를 도시하는 블록도이다. 도 3의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역 양자화 유닛 (86), 역 변환 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 참조 화상 메모리 (92) 를 구비한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 과 인트라 예측 유닛 (84) 을 구비한다. 비디오 디코더 (30) 는, 몇몇 예들에서, 도 2로부터 비디오 인코더 (20) 에 관해 설명된 인코딩 과정에 일반적으로 역인 디코딩 과정을 수행할 수도 있다.
디코딩 프로세스 동안, 비디오 디코더 (30) 는 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림의 데이터를 비디오 인코더 (20) 로부터 수신한다. 비디오 디코더 (30) 는 인코딩된 비디오 비트스트림을 네트워크 엔티티 (29) 로부터 수신할 수도 있다. 네트워크 엔티티 (29) 는, 예를 들어, 서버, MANE, 비디오 편집기/스플라이서 (splicer), 또는 위에서 설명된 기법들 중 하나 이상을 구현하도록 구성된 다른 이러한 디바이스일 수도 있다. 네트워크 엔티티 (29) 는 비디오 인코더, 이를테면 비디오 인코더 (20) 를 포함할 수도 있거나 또는 포함하지 않을 수도 있다. 본 개시물에서 설명된 기법들 중 일부는 네트워크 (29) 가 인코딩된 비디오 비트스트림을 비디오 디코더 (30) 로 송신하기 전에 네트워크 엔티티 (29) 에 의해 구현될 수도 있다. 몇몇 비디오 디코딩 시스템들에서, 네트워크 엔티티 (29) 와 비디오 디코더 (30) 는 별개의 디바이스들의 부분들일 수도 있지만, 다른 경우들에서, 네트워크 엔티티 (29) 에 관해 설명된 기능성은 비디오 디코더 (30) 를 포함하는 동일한 디바이스에 의해 구현될 수도 있다.
본 개시물의 기법들에 따라, 비디오 디코더 (30) 는 화상을 포함하는 코딩된 비디오 시퀀스의 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우 그 화상의 데이터가 디코딩가능한지의 여부를 나타내는 신택스 데이터 (예컨대, 플래그 또는 NAL 단위 값) 를 수신할 수도 있다. 비디오 디코더 (30) 는 랜덤 액세스가 대응하는 부분적으로 정렬된 IRAP 액세스 단위로부터 수행되었는지의 여부를 추가로 결정할 수도 있다. 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 수행되었다고 비디오 디코더 (30) 가 결정하는 경우, 비디오 디코더 (30) 는 디코딩가능하지 않는 것으로 나타내어진 화상들의 디코딩을 스킵할 수도 있다. 비디오 디코더 (30) 는, 부분적으로 정렬된 IRAP 액세스 단위가 비트스트림의 디코딩될 순서상 첫 번째 액세스 단위인 경우, 및/또는 부분적으로 정렬된 IRAP 액세스 단위의 비-IRAp 화상들에 대한 하나 이상의 참조 화상들이 참조 화상 메모리 (92) 의 예컨대, 디코딩된 화상 버퍼에 존재하지 않는 경우, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 수행된다고 결정할 수도 있다.
몇몇 예들에서, 비디오 디코더 (30) 는 화상이 그 화상의 슬라이스들을 캡슐화한 NAL 단위들에 대한 NAL 단위 유형에 기초하여 디코딩가능한지의 여부를 결정할 수도 있다. 위에서 논의된 바와 같이 표 7-1에 관해, 24 또는 25의 NAL 단위 유형 값이 화상이 버릴 수 있는 향상 계층 화상 (예컨대, ELDISC 화상) 임을 나타낼 수도 있는데, 버릴 수 있는 향상 계층 화상은 랜덤 액세스가 그 화상을 포함하는 코딩된 비디오 시퀀스의 부분적으로 정렬된 IRAP 액세스 단위로부터 수행되는 경우 올바르게 디코딩가능하지 않다.
비디오 디코더 (30) 는 이러한 화상들에 대한 데이터의 디코딩을 시도하지 않고, 디코딩가능하지 않는 것으로 나타내어진 화상들에 대한 데이터를 단순히 파싱할 수도 있다. 이러한 화상의 디코딩을 스킵하는 경우, 비디오 디코더 (30) 는 그 화상의 블록들의 PU들 및/또는 TU들에 대한 신택스 엘리먼트들 (예컨대, 인트라 예측 신택스, 인터 예측 신택스 엘리먼트들, 변환 계수 신택스 엘리먼트들 등) 을 예측 프로세싱 유닛 (81), 역 양자화 유닛 (86), 및 역 변환 유닛 (88) 으로 전달하는 것을 피할 수도 있다. 대신, 비디오 디코더 (30) 는 디코딩가능할 수 있는 화상에 도달하기까지, 데이터를 단순히 파싱하고 버릴 수도 있다.
적용가능한 비디오 코딩 표준 또는 확장본, 이를테면 SHVC, MV-HEVC, 또는 3D-HEVC는, 부분적으로 정렬된 IRAP 액세스 단위로부터 시작하는 비트스트림이 부합하는 비트스트림임을 특정할 수도 있다. 따라서, 비디오 디코더 (30) 는 이러한 비트스트림을 표준 또는 그 표준에 대한 확장본에 따라 파싱하도록 구성될 수도 있다. 예를 들어, 비디오 디코더 (30) 는 콘텍스트 자유 (context-free) 문법 또는 적용가능한 비디오 코딩 표준 또는 확장본에 대응하는 다른 이러한 문법에 따라 비트스트림을 파싱할 수도 있다.
이들 화상들의 디코딩을 스킵하는 대신, 비디오 디코더 (30) 는 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우 올바르게 디코딩가능하지 않는 것으로 시그널링된 화상들에 대해 비-존재 화상 프로세스를 수행하도록 구성될 수도 있다. 예를 들어, 비디오 디코더 (30) 는 올바르게 디코딩가능하지 않는 제 1 화상 세트를 (예컨대, 시그널링된 데이터에 기초하여) IRAP 액세스 단위에서 식별할 수도 있다. 제 1 화상 세트에서의 각각의 화상에 대해, 그 화상들에 대한 참조 화상 세트들에 기초하여, 비디오 디코더 (30) 는 이용불가 참조 화상들의 각각의 제 2 세트들을 생성할 수도 있다. 다시 말하면, 부분적으로 정렬된 IRAP 액세스 단위의 화상들은 이들 화상들이 의존하는 참조 화상들이 수신되지 않았기 때문에 올바르게 디코딩가능하지 않을 수도 있다. 따라서, 비디오 디코더 (30) 는 비-존재 화상 프로세스에 따라 참조 화상들을 생성할 수도 있다. 비디오 디코더 (30) 는, 개별 참조 화상 세트에서 나타낸 바와 같이, 제 2 화상 세트의 화상들 (다시 말하면, 생성된 참조 화상들) 을 단기 또는 장기 중 어느 하나의 참조 화상들로서 추가로 마킹할 수도 있다. 비디오 디코더 (30) 는 그 다음에 제 1 화상 세트에서의 각각의 화상을 생성된 참조 화상들을 사용하여 디코딩할 수도 있다. 이들 화상들의 이 디코딩은 화상들을 정확히 재현하지 못할 수도 있다는 것이 이해되어야 한다.
비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (80) 은 그 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 으로 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.
비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩되는 경우, 예측 프로세싱 유닛 (81) 의 인트라 예측 유닛 (84) 은 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 현재 프레임 또는 화상의 이전에 디코딩된 블록들로부터의 시그널링된 인트라 예측 모드 및 데이터에 기초하여 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P, 또는 GPB) 슬라이스로 코딩되는 경우, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 그 예측 블록들은 참조 화상 리스트들 중 하나의 참조 화상 리스트 내의 참조 화상들 중 하나의 참조 화상으로부터 생성될 수도 있다. 비디오 디코더 (30) 는 참조 화상 메모리 (92) 에 저장된 참조 화상들에 기초하여 디폴트 구축 기법들을 이용하여, 참조 프레임 리스트들 (List 0 및 List 1) 을 구축할 수도 있다.
모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 사용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들의 일부를 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예컨대, 인트라 또는 인터 예측), 인터 예측 슬라이스 유형 (예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 참조 화상 리스트들 중 하나 이상에 대한 구축 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 스테이터스, 및 현재 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.
모션 보상 유닛 (82) 은 보간 필터들에 기초하여 보간을 또한 수행할 수도 있다. 모션 보상 유닛 (82) 은 비디오 블록들의 인코딩 동안에 비디오 인코더 (20) 에 의해 사용된 것과 같은 보간 필터들을 사용하여 참조 블록들의 부 정수 화소들에 대한 보간된 값들을 계산할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 사용된 보간 필터들을 결정하고 그 보간 필터들을 사용하여 예측 블록들을 생성할 수도 있다.
역 양자화 유닛 (86) 은 비트스트림으로 제공되고 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 즉, 탈양자화 (dequantize) 한다. 역 양자화 프로세스는 양자화 정도와, 마찬가지로 적용되어야 할 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스에서의 각각의 비디오 블록에 대해 비디오 인코더 (20) 에 의해 계산된 양자화 파라미터의 사용을 포함할 수도 있다. 역 변환 유닛 (88) 은 화소 도메인에서 잔차 블록들을 생성하기 위하여 역 변환, 예컨대, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스를 변환 계수들에 적용한다.
모션 보상 유닛 (82) 이 현재 비디오 블록에 대한 예측 블록을 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 생성한 후, 비디오 디코더 (30) 는 역 변환 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원한다면, 루프 필터들이 (코딩 루프 내 또는 코딩 루프 후 중 어느 하나에서) 화소 전이 (transition) 들을 부드럽게 하기 위해, 또는 그렇지 않으면 비디오 품질을 개선하기 위해 또한 사용될 수도 있다. 필터 유닛 (91) 은 블록화제거 필터, 적응 루프 필터 (ALF), 및 샘플 적응 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 나타내고자 하는 것이다. 비록 필터 유닛 (91) 이 도 3에서 루프 내 필터인 것으로 도시되고 있지만, 다른 구성들에서, 필터 유닛 (91) 은 후 루프 필터일 수도 있다. 주어진 프레임 또는 화상에서의 디코딩된 비디오 블록들은 그 다음에 참조 화상 메모리 (92) 에 저장되는데, 그 참조 화상 메모리는 후속 모션 보상을 위해 사용되는 참조 화상들을 저장한다. 참조 화상 메모리 (92) 는 디스플레이 디바이스, 이를테면 도 1의 디스플레이 디바이스 (32) 상의 나중의 프레젠테이션을 위해 디코딩된 비디오를 또한 저장한다.
이런 방식으로, 비디오 디코더 (30) 는 비디오 데이터의 부분적으로 정렬된 IRAP 액세스 단위의 인트라 랜덤 액세스 포인트 (IRAP) 화상을 디코딩하고, 부분적으로 정렬된 IRAP 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 디코딩하도록 구성된 비디오 디코더의 일 예를 나타낸다.
도 4는 네트워크 (100) 의 부분을 형성하는 디바이스들의 일 예의 세트를 도시하는 블록도이다. 이 예에서, 네트워크 (100) 는 라우팅 디바이스들 (104A, 104B) (라우팅 디바이스들 (104)) 과 트랜스코딩 (transcoding) 디바이스 (106) 를 구비한다. 라우팅 디바이스들 (104) 과 트랜스코딩 디바이스 (106) 는 네트워크 (100) 의 부분을 형성할 수도 있는 적은 수의 디바이스들을 나타내려고 하는 것이다. 다른 네트워크 디바이스들, 이를테면 스위치들, 허브들, 게이트웨이들, 방화벽들, 브리지들, 및 다른 그런 디바이스들이 또한 네트워크 (100) 내에 포함될 수도 있다. 더구나, 부가적인 네트워크 디바이스들이 서버 디바이스 (102) 및 클라이언트 디바이스 (108) 사이에서 네트워크 경로를 따라 제공될 수도 있다. 몇몇 예들에서, 서버 디바이스 (102) 는 소스 디바이스 (12) (도 1) 에 해당할 수도 있는 반면, 클라이언트 디바이스 (108) 는 목적지 디바이스 (14) (도 1) 에 해당할 수도 있다.
대체로, 라우팅 디바이스들 (104) 은 네트워크 (100) 를 통해 네트워크 데이터를 교환하기 위해 하나 이상의 라우팅 프로토콜들을 구현한다. 몇몇 예들에서, 라우팅 디바이스들 (104) 은 프록시 또는 캐시 동작들을 수행하도록 구성될 수도 있다. 그러므로, 몇몇 예들에서, 라우팅 디바이스들 (104) 은 프록시 디바이스들이라고 지칭될 수도 있다. 대체로, 라우팅 디바이스들 (104) 은 네트워크 (100) 를 통해 루트들을 발견하기 위해 라우팅 프로토콜들을 실행한다. 그런 라우팅 프로토콜들을 실행함으로써, 라우팅 디바이스 (104B) 는 자신으로부터 라우팅 디바이스 (104A) 를 통해 서버 디바이스 (102) 로 네트워크 루트를 발견할 수도 있다.
본 개시물의 기법들은 라우팅 디바이스들 (104) 및 트랜스코딩 디바이스 (106) 와 같은 네트워크 디바이스들에 의해 구현될 수도 있지만, 클라이언트 디바이스 (108) 에 의해 또한 구현될 수도 있다. 이런 방식으로, 라우팅 디바이스들 (104), 트랜스코딩 디바이스 (106), 및 클라이언트 디바이스 (108) 는 본 개시물의 기법들을 수행하도록 구성된 디바이스들의 예들을 나타낸다. 더구나, 도 1의 디바이스들과, 도 2에 예시된 인코더 (20) 및 도 3에 도시된 디코더 (30) 는 또한 본 개시물의 기법들을 수행하도록 구성될 수 있는 예시적인 디바이스들이다.
예를 들어, 서버 디바이스 (102) 는 랜덤 액세스 포인트 또는 스트림 적응 포인트, 이를테면 시간적 계층 스위칭 포인트, 또는 다른 스트림 적응 포인트 뒤에 있는 화상 또는 화상들을 인코딩하는 비디오 인코더를 구비할 수도 있다. 예를 들어, 이 포인트는 비트 레이트, 프레임 레이트 (즉, 시간적 계층 스위칭 포인트), 또는 공간적 해상도의 적응을 위한 스위칭 포인트일 수 있다. 마찬가지로, 클라이언트 디바이스 (108) 는 랜덤 액세스 포인트 또는 스트림 적응 포인트, 이를테면 시간적 계층 스위칭 포인트 후에 있는 화상 또는 화상들을 디코딩할 수도 있다.
트랜스코딩 디바이스 (106) 는 비트스트림 스플라이싱을 수행하도록 구성될 수도 있다. 다시 말하면, 트랜스코딩 디바이스 (106) 는 두 개의 상이한 비트스트림들에 대한 데이터를 수신하고, 비트스트림들 중 하나의 비트스트림으로부터의 데이터와 비트스트림들 중 다른 비트스트림의 데이터를, 예컨대, 랜덤 액세스 포인트에서 결합할 수도 있다. 도 6은, 아래에서 논의되는 바와 같이, 스플라이싱된 비트스트림의 일 예를 도시한다. 두 개의 비트스트림들이 함께 스플라이싱되는 포인트가 부분적으로 정렬된 IRAP 액세스 단위를 포함할 수도 있다.
그러나, 본 개시물의 기법들은 이러한 스플라이싱된 비트스트림에 적용가능할 수도 있다. 다시 말하면, 서버 디바이스 (102), 트랜스코딩 디바이스 (106), 또는 다른 디바이스는 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위에서 발생하는 경우 올바르게 디코딩가능하지 않는 화상들을 나타내는 데이터를 시그널링할 수도 있다. 스플라이싱의 결과로, 스플라이스 포인트를 뒤따르는 비트스트림의 데이터는 랜덤으로 액세스되는 것으로 간주될 수도 있다.
몇몇 예들에서, 트랜스코딩 디바이스 (106) 는 스플라이싱된 비트스트림으로부터 비-디코딩가능 화상들을 제거할 수도 있다. 다른 예들에서, 클라이언트 디바이스 (108) (다시 말하면, 클라이언트 디바이스 (108) 의 비디오 디코더) 는, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위에서 시작하여 발생하는 경우 디코딩가능하지 않는 것으로 나타내어지는 부분적으로 정렬된 IRAP 액세스 단위 (이는 스플라이스 포인트로서 역할을 함) 를 추종하는 화상들을, 디코딩하는 일 없이, 파싱할 수도 있다. 비록 스플라이싱된 비트스트림이 스플라이스 포인트에 선행하는 데이터를 포함할 것이지만, 스플라이스 포인트로서 역할을 하는 부분적으로 정렬된 IRAP 액세스 단위는, 본 개시물의 기법들의 목적들을 위해 랜덤으로 액세스될 것으로 간주될 수도 있다.
도 5는 액세스 단위들의 다양한 예들을 도시하는 개념도이다. 도 5의 예에서, 정렬된 IRAP 액세스 단위가 IRAP 화상들만을 포함하는 IRAP 액세스 단위인 것으로 간주된다. 이 예에서, 부분적으로 정렬된 IRAP 액세스 단위가 특정 계층, 및 당해 특정 계층 후의 비-IRAP 액세스 단위들까지의 IRAP 화상들을 (계층 디코딩 순서에서) 포함하는 것으로 간주된다. 다른 액세스 단위들, 예컨대, IRAP 화상을 포함하는 계층 아래의 계층에서의 비-IRAP 화상이 있는 그들 액세스 단위들은, 이 예에서, IRAP 액세스 단위들인 것으로 간주되지 않는다.
도 6은 비트스트림 스플라이싱을 예시하는 개념도이다. 이 예에서, 스플라이싱된 비트스트림은 스플라이스 포인트 (112) 에 의해 분리된, 제 1 비트스트림 (110) 으로부터의 화상들 및 제 2 비트스트림 (114) 으로부터의 화상들을 포함한다. 이 스플라이싱된 비트스트림 내에서, 스플라이스 포인트 (112) 에 뒤따라서, 제 2 비트스트림 (114) 으로부터의 화상들은 부분적으로 정렬된 IRAP 액세스 단위 (116) 로 시작한다. 이 예에서, 부분적으로 정렬된 IRAP 액세스 단위 (116) 는 세 개의 IRAP 화상들과 두 개의 비-IRAP 화상들을 포함한다. 두 개의 비-IRAP 화상들은 버릴 수 있는 향상 계층 화상들로서 취급되는데, 그 화상들이 올바르게 디코딩가능하지 않기 때문이다. 따라서, 비디오 인코더 (예컨대, 비디오 인코더 (20)) 가, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위 (116) 로부터 시작하여 수행하는 경우, 이들 화상들이 올바르게 디코딩가능하지 않다는 것을 나타내는 데이터를 인코딩할 수도 있다. 다시, 비록 비디오 디코더가 제 1 비트스트림 (110) 의 화상들을 수신할 수도 있더라도, 제 2 비트스트림 (114) 의 화상들은 랜덤으로 액세스되는 것으로 간주되는데, 이는 제 1 비트스트림 (110) 의 화상들이 제 2 비트스트림 (114) 의 화상들에 대한 참조 화상들을 포함하지 않기 때문이라는 것이 이해되어야 한다.
도 6의 예에서, 비-디코딩가능 화상들 (예컨대, 버릴 수 있는 향상 계층 화상들) 은 회색으로 음영처리된다. 따라서, 액세스 단위 (116) 에 디코딩 순서에서 뒤를 잇는 그리고 화상을 포함하는 계층에서의 다음의 IRAP 화상을 디코딩 순서에서 선행하는, 도 6에서 음영처리된 화상들의 각각은, 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위에서 시작하여 수행되는 경우, 부분적으로 정렬된 IRAP 액세스 단위 (116) 의 비-IRAP 화상들을 포함하는 비디오 코딩 계층들에서, 올바르게 디코딩가능하지 않다. 본 개시물의 기법들에 따라, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 이들 화상들이 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위 (116) 로 시작하여 수행되는 경우 올바르게 디코딩가능하지 않음을 나타내는 데이터를 코딩 (인코딩 또는 디코딩) 할 수도 있다.
도 6은 부분적으로 정렬된 IRAP 액세스 단위 (116) 의 비-IRAP 화상들을 포함하는 비디오 코딩 계층들에서의 IRAP 화상 (118) 및 IRAP 화상 (120) 을 추가로 예시한다. 따라서, 개별 비디오 코딩 계층들에서, IRAP 화상들 (118, 120) 및 IRAP 화상들 (118, 120) 을 뒤따르는 화상들에 대한 데이터는 이들 화상들이 디코딩가능함을 나타낼 수도 있다.
도 7은 본 개시물의 기법들에 따라 비디오 데이터를 인코딩하는 일 예의 방법을 도시하는 흐름도이다. 도 7의 예는 비디오 인코더 (20) 에 관해 설명된다. 그러나, 다른 비디오 인코딩 디바이스들이 도 7의 방법 또는 유사한 방법들을 수행하도록 구성될 수도 있다는 것이 이해되어야 한다.
이 예에서, 비디오 인코더 (20) 는 부분적으로 정렬된 (P.A.) IRAP 액세스 단위의 IRAP 화상을 인코딩한다 (150). IRAP 화상은 기본 계층 IRAP 화상에 대응할 수도 있다. 도 7에 도시되지 않았지만, 비디오 인코더 (20) 는 IRAP 화상, 예컨대, 기본 계층 (또는 더 낮은 계층 화상) 을 포함하는 계층의 모든 다른 화상들을 또한 인코딩할 수도 있다. 비디오 인코더 (20) 는 동일한 부분적으로 정렬된 IRAP 액세스 단위의 비-IRAP 화상을 그 다음에 인코딩할 수도 있다 (152). 비-IRAP 화상은 향상 계층 (예컨대, IRAP 화상을 포함하는 계층 위의 계층) 의 화상에 해당할 수도 있다.
비디오 인코더 (20) 는 부분적으로 정렬된 액세스 단위를 포함하는 비트스트림에 대해 비-디코딩가능 화상들을 결정할 수도 있다 (154). 이러한 비-디코딩가능 화상들은, 동일한 코딩된 비디오 시퀀스 내에, 비-IRAP 화상을 포함하는 계층과 동일한 비디오 코딩 계층의 부분적으로 정렬된 IRAP 액세스 단위의 비-IRAP 화상 및 (코딩 순서에서의) 후속 화상들을 포함할 수도 있다. 비디오 인코더 (20) 는 그 다음에 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 시작하여 수행되는 경우 이들 화상들이 비-디코딩가능 화상들임을 시그널링하는 데이터를 인코딩할 수도 있다 (156). 예를 들어, 비디오 인코더 (20) 는 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 시작하여 수행되는 경우 이들 화상들이 올바르게 디코딩가능하지 않음을 나타내는 데이터를 화상들의 슬라이스들을 캡슐화하는 NAL 단위들의 NAL 단위 유형들에 대해 인코딩할 수도 있다.
이런 방식으로, 도 7의 방법은 부분적으로 정렬된 IRAP 액세스 단위의 인트라 랜덤 액세스 포인트 (IRAP) 화상을 인코딩하는 단계, 및 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위로부터 랜덤 액세스를 수행하는 경우, 올바르게 디코딩가능하지 않는, 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 인코딩하는 단계를 포함하는 방법의 일 예를 나타낸다.
도 8은 본 개시물의 기법들에 따라 비디오 데이터를 디코딩하는 일 예의 방법을 도시하는 흐름도이다. 이 예에서, 도 8의 방법은 비디오 디코더 (30) 에 의해 수행되고 있는 것으로서 설명된다. 그러나, 다른 비디오 디코딩 디바이스들이 이것 또는 유사한 방법을 또한 수행할 수도 있다는 것이 이해되어야 한다.
처음에, 비디오 디코더 (30) 는 랜덤 액세스가 부분적으로 정렬된 (P.A.) IRAP 액세스 단위 (AU) 로부터 시작하여 수행되고 있다고 결정할 수도 있다 (160). 예를 들어, 비디오 디코더 (30) 는 부분적으로 정렬된 IRAP 액세스 단위에서의 하나 이상의 비-IRAP 화상들에 대해 참조 화상 리스트들 내에 포함될 참조 화상들을 결정하고, 이들 화상들이 디코딩된 화상 버퍼 내에 존재하는지의 여부를 결정할 수도 있다. 부분적으로 정렬된 IRAP 액세스 단위의 비-IRAP 화상들에 대한 시퀀스 파라미터 세트 (SPS), 화상 파라미터 세트 (PPS), 또는 슬라이스 세그먼트 헤더가 이들 참조 화상들을 나타낼 수도 있다. 그 참조 화상들이 디코딩된 화상 버퍼 내에 존재하지 않는다면, 비디오 디코더 (30) 는 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로 시작하여 수행되고 있다고 결정할 수도 있다. 대안으로, 비디오 디코더 (30) 외부의 디바이스, 유닛, 또는 모듈이 부분적으로 정렬된 IRAP 액세스 단위로 시작하여 랜덤 액세스가 수행되고 있음을 나타낼 수도 있다.
어쨌든, 비디오 디코더 (30) 는 그 다음에 IRAP 화상의 부분적으로 정렬된 IRAP 액세스 단위를 디코딩할 수도 있다 (162). 비디오 디코더 (30) 는 그 다음에 부분적으로 정렬된 IRAP 액세스 단위 내에서 및 그 뒤에서 랜덤 액세스가 부분적으로 정렬된 IRAP 액세스 단위로부터 시작하여 수행되는 경우 비-디코딩가능인 것으로 시그널링되는 화상들을 결정할 수도 있다 (164). 예를 들어, 비디오 디코더 (30) 는 화상의 슬라이스들을 캡슐화하는 NAL 단위들에 대한 NAL 단위 유형들에 기초하여 그 화상이 올바르게 디코딩가능하지 않다고 결정할 수도 있다. 이 데이터에 기초하여, 비디오 디코더 (30) 는 디코딩가능 화상들을 디코딩하고 (166) 비-디코딩가능 화상들의 디코딩을 스킵할 수도 있다 (168).
이런 방식으로, 도 8의 방법은, 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위로부터 랜덤 액세스를 수행하는 경우의 올바르게 디코딩가능하지 않는 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 디코딩하는 단계, IRAP 액세스 단위의 IRAP 화상을 디코딩하는 단계, 및 그 데이터에 기초하여, 올바르게 디코딩가능하지 않는 것이라고 데이터가 나타내는 화상의 디코딩을 스킵하는 단계를 포함하는 방법의 일 예를 나타낸다.
도 8의 방법은 하나의 예의 방법을 나타낸다. 다른 예에서, 방법이, 부분적으로 정렬된 인트라 랜덤 액세스 포인트 (IRAP) 액세스 단위로부터 랜덤 액세스를 수행하는 경우 올바르게 디코딩가능하지 않는 비디오 코딩 계층의 적어도 하나의 화상을 나타내는 데이터를 디코딩하는 단계, 올바르게 디코딩가능하지 않는 적어도 하나의 화상을 나타내는 데이터에 기초하여 IRAP 액세스 단위의 IRAP 화상을 디코딩하는 단계, 올바르게 디코딩가능하지 않는 제 1 화상 세트를 IRAP 액세스 단위에서 식별하는 단계, 제 1 화상 세트에서의 각각의 화상에 대해, 화상들에 대한 참조 화상 세트들에 기초하여, 이용불가 참조 화상들의 개별 제 2 세트들을 생성하는 단계, 화상들 중 제 2 화상 세트를 개별 참조 화상 세트에서 나타내어진 바와 같은 단기 또는 장기 중 어느 하나 참조 화상들인 것으로서 마킹하는 단계, 및 제 1 화상 세트에서의 각각의 화상을 디코딩하는 단계를 포함한다.
하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그것들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현된다면, 그 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독가능 매체 상에 저장되거나 또는 그것을 통해 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체들은, 데이터 저장 매체들과 같은 유형의 (tangible) 매체에 대응하는 컴퓨터 판독가능 저장 매체들, 또는 예컨대 통신 프로토콜에 따라 한 장소에서 다른 장소로 컴퓨터 프로그램의 전달을 용이하게 하는 임의의 매체를 포함하는 통신 매체들을 포함할 수도 있다. 이런 방식으로, 컴퓨터 판독가능 매체들은 일반적으로 (1) 비일시적 (non-transitory) 인 유형의 컴퓨터 판독가능 저장 매체들 또는 (2) 신호 또는 반송파와 같은 통신 매체에 해당할 수도 있다. 데이터 저장 매체들은 본 개시물에서 설명된 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 이용가능 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수도 있다.
비제한적인 예로, 이러한 컴퓨터 판독가능 저장 매체들은 RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 소망의 프로그램 코드를 컴퓨터에 의해 액세스될 수 있는 명령들 또는 데이터 구조들의 형태로 저장하는데 사용될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터 판독가능 매체로 적절히 칭해진다. 예를 들어, 명령들이 웹사이트, 서버, 또는 다른 원격 자원으로부터 동축 케이블, 광섬유 케이블, 연선 (twisted pair), 디지털 가입자 회선 (DSL), 또는 무선 기술들 이를테면 적외선, 라디오, 및/또는 마이크로파를 이용하여 송신된다면, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술은 매체의 정의에 포함된다. 그러나, 컴퓨터 판독가능 저장 매체들 및 데이터 저장 매체들은 커넥션들, 반송파들, 신호들, 또는 다른 일시적인 매체들을 포함하지 않지만, 대신 비일시적 (non-transient), 유형의 저장 매체들을 지향하고 있음이 이해되어야 한다. 디스크 (disk 및 disc) 는 본원에서 사용되는 바와 같이, 콤팩트 디스크 (compact disc, CD), 레이저 디스크, 광 디스크, 디지털 다용도 디스크 (DVD), 플로피 디스크 (floppy disk) 및 블루레이 디스크를 포함하는데, disk들은 보통 데이터를 자기적으로 재생하지만, disc들은 레이저들로써 광적으로 데이터를 재생한다. 상기한 것들의 조합들은 또한 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.
명령들은 하나 이상의 프로세서들, 이를테면 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적회로들 (ASIC들), 필드 프로그램가능 로직 어레이들 (FPGA들), 또는 다른 동등한 집적 또는 개별 로직 회로에 의해 실행될 수도 있다. 따라서, 본원에서 사용되는 바와 같은 용어 "프로세서"는 앞서의 구조 또는 본원에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 중 임의의 것을 말할 수도 있다. 덧붙여서, 일부 양태들에서, 본원에서 설명된 기능성은 인코딩 및 디코딩을 위해 구성되는, 또는 결합형 코덱 (codec) 으로 통합되는 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공될 수도 있다. 또한, 본 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들 내에 완전히 구현될 수 있다.
본 개시물의 기법들은 무선 핸드셋, 집적회로 (IC) 또는 IC들의 세트 (예컨대, 칩 셋) 를 포함한 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 다양한 컴포넌트들, 모듈들, 또는 유닛들은 개시된 기법들을 수행하도록 구성된 디바이스들의 기능적 양태들을 강조하기 위해 본 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 대신에, 위에서 설명된 바와 같이, 다양한 유닛들은 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명된 바와 같은 하나 이상의 프로세서들을 포함하는, 상호운용적 하드웨어 유닛들의 컬렉션에 의해 제공될 수도 있다.
다양한 예들이 설명되어 있다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.
Claims (51)
- 고 효율 비디오 코딩 (HEVC) 비디오 데이터를 디코딩하는 방법으로서,
상기 비디오 데이터는 기본 계층 및 하나 이상의 향상 계층들을 포함하는 복수의 계층들을 포함하고,
상기 방법은,
부분적으로 정렬된 인트라 랜덤 액세스 포인트 (intra random access point, IRAP) 액세스 단위로부터 랜덤 액세스를 수행할 때, 올바르게 디코딩가능하지 않는 향상 계층의 적어도 하나의 화상을 나타내는 데이터를 디코딩하는 단계로서, 상기 부분적으로 정렬된 IRAP 액세스 단위는 기본 계층에 깨진 링크 액세스 (BLA) 화상 및 향상 계층에 비-IRAP 화상을 포함하는, 상기 데이터를 디코딩하는 단계; 및
상기 부분적으로 정렬된 IRAP 액세스 단위의 상기 기본 계층의 상기 BLA 화상을 디코딩하는 단계 (162) 로서, 올바르게 디코딩가능하지 않는 상기 적어도 하나의 화상에 대해, 이용 불가능한 참조 화상들을 생성하는 프로세스가 호출되고 상기 적어도 하나의 화상은 출력되지 않는, 상기 BLA 화상을 디코딩하는 단계 (162) 를 포함하고,
올바르게 디코딩가능하지 않는 상기 향상 계층의 상기 적어도 하나의 화상은 상기 부분적으로 정렬된 IRAP 액세스 단위의 상기 향상 계층의 상기 비-IRAP 화상을 포함하는, HEVC 비디오 데이터를 디코딩하는 방법. - 고 효율 비디오 코딩 (HEVC) 비디오 데이터를 디코딩하기 위한 디바이스로서,
상기 비디오 데이터는 기본 계층 및 하나 이상의 향상 계층들을 포함하는 복수의 계층들을 포함하고,
상기 디바이스는,
부분적으로 정렬된 인트라 랜덤 액세스 포인트 (intra random access point, IRAP) 액세스 단위로부터 랜덤 액세스를 수행할 때, 올바르게 디코딩가능하지 않는 향상 계층의 적어도 하나의 화상을 나타내는 데이터를 디코딩하는 수단으로서, 상기 부분적으로 정렬된 IRAP 액세스 단위는 기본 계층에 깨진 링크 액세스 (BLA) 화상 및 향상 계층에 비-IRAP 화상을 포함하는, 상기 데이터를 디코딩하는 수단; 및
상기 부분적으로 정렬된 IRAP 액세스 단위의 상기 기본 계층의 상기 BLA 화상을 디코딩하는 수단 (162) 으로서, 올바르게 디코딩가능하지 않는 상기 적어도 하나의 화상에 대해, 이용 불가능한 참조 화상들을 생성하는 프로세스가 호출되고 상기 적어도 하나의 화상은 출력되지 않는, 상기 BLA 화상을 디코딩하는 수단 (162) 을 포함하고,
올바르게 디코딩가능하지 않는 상기 향상 계층의 상기 적어도 하나의 화상은 상기 부분적으로 정렬된 IRAP 액세스 단위의 상기 향상 계층의 상기 비-IRAP 화상을 포함하는, HEVC 비디오 데이터를 디코딩하기 위한 디바이스. - 명령들을 저장한 컴퓨터 판독가능 저장 매체로서,
상기 명령들은, 실행될 때, 비디오 데이터를 디코딩하기 위한 디바이스의 프로세서로 하여금, 제 1 항에 기재된 방법을 수행하게 하는, 컴퓨터 판독가능 저장 매체.
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
Applications Claiming Priority (7)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201361809063P | 2013-04-05 | 2013-04-05 | |
| US61/809,063 | 2013-04-05 | ||
| US201361812225P | 2013-04-15 | 2013-04-15 | |
| US61/812,225 | 2013-04-15 | ||
| US14/244,743 | 2014-04-03 | ||
| US14/244,743 US9596486B2 (en) | 2013-04-05 | 2014-04-03 | IRAP access units and bitstream switching and splicing |
| PCT/US2014/032926 WO2014165730A1 (en) | 2013-04-05 | 2014-04-04 | Irap access units and bitstream switching and splicing |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20150139898A KR20150139898A (ko) | 2015-12-14 |
| KR102084822B1 true KR102084822B1 (ko) | 2020-03-04 |
Family
ID=51654456
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020157031269A KR102084822B1 (ko) | 2013-04-05 | 2014-04-04 | Irap 액세스 단위들과 비트스트림 스위칭 및 스플라이싱 |
Country Status (8)
| Country | Link |
|---|---|
| US (1) | US9596486B2 (ko) |
| EP (1) | EP2982129B1 (ko) |
| JP (1) | JP6239732B2 (ko) |
| KR (1) | KR102084822B1 (ko) |
| CN (1) | CN105052156B (ko) |
| ES (1) | ES2748561T3 (ko) |
| HU (1) | HUE044639T2 (ko) |
| WO (1) | WO2014165730A1 (ko) |
Families Citing this family (26)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104620578B (zh) * | 2012-07-06 | 2018-01-02 | 三星电子株式会社 | 用于随机访问的多层视频编码的方法和设备以及用于随机访问的多层视频解码的方法和设备 |
| US9674533B2 (en) | 2013-04-05 | 2017-06-06 | Qualcomm Incorporated | Picture alignments in multi-layer video coding |
| US10003815B2 (en) * | 2013-06-03 | 2018-06-19 | Qualcomm Incorporated | Hypothetical reference decoder model and conformance for cross-layer random access skipped pictures |
| WO2015056179A1 (en) | 2013-10-15 | 2015-04-23 | Nokia Technologies Oy | Video encoding and decoding using syntax element |
| KR102266902B1 (ko) * | 2014-01-13 | 2021-06-18 | 삼성전자주식회사 | 멀티 레이어 비디오 부호화 방법 및 장치, 멀티 레이어 비디오 복호화 방법 및 장치 |
| KR20170069957A (ko) * | 2014-10-08 | 2017-06-21 | 엘지전자 주식회사 | 3d 비디오 코딩에서 카메라 파라미터 처리 방법 및 장치 |
| US20160119619A1 (en) * | 2014-10-27 | 2016-04-28 | Ati Technologies Ulc | Method and apparatus for encoding instantaneous decoder refresh units |
| WO2016108188A1 (en) | 2014-12-31 | 2016-07-07 | Nokia Technologies Oy | Inter-layer prediction for scalable video coding and decoding |
| US9973562B2 (en) | 2015-04-17 | 2018-05-15 | Microsoft Technology Licensing, Llc | Split processing of encoded video in streaming segments |
| CN106303673B (zh) * | 2015-06-04 | 2021-01-22 | 中兴通讯股份有限公司 | 码流对齐、同步处理方法及发送、接收终端和通信系统 |
| US10306253B2 (en) * | 2015-10-14 | 2019-05-28 | Qualcomm Incorporated | Signaling of parameter sets in files of multi-layer bitstreams |
| US11184624B2 (en) * | 2016-05-19 | 2021-11-23 | Qualcomm Incorporated | Regional random access in pictures |
| US10623755B2 (en) * | 2016-05-23 | 2020-04-14 | Qualcomm Incorporated | End of sequence and end of bitstream NAL units in separate file tracks |
| US10554711B2 (en) * | 2016-09-29 | 2020-02-04 | Cisco Technology, Inc. | Packet placement for scalable video coding schemes |
| CN107734387B (zh) * | 2017-10-25 | 2020-11-24 | 北京网博视界科技股份有限公司 | 一种视频切割方法、装置、终端和存储介质 |
| CN109963176B (zh) * | 2017-12-26 | 2021-12-07 | 中兴通讯股份有限公司 | 视频码流处理方法、装置、网络设备和可读存储介质 |
| US11539957B2 (en) * | 2019-06-20 | 2022-12-27 | Tencent America LLC | Layered random access with reference picture resampling |
| BR112021026826A2 (pt) * | 2019-07-03 | 2022-02-22 | Huawei Tech Co Ltd | Tipos de imagens de referência em listas de imagens de referência |
| CN114827600B (zh) * | 2019-07-08 | 2023-09-01 | 华为技术有限公司 | 一种图像解码的方法及解码器 |
| WO2021043914A1 (en) | 2019-09-03 | 2021-03-11 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Configurable nal and slice code point mechanism for stream merging |
| US11228777B2 (en) * | 2019-12-30 | 2022-01-18 | Tencent America LLC | Method for layerwise random access in a coded video stream |
| CN115280781A (zh) * | 2020-01-02 | 2022-11-01 | Lg电子株式会社 | 图像解码方法及其装置 |
| KR20220155277A (ko) | 2020-03-16 | 2022-11-22 | 바이트댄스 아이엔씨 | 스케일러블 비디오 코딩의 랜덤 액세스 포인트 액세스 유닛 |
| KR20230023721A (ko) * | 2020-06-06 | 2023-02-17 | 엘지전자 주식회사 | 레이어 정보 시그널링 기반 영상 코딩 장치 및 방법 |
| EP4165873A1 (en) * | 2020-06-10 | 2023-04-19 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Miscellaneous signaling concepts for multi-layer video bitstreams and for output timing derivation |
| US11962936B2 (en) | 2020-09-29 | 2024-04-16 | Lemon Inc. | Syntax for dependent random access point indication in video bitstreams |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3852366B2 (ja) * | 2002-04-26 | 2006-11-29 | ソニー株式会社 | 符号化装置および方法、復号装置および方法、並びにプログラム |
| EP2375749B1 (en) * | 2005-10-11 | 2016-11-23 | Nokia Technologies Oy | System and method for efficient scalable stream adaptation |
| JP2011501497A (ja) | 2007-10-15 | 2011-01-06 | ノキア コーポレイション | マルチビュー映像コンテンツのための動きスキップおよびシングルループ符号化 |
| US20100232520A1 (en) | 2007-11-05 | 2010-09-16 | Zhenyu Wu | Scalable video coding method for fast channel change and increased error relilience |
| CN102106156B (zh) * | 2008-07-26 | 2013-06-19 | 汤姆逊许可证公司 | 使用可分级视频编码(svc)的用于快速信道改变的实时传输协议(rtp)打包方法 |
| US8411746B2 (en) * | 2009-06-12 | 2013-04-02 | Qualcomm Incorporated | Multiview video coding over MPEG-2 systems |
| KR101290467B1 (ko) * | 2009-09-22 | 2013-07-26 | 퀄컴 인코포레이티드 | 2 개 이상의 비연속적인 ｎａｌ 유닛들을 참조하는 추출자를 이용하는 멀티-트랙 비디오 코딩 방법들 및 장치 |
| US20110081133A1 (en) * | 2009-10-05 | 2011-04-07 | Xuemin Chen | Method and system for a fast channel change in 3d video |
| US9532055B2 (en) * | 2012-04-16 | 2016-12-27 | Microsoft Technology Licensing, Llc | Constraints and unit types to simplify video random access |
| WO2014028838A1 (en) | 2012-08-16 | 2014-02-20 | Vid Scale, Inc. | Slice based skip mode signaling for multiple layer video coding |
| US20140085415A1 (en) | 2012-09-27 | 2014-03-27 | Nokia Corporation | Method and apparatus for video coding |
| US9674533B2 (en) | 2013-04-05 | 2017-06-06 | Qualcomm Incorporated | Picture alignments in multi-layer video coding |
| US10003815B2 (en) | 2013-06-03 | 2018-06-19 | Qualcomm Incorporated | Hypothetical reference decoder model and conformance for cross-layer random access skipped pictures |
-
2014
- 2014-04-03 US US14/244,743 patent/US9596486B2/en active Active
- 2014-04-04 ES ES14720460T patent/ES2748561T3/es active Active
- 2014-04-04 HU HUE14720460 patent/HUE044639T2/hu unknown
- 2014-04-04 KR KR1020157031269A patent/KR102084822B1/ko active IP Right Grant
- 2014-04-04 WO PCT/US2014/032926 patent/WO2014165730A1/en active Application Filing
- 2014-04-04 CN CN201480017466.0A patent/CN105052156B/zh active Active
- 2014-04-04 JP JP2016506633A patent/JP6239732B2/ja active Active
- 2014-04-04 EP EP14720460.6A patent/EP2982129B1/en active Active
Non-Patent Citations (5)
| Title |
|---|
| 논문1(Thomas Schierl 등, 2012)* |
| 표준문서1(Jianle Chen 등, 2013)* |
| 표준문서2(Ye-Kui Wang 등, 2005) |
| 표준문서3(Miska M. Hannuksela, 2013) |
| 표준문서4(Ye-Kui Wang, 2013) |
Also Published As
| Publication number | Publication date |
|---|---|
| HUE044639T2 (hu) | 2019-11-28 |
| EP2982129A1 (en) | 2016-02-10 |
| US9596486B2 (en) | 2017-03-14 |
| US20140301485A1 (en) | 2014-10-09 |
| ES2748561T3 (es) | 2020-03-17 |
| JP2016519509A (ja) | 2016-06-30 |
| EP2982129B1 (en) | 2019-07-03 |
| CN105052156B (zh) | 2018-04-03 |
| CN105052156A (zh) | 2015-11-11 |
| JP6239732B2 (ja) | 2017-11-29 |
| WO2014165730A1 (en) | 2014-10-09 |
| KR20150139898A (ko) | 2015-12-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102084822B1 (ko) | Irap 액세스 단위들과 비트스트림 스위칭 및 스플라이싱 | |
| EP3257250B1 (en) | Design of sample entry and operation point signalling in a layered video file format | |
| KR101799165B1 (ko) | Ｈｅｖｃ 및 확장들에 대한 비디오 파라미터 세트 | |
| US9736476B2 (en) | Full random access from clean random access pictures in video coding | |
| RU2633117C2 (ru) | Кодирование наборов параметров и заголовков единиц nal для кодирования видео | |
| KR102388860B1 (ko) | 다중 계층 비디오 코딩 | |
| US9516308B2 (en) | Parameter set updates in video coding | |
| US9525883B2 (en) | Cross-layer alignment of intra random access point pictures | |
| KR102401406B1 (ko) | 시퀀스 종료 네트워크 추상화 계층 유닛을 사용한 개선된 비디오 코딩 | |
| KR102148061B1 (ko) | Mv-hevc 에서의 인터-뷰 종속성 타입 | |
| US9479779B2 (en) | Sub-bitstream extraction for multiview, three-dimensional (3D) and scalable media bitstreams |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| A302 | Request for accelerated examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |