KR20240019408A - 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 - Google Patents
팔레트 모드를 사용한 비디오 코딩 방법 및 장치 Download PDFInfo
- Publication number
- KR20240019408A KR20240019408A KR1020247004284A KR20247004284A KR20240019408A KR 20240019408 A KR20240019408 A KR 20240019408A KR 1020247004284 A KR1020247004284 A KR 1020247004284A KR 20247004284 A KR20247004284 A KR 20247004284A KR 20240019408 A KR20240019408 A KR 20240019408A
- Authority
- KR
- South Korea
- Prior art keywords
- palette
- coding unit
- video
- coding
- mode
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 claims abstract description 100
- 241000023320 Luma <angiosperm> Species 0.000 claims abstract description 99
- 230000009977 dual effect Effects 0.000 claims abstract description 36
- 238000003860 storage Methods 0.000 claims description 23
- 230000011664 signaling Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims 2
- 230000008569 process Effects 0.000 description 43
- 239000013598 vector Substances 0.000 description 38
- 238000012545 processing Methods 0.000 description 36
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 20
- 230000000875 corresponding effect Effects 0.000 description 20
- 238000004891 communication Methods 0.000 description 15
- 238000013139 quantization Methods 0.000 description 15
- 238000000638 solvent extraction Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 13
- 238000013461 design Methods 0.000 description 12
- 238000013459 approach Methods 0.000 description 11
- 230000003044 adaptive effect Effects 0.000 description 8
- 239000003086 colorant Substances 0.000 description 8
- 230000006835 compression Effects 0.000 description 8
- 238000007906 compression Methods 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 6
- 238000005192 partition Methods 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000003491 array Methods 0.000 description 4
- 238000013500 data storage Methods 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241001502919 Gambusia luma Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000001143 conditioned effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000012432 intermediate storage Methods 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
전자 장치는 비디오 데이터를 디코딩하는 방법을 수행한다. 상기 비디오 데이터를 디코딩하는 방법은: 비트스트림으로부터 코딩 단위와 관련된 복수의 신택스 요소들을 수신하되, 상기 복수의 신택스 요소들은 상기 코딩 단위의 코딩 트리 유형 및 상기 코딩 단위에 대한 로컬 듀얼 트리 모드의 인에이블 여부를 가리키는 단계; 상기 코딩 단위의 상기 코딩 트리 유형이 단일 트리이며, 상기 코딩 단위에 대하여 로컬 듀얼 트리 모드를 인에이블하는 결정에 따라: 상기 코딩 단위가 미리 정의된 임계값 보다 작거나 같은 사이즈를 가지는 경우, 상기 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계,를 포함한다. 일부 실시예들에서, 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계는: 코딩 단위의 루마 성분 및 크로마 성분 모두에 대하여 팔레트 모드를 디스에이블하는 단계,를 포함한다.
Description
본 발명은 일반적으로 비디오 데이터 코딩 및 압축에 관한 것으로, 구체적으로 팔레트 모드를 사용한 비디오 코딩의 방법 및 시스템에 관한 것이다.
[관련 출원에 대한 교차 인용]
본 출원은 2020년 03월 27일에 출원한 "VIDEO CODING USING PALETTE MODE(팔레트 모드를 사용한 비디오 코딩)"이라는 제목의 제 63/001,235호 미국 임시 출원의 우선권을 주장하며, 그 전체 내용은 인용을 통해 본 문에 병합된다.
디지털 비디오는 디지털 TV, 랩톱 또는 데스크톱 컴퓨터, 태블릿 컴퓨터, 디지털 카메라, 디지털 기록 장치, 디지털 미디어 플레이어, 비디오 게임 콘솔, 스마트 폰, 비디오 화상 회의 장치, 비디오 스트리밍 장치와 같은 다양한 전자 장치에 의해 지지될 수 있다. 전자 장치는 MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, Part 10, Advanced Video Coding(AVC), High Efficiency Video Coding(HEVC) 및Versatile Video Coding(VVC)에 의하여 정의된 비디오 압축/복원 표준을 구현하여 디지털 비디오 데이터를 송신, 수신, 인코딩, 디코딩 및/또는 저장할 수 있다. 비디오 압축은 일반적으로 비디오 데이터에 내재된 중복성을 감소하거나 제거하기 위하여 공간적(인트라-프레임) 예측 및/또는 시간적(인터-프레임) 예측을 수행하는 것을 포함할 수 있다. 블록-기반 비디오 코딩의 경우, 비디오 프레임은 하나 또는 그 이상의 슬라이스(slice)로 분할되며, 각 슬라이스는 코딩 트리 단위(coding tree unit, CTU)로도 불리는 비디오 블록들을 복수 개 구비할 수 있다. 각 CTU는 하나의 코딩 단위(coding unit, CU)를 포함하거나, 소정의 최소 CU 크기에 도달 할 때까지 더 작은 CU로 재귀적으로 분할될 수 있다. 각 CU("리프 CU(leaf CU)"라고도 함)는 하나 또는 복수 개의 변환 단위(transformation unit, TU)를 포함하고, 각 CU는 하나 또는 복수 개의 예측 단위(prediction unit, PU)를 포함할 수 있다. 각 CU는 인트라, 인터 또는 IBC 모드로 코딩될 수 있다. 비디오 프레임의 인트라 코딩된(I) 슬라이스 내의 비디오 블록들은 동일한 비디오 프레임 내의 인접 블록들의 기준 샘플들에 대한 공간적 예측을 사용하여 인코딩될 수 있다. 비디오 프레임의 인터 코딩된(P 또는 B) 슬라이스 내의 비디오 블록들에 대하여, 동일한 비디오 프레임 내의 인접 블록의 기준 샘플들에 대한 공간적 예측 또는 다른 이전 및/또는 미래 기준 비디오 프레임들의 기준 샘플들에 대한 시간적 예측을 사용할 수 있다.
예하면, 인접 블록과 같이 이전에 인코딩된 기준 블록에 기초한 공간적 또는 시간적 예측은 코딩될 현재 비디오 블록에 대한 예측 블록을 생성할 수 있다. 기준 블록을 찾는 과정은 블록 매칭 알고리즘에 의해 수행될 수 있다. 코딩될 현재 블록과 예측 블록 사이의 픽셀 차이를 나타내는 잔여 데이터를 잔여 블록 또는 예측 오차라고할 수 있다. 인터-코딩된 블록은 예측 블록을 구성하는 기준 프레임 내의 기준 블록을 가리키는 움직임 벡터(motion vector) 및 잔여 블록에 따라 인코딩될 수 있다. 일반적으로, 움직임 벡터를 확정하는 프로세스를 움직임 추정이라고 한다. 인트라 코딩된 블록은 인트라 예측 모드 및 잔여 블록에 따라 인코딩될 수 있다. 추가 압축을 위하여, 잔여 블록은 픽셀 도메인에서 주파수 도메인과 같은 변환 도메인으로 변환되고, 그 결과 추후에 양자화되는 잔여 변환 계수들이 생성될 수 있다. 초기에 2 차원-행렬로 배열된 양자화된 변환 계수들은 스캔되어 변환 계수들의 1 차원-벡터를 생성하고, 다음 비디오 비트스트림으로 엔트로피 인코딩되어 더 많은 압축을 달성할 수 있다.
다음, 인코딩된 비디오 비트스트림은 컴퓨터 판독 가능한 저장 매체(예를 들어, 플래시 메모리)에 저장되어 디지털 비디오 기능을 가진 다른 전자 장치에 의해 액세스되거나, 유선 또는 무선으로 전자 장치에 직접 전송될 수 있다. 다음, 전자 장치는 예를 들어 인코딩된 비디오 비트스트림을 파싱하여 비트스트림으로부터 신택스 요소들(systax elements)을 획득하고, 비트스트림으로부터 획득한 신택스 요소들에 적어도 일부분 기초하여 디지털 비디오 데이터를 인코딩된 비디오 비트스트림으로부터 원 포맷으로 재구성하는 것을 통하여 비디오 복원(위에서 설명한 비디오 압축과 반대되는 프로세스)을 수행하며, 전자 장치의 디스플레이상에 재구성된 디지털 비디오 데이터를 렌더링할 수 있다.
디지털 비디오 품질이 고화질에서 4K Х 2K 또는 8K Х 4K로 변화함에 따라, 인코딩/디코딩될 비디오 데이터의 양이 급격히 증가한다. 디코딩된 비디오 데이터의 이미지 품질을 유지하는 동시에 비디오 데이터를 보다 효율적으로 인코딩/디코딩할 수 있는 방법은 끊임없는 문제이다.
본 출원은 비디오 데이터 인코딩 및 디코딩, 특히 팔레트 모드를 사용한 비디오 인코딩 및 디코딩의 방법 및 시스템과 관련된 구현 방식들을 설명한다.
본 출원의 제1 측면에 따르면, 비트스트림으로부터 코딩 단위와 관련된 복수의 신택스 요소들을 수신하되, 상기 복수의 신택스 요소들은 상기 코딩 단위의 코딩 트리 유형 및 상기 코딩 단위에 대한 로컬 듀얼 트리 모드(local dual tree mode)의 인에이블 여부를 가리키는 단계; 상기 코딩 단위의 상기 코딩 트리 유형이 단일 트리(single tree)이며, 상기 코딩 단위에 대하여 로컬 듀얼 트리 모드를 인에이블하는 결정에 따라: 상기 코딩 단위가 미리 정의된 임계값 보다 작거나 같은 사이즈를 가지는 경우, 상기 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계,를 포함한다.
일부 실시예들에서, 상기 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계는, 상기 코딩 단위의 루마 성분 및 크로마 성분 모두에 대하여 상기 팔레트 모드를 디스에이블하는 단계,를 포함한다.
일부 실시예들에서, 상기 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계는, 상기 코딩 단위의 크로마 성분에 대하여만 상기 팔레트 모드를 디스에이블하는 단계,를 포함한다.
본 출원의 제2 측면에 따르면, 전자 장치는 하나 혹은 그 이상의 프로세싱 유닛, 메모리 및 상기 메모리에 저장된 복수의 프로그램을 포함한다. 상기 프로그램들은, 상기 하나 혹은 그 이상의 프로세싱 유닛에 의해 실행될 경우, 상기 전자 장치로 하여금 상기에서 설명한 비디오 데이터를 디코딩하는 방법들을 수행하도록 한다.
본 출원의 제3 측면에 따르면, 비-일시적 컴퓨터 판독 가능 저장 매체는 하나 혹은 그 이상의 프로세싱 유닛을 구비하는 전자 장치에 의해 실행되기 위한 복수의 프로그램을 저장한다. 상기 프로그램들은, 상기 하나 혹은 그 이상의 프로세싱 유닛에 의해 실행될 경우 상기 전자 장치로 하여금 상기에서 설명한 비디오 데이터를 디코딩하는 방법을 수행하도록 한다.
본 발명은 팔레트 모드를 사용한 비디오 코딩 방법 및 장치를 제공할 수 있다.
본 명세서에 포함되고 본 명세서의 일부를 구성하는 첨부된 도면은 본 명세서와 일치하는 예들을 예시하며, 설명과 함께, 본 명세서의 원리를 설명하는 역할을 한다.
도 1은 본 개시의 일부 구현 방식들에 따른 비디오 블록구현 방식들에 대한 진일보 이해를 제공하기 위해 포함되고 본 문에 통합되며 명세서의 일부를 구성하는 첨부 도면들은, 설명된 구현 방식들을 도시하고, 설명과 함께 기본 원리를 서술하는 역할을 한다. 동일한 도면 부호는 대응되는 부분을 나타낸다.
도 1은 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2는 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 인코더를 도시하는 블록도이다.
도 3은 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 디코더를 도시하는 블록도이다.
도 4a 내지 도 4e는 본 개시의 일부 구현 방식들에 따른 프레임이 서로 다른 크기와 모양의 복수 개의 비디오 블록들로 재귀적으로 분할되는 것을 도시하는 블록도들이다.
도 5a 내지 도 5d는 본 개시의 일부 구현 방식들에 따른 팔레트 테이블을 사용하여 비디오 데이터를 코딩하는 예시들을 도시하는 블록도이다.
도 6은 본 개시의 일부 구현 방식들에 따른 비디오 디코더가 비디오 데이터를 디코딩하는 기술을 구현하는 예시적인 프로세스를 도시하는 흐름도이다.
도 7은 본 개시의 일부 구현 방식들에 따른 예시 컨텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding: CABAC) 엔진을 도시하는 블록도이다.
도 1은 본 개시의 일부 구현 방식들에 따른 비디오 블록구현 방식들에 대한 진일보 이해를 제공하기 위해 포함되고 본 문에 통합되며 명세서의 일부를 구성하는 첨부 도면들은, 설명된 구현 방식들을 도시하고, 설명과 함께 기본 원리를 서술하는 역할을 한다. 동일한 도면 부호는 대응되는 부분을 나타낸다.
도 1은 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2는 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 인코더를 도시하는 블록도이다.
도 3은 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 디코더를 도시하는 블록도이다.
도 4a 내지 도 4e는 본 개시의 일부 구현 방식들에 따른 프레임이 서로 다른 크기와 모양의 복수 개의 비디오 블록들로 재귀적으로 분할되는 것을 도시하는 블록도들이다.
도 5a 내지 도 5d는 본 개시의 일부 구현 방식들에 따른 팔레트 테이블을 사용하여 비디오 데이터를 코딩하는 예시들을 도시하는 블록도이다.
도 6은 본 개시의 일부 구현 방식들에 따른 비디오 디코더가 비디오 데이터를 디코딩하는 기술을 구현하는 예시적인 프로세스를 도시하는 흐름도이다.
도 7은 본 개시의 일부 구현 방식들에 따른 예시 컨텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding: CABAC) 엔진을 도시하는 블록도이다.
이하 그 예가 첨부 도면에 도시되어 있는 특정 구현 방식들을 상세하게 설명한다. 다음의 상세한 설명에서, 본 명세서에 기재된 내용의 이해를 돕기 위하여 복수의 비-제한적인 특정 세부 사항이 설명된다. 그러나, 청구항의 범위를 벗어나지 않고 다양한 변경을 진행할 수 있고 이러한 특정 세부사항 없이 주제가 실시될 수 있다는 것은 당업자에게 자명한 것이다. 예를 들어, 본 명세서에 기재한 기술적 방안은 디지털 비디오 기능을 구비한 다양한 유형의 전자 장치에서 구현될 수 있다는 것은 당업자에게 자명한 것이다.
도 1은 본 개시의 일부 구현 방식들에 따른 비디오 블록들을 병렬로 인코딩 및 디코딩하기 위한 예시적인 시스템(10)을 도시하는 블록도이다. 도 1에 도시된 바와 같이, 시스템(10)은 목적지 장치(14)에 의해 나중에 디코딩될 비디오 데이터를 생성하고 인코딩하는 소스 장치(12)를 포함한다. 소스 장치(12) 및 목적지 장치(14)는 데스크톱 또는 랩탑 컴퓨터, 태블릿 컴퓨터, 스마트 폰, 셋톱 박스, 디지털 텔레비전, 카메라, 디스플레이 장치, 디지털 미디어 플레이어, 비디오 게임 콘솔, 비디오 스트리밍 장치와 같은 다양한 전자 장치 중의 어느 하나를 포함할 수 있다. 일부 구현 방식들에서, 소스 장치(12) 및 목적지 장치(14)는 무선 통신 기능을 구비할 수 있다.
일부 구현 방식들에서, 목적지 장치(14)는 링크(16)를 통하여 디코딩될 인코딩된 비디오 데이터를 수신할 수 있다. 링크(16)는 인코딩된 비디오 데이터를 소스 장치(12)로부터 목적지 장치(14)로 이동할 수 있는 임의의 유형의 통신 매체 또는 장치를 포함할 수 있다. 일 예에서, 링크(16)는 인코딩된 비디오 데이터를 소스 장치(12)가 목적지 장치(14)에 실시간으로 직접 전송할 수 있도록 하는 통신 매체일 수 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되어 목적지 장치(14)로 전송될 수 있다. 통신 매체는 무선 주파수(RF) 스펙트럼 또는 하나 또는 그 이상의 물리적 전송 라인과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수 있다. 통신 매체는 근거리 네트워크(local area network), 광역 네트워크(wide-area network)와 같은 패킷-기반 네트워크(packet-based network) 또는 인터넷(Internet)과 같은 글로벌 네트워크(global network)의 일부분을 형성할 수 있다. 통신 매체는 라우터, 스위치, 기지국, 또는 소스 장치(12)로부터 목적지 장치(14)로의 통신을 용이하게 하는데 사용할 수 있는 임의의 다른 장비를 포함할 수 있다.
일부 다른 구현 방식들에서, 인코딩된 비디오 데이터는 출력 인터페이스(22)로부터 저장 장치(32)로 전송될 수 있다. 다음, 저장 장치(32) 내의 인코딩된 비디오 데이터는 목적지 장치(14)가 입력 인터페이스(28)를 통하여 액세스할 수 있다. 저장 장치(32)는 다양한 분산 또는 로컬 액세스 데이터 저장 매체(예하면, 하드 드라이브, Blu-ray 디스크, DVD, CD-ROM, 플래시 메모리, 휘발성 또는 비 휘발성 메모리), 또는 인코딩된 비디오 데이터를 저장하기에 적절한 기타 디지털 저장 매체 중의 임의의 하나를 포함할 수 있다. 추가 예에서, 저장 장치(32)는 소스 장치(12)에 의해 생성된 인코딩된 비디오 데이터를 보유할 수 있는 파일 서버(file server) 또는 다른 중간 저장 장치에 대응할 수 있다. 목적지 장치(14)는 스트리밍 또는 다운로드를 통해 저장 장치(32)로부터 저장된 비디오 데이터에 액세스할 수있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 인코딩된 비디오 데이터를 목적지 장치(14)로 전송할 수 있는 임의의 유형의 컴퓨터일 수 있다. 예시적인 파일 서버는 웹 서버(예 : 웹 사이트 용), FTP 서버, 네트워크 연결 스토리지(network attached storage: NAS) 장치 또는 로컬 디스크 드라이브(local disk driver)를 포함할 수 있다. 목적지 장치(14)는 파일 서버에 저장된 인코딩된 비디오 데이터의 액세스에 적합한 무선 채널(예하면, Wi-Fi 연결), 유선 연결(예하면, DSL, 케이블 모뎀 등) 또는 이들의 조합을 포함하는 임의의 표준 데이터 연결을 통해 인코딩된 비디오 데이터에 액세스할 수 있다. 저장 장치(32)로부터의 인코딩된 비디오 데이터의 전송은 스트리밍 전송, 다운로드 전송 또는 그들의 조합일 수 있다.
도 1에 도시된 바와 같이, 소스 장치(12)는 비디오 소스(18), 비디오 인코더(20) 및 출력 인터페이스(22)를 포함한다. 비디오 소스(18)는 비디오 캡처 장치(예를 들어, 비디오 카메라), 이전에 캡처된 비디오를 포함하는 비디오 아카이브(video archieve), 비디오 콘텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스 및/또는 컴퓨터 그래픽 데이터를 소스 비디오로 생성하기 위한 컴퓨터 그래픽 시스템, 또는 이들의 조합을 포함할 수 있다. 일례로, 비디오 소스(18)가 보안 감시 시스템의 비디오 카메라인 경우, 소스 장치(12) 및 목적지 장치(14)는 카메라 폰 또는 비디오 폰을 형성할 수 있다. 그러나, 본 출원에서 설명하는 구현 방식들은 일반적으로 비디오 코딩에 적용될 수 있는 것이고, 무선 및/또는 유선 애플리케이션에 적용될 수 있다.
캡처된, 사전에 캡처된 또는 컴퓨터에 의하여 생성된 비디오는 비디오 인코더(20)에 의해 인코딩될 수 있다. 인코딩된 비디오 데이터는 소스 장치(12)의 출력 인터페이스(22)를 통해 목적지 장치(14)로 직접 전송될 수 있다. 또한, 인코딩된 비디오 데이터는 (또는 대안 적으로) 저장 장치(32)에 저장되어 추후에 목적지 장치(14) 또는 다른 장치에 의하여 엑세스되어 디코딩 및/또는 재생되도록 할 수 있다. 출력 인터페이스(22)는 모뎀 및/또는 송신기를 더 포함할 수있다.
목적지 장치(14)는 입력 인터페이스(28), 비디오 디코더(30) 및 디스플레이 장치(34)를 포함한다. 입력 인터페이스(28)는 수신기 및/또는 모뎀을 포함 할 수 있으며, 링크(16)를 통해 인코딩된 비디오 데이터를 수신할 수 있다. 링크(16)를 통해 전송되거나 저장 장치(32) 상에 제공되는 인코딩된 비디오 데이터는 비디오 인코더(20)에 의해 생성되어 비디오 디코더(30)가 비디오 데이터를 디코딩하기 위하여 사용되는 다양한 신택스 요소들(systax elements)을 포함할 수 있다. 이러한 신택스 요소들은 통신 매체를 통해 전송되거나, 저장 매체에 저장되거나 파일 서버에 저장되는 인코딩된 비디오 데이터에 포함될 수 있다.
일부 구현 방식들에서, 목적지 장치(14)는 통합 디스플레이 장치 및 목적지 장치(14)와 통신하도록 구성된 외부 디스플레이 장치일 수 있는 디스플레이 장치(34)를 포함 할 수 있다. 디스플레이 장치(34)는 디코딩된 비디오 데이터를 사용자에게 디스플레이하며, 액정 디스플레이(LCD), 플라즈마 디스플레이(plasma display), 유기 발광 다이오드(OLED) 디스플레이 또는 다른 유형의 디스플레이 장치와 같은 다양한 디스플레이 장치 중의 임의의 하나를 포함할 수 있다.
비디오 인코더(20) 및 비디오 디코더(30)는 VVC, HEVC, MPEG-4, Part 10, AVC(Advanced Video Coding) 또는 이러한 표준들의 확장과 같은 독점적 또는 산업 표준들에 따라 동작할 수있다. 본 출원은 특정된 비디오 코딩/디코딩 표준에 제한되지 않고, 다른 비디오 코딩/디코딩 표준에 적용될 수 있음을 이해하여야 한다. 일반적으로, 소스 장치(12)의 비디오 인코더(20)는 이러한 현재 또는 미래의 표준 중 임의의 하나에 따라 비디오 데이터를 인코딩하도록 구성될 수 있음을 고려되어야 한다. 유사하게, 목적지 장치(14)의 비디오 디코더(30)는 이러한 현재 또는 미래의 표준 중 임의의 하나에 따라 비디오 데이터를 디코딩하도록 구성될 수 있음을 일반적으로 고려되어야 한다.
비디오 인코더(20) 및 비디오 디코더(30) 각각은 하나 또는 그 이상의 마이크로 프로세서, 디지털 신호 프로세서(digital signal processor, DSP), 주문형 집적 회로(application specific integrated circuit: ASIC), 현장 프로그래머블 게이트 어레이(Field Programmable Gate Array: FPGA), 이산 로직과 같은 다양한 적합한 인코더 회로, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 조합 중의 어느 하나로 구현할 수 있다. 부분적으로 소프트웨어로 구현되는 경우, 전자 장치는 소프트웨어에 대한 명령어를 적절한 비-일시적 컴퓨터 판독 가능 매체에 저장하고 하나 또는 그 이상의 프로세서를 사용하여 하드웨어에서 명령어를 실행하여 본 개시에서 개시한 비디오 코딩/디코딩 동작을 수행할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30) 각각은 하나 또는 그 이상의 인코더 또는 디코더에 포함될 수 있으며, 이들은 결합된 인코더/디코더(CODEC)의 일부분으로 각각의 장치에 직접될 수 있다.
도 2는 본 출원에서 설명한 일부 구현 방식들에 따른 예시적인 비디오 인코더(20)를 도시하는 블록도이다. 비디오 인코더(20)는 비디오 프레임 내의 비디오 블록들의 인트라 및 인터 예측 코딩을 수행할 수 있다. 인트라 예측 코딩은 공간적 예측에 의존하여 주어진 비디오 프레임 또는 픽처 내의 비디오 데이터의 공간 중복성을 줄이거나 제거할 수 있다. 인터 예측 코딩은 시간적 예측에 의존하여 비디오 시퀀스의 인접한 비디오 프레임 또는 픽처 내의 비디오 데이터의 시간 중복성을 줄이거나 제거할 수 있다.
도 2에 도시된 바와 같이, 비디오 인코더(20)는 비디오 데이터 메모리(40), 예측 처리부(41), 디코딩 픽처 버퍼(DPB, 64), 가산기(50), 변환 처리부(52), 양자화부(54) 및 엔트로피 인코딩부(56)을 포함한다. 예측 처리부(41)는 움직임 추정부(42), 움직임 보상부(44), 분할부(45), 인트라 예측 처리부(46) 및 인트라 블록 복사(BC)부(48)를 포함한다. 일부 구현 방식들에서, 비디오 인코더(20)는 또한 비디오 블록 재구성을 위한 역 양자화부(58), 역변환 처리부(60) 및 가산기(62)를 포함한다. 디-블록킹 필터(도시되지 않음)는 가산기(62)와 DPB(64) 사이에 위치하여 블록 경계를 필터링하여 재구성된 비디오로부터 블록성 아티팩트(blockiness artifacts)를 제거할 수 있다. 디-블로킹 필터외에, 인 루프 필터(도시되지 않음) 또한 가산기(62)의 출력을 필터링하기 위하여 사용될 수 있다. 비디오 인코더(20)는 고정된 또는 프로그래밍 가능한 하드웨어 유닛의 형태로 구성되거나 하나 또는 그 이상의 도시된 고정된 또는 프로그래밍 가능한 하드웨어 장치에 분할될 수 있다.
비디오 데이터 메모리(40)는 비디오 인코더(20)의 구성 요소들에 의해 인코딩될 비디오 데이터를 저장할 수 있다. 비디오 데이터 메모리(40) 중의 비디오 데이터는 예를 들어 비디오 소스(18)로부터 획득될 수 있다. DPB(64)는 비디오 인코더(20)가 비디오 데이터를(예를 들어, 인트라 또는 인터 예측 코딩 모드에서) 인코딩하기 위하여 사용되는 기준 비디오 데이터를 저장하는 버퍼이다. 비디오 데이터 메모리(40) 및 DPB(64)는 다양한 메모리 장치들 중의 어느 하나에 의해 형성될 수 있다. 다양한 예에서, 비디오 데이터 메모리(40)는 비디오 인코더(20)의 다른 구성 요소들과 함께 온칩(on-chip) 되거나, 이러한 구성 요소들에 대하여 오프 칩(off-chip)될 수있다.
도 2에 도시된 바와 같이, 비디오 데이터를 수신 후, 예측 처리부(41) 내의 분할부(45)는 비디오 데이터를 비디오 블록들로 분할(partitioning)한다. 한편, 이러한 분할은 비디오 데이터와 연관된 쿼드-트리 구조와 같은 미리 설정된 분할 구조에 따라 비디오 프레임을 슬라이스(slice), 타일(tile) 또는 다른 더 큰 코딩 단위(coding unit: CU)로 분할하는 것을 포함할 수 있다. 비디오 프레임은 복수의 비디오 블록들(또는 타일이라고 하는 비디오 블록들의 세트)로 분할될 수 있다. 예측 처리부(41)는 오차 결과(예를 들어, 코딩 레이트 및 왜곡 레벨)에 기초하여 현재 비디오 블록에 대한 복수의 인트라 예측 코딩 모드들 중 하나 또는 복수의 인터 예측 코딩 모드들 중 하나와 같은 복수의 가능한 예측 코딩 모드들 중 하나를 선택할 수 있다. 예측 처리부(41)는 처리 결과인 인트라 또는 인터 예측 코딩된 블록을 가산기(50)에 제공하여 잔여 블록을 생성하고, 가산기(62)에 제공하여 인코딩된 블록을 재구성하여 추후에 기준 프레임의 일부로서 사용할 수 있다. 한편, 예측 처리부(41)는 움직임 벡터, 인트라-모드 지시자(indicator), 분할 정보(partition information) 및 기타 이러한 신택스 정보와 같은 신택스 요소들을 엔트로피 인코딩부(56)에 제공할 수 있다.
현재 비디오 블록에 대한 적절한 인트라 예측 코딩 모드를 선택하기 위하여, 예측 처리부(41) 내의 인트라 예측 처리부(46)는 코딩될 현재 블록과 동일한 프레임 내의 하나 또는 그 이상의 인접한 블록에 대하여 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간 예측을 제공할 수 있다. 예측 처리부(41) 내의 움직임 추정부(42) 및 움직임 보상부(44)는 하나 또는 그 이상의 기준 프레임 중의 하나 또는 그 이상의 예측 블록에 대한 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 예측을 제공할 수 있다. 비디오 인코더(20)는 복수의 코딩 패스(coding passes)를 수행하여, 예를 들어, 비디오 데이터의 각 블록에 대한 적절한 코딩 모드를 선택할 수 있다.
일부 구현 방식들에서, 움직임 추정부(42)는 비디오 프레임 시퀀스 내의 미리 결정된 패턴에 따라 움직임 벡터를 생성하는 것을 통하여 현재 비디오 프레임에 대한 인터 예측 모드를 확정하며, 상기 움직임 벡터는 기준 비디오 프레임 내의 예측 블록에 대한 현재 비디오 프레임 내의 비디오 블록의 예측 단위(prediction unit: PU)의 변위를 기리킬 수 있다. 움직임 추정부(42)에 의해 수행되는 움직임 추정은 비디오 블록들의 움직임을 추정하는 움직임 벡터들을 생성하는 과정이다. 예를 들어, 움직임 벡터는, 현재 프레임(또는, 기타 코딩된 단위)내의 코?壅품? 있는 현재 블록에 대한 기준 프레임(또는, 기타 코딩된 유닛) 내의 예측 블록에 대한 현재 비디오 프레임 또는 픽처 내의 비디오 블록의 PU의 변위을 가리킬 수 있다. 미리 정해진 패턴은 시퀀스의 비디오 프레임을 P 프레임 아니면 B 프레임으로 지정할 수 있다. 인트라 BC 부(48)는 인터 예측을 위한 움직임 추정부(42)의 움직임 벡터들의 결정과 유사한 방식으로 인트라 BC 코딩을 위한 벡터들(예를 들어 블록 벡터들)을 확정할 수 있거나, 움직임 추정부(42)를 이용하여 블록 벡터를 확정할 수있다.
예측 블록은 픽셀 차이 측면에서 코딩될 비디오 블록의 PU와 제일 근접하는 것으로 간주되는 기준 프레임의 블록으로, 필섹 차이는 절대 차이의 합(sum of absolute difference: SAD), 제곱 차이의 합(sum of square difference: SSD) 또는 기타 차이 메트릭에 의해 결정될 수 있다. 일부 구현 방식들에서, 비디오 인코더(20)는 DPB(64)에 저장된 기준 프레임들의 서브-정수 픽셀 위치들에 대한 값들을 계산할 수 있다. 예를 들어, 비디오 인코더(20)는 기준 프레임의 1/4 픽셀 위치, 1/8 픽셀 위치 또는 기타 분수 픽셀 위치의 값들을 보간할 수 있다. 따라서, 움직임 추정부(42)는 전체 픽셀 위치 및 분수 픽셀 위치에 대한 움직임 검색을 수행하고 분수 픽셀 정밀도로 움직임 벡터를 출력 할 수 있다.
움직임 추정부(42)는 기준 프레임의 예측 블록의 위치와 PU의 위치를 비교하여 인터 예측 코딩된 프레임 내의 비디오 블록의 PU에 대한 움직임 벡터를 계산하되, 상기 기준 프레임은 DPB(64)에 저장된 하나 또는 그 이상의 기준 프레임을 각각 식별하는 제 1 기준 프레임 리스트(List 0)또는 제2 기준 프레임 리스트(List 1)로부터 선택될 수 있다. 움직임 추정부(42)는 계산된 움직임 벡터를 움직임 보상부(44)로 전송하고, 다음 엔트로피 인코딩부(56)로 전송한다.
움직임 보상부(44)에 의해 수행되는 움직임 보상은, 움직임 추정부(42)가 결정한 움직임 벡터에 기초하여 예측 블록을 페치(fetch)하거나 생성하는 것을 포함할 수 있다. 현재 비디오 블록의 PU에 대한 움직임 벡터를 수신하면, 움직임 보상부(44)는 기준 프레임 리스트들 중의 하나에서 움직임 벡터가 가리키는 예측 블록을 찾고, DPB(64)로부터 예측 블록을 검색하고, 예측 블록을 가산기(50)로 전달할 수 있다. 다음, 가산기(50)는 코딩되고 있는 현재 비디오 블록의 픽셀 값으로부터 움직임 보상부(44)가 제공한 예측 블록의 픽셀 값을 감산하는 것을 통하여 잔여 비디오 블록의 픽셀 차이 값을 형성할 수 있다. 잔여 비디오 블록을 형성하는 픽셀 차이 값은 루마 또는 크로마 차이 성분 또는 양자를 포함할 수 있다. 또한, 움직임 보상부(44)는 비디오 디코더(30)가 비디오 프레임의 비디오 블록을 디코딩할 경우에 사용하는 비디오 프레임의 비디오 블록과 연관된 신택스 요소들을 생성 할 수 있다. 신택스 요소들은, 예를 들어, 예측 블록을 식별하기 위하여 사용되는 움직임 벡터들을 정의하는 신택스 요소들, 예측 모드를 가리키는 임의의 플래그, 또는 본 명세서에서 설명된 임의의 다른 신택스 정보를 포함 할 수 있다. 움직임 추정부(42) 및 움직임 보상부(44)는 고도로 직접될 수 있으나, 개념적 목적을 위해 별도로 도시되어 있다.
일부 구현 방식들에서, 인트라 BC부(48)는 움직임 추정부(42) 및 움직임 보상부(44)과 관련하여 위에서 설명한 것과 유사한 방식으로 벡터들을 생성하고 예측 블록들을 페치(fetch)할 수 있지만, 이러한 예측 블록들은 코딩되고 있는 현재 블록과 같은 프레임 내에 있으며, 벡터들은 움직임 벡터가 아닌 블록 벡터라 한다. 구체적으로, 인트라 BC부(48)는 현재 블록을 인코딩하기 위하여 사용하는 인트라 예측 모드를 결정할 수 있다. 일부 예들에서, 인트라 BC부(48)는 예를 들어 각각의 인코딩 패스 동안 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수 있고, 레이트-왜곡 분석을 통해 그들의 성능을 테스트할 수 있다. 다음으로, 인트라 BC부(48)는 다양한 테스트된 인트라 예측 모드들 중에서 적절한 인트라 예측 모드를 선택하여 사용하고 그에 따른 인트라 모드 식별자를 생성할 수 있다. 예를 들어, 인트라 BC부(48)는 테스트된 다양한 인트라 예측 모드들에 대한 레이트-왜곡 분석들(rate-distortion analysis)을 이용하여 레이트-왜곡 값들(rate-distortion value)을 계산할 수 있고, 테스트된 모드들 중 최적의 레이트-왜곡 특성을 갖는 인트라-예측 모드를 적절한 인트라 예측 모드로 선택하여 사용할 수 있다. 일반적으로, 레이트 왜곡 분석은 인코딩된 블록과 인코딩된 블록을 생성하기 위하여 인코딩되는 원래의 인코딩되지 않은 블록 사이의 왜곡(또는 오차)의 양 및 인코딩된 블록을 생성하기 위한 비트율(즉, 비트 수)을 결정한다. 인트라 BC부(48)는 다양한 인코딩된 블록들에 대한 왜곡(distortion) 및 레이트로부터 비율을 계산하여 어느 인트라 예측 모드가 블록에 대하여 최적의 레이트-왜곡 값을 가리키는지를 결정할 수 있다.
다른 예들에서, 인트라 BC부(48)는 전체적으로 또는 부분적으로 움직임 추정부(42) 및 움직임 보상부(44)를 사용하여 본 명세서에서 설명 된 구현 방식들에 따른 인트라 BC 예측을 위한 기능들을 수행 할 수 있다. 두 경우 모두, 인트라 블록 복사(block copy)에 대하여, 예측 블록은 절대 차이의 합(SAD), 제곱 차이(SSD)의 합 또는 다른 차이 메트릭에 의해 결정되는 픽셀 차이 면에서 코딩될 블록과 밀접하게 매칭되는 것으로 간주되는 블록일 수 있으며, 예측 블록의 식별은 서브-정수 픽셀 위치에 대한 값의 계산을 포함할 수 있다.
예측 블록이 인트라 예측에 따라 동일한 프레임 또는 인터 예측에 따라 다른 프레임으로부터 생성되는 것과 관련 없이, 비디오 인코더(20)는 코딩되는 현재 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성하는 것을 통하여, 잔여 비디오 블록을 형성할 수 있다. 잔여 비디오 블록을 형성하는 픽셀 차이 값들은 루마(luma) 및 크로마(chroma) 성분 차이를 모두 포함할 수 있다.
위에서 설명한 움직임 추정부(42) 및 움직임 보상부(44)에 의해 수행되는 인터 예측 또는 인트라 BC부(48)에 의해 수행되는 인트라 블록 복사 예측에 대한 대안으로서, 인트라 예측 처리부(46)는 현재 비디오 블록을 인트라 예측할 수 있다. 구체적으로, 인트라 예측 처리부(46)는 현재 블록을 인코딩하기 위해 사용할 인트라 예측 모드를 결정할 수있다. 이를 위하여, 인트라 예측 처리부(46)는 예를 들어 각각의 인코딩 패스 동안 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수 있고, 인트라 예측 처리부(46)(또는 일부 예들에서 모드 선택부)는 테스트된 인트라 예측 모드들로부터 적절한 인트라 예측 모들를 선택하여 사용할 수 있다. 인트라 예측 처리부(46)는 블록에 대해 선택한 인트라 예측 모드를 가리키는 정보를 엔트로피 인코딩부(56)에 제공할 수 있다. 엔트로피 인코딩부(56)는 선택된 인트라-예측 모드를 가리키는 정보를 비트스트림에 인코딩할 수 있다.
예측 처리부(41)가 인터 예측 또는 인트라 예측을 통해 현재 비디오 블록에 대한 예측 블록을 결정한 후, 가산기(50)는 현재 비디오 블록으로부터 예측 블록을 감산하여 잔여 비디오 블록(residual video block)을 형성한다. 잔여 블록 내의 잔여 비디오 데이터는 하나 또는 그 이상의 변환 단위(TU)에 포함될 수 있으며, 변환 처리부(52)에 제공된다. 변환 처리부(52)는 이산 코사인 변환(DCT) 또는 개념적으로 유사한 변환과 같은 변환을 사용하여 잔여 비디오 데이터를 잔여 변환 계수로 변환한다.
변환 처리부(52)는 얻은 변환 계수들을 양자화부(54)에 전송할 수 있다. 양자화부(54)는 변환 계수들을 양자화하여 비트 레이트를 더 감소할 수 있다. 또한, 양자화 프로세스는 계수들의 일부 또는 전부와 관련된 비트 깊이(bit depth)를 감소할 수 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 수정될 수 있다. 일부 예들에서, 양자화부(54)는 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수 있다. 또는, 엔트로피 인코딩부(56)가 상기 스캔을 수행할 수 있다.
양자화한 다음, 엔트로피 인코딩부(56)은 예를 들어, 컨텍스트 적응형 가변 길이 코딩(context adaptive variable length coding: CAVLC), 컨텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding: CABAC), 신택스 기반 컨텍스트 적응형 이진 산술 코딩(syntax-based context-adaptive binary arithmetic coding: SBAC), 확률 간격 분할 엔트로피(probability interval partitioning entropy: PIPE) 코딩 또는 다른 엔트로피 인코딩 방법 또는 기술을 사용하여 양자화된 변환 계수들을 비디오 비트스트림으로 엔트로피 인코딩한다. 인코딩된 비트스트림은 비디오 디코더(30)로 전송되거나, 저장 장치(32)에 저장되어 추후에 비디오 디코더(30)로 전송되거나 또는 비디오 디코더(30)에 의하여 검색될 수 있다. 엔트로피 인코딩부(56)는 또한 코딩되는 현재 비디오 프레임에 대한 움직임 벡터들 및 다른 신택스 요소들을 엔트로피 인코딩할 수 있다.
역 양자화부(58) 및 역변환 처리부(60)는 다른 비디오 블록들의 예측을 위한 기준 블록을 생성하기 위하여, 각각 역 양자화 및 역변환을 적용하여 픽셀 도메인에서 잔여 비디오 블록을 재구성할 수 있다. 위에서 설명한 바와 같이, 움직임 보상부(44)는 DPB(64)에 저장된 프레임들의 하나 또는 그 이상의 기준 블록으로부터 움직임 보상된 예측 블록을 생성할 수 있다. 움직임 보상부(44)는 또한 하나 또는 그 이상의 보간 필터를 예측 블록에 적용하여 움직임 추정에 사용하기 위한 서브-정수 픽셀 값들을 산출할 수 있다.
가산기(62)는 재구성된 잔여 블록과 움직임 보상부(44)에 의해 생성된 움직임 보상된 예측 블록을 가산하여 DPB(64)에 저장하기 위한 기준 블록을 생성할 수 있다. 다음, 기준 블록은 인트라 BC부(48), 움직임 추정부(42), 움직임 보상부(44)에 의하여 예측 블록으로 사용되어 후속 비디오 프레임 내의 다른 비디오 블록을 인터 예측할 수 있다.
도 3은 본 출원의 일부 구현 방식들에 따른 예시적인 비디오 디코더(30)를 도시하는 블록도이다. 비디오 디코더(30)는 비디오 데이터 메모리(79), 엔트로피 디코딩부(80), 예측 처리부(81), 역 양자화부(86), 역변환 처리부(88), 가산기(90) 및 DPB(92)를 포함한다. 예측 처리부(81)는 움직임 보상부(82), 인트라 예측 처리부(84) 및 인트라 BC부(85)를 더 포함한다. 비디오 디코더(30)는 일반적으로 도 2와 관련하여 비디오 인코더(20)에 대하여 위에서 설명한 인코딩 프로세스와 반대인 디코딩 프로세스를 수행할 수 있다. 예를 들어, 움직임 보상부(82)는 엔트로피 디코딩부(80)로부터 수신된 움직임 벡터들에 기초하여 예측 데이터를 생성할 수 있고, 인트라-예측부(84)는 엔트로피 디코딩부(80)로부터 수신된 인트라 예측 모드 지시자들에 기초하여 예측 데이터를 생성할 수 있다.
일부 예들에서, 비디오 디코더(30)의 구성들은 본 출원의 구현 방식들을 구현하도록 기능들을 수행할 수 있다. 또한, 일부 예들에서, 본 개시의 구현 방식들을 구현하도록 비디오 디코더(30)의 구성들을 하나 또는 그 이상으로 분할되어 구현될 수 있다. 예를 들어, 인트라 BC부(85)는 본 출원의 구현 방식들을 단독으로 수행하거나, 움직임 보상부(82), 인트라 예측 처리부(84) 및 엔트로피 디코딩부(80)와 같은 비디오 디코더(30)의 다른 부분들과 조합하여 수행할 수 있다. 일부 예들에서, 비디오 디코더(30)는 인트라 BC부(85)를 포함하지 않을 수 있고, 인트라 BC부(85)의 기능은 움직임 보상부(82)와 같은 예측 처리부(81)의 다른 부분들에 의하여 수행할 수 있다.
비디오 데이터 메모리(79)는 인코딩된 비디오 비트스트림과 같은 비디오 디코더(30)의 다른 부분들에 의해 디코딩될 비디오 데이터를 저장할 수 있다. 비디오 데이터 메모리(79)에 저장된 비디오 데이터는 예를 들어 저장 장치(32)로부터 획득하거나, 비디오 데이터의 유선 또는 무선 네트워크 통신을 통하여 획득하거나, 또는 물리적 데이터 저장 매체(예를 들어: 플래시 드라이브 또는 하드 디스크)에 액세스하는 것을 통하여 카메라와 같은 로컬 비디오 소스로부터 획득할 수 있다. 비디오 데이터 메모리(79)는 인코딩된 비디오 비트스트림의 인코딩된 비디오 데이터를 저장하는 코딩 픽처 버퍼(coded picture buffer: CPB)를 포함할 수 있다. 비디오 디코더(30)의 디코딩 픽처 버퍼(Decoded picture buffer: DPB)(92)는 (예를 들어, 인트라 또는 인터 예측 코딩 모드에서) 비디오 디코더(30)가 비디오 데이터를 디코딩하는데 사용하기 위한 기준 비디오 데이터를 저장할 수 있다. 비디오 데이터 메모리(79) 및 DPB(92)는 SDRAM, MRAM, RRAM을 포함하는 DRAM과 같은 다양한 메모리 장치 또는 다른 유형의 메모리 장치 중의 어느 하나로 형성될 수 있다. 설명을 위해, 비디오 데이터 메모리(79) 및 DPB(92)는 도3에서 비디오 디코더(30)의 두 개의 별개의 부분으로 도시되었다. 그러나, 비디오 데이터 메모리(79) 및 DPB(92)는 동일한 메모리 장치 또는 별도의 메모리 장치에 의해 제공 될 수 있다는 것은 당업자에게 자명한 것이다. 일부 예들에서, 비디오 데이터 메모리(79)는 비디오 디코더(30)의 다른 부분들과 함께 온-칩(on-chip)일 수 있거나, 이러한 부분들과 오프-칩(off-chip)일 수 있다.
디코딩 프로세스 동안, 비디오 디코더(30)는 인코딩된 비디오 프레임의 비디오 블록들 및 연관된 신택스 요소들을 가리키는 인코딩된 비디오 비트스트림을 수신한다. 비디오 디코더(30)는 비디오 프레임 레벨 및/또는 비디오 블록 레벨에서 신택스 요소들을 수신할 수 있다. 비디오 디코더(30)의 엔트로피 디코딩부(80)는 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 움직임 벡터들 또는 인트라-예측 모드 지시자 및 기타 신택스 요소들을 생성할 수 있다. 다음, 엔트로피 디코딩부(80)는 움직임 벡터 및 다른 신택스 요소들을 예측 처리부(81)로 전달한다.
비디오 프레임이 인트라 예측 코딩(I) 프레임으로 코딩되거나 다른 유형의 프레임에서 인트라 코딩된 예측 블록에 대해 코딩 될 경우, 예측 처리부(81)의 인트라 예측 처리부(84)는 시그널링된 인트라 예측 모드 및 현재 프레임의 이전에 디코딩된 블록들로부터의 기준 데이터에 기초하여 현재 비디오 프레임의 비디오 블록에 대한 예측 데이터를 생성할 수 있다.
비디오 프레임이 인터 예측 코딩(즉, B 또는 P)된 프레임으로 코딩 될 경우, 예측 처리부(81)의 움직임 보상부(82)는 엔트로피 디코딩부(80)로부터 수신된 움직임 벡터들 및 다른 신택스 요소들에 기초하여 현재 비디오 프레임의 비디오 블록에 대한 하나 또는 그 이상의 예측 블록을 생성한다. 각각의 예측 블록은 기준 프레임 리스트들 중 하나의 기준 프레임 리스트 내의 기준 프레임으로부터 생성될 수 있다. 비디오 디코더(30)는 DPB(92)에 저장된 기준 프레임들에 기초하여 디폴트 구성 기술들을 사용하여 기준 프레임 리스트들(List0 및 List1)을 생성할 수 있다.
일부 예들에서, 비디오 블록이 본 명세서에서 설명한 인트라 BC 모드에 따라 코딩 될 경우, 예측 처리부(81)의 인트라 BC부(85)는 엔트로피 디코딩부(80)로부터 수신된 블록 벡터들 및 다른 신택스 요소들에 기초하여 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 비디오 인코더(20)에 의해 정의된 현재 비디오 블록과 동일한 픽처의 재구성 영역 내에 포함될 수 있다.
움직임 보상부(82) 및/또는 인트라 BC부(85)는 움직임 벡터들 및 다른 신택스 요소들을 파싱하여 현재 비디오 프레임의 비디오 블록에 대한 예측 정보를 확정한 다음, 예측 정보를 사용하여 디코딩되는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 움직임 보상부(82)는 수신된 신택스 요소들 중 일부를 사용하여 비디오 프레임의 비디오 블록들의 코딩에 사용되는 예측 모드(예를 들어, 인트라 또는 인터 예측), 인터 예측 프레임 유형(예를 들어, B 또는 P), 프레임에 대한 기준 프레임 리스트들 중 하나 또는 그 이상에 대한 구성 정보, 프레임의 각 인터 예측 코딩된 비디오 블록에 대한 움직임 벡터들, 프레임의 각 인터 예측 코딩된 비디오 블록에 대한 인터 예측 상태, 및 현재 비디오 프레임의 비디오 블록들을 디코딩하기 위한 기타 정보를 확정할 수 있다.
유사하게, 인트라 BC부(85)는 수신된 신택스 요소들 중 일부(예를 들어 플래그)를 사용하여, 현재 비디오 블록이 인트라 BC 모드를 사용하여 예측되었으며, 프레임의 어느 비디오 블록들이 재구성된 영역 내에 있으며 DPB(92)에 저장되어야 하는 구성 정보(construction information), 프레임의 각 인트라 BC 예측된 비디오 블록에 대한 블록 벡터들, 프레임의 각 인트라 BC 예측된 비디오 블록에 대한 인트라 BC 예측 상태 및 현재 비디오 프레임 내의 비디오 블록들을 디코딩하기 위한 기타 정보를 확정할 수 있다.
움직임 보상부(82)는 또한 기준 블록들의 서브-정수 픽셀에 대한 보간 값들을 계산하기 위해 비디오 블록들의 인코딩 동안 비디오 인코더(20)가 사용하는 보간 필터들를 사용하여 보간을 수행할 수 있다. 이 경우, 움직임 보상부(82)는 수신된 신택스 요소들로부터 비디오 인코더(20)가 사용하는 보간 필터들을 확정하고, 확정한 보간 필터들을 사용하여 예측 블록들을 생성할 수 있다.
역 양자화부(86)는 비디오 프레임의 각 비디오 블록에 대해 비디오 인코더(20)가 계산한 동일한 양자화 파라미터를 사용하여, 비트스트림 내에 제공되며 엔트로피 디코딩부(80)에 의하여 엔트로피 디코딩된 변환 계수들을 역 양자화하여 양자화 정도를 확정한다. 역 변환 처리부(88)는 픽셀 도메인에서 잔여 블록을 재구성하기 위하여, 역 변환(예를 들어, 역 DCT, 역 정수 변환 또는 개념적으로 유사한 역 변환 프로세스)을 변환 계수에 적용한다.
움직임 보상부(82) 또는 인트라 BC부(85)에서 벡터들 및 기타 신택스 요소들에 기초하여 현재 비디오 블록에 대한 예측 블록을 생성한 다음, 가산기(90)는 역 변환 처리부(88)에서 제공한 잔여 블록 및 움직임 보상부(82) 및 인트라 BC부(85)에 의해 생성된 대응하는 예측 블록을 가산하는 것을 통하여 현재 비디오 블록에 대한 디코딩된 비디오 블록을 재구성한다. 인-루프 필터(도시되지 않음)는 가산기(90)와 DPB(92) 사이에 위치되어 디코딩된 비디오 블록을 추가로 처리할 수 있다. 주어진 프레임 내의 디코딩된 비디오 블록들은 다음 비디오 블록들의 후속 움직임 보상에 사용되는 기준 프레임들을 저장한 DPB(92)에 저장된다. DPB(92) 또는 DPB(92)와 분리된 메모리 장치는 또한 디코딩된 비디오를 저장하여 도 1의 디스플레이 장치(34)와 같은 디스플레이 장치 상에 나중에 표시할 수 있다.
전형적인 비디오 코딩 프로세스에서, 비디오 시퀀스는 일반적으로 프레임들 또는 픽처들의 소정 순서의 세트를 포함한다. 각 프레임은 SL, SCb 및 SCr로 표시되는 3 개의 샘플 행렬들을 포함할 수 있다. SL은 루마 샘플들의 2 차원 행렬이다. SCb는 Cb 크로마 샘플들의 2 차원 행렬이다. SCr은 Cr 크로마 샘플들의 2 차원 행렬이다. 다른 경우에, 프레임은 단색일 수 있으므로, 루마 샘플들의 2 차원 행렬 하나만 포함할 수 있다.
도 4a에 도시된 바와 같이, 비디오 인코더(20)(또는 보다 구체적으로, 분할 유닛(45))는 먼저 프레임을 코딩 트리 유닛(coding tree unit, CTU)의 세트로 분할함으로써 프레임의 인코딩된 표현(representation)을 생성한다. 비디오 프레임은 좌측에서 우측 및 상측에서 하측으로 래스터 스캔 순서(raster scan order)로 순차적으로 정렬된 정수 수량의 CTU들을 포함할 수 있다. 각 CTU는 가장 큰 논리 코딩 단위이고, CTU의 너비와 높이는비디오 인코더(20)에 의해 시퀀스 파라미터 세트(sequence parameter set)으로시그널링되어, 비디오 시퀀스의 모든 CTU들은 128Х128, 64Х64, 32Х32 및 16Х16 중 하나인 동일한 크기를 갖는다. 그러나, 본 출원이 반드시 특정한 크기로 제한되는 것은 아니라는 점에 유의해야 한다. 도 4b에 도시된 바와 같이, 각 CTU는 루마 샘플들의 하나의 코딩 트리 블록(coding tree block, CTB), 크로마 샘플들의 두 개의 대응하는 코딩 트리 블록들 및 코딩 트리 블록들의 샘플들을 코딩하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 신택스 요소들은 인터 또는 인트라 예측, 인트라 예측 모드, 움직임 벡터, 및 기타 파라미터들을 포함하여 코딩된 픽셀 블록의 상이한 유형의 단위의 특성 및 비디오 시퀀스가 비디오 디코더(30)에서 재구성될 수 있는 방법을 설명한다. 모노크롬 픽처(monochrome picture)들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, CTU는 코딩 트리 블록의 샘플들을 코딩하기 위하여 사용되는 단일 코딩 트리 블록 및 신택스 요소들을 포함할 수 있다. 코딩 트리 블록은 샘플들의 N×N 블록일 수 있다.
더 훌륭한 성능을 달성하기 위해, 비디오 인코더 (20) 는 CTU의 코딩 트리 블록들에 대해 이진-트리 분할(binary-tree partitioning), 삼진- 트리 분할(ternary-tree partitioning), 쿼드-트리 분할(quad-tree partitioning) 또는 이들의 조합과 같은 트리 분할을 재귀적으로 수행하고 CTU를 더 작은 코딩 단위(CU)로 분할할 수 있다. 도 4c에 도시된 바와 같이, 64×64 CTU(400)는 먼저 각각 32×32의 블록 크기를 갖는 4개의 더 작은 CU들로 분할된다. 4개의 더 작은 CU들 중, CU(410)와 CU(420)는 블록 크기에 따라 각각 16×16의 4개의 CU로 분할된다. 2개의 16×16 CU들(430 및 440)은 블록 크기에 따라 각각 8×8의 4개의 CU들로 더 분할된다. 도 4d는 도 4c에 도시된 바와 같은 CTU(400)의 분할 프로세스의 최종 결과를 나타내는 쿼드-트리 데이터 구조를 도시하며, 쿼드 트리의 각각의 리프 노드는 32×32부터 8×8까지 범위의 대응하는 크기의 하나의 CU에 대응한다. 도 4b에 도시된 CTU와 유사하게, 각각의 CU는 루마 샘플들의 코딩 블록(CB) 및 동일한 크기의 프레임의 크로마 샘플들의 2개의 대응하는 코딩 블록들 및 코딩 블록의 샘플을 코딩하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 모노크롬 픽처들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, CU는 단일 코딩 블록 및 코딩 블록의 샘플들을 코딩하는 데 사용되는 신택스 구조들을 포함할 수 있다. 도 4c 및 4d에 도시된 쿼드-트리 분할은 단지 예시를 위한 것이며, 하나의 CTU는 쿼드/삼진/이진-트리 분할들을 기반으로 하는 다양한 로컬 특성에 적응하기 위해 CU들로 분할될 수 있다는 점에 유의해야 한다. 멀티-타입 트리 구조에서 하나의 CTU는 쿼드-트리 구조로 분할되고, 각각의 쿼드-트리 리프 CU는 이진 및 삼진-트리 구조로 더 분할될 수 있다. 도 4e에 도시된 바와 같이, 5가지 분할 타입, 즉, 쿼터너리(quaternary) 분할, 수평 이진 분할, 수직 이진 분할, 수평 삼진 분할 및 수직 삼진 분할이 있다.
일부 구현들에서, 비디오 인코더 (20) 는 CU 의 코딩 블록을 하나 혹은 그 이상의 M×N 예측 블록들(PB)로 더 분할할 수 있다. 예측 블록은 동일한 예측(인터 또는 인트라 예측)이 적용되는 샘플들의 직사각형(정사각형 또는 비 정사각형) 블록이다. CU의 예측 단위(PU)는 루마 샘플들의 예측 블록, 크로마 샘플들의 2개의 대응하는 예측 블록들, 및 예측 블록들을 예측하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 모노크롬 픽처들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, PU는 단일 예측 블록 및 예측 블록을 예측하기 위하여 사용되는 신택스 구조들을 포함할 수 있다. 비디오 인코더(20)는 CU의 각 PU의 루마 예측 블록, Cb 예측 블록, 및 Cr 예측 블록의 에측 루마 블록, 예측 Cb 블록 및 예측 Cr 블록을 생성할 수 있다.
비디오 인코더(20)는 PU에 대한 예측 블록들을 생성하기 위해 인트라 예측 또는 인터 예측을 사용할 수 있다. 비디오 인코더(20)가 PU의 예측 블록들을 생성하기 위해 인트라 예측을 사용하는 경우, 비디오 인코더(20)는 PU와 연관된 프레임의 디코딩된 샘플들에 기반하여 PU의 예측 블록들을 생성할 수 있다. 비디오 인코더(20)가 PU의 예측 블록들을 생성하기 위해 인터 예측을 사용하는 경우, 비디오 인코더(20)는 PU와 연관된 프레임이 아닌 하나 혹은 그 이상의 프레임들의 디코딩된 샘플들에 기반하여 PU의 예측 블록들을 생성할 수 있다.
비디오 인코더(20)가 CU의 하나 혹은 그 이상의 PU들의 예측 루마 블록, Cb 블록, 및 Cr 블록들을 생성한 후, 비디오 인코더(20)는, CU의 오리지널 루마 코딩 블록으로부터 CU의 예측 루마 블록들을 감산함으로써 CU에 대한 루마 잔여 블록을 생성하여 CU의 루마 잔여 블록의 각 샘플이 CU의 예측 루마 블록들 중 하나의 루마 샘플과 CU의 오리지널 루마 코딩 블록의 대응하는 샘플 사이의 차이를 나타내도록 할 수 있다. 이와 유사하게, 비디오 인코더(20)는, CU에 대한 Cb 잔여 블록 및 Cr 잔여 블록을 각각 생성하여 CU 의 Cb 잔여 블록의 각 샘플이 CU 의 예측 Cb 블록들 중 하나의 Cb 샘플과 CU의 오리지널 Cb 코딩 블록의 대응하는 샘플 사이의 차이를 나타내고CU 의 Cr 잔여 블록의 각 샘플이 CU 의 예측 Cr 블록들 중 하나의 Cr 샘플과 CU의 오리지널 Cr 코딩 블록의 대응하는 샘플 사이의 차이를 나타내도록 할 수 있다.
추가로, 도 4c에 도시된 바와 같이, 비디오 인코더(20)는 CU 의 루마, Cb 및 Cr 잔여 블록들을 하나 혹은 그 이상의 루마, Cb 및 Cr 변환 블록들로 분해하기 위해 쿼드-트리 분할을 사용할 수 있다. 변환 블록은 동일한 변환이 적용되는 샘플들의 직사각형(정사각형 또는 비 정사각형) 블록이다. CU의 변환 단위(TU)는 루마 샘플들의 변환 블록, 크로마 샘플들의 2개의 대응하는 변환 블록들 및 변환 블록 샘플들을 변환하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 따라서, CU의 각 TU는 루마 변환 블록, Cb 변환 블록, 및 Cr 변환 블록과 연관될 수 있다. 일부 예들에서, TU와 연관된 루마 변환 블록은 CU의 루마 잔여 블록의 서브-블록일 수 있다. Cb 변환 블록은 CU의 Cb 잔여 블록의 서브-블록일 수 있다. Cr 변환 블록은 CU의 Cr 잔여 블록의 서브-블록일 수 있다. 모노크롬 픽처들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, TU는 단일 변환 블록 및 변환 블록의 샘플들을 예측하기 위하여 사용하는 신택스 구조들을 포함할 수 있다.
비디오 인코더(20)는 TU에 대한 루마 계수 블록을 생성하기 위해 TU의 루마 변환 블록에 하나 혹은 그 이상의 변환들을 적용할 수 있다. 계수 블록은 변환 계수들의 2차원 어레이일 수 있다. 변환 계수는 스칼라 양(scalar quantity)일 수 있다. 비디오 인코더(20)는 TU에 대한 Cb 계수 블록을 생성하기 위해 TU의 Cb 변환 블록에 하나 혹은 그 이상의 변환들을 적용할 수 있다. 비디오 인코더(20)는 TU에 대한 Cr 계수 블록을 생성하기 위해 TU의 Cr 변환 블록에 하나 혹은 그 이상의 변환들을 적용할 수 있다.
계수 블록(예를 들어, 루마 계수 블록, Cb 계수 블록 또는 Cr 계수 블록)을 생성한 후, 비디오 인코더(20)는 계수 블록을 양자화할 수 있다. 양자화는 일반적으로 변환 계수를 양자화하여 변환 계수를 나타내기 위하여 사용되는 데이터의 양을 가능한 감소시켜 추가적인 압축을 제공하는 프로세스를 나타낸다. 비디오 인코더(20)가 계수 블록을 양자화한 후, 비디오 인코더(20)는 양자화된 변환 계수들을 나타내는 신택스 요소들을 엔트로피 인코딩할 수 있다. 예를 들어, 비디오 인코더(20)는 양자화된 변환 계수들을 나타내는 신택스 요소들에 대해 컨텍스트-적응 이진 산술 코딩(Context-Adaptive Binary Arithmetic Coding, CABAC)을 수행할 수 있다. 마지막으로, 비디오 인코더(20)는 저장 장치(32)에 저장되거나 목적지 장치(14)로 전송되는, 코딩된 프레임들 및 관련 데이터의 표현을 형성하는 비트들의 시퀀스를 포함하는 비트스트림을 출력할 수 있다.
비디오 인코더(20)에 의해 생성된 비트스트림을 수신한 후, 비디오 디코더(30)는 비트스트림을 파싱(parsing)하여 비트스트림으로부터 신택스 요소들을 획득할 수 있다. 비디오 디코더(30)는 비트스트림으로부터 획득된 신택스 요소들에 적어도 부분적으로 기반하여 비디오 데이터의 프레임들을 재구성할 수 있다. 비디오 데이터를 재구성하는 프로세스는 일반적으로 비디오 인코더(20)에 의해 수행되는 인코딩 프로세스와 반대된다. 예를 들어, 비디오 디코더(30)는 현재 CU의 TU들과 연관된 계수 블록들에 대해 역변환을 수행하여 현재 CU의 TU들과 연관된 잔여 블록을 재구성할 수 있다. 비디오 디코더(30)는 또한 현재 CU의 PU들에 대한 예측 블록들의 샘플들을 현재 CU의 TU들의 변환 블록들의 대응하는 샘플들에 가산함으로써 현재 CU의 코딩 블록들을 재구성한다. 프레임의 각각의 CU에 대한 코딩 블록들을 재구성한 후, 비디오 디코더(30)는 프레임을 재구성할 수 있다.
전술한 바와 같이, 비디오 코딩은 주로 2개의 모드, 즉, 인트라-프레임 예측(또는 인트라-예측) 및 인터-프레임 예측(또는 인터-예측)을 사용하여 비디오 압축을 달성한다. 팔레트-기반 코딩은 수많은 비디오 코딩 표준들에 채택된 다른 코딩 방안이다. 스크린-생성 콘텐츠 코딩에 특히 적합할 수 있는 팔레트-기반 코딩에서, 비디오 코더(예를 들어, 비디오 인코더(20) 또는 비디오 디코더(30))는 주어진 블록의 비디오 데이터를 나타내는 색상들의 팔레트 테이블을 형성한다. 팔레트 테이블은 주어진 블록 중에서 가장 주요한(예를 들어, 자주 사용되는) 픽셀 값들을 포함한다. 주어진 블록의 비디오 데이터에 자주 표시되지 않는 픽셀 값들은 팔레트 테이블에 포함되지 않거나 이스케이프 색상들(escape colors)로서 팔레트 테이블에 포함된다.
팔레트 테이블의 각 엔트리는 팔레트 테이블에서의 대응하는 픽셀 값에 대한 인덱스를 포함한다. 블록의 샘플에 대한 팔레트 인덱스들은 팔레트 테이블로부터의 어느 항목이 어느 샘플을 예측하거나 재구성하는 데 사용될 지를 가리키도록 코딩될 수 있다. 이 팔레트 모드는 픽처, 슬라이스, 타일 또는 비디오 블록들의 기타 그룹의 제1 블록에 대한 팔레트 예측자(palette predictor)를 생성하는 프로세스로 시작한다. 아래에서 설명하듯이, 후속 비디오 블록들에 대한 팔레트 예측자는 일반적으로 이전에 사용된 팔레트 예측자를 업데이트하여 생성된다. 설명의 목적으로, 팔레트 예측자는 픽처 레벨에서 정의된 것으로 가정한다. 달리 말하면, 픽처는 복수 개의 코딩 블록들을 포함하고 각 코딩 블록은 각자의 팔레트 테이블을 구비할 수 있지만, 전체 픽처에 대하여 하나의 팔레트 예측자가 존재한다.
비디오 비트스트림에서 팔레트 엔트리들을 시그널링하는데 필요한 비트들을 줄이기 위하여, 비디오 디코더는 팔레트 예측자를 이용하여 비디오 블록을 재구성하기 위하여 사용되는 팔레트 테이블에서의 새로운 팔레트 엔트리를 결정할 수 있다. 예를 들어, 팔레트 예측자는 이전에 사용된 팔레트 테이블에서의 팔레트 엔트리들을 포함하거나, 심지어 가장 최근에 사용된 팔레트 테이블의 모든 엔트리들을 포함하여 가장 최근에 사용된 팔레트 테이블을 이용하여 초기화될 수 있다. 일부 구현 방식들에서, 팔레트 예측자는 가장 최근에 사용된 팔레트 테이블로부터의 모든 엔트리들보다 더 적은 수의 엔트리를 포함한 다음 이전에 사용된 기타 팔레트 테이블들로부터의 일부 엔트리들을 병합할 수 있다. 팔레트 예측자는 다른 블록들을 코딩하기 위하여 사용되는 팔레트 테이블들과 같은 사이즈를 가지거나, 다른 블록들을 코딩하기 위하여 사용되는 팔레트 테이블들보다 크거나 작은 사이즈를 가질 수 있다. 일 예에서, 팔레트 예측자는 64개의 팔레트 엔트리들을 포함하는 선입선출(first-in-first-out, FIFO) 테이블로 구현된다.
팔레트 예측자로부터 비디오 데이터의 블록에 대한 팔레트 테이블을 생성하기 위하여, 비디오 디코더는 인코딩된 비디오 비트스트림으로부터 팔레트 예측자의 각 엔트리에 대한 1-비트 플래그를 수신할 수 있다. 1-비트 플래그는 팔레트 예측자의 관련 엔트리가 팔레트 테이블에 포함될 것임을 가리키는 제1째 값(예를 들어, 이진수의 1)을 가질 수 있거나, 팔레트 예측자의 관련 엔트리가 팔레트 테이블에 포함되지 않을 것임을 가리키는 제2 값(예: 이진수 0)을 가질 수 있다. 팔레트 예측자의 사이즈가 비디오 데이터의 블록에 사용되는 팔레트 테이블보다 클 경우, 팔레트 테이블에 대한 최대 사이즈에 도달하면 비디오 디코더는 더 많은 플래그들을 수신하는 것을 중지할 수 있다.
일부 구현 방식들에서, 팔레트 테이블 중의 일부 엔트리들은 팔레트 예측자를 사용하여 결정되는 대신에 인코딩된 비디오 비트스트림에서 직접 시그널링될 수 있다. 이러한 엔트리의 경우, 비디오 디코더는 인코딩된 비디오 비트스트림으로부터 엔트리와 연관된 루마 성분과 두 개의 크로마 성분에 대한 픽셀 값을 가리키는 세 개의 분리된 m-비트 값들을 수신할 수 있으며, 여기서 m은 비디오 데이터의 비트 깊이를 나타낸다. 직접적으로 시그널링된 팔레트 엔트리들에 필요한 복수개의 m-비트 값과 비교할 경우, 팔레트 예측자로부터 도출된 팔레트 엔트리들은 1-비트 플래그만 필요하다. 따라서, 팔레트 예측자를 사용하여 일부 또는 모든 팔레트 엔트리들을 시그널링하면 새로운 팔레트 테이블의 엔트리들을 시그널링하기 위해 필요한 비트 수를 크게 줄일 수 있으므로, 팔레트 모드 코딩의 전반적인 코딩 효율성을 향상할 수 있다.
많은 경우, 하나의 블록에 대한 팔레트 예측자는 이전에 코딩된 하나 또는 복수개의 블록을 코딩하기 위해 사용된 팔레트 테이블을 기반으로 결정된다. 그러나 픽처, 슬라이스 또는 타일 중의 첫 번째 코딩 트리 단위를 코딩할 경우, 이전에 코딩된 블록의 팔레트 테이블을 사용하지 못할 수 있다. 따라서, 이전에 사용된 팔레트 테이블들의 엔트리들을 사용하여 팔레트 예측자를 생성할 수 없다. 이러한 경우,시퀀스 파라미터 세트(sequence parameter set, SPS) 및/또는 픽처 파라미터 세트(picture parameter set, PPS)에서 팔레트 예측자 이니셜라이저(palette predictor initializer)의 시퀀스를 시그널링할 수 있으며, 팔레트 예측자 이니셜라이저는 이전에 사용된 팔레트 테이블들을 사용할 수 없을 경우 팔레트 예측자를 생성하기 위하여 사용되는 값이다. SPS는 일반적으로 코딩된 비디오 시퀀스(coded video sequence, CVS)라고 불리는 일련의 연속된 코딩된 비디오 픽처들에 적용되는 신택스 요소들의 신택스 구조를 가리키며, 여기서 이 CVS는 각 슬라이스 세그먼트 헤더(slice segment header)에서 발견되는 신택스 요소에 의해 제시되는 PPS에서 발견되는 신택스 요소의 내용에 의해 결정된다. PPS는 일반적으로 각 슬라이스 세그먼트 헤더에서 발견되는 신택스 요소에 의해 결정되는 CVS 내의 하나 또는 복수개의 개별 픽처에 적용되는 신택스 요소들의 신택스 구조를 가키킨다. 따라서, SPS는 일반적으로 PPS보다 높은 레벨의 신택스 구조로 간주되는데, 이는 SPS에 포함된 신택스 요소들이 일반적으로 PPS에 포함된 신택스 요소들에 비해 더 적은 빈도로 변경되고 비디오 데이터의 더 큰 부분에 적용됨을 의미한다.
도 5a 내지 도 5b는 본 발명의 일부 구현 방식들에 따른 팔레트 테이블들을 사용하여 비디오 데이터를 코딩하는 예시를 도시한 블록도이다.
팔레트(PLT) 모드 시그널링의 경우, 팔레트 모드는 코딩 유닛에 대한 예측 모드로 코딩된다. 즉, 코딩 유닛에 대한 예측 모드들은 MODE_INTRA, MODE_INTER, MODE_IBC 및 MODE_PLT일 수 있다. 팔레트 모드를 이용할 경우, CU에서의 픽셀 값들은 대표 색상들의 작은 집합으로 표시된다. 상기 세트는 팔레트라고 한다. 팔레트 색상들에 가까운 값을 가지는 픽셀들의 경우, 팔레트 인덱스들을 시그널링한다. 팔레트이외의 값들을 가지는 픽셀들의 경우, 이스케이프 심볼(escape symbol)로 픽셀을 표시하고 양자화된 픽셀 값들을 직접 시그널링한다. 현재 VVC 드래프트 규범에서의 팔레트 모드의 신택스 및 관련된 시맨틱(semantic)은 각각 하기 표 1 및 표 2에 도시되어 있다.
팔레트 모드 인코딩된 블록을 디코딩하기 위하여, 디코더는 비트스트림으로부터의 팔레트 색상들과 인덱스들을 디코딩해야 한다. 팔레트 색상들은 팔레트 테이블에 의해 정의되고 팔레트 테이블 코딩 신택스(예를 들어, palette_predictor_run, num_signaled_palette_entries, new_palette_entries)에 의해 인코딩된다. 각 CU에 대하여 이스케이프 플래그인 palette_escape_val_present_flag를 시그널링하여 현재 CU에 이스케이프 심볼의 존재 여부를 가리킨다. 이스케이프 심볼이 존재할 경우, 팔레트 테이블은 하나의 엔트리를 더 증가하고 마지막 인덱스를 이스케이프 모드에 할당한다. CU 중의 모든 픽셀들의 팔레트 인덱스들은 팔레트 인덱스 맵을 형성하고 팔레트 인덱스 맵 코딩 신택스(예를 들어, num_palette_index_minus1, palette_idx_idc, copy_above_index_flag, palette_transpose_flag, copy_abe_palette_fix)에 의해 인코딩된다. 도 5a에는 팔레트 모드 코딩된 CU의 예시가 도시되어 있으며, 팔레트 사이즈는 4이다. CU 중의 처음 3개의 샘플들은 각각 팔레트 엔트리 2, 0 및 3을 사용하여 재구성한다. CU 중의 "x" 샘플은 이스케이프 심볼을 표시한다. CU 레벨 플래그인 palette_escape_val_present_flag는 CU에 이스케이프 심볼들의 존재 여부를 가리킨다. 이스케이프 심볼들이 존재할 경우, 팔레트 사이즈가 1씩 증가하며 마지막 인덱스가 이스케이프 심볼을 가리키는데 사용된다. 따라서, 도 5a에서, 인텍스 4는 이스케이프 심볼에 할당한다.
팔레트 인덱스(예를 들어, 도 5a의 인덱스 4)가 이스케이프 심볼에 대응하는 경우, 추가 오버헤드를 시그널링하여 샘플의 대응하는 색상을 가리킨다.
일부 실시예들에서, 인코더 측에서, CU와 함께 사용될 적절한 팔레트를 도출할 필요가 있다. 손실 코딩(lossy coding)를 위한 팔레트의 도출을 위하여, 수정된 k-평균 클러스터링 알고리즘(modified k-means clustering algorithm)을 사용한다. 블록의 첫 번째 샘플을 팔레트에 추가한다. 그 다음, 블록으로부터의 각 후속 샘플에 대하여 샘플과 각각의 현재 팔레트 색상 간의 절대 차(sum of absolute difference, SAD)의 합을 계산한다. 각 성분의 왜곡이 최소 SAD에 대응하는 팔레트 엔트리의 임계값보다 작을 경우, 샘플을 팔레트 엔트리에 속한 클러스터에 추가한다. 그렇지 않으면, 샘플을 새로운 팔레트 엔트리로 추가한다. 클러스터에 매핑된 샘플 수가 임계값을 초과할 경우, 해당 클러스터의 중심(centroid)이 업데이트되고 해당 클러스터의 팔레트 엔트리가 된다.
다음 단계에서, 클러스터를 사용 내림차순으로 정렬한다. 그 다음, 각 엔트리에 대응하는 팔레트 엔트리를 업데이트한다. 일반적으로, 클러스터 중심은 팔레트 엔트리로 사용한다. 그러나, 팔레트 엔트리를 코딩하는 비용을 고려할 때, 레이트-왜곡 분석(rate-distortion analysis)을 수행하여 팔레트 예측자로부터의 어느 엔트리가 중심 대신 업데이트된 팔레트 엔트리로 사용하기에 더 적합한지 여부를 분석한다. 이 프로세스는 모든 클러스터를 프로세싱하거나 최대 팔레트 사이즈에 도달할 때까지 계속된다. 마지막으로, 클러스터가 하나의 샘플만 가지고 대응하는 팔레트 엔트리가 팔레트 예측자에 없을 경우, 샘플을 이스케이프 심볼로 변환한다. 또한, 중복되는 팔레트 엔트리를 제거하고 이들의 클러스터를 병합한다.
팔레트 도출 후, 블록 중의 각 샘플에 가장 가까운(SAD에서) 팔레트 엔트리의 인덱스를 할당한다. 그 다음 샘플들을 'INDEX' 또는 'COPY_AVER' 모드로 할당한다. 'INDEX' 또는 'COPY_AVER' 모드가 가능한 각 샘플에 대하여, 각 모드에 대한 실행을 결정한다. 그 다음 모드를 코딩하는 비용을 계산한다. 비용이 더 낮은 모드를 선택한다.
팔레트 테이블를 코딩하는 경우, 팔레트 예측자를 유지한다. 팔레트의 최대 사이즈와 팔레트 예측자의 최대 사이즈는 모두 SPS(또는 기타 코딩 레벨, 예를 들어 PPS, 슬라이스 헤더 등)에서 시그널링할 수 있다. 팔레트 예측자는 팔레트 예측자가 0으로 재설정되는 각 슬라이스의 시작 부분에서 초기화한다. 팔레트 예측자의 각 엔트리에 대하여, 재사용 플래그를 시그널링하여 현재 팔레트의 일부인지 여부를 가리킨다. 도 5b에 도시된 바와 같이, 재사용 플래그인 palette_predictor_run를 전송한다. 그 후, 새로운 팔레트 엔트리의 수는 0차 지수 Golomb 코드(exponential Golomb code of order 0)를 사용하여 신택스 num_signaled_palette_entries를 통해 시그널링한다. 마지막으로, 새 팔레트 엔트리인 new_palette_entries[]에 대한 성분 값을 시그널링한다. 현재 CU를 코딩한 후, 팔레트 예측자를 현재 팔레트를 사용하여 업데이트하고, 현재 팔레트에서 재사용되지 않는 이전 팔레트 예측자의 엔트리들은 허용되는 최대 사이즈에 도달할 때까지 새 팔레트 예측 변수의 끝에 추가한다.
팔레트 인덱스 맵을 코딩하기 위하여, 인덱스들은 도 5c와 같이 수평 트래버스 스캔 또는 수직 트래버스 스캔(horizontal or vertical traverse scan)을 사용하여 코딩한다. 스캔 순서는 palette_transpose_flag를 사용하여 비트스트림에서 명시적으로 시그널링한다.
팔레트 인덱스들은 'INDEX' 및 'COPY_AVER'의 두 가지 주요 팔레트 샘플 모드를 사용하여 코딩한다. 'INDEX' 모드에서, 팔레트 인덱스를 명시적으로 시그널링한다. 'COPY_AVER' 모드에서, 위 행에 있는 샘플의 팔레트 인덱스를 복사한다. 'INDEX' 모드와 'COPY_AVER' 모드 모두에 대하여, 동일한 모드를 사용하여 코딩된 픽셀 수를 지정하는 실행 값(run value)을 시그널링한다. 수평 스캔을 사용할 때의 맨 위 행, 수직 스캔을 사용할 때의 첫 번째 열, 또는 이전 모드가 'COPY_OVER'일 때를 제외하고, 플래그를 사용하여 모드를 시그널링한다.
일부 실시예들에서, 인덱스 맵의 코딩 순서는 다음과 같다. 먼저, CU에 대한 인덱스 값들의 수는 신택스 num_palette_indices_minus1을 사용하여 시그널링하고, 이어서 신택스 palette_idx_idc를 사용하여 전체 CU에 대한 실제 인덱스 값들을 시그널링한다. 인덱스들의 수와 인덱스 값들 모두 바이패스 모드에서 코딩한다. 이는 인덱스-관련 바이패스-코딩된 빈(index-related bypass-coded bin)들을 함께 그룹화한다. 그 다음 신택스 copy_above_palette_indices_flag, palette_run_prefix를 사용하여 인터리브 방식으로 팔레트 모드(INDEX 또는 COPY_AVER)와 실행을 시그널링한다. copy_above_palette_indices_flag는 컨텍스트 코딩된 플래그(단 하나의 빈)이며, palette_run_run_pix의 코드워드(codeword)들은 아래의 표 3에 설명된 프로세스를 통해 결정하며, 처음 5개의 빈은 컨텍스트 코딩된 것이다. palette_run_suffix는 바이패스 빈으로 코딩된다. 마지막으로, 전체 CU에 대한 이스케이프 샘플에 대응하는 성분 이스케이프 값들은 함께 그룹화되며 바이패스 모드에서 코딩된다. 인덱스 값들을 시그널링한 후, 추가 신택스 요소인 copy_over_indices_for_final_run_flag를 시그널링한다. 이 신택스 요소는 인덱스들의 수와 함께 블록에서의 마지막 실행에 대응하는 실행 값을 시그널링하는 필요성을 해소한다.
VVC(VTM)에서, 루마와 크로마 성분에 대한 코딩 단위 분할을 분리하는 I-슬라이스에 대하여 듀얼 트리를 인에이블한다. 그 결과, 루마(Y 성분)와 크로마(Cb 및 Cr 성분) 각각에 팔레트를 적용한다. 듀얼 트리가 디스에이블되면, 팔레트는 Y, Cb, Cr 성분에 공동으로 적용된다.
표1 팔레트 코딩의 신택스
표2 팔레트 코딩의 시맨틱(semantic)
표 3 신택스 palette_run_prefix에 대한 이진 코드워드 및 CABAC 컨텍스트 선택
변환 계수 코딩에 사용되는 계수 그룹(coefficient group, CG)으로서, 하나의 CU는 복수의 라인 기반 계수 그룹으로 분할되며, 각각의 계수 그룹은 m개의 샘플들로 구성되며, 여기서 각 CG에 대하여, 인덱스 실행(index run), 팔레트 인덱스 값 및 이스케이프 모드에 대한 양자화된 색상은 순차적으로 인코딩/파싱된다. 결과적으로, 라인 기반 CG 중의 픽셀들은 신택스 요소들(예를 들어, CG에 대한 인덱스 실행, 팔레트 인덱스 값, 이스케이프 양자화된 색상)들을 파싱한 후에 재구성될 수 있는데, 이는 재구성 전에 전체 CU에 대한 신택스 요소들이 파싱(및 저장)되어야 하는 VTM 6.0의 팔레트 모드에서의 버퍼 수요를 크게 감소시킨다.
본 출원에서, 팔레트 모드의 각 CU는 도 5d와 같이 트래버스 스캔 모드에 따라 m개 샘플(본 테스트에서는 m=8)의 복수의 세그먼트들로 분할된다.
각 세그먼트에서의 팔레트 실행 코딩(palette run coding)의 인코딩 순서는 다음과 같다. 각 픽셀에 대하여, 하나의 컨텍스트 코딩된 빈 run_copy_delays = 0을 시그널링하고, 이는 당해 픽셀이 이전 픽셀과 동일한 모드, 즉, 이전에 스캔된 픽셀과 현재 픽셀이 모두 실행 유형 COPY_OVER이거나 이전에 스캔된 픽셀과 현재 픽셀이 모두 실행 유형 INDEX이며 동일한 인덱스 값을 가짐을 가리킨다. 그렇지 않으면, run_copy_message = 1을 시그널링한다.
현재 픽셀과 이전 픽셀이 다른 모드일 경우, 하나의 컨텍스트 코딩된 빈 copy_above_palette_indices_flag을 시그널링하고, 이는 픽셀의 실행 유형, 즉 INDEX 또는 COPY_AVE를 가리킨다. 이 경우, 샘플이 첫 번째 행(수평 트래버스 스캔) 또는 첫 번째 열(수직 트래버스 스캔)에 있는 경우, 디코더는 실행 유형을 파싱할 필요가 없는데, 이는INDEX 모드를 디폴트로 사용하기 때문이다. 이전에 파싱된 실행 유형이 COPY_OVER인 경우, 디코더는 실행 유형을 파싱할 필요가 없다.
하나의 세그먼트에서의 픽셀들의 팔레트 실행 코딩 후, 인덱스 값(INDEX 모드에 대하여)들과 양자화된 이스케이프 색상들은 바이패스 빈들로 코딩되고, 컨텍스트 코딩된 빈들의 인코딩/파싱과 별도로 그룹화되어 각 라인 기반 CG내에서의 스루풋(throughput)을 향상시킨다. 인덱스 값은 현재 실행 코딩 후 코딩/파싱되므로, 인코더는 인덱스 값 num_palette_indices_minus1과 마지막 실행 유형 copy_above_indices_for_final_run_flag의 수를 시그널링할 필요가 없다. CG 팔레트 모드의 신택스는 표 4에 설명되어 있다.
표 4 팔레트 코딩의 신택스
도 6은 본 개시의 일부 구현 방식들에 따른 비디오 디코더(예를 들어, 비디오 디코더(30))가 비디오 데이터를 디코딩하는 기술을 구현하는 예시적인 프로세스를 도시하는 흐름도(600)이다.
VVC에서의 팔레트 모드에 대하여, 64×64 픽셀 보다 같거나 작은 CU에 팔레트 모드를 적용할 수 있다. 일부 실시예들에서, 최소 팔레트 모드 블록 사이즈보다 작거나 같은 크기의 코딩 유닛들에 대하여 팔레트 모드를 디스에이블하도록 하여, 최소 팔레트 모드 블록 사이즈를 사용하여 복잡도를 줄인다. 예를 들어, 특정 임계값보다 작은 사이즈를 가진 모든 블록들(예를 들어, 16 샘플들)에 대하여 팔레트 모드를 디스에이블한다. 다른 크로마 포맷(예를 들어, 4:4:4, 4:2:2, 4:2:0)들과 다른 코딩 트리 유형(예를 들어, SINGLE_TREE, DUAL_TREE_LUMA, DUAL_TREE_CHROMA)이 존재하므로, 이 임계값은 변화할 수 있다. "SINGLE_TREE"는 이미지의 루마 성분 및 크로마 성분이 팔레트 모드하에서 동일한 팔레트 테이블과 팔레트 예측자를 공유하도록 동일한 방식으로 분할됨을 가리킨다. 반면, "DUAL_TREE"는 이미지의 루마 성분 및 크로마 성분이 팔레트 모드하에서 서로 다른 팔레트 테이블과 팔레트 예측자를 가지도록 별도로 분할됨을 가리킨다. 예를 들어, "DUAL_TREE" 유형의 경우, 즉 크로마 성분을 별도로 고려하는 경우, 16개 샘플보다 작거나 같은 CU들의 크로마 성분에 대하여, 팔레트 모드를 디스에이블하여 복잡도를 줄여야 한다. 다음의 표 5는 디자인된 신택스의 일 예를 제시한다.
표 5 상이한 코딩 트리 유형 및 크로마 포맷하에서의 팔레트 모드 인에이블 플래그
표 5에서, pred_mode_plt_flag는 코딩 단위에 대하여 팔레트 모드를 인에이블할 지(예를 들어, 값 1) 아니면 디스에이블할 지(예를 들어, 값 0)를 지정한다. SubWidthC과 SubHeightC의 파라미터와 코딩 단위의 크로마 포맷의 상관 관계는 다음과 같다.
모노크롬 샘플링에서, 명목상 루마 어레이로 간주되는 하나의 샘플 어레이만 존재한다. 4:2:0 샘플링에서, 두 개의 크로마 어레이들은 각각 루마 어레이의 절반의 높이와 절반의 폭을 갖는다. 4:2:2 샘플링에서, 두 개의 크로마 어레이들은 각각 루마 어레이의 같은 높이와 절반의 폭을 갖는다. 4:4:4 샘플링에서, 두 개의 크로마 어레이들은 각각 루마 어레이와 동일한 높이와 폭을 갖는다.
다른 실시예에서, 단일-트리 케이스의 경우, 작은 사이즈의 루마 블록을 가지는 CU들에 대하여 팔레트 모드를 디스에이블한다. 일 예에서, 단일 트리 케이스들에서 16 픽셀들 보다 작거나 같은 루마 블록을 가지는 CU들에 대하여 팔레트 모드를 디스에이블한다. 하나의 특정한 예에서, 8×4 루마 샘플들과 두 개의 4×2 크로마 샘플들을 포함하는 8×4 CU에 대하여 팔레트 므드를 인에이블할 수 있다. 이는 팔레트 인에이블링은 크로마 사이즈를 고려하지 않고 루마 샘플들의 사이즈를 조건으로 하기 때문이다.
일부 실시예에서, 단일-트리 케이스에서, CU의 루마 성분(예를 들어, Y)과 크로마 성분(예를 들어, Cb 및 Cr)은 동일한 방식으로 분할된다. 듀얼-트리 케이스에서, 루마 성분과 크로마 성분은 상이한 파티션 트리들을 가진다. 로컬 듀얼-트리 케이스에서, 루마 성분 및 크로마 성분은 단일-트리 케이스하에서 상이한 팔레트 테이블을 가진다. 로컬 듀얼-트리 케이스하에서, CU 내의 루마 성분과 크로마 성분에 대하여 별도로 팔레트 코딩을 적용한다.
다른 실시예에서, 로컬 듀얼-트리 케이스의 경우, 작은 사이즈 블록들에 대하여 팔레트 모드를 디스에이블한다. 일 예에서, 로컬 듀얼-트리 케이스의 경우, 32픽셀보다 작거나 같은 CU에 대하여 팔레트 모드를 디스에이블한다.
일부 실시예들에서, 팔레트 모드 애플리케이션은 로컬 듀얼-트리 케이스를 제외한다. VVC에서, 단일-트리 케이스에서, 64×64 픽셀보다 작거나 같고 4×4 픽셀보다 큰 루마 블록의 CU들에 팔레드 모드를 적용할 수 있다. 듀얼-트리 케이스에서, 루마 성분 및 크로마 성분 모두에 대하여, 64×64 픽셀보다 작거나 같고 4×4 픽셀보다 큰 CU에 팔레트 모드를 적용한다. 다른 실시예에서, 복잡도를 줄이기 위하여, 로컬 듀얼-트리 케이스에 대하여 팔레트 모드를 디스에이블한다. 다음의 표 6은 VVC 디자인에서의 신택스의 일 예를 제시한다. VVC에서, CU의 modeType이 MODE_TYPE_INTRA와 같은 경우, CU가 로컬 듀얼-트리 케이스에 있음을 의미한다. VVC의 변화는 아래에 설명되어 있다.
표 6 로컬 듀얼-트리 케이스에서 팔레트 모드를 제외하는 예시적인 신택스
다른 실시예에서, 로컬 듀얼-트리 케이스의 경우, 크로마 성분에 대해서만 팔레트 모드를 디스에이블한다. 즉, 로컬 듀얼-트리 케이스하에서, 팔레트 모드는 루마 CU에는 적용 가능하지만, 크로마 CU에는 적용되지 않는다. 다음의 표 7은 VVC 디자인에서의 신택스의 일 예를 제시한다. VVC 디자인에서, CU의 modeType이 MODE_TYPE_INTRA와 같고 CU의 treeType이 DUAL_TREE_CHROMA와 같으면, 이는 CU가 크로마 성분이며 로컬 듀얼-트리 케이스에 있음을 의미한다. VVC의 변화는 아래의 표 7에 설명되어 있다.
표 7 로컬 듀얼-트리 케이스에서 크로마 성분에 대해서만 팔레트 모드를 디스에이블하는 예시적인 신택스
일부 실시예에서, 로컬 듀얼-트리 케이스의 경우, 루마 성분 및 크로마 성분 모두에 대하여 팔레트 예측을 업데이트한다. 현재 VVC 표준에 따르면, 로컬 듀얼-트리 케이스하에서는 크로마 성분에 대해서만 팔레트 예측의 업데이트 프로세스를 수행한다. 보다 구체적으로, 로컬 듀얼-트리하에서, 팔레트 모드에서 각 루마 CU를 코딩하는 동안에는 팔레트 예측을 업데이트하지 않을 수 있다. 로컬 듀얼-트리에서, 각 팔레트 모드 크로마 CU의 마지막 크로마 성분을 코딩한 후 팔레트 예측을 업데이트할 수 있다.
상기와 같이 VVC에서 정의한 팔레트 예측의 업데이트 프로세스는 코딩 성능에 효율적이지 않다. 본 명세서에 개시된 일부 실시예들에서는 코딩 효율을 향상시키기 위하여, 로컬 듀얼-트리 케이스 하에서, 루마 CU 및 크로마 CU 모두에 대하여 팔레트 예측의 업데이트 프로세스를 수행한다. 보다 구체적으로, 먼저 로컬 듀얼-트리 하에서의 각 루마 CU를 코딩하는 동안 팔레트 예측을 업데이트하고, 다음으로 동일한 로컬 듀얼-트리 하에서의 각 크로마 CU를 코딩하는 동안 팔레트 예측을 업데이트할 수 있다. 다음의 표 8은 VVC 디자인에서의 신택스의 일 예를 제시한다. VVC 디자인에서, 변수 cIdx는 현재 CU의 색상/비디오 성분을 지정하고, 0은 루마 성분에 사용되고, 1은 Cb 성분에 사용되며, 2는 Cr 성분에 사용된다. VVC의 변화는 아래에 설명되어 있다.
표 8 로컬 듀얼-트리 케이스에서 루마 성분 및 크로마 성분 모두에 대하여 수행하는 팔레트 예측의 업데이트 프로세스의 예시적인 신택스
일부 실시예들에서, 로컬 듀얼-트리 케이스에서 팔레트 모드를 부분적으로 업데이트한다. 앞서 언급한 바와 같이, 로컬 듀얼-트리 케이스하에서, 루마 CU 및 크로마 CU 모두에 대하여 팔레트 예측의 업데이트 프로세스를 수행한다. 보다 구체적으로, 먼저 로컬 듀얼-트리 하에서의 각각의 루마 CU를 코딩하는 동안 팔레트 예측을 업데이트하고, 다음 동일한 로컬 듀얼-트리 하에서 각각의 크로마 CU를 코딩할 수 있다.
로컬 듀얼 트리하에서의 CU가 모두 작은 사이즈의 CU라는 점을 고려할 때, 이러한 CU에 대한 팔레트 예측의 업데이트 프로세스를 순차적으로 수행하려면 다량의 컴퓨팅 사이클이 필요하다. 일부 실시예들에 따르면, 복잡도를 줄이기 위하여, 로컬 듀얼 트리 케이스 하에서, 하나의 공유 팔레트 테이블이 테이블 업데이트 없이 일부 CU 또는 모든 CU에 사용된다.
일 예로, 로컬 듀얼 트리 케이스의 경우, 팔레트 모드하에서 팔레트 예측의 업데이트 프로세스를 디스에이블한다. 다음의 표 9는 VVC 디자인에서의 신택스의 일 예를 제시하며, 표 8에서의 450부터 456까지의 코드 라인도 제거된다. VVC 디자인에서, 변수 cIdx는 현재 CU의 색상 성분을 지정하고, 0은 루마 성분에 사용되고, 1은 Cb 성분에 사용되며, 2는 Cr 성분에 사용된다. VVC의 변화는 아래에 설명되어 있다.
표 9 로컬 듀얼 트리 케이스에서 루마 성분 및 크로마 성분 모두에 대하여 팔레트 예측의 업데이트 프로세스를 디스에이블하는 예시적인 신택스
일부 실시예들에서, 로컬 듀얼 트리 케이스 하에서, 32 픽셀 보다 작거나 같은 루마 블록 사이즈를 가지는 CU들에 대하여 팔레트 모드에서의 팔레트 예측의 업데이트 프로세스를 디스에이블한다. 이 경우, 8×8 CU 또는 최소 8×8개의 루마 샘플들을 포함하는 더 큰 CU에 대하여 팔레트 모드에서의 팔레트 예측의 업데이트 프로세스를 인에이블할 수 있다.
또 다른 실시예에서, 로컬 듀얼 트리 케이스의 경우, 크로마 CU들에 대해서만 팔레트 예측의 업데이트 프로세스를 디스에이블한다. 다음의 표 10은 VVC 디자인에서의 신택스의 일 예를 제시한다. VVC 디자인에서, 변수 cIdx는 현재 CU의 색상 성분을 지정하고, 0은 루마 성분에 사용되고, 1은 Cb 성분에 사용되며, 2는 Cr 성분에 사용된다. VVC의 변화는 아래에 설명되어 있다.
표 10 로컬 듀얼 트리 케이스에서 크로마 성분에 대해서만 팔레트 예측의 업데이트 프로세스를 디스에이블하는 예시적인 신택스
일부 실시예들에서, 로컬 듀얼 트리 케이스 하에서, 상이한 비디오 성분에 대하여 팔레트 모드에서의 팔레트 예측의 업데이트 프로세스를 별도로 업데이트한다.
상술한 바와 같이, 로컬 듀얼 트리 케이스하에서, 팔레트 예측의 업데이트 프로세스를 순차적으로 수행한다. 이는 또한 로컬 듀얼 트리하에서, 팔레트 모드에서 크로마 CU에 대한 디코딩은 동일한 로컬 듀얼 트리 하에서의 모든 루마 CU들이 디코딩된 후에야 시작할 수 있음을 의미한다. 이는 하드웨어 코덱 구현들에서 바람직하지 않은 딜레이를 야기할 수 있다.
상기 문제를 해결하기 위하여, 일부 실시예들에 따르면, 로컬 듀얼 트리에서의 상이한 비디오 성분(예를 들어, 루마 및 크로마)에 대하여 팔레트 예측의 업데이트 프로세스를 독립적으로 수행함으로써, 크로마 성분에 대한 팔레트 모드 코딩을 루마 성분과 병렬로 수행할 수 있다. 실시예의 일 예에서, 로컬 듀얼 트리하에서, 로컬 듀얼 트리의 시작 부분의 팔레트는 루마 CU 및 크로마 CU 모두를 위한 시작 팔레트로 사용된다.
일부 실시예들에서, 로컬 듀얼 트리 케이스에서의 팔레트 예측의 업데이트 프로세스에 대한 개선을 실현하였다. 로컬 듀얼 트리 케이스하에서, 루마 성분 및 크로마 성분에 대하여 팔레트 예측의 업데이트 프로세스를 별도로 수행한다. 보다 구체적으로, 먼저 로컬 듀얼-트리 하에서의 각 루마 CU를 코딩하는 동안 팔레트 예측을 업데이트하고, 다음으로 동일한 로컬 듀얼-트리 하에서의 각 크로마 CU를 코딩하는 동안 팔레트 예측을 업데이트할 수 있다. 결과적으로, 로컬 듀얼 트리 하에서의 루마 CU를 코딩하는 동안 팔레트 예측을 업데이트함에 있어서, 동일 위치(co-located) 픽셀들의 크로마 정보를 이용할 수 없을 수도 있고, 그 반대의 경우도 마찬가지이다.
일부 실시예들에서, 코딩 효율을 향상시키기 위하여, 로컬 듀얼 트리 하에서의 하나의 비디오 성분(예를 들어, 루마 및/또는 크로마)의 CU를 코딩하는 동안 팔레트 예측을 업데이트함에 있어서, 팔레트에서의 이전에 사용 가능한 후보의 다른 비디오 성분(예를 들어, 크로마 및/또는 루마) 값을 사용할 수 있다. 로컬 듀얼 트리 케이스들의 일 예에서, 루마 성분을 위한 팔레트 예측의 업데이트 프로세스 동안, 첫 번째 사용 가능한 후보의 크로마 성분은 새로 추가된 팔레트 엔트리의 크로마 성분으로 사용될 수 있다. 다음의 표 11은 VVC 디자인에서의 신택스의 일 예를 제시한다. VVC의 변화는 아래에 설명되어 있다.
표 11. 첫 번째 사용가능한 후보의 크로마 성분을 사용하는 팔레트 예측의 업데이트 프로세스의 예시적인 신택스
도 6에 도시된 바와 같이, 일부 실시예들에서, 비디오 디코더(30)는 비트스트림으로부터 코딩 단위와 관련된 복수의 신택스 요소들을 수신하고, 복수의 신택스 요소는 코딩 단위의 코딩 트리 유형 및 코딩 단위에 대하여 로컬 듀얼 트리 모드에 대한 인에이블 여부를 가리킨다(610).
코딩 단위의 코딩 트리 유형이 단일 트리이며, 코딩 단위에 대하여 로컬 듀얼 트리 모드를 인에이블한다는 결정에 따라(620), 비디오 디코더(30)는, 코딩 단위가 미리 정의된 임계값 보다 작거나 같은 사이즈를 가질 경우, 코딩 단위에 대하여 팔레트 모드를 디스에이블한다(630).
일부 실시예들에서, 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 것(630)는, 코딩 단위의 루마 성분 및 크로마 성분 모두에 대하여 팔레트 모드를 디스에이블하는 것(640)을 포함한다.
일부 실시예들에서, 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 것(630)은, 코딩 단위의 크로마 성분에 대해서만 팔레트 모드를 디스에이블하는 것(650)을 포함한다.
일부 실시예들에서, 코딩 단위의 크로마 성분에 대해서만 팔레트 모드를 디스에이블하는 것은, 복수의 신택스 요소들로부터 코딩 단위의 비디오 성분이 크로마 성분인지 루마 성분인지를 더 가리키는 것을 결정하는 것; 및 코딩 단위의 비디오 성분이 크로마 성분이라는 결정에 따라: 코딩 단위의 크로마 성분에 대하여 팔레트 모드를 디스에이블하는 것을 포함한다.
일부 실시예들에서, 코딩 단위의 크로마 성분에 대해서만 팔레트 모드를 디스에이블하는 것은, 복수의 신택스 요소들로부터 코딩 단위의 비디오 성분이 크로마 성분인지 루마 성분인지를 더 가리키는 것을 결정하는 것; 코딩 단위의 비디오 성분이 크로마 성분이라는 결정에 따라: 비트스트림으로부터 코딩 단위의 루마 성분과 관련된 팔레트 모드 인에이블 플래그를 수신하는 것; 팔레트 모드 인에이블 플래그에 따라 코딩 단위를 디코딩하는 것을 포함한다.
일부 실시예에서, 비디오 디코더(30)는, 비트 스트림으로부터 팔레트 예측 인에이블 신택스를 수신하고; 및 팔레트 예측 인에이블 신택스에 따라 코딩 단위의 루마 성분을 위한 팔레트 예측을 업데이트한다.
일부 실시예들에서, 비디오 디코더(30)는 코딩 단위의 루마 성분을 위한 팔레트 예측의 업데이트를 디스에이블한다.
일부 실시예들에서, 비디오 디코더(30)는, 최소 팔레트 모드 루마 블록 사이즈를 결정하고; 및 코딩 단위의 루마 성분의 사이즈가 최소 팔레트 모드 루마 블록 사이즈보다 작거나 같다는 결정에 따라: 코딩 단위의 루마 성분을 위한 팔레트 예측의 업데이트를 디스에이블한다.
일부 실시예들에서, 최소 팔레트 모드 루마 블록 사이즈는 32×32 루마 샘플들이다.
일부 실시예들에서, 최소 팔레트 모드 루마 블록 사이즈는 8×8 루마 샘플들이다.
일부 실시예들에서, 복수의 신택스 요소들에 포함되는 코딩 단위에 대하여 로컬 듀얼 트리 모드를 인에이블하는지 여부를 가리키는 신택스 요소는 MODE_TYPE_INTRA이다.
일부 실시예들에서, 복수의 신택스 요소들에 포함되는 코딩 단위의 비디오 성분이 크로마 성분인지 루마 성분인지를 가리키는 신택스 요소는 DUAL_TREE_CHROMA이다.
일부 실시예들에서, 단계 630에서의 미리 정의된 임계값은 32×32 샘플들이다.
일부 실시예들에서, 단계 630에서의 미리 정의된 임계값은 16×16 샘플들이다.
도 7은 본 개시의 일부 구현 방식들에 따른 예시 컨텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding: CABAC) 엔진을 도시하는 블록도이다.
컨컨텍스트 적응형 이진 산술 코딩(CABAC)은 H.264/MPEG-4 AVC, HEVC(High Efficiency Video Coding) 및 VVC와 같은 많은 비디오 코딩 표준에서 사용되는 엔트로피 코딩의 한 형태이다. CABAC는 산술 코딩에 기반하며, 비디오 코딩 표준의 요구에 맞게 조정하기 위한 몇 가지 혁신과 변화를 가지고 있다. 예를 들어, CABAC는 이진화 심볼을 코딩하여 복잡도를 낮게 유지하고 임의의 심볼에서 더 자주 사용되는 비트에 대한 확률 모델링을 허용한다. 코딩 모드는 일반적으로 국소적으로 잘 상관되기 때문에(locally well correlated), 로컬 컨텍스트에 기반하여 확률 모델을 적응적으로 선택하므로, 더 나은 확률 모델링을 가능하게 한다. 마지막으로, CABAC는 양자화된 확률 범위와 확률 상태를 사용하여 곱셈이 없는 범위 분할을 사용한다.
CABAC에는 상이한 컨텍스트에 대한 복수의 확률 모드들을 가진다. 먼저 모든 비-이진 심볼들을 이진수로 변환한다. 그 다음, 각 빈(또는 비트)에 대하여, 코더는 어느 확률 모델을 사용할 지를 선택한 다음, 인근 요소들의 정보를 사용하여 확률 추정치를 최적화한다. 마지막으로 산술 코딩을 적용하여 데이터를 압축한다.
컨텍스트 모델링은 코딩 심볼의 조건부 확률의 추정치를 제공한다. 적절한 컨텍스트 모델을 이용하여, 현재 심볼 부근의 이미 코딩된 심볼에 따라 상이한 확률 모델들 간에 스위칭하여 주어진 심볼 간 중복성을 이용하여 인코딩할 수 있다. 데이터 심볼을 코딩하는 단계는 다음과 같다.
이진화(Binarization): CABAC는 이진 산술 코딩을 사용하고, 이는 이진 결정(1 또는 0)만 인코딩됨을 의미한다. 비-이진 값 심볼(예를 들어, 변환 계수 또는 움직임 벡터)는 산술 코딩 이전에 "이진화"되거나 이진 코드로 변환된다. 이 과정은 데이터 심볼을 가변 길이 코드로 변환하는 프로세스와 유사하지만, 이진 코드는 전송 전에 (산술 코더에 의해) 더 인코딩된다. 이진화된 심볼의 각 빈(또는 "비트")에 대하여 이 단계들을 반복한다.
컨텍스트 모델 선택(Context model selection): "컨텍스트 모델"은 2진화된 심볼의 하나 또는 그 이상의 빈에 대한 확률 모델이다. 이 모델은 최근 코딩된 데이터 심볼의 통계에 따라 사용 가능한 모델 중에서 선택될 수 있다. 컨텍스트 모델은 각 빈이 "1" 또는 "0"일 확률을 저장한다.
산술 인코딩(Arithmetic encoding): 산술 코더는 선택된 확률 모델에 따라 각 빈을 인코딩한다. 각 빈의 경우 두 개의 서브-범위("0" 및 "1"에 대응)만 존재한다.
확률 업데이트(Probability update): 선택된 컨텍스트 모델은 실제 코딩된 값을 기준으로 업데이트된다(예를 들어, 빈 값이 "1"이면, "1"의 빈도 카운트가 증가함).
각 비-이진 신택스 요소 값을 빈의 시퀀스로 분해함으로써, CABAC에서의 각 빈 값의 진일보 프로세스는 관련 코딩 모드 결정에 따르며, 일반 모드 또는 바이패스 모드로 선택될 수 있다. 후자는 빈에 대하여 선택하는데, 빈은 균일하게 분포되어 있다고 가정하고, 결과적으로 이러한 빈에 대하여, 전체 일반 이진 산술 인코딩(및 디코딩) 프로세스가 간단히 바이패스된다. 일반 코딩 모드에서, 각 빈 값은 일반 이진 산술 코딩 엔진을 사용하여 인코딩되며, 여기서 관련된 확률 모델은 신택스 요소의 유형과 신택스 요소의 이진화된 표현에서의 빈 위치 또는 빈 인덱스(binIdx)에 기반하여 고정된 선택을 통하여 결정되거나, 관련된 측면 정보(예를 들어, 공간 인접자, 성분, CU/PU/TU 의 깊이 또는 사이즈, 또는 TU 내 위치)에 따라 두 개 또는 그 이상의 확률 모델 중에서 적응적으로 선택된다. 확률 모델의 선택을 컨텍스트 모델링이라고 한다. 중요한 디자인 결정으로서, 후자의 경우는 일반적으로 가장 자주 관찰되는 빈에만 적용되는 반면, 일반적으로 덜 자주 관찰되는 다른 빈은 연합된, 일반적인 0차 확률 모델을 사용하여 처리된다. 이러한 방식으로, CABAC는 서브-심볼 레벨에서 선택적인 적응적 확률 모델링을 가능하게 하므로,전체 모델링 또는 학습 비용을 크게 줄인 심볼 간 중복성을 활용하기 위한 효율적인 도구를 제공한다. 고정된 케이스 및 적응적 케이스 모두에 대하여, 원칙적으로 하나의 확률 모델에서 다른 확률 모델로의 전환은 두 개의 연속적인 일반 코딩된 빈 사이에서 발생할 수 있다. 일반적으로, CABAC의 컨텍스트 모델의 디자인은 불필요한 모델링 비용 오버헤드를 피하고 통계적 의존성을 크게 활용한다는 상충되는 목표 사이에서 좋은 절충점을 찾는 목표를 반영한다.
CABAC에서의 확률 모델의 파라미터는 적응형이며, 이는 빈의 소스의 통계적 변동에 대한 모델 확률의 적응이 인코더와 디코더 모두에서 역방향-적응적(backward-adaptive)이고 동기화된 방식으로 빈 단위로 수행된다는 것을 의미한다. 이 프로세스를 확률 추정이라고 한다. 이를 위하여, CABAC에서의 각 확률 모델은 구간 [0:01875; 0:98125]에 걸쳐 연관된 모델 확률 값을 가진 126개의 서로 다른 상태 중 하나를 취할 수 있다. 각 확률 모델의 두 파라미터는 컨텍스트 메모리에 7비트 엔트리로 저장된다: 6비트는 최소 확률 심볼(LPS)의 모델 확률 pLPS를 나타내는 63개의 확률 상태 각각을 위한 것이고 , 1 비트는 최대 확률 심볼(MPS)의 값인 nMPS를 위한 것이다.
하나 혹은 그 이상의 예에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되는 경우, 기능들은 하나 혹은 그 이상의 명령어 또는 코드로서 컴퓨터 판독 가능 매체에 저장되거나 이를 통해 전송될 수 있고 하드웨어-기반 프로세싱 유닛에 의해 실행될 수 있다. 컴퓨터 판독 가능 매체는 데이터 저장 매체와 같은 유형(tangible) 매체에 대응하는 컴퓨터 판독 가능 저장 매체, 또는 한 장소에서 다른 장소로(예를 들어, 통신 프로토콜에 따라) 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터 판독가능 매체는 일반적으로 (1) 비-일시적 유형 컴퓨터 판독가능 저장 매체 또는 (2) 신호 또는 운송파(carrier wave)와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는 본 출원에서 설명된 구현의 구현을 위한 명령어, 코드 및/또는 데이터 구조(data structure)를 검색하기 위해 하나 혹은 그 이상의 컴퓨터 또는 하나 혹은 그 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용 가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독 가능 매체를 포함할 수 있다.
본 명세서의 구현 방식들을 설명할 때 사용한 용어는 단지 특정한 구현 방식들을 설명하기 위한 목적으로만 사용되며, 특허청구범위를 제한하려는 의도가 아니다. 구현 방식들 및 첨부된 특허청구범위의 설명에서 사용된 바와 같이, 단수형들은 문맥상 다른 의미를 명확히 가리키지 않는 한 복수형도 포함한다. 본 명세서에서 사용된 용어 "및/또는"은 하나 혹은 그 이상의 관련된 나열된 항목의 임의의 또는 모든 가능한 조합을 지칭하는 것으로 이해되어야 한다. 용어 "포함하다" 및/또는 "포함하는"은 본 명세서에서 사용될 때 언급된 특징, 요소 및/또는 구성요소의 존재를 명시하지만 하나 이상의 다른 특징, 요소, 구성요소의 및/또는 그 그룹의 존재 또는 추가를 배제하지 않는다는 것을 이해할 것이다.
"제1", "제2" 등의 용어가 다양한 요소를 설명하기 위해 본 명세서에서 사용될 수 있지만, 이러한 요소는 이러한 용어에 의해 제한되지 아니함을 이해해야 한다. 이러한 용어는 한 요소를 다른 요소와 구별하기 위하여서만 사용된다. 예를 들어, 본 구현 방식들의 범위를 벗어나지 않으면서 제1 전극은 제2 전극으로 지칭될 수 있고, 유사하게, 제2 전극는 또한 제1 전극으로 지칭될 수 있다. 제1 전극과 제2 전극은 모두 전극이지만 동일한 전극은 아니다.
본 출원 내용의 설명은 예시 및 설명의 목적으로 제시된 것이며, 본 출원 내용의 설명을 망라하거나 본 발명을 개시된 형태로 제한하고자하는 것은 아니다. 전술한 설명 및 관련 도면들의 시사로부터 당업자들은 다양한 수정, 변경 및 대안적인 구현 방식들은 명백히 이해할 것이다. 실시예는 본 발명의 원리, 실제 응용 및 당업자가 본 발명을 다양한 구현 방식으로 구현하도록 이해하고, 특정된 용도에 적합하도록 본 발명을 수정하도록 본 발명의 기본적인 원리 및 다양한 구현 방식을 제일 적합하게 사용하도록 설명되었다. 따라서, 본 청구항의 범위는 개시된 구현 방식들의 특정 예에 제한되지 않으며, 수정 및 다른 구현 방식들은 첨부된 특허청구범위내에 포함되는 것으로 해석되어야 한다.
Claims (17)
- 전자 장치에 의해 수행되는 방법에 있어서,
코딩 단위의 코딩 트리 유형 및 코딩 단위에 대한 로컬 듀얼 트리 모드(local dual tree mode)의 인에이블 여부를 결정하는 단계;
상기 코딩 단위와 연관된 복수의 신택스 엘리먼트들을 시그널링하되, 상기 복수의 신택스 엘리먼트들은 상기 코딩 단위의 코딩 트리 유형 및 상기 코딩 단위에 대한 로컬 듀얼 트리 모드의 인에이블 여부를 가리키는 복수의 변수들을 도출하는 데 사용되는 단계; 및
상기 코딩 단위의 상기 코딩 트리 유형이 단일 트리(single tree)이며, 상기 코딩 단위에 대하여 로컬 듀얼 트리 모드를 인에이블하는 결정에 따라:
상기 코딩 단위가 미리 정의된 임계값 보다 작거나 같은 사이즈를 가지는 경우, 상기 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계를 포함하는,
비디오 데이터를 인코딩하는 방법. - 제 1 항에 있어서,
상기 코딩 단위에 대하여 팔레트 모드를 디스에이블하는 단계는,
상기 코딩 단위의 루마 성분 및 크로마 성분 모두에 대하여 상기 팔레트 모드를 디스에이블하는 단계를 포함하는,
비디오 데이터를 인코딩하는 방법. - 제 1 항에 있어서,
상기 코딩 단위의 상기 코딩 트리 유형이 상기 단일 트리이며, 상기 코딩 단위에 대하여 로컬 듀얼 트리 모드를 인에이블하는 상기 결정에 따라:
상기 코딩 단위의 사이즈가 미리 정의된 임계값보다 클 경우, 상기 코딩 단위의 크로마 성분에 대하여만 상기 팔레트 모드를 디스에이블하는 단계를 더 포함하는,
비디오 데이터를 인코딩하는 방법. - 제 3 항에 있어서,
상기 코딩 단위의 크로마 성분에 대하여만 상기 팔레트 모드를 디스에이블하는 단계는,
상기 코딩 단위의 비디오 성분이 크로마 성분인지 루마 성분인지를 결정하는 단계; 및
상기 코딩 단위의 상기 비디오 성분이 크로마 성분이라는 결정에 따라:
상기 코딩 단위의 크로마 성분에 대하여 상기 팔레트 모드를 디스에이블하는 단계를 포함하는,
비디오 데이터를 인코딩하는 방법. - 제 3 항에 있어서,
상기 코딩 단위의 크로마 성분에 대하여만 상기 팔레트 모드를 디스에이블하는 단계는,
상기 코딩 단위의 비디오 성분이 크로마 성분인지 루마 성분인지를 결정하는 단계; 및
적어도 하나의 상기 코딩 단위의 상기 비디오 성분이 크로마 성분이라는 결정에 따라:
상기 코딩 단위의 상기 루마 성분과 관련된 팔레트 모드 인에이블 플래그를 시그널링하는 단계를 포함하고,
상기 코딩 단위는 상기 팔레트 모드 인에이블 플래그에 따라 디코딩되는,
비디오 데이터를 인코딩하는 방법. - 제 5 항에 있어서,
로컬 듀얼 트리 플래그를 도출하기 위한 신택스 엘리먼트들을 시그널링하는 단계를 더 포함하고,
상기 로컬 듀얼 트리 플래그가 상기 신택스 엘리먼트들에 따라 1로 도출된 것에 응답하여, 상기 코딩 단위의 루마 성분을 위한 팔레트 예측이 업데이트되는,
비디오 데이터를 인코딩하는 방법. - 제 6 항에 있어서,
상기 로컬 듀얼 트리 플래그가 상기 신택스 엘리먼트들에 따라 1로 도출된 것에 응답하여, 상기 코딩 단위의 크로마 성분을 위한 팔레트 예측의 업데이트가 디스에이블되는,
비디오 데이터를 인코딩하는 방법. - 제 5 항에 있어서,
팔레트 모드 루마 블록 사이즈 임계값을 결정하는 단계; 및
상기 코딩 단위의 루마 성분의 사이즈가 상기 팔레트 모드 루마 블록 사이즈 임계값보다 작거나 같다는 결정에 따라:
상기 코딩 단위의 루마 성분을 위한 팔레트 예측의 업데이트를 디스에이블하는 단계를 더 포함하는,
비디오 데이터를 인코딩하는 방법. - 제 8 항에 있어서,
상기 팔레트 모드 루마 블록 사이즈 임계값은 32×32 루마 샘플들인,
비디오 데이터를 인코딩하는 방법. - 제 8 항에 있어서,
상기 팔레트 모드 루마 블록 사이즈 임계값은 8×8 루마 샘플들인,
비디오 데이터를 인코딩하는 방법. - 제 1 항에 있어서,
상기 복수의 변수들에 포함된 변수가 MODE_TYPE_INTRA인지 여부에 기반하여, 상기 코딩 단위에 대한 상기 로컬 듀얼 트리 모드의 인에이블 여부를 결정하는,
비디오 데이터를 인코딩하는 방법. - 제 4 항에 있어서,
상기 복수의 변수들에 포함된 변수가 DUAL_TREE_CHROMA인지 여부에 기반하여, 상기 코딩 단위의 상기 비디오 성분이 크로마 성분인지 루마 성분인지를 결정하는,
비디오 데이터를 인코딩하는 방법. - 제 1 항에 있어서,
상기 미리 정의된 임계값은 16인,
비디오 데이터를 인코딩하는 방법. - 전자 장치에 있어서,
하나 또는 그 이상의 프로세서;
상기 하나 또는 그 이상의 프로세서와 결합된 메모리; 및
상기 메모리에 저장되되, 상기 하나 또는 그 이상의 프로세서에 의하여 실행될 경우 상기 전자 장치로 하여금 제 1 항 내지 제 13 항 중의 임의의 한 항의 방법들을 수행하도록 하는 복수의 프로그램을 포함하는
전자 장치. - 하나 또는 그 이상의 프로세서를 갖는 전자 장치에 의하여 실행되기 위한 복수의 프로그램들을 저장하는 비-일시적 컴퓨터 판독 가능 저장 매체로서,
상기 복수의 프로그램들은 상기 하나 또는 그 이상의 프로세서에 의하여 실행될 경우 상기 전자 장치로 하여금 제 1 항 내지 제 13 항 중의 임의의 한 항의 방법들을 수행하도록 하고, 제 1 항 내지 제 13 항 중의 임의의 한 항의 방법에 의하여 생성되는 비트스트림을 저장하도록 하는,
비-일시적 컴퓨터 판독 가능 저장 매체. - 제 1 항 내지 제 13 항 중의 임의의 한 항의 방법들에 의하여 생성되는 비트스트림을 저장하는,
비-일시적 컴퓨터 판독 가능 저장 매체. - 비트스트림의 저장을 위한 명령어들을 구비하되, 상기 비트스트림은 제 1 항 내지 제 13 항 중의 어느 한 항의 방법에 의하여 생성되는 인코딩된 비디오 데이터를 포함하는,
비-일시적 컴퓨터 판독 가능 저장 매체에 저장된 컴퓨터 프로그램.
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063001235P | 2020-03-27 | 2020-03-27 | |
| US63/001,235 | 2020-03-27 | ||
| PCT/US2021/024673 WO2021195628A1 (en) | 2020-03-27 | 2021-03-29 | Methods and apparatus of video coding using palette mode |
| KR1020227037631A KR102639534B1 (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020227037631A Division KR102639534B1 (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20240019408A true KR20240019408A (ko) | 2024-02-14 |
Family
ID=77890634
Family Applications (4)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020247004281A KR20240024301A (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
| KR1020247004284A KR20240019408A (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
| KR1020227037631A KR102639534B1 (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
| KR1020247004293A KR20240023239A (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020247004281A KR20240024301A (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
Family Applications After (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020227037631A KR102639534B1 (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
| KR1020247004293A KR20240023239A (ko) | 2020-03-27 | 2021-03-29 | 팔레트 모드를 사용한 비디오 코딩 방법 및 장치 |
Country Status (7)
| Country | Link |
|---|---|
| US (1) | US20230027818A1 (ko) |
| EP (1) | EP4128797A4 (ko) |
| JP (1) | JP2023520645A (ko) |
| KR (4) | KR20240024301A (ko) |
| CN (4) | CN115349262A (ko) |
| MX (1) | MX2022012020A (ko) |
| WO (1) | WO2021195628A1 (ko) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11463716B2 (en) * | 2021-02-25 | 2022-10-04 | Qualcomm Incorporated | Buffers for video coding in palette mode |
Family Cites Families (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114501033B (zh) * | 2014-06-20 | 2023-11-10 | 寰发股份有限公司 | 用于视频编码的调色板预测器信令的方法 |
| US20150381994A1 (en) * | 2014-06-27 | 2015-12-31 | Futurewei Technologies, Inc. | Advanced screen content coding with improved palette table and index map coding methods |
| US10097839B2 (en) * | 2014-12-19 | 2018-10-09 | Qualcomm Incorporated | Palette mode for subsampling format |
| JP2018505604A (ja) * | 2015-01-14 | 2018-02-22 | ヴィド スケール インコーポレイテッド | 非４：４：４スクリーンコンテンツビデオのためのパレットコーディング |
| US9986248B2 (en) * | 2015-01-29 | 2018-05-29 | Qualcomm Incorporated | Palette mode coding for video coding |
| US9942551B2 (en) * | 2015-01-30 | 2018-04-10 | Qualcomm Incorporated | Palette index grouping for video coding |
| US20160345014A1 (en) * | 2015-05-20 | 2016-11-24 | Sharp Laboratories Of America, Inc. | Systems and methods for coding a number of palette indices |
| US10567759B2 (en) * | 2016-03-21 | 2020-02-18 | Qualcomm Incorporated | Using luma information for chroma prediction with separate luma-chroma framework in video coding |
| ES2935261T3 (es) * | 2016-05-28 | 2023-03-03 | Hfi Innovation Inc | Método y aparato de codificación de modo de paleta para datos de video de color |
| US20190246122A1 (en) * | 2018-02-08 | 2019-08-08 | Qualcomm Incorporated | Palette coding for video coding |
| US10694195B2 (en) * | 2018-03-07 | 2020-06-23 | Tencent America LLC | Methods and apparatus for palette coding |
| CA3111156A1 (en) * | 2018-08-30 | 2020-03-05 | Huawei Technologies Co., Ltd. | An encoding device, a decoding device, and corresponding methods using a palette coding |
| US11025905B2 (en) * | 2018-09-14 | 2021-06-01 | Tencent America LLC | Method and device for decoding with palette mode |
| US11184632B2 (en) * | 2020-01-20 | 2021-11-23 | Tencent America LLC | Method and apparatus for palette based coding mode under local dual tree structure |
-
2021
- 2021-03-29 KR KR1020247004281A patent/KR20240024301A/ko active Application Filing
- 2021-03-29 MX MX2022012020A patent/MX2022012020A/es unknown
- 2021-03-29 CN CN202180023972.0A patent/CN115349262A/zh active Pending
- 2021-03-29 WO PCT/US2021/024673 patent/WO2021195628A1/en active Application Filing
- 2021-03-29 CN CN202311584936.9A patent/CN117544767A/zh active Pending
- 2021-03-29 JP JP2022556692A patent/JP2023520645A/ja active Pending
- 2021-03-29 KR KR1020247004284A patent/KR20240019408A/ko active Application Filing
- 2021-03-29 CN CN202311482571.9A patent/CN117528122A/zh active Pending
- 2021-03-29 KR KR1020227037631A patent/KR102639534B1/ko active IP Right Grant
- 2021-03-29 CN CN202211549494.XA patent/CN115802061B/zh active Active
- 2021-03-29 KR KR1020247004293A patent/KR20240023239A/ko active Application Filing
- 2021-03-29 EP EP21774700.5A patent/EP4128797A4/en active Pending
-
2022
- 2022-09-26 US US17/953,233 patent/US20230027818A1/en active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023520645A (ja) | 2023-05-18 |
| MX2022012020A (es) | 2022-10-21 |
| CN115349262A (zh) | 2022-11-15 |
| CN115802061B (zh) | 2023-09-26 |
| WO2021195628A1 (en) | 2021-09-30 |
| EP4128797A1 (en) | 2023-02-08 |
| KR20240023239A (ko) | 2024-02-20 |
| US20230027818A1 (en) | 2023-01-26 |
| CN115802061A (zh) | 2023-03-14 |
| KR20220153091A (ko) | 2022-11-17 |
| KR102639534B1 (ko) | 2024-02-22 |
| EP4128797A4 (en) | 2023-09-13 |
| CN117528122A (zh) | 2024-02-06 |
| CN117544767A (zh) | 2024-02-09 |
| KR20240024301A (ko) | 2024-02-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114731445A (zh) | 残差和系数编解码的方法和装置 | |
| US20220239926A1 (en) | Methods and apparatus of video coding using palette mode | |
| US20220150522A1 (en) | Methods and apparatus of residual and coefficient coding | |
| US20230027818A1 (en) | Methods and apparatus of video coding using palette mode | |
| KR102597662B1 (ko) | 팔레트 모드를 이용한 비디오 코딩 방법 및 장치 | |
| CN114556932B (zh) | 用于视频编解码的无损编解码模式 | |
| KR102638578B1 (ko) | 변환 및 계수 시그널링에 대한 방법 및 장치 | |
| US20220256199A1 (en) | Methods and apparatus of residual and coefficients coding | |
| WO2021055970A1 (en) | Methods and apparatus of video coding using palette mode | |
| WO2021138432A1 (en) | Methods and apparatus of video coding using palette mode | |
| WO2021207035A1 (en) | Methods and apparatus on transform and coefficient signaling |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A107 | Divisional application of patent |