KR20240038959A - 결합된 인터 및 인트라 예측을 수행하기 위한 방법 및 시스템 - Google Patents
결합된 인터 및 인트라 예측을 수행하기 위한 방법 및 시스템 Download PDFInfo
- Publication number
- KR20240038959A KR20240038959A KR1020247001211A KR20247001211A KR20240038959A KR 20240038959 A KR20240038959 A KR 20240038959A KR 1020247001211 A KR1020247001211 A KR 1020247001211A KR 20247001211 A KR20247001211 A KR 20247001211A KR 20240038959 A KR20240038959 A KR 20240038959A
- Authority
- KR
- South Korea
- Prior art keywords
- sub
- mode
- intra
- intra prediction
- target block
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 301
- 238000009795 derivation Methods 0.000 claims abstract description 32
- 230000000644 propagated effect Effects 0.000 claims description 31
- 230000011664 signaling Effects 0.000 claims description 7
- 238000013507 mapping Methods 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 6
- 238000012935 Averaging Methods 0.000 claims description 5
- 230000008569 process Effects 0.000 description 93
- 238000012545 processing Methods 0.000 description 69
- 238000010586 diagram Methods 0.000 description 25
- 230000002123 temporal effect Effects 0.000 description 25
- 238000013139 quantization Methods 0.000 description 23
- 230000033001 locomotion Effects 0.000 description 20
- 241000023320 Luma <angiosperm> Species 0.000 description 14
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 14
- 230000015654 memory Effects 0.000 description 13
- 239000013598 vector Substances 0.000 description 13
- 238000007906 compression Methods 0.000 description 11
- 239000013074 reference sample Substances 0.000 description 11
- 239000000523 sample Substances 0.000 description 11
- 238000013213 extrapolation Methods 0.000 description 10
- IESVDEZGAHUQJU-ZLBXKVHBSA-N 1-hexadecanoyl-2-(4Z,7Z,10Z,13Z,16Z,19Z-docosahexaenoyl)-sn-glycero-3-phosphocholine Chemical compound CCCCCCCCCCCCCCCC(=O)OC[C@H](COP([O-])(=O)OCC[N+](C)(C)C)OC(=O)CC\C=C/C\C=C/C\C=C/C\C=C/C\C=C/C\C=C/CC IESVDEZGAHUQJU-ZLBXKVHBSA-N 0.000 description 9
- 230000006835 compression Effects 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 7
- 238000013461 design Methods 0.000 description 7
- 238000002156 mixing Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 6
- 238000010276 construction Methods 0.000 description 6
- 230000006837 decompression Effects 0.000 description 6
- 230000009466 transformation Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000007500 overflow downdraw method Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 230000002457 bidirectional effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- FZEIVUHEODGHML-UHFFFAOYSA-N 2-phenyl-3,6-dimethylmorpholine Chemical compound O1C(C)CNC(C)C1C1=CC=CC=C1 FZEIVUHEODGHML-UHFFFAOYSA-N 0.000 description 2
- 108010001267 Protein Subunits Proteins 0.000 description 2
- 230000000903 blocking effect Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 101150114515 CTBS gene Proteins 0.000 description 1
- 101100129500 Caenorhabditis elegans max-2 gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/154—Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
결합된 인터 및 인트라 모드 도출(TIMD) 방법을 수행하기 위한 방법은 타겟 블록에 대해 CIIP가 활성화되어 있다고 결정하는 단계; 템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계; 제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 단계; 및 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계를 포함한다.
Description
연관된 출원에 대한 상호참조
본 출원은 2021년 6월 27일자로 출원된 미국 가출원 제63/215,474호, 2021년 8월 19일자로 출원된 미국 가출원 제63/235,110호 및 2022년 6월 22일자로 출원된 미국 가출원 제17/808,212호에 대한 우선권의 이익을 주장하며, 이들 모두는 그 전체가 본원에 참조로 통합된다.
기술분야
본 개시는 일반적으로 비디오 처리에 관한 것이고, 더욱 구체적으로 결합된 인터 및 인트라 예측을 수행하기 위한 방법 및 시스템에 관한 것이다.
비디오는 시각적 정보를 캡처하는 정적 픽처(또는 "프레임")의 세트이다. 저장 메모리 및 송신 대역폭을 감소시키기 위해, 비디오는 저장 또는 송신 이전에 압축되고, 디스플레이 전에 압축 해제될 수 있다. 압축 프로세스는 보통 인코딩으로 지칭되고, 압축 해제 프로세스는 보통 디코딩으로 지칭된다. 가장 일반적으로 예측, 변환, 양자화, 엔트로피 부호화(entropy coding) 및 인-루프 필터링(in-loop filtering)을 기초로 하는, 표준화된 비디오 부호화 기술을 사용하는 다양한 비디오 부호화 포맷이 있다. 특정 비디오 부호화 포맷을 특정하는 고효율 비디오 부호화(High Efficiency Video Coding, HEVC/H.265) 표준, 다용도 비디오 부호화(Versatile Video Coding, VVC/H.266) 표준, 및 AVS 표준과 같은 비디오 부호화 표준은 표준화 기구에 의해 개발된다. 점점 더 많은 진보된 비디오 부호화 기술이 비디오 표준에 채택되고 있고, 새로운 비디오 부호화 표준의 부호화 효율이 점점 더 높아지고 있다.
본 개시의 실시예는 결합된 인터 및 인트라 예측(combined inter and intra prediction, CIIP)을 수행하기 위한 방법을 제공한다. 방법은 타겟 블록에 대해 CIIP가 활성화되어 있다고 결정하는 단계; 템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계; 제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 단계; 및 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계를 포함한다.
본 개시의 실시예는 결합된 인터 및 인트라 예측(CIIP)을 수행하기 위한 방법을 제공한다. 방법은: 템플릿 기반 인트라 모드 도출(template-based intra mode derivation, TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계; 제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 단계; 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계; 및 CIIP가 활성화되었다는 것을 나타내는 플래그 및 TIMD 방법이 타겟 블록의 제1 인트라 예측 모드를 결정하기 위해 사용된다는 것을 나타내는 인덱스를 시그널링하는 단계를 포함한다.
본 개시의 실시예는 비트스트림을 저장하는 비일시적 컴퓨터 판독가능 매체를 제공하고, 비트스트림은 인코딩된 비디오 데이터와 연관된 플래그 및 제1 인덱스를 포함하고, 플래그는 인터 및 인트라 예측(CIIP)이 인코딩된 비디오 데이터에 대해 사용된다는 것을 나타내고, 제1 인덱스는 템플릿 기반 인트라 모드 도출(TIMD)이 CIIP에 대해 사용된다는 것을 나타내고, 플래그 및 인덱스는 디코더로 하여금: TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것; 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 것; 및 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것을 하게 한다.
본 개시의 실시예 및 다양한 양상이 다음의 상세한 설명 및 첨부 도면에 예시된다. 도면에 도시된 다양한 특징은 축척대로 도시된 것은 아니다.
도 1은 본 개시의 일부 실시예에 따른, 예시적인 비디오 시퀀스의 구조를 예시하는 개략도이다.
도 2a는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 예시적인 인코딩 프로세스를 예시하는 개략도이다.
도 2b는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 다른 예시적인 인코딩 프로세스를 예시하는 개략도이다.
도 3a는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 예시적인 디코딩 프로세스를 예시하는 개략도이다.
도 3b는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 다른 예시적인 디코딩 프로세스를 예시하는 개략도이다.
도 4는 본 개시의 일부 실시예에 따른, 비디오를 인코딩 또는 디코딩하기 위한 예시적인 장치의 블록도이다.
도 5는 본 개시의 일부 실시예에 따른, VVC에서의 각도 인트라 예측 모드를 예시한다.
도 6은 본 개시의 일부 실시예에 따른, 일반적인 최고 확률 모드(most probable mode, MPM) 목록의 도출에 사용되는 예시적인 이웃 블록을 예시한다.
도 7은 본 개시의 일부 실시예에 따른, 디코더측 인트라 모드 도출(decoder-side intra mode derivation, DIMD)에서 그래디언트(gradient)를 계산하는 데 사용되는 예시적인 픽셀을 예시한다.
도 8는 본 개시의 일부 실시예에 따른, DIMD의 예측 블렌딩 프로세스(prediction blending process)를 예시한다.
도 9는 본 개시의 일부 실시예에 따른, 템플릿 기반 인트라 모드 도출(TIMD)에서 사용되는 예시적인 템플릿 및 그의 참조 샘플을 예시한다.
도 10은 본 개시의 일부 실시예에 따른, 결합된 인터 및 인트라 예측(CIIP) 가중치 도출에 사용되는 상단 이웃 블록 및 좌측 이웃 블록을 예시한다.
도 11은 본 개시의 일부 실시예에 따른, 포지션 의존 인트라 예측 결합(position dependent intra prediction combination, PDPC)을 사용하여 확장된 CIIP 모드의 예시적인 흐름도를 예시한다.
도 12는 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 예시적인 흐름도를 예시한다.
도 13은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 14은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 15은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 16은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 17a 및 도 17b는 본 개시의 일부 실시예에 따른, 부호화 블록을 각각 수직 및 수평으로 분할하기 위한 예시적인 방법을 예시한다.
도 18은 본 개시의 일부 실시예에 따른, 각도 인트라 예측 모드에서 부호화 블록을 분할하기 위한 예시적인 방법을 예시한다.
도 19은 본 개시의 일부 실시예에 따른, 예측 모드를 결정하기 위한 방법의 예시적인 흐름도를 예시한다.
도 1은 본 개시의 일부 실시예에 따른, 예시적인 비디오 시퀀스의 구조를 예시하는 개략도이다.
도 2a는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 예시적인 인코딩 프로세스를 예시하는 개략도이다.
도 2b는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 다른 예시적인 인코딩 프로세스를 예시하는 개략도이다.
도 3a는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 예시적인 디코딩 프로세스를 예시하는 개략도이다.
도 3b는 본 개시의 실시예와 일치하는, 하이브리드 비디오 부호화 시스템의 다른 예시적인 디코딩 프로세스를 예시하는 개략도이다.
도 4는 본 개시의 일부 실시예에 따른, 비디오를 인코딩 또는 디코딩하기 위한 예시적인 장치의 블록도이다.
도 5는 본 개시의 일부 실시예에 따른, VVC에서의 각도 인트라 예측 모드를 예시한다.
도 6은 본 개시의 일부 실시예에 따른, 일반적인 최고 확률 모드(most probable mode, MPM) 목록의 도출에 사용되는 예시적인 이웃 블록을 예시한다.
도 7은 본 개시의 일부 실시예에 따른, 디코더측 인트라 모드 도출(decoder-side intra mode derivation, DIMD)에서 그래디언트(gradient)를 계산하는 데 사용되는 예시적인 픽셀을 예시한다.
도 8는 본 개시의 일부 실시예에 따른, DIMD의 예측 블렌딩 프로세스(prediction blending process)를 예시한다.
도 9는 본 개시의 일부 실시예에 따른, 템플릿 기반 인트라 모드 도출(TIMD)에서 사용되는 예시적인 템플릿 및 그의 참조 샘플을 예시한다.
도 10은 본 개시의 일부 실시예에 따른, 결합된 인터 및 인트라 예측(CIIP) 가중치 도출에 사용되는 상단 이웃 블록 및 좌측 이웃 블록을 예시한다.
도 11은 본 개시의 일부 실시예에 따른, 포지션 의존 인트라 예측 결합(position dependent intra prediction combination, PDPC)을 사용하여 확장된 CIIP 모드의 예시적인 흐름도를 예시한다.
도 12는 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 예시적인 흐름도를 예시한다.
도 13은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 14은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 15은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 16은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다.
도 17a 및 도 17b는 본 개시의 일부 실시예에 따른, 부호화 블록을 각각 수직 및 수평으로 분할하기 위한 예시적인 방법을 예시한다.
도 18은 본 개시의 일부 실시예에 따른, 각도 인트라 예측 모드에서 부호화 블록을 분할하기 위한 예시적인 방법을 예시한다.
도 19은 본 개시의 일부 실시예에 따른, 예측 모드를 결정하기 위한 방법의 예시적인 흐름도를 예시한다.
이제 예시적인 실시예에 대한 참조가 상세히 이루어질 것이며, 이의 예가 첨부 도면에 예시된다. 다음의 설명은 달리 표현되지 않는 한 상이한 도면에서 동일한 번호가 동일하거나 유사한 요소를 나타내는 첨부 도면을 참조한다. 예시적인 실시예의 다음 설명에서 제시된 구현은 본 발명과 일치하는 모든 구현을 표현하는 것은 아니다. 그 대신에, 이들은 첨부된 청구범위에서 인용된 본 발명에 관련된 양상과 일치하는 장치 및 방법의 예일 뿐이다. 본 개시의 특정 양상은 아래에서 더욱 상세히 설명된다. 참조로 통합된 용어 및/또는 정의와 상충하는 경우, 본원에 제공된 용어 및 정의가 우선한다.
ITU-T VCEG(ITU-T Video Coding Expert Group) 및 ISO/IEC MPEG(ISO/IEC Moving Picture Expert Group)의 JVET(Joint Video Experts Team)는 현재 다용도 비디오 부호화(VVC/H.266) 표준을 개발하고 있다. VVC 표준은 그의 이전 버전인 고효율 비디오 부호화(HEVC/H.265) 표준의 압축 효율성을 두 배로 높이는 것을 목표로 한다. 다시 말해, VVC의 목표는 대역폭의 절반을 사용하여 HEVC/H.265와 동일한 주관적 품질을 달성하는 것이다.
대역폭의 절반을 사용하여 HEVC/H.265와 동일한 주관적 품질을 달성하기 위해, JVET는 공동 탐색 모델(joint exploration model, JEM) 참조 소프트웨어를 사용하여 HEVC를 뛰어넘는 기술을 개발하고 있다. 부호화 기술이 JEM에 통합됨에 따라, JEM은 HEVC보다 실질적으로 더 높은 부호화 성능을 달성하였다.
VVC 표준은 최근에 개발되었으며, 더욱 양호한 압축 성능을 제공하는 더 많은 부호화 기술을 계속 포함하고 있다. VVC는 HEVC, H.264/AVC, MPEG2, H.263 등과 같은 최신 비디오 압축 표준에서 사용된 것과 동일한 하이브리드 비디오 부호화 시스템을 기초로 한다.
비디오는 시각적 정보를 저장하기 위해 시간적인 시퀀스로 배열된 정적 픽처(또는 "프레임")의 세트이다. 비디오 캡처 디바이스(예를 들어, 카메라)는 이들 픽처를 시간적인 시퀀스로 캡처하고 저장하는 데 사용될 수 있고, 비디오 재생 디바이스(예를 들어, 디스플레이의 기능을 갖는 텔레비전, 컴퓨터, 스마트폰, 태블릿 컴퓨터, 비디오 플레이어 또는 임의의 최종-사용자 단말기)는 이러한 픽처를 시간적인 시퀀스로 디스플레이하는 데 사용될 수 있다. 또한, 일부 애플리케이션에서, 비디오 캡처링 디바이스는 감시, 회의 또는 실시간 방송과 같이 캡처된 비디오를 비디오 재생 디바이스(예를 들어, 모니터를 갖는 컴퓨터)에 실시간으로 송신할 수 있다.
이러한 애플리케이션에 의해 필요한 저장 공간 및 송신 대역폭을 감소시키기 위해, 비디오는 저장 및 송신 이전에 압축되고, 디스플레이 이전에 압축 해제될 수 있다. 압축 및 압축 해제는 프로세서(예를 들어, 일반 컴퓨터의 프로세서) 또는 특수화된 하드웨어에 의해 실행되는 소프트웨어에 의해 구현될 수 있다. 압축을 위한 모듈은 일반적으로 "인코더"로 지칭되고, 압축 해제를 위한 모듈은 일반적으로 "디코더"로 지칭된다. 인코더 및 디코더는 집합적으로 "코덱(codec)"으로 지칭될 수 있다. 인코더 및 디코더는 다양한 적합한 하드웨어, 소프트웨어, 또는 이의 조합 중 임의의 것으로서 구현될 수 있다. 예를 들어, 인코더 및 디코더의 하드웨어 구현은 하나 이상의 마이크로프로세서, 디지털 신호 프로세서(DSP), 주문형 반도체(application-specific integrated circuits, ASIC), 필드 프로그래머블 게이트 어레이(Field-Programmable Gate Array, FPGA), 이산 로직 또는 이의 임의의 조합과 같은 회로를 포함할 수 있다. 인코더 및 디코더의 소프트웨어 구현은 컴퓨터 판독 가능 매체에 고정된 프로그램 코드, 컴퓨터-실행가능 명령어, 펌웨어 또는 임의의 적합한 컴퓨터 구현 알고리즘 또는 프로세스를 포함할 수 있다. 비디오 압축 및 압축 해제는 MPEG-1, MPEG-2, MPEG-4, H.26x 시리즈 등과 같은 다양한 알고리즘 또는 표준에 의해 구현될 수 있다. 일부 애플리케이션에서, 코덱은 제1 부호화 표준으로부터 비디오를 압축 해제하고 제2 부호화 표준을 사용하여 압축 해제된 비디오를 재압축할 수 있으며, 이 사례에서 코덱은 "트랜스코더(transcoder)"로서 지칭될 수 있다.
비디오 인코딩 프로세스는 픽처를 재구성하는 데 사용될 수 있는 유용한 정보를 식별 및 유지할 수 있고, 재구성에 중요하지 않은 정보를 폐기할 수 있다. 폐기되고 중요하지 않은 정보가 완전히 재구성될 수 없는 경우, 이러한 인코딩 프로세스는 "손실이 있는 것(lossy)"으로 지칭될 수 있다. 그렇지 않으면, 이는 "무손실(lossless)"로 지칭될 수 있다. 대부분의 인코딩 프로세스는 손실이 있고, 이는 필요한 저장 공간 및 송신 대역폭을 감소시키기 위한 트레이드오프(tradeoff)이다.
인코딩되는 픽처("현재 픽처"로 지칭됨)의 유용한 정보는 참조 픽처(예를 들어, 이전에 인코딩 및 재구성된 픽처)에 대한 변경을 포함한다. 이러한 변경은 픽셀의 포지션 변경, 광도 변경 또는 색상 변경을 포함할 수 있으며, 그 중 포지션 변경이 주로 관련된다. 객체를 표현하는 픽셀의 그룹의 포지션 변경은 참조 픽처와 현재 픽처 사이의 객체의 움직임을 반영할 수 있다.
다른 픽처를 참조하지 않고 부호화된 픽처(즉, 자신이 그 자신의 참조 픽처임)는 "I-픽처"로 지칭된다. 픽처에서 일부 또는 모든 블록(예를 들어, 일반적으로 비디오 픽처의 부분을 지칭하는 블록)이 하나의 참조 픽처를 통한 인트라 예측 또는 인터 예측을 사용하여 예측되는 경우(예를 들어, 단방향-예측), 픽처는 "P-픽처"로 지칭된다. 픽처에서 적어도 하나의 블록이 두 개의 참조 픽처를 통해 예측되는 경우(예를 들어, 양방향-예측), 픽처는 "B-픽처"로 지칭된다.
도 1은 본 개시의 일부 실시예에 따른 예시적인 비디오 시퀀스(100)의 구조를 예시한다. 비디오 시퀀스(100)는 실시간 비디오 또는 캡처되고 보관되는 비디오일 수 있다. 비디오(100)는 실제 비디오, 컴퓨터-생성된 비디오(예를 들어, 컴퓨터 게임 비디오) 또는 이의 조합(예를 들어, 증강-현실 효과를 갖는 실제 비디오)일 수 있다. 비디오 시퀀스(100)는 비디오 캡처 디바이스(예를 들어, 카메라), 이전에 캡처된 비디오를 포함하는 비디오 아카이브(예를 들어, 저장 디바이스에 저장된 비디오 파일), 또는 비디오 콘텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스(예를 들어, 비디오 브로드캐스트 트랜시버(transceiver))로부터 입력될 수 있다.
도 1에 도시된 바와 같이, 비디오 시퀀스(100)는 픽처(102, 104, 106 및 108)를 포함하는, 시간선을 따라 시간적으로 배열된 일련의 픽처를 포함할 수 있다. 픽처(102 내지 106)는 연속적이고, 픽처(106)와 픽처(108) 사이에 더 많은 픽처가 있다. 도 1에서, 픽처(102)는 I-픽처이고, 이의 참조 픽처는 픽처(102) 그 자체이다. 픽처(104)는 P-픽처이고, 이의 참조 픽처는 화살표로 나타난 바와 같이 픽처(102)이다. 픽처(106)는 B-픽처이고, 이의 참조 픽처는 화살표로 나타난 바와 같이 픽처(104 및 108)이다. 일부 실시예에서, 픽처(예를 들어, 픽처(104))의 참조 픽처가 픽처 직전 또는 직후가 아닐 수 있다. 예를 들어, 픽처(104)의 참조 픽처는 픽처(102)에 선행하는 픽처일 수 있다. 픽처(102 내지 106)의 참조 픽처는 단지 예이며, 본 개시는 도 1에 도시된 예로서 참조 픽처의 실시예를 제한하지 않는다는 것에 유의해야 한다.
통상적으로, 비디오 코덱은 이러한 태스크(task)의 컴퓨팅 복잡성으로 인해 전체의 픽처를 동시에 인코딩하거나 또는 디코딩하지 않는다. 오히려, 이는 픽처를 기본 세그먼트로 분할할 수 있고, 픽처를 세그먼트별로 인코딩하거나 또는 디코딩할 수 있다. 이러한 기본 세그먼트는 본 개시에서 기본 처리 유닛(basic processing units, BPU)으로 지칭된다. 예를 들어, 도 1에서의 구조(110)는 비디오 시퀀스(100)의 픽처(예를 들어, 픽처(102 내지 108) 중 임의의 것)의 예시적인 구조를 도시한다. 구조(110)에서, 픽처는 4×4 기본 처리 유닛으로 나누어지고, 이의 경계는 점선으로 도시된다. 일부 실시예에서, 기본 처리 유닛은 일부 비디오 부호화 표준(예를 들어, MPEG 패밀리, H.261, H.263 또는 H.264/AVC)에서 "매크로블록"으로 지칭될 수 있거나, 일부 다른 비디오 부호화 표준(예를 들어, H.265/HEVC 또는 H.266/VVC)에서 "부호화 트리 유닛"("CTU")으로 지칭될 수 있다. 기본 처리 유닛은 128×128, 64×64, 32×32, 16×16, 4×8, 16×32와 같은 픽처에서의 가변적인 크기, 또는 픽셀의 어느 임의의 형상 및 크기를 가질 수 있다. 기본 처리 유닛의 크기 및 형상은 기본 처리 유닛에서 유지될 세부사항의 수준 및 부호화 효율의 균형을 기초로 픽처에 대해 선택될 수 있다.
기본 처리 유닛은 논리적 유닛일 수 있으며, 이는 컴퓨터 메모리에 (예를 들어, 비디오 프레임 버퍼에) 저장되는 상이한 유형의 비디오 데이터의 그룹을 포함할 수 있다. 예를 들어, 색상 픽처의 기본 처리 유닛은 무색의 밝기 정보를 표현하는 루마 성분(Y), 색상 정보를 표현하는 하나 이상의 크로마 성분(예를 들어, Cb 및 Cr) 및 연관된 신택스 요소를 포함할 수 있고, 여기서 루마 및 크로마 성분은 기본 처리 유닛과 동일한 크기를 가질 수 있다. 루마 및 크로마 성분은 일부 비디오 부호화 표준(예를 들어, H.265/HEVC 또는 H.266/VVC)에서 "부호화 트리 블록"("CTB")으로 지칭될 수 있다. 기본 처리 유닛에 대해 수행되는 임의의 동작은 그의 루마 및 크로마 성분 각각에 대해 반복적으로 수행될 수 있다.
비디오 부호화는 다수의 동작 스테이지를 가지며, 이의 예는 도 2a-2b 및 도 3a-3b에 도시된다. 각 스테이지에 대해, 기본 처리 유닛의 크기는 처리하기에 여전히 너무 클 수 있으며, 따라서 본 개시에서 "기본 처리 서브-유닛"으로 지칭되는 세그먼트로 더 나누어질 수 있다. 일부 실시예에서, 기본 처리 서브-유닛은 일부 비디오 부호화 표준(예를 들어, MPEG 패밀리, H.261, H.263 또는 H.264/AVC)에서 "블록"으로 지칭될 수 있거나, 일부 다른 비디오 부호화 표준(예를 들어, H.265/HEVC 또는 H.266/VVC)에서 "부호화 유닛"("CU")으로 지칭될 수 있다. 기본 처리 서브-유닛은 기본 처리 유닛과 동일하거나 더 작은 크기를 가질 수 있다. 기본 처리 유닛과 유사하게, 기본 처리 서브-유닛은 또한, 논리적 유닛이며, 이는 컴퓨터 메모리에 (예를 들어, 비디오 프레임 버퍼에) 저장되는 상이한 유형의 비디오 데이터(예를 들어, Y, Cb, Cr 및 연관된 신택스 요소)의 그룹을 포함할 수 있다. 기본 처리 서브-유닛에 대해 수행되는 임의의 동작은 그의 루마 및 크로마 성분 각각에 대해 반복적으로 수행될 수 있다. 이러한 나누기는 처리 요구에 의존하는 추가적인 수준으로 수행될 수 있다는 것이 유의되어야 한다. 또한, 상이한 스테이지가 상이한 체계를 사용하여 기본 처리 유닛을 나눌 수 있다는 것이 유의되어야 한다.
예를 들어, 모드 결정 스테이지(그의 예가 도 2b에 도시됨)에서, 인코더는 기본 처리 유닛에 대해 어떤 예측 모드(예를 들어, 인트라-픽처 예측 또는 인터-픽처 예측)를 사용할지를 결정할 수 있으며, 기본 처리 유닛은 이러한 결정을 하기에 너무 클 수 있다. 인코더는 기본 처리 유닛을 다수의 기본 처리 서브-유닛(예를 들어, H.265/HEVC 또는 H.266/VVC에서와 같이 CU)으로 분할할 수 있으며, 각각의 개별적인 기본 처리 서브-유닛에 대해 예측 유형을 결정할 수 있다.
다른 예에 대해, 예측 스테이지(그의 예가 도 2a-2b에 도시됨)에서, 인코더는 기본 처리 서브-유닛(예를 들어, CU)의 수준에서 예측 동작을 수행할 수 있다. 하지만, 일부 사례에서, 기본 처리 서브-유닛은 처리하기에 여전히 너무 클 수 있다. 인코더는 기본 처리 서브-유닛을 더 작은 세그먼트(예를 들어, H.265/HEVC 또는 H.266/VVC에서 "예측 블록" 또는 "PB"로 지칭됨)로 추가로 분할할 수 있고, 이의 수준에서 예측 동작이 수행될 수 있다.
다른 예에 대해, 변환 스테이지(그의 예가 도 2a-2b에 도시됨)에서, 인코더는 잔차 기본 처리 서브-유닛(예를 들어, CU)에 대한 변환 동작을 수행할 수 있다. 하지만, 일부 사례에서, 기본 처리 서브-유닛은 처리하기에 여전히 너무 클 수 있다. 인코더는 기본 처리 서브-유닛을 더 작은 세그먼트(예를 들어, H.265/HEVC 또는 H.266/VVC에서 "변환 블록" 또는 "TB"로 지칭됨)로 추가로 분할할 수 있고, 이의 수준에서 변환 동작이 수행될 수 있다. 동일한 기본 처리 서브-유닛의 나누기 체계가 예측 스테이지 및 변환 스테이지에서 상이할 수 있다는 것에 유의해야 한다. 예를 들어, H.265/HEVC 또는 H.266/VVC에서, 동일한 CU의 예측 블록 및 변환 블록은 상이한 크기 및 개수를 가질 수 있다.
도 1의 구조(110)에서, 기본 처리 유닛(112)은 그의 경계가 점선으로 도시된, 3×3 기본 처리 서브-유닛으로 추가로 나누어진다. 동일한 픽처의 상이한 기본 처리 유닛이 상이한 체계의 기본 처리 서브-유닛으로 나누어질 수 있다.
일부 구현에서, 비디오 인코딩 및 디코딩에 대한 병렬 처리 및 오류 복원의 능력을 제공하기 위해, 픽처는 픽처의 영역에 대해, 인코딩 또는 디코딩 프로세스가 픽처의 임의의 다른 영역으로부터의 어떠한 정보에도 의존하지 않을 수 있도록, 처리를 위한 영역으로 나누어질 수 있다. 다시 말해, 픽처의 각각의 영역은 독립적으로 처리될 수 있다. 이렇게 함으로써, 코덱은 픽처의 상이한 영역을 병렬로 처리할 수 있으며, 따라서 부호화 효율을 증가시킨다. 또한, 영역의 데이터가 처리에서 훼손되거나 또는 네트워크 송신에서 분실될 때, 코덱은 훼손되거나 또는 분실된 데이터에 대한 의존(reliance) 없이, 동일한 픽처의 다른 영역을 올바르게 인코딩 또는 디코딩할 수 있으며, 따라서 오류 복원의 능력을 제공한다. 일부 비디오 부호화 표준에서, 픽처는 상이한 유형의 영역으로 나누어질 수 있다. 예를 들어, H.265/HEVC 및 H.266/VVC는 두 개의 유형의 영역: "슬라이스" 및 "타일"을 제공한다. 또한, 비디오 시퀀스(100)의 상이한 픽처가, 픽처를 영역으로 나누기 위한 상이한 파티션 체계를 가질 수 있다는 것에 유의해야 한다.
예를 들어, 도 1에서, 구조(110)는 그의 경계가 구조(110) 내에서 실선으로 도시된 세 개의 영역(114, 116 및 118)으로 나누어진다. 영역(114)은 네 개의 기본 처리 유닛을 포함한다. 영역(116 및 118)의 각각은 여섯 개의 기본 처리 유닛을 포함한다. 도 1에서 구조(110)의 기본 처리 유닛, 기본 처리 서브-유닛 및 영역은 단지 예이며, 본 개시는 이의 실시예를 제한하지 않는다는 것에 유의해야 한다.
도 2a는 본 개시의 실시예와 일치하는, 예시적인 인코딩 프로세스(200A)의 개략도를 예시한다. 예를 들어, 인코딩 프로세스(200A)는 인코더에 의해 수행될 수 있다. 도 2a에 도시되는 바와 같이, 인코더는 프로세스(200A)에 따라 비디오 시퀀스(202)를 비디오 비트스트림(228)으로 인코딩할 수 있다. 도 1에서의 비디오 시퀀스(100)와 유사하게, 비디오 시퀀스(202)는 시간적인 순서로 배열된 픽처("원래의 픽처"로 지칭됨)의 세트를 포함할 수 있다. 도 1에서의 구조(110)와 유사하게, 비디오 시퀀스(202)의 각각의 원래의 픽처는 인코더에 의해 기본 처리 유닛, 기본 처리 서브-유닛 또는 처리를 위한 영역으로 나누어질 수 있다. 일부 실시예에서, 인코더는 비디오 시퀀스(202)의 각각의 원래의 픽처에 대한 기본 처리 유닛의 수준에서 프로세스(200A)를 수행할 수 있다. 예를 들어, 인코더는 프로세스(200A)를 반복 방식으로 수행할 수 있으며, 여기서 인코더는 프로세스(200A)의 하나의 반복으로 기본 처리 유닛을 인코딩할 수 있다. 일부 실시예에서, 인코더는 비디오 시퀀스(202)의 각각의 원래의 픽처의 영역(예를 들어, 영역(114-118))에 대해 프로세스(200A)를 병렬로 수행할 수 있다.
도 2a에서, 인코더는 예측 데이터(206) 및 예측된 BPU(208)를 생성하기 위해 비디오 시퀀스(202)의 원래의 픽처의 기본 처리 유닛("원래의 BPU"로 지칭됨)을 예측 스테이지(204)로 공급할 수 있다. 인코더는 잔차 BPU(210)를 생성하기 위해 원래의 BPU로부터 예측된 BPU(208)를 감산할 수 있다. 인코더는 양자화된 변환 계수(216)를 생성하기 위해, 잔차 BPU(210)를 변환 스테이지(212) 및 양자화 스테이지(214)에 공급할 수 있다. 인코더는 비디오 비트스트림(228)을 생성하기 위해, 예측 데이터(206) 및 양자화된 변환 계수(216)를 이진 부호화 스테이지(226)에 공급할 수 있다. 구성요소(202, 204, 206, 208, 210, 212, 214, 216, 226 및 228)는 "순방향 경로(forward path)"로서 지칭될 수 있다. 프로세스(200A) 동안, 양자화 스테이지(214) 이후에, 인코더는 재구성된 잔차 BPU(222)를 생성하기 위해, 양자화된 변환 계수(216)를 역 양자화 스테이지(218) 및 역변환 스테이지(220)에 공급할 수 있다. 인코더는 예측 참조(224)를 생성하기 위해 재구성된 잔차 BPU(222)를 예측된 BPU(208)에 더할 수 있고, 예측 참조(224)는 프로세스(200A)의 다음 반복을 위해 예측 스테이지(204)에서 사용된다. 프로세스(200A)의 구성요소(218, 220, 222 및 224)는 "재구성 경로"로서 지칭될 수 있다. 재구성 경로는 인코더 및 디코더 모두가 예측을 위해 동일한 참조 데이터를 사용하는 것을 보장하도록 사용될 수 있다.
인코더는 (순방향 경로에서) 원래의 픽처의 각각의 원래의 BPU를 인코딩하고, (재구성 경로에서) 원래의 픽처의 다음 원래의 BPU를 인코딩하기 위한 예측된 참조(224)를 생성하기 위해 프로세스(200A)를 반복적으로 수행할 수 있다. 원래의 픽처의 모든 원래의 BPU를 인코딩한 이후에, 인코더는 비디오 시퀀스(202)에서 다음 픽처를 인코딩하도록 진행할 수 있다.
프로세스(200A)를 참조하면, 인코더는 비디오 캡처링 디바이스(예를 들어, 카메라)에 의해 생성된 비디오 시퀀스(202)를 수신할 수 있다. 본원에서 사용된 "수신하다"라는 용어는 수신, 입력, 취득, 리트리브(retrieve), 획득, 판독, 액세스 또는 데이터를 입력하기 위한 임의의 방식에서의 임의의 동작을 지칭할 수 있다.
현재 반복에서의 예측 스테이지(204)에서, 인코더는 원래의 BPU 및 예측 참조(224)를 수신할 수 있고, 예측 데이터(206) 및 예측된 BPU(208)를 생성하기 위해 예측 동작을 수행할 수 있다. 예측 참조(224)는 프로세스(200A)의 이전의 반복의 재구성 경로로부터 생성될 수 있다. 예측 스테이지(204)의 목적은 예측 데이터(206) 및 예측 참조(224)로부터 원래의 BPU를 예측된 BPU(208)로서 재구성하기 위해 사용될 수 있는 예측 데이터(206)를 추출함으로써 정보 리던던시(information redundancy)를 감소시키는 것이다.
이상적으로, 예측된 BPU(208)는 원래의 BPU와 동일할 수 있다. 하지만, 비-이상적 예측 및 재구성 동작에 기인하여, 예측된 BPU(208)는 일반적으로 원래의 BPU와는 약간 상이하다. 이러한 차이를 기록하기 위해, 예측된 BPU(208)를 생성한 이후에, 인코더는 잔차 BPU(210)를 생성하기 위해, 원래의 BPU로부터 이를 감산할 수 있다. 예를 들어, 인코더는 원래의 BPU의 대응하는 픽셀의 값으로부터 예측된 BPU(208)의 픽셀의 값(예를 들어, 그레이스케일(greyscale) 값 또는 RGB 값)을 감산할 수 있다. 잔차 BPU(210)의 각각의 픽셀은 원래의 BPU 및 예측된 BPU(208)의 대응하는 픽셀 사이에서 이러한 감산의 결과로서의 잔차 값을 가질 수 있다. 원래의 BPU와 비교하여, 예측 데이터(206) 및 잔차 BPU(210)는 보다 적은 수의 비트를 가질 수 있지만, 이들은 현저한 품질 저하 없이 원래의 BPU를 재구성하는 데 사용될 수 있다. 따라서, 원래의 BPU가 압축된다.
잔차 BPU(210)를 추가로 압축하기 위해, 변환 스테이지(212)에서, 인코더는 이를 2차원 "기본 패턴" - 각각의 기본 패턴은 "변환 계수"와 연관됨 - 의 세트로 분해함으로써 잔차 BPU(210)의 공간 리던던시를 감소시킬 수 있다. 기본 패턴은 동일한 크기(예를 들어, 잔차 BPU(210)의 크기)를 가질 수 있다. 각각의 기본 패턴은 잔차 BPU(210)의 변동 주파수(variation frequency)(예를 들어, 밝기 변동의 주파수) 성분을 나타낼 수 있다. 기본 패턴 중 어느 것도 임의의 다른 기본 패턴의 임의의 결합(예를 들어, 선형 결합)으로부터 재현(reproduced)될 수 없다. 다시 말해, 분해는 잔차 BPU(210)의 변동을 주파수 도메인으로 분해할 수 있다. 이러한 분해는 함수의 이산 푸리에 변환과 유사하며, 여기서 기본 패턴은 이산 푸리에 변환의 기본 함수(예를 들어, 삼각 함수)와 유사하고 변환 계수는 기본 함수와 연관된 계수와 유사하다.
상이한 변환 알고리즘이 상이한 기본 패턴을 사용할 수 있다. 다양한 변환 알고리즘은 예를 들어, 이산 코사인 변환, 이산 사인 변환 등과 같은 변환 스테이지(212)에서 사용될 수 있다. 변환 스테이지(212)에서의 변환은 역으로 이루어질 수 있다(invertible). 즉, 인코더는 변환의 역동작("역변환"으로 지칭됨)에 의해 잔차 BPU(210)를 복원할 수 있다. 예를 들어, 잔차 BPU(210)의 픽셀을 복원하기 위해, 역변환은 기본 패턴의 대응하는 픽셀의 값을 각각의 연관된 계수를 곱하고, 그 결과 값을 더하여 가중합을 생성할 수 있다. 비디오 부호화 표준에 대해, 인코더 및 디코더 모두는 동일한 변환 알고리즘(따라서, 동일한 기본 패턴)을 사용할 수 있다. 따라서, 인코더는 변환 계수만을 기록할 수 있고, 이로부터 디코더는 인코더로부터 기본 패턴을 수신하지 않으면서, 잔차 BPU(210)를 재구성할 수 있다. 잔차 BPU(210)와 비교하여, 변환 계수는 더 적은 수의 비트를 가질 수 있지만, 이들은 현저한 품질 저하 없이 잔차 BPU(210)를 재구성하는 데 사용될 수 있다. 따라서, 잔차 BPU(210)가 추가로 압축된다.
인코더는 양자화 스테이지(214)에서 변환 계수를 추가로 압축할 수 있다. 변환 프로세스에서, 상이한 기본 패턴이 상이한 변동 주파수(예를 들어, 밝기 변동 주파수)를 표현할 수 있다. 인간의 눈이 일반적으로 저주파수 변동을 더 잘 인식하기 때문에, 인코더는 디코딩에서 현저한 품질 저하를 야기하지 않으면서 고주파수 변동의 정보를 무시할 수 있다. 예를 들어, 양자화 스테이지(214)에서, 인코더는 각각의 변환 계수를 정수 값("양자화 스케일 인자"로 지칭됨)으로 나누고, 몫을 그의 가장 가까운 정수로 반올림함으로써, 양자화된 변환 계수(216)를 생성할 수 있다. 이러한 동작 이후에, 고주파수 기본 패턴의 일부 변환 계수는 0으로 변환될 수 있고, 저주파수 기본 패턴의 변환 계수는 더 작은 정수로 변환될 수 있다. 인코더는 0-값 양자화된 변환 계수(216)를 무시할 수 있으며, 이에 의해 변환 계수는 추가로 압축된다. 또한, 양자화 프로세스는 역으로 이루어질 수 있고, 여기서 양자화된 변환 계수(216)는 양자화의 역동작("역양자화"로 지칭됨)에서 변환 계수로 재구성될 수 있다.
인코더가 반올림 동작에서 이러한 나눗셈의 나머지를 무시하기 때문에, 양자화 스테이지(214)는 손실이 있을 수 있다. 통상적으로, 양자화 스테이지(214)는 프로세스(200A)의 대부분의 정보 손실에 기여할 수 있다. 정보 손실이 크면 클수록, 양자화된 변환 계수(216)는 보다 적은 수의 비트를 필요로 할 수 있다. 상이한 수준의 정보 손실을 획득하기 위해, 인코더는 양자화 매개변수의 상이한 값 또는 양자화 프로세스의 임의의 다른 매개변수를 사용할 수 있다.
이진 부호화 스테이지(226)에서, 인코더는 예를 들어, 엔트로피 부호화, 가변 길이 부호화, 산술 부호화, 허프만 부호화(Huffman coding), 컨텍스트-적응적 이진 산술 부호화(context-adaptive binary arithmetic coding) 또는 임의의 다른 무손실 또는 손실 압축 알고리즘과 같은 이진 부호화 기법을 사용하여 예측 데이터(206) 및 양자화된 변환 계수(216)를 인코딩할 수 있다. 일부 실시예에서, 예측 데이터(206) 및 양자화된 변환 계수(216) 이외에, 인코더는 예를 들어, 예측 스테이지(204)에서 사용되는 예측 모드, 예측 동작의 매개변수, 변환 스테이지(212)에서의 변환 유형, 양자화 프로세스의 매개변수(예를 들어, 양자화 매개변수), 인코더 제어 매개변수(예를 들어, 비트레이트 제어 매개변수) 등과 같은 다른 정보를 이진 부호화 스테이지(226)에서 인코딩할 수 있다. 인코더는 비디오 비트스트림(228)을 생성하기 위해 이진 부호화 스테이지(226)의 출력 데이터를 사용할 수 있다. 일부 실시예에서, 비디오 비트스트림(228)은 네트워크 송신을 위해 추가로 패킷화될 수 있다.
프로세스(200A)의 재구성 경로를 참조하면, 역 양자화 스테이지(218)에서, 인코더는 재구성된 변환 계수를 생성하기 위해 양자화된 변환 계수(216)에 대해 역 양자화를 수행할 수 있다. 역변환 스테이지(220)에서, 인코더는 재구성된 변환 계수를 기초로, 재구성된 잔차 BPU(222)를 생성할 수 있다. 인코더는 프로세스(200A)의 다음 반복에서 사용될 예측 참조(224)를 생성하기 위해, 재구성된 잔차 BPU(222)를 예측된 BPU(208)에 더할 수 있다.
프로세스(200A)의 다른 변형이 비디오 시퀀스(202)를 인코딩하기 위해 사용될 수 있다는 것에 유의해야 한다. 일부 실시예에서, 프로세스(200A)의 스테이지는 인코더에 의해 상이한 순서로 수행될 수 있다. 일부 실시예에서, 프로세스(200A)의 하나 이상의 스테이지는 단일 스테이지로 결합될 수 있다. 일부 실시예에서, 프로세스(200A)의 단일 스테이지는 다수의 스테이지로 나누어질 수 있다. 예를 들어, 변환 스테이지(212) 및 양자화 스테이지(214)가 단일 스테이지로 결합될 수 있다. 일부 실시예에서, 프로세스(200A)는 추가적인 스테이지를 포함할 수 있다. 일부 실시예에서, 프로세스(200A)는 도 2a에서의 하나 이상의 스테이지를 생략할 수 있다.
도 2b는 본 개시의 실시예와 일치하는, 다른 예시적인 인코딩 프로세스(200B)의 개략도를 예시한다. 프로세스(200B)는 프로세스(200A)로부터 수정될 수 있다. 예를 들어, 프로세스(200B)는 하이브리드 비디오 인코딩 표준(예를 들어, H.26x 시리즈)을 따르는 인코더에 의해 사용될 수 있다. 프로세스(200A)와 비교하여, 프로세스(200B)의 순방향 경로는 모드 결정 스테이지(230)를 추가적으로 포함하고, 예측 스테이지(204)를 공간 예측 스테이지(2042) 및 시간 예측 스테이지(2044)로 나눈다. 프로세스(200B)의 재구성 경로는 루프 필터 스테이지(232) 및 버퍼(234)를 추가적으로 포함한다.
일반적으로, 예측 기법은 두 개의 유형: 공간 예측 및 시간 예측으로 카테고리화될 수 있다. 공간 예측(예를 들어, 인트라-픽처 예측 또는 "인트라 예측")은 현재 BPU를 예측하기 위해, 동일한 픽처에서 하나 이상의 이미 부호화된 이웃 BPU로부터의 픽셀을 사용할 수 있다. 즉, 공간 예측에서의 예측 참조(224)는 이웃 BPU를 포함할 수 있다. 공간 예측은 픽처의 내재적인 공간 리던던시를 감소시킬 수 있다. 시간 예측(예를 들어, 인터-픽처 예측 또는 "인터 예측")은 현재 BPU를 예측하기 위해 하나 이상의 이미 부호화된 픽처로부터의 영역을 사용할 수 있다. 즉, 시간 예측에서의 예측 참조(224)는 부호화된 픽처를 포함할 수 있다. 시간 예측은 픽처의 내재적인 시간 과잉을 감소시킬 수 있다.
프로세스(200B)를 참조하면, 순방향 경로에서, 인코더는 공간 예측 스테이지(2042) 및 시간 예측 스테이지(2044)에서 예측 동작을 수행한다. 예를 들어, 공간 예측 스테이지(2042)에서, 인코더는 인트라 예측을 수행할 수 있다. 인코딩되는 픽처의 원래의 BPU에 대해, 예측 참조(224)는 동일한 픽처에서 (순방향 경로에서) 인코딩되고 (재구성된 경로에서) 재구성되는 하나 이상의 이웃 BPU를 포함할 수 있다. 인코더는 이웃 BPU를 외삽함으로써 예측된 BPU(208)를 생성할 수 있다. 외삽 기법은 예를 들어, 선형 외삽(linear extrapolation) 또는 내삽(interpolation), 다항식 외삽 또는 내삽 등을 포함할 수 있다. 일부 실시예에서, 인코더는 가령, 예측된 BPU(208)의 각각의 픽셀에 대해 대응하는 픽셀의 값을 외삽함으로써, 픽셀 수준에서 외삽을 수행할 수 있다. 외삽을 위해 사용되는 이웃 BPU는 (예를 들어, 원래의 BPU의 상단에서) 수직 방향, (예를 들어, 원래의 BPU의 좌측에 대해) 수평 방향, (예를 들어, 원래의 BPU의 좌측-하단, 우측-하단, 좌측-상단 또는 우측-상단에 대해) 대각선 방향 또는 사용되는 비디오 부호화 표준에서 정의되는 임의의 방향에서와 같은 다양한 방향으로부터 원래의 BPU에 대해 위치될 수 있다. 인트라 예측에 대해, 예측 데이터(206)는 예를 들어, 원래의 BPU에 대해 사용된 이웃 BPU의 위치(예를 들어, 좌표), 사용된 이웃 BPU의 크기, 외삽의 매개변수, 사용된 이웃 BPU의 방향 등을 포함할 수 있다.
다른 예에 대해, 시간 예측 스테이지(2044)에서, 인코더는 인터 예측을 수행할 수 있다. 현재 픽처의 원래의 BPU에 대해, 예측 참조(224)는 (순방향 경로에서) 인코딩되고 (재구성된 경로에서) 재구성된 하나 이상의 픽처("참조 픽처"로 지칭됨)를 포함할 수 있다. 일부 실시예에서, 참조 픽처는 BPU별로 인코딩되고 재구성될 수 있다. 예를 들어, 인코더는 재구성된 BPU를 생성하기 위해, 재구성된 잔차 BPU(222)를 예측된 BPU(208)에 더할 수 있다. 동일한 픽처의 모든 재구성된 BPU가 생성될 때, 인코더는 재구성된 픽처를 참조 픽처로서 생성할 수 있다. 인코더는 참조 픽처의 범주("검색 윈도우"으로 지칭됨)에서 매칭 영역을 검색하기 위해, "움직임 추정"의 동작을 수행할 수 있다. 참조 픽처에서 검색 윈도우의 위치는 현재 픽처에서 원래의 BPU의 위치를 기초로 결정될 수 있다. 예를 들어, 검색 윈도우는 현재 픽처에서 원래의 BPU와 참조 픽처에서 동일한 좌표를 갖는 위치에 중심이 맞춰질 수 있고, 미리 결정된 거리에 대해 확장될 수 있다. 인코더가 검색 윈도우에서 원래의 BPU와 유사한 영역을 (예를 들어, 픽셀-순환 알고리즘(pel-recursive algorithm), 블록-매칭 알고리즘 등을 사용함으로써) 식별할 때, 인코더는 이러한 영역을 매칭 영역으로서 결정할 수 있다. 매칭 영역은 원래의 BPU로부터 상이한 치수(예를 들어, 그보다 작거나, 그와 동일하거나, 그보다 크거나 또는 상이한 형상인)를 가질 수 있다. 참조 픽처 및 현재 픽처가 (예를 들어, 도 1에 도시되는 바와 같이) 시간선에서 시간적으로 분리되기 때문에, 시간이 지남에 따라, 매칭 영역이 원래의 BPU의 위치로 "이동하는" 것으로 여겨질 수 있다. 인코더는 "움직임 벡터"로서 이러한 움직임의 방향 및 거리를 기록할 수 있다. (예를 들어, 도 1에서의 픽처(106)와 같이) 다수의 참조 픽처가 사용될 때, 인코더는 매칭 영역을 검색하고, 각각의 참조 픽처에 대해 그의 연관된 움직임 벡터를 결정할 수 있다. 일부 실시예에서, 인코더는 개개의 매칭 참조 픽처의 매칭 영역의 픽셀값에 대해 가중치를 할당할 수 있다.
움직임 추정은 예를 들어, 병진(translation), 회전, 주밍(zooming) 등과 같은 다양한 유형의 움직임을 식별하기 위해 사용될 수 있다. 인터 예측에 대해, 예측 데이터(206)는 예를 들어, 매칭 영역의 위치(예를 들어, 좌표), 매칭 영역과 연관된 움직임 벡터, 참조 픽처의 개수, 참조 픽처와 연관된 가중치 등을 포함할 수 있다.
예측된 BPU(208)를 생성하기 위해, 인코더는 "움직임 보상"의 동작을 수행할 수 있다. 움직임 보상은 예측 데이터(206)(예를 들어, 움직임 벡터) 및 예측 참조(224)에 기초하여 예측된 BPU(208)를 재구성하는 데 사용될 수 있다. 예를 들어, 인코더는 움직임 벡터에 따라 참조 픽처의 매칭 영역을 이동시킬 수 있으며, 여기서 인코더는 현재 픽처의 원래의 BPU를 예측할 수 있다. (예를 들어, 도 1에서의 픽처(106)와 같이) 다수의 참조 픽처가 사용될 때, 인코더는 매칭 영역의 개개의 움직임 벡터 및 평균 픽셀 값에 따라 참조 픽처의 매칭 영역을 이동시킬 수 있다. 일부 실시예에서, 인코더가 개개의 매칭 참조 픽처의 매칭 영역의 픽셀값에 가중치를 할당한 경우, 인코더는 이동된 매칭 영역의 픽셀값의 가중합을 더할 수 있다.
일부 실시예에서, 인터 예측은 단방향 또는 양방향일 수 있다. 단방향 인터 예측은 현재 픽처에 대해 동일한 시간 방향으로 하나 이상의 참조 픽처를 사용할 수 있다. 예를 들어, 도 1에서의 픽처(104)는 단방향 인터-예측된 픽처이며, 여기서 참조 픽처(예를 들어, 픽처(102))가 픽처(104)에 선행한다. 양방향 인터 예측은 현재 픽처에 대해 시간 방향 모두에서 하나 이상의 참조 픽처를 사용할 수 있다. 예를 들어, 도 1에서의 픽처(106)는 양방향 인터-예측된 픽처이며, 여기서 참조 픽처(예를 들어, 픽처(104 및 108))는 픽처(104)에 대해 시간 방향 모두에 있다.
프로세스(200B)의 순방향 경로를 계속 참조하면, 공간 예측 스테이지(2042) 및 시간 예측 스테이지(2044) 이후에, 모드 결정 스테이지(230)에서, 인코더는 프로세스(200B)의 현재 반복에 대해 예측 모드(예를 들어, 인트라 예측 또는 인터 예측 중 하나)를 선택할 수 있다. 예를 들어, 인코더는 레이트-왜곡 최적화 기법(rate-distortion optimization technique)을 수행할 수 있으며, 여기서 인코더는 후보 예측 모드의 비트레이트 및 후보 예측 모드 하에서 재구성된 참조 픽처의 왜곡에 의존하여, 비용 함수의 값을 최소화하기 위해 예측 모드를 선택할 수 있다. 선택된 예측 모드에 의존하여, 인코더는 대응하는 예측된 BPU(208) 및 예측된 데이터(206)를 생성할 수 있다.
프로세스(200B)의 재구성 경로에서, 인트라 예측 모드가 순방향 경로에서 선택된 경우, 예측 참조(224)(예를 들어, 현재 픽처에서 인코딩되고 재구성된 현재 BPU)를 생성한 이후에, 인코더는 차후 사용을 위해(예를 들어, 현재 픽처의 다음 BPU의 외삽을 위해), 예측 참조(224)를 공간 예측 스테이지(2042)에 직접적으로 공급할 수 있다. 인코더는 예측 참조(224)를 루프 필터 스테이지(232)에 공급할 수 있고, 여기서 인코더는, 예측 참조(224)의 부호화 동안 도입된 왜곡(예를 들어, 블로킹 아티팩트(blocking artifact))을 감소시키거나 제거하기 위해 예측 참조(224)에 루프 필터를 적용할 수 있다. 인코더는 예를 들어, 디블로킹(deblocking), 샘플 적응적 오프셋, 적응적 루프 필터 등과 같은 다양한 루프 필터 기법을 루프 필터 스테이지(232)에서 적용할 수 있다. 루프-필터링된 참조 픽처는 차후 사용을 위해(예를 들어, 비디오 시퀀스(202)의 향후 픽처에 대한 인터-예측 참조 픽처로서 사용되기 위해) 버퍼(234)(또는 "디코딩된 픽처 버퍼")에 저장될 수 있다. 인코더는 시간 예측 스테이지(2044)에서 사용되도록 버퍼(234)에 하나 이상의 참조 픽처를 저장할 수 있다. 일부 실시예에서, 인코더는 양자화된 변환 계수(216), 예측 데이터(206) 및 다른 정보와 함께, 이진 부호화 스테이지(226)에서 루프 필터의 매개변수(예를 들어, 루프 필터 강도)를 인코딩할 수 있다.
도 3a는 본 개시의 실시예와 일치하는 예시적인 디코딩 프로세스(300A)의 개략도를 예시한다. 프로세스(300A)는 도 2a에서의 압축 프로세스(200A)에 대응하는 압축 해제 프로세스일 수 있다. 일부 실시예에서, 프로세스(300A)는 프로세스(200A)의 재구성 경로와 유사할 수 있다. 디코더는 프로세스(300A)에 따라 비디오 비트스트림(228)을 비디오 스트림(304)으로 디코딩할 수 있다. 비디오 스트림(304)은 비디오 시퀀스(202)와 매우 유사할 수 있다. 하지만, 압축 및 압축 해제 프로세스에서의 정보 손실(예를 들어, 도 2a-2b에서의 양자화 스테이지(214))로 인해, 일반적으로 비디오 스트림(304)은 비디오 시퀀스(202)와 동일하지 않다. 도 2a-2b에서의 프로세스(200A 및 200B)와 유사하게, 디코더는 비디오 비트스트림(228)에서 인코딩된 각각의 픽처에 대해 기본 처리 유닛(BPU)의 수준에서 프로세스(300A)를 수행할 수 있다. 예를 들어, 디코더는 반복적인 방식으로 프로세스(300A)를 수행할 수 있으며, 여기서 디코더는 프로세스(300A)의 한 번의 반복으로 기본 처리 유닛을 디코딩할 수 있다. 일부 실시예에서, 디코더는 비디오 비트스트림(228)에서 인코딩된 각각의 픽처의 영역(예를 들어, 영역(114 내지 118))에 대해 병렬로 프로세스(300A)를 수행할 수 있다.
도 3a에서, 디코더는 인코딩된 픽처의 기본 처리 유닛("인코딩된 BPU"로 지칭됨)과 연관된 비디오 비트스트림(228)의 부분을 이진 디코딩 스테이지(302)에 공급할 수 있다. 이진 디코딩 스테이지(302)에서, 디코더는 그 부분을 예측 데이터(206) 및 양자화된 변환 계수(216)로 디코딩할 수 있다. 디코더는 재구성된 잔차 BPU(222)를 생성하기 위해 양자화된 변환 계수(216)를 역양자화 스테이지(218) 및 역변환 스테이지(220)에 공급할 수 있다. 디코더는 예측된 BPU(208)를 생성하기 위해 예측 데이터(206)를 예측 스테이지(204)로 공급할 수 있다. 디코더는 예측된 참조(224)를 생성하기 위해 재구성된 잔차 BPU(222)를 예측된 BPU(208)에 더할 수 있다. 일부 실시예에서, 예측된 참조(224)는 버퍼(예를 들어, 컴퓨터 메모리의 디코딩된 픽처 버퍼)에 저장될 수 있다. 디코더는 프로세스(300A)의 다음 반복에서 예측 동작을 수행하기 위해, 예측된 참조(224)를 예측 스테이지(204)에 공급할 수 있다.
디코더는 인코딩된 픽처의 각각의 인코딩된 BPU를 디코딩하고, 인코딩된 픽처의 다음 인코딩된 BPU를 인코딩하기 위해 예측된 참조(224)를 생성하도록, 프로세스(300A)를 반복적으로 수행할 수 있다. 인코딩된 픽처의 모든 인코딩된 BPU를 디코딩한 이후에, 디코더는 디스플레이를 위해 픽처를 비디오 스트림(304)에 출력하고, 비디오 비트스트림(228)에서 다음 인코딩된 픽처를 디코딩하도록 진행할 수 있다.
이진 디코딩 스테이지(302)에서, 디코더는 인코더에 의해 사용되는 이진 부호화 기법(예를 들어, 엔트로피 부호화, 가변 길이 부호화, 산술 부호화, 허프만 부호화, 컨텍스트-적응적 이진 산술 부호화 또는 임의의 다른 무손실 압축 알고리즘)의 역동작을 수행할 수 있다. 일부 실시예에서, 예측 데이터(206) 및 양자화된 변환 계수(216) 이외에, 디코더는 예를 들어, 예측 모드, 예측 동작의 매개변수, 변환 유형, 양자화 프로세스의 매개변수(예를 들어, 양자화 매개변수), 인코더 제어 매개변수(예를 들어, 비트레이트 제어 매개변수) 등과 같은 다른 정보를 이진 디코딩 스테이지(302)에서 디코딩할 수 있다. 일부 실시예에서, 비디오 비트스트림(228)이 네트워크를 통해 패킷으로 송신되는 경우, 디코더는 비디오 비트스트림(228)을 이진 디코딩 스테이지(302)에 공급하기 전에, 이를 디패킷화(depacketize)할 수 있다.
도 3b는 본 개시의 실시예와 일치하는 다른 예시적인 디코딩 프로세스(300B)의 개략도를 예시한다. 프로세스(300B)는 프로세스(300A)로부터 수정될 수 있다. 예를 들어, 프로세스(300B)는 하이브리드 비디오 부호화 표준(예를 들어, H.26x 시리즈)에 따르는 디코더에 의해 사용될 수 있다. 프로세스(300A)와 비교하면, 프로세스(300B)는 예측 스테이지(204)를 공간 예측 스테이지(2042) 및 시간 예측 스테이지(2044)로 추가적으로 나누고, 루프 필터 스테이지(232) 및 버퍼(234)를 추가적으로 포함한다.
프로세스(300B)에서, 디코딩되는 인코딩된 픽처("현재 픽처"로 지칭됨)의 인코딩된 기본 처리 유닛("현재 BPU"로 지칭됨)에 대해, 디코더에 의해 이진 디코딩 스테이지(302)로부터 디코딩된 예측 데이터(206)는 인코더에 의해 현재 BPU를 인코딩하는 데 어느 예측 모드가 사용되었는지에 의존하여, 다양한 유형의 데이터를 포함할 수 있다. 예를 들어, 현재 BPU를 인코딩하기 위해 인코더에 의해 인트라 예측이 사용된 경우, 예측 데이터(206)는 인트라 예측을 나타내는 예측 모드 표시자(예를 들어, 플래그 값), 인트라 예측 동작의 매개변수 등을 포함할 수 있다. 인트라 예측 동작의 매개변수는 예를 들어, 참조로서 사용된 하나 이상의 이웃 BPU의 위치(예를 들어, 좌표), 이웃 BPU의 크기, 외삽의 매개변수, 원래의 BPU에 대해 이웃 BPU의 방향 등을 포함할 수 있다. 다른 예에 대해, 현재 BPU를 인코딩하기 위해 인코더에 의해 인터 예측이 사용된 경우, 예측 데이터(206)는 인터 예측을 나타내는 예측 모드 표시자(예를 들어, 플래그 값), 인터 예측 동작의 매개변수 등을 포함할 수 있다. 인터 예측 동작의 매개변수는 예를 들어, 현재 BPU와 연관된 참조 픽처의 개수, 참조 픽처와 개별적으로 연관되는 가중치, 개개의 참조 픽처에서의 하나 이상의 매칭 영역의 위치(예를 들어, 좌표), 매칭 영역과 개별적으로 연관되는 하나 이상의 움직임 벡터 등을 포함할 수 있다.
예측 모드 표시자에 기초하여, 디코더는 공간 예측 스테이지(2042)에서 공간 예측(예를 들어, 인트라 예측)을 수행할지, 또는 시간 예측 스테이지(2044)에서 시간 예측(예를 들어, 인터 예측)을 수행할지를 결정할 수 있다. 이러한 공간 예측 또는 시간 예측을 수행하는 것에 대한 세부사항이 도 2b에서 설명되며, 이하에서는 반복되지 않을 것이다. 이러한 공간 예측 또는 시간 예측을 수행한 이후에, 디코더는 예측된 BPU(208)를 생성할 수 있다. 도 3a에서 설명된 바와 같이, 디코더는 예측 참조(224)를 생성하기 위해 예측된 BPU(208) 및 재구성된 잔차 BPU(222)를 더할 수 있다.
프로세스(300B)에서, 디코더는 프로세스(300B)의 다음 반복에서 예측 동작을 수행하기 위해, 예측된 참조(224)를 공간 예측 스테이지(2042) 또는 시간 예측 스테이지(2044)에 공급할 수 있다. 예를 들어, 현재 BPU가 공간 예측 스테이지(2042)에서 인트라 예측을 사용하여 디코딩되는 경우, 예측 참조(224)(예를 들어, 디코딩된 현재 BPU)를 생성한 이후에, 디코더는 차후 사용을 위해(예를 들어, 현재 픽처의 다음 BPU의 외삽을 위해) 예측 참조(224)를 공간 예측 스테이지(2042)에 직접적으로 공급할 수 있다. 현재 BPU가 시간 예측 스테이지(2044)에서 인터 예측을 사용하여 디코딩되는 경우, 예측 참조(224)(예를 들어, 모든 BPU가 디코딩된 참조 픽처)를 생성한 이후에, 디코더는 왜곡(예를 들어, 블로킹 아티팩트)을 감소시키거나 제거하기 위해, 예측 참조(224)를 루프 필터 스테이지(232)에 공급할 수 있다. 도 2b에 설명된 방식으로, 디코더는 루프 필터를 예측 참조(224)에 적용할 수 있다. 루프-필터링된 참조 픽처는 차후 사용을 위해(예를 들어, 비디오 비트스트림(228)의 향후 인코딩된 픽처에 대한 인터-예측 참조 픽처로서 사용되기 위해) 버퍼(234)(예를 들어, 컴퓨터 메모리의 디코딩된 픽처 버퍼)에 저장될 수 있다. 디코더는 시간 예측 스테이지(2044)에서 사용되도록 버퍼(234)에 하나 이상의 참조 픽처를 저장할 수 있다. 일부 실시예에서, 예측 데이터는 루프 필터의 매개변수(예를 들어, 루프 필터 강도)를 추가로 포함할 수 있다. 일부 실시예에서, 예측 데이터(206)의 예측 모드 표시자가 인터 예측이 현재 BPU를 인코딩하는 데 사용된 것을 나타낼 때, 예측 데이터는 루프 필터의 매개변수를 포함한다.
도 4는 본 개시의 실시예와 일치하는, 비디오를 인코딩하거나 또는 디코딩하기 위한 예시적인 장치(400)의 블록도이다. 도 4에 도시되는 바와 같이, 장치(400)는 프로세서(402)를 포함할 수 있다. 프로세서(402)가 본원에서 설명된 명령어를 실행할 때, 장치(400)는 비디오 인코딩 또는 디코딩을 위한 특별화된 기계가 될 수 있다. 프로세서(402)는 정보를 조작하거나 또는 처리할 수 있는 임의의 유형의 회로일 수 있다. 예를 들어, 프로세서(402)는 중앙 처리 유닛(또는 "CPU"), 그래픽 처리 유닛(또는 "GPU"), 신경 처리 유닛(neural processing unit, "NPU"), 마이크로컨트롤러 유닛(microcontroller unit, "MCU"), 광학 프로세서, 프로그래머블 로직 컨트롤러, 마이크로컨트롤러, 마이크로프로세서, 디지털 신호 프로세서, 지적 재산권(intellectual property, IP) 코어, 프로그래머블 로직 어레이(Programmable Logic Array, PLA), 프로그래머블 어레이 로직(Programmable Array Logic, PAL), 일반 어레이 로직(Generic Array Logic, GAL), 복합 프로그래머블 논리 소자(Complex Programmable Logic Device, CPLD), 현장 프로그래머블 게이트 어레이(Field-Programmable Gate Array, FPGA), 시스템 온 칩(System On Chip, SoC), 애플리케이션-특정 집적 회로(Application-Specific Integrated Circuit, ASIC) 등의 임의의 개수의 임의의 조합을 포함할 수 있다. 일부 실시예에서, 프로세서(402)는 또한, 단일 로직 구성요소로서 그룹화되는 프로세서의 세트일 수 있다. 예를 들어, 도 4에 도시되는 바와 같이, 프로세서(402)는 프로세서(402a), 프로세서(402b) 및 프로세서(402n)를 포함하는 다수의 프로세서를 포함할 수 있다.
장치(400)는 또한, 데이터(예를 들어, 명령어의 세트, 컴퓨터 코드, 중간 데이터 등)를 저장하도록 구성되는 메모리(404)를 포함할 수 있다. 예를 들어, 도 4에 도시되는 바와 같이, 저장된 데이터는 프로그램 명령어(예를 들어, 프로세스(200A, 200B, 300A 또는 300B)에서의 스테이지를 구현하기 위한 프로그램 명령어) 및 처리를 위한 데이터(예를 들어, 비디오 시퀀스(202), 비디오 비트스트림(228) 또는 비디오 스트림(304))를 포함할 수 있다. 프로세서(402)는 프로그램 명령어 및 처리를 위한 데이터에 (예를 들어, 버스(410)를 통해) 액세스할 수 있고, 처리를 위한 데이터에 대한 동작 또는 조작을 수행하기 위해 프로그램 명령어를 실행할 수 있다. 메모리(404)는 고속 랜덤-액세스 저장 디바이스 또는 비-휘발성 저장 디바이스를 포함할 수 있다. 일부 실시예에서, 메모리(404)는 랜덤-액세스 메모리(random-access memory, RAM), 읽기-전용 메모리(ROM), 광학 디스크, 자기 디스크, 하드 드라이브, 솔리드-스테이트 드라이브(solid-state drive), 플래시 드라이브, 보안 디지털(SD) 카드, 메모리 스틱, 콤팩트 플래시(compact flash, CF) 카드 등의 임의의 개수의 임의의 조합을 포함할 수 있다. 메모리(404)는 또한, 단일 로직 구성요소로서 그룹화되는 메모리의 그룹(도 4에 도시되지 않음)일 수 있다.
버스(410)는 내부 버스(예를 들어, CPU-메모리 버스), 외부 버스(예를 들어, 범용 직렬 버스 포트(universal serial bus port), 주변 구성요소 상호연결 고속 포트(peripheral component interconnect express port)) 등과 같은, 장치(400) 내의 구성요소 사이에서 데이터를 전달하는 통신 디바이스일 수 있다.
모호성을 야기하지 않으면서 설명의 용이함을 위해, 프로세서(402) 및 다른 데이터 처리 회로는 본 개시에서, 집합적으로 "데이터 처리 회로"로 지칭된다. 데이터 처리 회로는 전체적으로 하드웨어로 구현되거나, 또는 소프트웨어, 하드웨어 또는 펌웨어의 조합으로 구현될 수 있다. 덧붙여, 데이터 처리 회로는 단일 독립 모듈이거나, 또는 장치(400)의 임의의 다른 구성요소로 전체적으로 또는 부분적으로 결합될 수 있다.
장치(400)는 네트워크(예를 들어, 인터넷, 인트라넷, 근거리 네트워크(local area network), 모바일 통신 네트워크 등)와의 유선 통신 또는 무선 통신을 제공하기 위해 네트워크 인터페이스(406)를 더 포함할 수 있다. 일부 실시예에서, 네트워크 인터페이스(406)는 임의의 개수의 네트워크 인터페이스 컨트롤러(NIC), 라디오 주파수(RF) 모듈, 트랜스폰더(transponder), 트랜시버, 모뎀, 라우터, 게이트웨이, 유선 네트워크 어댑터, 무선 네트워크 어댑터, 블루투스 어댑터, 적외선 어댑터, 근거리 통신(near-field communication, "NFC") 어댑터, 셀룰러 네트워크 칩(cellular network chip) 등의 임의의 조합을 포함할 수 있다.
일부 실시예에서, 선택적으로, 장치(400)는 하나 이상의 주변 디바이스에 대한 연결을 제공하기 위한 주변 인터페이스(408)를 더 포함할 수 있다. 도 4에 도시되는 바와 같이, 주변 디바이스는 커서 제어 디바이스(예를 들어, 마우스, 터치패드 또는 터치스크린), 키보드, 디스플레이(예를 들어, 음극선관 디스플레이, 액정 디스플레이 또는 발광 다이오드 디스플레이), 비디오 입력 디바이스(예를 들어, 비디오 아카이브(video archive)에 결합된 입력 인터페이스 또는 카메라) 등을 포함할 수 있지만, 이에 제한되지 않는다.
비디오 코덱(예를 들어, 프로세스(200A, 200B, 300A 또는 300B)를 수행하는 코덱)이 장치(400)에서 임의의 소프트웨어 또는 하드웨어 모듈의 임의의 조합으로서 구현될 수 있다는 것에 유의해야 한다. 예를 들어, 프로세스(200A, 200B, 300A 또는 300B)의 일부 또는 모든 스테이지는 메모리(404)에 로딩될 수 있는 프로그램 명령어와 같은, 장치(400)의 하나 이상의 소프트웨어 모듈로서 구현될 수 있다. 다른 예에 대해, 프로세스(200A, 200B, 300A 또는 300B)의 일부 또는 모든 스테이지는 특수화된 데이터 처리 회로(예를 들어, FPGA, ASIC, NPU 등)와 같은 장치(400)의 하나 이상의 하드웨어 모듈로서 구현될 수 있다.
VVC에서는 다수의 인트라 예측 모드가 제공된다. 도 5는 본 개시의 일부 실시예에 따른, VVC에서의 각도 인트라 예측 모드를 예시한다. 도 5에 도시된 바와 같이, 자연 비디오(natural video)에 제시된 임의의 에지 방향을 캡처하기 위해, VVC에서의 각도 인트라 예측 모드의 수는 HEVC에서 사용되는 33로부터 65로 확장되고, 여기서 HEVC에 없는 방향 모드는 점선 화살표로 묘사된다.
VVC 표준은 두 개의 비-각도 인트라 예측 모드: DC 및 평면 모드(HEVC에서와 같음)를 구현한다. DC 인트라 예측 모드에서, 예측 생성을 위해 블록에 대한 참조 샘플의 평균 샘플 값이 사용된다. VVC에서, 평균 값을 계산하는 데 직사각형 블록의 더 긴 측 만을 따르는 참조 샘플이 사용되는 한편, 정사각형 블록의 경우 좌측 및 상측 모두로부터의 참조 샘플이 사용된다. 평면 모드에서, 예측된 샘플 값은 4개의 참조 샘플 값의 가중 평균으로 획득된다. 참조 샘플은 현재 샘플과 동일한 행 또는 열에 있고, 참조 샘플은 현재 샘플에 대해 좌측 하단 및 우측 상단 포지션 상에 있다. 65개의 각도 모드 및 두 개의 비-각도 모드가 각도 인트라 예측 모드로 참조될 수 있다.
일부 실시예에서, 최고 확률 모드(MPM)가 제안된다. 위에서 논의된 바와 같이, VVC에는 67개의 각도 모드가 있다. 각각의 블록의 예측 모드가 별도로 인코딩되는 경우, 67개의 모드를 부호화하는 데 7비트가 요구된다. 그러므로, VVC에서 최고 확률 모드(MPM) 목록을 구성하는 방법이 채택된다. 이미지 및 비디오 부호화에서, 인접한 블록은 보통 강한 상관 관계를 갖고, 따라서 인접한 블록의 인트라 예측 모드가 동일하거나 유사할 확률이 높다. 그러므로, 좌측 인접한 블록과 위쪽 인접한 블록의 인트라 예측 모드를 기초로 MPM 목록이 구성된다. VVC에서, 그의 MPM 목록의 길이는 6이다. MPM 목록 생성의 낮은 복잡도를 유지하기 위해, 두 개의 이용 가능한 이웃 인트라 예측 모드로부터 도출된 6개의 MPM을 통한 인트라 예측 모드 부호화 방법이 사용된다.
1차 MPM(Primary MPM, PMPM) 목록으로 또한 지칭되는 통합된 6-MPM 목록은, MRL(다수의 참조 라인(Multiple Reference Line)) 및 ISP(인트라 서브-파티션(Intra Sub-Partitions)) 부호화 도구가 적용되는 지의 여부에 관계없이 인트라 블록에 사용된다. MPM 목록은 좌측 및 상부 이웃 블록의 인트라 모드를 기초로 구성된다. 좌측 블록(left block)의 인트라 모드는 "Left"로, 상부 블록(above block)의 인트라 모드는 "Above"로 가정하면, 통합된 6-MPM 목록은 다음과 같이 구성된다. 이웃 블록이 이용 가능하지 않은 경우, 인트라 예측 모드는 디폴트(default)로 "Planar"로 설정된다. 모드 Left 및 Above 모두가 비-각도 모드인 경우, MPM 목록은 {Planar, DC, V, H, V-4, V+4}로 설정되고, 여기서 V는 수직 모드로 지칭되고, H는 수평 모드로 지칭된다. 모드 Left 및 Above 중 하나가 각도 모드이고, 남은 하나의 모드가 비-각도 모드인 경우, 모드 Max를 Left 및 Above 중 더 큰 모드로 설정하고, MPM 목록은 {Planar, Max, Max-1, Max+1, Max-2, Max+2}로 설정된다. Left 및 Above가 모두 각도이고 이들이 상이한 경우 모드 "Max"를 Left 및 Above 중 더 큰 모드로 설정하고, 모드 "Min"을 Left 및 Above 중 더 작은 모드로 설정한다. Max-Min이 1과 동일한 경우, MPM 목록은 {Planar, Left, Above, Min-1, Max+1, Min-2)로 설정되고; 그렇지 않고, Max-Min이 62 이상인 경우, MPM 목록은 {Planar, Left, Above, Min+1, Max-1, Min+2}로 설정된다. Max-Min이 2와 동일한 경우, MPM 목록은 {Planar, Left, Above, Min+1, Min-1, Max+1)로 설정되고; 그렇지 않은 경우, MPM 목록은 {Planar, Left, Above, Min-1, Min+1, Max-1)으로 설정된다. Left 및 Above가 모두 각도이고 이들이 동일한 경우, MPM 목록은 {Planar, Left, Left-1, Left+1, Left-2, Left+2)로 설정된다. 더욱이, MPM 인덱스 코드워드의 제1 빈은 CABAC(컨텍스트-기반 적응적 이진 산술 부호화) 컨텍스트 부호화이다. 현재 인트라 블록이 MRL 활성화되었는지, ISP 활성화되었는지, 또는 일반 인트라 블록인지에 대응하여 총 세 개의 컨텍스트가 사용된다. 61개의 비-MPM 모드의 엔트로피 부호화를 위해, TBC(절삭 이진 코드, Truncated Binary Code)가 사용된다.
일부 실시예에서, 2차 MPM 방법이 사용될 수 있다. 1차 MPM(PMPM) 목록은 6개의 엔트리로 구성되고, 2차 MPM(secondary MPM, SMPM) 목록은 16개 엔트리를 포함한다. 22개의 엔트리를 갖는 일반적인 MPM 목록이 먼저 구성되고, 이의 처음 6개의 엔트리는 PMPM 목록에 포함되고, 엔트리의 나머지는 SMPM 목록을 형성한다. 일반적인 MPM 목록의 제1 엔트리는 평면 모드이다. 그 후, 이웃 블록의 인트라 예측 모드가 목록에 추가된다. 도 6은 본 개시의 일부 실시예에 따른, 일반적인 MPM 목록의 도출에 사용되는 예시적인 이웃 블록을 예시한다. 도 6에 도시된 바와 같이, 좌측(L), 상부(A), 좌측 하부(BL), 우측 상부(AR), 좌측 상부(AL) 이웃 블록의 인트라 예측 모드가 사용된다. CU 블록이 수직으로 배향된 경우, 이웃 블록의 순서는 A, L, BL, AR, AL이다. 그렇지 않은 경우, 즉, CU 블록이 수평으로 배향된 경우, 이웃 블록의 순서는 L, A, BL, AR, AL이다. 그 후, 두 개의 디코더 측 인트라 예측 모드가 목록에 추가된다. 그 후, 목록의 처음 두 개의 이용 가능한 각도 모드로부터 오프셋을 추가함으로써 도출된 각도 모드가 목록에 추가된다. 마지막으로, 목록이 완전하지 않은 경우, 목록이 완전해질 때까지, 즉 22개의 엔트리를 가질 때까지 디폴트 모드가 추가된다. 디폴트 모드 목록은 본 개시의 일부 실시예에 따라, {DC, V, H, V-4, V+4, 14, 22, 42, 58, 10, 26, 38, 62, 6, 30, 34, 66, 2, 48, 52, 16}으로 정의된다.
디코더의 경우, PMPM 플래그가 먼저 파싱된다(parsed). PMPM 플래그가 1과 동일하면, PMPM 목록의 어느 엔트리가 선택되었는지를 결정하기 위해 PMPM 인덱스가 파싱되고; 그렇지 않은 경우, 나머지 모드에 대한 SMPM 인덱스를 파싱할지를 결정하기 위해 SMPM 플래그가 파싱된다.
일부 실시예에서, 포지션 의존 인트라 예측 결합(PDPC)이 제공된다. VVC에서, 인트라 예측 결과가 PDPC 방법에 의해 추가로 수정된다. PDPC는 시그널링 없이 다음의 인트라 예측 모드: 평면, DC, 수평 모드 이하의 인트라 각도 모드, 수직 모드 이상의 인트라 각도 모드에 적용된다. 현재 블록이 BDPCM(블록-기반 델타 펄스 코드 변조, Block-based Delta Pulse Code Modulation) 모드이거나, 또는 MRL 인덱스가 0보다 큰 경우에, PDPC는 적용되지 않는다.
예측 샘플 pred(x',y')는 다음 수학식에 따라 인트라 예측 모드(예를 들어, DC, 평면 또는 각도 모드)와 참조 샘플의 선형 결합을 사용하여 예측된다:
여기서 Rx',-1 및 R-l,y'는 각각 현재 샘플(x',y')의 상단 및 좌측 경계에 위치된 참조 샘플을 표현한다. PDPC 가중치 및 스케일 인자는 예측 모드 및 블록 크기에 의존한다.
나아가, 디코더-측 인트라 예측 모드 도출(decoder-side intra prediction mode derivation, DIMD)이 제공된다. 디코더-측 인트라 예측 모드 도출 방법에서, 루마 인트라 예측 모드는 비트스트림을 통해 송신되지 않는다. 그 대신에, 두 개의 최선의 모드를 도출하기 위해 텍스처 그래디언트 처리가 수행된다. 인코더 측 및 디코더 측에서 동일한 방식이 사용된다. 두 개의 도출된 모드 및 평면 모드의 예측자는 정상적으로 계산되고, 세 개의 예측자의 가중 평균은 현재 블록의 최종 예측자로 사용된다.
DIMD 모드는 대안적인 인트라 예측 모드로서 사용되고, 각각의 블록에 대해 DIMD 모드를 사용할지를 여부를 나타내기 위해 플래그가 시그널링된다. 플래그가 참인 경우(예를 들어, 플래그가 1과 동일함), 현재 블록에 대해 DIMD 모드가 사용되고, BDPCM 플래그, MIP(행렬 가중된 인트라 예측, Matrix Weighted Intra Prediction) 플래그, ISP 플래그 및 MRL 인덱스는 0으로 추론된다. 이 사례에서, 전체 인트라 예측 모드 파싱이 또한 스킵된다. 플래그가 거짓인 경우(예를 들어, 플래그가 0과 동일함), 현재 블록에 대해 DIMD 모드가 사용되지 않고, 다른 인트라 예측 모드의 파싱은 정상적으로 계속된다.
두 개의 인트라 예측 모드를 도출하고 각각의 모드의 가중치를 결정하기 위해, 텍스처 그래디언트 처리를 수행함으로써 히스토그램이 구축된다.
도 7은 본 개시의 일부 실시예에 따른, DIMD에서 그래디언트를 계산하는 데 사용되는 예시적인 샘플을 예시한다. 도 7에 도시된 바와 같이, 블록에 대한 DIMD 히스토그램을 구축하기 위해, 블록을 둘러싸는 제2 이웃 라인의 L-형 템플릿의 샘플(710)에 대해 그래디언트 분석이 수행된다. 템플릿의 각각의 이용 가능한 재구성된 샘플에 대해, 수평 그래디언트 및 수직 그래디언트 Gx 및 Gy는 다음과 같이 수평 및 수직 소벨 필터(Sobel filters)를 적용함으로써 수행된다:
수평 및 수직 소벨 필터는 도 7에 도시된 바와 같이 필터 윈도우(720)를 갖는다.
수평 그래디언트 Gx 및 수직 그래디언트 Gy가 계산되는 템플릿에서의 각각의 샘플에 대해, 그래디언트의 강도(G) 및 배향(O)은 다음과 같이 Gx 및 Gy를 사용하여 추가로 계산된다:
그래디언트의 배향(O)은 가장 가까운 인트라 각도 예측 모드로 변환되고, 먼저 0으로 초기화되는 히스토그램을 인덱싱하는 데 사용된다. 그 인트라 각도 예측 모드에서의 히스토그램 값은 G만큼 증가된다. 일단 템플릿의 모든 샘플이 처리되면, 히스토그램은 각각의 인트라 각도 예측 모드에 대해 그래디언트 강도의 누적 값을 포함할 것이다. 가장 큰 및 두 번째로 큰 진폭 값을 갖는 두 개의 모드가 선택되고, 다음의 예측 융합 프로세스를 위해 각각 M 1 및 M 2 로 표시된다. 히스토그램의 최대 진폭 값이 0인 경우, 현재 블록에 대한 인트라 예측 모드로 평면 모드가 선택된다.
DIMD에서, 두 개의 가장 큰 히스토그램 진폭 값에 대응하는 두 개의 인트라 예측 각도 모드 M 1 및 M 2 는 현재 블록의 최종 예측 값을 생성하기 위해 평면 모드와 결합된다.
예측 블렌딩은 위의 세 개의 예측자의 가중 평균으로 적용된다. 평면 모드의 가중치는 21/64(대략 1/3과 동일함)로 고정된다. 43/64(대략 2/3에 동일함)의 나머지 가중치는 M 1 및 M 2 의 진폭 값에 비례하여, M 1 와 M 2 사이에서 공유된다. 도 8는 본 개시의 일부 실시예에 따른, DIMD의 예측 블렌딩 프로세스를 예시한다. 도 8에 도시된 바와 같이, ampl(M 1 ) 및 ampl(M 2 )는 각각 M 1 및 M 2 의 진폭 값을 표현한다.
DIMD 모드는 루마 블록에 대해서만 사용된다. 현재 루마 블록이 DIMD 모드를 선택하는 경우, 현재 블록의 인트라 예측 모드는 현재 블록의 저주파수 비-분리 변환(Low-Frequency Non-Separable Transform, LFNST) 세트의 선택, 이웃 루마 블록의 최고 확률 모드(MPM) 목록의 도출 및 함께 위치된 크로마 블록의 직접 모드(Direct Mode, DM)의 도출을 위해 M 1 로 저장된다.
더욱이, 일부 실시예에서, 다른 디코더측 인트라 예측 모드 도출 방법인 MPM을 사용한 템플릿 기반 인트라 모드 도출(TIMD)이 사용될 수 있다. CU의 인트라 예측 모드는 시그널링되는 대신에 인코더 측 및 디코더 측 모두에서 템플릿 기반 방법으로 도출된다. MPM 목록으로부터 후보가 구성되고, 후보 모드는 VVC와 마찬가지로 67개의 인트라 예측 모드일 수 있거나, 또는 131개의 인트라 예측 모드로 확장될 수 있다. 도 9는 본 개시의 일부 실시예에 따른, TIMD에서 사용되는 예시적인 템플릿 및 그의 참조 샘플을 예시한다. 도 9에 도시된 바와 같이, 템플릿(910)의 예측 샘플은 각각의 후보 모드에 대한 템플릿의 참조 샘플(920)을 사용하여 생성된다. 값은 템플릿의 예측 샘플과 재구성 샘플 사이의 절대 변환 차의 합(sum of absolute transformed differences, SATD)으로 계산된다. SATD의 최소 값을 갖는 인트라 예측 모드는 TIMD 모드로 선택되고, 현재 CU의 인트라 예측에 사용된다.
TIMD 모드는 CU에 대한 추가적인 인트라 예측 방법으로 사용된다. TIMD를 활성화/비활성화하기 위해, 시퀀스 매개변수 세트(sequence parameter set, SPS)에서 플래그가 시그널링된다. 플래그가 참일 때(예를 들어, 플래그가 1과 동일함), TIMD가 사용되는지를 나타내기 위해 CU 수준 플래그가 시그널링된다. TIMD 플래그는 MIP 플래그 이후에 시그널링된다. TIMD 플래그가 참인 경우(예를 들어, TIMD 플래그가 1과 동일함), MRL, ISP 및 일반 파싱 단계를 포함하는, 루마 인트라 예측 모드에 관련된 나머지 신택스 요소가 모두 스킵된다.
TIMD에서, 인트라 예측 모드의 수가 131개로 확장되기 때문에, 현재 블록에 대한 인트라 예측 모드를 저장할 때, VVC에서 131개의 모드를 원래의 67개의 인트라 예측 모드에 매핑하기 위해 테이블이 사용된다.
개시된 실시예와 일치하는, 두 개의 인트라 예측 모드의 융합은 TIMD 융합 방법으로 불리는 TIMD 방법으로부터 도출될 수 있다. 가장 작은 SATD 값을 갖는 하나의 모드만을 선택하는 것 대신에, TIMD 방법을 사용하여 처음 가장 작은 두 개의 SATD 값을 갖는 두 개의 모드가 선택되고, 그 후 두 개의 선택된 모드의 예측자는 현재 블록의 최종 예측자를 생성하기 위해 블렌딩된다. 두 개의 모드의 가중치는 두 개의 모드의 SATD 값에 반비례한다.
MPM 목록의 구성 동안, 이웃 블록이 인터-부호화될 때, 이웃 블록의 인트라 예측 모드는 평면 모드로 도출된다. 개시된 실시예와 일치하는, MPM 목록의 정확도를 개선하기 위해, 이웃 블록이 인터-부호화될 때, 이웃 블록의 움직임 벡터 및 참조 픽처를 사용하여 전파된 인트라 예측 모드가 도출되고, 전파된 인트라 예측 모드는 MPM 목록의 구성에 사용된다. 구체적으로, 인터 부호화된 블록의 경우, 참조 블록은 그 자신의 움직임 벡터 및 참조 픽처에 따라 결정될 수 있다. 참조 블록이 인트라-부호화된 경우, 현재 블록의 전파된 인트라 예측 모드는 참조 블록의 인트라 예측 모드로 설정된다. 참조 블록이 인터-부호화된 경우, 현재 블록의 전파된 인트라 예측 모드는 참조 블록의 전파된 인트라 예측 모드로 설정된다. 그 후, 현재 블록의 전파된 인트라 예측 모드는 이웃 블록의 MPM 목록의 구성에 사용될 수 있다.
결합된 인터 및 인트라 예측(CIIP)이 제공된다. VVC에서, CU가 병합 모드에서 부호화될 때, CU가 적어도 64개의 루마 샘플을 포함하는 경우(즉, CU 폭 및 CU 높이의 곱이 64 이상임), 그리고 CU 폭 및 CU 높이 모두가 128개의 루마 샘플 미만인 경우, CIIP 모드가 현재 CU에 적용되는지를 나타내기 위해 추가적인 플래그가 시그널링된다. CIIP 예측은 인터 예측자 및 인트라 예측자를 결합한다. CIIP 모드에서의 인터 예측자 P inter 는 정규 병합 모드에 적용되는 동일한 인터 예측 프로세스를 사용하여 도출되고, 인트라 예측자 P intra 는 평면 모드를 통한 정규 인트라 예측 프로세스에 이후에 도출된다. 도 10은 본 개시의 일부 실시예에 따른, CIIP 가중치 도출에 사용되는 상단 이웃 블록 및 좌측 이웃 블록을 예시한다. 인트라 예측자 및 인터 예측자는 가중 평균화를 사용하여 결합되며, 여기서 가중 값은 상단 이웃 블록 및 좌측 이웃 블록의 부호화 모드에 의존하여 계산된다(도 10에 도시됨).
인트라 예측자 및 인터 예측자에 대한 가중치(wIntra, wInter)는 다음과 같이 적응적으로 설정된다. 상단 이웃 및 좌측 이웃 모두가 인트라-부호화된 경우, (wIntra, wInter)는 (3, 1)과 동일하게 설정된다. 이들 블록 중 하나가 인트라-부호화된 경우, 가중치는 동일하고, 즉 (2, 2)와 동일하게 설정된다. 상단 이웃 및 좌측 이웃 중 어느 것도 인트라-부호화되지 않은 경우, 가중치는 (1, 3)과 동일하게 설정된다. CIIP 예측자는 다음과 같이 형성된다:
일부 실시예에서, 인트라 모드 및 인터 모드에 대한 다중-가설 예측이 사용될 수 있다. 병합 CU에서, 플래그가 참일 때, 인트라 후보 목록으로부터 인트라 예측 모드를 선택하기 위해 병합 모드에 대한 하나의 플래그가 시그널링된다. 휘도 성분의 경우, 인트라 후보 목록은 DC 모드, 평면 모드, 수평 모드 및 수직 모드를 포함하는 네 개의 인트라 예측 모드로부터 도출된다. 인트라 예측 모드 인덱스에 의해 선택된 하나의 인트라 예측 모드 및 병합 인덱스에 의해 선택된 하나의 인터 예측 모드는 가중 평균을 사용하여 결합된다. 예측을 결합하기 위한 가중치는 다음과 같이 설명된다. DC 모드 또는 평면 모드가 선택되거나, 또는 CU 폭 또는 높이가 4보다 작을 때, 동일한 가중치가 적용된다. 4 이상인 CU 폭 및 높이를 갖는 이들 CU의 경우, 수평/수직 모드가 선택될 때, 먼저 하나의 CU가 네 개의 동일한 크기 영역으로 수직 또는 수평으로 분할된다. (wIntrai, wInteri)로 표시되는 각각의 가중치 세트 - 여기서 i는 1 내지 4이고 (wIntra1, wInter1) = (6, 2)이고, (wIntra2, wInter2) = (5, 3)이고, (wIntra3, wInter3) = (3, 5)이고 및 (wIntra4, wInter4) = (2, 6)임 - 는 대응하는 영역에 적용된다. (wIntra1, wInter1)는 참조 샘플에 가장 가까운 영역에 대한 것이고 (wIntra4, wInter4)는 참조 샘플로부터 가장 멀리 떨어진 영역에 대한 것이다. 결합된 예측자는 두 개의 가중된 예측자를 합산하고 비트의 수를 우측으로 시프트함으로써 계산될 수 있으며, 여기서 비트의 수는 두 개의 가중치의 합의 로그에 의해 획득된다. 이 예에서, 결합된 예측자는 두 개의 가중된 예측자를 합산하고 3비트를 우측으로 시프트함으로써 획득된다. 일부 실시예에서, 두 개의 가중치의 합이 1과 동일할 때, 결합된 예측자는 두 개의 가중된 예측자를 직접적으로 합산함으로써 획득될 수 있는데, 이는 1의 로그가 0이기 때문이다. 어떠한 우측 시프트도 필요하지 않다. 예를 들어, 각각의 가중치 세트는 (wIntra1, wInter1) = (6/8, 2/8), (wIntra2, wInter2) = (5/8, 3/8), (wIntra3, wInter3) = (3/8, 5/8), (wIntra4, wInter4) = (2/8, 6/8)일 수 있고, 이는 대응하는 영역에 적용된다. (wIntra1, wInter1)은 참조 샘플에 가장 가까운 영역에 대한 것이고, (wIntra4, wInter4)는 참조 샘플로부터 가장 멀리 떨어진 영역에 대한 것이다.
일부 실시예에서, CIIP_PDPC 모드가 사용될 수 있다. CIIP_PDPC에서, 정규 병합 모드의 예측은 상측(Rx, -1) 및 좌측(-1, Ry) 재구성된 샘플을 사용하여 정제된다. 이 정제는 포지션 의존 예측 결합(PDPC) 방식을 상속한다. 도 11은 본 개시의 일부 실시예에 따른, CIIP_DIMD의 예시적인 흐름도를 예시한다. 도 11을 참조하면, WT 및 WL은 PDPC에서 정의된 바와 같이 블록의 샘플 포지션에 의존하는 가중된 값이다.
CIIP_PDPC 모드는 CIIP 모드와 함께 시그널링된다. CIIP 플래그가 참일 때, 다른 플래그 즉, CIIP_PDPC 플래그가 CIIP_PDPC를 사용할 지의 여부를 나타내기 위해 추가로 시그널링된다.
현재 CIIP 설계에서, 인트라 예측 부분을 도출하기 위해 평면 모드만이 사용된다. 인트라 모드 방법 및 인터 모드 방법에 대한 다중-가설 예측의 경우에도, 인트라 예측 부분을 생성하는 데 사용되는 인트라 예측 모드는 최대 네 개의 모드 중에서만 선택할 수 있다. 그러므로, CIIP에서의 인트라 예측자는 충분히 정확하지 않다.
CIIP의 인트라 예측 부분이 더 많은 인트라 예측 모드로부터 선택되도록 허용되는 경우, 정확도가 개선될 수 있다. 하지만, 어떤 인트라 예측 모드가 사용되는지를 나타내기 위해 더 많은 비트가 요구된다. DIMD 및 TIMD가 인트라 예측 모드의 시그널링을 절약할 수 있는 두 개의 디코더 측 인트라 예측 모드 도출 방법이라는 것을 고려하면, CIIP에서 인트라 예측자를 생성하기 위해 DIMD 및/또는 TIMD에 의해 도출된 인트라 예측 모드를 사용하는 것은 부호화 성능을 개선할 수 있다.
본 개시에서, 부호화 성능을 개선하기 위해, CIIP 예측자를 생성하기 위한 일부 방법이 제공된다.
일부 실시예에서, CIIP에서 인트라 예측자를 생성하기 위한 방법이 제안된다.
제1 실시예에서, CIIP에서 인트라 예측자를 생성하는 데 사용될 수 있는 정규 인트라 예측 모드는 도 5에 도시된 바와 같이 최대 67개의 모드로 확장되고, 이들은 CIIP_regular 모드로 지칭될 수 있다. 도 12는 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법의 다른 예시적인 흐름도를 예시한다. 방법(1200)은 디코더에 의해(예를 들어, 도 3a의 프로세스(300A) 또는 도 3b의 프로세스(300B)에 의해) 수행되거나, 또는 장치(예를 들어, 도 4의 장치(400))의 하나 이상의 소프트웨어 또는 하드웨어 구성요소에 의해 수행될 수 있다. 예를 들어, 프로세서(예를 들어, 도 4의 프로세서(402))가 방법(1200)을 수행할 수 있다. 일부 실시예에서, 방법(1200)은 컴퓨터(예를 들어, 도 4의 장치(400))에 의해 실행되는 프로그램 코드와 같은 컴퓨터 실행 가능 명령어를 포함하는 컴퓨터 판독 가능 매체에 구현되는 컴퓨터 프로그램 제품에 의해 구현될 수 있다. 도 12을 참조하면, 방법(1200)은 다음의 단계 S1202 및 S1206를 포함할 수 있다.
S1202에서, CIIP에서 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드가 복수의 인트라 예측 모드로부터 선택된다. 일부 실시예에서, 인트라 예측 모드는 도 5에 도시된 각도 인트라 예측 모드 및 두 개의 비-각도 인트라 예측 모드, 평면 모드 및 DC 모드로부터 선택된다. 그러므로, CIIP에서 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드의 수는 최대 67일 수 있다. 인트라 예측자는 정규 인트라 예측 프로세스 이후에 도출될 수 있다. 일부 실시예에서, CIIP에서의 인트라 예측자는 MIP 모드, ISP 모드, MRL 모드 등과 같은 비정규 인트라 예측 모드를 통해 생성될 수 있다.
S1204에서, 선택된 인트라 예측 모드를 나타내는 매개변수(예를 들어, 인덱스)가 디코딩된다. 예를 들어, 인덱스의 값은 상이한 인트라 예측 모드(예를 들어, 0 내지 66)에 각각 대응할 수 있다. 일부 실시예에서, 인덱스는 MIP 모드, ISP 모드, MRL 모드 등에 대응할 수 있다. 인덱스는 본원에서 제한되지 않는 다양한 방법으로 부호화될 수 있다.
단계 S1206에서, 선택된 인트라 예측 모드를 사용하여 CIIP에서의 인트라 예측자가 생성된다.
평면 모드만을 사용하는 것 대신에, CIIP의 정확도가 개선되도록, 인트라 예측자를 생성하기 위해 복수의 인트라 예측 모드가 사용될 수 있다.
제2 실시예에서, DIMD 및 CIIP의 결합(예를 들어, CIIP_DIMD 모드)이 제공된다. 구체적으로, DIMD 정보는 CIIP에서 인트라 예측자를 생성하는 데 사용된다.
일부 실시예에서, CIIP의 인트라 예측자는 DIMD의 블렌딩 예측 방법을 사용하여 생성된다. 이 예에서, DIMD 히스토그램 및 평면 모드에서 처음 두 개의 가장 큰 진폭 값을 갖는 두 개의 인트라 예측 각도 모드의 예측자는 CIIP에서 최종 인트라 예측자를 생성하기 위해 가중 평균된다.
일부 실시예에서, DIMD 텍스처 그래디언트 프로세스는 현재 블록에 대해 수행된다. CIIP에서의 인트라 예측자는 DIMD 히스토그램에서 가장 큰 진폭 값을 갖는 인트라 예측 모드를 사용하여 생성된다.
일부 실시예에서, DIMD 정보에 따라, CIIP에서의 인트라 예측자는 여러 고정된 인트라 예측 모드로부터 선택된 인트라 예측 모드를 사용하여 생성된다. 구체적으로, 고정된 인트라 예측 모드는 평면 모드, 수평 모드, 수직 모드를 포함한다. 예를 들어, DIMD 히스토그램에서 가장 큰 진폭 값을 갖는 인트라 예측 모드가 수평 모드에 가까운 경우(예를 들어, 도출된 모드 인덱스와 수평 모드 인덱스의 차이의 절대값이 10 미만일 때), CIIP에서 인트라 예측자를 생성하기 위해 수평 모드가 사용된다. 모드가 수직 모드에 가까운 경우(예를 들어, 도출된 모드 인덱스와 수직 모드 인덱스 사이의 차이의 절대값이 10 미만일 때), CIIP에서 인트라 예측자를 생성하기 위해 수직 모드가 사용된다. 그렇지 않은 경우, CIIP에서 인트라 예측자를 생성하기 위해 평면 모드가 사용된다.
일부 실시예에서, CIIP에서의 인트라 예측자는 인트라 예측 모드의 서브세트로부터 선택함으로써 생성될 수 있다. 도 13은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법(1300)의 예시적인 흐름도를 예시한다. 방법(1300)은 디코더에 의해(예를 들어, 도 3a의 프로세스(300A) 또는 도 3b의 프로세스(300B)에 의해) 수행되거나, 또는 장치(예를 들어, 도 4의 장치(400))의 하나 이상의 소프트웨어 또는 하드웨어 구성요소에 의해 수행될 수 있다. 예를 들어, 프로세서(예를 들어, 도 4의 프로세서(402))가 방법(1300)을 수행할 수 있다. 일부 실시예에서, 방법(1300)은 컴퓨터(예를 들어, 도 4의 장치(400))에 의해 실행되는 프로그램 코드와 같은 컴퓨터 실행 가능 명령어를 포함하는 컴퓨터 판독 가능 매체에 구현되는 컴퓨터 프로그램 제품에 의해 구현될 수 있다. 도 13을 참조하면, 방법(1300)은 다음의 단계 S1302 내지 S1306을 포함할 수 있다.
단계 S1302에서, DIMD 히스토그램에 따라 인트라 예측 모드의 서브세트가 도출된다. 인트라 예측 모드의 서브세트는 DIMD 히스토그램에서 처음 N개의 가장 큰 진폭 값을 갖는 N개의 모드를 포함하고, 여기서 N은 양의 정수이다.
단계 S1304에서, 선택된 인트라 예측 모드를 나타내는 매개변수(예를 들어, 인덱스)가 결정된다.
단계 S1306에서, CIIP에서의 인트라 예측자는 선택된 인트라 예측 모드를 사용하여 생성된다.
일부 실시예에서, 블렌딩 예측에 사용되는 인트라 예측 모드 및 각각의 인트라 예측 모드의 가중치가 현재 DIMD 설계와 상이한 경우, CIIP에서의 인트라 예측자는 블렌딩 예측 방법, 가장 큰 가중치를 갖는 인트라 예측 모드 및 가장 큰 가중치를 갖는 비-평면 인트라 예측 모드 중 하나를 통해 생성될 수 있다.
제3 실시예에서, TIMD 및 CIIP의 결합(예를 들어, CIIP_TIMD 모드)이 제공된다. 구체적으로, TIMD 정보는 CIIP에서 인트라 예측자를 생성하는 데 사용된다. 예를 들어, 타겟 블록에 대해 CIIP 모드가 활성화된 것으로 결정된 경우, CIIP에서의 인트라 예측자는 TMID 방법을 사용하여 결정된 인트라 예측 모드를 통해 생성된다.
일부 실시예에서, CIIP에서의 인트라 예측자는 TIMD 방법에 의해 도출된 확장된 인트라 예측 모드를 사용하여 생성될 수 있다. 현재 TIMD 설계에서, 도출된 확장된 인트라 예측 모드의 인덱스가 0으로부터 130까지의 범위 내에 있다. 그러므로, CIIP에서 인트라 예측자를 생성하는 데 사용되는 확장된 인트라 예측 모드의 수는 최대 131일 수 있다.
일부 실시예에서, TIMD 방법에 의해 도출된 0으로부터 130까지의 범위에 있는 인덱스를 갖는 확장된 인트라 예측 모드는 0으로부터 66까지의 범위에 있는 인덱스를 갖는 VVC에서의 정규 인트라 예측 모드에 매핑될 수 있고, 그 후 CllP에서의 인트라 예측자는 매핑된 정규 인트라 예측 모드를 사용하여 생성된다.
일부 실시예에서, TIMD에 의해 도출된 인트라 예측 모드에 따라, CIIP에서 인트라 예측자를 생성하기 위해 여러 고정된 인트라 예측 모드 중 하나가 선택된다. 예를 들어, 고정된 인트라 예측 모드는 평면, 수평 모드 및 수직 모드를 포함할 수 있다. 도출된 모드가 수평 모드에 가까운 경우(예를 들어, 도출된 모드 인덱스와 수평 모드 인덱스 사이의 차이의 절대값이 10 미만일 때), CIIP에서 인트라 예측자를 생성하기 위해 수평 모드가 사용된다. 도출된 모드가 수직 모드에 가까운 경우(예를 들어, 도출된 모드 인덱스와 수직 모드 인덱스 사이의 차이의 절대값이 10 미만일 때), CIIP에서 인트라 예측자를 생성하기 위해 수직 모드가 사용된다. 그렇지 않은 경우, CIIP에서 인트라 예측자를 생성하기 위해 평면 모드가 사용된다.
일부 실시예에서, 인트라 예측 모드의 서브세트는 TIMD 방법을 사용하여 계산된 비용(예를 들어, SATD)에 따라 도출되며, 인트라 예측 모드의 서브세트는 낮은 비용을 갖는 N개의 모드를 포함한다. 인트라 예측 모드의 서브세트로부터 하나의 모드를 선택하기 위한 매개변수(예를 들어, 인덱스)가 시그널링되고, 선택된 모드를 사용하여 CIIP에서의 인트라 예측자가 생성된다.
위에서 설명된 바와 같이, TIMD 방법을 사용하여 인트라 예측 모드의 목록이 구성되고, 그 목록으로부터 템플릿 기반 도출 방법에 의해 하나의 인트라 예측이 선택된다. 일부 실시예에서, CIIP에서 인트라 예측 모드를 도출하기 위해 TIMD 방법이 사용될 때, 사용된 인트라 예측 모드 목록은 정규 TIMD와 상이할 수 있다.
일부 실시예에서, CIIP에서의 인트라 예측자는 정규 TIMD 인트라 예측 모드 목록의 서브세트에 의해 도출된 인트라 예측 모드를 사용하여 생성된다.
일부 실시예에서, 정규 TIMD 인트라 예측 모드 목록의 서브세트는 고정된 TIMD 인트라 예측 모드 목록, 예를 들어, 평면 모드, DC 모드, 수평 모드 및 수직 모드를 포함하는 고정된 TIMD 인트라 예측 모드 목록이다. CIIP에서의 인트라 예측자는 고정된 TIMD 인트라 예측 모드 목록에 의해 도출된 인트라 예측 모드를 사용하여 생성된다.
일부 실시예에서, CIIP의 최종 인트라 예측자는 TIMD 인트라 예측 모드 목록에서 가장 작은 SATD 값을 갖는 인트라 예측 모드를 사용하여 생성된다. 도 14은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법(1400)의 예시적인 흐름도를 예시한다. 방법(1400)은 디코더에 의해(예를 들어, 도 3a의 프로세스(300A) 또는 도 3b의 프로세스(300B)에 의해) 수행되거나, 또는 장치(예를 들어, 도 4의 장치(400))의 하나 이상의 소프트웨어 또는 하드웨어 구성요소에 의해 수행될 수 있다. 예를 들어, 프로세서(예를 들어, 도 4의 프로세서(402))가 방법(1400)을 수행할 수 있다. 일부 실시예에서, 방법(1400)은 컴퓨터(예를 들어, 도 4의 장치(400))에 의해 실행되는 프로그램 코드와 같은 컴퓨터 실행 가능 명령어를 포함하는 컴퓨터 판독 가능 매체에 구현되는 컴퓨터 프로그램 제품에 의해 구현될 수 있다. 도 14를 참조하면, 방법(1400)은 다음의 단계 S1402 내지 S1406을 포함할 수 있다.
단계 S1402에서, TIMD 모드 목록에서의 각각의 인트라 예측 모드에 대한 SATD의 값이 계산된다.
단계 S1404에서, CIIP에서 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드로 가장 작은 값을 갖는 인트라 예측 모드를 결정한다.
단계 S1406에서, 결정된 인트라 예측 모드를 사용하여 CIIP에서의 인트라 예측자가 생성된다.
일부 실시예에서, TIMD 인트라 예측 모드 목록에서 가장 작은 SATD 값을 갖는 인트라 예측 모드는 (예를 들어, 0 내지 67의 인덱스를 갖는) VVC에서의 정규 인트라 예측 모드에 추가로 매핑되고, 그 후 CIIP에서의 최종 인트라 예측자는 매핑된 정규 인트라 예측 모드를 사용하여 생성된다.
제4 실시예에서, TIMD 융합 및 CIIP 방법의 결합(예를 들어, CIIP_TIMDfusion 모드)이 제공된다. 구체적으로, CIIP에서의 인트라 예측자는 TIMD 융합 방법의 정보를 사용하여 생성된다. 일부 실시예에서, CIIP에서의 최종 인트라 예측자는 TIMD 인트라 예측 모드 목록에서 처음 두 개의 가장 작은 SATD 값을 통해 두 개의 인트라 예측 모드의 예측자를 가중 평균화함으로써 생성된다.
제5 실시예에서, TIMD 인트라 예측 모드 목록 중 일부 인트라 예측 모드의 SATD 값을 인자로 스케일링함으로써 TIMD 방법 또는 TIMD 융합 방법의 도출 방법을 수정하고, 그 후 현재 블록에 사용된 인트라 예측 모드를 도출하기 위해 스케일링된 SATD 값이 사용되는 것이 제안된다. 도 15는 본 개시의 일부 실시예에 따라 CIIP에서 인트라 예측자를 생성하기 위한 방법(1500)의 예시적인 흐름도를 예시한다. 방법(1500)은 디코더에 의해(예를 들어, 도 3a의 프로세스(300A) 또는 도 3b의 프로세스(300B)에 의해) 수행되거나, 또는 장치(예를 들어, 도 4의 장치(400))의 하나 이상의 소프트웨어 또는 하드웨어 구성요소에 의해 수행될 수 있다. 예를 들어, 프로세서(예를 들어, 도 4의 프로세서(402))가 방법(1500)을 수행할 수 있다. 일부 실시예에서, 방법(1500)은 컴퓨터(예를 들어, 도 4의 장치(400))에 의해 실행되는 프로그램 코드와 같은 컴퓨터 실행 가능 명령어를 포함하는 컴퓨터 판독 가능 매체에 구현되는 컴퓨터 프로그램 제품에 의해 구현될 수 있다. 도 15를 참조하면, 방법(1500)은 다음의 단계 S1502 내지 S1506을 포함할 수 있다.
단계 S1502에서, TIMD 인트라 예측 모드 목록에서 각각의 모드의 템플릿의 SATD 값이 계산된다.
단계 S1504에서, 하나 이상의 SATD 값은 인자로 스케일링된다. 일부 실시예에서, 평면 모드의 SATD 값은 인자로 곱해진다. 인자는 0 초과 및 1 미만인 임의의 양수 값일 수 있다. 예를 들어, 인자는 0.9과 동일할 수 있다.
일부 실시예에서, 평면 모드의 SATD 값은 현재 블록의 블록 크기에 기초하는 인자와 곱해지며, 이는 상이한 크기를 갖는 블록에 대해 상이한 인자가 사용될 수 있다는 것을 의미한다. 예를 들어, 1024보다 큰 크기를 갖는 블록의 경우, 인자는 0.8과 동일하고; 1024 이하인 크기를 갖는 블록의 경우, 인자는 0.9와 동일하다.
일부 실시예에서, TIMD 인트라 예측 모드 목록의 서브세트에서 인트라 예측 모드의 SATD 값은 인자로 곱해진다. 인자는 0 초과 및 1 미만인 임의의 양수 값일 수 있다. 예를 들어, 서브세트는 평면 모드, DC 모드를 포함하는 목록일 수 있거나, 또는 평면 모드, DC 모드, 수평 모드 및 수직 모드를 포함하는 목록일 수도 있다. 이 예에서, 상이한 인트라 예측 모드에 대한 인자가 상이할 수 있다. 동일한 인트라 예측 모드의 경우, 상이한 블록 크기에 대한 인자가 또한 상이할 수 있다.
단계 S1506에서, 스케일링된 SATD 값을 사용하여 결정된 인트라 예측을 사용하여 CIIP에서의 인트라 예측자가 생성된다.
제6 실시예에서, 평면 모드의 SATD 값을 기초로, TIMD 방법 또는 TIMD 융합 방법의 도출 방식이 수정될 수 있다. 도 16은 본 개시의 일부 실시예에 따른, CIIP에서 인트라 예측자를 생성하기 위한 방법(1600)의 예시적인 흐름도를 예시한다. 방법(1600)은 디코더에 의해(예를 들어, 도 3a의 프로세스(300A) 또는 도 3b의 프로세스(300B)에 의해) 수행되거나, 또는 장치(예를 들어, 도 4의 장치(400))의 하나 이상의 소프트웨어 또는 하드웨어 구성요소에 의해 수행될 수 있다. 예를 들어, 프로세서(예를 들어, 도 4의 프로세서(402))가 방법(1600)을 수행할 수 있다. 일부 실시예에서, 방법(1600)은 컴퓨터(예를 들어, 도 4의 장치(400))에 의해 실행되는 프로그램 코드와 같은 컴퓨터 실행 가능 명령어를 포함하는 컴퓨터 판독 가능 매체에 구현되는 컴퓨터 프로그램 제품에 의해 구현될 수 있다. 도 16을 참조하면, 방법(1600)은 다음의 단계 S1602 내지 S1606을 포함할 수 있다.
단계 S1602에서, TIMD 인트라 예측 모드 목록에서 각각의 모드의 템플릿의 SATD 값이 계산된다.
단계 S1604에서, 평면 모드의 SATD 값은 가장 작은 SATD 값과 비교된다.
단계 S1606에서, 평면 모드의 SATD 값이 가장 작은 SATD 값에 충분히 근접한 경우(예를 들어, 평면 모드의 SATD 값이 가장 작은 SATD 값의 1.2배를 초과하지 않음), CIIP에서의 인트라 예측자가 평면 모드를 사용하여 생성된다.
일부 실시예에서, 방법(1500 및 1600)은 TIMD 또는 TIMD 융합 정보를 사용하는 CIIP 모드 부호화된 블록에 대해서만 사용된다.
제7 실시예에서, DIMD, TIMD 및 CIIP 방법의 결합이 제공된다. 구체적으로, DIMD 및 TIMD의 정보는 CIIP에서 인트라 예측자를 생성하기 위해 함께 사용된다.
일부 실시예에서, DIMD 및 CIIP의 결합의 방법이 제공되는 제2 실시예에서 설명된 바와 같이 DIMD 정보에 의해 생성된 인트라 예측자, 및 TIMD 및 CIIP의 조합의 방법이 제공되는 제3 실시예에서 설명된 바와 같이 TIMD 정보에 의해 생성된 인트라 예측자는 CIIP에서 최종 인트라 예측자가 생성하기 위해 블렌딩된다.
일부 실시예에서, DIMD 히스토그램에서 N개의 가장 큰 진폭 값을 갖는 N개의 모드, 평면 모드 및 DC 모드는 CIIP에서 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드를 도출하기 위해 TIMD 방법에 대한 입력 목록으로 사용된다. N의 값은 2로부터 65까지의 범위에 있는 임의의 양의 정수 값일 수 있다.
일부 실시예에서, TIMD 도출된 모드가 DIMD 히스토그램에서 N개의 가장 큰 진폭 값을 갖는 N개의 모드, 평면 모드 및 DC 모드 중 하나일 때에만, TIMD 도출된 모드는 CIIP에서 인트라 예측자를 생성하는 데 사용된다. 그렇지 않은 경우, 평면 모드가 CIIP에서 인트라 예측자를 생성하는 데 사용된다.
설명의 편의를 위해, 수정된 인트라 예측자 생성 방법을 갖는 전술한 실시예에서 제안된 CIIP 모드는 본 개시에서 CIIP_NEW 모드로 불린다. CIIP_NEW 모드가 CIIP_regular 모드, CIIP_DIMD 모드, CIIP_TIMD 모드, CIIP_TIMDfusion 모드 등의 임의의 변형을 포함한다는 것이 이해될 수 있다.
일부 실시예에서, CIIP에서의 인터 예측자 및 인트라 예측자의 가중치가 수정될 수 있다.
제8 실시예에서, 제안된 CIIP_NEW 모드에서 인터 예측자 및 인트라 예측자(wIntra, wInter)의 가중치가 현재 CIIP 설계와 동일하거나 또는 상이할 수 있다는 것이 제안된다.
일부 실시예에서, 제안된 CIIP_NEW 모드에서 인터 예측자 및 인트라 예측자의 가중치는 현재 CIIP 설계와 동일하다. 예를 들어, 상단 이웃 및 좌측 이웃이 모두 인트라 부호화된 경우, (wIntra, wInter)는 (3, 1)과 동일하게 설정된다. 이들 블록 중 하나가 인트라 부호화된 경우, 이들 가중치는 동일하고, 즉, (2, 2)이고, 그렇지 않은 경우 가중치는 (1, 3)과 동일하게 설정된다.
일부 실시예에서 제안된 CIIP_NEW 모드에서 인터 예측자와 인트라 예측자의 가중치는 인트라 예측자를 생성하는 데 사용된 인트라 예측 모드에 따라 달라진다. 예를 들어, 인트라 예측 모드가 수평 모드 또는 수직 모드에 가깝고(예를 들어, 인트라 예측 모드 인덱스와 수평 또는 수직 모드 인덱스 간의 차이의 절대값이 임계치 미만임), 폭 또는 높이가 4 미만이 아닌 경우, 인트라 모드 및 인터 모드 방법에 대한 다중-가설 예측의 가중치가 위에서 설명된 바와 같이 사용된다. 예를 들어, 인트라 예측 모드가 VVC의 67개의 모드 중 하나일 때, 임계치는 0으로부터 34까지의 범위에 있을 수 있다. 임계치는 임의의 유효한 양의 정수일 수 있다.
도 17a 및 도 17b는 본 개시의 일부 실시예에 따른, 부호화 블록을 각각 수직 및 수평으로 분할하기 위한 예시적인 방법을 예시한다. 도 17a에 도시된 바와 같이, 근사-수평 모드(예를 들어, 인트라 예측 모드 인덱스(즉, 각도 모드 인덱스)는 2 이상 및 34 미만임)에 대해, 현재 블록은 먼저, 좌측으로부터 오른쪽으로 0으로부터 3까지의 서브 블록 인덱스를 갖는 네 개의 동일한 크기의 서브 블록으로 수직으로 분할된다. 도 17b에 도시된 바와 같이, 근사-수평 모드(예를 들어, 인트라 예측 모드 인덱스는 34 초과 및 66 이하임)에 대해, 현재 블록은 먼저, 상단으로부터 하단으로 0으로부터 3까지의 서브 블록 인덱스를 갖는 네 개의 동일한 크기의 서브 블록으로 수평으로 분할된다. 일부 실시예에서, 인트라 예측 모드가 확장될 때, 근사-수평 모드는 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고, 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 미만인 모드를 지칭한다. 근사-수직 모드는 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 이상이고, 우측 상단으로부터 좌측 하단으로의 대각선 모드의 각도 모드 인덱스 미만인 모드를 지칭한다.
상이한 하위 블록에 대해 상이한 가중치(wIntra, wInter)가 사용된다. 예를 들어, 네 개의 가중치의 세트 (wIntra1, wInter1) = (6, 2), (wIntra2, wInter2) = (5, 3), (wIntra3, wInter3) = (3, 5) 및 (wIntra4, wInter4) = (2, 6)은 표 1에 도시된 바와 같이 각각 네 개의 서브 블록에 사용된다.
표 1. 각도 모드에 사용되는 예시적인 가중치.
그렇지 않고, 예를 들어, 인트라 예측 모드 인덱스가 0 또는 1인 경우, 현재 CIIP 설계와 동일한 가중치가 사용된다. 즉, 상단 이웃 및 좌측 이웃 모두가 인트라 부호화된 경우, (wIntra, wInter)는 (3, 1)과 동일하게 설정된다. 이들 블록 중 하나가 인트라 부호화된 경우, 이들 가중치는 동일하고 즉, (2, 2)이다. 상단 이웃 및 좌측 이웃 중 어느 것도 인트라 부호화되지 않은 경우, 가중치는 (1, 3)과 동일하게 설정된다.
도 18은 본 개시의 일부 실시예에 따른, 각도 인트라 예측 모드에서 부호화 블록을 분할하기 위한 다른 예시적인 방법을 예시한다. 도 18을 참조하면, 각도 인트라 예측 모드가 대각선 모드에 가까운 경우(예를 들어, 각도 인트라 예측 모드 인덱스와 대각선 인덱스(즉, VVC에서 34)의 차이의 절대값이 임계치 미만임), 현재 블록은 네 개의 영역으로 분할되고, 상이한 영역에 대해 상이한 가중치(wIntra, wInter)가 사용된다. 예를 들어, 네 개의 가중치의 세트 (wIntra1, wInter1) = (6, 2), (wIntra2, wInter2) = (5, 3), (wIntra3, wInter3) = (3, 5) 및 (wIntra4, wInter4) = (2, 6)는 네 개의 영역에 대해 각각 사용된다.
일부 실시예에서, 이웃 블록의 부호화된 모드에 기초한 가중치 도출 방법 및 서브 영역에 기초한 가중치 도출 방법이 결합된다. 예를 들어, 상단 이웃 및 좌측 이웃 모두가 인트라 부호화된 경우, 네 개의 가중치의 세트 (wIntra1, wInter1) = (7, 1), (wIntra2, wInter2) = (6, 2), (wIntra3, wInter3) = (4, 4) 및 (wIntra4, wInter4) = (3, 5)가 네 개의 영역에 사용된다. 이들 블록 중 하나만이 인트라 부호화된 경우, 네 개의 가중치의 세트 (wIntra1, wInter1) = (6, 2), (wIntra2, wInter2) = (5, 3), (wIntra3, wInter3) = (3, 5) 및 (wIntra4, wInter4) = (2, 6)가 네 개의 영역에 사용된다. 상단 이웃 및 좌측 이웃 중 어느 것도 인트라 부호화되지 않은 경우, 네 개의 가중치의 세트 (wIntra1, wInter1) = (5, 3), (wIntra2, wInter2) = (4, 4), (wIntra3, wInter3) = (2, 6) 및 (wIntra4, wInter4) = (1, 7)가 네 개의 영역에 사용된다.
일부 실시예에서, CIIP에서 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드는 제8 실시예에서 전술한 방법에 의해 가중치(wIntra, wInter)를 도출하기 위해, 먼저 광각 모드로 변환된다.
일부 실시예에서, 인트라 예측자는 일부 인트라 예측 모드를 블렌딩함으로써 생성된다. 제8 실시예에서 전술한 방법에 의해 (wIntra, wInter)를 도출하기 위해, 평면 모드 또는 가장 큰 가중치를 갖는 인트라 예측 모드 또는 가장 큰 가중치를 갖는 비-평면 인트라 예측 모드를 사용하는 것이 제안된다.
일부 실시예에서, CIIP_NEW 모드를 시그널링하기 위한 방법이 제공된다.
제9 실시예에서, 평면 모드 및 정규 병합 모드를 블렌딩하는 원래의 CIIP 모드가 인트라 예측자를 생성하기 위한 방법을 수정하는 제안된 CIIP_NEW 모드로 대체된다.
제10 실시예에서, 원래의 CIIP 모드(예를 들어, 평면 모드로만 생성된 인트라 예측자)를 제안된 CIIP_NEW 모드(예를 들어, CIIP_regular 모드, CIIP_DIMD 모드, CIIP_TIMD 모드, CIIP_TIMDfusion 모드 등)로 대체할지가 적응적으로 결정된다.
도 19는 본 개시의 일부 실시예에 따른, 예측 모드를 결정하기 위한 방법의 예시적인 흐름도를 예시한다. 방법(1900)은 디코더에 의해(예를 들어, 도 3a의 프로세스(300A) 또는 도 3b의 프로세스(300B)에 의해) 수행되거나, 또는 장치(예를 들어, 도 4의 장치(400))의 하나 이상의 소프트웨어 또는 하드웨어 구성요소에 의해 수행될 수 있다. 예를 들어, 프로세서(예를 들어, 도 4의 프로세서(402))가 방법(1900)을 수행할 수 있다. 일부 실시예에서, 방법(1900)은 컴퓨터(예를 들어, 도 4의 장치(400))에 의해 실행되는 프로그램 코드와 같은 컴퓨터 실행 가능 명령어를 포함하는 컴퓨터 판독 가능 매체에 구현되는 컴퓨터 프로그램 제품에 의해 구현될 수 있다. 도 19를 참조하면, 방법(1900)은 다음의 단계 S1902 내지 S1906을 포함할 수 있다.
단계 S1902에서, 현재 블록에 대해 원래의 CIIP 모드 또는 CIIP_NEW 모드가 결정된다. 일부 실시예에서, 결정은 현재 블록의 크기에 기초한다. 예를 들어, 임계치보다 큰 크기를 갖는 블록의 경우 원래의 CIIP 모드가 사용되고, 임계치 이하의 크기를 갖는 블록의 경우 제안된 CIIP_NEW 모드가 사용된다. 예를 들어, 임계치는 1024와 동일할 수 있다.
일부 실시예에서, 결정은 현재 블록의 폭 및 높이에 기초한다. 예를 들어, 임계치 보다 큰 폭 또는 높이를 갖는 블록의 경우, 원래의 CIIP 모드가 사용되고; 그렇지 않은 경우, 제안된 CIIP_NEW 모드가 사용된다. 예를 들어, 임계치보다 큰, 긴 측면 및 짧은 측면의 비율을 갖는 블록의 경우, 원래의 CIIP 모드가 사용되고, 그렇지 않은 경우, 제안된 CIIP_NEW 모드가 사용된다.
일부 실시예에서, 결정은 DIMD 방법에서 가장 큰 진폭 값을 갖는 인트라 예측 모드와 TIMD 방법에서 가장 작은 SATD 값을 갖는 인트라 예측 모드 사이의 관계에 기초한다. 예를 들어, 두 개의 인트라 예측 모드가 유사한 경우(예를 들어, 두 개의 모드의 인덱스의 차이의 절대값이 4 미만임), 제안된 CIIP_NEW 모드가 사용되고; 그렇지 않은 경우, 원래의 CIIP 모드가 사용된다.
단계 S1904에서는, 원래의 CIIP 모드가 사용되고 있는지, 또는 CIIP_NEW 모드가 사용되고 있는지를 나타내는 매개변수(예를 들어, 플래그)가 디코딩된다.
단계 S1906에서, 매개변수에 따라 원래의 CIIP 모드 또는 CIIP_NEW 모드를 수행한다. 일부 실시예에서, 현재 블록, 예를 들어, 현재 블록의 크기에 기초하여 CIIP_NEW 모드 중 어느 모드가 사용되는지를 결정하기 위해 추가적인 결정이 실행될 수 있다.
제11 실시예에서, 제안된 CIIP_NEW 모드는 새로운 CIIP 모드로 사용할 수 있고, 어떤 CIIP 모드가 사용될지를 결정하기 위해 명시적 시그널링 방법이 사용된다.
예를 들어, 하나의 CIIP_NEW 모드만이 추가될 때, 표 2에 도시된 바와 같이 어떤 CIIP 모드가 사용될지를 결정하기 위해 0으로부터 2까지의 CIIP 인덱스가 시그널링된다.
표 2: 3개의 CIIP 모드의 결정
예를 들어, 두 개의 CIIP_NEW 모드가 추가될 때, 표 3에 도시된 바와 같이 어떤 CIIP 모드가 사용될지를 결정하기 위해 0으로부터 3까지의 CIIP 인덱스가 시그널링되고, 여기서 CIIP_DIMD 모드는 제2 실시예에서 설명된 바와 같이 CIIP 및 DIMD의 결합을 의미하고, CIIP_TIMD 모드는 제3 실시예에서 설명된 바와 같이 CIIP 및 TIMD의 결합을 의미한다.
표 3: 4개의 CIIP 모드의 결정
일부 실시예에서, 개시된 CIIP 모드는 크로마 샘플을 부호화하는 데 사용될 수 있다.
현재 CIIP 설계에서, CIIP 부호화된 크로마 블록에 대해, DM 모드(함께 위치된 루마 블록의 인트라 예측 모드)가 인트라 예측자를 도출하기 위해 사용된다. 본 개시에서, 크로마 블록에 대해, 함께 위치된 루마 블록이 제안된 CIIP_NEW 모드로 부호화되는 경우, 인트라 예측자를 생성하기 위해 현재 크로마 블록에 대해 동일한 인트라 예측 모드 도출 방법이 사용되는 것이 제안된다. 일부 실시예에서, 인트라 예측자를 생성하기 위해 CIIP_NEW 모드 부호화된 크로마 블록에 대해 평면 모드가 항상 사용된다.
일부 실시예에서, 개시된 CIIP_NEW 모드에 의해 부호화된 블록에 대해, 블록의 예측 모드는, 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드 또는 평면 모드 또는 인터 예측 모드로서 저장될 수 있다.
일부 실시예에서, CIIP에 대한 전파된 인트라 예측 모드가 제안된다.
일부 실시예에서, 원래의 CIIP 모드 또는 제안된 CIIP_NEW 모드에 의해 부호화된 블록의 전파된 인트라 예측 모드를 수정하는 것이 제안된다.
일부 실시예에서, 원래의 CIIP 모드 또는 제안된 CIIP_NEW 모드에 의해 부호화된 블록의 경우, 전파된 인트라 예측 모드는 평면 모드로 설정되고 MPM 목록의 구성에 사용된다. 다른 인터 부호화된 블록의 경우, 전파된 인트라 예측 모드는 모션 벡터 및 참조 픽처를 사용하여 도출된다.
일부 실시예에서, 원래의 CIIP 모드 또는 제안된 CIIP_NEW 모드에 의해 부호화된 블록의 경우, 전파된 인트라 예측 모드는 CIIP에서 인트라 예측자를 생성하는 데 사용되는 인트라 예측 모드로 설정되고, MPM 목록의 구성에 사용된다. 다른 인터 부호화된 블록의 경우, 전파된 인트라 예측 모드는 움직임 벡터 및 참조 픽처를 사용하여 도출된다.
일부 실시예에서, CIIP_PDPC 모드에 의해 부호화된 블록의 전파된 인트라 예측 모드를 수정하는 것이 제안된다. CIIP_PDPC 모드로 부호화된 블록의 경우, 전파된 인트라 예측 모드는 평면 모드로 설정되고 MPM 목록의 구성에 사용된다. 다른 인터 부호화된 블록의 경우, 전파된 인트라 예측 모드는 모션 벡터 및 참조 픽처를 사용하여 도출된다.
일부 실시예에서, 원래의 CIIP 모드 또는 제안된 CIIP_NEW 모드 및 CIIP_PDPC 모드에 의해 부호화된 블록에 대해, 전파된 인트라 예측 모드를 결정하기 위한 전술한 두 개의 방법이 결합될 수 있다. 예를 들어, 원래의 CIIP 모드 또는 제안된 CIIP_NEW 모드로 부호화된 블록의 경우, 전파된 인트라 예측 모드는 CIIP에서 인트라 예측자를 생성하기 위해 사용된 인트라 예측 모드로 설정된다. CIIP_PDPC 모드로 부호화된 블록의 경우, 전파된 인트라 예측 모드는 평면 모드로 설정되고; 다른 인터 부호화된 블록의 경우, 전파된 인트라 예측 모드는 움직임 벡터 및 참조 픽처를 사용하여 도출된다.
전술한 실시예는 임의의 결합으로 결합될 수 있다.
실시예는 다음의 조항을 사용하여 추가로 설명될 수 있다.
1. 결합된 인터 및 인트라 예측(CIIP)을 수행하기 위한 방법으로서,
타겟 블록에 대해 CIIP가 활성화되어 있다고 결정하는 단계;
템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계;
제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 단계; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계를 포함하는, 방법.
2. 조항 1에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서의 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 절대 변환 차의 합(SATD)의 값을 계산하는 단계; 및
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법.
3. 조항 1에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 SATD의 값을 계산하는 단계;
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 결정하고, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 정규 인트라 예측 모드에 매핑하는 단계; 및
정규 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법.
4. 조항 1에 있어서, 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟의 최종 예측자를 획득하는 단계는:
제1 인트라 예측 모드가 각도 모드라는 것에 응답하여, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 단계; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 각각 인트라 가중치 및 인터 가중치로 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계를 더 포함하는, 방법.
5. 조항 4에 있어서, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 단계는:
타겟 블록을 복수의 서브 블록으로 나누는 단계 - 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 타겟 블록은 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 이상일 때 타겟 블록은 수평으로 나누어짐 - ; 및
복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 단계를 더 포함하고; 그리고
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계는:
복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 단계 - 복수의 서브 최종 예측자 각각은 인트라 예측자 및 인터 예측자를 개개의 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
복수의 서브 최종 예측자의 합을 결정하는 단계; 및
비트의 수를 우측 시프트함으로써 최종 예측자를 획득하는 단계를 더 포함하고, 비트의 수는 서브 인트라 가중치 및 서브 인터 가중치의 합의 로그에 의해 획득되는, 방법.
6. 조항 5에 있어서,
제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 미만일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 이상이고 우측 상단으로부터 좌측 하단으로의 대각선 모드의 각도 모드 인덱스 이하일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수평으로 나누어지고;
네 개의 동일한 크기의 서브 블록은 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록을 포함하고, 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록은 각각: 타겟 블록이 수직으로 나누어질 때 좌측으로부터 우측으로 배열되거나, 또는 타겟 블록이 수평으로 나누어질 때 상단으로부터 하단으로 배열되고; 그리고
제1 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 6 및 2이고;
제2 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 5 및 3이고;
제3 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 3 및 5이고; 그리고
제4 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 2 및 6인, 방법.
7. 조항 1 내지 조항 6 중 어느 하나에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계는:
타겟 블록이 임계치 이하인 크기를 가질 때, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계; 및
타겟 블록이 임계치보다 큰 크기를 가질 때, 타겟 블록의 제1 인트라 예측 모드를 평면 모드로 결정하는 단계를 더 포함하는, 방법.
8. 조항 7에 있어서, 임계치는 1024와 동일한, 방법.
9. 조항 1 내지 조항 8 중 어느 하나에 있어서,
평면 모드를 전파된 인트라 예측 모드로 설정하는 단계; 및
전파된 인트라 예측 모드를 통해 타겟 블록의 이웃 블록에 대한 최고 확률 모드(MPM) 목록을 구성하는 단계를 더 포함하는, 방법.
10. 결합된 인터 및 인트라 예측(CIIP)을 수행하기 위한 장치로서, 장치는:
명령어를 저장하도록 구성된 메모리; 및
하나 이상의 프로세서를 포함하고, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
타겟 블록에 대해 CIIP가 활성화되어 있다고 결정하는 것;
템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것;
제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 것; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것을 수행하게 하도록 구성되는, 장치.
11. 조항 10에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것에서, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
TIMD 모드 목록에서의 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 절대 변환 차의 합(SATD)의 값을 계산하는 것; 및
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 것을 수행하게 하도록 추가로 구성되는, 장치.
12. 조항 10에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것에서, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
TIMD 모드 목록에서 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 SATD의 값을 계산하는 것;
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 결정하고, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 정규 인트라 예측 모드에 매핑하는 것; 및
정규 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 것을 수행하게 하도록 추가로 구성되는, 장치.
13. 조항 10에 있어서, 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟의 최종 예측자를 획득하는 것에서, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
제1 인트라 예측 모드가 각도 모드라는 것에 응답하여, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 것; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 각각 인트라 가중치 및 인터 가중치로 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것을 수행하게 하도록 추가로 구성되는, 장치.
14. 조항 13에 있어서, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 것에서, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
타겟 블록을 복수의 서브 블록으로 나누는 것 - 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 타겟 블록은 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 이상일 때 타겟 블록은 수평으로 나누어짐 - ; 및
복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 것을 수행하게 하도록 추가로 구성되고; 그리고
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것은:
복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 것 - 복수의 서브 최종 예측자 각각은 인트라 예측자 및 인터 예측자를 개개의 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
복수의 서브 최종 예측자의 합을 결정하는 것; 및
비트의 수를 우측 시프트함으로써 최종 예측자를 획득하는 것을 더 포함하고, 비트의 수는 서브 인트라 가중치 및 서브 인터 가중치의 합의 로그에 의해 획득되는, 장치.
15. 조항 14에 있어서,
제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 미만일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 이상이고 우측 상단으로부터 좌측 하단으로의 대각선 모드의 각도 모드 인덱스 이하일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수평으로 나누어지고;
네 개의 동일한 크기의 서브 블록은 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록을 포함하고, 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록은 각각: 타겟 블록이 수직으로 나누어질 때 좌측으로부터 우측으로 배열되거나, 또는 타겟 블록이 수평으로 나누어질 때 상단으로부터 하단으로 배열되고; 그리고
제1 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 6 및 2이고;
제2 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 5 및 3이고;
제3 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 3 및 5이고; 그리고
제4 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 2 및 6인, 장치.
16. 조항 10 내지 조항 15 중 어느 하나에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것에서, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
타겟 블록이 임계치 이하인 크기를 가질 때, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것; 및
타겟 블록이 임계치보다 큰 크기를 가질 때, 타겟 블록의 제1 인트라 예측 모드를 평면 모드로 결정하는 것을 수행하게 하도록 추가로 구성되는, 장치.
17. 조항 16에 있어서, 임계치는 1024와 동일한, 장치.
18. 조항 10 내지 조항 17 중 어느 하나에 있어서, 하나 이상의 프로세서는 명령어를 실행하여 장치로 하여금:
평면 모드를 전파된 인트라 예측 모드로 설정하는 것; 및
전파된 인트라 예측 모드를 통해 타겟 블록의 이웃 블록에 대한 최고 확률 모드(MPM) 목록을 구성하는 것을 수행하게 하도록 추가로 구성되는, 장치.
19. 명령어의 세트를 저장하는 비일시적 컴퓨터 판독 가능 매체로서, 명령어의 세트는 장치로 하여금 결합된 인터 및 인트라 예측(CIIP)을 수행하기 위한 방법을 개시하게 하도록 장치의 하나 이상의 프로세서에 의해 실행 가능하고, 방법은:
타겟 블록에 대해 CIIP가 활성화되어 있다고 결정하는 것;
템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것;
제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 것; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것을 포함하는, 비일시적 컴퓨터 판독 가능 매체.
20. 조항 19에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것은:
TIMD 모드 목록에서의 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 절대 변환 차의 합(SATD)의 값을 계산하는 것; 및
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 것을 더 포함하는, 비일시적 컴퓨터 판독 가능 매체.
21. 조항 19에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것은:
TIMD 모드 목록에서 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 SATD의 값을 계산하는 것;
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 결정하고, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 정규 인트라 예측 모드에 매핑하는 것; 및
정규 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 것을 더 포함하는, 비일시적 컴퓨터 판독 가능 매체.
22. 조항 19에 있어서, 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟의 최종 예측자를 획득하는 것은:
제1 인트라 예측 모드가 각도 모드라는 것에 응답하여, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 것; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 각각 인트라 가중치 및 인터 가중치로 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것을 더 포함하는, 비일시적 컴퓨터 판독 가능 매체.
23. 조항 22에 있어서, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 것은:
타겟 블록을 복수의 서브 블록으로 나누는 것 - 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 타겟 블록은 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 이상일 때 타겟 블록은 수평으로 나누어짐 - ; 및
복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 것을 더 포함하고; 그리고
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것은:
복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 것 - 복수의 서브 최종 예측자 각각은 인트라 예측자 및 인터 예측자를 개개의 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
복수의 서브 최종 예측자의 합을 결정하는 것; 및
비트의 수를 우측 시프트함으로써 최종 예측자를 획득하는 것을 더 포함하고, 비트의 수는 서브 인트라 가중치 및 서브 인터 가중치의 합의 로그에 의해 획득되는, 비일시적 컴퓨터 판독 가능 매체.
24. 조항 23에 있어서,
제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 미만일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 이상이고 우측 상단으로부터 좌측 하단으로의 대각선 모드의 각도 모드 인덱스 이하일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수평으로 나누어지고;
네 개의 동일한 크기의 서브 블록은 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록을 포함하고, 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록은 각각: 타겟 블록이 수직으로 나누어질 때 좌측으로부터 우측으로 배열되거나, 또는 타겟 블록이 수평으로 나누어질 때 상단으로부터 하단으로 배열되고; 그리고
제1 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 6 및 2이고;
제2 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 5 및 3이고;
제3 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 3 및 5이고; 그리고
제4 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 2 및 6인, 비일시적 컴퓨터 판독 가능 매체.
25. 조항 19 내지 조항 24 중 어느 하나에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것은:
타겟 블록이 임계치 이하인 크기를 가질 때, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것; 및
타겟 블록이 임계치보다 큰 크기를 가질 때, 타겟 블록의 제1 인트라 예측 모드를 평면 모드로 결정하는 것을 더 포함하는, 비일시적 컴퓨터 판독 가능 매체.
26. 조항 25에 있어서, 임계치는 1024와 동일한, 비일시적 컴퓨터 판독가능 매체.
27. 조항 19 내지 조항 26 중 어느 하나에 있어서, 방법은:
평면 모드를 전파된 인트라 예측 모드로 설정하는 것; 및
전파된 인트라 예측 모드를 통해 타겟 블록의 이웃 블록에 대한 최고 확률 모드(MPM) 목록을 구성하는 것을 더 포함하는, 비일시적 컴퓨터 판독가능 매체 .
28. 결합된 인터 및 인트라 예측(CIIP)을 수행하기 위한 방법으로서,
템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계;
제1 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 단계;
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계; 및
CIIP가 활성화되었다는 것을 나타내는 플래그 및 TIMD 방법이 타겟 블록의 제1 인트라 예측 모드를 결정하기 위해 사용된다는 것을 나타내는 인덱스를 시그널링하는 단계를 포함하는, 방법.
29. 조항 28에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서의 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 절대 변환 차의 합(SATD)의 값을 계산하는 단계; 및
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법.
30. 조항 28에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서 복수의 인트라 예측 모드와 각각 연관된 타겟 블록의 SATD의 값을 계산하는 단계;
복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 결정하고, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 정규 인트라 예측 모드에 매핑하는 단계; 및
정규 인트라 예측 모드를 타겟 블록의 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법.
31. 조항 28에 있어서, 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟의 최종 예측자를 획득하는 단계는:
제1 인트라 예측 모드가 각도 모드라는 것에 응답하여, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 단계; 및
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 각각 인트라 가중치 및 인터 가중치로 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계를 더 포함하는, 방법.
32. 조항 31에 있어서, 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 단계는:
타겟 블록을 복수의 서브 블록으로 나누는 단계 - 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 타겟 블록은 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 이상일 때 타겟 블록은 수평으로 나누어짐 - ; 및
복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 단계를 더 포함하고; 그리고
타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계는:
복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 단계 - 복수의 서브 최종 예측자 각각은 인트라 예측자 및 인터 예측자를 개개의 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
복수의 서브 최종 예측자의 합을 결정하는 단계; 및
비트의 수를 우측 시프트함으로써 최종 예측자를 획득하는 단계를 더 포함하고, 비트의 수는 서브 인트라 가중치 및 서브 인터 가중치의 합의 로그에 의해 획득되는, 방법.
33. 조항 32에 있어서,
제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 미만일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 이상이고 우측 상단으로부터 좌측 하단으로의 대각선 모드의 각도 모드 인덱스 이하일 때 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수평으로 나누어지고;
네 개의 동일한 크기의 서브 블록은 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록을 포함하고, 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록은 각각: 타겟 블록이 수직으로 나누어질 때 좌측으로부터 우측으로 배열되거나, 또는 타겟 블록이 수평으로 나누어질 때 상단으로부터 하단으로 배열되고; 그리고
제1 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 6 및 2이고;
제2 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 5 및 3이고;
제3 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 3 및 5이고; 그리고
제4 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치는 각각 2 및 6인, 방법.
34. 조항 28 내지 조항 33 중 어느 하나에 있어서, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계는:
타겟 블록이 임계치 이하인 크기를 가질 때, TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계; 및
타겟 블록이 임계치보다 큰 크기를 가질 때, 타겟 블록의 제1 인트라 예측 모드를 평면 모드로 결정하는 단계를 더 포함하는, 방법.
35. 조항 34에 있어서, 임계치는 1024와 동일한, 방법.
36. 조항 28 내지 조항 35 중 어느 하나에 있어서,
평면 모드를 전파된 인트라 예측 모드로 설정하는 단계; 및
전파된 인트라 예측 모드를 통해 타겟 블록의 이웃 블록에 대한 최고 확률 모드(MPM) 목록을 구성하는 단계를 더 포함하는, 방법.
37. 비트스트림을 저장하는 비일시적 컴퓨터 판독 가능 매체로서, 비트스트림은 인코딩된 비디오 데이터와 연관된 플래그 및 제1 인덱스를 포함하고, 플래그는 인터 및 인트라 예측(CIIP)이 인코딩된 비디오 데이터에 대해 사용된다는 것을 나타내고, 제1 인덱스는 템플릿 기반 인트라 모드 도출(TIMD)이 CIIP에 대해 사용된다는 것을 나타내고, 플래그 및 인덱스는 디코더로 하여금:
TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것; 인트라 예측 모드를 통해 타겟 블록의 인트라 예측자를 생성하는 것; 및 타겟 블록의 인트라 예측자 및 타겟 블록의 인터 예측자를 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 것을 하게 하는, 비일시적 컴퓨터 판독 가능 매체.
38. 조항 37에 있어서, 비트스트림은 비디오 데이터와 연관된 각도 모드 인덱스를 추가로 포함하고, 각도 모드 인덱스는 디코더로 하여금:
타겟 블록을 복수의 서브 블록으로 나누는 것 - 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 타겟 블록은 수직으로 나누어지거나, 또는 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 이상일 때 타겟 블록은 수평으로 나누어짐 - ; 및
복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 것;
복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 것 - 복수의 서브 최종 예측자 각각은 인트라 예측자 및 인터 예측자를 개개의 서브 블록에 대한 서브 인트라 가중치 및 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
복수의 서브 최종 예측자의 합을 결정하는 것; 및
비트의 수를 우측 시프트함으로써 최종 예측자를 획득하는 것을 하게 하고, 비트의 수는 서브 인트라 가중치 및 서브 인터 가중치의 합의 로그에 의해 획득되는, 비일시적 컴퓨터 판독 가능 매체.
일부 실시예에서, 명령어를 포함하는 비일시적 컴퓨터 판독 가능 저장 매체가 또한 제공되고, 명령어는 위에서 설명된 방법을 수행하게 하도록 (개시된 인코더 및 디코더와 같은) 디바이스에 의해 실행될 수 있다. 비일시적 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀의 패턴을 갖는 임의의 물리적 매체, RAM, PROM 및 EPROM, FLASH-EPROM 또는 다른 임의의 플래시 메모리, NVRAM, 캐시, 레지스터, 임의의 다른 메모리 칩 또는 카트리지, 및 이들의 네트워크 버전을 포함한다. 디바이스는 하나 이상의 프로세서(CPU), 입력/출력 인터페이스, 네트워크 인터페이스 및/또는 메모리를 포함할 수 있다.
본원에서 "제1"및 "제2"와 같은 관계 용어는 엔티티 또는 동작을 다른 엔티티 또는 동작과 구분하기 위해서만 사용되며, 이들 엔티티 또는 동작 간의 임의의 실제 관계 또는 시퀀스를 요구하거나 암시하지 않는다는 것에 유의해야 한다.
더욱이, 포함하는(comprising), "갖는(having)", "포함하는(containing)” 및 "포함하는(including)"이라는 단어 및 다른 유사한 형태는 그 의미가 동등하고, 이러한 단어 중 어느 하나를 따르는 항목 또는 항목들이 이러한 항목 또는 항목들의 철저한 열거(exhaustive listing)를 의미하지 않거나 또는 열거된 항목 또는 항목만으로 제한되는 것을 의미하지 않는다는 점에서, 제약을 두지 않는 것으로(open-ended) 의도된다.
본원에서 사용된 바와 같이, 달리 구체적으로 언급되지 않는 한, "또는"이란 용어는 실행 불가능한 경우를 제외하고 모든 가능한 조합을 포함한다. 예를 들어, 데이터베이스가 A 또는 B를 포함할 수 있다고 언급되어 있으면, 달리 구체적으로 언급되지 않거나 실행 불가능한 경우를 제외하고, 데이터베이스는 A 또는 B, 또는 A 및 B를 포함할 수 있다. 제2 예시로서, 데이터베이스가 A, B 또는 C를 포함할 수 있다고 언급되어 있으면, 달리 구체적으로 언급되지 않거나 실행 불가능한 경우를 제외하고, 데이터베이스는 A 또는 B 또는 C, 또는 A 및 B, 또는 A 및 C, 또는 B 및 C, 또는 A 및 B 및 C를 포함할 수 있다.
상술한 실시예는 하드웨어 또는 소프트웨어(프로그램 코드), 또는 하드웨어 및 소프트웨어의 조합에 의해 구현될 수 있다는 것이 인식된다. 소프트웨어로 구현되는 경우, 이는 상술한 컴퓨터 판독 가능 매체에 저장될 수 있다. 소프트웨어는 프로세서에 의해 실행될 때 개시된 방법을 수행할 수 있다. 본 개시에서 설명된 컴퓨팅 유닛 및 다른 기능 유닛은 하드웨어 또는 소프트웨어, 또는 하드웨어 및 소프트웨어의 조합에 의해 구현될 수 있다. 통상의 기술자는 또한 위에서 설명된 모듈/유닛 중 다수가 하나의 모듈/유닛으로 결합될 수 있고, 위에서 설명된 모듈/유닛 각각이 복수의 서브-모듈/서브-유닛으로 더 분할될 수 있음을 이해할 것이다.
전술한 명세서에서, 실시예는 구현마다 다를 수 있는 수많은 특정 세부사항을 참조로 설명되었다. 설명된 실시예의 특정 적응 및 수정이 이루어질 수 있다. 다른 실시예는 본원에 개시된 본 발명의 명세서 및 실시를 고려하여 통상의 기술자에게 명백할 수 있다. 명세서 및 예시는 단지 예시적인 것으로 간주되어야 하는 것으로 의도되며, 본 발명의 진정한 범주 및 사상은 다음 청구범위에 의해 나타난다. 또한, 도면에 도시된 단계의 시퀀스는 단지 예시의 목적이며, 단계의 임의의 특정 시퀀스로 제한되도록 의도되지 않는다. 이와 같이, 통상의 기술자는 이러한 단계가 동일한 방법을 구현하면서 상이한 순서로 수행될 수 있음을 인식할 수 있다.
도면 및 명세서에서, 예시적인 실시예가 개시된다. 하지만, 이들 실시예에 대해 다수의 변형 및 수정이 이루어질 수 있다. 따라서, 특정한 용어가 이용되더라도, 제한의 목적이 아닌 일반적이고 설명적인 의미로 사용된다.
Claims (20)
- 결합된 인터 및 인트라 예측(combined inter and intra prediction, CIIP)을 수행하기 위한 방법으로서,
타겟 블록에 대해 상기 CIIP가 활성화되어 있다고 결정하는 단계;
템플릿 기반 인트라 모드 도출(template-based intra mode derivation, TIMD) 방법을 사용하여 상기 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계;
상기 제1 인트라 예측 모드를 통해 상기 타겟 블록의 인트라 예측자를 생성하는 단계; 및
상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 인터 예측자를 가중 평균냄으로써 상기 타겟 블록의 최종 예측자를 획득하는 단계를 포함하는, 방법. - 제1항에 있어서, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서의 복수의 인트라 예측 모드와 각각 연관된 상기 타겟 블록의 절대 변환 차의 합(sum of absolute transformed differences, SATD)의 값을 계산하는 단계; 및
상기 복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 상기 타겟 블록의 상기 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법. - 제1항에 있어서, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서 복수의 인트라 예측 모드와 각각 연관된 상기 타겟 블록의 SATD의 값을 계산하는 단계;
상기 복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 결정하고, 상기 가장 작은 SATD 값을 갖는 인트라 예측 모드를 정규 인트라 예측 모드에 매핑하는 단계; 및
상기 정규 인트라 예측 모드를 상기 타겟 블록의 상기 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법. - 제1항에 있어서, 상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 상기 인터 예측자를 가중 평균냄으로써 상기 타겟의 상기 최종 예측자를 획득하는 단계는:
상기 제1 인트라 예측 모드가 각도 모드라는 것에 응답하여, 상기 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 단계; 및
상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 상기 인터 예측자를 각각 상기 인트라 가중치 및 상기 인터 가중치로 가중 평균냄으로써 상기 타겟 블록의 상기 최종 예측자를 획득하는 단계를 더 포함하는, 방법. - 제4항에 있어서, 상기 제1 인트라 예측 모드에 기초하여 상기 인트라 가중치 및 상기 인터 가중치를 결정하는 단계는:
상기 타겟 블록을 복수의 서브 블록으로 나누는 단계 - 상기 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 상기 타겟 블록은 수직으로 나누어지거나, 또는 상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 상기 미리 설정된 값 이상일 때 상기 타겟 블록은 수평으로 나누어짐 - ; 및
상기 복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 단계를 더 포함하고; 그리고
상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 상기 인터 예측자를 가중 평균냄으로써 상기 타겟 블록의 상기 최종 예측자를 획득하는 단계는:
상기 복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 단계 - 상기 복수의 서브 최종 예측자 각각은 상기 인트라 예측자 및 상기 인터 예측자를 개개의 서브 블록에 대한 상기 서브 인트라 가중치 및 상기 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
상기 복수의 서브 최종 예측자의 합을 결정하는 단계; 및
비트의 수를 우측 시프트함으로써 상기 최종 예측자를 획득하는 단계를 더 포함하고, 상기 비트의 수는 상기 서브 인트라 가중치 및 상기 서브 인트라 가중치의 합의 로그에 의해 획득되는, 방법. - 제5항에 있어서,
상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 미만일 때 상기 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수직으로 나누어지거나, 또는 상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 대각선 모드의 각도 모드 인덱스 이상이고 우측 상단으로부터 좌측 하단으로의 상기 대각선 모드의 각도 모드 인덱스 이하일 때 상기 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수평으로 나누어지고;
상기 네 개의 동일한 크기의 서브 블록은 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록을 포함하고, 상기 제1 서브 블록, 상기 제2 서브 블록, 상기 제3 서브 블록 및 상기 제4 서브 블록은 각각: 상기 타겟 블록이 수직으로 나누어질 때 좌측으로부터 우측으로 배열되거나, 또는 상기 타겟 블록이 수평으로 나누어질 때 상단으로부터 하단으로 배열되고; 그리고
상기 제1 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 6 및 2이고;
상기 제2 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 5 및 3이고;
상기 제3 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 3 및 5이고; 그리고
상기 제4 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 2 및 6인, 방법. - 제1항에 있어서, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계는:
상기 타겟 블록이 임계치 이하인 크기를 가질 때, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계; 및
상기 타겟 블록이 임계치보다 큰 크기를 가질 때, 상기 타겟 블록의 상기 제1 인트라 예측 모드를 평면 모드로 결정하는 단계를 더 포함하는, 방법. - 제7항에 있어서, 상기 임계치는 1024와 동일한, 방법.
- 제1항에 있어서,
평면 모드를 전파된 인트라 예측 모드로 설정하는 단계; 및
상기 전파된 인트라 예측 모드를 통해 상기 타겟 블록의 이웃 블록에 대한 최고 확률 모드(most probable mode, MPM) 목록을 구성하는 단계를 더 포함하는, 방법. - 결합된 인터 및 인트라 예측(CIIP)을 수행하기 위한 방법으로서,
템플릿 기반 인트라 모드 도출(TIMD) 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 단계;
상기 제1 인트라 예측 모드를 통해 상기 타겟 블록의 인트라 예측자를 생성하는 단계;
상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 인터 예측자를 가중 평균냄으로써 상기 타겟 블록의 최종 예측자를 획득하는 단계; 및
상기 CIIP가 활성화되었다는 것을 나타내는 플래그 및 상기 TIMD 방법이 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하기 위해 사용된다는 것을 나타내는 인덱스를 시그널링하는 단계를 포함하는, 방법. - 제10항에 있어서, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서의 복수의 인트라 예측 모드와 각각 연관된 상기 타겟 블록의 절대 변환 차의 합(SATD)의 값을 계산하는 단계; 및
상기 복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 상기 타겟 블록의 상기 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법. - 제10항에 있어서, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계는:
TIMD 모드 목록에서 복수의 인트라 예측 모드와 각각 연관된 상기 타겟 블록의 SATD의 값을 계산하는 단계;
상기 복수의 인트라 예측 모드 중에서, 가장 작은 SATD 값을 갖는 인트라 예측 모드를 결정하고, 상기 가장 작은 SATD 값을 갖는 상기 인트라 예측 모드를 정규 인트라 예측 모드에 매핑하는 단계; 및
상기 정규 인트라 예측 모드를 상기 타겟 블록의 상기 제1 인트라 예측 모드로 결정하는 단계를 더 포함하는, 방법. - 제1항에 있어서, 상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 상기 인터 예측자를 가중 평균냄으로써 상기 타겟의 상기 최종 예측자를 획득하는 단계는:
상기 제1 인트라 예측 모드가 각도 모드라는 것에 응답하여, 상기 제1 인트라 예측 모드에 기초하여 인트라 가중치 및 인터 가중치를 결정하는 단계; 및
상기 타겟 블록의 인트라 예측자 및 상기 타겟 블록의 인터 예측자를 각각 상기 인트라 가중치 및 상기 인터 가중치로 가중 평균냄으로써 타겟 블록의 최종 예측자를 획득하는 단계를 더 포함하는, 방법. - 제13항에 있어서, 상기 제1 인트라 예측 모드에 기초하여 상기 인트라 가중치 및 상기 인터 가중치를 결정하는 단계는:
상기 타겟 블록을 복수의 서브 블록으로 나누는 단계 - 상기 제1 인트라 예측 모드의 각도 모드 인덱스가 미리 설정된 값 미만일 때 상기 타겟 블록은 수직으로 나누어지거나, 또는 상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 상기 미리 설정된 값 이상일 때 상기 타겟 블록은 수평으로 나누어짐 - ; 및
상기 복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 단계를 더 포함하고; 그리고
상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 상기 인터 예측자를 가중 평균냄으로써 상기 타겟 블록의 상기 최종 예측자를 획득하는 단계는:
상기 복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 단계 - 상기 복수의 서브 최종 예측자 각각은 상기 인트라 예측자 및 상기 인터 예측자를 개개의 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
상기 복수의 서브 최종 예측자의 합을 결정하는 단계; 및
비트의 수를 우측 시프트함으로써 상기 최종 예측자를 획득하는 단계를 더 포함하고, 상기 비트의 수는 상기 서브 인트라 가중치 및 상기 서브 인트라 가중치의 합의 로그에 의해 획득되는, 방법. - 제14항에 있어서,
상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 좌측 하단으로부터 우측 상단으로의 대각선 모드의 각도 모드 인덱스 이상이고 좌측 상단으로부터 우측 하단으로의 상기 대각선 모드의 각도 모드 인덱스 미만일 때 상기 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수직으로 나누어지거나, 또는 상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 좌측 상단으로부터 우측 하단으로의 상기 대각선 모드의 상기 각도 모드 인덱스 이상이고 우측 상단으로부터 좌측 하단으로의 상기 대각선 모드의 상기 각도 모드 인덱스 이하일 때 상기 타겟 블록은 네 개의 동일한 크기의 서브 블록으로 수평으로 나누어지고;
상기 네 개의 동일한 크기의 서브 블록은 제1 서브 블록, 제2 서브 블록, 제3 서브 블록 및 제4 서브 블록을 포함하고, 상기 제1 서브 블록, 상기 제2 서브 블록, 상기 제3 서브 블록 및 상기 제4 서브 블록은 각각: 상기 타겟 블록이 수직으로 나누어질 때 좌측으로부터 우측으로 배열되거나, 또는 상기 타겟 블록이 수평으로 나누어질 때 상단으로부터 하단으로 배열되고; 그리고
상기 제1 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 6 및 2이고;
상기 제2 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 5 및 3이고;
상기 제3 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 3 및 5이고; 그리고
상기 제4 서브 블록에 대한 상기 서브 인트라 가중치 및 서브 인터 가중치는 각각 2 및 6인, 방법. - 제10항에 있어서, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계는:
상기 타겟 블록이 임계치 이하인 크기를 가질 때, 상기 TIMD 방법을 사용하여 상기 타겟 블록의 상기 제1 인트라 예측 모드를 결정하는 단계; 및
상기 타겟 블록이 임계치보다 큰 크기를 가질 때, 상기 타겟 블록의 상기 제1 인트라 예측 모드를 평면 모드로 결정하는 단계를 더 포함하는, 방법. - 제16항에 있어서, 상기 임계치는 1024와 동일한, 방법.
- 제10항에 있어서,
평면 모드를 전파된 인트라 예측 모드로 설정하는 단계; 및
상기 전파된 인트라 예측 모드를 통해 상기 타겟 블록의 이웃 블록에 대한 최고 확률 모드(MPM) 목록을 구성하는 단계를 더 포함하는, 방법. - 비트스트림을 저장하는 비일시적 컴퓨터 판독 가능 매체로서, 상기 비트스트림은 인코딩된 비디오 데이터와 연관된 플래그 및 제1 인덱스를 포함하고, 상기 플래그는 인터 및 인트라 예측(CIIP)이 상기 인코딩된 비디오 데이터에 대해 사용된다는 것을 나타내고, 상기 제1 인덱스는 템플릿 기반 인트라 모드 도출(TIMD)이 상기 CIIP에 대해 사용된다는 것을 나타내고,
상기 플래그 및 상기 인덱스는 디코더로 하여금:
상기 TIMD 방법을 사용하여 타겟 블록의 제1 인트라 예측 모드를 결정하는 것;
상기 인트라 예측 모드를 통해 상기 타겟 블록의 인트라 예측자를 생성하는 것; 및
상기 타겟 블록의 상기 인트라 예측자 및 상기 타겟 블록의 인터 예측자를 가중 평균냄으로써 상기 타겟 블록의 최종 예측자를 획득하는 것을 하게 하는, 비일시적 컴퓨터 판독 가능 매체. - 제19항에 있어서, 상기 비트스트림은 상기 비디오 데이터와 연관된 각도 모드 인덱스를 추가로 포함하고, 상기 각도 모드 인덱스는 상기 디코더로 하여금:
상기 타겟 블록을 복수의 서브 블록으로 나누는 것 - 상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 미리 설정된 값 미만일 때 상기 타겟 블록은 수직으로 나누어지거나, 또는 상기 제1 인트라 예측 모드의 상기 각도 모드 인덱스가 미리 설정된 값 이상일 때 상기 타겟 블록은 수평으로 나누어짐 - ; 및
상기 복수의 서브 블록 각각에 대한 서브 인트라 가중치 및 서브 인터 가중치를 결정하는 것;
상기 복수의 서브 블록과 연관된 복수의 서브 최종 예측자를 각각 결정하는 것 - 상기 복수의 서브 최종 예측자 각각은 상기 인트라 예측자 및 상기 인터 예측자를 개개의 서브 블록에 대한 상기 서브 인트라 가중치 및 상기 서브 인터 가중치로 가중 평균냄으로써 결정됨 - ;
상기 복수의 서브 최종 예측자의 합을 결정하는 것; 및
비트의 수를 우측 시프트함으로써 상기 최종 예측자를 획득하는 것을 하게 하고, 상기 비트의 수는 상기 서브 인트라 가중치 및 상기 서브 인터 가중치의 합의 로그에 의해 획득되는, 비일시적 컴퓨터 판독 가능 매체.
Applications Claiming Priority (7)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202163215474P | 2021-06-27 | 2021-06-27 | |
| US63/215,474 | 2021-06-27 | ||
| US202163235110P | 2021-08-19 | 2021-08-19 | |
| US63/235,110 | 2021-08-19 | ||
| US17/808,212 US20220417511A1 (en) | 2021-06-27 | 2022-06-22 | Methods and systems for performing combined inter and intra prediction |
| US17/808,212 | 2022-06-22 | ||
| PCT/SG2022/050432 WO2023277804A2 (en) | 2021-06-27 | 2022-06-24 | Methods and systems for performing combined inter and intra prediction |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20240038959A true KR20240038959A (ko) | 2024-03-26 |
Family
ID=84541762
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020247001211A KR20240038959A (ko) | 2021-06-27 | 2022-06-24 | 결합된 인터 및 인트라 예측을 수행하기 위한 방법 및 시스템 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20220417511A1 (ko) |
| EP (1) | EP4364407A2 (ko) |
| KR (1) | KR20240038959A (ko) |
| CN (1) | CN117897952A (ko) |
| WO (1) | WO2023277804A2 (ko) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11943432B2 (en) * | 2021-04-26 | 2024-03-26 | Tencent America LLC | Decoder side intra mode derivation |
| US20220417501A1 (en) * | 2021-06-29 | 2022-12-29 | FG Innovation Company Limited | Device and method for coding video data |
| US12010316B2 (en) * | 2021-10-05 | 2024-06-11 | Tencent America LLC | Modification on fusion of intra prediction |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3453174A1 (en) * | 2016-05-06 | 2019-03-13 | VID SCALE, Inc. | Method and system for decoder-side intra mode derivation for block-based video coding |
| AU2019419454A1 (en) * | 2018-12-31 | 2021-07-15 | Vid Scale, Inc. | Combined inter and intra prediction |
| US11616966B2 (en) * | 2019-04-03 | 2023-03-28 | Mediatek Inc. | Interaction between core transform and secondary transform |
| WO2021060825A1 (ko) * | 2019-09-23 | 2021-04-01 | 한국전자통신연구원 | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 |
| US20240187633A1 (en) * | 2021-04-21 | 2024-06-06 | Beijing Bytedance Network Technology Co., Ltd. | Method, device, and medium for video processing |
| WO2022253319A1 (en) * | 2021-06-04 | 2022-12-08 | Beijing Bytedance Network Technology Co., Ltd. | Method, device, and medium for video processing |
-
2022
- 2022-06-22 US US17/808,212 patent/US20220417511A1/en active Pending
- 2022-06-24 WO PCT/SG2022/050432 patent/WO2023277804A2/en active Application Filing
- 2022-06-24 CN CN202280043503.XA patent/CN117897952A/zh active Pending
- 2022-06-24 EP EP22833779.6A patent/EP4364407A2/en active Pending
- 2022-06-24 KR KR1020247001211A patent/KR20240038959A/ko unknown
Also Published As
| Publication number | Publication date |
|---|---|
| WO2023277804A3 (en) | 2023-02-09 |
| US20220417511A1 (en) | 2022-12-29 |
| EP4364407A2 (en) | 2024-05-08 |
| CN117897952A (zh) | 2024-04-16 |
| WO2023277804A2 (en) | 2023-01-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11575926B2 (en) | Enhanced decoder side motion vector refinement | |
| KR20240038959A (ko) | 결합된 인터 및 인트라 예측을 수행하기 위한 방법 및 시스템 | |
| KR20220143859A (ko) | 크로마 신호를 처리하기 위한 방법 | |
| KR20220160038A (ko) | 비디오 코딩 데이터를 시그널링하기 위한 방법들 | |
| KR20230170037A (ko) | 기하학적 파티션 모드에 대한 움직임 벡터 정제를 위한 방법, 장치, 및 비일시적 컴퓨터 판독 가능 저장 매체 | |
| US20220038722A1 (en) | Methods and systems for prediction from multiple cross-components | |
| CN114902670B (zh) | 用信号通知子图像划分信息的方法和装置 | |
| CN116437086B (zh) | 用于在调色板模式下对视频数据进行编码的方法和装置 | |
| KR20230013103A (ko) | 비디오 처리에서의 타일 및 슬라이스 파티셔닝 | |
| KR20220160019A (ko) | 루프 필터의 높은 레벨 신택스 제어 | |
| WO2023131208A1 (en) | Fusion of video prediction modes | |
| US20230090025A1 (en) | Methods and systems for performing combined inter and intra prediction | |
| US20210329254A1 (en) | Bitrate control method for video coding | |
| EP4256787A1 (en) | Method for using adaptive loop filter and system thereof | |
| KR20220143870A (ko) | 최대 변환 크기 및 잔차 코딩 방법의 시그널링 | |
| KR20220161409A (ko) | 팔레트 예측을 위한 방법 | |
| KR20230015405A (ko) | 비디오 콘텐츠를 처리하기 위한 방법 및 장치 | |
| US11606577B2 (en) | Method for processing adaptive color transform and low-frequency non-separable transform in video coding | |
| JP2024522853A (ja) | 複合インター及びイントラ予測を行うための方法及びシステム | |
| US20220272363A1 (en) | Systems and methods for liner model derivation | |
| US20210306653A1 (en) | Methods for signaling residual coding method of transform skip blocks | |
| KR20240036574A (ko) | 교차-성분 적응형 루프 필터를 위한 방법 및 시스템 |