KR102616714B1 - 광학 흐름 정제를 위한 조기 종료 - Google Patents
광학 흐름 정제를 위한 조기 종료 Download PDFInfo
- Publication number
- KR102616714B1 KR102616714B1 KR1020217026337A KR20217026337A KR102616714B1 KR 102616714 B1 KR102616714 B1 KR 102616714B1 KR 1020217026337 A KR1020217026337 A KR 1020217026337A KR 20217026337 A KR20217026337 A KR 20217026337A KR 102616714 B1 KR102616714 B1 KR 102616714B1
- Authority
- KR
- South Korea
- Prior art keywords
- prediction
- motion vector
- block
- delete delete
- optical flow
- Prior art date
Links
- 230000003287 optical effect Effects 0.000 title claims abstract description 157
- 238000000746 purification Methods 0.000 title description 14
- 230000033001 locomotion Effects 0.000 claims abstract description 316
- 239000013598 vector Substances 0.000 claims abstract description 295
- 238000000034 method Methods 0.000 claims abstract description 201
- 230000008569 process Effects 0.000 claims abstract description 136
- 238000012545 processing Methods 0.000 claims description 54
- 238000004590 computer program Methods 0.000 claims description 5
- 238000013139 quantization Methods 0.000 description 80
- 230000006870 function Effects 0.000 description 39
- 238000000638 solvent extraction Methods 0.000 description 32
- 238000004891 communication Methods 0.000 description 29
- 241000023320 Luma <angiosperm> Species 0.000 description 24
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 24
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 21
- 238000005192 partition Methods 0.000 description 21
- 238000004364 calculation method Methods 0.000 description 20
- 230000005540 biological transmission Effects 0.000 description 11
- 238000009795 derivation Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 11
- 238000001914 filtration Methods 0.000 description 11
- 238000006073 displacement reaction Methods 0.000 description 10
- 230000002457 bidirectional effect Effects 0.000 description 9
- 230000000295 complement effect Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 238000003491 array Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 230000011664 signaling Effects 0.000 description 6
- 238000011524 similarity measure Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 6
- 230000003044 adaptive effect Effects 0.000 description 5
- 238000007781 pre-processing Methods 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000013500 data storage Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000036961 partial effect Effects 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 101150039623 Clip1 gene Proteins 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000009966 trimming Methods 0.000 description 2
- VBRBNWWNRIMAII-WYMLVPIESA-N 3-[(e)-5-(4-ethylphenoxy)-3-methylpent-3-enyl]-2,2-dimethyloxirane Chemical compound C1=CC(CC)=CC=C1OC\C=C(/C)CCC1C(C)(C)O1 VBRBNWWNRIMAII-WYMLVPIESA-N 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 238000007620 mathematical function Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/557—Motion estimation characterised by stopping computation or iteration based on certain criteria, e.g. error magnitude being too large or early exit
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
Abstract
디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 비디오 코딩 방법이 제공되며, 방법은, 현재 블록에 대한 초기 모션 벡터를 획득하는 단계; 초기 모션 벡터에 기초하여 현재 블록의 샘플 값에 대한 제1 예측을 획득하는 단계; 제1 예측에 따라 제1 매칭 비용을 계산하는 단계; 적어도 하나의 미리 설정된 조건에 따라, 광학 흐름 정제 프로세스가 수행되어야 하는지 여부를 결정하는 단계-적어도 하나의 미리 설정된 조건은 계산된 제1 매칭 비용이 임계치보다 크거나 같은지 여부의 조건을 포함함-; 및 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 현재 블록의 샘플 값에 대한 최종 인터 예측을 획득하기 위한 광학 흐름 정제 프로세스를 수행하는 단계;를 포함한다.
Description
본 발명은 화상 처리 분야에 관한 것으로, 더욱 상세하게는 특히 광학 흐름 정제에 관한 것이다.
삭제
비디오 코딩(비디오 인코딩 및 디코딩)은, 일례로 브로드캐스트 디지털 TV, 인터넷 및 모바일 네트워크를 통한 비디오 전송, 화상 채팅와 같은 실시간 대화 애플리케이션, 화상 회의, DVD 및 블루-레이 디스크, 비디오 컨텐츠 수집 및 편집 시스템, 및 보안 응용 프로그램의 캠코더와 같은, 넓은 범위의 디지털 비디오 애플리케이션에서 사용된다.
비교적 짧은 비디오를 묘사하는데 필요한 비디오 데이터의 양은 상당할 수 있으며, 이는 대역폭 용량이 제한된 통신 네트워크를 통해 데이터가 스트리밍되거나 통신될 때 어려움을 초래할 수 있다. 따라서, 비디오 데이터는 일반적으로 현대 통신 네트워크를 통해 통신되기 전에 압축된다. 메모리 리소스가 제한될 수 있으므로 비디오가 저장 디바이스에 저장될 때 비디오의 크기가 문제될 수도 있다. 비디오 압축 디바이스는 종종 소스에서 소프트웨어 및/또는 하드웨어를 사용하여 전송 또는 저장 전에 비디오 데이터를 코딩하여 디지털 비디오 이미지를 표현하는데 필요한 데이터 양을 줄인다. 압축된 데이터는 비디오 데이터를 디코딩하는 비디오 압축 해제 디바이스에 의해 데스티네이션(destination)에서 수신된다. 네트워크 자원이 제한되고 더 높은 비디오 품질에 대한 요구가 계속 증가함에 따라, 화상 품질을 거의 또는 전혀 희생하지 않고 압축률을 향상하는 개선된 압축 및 압축 해제 기법이 바람직하다.
최근, 인터 예측 코딩이 바이-예측 광학 흐름 정제를 통해 향상되었다. 이 기법은 코딩될 화상의 현재 블록의 인터 예측의 정확도를 향상할 수 있다. 그러나, 바이-예측 광학 흐름 정제는 연산 부하 측면에서 상대적으로 비용이 많이 든다. 따라서, 정확한 인터 예측과 연산 부하 사이의 절충안을 찾아야 한다. 본 발명은 이 문제를 해결한다.
본 출원의 실시예는 독립항에 따른 인코딩 및 디코딩을 위한 장치 및 방법을 제공한다.
전술한 및 다른 목적은 독립항의 주제에 의해 달성된다. 추가적인 구현 형태는 종속항, 설명 및 도면으로부터 명백하다.
디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 비디오 코딩 방법이 제공되며, 이 방법은,
현재 블록(예를 들어, 코딩 블록 또는 예측 블록 또는 서브-블록)에 대한 초기 모션 벡터를 획득하는 단계;
상기 초기 모션 벡터에 기초하여 상기 현재 블록의 샘플 값에 대한 제1 예측(인터 바이예측에 대한 2개의 예측 값)을 획득하는 단계;
상기 제1 예측에 따라 제1 매칭 비용(예를 들어, 일부 유사도(또는 비-유사도) 척도로 구성되거나 포함함; 또한 아래의 상세한 설명 참조)를 계산하는 단계;
적어도 하나의 미리 설정된 조건에 따라, 광학 흐름 정제 프로세스가 수행되어야 하는지 여부를 결정하는 단계-상기 적어도 하나의 미리 설정된 조건은 상기 계산된 제1 매칭 비용이 임계치보다 크거나 같은지 여부의 조건을 포함함-;
상기 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 상기 현재 블록의 샘플 값에 대한 최종 인터 예측을 획득하기 위한 광학 흐름 정제 프로세스를 수행하는 단계;를 포함한다.
따라서, 본 발명에 따르면, 광학 흐름 정제, 특히 양방향 광학 흐름 정제의 수행은 조건부로 수행된다. 상대적으로 비용이 많이 드는 광학 흐름 정제는 전체 인터 예측 프로세스의 정확도를 적절하고 바람직한 개선을 허용하는 특정 상황에서만 수행된다. 광학 흐름 정제가 광학 흐름 정제를 수행하는데 필요한 상대적으로 높은 연산 부하의 가치가 있는 인터 예측의 정확도의 향상을 초래하지 않을 것으로 판단되는 경우, 광학 흐름 정제가 억제될 수 있다. 따라서, 디코딩 시간이 현저하게 줄어들 수 있다. 상기 초기 모션 벡터는 비트스트림으로 시그널링될 수 있다. 대안적으로, 모션 벡터 예측 및 모션 벡터 차이 성분이 초기 모션 벡터에 대해 제공될 수 있다.
예를 들어, 상기 적어도 하나의 미리 설정된 조건은 상기 현재 블록이 디코더-측 모션 벡터 정제에 의해 예측되도록 허용되는 조건을 포함한다. 상기 적어도 하나의 미리 설정된 조건에 포함된 이 특정 조건은 불필요한 연산 노고를 피하기 위해 먼저 확인될 수 있다.
특정 실시예에 따르면, 상기 적어도 하나의 미리 설정된 조건의 모두가 충족되는 것으로 판단되는 경우, 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 결정된다. 상기 적어도 하나의 미리 설정된 조건은 원칙적으로 하나 이상의 추가적인 조건을 포함할 수 있다. 예를 들어, 상기 적어도 하나의 미리 설정된 조건은 상기 광학 정제 프로세스가 수행되도록 하기 위해 특정 플래그가 (예를 들어 1로) 설정되는 조건을 포함할 수 있다. 상기 조건이 모두 충족되지 않으면, 연산 요구량을 줄이기 위해 특정 실시예에 따라 광학 흐름 정제가 전혀 수행되지 않을 수 있다.
상기 현재 블록의 샘플 값에 대한 제1 예측은 일부 서브-픽셀 정확도를 달성하기 위해 제1 보간 필터에 기초하여 획득될 수 있다. 특히, 제1 보간 필터는 빠른 필터 처리를 허용하는 비교적 단순한 이중 선형 보간 필터일 수 있다.
디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 본 발명의 비디오 코딩 방법은 상기 광학 흐름 정제와 상이한 일부 모션 벡터 정제를 포함할 수 있다. 따라서, 이 방법은, 상기 초기 모션 벡터 및 상기 제1 매칭 비용에 기초하여 정제된 모션 벡터를 획득하는 단계; 상기 정제된 모션 벡터에 따라 상기 현재 블록의 상기 샘플 값에 대한 제2 예측을 획득하는 단계, 상기 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, (이미 정제된 예측을 표현하는) 상기 제2 예측에 기초하여 상기 광학 흐름 정제를 수행하는 단계;를 포함할 수 있다. 상기 인터 예측 프로세스의 전체적인 정확도는 정제된 모션 벡터의 채용에 의해 향상될 수 있다.
상기 제1 예측과 상기 제1 매칭 비용은 상기 모션 벡터 정제를 위해 이미 계산되었다. 따라서, 광학 흐름 정제 프로세스의 조기 종료/억제를 결정하기 위해 추가 계산이 필요하지 않지만, 모션 벡터 정제 프로세스와 관련된 이전 계산의 결과는 재사용될 수 있다.
본 발명의 방법의 전술한 실시예 각각에서, 상기 초기 모션 벡터에 기초하여 상기 현재 블록의 샘플 값에 대한 제1 예측을 획득하는 단계는 상기 초기 모션 벡터에 기초하여 여러 개의 후보 쌍들을 획득하는 단계 및 상기 후보 쌍들 중 적어도 하나에 기초하여 상기 현재 블록의 샘플 값에 대한 제1 예측을 획득하는 단계를 포함할 수 있고 상기 제1 예측에 따라 제1 매칭 비용을 계산하는 단계는 상기 제1 예측에 기초하여 상기 후보 쌍들의 각각에 대한 매칭 비용을 결정하는 단계 및 상기 결정된 매칭 비용 중 가장 작은 매칭 비용을 상기 제1 매칭 비용으로서 결정하는 단계를 포함할 수 있다.
상기 모션 벡터 정제 과정에서, 상기 정제된 모션 벡터에 대한 여러 개의 후보 쌍들이 획득될 수 있으며, 상기 쌍은 한 쌍의 상기 초기 모션 벡터를 포함한다. 예를 들어, 상기 정제된 모션 벡터에 대한 후보 쌍들은 한 쌍의 상기 초기 모션 벡터(MV0, MV1) 및 쌍들 (MV0 + (0,1), MV1 + (0,-1)), (MV0 + (1,0), MV1 + (-1,0)), (MV0 + (0,-1), MV1 + (0,1)), (MV0 + (-1,0), MV1 + (1,0))를 포함하며, 여기서 (1,-1)은 수평 (또는 x) 방향에서 1의 변위 및 수직 (또는 y) 방향에서 -1의 변위를 가지는 벡터를 나타낸다. 각각의 쌍에 대해 그 쌍에 대응하는 매칭 비용이 결정될 수 있고, 위에서 언급된 제1 매칭 비용은 정제된 모션 벡터에 대한 후보 쌍들에 대해 결정된 매칭 비용 중 가장 작은 것으로 결정될 수 있다. 특정 예시에 따르면, 정제된 모션 벡터(MV0' 및 MV1')를 가지는 초기 모션 벡터 (MV0, MV1) 또는 (MV0'=MV0 + (0,1), MV1'= MV1 + (0,-1))의 쌍에 대응하는 매칭 비용일 수 있다.
이와 같은 1차 매칭 비용의 채용은 전체적인 코딩 측면에서 유리할 수 있다.
상기 현재 블록의 샘플 값에 대한 위에서 언급한 제2 예측은 제2 보간 필터에 따라 획득될 수 있다. 이 제2 보간 필터는 6-탭 또는 8-탭 보간 필터일 수 있으며, 이는 비교적 고가이지만 서브-픽셀 정확도 측면에서 유리한 것이다.
위에서 언급한 정제된 모션 벡터는 인터 예측을 위한 정제된 모션 벡터의 적합성을 제어하기 위해 제2 매칭 비용에 따라 획득될 수 있다. 상기 제2 매칭 비용의 값이 다른 임계값보다 크거나 같은 경우, 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 결정될 수 있다. 그렇지 않으면, 임의의 광학 흐름 정제 처리를 수행할 가치가 없다고 결정될 수 있다.
다른 실시예에 따르면, 상기 광학 흐름 정제 프로세스가 수행되지 않아야 한다고 결정되는 경우에만, 상기 최종 인터 예측은 상기 제2 예측의 가중합에 의해 결정된다. 상기 제2 예측의 가중합은 상대적으로 비용이 드는 광학 흐름 정제 프로세스를 수행하기에 적절하지 않은 경우에 충분하다고 고려될 수 있는 정확도를 제공한다.
일반적으로, 상기 임계값 또는 상기 다른 임계값은 상기 제1 예측의 상기 비트-심도에 기초하여 연산되는 값일 수 있다. 또한, 상기 임계값은 상기 제1 예측에 따라 상기 제1 매칭 비용을 연산하는데 사용되는 예측된 샘플의 수에 따라 획득될 수 있다. 또한, 상기 임계값은 상기 현재 블록의 크기(픽셀의 수로 환산한 폭 및 높이)에 따라 획득될 수 있다. 예를 들어, 상기 임계치는 thr = nCbW x nCbH x K일 수 있으며, 여기서 K는 0보다 큰 값이고, nCbW 및 nCbH는 상기 현재 블록의 폭 및 높이이다. 예를 들어, K = 2이다.
또한, 상기 위에서 언급한 제2 매칭 비용은 모션 벡터 정제 중에 평가된 매칭 비용 및 상기 최소 매칭 비용 위치에 가까운 매칭 비용의 형태에 대한 미리 정의된 모델을 사용하여 획득되는 도출 비용일 수 있다. 이 맥락에서 미리 정의된 모델은 선형 조합 모델(linear combination model)일 수 있다. 상기 최소 매칭 비용 위치에 가까운 매칭 비용의 형태에 대한 미리 정의된 모델을 사용하면, 상기 인터 예측 프로세스의 정확도를 향상할 수 있다.
전술한 모든 실시예에 따른 방법은 현재 블록의 샘플 값에 대한 최종 인터 예측을 포함하는 인터 예측 블록을 생성하는 단계를 더 포함할 수 있다.
또한, 전술한 실시예 중 어느 하나에 따른 방법을 수행하기 위한 일부 처리 회로를 포함하는 인코더 또는 디코더가 제공된다. 또한, 전술한 실시예 중 어느 하나에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램 제품이 제공된다.
비디오 코딩 방법의 전술한 모든 변형은 디코더 또는 인코더에서 구현될 수 있다. 따라서, 다음을 포함하는 디코더 또는 인코더가 제공된다:
하나 이상의 프로세서 및 상기 프로세서에 결합되고 상기 프로세서에 의해 실행되기 위한 프로그래밍을 저장하는 비일시적 컴퓨터-판독 가능한 저장 매체-여기서, 상기 프로그래밍은, 상기 프로세서에 의해 실행되는 경우, 상기 디코더로 하여금 전술한 실시예 중 어느 하나에 따른 방법을 수행하도록 구성함-;.
비디오 코딩 방법의 전술한 변형들 모두는 위에서 언급된 필요를 해결하기 위해 이미지 인코더 및/또는 이미지 디코더에서 사용하기 위한 디바이스에서 구현될 수 있다. 따라서, 이미지 인코더 및/또는 이미지 디코더에서 사용되기 위한 디바이스가 제공되며, 상기 디바이스는, 현재 블록(예를 들어, 코딩 블록 또는 예측 블록 또는 서브-블록)에 대한 초기 모션 벡터를 획득하도록 구성되는 초기 모션 벡터 유닛; 상기 초기 모션 벡터에 기초하여 상기 현재 블록의 샘플 값에 대한 제1 예측을 획득하도록 구성되는 제1 예측 유닛; 상기 제1 예측에 따라 제1 매칭 비용(예를 들어, 유사도 또는 비-유사도 척도)를 계산하도록 구성되는 제1 매칭 비용 계산 유닛; 적어도 하나의 미리 설정된 조건에 따라, 광학 흐름 정제 프로세스가 수행되어야 하는지 여부를 결정하도록 구성되는 광학 흐름 정제 프로세스 결정 유닛-상기 적어도 하나의 미리 설정된 조건은 상기 계산된 제1 매칭 비용이 임계치보다 크거나 같은지 여부의 조건을 포함함-; 및 상기 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 상기 현재 블록의 샘플 값에 대한 최종 인터 예측을 획득하기 위한 광학 흐름 정제 프로세스를 수행하도록 구성되는 광학 흐름 정제 프로세스 수행 유닛;을 포함한다.
위에서 설명된 바와 같은 그리고 아래에서 설명되는 그 변형을 가지는 이 디바이스는 전술한 방법과 동일한 이점을 제공한다.
상기 적어도 하나의 미리 설정된 조건은 상기 현재 블록이 디코더-측 모션 벡터 정제에 의해 예측되도록 허용되는 조건을 포함할 수 있다.
상기 광학 흐름 정제 프로세스 결정 유닛은 상기 적어도 하나의 미리 설정된 조건의 모두가 충족되는 것으로 판단되는 경우, 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 결정하도록 구성될 수 있다.
상기 디바이스는 제1 보간 필터(예를 들어, 이중 선형 보간 필터)를 포함할 수 있고, 상기 제1 예측 유닛은 상기 제1 보간 필터에 의해 상기 현재 블록의 샘플 값에 대한 제1 예측을 획득하도록 구성될 수 있다.
상기 디바이스는, 상기 초기 모션 벡터 및 상기 제1 매칭 비용에 기초하여 정제된 모션 벡터를 획득하도록 구성되는 정제된 모션 벡터 유닛;
상기 정제된 모션 벡터에 따라 상기 현재 블록의 샘플 값에 대한 제2 예측을 획득하도록 구성되는 제2 예측 유닛; 을 더 포함할 수 있으며,
상기 광학 흐름 정제 프로세스 수행 유닛은 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 상기 광학 흐름 정제 프로세스 결정 유닛에 의해 결정되는 경우, 상기 제2 예측에 기초하여 상기 광학 흐름 정제를 수행하도록 구성될 수 있다.
상기 디바이스의 전술한 실시예에서, 상기 제1 예측 유닛은, 상기 초기 모션 벡터에 기초하여 여러 개의 후보 쌍들을 획득하고 상기 후보 쌍들 중 적어도 하나에 기초하여 상기 현재 블록의 샘플 값에 대한 제1 예측을 획득함으로써 상기 초기 모션 벡터에 기초하여 상기 현재 블록의 샘플 값에 대한 제1 예측을 획득하도록 구성될 수 있다. 또한, 상기 제1 매칭 비용 계산 유닛은, 상기 제1 예측에 기초하여 상기 후보 쌍들의 각각에 대한 매칭 비용을 결정하고 상기 결정된 매칭 비용 중 가장 작은 매칭 비용을 상기 제1 매칭 비용으로서 결정함으로써 상기 제1 예측에 따라 상기 제1 매칭 비용을 계산하도록 구성될 수 있다.
실시예에 따르면, 상기 디바이스는 제2 보간 필터 (예를 들어, 상대적으로 높은 서브-픽셀 정확도의 상대적으로 고가의 6-탭 또는 8-탭 보간 필터)를 더 포함할 수 있고, 상기 제2 예측 유닛은 상기 제2 보간 필터에 의해 상기 현재 블록의 샘플 값에 대한 제2 예측을 획득하도록 구성될 수 있다.
다른 실시예에 따르면, 상기 디바이스는 제2 매칭 비용을 계산하도록 구성되는 제2 매칭 비용 계산 유닛을 더 포함하며, 상기 정제된 모션 벡터 유닛은 상기 제2 매칭 비용에 따라 상기 정제된 모션 벡터를 획득하도록 구성된다. 이 경우, 상기 광학 흐름 정제 프로세스 결정 유닛은 상기 제2 매칭 비용의 값이 다른 임계값보다 크거나 같은 경우 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 결정하도록 구성될 수 있다.
상기 디바이스는, 상기 광학 흐름 정제 프로세스가 수행되지 않아야 한다고 상기 광학 흐름 정제 프로세스 결정 유닛에 의해 결정되는 경우에만 상기 제2 예측의 가중합에 의해 상기 최종 인터 예측을 획득하도록 구성되는 가중합 예측 유닛을 더 포함할 수 있다.
또한, 상기 디바이스는, 상기 제1 예측의 비트-심도에 기초하여 상기 임계값 또는 상기 다른 임계치를 계산하도록 구성되는 임계 계산 유닛을 포함할 수 있다. 또한, 상기 디바이스는, 상기 제1 매칭 비용 계산 유닛에 의해 상기 제1 예측에 따라 상기 제1 매칭 비용을 연산하는데 사용되는 예측된 샘플의 수에 따라 상기 임계치를 계산하도록 구성되는 임계 계산 유닛을 더 포함할 수 있다. 또한, 상기 디바이스는, 상기 현재 블록의 크기에 따라 상기 임계치를 계산하도록 구성되는 임계 계산 유닛을 더 포함할 수 있다. 예를 들어, 상기 임계치는 thr = nCbW x nCbH x K일 수 있으며, 여기서 K는 0보다 큰 값이고, nCbW 및 nCbH는 상기 현재 블록의 폭 및 높이이다. 예를 들어, K = 2이다.
특정 실시예에 따르면, 상기 제2 매칭 비용 계산 유닛은, 상기 제2 매칭 비용을 상기 정제된 모션 벡터 유닛에 의해 수행되는 모션 벡터 정제 중에 평가된 매칭 비용 및 상기 최소 매칭 비용 위치에 가까운 매칭 비용의 형태에 대한 미리 정의된 모델(예를 들어, 선형 조합 모델)을 사용하여 획득되는 도출 비용으로서 계산하도록 구성된다.
전술한 실시예 중 어느 하나에 따른 디바이스는, 상기 현재 블록의 샘플 값에 대한 최종 인터 예측을 포함하는 인터 예측 블록을 생성하도록 구성되는 인터 예측 블록 생성 유닛을 더 포함할 수 있다.
하나 이상의 실시예의 세부사항은 첨부 도면 및 아래의 설명에 설명되어 있다. 다른 특징, 목적 및 이점은 설명, 도면 및 청구범위에서 명백할 것이다.
본 발명의 다음의 실시예는 첨부된 도면 및 도면을 참조하여 보다 상세하게 설명된다.
도 1a는 본 발명의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 예시를 도시하는 블록도이다.
도 1b는 본 발명의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 다른 예를 도시하는 블록도이다.
도 2는 본 발명의 실시예들을 구현하도록 구성되는 비디오 인코더의 예시를 도시하는 블록도이다.
도 3은 본 발명의 실시예들을 구현하도록 구성되는 비디오 디코더의 예시적인 구조를 도시하는 블록도이다.
도 4는 인코딩 장치 또는 디코딩 장치의 예시를 도시하는 블록도이다.
도 5는 인코딩 장치 또는 디코딩 장치의 다른 예를 도시하는 블록도이다.
도 6은 광학 정제 프로세스의 실시예를 도시하는 흐름도이다.
도 7은 광학 정제 프로세스의 다른 실시예를 도시하는 흐름도이다.
도 8은 광학 정제 프로세스의 다른 실시예를 도시하는 흐름도이다.
도 9는 광학 정제 프로세스의 다른 실시예를 도시하는 흐름도이다.
도 10은 본 발명의 일 실시예에 따른 디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 비디오 코딩 방법을 도시하는 흐름도이다.
도 11은 본 발명의 일 실시예에 따른 이미지 인코더 및/또는 이미지 디코더에서 사용되기 위한 디바이스를 도시한다.
아래에서, 동일한 참조 부호는, 달리 명시적으로 지정되지 않는 한, 동일하거나 적어도 기능적으로 동등한 특징을 나타낸다.
도 1a는 본 발명의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 예시를 도시하는 블록도이다.
도 1b는 본 발명의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 다른 예를 도시하는 블록도이다.
도 2는 본 발명의 실시예들을 구현하도록 구성되는 비디오 인코더의 예시를 도시하는 블록도이다.
도 3은 본 발명의 실시예들을 구현하도록 구성되는 비디오 디코더의 예시적인 구조를 도시하는 블록도이다.
도 4는 인코딩 장치 또는 디코딩 장치의 예시를 도시하는 블록도이다.
도 5는 인코딩 장치 또는 디코딩 장치의 다른 예를 도시하는 블록도이다.
도 6은 광학 정제 프로세스의 실시예를 도시하는 흐름도이다.
도 7은 광학 정제 프로세스의 다른 실시예를 도시하는 흐름도이다.
도 8은 광학 정제 프로세스의 다른 실시예를 도시하는 흐름도이다.
도 9는 광학 정제 프로세스의 다른 실시예를 도시하는 흐름도이다.
도 10은 본 발명의 일 실시예에 따른 디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 비디오 코딩 방법을 도시하는 흐름도이다.
도 11은 본 발명의 일 실시예에 따른 이미지 인코더 및/또는 이미지 디코더에서 사용되기 위한 디바이스를 도시한다.
아래에서, 동일한 참조 부호는, 달리 명시적으로 지정되지 않는 한, 동일하거나 적어도 기능적으로 동등한 특징을 나타낸다.
다음의 설명에서, 첨부된 도면을 참조하며, 이는 본 발명의 일부를 형성하고, 도시를 통해, 본 발명의 실시예의 특정 측면 또는 본 개시의 실시예가 사용될 수 있는 특정 측면을 보여준다. 본 발명의 실시예는 다른 측면에서 사용될 수 있고 도면에 도시되지 않은 구조적 또는 논리적 변경을 포함할 수 있음이 이해된다. 따라서, 다음의 상세한 설명은 제한적인 의미로 받아들여서는 안되며, 본 발명의 범위는 첨부된 청구 범위에 의해 정의된다.
예를 들어, 설명된 방법과 관련된 개시는 방법을 수행하도록 구성되는 대응하는 장치 또는 시스템에 대해 또한 참일 수 있고, 그 반대의 경우도 마찬가지인 것으로 이해된다. 예를 들어, 하나 또는 복수의 특정 방법 단계가 설명되면, 대응하는 장치는 설명된 하나 또는 복수의 방법 단계를 수행하는 하나 또는 복수의 유닛, 예컨대 기능적 유닛(예컨대, 하나 또는 복수의 단계를 수행하는 하나의 유닛, 또는 상기 복수의 단계 중 하나 이상을 각각 수행하는 복수의 유닛)을, 그러한 하나 이상의 유닛이 명시적으로 기술되지 않거나 도면에 도시되지 않더라도, 포함할 수 있다. 한편, 예를 들어, 특정 장치가 하나 또는 복수의 유닛, 예컨대 기능적 유닛에 기초하여 설명된 경우, 대응하는 방법은, 하나 또는 복수의 유닛의 기능을 수행하는 하나의 단계(예컨대, 하나 또는 복수의 유닛의 기능을 수행하는 하나의 단계, 또는 상기 복수의 유닛 중 하나 이상의 기능을 각각 수행하는 복수의 단계)를, 그러한 하나 또는 복수의 단계가 명시적으로 기술되지 않거나 도면에 도시되지 않더라도, 포함할 수 있다. 또한, 특별히 달리 언급되지 않는 한, 여기에서 설명된 다양한 실시예 및/또는 측면의 특징은 서로 조합될 수 있다는 것이 이해된다.
비디오 코딩은 일반적으로 비디오 또는 비디오 시퀀스를 형성하는, 화상의 시퀀스를 프로세싱하는 것을 지칭한다. 용어 "화상" 대신에 용어 "프레임" 또는 "이미지"가 비디오 코딩 분야에서 동의어로 사용될 수 있다. 비디오 코딩(또는 일반적으로 코딩)은 비디오 인코딩 및 비디오 디코딩의 두 부분을 포함한다. 비디오 인코딩은, (더 효율적인 저장 및/또는 전송을 위해) 비디오 화상을 표현하는데 요구되는 데이터의 양을 줄이기 위해 (예를 들어, 압축에 의해) 원본 비디오 화상을 처리하는 것을 통상적으로 포함하여, 소스 측에서 수행된다. 비디오 디코딩은 데스티네이션 측에서 수행되고 일반적으로 비디오 화상을 재구성하기 위해 인코더에 대비한 역처리를 포함한다. 비디오 화상(또는, 일반적으로 화상)의 코딩을 참조하는 실시예는 각각의 비디오 시퀀스에 대한 비디오 화상의 "인코딩" 또는 "디코딩"에 관한 것으로 이해되어야 한다. 인코딩 부분과 디코딩 부분의 조합은 CODEC(Coding and Decoding)으로 또한 지칭된다.
무손실 비디오 코딩의 경우, 원본 비디오 화상을 재구성할 수 있으며, 즉, 재구성된 비디오 화상은 (저장 또는 전송 중에 전송 손실이나 기타 데이터 손실이 없다고 가정하면) 원본 비디오 화상과 동일한 품질을 가진다. 손실 비디오 코딩의 경우, 예컨대 양자화에 의해, 추가 압축이 수행되어, 비디오 화상을 표현하는 데이터의 양을 줄여, 디코더에서 완전히 재구성될 수 없게 되며, 즉, 재구성된 비디오 화상의 품질이 원본 비디오 화상의 품질에 비해 낮거나 나쁘다.
여러 비디오 코딩 표준은, "손실 하이브리드 비디오 코덱(lossy hybrid video codecs)"의 그룹에 속한다(즉, 샘플 도메인에서의 공간적 및 시간적 예측과 변환 도메인에서 양자화를 적용하기 위한 2D 변환 코딩을 조합한다). 비디오 시퀀스의 각각의 화상은 일반적으로 중첩되지 않는 블록의 세트로 분할되고, 코딩은 일반적으로 블록 레벨에서 수행된다. 달리 말하면, 인코더에서는, 비디오는 통상적으로 블록(비디오 블록) 레벨에서 예컨대 공간적(인트라 화상) 예측 및/또는 시간적(인터 화상) 예측을 사용하여 처리 즉 인코딩되어, 예측 블록을 생성하고, 현재 블록(현재 처리되는/처리될 블록)으로부터 예측 블록을 차감하여 잔차 블록을 획득하고, 잔차 블록을 변환하고 변환 도메인에서 잔차 블록을 양자화하여 전송될 데이터의 양을 줄이며(압축), 한편 디코더에서는, 인코더에 대비해 역처리가 인코딩된 또는 압축된 블록에 적용되어, 현재 블록을 표현하기 위해 재구성한다. 또한, 인코더는 디코더 처리 루프를 복제하여, 프로세싱, 즉, 코딩, 후속 블록을 처리, 즉 코딩하기 위해 동일한 예측(예컨대 인트라- 및 인터 예측) 및/또는 재구성을 생성할 것이다.
비디오 코딩 시스템(10)의 다음 실시예에서, 비디오 인코더(20) 및 비디오 디코더(30)가 도 1 내지 도 3에 기초하여 설명된다.
도 1a는 본 출원의 기법을 활용할 수 있는 예시적인 코딩 시스템(10), 예컨대 비디오 코딩 시스템(10)(또는 간단히 코딩 시스템(10))을 도시하는 개략적인 블록도이다. 비디오 코딩 시스템(10)의 비디오 인코더(20)(또는 간단히 인코더 20) 및 비디오 디코더(30)(또는 간단히 디코더(30))는 본 출원에서 기술되는 다양한 예시에 따른 기법을 수행하도록 구성될 수 있는 디바이스의 예시를 나타낸다.
도 1a에 도시된 바와 같이, 코딩 시스템(10)은, 인코딩된 화상 데이터(13)의 디코딩을 위해 인코딩된 화상 데이터(21)을 예컨대 데스티네이션 디바이스(14)로 제공하도록 구성되는 소스 디바이스(12)를 포함한다.
소스 디바이스(12)는 인코더(20)를 포함하고, 추가적으로, 즉, 선택사항으로, 화상 소스(16), 전처리기(또는 전처리 유닛)(18), 예컨대 화상 전처리기(18), 및 통신 인터페이스 또는 통신 유닛(22)을 포함할 수 있다.
화상 소스(16)는, 임의의 종류의 화상 캡처 디바이스, 일례로 실제 화상을 캡처하는 카메라, 및/또는 임의의 종류의 화상 생성 디바이스, 일례로 컴퓨터 애니메이션 화상을 생성하는 컴퓨터-그래픽 프로세서, 또는 실제 화상, 컴퓨터 생성 화상(예컨대 스크린 컨텐츠, 가상 현실(VR) 화상) 및/또는 이들의 임의의 조합(예컨대 증강 현실(AR) 화상)을 획득 및/또는 제공하기 위한 임의의 종류의 다른 디바이스이거나 이를 포함할 수 있다. 화상 소스는 전술한 화상 중 어느 하나를 저장하는 임의의 종류의 메모리 또는 스토리지일 수 있다.
전처리기(18) 및 전처리 유닛(18)에 의해 수행되는 처리와 구별하여, 화상 또는 화상 데이터(17)는 또한 원시(raw) 화상 또는 원시 화상 데이터(17)로 지칭될 수 있다.
전처리기(18)는 (원시) 화상 데이터(17)를 수신하고, 화상 데이터(17)에 대해 전처리를 수행하여 전처리된 화상(19) 또는 전처리된 화상 데이터(19)를 획득하도록 구성된다. 전처리기(18)에 의해 수행되는 전처리는 예를 들어 트리밍(trimming), 컬러 포맷 변환(예를 들어, RGB로부터 YCbCr로), 컬러 보정(color correction) 또는 노이즈 제거(de-noising)를 포함할 수 있다. 전처리 유닛(18)은 선택적 콤포넌트일 수 있음을 이해할 수 있다.
비디오 인코더(20)는 전처리된 화상 데이터(19)를 수신하고, 인코딩된 화상 데이터(21)를 제공하도록 구성된다(자세한 내용은 예를 들어, 도 2에 기초하여 아래에서 설명될 것이다).
소스 디바이스(12)의 통신 인터페이스(22)는 인코딩된 화상 데이터(21)를 수신하고, 통신 채널(13)을 통해 인코딩된 화상 데이터(21)(또는 그의 추가 처리된 버전)를 다른 디바이스, 예를 들어, 저장 또는 직접 재구성을 위한, 데스티네이션 디바이스(14) 또는 임의의 다른 디바이스로 전송하도록 구성될 수 있다.
데스티네이션 디바이스(14)는 디코더(30)(예를 들어, 비디오 디코더(30))를 포함하고, 추가적으로, 즉 선택적으로 통신 인터페이스 또는 통신 유닛(28), 후처리기(post-processor)(32)(또는 후처리 유닛(32)) 및 디스플레이 디바이스(34)를 포함할 수 있다.
데스티네이션 디바이스(14)의 통신 인터페이스(28)는 예를 들어 소스 디바이스(12)로부터 직접 또는 임의의 다른 소스, 예를 들어, 저장 디바이스, 예를 들어, 인코딩된 화상 데이터 저장 디바이스로부터, 인코딩된 화상 데이터(21)(또는 그것의 추가 처리된 버전)를 수신하고, 인코딩된 화상 데이터(21)를 디코더(30)에 제공하도록 구성된다.
통신 인터페이스(22) 및 통신 인터페이스(28)는 소스 디바이스(12)와 데스티네이션 디바이스(14) 사이의 직접 통신 링크, 예를 들어 직접 유선 또는 무선 연결을 통해, 또는 임의의 종류의 네트워크, 예를 들어 유선 또는 무선 네트워크 또는 이들의 임의의 조합, 또는 임의의 종류의 사설 및 공용 네트워크, 또는 이들의 임의의 종류의 조합을 통해, 인코딩된 화상 데이터(21) 또는 인코딩된 데이터(13)를 전송 또는 수신하도록 구성될 수 있다.
통신 인터페이스(22)는 예를 들어, 인코딩된 화상 데이터(21)를 적절한 포맷, 예를 들어 패킷으로 패키징하거나, 및/또는 임의의 종류의 전송 인코딩 또는 통신 링크 또는 통신 네트워크를 통한 전송을 위한 처리를 사용하여, 인코딩된 화상 데이터를 처리하도록 구성될 수 있다.
통신 인터페이스(22)의 대응물을 형성하는 통신 인터페이스(28)는 예를 들어, 전송된 데이터를 수신하고 임의의 종류의 대응하는 전송 디코딩 또는 처리 및/또는 디패키징(de-packaging)을 사용하여 전송 데이터를 처리하여 인코딩된 화상 데이터(21)를 획득하도록 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28) 모두는 도 1a에서 소스 디바이스(12)에서 데스티네이션 디바이스(14)를 가리키는 통신 채널(13)에 대한 화살표에 의해 지시된 바와 같은 단방향 통신 인터페이스 또는 양방향 통신 인터페이스로서 구성될 수 있으며, 예를 들어, 메시지를 송신 및 수신하여, 예를 들어, 연결을 설정하여, 통신 링크 및/또는 데이터 전송, 예를 들어 인코딩된 화상 데이터 전송에 관련된 기타 정보를 확인 및 교환하도록 구성될 수 있다.
디코더(30)은 인코딩된 화상 데이터(21)를 수신하도록 그리고 디코딩된 화상 데이터(31) 또는 디코딩된 화상(31)(예컨대, 도 3 또는 도 5에 기초하여 아래에서 더욱 상세히 설명된다)을 제공하도록 구성된다.
데스티네이션 디바이스(14)의 후처리기(32)는 디코딩된 화상 데이터(31)(또한 재구성된 화상 데이터라고도 함), 예를 들어, 디코딩된 화상 데이터(33)를 후처리하여, 후처리된 화상 데이터(33), 예를 들어, 후처리된 화상(33)을 획득하도록 구성된다. 후처리 유닛(32)에 의해 수행되는 후처리는 예를 들어, 컬러 포맷 변환(예를 들어, YCbCr로부터 RGB로), 컬러 보정, 트리밍 또는 재샘플링(re-sampling), 또는 임의의 다른 처리, 예를 들어 디스플레이 디바이스(34)에 의한 디스플레이를 위해 디코딩된 화상 데이터(31)를 준비하는 것을 포함할 수 있다.
데스티네이션 디바이스(14)의 디스플레이 디바이스(34)는 예를 들어 사용자 또는 뷰어에게 화상을 디스플레이하기 위해 후처리된 화상 데이터(33)를 수신하도록 구성된다. 디스플레이 디바이스(34)는 재구성된 화상을 표현하기 위한 임의의 종류의 디스플레이, 예를 들어 통합 또는 외부 디스플레이 또는 모니터이거나 이를 포함할 수 있다. 디스플레이는 예를 들어 액정 디스플레이(liquid crystal display, LCD), 유기 발광 다이오드(organic light emitting diode, OLED) 디스플레이, 플라즈마 디스플레이, 프로젝터, 마이크로 LED 디스플레이, 액정 온 실리콘(liquid crystal on silicon, LCoS), 디지털 광 프로세서(digital light processor, DLP) 또는 모든 종류의 다른 디스플레이를 포함할 수 있다.
비록 도 1a는 소스 디바이스(12) 및 데스티네이션 디바이스(14)를 별개의 디바이스로서 도시하지만, 디바이스의 실시예는 또한 둘 또는 둘 모두의 기능, 소스 디바이스(12) 또는 대응하는 기능 및 데스티네이션 디바이스(14) 또는 대응하는 기능을 포함할 수 있다. 이러한 실시예에서, 소스 디바이스(12) 또는 대응하는 기능 및 데스티네이션 디바이스(14) 또는 대응하는 기능은, 동일한 하드웨어 및/또는 소프트웨어를 사용하거나 별개의 하드웨어 및/또는 소프트웨어 또는 이들의 임의의 조합에 의해 구현될 수 있다.
설명에 기초하여 당업자에게 명백한 바와 같이, 도 1a에 도시된 바와 같이 소스 디바이스(12) 및/또는 데스티네이션 디바이스(14) 내의 상이한 유닛의 기능 또는 기능의 존재 및 (정확한) 분할(split)은 실제 디바이스 및 애플리케이션에 따라 다를 수 있다.
인코더(20)(예: 비디오 인코더(20)) 또는 디코더(30)(예: 비디오 디코더(30)) 혹은 이들 모두는 하나 이상의 마이크로 프로세서, 디지털 신호 프로세서(digital signal processor, DSP), 주문형 집적 회로(application-specific integrated circuit, ASIC), 필드 프로그래밍 가능 게이트 어레이(field-programmable gate array, FPGA), 이산 로직, 하드웨어 또는 이들의 조합과 같은, 도 1b에 도시된 바와 같이 다양한 적절한 회로 중 임의의 것으로 구현될 수 있다. 인코더(20)는 처리 회로(46)를 통해 구현될 수 있어, 도 2의 인코더(20)와 관련하여 논의되는 다양한 모듈 및/또는 여기에서 기술되는 임의의 다른 인코더 시스템 또는 서브시스템을 구현할 수 있다. 디코더(30)는 처리 회로(46)를 통해 구현될 수 있어, 도 3의 디코더(30)과 관련하여 논의되는 다양한 모듈 및/또는 여기에서 기술되는 임의의 다른 디코더 시스템 또는 서브시스템을 구현할 수 있다. 처리 회로는 후에 논의되는 다양한 동작을 수행하도록 구성될 수 있다. 도 5에 도시된 바와 같이, 기술이 부분적으로 소프트웨어로 구현되는 경우, 디바이스는 적절한 비일시적 컴퓨터-판독 가능한 저장 매체에 소프트웨어에 대한 명령을 저장할 수 있고, 하나 이상의 프로세서를 사용하여 하드웨어에서 명령을 실행하여 본 개시의 방법을 수행할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30) 중 어느 하나는 예를 들어 도 1b에 도시된 바와 같이 단일 디바이스에서 결합된 인코더/디코더(CODEC)의 일부로서 통합될 수 있다.
소스 디바이스(12) 및 데스티네이션 디바이스(14)는 임의의 종류의 핸드헬드 또는 고정 디바이스, 예를 들어 노트북 또는 랩톱 컴퓨터, 휴대폰, 스마트 폰, 태블릿 또는 태블릿 컴퓨터, 카메라, 데스크톱 컴퓨터, 셋탑 박스, 텔레비전, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게임 콘솔, 비디오 스트리밍 디바이스(예: 콘텐츠 서비스 서버 또는 콘텐츠 전달 서버), 방송 수신기 디바이스, 방송 송신기 디바이스 등을 포함하는, 광범위한 디바이스를 포함할 수 있으며, 임의의 운영 체제를 사용하지 않거나 또는 사용할 수 있다. 일부 경우에, 소스 디바이스(12) 및 데스티네이션 디바이스(14)는 무선 통신을 장착할 수 있다. 따라서, 소스 디바이스(12) 및 데스티네이션 디바이스(14)는 무선 통신 디바이스일 수 있다.
일부 경우에, 도 1a에 도시된 비디오 코딩 시스템(10)은 단지 예일 뿐이고, 본 출원의 기술은 인코딩 디바이스와 디코딩 디바이스 사이의 임의의 데이터 통신을 반드시 포함하지 않는 비디오 코딩 설정(예: 비디오 인코딩 또는 비디오 디코딩)에 적용될 수 있다. 다른 예에서, 데이터가 로컬 메모리로부터 검색되고, 네트워크를 통해 스트리밍된다. 비디오 인코딩 디바이스는 데이터를 인코딩하고 메모리에 저장할 수 있거나, 및/또는 비디오 디코딩 디바이스는 메모리로부터 데이터를 검색하고 디코딩할 수 있다. 일부 예에서, 인코딩 및 디코딩은 서로 통신하지 않고 단순히 데이터를 메모리로 인코딩하고 및/또는 메모리로부터 데이터를 검색 및 디코딩하는 디바이스에 의해 수행된다.
설명의 편의를 위해, 본 개시의 실시예는 예를 들어, HEVC(High-Efficiency Video Coding) 또는 ITU-T VCEG(Video Coding Experts Group) 및 ISO/IEC MPEG(Motion Picture Experts Group)의 JCT-VC(Joint Collaboration Team on Video Coding )에 의해 개발된 차세대 비디오 코딩 표준인, VVC(Versatile Video Coding)의 참조 소프트웨어를 참조하여 여기에 설명된다. 당업자는 본 개시의 실시예가 HEVC 또는 VVC에 제한되지 않음을 이해할 것이다.
인코더 및 인코딩 방법
도 2는 본 출원의 기법을 구현하도록 구성되는 예시적인 비디오 인코더(20)의 개략적 블록도를 도시한다. 도 2의 예에서, 비디오 인코더(20)는, 입력(201)(또는 입력 인터페이스(201)), 잔차 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 역 양자화 유닛(210), 및 역변환 처리 유닛(212), 재구성 유닛(214), 루프 필터 유닛(220), 디코딩된 화상 버퍼(DPB)(230), 모드 선택 유닛(260), 엔트로피 인코딩 유닛(270), 및 출력(272)(또는 출력 인터페이스(272)을 포함한다. 모드 선택 유닛(260)은 인터 예측 유닛(244), 인트라 예측 유닛(254), 및 파티셔닝 유닛(262)을 포함할 수 있다. 인터 예측 유닛(244)은 모션 추정(motion estimation) 유닛 및 모션 보상(motion compensation) 유닛(도시하지 않음)을 포함할 수 있다. 도 2에 도시된 바와 같은 비디오 인코더(20)는 하이브리드 비디오 인코더 또는 하이브리드 비디오 코덱에 따른 비디오 인코더로도 또한 지칭될 수 있다.
잔차 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 모드 선택 유닛(260)은 인코더(20)의 순방향 신호 경로를 형성하는 것으로 지칭될 수 있는 반면, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 버퍼(216), 루프 필터(220), 디코딩된 화상 버퍼(DPB)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더의 역방향 신호 경로를 형성하는 것으로 지칭될 수 있으며, 여기서 비디오 인코더(20)의 역방향 신호 경로는 디코더의 신호 경로에 대응한다(도 3의 비디오 디코더(30) 참조). 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), 디코딩 화상 버퍼(DPB)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)도 비디오 인코더(20)의 "내장 디코더(built-in decoder)"를 형성하는 것으로 지칭될 수 있다.
화상 & 화상 파티셔닝(화상 & 블록)
인코더(20)는 예를 들어 입력(201)을 통해, 화상(17)(또는 화상 데이터(17)), 예를 들어 비디오 또는 비디오 시퀀스를 형성하는 화상 시퀀스의 화상을 수신하도록 구성될 수 있다. 수신된 화상 또는 화상 데이터는 또한 전처리된 화상(19)(또는 전처리된 화상 데이터(19))일 수 있다. 단순화를 위해 다음 설명은 화상(17)을 참조한다. 화상(17)은 또한 (특히, 현재 화상을 다른 화상, 예를 들어, 동일한 비디오 시퀀스, 즉 현재 화상도 포함하는 비디오 시퀀스의 이전에 인코딩 및/또는 디코딩된 화상과 구별하기 위한 비디오 코딩에서) 코딩될 현재 화상 또는 화상으로 지칭될 수 있다.
(디지털) 화상은 세기(intensity) 값이 있는 샘플들의 2차원 어레이 또는 행렬이거나 이들로 간주될 수 있다. 어레이의 샘플은 픽셀(pixel)(화상 엘리먼트의 짧은 형식) 또는 펠(pel)이라고도 한다. 어레이 또는 화상의 수평 및 수직 방향(또는 축)의 샘플 수는 화상의 크기 및/또는 해상도를 정의한다. 컬러 표현을 위해, 일반적으로 3가지 컬러 콤포넌트가 사용된다. 즉, 화상이 3개의 샘플 어레이로 표현되거나 이를 포함할 수 있다. RBG 형식 또는 색 공간에서 화상은 대응하는 빨강, 녹색 및 파랑 샘플 어레이로 구성된다. 그러나, 비디오 코딩에서 각각의 픽셀은 일반적으로 휘도(luminance) 및 채도(chrominance) 포맷 또는 색 공간, 예를 들어 Y로 지시되는 휘도 콤포넌트(때로는 L이 대신 사용됨)와 Cb 및 Cr로 지시되는 두개의 채도 콤포넌트를 포함하는 YCbCr로 표현된다. 휘도(또는 간단히, 루마(luma)) 콤포넌트 Y는 밝기 또는 그레이 레벨 강도(예컨대, 그레이 스케일 화상에서와 같이)를 나타내는 반면, 2개의 채도(또는 간단히 크로마(chroma)) 콤포넌트 Cb 및 Cr은 채도 또는 색상 정보 콤포넌트를 나타낸다. 따라서, YCbCr 포맷의 화상은 휘도 샘플 값(Y)의 휘도 샘플 어레이와 채도 값(Cb 및 Cr)의 2개의 채도 샘플 어레이로 구성된다. RGB 포맷의 화상은 YCbCr 포맷으로 컨버전(conversion) 또는 변환될 수 있고 그 반대의 경우도 마찬가지이며, 이 프로세스는 색상 변환 또는 색상 컨버전이라고도 한다. 화상이 단색이면, 화상은 휘도 샘플 어레이만 포함할 수 있다. 따라서, 화상은 예를 들어 단색 포맷의 루마 샘플 어레이 또는 4:2:0, 4:2:2 및 4:4:4 컬러 포맷에서의 루마 샘플 어레이와 2개의 대응하는 크로마 샘플 어레이일 수 있다.
비디오 인코더(20)의 실시예는 화상(17)을 복수의 (일반적으로 비-중첩) 화상 블록(203)으로 파티셔닝하도록 구성된 화상 파티셔닝 유닛(도 2에 도시되지 않음)을 포함할 수 있다. 이러한 블록은 루트(root) 블록, 매크로 블록(H.264/AVC) 또는 코딩 트리 블록(coding tree block, CTB) 또는 코딩 트리 유닛(coding tree unit, CTU)(H.265/HEVC 및 VVC)이라고도 한다. 화상 파티셔닝 유닛은 비디오 시퀀스의 모든 화상 및 블록 크기를 규정하는 대응하는 그리드에 대해 동일한 블록 크기를 사용하도록, 또는 화상 또는 화상의 서브세트 또는 그룹 사이에서 블록 크기를 변경하고, 각각의 화상을 대응하는 블록으로 파티셔닝하도록, 구성될 수 있다.
추가적인 실시예에서, 비디오 인코더는 화상(17)의 블록(203), 예를 들어 화상(17)을 형성하는 하나, 여러 또는 모든 블록을 직접 수신하도록 구성될 수 있다. 화상 블록(203)은 또한 코딩될 화상 블록 또는 현재 화상 블록으로 지칭될 수 있다.
화상(17)과 마찬가지로, 화상 블록(203)도 또한, 화상(17)보다는 작은 크기이지만, 세기 값(샘플 값)을 가지는 샘플의 매트릭스 또는 2차원 어레이이거나 이로 간주될 수 있다. 달리 말하면, 블록(203)은, 예를 들어, 하나의 샘플 어레이(예를 들어, 단색 화상(17)의 경우 루마 어레이, 또는 컬러 화상의 경우 루마 또는 크로마 어레이), 3개의 샘플 어레이(예를 들어, 컬러 화상(17)의 경우 하나의 루마 어레이 및 2개의 크로마 어레이), 또는 적용된 컬러 포맷에 따라 임의의 다른 수 및/또는 종류의 어레이를 포함할 수 있다. 블록(203)의 수평 및 수직 방향(또는 축)의 샘플 수량은 블록(203)의 크기를 규정한다. 따라서, 블록은, 예를 들어, 샘플의 MxN(M-열 및 N-행) 어레이, 또는 변환 계수의 MxN 어레이일 수 있다.
도 2에 도시된 비디오 인코더(20)의 실시예는 화상(17)을 블록별로 인코딩하도록 구성될 수 있으며, 예를 들어, 인코딩 및 예측은 블록(203)마다 수행된다.
도 2에 도시된 비디오 인코더(20)의 실시예는 슬라이스(비디오 슬라이스라고도 함)를 사용하여 픽처를 파티션 및/또는 인코딩하도록 추가로 구성될 수 있으며, 여기서 픽처는 하나 이상의 슬라이스(전형적으로 비-중첩), 각 슬라이스는 하나 이상의 블록(예컨대 CTU)을 포함할 수 있다.
도 2에 도시된 비디오 인코더(20)의 실시예는 타일 그룹(비디오 타일 그룹이라고도 함) 및/또는 타일(비디오 타일이라고도 함)을 사용하여 픽처를 파티셔닝 및/또는 인코딩하도록 추가로 구성될 수 있다. 픽처는 하나 이상의 타일 그룹(일반적으로 비-중첩)을 사용하여 파티셔닝되거나 인코딩될 수 있으며, 각 타일 그룹은 예를 들어 하나 이상의 블록(예컨대 CTU) 또는 하나 이상의 타일을 포함할 수 있고, 각 타일은, 예컨대 직사각형 모양일 수 있으며 하나 이상의 블록(예컨대 CTU), 예컨대 완전하거나 분수로 나뉘어진 블록을 포함할 수 있다.
잔차 계산
잔차 계산 유닛(204)은, 화상 블록(203) 및 예측 블록(265)(예측 블록(265)에 대한 더욱 상세한 내용은 추후 제공된다)에 기초하여, 예를 들어, 화상 블록(203)의 샘플 값으로부터 예측 블록(265)의 샘플 값을 차감함으로써 잔차 블록(205)을 계산하여, 샘플 단위로(픽셀 단위로) 샘플 도메인에서 잔차 블록(205)(잔차(205)로도 지칭됨)을 획득하도록 구성될 수 있다.
변환
변환 처리 유닛(206)은, 잔차 블록(205)의 샘플 값에 변환을, 예를 들어, 이산 코사인 변환(DCT) 또는 이산 사인 변환(DST)을 적용하여, 변환 도메인에서 변환 계수(207)를 획득하도록 구성될 수 있다. 변환 계수(207)는 변환 잔차 계수로도 또한 지칭될 수 있고, 변환 도메인에서 잔차 블록(205)을 표현할 수 있다.
변환 처리 유닛(206)은, H.265/HEVC에 대해 지정된 변환과 같은, DCT/DST의 정수 근사를 적용하도록 구성될 수 있다. 직교 DCT 변환과 비교하여, 이러한 정수 근사는 일반적으로 특정 팩터에 의해 스케일링된다. 순방향 및 역 변환에 의해 처리되는 잔차 블록의 놈(norm)을 보존하기 위해, 추가적인 스케일 팩터가 변환 프로세스의 일부로서 적용된다. 스케일링 팩터는 통상적으로, 시프트 연산에 대해 2의 거듭제곱, 변환 계수의 비트 심도, 정확도 및 구현 비용 사이의 절충, 등, 특정 제약 조건에 기초하여 선택된다. 특정 스케일링 팩터는, 예를 들어, 역 변환 처리 유닛(212)에 의한 역 변환(및 예를 들어 비디오 디코더(30)의 역 변환 처리 유닛(312)에 의한 대응하는 역 변환)에 대해 지정되고, 예를 들어, 인코더(20)에서의 변환 처리 유닛(206)에 의한, 순방향 변환에 대응하는 스케일링 팩터가 지정될 수 있다.
비디오 인코더(20)(각각 변환 처리 유닛(206))의 실시예는, 예를 들어, 직접 또는 엔트로피 인코딩 유닛(270)을 통해 인코딩 또는 압축된, 예를 들어, 변환 또는 변환들의 유형과 같은 변환 파라미터를 출력하도록 구성될 수 있으므로, 비디오 디코더(30)는 디코딩을 위해 변환 파라미터를 수신하고 사용할 수 있다.
양자화
양자화 유닛(208)은, 예를 들어, 스칼라 양자화 또는 벡터 양자화를 적용하여, 변환 계수(207)를 양자화하여 양자화된 계수(209)를 획득하도록 구성될 수 있다. 양자화된 계수(209)는 양자화된 변환 계수(209) 또는 양자화된 잔차 계수(209)로도 또한 지칭될 수 있다.
양자화 프로세스는 변환 계수(207)의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수 있다. 예를 들어, n-비트 변환 계수는 양자화 동안 m-비트 변환 계수로 반올림될 수 있으며, 여기서 n은 m보다 크다. 양자화의 정도는 양자화 파라미터(QP)를 조정함으로써 수정될 수 있다. 예를 들어, 스칼라 양자화의 경우, 더 미세하거나 거친 양자화를 달성하기 위해 다른 스케일링을 적용할 수 있다. 더 작은 양자화 단계 크기는 더 세밀한 양자화에 해당하고, 더 큰 양자화 단계 크기는 더 거친 양자화에 해당한다. 적용 가능한 양자화 단계 크기는 양자화 파라미터(QP)로 표시될 수 있다. 양자화 파라미터는, 예를 들어, 적용 가능한 양자화 단계 크기의 미리 정의된 세트에 대한 인덱스일 수 있다. 예를 들어, 더 작은 양자화 파라미터는 더 세밀한 양자화(더 작은 양자화 단계 크기)에 대응할 수 있고 더 큰 양자화 파라미터는 더 거친 양자화(더 큰 양자화 단계 크기)에 대응할 수 있으며, 그 반대일 수 있다. 양자화는 양자화 단계 크기에 의한 나눗셈과, 예를 들어 역 양자화(210)에 의해 수행되는 역 양자화 및/또는 대응하는 양자화를 포함할 수 있거나, 또는 양자화 단계 크기에 의한 곱셈을 포함할 수 있다. 예컨대 HEVC의, 일부 표준에 따른 실시예는, 양자화 단계 크기를 결정하는데 양자화 파라미터를 사용하도록 구성될 수 있다. 일반적으로, 양자화 단계 크기는 나누기를 포함하는 방정식의 고정 소수점 근사를 사용하여 양자화 파라미터에 기초하여 계산될 수 있다. 잔차 블록의 놈(norm)을 복원하기 위해 추가적인 스케일링 팩터가 양자화 및 역양자화에 도입될 수 있고, 여기서 잔차 블록의 놈(norm)은 양자화 파라미터 및 양자화 단계 크기에 대한 수학식의 고정 소수점 근사에서 사용되는 스케일링으로 인해 수정될 수 있다. 하나의 예시적인 구현에서, 역변환 및 역양자화의 스케일링이 조합될 수 있다. 대안적으로, 맞춤형 양자화 테이블이 사용되어 인코더로부터 디코더로, 예를 들어 비트스트림으로 시그널링될 수 있다. 양자화는 손실이 있는 연산으로서, 양자화 단계 크기가 증가함에 따라 손실이 증가한다.
비디오 인코더(20)(각각 양자화 유닛(208))의 실시 예는, 예를 들어 직접 또는 엔트로피 인코딩 유닛(270)을 통해 인코딩된 양자화 파라미터(QP)를 출력하도록 구성될 수 있으므로, 예를 들어, 비디오 디코더(30)는 디코딩을 위한 양자화 파라미터를 수신하고 적용할 수 있다.
역 양자화
역 양자화 유닛(210)은, 예를 들어, 양자화 유닛(208)과 동일한 양자화 단계 크기에 기초하거나 사용하여 양자화 유닛(208)에 의해 적용되는 양자화 방식의 역을 적용함으로써, 양자화 유닛(208)의 역 양자화를 양자화된 계수에 적용하여 역양자화된 계수(211)를 획득하도록 구성된다. 역양자화된 계수(211)는 역양자화된 잔차 계수(211)로도 또한 지칭될 수 있고, 통상적으로 양자화에 의한 손실 때문에 변환 계수에 동일하지는 않으나, 변환 계수(207)에 대응한다.
역변환
역 변환 처리 유닛(212)은 변환 처리 유닛(206)에 의해 적용된 변환의 역 변환, 예를 들어 역 이산 코사인 변환(inverse discrete cosine transform, DCT) 또는 역 이산 사인 변환(inverse discrete sine transform, DST) 또는 다른 역 변환을 적용하여, 샘플 도메인에서 재구성된 잔차 블록(213)(또는 대응하는 역양자화된 계수(213))를 획득하도록 구성된다. 재구성된 잔차 블록(213)은 또한 변환 블록(213)으로 지칭될 수 있다. 재구성된 잔차 블록(213)은 변환 블록(213)으로도 또한 지칭될 수 있다.
재구성
재구성 유닛(214)(예를 들어, 합산기(adder) 또는 합산기(summer)(214))은, 변환 블록(213)(즉, 재구성된 잔차 블록(213))을 예측 블록(265)에 더함으로써, 예를 들어, 재구성된 잔차 블록(213)의 샘플 값 및 예측 블록의 샘플 값(265)을 샘플 단위로 더함으로써, 샘플 도메인에서 재구성된 블록(215)을 획득하도록 구성된다.
필터링
루프 필터 유닛(220)(또는 간단히 "루프 필터"(220))은, 재구성된 블록(215)을 필터링하여 필터링된 블록(221)을 획득하도록, 또는 재구성된 샘플을 필터링하여 필터링된 샘플을 획득하도록 구성된다. 루프 필터 유닛은 예를 들어 픽셀 전환(pixel transition)을 평활화하거나(smooth) 비디오 품질을 향상하도록 구성된다. 루프 필터 유닛(220)은 디-블로킹 필터, 샘플-적응형 오프셋(SAO) 필터 또는 하나 이상의 다른 필터, 예컨대 양방향 필터, 적응형 루프 필터(ALF), 샤프닝(sharpening), 스무딩(smoothing) 필터 또는 협업(collaborative) 필터, 또는 이들의 임의의 조합과 같은 하나 이상의 루프 필터를 포함할 수 있다. 비록 루프 필터 유닛(220)은 도 2에서 인 루프 필터(in loop filter)로서 도시되어 있으나, 다른 구성에서는, 루프 필터 유닛(220)은 포스트 루프 필터(post loop filter)로서 구현될 수 있다. 필터링된 블록(221)은 필터링된 재구성된 블록(221)으로도 또한 지칭될 수 있다.
비디오 인코더(20)(각각 루프 필터 유닛(220))의 실시예는, 예컨대, 디코더(30)가 디코딩을 위해 동일한 루프 필터 파라미터 또는 각각의 루프 필터를 수신하고 적용하도록, 예컨대, 직접 또는 엔트로피 인코딩 유닛(270)을 통해 인코딩하여, (샘플 적응형 오프셋 정보와 같은) 루프 필터 파라미터를 출력하도록 구성될 수 있다.
디코딩된 화상 버퍼
디코딩된 화상 버퍼(DPB)(230)는 비디오 인코더(20)가 비디오 데이터를 인코딩하는데 사용하기 위한 참조 화상(또는 일반적으로 화상) 데이터를 저장하는 메모리일 수 있다. DPB(230)는 동기식 DRAM(SDRAM), 자기 저항성 RAM(magnetoresistive RAM, MRAM), 저항성 RAM(resistive RAM, RRAM) 또는 기타 유형의 메모리 장치를 포함하는 동적 랜덤 액세스 메모리(DRAM)와 같은 다양한 메모리 장치로 형성될 수 있다. 디코딩된 화상 버퍼(DPB)(230)은 하나 아싱의 필터링된 블록(221)을 저장하도록 구성될 수 있다. 디코딩된 화상 버퍼(230)는, 동일한 현재 화상 또는 상이한 화상, 예를 들어, 이전에 재구성된 화상의, 다른 이전에 필터링된 블록, 예를 들어, 이전에 재구성되고 필터링된 블록(221)을 저장하도록 추가로 구성될 수 있고, 완전한 이전에 재구성된, 즉, 디코딩된 화상(및 대응하는 참조 블록 및 샘플) 및/또는 부분적으로 재구성된 현재 화상(및 대응하는 참조 블록 및 샘플)을, 예를 들어, 인터 예측에 제공할 수 있다. 디코딩된 화상 버퍼(DPB)(230)는 또한 예를 들어, 재구성된 블록(215)이 루프 필터 유닛(220)에 의해 필터링되지 않으면, 하나 이상의 필터링되지 않은 재구성된 블록(215), 또는 일반적으로 필터링되지 않은 재구성된 샘플 또는 임의의 다른 추가 처리 재구성된 블록 또는 샘플의 버전을 저장하도록 구성될 수 있다.
모드 선택 (파티셔닝 & 예측)
모드 선택 유닛(260)은 파티셔닝 유닛(262), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)을 포함하고, 예를 들어 디코딩된 화상 버퍼(230) 또는 다른 버퍼(예를 들어, 라인 버퍼, 도시되지 않음)로부터, 원본 화상 데이터, 예를 들어, 원본 블록(203)(현재 화상(17)의 현재 블록(203)), 및 재구성된 화상 데이터, 예를 들어, 동일한(현재) 화상 및/또는 하나 또는 복수의 이전에 디코딩된 화상으로부터의 필터링 및/또는 필터링되지 않은 재구성된 샘플을 수신하거나 획득하도록 구성된다. 재구성된 화상 데이터는 예측 블록(265) 또는 예측자(predictor)(265)를 획득하기 위해 예측, 예를 들어 인터 예측 또는 인트라 예측을 위한 참조 화상 데이터로서 사용된다.
모드 선택 유닛(260)은 현재 블록 예측 모드(파티션 없음을 포함) 및 예측 모드(예: 인트라 또는 인터 예측 모드)에 대한 파티셔닝을 결정 또는 선택하며, 대응하는 예측 블록(265)을 생성하도록 구성될 수 있으며, 예측 블록(265)은 잔차 블록(265)의 계산 및 재구성된 블록(215)의 재구성을 위해 사용된다.
모드 선택 유닛(260)의 실시예는, (예컨대 모드 선택 유닛(260)에 의해 지원되거나 모드 선택 유닛(260)에 대해 사용 가능한 것들로부터), 최상 매칭 또는 다른 말로 최소 잔차(최소 잔차는 전송 또는 저장을 위한 더 나은 압축을 의미한다), 또는 최소 시그널링 오버헤드(최소 시그널링 오버헤드는 전송 또는 저장을 위한 더 나은 압축을 의미한다)를 제공하거나, 양자를 고려하거나 균형을 이루는, 파티셔닝 및 예측 모드를 선택하도록 구성될 수 있다. 모드 선택 유닛(260)은 레이트 왜곡 최적화(rate distortion optimization, RDO)에 기반하여 파티셔닝 및 예측 모드를 결정하도록, 즉, 최소 레이트 왜곡을 제공하는 예측 모드를 선택하도록 구성된다. 이 문맥에서 "최상", "최소", "최적(optimum)" 등과 같은 용어는 반드시 전체적인 "최상", "최소", "최적" 등을 의미하는 것은 아니지만, 임계 값을 초과하거나 아래로 떨어지는 값 또는 잠재적으로 "서브 최적 선택(sub-optimum selection)"으로 이어지지만 복잡성과 처리 시간을 감소시키는 기타 제약 조건과 같은 종료 또는 선택 기준의 충족을 의미한다.
달리 말하면, 파티셔닝 유닛(262)은, 예를 들어, 쿼드-트리-파티셔닝(quad-tree-partitioning, QT), 2진 파티셔닝(binary partitioning, BT), 트리플-트리-파티셔닝(triple-tree-partioning, TT), 또는 이들의 임의의 조합을 반복적으로 사용하여, 블록(203)을 더 작은 블록 파티션 또는 서브-블록(이는 다시 블록을 형성함)으로 파티셔닝하도록, 그리고 예를 들어, 블록 파티션 또는 서브-블록의 각각에 예측을 수행하도록, 구성될 수 있으며, 여기서 모드 선택은 파티셔닝된 블록(203)의 트리 구조의 선택을 포함하고 예측 모드는 블록 파티션 또는 서브-블록의 각각에 적용된다.
다음에, 예시적인 비디오 인코더(20)에 의해 수행되는 파티셔닝(예: 파티셔닝 유닛(260)에 의한) 및 예측 처리(인터 예측 유닛(244) 및 인트라 예측 유닛(254)에 의한)가 더 상세히 설명될 것이다.
파티셔닝
파티셔닝 유닛(262)은 현재 블록(203)을 더 작은 파티션으로, 예를 들어 정사각형 또는 직사각형 크기의 작은 블록으로 파티셔닝(또는 분할)할 수 있다. 이러한 더 작은 블록(서브-블록이라고도 지칭됨)은 더 작은 파티션으로 더욱 분할될 수 있다. 이것은 또한 트리-파티셔닝 또는 계층적 트리-파티셔닝이라고도 하며, 여기서 예를 들어 루트 트리-레벨 0(계층화-레벨 0, 깊이 0)에서의 루트 블록은 재귀적으로 파티셔닝될 수 있으며, 예를 들어 다음 하위 트리(lower tree) 레벨, 예를 들어, 트리-레벨 1(계층화-레벨 1, 깊이 1)의 노드의 2개 이상의 블록으로 파티셔닝될 수 있으며, 여기서 이들 블록은 파티셔닝이 종료될 때까지, 예를 들어, 종료 기준이 충족되었기 때문에, 예를 들어 최대 트리 깊이 또는 최소 블록 크기에 도달할 때까지, 다시 다음 하위 레벨, 예를 들어, 트리-레벨 2(계층화-레벨 2, 깊이 2)의 2개 이상의 블록으로 파티셔닝될 수 있다. 더 이상 분할되지 않은 블록은 트리의 리프-블록 또는 리프-노드라고도 지칭된다. 2개의 파티션으로 분할하는 트리를 2진-트리(binary-tree, BT)라고 지칭하고, 3개의 파티션으로 분할하는 트리를 삼중 트리(tternary-tree, TT)라고 지칭하며, 4개의 파티션으로 분할하는 트리를 쿼드-트리(quad-tree, QT)라고 지칭한다.
앞서 언급한 바와 같이, 여기서 사용되는 용어 "블록"은 화상의 일부, 특히 정사각형 또는 직사각형 부분일 수 있다. 예를 들어, HEVC 및 VVC를 참조하면, 블록은 코딩 트리 유닛(coding tree unit, CTU), 코딩 유닛(coding unit, CU), 예측 유닛(prediction unit, PU) 및 변환 유닛(transform unit, TU) 및/또는 대응하는 블록, 예를 들어 코딩 트리 블록(coding tree block, CTB), 코딩 블록(coding block, CB), 변환 블록(transform block, TB) 또는 예측 블록(prediction block, PB)이거나 이에 대응할 수 있다.
예를 들어, 코딩 트리 유닛(CTU)은 루마 샘플의 CTB, 3개의 샘플 어레이를 갖는 화상의 크로마 샘플의 2개의 대응하는 CTB, 또는 단색 화상 또는 샘플을 코딩하는 데 사용되는 3개의 개별 컬러 평면과 신택스 구조를 사용하여 코딩된 화상의 샘플의 CTB이거나 이들을 포함할 수 있다. 상응하여, 코딩 트리 블록(CTB)은 콤포넌트를 CTB로 나누는 것(division)이 파티셔닝이 되도록 N의 일부 값에 대한 샘플의 N×N 블록일 수 있다. 코딩 유닛(CU)은 루마 샘플의 코딩 블록, 3개의 샘플 어레이를 갖는 화상의 크로마 샘플의 2개의 대응하는 코딩 블록, 또는 단색 화상 또는 샘플을 코딩하는 데 사용되는 3개의 개별 컬러 평면과 신택스 구조를 사용하여 코딩된 화상의 샘플의 코딩 블록이거나 이들을 포함할 수 있다. 상응하여, 코딩 블록(CB)은 CTB를 코딩블록으로 나누는 것(division)이 파티셔닝이 되도록 M과 N의 일부 값에 대한 샘플의 N×N 블록일 수 있다.
실시예에서, 예를 들어 HEVC에 따르면, 코딩 트리 단위(CTU)는 코딩 트리로 표시된 쿼드-트리 구조를 사용하여 CU로 분할될 수 있다. 인터-화상(시간적) 또는 인트라-화상(공간적) 예측을 사용하여 화상 영역을 코딩할지 여부의 결정은 CU 레벨에서 이루어진다. 각각의 CU는 PU 분할 유형에 따라 1개, 2개 또는 4개의 PU로 더 분할될 수 있다. 하나의 PU 내부에서, 동일한 예측 프로세스가 적용되고 관련 정보가 PU 기반으로 디코더로 전송된다. PU 분할 유형에 기초하여 예측 과정을 적용하여 잔차 블록을 획득한 후, CU는 CU에 대한 코딩 트리와 유사한 다른 쿼드-트리 구조에 따라 변환 유닛(TU)으로 파티셔닝될 수 있다.
실시예에서, 예를 들어 VVC(Versatile Video Coding)라고 지칭되는 현재 개발중인 최신 비디오 코딩 표준에 따르면, 쿼드-트리 및 2진 트리(Quad-tree and binary tree, QTBT) 파티셔닝이 예를 들어 코딩 블록을 파티셔닝하는 데 사용된다. QTBT 블록 구조에서, CU는 정사각형 또는 직사각형 모양을 가질 수 있다. 예를 들어, 코딩 트리 유닛(CTU)은 먼저 쿼드트리 구조에 의해 파티셔닝된다. 쿼드트리 리프 노드는 2진 트리 또는 3중(ternary)(또는 3중(triple)) 트리 구조에 의해 추가로 파티셔닝된다. 파티셔닝 트리 리프 노드는 코딩 유닛(CU)이라고 하고, 이 세분화(segmentation)는 추가적인 파티셔닝 없이 예측 및 변환 처리에 사용된다. 이는 CU, PU 및 TU가 QTBT 코딩 블록 구조에서 동일한 블록 크기를 가짐을 의미한다. 병렬적으로, 다중 파티션, 예를 들어 트리플 트리 파티션이 QTBT 블록 구조와 함께 사용될 수 있다.
한 예로서, 비디오 인코더(20)의 모드 선택 유닛(260)은 여기서 설명된 파티셔닝 기술의 임의의 조합을 수행하도록 구성될 수 있다.
위에서 설명한 바와 같이, 비디오 인코더(20)는, (예컨대 기설정된) 예측 모드 세트로부터 최상의 예측 모드 또는 최적의 예측 모드를 결정 또는 선택하도록 구성된다. 예측 모드의 세트는, 예컨대, 인트라-예측 모드 및/또는 인터-예측 모드를 포함할 수 있다.
인트라-예측
인트라-예측 모드의 세트는, 35개의 상이한 인트라-예측 모드, 예컨대 DC (또는 평균) 모드 및 평면 모드와 같은 비-방향성 모드, 또는 예컨대 HEVC.265에 규정된 바와 같은, 방향성 모드를 포함할 수 있거나, 67개의 상이한 인트라-예측 모드, 예컨대 DC (또는 평균) 모드 및 평면 모드와 같은 비-방향성 모드, 또는 예컨대 VVC에 대해 규정된 바와 같은, 방향성 모드를 포함할 수 있다.
인트라 예측 유닛(254)은 동일한 현재 화상의 이웃 블록의 재구성된 샘플을 사용하여, 인트라 예측 모드 세트의 인트라 예측 모드에 따라 인트라 예측 블록(265)을 생성하도록 구성된다.
인트라 예측 유닛(254)(또는 일반적으로 모드 선택 유닛(260))은 추가로, 인코딩된 화상 데이터(21)에 포함시키기 위해, 인트라 예측 파라미터(또는 블록에 대해 선택된 인트라 예측 모드를 나타내는 일반적인 정보)를 신택스의 형태로 엔트로피 인코딩 유닛(270)에 출력하도록 구성되므로, 예를 들어, 비디오 디코더(30)가 디코딩을 위해 예측 파라미터를 수신하고 사용할 수 있다.
인터-예측
인터-예측 모드의 세트(또는 가능한 인터-예측 모드)는, 사용 가능한 참조 화상(즉, 예컨대 DBP(230)에 저장된, 이전의 적어도 부분적으로 디코딩된 화상) 및 다른 인터-예측 파라미터, 예컨대 참조 화상의, 전체 참조 화상 또는 일부만, 예컨대 현재 블록의 영역 주위의 검색 윈도우 영역이 최상 매칭 참조 블록을 검색하는데 사용되는지 여부, 및/또는 예컨대 1/2 세미-펠(pel) 및/또는 1/4-펠 보간(interpolation)과 같은 픽셀 보간이 적용되는지 여부에 의존한다.
위의 예측 모드에 추가로, 스킵 모드 및/또는 다이렉트 모드가 적용될 수 있다.
인터 예측 유닛(244)은 모션 추정(motion estimation, ME) 유닛 및 모션 보상(motion compensation, MC) 유닛(둘 다 도 2에는 도시하지 않음)을 포함할 수 있다. 모션 추정 유닛은, 화상 블록(203)(현재 화상(17)의 현재 화상 블록(203)) 및 디코딩된 화상(231), 또는 적어도 하나의 또는 복수의 이전에 재구성된 블록, 예를 들어, 하나 또는 복수의 다른/상이한 이전에 디코딩된 화상(231)의 재구성된 블록을, 모션 추정을 위해 수신하거나 획득하도록 구성될 수 있다. 예를 들어, 비디오 시퀀스는 현재 화상 및 이전에 디코딩된 화상(231)을 포함할 수 있거나, 달리 말하면, 현재 화상 및 이전에 디코딩된 화상(231)은 비디오 시퀀스를 형성하는 화상의 시퀀스의 일부이거나 이를 형성할 수 있다.
예를 들어, 인코더(20)는, 복수의 다른 화상의 동일한 또는 상이한 화상의 복수의 참조 블록으로부터 참조 블록을 선택하도록, 그리고 참조 블록의 위치(x, y 좌표)와 현재 블록의 위치 사이의 참조 화상(또는 참조 화상 인덱스) 및/또는 오프셋(공간적 오프셋)을 인터 예측 파라미터로서 모션 추정 유닛에 제공하도록, 구성될 수 있다. 이 오프셋은 모션 벡터(MV)로도 지칭된다.
모션 보상 유닛은 인터 예측 파라미터를 획득, 예를 들어 수신하고, 인터 예측 파라미터에 기반하여 또는 인터 예측 파라미터를 사용하여 인터 예측을 수행하여 인터 예측 블록(265)을 획득하도록 구성된다. 모션 보상 유닛에 의해 수행되는 모션 보상은 모션 추정에 의해 결정된 모션/블록 벡터에 기반하여 예측 블록을 페치(fetch)하거나 생성하는 것을 포함할 수 있으며, 가능하게는 서브 픽셀 정밀도(sub-pixel precision)에 대한 보간을 수행할 수 있다. 보간 필터링은 알려진 픽셀 샘플로부터 추가적인 픽셀 샘플을 생성할 수 있으며, 따라서 화상 블록을 코딩하는데 사용될 수 있는 후보 예측 블록의 수를 잠재적으로 증가시킬 수 있다. 현재 화상 블록의 PU에 대한 모션 벡터를 수신하면, 모션 보상 유닛은 참조 화상 목록 중 하나에서 모션 벡터가 가리키는 예측 블록을 찾을 수 있다.
모션 보상 유닛은 또한 비디오 슬라이스(slice)의 화상 블록의 디코딩시에 비디오 디코더(30)에 의해 사용하기 위해 블록 및 비디오 슬라이스와 연관된 신택스 엘리먼트를 생성할 수 있다. 슬라이스 및 각각의 신택스 엘리먼트에 추가로 또는 대안으로서, 타일 그룹 및/또는 타일 및 각각의 신택스 엘리먼트가 생성되거나 사용될 수 있다.
엔트로피 코딩
엔트로피 인코딩 유닛(270)은 예를 들어, 엔트로피 인코딩 알고리즘 또는 방식(예: 가변 길이 코딩(variable length coding, VLC) 방식, 콘텍스트 적응형 VLC 방식(context adaptive VLC scheme, CAVLC), 산술 코딩 방식, 이진화, 콘텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding, CABAC), 신택스 기반 콘텍스트 적응 이진 산술 코딩(syntax-based context-adaptive binary arithmetic coding, SBAC), 확률 간격 파티셔닝 엔트로피(probability interval partitioning entropy, PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기술) 또는 우회(비 압축)를, 양자화된 계수, 인터 예측 파라미터, 인트라 예측 파라미터, 루프 필터 파라미터 및/또는 기타 신택스 엘리먼트에 적용하여, 예를 들어, 인코딩된 비트스트림(21)의 형태로 출력(272)을 통해 출력될 수 있는 인코딩된 화상 데이터(21)를 획득하도록 구성되므로, 예를 들어, 비디오 디코더(30)는 디코딩을 위해 파라미터를 수신하고 사용할 수 있다. 인코딩된 비트스트림(21)은 비디오 디코더(30)로 전송되거나, 비디오 디코더(30)에 의한 추후 전송 또는 검색(retrieval)을 위해 메모리에 저장될 수 있다.
비디오 인코더(20)의 다른 구조적 변형은 비디오 스트림을 인코딩하도록 구성될 수 있다. 예를 들어, 비-변환 기반 인코더(20)는 특정 블록 또는 프레임에 대해 변환 처리 유닛(106) 없이 직접 잔차 신호를 양자화할 수 있다. 다른 구현예에서, 인코더(20)는 단일 유닛으로 결합될 수 있는 양자화 유닛(208) 및 역 양자화 유닛(210)을 포함할 수 있다.
디코더 및 디코딩 방법
도 3은 본 출원의 기법을 구현하도록 구성되는 비디오 디코더(30)의 예시를 도시한다. 비디오 디코더(30)는, 디코딩된 화상(331)을 획득하기 위해, 예컨대, 인코더(20)에 의해 인코딩된, 인코딩된 화상 데이터(21)(예컨대, 인코딩된 비트스트림(21))를 수신하도록 구성된다. 인코딩된 화상 데이터 또는 비트스트림은, 인코딩된 화상 데이터를 디코딩하기 위한 정보, 예컨대 인코딩된 비디오 슬라이스 (및/또는 타일 그룹 또는 타일)의 화상 블록 및 연관된 신택스 엘리먼트를 표현하는 데이터를 포함한다.
도 3의 예에서, 디코더(30)는 엔트로피 디코딩 유닛(304), 역 양자화 유닛(310), 역변환 처리 유닛(312), 재구성 유닛(314)(예컨대 합산기(314)), 루프 필터(320), 디코딩된 화상 버퍼(DBP)(330), 모드 적용 유닛(360), 인터 예측 유닛(344) 및 인트라 예측 유닛(354)을 포함한다. 인터 예측 유닛(344)은 모션 보상 유닛이거나 포함할 수 있다. 일부 예시에서, 비디오 디코더(30)는 도 2의 비디오 인코더(100)에 관해 기술된 인코딩 패스에 일반적으로 역(inverse)인 디코딩 패스를 수행할 수 있다.
인코더(20)에 대해 설명한 바와 같이, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), 디코딩된 화상 버퍼(DPB)(230), 인터 예측 유닛(344) 및 인트라 예측 유닛(354)은 또한 비디오 인코더(20)의 "내장 디코더"를 형성하는 것으로도 지칭된다. 따라서, 역 양자화 유닛(310)은 역 양자화 유닛(110)에 기능적으로 동일할 수 있고, 역변환 처리 유닛(312)은 역변환 처리 유닛(212)에 기능적으로 동일할 수 있고, 재구성 유닛(314)은 재구성 유닛(214)에 기능적으로 동일할 수 있고, 루프 필터(320)는 루프 필터(220)에 기능적으로 동일할 수 있고, 디코딩된 화상 버퍼(330)는 디코딩된 화상 버퍼(230)에 기능적으로 동일할 수 있다. 따라서, 비디오(20) 인코더의 각각의 유닛 및 기능에 대해 제공된 설명은 비디오 디코더(30)의 각각의 유닛 및 기능에 대응하여 적용된다.
엔트로피 디코딩
엔트로피 디코딩 유닛(304)은 비트스트림(21)(또는 일반적으로 인코딩된 화상 데이터(21))을 파싱하고(parse), 인코딩된 화상 데이터(21)에 대해 예를 들어, 엔트로피 디코딩을 수행하여, 예를 들어, 양자화된 계수(309) 및/또는 디코딩된 코딩 파라미터(도 3에 도시되지 않음), 예를 들어, 인터 예측 파라미터(예: 참조 화상 인덱스 및 모션 벡터), 인트라 예측 파라미터(예: 인트라 예측 모드 또는 인덱스), 변환 파라미터, 양자화 파라미터, 루프 필터 파라미터 및/또는 기타 신택스 엘리먼트 중 어느 하나 또는 전부를 획득하도록 구성된다. 엔트로피 디코딩 유닛(304)은 인코더(20)의 엔트로피 인코딩 유닛(270)과 관련하여 설명된 인코딩 방식에 대응하는 디코딩 알고리즘 또는 방식을 적용하도록 구성될 수 있다. 엔트로피 디코딩 유닛(304)은 인터 예측 파라미터, 인트라 예측 파라미터 및/또는 다른 신택스 엘리먼트를 모드 적용 유닛(360)에 제공하도록 그리고 다른 파라미터를 디코더(30)의 다른 유닛에 제공하도록 추가로 구성될 수 있다. 비디오 디코더(30)는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트를 수신할 수 있다. 슬라이스 및 각각의 신택스 엘리먼트에 추가로 또는 대안으로서, 타일 그룹 및/또는 타일 및 각각의 신택스 엘리먼트가 생성되거나 및/또는 사용될 수 있다.
역 양자화
역 양자화 유닛(310)은 (예를 들어, 엔트로피 디코딩에 의한 파싱 및/또는 디코딩에 의해) 인코딩된 화상 데이터(21)로부터 양자화 파라미터(QP)(또는 일반적으로 역 양자화와 관련된 정보) 및 양자화된 계수를 수신하고, 양자화 파라미터에 기반하여 디코딩된 양자화된 계수(309)에 역 양자화를 적용하여, 변환 계수(311)로도 지칭될 수 있는 역양자화된 계수(311)를 획득하도록 구성될 수 있다. 역 양자화 프로세스는, 양자화의 정도(및 마찬가지로, 적용되어야 하는 역 양자화의 정도)를 결정하기 위해 비디오 슬라이스(또는 타일 또는 타일 그룹) 내의 각각의 비디오 블록에 대해 비디오 인코더(200)에 의해 결정되는 양자화 파라미터의 사용을 포함할 수 있다.
역변환
역변환 처리 유닛(312)은, 변환 계수(311)로도 지칭되는, 역양자화된 계수(311)를 수신하도록, 그리고 샘플 도메인에서 재구성된 잔차 블록(213)를 획득하기 위해 역양자화된 계수(311)에 변환을 적용하도록 구성될 수 있다. 재구성된 잔차 블록(213)은 변환 블록(313)으로도 또한 지칭될 수 있다. 변환은, 역변환, 예컨대, 역 DCT, 역 DST, 역 정수 변환, 또는 개념적으로 유사한 역변환 프로세스일 수 있다. 역 변환 처리 유닛(312)은 또한 인코딩된 화상 데이터(21)로부터(예: 예를 들어 엔트로피 디코딩 유닛(304)에 의한 파싱 및/또는 디코딩하는 것에 의해) 변환 파라미터 또는 대응하는 정보를 수신하여, 역양자화된 계수(311)에 적용될 변환을 결정하도록 구성될 수 있다.
재구성
재구성 유닛(314)(예를 들어, 가산기 또는 합산기(314))은 재구성된 잔차 블록(313)을 예측 블록(365)에 추가하여, 예를 들어 재구성된 잔차 블록(313)의 샘플 값 및 예측 블록(365)의 샘플 값을 더하는 것에 의해, 샘플 도메인에서 재구성된 블록(315)을 획득하도록 구성될 수 있다.
필터링
루프 필터 유닛(320)은 (코딩 루프 중에 또는 코딩 루프 이후에), 필터 재구성된 블록(315)을 필터링하여 필터링된 블록(321)을 획득함으로써, 픽셀 전환을 부드럽게 하거나 비디오 품질을 향상하도록 구성된다. 루프 필터 유닛(320)은 디-블로킹 필터, 샘플-적응형 오프셋(SAO) 필터 또는 하나 이상의 다른 필터, 예컨대 양방향 필터, 적응형 루프 필터(ALF), 샤프닝(sharpening), 스무딩(smoothing) 필터 또는 협업(collaborative) 필터, 또는 이들의 임의의 조합과 같은 하나 이상의 루프 필터를 포함할 수 있다. 비록 루프 필터 유닛(320)은 도 3에서 인 루프 필터(in loop filter)로서 도시되어 있으나, 다른 구성에서는, 루프 필터 유닛(320)은 포스트 루프 필터(post loop filter)로서 구현될 수 있다.
디코딩된 화상 버퍼
화상의 디코딩된 비디오 블록(321)은 디코딩된 화상 버퍼(330)에 저장되고, 디코딩된 화상(331)은 다른 화상에 대한 후속 모션 보상 및/또는 각각의 디스플레이를 위한 참조 화상으로서 저장된다.
디코더(30)는 사용자에게 표현 또는 보기를 위해, 예컨대, 출력(312)을 통해 디코딩된 화상(311)을 출력하도록 구성된다.
예측
인터 예측 유닛(344)은 인터 예측 유닛(244)(특히 모션 보상 유닛에 대해)과 동일할 수 있고, 인트라 예측 유닛(354)은 기능면에서 인터 예측 유닛(254)과 동일할 수 있으며, (예를 들어 엔트로피 디코딩 유닛(304)에 의한 예를 들어 파싱 및/또는 디코딩하는 것에 의해) 인코딩된 화상 데이터(21)로부터 수신된 파티셔닝 및/또는 예측 파라미터 또는 각각의 정보에 기반하여, 분할 또는 파티셔닝 결정 및 예측을 수행할 수 있다. 모드 적용 유닛(360)은 재구성된 화상, 블록 또는 각각의 샘플(필터링되거나 필터링되지 않은)에 기반하여 블록 당 예측(인트라 예측 또는 인터 예측)을 수행하여, 예측 블록(365)을 획득하도록 구성될 수 있다.
비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩되는 경우, 모드 적용 유닛(360)의 인트라 예측 유닛(354)은, 현재 화상의 이전에 디코딩된 블록으로부터 시그널링된 인트라 예측 모드 및 데이터에 기초하여 현재의 비디오 슬라이스의 화상 블록에 대한 예측 블록(365)을 생성하도록 구성된다. 비디오 화상이 인터 인코딩된(즉, B 또는 P) 슬라이스로서 코딩되는 경우, 모드 적용 유닛(360) 내의 인터 예측 유닛(344)(예를 들어, 모션 보상 유닛)은, 엔트로피 디코딩 유닛(304)으로부터 수신되는 모션 벡터 및 다른 신택스 엘리먼트에 기초하여 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록(265)을 생성하도록 구성된다. 인터 예측을 위해, 예측 블록은 참조 화상 목록 중 하나에 있는 참조 화상 중 하나로부터 생성될 수 있다. 비디오 디코더(30)는 DPB(330)에 저장된 참조 화상에 기초하여 디폴트 구성 기법을 사용하여 참조 프레임 목록, 목록 0 및 목록 1을 구성할 수 있다. 동일 또는 유사한 사항이 추가적으로 또는 대안적으로 타일 그룹(예컨대 비디오 타일 그룹) 및/또는 타일(예컨대 비디오 타일)을 슬라이스(예컨대 비디오 슬라이스)에 사용하는 실시예에 의하여 또는 잉메 대하여 적용될 수 있으며, 예컨대 비디오는 I, P 또는 B 타일 그룹 및/또는 타일을 사용하여 코딩될 수 있다.
모드 적용 유닛(360)은 모션 벡터 또는 관련 정보 및 다른 신택스 엘리먼트를 파싱(parsing)함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 예측 정보를 사용하여 디코딩 중인 현재 비디오 블록에 대한 예측 블록을 생성하도록 구성된다. 예를 들어, 모드 적용 유닛(360)은 수신된 신택스 엘리먼트의 일부를 사용하여, 비디오 슬라이스의 비디오 블록을 코딩하는데 사용되는 예측 모드(예컨대, 인트라 또는 인터 예측), 인터-예측 슬라이스 유형(예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 참조 화상 목록 중 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 상태, 및 현재 비디오 슬라이스에서 비디오 블록을 디코딩하기 위한 다른 정보를 결정한다. 동일 또는 유사한 사항이 추가적으로 또는 대안적으로 타일 그룹(예컨대 비디오 타일 그룹) 및/또는 타일(예컨대 비디오 타일)을 슬라이스(예컨대 비디오 슬라이스)에 사용하는 실시예에 의하여 또는 잉메 대하여 적용될 수 있으며, 예컨대 비디오는 I, P 또는 B 타일 그룹 및/또는 타일을 사용하여 코딩될 수 있다.
도 3에 도시된 비디오 디코더(30)의 실시예는 슬라이스(비디오 슬라이스로도 또한 지칭됨)를 사용하여 화상을 파티션 및/또는 디코딩하도록 구성될 수 있으며, 여기서, 화상은 하나 이상의 슬라이스(통상적으로 비-중첩)를 사용하여 파티셔닝 또는 디코딩 될 수 있고, 각각의 슬라이스는 하나 이상의 블록(예컨대 CTU)를 포함할 수 있다.
도 3에 도시된 비디오 디코더(30)의 실시예는 타일 그룹(비디오 타일 그룹로도 또한 지칭됨) 및/또는 타일(비디오 타일로도 또한 지칭됨)을 사용하여 화상을 파티션 및/또는 디코딩하도록 하도록 구성될 수 있으며, 여기서, 화상은 하나 이상의 타일 그룹(통상적으로 비-중첩)를 사용하여 파티셔닝 또는 디코딩 될 수 있고, 각각의 타일 그룹은, 예컨대 하나 이상의 블록(예컨대 CTU) 또는 하나 이상의 타일을 포함할 수 있으며, 각각의 타일은, 예컨대 직사각형 형상일 수 있고 하나 이상의 블록(예컨대 CTU), 예컨대 완전한 또는 일부 블록을 포함할 수 있다.
비디오 디코더(30)의 다른 변형은 인코딩된 화상 데이터(21)를 디코딩하는데 사용될 수 있다. 예를 들어, 디코더(30)는 루프 필터링 유닛(320) 없이 출력 비디오 스트림을 생성할 수 있다. 예를 들어, 비-변환 기반 디코더(30)는 특정 블록 또는 프레임에 대해 역 변환 처리 유닛(312) 없이 직접 잔차 신호를 역 양자화할 수 있다. 다른 구현에서, 비디오 디코더(30)는 단일 유닛으로 결합될 수 있는 역-양자화 유닛(310) 및 역-변환 처리 유닛(312)을 가질 수 있다.
인코더(20) 및 디코더(30)에서는 현재 단계의 처리 결과가 더 처리된 후 다음 단계로 출력될 수 있음을 이해해야 한다. 예를 들어, 보간 필터링, 모션 벡터 유도 또는 루프 필터링 후, 보간 필터링, 모션 벡터 유도 또는 루프 필터링의 처리 결과에 대해 클립(Clip) 또는 시프트(shift)와 같은 추가 연산이 수행될 수 있다.
추가 연산이 현재 블록의 도출된 모션 벡터(아핀 모드의 제어 포인트 모션 벡터, 아핀, 평면, ATMVP 모드에서의 서브 블록 모션 벡터, 시간적 모션 벡터 등을 포함하지만 이에 한정되는 것은 아님)에 적용될 수 있다. 예를 들어, 모션 벡터의 값은 표현 비트에 따라 미리 정의된 범위로 제한된다. 모션 벡터의 표현 비트가 bitDepth이면, 범위는 -2^(bitDepth-1) ~ 2^(bitDepth-1)-1이며, 여기서 "^"는 지수를 의미한다. 예를 들어, bitDepth가 16으로 설정되면, 범위는 -32768 ~ 32767이고; bitDepth가 18으로 설정되면, 범위는 -131072 ~ 131071이다. 예를 들어, 도출된 모션 벡터(예컨대 하나의 8x8 블록 내의 4개의 4x4 서브-블록의 MV)의 값은, 4개의 4x4 서브-블록 MV의 정수 부분 사이의 최대 차이가 N 픽셀보다 크지 않도록, 예를 들어 1 픽셀보다 크지 않도록, 제한된다. 다음은 bitDepth에 따라 모션 벡터를 제한하는 두 가지 방법을 제공한다.
방법 1: 다음 연산에 의해 오버플로우 MSB(최상위 비트)를 제거한다.
ux= ( mvx+2bitDepth ) % 2bitDepth (1)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (2)
uy= ( mvy+2bitDepth ) % 2bitDepth (3)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (4)
여기서, mvx는 이미지 블록 또는 서브-블록의 모션 벡터의 수평 성분이고, mvy는 이미지 블록 또는 서브-블록의 모션 벡터의 수직 성분이고, 그리고 ux 및 uy는 중간 값을 나타낸다;
예를 들어, mvx의 값이 -32769이면, 공식 (1) 및 (2)를 적용한 후, 결과 값은 32767이다. 컴퓨터 시스템에서, 10진수는 2의 보수(two's complement)로 저장된다. -32769의 2의 보수는 1,0111,1111,1111,1111(17 비트)이고 MSB는 폐기되므로 결과적인 2의 보수는 0111,1111,1111,1111(10 진수는 32767)이며 이는 식 (1) 및 (2)를 적용한 출력과 동일하다.
ux= ( mvpx + mvdx +2bitDepth ) % 2bitDepth (5)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (6)
uy= ( mvpy + mvdy +2bitDepth ) % 2bitDepth (7)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (8)
이 연산들은 공식 (5) 내지 (8)과 같이 mvp와 mvd의 합산에서 적용될 수 있다.
방법 2: 값을 클리핑하여 오버플로우 MSB를 제거한다.
vx = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vx)
vy = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vy)
여기서, vx는 이미지 블록 또는 서브-블록의 모션 벡터의 수평 성분이고, vy는 이미지 블록 또는 서브-블록의 모션 벡터의 수직 성분이고; x, y 및 z는 MV 클리핑 프로세스의 3개의 입력 값에 각각 대응하고, 함수 Clip3의 정의는 다음과 같다:
도 4는 본 개시의 실시예에 따른 비디오 코딩 디바이스(400)의 개략도이다. 비디오 코딩 디바이스(400)는 여기에 개시된 실시예를 구현하는데 적합하다. 일 실시예로서, 비디오 코딩 디바이스(400)는 도 1a의 비디오 디코더(30)와 같은 디코더 또는 도 1a의 비디오 인코더(20)와 같은 인코더일 수 있다.
비디오 코딩 디바이스(400)는, 데이터를 수신하기 위한 입구 포트(410)(또는 입력 포트(410) 및 수신기 유닛(Rx)(420); 데이터를 처리하기 위한 프로세서, 논리 유닛, 또는 중앙 처리 장치(CPU)(430); 데이터를 전송하기 위한 송신기 유닛(Tx)(440) 및 출구 포트(450)(또는 출력 포트(450)); 및 데이터를 저장하기 위한 메모리(460)를 포함한다. 비디오 코딩 디바이스(400)는 광학적 또는 전기적 신호의 유출 또는 유입을 위해 입구 포트(410), 수신기 유닛(420), 송신기 유닛(440), 및 출구 포트(450)에 연결되는 광-전기(OE; optical-to-electrical) 콤포넌트 및 전기-광(EO; electrical-to-optical) 콤포넌트를 또한 포함할 수 있다.
프로세서(430)는 하드웨어 및 소프트웨어로 구현된다. 프로세서(430)는 하나 이상의 CPU 칩, 코어(예를 들어, 멀티-코어 프로세서), FPGA, ASIC, 및 DSP로 구현될 수 있다. 프로세서(430)는 입구 포트(410), 수신기 유닛(420), 송신기 유닛(440), 출구 포트(450), 및 메모리(460)와 통신한다. 프로세서(430)는 코딩 모듈(470)을 포함한다. 코딩 모듈(470)은 위에서 설명된 개시된 실시예들을 구현한다. 예를 들어, 코딩 모듈(470)은 다양한 코딩 동작을 구현, 처리, 준비 또는 제공한다. 코딩 모듈(470)을 포함함으로써 비디오 코딩 디바이스(400)의 기능에 상당한 향상이 제공되고 비디오 코딩 디바이스(400)의 상이한 상태로의 변환에 영향을 끼친다. 대안적으로, 코딩 모듈(470)은 메모리(460)에 저장되고 프로세서(430)에 의해 실행되는 명령어로서 구현된다.
메모리(460)는 하나 이상의 디스크, 테이프 드라이브, 및 고체 드라이브를 포함할 수 있고, 프로그램이 실행을 위해 선택될 때 프로그램을 저장하고, 프로그램 실행 중에 판독되는 명령 및 데이터를 저장하기 위해 오버-플로우 데이터 저장 디바이스로서 사용될 수 있다. 메모리(460)는 예를 들어 휘발성 및/또는 비휘발성일 수 있으며, ROM(read-only memory), RAM(random-access memory), TCAM(ternary content-addressable memory) 및/또는 SRAM(static random-access memory)일 수 있다.
도 5는 예시적인 일 실시예에 따른 도 1로부터 소스 디바이스(12) 및 데스티네이션 디바이스(14) 중 하나 또는 양자 모두로서 사용될 수 있는 장치(500)의 단순화된 블록도이다.
장치(500)의 프로세서(502)는 중앙 처리 장치일 수 있다. 대안적으로, 프로세서(502)는, 정보를 조작 또는 처리할 수 있는, 하나 이상의 기존의 또는 향후에 개발될 하나의 디바이스 또는 다중 디바이스의 임의의 다른 유형일 수 있다. 비록 개시된 구현예가 예컨대 프로세서(502)와 같은 단일 프로세서로 실현될 수 있으나, 속도 및 효율의 이점은 둘 이상의 프로세서를 사용하여 달성될 수 있다.
장치(500)의 메모리(504)는 구현예에서 판독 전용 메모리(ROM) 디바이스 또는 랜덤 액세스 메모리(RAM) 디바이스일 수 있다. 임의의 다른 적절한 유형의 저장 디바이스가 메모리(504)로서 사용될 수 있다. 메모리(504)는 버스(512)를 사용하여 프로세서(502)에 의해 액세스되는 코드 및 데이터(506)를 포함할 수 있다. 메모리(504)는 운영 체제(508) 및 응용 프로그램(510)을 더 포함할 수 있으며, 응용 프로그램(510)은 프로세서(502)가 여기에 기술된 방법을 수행하도록 허용하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 응용 프로그램(510)은, 여기에 기술된 방법을 수행하는 비디오 코딩 애플리케이션을 더 포함하는, 애플리케이션 1 내지 N을 포함할 수 있다.
장치(500)는 디스플레이(518)와 같은 하나 이상의 출력 디바이스를 또한 포함할 수 있다. 예로서, 디스플레이(518)는, 한 예로서, 디스플레이 및 터치 입력을 감지하여 작동하는 터치-감응 엘리먼트를 결합하는 터치 감응 디스플레이일 수 있다. 디스플레이(518)는 버스(512)를 통해 프로세서(502)에 연결될 수 있다.
여기서는 단일 버스로 도시되어 있지만, 장치(500)의 버스(512)는 다중 버스로 구성될 수 있다. 또한, 2차 스토리지(514)는 장치(500)의 다른 구성 요소에 직접 결합될 수 있거나 네트워크를 통해 액세스될 수 있고, 메모리 카드와 같은 단일 통합 유닛 또는 다중 메모리 카드와 같은 다중 유닛을 포함할 수 있다. 따라서 장치(500)는 매우 다양한 구성으로 구현될 수 있다.
모션 벡터 정제(Motion vector refinement, MVR)
모션 벡터는 인코더 측에서 적어도 부분적으로 결정되고 코딩된 비트스트림 내에서 디코더로 시그널링된다. 그러나, 모션 벡터는 비트스트림에 표시된 초기 모션 벡터로부터 시작하여 디코더에서(또한 인코더에서도) 정제될 수 있다. 이러한 경우에, 예를 들어 초기 모션 벡터가 가리키는 이미 디코딩된 픽셀의 패치 사이의 유사도는 초기 모션 벡터의 정확도를 향상하기 위해 사용될 수 있다. 이러한 모션 정제는 시그널링 오버헤드를 감소시키는 이점을 제공한다: 초기 모션의 정확도는 인코더와 디코더 모두에서 동일한 방식으로 향상되므로, 정제를 위한 추가 시그널링이 필요하지 않다.
정제 전의 초기 모션 벡터는 최상의 예측을 초래하는 최상의 모션 벡터가 아닐 수도 있다는 점에 유의해야 한다. 초기 모션 벡터는 비트스트림에서 시그널링되기 때문에, 매우 높은 정확도로 초기 모션 벡터를 표현하는 것이 불가능할 수 있고(비트 전송률이 증가함), 따라서 모션 벡터 정제 프로세스는 초기 모션 벡터를 향상하기 위해 활용된다. 초기 모션 벡터는, 예를 들어 현재 블록의 이웃 블록 예측에 사용되는 모션 벡터일 수 있다. 이 경우 현재 블록에 의해 사용되는 이웃 블록의 모션 벡터를 나타내는 비트스트림의 표시를 시그널링하는 것으로 충분하다. 이러한 예측 메커니즘은 초기 모션 벡터를 표현하는 비트의 수를 줄이는데 매우 효율적이다. 그러나, 일반적으로 2개의 이웃하는 블록의 모션 벡터가 동일할 것으로 예상되지 않으므로, 초기 모션 벡터의 정확도는 낮을 수 있다.
시그널링 오버헤드의 추가 증가 없이 모션 벡터의 정확도를 추가로 향상하기 위해, 인코더 측에서 유도되고 비트스트림에서 제공(시그널링)되는 모션 벡터를 추가로 정제하는 것이 유리할 수 있다. 모션 벡터 정제는 인코더의 도움 없이 디코더에서 수행될 수 있다. 디코더 루프의 인코더는 디코더에서 이용 가능한 대응하는 정제된 모션 벡터를 획득하기 위해 동일한 정제를 사용할 수 있다. 현재 화상에서 재구성되고 있는 현재 블록에 대한 정제는, 재구성된 샘플의 템플릿을 결정하고, 현재 블록에 대한 초기 모션 정보 주변의 검색 공간을 결정하고 그리고 검색 공간에서 템플릿에 가장 일치하는 참조 화상 부분을 찾음으로써 수행된다. 최상의 매칭 부분은 현재 블록에 대한 정제된 모션 벡터를 결정하고, 이는 현재 블록, 즉, 재구성 중인 현재 블록에 대한 인터-예측된 샘플을 획득하는데 사용된다.
모션 벡터 정제는 인터 예측 유닛(도 2의 244 및 도 3의 344)의 일부이다.
모션 벡터 정제는 다음 단계에 따라 수행될 수 있다:
일반적으로, 초기 모션 벡터는 비트스트림 내의 표시에 기초하여 결정될 수 있다. 예를 들어, 인덱스는 후보 모션 벡터의 목록에서 위치를 나타내는 비트스트림에서 시그널링될 수 있다. 다른 예에서, 모션 벡터 예측자 인덱스 및 모션 벡터 차이 값은 비트스트림에서 시그널링될 수 있다. 비트스트림의 표시에 기초하여 결정되는 모션 벡터는 초기 모션 벡터로 규정된다. 바이-예측의 경우에, 현재 블록에 대한 인터-예측은 2개의 모션 벡터에 따라 결정되는 샘플의 예측 블록의 가중치 조합으로서 획득되며, 목록 L0 내의 제1 참조 화상의 초기 모션 벡터는 MV0로 표시하고; 그리고 목록 L1 내의 제2 참조 화상의 초기 모션 벡터는 MV1로 표시한다.
초기 모션 벡터를 사용하여, 정제 후보 모션 벡터(MV) 쌍이 결정된다. 적어도, 2개의 정제 후보 쌍이 결정되어야 한다. 일반적으로, 정제 후보 모션 벡터 쌍은 초기 모션 벡터 쌍(MV0, MV1)에 기초하여 결정된다. 또한, 후보 MV 쌍은 작은 모션 벡터 차이를 MV0 및 MV1에 더함으로써 결정된다. 예를 들어, 후보 MV 쌍은 다음을 포함할 수 있다:
□ (MV0, MV1)
□ (MV0 + (0,1), MV1 + (0,-1))
□ (MV0 + (1,0), MV1 + (-1,0))
□ (MV0 + (0,-1), MV1 + (0,1))
□ (MV0 + (-1,0), MV1 + (1,0))
□ …
여기서, (1,-1)은 수평 (또는 x) 방향에서 1의 변위 및 수직 (또는 y) 방향에서 -1의 변위를 가지는 벡터를 나타낸다.
위의 후보 쌍 목록은 설명을 위한 예시일 뿐이며 본 발명은 특정 후보 목록으로 제한되지 않는다.
정제 후보 모션 벡터(MV) 쌍은 모션 벡터 정제 프로세스의 검색 공간을 형성한다.
현재 블록의 바이-예측에서, 각각의 목록 L0의 제1 모션 벡터 및 목록 L1의 제2 모션 벡터 각각을 사용하여 획득되는 2개의 예측 블록은 단일 예측 신호로 결합되며, 이는 단일 예측보다 원래의 신호에 대한 보다 나은 적용을 제공할 수 있고, 결과적으로 잔차 정보가 줄이고 더 효율적인 압축을 가능하게 한다.
모션 벡터 정제에서, 후보 MV 쌍의 제1 모션 벡터 및 제2 모션 벡터 각각을 사용하여 획득되는 2개의 예측 블록은 정제 후보 MV 쌍의 각각에 대한 유사도 메트릭에 기초하여 비교된다. 가장 높은 유사도를 나타내는 후보 MV 쌍은 일반적으로 정제된 모션 벡터로서 선택된다. 목록 L0 내의 제1 참조 화상에서 정제된 모션 벡터 및 목록 L1 내의 제2 참조 화상에서 정제된 모션 벡터는, 각각 MV0' 및 MV1'로 표시된다. 즉, 후보 모션 벡터 쌍의 목록 L0 모션 벡터 및 목록 L1 모션 벡터에 대응하는 예측값이 획득되고, 이는유사도 메트릭에 기초하여 비교된다. 가장 높은 연관 유사도를 가지는 후보 모션 벡터 쌍을 정제된 MV 쌍으로서 선택한다.
일반적으로 정제 프로세스의 출력은 정제된 MV이다. 정제된 MV는, 어떤 후보 MV 쌍이 가장 높은 유사도를 달성하는지에 따라 초기 MV와 동일할 수도 있고 초기 MV와 상이할 수도 있으며, 초기 MV에 의해 형성된 후보 MV 쌍도 MV 쌍 후보에 포함된다. 달리 말하면, 유사도가 가장 높은 후보 MV 쌍이 초기 MV에 의해 형성되면, 정제된 MV와 초기 MV는 서로 동일하다.
유사도 메트릭을 최대화하는 위치를 선택하는 대신, 다른 방법은 비-유사도 메트릭을 최소화하는 위치를 선택하는 것이다. 비-유사도 비교 척도는 SAD(절대 차이의 합), MRSAD(절대 차이의 평균 제거 합, SSE(제곱 오차 합) 등일 수 있다. 2개의 예측 블록 사이의 SAD는 후보 MV 쌍(CMV0, CMV1)을 사용하여 획득될 수 있으며, SAD는 다음과 같이 계산될 수 있다.
여기서, nCbH 및 nCbW는 예측 블록의 높이 및 폭이고, 함수 abs(a)는 인수 a의 절대값을 지정하고, predSAmplesL0 및 predSAmplesL1는 (CMV0, CMV1)에 의해 표시되는 후보 MV 쌍에 따라 획득되는 예측 블록 샘플이다.
대안적으로, 연산의 수를 줄이기 위해, 예측 블록에서 샘플의 서브세트만을 평가함으로써 비-유사도 비교 척도가 획득될 수 있다. 샘플 행이 SAD 계산에 대안적으로 포함되는 예가 아래에 있다(매 두 번째 행이 평가됨).
모션 벡터 정제의 한 예는 JVET(ITU-T SG 16 WP 3 및 ISO/IEC JTC 1/SC 29/WG 11)의 JVET-M1001-v3, "Versatile Video Coding(Draft 4)" 문서에 설명되어 있으며, "http://phenix.it-sudparis.eu/jvet/"에서 공개적으로 이용 가능하다. 문서의 "8.4.3 디코더 측 모션 벡터 정제 과정" 섹션은 모션 벡터 정제를 예시한다.
정제를 위한 내부 메모리 요구 사항을 줄이기 위해, 일부 실시예에서, 모션 벡터 정제 프로세스는, 루마 샘플에서 특정한 기설정된 폭 또는 기설정된 높이를 초과하는 샘플의 코딩된 블록을 루마에서 기설정된 폭 및 기설정된 높이보다 작거나 같은 샘플의 서브-블록으로 파티셔닝함으로써 획득되는 루마 샘플의 블록에 대해 독립적으로 수행될 수 있다. 파티셔닝된 코딩된 블록 내의 각각의 서브-블록에 대한 정제된 MV 쌍은 상이할 수 있다. 루마 및 크로마 모두에 대한 인터-예측은 해당 서브-블록의 정제된 MV 쌍을 사용하여 각각의 서브-블록에 대해 수행된다.
초기 MV 쌍의 각각의 MV는 분수 픽셀 정밀도를 가질 수 있다. 달리 말하면, MV는 샘플의 현재 블록과 재샘플링된 참조 영역 사이의 변위를 나타내며 이 변위는 재구성된 참조 샘플의 정수 그리드로부터 수평 및 수직 방향의 분수 위치를 가리킬 수 있다. 일반적으로, 재구성된 참조 정수 샘플 그리드 값의 2-차원 보간은 분수 샘플 오프셋 위치에서 샘플 값을 획득하기 위해 수행된다. 예측된 샘플을 재구성된 참조 화상으로부터 후보 MV 쌍을 사용하여 획득하는 프로세스는 다음의 방법 중 하나를 통해서 수행될 수 있다:
□ 초기 MV 쌍의 소수 부분을 가장 가까운 정수 위치로 반올림하고 재구성된 참조 화상의 정수 그리드 값을 획득한다.
□ 2-탭(예컨대 이중 선형) 분리 가능한 이중 선형 보간을 수행하여 초기 MV 쌍에 의해 표시되는 분수 픽셀 정확도에서 예측된 샘플 값을 획득한다.
□ 더 높은 탭(예컨대 8-탭 or 6-탭) 분리 가능한 보간을 수행하여 초기 MV 쌍에 의해 표시되는 분수 픽셀 정확도에서 예측된 샘플 값을 획득한다.
후보 MV 쌍은 초기 MV 쌍에 대해 임의의 서브-픽셀 오프셋을 가질 수 있지만, 일부 실시예에서, 검색의 단순성을 위해, 후보 MV 쌍은 초기 MV 쌍에 대해 정수 픽셀 거리로 선택된다. 이러한 경우에, 초기 MV 쌍 주변의 샘플 블록에 대한 예측을 수행하여 모든 후보 MV 쌍에 걸쳐 예측된 샘플을 획득함으로써 초기 MV 쌍 주변의 모든 정제 위치를 커버할 수 있다.
일부 실시예에서, 초기 MV 쌍으로부터 정수 거리에 있는 모든 후보 MV 쌍에서 비-유사도 비용 값이 일단 평가되면, 최상의 비용 값 위치로부터의 서브-픽셀 거리 오프셋에서 추가적인 후보 MV 쌍이 추가된다. 예측된 샘플은 앞서 설명한 방법 중 하나를 사용하여 이러한 위치 각각에 대해 획득되고 비-유사도 비용이 평가되고 비교되어 가장 낮은 비-유사도 위치를 획득한다. 특정 다른 실시예에서, 최적의 비용 정수-거리 위치 주변의 각각의 서브-픽셀 거리 위치에 대한 이 연산적으로 고가의 예측 프로세스를 피하기 위해, 평가된 정수-거리 비용 값이 기억되고 파라메트릭 에러 표면이 최적 정수-거리 위치 근처에 피팅된다. 그런 다음 이 에러 표면의 최소값이 분석적으로 연산되어 최소 비-유사도를 가지는 위치로서 사용된다. 이러한 경우에, 비-유사도 비용 값은 연산된 정수-거리 비용 값으로부터 파생된다고 한다.
샘플의 주어진 코딩된 블록에 대한 모션 벡터 정제의 적용은 샘플의 코딩된 블록의 특정 코딩 특성에 따라 조절될 수 있다. 이러한 코딩 특성의 몇 가지 예는 다음과 같다.
□ 현재 화상으로부터 샘플의 코딩된 블록의 바이-예측에 사용되는 2개의 참조 화상까지 화상의 수(균일한 프레임-레이트로 샘플링된 경우)에서의 거리는 동일하고 현재 화상의 반대쪽에 있다.
□ 초기 MV 쌍을 사용하여 획득되는 2개의 예측 블록 사이의 초기 비-유사도는 기결정된 샘플당 임계값보다 작다.
바이-예측 광학 흐름 정제(Bi-predictive Optical flow refinement, BPOF)
바이-예측 광학 흐름 정제는, 바이-예측을 위해 시그널링된 것 외에 비트스트림에서 명시적으로 추가적인 시그널링 없이, 블록의 바이-예측의 정확도를 향상하는 프로세스이다. 이는 인터 예측 유닛(도 2에서 244 및 도 3에서 344)의 일부이다.
바이-예측에서, 2개의 인터-예측이 2개의 모션 벡터에 따라 획득되고, 그런 다음 예측은 가중 평균을 적용하여 결합된다. 결합된 예측은, 2개의 참조 패치 내의 양자화 노이즈가 제거됨에 따라 감소된 잔차 에너지를 초래할 수 있으며, 이에 따라 단일-예측보다 큰 코딩 효율을 제공한다. 바이-예측에서 가중 조합은 다음 수학식으로 수행될 수 있다.
바이-예측 = 예측1 * W1 + 예측2 * W2 + K,
여기서, W1 및 W2는, 비트스트림에서 시그널링될 수 있거나 인코더 측에서 또는 디코더 측에서 미리 정의될 수 있는 가중 팩터이다. K는 비트스트림에서 시그널링되거나 인코더 측 또는 디코더 측에서 미리 정의될 수 있는 가산 팩터이다. 예로서, 바이-예측은 다음을 사용하여 획득될 수 있다.
바이-예측 = (예측1 + 예측2)/2,
여기서, W1 및 W2는 ½로 설정되고 K는 0으로 설정된다.
광학 흐름 정제의 목표는 바이-예측의 정확도를 향상하는 것이다. 광학 흐름은 2개의 연속적인 프레임 사이에서 이미지 개체의 겉보기 움직임의 패턴이고, 광학 흐름은 개체 또는 카메라의 움직임에 의해 초래된다. 광학 흐름 정제 프로세스는 광학 흐름 방정식을 적용(광학 흐름 방정식 풀기)하여 바이-예측의 정확도를 향상한다.
예에서, 픽셀 I(x,y,t)는 제1 프레임(x 및 y는 공간 좌표에 해당하고 t는 시간 차원에 해당)에 위치한다. 픽셀이 나타내는 객체는 dt 시간 이후에 취한 다음 프레임에서 거리(dx,dy)만큼 이동한다. 이러한 픽셀은 동일하고 세기가 변경되지 않으므로, 광학 흐름 방정식은 다음과 같이 주어진다.
I(x,y,t) = I(x+ dx ,y+ dy ,t+dt)
I(x,y,t)는 (x,y,t) 좌표에서 픽셀의 세기(샘플 값)를 지정한다.
다른 예에서 테일러 급수 전개(Taylor series expansion)에서 작은 변위와 고차 항은 무시되며, 광학 흐름 방정식은 다음과 같이 쓸 수도 있다.
여기서, 및 는 위치 (x,y)에서 수평 및 수직 공간적 샘플 기울기이고, 는 (x,y)에서 편시간 도함수(partial temporal derivative)이다.
광학 흐름 정제는 바이-예측의 품질을 향상하기 위해 위의 원리를 활용한다.
광학 흐름 정제의 구현예는 통상적으로 다음 단계를 포함한다:
1. 샘플 기울기를 계산하는 단계;
2. 제1 예측 및 제2 예측 사이의 차이를 계산하는 단계;
3. 광학 흐름 방정식을 사용하여 획득되는 2개의 참조 패치 사이의 오차 를 최소화하는 픽셀의 변위 또는 픽셀의 그룹을 계산하는 단계
여기서, I(0)는 제1 예측의 샘플 값에 대응하고, I(1)은 제2 예측의 샘플 값이고, 그리고 ∂I(0)/ ∂x 및 ∂I(0)/ ∂y는 -x 및 -y 방향에서의 기울기이다. 및 는 제1 예측 및 제2 예측이 획득되는 참조 화상까지의 거리를 나타낸다. 모션 벡터(vx, vy)는 최소화 프로세스르 통해 획득된다. 일부 접근 방식은 제곱 오차의 합을 최소화하는 반면 일부 접근 방식은 절대 오차의 합을 최소화한다.
4. 다음과 같은 광학 흐름 방정식의 구현예를 사용한다.
여기서, predBIO는 광학 흐름 정제 프로세스의 출력인 수정된 예측을 지정한다.
샘플 기울기는 다음 공식으로 획득될 수 있다.
□ ∂I(x, y, t) / ∂x = I(x + 1, y, t) - I(x - 1, y, t)
□ ∂I(x, y, t) / ∂y = I(x, y + 1, t) - I(x, y - 1, t)
일부 실시예에서, 각각의 픽셀에 대한 변위를 추정하는 복잡성을 단순화하기 위해, 변위는 픽셀 그룹에 대해 추정된다. 일부 예에서, 4x4 루마 샘플의 블록에 대한 향상된 바이-예측을 연산하기 위해, 중심에 샘플의 4x4 블록이 있는 8x8 루마 샘플의 블록의 샘플 값을 사용하여 변위가 추정된다.
광학 흐름 정제 프로세스의 입력은 2개의 참조 화상으로부터의 예측 샘플이고, 광학 흐름 정제의 출력은 광학 흐름 방정식에 따라 계산되는 결합 예측(predBIO)이다.
광학 흐름 정제의 예시는 문서 JVET-M1001, Versatile Video Coding (Draft 4)의 8.4.7.4 "양방향 광학 흐름 예측 프로세스" 섹션에 설명되어 있다.
용어 광학 흐름 정제, 바이-예측 광학 흐름 정제 및 양방향 광학 흐름 정제는, 이들 용어가 본래 동등하므로, 본 개시에서 상호 치환적으로 사용된다.
예로서, 모션 벡터 정제 및 광학 흐름 정제는 다음과 같이 연속적으로 적용된다:
단계 0에서, 도 8의 1010에서와 같이 초기 모션 벡터를 획득한다 .
단계 1에서, 모션 벡터 정제가 적용되고(1020), 정제된 모션 벡터가 획득된다(1030).
단계 2에서, 정제 모션 벡터에 따라 예측이 획득된다(1040). 획득된 예측은 I(0) 및 I(1)이며, 이는 광학 흐름 정제 프로세스의 입력이다.
단계 3에서, 광학 흐름 정제 프로세스가 예측에 적용되어, 수정된 예측을 획득한다. 수정된 예측은 광학 흐름 방정식에 따라 획득되며 predBIO로 표시된다.
그러나, 광학 흐름 정제 프로세스는 계산 집약적이다. 광학 흐름 정제를 적용함에 의해 디코딩 시간이 늘어난다.
본 발명의 하나의 실시예에서, 광학 흐름 정제를 적용할 것인지 아닌지 여부를 결정하는 방법이 개시되며, 이러한 결정은 모션 벡터 정제 프로세스 동안 수행되는 연산에 따라 이루어질 수 있다.
보다 구체적으로, 모션 벡터 정제 프로세스 동안 수행되는 연산의 결과는 광학 흐름 정제를 적용할 것인지 아닌지 여부를 결정하는데 사용된다.
본 발명의 목적은 특정 조건에 따른 광학 흐름 정제의 적용을 생략하여, (필요한 연산을 생략함으로써) 평균 디코딩 시간을 감소시키는 것이다.
제1 실시예에 따르면, 현재 코딩 블록에 대한 예측을 획득하기 위해 다음 단계가 적용된다:
단계 0: 비트스트림의 표시 정보에 기초하여 초기 모션 벡터를 획득한다.
단계 1: 초기 모션 벡터 및 M-탭 보간 필터에 기초하여 제1 예측을 획득한다.
단계 2: 제1 예측에 따라 매칭 비용을 획득한다.
단계 3: 초기 모션 벡터 및 매칭 비용에 따라 정제된 모션 벡터를 획득한다.
단계 4: 정제된 모션 벡터 및 K-탭 보간 필터에 따라 제2 예측을 획득한다.
단계 5: 매칭 비용에 따라 광학 흐름 정제 프로세스를 수행할 것인지 여부를 결정한다. 예로서, 매칭 비용은 임계치와 비교되고, 광학 흐름 정제 프로세스는 매칭 비용의 값이 임계치보다 크거나 같은 경우에 수행된다. 단계 5는 또한 단계 3 또는 단계 4에 앞서 수행횔 수도 있다.
단계 6: 광학 흐름 정제 프로세스가 수행되어야 할 것으로 결정되는 경우, 광학 흐름 정제는 제2 예측을 입력으로 그리고 수정된 제2 예측을 출력으로 하여 적용된다. 부정적으로 결정되면, 광학 흐름 정제는 제2 예측에 적용되지 않는다. 달리 말하면, 광학 흐름 정제 프로세스가 수행되어야 할 것으로 결정되는 경우, 현재 코딩 블록의 최종 예측은 제2 예측에 따라 그리고 광학 흐름 정제 프로세스에 따라 획득된다. 그렇지 않으면 현재 코딩 블록의 최종 예측은 제2 예측에 따라 그리고 광학 흐름 정제 프로세스의 적용 없이 획득된다.
단계에 대한 자세한 설명은 다음과 같다.
단계 0에서, 2개의 초기 모션 벡터가 입력으로서 획득된다. 초기 모션 벡터는 비트스트림의 표시 정보에 기초하여 결정될 수 있다. 예를 들어, 인덱스는 비트스트림에서 시그널링될 수 있고, 인덱스는 후보 모션 벡터의 목록에서 위치를 나타낸다. 다른 예에서, 모션 벡터 예측자 인덱스 및 모션 벡터 차이 값은 비트스트림에서 시그널링될 수 있다. 비트스트림의 표시 정보에 기초하여 결정되는 모션 벡터는 초기 모션 벡터로서 규정된다.
다른 예에서, 참조 화상 표시는 비트스트림으로부터 획득될 수 있고, 초기 모션 벡터는 참조 화상 표시에 기초하여 획득된다. 참조 화상 표시는 초기 모션 벡터가 가리키는 참조 화상을 결정하는데 사용된다.
단계 1, 단계 2 및 단계 3은 위의 예에서 설명한 모션 벡터 정제 프로세스에 대응한다. 모션 벡터 정제에 따라 정제된 초기 모션 벡터. 한 예로서, 매칭 비용은 모션 벡터 정제에 사용되는 유사도 척도이다.
단계 1에 따르면, 제1 예측은 초기 모션 벡터에 대응하여 획득된다. 예로서, 모션 벡터 정제 프로세스에는 적어도 2개 쌍의 후보 모션 벡터가 있으며, 그 중 하나는 통상적으로 초기 모션 벡터(MV0, MV1)에 의해 형성되는 쌍이다. 달리 말하면, 후보 모션 벡터의 세트는 통상적으로 둘 이상의 쌍을 포함하며, 여기서 쌍 중 하나는 일반적으로 (MV0, MV1)이다. 후보 모션 벡터의 다른 쌍은, (위의 예에서 설명된 바와 같이) 모션 벡터에 작은 섭동(perturbations)을 추가함으로써, (MV0, MV1)에 기초하여 결정된다.
단계 1에서, 후보 모션 벡터의 각각의 쌍에 대응하는 제1 예측은 M-탭 보간 필터에 기초하여 획득된다. 예로서, MV0에 대응하는 하나의 예측은 참조 화상(인코더에서 이미 인코딩되거나 디코더에서 디코딩된 화상)에서 직사각형 블록을 위치시킴으로써 획득될 수 있으며, 여기서 블록은 MV0에 의해 지시된다. 그 후 보간 필터는 MV0이 가리키는 블록 내의 샘플에 유리하게 적용된다. 보다 정확한 모션 추정을 제공하기 위해, 참조 화상의 해상도는 픽셀들 사이의 샘플들을 보간함으로써 개선될 수 있다. 분수 픽셀 보간은 가장 가까운 픽셀의 가중 평균에 의해 수행될 수 있다. 여기서 M-탭 필터는 일반적으로 2 4, 6, 또는 8 탭 필터(이러한 옵션에 제한되지 않음)일 수 있으며, 이는 필터가 M 곱셈 계수를 가짐을 의미한다. MV1에 대응하는 예측은, 동일하거나 다른 참조 화상에서 직사각형 블록을 위치시킴으로써 유사하게 얻어질 수 있다. 직사각형의 크기는 현재 코딩 블록의 크기에 비례한다.
단계 2에서, 후보 모션 벡터의 각각의 쌍과 연관된 매칭 비용은 제1 예측에 따라 결정된다.
단계 2에 따르면, 적어도 하나의 매칭 비용(예를 들어, 유사도 척도)이 정제 후보 모션 벡터(MV) 쌍 중 하나에 대응하여 획득된다. 2개의 예측 블록 사이의 유사도가 높을수록, 매칭 비용이 작아진다.
상기 매칭 비용은 단계 3에서 초기 모션 벡터의 정제에 사용된다. 정제된 모션 벡터는 상기 매칭 비용에 따라 선택된다.
단계 4에서, 제2 예측은 정제된 모션 벡터 및 K-탭 보간 필터에 따라 획득된다. 바이-예측의 경우인, 2개의 정제된 모션 벡터(MV0' 및 MV1')의 경우에, 2개의 제2 예측이 획득된다.
제2 예측은, 제1 보간 필터(M-탭 필터)와 동일하거나 동일하지 않을 수 있는, 제2 보간 필터(K-탭 필터)를 적용하여 획득된다. 제2 예측은, 제2 보간 필터를 적용하여 그리고 참조 화상에서 MV0' 및 MV1'가 가리키는 블록에 따라, 제1 예측과 유사하게 획득된다.
단계 5에서, 상기 매칭 비용은, 다음에 따라 광학 흐름 정제 프로세스를 수행할 것인지 아닌지 여부를 결정하는데 사용된다.
매칭 비용의 값이 미리 정의된 임계보다 작은 경우, 광학 흐름 정제는 적용되지 않는다. 매칭 비용의 값이 임계치보다 크거나 같은 경우, 광학 흐름 정제 프로세스는 수행된다. 광학 흐름 정제 프로세스가 수행되면, 최종 예측의 샘플이 수정된다.
단계 6에서, 단계 5의 출력에 따라, 매칭 비용이 상기 임계보다 크거나 같으면, 광학 흐름 정제 프로세스는 제2 예측에 적용되고, 제2 예측은 MV0' 및 MV1'(정제된 모션 벡터)에 따라 획득된다. 현재 코딩 블록에 대한 최종 예측은 광학 흐름 정제 프로세스를 제2 예측에 수행함으로써 획득되며, 제2 예측은 MV0' 및 MV1'에 의해 지시된다. 매칭 비용이 상기 임계보다 작으면, 최종 예측은, 광학 흐름 정제의 적용 없이, MV0' 및 MV1'가 가리키는 제2 예측에 따라 획득되며, 이는 단계 6이 수행되지 않음을 의미한다.
하나의 구현예에서, 단계 2의 매칭 비용은 초기 모션 벡터 쌍(정제 후보 모션 벡터(MV) 쌍 중 하나임)에 대응하는 매칭 비용이다. 매칭 비용은 MV0, MV1 쌍에 대응할 수 있다.
다른 구현예에서, 단계 2의 상기 매칭 비용은 정제 후보 모션 벡터(MV) 쌍 중 가장 작은 매칭 비용과 같은 매칭 비용이다. 달리 말하면, 매칭 비용은 각각의 정제 후보 모션 벡터 쌍에 대응하여 획득되고, 상기 매칭 비용은 이들 중 가장 작은 매칭 비용과 같다. 한 예로서, 상기 매칭 비용은, (정제된 모션 벡터 쌍(MV0', MV1')이 가장 작은 매칭 비용을 가져 선택되므로) 정제된 모션 벡터 쌍 MV0' 및 MV1'에 대응하는 매칭 비용이다.
예로서, MV 쌍은 다음과 같이 구성될 수 있다.
후보 MV 쌍은 작은 모션 벡터 차이를 MV0 및 MV1에 더함으로써 결정된다. 예를 들어, 후보 MV 쌍은 다음을 포함할 수 있다:
(MV0, MV1)
(MV0 + (0,1), MV1 + (0,-1))
(MV0 + (1,0), MV1 + (-1,0))
MV0 및 MV1은 초기 모션 벡터이며, MV0' 및 MV1'은 애플리케이션 전반에 걸쳐 정제된 모션 벡터이다.
다른 구현예에 따르면, 광학 흐름 정제 프로세스가 수행되지 않는 경우, 최종 예측은 다음 공식에 따라 획득된다:
바이-예측 = 예측1 * W1 + 예측2 * W2 + K,
여기서, W1 및 W2는 가중 팩터이고, W1 및 W2는 비트스트림에서 시그널링될 수 있거나, W1 및 W2는 인코더 측에서 또는 디코더 측에서 미리 정의될 수 있다. K는 비트스트림에서 시그널링되거나 인코더 측 또는 디코더 측에서 미리 정의될 수 있는 가산 팩터이다. 예로서, 바이-예측은 다음을 사용하여 획득될 수 있다.
바이-예측 = (예측1 + 예측2)/2,
여기서, W1 및 W2는 ½로 설정되고 K는 0으로 설정된다. 예측1 및 예측2는 K-탭 보간 필터링에 의해 획득되는 제2 예측이고, 예측1은 제1 정제된 MV(MV0')에 대응하고, 예측2는 제2 정제된 MV(MV1')에 대응한다.
위의 수학식은 2개의 예측의 가중치 조합을 달성하고, 그 결과는 블록에 대한 최종 예측이다.
임계는 미리 정의된 값일 수 있고, 임계의 값은 예측 블록의 크기에 따라 다를 수 있다. 예를 들어, 임계치는 thr = nCbW x nCbH x K일 수 있으며, 여기서 K는 0보다 큰 값이고, nCbW 및 nCbH는 예측 블록의 폭 및 높이이다.
제1 실시예는 도 6의 흐름도에 의해 추가적으로 예시된다.
하나의 구현예에서, M-탭 필터는 탭 중 하나가 0인 2-탭 필터(예컨대 이중 선형 필터)이다. 이 구현예에서, M-탭 필터는 2개의 승수 계수를 채용하며, 하나의 계수의 값은 항상 0과 같다. 어떤 계수가 0과 같은 값을 가지는지는 분수 샘플 포인트에 기초하여 결정되며, 이 분수 샘플 포인트는 모션 벡터에 의해 표시된다. 이 경우, 모션 벡터의 소수 성분에 따라, 제1 승수 계수의 값 또는 제2 승수 계수의 값은 0일 수 있다.
(2개의 탭이 있고 그 중 하나는 0인) 이러한 필터는, 다음 표에 따라 예시될 수 있다:
분수 샘플 위치(p)는 초기의 또는 정제된 모션 벡터의 성분에 따라 획득될 수 있다. 예를 들어, 모션 벡터의 -x 성분이 MV0x에 의해 주어지면, 분수 샘플 위치는 p = MV0x%16로 획득될 수 있으며, 여기서 "%"는 모듈로 연산이다. 일반적으로, p = MV0x%K이며, 여기서 K는 2개의 샘플 위치 사이의 분수 샘플 위치의 수를 표현한다. 위에 예시된 보간 필터는, 필터 탭 중 하나만 한 번에 0이 아니므로, 1-탭 필터라고도 지칭한다.
하나의 구현예에서, K의 값은 8과 같다. 다른 예로서, M의 값은 8보다 작다.
하나의 구현예에서, M의 값 및 K의 값은 모두 8과 같다.
초기 모션 벡터는, 모션 벡터 정제 유닛의 입력인, 710에서 획득된다. 모션 벡터 정제 유닛에 의해 초기 모션 벡터 주위에 검색 공간이 구성된다(740). 하나의 예에서, 검색 공간은 후보 모션 벡터 쌍, 제1 참조 화상에 대응하는 쌍의 제1 모션 벡터, 및 제2 참조 화상에 대응하는 쌍의 제2 모션 벡터로 구성된다. 각각의 후보 모션 벡터 쌍에 대응하는 제1 예측은, M-탭 보간 필터의 적용에 의해, 단계 710에서 획득된다. 모션 벡터 정제의 일부로서, 매칭 비용이 검색 공간 내의 모션 벡터 쌍 중 하나에 대응하여 계산된다(720). 상기 매칭 비용은 2개의 프로세스의 일부로서 사용되며, 제1 프로세스는 모션 벡터 정제(740)로서, 여기서 매칭 비용은 어떤 모션 벡터 쌍이 정제된 모션 벡터 쌍(750)으로서 선택될지를 결정하는데 사용된다. 제2 프로세스는 광학 흐름 정제(770)가 적용되는지 아닌지 여부의 결정이다. 정제된 모션 벡터가 획득된 후, 현재 블록에 대한 제2 예측이 760에 의해 획득된다. 매칭 비용이 임계치보다 크거나 같으면, 광학 흐름 정제가 적용되고 760에서의 예측이 770에 의해 수정되어 수정된 예측을 획득한다(780). 수정된 예측은 통상적으로 단계 760에서의 제2 예측과 샘플 값에서 상이하다.
한 예로서, 모션 벡터 정제 프로세스는 모션 벡터를 추가로 정제하기 위해 1회 이상 수행된다. 이 예에서, 초기 모션 벡터는 먼저 모션 벡터 정제 프로세스에 의해 정제되어, 제1 정제된 모션 벡터를 획득한다. 이후, 모션 벡터 정제가 한 번 더 수행되며, 이 경우 제1 정제된 모션 벡터는 제2 모션 벡터 정제를 위한 초기 모션 벡터로서 간주된다.
제2 실시예에 따르면, 현재 코딩 블록에 대한 예측을 획득하기 위해 다음 단계가 적용된다:
단계 0: 비트스트림의 표시 정보에 기초하여 초기 모션 벡터를 획득한다.
단계 1: 초기 모션 벡터 및 M-탭 보간 필터에 기초하여 제1 예측을 획득한다.
단계 2: 제1 예측에 따라 N개의 매칭 비용을 획득한다.
단계 3: 제1 함수에 기초하여, 초기 모션 벡터 및 N개의 매칭 비용에 따라 정제된 모션 벡터를 획득한다.
단계 4: 정제된 모션 벡터 및 K-탭 보간 필터에 따라 제2 예측을 획득한다.
단계 5: N개의 매칭 비용에 따라 광학 흐름 정제 프로세스를 수행할 것인지 여부를 결정한다. 도출 비용은 N개의 매칭 비용 및 제2 함수에 따라 획득된다. 예로서, 도출 비용은 임계치와 비교되고, 광학 흐름 정제 프로세스는 도출 비용의 값이 임계치보다 크거나 같은 경우에 수행된다. 단계 5는 또한 단계 3 또는 단계 4에 앞서 수행횔 수도 있다.
단계 6: 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 광학 흐름 정제를 적용하여 현재 코딩 블록의 예측의 적어도 하나의 샘플을 수정한다.
광학 흐름 정제 프로세스가 수행되어야 할 것으로 결정되는 경우, 광학 흐름 정제는 제2 예측을 입력으로 그리고 수정된 제2 예측을 출력으로 하여 적용된다. 부정적으로 결정되면, 광학 흐름 정제는 제2 예측에 적용되지 않는다. 달리 말하면, 광학 흐름 정제 프로세스가 수행되어야 할 것으로 결정되는 경우, 현재 코딩 블록의 최종 예측은 제2 예측에 따라 그리고 광학 흐름 정제 프로세스에 따라 획득된다. 그렇지 않으면 현재 코딩 블록의 최종 예측은 제2 예측에 따라 그리고 광학 흐름 정제 프로세스의 적용 없이 획득된다.
단계에 대한 자세한 설명은 다음과 같다:
단계 0에서, 2개의 초기 모션 벡터가 입력으로서 획득된다. 초기 모션 벡터는 비트스트림의 표시 정보에 기초하여 결정될 수 있다. 예를 들어, 인덱스는 비트스트림에서 시그널링될 수 있고, 인덱스는 후보 모션 벡터의 목록에서 위치를 나타낸다. 다른 예에서, 모션 벡터 예측자 인덱스 및 모션 벡터 차이 값은 비트스트림에서 시그널링될 수 있다. 비트스트림의 표시 정보에 기초하여 결정되는 모션 벡터는 초기 모션 벡터로서 규정된다.
다른 예에서, 참조 화상 표시는 비트스트림으로부터 획득될 수 있고, 초기 모션 벡터는 참조 화상 표시에 기초하여 획득된다. 참조 화상 표시는 초기 모션 벡터가 가리키는 참조 화상을 결정하는데 사용된다.
단계 1, 단계 2 및 단계 3은 위의 예에서 설명한 모션 벡터 정제 프로세스에 대응한다. 모션 벡터 정제에 따라 정제된 초기 모션 벡터. 한 예로서, 매칭 비용은 모션 벡터 정제에 사용되는 유사도 척도이다.
단계 1에 따르면, 제1 예측은 초기 모션 벡터에 대응하여 획득된다. 예로서, 모션 벡터 정제 프로세스에는 적어도 2개 쌍의 후보 모션 벡터가 있으며, 그 중 하나는 통상적으로 초기 모션 벡터(MV0, MV1)에 의해 형성되는 쌍이다. 그리고 후보 모션 벡터의 다른 쌍은, (위의 예에서 설명된 바와 같이) 모션 벡터에 작은 섭동(perturbations)을 추가함으로써, (MV0, MV1)에 기초하여 결정된다.
단계 1에서, 후보 모션 벡터의 각각의 쌍에 대응하는 제1 예측은 M-탭 보간 필터에 기초하여 획득된다.
단계 2에서, N개 쌍의 후보 모션 벡터와 연관된 N개의 매칭 비용은 제1 예측에 따라 결정된다.
단계 2에 따르면, N개의 매칭 비용(유사도 척도)이 N개의 정제 후보 모션 벡터(MV) 쌍에 대응하여 획득된다. 2개의 예측 블록 사이의 유사도가 높을수록, 매칭 비용이 작아진다.
상기 N개의 매칭 비용은 단계 3에서 초기 모션 벡터의 정제에 사용된다.
정제된 모션 벡터는 제1 함수 및 N개의 매칭 비용에 따라 결정된다.
하나의 예에서, 정제된 모션 벡터는 다음 함수에 따라 획득될 수 있다:
- ( sad[ 3 ] + sad[5])가 ( sad[ 4 ] << 1 )와 같으면, dmvOffset[ 0 ]는 0과 같도록 설정되고,
- 그렇지 않으면, 다음이 적용된다:
dmvOffset[ 0 ] = ( ( sad[ 3 ] - sad[ 5 ] ) << 3 ) / ( sad[ 3 ] + sad[ 5 ] - ( sad[ 4 ] << 1 ) )
- ( sad[ 1 ] + sad[7])가 ( sad[ 4 ] << 1 )와 같으면, dmvOffset[ 1 ]는 0과 같도록 설정되고,
- 그렇지 않으면, 다음이 적용된다:
dmvOffset[ 1 ] = ( ( sad[ 1 ] - sad[ 7 ] ) << 3 ) / ( sad[ 1 ] + sad[ 7 ] - ( sad[ 4 ] << 1 ) )
여기서, dmvOffset[0] 및 dmvOffset[1]는 초기의 및 정제된 모션 벡터 사이의 차이를 지정한다. 예로서, dmvOffset[0] 및 dmvOffset[1]는 정제된 및 초기 모션 벡터 사이의 차이의 -x 및 -y 성분을 지정한다. sad[0] 내지 sad[7]는, N개의 후보 모션 벡터 쌍에 대응하는, N개의 매칭 비용이다. 정제된 모션 벡터는 dmvOffset를 초기 모션 벡터에 더함으로써 획득된다.
N개의 매칭 비용에 따라 정제된 모션 벡터를 결정하는데 사용할 수 있는 다른 함수가 있을 수 있다. 본 발명의 제1 함수는 위의 수학식에 한정되지 않는다.
단계 4에서, 제2 예측은 정제된 모션 벡터 및 K-탭 보간 필터에 따라 획득된다. 바이-예측의 경우인, 2개의 정제된 모션 벡터(MV0' 및 MV1')의 경우에, 2개의 제2 예측이 획득된다.
제2 예측은, 제1 보간 필터(M-탭 필터)와 동일하거나 동일하지 않을 수 있는, 제2 보간 필터(K-탭 필터)를 적용하여 획득된다. 제2 예측은, 제2 보간 필터를 적용하여 그리고 참조 화상에서 MV0' 및 MV1'가 가리키는 블록에 따라, 제1 예측과 유사하게 획득된다.
단계 5에서, 도출 비용은 제2 함수 및 상기 N개의 매칭 비용에 따라 획득된다. 도출 비용은 광학 흐름 정제 프로세스를 수행할 것인지 아닌지 여부를 결정하는데 사용된다. 상기 도출 비용의 값이 미리 정의된 임계보다 작은 경우, 광학 흐름 정제 프로세스는 수행되지 않는다. 도출 비용의 값이 임계치보다 크거나 같은 경우, 광학 흐름 정제 프로세스는 수행된다. 광학 흐름 정제 프로세스가 수행되면, 최종 예측의 샘플이 수정된다.
단계 6에서, 단계 5의 출력에 따라, 도출 비용이 상기 임계보다 크면, 광학 흐름 정제 프로세스는 제2 예측에 적용되고, 제2 예측은 MV0' 및 MV1'(정제된 모션 벡터)에 따라 획득된다. 현재 코딩 블록에 대한 최종 예측은 광학 흐름 정제 프로세스를 제2 예측에 수행함으로써 획득되며, 제2 예측은 MV0' 및 MV1'에 의해 지시된다. 매칭 비용이 상기 임계보다 작으면, 최종 예측은, 광학 흐름 정제의 적용 없이, MV0' 및 MV1'가 가리키는 제2 예측에 따라 획득되며, 이는 단계 6이 수행되지 않음을 의미한다.
다른 구현예에 따르면, 광학 흐름 정제 프로세스가 수행되지 않는 경우, 최종 예측은 다음 공식에 따라 획득된다:
바이-예측 = 예측1 * W1 + 예측2 * W2 + K,
여기서, W1 및 W2는 가중 팩터이고, W1 및 W2는 비트스트림에서 시그널링될 수 있거나, 인코더 측에서 또는 디코더 측에서 미리 정의될 수 있다. K는 비트스트림에서 시그널링되거나 인코더 측 또는 디코더 측에서 미리 정의될 수 있는 가산 팩터이다. 예로서, 바이-예측은 다음을 사용하여 획득될 수 있다.
바이-예측 = (예측1 + 예측2)/2,
여기서, W1 및 W2는 ½로 설정되고 K는 0으로 설정된다. 예측1 및 예측2는 K-탭 보간 필터링에 의해 획득되는 제2 예측이고, 예측1은 제1 정제된 MV(MV0')에 대응하고, 예측2는 제2 정제된 MV(MV1')에 대응한다.
위의 수학식은 2개의 예측의 가중치 조합을 달성하고, 그 결과는 블록에 대한 최종 예측이다.
임계는 미리 정의된 값일 수 있고, 임계의 값은 예측 블록의 크기에 따라 다를 수 있다. 예를 들어, 임계치는 thr = nCbW x nCbH x K일 수 있으며, 여기서 K는 0보다 큰 값이고, nCbW 및 nCbH는 예측 블록의 폭 및 높이이다.
제2 실시예는 도 7의 흐름도에 의해 추가적으로 예시된다.
하나의 구현예에서, M-탭 필터는 탭 중 하나가 0인 2-탭 필터(예컨대 이중 선형 필터)이다. 이 구현예에서, M-탭 필터는 2개의 승수 계수를 채용하며, 하나의 계수의 값은 항상 0과 같다. 0과 같은 계수는 모션 벡터가 가리키는 분수 샘플 포인트에 기초하여 결정된다. 이 경우, 모션 벡터의 소수 성분에 따라, 제1 승수 계수의 값 또는 제2 승수 계수의 값은 0일 수 있다.
(2개의 탭이 있고 그 중 하나는 0인) 이러한 필터는, 다음 표에 따라 예시될 수 있다:
분수 샘플 위치(p)는 초기의 또는 정제된 모션 벡터의 성분에 따라 획득될 수 있다. 예를 들어, 모션 벡터의 -x 성분이 MV0x에 의해 주어지면, 분수 샘플 위치는 p = MV0x%16로 획득될 수 있으며, 여기서 "%"는 모듈로 연산이다. 일반적으로, p = MV0x%K이며, 여기서 K는 2개의 샘플 위치 사이의 분수 샘플 위치의 수를 표현한다. 위에 예시된 보간 필터는, 필터 탭 중 하나만 한 번에 0이 아니므로, 1-탭 필터라고도 지칭한다.
이중 선형 보간 필터의 다른 예시는 다음과 같을 수 있으며, 이 경우 두 필터 계수의 모두가 0이 아니다.
하나의 구현예에서, K의 값은 8과 같다. 다른 예로서, M의 값은 8보다 작다.
하나의 구현예에서, M의 값 및 K의 값은 모두 8과 같다.
하나의 구현예에서, 제2 함수는 dmvOffset에 따라 N개의 매칭 비용을 선형적으로 결합하는 함수일 수 있으며, 여기서 dmvOffset는 단계 3에서 획득된 것이다. x 및 y의 선형 조합은 ax + by 형태의 임의의 표현일 수 있으며, 여기서, a 및 b는 상수이다. 예로서, 상수 a 및 b는 dmvOffset에 기초하여 결정될 수 있다. 제2 함수에 대한 예가 아래에 주어진다.
하나의 구현예에서, 제2 함수는 다음과 같을 수 있다:
□ Sad[1]*A + Sad[2]*B + Sad[3]*C + Sad[4]*D, 여기서 A, B, C 및 D는 0보다 크거나 같다. 하나의 예에서, A, B, C 및 D는 0과 1 사이의 수로서, 합하여 1이 되는(즉, A+B+C+D=1) 수일 수 있다. 다른 예에서, A, B, C, 및 D는 0보다 크거나 같은 수로서 합하여 미리 정의된 고정된 수 P가 되는 수일 수 있으며, P는 1, 2, 4, 8, 16 등과 같을 수 있다.
□ A, B, C 및 D는 미리 정의된 고정된 수일 수 있다.
□ A, B, C 및 D는 dmvOffset[ 0 ] 및 dmvOffset[ 1 ]에 따라 도출될 수 있다. 예로서, A = dmvOffset[ 0 ]이고, B= P1 - dmvOffset[ 0 ]이고, C= dmvOffset[ 1 ]이고, D=P2 - dmvOffset[ 1 ]이다. 여기서, P1 및 P2는 1, 4, 8, 16, 등과 같을 수 있다.
□ 위의 수학식은 예시로 주어진 것이다. 수학식은 도출 비용을 획득하기 위한 4개의 매칭 비용의 선형 조합을 표현한다. 수학식에서, dmvOffset이 사용되며, 이는 단계 3에서 획득될 수 있다. dmvOffset는 정제된 모션 벡터와 초기 모션 벡터 사이의 차이를 표현한다. 하나의 특정한 구현예에서, dmvOffset는 MV0와 MV0' 사이의 차이로서 정의된다. 더 구체적으로, dmvOffset[0]는 MV0와 MV0'의 -x 성분 사이의 차이일 수 있고, dmvOffset[1]는 MV0와 MV0'의 -y 성분 사이의 차이일 수 있다.
다른 구현예에서, 제2 함수는 다음과 같을 수 있다:
□ Sad[1]*A + Sad[2]*B + Sad[3]*C, 여기서 A, B 및 C는 0보다 크거나 같다. 하나의 예에서, A, B, 및 C는 0과 1 사이의 수로서, 합하여 1이 되는(즉, A+B+C=1) 수일 수 있다. 다른 예에서, A, B, 및 C는 0보다 크거나 같은 수로서 합하여 미리 정의된 고정된 수 P가 되는 수일 수 있으며, P는 1, 2, 4, 8, 16 등과 같을 수 있다.
□ A, B, 및 C는 미리 정의된 고정된 수일 수 있다.
□ A, B 및 C는 dmvOffset[ 0 ] 및 dmvOffset[ 1 ]에 따라 도출될 수 있다. 예로서, A = P - dmvOffset[ 0 ] - dmvOffset[ 1 ]이고, B= dmvOffset[ 0 ]이고, C= dmvOffset[ 1 ]이다. 여기서, P는 1, 4, 8, 16, 등과 같을 수 있다.
□ 위의 수학식은 예시로 주어진 것이다. 수학식은 도출 비용을 획득하기 위한 3개의 매칭 비용의 선형 조합을 표현한다. 수학식에서 dmvOffset이 사용되며, 이는 단계 3에서 획득될 수 있다. dmvOffset는 정제된 모션 벡터와 초기 모션 벡터 사이의 차이를 표현한다. 하나의 예에서, dmvOffset는 MV0와 MV0' 사이의 차이로서 정의된다. 더 구체적으로, dmvOffset[0]는 MV0와 MV0'의 -x 성분 사이의 차이일 수 있고, dmvOffset[1]는 MV0와 MV0'의 -y 성분 사이의 차이일 수 있다.
다른 구현예에서, 도출 비용을 획득하기 위한 제2 함수는 다음과 같을 수 있다:
□ 정제된 MV 쌍 및 정제된 MV 쌍으로부터 정수 거리에 있는 후보 MV 쌍에서 5개의 평가된 비-유사도 비용 값(예: SAD 값)을 사용하여, 다음 매개변수 오류 표면 함수가 피팅되며,
E(x,y) = A*(x - x0) 2 + B*(y - y0)2 + C
여기서, (x0, y0)는 2개의 참조 패치 사이의 비-유사도가 최소화되는 위치에 대응하고, C는 (x0, y0)에서의 비용 값이고, 그리고 A, B는 모델 계수이다. 이들 5개 미지수는 5개 비용 값이 사용 가능하면 정확한 방식으로 풀 수 있다. 달리 말하면, E(x,y)에 대한 수학식은, 최소 매칭 비용 위치에 가까운 공간적 위치의 함수로서 매칭 비용의 형태가 포물선 형태라고 가정한다.
하나의 실시예에서, 하나의 정수 픽셀 거리에서 정제된 MV 쌍의 좌측, 상단, 우측, 및 하단에 대한 후보 MV 쌍이 사용된다. 이 경우, (0,0), (-1,0), (0,-1), (1,0), 및 (0,1)의 (x,y) 위치에서 E(x,y)의 평가된 값과 E(x,y)에 대한 매개변수 방정식이 주어지면, 5개 미지수 A, B, C, x0, y0는 다음과 같이 풀 수 있다:
A = (E(-1,0) + E(1,0) - 2*E(0,0))/2
B = (E(0,-1) + E(0,1) - 2*E(0,0))/2
x0 = (E(-1,0) - E(1,0))/(2*(E(-1,0) + E(1,0) - 2*E(0,0)))
y0 = (E(0,-1) - E(0,1))/(2*(E(0,-1) + E(0,1) - 2*E(0,0)))
한편, 5개 이상의 위치에서 비용 값을 사용할 수 있으면, 최소 제곱 또는 유사한 접근 방식을 사용하여 5개 미지수를 풀 수 있다. 그러면 획득된 C 값이 도출 비용이 된다.
하나의 구현예에서, 제2 함수는 다음과 같을 수 있다:
여기서, K는 0보다 큰 스칼라이고, sad[0] 내지 sad[4]는 N개의 매칭 비용이다.
한 예로서, 모션 벡터 정제 프로세스는 모션 벡터를 추가로 정제하기 위해 1회 이상 수행된다. 이 예에서, 초기 모션 벡터는 먼저 모션 벡터 정제 프로세스에 의해 정제되어, 제1 정제된 모션 벡터를 획득한다. 이후, 모션 벡터 정제가 한 번 더 수행되며, 이 경우 제1 정제된 모션 벡터는 제2 모션 벡터 정제를 위한 초기 모션 벡터로서 간주된다.
초기 모션 벡터는, 모션 벡터 정제 유닛의 입력인, 925에서 획득된다. 모션 벡터 정제 유닛에 의해 초기 모션 벡터 주위에 검색 공간이 구성된다(740). 하나의 예에서, 검색 공간은 후보 모션 벡터 쌍, 제1 참조 화상에 대응하는 쌍의 제1 모션 벡터, 및 제2 참조 화상에 대응하는 쌍의 제2 모션 벡터로 구성된다. 각각의 후보 모션 벡터 쌍에 대응하는 제1 예측은, M-탭 보간 필터의 적용에 의해, 단계 910에서 획득된다. 모션 벡터 정제의 일부로서, 매칭 비용이 검색 공간 내의 N개의 모션 벡터 쌍에 대응하여 계산된다(915). 상기 N개의 매칭 비용은 2개의 프로세스의 일부로서 사용되며, 제1 프로세스는 모션 벡터 정제(740)로서, 여기서 매칭 비용은 N개의 매칭 비용을 입력으로서 취하는 함수에 따라 정제된 모션 벡터 쌍(935)을 계산하는데 사용된다. 제2 프로세스는 광학 흐름 정제(950)가 적용되는지 아닌지 여부의 결정이며, 이 결정은 945에 의해 이루어진다. 정제된 모션 벡터가 획득된 후, 현재 블록에 대한 제2 예측이 940에 의해 획득된다. 매칭 비용이 임계치보다 크면, 광학 흐름 정제가 적용되고 940에서의 예측이 950에 의해 수정되어 수정된 예측을 획득한다(780). 수정된 예측은 통상적으로 단계 940에서의 제2 예측과 샘플 값에서 상이하다. 매칭 비용이 임계보다 작으면, 광학 흐름 정제가 적용되지 않고 제2 예측이 출력(현재 블록의 최종 예측)으로서 설정된다.
본 발명의 제3 실시예에 따르면, 현재 코딩 블록에 대한 예측을 획득하기 위해 다음 단계가 적용된다:
단계 0: 비트스트림의 표시 정보에 기초하여 초기 모션 벡터 쌍을 획득한다.
단계 1: 초기 MV 쌍 및 M-탭 보간 필터에 기초하여 제1 세트의 예측된 샘플을 획득한다.
단계 2: 제1 세트의 예측된 샘플을 사용하여 초기 MV 쌍에 대응하는 제1 매칭 비용을 획득한다.
단계 3: 현재 코딩 블록이 모션 벡터 정제를 수행하기에 적합한지 여부를 결정한다.
단계 4: 현재 코딩 블록이 단계 3에서 MVR을 수행하기에 적합한 것으로 결정되면,
단계 4a: 모션 벡터 정제 프로세스를 사용하여 매칭 비용과 초기 MV 쌍에 따라 정제된 MV 쌍에 대응하는 매칭 비용과 정제된 MV 쌍을 획득한다.
단계 4b: 정제된 MV 쌍 및 K-탭 보간 필터에 따라 제2 세트의 예측된 샘플을 획득한다.
단계 4c: 제2 매칭 비용에 따라 광학 흐름 정제 프로세스를 수행할 것인지 여부를 결정한다. 예로서, 매칭 비용은 임계치와 비교되고, 광학 흐름 정제 프로세스는 매칭 비용의 값이 임계치보다 크거나 같은 경우에 수행된다.
단계 5: 그렇지 않은 경우(현재 코딩 블록이 단계 3에서 MVR을 수행하기에 적합하지 않은 것으로 결정된 경우),
단계 5a: 초기 MV 쌍 및 K-탭 보간 필터에 따라 제2 세트의 예측된 샘플을 획득한다.
단계 5b: 제1 매칭 비용에 따라 광학 흐름 정제 프로세스를 수행할 것인지 여부를 결정한다. 예로서, 매칭 비용은 임계치와 비교되고, 광학 흐름 정제 프로세스는 매칭 비용의 값이 임계치보다 크거나 같은 경우에 수행된다.
단계 6: 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우(단계 4c 또는 단계 5b에서), 광학 흐름 정제는 제2 예측을 입력으로 그리고 수정된 제2 예측을 출력으로 하여 적용된다. 부정적으로 결정되면, 광학 흐름 정제는 제2 예측에 적용되지 않는다. 달리 말하면, 광학 흐름 정제 프로세스가 수행되어야 할 것으로 결정되는 경우, 현재 코딩 블록의 최종 예측은 제2 예측에 따라 그리고 광학 흐름 정제 프로세스에 따라 획득된다. 그렇지 않으면 현재 코딩 블록의 최종 예측은 제2 예측에 따라 그리고 광학 흐름 정제 프로세스의 적용 없이 획득된다.
이 실시예는 도 9의 흐름도에 추가로 예시되어 있다. 블록(1110)은 참조 L0 및 L1에서의 예측을 위해 현재 코딩 블록에 대한 초기 MV 쌍을 수신한다. 블록(1110)은 단계 1에 대응하며, 여기서 제1 세트의 예측된 샘플은 화상 L0 및 L1의 재구성된 참조 샘플 및 초기 MV 쌍을 사용하여 획득된다. 블록(1120)은 단계 2에 대응하며, 여기서 제1 매칭 비용(또는 SAD와 같은 비-유사도 메트릭)은 (배경 MVR 섹션에서 설명된 바와 같이) 초기 MV 쌍에 대응하는 제1 세트의 샘플의 예측 블록 사이에서 평가된다. 블록(1130)은 단계 3에 대응하며, 여기서 현재 코딩 블록이 MVR을 수행하기에 적합한지에 대한 조건을 체크한다. 블록(1140)은 단계 4a에 대응하며, 여기서, 현재 코딩 블록이 MVR을 수행하기에 적합한 것으로 확인되면, (백그라운드 MVR 섹션에서 설명된 바와 같이) MVR을 수행하여 정제된 MV 쌍이 획득되고 정제된 MV 쌍에 대응하는 제2 매칭 비용(또는 비-유사도 메트릭)이 획득된다. 블록(1150)은 단계 4b에 대응하며, 여기서 정제된 MV 쌍을 사용하여 (수평 및 수직 방향으로) K-탭 보간 필터를 사용하여 제2 세트의 예측된 샘플이 획득된다. 블록(1160)은 단계 4c에 대응하며, 여기서 제2 매칭 비용이 바이-예측 광학 흐름 기반 정제 및 바이-예측을 스킵(skip)하는 기설정된 임계치보다 작은지 여부가 체크된다. 블록(1180)은 단계 5a에 대응하며, 여기서 현재 코딩 블록은 MVR을 스킵하고 초기 MV 쌍을 사용하여 K-탭 보간 필터를 사용하여 제2 세트의 예측된 샘플을 획득한다. 블록(1185)은 단계 5b에 대응하며, 여기서 제1 매칭 비용이 BPOF를 스킵하는 기설정된 임계치보다 작은지 여부가 체크된다. 블록(1170 및 1195)는 단계 6의 일부에 대응하며, 여기서 단계 4c 또는 단계 5b의 체크가 제2 또는 제1 매칭 비용이 각각 BPOF를 스킵하는 기설정된 임계값보다 작다고 표시하면, 제2 세트의 예측된 샘플을 사용하여 BPOF 없이 바이-예측 가중 평균을 수행한다. 블록(1175)은 단계 6의 일부에 대응하며, 여기서 단계 4c 또는 단계 5b에서의 체크가 제2 또는 제1 매칭 비용이 BPOF를 스킵하는 기설정된 임계값보다 작지 않은 것으로 표시되면, 추정된 광학 흐름이 획득되고 최종 바이-예측은 제2 세트의 예측된 샘플, 제2 세트의 예측된 샘플의 기울기, 및 추정된 광학 흐름을 사용하여 획득된다.
바이-예측 광학 흐름 기반 정제 프로세스의 조기 종료를 결정하기 위해 모션 벡터 정제 프로세스에 의해 요구되는 바와 같이 현재 코딩 유닛 내의 샘플의 서브-블록에 대해 연산되는 제1 또는 제2 매칭 비용을 사용함으로써, BPOF를 건너뛸 것인가 수행할 것인가에 대한 결정은 코딩 유닛 내에서 MVR 서브-블록마다 다를 수 있음에 유의해야 한다. BPOF는, 단계-4c 또는 단계-5에서 수행되는 결정에 기초하여, 서브-블록 내의 모든 BPOF 적용 유닛(예컨대 픽셀 레벨, 또는 샘플 레벨의 4x4 블록)에 대해 적용되거나 스킵된다.
특정 실시예에서, MVR 서브-블록 내의 각각의 BPOF 적용 유닛에 대응하는 부분 매칭 비용을 획득함으로써 서브-블록 내의 각각의 BPOF 적용 유닛에 대한 추가적인 조기 종료를 수행하는 것이 가능하다.
기설정된 임계값은 통상적으로 제1 예측 또는 제1 세트의 예측된 샘플의 비트-심도에 따라 달라지는 샘플당 임계값으로서 선택된다. 예로써, 이중 선형(2-탭) 보간을 사용하여 획득된 제1 예측 샘플 값이 비트-심도 b로 제한되는 경우, 샘플당 임계치는 k*2(b - 10)로 연산되고, 매칭 비용이 연산되는 샘플의 수가 N이면, 현재 서브-블록에 대한 매칭 비용이 비교되는 기설정된 임계값은 k*N*2(10-b)가 된다. k에 대한 샘플 값은 2(비트 깊이 10)이고, N은 8x16=128이고, 그리고 b는 8이다. 주어진 후보 MV 쌍에서 매칭 비용은 제1 예측된 샘플의 데시메이트(decimated)된 세트로 계산될 수 있으므로, N 값이 그에 따라 사용되어야 한다. 예를 들어, 예측된 샘플의 8x16 블록의 행이 교대로 사용되는 경우, N은 8x8 = 64로 계산된다.
발명의 실시예들에 따르면, 광학 흐름 정제 프로세스의 적용을 조건적으로 스킵하기 위해 조기 종료 방법이 제공되며, 광학 흐름 정제 프로세스의 적용은 계산 집약적인 것으로 간주된다. 결과적으로 평균 디코딩 시간이 단축된다.
또한, 광학 흐름의 적용을 조건적으로 스킵하기 위한 조건은 다른 프로세스(모션 벡터 정제 프로세스 중 매칭 비용 계산)에서 계산된 파라미터에 기초하여 결정된다. 이미 계산된 값을 사용하므로, 추가적인 연산을 수행할 필요가 없다.
특히, 도 10에 도시된 바와 같이 디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 비디오 코딩 방법이 제공된다. 이 방법은 주어진 순서로 수행될 수 있는 다음 단계를 포함한다. 초기 모션 벡터가 현재 블록에 대해 획득된다(1210). 현재 블록은 현재 코딩 블록일 수 있다. 현재 블록의 샘플 값에 대한 제1 예측은 초기 모션 벡터에 기초하여 획득된다(1220). 매칭 비용은 제1 예측에 따라 계산된다(1230).
제1 매칭 비용이 획득된 후, 적어도 하나의 미리 설정된 조건에 따라, 광학 흐름 정제 프로세스가 수행되어야 하는지 여부가 결정되고(1240), 적어도 하나의 미리 설정된 조건은 계산된 매칭 비용(예를 들어, 유사도 척도 측면에서; 위의 설명 참조)이 미리 정의된 임계치보다 크거나 같은지 여부의 조건을 포함한다. 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 현재 블록의 샘플 값에 대한 최종 인터 예측을 획득하기 위한 광학 흐름 정제 프로세스가 수행된다(1250). 광학 흐름 정제 프로세스가 수행되지 않아야 하는 것으로 결정되는 경우, 광학 흐름 정제 프로세스를 스킵함으로써 연산 비용을 절감할 수 있다.
이 방법은 도 1a 내지 도 5를 참조하여 전술한 장치에서 구현될 수 있다.
특히, 방법은 디코더 측 모션 벡터 정제 프로세스의 맥락에서 구현될 수 있다. 이러한 프로세스의 입력은 다음과 같다:
현재 화상의 좌측 상단 루마 샘플에 대해 상대적인 현재 코딩 서브블록의 좌측 상단 샘플을 지정하는 루마 위치(xSb, ySb),
루마 샘플에서 현재 코딩 서브블록의 폭을 지정하는 변수 sbWidth,
루마 샘플에서 현재 코딩 서브블록의 높이를 지정하는 변수 sbHeight,
1/16 분수-샘플 정확도 mvL0 및 mvL1의 루마 모션 벡터,
선택된 루마 참조 화상 샘플 어레이 refPicL0L 및 refPicL1L.
이 프로세스의 출력은, 델타 루마 모션 벡터 dmvL0 및 dMvL 그리고 제1 예측의 절대 차이의 최소 합을 지정하는 변수 dmvrSad이다(전술한 SAD 계산 참조).
델타 루마 모션 벡터 dmvL0는 dmvL0[ 0 ] += 16 * intOffX 및 dmvL0[ 1 ] += 16 * intOffY에 의해 유도될 수 있으며, 여기서 intOffX 및 intOffY는 각각 x 및 y 방향에서 정수 샘플 오프셋이다. 또한, 델타 루마 모션 벡터 dMvL는 dmvL1[ 0 ] = -dmvL0[ 0 ] 및 dmvL1[ 1 ] = -dmvL0[ 1 ]로서 계산될 수 있다.
제1 예측 루마 샘플 값은 분수 샘플 이중 선형 보간에 의해 유도된다. 인터 예측 블록의 디코딩 프로세스에서, 양방향 광학 흐름 샘플 예측 프로세스가 적용되거나 적용되지 않을 수 있다. 적용되지 않는 경우, 가중 샘플 예측 프로세스는 정제된 모션 벡터에 기초하여 획득되는 정제된 제2 예측에 적용된다. 양방향 광학 흐름 샘플 예측 프로세스가 적용되면, 정제된 모션 벡터에 기초하여 획득한 2차 예측을 입력으로 받아 최종 예측을 출력한다.
플래그는 양방향 광학 흐름 샘플 예측 프로세스가 적용될 수 있는지 아닌지 여부를 시그널링하는데 사용될 수 있다. 예를 들어, 플래그가 참(TRUE)인 것은 양방향 광학 흐름 샘플 예측 프로세스가 수행되기 위한 필요 조건으로 간주될 수 있다. 그러나, 이러한 필요 조건은 양방향 광학 흐름 샘플 예측 프로세스가 수행되기 위한 충분 조건이 아닐 수 있다. 충분 조건은, 플래그가 참(TRUE)이고 전술한 매칭 비용이 미리 정의된 임계치보다 크거나 같아야 할 것일 수 있다. 예를 들어, 매칭 비용은 제1 예측의 절대 차이의 최소 합을 지정하는 변수 dmvrSad에 기초하여 결정될 수 있다.
한편, 플래그가 거짓(FALSE)인 경우, 광학 흐름 샘플 예측 프로세스를 수행하지 않고 가중 샘플 예측 프로세스를 수행하기 위한 충분 조건으로 간주될 수 있다.
또한, 도 11에 도시된 바와 같이 이미지 인코더 및/또는 이미지 디코더에서 사용되기 위한 디바이스(1300)가 제공된다. 이 실시예에 따른 디바이스(1300)는, 현재 블록에 대한 초기 모션 벡터를 획득하도록 구성되는 초기 모션 벡터 유닛(1310)을 포함한다. 또한, 디바이스(1300)는 초기 모션 벡터에 기초하여 현재 블록의 샘플 값에 대한 제1 예측을 획득하도록 구성되는 예측 유닛(1320)을 포함한다. 또한, 디바이스(1300)는 제1 예측에 따라 매칭 비용을 계산하도록 구성되는 매칭 비용 계산 유닛(1330)을 포함한다.
디바이스(1300)는 적어도 하나의 미리 설정된 조건에 따라, 광학 흐름 정제 프로세스가 수행되어야 하는지 여부를 결정하도록 구성되는 광학 흐름 정제 프로세스 결정 유닛(1340)을 포함하며, 적어도 하나의 미리 설정된 조건은 계산된 매칭 비용이 임계치보다 크거나 같은지 여부의 조건을 포함한다. 또한, 디바이스(1300)는 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 현재 블록의 샘플 값에 대한 최종 인터 예측을 획득하기 위한 광학 흐름 정제 프로세스를 수행하도록 구성되는 광학 흐름 정제 프로세스 수행 유닛(1350)을 포함한다.
수학 연산자
본 출원에서 사용되는 수학 연산자는 C 프로그래밍 언어에서 사용되는 것과 유사하다. 그러나, 정수 나눗셈과 산술 시프트 연산의 결과가 보다 정확하게 정의되고, 지수, 실수값 나눗셈과 같은 추가적인 연산이 규정된다. 번호 매기기 및 계산 규칙은 일반적으로 0부터 시작하며, 예컨대, "첫 번째"는 0-번째와 동등하고 "두 번째"는 1-번째와 동등한 등이다.
산술 연산자
다음의 논리 연산자는 다음과 같이 규정된다:
| + | 덧셈 |
| - | 뺄셈(2-인수 연산자) 또는 부정(단항 프리픽스 연산자) |
| * | 곱셈(매트릭스 곱셈을 포함) |
| xy | 지수화. x의 y 거듭제곱을 지정한다. 다른 컨텍스트에서, 이러한 표기법은 위 첨자로 사용되며 지수로 해석되는 것을 의도하지 않는다. |
| / | 결과를 0쪽으로 버림(truncation)하는 정수 나눗셈. 예를 들어, 7 / 4 및 -7 / -4는 1로 버림되고 -7 / 4 및 7 / -4는 -1로 버림된다. |
| ÷ | 버림 또는 반올림을 의도하지 않는 수학식의 나눗셈을 나타내는데 사용된다. |
| 버림 또는 반올림을 의도하지 않는 수학식의 나눗셈을 나타내는데 사용된다. | |
| x로부터 y(포함)까지의 모든 정수 값을 취하는 i에 대해 f( i )의 합. | |
| x % y | 모듈러스(Modulus). x를 y로 나눈 나머지로서, x >= 0 이고 y > 0인 정수 x 및 y에 대해서만 규정된다. |
논리 연산자
다음의 논리 연산자는 다음과 같이 규정된다:
x && y x 및 y의 불리언(Boolean) 논리 연산 "and"
x | | y x 및 y의 불리언(Boolean) 논리 연산 "or"
! 불리언(Boolean) 논리 연산 "not"
x ? y : z x가 참(TRUE)이거나 0이 아니면, y의 값을 구하고; 그렇지 않으면, z의 값을 구한다.
관계 연산자
다음의 논리 연산자는 다음과 같이 규정된다:
> 보다 크다
>= 보다 크거나 같다
< 보다 작다
<= 보다 작거나 같다
= = 같다
!= 같지 않다
관계 연산자가 값 "na"(해당 사항 없음)가 할당된 신택스 엘리먼트 또는 변수에 적용되는 경우, 값 "na"는 신택스 엘리먼트 또는 변수에 대한 고유한 값으로 처리된다. 값 "na"는 여하한 다른 값과 같지 않은 것으로 간주된다.
비트 단위(bit-wise) 연산자
다음의 비트 단위 연산자는 다음과 같이 규정된다:
& 비트 단위(bit-wise) "and". 정수 인수(arguments)에 대해 연산할 때, 정수 값의 2의 보수 표현(two's complement representation)에 대해 연산한다. 다른 인수보다 더 적은 수의 비트를 포함하는 2진 인수(argument)에 대해 연산할 때, 더 짧은 인수는 상위 비트에 0을 추가함으로써 확장된다.
| 비트 단위(bit-wise) "or". 정수 인수(arguments)에 대해 연산할 때, 정수 값의 2의 보수 표현(two's complement representation)에 대해 연산한다. 다른 인수보다 더 적은 수의 비트를 포함하는 2진 인수(argument)에 대해 연산할 때, 더 짧은 인수는 상위 비트에 0을 추가함으로써 확장된다.
^ 비트 단위(bit-wise) "exclusive or". 정수 인수(arguments)에 대해 연산할 때, 정수 값의 2의 보수 표현(two's complement representation)에 대해 연산한다. 다른 인수보다 더 적은 수의 비트를 포함하는 2진 인수(argument)에 대해 연산할 때, 더 짧은 인수는 상위 비트에 0을 추가함으로써 확장된다.
x >> y x의 2의 보수(two's complement) 정수 표현을 y 2진 자릿수만큼 산술 오른쪽 시프트. 이 함수는 y의 음이 아닌 정수 값에 대하여만 규정된다. 오른쪽 시프트의 결과로서 최상위 비트(most significant bits, MSB)로 시프트된 비트는 시프트 연산 이전의 x의 MSB와 같은 값을 가진다 .
x << y x의 2의 보수(two's complement) 정수 표현을 y 2진 자릿수만큼 산술 왼쪽 시프트. 이 함수는 y의 음이 아닌 정수 값에 대하여만 규정된다. 왼쪽 시프트의 결과로서 최하위 비트(least significant bits, LSB)로 시프트된 비트는 0과 같은 값을 가진다.
할당 연산자
다음의 논리 연산자는 다음과 같이 규정된다:
= 할당 연산자
+ + 증가, 즉, x+ +는 x = x + 1와 동동하고; 어레이 인덱스에서 사용되는 경우, 증가 연산 이전의 변수 값을 구한다.
- - 감소, 즉, x- -는 x = x - 1와 동동하고; 어레이 인덱스에서 사용되는 경우, 감소 연산 이전의 변수 값을 구한다.
+= 지정된 양만큼 증가, 즉, x += 3는 x = x + 3와 동등하고,
x += (-3)는 x = x + (-3)와 동등하다.
-= 지정된 양만큼 감소, 즉, x -= 3는 x = x - 3와 동등하고,
x -= (-3)는 x = x - (-3)와 동등하다.
범위 표기법
다음 표기법은 값의 범위를 지정하는데 사용된다.
x = y..z x는 y로부터 z까지(포함)의 정수 값을 취하며, x, y, 및 z는 정수이고 z는 y보다 크다.
수학 함수
다음 수학 함수가 정의된다.
Asin( x ) 삼각 역사인 함수로서, -1.0 내지 1.0의 범위(포함)에 있는 인수 x에 대해 연산하고, 라디안 단위로 -π÷2 내지 π÷2의 범위(포함)에서 출력 값을 가짐
Atan( x ) 삼각 역 탄젠트 함수로서, 인수 x에 대해 연산하고, 라디안 단위로 -π÷2 내지 π÷2의 범위(포함)에서 출력 값을 가짐
Ceil( x ) x보다 크거나 같은 가장 작은 정수.
Clip1Y( x ) = Clip3( 0, ( 1 << bitDepthY ) - 1, x )
Clip1C( x ) = Clip3( 0, ( 1 << bitDepthC ) - 1, x )
Cos( x ) 라디안 단위로 인수 x에 대해 연산하는 삼각 코사인 함수.
Floor( x ) x보다 작거나 같은 가장 큰 정수.
Ln( x ) x의 자연 로그(e를 베이스로 하는 로그, 여기서 e는 자연 로그 기본 상수 2.718 281 828...이다).
Log2( x ) 2를 베이스로 하는 x의 로그.
Log10( x ) 10을 베이스로 하는 x의 로그.
Round( x ) = Sign( x ) * Floor( Abs( x ) + 0.5 )
Sin( x ) 라디안 단위로 인수 x에 대해 연산하는 삼각 사인 함수
Sqrt( x ) =
Swap( x, y ) = ( y, x )
Tan( x ) 라디안 단위로 인수 x에 대해 연산하는 삼각 탄젠트 함수
연산 우선 순위의 순서
표현에서 우선 순위의 순서가 괄호를 사용하여 명시적으로 표시되지 않은 경우, 다음 규칙이 적용된다:
- 더 높은 우선 순위의 연산은 더 낮은 우선 순위의 연산에 앞서 계산된다.
- 동일한 우선 순위의 연산은 왼쪽으로부터 오른쪽으로 순차적으로 계산된다.
아래의 표는 연산의 우선 순위를 최상위로부터 최하위까지 지정하며; 표에서 더 높은 위치는 더 높은 우선 순위를 나타낸다.
C 프로그래밍 언어에서도 사용되는 연산자에 대하여는, 이 명세서에서 사용되는 우선 순위의 순서는 C 프로그래밍 언어에서 사용되는 것과 동일한다.
표: 최상위(테이블의 상단)로부터 최하위(테이블의 하단)까지 연산 우선 순위
논리 연산에 대한 텍스트 설명
텍스트에서, 수학적으로 다음의 형태로 기술되는 논리 연산의 선언은:
if( 조건 0 )
선언 0
else if( 조건 1 )
선언 1
...
else /* 나머지 조건에 대한 정보 주석 */
선언 n
다음의 방식으로 기술될 수 있다:
... 다음과 같이 / ... 다음이 적용된다:
- 조건 0이면, 선언 0
- 그렇지 않으면, 조건 1이면, 선언 1
- ...
- 그렇지 않으면(나머지 조건에 대한 정보 주석), 선언 n
텍스트에서 각각의 "If ... 그렇지 않으면, if ... 그렇지 않으면, ..." 선언은 "... 다음과 같이" 또는 "... 다음이 적용된다"로 시작하고 "If ... "가 바로 이어진다. "If ... 그렇지 않으면, if ... 그렇지 않으면, ..."의 마지막 조건은 항상 "그렇지 않으면, ..."이다. 사이에 끼워진 "If ... 그렇지 않으면, if ... 그렇지 않으면, ..." 선언은 "그렇지 않으면, ..."으로 끝나는 "... 다음과 같이" 또는 "... 다음이 적용된다"를 매칭함으로써 식별될 수 있다.
텍스트에서, 수학적으로 다음의 형태로 기술되는 논리 연산의 선언은:
if( 조건 0a && 조건 0b )
선언 0
else if( 조건 1a | | 조건 1b )
선언 1
...
else
선언 n
다음의 방식으로 기술될 수 있다:
... 다음과 같이 / ... 다음이 적용된다:
- 다음 조건의 모두가 참(true)이면, 선언 0:
- 조건 0a
- 조건 0b
- 그렇지 않으면, 다음 조건 중 하나 이상이 참(true)이면, 선언 1:
- 조건 1a
- 조건 1b
- ...
- 그렇지 않으면, 선언 n
텍스트에서, 수학적으로 다음의 형태로 기술되는 논리 연산의 선언은:
if( 조건 0 )
선언 0
if( 조건 1 )
선언 1
다음의 방식으로 기술될 수 있다:
조건 0인 경우, 선언 0
조건 1인 경우, 선언 1
본 개시의 실시예가 주로 비디오 코딩에 기반하여 설명되었지만, 코딩 시스템(10), 인코더(20) 및 디코더(30)(및 이에 상응하는 시스템(10))의 실시예 및 여기에 설명된 다른 실시예는 또한 여전히 화상 처리 또는 코딩, 즉 비디오 코딩에서와 같이 임의의 선행하는 또는 연속하는 화상에 독립적인 개별 화상의 처리 또는 코딩을 위해 구성될 수 있다. 일반적으로 화상 처리 코딩이 단일 화상(17)으로 제한되는 경우에 인터 예측 유닛(244)(인코더) 및 (344)(디코더))만이 사용 가능하지 않을 수 있다. 비디오 인코더(20) 및 비디오 디코더(30)의 다른 모든 기능(도구 또는 기술이라고도 함)은 정지 화상 처리, 예를 들어 잔차 계산(204/304), 변환(206), 양자화(208), 역 양자화(210/310), (역) 변환(212/312), 파티셔닝(262/362), 인트라 예측(254/354), 및/또는 루프 필터링(220, 320), 엔트로피 코딩(270) 및 엔트로피 디코딩(304)에 동일하게 사용될 수 있다.
예를 들어, 인코더(20) 및 디코더(30)의 실시예 및 여기서 설명된 기능, 예를 들어 인코더(20) 및 디코더(30)를 참조하여, 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되면, 기능은 컴퓨터가 판독 가능한 매체에 저장되거나 통신 매체를 통해 하나 이상의 명령 또는 코드로 전송되고, 하드웨어 기반 처리 디바이스에 의해 실행될 수 있다. 컴퓨터-판독 가능한 매체는, 데이터 저장 매체와 같은 유체물의 매체에 해당하는 컴퓨터-판독 가능한 저장 매체, 또는 (예컨대 통신 프로토콜에 따라) 컴퓨터 프로그램을 하나의 장소에서 다른 장소로 전송하는 것을 용이하게 하는 임의의 매체를 포함하는 통신 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터-판독 가능한 매체는 일반적으로 (1) 유체물의 컴퓨터-판독 가능한 저장 매체 또는 (2) 신호 또는 캐리어와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는 본 출원에 기술된 기술의 구현을 위한 명령, 코드 및/또는 데이터 구조를 검색(retrieve)하기 위해 하나 이상의 컴퓨터 또는 하나 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용 가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독 가능한 매체를 포함할 수 있다.
제한이 아닌 예로서, 이러한 컴퓨터-판독 가능한 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스, 플래시 메모리, 또는 컴퓨터에 의해 액세스할 수 있는 명령 또는 데이터 구조의 형태로 원하는 프로그램 코드를 저장하는데 사용할 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 모든 연결을 컴퓨터-판독 가능한 매체라고 한다. 예를 들어, 동축 케이블, 광섬유 케이블, 연선(twisted pair), 디지털 가입자 회선(DSL), 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술을 사용하여 웹 사이트, 서버, 또는 다른 원격 소스로부터 명령이 전송되는 경우, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술이 매체의 정의에 포함된다. 그러나, 컴퓨터-판독 가능한 저장 매체 및 데이터 저장 매체는 연결, 캐리어 파(wave), 신호, 또는 다른 일시적인 매체를 포함하지 않고, 대신에 비일시적 유체물의 저장 매체를 카리킴을 이해해야 한다. 여기에 사용된 디스크(disk) 및 디스크(disc)는, 컴팩트 디스크(CD), 레이저 디스크, 광학 디스크, DVD(digital versatile disc), 플로피 디스크 및 블루-레이 디스크를 포함하며, 여기서, 디스크(disk)는 일반적으로 데이터를 자기적으로 재생하는 반면, 디스크(disc)는 레이저를 사용하여 광학적으로 데이터를 재생한다. 위의 조합도 컴퓨터-판독 가능한 매체의 범위 내에 포함되어야 한다.
명령은 하나 이상의 디지털 신호 처리기(digital signal processor; DSP), 범용 마이크로 프로세서, 주문형 집적 회로(application specific integrated circuits; ASIC), 필드 프로그래밍 가능한 로직 어레이(field programmable logic array; FPGA) 또는 다른 동등한 집적 또는 이산 논리 회로와 같은 하나 이상의 프로세서에 의해 실행될 수 있다. 따라서, 여기에서 사용되는 용어 "프로세서"는, 전술한 구조 또는 여기에서 설명된 기술의 구현에 적합한 임의의 다른 구조일 수 있다. 또한, 일부 측면에서, 여기에서 기술되는 기능은 인코딩 및 디코딩을 위해 구성된 전용 하드웨어 및/또는 소프트웨어 모듈 내에 제공되거나 결합된 코덱에 통합될 수 있다. 또한, 기법은 하나 이상의 회로 또는 논리 요소에서 완전히 구현될 수 있다.
본 개시의 기법은 무선 핸드셋, 집적 회로(IC) 또는 IC 세트(예를 들어, 칩셋)를 포함하는 다양한 장치 또는 디바이스에서 구현될 수 있다. 개시된 기술을 수행하도록 구성되는 장치의 기능적 측면을 강조하기 위해 다양한 구성 요소, 모듈, 또는 유닛이 본 출원에서 설명되지만, 반드시 상이한 하드웨어 유닛에 의한 구현을 필요로 하는 것은 아니다. 오히려, 위에서 설명된 바와 같이, 다양한 유닛이 코덱 하드웨어 유닛으로 결합되거나, 적절한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명된 하나 이상의 프로세서를 포함하는 상호 동작하는 하드웨어 유닛의 집합에 의해 제공될 수 있다.
Claims (44)
- 디코딩 디바이스 또는 인코딩 디바이스에서 구현되는 비디오 코딩 방법으로서,
현재 블록에 대한 한 쌍의 초기 모션 벡터를 획득하는 단계;
상기 한 쌍의 초기 모션 벡터에 기초하여 상기 현재 블록에 대한 2개의 제1 예측 블록을 획득하는 단계;
상기 2개의 제1 예측 블록에 따라 제1 매칭 비용을 계산하는 단계;
한 쌍의 정제된 모션 벡터와, 상기 한 쌍의 정제된 모션 벡터에 대응하는 제2 매칭 비용을 획득하는 단계;
상기 한 쌍의 정제된 모션 벡터에 따라 상기 현재 블록에 대한 2개의 제2 에측 블록을 획득하는 단계;
적어도 하나의 미리 설정된 조건에 따라, 광학 흐름 정제 프로세스가 수행되어야 하는지 여부를 결정하는 단계 - 상기 적어도 하나의 미리 설정된 조건은 상기 제2 매칭 비용이 임계치보다 작은지 여부의 조건을 포함함 - ;
상기 광학 흐름 정제 프로세스가 수행되어야 하는 것으로 결정되는 경우, 상기 현재 블록에 대한 최종 인터 예측을 획득하기 위한 광학 흐름 정제 프로세스를 수행하는 단계
를 포함하고,
상기 광학 흐름 정제 프로세스가 수행되지 않아야 하는 것으로 결정되는 경우, 상기 최종 인터 예측은 상기 2개의 제2 예측 블록의 가중합에 의해 획득되는, 비디오 코딩 방법. - 제1항에 있어서,
상기 적어도 하나의 미리 설정된 조건은 상기 현재 블록이 디코더-측 모션 벡터 정제에 의해 예측되도록 허용되는 조건을 포함하는, 비디오 코딩 방법. - 제1항에 있어서,
상기 적어도 하나의 미리 설정된 조건의 모두가 충족되는 것으로 판단되는 경우, 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 결정되는, 비디오 코딩 방법. - 제1항에 있어서,
상기 현재 블록의 샘플 값에 대한 제1 예측은 제1 보간 필터에 기초하여 획득되는, 비디오 코딩 방법. - 제4항에 있어서,
상기 제1 보간 필터는 이중 선형 보간 필터인, 비디오 코딩 방법. - 제1항에 있어서,
상기 현재 블록에 대한 상기 2개의 제2 예측 블록은 제2 보간 필터에 따라 획득되는, 비디오 코딩 방법. - 제6항에 있어서,
상기 제2 보간 필터는 6-탭 또는 8-탭 보간 필터인, 비디오 코딩 방법. - 제1항에 있어서,
상기 제2 매칭 비용이 상기 임계치보다 크거나 같은 경우, 상기 광학 흐름 정제 프로세스가 수행되어야 한다고 결정되는, 비디오 코딩 방법. - 제1항에 있어서,
상기 임계치는 상기 현재 블록의 크기에 따라 획득되는, 비디오 코딩 방법. - 제1항에 있어서,
상기 현재 블록은 코딩 블록 또는 서브-블록인, 비디오 코딩 방법. - 제1항에 있어서,
상기 현재 블록에 대한 최종 인터 예측을 포함하는 인터 예측 블록을 생성하는 단계;를 더 포함하는, 비디오 코딩 방법. - 제1항 내지 제11항 중 어느 한 항에 따른 방법을 수행하기 위한 처리 회로를 포함하는 인코더(20).
- 제1항 내지 제11항 중 어느 한 항에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더(30).
- 컴퓨터가 판독 가능한 저장 매체에 저장되어 있는 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램이 제1항 내지 제11항 중 어느 한 항에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램.
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020237043656A KR20240000638A (ko) | 2019-02-22 | 2020-02-21 | 광학 흐름 정제를 위한 조기 종료 |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| IN201931007114 | 2019-02-22 | ||
| IN201931007114 | 2019-02-22 | ||
| PCT/CN2020/076178 WO2020169083A1 (en) | 2019-02-22 | 2020-02-21 | Early termination for optical flow refinement |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020237043656A Division KR20240000638A (ko) | 2019-02-22 | 2020-02-21 | 광학 흐름 정제를 위한 조기 종료 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20210113384A KR20210113384A (ko) | 2021-09-15 |
| KR102616714B1 true KR102616714B1 (ko) | 2023-12-20 |
Family
ID=72144773
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020217026337A KR102616714B1 (ko) | 2019-02-22 | 2020-02-21 | 광학 흐름 정제를 위한 조기 종료 |
| KR1020237043656A KR20240000638A (ko) | 2019-02-22 | 2020-02-21 | 광학 흐름 정제를 위한 조기 종료 |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020237043656A KR20240000638A (ko) | 2019-02-22 | 2020-02-21 | 광학 흐름 정제를 위한 조기 종료 |
Country Status (17)
| Country | Link |
|---|---|
| EP (2) | EP3912352B1 (ko) |
| JP (2) | JP7271697B2 (ko) |
| KR (2) | KR102616714B1 (ko) |
| CN (2) | CN113383550A (ko) |
| AU (1) | AU2020226553A1 (ko) |
| BR (1) | BR112021016270A2 (ko) |
| CA (1) | CA3128112A1 (ko) |
| DK (1) | DK3912352T3 (ko) |
| ES (1) | ES2965083T3 (ko) |
| FI (1) | FI3912352T3 (ko) |
| HU (1) | HUE063469T2 (ko) |
| MX (1) | MX2021009931A (ko) |
| PL (1) | PL3912352T3 (ko) |
| PT (1) | PT3912352T (ko) |
| SG (1) | SG11202107970QA (ko) |
| WO (1) | WO2020169083A1 (ko) |
| ZA (1) | ZA202106944B (ko) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117546466A (zh) * | 2021-06-30 | 2024-02-09 | 瑞典爱立信有限公司 | 重叠解码器侧运动细化 |
| EP4364419A1 (en) * | 2021-06-30 | 2024-05-08 | Telefonaktiebolaget LM Ericsson (publ) | Selective subblock-based motion refinement |
| TW202408242A (zh) * | 2022-04-06 | 2024-02-16 | 聯發科技股份有限公司 | 隱式多通道解碼器端運動向量細化 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040076333A1 (en) * | 2002-10-22 | 2004-04-22 | Huipin Zhang | Adaptive interpolation filter system for motion compensated predictive video coding |
| WO2019010156A1 (en) * | 2017-07-03 | 2019-01-10 | Vid Scale, Inc. | MOTION COMPENSATION PREDICTION BASED ON A BIDIRECTIONAL OPTICAL FLOW |
Family Cites Families (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10127644B2 (en) * | 2015-04-10 | 2018-11-13 | Apple Inc. | Generating synthetic video frames using optical flow |
| WO2017034089A1 (ko) | 2015-08-23 | 2017-03-02 | 엘지전자(주) | 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치 |
| CN107925775A (zh) * | 2015-09-02 | 2018-04-17 | 联发科技股份有限公司 | 基于双向预测光流技术的视频编解码的运动补偿方法及装置 |
| CN108028939B (zh) * | 2015-09-02 | 2021-10-15 | 联发科技股份有限公司 | 用于视频编解码的解码器侧的运动推导的方法和装置 |
| CN108781294B (zh) * | 2016-02-05 | 2021-08-31 | 联发科技股份有限公司 | 视频数据的运动补偿方法及装置 |
| US20180199057A1 (en) * | 2017-01-12 | 2018-07-12 | Mediatek Inc. | Method and Apparatus of Candidate Skipping for Predictor Refinement in Video Coding |
| WO2018173895A1 (ja) | 2017-03-21 | 2018-09-27 | シャープ株式会社 | 予測画像生成装置、動画像復号装置、および動画像符号化装置 |
| WO2019001741A1 (en) * | 2017-06-30 | 2019-01-03 | Huawei Technologies Co., Ltd. | MOTION VECTOR REFINEMENT FOR MULTI-REFERENCE PREDICTION |
-
2020
- 2020-02-21 DK DK20759812.9T patent/DK3912352T3/da active
- 2020-02-21 HU HUE20759812A patent/HUE063469T2/hu unknown
- 2020-02-21 JP JP2021549390A patent/JP7271697B2/ja active Active
- 2020-02-21 CN CN202080012432.8A patent/CN113383550A/zh active Pending
- 2020-02-21 PL PL20759812.9T patent/PL3912352T3/pl unknown
- 2020-02-21 BR BR112021016270-4A patent/BR112021016270A2/pt unknown
- 2020-02-21 MX MX2021009931A patent/MX2021009931A/es unknown
- 2020-02-21 WO PCT/CN2020/076178 patent/WO2020169083A1/en unknown
- 2020-02-21 KR KR1020217026337A patent/KR102616714B1/ko active IP Right Grant
- 2020-02-21 EP EP20759812.9A patent/EP3912352B1/en active Active
- 2020-02-21 AU AU2020226553A patent/AU2020226553A1/en active Pending
- 2020-02-21 EP EP23184185.9A patent/EP4243418A3/en active Pending
- 2020-02-21 PT PT207598129T patent/PT3912352T/pt unknown
- 2020-02-21 KR KR1020237043656A patent/KR20240000638A/ko not_active Application Discontinuation
- 2020-02-21 ES ES20759812T patent/ES2965083T3/es active Active
- 2020-02-21 FI FIEP20759812.9T patent/FI3912352T3/fi active
- 2020-02-21 CA CA3128112A patent/CA3128112A1/en active Pending
- 2020-02-21 CN CN202210411178.XA patent/CN114845102B/zh active Active
- 2020-02-21 SG SG11202107970QA patent/SG11202107970QA/en unknown
-
2021
- 2021-09-17 ZA ZA2021/06944A patent/ZA202106944B/en unknown
-
2023
- 2023-04-25 JP JP2023071739A patent/JP2023099561A/ja active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040076333A1 (en) * | 2002-10-22 | 2004-04-22 | Huipin Zhang | Adaptive interpolation filter system for motion compensated predictive video coding |
| WO2019010156A1 (en) * | 2017-07-03 | 2019-01-10 | Vid Scale, Inc. | MOTION COMPENSATION PREDICTION BASED ON A BIDIRECTIONAL OPTICAL FLOW |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3912352B1 (en) | 2023-09-06 |
| PL3912352T3 (pl) | 2024-02-26 |
| CN113383550A (zh) | 2021-09-10 |
| ZA202106944B (en) | 2022-09-28 |
| CA3128112A1 (en) | 2020-08-27 |
| HUE063469T2 (hu) | 2024-01-28 |
| KR20210113384A (ko) | 2021-09-15 |
| US20210392334A1 (en) | 2021-12-16 |
| AU2020226553A1 (en) | 2021-08-19 |
| MX2021009931A (es) | 2021-09-21 |
| CN114845102A (zh) | 2022-08-02 |
| JP7271697B2 (ja) | 2023-05-11 |
| JP2022521748A (ja) | 2022-04-12 |
| CN114845102B (zh) | 2023-07-07 |
| BR112021016270A2 (pt) | 2021-10-13 |
| EP4243418A3 (en) | 2023-10-25 |
| ES2965083T3 (es) | 2024-04-10 |
| EP4243418A2 (en) | 2023-09-13 |
| JP2023099561A (ja) | 2023-07-13 |
| KR20240000638A (ko) | 2024-01-02 |
| PT3912352T (pt) | 2023-11-21 |
| FI3912352T3 (fi) | 2023-11-30 |
| SG11202107970QA (en) | 2021-08-30 |
| EP3912352A4 (en) | 2022-04-20 |
| DK3912352T3 (da) | 2023-11-20 |
| EP3912352A1 (en) | 2021-11-24 |
| WO2020169083A1 (en) | 2020-08-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102596735B1 (ko) | 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들 | |
| JP7471328B2 (ja) | エンコーダ、デコーダ、および対応する方法 | |
| US20210400259A1 (en) | Dmvr using decimated prediction block | |
| KR102616714B1 (ko) | 광학 흐름 정제를 위한 조기 종료 | |
| KR102573294B1 (ko) | 서브블록 병합 후보를 위한 개별적인 병합 목록 및 비디오 코딩을 위한 인트라-인터 기술 조화 | |
| JP2024009038A (ja) | 双予測のオプティカルフロー計算および双予測補正におけるブロックレベル境界サンプル勾配計算のための整数グリッド参照サンプルの位置を計算するための方法 | |
| WO2020253853A1 (en) | Early termination for optical flow refinment | |
| US11985320B2 (en) | Early termination for optical flow refinement | |
| RU2808608C2 (ru) | Раннее прекращение уточнения оптического потока | |
| US20220132150A1 (en) | Motion field storage optimization for a line buffer | |
| CN116647683A (zh) | 量化处理方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| A107 | Divisional application of patent | ||
| GRNT | Written decision to grant |