KR20240064688A

KR20240064688A - 다양한 병합 후보 재정렬을 위한 방법

Info

Publication number: KR20240064688A
Application number: KR1020247011886A
Authority: KR
Inventors: 구이춘 리; 신 자오; 롄-페이 천; 산 류
Original assignee: 텐센트 아메리카 엘엘씨
Priority date: 2022-07-18
Filing date: 2022-11-11
Publication date: 2024-05-13
Also published as: WO2024019764A1; CN118202654A; US20240031595A1

Abstract

본 개시의 양태들은 비디오 인코딩/디코딩을 위한 방법들 및 장치들을 제공한다. 일부 예들에서, 비디오 디코딩을 위한 장치는 처리 회로를 포함한다. 처리 회로는 현재 블록을 포함하는 비디오 비트스트림을 수신하고, 현재 블록을 예측하기 위한 복수의 모션 벡터(MV) 후보를 포함하는 후보 리스트를 결정한다. 처리 회로는 복수의 MV 후보의 모션 정보 기반 다양성 평가에 따라 후보 리스트 내의 복수의 MV 후보를 수정한다. 복수의 MV 후보를 수정하는 것은 모션 정보의 더 큰 차이를 갖는 MV 후보들의 서브세트를 우선시한다. 처리 회로는 비디오 비트스트림으로부터, 수정된 후보 리스트로부터의 선택된 MV 후보를 나타내는 인덱스를 디코딩하고, 선택된 MV 후보에 기초하여 현재 블록을 재구성한다.

Description

다양한 병합 후보 재정렬을 위한 방법

참고로의 통합

본 출원은 "METHOD FOR DIVERSIFIED MERGE CANDIDATE REORDERING"이라는 발명의 명칭으로 2022년 11월 10일자로 출원된 미국 특허 출원 제17/984,889호에 대한 우선권의 이익을 주장하며, 이 출원은 "Method for Diversified Merge Candidate Reordering"이라는 발명의 명칭으로 2022년 7월 18일자로 출원된 미국 가출원 제63/390,128호에 대한 우선권의 이익을 주장한다. 선행 출원들의 개시들은 그 전체가 본 명세서에 참고로 통합된다.

기술 분야

본 개시는 일반적으로 비디오 코딩에 관련된 실시예들을 설명한다.

본 명세서에서 제공되는 배경기술 설명은 본 개시의 맥락을 일반적으로 제시하기 위한 것이다. 현재 지명된 발명자들의 연구 - 그 연구가 이 배경기술 섹션에서 설명된다고 하더라도 -뿐만 아니라 출원시에 종래 기술로서 달리 자격이 주어지지 않을 수 있는 설명의 양태들은 명시적으로도 암시적으로도 본 개시에 대한 종래 기술로서 인정되지 않는다.

압축되지 않은 디지털 이미지들 및/또는 비디오는 일련의 픽처들을 포함할 수 있고, 각각의 픽처는, 예를 들어, 1920x1080 휘도 샘플들 및 연관된 색도 샘플들의 공간 차원을 갖는다. 일련의 픽처들은, 예를 들어, 초당 60 픽처 또는 60 Hz의 고정 또는 가변 픽처 레이트(비공식적으로 프레임 레이트로도 알려짐)를 가질 수 있다. 압축되지 않은 이미지 및/또는 비디오는 특정 비트레이트 요건들을 갖는다. 예를 들어, 샘플당 8비트에서 1080p60 4:2:0 비디오(60Hz 프레임 레이트에서 1920x1080 휘도 샘플 해상도)는 1.5Gbit/s 대역폭에 가까울 것을 요구한다. 그러한 비디오의 한 시간은 600 기가바이트보다 많은 저장 공간을 필요로 한다.

이미지 및/또는 비디오 코딩 및 디코딩의 하나의 목적은 압축을 통한 입력 이미지 및/또는 비디오 신호에서의 중복성의 감소일 수 있다. 압축은 전술한 대역폭 및/또는 저장 공간 요건들을 일부 경우들에서 2 자릿수 이상 감소시키는 것을 도울 수 있다. 본 명세서에서의 설명들이 비디오 인코딩/디코딩을 예시적인 예들로서 사용하지만, 동일한 기술들은 본 개시의 사상으로부터 벗어나지 않으면서 유사한 방식으로 이미지 인코딩/디코딩에 적용될 수 있다. 무손실 압축 및 유손실 압축 둘 다는 물론, 이들의 조합이 이용될 수 있다. 무손실 압축은 원래 신호의 정확한 사본이 압축된 원래 신호로부터 재구성될 수 있는 기술들을 지칭한다. 유손실 압축을 사용할 때, 재구성된 신호는 원래의 신호와 동일하지 않을 수 있지만, 원래의 신호와 재구성된 신호 사이의 왜곡은 재구성된 신호를 의도된 응용에 유용하게 만들 정도로 충분히 작다. 비디오의 경우, 유손실 압축이 널리 이용된다. 용인되는 왜곡의 양은 응용에 의존하며; 예를 들어, 특정 소비자 스트리밍 응용들의 사용자들은 텔레비전 배포 응용들의 사용자들보다 더 높은 왜곡을 용인할 수 있다. 달성가능한 압축비는 더 높은 허용가능한/용인가능한 왜곡이 더 높은 압축비들을 산출할 수 있다는 것을 반영할 수 있다.

비디오 인코더 및 디코더는, 예를 들어, 모션 보상, 변환 처리, 양자화, 및 엔트로피 코딩을 포함하는 몇가지 광범위한 카테고리로부터의 기술들을 이용할 수 있다.

비디오 코덱 기술들은 인트라 코딩으로 알려진 기술들을 포함할 수 있다. 인트라 코딩에서, 샘플 값들은 이전에 재구성된 기준 픽처들로부터의 샘플들 또는 다른 데이터를 참조하지 않고 표현된다. 일부 비디오 코덱들에서, 픽처는 샘플들의 블록들로 공간적으로 세분된다. 샘플들의 모든 블록들이 인트라 모드에서 코딩될 때, 그 픽처는 인트라 픽처일 수 있다. 인트라 픽처들 및 독립적인 디코더 리프레시 픽처들과 같은 그들의 도출물들은 디코더 상태를 리셋하기 위해 사용될 수 있고, 따라서 코딩된 비디오 비트스트림 및 비디오 세션에서 제1 픽처로서, 또는 정지 이미지로서 사용될 수 있다. 인트라 블록의 샘플들은 변환에 노출될 수 있고, 변환 계수들은 엔트로피 코딩 전에 양자화될 수 있다. 인트라 예측은 사전 변환 도메인에서 샘플 값들을 최소화하는 기술일 수 있다. 일부 경우들에서, 변환 후의 DC 값이 더 작을수록, 그리고 AC 계수들이 더 작을수록, 엔트로피 코딩 후에 블록을 표현하기 위해 주어진 양자화 스텝 크기에서 요구되는 비트들이 더 적다.

예를 들어, MPEG-2세대 코딩 기술들에서 사용되는 전통적인 인트라 코딩은 인트라 예측을 사용하지 않는다. 그러나, 일부 더 새로운 비디오 압축 기술들은 예를 들어, 데이터 블록들의 인코딩 및/또는 디코딩 동안에 획득된 주변 샘플 데이터 및/또는 메타데이터에 기초하여 예측을 수행하려고 시도하는 기술들을 포함한다. 이러한 기술들은 이후 "인트라 예측" 기술들이라고 한다. 적어도 일부 경우들에서, 인트라 예측은 기준 픽처들로부터가 아니라 재구성 중인 현재 픽처로부터의 기준 데이터만을 사용한다는 점에 유의한다.

많은 상이한 형태의 인트라 예측이 있을 수 있다. 그러한 기술들 중 하나 초과가 주어진 비디오 코딩 기술에서 사용될 수 있을 때, 사용중인 특정 기술은 특정 기술을 사용하는 특정 인트라 예측 모드로서 코딩될 수 있다. 특정 경우들에서, 인트라 예측 모드들은 서브모드들 및/또는 파라미터들을 가질 수 있으며, 여기서 서브모드들 및/또는 파라미터들은 개별적으로 코딩되거나, 사용되는 예측 모드를 정의하는 모드 코드워드에 포함될 수 있다. 주어진 모드, 서브모드, 및/또는 파라미터 조합에 대해 어느 코드워드를 사용할지는 인트라 예측을 통해 코딩 효율 이득에 영향을 미칠 수 있고, 따라서 엔트로피 코딩 기술은 코드워드들을 비트스트림으로 변환하는 데 사용될 수 있다.

인트라 예측의 특정 모드가 H.264에 도입되었고, H.265에서 정제되었고, JEM(joint exploration model), VVC(versatile video coding), 및 BMS(benchmark set)와 같은 더 새로운 코딩 기술들에서 추가로 정제되었다. 이미 이용가능한 샘플들의 이웃 샘플 값들을 사용하여 예측기 블록이 형성될 수 있다. 이웃 샘플들의 샘플 값들은 방향에 따라 예측기 블록으로 복사된다. 사용 중인 방향에 대한 기준이 비트스트림에 코딩될 수 있거나 자체적으로 예측될 수 있다.

도 1a를 참조하면, 하부 우측에는 H.265에서 정의된 (35개의 인트라 모드의 33개의 각도 모드에 대응하는) 33개의 가능한 예측기 방향으로부터 알려진 9개의 예측기 방향의 서브세트가 도시되어 있다. 화살표들이 수렴하는 포인트(101)는 예측되고 있는 샘플을 나타낸다. 화살표들은 샘플이 예측되고 있는 방향을 나타낸다. 예를 들어, 화살표(102)는 샘플(101)이 샘플 또는 샘플들로부터 우측 상단으로, 수평으로부터 45도 각도로 예측된다는 것을 나타낸다. 유사하게, 화살표(103)는 샘플(101)이 샘플 또는 샘플들로부터 샘플(101)의 좌측 하부로, 수평으로부터 22.5도 각도로 예측된다는 것을 나타낸다.

여전히 도 1a를 참조하면, 좌측 상단에는, (굵은 파선으로 표시된) 4x4 샘플들의 정사각형 블록(104)이 도시되어 있다. 정사각형 블록(104)은 각각 "S", Y 차원에서의 그의 위치(예를 들어, 행 인덱스) 및 X 차원에서의 그의 위치(예를 들어, 열 인덱스)로 라벨링된 16개의 샘플을 포함한다. 예를 들어, 샘플 S21은 Y 차원에서의 (상단으로부터의) 제2 샘플 및 X 차원에서의 (좌측으로부터) 제1 샘플이다. 유사하게, 샘플 S44는 Y 및 X 차원들 모두에서의 블록(104) 내의 제4 샘플이다. 블록이 크기가 4x4 샘플들이기 때문에, S44는 우측 하단에 있다. 유사한 넘버링 스킴을 따르는 기준 샘플들이 추가로 도시되어 있다. 기준 샘플은 R, 블록(104)에 대한 그의 Y 위치(예를 들어, 행 인덱스) 및 X 위치(열 인덱스)로 라벨링된다. H.264 및 H.265 둘 다에서, 예측 샘플들은 재구성 중인 블록에 이웃하고; 따라서, 음의 값들이 사용될 필요가 없다.

인트라 픽처 예측은 시그널링된 예측 방향에 의해 표시된 이웃 샘플들로부터 기준 샘플 값들을 복사함으로써 작동할 수 있다. 예를 들어, 코딩된 비디오 비트스트림은, 이 블록에 대해, 화살표(102)와 일치하는 예측 방향을 나타내는 - 즉, 샘플들이 샘플들로부터 우측 상단으로, 수평으로부터 45도 각도로 예측된다는 - 시그널링을 포함한다고 가정한다. 그러한 경우, 샘플들 S41, S32, S23 및 S14는 동일한 기준 샘플 R05로부터 예측된다. 그 후 샘플 S44는 기준 샘플 R08로부터 예측된다.

특정 경우들에서, 다수의 기준 샘플들의 값들은 기준 샘플을 계산하기 위해; 특히 방향들이 45도로 균일하게 분할가능하지 않을 때, 예를 들어 보간을 통해 조합될 수 있다.

비디오 코딩 기술이 발전함에 따라 가능한 방향들의 수가 증가하였다. H.264(2003년)에서, 9개의 상이한 방향이 표현될 수 있다. 그것은 H.265(2013년)에서 33개로 증가하였다. 현재, JEM/VVC/BMS는 최대 65개의 방향을 지원할 수 있다. 가장 가능성 있는 방향들을 식별하기 위한 실험들이 수행되었고, 엔트로피 코딩에서의 특정 기술들은 적은 수의 비트들로 그러한 가능성 있는 방향들을 표현하기 위해 사용되어, 가능성이 적은 방향들에 대한 특정 페널티를 수용한다. 또한, 방향들 자체는 이웃하는, 이미 디코딩된 블록들에서 사용되는 이웃 방향들로부터 때때로 예측될 수 있다.

도 1b는 시간에 따라 증가하는 수의 예측 방향들을 예시하기 위해 JEM에 따라 65개의 인트라 예측 방향을 도시하는 개략도(110)를 도시한다.

코딩된 비디오 비트스트림에서의 방향을 나타내는 인트라 예측 방향 비트들의 매핑은 비디오 코딩 기술마다 상이할 수 있다. 이러한 매핑은, 예를 들어, 간단한 직접 매핑들로부터 코드워드들까지, 가장 가능성 있는 모드들을 수반하는 복잡한 적응적 스킴들, 및 유사한 기술들에 이르기까지 다양할 수 있다. 그러나, 대부분의 경우에, 특정한 다른 방향들보다 비디오 콘텐츠에서 통계적으로 발생할 가능성이 적은 특정 방향들이 있을 수 있다. 비디오 압축의 목표는 중복성의 감소이므로, 잘 작동하는 비디오 코딩 기술에서, 그러한 가능성이 적은 방향들은 가능성이 높은 방향들보다 더 많은 수의 비트들로 표현될 것이다.

이미지 및/또는 비디오 코딩 및 디코딩은 모션 보상을 갖는 인터-픽처 예측을 사용하여 수행될 수 있다. 모션 보상은 유손실 압축 기술일 수 있고, 이전에 재구성된 픽처 또는 그 일부(기준 픽처)로부터의 샘플 데이터의 블록이 모션 벡터(이후 MV)에 의해 표시된 방향으로 공간적으로 시프트된 후에 새롭게 재구성된 픽처 또는 픽처 부분의 예측을 위해 사용되는 기술들과 관련될 수 있다. 일부 경우들에서, 기준 픽처는 현재 재구성 중인 픽처와 동일할 수 있다. MV들은 2개의 차원 X 및 Y, 또는 3개의 차원을 가질 수 있고, 제3 차원은 사용 중인 기준 픽처의 표시이다(후자는 간접적으로 시간 차원일 수 있다).

일부 비디오 압축 기술들에서, 샘플 데이터의 특정 영역에 적용가능한 MV는 다른 MV들로부터, 예를 들어 재구성 중인 영역에 공간적으로 인접한 샘플 데이터의 다른 영역에 관련되고, 디코딩 순서에서 그 MV에 선행하는 것들로부터 예측될 수 있다. 그렇게 하는 것은 MV를 코딩하는 데 필요한 데이터의 양을 실질적으로 감소시킬 수 있고, 따라서 중복성을 제거하고 압축을 증가시킨다. MV 예측은 효과적으로 작동할 수 있는데, 이는 예를 들어, 카메라로부터 도출된 입력 비디오 신호(자연 비디오라고 알려짐)를 코딩할 때, 단일 MV가 적용가능한 영역보다 더 큰 영역들이 유사한 방향으로 이동하고, 따라서, 일부 경우들에서 이웃 영역의 MV들로부터 도출된 유사한 모션 벡터를 사용하여 예측될 수 있는 통계적 가능성이 있기 때문이다. 이는 주어진 영역에 대해 발견된 MV가 주변 MV들로부터 예측되고, 결국 엔트로피 코딩 후에, MV를 직접 코딩하는 경우에 사용되는 것보다 더 적은 수의 비트들로 표현될 수 있는 MV와 유사하거나 동일하게 한다. 일부 경우들에서, MV 예측은 원래의 신호(즉: 샘플 스트림)로부터 도출된 신호(즉: MV들)의 무손실 압축의 예일 수 있다. 다른 경우들에서, MV 예측 자체는, 예를 들어, 몇몇 주변 MV들로부터 예측기를 계산할 때의 반올림 에러들 때문에, 유손실일 수 있다.

다양한 MV 예측 메커니즘들이 H.265/HEVC(ITU-T Rec. H.265, "High Efficiency Video Coding", December 2016)에 설명되어 있다. 도 2를 참조하여 설명된, H.265가 제공하는 많은 MV 예측 메커니즘들 중에는 이후에 "공간 병합"으로 지칭되는 기술이 있다.

도 2를 참조하면, 현재 블록(201)은 공간적으로 시프트된 동일한 크기의 이전 블록으로부터 예측가능한 것으로 모션 검색 프로세스 동안 인코더에 의해 발견된 샘플들을 포함한다. 해당 MV를 직접 코딩하는 대신에, MV는 하나 이상의 기준 픽처와 연관된 메타데이터로부터, 예를 들어 (디코딩 순서에서) 가장 최근의 기준 픽처로부터, A0, A1, 및 B0, B1, B2(각각, 202 내지 206)로 표시된 5개의 주변 샘플 중 어느 하나와 연관된 MV를 사용하여 도출될 수 있다. H.265에서, MV 예측은 이웃 블록이 사용하고 있는 동일한 기준 픽처로부터의 예측기들을 사용할 수 있다.

본 개시의 양태들은 비디오 인코딩/디코딩을 위한 방법들 및 장치들을 제공한다. 일부 예들에서, 비디오 디코딩을 위한 장치는 처리 회로를 포함한다. 처리 회로는 현재 블록을 포함하는 비디오 비트스트림을 수신하고, 현재 블록을 예측하기 위한 복수의 모션 벡터(MV) 후보를 포함하는 후보 리스트를 결정한다. 처리 회로는 복수의 MV 후보의 모션 정보 기반 다양성 평가에 따라 후보 리스트에서 복수의 MV 후보를 수정한다. 복수의 MV 후보를 수정하는 것은 모션 정보의 더 큰 차이를 갖는 MV 후보들의 서브세트를 우선시한다. 처리 회로는 비디오 비트스트림으로부터, 수정된 후보 리스트로부터의 선택된 MV 후보를 나타내는 인덱스를 디코딩하고, 선택된 MV 후보에 기초하여 현재 블록을 재구성한다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 병진 모션 기반 다양성 평가 및/또는 아핀 모션 기반 다양성 평가 중 적어도 하나를 포함한다.

일부 실시예들에서, 처리 회로는 후보 리스트 내의 제1 MV 후보가 요건을 충족시키는지 여부를 결정하고, 제1 MV 후보가 요건을 충족시키는 것에 응답하여 모션 정보 기반 다양성 평가를 제1 MV 후보 및 제1 MV 후보의 전임자인 제2 MV 후보에 적용한다. 일부 예들에서, 요건은 제1 MV 후보와 연관된 블록 크기가 크기 요건을 충족시키는 것 및/또는 제1 MV 후보의 블록 좌표가 좌표 요건을 충족시키는 것 중 적어도 하나를 포함한다.

일부 실시예들에서, 처리 회로는 제1 MV 후보 및 제2 MV 후보 중 하나가 단방향 예측 후보이고 MV 제1 후보 및 제2 MV 후보 중 다른 하나가 양방향 예측 후보인 것에 응답하여 제1 MV 후보 및 제2 MV 후보가 충분한 다양성을 갖는다고 결정한다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 병진 모션 기반 다양성 평가이다. 일부 예들에서, 처리 회로는 후보 리스트에서 제1 MV 후보와 제2 MV 후보 사이의 제1 모션 벡터 차이를 계산하고, 제1 모션 벡터 차이에 기초하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복되는지 여부를 결정한다. 일부 예들에서, 처리 회로는 제1 모션 벡터 차이의 제1 최대 성분 값을 임계치와 비교하고, 제1 최대 성분 값이 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다. 일례에서, 임계치는 고정된 상수 값일 수 있거나, 현재 블록의 크기의 함수인 값일 수 있다.

일부 예들에서, 제1 MV 후보 및 제2 MV 후보는 양방향 예측 후보들이고, 제1 모션 벡터 차이는 제1 기준 픽처와 연관된다. 일부 예들에서, 처리 회로는 제1 MV 후보와 제2 MV 후보 사이의 제2 모션 벡터 차이를 계산하고, 제2 모션 벡터 차이는 제2 기준 픽처와 연관된다. 또한, 처리 회로는 제1 모션 벡터 차이의 제1 최대 성분 값과 제2 모션 벡터 차이의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다.

일부 예들에서, 제1 MV 후보 및 제2 MV 후보는 기하학적 파티셔닝 모드(GPM) 후보들이고, 제1 모션 벡터 차이는 제1 MV 후보 및 제2 MV 후보의 각각의 제1 파티션들과 연관된다. 일부 예들에서, 처리 회로는 제1 MV 후보와 제2 MV 후보 사이의 제2 모션 벡터 차이를 계산하고, 제2 모션 벡터 차이는 제1 MV 후보 및 제2 MV 후보의 각각의 제2 파티션들과 연관된다. 또한, 처리 회로는 제1 모션 벡터 차이의 제1 최대 성분 값과 제2 모션 벡터 차이의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가이다. 일부 예들에서, 처리 회로는 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보로부터 각각 제1 제어 포인트 모션 벡터(CPMV)들의 제1 쌍 사이의 제1 제어 포인트 모션 벡터(CPMV) 차이 값을 계산하고, 제1 CPMV 차이 값에 기초하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복되는지 여부를 결정한다. 일부 예들에서, 처리 회로는 제1 CPMV 차이 값의 제1 최대 성분 값을 임계치와 비교하고, 제1 최대 성분 값이 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다. 일례에서, 임계치는 고정된 상수 값일 수 있거나, 현재 블록의 크기의 함수인 값일 수 있다.

일부 예들에서, 제1 MV 후보 및 제2 MV 후보는 양방향 예측 후보들이고, 제1 CPMV 차이 값은 제1 기준 픽처와 연관된 제1 CPMV들의 제1 쌍 사이의 차이 값이다. 일부 예들에서, 처리 회로는 제1 MV 후보 및 제2 MV 후보로부터 각각 제1 CPMV들의 제2 쌍 사이의 제2 CPMV 차이 값을 계산하고, CPMV들의 제2 쌍은 제2 기준 픽처와 연관된다. 또한, 처리 회로는 제1 CPMV 차이 값의 제1 최대 성분 값과 제2 CPMV 차이 값의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가이다. 일부 예들에서, 처리 회로는 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보로부터 각각 아핀 모델들의 제1 쌍 사이의 제1 복수의 아핀 파라미터 차이 값을 계산하고, 제1 복수의 아핀 파라미터 차이 값에 기초하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복되는지 여부를 결정한다. 일부 예들에서, 처리 회로는 제1 복수의 아핀 파라미터 차이 값 중 제1 최대값을 임계치와 비교하고, 제1 최대값이 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다.

일부 예들에서, 제1 MV 후보 및 제2 MV 후보는 양방향 예측 후보들이고, 제1 복수의 아핀 파라미터 차이 값은 제1 기준 픽처와 연관된다. 일부 예들에서, 처리 회로는 제1 MV 후보 및 제2 MV 후보로부터 아핀 모델들의 제2 쌍 사이의 제2 복수의 아핀 파라미터 차이 값을 계산하고, 아핀 모델들의 제2 쌍은 제2 기준 픽처와 연관된다. 또한, 처리 회로는 제1 복수의 아핀 파라미터 차이 값 중 제1 최대값과 제2 복수의 아핀 파라미터 차이 값 중 제2 최대값이 모두 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다.

일부 실시예들에서, 처리 회로는 모션 정보 기반 다양성 평가 및 템플릿 매칭(TM) 비용 기반 다양성 평가에 기초하여 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보 중 하나가 중복되는지 여부를 결정한다. 일부 예들에서, 처리 회로는 제1 MV 후보와 제2 MV 후보 사이의 모션 차이가 제1 임계치보다 작고 제1 MV 후보와 제2 MV 후보의 템플릿 매칭 비용 차이가 제2 임계치보다 작은 것에 응답하여 제1 MV 후보 및 제2 MV 후보 중 하나가 중복된 것으로 결정한다.

일부 예들에서, 처리 회로는 중복 후보로 결정된 MV 후보를 후보 리스트의 끝으로 이동시킨다. 일부 예들에서, 처리 회로는 중복 후보로 결정된 MV 후보를 후보 리스트로부터 제거한다.

일부 예들에서, 처리 회로는 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보 중 하나가 중복 후보라고 결정한다. 제1 MV 후보는 제1 블록 크기를 갖는 제1 블록과 연관되고, 제2 MV 후보는 제2 블록 크기를 갖는 제2 블록과 연관된다. 또한, 처리 회로는 제1 블록 크기가 제2 블록 크기보다 작은 것에 응답하여 제1 MV 후보를 중복 후보로 선택한다.

본 개시의 양태들은 또한 비디오 디코딩을 위해 컴퓨터에 의해 실행될 때 컴퓨터로 하여금 비디오 디코딩을 위한 방법을 수행하게 하는 명령어들을 저장하는 비일시적 컴퓨터 판독가능 매체를 제공한다.

개시된 주제의 추가 특징들, 본질 및 다양한 이점들은 다음의 상세한 설명 및 첨부 도면들로부터 더 명백해질 것이며, 도면들에서:
도 1a는 인트라 예측 모드들의 예시적인 서브세트의 개략적인 예시이다.
도 1b는 예시적인 인트라 예측 방향들의 예시이다.
도 2는 일례에서의 현재 블록 및 그 주위의 공간 병합 후보들의 개략적인 예시이다.
도 3은 일 실시예에 따른 통신 시스템(300)의 단순화된 블록도의 개략적인 예시이다.
도 4는 일 실시예에 따른 통신 시스템(400)의 단순화된 블록도의 개략적인 예시이다.
도 5는 일 실시예에 따른 디코더의 단순화된 블록도의 개략적인 예시이다.
도 6은 일 실시예에 따른 인코더의 단순화된 블록도의 개략적인 예시이다.
도 7은 다른 실시예에 따른 인코더의 블록도를 도시한다.
도 8은 다른 실시예에 따른 디코더의 블록도를 도시한다.
도 9a는 다른 실시예에 따른 4-파라미터 아핀 모델의 개략적인 예시를 도시한다.
도 9b는 다른 실시예에 따른 6-파라미터 아핀 모델의 개략적인 예시를 도시한다.
도 10은 다른 실시예에 따른 블록 내의 서브블록들과 연관된 아핀 모션 벡터 필드의 개략적인 예시를 도시한다.
도 11은 다른 실시예에 따른 공간 병합 후보들의 예시적인 위치들의 개략적인 예시를 도시한다.
도 12는 다른 실시예에 따른 제어 포인트 모션 벡터 상속의 개략적인 예시를 도시한다.
도 13은 다른 실시예에 따른 아핀 병합 모드를 구성하기 위한 후보들의 위치들의 개략적인 예시를 도시한다.
도 14는 다른 실시예에 따른 광학 흐름을 갖는 예측 정제(PROF)의 개략적인 예시를 도시한다.
도 15는 다른 실시예에 따른 아핀 모션 추정 프로세스의 개략적인 예시를 도시한다.
도 16은 다른 실시예에 따른 아핀 모션 추정 검색의 흐름도를 도시한다.
도 17은 다른 실시예에 따른 양방향 광학 흐름(BDOF)에 대한 확장된 코딩 유닛(CU) 영역의 개략적인 예시를 도시한다.
도 18은 디코더 측 모션 벡터 정제의 예시적인 개략적인 개략도를 도시한다.
도 19는 일례에서의 검색 프로세스의 일례를 도시한다.
도 20은 일례에서의 검색 포인트들의 예들을 도시한다.
도 21은 일부 예들에서의 템플릿 매칭의 일례를 도시한다.
도 22는 일례에서의 아핀 병합 모드에서의 템플릿 매칭의 일례를 도시한다.
도 23은 양방향 예측의 병합 후보에 대한 현재 블록의 템플릿의 기준 샘플들을 예시하는 도면을 도시한다.
도 24는 일부 예들에서의 서브블록 기반 병합 후보를 갖는 현재 블록에 대한 템플릿 및 템플릿의 기준 샘플들의 도출을 도시한다.
도 25는 일부 예들에서의 정제 방향들을 예시하는 도면을 도시한다.
도 26은 일부 예들에서의 제1 히스토리 파라미터 표 및 제2 히스토리 파라미터 표를 예시하는 도면을 도시한다.
도 27은 일부 예들에서의 라인 버퍼에 저장된 히스토리 파라미터 표들을 예시하는 도면을 도시한다.
도 28a-도 28b는 일부 예들에서 추가적인 상속된/구성된 아핀 병합/AMVP 후보들을 생성하는 것을 예시한다.
도 29는 일부 예들에서 인접하지 않은 이웃들로부터 구성된 아핀 병합/AMVP 후보들을 생성하는 것을 예시한다.
도 30은 본 개시의 실시예들에 따른 현재 코딩 유닛과 연관된 블록 벡터들을 도시한다.
도 31은 일부 예들에서의 패딩 후보들의 세트를 예시하는 도면을 도시한다.
도 32는 현재 코딩 유닛 위치의 위치에 따른 인트라 블록 복사 기준 영역을 예시하는 도면을 도시한다.
도 33은 현재 블록 및 현재 블록의 템플릿의 예를 도시한다.
도 34는 현재 블록 및 현재 블록의 템플릿의 다른 예를 도시한다.
도 35는 본 개시의 일부 실시예들에 따른 프로세스를 개설하는 흐름도를 도시한다.
도 36은 본 개시의 일부 실시예들에 따른 다른 프로세스를 개설하는 흐름도를 도시한다.
도 37은 본 개시의 일부 실시예들에 따른 프로세스를 개설하는 흐름도를 도시한다.
도 38은 본 개시의 일부 실시예들에 따른 다른 프로세스를 개설하는 흐름도를 도시한다.
도 39는 일 실시예에 따른 컴퓨터 시스템의 개략적인 예시이다.

도 3은 통신 시스템(300)의 예시적인 블록도를 예시한다. 통신 시스템(300)은, 예를 들어, 네트워크(350)를 통해 서로 통신할 수 있는 복수의 단말 디바이스들을 포함한다. 예를 들어, 통신 시스템(300)은 네트워크(350)를 통해 상호접속된 제1 쌍의 단말 디바이스들(310 및 320)을 포함한다. 도 3의 예에서, 제1 쌍의 단말 디바이스들(310 및 320)은 데이터의 단방향 송신을 수행한다. 예를 들어, 단말 디바이스(310)는 네트워크(350)를 통한 다른 단말 디바이스(320)로의 송신을 위해 비디오 데이터(예를 들어, 단말 디바이스(310)에 의해 캡처되는 비디오 픽처들의 스트림)를 코딩할 수 있다. 인코딩된 비디오 데이터는 하나 이상의 코딩된 비디오 비트스트림의 형태로 송신될 수 있다. 단말 디바이스(320)는 네트워크(350)로부터 코딩된 비디오 데이터를 수신하고, 코딩된 비디오 데이터를 디코딩하여 비디오 픽처들을 복구하고, 복구된 비디오 데이터에 따라 비디오 픽처들을 디스플레이할 수 있다. 단방향 데이터 송신은 미디어 서빙 애플리케이션들 등에서 일반적일 수 있다.

다른 예에서, 통신 시스템(300)은, 예를 들어, 비디오 회의 동안, 코딩된 비디오 데이터의 양방향 송신을 수행하는 제2 쌍의 단말 디바이스들(330 및 340)을 포함한다. 데이터의 양방향 송신을 위해, 일례에서, 단말 디바이스들(330 및 340) 중의 각각의 단말 디바이스는 네트워크(350)를 통한 단말 디바이스들(330 및 340) 중의 다른 단말 디바이스로의 송신을 위해 비디오 데이터(예를 들어, 단말 디바이스에 의해 캡처되는 비디오 픽처들의 스트림)를 코딩할 수 있다. 단말 디바이스들(330 및 340) 중의 각각의 단말 디바이스는 또한 단말 디바이스들(330 및 340) 중의 다른 단말 디바이스에 의해 송신된 코딩된 비디오 데이터를 수신할 수 있고, 코딩된 비디오 데이터를 디코딩하여 비디오 픽처들을 복구할 수 있고, 복구된 비디오 데이터에 따라 액세스가능한 디스플레이 디바이스에서 비디오 픽처들을 디스플레이할 수 있다.

도 3의 예에서, 단말 디바이스들(310, 320, 330 및 340)은 각각 서버들, 개인용 컴퓨터들 및 스마트폰들로서 예시되지만, 본 개시의 원리들은 그에 한정되지 않을 수 있다. 본 개시의 실시예들은 랩톱 컴퓨터들, 태블릿 컴퓨터들, 미디어 플레이어들, 및/또는 전용 비디오 회의 장비에 대한 응용을 찾는다. 네트워크(350)는 예를 들어 와이어라인(유선) 및/또는 무선 통신 네트워크들을 포함하여, 단말 디바이스들(310, 320, 330 및 340) 사이에서 코딩된 비디오 데이터를 전달하는 임의의 수의 네트워크들을 나타낸다. 통신 네트워크(350)는 회선 교환 및/또는 패킷 교환 채널들에서 데이터를 교환할 수 있다. 대표적인 네트워크들은 원격통신 네트워크들, 근거리 네트워크들, 광역 네트워크들 및/또는 인터넷을 포함한다. 본 논의의 목적들을 위해, 네트워크(350)의 아키텍처 및 토폴로지는 아래에 본 명세서에서 설명되지 않는 한 본 개시의 동작에 중요하지 않을 수 있다.

도 4는, 개시된 주제를 위한 응용의 일례로서, 스트리밍 환경에서의 비디오 인코더 및 비디오 디코더를 예시한다. 개시된 주제는, 예를 들어, 비디오 회의, 디지털 TV, 스트리밍 서비스들, CD, DVD, 메모리 스틱 등을 포함하는 디지털 미디어 상의 압축된 비디오의 저장 등을 포함하는 다른 비디오 인에이블드 응용들에 동등하게 적용가능할 수 있다.

스트리밍 시스템은 예를 들어, 압축되지 않은 비디오 픽처들의 스트림(402)을 생성하는 비디오 소스(401), 예를 들어 디지털 카메라를 포함할 수 있는 캡처 서브시스템(413)을 포함할 수 있다. 일례에서, 비디오 픽처들의 스트림(402)은 디지털 카메라에 의해 촬영되는 샘플들을 포함한다. 인코딩된 비디오 데이터(404)(또는 코딩된 비디오 비트스트림)와 비교할 때 많은 데이터 볼륨을 강조하기 위해 굵은 라인으로 묘사된 비디오 픽처들의 스트림(402)은 비디오 소스(401)에 결합된 비디오 인코더(403)를 포함하는 전자 디바이스(420)에 의해 처리될 수 있다. 비디오 인코더(403)는 아래에 더 상세히 설명되는 바와 같이 개시된 주제의 양태들을 가능하게 하거나 구현하기 위해 하드웨어, 소프트웨어, 또는 이들의 조합을 포함할 수 있다. 비디오 픽처들의 스트림(402)과 비교할 때 더 적은 데이터 볼륨을 강조하기 위해 얇은 라인으로 묘사된 인코딩된 비디오 데이터(404)(또는 인코딩된 비디오 비트스트림)는 미래의 사용을 위해 스트리밍 서버(405) 상에 저장될 수 있다. 도 4의 클라이언트 서브시스템들(406 및 408)과 같은 하나 이상의 스트리밍 클라이언트 서브시스템은 스트리밍 서버(405)에 액세스하여 인코딩된 비디오 데이터(404)의 사본들(407 및 409)을 검색할 수 있다. 클라이언트 서브시스템(406)은 예를 들어 전자 디바이스(430)에 비디오 디코더(410)를 포함할 수 있다. 비디오 디코더(410)는 인코딩된 비디오 데이터의 착신 사본(407)을 디코딩하고 디스플레이(412)(예를 들어, 디스플레이 스크린) 또는 다른 렌더링 디바이스(묘사되지 않음) 상에 렌더링될 수 있는 비디오 픽처들의 발신 스트림(411)을 생성한다. 일부 스트리밍 시스템들에서, 인코딩된 비디오 데이터(404, 407 및 409)(예를 들어, 비디오 비트스트림들)는 특정 비디오 코딩/압축 표준들에 따라 인코딩될 수 있다. 그러한 표준들의 예들은 ITU-T 권고안 H.265를 포함한다. 일례에서, 개발 중인 비디오 코딩 표준은 VVC(Versatile Video Coding)로서 비공식적으로 알려져 있다. 개시된 주제는 VVC의 맥락에서 사용될 수 있다.

전자 디바이스들(420 및 430)은 다른 컴포넌트들(도시되지 않음)을 포함할 수 있다는 점에 유의한다. 예를 들어, 전자 디바이스(420)는 비디오 디코더(도시되지 않음)를 포함할 수 있고, 전자 디바이스(430)도 비디오 인코더(도시되지 않음)를 포함할 수 있다.

도 5는 비디오 디코더(510)의 예시적인 블록도를 도시한다. 비디오 디코더(510)는 전자 디바이스(530)에 포함될 수 있다. 전자 디바이스(530)는 수신기(531)(예를 들어, 수신 회로)를 포함할 수 있다. 비디오 디코더(510)는 도 4의 예에서의 비디오 디코더(410) 대신에 사용될 수 있다.

수신기(531)는 비디오 디코더(510)에 의해 디코딩될 하나 이상의 코딩된 비디오 시퀀스를 수신할 수 있다. 일 실시예에서, 한 번에 하나의 코딩된 비디오 시퀀스가 수신되고, 각각의 코딩된 비디오 시퀀스의 디코딩은 다른 코딩된 비디오 시퀀스들의 디코딩과 독립적이다. 코딩된 비디오 시퀀스는 인코딩된 비디오 데이터를 저장하는 저장 디바이스에 대한 하드웨어/소프트웨어 링크일 수 있는 채널(501)로부터 수신될 수 있다. 수신기(531)는 인코딩된 비디오 데이터를 다른 데이터, 예를 들어, 코딩된 오디오 데이터 및/또는 보조 데이터 스트림들과 함께 수신할 수 있고, 이들은 그들 각각의 사용 엔티티들(묘사되지 않음)에 포워딩될 수 있다. 수신기(531)는 코딩된 비디오 시퀀스를 다른 데이터로부터 분리할 수 있다. 네트워크 지터를 방지하기 위해, 수신기(531)와 엔트로피 디코더/파서(520)(이하 "파서(520)") 사이에 버퍼 메모리(515)가 결합될 수 있다. 특정 응용들에서, 버퍼 메모리(515)는 비디오 디코더(510)의 일부이다. 다른 응용들에서, 그것은 비디오 디코더(510) 외부에 있을 수 있다(묘사되지 않음). 또 다른 응용들에서, 예를 들어 네트워크 지터를 방지하기 위해, 비디오 디코더(510) 외부에 버퍼 메모리(묘사되지 않음)가 있을 수 있고, 그에 부가하여, 예를 들어 재생 타이밍을 핸들링하기 위해, 비디오 디코더(510) 내부에 다른 버퍼 메모리(515)가 있을 수 있다. 수신기(531)가 충분한 대역폭 및 제어가능성의 저장/포워드 디바이스로부터, 또는 동시동기식 네트워크로부터 데이터를 수신하고 있을 때, 버퍼 메모리(515)는 필요하지 않을 수 있거나, 작을 수 있다. 인터넷과 같은 최선 노력 패킷 네트워크들 상에서의 사용을 위해, 버퍼 메모리(515)는 요구될 수 있고, 비교적 클 수 있고, 유리하게는 적응적 크기일 수 있고, 비디오 디코더(510) 외부의 운영 체제 또는 유사한 요소들(묘사되지 않음)에서 적어도 부분적으로 구현될 수 있다.

비디오 디코더(510)는 코딩된 비디오 시퀀스로부터 심볼들(521)을 재구성하기 위해 파서(520)를 포함할 수 있다. 그러한 심볼들의 카테고리들은 비디오 디코더(510)의 동작을 관리하기 위해 사용되는 정보, 및 잠재적으로, 도 5에 도시된 바와 같이, 전자 디바이스(530)의 일체 부분은 아니지만 전자 디바이스(530)에 결합될 수 있는 렌더링 디바이스(512)(예를 들어, 디스플레이 스크린)와 같은 렌더링 디바이스를 제어하기 위한 정보를 포함한다. 렌더링 디바이스(들)에 대한 제어 정보는 SEI(Supplemental Enhancement Information) 메시지들 또는 VUI(Video Usability Information) 파라미터 세트 프래그먼트들(묘사되지 않음)의 형태일 수 있다. 파서(520)는 수신되는 코딩된 비디오 시퀀스를 파싱/엔트로피 디코딩할 수 있다. 코딩된 비디오 시퀀스의 코딩은 비디오 코딩 기술 또는 표준에 따를 수 있고, 가변 길이 코딩, 허프만 코딩, 맥락 민감성을 갖거나 갖지 않는 산술 코딩 등을 포함하는 다양한 원리들을 따를 수 있다. 파서(520)는 코딩된 비디오 시퀀스로부터, 그룹에 대응하는 적어도 하나의 파라미터에 기초하여, 비디오 디코더 내의 픽셀들의 서브그룹들 중 적어도 하나에 대한 서브그룹 파라미터들의 세트를 추출할 수 있다. 서브그룹들은 픽처 그룹(GOP)들, 픽처들, 타일들, 슬라이스들, 매크로블록들, 코딩 유닛(CU)들, 블록들, 변환 유닛(TU)들, 예측 유닛(PU)들 등을 포함할 수 있다. 파서(520)는 또한 코딩된 비디오 시퀀스로부터 변환 계수들, 양자화기 파라미터 값들, 모션 벡터들 등과 같은 정보를 추출할 수 있다.

파서(520)는 버퍼 메모리(515)로부터 수신된 비디오 시퀀스에 대해 엔트로피 디코딩/파싱 동작을 수행하여, 심볼들(521)을 생성할 수 있다.

심볼들(521)의 재구성은 코딩된 비디오 픽처 또는 그의 부분들의 유형(예컨대: 인터 및 인트라 픽처, 인터 및 인트라 블록), 및 다른 인자들에 따라 다수의 상이한 유닛들을 수반할 수 있다. 어느 유닛들이 수반되는지, 그리고 어떻게 수반되는지는 파서(520)에 의해 코딩된 비디오 시퀀스로부터 파싱된 서브그룹 제어 정보에 의해 제어될 수 있다. 파서(520)와 아래의 다수의 유닛 사이의 그러한 서브그룹 제어 정보의 흐름은 명확성을 위해 도시되지 않는다.

이미 언급된 기능 블록들 이외에, 비디오 디코더(510)는 아래에 설명되는 바와 같이 개념적으로 다수의 기능 유닛으로 세분될 수 있다. 상업적 제약들 하에서 동작하는 실제 구현에서, 이러한 유닛들 중 다수는 서로 밀접하게 상호작용하며, 적어도 부분적으로는 서로 통합될 수 있다. 그러나, 개시된 주제를 설명하기 위해, 아래의 기능 유닛들로의 개념적 세분이 적절하다.

제1 유닛은 스케일러/역변환 유닛(551)이다. 스케일러/역변환 유닛(551)은 파서(520)로부터의 심볼(들)(521)로서, 어느 변환을 사용할지, 블록 크기, 양자화 인자, 양자화 스케일링 행렬들 등을 포함하여, 제어 정보뿐만 아니라 양자화된 변환 계수를 수신한다. 스케일러/역변환 유닛(551)은 집계기(555)에 입력될 수 있는 샘플 값들을 포함하는 블록들을 출력할 수 있다.

일부 경우들에서, 스케일러/역변환 유닛(551)의 출력 샘플들은 인트라 코딩된 블록에 관련될 수 있다. 인트라 코딩된 블록은 이전에 재구성된 픽처들로부터의 예측 정보를 사용하는 것이 아니라, 현재 픽처의 이전에 재구성된 부분들로부터의 예측 정보를 사용할 수 있는 블록이다. 이러한 예측 정보는 인트라 픽처 예측 유닛(552)에 의해 제공될 수 있다. 일부 경우들에서, 인트라 픽처 예측 유닛(552)은 현재 픽처 버퍼(558)로부터 인출된 주위의 이미 재구성된 정보를 사용하여, 재구성 중인 블록의 동일한 크기 및 형상의 블록을 생성한다. 현재 픽처 버퍼(558)는 예를 들어, 부분적으로 재구성된 현재 픽처 및/또는 완전히 재구성된 현재 픽처를 버퍼링한다. 집계기(555)는, 일부 경우들에서, 샘플별로, 인트라 예측 유닛(552)이 생성한 예측 정보를 스케일러/역변환 유닛(551)에 의해 제공된 출력 샘플 정보에 추가한다.

다른 경우들에서, 스케일러/역변환 유닛(551)의 출력 샘플들은 인터 코딩되고 잠재적으로 모션 보상된 블록에 관련될 수 있다. 이러한 경우에, 모션 보상 예측 유닛(553)은 기준 픽처 메모리(557)에 액세스하여 예측에 사용되는 샘플들을 인출할 수 있다. 블록에 관련된 심볼들(521)에 따라 인출된 샘플들을 모션 보상한 후에, 이들 샘플은 집계기(555)에 의해 스케일러/역변환 유닛(551)의 출력(이 경우 잔차 샘플들 또는 잔차 신호라고 함)에 추가되어 출력 샘플 정보를 생성할 수 있다. 모션 보상 예측 유닛(553)이 예측 샘플들을 인출하는 기준 픽처 메모리(557) 내의 어드레스들은 예를 들어 X, Y 및 기준 픽처 성분들을 가질 수 있는 심볼들(521)의 형태로 모션 보상 예측 유닛(553)에 이용가능한 모션 벡터들에 의해 제어될 수 있다. 모션 보상은 또한 서브샘플 정확 모션 벡터들이 사용 중일 때 기준 픽처 메모리(557)로부터 인출된 샘플 값들의 보간, 모션 벡터 예측 메커니즘들 등을 포함할 수 있다.

집계기(555)의 출력 샘플들은 루프 필터 유닛(556) 내의 다양한 루프 필터링 기술들을 거칠 수 있다. 비디오 압축 기술들은 코딩된 비디오 시퀀스(코딩된 비디오 비트스트림이라고도 지칭됨)에 포함된 파라미터들에 의해 제어되고 파서(520)로부터의 심볼들(521)로서 루프 필터 유닛(556)에 이용가능하게 되는 인-루프 필터 기술들을 포함할 수 있다. 비디오 압축은 또한 코딩된 픽처 또는 코딩된 비디오 시퀀스의 (디코딩 순서에서) 이전 부분들의 디코딩 동안 획득된 메타-정보에 응답할 뿐만 아니라, 이전에 재구성되고 루프-필터링된 샘플 값들에 응답할 수 있다.

루프 필터 유닛(556)의 출력은 렌더링 디바이스(512)로 출력될 뿐만 아니라 미래의 인터-픽처 예측에서 사용하기 위해 기준 픽처 메모리(557)에 저장될 수도 있는 샘플 스트림일 수 있다.

특정한 코딩된 픽처들은, 완전히 재구성되면, 미래의 예측을 위한 기준 픽처들로서 사용될 수 있다. 예를 들어, 현재 픽처에 대응하는 코딩된 픽처가 완전히 재구성되고, 코딩된 픽처가 (예를 들어, 파서(520)에 의해) 기준 픽처로서 식별되면, 현재 픽처 버퍼(558)는 기준 픽처 메모리(557)의 일부가 될 수 있고, 다음의 코딩된 픽처의 재구성을 개시하기 전에 새로운 현재 픽처 버퍼가 재할당될 수 있다.

비디오 디코더(510)는 미리 결정된 비디오 압축 기술 또는 표준, 예컨대 ITU-T Rec. H.265에 따라 디코딩 동작들을 수행할 수 있다. 코딩된 비디오 시퀀스가 비디오 압축 기술 또는 표준의 신택스, 및 비디오 압축 기술 또는 표준에 문서화된 프로파일들 모두를 고수한다는 점에서, 코딩된 비디오 시퀀스는 사용 중인 비디오 압축 기술 또는 표준에 의해 지정된 신택스를 따를 수 있다. 구체적으로, 프로파일은 비디오 압축 기술 또는 표준에서 이용가능한 모든 툴들로부터 그 프로파일 하에서 사용하기 위해 이용가능한 유일한 툴들로서 특정 툴들을 선택할 수 있다. 또한, 준수할 필요가 있는 것은 코딩된 비디오 시퀀스의 복잡도가 비디오 압축 기술 또는 표준의 레벨에 의해 정의된 경계들 내에 있는 것일 수 있다. 일부 경우들에서, 레벨들은 최대 픽처 크기, 최대 프레임 레이트, 최대 재구성 샘플 레이트(예를 들어, 초당 메가샘플 단위로 측정됨), 최대 기준 픽처 크기 등을 제한한다. 레벨들에 의해 설정된 제한들은, 일부 경우들에서, HRD(Hypothetical Reference Decoder) 사양들 및 코딩된 비디오 시퀀스에서 시그널링된 HRD 버퍼 관리를 위한 메타데이터를 통해 추가로 제한될 수 있다.

일 실시예에서, 수신기(531)는 인코딩된 비디오와 함께 추가적인(중복) 데이터를 수신할 수 있다. 추가적인 데이터는 코딩된 비디오 시퀀스(들)의 일부로서 포함될 수 있다. 추가적인 데이터는 데이터를 적절히 디코딩하고/하거나 원래의 비디오 데이터를 더 정확하게 재구성하기 위해 비디오 디코더(510)에 의해 사용될 수 있다. 추가적인 데이터는, 예를 들어, 시간, 공간, 또는 신호 잡음비(SNR) 향상 계층들, 중복 슬라이스들, 중복 픽처들, 순방향 에러 정정 코드들 등의 형태일 수 있다.

도 6은 비디오 인코더(603)의 예시적인 블록도를 도시한다. 비디오 인코더(603)는 전자 디바이스(620)에 포함된다. 전자 디바이스(620)는 송신기(640)(예를 들어, 송신 회로)를 포함한다. 비디오 인코더(603)는 도 4의 예에서의 비디오 인코더(403) 대신에 사용될 수 있다.

비디오 인코더(603)는 비디오 인코더(603)에 의해 코딩될 비디오 이미지(들)를 캡처할 수 있는 비디오 소스(601)(도 6의 예에서는 전자 디바이스(620)의 일부가 아님)로부터 비디오 샘플들을 수신할 수 있다. 다른 예에서, 비디오 소스(601)는 전자 디바이스(620)의 일부이다.

비디오 소스(601)는, 임의의 적합한 비트 깊이(예를 들어: 8 비트, 10 비트, 12 비트, ...), 임의의 색 공간(예를 들어, BT.601 Y CrCB, RGB, ...), 및 임의의 적합한 샘플링 구조(예를 들어, Y CrCb 4:2:0, Y CrCb 4:4:4)일 수 있는 디지털 비디오 샘플 스트림의 형태로 비디오 인코더(603)에 의해 코딩될 소스 비디오 시퀀스를 제공할 수 있다. 미디어 서빙 시스템에서, 비디오 소스(601)는 이전에 준비된 비디오를 저장하는 저장 디바이스일 수 있다. 비디오 회의 시스템에서, 비디오 소스(601)는 비디오 시퀀스로서 로컬 이미지 정보를 캡처하는 카메라일 수 있다. 비디오 데이터는 순차적으로 보여질 때 모션을 제공하는 복수의 개별 픽처들로서 제공될 수 있다. 픽처들 자체는 픽셀들의 공간 어레이로서 조직화될 수 있으며, 각각의 픽셀은 사용중인 샘플링 구조, 색 공간 등에 따라 하나 이상의 샘플을 포함할 수 있다. 이 분야의 통상의 기술자는 픽셀들과 샘플들 사이의 관계를 용이하게 이해할 수 있다. 아래의 설명은 샘플들에 초점을 맞춘다.

일 실시예에 따르면, 비디오 인코더(603)는 소스 비디오 시퀀스의 픽처들을 실시간으로 또는 필요에 따라 임의의 다른 시간 제약들 하에서 코딩된 비디오 시퀀스(643)로 코딩 및 압축할 수 있다. 적절한 코딩 속도를 시행하는 것은 컨트롤러(650)의 하나의 기능이다. 일부 실시예들에서, 컨트롤러(650)는 아래에 설명되는 바와 같이 다른 기능 유닛들을 제어하고, 다른 기능 유닛들에 기능적으로 결합된다. 결합은 명료성을 위해 도시되지 않는다. 컨트롤러(650)에 의해 설정된 파라미터들은 레이트 제어 관련 파라미터들(픽처 스킵, 양자화기, 레이트 왜곡 최적화 기술들의 람다 값들, ...), 픽처 크기, 픽처 그룹(GOP) 레이아웃, 최대 모션 벡터 검색 범위 등을 포함할 수 있다. 컨트롤러(650)는 특정 시스템 설계에 대해 최적화된 비디오 인코더(603)에 관련된 다른 적합한 기능들을 갖도록 구성될 수 있다.

일부 실시예들에서, 비디오 인코더(603)는 코딩 루프에서 동작하도록 구성된다. 과도하게 단순화된 설명으로서, 일례에서, 코딩 루프는 소스 코더(630)(예를 들어, 코딩될 입력 픽처, 및 기준 픽처(들)에 기초하여 심볼 스트림과 같은 심볼들을 생성하는 것을 담당함), 및 비디오 인코더(603)에 내장된 (로컬) 디코더(633)를 포함할 수 있다. 디코더(633)는 (원격) 디코더가 또한 생성하는 것과 유사한 방식으로 샘플 데이터를 생성하기 위해 심볼들을 재구성한다. 재구성된 샘플 스트림(샘플 데이터)은 기준 픽처 메모리(634)에 입력된다. 심볼 스트림의 디코딩이 디코더 위치(로컬 또는 원격)와 무관한 비트-정확한 결과들을 야기하기 때문에, 기준 픽처 메모리(634) 내의 콘텐츠도 로컬 인코더와 원격 인코더 사이에서 비트 정확하다. 다시 말해서, 인코더의 예측 부분은 디코딩 동안 예측을 사용할 때 디코더가 "보는" 것과 정확히 동일한 샘플 값들을 기준 픽처 샘플들로서 "본다". 기준 픽처 동기성의 이러한 기본 원리(그리고, 예를 들어, 채널 에러들로 인해 동기성이 유지될 수 없는 경우 결과적인 드리프트)는 일부 관련 기술들에서도 사용된다.

"로컬" 디코더(633)의 동작은 도 5와 관련하여 위에서 이미 상세히 설명된 비디오 디코더(510)와 같은 "원격" 디코더와 동일할 수 있다. 그러나, 또한 도 5를 잠시 참조하면, 심볼들이 이용가능하고, 엔트로피 코더(645) 및 파서(520)에 의한 코딩된 비디오 시퀀스로의 심볼들의 인코딩/디코딩이 무손실일 수 있기 때문에, 버퍼 메모리(515), 및 파서(520)를 포함하는 비디오 디코더(510)의 엔트로피 디코딩 부분들은 로컬 디코더(633)에서 완전히 구현되지 않을 수 있다.

일 실시예에서, 디코더에 존재하는 파싱/엔트로피 디코딩을 제외한 디코더 기술이 대응하는 인코더에 동일하거나 실질적으로 동일한 기능 형태로 존재한다. 따라서, 개시된 주제는 디코더 동작에 초점을 맞춘다. 인코더 기술들의 설명은 그들이 포괄적으로 설명된 디코더 기술들의 역이기 때문에 축약될 수 있다. 특정 영역들에서, 더 상세한 설명이 아래에 제공된다.

동작 동안, 일부 예들에서, 소스 코더(630)는 "기준 픽처들"로서 지정된 비디오 시퀀스로부터의 하나 이상의 이전에 코딩된 픽처를 참조하여 입력 픽처를 예측 코딩하는 모션 보상된 예측 코딩을 수행할 수 있다. 이러한 방식으로, 코딩 엔진(632)은 입력 픽처의 픽셀 블록들과 입력 픽처에 대한 예측 기준(들)으로서 선택될 수 있는 기준 픽처(들)의 픽셀 블록들 사이의 차이들을 코딩한다.

로컬 비디오 디코더(633)는 소스 코더(630)에 의해 생성된 심볼들에 기초하여, 기준 픽처들로서 지정될 수 있는 픽처들의 코딩된 비디오 데이터를 디코딩할 수 있다. 코딩 엔진(632)의 동작들은 유리하게는 유손실 프로세스들일 수 있다. 코딩된 비디오 데이터가 비디오 디코더(도 6에 도시되지 않음)에서 디코딩될 수 있을 때, 재구성된 비디오 시퀀스는 전형적으로 일부 에러들을 갖는 소스 비디오 시퀀스의 복제본일 수 있다. 로컬 비디오 디코더(633)는 기준 픽처들에 대해 비디오 디코더에 의해 수행될 수 있는 디코딩 프로세스들을 복제하고, 재구성된 기준 픽처들이 기준 픽처 메모리(634)에 저장되게 할 수 있다. 이러한 방식으로, 비디오 인코더(603)는 (송신 에러들 없이) 원단 비디오 디코더(far-end video decoder)에 의해 획득될 재구성된 기준 픽처들로서 공통 콘텐츠를 갖는 재구성된 기준 픽처들의 사본들을 국지적으로 저장할 수 있다.

예측기(635)는 코딩 엔진(632)에 대한 예측 검색들을 수행할 수 있다. 즉, 코딩될 새로운 픽처에 대해, 예측기(635)는 새로운 픽처들에 대한 적절한 예측 기준의 역할을 할 수 있는 기준 픽처 모션 벡터들, 블록 형상들 등과 같은 특정 메타데이터 또는 (후보 기준 픽셀 블록들로서의) 샘플 데이터에 대해 기준 픽처 메모리(634)를 검색할 수 있다. 예측기(635)는 적절한 예측 기준들을 찾기 위해 샘플 블록 x 픽셀 블록(sample block-by-pixel block) 기반으로 동작할 수 있다. 일부 경우들에서, 예측기(635)에 의해 획득된 검색 결과들에 의해 결정되는 바와 같이, 입력 픽처는 기준 픽처 메모리(634)에 저장된 다수의 기준 픽처로부터 인출된 예측 기준들을 가질 수 있다.

컨트롤러(650)는 예를 들어, 비디오 데이터를 인코딩하기 위해 사용되는 파라미터들 및 서브그룹 파라미터들의 설정을 포함하여, 소스 코더(630)의 코딩 동작들을 관리할 수 있다.

전술한 모든 기능 유닛들의 출력은 엔트로피 코더(645)에서 엔트로피 코딩될 수 있다. 엔트로피 코더(645)는 허프만 코딩, 가변 길이 코딩, 산술 코딩 등과 같은 기술들에 따라 심볼들에 무손실 압축을 적용함으로써, 다양한 기능 유닛들에 의해 생성된 심볼들을 코딩된 비디오 시퀀스로 변환한다.

송신기(640)는 인코딩된 비디오 데이터를 저장할 저장 디바이스에 대한 하드웨어/소프트웨어 링크일 수 있는 통신 채널(660)을 통한 송신을 준비하기 위해 엔트로피 코더(645)에 의해 생성된 코딩된 비디오 시퀀스(들)를 버퍼링할 수 있다. 송신기(640)는 비디오 인코더(603)로부터의 코딩된 비디오 데이터를 송신될 다른 데이터, 예를 들어, 코딩된 오디오 데이터 및/또는 보조 데이터 스트림들(소스들이 도시되지 않음)과 병합할 수 있다.

컨트롤러(650)는 비디오 인코더(603)의 동작을 관리할 수 있다. 코딩 동안, 컨트롤러(650)는 각각의 픽처에 적용될 수 있는 코딩 기술들에 영향을 미칠 수 있는, 특정 코딩된 픽처 유형을 각각의 코딩된 픽처에 할당할 수 있다. 예를 들어, 픽처들은 종종 이하의 픽처 유형들 중 하나로서 할당될 수 있다:

인트라 픽처(I 픽처)는 예측의 소스로서 시퀀스 내의 임의의 다른 픽처를 사용하지 않고 코딩되고 디코딩될 수 있는 것일 수 있다. 일부 비디오 코덱들은, 예를 들어, 독립적인 디코더 리프레시("IDR") 픽처들을 포함하는 상이한 유형들의 인트라 픽처들을 허용한다. 이 분야의 통상의 기술자는 I 픽처들의 그러한 변형들 및 그들 각각의 응용들 및 특징들을 인식한다.

예측 픽처(P 픽처)는 각각의 블록의 샘플 값들을 예측하기 위해 많아야 하나의 모션 벡터 및 기준 인덱스를 사용하여 인트라 예측 또는 인터 예측을 사용하여 코딩되고 디코딩될 수 있는 것일 수 있다.

양방향 예측 픽처(B 픽처)는 각각의 블록의 샘플 값들을 예측하기 위해 많아야 2개의 모션 벡터 및 기준 인덱스를 사용하여 인트라 예측 또는 인터 예측을 사용하여 코딩되고 디코딩될 수 있는 것일 수 있다. 유사하게, 다중 예측 픽처들은 단일 블록의 재구성을 위해 2개보다 많은 기준 픽처 및 연관된 메타데이터를 사용할 수 있다.

소스 픽처들은 일반적으로 복수의 샘플 블록(예를 들어, 각각 4x4, 8x8, 4x8, 또는 16x16 샘플들의 블록들)으로 공간적으로 세분되고, 블록별로 코딩될 수 있다. 블록들은 블록들의 각각의 픽처들에 적용되는 코딩 할당에 의해 결정된 다른(이미 코딩된) 블록들을 참조하여 예측 코딩될 수 있다. 예를 들어, I 픽처들의 블록들은 비예측 코딩될 수 있거나, 이들은 동일한 픽처의 이미 코딩된 블록들을 참조하여 예측 코딩될 수 있다(공간 예측 또는 인트라 예측). P 픽처들의 픽셀 블록들은 하나의 이전에 코딩된 기준 픽처를 참조하여 공간 예측을 통해 또는 시간 예측을 통해 예측 코딩될 수 있다. B 픽처들의 블록들은 하나 또는 2개의 이전에 코딩된 기준 픽처를 참조하여 공간 예측을 통해 또는 시간 예측을 통해 예측 코딩될 수 있다.

비디오 인코더(603)는 미리 결정된 비디오 코딩 기술 또는 표준, 예컨대 ITU-T Rec. H.265에 따라 코딩 동작들을 수행할 수 있다. 그 동작에서, 비디오 인코더(603)는 입력 비디오 시퀀스에서 시간적 및 공간적 중복성들을 이용하는 예측 코딩 동작들을 포함하는 다양한 압축 동작들을 수행할 수 있다. 따라서, 코딩된 비디오 데이터는 사용 중인 비디오 코딩 기술 또는 표준에 의해 지정된 신택스를 따를 수 있다.

일 실시예에서, 송신기(640)는 인코딩된 비디오와 함께 추가 데이터를 송신할 수 있다. 소스 코더(630)는 코딩된 비디오 시퀀스의 일부로서 그러한 데이터를 포함할 수 있다. 추가적인 데이터는 시간/공간/SNR 향상 계층들, 중복 픽처들 및 슬라이스들과 같은 다른 형태들의 중복 데이터, SEI 메시지들, VUI 파라미터 세트 프래그먼트들 등을 포함할 수 있다.

비디오는 시간 시퀀스에서 복수의 소스 픽처(비디오 픽처)로서 캡처될 수 있다. 인트라-픽처 예측(종종 인트라 예측으로 약칭됨)은 주어진 픽처에서 공간 상관을 사용하고, 인터-픽처 예측은 픽처들 사이의 (시간 또는 다른) 상관을 사용한다. 일례에서, 현재 픽처라고 지칭되는, 인코딩/디코딩 중인 특정 픽처는 블록들로 분할된다. 현재 픽처 내의 블록이 비디오 내의 이전에 코딩되고 여전히 버퍼링된 기준 픽처 내의 기준 블록과 유사할 때, 현재 픽처 내의 블록은 모션 벡터라고 하는 벡터에 의해 코딩될 수 있다. 모션 벡터는 기준 픽처 내의 기준 블록을 가리키고, 다수의 기준 픽처들이 사용 중인 경우에, 기준 픽처를 식별하는 제3 차원을 가질 수 있다.

일부 실시예들에서, 인터-픽처 예측에서 양방향 예측 기술이 사용될 수 있다. 양방향 예측 기술에 따르면, 둘 모두가 디코딩 순서에서 비디오 내의 현재 픽처에 앞서는(그러나, 디스플레이 순서에서 각각 과거 및 미래에 있을 수 있는) 제1 기준 픽처 및 제2 기준 픽처와 같은 2개의 기준 픽처가 사용된다. 현재 픽처 내의 블록은 제1 기준 픽처 내의 제1 기준 블록을 가리키는 제1 모션 벡터, 및 제2 기준 픽처 내의 제2 기준 블록을 가리키는 제2 모션 벡터에 의해 코딩될 수 있다. 블록은 제1 기준 블록과 제2 기준 블록의 조합에 의해 예측될 수 있다.

또한, 코딩 효율을 개선하기 위해 인터-픽처 예측에서 병합 모드 기술이 사용될 수 있다.

본 개시의 일부 실시예들에 따르면, 인터-픽처 예측들 및 인트라-픽처 예측들과 같은 예측들이 블록 단위로 수행된다. 예를 들어, HEVC 표준에 따르면, 비디오 픽처들의 시퀀스 내의 픽처는 압축을 위해 코딩 트리 유닛(CTU)들로 분할되고, 픽처 내의 CTU들은 64x64 픽셀들, 32x32 픽셀들, 또는 16x16 픽셀들과 같은 동일한 크기를 갖는다. 일반적으로, CTU는 하나의 루마 CTB 및 2개의 크로마 CTB인 3개의 코딩 트리 블록(CTB)을 포함한다. 각각의 CTU는 하나 또는 다수의 코딩 유닛(CU)으로 재귀적으로 쿼드트리 분할될 수 있다. 예를 들어, 64x64 픽셀들의 CTU는 64x64 픽셀들의 하나의 CU, 또는 32x32 픽셀들의 4개의 CU, 또는 16x16 픽셀들의 16개의 CU로 분할될 수 있다. 일례에서, 각각의 CU는 인터 예측 유형 또는 인트라 예측 유형과 같은 CU에 대한 예측 유형을 결정하기 위해 분석된다. CU는 시간 및/또는 공간 예측 가능성에 따라 하나 이상의 예측 유닛(PU)으로 분할된다. 일반적으로, 각각의 PU는 루마 예측 블록(PB) 및 2개의 크로마 PB를 포함한다. 일 실시예에서, 코딩(인코딩/디코딩)에서의 예측 동작은 예측 블록 단위로 수행된다. 예측 블록의 예로서 루마 예측 블록을 사용하면, 예측 블록은 8x8 픽셀들, 16x16 픽셀들, 8x16 픽셀들, 16x8 픽셀들 등과 같은 픽셀들에 대한 값들(예를 들어, 루마 값들)의 행렬을 포함한다.

도 7은 비디오 인코더(703)의 예시적인 도면을 도시한다. 비디오 인코더(703)는 비디오 픽처들의 시퀀스에서 현재 비디오 픽처 내의 샘플 값들의 처리 블록(예를 들어, 예측 블록)을 수신하고, 처리 블록을 코딩된 비디오 시퀀스의 일부인 코딩된 픽처 내에 인코딩하도록 구성된다. 일례에서, 비디오 인코더(703)는 도 4의 예에서의 비디오 인코더(403) 대신에 사용된다.

HEVC 예에서, 비디오 인코더(703)는 8x8 샘플들의 예측 블록 등과 같은 처리 블록에 대한 샘플 값들의 행렬을 수신한다. 비디오 인코더(703)는 처리 블록이 예를 들어 레이트 왜곡 최적화를 사용하여 인트라 모드, 인터 모드, 또는 양방향 예측 모드를 사용하여 최상으로 코딩되는지를 결정한다. 처리 블록이 인트라 모드로 코딩되어야 할 때, 비디오 인코더(703)는 인트라 예측 기술을 사용하여 처리 블록을 코딩된 픽처 내에 인코딩할 수 있고; 처리 블록이 인터 모드 또는 양방향 예측 모드로 코딩되어야 할 때, 비디오 인코더(703)는 인터 예측 또는 양방향 예측 기술을 각각 사용하여 처리 블록을 코딩된 픽처 내에 인코딩할 수 있다. 특정 비디오 코딩 기술들에서, 병합 모드는 예측기들 외부의 코딩된 모션 벡터 성분의 이익 없이 하나 이상의 모션 벡터 예측기로부터 모션 벡터가 도출되는 인터 픽처 예측 서브모드일 수 있다. 특정한 다른 비디오 코딩 기술들에서, 대상 블록에 적용가능한 모션 벡터 성분이 존재할 수 있다. 일례에서, 비디오 인코더(703)는 처리 블록들의 모드를 결정하기 위한 모드 결정 모듈(도시되지 않음)과 같은 다른 컴포넌트들을 포함한다.

도 7의 예에서, 비디오 인코더(703)는 도 7에 도시된 바와 같이 함께 결합된 인터 인코더(730), 인트라 인코더(722), 잔차 계산기(723), 스위치(726), 잔차 인코더(724), 일반 컨트롤러(721), 및 엔트로피 인코더(725)를 포함한다.

인터 인코더(730)는 현재 블록(예를 들어, 처리 블록)의 샘플들을 수신하고, 블록을 기준 픽처들 내의 하나 이상의 기준 블록(예를 들어, 이전 픽처들 및 나중 픽처들 내의 블록들)과 비교하고, 인터 예측 정보(예를 들어, 인터 인코딩 기술에 따른 중복 정보, 모션 벡터들, 병합 모드 정보의 설명)를 생성하고, 임의의 적합한 기술을 사용하여 인터 예측 정보에 기초하여 인터 예측 결과들(예를 들어, 예측된 블록)을 계산하도록 구성된다. 일부 예들에서, 기준 픽처들은 인코딩된 비디오 정보에 기초하여 디코딩되는 디코딩된 기준 픽처들이다.

인트라 인코더(722)는 현재 블록(예를 들어, 처리 블록)의 샘플들을 수신하고, 일부 경우들에서 블록을 동일한 픽처 내의 이미 코딩된 블록들과 비교하고, 변환 후에 양자화된 계수들을 생성하고, 일부 경우들에서 또한 인트라 예측 정보(예를 들어, 하나 이상의 인트라 인코딩 기술에 따른 인트라 예측 방향 정보)를 생성하도록 구성된다. 일례에서, 인트라 인코더(722)는 또한 인트라 예측 정보 및 동일한 픽처 내의 기준 블록들에 기초하여 인트라 예측 결과들(예를 들어, 예측된 블록)을 계산한다.

일반 컨트롤러(721)는 일반 제어 데이터를 결정하고 일반 제어 데이터에 기초하여 비디오 인코더(703)의 다른 컴포넌트들을 제어하도록 구성된다. 일례에서, 일반 컨트롤러(721)는 블록의 모드를 결정하고, 모드에 기초하여 스위치(726)에 제어 신호를 제공한다. 예를 들어, 모드가 인트라 모드일 때, 일반 컨트롤러(721)는 잔차 계산기(723)에 의한 사용을 위해 인트라 모드 결과를 선택하도록 스위치(726)를 제어하고, 인트라 예측 정보를 선택하고 인트라 예측 정보를 비트스트림에 포함시키도록 엔트로피 인코더(725)를 제어하며; 모드가 인터 모드일 때, 일반 컨트롤러(721)는 잔차 계산기(723)에 의한 사용을 위해 인터 예측 결과를 선택하도록 스위치(726)를 제어하고, 인터 예측 정보를 선택하고 인터 예측 정보를 비트스트림에 포함시키도록 엔트로피 인코더(725)를 제어한다.

잔차 계산기(723)는 수신된 블록과 인트라 인코더(722) 또는 인터 인코더(730)로부터 선택된 예측 결과들 사이의 차이(잔차 데이터)를 계산하도록 구성된다. 잔차 인코더(724)는 잔차 데이터에 기초하여 동작하여 잔차 데이터를 인코딩하여 변환 계수들을 생성하도록 구성된다. 일례에서, 잔차 인코더(724)는 잔차 데이터를 공간 도메인으로부터 주파수 도메인으로 변환하고, 변환 계수들을 생성하도록 구성된다. 그 다음, 변환 계수들은 양자화된 변환 계수들을 획득하기 위해 양자화 처리를 거친다. 다양한 실시예들에서, 비디오 인코더(703)는 또한 잔차 디코더(728)를 포함한다. 잔차 디코더(728)는 역변환을 수행하고, 디코딩된 잔차 데이터를 생성하도록 구성된다. 디코딩된 잔차 데이터는 인트라 인코더(722) 및 인터 인코더(730)에 의해 적절히 사용될 수 있다. 예를 들어, 인터 인코더(730)는 디코딩된 잔차 데이터 및 인터 예측 정보에 기초하여 디코딩된 블록들을 생성할 수 있고, 인트라 인코더(722)는 디코딩된 잔차 데이터 및 인트라 예측 정보에 기초하여 디코딩된 블록들을 생성할 수 있다. 디코딩된 블록들은 디코딩된 픽처들을 생성하기 위해 적절히 처리되고, 디코딩된 픽처들은 메모리 회로(도시되지 않음)에 버퍼링되고, 일부 예들에서 기준 픽처들로서 사용될 수 있다.

엔트로피 인코더(725)는 인코딩된 블록을 포함하도록 비트스트림을 포맷하도록 구성된다. 엔트로피 인코더(725)는 HEVC 표준과 같은 적합한 표준에 따라 비트스트림에 다양한 정보를 포함시키도록 구성된다. 일례에서, 엔트로피 인코더(725)는 일반 제어 데이터, 선택된 예측 정보(예를 들어, 인트라 예측 정보 또는 인터 예측 정보), 잔차 정보, 및 다른 적합한 정보를 비트스트림에 포함시키도록 구성된다. 개시된 주제에 따르면, 인터 모드 또는 양방향 예측 모드의 병합 서브모드에서 블록을 코딩할 때, 잔차 정보가 없다는 점에 유의한다.

도 8은 비디오 디코더(810)의 예시적인 도면을 도시한다. 비디오 디코더(810)는 코딩된 비디오 시퀀스의 일부인 코딩된 픽처들을 수신하고, 코딩된 픽처들을 디코딩하여 재구성된 픽처들을 생성하도록 구성된다. 일례에서, 비디오 디코더(810)는 도 4의 예에서의 비디오 디코더(410) 대신에 사용된다.

도 8의 예에서, 비디오 디코더(810)는 도 8에 도시된 바와 같이 함께 결합된 엔트로피 디코더(871), 인터 디코더(880), 잔차 디코더(873), 재구성 모듈(874), 및 인트라 디코더(872)를 포함한다.

엔트로피 디코더(871)는 코딩된 픽처로부터, 코딩된 픽처가 구성되는 신택스 요소들을 나타내는 특정 심볼들을 재구성하도록 구성될 수 있다. 이러한 심볼들은, 예를 들어, 블록이 코딩되는 모드(예를 들어, 인트라 모드, 인터 모드, 양방향 예측 모드, 후자의 둘은 병합 서브모드 또는 다른 서브모드에 있음) 및 인트라 디코더(872) 또는 인터 디코더(880) 각각에 의한 예측을 위해 사용되는 특정 샘플 또는 메타데이터를 식별할 수 있는 예측 정보(예를 들어, 인트라 예측 정보 또는 인터 예측 정보)를 포함할 수 있다. 심볼들은 또한, 예를 들어, 양자화된 변환 계수들 등의 형태로 잔차 정보를 포함할 수 있다. 일례에서, 예측 모드가 인터 또는 양방향 예측 모드일 때, 인터 예측 정보가 인터 디코더(880)에 제공되고; 예측 유형이 인트라 예측 유형일 때, 인트라 예측 정보가 인트라 디코더(872)에 제공된다. 잔차 정보는 역양자화를 거칠 수 있고 잔차 디코더(873)에 제공된다.

인터 디코더(880)는 인터 예측 정보를 수신하고, 인터 예측 정보에 기초하여 인터 예측 결과들을 생성하도록 구성된다.

인트라 디코더(872)는 인트라 예측 정보를 수신하고, 인트라 예측 정보에 기초하여 예측 결과들을 생성하도록 구성된다.

잔차 디코더(873)는 역양자화를 수행하여 역양자화된 변환 계수들을 추출하고, 역양자화된 변환 계수들을 처리하여 잔차 정보를 주파수 도메인으로부터 공간 도메인으로 변환하도록 구성된다. 잔차 디코더(873)는 또한 (양자화기 파라미터(QP)를 포함하도록) 특정 제어 정보를 요구할 수 있고, 그 정보는 엔트로피 디코더(871)에 의해 제공될 수 있다(이는 단지 낮은 볼륨의 제어 정보일 수 있으므로 데이터 경로가 묘사되지 않음).

재구성 모듈(874)은 공간 도메인에서, 잔차 디코더(873)에 의해 출력된 잔차 정보와 예측 결과들(경우에 따라 인터 또는 인트라 예측 모듈들에 의해 출력됨)을 결합하여 재구성된 블록을 형성하도록 구성되고, 재구성된 블록은 재구성된 픽처의 일부일 수 있고, 재구성된 픽처는 결국 재구성된 비디오의 일부일 수 있다. 시각적 품질을 개선하기 위해 디블록킹 동작 등과 같은 다른 적절한 동작들이 수행될 수 있다는 점에 유의한다.

비디오 인코더들(403, 603, 및 703), 및 비디오 디코더들(410, 510, 및 810)은 임의의 적합한 기술을 사용하여 구현될 수 있다는 점에 유의한다. 일 실시예에서, 비디오 인코더들(403, 603, 및 703), 및 비디오 디코더들(410, 510, 및 810)은 하나 이상의 집적 회로를 사용하여 구현될 수 있다. 다른 실시예에서, 비디오 인코더들(403, 603, 및 603), 및 비디오 디코더들(410, 510, 및 810)은 소프트웨어 명령어들을 실행하는 하나 이상의 프로세서를 사용하여 구현될 수 있다.

본 개시의 일부 양태들은 다양한 병합 후보 재정렬을 위한 기술들을 제공한다.

ITU-T VCEG(Q6/16) 및 ISO/IEC MPEG(JTC 1/SC 29/WG 11)은 2013년(버전 1), 2014년(버전 2), 2015년(버전 3), 및 2016년(버전 4)에 H.265/HEVC(High Efficiency Video Coding) 표준을 발표하였다. 2015년에, 2개의 표준 조직은 HEVC를 넘어서는 다음 비디오 코딩 표준을 개발할 가능성을 탐구하기 위해 JVET(Joint Video Exploration Team)를 공동으로 형성하였다. 2017년 10월에, 2개의 표준 조직은 HEVC를 넘어서는 능력을 갖는 비디오 압축에 대한 공동 CfP(Call for Proposals)를 발행했다. 2018년 2월 15일에, 표준 동적 범위(SDR)에 대한 22개의 CfP 응답, 높은 동적 범위(HDR)에 대한 12개의 CfP 응답, 및 360개의 비디오 카테고리에 대한 12개의 CfP 응답이 각각 제출되었다. 2018년 4월에, 모든 수신된 CfP 응답들은 122 MPEG/10th JVET 미팅에서 평가되었다. 미팅의 결과로서, JVET는 HEVC를 넘어서는 차세대 비디오 코딩의 표준화 프로세스를 공식적으로 착수하였다. 새로운 표준은 VVC(Versatile Video Coding)로 명명되었고, JVET는 Joint Video Experts Team으로 재명명되었다. 2020년에, ITU-T VCEG(Q6/16) 및 ISO/IEC MPEG(JTC 1/SC 29/WG 11)은 VVC 비디오 코딩 표준(버전 1)을 발표했다.

인터 예측에서, 각각의 인터 예측된 코딩 유닛(CU)에 대해, 모션 파라미터들은 예를 들어, 인터 예측된 샘플 생성을 위해 사용될 VVC의 코딩 특징들에 대해 요구된다. 모션 파라미터들은 모션 벡터들, 기준 픽처 인덱스들, 기준 픽처 리스트 사용 인덱스, 및/또는 추가 정보를 포함할 수 있다. 모션 파라미터들은 명시적 또는 암시적 방식으로 시그널링될 수 있다. CU가 스킵 모드로 코딩될 때, CU는 하나의 PU와 연관될 수 있고, 상당한 잔차 계수, 코딩된 모션 벡터 델타, 및/또는 기준 픽처 인덱스가 요구되지 않을 수 있다. CU가 병합 모드로 코딩될 때, CU에 대한 모션 파라미터들은 이웃 CU들로부터 획득될 수 있다. 이웃 CU들은 공간 및 시간 후보들, 및 VVC에서 도입된 것과 같은 추가 스케줄들(또는 추가 후보들)을 포함할 수 있다. 병합 모드는 스킵 모드뿐만 아니라 임의의 인터 예측된 CU에 적용될 수 있다. 병합 모드에 대한 대안은 모션 파라미터들의 명시적 송신이고, 여기서는 모션 벡터, 각각의 기준 픽처 리스트에 대한 대응하는 기준 픽처 인덱스, 기준 픽처 리스트 사용 플래그, 및/또는 다른 필요한 정보가 CU마다 명시적으로 시그널링될 수 있다.

VVC에서, VVC 테스트 모델(VTM) 기준 소프트웨어는 다음 중 하나 이상을 포함할 수 있는 다수의 새롭고 정제된 인터 예측 코딩 툴들을 포함할 수 있다:

(1) 확장된 병합 예측

(2) MMVD(merge motion vector difference)

(3) 대칭 MVD 시그널링을 갖는 AMVP(advanced motion vector prediction) 모드

(4) 아핀 모션 보상 예측

(5) SbTMVP(subblock-based temporal motion vector prediction)

(6) AMVR(adaptive motion vector resolution)

(7) 모션 필드 저장: 1/16 루마 샘플 MV 저장 및 8x8 모션 필드 압축

(8) BCW(bi-prediction with CU-level weights)

(9) BDOF(bi-directional optical flow)

(10) DMVR(decoder-side motion vector refinement)

(11) CIIP(combined inter and intra prediction)

(12) GPM(geometric partitioning mode)

HEVC에서, 병진 모션 모델은 모션 보상 예측(MCP)에 적용된다. 실제 세계에 있는 동안, 줌 인/아웃, 회전, 원근 모션들, 및 다른 불규칙한 모션들과 같은 많은 종류의 모션들이 존재할 수 있다. VTM에서와 같이, 블록-기반 아핀 변환 모션 보상 예측이 적용될 수 있다. 도 9a는 2개의 제어 포인트(4-파라미터)의 모션 정보에 의해 설명되는 블록(902)의 아핀 모션 필드를 도시한다. 도 9b는 3개의 제어 포인트 모션 벡터(6-파라미터)에 의해 설명되는 블록(904)의 아핀 모션 필드를 도시한다.

도 9a에 도시된 바와 같이, 4-파라미터 아핀 모션 모델에서, 블록(902)에서의 샘플 위치 (x, y)에서의 모션 벡터가 수학식 1에서 다음과 같이 도출될 수 있다:

여기서, 는 제1 방향(또는 X 방향)에서의 모션 벡터일 수 있고, 는 제2 방향(또는 Y 방향)에서의 모션 벡터일 수 있다. 모션 벡터는 또한 수학식 2에서 설명될 수 있다:

도 9b에 도시된 바와 같이, 6-파라미터 아핀 모션 모델에서, 블록(904)에서의 샘플 위치 (x, y)에서의 모션 벡터가 수학식 3에서 다음과 같이 도출될 수 있다:

6-파라미터 아핀 모션 모델은 또한 수학식 4에서 다음과 같이 설명될 수 있다:

수학식 1 및 수학식 3에 나타낸 바와 같이, 는 좌측 상단 코너 제어 포인트의 모션 벡터일 수 있다. 는 우측 상단 코너 제어 포인트의 모션 벡터일 수 있다. 는 좌측 하단 코너 제어 포인트의 모션 벡터일 수 있다.

도 10에 도시된 바와 같이, 모션 보상 예측을 단순화하기 위해, 블록 기반 아핀 변환 예측이 적용될 수 있다. 각각의 4x4 루마 서브블록의 모션 벡터를 도출하기 위해, 현재 블록(1000) 내의 각각의 서브블록(예를 들어, (1004))의 중심 샘플(예를 들어, (1002))의 모션 벡터가 수학식 1 내지 4에 따라 계산되고, 1/16 분수 정확도로 반올림될 수 있다. 이어서, 모션 보상 보간 필터들은 도출된 모션 벡터로 각각의 서브블록의 예측을 생성하기 위해 적용될 수 있다. 크로마 성분들의 서브블록 크기도 4x4로 설정될 수 있다. 4x4 크로마 서브블록의 MV는 4개의 대응하는 4x4 루마 서브블록의 MV들의 평균으로서 계산될 수 있다.

아핀 병합 예측에서, 아핀 병합(AF_MERGE) 모드가 8 이상의 폭 및 높이 둘 다를 갖는 CU들에 대해 적용될 수 있다. 현재 CU의 CPMV들은 공간 이웃 CU들의 모션 정보에 기초하여 생성될 수 있다. 아핀 병합 예측을 위해 최대 5개의 CPMVP 후보가 적용될 수 있고, 5개의 CPMVP 후보 중 어느 것이 현재 CU에 대해 사용될 수 있는지를 표시하기 위해 인덱스가 시그널링될 수 있다. 아핀 병합 예측에서, 아핀 병합 후보 리스트를 형성하기 위해 3가지 유형의 CPMV 후보: (1) 이웃 CU들의 CPMV들로부터 외삽되는 상속된 아핀 병합 후보들, (2) 이웃 CU들의 병진 MV들을 사용하여 도출되는 CPMVP들을 갖는 구성된 아핀 병합 후보들, 및 (3) 제로 MV들이 사용될 수 있다.

VTM3에서, 최대 2개의 상속된 아핀 후보가 적용될 수 있다. 2개의 상속된 아핀 후보는 이웃 블록들의 아핀 모션 모델로부터 도출될 수 있다. 예를 들어, 하나의 상속된 아핀 후보는 좌측 이웃 CU들로부터 도출될 수 있고, 다른 상속된 아핀 후보는 위의 이웃 CU들로부터 도출될 수 있다. 예시적인 후보 블록들이 도 11에 도시될 수 있다. 도 11에 도시된 바와 같이, 좌측 예측기(또는 좌측 상속된 아핀 후보)에 대해, 스캔 순서는 A0->A1일 수 있고, 위의 예측기(또는 위의 상속된 아핀 후보)에 대해, 스캔 순서는 B0->B1->B2일 수 있다. 따라서, 각각의 측으로부터의 제1 이용가능한 상속된 후보만이 선택될 수 있다. 2개의 상속된 후보 사이에서는 프루닝 체크가 수행되지 않을 수 있다. 이웃 아핀 CU가 식별될 때, 이웃 아핀 CU의 제어 포인트 모션 벡터들은 현재 CU의 아핀 병합 리스트에서 CPMVP 후보를 도출하기 위해 사용될 수 있다. 도 12에 도시된 바와 같이, 현재 블록(1204)의 이웃하는 좌측 하단 블록 A가 아핀 모드로 코딩될 때, 블록 A를 포함하는 CU(1202)의 좌측 상단 코너, 우측 위의 코너, 및 좌측 하단 코너의 모션 벡터들 , 및 가 획득될 수 있다. 블록 A가 4-파라미터 아핀 모델로 코딩될 때, 현재 CU(1204)의 2개의 CPMV는 CU(1202)의 및 에 따라 계산될 수 있다. 블록 A가 6-파라미터 아핀 모델로 코딩되는 경우, 현재 CU(1204)의 3개의 CPMV는 CU(1202)의 , 및 에 따라 계산될 수 있다.

현재 블록의 구성된 아핀 후보는 현재 블록의 각각의 제어 포인트의 이웃 병진 모션 정보를 조합함으로써 구성되는 후보일 수 있다. 제어 포인트들의 모션 정보는 도 13에 도시될 수 있는 지정된 공간 이웃들 및 시간 이웃으로부터 도출될 수 있다. 도 13에 도시된 바와 같이, CPMV_k(k=1, 2, 3, 4)는 현재 블록(1302)의 k 번째 제어 포인트를 나타낸다. CPMV₁의 경우, B2->B3->A2 블록들이 체크될 수 있고, 제1 이용가능 블록의 MV가 사용될 수 있다. CPMV₂의 경우, B1->B0 블록들이 체크될 수 있다. CPMV₃의 경우, A1->A0 블록들이 체크될 수 있다. TMVP는 CPM₄가 이용가능하지 않다면 CPMV₄로서 사용될 수 있다.

4개의 제어 포인트의 MV들이 획득된 후에, 4개의 제어 포인트의 모션 정보에 기초하여 현재 블록(1302)에 대해 아핀 병합 후보들이 구성될 수 있다. 예를 들어, 아핀 병합 후보들은 다음과 같은 순서로 4개의 제어 포인트의 MV들의 조합들에 기초하여 구성될 수 있다: {CPMV₁, CPMV₂, CPMV₃}, {CPMV₁, CPMV₂, CPMV₄}, {CPMV₁, CPMV₃, CPMV₄},{CPMV₂, CPMV₃, CPMV₄}, {CPMV₁, CPMV₂}, and {CPMV₁, CPMV₃}.

3개의 CPMV의 조합은 6-파라미터 아핀 병합 후보를 구성할 수 있고, 2개의 CPMV의 조합은 4-파라미터 아핀 병합 후보를 구성할 수 있다. 모션 스케일링 프로세스를 피하기 위해, 제어 포인트들의 기준 인덱스들이 상이한 경우, 제어 포인트 MV들의 관련 조합이 폐기될 수 있다.

상속된 아핀 병합 후보들 및 구성된 아핀 병합 후보가 체크된 후에, 리스트가 여전히 가득 차 있지 않으면, 제로 MV들이 리스트의 끝에 삽입될 수 있다.

일부 예들에서, 아핀 AMVP(advanced motion vector prediction) 모드는 폭 및 높이 둘 다가 16 이상인 CU들에 적용될 수 있다. 아핀 AMVP 모드가 사용되는지를 표시하기 위해 CU 레벨에서의 아핀 플래그가 비트스트림에서 시그널링될 수 있고, 그 후 4-파라미터 아핀 또는 6-파라미터 아핀이 적용되는지를 표시하기 위해 다른 플래그가 시그널링될 수 있다. 아핀 AMVP 예측에서, 현재 CU의 CPMV들과 현재 CU의 CPMVP들의 예측기들의 차이가 비트스트림에서 시그널링될 수 있다. 아핀 AMVP 후보 리스트의 크기는 2일 수 있고, 아핀 AMVP 후보 리스트는 다음과 같은 순서로 4개의 유형의 CPMV 후보를 사용하여 생성될 수 있다:

(1) 이웃 CU들의 CPMV들로부터 외삽되는 상속된 아핀 AMVP 후보들,

(2) 이웃 CU들의 병진 MV들을 사용하여 도출되는 CPMVP들을 갖는 구성된 아핀 AMVP 후보들,

(3) 이웃 CU들로부터의 병진 MV들, 및

(4) 제로 MV들.

상속된 아핀 AMVP 후보들의 체크 순서는 상속된 아핀 병합 후보들의 체크 순서와 동일할 수 있다. AVMP 후보를 결정하기 위해, 현재 블록과 동일한 기준 픽처를 갖는 아핀 CU만이 고려될 수 있다. 상속된 아핀 모션 예측기가 후보 리스트에 삽입될 때 프루닝 프로세스가 적용되지 않을 수 있다.

구성된 AMVP 후보는 지정된 공간적 이웃들로부터 도출될 수 있다. 도 13에 도시된 바와 같이, 아핀 병합 후보 구성에서의 체크 순서로서 동일한 체크 순서가 적용될 수 있다. 또한, 이웃 블록의 기준 픽처 인덱스도 체크될 수 있다. 체크 순서에서의 제1 블록은 인터 코딩될 수 있고 현재 CU(1302)와 동일한 기준 픽처를 가질 수 있다. 하나의 구성된 AMVP 후보는 현재 CU(1302)가 4-파라미터 아핀 모드로 코딩될 때 결정될 수 있고, 및 은 둘 다 이용가능하다. 구성된 AMPV 후보는 아핀 AMVP 리스트에 더 추가될 수 있다. 현재 CU(1302)가 6-파라미터 아핀 모드로 코딩되고, 모든 3개의 CPMV가 이용가능할 때, 구성된 AMVP 후보는 아핀 AMVP 리스트에 하나의 후보로서 추가될 수 있다. 그렇지 않으면, 구성된 AMVP 후보는 이용불가능한 것으로서 설정될 수 있다.

상속된 아핀 AMVP 후보들 및 구성된 AMVP 후보가 체크된 후에 아핀 AMVP 리스트 내의 후보들이 여전히 2보다 작으면, , 및 가 순서대로 추가될 수 있다. , 및 는 이용가능할 때 현재 CU(예를 들어, (1302))의 모든 제어 포인트 MV들을 예측하기 위해 병진 MV들로서 기능할 수 있다. 마지막으로, 아핀 AMVP가 여전히 가득 차 있지 않으면 아핀 AMVP 리스트를 채우기 위해 제로 MV들이 사용될 수 있다.

서브블록-기반 아핀 모션 보상은 예측 정확도 페널티의 대가로, 픽셀 기반 모션 보상에 비하여 메모리 액세스 대역폭을 절감하고 계산 복잡도를 감소시킬 수 있다. 모션 보상의 더 미세한 입도를 달성하기 위해, 모션 보상을 위한 메모리 액세스 대역폭을 증가시키지 않고 서브블록 기반 아핀 모션 보상 예측을 정제하기 위해 광학 흐름을 갖는 예측 정제(PROF)가 사용될 수 있다. VVC에서, 서브블록 기반 아핀 모션 보상이 수행된 후에, 광학 흐름 수학식에 의해 도출된 차이를 더함으로써 루마 예측 샘플이 정제될 수 있다. PROF는 다음과 같이 4개의 단계로 설명될 수 있다:

단계 1: 서브블록-기반 아핀 모션 보상이 수행되어 서브블록 예측 를 생성할 수 있다.

단계 2: 서브블록 예측의 공간 기울기 및 는 3-탭 필터 [-1, 0, 1]를 사용하여 각각의 샘플 위치에서 계산될 수 있다. 기울기 계산은 BDOF에서의 기울기 계산과 동일할 수 있다. 예를 들어, 공간 기울기 및 는 각각 수학식 5 및 6에 기초하여 계산될 수 있다.

수학식 5 및 수학식 6에 나타낸 바와 같이, shift1은 기울기의 정밀도를 제어하는 데 사용될 수 있다. 서브블록(예를 들어, 4x4) 예측은 기울기 계산을 위해 각각의 측에서 하나의 샘플에 의해 확장될 수 있다. 추가의 메모리 대역폭 및 추가의 보간 계산을 피하기 위해, 확장된 경계들 상의 확장된 샘플들이 기준 픽처에서의 가장 가까운 정수 픽셀 위치로부터 복사될 수 있다.

단계 3: 루마 예측 정제는 수학식 7에 나타낸 바와 같은 광학 흐름 수학식에 의해 계산될 수 있다.

여기서, Δv(i,j)는 v(i,j)로 표시되는 샘플 위치 (i,j)에 대해 계산된 샘플 MV와, 샘플 (i,j)가 속하는 서브블록의 로 표시되는 서브블록 MV 사이의 차이일 수 있다. 도 14는 샘플 MV와 서브블록 MV 사이의 차이의 예시적인 예시를 도시한다. 도 14에 도시된 바와 같이, 서브블록(1402)은 현재 블록(1400)에 포함될 수 있고, 샘플(1404)은 서브블록(1402)에 포함될 수 있다. 샘플(1404)은 기준 픽셀(1406)에 대응하는 샘플 모션 벡터 v(i,j)를 포함할 수 있다. 서브블록(1402)은 서브블록 모션 벡터 를 포함할 수 있다. 서브블록 모션 벡터 에 기초하여, 샘플(1404)은 기준 픽셀(1408)에 대응할 수 있다. Δv(i,j)로 표시되는, 샘플 MV와 서브블록 MV 사이의 차이는 기준 픽셀(1406)과 기준 픽셀(1408) 사이의 차이에 의해 표시될 수 있다. Δv(i,j)는 1/32 루마 샘플 정밀도의 단위로 양자화될 수 있다.

아핀 모델 파라미터들 및 서브블록 중심에 대한 샘플 위치가 서브블록으로부터 다른 서브블록으로 변경되지 않을 수 있기 때문에, Δv(i,j)는 제1 서브블록(예를 들어, (1402))에 대해 계산될 수 있고, 동일한 CU(예를 들어, (1400)) 내의 다른 서브블록들(예를 들어, (1410))에 대해 재사용될 수 있다. dx(i,j)를 수평 오프셋이라고 하고 dy(i,j)를 샘플 위치 (i,j)로부터 서브블록의 중심 까지의 수직 오프셋이라고 하면, Δv(x,y)는 다음과 같이 수학식 8 및 수학식 9에 의해 도출될 수 있다:

정확도를 유지하기 위해, 서브블록의 중심 는 ((W_SB-　1)/2,　(H_SB-　1)/2)로서 계산될 수 있고, 여기서 W_SB 및 H_SB는 각각 서브블록 폭 및 높이이다.

Δv(x,y)가 획득되면, 아핀 모델의 파라미터들이 획득될 수 있다. 예를 들어, 4-파라미터 아핀 모델의 경우, 아핀 모델의 파라미터들은 수학식 10에 표시될 수 있다.

6-파라미터 아핀 모델의 경우, 아핀 모델의 파라미터들은 수학식 11에 표시될 수 있다.

여기서, , , 는 각각 좌측-상단 제어 포인트 모션 벡터, 우측-상단 제어 포인트 모션 벡터 및 좌측-하단 제어 포인트 모션 벡터일 수 있고, w 및 h는 각각 CU의 폭 및 높이일 수 있다.

단계 4: 마지막으로, 루마 예측 정제 ΔI(i,j)가 서브블록 예측 I(i,j)에 추가될 수 있다. 최종 예측 I'는 수학식 12에 나타낸 바와 같이 생성될 수 있다.

PROF는 아핀 코딩된 CU에 대한 2가지 경우에 적용되지 않을 수 있다: (1) 모든 제어 포인트 MV들이 동일한 경우 - 이는 CU가 병진 모션만을 갖는다는 것을 나타냄 -, 및 (2) 서브블록 기반 아핀 MC가 큰 메모리 액세스 대역폭 요건을 피하기 위해 CU 기반 MC로 저하되기 때문에 아핀 모션 파라미터들이 지정된 한계보다 큰 경우.

아핀 AMVP 모드에서 코딩될 때, 아핀 코딩 블록의 각각의 제어 포인트는 모션 벡터 차이(MVD)를 갖는다는 점에 유의해야 한다. 각각의 기준 픽처에 대해, 제어 포인트들의 MVD는 실제 CPMV 값들 및 아핀 AMVP 예측기의 CPMV 값들로부터 계산된다.

일례에서, 4-파라미터 아핀에 대해, 수학식 13 및 수학식 14에 따라 각각의 기준 리스트에 대해 2개의 MVD(MVD₀ 및 MVD₁로 표시됨)가 코딩된다.

여기서, MV₀및 MV₁은 2개의 제어 포인트의 실제 CPMV 값들을 나타내고, MVP₀ 및 MVP₁은 2개의 제어 포인트의 아핀 AMVP 예측기의 CPMV 값들을 나타낸다.

다른 예에서, 6-파라미터 아핀에 대해, 수학식 15, 수학식 16 및 수학식 17에 따라 각각의 기준 리스트에 대해 3개의 MVD(MVD₀, MVD₁ 및 MVD₂로 표시됨)가 코딩된다.

여기서, MV_0, MV₁ 및 MV₂는 3개의 제어 포인트의 실제 CPMV 값들을 나타내고, MVP₀, MVP₁ 및 MVP₂는 3개의 제어 포인트의 아핀 AMVP 예측기의 CPMV 값들을 나타낸다.

VVC 기준 소프트웨어 VTM에서와 같이 아핀 모션 추정(ME)은 단방향 예측 및 양방향 예측 둘 다를 위해 동작될 수 있다. 단방향 예측은 기준 리스트 L0 및 기준 리스트 L1 중 하나에 대해 수행될 수 있고, 양방향 예측은 기준 리스트 L0 및 기준 리스트 L1 둘 다에 대해 수행될 수 있다.

도 15는 아핀 ME(1500)의 개략적인 예시를 도시한다. 도 15에 도시된 바와 같이, 아핀 ME(1500)에서, 아핀 단방향 예측(S1502)을 기준 리스트 L0에 대해 수행하여 기준 리스트 L0 내의 초기 기준 블록에 기초하여 현재 블록의 예측 P0을 획득할 수 있다. 아핀 단방향 예측(S1504)을 또한 기준 리스트 L1에 대해 수행하여 기준 리스트 L1 내의 초기 기준 블록에 기초하여 현재 블록의 예측 P1을 획득할 수 있다. S1506에서, 아핀 양방향 예측이 수행될 수 있다. 아핀 양방향 예측(S1506)은 초기 예측 잔차 (2I-P0-P1)로 시작할 수 있고, 여기서 I는 현재 블록의 초기 값들일 수 있다. 아핀 양방향 예측(S1506)은 최소 예측 잔차 (2I-P0)-Px를 갖는 최상의(또는 선택된) 기준 블록을 찾기 위해 기준 리스트 L1 내의 초기 기준 블록 주위에서 기준 리스트 L1 내의 후보들을 검색할 수 있고, 여기서 Px는 선택된 기준 블록에 기초하는 현재 블록의 예측이다.

기준 픽처를 이용하여, 현재 코딩 블록에 대해, 아핀 ME 프로세스는 먼저 제어 포인트 모션 벡터(CPMV)들의 세트를 베이스로서 선택할 수 있다. 반복 방법을 사용하여, CPMV들의 세트에 대응하는 현재 아핀 모델의 예측 출력을 생성하고, 예측 샘플들의 기울기들을 계산하고, 그 후 아핀 예측을 최적화하기 위한 델타 CPMV들을 결정하기 위해 선형 수학식을 풀 수 있다. 모든 델타 CPMV들이 0이거나, 최대 반복 횟수에 도달될 때, 반복들이 중지될 수 있다. 반복들로부터 획득된 CPMV들은 기준 픽처에 대한 최종 CPMV들일 수 있다.

아핀 단방향 예측에 대해 기준 리스트 L0 및 L1 둘 다에 대한 최상의 아핀 CPVM들이 결정된 후에, 아핀 양방향 예측 검색이 최상의 단방향 예측 CPMV들 및 일측의 기준 리스트를 사용하여 수행될 수 있고, 다른 기준 리스트 상에서 최상의 CPMV들을 검색하여 아핀 양방향 예측 출력을 최적화할 수 있다. 아핀 양방향 예측 검색은 최적 결과들을 획득하기 위해 2개의 기준 리스트에 대해 반복적으로 수행될 수 있다.

도 16은 기준 픽처와 연관된 최종 CPMV들이 계산될 수 있는 예시적인 아핀 ME 프로세스(1600)를 도시한다. 아핀 ME 프로세스(1600)는 S1602로부터 시작할 수 있다. S1602에서, 현재 블록의 기본 CPMV들이 결정될 수 있다. 기본 CPMV들은 병합 인덱스, AMVP(advanced motion vector prediction) 예측기 인덱스, 아핀 병합 인덱스 등 중 하나에 기초하여 결정될 수 있다.

S1604에서, 기본 CPMV들에 기초하여 현재 블록의 초기 아핀 예측이 획득될 수 있다. 예를 들어, 기본 CPMV들에 따라, 6-파라미터 아핀 모션 모델의 4-파라미터 아핀 모션 모델이 초기 아핀 예측을 생성하기 위해 적용될 수 있다.

S1606에서, 초기 아핀 예측의 기울기들이 획득될 수 있다. 예를 들어, 초기 아핀 예측의 기울기들은 수학식 5 및 6에 기초하여 획득될 수 있다.

S1608에서, 델타 CPMV들이 결정될 수 있다. 일부 실시예들에서, 델타 CPMV들은 초기 아핀 예측과, 제1 아핀 예측과 같은 후속 아핀 예측 사이의 변위와 연관될 수 있다. 초기 아핀 예측의 기울기들 및 델타 CPMV들에 기초하여, 제1 아핀 예측이 획득될 수 있다. 제1 아핀 예측은 제1 CPMV들에 대응할 수 있다.

S1610에서, 델타 CPMV들이 0인지 또는 반복 횟수가 임계값 이상인지를 체크하기 위한 결정이 이루어질 수 있다. 델타 CPMV들이 0이거나 반복 횟수가 임계값 이상일 때, 최종(또는 선택된) CPMV들이 S1612에서 결정될 수 있다. 최종(또는 선택된) CPMV들은 초기 아핀 예측의 기울기들과 델타 CPMV들에 기초하여 결정되는 제1 CPMV들일 수 있다.

여전히 S1610을 참조하면, 델타 CPMV들이 0이 아니거나 반복 횟수가 임계값보다 작을 때, 새로운 반복이 시작될 수 있다. 새로운 반복에서, 업데이트된 CPMV들(예를 들어, 제1 CPMV들)이 업데이트된 아핀 예측을 생성하기 위해 S1604에 제공될 수 있다. 아핀 ME 프로세스(1600)는 그 후 S1606으로 진행할 수 있고, 여기서 업데이트된 아핀 예측의 기울기들이 계산될 수 있다. 아핀 ME 프로세스(1600)는 이후 새로운 반복을 계속하기 위해 S1608로 진행할 수 있다.

아핀 모션 모델에서, 4-파라미터 아핀 모션 모델은 회전 및 주밍(zooming)의 모션들을 포함하는 공식들에 의해 추가로 설명될 수 있다. 예를 들어, 4-파라미터 아핀 모션 모델은 다음과 같이 수학식 18으로 다시 쓰여질 수 있다:

여기서, r 및 θ는 각각 주밍 인자 및 회전 각도일 수 있다. 현재 프레임이 시간적으로 2개의 기준 프레임의 중간에 있을 때 그리고 모션이 일정하고 연속적인 경우, 주밍 인자는 지수적일 수 있는 반면, 회전 각도는 일정할 수 있다. 따라서, 수학식 18은 기준 리스트 0에 대한 아핀 모션과 같은, 하나의 기준에 대한 아핀 모션을 공식화하기 위해 적용될 수 있다. 시간적으로 기준 리스트 1과 같은, 현재 프레임의 다른 측에 있는 다른 기준 프레임에 대한 아핀 모션은 수학식 19에서 설명될 수 있다.

수학식 13 및 14는 대칭 아핀 모션 모델이라고 불릴 수 있다. 대칭 아핀 모션 모델은 코딩 효율을 추가로 개선하기 위해 적용될 수 있다. a, b, r과 θ 사이의 관계들은 다음과 같이 수학식 20에서 설명될 수 있다는 점에 유의해야 한다:

VVC에서의 양방향 광학 흐름(BDOF)은 이전에 JEM에서 BIO로 지칭되었다. JEM 버전과 비교하여, VVC에서의 BDOF는 특히 승산들의 수 및 승수의 크기의 관점에서 더 적은 계산을 요구하는 더 간단한 버전일 수 있다.

BDOF는 4x4 서브블록 레벨에서 CU의 양방향 예측 신호를 정제하는 데 사용될 수 있다. CU가 다음과 같이 조건들을 충족시키면 BDOF가 CU에 적용될 수 있다:

(1) CU는 "참" 양방향 예측 모드를 사용하여 코딩되는데, 즉 2개의 기준 픽처 중 하나는 디스플레이 순서에서 현재 픽처 이전이고, 다른 하나는 디스플레이 순서에서 현재 픽처 이후이고;

(2) 2개의 기준 픽처로부터 현재 픽처까지의 거리들(예를 들어, POC 차이)은 동일하고;

(3) 양 기준 픽처들은 단기 기준 픽처들이고,

(4) CU는 아핀 모드 또는 SbTMVP 병합 모드를 사용하여 코딩되지 않고,

(5) CU는 64개보다 많은 루마 샘플을 갖고,

(6) CU 높이와 CU 폭 모두는 8 루마 샘플 이상이고,

(7) BCW 가중치 인덱스는 동일한 가중치를 나타내고,

(8) 현재 CU에 대해 가중 예측(WP)이 인에이블되지 않고,

(9) CIIP 모드는 현재 CU에 사용되지 않는다.

BDOF는 루마 성분에만 적용될 수 있다. BDOF의 명칭이 나타내는 바와 같이, BDOF 모드는 객체의 모션이 매끄럽다고 가정하는 광학 흐름 개념에 기초할 수 있다. 각각의 4x4 서브블록에 대해, L0 예측 샘플과 L1 예측 샘플 사이의 차이를 최소화하는 것에 의해 모션 정제 가 계산될 수 있다. 모션 정제는 이어서 4x4 서브블록에서 양방향 예측된 샘플 값들을 조정하는 데 사용될 수 있다. BDOF는 다음과 같은 단계들을 포함할 수 있다:

먼저, 기준 리스트 L0 및 기준 리스트 L1로부터의 2개의 예측 신호의 수평 및 수직 기울기 및 (k=0,1)는 2개의 이웃하는 샘플 사이의 차이를 직접 계산함으로써 계산될 수 있다. 수평 및 수직 기울기들은 다음과 같이 수학식 21 및 22에서 제공될 수 있다:

여기서, 는 리스트 k(k=0,1) 내의 예측 신호의 좌표 (i,j)에서의 샘플 값일 수 있고, shift1은 루마 비트 깊이 bitDepth에 기초하여 shift1 = max(6, bitDepth-6)로서 계산될 수 있다.

그 후, 기울기들의 자기 및 교차 상관 , , , 및 이 다음과 같이 수학식 23 내지 27에 따라 계산될 수 있다:

여기서, , , 및 는 각각 수학식 28 내지 30에서 제공될 수 있다.

여기서, Ω는 4x4 서브블록 주위의 6x6 윈도우일 수 있고, 및 의 값들은 각각 min(1, bitDepth - 11) 및 min(4, bitDepth - 8)과 동일하게 설정될 수 있다.

모션 정제 는 이어서 수학식 31 및 32를 사용하여 교차 및 자기 상관 항들을 사용하여 다음과 같이 도출될 수 있다:

여기서, , , 이다. 는 플로어 함수이고, 이다. 모션 정제 및 기울기들에 기초하여, 수학식 33에 기초하여 4x4 서브블록 내의 각각의 샘플에 대해 조정이 계산될 수 있다:

마지막으로, CU의 BDOF 샘플들은 다음과 같이 수학식 34에서 양방향 예측 샘플들을 조정함으로써 계산될 수 있다:

BDOF 프로세스에서의 승수들이 15-비트를 초과하지 않도록 값들이 선택될 수 있고, BDOF 프로세스에서의 중간 파라미터들의 최대 비트-폭이 32-비트 내로 유지될 수 있다.

기울기 값들을 도출하기 위해, 현재 CU 경계들 외부의 리스트 k(k=0,1) 내의 일부 예측 샘플들 이 생성될 필요가 있다. 도 17에 도시된 바와 같이, VVC에서의 BDOF는 CU(1704)의 경계들(1706) 주위의 하나의 확장된 행/열(1702)을 사용할 수 있다. 경계 밖 예측 샘플들을 생성하는 계산 복잡도를 제어하기 위해, 확장된 영역(예를 들어, 도 17의 비음영 영역) 내의 예측 샘플들은 보간 없이 직접 (예를 들어, 좌표들에 대한 floor() 연산을 사용하여) 근처의 정수 위치들에서 기준 샘플들을 취함으로써 생성될 수 있고, 정상 8-탭 모션 보상 보간 필터가 CU(예를 들어, 도 17의 음영 영역) 내의 예측 샘플들을 생성하기 위해 사용될 수 있다. 확장된 샘플 값들은 기울기 계산에서만 사용될 수 있다. BDOF 프로세스에서의 나머지 단계들에 대해, CU 경계들 밖의 임의의 샘플들 및 기울기 값들이 필요한 경우, 샘플들 및 기울기 값들은 샘플들 및 기울기 값들의 가장 가까운 이웃들로부터 패딩(예로서, 반복)될 수 있다.

CU의 폭 및/또는 높이가 16 루마 샘플보다 클 때, CU는 16 루마 샘플과 동일한 폭 및/또는 높이를 갖는 서브블록들로 분할될 수 있고, 서브블록 경계들은 BDOF 프로세스에서 CU 경계들로서 취급될 수 있다. BDOF 프로세스에 대한 최대 유닛 크기는 16x16으로 제한될 수 있다. 각각의 서브블록에 대해, BDOF 프로세스는 스킵될 수 있다. 초기 L0 및 L1 예측 샘플들 사이의 절대 차이의 합(SAD)이 임계값보다 작을 때, BDOF 프로세스는 서브블록에 적용되지 않을 수 있다. 임계값은 (8*W*(H>>1)과 동일하게 설정될 수 있으며, 여기서 W는 서브블록의 폭을 표시할 수 있고, H는 서브블록의 높이를 표시할 수 있다. SAD 계산의 추가적인 복잡성을 피하기 위해, DMVR 프로세스에서 계산된 초기 L0 및 L1 예측 샘플들 사이의 SAD는 BDOF 프로세스에서 재사용될 수 있다.

BCW가 현재 블록에 대해 인에이블되면, 즉, BCW 가중치 인덱스가 동일하지 않은 가중치를 표시하면, 양방향 광학 흐름은 디스에이블될 수 있다. 유사하게, WP가 현재 블록에 대해 인에이블되면, 즉, 루마 가중치 플래그(예를 들어, luma_weight_lx_flag)가 2개의 기준 픽처 중 어느 하나에 대해 1이면, BDOF는 또한 디스에이블될 수 있다. CU가 대칭 MVD 모드 또는 CIIP 모드로 코딩될 때, BDOF도 디스에이블될 수 있다.

병합 모드의 MV들의 정확도를 증가시키기 위해, VVC에서와 같이, BM(bilateral-matching) 기반 디코더 측 모션 벡터 정제가 적용될 수 있다. 양방향 예측 동작에서, 정제된 MV는 기준 픽처 리스트 L0 및 기준 픽처 리스트 L1 내의 초기 MV들 주위에서 검색될 수 있다. BM 방법은 기준 픽처 리스트 L0 및 리스트 L1 내의 2개의 후보 블록 사이의 왜곡을 계산할 수 있다.

도 18은 BM 기반 디코더 측 모션 벡터 정제의 예시적인 개략도를 도시한다. 도 18에 도시된 바와 같이, 현재 픽처(1802)은 현재 블록(1808)을 포함할 수 있다. 현재 픽처는 기준 픽처 리스트 L0(1804) 및 기준 픽처 리스트 L1(1806)을 포함할 수 있다. 현재 블록(1808)은 초기 모션 벡터 MV0에 따른 기준 픽처 리스트 L0(1804) 내의 초기 기준 블록(1812) 및 초기 모션 벡터 MV1에 따른 기준 픽처 리스트 L1(1806) 내의 초기 기준 블록(1814)을 포함할 수 있다. 검색 프로세스는 기준 픽처 리스트 L0(1804) 내의 초기 MV0 및 기준 픽처 리스트 L1(1806) 내의 초기 MV1 주위에서 수행될 수 있다. 예를 들어, 제1 후보 기준 블록(1810)은 기준 픽처 리스트 L0(1804)에서 식별될 수 있고, 제1 후보 기준 블록(1816)은 기준 픽처 리스트 L1(1806)에서 식별될 수 있다. 초기 MV(예를 들어, MV0 및 MV1) 주위의 각각의 MV 후보(예를 들어, MV0' 및 MV1')에 기초하여 후보 기준 블록들(예를 들어, (1810) 및 (1816)) 간의 SAD가 계산될 수 있다. 최저 SAD를 갖는 MV 후보는 정제된 MV가 될 수 있고, 현재 블록(1808)을 예측하기 위한 양방향 예측된 신호를 생성하는 데 사용될 수 있다.

DMVR의 적용은 제한될 수 있고, 다음과 같이, VVC에서와 같이, 모드들 및 특징들에 기초하여 코딩되는 CU들에 대해서만 적용될 수 있다:

(1) 양방향 예측 MV를 갖는 CU 레벨 병합 모드,

(2) 현재 픽처에 대해 하나의 기준 픽처가 과거에 있고 다른 기준 픽처가 미래에 있음,

(3) 2개의 기준 픽처로부터 현재 픽처까지의 거리들(예를 들어, POC 차이)은 동일함,

(4) 양 기준 픽처들은 단기 기준 픽처들임,

(5) CU는 64개보다 많은 루마 샘플을 가짐,

(6) CU 높이와 CU 폭 모두는 8 루마 샘플 이상임,

(7) BCW 가중치 인덱스는 동일한 가중치를 나타냄,

(8) 현재 블록에 대해 가중 예측(WP)이 인에이블되지 않음,

(9) 현재 블록에 대해 CIIP 모드가 사용되지 않음.

DMVR 프로세스에 의해 도출된 정제된 MV는 인터 예측 샘플들을 생성하는 데 사용될 수 있고 미래 픽처 코딩을 위해 시간적 모션 벡터 예측에 사용될 수 있다. 한편, 원래의 MV는 디블록킹 프로세스에서 사용될 수 있고, 미래 CU 코딩을 위해 공간 모션 벡터 예측에서 사용될 수 있다.

DVMR에서, 검색 포인트들은 초기 MV를 둘러쌀 수 있고, MV 오프셋은 MV 차이 미러링 규칙을 따를 수 있다. 즉, 후보 MV 쌍(MV0, MV1)으로 표시되는, DMVR에 의해 체크되는 임의의 포인트들은 수학식 35 및 36에 표시된 MV 차이 미러링 규칙을 따를 수 있다:

여기서, MV_offset은 기준 픽처들 중 하나에서 초기 MV와 정제된 MV 사이의 정제 오프셋을 나타낼 수 있다. 정제 검색 범위는 초기 MV로부터의 2개의 정수 루마 샘플일 수 있다. 검색은 정수 샘플 오프셋 검색 스테이지 및 분수 샘플 정제 스테이지를 포함할 수 있다.

예를 들어, 정수 샘플 오프셋 검색을 위해 25 포인트 전체 검색이 적용될 수 있다. 초기 MV 쌍의 SAD가 먼저 계산될 수 있다. 초기 MV 쌍의 SAD가 임계값보다 작으면, DMVR의 정수 샘플 스테이지는 종료될 수 있다. 그렇지 않으면, 나머지 24개 포인트의 SAD들은 래스터 스캐닝 순서와 같은 스캐닝 순서로 계산 및 체크될 수 있다. 가장 작은 SAD를 갖는 포인트는 정수 샘플 오프셋 검색 스테이지의 출력으로서 선택될 수 있다. DMVR 정제의 불확실성의 페널티를 감소시키기 위해, DMVR 프로세스 동안 원래의 MV는 선택될 우선순위를 가질 수 있다. 초기 MV 후보들에 의해 참조되는 기준 블록들 사이의 SAD는 SAD 값의 1/4만큼 감소될 수 있다.

정수 샘플 검색 다음에 분수 샘플 정제가 이어질 수 있다. 계산 복잡도를 줄이기 위해, 분수 샘플 정제는 SAD 비교를 이용하는 추가적인 검색 대신에 파라메트릭 에러 표면 수학식을 사용함으로써 도출될 수 있다. 분수 샘플 정제는 정수 샘플 검색 스테이지의 출력에 기초하여 조건부로 호출될 수 있다. 제1 반복 검색 또는 제2 반복 검색에서 가장 작은 SAD를 갖는 중심에서 정수 샘플 검색 스테이지가 종료될 때, 분수 샘플 정제가 추가로 적용될 수 있다.

파라메트릭 에러 표면 기반 서브픽셀 오프셋 추정에서, 중심 위치 비용 및 중심으로부터 4개의 이웃 위치에서의 비용들은 수학식 37에 기초하여 2-D 포물선 에러 표면 수학식을 피팅하는 데 사용될 수 있다:

여기서, (은 최소 비용을 갖는 분수 위치에 대응할 수 있고, C는 최소 비용 값에 대응할 수 있다. 5개의 검색 포인트의 비용 값을 사용하여 수학식 37을 푸는 것에 의해, 수학식 38 및 수학식 39에서 (이 계산될 수 있다:

및 의 값은 -8과 8 사이에 있도록 자동으로 제약될 수 있는데, 그 이유는 모든 비용 값들이 양이고, 가장 작은 값이 E(0,0)이기 때문이다. 및 의 값의 제약들은 VVC에서 1/16-펠 MV 정확도를 갖는 1/2 펠(또는 픽셀) 오프셋에 대응할 수 있다. 계산된 분수 (은 서브픽셀 정확한 정제 델타 MV를 얻기 위해 정수 거리 정제 MV에 더해질 수 있다.

VVC에서와 같이, 이중 선형 보간 및 샘플 패딩이 적용될 수 있다. MV들의 해상도는 예를 들어 1/16 루마 샘플일 수 있다. 분수 위치에서의 샘플들은 8-탭 보간 필터를 사용하여 보간될 수 있다. DMVR에서, 검색 포인트들은 정수 샘플 오프셋을 갖는 초기 분수-펠 MV를 둘러쌀 수 있으므로, 분수 위치의 샘플들은 DMVR 검색 프로세스를 위해 보간될 필요가 있다. 계산 복잡도를 감소시키기 위해, DMVR에서 검색 프로세스를 위한 분수 샘플들을 생성하기 위해 이중 선형 보간 필터가 사용될 수 있다. 다른 중요한 효과에서, 2-샘플 검색 범위를 갖는 이중 선형 필터를 사용함으로써, DVMR은 정상 모션 보상 프로세스에 비해 더 많은 기준 샘플에 액세스하지 않는다. DMVR 검색 프로세스로 정제된 MV가 획득된 후에, 최종 예측을 생성하기 위해 정상 8-탭 보간 필터가 적용될 수 있다. 정상 MC 프로세스에 비해 더 많은 기준 샘플에 액세스하지 않기 위해, 원래의 MV에 기초하는 보간 프로세스에 필요하지 않을 수 있지만 정제된 MV에 기초하는 보간 프로세스에 필요할 수 있는 샘플들이 이용가능한 샘플들로부터 패딩될 수 있다.

CU의 폭 및/또는 높이가 16 루마 샘플보다 클 때, CU는 16 루마 샘플과 동일한 폭 및/또는 높이를 갖는 서브블록들로 추가로 분할될 수 있다. DMVR 검색 프로세스에 대한 최대 유닛 크기는 16x16으로 제한될 수 있다.

일 실시예에서, VVC에서와 같이 MMVD(merge with motion vector difference) 모드가 사용되며, 여기서 암시적으로 도출된 모션 정보는 CU(예로서, 현재 CU)의 샘플들을 예측하는 데 사용될 수 있다. MMVD 모드는 모션 벡터 표현 방법과 함께 스킵 또는 병합 모드들에 사용된다. MMVD 병합 플래그는 예를 들어 스킵 플래그 또는 병합 플래그를 시그널링한 후에 MMVD 모드가 CU에 대해 사용되는지를 지정하도록 시그널링될 수 있다.

일부 예들에서, MMVD는 병합 후보를 재사용한다. 병합 후보들 중에서, 후보가 선택될 수 있고, 모션 벡터 표현 방법에 의해 추가로 확장된다. MMVD는 단순화된 시그널링을 갖는 모션 벡터 표현을 제공한다. 일부 예들에서, 모션 벡터 표현 방법은 시작 포인트, 모션 크기, 및 모션 방향을 포함한다.

일부 예들(예를 들어, VVC)에서, MMVD 기술은 병합 후보 리스트를 사용하여 시작 포인트에 대한 후보를 선택할 수 있다. 그러나, 일례에서, 디폴트 병합 유형(MRG_TYPE_DEFAULT_N)인 후보들만이 MMVD의 확장을 위해 고려된다.

일부 예들에서, 시작 포인트를 정의하기 위해 기본 후보 인덱스가 사용된다. 기본 후보 인덱스는 표 1에 나타낸 바와 같이 리스트 내의 후보들 중 최상의 후보를 나타낸다. 예를 들어, 리스트는 모션 벡터 예측기(MVP)들을 갖는 병합 후보 리스트이다. 기본 후보 인덱스는 병합 후보 리스트 내의 최상의 후보를 나타낼 수 있다.

일례에서, 기본 후보의 수는 1이고, 그러면 기본 후보 IDX는 시그널링되지 않는다는 점에 유의한다.

MMVD 모드에서, 병합 후보(MV 기초 또는 MV 시작 포인트라고도 함)가 선택된 후에, 병합 후보는 시그널링된 MVD 정보와 같은 추가 정보에 의해 정제될 수 있다. 추가 정보는 모션 크기를 지정하기 위해 사용되는 인덱스(예컨대, 거리 인덱스, 예를 들어, mmvd_distance_idx[x0][y0]) 및 모션 방향을 표시하기 위해 사용되는 인덱스(예컨대, 방향 인덱스, 예를 들어, mmvd_direction_idx[x0][y0])를 포함할 수 있다. MMVD 모드에서, 병합 리스트 내의 처음 2개의 후보 중 하나가 MV 기초로서 선택될 수 있다. 예를 들어, 병합 후보 플래그(예를 들어, mmvd_cand_flag[x0][y0])는 병합 리스트 내의 처음 2개의 후보 중 하나를 표시한다. 병합 후보 플래그는 처음 2개의 후보 중 어느 것이 선택되는지를 표시하기 위해(예를 들어, 지정하기 위해) 시그널링될 수 있다. 추가 정보는 MVD(또는 모션 오프셋)를 MV 기초로 표시할 수 있다. 예를 들어, 모션 크기는 MVD의 크기를 표시하고, 모션 방향은 MVD의 방향을 표시한다.

일례에서, 병합 후보 리스트로부터 선택된 병합 후보는 기준 픽처에서 시작 포인트 또는 MV 시작 포인트를 제공하기 위해 사용된다. 현재 블록의 모션 벡터는 시작 포인트 및 시작 포인트에 대한 모션 크기 및 모션 방향을 포함하는 모션 오프셋(또는 MVD)으로 표현될 수 있다. 인코더 측에서, 병합 후보의 선택 및 모션 오프셋의 결정은 도 19에 도시된 바와 같은 검색 프로세스(평가 프로세스)에 기초할 수 있다. 디코더 측에서, 선택된 병합 후보 및 모션 오프셋은 인코더 측으로부터의 시그널링에 기초하여 결정될 수 있다.

도 19는 MMVD 모드에서의 검색 프로세스(1900)의 예를 도시한다. 도 20은 MMVD 모드에서의 검색 포인트들의 예들을 도시한다. 일부 예들에서, 도 20에서의 검색 포인트들의 서브세트 또는 전체 세트가 도 19의 검색 프로세스(1900)에서 사용된다. 예를 들어, 인코더 측에서 검색 프로세스(1900)를 수행함으로써, 병합 후보 플래그(예를 들어, mmvd_cand_flag[x0][y0]), 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0]), 및 방향 인덱스(예를 들어, mmvd_direction_idx[x0][y0])를 포함하는 추가 정보가 현재 픽처(또는 현재 프레임) 내의 현재 블록(1901)에 대해 결정될 수 있다.

제1 병합 후보에 속하는 제1 모션 벡터(1911) 및 제2 모션 벡터(1921)가 도시되어 있다. 제1 모션 벡터(1911) 및 제2 모션 벡터(1921)는 검색 프로세스(1900)에서 사용되는 MV 시작 포인트들이다. 제1 병합 후보는 현재 블록(1901)에 대해 구성된 병합 후보 리스트 상의 병합 후보일 수 있다. 제1 및 제2 모션 벡터들(1911 및 1921)은 각각 기준 픽처 리스트 L0 및 L1에서의 2개의 기준 픽처(1902 및 1903)와 연관될 수 있다. 도 19-20을 참조하면, 제1 및 제2 모션 벡터들(1911 및 1921)은 도 20에 도시된 바와 같이 각각 기준 픽처들(1902 및 1903)에서의 2개의 시작 포인트(2011 및 2021)를 가리킬 수 있다.

도 20을 참조하면, 도 20의 2개의 시작 포인트(2011, 2021)는 기준 픽처들(1902, 1903)에서 결정될 수 있다. 일례에서, 시작 포인트들(2011 및 2021)에 기초하여, 기준 픽처들(1902 및 1903)에서 수직 방향들(+Y 또는 -Y로 표현됨) 또는 수평 방향들(+X 및 -X로 표현됨)로 시작 포인트들(2011 및 2021)로부터 연장되는 다수의 미리 정의된 포인트들이 평가될 수 있다. 일례에서, (예를 들어, 도 19에서 1S의 시프트에 의해 표시되는) 포인트들(2014 및 2024)의 쌍 또는 (예를 들어, 도 19에서 2S의 시프트에 의해 표시되는) 포인트들(2015 및 2025)의 쌍과 같은, 각각의 시작 포인트(2011 또는 2021)에 대해 서로 미러링하는 포인트들의 쌍은 현재 블록(1901)에 대한 모션 벡터 예측기 후보를 형성할 수 있는 모션 벡터들의 쌍(예를 들어, 도 19에서 MV들(1913 및 1923))을 결정하기 위해 사용될 수 있다. 시작 포인트들(2011 또는 2021)을 둘러싸는 미리 정의된 포인트들에 기초하여 결정된 모션 벡터 예측기 후보들(예를 들어, 도 19의 MV들(1913 및 1923))이 평가될 수 있다.

거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])는 모션 크기 정보를 지정하고, 병합 후보 플래그에 의해 표시되는 시작 포인트로부터의 미리 정의된 오프셋(예를 들어, 도 19의 1S 또는 2S)을 표시할 수 있다. 미리 정의된 오프셋은 일례에서 MMVD 스텝으로도 지칭된다는 점에 유의한다.

도 19를 참조하면, 오프셋(예를 들어, MVD(1912) 또는 MVD(1922))이 시작 MV(예를 들어, MV(1911) 또는 (1921))의 수평 성분 또는 수직 성분에 적용(예를 들어, 가산)될 수 있다. 거리 인덱스(IDX)와 미리 정의된 오프셋의 예시적인 관계가 표 2에 지정된다. 풀-펠 MMVD가 오프일 때, 예를 들어 풀-펠 MMVD 플래그(예를 들어, slice_fpel_mmvd_enabled_flag)가 0과 동일할 때, MMVD에 의해 미리 정의된 오프셋들의 범위는 1/4 루마 샘플 내지 32 루마 샘플일 수 있다. 풀-펠 MMVD가 오프일 때, 미리 정의된 오프셋은 루마 샘플의 분수(예를 들어, 1/4 픽셀 또는 1/2 픽셀)와 같은 비정수 값을 가질 수 있다. 풀-펠 MMVD가 온일 때, 예를 들어, 풀-펠 MMVD 플래그(예컨대, slice_fpel_mmvd_enabled_flag)가 1과 동일할 때, MMVD에 의해 미리 정의된 오프셋들의 범위는 1 루마 샘플 내지 128 루마 샘플일 수 있다. 일례에서, 풀-펠 MMVD가 온일 때, 미리 정의된 오프셋은 하나 이상의 루마 샘플과 같은 정수 값만을 갖는다.

방향 인덱스는 시작 포인트에 대한 MVD의 방향(또는 모션 방향)을 나타낼 수 있다. 일례에서, 방향 인덱스는 표 3에 표시된 4개의 방향 중 하나를 나타낸다. 표 3에서의 MVD 부호(들)의 의미는 시작 MV(들)의 정보에 따라 변할 수 있다. 일례에서, 시작 MV가 단방향 예측 MV이거나 시작 MV들이 양 기준 리스트들이 현재 픽처의 동일한 측을 가리키는 양방향 예측 MV들일 때(예를 들어, 2개의 기준 픽처들의 POC들이 둘 다 현재 픽처의 POC보다 크거나 2개의 기준 픽처들의 POC들이 둘 다 현재 픽처의 POC보다 작을 때), 표 3의 MVD 부호(들)는 시작 MV에 더해지는 MV 오프셋(또는 MVD)의 부호를 지정한다.

시작 MV들이 2개의 MV가 현재 픽처의 상이한 측들을 가리키는 양방향 예측 MV들일 때(예를 들어, 하나의 기준 픽처의 POC가 현재 픽처의 POC보다 크고, 다른 기준 픽처의 POC가 현재 픽처의 POC보다 작을 때), 표 3의 MVD 부호는 시작 MV의 list0 MV 성분에 더해지는 MV 오프셋(또는 MVD)의 부호를 지정하고 list1 MV에 대한 MVD 부호는 반대 값을 갖는다. 도 19를 참조하면, 시작 MV들(1911 및 1921)은 2개의 MV(1911 및 1921)가 현재 픽처의 상이한 측들을 가리키는 양방향 예측 MV들이다. L1 기준 픽처(1903)의 POC는 현재 픽처의 POC보다 크고, L0 기준 픽처(1902)의 POC는 현재 픽처의 POC보다 작다. 표 2에서 방향 인덱스(예를 들어, 00)에 의해 표시된 MVD 부호(예를 들어, x축에 대한 부호 "+")는 시작 MV(예를 들어, (1911))의 list0 MV 성분에 더해지는 MVD(예를 들어, MVD(1912))의 부호(예를 들어, x축에 대한 부호 "+")를 지정하고, 시작 MV(예를 들어, (1921))의 list1 MV 성분에 대한 MVD(1922)의 MVD 부호는 MVD(1912)의 부호 "+"와 반대인 부호 "-"와 같은 반대 값을 갖는다.

표 3을 참조하면, 방향 인덱스 00은 x축에서의 양의 방향을 표시하고, 방향 인덱스 01은 x축에서의 음의 방향을 표시하고, 방향 인덱스 10은 y축에서의 양의 방향을 표시하고, 방향 인덱스 11은 y축에서의 음의 방향을 표시한다.

신택스 요소 mmvd_merge_flag[x0][y0]은 현재 CU의 MMVD 병합 플래그를 표현하기 위해 사용될 수 있다. 일례에서, 1과 동일한 MMVD 병합 플래그(예를 들어, mmvd_merge_flag[x0][y0])는 MMVD 모드가 현재 CU의 인터 예측 파라미터들을 생성하기 위해 사용된다는 것을 지정한다. 0과 동일한 MMVD 병합 플래그(예를 들어, mmvd_merge_flag[x0][y0])는 MMVD 모드가 인터 예측 파라미터들을 생성하는 데 사용되지 않는다는 것을 지정한다. 어레이 인덱스 x0 및 y0은 픽처(예를 들어, 현재 픽처)의 좌측 상단 루마 샘플에 대한 고려된 코딩 블록(예를 들어, 현재 CB)의 좌측 상단 루마 샘플의 위치 (x0, y0)을 지정할 수 있다.

MMVD 병합 플래그(예를 들어, mmvd_merge_flag[x0][y0])이 현재 CU에 대해 존재하지 않을 때, MMVD 병합 플래그(예를 들어, mmvd_merge_flag[x0][y0])은 현재 CU에 대해 0과 동일한 것으로 추론될 수 있다.

VVC 사양에서와 같은 일부 예들에서, MMVD 병합 플래그(예를 들어, mmvd_merge_flag)를 시그널링하기 위해 단일 컨텍스트가 사용된다. 예를 들어, 단일 컨텍스트는 컨텍스트-적응 이진 산술 코딩(CABAC)에서 MMVD 병합 플래그를 코딩(예를 들어, 인코딩 및/또는 디코딩)하기 위해 사용된다.

신택스 요소 mmvd_cand_flag[x0][y0]은 병합 후보 플래그를 나타낼 수 있다. 일례에서, 병합 후보 플래그(예컨대, mmvd_cand_flag[x0][y0])은 병합 후보 리스트 내의 제1(0) 또는 제2(1) 후보가 거리 인덱스(예컨대, mmvd_distance_idx[x0][y0]) 및 방향 인덱스(예컨대, mmvd_direction_idx[x0][y0])로부터 도출된 MVD와 함께 사용되는지를 지정한다. 어레이 인덱스 x0 및 y0은 픽처(예를 들어, 현재 픽처)의 좌측 상단 루마 샘플에 대한 고려된 코딩 블록(예를 들어, 현재 CB)의 좌측 상단 루마 샘플의 위치 (x0, y0)을 지정할 수 있다.

병합 후보 플래그(예를 들어, mmvd_cand_flag[x0][y0])가 존재하지 않을 때, 병합 후보 플래그(예를 들어, mmvd_cand_flag[x0][y0])는 0과 동일한 것으로 추론될 수 있다.

신택스 요소 mmvd_distance_idx[x0][y0]는 거리 인덱스를 표현할 수 있다. 일례에서, 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])는 표 4에 지정된 바와 같은 MmvdDistance[x0][y0]를 도출하는 데 사용되는 인덱스를 지정한다. 어레이 인덱스 x0 및 y0은 픽처(예를 들어, 현재 픽처)의 좌측 상단 루마 샘플에 대한 고려된 코딩 블록(예를 들어, 현재 CB)의 좌측 상단 루마 샘플의 위치 (x0, y0)를 지정할 수 있다.

표 4의 제1 열은 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])를 나타낸다. 표 4의 제2 열은 풀-펠 MMVD가 오프일 때, 예를 들어, 풀-펠 MMVD 플래그(예를 들어, slice_fpel_mmvd_enabled_flag)가 0과 동일할 때, 모션 크기(예를 들어, MmvdDistance[x0][y0])를 나타낸다. 표 4의 제3 열은 풀-펠 MMVD가 온일 때, 예를 들어, 풀-펠 MMVD 플래그(예를 들어, slice_fpel_mmvd_enabled_flag)가 1과 동일할 때, 모션 크기(예를 들어, MmvdDistance[x0][y0])를 나타낸다.

일례에서, 표 4의 제2 열 및 제3 열의 단위들은 1/4 루마 샘플이다. 표 4의 제1 행을 참조하면, 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])가 0일 때, 모션 크기(예를 들어, MmvdDistance[x0][y0])는 풀-펠 MMVD가 오프일 때(예를 들어, slice_fpel_mmvd_enabled_flag가 0일 때) 1이다. 모션 크기(예를 들어, MmvdDistance[x0][y0])는 1x1/4 루마 샘플 또는 1/4 루마 샘플이다. 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])가 0일 때, 모션 크기(예를 들어, MmvdDistance[x0][y0])는 풀-펠 MMVD가 온일 때(예를 들어, slice_fpel_mmvd_enabled_flag가 1일 때) 4이다. 모션 크기(예를 들어, MmvdDistance[x0][y0])는 4x1/4 루마 샘플 또는 1 루마 샘플이다.

일례에서, 표 4의 제2 열(1/4 루마 샘플 단위)은 표 1의 제2 행(루마 샘플 단위)에 대응하고, 표 4의 제3 열(1/4 루마 샘플 단위)은 표 2의 제3 행(루마 샘플 단위)에 대응한다.

신택스 요소 mmvd_direction_idx[x0][y0]는 방향 인덱스를 표현할 수 있다. 일례에서, 방향 인덱스(예를 들어, mmvd_direction_idx[x0][y0])는 표 5에 지정된 바와 같이 모션 방향(예를 들어, MmvdSign[x0][y0])을 도출하기 위해 사용되는 인덱스를 지정한다. 어레이 인덱스 x0 및 y0은 픽처(예를 들어, 현재 픽처)의 좌측 상단 루마 샘플에 대한 고려된 코딩 블록(예를 들어, 현재 CB)의 좌측 상단 루마 샘플의 위치 (x0, y0)를 지정한다. 표 4의 제1 열은 방향 인덱스(예컨대, mmvd_distance_idx[x0][y0])를 나타낸다. 표 5의 제2 열은 MVD의 제1 성분(예를 들어, MVD_x 또는 MmvdOffset[x0][y0][0])의 제1 부호(예를 들어, MmvdSign[x0][y0][0])를 나타낸다. 표 5의 제3 열은 MVD의 제2 성분(예를 들어, MVD_y 또는 MmvdOffset[x0][y0][1])의 제2 부호(예를 들어, MmvdSign[x0][y0][1])를 나타낸다.

MVD의 제1 성분(예컨대, MmvdOffset[x0][y0][0]) 및 제2 성분(예컨대, MmvdOffset[x0][y0][1]), 또는 오프셋 MmvdOffset[x0][y0]은 다음과 같이 도출될 수 있다:

일례에서, 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])는 3이고, 방향 인덱스(예를 들어, mmvd_distance_idx[x0][y0])는 2이다. 표 5 및 방향 인덱스(예를 들어, mmvd_direction_idx[x0][y0])가 2인 것에 기초하여, MVD의 제1 성분(예를 들어, MVD_x 또는 MmvdOffset[x0][y0][0])의 제1 부호(예를 들어, MmvdSign[x0][y0][0])는 0이고, MVD의 제2 성분(예를 들어, MVD_y 또는 MmvdOffset[x0][y0][1])의 제2 부호(예를 들어, MmvdSign[x0][y0][1])는 "+1"이다. 이 예에서, MVD는 양의 수직 방향(+y)을 따르고 수평 성분을 갖지 않는다.

풀-펠 MMVD 플래그(예를 들어, slice_fpel_mmvd_enabled_flag)가 0과 동일하고 풀-펠 MMVD가 오프일 때, 표 4 및 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])가 3인 것에 기초하여, MmvdDistance[x0][y0]에 의해 표시된 모션 크기는 8이다. 수학식 10-11에 기초하여, MVD의 제1 성분(예를 들어, MmvdOffset[x0][y0][0])은 (8<<2)x0=0이고, MVD의 제2 성분(예를 들어, MmvdOffset[x0][y0][1])은 (8<<2)x(+1)=2(루마 샘플)이다.

풀-펠 MMVD 플래그(예를 들어, slice_fpel_mmvd_enabled_flag)가 1이고, 풀-펠 MMVD가 온일 때, 표 4 및 거리 인덱스(예를 들어, mmvd_distance_idx[x0][y0])가 3인 것에 기초하여, MmvdDistance[x0][y0]에 의해 표시되는 모션 크기는 32이다. 수학식 35 및 수학식 36에 기초하여, MVD의 제1 성분(예를 들어, MmvdOffset[x0][y0][0])은 (32<<2)x0=0이고, MVD의 제2 성분(예를 들어, MmvdOffset[x0][y0][1])은 (32<<2)x(+1)=8(루마 샘플)이다.

본 개시의 일 양태에 따르면, 아핀 MMVD(affine merge with motion vector difference)가 비디오 코딩에서 사용될 수 있다. 아핀 MMVD는 서브블록 기반 병합 리스트로부터 이용가능한 아핀 병합 후보를 기본 예측기로서 선택한다. 아핀 MMVD는 모션 벡터 오프셋을 기본 예측기로부터의 각각의 제어 포인트의 모션 벡터 값에 적용한다. 일례에서, 아핀 병합 후보가 이용가능하지 않을 때, 아핀 MMVD는 사용되지 않을 것이다. 일부 예들에서, 거리 인덱스 및 오프셋 방향 인덱스가 후속하여 시그널링될 수 있다.

일부 예들에서, 거리 인덱스는 표 6에 표시된 바와 같이, 오프셋 표로부터 어느 거리 오프셋을 사용할지를 표시하기 위해 시그널링된다:

일부 예들에서, 방향 인덱스는 표 7에 표시된 바와 같이 4개의 방향을 나타낼 수 있고, 여기서 x 또는 y 방향만이 MV 차이를 가질 수 있지만, 양 방향들에서는 그렇지 않다.

일부 예들에서, 인터 예측은 단방향 예측이고, 시그널링된 거리 오프셋은 각각의 제어 포인트의 MV 값을 포함하는 결과들을 생성하기 위해 각각의 제어 포인트 예측기에 대한 오프셋 방향에 적용된다.

일부 예들에서, 인터 예측은 양방향 예측이고, 시그널링된 거리 오프셋은 제어 포인트 예측기의 L0 모션 벡터에 대한 시그널링된 오프셋 방향에 적용될 수 있고, L1 MV에 적용될 오프셋은 다음의 지정된 예에서와 같이 미러링 또는 스케일링 방식으로 적용될 수 있다.

특정 예에서, 인터 예측은 양방향 예측이고, 시그널링된 거리 오프셋은 제어 포인트 예측기의 L0 모션 벡터에 대한 시그널링된 오프셋 방향에 적용된다. L1 CPMV의 경우, 오프셋은 미러링 방식으로 적용되며, 이는 반대 방향을 갖는 동일한 양의 거리 오프셋이 적용됨을 의미한다.

다른 특정 예에서, POC 거리 기반 오프셋 미러링 방법이 양방향 예측을 위해 사용된다. 기본 후보가 양방향 예측될 때, L0에 적용되는 오프셋은 시그널링된 바와 같고, L1 상의 오프셋은 리스트 L0 및 리스트 L1 상의 기준 픽처들의 시간 위치에 의존한다. 예를 들어, 양 기준 픽처들이 현재 픽처의 동일한 시간 측에 있을 때, 동일한 거리 오프셋 및 동일한 오프셋 방향들이 L0 및 L1 모두의 CPMV들에 적용된다. 다른 예에서, 2개의 기준 픽처가 현재 픽처의 상이한 측들에 있을 때, L1의 CPMV들은 반대 오프셋 방향으로 적용되는 거리 오프셋들을 가질 수 있다.

다른 특정 예에서, POC 거리 기반 오프셋 스케일링 방법이 양방향 예측을 위해 사용된다. 기본 후보가 양방향 예측될 때, L0에 적용되는 오프셋은 시그널링된 바와 같고, L1 상의 오프셋은 리스트 0 및 리스트 1 상의 기준 픽처들의 시간 거리에 기초하여 스케일링될 수 있다.

일부 예들에서, 거리 오프셋 값 범위는 확장된다. 예를 들어, 거리 오프셋 값들의 3개의 세트가 제공될 수 있고, 거리 오프셋 값들의 세트는 픽처 해상도에 기초하여 적응적으로 선택될 수 있다. 일례에서, 오프셋 표는 픽처 해상도에 기초하여 선택된다. 표 8은 상이한 픽처 해상도들과 각각 연관된 거리 오프셋 값들의 3개의 세트를 포함하는 확장된 거리 오프셋 표의 예를 나타낸다. 거리 오프셋 값들의 세트는 픽처 해상도에 기초하여 선택될 수 있다.

템플릿 매칭(TM) 기술이 비디오/이미지 코딩에 사용될 수 있다. 예를 들어, VVC 표준의 압축 효율을 추가로 개선하기 위해, TM이 MV를 정제하는 데 사용될 수 있다. 일례에서, TM은 디코더 측에서 사용된다. TM 모드에서, MV는 현재 픽처 내의 블록(예를 들어, 현재 블록)의 템플릿(예를 들어, 현재 템플릿)을 구성하고 현재 픽처 내의 블록의 템플릿과 기준 픽처 내의 복수의 가능한 템플릿(예를 들어, 복수의 가능한 기준 템플릿) 사이의 가장 가까운 매칭을 결정함으로써 정제될 수 있다. 일 실시예에서, 현재 픽처 내의 블록의 템플릿은 블록의 좌측의 이웃하는 재구성된 샘플들 및 블록의 위의 이웃하는 재구성된 샘플들을 포함할 수 있다. TM은 VVC를 넘어서 비디오/이미지 코딩에서 사용될 수 있다.

도 21은 템플릿 매칭(2100)의 예를 도시한다. TM은 현재 픽처(2110) 내의 현재 CU(2101)의 템플릿(예를 들어, 현재 템플릿)(2121)과 기준 픽처(2111) 내의 복수의 가능한 템플릿 중의 템플릿(예를 들어, 기준 템플릿)(예를 들어, 템플릿(2125)인 복수의 가능한 템플릿 중 하나) 사이의 가장 가까운 매칭을 결정함으로써 현재 CU(예를 들어, 현재 블록)(2101)의 모션 정보를 도출하는(예를 들어, 초기 MV(2102)와 같은 초기 모션 정보로부터 최종 모션 정보를 도출하는) 데 사용될 수 있다. 현재 CU(2101)의 템플릿(2121)은 임의의 적합한 형상 및 임의의 적합한 크기를 가질 수 있다.

일 실시예에서, 현재 CU(2101)의 템플릿(2121)은 상단 템플릿(2122) 및 좌측 템플릿(2123)을 포함한다. 상단 템플릿(2122) 및 좌측 템플릿(2123) 각각은 임의의 적합한 형상 및 임의의 적합한 크기를 가질 수 있다.

상단 템플릿(2122)은 현재 CU(2101)의 하나 이상의 상단 이웃 블록 내의 샘플들을 포함할 수 있다. 일례에서, 상단 템플릿(2122)은 현재 CU(2101)의 하나 이상의 상단 이웃 블록 내의 샘플들의 4개의 행을 포함한다. 좌측 템플릿(2123)은 현재 CU(2101)의 하나 이상의 좌측 이웃 블록 내의 샘플들을 포함할 수 있다. 일례에서, 좌측 템플릿(2123)은 현재 CU(2101)의 하나 이상의 좌측 이웃 블록 내의 샘플들의 4개의 열을 포함한다.

기준 픽처(2111) 내의 복수의 가능한 템플릿의 각각의 템플릿(예를 들어, 템플릿(2125))은 현재 픽처(2110) 내의 템플릿(2121)에 대응한다. 일 실시예에서, 초기 MV(2102)는 현재 CU(2101)로부터 기준 픽처(2111) 내의 기준 블록(2103)을 가리킨다. 기준 픽처(2111) 내의 복수의 가능한 템플릿의 각각의 템플릿(예를 들어, 템플릿(2125)) 및 현재 픽처(2110) 내의 템플릿(2121)은 동일한 형상 및 동일한 크기를 가질 수 있다. 예를 들어, 기준 블록(2103)의 템플릿(2125)은 기준 픽처(2111) 내의 상단 템플릿(2126) 및 기준 픽처(2111) 내의 좌측 템플릿(2127)을 포함한다. 상단 템플릿(2126)은 기준 블록(2103)의 하나 이상의 상단 이웃 블록 내의 샘플들을 포함할 수 있다. 좌측 템플릿(2127)은 기준 블록(2103)의 하나 이상의 좌측 이웃 블록 내의 샘플들을 포함할 수 있다.

TM 비용은 템플릿(예를 들어, 현재 템플릿)(2121) 및 템플릿(예를 들어, 기준 템플릿)(2125)과 같은 템플릿들의 쌍에 기초하여 결정될 수 있다. TM 비용은 템플릿(2121)과 템플릿(2125) 사이의 매칭을 표시할 수 있다. 최적화된 MV(또는 최종 MV)는 검색 범위(2115) 내에서 현재 CU(2101)의 초기 MV(2102) 주위의 검색에 기초하여 결정될 수 있다. 검색 범위(2115)는 임의의 적합한 형상 및 임의의 적합한 수의 기준 샘플들을 가질 수 있다. 일례에서, 기준 픽처(2111) 내의 검색 범위(2115)는 [-L, L]-펠 범위를 포함하고, 여기서 L은 양의 정수, 예컨대 8(예를 들어, 8 샘플)이다. 예를 들어, 차이(예를 들어, [0, 1])는 검색 범위(2115)에 기초하여 결정되고, 중간 MV는 초기 MV(2102)와 차이(예를 들어, [0, 1])의 합산에 의해 결정된다. 중간 기준 블록 및 기준 픽처(2111) 내의 대응하는 템플릿은 중간 MV에 기초하여 결정될 수 있다. TM 비용은 템플릿(2121) 및 기준 픽처(2111) 내의 중간 템플릿에 기초하여 결정될 수 있다. TM 비용들은 검색 범위(2115)에 기초하여 결정되는 차이들(예를 들어, 초기 MV(2102)에 대응하는 [0, 0], [0, 1] 등)에 대응할 수 있다. 일례에서, 최소 TM 비용에 대응하는 차이가 선택되고, 최적화된 MV는 최소 TM 비용에 대응하는 차이와 초기 MV(2102)의 합이다. 전술한 바와 같이, TM은 초기 모션 정보(예로서, 초기 MV(2102))로부터 최종 모션 정보(예로서, 최적화된 MV)를 도출할 수 있다.

도 21의 예에서, [-8펠, +8펠]과 같은 검색 범위 내에서 현재 CU의 초기 모션 벡터 주위에서 더 양호한 MV가 검색될 수 있다.

TM은 아핀 AMVP 모드, 아핀 병합 모드와 같은 아핀 모드에서 적용될 수 있고, 아핀 TM이라고 지칭될 수 있다. 도 22는 아핀 병합 모드에서와 같은 TM(2200)의 예를 도시한다. 현재 블록(예를 들어, 현재 CU)(2201)의 템플릿(2221)은 병진 모션 모델에 적용된 TM에서의 템플릿(예를 들어, 도 21의 템플릿(2121))에 대응할 수 있다. 기준 픽처 내의 기준 블록의 기준 템플릿(2225)은 블록 경계들에서 이웃 서브블록들(예를 들어, 도 22에 도시된 바와 같은 A₀-A₃ 및 L₀-L₃)의 제어 포인트 MV(CPMV)-도출된 MV들이 가리키는 다수의 서브블록 템플릿들(예를 들어, 4x4 서브블록들)을 포함할 수 있다.

아핀 모드(예를 들어, 아핀 병합 모드)에서 적용되는 TM의 검색 프로세스는 다른 CPMV(들)(예를 들어, (i) 4-파라미터 모델이 사용되는 경우 CPMV1 또는 (ii) 6-파라미터 모델이 사용되는 경우 CPMV1 및 CPMV2)를 일정하게 유지하면서 CPMV0으로부터 시작할 수 있다. 검색은 수평 방향 및 수직 방향을 향해 수행될 수 있다. 일례에서, 제로 벡터가 수평 검색 및 수직 검색으로부터 발견된 최상의 차이 벡터가 아닌 경우에만 대각선 방향(들)의 검색이 이어진다. 아핀 TM은 CPMV1에 대해 동일한 검색 프로세스를 반복할 수 있다. 아핀 TM은 6-파라미터 모델이 사용되는 경우 CPMV2에 대해 동일한 검색 프로세스를 반복할 수 있다. 정제된 CPMV들에 기초하여, 제로 벡터가 이전 반복으로부터의 최상의 차이 벡터가 아니고 검색 프로세스가 3회 미만으로 반복되었다면, 전체 검색 프로세스는 정제된 CPMV0으로부터 재시작될 수 있다.

본 개시의 일 양태에 따르면, 템플릿 매칭 기반 후보 재정렬 기술들은 시그널링 오버헤드를 감소시키기 위해 사용될 수 있다. 예를 들어, 템플릿 매칭을 이용한 병합 후보들의 적응적 재정렬(ARMC-TM: adaptive reordering of merge candidates with template matching)이라고 하는 기술들이 사용될 수 있다.

일부 예들에서, ARMC-TM을 사용하여, 병합 후보들이 템플릿 매칭(TM)를 이용하여 적응적으로 재정렬된다. ARMC-TM은 정규 병합 모드, 템플릿 매칭(TM) 병합 모드 및 (SbTMVP 후보를 제외하는) 아핀 병합 모드에 적용될 수 있다. TM 병합 모드의 경우, 정제 프로세스 전에 병합 후보들이 재정렬된다.

일부 예들에서, ARMC-TM을 사용하여, 병합 후보 리스트가 구성된 후, 병합 후보들은 여러 개의 서브그룹으로 분할된다. 일례에서, 서브그룹 크기는 정규 병합 모드와 TM 병합 모드에 대해 5로 설정된다. 다른 예에서, 서브그룹 크기는 아핀 병합 모드에 대해 3으로 설정된다. 각각의 서브그룹 내의 병합 후보들은 템플릿 매칭에 기초하여 비용 값들에 따라 오름차순으로 재정렬된다. 단순화를 위해 제1 서브그룹이 아닌 마지막 서브그룹 내의 병합 후보들은 일부 예들에서 재정렬되지 않는다.

병합 후보의 템플릿 매칭 비용은 현재 블록의 템플릿의 샘플들과 템플릿에 대한 대응하는 기준 샘플들(일례에서 기준 템플릿이라고도 함) 간의 절대 차이 합(SAD: sum of absolute differences)에 의해 측정된다. 템플릿은 현재 블록에 이웃하는 재구성된 샘플들의 세트를 포함한다. 템플릿의 기준 샘플들은 병합 후보의 모션 정보에 따라 위치된다.

병합 후보가 양방향 예측을 이용할 때, 병합 후보의 템플릿의 기준 샘플들은 또한 양방향 예측에 의해 생성된다.

도 23은 양방향 예측의 병합 후보에 대한 현재 블록의 템플릿의 기준 샘플들을 예시하는 도면을 도시한다. 도 23에서, 현재 픽처(2310)는 코딩을 위한 현재 블록을 포함한다. 병합 후보가 양방향 예측 병합 후보일 때, 병합 후보의 MV는 기준 픽처(2320) 내의 제1 기준 블록 및 제2 기준 픽처(2330) 내의 제2 기준 블록을 가리킬 수 있다. 현재 블록의 템플릿은 (T)로 표시되며, 템플릿은 현재 블록에 이웃하는 재구성된 샘플들의 세트를 포함한다. 템플릿의 기준 샘플들의 제1 세트는 제1 기준 블록에 이웃하는 제1 기준 픽처(2320) 내에 있고, 템플릿의 기준 샘플들의 제2 세트는 제2 기준 블록에 이웃하는 제2 기준 픽처(2330) 내에 있다. 일례에서, 양방향 예측의 병합 후보의 템플릿 매칭 비용은 현재 블록의 템플릿의 샘플들과 템플릿의 기준 샘플들의 제1 세트 사이의 제1 절대 차이 합(SAD)과 현재 블록의 템플릿의 샘플들과 템플릿의 기준 샘플들의 제2 세트 사이의 제2 절대 차이 합(SAD)의 덧셈에 의해 계산된다.

일부 예들에서, 병합 후보들은 서브블록 기반 병합 후보들일 수 있다. 일례에서, 서브블록 크기가 Wsub x Hsub인 서브블록 기반 병합 후보에 대해, 위의 템플릿은 Wsub x 1 크기의 여러 개의 서브템플릿을 포함할 수 있고, 좌측 템플릿은 1 x Hsub 크기의 여러 개의 서브템플릿을 포함할 수 있다. Wsub는 서브블록의 폭일 수 있고, Hsub는 서브블록의 높이일 수 있다.

서브블록 기반 병합 후보를 갖는 현재 블록에 대한 템플릿 및 템플릿의 기준 샘플들의 예시적인 도출이 도 24에 도시될 수 있다. 도 24에 도시된 바와 같이, 현재 픽처(2404)에 현재 블록(2402)이 포함될 수 있다. 현재 블록(2402)은 제1 행 및 제1 열 내의 서브블록들(A-G)을 포함할 수 있다. 현재 블록(2402)은 현재 블록(2402)의 상단측 및 좌측에 인접한 템플릿들(2406)을 포함할 수 있다. 현재 블록(2402)에 대한 병치된 블록(2408)은 기준 픽처(2410) 내에 있다. 병치된 블록(2408)은 현재 블록(2402) 내의 서브블록들(A-G)에 대응하는 제1 행 및 제1 열 내의 서브블록들(A-G)을 포함할 수 있다. 현재 블록(2402)의 제1 행 및 제1 열 내의 서브블록들(A-G)의 서브블록 모션 정보(예를 들어, 아핀 모션 벡터에 대응함)는 병치된 블록(2408)의 서브템플릿들(또는 서브 기준 템플릿들)의 기준 샘플들을 도출하는 데 사용될 수 있다. 예를 들어, 현재 블록(2402)의 서브블록들(A, E, F, G)의 모션 정보는 병치된 블록(2408)의 서브블록들(A, E, F, G)의 좌측들에 인접하게 위치되는 서브템플릿들의 기준 샘플들을 도출하기 위해 적용될 수 있다. 병치된 블록(2408)의 서브블록들(A, E, F, G)의 좌측들에 인접한 서브템플릿들은 병치된 블록(2408)의 좌측 기준 템플릿을 형성할 수 있다. 현재 블록(2402)의 서브블록들(A, B, C, D)의 모션 정보는 병치된 블록(2408)의 서브블록들(A, B, C, D)의 상단측들에 인접하게 위치되는 서브템플릿의 기준 샘플들을 도출하기 위해 적용될 수 있다. 병치된 블록(2408)의 서브블록들(A, B, C, D)의 상단측들에 인접한 서브템플릿들은 병치된 블록(2408)의 위의 기준 템플릿을 더 형성할 수 있다.

일부 예들에서, MV 후보 유형 기반 ARMC가 사용될 수 있다. 예를 들어, TMVP 또는 비인접-MVP(NA-MVP: Non-Adjacent MVP)와 같은 하나의 단일 후보 유형의 병합 후보들은 ARMC TM 비용 값들에 기초하여 재정렬된다. 이어서, 재정렬된 후보들은 병합 후보 리스트에 추가된다. 예를 들어, TMVP 후보 유형 ARMC는 재정렬 및 선택을 수행하기 위해 더 많은 시간 위치들 및 상이한 인터 예측 방향들을 갖는 더 많은 TMVP 후보들을 추가할 수 있다. 또한, NA-MVP 후보 유형 ARMC는 공간적으로 더 인접하지 않은 위치들을 갖는 비인접 MVP들을 확장한다. TMVP 후보의 타깃 기준 픽처는 스케일링 인자에 따라 리스트 내의 기준 픽처들 중 어느 하나로부터 선택될 수 있다. 예를 들어, 선택된 기준 픽처는 스케일링 인자가 1에 가장 가까운 픽처이다.

본 개시의 일 양태에 따르면, 템플릿 매칭 기반 후보 재정렬이 MMVD 및 아핀 MMVD에 대해 수행될 수 있다.

일부 예들에서, MMVD 오프셋들은 MMVD 및 아핀 MMVD 모드들에 대한 더 많은 위치들로 확장된다.

도 25는 MMVD에 대해 정제 위치들이 추가될 수 있는 방향들을 예시하는 도면을 도시한다. 도 25에서, kxπ/8 대각선 각도들을 따른 추가적인 정제 위치들이 추가되고, 여기서 k는 정수이다. 위치(2501)는 기본 후보에 대응하고 시작 포인트일 수 있으며, 위치들(2511-2514)은 각각 0, π/2, π, 및 3π/2의 방향들에 있다. 더 많은 방향들이 추가된다. 예를 들어, 위치들(2521-2524)은 각각 π/4, 3π/4, 5π/4, 및 7π/4의 방향들에 있고; 위치들(2531-2538)은 각각 π/8, 3π/8, 5π/8, 7π/8, 9π/8, 11π/8, 13π/8, 및 15π/8의 방향들에 있다. 따라서, 방향들의 수는 4에서 16으로 증가된다. 또한, 일례에서, 각각의 방향은 6개의 MMVD 정제 위치를 가질 수 있다. 가능한 MMVD 정제 위치들의 총 수는 16x6이다.

본 개시의 일 양태에 따르면, 각각의 정제 위치에 대해 현재 템플릿(예를 들어, 현재 블록 위의 하나의 행 및 좌측의 하나의 열)과 기준 템플릿 사이의 SAD 비용이 계산될 수 있다. 정제 위치들의 SAD 비용들에 기초하여, 각각의 기본 후보에 대한 모든 가능한 MMVD 정제 위치들(16x6)이 재정렬된다. 그 후, 예컨대 가장 작은 템플릿 SAD 비용들을 갖는 상단 1/8 정제 위치들(예를 들어, 12)과 같은 정제 위치들의 상단 부분이 결과적으로 MMVD 인덱스 코딩을 위해 이용가능한 위치들로서 유지된다. MMVD 인덱스는 파라미터가 2인 라이스 코드(rice code)에 의해 이진화된다.

일부 예들에서, 아핀 MMVD에 대한 정제 위치들이 증가될 수 있고, 템플릿 매칭 기반 후보 재정렬이 아핀 MMVD 재정렬에 적용될 수 있다. 예를 들어, 아핀 MMVD 정제 위치들은 각각 0, π/4, π/2, 3π/4, π, 5π/4, 3π/2 및 7π/4의 8개의 방향과 같은, kxπ/4 대각선 각도들을 따르는 방향들에 있다. 각각의 방향은 6개의 아핀 MMVD 정제 위치를 가질 수 있다. 가능한 아핀 MMVD 정제 위치들의 총 수는 8x6이다. 일례에서, 각각의 정제 위치에 대해 현재 템플릿(예를 들어, 현재 블록 위의 하나의 행과 좌측의 하나의 열)과 기준 템플릿 사이의 SAD 비용이 계산될 수 있다. 정제 위치들의 SAD 비용들에 기초하여, 각각의 기본 후보에 대한 모든 가능한 아핀 MMVD 정제 위치들(8x6)이 재정렬된다. 그 후, 예컨대 가장 작은 템플릿 SAD 비용들을 갖는 상단 1/2 정제 위치들(예를 들어, 24)과 같은 정제 위치들의 상단 부분은 결과적으로 아핀 MMVD 인덱스 코딩을 위해 이용가능한 위치들로서 유지된다.

일부 예들에서는 템플릿 매칭 비용에 기초하여 다양성 재정렬이 적용된다. 다양성 재정렬은 다양성을 높이고 인덱스 코딩 효율을 향상시킬 수 있다. 일부 예들에서는 병합 후보 리스트 내에서 다양성을 생성하기 위해 레이트 왜곡(RD) 의미에서 너무 중복되는 후보들이 검출된다. 일례에서, |D1-D2|<λ로 표현되는 것과 같이 후보와 그의 전임자 사이의 템플릿 매칭 비용 차이가 람다 값보다 작은 경우에 후보는 중복된 것으로 간주되며, 여기서 D1 및 D2는 제1 ARMC 정렬 중에 획득된 템플릿 매칭 비용들이고, λ는 인코더 측에서 RD 기준에 사용되는 라그랑주 파라미터이다.

일부 예들에서, 다양성 재정렬을 위한 알고리즘이 실행될 수 있다. 알고리즘은 병합 후보 리스트에 있는 모든 후보들 중에서 각각의 후보와 그의 전임자 사이의 최소 템플릿 매칭 비용 차이를 결정할 수 있다. 최소 템플릿 매칭 비용 차이가 λ보다 높거나 같으면, 병합 후보 리스트가 충분히 다양한 것으로 간주되고, 재정렬이 중지된다. 최소 템플릿 매칭 비용 차이가 λ보다 낮으면, 최소 템플릿 매칭 비용 차이를 갖는 후보는 중복인 것으로 간주되고, 후보는 병합 후보 리스트에서 더 먼 위치로 이동된다. 더 먼 위치는 후보가 그의 전임자에 비해 충분히 다양한 제1 위치이다.

알고리즘은 유한 수의 반복 후에(최소 비용 차이가 λ보다 낮지 않은 경우) 중지될 수 있다.

일부 예들에서, 알고리즘은 ECM-5.0에서 정규 병합 모드, 템플릿 매칭과의 병합 모드, 양측 매칭과의 병합 모드, 아핀 병합 모드 등과 같은 다양한 병합 모드들에 적용된다. 일부 예들에서, 유사한 알고리즘이 재정렬을 위해 ARMC를 또한 사용하는 병합 MMVD 및 부호 MVD 예측 방법들에 적용된다.

일부 예들에서, λ의 값은 저지연 구성을 위해 인코더 측에서 최상의 병합 후보를 선택하기 위해 사용되는 레이트 왜곡 기준의 λ 및 랜덤 액세스 구성을 위한 QP에 대응하는 값 λ와 동일하게 설정된다. 일부 예들에서, 각각의 시그널링된 QP 오프셋에 대응하는 λ 값들의 세트가 SPS에서 또는 SPS에 존재하지 않는 QP 오프셋들에 대한 슬라이스 헤더에서 제공된다.

일부 예들에서, MVD 부호 예측 기술들이 사용된다. 일례에서, 가능한 MVD 부호 조합들(예를 들어, x 방향 및 y 방향의 부호들의 다양한 조합들)은 가능한 MVD 부호 조합들의 템플릿 매칭 비용들에 따라 분류되고, 참 MVD 부호 조합에 대응하는 인덱스가 도출되고 컨텍스트 코딩된다. MVD 부호 예측 기술들에 따르면, 참 MVD 부호 조합은 분류된 순서의 앞 부분에서 높은 가능성을 갖는다. 따라서, 낮은 시그널링 비용으로 인덱스를 시그널링하기 위해 적합한 시그널링 기술들이 사용될 수 있다.

일례에서, 디코더 측에서, 참 MVD 부호가 도출될 수 있다. 예를 들어, MVD 성분들의 크기는 파싱될 수 있고, 컨텍스트 코딩된 MVD 부호 예측 인덱스는 비디오를 운반하는 비트스트림으로부터 파싱된다. 또한, MV 후보들은 가능한 MVD 부호 조합들 및 MVD 성분들의 크기로부터 조합들을 생성함으로써 형성될 수 있으며, MV 후보들은 MV 예측기 리스트에 추가될 수 있다. MV 예측기 리스트 내의 MV 후보들에 대한 템플릿 매칭 비용들이 계산될 수 있다. MV 예측기 리스트 내의 MV 후보들은 템플릿 매칭 비용들에 따라 분류될 수 있다. 이어서, 컨텍스트 코딩된 MVD 부호 예측 인덱스는 MV 예측기 리스트에서 참 MVD 부호 조합을 선택하는 데 사용된다. MVD 부호 예측 기술들은 인터 AMVP, 아핀 AMVP, MMVD 및 아핀 MMVD 모드들과 같은 MVD를 수반하는 다양한 모드들에 적용될 수 있다.

일부 예들에서, 히스토리 파라미터 기반 아핀 모델 상속이라고 하는 기술들이 사용될 수 있다. 구체적으로, 일부 예들에서, 제1 히스토리 파라미터 표(HPT) 및 제2 HPT가 확립된다.

도 26은 일부 예들에서의 제1 HPT 및 제2 HPT를 예시하는 도면(2600)을 도시한다.

도 26에 도시된 바와 같이, 제1 HPT의 엔트리는 a, b, c 및 d와 같은 아핀 모델에 대한 아핀 파라미터들의 세트를 저장하고, 아핀 파라미터들 각각은 16비트 유부호 정수로 표현된다. 제1 HPT 내의 엔트리들은 기준 리스트(예를 들어, 기준 픽처 리스트 L0 또는 기준 픽처 리스트 L1) 및 기준 인덱스에 의해 카테고리화된다. 제1 HPT 내의 각각의 기준 리스트에 대해 5개의 기준 인덱스가 지원된다. 공식화 방식에서, 일례에서, (HPTCat으로 표시되는) 제1 HPT의 카테고리는 수학식 42로서 계산된다:

여기서, RefList는 기준 픽처 리스트(0 또는 1)를 나타내고, RefIdx는 기준 인덱스를 나타낸다.

각각의 카테고리에 대해, 최대 7개의 엔트리가 저장될 수 있으므로 제1 HPT에는 총 70개의 엔트리가 있을 수 있다. 각각의 CTU 행의 시작에서, 각각의 카테고리에 대한 엔트리들의 수는 0으로 초기화된다. 기준 리스트 RefList_cur 및 RefIdx_cur를 이용하여 아핀 코딩된 CU를 디코딩한 후, 아핀 파라미터들을 이용하여 HMVP 표 업데이트와 유사한 방식으로 카테고리 HPTCat(RefList_cur, RefIdx_cur)의 엔트리들을 업데이트한다.

일부 예들에서, 히스토리 아핀 파라미터 기반 후보(HAPC)는 도 26에서 A0, A1, A2, B0, B1, B2 또는 B3으로 표시된 7개의 이웃 4x4 블록 중 하나 및 제1 HPT 내의 대응하는 엔트리에 저장된 아핀 파라미터들의 세트로부터 도출된다. 이웃 4x4 블록의 MV는 기본 MV의 역할을 한다. 공식화 방식에서, 위치 (x, y)에서의 현재 블록의 MV는 수학식 43으로서 계산된다:

여기서, 는 이웃 4x4 블록의 MV를 나타내고, 는 이웃 4x4 블록의 중심 위치를 나타낸다. (x, y)는 현재 블록에 대한 코너 위치 MV(CPMV)들을 획득하기 위한 현재 블록의 좌측 상단, 우측 상단 및 좌측 하단 코너일 수 있거나, (x, y)는 현재 블록에 대한 정규 MV를 획득하기 위한 현재 블록의 중심일 수 있다.

기본 MV 정보를 갖는 제2 히스토리 파라미터 표(HPT)도 첨부된다. 제2 HPT는 9개의 엔트리를 포함할 수 있고, 엔트리는 기본 MV, 기준 인덱스 및 각각의 기준 리스트에 대한 4개의 아핀 파라미터, 및 기본 위치를 포함할 수 있다. 일례에서, 추가적인 병합 HAPC는 제 2 HPT의 엔트리에 저장된 기본 MV 정보 및 대응하는 아핀 모델(예를 들어, 아핀 파라미터들)로부터 생성될 수 있다.

또한, 일부 예들에서, 쌍별 아핀 병합 후보들은 히스토리 도출되거나 히스토리 도출되지 않은 2개의 아핀 병합 후보에 의해 생성된다. 일례에서, 쌍별 아핀 병합 후보들은 후보 리스트 내의 기존 아핀 병합 후보들의 CPMV들을 평균함으로써 생성된다.

일부 예들에서, 새로운 HAPC들이 도입되는 것에 대한 응답으로서, 서브블록 기반 병합 후보 리스트의 크기는 5에서 15로 증가되며, 이는 모두 ARMC 프로세스에 포함될 수 있다.

위의 설명에서, HPT들(예를 들어, 제1 HPT 및 제2 HPT)은 온라인으로 업데이트된다. HPT가 1 라인 업데이트되는 것 외에도, 현재 CTU 위의/위의 우측의 CTU에 저장된 HPT들은 일부 예들에서 현재 CTU 내의 블록들에 의해 사용될 수 있다. CTU를 코딩/디코딩한 후, HPT들은 다음 CTU 행에서 사용하기 위해 라인 버퍼에 저장될 수 있다.

도 27은 일부 예들에서의 라인 버퍼에 저장된 히스토리 파라미터 표들을 예시하는 도면을 도시한다. 도 27에서, 픽처(2700)은 CTU들로 분할된다. 도 27은 CTU 행 k 및 CTU 행 k+1을 도시한다. 현재 CTU(2710)는 CTU 행 k+1에 있다. 현재 블록(2711)의 코딩을 위해, 현재 CTU(2710) 위의 CTU에 저장된 HPT들(2701) 및 현재 CTU(2710) 우측 위의 CTU에 저장된 HPT들(2702)은 일부 예들에서 현재 CTU 내의 블록들에 의해 사용될 수 있다. HPT들(예를 들어, 제1 HPT 및 제2 HPT)은 온라인으로 업데이트되며, 현재 CTU 내의 마지막 코딩 블록의 디코딩 후에 현재 CTU(2710)의 라인 버퍼에 저장된다.

본 개시의 일 양태에 따르면, 비인접 공간 이웃들은 아핀 모드를 위해 사용될 수 있다.

비인접 공간 이웃들을 이용하는 아핀 모드(NA-AFF)에서는 비인접 공간 이웃들이 획득될 수 있다.

도 28a-28b는 일부 예들에서 비인접 공간 이웃들을 획득하는 패턴들을 도시한다. 기존 비인접 정규 병합 후보와 마찬가지로, NA-AFF에서의 비인접 공간 이웃들과 현재 CU 간의 거리는 또한 현재 CU의 폭 및 높이에 기초하여 정의된다.

비인접 공간 이웃들의 모션 정보는 추가적인 상속 및 구성된 아핀 병합/AMVP 후보들을 생성하는 데 이용된다. 도 28a는 추가적인 상속된 아핀 병합/AMVP 후보들을 생성하는 것을 예시하고, 도 28b는 추가적인 구성된 아핀 병합/AMVP 후보들을 생성하는 것을 예시한다.

구체적으로, 도 28a에 도시된 바와 같이, 상속된 후보들에 대해, VVC에서의 상속된 아핀 병합/AMVP 후보들의 동일한 도출 프로세스는 CPMV들이 비인접 공간 이웃들로부터 상속된다는 점을 제외하고는 변경되지 않은 상태로 유지된다. 비인접 공간 이웃들은 현재 블록까지의 거리, 즉 가까운 것에서 먼 것까지의 그들의 거리들에 기초하여 체크된다. 특정 거리에서, 현재 블록의 각각의 측(예를 들어, 좌측 및 위)으로부터의 이용 가능한 제1 이웃(아핀 모드로 코딩됨)만이 상속된 후보 도출을 위해 포함된다. 도 28a에서 대시 화살표들로 표시된 바와 같이, 좌측 및 위측의 이웃들의 체크 순서들은 각각 하단에서 위로의 순서 및 오른쪽에서 왼쪽으로의 순서이다.

도 28b에 도시된 바와 같이, 제1 유형의 구성된 후보들에 대해, 하나의 좌측 및 위의 비인접 공간 이웃들의 위치들이 먼저 독립적으로 결정된다. 그 후, 좌측 상단 이웃의 위치가 그에 따라 결정할 수 있으며, 이는 좌측 및 위의 비인접 이웃들과 함께 직사각형 가상 블록을 둘러쌀 수 있다.

이어서, 도 29에 도시된 바와 같이, 3개의 비인접 이웃의 모션 정보를 사용하여 가상 블록의 좌측 상단(A), 우측 상단(B) 및 좌측 하단(C)에 CPMV들을 형성한 다음, 이를 현재 CU에 투영하여 대응하는 구성된 후보들을 생성한다.

일부 예들에서, 제2 유형의 구성된 후보들에 대해, 도출 프로세스는 히스토리 기반 아핀 모델 상속(HAMI)에서의 구성 스킴과 유사하다. 그러나, 히스토리 기반 탐색표를 사용하는 대신, 비병진 아핀 파라미터들은 비인접 공간 이웃들로부터 상속된다. 구체적으로, 제2 유형의 아핀 구성된 후보들은 1) 인접한 이웃 4x4 블록들의 병진 아핀 파라미터들; 및 2) 도 28a에 정의된 바와 같은 비인접 공간 이웃들로부터 상속된 비병진 아핀 파라미터들의 조합으로부터 생성된다.

일부 예들에서, NA-AFF 후보들은 특정 순서들에 따라 기존 아핀 병합 후보 리스트 및 아핀 AMVP 후보 리스트에 삽입된다.

일례에서, 아핀 병합 모드에서, 순서는 1. 이용 가능한 경우, SbTMVP 후보; 2. 인접 이웃들로부터 상속된 후보; 3. 비인접 이웃들로부터 상속된 후보; 4. 인접 이웃들로부터 구성된 후보; 5. 비인접 이웃들로부터 구성된 제2 유형의 아핀 후보들; 6. 비인접 이웃들로부터 구성된 제1 유형의 아핀 후보들; 7. 제로 MV들을 포함한다.

다른 예에서, 아핀 AMVP 모드에서, 순서는 1. 인접 이웃들로부터 상속된 후보; 2. 인접 이웃들로부터 구성된 후보 3. 인접 이웃들로부터의 병진 MV들; 4. 시간적 이웃들로부터의 병진 MV들; 5. 비인접 이웃들로부터 상속된 후보; 6. 비인접 이웃들로부터 구성된 제1 유형의 아핀 후보들; 7. 제로 MV들을 포함한다.

NA-AFF에 의해 생성된 추가 후보들의 포함으로 인해, 아핀 병합 후보 리스트의 크기는 5에서 15로 증가된다. 아핀 병합 모드에 대한 ARMC의 서브그룹 크기는 3에서 15로 증가된다.

일부 비디오 코덱들(예를 들어, ECM-5.0 소프트웨어)에서, NA-AFF는 메모리 사용에 대한 제약들을 추가하지 않고 구현된다.

일부 예들(예를 들어, VVC)에서, 기하학적 파티셔닝 모드(GPM)가 인터 예측을 위해 지원된다. 기하학적 파티셔닝 모드는 정규 병합 모드, MMVD 모드, CIIP 모드, 서브블록 병합 모드 등과 같은 다른 병합 모드들과 함께 일종의 병합 모드로서 CU 레벨 플래그를 사용하여 시그널링된다. 일부 예들에서, 8x64 및 64x8을 제외한 가능한 각각의 CU 크기 ()에 대해 기하학적 파티셔닝 모드에 의해 총 64개의 파티션이 지원된다.

일부 예들에서, 기하학적 파티셔닝 모드가 사용될 때, CU는 분할선이라고도 하는 기하학적으로 위치한 직선에 의해 두 부분으로 분할된다. 분할선의 위치는 특정 파티션의 각도 및 오프셋 파라미터들에 기초하여 수학적으로 도출될 수 있다. CU 내의 분할선에 의한 2개의 기하학적 파티션의 각각의 부분은 자신의 모션을 사용하여 인터 예측되며, 각각의 파티션에 대해 단방향 예측만이 허용된다. 따라서, 각각의 부분은 하나의 모션 벡터와 하나의 기준 인덱스를 갖는다. 단방향 예측 모션 제약은 GPM 모드의 CU가 종래의 양방향 예측으로 코딩될 수 있도록 보장하기 위해 적용되는데, 예를 들어 각각의 CU에 대해 2개의 모션 보상 예측이 수행된다. 일부 예들에서, 기하학적 파티셔닝 모드가 현재 CU에 사용될 때, 기하학적 파티션의 파티션 모드를 나타내는 기하학적 파티션 인덱스(예를 들어, 각도 및 오프셋을 나타냄)와 2개의 병합 인덱스(각각의 파티션에 대해 하나씩)가 추가로 시그널링된다.

인트라 블록 복사(IBC)는 일부 예들에서 현재 픽처 참조라고도 하며, HEVC, VVC, AOMedia Video 1(AV1) 등과 같은 다양한 비디오 코덱들에서 응용들을 갖는다. IBC 코딩 툴들은 이미지/비디오 코딩을 위해 IBC 모드에서 사용된다. 상이한 비디오 코덱들은 특정 특징들 또는 IBC 코딩 툴들을 가질 수 있다. IBC는 인트라 블록 복사(IBC) 모드, 인트라 블록 복사(IntraBC) 모드, 인트라 템플릿 매칭 예측(IntraTMP) 등과 같은 상이한 표준들에서의 다양한 모드들을 포함할 수 있다.

일부 IBC 코딩 툴들은 HEVC 스크린 콘텐츠 코딩(SCC) 확장들에서 현재 픽처 참조(CPR)로서 사용된다. IBC 모드는 현재 픽처가 IBC 모드에서 기준 픽처로 사용되는 인터 예측을 위해 사용되는 코딩 기술들을 사용할 수 있다. IBC 모드 사용의 장점은 2차원(2D) 공간 벡터를 샘플들을 참조하기 위한 어드레싱 메커니즘의 표현으로 사용할 수 있는 IBC 모드의 참조 구조이다. IBC 모드의 아키텍처의 장점은 IBC의 통합이 비교적 사소한 사양 변경들을 필요로 하고 제조자들이 HEVC 버전 1과 같은 특정 인터 예측 기술들을 이미 구현한 경우 구현 부담을 완화할 수 있다는 것이다. HEVC SCC 확장들에서의 CPR은 특별한 인터 예측 모드일 수 있으므로 인터 예측 모드의 신택스 구조와 동일한 신택스 구조 및 인터 예측 모드의 디코딩 프로세스와 유사한 디코딩 프로세스를 유발할 수 있다.

IBC 모드는 인터 예측 프로세스에 통합될 수 있다. 일부 예들에서, IBC 모드(또는 CPR)는 인터 예측 모드이며, 인트라 전용 예측 슬라이스는 IBC 모드의 사용을 허용하기 위한 예측 슬라이스가 된다. IBC 모드가 적용 가능할 때, 코더는 현재 픽처를 가리키기 위한 포인터에 대한 하나의 엔트리에 의해 기준 픽처 리스트를 확장할 수 있다. 예컨대, 현재 픽처는 공유 디코딩 픽처 버퍼(DPB)의 1 픽처 크기 버퍼를 사용한다. IBC 모드 시그널링은 암시적일 수 있다. 예를 들어, 선택된 기준 픽처가 현재 픽처를 가리키면, CU는 IBC 모드를 사용할 수 있다. 다양한 실시예들에서, IBC 프로세스에 사용되는 기준 샘플들은 필터링되지 않으며, 이는 정규 인터 예측과 상이하다. IBC 프로세스에서 사용되는 대응하는 기준 픽처는 장기 기준이다. 메모리 요건을 최소화하기 위해, 코더는 현재 픽처를 재구성한 후 버퍼를 해제할 수 있는데, 예컨대 코더는 현재 픽처를 재구성한 후 즉시 버퍼를 해제한다. 재구성된 픽처가 기준 픽처일 때, 재구성된 픽처의 필터링된 버전이 코더에 의해 단기 기준으로서 DPB에 다시 넣어질 수 있다.

블록 벡터(BV) 코딩에서, 재구성된 영역에 대한 참조는 인터 예측과 유사한 2D BV를 통해 수행될 수 있다. BV의 예측 및 코딩은 인터 예측 프로세스에서 MV 예측 및 코딩을 재사용할 수 있다. 일부 예들에서, 루마 BV는 정규 인터 코딩 CTU에 사용되는 MV의 1/4 정밀도가 아닌 정수 해상도에 있다.

도 30은 본 개시의 실시예들에 따른 현재 CU(3001)와 연관된 BV들을 도시한다. 각각의 정사각형(3000)은 CTU를 나타낼 수 있다. 회색 음영 영역은 이미 코딩된 영역(예컨대, 이미 인코딩된 영역)을 나타내고, 음영이 없는 흰색 영역은 코딩될 영역(예컨대, 인코딩될 영역)을 나타낸다. 재구성 중인 현재 CTU(3000(4))는 현재 CU(3001), 코딩된 영역(3002) 및 코딩될 영역(3003)을 포함한다. 일례에서, 현재 CU(3001)를 코딩한 후 영역(3003)을 코딩할 것이다.

일례에서, 예컨대 HEVC에서, 현재 CTU(3000(4))의 우측 위에 있는 두 CTU(3000(1)-3000(2))를 제외한 회색 음영 영역은 IBC 모드에서 기준 영역으로 사용되어, 파면 병렬 처리(WPP)를 허용할 수 있다. HEVC에서 허용되는 BV는 기준 영역(예를 들어, 두 개의 CTU(3000(1)-3000(2))를 제외한 회색 음영 영역) 내에 있는 블록을 가리킬 수 있다. 예를 들어, HEVC에서 허용되는 BV(3005)는 기준 블록(3011)을 가리킨다.

일례에서, 예컨대 VVC에서, 현재 CTU(3000(4)) 외에, 현재 CTU(3000(4))의 왼쪽에 있는 좌측 이웃 CTU(3000(3))만이 IBC 모드에서 기준 영역으로 허용된다. 일례에서, VVC에서 IBC 모드에서 사용되는 기준 영역은 점선 영역(3015) 내에 있으며, 코딩되는 샘플들을 포함한다. 예를 들어, VVC에서 허용되는 BV(3006)는 기준 블록(3012)을 가리킨다.

일부 예들에서, BV의 디코딩된 모션 벡터 차이(MVD)(BV 차이(BVD)라고도 함)는 최종 BV를 재구성하기 위해 대응하는 BV 예측기에 추가하기 전에 2만큼 왼쪽으로 시프트될 수 있다.

일부 실시예들에서, 구현 및 성능의 이유들로 IBC 모드의 특별한 핸들링이 필요할 수 있으며, IBC 모드와 인터 예측 모드(예를 들어, 정규 인터 예측 모드)는 아래에 설명된 바와 같이 상이할 수 있다. 일례에서, IBC 모드에서 사용되는 기준 샘플들(예를 들어, DBF 및 샘플 적응 오프셋(SAO) 필터와 같은 인-루프 필터링 프로세스들이 적용되기 전의 재구성된 샘플들)은 필터링되지 않는다. HEVC의 다른 인터 예측 모드들(예를 들어, 정규 인터 예측 모드)은 필터링된 샘플들, 예를 들어 인-루프 필터링 프로세스들에 의해 필터링되는 기준 샘플들을 사용할 수 있다.

일부 예들에서는 루마 샘플 보간이 IBC 모드에서 수행되지 않는다. 크로마 샘플 보간이 IBC 모드에서 수행될 수 있다. 일부 예들에서, 크로마 샘플 보간은 크로마 BV가 대응하는 루마 BV로부터 도출될 때 크로마 BV가 정수가 아닐 때만 필요하다. 일부 예들에서는 루마 샘플 보간과 크로마 샘플 보간이 정규 인터 예측 모드에서 수행될 수 있다.

IBC 모드에서는 크로마 BV가 정수가 아닌 BV이고 기준 블록이 이용 가능한 영역(예를 들어, 기준 영역)의 경계 근처에 있을 때 특별한 경우가 발생할 수 있다. 예를 들어, 주변의 재구성된 샘플들이 크로마 보간을 수행하기 위해 경계 밖에 있을 수 있다. 일례에서, 경계에 인접한 단일 라인을 가리키는 BV는 주변의 재구성된 샘플들이 경계 밖에 있게 할 수 있다.

상이한 비디오 코덱은 추가 특징들을 포함할 수 있다는 점에 유의한다. 예를 들어, ECM-5.0에서의 IBC 모드는 VVC에서의 IBC 방법보다 몇 가지 개선을 갖는다. 본 개시의 일 양태에 따르면, ECM-5.0에서의 IBC 병합/AMVP 리스트 구성은 일부 수정들로 업데이트된다. 제1 수정의 예에서, IBC 병합/AMVP 후보가 유효한 경우에만, IBC 병합/AMVP 후보가 IBC 병합/AMVP 후보 리스트에 삽입될 수 있다. 제2 수정의 예에서, 우측 위, 좌측 하단 및 좌측 위 공간 후보들 및 하나의 쌍별 평균 후보가 IBC 병합/AMVP 후보 리스트에 추가될 수 있다. 제3 수정의 예에서는 템플릿 기반 적응 재정렬(ARMC-TM)이 IBC 병합 리스트에 적용된다.

ECM-5.0에서는 IBC 모드에서 히스토리 기반 모션 벡터 예측(HMVP)이 사용될 수 있으며, IBC에 대한 HMVP 표 크기는 25로 증가된다. 일부 예들에서, 전체 프루닝을 통해 최대 20개의 IBC 병합 후보가 도출된 후에 이들은 함께 재정렬된다. 재정렬 후에 템플릿 매칭 비용들이 가장 낮은 처음 6개 후보가 IBC 병합 리스트에서 최종 후보들로 선택된다.

ECM-5.0에서, IBC 병합/AMVP 리스트를 패딩하기 위한 제로 벡터들의 후보들이 IBC 기준 영역에 위치하는 BVP 후보들의 세트로 대체된다. BVP 후보들의 세트는 패딩 후보들로 지칭된다. 제로 벡터는 IBC 병합 모드에서 블록 벡터로서 유효하지 않으며, 따라서 제로 벡터는 IBC 후보 리스트에서 BVP로서 폐기된다.

도 31은 일부 예들에서의 패딩 후보들의 세트를 예시하는 도면을 도시한다. 도 31의 예에서, IBC 버퍼라고 하는 버퍼가 IBC 모드에서의 재구성을 위해 할당된다. 재구성 동안, IBC 버퍼는 픽처의 일부(3100)를 버퍼링하기 위해 할당된다. 일부(3100)는 (대각선들로 채워진 것으로 표시된) 재구성된 영역 내의 재구성된 샘플들, (검은색으로 표시된) 현재 블록 및 (흰색 공간으로 표시된) 재구성될 영역을 포함한다. 도 31에서, W는 현재 블록의 폭을 나타내고, H는 현재 블록의 높이를 나타낸다. 도 31의 예에서, 재구성된 영역의 일부가 현재 블록을 재구성하기 위한 기준으로 사용될 수 있으며, 이 일부는 기준 영역(3110)으로 지칭된다. 기준 영역(3110)은 서브영역들(예컨대, A, B 및 C)을 포함한다. 도 31에서, 3개의 패딩 후보(3101-3103)는 기준 영역(3110)의 가장 가까운 코너들에 위치하며, 3개의 추가 패딩 후보(3104-3106)는 3개의 서브영역(A, B, C)의 중간에서 결정된다. 패딩 후보들(3101-3106)의 좌표들은 도 31에 도시된 바와 같이 현재 블록의 폭과 높이, 및 ΔX 및 ΔY 파라미터들에 의해 결정된다.

본 개시의 일 양태에 따르면, 템플릿 매칭은 현재 픽처 참조에서, 예컨대 IBC 병합 모드, IBC AMVP 모드 등에서 적합하게 사용될 수 있다. 일부 예들에서는 IBC-TM 병합 리스트라고 하는 병합 리스트가 사용된다. IBC-TM 병합 리스트는 정규 IBC 병합 모드에 의해 사용되는 정규 병합 리스트로부터 수정된다. 예를 들어, 후보들은 정규 TM 병합 모드에서 후보들 사이의 모션 거리를 이용하는 프루닝 방법과 같은 프루닝 방법에 따라 선택된다. 끝 제로 벡터들은 패딩 후보들에 의해, 예컨대 좌측(-W, 0)(도 31에 3101로 표시됨), 상단(0, -H)(도 31에 3102로 표시됨) 및 좌측 상단(-W, -H)(도 31에 3103으로 표시됨)에 대체될 수 있으며, 여기서 W는 현재 CU의 폭이고, H는 높이이다.

일례에서, IBC-TM 병합 모드에서, 선택된 후보들은 (예를 들어, 인코더 측에서의) 레이트 왜곡 최적화 또는 (예를 들어, 디코더 측에서의) 디코딩 프로세스 전에 템플릿 매칭을 통해 정제된다. 일부 예들에서, IBC-TM 병합 모드와 정규 IBC 병합 모드가 모두 사용될 수 있는 경우, TM 병합 플래그가 시그널링되어, IBC-TM 병합 모드가 사용되는지 또는 정규 IBC 병합 모드가 사용되는지를 나타낼 수 있다.

IBC-TM AMVP 모드에서는 IBC-TM 병합 리스트로부터 최대 3개의 후보가 선택된다. 선택된 3개의 후보 각각은 템플릿 매칭 정제를 사용하여 정제되고, 템플릿 매칭 비용들에 따라 분류된다. 이어서, 더 낮은 템플릿 매칭 비용들을 갖는 처음 2개의 후보만이 평소와 같이 모션 추정 프로세스에서 고려된다.

IBC-TM 병합 및 AMVP 모드들 모두에 대한 템플릿 매칭 정제는 (i) 정수이어야 하고 (ii) 기준 영역 내에 있어야 한다는 IBC 모션 벡터 제약들을 받는다.

도 32는 현재 CU 위치의 위치에 의존하는 IBC 기준 영역을 예시하는 도면을 도시한다. 도 32의 예에서, IBC 버퍼는 CTU 크기로 할당된다. 각각의 CTU는 4개의 서브영역을 포함하며, IBC 버퍼는 서브영역들에 따라 업데이트되도록 구성된다. 도 32의 예에서, 좌측 CTU는 서브영역 0-3을 포함하며, 현재 CTU는 서브영역 4-7을 포함한다. 재구성 동안, 현재 블록이 상태 (1)에 표시된 바와 같이 서브영역 4에 있을 때 IBC 기준 영역은 서브영역 1, 서브영역 2 및 서브영역 3을 포함하고; 현재 블록이 상태 (2)에 표시된 바와 같이 서브영역 5에 있을 때, IBC 기준 영역은 서브영역 2, 서브영역 3 및 서브영역 4를 포함하고; 현재 블록이 상태 (3)에 표시된 바와 같이 서브영역 6에 있을 때, IBC 기준 영역은 서브영역 3, 서브영역 4 및 서브영역 5를 포함하며; 현재 블록이 상태 (4)에 표시된 바와 같이 서브영역 7에 있을 때, IBC 기준 영역은 서브영역 4, 서브영역 5 및 서브영역 6을 포함한다.

일부 예들에서, IBC-TM 병합 모드에서는 템플릿 매칭 정제들이 정수 정밀도로 수행된다. 일부 예들에서, IBC-TM AMVP 모드에서, 템플릿 매칭 정제들은 AMVR 값에 따라 정수 또는 4-펠 정밀도로 수행된다. 일부 예들에서, IBC-TM 병합 모드와 IBC-TM AMVR 모드에서의 템플릿 매칭 정제들은 보간 없이 샘플들에 적용된다. IBC-TM 병합 모드와 IBC-TM AMVR 모드 모두에서, 각각의 정제 단계에서의 정제된 모션 벡터들(정제된 블록 벡터들이라고도 함) 및 사용된 템플릿은 기준 영역의 제약을 충족시켜야 한다(예를 들어, 도 32에 예시된 IBC 기준 영역에 있어야 한다).

관련 예들에서, 병합 후보 리스트 내의 병합 후보들의 다양성 재정렬은 템플릿 매칭(TM) 비용을 메트릭으로 취하여 병합 후보들의 다양성을 평가한다. 관련 예들에서, TM은 예를 들어 템플릿 영역이 현재 블록과 상이한 특성들을 가질 때 현재 블록의 실제 비용의 정확한 추정을 항상 제공하지는 못할 수도 있다. 또한, 일부 예들에서, TM 툴이 코덱에서 디스에이블되거나 이용 가능하지 않을 때, 위의 다양성 재정렬화 방법은 적용될 수 없다.

다음 설명에서 블록의 템플릿은 블록의 위, 좌측, 우측 및 하단 이웃 샘플들과 같은 블록의 이웃 샘플들 중 임의의 적절한 부분을 지칭할 수 있다는 점에 유의한다.

도 33은 현재 블록 및 현재 블록의 템플릿의 예를 도시한다. 템플릿(회색 영역으로 표시됨)은 재구성된 위측 및 좌측 이웃 샘플들을 포함한다.

도 34는 현재 블록 및 현재 블록의 템플릿의 다른 예를 도시한다. 템플릿(회색 영역으로 표시됨)은 재구성된 위측 및 좌측 이웃 샘플들을 포함한다.

도 33 및 도 34의 템플릿 패턴들 외에도, 본 개시에 개시된 기술들에서는 다른 적절한 패턴들도 사용될 수 있다.

본 개시의 일부 양태들은 후보들의 모션 정보와 같은 후보들의 특성들에 기초하여 다양성 재정렬을 적용하는 기술들을 제공한다. 모션 정보는 병진 모션 정보일 수 있거나 아핀 모션 정보일 수 있다.

일부 실시예들에서, 병진 MV의 모션 정보는 후보들의 다양성을 평가하는 데 사용되며, 이러한 평가를 병진 모션 기반 다양성 평가로 지칭된다.

일부 예들에서는, 정규 병합 모드, MMVD와의 병합 등과 같은 병진 MV를 갖는 병합 후보에 대해 병진 모션 기반 다양성 평가가 적용된다.

일부 예들에서, 병진 모션 기반 다양성 평가에서, 후보와 그의 전임자(병합 후보 리스트 내의 후보) 사이의 MV 차이가 MV 임계치보다 작으면, 후보는 중복된 것으로 간주된다. 예를 들어, MV1과 MV2는 후보와 그의 전임자의 MV 값들을 나타낸다. 일례에서, deltaMV로 표시되는 후보와 그의 전임자의 MV 차이는 deltaMV = abs(MV1 - MV2)로 계산된다. MV 차이는 deltaMV_x로 표시되는 x 방향 성분과 deltaMV_y로 표시되는 y 방향 성분을 갖는다. 일례에서, 병진 모션 기반 다양성 평가는 예컨대 max(deltaMV_x, deltaMV_y) < T와 같이 MV 차이의 최대 성분 값이 임계치보다 작은 것으로 표현되며, 여기서 T는 임계치이다. 예를 들어, 병진 모션 기반 다양성 평가 조건은 후보와 그의 전임자 사이의 MV 차이의 최대 성분 값이 임계치 T보다 작으면 후보가 중복된 것으로 간주된다는 것이다.

임계치 T는 적절하게 설정할 수 있다. 일례에서, 임계치 T는 ½ 픽셀로 설정된다. 다른 예에서, 임계치 T는 1픽셀로 설정된다. 다른 예에서, 임계치 T는 현재 블록의 크기에 따라 적응적으로 설정된다.

일부 예들에서, 두 후보(후보와 그의 전임자)가 모두 양방향 예측인 경우, 병진 모션 기반 다양성 평가는 두 기준 픽처 리스트에 대한 MV 값들에 적용될 수 있다(예를 들어, 각각의 기준 픽처 리스트가 기준 픽처를 제공함). 예를 들어, 병진 모션 기반 다양성 평가 조건은 후보와 그의 전임자가 모두 양방향 예측 후보들인 경우, 후보와 그의 전임자 사이의 기준 픽처 리스트 L0(제1 기준 픽처라고도 함)에 대한 제1 MV 차이의 제1 최대 성분 값이 임계치 T보다 작고 후보와 그의 전임자 사이의 기준 픽처 리스트 L1(제2 기준 픽처라고도 함)에 대한 제2 MV 차이의 제2 최대 성분 값이 임계치 T보다 작은 경우, 후보가 중복된 것으로 간주된다는 것이다. 예를 들어, deltaMV1은 기준 픽처 리스트 L0과 연관된 제1 MV 차이를 나타내고, deltaMV2는 기준 픽처 리스트 L1과 연관된 제2 MV 차이를 나타낸다. max(deltaMV1_x, deltaMV1_y) < T 및 max(deltaMV2_x, deltaMV2_y) < T일 때, 후보는 중복된 것으로 간주된다.

일부 예들에서, 두 후보(후보와 그의 전임자)가 모두 GPM 후보들인 경우, 각각의 파티션의 MV 값들에 병진 모션 기반 다양성 평가가 적용될 수 있다. 예를 들어, 병진 모션 기반 다양성 평가 조건은 후보와 그의 전임자가 모두 GPM 후보들인 경우, 후보와 그의 전임자 사이의 제1 파티션에 대한 제1 MV 차이의 제1 최대 성분 값이 임계치 T보다 작고 후보와 그의 전임자 사이의 제2 파티션에 대한 제2 MV 차이의 제2 최대 성분 값이 임계치 T보다 작으면, 후보가 중복된 것으로 간주된다는 것이다. 예를 들어, deltaMV1P는 제1 파티션과 연관된 제1 MV 차이를 나타내고, deltaMV2P는 제2 파티션과 연관된 제2 MV 차이를 나타낸다. max(deltaMV1P_x, deltaMV1P_y) < T 및 max(deltaMV2P_x, deltaMV2P_y) < T일 때, 후보는 중복된 것으로 간주된다.

일례에서, 후보가 양방향 예측이고, 그의 전임자가 단방향 예측인 경우, 후보는 중복된 것으로 간주되지 않는다. 다른 예에서, 후보가 단방향 예측이고, 그의 전임자가 양방향 예측인 경우, 후보는 중복된 것으로 간주되지 않는다.

일부 실시예들에서, 아핀 모션 정보를 갖는 병합 후보들의 경우, 하나 이상의 아핀 파라미터를 사용하여 후보들의 다양성을 평가할 수 있으며, 이러한 평가는 아핀 모션 기반 다양성 평가로 지칭된다. 일부 예들에서, 하나 이상의 아핀 파라미터는 아핀 모션에 대한 병합 후보 리스트 내의 후보들의 다양성을 평가하는 데 사용된다.

일부 예들에서, 아핀 모션 기반 다양성 평가는 아핀 병합 모드에서 아핀 후보들에 적용된다. 일부 예들에서, 아핀 모션 기반 다양성 평가는 아핀 MMVD에서 아핀 후보들에 적용된다.

제어 포인트들, 아핀 모델들에서의 아핀 파라미터들 등과 같은 다양한 아핀 파라미터들이 아핀 모션 기반 다양성 평가에서 사용될 수 있다.

일부 예들에서, 아핀 모션 기반 다양성 평가에서, 아핀 후보와 그의 전임자(아핀 모션에 대한 병합 후보 리스트 내의 아핀 후보) 사이의 병진 성분들(예를 들어, 아핀 파라미터인 제1 제어 포인트 모션 벡터 CPMV₀)의 차이(또는 델타)가 임계치보다 작은 경우, 아핀 후보는 중복된 것으로 간주된다. 예를 들어, MV1과 MV2는 아핀 후보와 그의 전임자의 CPMV₀의 MV 값들을 나타낸다. 일례에서, deltaMV로 표시되는 아핀 후보와 그의 전임자의 CPMV₀의 차이는 deltaMV = abs(MV1 - MV2)로 계산된다. CPMV₀의 차이는 deltaMV_x로 표시되는 x 방향 성분과 deltaMV_y로 표시되는 y 방향 성분을 갖는다. 일례에서, 아핀 모션 기반 다양성 평가는 max(deltaMV_x, deltaMV_y) < T_mv와 같이 CPMV₀의 MV 차이의 최대 성분 값이 MV 임계치보다 작은 것으로 표현되며, 여기서 T_mv는 MV 임계치이다. 예를 들어, 아핀 모션 기반 다양성 평가 조건은 아핀 후보와 전임자 사이의 CPMV₀의 차이(또는 델타)의 최대 성분 값이 MV 임계치 T_mv보다 작으면 아핀 후보가 중복된 것으로 간주된다는 것이다.

MV 임계치 T_mv는 적절히 설정될 수 있다. 일례에서, MV 임계치 T_mv는 ½ 픽셀로 설정된다. 다른 예에서, MV 임계치 T_mv는 1 픽셀로 설정된다. 다른 예에서, MV 임계치 T_mv는 현재 블록의 크기에 따라 적응적으로 설정된다. 다른 예에서, MV 임계치 T_mv는 평가 중인 하나 또는 모든 후보의 CPMV₀의 절대값에 따라 적응적으로 설정된다.

일부 실시예들에서, 아핀 모션 기반 다양성 평가에서, 아핀 후보와 그의 전임자(아핀 모션에 대한 병합 후보 리스트 내의 아핀 후보) 사이의 아핀 모델의 아핀 파라미터들의 절대 델타가 임계치 T_p보다 작은 경우, 아핀 후보는 중복된 것으로 간주된다. 일부 예들에서, 아핀 파라미터들은 6 파라미터 아핀 모델의 경우 수학식 4에서의 파라미터 a, b, d, e를 포함하거나 4 파라미터 아핀 모델의 경우 수학식 2에서의 파라미터 a, b를 포함한다.

4 파라미터 아핀을 사용하는 예에서, 아핀 후보에 대한 제1 아핀 모델은 파라미터 a₁ 및 b₁을 포함하고, 아핀 후보의 전임자에 대한 제2 아핀 모델은 파라미터 a₂ 및 b₂를 포함한다. 일례에서, 아핀 모션 기반 다양성 평가 조건은 max(|a₁-a₂|, |b₁-b₂|) < T_p와 같이 아핀 후보와 그의 전임자 사이의 파라미터들의 최대 델타 값이 임계치 T_p보다 작으면 아핀 후보가 중복된 것으로 간주된다는 것이다.

6 파라미터 아핀을 사용하는 예에서, 아핀 후보에 대한 제1 아핀 모델은 아핀 파라미터 a₁, b₁, d₁ 및 e₁을 포함하고, 아핀 후보의 전임자에 대한 제2 아핀 모델은 아핀 파라미터 a₂, b₂, d₂ 및 e₂를 포함한다. 일례에서, 아핀 모션 기반 다양성 평가 조건은 max(|a₁-a₂|, |b₁-b₂|, |d₁-d₂|, |e₁-e₂|) < T_p와 같이 아핀 후보와 그의 전임자 사이의 6 파라미터 아핀 모델의 아핀 파라미터들의 최대 델타 값이 임계치 T_p보다 작으면 아핀 후보가 중복된 것으로 간주된다는 것이다.

일부 예들에서, 다수의 아핀 파라미터 중 하나 또는 조합의 델타 값은 다양성 평가 기준들로 사용될 수 있다.

일부 예들에서, 두 아핀 후보(아핀 후보와 그의 전임자)가 모두 양방향 예측인 경우, 아핀 모션 기반 다양성 평가는 두 기준 픽처 리스트에 대한 아핀 파라미터들에 적용될 수 있다. 예를 들어, 아핀 모션 기반 다양성 평가 조건은 아핀 후보와 그의 전임자가 모두 양방향 예측 후보들인 경우, 아핀 후보와 그의 전임자 사이의 기준 픽처 리스트 L0에 대한 제1 아핀 파라미터들의 제1 최대 델타 값이 임계치보다 작고 아핀 후보와 그의 전임자 사이의 기준 픽처 리스트 L1에 대한 제2 아핀 파라미터들의 제2 최대 델타 값이 임계치보다 작은 경우, 아핀 후보가 중복된 것으로 간주된다는 것이다.

일례에서, deltaMV1은 기준 픽처 리스트 L0과 연관된 제1 CPMV0 차이를 나타내고, deltaMV2는 기준 픽처 리스트 L1과 연관된 제2 CPMV0 차이를 나타낸다. 아핀 후보는 max(deltaMV1_x, deltaMV1_y) < T_mv 및 max(deltaMV2_x, deltaMV2_y) < T_mv일 때 중복된 것으로 간주된다.

4 파라미터 아핀을 사용하는 다른 예에서, 기준 픽처 리스트 L0에 대한 아핀 후보의 제1 아핀 모델은 파라미터 a₁ 및 b₁을 포함하고, 기준 픽처 리스트 L0에 대한 전임자의 제2 아핀 모델은 파라미터 a₂ 및 b₂를 포함한다. 또한, 기준 픽처 리스트 L1에 대한 아핀 후보의 제1 아핀 모델은 파라미터 a₁' 및 b₁'을 포함하고, 기준 픽처 리스트 L1에 대한 전임자의 제2 아핀 모델은 파라미터 a₂' 및 b₂'를 포함한다. 일례에서, 아핀 모션 기반 다양성 평가 조건은 max(|a₁-a₂|, |b₁-b₂|) < T_p와 같이 아핀 후보와 그의 전임자 사이의 기준 픽처 리스트 L0에 대한 아핀 파라미터들의 제1 최대 델타 값이 임계치 T_p보다 작고 max(|a₁'-a₂'|, |b₁'-b₂'|)< T_p와 같이 아핀 후보와 그의 전임자 사이의 기준 픽처 리스트 L1에 대한 아핀 파라미터들의 제2 최대 델타 값이 임계치 T_p보다 작으면 아핀 후보가 중복된 것으로 간주된다는 것이다.

6 파라미터 아핀을 사용하는 다른 예에서, 기준 픽처 리스트 L0에 대한 아핀 후보의 제1 아핀 모델은 파라미터 a₁, b₁, d₁ 및 e₁을 포함하고, 기준 픽처 리스트 L0에 대한 전임자의 제2 아핀 모델은 파라미터 a₂, b₂, d₂ 및 e₂를 포함한다. 또한, 기준 픽처 리스트 L1에 대한 아핀 후보의 제1 아핀 모델은 파라미터 a₁', b₁', d₁' 및 e₁'를 포함하고, 기준 픽처 리스트 L1에 대한 전임자의 제2 아핀 모델은 파라미터 a₂', b₂', d₂' 및 e₂'를 포함한다. 일례에서, 아핀 모션 기반 다양성 평가 조건은 max(|a₁-a₂|, |b₁-b₂|, |d₁-d₂|, |e₁-e₂|) < T_p와 같이 아핀 후보와 그의 전임자 사이의 기준 픽처 리스트 L0에 대한 아핀 파라미터들의 제1 최대 델타 값이 임계치 T_p보다 작고 max(|a₁'-a₂'|, |b₁'-b₂'|, |d₁'-d₂'|, |e₁'-e₂'|) < T_p와 같이 아핀 후보와 그의 전임자 사이의 기준 픽처 리스트 L1에 대한 아핀 파라미터들의 제2 최대 델타 값이 임계치 T_p보다 작으면 아핀 후보가 중복된 것으로 간주된다는 것이다.

일례에서, 아핀 후보가 양방향 예측이고 그의 전임자가 단방향 예측인 경우, 아핀 후보는 중복된 것으로 간주되지 않는다. 다른 예에서, 아핀 후보가 단방향 예측이고 그의 전임자가 양방향 예측인 경우, 아핀 후보는 중복된 것으로 간주되지 않는다.

일부 예들에서, 병진 모션 기반 다양성 평가 및/또는 아핀 모션 기반 다양성 평가는 현재 블록의 크기가 임계치보다 크거나, 임계치보다 작거나, 미리 정의된 임계치 범위 내에 있는 것과 같은 요건을 충족시킬 때 적용된다. 일부 예들에서, 병진 모션 기반 다양성 평가 및/또는 아핀 모션 기반 다양성 평가는 후보(예를 들어, 병진 모션의 후보 또는 아핀 후보라고도 하는 아핀 모션의 후보)와 연관된 소스 블록의 크기가 임계치보다 크거나, 임계치보다 작거나, 미리 정의된 임계치 범위 내에 있는 것과 같은 요건을 충족시킬 때 적용된다.

일부 예들에서, 병진 모션 기반 다양성 평가 및/또는 아핀 모션 기반 다양성 평가는 후보(예를 들어, 병진 모션의 후보 또는 아핀 후보라고도 하는 아핀 모션의 후보)와 연관된 블록 좌표(예를 들어, 소스 블록의 좌측 상단 코너의 좌표)가 임계치보다 크거나, 임계치보다 작거나, 미리 정의된 임계치 범위 내에 있는 것과 같은 요건을 충족시킬 때 적용된다.

일부 예들에서, 후보(예를 들어, 병진 모션의 후보 또는 아핀 후보라고도 하는 아핀 모션의 후보)가 그의 전임자와의 비교 후에 중복된 것으로 결정되면, 후보와 전임자는 블록 크기에 의해 비교된다. 블록 크기가 더 작은 것은 중복된 것으로 간주되어 병합 후보 리스트에 넣어지지 않는다. 예를 들어, 후보가 전임자보다 블록 크기가 작은 경우, 후보는 중복된 것으로 간주되어 병합 후보 리스트에 넣어지지 않으며, 후보가 전임자보다 블록 크기가 큰 경우, 전임자는 중복된 것으로 간주되어 병합 후보 리스트에 넣어지지 않는다.

일부 실시예들에서, 다양성 재정렬은 후보들의 모션 정보와 TM 비용 기준들 모두에 기초한다. TM 비용 기준들은 |D1-D2|<T_D와 같이 후보와 그의 전임자 사이의 템플릿 매칭 비용 차이가 임계치보다 작을 때 후보가 중복된 것으로 간주되는 것으로 표현되며, 여기서 D1 및 D2는 ARMC-TM 정렬 동안 획득된 템플릿 매칭 비용들을 나타내고, T_D는 임계치를 나타낸다. 일례에서, T_D는 인코더 측에서 RD 기준에서 사용되는 라그랑주 파라미터인 λ로 설정된다.

일부 예들에서, 병합 후보 리스트 내의 후보들에 TM 비용 기반 다양성 평가가 적용된 다음, 병합 후보 리스트 내의 후보들에 모션 정보 기반 다양성 평가가 적용된다. 일부 예들에서, 모션 정보 기반 다양성 평가는 병합 후보 리스트 내의 후보들에 적용되고, TM 비용 기반 다양성 평가는 병합 후보 리스트 내의 후보들에 적용된다.

일부 예들에서, 모션 정보 기반 다양성 평가와 TM 비용 기반 다양성 평가 모두가 후보를 중복된 것으로 평가할 때 후보는 중복된 것으로 간주된다.

일부 예들에서, 모션 정보 기반 다양성 평가와 TM 비용 기반 다양성 평가 모두가 후보를 중복된 것으로 평가할 때 후보는 병합 후보 리스트의 끝에 배치된다.

일부 예들에서, 모션 정보 기반 다양성 평가와 TM 비용 기반 다양성 평가 모두가 후보를 중복된 것으로 평가할 때, 후보는 병합 후보 리스트에 넣어지지 않는다(프루닝된다).

일부 실시예들에서, 다양성 재정렬은 TM 비용 다양성 평가 및 후보들과 연관된 블록 크기 모두에 기초한다. 일부 예들에서, 두 후보 사이의 TM 비용 차이가 주어진 임계치 내에 있는 경우, 더 작은 블록 크기와 연관된 후보가 중복된 것으로 간주된다. 일례에서, 후보가 중복된 것으로 간주되면, 후보는 병합 후보 리스트의 끝에 배치된다. 다른 예에서, 후보가 중복된 것으로 간주되면, 후보는 병합 후보 리스트에 넣어지지 않는다(프루닝된다).

도 35는 본 개시의 일 실시예에 따른 프로세스(3500)를 개설하는 흐름도를 도시한다. 프로세스(3500)는 비디오 인코더에서 사용될 수 있다. 다양한 실시예들에서, 프로세스(3500)는 단말 디바이스들(310, 320, 330 및 340) 내의 처리 회로, 비디오 인코더(403)의 기능들을 수행하는 처리 회로, 비디오 인코더(603)의 기능들을 수행하는 처리 회로, 비디오 인코더(703)의 기능들을 수행하는 처리 회로 등과 같은 처리 회로에 의해 실행된다. 일부 실시예들에서, 프로세스(3500)는 소프트웨어 명령어들로 구현되며, 따라서 처리 회로가 소프트웨어 명령어들을 실행할 때, 처리 회로는 프로세스(3500)를 수행한다. 프로세스는 S3501에서 시작하여 S3510으로 진행한다.

S3510에서, 현재 블록을 코딩하기 위한 복수의 후보(MV 후보들이라고도 함)를 포함하는 후보 리스트가 결정된다.

S3520에서, 모션 정보의 더 큰 차이를 갖는 후보들의 서브세트를 우선시하는 모션 정보 기반 다양성 평가를 통해 후보 리스트가 수정된다.

S3530에서, 현재 블록의 예측을 위해 후보 리스트로부터 특정 후보가 선택된다. 일례에서, 레이트 왜곡 최적화에 기초하여 특정 후보가 선택된다.

S3540에서, 현재 블록을 포함하는 비디오를 운반하는 비트스트림에 인덱스가 인코딩되며, 인덱스는 수정된 후보 리스트로부터의 특정 후보를 나타낸다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 병진 모션 기반 다양성 평가를 포함한다. 일부 실시예들에서, 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가를 포함한다.

일부 실시예들에서, 후보 리스트 내의 제1 후보가 요건을 충족시키는지 여부가 결정된다. 모션 정보 기반 다양성 평가는 제1 후보가 요건을 충족시키는 것에 응답하여 제1 후보 및 제1 후보의 전임자인 제2 후보에 적용된다. 일례에서, 요건은 제1 후보와 연관된 블록 크기가 크기 요건을 충족시키는 것을 포함한다. 다른 예에서, 요건은 제1 후보의 블록 좌표가 좌표 요건을 충족시키는 것을 포함한다.

일부 실시예들에서, 제1 후보와 제2 후보는 제1 후보와 제2 후보 중 하나가 단방향 예측 후보이고 제1 후보와 제2 후보 중 다른 하나가 양방향 예측 후보인 것에 응답하여 충분한 다양성을 갖는 것으로 결정된다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 병진 모션 기반 다양성 평가이다. 일부 예들에서, 병진 모션 기반 다양성 평가로 후보 리스트를 수정하기 위해, 후보 리스트 내의 제1 후보와 제2 후보 사이의 제1 모션 벡터 차이가 계산된다. 제1 후보와 제2 후보 중 하나가 중복되는지 여부는 제1 모션 벡터 차이에 기초하여 결정된다. 예를 들어, 제1 모션 벡터 차이의 제1 최대 성분 값(예를 들어, 절대 x 성분 값 또는 절대 y 성분 값)이 임계치와 비교된다. 제1 최대 성분 값이 임계치보다 작은 것에 응답하여 제1 후보와 제2 후보 중 하나가 중복된 것으로 결정된다. 임계치는 ½ 픽셀, 1 픽셀 등과 같은 고정된 상수 값일 수 있으며, 현재 블록의 크기의 함수인 값일 수 있다.

일부 예들에서, 제1 후보와 제2 후보가 양방향 예측 후보들인 경우, 제1 모션 벡터 차이는 제1 기준 픽처와 연관된다. 또한, 제1 후보와 제2 후보 사이의 제2 모션 벡터 차이가 계산되고, 제2 모션 벡터 차이는 제2 기준 픽처와 연관된다. 제1 후보와 제2 후보 중 하나는 제1 모션 벡터 차이의 제1 최대 성분 값과 제2 모션 벡터 차이의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다.

일부 예들에서, 제1 후보와 제2 후보는 기하학적 파티셔닝 모드(GPM) 후보들이며, 제1 모션 벡터 차이는 제1 후보와 제2 후보의 각각의 제1 파티션들과 연관된다. 또한, 제1 후보와 제2 후보 사이의 제2 모션 벡터 차이가 계산된다. 제2 모션 벡터 차이는 제1 후보와 제2 후보의 각각의 제2 파티션들과 연관된다. 제1 후보와 제2 후보 중 하나는 제1 모션 벡터 차이의 제1 최대 성분 값과 제2 모션 벡터 차이의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가이다. 일부 예들에서, 아핀 모션 기반 다양성 평가로 후보 리스트를 수정하기 위해, 후보 리스트 내의 제1 후보와 제2 후보로부터 각각 제1 제어 포인트 모션 벡터(CPMV)들의 제1 쌍 사이의 제1 제어 포인트 모션 벡터(CPMV) 차이 값이 계산된다. 이어서, 제1 후보와 제2 후보 중 하나가 중복되는지 여부가 제1 CPMV 차이 값에 기초하여 결정된다. 일부 예들에서, 제1 CPMV 차이 값의 제1 최대 성분 값(예를 들어, 절대 x 성분 값 또는 절대 y 성분 값)이 임계치와 비교된다. 제1 후보와 제2 후보 중 하나는 제1 최대 성분 값이 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다. 임계치는 ½ 픽셀, 1 픽셀 등과 같은 고정된 상수 값일 수 있거나, 현재 블록의 크기의 함수인 값일 수 있다.

일부 예들에서, 제1 후보와 제2 후보는 양방향 예측 후보들이며, 제1 CPMV 차이 값은 제1 기준 픽처와 연관된 제1 CPMV들의 제1 쌍 사이의 차이 값이다. 또한, 제1 후보와 제2 후보로부터 각각 제1 CPMV들의 제2 쌍 사이의 제2 CPMV 차이 값이 계산되고, CPMV들의 제2 쌍은 제2 기준 픽처와 연관된다. 제1 후보와 제2 후보 중 하나는 제1 CPMV 차이 값의 제1 최대 성분 값과 제2 CPMV 차이 값의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다.

일부 실시예들에서, 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가이다. 일부 예들에서, 아핀 모션 기반 다양성 평가로 후보 리스트를 수정하기 위해, 후보 리스트 내의 제1 후보 및 제2 후보로부터 각각 아핀 모델들의 제1 쌍 사이의 제1 복수의 아핀 파라미터 차이 값이 계산된다. 제1 후보와 제2 후보 중 하나가 중복되는지 여부는 제1 복수의 아핀 파라미터 차이 값에 기초하여 결정된다.

일부 예들에서, 제1 복수의 아핀 파라미터 차이 값 중 제1 최대값이 임계치와 비교된다. 제1 후보와 제2 후보 중 하나는 제1 최대값이 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다.

일부 예들에서, 제1 후보와 제2 후보는 양방향 예측 후보들이며, 제1 복수의 아핀 파라미터 차이 값은 제1 기준 픽처와 연관된다. 제1 후보와 제2 후보로부터의 아핀 모델들의 제2 쌍 사이의 제2 복수의 아핀 파라미터 차이 값이 계산된다. 아핀 모델들의 제2 쌍은 제2 기준 픽처와 연관된다. 제1 후보와 제2 후보 중 하나는 제1 복수의 아핀 파라미터 차이 값 중 제1 최대값과 제2 복수의 아핀 파라미터 차이 값 중 제2 최대값이 모두 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다.

일부 예들에서, 모션 정보 기반 다양성 평가로 후보 리스트를 수정하기 위해, 후보 리스트 내의 제1 후보와 제2 후보 중 하나가 중복되는지 여부는 모션 정보 기반 다양성 평가 및 템플릿 매칭(TM) 비용 기반 다양성 평가에 기초하여 결정된다. 일례에서, 제1 후보와 제2 후보 중 하나는 제1 후보와 제2 후보 사이의 모션 차이(예를 들어, 모션 벡터 차이의 메트릭, 제어 포인트 모션 벡터 차이의 메트릭, 예컨대 아핀 파라미터 차이의 메트릭)가 제1 임계치보다 작고 제1 후보와 제2 후보의 템플릿 매칭 비용 차이가 제2 임계치보다 작은 것에 응답하여 중복된 것으로 결정된다.

일례에서, 후보 리스트를 수정하기 위해, 중복 후보인 것으로 결정된 후보가 후보 리스트의 끝으로 이동된다. 다른 예에서, 중복 후보인 것으로 결정된 후보가 후보 리스트로부터 제거된다(또는 후보 리스트에 넣어지지 않는다).

일부 예들에서, 후보 리스트 내의 제1 후보와 제2 후보 중 하나가 중복 후보인 것으로 결정되고, 제1 후보는 제1 블록 크기를 갖는 제1 블록과 연관되고, 제2 후보는 제2 블록 크기를 갖는 제2 블록과 연관된다. 제1 블록 크기가 제2 블록 크기보다 작은 것에 응답하여 제1 후보가 중복 후보로 선택된다. 제2 블록 크기가 제1 블록 크기보다 작은 것에 응답하여 제2 후보가 중복 후보로 선택된다.

이어서, 프로세스는 S3599로 진행하여 종료한다.

프로세스(3500)는 적합하게 적응될 수 있다. 프로세스(3500)의 단계(들)는 수정 및/또는 생략될 수 있다. 추가 단계(들)이 추가될 수 있다. 임의의 적절한 구현 순서가 사용될 수 있다.

도 36은 본 개시의 일 실시예에 따른 프로세스(3600)를 개설하는 흐름도를 도시한다. 프로세스(3600)는 비디오 디코더에서 사용될 수 있다. 다양한 실시예들에서, 프로세스(3600)는 단말 디바이스들(310, 320, 330 및 340) 내의 처리 회로, 비디오 디코더(410)의 기능들을 수행하는 처리 회로, 비디오 디코더(510)의 기능들을 수행하는 처리 회로, 비디오 디코더(633)의 기능들을 수행하는 처리 회로 등과 같은 처리 회로에 의해 실행된다. 일부 실시예들에서, 프로세스(3600)는 소프트웨어 명령어들로 구현되며, 따라서 처리 회로가 소프트웨어 명령어들을 실행할 때, 처리 회로는 프로세스(3600)를 수행한다. 프로세스는 S3601에서 시작하여 S3610으로 진행한다.

S3610에서, 현재 블록을 예측하기 위한 복수의 후보를 포함하는 후보 리스트가 결정된다. 일부 예들에서, 현재 블록을 포함하는 비디오 비트스트림이 수신된다. 이어서, 현재 블록을 예측하기 위한 복수의 후보(MV 후보들이라고도 함)를 포함하는 후보 리스트가 결정된다.

S3620에서, 모션 정보의 더 큰 차이를 갖는 후보들의 서브세트를 우선시하는 모션 정보 기반 다양성 평가를 통해 후보 리스트가 수정(예를 들어, 재정렬 및/또는 프루닝)된다.

S3630에서, 현재 블록을 포함하는 비디오 비트스트림으로부터, 수정된 후보 리스트로부터의 선택된 후보를 나타내는 인덱스가 디코딩된다.

S3640에서, 현재 블록이 선택된 후보에 기초하여 재구성된다.

이어서, 프로세스는 S3699로 진행하여 종료한다.

프로세스(3600)는 적합하게 적응될 수 있다. 프로세스(3600)의 단계(들)는 수정 및/또는 생략될 수 있다. 추가 단계(들)이 추가될 수 있다. 임의의 적절한 구현 순서가 사용될 수 있다.

도 37은 본 개시의 일 실시예에 따른 프로세스(3700)를 개설하는 흐름도를 도시한다. 프로세스(3700)는 비디오 인코더에서 사용될 수 있다. 다양한 실시예들에서, 프로세스(3700)는 단말 디바이스들(310, 320, 330 및 340) 내의 처리 회로, 비디오 인코더(403)의 기능들을 수행하는 처리 회로, 비디오 인코더(603)의 기능들을 수행하는 처리 회로, 비디오 인코더(703)의 기능들을 수행하는 처리 회로 등과 같은 처리 회로에 의해 실행될 수 있다. 일부 실시예들에서, 프로세스(3700)는 소프트웨어 명령어들로 구현되며, 따라서 처리 회로가 소프트웨어 명령어들을 실행할 때, 처리 회로는 프로세스(3700)를 수행한다. 프로세스는 S3701에서 시작하여 S3710으로 진행한다.

S3710에서, 현재 블록을 예측하기 위한 복수의 후보(MV 후보들이라고도 함)를 포함하는 후보 리스트가 결정된다.

S3720에서, 템플릿 매칭 비용의 더 큰 차이 및 더 큰 블록 크기를 갖는 후보들의 서브세트를 우선시하는 템플릿 매칭(TM) 비용 기반 다양성 평가를 통해 후보 리스트가 수정된다.

S3730에서, 현재 블록의 예측을 위한 후보 리스트로부터의 특정 후보가 선택된다. 일례에서, 현재 블록의 예측을 위한 후보 리스트로부터의 특정 후보는 레이트 왜곡 최적화에 기초하여 선택된다.

S3740에서, 인덱스가 현재 블록을 포함하는 비디오를 운반하는 비트스트림에 인코딩되며, 인덱스는 수정된 후보 리스트로부터의 특정 후보를 나타낸다.

일부 실시예들에서, 후보 리스트를 수정하기 위해, 후보 리스트 내의 제1 후보와 제2 후보 중 하나는 제1 후보와 제2 후보 사이의 TM 비용 차이가 요건을 충족시키는 것에 응답하여 중복 후보인 것으로 결정된다. 제1 후보는 제1 블록 크기의 제1 블록과 연관되고, 제2 후보는 제2 블록 크기의 제2 블록과 연관된다. 제1 블록 크기가 제2 블록 크기보다 작은 것에 응답하여 제1 후보가 중복 후보로 선택된다. 제2 블록 크기가 제1 블록 크기보다 작은 것에 응답하여 제2 후보가 중복 후보로 선택된다.

일례에서, 중복 후보는 후보 리스트의 끝으로 이동된다. 다른 예에서, 중복 후보는 후보 리스트로부터 제거된다.

이어서, 프로세스는 S3799로 진행하여 종료한다.

프로세스(3700)는 적합하게 적응될 수 있다. 프로세스(3700)의 단계(들)는 수정 및/또는 생략될 수 있다. 추가 단계(들)가 추가될 수 있다. 임의의 적절한 구현 순서가 사용될 수 있다.

도 38은 본 개시의 일 실시예에 따른 프로세스(3800)를 개설하는 흐름도를 도시한다. 프로세스(3800)는 비디오 디코더에서 사용될 수 있다. 다양한 실시예들에서, 프로세스(3800)는 단말 디바이스들(310, 320, 330 및 340) 내의 처리 회로, 비디오 디코더(410)의 기능들을 수행하는 처리 회로, 비디오 디코더(510)의 기능들을 수행하는 처리 회로, 비디오 디코더(633)의 기능들을 수행하는 처리 회로 등과 같은 처리 회로에 의해 실행된다. 일부 실시예들에서, 프로세스(3800)는 소프트웨어 명령어들로 구현되며, 따라서 처리 회로가 소프트웨어 명령어들을 실행할 때, 처리 회로는 프로세스(3800)를 수행한다. 프로세스는 S3801에서 시작하여 S3810으로 진행한다.

S3810에서, 현재 블록을 예측하기 위한 복수의 후보를 포함하는 후보 리스트가 결정된다.

S3820에서, 템플릿 매칭 비용의 더 큰 차이 및 더 큰 블록 크기를 갖는 후보들의 서브세트를 우선시하는 템플릿 매칭(TM) 비용 기반 다양성 평가를 통해 후보 리스트가 수정된다.

S3830에서, 수정된 후보 리스트로부터의 선택된 후보를 나타내는 인덱스가 현재 블록을 포함하는 비디오를 운반하는 비트스트림으로부터 디코딩된다.

S3840에서, 현재 블록은 선택된 후보에 기초하여 재구성된다.

이어서, 프로세스는 S3899로 진행하여 종료한다.

프로세스(3800)는 적합하게 적응될 수 있다. 프로세스(3800)의 단계(들)는 수정 및/또는 생략될 수 있다. 추가 단계(들)가 추가될 수 있다. 임의의 적절한 구현 순서가 사용될 수 있다.

전술한 기술들은 컴퓨터 판독가능 명령어들을 사용하고 하나 이상의 컴퓨터 판독가능 매체에 물리적으로 저장되는 컴퓨터 소프트웨어로서 구현될 수 있다. 예를 들어, 도 39는 개시된 주제의 특정 실시예들을 구현하기에 적합한 컴퓨터 시스템(3900)을 도시한다.

컴퓨터 소프트웨어는 하나 이상의 컴퓨터 중앙 처리 유닛(CPU), 그래픽 처리 유닛(GPU) 등에 의해 직접 또는 해석, 마이크로-코드 실행 등을 통해 실행될 수 있는 명령어들을 포함하는 코드를 생성하기 위해 어셈블리, 컴파일, 링킹, 또는 유사한 메커니즘들을 거칠 수 있는 임의의 적합한 머신 코드 또는 컴퓨터 언어를 사용하여 코딩될 수 있다.

명령어들은 예를 들어 개인용 컴퓨터들, 태블릿 컴퓨터들, 서버들, 스마트폰들, 게이밍 디바이스들, 사물 인터넷 디바이스들 등을 포함하는 다양한 유형의 컴퓨터들 또는 그 컴포넌트들 상에서 실행될 수 있다.

컴퓨터 시스템(3900)에 대한 도 39에 도시된 컴포넌트들은 사실상 예시적인 것이며, 본 개시의 실시예들을 구현하는 컴퓨터 소프트웨어의 사용 또는 기능의 범위에 대한 임의의 제한을 암시하도록 의도되지 않는다. 컴포넌트들의 구성은 컴퓨터 시스템(3900)의 예시적인 실시예에서 예시된 컴포넌트들 중 임의의 하나 또는 이들의 조합과 관련하여 임의의 종속성 또는 요건을 갖는 것으로 해석되어서도 안 된다.

컴퓨터 시스템(3900)은 특정 사람 인터페이스 입력 디바이스들을 포함할 수 있다. 그러한 사람 인터페이스 입력 디바이스는 예를 들어 촉각 입력(예컨대: 키스트로크들, 스와이프들, 데이터 장갑 움직임들), 오디오 입력(예컨대: 음성, 박수), 시각적 입력(예컨대: 제스처들), 후각적 입력(묘사되지 않음)을 통한 하나 이상의 사람 사용자에 의한 입력에 응답할 수 있다. 사람 인터페이스 디바이스들은 또한 오디오(예컨대: 스피치, 음악, 주변 사운드), 이미지들(예컨대: 스캐닝된 이미지들, 스틸 이미지 카메라로부터 획득된 사진 이미지들), 비디오(예컨대, 2차원 비디오, 입체 비디오를 포함하는 3차원 비디오)와 같은 사람에 의한 의식적인 입력과 반드시 직접 관련되지는 않는 특정 미디어를 캡처하기 위해 사용될 수 있다.

입력 사람 인터페이스 디바이스들은 키보드(3901), 마우스(3902), 트랙패드(3903), 터치 스크린(3910), 데이터-장갑(도시되지 않음), 조이스틱(3905), 마이크로폰(3906), 스캐너(3907), 카메라(3908) 중 하나 이상(각각의 하나만이 묘사됨)을 포함할 수 있다.

컴퓨터 시스템(3900)은 또한 특정 사람 인터페이스 출력 디바이스들을 포함할 수 있다. 이러한 사람 인터페이스 출력 디바이스들은 예를 들어, 촉각 출력, 사운드, 광, 및 냄새/맛을 통해 하나 이상의 사람 사용자의 감각들을 자극할 수 있다. 이러한 사람 인터페이스 출력 디바이스들은 촉각 출력 디바이스들(예를 들어 터치-스크린(3910), 데이터-장갑(도시되지 않음), 또는 조이스틱(3905)에 의한 촉각 피드백이지만, 입력 디바이스들의 역할을 하지 않는 촉각 피드백 디바이스들도 있을 수 있음), 오디오 출력 디바이스들(예컨대: 스피커들(3909), 헤드폰들(묘사되지 않음)), 시각적 출력 디바이스들(예컨대 CRT 스크린들, LCD 스크린들, 플라즈마 스크린들, OLED 스크린들을 포함하는 스크린들(3910) - 이들 각각은 터치-스크린 입력 능력이 있거나 없고, 각각은 촉각 피드백 능력이 있거나 없고 - 이들 중 일부는 2차원 시각적 출력 또는 입체 출력과 같은 수단을 통한 3차원 이상의 출력을 출력할 수 있음 -, 가상 현실 안경(묘사되지 않음), 홀로그래픽 디스플레이들 및 연기 탱크들(묘사되지 않음), 및 프린터들(묘사되지 않음))을 포함할 수 있다.

컴퓨터 시스템(3900)은 사람 액세스 가능 저장 디바이스들 및 그들과 연관된 매체들, 예컨대 CD/DVD 또는 유사한 매체들(3921)를 갖는 CD/DVD ROM/RW(3920)를 포함하는 광학 매체들, 썸-드라이브(3922), 이동식 하드 드라이브 또는 솔리드 스테이트 드라이브(3923), 테이프 및 플로피 디스크(묘사되지 않음)와 같은 레거시 자기 매체들, 보안 동글들(묘사되지 않음)과 같은 특수화된 ROM/ASIC/PLD 기반 디바이스들 등을 또한 포함할 수 있다.

이 분야의 통상의 기술자들은 현재 개시된 주제와 관련하여 사용된 바와 같은 용어 "컴퓨터 판독가능 매체들"이 송신 매체들, 반송파들, 또는 다른 일시적 신호들을 포함하지 않는다는 것을 또한 이해해야 한다.

컴퓨터 시스템(3900)은 또한 하나 이상의 통신 네트워크(3955)에 대한 인터페이스(3954)를 포함할 수 있다. 네트워크들은 예를 들어 무선, 유선, 광학일 수 있다. 네트워크들은 추가로 근거리, 광역, 도시, 차량 및 산업, 실시간, 지연 허용 등일 수 있다. 네트워크들의 예들은 근거리 네트워크들 예컨대 이더넷, 무선 LAN들, GSM, 3G, 4G, 5G, LTE 등을 포함하는 셀룰러 네트워크들, 케이블 TV, 위성 TV, 및 지상파 방송 TV를 포함하는 TV 유선 또는 무선 광역 디지털 네트워크들, CANBus를 포함하는 차량 및 산업 등을 포함한다. 특정 네트워크들은 일반적으로 특정 범용 데이터 포트들 또는 주변 버스들(3949)(예컨대, 컴퓨터 시스템(3900)의 USB 포트들)에 부착된 외부 네트워크 인터페이스 어댑터들을 요구하며; 다른 것들은 일반적으로 아래에 설명되는 바와 같은 시스템 버스에 대한 부착에 의해 컴퓨터 시스템(3900)의 코어에 통합된다(예를 들어, PC 컴퓨터 시스템 내로의 이더넷 인터페이스 또는 스마트폰 컴퓨터 시스템 내로의 셀룰러 네트워크 인터페이스). 이러한 네트워크들 중 임의의 것을 사용하여, 컴퓨터 시스템(3900)은 다른 엔티티들과 통신할 수 있다. 이러한 통신은 단방향성, 수신 전용(예를 들어, 방송 TV), 단방향 송신 전용(예를 들어, 특정 CANbus 디바이스들에 대한 CANbus), 또는 예를 들어, 근거리 또는 광역 디지털 네트워크들을 사용하는 다른 컴퓨터 시스템들에 대한 양방향성일 수 있다. 특정 프로토콜들 및 프로토콜 스택들이 전술한 바와 같은 네트워크들 및 네트워크 인터페이스들 각각에서 사용될 수 있다.

전술한 사람 인터페이스 디바이스들, 사람 액세스 가능 저장 디바이스들, 및 네트워크 인터페이스들은 컴퓨터 시스템(3900)의 코어(3940)에 부착될 수 있다.

코어(3940)는 하나 이상의 중앙 처리 유닛(CPU)(3941), 그래픽 처리 유닛(GPU)(3942), 필드 프로그래머블 게이트 영역(FPGA)(3943)의 형태의 특수화된 프로그래머블 처리 유닛, 특정 태스크들을 위한 하드웨어 가속기(3944), 그래픽 어댑터(3950) 등을 포함할 수 있다. 이들 디바이스는, 판독 전용 메모리(ROM)(3945), 랜덤 액세스 메모리(3946), 내부 사용자 액세스 불가능 하드 드라이브들, SSD들 등과 같은 내부 대용량 저장소(3947)와 함께, 시스템 버스(3948)를 통해 접속될 수 있다. 일부 컴퓨터 시스템들에서, 시스템 버스(3948)는 추가적인 CPU들, GPU들 등에 의한 확장을 가능하게 하기 위해 하나 이상의 물리적 플러그의 형태로 액세스 가능할 수 있다. 주변 디바이스들은 코어의 시스템 버스(3948)에 직접, 또는 주변 버스(3949)를 통해 부착될 수 있다. 일례에서, 스크린(3910)은 그래픽 어댑터(3950)에 접속될 수 있다. 주변 버스에 대한 아키텍처들은 PCI, USB 등을 포함한다.

CPU들(3941), GPU들(3942), FPGA들(3943), 및 가속기들(3944)은, 조합하여, 전술한 컴퓨터 코드를 구성할 수 있는 특정 명령어들을 실행할 수 있다. 그러한 컴퓨터 코드는 ROM(3945) 또는 RAM(3946)에 저장될 수 있다. 과도적인 데이터가 또한 RAM(3946)에 저장될 수 있는 반면, 영구적인 데이터는 예를 들어 내부 대용량 저장소(3947)에 저장될 수 있다. 메모리 디바이스들 중 임의의 것에 대한 고속 저장 및 검색은 하나 이상의 CPU(3941), GPU(3942), 대용량 저장소(3947), ROM(3945), RAM(3946) 등과 밀접하게 연관될 수 있는 캐시 메모리의 사용을 통해 가능하게 될 수 있다.

컴퓨터 판독가능 매체들은 다양한 컴퓨터 구현 동작들을 수행하기 위한 컴퓨터 코드를 가질 수 있다. 매체들 및 컴퓨터 코드는 본 개시의 목적들을 위해 특별히 설계되고 구성된 것들일 수 있거나, 그들은 컴퓨터 소프트웨어 분야의 통상의 기술자들에게 잘 알려져 있고 이용 가능한 종류의 것일 수 있다.

제한이 아니라 예로서, 아키텍처를 갖는 컴퓨터 시스템(3900), 및 구체적으로 코어(3940)는 프로세서(들)(CPU들, GPU들, FPGA, 가속기들 등을 포함함)가 하나 이상의 유형적인 컴퓨터 판독가능 매체에 구현된 소프트웨어를 실행하는 결과로서 기능을 제공할 수 있다. 그러한 컴퓨터 판독가능 매체들은 위에 소개된 바와 같은 사용자 액세스 가능 대용량 저장소뿐만 아니라, 코어-내부 대용량 저장소(3947) 또는 ROM(3945)과 같은 비일시적인 성질의 것인 코어(3940)의 특정 저장소와 연관된 매체들일 수 있다. 본 개시의 다양한 실시예들을 구현하는 소프트웨어는 이러한 디바이스들에 저장되고 코어(3940)에 의해 실행될 수 있다. 컴퓨터 판독가능 매체는 특정 요구에 따라 하나 이상의 메모리 디바이스 또는 칩을 포함할 수 있다. 소프트웨어는 코어(3940) 및 구체적으로 그 내부의 프로세서들(CPU, GPU, FPGA 등을 포함함)로 하여금, RAM(3946)에 저장된 데이터 구조들을 정의하는 것 및 소프트웨어에 의해 정의된 프로세스들에 따라 그러한 데이터 구조들을 수정하는 것을 포함하여, 본 명세서에 설명된 특정 프로세스들 또는 특정 프로세스들의 특정 부분들을 실행하게 할 수 있다. 추가로 또는 대안으로서, 컴퓨터 시스템은 본 명세서에 설명된 특정 프로세스들 또는 특정 프로세스들의 특정 부분들을 실행하기 위해 소프트웨어 대신에 또는 그와 함께 동작할 수 있는 회로(예를 들어: 가속기(3944))에 하드와이어링되거나 다른 방식으로 구현된 로직의 결과로서 기능을 제공할 수 있다. 소프트웨어에 대한 언급은 적절한 경우 로직을 포함할 수 있고, 그 반대일 수도 있다. 컴퓨터 판독가능 매체들에 대한 언급은 적절한 경우 실행을 위한 소프트웨어를 저장하는 회로(집적 회로(IC) 등), 실행을 위한 로직을 구현하는 회로, 또는 둘 다를 포함할 수 있다. 본 개시는 하드웨어와 소프트웨어의 임의의 적절한 조합을 포함한다.

부록 A: 두문자어들

JEM: 공동 탐사 모델

VVC: 다용도 비디오 코딩

BMS: 벤치마크 세트

MV: 모션 벡터

HEVC: 고효율 비디오 코딩

SEI: 보완 향상 정보

VUI: 비디오 유용성 정보

GOP: 픽처 그룹

TU: 변환 유닛

PU: 예측 유닛

CTU: 코딩 트리 유닛

CTB: 코딩 트리 블록

PB: 예측 블록

HRD: 가설 기준 디코더

SNR: 신호 잡음비

CPU: 중앙 처리 유닛

GPU: 그래픽 처리 유닛

CRT: 음극선관

LCD: 액정 디스플레이

OLED: 유기 발광 다이오드

CD: 컴팩트 디스크

DVD: 디지털 비디오 디스크

ROM: 판독 전용 메모리

RAM: 랜덤 액세스 메모리

ASIC: 주문형 집적 회로

PLD: 프로그래머블 로직 디바이스

LAN: 근거리 네트워크

GSM: 이동 통신용 글로벌 시스템

LTE: 롱 텀 에볼루션

CANBus: 컨트롤러 영역 네트워크 버스

USB: 범용 직렬 버스

PCI: 주변 컴포넌트 인터커넥트

FPGA: 필드 프로그래머블 게이트 영역

SSD: 솔리드 스테이트 드라이브

IC: 집적 회로

CU: 코딩 유닛

본 개시가 몇몇 예시적인 실시예들을 설명하였지만, 본 개시의 범위 내에 속하는 변경들, 치환들, 및 다양한 대체 등가물들이 있다. 따라서, 이 분야의 통상의 기술자들은 본 명세서에서 명시적으로 도시되거나 설명되지는 않았지만 본 개시의 원리들을 구현하고 그에 따라 그 사상과 범위 내에 있는 수 많은 시스템 및 방법을 창안할 수 있을 것이라는 것이 이해될 것이다.

Claims

디코더에서의 비디오 처리의 방법으로서,
현재 블록을 포함하는 비디오 비트스트림을 수신하는 단계;
상기 현재 블록을 예측하기 위한 복수의 모션 벡터(MV) 후보를 포함하는 후보 리스트를 결정하는 단계;
상기 복수의 MV 후보의 모션 정보 기반 다양성 평가에 따라 상기 후보 리스트 내의 상기 복수의 MV 후보를 수정하는 단계 - 상기 복수의 MV 후보를 수정하는 단계는 모션 정보의 더 큰 차이를 갖는 MV 후보들의 서브세트를 우선시함 -;
상기 비디오 비트스트림으로부터, 상기 수정된 후보 리스트로부터의 선택된 MV 후보를 나타내는 인덱스를 디코딩하는 단계; 및
상기 선택된 MV 후보에 기초하여 상기 현재 블록을 재구성하는 단계
를 포함하는, 방법.
제1항에 있어서, 상기 모션 정보 기반 다양성 평가는:
병진 모션 기반 다양성 평가; 및
아핀 모션 기반 다양성 평가
중 적어도 하나를 포함하는, 방법.
제1항에 있어서,
상기 후보 리스트 내의 제1 MV 후보가 요건을 충족시키는지 여부를 결정하는 단계; 및
상기 제1 MV 후보가 상기 요건을 충족시키는 것에 응답하여 상기 제1 MV 후보 및 상기 제1 MV 후보의 전임자인 제2 MV 후보에 상기 모션 정보 기반 다양성 평가를 적용하는 단계
를 더 포함하고,
상기 요건은:
상기 제1 MV 후보와 연관된 블록 크기가 크기 요건을 충족시키는 것; 및
상기 제1 MV 후보의 블록 좌표가 좌표 요건을 충족시키는 것
중 적어도 하나를 포함하는, 방법.
제1항에 있어서,
제1 MV 후보 및 제2 MV 후보 중 하나가 단방향 예측 후보이고 상기 제1 MV 후보 및 상기 제2 MV 후보 중 다른 하나가 양방향 예측 후보인 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보가 충분한 다양성을 갖는다고 결정하는 단계를 더 포함하는, 방법.
제1항에 있어서, 상기 모션 정보 기반 다양성 평가는 병진 모션 기반 다양성 평가이고, 상기 병진 모션 기반 다양성 평가로 상기 후보 리스트를 수정하는 단계는:
상기 후보 리스트 내의 상기 제1 MV 후보와 상기 제2 MV 후보 사이의 제1 모션 벡터 차이를 계산하는 단계; 및
상기 제1 모션 벡터 차이에 기초하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복되는지 여부를 결정하는 단계
를 더 포함하는, 방법.
제5항에 있어서,
상기 제1 모션 벡터 차이의 제1 최대 성분 값을 임계치와 비교하는 단계; 및
상기 제1 최대 성분 값이 상기 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제6항에 있어서, 상기 임계치는:
고정된 상수 값; 및
상기 현재 블록의 크기의 함수인 값
을 포함하는, 방법.
제5항에 있어서, 상기 제1 MV 후보 및 상기 제2 MV 후보는 양방향 예측 후보들이고, 상기 제1 모션 벡터 차이는 제1 기준 픽처와 연관되고, 상기 방법은:
상기 제1 MV 후보와 상기 제2 MV 후보 사이의 제2 모션 벡터 차이를 계산하는 단계 - 상기 제2 모션 벡터 차이는 제2 기준 픽처와 연관됨 -; 및
상기 제1 모션 벡터 차이의 제1 최대 성분 값과 상기 제2 모션 벡터 차이의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제5항에 있어서, 상기 제1 MV 후보 및 상기 제2 MV 후보는 기하학적 파티셔닝 모드(GPM) 후보들이고, 상기 제1 모션 벡터 차이는 상기 제1 MV 후보 및 상기 제2 MV 후보의 각각의 제1 파티션들과 연관되고, 상기 방법은:
상기 제1 MV 후보와 상기 제2 MV 후보 사이의 제2 모션 벡터 차이를 계산하는 단계 - 상기 제2 모션 벡터 차이는 상기 제1 MV 후보 및 상기 제2 MV 후보의 각각의 제2 파티션들과 연관됨 -; 및
상기 제1 모션 벡터 차이의 제1 최대 성분 값과 상기 제2 모션 벡터 차이의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제1항에 있어서, 상기 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가이고, 상기 아핀 모션 기반 다양성 평가로 상기 후보 리스트를 수정하는 단계는:
상기 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보로부터 각각 제1 제어 포인트 모션 벡터(CPMV)들의 제1 쌍 사이의 제1 제어 포인트 모션 벡터(CPMV) 차이 값을 계산하는 단계; 및
상기 제1 CPMV 차이 값에 기초하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복되는지 여부를 결정하는 단계
를 더 포함하는, 방법.
제10항에 있어서,
상기 제1 CPMV 차이 값의 제1 최대 성분 값을 임계치와 비교하는 단계; 및
상기 제1 최대 성분 값이 상기 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제11항에 있어서, 상기 임계치는:
고정된 상수 값; 및
상기 현재 블록의 크기의 함수인 값
을 포함하는, 방법.
제10항에 있어서, 상기 제1 MV 후보 및 상기 제2 MV 후보는 양방향 예측 후보들이고, 상기 제1 CPMV 차이 값은 제1 기준 픽처와 연관된 상기 제1 CPMV들의 제1 쌍 사이의 차이 값이고, 상기 방법은:
상기 제1 MV 후보 및 상기 제2 MV 후보로부터 각각 제1 CPMV들의 제2 쌍 사이의 제2 CPMV 차이 값을 계산하는 단계 - 상기 CPMV들의 제2 쌍은 제2 기준 픽처와 연관됨 -; 및
상기 제1 CPMV 차이 값의 제1 최대 성분 값과 상기 제2 CPMV 차이 값의 제2 최대 성분 값이 모두 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제1항에 있어서, 상기 모션 정보 기반 다양성 평가는 아핀 모션 기반 다양성 평가이고, 상기 아핀 모션 기반 다양성 평가로 상기 후보 리스트를 수정하는 단계는:
상기 후보 리스트 내의 상기 제1 MV 후보 및 상기 제2 MV 후보로부터 각각 아핀 모델들의 제1 쌍 사이의 제1 복수의 아핀 파라미터 차이 값을 계산하는 단계; 및
상기 제1 복수의 아핀 파라미터 차이 값에 기초하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복되는지 여부를 결정하는 단계
를 더 포함하는, 방법.
제14항에 있어서,
상기 제1 복수의 아핀 파라미터 차이 값 중 제1 최대값을 임계치와 비교하는 단계; 및
상기 제1 최대값이 상기 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제14항에 있어서, 상기 제1 MV 후보 및 상기 제2 MV 후보가 양방향 예측 후보들이고, 상기 제1 복수의 아핀 파라미터 차이 값은 제1 기준 픽처와 연관되고, 상기 방법은:
상기 제1 MV 후보 및 상기 제2 MV 후보로부터 아핀 모델들의 제2 쌍 사이의 제2 복수의 아핀 파라미터 차이 값을 계산하는 단계 - 상기 아핀 모델들의 제2 쌍은 제2 기준 픽처와 연관됨 -; 및
상기 제1 복수의 아핀 파라미터 차이 값 중 제1 최대값과 제2 복수의 아핀 파라미터 차이 값 중 제2 최대값이 모두 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계
를 더 포함하는, 방법.
제1항에 있어서, 상기 모션 정보 기반 다양성 평가로 상기 후보 리스트를 수정하는 단계는:
상기 모션 정보 기반 다양성 평가 및 템플릿 매칭(TM) 비용 기반 다양성 평가에 기초하여 상기 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보 중 하나가 중복되는지 여부를 결정하는 단계를 더 포함하는, 방법.
제17항에 있어서,
상기 제1 MV 후보와 상기 제2 MV 후보 사이의 모션 차이가 제1 임계치보다 작고 상기 제1 MV 후보와 상기 제2 MV 후보의 템플릿 매칭 비용 차이가 제2 임계치보다 작은 것에 응답하여 상기 제1 MV 후보 및 상기 제2 MV 후보 중 하나가 중복된다고 결정하는 단계를 더 포함하는, 방법.
제1항에 있어서, 상기 후보 리스트를 수정하는 단계는:
중복 후보인 것으로 결정되는 MV 후보를 상기 후보 리스트의 끝으로 이동시키는 단계; 및
중복 후보인 것으로 결정되는 MV 후보를 상기 후보 리스트로부터 제거하는 단계
중 적어도 하나를 더 포함하는, 방법.
제1항에 있어서, 상기 후보 리스트를 수정하는 단계는:
상기 후보 리스트 내의 제1 MV 후보 및 제2 MV 후보 중 하나가 중복 후보라고 결정하는 단계 - 상기 제1 MV 후보는 제1 블록 크기를 갖는 제1 블록과 연관되고, 상기 제2 MV 후보는 제2 블록 크기를 갖는 제2 블록과 연관됨 -; 및
상기 제1 블록 크기가 상기 제2 블록 크기보다 작은 것에 응답하여 상기 제1 MV 후보를 중복 후보로 선택하는 단계
를 더 포함하는, 방법.