KR20240008934A - 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드 - Google Patents

모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드 Download PDF

Info

Publication number
KR20240008934A
KR20240008934A KR1020237043476A KR20237043476A KR20240008934A KR 20240008934 A KR20240008934 A KR 20240008934A KR 1020237043476 A KR1020237043476 A KR 1020237043476A KR 20237043476 A KR20237043476 A KR 20237043476A KR 20240008934 A KR20240008934 A KR 20240008934A
Authority
KR
South Korea
Prior art keywords
gpm
mvr
index
enable flag
merge
Prior art date
Application number
KR1020237043476A
Other languages
English (en)
Inventor
샤오위 슈
처-웨이 궈
웨이 천
훙-정 주
닝 옌
이-원 천
샹린 왕
빙 위
Original Assignee
베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드 filed Critical 베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드
Publication of KR20240008934A publication Critical patent/KR20240008934A/ko

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/537—Motion estimation other than block-based
    • H04N19/543—Motion estimation other than block-based using regions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/573—Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

GPM에서 비디오 블록을 디코딩하는 방법 및 장치가 제공된다. 이 방법은: 비디오 블록을 제1 기하학적 파티션 및 제2 기하학적 파티션으로 파티셔닝하는 단계; 제1 기하학적 파티션에 대한 제1 템플릿 매칭(TM) 인에이블 플래그 및 제2 기하학적 파티션에 대한 제2 TM 인에이블 플래그를 수신하는 단계 - 제1 TM 인에이블 플래그는 제1 파티션의 단방향 모션이 TM에 의해 리파인되는지 여부를 지시하고, 제2 TM 인에이블 플래그는 제2 파티션의 단방향 모션이 TM에 의해 리파인되는지 여부를 지시함 -; 제1 기하학적 파티션에 대한 제1 병합 GPM 인덱스 및 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신하는 단계; GPM의 단방향 모션 벡터(MV) 후보 리스트를 구성하는 단계; 및 제1 기하학적 파티션에 대한 단방향 MV 및 제2 기하학적 파티션에 대한 단방향 MV를 생성하는 단계를 포함한다.

Description

모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드
본 출원은 2021년 3월 17일에 출원된 가출원 번호 제63/189,661호에 기반하고 우선권을 주장하는 바이며, 이러한 문헌의 개시 내용은 모든 목적을 위해 원용에 의해 전체적으로 본 명세서에 포함된다.
본 개시는 비디오 코딩 및 압축에 관한 것이다. 보다 구체적으로, 본 개시는 각도 가중 예측(angular weighted prediction, AWP) 모드로도 알려진 기하학적 파티션(geometric partition, GPM) 모드의 코딩 효율을 개선하는 방법 및 장치에 관한 것이다.
비디오 데이터를 압축하기 위해 다양한 비디오 코딩 기술이 사용될 수 있다. 비디오 코딩은 하나 이상의 비디오 코딩 표준에 따라 수행된다. 예를 들어, 오늘날 잘 알려진 일부 비디오 코딩 표준은, ISO/IEC MPEG 및 ITU-T VECG가 공동으로 개발한, VVC(Versatile Video Coding, HEVC, H.265 또는 MPEG-H Part2라고도 함) 및 AVC(Advanced Video Coding, H.264 또는 MPEG-4 Part 10이라고도 함)를 포함한다. AV1(AOMedia Video 1)은 이전 표준 VP9의 후속 제품으로 AOM(Alliance for Open Media)에 의해 개발되었다. AVS(Audio Video Coding)는 디지털 오디오 및 디지털 비디오 압축 표준을 의미하며, 중국의 오디오 및 비디오 코딩 표준 작업 그룹에서 개발한 또 다른 비디오 압축 표준 시리즈이다. 기존 비디오 코딩 표준의 대부분은 즉 블록 기반 예측 방법(예: 인터 예측, 인트라 예측)을 사용하여 비디오 이미지 또는 시퀀스에 존재하는 중복성을 감소시키고 변환 코딩을 사용하여 예측 에러의 에너지를 압축하는, 유명한 하이브리드 비디오 코딩 프레임워크에 기반한다. 비디오 코딩 기술의 중요한 목표는 비디오 품질 저하를 피하거나 최소화하면서 더 낮은 비트 레이트(bit rate)를 사용하는 형태로 비디오 데이터를 압축하는 것이다.
본 개시의 예는 비디오 코딩 방법 및 장치 그리고 컴퓨터가 판독 가능한 비일시적 저장 매체를 제공한다.
본 개시의 제1 측면에 따르면, GPM에서 비디오 블록을 디코딩하는 방법이 제공된다. 이 방법은 비디오 블록을 제1 기하학적 파티션 및 제2 기하학적 파티션으로 파티셔닝하는 단계를 포함할 수 있다. 이 방법은 제1 기하학적 파티션에 대한 제1 템플릿 매칭(template matching, TM) 인에이블 플래그(enable flag)를 수신하는 단계 및 제2 기하학적 파티션에 대한 제2 TM 인에이블 플래그를 수신하는 단계를 포함할 수 있으며, 제1 TM 인에이블 플래그는 제1 파티션의 단방향 모션(uni-directional motion)이 TM에 의해 리파인되는(refined)지 여부를 지시하고, 제2 TM 인에이블 플래그는 제2 파티션의 단방향 모션이 TM에 의해 리파인되는지 여부를 지시한다. 이 방법은 제1 기하학적 파티션에 대한 제1 병합(merge) GPM 인덱스 및 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신하는 단계를 포함할 수 있다. 이 방법은 GPM의 단방향 모션 벡터(motion vector, MV) 후보 리스트를 구성하는 단계를 포함할 수 있다. 이 방법은 제1 기하학적 파티션에 대한 단방향 MV 및 제2 기하학적 파티션에 대한 단방향 MV를 생성하는 단계를 포함할 수 있다.
본 개시의 제2 측면에 따르면, GPM에서 비디오 블록을 디코딩하는 방법이 제공된다. 이 방법은 비디오 블록을 제1 기하학적 파티션 및 제2 기하학적 파티션으로 파티셔닝하는 단계를 포함할 수 있다. 이 방법은 GPM의 단방향 MV 후보 리스트를 구성하는 단계를 포함할 수 있다. 이 방법은 제1 기하학적 파티션에 대한 제1 병합 GPM 인덱스 및 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신하는 단계를 포함할 수 있다. 이 방법은 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스에 기반하여 단방향 MV 후보 리스트를 업데이트하는 단계를 포함할 수 있으며, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스는 하나의 단방향 MV가 TM에 의해 리파인되는지 여부를 지시한다.
본 개시의 제3 측면에 따르면, 비디오 디코딩 장치가 제공된다. 이 장치는 하나 이상의 프로세서 및 컴퓨터가 판독 가능한 비일시적 저장 매체를 포함할 수 있다. 컴퓨터가 판독 가능한 비일시적 저장 매체는 하나 이상의 프로세서에 의해 실행 가능한 명령어를 저장하도록 구성된다. 하나 이상의 프로세서는 명령어의 실행시, 제1 측면 또는 제2 측면의 방법을 수행하도록 구성된다.
본 개시의 제4 측면에 따르면, 컴퓨터가 판독 가능한 비일시적 저장 매체가 제공된다. 컴퓨터가 판독 가능한 비일시적 저장 매체는, 하나 이상의 컴퓨터 프로세서에 의해 실행될 때, 하나 이상의 컴퓨터 프로세서가 제1 측면 또는 제2 측면의 방법을 수행하게 하는 컴퓨터가 실행 가능한 명령어를 저장할 수 있다.
본 명세서에 통합되고 그 일부를 구성하는 첨부 도면은 본 개시와 일치하는 예를 예시하고, 설명과 함께 본 개시의 원리를 설명하는 역할을 한다.
도 1은 본 개시의 일 예에 따른 인코더의 블록도이다.
도 2는 본 개시의 일 예에 따른 디코더의 블록도이다.
도 3a는 본 개시의 일 예에 따른 멀티 유형 트리 구조에서 블록 파티션을 예시하는 도면이다.
도 3b는 본 개시의 일 예에 따른 멀티 유형 트리 구조에서 블록 파티션을 예시하는 도면이다.
도 3c는 본 개시의 일 예에 따른 멀티 유형 트리 구조에서 블록 파티션을 예시하는 도면이다.
도 3d는 본 개시의 일 예에 따른 멀티 유형 트리 구조에서 블록 파티션을 예시하는 도면이다.
도 3e는 본 개시의 일 예에 따른 멀티 유형 트리 구조에서 블록 파티션을 예시하는 도면이다.
도 4는 본 개시의 일 예에 따른 허용된 GPM(geometric partition) 파티션의 예시이다.
도 5는 본 개시의 일 예에 따른 단일 예측 모션 벡터 선택을 예시하는 표이다.
도 6a는 본 개시의 일 예에 따른 MMVD(motion vector difference) 모드의 예시이다.
도 6b는 본 개시의 일 예에 따른 MMVD 모드의 예시이다.
도 7은 본 개시의 일 예에 따른 TM(template matching) 알고리즘의 예시이다.
도 8은 본 개시의 일 예에 따른 GPM에서 비디오 블록을 디코딩하는 방법이다.
도 9는 본 개시의 일 예에 따른 GPM에서 비디오 블록을 디코딩하는 방법이다.
도 10은 본 개시의 일 예에 따른 사용자 인터페이스가 조합된 컴퓨팅 환경을 나타내는 도면이다.
이제 실시예에 대해 상세히 참조할 것이며, 그 예는 첨부된 도면에 도시되어 있다. 다음 설명은 다른 도면에서 동일한 번호가 달리 나타내지 않는 한 동일하거나 유사한 엘리먼트를 나타내는 첨부한 도면을 참조한다. 이하의 실시예들의 설명에서 제시된 구현들은 본 개시와 일치하는 모든 구현들을 나타내지는 않는다. 대신, 그들은 첨부된 청구범위에 인용된 바와 같이 본 개시와 관련된 측면과 일치하는 장치 및 방법의 예일뿐이다.
본 개시에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 개시를 한정하려는 의도가 아니다. 본 개시 및 첨부된 특허청구범위에서 사용된 바와 같이, 단수형 "a", "an" 및 "상기(the)"는 문맥상 명백하게 달리 나타내지 않는 한 복수형도 포함하는 것으로 의도된다. 또한 여기에서 사용된 "및/또는"이라는 용어는 관련된 나열된 항목 중 하나 이상의 임의의 또는 모든 가능한 조합을 의미하고 포함하도록 의도됨을 이해해야 한다.
본 명세서에서 "제1", "제2", "제3" 등의 용어는 다양한 정보를 설명하기 위해 사용될 수 있지만, 이러한 용어에 의해 정보가 제한되어서는 안 됨을 이해해야 한다. 이러한 용어는 한 범주의 정보를 다른 범주와 구별하는 데에만 사용된다. 예를 들어, 본 개시의 범위를 벗어나지 않고, 제1 정보는 제2 정보라고도 할 수 있으며; 유사하게, 제2 정보는 또한 제1 정보라고도 할 수 있다. 여기에서 사용된 바와 같이, 용어 "~면(if)"은 문맥에 따라 "~할 때(when)" 또는 "~에 따라(upon)" 또는 "판단에 응답하여"를 의미하는 것으로 이해될 수 있다.
1세대 AVS 표준은 중국 국가 표준 "정보 기술, 향상된 오디오 비디오 코딩 Part 2: 비디오"(AVS1로 알려짐) 및 "정보 기술, 향상된 오디오 비디오 코딩 Part 16: 무선 텔레비전 비디오"(AVS+로 알려짐)를 포함한다. MPEG-2 표준과 비교하여 동일한 지각 품질에서 약 50%의 비트 레이트 절감을 제공할 수 있다. AVS1 표준 비디오 부분은 2006년 2월에 중국 국가 표준으로 공포되었다. 2세대 AVS 표준은, 주로 추가 HD TV 프로그램의 전송을 목표로 하는 중국 국가 표준 시리즈 "정보 기술, 효율적인 멀티미디어 코딩"(AVS2로 알려짐)를 포함한다. AVS2의 코딩 효율은 AVS+의 2개의 배이다. 2016년 5월에 AVS2가 중국 국가 표준으로 발행되었다. 한편, AVS2 표준 비디오 부분은 IEEE(Institute of Electrical and Electronics Engineers)에 의해 하나의 국제 표준으로 신청되었다. AVS3 표준은 최신 국제 표준 HEVC의 코딩 효율을 능가하는 것을 목표로 하는, UHD 비디오 애플리케이션을 위한 차세대 비디오 코딩 표준 중 하나이다. 2019년 3월 68차 AVS 회의에서, HEVC 표준에 비해 약 30%의 비트 레이트 절감을 제공하는 AVS3-P2 기준선이 완료되었다. 현재 HPM(high performance model)이라는 하나의 참조 소프트웨어가 AVS 그룹에서 유지 관리되어 AVS3 표준의 참조 구현을 시연한다.
HEVC와 같이, AVS3 표준은 블록 기반 하이브리드 비디오 코딩 프레임워크를 기반으로 한다.
도 1은 VVC를 위한 블록 기반 비디오 인코더의 일반적인 도면을 도시한다. 구체적으로, 도 1은 일반적인 인코더(100)를 지시한다. 인코더(100)는 비디오 입력(110), 모션 보상(112), 모션 추정(114), 인트라/인터 모드 결정(116), 블록 예측자(140), 가산기(128), 변환(130), 양자화(132), 예측 관련 정보(142), 인트라 예측(118), 픽처 버퍼(120), 역 양자화(134), 역 변환(136), 가산기(126), 메모리(124), 인루프 필터(in-loop filter)(122), 엔트로피 코딩(138), 및 비트스트림(144)을 갖는다.
인코더(100)에서, 비디오 프레임은 처리를 위해 복수의 비디오 블록으로 파티셔닝된다. 각각의 주어진 비디오 블록에 대해, 인터 예측 접근법 또는 인트라 예측 접근법에 기반하여 예측이 형성된다.
비디오 입력(110)의 일부인 현재 비디오 블록과 블록 예측자(predictor)(140)의 일부인 그 예측자 간의 차이를 나타내는 예측 잔차(prediction residual)는 가산기(128)로부터 변환(130)으로 송신된다. 그런 다음 변환 계수가 엔트로피 감소를 위해 변환(130)으로부터 양자화(132)로 송신된다. 그런 다음 양자화된 계수는 압축된 비디오 비트스트림을 생성하기 위해 엔트로피 코딩(138)에 공급된다. 도 1에 도시된 바와 같이, 비디오 블록 파티션 정보, 모션 벡터(motion vector, MV), 참조 픽처 인덱스, 및 인트라 예측 모드와 같은 인트라/인터 모드 결정(116)으로부터의 예측 관련 정보(142)도 엔트로피 코딩(138)을 통해 공급되고 압축된 비트스트림으로 저장된다. 압축된 비트스트림(144)은 비디오 비트스트림을 포함한다.
인코더(100)에서, 예측의 목적을 위해 픽셀을 재구성하기 위해 디코더 관련 회로도 필요하다. 먼저 역 양자화(Inverse Quantization)(134)와 역 변환(Inverse Transform)(136)을 통해 예측 잔차를 재구성한다. 이 재구성된 예측 잔차는 현재 비디오 블록에 대한 필터링되지 않은 재구성된 픽셀을 생성하기 위해 블록 예측자(140)와 조합된다.
공간적 예측(또는 "인트라 예측")은 현재 비디오 블록과 동일한 비디오 프레임에서 이미 코딩된 이웃 블록의 샘플(참조 샘플이라고 함)로부터의 픽셀을 사용하여, 현재 비디오 블록을 예측한다.
시간적 예측("인터 예측"이라고도 함)은 이미 코딩된 비디오 픽처로부터의 재구성된 픽셀을 사용하여, 현재 비디오 블록을 예측한다. 시간적 예측은 비디오 신호에 내재된 시간적 중복성을 감소시킨다. 주어진 코딩 유닛(coding unit, CU) 또는 코딩 블록에 대한 시간적 예측 신호는, 일반적으로 현재 CU와 그 시간 참조 사이의 모션의 양과 방향을 지시하는 하나 이상의 MV에 의해 시그널링된다. 또한, 다수의(multiple) 참조 픽처가 지원되면, 하나의 참조 픽처 인덱스가 추가로 송신되며, 이는 참조 픽처 저장소(store)의 어느 참조 픽처로부터 시간적 예측 신호가 오는지를 식별하는 데 사용된다.
모션 추정(114)은 비디오 입력(110) 및 픽처 버퍼(120)로부터의 신호를 취하여, 모션 추정 신호를 모션 보상(112)으로 출력한다. 모션 보상(112)은 비디오 입력(110), 픽처 버퍼(120)로부터의 신호, 및 모션 추정(114)으로부터의 모션 추정 신호를 취하여, 모션 보상 신호를 인트라/인터 모드 결정(116)으로 출력한다.
공간적 및/또는 시간적 예측이 수행된 후, 인코더(100)의 인트라/인터 모드 결정(116)은 예를 들어 레이트-왜곡(rate-distortion) 최적화 방법에 기반하여 최상의 예측 모드를 선택한다. 블록 예측자(140)는 그 후 현재 비디오 블록으로부터 감산되고, 결과적인 예측 잔차는 변환(130) 및 양자화(132)를 사용하여 역상관된다(de-correlated). 결과적인 양자화된 잔차 계수는 역 양자화(134)에 의해 역 양자화되고 역 변환(136)에 의해 역 변환되어 재구성된 잔차를 형성하고, 이는 예측 블록에 다시 추가되어 CU의 재구성된 신호를 형성한다. 디블로킹 필터, 샘플 적응적 오프셋(sample adaptive offset, SAO), 및/또는 적응적 인루프 필터(adaptive in-loop filter, ALF)와 같은 추가 인루프 필터링(122)은, 재구성된 CU가 픽처 버퍼(120)의 참조 픽처 저장소에 놓이고 미래의 비디오 블록을 코딩하는데 사용되기 전에, 재구성된 CU에 적용될 수 있다. 출력 비디오 비트스트림(144)을 형성하기 위해, 코딩 모드(인터 또는 인트라), 예측 모드 정보, 모션 정보, 및 양자화된 잔차 계수는 모두 엔트로피 코딩 유닛(138)으로 송신되어 비트스트림을 형성하기 위해 추가로 압축되고 패킹된다.
도 1은 일반적인 블록 기반 하이브리드 비디오 인코딩 시스템의 블록도를 제공한다. 입력 비디오 신호는 블록(코딩 유닛(coding unit, CU)이라고 함)별로 처리된다. 쿼드 트리(quad-tree)만을 기반으로 블록을 파티셔닝하는 HEVC와 달리, AVS3에서는 하나의 코딩 트리 유닛(one coding tree unit, CTU)이 쿼드/이진/확장된 쿼드 트리에 기반하여 다양한 로컬 특성에 적응하기 위해 CU로 분할된다(split). 추가적으로, HEVC에서 다수의 파티션 유닛 유형의 개념이 제거되며, 즉, CU, 예측 유닛(prediction unit, PU), 및 변환 유닛(transform unit, TU)의 분리가 AVS3에 존재하지 않는다. 대신에, 각각의 CU는 추가 파티션 없이 예측 및 변환 모두를 위한 기본 유닛(basic unit)으로 항상 사용된다. AVS3의 트리 파티션 구조에서, 먼저 하나의 CTU가 쿼드 트리 구조에 기반하여 파티셔닝된다. 그런 다음, 각각의 쿼드 트리 리프 노드는 이진 및 확장된 쿼드 트리 구조를 기반으로 추가로 파티셔닝될 수 있다.
도 3a, 도 3b, 도 3c, 도 3d, 및 도 3e에 도시된 바와 같이, 쿼터 파티셔닝(quaternary partitioning), 수평 이진 파티셔닝(horizontal binary partitioning), 수직 이진 파티셔닝(vertical binary partitioning), 수평 확장된 쿼드 트리 파티셔닝(horizontal extended quad-tree partitioning), 및 수직 확장된 쿼드 트리 파티셔닝(vertical extended quad-tree partitioning)의 5가지 파티셔닝 방식이 있다.
도 3a는 본 개시에 따른 다중 유형 트리 구조에서 블록 쿼터 파티션을 예시하는 도면을 도시한다.
도 3b는 본 개시에 따른 다중 유형 트리 구조에서 블록 수직 이진 파티션을 예시하는 도면을 도시한다.
도 3c는 본 개시에 따른 다중 유형 트리 구조에서 블록 수평 이진 파티션을 예시하는 도면을 도시한다.
도 3d는 본 개시에 따른 다중 유형 트리 구조에서 블록 수직 삼항 파티션을 예시하는 도면을 도시한다.
도 3e는 본 개시에 따른 다중 유형 트리 구조에서 블록 수평 삼항 파티션을 예시하는 도면을 도시한다.
도 1에서, 공간적 예측 및/또는 시간적 예측이 수행될 수 있다. 공간적 예측(또는 "인트라 예측")은 현재 비디오 블록을 예측하기 위해 동일한 비디오 픽처/슬라이스에서 이미 코딩된 이웃 블록의 샘플(참조 샘플이라고 함)로부터의 픽셀을 사용한다. 공간적 예측은 비디오 신호에 내재된 공간 중복성을 감소시킨다. 시간적 예측("인터 예측" 또는 "모션 보상 예측"이라고도 함)은 이미 코딩된 비디오 픽처로부터의 재구성된 픽셀을 사용하여 현재 비디오 블록을 예측한다. 시간적 예측은 비디오 신호에 내재된 시간적 중복성을 감소시킨다. 주어진 CU에 대한 시간적 예측 신호는 일반적으로 현재 CU와 그 시간적 참조 사이의 모션의 양과 방향을 지시하는 하나 이상의 모션 벡터(motion vector, MV)에 의해 시그널링된다. 또한, 다수의 참조 픽처가 지원되면, 하나의 참조 픽처 인덱스가 추가로 송신되며, 이는 참조 픽처 저장소의 어느 참조 픽처로부터 시간적 예측 신호가 오는지를 식별하는데 사용된다. 공간적 및/또는 시간적 예측 후, 인코더의 모드 결정 블록은 예를 들어 레이트-왜곡 최적화 방법에 기반하여 최상의 예측 모드를 선택한다. 그런 다음 현재 비디오 블록으로부터 예측 블록을 감산하며, 예측 잔차는 변환을 사용하여 역상관된 다음 양자화된다. 양자화된 잔차 계수는 역 양자화되고 역 변환되어 재구성된 잔차를 형성하며, 이는 예측 블록에 다시 추가되어 CU의 재구성된 신호를 형성한다. 디블로킹 필터, 샘플 적응적 오프셋(SAO), 및/또는 적응적 인루프 필터(ALF)와 같은 추가 인루프 필터링이, 재구성된 CU가 픽처 버퍼(120)의 참조 픽처 저장소에 놓이고 미래의 비디오 블록을 코딩하는데 사용되기 전에, 재구성된 CU에 적용될 수 있다. 출력 비디오 비트스트림을 형성하기 위해, 코딩 모드(인터 또는 인트라), 예측 모드 정보, 모션 정보, 및 양자화된 잔차 계수는 모두 엔트로피 코딩 유닛으로 송신되어 비트스트림을 형성하기 위해 추가로 압축되고 패킹된다.
도 2는 VVC를 위한 비디오 디코더의 일반적인 블록도를 도시한다. 구체적으로, 도 2는 전형적인 디코더(200) 블록도를 도시한다. 디코더(200)는 비트스트림(210), 엔트로피 디코딩(212), 역 양자화(214), 역 변환(216), 가산기(218), 인트라/인터 모드 선택(220), 인트라 예측(222), 메모리(230), 인루프 필터(228), 모션 보상(224), 픽처 버퍼(226), 예측 관련 정보(234), 및 비디오 출력(232)을 갖는다.
디코더(200)는 도 1의 인코더(100)에 상주하는 재구성 관련 섹션과 유사하다. 디코더(200)에서, 입력되는 비디오 비트스트림(210)을 먼저 엔트로피 디코딩(212)를 통해 디코딩하여 양자화된 계수 레벨과 예측 관련 정보를 도출한다. 양자화된 계수 레벨은 재구성된 예측 잔차를 획득하기 위해 역 양자화(214) 및 역 변환(216)을 통해 처리된다. 인트라/인터 모드 선택기(220)에서 구현되는 블록 예측자 메커니즘은 디코딩된 예측 정보에 기반하여 인트라 예측(222) 또는 모션 보상(224)을 수행하도록 구성된다. 역 변환(216)으로부터의 재구성된 예측 잔차와 블록 예측자 메커니즘에 의해 생성된 예측 출력을 합산기(218)를 사용하여 합산하는 것에 의해, 필터링되지 않은 재구성된 픽셀 세트가 획득된다.
재구성된 블록은 참조 픽처 저장소로서 기능하는 픽처 버퍼(226)에 저장되기 전에 인루프 필터(228)를 추가로 통과할 수 있다. 픽처 버퍼(226)의 재구성된 비디오는 디스플레이 디바이스를 구동하기 위해 송신될 수 있을 뿐만 아니라 미래의 비디오 블록을 예측하는 데 사용될 수 있다. 인루프 필터(228)가 턴온(turned on)되어 있는 상황에서, 최종 재구성된 비디오 출력(232)을 도출하기 위해 이러한 재구성된 픽셀에 대해 필터링 작동이 수행된다.
도 2는 블록 기반 비디오 디코더의 일반적인 블록도를 제공한다. 비디오 비트스트림은 엔트로피 디코딩 유닛에서 먼저 엔트로피 디코딩된다. 코딩 모드 및 예측 정보는 예측 블록을 형성하기 위해 공간적 예측 유닛(인트라 코딩된 경우) 또는 시간적 예측 유닛(인터 코딩된 경우)로 송신된다. 잔차 변환 계수는 잔차 블록을 재구성하기 위해 역 양자화 유닛 및 역 변환 유닛으로 송신된다. 그런 다음 예측 블록과 잔차 블록이 함께 추가된다. 재구성된 블록은 참조 픽처 저장소에 저장되기 전에 인루프 필터링을 더 거칠 수 있다. 참조 픽처 저장소의 재구성된 비디오는 디스플레이를 위해 송신될 뿐만 아니라 향후 비디오 블록을 예측하는 데 사용된다.
본 개시는 VVC 및 AVS3 표준 모두에서 사용되는 기하학적 파티션 모드(geometric partition mode, GPM)의 코딩 성능을 개선하는 데 중점을 둔다. AVS3에서, 이 도구는 GPM의 동일한 설계 정신을 따르지만 특정 설계 세부 사항에서 약간의 미묘한 차이가 있는 각도 가중 예측(angular weighted prediction, AWP)이라고도 한다. 본 개시의 설명을 용이하게 하기 위해, 이하에서는 VVC 표준의 기존 GPM 설계를 예로 사용하여 GPM/AWP 도구의 주요 측면을 설명한다. 한편, VVC 및 AVS3 표준에 모두 적용되는 모션 벡터 차이를 사용하는 병합 모드 (Merge Mode with Motion Vector Difference, MMVD)라는 기존의 또 다른 인터 예측 기술도 본 명세서에서 제안되는 기술들과 밀접한 관련이 있으므로 간략히 살펴보기로 한다. 그런 다음, 현재 GPM/AWP 설계의 몇 가지 단점이 확인된다. 마지막으로 제안되는 방법에 대해 자세히 설명한다. 본 개시의 전반에 걸쳐서 VVC 표준의 기존 GPM 설계를 예로 사용하지만, 현대 비디오 코딩 기술 분야의 당업자라면 제안되는 기술을 다른 GPM/AWP 설계 또는 동일하거나 유사한 설계 정신을 가진 다른 코딩 도구에도 적용할 수 있음을 유의해야 한다.
기하학적 파티션 모드(Geometric Partition Mode, GPM)
VVC에서, 인터 예측을 위해 기하학적 파티션 모드를 지원한다. 기하학적 파티션 모드는 하나의 CU 레벨 플래그에 의해 하나의 특수 병합 모드로 시그널링된다. 현재 GPM 설계에서, 8×64 및 64×8을 제외하고, 너비와 높이가 모두 8 이상 및 64 이하인 가능한 각 CU 사이즈(size)에 대해 GPM 모드에서 총 64개의 파티션을 지원한다.
이 모드가 사용될 때, CU는 도 4에 도시된 바와 같이(아래에 제공된 설명) 기하학적으로 위치된 직선에 의해 2개의 부분으로 분할된다. 분할선(splitting line)의 위치는 특정 파티션의 각도 및 오프셋 파라미터로부터 수학적으로 도출된다. CU의 기하학적 파티션의 각 부분은 자체 모션을 사용하여 인터 예측되며; 각 파티션에 대해 단일 예측(uni-prediction)만 허용되며, 즉, 각 부분은 하나의 모션 벡터와 하나의 참조 인덱스를 갖는다. 단일 예측 모션 제약(uni-prediction motion constraint)이, 기존의 이중 예측(bi-prediction)과 동일하게 각 CU에 대해 2개의 모션 보상된 예측이 필요한 것을 보정하도록 적용된다. 현재 CU에 대해 기하학적 파티션 모드가 사용되면, 기하학적 파티션의 파티션 모드를 지시하는 기하학적 파티션 인덱스(각도 및 오프셋) 및 2개의 병합 인덱스(각 파티션에 대해 하나씩)가 추가로 시그널링된다. 최대 GPM 후보 사이즈의 수는 시퀀스 레벨에서 명시적으로 시그널링된다.
도 4는 허용된 GPM 파티션을 도시하며, 여기서 각 픽처의 분할은 하나의 동일한(identical) 분할 방향을 갖는다.
단일 예측 후보 리스트 구성
하나의 기하학적 파티션에 대해 단일 예측 모션 벡터를 도출하기 위해, 먼저 정규 병합 후보 리스트(regular merge candidate list) 생성 프로세스로부터 직접 하나의 단일 예측 후보 리스트를 도출한다. n을 기하학적 단일 예측 후보 리스트에서 단일 예측 모션의 인덱스로 표시한다. X가 n의 패리티와 같은 n번째 병합 후보의 LX 모션 벡터는, 기하학적 파티션 모드를 위한 n번째 단일 예측 모션 벡터로 사용된다.
이들 모션 벡터는 도 5에서 "x"로 마킹된다(아래에서 설명됨). n번째 확장된 병합 후보의 대응하는 LX 모션 벡터가 존재하지 않는 경우, 동일한 후보의 L(1-X) 모션 벡터를 기하학적 파티션 모드를 위한 단일 예측 모션 벡터로서 대신 사용한다.
도 5는 GPM을 위한 병합 후보 리스트의 모션 벡터로부터의 단일 예측 모션 벡터 선택을 도시한다.
기하학적 파티션 에지를 따르는 블렌딩
고유한 모션을 사용하여 각각의 기하학적 파티션을 획득한 후, 2개의 단일 예측 신호에 블렌딩(blending)을 적용하여 기하학적 파티션 에지 주변의 샘플을 도출한다. CU의 각 위치에 대한 블렌딩 가중치(weight)는 각 개별 샘플 위치로부터 대응하는 파티션 에지까지의 거리를 기반으로 도출된다.
GPM 시그널링 설계
현재 GPM 설계에 따르면, GPM의 사용은 CU 레벨에서 하나의 플래그를 시그널링하는 것에 의해 지시된다. 플래그는 현재 CU가 병합 모드 또는 스킵 모드로 코딩될 때만 시그널링된다. 구체적으로, 플래그가 1(one)일 때, 이는 현재 CU가 GPM에 의해 예측됨을 지시한다. 그렇지 않으면(플래그가 0(zero)임), CU는 정규 병합 모드, 모션 벡터 차이를 사용하는 병합 모드, 조합된 인터 및 인트라 예측 등과 같은 다른 병합 모드로 코딩된다. 현재 CU에 대해 GPM이 인에이블될(enabled) 때, 하나의 신택스 엘리먼트 즉, merge_gpm_partition_idx가 추가로 시그널링되어, 적용된 기하학적 파티션 모드(도 4에 도시된 바와 같이 CU를 2개의 파티션으로 분할하는, CU 중심으로부터의 직선의 방향 및 오프셋을 지정함)를 지시한다. 그 후, 2개의 신택스 엘리먼트 merge_gpm_idx0 및 merge_gpm_idx1이 시그널링되어, 제1 GPM 파티션 및 제2 GPM 파티션에 사용되는 단일 예측 병합 후보의 인덱스를 지시한다. 보다 구체적으로, 이러한 2개의 신택스 엘리먼트는 "단일 예측 병합 리스트 구성" 섹션에서 설명한 바와 같이, 단일 예측 병합 리스트로부터 2개의 GPM 파티션의 단방향 MV를 결정하는 데 사용된다. 현재 GPM 설계에 따르면, 2개의 단방향 MV를 더 상이하게 만들기 위해, 2개의 인덱스가 동일할 수 없다. 이러한 사전 지식에 기반하여, 제1 GPM 파티션의 단일 예측 병합 인덱스를 먼저 시그널링하여 예측자로 사용하여, 제2 GPM 파티션의 단일 예측 병합 인덱스의 시그널링 오버헤드를 감소시킬 수 있다. 구체적으로, 제2 단일 예측 병합 인덱스가 제1 단일 예측 병합 인덱스보다 작으면, 그의 원래 값이 직접 시그널링된다. 그렇지 않으면(제2 단일 예측 병합 인덱스가 제1 단일 예측 병합 인덱스보다 큼), 비트스트림으로 시그널링되기 전에 그 값을 1씩 감산한다. 디코더 측에서, 제1 단일 예측 병합 인덱스가 먼저 디코딩된다. 그런 다음, 제2 단일 예측 병합 인덱스의 디코딩을 위해, 파싱된 값이 제1 단일 예측 병합 인덱스보다 작으면, 제2 단일 예측 병합 인덱스는 파싱 값과 같도록 설정되고; 그렇지 않으면(파싱된 값이 제1 단일 예측 병합 인덱스보다 크거나 같음), 제2 단일 예측 병합 인덱스는 파싱된 값에 1을 더한 값과 같도록 설정된다. 표 1은 현재 VVC 사양에서 GPM 모드에 사용되는 기존 신택스 엘리먼트를 예시한다(illustrate).
VVC 사양의 병합 데이터 신택스 테이블에서의 기존 GPM 신택스 엘리먼트
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
merge_gpm_idx0[　x0　][　y0　] ae(v)
if( MaxNumGpmMergeCand > 2 )
merge_gpm_idx1[　x0　][　y0　] ae(v)
}
……
}
한편, 현재 GPM 설계에서, 2개의 단일 예측 병합 인덱스, 즉 merge_gpm_idx0 및 merge_gpm_idx1의 이진화를 위해 절단된 단항 코드(truncated unary code)가 사용된다. 추가적으로, 2개의 단일 예측 병합 인덱스가 동일할 수 없기 때문에, 2개의 단일 예측 병합 인덱스의 코드 워드를 자르기 위해 서로 다른 최대값이 사용되며, 이는 merge_gpm_idx0 및 merge_gpm_idx1에 대해 각각 MaxGPMMergeCand - 1 및 MaxGPMMergeCand -2로 설정된다. MaxGPMMergeCand는 단일 예측 병합 리스트에서의 후보 수이다.
GPM/AWP 모드가 적용될 때, 신택스 merge_gpm_partition_idx를 이진 비트 스트링으로 변환하기 위해 2개의 서로 다른 이진화 방법이 적용된다. 구체적으로, 신택스 엘리먼트는 VVC 및 AVS3 표준에서 각각 고정된 길이 코드 및 절단된 이진 코드에 의해 이진화된다. 한편, AVS3에서 AWP 모드의 경우, 신택스 엘리먼트 값의 이진화를 위해 서로 다른 최대값이 사용된다. 구체적으로, AVS3에서, 허용되는 GPM/AWP 파티션 모드의 수가 56개(즉, merge_gpm_partition_idx의 최대값은 55)인 반면, VVC에서는 64개(즉, merge_gpm_partition_idx의 최대값이 63)로 증가된다.
모션 벡터 차이를 사용하는 병합 모드(Merge Mode with Motion Vector Differences, MMVD)
공간적/시간적 이웃으로부터 하나의 현재 블록의 모션 정보를 도출하는 기존 병합 모드 외에도, MMVD/UMVE 모드가 하나의 특수 병합 모드로서 VVC 및 AVS 표준에 모두 도입되었다. 구체적으로, VVC 및 AVS3 모두에서, 이 모드는 코딩 블록 레벨에서 하나의 MMVD 플래그에 의해 시그널링된다. MMVD 모드에서, 정규 병합 모드에 대한 병합 리스트의 처음 2개의 후보가 MMVD에 대한 2개의 기본(base) 병합 후보로 선택된다. 하나의 기본 병합 후보가 선택되고 시그널링된 후, 선택된 병합 후보의 모션에 추가되는 모션 벡터 차이(motion vector difference, MVD)를 지시하기 위해 추가 신택스 엘리먼트가 시그널링된다. MMVD 신택스 엘리먼트는 기본 병합 후보를 선택하기 위한 병합 후보 플래그, MVD 크기(magnitude)를 지정하는 거리 인덱스 및, MVD 방향을 지시하는 방향 인덱스를 포함한다.
기존 MMVD 설계에서, 거리 인덱스는 시작점으로부터의 미리 정의된 오프셋의 하나의 세트에 기반하여 정의되는, MVD 크기를 지정한다. 도 6a 및 도 6b에 도시된 바와 같이, 시작 MV(starting MV)(즉, 선택된 기본 병합 후보의 MV)의 수평 또는 수직 컴포넌트에 오프셋이 추가된다.
도 6a는 L0 참조에 대한 MMVD 모드를 도시한다. 도 6b는 L1 참조에 대한 MMVD 모드를 도시한다.
표 2는 각각 AVS3에서 적용되는 MVD 오프셋을 예시한다.
AVS3에서 사용되는 MVD 오프셋
거리 IDX 0 1 2 3 4
오프셋 (루마 샘플의 단위) 1/4 1/2 1 2 4
표 3에 나타낸 바와 같이, 방향 인덱스는 시그널링되는 MVD의 부호(sign)를 지정하는 데 사용된다. MVD 부호의 의미는 시작 MV에 따라 다양할 수 있음에 유의한다. 시작 MV가 POC가 모두 현재 픽처의 POC보다 크거나 둘 다 현재 픽처의 POC보다 작은 2개의 참조 픽처를 가리키는 MV가 있는 단일 예측 MV 또는 이중 예측 MV일 때, 시그널링된 부호는 시작 MV에 추가된 MVD의 부호이다. 시작 MV가, 하나의 픽처의 POC가 현재 픽처보다 크고 다른 픽처의 POC가 현재 픽처보다 작은 2개의 참조 픽처를 가리키는 이중 예측 MV일 때, 시그널링된 부호가 L0 MVD에 적용되고, 시그널링된 부호의 반대 값이 L1 MVD에 적용된다.
방향 인덱스로 지정된 MVD 부호
방향 IDX 00 01 10 11
x-축 + - N/A N/A
y-축 N/A N/A + -
정규 인터 모드를 위한 모션 시그널링
HEVC 표준과 유사하게, 병합/스킵 모드 외에도, VVC 및 AVS3 모두 하나의 인터 CU가 비트스트림에서 그의 모션 정보를 명시적으로 지정하도록 허용한다. 전반적으로, VVC 및 AVS3 모두에서 모션 정보 시그널링은 HEVC 표준과 동일하게 유지된다. 구체적으로, 하나의 인터 예측 신택스, 즉 inter_pred_idc가 먼저 시그널링되어, 예측 신호가 리스트 L0, L1 또는 둘 다로부터의 것인지를 지시한다. 각각의 사용된 참조 리스트에 경우, 대응하는 참조 픽처는 대응하는 참조 리스트에 대한 하나의 참조 픽처 인덱스 ref_idx_lx(x=0,1)를 시그널링하는 것에 의해 식별되고, 대응하는 MV는 MV 예측자(MV predictor, MVP)를 선택하는 데 사용되는 하나의 MVP 인덱스 mvp_lx_flag(x=0,1)로 표현되며, 뒤이어 타깃 MV와 선택한 MVP 간의 모션 벡터 차이(motion vector difference, MVD)가 제공된다. 추가적으로, VVC 표준에서는 하나의 제어 플래그 mvd_l1_zero_flag가 슬라이스 레벨에서 시그널링된다. mvd_l1_zero_flag가 0일 때, L1 MVD는 비트스트림에서 시그널링되고; 그렇지 않으면(mvd_l1_zero_flag 플래그가 1일 때). L1 MVD는 시그널링되지 않으며, 그 값은 인코더와 디코더에서 항상 0으로 추론된다.
CU 레벨 가중치를 사용한 이중 예측
VVC 및 AVS3 이전의 표준에서는 가중 예측(weighted prediction, WP)을 적용하지 않을 때, 2개의 참조 픽처로부터 획득된 단일 예측 신호를 평균하여 이중 예측 신호를 생성한다. VVC에서는 이중 예측의 효율성을 향상시키기 위해 하나의 도구 코딩, 즉 CU 레벨 가중치를 사용한 이중 예측(bi-prediction with CU-level weight, BCW)이 도입되었다. 구체적으로, 단순한 평균화 대신에, BCW의 이중 예측은 다음과 같이 2개의 예측 신호의 가중 평균화를 허용하는 것에 의해 확장된다:
VVC에서, 현재 픽처가 하나의 저지연(low-delay) 픽처일 때, 하나의 BCW 코딩 블록의 가중치는 미리 정의된 가중치 값의 세트 로부터 선택될 수 있으며, 가중치 4는 2개의 단일 예측 신호가 동일하게 가중되는 전형적인 이중 예측 사례를 나타낸다. 저지연을 위해, 3개의 가중치 만 허용된다. 일반적으로 말하자면, WP와 BCW 사이에 일부 설계 유사점이 있지만, 2개의 코딩 도구는 서로 다른 그래뉼래러티에서 조도(illumination) 변경 문제를 해결하는 것을 목표로 한다. 그러나 WP와 BCW 간의 상호 작용은 잠재적으로 VVC 설계를 복잡하게 만들 수 있기 때문에, 2개의 도구 동시에 인에이블되도록 허용되지 않는다(disallowed). 구체적으로, WP가 하나의 슬라이스에 대해 인에이블될 때, 슬라이스의 모든 이중 예측 CU에 대한 BCW 가중치는 시그널링되지 않고 4로 추론된다(즉, 동일한 가중치가 적용됨).
템플릿 매칭
템플릿 매칭(template matching, TM)은 현재 CU의 상단(top) 및 좌측 이웃 재구성된 샘플로 구성된 하나의 템플릿과 참조 픽처의 참조 블록(즉, 템플릿에 대해 동일한 사이즈) 사이의 최상의 매치(match)를 찾는 것에 의해, 현재 CU의 모션 정보를 리파인하는 디코더 측 도출 방법이다. 도 7에 예시된 바와 같이, [-8, 8]-펠(pel) 검색 범위 내에서 현재 CU의 초기 모션 벡터를 중심으로 하나의 MV를 검색한다. 최상의 매치는 현재 템플릿과 참조 템플릿 간의 가장 낮은 매칭 비용, 예를 들어 SAD(sum of absolute difference), SATD(sum of absolute transformed difference) 등을 달성하는 MV로 정의될 수 있다. 인터 코딩을 위해 TM 모드를 적용하기 위한 2개의 방법이 있다.
AMVP 모드에서, 템플릿 매칭 차이를 기반으로 MVP 후보를 결정하여, 현재 블록 템플릿과 참조 블록 템플릿 간의 최소 차이에 도달하는 하나를 선택하며, 그런 다음 MV 리파인먼트를 위해 이 특정 MVP 후보에 대해서만 TM을 수행한다. TM은 반복 다이아몬드 검색(iterative diamond search)을 사용하여 [-8, 8]-펠 검색 범위 내에서 전체 펠 MVD 정밀도(또는 4-펠 AMVR 모드의 경우 4-펠)에서 시작하여 이 MVP 후보를 리파인한다. AMVP 후보는 추가로, 전체 펠 MVD 정밀도(또는 4-펠 AMVR 모드의 경우 4-펠)로 교차 검색을 사용하여 리파인된 다음, 아래 테이블 13에 지정된 바와 같이 AMVR 모드에 따라 1/2-펠(half-pel) 및 1/4-펠(quarter-pel)을 순차적으로 사용하여 리파인될 수 있다. 이 검색 프로세스는 MVP 후보가 TM 프로세스 후 AMVR 모드에 의해 지시된 것과 동일한 MV 정밀도를 계속 유지하도록 보장한다.
병합 모드에서, 병합 인덱스에 의해 지시되는 병합 후보에 대해 유사한 검색 방법을 적용한다. 위의 테이블에서 나타낸 바와 같이, TM은 병합된 모션 정보에 따라 대체 보간 필터(AMVR이 1/2-펠일 때 사용됨)가 사용되는지 여부에 따라, 1/8-펠 MVD 정밀도까지 끝까지 수행하거나 1/2-펠 MVD 정밀도를 초과하는 것을 스킵할 수 있다.
위에서 언급한 바와 같이, 2개의 GPM 파티션의 예측 샘플을 생성하는 데 사용되는 단방향 모션은 정규 병합 후보로부터 직접 획득된다. 공간적/시간적 이웃 블록의 MV 사이에 강한 상관 관계가 없는 경우, 병합 후보로부터 도출된 단방향 MV는 각 GPM 파티션의 실제 모션(true motion)을 캡처하기에 충분히 정확하지 않을 수 있다. 모션 추정은 보다 정확한 모션을 제공할 수 있지만 기존 단방향 MV 상단에 적용될 수 있는 임의의 모션 리파인먼트로 인해 무시할 수 없는 시그널링 오버헤드 비용이 발생한다. 반면에 MVMD 모드는 VVC 및 AVS3 표준 모두에서 활용되며, 이는 MVD 시그널링 오버헤드를 감소시키기 위한 하나의 효율적인 시그널링 메커니즘으로 입증되었다. 따라서 GPM을 MMVD 모드와 조합하는 것도 도움이 될 수 있다. 이러한 조합은 각 GPM 파티션의 개별 모션을 캡처하기 위해 보다 정확한 MV를 제공하여, GPM 도구의 전체 코딩 효율성을 잠재적으로 향상시킬 수 있다.
앞에서 설명한 바와 같이, VVC 및 AVS3 표준 모두에서 GPM 모드는 병합/스킵 모드에만 적용된다. 이러한 설계는 모든 비병합(non-merge) 인터 CU가 GPM의 유연한 비직사각형 파티션으로부터 이점을 얻을 수 없다는 점을 고려하면 코딩 효율성 측면에서 최적이 아닐 수 있다. 한편, 위에서 언급한 것과 동일한 이유로 인해, 정규 병합/스킵 모드로부터 도출된 단일 예측 모션 후보는 2개의 기하학적 파티션의 실제 모션을 캡처하기에 항상 정확하지는 않다. 이러한 분석에 기반하여, 비병합 인터 모드(즉, 비트스트림에서 모션 정보를 명시적으로 시그널링하는 CU)로 GPM 모드를 합리적으로 확장하는 것에 의해 추가 코딩 이득을 기대할 수 있다. 그러나 MV 정확도가 향상되면 시그널링 오버헤드의 비용이 증가한다. 따라서 GPM 모드를 명시적 인터 모드에 효율적으로 적용하기 위해서는, 2개의 기하학적 파티션에 대해 보다 정확한 MV를 제공하면서 시그널링 비용을 최소화할 수 있는 하나의 효과적인 시그널링 방식을 식별하는 것이 중요하다.
제안되는 방법
본 개시에서는 각각의 GPM 파티션에 적용되는 기존의 단방향 MV의 상단에 추가적인 모션 리파인먼트를 적용하는 것에 의해, GPM의 코딩 효율을 더욱 향상시키는 방법을 제안한다. 제안되는 방법은 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드(geometric partition mode with motion vector refinement, GPM-MVR)로 명명된다. 추가적으로, 제안되는 방식에서, 모션 라파인먼트는 기존 MMVD 설계와 유사한 방식으로, 즉 모션 라파인먼트의 방향 및 미리 정의된 MVD 크기의 세트에 기반하여 시그널링된다.
본 개시의 다른 측면에서, GPM 모드를 명시적 인터 모드로 확장하기 위한 솔루션이 제공된다. 설명을 용이하게 하기 위해, 이러한 방식은 명시적 모션 시그널링을 사용하는 기하학적 파티션 모드(geometric partition mode with explicit motion signaling, GPM-EMS)로 명명된다. 구체적으로, 정규 인터 모드와의 더 나은 조화를 이루기 위해, 제안되는 GPM-EMS 방식에서 기존 모션 시그널링 메커니즘, 즉 MVP + MVD를 활용하여, 2개의 기하학적 파티션의 대응하는 단방향 MV를 지정한다.
별도의 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드
GPM의 코딩 효율을 향상시키기 위해, 본 섹션에서는 별도의 모션 벡터 리파인먼트를 사용하는 개선된 기하학적 파티션 모드를 제안한다. 구체적으로, 제안되는 방법은 GPM 파티션이 주어지면, 먼저 기존 신택스 merge_gpm_idx0 및 merge_gpm_idx1을 사용하여, 기존 단방향 병합 후보 리스트로부터 2개의 GPM 파티션에 대한 단방향 MV를 식별하고, 이를 기본(base) MV로 사용한다. 2개의 기본 MV가 결정된 후, 2개의 GPM 파티션의 기본 MV의 상단에 개별적으로 적용되는 모션 리파인먼트의 값을 지정하기 위해 2개의 신규 신택스 엘리먼트 세트가 도입된다. 구체적으로 2개의 플래그 즉, gpm_mvr_partIdx0_enable_flag 및 gpm_mvr_partIdx1_enable_flag가 먼저 시그널링되어, GPM-MVR이 제1 GPM 파티션 및 제2 GPM 파티션에 각각 적용되는지 여부를 지시한다. 하나의 GPM 파티션의 플래그가 1일 때, 파티션의 기본 MV에 적용되는 MVR의 대응하는 값은 MMVD 스타일로, 즉 MVR의 크기를 지정하기 위해 하나의 거리 인덱스(신택스 엘리먼트 gpm_mvr_partIdx0_distance_idx 및 gpm_mvr_partIdx1_distance_idx에 의해 지시됨) 및 MVR의 방향을 지정하기 위해 하나의 방향 인덱스(신택스 엘리먼트 gpm_mvr_partIdx0_direction_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨)로 시그널링된다. 표 4는 제안되는 GPM-MVR 방법에 의해 도입된 신택스 엘리먼트를 예시한다.
2개의 GPM 파티션에 대해 별도의 MVR을 사용하는 제안되는 GPM-MVR 방법의 신택스 엘리먼트(방법 1)
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
merge_gpm_idx0[　x0　][　y0　] ae(v)
merge_gpm_idx1[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx0_directoin_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_distance_idx[　x0　][　y0　] ae(v)
}
if( merge_gpm_idx0 != merge_gpm_idx1 || gpm_mvr_partIdx0_enable_flag )
gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx1_direction_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx1_distance_idx[　x0　][　y0　] ae(v)
}
}
……
}
표 4에 나타낸 바와 같이 제안되는 신택스 엘리먼트에 기반하여, 디코더에서, 각 GPM 파티션의 단일 예측 샘플을 생성하기 위해 사용되는 최종 MV는 시그널링된 모션 벡터 리파인먼트 및 대응하는 기본 MV의 합과 같다. 실제로, MVR 크기 및 방향의 서로 다른 세트가 미리 정의되어 제안되는 GPM-MVR 방식에 적용될 수 있으며, 이는 모션 벡터 정확도와 신호 오버헤드 사이에 다양한 트레이드오프를 제공할 수 있다. 하나의 구체적인 예에서, 제안되는 GPM-MVR 방식을 위해 VVC 표준에서 사용되는, 8개의 MVD 오프셋(즉, 1/4-펠, 1/2-펠, 1펠, 2펠, 4펠, 8-펠, 16-펠 및 32-펠)과 4개의 MVD 방향(즉, +/- x축 및 +/- y축)을 재사용하도록 제안된다. 다른 예에서, AVS3 표준에서 사용되는 기존 5개의 MVD 오프셋 {1/4-펠, 1/2-펠, 1펠, 2-펠 및 4-펠} 및 4개의 MVD 방향(즉, +/- x 및 +/- y축)이 제안되는 GPM-MVR 방식에 적용된다.
"GPM 시그널링 설계"섹션에서 논의한 바와 같이, 2개의 GPM 파티션에 사용되는 단방향 MV는 동일할(identical) 수 없기 때문에, 2개의 단방향 병합 인덱스들이 서로 다르도록 강제하는 하나의 제약(constraint)이 기존 GPM 설계에 적용된다. 그러나 제안되는 GPM-MVR 방식에서는 기존의 GPM 단방향 MV의 상단에 추가적인 리파인먼트를 적용한다. 따라서 2개의 GPM 파티션의 기본 MV가 동일한 경우에도, 2개의 파티션을 예측하기 위해 사용되는 최종 단방향 MV는 2개의 모션 벡터 리파인먼트의 값들이 동일하지 않은 한 여전히 서로 다를 수 있다. 위의 고려 사항을 기반으로, 제안되는 GPM-MVR 방식을 적용할 때 제약(2개의 단일 예측 병합 인덱스가 서로 다르도록 제한됨)이 제거된다. 추가적으로, 2개의 단일 예측 병합 인덱스가 동일하도록 허용되기 때문에, merg_gpm_idx0 및 merge_gpm_idx1의 이진화에 동일한 최대 값 MaxGPMMergeCand - 1이 사용되며, 여기서 MaxGPMMergeCand는 단일 예측 병합 리스트에서의 후보 수이다.
위에서 분석한 바와 같이, 2개의 GPM 파티션의 단일 예측 병합 인덱스(즉, merge_gpm_idx0 및 mer ge_gpm_idx1)이 동일할(identical) 때, 2개의 모션 벡터 리파인먼트의 값들이, 2개이 파티션에 사용되는 최종 MV가 서로 다르도록 보장하기 위해서 동일할 수 없다. 이러한 조건에 기반하여, 본 개시의 일 실시예에서, 2개의 GPM 파티션의 단일 예측 병합 인덱스가 동일할(same) 때(즉, merge_gpm_idx0은 merge_gpm_idx1임), 제1 GPM 파티션의 MVR을 사용하여 제2 GPM 파티션의 MVR의 시그널링 오버헤드를 감소시키는, 하나의 시그널링 중복 제거 방법이 제안된다. 일 예에서, 다음 시그널링 조건이 적용된다:
첫째, 플래그 gpm_mvr_partIdx0_enable_flag가 0일 때(즉, GPM-MVR이 제1 GPM 파티션에 적용되지 않음), gpm_mvr_partIdx1_enable_flag의 플래그가 시그널링되지는 않지만 1(즉, GPM-MVR이 제2 GPM 파티션에 적용됨)로 유추된다.
둘째, 플래그 gpm_mvr_partIdx0_enable_flag 및 gpm_mvr_partIdx1_enable_flag가 모두 1이고(즉, GPM-MVR이 2개의 GPM 파티션에 적용됨), gpm_mvr_partIdx0_direction_idx가 gpm_mvr_partIdx1_direction_idx와 같을 때(즉, 2개의 GPM 파티션의 MVR이 동일한 방향을 가짐), 제1 GPM 파티션의 MVR의 크기(즉, gpm_mvr_partIdx0_distance_idx)가 제2 GPM 파티션의 MVR의 크기(즉, gpm_mvr_partIdx1_distance_idx)를 예측하는 데 사용된다. 구체적으로, gpm_mvr_partIdx1_distance_idx가 gpm_mvr_partIdx0_distance_idx보다 작으면, 그의 원래 값이 직접 시그널링된다. 그렇지 않으면(gpm_mvr_partIdx1_distance_idx가 gpm_mvr_partIdx0_distance_idx보다 큼), 비트스트림으로 시그널링되기 전에 그 값에서 1을 감산한다. 디코더 측에서, gpm_mvr_partIdx1_distance_idx 값을 디코딩하기 위해, 파싱된 값이 gpm_mvr_partIdx0_distance_idx보다 작으면, gpm_mvr_partIdx1_distance_idx가 파싱된 값(parse value)과 같도록 설정되며; 그렇지 않으면(파싱된 값이 gpm_mvr_partIdx0_distance_idx보다 크거나 같음) gpm_mvr_partIdx1_distance_idx가 파싱된 값에 1을 더한 값과 같도록 설정된다. 이러한 경우, 오버헤드를 더 감소시키기 위해, gpm_mvr_partIdx0_distance_idx 및 gpm_mvr_partIdx1_distance_idx의 이진화에 서로 다른 최대값 MaxGPMMVRDistance - 1 및 MaxGPMMVRDistance - 2를 사용할 수 있으며, MaxGPMMVRDistance는 모션 벡터 라파인먼트에 허용되는 크기의 수이다.
다른 실시예에서, MVR 크기가 MVR 크기의 앞에서 시그널링되도록, 시그널링 순서를 gpm_mvr_partIdx0_direction_idx/gpm_mvr_partIdx1_direction_idx 및 gpm_mvr_partIdx0_distance_idx/gpm_mvr_partIdx1_distance_idx로 전환하도록 제안된다. 이러한 방식으로, 위에서 설명한 것과 동일한 논리에 따라, 인코더/디코더는 제1 GPM 파티션의 MVR 방향을 사용하여, 제2 GPM 파티션의 MVR 방향의 시그널링을 조건화할(condition) 수 있다. 다른 실시예에서, 먼저 제2 GPM 파티션의 MVR 크기 및 방향을 시그널링하고 이를 사용하여 제2 GPM 파티션의 MVR 크기 및 방향의 시그널링을 조건화하는 것이 제안된다.
다른 실시예에서, 기존의 GPM 신택스 엘리먼트를 시그널링하기 전에 GPM-MVR 관련 신택스 엘리먼트를 시그널링하는 것을 제안한다. 구체적으로, 이러한 설계에서, gpm_mvr_partIdx0_enable_flag 및 gpm_mvr_partIdx1_enable_flag의 2개의 플래그는, GPM-MVR이 제1 GPM 파티션 및 제2 GPM 파티션에 각각 적용되는지 여부를 지시하기 위해 먼저 시그널링된다. 하나의 GPM 파티션의 플래그가 1일 때, 거리 인덱스(신택스 엘리먼트 gpm_mvr_partIdx0_distance_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨) 및 방향 인덱스(신택스 엘리먼트 gpm_mvr_partIdx0_direction_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨)가 MVR의 방향을 지정한다. 그 후, 2개의 GPM 파티션에 대한 단방향 MV, 즉 기반 MV를 식별하기 위해 기존 신택스 merge_gpm_idx0 및 merge_gpm_idx1을 시그널링한다. 표 5는 제안되는 GPM-MVR 시그널링 방식을 예시한다.
2개의 GPM 파티션에 대해 별도의 MVR을 사용하는 제안되는 GPM-MVR 방법의 신택스 엘리먼트(방법 2)
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx0_directoin_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_distance_idx[　x0　][　y0　] ae(v)
}
gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx1_direction_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx1_distance_idx[　x0　][　y0　] ae(v)
}
}
merge_gpm_idx0[　x0　][　y0　] ae(v)
merge_gpm_idx1[　x0　][　y0　] ae(v)
……
}
표 4의 시그널링 방법과 유사하게, 표 5의 GPM-MVR 시그널링 방법을 적용할 때, 2개의 GPM 파티션의 예측에 사용되는 결과 MV가 동일하지 않음을 보장하기 위해 특정 조건이 적용될 수 있다. 구체적으로, 제1 GPM 파티션 및 제2 GPM 파티션에 적용되는 MVR들의 값들에 따라, 단일 예측 병합 인덱스 merge_gpm_idx0 및 merge_gpm_idx1의 시그널링을 제약하기 위해 다음과 같은 조건을 제안한다.
첫째, gpm_mvr_partIdx0_enable_flag과 gpm_mvr_partIdx1_enable_flag의 값들이 모두 0일 때(즉, GPM-MVR이 2개의 GPM 파티션 모두에 대해 디스에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일할 수 없다.
둘째, gpm_mvr_partIdx0_enable_flag가 1이고(즉, GPM-MVR이 제1 GPM 파티션에 대해 인에이블됨) gpm_mvr_partIdx1_enable_flag가 0일 때(즉, GPM-MVR이 제2 GPM 파티션에 대해 디스에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용된다.
셋째, gpm_mvr_partIdx0_enable_flag가 0이고(즉, GPM-MVR이 제1 GPM 파티션에 대해 디스에이블됨) gpm_mvr_partIdx1_enable_flag가 1일 때(즉, GPM-MVR이 제2 GPM 파티션에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용된다.
넷째, gpm_mvr_partIdx0_enable_flag과 gpm_mvr_partIdx1_enable_flag의 값들이 모두 1일 때(즉, GPM-MVR이 2개의 GPM 파티션 모두에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용되는지 여부에 대한 결정은, 2개의 GPM 파티션에 적용되는 MVR의 값들(gpm_mvr_partIdx0_direction_idx 및 gpm_mvr_partIdx0_distance_idx, 그리고 gpm_mvr_partIdx1_direction_idx 및 gpm_mvr_partIdx1_distance_idx에 의해 지시됨)에 따라 달라진다. 2개의 MVR의 값들이 같으면, merge_gpm_idx0과 merge_gpm_idx1이 동일하도록 허용되지 않는다. 그렇지 않으면(2개의 MVR의 값들이 같지 않음), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용된다.
위의 4가지 경우에서, merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용되지 않을 때, 하나의 파티션의 인덱스 값을 다른 파티션의 인덱스 값에 대한 예측자로 사용할 수 있다. 하나의 방법으로, 먼저 merge_gpm_idx0를 시그널링하고 그 값을 사용하여 merge_gpm_idx1을 예측하는 것이 제안된다. 구체적으로 인코더에서, merge_gpm_idx1이 merge_gpm_idx0보다 클 때, 디코더로 송신된 merge_gpm_idx1의 값을 1씩 감소시킨다. 디코더에서는 merge_gpm_idx1의 수신 값이 merge_gpm_idx0의 수신 값보다 같거나 클 때, merge_gpm_idx1의 값을 1씩 증가시킨다. 다른 방법으로는 merge_gpm_idx1을 먼저 시그널링하고 그 값을 사용하여 merge_gpm_idx0을 예측하는 것을 제안한다. 따라서 이러한 경우 인코더에서, merge_gpm_idx0이 merge_gpm_idx1보다 클 때, 디코더로 송신된 merge_gpm_idx0의 값을 1씩 감소시킨다. 디코더에서는 merge_gpm_idx0의 수신 값이 merge_gpm_idx1의 수신 값보다 같거나 클 때, merge_gpm_idx0의 값을 1씩 증가시킨다. 추가적으로, 기존 GPM 시그널링 설계와 유사하게, 시그널링 순서에 따라 서로 다른 최대값 MaxGPMMergeCand - 1과 MaxGPMMergeCand - 2를 제1 인덱스 값과 제2 인덱스 값의 이진화에 각각 사용할 수 있다. 반면, merge_gpm_idx0과 merge_gpm_idx1의 값들이 2개의 인덱스 값 사이에 상관 관계가 없기 때문에 동일하도록 허용될 때, 동일한 최대값인 MaxGPMMergeCand - 1을 2개의 인덱스 값 모두의 이진화에 사용한다.
위의 방법에서, 시그널링 비용을 감소시키기 위해, 서로 다른 최대값을 merge_gpm_idx0과 merge_gpm_idx1의 이진화에 적용할 수 있다. 대응하는 최대값의 선택은 MVR의 디코딩된 값에 따라 달라진다(gpm_mvr_partIdx0_enable, gpm_mvr_partIdx1_enable, gpm_mvr_partIdx0_direction_idx, gpm_mvr_partIdx1_direction_idx, gpm_mvr_partIdx0_distance_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨). 이러한 설계는 서로 다른 GPM 신택스 엘리먼트 간에 바람직하지 않은 파싱 종속성(parsing dependency)을 도입하여, 전체 파싱에 전반적으로 영향을 줄 수 있다. 이러한 문제를 해결하기 위해, 일 실시예에서, merge_gpm_idx0과 merge_gpm_idx1의 값들을 파싱하기 위해 항상 하나의 동일한 최대값(예를 들어, MaxGPMMergeCand - 1)을 제안한다. 이러한 방법을 사용할 때, 2개의 GPM 파티션의 2개의 디코딩된 MV가 동일하게 되는 것을 방지하기 위해 하나의 비트스트림 적합성 제약(bitstream conformance constraint)이 사용될 수 있다. 또 다른 방법으로, 2개의 GPM 파티션의 디코딩된 MV가 동일하도록 허용되는 이러한 비식별성 제약(non-identity constraint)을 제거할 수도 있다. 반면에, 이러한 방법이 적용될 때(즉, merge_gpm_idx0과 merge_gpm_idx1에 대해 동일한 최대값을 사용할 때), merge_gpm_idx0/merge_gpm_idx1과 다른 GPM-MVR 신택스 엘리먼트 간에 파싱 종속성이 없다. 따라서 이러한 신택스 엘리먼트를 시그널링하는 순서는 더 이상 중요하지 않다. 일 예에서, merge_gpm_idx0/merge_gpm_idx1의 시그널링을 gpm_mvr_partIdx0_enable, gpm_mvr_partIdx1_enable, gpm_mvr_partIdx0_direction_idx, gpm_mvr_partIdx1_direction_idx, gpm_mvr_partIdx0_distance_idx 및 gpm_mvr_partIdx1_distance_idx 시그널링 앞으로 옮기는 것이 제안된다.
대칭 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드
위에서 논의된 GPM-MVR 방법의 경우, 하나의 GPM 파티션만의 기본 MV를 개선하기 위해 하나가 적용되는, 2개의 별도의 MVR 값이 시그널링된다. 이러한 방법은 각 GPM 파티션에 대해 독립적인 리파인먼트를 허용함으로써 예측 정확도 향상과 관련하여 효율적일 수 있다. 그러나 이러한 유연한 모션 라파인먼트는 2개의 서로 다른 GMP-MVR 신택스 엘리먼트 세트를 인코더에서 디코더로 송신해야 한다는 점에서 시그널링 오버헤드를 증가시키는 비용이 발생한다. 시그널링 오버헤드를 감소시키기 위해, 본 섹션에서는 대칭 모션 벡터 리파인먼트를 사용하는 하나의 기하학적 파티션 모드를 제안한다. 구체적으로, 이 방법에서, 2개의 GPM과 연관된 참조 픽처와 현재 픽처의 픽처 순서 카운트(picture order count, POC) 값들 간의 대칭 관계에 따라, 하나의 GPM CU에 대해 하나의 단일 MVR 값이 시그널링되고 2개의 GPM 파티션 모두에 사용된다. 표 6은 제안되는 방법을 적용했을 때 신택스 엘리먼트를 예시한다.
2개의 GPM 파티션에 대해 대칭 MVR을 사용하는 제안되는 GPM-MVR 방법의 신택스 엘리먼트(방법 1)
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
merge_gpm_idx0[　x0　][　y0　] ae(v)
merge_gpm_idx1[　x0　][　y0　] ae(v)
gpm_mvr_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_enable_flag[　x0　][　y0　] ) {
gpm_mvr_direction_idx[　x0　][　y0　] ae(v)
gpm_mvr_distance_idx[　x0　][　y0　] ae(v)
}
……
}
표 6에 나타낸 바와 같이, 2개의 GPM 파티션의 기본 MV가 (merge_gpm_idx0 및 merge_gpm_idx1에 기반하여) 선택된 후, GPM-MVR 모드가 현재 GPM CU에 적용되는지 여부를 지시하는 하나의 플래그 gpm_mvr_enable_flag가 시그널링된다. 플래그가 1일 때, 2개의 GPM 파티션의 기본 MV를 향상시키기 위해 모션 리파인먼트가 적용됨을 지시한다. 그렇지 않으면(플래그가 0일 때), 모션 리파인먼트가 2개의 파티션 모두에 적용되지 않음을 지시한다. GPM-MVR 모드가 인에이블되면, 방향 인덱스 gpm_mvr_direction_idx 및 크기 인덱스 gpm_mvr_distance_idx에 의해 적용된 MVR의 값을 지정하기 위해 추가 신택스 엘리먼트가 추가로 시그널링된다. 추가적으로, MMVD 모드와 유사하게, GPM 파티션의 2개의 참조 픽처와 현재 픽처의 POC 간의 관계에 따라 MVR 부호의 의미가 달라질 수 있다. 구체적으로, 2개의 참조 픽처의 POC가 모두 현재 픽처의 POC보다 크거나 작을 때, 시그널링되는 부호는 2개의 기본 MV 모두에 추가된 MVR의 부호이다. 그렇지 않으면(하나의 참조 픽처의 POC가 현재 픽처보다 크고 다른 참조 픽처의 POC가 현재 픽처보다 작을 때), 시그널링된 부호가 제1 GPM 파티션의 MVR에 적용되고, 반대 부호가 제2 GPM 파티션에 적용된다. 표 6에서, merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용된다.
다른 실시예에서, 2개의 GPM 파티션에 대해 GPM-MVR 모드의 인에이블/디스에이블을 개별적으로 제어하기 위해 2개의 서로 다른 플래그를 시그널링하는 것이 제안된다. 그러나 GPM-MVR 모드가 인에이블될 때, 신택스 엘리먼트 gpm_mvr_direction_idx 및 gpm_mvr_distance_idx에 기반하여 하나의 MVR만 시그널링된다. 이러한 시그널링 방법의 대응하는 신택스 테이블은 표 7에 예시되어 있다.
2개의 GPM 파티션에 대해 대칭 MVR을 사용하는 제안되는 GPM-MVR 방법의 신택스 엘리먼트(방법 2)
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
merge_gpm_idx0[　x0　][　y0　] ae(v)
merge_gpm_idx1[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ae(v)
if( merge_gpm_idx0 != merge_gpm_idx1 || gpm_mvr_partIdx0_enable_flag )
gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] || gpm_mvr_partIdx1
_enable_flag[　x0　][　y0　] ) {
gpm_mvr_direction_idx[　x0　][　y0　] ae(v)
gpm_mvr_distance_idx[　x0　][　y0　] ae(v)
}
……
}
표 7의 시그널링 방식을 적용할 때, merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용된다. 그러나 2개의 GPM 파티션에 적용된 결과 MV가 중복되지 않도록 하기 위해, gpm_mvr_partIdx0_enable_flag 플래그가 0일 때(즉, GPM-MVR이 제1 GPM 파티션에 적용되지 않을 때), 플래그 gpm_mvr_partIdx1_enable_flag는 시그널링되지 않지만 1(즉, GPM-MVR이 제2 GPM 파티션에 적용됨)로 추론된다.
GPM-MVR에 대한 허용된 MVR의 적응
위에서 논의된 GPM-MVR 방법에서, 하나의 비디오 시퀀스에서 인코더와 디코더 모두에서 GPM CU에 대해 하나의 고정된 MVR 값 그룹이 사용된다. 이러한 설계는 해상도가 높거나 모션이 격렬한 비디오 콘텐츠에 적합하지 않다. 이러한 경우, 고정된 MVR 값이 그러한 블록의 실제(real) 모션을 캡처하는 데 최적이 아닐 수 있도록, MV가 훨씬 큰 경향이 있다. GPM-MVR 모드의 코딩 성능을 더욱 향상시키기 위해, 시퀀스 레벨, 픽처/슬라이스 픽처, 코딩 블록 그룹 레벨 등과 같은 다양한 코딩 레벨에서 GPM-MVR 모드에 의해 선택되도록 허용되는 MVR 값의 적응(adaptation)을 지원하는 것이 본 개시에서 제안된다. 예를 들어, 다양한 비디오 시퀀스의 특정 모션 특성에 따라 다수의 MVR 세트 및 대응하는 코드 워드가 오프라인으로 도출될 수 있다. 인코더는 최상의 MVR 세트를 선택하고, 선택된 세트의 대응하는 인덱스를 디코더에 시그널링할 수 있다.
GPM-MVR 레이트-왜곡 최적화를 위한 인코더 속도 향상 로직
제안되는 GPM-MVR 방식의 경우, 각 GPM 파티션에 대한 최적의 MVR을 결정하기 위해, 인코더는 각각 적용되는 MVR 값을 변경하여, 각 GPM 파티션의 레이트-왜곡 비용을 여러 번 테스트해야 할 수 있다. 이로 인해 GPM 모드의 인코딩 복잡성이 크게 증가할 수 있다. 인코딩 복잡성 문제를 해결하기 위해, 이 섹션에서는 다음과 같은 빠른 인코딩 논리를 제안한다.
첫째, VVC와 AVS3에서 적용되는 쿼드 트리/이진 트리/삼항 트리 블록 파티션 구조로 인해, 레이트-왜곡 최적화(rate-distortion optimization, RDO) 프로세스 동안 하나의 동일한 코딩 블록을 체크할(check) 수 있으며, 각각은 하나의 서로 다른 파티션 경로로 나뉜다. 현재 VTM/HPM 인코더 구현에서, 다른 인터 및 인트라 코딩 모드와 함께 GPM 및 GPM-MVR 모드는 서로 다른 블록 파티션 조합을 통해 하나의 동일한 CU가 획득될 때마다 항상 테스트된다. 일반적으로 서로 다른 파티션 경로의 경우, 하나의 CU의 이웃 블록만 서로 다를 수 있지만, 이는 하나의 CU가 선택할 최적의 코딩 모드에 상대적으로 작은 영향을 미친다. 이러한 고려에 기반하여, 적용되는 GPM RDO의 총 수를 감소시키기 위해, 하나의 CU의 RD 비용을 처음 체크할 때 GPM 모드가 선택되는 지 여부의 결정을 저장하도록 제안한다. 이후 동일한 CU가 (다른 파티션 경로에 의해) 다시 RDO 프로세스에 의해 체크될 때, GPM(GPM-MVR 포함)의 RD 비용은 GPM이 CU에 대해 처음 선택된 경우에만 체크된다. 하나의 CU의 초기 RD 체크를 위해 GPM이 선택되지 않는 경우, 다른 파티션 경로를 통해 동일한 CU가 달성될 때 GPM(GPM-MVR 없음)만 테스트된다. 또 다른 방법으로, 하나의 CU의 초기 RD 체크를 위해 GPM이 선택되지 않을 때, 다른 파티션 경로를 통해 동일한 CU가 달성될 때 GPM과 GPM-MVR 모두 테스트되지 않는다.
둘째, GPM-MVR 모드를 위한 GPM 파티션 수를 감소시키기 위해, 하나의 CU의 RD 비용을 처음 체크할 때 가장 작은 RD 비용 없이 제1 M개의 GPM 파티션 모드를 유지하는 것을 제안한다. 이후 동일한 CU가 (다른 파티션 경로에 의해) RDO 프로세스에 의해 다시 체크될 때, 이들 M개의 GPM 파티션 모드만 GPM-MVR 모드에 대해 테스트된다.
셋째, 하나의 초기 RDO 프로세스에 대해 테스트되는 GPM 파티션의 수를 감소시키기 위해, 각 GPM 파티션에 대해, 2개의 GPM 파티션에 대해 서로 다른 단일 예측 병합 후보를 사용할 때 SAD(sum absolute difference) 값을 먼저 계산하는 것을 제안한다. 그런 다음, 하나의 특정 파티션 모드 하의 각 GPM 파티션에 대해, 가장 작은 SAD 값을 가진 최상의 단일 예측 병합 후보를 선택하고, 2개의 GPM 파티션에 대한 최상의 단일 예측 병합 후보의 SAD 값의 합과 같은, 파티션 모드의 대응하는 SAD 값을 계산한다. 그런 다음, 다음 RD 프로세스의 경우, 이전 단계에 대한 최상의 SAD 값을 가진 처음 N개의 파티션 모드만 GPM-MVR 모드에 대해 테스트된다.
명시적 모션 시그널링을 사용하는 기하학적 파티션
이 섹션에서는 GPM 모드의 2개의 단방향 MV가 인코더에서 디코더로 명시적으로 시그널링되는, GPM 모드를 정규 인터 모드의 이중 예측으로 확장하기 위한 다수의 방법을 제안한다.
제1 솔루션(솔루션 1)에서, GPM 모드의 2개의 단방향 MV를 시그널링하기 위해 이중 예측의 기존 모션 시그널링을 완전히 재사용하는 것을 제안한다. 표 8은 신규로 추가된 신택스 엘리먼트가 이탤릭체로 굵게 표시된, 제안되는 방식의 수정된 신택스 테이블을 예시한다. 표 8에서 나타낸 바와 같이, 이 솔루션에서, L0 및 L1 모션 정보를 시그널링하는 모든 기존 신택스 엘리먼트는 2개의 GPM 파티션의 단방향 MV를 각각 지시하기 위해 완전히 재사용된다. 추가적으로, L0 MV는 항상 제1 GPM 파티션과 연관되고 L1 MV는 항상 제2 GPM 파티션과 연관된다고 가정한다. 한편, 표 8에서, 인터 예측 신택스, 즉 inter_pred_idc는 inter_pred_idc의 값이 gpm_flag의 존재를 조건화하는 데 사용될 수 있도록, GPM 플래그(즉, gpm_flag) 앞에서 시그널링된다. 구체적으로, inter_pred_idc가 PRED_BI(즉, 이중 예측)와 같고, inter_affine_flag와 sym_mvd_flag가 모두 0일 때(즉, CU가 아핀 모드나 SMVD 모드로 코딩되지 않음), 플래그 gpm_flag만 시그널링될 필요가 있다. 플래그 gpm_flag가 시그널링되지 않을 때, 그 값은 항상 0으로 추론된다(즉, GPM 모드가 디스에이블됨). gpm_flag가 1일 때, 현재 CU에 대해 (총 64개의 GPM 파티션 중) 선택된 GPM 모드를 지시하기 위해, 다른 신택스 엘리먼트 gpm_partition_idx가 추가로 시그널링된다.
솔루션 1의 모션 시그널링을 위한 수정된 신택스 테이블(옵션 1)
if( sh_slice_type =　= B )
inter_pred_idc[　x0　][　y0　] ae(v)
if( sps_affine_enabled_flag && cbWidth >= 16 && cbHeight >= 16 ) {
inter_affine_flag[　x0　][　y0　] ae(v)
if( sps_6param_affine_enabled_flag && inter_affine_flag[　x0　][　y0　] )
cu_affine_type_flag[　x0　][　y0　] ae(v)
}
if( sps_smvd_enabled_flag && !ph_mvd_l1_zero_flag &&
inter_pred_idc[　x0　][　y0　] =　= PRED_BI &&
!inter_affine_flag[　x0　][　y0　] && RefIdxSymL0 > -1 && RefIdxSymL1 > -1 )
sym_mvd_flag[　x0　][　y0　] ae(v)
if( inter_pred_idc[　x0　][　y0　] != PRED_L1 ) {
if( NumRefIdxActive[　0　] > 1 && !sym_mvd_flag[　x0　][　y0　] )
ref_idx_l0[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
if( MotionModelIdc[　x0　][　y0　] > 0 )
mvd_coding(　x0,　y0,　0,　1　)
if(MotionModelIdc[　x0　][　y0　] > 1 )
mvd_coding(　x0,　y0,　0,　2　)
mvp_l0_flag[　x0　][　y0　] ae(v)
} else {
MvdL0[　x0　][　y0　][　0　] = 0
MvdL0[　x0　][　y0　][　1　] = 0
}
if( inter_pred_idc[　x0　][　y0　] != PRED_L0 ) {
if( NumRefIdxActive[　1　] > 1 && !sym_mvd_flag[　x0　][　y0　] )
ref_idx_l1[　x0　][　y0　] ae(v)
if( ph_mvd_l1_zero_flag && inter_pred_idc[　x0　][　y0　] =　= PRED_BI ) {
MvdL1[　x0　][　y0　][　0　] = 0
MvdL1[　x0　][　y0　][　1　] = 0
MvdCpL1[　x0　][　y0　][　0　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　0　][　1　]　=　0
MvdCpL1[　x0　][　y0　][　1　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　1　][　1　]　=　0
MvdCpL1[　x0　][　y0　][　2　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　2　][　1　]　=　0
} else {
if( sym_mvd_flag[　x0　][　y0　] ) {
MvdL1[　x0　][　y0　][　0　] = -MvdL0[　x0　][　y0　][　0　]
MvdL1[　x0　][　y0　][　1　] = -MvdL0[　x0　][　y0　][　1　]
} else
mvd_coding(　x0,　y0,　1,　0　)
if( MotionModelIdc[　x0　][　y0　] > 0 )
mvd_coding(　x0,　y0,　1,　1　)
if(MotionModelIdc[　x0　][　y0　] > 1 )
mvd_coding(　x0,　y0,　1,　2　)
}
mvp_l1_flag[　x0　][　y0　] ae(v)
} else {
MvdL1[　x0　][　y0　][　0　] = 0
MvdL1[　x0　][　y0　][　1　] = 0
}
if( inter_pred_idc[ x0 ][ y0 ] = = PRED_BI && !inter_affine_flag[　x0　][　y0　] && !sym_mvd_flag[　x0　][　y0　] && cbWidth >= 8 && cbHeight >= 8 &&
cbWidth < (　8　*　cbHeight　) && cbHeight < (　8　*　cbWidth　) &&
cbWidth < 128 && cbHeight < 128 ) {
gpm_flag[ x0 ][ y0 ] ae(v)
if( gpm_partition_flag[ x0 ][ y0 ] ) {
gpm_partition_idx[ x0 ][ y0 ] ae(v)
}
다른 방법에서, gpm_flag의 값이 다른 인터 신택스 엘리먼트가 존재할 필요가 있는지 여부를 판정하는 데 사용될 수 있도록, 다른 인터 시그널링 신택스 엘리먼트 앞에 플래그 gpm_flag의 시그널링을 배치하는 것이 제안된다. 표 9는 신규로 추가된 신택스 엘리먼트가 이탤릭체로 굵게 표시되는 방법을 적용할 때 대응하는 신택스 테이블을 예시한다. 보시는 바와 같이, gpm_flag는 표 9에서 먼저 시그널링된다. gpm_flag가 1일 때, inter_pred_idc, inter_affine_flag 및 sym_mvd_flag의 대응하는 시그널링이 바이패스될 수 있다. 대신에, 3개의 신택스 엘리먼트의 대응하는 값을 각각 PRED_BI, 0 및 0으로 유추할 수 있다.
솔루션 1의 모션 시그널링을 위한 수정된 신택스 테이블(옵션 2)
if(sh_slice_type =　= B && cbWidth >= 8 && cbHeight >= 8 &&
cbWidth < (　8　*　cbHeight　) && cbHeight < (　8　*　cbWidth　) &&
cbWidth < 128 && cbHeight < 128) {
gpm_flag[ x0 ][ y0 ] ae(v)
if( gpm_partition_flag[ x0 ][ y0 ] ) {
gpm_partition_idx[ x0 ][ y0 ] ae(v)
}
if( sh_slice_type =　= B && !gpm_flag[ x0 ][ y0 ] )
inter_pred_idc[　x0　][　y0　] ae(v)
if( sps_affine_enabled_flag && !gpm_flag[ x0 ][ y0 ] && cbWidth >= 16 && cbHeight >= 16 ) {
inter_affine_flag[　x0　][　y0　] ae(v)
if( sps_6param_affine_enabled_flag && inter_affine_flag[　x0　][　y0　] )
cu_affine_type_flag[　x0　][　y0　] ae(v)
}
if( sps_smvd_enabled_flag && !ph_mvd_l1_zero_flag &&
inter_pred_idc[　x0　][　y0　] =　= PRED_BI && !gpm_flag[ x0 ][ y0 ] &&
!inter_affine_flag[　x0　][　y0　] && RefIdxSymL0 > -1 && RefIdxSymL1 > -1 )
sym_mvd_flag[　x0　][　y0　] ae(v)
if( inter_pred_idc[　x0　][　y0　] != PRED_L1 ) {
if( NumRefIdxActive[　0　] > 1 && !sym_mvd_flag[　x0　][　y0　] )
ref_idx_l0[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
if( MotionModelIdc[　x0　][　y0　] > 0 )
mvd_coding(　x0,　y0,　0,　1　)
if(MotionModelIdc[　x0　][　y0　] > 1 )
mvd_coding(　x0,　y0,　0,　2　)
mvp_l0_flag[　x0　][　y0　] ae(v)
} else {
MvdL0[　x0　][　y0　][　0　] = 0
MvdL0[　x0　][　y0　][　1　] = 0
}
if( inter_pred_idc[　x0　][　y0　] != PRED_L0 ) {
if( NumRefIdxActive[　1　] > 1 && !sym_mvd_flag[　x0　][　y0　] )
ref_idx_l1[　x0　][　y0　] ae(v)
if( ph_mvd_l1_zero_flag && inter_pred_idc[　x0　][　y0　] =　= PRED_BI ){
MvdL1[　x0　][　y0　][　0　] = 0
MvdL1[　x0　][　y0　][　1　] = 0
MvdCpL1[　x0　][　y0　][　0　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　0　][　1　]　=　0
MvdCpL1[　x0　][　y0　][　1　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　1　][　1　]　=　0
MvdCpL1[　x0　][　y0　][　2　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　2　][　1　]　=　0
} else {
if( sym_mvd_flag[　x0　][　y0　] ) {
MvdL1[　x0　][　y0　][　0　] = -MvdL0[　x0　][　y0　][　0　]
MvdL1[　x0　][　y0　][　1　] = -MvdL0[　x0　][　y0　][　1　]
} else
mvd_coding(　x0,　y0,　1,　0　)
if( MotionModelIdc[　x0　][　y0　] > 0 )
mvd_coding(　x0,　y0,　1,　1　)
if(MotionModelIdc[　x0　][　y0　] > 1 )
mvd_coding(　x0,　y0,　1,　2　)
}
mvp_l1_flag[　x0　][　y0　] ae(v)
} else {
MvdL1[　x0　][　y0　][　0　] = 0
MvdL1[　x0　][　y0　][　1　] = 0
}
표 8과 표 9 모두에서, SMVD 모드는 GPM 모드와 조합될 수 없다. 다른 예로, 현재 CU가 GPM 모드로 코딩될 때 SMVD 모드를 허용하도록 제안한다. 이러한 조합이 허용될 때, SMVD의 동일한 설계에 의해, 제1 GPM 파티션의 MVD만 시그널링될 필요가 있고 제2 GPM 파티션의 MVD는 항상 제1 MVD에 대해 대칭되도록, 2개의 GPM 파티션의 MVD는 대칭적이라고 가정한다. 이러한 방법을 적용할 때, gpm_flag에 대한 sym_mvd_flag의 대응하는 시그널링 조건을 제거할 수 있다.
위에서 설명한 바와 같이, 제1 솔루션에서, 항상 L0 MV를 제1 GPM 파티션에 사용하고 L1 MV를 제2 GPM 파티션에 사용한다고 가정한다. 이러한 설계는 이 방법이 하나의 동일한 예측 리스트(L0 또는 L1)에서 오는 2개의 GPM 파티션의 MV를 금지한다는 점에서 최적이 아닐 수 있다. 이러한 문제를 해결하기 위해, 하나의 대안인 GPM-EMS 방식인 솔루션 2를 표 10에 예시된 바와 같은 시그널링 설계로 제안한다. 표 10에서, 신규로 추가된 신택스 엘리먼트는 이탤릭체로 굵게 표시된다. 표 10에 나타낸 바와 같이, gpm_flag 플래그가 먼저 시그널링된다. 플래그가 1일 때(즉, GPM이 인에이블됨), 신택스 gpm_partition_idx가 선택된 GPM 모드를 지정하도록 시그널링된다. 그런 다음, 하나의 추가 플래그 gpm_pred_dir_flag0이 시그널링되어 제1 GPM 파티션의 MV가 있는 대응하는 예측 리스트를 지시한다. gpm_pred_dir_flag0 플래그가 1일 때, 제1 GPM 파티션의 MV가 L1으로부터 온 것임을 지시하고; 그렇지 않으면(플래그가 0임), 제1 GPM 파티션의 MV가 L0로부터 온 것임을 지시한다. 그 후, 기존 신택스 엘리먼트 ref_idx_l0, mvp_l0_flag 및 mvd_coding()을 활용하여, 제1 GPM 파티션의 MVD, mvp index, 참조 픽처 인덱스의 값들을 시그널링한다. 한편, 제1 파티션과 유사하게, 다른 신택스 엘리먼트 gpm_pred_dir_flag1이 도입되어, 제2 GPM 파티션의 대응하는 예측 리스트를 선택하며, 제2 GPM 파티션의 MV를 도출하는 데 사용되는 기존 신택스 엘리먼트 ref_idx_l1, mvp_l1_flag 및 mvd_coding()이 뒤따른다.
솔루션 2의 모션 시그널링을 위한 수정된 신택스 테이블
if(sh_slice_type =　= B && cbWidth >= 8 && cbHeight >= 8 &&
cbWidth < (　8　*　cbHeight　) && cbHeight < (　8　*　cbWidth　) &&
cbWidth < 128 && cbHeight < 128) {
gpm_flag[ x0 ][ y0 ] ae(v)
if( gpm_partition_flag[ x0 ][ y0 ] ) {
gpm_partition_idx[ x0 ][ y0 ] ae(v)
gpm_pred_dir_flag0[ x0 ][ y0 ] ae(v)
ref_idx_l0[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
mvp_l0_flag[ x0 ][ y0 ] ae(v)
gpm_pred_dir_flag1[ x0 ][ y0 ] ae(v)
ref_idx_l1[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
mvp_l1_flag[ x0 ][ y0 ] ae(v)
} else {
if( sh_slice_type =　= B )
inter_pred_idc[　x0　][　y0　] ae(v)
if( sps_affine_enabled_flag && cbWidth >= 16 && cbHeight >= 16 ) {
inter_affine_flag[　x0　][　y0　] ae(v)
if( sps_6param_affine_enabled_flag && inter_affine_flag[　x0　][　y0　] )
cu_affine_type_flag[　x0　][　y0　] ae(v)
}
if( sps_smvd_enabled_flag && !ph_mvd_l1_zero_flag &&
inter_pred_idc[　x0　][　y0　] =　= PRED_BI &&
!inter_affine_flag[　x0　][　y0　] && RefIdxSymL0 > -1 && RefIdxSymL1 > -1 )
sym_mvd_flag[　x0　][　y0　] ae(v)
if( inter_pred_idc[　x0　][　y0　] != PRED_L1 ) {
if( NumRefIdxActive[　0　] > 1 && !sym_mvd_flag[　x0　][　y0　] )
ref_idx_l0[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
if( MotionModelIdc[　x0　][　y0　] > 0 )
mvd_coding(　x0,　y0,　0,　1　)
if(MotionModelIdc[　x0　][　y0　] > 1 )
mvd_coding(　x0,　y0,　0,　2　)
mvp_l0_flag[　x0　][　y0　] ae(v)
} else {
MvdL0[　x0　][　y0　][　0　] = 0
MvdL0[　x0　][　y0　][　1　] = 0
}
if( inter_pred_idc[　x0　][　y0　] != PRED_L0 ) {
if( NumRefIdxActive[　1　] > 1 && !sym_mvd_flag[　x0　][　y0　] )
ref_idx_l1[　x0　][　y0　] ae(v)
if( ph_mvd_l1_zero_flag && inter_pred_idc[　x0　][　y0　] =　= PRED_BI ){
MvdL1[　x0　][　y0　][　0　] = 0
MvdL1[　x0　][　y0　][　1　] = 0
MvdCpL1[　x0　][　y0　][　0　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　0　][　1　]　=　0
MvdCpL1[　x0　][　y0　][　1　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　1　][　1　]　=　0
MvdCpL1[　x0　][　y0　][　2　][　0　]　=　0
MvdCpL1[　x0　][　y0　][　2　][　1　]　=　0
} else {
if( sym_mvd_flag[　x0　][　y0　] ) {
MvdL1[　x0　][　y0　][　0　] = -MvdL0[　x0　][　y0　][　0　]
MvdL1[　x0　][　y0　][　1　] = -MvdL0[　x0　][　y0　][　1　]
} else
mvd_coding(　x0,　y0,　1,　0　)
if( MotionModelIdc[　x0　][　y0　] > 0 )
mvd_coding(　x0,　y0,　1,　1　)
if(MotionModelIdc[　x0　][　y0　] > 1 )
mvd_coding(　x0,　y0,　1,　2　)
}
mvp_l1_flag[　x0　][　y0　] ae(v)
} else {
MvdL1[　x0　][　y0　][　0　] = 0
MvdL1[　x0　][　y0　][　1　] = 0
}
}
마지막으로, GPM 모드가 2개의 단일 예측 파티션(분할 에지의 블렌딩 샘플 제외)으로 구성된다는 점을 감안하면, 이중 예측, 예를 들어, 양방향 광학 플로(bi-directional optical flow)를 위해 특별히 설계된 VVC 및 AVS3의 일부 기존 코딩 도구, 디코더 측 모션 벡터 리파인먼트(decoder-side motion vector refinement, DMVR) 및 CU 가중치를 사용한 이중 예측(bi-prediction with CU weight, BCW)이, 제안되는 GPM-EMS 방식이 하나의 인터 CU에 대해 인에이블될 때 자동으로 바이패스될 수 있다. 예를 들어, 제안되는 GPM-EMS 중 하나가 하나의 CU에 대해 인에이블될 때, BCW가 GPM 모드에 적용될 수 없다는 점에서 시그널링 오버헤드를 감소시키기 위해, CU에 대해 대응하는 BCW 가중치를 추가로 시그널링할 필요가 없다.
GPM-MVR과 GPM-EMS의 조합
본 섹션에서는 하나의 CU에 대한 GPM-MVR과 GPM-EMS를 기하학 파티션으로 조합하는 것을 제안한다. 구체적으로, 2개의 GPM 파티션의 단일 예측 MV를 시그널링하기 위해 병합 기반 모션 시그널링 또는 명시적 시그널링 중 하나만 적용될 수 있는 GPM-MVR 또는 GPM-EMS와는 달리, 제안되는 방식에서는 1) GPM-MVR 기반 모션 시그널링을 사용하는 하나의 파티션 및 GPM-EMS 기반 모션 시그널링을 사용하는 다른 하나의 파티션; 또는 2) GPM-MVR 기반 모션 시그널링을 사용하는 2개의 파티션; 또는 3) GPM-EMS 기반 모션 시그널링을 사용하는 2개의 파티션을 허용한다. 표 4의 GPM-MVR 시그널링과 표 10의 GPM-EMS를 사용하여, 표 11은 제안되는 GPM-MVR과 GPM-EMS를 조합한 후의 신택스 테이블을 나타낸다. 표 11에서, 신규로 추가된 신택스 엘리먼트는 이탤릭체로 굵게 표시된다. 표 11에 나타낸 바와 같이, GPM-MVR 기반 병합 시그널링 또는 GPM-EMS 기반 명시적 시그널링을 사용하는 대응하는 파티션을 지정하는 파티션 #1 및 파티션 #2에 대해, 2개의 추가 신택스 엘리먼트 gpm_merge_flag0 및 gpm_merge_flag1이 각각 도입된다. 플래그가 1일 때, merge_gpm_idxX, gpm_mvr_partIdxX_enabled_flag, gpm_mvr_partIdxX_direction_idx 및 gpm_mvr_partIdxX_distance_idx를 통해 GPM 단일 예측 모션이 시그널링될 파티션에 대해 GPM-MVR 기본 시그널링이 인에이블됨을 의미하며, 여기서 X = 0, 1이다. 그렇지 않고 플래그가 0일 때, 파티션의 단일 예측 모션이 신택스 엘리먼트 gpm_pred_dir_flagX, ref_idx_lX, mvp_lX_flag 및 mvd_lX(여기서 X = 0, 1)를 사용하여 GPM-EMS 방식에 의해 명시적으로 시그널링됨을 의미한다.
GPM-MVR과 GPM-EMS가 조합된 GPM 모드에 대한 제안되는 신택스 테이블
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
gpm_partition_idx[　x0　][　y0　] ae(v)
gpm_merge_flag0[　x0　][　y0　] ae(v)
if( gpm_merge_flag0[　x0　][　y0　] ) {
merge_gpm_idx0[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx0_directoin_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_distance_idx[　x0　][　y0　] ae(v)
}
}else{
gpm_pred_dir_flag0[ x0 ][ y0 ] ae(v)
ref_idx_l0[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
mvp_l0_flag[ x0 ][ y0 ] ae(v)
}
gpm_merge_flag1[　x0　][　y0　] ae(v)
if( gpm_merge_flag1[　x0　][　y0　] ) {
merge_gpm_idx1[　x0　][　y0　] ae(v)
gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx1_directoin_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx1_distance_idx[　x0　][　y0　] ae(v)
}
}else{
gpm_pred_dir_flag1[ x0 ][ y0 ] ae(v)
ref_idx_l1[　x0　][　y0　] ae(v)
mvd_coding(　x0,　y0,　0,　0　)
mvp_l1_flag[ x0 ][ y0 ] ae(v)
}
……
}
GPM-MVR과 템플릿 매칭의 조합
이 섹션에서는 GPM-MVR과 템플릿 매칭을 조합하기 위한 다양한 솔루션이 제공된다.
방법 1에서, 하나의 CU가 GPM 모드로 코딩될 때, 2개의 GPM 파티션에 대해, 각각 대응하는 파티션의 단방향 모션이 템플릿 매칭에 의해 추가로 라파인되는지 여부를 지시하는 2개의 개별 플래그를 시그널링하는 것을 제안한다. 플래그가 인에이블될 때, 현재 CU의 좌측 및 상단 이웃 재구성된 샘플을 사용하여 템플릿이 생성되며; 그런 다음 "템플릿 매칭" 섹션에서 소개한 바와 같은 동일한 절차에 따라 템플릿과 참조 샘플 간의 차이를 최소화하는 것에 의해 파티션의 단방향 모션을 리파인한다. 그렇지 않으면(플래그가 디스에이블될 때), 템플릿 매칭이 파티션에 적용되지 않고 GPM-MVR이 추가로 적용될 수 있다. 표 5의 GPM-MVR 시그널링 방식을 예로 사용하여, 표 12는 GPM-MVR이 템플릿 매칭과 조합될 때 대응하는 신택스 테이블을 예시한다.
GPM-MVR과 템플릿 매칭을 조합하는 제안되는 방법의 신택스 엘리먼트(방법 1)
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
gpm_tm_enable_flag0[ x0 ][ y0 ] ae(v)
if( !gpm_tm_enable_flag0 ) {
gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ae(v)
}
if( gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx0_directoin_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_distance_idx[　x0　][　y0　] ae(v)
}
gpm_tm_enable_flag1[ x0 ][ y0 ] ae(v)
if( !gpm_tm_enable_flag1 ) {
gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ae(v)
}
if( gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx1_direction_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx1_distance_idx[　x0　][　y0　] ae(v)
}
}
merge_gpm_idx0[　x0　][　y0　] ae(v)
merge_gpm_idx1[　x0　][　y0　] ae(v)
……
}
표 12에 나타낸 바와 같이, 제안되는 방식에서는 2개의 GPM 파티션에 대해 모션이 리파인되는지 여부를 각각 지시하기 위해 2개의 추가 플래그 gpm_tm_enable_flag0 및 gpm_tm_enable_flag1을 먼저 시그널링한다. 플래그가 1일 때, TM이 하나의 파티션의 단방향 MV를 리파인하는 데 적용됨을 지시한다. 플래그가 0일 때, GPM-MVR이 GPM 파티션에 적용되는지 여부를 지시하기 위해 하나의 플래그(gpm_mvr_partIdx0_enable_flag 또는 gpm_mvr_partIdx1_enable_flag)가 추가로 시그널링된다. 하나의 GPM 파티션의 플래그가 1일 때, MVR의 방향을 지정하기 위해, 거리 인덱스(신택스 엘리먼트 gpm_mvr_partIdx0_distance_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨) 및 방향 인덱스(신택스 엘리먼트 gpm_mvr_partIdx0_direction_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨)가 시그널링된다. 그 후, 2개의 GPM 파티션에 대한 단방향 MV를 식별하기 위해 기존 신택스 merge_gpm_idx0 및 merge_gpm_idx1이 시그널링된다. 한편, 표 5에 적용된 시그널링 조건과 유사하게, 2개의 GPM 파티션의 예측에 사용된 결과 MV가 동일하지 않도록 다음과 같은 조건을 적용할 수 있다.
첫째, gpm_tm_enable_flag0과 gpm_tm_enable_flag1의 값들이 모두 1일 때(즉, TM이 2개의 GPM 파티션 모두에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일할 수 없다.
둘째, gpm_tm_enable_flag0과 gpm_tm_enable_flag1 중 하나가 1이고 다른 하나가 0일 때, merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용된다.
그렇지 않으면, 즉, gpm_tm_enable_flag0 및 gpm_tm_enable_flag1 모두 1이며; 첫째, gpm_mvr_partIdx0_enable_flag와 gpm_mvr_partIdx1_enable_flag의 값들이 모두 0일 때(즉, GPM-MVR이 2개의 GPM 파티션 모두에 대해 디스에이블됨), merge_gpm_idx0과 merge_ gpm_idx1의 값들은 동일할 수 없고; 둘째, gpm_mvr_partIdx0_enable_flag가 1이고(즉, GPM-MVR이 제1 GPM 파티션에 대해 인에이블됨) gpm_mvr_partIdx1_enable_flag가 0일 때(즉, GPM-MVR이 제2 GPM 파티션에 대해 디스에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용되며; 셋째, gpm_mvr_partIdx0_enable_flag가 0이고(즉, GPM-MVR이 제1 GPM 파티션에 대해 디스에이블됨), gpm_mvr_partIdx1_enable_flag가 1일 때(즉, GPM-MVR이 제2 GPM 파티션에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용되고; 넷째, gpm_mvr_partIdx0_enable_flag와 gpm_mvr_partIdx1_enable_flag의 값들이 모두 1일 때(즉, GPM-MVR이 2개의 GPM 파티션 모두에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용되는지 여부에 대한 결정은, 2개의 GPM 파티션에 적용되는 MVR의 값들(gpm_mvr_partIdx0_direction_idx 및 gpm_mvr_partIdx0_distance_idx, 그리고 gpm_mvr_partIdx1_direction_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨)에 의존한다. 2개의 MVR의 값들이 같으면, merge_gpm_idx0과 merge_gpm_idx1이 동일하도록 허용되지 않는다. 그렇지 않으면(2개의 MVR의 값들이 같지 않음), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용된다.
위의 방법 1에서 TM과 MVR은 GPM에 독점적으로 적용된다. 이러한 방식에서는 TM 모드의 리파인된 MV의 상단에 MVR을 추가로 적용하는 것이 금지된다. 따라서 GPM에 대해 더 많은 MV 후보를 제공하기 위해, TM 리파인된 MV 상단에 MVR 오프셋을 적용할 수 있는 방법 2가 제안된다. 표 13은 GPM-MVR이 템플릿 매칭과 조합될 때 대응하는 신택스 테이블을 예시한다.
GPM-MVR과 템플릿 매칭을 조합하는 제안되는 방법의 신택스 엘리먼트(방법 2)
merge_data(　x0,　y0,　cbWidth,　cbHeight,　chType　) { 디스크립터
……
if( !ciip_flag[　x0　][　y0　] ) {
merge_gpm_partition_idx[　x0　][　y0　] ae(v)
gpm_tm_enable_flag0[ x0 ][ y0 ] ae(v)
gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx0_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx0_directoin_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx0_distance_idx[　x0　][　y0　] ae(v)
}
gpm_tm_enable_flag1[ x0 ][ y0 ] ae(v)
gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ae(v)
if( gpm_mvr_partIdx1_enable_flag[　x0　][　y0　] ) {
gpm_mvr_partIdx1_direction_idx[　x0　][　y0　] ae(v)
gpm_mvr_partIdx1_distance_idx[　x0　][　y0　] ae(v)
}
}
merge_gpm_idx0[　x0　][　y0　] ae(v)
merge_gpm_idx1[　x0　][　y0　] ae(v)
……
}
표 13에 나타낸 바와 같이, 표 12와 달리, gpm_tm_enable_flag0 및 gpm_tm_enable_flag1에 대한 gpm_mvr_partIdx0_enable_flag 및 gpm_mvr_partIdx1_enable_flag의 시그널링 조건이 제거된다. 따라서 TM이 하나의 GPM 파티션의 단방향 모션을 리파인하는 데 적용되는지 여부에 관계없이, MV 리파인먼트는 GPM 파티션의 MV에 적용되도록 항상 허용된다. 이전과 마찬가지로, 2개의 GPM 파티션의 결과 MV가 동일하지 않도록 보장하기 위해 다음 조건을 적용해야 한다.
첫째, gpm_tm_enable_flag0과 gpm_tm_enable_flag1 중 하나가 1이고 다른 하나가 0일 때, merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용된다.
그렇지 않으면, 즉 gpm_tm_enable_flag0과 gpm_tm_enable_flag1 모두가 1이거나, 2개의 플래그가 모두 0이며; 첫째, merge_gpm_idx0과 merge_gpm_idx1의 값들이 모두 0일 때(즉, GPM-MVR이 2개의 GPM 파티션 모두에 대해 디스에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일할 수 없으며; 둘째, gpm_mvr_partIdx0_enable_flag가 1이고(즉, GPM-MVR이 제1 GPM 파티션에 대해 인에이블됨) gpm_mvr_partIdx1_enable_flag가 0일 때(즉, GPM-MVR이 제2 GPM 파티션에 대해 디스에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용되고; 셋째, gpm_mvr_partIdx0_enable_flag가 0이고(즉, GPM-MVR이 제1 GPM 파티션에 대해 디스에이블됨) gpm_mvr_partIdx1_enable_flag가 1일 때(즉, GPM-MVR이 제2 GPM 파티션에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용되며; 넷째, gpm_mvr_partIdx0_enable_flag와 gpm_mvr_partIdx1_enable_flag의 값들이 모두 1일 때(즉, GPM-MVR이 2개의 GPM 파티션 모두에 대해 인에이블됨), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용되는지 여부에 대한 결정은, 2개의 GPM 파티션에 적용되는 MVR의 값들(gpm_mvr_partIdx0_direction_idx 및 gpm_mvr_partIdx0_distance_idx, 그리고 gpm_mvr_partIdx1_direction_idx 및 gpm_mvr_partIdx1_distance_idx로 지시됨)에 의존한다. 2개의 MVR의 값들이 같으면, merge_gpm_idx0과 merge_gpm_idx1은 동일하도록 허용되지 않는다. 그렇지 않으면(2개의 MVR의 값들이 같지 않음), merge_gpm_idx0과 merge_gpm_idx1의 값들이 동일하도록 허용된다.
위의 2개의 방법에서, TM이 각 GPM 파티션에 적용되는지 여부를 지시하기 위해 2개의 별도의 플래그를 시그널링해야 한다. 추가된 시그널링은 특히 낮은 비트레이트에서 추가 오버헤드로 인해 전체 코딩 효율을 감소시킬 수 있다. 시그널링 오버헤드를 감소시키기 위해, 추가적인 시그널링을 도입하는 대신에, TM 기반 단방향 MV를 GPM 모드의 단방향 MV 후보 리스트에 삽입하는 방법 3을 제안한다. TM 기반 단방향 MV는, "템플릿 매칭" 섹션에서 설명한 것과 동일한 TM 프로세스를 따르고 GPM의 원래의 단방향 MV를 초기 MV로 사용하여 생성된다. 이러한 방식에 의해, 인코더에서 디코더로 추가 제어 플래그를 추가로 시그널링할 필요가 없다. 대신에, 디코더는 비트스트림으로부터 수신된 대응하는 병합 인덱스(즉, merge_gpm_idx0 및 merge_gpm_idx1)를 통해 하나의 MV가 TM에 의해 리파인되는지 여부를 식별할 수 있다. 정규 GPM MV 후보(즉, 비(non)TM)와 TM 기반 MV 후보를 정렬하는 방법은 서로 다를 수 있다. 하나의 방법으로, TM 기반 MV 후보를 MV 후보 리스트의 시작 부분에 놓고 뒤이어 비TM 기반 MV 후보를 배치하는 것이 제안된다. 또 다른 방법으로는, 비TM 기반 MV 후보를 시작 부분에 놓고 뒤이어 TM 기반 후보를 배치하는 것을 제안한다. 다른 방법으로는 TM 기반 MV 후보와 비TM 기반 MV 후보를 인터리브 방식(interleaved manner)으로 배치하는 것을 제안한다. 예를 들어, 처음에 N개의 비TM 기반 후보, 그런 다음 모든 TM 기반 후보; 마지막으로 나머지 비TM 기반 후보를 배치할 수 있다. 다른 예에서, 처음에 N개의 TM 기반 후보, 그런 다음 모든 비TM 기반 후보; 마지막으로 나머지 TM 기반 후보를 배치할 수 있다. 또 다른 예로, 비TM 기반 후보와 TM 기반 후보를 하나씩, 즉 하나의 비TM 기반 후보, 하나의 TM 기반 후보 등으로 배치하는 것을 제안한다.
위의 방법은 ASIC(application specific integrated circuit), DSP(digital signal processor), DSPD(digital signal processing device), PLD(programmable logic device), FPGA(field programmable gate array), 컨트롤러, 마이크로-컨트롤러, 마이크로프로세서 또는 기타 전자 컴포넌트를 포함하는 하나 이상의 회로를 포함하는 장치를 사용하여 구현될 수 있다. 이 장치는 상술한 방법을 수행하기 위해 다른 하드웨어 또는 소프트웨어 컴포넌트와 조합하여 회로를 사용할 수 있다. 위에 개시된 각각의 모듈, 서브모듈, 유닛 또는 서브유닛은 하나 이상의 회로를 사용하여 적어도 부분적으로 구현될 수 있다.
도 10은 사용자 인터페이스(1060)와 결합된(coupled) 컴퓨팅 환경(또는 컴퓨팅 디바이스)(1010)을 도시한다. 컴퓨팅 환경(1010)은 데이터 처리 서버의 일부일 수 있다. 일부 실시예에서, 컴퓨팅 디바이스(1010)는 본 개시의 다양한 예에 따라 앞서 기술된 바와 같은 임의의 다양한 방법 또는 프로세스(인코딩/디코딩 방법 또는 프로세스 등)를 수행할 수 있다. 컴퓨팅 환경(1010)은 프로세서(1020), 메모리(1040), 및 I/O 인터페이스(1050)를 포함할 수 있다.
프로세서(1020)는 일반적으로 디스플레이, 데이터 획득, 데이터 통신 및 이미지 처리와 관련된 작동과 같은, 컴퓨팅 환경(1010)의 전반적인 작동을 제어한다. 프로세서(1020)는 전술한 방법의 단계 전부 또는 일부를 수행하기 위해 명령어를 실행하는 하나 이상의 프로세서를 포함할 수 있다. 더욱이, 프로세서(1020)는 프로세서(1020)와 다른 컴포넌트 사이의 상호 작용을 용이하게 하는 하나 이상의 모듈을 포함할 수 있다. 프로세서는 CPU(Central Processing Unit), 마이크로프로세서, 단일 칩 머신, GPU 등일 수 있다.
메모리(1040)는 컴퓨팅 환경(1010)의 작동을 지원하기 위해 다양한 유형의 데이터를 저장하도록 구성된다. 메모리(1040)는 미리 결정된 소프트웨어(1042)를 포함할 수 있다. 그러한 데이터의 예는 컴퓨팅 환경(1010)에서 작동되는 임의의 애플리케이션 또는 방법에 대한 명령어, 비디오 데이터세트, 이미지 데이터 등을 포함한다. 메모리(1040)는 SRAM(static random access memory), EEPROM(electrically erasable programmable read-only memory), EPROM(erasable programmable read-only memory), PROM(programmable read-only memory), ROM(read-only memory), 자기 메모리, 플래시 메모리, 자기 또는 광학 디스크와 같은, 휘발성 또는 비휘발성 메모리 디바이스 또는 이들의 조합으로 구현될 수 있다.
I/O 인터페이스(1050)는 키보드, 클릭 휠, 버튼 등과 같은, 프로세서(1020)와 주변 인터페이스 모듈 사이의 인터페이스를 제공한다. 버튼은 홈 버튼, 스캔 시작 버튼 및 스캔 중지 버튼을 포함할 수 있으나 이에 제한되지 않는다. I/O 인터페이스(1050)는 인코더 및 디코더와 결합될 수 있다.
일부 실시예에서, 전술한 방법을 수행하기 위해, 컴퓨팅 환경(1010)에서 프로세서(1020)에 의해 실행 가능한, 메모리(1040)에 포함된 것과 같은, 복수의 프로그램을 포함하는, 컴퓨터가 판독 가능한 비일시적 저장 매체가 또한 제공된다. 예를 들어, 컴퓨터가 판독 가능한 비일시적 저장 매체는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 디바이스 등일 수 있다.
컴퓨터가 판독 가능한 비일시적 저장 매체는 하나 이상의 프로세서를 갖는 컴퓨팅 디바이스에 의해 실행하기 위한 복수의 프로그램을 저장하고 있으며, 복수의 프로그램은 하나 이상의 프로세서에 의해 실행될 때, 컴퓨팅 디바이스가 위에 설명된 모션 예측을 위한 방법을 수행하게 한다.
일부 실시예에서, 컴퓨팅 환경(1010)은 위의 방법을 수행하기 위해, 하나 이상의 ASIC(application-specific integrated circuit), DSP(digital signal processor), DSPD(digital signal processing device), PLD(programmable logic device), FPGA(field-programmable gate array), GPU(graphical processing unit), 컨트롤러, 마이크로-컨트롤러, 마이크로 프로세서 또는 기타 전자 컴포넌트로 구현될 수 있다.
도 8은 본 개시의 일 예에 따른 GPM에서 비디오 블록을 디코딩하는 방법을 나타내는 흐름도이다.
단계(801)에서, 프로세서(1020)는 비디오 블록을 제1 기하학적 파티션 및 제2 기하학적 파티션으로 파티셔닝할 수 있다.
단계(802)에서, 프로세서(1020)는 제1 기하학적 파티션에 대한 제1 TM 인에이블 플래그를 수신할 수 있고, 제2 기하학적 파티션에 대한 제2 TM 인에이블 플래그를 획득할 수 있다.
일부 예에서, 제1 TM 인에이블 플래그는 제1 파티션의 단방향 모션이 TM에 의해 리파인되는지 여부를 지시하고, 제2 TM 인에이블 플래그는 제2 파티션의 단방향 모션이 TM에 의해 리파인되는지 여부를 지시한다. 예를 들어, 제1 TM 인에이블 플래그는 표 12 또는 표 13에 나타낸 바와 같이 gpm_tm_enable_flag0 플래그일 수 있고, 제2 TM 인에이블 플래그는 표 12 또는 표 13에 나타낸 바와 같이 gpm_tm_enable_flag1 플래그일 수 있다.
단계(803)에서, 프로세서(1020)는 제1 기하학적 파티션에 대한 제1 병합 GPM 인덱스 및 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신할 수 있다.
일부 예에서, 제1 병합 GPM 인덱스는 제1 기하학적 파티션에 대한 단방향 MV를 식별하고, 제2 병합 GPM 인덱스는 제2 기하학적 파티션에 대한 단방향 MV를 식별한다.
일부 예에서, 제1 병합 GPM 인덱스는 표 12 또는 표 13에 나타낸 바와 같이 신택스 엘리먼트 merge_gpm_idx0일 수 있고, 제2 병합 GPM 인덱스는 표 12 또는 표 13에 나타낸 바와 같이 신택스 엘리먼트 merge_gpm_idx1일 수 있다.
단계(804)에서, 프로세서(1020)는 GPM의 단방향 MV 후보 리스트를 구성할 수 있다.
단계(805)에서, 프로세서(1020)는 제1 기하학적 파티션에 대한 단방향 MV 및 제2 기하학적 파티션에 대한 단방향 MV를 생성할 수 있다.
일부 예에서, 표 12에 나타낸 바와 같이, 프로세서(1020)는 제1 TM 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, TM이 제1 기하학적 파티션의 단방향 MV를 리파인하는 데 적용되고 MVR이 제1 기하학적 파티션에 대해 적용되지 않는다고 결정할 수 있다.
일부 예에서, 표 12에 나타낸 바와 같이, 프로세서(1020)는 제1 TM 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 제1 기하학적 파티션에 대한 제1 GPM-MVR(GPM with MVR) 인에이블 플래그를 수신할 수 있으며, 여기서 제1 GPM-MVR 인에이블 플래그는 GPM-MVR이 제1 기하학적 파티션에 적용되는지 여부를 지시할 수 있다. 제1 GPM-MVR 인에이블 플래그는 표 12에 나타낸 바와 같이 gpm_tm_enable_flag0일 수 있다.
일부 예에서, 표 12에 나타낸 바와 같이, 프로세서(1020)는 제1 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 제1 GPM-MVR 거리 인덱스 및 제1 GPM-MVR 방향 인덱스를 수신할 수 있다. 제1 GPM-MVR 거리 인덱스 및 제1 GPM-MVR 방향 인덱스는 각각 표 12에 나타낸 바와 같이 제1 기하학적 파티션에 대한 MVR의 방향을 지정할 수 있다.
일부 예에서, 표 12에 나타낸 바와 같이, 프로세서(1020)는 제2 TM 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, TM이 제2 기하학적 파티션의 단방향 MV를 리파인하는 데 적용되고, MVR이 제2 기하학적 파티션에 대해 적용되지 않는다고 결정할 수 있다.
일부 예에서, 표 12에 나타낸 바와 같이, 프로세서(1020)는 제2 TM 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 제2 기하학적 파티션에 대한 제2 GPM-MVR(GPM with motion vector refinement) 인에이블 플래그를 수신할 수 있다. 제2 GPM-MVR 인에이블 플래그는 GPM-MVR이 제2 기하학적 파티션에 적용되는지 여부를 지시할 수 있다.
일부 예에서, 표 12에 나타낸 바와 같이, 프로세서(1020)는 제2 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 제2 GPM-MVR 거리 인덱스 및 제2 GPM-MVR 방향 인덱스를 수신할 수 있다. 제2 GPM-MVR 거리 인덱스 및 제2 GPM-MVR 방향 인덱스는 각각 제2 기하학적 파티션에 대한 MVR의 방향을 지정할 수 있다.
일부 예에서, 프로세서(1020)는 제1 TM 인에이블 플래그 및 제2 TM 인에이블 플래그에 기반하여 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스를 추가로 제약할 수 있다.
일부 예에서, 프로세서(1020)는 제1 TM 인에이블 플래그 및 제2 TM 인에이블 플래그가 각각 1인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 서로 다르다고 결정할 수 있다.
일부 예에서, 프로세서(1020)는 제1 TM 인에이블 플래그 및 제2 TM 인에이블 플래그 중 하나가 1이고 다른 하나는 0인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정할 수 있다. 일부 예에서, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용될 때, 제1 병합 GPM 인덱스과 제2 병합 GPM 인덱스는 동일하거나 서로 다를 수 있다.
예를 들어, 일부 예에서, gpm_tm_enable_flag0 및 gpm_tm_enable_flag1 중 하나가 1이고 다른 하나가 0일 때, merge_gpm_idx0과 merge_gpm_idx1의 값들은 동일하도록 허용된다. 일부 예에서, gpm_tm_enable_flag0 및 gpm_tm_enable_flag1 중 하나가 1이고 다른 하나가 0일 때, merge_gpm_idx0과 merge_gpm_idx1의 값들은 서로 다를 수 있다.
일부 예에서, 프로세서(1020)는 제1 TM 인에이블 플래그와 제2 TM 인에이블 플래그가 각각 1인 것으로 결정한 것에 응답하여, 제1 GPM-MVR 인에이블 플래그 및 제2 GPM-MVR 인에이블 플래그에 기반하여 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스를 추가로 제약할 수 있다.
예를 들어, 프로세서(1020)는 제1 GPM-MVR 인에이블 플래그 및 제2 GPM-MVR 인에이블 플래그가 각각 0인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 서로 다르다고 결정할 수 있다.
예를 들어, 프로세서(1020)는 제1 GPM-MVR 인에이블 플래그가 1이고 제2 GPM-MVR 인에이블 플래그는 0인 것으로 결정한 것에 응답하여 또는 제1 GPM-MVR 인에이블 플래그가 0이고 제2 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정할 수 있다. 일부 예에서, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용될 때, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스는 동일하거나 서로 다를 수 있다.
예를 들어, 프로세서(1020)는 제1 GPM-MVR 인에이블 플래그 및 제2 GPM-MVR 인에이블 플래그가 각각 1인 것으로 결정한 것에 응답하여, 제1 기하학적 파티션에 대한 제1 MVR 및 제2 기하학적 파티션에 대한 제2 MVR에 기반하여 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스를 결정할 수 있다.
일부 예에서, 프로세서(1020)는 제1 MVR이 제2 MVR과 같다고 결정한 것에 응답하여 제1 병합 GPM 인덱스와 제2 병합 GPM 인덱스가 서로 다르다고 결정할 수 있다.
일부 예에서, 프로세서(1020)는 제1 MVR이 제2 MVR과 같지 않다고 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정할 수 있다. 일부 예에서, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용될 때, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스는 동일하거나 서로 다를 수 있다.
일부 예에서, 프로세서(1020)는 표 12에 나타낸 바와 같이, 제1 TM 인에이블 플래그 및 제2 TM 인에이블 플래그에 기반하여 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스를 추가로 제약할 수 있다.
예를 들어, 프로세서(1020)는 제1 TM 인에이블 플래그 및 제2 TM 인에이블 플래그 중 하나가 1이고 다른 하나가 0인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정할 수 있다.
예를 들어, 프로세서(1020)는 제1 TM 인에이블 플래그와 제2 TM 인에이블 플래그가 모두 0이거나 제1 TM 인에이블 플래그와 제2 TM 인에이블 플래그가 모두 1인 것으로 결정한 것에 응답하여, 제1 기하학적 파티션에 대한 제1 GPM-MVR(GPM motion vector refinement) 인에이블 플래그 및 제2 기하학적 파티션에 대한 제2 GPM-MVR 인에이블 플래그에 기반하여 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스를 제약할 수 있다. 제1 GPM-MVR 인에이블 플래그는 GPM-MVR이 제1 기하학적 파티션에 적용되는지 여부를 지시할 수 있고, 제2 GPM-MVR 인에이블 플래그는 GPM-MVR이 제2 기하학적 파티션에 적용되는지 여부를 지시할 수 있다.
일부 예에서, 프로세서(1020)는 제1 GPM-MVR 인에이블 플래그 및 제2 GPM-MVR 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 서로 다르다고 결정할 수 있다.
일부 예에서, 프로세서(1020)는 제1 GPM-MVR 인에이블 플래그가 1이고 제2 GPM-MVR 인에이블 플래그가 0인 것으로 결정한 것에 응답하여 또는 제1 GPM-MVR 인에이블 플래그가 0이고 제2 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정할 수 있다. 제1 병합 GPM 인덱스와 제2 병합 GPM 인덱스가 동일하도록 허용될 때, 제1 병합 GPM 인덱스와 제2 병합 GPM 인덱스는 동일하거나 서로 다를 수 있다.
일부 예에서, 프로세서(1020)는 제1 병합 GPM 인덱스와 제2 병합 GPM 인덱스는 각각 1인 것으로 결정한 것에 응답하여, 제1 기하학적 파티션에 대한 제1 모션 벡터 리파인먼트(motion vector refinement, MVR) 및 제2 기하학적 파티션에 대한 제2 MVR에 기반하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스를 결정할 수 있다.
일부 예에서, 프로세서(1020)는 제1 MVR이 제2 MVR과 같다고 결정한 것에 응답하여, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스가 서로 다르다고 결정할 수 있다. 또한, 프로세서(1020)는 제1 MVR이 제2 MVR과 같지 않다고 결정한 것에 응답하여, 제1 병합 GPM 인덱스와 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정할 수 있다.
도 9는 본 개시의 일 예에 따른 GPM에서 비디오 블록을 디코딩하는 방법을 예시하는 흐름도이다.
단계(901)에서, 프로세서(1020)는 비디오 블록을 제1 기하학적 파티션 및 제2 기하학적 파티션으로 파티셔닝할 수 있다.
단계(902)에서, 프로세서(1020)는 GPM의 단방향 MV 후보 리스트를 구성할 수 있다.
단계(903)에서, 프로세서(1020)는 제1 기하학적 파티션에 대한 제1 병합 GPM 인덱스 및 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신할 수 있다.
일부 예에서, 제1 병합 GPM 인덱스는 표 12 또는 표 13에 나타낸 바와 같이 신택스 엘리먼트 merge_gpm_idx0일 수 있고, 제2 병합 GPM 인덱스는 표 12 또는 표 13에 나타낸 바와 같이 신택스 엘리먼트 merge_gpm_idx1일 수 있다.
단계(904)에서, 프로세서(1020)는 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스에 기반하여 단방향 MV 후보 리스트를 업데이트할 수 있다.
일부 예에서, 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스는 하나의 단방향 MV가 TM에 의해 리파인되는지 여부를 지시한다.
일부 예에서, 프로세서(1020)는 초기 MV로서 GPM의 원래의 단방향 MV에 기반하여 TM 기반 단방향 MV를 생성하고, TM 기반 단방향 MV를 단방향 MV 후보 리스트에 추가하여 업데이트된 단방향 MV 후보 리스트를 획득할 수 있다. 제1 병합 GPM 인덱스 및 제2 병합 GPM 인덱스는 TM 기반 단방향 MV를 지시할 수 있다.
일부 예에서, 프로세서(1020)는 다음 작동: 비TM 기반 단방향 MV가 TM 기반 단방향 MV를 따르도록, TM 기반 단방향 MV를 단방향 MV 후보 리스트의 시작 부분에 추가하는 작동; TM 기반 단방향 MV가 단방향 MV 후보 리스트에서 비TM 기반 단방향 MV를 따르도록, TM 기반 단방향 MV를 단방향 MV 후보 리스트에 추가하는 작동; 또는 TM 기반 단방향 MV와 비TM 기반 단방향 MV가 단방향 MV 후보 리스트에서 인터리브 방식으로 배열되도록, TM 기반 단방향 MV를 단방향 MV 후보 리스트에 추가하는 작동 중 하나에 의해, TM 기반 단방향 MV를 단방향 MV 후보 리스트에 추가할 수 있다
일부 예에서, GPM에서 비디오 블록을 디코딩하는 장치가 제공된다. 이 장치는 프로세서(1020) 및 프로세서에 의해 실행 가능한 명령어를 저장하도록 구성된 메모리(1040)를 포함하고; 프로세서는 명령어 실행 시 도 8 또는 도 9에 예시된 방법을 수행하도록 구성된다.
일부 다른 예에서, 명령어가 저장된, 컴퓨터가 판독 가능한 비일시적 저장 매체가 제공된다. 명령어가 프로세서(1020)에 의해 실행될 때, 명령어는 프로세서가 도 8 또는 도 9에 예시된 방법을 수행하게 한다.
본 개시의 다른 예는 여기에 개시된 개시의 명세서 및 실행을 고려하여 당업자에게 명백할 것이다. 본 출원은 본 개시의 일반 원칙을 따르고 당업계에 공지되거나 관례적인 실행 내에 있는 본 개시로부터의 그러한 이탈을 포함하는, 본 개시의 임의의 변형, 사용 또는 적응을 커버하도록 의도된다. 명세서 및 예는 단지 예시적인 것으로 간주되도록 의도된다.
본 개시는 위에서 설명되고 첨부된 도면에 예시된 정확한 예에 한정되지 않으며, 그 범위를 벗어나지 않는 범위 내에서 다양한 수정 및 변경이 가능함을 이해할 것이다.

Claims (19)

  1. 기하학 파티션 모드(geometry partition mode, GPM)에서 비디오 블록을 디코딩하는 방법으로서,
    상기 비디오 블록을 제1 기하학적 파티션(geometric partition) 및 제2 기하학적 파티션으로 파티셔닝하는 단계;
    상기 제1 기하학적 파티션에 대한 제1 템플릿 매칭(template matching, TM) 인에이블 플래그(enable flag) 및 상기 제2 기하학적 파티션에 대한 제2 TM 인에이블 플래그를 수신하는 단계 - 상기 제1 TM 인에이블 플래그는 상기 제1 파티션의 단방향 모션(uni-directional motion)이 TM에 의해 리파인되는(refined)지 여부를 지시하고, 상기 제2 TM 인에이블 플래그는 상기 제2 파티션의 단방향 모션이 상기 TM에 의해 리파인되는지 여부를 지시함 -;
    상기 제1 기하학적 파티션에 대한 제1 병합 GPM 인덱스 및 상기 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신하는 단계;
    상기 GPM의 단방향 모션 벡터(motion victor, MV) 후보 리스트를 구성하는 단계; 및
    상기 제1 기하학적 파티션에 대한 단방향 MV 및 상기 제2 기하학적 파티션에 대한 단방향 MV를 생성하는 단계
    를 포함하는 디코딩하는 방법.
  2. 제1항에 있어서,
    상기 제1 TM 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 상기 TM이 상기 제1 기하학적 파티션의 단방향 MV를 리파인하는 데 적용되고, 모션 벡터 리파인먼트(motion vector refinement, MVR)가 상기 제1 기하학적 파티션에 적용되지 않는 것으로 결정하는 단계; 및
    상기 제1 TM 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 상기 제1 기하학적 파티션에 대한 제1 GPM-MVR(GPM with MVR) 인에이블 플래그를 수신하는 단계 - 상기 제1 GPM-MVR 인에이블 플래그는 상기 GPM-MVR이 상기 제1 기하학적 파티션에 적용되는지 여부를 지시함 -
    를 더 포함하는 디코딩하는 방법.
  3. 제2항에 있어서,
    상기 제1 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 상기 제1 기하학적 파티션에 대한 제1 GPM-MVR 거리 인덱스 및 제1 GPM-MVR 방향 인덱스를 수신하는 단계 - 상기 제1 GPM-MVR 거리 인덱스 및 상기 제1 GPM-MVR 방향 인덱스는 상기 제1 기하학적 파티션에 대한 상기 MVR의 방향을 지정함 -
    를 더 포함하는 디코딩하는 방법.
  4. 제3항에 있어서,
    상기 제2 TM 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 상기 TM이 상기 제2 기하학적 파티션의 단방향 MV를 리파인하는 데 적용되고, 상기 모션 벡터 리파인먼트(motion vector refinement, MVR)가 상기 제2 기하학적 파티션에 적용되지 않는 것으로 결정하는 단계; 및
    상기 제2 TM 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 상기 제2 기하학적 파티션에 대한 제2 GPM-MVR(GPM with motion vector refinement) 인에이블 플래그를 수신하는 단계 - 상기 제2 GPM-MVR 인에이블 플래그는 상기 GPM-MVR이 상기 제2 기하학적 파티션에 적용되는지 여부를 지시함 -
    를 더 포함하는 디코딩하는 방법.
  5. 제4항에 있어서,
    상기 제2 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 상기 제1 기하학적 파티션에 대한 제2 GPM-MVR 거리 인덱스 및 제2 GPM-MVR 방향 인덱스를 수신하는 단계 - 상기 제2 GPM-MVR 거리 인덱스 및 상기 제2 GPM-MVR 방향 인덱스는 상기 제2 기하학적 파티션에 대한 상기 MVR의 방향을 지정함 -
    를 더 포함하는 디코딩하는 방법.
  6. 제5항에 있어서,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는(constraining) 단계
    를 더 포함하는 디코딩하는 방법.
  7. 제6항에 있어서,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계는,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그가 각각 1인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 서로 다르다고 결정하는 단계; 및
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그 중 하나가 1이고 다른 하나가 0인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계
    를 포함하는, 디코딩하는 방법.
  8. 제6항에 있어서,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그가 각각 1인 것으로 결정한 것에 응답하여, 상기 제1 GPM-MVR 인에이블 플래그 및 상기 제2 GPM-MVR 인에이블 플래그에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계
    를 더 포함하는 디코딩하는 방법.
  9. 제8항에 있어서,
    상기 제1 GPM-MVR 인에이블 플래그 및 상기 제2 GPM-MVR 인에이블 플래그에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계는,
    상기 제1 GPM-MVR 인에이블 플래그 및 상기 제2 GPM-MVR 인에이블 플래그가 각각 0인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 서로 다르다고 결정하는 단계;
    상기 제1 GPM-MVR 인에이블 플래그가 1이고 상기 제2 GPM-MVR 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계;
    상기 제1 GPM-MVR 인에이블 플래그가 0이고 상기 제2 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계; 및
    상기 제1 GPM-MVR 인에이블 플래그 및 상기 제2 GPM-MVR 인에이블 플래그가 각각 1인 것으로 결정한 것에 응답하여, 상기 제1 기하학적 파티션에 대한 제1 모션 벡터 리파인먼트(motion vector refinement, MVR) 및 상기 제2 기하학적 파티션에 대한 제2 MVR에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 결정하는 단계
    를 포함하는, 디코딩하는 방법.
  10. 제9항에 있어서,
    상기 제1 MVR이 상기 제2 MVR과 같다고 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 서로 다르다고 결정하는 단계; 및
    상기 제1 MVR이 상기 제2 MVR과 같지 않다고 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스과 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계
    를 더 포함하는 디코딩하는 방법.
  11. 제1항에 있어서,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계
    를 더 포함하는 디코딩하는 방법.
  12. 제11항에 있어서,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그에 기반하여 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계는,
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그 중 하나가 1이고 다른 하나가 0인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계; 및
    상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그 모두가 0이거나 또는 상기 제1 TM 인에이블 플래그 및 상기 제2 TM 인에이블 플래그 모두가 1인 것으로 결정한 것에 응답하여, 상기 제1 기하학적 파티션에 대한 제1 GPM-MVR(GPM motion vector refinement) 인에이블 플래그 및 상기 제2 기하학적 파티션에 대한 제2 GPM-MVR 인에이블 플래그에 기반하여, 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계 - 상기 제1 GPM-MVR 인에이블 플래그는 상기 GPM-MVR이 상기 제1 기하학적 파티션에 적용되는지 여부를 지시하고, 상기 제2 GPM-MVR 인에이블 플래그는 상기 GPM-MVR이 상기 제2 기하학적 파티션에 적용되는지 여부를 지시함 -
    를 포함하는, 디코딩하는 방법.
  13. 제12항에 있어서,
    상기 제1 기하학적 파티션에 대한 제1 GPM-MVR 인에이블 플래그 및 상기 제2 기하학적 파티션에 대한 제2 GPM-MVR 인에이블 플래그에 기반하여, 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 제약하는 단계는,
    상기 제1 GPM-MVR 인에이블 플래그와 상기 제2 GPM-MVR 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 서로 다르다고 결정하는 단계;
    상기 제1 GPM-MVR 인에이블 플래그가 1이고 상기 제2 GPM-MVR 인에이블 플래그가 0인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계;
    상기 제1 GPM-MVR 인에이블 플래그가 0이고 상기 제2 GPM-MVR 인에이블 플래그가 1인 것으로 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계; 및
    상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스가 각각 1인 것으로 결정한 것에 응답하여, 상기 제1 기하학적 파티션에 대한 제1 모션 벡터 리파인먼트(motion vector refinement, MVR) 및 상기 제2 기하학적 파티션에 대한 제2 MVR에 기반하여, 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스를 결정하는 단계
    를 포함하는, 디코딩하는 방법.
  14. 제13항에 있어서,
    상기 제1 MVR이 상기 제2 MVR과 같다고 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 서로 다르다고 결정하는 단계; 및
    상기 제1 MVR이 상기 제2 MVR과 같지 않다고 결정한 것에 응답하여, 상기 제1 병합 GPM 인덱스와 상기 제2 병합 GPM 인덱스가 동일하도록 허용된다고 결정하는 단계
    를 포함하는, 디코딩하는 방법.
  15. 기하학 파티션 모드(geometry partition mode, GPM)에서 비디오 블록을 디코딩하는 방법으로서,
    상기 비디오 블록을 제1 기하학적 파티션 및 제2 기하학적 파티션으로 파티셔닝하는 단계;
    상기 GPM의 단방향 모션 벡터(motion victor, MV) 후보 리스트를 구성하는 단계;
    상기 제1 기하학적 파티션에 대한 제1 병합 GPM 인덱스 및 상기 제2 기하학적 파티션에 대한 제2 병합 GPM 인덱스를 수신하는 단계; 및
    상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스에 기반하여 상기 단방향 MV 후보 리스트를 업데이트하는 단계 - 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스는 하나의 단방향 MV가 템플릿 매칭(template matching, TM)에 의해 리파인되는지 여부를 지시함 -
    를 포함하는 디코딩하는 방법.
  16. 제15항에 있어서,
    초기 MV로서 상기 GPM의 원래의 단방향 MV에 기반하여 TM 기반 단방향 MV를 생성하는 단계 - 상기 제1 병합 GPM 인덱스 및 상기 제2 병합 GPM 인덱스는 상기 TM 기반 단방향 MV를 지시함 -; 및
    상기 TM 기반 단방향 MV를 상기 단방향 MV 후보 리스트에 추가하는 것에 의해, 업데이트된 단방향 MV 후보 리스트를 획득하는 단계.
    를 더 포함하는 디코딩하는 방법.
  17. 제16항에 있어서,
    상기 TM 기반 단방향 MV를 상기 단방향 MV 후보 리스트에 추가하는 것은 다음 작동:
    비(non)TM 기반 단방향 MV가 상기 TM 기반 단방향 MV를 따르도록(follow), 상기 TM 기반 단방향 MV를 상기 단방향 MV 후보 리스트의 시작 부분에 추가하는 작동;
    상기 TM 기반 단방향 MV가 상기 단방향 MV 후보 리스트에서 상기 비TM 기반 단방향 MV를 따르도록, 상기 TM 기반 단방향 MV를 상기 단방향 MV 후보 리스트에 추가하는 작동; 또는
    상기 TM 기반 단방향 MV와 상기 비TM 기반 단방향 MV가 상기 단방향 MV 후보 리스트에서 인터리브 방식으로 배열되도록, 상기 TM 기반 단방향 MV를 상기 단방향 MV 후보 리스트에 추가하는 작동
    중 적어도 하나를 포함하는, 디코딩하는 방법.
  18. 비디오 코딩 장치로서,
    하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 의해 실행 가능한 명령어를 저장하도록 구성된, 컴퓨터가 판독 가능한 비일시적 저장 매체
    를 포함하고,
    상기 하나 이상의 프로세서는 상기 명령어의 실행 시, 제1항 내지 제17항 중 어느 한 항의 방법을 수행하도록 구성되는, 비디오 코딩 장치.
  19. 컴퓨터가 실행 가능한 명령어를 저장하는, 컴퓨터가 판독 가능한 비일시적 저장 매체로서,
    상기 명령어는 하나 이상의 컴퓨터 프로세서에 의해 실행될 때, 상기 하나 이상의 컴퓨터 프로세서가 제1항 내지 제17항 중 어느 한 항의 방법을 수행하게 하는, 컴퓨터가 판독 가능한 비일시적 저장 매체.
KR1020237043476A 2021-05-17 2022-05-17 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드 KR20240008934A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202163189661P 2021-05-17 2021-05-17
US63/189,661 2021-05-17
PCT/US2022/029704 WO2022245876A1 (en) 2021-05-17 2022-05-17 Geometric partition mode with motion vector refinement

Publications (1)

Publication Number Publication Date
KR20240008934A true KR20240008934A (ko) 2024-01-19

Family

ID=84141907

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020237043476A KR20240008934A (ko) 2021-05-17 2022-05-17 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드

Country Status (5)

Country Link
US (1) US20240098250A1 (ko)
EP (1) EP4352960A1 (ko)
KR (1) KR20240008934A (ko)
CN (1) CN117321990A (ko)
WO (1) WO2022245876A1 (ko)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019072368A1 (en) * 2017-10-09 2019-04-18 Huawei Technologies Co., Ltd. LIMITED MEMORY ACCESS WINDOW FOR MOTION VECTOR REFINEMENT
CN110809159B (zh) * 2018-08-04 2022-06-07 北京字节跳动网络技术有限公司 更新的mv或推导的mv的裁剪
SG11202108103WA (en) * 2019-01-28 2021-08-30 Op Solutions Llc Inter prediction in geometric partitioning with an adaptive number of regions

Also Published As

Publication number Publication date
CN117321990A (zh) 2023-12-29
US20240098250A1 (en) 2024-03-21
WO2022245876A1 (en) 2022-11-24
EP4352960A1 (en) 2024-04-17

Similar Documents

Publication Publication Date Title
US11956462B2 (en) Video processing methods and apparatuses for sub-block motion compensation in video coding systems
KR20210089148A (ko) 인터 및 인트라 통합 예측의 단순화
KR20210089149A (ko) 인터 및 인트라 통합 예측 모드 가중치
WO2020244658A1 (en) Sub-block based intra block copy
KR20210134644A (ko) 변환된 단예측 후보의 사용
US20230115074A1 (en) Geometric partition mode with motion vector refinement
EP3977741A1 (en) Methods and apparatus for signaling symmetrical motion vector difference mode
WO2023072287A1 (en) Method, apparatus, and medium for video processing
US20230156181A1 (en) Methods and Apparatuses for a High-throughput Video Encoder or Decoder
US20220094970A1 (en) Motion vector prediction for video coding
KR20240008934A (ko) 모션 벡터 리파인먼트를 사용하는 기하학적 파티션 모드
US20240073440A1 (en) Methods and devices for geometric partition mode with motion vector refinement
KR20210131347A (ko) 크기에 따른 인터 코딩
US20240048700A1 (en) Geometric partition mode with explicit motion signaling
WO2024027784A1 (en) Method and apparatus of subblock-based temporal motion vector prediction with reordering and refinement in video coding
US20240129509A1 (en) Methods and devices for geometric partition mode with motion vector refinement
WO2023198131A1 (en) Method, apparatus, and medium for video processing
KR20240021295A (ko) 모션 벡터 세분화를 갖는 기하학적 파티션 모드를 위한 방법 및 장치
KR20240013796A (ko) 움직임 벡터 미세조정을 이용한 기하학적 파티션 모드
WO2024044404A1 (en) Methods and devices using intra block copy for video coding

Legal Events

Date Code Title Description
A201 Request for examination