KR102449889B1

KR102449889B1 - 비디오 코딩을 위한 서브-블록 시간적 움직임 벡터 예측

Info

Publication number: KR102449889B1
Application number: KR1020217039515A
Authority: KR
Inventors: 이원 첸; 샤오유 시우; 충촨 마; 홍젱 주; 슈이밍 예; 샹린 왕
Original assignee: 베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드
Priority date: 2019-06-07
Filing date: 2020-06-05
Publication date: 2022-09-30
Also published as: KR20220005550A; JP7200404B2; KR20230098705A; CN114363611A; CN118433411A; CN118433410A; CN114363611B; JP7548986B2; JP2023040048A; CN118433412A; MX2021015068A; KR102548345B1; CN116156199A; US12108047B2; EP3967039A1; EP3967039A4; EP4429247A2; KR20220136502A; KR20230098704A; WO2020247761A1

Abstract

컴퓨팅 장치는, 현재 코딩 단위의 동일-위치(co-located) 픽처를 확정하는 단계; 상기 동일-위치 픽처에 대응하는 상기 현재 코딩 단위의 공간적 인접 블록을 로케이팅(locating)하는 단계; 미리 정의된 고정된 순서에 따라 상기 공간적 인접 블록과 관련된 하나 혹은 그 이상의 움직임 벡터로부터 상기 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정하는 단계; 상기 움직임 시프트에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계, 를 포함하는 비디오 데이터를 디코딩하는 방법을 수행한다.

Description

비디오 코딩을 위한 서브-블록 시간적 움직임 벡터 예측

본 발명은 일반적으로 비디오 데이터 인코딩 및 디코딩에 관한 것으로, 구체적으로 비디오 데이터 인코딩 및 디코딩 동안의 서브-블록 움직임 벡터 예측의 방법 및 시스템에 관한 것이다.

디지털 비디오는 디지털 TV, 랩톱 또는 데스크톱 컴퓨터, 태블릿 컴퓨터, 디지털 카메라, 디지털 기록 장치, 디지털 미디어 플레이어, 비디오 게임 콘솔, 스마트 폰, 비디오 화상 회의 장치, 비디오 스트리밍 장치와 같은 다양한 전자 장치에 의해 지지될 수 있다. 전자 장치는 MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, Part 10, Advanced Video Coding(AVC), High Efficiency Video Coding(HEVC) 및Versatile Video Coding(VVC)에 의하여 정의된 비디오 압축/복원 표준을 구현하여 디지털 비디오 데이터를 송신, 수신, 인코딩, 디코딩 및/또는 저장할 수 있다. 비디오 압축은 일반적으로 비디오 데이터에 내재된 중복성을 감소하거나 제거하기 위하여 공간적(인트라-프레임) 예측 및/또는 시간적(인터-프레임) 예측을 수행하는 것을 포함할 수 있다. 블록-기반 비디오 코딩의 경우, 비디오 프레임은 하나 또는 그 이상의 슬라이스(slice)로 분할되며, 각 슬라이스는 코딩 트리 단위(coding tree unit, CTU)로도 불리는 비디오 블록들을 복수 개 구비할 수 있다. 각 CTU는 하나의 코딩 단위(coding unit, CU)를 포함하거나, 소정의 최소 CU 크기에 도달 할 때까지 더 작은 CU로 재귀적으로 분할될 수 있다. 각 CU("리프 CU(leaf CU)"라고도 함)는 하나 또는 복수 개의 변환 단위(transformation unit, TU)를 포함하고, 각 CU는 하나 또는 복수 개의 예측 단위(prediction unit, PU)를 포함할 수 있다. 각 CU는 인트라, 인터 또는 IBC 모드로 코딩될 수 있다. 비디오 프레임의 인트라 코딩된(I) 슬라이스 내의 비디오 블록들은 동일한 비디오 프레임 내의 인접 블록들의 기준 샘플들에 대한 공간적 예측을 사용하여 인코딩될 수 있다. 비디오 프레임의 인터 코딩된(P 또는 B) 슬라이스 내의 비디오 블록들에 대하여, 동일한 비디오 프레임 내의 인접 블록의 기준 샘플들에 대한 공간적 예측 또는 다른 이전 및/또는 미래 기준 비디오 프레임들의 기준 샘플들에 대한 시간적 예측을 사용할 수 있다.

예를 들어, 인접 블록과 같이 이전에 인코딩된 기준 블록에 기초한 공간적 또는 시간적 예측은 코딩될 현재 비디오 블록에 대한 예측 블록을 생성할 수 있다. 기준 블록을 찾는 과정은 블록 매칭 알고리즘에 의해 수행될 수 있다. 코딩될 현재 블록과 예측 블록 사이의 픽셀 차이를 나타내는 잔여 데이터를 잔여 블록 또는 예측 오차라고할 수 있다. 인터-코딩된 블록은 예측 블록을 구성하는 기준 프레임 내의 기준 블록을 가리키는 움직임 벡터(motion vector) 및 잔여 블록에 따라 인코딩될 수 있다. 일반적으로, 움직임 벡터를 확정하는 프로세스를 움직임 추정이라고 한다. 인트라 코딩된 블록은 인트라 예측 모드 및 잔여 블록에 따라 인코딩될 수 있다. 추가 압축을 위하여, 잔여 블록은 픽셀 도메인에서 주파수 도메인과 같은 변환 도메인으로 변환되고, 그 결과 추후에 양자화되는 잔여 변환 계수들이 생성될 수 있다. 초기에 2 차원-행렬로 배열된 양자화된 변환 계수들은 스캔되어 변환 계수들의 1 차원-벡터를 생성하고, 다음 비디오 비트스트림으로 엔트로피 인코딩되어 더 많은 압축을 달성할 수 있다.

다음, 인코딩된 비디오 비트스트림은 컴퓨터 판독 가능한 저장 매체(예를 들어, 플래시 메모리)에 저장되어 디지털 비디오 기능을 가진 다른 전자 장치에 의해 액세스되거나, 유선 또는 무선으로 전자 장치에 직접 전송될 수 있다. 다음, 전자 장치는 예를 들어 인코딩된 비디오 비트스트림을 파싱하여 비트스트림으로부터 신택스 요소들(systax elements)을 획득하고, 비트스트림으로부터 획득한 신택스 요소들에 적어도 일부분 기초하여 디지털 비디오 데이터를 인코딩된 비디오 비트스트림으로부터 원 포맷으로 재구성하는 것을 통하여 비디오 복원(위에서 설명한 비디오 압축과 반대되는 프로세스)을 수행하며, 전자 장치의 디스플레이상에 재구성된 디지털 비디오 데이터를 렌더링할 수 있다.

디지털 비디오 품질이 고화질에서 4K Х 2K 또는 8K Х 4K로 변화함에 따라, 인코딩/디코딩될 비디오 데이터의 양이 급격히 증가한다. 디코딩된 비디오 데이터의 이미지 품질을 유지하는 동시에 비디오 데이터를 보다 효율적으로 인코딩/디코딩할 수 있는 방법은 끊임없는 문제이다.

본 출원은 비디오 데이터 인코딩 및 디코딩, 특히 서브-블록 움직임 벡터 예측의 시스템 및 방법과 관련된 구현 방식들을 설명한다.

본 출원의 제1 측면에 따르면, 현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법은, 상기 현재 픽처의 동일-위치(co-located) 픽처를 확정하는 단계; 상기 현재 코딩 단위의 공간적 인접 블록의 움직임 벡터에 기반하여 상기 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정하되, 상기 움직임 시프트 벡터는 상기 현재 픽처 내의 상기 현재 코딩 단위내의 복수의 서브-블록들의 서브-블록과 상기 동일-위치 픽처 내의 대응하는 서브-블록 사이의 공간적 위치의 시프트를 가리키는 단계; 및 상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 상기 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 상기 복수의 서브-블록들의 상기 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계,를 포함한다.

본 출원의 제2 측면에 따르면, 컴퓨팅 장치는 하나 혹은 그 이상의 프로세서, 메모리 및 메모리에 저장된 복수의 프로그램을 포함한다. 상기 프로그램들은, 하나 혹은 그 이상의 프로세서에 의해 실행될 경우 컴퓨팅 장치로 하여금 상기에서 설명한 동작들을 수행하도록 한다.

본 출원의 제3 측면에 따르면, 비-일시적 컴퓨터 판독 가능 저장 매체는 하나 혹은 그 이상의 프로세서를 갖는 컴퓨팅 장치에 의해 실행되기 위한 복수의 프로그램을 저장한다. 상기 프로그램들은, 상기 하나 혹은 그 이상의 프로세서에 의해 실행될 경우 컴퓨팅 장치로 하여금 상기에서 설명한 동작들을 수행하도록 한다.

구현 방식들에 대한 진일보 이해를 제공하기 위해 포함되고 본 문에 통합되며 명세서의 일부를 구성하는 첨부 도면들은, 설명된 구현 방식들을 도시하고, 설명과 함께 기본 원리를 서술하는 역할을 한다. 동일한 도면 부호는 대응되는 부분을 나타낸다.
도 1은 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 인코딩 및 디코딩 시스템을 도시하는 블록도이다.
도 2는 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 인코더를 도시하는 블록도이다.
도 3은 본 개시의 일부 구현 방식들에 따른 예시적인 비디오 디코더를 도시하는 블록도이다.
도 4A 내지 도 4E는 본 개시의 일부 구현 방식들에 따른 프레임이 서로 다른 크기와 모양의 복수 개의 비디오 블록들로 재귀적으로 분할되는 것을 도시하는 블록도들이다.
도 5는 본 개시의 일부 구현 방식들에 따른 인코딩될 현재 CU의 공간적 인접 위치들 및 시간적-동일 위치(co-located) 블록 위치들을 도시하는 블록도이다.
도 6A 내지 도 6D는 본 개시의 일부 구현 방식들에 따른 현재 블록의 시간적 움직임 벡터 예측자들(predictor) 또는 현재 블록 내 서브-블록의 서브-블록 시간적 움직임 벡터 예측자들을 도출하는 단계들을 도시하는 블록도이다.
도 7은 본 개시의 일부 구현 방식들에 따른 시간적 움직임 벡터 예측자들 및 서브-블록 시간적 움직임 벡터 예측자들을 도출하기 위한 유효 영역을 확정하기 위한 블록도를 도시한다.
도 8A 내지 도 8B는 본 발명의 일부 구현 방식들에 따른 비디오 코더가 서브-블록 시간적 움직임 벡터 예측자들을 도출하기 위한 기술을 구현하는 예시적인 프로세스를 도시하는 흐름도를 도시한다.

이하 그 예가 첨부 도면에 도시되어 있는 특정 구현 방식들을 상세하게 설명한다. 다음의 상세한 설명에서, 본 명세서에 기재된 내용의 이해를 돕기 위하여 복수의 비-제한적인 특정 세부 사항이 설명된다. 그러나, 청구항의 범위를 벗어나지 않고 다양한 변경을 진행할 수 있고 이러한 특정 세부사항 없이 주제가 실시될 수 있다는 것은 당업자에게 자명한 것이다. 예를 들어, 본 명세서에 기재한 기술적 방안은 디지털 비디오 기능을 구비한 다양한 유형의 전자 장치에서 구현될 수 있다는 것은 당업자에게 자명한 것이다.

도 1은 본 개시의 일부 구현 방식들에 따른 비디오 블록들을 병렬로 인코딩 및 디코딩하기 위한 예시적인 시스템(10)을 도시하는 블록도이다. 도 1에 도시된 바와 같이, 시스템(10)은 목적지 장치(14)에 의해 나중에 디코딩될 비디오 데이터를 생성하고 인코딩하는 소스 장치(12)를 포함한다. 소스 장치(12) 및 목적지 장치(14)는 데스크톱 또는 랩탑 컴퓨터, 태블릿 컴퓨터, 스마트 폰, 셋톱 박스, 디지털 텔레비전, 카메라, 디스플레이 장치, 디지털 미디어 플레이어, 비디오 게임 콘솔, 비디오 스트리밍 장치와 같은 다양한 전자 장치 중의 어느 하나를 포함할 수 있다. 일부 구현 방식들에서, 소스 장치(12) 및 목적지 장치(14)는 무선 통신 기능을 구비할 수 있다.

일부 구현 방식들에서, 목적지 장치(14)는 링크(16)를 통하여 디코딩될 인코딩된 비디오 데이터를 수신할 수 있다. 링크(16)는 인코딩된 비디오 데이터를 소스 장치(12)로부터 목적지 장치(14)로 이동할 수 있는 임의의 유형의 통신 매체 또는 장치를 포함할 수 있다. 일 예에서, 링크(16)는 인코딩된 비디오 데이터를 소스 장치(12)가 목적지 장치(14)에 실시간으로 직접 전송할 수 있도록 하는 통신 매체일 수 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되어 목적지 장치(14)로 전송될 수 있다. 통신 매체는 무선 주파수(RF) 스펙트럼 또는 하나 또는 그 이상의 물리적 전송 라인과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수 있다. 통신 매체는 근거리 네트워크(local area network), 광역 네트워크(wide-area network)와 같은 패킷-기반 네트워크(packet-based network) 또는 인터넷(Internet)과 같은 글로벌 네트워크(global network)의 일부분을 형성할 수 있다. 통신 매체는 라우터, 스위치, 기지국, 또는 소스 장치(12)로부터 목적지 장치(14)로의 통신을 용이하게 하는데 사용할 수 있는 임의의 다른 장비를 포함할 수 있다.

일부 다른 구현 방식들에서, 인코딩된 비디오 데이터는 출력 인터페이스(22)로부터 저장 장치(32)로 전송될 수 있다. 다음, 저장 장치(32) 내의 인코딩된 비디오 데이터는 목적지 장치(14)가 입력 인터페이스(28)를 통하여 액세스할 수 있다. 저장 장치(32)는 다양한 분산 또는 로컬 액세스 데이터 저장 매체(예하면, 하드 드라이브, Blu-ray 디스크, DVD, CD-ROM, 플래시 메모리, 휘발성 또는 비 휘발성 메모리), 또는 인코딩된 비디오 데이터를 저장하기에 적절한 기타 디지털 저장 매체 중의 임의의 하나를 포함할 수 있다. 추가 예에서, 저장 장치(32)는 소스 장치(12)에 의해 생성된 인코딩된 비디오 데이터를 보유할 수 있는 파일 서버(file server) 또는 다른 중간 저장 장치에 대응할 수 있다. 목적지 장치(14)는 스트리밍 또는 다운로드를 통해 저장 장치(32)로부터 저장된 비디오 데이터에 액세스할 수있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 인코딩된 비디오 데이터를 목적지 장치(14)로 전송할 수 있는 임의의 유형의 컴퓨터일 수 있다. 예시적인 파일 서버는 웹 서버(예 : 웹 사이트 용), FTP 서버, 네트워크 연결 스토리지(network attached storage: NAS) 장치 또는 로컬 디스크 드라이브(local disk driver)를 포함할 수 있다. 목적지 장치(14)는 파일 서버에 저장된 인코딩된 비디오 데이터의 액세스에 적합한 무선 채널(예하면, Wi-Fi 연결), 유선 연결(예하면, DSL, 케이블 모뎀 등) 또는 이들의 조합을 포함하는 임의의 표준 데이터 연결을 통해 인코딩된 비디오 데이터에 액세스할 수 있다. 저장 장치(32)로부터의 인코딩된 비디오 데이터의 전송은 스트리밍 전송, 다운로드 전송 또는 그들의 조합일 수 있다.

도 1에 도시된 바와 같이, 소스 장치(12)는 비디오 소스(18), 비디오 인코더(20) 및 출력 인터페이스(22)를 포함한다. 비디오 소스(18)는 비디오 캡처 장치(예를 들어, 비디오 카메라), 이전에 캡처된 비디오를 포함하는 비디오 아카이브(video archieve), 비디오 콘텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스 및/또는 컴퓨터 그래픽 데이터를 소스 비디오로 생성하기 위한 컴퓨터 그래픽 시스템, 또는 이들의 조합을 포함할 수 있다. 일례로, 비디오 소스(18)가 보안 감시 시스템의 비디오 카메라인 경우, 소스 장치(12) 및 목적지 장치(14)는 카메라 폰 또는 비디오 폰을 형성할 수 있다. 그러나, 본 출원에서 설명하는 구현 방식들은 일반적으로 비디오 코딩에 적용될 수 있는 것이고, 무선 및/또는 유선 애플리케이션에 적용될 수 있다.

캡처된, 사전에 캡처된 또는 컴퓨터에 의하여 생성된 비디오는 비디오 인코더(20)에 의해 인코딩될 수 있다. 인코딩된 비디오 데이터는 소스 장치(12)의 출력 인터페이스(22)를 통해 목적지 장치(14)로 직접 전송될 수 있다. 또한, 인코딩된 비디오 데이터는 (또는 대안 적으로) 저장 장치(32)에 저장되어 추후에 목적지 장치(14) 또는 다른 장치에 의하여 엑세스되어 디코딩 및/또는 재생되도록 할 수 있다. 출력 인터페이스(22)는 모뎀 및/또는 송신기를 더 포함할 수있다.

목적지 장치(14)는 입력 인터페이스(28), 비디오 디코더(30) 및 디스플레이 장치(34)를 포함한다. 입력 인터페이스(28)는 수신기 및/또는 모뎀을 포함 할 수 있으며, 링크(16)를 통해 인코딩된 비디오 데이터를 수신할 수 있다. 링크(16)를 통해 전송되거나 저장 장치(32) 상에 제공되는 인코딩된 비디오 데이터는 비디오 인코더(20)에 의해 생성되어 비디오 디코더(30)가 비디오 데이터를 디코딩하기 위하여 사용되는 다양한 신택스 요소들(syntax elements)을 포함할 수 있다. 이러한 신택스 요소들은 통신 매체를 통해 전송되거나, 저장 매체에 저장되거나 파일 서버에 저장되는 인코딩된 비디오 데이터에 포함될 수 있다.

일부 구현 방식들에서, 목적지 장치(14)는 통합 디스플레이 장치 및 목적지 장치(14)와 통신하도록 구성된 외부 디스플레이 장치일 수 있는 디스플레이 장치(34)를 포함 할 수 있다. 디스플레이 장치(34)는 디코딩된 비디오 데이터를 사용자에게 디스플레이하며, 액정 디스플레이(LCD), 플라즈마 디스플레이(plasma display), 유기 발광 다이오드(OLED) 디스플레이 또는 다른 유형의 디스플레이 장치와 같은 다양한 디스플레이 장치 중의 임의의 하나를 포함할 수 있다.

비디오 인코더(20) 및 비디오 디코더(30)는 VVC, HEVC, MPEG-4, Part 10, AVC(Advanced Video Coding) 또는 이러한 표준들의 확장과 같은 독점적 또는 산업 표준들에 따라 동작할 수있다. 본 출원은 특정된 비디오 코딩/디코딩 표준에 제한되지 않고, 다른 비디오 코딩/디코딩 표준에 적용될 수 있음을 이해하여야 한다. 일반적으로, 소스 장치(12)의 비디오 인코더(20)는 이러한 현재 또는 미래의 표준 중 임의의 하나에 따라 비디오 데이터를 인코딩하도록 구성될 수 있음을 고려되어야 한다. 유사하게, 목적지 장치(14)의 비디오 디코더(30)는 이러한 현재 또는 미래의 표준 중 임의의 하나에 따라 비디오 데이터를 디코딩하도록 구성될 수 있음을 일반적으로 고려되어야 한다.

비디오 인코더(20) 및 비디오 디코더(30) 각각은 하나 또는 그 이상의 마이크로 프로세서, 디지털 신호 프로세서(digital signal processor, DSP), 주문형 집적 회로(application specific integrated circuit: ASIC), 현장 프로그래머블 게이트 어레이(Field Programmable Gate Array: FPGA), 이산 로직과 같은 다양한 적합한 인코더 회로, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 조합 중의 어느 하나로 구현할 수 있다. 부분적으로 소프트웨어로 구현되는 경우, 전자 장치는 소프트웨어에 대한 명령어를 적절한 비-일시적 컴퓨터 판독 가능 매체에 저장하고 하나 또는 그 이상의 프로세서를 사용하여 하드웨어에서 명령어를 실행하여 본 개시에서 개시한 비디오 코딩/디코딩 동작을 수행할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30) 각각은 하나 또는 그 이상의 인코더 또는 디코더에 포함될 수 있으며, 이들은 결합된 인코더/디코더(CODEC)의 일부분으로 각각의 장치에 직접될 수있다.

도 2는 본 출원에서 설명한 일부 구현 방식들에 따른 예시적인 비디오 인코더(20)를 도시하는 블록도이다. 비디오 인코더(20)는 비디오 프레임 내의 비디오 블록들의 인트라 및 인터 예측 코딩을 수행할 수 있다. 인트라 예측 코딩은 공간적 예측에 의존하여 주어진 비디오 프레임 또는 픽처 내의 비디오 데이터의 공간 중복성을 줄이거나 제거할 수 있다. 인터 예측 코딩은 시간적 예측에 의존하여 비디오 시퀀스의 인접한 비디오 프레임 또는 픽처 내의 비디오 데이터의 시간 중복성을 줄이거나 제거할 수 있다.

도 2에 도시된 바와 같이, 비디오 인코더(20)는 비디오 데이터 메모리(40), 예측 처리부(41), 디코딩 픽처 버퍼(DPB, 64), 가산기(50), 변환 처리부(52), 양자화부(54) 및 엔트로피 인코딩부(56)을 포함한다. 예측 처리부(41)는 움직임 추정부(42), 움직임 보상부(44), 분할부(45), 인트라 예측 처리부(46) 및 인트라 블록 복사(BC)부(48)를 포함한다. 일부 구현 방식들에서, 비디오 인코더(20)는 또한 비디오 블록 재구성을 위한 역 양자화부(58), 역변환 처리부(60) 및 가산기(62)를 포함한다. 디-블록킹 필터(도시되지 않음)는 가산기(62)와 DPB(64) 사이에 위치하여 블록 경계를 필터링하여 재구성된 비디오로부터 블록성 아티팩트(blockiness artifacts)를 제거할 수 있다. 디-블로킹 필터외에, 인 루프 필터(도시되지 않음) 또한 가산기(62)의 출력을 필터링하기 위하여 사용될 수 있다. 비디오 인코더(20)는 고정된 또는 프로그래밍 가능한 하드웨어 유닛의 형태로 구성되거나 하나 또는 그 이상의 도시된 고정된 또는 프로그래밍 가능한 하드웨어 장치에 분할될 수 있다.

비디오 데이터 메모리(40)는 비디오 인코더(20)의 구성 요소들에 의해 인코딩될 비디오 데이터를 저장할 수 있다. 비디오 데이터 메모리(40) 중의 비디오 데이터는 예를 들어 비디오 소스(18)로부터 획득될 수 있다. DPB(64)는 비디오 인코더(20)가 비디오 데이터를(예를 들어, 인트라 또는 인터 예측 코딩 모드에서) 인코딩하기 위하여 사용되는 기준 비디오 데이터를 저장하는 버퍼이다. 비디오 데이터 메모리(40) 및 DPB(64)는 다양한 메모리 장치들 중의 어느 하나에 의해 형성될 수 있다. 다양한 예에서, 비디오 데이터 메모리(40)는 비디오 인코더(20)의 다른 구성 요소들과 함께 온칩(on-chip) 되거나, 이러한 구성 요소들에 대하여 오프 칩(off-chip)될 수있다.

도 2에 도시된 바와 같이, 비디오 데이터를 수신 후, 예측 처리부(41) 내의 분할부(45)는 비디오 데이터를 비디오 블록들로 분할(partitioning)한다. 한편, 이러한 분할은 비디오 데이터와 연관된 쿼드-트리 구조와 같은 미리 설정된 분할 구조에 따라 비디오 프레임을 슬라이스(slice), 타일(tile) 또는 다른 더 큰 코딩 단위(coding unit: CU)로 분할하는 것을 포함할 수 있다. 비디오 프레임은 복수의 비디오 블록들(또는 타일이라고 하는 비디오 블록들의 세트)로 분할될 수 있다. 예측 처리부(41)는 오차 결과(예를 들어, 코딩 레이트 및 왜곡 레벨)에 기초하여 현재 비디오 블록에 대한 복수의 인트라 예측 코딩 모드들 중 하나 또는 복수의 인터 예측 코딩 모드들 중 하나와 같은 복수의 가능한 예측 코딩 모드들 중 하나를 선택할 수 있다. 예측 처리부(41)는 처리 결과인 인트라 또는 인터 예측 코딩된 블록을 가산기(50)에 제공하여 잔여 블록을 생성하고, 가산기(62)에 제공하여 인코딩된 블록을 재구성하여 추후에 기준 프레임의 일부로서 사용할 수 있다. 한편, 예측 처리부(41)는 움직임 벡터, 인트라-모드 지시자(indicator), 분할 정보(partition information) 및 기타 이러한 신택스 정보와 같은 신택스 요소들을 엔트로피 인코딩부(56)에 제공할 수 있다.

현재 비디오 블록에 대한 적절한 인트라 예측 코딩 모드를 선택하기 위하여, 예측 처리부(41) 내의 인트라 예측 처리부(46)는 코딩될 현재 블록과 동일한 프레임 내의 하나 또는 그 이상의 인접한 블록에 대하여 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간 예측을 제공할 수 있다. 예측 처리부(41) 내의 움직임 추정부(42) 및 움직임 보상부(44)는 하나 또는 그 이상의 기준 프레임 중의 하나 또는 그 이상의 예측 블록에 대한 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 예측을 제공할 수 있다. 비디오 인코더(20)는 복수의 코딩 패스(coding passes)를 수행하여, 예를 들어, 비디오 데이터의 각 블록에 대한 적절한 코딩 모드를 선택할 수있다.

일부 구현 방식들에서, 움직임 추정부(42)는 비디오 프레임 시퀀스 내의 미리 결정된 패턴에 따라 움직임 벡터를 생성하는 것을 통하여 현재 비디오 프레임에 대한 인터 예측 모드를 확정하며, 상기 움직임 벡터는 기준 비디오 프레임 내의 예측 블록에 대한 현재 비디오 프레임 내의 비디오 블록의 예측 단위(prediction unit: PU)의 변위를 기리킬 수 있다. 움직임 추정부(42)에 의해 수행되는 움직임 추정은 비디오 블록들의 움직임을 추정하는 움직임 벡터들을 생성하는 과정이다. 예를 들어, 움직임 벡터는, 현재 프레임(또는, 기타 코딩된 단위)내의 코?되고 있는 현재 블록에 대한 기준 프레임(또는, 기타 코딩된 유닛) 내의 예측 블록에 대한 현재 비디오 프레임 또는 픽처 내의 비디오 블록의 PU의 변위을 가리킬 수 있다. 미리 정해진 패턴은 시퀀스의 비디오 프레임을 P 프레임 아니면 B 프레임으로 지정할 수 있다. 인트라 BC 부(48)는 인터 예측을 위한 움직임 추정부(42)의 움직임 벡터들의 결정과 유사한 방식으로 인트라 BC 코딩을 위한 벡터들(예를 들어 블록 벡터들)을 확정할 수 있거나, 움직임 추정부(42)를 이용하여 블록 벡터를 확정할 수있다.

예측 블록은 픽셀 차이 측면에서 코딩될 비디오 블록의 PU와 제일 근접하는 것으로 간주되는 기준 프레임의 블록으로, 필섹 차이는 절대 차이의 합(sum of absolute difference: SAD), 제곱 차이의 합(sum of square difference: SSD) 또는 기타 차이 메트릭에 의해 결정될 수 있다. 일부 구현 방식들에서, 비디오 인코더(20)는 DPB(64)에 저장된 기준 프레임들의 서브-정수 픽셀 위치들에 대한 값들을 계산할 수 있다. 예를 들어, 비디오 인코더(20)는 기준 프레임의 1/4 픽셀 위치, 1/8 픽셀 위치 또는 기타 분수 픽셀 위치의 값들을 보간할 수 있다. 따라서, 움직임 추정부(42)는 전체 픽셀 위치 및 분수 픽셀 위치에 대한 움직임 검색을 수행하고 분수 픽셀 정밀도로 움직임 벡터를 출력 할 수 있다.

움직임 추정부(42)는 기준 프레임의 예측 블록의 위치와 PU의 위치를 비교하여 인터 예측 코딩된 프레임 내의 비디오 블록의 PU에 대한 움직임 벡터를 계산하되, 상기 기준 프레임은 DPB(64)에 저장된 하나 또는 그 이상의 기준 프레임을 각각 식별하는 제 1 기준 프레임 리스트(List 0)또는 제2 기준 프레임 리스트(List 1)로부터 선택될 수 있다. 움직임 추정부(42)는 계산된 움직임 벡터를 움직임 보상부(44)로 전송하고, 다음 엔트로피 인코딩부(56)로 전송한다.

움직임 보상부(44)에 의해 수행되는 움직임 보상은, 움직임 추정부(42)가 결정한 움직임 벡터에 기초하여 예측 블록을 페치(fetch)하거나 생성하는 것을 포함할 수 있다. 현재 비디오 블록의 PU에 대한 움직임 벡터를 수신하면, 움직임 보상부(44)는 기준 프레임 리스트들 중의 하나에서 움직임 벡터가 가리키는 예측 블록을 찾고, DPB(64)로부터 예측 블록을 검색하고, 예측 블록을 가산기(50)로 전달할 수 있다. 다음, 가산기(50)는 코딩되고 있는 현재 비디오 블록의 픽셀 값으로부터 움직임 보상부(44)가 제공한 예측 블록의 픽셀 값을 감산하는 것을 통하여 잔여 비디오 블록의 픽셀 차이 값을 형성할 수 있다. 잔여 비디오 블록을 형성하는 픽셀 차이 값은 루마 또는 크로마 차이 성분 또는 양자를 포함할 수 있다. 또한, 움직임 보상부(44)는 비디오 디코더(30)가 비디오 프레임의 비디오 블록을 디코딩할 경우에 사용하는 비디오 프레임의 비디오 블록과 연관된 신택스 요소들을 생성 할 수 있다. 신택스 요소들은, 예를 들어, 예측 블록을 식별하기 위하여 사용되는 움직임 벡터들을 정의하는 신택스 요소들, 예측 모드를 가리키는 임의의 플래그, 또는 본 명세서에서 설명된 임의의 다른 신택스 정보를 포함 할 수 있다. 움직임 추정부(42) 및 움직임 보상부(44)는 고도로 직접될 수 있으나, 개념적 목적을 위해 별도로 도시되어 있다.

일부 구현 방식들에서, 인트라 BC부(48)는 움직임 추정부(42) 및 움직임 보상부(44)과 관련하여 위에서 설명한 것과 유사한 방식으로 벡터들을 생성하고 예측 블록들을 페치(fetch)할 수 있지만, 이러한 예측 블록들은 코딩되고 있는 현재 블록과 같은 프레임 내에 있으며, 벡터들은 움직임 벡터가 아닌 블록 벡터라 한다. 구체적으로, 인트라 BC부(48)는 현재 블록을 인코딩하기 위하여 사용하는 인트라 예측 모드를 결정할 수 있다. 일부 예들에서, 인트라 BC부(48)는 예를 들어 각각의 인코딩 패스 동안 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수 있고, 레이트-왜곡 분석을 통해 그들의 성능을 테스트할 수 있다. 다음으로, 인트라 BC부(48)는 다양한 테스트된 인트라 예측 모드들 중에서 적절한 인트라 예측 모드를 선택하여 사용하고 그에 따른 인트라 모드 식별자를 생성할 수 있다. 예를 들어, 인트라 BC부(48)는 테스트된 다양한 인트라 예측 모드들에 대한 레이트-왜곡 분석들(rate-distortion analysis)을 이용하여 레이트-왜곡 값들(rate-distortion value)을 계산할 수 있고, 테스트된 모드들 중 최적의 레이트-왜곡 특성을 갖는 인트라-예측 모드를 적절한 인트라 예측 모드로 선택하여 사용할 수 있다. 일반적으로, 레이트 왜곡 분석은 인코딩된 블록과 인코딩된 블록을 생성하기 위하여 인코딩되는 원래의 인코딩되지 않은 블록 사이의 왜곡(또는 오차)의 양 및 인코딩된 블록을 생성하기 위한 비트율(즉, 비트 수)을 결정한다. 인트라 BC부(48)는 다양한 인코딩된 블록들에 대한 왜곡(distortion) 및 레이트로부터 비율을 계산하여 어느 인트라 예측 모드가 블록에 대하여 최적의 레이트-왜곡 값을 가리키는지를 결정할 수 있다.

다른 예들에서, 인트라 BC부(48)는 전체적으로 또는 부분적으로 움직임 추정부(42) 및 움직임 보상부(44)를 사용하여 본 명세서에서 설명 된 구현 방식들에 따른 인트라 BC 예측을 위한 기능들을 수행 할 수 있다. 두 경우 모두, 인트라 블록 복사(block copy)에 대하여, 예측 블록은 절대 차이의 합(SAD), 제곱 차이(SSD)의 합 또는 다른 차이 메트릭에 의해 결정되는 픽셀 차이 면에서 코딩될 블록과 밀접하게 매칭되는 것으로 간주되는 블록일 수 있으며, 예측 블록의 식별은 서브-정수 픽셀 위치에 대한 값의 계산을 포함할 수 있다.

예측 블록이 인트라 예측에 따라 동일한 프레임 또는 인터 예측에 따라 다른 프레임으로부터 생성되는 것과 관련 없이, 비디오 인코더(20)는 코딩되는 현재 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성하는 것을 통하여, 잔여 비디오 블록을 형성할 수 있다. 잔여 비디오 블록을 형성하는 픽셀 차이 값들은 루마(luma) 및 크로마(chroma) 성분 차이를 모두 포함할 수 있다.

위에서 설명한 움직임 추정부(42) 및 움직임 보상부(44)에 의해 수행되는 인터 예측 또는 인트라 BC부(48)에 의해 수행되는 인트라 블록 복사 예측에 대한 대안으로서, 인트라 예측 처리부(46)는 현재 비디오 블록을 인트라 예측할 수 있다. 구체적으로, 인트라 예측 처리부(46)는 현재 블록을 인코딩하기 위해 사용할 인트라 예측 모드를 결정할 수있다. 이를 위하여, 인트라 예측 처리부(46)는 예를 들어 각각의 인코딩 패스 동안 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수 있고, 인트라 예측 처리부(46)(또는 일부 예들에서 모드 선택부)는 테스트된 인트라 예측 모드들로부터 적절한 인트라 예측 모들를 선택하여 사용할 수 있다. 인트라 예측 처리부(46)는 블록에 대해 선택한 인트라 예측 모드를 가리키는 정보를 엔트로피 인코딩부(56)에 제공할 수 있다. 엔트로피 인코딩부(56)는 선택된 인트라-예측 모드를 가리키는 정보를 비트스트림에 인코딩할 수있다.

예측 처리부(41)가 인터 예측 또는 인트라 예측을 통해 현재 비디오 블록에 대한 예측 블록을 결정한 후, 가산기(50)는 현재 비디오 블록으로부터 예측 블록을 감산하여 잔여 비디오 블록(residual video block)을 형성한다. 잔여 블록 내의 잔여 비디오 데이터는 하나 또는 그 이상의 변환 단위(TU)에 포함될 수 있으며, 변환 처리부(52)에 제공된다. 변환 처리부(52)는 이산 코사인 변환(DCT) 또는 개념적으로 유사한 변환과 같은 변환을 사용하여 잔여 비디오 데이터를 잔여 변환 계수로 변환한다.

변환 처리부(52)는 얻은 변환 계수들을 양자화부(54)에 전송할 수 있다. 양자화부(54)는 변환 계수들을 양자화하여 비트 레이트를 더 감소할 수 있다. 또한, 양자화 프로세스는 계수들의 일부 또는 전부와 관련된 비트 깊이(bit depth)를 감소할 수 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 수정될 수 있다. 일부 예들에서, 양자화부(54)는 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수 있다. 또는, 엔트로피 인코딩부(56)가 상기 스캔을 수행할 수 있다.

양자화한 다음, 엔트로피 인코딩부(56)은 예를 들어, 컨텍스트 적응형 가변 길이 코딩(context adaptive variable length coding: CAVLC), 컨텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding: CABAC), 신택스 기반 컨텍스트 적응형 이진 산술 코딩(syntax-based context-adaptive binary arithmetic coding: SBAC), 확률 간격 분할 엔트로피(probability interval partitioning entropy: PIPE) 코딩 또는 다른 엔트로피 인코딩 방법 또는 기술을 사용하여 양자화된 변환 계수들을 비디오 비트스트림으로 엔트로피 인코딩한다. 인코딩된 비트스트림은 비디오 디코더(30)로 전송되거나, 저장 장치(32)에 저장되어 추후에 비디오 디코더(30)로 전송되거나 또는 비디오 디코더(30)에 의하여 검색될 수 있다. 엔트로피 인코딩부(56)는 또한 코딩되는 현재 비디오 프레임에 대한 움직임 벡터들 및 다른 신택스 요소들을 엔트로피 인코딩할 수 있다.

역 양자화부(58) 및 역변환 처리부(60)는 다른 비디오 블록들의 예측을 위한 기준 블록을 생성하기 위하여, 각각 역 양자화 및 역변환을 적용하여 픽셀 도메인에서 잔여 비디오 블록을 재구성할 수 있다. 위에서 설명한 바와 같이, 움직임 보상부(44)는 DPB(64)에 저장된 프레임들의 하나 또는 그 이상의 기준 블록으로부터 움직임 보상된 예측 블록을 생성할 수 있다. 움직임 보상부(44)는 또한 하나 또는 그 이상의 보간 필터를 예측 블록에 적용하여 움직임 추정에 사용하기 위한 서브-정수 픽셀 값들을 산출할 수 있다.

가산기(62)는 재구성된 잔여 블록과 움직임 보상부(44)에 의해 생성된 움직임 보상된 예측 블록을 가산하여 DPB(64)에 저장하기 위한 기준 블록을 생성할 수 있다. 다음, 기준 블록은 인트라 BC부(48), 움직임 추정부(42), 움직임 보상부(44)에 의하여 예측 블록으로 사용되어 후속 비디오 프레임 내의 다른 비디오 블록을 인터 예측할 수 있다.

도 3은 본 출원의 일부 구현 방식들에 따른 예시적인 비디오 디코더(30)를 도시하는 블록도이다. 비디오 디코더(30)는 비디오 데이터 메모리(79), 엔트로피 디코딩부(80), 예측 처리부(81), 역 양자화부(86), 역변환 처리부(88), 가산기(90) 및 DPB(92)를 포함한다. 예측 처리부(81)는 움직임 보상부(82), 인트라 예측부(84) 및 인트라 BC부(85)를 더 포함한다. 비디오 디코더(30)는 일반적으로 도 2와 관련하여 비디오 인코더(20)에 대하여 위에서 설명한 인코딩 프로세스와 반대인 디코딩 프로세스를 수행할 수 있다. 예를 들어, 움직임 보상부(82)는 엔트로피 디코딩부(80)로부터 수신된 움직임 벡터들에 기초하여 예측 데이터를 생성할 수 있고, 인트라 예측부(84)는 엔트로피 디코딩부(80)로부터 수신된 인트라 예측 모드 지시자들에 기초하여 예측 데이터를 생성 할 수있다.

일부 예들에서, 비디오 디코더(30)의 구성들은 본 출원의 구현 방식들을 구현하도록 기능들을 수행할 수 있다. 또한, 일부 예들에서, 본 개시의 구현 방식들을 구현하도록 비디오 디코더(30)의 구성들을 하나 또는 그 이상으로 분할되어 구현될 수 있다. 예를 들어, 인트라 BC부(85)는 본 출원의 구현 방식들을 단독으로 수행하거나, 움직임 보상부(82), 인트라 예측부(84) 및 엔트로피 디코딩부(80)와 같은 비디오 디코더(30)의 다른 부분들과 조합하여 수행할 수 있다. 일부 예들에서, 비디오 디코더(30)는 인트라 BC부(85)를 포함하지 않을 수 있고, 인트라 BC부(85)의 기능은 움직임 보상부(82)와 같은 예측 처리부(81)의 다른 부분들에 의하여 수행할 수 있다.

비디오 데이터 메모리(79)는 인코딩된 비디오 비트스트림과 같은 비디오 디코더(30)의 다른 부분들에 의해 디코딩될 비디오 데이터를 저장할 수 있다. 비디오 데이터 메모리(79)에 저장된 비디오 데이터는 예를 들어 저장 장치(32)로부터 획득하거나, 비디오 데이터의 유선 또는 무선 네트워크 통신을 통하여 획득하거나, 또는 물리적 데이터 저장 매체(예를 들어: 플래시 드라이브 또는 하드 디스크)에 액세스하는 것을 통하여 카메라와 같은 로컬 비디오 소스로부터 획득할 수 있다. 비디오 데이터 메모리(79)는 인코딩된 비디오 비트스트림의 인코딩된 비디오 데이터를 저장하는 코딩 픽처 버퍼(coded picture buffer: CPB)를 포함할 수 있다. 비디오 디코더(30)의 디코딩 픽처 버퍼(Decoded picture buffer: DPB)(92)는 (예를 들어, 인트라 또는 인터 예측 코딩 모드에서) 비디오 디코더(30)가 비디오 데이터를 디코딩하는데 사용하기 위한 기준 비디오 데이터를 저장할 수 있다. 비디오 데이터 메모리(79) 및 DPB(92)는 SDRAM, MRAM, RRAM을 포함하는 DRAM과 같은 다양한 메모리 장치 또는 다른 유형의 메모리 장치 중의 어느 하나로 형성될 수 있다. 설명을 위해, 비디오 데이터 메모리(79) 및 DPB(92)는 도3에서 비디오 디코더(30)의 두 개의 별개의 부분으로 도시되었다. 그러나, 비디오 데이터 메모리(79) 및 DPB(92)는 동일한 메모리 장치 또는 별도의 메모리 장치에 의해 제공 될 수 있다는 것은 당업자에게 자명한 것이다. 일부 예들에서, 비디오 데이터 메모리(79)는 비디오 디코더(30)의 다른 부분들과 함께 온-칩(on-chip)일 수 있거나, 이러한 부분들과 오프-칩(off-chip)일 수 있다.

디코딩 프로세스 동안, 비디오 디코더(30)는 인코딩된 비디오 프레임의 비디오 블록들 및 연관된 신택스 요소들을 가리키는 인코딩된 비디오 비트스트림을 수신한다. 비디오 디코더(30)는 비디오 프레임 레벨 및/또는 비디오 블록 레벨에서 신택스 요소들을 수신할 수 있다. 비디오 디코더(30)의 엔트로피 디코딩부(80)는 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 움직임 벡터들 또는 인트라-예측 모드 지시자 및 기타 신택스 요소들을 생성할 수 있다. 다음, 엔트로피 디코딩부(80)는 움직임 벡터 및 다른 신택스 요소들을 예측 처리부(81)로 전달한다.

비디오 프레임이 인트라 예측 코딩(I) 프레임으로 코딩되거나 다른 유형의 프레임에서 인트라 코딩된 예측 블록에 대해 코딩 될 경우, 예측 처리부(81)의 인트라 예측부(84)는 시그널링된 인트라 예측 모드 및 현재 프레임의 이전에 디코딩된 블록들로부터의 기준 데이터에 기초하여 현재 비디오 프레임의 비디오 블록에 대한 예측 데이터를 생성할 수 있다.

비디오 프레임이 인터 예측 코딩(즉, B 또는 P)된 프레임으로 코딩 될 경우, 예측 처리부(81)의 움직임 보상부(82)는 엔트로피 디코딩부(80)로부터 수신된 움직임 벡터들 및 다른 신택스 요소들에 기초하여 현재 비디오 프레임의 비디오 블록에 대한 하나 또는 그 이상의 예측 블록을 생성한다. 각각의 예측 블록은 기준 프레임 리스트들 중 하나의 기준 프레임 리스트 내의 기준 프레임으로부터 생성될 수 있다. 비디오 디코더(30)는 DPB(92)에 저장된 기준 프레임들에 기초하여 디폴트 구성 기술들을 사용하여 기준 프레임 리스트들(List0 및 List1)을 생성할 수 있다.

일부 예들에서, 비디오 블록이 본 명세서에서 설명한 인트라 BC 모드에 따라 코딩 될 경우, 예측 처리부(81)의 인트라 BC부(85)는 엔트로피 디코딩부(80)로부터 수신된 블록 벡터들 및 다른 신택스 요소들에 기초하여 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 비디오 인코더(20)에 의해 정의된 현재 비디오 블록과 동일한 픽처의 재구성 영역 내에 포함될 수 있다.

움직임 보상부(82) 및/또는 인트라 BC부(85)는 움직임 벡터들 및 다른 신택스 요소들을 파싱하여 현재 비디오 프레임의 비디오 블록에 대한 예측 정보를 확정한 다음, 예측 정보를 사용하여 디코딩되는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 움직임 보상부(82)는 수신된 신택스 요소들 중 일부를 사용하여 비디오 프레임의 비디오 블록들의 코딩에 사용되는 예측 모드(예를 들어, 인트라 또는 인터 예측), 인터 예측 프레임 유형(예를 들어, B 또는 P), 프레임에 대한 기준 프레임 리스트들 중 하나 또는 그 이상에 대한 구성 정보, 프레임의 각 인터 예측 코딩된 비디오 블록에 대한 움직임 벡터들, 프레임의 각 인터 예측 코딩된 비디오 블록에 대한 인터 예측 상태, 및 현재 비디오 프레임의 비디오 블록들을 디코딩하기 위한 기타 정보를 확정할 수 있다.

유사하게, 인트라 BC부(85)는 수신된 신택스 요소들 중 일부(예를 들어 플래그)를 사용하여, 현재 비디오 블록이 인트라 BC 모드를 사용하여 예측되었으며, 프레임의 어느 비디오 블록들이 재구성된 영역 내에 있으며 DPB(92)에 저장되어야 하는 구성 정보(construction information), 프레임의 각 인트라 BC 예측된 비디오 블록에 대한 블록 벡터들, 프레임의 각 인트라 BC 예측된 비디오 블록에 대한 인트라 BC 예측 상태 및 현재 비디오 프레임 내의 비디오 블록들을 디코딩하기 위한 기타 정보를 확정할 수 있다.

움직임 보상부(82)는 또한 기준 블록들의 서브-정수 픽셀에 대한 보간 값들을 계산하기 위해 비디오 블록들의 인코딩 동안 비디오 인코더(20)가 사용하는 보간 필터들를 사용하여 보간을 수행할 수 있다. 이 경우, 움직임 보상부(82)는 수신된 신택스 요소들로부터 비디오 인코더(20)가 사용하는 보간 필터들을 확정하고, 확정한 보간 필터들을 사용하여 예측 블록들을 생성할 수 있다.

역 양자화부(86)는 비디오 프레임의 각 비디오 블록에 대해 비디오 인코더(20)가 계산한 동일한 양자화 파라미터를 사용하여, 비트스트림 내에 제공되며 엔트로피 디코딩부(80)에 의하여 엔트로피 디코딩된 변환 계수들을 역 양자화하여 양자화 정도를 확정한다. 역 변환 처리부(88)는 픽셀 도메인에서 잔여 블록을 재구성하기 위하여, 역 변환(예를 들어, 역 DCT, 역 정수 변환 또는 개념적으로 유사한 역 변환 프로세스)을 변환 계수에 적용한다.

움직임 보상부(82) 또는 인트라 BC부(85)에서 벡터들 및 기타 신택스 요소들에 기초하여 현재 비디오 블록에 대한 예측 블록을 생성한 다음, 가산기(90)는 역 변환 처리부(88)에서 제공한 잔여 블록 및 움직임 보상부(82) 및 인트라 BC부(85)에 의해 생성된 대응하는 예측 블록을 가산하는 것을 통하여 현재 비디오 블록에 대한 디코딩된 비디오 블록을 재구성한다. 인-루프 필터(도시되지 않음)는 가산기(90)와 DPB(92) 사이에 위치되어 디코딩된 비디오 블록을 추가로 처리할 수 있다. 주어진 프레임 내의 디코딩된 비디오 블록들은 다음 비디오 블록들의 후속 움직임 보상에 사용되는 기준 프레임들을 저장한 DPB(92)에 저장된다. DPB(92) 또는 DPB(92)와 분리된 메모리 장치는 또한 디코딩된 비디오를 저장하여 도 1의 디스플레이 장치(34)와 같은 디스플레이 장치 상에 나중에 표시할 수 있다.

전형적인 비디오 코딩 프로세스에서, 비디오 시퀀스는 일반적으로 프레임들 또는 픽처들의 소정 순서의 세트를 포함한다. 각 프레임은 SL, SCb 및 SCr로 표시되는 3 개의 샘플 행렬들을 포함할 수 있다. SL은 루마 샘플들의 2 차원 행렬이다. SCb는 Cb 크로마 샘플들의 2 차원 행렬이다. SCr은 Cr 크로마 샘플들의 2 차원 행렬이다. 다른 경우에, 프레임은 단색일 수 있으므로, 루마 샘플들의 2 차원 행렬 하나만 포함할 수 있다.

도 4A에 도시된 바와 같이, 비디오 인코더(20)(또는 보다 구체적으로, 분할 유닛(45))는 먼저 프레임을 코딩 트리 유닛(coding tree unit, CTU)의 세트로 분할함으로써 프레임의 인코딩된 표현(representation)을 생성한다. 비디오 프레임은 좌측에서 우측 및 상측에서 하측으로 래스터 스캔 순서(raster scan order)로 순차적으로 정렬된 정수 수량의 CTU들을 포함할 수 있다. 각 CTU는 가장 큰 논리 코딩 단위이고, CTU의 너비와 높이는비디오 인코더(20)에 의해 시퀀스 파라미터 세트(sequence parameter set)으로시그널링되어, 비디오 시퀀스의 모든 CTU들은 128Х128, 64Х64, 32Х32 및 16Х16 중 하나인 동일한 크기를 갖는다. 그러나, 본 출원이 반드시 특정한 크기로 제한되는 것은 아니라는 점에 유의해야 한다. 도 4B에 도시된 바와 같이, 각 CTU는 루마 샘플들의 하나의 코딩 트리 블록(coding tree block, CTB), 크로마 샘플들의 두 개의 대응하는 코딩 트리 블록들 및 코딩 트리 블록들의 샘플들을 코딩하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 신택스 요소들은 인터 또는 인트라 예측, 인트라 예측 모드, 움직임 벡터, 및 기타 파라미터들을 포함하여 코딩된 픽셀 블록의 상이한 유형의 단위의 특성 및 비디오 시퀀스가 비디오 디코더(30)에서 재구성될 수 있는 방법을 설명한다. 모노크롬 픽처(monochrome picture)들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, CTU는 코딩 트리 블록의 샘플들을 코딩하기 위하여 사용되는 단일 코딩 트리 블록 및 신택스 요소들을 포함할 수 있다. 코딩 트리 블록은 샘플들의 N×N 블록일 수 있다.

더 훌륭한 성능을 달성하기 위해, 비디오 인코더 (20) 는 CTU의 코딩 트리 블록들에 대해 이진-트리 분할(binary-tree partitioning), 삼진- 트리 분할(ternary-tree partitioning), 쿼드-트리 분할(quad-tree partitioning) 또는 이들의 조합과 같은 트리 분할을 재귀적으로 수행하고 CTU를 더 작은 코딩 단위(CU)로 분할할 수 있다. 도 4C에 도시된 바와 같이, 64×64 CTU(400)는 먼저 각각 32×32의 블록 크기를 갖는 4개의 더 작은 CU들로 분할된다. 4개의 더 작은 CU들 중, CU(410)와 CU(420)는 블록 크기에 따라 각각 16×16의 4개의 CU로 분할된다. 2개의 16×16 CU들(430 및 440)은 블록 크기에 따라 각각 8×8의 4개의 CU들로 더 분할된다. 도 4D는 도 4C에 도시된 바와 같은 CTU(400)의 분할 프로세스의 최종 결과를 나타내는 쿼드-트리 데이터 구조를 도시하며, 쿼드 트리의 각각의 리프 노드는 32×32부터 8×8까지 범위의 대응하는 크기의 하나의 CU에 대응한다. 도 4B에 도시된 CTU와 유사하게, 각각의 CU는 루마 샘플들의 코딩 블록(CB) 및 동일한 크기의 프레임의 크로마 샘플들의 2개의 대응하는 코딩 블록들 및 코딩 블록의 샘플을 코딩하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 모노크롬 픽처들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, CU는 단일 코딩 블록 및 코딩 블록의 샘플들을 코딩하는 데 사용되는 신택스 구조들을 포함할 수 있다. 도 4C 및 4D에 도시된 쿼드-트리 분할은 단지 예시를 위한 것이며, 하나의 CTU는 쿼드/삼진/이진-트리 분할들을 기반으로 하는 다양한 로컬 특성에 적응하기 위해 CU들로 분할될 수 있다는 점에 유의해야 한다. 멀티-타입 트리 구조에서 하나의 CTU는 쿼드-트리 구조로 분할되고, 각각의 쿼드-트리 리프 CU는 이진 및 삼진-트리 구조로 더 분할될 수 있다. 도 4E에 도시된 바와 같이, 폭(W) 및 높이(H)를 갖는 코딩 블록에 대해 5가지 가능한 분할 타입, 즉, 쿼터너리(quaternary) 분할, 수평 이진 분할, 수직 이진 분할, 수평 삼진 분할 및 수직 삼진 분할이 있다.

일부 구현들에서, 비디오 인코더 (20) 는 CU 의 코딩 블록을 하나 혹은 그 이상의 M×N 예측 블록들(PB)로 더 분할할 수 있다. 예측 블록은 동일한 예측(인터 또는 인트라 예측)이 적용되는 샘플들의 직사각형(정사각형 또는 비 정사각형) 블록이다. CU의 예측 단위(PU)는 루마 샘플들의 예측 블록, 크로마 샘플들의 2개의 대응하는 예측 블록들, 및 예측 블록들을 예측하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 모노크롬 픽처들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, PU는 단일 예측 블록 및 예측 블록을 예측하기 위하여 사용되는 신택스 구조들을 포함할 수 있다. 비디오 인코더(20)는 CU의 각 PU의 루마 예측 블록, Cb 예측 블록, 및 Cr 예측 블록의 에측 루마 블록, 예측 Cb 블록 및 예측 Cr 블록을 생성할 수 있다.

비디오 인코더(20)는 PU에 대한 예측 블록들을 생성하기 위해 인트라 예측 또는 인터 예측을 사용할 수 있다. 비디오 인코더(20)가 PU의 예측 블록들을 생성하기 위해 인트라 예측을 사용하는 경우, 비디오 인코더(20)는 PU와 연관된 프레임의 디코딩된 샘플들에 기반하여 PU의 예측 블록들을 생성할 수 있다. 비디오 인코더(20)가 PU의 예측 블록들을 생성하기 위해 인터 예측을 사용하는 경우, 비디오 인코더(20)는 PU와 연관된 프레임이 아닌 하나 혹은 그 이상의 프레임들의 디코딩된 샘플들에 기반하여 PU의 예측 블록들을 생성할 수 있다.

비디오 인코더(20)가 CU의 하나 혹은 그 이상의 PU들의 예측 루마 블록, Cb 블록, 및 Cr 블록들을 생성한 후, 비디오 인코더(20)는, CU의 오리지널 루마 코딩 블록으로부터 CU의 예측 루마 블록들을 감산함으로써 CU에 대한 루마 잔여 블록을 생성하여 CU의 루마 잔여 블록의 각 샘플이 CU의 예측 루마 블록들 중 하나의 루마 샘플과 CU의 오리지널 루마 코딩 블록의 대응하는 샘플 사이의 차이를 나타내도록 할 수 있다. 이와 유사하게, 비디오 인코더(20)는, CU에 대한 Cb 잔여 블록 및 Cr 잔여 블록을 각각 생성하여 CU 의 Cb 잔여 블록의 각 샘플이 CU 의 예측 Cb 블록들 중 하나의 Cb 샘플과 CU의 오리지널 Cb 코딩 블록의 대응하는 샘플 사이의 차이를 나타내고CU 의 Cr 잔여 블록의 각 샘플이 CU 의 예측 Cr 블록들 중 하나의 Cr 샘플과 CU의 오리지널 Cr 코딩 블록의 대응하는 샘플 사이의 차이를 나타내도록 할 수 있다.

추가로, 도 4C에 도시된 바와 같이, 비디오 인코더(20)는 CU 의 루마, Cb 및 Cr 잔여 블록들을 하나 혹은 그 이상의 루마, Cb 및 Cr 변환 블록들로 분해하기 위해 쿼드-트리 분할을 사용할 수 있다. 변환 블록은 동일한 변환이 적용되는 샘플들의 직사각형(정사각형 또는 비 정사각형) 블록이다. CU의 변환 단위(TU)는 루마 샘플들의 변환 블록, 크로마 샘플들의 2개의 대응하는 변환 블록들 및 변환 블록 샘플들을 변환하기 위하여 사용되는 신택스 요소들을 포함할 수 있다. 따라서, CU의 각 TU는 루마 변환 블록, Cb 변환 블록, 및 Cr 변환 블록과 연관될 수 있다. 일부 예들에서, TU와 연관된 루마 변환 블록은 CU의 루마 잔여 블록의 서브-블록일 수 있다. Cb 변환 블록은 CU의 Cb 잔여 블록의 서브-블록일 수 있다. Cr 변환 블록은 CU의 Cr 잔여 블록의 서브-블록일 수 있다. 모노크롬 픽처들 또는 3개의 각각의 컬러 평면을 갖는 픽처들에서, TU는 단일 변환 블록 및 변환 블록의 샘플들을 예측하기 위하여 사용하는 신택스 구조들을 포함할 수 있다.

비디오 인코더 (20) 는 TU에 대한 루마 계수 블록을 생성하기 위해 TU의 루마 변환 블록에 하나 혹은 그 이상의 변환들을 적용할 수 있다. 계수 블록은 변환 계수들의 2차원 어레이일 수 있다. 변환 계수는 스칼라 양(scalar quantity)일 수 있다. 비디오 인코더(20)는 TU에 대한 Cb 계수 블록을 생성하기 위해 TU의 Cb 변환 블록에 하나 혹은 그 이상의 변환들을 적용할 수 있다. 비디오 인코더(20)는 TU에 대한 Cr 계수 블록을 생성하기 위해 TU의 Cr 변환 블록에 하나 혹은 그 이상의 변환들을 적용할 수 있다.

계수 블록(예를 들어, 루마 계수 블록, Cb 계수 블록 또는 Cr 계수 블록)을 생성한 후, 비디오 인코더(20)는 계수 블록을 양자화할 수 있다. 양자화는 일반적으로 변환 계수를 양자화하여 변환 계수를 나타내기 위하여 사용되는 데이터의 양을 가능한 감소시켜 추가적인 압축을 제공하는 프로세스를 나타낸다. 비디오 인코더(20)가 계수 블록을 양자화한 후, 비디오 인코더(20)는 양자화된 변환 계수들을 나타내는 신택스 요소들을 엔트로피 인코딩할 수 있다. 예를 들어, 비디오 인코더(20)는 양자화된 변환 계수들을 나타내는 신택스 요소들에 대해 컨텍스트-적응 이진 산술 코딩(Context-Adaptive Binary Arithmetic Coding, CABAC)을 수행할 수 있다. 마지막으로, 비디오 인코더(20)는 저장 장치(32)에 저장되거나 목적지 장치(14)로 전송되는, 코딩된 프레임들 및 관련 데이터의 표현을 형성하는 비트들의 시퀀스를 포함하는 비트스트림을 출력할 수 있다.

비디오 인코더(20)에 의해 생성된 비트스트림을 수신한 후, 비디오 디코더(30)는 비트스트림을 파싱(parsing)하여 비트스트림으로부터 신택스 요소들을 획득할 수 있다. 비디오 디코더(30)는 비트스트림으로부터 획득된 신택스 요소들에 적어도 부분적으로 기반하여 비디오 데이터의 프레임들을 재구성할 수 있다. 비디오 데이터를 재구성하는 프로세스는 일반적으로 비디오 인코더(20)에 의해 수행되는 인코딩 프로세스와 반대된다. 예를 들어, 비디오 디코더(30)는 현재 CU의 TU들과 연관된 계수 블록들에 대해 역변환을 수행하여 현재 CU의 TU들과 연관된 잔여 블록을 재구성할 수 있다. 비디오 디코더(30)는 또한 현재 CU의 PU들에 대한 예측 블록들의 샘플들을 현재 CU의 TU들의 변환 블록들의 대응하는 샘플들에 가산함으로써 현재 CU의 코딩 블록들을 재구성한다. 프레임의 각각의 CU에 대한 코딩 블록들을 재구성한 후, 비디오 디코더(30)는 프레임을 재구성할 수 있다.

전술한 바와 같이, 비디오 코딩은 주로 2개의 모드, 즉, 인트라-프레임 예측(또는 인트라-예측) 및 인터-프레임 예측(또는 인터-예측)을 사용하여 비디오 압축을 달성한다. IBC는 인트라-프레임 예측 또는 제3 모드로 간주될 수 있다는 점에 유의해야 한다. 두 모드 사이에서, 인터-프레임 예측은 참조 비디오 블록으로부터 현재 비디오 블록을 예측하기 위한 움직임 벡터들의 사용함으로 하여 인트라-프레임 예측보다 코딩 효율에 더 기여한다.

그러나, 비디오 데이터 캡처링(capturing) 기술의 지속적인 향상과 비디오 데이터의 세부 사항을 보존하기 위한 더욱 미세한 비디오 블록 크기로 인해, 현재 프레임에 대한 움직임 벡터들을 나타내기 위하여 필요한 데이터의 양도 크게 증가하였다. 이 문제를 극복하는 한 가지 방법은 공간적 및 시간적 도메인들 모두에서 인접한 CU 그룹이 예측 목적으로 유사한 비디오 데이터를 가질 뿐만 아니라 이러한 인접한 CU들 사이의 움직임 벡터들도 유사하다는 사실로부터 이익을 얻는 것이다. 따라서, 공간적으로 인접한 CU들 및/또는 시간적으로 동일 위치(co-located) CU들의 움직임 정보는 현재 CU의 "움직임 벡터 예측자(motion vector predictor, MVP)라고도 하는 공간적 및 시간적 상관 관계를 탐색하여 현재 CU의 움직임 정보(예를 들어, 움직임 벡터)의 근사치로 사용할 수 있다.

도 2와 관련하여 전술한 바와 같이 움직임 추정부(42)에 의해 결정된 현재 CU의 실제 움직임 벡터를 비디오 비트스트림으로 인코딩하는 대신에, 현재 CU의 움직임 벡터 예측자를 현재 CU의 실제 움직임 벡터로부터 감산하어 현재 CU에 대한 움직임 벡터 차이(MVD)를 생성한다. 이렇게 함으로써, 프레임의 각 CU에 대해 움직임 추정부(42)에 의해 결정된 움직임 벡터를 비디오 비트스트림으로 인코딩할 필요가 없고, 비디오 비트스트림에서 움직임 정보를 나타내기 위하여 사용되는 데이터의 양이 상당히 감소될 수 있다.

코드 블록의 인터-프레임 예측 동안 참조 프레임에서 예측 블록을 선택하는 프로세스와 유사하게, 비디오 인코더(20)와 비디오 디코더(30) 모두는 현재 CU의 공간적으로 인접하는 CU들 및/또는 시간적으로 동일 위치 CU들과 연관된 잠재적 후보 움직임 벡터를 사용하는 현재 CU에 대한 움직임 벡터 후보 리스트("머지 리스트"라고도 함)를 구성하고, 다음으로 현재 CU에 대한 움직임 벡터 예측자로서 움직임 벡터 후보 리스트로부터 하나의 멤버를 선택하기 위해, 비디오 인코더(20)와 비디오 디코더(30) 모두에 의해 일련의 룰이 채택될 필요가 있다. 이렇게 함으로써, 비디오 인코더(20)와 비디오 디코더(30) 사이에 움직임 벡터 후보 리스트 자체를 전송할 필요가 없고, 움직임 벡터 후보 리스트 내에서 선택된 움직임 벡터 예측자의 인덱스는 비디오 인코더(20) 및 비디오 디코더(30)가 현재 CU를 인코딩 및 디코딩하기 위해 움직임 벡터 후보 리스트 내에서 동일한 움직임 벡터 예측자를 사용하기에 충분하다.

일부 구현들에서, 각각의 인터-예측 CU는 움직임 벡터 후보 리스트를 구성하기 위한 인터("고급 움직임 벡터 예측(advanced motion vector prediction, AMVP)"로도 지칭됨), 스킵 및 머지를 포함하는 3개의 움직임 벡터 예측 모드들을 갖는다. 각각의 모드에서, 하나 혹은 그 이상의 움직임 벡터 후보는 후술되는 알고리즘에 따라 움직임 벡터 후보 리스트에 추가될 수 있다. 궁극적으로, 후보 리스트 중 하나는 비디오 인코더(20)에 의해 비디오 비트스트림으로 인코딩되거나 비디오 디코더(30)에 의해 비디오 비트스트림으로부터 디코딩될 인터-예측 CU의 최상의 움직임 벡터 예측자로 사용된다. 후보 리스트에서 최상의 움직임 벡터 예측자를 찾기 위해, 움직임 벡터 경쟁(motion vector competition, MVC) 방식이 도입되어 공간적 및 시간적 움직임 벡터 후보들을 포함하는 움직임 벡터들의 주어진 후보 세트, 즉 움직임 벡터 후보 리스트로부터 움직임 벡터를 선택한다.

공간적으로 인접하거나 시간적으로 동일-위치에 있는 CU들로부터 움직임 벡터 예측자 후보들을 도출하는 것 외에도, 움직임 벡터 예측자 후보들은 소위 말하는 "히스토리-기반 움직임 벡터 예측(history-based motion vector prediction, HMVP)" 테이블로부터 도출될 수도 있다. HMVP 테이블은 미리 정의된 수량의 움직임 벡터 예측자를 수용하며, 각각은 동일한 행의 CTU들(또는 때로는 동일한 CTU)의 특정 CU를 인코딩/디코딩하기 위하여 사용된다. 이러한 CU들의 공간적/시간적 근접성 때문에, HMVP 테이블의 움직임 벡터 예측자들 중 하나가 CTU들의 동일한 행 내에서 다른 CU들을 인코딩/디코딩하기 위하여 재사용되는 가능성이 높다. 따라서, 움직임 벡터 후보 리스트를 구성하는 과정에서 HMVP 테이블을 포함함으로써 더 높은 코딩 효율을 달성할 수 있다.

일부 구현들에서, HMVP 테이블은 고정된 길이(예를 들어, 5)를 가지며 준-선입선출(quasi-First-In-First-Out, FIFO) 방식으로 관리된다. 예를 들어, CU의 하나의 인터-코딩된(inter-coded) 블록을 디코딩할 때 CU에 대한 움직임 벡터를 재구성한다. 이러한 움직임 벡터가 후속 CU의 움직임 벡터 예측자가 될 수 있기 때문에 재구성된 움직임 벡터로 HMVP 테이블을 즉시 업데이트한다. HMVP 테이블을 업데이트할 때, (i)재구성된 움직임 벡터가 HMVP 테이블의 기존의 기타 움직임 벡터들과 다르거나, (ii) 재구성된 움직임 벡터가 HMVP 테이블의 기존 움직임 벡터들 중 하나와 동일한 것과 같은 두 가지 시나리오가 존재한다. 첫 번째 시나리오의 경우, HMVP 테이블이 가득 차 있지 않으면, 재구성된 움직임 벡터를 최신 움직임 벡터로서 HMVP 테이블에 추가한다. HMVP 테이블이 이미 가득 차 있으면, 재구성된 움직임 벡터를 최신 움직임 벡터로 추가하기 전에 HMVP 테이블에서 가장 오래된 움직임 벡터를 먼저 HMVP 테이블로부터 제거하여야 한다. 다시 말해서, 이 경우의 HMVP 테이블은 FIFO 버퍼와 유사하여 FIFO 버퍼의 선두에 위치하고 사전에 인터-코딩된 다른 블록과 관련된 움직임 정보가 버퍼 밖으로 시프트되어 재구성된 움직임 벡터가 HMVP 테이블의 최신 멤버로서 FIFO 버퍼의 꼬리 부분에 추가된다. 두 번째 시나리오의 경우, 재구성된 움직임 벡터를 HMVP 테이블에 최신 움직임 벡터로 추가하기 전에, 재구성된 움직임 벡터와 실질적으로 동일한 HMVP 테이블의 기존 움직임 벡터를 HMVP 테이블로부터 제거한다. HMVP 테이블도 FIFO 버퍼의 형태로 유지되는 경우, HMVP 테이블에서 동일한 움직임 벡터 이후의 움직임 벡터 예측자들은 제거된 움직임 벡터에 의해 남겨진 공간을 점유하기 위해 한 요소만큼 순방향으로 시프트되고 재구성된 움직임 벡터를 HMVP 테이블의 최신 멤버로서 FIFO 버퍼의 꼬리에 추가한다.

AMVP, 머지, 스킵 등과 같은 상이한 예측 모드들에서 HMVP 테이블의 움직임 벡터를 움직임 벡터 후보 리스트들에 추가할 수 있다. 현재 블록에 인접하지 않더라도 HMVP 테이블 중의 이전 인터-코드된 블록들의 움지임 정보를 보다 효율적인 움직임 벡터 예측을 위해 활용할 수 있음을 발견할 수 있다.

현재 CU에 대한 움직임 벡터들의 주어진 후보 세트 내에서 하나의 MVP 후보를 선택한 후, 비디오 인코더(20)는 대응하는 MVP 후보에 대한 하나 혹은 그 이상의 신택스 요소들을 생성하고 비디오 디코더(30)가 신택스 요소들을 사용하여 비디오 비트스트림으로부터 MVP 후보를 검색할 수 있도록 비디오 비트스트림으로 인코딩할 수 있다. 움직임 벡터 후보 세트를 구성하기 위하여 사용되는 특정 모드에 따라, 다른 모드(예를 들어, AMVP, 머지, 스킵 등)는 상이한 세트들의 신택스 요소들을 갖는다. AMVP 모드의 경우 신택스 요소들은 인터 예측 인디케이터(indicator)들(리스트 0, 리스트 1 또는 양-방향 예측(bi-directional prediction)), 참조 인덱스들, 움직임 벡터 후보 인덱스들, 움직임 벡터 예측 잔여 시그널 등을 포함한다. 스킵 모드 및 머지 모드의 경우 , 현재 CU가 코딩된 머지 인덱스에 의해 참조되는 인접 CU로부터 인터 예측 인디케이터들, 참조 인덱스들 및 움직임 벡터들을 포함하는 다른 신택스 요소들을 상속하기 때문에 머지 인덱스들만 비트스트림으로 인코딩된다. 스킵 코딩된 CU의 경우, 움직임 벡터 예측 잔여 시그널도 생략된다.

도 5는 본 개시의 일부 구현 방식들에 따른 인코딩/디코딩 될 현재 CU의 공간적으로 인접하고 시간적으로 동일-위치(co-located)에 있는 블록 위치들을 도시하는 블록도이다. 주어진 모드에 대해, 먼저 공간적으로 좌측 및 상측의 인접 블록 위치와 관련된 움직임 벡터들의 사용가능성과 시간적으로 동일-위치에 있는 블록 위치와 관련된 움직임 벡터들의 사용가능성을 체크하고, 다음 HMVP 테이블의 움직임 벡터들을 체크하여 움직임 벡터 예측(MVP) 후보 리스트를 구성한다. MVP 후보 리스트를 구성하는 과정에서,일부 중복된 MVP 후보들을 후보 리스트로부터 제거하고 필요한 경우 0-값 움직임 벡터를 추가하여 후보 리스트가 고정된 길이를 갖도록 한다(상이한 모드마다 상이한 고정 길이를 가질 수 있음). MVP 후보 리스트를 구성한 다음, 비디오 인코더(20)는 후보 리스트로부터 최적의 움직임 벡터 예측자를 선택하고 선택된 후보를 가리키는 대응하는 인덱스를 비디오 비트스트림으로 인코딩할 수 있다.

일부 실시예들에서, 후보 리스트(머지 후보 리스트로도 알려짐)는 다음의 5가지 유형의 후보들을 순서적으로 포함함으로써 구성된다:

1. 공간적으로 인접한 CU들의 공간 MVP(즉, 움직임 벡터 예측자)

2. 동일-위치 CU들의 임시 MVP

3. FIFO 테이블의 히스토리-기반 MVP

4. 페어와이즈(Pairwise) 평균화 MVP

5. 제로 MV들

일부 실시예들에서, 슬라이스 헤더에서 후보 리스트의 크기를 시그널링하고, 후보 리스트의 최대 허용 크기는 6(예를 들어, VVC에서)이다. 머지 모드의 각 CU 코드에 대하여, 절단된 단항 이진화(truncated unary binarization, TU)를 사용하여 최적의 머지 후보 인덱스를 인코딩한다. 머지 인덱스의 첫번째 빈(bin)은 컨텍스트(context)로 코딩하고 바이패스 코딩(bypass coding)은 다른 빈들에 사용된다. 본 개시의 다음 컨텍스트에서, 이러한 확장된 머지 모드는 그 개념이 HEVC에서 사용되는 머지 모드와 동일하기 때문에 일반 머지 모드(regular merge mode)라고도 한다.

도 5를 예로 들면, 후보 리스트의 길이가 2로 고정되어 있다고 가정하고, AMVP 모드에서 다음 단계를 순서대로 수행하여 현재 CU에 대한 움직임 벡터 예측자(Motion Vector Predictor, MVP) 후보 리스트를 구성할 수 있다.

1) 공간적으로 인접한 CU들에서 MVP 후보들 선택한다.

a) A0에서 시작하여 A1으로 끝나는 두 개의 좌측 공간적 인접 CU들 중 하나에서 최대 하나의 논-스케일링된(non-scaled) MVP 후보를 도출한다.

b) 이전 단계에서 좌측에서 논-스케일링된 MVP 후보가 사용 가능하지 않을 경우, A0에서 시작하여 A1으로 끝나는 두 개의 좌측 공간 인접 CU들 중 하나에서 최대 하나의 스케일링된(scaled) MVP 후보를 도출한다.

c) B0에서 시작하여 다음 B1으로, B2로 끝나는 상측의 3개의 공간적 인접 CU들 중 하나에서 최대 하나의 논-스케일링된 MVP 후보를 도출한다.

d) A0 및 A1를 사용할 수 없거나 인트라 모드들로 코딩된 경우, B0으로 시작하여, 다음 B1으로, B2로 끝나는 상측의 3 개의 공간적 인접 CU들 중 하나에서 최대 하나의 스케일링된 MVP 후보를 도출한다.

2) 이전 단계에서 두 개의 MVP 후보들이 발견되고 이들이 동일한 경우, MVP 후보 리스트에서 두 후보들 중 하나를 제거한다.

3) 시간적으로 동일-위치에 있는 CU들에서 MVP 후보들을 선택한다.

a) 이전 단계 이후의 MVP 후보 리스트에 2개의 MVP 후보들이 포함되어 있지 않을 경우, 시간적으로 동일-위치에 있는 CU들(예를 들어, T0)에서 최대 1개의 MVP 후보를 도출한다.

4) HMVP 테이블에서 MVP 후보들을 선택한다.

a) 이전 단계 이후의 MVP 후보 리스트에 2개의 MVP 후보가 포함되지 않을 경우, HMVP 테이블에서 최대 2개의 히스토리-기반 MVP를 도출한다.

5) 이전 단계 이후의 MVP 후보 리스트에 2개의 MVP 후보들이 포함되지 않을 경우, MVP 후보 리스트에 최대 2 개의 0-값 MVP를 추가한다.

상기와 같이 구성된 AMVP 모드 MVP 후보 리스트에는 두 개의 후보들만 있기 때문에, 이진 플래그(binary flag)와 같은 관련된 신택스 요소는 비트스트림으로 인코딩되어 후보 리스트 내의 두 개의 MVP 후보들 중 어느 것이 현재 CU의 디코딩에 사용되는지를 가리킬 수 있다.

일부 구현들에서, 스킵 또는 머지 모드 하에서 현재 CU에 대한 MVP 후보 리스트는 상기와 유사한 순서로 유사한 단계의 세트를 수행함으로써 구성할 수 있다. 스킵 또는 머지 모드에 대한 MVP 후보 리스트는 "페어-와이즈 머지 후보"라고 하는 하나의 특수한 유형의 머지 후보도 포함한다. 이전에 도출된 두 머지 모드 움직임 벡터 후보들의 MV를 평균화하여 페어-와이즈 머지 후보를 생성한다. 머지 MVP 후보 리스트의 크기(예를 들어, 1부터 6까지)를 현재 CU의 슬라이스 헤더에서 시그널링한다. 머지 모드의 각 CU에 대하여, 절단된 단항 이진화(TU)를 사용하여 최상의 머지 후보의 인덱스를 인코딩한다. 머지 인덱스의 첫 번째 빈은 컨텍스트로 코딩되고 바이패스 코딩은 다른 빈에 사용된다.

전술한 바와 같이, 히스토리-기반 MVP들을 공간적 MVP 및 시간적 MVP 이후에 AMVP-모드 MVP 후보 리스트 또는 머지 MVP 후보 리스트에추가할 수 있다. 이전에 인터-코딩된 CU의 움직임 정보를 HMVP 테이블에 저장하여 현재 CU에 대한 MVP 후보로 사용한다. HMVP 테이블은 인코딩/디코딩 프로세스에서 유지된다. 논-서브-블록 인터-코딩된 CU가 존재할 때마다, HMVP 테이블의 첫 번째 엔트리에 저장된 움직임 벡터 정보를 제거하고관련된 움직임 벡터 정보를 HMVP 테이블의 마지막 엔트리에 새로운 후보로 추가한다(HMVP 테이블이 이미 가득 차 있고 테이블에 관련된 움직임 벡터 정보의 동일한 복제본이 없는 경우). 대안적으로, 관련된 움직임 벡터 정보가 HMVP 테이블의 마지막 엔트리에 추가되기 전에 관련된 움직임 벡터 정보의 동일한 복제본을 테이블에서 제거한다.

위에서 언급한 바와 같이, 인트라 블록 카피(intra block copy, IBC)는 스크린 콘텐츠 자료의 코딩 효율을 상당히 향상시킬 수 있다. IBC 모드는 블록-레벨 코딩 모드로 구현되기 때문에, 비디오 인코더(20)에서 블록 매칭(block matching, BM)을 수행하여 각 CU에 대한 최적의 블록 벡터를 찾는다. 여기서, 블록 벡터는 현재 블록에서 현재 픽처 내에서 이미 재구성된 참조 블록으로의 변위를 가리키기 위하여 사용된다. IBC 모드는 인트라 또는 인터 예측 모드들 이외의 제3의 예측 모드로 취급한다.

CU 레벨에서, IBC 모드는 다음과 같이 IBC AMVP 모드 또는 IBC 스킵/머지 모드로서 시그널링될 수 있다:

-IBC AMVP 모드: CU의 실제 블록 벡터와 CU의 블록 벡터 후보들 중에서 선택된 CU의 블록 벡터 예측자 사이의 블록 벡터 차이(block vector difference, BVD)를 움직임 벡터 차이를 위에서 설명한 AMVP 모드하에서 인코딩되는 것과 동일한 방식으로 인코딩한다. 블록 벡터 예측 방법은 두 개의 블록 벡터 후보들을 예측자로 사용하는데, 하나는 좌측 인접한 블록 벡터이고, 다른 하나는 상측 인접한 블록 벡터이다(IBC 코딩된 경우). 인접한 블록 벡터 중 하나를 사용할 수 없는 경우, 디폴트(default) 블록 벡터를 블록 벡터 예측자로 사용된다. 블록 벡터 예측자 인덱스를 가리키기 위하여 이진 플래그를 시그널링한다. IBC AMVP 후보 리스트는 공간적 및 HMVP 후보들로 구성한다.

-IBC 스킵/머지 모드: 머지 후보 인덱스는 인접한 IBC 코딩된 블록들에서 머지 후보 리스트("머지 리스트" 또는 "후보 리스트"라고도 함) 중의 어느 블록 벡터 후보들이 현재 블록에 대한 블록 벡터를 예측하기 위하여 사용되는가를 가리키기 위하여 사용된다. IBC 머지 후보 리스트는 공간적, HMVP 및 페어와이즈 후보들로 구성한다.

도 6A 내지 도 6D는 본 개시의 일부 구현 방식들에 따른 현재 블록의 시간적 움직임 벡터 예측자들(temporal motion vector predictors, TMVPs) 또는 서브-블록의 서브-블록 시간적 움직임 벡터 예측자들(SbTMVPS)을 도출하는 단계를 도시하는 블록도이다.

일부 실시예들에서, 도 5와 관련하여 설명된 바와 같이, 단지 하나의 시간적 움직임 벡터 예측자(TMVP) 후보를 머지 후보 리스트에 추가한다. 첫 번째 플래그(sps_temporal_mvp_enabled_flag)를 픽처의 시퀀스 파라미터 세트(sequence parameter set, SPS)에서 시그널링하고 두 번째 플래그(slice_temporal_mvp_enabled_flag)를 당해 TMVP 후보가 인에이블(enabled) 또는 디세이블(disabled) 되었는지를 가리키기 위하여 슬라이스 헤더에서 시그널링한다. 특히, 당해 시간적 머지 후보의 도출에서, 참조 픽처 리스트에서 이전에 코딩된 픽처인 동일-위치 픽처의 MV들로부터 스케일링된 움직임 벡터를 도출한다. 시간적 움직임 후보의 도출에서, 슬라이스 헤더의 명시적 플래그(co-located_from_l0_flag)를 먼저 디코더에 전송하여 동일-위치의 픽처가 첫 번째 참조 프레임 리스트(List 0) 또는 두 번째 참조 프레임 리스트(List 1)에서 선택되었는지를 가리킨다. 시간적 움직임 후보를 도출하기 위한 동일 위치 픽처로서 사용된 리스트의 어느 픽처가 선택되었는지를 가리키기 위해 동일 위치 참조 인덱스(co-located_ref_idx)를 추가로 전송한다. 시간적 움직임 후보의 리스트 0(L0이라고도 함) 및 리스트 1(L1이라고도 함) MV들을 아래의 의사코드(pseudocode)에 따라 동일-위치의 픽처들의 동일-위치 블록들에서 서로 다른 리스트들의 MV들에 대해 미리 정의된 순서에 따라 독립적으로 도출한다.

TMVP를 위한 동일 위치 블록에서 시간적 MV를 도출하기 위한 의사 코드

시간적 움직임 후보의 LX MV(X는 0 또는 1일 수 있음)를 도출할 때, 동일-위치 블록의
LY MV(Y는 0 또는 1일 수 있음)를 선택하여 현재 블록에 대한 시간적 움직임 후보의
LX MV를도출한다. 동일-위치 블록의 선택된 LY MV를 다음의 단락에 설명한 대로 POC
거리에 따라 스케일링한다.

현재 픽처에 역방향 예측이 없는 경우(즉, 현재 픽처보다 POC가 더 큰 참조 픽처가
없음을 의미함)
동일-위치 블록의 LX MV를 먼저 선택한다. LX MV를 사용할 수 없을 경우,
L(1-X)를 선택한다.

그렇지 않으면(현재 픽처에 역방향 예측이 있음)
동일-위치 블록의 LN MV를 먼저 선택한다. N은 1-동일 위치 픽처 리스트(0
또는 1)로 설정한다.
LN MV를 사용할 수 없을 경우, L(1-N)를 선택한다.

시간적 머지 후보에 대한 스케일링된 움직임 벡터(602)는 도 6A의 점선으로 도시된 바와 같이 POC 거리 tb(604) 및 POC 거리 td(606)를 사용하여 동일-위치 블록의 선택된 움직임 벡터로부터 스케일링함으로써 획득한다. 여기서, tb는 현재 픽처의 참조 픽처(예를 들어, 현재 참조 608)와 현재 픽처(예를 들어, 현재 픽처(610)) 사이의 POC 차이로 정의되고, td는 동일-위치 픽처의 참조 픽처(동일 위치 참조(614))와 동일 위치 픽처(동일 위치 픽처(612)) 사이의 POC 차이로 정의된다. 시간적 머지 후보의 참조 픽처 인덱스는 0과 같도록 설정한다. 스케일링 프로세스의 실제 구현은 HEVC 사양에 설명되어 있다. B-슬라이스의 경우, 하나는 참조 픽처 리스트 0에 대한 것이고 다른 하나는 참조 픽처 리스트 1에 대한 것인 2개의 움직임 벡터들을 획득하고 결합하여 양방향 예측 머지 후보를 형성한다.

참조 프레임에 속하는 동일-위치 블록(예를 들어, 동일-위치 블록(620))에서, 도 6B에 도시된 바와 같이 후보 C₀ 및 C₁ 사이에서 시간적 후보에 대한 위치를 선택한다. C₀ 위치의 블록을 사용할 수 없거나, 인트라 코딩되거나, 현재 CTU 외부에 있는 경우, C₁ 위치를 사용한다. 그렇지 않으면, 당해 시간적 머지 후보의 도출에 C₀ 위치를 사용한다.

일부 코딩 표준(예를 들어, VVC 테스트 모델 1)들은 서브-블록-기반 시간적 움직임 벡터 예측(SbTMVP) 방법을 지원한다. HEVC의 시간적 움직임 벡터 예측(TMVP)과 유사하게, SbTMVP는 동일-위치 픽처의 움직임 필드를 사용하여 현재 픽처의 CU들에 대한 움직임 벡터 예측 및 머지 모드를 개선한다. TMVP에서 사용하는 동일-위치 픽처가 SbTMVP에 사용된다. SbTMVP는 다음의 두 가지 주요 측면에서 TMVP와 다르다.

1. TMVP는 CU 레벨에서 움직임을 예측하지만, SbTMVP는 서브-CU 레벨에서 움직임을 예측한다.

2. TMVP가 동일-위치 픽처의 동일-위치 블록에서 시간적 움직임 벡터들을 선택(동일-위치 블록은 현재 CU에 대해 우측 하단 또는 중앙 블록임)하지만, SbTMVP는 동일-위치 픽처로부터 선택된 시간적 움직임 정보에 움직임 시프트를 적용한다. 여기서, 움직임 시프트는 현재 CU의 공간적 인접 블록들 중의 하나의 움직임 벡터로부터 획득한다.

SbTMVP 프로세스는 도 6C-6D에 도시되어 있다. SbTMVP(도 6D의 SbTMVP(632))는 두 단계로 현재 CU(도 6D의 현재 CU(636))내의 서브-CU(예를 들어, 서브-CU(634))들의 움직임 벡터를 예측한다. 첫 번째 단계에서, 도 6C의 공간적 인접 A1(예를 들어, 공간적 인접(638))를 검사한다. A1이 참조 픽처로서 동일-위치 픽처(예를 들어, 도 6A의 동일-위치 픽처(612))를 사용하는 움직임 벡터를 갖는 경우, 당해 움직임 벡터를 적용할 움직임 시프트(예를 들어, 도 6D의 움직임 시프트(630))로 선택한다. 이러한 움직임 벡터가 식별되지 않은 경우, 움직임 시프트를 0-값 벡터(0, 0)로 설정한다. 블록 A1의 리스트 0 및 리스트 1 MV들 중 첫 번째 사용 가능한 움직임 벡터를 움직임 시프트로 설정한다. 이러한 방식으로, SbTMVP에서, 대응하는 블록을 TMVP와 비교하여 더 정확하게 식별할 수 있으며, 여기서 대응하는 블록(때로는 동일 위치 블록이라고 함)은 현재 CU에 대해 항상 우측 하단 또는 중앙 위치에 있을 수 있다. 움직임 시프트를 결정하기 위한 의사 코드는 다음과 같다.

VVC에서 SbTMVP에 대한 움직임 시프트를 확정하기 위한 의사 코드

bool terminate = false;
motion shift = 0;
for (currRefListId = 0; currRefListId < (CurrentSliceType == B_SLICE ? 2 : 1) && !terminate; currRefListId++)
{
currRefPicList = RefPicList(LDC ? (ColFromL0Flag ? currRefListId : 1 - currRefListId) : currRefListId);

if ((interDirA1 & (1 << currRefPicList)) && getRefPic(currRefPicList, refIdxA1[currRefListId]) == ColPic)
{
motion shift = mvA1[currRefListId];
terminate = true;
break;
}
}

상기 테이블에서 사용한 변수 및 함수는 다음과 같다.

- ColFromL0Flag: 동일-위치 픽처가 리스트 0 참조 픽처 리스트로부터 왔는지 여부를 가리키는 신택스

- LDC: 모든 참조 픽처들이 현재 픽처보다 작은 POC 값들을 갖는지 여부를 가리킴

- CurrentSliceType: 현재 슬라이스(픽처)의 유형

- count: 이미 도출된 머징 후보들의 사용 가능한 수

- interDirA1: N번째 머징 후보의 interDir(1:L0, 2:L1 또는 3:Bi)

- refIdxA1[0]: N번째 머징 후보의 L0 움직임 정보(예를 들어, MV, 참조 인덱스)

- refIdxA1[1]: N번째 머징 후보의 L1 움직임 정보(예를 들어, MV, 참조 인덱스)

- getRefPic(M,I):참조 픽처 리스트 M에서 I와 동일한 참조 인덱스를 갖는 참조 픽처를 가져오는 함수.

두 번째 단계에서, 단계 1에서 식별한 움직임 시프트를 적용하여(즉, 현재 블록의 좌표에 추가됨) 도6D에 도시된 바와 같이 동일 위치 픽처로부터 서브-CU-레벨 움직임 정보(움직임 벡터들 및 참조 인덱스들)를 획득한다. 도 6D의 예에서는 움직임 시프트가 블록 A1의 움직임으로 설정되어 있다고 가정한다. 실제 구현에서는, 움직임 시프트는 블록 A1, A2, B1 또는 B2의 움직임 중 하나로 설정될 수 있다.

먼저, 대표적 서브-CU를 선택하고, 당해 대표적 서브-CU의 대응하는 블록의 움직임 정보를 디폴트 움직임 정보로 사용한다. 기존 SbTMVP 방식에서는, 현재 CU의 중앙 위치의 우측 하단에 위치한 서브-CU를 대표적 서브-CU로 선택한다. 대표적 서브-CU의 대응하는 블록으로부터 유효한 움직임 정보를 디폴트 움직임 정보로 도출할 수 없을 경우, SbTMVP 후보는 사용 불가능한 것으로 간주한다. 디폴트 움직임 정보를 사용할 수 있을 경우, 다음 단계로 이동하여 현재 CU 내의 각 서브-CU에 대한 움직임 정보를 도출한다. 임의의 서브-CU의 대응하는 블록에 대해 사용 가능한 움직임 정보가 없을 때마다,디폴트 움직임 정보는 당해 서브-CU에 대해 도출한 시간적 움직임으로 사용된다.

그 다음, 각각의 서브-CU에 대하여, 동일-위치 픽처 내의 대응하는 블록(중앙 샘플을 커버하는 가장 작은 움직임 그리드(grid))의 움직임 정보를 서브-CU에 대한 움직임 정보를 도출하기 위하여 사용한다. 동일-위치 서브-CU의 움직임 정보를 식별한 후, HEVC의 TMVP 프로세스와 유사한 방식으로 현재 서브-CU의 움직임 벡터들 및 참조 인덱스들로 변환하며, 여기서 시간적 움직임 스케일링을 적용하여 시간적 움직임 벡터들의 참조 픽처들을 현재 CU의 참조 픽처들과 정렬한다.

현재 설계에서는, 동일-위치 CTU내의 움직임 필드와 동일-위치 픽처 내의 동일 위치 CTU의 우측에 있는 하나의 열만이 각 CU를 위한 SbTMVP 및 TMVP 도출에 사용될 수 있음에 유의해야 한다. 도 7에 도시된 바와 같이, 동일-위치 CTU 내의 움직임 정보와 동일-위치 CTU의 우측에 있는 하나의 열의 움직임 정보(CTU2는 이 예에서 현재 CU의 동일 위치 CTU임)만이 SbTMVP 및 TMVP에 대한 시간적 mv 도출에 사용된다. 이하에서는 설명의 편의를 위해 당해 동일-위치 CTU와 하나의 열을 SbTMVP/TMVP 도출을 위한 "유효 영역"으로 지칭한다. 이러한 맥락에서, 서브-CU의 동일-위치 픽처 내의 대응하는 N×N 블록이 유효 영역 외부에 위치할 때마다 대응하는N×N 블록을 동일-위치 CTU 내에 위치한 대체 블록으로 교체한다. 대체 N×N 블록의 위치는 아래의 수식을 사용하여 대응하는N×N 블록의 원래 위치를 유효 영역 내에 위치하도록 클리핑(clipping)하여 도출한다. 아래의 수식(각 서브-CU에 대한 위치 클리핑 프로세스)에서, CurPicWidthInSamplesY 및 CurPicHeightInSamplesY는 코딩된 픽처의 너비와 높이이고, CTUWidthInSamplesX 및 CTUWidthInSamplesY는 CTU의 너비와 높이이며, xCtb 및 yCtb는 동일-위치 CTU의 좌측 상단 샘플의 수평 및 수직 위치이다. xColCtrCb 및 yColCtrCb는 서브-CU의 대표적 샘플의 수평 및 수직 위치이고, MotionShiftX 및 MotionShiftY는 각각 움직임 시프트의 x 및 y 성분이다. Clip3(x,y,z) 함수와 Min(x,y) 함수는 아래와 같이 정의한다.

Clip3( x, y, z ) =

Min( x, y ) =

동일 위치 픽처내 동일 위치 블록의 위치(　xColCb,　yColCb　) 다음과 같이 도출한다
xColCb = Clip3(　xCtb, Min(　CurPicWidthInSamplesY　-　1,　xCtb　+　CTUWidthInSamplesY　+　3　), xColCtrCb　+　MotionShiftX　)　)
yColCb = Clip3(　yCtb, Min(　CurPicHeightInSamplesY　-　1,　yCtb　+　CTUHeightInSamplesY　-　1　), yColCtrCb　+　MotionShiftY　)

VVC에서, SbTMVP 후보 및 아핀 머지 후보 모두를 포함하는 결합된 서브-블록 기반 머지 리스트는 서브-블록 기반 머지 모드의 시그널링에 사용한다. SbTMVP 모드는 시퀀스 파라미터 세트(sequence parameter set, SPS) 플래그에 의해 인에이블/디세이블된다. SbTMVP 모드가 인에이블되면, SbTMVP 예측자를 서브-블록 기반 머지 후보 리스트의 첫 번째 엔트리로 추가하고 그 뒤에 아핀 머지 후보들을 추가한다. 서브-블록 기반 머지 리스트의 크기는 SPS에서 시그널링하고, VVC에서 서브-블록 기반 머지 리스트의 최대 허용 크기는 5이다.

SbTMVP에서 사용하는 서브-CU 크기는 8×8로 고정되어 있으며, 아핀 머지 모드에서와 같이 SbTMVP 모드는 너비와 높이가 모두 8 이상인 CU에만 적용 가능하다. 또한, 현재 VVC에서는, TMVP 및 SbTMVP에 의해 사용되는 시간적 움직임 필드 저장을 위해, HEVC의 16×16 단위에 비해 8×8 단위로 필드 압축을 수행한다.

일부 실시예들에서, 항상 인접 블록의 리스트 0 mv로부터 움직임 시프트를 도출하고, 리스트 0 mv를 사용할 수 없을 경우 인접 블록의 리스트 1 mv를 사용하여 SbTMVP에 대한 움직임 시프트를 도출한다. 의사 코드는 아래에 설명되어 있다.

SbTMVP에 대한 움직임 시프트를 결정하기 위한 의사 코드

bool terminate = false;
for (currRefListId = 0; currRefListId < (CurrentSliceType == B_SLICE ? 2 : 1) && !terminate; currRefListId++)
{currRefPicList = currRefListId;
if ((interDirA1 & (1 << currRefPicList)) && getRefPic(currRefPicList, refIdxA1[currRefListId]) == ColPic)
{
motion shift = mvA1[currRefListId];
terminate = true;
break;
}
}

일부 실시예들에서, 항상 인접 블록의 리스트 1 mv로부터 움직임 시프트를 도출하고, 리스트 1 mv를 사용할 수 없을 경우 인접 블록의 리스트 0 mv를 사용하여 SbTMVP에 대한 움직임 시프트를 도출한다. 의사 코드는 아래에 설명되어 있다.

SbTMVP에 대한 움직임 시프트를 결정하기 위한 의사 코드

bool terminate = false;
for (currRefListId = 0; currRefListId < (CurrentSliceType == B_SLICE ? 2 : 1) && !terminate; currRefListId++)
{currRefPicList = 1-currRefListId;
if ((interDirA1 & (1 << currRefPicList)) && getRefPic(currRefPicList, refIdxA1[currRefListId]) == ColPic)
{
motion shift = mvA1[currRefListId];
terminate = true;
break;
}
}

일부 실시예들에서, 유효 영역 외부에 위치한 서브-CU의 대응하는 블록이 존재할 때마다, 제로 벡터를 움직임 시프트 벡터로 사용하여 SbTMVP를 도출한다. 이렇게 함으로써, 현재 CU의 모든 서브-CU들의 대응하는 블록들이 유효 영역 내에 위치하는 것을 보장한다. 따라서, 각 서브-CU에 대해 위치 클리핑 프로세스가 요구되지 않는다. 현재 CU의 서브-CU의 대응하는 블록이 유효 영역 외부에 위치하는지 여부를 판단하는 방법은 여러 가지가 있다. 일 예에서, 좌측-상단 N×N 서브 CU의 대응하는 블록 및 우측-하단 N×N 서브 CU의 대응하는 블록을 체크하여 2 개의 대응 블록들이 유효 영역 내에 있는지 여부를 확인한다. 둘 중 하나가 유효 영역 외부에 위치하면, 제로 벡터를 움직임 시프트 벡터로 사용한다. 그렇지 않으면(두 대응 블록들이 모두 유효 영역 내에 위치함,) 도출한 움직임 시프트를 SbTMVP에 사용한다.

일부 실시예들에서, 유효 영역 외부에 위치한 서브-CU의 대응하는 블록이 존재할 때마다, SbTMVP는 현재 CU에 대하여 사용이 불가능한 것으로 간주한다.

일부 실시예들에서, 유효 영역 외부에 위치한 서브-CU의 대응하는 블록이 존재할 때마다, 움직임 시프트를 수정하여 모든 서브-CU들의 대응하는 블록들이 유효 영역 내에 위치하도록 보장한다. 따라서, 각 서브-CU에 대해 위치 클리핑 프로세스가 요구되지 않는다.

일부 실시예들에서, SbTMVP 도출을 위한 움직임 시프트에 항상 제로 벡터를 사용한다.

일부 실시예들에서, 대표적 서브-CU로부터 도출한 디폴트 MV를 유효 영역 외부에 위치한 대응하는 블록을 갖는 서브-CU의 MV로서 사용하는 것이 제안된다.

도 7은 본 개시물의 일부 구현 방식들에 따른 현재 픽처(예를 들어, 현재 픽처(704))내의 코딩 블록(예를 들어, 현재 CU(702))에 대한 TMVP 및 SbTMVP를 도출하기 위한 유효 영역을 확정하기 위한 블록도를 도시한다. 유효 영역은TMVP 또는 SbTMVP를 검색하는 현재 CU(예를 들어, 현재 CU(702))에 대응하는 CU(예를 들어, 대응하는 CU(702'))가 있는 동일-위치 픽처(예를 들어, 동일 위치 픽처(704'))내의 영역이다. 일부 구현 방식들에서, TMVP 및 SbTMVP를 도출하기 위하여 CTU(예를 들어, CTU2)와 하나의 열(예를 들어, 하나의 열 TMV 버퍼(706))에 의해 유효 영역을 확정한다. 유효 영역 제한은 메모리 사용량 감소를 위한 설계이다. 유효 영역을 동일-위치 CTU에 하나의 열을 더한 것으로 제한함으로써, 유효 영역 내의 움직임 정보만 내부 메모리(예를 들어, 캐시)에 저장되어 외부 메모리로부터 시간적 움직임 데이터에 액세스하는 평균 비용(시간 또는 에너지)을 줄일 수 있다. 현재로써는, VVC에서의 최대 CTU 크기는 128×128이며(최대 CTU 크기는 VVC 프로필의 경우 나중 단계에서 결정될 수 있음), CTU 크기는 128×128 미만(예를 들어, 64×64 또는 32×32)으로 설정할 수 있다. 일 예에서, CTU 크기를 64×64로 설정할 경우, 동일-위치 64×64 블록에 하나의 열을 더한 것으로 유효 영역을 제한한다. 최대 CTU에 대한 시간적 MV 버퍼의 설계는 이미 존재하므로, 코딩 효율의 관점에서 최대 CTU의 크기보다 작은 유효 영역을 사용하는 것은 현명하지 않을 수 있다. 일부 실시예들에서, 유효 영역은 사용 중인 CTU 크기에 상관없이 항상 허용 가능한 최대 CTU 크기에 하나의 열을 더한 것으로 고정한다.

일부 실시예들에서, 단지 동일-위치 CTU가 되도록 유효 영역을 수정한다.

일부 실시예들에서, CTU 크기가 최대 CTU 크기와 동일할 경우 유효 영역은 동일-위치 CTU에 하나의 열을 더한 것이다. CTU 크기가 최대 CTU 크기보다 작은 경우, 유효 영역을 동일-위치 CTU에 동일-위치 CTU의 우측의 하나의 열 및 동일-위치 CTU의 아래의 하나의 행으로 수정한다.

도 8A 내지 도 8B는 본 발명의 일부 구현 방식들에 따른 비디오 코더가 서브-블록 시간적 움직임 벡터 예측자들을 도출하기 위한 기술을 구현하는 예시적인 프로세스(800)를 도시하는 흐름도를 도시한다. 프로세스(800)는 디코딩 또는 인코딩 프로세스일 수 있지만, 편의상 프로세스(800)는 비디오 디코더(예를 들어, 도 3의 비디오 디코더(30))에 의해 수행되는 디코딩 프로세스로 설명한다.

첫 번째 단계로서, 디코더는 현재 코딩 단위의 동일-위치 픽처를 확정한다(805)(예를 들어, 비트스트림으로부터 현재 프레임의 동일-위치 픽처가 제1 리스트 또는 제2 리스트로부터의 것이지 가리키는 제1 신택스 요소를 수신하고, 그 다음 비트스트림으로부터 선택된 리스트의 어느 프레임이 동일-위치 프레임으로 사용되는지를 가리키는 제2 신택스 요소를 수신한다). 예를 들어, 도 6A를 참조하면, 현재 픽처(610) 내의 현재 CU(601)는 동일-위치 픽처(612) 내의 동일-위치 Cu(601')에 대응한다.

다음으로, 디코더는 현재 코딩 단위의 공간적 인접 블록을 로케이팅(locating)한다(810). 예를 들어, 도 6D를 참조하면, 현재 코딩 단위(예를 들어, 현재 CU(636))은 공간적 인접(638, 블록 A1)을 갖는다. 일부 실시예들에서, 공간적 인접 블록은 코딩 단위 또는 서브-블록이다.

공간적 인접 블록을 로케이팅한 다음, 디코더는 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정한다(815). 움직임 시프트 벡터는 현재 픽처(예를 들어, 도 6D의 현재 픽처(610)) 내의 현재 코딩 단위(예를 들어, 도 6D의 현재 CU(636))와 동일-위치 픽처(예를 들어, 도 6D의 동일 위치 픽처(612)) 내의 대응하는 동일-위치 블록(예를 들어, 도 6D의 공간적 인접(638', 블록 A1')) 사이의 공간적 위치의 시프트를 가리킨다.

움직임 시프트 벡터를 확정하기 위해, 디코더는 공간적 인접 블록의 리스트 0에 포함된 움직임 벡터들 각각을 순서적으로 검사한다(820). 리스트 0 내의 움직임 벡터가 동일-위치 픽처를 상기 움직임 벡터의 참조 픽처로 사용한다는 것을 확정함에 따라(825), 디코더는 리스트 0 내의 상기 움직임 벡터를 움직임 시프트 벡터(예를 들어, 움직임 시프트 벡터(630))로 설정하고(830), 공간적 인접 블록의 리스트 0 내의 후속 움직임 벡터들 및 리스트 1 내의 움직임 벡터들을 검사하는 것을 포기한다(835). 결과적으로, 움직임 벡터에 대한 검색이 종료되고 리스트 0 내의 첫번째 매칭 움직임 벡터를 움직임 시프트 벡터로 사용한다. 다시 말해서, 디코더는 리스트 1을 체크하기 전에 항상 공간적 인접 블록의 리스트 0에 포함된 움직임 벡터들을 먼저 체크한다.

한편, 리스트 0내에는 동일-위치 픽처를 참조 픽처로 사용하는 움직임 벡터가 존재하지 않다는 것을 확정함에 따라(840), 디코더는 공간적 인접 블록의 리스트 1에 포함된 움직임 벡터들 각각을 순서적으로 검사한다(845). 즉, 디코더는 리스트 0 내의 움직임 벡터들의 검색이 부정적인 결과를 리턴하는 경우에만 움직임 벡터들의 공간적 인접 블록의 리스트 1을 체크한다.

공간적 인접 블록의 리스트 1 내의 움직임 벡터들을 검색하는 동안, 리스트 1 내의 움직임 벡터가 동일-위치 픽처를 상기 움직임 벡터의 참조 픽처로 사용한다는 것을 확정함에 따라(850), 디코더는 리스트 1 내의 상기 움직임 벡터를 움직임 시프트 벡터로 설정하고(855), 리스트 1 내의 후속 움직임 벡터들을 검사하는 것을 포기한다(860). 즉, 리스트 1의 첫번째 매칭 움직임 벡터를 움직임 시프트 벡터로 사용한다. 리스트 1내의 어느 움직임 벡터도 동일-위치 픽처를 상기 어느 움직임 벡터의 참조 픽처로 사용하지 않다는 것을 확정함에 따라(865), 디코더는 움직임 시프트 벡터를 0-값 벡터로 설정한다(870). 그 결과, 대응하는 코딩 단위 및 현재 코딩 단위는 동일-위치 픽처 및 현재 픽처에 대해 동일한 상대 위치에 있다(예를 들어, 현재 코딩 단위와 대응하는 코딩 단위 사이의 움직임의 시프트가 없음).

마지막으로, 디코더는 움직임 시프트에 기반하여 동일-위치 픽처 내의 대응하는 서브-블록으로부터 현재 코딩 단위 내의 복수의 서브-블록들의 각각의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성한다(875). 예를 들어, 도 6D를 참조하면, 서브-블록 시간적 움직임 벡터 예측자(632)는, 스케일링(예를 들어, 도 6A 및 연관된 설명과 관련하여 설명된 스케일링 프로세스) 후에 움직임 시프트 벡터(630)를 사용하여 대응하는 서브-블록 시간적 움직임 벡터(631)를 로케이팅함으로써 구성된다. 일부 실시예들에서, 서브-블록은 리스트 0 및 리스트 1로부터의 하나 또는 두 개의 시간적 움직임 벡터를 포함한다.

일부 실시예들에서, 움직임 시프트 벡터에 기반하여 동일-위치 픽처 내의 대응하는 서브-블록으로부터 현재 코딩 단위의 복수의 서브-블록들의 각각의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계는, 현재 코딩 단위의 복수의 서브-블록들의 각각의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터들을 예측하는 것을 포함하며, 이는:움직임 시프트 벡터에 기반하여 동일-위치 픽처 내의 미리 정의된 영역(예를 들어, 유효 영역)내에서, 각각의 서브-블록에 대응하는 동일-위치 서브-블록을 검색하는 단계; 동일-위치 서브-블록이 동일-위치 픽처 내의 미리 정의된 영역 내에 존재한다고 확정함에 따라, 동일 위치 서브-블록의 하나 또는 두 개의 움직임 벡터들을 식별하고, 각각의 서브 블록에 대한 서브-블록-기반 시간적 움직임 벡터를 현재 픽처와 현재 픽처의 참조 픽처 사이의 제1 POC(Picture Order count) 거리(예를 들어, 도 6A의 POC 거리 tb) 및 동일-위치 픽처와 동일-위치 픽처의 참조 픽처 사이의 제2 POC 거리(예를 들어, 도 6A의 POD 거리 td)에 기반하여 스케일링된 하나 또는 두 개의 움직임 벡터로 설정하는 단계를 포함한다. 일부 실시예들에서, 동일위치 서브-블록이 동일-위치 픽처 내의 미리 정의된 영역 내에 존재하지 않음을 확정함에 따라, 대응하는 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터들을 0-값 움직임 벡터들로 설정한다. 일부 다른 실시예들에서, 동일-위치 서브-블록이 동일-위치 픽처 내의 미리 정의된 영역 내에 존재하지 않음을 확정함에 따라, 동일-위치 픽처 내의 미리 정의된 영역 내의 대안적인 서브-블록을 대응하는 서브-블록으로 설정한다. 예를 들어, 대안적인 서브-블록은 동일-위치 서브-블록에 가장 가까운 미리 정의된 영역 내의 경계 서브-블록이다.

일부 실시예들에서, 미리 정의된 영역은 동일-위치 코딩 단위를 포함하는 CTU의 크기에 관계없이 최대 허용 가능한 CTU 크기에 하나의 열을 더한 것과 동일한 크기를 갖는다.

일부 실시예들에서, 디코더는 리스트 0을 체크하기 전에 먼저 공간적 인접 블록의 리스트 1에서의 움직임 벡터들을 체크한다.

하나 혹은 그 이상의 예에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되는 경우, 기능들은 하나 혹은 그 이상의 명령어 또는 코드로서 컴퓨터 판독 가능 매체에 저장되거나 이를 통해 전송될 수 있고 하드웨어-기반 프로세싱 유닛에 의해 실행될 수 있다. 컴퓨터 판독 가능 매체는 데이터 저장 매체와 같은 유형(tangible) 매체에 대응하는 컴퓨터 판독 가능 저장 매체, 또는 한 장소에서 다른 장소로(예를 들어, 통신 프로토콜에 따라) 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터 판독가능 매체는 일반적으로 (1) 비-일시적 유형 컴퓨터 판독가능 저장 매체 또는 (2) 신호 또는 운송파(carrier wave)와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는 본 출원에서 설명된 구현의 구현을 위한 명령어, 코드 및/또는 데이터 구조(data structure)를 검색하기 위해 하나 혹은 그 이상의 컴퓨터 또는 하나 혹은 그 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용 가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독 가능 매체를 포함할 수 있다.

본 명세서의 구현 방식들을 설명할 때 사용한 용어는 단지 특정한 구현 방식들을 설명하기 위한 목적으로만 사용되며, 특허청구범위를 제한하려는 의도가 아니다. 구현 방식들 및 첨부된 특허청구범위의 설명에서 사용된 바와 같이, 단수형들은 문맥상 다른 의미를 명확히 가리키지 않는 한 복수형도 포함한다. 본 명세서에서 사용된 용어 "및/또는"은 하나 혹은 그 이상의 관련된 나열된 항목의 임의의 또는 모든 가능한 조합을 지칭하는 것으로 이해되어야 한다. 용어 "포함하다" 및/또는 "포함하는"은 본 명세서에서 사용될 때 언급된 특징, 요소 및/또는 구성요소의 존재를 명시하지만 하나 이상의 다른 특징, 요소, 구성요소의 및/또는 그 그룹의 존재 또는 추가를 배제하지 않는다는 것을 이해할 것이다.

"제1", "제2" 등의 용어가 다양한 요소를 설명하기 위해 본 명세서에서 사용될 수 있지만, 이러한 요소는 이러한 용어에 의해 제한되지 아니함을 이해해야 한다. 이러한 용어는 한 요소를 다른 요소와 구별하기 위하여서만 사용된다. 예를 들어, 본 구현 방식들의 범위를 벗어나지 않으면서 제1 전극은 제2 전극으로 지칭될 수 있고, 유사하게, 제2 전극는 또한 제1 전극으로 지칭될 수 있다. 제1 전극과 제2 전극은 모두 전극이지만 동일한 전극은 아니다.

본 출원 내용의 설명은 예시 및 설명의 목적으로 제시된 것이며, 본 출원 내용의 설명을 망라하거나 본 발명을 개시된 형태로 제한하고자하는 것은 아니다. 전술한 설명 및 관련 도면들의 시사로부터 당업자들은 다양한 수정, 변경 및 대안적인 구현 방식들은 명백히 이해할 것이다. 실시예는 본 발명의 원리, 실제 응용 및 당업자가 본 발명을 다양한 구현 방식으로 구현하도록 이해하고, 특정된 용도에 적합하도록 본 발명을 수정하도록 본 발명의 기본적인 원리 및 다양한 구현 방식을 제일 적합하게 사용하도록 설명되었다. 따라서, 본 청구항의 범위는 개시된 구현 방식들의 특정 예에 제한되지 않으며, 수정 및 다른 구현 방식들은 첨부된 특허청구범위내에 포함되는 것으로 해석되어야 한다.

Claims

현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법에 있어서,
상기 현재 픽처의 동일-위치(co-located) 픽처를 확정하는 단계;
상기 현재 코딩 단위의 공간적 인접 블록의 움직임 벡터에 기반하여 상기 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정하되, 상기 움직임 시프트 벡터는 상기 현재 픽처 내의 상기 현재 코딩 단위내의 복수의 서브-블록들의 서브-블록과 상기 동일-위치 픽처 내의 대응하는 서브-블록 사이의 공간적 위치의 시프트를 가리키는 단계; 및
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 상기 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 상기 복수의 서브-블록들의 상기 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계,를 포함하되,
상기 현재 코딩 단위의 공간적 인접 블록의 움직임 벡터에 기반하여 상기 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정하는 단계는,
상기 공간적 인접 블록의 제1 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제1 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용한다는 것을 확정함에 따라, 상기 제1 참조 픽처 리스트와 관련된 움직임 벡터를 상기 움직임 시프트 벡터로 설정하고; 또는
상기 제1 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제1 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용하지 않다는 것을 확정함에 따라:
상기 공간적 인접 블록의 제2 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제2 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용한다는 것을 확정함에 따라, 상기 제2 참조 픽처 리스트와 관련된 움직임 벡터를 상기 움직임 시프트 벡터로 설정하고; 또는
상기 공간적 인접 블록의 제2 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제2 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용하지 않다는 것을 확정함에 따라, 상기 움직임 시프트 벡터를 0-값 벡터로 설정하는 단계,를 포함하는
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
삭제
제 1 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계는,
상기 움직임 시프트 벡터에 기반하여, 상기 동일 위치 픽처 내의 미리 정의된 영역내에서 상기 서브-블록에 대응하는 동일 위치 서브-블록을 확정하는 단계; 및
상기 서브 블록에 대한 서브-블록-기반 시간적 움직임 벡터를, 상기 동일-위치 서브-블록의 하나 혹은 두 개의 움직임 벡터, 상기 현재 픽처와 상기 현재 픽처의 참조 픽처 사이의 제1 POC(Picture Order count) 거리 및 상기 동일-위치 픽처와 상기 동일-위치 픽처의 참조 픽처 사이의 제2 POC 거리에 기반하여 도출된 하나 또는 두 개의 스케일링된 움직임 벡터로 설정하는 단계,를 포함하는,
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
제 1 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계는,
상기 동일-위치 서브-블록이 상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내에 존재하는지 여부를 확정하는 단계,를 포함하는
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
제 4 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계는,
상기 동일-위치 서브-블록이 상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내에 존재하지 않다는 것을 확정함에 따라:
상기 대응하는 서브-블록에 대한 상기 서브-블록-기반 시간적 움직임 벡터들을 0-값 움직임 벡터들로 설정하는 단계,를 포함하는
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
제 4 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계는,
상기 동일-위치 서브-블록이 상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내에 존재하지 않다는 것을 확정함에 따라:
상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내의 대안적인 서브-블록을 상기 대응하는 서브-블록으로 설정하는 단계를 포함하되, 상기 대안적인 서브-블록은 상기 동일-위치 서브-블록에 가장 가까운 상기 미리 정의된 영역 내의 경계 서브-블록인,
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
제 1 항에 있어서,
상기 현재 코딩 단위의 상기 공간적 인접 블록은 코딩 단위 또는 코딩 단위의 서브-블록인,
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
제 3 항에 있어서,
상기 미리 정의된 영역은 상기 동일-위치 서브-블록을 포함하는 CTU의 크기에 관계없이 최대 허용 CTU 크기에 하나의 열을 더한 크기를 갖는,
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
제 8 항에 있어서,
상기 최대 허용 CTU 크기는 128×128인,
현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법.
컴퓨팅 장치에 있어서,
하나 또는 그 이상의 프로세서;
상기 하나 또는 그 이상의 프로세서와 결합된 메모리; 및
상기 메모리에 저장된 복수의 프로그램,을 포함하고,
상기 복수의 프로그램은 상기 하나 또는 그 이상의 프로세서에 의하여 실행될 경우 상기 컴퓨팅 장치로 하여금:
현재 픽처의 동일-위치(co-located) 픽처를 확정하고;
현재 코딩 단위의 공간적 인접 블록의 움직임 벡터에 기반하여 상기 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정하되, 상기 움직임 시프트 벡터는 상기 현재 픽처 내의 상기 현재 코딩 단위내의 복수의 서브-블록들의 서브-블록과 상기 동일-위치 픽처 내의 대응하는 서브-블록 사이의 공간적 위치의 시프트를 가리키고; 및
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 상기 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 상기 복수의 서브-블록들의 상기 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는, 동작들을 수행하도록 하되,
상기 현재 코딩 단위의 공간적 인접 블록의 움직임 벡터에 기반하여 상기 현재 코딩 단위에 대한 움직임 시프트 벡터를 확정하는 것은,
상기 공간적 인접 블록의 제1 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제1 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용한다는 것을 확정함에 따라, 상기 제1 참조 픽처 리스트와 관련된 움직임 벡터를 상기 움직임 시프트 벡터로 설정하고; 또는
상기 제1 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제1 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용하지 않다는 것을 확정함에 따라:
상기 공간적 인접 블록의 제2 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제2 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용한다는 것을 확정함에 따라, 상기 제2 참조 픽처 리스트와 관련된 움직임 벡터를 상기 움직임 시프트 벡터로 설정하고; 또는
상기 공간적 인접 블록의 제2 참조 픽처 리스트와 관련된 움직임 벡터가 상기 동일-위치 픽처를 상기 제2 참조 픽처 리스트와 관련된 움직임 벡터의 참조 픽처로 사용하지 않다는 것을 확정함에 따라, 상기 움직임 시프트 벡터를 0-값 벡터로 설정하는 것,을 포함하는
컴퓨팅 장치.
삭제
제 10 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 것은,
상기 움직임 시프트 벡터에 기반하여, 상기 동일 위치 픽처 내의 미리 정의된 영역내에서 상기 서브-블록에 대응하는 동일 위치 서브-블록을 확정하고; 및
상기 서브 블록에 대한 서브-블록-기반 시간적 움직임 벡터를, 상기 동일-위치 서브-블록의 하나 혹은 두 개의 움직임 벡터, 상기 현재 픽처와 상기 현재 픽처의 참조 픽처 사이의 제1 POC(Picture Order count) 거리 및 상기 동일-위치 픽처와 상기 동일-위치 픽처의 참조 픽처 사이의 제2 POC 거리에 기반하여 도출된 하나 또는 두 개의 스케일링된 움직임 벡터로 설정하는 것,을 포함하는,
컴퓨팅 장치.
제 10 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 것은,
상기 동일-위치 서브-블록이 상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내에 존재하는 지 여부를 확정하는 것,을 포함하는
컴퓨팅 장치.
제 13 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 것은,
상기 동일-위치 서브-블록이 상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내에 존재하지 않다는 것을 확정함에 따라:
상기 대응하는 서브-블록에 대한 상기 서브-블록-기반 시간적 움직임 벡터들을 0-값 움직임 벡터들로 설정하는 것,을 포함하는
컴퓨팅 장치.
제 13 항에 있어서,
상기 움직임 시프트 벡터에 기반하여 상기 동일-위치 픽처 내의 대응하는 서브-블록으로부터 상기 현재 코딩 단위 내의 복수의 서브-블록들의 서브-블록에 대한 서브-블록-기반 시간적 움직임 벡터를 재구성하는 단계는,
상기 동일-위치 서브-블록이 상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내에 존재하지 않다는 것을 확정함에 따라:
상기 동일-위치 픽처 내의 상기 미리 정의된 영역 내의 대안적인 서브-블록을 상기 대응하는 서브-블록으로 설정하되, 상기 대안적인 서브-블록은 상기 동일-위치 서브-블록에 가장 가까운 상기 미리 정의된 영역 내의 경계 서브-블록인,
컴퓨팅 장치.
제 10 항에 있어서,
상기 현재 코딩 단위의 상기 공간적 인접 블록은 코딩 단위 또는 코딩 단위의 서브-블록인,
컴퓨팅 장치.
제 12 항 또는 제 13 항에 있어서,
상기 미리 정의된 영역은 상기 동일-위치 서브-블록을 포함하는 CTU의 크기에 관계없이 최대 허용 CTU 크기에 하나의 열을 더한 크기를 갖는,
컴퓨팅 장치.
제 17 항에 있어서,
상기 최대 허용 CTU 크기는 128×128인,
컴퓨팅 장치.
하나 또는 그 이상의 프로세서를 갖는 컴퓨팅 장치에 의하여 실행하기 위한 복수의 프로그램을 저장하는 비-일시적 컴퓨터 판독 가능 저장 매체로서,
상기 복수개의 프로그램은 상기 하나 혹은 그 이상의 프로세서에 의하여 실행될 경우 상기 컴퓨팅 장치로 하여금 제 1 항 및 제 3 항 내지 제 9 항 중의 임의의 한 항의 현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법을 수행하도록 하는,
비-일시적 컴퓨터 판독 가능 저장 매체.
컴퓨터 프로그램 제품에 있어서,
상기 컴퓨터 프로그램 제품은 그 자체에 저장된 명령어들을 포함하고,
상기 명령어들이 프로세서에 의하여 실행될 경우, 상기 명령어들은 상기 프로세서로 하여금 제 1 항 및 제 3 항 내지 제 9 항 중의 임의의 한 항의 현재 픽처 내의 현재 코딩 단위를 디코딩하는 방법을 수행하게 하는,
컴퓨터 프로그램 제품.