KR20210049822A - 비디오 코딩 시스템 및 방법 - Google Patents

Abstract

이미지 인코더 또는 디코더는 회로부와 메모리를 포함한다. 상기 회로부는, 동작 시에, 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 제1 파티션에 대한 제1 샘플 세트를 예측하고, 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트와 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 인코딩되거나 또는 디코딩된다.

Description

비디오 코딩 시스템 및 방법

본 개시는 비디오 코딩에 관한 것으로, 보다 상세하게는 참조 프레임에 기초하여 현재 프레임의 예측을 구축하기 위해 인터 예측 기능을 수행하기 위한 비디오 인코딩 및 디코딩 시스템, 구성 요소 및 방법에 관한 것이다.

H.261 및 MPEG-1로부터 H.264/AVC(Advanced Video Coding), MPEG-LA, H.265/HEVC(High Efficiency Video Coding) 및 H.266/VVC(Versatile Video Codec)로 비디오 코딩 기술이 발전함에 따라, 다양한 애플리케이션에서 지속적으로 증가하는 디지털 비디오 데이터 량을 처리하기 위해 비디오 코딩 기술을 개선하고 최적화해야 하는 지속적인 요구가 존재한다. 본 개시는 참조 프레임에 기초하여 현재 프레임의 예측을 구축하기 위해 비디오 코딩, 특히 인터 예측 함수를 더 발전, 개선 및 최적화하는 것에 관한 것이다.

일 양태에서, 이미지 인코더는 회로부 및 상기 회로부에 결합된 메모리를 포함한다. 상기 회로부는, 동작 시에, 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고, 상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 인코딩된다.

일 양태에서, 이미지 인코더는, 동작 시에, 원본 화상을 수신하고 블록으로 분할하는 분할부; 동작 시에, 상기 분할부로부터 상기 블록을 수신하고 예측 제어부로부터 예측을 수신하고, 대응하는 블록으로부터 각각의 예측을 감산하여 잔차를 출력하는 제1 가산부; 동작 시에, 상기 가산부로부터 출력된 잔차에 변환을 수행하여 변환 계수를 출력하는 변환부; 동작 시에, 상기 변환 계수를 양자화하여 양자화된 변환 계수를 생성하는 양자화부; 동작 시에, 상기 양자화된 변환 계수를 인코딩하여 비트스트림을 생성하는 엔트로피 인코더; 동작 시에, 상기 양자화된 변환 계수를 역양자화하여 상기 변환 계수를 획득하고 상기 변환 계수를 역변환하여 상기 잔차를 획득하는 역양자화부 및 변환부; 동작 시에, 상기 역양자화부 및 변환부로부터 출력된 잔차와 상기 예측 제어부로부터 출력된 예측을 가산하여 상기 블록을 재구성하는 제2 가산부; 및 인터 예측부, 인트라 예측부 및 메모리에 결합된 상기 예측 제어부를 포함한다. 상기 인터 예측부는, 동작 시에, 인코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 상기 인트라 예측부는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 상기 인터 예측부는, 동작 시에, 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고, 상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 인코딩된다.

일 양태에서, 인코딩 방법은 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하는 단계, 및 상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하는 단계를 포함한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 인코딩된다.

일 양태에서, 이미지 디코더는 회로부 및 상기 회로부에 결합된 메모리를 포함한다. 상기 회로부는, 동작 시에, 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고, 상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 디코딩된다.

일 양태에서, 이미지 디코더는, 동작 시에, 인코딩된 비트스트림을 수신하고 디코딩하여 양자화된 변환 계수를 획득하는 엔트로피 디코더; 동작 시에, 상기 양자화된 변환 계수를 역양자화하여 변환 계수를 획득하고 상기 변환 계수를 역변환하여 잔차를 획득하는 역양자화부 및 변환부; 동작 시에, 상기 역양자화부 및 변환부로부터 출력된 잔차와 예측 제어부로부터 출력된 예측을 가산하여 블록을 재구성하는 가산부; 및 인터 예측부, 인트라 예측부 및 메모리에 결합된 상기 예측 제어부를 포함한다. 상기 인터 예측부는, 동작 시에, 디코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 상기 인트라 예측부는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 상기 인터 예측부는, 동작 시에, 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고, 상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 디코딩된다.

일 양태에서, 디코딩 방법은 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하는 단계, 및 상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하는 단계를 포함한다. 상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치가 부여된다. 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터가 저장된다. 상기 제1 파티션은 상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 디코딩된다.

본 개시의 실시예의 일부 구현예는 인코딩 효율을 개선할 수 있고, 단순히 인코딩/디코딩 처리일 수 있고, 인코딩/디코딩 처리 속도를 가속시킬 수 있고, 적절한 필터, 블록 크기, 움직임 벡터, 참조 화상, 참조 블록 등과 같은 인코딩 및 디코딩에 사용되는 적절한 구성 요소/동작을 효율적으로 선택할 수 있다.

개시된 실시예의 추가적인 이점 및 장점은 본 명세서 및 도면으로부터 명백해질 것이다. 이점 및/또는 장점은 본 명세서 및 도면의 다양한 실시예 및 특징에 의해 개별적으로 얻어질 수 있으며, 이러한 이점 및/또는 장점 중 하나 이상을 얻기 위해 이들 실시예 및 특징이 모두 제공될 필요는 없다.

일반적인 또는 특정 실시예는 시스템, 방법, 집적 회로, 컴퓨터 프로그램, 저장 매체, 또는 이들의 임의의 선택적 조합으로서 구현될 수 있다는 것이 주목된다.

도 1은 일 실시예에 따른 인코더의 기능적 구성을 예시하는 블록도이다.
도 2는 인코더에 의해 수행되는 전체 인코딩 처리의 일례를 나타내는 흐름도이다.
도 3은 블록 분할의 일례를 예시하는 개념도이다.
도 4a는 슬라이스 구성의 일례를 예시하는 개념도이다.
도 4b는 타일 구성의 일례를 예시하는 개념도이다.
도 5a는 다양한 변환 유형에 대한 변환 기저 함수(transform basis function)를 예시하는 차트이다.
도 5b는 예시적인 공간적으로 변하는 변환(spatially varying transform: SVT)을 예시하는 개념도이다.
도 6a는 적응형 루프 필터(adaptive loop filter: ALF)에서 사용되는 필터 형상의 일례를 예시하는 개념도이다.
도 6b는 ALF에서 사용되는 필터 형상의 다른 예를 예시하는 개념도이다.
도 6c는 ALF에서 사용되는 필터 형상의 다른 예를 예시하는 개념도이다.
도 7은 디블로킹 필터(deblocking filter: DBF)로서 기능하는 루프 필터의 특정 구성의 일례를 나타내는 블록도이다.
도 8은 블록 경계에 대해 대칭 필터링 특성을 갖는 디블록킹 필터의 일례를 나타내는 개념도이다.
도 9는 디블로킹 필터 처리가 수행되는 블록 경계를 예시하기 위한 개념도이다.
도 10은 Bs 값의 예를 나타내는 개념도이다.
도 11은 인코더의 예측 프로세서에 의해 수행되는 처리의 일례를 예시하는 흐름도이다.
도 12는 인코더의 예측 프로세서에 의해 수행되는 처리의 다른 예를 예시하는 흐름도이다.
도 13은 인코더의 예측 프로세서에 의해 수행되는 처리의 다른 예를 예시하는 흐름도이다.
도 14는 일 실시예에서 인트라 예측에서 사용되는 67개의 인트라 예측 모드를 예시하는 개념도이다.
도 15는 인터 예측의 예시적인 기본 처리 흐름을 예시하는 흐름도이다.
도 16은 움직임 벡터를 도출하는 일례를 예시하는 흐름도이다.
도 17은 움직임 벡터를 도출하는 다른 예를 예시하는 흐름도이다.
도 18은 움직임 벡터를 도출하는 다른 예를 예시하는 흐름도이다.
도 19는 정상 인터 모드에서의 인터 예측의 일례를 예시하는 흐름도이다.
도 20은 병합 모드에서 인터 예측의 일례를 예시하는 흐름도이다.
도 21은 병합 모드에서 움직임 벡터를 도출하는 처리의 일례를 예시하기 위한 개념도이다.
도 22는 프레임 속도 업 변환(frame rate up-conversion: FRUC) 처리의 일례를 예시하는 흐름도이다.
도 23은 움직임 궤적에 따라 2개의 블록 사이의 패턴 매칭(양측 매칭)의 일례를 예시하기 위한 개념도이다.
도 24는 현재 화상의 템플릿과 참조 화상의 블록 사이의 패턴 매칭(템플릿 매칭)의 일례를 예시하기 위한 개념도이다.
도 25a는 복수의 이웃한 블록의 움직임 벡터에 기초하여 각각의 서브 블록의 움직임 벡터를 도출하는 일례를 예시하기 위한 개념도이다.
도 25b는 3개의 제어점(control point)을 사용하는 아핀 모드(affine mode)에서 각각의 서브 블록의 움직임 벡터를 도출하는 일례를 예시하기 위한 개념도이다.
도 26a는 아핀 병합 모드를 예시하기 위한 개념도이다.
도 26b는 2개의 제어점을 사용하는 아핀 병합 모드를 예시하기 위한 개념도이다.
도 26c는 3개의 제어점을 사용하는 아핀 병합 모드를 예시하기 위한 개념도이다.
도 27은 아핀 병합 모드에서의 처리의 일례를 예시하는 흐름도이다.
도 28a는 2개의 제어점을 사용하는 아핀 인터 모드를 예시하기 위한 개념도이다.
도 28b는 3개의 제어점을 사용하는 아핀 인터 모드를 예시하기 위한 개념도이다.
도 29는 아핀 인터 모드에서의 처리의 일례를 예시하는 흐름도이다.
도 30a는 현재 블록이 3개의 제어점을 갖고, 이웃한 블록이 2개의 제어점을 갖는 아핀 인터 모드를 예시하기 위한 개념도이다.
도 30b는 현재 블록이 2개의 제어점을 갖고, 이웃한 블록이 3개의 제어점을 갖는 아핀 인터 모드를 예시하기 위한 개념도이다.
도 31a는 디코더 움직임 벡터 정제(decoder motion vector refinement: DMVR)를 포함하는 병합 모드 처리를 예시하는 흐름도이다.
도 31b는 DMVR 처리의 일례를 예시하기 위한 개념도이다.
도 32는 예측 이미지를 생성하는 일례를 예시하는 흐름도이다.
도 33은 예측 이미지를 생성하는 다른 예를 예시하는 흐름도이다.
도 34는 예측 이미지를 생성하는 또 다른 예를 예시하는 흐름도이다.
도 35는 중첩된 블록 움직임 보상(Overlapped Block Motion Compensation: OBMC) 처리에 의해 수행되는 예측 이미지 보정 처리의 일례를 예시하는 흐름도이다.
도 36은 OBMC 처리에 의해 수행되는 예측 이미지 보정 처리의 일례를 예시하기 위한 개념도이다.
도 37은 2개의 삼각형 예측 이미지의 생성을 예시하기 위한 개념도이다.
도 38은 균일한 선형 움직임을 가정한 모델을 예시하기 위한 개념도이다.
도 39는 로컬 조도 보상(local illumination compensation: LIC) 처리에 의해 수행되는 휘도 보정 처리를 이용한 예측 이미지 생성 방법의 일례를 예시하기 위한 개념도이다.
도 40은 인코더를 장착한 예를 예시하는 블록도이다.
도 41은 일 실시예에 따른 디코더의 기능 구성을 예시하는 블록도이다.
도 42는 디코더에 의해 수행되는 전체 디코딩 처리의 일례를 예시하는 흐름도이다.
도 43은 디코더의 예측 프로세서에 의해 수행되는 처리의 일례를 예시하는 흐름도이다.
도 44는 디코더의 예측 프로세서에 의해 수행되는 처리의 다른 예를 예시하는 흐름도이다.
도 45는 디코더에서 정상 인터 모드에서의 인터 예측의 일례를 예시하는 흐름도이다.
도 46은 디코더를 장착한 예를 예시하는 블록도이다.
도 47은 일 실시예에 따라 이미지 블록을 적어도 비직사각형 형상(예를 들어, 삼각형)을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고 추가 처리를 수행하는 전체 처리 흐름을 예시하는 흐름도이다.
도 48은 이미지 블록을 비직사각형 형상(예를 들어, 삼각형)을 갖는 제1 파티션과, 제2 파티션(예시된 예에서 또한 비직사각형 형상을 가짐)으로 분할하는 2개의 예시적인 방법을 예시한다.
도 49는 제1 파티션에 기초하여 예측된 경계 픽셀의 제1 값과, 제2 파티션에 기초하여 예측된 경계 픽셀의 제2 값에 가중치를 부여하는 것을 포함하는 경계 평활화 처리의 일례를 예시한다.
도 50은 제1 파티션에 기초하여 예측된 경계 픽셀의 제1 값과, 제2 파티션에 기초하여 예측된 경계 픽셀의 제2 값에 가중치를 부여하는 것을 포함하는 경계 평활화 처리의 3개의 추가 샘플을 예시한다.
도 51은 샘플 파라미터("제1 인덱스 값") 및 파라미터들에 의해 각각 인코딩된 정보 세트의 표이다.
도 52는 파라미터(인덱스 값)의 이진화를 예시하는 표이다.
도 53은 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 처리를 예시하는 흐름도이다.
도 54는 이미지 블록을 예시된 예에서 삼각형인 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 예를 예시한다.
도 55는 이미지 블록을 예시된 예에서 적어도 5개의 변과 각을 갖는 다각형인 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 다른 예를 예시한다.
도 56은 제1 파티션에 기초하여 예측된 경계 픽셀의 제1 값과, 제2 파티션에 기초하여 예측된 경계 픽셀의 제2 값에 가중치를 부여하는 것을 포함하는 경계 평활화 처리를 예시하는 흐름도이다.
도 57a는 제1 파티션에 기초하여 경계 픽셀에 가중치 부여될 제1 값을 예측하고 제2 파티션에 기초하여 가중치 부여될 제2 값을 예측하는 경계 평활화 처리의 일례를 예시한다.
도 57b는 제1 파티션에 기초하여 경계 픽셀에 가중치 부여될 제1 값을 예측하고 제2 파티션에 기초하여 가중치 부여될 제2 값을 예측하는 경계 평활화 처리의 일례를 예시한다.
도 57c는 제1 파티션에 기초하여 경계 픽셀에 가중치 부여될 제1 값을 예측하고 제2 파티션에 기초하여 가중치 부여될 제2 값을 예측하는 경계 평활화 처리의 일례를 예시한다.
도 57d는 제1 파티션에 기초하여 경계 픽셀에 가중치 부여될 제1 값을 예측하고 제2 파티션에 기초하여 가중치 부여될 제2 값을 예측하는 경계 평활화 처리의 일례를 예시한다.
도 58은 분할을 나타내는 파티션 파라미터에 기초하여 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고, 파티션 파라미터를 포함하는 하나 이상의 파라미터를 엔트로피 인코딩에서 비트스트림으로 기록하는, 인코더 측에서 수행되는 방법을 예시하는 흐름도이다.
도 59는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 나타내는 파티션 파라미터를 포함하는 하나 이상의 파라미터를 비트스트림으로부터 파싱하고, 파티션 파라미터에 기초하여 이미지 블록을 복수의 파티션으로 분할하고, 제1 파티션과 제2 파티션을 디코딩하는, 디코더 측에서 수행되는 방법을 예시하는 흐름도이다.
도 60은 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 각각 나타내는 샘플 파티션 파라미터("제1 인덱스 값"), 및 파티션 파라미터들에 의해 각각 공동으로 인코딩될 수 있는 정보 세트의 표이다.
도 61은 제1 파라미터와 제2 파라미터의 샘플 조합의 표이고, 이 중 하나는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 나타내는 파티션 파라미터이다.
도 62는 일 실시예에 따라 제1 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고, 제2 움직임 벡터를 사용하여 제1 파티션에 포함된 제1 부분에 대한 제2 샘플 세트를 예측하고, 제1 샘플 세트와 제2 샘플 세트에 가중치를 부여하고, 제1 파티션에 대한 제1 움직임 벡터와 제2 움직임 벡터 중 적어도 하나를 저장하고, 가중치 부여된 샘플을 사용하여 제1 파티션을 인코딩하거나 또는 디코딩하고, 추가 처리를 수행하는 처리 흐름의 일례를 예시하는 흐름도이다.
도 63은 이미지 블록을 제1 파티션과 제2 파티션으로 분할하는 예시적인 방법을 예시하기 위한 개념도이다.
도 64는 제1 파티션의 인접한 및 인접하지 않은, 공간적으로 이웃하는 파티션을 예시하기 위한 개념도이다.
도 65는 이미지 블록에 대한 단방향 예측 및 양방향 예측 움직임 벡터 후보를 예시하기 위한 개념도이다.
도 66은 제1 파티션의 제1 부분과 제1 및 제2 샘플 세트의 예를 예시하기 위한 개념도이다.
도 67은 인접한 파티션의 일부와 중첩하는 제1 파티션 부분인, 제1 파티션의 제1 부분을 예시하기 위한 개념도이다.
도 68은 제1 움직임 벡터와 제2 움직임 벡터가 상이한 참조 화상 리스트의 상이한 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다.
도 69는 제1 움직임 벡터와 제2 움직임 벡터가 단일 참조 화상 리스트의 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다.
도 70은 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트의 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다.
도 71은 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트의 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다.
도 72는 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트의 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다.
도 73은 콘텐츠 분배 서비스를 구현하기 위한 콘텐츠 제공 시스템의 전체 구성을 예시하는 블록도이다.
도 74는 스케일링 가능한 인코딩(scalable encoding)에서 인코딩 구조의 일례를 예시하는 개념도이다.
도 75는 스케일링 가능한 인코딩에서 인코딩 구조의 일례를 예시하는 개념도이다.
도 76은 웹 페이지의 디스플레이 화면의 일례를 예시하는 개념도이다.
도 77은 웹 페이지의 디스플레이 화면의 일례를 예시하는 개념도이다.
도 78은 스마트 폰의 일례를 예시하는 블록도이다.
도 79는 스마트 폰의 구성의 일례를 예시하는 블록도이다.

이하, 도면을 참조하여 실시예(들)를 설명한다. 아래에 설명된 실시예(들)는 각각 일반적인 또는 특정 예를 보여준다는 것이 주목된다. 이하의 실시예(들)에 표시된 수치 값, 형상, 재료, 구성 요소, 구성 요소의 배열 및 연결, 단계, 단계의 관계 및 순서 등은 단지 예시일 뿐이며, 청구범위를 제한하려고 의도된 것이 아니다.

이하에서는 인코더 및 디코더의 실시예를 설명한다. 이 실시예는 본 개시의 양태의 설명에 제시된 처리 및/또는 구성이 적용될 수 있는 인코더 및 디코더의 예시이다. 처리 및/또는 구성은 이 실시예에 따른 것과는 다른 인코더 및 디코더에서도 구현될 수 있다. 예를 들어, 이 실시예에 적용되는 처리 및/또는 구성과 관련하여 다음 중 임의의 것이 구현될 수 있다:

(1) 본 개시의 양태의 설명에 제시된 실시예에 따른 인코더 또는 디코더의 구성 요소 중 임의의 구성 요소는 본 개시의 양태의 설명에서 어딘가에 제시된 다른 구성 요소로 대체되거나 다른 구성 요소와 결합될 수 있다.

(2) 이 실시예에 따른 인코더 또는 디코더에서, 기능 또는 처리의 추가, 대체, 제거 등과 같이 인코더 또는 디코더의 하나 이상의 구성 요소에 의해 수행되는 기능 또는 처리에 임의의 변경이 이루어질 수 있다. 예를 들어, 임의의 기능 또는 처리는 본 개시의 양태의 설명에서 어딘가에 제시된 다른 기능 또는 처리로 대체되거나 다른 기능 또는 처리와 결합될 수 있다.

(3) 이 실시예에 따른 인코더 또는 디코더에 의해 구현되는 방법에서, 방법에 포함된 하나 이상의 처리의 추가, 대체 및 제거와 같은 임의의 변경이 이루어질 수 있다. 예를 들어, 방법의 임의의 처리는 본 개시의 양태의 설명에서 어딘가에 제시된 다른 처리로 대체되거나 다른 처리와 결합될 수 있다.

(4) 이 실시예에 따른 인코더 또는 디코더에 포함된 하나 이상의 구성 요소는 본 개시의 양태의 설명에서 어딘가에 제시된 구성 요소와 결합될 수 있고, 본 개시의 양태의 설명에서 어딘가에 제시된 하나 이상의 기능을 포함하는 구성 요소와 결합될 수 있고, 본 개시의 양태의 설명에서 제시된 구성 요소에 의해 구현되는 하나 이상의 처리를 구현하는 구성 요소와 결합될 수 있다.

(5) 이 실시예에 따른 인코더 또는 디코더의 하나 이상의 기능을 포함하는 구성 요소 또는 이 실시예에 따른 인코더 또는 디코더의 하나 이상의 처리를 구현하는 구성 요소는 본 개시의 양태의 설명에서 어딘가에 제시된 구성 요소와 결합되거나 구성 요소로 대체될 수 있고, 본 개시의 양태의 설명에서 어딘가에 제시된 하나 이상의 기능을 포함하는 구성 요소와 결합되거나 구성 요소로 대체될 수 있고, 또는 본 개시의 양태의 설명에서 어딘가에 제시된 하나 이상의 처리를 구현하는 구성 요소와 결합되거나 구성 요소로 대체될 수 있다.

(6) 이 실시예에 따른 인코더 또는 디코더에 의해 구현된 방법에서, 방법에 포함된 임의의 처리는 본 개시의 양태의 설명에서 어딘가에 제시된 처리 또는 임의의 대응하는 또는 등가적인 처리로 대체되거나 처리와 결합될 수 있다.

(7) 이 실시예에 따른 인코더 또는 디코더에 의해 구현된 방법에 포함된 하나 이상의 처리는 본 개시의 양태의 설명에서 어딘가에 제시된 처리와 결합될 수 있다.

(8) 본 개시의 양태의 설명에서 제시된 처리 및/또는 구성의 구현은 이 실시예에 따른 인코더 또는 디코더로 제한되지 않는다. 예를 들어, 상기 처리 및/또는 구성은 이 실시예에서 개시된 동화상 인코더 또는 동화상 디코더와는 다른 목적으로 사용되는 디바이스에서도 구현될 수 있다.

(인코더)

먼저, 일 실시예에 따른 인코더를 설명한다. 도 1은 실시예에 따른 인코더(100)의 기능적 구성을 예시하는 블록도이다. 인코더(100)는 비디오를 블록 단위로 인코딩하는 비디오 인코더이다.

도 1에 도시된 바와 같이, 인코더(100)는 이미지를 블록 단위로 인코딩하는 장치이고, 분할부(102), 감산부(104), 변환부(106), 양자화부(108), 엔트로피 인코더(110), 역양자화부(112), 역변환부(114), 가산부(116), 블록 메모리(118), 루프 필터(120), 프레임 메모리(122), 인트라 예측부(124), 인터 예측부(126), 및 예측 제어부(128)를 포함한다.

인코더(100)는 예를 들어 일반적인 프로세서 및 메모리로 구현된다. 이 경우, 메모리에 저장된 소프트웨어 프로그램이 프로세서에 의해 실행될 때, 프로세서는 분할부(102), 감산부(104), 변환부(106), 양자화부(108), 엔트로피 인코더(110), 역양자화부(112), 역변환부(114), 가산부(116), 루프 필터(120), 인트라 예측부(124), 인터 예측부(126) 및 예측 제어부(128)로서 기능한다. 대안적으로, 인코더(100)는 분할부(102), 감산부(104), 변환부(106), 양자화부(108), 엔트로피 인코더(110), 역양자화부(112), 역변환부(114), 가산부(116), 루프 필터(120), 인트라 예측부(124), 인터 예측부(126), 및 예측 제어부(128)에 대응하는 하나 이상의 전용 전자 회로로서 구현될 수 있다.

이하, 인코더(100)에 의해 수행되는 처리의 전체적인 흐름을 설명하고, 이후 인코더(100)에 포함된 각각의 구성 요소를 설명한다.

(인코딩 처리의 전체적인 흐름)

도 2는 인코더(100)에 의해 수행되는 전체적인 인코딩 처리의 일례를 나타내는 흐름도이다.

먼저, 인코더(100)의 분할부(102)는 비디오인 입력 이미지에 포함된 각각의 화상을 고정된 크기(예를 들어, 128×128 픽셀)를 갖는 복수의 블록으로 분할한다(단계 Sa_1). 분할부(102)는 고정된 크기 블록에 대한 분할 패턴(블록 형상이라고도 함)을 선택한다(단계 Sa_2). 다시 말해, 분할부(102)는 고정된 크기 블록을 선택된 분할 패턴을 형성하는 복수의 블록으로 더 분할한다. 인코더(100)는 블록(즉, 인코딩할 현재 블록)에 대한 단계(Sa_3 내지 Sa_9)를 복수의 블록 각각에 대해 수행한다.

다시 말해, 인트라 예측부(124), 인터 예측부(126) 및 예측 제어부(128)의 전부 또는 일부를 포함하는 예측 프로세서는 인코딩될 현재 블록(현재 블록이라고도 함)의 예측 신호(예측 블록이라고도 함)를 생성한다(단계 Sa_3).

다음으로, 감산부(104)는 현재 블록과 예측 블록 간의 차이를 예측 잔차(차이 블록이라고도 함)로서 생성한다(단계 Sa_4).

다음으로, 변환부(106)는 차이 블록을 변환하고, 양자화부(108)는 결과를 양자화하여 복수의 양자화된 계수를 생성한다(단계 Sa_5). 복수의 양자화된 계수를 갖는 블록은 계수 블록이라고도 한다는 것이 주목된다.

다음으로, 엔트로피 인코더(110)는 계수 블록, 및 예측 신호의 생성과 관련된 예측 파라미터를 인코딩(구체적으로는 엔트로피 인코딩)하여 인코딩된 신호를 생성한다(단계 Sa_6). 인코딩된 신호는 또한 인코딩된 비트스트림, 압축된 비트스트림 또는 스트림이라고도 칭한다는 것이 주목된다.

다음으로, 역양자화부(112)는 계수 블록의 역양자화를 수행하고, 역변환부(114)는 결과의 역변환을 수행하여 복수의 예측 잔차(즉, 차이 블록)를 복원한다(단계 Sa_7).

다음으로, 가산부(116)는 복원된 차이 블록에 예측 블록을 가산하여 현재 블록을 재구성된 이미지(재구성된 블록 또는 디코딩된 이미지 블록이라고도 칭함)로서 재구성한다(단계 Sa_8). 이러한 방식으로, 재구성된 이미지가 생성된다.

재구성된 이미지가 생성되면 루프 필터(120)는 필요에 따라 재구성된 이미지의 필터링을 수행한다(단계 Sa_9).

그런 다음 인코더(100)는 전체 화상의 인코딩이 완료되었는지 여부를 결정한다(단계 Sa_10). 인코딩이 아직 완료되지 않은 것으로 결정된 경우(단계 Sa_10에서 아니오), 단계(Sa_2)부터의 처리가 반복적으로 실행된다.

인코더(100)는 고정된 크기 블록에 대해 하나의 분할 패턴을 선택하고, 전술한 예에서 분할 패턴에 따라 각각의 블록을 인코딩하지만, 각각의 블록은 복수의 분할 패턴 중 대응하는 분할 패턴에 따라 인코딩될 수 있다는 것이 주목된다. 이 경우, 인코더(100)는 복수의 분할 패턴 각각에 대해 비용을 평가할 수 있고, 예를 들어, 가장 적은 비용을 산출하는 분할 패턴에 따라 인코딩하는 것을 통해 획득될 수 있는 인코딩된 신호를 출력되는 인코딩된 신호로서 선택할 수 있다.

예시된 바와 같이, 단계(Sa_1 내지 Sa_10)의 처리는 인코더(100)에 의해 순차적으로 수행된다. 대안적으로, 2개 이상의 처리는 병렬로 수행될 수 있고, 처리는 재정렬될 수 있는 등이 수행될 수 있다.

(분할부)

분할부(102)는 입력 비디오에 포함된 각각의 화상을 복수의 블록으로 분할하고, 각각의 블록을 감산부(104)에 출력한다. 예를 들어, 분할부(102)는 먼저 화상을 고정된 크기(예를 들어, 128×128)의 블록으로 분할한다. 다른 고정된 블록 크기가 사용될 수 있다. 고정된 크기 블록은 코딩 트리 단위(coding tree unit: CTU)라고도 한다. 그런 다음 분할부(102)는 재귀적인 4진 트리 및/또는 2진 트리 블록 분할에 기초하여 각각의 고정된 크기 블록을 가변 크기의 블록(예를 들어, 64×64 이하)으로 분할한다. 다시 말해, 분할부(102)는 분할 패턴을 선택한다. 가변 크기 블록은 코딩 단위(CU), 예측 단위(PU) 또는 변환 단위(TU)라고도 한다. 다양한 종류의 처리 예에서 CU, PU 및 TU 간을 구별할 필요가 없고, 화상의 블록의 전부 또는 일부는 CU, PU 또는 TU 단위로 처리될 수 있다는 것이 주목된다.

도 3은 일 실시예에 따른 블록 분할의 일례를 예시하는 개념도이다. 도 3에서 실선은 4진 트리 블록 분할에 의해 분할된 블록의 블록 경계를 나타내고, 파선은 2진 트리 블록 분할에 의해 분할된 블록의 블록 경계를 나타낸다.

여기서, 블록(10)은 128×128 픽셀을 갖는 정사각형 블록(128×128 블록)이다. 이 128×128 블록(10)은 먼저 4개의 정사각형 64×64 블록으로 분할된다(4진 트리 블록 분할).

좌측 상위 64×64 블록은 2개의 직사각형 32×64 블록으로 수직으로 더 분할되고, 좌측 32×64 블록은 2개의 직사각형 16×64 블록으로 수직으로 더 분할된다(2진 트리 블록 분할). 그 결과, 좌측 상위 64×64 블록은 2개의 16×64 블록(11 및 12) 및 하나의 32×64 블록(13)으로 분할된다.

우측 상위 64×64 블록은 2개의 직사각형 64×32 블록(14 및 15)으로 수평으로 분할된다(2진 트리 블록 분할).

좌측 하위 64×64 블록은 먼저 4개의 정사각형 32×32 블록으로 분할된다(4진 트리 블록 분할). 4개의 32×32 블록 중 좌측 상위 블록과 우측 하위 블록이 더 분할된다. 좌측 상위 32×32 블록은 2개의 직사각형 16×32 블록으로 수직으로 분할되고, 우측 16×32 블록은 2개의 16×16 블록으로 수평으로 더 분할된다(2진 트리 블록 분할). 우측 하위 32×32 블록은 2개의 32×16 블록으로 수평으로 분할된다(2진 트리 블록 분할). 그 결과, 좌측 하위 64×64 블록은 16×32 블록(16), 2개의 16×16 블록(17 및 18), 2개의 32×32 블록(19 및 20), 2개의 32×16 블록(21 및 22)으로 분할된다.

우측 하위 64×64 블록(23)은 분할되지 않는다.

위에서 설명한 바와 같이, 도 3에서, 블록(10)은 재귀적인 4진 트리 및 2진 트리 블록 분할에 기초하여 13개의 가변 크기 블록(11 내지 23)으로 분할된다. 이러한 유형의 분할은 4진 트리 플러스 2진 트리(quadtree plus binary tree: QTBT) 분할이라고도 한다.

도 3에서, 하나의 블록은 4개의 또는 2개의 블록으로 분할되지만(4진 트리 또는 2진 트리 블록 분할), 분할은 이들 예로 제한되지 않는다는 것이 주목된다. 예를 들어, 하나의 블록은 3개의 블록으로 분할될 수 있다(3진 블록(ternary block) 분할). 이러한 3진 블록 분할을 포함하는 분할은 다중 유형 트리(Multi-Type Tree: MBT) 분할이라고도 한다.

(화상 구조 : 슬라이스/타일)

화상은 화상을 병렬로 디코딩하기 위해 하나 이상의 슬라이스 또는 타일 단위로 구성될 수 있다. 하나 이상의 슬라이스 또는 타일 단위로 구성된 화상은 분할부(102)에 의해 구성될 수 있다.

슬라이스는 화상에 포함된 기본 인코딩 단위이다. 화상은 예를 들어 하나 이상의 슬라이스를 포함할 수 있다. 추가로, 슬라이스는 하나 이상의 연속적인 코딩 트리 단위(CTU)를 포함한다.

도 4a는 슬라이스 구성의 일례를 예시하는 개념도이다. 예를 들어, 화상은 11×8 CTU를 포함하고, 4개의 슬라이스(슬라이스 1 내지 4)로 분할된다. 슬라이스 1은 16개의 CTU를 포함하고, 슬라이스 2는 21개의 CTU를 포함하고, 슬라이스 3은 29개의 CTU를 포함하고, 슬라이스 4는 22개의 CTU를 포함한다. 여기서 화상의 각각의 CTU는 슬라이스들 중 하나에 속한다. 각각의 슬라이스의 형상은 화상을 수평으로 분할하여 얻을 수 있는 형상이다. 각각의 슬라이스의 경계는 이미지 끝과 일치할 필요가 없으며, 이미지의 CTU 사이의 임의의 경계와 일치할 수 있다. 슬라이스에서 CTU의 처리 순서(인코딩 순서 또는 디코딩 순서)는 예를 들어 래스터-스캔 순서이다. 슬라이스는 헤더 정보와 인코딩된 데이터를 포함한다. 슬라이스의 특징은 헤더 정보에서 설명될 수 있다. 특징은 슬라이스에서 상부 CTU의 CTU 어드레스, 슬라이스 유형 등을 포함한다.

타일은 화상에 포함된 직사각형 영역의 단위이다. 각각의 타일에는 래스터 스캔 순서로 타일Id라고 하는 번호가 할당될 수 있다.

도 4b는 타일 구성의 일례를 나타내는 개념도이다. 예를 들어, 화상은 11×8 CTU를 포함하고, 직사각형 영역의 4개의 타일(타일 1 내지 타일 4)로 분할된다. 타일이 사용될 때, CTU의 처리 순서는 타일이 사용되지 않는 경우의 처리 순서와는 다르다. 타일이 사용되지 않는 경우 화상의 CTU는 래스터 스캔 순서로 처리된다. 타일이 사용되는 경우 각각의 타일에서 적어도 하나의 CTU가 래스터 스캔 순서로 처리된다. 예를 들어, 도 4b에 예시된 바와 같이, 타일 1에 포함된 CTU의 처리 순서는 타일 1의 제1 행의 좌측 끝에서부터 시작하여 타일 1의 제1 행의 우측 끝을 향하고 그런 다음 타일 1의 제2 행의 좌측 끝에서부터 시작하여 타일 1의 제2 행의 우측 끝을 향하는 순서이다.

하나의 타일은 하나 이상의 슬라이스를 포함할 수 있고, 하나의 슬라이스는 하나 이상의 타일을 포함할 수 있다는 것이 주목된다.

(감산부)

감산부(104)는 분할부(102)로부터 입력되고 분할부(102)에 의해 분할된 블록 단위로 원본 신호(원본 샘플)로부터 예측 신호(아래에 표시된 예측 제어부(128)로부터 입력되는 예측 샘플)를 감산한다. 다시 말해, 감산부(104)는 인코딩될 블록(이하 현재 블록이라고도 함)의 예측 오차(잔차라고도 함)를 계산한다. 그런 다음 감산부(104)는 계산된 예측 오차(잔차)를 변환부(106)로 출력한다.

원본 신호는 인코더(100)에 입력된 신호로서, 비디오(예를 들어, 루마 신호와 2개의 크로마 신호)에 포함된 각각의 화상의 이미지를 나타낸다. 이하에서는 이미지를 나타내는 신호는 샘플이라고도 한다.

(변환부)

변환부(106)는 공간 도메인의 예측 오차를 주파수 도메인의 변환 계수로 변환하고, 변환 계수를 양자화부(108)에 출력한다. 보다 구체적으로, 변환부(106)는 예를 들어 정의된 이산 코사인 변환(DCT) 또는 이산 사인 변환(DST)을 공간 도메인의 예측 오차에 적용한다. 정의된 DCT 또는 DST는 미리 정의될 수 있다.

변환부(106)는 복수의 변환 유형 중에서부터 변환 유형을 적응적으로 선택할 수 있고, 선택된 변환 유형에 대응하는 변환 기저 함수를 사용하여 예측 오차를 변환 계수로 변환할 수 있다. 이러한 종류의 변환은 명시적 다중 코어 변환(explicit multiple core transform: EMT) 또는 적응적 다중 변환(adaptive multiple transform: AMT)이라고도 한다.

변환 유형은 예를 들어 DCT-II, DCT-V, DCT-VIII, DST-I 및 DST-VII를 포함한다. 도 5a는 예시적인 변환 유형에 대한 변환 기저 함수를 나타내는 차트이다. 도 5a에서, N은 입력 픽셀의 수를 나타낸다. 예를 들어, 복수의 변환 유형 중에서 변환 유형을 선택하는 것은 예측 유형(인트라 예측과 인터 예측 중 하나)에 의존할 수 있고, 인트라 예측 모드에 의존할 수 있다.

이러한 EMT 또는 AMT 적용 여부를 나타내는 정보(예를 들어, EMT 플래그 또는 AMT 플래그라고 함) 및 선택한 변환 유형을 나타내는 정보는 일반적으로 CU 레벨에서 신호화된다. 이러한 정보의 신호화는 반드시 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 비트 시퀀스 레벨, 화상 레벨, 슬라이스 레벨, 타일 레벨 또는 CTU 레벨)에서 수행될 수 있다는 것이 주목된다.

또한, 변환부(106)는 변환 계수(변환 결과)를 재변환할 수 있다. 이러한 재변환은 적응적 2차 변환(Adaptive Secondary transform: AST) 또는 분리 불가능한 2차 변환(non-separable secondary transform: NSST)라고도 한다. 예를 들어, 변환부(106)는 인트라 예측 오차에 대응하는 변환 계수 블록에 포함된 서브 블록(예를 들어, 4×4 서브 블록) 단위로 재변환을 수행한다. NSST 적용 여부를 나타내는 정보와 NSST에서 사용하기 위한 변환 행렬과 관련된 정보는 일반적으로 CU 레벨에서 신호화된다. 이러한 정보의 신호화는 반드시 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 화상 레벨, 슬라이스 레벨, 타일 레벨 또는 CTU 레벨)에서 수행될 수 있다는 것이 주목된다.

변환부(106)는 분리 가능한 변환 및 분리 불가능한 변환을 사용할 수 있다. 분리 가능한 변환은 입력의 차원 수에 따라 다수의 방향 각각에 대해 개별적으로 변환을 수행함으로써 복수 회 변환을 수행하는 방법이다. 분리 불가능한 변환은 다차원 입력에서 2개 이상의 차원을 집합적으로 단일 차원으로 간주하는, 집합적 변환을 수행하는 방법이다.

분리 불가능한 변환의 일례에서, 입력이 4×4 블록인 경우, 4×4 블록은 16개의 요소를 포함하는 단일 어레이로 간주되고, 변환은 16×16 변환 행렬을 어레이에 적용한다.

분리 불가능한 변환의 다른 예에서, 4×4 입력 블록은 16개의 요소를 포함하는 단일 어레이로 간주되고, 그런 다음 어레이에 주어진 회전을 복수 회 수행하는 변환(하이퍼큐브(hypercube)가 제공된 변환)이 수행될 수 있다.

변환부(106)에서의 변환에서, CU의 영역에 따라 주파수 도메인으로 변환될기저의 유형은 전환될 수 있다. 예로는 공간적으로 변하는 변환(Spatially Varying Transform: SVT)을 포함한다. SVT에서, 도 5b에 예시된 바와 같이, CU는 수평 또는 수직으로 2개의 동일한 영역으로 분할되고, 영역 중 하나만이 주파수 도메인으로 변환된다. 변환 기저 유형은 각각의 영역마다 설정될 수 있다. 예를 들어, DST7 및 DST8이 사용된다. 이 예에서는, CU의 두 영역 중 하나의 영역만이 변환되고, 다른 영역은 변환되지 않는다. 그러나 이 두 영역은 모두 변환될 수 있다. 또한, 분할 방법은 2개의 동일한 영역으로 분할하는 것으로 제한되지 않고 보다 유연할 수 있다. 예를 들어, CU는 4개의 동일한 영역으로 분할될 수 있고, 또는 분할을 나타내는 정보는 개별적으로 인코딩되어 CU 분할과 동일한 방식으로 신호화될 수 있다. SVT는 또한 서브 블록 변환(sub-block transform: SBT)이라고도 한다는 것이 주목된다.

(양자화부)

양자화부(108)는 변환부(106)로부터 출력된 변환 계수를 양자화한다. 보다 구체적으로, 양자화부(108)는 결정된 스캔 순서로 현재 블록의 변환 계수를 스캔하고, 변환 계수에 대응하는 양자화 파라미터(QP)에 기초하여 스캔된 변환 계수를 양자화한다. 양자화부(108)는 현재 블록의 양자화된 변환 계수(이하 양자화 계수라고도 함)를 엔트로피 인코더(110) 및 역양자화부(112)에 출력한다. 결정된 스캔 순서는 미리 결정될 수 있다.

결정된 스캔 순서는 변환 계수를 양자화/역양자화하는 순서이다. 예를 들어, 결정된 스캔 순서는 주파수의 오름차순으로(낮은 주파수에서부터 높은 주파수로) 또는 주파수의 내림차순으로(높은 주파수에서부터 낮은 주파수로) 정해질 수 있다.

양자화 파라미터(QP)는 양자화 단계(양자화 폭)를 정하는 파라미터이다. 예를 들어, 양자화 파라미터의 값이 증가하면 양자화 단계도 증가한다. 다시 말해, 양자화 파라미터의 값이 증가하면 양자화 오차는 증가한다.

또한, 양자화를 위해 양자화 행렬이 사용될 수 있다. 예를 들어, 여러 종류의 양자화 행렬이 4×4 및 8×8과 같은 주파수 변환 크기, 인트라 예측 및 인터 예측과 같은 예측 모드, 루마 및 크로마 픽셀 성분과 같은 픽셀 성분에 대응하여 사용될 수 있다. 양자화는 결정된 레벨에 대응하여 결정된 간격으로 샘플링된 값을 디지털화하는 것을 의미한다는 것이 주목된다. 이 기술 분야에서, 양자화는 반올림 및 스케일링과 같은 다른 표현을 사용하여 언급될 수 있으며, 반올림 및 스케일링을 사용할 수 있다. 결정된 간격 및 레벨은 미리 결정될 수 있다.

양자화 행렬을 사용하는 방법은 인코더 측에서 직접 설정된 양자화 행렬을 사용하는 방법, 및 디폴트로 설정된 양자화 행렬(디폴트 행렬)을 사용하는 방법을 포함한다. 인코더 측에서 이미지의 특징에 적합한 양자화 행렬은 양자화 행렬을 직접 설정함으로써 설정될 수 있다. 그러나 이 경우, 양자화 행렬을 인코딩하는 코딩 량이 증가하는 단점이 있다.

양자화 행렬을 사용하지 않고 고주파 계수와 저주파 계수를 양자화하는 방법이 있다. 이 방법은 계수가 동일한 값을 갖는 양자화 행렬(플랫 행렬)을 사용하는 방법과 등가라는 것이 주목된다.

양자화 행렬은 예를 들어, 시퀀스 파라미터 세트(sequence parameter set: SPS) 또는 화상 파라미터 세트(picture parameter set: PPS)를 사용하여 지정될 수 있다. SPS는 시퀀스에 사용되는 파라미터를 포함하고, PPS는 화상에 사용되는 파라미터를 포함한다. SPS 및 PPS 각각은 단순히 파라미터 세트라고 할 수 있다.

(엔트로피 인코더)

엔트로피 인코더(110)는 양자화부(108)로부터 입력된 양자화된 계수에 기초하여 인코딩된 신호(인코딩된 비트스트림)를 생성한다. 보다 구체적으로, 엔트로피 인코더(110)는 예를 들어 양자화된 계수를 이진화하고, 2진 신호를 산술적으로 인코딩하고, 압축된 비트 스트림 또는 시퀀스를 출력한다.

(역양자화부)

역양자화부(112)는 양자화부(108)로부터 입력된 양자화된 계수를 역양자화한다. 보다 구체적으로, 역양자화부(112)는 현재 블록의 양자화된 계수를 결정된 스캔 순서로 역양자화한다. 그런 다음 역양자화부(112)는 현재 블록의 역양자화된 변환 계수를 역변환부(114)로 출력한다. 결정된 스캔 순서는 미리 결정될 수 있다.

(역변환부)

역변환부(114)는 역양자화부(112)로부터 입력된 변환 계수를 역변환함으로써 예측 오차(잔차)를 복원한다. 보다 구체적으로, 역변환부(114)는 변환부(106)에 의해 적용된 변환에 대응하는 역변환을 변환 계수에 적용함으로써 현재 블록의 예측 오차를 복원한다. 그런 다음 역변환부(114)는 복원된 예측 오차를 가산부(116)에 출력한다.

정보가 양자화 시에 손실되기 때문에 복원된 예측 오차는 감산부(104)에 의해 계산된 예측 오차와 일치하지 않는다는 것이 주목된다. 다시 말해, 복원된 예측 오차는 일반적으로 양자화 오차를 포함한다.

(가산부)

가산부(116)는 역변환부(114)로부터 입력된 예측 오차와, 예측 제어부(128)로부터 입력된 예측 샘플을 가산함으로써 현재 블록을 재구성한다. 그런 다음 가산부(116)는 재구성된 블록을 블록 메모리(118) 및 루프 필터(120)에 출력한다. 재구성된 블록은 로컬 디코딩된 블록이라고도 한다.

(블록 메모리)

블록 메모리(118)는 예를 들어 인트라 예측에서 참조되는 인코딩될 화상(이하 현재 화상이라고 함)에 블록을 저장하기 위한 저장 매체이다. 보다 구체적으로, 블록 메모리(118)는 가산부(116)로부터 출력된 재구성된 블록을 저장한다.

(프레임 메모리)

프레임 메모리(122)는 예를 들어 인터 예측에 사용하기 위한 참조 화상을 저장하기 위한 저장 매체이며, 프레임 버퍼라고도 한다. 보다 구체적으로, 프레임 메모리(122)는 루프 필터(120)에 의해 필터링된 재구성된 블록을 저장한다.

(루프 필터)

루프 필터(120)는 가산부(116)에 의해 재구성된 블록에 루프 필터를 적용하고, 필터링된 재구성된 블록을 프레임 메모리(122)에 출력한다. 루프 필터는 인코딩 루프(인루프 필터)에서 사용되는 필터로서, 예를 들어, 디블로킹 필터(DF 또는 DBF), 샘플 적응 오프셋(sample adaptive offset: SAO), 및 적응적 루프 필터(ALF)를 포함한다.

ALF에서, 압축 아티팩트를 제거하기 위한 최소 제곱 오차 필터가 적용된다. 예를 들어, 로컬 구배의 방향 및 활동에 기초하여 복수의 필터 중에서 선택된 하나의 필터가 현재 블록의 2×2 서브 블록 각각에 적용된다.

보다 구체적으로, 먼저, 각각의 서브 블록(예를 들어, 각각의 2×2 서브 블록)은 복수의 클래스(예를 들어, 15개의 또는 25개의 클래스) 중 하나로 분류된다. 서브 블록의 분류는 구배 방향 및 활동에 기초한다. 예를 들어 분류 인덱스(C)(예를 들어, C = 5D + A)는 구배 방향(D)(예를 들어, 0 내지 2 또는 0 내지 4) 및 구배 활동(A)(예를 들어, 0 내지 4)에 기초하여 도출된다. 그런 다음, 분류 인덱스(C)에 기초하여 각각의 서브 블록은 복수의 클래스 중 하나로 분류된다.

예를 들어, 구배 방향(D)은 복수의 방향(예를 들어, 수평, 수직 및 2개의 대각선 방향)의 구배를 비교함으로써 계산된다. 또한, 예를 들어, 구배 활동(A)은 복수의 방향의 구배를 가산하고 가산의 결과를 양자화함으로써 계산된다.

각각의 서브 블록에 사용될 필터는 이러한 분류의 결과에 기초하여 복수의 필터 중에서 결정된다.

ALF에서 사용되는 필터 형상은 예를 들어 원형 대칭 필터 형상이다. 도 6a 내지 도 6c는 ALF에서 사용되는 필터 형상의 예를 예시한다. 도 6a는 5×5 다이아몬드 형상 필터를 예시하고, 도 6b는 7×7 다이아몬드 형상 필터를 예시하며, 도 6c는 9×9 다이아몬드 형상 필터를 예시한다. 필터 형상을 나타내는 정보는 일반적으로 화상 레벨에서 신호화된다. 필터 형상을 나타내는 이러한 정보의 신호화는 반드시 화상 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 슬라이스 레벨, 타일 레벨, CTU 레벨, 또는 CU 레벨)에서 수행될 수 있다는 것이 주목된다.

ALF의 온(ON) 또는 오프(OFF)는 예를 들어 화상 레벨 또는 CU 레벨에서 결정된다. 예를 들어, 루마에 ALF를 적용할지 여부는 CU 레벨에서 결정될 수 있고, 크로마에 ALF를 적용할지 여부는 화상 레벨에서 결정될 수 있다. ALF의 온 또는 오프를 나타내는 정보는 일반적으로 화상 레벨 또는 CU 레벨에서 신호화된다. ALF의 온 또는 오프를 나타내는 정보의 신호화는 반드시 화상 레벨 또는 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 슬라이스 레벨, 타일 레벨, 또는 CTU 레벨)에서 수행될 수 있다는 것이 주목된다.

복수의 선택 가능한 필터(예를 들어, 15개의 또는 최대 25개의 필터)에 대한 계수 세트는 일반적으로 화상 레벨에서 신호화된다. 계수 세트의 신호화는 반드시 화상 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 슬라이스 레벨, 타일 레벨, CTU 레벨, CU 레벨, 서브 블록 레벨)에서 수행될 수 있다는 것이 주목된다.

(루프 필터 > 디블로킹 필터)

디블록킹 필터에서, 루프 필터(120)는 블록 경계에서 발생하는 왜곡을 줄이기 위해 재구성된 이미지의 블록 경계에서 필터 처리를 수행한다.

도 7은 디블로킹 필터로서 기능하는 루프 필터(120)의 구체적인 구성의 일례를 예시하는 블록도이다.

루프 필터(120)는 경계 결정부(1201); 필터 결정부(1203); 필터링 실행부(1205); 처리 결정부(1208); 필터 특성 결정부(1207); 및 전환부(switch)(1202, 1204 및 1206)를 포함한다.

경계 결정부(1201)는 디블록킹 필터링될 픽셀(즉, 현재 픽셀)이 블록 경계 주위에 존재하는지 여부를 결정한다. 경계 결정부(1201)는 그런 다음 결정 결과를 전환부(1202) 및 처리 결정부(1208)에 출력한다.

경계 결정부(1201)가 현재 픽셀이 블록 경계 주위에 존재한다고 결정한 경우, 전환부(1202)는 필터링되지 않은 이미지를 전환부(1204)에 출력한다. 경계 결정부(1201)가 현재 픽셀이 블록 경계 주위에 존재하지 않는다고 결정한 반대의 경우, 전환부(1202)는 필터링되지 않은 이미지를 전환부(1206)로 출력한다.

필터 결정부(1203)는 현재 픽셀 주위에 위치된 적어도 하나의 주변 픽셀의 픽셀 값에 기초하여 현재 픽셀의 디블록킹 필터링을 수행할지 여부를 결정한다. 필터 결정부(1203)는 결정 결과를 전환부(1204) 및 처리 결정부(1208)에 출력한다.

필터 결정부(1203)가 현재 픽셀의 디블로킹 필터링을 수행하기로 결정한 경우, 전환부(1204)는 전환부(1202)를 통해 획득된 필터링되지 않은 이미지를 필터링 실행부(1205)로 출력한다. 필터 결정부(1203)가 현재 픽셀의 디블로킹 필터링을 수행하지 않기로 결정한 반대의 경우, 전환부(1204)는 전환부(1202)를 통해 획득된 필터링되지 않은 이미지를 전환부(1206)로 출력한다.

필터링되지 않은 이미지를 전환부(1202 및 1204)를 통해 획득할 때, 필터링 실행부(1205)는 필터 특성 결정부(1207)에 의해 결정된 필터 특성을 사용하여 현재 픽셀에 디블로킹 필터링을 실행한다. 그런 다음 필터링 실행부(1205)는 필터링된 픽셀을 전환부(1206)로 출력한다.

처리 결정부(1208)에 의한 제어 하에, 전환부(1206)는 필터링 실행부(1205)에 의해 디블록킹 필터링되지 않은 픽셀과, 디블록킹 필터링된 픽셀을 선택적으로 출력한다.

처리 결정부(1208)는 경계 결정부(1201) 및 필터 결정부(1203)에 의해 결정된 결과에 기초하여 전환부(1206)를 제어한다. 다시 말해, 경계 결정부(1201)가 현재 픽셀이 블록 경계 주위에 존재한다고 결정하고, 필터 결정부(1203)가 현재 픽셀의 디블록킹 필터링을 수행하기로 결정했을 때, 처리 결정부(1208)는 전환부(1206)가 디블록킹 필터링된 픽셀을 출력하게 한다. 또한, 상기 경우 이외에, 처리 결정부(1208)는 전환부(1206)가 디블록킹 필터링되지 않은 픽셀을 출력하게 한다. 필터링된 이미지는 이러한 방식으로 픽셀의 출력을 반복함으로써 전환부(1206)로부터 출력된다.

도 8은 블록 경계에 대해 대칭 필터링 특성을 갖는 디블록킹 필터의 일례를 나타내는 개념도이다.

디블로킹 필터 처리에서는, 픽셀 값과 양자화 파라미터를 사용하여 서로 다른 특성을 갖는 2개의 디블로킹 필터, 즉 강한 필터와 약한 필터 중 하나를 선택한다. 강한 필터의 경우, 도 8에 예시된 바와 같이 블록 경계에 걸쳐 픽셀(p0 내지 p2) 및 픽셀(q0 내지 q2)이 존재하고, 각각의 픽셀(q0 내지 q2)의 픽셀 값은, 예를 들어, 이하의 수식에 따라 연산을 수행함으로써 픽셀 값(q'0 내지 q'2)으로 변한다.

q'0 = (p1 + 2 × p0 + 2 × q0 + 2 × q1 + q2 + 4)/8

q'1 = (p0 + q0 + q1 + q2 + 2)/4

q'2 = (p0 + q0 + q1 + 3 × q2 + 2 × q3 + 4)/8

상기 수식에서, p0 내지 p2 및 q0 내지 q2는 각각의 픽셀(p0 내지 p2) 및 픽셀(q0 내지 q2)의 픽셀 값이라는 것이 주목된다. 또한, q3은 블록 경계에 대해 픽셀(q2)의 반대쪽에 위치된 이웃하는 픽셀(q3)의 픽셀 값이다. 또한, 각각의 수식의 우측에서 디블록킹 필터링에 사용되는 픽셀의 각각의 픽셀 값과 곱해진 계수는 필터 계수이다.

또한, 디블록킹 필터링에서는 계산된 픽셀 값이 임계값을 넘게 설정되지 않도록 클리핑(clipping)을 수행할 수 있다. 클리핑 처리에서, 상기 수식에 따라 계산된 픽셀 값은 양자화 파라미터에 기초하여 결정된 임계 값을 사용하여 "연산 픽셀값 ±2×임계값"에 따라 얻어진 값으로 클리핑된다. 이러한 방식으로, 과도한 평활화를 방지할 수 있다.

도 9는 디블로킹 필터 처리가 수행되는 블록 경계를 예시하기 위한 개념도이다. 도 10은 Bs 값의 예를 나타내는 개념도이다.

디블로킹 필터 처리가 수행되는 블록 경계는 예를 들어, 도 9에 예시된 8×8 픽셀 블록을 갖는 예측 단위(PU) 사이의 경계 또는 변환 단위(TU) 사이의 경계이다. 디블록킹 필터 처리는 4개의 행 또는 4개의 열 단위로 수행될 수 있다. 먼저, 경계 강도(Bs) 값은 도 9에 예시된 블록(P) 및 블록(Q)에 대해 도 10에 표시된 바와 같이 결정된다.

도 10의 Bs 값에 따르면, 상이한 강도를 사용하여 동일한 이미지에 속하는 블록 경계의 디블로킹 필터 처리를 수행할지 여부를 결정한다. 크로마 신호에 대한 디블록킹 필터 처리는 Bs 값이 2일 때 수행된다. 루마 신호에 대한 디블록킹 필터 처리는 Bs 값이 1 이상이고 결정된 조건이 충족될 때 수행된다. 결정된 조건은 미리 결정될 수 있다. Bs 값을 결정하기 위한 조건은 도 10에 표시된 조건으로 제한되지 않고, Bs 값은 다른 파라미터에 기초하여 결정될 수 있다는 것이 주목된다.

(예측 프로세서(인트라 예측부, 인터 예측부, 예측 제어부))

도 11은 인코더(100)의 예측 프로세서에 의해 수행되는 처리의 일례를 예시하는 흐름도이다. 예측 프로세서는 다음 구성 요소, 즉 인트라 예측부(124); 인터 예측부(126); 및 예측 제어부(128)의 전부 또는 일부를 포함한다는 것이 주목된다.

예측 프로세서는 현재 블록의 예측 이미지를 생성한다(단계 Sb_1). 이 예측 이미지는 예측 신호 또는 예측 블록이라고도 한다. 예측 신호는 예를 들어 인트라 예측 신호 또는 인터 예측 신호라는 것이 주목된다. 구체적으로, 예측 프로세서는 예측 블록의 생성, 차이 블록의 생성, 계수 블록의 생성, 차이 블록의 복원 및 디코딩된 이미지 블록의 생성을 통해 이미 획득된 재구성된 이미지를 이용하여 현재 블록의 예측 이미지를 생성한다.

재구성된 이미지는, 예를 들어, 참조 화상의 이미지일 수 있고, 또는 현재 블록을 포함하는 화상인 현재 화상의 인코딩된 블록의 이미지일 수 있다. 현재 화상에서 인코딩된 블록은 예를 들어 현재 블록의 이웃한 블록이다.

도 12는 인코더(100)의 예측 프로세서에 의해 수행되는 처리의 다른 예를 예시하는 흐름도이다.

예측 프로세서는 제1 방법을 사용하여 예측 이미지를 생성하고(단계 Sc_1a), 제2 방법을 사용하여 예측 이미지를 생성하고(단계 Sc_1b), 제3 방법을 사용하여 예측 이미지를 생성한다(단계 Sc_1c). 제1 방법, 제2 방법 및 제3 방법은 예측 이미지를 생성하는 서로 상이한 방법일 수 있다. 제1 방법 내지 제3 방법 각각은 인터 예측 방법, 인트라 예측 방법 또는 다른 예측 방법일 수 있다. 이러한 예측 방법에는 전술한 재구성된 이미지가 사용될 수 있다.

다음으로, 예측 프로세서는 단계(Sc_1a, Sc_1b 및 Sc_1c)에서 생성된 복수의 예측 방법 중 임의의 방법을 선택한다(단계 Sc_2). 예측 이미지의 선택, 즉 최종 예측 이미지를 획득하는 방법 또는 모드의 선택은 생성된 예측 이미지 각각에 대한 비용을 계산하고, 비용에 기초하여 이루어질 수 있다. 대안적으로, 예측 이미지의 선택은 인코딩 처리에서 사용되는 파라미터에 기초하여 이루어질 수 있다. 인코더(100)는 선택된 예측 이미지, 방법 또는 모드를 식별하기 위한 정보를 인코딩된 신호(인코딩된 비트스트림이라고도 함)로 변환할 수 있다. 정보는 예를 들어 플래그 등일 수 있다. 이러한 방식으로, 디코더는 인코더(100)의 정보에 기초하여 선택된 방법 또는 모드에 따라 예측 이미지를 생성할 수 있다. 도 12에 도시된 예에서, 예측 프로세서는 각각의 방법을 사용하여 예측 이미지를 생성한 후 임의의 예측 이미지를 선택한다는 것이 주목된다. 그러나, 예측 프로세서는 예측 이미지를 생성하기 전에 전술한 인코딩 처리에서 사용하기 위한 파라미터에 기초하여 방법 또는 모드를 선택할 수 있고, 선택된 방법 또는 모드에 따라 예측 이미지를 생성할 수 있다.

예를 들어, 제1 방법과 제2 방법은 각각 인트라 예측과 인터 예측일 수 있고, 예측 프로세서는 예측 방법에 따라 생성된 예측 이미지로부터 현재 블록에 대한 최종 예측 이미지를 선택할 수 있다.

도 13은 인코더(100)의 예측 프로세서에 의해 수행되는 처리의 다른 예를 예시하는 흐름도이다.

먼저, 예측 프로세서는 인트라 예측을 사용하여 예측 이미지를 생성하고(단계 Sd_1a), 인터 예측을 사용하여 예측 이미지를 생성한다(단계 Sd_1b). 인트라 예측에 의해 생성된 예측 이미지는 인트라 예측 이미지라고도 하고, 인터 예측에 의해 생성된 예측 이미지는 인터 예측 이미지라고도 한다는 것이 주목된다.

다음으로, 예측 프로세서는 인트라 예측 이미지와 인터 예측 이미지 각각을 평가한다(단계 Sd_2). 평가하는 데 비용이 사용될 수 있다. 다시 말해, 예측 프로세서는 인트라 예측 이미지와 인터 예측 이미지 각각에 대한 비용(C)을 계산한다. 비용(C)은 R-D 최적화 모델의 수식(예를 들어, C = D + λ× R)에 따라 계산될 수 있다. 이 수식에서, D는 예측 이미지의 코딩 왜곡을 나타내며, 예를 들어, 현재 블록의 픽셀 값과 예측 이미지의 픽셀 값 사이의 절대 차이의 합으로 표현된다. 또한, R은 예측 이미지의 예측된 코딩 량을 나타내고, 구체적으로는 예측 이미지를 생성하기 위한 움직임 정보 등을 인코딩하는데 필요한 코딩 량을 나타낸다. 또한, λ는 예를 들어 라그랑주 승수(Lagrange multiplier)의 방법에 따른 승수를 나타낸다.

그런 다음 예측 프로세서는 인트라 예측 이미지와 인터 예측 이미지 중에서 가장 작은 비용(C)으로 계산된 예측 이미지를 현재 블록에 대한 최종 예측 이미지로서 선택한다(단계 Sd_3). 다시 말해, 현재 블록에 대한 예측 이미지를 생성하기 위한 예측 방법 또는 모드가 선택된다.

(인트라 예측부)

인트라 예측부(124)는 현재 화상에 있고 블록 메모리(118)에 저장된 블록 또는 블록들을 참조하여 현재 블록의 인트라 예측(인트라 프레임 예측이라고도 함)을 수행함으로써 예측 신호(인트라 예측 신호)를 생성한다. 보다 구체적으로, 인트라 예측부(124)는 현재 블록에 이웃한 블록 또는 블록들의 샘플(예를 들어, 루마 및/또는 크로마 값)을 참조하여 인트라 예측을 수행함으로써 인트라 예측 신호를 생성하고, 인트라 예측 신호를 예측 제어부(128)로 출력한다.

예를 들어, 인트라 예측부(124)는 복수의 인트라 예측 모드 중에서 정해진 하나의 모드를 사용하여 인트라 예측을 수행한다. 인트라 예측 모드는 하나 이상의 비방향성 예측 모드 및 복수의 방향성 예측 모드를 포함한다. 정해진 모드는 미리 정해질 수 있다.

하나 이상의 비방향성 예측 모드는 예를 들어 H.265/HEVC(high-efficiency video coding) 표준에 정해진 평면 예측 모드 및 DC 예측 모드를 포함한다.

복수의 방향성 예측 모드는 예를 들어 H.265/HEVC 표준에 정해진 33개의 방향성 예측 모드를 포함한다. 복수의 방향성 예측 모드는 33개의 방향성 예측 모드에 더하여 32개의 방향성 예측 모드(총 65개의 방향성 예측 모드)를 더 포함할 수 있다는 것이 주목된다. 도 14는 인트라 예측에서 사용될 수 있는 총 67개의 인트라 예측 모드(2개의 비방향성 예측 모드 및 65개의 방향성 예측 모드)를 예시하는 개념도이다. 실선 화살표는 H.265/HEVC 표준에 정해진 33개의 방향을 나타내고, 파선 화살표는 추가 32개의 방향을 나타낸다(2개의 비방향성 예측 모드는 도 14에 예시되지 않음).

다양한 종류의 처리 예에서, 루마 블록은 크로마 블록의 인트라 예측에서 참조될 수 있다. 다시 말해, 현재 블록의 루마 성분에 기초하여 현재 블록의 크로마 성분을 예측할 수 있다. 이러한 인트라 예측은 성분 교차 선형 모델(cross-component linear model: CCLM) 예측이라고도 한다. 이러한 루마 블록을 참조하는 크로마 블록에 대한 인트라 예측 모드(예를 들어, CCLM 모드라고도 함)는 크로마 블록에 대한 인트라 예측 모드 중 하나로서 추가될 수 있다.

인트라 예측부(124)는 수평/수직 참조 픽셀 구배에 기초하여 인트라 예측된 픽셀 값을 보정할 수 있다. 이러한 종류의 보정을 수반하는 인트라 예측은 위치 의존 인트라 예측 결합(Position Dependent Intra Prediction Combination: PDPC)라고도 한다. PDPC 적용 여부를 나타내는 정보(예를 들어 PDPC 플래그라고 함)는 일반적으로 CU 레벨에서 신호화된다. 이러한 정보의 신호화는 반드시 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 화상 레벨, 슬라이스 레벨, 타일 레벨 또는 CTU 레벨)에서 수행될 수 있다는 것이 주목된다.

(인터 예측부)

인터 예측부(126)는 현재 화상과는 다르고 프레임 메모리(122)에 저장된 참조 화상의 블록 또는 블록들을 참조하여 현재 블록의 인터 예측(인터 프레임 예측이라고도 함)을 수행함으로써 예측 신호(인터 예측 신호)를 생성한다. 인터 예측은 현재 블록 또는 이 현재 블록에서의 현재 서브 블록(예를 들어, 4×4 블록) 단위로 수행된다. 예를 들어, 인터 예측부(126)는 현재 블록 또는 현재 서브 블록에 대해 참조 화상의 움직임 추정을 수행하고, 현재 블록 또는 현재 서브 블록과 가장 잘 매칭하는 참조 블록 또는 서브 블록을 찾는다. 그런 다음 인터 예측부(126)는 참조 블록 또는 서브 블록으로부터 현재 블록 또는 서브 블록으로 움직임 또는 변화를 보상하는 움직임 정보(예를 들어, 움직임 벡터)를 획득한다. 인터 예측부(126)는 움직임 정보에 기초하여 움직임 보상(또는 움직임 예측)을 수행함으로써 현재 블록 또는 서브 블록의 인터 예측 신호를 생성한다. 인터 예측부(126)는 생성된 인터 예측 신호를 예측 제어부(128)에 출력한다.

움직임 보상에 사용되는 움직임 정보는 다양한 형태의 인터 예측 신호로서 신호화될 수 있다. 예를 들어, 움직임 벡터가 신호화될 수 있다. 다른 예로서, 움직임 벡터와 움직임 벡터 예측자 사이의 차이가 신호화될 수 있다.

(인터 예측의 기본 흐름)

도 15는 인터 예측의 예시적인 기본 처리 흐름을 예시하는 흐름도이다.

먼저, 인터 예측부(126)는 예측 신호를 생성한다(단계 Se_1 내지 Se_3). 다음으로, 감산부(104)는 현재 블록과 예측 이미지 사이의 차이를 예측 잔차로서 생성한다(단계 Se_4).

여기서, 예측 이미지의 생성 시에 인터 예측부(126)는 현재 블록의 움직임 벡터(MV)의 결정(단계 Se_1 및 Se_2) 및 움직임 보상(단계 Se_3)을 통해 예측 이미지를 생성한다. 또한, MV를 결정할 때, 인터 예측부(126)는 움직임 벡터 후보(MV 후보)의 선택(단계 Se_1) 및 MV의 도출(단계 Se_2)을 통해 MV를 결정한다. MV 후보의 선택은 예를 들어 MV 후보 리스트로부터 적어도 하나의 MV 후보를 선택함으로써 이루어진다. 대안적으로, MV를 도출할 때, 인터 예측부(126)는 나아가 적어도 하나의 MV 후보로부터 적어도 하나의 MV 후보를 선택하고, 선택된 적어도 하나의 MV 후보를 현재 블록에 대한 MV로서 결정할 수 있다. 대안적으로, 인터 예측부(126)는 선택된 적어도 하나의 MV 후보 각각에 의해 지정된 참조 화상 영역에서 추정을 수행함으로써 현재 블록에 대한 MV를 결정할 수 있다. 참조 화상 영역에서 추정은 움직임 추정이라고 할 수 있다는 것이 주목된다.

또한, 전술한 예에서는 단계(Se_1 내지 Se_3)가 인터 예측부(126)에 의해 수행되지만, 예를 들어, 단계(Se_1), 단계(Se_2) 등의 처리는 인코더(100)에 포함된 다른 구성 요소에 의해 수행될 수 있다.

(움직임 벡터 도출 흐름)

도 16은 움직임 벡터를 도출하는 일례를 예시하는 흐름도이다.

인터 예측부(126)는 움직임 정보(예를 들어, MV)를 인코딩하는 모드에서 현재 블록의 MV를 도출한다. 이 경우, 예를 들어, 움직임 정보는 예측 파라미터로서 인코딩되어 신호화된다. 다시 말해, 인코딩된 움직임 정보는 인코딩된 신호(인코딩된 비트스트림이라고도 함)에 포함된다.

대안적으로, 인터 예측부(126)는 움직임 정보를 인코딩하지 않는 모드에서 MV를 도출한다. 이 경우에, 인코딩된 신호에는 움직임 정보가 포함되지 않는다.

여기서, MV 도출 모드는 후술하는 정상 인터 모드, 병합 모드, FRUC 모드, 아핀 모드 등을 포함할 수 있다. 모드들 중에서 움직임 정보를 인코딩하는 모드는 정상 인터 모드, 병합 모드, 아핀 모드(구체적으로는 아핀 인터 모드 및 아핀 병합 모드) 등을 포함한다. 움직임 정보는 MV를 포함할 뿐만 아니라 후술할 움직임 벡터 예측자 선택 정보를 포함할 수 있다는 것이 주목된다. 움직임 정보를 인코딩하지 않는 모드는 FRUC 모드 등을 포함한다. 인터 예측부(126)는 모드로부터 현재 블록의 MV를 도출하는 모드를 선택하고, 선택된 모드를 사용하여 현재 블록의 MV를 도출한다.

도 17은 움직임 벡터를 도출하는 다른 예를 예시하는 흐름도이다.

인터 예측부(126)는 MV 차이를 인코딩하는 모드에서 현재 블록의 MV를 도출한다. 이 경우, 예를 들어, MV 차이는 예측 파라미터로서 인코딩되고 신호화된다. 다시 말해, 인코딩된 MV 차이는 인코딩된 신호에 포함된다. MV 차이는 현재 블록의 MV와 MV 예측자 사이의 차이이다.

대안적으로, 인터 예측부(126)는 MV 차이를 인코딩하지 않는 모드에서 MV를 도출한다. 이 경우에, 인코딩된 신호에는 인코딩된 MV 차이가 포함되지 않는다.

여기서 전술한 바와 같이, MV 도출 모드는 후술하는 정상 인터 모드, 병합 모드, FRUC 모드, 아핀 모드 등을 포함한다. 모드 중에서 MV 차이를 인코딩하는 모드는 정상 인터 모드, 아핀 모드(구체적으로는 아핀 인터 모드) 등을 포함한다. MV 차이를 인코딩하지 않는 모드는 FRUC 모드, 병합 모드, 아핀 모드(구체적으로는 아핀 병합 모드) 등을 포함한다. 인터 예측부(126)는 복수의 모드로부터 현재 블록의 MV를 도출하는 모드를 선택하고, 선택된 모드를 사용하여 현재 블록의 MV를 도출한다.

(움직임 벡터 도출 흐름)

도 18은 움직임 벡터를 도출하는 다른 예를 예시하는 흐름도이다. 인터 예측 모드인 MV 도출 모드는 복수의 모드를 포함하고, 크게 MV 차이를 인코딩하는 모드와 움직임 벡터 차이를 인코딩하지 않는 모드로 분할된다. MV 차이를 인코딩하지 않는 모드는 병합 모드, FRUC 모드, 아핀 모드(구체적으로는 아핀 병합 모드) 등을 포함한다. 이들 모드에 대해서는 후술한다. 간단히, 병합 모드는 인코딩된 주변 블록으로부터 움직임 벡터를 선택함으로써 현재 블록의 MV를 도출하는 모드이고, FRUC 모드는 인코딩된 영역들 간에 추정을 수행함으로써 현재 블록의 MV를 도출하는 모드이다. 아핀 모드는 아핀 변환을 가정하여 현재 블록에 포함된 복수의 서브 블록 각각의 움직임 벡터를 현재 블록의 MV로서 도출하는 모드이다.

보다 구체적으로, 예시된 바와 같이, 인터 예측 모드 정보가 0을 나타낼 때(Sf_1에서 0), 인터 예측부(126)는 병합 모드를 사용하여 움직임 벡터를 도출한다(Sf_2). 인터 예측 모드 정보가 1을 나타내는 경우(Sf_1에서 1), 인터 예측부(126)는 FRUC 모드를 사용하여 움직임 벡터를 도출한다(Sf_3). 인터 예측 모드 정보가 2를 나타내는 경우(Sf_1에서 2), 인터 예측부(126)는 아핀 모드(구체적으로는 아핀 병합 모드)를 사용하여 움직임 벡터를 도출한다(Sf_4). 인터 예측 모드 정보가 3을 나타내는 경우(Sf_1에서 3), 인터 예측부(126)는 MV 차이를 인코딩하는 모드를 사용하여 움직임 벡터를 도출한다(예를 들어, 정상 인터 모드(Sf_5)).

(MV 도출 > 정상 인터 모드)

정상 인터 모드는 MV 후보에 의해 지정된 참조 화상 영역으로부터 현재 블록의 이미지와 유사한 블록에 기초하여 현재 블록의 MV를 도출하는 인터 예측 모드이다. 이 정상 인터 모드에서는 MV 차이가 인코딩된다.

도 19는 정상 인터 모드에서의 인터 예측의 일례를 예시하는 흐름도이다.

먼저, 인터 예측부(126)는 현재 블록에서 시간적으로 또는 공간적으로 주변에 있는 복수의 인코딩된 블록의 MV와 같은 정보에 기초하여 현재 블록에 대한 복수의 MV 후보를 획득한다(단계 Sg_1). 다시 말해, 인터 예측부(126)는 MV 후보 리스트를 생성한다.

다음으로, 인터 예측부(126)는 단계(Sg_1)에서 획득된 복수의 MV 후보로부터 N(2 이상의 정수)개의 MV 후보를 결정된 우선 순위에 따라 움직임 벡터 예측자 후보(MV 예측자 후보라고도 함)로서 추출한다(단계 Sg_2). 우선 순위는 N개의 MV 후보 각각에 대해 미리 결정될 수 있다는 것이 주목된다.

다음으로, 인터 예측부(126)는 N개의 움직임 벡터 예측자 후보로부터 하나의 움직임 벡터 예측자 후보를 현재 블록의 움직임 벡터 예측자(MV 예측자라고도 함)로서 선택한다(단계 Sg_3). 이때, 인터 예측부(126)는 선택된 움직임 벡터 예측자를 식별하기 위한 움직임 벡터 예측자 선택 정보를 스트림으로 인코딩한다. 스트림은 전술한 인코딩된 신호 또는 인코딩된 비트스트림이라는 것이 주목된다.

다음으로, 인터 예측부(126)는 인코딩된 참조 화상을 참조함으로써 현재 블록의 MV를 도출한다(단계 Sg_4). 이때, 인터 예측부(126)는 도출된 MV와 움직임 벡터 예측자 사이의 차이 값을 MV 차이로서 스트림으로 더 인코딩한다. 인코딩된 참조 화상은 인코딩된 후에 재구성된 복수의 블록을 포함하는 화상이라는 것이 주목된다.

마지막으로, 인터 예측부(126)는 도출된 MV와 인코딩된 참조 화상을 사용하여 현재 블록의 움직임 보상을 수행함으로써 현재 블록에 대한 예측 이미지를 생성한다(단계 Sg_5). 예측 이미지는 전술한 인터 예측 신호라는 것이 주목된다.

또한, 예측 이미지를 생성하는 데 사용되는 인터 예측 모드(위의 예에서는 정상 인터 모드)를 나타내는 정보는 예를 들어 예측 파라미터로서 인코딩된다.

MV 후보 리스트는 다른 모드에서 사용하기 위한 리스트로도 사용될 수 있다는 것이 주목된다. 또한 MV 후보 리스트와 관련된 처리는 다른 모드에서 사용하기 위한 리스트와 관련된 처리에 적용될 수 있다. MV 후보 리스트와 관련된 처리는 예를 들어, MV 후보 리스트로부터 MV 후보의 추출 또는 선택, MV 후보의 재정렬 또는 MV 후보의 삭제를 포함한다.

(MV 도출 > 병합 모드)

병합 모드는 MV 후보 리스트로부터 MV 후보를 현재 블록의 MV로서 선택하여 MV를 도출하는 인터 예측 모드이다.

도 20은 병합 모드에서 인터 예측의 일례를 예시하는 흐름도이다.

먼저, 인터 예측부(126)는 현재 블록에서 시간적으로 또는 공간적으로 주변에 있는 복수의 인코딩된 블록의 MV와 같은 정보에 기초하여 현재 블록에 대한 복수의 MV 후보를 획득한다(단계 Sh_1). 다시 말해, 인터 예측부(126)는 MV 후보 리스트를 생성한다.

다음으로, 인터 예측부(126)는 단계(Sh_1)에서 획득된 복수의 MV 후보로부터 하나의 MV 후보를 선택하여 현재 블록의 MV를 도출한다(단계 Sh_2). 이 때, 인터 예측부(126)는 선택된 MV 후보를 식별하기 위한 MV 선택 정보를 스트림으로 인코딩한다.

마지막으로, 인터 예측부(126)는 도출된 MV와 인코딩된 참조 화상을 사용하여 현재 블록의 움직임 보상을 수행함으로써 현재 블록에 대한 예측 이미지를 생성한다(단계 Sh_3).

또한, 인코딩된 신호에 포함되고 예측 이미지를 생성하는데 사용되는 인터 예측 모드(위의 예에서 병합 모드)를 나타내는 정보는 예를 들어 예측 파라미터로서 인코딩된다.

도 21은 병합 모드에서 현재 화상의 움직임 벡터 도출 처리의 일례를 예시하기 위한 개념도이다.

먼저, MV 예측자 후보가 등록된 MV 후보 리스트를 생성한다. MV 예측자 후보의 예로는, 현재 블록에서 공간적으로 주변에 위치된 복수의 인코딩된 블록의 MV인 공간적으로 이웃한 MV 예측자; 인코딩된 참조 화상에서 현재 블록의 위치가 투영되는 주변 블록의 MV인 시간적으로 이웃한 MV 예측자; 공간적으로 이웃한 MV 예측자의 MV 값과 시간적으로 이웃한 MV 예측자의 MV를 결합하여 생성된 MV인 결합된 MV 예측자; 및 제로 값을 갖는 MV인 제로 MV 예측자를 포함한다.

다음으로, MV 예측자 리스트에 등록된 복수의 MV 예측자로부터 하나의 MV 예측자가 선택되고, 선택된 MV 예측자는 현재 블록의 MV로서 결정된다.

또한, 가변 길이 인코더는 MV 예측자가 선택되었음을 나타내는 신호인 병합_idx를 기술하고 스트림으로 인코딩한다.

도 21에서 설명된 MV 예측자 리스트에 등록된 MV 예측자는 예시라는 것이 주목된다. MV 예측자의 수는 다이어그램에서 MV 예측자의 수와 다를 수 있으며, MV 예측자 리스트는, 다이어그램에서 MV 예측자의 종류 중 일부가 포함되지 않을 수 있고 또는 다이어그램에서 MV 예측자의 종류 이외의 하나 이상의 MV 예측자가 포함되는 방식으로 구성될 수 있다.

최종 MV는 병합 모드에서 도출된 현재 블록의 MV를 사용하여 후술할 디코더 움직임 벡터 정제 처리(DMVR)를 수행함으로써 결정될 수 있다.

MV 예측자 후보는 전술한 MV 후보이고, MV 예측자 리스트는 전술한 MV 후보 리스트라는 것이 주목된다. MV 후보 리스트는 후보 리스트라고도 할 수 있다는 것이 주목된다. 또한, 병합_idx는 MV 선택 정보이다.

(MV 도출 > FRUC 모드)

움직임 정보는 인코더 측으로부터 신호화되지 않고 디코더 측에서 도출될 수 있다. 전술한 바와 같이 H.265/HEVC 표준에 정해진 병합 모드가 사용될 수 있다는 것이 주목된다. 또한, 예를 들어 디코더 측에서 움직임 추정을 수행함으로써 움직임 정보를 도출할 수 있다. 일 실시예에서, 디코더 측에서, 움직임 추정은 현재 블록 내 임의의 픽셀 값을 사용하지 않고 수행된다.

여기서 디코더 측에서 움직임 추정을 수행하는 모드를 설명한다. 디코더 측에서 움직임 추정을 수행하는 모드는 패턴 매칭된 움직임 벡터 도출(Pattern Matched Motion Vector Derivation: PMMVD) 모드 또는 프레임 속도 업-변환(Frame Rate Up-Conversion: FRUC) 모드라고도 할 수 있다.

흐름도 형태의 FRUC 처리의 일례가 도 22에 예시되어 있다. 먼저, 현재 블록에 공간적으로 또는 시간적으로 이웃한 인코딩된 블록의 움직임 벡터를 참조함으로써 움직임 벡터(MV) 예측자를 각각 갖는 복수의 후보 리스트(즉, 병합 리스트로도 사용될 수 있는 MV 후보 리스트)를 생성한다(단계 Si_1). 다음으로, MV 후보 리스트에 등록된 복수의 MV 후보로부터 가장 좋은 MV 후보를 선택한다(단계 Si_2). 예를 들어, MV 후보 리스트에 포함된 각각의 MV 후보의 평가 값을 계산하고, 이 평가 값에 기초하여 하나의 MV 후보를 선택한다. 선택된 움직임 벡터 후보에 기초하여 현재 블록에 대한 움직임 벡터가 도출된다(단계 Si_4). 보다 구체적으로, 예를 들어, 선택된 움직임 벡터 후보(가장 좋은 MV 후보)는 현재 블록에 대한 움직임 벡터로서 직접 도출된다. 또한, 예를 들어, 현재 블록에 대한 움직임 벡터는 참조 화상 내의 위치의 주변 영역에서 패턴 매칭을 사용하여 도출될 수 있고, 여기서 참조 화상 내의 위치는 선택된 움직임 벡터 후보에 대응한다. 다시 말해, 패턴 매칭과 평가 값을 사용하여 추정하는 것은 가장 좋은 MV 후보의 주변 영역에서 수행될 수 있으며, 더 좋은 평가 값을 산출하는 MV가 있는 경우 가장 좋은 MV 후보는 더 나은 평가 값을 산출하는 MV로 업데이트될 수 있고, 업데이트된 MV는 현재 블록에 대한 최종 MV로서 결정될 수 있다. 가장 좋은 MV 후보를 더 좋은 평가 값을 갖는 MV로 업데이트하는 처리를 수행하지 않는 구성도 가능하다.

마지막으로, 인터 예측부(126)는 도출된 MV와 인코딩된 참조 화상을 사용하여 현재 블록의 움직임 보상을 수행함으로써 현재 블록에 대한 예측 이미지를 생성한다(단계 Si_5).

유사한 처리가 서브 블록 단위로 수행될 수 있다.

다양한 종류의 방법에 따라 평가 값을 계산할 수 있다. 예를 들어, 움직임 벡터에 대응하는 참조 화상의 영역에서 재구성된 이미지와, 결정된 영역(이 영역은, 아래에 나타낸 바와 같이, 예를 들어, 다른 참조 화상의 영역이거나 또는 현재 화상의 이웃한 블록의 영역일 수 있음)에서 재구성된 이미지 간을 비교한다. 결정된 영역은 미리 결정될 수 있다.

2개의 재구성된 이미지의 픽셀 값들 사이의 차이는 움직임 벡터의 평가 값을 위해 사용될 수 있다. 차이의 값 이외의 정보를 사용하여 평가 값을 계산할 수 있다는 것이 주목된다.

다음으로 패턴 매칭의 일례를 상세히 설명한다. 먼저, MV 후보 리스트(예를 들어, 병합 리스트)에 포함된 하나의 MV 후보를 패턴 매칭에 의해 추정하는 시작점으로서 선택한다. 예를 들어, 패턴 매칭으로서 제1 패턴 매칭 또는 제2 패턴 매칭이 사용될 수 있다. 제1 패턴 매칭과 제2 패턴 매칭은 각각 양측 매칭 및 템플릿 매칭이라고도 한다.

(MV 도출 > FRUC > 양측 매칭)

제1 패턴 매칭에서, 상이한 2개의 참조 화상에서 2개의 블록인 현재 블록의 움직임 궤적을 따라 2개의 블록 사이에서 패턴 매칭이 수행된다. 따라서, 제1 패턴 매칭에서는 현재 블록의 움직임 궤적을 따라 다른 참조 화상의 영역이 전술한 후보의 평가 값을 계산하기 위해 결정된 영역으로서 사용된다. 결정된 영역은 미리 결정될 수 있다.

도 23은 움직임 궤적을 따라 2개의 참조 화상의 2개의 블록 사이의 제1 패턴 매칭(양측 매칭)의 일례를 예시하기 위한 개념도이다. 도 23에 예시된 바와 같이, 제1 패턴 매칭에서, 현재 블록(Cur block)의 움직임 궤적을 따라 2개의 블록인 2개의 다른 참조 화상(Ref0, Ref1)의 2개의 블록의 쌍 중에서 가장 잘 매칭하는 쌍을 추정함으로써 2개의 움직임 벡터(MV0, MV1)가 도출된다. 보다 구체적으로, MV 후보에 의해 지정된 제1 인코딩된 참조 화상(Ref0)의 지정된 위치에서 재구성된 이미지와, 디스플레이 시간 간격으로 MV 후보를 스케일링함으로써 얻어진 대칭 MV에 의해 지정된 제2 인코딩된 참조 화상(Ref1)의 지정된 위치에서 재구성된 이미지 사이의 차이가 현재 블록에 대해 도출되고, 획득된 차이의 값을 사용하여 평가 값을 계산한다. 복수의 MV 후보 중에서 가장 좋은 평가 값을 산출하고 좋은 결과를 얻을 가능성이 있는 MV 후보를 최종 MV로서 선택할 수 있다.

연속적인 움직임 궤적을 가정하면 2개의 참조 블록을 지정하는 움직임 벡터(MV0, MV1)는 현재 화상(Cur Pic)과 2개의 참조 화상(Ref0, Ref1) 사이의 시간적 거리(TD0, TD1)에 비례한다. 예를 들어, 현재 화상이 시간적으로 2개의 참조 화상 사이에 위치되고, 현재 화상으로부터 각각의 2개의 참조 화상까지의 시간적 거리가 서로 같을 때, 미러 대칭 양방향 움직임 벡터가 제1 패턴 매칭에서 도출된다.

(MV 도출 > FRUC > 템플릿 매칭)

제2 패턴 매칭(템플릿 매칭)에서, 패턴 매칭은 참조 화상의 블록과 현재 화상의 템플릿(이 템플릿은 현재 화상의 현재 블록에 이웃한 블록(이 이웃한 블록은 예를 들어, 상위 및/또는 좌측 이웃한 블록(들)임)) 사이에 수행된다. 따라서, 제2 패턴 매칭에서는 현재 화상의 현재 블록에 이웃한 블록이 전술한 후보의 평가 값을 계산하기 위해 결정된 영역으로서 사용된다.

도 24는 현재 화상의 템플릿과 참조 화상의 블록 간의 패턴 매칭(템플릿 매칭)의 일례를 예시하기 위한 개념도이다. 도 24에 예시된 바와 같이, 제2 패턴 매칭에서, 현재 블록(Cur block)의 움직임 벡터는 현재 화상(Cur Pic)의 현재 블록에 이웃한 블록과 가장 잘 일치하는 참조 화상(Ref0)의 블록을 추정함으로써 도출된다. 보다 구체적으로, 좌측과 위쪽 또는 좌측 또는 위쪽에 이웃한 인코딩된 영역의 재구성된 이미지와, 인코딩된 참조 화상(Ref0)에서 대응하는 영역에 있고 MV 후보에 의해 지정된 재구성된 이미지 사이의 차이를 도출하고, 얻어진 차이의 값을 사용하여 평가 값을 계산하고, 복수의 MV 후보 중에서 가장 좋은 평가 값을 산출한 MV 후보를 가장 좋은 MV 후보로서 선택할 수 있다.

이러한 FRUC 모드 적용 여부를 나타내는 정보(예를 들어, FRUC 플래그라고 함)는 CU 레벨에서 신호화될 수 있다. 또한, FRUC 모드가 적용되는 경우(예를 들어, FRUC 플래그가 참인 경우), 적용 가능한 패턴 매칭 방법(제1 패턴 매칭 또는 제2 패턴 매칭)을 나타내는 정보가 CU 레벨에서 신호화될 수 있다. 이러한 정보의 신호화는 반드시 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 화상 레벨, 슬라이스 레벨, 타일 레벨, CTU 레벨, 또는 서브 블록 레벨)에서 수행될 수 있다는 것이 주목된다.

(MV 도출 > 아핀 모드)

다음으로, 복수의 이웃한 블록의 움직임 벡터에 기초하여 서브 블록 단위로 움직임 벡터를 도출하기 위한 아핀 모드를 설명한다. 이 모드는 아핀 움직임 보상 예측 모드라고도 한다.

도 25a는 복수의 이웃한 블록의 움직임 벡터에 기초하여 각각의 서브 블록의 움직임 벡터를 도출하는 일례를 예시하기 위한 개념도이다. 도 25a에서, 현재 블록은 16개의 4×4 서브 블록을 포함한다. 여기서, 현재 블록의 좌측 상위 모서리(corner) 제어점에서의 움직임 벡터(V₀)는 이웃한 블록의 움직임 벡터에 기초하여 도출되고, 마찬가지로 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터(V₁)는 이웃한 서브 블록의 움직임 벡터에 기초하여 도출된다. 아래에 제시된 수식(1A)에 따라 2개의 움직임 벡터(v₀ 및 v₁)가 투영될 수 있으며, 현재 블록에서의 각각의 서브 블록에 대한 움직임 벡터(v_x, v_y)가 도출될 수 있다.

[수식 1]

여기서 x와 y는 각각 서브 블록의 수평 위치와 수직 위치를 나타내고, w는 결정된 가중 계수를 나타낸다. 결정된 가중 계수는 미리 결정될 수 있다.

이러한 아핀 모드를 나타내는 정보(예를 들어, 아핀 플래그라고 함)는 CU 레벨에서 신호화될 수 있다. 아핀 모드를 나타내는 정보를 신호화하는 것은 반드시 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 시퀀스 레벨, 화상 레벨, 슬라이스 레벨, 타일 레벨, CTU 레벨, 또는 서브 블록 레벨)에서 수행될 수도 있다는 것이 주목된다.

또한, 아핀 모드는 좌측 상위 및 우측 상위 모서리 제어점에서 움직임 벡터를 도출하는 다른 방법에 대한 여러 모드를 포함할 수 있다. 예를 들어, 아핀 모드는 아핀 인터 모드(아핀 정상 인터 모드라고도 함)와 아핀 병합 모드의 두 가지 모드를 포함한다.

(MV 도출 > 아핀 모드)

도 25b는 3개의 제어점을 사용하는 아핀 모드에서 각각의 서브 블록의 움직임 벡터를 도출하는 일례를 예시하기 위한 개념도이다. 도 25b에서, 현재 블록은 16개의 4×4 블록을 포함한다. 여기서, 현재 블록에 대한 좌측 상위 모서리 제어점에서의 움직임 벡터(v₀)는 이웃한 블록의 움직임 벡터에 기초하여 도출되고, 마찬가지로 현재 블록에 대한 우측 상위 모서리 제어점에서의 움직임 벡터(V₁)는 이웃한 블록의 움직임 벡터에 기초하여 도출되며, 현재 블록에 대한 좌측 하위 모서리 제어점에서의 움직임 벡터(V₂)는 이웃한 블록의 움직임 벡터에 기초하여 도출된다. 3개의 움직임 벡터(v₀, v₁, v₂)는 아래에 제시된 수식(1B)에 따라 투영될 수 있고, 현재 블록에서의 각각의 서브 블록에 대한 움직임 벡터(v_x, v_y)가 도출될 수 있다.

[수식 2]

여기서 x와 y는 각각 서브 블록의 중심의 수평 위치와 수직 위치를 나타내고, w는 현재 블록의 폭을 나타내고, h는 현재 블록의 높이를 나타낸다.

상이한 개수의 제어점(예를 들어, 2개 및 3개의 제어점)을 사용하는 아핀 모드는 전환될 수 있고 CU 레벨에서 신호화될 수 있다. CU 레벨에서 사용되는 아핀 모드의 제어점의 수를 나타내는 정보는 다른 레벨(예를 들어, 시퀀스 레벨, 화상 레벨, 슬라이스 레벨, 타일 레벨, CTU 레벨, 또는 서브 블록 레벨)에서 신호화될 수 있다는 것이 주목된다.

또한, 3개의 제어점을 사용하는 이러한 아핀 모드는 좌측 상위, 우측 상위, 좌측 하위 모서리 제어점에서 움직임 벡터를 도출하는 상이한 방법을 포함할 수 있다. 예를 들어, 아핀 모드는 아핀 인터 모드(아핀 정상 인터 모드라고도 함)와 아핀 병합 모드의 두 가지 모드를 포함한다.

(MV 도출 > 아핀 병합 모드)

도 26a, 도 26b, 및 도 26c는 아핀 병합 모드를 예시하기 위한 개념도이다.

도 26a에 예시된 바와 같이, 아핀 병합 모드에서, 예를 들어, 현재 블록의 각각의 제어점에서의 움직임 벡터 예측자는 현재 블록에 이웃한 인코딩된 블록(A)(좌측), 블록(B)(상위), 블록(C)(우측 상위), 블록(D)(좌측 하위) 및 블록(E)(좌측 상위) 중에서 아핀 모드에 따라 인코딩된 블록에 대응하는 복수의 움직임 벡터에 기초하여 계산된다. 보다 구체적으로, 인코딩된 블록(A)(좌측), 블록(B)(상위), 블록(C)(우측 상위), 블록(D)(좌측 하위) 및 블록(E)(좌측 상위)은 나열된 순서로 체크(check)되고, 아핀 모드에 따라 인코딩된 제1 유효 블록이 식별된다. 현재 블록의 제어점에서의 움직임 벡터 예측자는 식별된 블록에 대응하는 복수의 움직임 벡터에 기초하여 계산된다.

예를 들어, 도 26b에 예시된 바와 같이, 현재 블록의 좌측에 이웃한 블록(A)이 2개의 제어점을 사용하는 아핀 모드에 따라 인코딩된 경우, 블록(A)을 포함하는 인코딩된 블록의 좌측 상위 모서리 위치 및 우측 상위 모서리 위치에 투영된 움직임 벡터(v₃ 및 v₄)가 도출된다. 그런 다음 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₀)와, 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₁)가 도출된 움직임 벡터(v₃ 및 v₄)로부터 계산된다.

예를 들어, 도 26c에 예시된 바와 같이, 현재 블록의 좌측에 이웃한 블록(A)이 3개의 제어점을 사용하는 아핀 모드에 따라 인코딩된 경우, 블록(A)을 포함하는 인코딩된 블록의 좌측 상위 모서리 위치, 우측 상위 모서리 위치 및 좌측 하위 모서리 위치에서 투영된 움직임 벡터(v₃, v₄ 및 v₅)가 도출된다. 그런 다음 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₀), 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₁), 및 현재 블록의 좌측 하위 모서리 제어점에서의 움직임 벡터 예측자(v₂)가 도출된 움직임 벡터(v₃, v₄ 및 v₅)로부터 계산된다.

움직임 벡터 예측자를 도출하는 이 방법은 후술하는 도 29의 단계(Sj_1)에서 현재 블록의 각각의 제어점의 움직임 벡터 예측자를 도출하는데 사용될 수 있다는 것이 주목된다.

도 27은 아핀 병합 모드의 일례를 예시하는 흐름도이다.

예시된 아핀 병합 모드에서, 먼저, 인터 예측부(126)는 현재 블록의 각각의 제어점의 MV 예측자를 도출한다(단계 Sk_1). 제어점은 도 25a에 예시된 현재 블록의 좌측 상위 모서리 점과 현재 블록의 우측 상위 모서리 점이고, 또는 도 25b에 예시된 현재 블록의 좌측 상위 모서리 점, 현재 블록의 우측 상위 모서리 점, 및 현재 블록의 좌측 하위 모서리 점이다.

다시 말해, 도 26a에 예시된 바와 같이, 인터 예측부(126)는 인코딩된 블록(A)(좌측), 블록(B)(상위), 블록(C)(우측 상위), 블록(D)(좌측 하위) 및 블록(E)(좌측 상위)을 나열된 순서로 체크하고, 아핀 모드에 따라 인코딩된 제1 유효 블록을 식별한다.

블록(A)이 식별되고 블록(A)이 2개의 제어점을 갖는 경우, 도 26b에 예시된 바와 같이, 인터 예측부(126)는 블록(A)을 포함하는 인코딩된 블록의 좌측 상위 모서리와 우측 상위 모서리의 움직임 벡터(v₃ 및 v₄)로부터 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터(v₀) 및 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터(v₁)를 계산한다. 예를 들어, 인터 예측부(126)는 인코딩된 블록의 좌측 상위 모서리와 우측 상위 모서리에서의 움직임 벡터(v₃ 및 v₄)를 현재 블록에 투영함으로써 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터(v₀) 및 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터(v₁)를 계산한다.

대안적으로, 블록(A)이 식별되고 블록(A)이 3개의 제어점을 갖는 경우, 도 26c에 도시된 바와 같이, 인터 예측부(126)는 블록(A)을 포함하는 인코딩된 블록의 좌측 상위 모서리, 우측 상위 모서리 및 좌측 하위 모서리에서의 움직임 벡터(v₃, v₄ 및 v₅)로부터 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터(v₀), 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터(v₁), 및 현재 블록의 좌측 하위 모서리 제어점에서의 움직임 벡터(v₂)를 계산한다. 예를 들어, 인터 예측부(126)는 인코딩된 블록의 좌측 상위 모서리, 우측 상위 모서리 및 좌측 하위 모서리에서의 움직임 벡터(v₃, v₄ 및 v₅)를 현재 블록에 투영함으로써 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터(v₀), 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터(v₁), 및 현재 블록의 좌측 하위 모서리 제어점에서의 움직임 벡터(v₂)를 계산한다.

다음으로, 인터 예측부(126)는 현재 블록에 포함된 복수의 서브 블록 각각의 움직임 보상을 수행한다. 다시 말해, 인터 예측부(126)는 (i) 2개의 움직임 벡터 예측자(v₀ 및 v₁) 및 위에서 설명한 수식(1A), 또는 (ii) 3개의 움직임 벡터 예측자(v₀, v₁ 및 v₂) 및 위에서 설명한 수식(1B) 중 하나를 사용함으로써 복수의 서브 블록 각각에 대해 서브 블록의 움직임 벡터를 아핀 MV로서 계산한다(단계 Sk_2). 그런 다음 인터 예측부(126)는 이들 아핀 MV 및 인코딩된 참조 화상을 사용하여 서브 블록의 움직임 보상을 수행한다(단계 Sk_3). 그 결과, 현재 블록의 움직임 보상이 수행되어 현재 블록의 예측 이미지가 생성된다.

(MV 도출 > 아핀 인터 모드)

도 28a는 2개의 제어점을 사용하는 아핀 인터 모드를 예시하기 위한 개념도이다.

아핀 인터 모드에서, 도 28a에 예시된 바와 같이, 현재 블록에 이웃한 인코딩된 블록(A), 블록(B) 및 블록(C)의 움직임 벡터로부터 선택된 움직임 벡터는 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₀)로서 사용된다. 마찬가지로, 현재 블록에 이웃한 인코딩된 블록(D) 및 블록(E)의 움직임 벡터로부터 선택된 움직임 벡터는 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₁)로서 사용된다.

도 28b는 3개의 제어점을 사용하는 아핀 인터 모드를 예시하기 위한 개념도이다.

아핀 인터 모드에서, 도 28b에 예시된 바와 같이, 현재 블록에 이웃한 인코딩된 블록(A), 블록(B) 및 블록(C)의 움직임 벡터로부터 선택된 움직임 벡터는 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₀)로서 사용된다. 마찬가지로, 현재 블록에 이웃한 인코딩된 블록(D) 및 블록(E)의 움직임 벡터로부터 선택된 움직임 벡터는 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₁)로서 사용된다. 또한, 현재 블록에 이웃한 인코딩된 블록(F) 및 블록(G)의 움직임 벡터로부터 선택된 움직임 벡터는 현재 블록의 좌측 하위 모서리 제어점에서의 움직임 벡터 예측자(v₂)로서 사용한다.

도 29는 아핀 인터 모드의 일례를 예시하는 흐름도이다.

예시된 바와 같은 아핀 인터 모드에서, 먼저, 인터 예측부(126)는 현재 블록의 각각 2개 또는 3개의 제어점의 MV 예측자((v₀, v₁) 또는 (v₀, v₁, v₂))를 도출한다(단계 Sj_1). 제어점은 도 25a에 예시된 바와 같이 현재 블록의 좌측 상위 모서리 점과 현재 블록의 우측 상위 모서리 점이고, 또는 도 25b에 예시된 바와 같이 현재 블록의 좌측 상위 모서리 점, 현재 블록의 우측 상위 모서리 점, 및 현재 블록의 좌측 하위 모서리 점이다.

다시 말해, 인터 예측부(126)는 도 28a 또는 도 28b에 예시된 현재 블록의 각각의 제어점 부근의 인코딩된 블록 중에서 임의의 블록의 움직임 벡터를 선택함으로써 현재 블록의 각각 2개 또는 3개의 제어점의 움직임 벡터 예측자((v₀, v₁) 또는 (v₀, v₁, v₂))를 도출한다. 이때, 인터 예측부(126)는 선택된 2개의 움직임 벡터를 식별하기 위한 움직임 벡터 예측자 선택 정보를 스트림으로 인코딩한다.

예를 들어, 인터 예측부(126)는 현재 블록에 이웃한 인코딩된 블록 중에서 제어점에서의 움직임 벡터 예측자로서의 움직임 벡터를 선택하는 기준이 되는 블록을 비용 평가 등을 사용하여 결정할 수 있고, 선택된 움직임 벡터 예측자를 나타내는 플래그를 비트스트림으로 기술할 수 있다.

다음으로, 인터 예측부(126)는 단계(Sj_1)에서 선택되거나 도출된 움직임 벡터 예측자를 업데이트하면서(단계 Sj_2) 움직임 추정을 수행한다(단계 Sj_3 및 Sj_4). 다시 말해, 인터 예측부(126)는 위에서 설명한 수식(1A) 또는 수식(1B)을 사용하여 업데이트된 움직임 벡터 예측자에 대응하는 각각의 서브 블록의 움직임 벡터를 아핀 MV로서 계산한다(단계 Sj_3). 그런 다음 인터 예측부(126)는 이들 아핀 MV 및 인코딩된 참조 화상을 사용하여 서브 블록의 움직임 보상을 수행한다(단계 Sj_4). 그 결과, 예를 들어, 인터 예측부(126)는 최소 비용을 산출하는 움직임 벡터 예측자를 움직임 추정 루프의 제어점에서의 움직임 벡터로서 결정한다(단계 Sj_5). 이때, 인터 예측부(126)는 결정된 MV와 움직임 벡터 예측자 사이의 차이 값을 MV 차이로서 스트림으로 더 인코딩한다.

마지막으로, 인터 예측부(126)는 결정된 MV와 인코딩된 참조 화상을 사용하여 현재 블록의 움직임 보상을 수행함으로써 현재 블록에 대한 예측 이미지를 생성한다(단계 Sj_6).

(MV 도출 > 아핀 인터 모드)

상이한 수의 제어점(예를 들어, 2개 및 3개의 제어점)을 사용하는 아핀 모드가 전환될 수 있고 CU 레벨에서 신호화될 수 있을 때 인코딩된 블록의 제어점의 수와 현재 블록에서의 제어점의 수는 서로 다를 수 있다. 도 30a 및 도 30b는 인코딩된 블록에서의 제어점의 수와 현재 블록에서의 제어점의 수가 서로 다른 경우 제어점에서 움직임 벡터 예측자를 도출하는 방법을 예시하기 위한 개념도이다.

예를 들어, 도 30a에 예시된 바와 같이, 현재 블록이 좌측 상위 모서리, 우측 상위 모서리, 및 좌측 하위 모서리에서 3개의 제어점을 갖고, 현재 블록의 좌측에 이웃한 블록(A)이 2개의 제어점을 사용하는 아핀 모드에 따라 인코딩된 경우, 블록(A)을 포함하는 인코딩된 블록에서 좌측 상위 모서리 위치와 우측 상위 모서리 위치에 투영된 움직임 벡터(v₃ 및 v₄)가 도출된다. 그런 다음 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₀)와, 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₁)가 도출된 움직임 벡터(v₃ 및 v₄)로부터 계산된다. 또한, 좌측 하위 모서리 제어점에서의 움직임 벡터 예측자(v₂)는 도출된 움직임 벡터(v₀ 및 v₁)로부터 계산된다.

예를 들어, 도 30b에 예시된 바와 같이, 현재 블록이 좌측 상위 모서리와 우측 상위 모서리에서 2개의 제어점을 갖고, 현재 블록의 좌측에 이웃한 블록(A)이 3개의 제어점을 사용하는 아핀 모드에 따라 인코딩된 경우, 블록(A)을 포함하는 인코딩된 블록에서 좌측 상위 모서리 위치, 우측 상위 모서리 위치 및 좌측 하위 모서리 위치에 투영된 움직임 벡터(v₃, v₄, 및 v₅)가 도출된다. 그런 다음 현재 블록의 좌측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₀)와, 현재 블록의 우측 상위 모서리 제어점에서의 움직임 벡터 예측자(v₁)가 도출된 움직임 벡터(v₃, v₄, 및 v₅)로부터 계산된다.

움직임 벡터 예측자를 도출하는 이 방법은 도 29의 단계(Sj_1)에서 현재 블록의 각각의 제어점의 움직임 벡터 예측자를 도출하는데 사용될 수 있다는 것이 주목된다.

(MV 도출 > DMVR)

도 31a는 병합 모드와 DMVR 사이의 관계를 예시하는 흐름도이다.

인터 예측부(126)는 병합 모드에 따라 현재 블록의 움직임 벡터를 도출한다(단계 Sl_1). 다음으로, 인터 예측부(126)는 움직임 벡터의 추정, 즉 움직임 추정을 수행할지 여부를 결정한다(단계 Sl_2). 여기서, 움직임 추정을 수행하지 않기로 결정할 때(단계 Sl_2에서 아니오), 인터 예측부(126)는 단계(Sl_1)에서 도출된 움직임 벡터를 현재 블록에 대한 최종 움직임 벡터로서 결정한다(단계 S1_4). 다시 말해, 이 경우 현재 블록의 움직임 벡터가 병합 모드에 따라 결정된다.

단계(Sl_1)에서 움직임 추정을 수행하기로 결정할 때(단계 Sl_2에서 예), 인터 예측부(126)는 단계(Sl_1)에서 도출된 움직임 벡터에 의해 지정된 참조 화상의 주변 영역을 추정함으로써 현재 블록에 대한 최종 움직임 벡터를 도출한다(단계 Sl_3). 다시 말해, 이 경우 현재 블록의 움직임 벡터는 DMVR에 따라 결정된다.

도 31b는 MV를 결정하기 위한 DMVR 처리의 일례를 예시하기 위한 개념도이다.

먼저, (예를 들어, 병합 모드에서) 현재 블록에 설정된 가장 좋은 MVP가 MV 후보로 결정된다. 참조 픽셀은 MV 후보(L0)에 따라 L0 방향으로 인코딩된 화상 인 제1 참조 화상(L0)으로부터 식별된다. 마찬가지로, 참조 픽셀은 MV 후보(L1)에 따라 L1 방향으로 인코딩된 화상인 제2 참조 화상(L1)으로부터 식별된다. 이러한 참조 픽셀의 평균을 계산함으로써 템플릿이 생성된다.

다음으로, 제1 참조 화상(L0)과 제2 참조 화상(L1)의 MV 후보의 주변 영역 각각을 추정하고, 가장 적은 비용을 산출하는 MV를 최종 MV로 결정한다. 비용 값은, 예를 들어, 템플릿에서의 각각의 픽셀 값과, 추정 영역에서의 픽셀 값, MV 후보의 값 등 중에서 대응하는 픽셀 값 사이의 차이 값을 사용하여 계산될 수 있다는 것이 주목된다.

여기서 설명된 처리, 구성 및 동작은 일반적으로 후술할 인코더와 디코더 간에 기본적으로 공통적이라는 것이 주목된다.

여기에 설명된 것과 정확히 동일한 예시적인 처리를 항상 수행할 필요는 없다. MV 후보의 주변 영역에서 추정함으로써 최종 MV를 도출할 수 있는 임의의 처리를 사용할 수 있다.

(움직임 보상 > BIO/OBMC)

움직임 보상은 예측 이미지를 생성하고 예측 이미지를 보정하는 모드를 포함한다. 이 모드는 예를 들어 후술할 BIO 및 OBMC이다.

도 32는 예측 이미지를 생성하는 일례를 예시하는 흐름도이다.

인터 예측부(126)는 예측 이미지를 생성하고(단계 Sm_1), 예를 들어 전술한 임의의 모드에 따라 예측 이미지를 보정한다(단계 Sm_2).

도 33은 예측 이미지를 생성하는 다른 예를 예시하는 흐름도이다.

인터 예측부(126)는 현재 블록의 움직임 벡터를 결정한다(단계 Sn_1). 다음으로, 인터 예측부(126)는 예측 이미지를 생성하고(단계 Sn_2), 보정 처리를 수행할지 여부를 결정한다(단계 Sn_3). 여기서, 보정 처리를 수행하기로 결정할 때(단계 Sn_3에서 예), 인터 예측부(126)는 예측 이미지를 보정함으로써 최종 예측 이미지를 생성한다(단계 Sn_4). 보정 처리를 수행하지 않기로 결정한 경우(단계 Sn_3에서 아니오), 인터 예측부(126)는 예측 이미지를 보정하지 않고 예측 이미지를 최종 예측 이미지로서 출력한다(단계 Sn_5).

또한, 움직임 보상은 예측 이미지를 생성할 때 예측 이미지의 휘도를 보정하는 모드를 포함한다. 모드는 예를 들어 후술할 LIC이다.

도 34는 예측 이미지를 생성하는 다른 예를 예시하는 흐름도이다.

인터 예측부(126)는 현재 블록의 움직임 벡터를 도출한다(단계 So_1). 다음으로, 인터 예측부(126)는 휘도 보정 처리를 수행할지 여부를 결정한다(단계 So_2). 여기서, 휘도 보정 처리를 수행하기로 결정한 경우(단계 So_2에서 예), 인터 예측부(126)는 휘도 보정 처리를 수행하면서 예측 이미지를 생성한다(단계 So_3). 다시 말해, LIC를 사용하여 예측 이미지를 생성한다. 휘도 보정 처리를 수행하지 않기로 결정한 경우(단계 So_2에서 아니오), 인터 예측부(126)는 휘도 보정 처리를 수행하지 않고 정상적인 움직임 보상을 수행함으로써 예측 이미지를 생성한다(단계 So_4).

(움직임 보상 > OBMC)

움직임 추정으로부터 획득된 현재 블록에 대한 움직임 정보에 더하여 이웃한 블록에 대한 움직임 정보를 사용하여 인터 예측 신호를 생성할 수 있다는 것이 주목된다. 보다 구체적으로, 인터 예측 신호는 (참조 화상에서) 움직임 추정으로부터 획득된 움직임 정보에 기초한 예측 신호와 (현재 화상에서) 이웃한 블록에 대한 움직임 정보에 기초한 예측 신호를 가중하여 가산을 수행함으로써 현재 블록에서의 서브 블록 단위로 생성될 수 있다. 이러한 인터 예측(움직임 보상)은 중첩된 블록 움직임 보상(OBMC)이라고도 한다.

OBMC 모드에서는 OBMC에 대한 서브 블록 크기(예를 들어, OBMC 블록 크기라고 함)를 나타내는 정보는 시퀀스 레벨에서 신호화될 수 있다. 또한, OBMC 모드 적용 여부를 나타내는 정보(예를 들어, OBMC 플래그라고 함)는 CU 레벨에서 신호화될 수 있다. 이러한 정보의 신호화는 반드시 시퀀스 레벨 및 CU 레벨에서 수행될 필요는 없고, 다른 레벨(예를 들어, 화상 레벨, 슬라이스 레벨, 타일 레벨, CTU 레벨, 또는 서브 블록 레벨)에서 수행될 수 있다는 것이 주목된다.

OBMC 모드의 예를 더 자세히 설명한다. 도 35 및 도 36은 OBMC 처리에 의해 수행되는 예측 이미지 보정 처리의 개요를 예시하기 위한 흐름도 및 개념도이다.

먼저, 도 36에 예시된 바와 같이, 예측 이미지(Pred)는 처리 표적 (현재) 블록에 할당된 움직임 벡터(MV)를 사용하여 정상적인 움직임 보상을 통해 획득된다. 도 36에서, 화살표 "MV"는 참조 화상을 가리키고, 예측 이미지를 얻기 위해 현재 화상의 현재 블록이 참조하는 대상을 나타낸다.

다음으로, 예측 이미지(Pred_L)는 현재 블록의 좌측에 이웃한 인코딩된 블록에 대해 이미 도출된 움직임 벡터(MV_L)를 (현재 블록에 대한 움직임 벡터를 재사용하여) 현재 블록에 적용함으로써 획득된다. 움직임 벡터(MV_L)는 현재 블록으로부터 참조 화상을 나타내는 화살표 "MV_L"로 표시된다. 2개의 예측 이미지(Pred, Pred_L)를 중첩시킴으로써 예측 이미지의 1차 보정을 수행한다. 이것은 이웃한 블록들 사이의 경계를 혼합하는 효과를 제공한다.

마찬가지로, 예측 이미지(Pred_U)는 현재 블록 위에 이웃한 인코딩된 블록에 대해 이미 도출된 움직임 벡터(MV_U)를 (현재 블록에 대한 움직임 벡터를 재사용하여) 현재 블록에 적용함으로써 획득된다. 움직임 벡터(MV_U)는 현재 블록으로부터 참조 화상을 나타내는 화살표 "MV_U"로 표시된다. 예측 이미지의 2차 보정은 1차 보정이 수행된 예측 이미지(예를 들어, Pred 및 Pred_L)에 예측 이미지(Pred_U)를 중첩시킴으로써 수행된다. 이것은 이웃한 블록들 사이의 경계를 혼합하는 효과를 제공한다. 2차 보정에 의해 획득된 예측 이미지는 이웃한 블록들 사이의 경계가 혼합된 (평활화된) 것이므로 현재 블록의 최종 예측 이미지가 된다.

위의 예는 좌측 및 상위 이웃한 블록을 이용한 2개의 경로 보정 방법이지만, 보정 방법은 또한 우측 이웃한 블록 및/또는 하위 이웃한 블록을 사용하는 3개 이상의 경로 보정 방법일 수 있다는 것이 주목된다.

이러한 중첩이 수행되는 영역은 전체 블록의 픽셀 영역이 아닌 블록 경계 부근의 영역의 단지 일부일 수 있다는 것이 주목된다.

추가 예측 이미지(Pred_L, Pred_U)를 중첩함으로써 하나의 참조 화상으로부터 하나의 예측 이미지(Pred)를 획득하기 위해 OBMC에 따른 예측 이미지 보정 처리는 앞서 설명되었다는 것이 주목된다. 그러나, 복수의 참조 이미지에 기초하여 예측 이미지를 보정하는 경우, 복수의 참조 화상 각각에 유사한 처리가 적용될 수 있다. 이러한 경우, 복수의 참조 화상에 기초하여 OBMC 이미지 보정을 수행함으로써 각각의 참조 화상으로부터 보정된 예측 이미지를 획득한 후, 획득된 보정된 예측 이미지를 더 중첩하여 최종 예측 이미지를 획득한다.

OBMC에서 현재 블록의 단위는 예측 블록의 단위일 수 있고, 또는 예측 블록을 더 분할함으로써 얻어진 서브 블록의 단위일 수 있다는 것이 주목된다.

OBMC 처리 적용 여부를 결정하는 방법의 일례로 OBMC 처리 적용 여부를 나타내는 신호인 obmc_플래그를 사용하는 방법이 있다. 하나의 특정 예로서, 인코더는 현재 블록이 복잡한 움직임이 있는 영역에 속하는지 여부를 결정한다. 인코더는, 블록이 복잡한 움직임이 있는 영역에 속하고, 인코딩할 때 OBMC 처리를 적용하는 경우, obmc_플래그를 "1"의 값으로 설정하고, 블록이 복잡한 움직임이 있는 영역에 속하지 않고, OBMC 처리를 적용하지 않고 블록을 인코딩하는 경우 obmc_플래그를 "0"의 값으로 설정한다. 디코더는, 스트림(예를 들어, 압축된 시퀀스)에 기록된 obmc_플래그를 디코딩하고, 플래그 값에 따라 OBMC 처리의 적용과 비-적용 간을 전환하여 블록을 디코딩함으로써 OBMC 처리의 적용과 비-적용 간을 전환한다.

인터 예측부(126)는 위의 예에서 직사각형의 현재 블록에 대한 하나의 직사각형 예측 이미지를 생성한다. 그러나, 인터 예측부(126)는 직사각형의 현재 블록에 대한 직사각형과는 다른 형태를 각각 갖는 복수의 예측 이미지를 생성할 수 있고, 복수의 예측 이미지를 결합하여 최종 직사각형 예측 이미지를 생성할 수 있다. 직사각형과는 다른 형상은 예를 들어 삼각형일 수 있다.

도 37은 2개의 삼각형 예측 이미지의 생성을 예시하기 위한 개념도이다.

인터 예측부(126)는 제1 파티션의 제1 MV를 이용함으로써 현재 블록에서 삼각형 형상을 갖는 제1 파티션의 움직임 보상을 수행함으로써 삼각형 예측 이미지를 생성함으로써 삼각형 예측 이미지를 생성한다. 마찬가지로, 인터 예측부(126)는 제2 파티션의 제2 MV를 이용함으로써 현재 블록에서 삼각형 형상을 갖는 제2 파티션의 움직임 보상을 수행함으로써 삼각형 예측 이미지를 생성함으로써 삼각형 예측 이미지를 생성한다. 그런 다음 인터 예측부(126)는 이들 예측 이미지를 결합함으로써 현재 블록의 직사각형 형태와 동일한 직사각형 형태를 갖는 예측 이미지를 생성한다.

도 37에 예시된 예에서는 제1 파티션과 제2 파티션이 삼각형이지만, 제1 파티션과 제2 파티션은 사다리꼴이거나 서로 상이한 다른 형상일 수 있다는 것이 주목된다. 또한, 현재 블록은 도 37에 예시된 예에서 2개의 파티션을 포함하지만, 현재 블록은 3개 이상의 파티션을 포함할 수 있다.

또한, 제1 파티션과 제2 파티션은 서로 중첩될 수 있다. 다시 말해, 제1 파티션과 제2 파티션은 동일한 픽셀 영역을 포함할 수 있다. 이 경우, 제1 파티션의 예측 이미지와 제2 파티션의 예측 이미지를 이용하여 현재 블록에 대한 예측 이미지를 생성할 수 있다.

또한, 인터 예측을 이용하여 2개의 파티션 각각에 대해 예측 이미지를 생성하는 일례이지만, 인트라 예측을 사용하여 적어도 하나의 파티션에 대해 예측 이미지를 생성할 수 있다.

(움직임 보상 > BIO)

다음으로 움직임 벡터를 도출하는 방법을 설명한다. 먼저, 균일한 선형 움직임을 가정한 모델에 기초하여 움직임 벡터를 도출하는 모드를 설명한다. 이 모드는 양방향 광학 흐름(bi-directional optic flow: BIO) 모드라고도 한다.

도 38은 균일한 선형 움직임을 가정한 모델을 예시하기 위한 개념도이다. 도 38에서 (vx, vy)는 속도 벡터를 나타내고, τ0과 τ1은 현재 화상(Cur Pic)과 2개의 참조 화상(Ref0, Ref1) 사이의 시간적 거리를 나타낸다. (MVx0, MVy0)는 참조 화상(Ref0)에 대응하는 움직임 벡터를 나타내고, (MVx1, MVy1)은 참조 화상(Ref1)에 대응하는 움직임 벡터를 나타낸다.

여기서, 속도 벡터((v_x, v_y))에 의해 나타나는 균일한 선형 움직임이라는 가정 하에, (MVx₀, MVy₀) 및 (MVx₁, MVy₁)은 각각 (v_xτ₀, v_yτ₀) 및 (-v_xτ₁, -v_yτ₁)으로 표시되고, 다음과 같은 광학 흐름 수식(2)이 사용될 수 있다.

[수식 3]

여기서, I(k)는 참조 화상 k(k = 0, 1)의 움직임 보상된 루마 값을 나타낸다. 이 광학 흐름 수식은 (i) 루마 값의 시간 미분, (ii) 참조 이미지의 공간 구배의 수평 성분과 수평 속도의 곱, 및 (iii) 참조 이미지의 공간 구배의 수직 성분과 수직 속도의 곱의 합이 0과 같은 것을 보여준다. 예를 들어, 병합 리스트로부터 획득된 각각의 블록의 움직임 벡터는 광학 흐름 수식과 헤르마이트(Hermite) 보간의 조합에 기초하여 픽셀 단위로 보정될 수 있다.

움직임 벡터는 균일한 선형 움직임을 가정한 모델에 기초하여 움직임 벡터를 도출하는 것이 아닌 방법을 사용하여 디코더 측에서 도출될 수 있다는 것이 주목된다. 예를 들어, 움직임 벡터는 이웃한 블록의 움직임 벡터에 기초하여 서브 블록 단위로 도출될 수 있다.

(움직임 보상 > LIC)

다음으로, 로컬 조도 보상(LIC) 처리를 사용하여 예측 이미지(예측)를 생성하는 모드의 일례를 설명한다.

도 39는 LIC 처리에 의해 수행되는 휘도 보정 처리를 사용한 예측 이미지 생성 방법의 일례를 예시하기 위한 개념도이다.

먼저, 인코딩된 참조 화상으로부터 MV를 도출하고, 현재 블록에 대응하는 참조 이미지를 획득한다.

다음으로, 현재 블록에 대해 참조 화상과 현재 화상 사이의 휘도 값이 변화된 정도를 나타내는 정보를 추출한다. 이러한 추출은 (참조 영역 주변) 인코딩된 좌측 이웃 참조 영역과 (참조 영역 주변) 인코딩된 상위 이웃 참조 영역에 대한 루마 픽셀 값, 및 도출된 MV에 의해 지정된 참조 화상에서 대응하는 위치에서의 루마 픽셀 값에 기초하여 수행된다. 휘도 보정 파라미터는 루마 값이 변화된 정도를 나타내는 정보를 사용하여 계산된다.

현재 블록에 대한 예측 이미지는 MV에 의해 지정된 참조 화상의 참조 이미지에 휘도 보정 파라미터를 적용하는 휘도 보정 처리를 수행함으로써 생성된다.

도 39에 예시된 주변 참조 영역의 형상은 단지 일례이고; 주변 참조 영역은 다른 형상을 가질 수 있다는 것이 주목된다.

또한, 단일 참조 화상으로부터 예측 이미지를 생성하는 처리를 여기서 설명했지만, 복수의 참조 화상으로부터 예측 이미지를 생성하는 경우도 동일한 방식으로 설명할 수 있다. 예측 이미지는 전술한 바와 같은 방법으로 참조 화상으로부터 획득된 참조 이미지의 휘도 보정 처리를 수행한 후 생성될 수 있다.

LIC 처리 적용 여부를 결정하는 방법의 일례로 LIC 처리 적용 여부를 나타내는 신호인 lic_플래그를 사용하는 방법이 있다. 하나의 특정 예로서, 인코더는 현재 블록이 휘도 변화가 있는 영역에 속하는지 여부를 결정한다. 인코더는, 블록이 휘도 변화가 있는 영역에 속하고, 인코딩할 때 LIC 처리를 적용하는 경우 lic_플래그를 "1"의 값으로 설정하고, 블록이 휘도 변화가 있는 영역에 속하지 않고, LIC 처리를 적용하지 않고 현재 블록을 인코딩하는 경우 lic_플래그를 "0"의 값으로 설정한다. 디코더는, 플래그 값에 따라 LIC 처리의 적용과 비-적용 간을 전환함으로써 스트림에 기록된 lic_플래그를 디코딩하고 현재 블록을 디코딩할 수 있다.

LIC 처리를 적용할지 여부를 결정하는 다른 방법의 일례로 LIC 처리가 주변 블록에 적용되었는지 여부에 따라 결정하는 방법이 있다. 하나의 특정 예로서, 현재 블록에 병합 모드가 사용되는 경우, 병합 모드 처리에서 MV를 도출할 때 선택된 주변 인코딩된 블록의 인코딩에 LIC 처리가 적용되었는지 여부가 결정된다. 그 결과에 따라, LIC 처리의 적용과 비-적용 간을 전환함으로써 인코딩을 수행한다. 이 예에서도 동일한 처리가 디코더 측에서의 처리에 적용된다는 것이 주목된다.

도 39를 참조하여 설명된 휘도 보정(LIC) 처리의 일 실시예를 이하에서 상세히 설명한다.

먼저, 인터 예측부(126)는 인코딩된 화상인 참조 화상으로부터 인코딩될 현재 블록에 대응하는 참조 이미지를 획득하기 위한 움직임 벡터를 도출한다.

다음으로, 인터 예측부(126)는 현재 블록의 좌측 또는 위쪽에 이웃한 인코딩된 주변 참조 영역의 루마 픽셀 값과, 움직임 벡터에 의해 지정된 참조 화상에서 대응하는 위치의 루마 값을 사용하여 참조 화상의 루마 값이 현재 화상의 루마 값으로 변화된 정도를 나타내는 정보를 추출하고, 휘도 보정 파라미터를 계산한다. 예를 들어, 현재 화상에서의 주변 참조 영역에서 주어진 픽셀의 루마 픽셀 값이 p0이고, 참조 화상에서의 주변 참조 영역에서 주어진 픽셀에 대응하는 픽셀의 루마 픽셀 값은 p1이라고 가정한다. 인터 예측부(126)는 주변 참조 영역의 복수의 픽셀에 대한 휘도 보정 파라미터로서 A × p1 + B = p0을 최적화하기 위한 계수(A 및 B)를 계산한다.

다음으로, 인터 예측부(126)는 현재 블록에 대한 예측 이미지를 생성하기 위해 움직임 벡터에 의해 지정된 참조 화상의 참조 이미지에 대한 휘도 보정 파라미터를 사용하여 휘도 보정 처리를 수행한다. 예를 들어, 참조 이미지의 루마 픽셀 값은 p2이고, 예측 이미지의 휘도 보정된 루마 픽셀 값은 p3이라고 가정한다. 인터 예측부(126)는 참조 이미지의 각각의 픽셀에 대해 A × p2 + B = p3을 계산함으로써 휘도 보정 처리를 거친 후 예측 이미지를 생성한다.

도 39에 예시된 주변 참조 영역의 형상은 일례이고; 주변 참조 영역의 형상과는 다른 상이한 형상이 사용될 수 있다는 것이 주목된다. 또한, 도 39에 예시된 주변 참조 영역의 일부가 사용될 수 있다. 예를 들어, 상위 이웃 픽셀과 좌측 이웃 픽셀 각각으로부터 추출된 결정된 개수의 픽셀이 있는 영역이 주변 참조 영역으로서 사용될 수 있다. 픽셀의 결정된 수는 미리 결정될 수 있다.

또한, 주변 참조 영역은 현재 블록에 이웃한 영역으로 제한되지 않고, 현재 블록에 이웃하지 않은 영역일 수 있다. 도 39에 예시된 예에서, 참조 화상에서 주변 참조 영역은 현재 화상의 주변 참조 영역으로부터 현재 화상의 움직임 벡터에 의해 지정된 영역이다. 그러나, 다른 움직임 벡터에 의해 지정된 영역도 가능하다. 예를 들어, 다른 움직임 벡터는 현재 화상에서 주변 참조 영역의 움직임 벡터일 수 있다.

인코더(100)에 의해 수행되는 동작이 여기서 설명되었지만, 디코더(200)는 일반적으로 유사한 동작을 수행한다는 것이 주목된다.

LIC 처리는 루마에 적용될 뿐만 아니라 크로마에도 적용될 수 있다는 것이 주목된다. 이때, 보정 파라미터는 Y, Cb, Cr 각각에 대해 개별적으로 도출될 수 있고, 또는 공통 보정 파라미터는 Y, Cb, Cr 중 임의의 것에 사용될 수 있다.

또한, LIC 처리는 서브 블록 단위로 적용될 수 있다. 예를 들어, 현재 서브 블록의 주변 참조 영역과, 현재 서브 블록의 MV에 의해 지정된 참조 화상의 참조 서브 블록의 주변 참조 영역을 사용하여 보정 파라미터를 도출할 수 있다.

(예측 제어부)

인터 예측부(128)는 인트라 예측 신호(인트라 예측부(124)로부터 출력된 신호)와 인터 예측 신호(인터 예측부(126)로부터 출력된 신호) 중 하나를 선택하고, 선택된 신호를 예측 신호로서 감산부(104)와 가산부(116)에 출력한다.

도 1에 예시된 바와 같이, 다양한 종류의 인코더 예에서 예측 제어부(128)는 엔트로피 인코더(110)에 입력되는 예측 파라미터를 출력할 수 있다. 엔트로피 인코더(110)는 예측 제어부(128)로부터 입력되는 예측 파라미터 및 양자화부(108)로부터 입력되는 양자화된 계수에 기초하여 인코딩된 비트스트림(또는 시퀀스)을 생성할 수 있다. 예측 파라미터는 디코더에서 사용될 수 있다. 디코더는 인코딩된 비트스트림을 수신하고 디코딩하며, 인트라 예측부(124), 인터 예측부(126) 및 예측 제어부(128)에 의해 수행되는 예측 처리와 동일한 처리를 수행할 수 있다. 예측 파라미터는 (i) 선택 예측 신호(예를 들어, 인트라 예측부(124) 또는 인터 예측부(126)에 의해 사용되는 움직임 벡터, 예측 유형 또는 예측 모드), 또는 (ii) 인트라 예측부(124), 인터 예측부(126) 및 예측 제어부(128) 각각에서 수행된 예측 처리에 기초하거나, 예측 처리를 나타내는 선택적 인덱스, 플래그 또는 값을 포함할 수 있다.

(인코더를 장착한 예)

도 40은 인코더(100)를 장착한 예를 예시하는 블록도이다. 인코더(100)는 프로세서(a1) 및 메모리(a2)를 포함한다. 예를 들어, 도 1에 예시된 인코더(100)의 복수의 구성 요소는 도 40에 예시된 프로세서(a1) 및 메모리(a2)에 장착된다.

프로세서(a1)는 정보 처리를 수행하고 메모리(a2)에 액세스할 수 있는 회로부이다. 예를 들어, 프로세서(a1)는 비디오를 인코딩하는 전용 또는 일반 전자 회로부이다. 프로세서(a1)는 CPU와 같은 프로세서일 수 있다. 또한, 프로세서(a1)는 복수의 전자 회로의 집합체일 수 있다. 또한, 예를 들어, 프로세서(a1)는 도 1 등에 예시된 인코더(100)의 복수의 구성 요소 중 2개 이상의 구성 요소의 역할을 할 수 있다.

메모리(a2)는 비디오를 인코딩하기 위해 프로세서(a1)에 의해 사용되는 정보를 저장하기 위한 전용 또는 일반 메모리이다. 메모리(a2)는 전자 회로부일 수 있으며, 프로세서(a1)에 연결될 수 있다. 또한, 메모리(a2)는 프로세서(a1)에 포함될 수 있다. 또한, 메모리(a2)는 복수의 전자 회로의 집합체일 수 있다. 또한, 메모리(a2)는 자기 디스크, 광 디스크 등일 수 있으며, 또는 저장 매체, 기록 매체 등으로 표현될 수 있다. 또한, 메모리(a2)는 비-휘발성 메모리 또는 휘발성 메모리일 수 있다.

예를 들어, 메모리(a2)는 인코딩될 비디오를 저장하거나, 또는 인코딩된 비디오에 대응하는 비트스트림을 저장할 수 있다. 또한, 메모리(a2)는 프로세서(a1)가 비디오를 인코딩하게 하는 프로그램을 저장할 수 있다.

또한, 예를 들어, 메모리(a2)는 도 1 등에 예시된 인코더(100)의 복수의 구성 요소 중에서 정보를 저장하기 위한 2개 이상의 구성 요소의 역할을 할 수 있다. 예를 들어, 메모리(a2)는 도 1에 예시된 블록 메모리(118) 및 프레임 메모리(122)의 역할을 할 수 있다. 보다 구체적으로, 메모리(a2)는 재구성된 블록, 재구성된 화상 등을 저장할 수 있다.

인코더(100)에서, 도 1 등에 표시된 복수의 구성 요소 모두가 구현되는 것은 아닐 수 있고, 위에서 설명한 모든 처리가 수행되는 것은 아닐 수 있다는 것이 주목된다. 도 1 등에 표시된 구성 요소의 일부가 다른 디바이스에 포함될 수 있고, 또는 위에서 설명한 처리의 일부가 다른 디바이스에 의해 수행될 수 있다.

(디코더)

다음으로, 예를 들어 전술한 인코더(100)로부터 출력된 인코딩된 신호(인코딩된 비트스트림)를 디코딩할 수 있는 디코더를 설명한다. 도 41은 일 실시예에 따른 디코더(200)의 기능적 구성을 예시하는 블록도이다. 디코더(200)는 블록 단위로 비디오를 디코딩하는 비디오 디코더이다.

도 41에 예시된 바와 같이, 디코더(200)는 엔트로피 디코더(202), 역양자화부(204), 역변환부(206), 가산부(208), 블록 메모리(210), 루프 필터(212), 프레임 메모리(214), 인트라 예측부(216), 인터 예측부(218) 및 예측 제어부(220)를 포함한다.

디코더(200)는 예를 들어 일반적인 프로세서 및 메모리로 구현된다. 이 경우, 메모리에 저장된 소프트웨어 프로그램이 프로세서에 의해 실행될 때, 프로세서는 엔트로피 디코더(202), 역양자화부(204), 역변환부(206), 가산부(208), 루프 필터(212), 인트라 예측부(216), 인터 예측부(218) 및 예측 제어부(220)로서 기능한다. 대안적으로, 디코더(200)는 엔트로피 디코더(202), 역양자화부(204), 역변환부(206), 가산부(208), 루프 필터(212), 인트라 예측부(216), 인터 예측부(218) 및 예측 제어부(220)에 대응하는 하나 이상의 전용 전자 회로로서 구현될 수 있다.

이하에서는, 디코더(200)에 의해 수행되는 처리의 전체 흐름을 설명하고, 디코더(200)에 포함된 각각의 구성 요소를 설명한다.

(디코딩 처리의 전체적인 흐름)

도 42는 디코더(200)에 의해 수행되는 전체적인 디코딩 처리의 일례를 예시하는 흐름도이다.

먼저, 디코더(200)의 엔트로피 디코더(202)는 고정된 크기(예를 들어, 128×128 픽셀)를 갖는 블록의 분할 패턴을 식별한다(단계 Sp_1). 이 분할 패턴은 인코더(100)에 의해 선택된 분할 패턴이다. 그런 다음 디코더(200)는 분할 패턴의 복수의 블록 각각에 대해 단계(Sp_2 내지 Sp_6)의 처리를 수행한다.

다시 말해, 엔트로피 디코더(202)는 인코딩된 양자화된 계수 및 디코딩될 현재 블록(현재 블록이라고도 함)의 예측 파라미터를 디코딩(특히, 엔트로피 디코딩)한다(단계 Sp_2).

다음으로, 역양자화부(204)는 복수의 양자화된 계수의 역양자화를 수행하고, 역변환부(206)는 결과의 역변환을 수행하여 복수의 예측 잔차(즉, 차이 블록)를 복원한다(단계 Sp_3).

다음으로, 인트라 예측부(216), 인터 예측부(218) 및 예측 제어부(220)의 전부 또는 일부를 포함하는 예측 프로세서는 현재 블록의 예측 신호(예측 블록이라고도 함)를 생성한다(단계 Sp_4).

다음으로, 가산부(208)는 예측 블록을 차이 블록에 가산하여 현재 블록의 재구성된 이미지(디코딩된 이미지 블록이라고도 함)를 생성한다(단계 Sp_5).

재구성된 이미지가 생성되면 루프 필터(212)는 재구성된 이미지의 필터링을 수행한다(단계 Sp_6).

그런 다음 디코더(200)는 전체 화상의 디코딩이 완료되었는지 여부를 결정한다(단계 Sp_7). 디코딩이 아직 완료되지 않았다고 결정한 경우(단계 Sp_7에서 아니오), 디코더(200)는 단계(Sp_1)에서 시작하는 처리를 반복적으로 실행한다.

예시된 바와 같이, 단계(Sp_1 내지 Sp_7)의 처리는 디코더(200)에 의해 순차적으로 수행된다. 대인적으로, 2개 이상의 처리가 병렬로 수행될 수 있고, 2개 이상의 처리의 처리 순서 등이 변경될 수 있다.

(엔트로피 디코더)

엔트로피 디코더(202)는 인코딩된 비트스트림을 엔트로피 디코딩한다. 보다 구체적으로, 예를 들어, 엔트로피 디코더(202)는 인코딩된 비트스트림을 2진 신호로 산술 디코딩한다. 그런 다음 엔트로피 디코더(202)는 2진 신호를 역이진화한다. 이를 통해 엔트로피 디코더(202)는 각각의 블록의 양자화된 계수를 역양자화부(204)에 출력한다. 엔트로피 디코더(202)는 인코딩된 비트스트림에 포함된 예측 파라미터(도 1 참조)를 인트라 예측부(216), 인터 예측부(218) 및 예측 제어부(220)에 출력할 수 있다. 일 실시예에서 인트라 예측부(216), 인터 예측부(218) 및 예측 제어부(220)는 인코더 측에서 인트라 예측부(124), 인터 예측부(126) 및 예측 제어부(128)에 의해 수행되는 것과 동일한 예측 처리를 실행할 수 있다.

(역양자화부)

역양자화부(204)는 엔트로피 디코더(202)로부터의 입력인 디코딩될 블록(이하 현재 블록이라고 함)의 양자화된 계수를 역양자화한다. 보다 구체적으로, 역양자화부(204)는 양자화된 계수에 대응하는 양자화 파라미터에 기초하여 현재 블록의 양자화된 계수를 역양자화한다. 그런 다음 역양자화부(204)는 현재 블록의 역양자화된 변환 계수를 역변환부(206)에 출력한다.

(역변환부)

역변환부(206)는 역양자화부(204)로부터의 입력인 변환 계수를 역변환함으로써 예측 오차를 복원한다.

예를 들어, 인코딩된 비트스트림으로부터 파싱된 정보가 EMT가 적용될 것을 나타내거나 AMT가 적용될 것을 나타내는 경우(예를 들어, AMT 플래그가 참인 경우), 역변환부(206)는 파싱된 변환 유형을 나타내는 정보에 기초하여 현재 블록의 변환 계수를 역변환한다.

더욱이, 예를 들어, 인코딩된 비트스트림으로부터 파싱된 정보가 NSST가 적용될 것을 나타내는 경우, 역변환부(206)는 변환 계수에 2차 역변환을 적용한다.

(가산부)

가산부(208)는 역변환부(206)로부터의 입력인 예측 오차와, 예측 제어부(220)로부터의 입력인 예측 샘플을 가산함으로써 현재 블록을 재구성한다. 그런 다음 가산부(208)는 재구성된 블록을 블록 메모리(210) 및 루프 필터(212)에 출력한다.

(블록 메모리)

블록 메모리(210)는 디코딩되고 인트라 예측에서 참조될 화상(이하 현재 화상이라고 함)에 블록을 저장하는 저장 매체이다. 보다 구체적으로, 블록 메모리(210)는 가산부(208)로부터 출력된 재구성된 블록을 저장한다.

(루프 필터)

루프 필터(212)는 가산부(208)에 의해 재구성된 블록에 루프 필터를 적용하고, 필터링된 재구성된 블록을 프레임 메모리(214), 디스플레이 디바이스 등에 출력한다.

인코딩된 비트스트림으로부터 파싱된 ALF의 온 또는 오프를 나타내는 정보가 ALF가 온인 것을 나타내는 경우, 복수의 필터 중에서 하나의 필터가 로컬 구배의 방향과 활동에 기초하여 선택되고, 선택된 필터는 재구성된 블록에 적용된다.

(프레임 메모리)

프레임 메모리(214)는 예를 들어 인터 예측에 사용하기 위한 참조 화상을 저장하기 위한 저장 매체이고, 프레임 버퍼라고도 한다. 보다 구체적으로, 프레임 메모리(214)는 루프 필터(212)에 의해 필터링된 재구성된 블록을 저장한다.

(예측 프로세서(인트라 예측부, 인터 예측부, 예측 제어부))

도 43은 디코더(200)의 예측 프로세서에 의해 수행되는 처리의 일례를 예시하는 흐름도이다. 예측 프로세서는 다음의 구성 요소, 즉 인트라 예측부(216); 인터 예측부(218); 및 예측 제어부(220)의 전부 또는 일부를 포함한다는 것이 주목된다.

예측 프로세서는 현재 블록의 예측 이미지를 생성한다(단계 Sq_1). 이 예측 이미지는 예측 신호 또는 예측 블록이라고도 한다. 예측 신호는 예를 들어 인트라 예측 신호 또는 인터 예측 신호라는 것이 주목된다. 구체적으로, 예측 프로세서는 예측 블록의 생성, 차이 블록의 생성, 계수 블록의 생성, 차이 블록의 복원, 및 디코딩된 이미지 블록의 생성을 통해 이미 획득된 재구성된 이미지를 사용하여 현재 블록의 예측 이미지를 생성한다.

재구성된 이미지는, 예를 들어, 참조 화상의 이미지일 수 있고, 또는 현재 블록을 포함하는 화상인 현재 화상의 디코딩된 블록의 이미지일 수 있다. 현재 화상의 디코딩된 블록은 예를 들어 현재 블록의 이웃한 블록이다.

도 44는 디코더(200)의 예측 프로세서에 의해 수행되는 처리의 다른 예를 예시하는 흐름도이다.

예측 프로세서는 예측 이미지를 생성하는 방법 또는 모드를 결정한다(단계 Sr_1). 예를 들어, 방법 또는 모드는 예를 들어 예측 파라미터 등에 기초하여 결정될 수 있다.

제1 방법을 예측 이미지를 생성하는 모드로서 결정할 때, 예측 프로세서는 제1 방법에 따라 예측 이미지를 생성한다(단계 Sr_2a). 제2 방법을 예측 이미지를 생성하는 모드로서 결정할 때, 예측 프로세서는 제2 방법에 따라 예측 이미지를 생성한다(단계 Sr_2b). 제3 방법을 예측 이미지를 생성하는 모드로서 결정할 때, 예측 프로세서는 제3 방법에 따라 예측 이미지를 생성한다(단계 Sr_2c).

제1 방법, 제2 방법 및 제3 방법은 예측 이미지를 생성하는 서로 다른 방법일 수 있다. 제1 방법 내지 제3 방법 각각은 인터 예측 방법, 인트라 예측 방법 또는 다른 예측 방법일 수 있다. 전술한 재구성된 이미지는 이러한 예측 방법에서 사용될 수 있다.

(인트라 예측부)

인트라 예측부(216)는 인코딩된 비트스트림으로부터 파싱된 인트라 예측 모드에 기초하여, 블록 메모리(210)에 저장된 현재 화상의 블록 또는 블록들을 참조하여 인트라 예측을 수행함으로써 예측 신호(인트라 예측 신호)를 생성한다. 보다 구체적으로, 인트라 예측부(216)는 현재 블록에 이웃한 블록 또는 블록들의 샘플(예를 들어, 루마 및/또는 크로마 값)을 참조하여 인트라 예측을 수행함으로써 인트라 예측 신호를 생성한 다음, 인트라 예측 신호를 예측 제어부(220)에 출력한다.

루마 블록이 크로마 블록의 인트라 예측에서 참조되는 인트라 예측 모드가 선택되는 경우 인트라 예측부(216)는 현재 블록의 루마 성분에 기초하여 현재 블록의 크로마 성분을 예측할 수 있다는 것이 주목된다.

더욱이, 인코딩된 비트스트림으로부터 파싱된 정보가 PDPC가 적용될 것을 나타내는 경우, 인트라 예측부(216)는 수평/수직 참조 픽셀 구배에 기초하여 인트라 예측된 픽셀 값을 보정한다.

(인터 예측부)

인터 예측부(218)는 프레임 메모리(214)에 저장된 참조 화상을 참조함으로써 현재 블록을 예측한다. 인터 예측은 현재 블록 또는 이 현재 블록의 서브 블록(예를 들어, 4×4 블록) 단위로 수행된다. 예를 들어, 인터 예측부(218)는 인코딩된 비트스트림(예를 들어, 엔트로피 디코더(202)로부터 출력된 예측 파라미터)으로부터 파싱된 움직임 정보(예를 들어, 움직임 벡터)를 사용하여 움직임 보상을 수행함으로써 현재 블록 또는 서브 블록의 인터 예측 신호를 생성하고, 인터 예측 신호를 예측 제어부(220)에 출력한다.

인코딩된 비트스트림으로부터 파싱된 정보가 OBMC 모드가 적용될 것을 나타내는 경우, 인터 예측부(218)는 움직임 추정으로부터 획득된 현재 블록의 움직임 정보에 더하여 이웃 블록의 움직임 정보를 사용하여 인터 예측 신호를 생성한다는 것이 주목된다.

또한, 인코딩된 비트스트림으로부터 파싱된 정보가 FRUC 모드가 적용될 것을 나타내는 경우, 인터 예측부(218)는 인코딩된 비트스트림으로부터 파싱된 패턴 매칭 방법(양측 매칭 또는 템플릿 매칭)에 따라 움직임 추정을 수행함으로써 움직임 정보를 도출한다. 그런 다음 인터 예측부(218)는 도출된 움직임 정보를 사용하여 움직임 보상(예측)을 수행한다.

또한, BIO 모드가 적용될 경우, 인터 예측부(218)는 균일한 선형 움직임을 가정한 모델에 기초하여 움직임 벡터를 도출한다. 또한, 인코딩된 비트스트림으로부터 파싱된 정보가 아핀 움직임 보상 예측 모드가 적용될 것을 나타내는 경우, 인터 예측부(218)는 이웃한 블록의 움직임 벡터에 기초하여 각각의 서브 블록의 움직임 벡터를 도출한다.

(MV 도출 > 정상 인터 모드)

인코딩된 비트스트림으로부터 파싱된 정보가 정상 인터 모드가 적용될 것을 나타내는 경우, 인터 예측부(218)는 인코딩된 비트스트림으로부터 파싱된 정보에 기초하여 MV를 도출하고, 이 MV를 사용하여 움직임 보상(예측)을 수행한다.

도 45는 디코더(200)에서 정상 인터 모드에서의 인터 예측의 일례를 예시하는 흐름도이다.

디코더(200)의 인터 예측부(218)는 각각의 블록에 대한 움직임 보상을 수행한다. 인터 예측부(218)는 현재 블록에서 시간적으로 또는 공간적으로 주변에 있는 복수의 디코딩된 블록의 MV와 같은 정보에 기초하여 현재 블록에 대한 복수의 MV 후보를 획득한다(단계 Ss_1). 다시 말해, 인터 예측부(218)는 MV 후보 리스트를 생성한다.

다음으로, 인터 예측부(218)는 단계(Ss_1)에서 획득된 복수의 MV 후보로부터 N(2 이상의 정수)개의 MV 후보를 결정된 우선 순위에 따라 움직임 벡터 예측자 후보(MV 예측자 후보라고도 함)로서 추출한다(단계 Ss_2). 우선 순위는 N개의 MV 예측자 후보 각각에 대해 미리 결정될 수 있다는 것이 주목된다.

다음으로, 인터 예측부(218)는 입력 스트림(즉, 인코딩된 비트스트림)으로부터 움직임 벡터 예측자 선택 정보를 디코딩하고, 디코딩된 움직임 벡터 예측자 선택 정보를 이용하여 N개의 MV 예측자 후보 중에서 하나의 MV 예측자 후보를 현재 블록의 움직임 벡터(MV 예측자라고도 함)로서 선택한다(단계 Ss_3).

다음으로, 인터 예측부(218)는 입력 스트림으로부터 MV 차이를 디코딩하고, 디코딩된 MV 차이인 차이 값과, 선택된 움직임 벡터 예측자를 가산함으로써 현재 블록에 대한 MV를 도출한다(단계 Ss_4).

마지막으로, 인터 예측부(218)는 도출된 MV와 디코딩된 참조 화상을 이용하여 현재 블록의 움직임 보상을 수행함으로써 현재 블록에 대한 예측 이미지를 생성한다(단계 Ss_5).

(예측 제어부)

예측 제어부(220)는 인트라 예측 신호 또는 인터 예측 신호를 선택하고, 선택된 예측 신호를 가산부(208)에 출력한다. 전체적으로, 디코더 측에서 예측 제어부(220), 인트라 예측부(216) 및 인터 예측부(218)의 구성, 기능 및 처리는 인코더 측에서 예측 제어부(128), 인트라 예측부(124) 및 인터 예측부(126)의 구성, 기능 및 처리에 대응할 수 있다.

(디코더를 장착한 예)

도 46은 디코더(200)를 장착한 예를 예시하는 블록도이다. 디코더(200)는 프로세서(b1) 및 메모리(b2)를 포함한다. 예를 들어, 도 41에 예시된 디코더(200)의 복수의 구성 요소는 도 46에 예시된 프로세서(b1) 및 메모리(b2)에 장착된다.

프로세서(b1)는 정보 처리를 수행하고 메모리(b2)에 액세스할 수 있는 회로부이다. 예를 들어, 프로세서(b1)는 비디오(즉, 인코딩된 비트스트림)를 디코딩하는 전용 또는 일반 전자 회로부이다. 프로세서(b1)는 CPU와 같은 프로세서일 수 있다. 또한, 프로세서(b1)는 복수의 전자 회로의 집합체일 수 있다. 또한, 예를 들어, 프로세서(b1)는 도 41 등에 예시된 디코더(200)의 복수의 구성 요소 중에서 2개 이상의 구성 요소의 역할을 할 수 있다.

메모리(b2)는 인코딩된 비트스트림을 디코딩하기 위해 프로세서(b1)에 의해 사용되는 정보를 저장하기 위한 전용 또는 일반 메모리이다. 메모리(b2)는 전자 회로부일 수 있으며, 프로세서(b1)에 연결될 수 있다. 또한, 메모리(b2)는 프로세서(b1)에 포함될 수 있다. 또한, 메모리(b2)는 복수의 전자 회로의 집합체일 수 있다. 또한, 메모리(b2)는 자기 디스크, 광 디스크 등일 수 있으며, 또는 저장 매체, 기록 매체 등으로 표현될 수 있다. 또한, 메모리(b2)는 비-휘발성 메모리 또는 휘발성 메모리일 수 있다.

예를 들어, 메모리(b2)는 비디오 또는 비트스트림을 저장할 수 있다. 또한, 메모리(b2)는 프로세서(b1)가 인코딩된 비트스트림을 디코딩하게 하는 프로그램을 저장할 수 있다.

또한, 예를 들어, 메모리(b2)는 도 41 등에 예시된 디코더(200)의 복수의 구성 요소들 중에서 정보를 저장하기 위해 2개 이상의 구성 요소의 역할을 할 수 있다. 구체적으로, 메모리(b2)는 도 41에 예시된 블록 메모리(210) 및 프레임 메모리(214)의 역할을 할 수 있다. 보다 구체적으로, 메모리(b2)는 재구성된 블록, 재구성된 화상 등을 저장할 수 있다.

디코더(200)에서 도 41 등에 예시된 복수의 구성 요소가 모두 구현되는 것은 아닐 수 있고, 전술한 처리가 모두 수행되는 것은 아닐 수 있다는 것이 주목된다. 도 41 등에 표시된 구성 요소의 일부는 다른 디바이스에 포함될 수 있고, 또는 전술한 처리의 일부는 다른 디바이스에 의해 수행될 수 있다.

(용어의 정의)

각각의 용어는 예로서 아래에 제시된 바와 같이 정의될 수 있다.

화상은 단색 형식의 루마 샘플의 어레이이거나 또는 4:2:0, 4:2:2 및 4:4:4의 컬러 형식의 루마 샘플의 어레이 및 크로마 샘플의 2개의 대응하는 어레이이다. 화상은 프레임 또는 필드일 수 있다.

프레임은 상부 필드와 하부 필드의 합성으로서, 여기서 샘플 행(0, 2, 4, ...)은 상부 필드로부터 시작되고, 샘플 행(1, 3, 5, ...)은 하부 필드로부터 시작된다.

슬라이스는 하나의 독립적인 슬라이스 세그먼트, 및 동일한 액세스 단위 내에 (만약 있는 경우) 그 다음 독립적인 슬라이스 세그먼트에 선행하는 (만약 있는 경우) 모든 후속하는 의존 슬라이스 세그먼트에 포함된 정수 개수의 코딩 트리 단위이다.

타일은 화상에서 특정 타일 열 및 특정 타일 행에서 코딩 트리 블록의 직사각형 영역이다. 타일은 독립적으로 디코딩 및 인코딩될 수 있도록 의도된 프레임의 직사각형 영역일 수 있지만, 타일 에지(tile edge)에 걸쳐 루프 필터링이 여전히 적용될 수 있다.

블록은 샘플의 M×N(M열×N행) 어레이 또는 변환 계수의 M×N 어레이이다. 블록은 하나의 루마 및 2개의 크로마 행렬을 포함하는 픽셀의 정사각형 또는 직사각형 영역일 수 있다.

코딩 트리 유닛(CTU)은 3개의 샘플 어레이를 갖는 화상의 루마 샘플의 코딩 트리 블록이거나 또는 크로마 샘플의 2개의 대응하는 코딩 트리 블록일 수 있다. 대안적으로, CTU는 단색 화상과, 샘플을 코딩하는 데 사용되는 3개의 별개의 컬러 평면 및 구문 구조를 사용하여 코딩된 화상 중 하나의 화상의 샘플의 코딩 트리 블록일 수 있다. 수퍼 블록은 1개 또는 2개의 모드 정보 블록으로 구성된 64×64 픽셀의 정사각형 블록일 수 있고, 또는 더 분할될 수 있는 4개의 32×32 블록으로 재귀적으로 분할된다.

(비직사각형 분할)

인코더 측(도 1 참조)의 인트라 예측부(124) 및 인터 예측부(126)에 결합된 예측 제어부(128)에서뿐만 아니라, 디코더 측(도 41 참조)의 인트라 예측부(216) 및 인터 예측부(218)에 결합된 예측 제어부(220)에서는 지금까지 움직임 정보(예를 들어, 움직임 벡터)가 획득되는 대상인 각 블록을 분할하여 획득된 파티션(또는 가변 크기 블록 또는 서브 블록)은 도 3에 도시된 바와 같이 변함 없이 직사각형이다. 본 발명자들은 삼각형 형상과 같은 비직사각형 형상을 갖는 파티션을 생성하면 다양한 구현예에서 화상 속 이미지의 내용에 따라 이미지 품질 및 인코딩 효율이 향상된다는 것을 발견하였다. 이하에서는 예측을 위한 이미지 블록으로부터 분할된 적어도 하나의 파티션이 비직사각형 형상을 갖는 경우의 다양한 실시예를 설명한다. 이들 실시예는 인코더 측(인트라 예측부(124)와 인터 예측부(126)에 결합된 예측 제어부(128))과 디코더 측(인트라 예측부(216)와 인터 예측부(218)에 결합된 예측 제어부(220))에 동일하게 적용 가능하고, 도 1 등의 인코더 또는 도 41 등의 디코더에서 구현될 수 있다는 것이 주목된다.

도 47은 이미지 블록을 비직사각형 형상(예를 들어, 삼각형)을 갖는 적어도 제1 파티션과, 제2 파티션을 포함하는 파티션으로 분할하고, 이미지 블록을 제1 파티션과 제2 파티션의 재구성된 조합으로 인코딩(또는 디코딩)하는 것을 포함하는 추가 처리를 수행하는 처리의 일례를 예시하는 흐름도이다.

단계(S1001)에서, 이미지 블록은 비직사각형 형상을 갖는 제1 파티션과, 비직사각형일 수도 있고 비직사각형 형상이 아닐 수도 있는 제2 파티션을 포함하는 파티션으로 분할된다. 예를 들어, 도 48에 도시된 바와 같이, 이미지 블록은 이미지 블록의 좌측 상부 모서리로부터 이미지 블록의 우측 하부 모서리 방향으로 분할되어 모두 비직사각형인 형상(예를 들어, 삼각형)을 갖는 제1 파티션과 제2 파티션을 생성할 수 있고, 또는 이미지 블록은 이미지 블록의 우측 상부 모서리로부터 이미지 블록의 좌측 하부 모서리 방향으로 분할되어 모두 비직사각형 형상(예를 들어, 삼각형)을 갖는 제1 파티션과 제2 파티션을 생성할 수 있다. 비직사각형 분할의 다양한 예는 도 48 및 도 53 내지 도 55를 참조하여 아래에서 설명된다.

단계(S1002)에서, 처리는 제1 파티션에 대한 제1 움직임 벡터를 예측하고, 제2 파티션에 대한 제2 움직임 벡터를 예측한다. 예를 들어, 제1 및 제2 움직임 벡터의 예측은 제1 움직임 벡터 후보 세트로부터 제1 움직임 벡터를 선택하고, 제2 움직임 벡터 후보 세트로부터 제2 움직임 벡터를 선택하는 것을 포함할 수 있다.

단계(S1003)에서, 상기 단계(S1002)에서 도출된 제1 움직임 벡터를 사용하여 제1 파티션을 획득하고, 상기 단계(S1002)에서 도출된 제2 움직임 벡터를 사용하여 제2 파티션을 획득하기 위해 움직임 보상 처리가 수행된다.

단계(S1004)에서, 제1 파티션과 제2 파티션의 (재구성된) 조합으로서 이미지 블록에 대한 예측 처리가 수행된다. 예측 처리는 제1 파티션과 제2 파티션 사이의 경계를 평활화하기 위한 경계 평활화 처리를 포함할 수 있다. 예를 들어, 경계 평활화 처리는 제1 파티션에 기초하여 예측된 경계 픽셀의 제1 값과, 제2 파티션에 기초하여 예측된 경계 픽셀의 제2 값에 가중치를 부여하는 것을 포함할 수 있다. 경계 평활화 처리의 다양한 구현예는 도 49, 도 50, 도 56 및 도 57a 내지 도 57d를 참조하여 아래에서 설명된다.

단계(S1005)에서, 처리는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션으로 분할하는 것을 나타내는 파티션 파라미터를 포함하는 하나 이상의 파라미터를 사용하여 이미지 블록을 인코딩하거나 또는 디코딩한다. 도 51의 표에 요약된 바와 같이, 예를 들어, 파티션 파라미터("제1 인덱스 값")는 예를 들어 분할에 적용되는 분할 방향(예를 들어, 도 48에 도시된 바와 같이 좌측 상부로부터 우측 하부 방향 또는 우측 상부로부터 좌측 하부 방향) 및 상기 단계(S1002)에서 도출된 제1 및 제2 움직임 벡터를 공동으로 인코딩할 수 있다. 파티션 파라미터를 포함하는 하나 이상의 파라미터를 포함하는 이러한 파티션 구문 동작의 세부 사항은 도 51, 도 52 및 도 58 내지 도 61을 참조하여 아래에서 상세히 설명된다.

도 53은 이미지 블록을 분할하는 처리(2000)를 예시하는 흐름도이다. 단계(S2001)에서, 처리는 이미지를 비직사각형 형상을 갖는 제1 파티션과 비직사각형 형상일 수도 있고 비직사각형 형상이 아닐 수도 있는 제2 파티션을 포함하는 복수의 파티션으로 분할한다. 도 48에 도시된 바와 같이, 이미지 블록은 삼각형 형상을 갖는 제1 파티션과, 또한 삼각형 형상을 갖는 제2 파티션으로 분할될 수 있다. 이미지 블록이 제1 파티션 및 제2 파티션을 포함하는 복수의 파티션으로 분할되고 이 중 적어도 제1 파티션은 비직사각형 형상을 갖는 수많은 다른 예들이 있다. 비직사각형 형상은 삼각형, 사다리꼴, 및 적어도 5개의 변과 각을 가진 다각형일 수 있다.

예를 들어, 도 54에 도시된 바와 같이, 이미지 블록은 2개의 삼각형 형상의 파티션으로 분할될 수 있고; 이미지 블록은 2개를 초과하는 삼각형 형상의 파티션(예를 들어, 3개의 삼각형 형상의 파티션)으로 분할될 수 있고; 이미지 블록은 삼각형 형상의 파티션(들)과 직사각형 형상의 파티션(들)의 조합으로 분할될 수 있고; 또는 이미지 블록은 삼각형 형상의 파티션(들)과 다각형 형상의 파티션(들)의 조합으로 분할될 수 있다.

도 55에 더 도시된 바와 같이, 이미지 블록은 L자형(다각형 형상) 파티션과 직사각형 형상의 파티션으로 분할될 수 있고; 이미지 블록은 오각형(다각형) 형상의 파티션과 삼각형 형상의 파티션으로 분할될 수 있고; 이미지 블록은 육각형(다각형) 형상의 파티션과 오각형(다각형) 형상의 파티션으로 분할될 수 있고; 또는 이미지 블록은 다수의 다각형 형상의 파티션으로 분할될 수 있다.

다시 도 53을 참조하면, 단계(S2002)에서, 처리는, 예를 들어, 제1 움직임 벡터 후보 세트로부터 제1 파티션을 선택함으로써 제1 파티션에 대한 제1 움직임 벡터를 예측하고, 예를 들어, 제2 움직임 벡터 후보 세트로부터 제2 파티션을 선택함으로써 제2 파티션에 대한 제2 움직임 벡터를 예측한다. 예를 들어, 제1 움직임 벡터 후보 세트는 제1 파티션에 이웃하는 파티션의 움직임 벡터를 포함할 수 있고, 제2 움직임 벡터 후보 세트는 제2 파티션에 이웃하는 파티션의 움직임 벡터를 포함할 수 있다. 이웃하는 파티션은 공간적으로 이웃하는 파티션과 시간적으로 이웃하는 파티션 중 하나 또는 둘 모두일 수 있다. 공간적으로 이웃하는 파티션의 일부 예는 처리되는 파티션의 좌측, 좌측 하부, 하부, 우측 하부, 우측, 우측 상부, 상부 또는 좌측 상부에 위치된 파티션을 포함한다. 시간적으로 이웃하는 파티션의 예는 이미지 블록의 참조 화상들에서 같은 위치에 있는 파티션이다.

다양한 구현예에서, 제1 파티션에 이웃하는 파티션과 제2 파티션에 이웃하는 파티션은 제1 파티션과 제2 파티션으로 분할되는 이미지 블록의 외부에 있을 수 있다. 제1 움직임 벡터 후보 세트는 제2 움직임 벡터 후보 세트와 동일하거나 상이할 수 있다. 또한, 제1 움직임 벡터 후보 세트와 제2 움직임 벡터 후보 세트 중 적어도 하나는 이미지 블록에 대해 준비된 다른 제3 움직임 벡터 후보 세트와 동일할 수 있다.

일부 구현예에서, 단계(S2002)에서, 제1 파티션과 유사한 제2 파티션도 또한 비직사각형 형상(예를 들어, 삼각형)을 갖는다는 결정에 응답하여, 처리(2000)는 제1 파티션을 제외하고(제1 파티션의 움직임 벡터를 제외하고) 제2 파티션에 이웃하는 파티션의 움직임 벡터를 포함하는 (비직사각형 형상의 제2 파티션에 대한) 제2 움직임 벡터 후보 세트를 생성한다. 한편, 제1 파티션과 달리 제2 파티션이 직사각형 형상을 갖는다는 결정에 응답하여, 처리(2000)는 제1 파티션을 포함하여 제2 파티션에 이웃하는 파티션의 움직임 벡터를 포함하는 (직사각형 형상의 제2 파티션에 대한) 제2 움직임 벡터 후보 세트를 생성한다.

단계(S2003)에서, 처리는 상기 단계(S2002)에서 도출된 제1 움직임 벡터를 사용하여 제1 파티션을 인코딩하거나 또는 디코딩하고, 상기 단계(S2002)에서 도출된 제2 움직임 벡터를 사용하여 제2 파티션을 인코딩하거나 또는 디코딩한다.

도 53의 처리(2000)와 같은 이미지 블록 분할 처리는 회로부 및 이 회로부에 결합된 메모리를 포함하는, 예를 들어, 도 1에 도시된 바와 같은 이미지 인코더에 의해 수행될 수 있다. 회로부는, 동작 시에, 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고(단계(S2001)); 제1 파티션에 대한 제1 움직임 벡터 및 제2 파티션에 대한 제2 움직임 벡터를 예측하고(단계(S2002)); 및 제1 움직임 벡터를 사용하여 제1 파티션을 인코딩하고, 제2 움직임 벡터를 사용하여 제2 파티션을 인코딩하는(단계(S2003)) 것을 수행한다.

다른 실시예에 따르면, 도 1에 도시된 바와 같이, 이미지 인코더가 제공되고, 이미지 인코더는, 동작 시에, 원본 화상을 수신하고 블록으로 분할하는 분할부(102); 동작 시에, 분할부로부터 블록을 수신하고 예측 제어부(128)로부터 예측을 수신하고, 대응하는 블록으로부터 각각의 예측을 감산하여 잔차를 출력하는 가산부(104); 동작 시에, 가산부(104)로부터 출력된 잔차에 변환을 수행하여 변환 계수를 출력하는 변환부(106); 동작 시에, 변환 계수를 양자화하여 양자화된 변환 계수를 생성하는 양자화부(108); 동작 시에, 양자화된 변환 계수를 인코딩하여 비트스트림을 생성하는 엔트로피 인코더(110); 및 인터 예측부(126), 인트라 예측부(124) 및 메모리(118, 122)에 결합된 예측 제어부(128)를 포함하고, 인터 예측부(126)는, 동작 시에, 인코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 인트라 예측부(124)는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 예측 제어부(128)는, 동작 시에, 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고(도 53, 단계(S2001)); 제1 파티션에 대한 제1 움직임 벡터 및 제2 파티션에 대한 제2 움직임 벡터를 예측하고(단계(S2002)); 제1 움직임 벡터를 사용하여 제1 파티션을 인코딩하고 제2 움직임 벡터를 사용하여 제2 파티션을 인코딩한다(단계(S2003)).

다른 실시예에 따르면, 예를 들어, 도 41에 도시된 바와 같이, 이미지 디코더가 제공되고, 이미지 디코더는 회로부 및 이 회로부에 결합된 메모리를 포함한다. 회로부는, 동작 시에, 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고(도 53, 단계(S2001)); 제1 파티션에 대한 제1 움직임 벡터 및 제2 파티션에 대한 제2 움직임 벡터를 예측하고(단계(S2002)); 제1 움직임 벡터를 사용하여 제1 파티션을 디코딩하고, 제2 움직임 벡터를 사용하여 제2 파티션을 디코딩한다(단계(S2003)).

다른 실시예에 따르면, 도 41에 도시된 바와 같이, 이미지 디코더가 제공되고, 이미지 디코더는, 동작 시에, 인코딩된 비트스트림을 수신하고 디코딩하여 양자화된 변환 계수를 획득하는 엔트로피 디코더(202); 동작 시에, 양자화된 변환 계수를 역양자화하여 변환 계수를 획득하고 변환 계수를 역변환하여 잔차를 획득하는 역양자화부(204) 및 변환부(206); 동작 시에, 역양자화부(204) 및 변환부(206)로부터 출력된 잔차와 예측 제어부(220)로부터 출력된 예측을 더하여 블록을 재구성하는 가산부(208); 및 인터 예측부(218), 인트라 예측부(216) 및 메모리(210, 214)에 결합된 예측 제어부(220)를 포함하고, 인터 예측부(218)는, 동작 시에, 디코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 인트라 예측부(216)는, 동작 시에, 현재 화상의 디코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 예측 제어부(220)는, 동작 시에, 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고(도 53, 단계(S2001)); 제1 파티션에 대한 제1 움직임 벡터 및 제2 파티션에 대한 제2 움직임 벡터를 예측하고(단계(S2002)); 제1 움직임 벡터를 사용하여 제1 파티션을 디코딩하고 제2 움직임 벡터를 사용하여 제2 파티션을 디코딩한다(단계(S2003)).

(경계 평활화)

도 47에서 앞서 설명된 바와 같이, 단계(S1004)에서, 다양한 실시예에 따라, 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션의 (재구성된) 조합으로서 이미지 블록에 대한 예측 처리를 수행하는 것은 제1 파티션과 제2 파티션 사이의 경계를 따라 경계 평활화 처리를 적용하는 것을 포함할 수 있다.

예를 들어, 도 57b는 제1 파티션에 기초하여 제1 예측되는 경계 픽셀의 제1 값과, 제2 파티션에 기초하여 제2 예측되는 경계 픽셀의 제2 값에 가중치를 부여하는 것을 포함하는 경계 평활화 처리의 일례를 예시한다.

도 56은, 일 실시예에 따라, 제1 파티션에 기초하여 제1 예측된 경계 픽셀의 제1 값과, 제2 파티션에 기초하여 제2 예측된 경계 픽셀의 제2 값에 가중치를 부여하는 것을 포함하는 전체 경계 평활화 처리(3000)를 예시하는 흐름도이다. 단계(S3001)에서, 이미지 블록은 경계를 따라 제1 파티션과 제2 파티션으로 분할되고, 여기서 적어도 제1 파티션은 위에서 설명한 도 57a 또는 도 48, 도 54 및 도 55에 도시된 바와 같이 비직사각형 형상을 갖는다.

단계(S3002)에서, 경계를 따라 제1 파티션의 픽셀 세트(도 57a의 "경계 픽셀")의 제1 값(예를 들어, 색상, 휘도, 투명도 등)이 제1 예측되고, 여기서 제1 값은 제1 파티션의 정보를 사용하여 제1 예측된다. 단계(S3003)에서, 경계를 따라 제1 파티션의 (동일한) 픽셀 세트의 제2 값이 제2 예측되고, 여기서 제2 값은 제2 파티션의 정보를 사용하여 제2 예측된다. 일부 구현예에서, 제1 예측과 제2 예측 중 적어도 하나는 인코딩된 참조 화상의 참조 파티션에 기초하여 제1 값과 제2 값을 예측하는 인터 예측 처리이다. 도 57d를 참조하면, 일부 구현예에서, 예측 처리는 제1 파티션과 제2 파티션이 중첩하는 픽셀 세트를 포함하는 제1 파티션의 모든 픽셀("제1 샘플 세트")의 제1 값을 예측하고, 제1 파티션과 제2 파티션이 중첩하는 픽셀 세트("제2 샘플 세트")만의 제2 값을 예측한다. 다른 구현예에서, 제1 예측과 제2 예측 중 적어도 하나는 현재 화상의 인코딩된 참조 파티션에 기초하여 제1 값과 제2 값을 예측하는 인트라 예측 처리이다. 일부 구현예에서, 제1 예측에 사용되는 예측 방법은 제2 예측에 사용되는 예측 방법과 다르다. 예를 들어, 제1 예측은 인터 예측 처리를 포함할 수 있고, 제2 예측은 인트라 예측 처리를 포함할 수 있다. 제1 값을 제1 예측하거나 제2 값을 제2 예측하는 데 사용되는 정보는 제1 파티션 또는 제2 파티션의 움직임 벡터, 인트라 예측 방향 등일 수 있다.

단계(S3004)에서, 제1 파티션을 사용하여 예측된 제1 값과, 제2 파티션을 사용하여 예측된 제2 값에 가중치가 부여된다. 단계(S3005)에서, 제1 파티션은 가중치 부여된 제1 값과 제2 값을 사용하여 인코딩되거나 또는 디코딩된다.

도 57b는 제1 파티션과 제2 파티션이 각 행 또는 각 열의 (최대) 5개의 픽셀에 걸쳐 중첩하는 경우의 경계 평활화 동작의 일례를 예시한다. 즉, 제1 파티션에 기초하여 제1 값이 예측되고 제2 파티션에 기초하여 제2 값이 예측되는 각 행 또는 각 열의 픽셀 세트의 수는 최대 5개이다. 도 57c는 제1 파티션과 제2 파티션이 각 행 또는 각 열의 (최대) 3개의 픽셀에 걸쳐 중첩하는 경우의 경계 평활화 동작의 다른 예를 예시한다. 즉, 제1 파티션에 기초하여 제1 값이 예측되고 제2 파티션에 기초하여 제2 값이 예측되는 각 행 또는 각 열의 픽셀 세트의 수는 최대 3개이다.

도 49는 제1 파티션과 제2 파티션이 각 행 또는 각 열의 (최대) 4개의 픽셀에 걸쳐 중첩하는 경우의 경계 평활화 동작의 다른 예를 예시한다. 즉, 제1 파티션에 기초하여 제1 값이 예측되고 제2 파티션에 기초하여 제2 값이 예측되는, 각 행 또는 각 열의 픽셀 세트의 수는 최대 4개이다. 예시된 예에서, 1/8, 1/4, 3/4 및 7/8의 가중치가 픽셀 세트의 4개의 픽셀의 제1 값에 각각 적용될 수 있으며, 7/8, 3/4, 1/4, 1/8의 가중치가 픽셀 세트의 4개의 픽셀의 제2 값에 각각 적용될 수 있다.

도 50은 제1 파티션과 제2 파티션이 각 행 또는 각 열의 0 픽셀에 걸쳐 중첩하고(즉, 중첩하지 않음), 각 행 또는 각 열의 (최대) 하나의 픽셀에 걸쳐 중첩하고, 각 행 또는 각 열의 (최대) 2개의 픽셀에 걸쳐 각각 중첩하는 경우의 경계 평활화 동작의 다른 예를 예시한다. 제1 파티션과 제2 파티션이 중첩하지 않는 예에서는 0의 가중치가 적용된다. 제1 파티션과 제2 파티션이 각 행 또는 각 열의 하나의 픽셀에 걸쳐 중첩하는 예에서는, 1/2의 가중치가 제1 파티션에 기초하여 예측된 세트의 픽셀의 제1 값에 적용될 수 있으며, 1/2의 가중치가 제2 파티션에 기초하여 예측된 세트의 픽셀의 제2 값에 적용될 수 있다. 제1 파티션과 제2 파티션이 각 행 또는 각 열의 2개의 픽셀에 걸쳐 중첩하는 예에서는, 1/3 및 2/3의 가중치가 제1 파티션에 기초하여 예측된 세트의 2개의 픽셀의 제1 값에 각각 적용될 수 있으며, 2/3 및 1/3의 가중치가 제2 파티션에 기초하여 예측된 세트의 2개의 픽셀의 제2 값에 각각 적용될 수 있다.

전술한 실시예에 따르면, 세트에서 제1 파티션과 제2 파티션이 중첩하는 픽셀의 수는 정수이다. 다른 구현예에서, 세트에서 중첩하는 픽셀의 수는 정수가 아닐 수 있고, 예를 들어, 분수일 수 있다. 또한, 픽셀 세트의 제1 값과 제2 값에 적용되는 가중치는 각 응용에 따라 분수이거나 또는 정수일 수 있다.

도 56의 처리(3000)와 같은 경계 평활화 처리는, 회로부 및 이 회로부에 결합된 메모리를 포함하는, 예를 들어, 도 1에 도시된 바와 같은 이미지 인코더에 의해 수행될 수 있다. 회로부는, 동작 시에, 이미지 블록으로부터 분할된(도 56, 단계(S3001)) 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션 사이의 경계를 따라 경계 평활화 동작을 수행한다. 경계 평활화 동작은, 제1 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제1 값을 제1 예측하고(단계(S3002)); 제2 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제2 값을 제2 예측하고(단계(S3003)); 제1 값과 제2 값에 가중치를 부여하고(단계(S3004)); 가중치 부여된 제1 값과 가중치 부여된 제2 값을 사용하여 제1 파티션을 인코딩하는(단계(S3005)) 것을 포함한다.

다른 실시예에 따르면, 도 1에 도시된 바와 같이, 이미지 인코더가 제공되고, 이미지 인코더는, 동작 시에, 원본 화상을 수신하고 블록으로 분할하는 분할부(102); 동작 시에, 분할부로부터 블록을 수신하고 예측 제어부(128)로부터 예측을 수신하고, 대응하는 블록으로부터 각각의 예측을 감산하여 잔차를 출력하는 가산부(104); 동작 시에, 가산부(104)로부터 출력된 잔차에 변환을 수행하여 변환 계수를 출력하는 변환부(106); 동작 시에, 변환 계수를 양자화하여 양자화된 변환 계수를 생성하는 양자화부(108); 동작 시에, 양자화된 변환 계수를 인코딩하여 비트스트림을 생성하는 엔트로피 인코더(110); 및 인터 예측부(126), 인트라 예측부(124) 및 메모리(118, 122)에 결합된 예측 제어부(128)를 포함하고, 인터 예측부(126)는, 동작 시에, 인코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 인트라 예측부(124)는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 예측 제어부(128)는, 동작 시에, 이미지 블록으로부터 분할된(도 56, 단계(S3001)) 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션 사이의 경계를 따라 경계 평활화 동작을 수행한다. 경계 평활화 동작은, 제1 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제1 값을 제1 예측하고(단계(S3002)); 제2 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제2 값을 제2 예측하고(단계(S3003)); 제1 값과 제2 값에 가중치를 부여하고(단계(S3004)); 가중치 부여된 제1 값과 가중치 부여된 제2 값을 사용하여 제1 파티션을 인코딩하는(단계(S3005)) 것을 포함한다.

다른 실시예에 따르면, 예를 들어, 도 41에 도시된 바와 같이 이미지 디코더가 제공되고, 이미지 디코더는 회로부 및 이 회로부에 결합된 메모리를 포함한다. 회로부는, 동작 시에, 이미지 블록으로부터 분할된(도 56, 단계(S3001)) 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션 사이의 경계를 따라 경계 평활화 동작을 수행한다. 경계 평활화 동작은, 제1 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제1 값을 제1 예측하고(단계(S3002)); 제2 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제2 값을 제2 예측하고(단계(S3003)); 제1 값과 제2 값에 가중치를 부여하고(단계(S3004)); 가중치 부여된 제1 값과 가중치 부여된 제2 값을 사용하여 제1 파티션을 디코딩하는(단계(S3005)) 것을 포함한다.

다른 실시예에 따르면, 도 41에 도시된 바와 같이 이미지 디코더가 제공되고, 이미지 디코더는, 동작 시에, 인코딩된 비트스트림을 수신하고 디코딩하여 양자화된 변환 계수를 획득하는 엔트로피 디코더(202); 동작 시에, 양자화된 변환 계수를 역양자화하여 변환 계수를 획득하고 변환 계수를 역변환하여 잔차를 획득하는 역양자화부(204) 및 변환부(206); 동작 시에, 역양자화부(204) 및 변환부(206)로부터 출력된 잔차와 예측 제어부(220)로부터 출력된 예측을 더하여 블록을 재구성하는 가산부(208); 및 인터 예측부(218), 인트라 예측부(216) 및 메모리(210, 214)에 결합된 예측 제어부(220)를 포함하고, 인터 예측부(218)는, 동작 시에, 디코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 인트라 예측부(216)는, 동작 시에, 현재 화상의 디코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 예측 제어부(220)는, 동작 시에, 이미지 블록으로부터 분할된(도 56, 단계(S3001)) 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션 사이의 경계를 따라 경계 평활화 동작을 수행한다. 경계 평활화 동작은, 제1 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제1 값을 제1 예측하고(단계(S3002)); 제2 파티션의 정보를 사용하여 경계를 따라 제1 파티션의 픽셀 세트의 제2 값을 제2 예측하고(단계(S3003)); 제1 값과 제2 값에 가중치를 부여하고(단계(S3004)); 가중치 부여된 제1 값과 가중치 부여된 제2 값을 사용하여 제1 파티션을 디코딩하는(단계(S3005)) 것을 포함한다.

(파티션 파라미터 구문을 사용한 엔트로피 인코딩 및 디코딩)

도 47에 설명된 바와 같이, 단계(S1005)에서, 다양한 실시예에 따라, 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션으로 분할된 이미지 블록은 이미지 블록의 비직사각형 분할을 나타내는 파티션 파라미터를 포함하는 하나 이상의 파라미터를 사용하여 인코딩되거나 또는 디코딩될 수 있다. 다양한 실시예에서, 이러한 파티션 파라미터는 아래에서 보다 상세히 설명된 바와 같이 예를 들어 분할에 적용되는 분할 방향(예를 들어, 좌측 상부로부터 우측 하부 방향 또는 우측 상부로부터 좌측 하부 방향, 도 48 참조) 및 단계(S1002)에서 예측된 제1 및 제2 움직임 벡터를 공동으로 인코딩할 수 있다.

도 51은 샘플 파티션 파라미터("제1 인덱스 값"), 및 파티션 파라미터들에 의해 각각 공동으로 인코딩된 정보 세트의 표이다. 파티션 파라미터("제1 인덱스 값")는 0 내지 6의 범위이고, 이미지 블록을 모두 삼각형을 갖는 제1 파티션과 제2 파티션으로 분할하는 방향(도 48 참조), 제1 파티션에 대해 예측된 제1 움직임 벡터(도 47, 단계(S1002)), 및 제2 파티션에 대해 예측된 제2 움직임 벡터(도 47, 단계(S1002))를 공동으로 인코딩한다. 구체적으로, 파티션 파라미터 0은, 분할 방향이 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다.

파티션 파라미터 1은, 분할 방향이 우측 상부 모서리로부터 좌측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터로 인코딩한다. 파티션 파라미터 2는, 분할 방향이 우측 상부 모서리로부터 좌측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다. 파티션 파라미터 3은, 분할 방향이 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터로 인코딩한다. 파티션 파라미터 4는, 분할 방향이 우측 상부 모서리로부터 좌측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제3" 움직임 벡터로 인코딩한다. 파티션 파라미터 5는, 분할 방향이 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제3" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다. 파티션 파라미터 6은, 분할 방향이 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제4" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다.

도 58은 인코더 측에서 수행되는 방법(4000)을 예시하는 흐름도이다. 단계(S4001)에서 처리는 분할을 나타내는 파티션 파라미터에 기초하여 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할한다. 예를 들어, 위에서 설명한 도 51에 도시된 바와 같이, 파티션 파라미터는 이미지 블록을 분할하는 방향(예를 들어, 우측 상부 모서리로부터 좌측 하부 모서리 방향 또는 좌측 상부 모서리로부터 우측 하부 모서리 방향)을 나타낼 수 있다. 단계(S4002)에서, 처리는 제1 파티션과 제2 파티션을 인코딩한다. 단계(S4003)에서, 처리는 파티션 파라미터를 포함하는 하나 이상의 파라미터를 비트 스트림으로 기록하고, 디코더 측은 이 비트 스트림을 수신하고 디코딩하여 하나 이상의 파라미터를 획득하고 디코더 측에서 제1 및 제2 파티션에 대해 (인코더 측에서 수행된 것과) 동일한 예측 처리를 수행할 수 있다. 파티션 파라미터를 포함하는 하나 이상의 파라미터는 제1 파티션의 비직사각형 형상, 제2 파티션의 형상, 제1 및 제2 파티션을 획득하기 위해 이미지 블록을 분할하는 데 사용되는 분할 방향, 제1 파티션의 제1 움직임 벡터, 제2 파티션의 제2 움직임 벡터 등과 같은 다양한 정보를 공동으로 또는 개별적으로 인코딩할 수 있다.

도 59는 디코더 측에서 수행되는 방법(5000)을 예시하는 흐름도이다. 단계(S5001)에서, 처리는 비트스트림으로부터 하나 이상의 파라미터를 파싱하고, 여기서 하나 이상의 파라미터는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 나타내는 파티션 파라미터를 포함한다. 비트스트림으로부터 파싱된 파티션 파라미터를 포함하는 하나 이상의 파라미터는 디코더 측이 인코더 측에서 수행된 것과 동일한 예측 처리를 수행하는 데 필요한 다양한 정보, 예를 들어, 제1 파티션의 비직사각형 형상, 제2 파티션의 형상, 제1 및 제2 파티션을 획득하기 위해 이미지 블록을 분할하는 데 사용되는 분할 방향, 제1 파티션의 제1 움직임 벡터, 제2 파티션의 제2 움직임 벡터 등을 공동으로 또는 개별적으로 인코딩할 수 있다. 단계(S5002)에서, 처리(5000)는 비트스트림으로부터 파싱된 파티션 파라미터에 기초하여 이미지 블록을 복수의 파티션으로 분할한다. 단계(S5003)에서, 처리는 이미지 블록으로부터 분할된 제1 파티션과 제2 파티션을 디코딩한다.

도 60은, 도 51에서 전술한 샘플 표와 본질적으로 유사한, 샘플 파티션 파라미터("제1 인덱스 값"), 및 파티션 파라미터들에 의해 각각 공동으로 인코딩된 정보 세트의 표이다. 도 60에서, 파티션 파라미터("제1 인덱스 값")는 0 내지 6의 범위이며, 이미지 블록으로부터 분할된 제1 및 제2 파티션의 형상, 이미지 블록을 제1 및 제2 파티션으로 분할하는 방향, 제1 파티션에 대해 예측된 제1 움직임 벡터(도 47, 단계(S1002)), 및 제2 파티션에 대해 예측된 제2 움직임 벡터(도 47, 단계(S1002))를 공동으로 인코딩한다. 구체적으로, 파티션 파라미터 0은, 제1 파티션과 제2 파티션 중 그 어느 것도 삼각형 형상을 가지지 않아서, 분할 방향 정보는 "N/A"이고, 제1 움직임 벡터 정보는 "N/A"이고, 제2 움직임 벡터 정보는 "N/A"로 인코딩한다.

파티션 파라미터 1은, 제1 파티션과 제2 파티션이 삼각형이고, 분할 방향은 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다. 파티션 파라미터 2는, 제1 파티션과 제2 파티션이 삼각형이고, 분할 방향은 우측 상부 모서리로부터 좌측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터로 인코딩한다. 파티션 파라미터 3은, 제1 파티션과 제2 파티션이 삼각형이고, 분할 방향은 우측 상부 모서리로부터 좌측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다. 파티션 파라미터 4는, 제1 파티션과 제2 파티션이 삼각형이고, 분할 방향은 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터로 인코딩한다. 파티션 파라미터 5는, 제1 파티션과 제2 파티션이 삼각형이고, 분할 방향은 우측 상부 모서리로부터 좌측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제2" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제3" 움직임 벡터로 인코딩한다. 파티션 파라미터 6은, 제1 파티션과 제2 파티션이 삼각형이고, 분할 방향은 좌측 상부 모서리로부터 우측 하부 모서리 방향이고, 제1 움직임 벡터는 제1 파티션에 대한 제1 움직임 벡터 후보 세트에 나열된 "제3" 움직임 벡터이고, 제2 움직임 벡터는 제2 파티션에 대한 제2 움직임 벡터 후보 세트에 나열된 "제1" 움직임 벡터로 인코딩한다.

일부 구현예에 따르면, 파티션 파라미터(인덱스 값)는 적어도 하나의 또는 하나 이상의 파라미터의 값에 따라 선택되는 이진화 방식에 따라 이진화될 수 있다. 도 52는 인덱스 값(파티션 파라미터 값)을 이진화하는 샘플 이진화 방식을 예시한다.

도 61은 제1 파라미터와 제2 파라미터의 샘플 조합의 표이며, 이 중 하나는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 나타내는 파티션 파라미터이다. 이 예에서, 파티션 파라미터는 하나 이상의 다른 파라미터에 의해 인코딩되는 다른 정보를 공동으로 인코딩함이 없이 이미지 블록을 분할하는 것을 나타내는 데 사용될 수 있다.

도 61의 제1 예에서, 제1 파라미터는 이미지 블록 크기를 나타내는 데 사용되고, 제2 파라미터는 이미지 블록으로부터 분할된 복수의 파티션 중 적어도 하나가 삼각형 형상을 갖는 것을 나타내기 위해 파티션 파라미터(플래그)로서 사용된다. 제1 파라미터와 제2 파라미터의 이러한 조합은 예를 들어 1) 이미지 블록 크기가 64×64보다 큰 경우, 삼각형 형상의 파티션이 없음을 나타내고, 또는 2) 이미지 블록의 폭과 높이의 비율이 4보다 큰 경우(예를 들어, 64×4), 삼각형 형상의 파티션이 없음을 나타내는 데 사용될 수 있다.

도 61의 제2 예에서, 제1 파라미터는 예측 모드를 나타내는 데 사용되고, 제2 파라미터는 이미지 블록으로부터 분할된 복수의 파티션 중 적어도 하나가 삼각형 형상을 갖는 것을 나타내기 위해 파티션 파라미터(플래그)로서 사용된다. 제1 파라미터와 제2 파라미터의 이러한 조합은 예를 들어 1) 이미지 블록이 인트라 모드에서 코딩되는 경우 삼각형 파티션이 없는 것을 나타내는 데 사용될 수 있다.

도 61의 제3 예에서, 제1 파라미터는 이미지 블록으로부터 분할된 복수의 파티션 중 적어도 하나가 삼각형 형상을 갖는 것을 나타내기 위해 파티션 파라미터(플래그)로서 사용되고, 제2 파라미터는 예측 모드를 나타내는 데 사용된다. 제1 파라미터와 제2 파라미터의 이러한 조합은 예를 들어 1) 이미지 블록으로부터 분할된 복수의 파티션 중 적어도 하나가 삼각형 형상을 갖는 경우, 이미지 블록이 인터 코딩되어야 하는 것을 나타내는 데 사용될 수 있다.

도 61의 제4 예에서, 제1 파라미터는 이웃하는 블록의 움직임 벡터를 나타내고, 제2 파라미터는 이미지 블록을 2개의 삼각형으로 분할하는 방향을 나타내는 파티션 파라미터로서 사용된다. 제1 파라미터와 제2 파라미터의 이러한 조합은 예를 들어 1) 이웃하는 블록의 움직임 벡터가 대각선 방향인 경우, 이미지 블록을 2개의 삼각형으로 분할하는 방향이 좌측 상부 모서리로부터 우측 하부 모서리 방향인 것을 나타내는 데 사용될 수 있다.

도 61의 제5 예에서, 제1 파라미터는 이웃하는 블록의 인트라 예측 방향을 나타내고, 제2 파라미터는 이미지 블록을 2개의 삼각형으로 분할하는 방향을 나타내는 파티션 파라미터로서 사용된다. 제1 파라미터와 제2 파라미터의 이러한 조합은 예를 들어, 1) 이웃하는 블록의 인트라 예측 방향이 역대각선 방향인 경우, 이미지 블록을 2개의 삼각형으로 분할하는 방향은 우측 상부 모서리로부터 좌측 하부 모서리 방향인 것을 나타내는 데 사용될 수 있다.

도 51, 도 60 및 도 61에 도시된 바와 같이 파티션 파라미터를 포함하는 하나 이상의 파라미터, 및 공동으로 또는 개별적으로 인코딩되는 정보의 표는 단지 예로서 제시된 것일 뿐, 위에서 설명된 분할 구문 동작의 일부로서 다양한 정보를 공동으로 또는 개별적으로 인코딩하는 다수의 다른 방식은 본 개시의 범위 내에 있는 것으로 이해된다. 예를 들어, 파티션 파라미터는 제1 파티션이 삼각형, 사다리꼴 또는 적어도 5개의 변과 각을 가진 다각형임을 나타낼 수 있다. 파티션 파라미터는 제2 파티션이 삼각형, 사다리꼴, 및 적어도 5개의 변과 각을 가진 다각형과 같은 비직사각형 형상을 갖는 것을 나타낼 수 있다. 파티션 파라미터는 분할에 대한 하나 이상의 정보, 예를 들어, 제1 파티션의 비직사각형 형상, 제2 파티션의 형상(비직사각형일 수도 있고 또는 직사각형일 수도 있음), 이미지 블록을 복수의 파티션으로 분할하는 데 적용되는 분할 방향(예를 들어, 이미지 블록의 좌측 상부 모서리로부터 우측 하부 모서리 방향, 및 이미지 블록의 우측 상부 모서리로부터 좌측 하부 모서리 방향)을 나타낼 수 있다. 파티션 파라미터는 제1 파티션의 제1 움직임 벡터, 제2 파티션의 제2 움직임 벡터, 이미지 블록 크기, 예측 모드, 이웃하는 블록의 움직임 벡터, 이웃하는 블록의 인트라 예측 방향 등과 같은 추가 정보를 공동으로 인코딩할 수 있다. 대안적으로, 임의의 추가 정보는 파티션 파라미터 이외의 하나 이상의 파라미터에 의해 개별적으로 인코딩될 수 있다.

도 58의 처리(4000)와 같은 파티션 구문 동작은, 회로부 및 이 회로부에 결합된 메모리를 포함하는, 예를 들어, 도 1에 도시된 바와 같은 이미지 인코더에 의해 수행될 수 있다. 회로부는, 동작 시에, 분할을 나타내는 파티션 파라미터에 기초하여 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고(도 58, 단계(S4001)); 제1 파티션과 제2 파티션을 인코딩하고(S4002); 파티션 파라미터를 포함하는 하나 이상의 파라미터를 비트스트림으로 기록하는(S4003) 것을 포함하는 분할 구문 동작을 수행한다.

다른 실시예에 따르면, 도 1에 도시된 바와 같이, 이미지 인코더가 제공되고, 이미지 인코더는, 동작 시에, 원본 화상을 수신하고 블록으로 분할하는 분할부(102); 동작 시에, 분할부로부터 블록을 수신하고 예측 제어부(128)로부터 예측을 수신하고, 대응하는 블록으로부터 각각의 예측을 감산하여 잔차를 출력하는 가산부(104); 동작 시에, 가산부(104)로부터 출력된 잔차에 변환을 수행하여 변환 계수를 출력하는 변환부(106); 동작 시에, 변환 계수를 양자화하여 양자화된 변환 계수를 생성하는 양자화부(108); 동작 시에, 양자화된 변환 계수를 인코딩하여 비트스트림을 생성하는 엔트로피 인코더(110); 및 인터 예측부(126), 인트라 예측부(124) 및 메모리(118, 122)에 결합된 예측 제어부(128)를 포함하고, 인터 예측부(126)는, 동작 시에, 인코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 인트라 예측부(124)는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 예측 제어부(128)는, 동작 시에, 분할을 나타내는 파티션 파라미터에 기초하여 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하고(도 58, 단계(S4001)), 제1 파티션과 제2 파티션을 인코딩한다(단계(S4002)). 엔트로피 인코더(110)는, 동작 시에, 파티션 파라미터를 포함하는 하나 이상의 파라미터를 비트스트림으로 기록한다(단계(S4003)).

다른 실시예에 따르면, 예를 들어, 도 41에 도시된 바와 같이 이미지 디코더가 제공되고, 이미지 디코더는 회로부 및 이 회로부에 결합된 메모리를 포함한다. 회로부는, 동작 시에, 비트스트림으로부터 하나 이상의 파라미터를 파싱하고, 여기서 하나 이상의 파라미터는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 나타내는 파티션 파라미터를 포함하고(도 59, 단계(S5001)); 파티션 파라미터에 기초하여 이미지 블록을 복수의 파티션으로 분할하고(S5002); 제1 파티션과 제2 파티션을 디코딩하는(S5003) 것을 포함하는 파티션 구문 동작을 수행한다.

다른 실시예에 따르면, 도 41에 도시된 바와 같은 이미지 디코더가 제공되고, 이미지 디코더는, 동작 시에, 인코딩된 비트스트림을 수신하고 디코딩하여 양자화된 변환 계수를 획득하는 엔트로피 디코더(202); 동작 시에, 양자화된 변환 계수를 역양자화하여 변환 계수를 획득하고, 변환 계수를 역변환하여 잔차를 획득하는 역양자화부(204) 및 변환부(206); 동작 시에, 역양자화부(204) 및 변환부(206)로부터 출력된 잔차와 예측 제어부(220)로부터 출력된 예측을 더하여 블록을 재구성하는 가산부(208); 및 인터 예측부(218), 인트라 예측부(216) 및 메모리(210, 214)에 결합된 예측 제어부(220)를 포함하고, 인터 예측부(218)는, 동작 시에, 디코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 인트라 예측부(216)는, 동작 시에, 현재 화상의 디코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성한다. 엔트로피 디코더(202)는, 동작 시에, 비트스트림으로부터 하나 이상의 파라미터를 파싱하고, 여기서 하나 이상의 파라미터는 이미지 블록을 비직사각형 형상을 갖는 제1 파티션과, 제2 파티션을 포함하는 복수의 파티션으로 분할하는 것을 나타내는 파티션 파라미터를 포함하고(도 59, 단계(S5001)); 파티션 파라미터에 기초하여 이미지 블록을 복수의 파티션으로 분할하고(S5002); 일부 구현예에서 예측 제어부(220)와 협력하여 제1 파티션과 제2 파티션을 디코딩한다(S5003).

다른 예에 따르면, 인터 예측부는 다음과 같은 처리를 수행할 수 있다.

제1 움직임 벡터 후보 세트에 포함된 모든 움직임 벡터 후보는 단방향 예측 움직임 벡터일 수 있다. 즉, 인터 예측부는 제1 움직임 벡터 후보 세트에서 움직임 벡터 후보로서 단방향 예측 움직임 벡터만을 결정할 수 있다.

인터 예측부는 제1 움직임 벡터 후보 세트로부터 단방향 예측 움직임 벡터 후보만을 선택할 수 있다.

일 실시예에서, 단방향 예측 움직임 벡터만이 작은 블록을 예측하는 데 사용될 수 있다. 양방향 예측 움직임 벡터는 큰 블록을 예측하는 데 사용될 수 있다. 일례로서, 예측 처리는 이미지 블록의 크기를 판단하는 것을 포함할 수 있다. 이미지 블록의 크기가 임계 값보다 큰 것으로 판단되는 경우, 예측하는 것은 제1 움직임 벡터 후보 세트로부터 제1 움직임 벡터를 선택하는 것을 포함할 수 있으며, 제1 움직임 벡터 후보 세트는 단방향 예측 및/또는 양방향 예측 움직임 벡터를 포함할 수 있다. 이미지 블록의 크기가 임계 값보다 크지 않다고 판단되는 경우, 예측하는 것은 제1 움직임 벡터 후보 세트로부터 제1 움직임 벡터를 선택하는 것을 포함할 수 있으며, 제1 움직임 벡터 후보 세트는 단방향 예측 움직임 벡터만을 포함할 수 있다.

(가중치 부여된 영역에 대한 움직임 벡터를 저장하는 방법)

도 62는 일 실시예에 따라 제1 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고, 제1 파티션과 상이한 제2 파티션으로부터 제2 움직임 벡터를 획득하고, 제2 움직임 벡터를 갖는 제1 파티션에 포함된 제1 부분에 대한 제2 샘플 세트를 예측하고, 제1 및 제2 샘플 세트에 가중치를 부여하고, 제1 파티션에 대한 제1 움직임 벡터와 제2 움직임 벡터 중 적어도 하나를 저장하고, 가중치 부여된 샘플을 사용하여 제1 파티션을 인코딩하거나 또는 디코딩하고, 추가 처리를 수행하는 처리 흐름(6000)의 일례를 예시하는 흐름도이다. 처리 흐름(6000)은, 예를 들어, 도 1의 인코더(100), 도 41의 디코더(200) 등에 의해 수행될 수 있다.

단계(S6001)에서, 현재 화상의 제1 파티션에 대한 제1 샘플 세트가 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 예측된다. 제1 파티션은 비직사각형 형상일 수도 있고 비직사각형 형상이 아닐 수도 있다. 제1 샘플 세트는 예를 들어 연관된 움직임 벡터, 및 루마 및 크로마 픽셀 성분을 갖는 픽셀 블록일 수 있다. 예를 들어, 각 샘플은 제1 움직임 벡터와 연관되고 연관된 루마 및 크로마 픽셀 성분을 갖는 4×4 픽셀 블록일 수 있다.

제1 파티션은, 예를 들어, 복수의 파티션으로 분할된 이미지 블록의 파티션일 수 있다. 도 63은 이미지 블록을 제1 파티션과 제2 파티션으로 분할하는 예시적인 방법을 예시하기 위한 개념도이다. 또한 도 48, 도 54, 및 도 55를 참조한다. 예를 들어, 도 63에 도시된 바와 같이, 이미지 블록은 다양한 형상을 갖는 2개 이상의 파티션으로 분할될 수 있다. 도 63의 예시적인 예시는 이미지 블록의 좌측 상부 모서리로부터 이미지 블록의 우측 하부 모서리 방향으로 분할되어 모두 비직사각형 형상(예를 들어, 삼각형 형상)을 갖는 제1 파티션과 제2 파티션을 생성하는 이미지 블록; L자형의 파티션과 직사각형 형상의 파티션으로 분할된 이미지 블록; 오각형 형상의 파티션과 삼각형 형상의 파티션으로 분할된 이미지 블록; 육각형 형상의 파티션과 오각형 형상의 파티션으로 분할된 이미지 블록; 및 2개의 다각형 형상의 파티션으로 분할된 이미지 블록을 포함한다. 다양한 예시된 파티션 형상은 이미지 블록을 다른 방식으로 분할함으로써 형성될 수 있다. 예를 들어, 2개의 삼각형 형상의 파티션은 이미지 블록을 이미지 블록의 우측 상부 모서리로부터 이미지 블록의 좌측 하부 모서리 방향으로 분할하여 모두 삼각형 형상을 갖는 제1 파티션과 제2 파티션을 생성함으로써 형성될 수 있다. 일부 실시예에서, 이미지 블록의 2개 이상의 파티션은 중첩 부분을 가질 수 있다.

일부 실시예에서, 제1 움직임 벡터는 움직임 추정 처리를 사용하여 획득될 수 있다. 일부 실시예에서, 제1 움직임 벡터는 비트 스트림으로부터 파싱될 수 있다. 일부 실시예에서, 제1 움직임 벡터는 적어도 제1 파티션에 대한 움직임 벡터 후보 세트로부터 예측된 움직임 벡터일 수 있다. 움직임 벡터 후보 리스트의 움직임 벡터 후보는 적어도 제1 파티션의 공간적으로 또는 시간적으로 이웃하는 파티션으로부터 도출된 움직임 벡터 후보를 포함할 수 있고, 또는 병합 모드, 스킵 모드 또는 인터 모드와 같은 예측 모드에서 이미지 블록에 대한 움직임 벡터 후보 리스트로부터 도출할 수 있다.

도 64는 현재 화상의 제1 파티션의 인접한 및 인접하지 않은, 공간적으로 이웃하는 파티션을 예시하기 위한 개념도이다. 인접한 공간적으로 이웃하는 파티션은 현재 화상의 제1 파티션에 인접한 파티션이다. 인접하지 않은 공간적으로 이웃하는 파티션은 현재 화상의 제1 파티션으로부터 이격된 파티션이다. 일부 실시예에서, 움직임 벡터 후보 세트는 현재 화상의 적어도 제1 파티션의 공간적으로 이웃하는 파티션으로부터 도출될 수 있다.

제1 움직임 벡터는 예를 들어, 단방향 예측 움직임 벡터 또는 양방향 예측 움직임 벡터일 수 있다. 도 65는 현재 화상의 이미지 블록에 대한 단방향 예측 및 양방향 예측 움직임 벡터 후보를 예시하기 위한 개념도이다. 단방향 예측 움직임 벡터 후보는 단일 참조 화상에 대한 현재 화상의 현재 블록의 단일 움직임 벡터이다. 도 65의 상부 부분에 예시된 바와 같이, 단방향 예측 움직임 벡터 후보는 현재 화상의 블록으로부터 참조 화상의 블록으로의 움직임 벡터이고, 여기서 참조 화상은 디스플레이 순서에서 현재 화상보다 앞에 나타난다. 일부 실시예에서, 참조 화상은 디스플레이 순서에서 현재 화상 뒤에 나타날 수 있다.

양방향 예측 움직임 벡터 후보는 2개의 움직임 벡터, 즉 제1 참조 화상에 대한 현재 블록의 제1 움직임 벡터, 및 제2 참조 화상에 대한 현재 블록의 제2 움직임 벡터를 포함한다. 도 65에 예시된 바와 같이, 좌측 하부에서의 양방향 예측 움직임 벡터 후보는 현재 화상의 블록으로부터 제1 참조 화상의 블록으로의 제1 움직임 벡터, 및 현재 화상의 블록으로부터 제2 참조 화상의 블록으로의 제2 움직임 벡터를 갖는다. 예시된 바와 같이, 제1 및 제2 참조 화상은 디스플레이 순서에서 현재 화상보다 앞에 나타난다. 도 65의 우측 하부에서의 양방향 예측 움직임 벡터 후보는 현재 화상의 블록으로부터 제1 참조 화상의 블록으로의 제1 움직임 벡터, 및 현재 화상의 블록으로부터 제2 참조 화상의 블록으로의 제2 움직임 벡터를 갖는다. 제1 참조 화상은 디스플레이 순서에서 현재 화상보다 앞에 나타나고, 제2 참조 화상은 디스플레이 순서에서 현재 화상보다 뒤에 나타난다.

일부 실시예에서, 일부 파티션 형상은 하나의 유형의 예측 움직임 벡터와 연관될 수 있다. 예를 들어, 일부 실시예에서 삼각형 형상의 파티션은 단방향 예측 움직임 벡터 후보와 연관될 수 있다.

제1 샘플 세트의 예측은 제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 갖는 움직임 보상 처리를 포함할 수 있고, 움직임 보상 처리는 현재 화상(인트라 블록)으로부터 샘플을 예측하거나, 다른 화상(인터 블록)으로부터 샘플을 예측하거나, 또는 이들의 조합으로부터 샘플을 예측할 수 있다.

단계(S6002)에서, 제2 움직임 벡터를 포함하는 하나 이상의 움직임 벡터는 제1 파티션과 상이한 제2 파티션으로부터 획득된다. 제2 파티션은, 예를 들어, 제1 파티션의 공간적으로 또는 시간적으로 같은 위치에 있는 파티션일 수 있다. 제2 파티션의 일부는 제1 파티션의 일부와 공간적으로 중첩할 수 있다. 제2 움직임 벡터는 움직임 추정 처리를 사용하여 획득될 수 있다. 일부 실시예에서, 제2 움직임 벡터는 비트 스트림으로부터 파싱될 수 있다. 일부 실시예에서, 제2 움직임 벡터는 적어도 제2 파티션에 대한 움직임 벡터 후보 세트로부터 예측된 움직임 벡터일 수 있다. 움직임 벡터 후보 리스트의 움직임 벡터 후보는 제2 파티션의 공간적으로 또는 시간적으로 이웃하는 파티션으로부터 도출된 움직임 벡터 후보를 포함할 수 있고, 또는 병합 모드, 스킵 모드 또는 다른 인터 모드와 같은 예측 모드에서 이미지 블록에 대한 움직임 벡터 후보 리스트로부터 도출될 수 있다. 제2 움직임 벡터는 단방향 예측 움직임 벡터 또는 양방향 예측 움직임 벡터일 수 있다.

단계(S6003)에서, 제2 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 갖는 제1 파티션의 일부에 대한 제2 샘플 세트가 예측된다. 제1 파티션의 제1 부분은 제1 파티션보다 작고, 제1 파티션의 에지에 인접하게 위치되고, 제1 샘플 세트와 중첩한다. 제2 샘플 세트의 예측은 제2 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하는 움직임 보상 처리를 포함할 수 있고, 움직임 보상 처리는 현재 화상(인트라 블록)으로부터 샘플을 예측하거나, 다른 화상(인터 블록)으로부터 샘플을 예측하거나, 또는 이들의 조합으로부터 샘플을 예측할 수 있다. 제2 샘플 세트는 예를 들어 연관된 움직임 벡터, 및 루마 및 크로마 픽셀 성분을 갖는 픽셀 블록일 수 있다. 예를 들어, 제2 샘플 세트의 각 샘플은, 제2 움직임 벡터와 연관되고, 연관된 루마 및 크로마 픽셀 성분을 갖는 4×4 픽셀 블록일 수 있다.

도 66은 제1 파티션의 제1 부분과, 제1 및 제2 샘플 세트의 예를 예시하기 위한 개념도이다. 제1 부분은, 예를 들어, 제1 파티션의 폭 또는 높이의 1/4일 수 있다. 다른 예에서, 제1 부분은 제1 파티션의 에지에 인접한 N개의 샘플에 대응하는 폭을 가질 수 있으며, 여기서 N은 0보다 큰 정수이고, 예를 들어, N은 정수 2일 수 있다. 예시된 바와 같이 도 66의 우측 예는 제1 파티션의 폭의 1/4의 폭을 갖는 직사각형 부분을 갖는 직사각형 파티션을 도시하고, 여기서 제1 샘플 세트는 제1 부분 외부에 샘플을 포함하고 제1 부분 내부에 샘플을 포함하고, 제2 샘플 세트는 제1 부분 내부에 샘플을 포함한다. 도 66의 중심 예는 제1 파티션의 높이의 1/4의 높이를 갖는 직사각형 부분을 갖는 직사각형 파티션을 도시하고, 여기서 제1 샘플 세트는 제1 부분 외부에 샘플을 포함하고 제1 부분 내부에 샘플을 포함하고, 제2 샘플 세트는 제1 부분 내부에 샘플을 포함한다. 도 66의 좌측 예는 2개의 샘플에 대응하는 높이를 갖는 다각형 부분을 갖는 삼각형 파티션을 도시하고, 여기서 제1 샘플 세트는 제1 부분 외부에 샘플을 포함하고 제1 부분 내부에 샘플을 포함하고, 제2 샘플 세트는 제1 부분 내부에 샘플을 포함한다.

제1 부분은 인접한 파티션과 중첩하는 제1 파티션의 부분일 수 있다. 도 67은 인접한 파티션의 일부와 중첩하는 제1 파티션 부분인, 제1 파티션의 제1 부분을 예시하기 위한 개념도이다. 예시의 편의를 위해, 공간적으로 인접한 직사각형 파티션과 중첩하는 부분을 갖는 직사각형 파티션이 도시된다. 삼각형 파티션과 같은 다른 형상을 갖는 파티션이 이용될 수 있고, 중첩 부분은 공간적으로 또는 시간적으로 인접한 파티션과 중첩할 수 있다. 인접한 파티션은 제2 파티션일 수 있다.

단계(S6004)에서, 제1 부분에 포함된 제1 샘플 세트의 서브 세트를 사용하여 제1 파티션에 포함된 제1 부분 및 이 제1 부분에 포함된 제2 샘플 세트에 가중치를 부여하는 처리가 수행된다. 가중치 부여는 중첩된 블록 움직임 보상 처리(OBMC, 도 35 및 도 36 및 그 설명 참조)와 같은 경계 평활화 처리의 일부로서 수행될 수 있으며, 경계 평활화 처리는 도 47 내지 도 61 등을 참조하여 설명된다. 예를 들어, 제1 부분의 제1 샘플 세트의 픽셀은 예를 들어 제1 부분과 정렬되는 제1 파티션의 에지로부터 샘플의 거리에 기초하여 다양한 가중치를 할당받을 수 있다. 에지로부터 더 먼 샘플보다 에지에 더 가까운 샘플은 더 낮은 가중치를 할당받을 수 있다. 유사하게, 제1 파티션의 제1 부분에 있는 제2 샘플 세트로부터의 픽셀은 예를 들어, 제1 부분과 정렬되는 제1 파티션의 에지로부터 샘플의 거리에 기초하여 다양한 가중치를 할당받을 수 있다. 에지로부터 더 먼 샘플보다 에지에 더 가까운 샘플은 더 높은 가중치를 할당받을 수 있다.

단계(S6005)에서, 하나 이상의 움직임 벡터가 제1 파티션의 제1 부분에 대해 저장되고, 저장된 움직임 벡터(들)는 제1 움직임 벡터와 제2 움직임 벡터 중 하나 또는 둘 모두에 기초한다. 일부 실시예에서, 저장된 움직임 벡터(들)는 제1 및 제2 움직임 벡터가 가리키는 참조 화상 리스트를 고려할 수 있다.

예를 들어, 도 68은 제1 움직임 벡터와 제2 움직임 벡터가 상이한 참조 화상 리스트의 상이한 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다. 일부 실시예에서, 제1 움직임 벡터와 제2 움직임 벡터가 상이한 참조 화상 리스트의 상이한 화상을 가리키는 단방향 예측 움직임 벡터인 경우, 제1 및 제2 움직임 벡터는 결합되어 제1 파티션의 제1 부분에 대한 양방향 예측 움직임 벡터로서 저장될 수 있다. 도 68에 예시된 바와 같이, 현재 화상은 POC 4이다. 제1 움직임 벡터(Mv1)는 참조 화상(POC 0 내지 POC 8)을 포함하는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 참조 화상(POC 8 내지 POC 16)을 포함하는 참조 화상 리스트(L1)의 참조 화상(POC 16)을 가리키는 단방향 예측 움직임 벡터이다. 제1 움직임 벡터(Mv1)와 제2 움직임 벡터(Mv2)는 결합되어 제1 파티션의 제1 부분에 대한 양방향 움직임 벡터로서 저장된다.

다른 예에서, 도 69는 제1 움직임 벡터와 제2 움직임 벡터가 단일 참조 화상 리스트의 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다. 양방향 예측 움직임 벡터는 2개의 상이한 참조 화상 리스트를 가리킨다. 따라서 단순히 제1 움직임 벡터와 제2 움직임 벡터를 결합하는 것만으로는 양방향 예측 움직임 벡터가 생성되지 않는다. 일부 실시예에서, 제1 움직임 벡터와 제2 움직임 벡터가 단일 참조 화상 리스트의 상이한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 경우, 지시된 참조 화상 중 하나가 예를 들어 다른 참조 화상 리스트에 포함된 경우, 이 화상과 연관된 움직임 벡터(예를 들어, 움직임 벡터가 가리키는 참조 화상이 두 참조 화상 리스트에 포함된 경우에는 제2 움직임 벡터)는 다른 참조 화상 리스트에서 동일한 참조 화상을 가리키는 움직임 벡터에 의해 표현될 수 있다. 제1 및 제2 움직임 벡터는 참조 화상과 연관된 움직임 벡터를 다른 참조 화상 리스트의 참조 화상을 가리키는 대체 움직임 벡터로 대체함으로써 결합될 수 있고, 제1 파티션의 제1 부분에 대한 양방향 예측 움직임 벡터로서 저장될 수 있다. 도 69에 예시된 바와 같이, 현재 화상은 POC 4이다. 제1 움직임 벡터(Mv1)는 참조 화상(POC 0 내지 POC 8)을 포함하는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 참조 화상 리스트(L0)의 참조 화상(POC 8)을 가리키는 단방향 예측 움직임 벡터이다. 참조 화상(POC 8)은 참조 화상 리스트(L1)에도 포함된다. 제2 움직임 벡터(Mv2)는 참조 화상 리스트(L1)의 참조 화상(POC 8)을 가리키는 대체 움직임 벡터(Mv2')로 대체된다. 제1 움직임 벡터(Mv1) 및 대체 제2 움직임 벡터(Mv2')는 결합되어 제1 파티션의 제1 부분에 대한 양방향 예측 움직임 벡터로서 저장된다. 다시 말해, 동일한 화상을 가리키는 상이한 리스트가 사용될 수 있다.

다른 예에서, 도 70, 도 71 및 도 72는 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트에서 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 예시적인 경우를 예시하기 위한 개념도이다. 일부 실시예에서, 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트의 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 경우, 제1 움직임 벡터는 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장된다. 도 70에 예시된 바와 같이, 현재 화상은 POC 4이다. 제1 움직임 벡터(Mv1)는 참조 화상(POC 0 내지 POC 8)을 포함하는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제1 움직임 벡터(Mv1)는 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장된다.

일부 실시예에서, 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트의 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 경우, 제2 움직임 벡터는 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장된다. 도 71에 예시된 바와 같이, 현재 화상은 POC 4이다. 제1 움직임 벡터(Mv1)는 참조 화상(POC 0 내지 POC 8)을 포함하는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장된다.

일부 실시예에서, 제1 움직임 벡터와 제2 움직임 벡터가 동일한 참조 화상 리스트의 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 경우, 제2 움직임 벡터는 다른 참조 화상 리스트의 참조 화상을 가리키는 플립된(flipped) 움직임 벡터로 대체되고, 제1 움직임 벡터와 플립된 움직임 벡터는 결합되어 제1 파티션의 제1 부분에 대한 양방향 예측 움직임 벡터로서 저장된다. 도 72에 예시된 바와 같이, 현재 화상은 POC 4이다. 제1 움직임 벡터(Mv1)는 참조 화상(POC 0 내지 POC 8)을 포함하는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 참조 화상 리스트(L0)의 참조 화상(POC 0)을 가리키는 단방향 예측 움직임 벡터이다. 제2 움직임 벡터(Mv2)는 참조 화상 리스트(L1)의 참조 화상(POC 8)에 예시된 바와 같이 참조 화상 리스트(L1)의 참조 화상을 가리키는 플립된 움직임 벡터(Mv2')로 대체된다. 제1 움직임 벡터(Mv1)와 플립된 움직임 벡터(Mv2')는 결합되어 제1 파티션의 제1 부분에 대한 양방향 예측 움직임 벡터로서 저장된다. 다른 참조 화상 리스트의 참조 화상은 다양한 방식으로 선택될 수 있다. 예를 들어, 참조 화상 리스트(L0)에서 제2 움직임 벡터가 가리키는 참조 화상의 위치와 동일한 위치에 있는 참조 화상 리스트(L1)의 참조 화상이 선택될 수 있고, 참조 화상 리스트(L0)에서 제2 움직임 벡터가 가리키는 참조 화상의 디스플레이 순서의 거리와 동일한 현재 화상으로부터의 디스플레이 순서의 거리에 있는 참조 화상 리스트(L1)의 참조 화상이 선택될 수 있고, 이와 같이 계속된다. 플립된 움직임 벡터는 플립된 움직임 벡터가 가리키는 다른 참조 화상 리스트의 참조 화상에 따라 필요에 따라 스케일링될 수 있다.

일부 실시예에서, 제1 움직임 벡터와 제2 움직임 벡터 중 하나의 움직임 벡터의 플립핑 또는 스케일링 없이 양방향 예측 움직임 벡터를 생성할 수 있는 경우 제1 및 제2 움직임 벡터에 기초하여 양방향 예측 움직임 벡터가 제1 파티션의 제1 부분에 대해 저장되고(예를 들어, 도 68 및 도 69의 실시예 참조), 제1 움직임 벡터와 제2 움직임 벡터 중 하나의 움직임 벡터의 플립핑 또는 스케일링 없이 양방향 예측 움직임 벡터를 생성할 수 없는 경우 단방향 예측 움직임 벡터가 제1 파티션의 제1 부분에 대해 저장되고(예를 들어, 도 70 및 도 71 참조), 여기서 제1 움직임 벡터 또는 제2 움직임 벡터 중 하나는 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장된다.

다른 예에서, 제1 및 제2 움직임 벡터가 동일한 참조 화상을 가리키는 단방향 예측 움직임 벡터인 경우, 제1 및 제2 움직임 벡터를 평균내면 단방향 예측 움직임 벡터를 생성할 수 있고, 이는 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장된다.

다른 예에서, 제1 움직임 벡터와 제2 움직임 벡터 중 하나는 양방향 예측 움직임 벡터일 수 있고, 다른 하나는 단방향 예측 움직임 벡터일 수 있다. 양방향 예측 움직임 벡터는 제1 파티션의 제1 부분에 대한 움직임 벡터로서 저장될 수 있다.

다른 예에서, 제1 및 제2 움직임 벡터 모두는 양방향 예측 움직임 벡터일 수 있고, 제1 움직임 벡터의 참조 화상은 제2 움직임 벡터의 참조 화상과 동일할 수 있다. 제1 및 제2 움직임 벡터를 평균내면 양방향 예측 움직임 벡터를 생성할 수 있고, 이는 제1 파티션의 제1 부분에 대한 양방향 예측 움직임 벡터로서 저장될 수 있다.

다른 예에서, 제1 및 제2 움직임 벡터 모두는 양방향 예측 움직임 벡터일 수 있고, 제1 움직임 벡터의 참조 화상은 제2 움직임 벡터의 참조 화상과 다를 수 있다. 제2 움직임 벡터는 제1 움직임 벡터의 참조 화상으로 스케일링될 수 있고, 제1 움직임 벡터와 평균화되면, 평균 양방향 예측 움직임 벡터를 생성할 수 있고, 이는 제1 파티션의 제1 부분의 양방향 예측 움직임 벡터로서 저장될 수 있다.

다른 예에서, 제1 움직임 벡터는, 예를 들어, 항상 또는 특정 조건이 존재할 때 제1 파티션의 제1 부분의 움직임 벡터로서 저장될 수 있다. 다른 예에서, 제2 움직임 벡터는, 예를 들어, 항상 또는 특정 조건이 존재할 때 제1 파티션의 제1 부분의 움직임 벡터로서 저장될 수 있다. 단계(S6006)에서, 제1 파티션은 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 인코딩되거나 또는 디코딩된다. 예를 들어, 제1 샘플 세트의 샘플의 가중치 부여된 픽셀 성분 값(예를 들어, 루마 값, 크로마 값)과, 제2 샘플 세트의 대응하는 샘플의 가중치 부여된 픽셀 성분 값은 인코딩 또는 디코딩 처리에서 이용되는 픽셀 성분 값을 결정하기 위해 결합될 수 있다. 예를 들어, 도 47 내지 도 61 및 대응하는 설명 참조.

개시된 실시예는 가중치 부여된 영역(예를 들어, 개시된 예에서 제1 파티션의 제1 부분)의 움직임 벡터를 저장하는 방법을 도입한다. 이것은 그 다음 코딩 파티션에 대한 움직임 벡터 예측의 정확도를 향상시켜, 코딩의 효율을 향상시킬 수 있다. 가중치 부여된 영역의 움직임 벡터는 일반적으로 4개의 픽셀 블록에 대해 저장될 수 있는 것으로 이해된다. 예를 들어, 각 샘플은 움직임 벡터가 저장되는 4×4 픽셀 블록일 수 있다. 가중치 부여된 영역에 대한 단방향 예측 움직임 벡터 또는 양방향 예측 움직임 벡터는 가중치 부여된 영역에 대한 움직임 벡터를 저장하는 데 이용되는 메모리 양을 크게 또는 임의로 증가시키지 않고 저장될 수 있다.

이미지 인코딩 디바이스에 의해 수행되는 인코딩 방법 및 인코딩 처리에 대한 설명에서 사용된 "인코딩" 및 "코딩"이라는 용어는, 이미지 디코딩 디바이스에 의해 수행되는 디코딩 방법 및 디코딩 처리에 대해 사용되는 "디코딩"이라는 용어로 대체될 수 있다는 것이 주목된다. 설명된 처리 및 요소는 항상 전부 필요한 것은 아니므로, 설명된 처리 중 하나 이상이 일부 실시예에서 생략될 수 있다.

본 명세서에 개시된 하나 이상의 양태는 본 개시의 다른 양태의 적어도 일부와 결합함으로써 수행될 수 있다. 또한, 본 명세서에 개시된 하나 이상의 양태는 다른 양태와 양태에 따라 임의의 흐름도에 표시된 처리의 일부, 임의의 디바이스의 구성의 일부, 구문의 일부 등과 결합됨으로써 수행될 수 있다.

(구현 및 응용)

위의 각각의 실시예에서 설명된 바와 같이, 각각의 기능 또는 동작 블록은 일반적으로 예를 들어 마이크로 프로세싱 유닛(micro processing unit: MPU) 및 메모리로서 실현될 수 있다. 또한, 각각의 기능 블록에 의해 수행되는 처리는 ROM과 같은 기록 매체에 기록된 소프트웨어(프로그램)를 판독하고 실행하는 프로세서와 같은 프로그램 실행 유닛으로서 실현될 수 있다. 소프트웨어는 분배될 수 있다. 소프트웨어는 반도체 메모리와 같은 다양한 기록 매체에 기록될 수 있다. 각각의 기능 블록은 하드웨어(전용 회로)로서 실현될 수도 있다는 것이 주목된다. 하드웨어와 소프트웨어의 다양한 조합이 사용될 수 있다.

각각의 실시예에서 설명된 처리는 단일 장치(시스템)를 사용하여 통합 처리를 통해 실현될 수 있고, 대안적으로 복수의 장치를 사용하여 분산 처리를 통해 실현될 수 있다. 또한, 전술한 프로그램을 실행하는 프로세서는 단일 프로세서일 수도 있고 또는 복수의 프로세서일 수도 있다. 다시 말해, 통합 처리가 수행될 수 있으며, 대안적으로 분산 처리가 수행될 수 있다.

본 개시의 실시예는 상기 예시적인 실시예로 제한되지 않고; 예시적인 실시예에 다양한 수정이 이루어질 수 있으며, 그 결과도 본 개시의 실시예의 범위 내에 포함된다.

다음으로, 위의 각각의 실시예에서 설명된 동화상 인코딩 방법(이미지 인코딩 방법) 및 동화상 디코딩 방법(이미지 디코딩 방법)의 응용 예뿐만 아니라 이 응용 예를 구현하는 다양한 시스템을 설명한다. 이러한 시스템은 이미지 인코딩 방법을 사용하는 이미지 인코더, 이미지 디코딩 방법을 사용하는 이미지 디코더, 또는 이미지 인코더와 이미지 디코더를 모두 포함하는 이미지 인코더-디코더를 포함하는 것을 특징으로 할 수 있다. 이러한 시스템의 다른 구성은 경우에 따라 수정될 수 있다.

(사용 예)

도 73은 콘텐츠 분배 서비스를 구현하기에 적합한 콘텐츠 제공 시스템(ex100)의 전체 구성을 예시한다. 통신 서비스가 제공되는 영역은 원하는 크기의 셀로 분할되고, 예시된 예에서 고정된 무선국인 기지국(ex106, ex107, ex108, ex109, 및 ex110)은 각각의 셀에 위치된다.

콘텐츠 제공 시스템(ex100)에서, 컴퓨터(ex111), 게임 디바이스(ex112), 카메라(ex113), 홈 기기(ex114) 및 스마트 폰(ex115)을 포함하는 디바이스들은 인터넷 서비스 제공자(ex102) 또는 통신 네트워크(ex104) 및 기지국(ex106 내지 ex110)을 통해 인터넷(ex101)에 연결된다. 콘텐츠 제공 시스템(ex100)은 이들 디바이스의 임의의 조합과 결합되고 연결될 수 있다. 다양한 구현예에서, 디바이스들은 기지국(ex106 내지 ex110)을 통하는 것이 아니라 전화 네트워크 또는 근거리 통신을 통해 직접 또는 간접 함께 연결될 수 있다. 또한, 스트리밍 서버(ex103)는 예를 들어 인터넷(ex101)을 통해 컴퓨터(ex111), 게임 디바이스(ex112), 카메라(ex113), 홈 기기(ex114) 및 스마트 폰(ex115)을 포함하는 디바이스들에 연결될 수 있다. 스트리밍 서버(ex103)는 또한 예를 들어 위성(ex116)을 통해 비행기(ex117)의 핫스팟의 단자에 연결될 수 있다.

기지국(ex106 내지 ex110) 대신에 무선 액세스 포인트 또는 핫스팟이 사용될 수 있다는 것이 주목된다. 스트리밍 서버(ex103)는 인터넷(ex101) 또는 인터넷 서비스 제공자(ex102) 대신에 통신 네트워크(ex104)에 직접 연결될 수 있고, 위성(ex116) 대신에 비행기(ex117)에 직접 연결될 수 있다.

카메라(ex113)는 디지털 카메라와 같은 정지 이미지 및 비디오를 캡처할 수 있는 디바이스이다. 스마트 폰(ex115)은, 2G, 3G, 3.9G, 4G 시스템의 이동 통신 시스템 표준 하에서 동작할 수 있는 스마트 폰 디바이스, 휴대폰, 또는 개인 휴대 전화 시스템(PHS) 폰뿐만 아니라 차세대 5G 시스템이다.

홈 기기(ex114)는, 예를 들어, 냉장고 또는 가정용 연료 전지 열병합 발전 시스템(cogeneration system)에 포함되는 디바이스이다.

콘텐츠 제공 시스템(ex100)에서, 이미지 및/또는 비디오 캡처 기능을 포함하는 단말은 예를 들어 기지국(ex106)을 통해 스트리밍 서버(ex103)에 연결됨으로써 라이브 스트리밍이 가능하다. 라이브 스트리밍할 때, 단말(예를 들어, 컴퓨터(ex111), 게임 디바이스(ex112), 카메라(ex113), 홈 기기(ex114), 스마트 폰(ex115), 또는 비행기(ex117) 내 단말)은 단말을 통해 사용자가 캡처한 정지 이미지 또는 비디오 콘텐츠에 상기 실시예에서 설명된 인코딩 처리를 수행할 수 있으며, 인코딩을 통해 획득된 비디오 데이터와, 비디오에 대응하는 오디오를 인코딩하여 획득된 오디오 데이터를 다중화할 수 있고, 획득된 데이터를 스트리밍 서버(ex103)로 전송할 수 있다. 다시 말해, 단말은 본 개시의 일 양태에 따른 이미지 인코더로서 기능한다.

스트리밍 서버(ex103)는 전송된 콘텐츠 데이터를 스트림을 요청하는 클라이언트로 스트리밍한다. 클라이언트 예는 위에서 설명한 인코딩된 데이터를 디코딩할 수 있는 컴퓨터(ex111), 게임 디바이스(ex112), 카메라(ex113), 홈 기기(ex114), 스마트 폰(ex115), 및 비행기(ex117) 내 단말을 포함한다. 스트리밍된 데이터를 수신하는 디바이스는 수신된 데이터를 디코딩하고 재생할 수 있다. 다시 말해, 디바이스들은 각각 본 개시의 일 양태에 따라 이미지 디코더로서 기능할 수 있다.

(분산 처리)

스트리밍 서버(ex103)는 데이터의 처리, 기록 및 스트리밍과 같은 작업을 분할하여 처리하는 복수의 서버 또는 컴퓨터로서 실현될 수 있다. 예를 들어, 스트리밍 서버(ex103)는 전 세계에 걸쳐 위치된 다수의 에지 서버(edge server)를 연결하는 네트워크를 통해 콘텐츠를 스트리밍하는 콘텐츠 전달 네트워크(content delivery network: CDN)로서 실현될 수 있다. CDN에서, 클라이언트에 물리적으로 가까운 에지 서버가 클라이언트에 동적으로 할당될 수 있다. 콘텐츠는 로드 시간을 줄이기 위해 에지 서버에 캐시되고 스트리밍된다. 예를 들어, 트래픽 급증으로 인해 일부 유형의 에러 또는 연결 변경이 발생하는 경우, 예를 들어, 복수의 에지 서버 간에 처리를 분할하거나 또는 스트리밍 임무를 다른 에지 서버로 전환하고 스트리밍을 계속하는 것에 의해 네트워크의 영향을 받은 부분을 피할 수 있으므로 데이터를 고속으로 안정적으로 스트리밍할 수 있다.

분산화는 스트리밍 처리를 분할하는 것만으로 제한되지 않고; 캡처된 데이터의 인코딩은 단말에 의해, 서버에서 또는 이 둘 모두에 의해 수행될 수 있고 이들 간에 분할되어 처리될 수 있다. 일례로, 일반적인 인코딩에서 처리는 2개의 루프에서 수행된다. 제1 루프는 프레임별로 또는 장면별로 이미지의 복잡도를 검출하거나 인코딩 부하를 검출하는 것이다. 제2 루프는 이미지 품질을 유지하고 인코딩 효율을 개선하는 처리를 위한 것이다. 예를 들어, 단말이 인코딩의 제1 루프를 수행하고 콘텐츠를 수신한 서버 측이 인코딩의 제2 루프를 수행함으로써 단말의 처리 부하를 줄이고 콘텐츠의 품질 및 인코딩 효율을 개선할 수 있다. 이러한 경우, 디코딩 요청을 수신하면, 하나의 단말에 의해 수행된 제1 루프로부터 발생한 인코딩된 데이터는 거의 실시간으로 다른 단말에서 수신되어 재생될 수 있다. 이를 통해 원활한 실시간 스트리밍을 실현할 수 있다.

다른 예에서, 카메라(ex113) 등은 이미지로부터 특징의 양(특징 또는 특성의 양)을 추출하고, 특징의 양에 관련된 데이터를 메타데이터로서 압축하고, 압축된 메타데이터를 서버로 전송한다. 예를 들어, 서버는 특징의 양에 기초하여 객체의 중요도를 결정하고 이에 따라 양자화 정확도를 변경하여 이미지의 의미(또는 콘텐츠 중요성)에 적합한 압축을 수행한다. 특징의 양 데이터는 서버가 수행하는 제2 압축 통과 동안 움직임 벡터 예측의 정밀도와 효율을 개선하는 데 특히 효과적이다. 또한 가변 길이 코딩(VLC)과 같이 상대적으로 낮은 처리 부하를 갖는 인코딩은 단말에 의해 처리될 수 있으며, 상황 적응적 2진 산술 코딩(context-adaptive binary arithmetic coding: CABAC)과 같이 상대적으로 높은 처리 부하를 갖는 인코딩은 서버에 의해 처리될 수 있다.

또 다른 예에서, 예를 들어, 경기장, 쇼핑몰 또는 공장에 있는 복수의 단말에 의해 거의 동일한 장면의 복수의 비디오가 캡처되는 경우가 있다. 이러한 경우, 예를 들어, 비디오를 캡처한 복수의 단말과, 만약 필요한 경우, 비디오를 캡처하지 않은 다른 단말과 서버 사이에 처리 작업을 단위별로 분할 처리함으로써 인코딩을 분산시킬 수 있다. 단위는 예를 들어, 화상 그룹(GOP), 화상, 또는 화상을 분할한 결과인 타일일 수 있다. 이를 통해 로드 시간을 줄이고 실시간에 가까운 스트리밍을 달성할 수 있다.

비디오는 거의 동일한 장면이기 때문에, 관리 및/또는 명령은 단말에 의해 캡처된 비디오를 상호 참조할 수 있도록 서버에 의해 수행될 수 있다. 또한, 서버는 단말로부터 인코딩된 데이터를 수신하거나, 데이터 항목 간의 참조 관계를 변경하거나, 또는 화상 자체를 보정하거나 대체한 다음 인코딩을 수행할 수 있다. 이를 통해 개별 데이터 항목에 대해 향상된 품질과 효율로 스트림을 생성할 수 있다.

또한, 서버는 비디오 데이터의 인코딩 포맷을 변환하기 위해 트랜스코딩을 수행한 후 비디오 데이터를 스트리밍할 수 있다. 예를 들어, 서버는 인코딩 형식을 MPEG로부터 VP(예를 들어, VP9)로 변환할 수 있고, 또는 H.264를 H.265로 변환할 수 있는 등을 수행할 수 있다.

이러한 방식으로, 인코딩은 단말 또는 하나 이상의 서버에 의해 수행될 수 있다. 따라서, 이하의 설명에서는 인코딩을 수행하는 디바이스는 "서버" 또는 "단말"이라고 지칭되지만, 서버가 수행하는 처리의 일부 또는 전부는 단말에 의해 수행될 수 있고, 마찬가지로 단말이 수행하는 처리의 일부 또는 전부는 서버에 의해 수행될 수 있다. 이것은 디코딩 처리에도 적용된다.

(3D, 다중 각도)

카메라(ex113) 및/또는 스마트 폰(ex115)과 같은 복수의 단말에 의해 동시에 캡처된 다른 장면 또는 다른 각도에서 캡처된 동일한 장면의 이미지 또는 비디오로부터 결합된 이미지 또는 비디오를 사용하는 것이 증가하고 있다. 단말에 의해 캡처된 비디오는, 예를 들어, 단말 사이의 개별적으로 획득된 상대적 위치 관계 또는 매칭하는 특징 점을 갖는 비디오 내의 영역에 기초하여 결합될 수 있다.

2차원 동화상을 인코딩하는 것에 더하여, 서버는 동화상의 장면 분석에 기초하여 자동으로 또는 사용자가 지정한 시점에서 정지 이미지를 인코딩하고, 인코딩된 정지 이미지를 수신 단말로 전송할 수 있다. 또한, 서버가 2차원 동화상에 더하여 비디오 캡처 단말 사이의 상대적인 위치 관계를 획득할 수 있는 경우, 서버는 다른 각도에서 캡처된 동일한 장면의 비디오에 기초하여 장면의 3차원 기하학적 형상을 생성할 수 있다. 서버는 예를 들어 포인트 클라우드로부터 생성된 3차원 데이터를 개별적으로 인코딩할 수 있고, 3차원 데이터를 이용하여 사람 또는 물체를 인식 또는 추적한 결과에 기초하여, 복수의 단말이 캡처한 비디오로부터 수신 단말로 전송할 비디오를 선택하거나 재구성하고 생성할 수 있다.

이를 통해 사용자는 비디오 캡처 단말에 대응하는 비디오를 자유롭게 선택함으로써 장면을 즐길 수 있고, 사용자는 복수의 이미지 또는 비디오로부터 재구성된 3차원 데이터로부터 선택된 관점의 비디오를 추출함으로써 획득된 콘텐츠를 즐길 수 있다. 또한, 비디오에서와 마찬가지로, 사운드도 상대적으로 다른 각도에서 녹음될 수 있으며, 서버는 대응하는 비디오와 특정 각도 또는 공간으로부터 오는 오디오를 다중화하고 다중화된 비디오 및 오디오를 전송할 수 있다.

최근에는, 실제 세계와 가상 세계, 예를 들어, 가상 현실(VR)과 증강 현실(AR) 콘텐츠를 합성한 콘텐츠도 인기를 끌고 있다. VR 이미지의 경우, 서버는 좌측 눈과 우측 눈의 관점에서 이미지를 생성할 수 있고, 다중-뷰 코딩(multi-view coding: MVC)과 같은 두 관점 이미지 간의 참조를 허용하는 인코딩을 수행할 수 있고, 대안적으로, 이미지를 참조 없이 별개의 스트림으로서 인코딩할 수 있다. 이미지가 별개의 스트림으로서 디코딩되는 경우, 스트림은 재생될 때 동기화되어 사용자의 관점에 따라 가상의 3차원 공간을 재생성할 수 있다.

AR 이미지의 경우, 서버는 사용자의 관점에서 3차원 위치 또는 움직임에 기초하여 실제 세계의 공간을 나타내는 카메라 정보에 가상 공간에 존재하는 가상 객체 정보를 중첩할 수 있다. 디코더는 가상 객체 정보 및 3차원 데이터를 획득 또는 저장하고, 사용자의 관점에서의 움직임에 기초하여 2차원 이미지를 생성한 다음, 이미지를 끊김 없이 연결함으로써 중첩된 데이터를 생성할 수 있다. 대안적으로, 디코더는 가상 객체 정보에 대한 요청에 더하여 사용자의 관점에서의 움직임을 서버로 전송할 수 있다. 서버는 수신된 움직임에 따라 서버에 저장된 3차원 데이터에 기초하여 중첩된 데이터를 생성하고, 생성된 중첩된 데이터를 인코딩하여 디코더로 스트리밍할 수 있다. 중첩된 데이터는 일반적으로 RGB 값에 더하여 투명도를 나타내는 α 값을 포함하고, 서버는 3차원 데이터에서 생성된 객체 이외의 구획에 대한 α 값을 예를 들어 0으로 설정하고, 이들 구획이 투명한 동안 인코딩을 수행할 수 있다는 것이 주목된다. 대안적으로, 서버는 배경을 크로마 키와 같은 결정된 RGB 값으로 설정하고, 객체 이외의 영역이 배경으로 설정된 데이터를 생성할 수 있다. 결정된 RGB 값은 미리 결정될 수 있다.

유사하게 스트리밍된 데이터의 디코딩은 클라이언트(예를 들어, 단말)에 의해 수행되거나, 서버 측에서 수행되거나, 또는 이들 간에 분할되어 처리될 수 있다. 일례로, 하나의 단말은 수신 요청을 서버로 전송할 수 있고, 요청된 콘텐츠는 다른 단말에 의해 수신 및 디코딩될 수 있으며, 디코딩된 신호는 디스플레이를 갖는 디바이스로 전송될 수 있다. 통신 단말 자체의 처리 능력에 관계없이 처리를 분산하고 콘텐츠를 적절하게 선택함으로써 고품질의 이미지 데이터를 재생할 수 있다. 또 다른 예에서, 예를 들어 TV가 크기가 큰 이미지 데이터를 수신하는 동안, 화상을 분할하여 획득된 타일과 같은 화상의 영역을 디코딩하여 TV의 시청자 또는 시청자들의 개인용 단말 또는 단말들에 디스플레이할 수 있다. 이를 통해 시청자들은 큰 화상 뷰를 공유할 수 있을 뿐만 아니라 각각의 시청자는 자신의 할당된 영역을 체크하거나 영역을 가까이에서 더 자세히 살펴볼 수 있다.

근거리, 중거리 및 원거리에 걸쳐 실내 또는 실외에서 복수의 무선 연결이 가능한 상황에서, MPEG-DASH와 같은 스트리밍 시스템 표준을 사용하여 콘텐츠를 끊김 없이 수신할 수 있다. 사용자는 자신의 단말, 실내 또는 실외에 배열된 디스플레이 등을 포함하는 디코더 또는 디스플레이 장치를 자유롭게 선택하면서 실시간으로 데이터 간을 전환할 수 있다. 게다가, 예를 들어, 사용자의 위치 정보를 이용하여 디코딩을 처리하는 단말과 콘텐츠의 디스플레이를 처리하는 단말 간을 전환하면서 디코딩을 수행할 수 있다. 이를 통해 사용자가 목적지로 이동하는 동안, 콘텐츠를 디스플레이할 수 있는 디바이스가 내장된 인근 건물의 벽에 또는 지면의 일부에 정보를 매핑하고 디스플레이할 수 있다. 게다가, 예를 들어, 인코딩된 데이터가 수신 단말로부터 빠르게 액세스 가능한 서버에 캐시될 때 또는 인코딩된 데이터가 콘텐츠 전달 서비스의 에지 서버로 복사될 때, 네트워크에서 인코딩된 데이터에 대한 접근성에 기초하여 수신된 데이터의 비트 전송률을 전환할 수도 있다.

(스케일링 가능한 인코딩)

전술한 실시예에서 설명된 동화상 인코딩 방법을 구현하는 것을 통해 압축 코딩된, 도 74에 예시된 스케일링 가능한 스트림을 참조하여 콘텐츠의 전환을 설명한다. 서버는, 도 74에 예시된 바와 같이, 스트림을 층으로 분할하고 층을 인코딩하는 것에 의해 달성되는 스트림의 시간적 및/또는 공간적 스케일링 가능성을 이용하여 콘텐츠를 전환하는 구성을 가질 수 있다. 콘텐츠는 같지만 품질은 다른 복수의 개별 스트림이 있을 수 있다는 것이 주목된다. 다시 말해, 디코더 측의 처리 능력과 같은 내부 요인과, 통신 대역폭과 같은 외부 요인에 기초하여 디코딩될 층을 결정함으로써, 디코더 측은 디코딩하는 동안 저해상도 콘텐츠와 고해상도 콘텐츠 간을 자유롭게 전환할 수 있다. 예를 들어, 사용자가 이동하는 동안 스마트 폰(ex115)에서 이전에 시청했던 비디오를 사용자가 예를 들어 집에서 인터넷에 연결된 TV와 같은 디바이스에서 계속 보고 싶은 경우, 디바이스는 동일한 스트림을 다른 층으로 간단히 디코딩하여 서버 측 부하를 줄일 수 있다.

또한, 화상이 층별로 인코딩되고 향상 층이 기저 층 위에 있는 결과 스케일링 가능성을 달성하는 위에서 설명한 구성에 더하여, 향상 층은 예를 들어, 이미지에 대한 통계 정보에 기초한 메타데이터를 포함할 수 있다. 디코더 측은 메타데이터에 기초하여 기저 층의 화상에 대해 초해상도 이미징을 수행함으로써 고품질의 이미지 콘텐츠를 생성할 수 있다. 초해상도 이미징은 해상도를 유지하고/하거나 해상도를 높이면서 SN 비율을 개선할 수 있다. 메타데이터는 초해상도 처리에 사용되는 선형 또는 비선형 필터 계수를 식별하는 정보, 또는 초해상도 처리에 사용되는 필터 처리, 기계 학습 또는 최소 제곱법에서 파라미터 값을 식별하는 정보를 포함한다.

대안적으로, 예를 들어, 이미지에서 객체의 의미에 따라 화상을 예를 들어 타일로 분할하는 구성이 제공될 수 있다. 디코더 측에서는 디코딩할 타일을 선택함으로써 일부 영역만이 디코딩된다. 또한, 객체(사람, 자동차, 공 등)의 속성과 비디오 내의 객체의 위치(동일한 이미지의 좌표)를 메타데이터로서 저장함으로써, 디코더 측은 메타데이터에 기초하여 원하는 객체의 위치를 식별하고, 이 객체를 포함하는 타일 또는 타일들을 결정할 수 있다. 예를 들어, 도 75에 예시된 바와 같이, 메타데이터는 HEVC의 보충 향상 정보(supplemental enhancement information: SEI) 메시지와 같은 픽셀 데이터와는 다른 데이터 저장 구조를 사용하여 저장될 수 있다. 이 메타데이터는 예를 들어 주 객체의 위치, 크기 또는 컬러를 나타낸다.

메타 데이터는 스트림, 시퀀스 또는 랜덤 액세스 단위와 같은 복수의 화상 단위로 저장될 수 있다. 디코더 측은 예를 들어 특정 사람이 비디오에 등장하는 시간을 획득할 수 있고, 시간 정보를 화상 단위 정보와 맞춤으로써 객체가 존재하는 화상을 식별할 수 있고, 화상에서 객체의 위치를 결정할 수 있다.

(웹 페이지 최적화)

도 76은 예를 들어 컴퓨터(ex111) 상의 웹 페이지의 디스플레이 화면의 일례를 예시한다. 도 77은 예를 들어 스마트 폰(ex115) 상의 웹 페이지의 디스플레이 화면의 일례를 예시한다. 도 76 및 도 77에 예시된 바와 같이, 웹 페이지는 이미지 콘텐츠에 대한 링크인 복수의 이미지 링크를 포함할 수 있으며, 웹 페이지를 시청하는 데 사용되는 디바이스에 따라 웹 페이지의 외관이 다를 수 있다. 사용자가 명시적으로 이미지 링크를 선택할 때까지 또는 이미지 링크가 화면의 대략 중앙에 있거나 전체 이미지 링크가 화면에 맞을 때까지 화면에서 복수의 이미지 링크를 볼 수 있는 경우, 디스플레이 장치(디코더)는 콘텐츠에 포함된 정지 이미지 또는 I 화상을 이미지 링크로서 디스플레이할 수 있고; 복수의 정지 이미지 또는 I 화상을 사용하여 애니메이션 gif와 같은 비디오를 디스플레이할 수 있고, 또는 기저 층만을 수신하고 비디오를 디코딩하고 디스플레이할 수 있다.

사용자에 의해 이미지 링크가 선택된 경우, 디스플레이 장치는 예를 들어, 기저 층에 가장 높은 우선 순위를 부여하면서 디코딩을 수행한다. 콘텐츠가 스케일링 가능하다는 것을 나타내는 정보가 웹 페이지의 HTML 코드에 있는 경우, 디스플레이 장치는 향상 층까지 디코딩할 수 있다는 것이 주목된다. 또한, 선택이 이루어지기 전에 또는 대역폭이 심하게 제한되었을 때, 실시간 재생을 보장하기 위해 디스플레이 장치는 순방향 참조 화상(I 화상, P 화상, 순방향 참조 B 화상)만을 디코딩하여 디스플레이함으로써 선행 화상이 디코딩되는 시점과 디코딩된 화상이 디스플레이되는 시점 사이의 지연(즉, 콘텐츠를 디코딩하기 시작하는 시점으로부터 콘텐츠를 디스플레이하는 시점까지의 지연)을 줄일 수 있다. 더 나아가, 디스플레이 장치는 의도적으로 화상 간의 참조 관계를 무시하고, 모든 B 및 P 화상을 순방향 참조 화상으로서 대략적으로 디코딩한 후, 시간이 지나면서 수신되는 화상의 수가 증가함에 따라 정상적인 디코딩을 수행할 수 있다.

(자율 주행)

자동차의 자율 주행 또는 운전 보조를 위한 2차원 또는 3차원 지도 정보와 같은 정지 이미지 또는 비디오 데이터를 송신 및 수신할 때, 수신 단말은, 하나 이상의 층에 속하는 이미지 데이터에 더하여, 예를 들어, 날씨 또는 도로 공사에 대한 정보를 메타데이터로서 수신하고, 디코딩할 때 메타데이터를 이미지 데이터와 연관시킬 수 있다. 메타데이터는 층별로 할당될 수 있으며, 대안적으로 단순히 이미지 데이터와 다중화될 수 있다는 것이 주목된다.

이 경우에, 수신 단말을 포함하는 자동차, 드론, 비행기 등은 이동 가능하기 때문에, 수신 단말은 수신 단말의 위치를 나타내는 정보를 전송함으로써 기지국(ex106 내지 ex110) 중에서 기지국 간을 전환하면서 끊김 없이 수신하고 디코딩을 수행할 수 있다. 또한, 사용자에 의해 이루어진 선택, 사용자의 상황 및/또는 연결 대역폭에 따라, 수신 단말은 메타데이터가 수신되는 범위 또는 예를 들어 지도 정보가 업데이트되는 범위를 동적으로 선택할 수 있다.

콘텐츠 제공 시스템(ex100)에서 클라이언트는 사용자가 전송한 인코딩된 정보를 실시간으로 수신, 디코딩 및 재생할 수 있다.

(개별 콘텐츠의 스트리밍)

콘텐츠 제공 시스템(ex100)에서 고품질의 이미지에 더하여 비디오 분배 엔티티에 의해 분배되는 긴 콘텐츠, 저품질의 이미지의 유니캐스트 또는 멀티캐스트 스트리밍, 및 개인으로부터의 짧은 콘텐츠도 가능하다. 개인으로부터의 이러한 콘텐츠는 인기가 더욱 높아질 가능성이 있다. 서버는 개별 콘텐츠를 정제하기 위해 인코딩 처리 전에 콘텐츠에 대한 편집 처리를 먼저 수행할 수 있다. 이것은 예를 들어 다음 구성을 사용하여 달성될 수 있다.

비디오 또는 이미지 콘텐츠를 캡처하는 동안 실시간으로 또는 콘텐츠가 캡처 및 누적된 후, 서버는 캡처 에러 처리, 장면 검색 처리, 의미 분석 및/또는 객체 검출 처리와 같은 원시 데이터 또는 인코딩된 데이터에 기초하여 인식 처리를 수행한다. 그런 다음, 인식 처리 결과에 기초하여, 서버는, 프롬프트될 때 또는 자동으로, 콘텐츠를 편집하고, 그 예로는 초점 및/또는 움직임 흐려짐 보정과 같은 보정; 다른 화상에 비해 밝기가 낮거나 초점이 맞지 않는 장면과 같이 우선 순위가 낮은 장면의 제거; 객체 에지 조절; 및 색조 조절을 포함한다. 서버는 편집 결과에 기초하여 편집된 데이터를 인코딩한다. 지나치게 긴 비디오는 조회수가 적은 경향이 있는 것으로 알려져 있다. 따라서, 콘텐츠를 원본 비디오의 길이에 따라 스케일링된 특정 길이 내로 유지하기 위해, 서버는, 위에서 설명한 낮은 우선 순위 장면에 더하여, 이미지 처리 결과에 기초하여 움직임이 적은 장면을 자동으로 잘라낼 수 있다. 대안적으로, 서버는 장면의 의미를 분석한 결과에 기초하여 비디오 다이제스트를 생성하고 인코딩할 수 있다.

개별 콘텐츠가 저작권, 인격권, 초상권 등을 침해하는 콘텐츠를 포함할 수 있는 경우가 있을 수 있다. 이러한 경우 제작자가 의도한 범위를 넘어 콘텐츠를 공유하는 경우와 같이 제작자에게 불리한 상황이 발생할 수 있다. 따라서, 인코딩 전에 서버는 예를 들어 화면 주변에 있는 사람의 얼굴을 흐리게 하거나 예를 들어 집 내부를 흐리게 하도록 이미지를 편집할 수 있다. 또한, 서버는 인코딩될 이미지에서 등록된 사람이 아닌 사람의 얼굴을 인식하도록 구성될 수 있으며, 이러한 얼굴이 이미지에 나타날 경우, 예를 들어, 사람의 얼굴에 모자이크 필터를 적용할 수 있다. 대안적으로, 인코딩을 위한 전처리 또는 후처리로서, 사용자는 저작권의 이유로 사람을 포함하는 이미지의 영역 또는 처리할 배경 영역을 지정할 수 있다. 서버는 예를 들어 이 영역을 다른 이미지로 대체하거나 이 영역을 흐리게 처리함으로써 지정된 영역을 처리할 수 있다. 이 영역이 사람을 포함하는 경우 동화상에서 사람을 추적할 수 있으며, 사람이 움직일 때 사람의 머리 영역을 다른 이미지로 대체할 수 있다.

개인이 제작한 콘텐츠를 실시간으로 볼 수 있는 요구가 있는 데 이로 데이터 크기가 작아지는 경향이 있기 때문에, 디코더는 기저 층을 가장 높은 우선 순위로 먼저 수신하고, 디코딩 및 재생을 수행할 수 있지만, 이것은 대역폭에 따라 다를 수 있다. 콘텐츠가 2회 이상 재생되는 경우, 예를 들어, 디코더가 기저 층의 디코딩 및 재생 동안 향상 층을 수신하고 재생을 반복하는 경우, 디코더는 향상 층을 포함하는 고품질의 이미지 비디오를 재생할 수 있다. 이러한 스케일링 가능한 인코딩을 사용하여 스트림을 인코딩하면, 비디오가 선택되지 않은 상태에 있을 때 또는 비디오를 시작할 때에는 비디오 품질이 낮을 수 있지만, 스트림의 이미지 품질이 지능적으로 점진적으로 증가하는 경험을 제공할 수 있다. 이것은 스케일링 가능한 인코딩만으로 제한되지 않고; 처음 재생된 저품질 스트림으로부터 단일 스트림을 구성하고, 제1 스트림을 참조로 사용하여 인코딩된 제2 스트림을 구성함으로써 동일한 경험을 제공할 수 있다.

(기타 구현 및 적용 예)

인코딩 및 디코딩은 일반적으로 각각의 단말에 포함된 대규모 집적 회로부(large scale integration circuitry: LSI)(ex500)(도 73 참조)에 의해 수행될 수 있다. LSI(ex500)는 단일 칩 또는 복수의 칩으로 구성될 수 있다. 동화상을 인코딩하고 디코딩하기 위한 소프트웨어는 예를 들어, 컴퓨터(ex111)로 판독될 수 있는 일부 유형의 기록 매체(예를 들어, CD-ROM, 플렉시블 디스크, 또는 하드 디스크)에 통합될 수 있으며, 인코딩 및 디코딩은 소프트웨어를 이용하여 수행될 수 있다. 또한, 스마트 폰(ex115)에 카메라가 장착된 경우, 카메라에서 획득한 비디오 데이터가 전송될 수 있다. 이 경우, 비디오 데이터는 스마트 폰(ex115)에 포함된 LSI(ex500)에 의해 코딩될 수 있다.

LSI(ex500)는 애플리케이션을 다운로드하고 활성화하도록 구성될 수 있다는 것이 주목된다. 이 경우에, 단말은 콘텐츠를 인코딩하는 데 사용되는 방식과 호환 가능한지 여부 또는 특정 서비스를 실행할 수 있는지 여부를 먼저 결정한다. 단말이 콘텐츠의 인코딩 방식과 호환 가능하지 않는 경우 또는 단말이 특정 서비스를 실행할 수 없는 경우, 단말은 코덱 또는 애플리케이션 소프트웨어를 먼저 다운로드한 다음 콘텐츠를 획득하고 재생할 수 있다.

인터넷(ex101)을 사용하는 콘텐츠 제공 시스템(ex100)의 예를 제외하고, 상기 실시예에서 설명한 적어도 동화상 인코더(이미지 인코더) 또는 동화상 디코더(이미지 디코더)가 디지털 방송 시스템에서 구현될 수 있다. 동일한 인코딩 처리 및 디코딩 처리가, 예를 들어, 위성을 사용하여 다중화된 오디오 및 비디오 데이터와 중첩된 방송 전파를 송수신하는 데 적용될 수 있지만, 위성은 멀티캐스트에 맞춰져 있는 반면, 콘텐츠 제공 시스템(ex100)에서는 유니캐스트가 더 쉽다.

(하드웨어 구성)

도 78은 도 73에 도시된 스마트 폰(ex115)의 추가 세부 사항을 예시한다. 도 79는 스마트 폰(ex115)의 구성 예를 예시한다. 스마트 폰(ex115)은 기지국(ex110)과 무선 전파를 송수신하기 위한 안테나(ex450), 비디오 및 정지 이미지를 캡처할 수 있는 카메라(ex465), 및 카메라(ex465)에 의해 캡처된 비디오 및 안테나(ex450)에 의해 수신된 비디오와 같은 디코딩된 데이터를 디스플레이하는 디스플레이(ex458)를 포함한다. 스마트 폰(ex115)은 터치 패널과 같은 사용자 인터페이스부(ex466), 음성 또는 기타 오디오를 출력하기 위한 스피커와 같은 오디오 출력 유닛(ex457), 오디오 입력을 위한 마이크로폰과 같은 오디오 입력 유닛(ex456), 캡처된 비디오 또는 정지 이미지, 녹음된 오디오, 수신된 비디오 또는 정지 이미지와 같은 디코딩된 데이터, 디코딩된 데이터뿐만 아니라 메일을 저장할 수 있는 메모리(ex467), 및 네트워크 및 다양한 데이터에 대한 액세스를 승인하기 위한 SIM(ex468)용 인터페이스부인 슬롯(ex464)을 더 포함한다. 메모리(ex467) 대신에 외부 메모리가 사용될 수 있다는 것이 주목된다.

디스플레이(ex458) 및 사용자 인터페이스부(ex466)를 포괄적으로 제어할 수 있는 주 제어부(ex460), 전력 공급 회로(ex461), 사용자 인터페이스부 입력 제어부(ex462), 비디오 신호 프로세서(ex455), 카메라 인터페이스부(ex463), 디스플레이 제어부(ex459), 변조부/복조부(ex452), 다중화부/역다중화부(ex453), 오디오 신호 프로세서(ex454), 슬롯(ex464), 및 메모리(ex467)는 버스(ex470)를 통해 연결된다.

사용자가 전력 공급 회로(ex461)의 전력 버튼을 켜면, 스마트 폰(ex115)이 동작 가능한 상태로 켜지고, 각각의 구성 요소에 배터리 팩의 전력이 공급된다.

스마트 폰(ex115)은 CPU, ROM 및 RAM을 포함하는 주 제어부(ex460)에 의해 수행되는 제어에 기초하여 예를 들어 통화 및 데이터 전송을 위한 처리를 수행한다. 통화를 할 때 오디오 입력 유닛(ex456)에 의해 녹음된 오디오 신호는 오디오 신호 프로세서(ex454)에 의해 디지털 오디오 신호로 변환되며, 이 오디오 신호에는 변조부/복조부(ex452) 및 디지털-아날로그 변환에 의해 확산 스펙트럼 처리가 적용되고, 주파수 변환 처리는 송신부/수신부(ex451)에 의해 적용되고, 결과 신호는 안테나(ex450)를 통해 전송된다. 수신된 데이터는 증폭, 주파수 변환, 및 아날로그-디지털 변환을 받고, 변조부/복조부(ex452)에 의한 역확산 스펙트럼 처리되고, 오디오 신호 프로세서(ex454)에 의해 아날로그 오디오 신호로 변환된 후 오디오 출력 유닛(ex457)으로부터 출력된다. 데이터 전송 모드에서, 텍스트, 정지 이미지 또는 비디오 데이터는 예를 들어 본체의 사용자 인터페이스부(ex466)의 동작에 기초하여 사용자 인터페이스부 입력 제어부(ex462)를 통해 주 제어부(ex460)의 제어 하에 전송될 수 있다. 유사한 송수신 처리가 수행된다. 데이터 전송 모드에서, 비디오, 정지 이미지 또는 비디오 및 오디오를 전송할 때, 비디오 신호 프로세서(ex455) 압축은 위의 실시예에서 설명된 동화상 인코딩 방법을 통해 메모리(ex467)에 저장된 비디오 신호 또는 카메라(ex465)로부터 입력된 비디오 신호를 인코딩하고, 인코딩된 비디오 데이터를 다중화부/역다중화부(ex453)로 전송한다. 오디오 신호 프로세서(ex454)는 카메라(ex465)가 비디오 또는 정지 이미지를 캡처하는 동안 오디오 입력 유닛(ex456)에 의해 녹음된 오디오 신호를 인코딩하고, 인코딩된 오디오 데이터를 다중화부/역다중화부(ex453)로 전송한다. 다중화부/역다중화부(ex453)는 결정된 방식을 사용하여 인코딩된 비디오 데이터와 인코딩된 오디오 데이터를 다중화하고, 변조부/복조부(변조부/복조부 회로)(ex452) 및 송신부/수신부(ex451)를 사용하여 데이터를 변조 및 변환한 후, 안테나(ex450)를 통해 결과를 전송한다. 결정된 방식은 미리 결정될 수 있다.

이메일이나 채팅에 첨부된 비디오, 또는 웹 페이지로부터 링크된 비디오가 수신되면, 예를 들어, 안테나(ex450)를 통해 수신된 다중화된 데이터를 디코딩하기 위해, 다중화부/역다중화부(ex453)는 다중화된 데이터를 역다중화하여 다중화된 데이터를 비디오 데이터의 비트스트림과 오디오 데이터의 비트스트림으로 분할하고, 인코딩된 비디오 데이터를 동기 버스(ex470)를 통해 비디오 신호 프로세서(ex455)에 공급하고, 인코딩된 오디오 데이터를 동기 버스(ex470)를 통해 오디오 신호 프로세서(ex454)에 공급한다. 비디오 신호 프로세서(ex455)는 상기 실시예에서 설명된 동화상 인코딩 방법에 대응하는 동화상 디코딩 방법을 사용하여 비디오 신호를 디코딩하고, 링크된 동화상 파일에 포함된 비디오 또는 정지 이미지는 디스플레이 제어부(ex459)를 통해 디스플레이(ex458)에 디스플레이된다. 오디오 신호 프로세서(ex454)는 오디오 신호를 디코딩하고, 오디오 출력 유닛(ex457)으로부터 오디오를 출력한다. 실시간 스트리밍이 점점 대중화되면서 사용자 환경에 따라 오디오 재생이 사회적으로 부적절할 수 있는 경우가 있을 수 있다. 따라서, 초기 값으로서 비디오 데이터만이 재생되는 구성, 즉 오디오 신호는 재생되지 않는 구성이 바람직할 수 있고; 오디오는 사용자가 비디오 데이터를 클릭할 때와 같은 입력이 수신될 때만 동기화되고 재생될 수 있다.

위의 예에서 스마트 폰(ex115)이 사용되었지만 다른 구현예도 생각할 수 있는 데, 예를 들어, 트랜시버 단말이 인코더와 디코더를 모두 포함하는 경우; 송신기 단말이 인코더만을 포함하는 경우; 및 수신기 단말이 디코더만을 포함하는 경우도 생각할 수 있다. 디지털 방송 시스템의 설명에서 비디오 데이터와 오디오 데이터를 다중화한 결과 획득된 다중화된 데이터를 수신하거나 또는 전송하는 예가 제시된다. 그러나, 다중화된 데이터는 비디오와 관련된 텍스트 데이터와 같이 오디오 데이터 이외의 데이터와 다중화된 비디오 데이터일 수 있다. 또한, 다중화된 데이터가 아닌 비디오 데이터 자체가 수신되거나 또는 전송될 수 있다.

CPU를 포함하는 주 제어부(ex460)는 인코딩 또는 디코딩 처리를 제어하는 것으로 설명되었지만 다양한 단말은 종종 GPU를 포함한다. 따라서 CPU와 GPU가 공유하는 메모리, 또는 CPU와 GPU가 공통적으로 사용할 수 있도록 관리되는 어드레스를 포함하는 메모리를 통해 GPU의 성능 능력을 이용하여 한 번에 넓은 영역을 처리하는 구성도 허용할 수 있다. 이를 통해 인코딩 시간을 단축하고 스트림의 실시간 특성을 유지하며 지연을 줄일 수 있다. 특히, 움직임 추정, 디블로킹 필터링, 샘플 적응 오프셋(SAO), 및 변환/양자화와 관련된 처리는 CPU 대신에 GPU에 의해, 화상 단위로, 예를 들어, 한번에 모두 효과적으로 수행될 수 있다.

Claims (64)

1. 이미지 인코더로서,
   회로부; 및
   상기 회로부에 결합된 메모리를 포함하고;
   상기 회로부는, 동작 시에,
   제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고;
   상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하고;
   상기 제1 파티션의 제1 부분의 제1 샘플 세트와 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치를 부여하고;
   상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터를 저장하고;
   상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 상기 제1 파티션을 인코딩하는, 이미지 인코더.
2. 청구항 1에 있어서, 상기 회로부는, 동작 시에,
   상기 제2 움직임 벡터를 생성하는, 이미지 인코더.
3. 청구항 1에 있어서, 상기 제1 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 인코더.
4. 청구항 3에 있어서, 상기 제2 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 인코더.
5. 청구항 4에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 인코더.
6. 청구항 4에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터, 및 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터의 대체 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 인코더.
7. 청구항 4에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터, 및 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터의 플립(flip)을 포함하는 양방향 예측 움직임 벡터인, 이미지 인코더.
8. 청구항 4에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나인, 이미지 인코더.
9. 청구항 4에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터를 평균하여 생성된 단방향 예측 움직임 벡터인, 이미지 인코더.
10. 청구항 1에 있어서, 상기 제1 파티션은 삼각형 형상의 파티션인, 이미지 인코더.
11. 청구항 1에 있어서, 상기 제2 파티션은 삼각형 형상의 파티션인, 이미지 인코더.
12. 청구항 10에 있어서, 상기 제2 파티션은 삼각형 형상의 파티션인, 이미지 인코더.
13. 청구항 4에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 및 제2 움직임 벡터와 연관된 참조 화상 리스트에 기초하여 저장된 움직임 벡터를 생성하는, 이미지 인코더.
14. 청구항 13에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되지 않는다는 결정에 응답하여, 상기 제1 파티션의 제1 부분에 대한 상기 제1 움직임 벡터 및 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 저장하는, 이미지 인코더.
15. 청구항 13에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함된다는 결정에 응답하여,
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나에 대한 대체 움직임 벡터를 생성하고, 상기 대체 움직임 벡터는 상기 다른 참조 화상 리스트의 참조 화상을 가리키고;
    상기 대체 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나를 포함하는 양방향 예측 움직임 벡터를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 인코더.
16. 청구항 15에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상과, 상기 제2 움직임 벡터와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되지 않는다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 인코더.
17. 이미지 인코더로서,
    동작 시에, 원본 화상을 수신하고 블록으로 분할하는 분할부;
    동작 시에, 상기 분할부로부터 블록을 수신하고 예측 제어부로부터 예측을 수신하고, 대응하는 블록으로부터 각 예측을 감산하여 잔차를 출력하는 제1 가산부;
    동작 시에, 상기 가산부로부터 출력된 잔차에 변환을 수행하여 변환 계수를 출력하는 변환부;
    동작 시에, 상기 변환 계수를 양자화하여 양자화된 변환 계수를 생성하는 양자화부;
    동작 시에, 상기 양자화된 변환 계수를 인코딩하여 비트스트림을 생성하는 엔트로피 인코더;
    동작 시에, 상기 양자화된 변환 계수를 역양자화하여 상기 변환 계수를 획득하고 상기 변환 계수를 역변환하여 상기 잔차를 획득하는 역양자화부 및 변환부;
    동작 시에, 상기 역양자화부 및 변환부로부터 출력된 잔차와 상기 예측 제어부로부터 출력된 예측을 더하여 상기 블록을 재구성하는 제2 가산부; 및
    인터 예측부, 인트라 예측부 및 메모리에 결합된 상기 예측 제어부를 포함하고, 상기 인터 예측부는, 동작 시에, 인코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 상기 인트라 예측부는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 상기 인터 예측부는, 동작 시에,
    제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고;
    상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하고;
    상기 제1 파티션의 제1 부분의 제1 샘플 세트의 샘플 및 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치를 부여하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터를 저장하고;
    상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 상기 제1 파티션을 인코딩하는, 이미지 인코더.
18. 청구항 17에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제2 움직임 벡터를 생성하는, 이미지 인코더.
19. 청구항 17에 있어서, 상기 제1 움직임 벡터는 단방향 예측 움직임 벡터이고, 상기 제2 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 인코더.
20. 청구항 19에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 인코더.
21. 청구항 19에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터의 대체 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 인코더.
22. 청구항 19에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나인, 이미지 인코더.
23. 청구항 19에 있어서, 상기 제1 파티션은 삼각형 형상의 파티션인, 이미지 인코더.
24. 청구항 19에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 및 제2 움직임 벡터와 연관된 참조 화상 리스트에 기초하여 저장된 움직임 벡터를 생성하는, 이미지 인코더.
25. 청구항 24에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되지 않는다는 결정에 응답하여, 상기 제1 파티션의 제1 부분에 대한 상기 제1 움직임 벡터 및 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 저장하는, 이미지 인코더.
26. 청구항 24에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함된다는 결정에 응답하여,
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터에 대한 대체 움직임 벡터를 생성하고, 상기 대체 움직임 벡터는 상기 다른 참조 화상 리스트의 참조 화상을 가리키고;
    상기 대체 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 인코더.
27. 청구항 26에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상과, 상기 제2 움직임 벡터와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되지 않는다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 인코더.
28. 이미지 인코딩 방법으로서,
    제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하는 단계;
    상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하는 단계;
    상기 제1 파티션의 제1 부분의 제1 샘플 세트와 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치를 부여하는 단계;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터를 저장하는 단계; 및
    상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 상기 제1 파티션을 인코딩하는 단계를 포함하는, 이미지 인코딩 방법.
29. 청구항 28에 있어서, 상기 제1 움직임 벡터는 단방향 예측 움직임 벡터이고, 상기 제2 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 인코딩 방법.
30. 청구항 29에 있어서,
    상기 제1 및 제2 움직임 벡터와 연관된 참조 화상 리스트에 기초하여 저장된 움직임 벡터를 생성하는 단계를 포함하는, 이미지 인코딩 방법.
31. 청구항 30에 있어서,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하는 단계;
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장하는 단계; 및
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되지 않는다는 결정에 응답하여, 상기 제1 파티션의 제1 부분에 대한 상기 제1 움직임 벡터 및 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 저장하는 단계를 포함하는, 이미지 인코딩 방법.
32. 청구항 30에 있어서,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하는 단계;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되는지 여부를 결정하는 단계; 및
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함된다는 결정에 응답하여,
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터에 대한 대체 움직임 벡터를 생성하는 단계로서, 상기 대체 움직임 벡터는 상기 다른 참조 화상 리스트의 상기 참조 화상을 가리키는, 상기 대체 움직임 벡터를 생성하는 단계; 및
    상기 대체 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는 단계를 포함하는, 이미지 인코딩 방법.
33. 청구항 32에 있어서,
    상기 제1 움직임 벡터와 연관된 참조 화상과, 상기 제2 움직임 벡터와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되지 않는다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는 단계를 포함하는, 이미지 인코딩 방법.
34. 이미지 디코더로서,
    회로부; 및
    상기 회로부에 결합된 메모리를 포함하고;
    상기 회로부는, 동작 시에,
    제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고;
    상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하고;
    상기 제1 파티션의 제1 부분의 제1 샘플 세트와 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치를 부여하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터를 저장하고;
    상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 상기 제1 파티션을 디코딩하는, 이미지 디코더.
35. 청구항 34에 있어서, 상기 제1 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 디코더.
36. 청구항 35에 있어서, 상기 제2 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 디코더.
37. 청구항 36에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 디코더.
38. 청구항 36에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터, 및 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터의 대체 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 디코더.
39. 청구항 36에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터, 및 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터의 플립을 포함하는 양방향 예측 움직임 벡터인, 이미지 디코더.
40. 청구항 36에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나인, 이미지 디코더.
41. 청구항 36에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터를 평균하여 생성된 단방향 예측 움직임 벡터인, 이미지 디코더.
42. 청구항 34에 있어서, 상기 제1 파티션은 삼각형 형상의 파티션인, 이미지 디코더.
43. 청구항 34에 있어서, 상기 제2 파티션은 삼각형 형상의 파티션인, 이미지 디코더.
44. 청구항 43에 있어서, 상기 제2 파티션은 삼각형 형상의 파티션인, 이미지 디코더.
45. 청구항 36에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 및 제2 움직임 벡터와 연관된 참조 화상 리스트에 기초하여 저장된 움직임 벡터를 생성하는, 이미지 디코더.
46. 청구항 45에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되지 않는다는 결정에 응답하여, 상기 제1 파티션의 제1 부분에 대한 상기 제1 움직임 벡터 및 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 저장하는, 이미지 디코더.
47. 청구항 45에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함된다는 결정에 응답하여,
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터에 대한 대체 움직임 벡터를 생성하고, 상기 대체 움직임 벡터는 상기 다른 참조 화상 리스트의 참조 화상을 가리키고;
    상기 대체 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 디코더.
48. 청구항 47에 있어서, 상기 회로부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상과, 상기 제2 움직임 벡터와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되지 않는다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 디코더.
49. 이미지 디코더로서,
    동작 시에, 인코딩된 비트스트림을 수신하고 디코딩하여 양자화된 변환 계수를 획득하는 엔트로피 디코더;
    동작 시에, 상기 양자화된 변환 계수를 역양자화하여 변환 계수를 획득하고 상기 변환 계수를 역변환하여 잔차를 획득하는 역양자화부 및 변환부;
    동작 시에, 상기 역양자화부 및 변환부로부터 출력된 잔차와 예측 제어부로부터 출력된 예측을 더하여 블록을 재구성하는 가산부; 및
    인터 예측부, 인트라 예측부 및 메모리에 결합된 상기 예측 제어부를 포함하고, 상기 인터 예측부는, 동작 시에, 디코딩된 참조 화상의 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 상기 인트라 예측부는, 동작 시에, 현재 화상의 인코딩된 참조 블록에 기초하여 현재 블록의 예측을 생성하고, 상기 인터 예측부는, 동작 시에,
    제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하고;
    상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하고;
    상기 제1 파티션의 제1 부분의 제1 샘플 세트와 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치를 부여하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터를 저장하고;
    상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 상기 제1 파티션을 디코딩하는, 이미지 디코더.
50. 청구항 49에 있어서, 상기 제1 움직임 벡터는 단방향 예측 움직임 벡터이고, 상기 제2 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 디코더.
51. 청구항 50에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 디코더.
52. 청구항 50에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터, 및 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터의 대체 벡터를 포함하는 양방향 예측 움직임 벡터인, 이미지 디코더.
53. 청구항 50에 있어서, 저장된 움직임 벡터는 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나인, 이미지 디코더.
54. 청구항 50에 있어서, 상기 제1 파티션은 삼각형 형상의 파티션인, 이미지 디코더.
55. 청구항 50에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 및 제2 움직임 벡터와 연관된 참조 화상 리스트에 기초하여 저장된 움직임 벡터를 생성하는, 이미지 디코더.
56. 청구항 55에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되지 않는다는 결정에 응답하여, 상기 제1 파티션의 제1 부분에 대한 상기 제1 움직임 벡터 및 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 저장하는, 이미지 디코더.
57. 청구항 55에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되는지 여부를 결정하고;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함된다는 결정에 응답하여,
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터에 대한 대체 움직임 벡터를 생성하고, 상기 대체 움직임 벡터는 상기 다른 참조 화상 리스트의 참조 화상을 가리키고;
    상기 대체 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 디코더.
58. 청구항 57에 있어서, 상기 인터 예측부는, 동작 시에,
    상기 제1 움직임 벡터와 연관된 참조 화상과, 상기 제2 움직임 벡터와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되지 않는다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 디코더.
59. 이미지 디코딩 방법으로서,
    제1 움직임 벡터를 포함하는 하나 이상의 움직임 벡터를 사용하여 현재 화상의 제1 파티션에 대한 제1 샘플 세트를 예측하는 단계;
    상기 제1 파티션과 상이한 제2 파티션으로부터의 하나 이상의 움직임 벡터를 사용하여 상기 제1 파티션의 제1 부분에 대한 제2 샘플 세트를 예측하는 단계;
    상기 제1 파티션의 제1 부분의 제1 샘플 세트와 상기 제1 파티션의 제1 부분의 제2 샘플 세트의 샘플에 가중치를 부여하는 단계;
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나 또는 둘 모두에 기초하여 상기 제1 파티션의 제1 부분에 대한 움직임 벡터를 저장하는 단계; 및
    상기 제1 파티션의 제1 부분의 적어도 가중치 부여된 샘플을 사용하여 상기 제1 파티션을 디코딩하는 단계를 포함하는, 이미지 디코딩 방법.
60. 청구항 59에 있어서, 상기 제1 움직임 벡터는 단방향 예측 움직임 벡터이고, 상기 제2 움직임 벡터는 단방향 예측 움직임 벡터인, 이미지 디코딩 방법.
61. 청구항 60에 있어서,
    상기 제1 및 제2 움직임 벡터와 연관된 참조 화상 리스트에 기초하여 저장된 움직임 벡터를 생성하는 단계를 포함하는, 이미지 디코딩 방법.
62. 청구항 61에 있어서,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하는 단계;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 단방향 예측 움직임 벡터로서 저장하는 단계; 및
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되지 않는다는 결정에 응답하여, 상기 제1 파티션의 제1 부분에 대한 상기 제1 움직임 벡터 및 상기 제2 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 저장하는, 이미지 디코딩 방법.
63. 청구항 61에 있어서,
    상기 제1 움직임 벡터와 연관된 참조 화상 리스트가 상기 제2 움직임 벡터와 연관되는지 여부를 결정하는 단계;
    상기 제1 움직임 벡터와 연관된 상기 참조 화상 리스트가 상기 제2 움직임 벡터와 연관된다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되는지 여부를 결정하는 단계; 및
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나와 연관된 참조 화상이 다른 참조 화상 리스트에 포함된다는 결정에 응답하여,
    상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나의 움직임 벡터에 대한 대체 움직임 벡터를 생성하는 단계로서, 상기 대체 움직임 벡터는 상기 다른 참조 화상 리스트의 상기 참조 화상을 가리키는, 상기 대체 움직임 벡터를 생성하는 단계; 및
    상기 대체 움직임 벡터와, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 다른 하나의 움직임 벡터를 포함하는 양방향 예측 움직임 벡터를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는 단계를 포함하는, 이미지 디코딩 방법.
64. 청구항 63에 있어서,
    상기 제1 움직임 벡터와 연관된 참조 화상과, 상기 제2 움직임 벡터와 연관된 참조 화상이 다른 참조 화상 리스트에 포함되지 않는다는 결정에 응답하여, 상기 제1 움직임 벡터와 상기 제2 움직임 벡터 중 하나를 상기 제1 파티션의 제1 부분에 대한 저장된 움직임 벡터로서 저장하는, 이미지 디코딩 방법.

Images