KR102581456B1 - 비디오 복호화 방법 및 그 장치 및 비디오 부호화 방법 및 그 장치 - Google Patents

Abstract

제1 참조 블록 및 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 제1 참조 블록 및 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하고, 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 현재 픽셀에 대응하는 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 제1 대응 참조 픽셀의 픽셀 값, 제2 대응 참조 픽셀의 픽셀 값 및 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록의 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득하는 비디오 복호화 방법이 개시된다. 이때, 픽셀 그룹은 적어도 하나의 픽셀을 포함할 수 있다.

Description

비디오 복호화 방법 및 그 장치 및 비디오 부호화 방법 및 그 장치{VIDEO DECODING METHOD AND APPARATUS AND VIDEO ENCODING METHOD AND APPARATUS}

비디오 복호화 방법 및 비디오 부호화에 관한 것이다. 상세하게는 양방향(bi-directional) 움직임 예측 모드에서 인터 예측을 수행하는 비디오 복호화 및 비디오 부호화에 관한 것이다.

고해상도 또는 고화질 비디오 컨텐트를 재생, 저장할 수 있는 하드웨어의 개발 및 보급에 따라, 고해상도 또는 고화질 비디오 컨텐트를 효과적으로 부호화하거나 복호화하는 비디오 코덱의 필요성이 증대하고 있다. 기존의 비디오 코덱에 따르면, 비디오는 트리 구조의 부호화 단위에 기반하여 제한된 부호화 방식에 따라 부호화되고 있다.

주파수 변환을 이용하여 공간 영역의 영상 데이터는 주파수 영역의 계수들로 변환된다. 비디오 코덱은, 주파수 변환의 빠른 연산을 위해 영상을 소정 크기의 블록들로 분할하고, 블록마다 DCT 변환을 수행하여, 블록 단위의 주파수 계수들을 부호화한다. 공간 영역의 영상 데이터에 비해 주파수 영역의 계수들이, 압축하기 쉬운 형태를 가진다. 특히 비디오 코덱의 인터 예측 또는 인트라 예측을 통해 공간 영역의 영상 화소값은 예측 오차로 표현되므로, 예측 오차에 대해 주파수 변환이 수행되면 많은 데이터가 0으로 변환될 수 있다. 비디오 코덱은 연속적으로 반복적으로 발생하는 데이터를 작은 크기의 데이터로 치환함으로써, 데이터량을 절감하고 있다.

다양한 실시예에 의하면, 양방향 움직임 예측 모드에서 제1 참조 픽처의 제1 참조 블록의 픽셀 값 및 제2 참조 픽처의 제2 참조 블록의 픽셀 값을 이용할 뿐 아니라, 제1 참조 블록의 제1 그래디언트 값 및 제2 참조 블록의 제2 그래디언트 값을 함께 이용하여 현재 블록의 예측 픽셀 값이 생성될 수 있다. 따라서, 원본 블록과 유사한 예측 블록이 생성될 수 있기 때문에 부복호화 효율이 높아질 수 있다.

제1 참조 블록의 픽셀 값, 제2 참조 블록의 픽셀 값, 제1 참조 블록의 제1 그래디언트 값 및 제2 참조 블록의 제2 그래디언트 값은 픽셀 그룹 단위의 움직임 보상을 수행할 때 현재 블록의 수평 또는 수직 방향의 변위벡터를 결정하기 위해 이용된다. 특히, 현재 블록 내 현재 픽셀의 수평 방향 또는 수직 방향의 변위 벡터를 결정하기 위해 현재 픽셀에 대응하는 제1 참조 블록 내 제1 참조 픽셀의 픽셀 값, 그래디언트 값, 제2 참조 블록 내 제2 참조 픽셀의 픽셀 값, 그래디언트 값을 이용할 뿐 아니라 제1 참조 픽셀 및 제2 참조 픽셀을 중심으로 하는 소정의 크기의 윈도우에 포함된 주변 픽셀들의 픽셀 값 및 그래디언트 값을 이용하게 된다. 따라서 현재 픽셀이 경계에 위치하는 경우, 현재 픽셀에 대응하는 참조 픽셀의 주변 픽셀이 참조 블록의 외부에 위치하기 때문에 참조 블록 외부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값을 참조해야 하기 때문에 추가적으로 메모리에 접근해야 하는 문제점이 있었다.

다양한 실시예에 의하면, 참조 블록의 외부에 위치하는 픽셀에 관하여 저장된 픽셀 값 및 그래디언트 값을 참조하지 않고, 참조 블록의 내부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값만을 참조하여 현재 블록의 수평 또는 수직 방향의 변위벡터를 결정함으로써, 메모리 접근 횟수를 최소화할 수 있다.

다양한 실시예에 의하면, 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 정수 픽셀의 픽셀 값을 입력으로 하여 수평 방향 및 수직 방향의 그래디언트 필터 및 보간 필터를 이용하는 것이 아니라, 정수 픽셀의 픽셀 값에 보간 필터를 적용하여 소수 픽셀 단위의 위치에 있는 픽셀의 픽셀 값을 결정하고, 소수 픽셀 단위의 위치에 있는 픽셀의 픽셀 값에 필터의 길이가 상대적으로 짧은 수평 방향 또는 수직 방향의 그래디언트 필터를 적용하여 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값을 결정함으로써 복잡한 곱셉 연산을 수행하는 것을 최소화할 수 있다.

다양한 실시예에 의하면, 픽셀 그룹 단위로 움직임 보상을 수행함으로써 픽셀 단위로 움직임 보상을 수행할 때보다 복잡한 나눗셈 연산을 수행하는 것을 최소화할 수 있다.

다양한 실시예에 따른 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.

물론, 다양한 실시예의 기술적 과제들은 이상에서 언급한 특징으로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당해 기술분야의 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

본 발명의 기술적 과제들은 이상에서 언급한 특징으로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당해 기술분야의 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

다양한 실시예에 따른 비디오 복호화 방법은 비트스트림으로부터 현재 픽처 내 현재 블록에 대한 움직임 예측 모드 정보를 획득하는 단계;

상기 획득된 움직임 예측 모드 정보가 양방향(bi-direction) 움직임 예측 모드를 나타내는 경우, 제1 참조 픽처 내에서 현재 블록의 제1 참조 블록을 가리키는 제1 움직임 벡터에 관한 정보 및 제2 참조 픽처 내에서 현재 블록의 제2 참조 블록을 가리키는 제2 움직임 벡터에 관한 정보를 상기 비트스트림으로부터 획득하는 단계;

상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하는 단계;

상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록의 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득하는 단계;

상기 비트스트림으로부터 현재 블록의 레지듀얼 블록에 관한 정보를 획득하는 단계; 및

상기 예측 블록 및 상기 레지듀얼 블록에 기초하여 상기 현재 블록을 복원하는 단계를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함할 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서 상기 현재 블록의 예측 블록을 획득하는 단계는,

상기 제1 참조 블록 또는 제2 참조 블록 내 소수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 그래디언트 필터를 적용하여 상기 제1 대응 참조 픽셀 또는 상기 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값을 산출하는 단계를 더 포함하고,

상기 그래디언트 필터는 5 탭 필터이고,

상기 소수 위치 픽셀은 픽셀의 위치를 나타내는 좌표의 수평 성분 또는 수직 성분 중 적어도 하나의 성분이 소수 값을 갖는 픽셀일 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서 상기 제1 참조 블록 또는 제2 참조 블록 내 소수 위치 픽셀들의 픽셀 값들은 정수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 보간 필터(interpolation filter)를 적용하여 산출될 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서 상기 픽셀 그룹의 크기는 상기 현재 블록의 높이 및 너비 중 최소값에 기초하여 결정될 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서 상기 현재 픽셀 그룹에 관한 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 현재 픽셀 그룹에 대응되는 제1 참조 픽처 내 제1 대응 참조 픽셀 그룹에 포함된 제1 대응 참조 픽셀들 및 그 주변 픽셀들 및 제2 참조 픽처 내 제2 대응 참조 픽셀 그룹에 포함된 제2 대응 참조 픽셀들 및 그 주변 픽셀들의 픽셀 값들, 그래디언트 값들, 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이 및 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이에 기초하여 결정되는 값들을, 이용하여 결정된 단위 시간당 변위 벡터일 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서 상기 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하는 단계는,

상기 제1 대응 참조 픽셀 또는 상기 제2 대응 참조 픽셀이 제1 참조 블록 또는 제2 참조 블록의 경계 안쪽에 인접하는 경계 주변 픽셀인 경우,

상기 경계 주변 픽셀의 픽셀 값을 이용하여 제1 참조 블록 또는 제2 참조 블록의 경계 외부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값을 유도하는 단계; 및

상기 경계 주변 픽셀의 픽셀 값 및 그래디언트 값 및 상기 경계 주변 픽셀의 픽셀 값을 이용하여 유도된 상기 현재 블록의 경계 외부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값에 기초하여 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하는 단계를 포함할 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서 상기 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하는 단계는,

상기 제1 참조 블록에 포함된 제1 대응 참조 픽셀의 픽셀 값, 상기 제2참조 블록에 포함된 제2 대응 참조 픽셀의 픽셀 값, 상기 제1 대응 참조 픽셀의 그래디언트 값, 상기 제2 대응 참조 픽셀의 그래디언트 값, 상기 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이 및 상기 제2 참조 픽처와 현재 픽처 간의 제2 POC(Picture Order Count) 차이를 이용하여 상기 현재 픽셀에 관한 값을 산출하는 단계;

상기 제1 대응 참조 픽셀의 제1 대응 주변 픽셀들의 픽셀 값들, 상기 제2 대응 참조 픽셀의 제2 대응 주변 픽셀들의 픽셀 값들, 상기 제1 대응 주변 픽셀들의 그래디언트 값들, 상기 제2 대응 주변 픽셀들의 그래디언트 값들, 상기 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이 및 상기 제2 참조 픽처와 현재 픽처 간의 제2 POC(Picture Order Count) 차이를 이용하여 산출된 주변 픽셀들에 관한 값들을 산출하는 단계;

상기 현재 픽셀에 관한 값, 상기 주변 픽셀들에 관한 값들 및 가중치를 이용하여 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 산출하기 위해 필요한 상기 현재 픽셀에 관한 가중 평균 값을 산출하는 단계; 및

상기 산출된 현재 픽셀에 관한 가중 평균 값을 이용하여 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하는 단계를 포함할 수 있다.

다양한 실시예에 따른 비디오 복호화 방법에서, 상기 현재 픽셀에 관한 가중 평균 값은 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 픽셀들에 관한 값들에 대해 상하좌우 방향으로 지수 평활(exponential smoothing) 기법을 적용하여 산출된 값일 수 있다.

다양한 실시예에 따른 비디오 복호화 장치는 비트스트림으로부터 현재 픽처 내 현재 블록에 대한 움직임 예측 모드 정보를 획득하는 단계;

상기 획득된 움직임 예측 모드 정보가 양방향(bi-direction) 움직임 예측 모드를 나타내는 경우, 제1 참조 픽처 내에서 현재 블록의 제1 참조 블록을 가리키는 제1 움직임 벡터에 관한 정보 및 제2 참조 픽처 내에서 현재 블록의 제2 참조 블록을 가리키는 제2 움직임 벡터에 관한 정보를 상기 비트스트림으로부터 획득하고, 상기 비트스트림으로부터 현재 블록의 레지듀얼 블록에 관한 정보를 획득하는 획득부;

상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하고, 상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득하는 인터 예측부; 및

상기 예측 블록 및 상기 레지듀얼 블록에 기초하여 상기 현재 블록을 복원하는 복호화부를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함할 수 있다.

다양한 실시예에 따른 비디오 복호화 장치에서 상기 인터 예측부는,

상기 제1 참조 블록 또는 제2 참조 블록 내 소수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 그래디언트 필터를 적용하여 상기 제1 대응 참조 픽셀 또는 상기 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값을 산출하고,

상기 그래디언트 필터는 5 탭 필터이고,

상기 소수 위치 픽셀은 픽셀의 위치를 나타내는 좌표의 수평 성분 또는 수직 성분 중 적어도 하나의 성분이 소수값을 갖는 픽셀일 수 있다.

다양한 실시예에 따른 비디오 복호화 장치에서 상기 인터 예측부는,

상기 현재 픽셀 그룹에 관한 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 현재 픽셀 그룹에 대응되는 제1 참조 픽처 내 제1 대응 참조 픽셀 그룹에 포함된 제1 대응 참조 픽셀들 및 그 주변 픽셀들 및 제2 참조 픽처 내 제2 대응 참조 픽셀 그룹에 포함된 제2 대응 참조 픽셀들 및 그 주변 픽셀들의 픽셀 값들, 그래디언트 값들, 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이 및 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이에 기초하여 결정되는 값들을 이용하여 결정된 단위 시간당 변위 벡터일 수 있다.

다양한 실시예에 따른 비디오 복호화 장치에서 상기 인터 예측부는,

상기 제1 참조 블록에 포함된 제1 대응 참조 픽셀의 픽셀 값, 상기 제2참조 블록에 포함된 제2 대응 참조 픽셀의 픽셀 값, 상기 제1 대응 참조 픽셀의 그래디언트 값, 상기 제2 대응 참조 픽셀의 그래디언트 값, 상기 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이 및 상기 제2 참조 픽처와 현재 픽처 간의 제2 POC(Picture Order Count) 차이를 이용하여 상기 현재 픽셀에 관한 값을 산출하고,

상기 제1 대응 참조 픽셀의 제1 대응 주변 픽셀들의 픽셀 값들, 상기 제2 대응 참조 픽셀의 제2 대응 주변 픽셀들의 픽셀 값들, 상기 제1 대응 주변 픽셀들의 그래디언트 값들, 상기 제2 대응 주변 픽셀들의 그래디언트 값들, 상기 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이 및 상기 제2 참조 픽처와 현재 픽처 간의 제2 POC(Picture Order Count) 차이를 이용하여 산출된 주변 픽셀들에 관한 값들을 산출하고,

상기 현재 픽셀에 관한 값, 상기 주변 픽셀들에 관한 값들 및 가중치를 이용하여 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 산출하기 위해 필요한 상기 현재 픽셀에 관한 가중 평균 값을 산출하고,

상기 산출된 현재 픽셀에 관한 가중 평균 값을 이용하여 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다.

다양한 실시예에 따른 비디오 부호화 방법은 현재 블록에 대해 블록 단위 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여 상기 현재 블록의 예측 블록, 제1 움직임 벡터 및 제2 움직임 벡터를 획득하는 단계;

상기 제1 움직임 벡터 및 상기 제2 움직임 벡터에 관한 정보 및 상기 현재 블록에 대한 움직임 예측 모드가 양방향(bi-direction) 움직임 예측 모드임을 나타내는 움직임 예측 모드 정보를 포함하는 비트스트림을 생성하는 단계를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함하고,

상기 제1 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제1 참조 픽처의 제1 참조 블록을 가리키는 움직임 벡터이고,

상기 제2 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제2 참조 픽처의 제2 참조 블록을 가리키는 움직임 벡터이고,

상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상이 수행되어 현재 블록의 예측 블록이 획득되고,

상기 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 결정될 수 있다.

다양한 실시예에 따른 비디오 부호화 장치는 현재 블록에 대해 블록 단위 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여 상기 현재 블록의 예측 블록, 제1 움직임 벡터 및 제2 움직임 벡터를 획득하는 인터 예측부; 및

상기 제1 움직임 벡터 및 상기 제2 움직임 벡터에 관한 정보 및 상기 현재 블록에 대한 움직임 예측 모드가 양방향(bi-direction) 움직임 예측 모드임을 나타내는 움직임 예측 모드 정보를 포함하는 비트스트림을 생성하는 비트스트림 생성부를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함하고,

상기 제1 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제1 참조 픽처의 제1 참조 블록을 가리키는 움직임 벡터이고, 상기 제2 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제2 참조 픽처의 제2 참조 블록을 가리키는 움직임 벡터이고,

상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상이 수행되어 현재 블록의 예측 블록이 획득되고,

상기 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 결정될 수 있다.

다양한 실시예에 따른 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.

다양한 실시예에 따라, 양방향 움직임 예측 모드에서 참조 픽처의 참조 블록의 그래디언트 값을 이용하여 현재 블록에 대한 인터 예측을 수행하여, 현재 블록의 원본 블록의 값과 유사한 값을 예측함으로써 부복호화의 효율을 높일 수 있다.

도 1a는 다양한 실시예에 따른 비디오 복호화 장치의 블록도를 도시한다.
도 1b는 다양한 실시예에 따른 비디오 복호화 방법의 흐름도를 도시한다.
도 1c는 다양한 실시예에 따른 비디오 부호화 장치의 블록도를 도시한다.
도 1d는 다양한 실시예에 따른 비디오 부호화 방법의 흐름도를 도시한다.
도 1e는 다양한 실시예에 따른 영상 복호화부의 블록도를 도시한다.
도 1f는 다양한 실시예에 따른 영상 복호화부의 블록도를 도시한다
도 2는 일 실시예에 따른 블록 기반 양방향 움직임 예측 및 보상 과정을 설명하기 위한 참조도이다.
도 3a 내지 3c는 일 실시예에 따른 픽셀 단위 움직임 보상을 수행하는 과정을 설명하기 위한 참조도이다.
도 4는 일 실시예에 따라서 수평 및 수직 방향의 그래디언트 값을 계산하는 과정을 설명하기 위한 참조도이다.
도 5는 다른 실시예에 따라서 수평 및 수직 방향의 그래디언트 값을 계산하는 과정을 설명하기 위한 참조도이다.
도 6a 내지 6b는 일 실시예에 따라 1차원 필터들을 이용하여 수평 방향 및 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.
도 7a 내지 7e는 일 실시예에 따라 소수 픽셀 단위의 소수 픽셀 위치에서의 픽셀 값 및 수평 방향 및 수직 방향의 그래디언트 값을 결정하기 위해 이용되는 필터들의 필터 계수를 나타낸 표이다.
도 8a는 일 실시예에 따라서 픽셀에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.
도 8b는 일 실시예에 따라서 픽셀 그룹에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.
도 8c는 일 실시예에 따라 픽셀에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.
도 8d는 일 실시예에 따라 픽셀 그룹에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.
도 9a는 일 실시예에 따라, 필터링 수행 후에 오프셋을 더하고, 역-스케일링을 수행함으로써 수평 또는 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.
도 9b는 다른 실시예에 따라, 필터링 수행 후에 오프셋을 더하고, 역-스케일링을 수행함으로써 수평 또는 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.
도 9c는 현재 블록에 대해 픽셀 단위 움직임 보상을 수행하는 과정에서 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위해 필요한 입력 범위를 설명하기 위한 도면이다.
도 9d 내지 9e는 다양한 실시예에 따른 픽셀 단위의 움직임 보상을 수행하는 과정에서 이용되는 영역의 입력 범위를 설명하기 위한 도면이다.
도 9f는 참조 블록을 확장하지 않고, 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 과정을 설명하기 위한 도면이다.
도 9g 내지 9i는 다른 실시예에 따라, 참조 블록을 확장하지 않고, 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 과정을 설명하기 위한 도면이다.
도 9j는 일 실시예에 따라 블록의 확장없이 참조 블록의 픽셀 값 및 그래디언트 값을 참조하여 상하좌우로 지수 평활 기법을 적용함으로써 픽셀별 수평 방향 변위벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 도면이다.
도 9k는 일 실시예에 따라 현재 블록에 대한 움직임 보상을 수행하기 위해 필터를 이용하여 참조 블록 내 참조 픽셀의 픽셀 값 및 수평 및 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.
도 9l은 다른 실시예에 따라 현재 블록에 대한 움직임 보상을 수행하기 위해 필터를 이용하여 참조 블록 내 참조 픽셀의 픽셀 값 및 수평 방향 및 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.
도 10은 일 실시예에 따라 현재 부호화 단위가 분할되어 적어도 하나의 부호화 단위가 결정되는 과정을 도시한다.
도 11은 일 실시예에 따라 비-정사각형의 형태인 부호화 단위가 분할되어 적어도 하나의 부호화 단위가 결정되는 과정을 도시한다.
도 12는 일 실시예에 따라 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 부호화 단위가 분할되는 과정을 도시한다.
도 13은 일 실시예에 따라 홀수개의 부호화 단위들 중 소정의 부호화 단위가 결정되는 방법을 도시한다.
도 14는 일 실시예에 따라 현재 부호화 단위가 분할되어 복수개의 부호화 단위들이 결정되는 경우, 복수개의 부호화 단위들이 처리되는 순서를 도시한다.
도 15는 일 실시예에 따라 소정의 순서로 부호화 단위가 처리될 수 없는 경우, 현재 부호화 단위가 홀수개의 부호화 단위로 분할되는 것으로 결정되는 과정을 도시한다.
도 16은 일 실시예에 따라 제1 부호화 단위가 분할되어 적어도 하나의 부호화 단위가 결정되는 과정을 도시한다.
도 17은 일 실시예에 따라 제1 부호화 단위가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위가 소정의 조건을 만족하는 경우, 제2 부호화 단위가 분할될 수 있는 형태가 제한되는 것을 도시한다.
도 18은 일 실시예에 따라 분할 형태 정보가 4개의 정사각형 형태의 부호화 단위로 분할하는 것을 나타낼 수 없는 경우, 정사각형 형태의 부호화 단위가 분할되는 과정을 도시한다
도 19는 일 실시예에 따라 복수개의 부호화 단위들 간의 처리 순서가 부호화 단위의 분할 과정에 따라 달라질 수 있음을 도시한 것이다.
도 20은 일 실시예에 따라 부호화 단위가 재귀적으로 분할되어 복수개의 부호화 단위가 결정되는 경우, 부호화 단위의 형태 및 크기가 변함에 따라 부호화 단위의 심도가 결정되는 과정을 도시한다.
도 21은 일 실시예에 따라 부호화 단위들의 형태 및 크기에 따라 결정될 수 있는 심도 및 부호화 단위 구분을 위한 인덱스(part index, 이하 PID)를 도시한다.
도 22는 일 실시예에 따라 픽쳐에 포함되는 복수개의 소정의 데이터 단위에 따라 복수개의 부호화 단위들이 결정된 것을 도시한다.
도 23은 일 실시예에 따라 픽쳐에 포함되는 기준 부호화 단위의 결정 순서를 결정하는 기준이 되는 프로세싱 블록을 도시한다.

발명의 실시를 위한 최선의 형태

다양한 실시예에 따른 비디오 복호화 방법은 비트스트림으로부터 현재 픽처 내 현재 블록에 대한 움직임 예측 모드 정보를 획득하는 단계;

상기 획득된 움직임 예측 모드 정보가 양방향(bi-direction) 움직임 예측 모드를 나타내는 경우, 제1 참조 픽처 내에서 현재 블록의 제1 참조 블록을 가리키는 제1 움직임 벡터에 관한 정보 및 제2 참조 픽처 내에서 현재 블록의 제2 참조 블록을 가리키는 제2 움직임 벡터에 관한 정보를 상기 비트스트림으로부터 획득하는 단계;

상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하는 단계;

상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록의 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득하는 단계;

상기 비트스트림으로부터 현재 블록의 레지듀얼 블록에 관한 정보를 획득하는 단계; 및

상기 예측 블록 및 상기 레지듀얼 블록에 기초하여 상기 현재 블록을 복원하는 단계를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함할 수 있다.

다양한 실시예에 따른 비디오 복호화 장치는 비트스트림으로부터 현재 픽처 내 현재 블록에 대한 움직임 예측 모드 정보를 획득하는 단계;

상기 획득된 움직임 예측 모드 정보가 양방향(bi-direction) 움직임 예측 모드를 나타내는 경우, 제1 참조 픽처 내에서 현재 블록의 제1 참조 블록을 가리키는 제1 움직임 벡터에 관한 정보 및 제2 참조 픽처 내에서 현재 블록의 제2 참조 블록을 가리키는 제2 움직임 벡터에 관한 정보를 상기 비트스트림으로부터 획득하고, 상기 비트스트림으로부터 현재 블록의 레지듀얼 블록에 관한 정보를 획득하는 획득부;

상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정하고, 상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득하는 인터 예측부; 및

상기 예측 블록 및 상기 레지듀얼 블록에 기초하여 상기 현재 블록을 복원하는 복호화부를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함할 수 있다.

다양한 실시예에 따른 비디오 부호화 방법은 현재 블록에 대해 블록 단위 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여 상기 현재 블록의 예측 블록, 제1 움직임 벡터 및 제2 움직임 벡터를 획득하는 단계;

상기 제1 움직임 벡터 및 상기 제2 움직임 벡터에 관한 정보 및 상기 현재 블록에 대한 움직임 예측 모드가 양방향(bi-direction) 움직임 예측 모드임을 나타내는 움직임 예측 모드 정보를 포함하는 비트스트림을 생성하는 단계를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함하고,

상기 제1 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제1 참조 픽처의 제1 참조 블록을 가리키는 움직임 벡터이고,

상기 제2 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제2 참조 픽처의 제2 참조 블록을 가리키는 움직임 벡터이고,

상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상이 수행되어 현재 블록의 예측 블록이 획득되고,

상기 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 결정될 수 있다.

다양한 실시예에 따른 비디오 부호화 장치는 현재 블록에 대해 블록 단위 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여 상기 현재 블록의 예측 블록, 제1 움직임 벡터 및 제2 움직임 벡터를 획득하는 인터 예측부; 및

상기 제1 움직임 벡터 및 상기 제2 움직임 벡터에 관한 정보 및 상기 현재 블록에 대한 움직임 예측 모드가 양방향(bi-direction) 움직임 예측 모드임을 나타내는 움직임 예측 모드 정보를 포함하는 비트스트림을 생성하는 비트스트림 생성부를 포함하고,

상기 픽셀 그룹은 적어도 하나의 픽셀을 포함하고,

상기 제1 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제1 참조 픽처의 제1 참조 블록을 가리키는 움직임 벡터이고, 상기 제2 움직임 벡터는 상기 현재 블록으로부터 현재 픽처 내 상기 현재 블록에 대응하는 제2 참조 픽처의 제2 참조 블록을 가리키는 움직임 벡터이고,

상기 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상이 수행되어 현재 블록의 예측 블록이 획득되고,

상기 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 제1 참조 블록 및 상기 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 상기 제1 참조 블록 및 상기 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 결정될 수 있다.

다양한 실시예에 따른 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체를 포함할 수 있다.

발명의 실시를 위한 형태

이하, '영상'은 비디오의 정지영상이거나 동영상, 즉 비디오 그 자체를 나타낼 수 있다.

이하 '샘플'은, 영상의 샘플링 위치에 할당된 데이터로서 프로세싱 대상이 되는 데이터를 의미한다. 예를 들어, 공간영역의 영상에서 픽셀들이 샘플들일 수 있다.

이하 '현재 블록(Current Block)'은, 부호화 또는 복호화하고자 하는 영상의 블록을 의미할 수 있다.

도 1a는 다양한 실시예에 따른 비디오 복호화 장치의 블록도를 도시한다.

다양한 실시예에 따른 비디오 복호화 장치(100)는 획득부(105), 인터 예측부(110) 및 복원부(125)를 포함한다.

획득부(105)는 현재 블록의 예측 모드에 관한 정보, 현재 블록의 움직임 예측 모드를 나타내는 정보 및 움직임 벡터에 관한 정보를 포함하는 비트스트림을 수신한다.

획득부(105)는 수신된 비트스트림으로부터 현재 블록의 예측 모드에 관한 정보, 현재 블록의 움직임 예측 모드를 나타내는 정보 및 움직임 벡터에 관한 정보를 획득할 수 있다. 또한, 획득부(105)는 이전에 복호화된 픽처들 중 참조 픽처를 나타내는 참조 픽처 인덱스를 수신된 비트스트림으로부터 획득할 수 있다.

인터 예측부(110)는 현재 블록의 예측 모드가 인터 예측 모드인 경우, 현재 블록에 대한 인터 예측을 수행한다. 즉, 인터 예측부(110)는 현재 블록이 포함된 현재 픽처보다 이전에 복호화된 픽처 중 적어도 하나를 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 예를 들어, 인터 예측부(110)는 현재 블록의 움직임 예측 모드가 양방향(bi-direction) 움직임 예측 모드인 경우, 현재 픽처보다 이전에 복호화된 두개의 픽처를 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 즉, 인터 예측부(110)는 비트스트림으로부터 획득된 움직임 예측 모드에 관한 정보가 양방향 움직임 예측 모드를 나타내는 경우, 현재 픽처보다 이전에 복호화된 두개의 픽처를 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다.

인터 예측부(110)는 블록 단위 움직임 보상부(115) 및 픽셀 그룹 단위 움직임 보상부(120)를 포함할 수 있다.

블록 단위 움직임 보상부(115)는 현재 블록에 대한 블록 단위의 움직임 보상을 수행할 수 있다.

블록 단위 움직임 보상부(115)는 비트스트림으로부터 획득된 참조 픽처 인덱스를 이용하여 이전에 복호화된 픽처들 중 적어도 하나의 참조 픽처를 결정할 수 있다. 이때, 참조 픽처 인덱스는 L0 방향 및 L1 방향을 포함하는 예측 방향 각각에 대한 참조 픽처 인덱스를 의미할 수 있다. 여기서, L0 방향에 대한 참조 픽처 인덱스는 L0 참조 픽처 리스트에 포함된 픽처들 중 참조 픽처를 나타내는 인덱스를 의미하고, L1 방향에 대한 참조 픽처 인덱스는 L1 참조 픽처 리스트에 포함된 픽처들 중 참조 픽처를 나타내는 인덱스를 의미할 수 있다.

블록 단위 움직임 보상부(115)는 비트스트림으로부터 수신된 움직임 벡터에 관한 정보를 이용하여 적어도 하나의 참조 픽처 내 위치하는 현재 블록의 참조 블록을 결정할 수 있다. 여기서 현재 픽처 내 현재 블록에 대응하는 참조 픽처 내 대응 블록이 참조 블록일 수 있다. 즉, 블록 단위 움직임 보상부(115)는 현재 블록으로부터 참조 블록을 가리키는 움직임 벡터를 이용하여 현재 블록의 참조 블록을 결정할 수 있다. 여기서, 움직임 벡터는 현재 픽처 내 현재 블록의 기준 좌표와 참조 픽처 내 참조 블록의 기준 좌표의 변위를 나타내는 벡터를 의미한다. 예를 들어, 현재 블록의 좌상측 좌표가 (1,1)이고, 참조 픽처 내 참조 블록의 좌상측 좌표가 (3,3)인 경우, 움직임 벡터는 (2,2)일 수 있다.

여기서 움직임 벡터에 관한 정보는 움직임 벡터의 차분값을 포함할 수 있고, 블록 단위 움직임 보상부(115)는 움직임 벡터의 예측자(predictor) 및 비트스트림으로부터 획득된 움직임 벡터의 차분값을 이용하여 움직임 벡터를 복원하고, 복원된 움직임 벡터를 이용하여 적어도 하나의 참조 픽처 내 위치하는 현재 블록의 참조 블록을 결정할 수 있다. 이때, 움직임 벡터의 차분값은 L0 방향 및 L1 방향을 포함하는 예측 방향 각각과 관련된 참조 픽처에 대한 움직임 벡터의 차분 값을 의미할 수 있다. 여기서, L0 방향에 대한 움직임 벡터의 차분 값은 L0 참조 픽처 리스트에 포함된 참조 픽처 내 참조 블록을 가리키는 움직임 벡터의 차분 값을 의미하고, L1 방향에 대한 움직임 벡터의 차분 값은 L1 참조 픽처 리스트에 포함된 참조 픽처 내 참조 블록을 가리키는 움직임 벡터의 차분 값을 의미할 수 있다.

블록 단위 움직임 보상부(115)는 참조 블록의 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행할 수 있다. 블록 단위 움직임 보상부(115)는 현재 블록 내 현재 픽셀에 대응하는 참조 블록 내 참조 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행할 수 있다. 여기서 참조 픽셀은 참조 블록에 포함된 픽셀로, 현재 블록 내 현재 픽셀에 대응하는 대응 픽셀이 참조 픽셀일 수 있다.

블록 단위 움직임 보상부(115)는 복수의 참조 픽처 각각에 포함된 복수의 참조 블록을 이용하여 현재 블록에 대해 블록 단위의 움직임 보상을 수행할 수 있다. 예를 들어, 블록 단위 움직임 보상부(115)는 현재 블록의 움직임 예측 모드가 양방향 움직임 예측 모드인 경우, 이전에 부호화된 픽처들 중 두개의 참조 픽처를 결정하고, 두 개의 픽처에 포함된 두개의 참조 블록을 결정할 수 있다.

블록 단위 움직임 보상부(115)는 두개의 참조 블록 내 두개의 참조 픽셀의 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행할 수 있다. 블록 단위 움직임 보상부(115)는 두개의 참조 픽셀의 픽셀 값에 대한 평균값 또는 가중합(weighted sum)을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다.

참조 블록의 기준 위치는 정수 픽셀(integer pixel)의 위치일 수 있으나, 이에 제한되지 않고, 소수 픽셀(fractional pixel)의 위치일 수 있다. 여기서 정수 픽셀이란 위치 성분이 정수인 픽셀로 정수 픽셀 위치에 있는 픽셀을 의미할 수 있다. 소수 픽셀은 위치 성분이 소수인 픽셀로 소수 픽셀 위치에 있는 픽셀을 의미할 수 있다.

예를 들어, 현재 블록의 좌상측 좌표가 (1,1)이고, 움직임 벡터가 (2.5,2.5)인 경우, 참조 픽처 내 참조 블록의 좌상측 좌표는 (3.5,3.5)일 수 있다. 이때, 소수 픽셀의 위치는 1/4펠(pel;pixel element) 또는 1/16펠 단위로 결정될 수 있다. 이에 제한되지 않고, 다양한 소수 펠 단위에 따라 소수 픽셀의 위치가 결정될 수 있다.

참조 블록의 기준 위치가 소수 픽셀의 위치인 경우, 블록 단위 움직임 보상부(115)는 제1 움직임 벡터가 가리키는 제1 참조 블록의 픽셀들 중 제1 픽셀을 포함하는 제1 주변 영역 및 제2 움직임 벡터가 가리키는 제2 참조 블록의 픽셀들 중 제2 픽셀을 포함하는 제2 주변 영역에 보간 필터를 적용하여 제1 픽셀의 픽셀 값 및 제2 픽셀의 픽셀 값을 생성할 수 있다.

즉, 참조 블록 내 참조 픽셀 값은 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값을 이용하여 결정될 수 있다. 이때, 소정의 방향은 수평 방향 또는 수직 방향일 수 있다.

예를 들어, 블록 단위 움직임 보상부(115)는 소정의 방향 성분이 정수인 픽셀들의 픽셀 값에 대해 보간 필터(interpolation filter)를 이용하여 필터링(filtering)을 수행하여 그 결과 값으로 참조 픽셀 값을 결정하고, 참조 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상값을 결정할 수 있다. 참조 픽셀의 평균값 또는 가중합을 이용하여 블록 단위의 움직임 보상값이 결정될 수 있다. 이때, 보간 필터는 DCT(Discrete Cosine Transform) 기반의 M 탭(tap)의 보간 필터를 이용할 수 있다. DCT 기반의 M 탭의 보간 필터의 계수는 DCT와 IDCT로부터 유도될 수 있다. 이때, 보간 필터의 계수는, 필터링 수행시 실수 연산을 줄이기 위해 정수 계수로 스케일링된 필터 계수일 수 있다. 이때, 보간 필터는 수평 방향 또는 수직 방향의 1차원 보간 필터일 수 있다. 예를 들어, x, y 직교 좌표 성분으로 픽셀의 위치를 표현하는 경우, 수평 방향은 x축과 평행하는 방향을 의미할 수 있다. 수직 방향은 y축과 평행하는 방향을 의미할 수 있다.

블록 단위 움직임 보상부(115)는 먼저 수직 방향의 1차원 보간 필터를 이용하여 정수 위치에 있는 픽셀들 값에 대해 필터링을 수행하고, 필터링이 수행되어 생성된 값에 수평 방향의 1차원 보간 필터를 이용하여 필터링을 수행하여 소수 픽셀 위치에서의 참조 픽셀 값을 결정할 수 있다.

한편, 스케일링된 필터 계수를 이용하는 경우, 필터링이 수행되어 생성된 값은 스케일링되지 않은 필터 계수를 이용하는 경우에 비해 그 값이 클 수 있다. 따라서, 블록 단위 움직임 보상부(115)는 필터링이 수행되어 생성된 값에 대해 역-스케일링(de-scaling)을 수행할 수 있다.

블록 단위 움직임 보상부(115)는 수직 방향의 1차원 보간 필터를 이용하여 정수 위치에 있는 픽셀들 값에 대해 필터링을 수행한 후, 역-스케일링을 수행할 수 있다. 이때, 역-스케일링은 오른쪽으로 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 입력 영상의 샘플의 비트 뎁스에 기초하여 결정될 수 있다. 예를 들어, 역-스케일링 비트 수는 샘플의 비트 뎁스에 8을 뺀 값일 수 있다.

또한, 블록 단위 움직임 보상부(115)는 수직 방향의 1차원 보간 필터를 이용하여 정수 위치에 있는 픽셀들 값에 대해 필터링을 수행하고, 필터링이 수행되어 생성된 값에 대해 수평 방향의 1차원 보간 필터를 이용하여 필터링을 수행한 후, 역-스케일링을 수행할 수 있다. 이때, 역-스케일링은 오른쪽으로 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 수직 방향의 1차원 보간 필터의 스케일링 비트 수, 수평 방향의 1차원 보간 필터의 스케일링 비트 수 및 샘플의 비트 뎁스에 기초하여 결정될 수 있다. 예를 들어, 수직 방향의 1차원 보간 필터의 스케일링 비트 수 p가 6이고, 수평 방향의 1차원 보간 필터의 스케일링 비트 수 q가 6이고, 샘플의 비트 뎁스가 b인 경우, 역-스케일링 비트 수는 p+q+8-b로 20-b일 수 있다.

블록 단위 움직임 보상부(115)가 1차원 보간 필터를 이용하여 소정의 방향성분이 정수인 픽셀에 대해 필터링을 수행한 후 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅만 수행하면, 반올림 에러가 발생할 수 있기 때문에, 1차원 보간 필터를 이용하여 소정의 방향 성분이 정수인 픽셀에 대해 필터링을 수행한 이후 오프셋만큼 더하고, 그 후에 역-스케일링을 수행할 수 있다. 이때, 오프셋은 2^(역-스케일링 비트 수 - 1) 일 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 현재 블록에 대한 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위 움직임 보상값을 생성할 수 있다. 픽셀 그룹 단위의 움직임 보상부(120)는 현재 블록의 움직임 예측 모드가 양방향 움직임 예측 모드인 경우, 현재 블록에 대해 픽셀 그룹 단위 움직임 보상을 수행하여 픽셀 그룹 단위 움직임 보상값을 생성할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 제 1 참조 픽처 및 제 2 참조 픽처의 픽셀 그룹들의 옵티컬 플로우(optical flow)에 기초하여 현재 블록에 대한 픽셀 그룹 단위 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다. 옵티컬 플로우에 대해서는 도 3a에 관련된 설명에서 후술하겠다.

픽셀 그룹 단위 움직임 보상부(120)는 현재 블록의 참조 블록에 포함된 픽셀 그룹들에 대해 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다. 픽셀 그룹은 적어도 하나의 픽셀을 포함할 수 있다. 예를 들어, 픽셀 그룹은 하나의 픽셀일 수 있다. 또는, 픽셀 그룹은 두개 이상의 픽셀을 포함하는 복수의 픽셀일 수 있다. 픽셀 그룹은 KxK(K는 정수) 크기의 블록에 포함된 복수의 픽셀일 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 픽셀 그룹을 결정하고, 상기 결정된 픽셀 그룹에 기초하여 현재 블록에 대한 픽셀 그룹 단위 움직임 보상을 수행할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 현재 블록의 크기에 기초하여 픽셀 그룹의 크기를 결정할 수 있다. 예를 들어, 픽셀 그룹 단위 움직임 보상부(120)는 현재 블록의 높이 및 너비 중 최소값에 8을 나눈 값과 2 중 최대값을 픽셀 그룹의 높이 및 너비로 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 복수의 픽셀을 포함하는 픽셀 그룹 단위로 움직임 보상을 수행함으로써 높은 영상 해상도에서 픽셀 단위로 움직임 보상을 수행할 때보다 부/복호화의 복잡도를 감소시킬 수 있다. 또한 픽셀 그룹 단위 움직임 보상부(120)는 복수의 픽셀을 포함하는 픽셀 그룹 단위로 움직임 보상을 수행함으로서 높은 프레임 레이트에서 픽셀 단위로 움직임 보상을 수행할 때보다 부/복호화의 복잡도를 감소시킬 수 있다.

획득부(105)는 비트스트림에 포함된 픽셀 그룹의 크기에 관한 정보를 획득 할 수 있다. 픽셀 그룹의 크기에 관한 정보는 픽셀 그룹의 크기가 KxK인 경우, 높이 또는 너비 K를 나타내는 정보일 수 있다. 픽셀 그룹의 크기에 관한 정보는 하이 레벨 신택스 캐리어(High Level Syntax Carrier)에 포함될 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 픽셀 그룹에 포함된 복수의 픽셀들 중 그 값이 유사한 픽셀 값을 갖는 픽셀들을 포함하는 적어도 하나의 픽셀 그룹 파티션을 결정하고, 픽셀 그룹 파티션들에 대해 움직임 보상을 수행할 수 있다. 이때, 유사한 픽셀 값을 갖는 픽셀들이 포함된 픽셀 그룹 파티션은 동일한 물체(object)일 가능성이 높고, 움직임이 유사할 가능성이 높기 때문에 픽셀 그룹 단위 움직임 보상부(120)는 보다 세밀한 픽셀 그룹 단위의 움직임 보상을 수행할 수 있다.

한편, 픽셀 그룹 단위 움직임 보상은 움직임 예측 모드 정보가 양방향 움직임 예측 모드를 나타내는 경우에 수행되나, 이 경우에도 항상 수행되는 것이 아니라 선택적으로 수행될 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 현재 블록의 현재 픽셀 그룹에 대응되는 참조 블록 내 참조 픽셀 그룹을 결정하고, 참조 픽셀 그룹의 그래디언트 값을 결정할 수 있다. 예를 들어, 픽셀 그룹 단위 보상부(120)는 참조 픽셀 그룹에 포함된 적어도 하나의 픽셀 값의 그래디언트 값을 이용하여 참조 픽셀 그룹의 그래디언트 값을 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 참조 픽셀 그룹의 그래디언트 값을 이용하여 현재 블록에 대한 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 제1 움직임 벡터가 가리키는 제1 참조 블록의 픽셀 그룹들 중 제1 픽셀 그룹을 포함하는 제1 픽셀 그룹의 제1 주변 영역 및 제2 움직임 벡터가 가리키는 제2 참조 블록의 픽셀 그룹들 중 제2 픽셀 그룹을 포함하는 제2 픽셀 그룹의 제2 주변 영역에 필터를 적용하여 제1 픽셀 그룹의 그래디언트 값 및 제2 픽셀 그룹의 그래디언트 값을 생성할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 제1 참조 픽처 내 제1 픽셀 그룹을 중심으로 제1 픽셀 그룹을 포함하는 소정 크기의 제1 윈도우 내 픽셀들의 픽셀 값 및 픽셀들의 그래디언트 값을 결정하고, 제2 참조 픽처 내 제2 참조 픽셀 그룹을 중심으로 제2 참조 픽셀을 포함하는 소정 크기의 제2 윈도우 내 픽셀들의 픽셀 값 및 픽셀들의 그래디언트 값을 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 제1 윈도우 내 픽셀들의 픽셀 값 및 그래디언트 값과, 제2 윈도우 내 픽셀들의 픽셀 값 및 그래디언트 값을 이용하여 현재 픽셀 그룹에 대한 단위 시간당 변위 벡터를 결정할 수 있다. 이때, 현재 픽셀 그룹에 대한 단위 시간당 변위 벡터는 조절 파라메터(Regularization parameter)에 의해 그 값이 조절될 수 있다. 조절 파라메터는 픽셀 그룹의 움직임 보상을 수행하기 위해 적절치 않은(ill-posed) 현재 픽셀 그룹에 대한 단위 시간당 변위 벡터가 결정될 때 에러가 발생하는 것을 방지하기 위해 도입된 파라메터이다. 픽셀 그룹 단위 움직임 보상부(120)는 수평 또는 수직 방향의 단위 시간당 변위 벡터에 관한 조절 파라메터에 기초하여 현재 블록에 대한 픽셀 그룹 단위 움직임 보상을 수행할 수 있다. 조절 파라메터에 대해서는 도 8a에 관한 설명에서 후술하겠다.

픽셀 그룹 단위 움직임 보상부(120)는 현재 픽셀 그룹에 대한 단위 시간당 변위 벡터 및 참조 픽셀의 그래디언트 값을 이용하여, 현재 블록에 대한 픽셀 그룹 단위의 움직임 보상을 수행할 수 있다.

참조 블록의 기준 위치는 정수 픽셀의 위치일 수 있으나, 이에 제한되지 않고, 소수 픽셀의 위치일 수 있다.

참조 블록의 기준 위치가 소수 픽셀의 위치인 경우, 참조 블록 내 참조 픽셀의 그래디언트 값은 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값을 이용하여 결정될 수 있다.

예를 들어, 픽셀 그룹 단위 움직임 보상부(120)는 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값에 대해 그래디언트 필터를 이용하여 필터링을 수행하여 그 결과 값으로 참조 픽셀의 그래디언트 값을 결정할 수 있다. 이때, 그래디언트 필터의 필터 계수는 DCT(Discrete Cosine Transform) 기반의 보간 필터에 대해 미리 결정된 계수를 이용하여 결정될 수 있다. 그래디언트 필터의 계수는, 필터링 수행시 실수 연산을 줄이기 위해 정수 계수로 스케일링된 필터 계수일 수 있다.

이때, 그래디언트 필터는 수평 방향 또는 수직 방향의 1차원 그래디언트 필터일 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 참조 픽셀에 대한 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 수평 방향 또는 수직 방향의 1차원 그래디언트 필터를 이용하여 대응 방향 성분이 정수인 주변 픽셀에 대해 필터링을 수행할 수 있다.

예를 들어, 픽셀 그룹 단위 움직임 보상부(120)는 수평 방향의 1차원 그래디언트 필터를 이용하여 참조 픽셀의 주변에 위치하는 픽셀들 중 수평 방향 성분이 정수인 픽셀로부터 수평 방향으로 위치하는 픽셀에 대해 필터링을 수행하여, 참조 픽셀에 대한 수평 방향의 그래디언트 값을 결정할 수 있다.

만약에 참조 픽셀의 위치가 (x+α, y+β)(여기서 x, y는 정수이고, α, β는 소수)인 경우, 픽셀 그룹 단위 움직임 보상부(120)는 (x, y) 위치의 픽셀 및 (x, y)의 위치의 픽셀로부터 수직 방향으로 위치하는 픽셀들 중 수직 성분이 정수인 픽셀에 대해 수직 방향의 1차원 보간 필터를 이용하여 필터링을 수행하여 그 결과값으로 (x, y+β)의 픽셀 값을 결정할 수 있다.

픽셀 그룹단위 움직임 보상부(120)는 (x, y+β) 위치의 픽셀 값 및 (x, y+β) 위치로부터 수평 방향으로 위치하는 픽셀들 중 수평 성분이 정수인 픽셀들에 대해 수평 방향의 그래디언트 필터를 이용하여 필터링을 수행하여 그 결과값으로 (x+α, y+β) 위치에서의 수평 방향의 그래디언트 값을 결정할 수 있다.

1차원의 그래디언트 필터 및 1차원의 보간 필터를 이용하는 순서는 제한되지 않는다. 위에서는 먼저 수직 방향의 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수직 방향의 보간 필터링 값을 생성하고, 1차원의 수평 방향의 그래디언트 필터를 이용하여 상기 수직 방향의 보간 필터링 값에 대해 필터링을 수행하는 내용을 설명하였으나, 먼저 1차원의 수평 방향의 그래디언트 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수평 방향의 보간 필터링 값을 생성하고, 1차원의 수직 방향의 보간 필터를 이용하여 상기 수평 방향의 보간 필터링 값에 필터링을 수행할 수 있다.

이상, 픽셀 그룹단위 움직임 보상부(120)가 (x+α, y+β) 위치에서의 수평 방향의 그래디언트 값을 결정하는 내용을 상세하게 설명하였다. 픽셀 그룹 단위 움직임 보상부(120)가 (x+α, y+β) 위치에서의 수직 방향의 그래디언트 값도 수평 방향의 그래디언트 값이 결정되는 것과 유사한 방식으로 결정되므로, 자세한 설명은 생략한다.

이상, 픽셀 그룹 단위 움직임 보상부(230)가 소수 픽셀 위치에서의 그래디언트 값을 결정하기 위해, 1차원 그래디언트 필터 및 1차원 보간 필터를 이용하는 내용을 상세하게 설명하였다. 다만, 이에 제한되지 않고, 정수 픽셀 위치에서의 그래디언트 값을 결정하기 위해서도 그래디언트 필터 및 보간 필터를 이용할 수 있다. 다만, 정수 픽셀의 경우, 보간 필터를 이용하지 않더라도 픽셀 값이 결정될 수 있으나, 소수 픽셀에서의 처리와 일관된 처리를 위해 정수 픽셀 및 소정의 방향 성분이 정수인 주변 픽셀에 대해 보간 필터를 이용하여 필터링을 수행하여 상기 정수 픽셀 값을 결정할 수 있다. 예를 들어, 정수 픽셀에서의 보간 필터 계수는 {0, 0, 64, 0, 0}일 수 있고, 주변 정수 픽셀과 관련된 보간 필터 계수가 0이기 때문에 현재 정수 픽셀의 픽셀 값만 이용하여 필터링이 수행되고, 결과적으로는 보간 필터를 이용하여 현재 정수 픽셀 및 주변 정수 픽셀에 대해 필터링을 수행하여 현재 정수 픽셀에서의 픽셀 값이 결정될 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 수직 방향의 1차원 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행한 후에 역-스케일링을 수행할 수 있다. 이때, 역-스케일링은 오른쪽으로 역-스케일링 비트 수만큼 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 샘플의 비트 뎁스에 기초하여 결정될 수 있다. 또한, 역-스케일링 비트 수는 블록 내 구체적인 입력 데이터에 기초하여 결정될 수 있다.

예를 들어, 비트 쉬프팅 수는 샘플의 비트 뎁스에 8을 뺀 값일 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 수평 방향의 그래디언트 필터를 이용하여 상기 역-스케일링을 수행하여 생성된 값에 대해 필터링을 수행한 후에 역-스케일링을 수행할 수 있다. 마찬가지로 여기서, 역-스케일링은 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 수직 방향의 1차원 보간 필터의 스케일링된 비트 수, 수평 방향의 1차원 그래디언트 필터의 스케일링된 비트 수 및 샘플의 비트 뎁스에 기초하여 결정될 수 있다. 예를 들어, 1차원 보간 필터의 스케일링 비트 수 p가 6이고, 1차원 그래디언트 필터의 스케일링 비트 수 q가 4이고, 샘플의 비트 뎁스가 b인 경우, 역-스케일링 비트 수는 p+q+8-b로 18 - b일 수 있다.

픽셀 그룹 단위 움직임 보상부(120)가 필터링이 수행된 후, 필터링이 수행되어 생성된 값에 대해 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅만 수행하면, 반올림 에러가 발생할 수 있기 때문에, 필터링이 수행되어 생성된 값에 오프셋만큼 더하고, 그 후에 역-스케일링을 수행할 수 있다. 이때, 오프셋은 2^(역-스케일링 비트 수 - 1)일 수 있다.

인터 예측부(110)는 현재 블록에 대한 블록 단위의 움직임 보상값 및 픽셀 그룹 단위의 움직임 보상값을 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 예를 들어, 인터 예측부(110)는 현재 블록에 대한 블록 단위의 움직임 보상값 및 픽셀 그룹 단위의 움직임 보상값을 합하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 여기서, 블록 단위의 움직임 보상값은 블록 단위의 움직임 보상을 수행하여 생성된 값을 의미하고, 픽셀 그룹 단위의 움직임 보상값은 픽셀 그룹 단위의 움직임 보상을 수행하여 생성된 값으로, 블록 단위의 움직임 보상값은 참조 픽셀의 평균값 또는 가중합일 수 있고, 픽셀 그룹 단위의 움직임 보상값은 현재 픽셀에 관한 단위 시간당 변위 벡터 및 참조 픽셀의 그래디언트 값에 기초하여 결정된 값일 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 샘플의 비트 뎁스, 보간 연산 또는 그래디언트 연산에 이용되는 필터의 입력의 범위 및 상기 필터의 계수 중 적어도 하나에 기초하여 보간 연산 또는 그래디언트 연산 후 디-스케일링을 위한 쉬프트 값을 획득할 수 있다. 픽셀 그룹 단위 움직임 보상부(120)는 디-스케일링을 위한 쉬프트 값을 이용하여 제1 참조 블록 및 제2 참조 블록에 포함된 픽셀에 대한 보간 연산 또는 그래디언트 연산 후 디-스케일링을 수행할 수 있다.

인터 예측부(110)는 블록 단위 움직임 보상을 수행할 때, 움직임 벡터를 이용하고, 해당 움직임 벡터를 저장할 수 있다. 이때, 움직임 벡터 단위는 4x4 크기의 블록일 수 있다. 한편, 블록 단위 움직임 보상 후에 움직임 벡터를 저장할 때 움직임 벡터 저장 단위는 4x4 크기가 아닌 다양한 크기의 블록(예를 들어, RxR 크기의 블록; R은 정수)일 수 있다. 이때, 움직임 벡터 저장 단위는 4x4 크기보다 큰 블록일 수 있다. 예를 들어, 16x16 크기의 블록일 수 있다.

한편, 픽셀 그룹 단위 움직임 보상을 수행하는 경우, 현재 블록의 크기와 함께, 윈도우의 크기 및 보간 필터의 길이에 기초하여 픽셀 그룹 단위 움직임 보상을 수행하기 위한 대상 블록의 크기는 확장될 수 있다. 윈도우의 크기에 기초하여 현재 블록의 크기보다 대상 블록의 크기가 확장되는 이유는 현재 블록의 가장 자리에 위치하는 픽셀의 경우, 윈도우를 이용하여 현재 가장 자리에 위치하는 픽셀 및 주변 픽셀에 기초하여 현재 블록에 대한 픽셀 그룹 단위 움직임 보상을 수행하기 때문이다.

따라서, 픽셀 그룹 단위 움직임 보상부(120)는 메모리 접근 횟수를 줄이고, 곱셈 연산의 수행을 줄이기 위해 윈도우를 이용하여 픽셀 그룹 단위 움직임 보상을 수행하는 과정에서, 윈도우 내 픽셀들 중 현재 블록에서 벗어나는 픽셀의 위치를 현재 블록 내부에 인접하는 픽셀의 위치로 조정하여 조정된 픽셀의 위치에서의 픽셀 값 및 그래디언트 값을 결정함으로써 메모리 접근 횟수 및 곱셈 연산 횟수가 감소될 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 픽셀 그룹 단위의 움직임 보상에 필요한 값인 참조 픽셀들의 그래디언트 값을 결정하기 위해 정수 위치 픽셀들의 픽셀 값들을 이용하지 않을 수 있다. 즉, 픽셀 그룹 단위 보상부(120)는 소수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 그래디언트 필터를 적용하여 제1 참조 블록 내 제1 대응 참조 픽셀 또는 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값을 산출할 수 있다. 이때, 그래디언트 필터의 길이는 5일 수 있다. 이때, 필터의 계수는 필터의 중심 계수를 중심으로 대칭된 계수를 가질 수 있다. 소수 위치 픽셀은 픽셀의 위치를 나타내는 수평 방향 성분 및 수직 방향 성분 중 적어도 하나의 성분이 소수값을 갖는 픽셀일 수 있다.

제1 참조 블록 또는 제2 참조 블록 내 소수 위치 픽셀들의 픽셀 값들은 정수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 보간 필터를 적용하여 산출된 것일 수 있다.

현재 픽셀 그룹에 관한 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 현재 픽셀 그룹에 대응되는 제1 참조 픽처 내 제1 대응 참조 픽셀 그룹에 포함된 제1 대응 참조 픽셀들 및 제2 참조 픽쳐 내 제2 대응 참조 픽셀 그룹에 포함된 제2 대응 참조 픽셀들 및 그 주변 픽셀들의 픽셀 값들, 그래디언트 값들, 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이(difference), 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이에 기초하여 결정되는 값들을 이용하여 결정된 단위 시간당 변위 벡터일 수 있다.

픽셀 그룹 단위 보상부(120)는 제1 대응 참조 픽셀 또는 제2 대응 참조 픽셀이 제1 참조 블록 또는 제2 참조 블록의 경계 안쪽에 인접하는 경계 주변 픽셀인 경우, 경계 주변 픽셀의 픽셀 값을 이용하여 제1 참조 블록 또는 제2 참조 블록의 경계 외부에 위치하는 픽셀의 픽셀 값을 유도할 수 있다.

픽셀 그룹 단위 보상부(120)는 경계 주변 픽셀의 픽셀 값 및 경계 주변 픽셀의 픽셀 값을 이용하여 유도된 현재 블록의 경계 외부에 위치하는 픽셀의 픽셀 값에 기초하여 현재 블록의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다. 즉, 경계 주변 픽셀을 중심으로 하는 윈도우 내에 포함된 픽셀 중에 경계 외부에 위치하는 픽셀이 있을 수 있고, 이때, 경계 외부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값은 메모리에 저장된 값이 아닌 경계 주변 픽셀로부터 유도된 픽셀의 픽셀 값 및 그래디언트 값일 수 있다.

픽셀 그룹 단위 보상부(120)는 제1 참조 블록에 포함된 제1 대응 참조 픽셀의 픽셀 값, 제2 참조 블록에 포함된 제2 대응 참조 픽셀의 픽셀 값, 제1 대응 참조 픽셀의 그래디언트 값, 제2 대응 참조 픽셀의 그래디언트 값, 제1 참조 픽처와 현재 픽처 간의 제1 POC 차이 및 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이를 이용하여 현재 픽셀에 관한 값을 산출할 수 있다. 즉, 현재 픽셀에 관한 값은 각 참조 픽처의 대응 참조 픽셀의 픽셀 값, 그래디언트 값 및 각 참조 픽처와 현재 픽처와의 POC 차이에 기초한 함수의 결과값일 수 있다.

픽셀 그룹 단위 보상부(120)는 제1 대응 참조 픽셀의 제1 대응 주변 픽셀들의 픽셀 값들, 제1 대응 주변 픽셀들의 그래디언트 값들, 제2 대응 참조 픽셀의 제2 대응 주변 픽셀들의 픽셀 값들 및 제2 대응 주변 픽셀들의 그래디언트 값들, 제1 참조 픽처와 현재 픽처 간의 제1 POC 차이 및 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이를 이용하여 주변 픽셀들에 관한 값을 산출 할 수 있다. 즉, 주변 픽셀에 관한 값은 각 참조 픽처의 대응 참조 픽셀의 픽셀 값, 그래디언트 값 및 각 참조 픽처와 현재 픽처와의 POC 차이에 기초한 함수의 결과값일 수 있다. 즉, 주변 픽셀에 관한 값은 각 참조 픽처의 대응 주변 픽셀의 픽셀 값, 그래디언트 값 및 각 참조 픽처와 현재 픽처와의 POC 차이에 기초한 함수의 결과값일 수 있다.

픽셀 그룹 단위 보상부(120)는 상기 현재 픽셀에 관한 값, 주변 픽셀들에 관한 값들 및 가중치를 이용하여 수평 방향의 단위 시간당 변위 벡터를 산출하기 위해 필요한 현재 픽셀에 관한 가중 평균 값을 산출할 수 있다. 이때 가중치는 현재 픽셀과 주변 픽셀 간의 거리, 픽셀과 블록 경계 사이의 거리, 경계 밖에 위치하는 픽셀의 개수 또는 픽셀이 경계 안쪽에 위치하는지, 경계 바깥쪽에 위치하는지에 기초하여 결정될 수 있다.

현재 픽셀에 관한 가중 평균 값은 제1 참조 블록 및 제2 참조 블록에 포함된 픽셀들에 관한 값들에 대해 상하좌우 방향으로 지수 평활(exponential smoothing) 기법을 적용하여 산출된 값일 수 있다. 픽셀들에 관한 값들에 대해 상하좌우 방향으로 지수 평활(exponential smoothing) 기법을 적용함으로써 현재 픽셀에 대하여 산출된 값은 현재 픽셀에 관한 값에 대한 가중치가 가장 크고, 그 주변 픽셀에 관한 값에 대한 가중치는 현재 픽셀과의 거리에 따라 지수적으로 감소한 값일 수 있다.

픽셀 그룹 단위 보상부(120)는 현재 픽셀에 관한 가중 평균 값을 이용하여 현재 픽셀의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다.

복원부(125)는 비트스트림으로부터 현재 블록의 레지듀얼 블록을 획득하고, 상기 레지듀얼 블록과 현재 블록의 예측 블록을 이용하여 현재 블록을 복원할 수 있다. 예를 들어, 복원부(125)는 비트스트림으로부터 현재 블록의 레지듀얼 블록의 픽셀 값과 현재 블록의 예측 블록의 픽셀 값을 합하여 복원 블록의 픽셀 값을 생성할 수 있다.

비디오 복호화 장치(100)는 영상 복호화부(미도시)를 포함할 수 있고, 영상 복호화부(미도시)는 획득부(105), 인터 예측부(110) 및 복원부(125)를 포함할 수 있다. 영상 복호화부에 대해서는 도 1e를 참조하여 설명하도록 한다.

도 1b는 다양한 실시예에 따른 비디오 복호화 방법의 흐름도를 도시한다.

S105 단계에서, 비디오 복호화 장치(100)는 비트스트림으로부터 현재 픽처 내 현재 블록에 대한 움직임 예측 모드 정보를 획득할 수 있다. 비디오 복호화 장치(100)는 현재 픽처 내 현재 블록에 대한 움직임 예측 모드 정보를 포함하는 비트스트림을 수신하고, 수신된 비트스트림으로부터 현재 블록에 대한 움직임 예측 모드 정보를 획득할 수 있다. 비디오 복호화 장치(100)는 비트스트림으로부터 현재 블록의 예측 모드에 관한 정보를 획득하고, 현재 블록의 예측 모드에 관한 정보를 기초로 현재 블록의 예측 모드를 결정할 수 있다. 이때, 현재 블록의 예측 모드가 인터 예측 모드인 경우, 비디오 복호화 장치(100)는 현재 블록에 대한 움직임 예측 모드 정보를 획득할 수 있다.

예를 들어, 비디오 복호화 장치(100)는 현재 블록의 예측 모드에 관한 정보를 기초로 현재 블록의 예측 모드를 인터 예측 모드로 결정할 수 있다. 비디오 복호화 장치(100)는 현재 블록의 예측 모드가 인터 예측 모드인 경우, 비트스트림으로부터 현재 블록에 대한 움직임 예측 모드 정보를 획득할 수 있다.

S110 단계에서, 움직임 예측 모드 정보가 양방향 움직임 예측 모드를 나타내는 경우, 비디오 복호화 장치(100)는 제1 참조 픽처 내에서 현재 블록의 제1 참조 블록을 가리키는 제1 움직임 벡터 및 제2 참조 픽처 내에서 현재 블록의 제2 참조 블록을 가리키는 제2 움직임 벡터를 비트스트림으로부터 획득할 수 있다.

즉, 비디오 복호화 장치(100)는 제1 움직임 벡터 및 제2 움직임 벡터에 관한 정보를 포함하는 비트스트림을 수신하고, 수신된 비트스트림으로부터 제1 움직임 벡터 및 제2 움직임 벡터를 획득할 수 있다. 비디오 복호화 장치(100)는 비트스트림으로부터 참조 픽처 인덱스를 획득하고, 참조 픽처 인덱스에 기초하여 이전에 복호화된 픽처들 중 제1 참조 픽처 및 제2 참조 픽처를 결정할 수 있다.

S115 단계에서, 비디오 복호화 장치(100)는 제1 참조 블록 및 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 제1 참조 블록 및 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향 변위 벡터를 결정할 수 있다.이때, 제1 참조 블록 및 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값 및 참조 블록 및 제2 참조 블록에 포함된 참조 픽셀들에 관한 값은 관련 픽셀의 픽셀 값 또는 관련 픽셀의 수평 방향의 그래디언트 값 또는 수직 방향의 그래디언트 값일 수 있다. 또는 제1 참조 블록 및 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값 및 참조 블록 및 제2 참조 블록에 포함된 참조 픽셀들에 관한 값은 관련 픽셀의 픽셀 값 또는 그래디언트 값을 이용하여 결정된 값일 수 있다.

S120 단계에서, 비디오 복호화 장치(100)는 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 또는 시작 방향의 변위 벡터를 이용하여 현재 블록의 블록 단위 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득할 수 있다.

즉, 비디오 복호화 장치(100)는 현재 블록에 대해 제1 움직임 벡터 및 제2 움직임 벡터에 기초한 블록 단위의 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 생성할 수 있다. 비디오 복호화 장치(100)는 제1 움직임 벡터가 가리키는 제1 참조 블록의 픽셀 값들 및 제2 움직임 벡터가 가리키는 제2 참조 블록의 픽셀 값들을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행할 수 있다. 또한, 비디오 복호화 장치(100)는 현재 픽셀 그룹에 포함된 적어도 하나의 픽셀에 대응하는 제1 참조 블록 내 적어도 하나의 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 제2 참조 블록 내 적어도 하나의 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 또는 수직방향의 변위 벡터를 이용하여 현재 픽셀 그룹에 대해 픽셀 그룹 단위 움직임 보상을 수행할 수 있다.

비디오 복호화 장치(100)는 현재 블록에 대해 블록 단위 움직임 보상을 수행하여 생성된 블록 단위의 움직임 보상값 및 현재 픽셀 그룹에 대해 픽셀 그룹 단위 움직임 보상을 수행하여 생성된 픽셀 그룹 단위의 움직임 보상값을 이용하여 현재 블록의 예측 블록을 획득할 수 있다.

S125 단계에서, 비디오 복호화 장치(100)는 비트스트림으로부터 현재 블록의 레지듀얼 블록에 관한 정보를 획득할 수 있다.

S130 단계에서, 비디오 복호화 장치(100)는 예측 블록 및 레지듀얼 블록에 기초하여 현재 블록을 복원할 수 있다. 즉 비디오 복호화 장치(100)는 현재 블록에 관한 레지듀얼 블록이 나타내는 레지듀얼 블록의 픽셀 값과 예측 블록의 예측 픽셀 값을 합하여 현재 블록의 복원 블록의 픽셀 값을 생성할 수 있다.

도 1c는 다양한 실시예에 따른 비디오 부호화 장치의 블록도를 도시한다.

다양한 실시예에 따른 비디오 부호화 장치(150)는 인터 예측부(155) 및 비트스트림 생성부(170)를 포함한다.

인터 예측부(155)는 현재 블록에 대해 율(Rate) 및 왜곡(Distortion) 코스트(Cost)에 기초하여 다양한 블록을 참조하여 인터 예측을 수행한다. 즉, 인터 예측부(155)는 현재 블록이 포함된 현재 픽처보다 이전에 부호화된 픽처 중 적어도 하나를 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다.

인터 예측부(155)는 블록 단위 움직임 보상부(160) 및 픽셀 그룹 단위 움직임 보상부(165)를 포함할 수 있다.

블록 단위 움직임 보상부(160)는 현재 블록에 대해 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다.

블록 단위 움직임 보상부(160)는 이전에 복호화된 픽처들 중 적어도 하나의 참조 픽처를 결정하고, 적어도 하나의 참조 픽처 내에 위치하는 현재 블록의 참조 블록을 결정할 수 있다.

블록 단위 움직임 보상부(160)는 참조 블록의 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다. 블록 단위 움직임 보상부(160)는 현재 블록의 현재 픽셀에 대응하는 참조 블록의 참조 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다.

블록 단위 움직임 보상부(160)는 복수의 참조 픽처 각각에 포함된 복수의 참조 블록을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다. 예를 들어, 블록 단위 움직임 보상부(160)는 현재 블록의 움직임 예측 모드가 양방향(bi-direction) 예측 모드인 경우, 이전에 부호화된 픽처들 중 두개의 참조 픽처를 결정하고, 두개의 픽처에 포함된 두개의 참조 블록을 결정할 수 있다. 여기서 양방향 예측이란, 디스플레이되는 순서가 현재 픽처보다 이전인 픽처 및 디스플레이되는 순서가 현재 픽처보다 이후인 픽처를 이용하여 인터 예측을 수행하는 것을 의미하는 것에 제한되지 않고, 디스플레이되는 순서에 관계없이 현재 픽처보다 이전에 부호화된 두 개의 픽처를 이용하여 인터 예측하는 것을 의미할 수 있다.

블록 단위 움직임 보상부(160)는 두 개의 참조 블록 내에서 두 개의 참조 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다. 블록 단위 움직임 보상부(160)는 두개의 참조 픽셀들의 평균 픽셀 값 또는 가중합을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다.

블록 단위 움직임 보상부(160)는 이전에 부호화된 픽처들 중 현재 블록의 움직임 보상을 위한 참조 픽처를 나타내는 참조 픽처 인덱스를 출력할 수 있다.

블록 단위 움직임 보상부(160)는 현재 블록을 시점으로 하고 현재 블록의 참조 블록을 종점으로 하는 움직임 벡터를 결정하고, 움직임 벡터를 출력할 수 있다. 움직임 벡터는 현재 픽처 내 현재 블록의 기준 좌표와 참조 픽처 내 참조 블록의 기준 좌표의 변위를 나타내는 벡터를 의미할 수 있다. 예를 들어, 현재 블록의 좌상측 모서리의 좌표가 (1,1)이고, 참조 픽처 내 참조 블록의 좌상측 좌표가 (3,3)인 경우, 움직임 벡터는 (2,2)일 수 있다.

참조 블록의 기준 위치는 정수 픽셀의 위치일 수 있으나, 이에 제한되지 않고, 소수 픽셀(fractional pixel)의 위치일 수 있다. 이때, 소수 픽셀의 위치는 1/4펠 또는 1/16펠 단위로 결정될 수 있다. 다만 이에 제한되지 않고, 다양한 소수 펠 단위에 따라 소수 픽셀의 위치가 결정될 수 있다.

예를 들어, 참조 블록의 기준 위치가 (1.5, 1.5)이고 현재 블록의 좌상측 모서리의 좌표가 (1,1)인 경우, 움직임 벡터는 (0.5,0.5)일 수 있다. 움직임 벡터가 소수 픽셀의 위치인 참조 블록의 기준 위치를 가리키기 위해 1/4 펠 또는 1/16 펠 단위로 결정되는 경우에, 움직임 벡터를 스케일링하여 정수의 움직임 벡터를 결정하고, 업스케일링된 움직임 벡터를 이용하여 참조 블록의 기준 위치를 결정할 수 있다. 참조 블록의 기준 위치가 소수 픽셀의 위치인 경우, 참조 블록의 참조 픽셀의 위치도 소수 픽셀의 위치일 수 있다. 따라서, 참조 블록에서 소수 픽셀 위치의 픽셀 값은 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값을 이용하여 결정될 수 있다.

예를 들어, 블록 단위 움직임 보상부(160)는 보간 필터(interpolation filter)를 이용하여 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값에 대한 필터링을 수행하여 그 결과값으로 소수 픽셀 위치의 참조 픽셀 값을 결정하고, 참조 픽셀의 픽셀 값을 이용하여 현재 블록에 대한 블록 단위의 움직임 보상 값을 결정할 수 있다. 이때, 보간 필터는 DCT(Discrete Cosine Transform) 기반의 M 탭(tap)의 보간 필터를 이용할 수 있다. DCT 기반의 M 탭의 보간 필터의 계수는 DCT와 IDCT(Inverse Discrete Cosine Transform)로부터 유도될 수 있다. 이때, 보간 필터의 계수는, 필터링 수행시 실수 연산을 줄이기 위해 정수 계수로 스케일링된 필터 계수일 수 있다.

이때, 보간 필터는 수평 방향 또는 수직 방향의 1차원 보간 필터일 수 있다.

블록 단위 움직임 보상부(160)는 먼저 주변 정수 픽셀들에 대해 수직 방향의 1차원 보간 필터를 이용하여 필터링을 수행하고, 필터링이 수행된 값에 수평 방향의 1차원 보간 필터를 이용하여 필터링을 수행하여 소수 픽셀 위치에서의 참조 픽셀 값을 결정할 수 있다. 스케일링된 필터 계수를 이용하는 경우, 블록 단위 움직임 보상부(160)는 수직 방향의 1차원 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행한 후에, 필터링이 수행된 값에 대해 역-스케일링을 수행할 수 있다. 이 때, 역-스케일링은 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 샘플의 비트 뎁스에 기초하여 결정될 수 있다. 예를 들어, 비트 쉬프팅 수는 샘플의 비트 뎁스에서 8을 뺀 값일 수 있다.

또한, 블록 단위 움직임 보상부(160)는 수평 방향의 1차원 보간 필터를 이용하여 수평 방향 성분이 정수인 픽셀에 대해 필터링을 수행한 후에 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 수직 방향의 1차원 보간 필터 계수에 대해 스케일링된 비트 수, 수평 방향의 1차원 보간 필터 계수에 대해 스케일링된 비트 수 및 샘플의 비트 뎁스에 기초하여 결정될 수 있다.

블록 단위 움직임 보상부(160)가 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅만 수행하면 반올림 에러가 발생할 수 있기 때문에, 소정 방향의 1차원 보간 필터를 이용하여 상기 소정 방향의 성분이 정수인 픽셀에 대해 필터링을 수행하고, 필터링이 수행된 값에 오프셋을 더하고, 오프셋이 더해진 값에 대해 역-스케일링을 수행할 수 있다. 이때, 오프셋은 2^(역-스케일링 비트 수 - 1)일 수 있다.

앞서, 수직 방향의 1차원 보간 필터를 이용한 필터링 이후, 역-스케일링 비트 수는 샘플의 비트 뎁스에 기초하여 결정하는 내용을 설명하였으나, 이에 제한되지 않고, 샘플의 비트 뎁스뿐 아니라, 보간 필터 계수에 대해 스케일링된 비트 수를 고려하여 결정될 수 있다. 즉, 필터링 수행시 이용되는 레지스터의 크기 및 필터링 수행 과정에서 생성된 값을 저장하는 버퍼의 크기를 고려하여 오버플로우(overflow)가 발생하지 않는 범위에서 샘플의 비트 뎁스, 보간 필터 계수에 대해 스케일링된 비트 수에 기초하여 역-스케일링 비트 수가 결정될 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 현재 블록에 대한 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다. 예를 들어, 픽셀 그룹 단위 움직임 보상부(165)는 움직임 예측 모드가 양방향 움직임 예측 모드인 경우, 현재 블록에 대해 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 현재 블록의 참조 블록에 포함된 픽셀들의 그래디언트 값을 이용하여 현재 블록에 대한 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 제1 참조 픽처 내 제1 참조 블록의 픽셀들 중 제1 픽셀의 제1 주변 영역 및 제2 참조 픽처 내 제2 참조 블록의 픽셀들 중 제2 픽셀의 제2 주변 영역에 필터를 적용하여 제1 픽셀의 그래디언트 값 및 제2 픽셀의 그래디언트 값을 생성할 수 있다.

픽셀 그룹단위 움직임 보상부(165)는 제1 참조 픽처 내 제1 참조 픽셀을 중심으로 제1 참조 픽셀을 포함하는 소정 크기의 제1 윈도우 내 픽셀들의 픽셀 값 및 픽셀들의 그래디언트 값을 결정하고, 제2 참조 픽처 내 제2 참조 픽셀을 중심으로 제2 참조 픽셀을 포함하는 소정 크기의 제2 윈도우 내 픽셀들의 픽셀 값 및 픽셀들의 그래디언트 값을 결정할 수 있다. 픽셀 그룹 단위 움직임 보상부(165)는 제1 윈도우 내 픽셀들의 픽셀 값 및 픽셀들의 그래디언트 값과, 제2 윈도우 내 픽셀들의 픽셀 값 및 픽셀들의 그래디언트 값을 이용하여 현재 픽셀에 대한 단위 시간당 변위 벡터를 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 단위 시간당 변위 벡터 및 참조 픽셀의 그래디언트 값을 이용하여 현재 블록에 대한 픽셀 그룹 단위의 움직임 보상을 수행하여 픽셀 그룹 단위의 움직임 보상값을 생성할 수 있다.

참조 픽셀의 위치는 정수 픽셀의 위치일 수 있으나, 이에 제한되지 않고, 소수 픽셀의 위치일 수 있다.

참조 블록의 기준 위치가 소수 픽셀의 위치인 경우, 참조 블록 내 참조 픽셀의 그래디언트 값은 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값을 이용하여 결정될 수 있다.

예를 들어, 픽셀 그룹 단위 움직임 보상부(165)는 소정의 방향 성분이 정수인 주변 픽셀들의 픽셀 값에 대해 그래디언트 필터를 이용하여 필터링을 수행하여 그 결과값으로 참조 픽셀의 그래디언트 값을 결정할 수 있다. 이때, 그래디언트 필터의 필터 계수는 DCT(Discrete Cosine Transform) 기반의 보간 필터에 대해 미리 결정된 계수를 이용하여 결정될 수 있다.

그래디언트 필터의 계수는, 필터링 수행시 실수 연산을 줄이기 위해 정수 계수로 스케일링된 필터 계수일 수 있다. 이때, 이용되는 그래디언트 필터는 수평 방향 또는 수직 방향의 1차원 그래디언트 필터일 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 참조 픽셀에 대한 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 수평 방향 또는 수직 방향의 1차원 그래디언트 필터를 이용하여 대응 방향 성분이 정수인 주변 픽셀에 대해 필터링을 수행할 수 있다.

예를 들어, 픽셀 그룹 단위 움직임 보상부(165)는 수직 방향의 1차원 보간 필터를 이용하여 참조 픽셀에 인접하는 정수 픽셀로부터 수직 방향의 픽셀들 중 수직 성분이 정수인 픽셀들에 대해 필터링을 수행하여 수직 성분이 소수인 픽셀의 픽셀 값을 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 참조 픽셀과 인접하는 상기 정수 픽셀과 인접하는 다른 열(column)에 위치하는 픽셀에 대해서도 수직 방향의 1차원 보간 필터를 이용하여 수직 방향의 주변 정수 픽셀에 대해 필터링을 수행하여 상기 다른 열(column)에 위치하는 소수 픽셀 위치의 픽셀 값을 결정할 수 있다. 여기서, 상기 다른 열(column)에 위치하는 픽셀의 위치는 수직 방향으로 소수 픽셀의 위치이고, 수평 방향으로는 정수 픽셀의 위치일 수 있다.

즉, 참조 픽셀의 위치가 (x+α, y+β)(여기서 x, y는 정수이고, α, β는 소수)인 경우, 픽셀 그룹 단위 움직임 보상부(165)는 (x,y) 위치로부터 수직 방향의 주변 정수 픽셀에 대해 수직 방향의 보간 필터를 이용하여 필터링을 수행함으로써 (x, y+β) 위치에서의 픽셀 값을 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 (x, y+β) 위치에서의 픽셀 값과 (x, y+β) 위치에서의 픽셀 값으로부터 수평 방향에 위치하는 픽셀들 중 수평 성분이 정수인 픽셀의 픽셀 값에 대해 수평 방향의 그래디언트 필터를 이용하여 필터링을 수행함으로써 (x+α, y+β) 위치에서의 수평 방향의 그래디언트 값을 결정할 수 있다.

1차원의 그래디언트 필터 및 1차원의 보간 필터를 이용하는 순서는 제한되지 않는다. 앞서 설명한 바와 같이, 먼저 수직 방향의 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수직 방향의 보간 필터링 값을 생성하고, 1차원의 수평 방향의 그래디언트 필터를 이용하여 상기 수직 방향의 보간 필터링 값에 대해 필터링을 수행할 수 있으나, 이에 제한되지 않고, 먼저 1차원의 수평 방향의 그래디언트 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수평 방향의 그래디언트 필터링 값을 생성하고, 1차원의 수직 방향의 보간 필터를 이용하여 상기 수평 방향의 그래디언트 필터링 값에 대해 필터링을 수행할 수 있다.

이상, 픽셀 그룹 단위 움직임 보상부(165)가 (x+α, y+β) 위치에서의 수평 방향의 그래디언트 값을 결정하는 내용을 상세하게 설명하였다.

픽셀 그룹 단위 움직임 보상부(165)는 (x+α, y+β) 위치에서의 수직 방향의 그래디언트 값도 수평 방향의 그래디언트 값이 결정되는 것과 유사한 방식으로 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 수직 방향의 1차원 그래디언트 필터를 이용하여 참조 픽셀의 주변의 정수 픽셀로부터 수직 방향의 주변 정수 픽셀에 대해 필터링을 수행하여 참조 픽셀에 대한 수직 방향의 그래디언트 값을 결정할 수 있다. 픽셀 그룹 단위 움직임 보상부(165)는 참조 픽셀과 인접하는 다른 열(column)에 위치하는 픽셀에 대해서도 수직 방향의 1차원 그래디언트 필터를 이용하여 수직 방향의 주변 정수 픽셀에 대해 필터링을 수행하여 참조 픽셀과 인접하면서 다른 열(column)에 위치하는 픽셀에 대한 수직 방향의 그래디언트 값을 결정할 수 있다. 여기서 상기 픽셀의 위치는 수직 방향으로 소수 픽셀의 위치이고, 수평 방향으로는 정수 픽셀의 위치일 수 있다.

즉, 참조 픽셀의 위치가 (x+α, y+β)(여기서 x, y는 정수이고, α, β는 소수)인 경우, 픽셀 그룹 단위 움직임 보상부(165)는 (x,y) 위치로부터 수직 방향의 주변 정수 픽셀에 대해 수직 방향의 그래디언트 필터를 이용하여 필터링을 수행함으로써 (x, y+β) 위치에서의 수직 방향의 그래디언트 값을 결정할 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 (x, y+β) 위치에서의 그래디언트 값과 (x, y+β) 위치로부터 수평 방향에 위치하는 주변 정수 픽셀의 그래디언트 값에 대해 수평 방향의 보간 필터를 이용하여 필터링을 수행함으로써 (x+α, y+β) 위치에서의 수직 방향의 그래디언트 값을 결정할 수 있다.

1차원의 그래디언트 필터 및 1차원의 보간 필터를 이용하는 순서는 제한되지 않는다. 앞서 설명한 바와 같이, 먼저 수직 방향의 그래디언트 필터를 이용하여 정수 위치의 픽셀들에 대해 필터링을 수행하여 수직 방향의 그래디언트 필터링 값을 생성하고, 1차원의 수평 방향의 보간 필터를 이용하여 상기 수직 방향의 그래디언트 필터링 값에 대해 필터링을 수행할 수 있으나, 이에 제한되지 않고, 먼저 1차원의 수평 방향의 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수평 방향의 보간 필터링 값을 생성하고, 1차원의 수직 방향의 그래디언트 필터를 이용하여 상기 수평 방향의 보간 필터링 값에 대해 필터링을 수행할 수 있다.

이상, 픽셀 그룹 단위 움직임 보상부(165)가 소수 픽셀 위치에서의 그래디언트 값을 결정하기 위해, 그래디언트 필터 및 보간 필터를 이용하는 내용을 상세하게 설명하였다. 다만, 이에 제한되지 않고, 정수 픽셀 위치에서의 그래디언트 값을 결정하기 위해서도 그래디언트 필터 및 보간 필터를 이용할 수 있다.

정수 픽셀의 경우, 보간 필터를 이용하지 않더라도 그 픽셀 값을 결정할 수 있으나, 소수 픽셀에서의 처리와 일관된 처리를 위해 상기 정수 픽셀 및 주변 정수 픽셀에 대해 보간 필터를 이용하여 필터링을 수행될 수 있다. 예를 들어, 정수 픽셀에서의 보간 필터 계수는 {0, 0, 64, 0, 0}일 수 있고, 주변 정수 픽셀에 곱해지는 보간 필터 계수가 0이기 때문에 현재 정수 픽셀의 픽셀 값만 이용하여 필터링이 수행되고, 결과적으로는 현재 정수 픽셀 및 주변 정수 픽셀에 대해 보간 필터를 이용하여 필터링을 수행함으로써 생성된 값과, 현재 정수 픽셀의 픽셀 값은 동일하게 결정될 수 있다.

한편, 스케일링된 필터 계수를 이용하는 경우, 픽셀 그룹 단위 움직임 보상부(165)는 수평 방향의 1차원 그래디언트 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하고, 필터링이 수행된 값에 역-스케일링을 수행할 수 있다. 이때, 역-스케일링은 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 샘플의 비트 뎁스에 기초하여 결정될 수 있다. 예를 들어, 역-스케일링 비트 수는 샘플의 비트 뎁스에서 8만큼 뺀 값일 수 있다.

픽셀 그룹 단위 움직임 보상부(165)는 수직 방향의 보간 필터를 이용하여 수직 방향의 성분이 정수인 픽셀에 대해 필터링을 수행한 후에 역-스케일링을 수행할 수 있다. 이때, 역-스케일링은 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅하는 것을 포함할 수 있다. 역-스케일링 비트 수는 수직 방향의 1차원 보간 필터의 스케일링된 비트 수, 수평 방향의 1차원 그래디언트 필터의 스케일링된 비트 수 및 샘플의 비트 뎁스에 기초하여 결정될 수 있다.

픽셀 그룹 단위 움직임 보상부(165)가 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅만 수행하면, 반올림 에러가 발생할 수 있다. 따라서, 1차원 보간 필터를 이용하여 필터링이 수행된 이후, 필터링이 수행된 값에 오프셋이 더해질 수 있고, 오프셋이 더해진 값에 역-스케일링을 수행할 수 있다. 이 때, 오프셋은 2^(비트 쉬프팅 수 - 1)일 수 있다.

인터 예측부(110)는 블록 단위 움직임 보상을 수행할 때, 움직임 벡터를 이용하고, 해당 움직임 벡터를 저장할 수 있다. 이때, 움직임 벡터 단위는 4x4 크기의 블록일 수 있다. 한편, 블록 단위 움직임 보상 후에 움직임 벡터를 저장할 때 움직임 벡터 저장 단위는 4x4 크기가 아닌 다양한 크기의 블록(예를 들어, RxR 크기의 블록; R은 정수)일 수 있다. 이때, 움직임 벡터 저장 단위는 4x4 크기보다 큰 블록일 수 있다. 예를 들어, 16x16 크기의 블록일 수 있다.

한편, 픽셀 그룹 단위 움직임 보상을 수행하는 경우, 현재 블록의 크기와 함께, 윈도우의 크기 및 보간 필터의 길이에 기초하여 픽셀 그룹 단위 움직임 보상을 수행하기 위한 대상 블록의 크기는 확장될 수 있다. 윈도우의 크기에 기초하여 현재 블록의 크기보다 대상 블록의 크기가 확장되는 이유는 현재 블록의 가장 자리에 위치하는 픽셀의 경우, 윈도우를 이용하여 현재 가장 자리에 위치하는 픽셀 및 주변 픽셀에 기초하여 현재 블록에 대한 픽셀 그룹 단위 움직임 보상을 수행하기 때문이다.

따라서, 픽셀 그룹 단위 움직임 보상부(120)는 메모리 접근 횟수를 줄이고, 곱셈 연산의 수행을 줄이기 위해 윈도우를 이용하여 픽셀 그룹 단위 움직임 보상을 수행하는 과정에서, 윈도우 내 픽셀들 중 현재 블록에서 벗어나는 픽셀의 위치를 현재 블록 내부에 인접하는 픽셀의 위치로 조정하여 조정된 픽셀의 위치에서의 픽셀 값 및 그래디언트 값을 결정함으로써 메모리 접근 횟수 및 곱셈 연산 횟수가 감소될 수 있다.

픽셀 그룹 단위 움직임 보상부(120)는 픽셀 그룹 단위의 움직임 보상에 필요한 값인 참조 픽셀들의 그래디언트 값을 결정하기 위해 정수 위치 픽셀들의 픽셀 값들을 이용하지 않을 수 있다. 즉, 픽셀 그룹 단위 보상부(120)는 소수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 그래디언트 필터를 적용하여 제1 참조 블록 내 제1 대응 참조 픽셀 또는 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값을 산출할 수 있다. 이때, 그래디언트 필터의 길이는 5일 수 있다. 이때, 필터의 계수는 필터의 중심 계수를 중심으로 대칭된 계수를 가질 수 있다. 소수 위치 픽셀은 픽셀의 위치를 나타내는 수평 방향 성분 및 수직 방향 성분 중 적어도 하나의 성분이 소수값을 갖는 픽셀일 수 있다.

제1 참조 블록 또는 제2 참조 블록 내 소수 위치 픽셀들의 픽셀 값들은 정수 위치 픽셀들의 픽셀 값들에 수평 방향 또는 수직 방향의 보간 필터를 적용하여 산출된 것일 수 있다.

현재 픽셀 그룹에 관한 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 상기 현재 픽셀 그룹에 대응되는 제1 참조 픽처 내 제1 대응 참조 픽셀 그룹에 포함된 제1 대응 참조 픽셀들 및 제2 참조 픽쳐 내 제2 대응 참조 픽셀 그룹에 포함된 제2 대응 참조 픽셀들 및 그 주변 픽셀들의 픽셀 값들, 그래디언트 값들, 제1 참조 픽처와 현재 픽처 간의 제1 POC(Picture Order Count) 차이(difference), 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이에 기초하여 결정되는 값들을 이용하여 결정된 단위 시간당 변위 벡터일 수 있다.

픽셀 그룹 단위 보상부(120)는 제1 대응 참조 픽셀 또는 제2 대응 참조 픽셀이 제1 참조 블록 또는 제2 참조 블록의 경계 안쪽에 인접하는 경계 주변 픽셀인 경우, 경계 주변 픽셀의 픽셀 값을 이용하여 제1 참조 블록 또는 제2 참조 블록의 경계 외부에 위치하는 픽셀의 픽셀 값을 유도할 수 있다.

픽셀 그룹 단위 보상부(120)는 경계 주변 픽셀의 픽셀 값 및 경계 주변 픽셀의 픽셀 값을 이용하여 유도된 현재 블록의 경계 외부에 위치하는 픽셀의 픽셀 값에 기초하여 현재 블록의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다. 즉, 경계 주변 픽셀을 중심으로 하는 윈도우 내에 포함된 픽셀 중에 경계 외부에 위치하는 픽셀이 있을 수 있고, 이때, 경계 외부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값은 메모리에 저장된 값이 아닌 경계 주변 픽셀로부터 유도된 픽셀의 픽셀 값 및 그래디언트 값일 수 있다.

픽셀 그룹 단위 보상부(120)는 제1 참조 블록에 포함된 제1 대응 참조 픽셀의 픽셀 값, 제2 참조 블록에 포함된 제2 대응 참조 픽셀의 픽셀 값, 제1 대응 참조 픽셀의 그래디언트 값, 제2 대응 참조 픽셀의 그래디언트 값, 제1 참조 픽처와 현재 픽처 간의 제1 POC 차이 및 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이를 이용하여 현재 픽셀에 관한 값을 산출할 수 있다. 즉, 현재 픽셀에 관한 값은 각 참조 픽처의 대응 참조 픽셀의 픽셀 값, 그래디언트 값 및 각 참조 픽처와 현재 픽처와의 POC 차이에 기초한 함수의 결과값일 수 있다.

픽셀 그룹 단위 보상부(120)는 제1 대응 참조 픽셀의 제1 대응 주변 픽셀들의 픽셀 값들, 제1 대응 주변 픽셀들의 그래디언트 값들, 제2 대응 참조 픽셀의 제2 대응 주변 픽셀들의 픽셀 값들 및 제2 대응 주변 픽셀들의 그래디언트 값들, 제1 참조 픽처와 현재 픽처 간의 제1 POC 차이 및 제2 참조 픽처와 현재 픽처 간의 제2 POC 차이를 이용하여 산출된 대응 주변 픽셀들에 관한 값을 산출 할 수 있다. 즉, 주변 픽셀에 관한 값은 각 참조 픽처의 대응 참조 픽셀의 픽셀 값, 그래디언트 값 및 각 참조 픽처와 현재 픽처와의 POC 차이에 기초한 함수의 결과값일 수 있다. 즉, 대응 주변 픽셀에 관한 값은 각 참조 픽처의 대응 주변 픽셀의 픽셀 값, 그래디언트 값 및 각 참조 픽처와 현재 픽처와의 POC 차이에 기초한 함수의 결과값일 수 있다.

픽셀 그룹 단위 보상부(120)는 현재 픽셀에 관한 값, 대응 주변 픽셀들에 관한 값들 및 가중치를 이용하여 수평 방향의 단위 시간당 변위 벡터를 산출하기 위해 필요한 현재 픽셀에 관한 가중 평균 값을 산출할 수 있다. 이때 가중치는 현재 픽셀과 주변 픽셀 간의 거리, 픽셀과 블록 경계 사이의 거리, 경계 밖에 위치하는 픽셀의 개수 또는 픽셀이 경계 안쪽에 위치하는지, 경계 바깥쪽에 위치하는지에 기초하여 결정될 수 있다.

현재 픽셀에 관한 가중 평균 값은 제1 참조 블록 및 제2 참조 블록에 포함된 픽셀들에 관한 값들에 대해 상하좌우 방향으로 지수 평활(exponential smoothing) 기법을 적용하여 산출된 값일 수 있다. 픽셀들에 관한 값들에 대해 상하좌우 방향으로 지수 평활(exponential smoothing) 기법을 적용함으로써 현재 픽셀에 대하여 산출된 값은 현재 픽셀에 관한 값에 대한 가중치가 가장 크고, 그 주변 픽셀에 관한 값에 대한 가중치는 현재 픽셀과의 거리에 따라 지수적으로 감소한 값일 수 있다.

픽셀 그룹 단위 보상부(120)는 현재 픽셀에 관한 가중 평균 값을 이용하여 현재 픽셀의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다.

인터 예측부(155)는 현재 블록에 대한 블록 단위의 움직임 보상값 및 현재블록에 대한 픽셀 그룹 단위의 움직임 보상값을 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 예를 들어, 인터 예측부(155)는 현재 블록에 대한 블록 단위의 움직임 보상값 및 픽셀 그룹 단위의 움직임 보상값을 합하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 특히 인터 예측부(155)는 현재 블록의 움직임 예측 모드가 양방향 움직임 예측 모드인 경우, 현재 블록에 대한 블록 단위의 움직임 보상값 및 현재블록에 대한 픽셀 그룹 단위의 움직임 보상값을 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다.

인터 예측부(155)는 현재 블록의 움직임 예측 모드가 단방향 움직임 예측 모드인 경우, 현재 블록에 대한 블록 단위의 움직임 보상값을 이용하여 현재 블록의 예측 픽셀 값을 생성할 수 있다. 여기서 단방향이라 함은, 이전에 부호화된 픽처들 중 하나의 참조 픽처를 이용하는 것을 의미한다. 하나의 참조 픽처는 디스플레이 순서 상 현재 픽처보다 이전 픽처인 것에 제한되지 않고, 이후 픽처일 수도 있다.

인터 예측부(155)는 현재 블록의 움직임 예측 모드를 결정하고, 현재 블록의 움직임 예측 모드를 나타내는 정보를 출력할 수 있다. 예를 들어, 인터 예측부(155)는 현재 블록의 움직임 예측 모드로 양방향(bi-directional) 움직임 예측 모드를 결정하고, 양방향 움직임 예측 모드를 나타내는 정보를 출력할 수 있다. 여기서 양방향 움직임 예측 모드라 함은 두개의 복호화된 참조 픽처 내 참조 블록을 이용하여 움직임 예측하는 모드를 의미한다.

비트스트림 생성부(170)는 참조 블록을 가리키는 움직임 벡터를 포함하는 비트스트림을 생성할 수 있다. 비트스트림 생성부(170)는 참조 블록을 가리키는 움직임 벡터를 부호화하고, 부호화된 움직임 벡터를 포함하는 비트스트림을 생성할 수 있다. 비트스트림 생성부(170)는 참조 블록을 가리키는 움직임 벡터의 벡터의 차분값을 부호화하고 부호화된 움직임 벡터의 차분값을 포함하는 비트스트림을 생성할 수 있다. 여기서 움직임 벡터의 차분값은 움직임 벡터와 움직임 벡터의 예측자 간의 차이값을 의미할 수 있다. 이때, 움직임 벡터의 차분값은 L0 방향 및 L1 방향을 포함하는 예측 방향 각각과 관련된 참조 픽처에 대한 움직임 벡터의 차분 값을 의미할 수 있다. 여기서, L0 방향에 대한 움직임 벡터의 차분 값은 L0 참조 픽처 리스트에 포함된 참조 픽처 내 참조 블록을 가리키는 움직임 벡터의 차분 값을 의미하고, L1 방향에 대한 움직임 벡터의 차분 값은 L1 참조 픽처 리스트에 포함된 참조 픽처 내 참조 블록을 가리키는 움직임 벡터의 차분 값을 의미할 수 있다.

또한, 비트스트림 생성부(170)는 현재 블록의 움직임 예측 모드를 나타내는 정보를 더 포함하는 비트스트림을 생성할 수 있다. 비트스트림 생성부(170)는 이전에 부호화된 픽처들 중 현재 블록의 참조 픽처를 나타내는 참조 픽처 인덱스를 부호화하고, 부호화된 참조 픽처 인덱스를 포함하는 비트스트림을 생성할 수 있다. 이때, 참조 픽처 인덱스는 L0 방향 및 L1 방향을 포함하는 예측 방향 각각에 대한 참조 픽처 인덱스를 의미할 수 있다. 여기서, L0 방향에 대한 참조 픽처 인덱스는 L0 참조 픽처 리스트에 포함된 픽처들 중 참조 픽처를 나타내는 인덱스를 의미하고, L1 방향에 대한 참조 픽처 인덱스는 L1 참조 픽처 리스트에 포함된 픽처들 중 참조 픽처를 나타내는 인덱스를 의미할 수 있다.

비디오 부호화 장치(150)는 영상 부호화부(미도시)를 포함할 수 있고, 영상 부호화부(미도시)는 인터 예측부(155) 및 비트스트림 생성부(170)를 포함할 수 있다. 영상 부호화부에 대해서는 도 1f를 참조하여 설명하도록 한다.

도 1d는 다양한 실시예에 따른 비디오 부호화 방법의 흐름도를 도시한다.

도 1d를 참조하면, S150 단계에서, 비디오 부호화 장치(150)는 현재 블록에 대한 움직임 보상 및 픽셀 그룹 단위 움직임 보상을 수행하여현재 블록의 예측 블록, 제1 움직임 벡터 및 제2 움직임 벡터 및 픽셀 그룹 단위 움직임 보상에 관한 파라메터를 획득할 수 있다.

S155 단계에서, 비디오 부호화 장치(150)는 제1 움직임 벡터 및 제2 움직임 벡터에 관한 정보 및 현재 블록에 대한 움직임 예측 모드가 양방향 움직임 예측 모드임을 나타내는 움직임 예측 모드 정보를 포함하는 비트스트림을 생성할 수 있다. 여기서 제1 움직임 벡터는 현재 블록으로부터 현재 픽처 내 현재 블록에 대응하는 제1 참조 픽처의 제1 참조 블록을 가리키는 움직임 벡터일 수 있고, 제2 움직임 벡터는 현재 블록으로부터 현재 픽처 내 현재 블록에 대응하는 제2 참조 픽처의 제2 참조 블록을 가리키는 움직임 벡터일 수 있다.

비디오 부호화 장치(150)는 현재 블록의 예측 블록의 픽셀과 현재 블록의 원본 블록(original block)의 차이를 나타내는 현재 블록의 레지듀얼 블록을 부호화하고, 부호화된 레지듀얼 신호를 더 포함하는 비트스트림을 생성할 수 있다. 비디오 부호화 장치(150)는 현재 블록의 예측 모드에 관한 정보 및 참조 픽처 인덱스를 부호화하고, 부호화된 현재 블록의 예측 모드에 관한 정보 및 참조 픽처 인덱스를 더 포함하는 비트스트림을 생성할 수 있다. 예를 들어, 비디오 부호화 장치(150)는 현재 블록의 예측모드가 인터 예측 모드임을 나타내는 정보와 이전에 복호화된 픽처들 중 적어도 하나의 픽처를 가리키는 참조 픽처 인덱스를 부호화하고, 부호화된 현재 블록의 예측 모드에 관한 정보 및 참조 픽처 인덱스를 더 포함하는 비트스트림을 생성할 수 있다.

비디오 부호화 장치(150)는 현재 블록 내 현재 픽셀 그룹에 포함된 현재 픽셀에 대응하는 상기 제1 참조 블록 내 제1 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 현재 픽셀에 대응하는 상기 제2 참조 블록 내 제2 대응 참조 픽셀의 수평 방향 또는 수직 방향의 그래디언트 값, 상기 제1 대응 참조 픽셀의 픽셀 값, 상기 제2 대응 참조 픽셀의 픽셀 값 및 상기 현재 픽셀의 수평 방향 또는 수직 방향의 단위시간당 변위 벡터에 기초하여 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행할 수 있다. 비디오 부호화 장치(150)는 현재 블록에 대한 블록단위 움직임 보상 및 픽셀 그룹단위 움직임 보상을 수행하여 현재 블록의 예측 블록을 획득할 수 있다.

이때, 현재 블록의 경계 안쪽에 인접하는 픽셀을 포함하는 현재 블록의 픽셀들의 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터는 제1 참조 블록 및 제2 참조 블록의 경계 외부에 위치하는 픽셀에 관하여 저장된 값의 이용 없이 제1 참조 블록 및 제2 참조 블록에 포함된 참조 픽셀들에 관한 값을 이용하여 결정될 수 있다. 제1 참조 블록 및 제2 참조 블록에 포함된 참조 픽셀들에 관한 값은 참조 픽셀들의 픽셀 값 또는 그래디언트 값일 수 있다.

도 1e 는 다양한 실시예에 따른 영상 복호화부(600)의 블록도를 도시한다.

다양한 실시예에 따른 영상 복호화부(600)는, 비디오 복호화 장치(100)의 영상 복호화부(미도시)에서 영상 데이터를 부호화하는데 거치는 작업들을 수행한다.

도 1e를 참조하면, 엔트로피 복호화부(615)는 비트스트림(605)으로부터 복호화 대상인 부호화된 영상 데이터 및 복호화를 위해 필요한 부호화 정보를 파싱한다. 부호화된 영상 데이터는 양자화된 변환계수로서, 역양자화부(620) 및 역변환부(625)는 양자화된 변환 계수로부터 레지듀 데이터를 복원한다.

인트라 예측부(640)는 블록 별로 인트라 예측을 수행한다. 인터 예측부(635)는 블록 별로 복원 픽처 버퍼(630)에서 획득된 참조 영상을 이용하여 인터 예측을 수행한다. 도 1e의 인터 예측부(635)는 도 1a의 인터 예측부(110)에 대응될 수 있다.

인트라 예측부(640) 또는 인터 예측부(635)에서 생성된 각 블록에 대한 예측 데이터와 레지듀 데이터가 더해짐으로써 현재 영상(605)의 블록에 대한 공간 영역의 데이터가 복원되고, 디블로킹부(645) 및 SAO 수행부(650)는 복원된 공간 영역의 데이터에 대해 루프 필터링을 수행하여 필터링된 복원 영상(660)을 출력할 수 있다. 또한, 복원 픽쳐 버퍼(630)에 저장된 복원 영상들은 참조 영상으로서 출력될 수 있다.

비디오 복호화 장치(100)의 복호화부(미도시)에서 영상 데이터를 복호화하기 위해, 다양한 실시예에 따른 영상 복호화부(600)의 단계별 작업들이 블록별로 수행될 수 있다.

도 1f는 다양한 실시예에 따른 영상 부호화부의 블록도를 도시한다.

다양한 실시예에 따른 영상 부호화부(700)는, 비디오 부호화 장치(150)의 영상 부호화부(미도시)에서 영상 데이터를 부호화하는데 거치는 작업들을 수행한다.

즉, 인트라 예측부(720)는 현재 영상(705) 중 블록별로 인트라 예측을 수행하고, 인터 예측부(715)는 블록별로 현재 영상(705) 및 복원 픽처 버퍼(710)에서 획득된 참조 영상을 이용하여 인터 예측을 수행한다. 여기서 도 1e의 인터 예측부(715)는 도 1c의 인터 예측부(160)에 대응될 수 있다.

인트라 예측부(720) 또는 인터 예측부(715)로부터 출력된 각 블록에 대한 예측 데이터를 현재 영상(705)의 인코딩되는 블록에 대한 데이터로부터 빼줌으로써 레지듀 데이터를 생성하고, 변환부(725) 및 양자화부(730)는 레지듀 데이터에 대해 변환 및 양자화를 수행하여 블록별로 양자화된 변환 계수를 출력할 수 있다. 역양자화부(745), 역변환부(750)는 양자화된 변환 계수에 대해 역양자화 및 역변환을 수행하여 공간 영역의 레지듀 데이터를 복원할 수 있다. 복원된 공간 영역의 레지듀 데이터는 인트라 예측부(720) 또는 인터 예측부(715)로부터 출력된 각 블록에 대한 예측 데이터와 더해짐으로써 현재 영상(705)의 블록에 대한 공간 영역의 데이터로 복원된다. 디블로킹부(755) 및 SAO 수행부는 복원된 공간 영역의 데이터에 대해 인루프 필터링을 수행하여, 필터링된 복원 영상을 생성한다. 생성된 복원 영상은 복원 픽쳐 버퍼(710)에 저장된다. 복원 픽처 버퍼(710)에 저장된 복원 영상들은 다른 영상의 인터예측을 위한 참조 영상으로 이용될 수 있다. 엔트로피 부호화부(735)는 양자화된 변환 계수에 대해 엔트로피 부호화하고, 엔트로피 부호화된 계수가 비트스트림(740)으로 출력될 수 있다.

다양한 실시예에 따른 영상 부호화부(700)가 비디오 부호화 장치(150)에 적용되기 위해서, 다양한 실시예에 따른 영상 부호화부(700)의 단계별 작업들이 블록별로 수행될 수 있다.

도 2는 일 실시예에 따른 블록 기반 양방향 움직임 예측 및 보상 과정을 설명하기 위한 참조도이다.

도 2를 참조하면, 비디오 부호화 장치(150)는 제 1 참조 픽처(210) 및 제 2 참조 픽처(220)에서 현재 픽처(200)의 부호화되는 현재 블록(201)과 가장 유사한 영역을 검색하는 양방향 움직임 예측을 수행한다. 여기서, 제 1 참조 픽처(210)는 현재 픽처(200) 이전의 픽처이며, 제 2 참조 픽처(220)는 현재 픽처(200) 이후의 픽처라고 가정한다. 비디오 부호화 장치(150)는 양방향 움직임 예측 결과, 제 1 참조 픽처(210)에서 현재 블록(201)과 가장 유사한 제 1 대응 영역(212) 및 제 2 참조 픽처(220)에서 현재 블록(201)과 가장 유사한 제 2 대응 영역(222)를 결정한다. 여기서 제1 대응 영역 및 제2 대응영역이 현재 블록의 참조 영역이 될 수 있다.

그리고, 비디오 부호화 장치(150)는 제 1 참조 픽처(210)의 현재 블록(201)과 동일한 위치의 블록(211)과 제 1 대응 영역(212)의 위치 차이에 기초하여 제 1 움직임 벡터(MV1)을 결정하고, 제 2 참조 픽처(220)의 현재 블록(201)과 동일한 위치의 블록(221)과 제 2 대응 영역(222)의 위치 차이에 기초하여 제 2 움직임 벡터(MV2)를 결정한다.

비디오 부호화 장치(150)는 제 1 움직임 벡터(MV1) 및 제 2 움직임 벡터(MV2)를 이용하여 현재 블록(201)에 대한 블록 단위 양방향 움직임 보상을 수행한다.

예를 들어, 제 1 참조 픽처(210)의 (i, j)(i, j는 정수)에 위치한 픽셀 값을 P0(i,j), 제 2 참조 픽처(220)의 (i,j)에 위치한 픽셀 값을 P1(i,j), MV1=(MVx1,MVy1), MV2=(MVx2, MVy2)라고 하면, 현재 블록(201)의 (i,j) 위치 픽셀의 블록 단위 양방향 움직임 보상값 P_BiPredBlock(i,j)는 다음의 수학식; P_BiPredBlock(i,j)={P0(i+MVx1, j+MVy1)+P1(i+MVx2, j+MVy2)}/2 와 같이 계산될 수 있다. 이와 같이, 비디오 부호화 장치(150)는 제 1 움직임 벡터(MV1) 및 제 2 움직임 벡터(MV2)가 가리키는 제 1 대응 영역(212) 및 제 2 대응 영역(222)의 픽셀들의 평균값이나 가중합을 이용하여 현재 블록(201)에 대한 블록 단위 움직임 보상을 수행하여 블록 단위의 움직임 보상값을 생성할 수 있다.

도 3a 내지 3c는 일 실시예에 따른 픽셀 그룹 단위 움직임 보상을 수행하는 과정을 설명하기 위한 참조도이다.

도 3a에서, 제 1 대응 영역(310) 및 제 2 대응 영역(320)은 각각 도 2의 제 1 대응 영역(212) 및 제 2 대응 영역(222)와 대응되는 것으로, 현재 블록(300)에 오버랩(ovelap)되도록 양방향 움직임 벡터(MV1, MV2)를 이용하여 쉬프트된 것으로 가정한다.

또한, 현재 블록(300)의 양방향 예측되는 (i,j)(i,j는 정수) 위치의 픽셀을 P(i,j), 현재 블록(300)의 양방향 예측되는 픽셀 P(i,j)과 대응되는 제 1 참조 픽처의 제 1 참조 픽셀 값을 P0(i,j), 현재 블록(300)의 양방향 예측되는 픽셀 P(i,j)과 대응되는 제 2 참조 픽처의 제 2 참조 픽셀 값을 P1(i,j)이라고 정의한다.

다시 말해서, 제 1 참조 픽셀 값 P0(i, j)은 제 1 참조 픽처를 가리키는 양방향 움직임 벡터 MV1에 의하여 결정된 현재 블록(300)의 픽셀 P(i,j)에 대응되는 픽셀이며, 제 2 참조 픽셀의 픽셀 값 P1(i,j)은 제 2 참조 픽처를 가리키는 양방향 움직임 벡터 MV2에 의하여 결정된 현재 블록(300)의 픽셀 P(i,j)에 대응되는 픽셀이다.

또한, 제 1 참조 픽셀의 수평 방향의 그래디언트 값을 , 제 1 참조 픽셀의 수직 방향의 그래디언트 값을 , 제 2 참조 픽셀의 수평 방향의 그래디언트 값을 , 제 2 참조 픽셀의 수직 방향의 그래디언트 값을 라고 정의한다. 또한, 현재 블록(300)이 속하는 현재 픽처와 제 1 대응 영역(310)이 속하는 제 1 참조 픽처 사이의 시간적 거리를 τ₀, 현재 픽처와 제 2 대응 영역(320)이 속하는 제 2 참조 픽처 사이의 시간적 거리를 τ₁이라고 정의한다. 여기서 픽처 사이의 시간적 거리는 픽처들의 POC(Picture Order Count)의 차이를 의미할 수 있다.

비디오 시퀀스에서 일정한 작은 움직임이 있다고 가정하면, 픽셀 그룹 단위로 양방향 움직임 보상되는 현재 픽셀 P(i,j)과 가장 유사한 제 1 참조 픽처의 제 1 대응 영역(310)의 픽셀은 제 1 참조 픽셀 P0(i,j)가 아니라, 제 1 참조 픽셀 P0(i,j)를 소정의 변위 벡터만큼 이동시킨 제 1 변위 참조 픽셀 PA라고 가정한다. 전술한 바와 같이 비디오 시퀀스에서 일정한 움직임이 있다고 가정하였으므로, 제 2 참조 픽처의 제 2 대응 영역(320)에서 현재 픽셀 P(i,j)와 가장 유사한 픽셀은 제 2 참조 픽셀 P1(i,j)를 소정의 변위 벡터만큼 이동시킨 제 2 변위 참조 픽셀 PB라고 추정할 수 있다.

변위 벡터는 전술한 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy로 구성될 수 있다. 따라서, 픽셀 그룹 단위 움직임 보상부(165)는 이러한 변위 벡터를 구성하는 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy를 계산하고, 이를 이용하여 픽셀 그룹 단위로 움직임 보상한다.

옵티컬 플로우는 관찰자(눈 또는 카메라와 같은 비디오 영상 획득 장치) 및 장면(scene) 사이의 상대적인 움직임에 의하여 유발되는 객체, 표면의 외관상 움직임의 패턴(pattern of apprarent motion)을 의미한다. 비디오 시퀀스에서, 옵티컬 플로우는 임의의 시간 t 및 t+△t 에서 획득된 프레임 사이의 움직임을 계산함으로써 표현될 수 있다. 시간 t의 프레임(frame) 내 (x, y)에 위치한 픽셀 값은 I(x,y,t)라고 정의될 수 있다. 즉, I(x,y,t)는 시공간적으로 변화되는 값일 수 있다. I(x,y,t)를 시간 t에 관하여 미분하면 다음의 수학식 1과 같다.

만약, 블록 내의 작은 움직임 부분에 대해서 움직임에 의한 픽셀 값의 변화는 존재하지만, 시간에 따라서 픽셀 값이 변하지 않는다고 가정하면, dI/dt는 0이 된다. 또한, 시간에 따른 픽셀 값의 움직임이 일정하다고 가정하면, dx/dt를 픽셀 값 I(x,y,t)의 x축 방향의 변위 벡터 Vx, dy/dt를 픽셀 값 I(x,y,t)의 y축 방향의 변위 벡터 Vy라고 정의할 수 있고, 따라서, 수학식 1은 다음의 수학식 2와 같이 표현될 수 있다.

여기서, x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy의 크기는 양방향 움직임 예측에 이용된 픽셀 정확도(pixel accuracy)보다 작은 값인 것이 바람직하다. 예를 들어, 양방향 움직임 예측시 1/4 픽셀 정확도 또는 1/16 픽셀 정확도를 갖는다고 하였을 때, Vx 및 Vy의 크기는 1/4 또는 1/16보다 작은 값을 갖는 것이 바람직하다.

픽셀 그룹 단위 움직임 보상부(165)는 수학식 2에 따른 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy를 계산하고, 이러한 변위 벡터 Vx 및 Vy를 이용하여 픽셀 그룹 단위로 움직임 보상을 수행한다. 수학식 2에서 픽셀 값 I(x,y,t)는 원신호의 값이기 때문에 원신호의 값을 그대로 이용하는 것은 부호화시에 많은 오버헤드를 유발할 수 있다. 따라서, 픽셀 그룹 단위 움직임 보상부(165)는 블록 단위로 양방향 움직임 예측 결과 결정된 제 1 참조 픽처 및 제 2 참조 픽처의 픽셀들을 이용하여 수학식 2에 따른 변위 벡터 Vx 및 Vy를 계산할 수 있다. 즉, 픽셀 그룹 단위 움직임 보상부(165)는 양방향 움직임 보상되는 현재 픽셀 P(i,j)을 중심으로 주변의 픽셀들을 포함하는 소정 크기의 윈도우(Ωij) 내에서 Δ가 최소가 되도록 하는 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy를 결정한다. Δ가 0인 경우가 가장 바람직하지만, 윈도우(Ωij) 내의 모든 픽셀에 대해서 Δ가 0인 경우를 만족시키는 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy가 존재하지 않을 수 있기 때문에, Δ가 최소가 되도록 하는 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy가 결정된다. 변위 벡터 Vx 및 Vy를 구하는 과정은 도 8a을 참조하여 상세하게 설명하도록 한다.

현재 픽셀의 예측 픽셀 값을 결정하기 위해 다음 수학식 3과 같이 t에 대한 함수 P(t)가 결정될 수 있다.

이때, t=0에서의 픽처가 현재 블록이 포함된 현재 픽처라고 가정한다. 따라서, 현재 블록에 포함된 현재 픽셀의 예측 픽셀 값은 t가 0일 때의 P(t)의 값으로 정의될 수 있다.

제1 참조 픽처(제1 참조 픽처가 현재 픽처보다 시간적으로 앞선 위치에 있다고 가정)와 현재 픽처까지의 시간적 거리가 τ0 이고, 제2 참조 픽처(제2 참조 픽처가 현재 픽처보다 시간적으로 뒤쳐진 위치에 있다고 가정)와 현재 픽처까지의 시간적 거리가 τ1인 경우, 제1 참조 픽처에서의 참조 픽셀 값은 P(-τ0)와 동일하고, 제2 참조 픽처에서의 참조 픽셀 값은 P(τ1)와 동일하다. 이하에서는 계산의 편의를 위해 τ0과 τ1이 모두 τ로 동일하다고 가정한다.

P(t)의 각 차수의 계수들은 하기 수학식 4에 의해 결정될 수 있다. 여기서 P0(i,j)는 제1 참조 픽처의 (i,j) 위치에서의 픽셀 값을 의미하고, P1(i,j)는 제2 참조 픽처의 (i,j) 위치에서의 픽셀 값을 의미할 수 있다.

따라서, 현재 블록 내 현재 픽셀의 예측 픽셀 값 P(0)는 하기 수학식 5에 의해 결정될 수 있다.

수학식 5는 수학식 2를 고려할 때 하기 수학식 6으로 표현될 수 있다.

따라서, 현재 픽셀의 예측 픽셀 값은 변위 벡터 Vx, Vy, 제1 참조 픽셀의 수평 방향 및 수직 방향의 그래디언트 값, 및 제2 참조 픽셀의 수평 방향 및 수직 방향의 그래디언트 값을 이용하여 결정될 수 있다. 여기서 Vx, Vy와 관련 없는 부분(P0(i,j)+P1(i,j))/2)은 블록 단위의 움직임 보상값 부분이고, Vx, Vy와 관련 있는 항 부분은 픽셀 그룹 단위의 움직임 보상값 부분일 수 있다. 결과적으로 블록 단위의 움직임 보상값과 픽셀 그룹 단위의 움직임 보상값의 합에 의해 현재 픽셀의 예측 픽셀 값이 결정될 수 있다.

앞서 설명의 편의상 제1 참조 픽처와 현재 픽처까지의 시간적 거리가 τ이고, 제2 참조 픽처와 현재 픽처까지의 시간적 거리가 모두 τ로 동일한 경우에 현재 픽셀의 예측 픽셀 값을 결정하는 과정을 설명하였으나, 제1 참조 픽처와 현재 픽처까지의 시간적 거리는 τ₀이고, 제2 참조 픽처와 현재 픽처까지의 시간적 거리는 τ₁일 수 있다. 이때, 현재 픽셀의 예측 픽셀 값 P(0)는 하기 수학식 7과 같이 결정될 수 있다.

수학식 7은 수학식 2를 고려할 때 하기 수학식 8로 표현될 수 있다.

앞서 제1 참조 픽처는 디스플레이 순서상 현재 픽처보다 시간적으로 후에 위치하고, 제2 참조 픽처는 디스플레이 순서상 현재 픽처보다 시간적으로 전에 위치함을 가정하여 설명하였으나, 제1 참조 픽처 및 제2 참조 픽처 모두가 디스플레이 순서상 시간적으로 전에 위치하거나, 제1 참조 픽처 및 제2 참조 픽처 모두가 디스플레이 순서상 시간적으로 후에 위치할 수 있다.

예를 들어, 도 3b에서 도시된 바와 같이, 제1 대응 영역을 포함하는 제1 참조 픽처 및 제2 대응 영역을 포함하는 제2 참조 픽처 모두가 디스플레이 순서상 시간적으로 현재 블록을 포함하는 현재 픽처보다 전에 위치할 수 있다.

이 경우, 도 3a를 참조하여 유도된 수학식 8에서 제2 참조 픽처와 현재 픽처와의 시간적인 거리 차이를 나타내는 τ₁을 -τ₁으로 대체한 수학식 9에 의해, 현재 픽셀의 예측 픽셀 값 P(0)가 결정될 수 있다.

예를 들어, 도 3c에서 도시된 바와 같이, 제1 대응 영역을 포함하는 제1 참조 픽처 및 제2 대응 영역을 포함하는 제2 참조 픽처 모두가 디스플레이 순서상 시간적으로 현재 블록을 포함하는 현재 픽처보다 후에 위치할 수 있다.

이 경우, 도 3a를 참조하여 유도된 수학식 8에서 제1 참조 픽처와 현재 픽처와의 시간적인 거리 차이를 나타내는 τ₀을 -τ₀로 대체한 수학식 10에 의해, 현재 픽셀의 예측 픽셀 값이 결정될 수 있다.

다만, 도 3b 및 도 3c와 같이 제1 참조 픽처와 제2 참조 픽처 모두가 디스플레이 순서상 시간적으로 전에 위치하거나, 제1 참조 픽처와 제2 참조 픽처 모두가 디스플레이 순서상 시간적으로 후에 위치하는 경우에 픽셀 그룹 단위 움직임 보상은 제1 참조 픽처와 제2 참조 픽처가 동일한 참조 픽처가 아닌 경우에 수행될 수 있다. 또한, 이 경우, 픽셀 그룹 단위 움직임 보상은 양방향 움직임 벡터(MV1, MV2)가 모두 논-제로 성분(non-zero component)을 갖는 경우에만 수행될 수 있다. 또한, 이 경우, 픽셀 그룹 단위 움직임 보상은 움직임 벡터(MV1, MV2)의 비율(ratio)이 제1 참조 픽처와 현재 픽처 간 시간적인 거리와 제2 참조 픽처와 현재 픽처 간 시간적인 거리의 비율(ratio)과 동일한 경우에만 수행될 수 있다. 예를 들어, 움직임 벡터 MV1의 x성분과 움직임 벡터 MV2의 x 성분의 비율이 움직임 벡터 MV1의 y성분과 움직임 벡터 MV2의 y 성분의 비율과 동일하고, 이 비율이 제1 참조 픽처와 현재 픽처 간 시간적인 거리(τ₀)와 제2 참조 픽처와 현재 픽처 간 시간적인 거리(τ₁)의 비율(ratio)과 동일한 경우 픽셀 그룹 단위 움직임 보상이 수행될 수 있다.

도 4는 일 실시예에 따라서 수평 및 수직 방향의 그래디언트 값을 계산하는 과정을 설명하기 위한 참조도이다.

도 4를 참조하면, 제 1 참조 픽처의 제 1 참조 픽셀 P0(i,j)(410)의 수평 방향의 그래디언트 값 및 수직 방향의 그래디언트 값 는 제 1 참조 픽셀 P0(i,j)(410)과 수평 방향으로 인접한 주변 소수 픽셀 위치에서의 픽셀 값의 변화량과 수직 방향으로 인접한 주변 소수 픽셀 위치에서의 픽셀 값의 변화량을 구함으로써 계산될 수 있다. 즉, 다음의 수학식 11과 같이 P0(i,j)로부터 수평 방향으로 h(h는 1보다 작은 소수 값)만큼 떨어진 소수 픽셀 P0(i-h,j)(460) 및 소수 픽셀 P0(i+h,j)(470)의 픽셀 값의 변화량을 계산하여 수평 방향의 그래디언트 값 를 계산하고, 수직 방향으로 h만큼 떨어진 소수 픽셀 P0(i,j-h)(480) 및 소수 픽셀 P0(i, j+h)(490)의 픽셀 값의 변화량을 계산하여 수직 그래디언트 값 를 계산할 수 있다.

소수 픽셀 P0(i-h,j)(460), P0(i+h,j)(470), P0(i,j-h)(480) 및 P0(i, j+h)(490)의 값은 일반적인 보간 방식을 이용하여 계산될 수 있다. 또한, 다른 제 2 참조 픽처의 제 2 참조 픽셀의 수평 방향 및 수직 방향의 그래디언트 값 역시 수학식 11과 유사하게 계산될 수 있다.

일 실시예에 따르면 수학식 11과 같이 소수 픽셀 위치에서의 픽셀 값의 변화량을 계산하여 그래디언트 값을 계산하는 대신에 소정의 필터를 이용하여 각 참조 픽셀에서의 그래디언트 값을 계산할 수 있다. 소정의 필터의 필터 계수는 필터의 선형성을 고려하여 소수 픽셀 위치에서의 픽셀 값을 구하기 위해 이용되는 보간 필터의 계수로부터 결정될 수 있다.

도 5는 다른 실시예에 따라서 수평 및 수직 방향의 그래디언트 값을 계산하는 과정을 설명하기 위한 참조도이다.

다른 실시예에 따르면, 그래디언트 값은 참조 픽처의 픽셀들에 소정의 필터를 적용하여 결정될 수 있다. 도 5를 참조하면, 비디오 복호화 장치(100)는 현재 수평 그래디언트 값을 구하고자 하는 참조 픽셀 P0(500)을 중심으로 좌측으로 M_Max 개의 픽셀들(520) 및 우측으로 | M_Min |개의 픽셀들(510)에 소정의 필터를 적용하여 P0(500)의 수평 방향의 그래디언트 값을 계산할 수 있다. 이 때, 이용되는 필터 계수는 도7a 내지 7d에 도시된 바와 같이 윈도우 크기를 결정하는데 이용되는 M_Max 및 M_Min 정수 픽셀 사이의 보간 위치(소수 픽셀 위치; Fractional pel position)를 나타내는 α값에 따라서 결정될 수 있다. 일 예로, 도 7a를 참조하면 윈도우 크기를 결정하는 M_Min 은 -2이고, M_Max 는 3이며, 참조 픽셀 P0(500)으로부터 1/4만큼 떨어진, 즉 α=1/4인 경우에는 도 7a의 2번째 행의 필터 계수들 {4, -17. -36. 60, -15, 4}이 주변 픽셀 P_-2, P_-1, P₀, P₁, P₂, P₃에 적용된다. 이 경우, 참조 픽셀(500)의 수평 방향의 그래디언트 값 는 다음의 수학식; = 4*P_-2 - 17*P_-1 + -36*P₀ +60*P₁-15*P₂+4*P₃ + 32>>6 과 같이 필터 계수와 주변 픽셀을 이용한 가중합으로써 계산될 수 있다. 유사하게 수직 방향의 그래디언트 값 역시 윈도우 크기를 결정하는데 이용되는 M_Max 및 M_Min 값 및 보간 위치에 따라서 도 7a 내지 7e에 도시된 필터 계수들을 주변 픽셀에 적용함으로써 계산될 수 있다.

도 6a 내지 6b는 일 실시예에 따라 1차원 필터들을 이용하여 수평 방향 및 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.

도 6a를 참조하면, 참조 픽처에서 참조 픽셀의 수평 방향의 그래디언트 값을 결정하기 위해 정수 픽셀에 대해 복수의 1차원 필터를 이용하여 필터링이 수행될 수 있다. 픽셀 그룹 단위의 움직임 보상은 블록 단위의 움직임 보상 후에 수행되는 추가적인 움직임 보상이다. 따라서, 블록 단위의 움직임 보상 과정에서 움직임 벡터가 가리키는 현재 블록의 참조 블록들의 기준 위치는 소수 픽셀 위치일 수 있고, 소수 픽셀 위치의 참조 블록 내 참조 픽셀들에 대해 픽셀 그룹 단위의 움직임 보상이 수행될 수 있다. 따라서 소수 픽셀 위치의 픽셀의 그래디언트 값을 결정하는 것을 고려하여 필터링이 수행될 수 있다.

도 6a를 참조하면, 먼저 비디오 복호화 장치(100)는 참조 픽처 내에 참조 픽셀의 주변 정수 픽셀로부터 수평 또는 수직 방향으로 위치하는 픽셀들에 대해 제1 1차원 필터를 이용하여 필터링을 수행할 수 있다. 마찬가지로, 비디오 복호화 장치(100)는 참조 픽셀과 다른 행(row) 또는 열(column)에 위치하는 인접 정수 픽셀들에 대해 제1 1차원 필터를 이용하여 필터링을 수행할 수 있다. 비디오 복호화 장치는(100) 상기 필터링이 수행되어 생성된 값들에 대해 제2 1차원 필터를 이용하여 필터링을 수행함으로써 참조 픽셀의 수평 방향의 그래디언트 값을 생성할 수 있다.

예를 들어, 참조 픽셀의 위치가 (x+α, y+β)(x,y는 정수, α,β는 소수)의 소수 픽셀의 위치인 경우 수평 방향의 정수 픽셀들 (x,y) 및 (x-1,y), (x+1, y), ... (x+M_Min,y),(x+M_Max,y)(M_Min, M_Mmax 는 모두 정수)에 대해 1차원 수직 보간 필터를 이용하여 다음 수학식 12와 같이 필터링이 수행될 수 있다.

이때, fracFilter_β는 수직 방향의 소수 픽셀 위치 β에서의 픽셀 값을 결정하기 위한 보간 필터(interpolation filter)이고, fracFilter_β[j']는 (i,j') 위치의 픽셀에 적용되는 보간 필터의 계수를 의미할 수 있다. I[i,j']는 (i,j') 위치의 픽셀 값을 의미할 수 있다.

즉 제1 1차원 필터는 수직 방향의 소수 픽셀 값을 결정하기 위한 보간 필터일 수 있다. offset₁은 반올림 에러를 방지하기 위한 오프셋이고, shift₁은 역-스케일링 비트 수를 의미할 수 있다. Temp[i,j+β]는 소수 픽셀 위치 (i,j+β)에서의 픽셀 값을 의미할 수 있다. Temp[i',j+β](i'는 i를 제외한 i+M_min으로부터_, i+M_max 까지의 정수)도 i를 i'로 대체하여 수학식 12에 의해 결정될 수 있다.

그 다음 비디오 복호화 장치(100)는 소수 픽셀 위치 (i,j+β)에서의 픽셀 값 및 소수 픽셀 위치 (i', j+β)에서의 픽셀 값에 대해 제2 1차원 필터를 이용하여 필터링을 수행할 수 있다.

이때, gradFilter_α는 수평 방향의 소수 픽셀 위치 α에서의 그래디언트 값을 결정하기 위한 그래디언트 필터일 수 있다. gradFilter_α[i']는 (i',j+β) 위치의 픽셀에 적용되는 보간 필터의 계수를 의미할 수 있다. 즉 제2 1차원 필터는 수평 방향의 그래디언트 값을 결정하기 위한 그래디언트 필터일 수 있다. offset₂는 반올림 에러를 방지하기 위한 오프셋이고, shift₂는 역-스케일링 비트 수를 의미할 수 있다.

즉, 수학식 13에 의하면, 비디오 복호화 장치(100)는 (i, j+β)에서의 픽셀 값(Temp[i,j+β])과 픽셀 위치 (i,j+ β)에서 수직 방향으로 위치하는 픽셀 값 (Temp[i',j+β])에 대해 그래디언트 필터(gradFilter_α)를 이용하여 필터링을 수행함으로써, (i+α,j+β)에서의 수평 방향의 그래디언트 값()을 결정할 수 있다.

앞서 보간 필터를 먼저 적용하고, 이후에 그래디언트 필터를 적용하여 수평 방향의 그래디언트 값을 결정하는 내용에 대해 설명하였으나, 이에 제한되지 않고, 먼저 그래디언트 필터를 적용하고, 이후에 보간 필터를 적용하여 수평 방향의 그래디언트 값이 결정될 수 있다. 이하에서는 그래디언트 필터를 적용하고, 이후에 보간 필터를 적용하여 수평 방향의 그래디언트 값이 결정되는 실시예에 대해서 설명하도록 한다.

예를 들어, 참조 픽셀의 위치가 (x+α, y+β)(x,y는 정수, α,β는 소수)의 소수 픽셀의 위치인 경우 수평 방향의 정수 픽셀들 (x,y) 및 (x-1,y), (x+1, y), … (x+M_Min,y),(x+M_Max,y)(M_Min, M_Mmax 는 모두 정수)에 대해 제1 1차원 필터를 이용하여 다음 수학식 14와 같이 필터링이 수행될 수 있다.

이때, gradFilter_α는 수평 방향의 소수 픽셀 위치 α에서의 그래디언트 값을 결정하기 위한 그래디언트 필터이고, gradFilter_α[i']는 (i',j) 위치의 픽셀에 적용되는 그래디언트 필터의 계수를 의미할 수 있다. I[i',j]는 (i',j) 위치의 픽셀 값을 의미할 수 있다.

즉, 제1 1차원 필터는 픽셀 위치의 수평 성분이 소수인 위치의 픽셀의 수평 방향의 그래디언트 값을 결정하기 위한 보간 필터일 수 있다. offset₃은 반올림 에러를 방지하기 위한 오프셋이고, shift₃은 역-스케일링 비트 수를 의미할 수 있다. Temp[i+α,j]는 픽셀 위치 (i+α,j)에서의 수평 방향의 그래디언트 값을 의미할 수 있다. Temp[i+α,j'](j'는 i를 제외한 j+M_min으로부터_{, j}+M_max 까지의 정수)도 j를 j'로 대체하여 수학식 14에 의해 결정될 수 있다.

그 다음 비디오 복호화 장치(100)는 픽셀 위치 (i+α,j)에서의 수평 방향의 그래디언트 값 및 픽셀 위치 (i+α,j')에서의 수평 방향의 그래디언트 값에 대해 제2 1차원 필터를 이용하여 다음 수학식 15와 같이 필터링을 수행할 수 있다.

이때, fracFilter_β는 수직 방향의 소수 픽셀 위치 β에서의 픽셀 값을 결정하기 위한 보간 필터일 수 있다. fracFilter_β [j']는 (i+β, j') 위치의 픽셀에 적용되는 보간 필터의 계수를 의미할 수 있다. 즉 제2 1차원 필터는 수직 방향의 소수 픽셀 위치 β에서의 픽셀 값을 결정하기 위한 보간 필터일 수 있다. offset₄는 반올림 에러를 방지하기 위한 오프셋이고, shift₄는 역-스케일링 비트 수를 의미할 수 있다.

즉, 수학식 15에 의하면, 비디오 복호화 장치(100)는 (i+α, j)에서의 수평 방향의 그래디언트 값(Temp[i+α,j])과 픽셀 위치 (i+α, j)에서 수직 방향으로 위치하는 픽셀들의 수평 방향의 그래디언트 값 (Temp[i+α,j'])에 대해 그래디언트 필터(fracFilter_β)를 이용하여 필터링을 수행함으로써, (i+α,j+β)에서의 수평 방향의 그래디언트 값()을 결정할 수 있다.

도 6b를 참조하면, 참조 픽처에서 참조 픽셀의 수직 방향의 그래디언트 값을 결정하기 위해 정수 픽셀에 대해 복수의 1차원 필터를 이용하여 필터링이 수행될 수 있다. 픽셀 그룹 단위의 움직임 보상은 블록 단위의 움직임 보상 후에 수행되는 추가적인 움직임 보상이다. 따라서, 블록 단위의 움직임 보상 과정에서 움직임 벡터가 가리키는 현재 블록의 참조 블록들의 기준 위치는 소수 픽셀 위치일 수 있고, 소수 픽셀 위치의 참조 블록 내 참조 픽셀들에 대해 픽셀 그룹 단위의 움직임 보상이 수행될 수 있다. 따라서 소수 픽셀 위치의 픽셀의 그래디언트 값을 결정하는 것을 고려하여 필터링이 수행될 수 있다.

도 6b를 참조하면, 먼저 비디오 복호화 장치(100)는 참조 픽처 내에 참조 픽셀의 주변 정수 픽셀로부터 수평 또는 수직 방향으로 위치하는 픽셀들에 대해 제1 1차원 필터를 이용하여 필터링을 수행할 수 있다. 마찬가지로, 비디오 복호화 장치(100)는 참조 픽셀과 다른 열(column) 또는 행(row)에 위치하는 인접 픽셀들에 대해 제1 1차원 필터를 이용하여 필터링을 수행할 수 있다. 비디오 복호화 장치(100)는 상기 필터링이 수행되어 생성된 값들에 대해 제2 1차원 필터를 이용하여 필터링을 수행함으로써 참조 픽셀의 수직 방향의 그래디언트 값을 생성할 수 있다.

예를 들어, 참조 픽셀의 위치가 (x+α, y+β)(x,y는 정수, α,β는 소수)의 소수 픽셀의 위치인 경우 수평 방향의 정수 픽셀들 (x,y) 및 (x-1,y-1), (x+1, y+1), … (x+M_Min,y+M_Min),(x+M_Max,y+M_max)(M_Min, M_Mmax 는 모두 정수)에 대해 제1 1차원 필터를 이용하여 다음 수학식 16과 같이 필터링이 수행될 수 있다.

이때, fracFilter_α는 수평 방향의 소수 픽셀 위치 α에서의 픽셀 값을 결정하기 위한 보간 필터(interpolation filter)이고, fracFilter_α [i']는 (i',j) 위치의 픽셀에 적용되는 보간 필터의 계수를 의미할 수 있다. I[i',j]는 (i',j) 위치의 픽셀 값을 의미할 수 있다.

즉, 제1 1차원 필터는 수평 방향의 소수 픽셀 위치 α에서의 픽셀 값을 결정하기 위한 보간 필터일 수 있다. offset₅는 반올림 에러를 방지하기 위한 오프셋이고, shift₅는 역-스케일링 비트 수를 의미할 수 있다.

Temp[i+α, j]는 소수 픽셀 위치 (i+α,j)에서의 픽셀 값을 의미할 수 있다. Temp[i+α, j'] (j'는 j를 제외한 j+M_min으로부터_, j+M_max 까지의 정수)도 j를 j'로 대체하여 수학식 16에 의해 결정될 수 있다.

그 다음 비디오 복호화 장치(100)는 픽셀 위치 (i+α,j)에서의 픽셀 값 및 픽셀 위치 (i+α,j')에서의 픽셀 값에 대해 제2 1차원 필터를 이용하여 다음 수학식 17과 같이 필터링을 수행할 수 있다.

이때, gradFilter_β는 수직 방향의 소수 픽셀 위치 β에서의 수직 방향의 그래디언트 값을 결정하기 위한 그래디언트 필터일 수 있다. gradFilter_β[j']는 (i+α,j') 위치의 픽셀에 적용되는 보간 필터의 계수를 의미할 수 있다. 즉, 제2 1차원 필터는 수직 방향의 소수 픽셀 위치 β에서 수직 방향의 그래디언트 값을 결정하기 위한 그래디언트 필터일 수 있다. offset₆은 반올림 에러를 방지하기 위한 오프셋이고, shift₆은 역-스케일링 비트 수를 의미할 수 있다.

즉, 수학식 17에 의하면, 비디오 복호화 장치(100)는 (i+α,j)에서의 픽셀 값(Temp[i+α,j])과 픽셀 위치 (i+α,j)에서 수직 방향으로 위치하는 픽셀 값 (Temp[i+α,j'])에 대해 그래디언트 필터(gradFilter_β)를 이용하여 필터링을 수행함으로써, (i+α,j+β)에서의 수직 방향의 그래디언트 값()을 결정할 수 있다.

앞서 보간 필터를 먼저 적용하고, 이후에 그래디언트 필터를 적용하여 수직 방향의 그래디언트 값을 결정하는 내용에 대해 설명하였으나, 이에 제한되지 않고, 먼저 그래디언트 필터를 적용하고, 이후에 보간 필터를 적용하여 수평 방향의 그래디언트 값이 결정될 수 있다. 이하에서는 그래디언트 필터를 적용하고, 이후에 보간 필터를 적용하여 수직 방향의 그래디언트 값이 결정되는 실시예에 대해서 설명하도록 한다.

예를 들어, 참조 픽셀의 위치가 (x+α, y+β)(x, y는 정수, α, β는 소수)의 소수 픽셀의 위치인 경우 수직 방향의 정수 픽셀들 (x,y) 및 (x,y-1), (x, y+1), … (x,y+M_Min),(x,y+M_max)(M_Min, M_Mmax 는 모두 정수)에 대해 제1 1차원 필터를 이용하여 다음 수학식 18과 같이 필터링이 수행될 수 있다.

이때, gradFilter_β는 수직 방향의 소수 픽셀 위치 β에서의 그래디언트 값을 결정하기 위한 그래디언트 필터이고, gradFilter_β[j']는 (i,j') 위치의 픽셀에 적용되는 그래디언트 필터의 계수를 의미할 수 있다. I[i,j']는 (i,j') 위치의 픽셀 값을 의미할 수 있다.

즉, 제1 1차원 필터는 픽셀 위치의 수직 성분이 소수인 위치의 픽셀의 수직 방향의 그래디언트 값을 결정하기 위한 보간 필터일 수 있다. offset₇은 반올림 에러를 방지하기 위한 오프셋이고, shift₇은 역-스케일링 비트 수를 의미할 수 있다.

Temp[i,j+β]는 픽셀 위치 (i,j+β)에서의 수직 방향의 그래디언트 값을 의미할 수 있다. Temp[i',j+β](i'는 i를 제외한 i+M_min으로부터_{, i}+M_max 까지의 정수)도 i를 i'로 대체하여 수학식 18에 의해 결정될 수 있다.

그 다음 비디오 복호화 장치(100)는 픽셀 위치 (i, j+β)에서의 수직 방향의 그래디언트 값 및 픽셀 위치 (i',j+β)에서의 수직 방향의 그래디언트 값에 대해 제2 1차원 필터를 이용하여 다음 수학식 19와 같이 필터링을 수행할 수 있다.

이때, fracFilter_α는 수평 방향의 소수 픽셀 위치 α에서의 픽셀 값을 결정하기 위한 보간 필터일 수 있다. fracFilter_α[i']는 (i',j+β) 위치의 픽셀에 적용되는 보간 필터의 계수를 의미할 수 있다. 즉 제2 1차원 필터는 수평 방향의 소수 픽셀 위치 α에서의 픽셀 값을 결정하기 위한 보간 필터일 수 있다. offset₈은 반올림 에러를 방지하기 위한 오프셋이고, shift₈은 역-스케일링 비트 수를 의미할 수 있다.

즉, 수학식 19에 의하면, 비디오 복호화 장치(100)는 (i, j+β)에서의 수직 방향의 그래디언트 값(Temp[i,j+β])과 픽셀 위치 (i, j+β)에서 수평 방향으로 위치하는 픽셀들의 수직 방향의 그래디언트 값 (Temp[i', j+β)])에 대해 보간 필터(fracFilter_α)를 이용하여 필터링을 수행함으로써, (i+α,j+β)에서의 수직 방향의 그래디언트 값()을 결정할 수 있다.

일 실시예에 의하면, 비디오 복호화 장치(100)는 (i+α, j+β)에서의 수평 방향 및 수직 방향의 그래디언트 값은 앞서 설명된 다양한 필터들의 조합에 의해 결정될 수 있다. 예를 들어, 수평 방향의 그래디언트 값을 결정하기 위해, 제1 1차원 필터로 수직 방향의 픽셀 값을 결정하기 위한 보간 필터가 이용될 수 있고, 제2 1차원 필터로 수평 방향의 그래디언트 값을 위한 그래디언트 필터가 이용될 수 있다. 수직 방향의 그래디언트 값을 결정하기 위해 제1 1차원 필터로 수직 방향의 그래디언트 값을 결정하기 위한 그래디언트 필터가 이용될 수 있고, 제2 1차원 필터로 수평 방향의 픽셀 값을 결정하기 위한 보간 필터가 이용될 수 있다.

도 7a 내지 7e는 일 실시예에 따라 소수 픽셀 단위의 소수 픽셀 위치에서의 픽셀 값 및 수평 방향 및 수직 방향의 그래디언트 값을 결정하기 위해 이용되는 필터들의 필터 계수를 나타낸 표이다.

도 7a 내지 7b는 1/4펠(pel; pixel element) 단위의 소수 픽셀 위치에서의 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위한 필터들의 필터 계수를 나타낸 표이다.

앞서 언급한 바와 같이, 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 1차원 그래디언트 필터 및 1차원 보간 필터가 이용될 수 있다. 도 7a를 참조하면, 1차원 그래디언트 필터의 필터 계수가 도시되어 있다. 이때, 그래디언트 필터는 6-탭의 필터가 이용될 수 있다. 그래디언트의 필터 계수들은 2^4만큼 스케일링된 계수일 수 있다. Mmin는 중심 정수 픽셀을 기준으로 필터에 적용되는 음수 방향의 정수 픽셀들 중 제일 먼 픽셀의 위치와 중심 정수 픽셀의 위치 간의 차이를 의미하고, Mmax는 중심 정수 픽셀을 기준으로 필터에 적용되는 양수 방향의 정수 픽셀들 중 제일 먼 픽셀의 위치와 중심 정수 픽셀의 위치 간의 차이를 의미한다. 예를 들어, 수평 방향으로 소수 픽셀 위치 α=1/4인 픽셀의 수평 방향의 그래디언트 값을 구하기 위한 그래디언트 필터 계수는 {4,-17,-36,60,-15,-4}일 수 있다. 수평 방향으로 소수 픽셀 위치 α=0, 1/2, 3/4인 픽셀의 수평 방향의 그래디언트 값을 구하기 위한 그래디언트 필터 계수도 도 7a를 참조하여 결정될 수 있다.

도 7b를 참조하면, 1차원 보간 필터의 필터 계수가 도시되어 있다. 이때, 보간 필터는 6-탭의 필터가 이용될 수 있다. 보간 필터의 필터 계수들은 2^6만큼 스케일링된 계수일 수 있다 Mmin는 중심 정수 픽셀을 기준으로 필터에 적용되는 음수 방향의 정수 픽셀들 중 제일 먼 픽셀의 위치와 중심 정수 픽셀의 위치 간의 차이를 의미하고, Mmax는 중심 정수 픽셀을 기준으로 필터에 적용되는 양수 방향의 정수 픽셀들 중 제일 먼 픽셀의 위치와 중심 정수 픽셀의 위치 간의 차이를 의미한다.

도 7c는 1/4펠 단위의 소수 픽셀 위치에서의 픽셀 값을 결정하기 위해 이용되는 1차원 보간 필터의 필터 계수를 나타낸 표이다.

앞서 언급한 바와 같이, 소수 픽셀 위치에서의 픽셀 값을 결정하기 위해 동일한 2개의 1차원 보간 필터가 수평 방향 및 수직 방향으로 이용될 수 있다.

도 7c를 참조하면, 1차원 보간 필터의 필터 계수가 도시되어 있다. 이때, 1차원 보간 필터는 6-탭의 필터일 수 있다. 그래디언트의 필터 계수들은 2^6만큼 스케일링된 계수일 수 있다. Mmin는 중심 정수 픽셀을 기준으로 필터에 적용되는 음수 방향의 정수 픽셀들 중 제일 먼 픽셀의 위치와 중심 정수 픽셀의 위치 간의 차이를 의미하고, Mmax는 중심 정수 픽셀을 기준으로 필터에 적용되는 양수 방향의 정수 픽셀들 중 제일 먼 픽셀의 위치와 중심 정수 픽셀의 위치 간의 차이를 의미한다.

도 7d는 1/16펠 단위의 소수 픽셀 위치에서의 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 이용되는 필터들의 필터 계수를 나타낸 표이다.

앞서 언급한 바와 같이, 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 1차원 그래디언트 필터 및 1차원 보간 필터가 이용될 수 있다. 도 7d를 참조하면, 1차원 그래디언트 필터의 필터 계수가 도시되어 있다. 이때, 그래디언트 필터는 6-탭의 필터가 이용될 수 있다. 그래디언트의 필터 계수들은 2^4만큼 스케일링된 계수일 수 있다. 예를 들어, 수평 방향으로 소수 픽셀 위치 α가 1/16인 픽셀의 수평 방향의 그래디언트 값을 구하기 위한 그래디언트 필터 계수는 {8, -32, -13, 50, -18, 5}일 수 있다. 수평 방향으로 소수 픽셀 위치 α가 0, 1/8, 3/16, 1/4, 5/16, 3/8, 7/16, 1/2인 픽셀의 수평 방향의 그래디언트 값을 구하기 위한 그래디언트 필터 계수도 도 7d를 이용하여 결정될 수 있다. 한편, 소수 픽셀 위치 α가 9/16, 5/8, 11/16, 3/4, 13/16, 7/8, 15/16인 픽셀의 수평 방향의 그래디언트 값을 구하기 위한 그래디언트 필터 계수는 α=1/2 기준으로 필터 계수의 대칭성을 이용하여 결정될 수 있다. 즉, 도 7d에 개시된 α=1/2 기준으로 좌측의 소수 픽셀 위치의 필터 계수들을 이용하여 나머지 α=1/2 기준으로 우측의 소수 픽셀 위치의 필터 계수가 결정될 수 있다. 예를 들어, α=15/16에서의 필터 계수는 α=1/2 기준으로 대칭인 위치인 α=1/16의 필터 계수 {8, -32, -13, 50, -18, 5}를 이용하여 결정될 수 있다. 즉, α=15/16에서의 필터 계수는 필터 계수 {8, -32, -13, 50, -18, 5}를 역순으로 배열하여 {5,-18,50,-13,-32,8}로 결정될 수 있다.

도 7e를 참조하면, 1차원 보간 필터의 필터 계수가 도시되어 있다. 이때, 보간 필터는 6-탭의 필터가 이용될 수 있다. 보간 필터의 필터 계수들은 2^6만큼 스케일링된 계수일 수 있다. 예를 들어, 수평 방향으로 소수 픽셀 위치 α가 1/16인 픽셀의 수평 방향의 픽셀 값을 구하기 위한 1차원 보간 필터 계수는 {1, -3,64,4, -2,0}일 수 있다. 수평 방향으로 소수 픽셀 위치 α=0, 1/8, 3/16, 1/4, 5/16, 3/8, 7/16, 1/2인 픽셀의 수평 방향의 픽셀 값을 구하기 위한 보간 필터 계수도 도 7e를 이용하여 결정될 수 있다. 한편, 수평 방향으로 소수 픽셀 위치α가 9/16, 5/8, 11/16, 3/4, 13/16, 7/8, 15/16인 픽셀의 수평 방향의 픽셀 값을 구하기 위한 보간 필터 계수는 α=1/2 기준으로 필터 계수의 대칭성을 이용하여 결정될 수 있다. 즉, 도 7e에 개시된 α=1/2 기준으로 좌측의 소수 픽셀 위치의 필터 계수들을 이용하여 나머지 α=1/2 기준으로 우측의 소수 픽셀 위치의 필터 계수가 결정될 수 있다. 예를 들어, α=15/16에서의 필터 계수는 α=1/2 기준으로 대칭되는 위치인 α=1/16의 필터 계수 {1,-3,64,4,-2,0}를 이용하여 결정될 수 있다. 즉, α=15/16에서의 필터 계수는 필터 계수 {1, -3,64,4,-2,0}를 역순으로 배열하여 {0,-2,4,64,-3,1}로 결정될 수 있다.

도 8a는 일 실시예에 따라서 픽셀에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.

도 8a를 참조하면, 소정 크기의 윈도우(Ωij)(800)는 현재 블록에서 양방향 예측되는 픽셀 P(i,j)을 중심으로 한 (2M+1)*(2N+1)(M, N은 정수)의 크기를 갖는다.

윈도우 내의 양방향 예측되는 현재 블록의 픽셀을 P(i',j')( i-M≤i'≤i+M 이고, j-N≤j'≤j+N인 경우 (i',j')∈Ωij), 현재 블록의 양방향 예측되는 픽셀 P(i',j')과 대응되는 제 1 참조 픽처(810)의 제 1 참조 픽셀의 픽셀 값을 P0(i',j'), 현재 블록의 양방향 예측되는 픽셀 P(i',j')과 대응되는 제 2 참조 픽처(820)의 제 2 참조 픽셀의 픽셀 값을 P1(i',j'), 제 1 참조 픽셀의 수평 방향의 그래디언트 값을, 수직 방향의 그래디언트 값을, 제 2 참조 픽셀의 수평 방향의 그래디언트 값을 , 수직 방향의 그래디언트 값을 라고 하면, 제 1 변위 대응 픽셀 PA' 및 제2 변위 대응 픽셀 PB'는 다음 수학식 20과 같이 결정될 수 있다. 이때, PA' 및 PB'는 로컬 테일러 익스팬션(Local Taylor Expansion)의 1차 선형 텀(first linear term)을 이용하여 결정될 수 있다.

수학식 20에서, x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy는 현재 픽셀 P(i,j)의 위치에 따라서 변화될 수 있기 때문에, 즉 (i,j)에 종속적이므로 Vx(i,j), Vy(i,j)와 같이 표현될 수 있다.

제 1 변위 대응 픽셀 PA'와 제 2 변위 대응 픽셀 PB'의 차이값 △i'j'은 다음 수학식 21과 같이 결정될 수 있다.

제 1 변위 대응 픽셀 PA'와 제 2 변위 대응 픽셀 PB'의 차이값 △i'j'이 최소가 되도록 하는 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy는, 다음의 수학식 22과 같이 차이값 △i'j'의 제곱합인 Φ(Vx,Vy)를 이용하여 결정될 수 있다.

즉, Φ(Vx,Vy)의 극대값 또는 극소값을 이용하여 결정될 수 있다. Φ(Vx,Vy)은 Vx, Vy를 매개변수로 하는 함수로써, 극대값 또는 극소값은 다음의 수학식 23에 의해 τVx 및 τVy 에 대해 정리된 Φ(Vx,Vy)을 τVx 및 τVy 에 대하여 편미분하여 0이 되는 값을 계산함으로써 결정될 수 있다. 이하에서는, 계산의 편의상 τ0와 τ1이 τ로 동일하다고 가정한다.

수학식: 및 수학식: 을 이용하여 다음 수학식 24과 같이 Vx(i,j) 및 Vy(i,j)를 변수로 하는 2개의 선형 방정식을 획득할 수 있다.

수학식 24에서 s1 내지 s6는 다음의 수학식 25와 같다.

수학식 24의 연립 방정식을 풀면 크레이머 공식(kramer's formulas)에 따라서 τ*Vx(i,j)=-det1/det, τ*Vy(i,j)=-det2/det와 같이 Vx(i,j) 및 Vy(i,j)의 값을 풀 수 있다. 여기서, det1=s3*s5-s2*s6, det2=s1*s6-s3*s4, det=s1*s5-s2*s2이다.

수평 방향에서 처음 최소화(minimization)을 수행하고, 이후에 수직 방향으로 최소화를 하여 상기 수학식들의 간단한 해(simplified solution)가 결정될 수 있다. 즉, 예를 들어, 수평 방향의 변위 벡터만 변화한다고 가정하면, 수학식 24의 첫번째 수학식에서 Vy=0으로 가정할 수 있고, 따라서 수학식;τVx=s3/s1로 결정될 수 있다.

그러고 나서 수학식 24의 두번째 수학식을 수학식;τVx=s3/s1를 이용하여 정리하면 수학식;τVy=(s6-τVx*S2)/s5로 결정될 수 있다.

여기서, 그래디언트 값 , , , 는 결과값인 Vx(i,j)와 Vy(i,j)를 변화시키지 않고, 스케일링될 수 있다. 다만, 오버 플로우가 발생하지 않고, 반올림 오류가 발생하지 않는 경우를 전제로 한다.

Vx(i,j) 및 Vy(i,j)를 구하는 과정에서 0 또는 매우 작은 값에 의해 나눗셈 연산이 수행되는 것을 방지하기 위해 조절 파라메터 r 및 m이 도입될 수 있다.

편의상 Vx(i,j) 및 Vy(i,j)가 도 3a에 도시된 방향과 반대임을 가정한다. 예를 들어, 도 3a에 도시된 Vx(i,j) 및 Vy(i,j)의 방향에 기초하여 수학식 24에 의해 도출된 Vx(i,j) 및 Vy(i,j)는 도 3a의 방향과 반대로 결정된 Vx(i,j) 및 Vy(i,j)와 서로 그 값에 부호 차이만 있을뿐 크기가 동일할 수 있다.

제 1 변위 대응 픽셀 PA' 및 제2 변위 대응 픽셀 PB'는 다음 수학식 26과 같이 결정될 수 있다. 이때, PA' 및 PB'는 로컬 테일러 익스팬션(Local Taylor Expansion)의 1차 선형 텀(first linear term)을 이용하여 결정될 수 있다.

제 1 변위 대응 픽셀 PA'와 제 2 변위 대응 픽셀 PB'의 차이값 △i'j'는 다음 수학식 27과 같이 결정될 수 있다.

제 1 변위 대응 픽셀 PA'와 제 2 변위 대응 픽셀 PB'의 차이값 △i'j'가 최소가 되도록 하는 x축 방향의 변위 벡터 Vx, y축 방향의 변위 벡터 Vy는, 다음 수학식 28과 같이 차이값 △의 제곱합인 Φ(Vx,Vy)을 이용하여 결정될 수 있다. 즉, 수학식 29과 같이 Φ(Vx,Vy)가 최소인 경우의 Vx,Vy로 결정될 수 있고, 이는 Φ(Vx,Vy)의 극대값 또는 극소값을 이용하여 결정될 수 있다.

Φ(Vx,Vy)은 Vx, Vy를 매개변수로 하는 함수로써, 극대값 또는 극소값은 다음 수학식 30과 같이 Φ(Vx,Vy)을 Vx 및 Vy에 대하여 편미분하여 0이 되는 값을 계산함으로써 결정될 수 있다.

즉, Vx, Vy는 Φ(Vx,Vy)값을 최소로 하는 Vx 및 Vy로 결정될 수 있다. 상기 최적화 문제를 해결하기 위해 먼저 수직 방향으로 최소화가 이루어지고, 그리고 나서 수평 방향으로 최소화가 이루어질 수 있다. 상기 최소화에 따라, Vx는 다음 수학식 31과 같이 결정될 수 있다.

여기서 clip3(x, y, z)함수는 z<x이면 x이고, z>y이면 y이고, x<z<y이면 z를 출력하는 함수이다. 수학식 31에 의하면 s1+r>m인 경우, Vx는 clip3(-thBIO,thBIO,-s3/(s1+r))이고, s1+r>m이 아닌 경우, Vx는 0일 수 있다.

상기 최소화에 따라, Vy는 다음 수학식 32와 같이 결정될 수 있다.

여기서 clip3(x, y, z)함수는 z<x이면 x이고, z>y이면 y이고, x<z<y이면 z를 출력하는 함수이다. 수학식 32에 의하면 s5+r>m인 경우, Vy는 clip3(-thBIO,thBIO,-(s6-Vx*s2)/2/(s5+r)이고, s5+r>m이 아닌 경우, Vy는 0일 수 있다.

이때 s1, s2, s3 및 s5는 하기 수학식 33과 같이 결정될 수 있다. s4는 s2와 동일한 값을 가질 수 있다.

앞서 설명한 바와 같이 r과 m은 나눗셈 연산 결과 값이 0이나 그것보다 작은 값이 되는 것을 피하기 위해 도입된 조절 파라메터들로 입력 비디오의 내부 비트 뎁스 d에 기초하여 다음 수학식 34과 같이 결정될 수 있다. 즉, 조절 파라메터 m은 최소 허용되는 분모의 값(minimum allowed denominator)이고, 조절 파라메터 r은 0의 그래디언드 값을 갖는 경우 분모를 0으로 하여 나눗셈하는 것을 방지하기 위해 도입된 조절 파라메터일 수 있다.

Vx 및 Vy는 ±thBIO의 상한 및 하한을 가질 수 있다. 그 이유는 노이즈나 불규칙적인 움직임 때문에 픽셀 그룹 단위의 움직임 보상을 신뢰할 수 없는 경우가 있기 때문에 Vx 및 Vy는 특정 임계값 thBIO에 의해 클리핑될 수 있다. 조절 파라메터 thBIO는 모든 참조 픽처의 방향이 동일한 방향인지 여부에 기초하여 결정될 수 있다. 예를 들어, 모든 참조 픽처의 방향이 동일한 방향인 경우, 조절 파라메터 thBIO는 12^(d-8-1) 또는 12*2^(14-d) 으로 결정될 수 있다. 만약에 모든 참조 픽처의 방향이 서로 다른 방향인 경우, thBIO는 12^(d-8-1)/2 또는 12*2^(13-d) 으로 결정될 수 있다.

다만 이에 제한되지 않고, 조절 파라메터 r,m 및 thBIO는 비트스트림으로부터 획득된 조절 파라메터들에 관한 정보에 기초하여 그 값이 결정될 수 있다. 이때, 조절 파라메터들에 관한 정보는 슬라이스 헤더, 픽처 파라메터 셋, 시퀀스 파라메터 셋, 다양한 형태의 하이 레벨 신택스 캐리어에 포함될 수 있다.

또한, 시간적으로 다른 양방향 예측의 이용가능여부에 따라, 조절 파라메터가 결정될 수 있다. 예를 들어, 시간적으로 다른 양방향 예측이 이용가능한 경우의 thBIO_diff가 시간적으로 서로 같은 양방향 예측이 이용가능한 경우 thBIO_same보다 크고, thBIO_diff의 크기는 thBIO_same 크기의 2배일 수 있다.

도 8b는 일 실시예에 따라서 픽셀 그룹 에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.

도 8b를 참조하면, 소정 크기의 윈도우(Ωij)(810)는 현재 블록에서 양방향 예측되는 픽셀이 아닌 복수의 픽셀의 KxK 크기의 픽셀 그룹(820)을 중심으로 하여 (2M+K+1)*(2N+K+1)(M, N은 정수)의 크기를 갖는다.

이때, 도 8a와 다른 점은 윈도우의 크기가 커진다는 점이고, 이를 제외하고는 동일한 방식으로 픽셀 그룹에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정할 수 있다.

도 8c는 일 실시예에 따라 픽셀에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.

도 8c를 참조하면, 비디오 복호화 장치(100)는 픽셀들(830) 각각에 관하여 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정할 수 있다. 따라서 픽셀들(830) 각각의 단위시간당 변위 벡터(835)를 결정할 수 있다. 이때, 픽셀들(830) 각각의 변위 벡터(835)의 수평 방향 변위 벡터 Vx[i,j] 및 수직 방향 변위 벡터 Vy[i,j]는 하기 수학식 35에 의해 결정될 수 있다. 여기서 i,j는 픽셀의 좌표 x 성분, y성분을 의미할 수 있다. 여기서, σ1[i,j], σ2[i,j] σ3[i,j], σ5 [i,j] 및 σ6 [i,j]는 각각 수학식 33의 s1, s2, s3, s5 및 s6일 수 있다.

도 8d는 일 실시예에 따라 픽셀 그룹에 대한 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 참조도이다.

도 8d를 참조하면, 비디오 복호화 장치(100)는 픽셀 그룹(840) 각각에 포함된 픽셀들 각각에 대해σ1[i,j], σ2[i,j] σ3[i,j], σ5 [i,j] 및 σ6 [i,j]를 상기 수학식 35와 같이 결정할 수 있다.

비디오 복호화 장치(100)는 픽셀 그룹(840)에 관한 수평 방향 변위 벡터 Vx[i,j]를 픽셀들의 σ1[i,j] 및 σ3[i,j]를 이용하여 다음 수학식 36과 같이 결정할 수 있다. 여기서 i,j는 픽셀 그룹의 좌측 상단 좌표의 x성분, y성분을 의미할 수 있다.

비디오 복호화 장치(100)는 수평 방향 변위 벡터를 산출하는 방식과 유사한 방식으로, 픽셀 그룹의 수직 방향 변위 벡터를 산출할 수 있다. 즉, 픽셀 그룹의 수직 방향 변위 벡터를 산출하기 위해 픽셀들 각각에 대해 분모에서 이용되는 변수들을 분모에서 더하고, 픽셀 그룹의 수직 방향 변위 벡터를 산출하기 위해 픽셀들 각각에 대해 분자에서 이용되는 변수들을 분자에서 더함으로써 픽셀 그룹의 수직 방향 변위 벡터가 산출될 수 있다.

비디오 복호화 장치(100)는 픽셀들의 σ2[i,j], σ5 [i,j], σ6 [i,j] 및 Vx[i,j]를 이용하여 픽셀 그룹(840)에 관한 수직 방향 변위 벡터 Vy[i,j] 를 다음 수학식 37과 같이 결정할 수 있다. 여기서, 수평 방향 변위 벡터 Vx[i,j]는 수학식 36에 의해 결정된 값일 수 있다.

도 8c에 도시된 바와 같이 각 픽셀마다 수평 방향 변위 벡터 및 수직 방향 변위 벡터가 결정되는 경우, 각 픽셀마다 2번의 나눗셈 연산이 수행되어야 한다. 그러나, 도 8d에 도시된 바와 같이, 각 픽셀 그룹마다 수평 방향 변위 벡터 및 수직 방향 변위 벡터가 결정되는 경우, 픽셀 그룹의 크기를 LxL(L은 정수)라고 하면 픽셀당 2/(L^2)의 나눗셈 연산이 수행되어야 한다. 따라서, 픽셀 그룹별로 수평 방향 변위 벡터 및 수직 방향 변위 벡터가 결정되는 경우, 필요한 나눗셈 연산의 횟수가 줄어들기 때문에 하드웨어 복잡도가 감소하고 연산 시간이 빨라질 수 있다.

한편, 앞서 도 8d를 참조하여 픽셀 그룹이 2x2 크기를 갖는 경우를 가정하여 상세하게 설명하였으나, 이에 제한되지 않고, 픽셀 그룹이 LxL(L은 정수) 크기를 가질 수 있다.

이때, 픽셀 그룹의 크기 L은 하기 수학식 38과 같이 결정될 수 있다. W,H는 각각 현재 블록의 너비, 높이를 의미할 수 있다.

비디오 복호화 장치(100)가 윈도우 크기에 의한 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, 픽셀 그룹 단위 움직임 보상을 수행하는 경우, 각각의 경우에 대한 메모리 액세스 횟수 및 곱셈 연산 횟수만큼 메모리 액세스 동작 및 곱셈 연산이 비디오 복호화 장치(100)에서 하기 표 1과 같이 수행될 수 있다. 이때, 신호 필터의 길이 T가 8이고, 그래디언트 필터의 길이 T가 6이고,

픽셀 그룹의 크기가 LxL이고, 블록의 크기가 NxN이고, 픽셀별 윈도우의 크기 2M+1가 5라고 가정한다.

	블록 확장과 함께픽셀 단위 움직임 보상	픽셀 그룹 단위 움직임 보상
메모리 액세스 횟수	2x(N+4+7)x(N+4+7)	2x(N+4+7)x(N+4+7)
곱셈 연산 횟수	2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}	2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}2*2*{(N+4)x(N+4)}2*2*{(N+4)x(N+4)}
나눗셈 연산 횟수	2N*N	2*N*N/L^2

즉, 비디오 복호화 장치(100)는 픽셀 그룹 단위 움직임 보상을 수행하는 경우, 픽셀 그룹의 크기에 대응하는 값인 L^2만큼 나눈 값만큼 나눗셈 연산의 횟수를 감소시켜 나눗셈 연산을 수행할 수 있다. 도 9a는 일 실시예에 따라, 필터링 수행 후에 오프셋을 더하고, 역-스케일링을 수행함으로써 수평 또는 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.

도 9a를 참조하면, 비디오 복호화 장치(100)는 소정의 방향 성분이 정수 위치인 픽셀에 대해 제1 1차원 필터 및 제2 1차원 필터를 이용한 필터링을 수행하여 수평 또는 수직 방향의 그래디언트 값을 결정할 수 있다. 다만, 소정의 방향 성분이 정수 위치인 픽셀에 대해 제1 1차원 필터 또는 제2 1차원 필터를 이용하여 필터링을 수행한 값이 소정의 범위를 벗어날 수 있다. 이러한 현상을 오버플로우(overflow) 현상이라고 한다. 1차원 필터의 계수들은 부정확하고 복잡한 소수 연산 대신 정수 연산을 수행하기 위해 정수로 결정될 수 있다. 1차원 필터의 계수들이 정수로 결정되기 위해 스케일링될 수 있다. 스케일링된 1차원 필터의 계수들을 이용하여 필터링이 수행되면, 정수 연산이 가능해지는 반면 스케일링되지 않은 1차원 필터를 이용하여 필터링이 수행된 경우와 비교할 때, 필터링이 수행된 값의 크기가 커질 수 있고, 오버플로우 현상이 발생될 수 있다. 따라서, 오버플로우 현상을 방지하기 위해 1차원 필터를 이용하여 필터링이 수행된 이후에 역-스케일링(de-scaling)이 수행될 수 있다. 이때, 역-스케일링은 오른쪽으로 역-스케일링 비트 수만큼 오른쪽으로 비트 쉬프팅을 수행하는 것을 포함할 수 있다. 역-스케일링 비트 수는 계산의 정확도를 최대화하면서도 필터링 연산을 위한 레지스터의 최대 비트수 및 필터링 연산 결과를 저장하는 임시 버퍼(temporal buffer)의 최대 비트 수를 고려하여 결정될 수 있다. 특히 역-스케일링 비트 수는 내부 비트 뎁스(Internal bit depth), 보간 필터를 위한 스케일링 비트 수 및 그래디언트 필터를 위한 스케일링 비트 수에 기초하여 결정될 수 있다.

이하에서는, 수평 방향의 그래디언트 값을 결정하기 위해 먼저 수직 방향의 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수직 방향의 보간 필터링 값을 생성하고, 이후 수평 방향의 그래디언트 필터를 이용하여 상기 수직 방향의 보간 필터링 값에 대해 필터링이 수행되는 과정에서, 역-스케일링을 수행하는 내용에 대해서 설명하겠다.

앞서 설명한 수학식 12에 의하면, 비디오 복호화 장치(100)는 수평 방향의 그래디언트 값을 결정하기 위해 먼저 정수 위치의 픽셀에 대해 수직 방향의 보간 필터를 이용하여 필터링을 수행할 수 있다. 이때, shift₁은 b-8로 결정될 수 있다. 이때, b는 입력 영상의 내부 비트 뎁스일 수 있다. 이하 표 2를 참조하여, 상기 shift₁에 기초하여 실제 역-스케일링이 수행되는 경우 레지스터의 비트 뎁스(Reg Bitdepth) 및 임시 버퍼의 비트 뎁스(Temp Bitdepth)를 설명하도록 하겠다.

b	Min(I)	Max(I)	RegMax	RegMin	Reg Bitdepth	TempMax	TempMin	Temp Bitdepth
8	0	255	22440	-6120	16	22440	-6121	16
9	0	511	44968	-12264	17	22484	-6133	16
10	0	1023	90024	-24552	18	22506	-6139	16
11	0	2047	180136	-49128	19	22517	-6142	16
12	0	4095	360360	-98280	20	22523	-6143	16
16	0	65535	5767080	-1572840	24	22528	-6145	16

이때, 다음 수학식 39에 의해 표 2에 있는 변수의 값이 결정될 수 있다.

여기서, Min(I)는 내부 비트 뎁스에 의해 결정되는 픽셀 값(I)의 최소 값을 의미하고, Max(I)는 내부 비트 뎁스에 의해 결정되는 픽셀 값(I)의 최대 값을 의미할 수 있다. FilterSumPos는 양수의 필터 계수들의 합의 최대값을 의미하고, FilterSumNeg는 음수의 필터 계수들의 합의 최소값을 의미한다.

예를 들어, 도 7c에 개시된 1/4펠 단위의 그래디언트 필터 fracFilter가 이용됨을 가정하는 경우, FilterSumPos는 88일 수 있고, FilterSumNeg는 -24일 수 있다.

Ceiling(x) 함수는 실수 x에 대해 x보다 크거나 같은 정수 중에서 가장 적은 정수를 출력하는 함수일 수 있다. offset₁은 shift₁을 이용하여 역-스케일링을 수행하는 과정에서 발생할 수 있는 반올림 오류를 방지하기 위해 필터링이 수행된 값에 더해지는 오프셋 값으로, offset₁은 2^(shift₁ - 1)로 결정될 수 있다.

표 2를 참조하면, 내부 비트 뎁스 b가 8인 경우, 레지스터의 비트 뎁스(Reg Bitdpeth)는 16이고, 내부 비트 뎁스 b가 9인 경우, 레지스터의 비트 뎁스는 17이고, 이하 내부 비트 뎁스 b가 10, 11, 12 및 16인 경우, 레지스터의 비트 뎁스는 18, 19, 24일 수 있다. 만약에 필터링을 수행하기 위해 이용되는 레지스터가 32비트의 레지스터인 경우, 표 2에 있는 레지스터의 비트 뎁스들은 모두 32를 넘지 않기 때문에 오버플로우 현상이 발생하지 않게 된다.

마찬가지로, 내부 비트 뎁스 b가 8,9,10,11,12 및 16인 경우 임시 버퍼의 비트 뎁스(Temp BitDepth)는 모두 16이다. 만약에 필터링이 수행되고 역-스케일링이 수행된 값을 저장하기 위해 이용되는 임시 버퍼가 16비트 버퍼인 경우, 표 2에 있는 임시 버퍼의 비트 뎁스는 16으로 모두 16을 넘지 않기 때문에 오버플로우 현상이 발생하지 않게 된다.

수학식 12에 의하면, 비디오 복호화 장치(100)는 수평 방향의 그래디언트 값을 결정하기 위해 먼저 수직 방향의 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수직 방향의 보간 필터링 값을 생성하고, 그 후에 수학식 13에 의해, 수평 방향의 그래디언트 필터를 이용하여 상기 수직 방향의 보간 필터링 값에 대해 필터링을 수행할 수 있다. 이때, shift₂는 p + q - shift₁으로 결정될 수 있다. 여기서 p는 도 7c 에 도시된 필터 계수를 포함하는 보간 필터에 대해 스케일링된 비트 수를 의미하고, q는 도 7a 에 도시된 필터 계수를 포함하는 그래디언트 필터에 대해 스케일링된 비트수를 의미할 수 있다. 예를 들어, p는 6이고, q는 4일 수 있고, 따라서 shift₂=18 - b일 수 있다.

shift₂가 상기와 같이 결정되는 이유는 필터 계수가 업스케일된 경우와 필터 계수가 업스케일링되지 않은 경우에 최종 필터링 결과값이 동일하기 위해 역-스케일링되는 비트 수의 총합인 shift₁+shift₂는 필터에 대해 업스케일링된 비트수의 합(p + q)와 동일해야 하기 때문이다.

이하 표 3을 참조하여, 상기 shift₂에 기초하여 실제 역-스케일링이 수행되는 경우 레지스터의 비트 뎁스(Reg Bitdepth) 및 임시 버퍼의 비트 뎁스(Temp Bitdepth)를 설명하도록 하겠다.

b	TempMin	TempMax	RegMax	RegMin	Reg Bitdepth	OutMax	OutMin	Temp Bitdepth
8	-6121	22440	1942148	-1942148	23	1897	-1898	13
9	-6133	22484	1945956	-1945956	23	3801	-3802	14
10	-6139	22506	1947860	-1947860	23	7609	-7610	15
11	-6142	22517	1948812	-1948812	23	15225	-15226	16
12	-6143	22523	1949288	-1949288	23	30458	-30459	17
16	-6145	22528	1949764	-1949764	23	487441	-487442	21

이때, 다음 수학식 40에 의해 표 3에 있는 변수의 값이 결정될 수 있다.

여기서, TempMax는 표 3의 TempMax를 의미하고, TempMin은 표 3의 TempMin의 의미할 수 있다. FilterSumPos는 양수의 필터 계수들의 합의 최대값을 의미하고, FilterSumNeg는 음수의 필터 계수들의 합의 최소값을 의미한다. 예를 들어, 도 7c 에 개시된 1/4펠 단위의 그래디언트 필터 gradFilter가 이용됨을 가정하는 경우, FilterSumPos는 68일 수 있고, FilterSumNeg는 -68일 수 있다.

offset₂는 shift₂를 이용하여 역-스케일링을 수행하는 과정에서 발생할 수 있는 반올림 오류를 방지하기 위해 필터링이 수행된 값에 더해지는 오프셋 값으로, offset₂는 2^(shift₂ - 1)로 결정될 수 있다.

shift₁ 및 shift₂는 상기와 같이 결정될 수 있으나, 이에 제한되지 않고, shift₁ 와 shift₂의 합이 필터에 대한 스케일링 비트 수의 합과 동일하게 되도록 다양하게 shift₁ 및 shift₂이 결정될 수 있다. 이때, 오버플로우 현상이 발생하지 않음을 전제로 shift₁ 및 shift₂ 값이 결정될 수 있다. shift₁ 및 shift₂는 입력 영상의 내부 비트 뎁스, 필터에 대한 스케일링 비트 수에 기초하여 결정될 수 있다.

다만, 반드시 shift₁ 와 shift₂의 합이 필터에 대한 스케일링 비트 수의 합과 동일하도록 shift₁ 및 shift₂를 결정해야 하는 것은 아니다. 예를 들어 shift₁은 d-8로 결정할 수 있으나, shift₂는 고정수로 결정될 수 있다.

shift₁은 이전과 동일하고, shift₂가 고정수인 7인 경우, 앞서 언급한 표 3에서 OutMax, OutMin 및 Temp Bitdepth가 달라질 수 있다. 이하 표 4를 참조하여 임시 버퍼의 비트 뎁스(Temp Bitdepth)에 대해서 설명하도록 한다.

b	OutMax	OutMin	Temp Bitdepth
8	15173	-15174	16
9	15203	-15204	16
10	15218	-15219	16
11	15225	-15226	16
12	15229	-15230	16
16	15233	-15234	16

표 3과 달리, 표 4의 경우, 모든 b에서 임시 버퍼의 비트 뎁스(Temp Bitdepth)가 16으로 동일하고, 만약 16비트 임시 버퍼를 이용하여 결과 데이터를 저장하는 경우를 가정하면, 임시 버퍼의 비트 뎁스(Temp Bitdepth)가 16보다 작기 때문에 모든 입력 영상의 내부 비트 뎁스에 대해 오버플로우가 발생하지 않게 된다. 반면, 표 3을 참조하면 입력 영상의 내부 비트 뎁스가 12 및 16인 경우, 만약 16비트 임시 버퍼를 이용하여 결과 데이터를 저장하는 경우를 가정하면 임시 버퍼의 비트 뎁스(Temp Bitdepth)가 16보다 크기 때문에 오버플로우 현상이 발생할 수도 있다.shift₂가 고정 수인 경우, 스케일링된 필터 계수를 이용하지 않고, 필터링이 수행된 경우의 결과값과 스케일링된 필터 계수를 이용하여 필터링이 수행되고 나서 역-스케일링이 수행된 경우의 결과값과 상이할 수 있다. 이 경우, 추가적으로 역-스케일링이 되어야 함을 당업자는 용이하게 이해할 수 있다.

앞서, 수평 방향의 그래디언트 값을 결정하기 위해 먼저 수직 방향의 보간 필터를 이용하여 정수 위치의 픽셀에 대해 필터링을 수행하여 수직 방향의 보간 필터링 값을 생성하고, 이후 수평 방향의 그래디언트 필터를 이용하여 상기 수직 방향의 보간 필터링 값에 대해 필터링이 수행되는 과정에서, 역-스케일링을 수행하는 내용에 설명하였으나, 이에 제한되지 않고, 다양한 1차원 필터 조합에 의해 수평 방향 및 수직 방향의 그래디언트 값을 결정하기 위해 소정의 방향 성분이 정수인 픽셀에 대해 필터링이 수행되는 경우, 유사하게 역-스케일링을 수행할 수 있음을 당업자는 용이하게 이해할 수 있다.

도 9b는 다른 실시예에 따라, 필터링 수행 후에 오프셋을 더하고, 역-스케일링을 수행함으로써 수평 또는 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.

도 9b를 참조하면, 비디오 복호화 장치(100)는 참조 픽처의 소수 픽셀들 및 정수 픽셀들을 입력으로 하여 필터링을 수행할 수 있다. 여기서, 참조 픽처의 소수 픽셀들은 참조 픽처의 정수 픽셀들에 대해 수평 및 수직 방향의 1차원 필터를 적용하여 결정된 값임을 가정한다.

비디오 복호화 장치(100)는 소정의 방향의 위치 성분이 소수인 픽셀 및 정수픽셀들에 대해 수평 방향 또는 수직 방향 1차원 필터를 이용한 필터링을 수행하여 수평 방향 또는 수직 방향의 그래디언트 값을 결정할 수 있다. 다만, 소정의 방향 위치 성분이 소수인 픽셀 및 정수 픽셀에 대해 제1 1차원 필터를 이용하여 필터링을 수행한 값이 소정의 범위를 벗어날 수 있다. 이러한 현상을 오버플로우(overflow) 현상이라고 한다. 1차원 필터의 계수들은 부정확하고 복잡한 소수 연산 대신 정수 연산을 수행하기 위해 정수로 결정될 수 있다. 1차원 필터의 계수들이 정수로 결정되기 위해 스케일링될 수 있다. 스케일링된 1차원 필터의 계수들을 이용하여 필터링이 수행되면, 정수 연산이 가능해지는 반면 스케일링되지 않은 1차원 필터를 이용하여 필터링이 수행된 경우와 비교할 때, 필터링이 수행된 값의 크기가 커질 수 있고, 오버플로우 현상이 발생될 수 있다. 따라서, 오버플로우 현상을 방지하기 위해 1차원 필터를 이용하여 필터링이 수행된 이후에 역-스케일링(de-scaling)이 수행될 수 있다. 이때, 역-스케일링은 오른쪽으로 역-스케일링 비트 수(shift1)만큼 오른쪽으로 비트 쉬프팅을 수행하는 것을 포함할 수 있다. 역-스케일링 비트 수는 계산의 정확도를 최대화하면서도 필터링 연산을 위한 레지스터의 최대 비트수 및 필터링 연산 결과를 저장하는 임시 버퍼(temporal buffer)의 최대 비트 수를 고려하여 결정될 수 있다. 특히 역-스케일링 비트 수는 내부 비트 뎁스(Internal bit depth) 및 그래디언트 필터를 위한 스케일링 비트 수에 기초하여 결정될 수 있다.

도 9c는 현재 블록에 대해 픽셀 단위 움직임 보상을 수행하는 과정에서 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위해 필요한 범위를 설명하기 위한 도면이다.

도 9c를 참조하면, 현재 블록에 대응하는 참조 블록(910)에 대해 픽셀 단위 움직임 보상을 수행하는 과정에서 비디오 복호화 장치(100)는 참조 블록(910)의 좌측 상단에 위치하는 픽셀(915) 주변의 윈도우(920)를 이용하여 픽셀(915)에서의 수평 방향의 단위 시간당 변위 벡터 및 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다. 이때, 참조 블록(910)을 벗어나는 범위에 위치한 픽셀의 픽셀 값 및 그래디언트 값을 이용하여 수평 방향 또는 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다. 같은 방식으로 참조 블록(910)의 경계에 위치한 픽셀에 대해 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하는 과정에서 비디오 복호화 장치(100)는 참조블록(910)을 벗어나는 범위에 위치한 픽셀의 픽셀 값 및 그래디언트 값을 결정하게 된다. 따라서, 비디오 복호화 장치(100)는 참조 블록(910)보다 큰 범위의 블록(925)를 이용하여 수평 방향 변위 벡터 및 수직 방향의 단위 시간당 변위 벡터를 결정할 수 있다. 예를 들어, 현재 블록의 크기가 AxB이고, 픽셀별 윈도우의 크기가 (2M+1)x(2N+1)라고 한다면, 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 범위의 크기는 (A+2M)x(B+2N)일 수 있다.

도 9d 내지 9e는 다양한 실시예에 따른 픽셀 단위의 움직임 보상을 수행하는 과정에서 이용되는 영역의 범위를 설명하기 위한 도면이다.

도 9d를 참조하면, 픽셀 단위의 움직임 보상을 수행하는 과정에서 비디오 복호화 장치(100)는 참조 블록(930)의 경계에 위치한 픽셀의 윈도우의 크기에 의해 확장된 범위의 블록(935)을 기초로 참조 블록(930)에 포함된 픽셀별 수평 방향 변위 벡터 및 수직 방향 단위 시간당 변위 벡터를 결정할 수 있다. 다만, 수평 방향 및 수직 방향 단위시간당 변위 벡터를 결정하는 과정에서 비디오 복호화 장치(100)는 블록(935)에 위치한 픽셀의 픽셀 값 및 그래디언트 값이 필요하고, 이때, 픽셀 값 및 그래디언트 값을 구하기 위해 보간 필터 또는 그래디언트 필터를 이용할 수 있다. 블록(935)의 경계 픽셀에 대해 보간 필터 또는 그래디언트 필터를 이용하는 과정에서 주변 픽셀의 픽셀 값을 이용할 수 있고, 따라서 블록 경계 밖에 위치하는 픽셀을 이용할 수 있다. 따라서, 보간 필터 또는 그래디언트 필터의 탭 개수에서 1만큼 뺀 값으로 추가 확장된 범위의 블록(940)을 이용하여 픽셀 단위 움직임 보상이 수행될 수 있다. 따라서, 블록의 크기가 NxN이고. 픽셀별 윈도우의 크기가 (2M+1)x(2M+1)이고, 보간 필터 또는 그래디언트 필터의 길이가 T인 경우, (N+2M+T-1)x(N+2M+T-1)일 수 있다.

도 9e를 참조하면, 픽셀 단위의 움직임 보상을 수행하는 과정에서, 비디오복호화 장치(100)는 참조 블록(945)의 경계에 위치하는 픽셀의 윈도우의 크기에 의해 참조 블록을 확장하지 않고, 참조 블록(945) 내에 위치하는 픽셀의 픽셀 값 및 그래디언트 값을 이용하여 픽셀별 수평 방향 변위 벡터 및 수직 방향 단위시간당 변위 벡터를 결정할 수 있다. 구체적으로 비디오 복호화 장치(100)가 참조 블록을 확장하지 않고, 수평 방향 단위시간당 변위 벡터 및 수직 방향 단위시간당 변위 벡터를 결정하기 위는 과정은 도 9e를 참조하여 설명하기로 한다. 다만, 픽셀의 픽셀 값 및 그래디언트 값을 구하기 위해 참조 블록(945) 보간 필터 또는 그래디언트 필터를 이용하게 되고, 확장된 블록(950)을 이용하여 픽셀 단위 움직임 보상이 수행될 수 있다. 따라서, 블록의 크기가 NxN이고. 픽셀별 윈도우의 크기가 (2M+1)x(2M+1)이고, 보간 필터 또는 그래디언트 필터의 길이가 T인 경우, (N+T-1)x(N+T-1)일 수 있다.

도 9f는 참조 블록을 확장하지 않고, 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 과정을 설명하기 위한 도면이다.

도 9f를 참조하면, 참조 블록(955)의 경계 밖에 위치하는 픽셀의 경우, 비디오 복호화 장치(100)는 그 픽셀의 위치를 참조 블록(955)의 경계 내에 위치하는 픽셀들 중 가장 가까운 위치에 이용가능한 픽셀의 위치로 조정하여, 경계 밖에 위치하는 픽셀의 픽셀 값 및 그래디언트 값은 가장 가까운 위치에 이용가능한 픽셀의 픽셀 값 및 그래디언트 값으로 결정될 수 있다. 이때, 비디오 복호화 장치(100)는 참조 블록(955)의 경계 밖에 위치하는 픽셀의 위치를 수학식: 및 수학식: 에 의해 가장 가까운 위치에 이용가능한 픽셀의 위치로 조정할 수 있다.

여기서, i'는 픽셀의 x 좌표값, j'는 픽셀의 y 좌표값이고, H 및 W는 참조 블록의 높이 및 너비를 의미할 수 있다. 이때, 참조 블록의 좌상단의 위치를 (0,0)이라고 가정하였다. 만약, 참조 블록의 좌상단의 위치가 (xP, yP)라면, 최종 픽셀의 위치는 (i'+xP, j'+yP)일 수 있다.

다시 도 9d를 참조 하면, 픽셀별 윈도우의 크기에 의해 확장된 블록(935)에서 참조 블록(930)의 경계 외부에 위치한 픽셀들의 위치는 참조 블록(930) 경계 내부에 인접한 픽셀의 위치로 조정되어, 도 9e와 같이, 비디오 복호화 장치(100)는 참조 블록(945)의 픽셀 값 및 그래디언트 값으로 참조 블록(945) 내 픽셀별 수평 방향 변위 벡터 및 수직 방향 단위 시간당 변위 벡터를 결정할 수 있다.

따라서, 비디오 복호화 장치(100)는 픽셀별 윈도우 크기에 의해 참조 블록(945)을 확장하지 않고, 픽셀 단위 움직임 보상을 수행함으로써 픽셀 값 참조를 위한 메모리 액세스의 횟수가 감소하고, 곱셉 연산의 횟수가 감소하여 연산의 복잡도가 감소될 수 있다.

비디오 복호화 장치(100)가 (HEVC 표준에 따라 동작할 때와 같이) 블록 단위 움직임 보상을 수행하는 경우, 윈도우 크기에 의한 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, 블록 확장 없이 픽셀 단위 움직임 보상을 수행하는 경우, 각각의 경우에 대한 메모리 액세스 횟수 및 곱셈 연산 횟수만큼 메모리 액세스 동작 및 곱셈 연산이 비디오 복호화 장치(100)에서 하기 표 5와 같이 수행될 수 있다. 이때, 신호(보간) 필터의 길이가 8이고, 그래디언트 필터의 길이가 6이고, 블록의 크기가 NxN이고, 픽셀별 윈도우의 크기 2M+1가 5라고 가정한다.

	HEVC 표준에 의한 블록 단위 움직임 보상	블록 확장과 함께 픽셀 단위 움직임 보상	블록 확장 없이픽셀 단위 움직임 보상
메모리 액세스 횟수	2*(N+7)x(N+7)	2x(N+4+7)x(N+4+7)	2x(N+7)x(N+7)
곱셈 연산 횟수	2*8*{(N+7)xN+NxN}	2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}	2*8*{(N +7)xN+NxN+4}2*6*{(N+5)xN+NxN}2*6*{(N+5)xN+NxN}

HEVC 표준에 의한 블록 단위 움직임 보상에서는, 샘플 하나에 대해 8 탭의 보간 필터를 이용하므로, 8개의 주변 샘플이 필요하게 되고, 따라서, 참조 블록의 크기가 NxN인 경우, 8 탭 보간에 의하면 (N+7)x(N+7) 개의 참조 샘플이 필요하게 되고, 양방향 움직임 예측 보상이기 때문에 두 개의 참조 블록을 이용하게 되므로, HEVC 표준에 의한 블록 단위 움직임 보상에서는 표 4와 같이 2*(N+7)x(N+7)회의 메모리 접근이 필요하다. 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, M=2 라면 확장된 (N+4)x(N+4) 크기의 블록에 대해 8탭의 보간 필터 또는 그래디언트 필터를 이용하여 픽셀 단위 움직임 보상을 수행하면, (N+4+7)x(N+4+7)개의 참조 샘플이 필요하게 되고, 양방향 움직임 예측 보상이기 때문에 두 개의 참조 블록을 이용하게 되므로, 최종적으로 블록 확장과 함께 수행되는 픽셀 단위 움직임 보상에서는, 표 5와 같이 2*(N+4+7)x(N+4+7)회의 메모리 접근이 필요하다.블록 확장 없이 픽셀 단위 움직임 보상을 수행하는 경우, 블록의 확장이 없기 때문에 HEVC 표준에 의한 블록 단위 움직임 보상과 같이 (N+7)x(N+7)개의 참조 샘플이 필요하게 되고, 양방향 움직임 예측 보상이기 때문에 두 개의 참조 블록을 이용하게 되므로, 블록 확장 없이 수행되는 픽셀 단위 움직임 보상에서는 표 5와 같이 2*(N+7)x(N+7)회의 메모리 접근이 필요하다.

한편, HEVC 표준에 의한 블록 단위 움직임 보상에서는, 샘플 하나에 대해 8 탭의 보간 필터를 이용하므로, 첫번째 수평 방향의 보간을 수행하는데 필요한 샘플은 (N+7)xN 샘플이다. 두번째 수직 방향의 보간을 수행하는데 필요한 샘플은 NxN 샘플이다. 한편, 8 탭의 보간 필터 당 필요한 곱셈 연산의 횟수는 8이고, 양방향 움직임 예측 보상이기 때문에 두 개의 참조 블록을 이용하게 되므로, HEVC 표준에 의한 블록 단위 움직임 보상에서는 표 5와 같이 2*8*{(N+7)*N+N*N)회의 곱셈 연산이 필요하다.

블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, 픽셀 단위 움직임 보상을수행하기 위해 블록의 크기가 확장되기 때문에, 확장된 (N+4)x(N+4) 크기의 블록에 대해 8탭의 보간 필터를 이용하여 소수 픽셀 단위의 위치에 있는 픽셀 값을 결정하기 위해서는 표 5와 같이 총 2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}회의 곱셈 연산이 필요하다.

한편, 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 6 탭의 그래디언트 필터 및 6 탭의 보간 필터를 이용하게 된다. 블록의 크기가 확장되기 때문에, 확장된 (N+4)x(N+4) 크기의 블록에 대해 6탭의 보간 필터 및 그래디언트 필터를 이용하여 그래디언트 값을 결정하기 위해서는 표 5와 같이 총 2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}*2 회의 곱셈 연산이 필요하다.

블록 확장 없이 픽셀 단위 움직임 보상을 수행하는 경우, 블록의 확장이 없기 때문에 HEVC 표준에 의한 블록 단위 움직임 보상과 같이 (N+7)x(N+7)개의 참조 샘플이 필요하게 되고, 양방향 움직임 예측 보상이기 때문에 두 개의 참조 블록을 이용하게 되므로, 블록 확장 없이 수행되는 픽셀 단위 움직임 보상에서는 NxN 크기의 블록에 대해 8탭의 보간 필터를 이용하여 소수 픽셀 단위의 위치에 있는 픽셀 값을 결정하기 위해서 표 5와 같이 2*8*{(N+7) x N + N x N }회의 곱셉 연산이 필요하다.

한편, 블록 확장 없이 픽셀 단위 움직임 보상을 수행하는 경우, 수평 방향 또는 수직 방향의 그래디언트 값을 결정하기 위해 6 탭의 그래디언트 필터 및 6 탭의 보간 필터를 이용하게 된다. NxN 크기의 블록에 대해 6탭의 보간 필터 및 그래디언트 필터를 이용하여 그래디언트 값을 결정하기 위해서는 표 5와 같이 총 2*6*{(N+5)xN+NxN}*2 회의 곱셈 연산이 필요하다.

도 9g 내지 9i는 다른 실시예에 따라, 참조 블록을 확장하지 않고, 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 과정을 설명하기 위한 도면이다.

앞서 도 9d를 참조하며 설명한 바와 같이, 픽셀 단위의 움직임 보상을 수행하는 과정에서, 비디오 복호화 장치(100)는 참조 블록(930)의 경계에 위치한 픽셀의 윈도우의 크기에 의해 확장된 범위의 블록(935)을 기초로 참조 블록(930)에 포함된 픽셀별 수평 방향 변위 벡터 및 수직 방향 단위 시간당 변위 벡터를 결정할 수 있다. 예를 들어, 윈도우의 크기가 (2M+1)x(2M+1)인 경우, 비디오 복호화 장치(100)는 참조 블록(930)의 경계에 위치한 픽셀에 윈도우가 적용되면, M만큼 참조 블록(930)을 벗어난 픽셀의 픽셀 값 및 그래디언트 값을 참조하여 픽셀별 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정할 수 있다.

이하에서는 다른 실시예에 따라 비디오 복호화 장치(100)가 참조 블록 바깥의 픽셀의 픽셀 값 및 그래디언트 값을 참조하지 않고, 현재 블록에 대응하는 참조 블록의 픽셀 값 및 그래디언트 값만을 이용하여 픽셀별 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 값들(수학식 33의 s1 내지 s6)을 결정하는 방법에 대해서 설명하겠다. 여기서 윈도우의 크기는 5x5임을 가정한다. 편의상 현재 픽셀을 중심으로 가로 방향에 위치하는 픽셀들에 대하여만 설명하겠다. 현재 픽셀을 중심으로 세로 방향에 위치하는 픽셀들에 대하여도 동일한 방식으로 가중치가 결정될 수 있음을 당업자는 용이하게 이해할 수 있다.

비디오 복호화 장치(100)는 수평 또는 수직 방향 변위 벡터를 결정하려는 현재 픽셀을 중심으로 하는 윈도우에 포함된 픽셀별로 픽셀 값(P0(i’,j’) 및 P1(i’,j’)), 수평 또는 수직 방향 그래디언트 값( , , , ) 및 참조 픽처와 현재 픽처 간의 POC(Picture Order Count) 차이(τ0, τ1)에 관한 함수에 대하여 연산을 수행하고, 픽셀별 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 값들(수학식 33의 s1 내지 s6)은 픽셀별로 수행된 연산의 결과값들을 합하여 결정된다.

이때, 픽셀별로 같은 가중치를 갖게 하고, 픽셀별로 수행된 연산의 결과값에 가중치를 곱하고, 그 값들을 합하여 픽셀별 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 값들(s1 내지 s6)을 결정할 수 있다.

도 9g를 참조하면, 현재 블록(960) 내에서 현재 픽셀(961)에 대한 수평 방향 및 수직 방향 변위 벡터를 결정하는 과정에서, 비디오 복호화 장치(100)는 윈도우 내 픽셀들에 대하여 동일한 값 1을 갖도록 가중치를 결정할 수 있다. 비디오 복호화 장치(100)는 픽셀별로 연산된 결과값들에 각 픽셀에 대해 결정된 가중치를 각각 곱하고, 그 결과값들을 모두 더하여 현재 픽셀에 대하여 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 값들(s1 내지 s6)을 결정할 수 있다.

도 9h를 참조하면, 현재 블록(970) 내에서 현재 픽셀(971)이 현재 블록(970)의 경계 근처에 바로 접하는 경우, 비디오 복호화 장치(100)는 현재 블록(970)의 경계의 외부에 위치하는 블록(970)의 경계에 접하는 픽셀들의 가중치는 3으로 결정할 수 있다. 비디오 복호화 장치(100)는 그밖의 픽셀들(973)의 가중치를 1로 결정할 수 있다.

도 9h를 참조하면, 현재 블록(980) 내에서 현재 픽셀(981)이 현재 블록(980)의 경계 근처에 위치하는 경우(현재 픽셀이 경계로부터 한 픽셀만큼 떨어진 경우), 비디오 복호화 장치(100)는 현재 블록(980)의 경계의 외부에 위치하는 픽셀(982)에 대한 가중치는 0으로 결정하고, 현재 블록(980)의 경계에 접하는 픽셀(983)의 가중치는 2로 결정할 수 있다. 비디오 복호화 장치(100)는 그밖의 픽셀들(984)의 가중치를 1로 결정할 수 있다.

도 9g 내지 도 9i를 참조하여 설명한 바와 같이, 비디오 복호화 장치(100)는 현재 픽셀의 위치에 따라 윈도우 내 픽셀별로 가중치를 달리 부여함으로써 현재 블록에 대응하는 참조 블록 외부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값을 이용하지 않고, 참조 블록 내부에 위치하는 픽셀의 픽셀 값 및 그래디언트 값을 이용하여 픽셀별 수평 방향 및 수직 방향의 변위 벡터를 결정하기 위한 값들(s1 내지 s6)을 결정할 수 있게 된다.

도 9j는 일 실시예에 따라 블록의 확장없이 참조 블록의 픽셀 값 및 그래디언트 값을 참조하여 상하좌우로 지수 평활 기법을 적용함으로써 픽셀별 수평 방향 변위벡터 및 수직 방향 변위 벡터를 결정하는 과정을 설명하기 위한 도면이다.

도 9j를 참조하면, 비디오 복호화 장치(100)는 현재 블록(990)에 포함된 픽셀별로 대응 참조 블록에 포함된 대응 참조 픽셀의 픽셀 값(P0(i’,j’) 및 P1(i’,j’)), 대응 참조 블록의 픽셀에 포함된 대응 참조 픽셀의 수평 또는 수직 방향 그래디언트 값( , , , ) 및 참조 픽처와 현재 픽처 간의 POC(Picture Order Count) 차이(τ0, τ1)에 관한 함수에 대하여 연산을 수행할 수 있다.

비디오 복호화 장치(100)는 현재 픽셀의 함수 연산 수행 결과값과 주변 픽셀의 함수 연산 수행 결과값을 합하여 현재 픽셀의 수평 방향 및 수직 방향의 변위 벡터를 결정하기 위한 값들(s1 내지 s6; σ_{k(k=1,2,3,4,5,6)})이 결정될 수 있다. 즉, 현재 픽셀의 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 값들(s1 내지 s6)은 하기 수학식 41과 같이 현재 픽셀 및 주변 픽셀에 관한 연산 수행값들의 가중 평균으로 표현될 수 있다. 이때, 윈도우 Ω에 포함된 픽셀들의 위치의 좌표는 (i’,j’)이다. 또한 W[i',j']는 윈도우 Ω에 포함된 픽셀들에 대한 가중치를 의미할 수 있다. 여기서, 윈도우 Ω의 크기는 (2M+1)x(2M+1)(M은 정수)일 수 있다. 또한 함수 A_k[i',j']는 윈도우 Ω에 포함된 (i’,j’) 위치의 픽셀들에 대한 대응 참조 픽셀의 픽셀 값(P0(i’,j’) 및 P1(i’,j’);I[i’, j’](0,1)), 대응 참조 블록의 픽셀에 포함된 대응 참조 픽셀의 수평 또는 수직 방향 그래디언트 값(, , , ;Ix,y[i’,j’](0,1)) 및 참조 픽처와 현재 픽처 간의 POC(Picture Order Count) 차이(τ0, τ1)에 관한 함수 값일 수 있다.

예를 들어, 비디오 복호화 장치(100)는 현재 픽셀의 함수 연산 수행 결과값과 현재 픽셀을 중심으로 하는 윈도우 내 픽셀들의 함수 연산 수행 결과값을 그대로 합하여 현재 픽셀의 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위한 값들(s1 내지 s6)을 결정할 수 있다. 이때 윈도우의 크기가 5x5라고 한다면, 현재 블록(990)의 경계에 위치하는 픽셀(991)의 수평 방향 변위 벡터 및 수직 방향 변위 벡터를 결정하기 위해 필요한 값들을 결정하기 위해서는, 픽셀(991)을 중심으로 하는 윈도우(992) 내의 픽셀들의 연산 수행값을 참조해야 하기 때문에 현재 블록(990)보다 상하좌우방향으로 2 픽셀만큼 큰 확장 블록(996)의 픽셀들에 대하여 함수 연산 수행 결과값을 참조해야 한다. 한편, 함수 A_k [i',j']의 값은 하기와 같은 표 6과 같이 결정될 수 있다.

σk[i',j']	Ak[i',j']
σ1
σ2
σ3
σ5
σ6

여기서 Ix⁽⁰⁾ [i',j'],Ix⁽¹⁾ [i',j']는 각각 , 일 수 있고, Iy⁽⁰⁾ [i',j'],Iy⁽¹⁾ [i',j']는 각각 , 일 수 있고, I⁽⁰⁾ [i',j'] 및 I⁽¹⁾ [i',j'] 각각 P0(i’,j’) 및 P1(i’,j’)일 수 있다. 비디오 복호화 장치(100)는 A_k [i',j' ]에 대한 가중 평균을 결정하기 위해 A_k[i',j' ]에 대하여 상하좌우방향으로 지수 평활 기법을 적용하여 평균화를 수행할 수 있다.

도 9j를 참조하면 우선 비디오 복호화 장치(100)는 좌우방향으로 A_k [i',j' ]에 대하여 지수 평활 기법을 적용할 수 있다. 이하에서는 비디오 복호화 장치(100)는 좌우방향으로 A_k[i',j' ]에 대하여 지수 평활 기법을 적용하여 A_k [i',j' ]에 대한 가중 평균 값을 결정하는 내용에 대하여 상세하게 설명하겠다.

우선 비디오 복호화 장치(100)는 지수 평활 기법을 적용하여 우측 방향으로 평균화하는 내용에 대해서 설명하겠다. 비디오 복호화 장치(100)는 하기와 같은 수도 코드 1(pseudo code)에 의하여 A_k[i',j' ]에 대하여 우측 방향으로 평균화를 수행할 수 있다. 이때, H는 현재 블록의 높이, W는 현재 블록의 너비를 의미할 수 있고, Stride는 1차원 배열에서 하나의 라인과 다음 라인 사이의 거리를 의미할 수 있다. 즉, 2차원 배열 A[i,j]는 1차원 배열 A[i+j*Stride]로 표현될 수 있다.

[수도 코드 1]

예를 들어, 현재 블록의 크기가 4x4라고 하고, A[0], A[1], A[2] 및 A[3]가 a,b,c,d 라고 한다면, 상기 수도 코드 1에 의한 프로세스의 결과값 A’[0]는 2a, A’[1]은 A[0]/2+b =a+b일 수 있고, A’[2]는 A[1]/2+c=a/2+b/2+c일 수 있고, A’[3]은 A[2]/2+d=a/4+b/4+c/2+d일 수 있다.

이하에서는 비디오 복호화 장치(100)가 지수 평활 기법을 적용하여 좌측 방향으로 평균화하는 내용에 대해서 설명하겠다. 비디오 복호화 장치(100)는 하기와 같은 수도 코드 2(pseudo code)에 의하여 A_k[i',j' ]에 대하여 좌측 방향으로 평균화를 수행할 수 있다. 이때, H는 현재 블록의 높이, W는 현재 블록의 너비를 의미할 수 있고, Stride는 1차원 배열에서 하나의 라인과 다음 라인 사이의 거리를 의미할 수 있다. 즉, 2차원 배열 A[i,j]는 1차원 배열 A[i+j*Stride]로 표현될 수 있다.

[수도 코드 2]

예를 들어, 현재 블록의 크기가 4x4라고 하고, 우측 방향으로 평균화된 값인 A’[0], A’[1], A’[2] 및 A’[3]가 2a, a+b, a/2+b/2+c, a/4+b/4+c/2+d인 경우, 상기 수도 코드 2에 의한 프로세스의 결과값 A[3]는 2*A’[3]= a/2+b/2+c+2d이고, A[2]는 A’[2]+A[3]/2= a/2+b/2+c +a/4+b/4+c/2+d=3a/4+3b/4+3c/2+d 이고, A[1]는 A’[1]+A[2]/2…이고, A[0]는 A’[0]+A[1]/2일 수 있다.

이하에서는 비디오 복호화 장치(100)는 지수 평활 기법을 적용하여 하측 방향으로 평균화하는 내용에 대해서 설명하겠다. 비디오 복호화 장치(100)는 하기와 같은 수도 코드 3(pseudo code)에 의하여 A_k[i',j' ]에 대하여 하측 방향으로 평균화를 수행할 수 있다. 이때, H는 현재 블록의 높이, W는 현재 블록의 너비를 의미할 수 있고, Stride는 1차원 배열에서 하나의 라인과 다음 라인 사이의 거리를 의미할 수 있다. 즉, 2차원 배열 A[i,j]는 1차원 배열 A[i+j*Stride]로 표현될 수 있다.

[수도 코드 3]

이하에서는 비디오 복호화 장치(100)는 지수 평활 기법을 적용하여 상측 방향으로 평균화하는 내용에 대해서 설명하겠다. 비디오 복호화 장치(100)는 하기와 같은 수도 코드 4(pseudo code)에 의하여 A_k [i',j' ]에 대하여 상측 방향으로 평균화를 수행할 수 있다. 이때, H는 현재 블록의 높이, W는 현재 블록의 너비를 의미할 수 있고, Stride는 1차원 배열에서 하나의 라인과 다음 라인 사이의 거리를 의미할 수 있다. 즉, 2차원 배열 A[i,j]는 1차원 배열 A[i+j*Stride]로 표현될 수 있다.

[수도 코드 4]

즉, 비디오 복호화 장치(100)는 지수 평활 기법을 이용하여 A_k[i',j']에 대하여 상하좌우 방향으로 평균화를 수행할 수 있고, 이러한 평균화 작업을 수행하여 결정된 픽셀별 결과값은 각 픽셀들에 대한 수평 방향 또는 수직 방향의 변위 벡터를 결정하기 위해 필요한 값인 σ_k [i,j]가 될 수 있다. 이때, 지수 평활 기법을 이용하여 평균화를 수행하게 되면 현재 픽셀 위치에 대하여 가장 큰 가중치(weight)를 갖게 되고, 픽셀이 현재 픽셀로부터 거리가 멀어질수록 그 픽셀에 대한 가중치는 지수적으로 감소하게 된다.

따라서, 비디오 복호화 장치(100)는 현재 블록(990)에 대하여 지수평활기법을 이용하여 상하좌우방향으로 평균화를 수행함으로써 픽셀별로 수평 방향 또는 수직 방향의 변위벡터를 결정하기 위해 필요한 가중평균인 σ_k[i,j]를 결정할 수 있다. 즉, 비디오 복호화 장치(100)는 현재 블록(990)을 확장한 블록(996)에 대응하는 참조 블록의 픽셀 값 및 그래디언트 값을 참조하지 않고, 현재 블록(990)에 대응하는 참조 블록의 픽셀 값 및 그래디언트 값만을 참조하여 픽셀별로 수평 방향 또는 수직 방향의 변위벡터를 결정할 수 있다.

도 9k는 일 실시예에 따라 현재 블록에 대한 움직임 보상을 수행하기 위해 필터를 이용하여 참조 블록 내 참조 픽셀의 픽셀 값 및 수평 및 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.

도 9k를 참조하면, 비디오 복호화 장치(100)는 현재 블록에 대응하는 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값을 이용하여 현재 블록에 대한 픽셀 단위 및 블록 단위의 움직임 보상을 수행할 수 있다. 따라서, 현재 블록에 대한 픽셀 단위 및 블록 단위의 움직임 보상을 수행하기 위해서는 현재 블록에 대응하는 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값이 결정되어야 한다. 이때, 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값의 단위는 소수 픽셀 단위일 수 있다. 예를 들어, 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값의 단위는 1/16 픽셀(1/16 pel) 단위일 수 있다.

비디오 복호화 장치(100)는 소수 픽셀 단위의 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값을 결정하기 위해 참조 블록의 정수 픽셀의 픽셀 값에 대해 필터링을 수행할 수 있다.

우선, 비디오 복호화 장치(100)는 참조 픽셀의 정수 픽셀의 픽셀 값에 수평 8탭 신호 필터(signal filter;보간 필터라고도 함) 및 수직 8탭 신호 필터를 적용하여 참조 블록 내 참조 픽셀의 픽셀 값을 결정할 수 있다.

비디오 복호화 장치(100)는 참조 블록의 정수 픽셀 값에 대해 수평 방향의 8탭 신호 필터를 적용하여 필터링을 수행함으로써 수평 방향으로 소수 픽셀단위의 위치 성분을 갖는 참조 픽셀의 픽셀 값을 결정하고, 이를 버퍼에 저장할 수 있다. 비디오 복호화 장치(100)는 수직 방향으로 정수 단위의 위치 성분을 갖는 참조 픽셀의 픽셀 값에 대해 수직 방향의 8탭 신호 필터를 적용하여 수직 방향으로 소수 픽셀 단위 위치 성분을 갖는 참조 픽셀의 픽셀 값을 결정할 수 있다.

비디오 복호화 장치(100)는 참조 블록의 정수 픽셀 값에 대해 먼저 수직 방향의 6탭 신호 필터를 적용하고, 그 후에 수평 방향의 6탭 그래디언트 필터를 적용하여 필터링을 수행함으로써 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값을 결정할 수 있다.

즉, 비디오 복호화 장치(100)는 참조 블록의 정수 픽셀 값에 대해 수직 방향의 6탭 신호 필터를 적용하여 필터링을 수행함으로써 수직 방향으로 소수 픽셀단위의 위치 성분을 갖는 참조 픽셀의 픽셀 값을 결정하고, 이를 버퍼에 저장할 수 있다.

비디오 복호화 장치(100)는 수평 방향으로 정수 단위의 위치 성분을 갖는 참조 픽셀의 픽셀 값에 대해 수평 방향의 6탭 그래디언트 필터를 적용하여 수평 방향으로도 소수 픽셀단위 위치 성분을 갖는 참조 픽셀의 수평 방향의 그래디언트 값을 결정할 수 있다.

비디오 복호화 장치(100)는 참조 블록의 정수 픽셀 값에 대해 먼저 수직 방향의 6탭 그래디언트 필터를 적용하고, 그 후에 수평 방향의 6탭 신호 필터를 적용하여 필터링을 수행함으로써 참조 블록 내 참조 픽셀의 수직 방향의 그래디언트 값을 결정할 수 있다.

즉, 비디오 복호화 장치(100)는 참조 블록의 정수 픽셀 값에 대해 수직 방향의 6탭 그래디언트 필터를 적용하여 필터링을 수행함으로써 수직 방향으로 소수 픽셀단위의 위치 성분을 갖는 참조 픽셀의 그래디언트 값을 결정하고, 이를 버퍼에 저장할 수 있다.

비디오 복호화 장치(100)는 수평 방향으로 정수 단위의 위치 성분을 갖는 참조 픽셀의 수직 방향 그래디언트 값에 대해 수평 방향의 6탭 신호 필터를 적용하여 수평 방향으로도 소수 픽셀단위 위치 성분을 갖는 참조 픽셀의 수직 방향의 그래디언트 값을 결정할 수 있다.

즉, 비디오 복호화 장치(100)는 참조 블록 내 참조 픽셀의 픽셀 값, 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값 및 참조 블록 내 참조 픽셀의 수직 방향의 그래디언트 값을 각각 결정하기 위해 2개의 1차원 필터가 적용될 수 있고, 이때, 각 필터의 계수와 대응하는 픽셀에 관한 값 간에 곱셉 연산이 수행될 수 있다. 예를 들어, 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값을 결정하기 위해 6탭 신호/그래디언트 필터 두개가 이용되게 되고, 픽셀당 총 12번의 곱셉 연산이 수행될 수 있다. 또한, 참조 블록 내 참조 픽셀의 수직 방향의 그래디언트 값을 결정하기 위해 6탭 신호/그래디언트 필터 두개가 이용되게 되고, 픽셀당 총 12번의 곱셉 연산이 수행될 수 있다.

도 9l은 다른 실시예에 따라 현재 블록에 대한 움직임 보상을 수행하기 위해 필터를 이용하여 참조 블록 내 참조 픽셀의 픽셀 값 및 수평 방향 및 수직 방향의 그래디언트 값을 결정하는 과정을 설명하기 위한 도면이다.

도 9l를 참조하면, 비디오 복호화 장치(100)는 현재 블록에 대응하는 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값을 이용하여 현재 블록에 대한 픽셀 단위 및 블록 단위의 움직임 보상을 수행할 수 있다. 따라서, 현재 블록에 대한 픽셀 단위 및 블록 단위의 움직임 보상을 수행하기 위해서는 현재 블록에 대응하는 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값이 결정되어야 한다. 이때, 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값의 단위는 소수 픽셀 단위일 수 있다. 예를 들어, 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값의 단위는 1/16 픽셀(1/16 pel) 단위일 수 있다.

비디오 복호화 장치(100)는 소수 픽셀 단위의 참조 블록 내 참조 픽셀의 픽셀 값 및 그래디언트 값을 결정하기 위해 참조 블록의 정수 픽셀의 픽셀 값에 대해 필터링을 수행할 수 있다.

도 9k를 참조하여 설명한 것과 달리, 비디오 복호화 장치(100)는 우선 참조 블록의 정수 픽셀 값에 수평 8탭 신호 필터 및 수직 8탭 신호 필터를 적용하여 참조 블록 내 참조 픽셀의 픽셀 값을 결정한 후에 참조 블록 내 참조 픽셀의 픽셀 값에 대해 수평 5탭 그래디언트 필터를 적용하여 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값을 결정할 수 있다. 또한, 비디오 복호화 장치(100)는 참조 블록 내 참조 픽셀의 픽셀 값에 대해 수직 5탭 그래디언트 필터를 적용하여 참조 블록 내 참조 픽셀의 수직 방향 그래디언트 값을 결정할 수 있다.

비디오 복호화 장치(100)는 2개의 1차원 신호(보간) 필터를 적용하여 소수 픽셀 단위의 위치를 갖는 참조 픽셀의 픽셀 값을 결정한 후에, 소수 픽셀 단위의 위치에 있는 참조 픽셀의 픽셀 값에 2개의 1차원 그래디언트 필터를 병렬적으로 적용함으로써 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값 또는 수직 방향의 그래디언트 값을 결정할 수 있다.

비디오 복호화 장치(100)는 참조 픽셀의 픽셀 값에 다음 수학식 42와 같이 5탭의 수평 방향 그래디언트 필터(필터 계수가 {9, -48, 0, 48, 9}임;다만 필터 계수는 이에 제한되지 않음)를 적용하여 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값 Ix(k)을 결정할 수 있다. 여기서 k는 0 또는 1의 값을 가질 수 있고, 각각 참조 픽처 0,1을 나타낼 수 있다. I(k)[i,j]는 (i,j) 위치의 참조 블록 내 참조 픽셀의 픽셀 값일 수 있다. i는 픽셀의 수평 방향 위치 성분, j는 픽셀의 수직 방향 위치 성분으로 그 단위가 소수 픽셀 단위일 수 있다.

따라서, 비디오 복호화 장치(100)는 샘플당 2번의 곱셉 연산만을 수행함으로써 참조 블록 내 참조 픽셀의 수평 방향의 그래디언트 값 Ix(k)을 결정할 수 있다.

또한, 비디오 복호화 장치(100)는 참조 픽셀의 픽셀 값에 다음 수학식 43과 같이 5탭의 수직 방향 그래디언트 필터(필터 계수가 {9, -48, 0, 48, 9}임; 다만 이에 제한되지 않음)를 적용하여 참조 블록 내 참조 픽셀의 수직 방향의 그래디언트 값 Iy(k)을 결정할 수 있다. 여기서 k는 0 또는 1의 값을 가질 수 있고, 각각 참조 픽처 0,1을 나타낼 수 있다. I(k)[i,j]는 (i,j) 위치의 참조 블록 내 참조 픽셀의 픽셀 값일 수 있다. i는 픽셀의 수평 방향 위치 성분, j는 픽셀의 수직 방향 위치 성분으로 그 단위가 소수 픽셀 단위일 수 있다.

따라서, 비디오 복호화 장치(100)는 샘플당 2번의 곱셉 연산만을 수행함으로써 참조 블록 내 참조 픽셀의 수직 방향의 그래디언트 값 Iy(k)을 결정할 수 있다.

비디오 복호화 장치(100)가 윈도우 크기에 의한 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, 그래디언트 필터 길이를 축소하여 픽셀 단위 움직임 보상을 수행하는 경우, 각각의 경우에 대한 메모리 액세스 횟수 및 곱셈 연산 횟수만큼 메모리 액세스 동작 및 곱셈 연산이 비디오 복호화 장치(100)에서 하기 표 7과 같이 수행될 수 있다. 이때, 신호 필터의 길이 T가 8이고, 그래디언트 필터의 길이 T가 6이고, 간소화된 그래디언트 필터의 길이 T가 5이고, 블록의 크기가 NxN이고, 픽셀별 윈도우의 크기 2M+1가 5라고 가정한다.

	블록 확장과 함께픽셀 단위 움직임 보상	그래디언트 필터 길이 축소
메모리 액세스 횟수	2x(N+4+7)x(N+4+7)	2x(N+4+7)x(N+4+7)
곱셈 연산 횟수	2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}	2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}2*2*{(N+4)x(N+4)}2*2*{(N+4)x(N+4)}

즉, 비디오 복호화 장치(100)는 수학식 41 및 42에 의하여 1차원 그래디언트 필터당 2번의 곱셈 연산을 수행하고, 2개의 참조 블록에 대해서 그래디언트 필터가 적용되고, 윈도우의 크기에 기초하여 확장된 (N+4)x(N+4) 참조 블록에 대해서 그래디언트 필터가 적용되므로, 수평 방향 및 수직 방향의 참조 픽셀의 그래디언트 값을 결정하기 위해서 총 2*2*{(N+4)x(N+4)}*2 번의 곱셈 연산이 수행될 수 있다.비디오 복호화 장치(100)가 윈도우 크기에 의한 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우, 블록의 확장없이 그래디언트 필터의 길이를 축소하여 픽셀 그룹 단위 움직임 보상을 수행하는 경우, 각각의 경우에 대한 메모리 액세스 횟수 및 곱셈 연산 횟수만큼 메모리 액세스 동작 및 곱셈 연산 및 나눗셈 연산이 비디오 복호화 장치(100)에서 하기 표 8과 같이 수행될 수 있다. 이때, 신호 필터의 길이 T가 8이고, 그래디언트 필터의 길이 T가 6이고, 축소된 그래디언트 필터의 길이 T가 5이고, 픽셀 그룹의 크기가 LxL이고, 블록의 크기가 NxN이고, 픽셀별 윈도우의 크기 2M+1가 5라고 가정한다.

	블록 확장과 함께픽셀 단위 움직임 보상	그래디언트 필터의 길이 축소와 함께 블록 확장없이 픽셀 그룹 단위 움직임 보상
메모리 액세스 횟수	2x(N+4+7)x(N+4+7)	2x(N+7)x(N+7)
곱셈 연산 횟수	2*8*{(N +4+7) x (N+4) + (N+4) x (N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}2*6*{(N+4+5)x(N+4)+(N+4)x(N+4)}	2*8*{(N+7) x N + N x N}2*2*{NxN}2*2*{NxN}
나눗셈 연산 횟수	2N*N	2*N*N/L^2

따라서, 비디오 복호화 장치(100)가 블록의 확장없이 그래디언트 필터의 길이를 축소하여 픽셀 그룹 단위 움직임 보상을 수행하는 경우의 메모리 액세스 횟수, 곱셈 연산 횟수 및 나눗셈 연산횟수는 블록 확장과 함께 픽셀 단위 움직임 보상을 수행하는 경우의 메모리 액세스 횟수, 곱셉 연산 횟수, 나눗셈 연산 횟수보다 상당히 감소될 수 있다.이하, 도 10 내지 도 23을 참조하여 일 실시예에 따른 비디오 복호화 장치(100)가 영상을 복호화하는 과정에서 이용할 수 있는 데이터 단위를 결정하는 방법을 설명하도록 한다. 비디오 부호화 장치(150)의 동작은 후술하는 비디오 복호화 장치(100)의 동작에 대한 다양한 실시예와 유사하거나 반대되는 동작이 될 수 있다.

도 10은 일 실시예에 따라 비디오 복호화 장치(100)가 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보를 이용하여 부호화 단위의 형태를 결정할 수 있고, 분할 형태 정보를 이용하여 부호화 단위가 어떤 형태로 분할되는지를 결정할 수 있다. 즉, 비디오 복호화 장치(100)가 이용하는 블록 형태 정보가 어떤 블록 형태를 나타내는지에 따라 분할 형태 정보가 나타내는 부호화 단위의 분할 방법이 결정될 수 있다.

일 실시예에 따라, 비디오 복호화 장치(100)는 현재 부호화 단위가 정사각형 형태임을 나타내는 블록 형태 정보를 이용할 수 있다. 예를 들어 비디오 복호화 장치(100)는 분할 형태 정보에 따라 정사각형의 부호화 단위를 분할하지 않을지, 수직으로 분할할지, 수평으로 분할할지, 4개의 부호화 단위로 분할할지 등을 결정할 수 있다. 도 10을 참조하면, 현재 부호화 단위(1000)의 블록 형태 정보가 정사각형의 형태를 나타내는 경우, 비디오 복호화 장치(100)는 분할되지 않음을 나타내는 분할 형태 정보에 따라 현재 부호화 단위(1000)와 동일한 크기를 가지는 부호화 단위(1010a)를 분할하지 않거나, 소정의 분할방법을 나타내는 분할 형태 정보에 기초하여 분할된 부호화 단위(1010b, 1010c, 1010d 등)를 결정할 수 있다.

도 10을 참조하면 비디오 복호화 장치(100)는 일 실시예에 따라 수직방향으로 분할됨을 나타내는 분할 형태 정보에 기초하여 현재 부호화 단위(1000)를 수직방향으로 분할한 두개의 부호화 단위(1010b)를 결정할 수 있다. 비디오 복호화 장치(100)는 수평방향으로 분할됨을 나타내는 분할 형태 정보에 기초하여 현재 부호화 단위(1000)를 수평방향으로 분할한 두개의 부호화 단위(1010c)를 결정할 수 있다. 비디오 복호화 장치(100)는 수직방향 및 수평방향으로 분할됨을 나타내는 분할 형태 정보에 기초하여 현재 부호화 단위(1000)를 수직방향 및 수평방향으로 분할한 네개의 부호화 단위(1010d)를 결정할 수 있다. 다만 정사각형의 부호화 단위가 분할될 수 있는 분할 형태는 상술한 형태로 한정하여 해석되어서는 안되고, 분할 형태 정보가 나타낼 수 있는 다양한 형태가 포함될 수 있다. 정사각형의 부호화 단위가 분할되는 소정의 분할 형태들은 이하에서 다양한 실시예를 통해 구체적으로 설명하도록 한다.

도 11은 일 실시예에 따라 비디오 복호화 장치(100)가 비-정사각형의 형태인 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위가 비-정사각형 형태임을 나타내는 블록 형태 정보를 이용할 수 있다. 비디오 복호화 장치(100)는 분할 형태 정보에 따라 비-정사각형의 현재 부호화 단위를 분할하지 않을지 소정의 방법으로 분할할지 여부를 결정할 수 있다. 도 11을 참조하면, 현재 부호화 단위(1100 또는 1150)의 블록 형태 정보가 비-정사각형의 형태를 나타내는 경우, 비디오 복호화 장치(100)는 분할되지 않음을 나타내는 분할 형태 정보에 따라 현재 부호화 단위(1100 또는 1150)와 동일한 크기를 가지는 부호화 단위(1110 또는 1160)를 분할하지 않거나, 소정의 분할방법을 나타내는 분할 형태 정보에 따라 기초하여 분할된 부호화 단위(1120a, 1120b, 1130a, 1130b, 1130c, 1170a, 1170b, 1180a, 1180b, 1180c)를 결정할 수 있다. 비-정사각형의 부호화 단위가 분할되는 소정의 분할 방법은 이하에서 다양한 실시예를 통해 구체적으로 설명하도록 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 분할 형태 정보를 이용하여 부호화 단위가 분할되는 형태를 결정할 수 있고, 이 경우 분할 형태 정보는 부호화 단위가 분할되어 생성되는 적어도 하나의 부호화 단위의 개수를 나타낼 수 있다. 도 11를 참조하면 분할 형태 정보가 두개의 부호화 단위로 현재 부호화 단위(1100 또는 1150)가 분할되는 것을 나타내는 경우, 비디오 복호화 장치(100)는 분할 형태 정보에 기초하여 현재 부호화 단위(1100 또는 1150)를 분할하여 현재 부호화 단위에 포함되는 두개의 부호화 단위(1120a, 11420b, 또는 1170a, 1170b)를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)가 분할 형태 정보에 기초하여 비-정사각형의 형태의 현재 부호화 단위(1100 또는 1150)를 분할하는 경우, 비-정사각형의 현재 부호화 단위(1100 또는 1150)의 긴 변의 위치를 고려하여 현재 부호화 단위를 분할할 수 있다. 예를 들면, 비디오 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)의 형태를 고려하여 현재 부호화 단위(1100 또는 1150)의 긴 변을 분할하는 방향으로 현재 부호화 단위(1100 또는 1150)를 분할하여 복수개의 부호화 단위를 결정할 수 있다.

일 실시예에 따라, 분할 형태 정보가 홀수개의 블록으로 부호화 단위를 분할하는 것을 나타내는 경우, 비디오 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)에 포함되는 홀수개의 부호화 단위를 결정할 수 있다. 예를 들면, 분할 형태 정보가 3개의 부호화 단위로 현재 부호화 단위(1100 또는 1150)를 분할하는 것을 나타내는 경우, 비디오 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)를 3개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c)로 분할할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)에 포함되는 홀수개의 부호화 단위를 결정할 수 있으며, 결정된 부호화 단위들의 크기 모두가 동일하지는 않을 수 있다. 예를 들면, 결정된 홀수개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c) 중 소정의 부호화 단위(1130b 또는 1180b)의 크기는 다른 부호화 단위(1130a, 1130c, 1180a, 1180c)들과는 다른 크기를 가질 수도 있다. 즉, 현재 부호화 단위(1100 또는 1150)가 분할되어 결정될 수 있는 부호화 단위는 복수의 종류의 크기를 가질 수 있고, 경우에 따라서는 홀수개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c)가 각각 서로 다른 크기를 가질 수도 있다.

일 실시예에 따라 분할 형태 정보가 홀수개의 블록으로 부호화 단위가 분할되는 것을 나타내는 경우, 비디오 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)에 포함되는 홀수개의 부호화 단위를 결정할 수 있고, 나아가 비디오 복호화 장치(100)는 분할하여 생성되는 홀수개의 부호화 단위들 중 적어도 하나의 부호화 단위에 대하여 소정의 제한을 둘 수 있다. 도 11을 참조하면 비디오 복호화 장치(100)는 현재 부호화 단위(1100 또는 1150)가 분할되어 생성된 3개의 부호화 단위(1130a, 1130b, 1130c, 1180a, 1180b, 1180c)들 중 중앙에 위치하는 부호화 단위(1130b, 1180b)에 대한 복호화 과정을 다른 부호화 단위(1130a, 1130c, 1180a, 1180c)와 다르게 할 수 있다. 예를 들면, 비디오 복호화 장치(100)는 중앙에 위치하는 부호화 단위(1130b, 1180b)에 대하여는 다른 부호화 단위(1130a, 1130c, 1180a, 1180c)와 달리 더 이상 분할되지 않도록 제한하거나, 소정의 횟수만큼만 분할되도록 제한할 수 있다.

도 12는 일 실시예에 따라 비디오 복호화 장치(100)가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 부호화 단위를 분할하는 과정을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 정사각형 형태의 제1 부호화 단위(1200)를 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다. 일 실시예에 따라 분할 형태 정보가 수평 방향으로 제1 부호화 단위(1200)를 분할하는 것을 나타내는 경우, 비디오 복호화 장치(100)는 제1 부호화 단위(1200)를 수평 방향으로 분할하여 제2 부호화 단위(1210)를 결정할 수 있다. 일 실시예에 따라 이용되는 제1 부호화 단위, 제2 부호화 단위, 제3 부호화 단위는 부호화 단위 간의 분할 전후 관계를 이해하기 위해 이용된 용어이다. 예를 들면, 제1 부호화 단위를 분할하면 제2 부호화 단위가 결정될 수 있고, 제2 부호화 단위가 분할되면 제3 부호화 단위가 결정될 수 있다. 이하에서는 이용되는 제1 부호화 단위, 제2 부호화 단위 및 제3 부호화 단위의 관계는 상술한 특징에 따르는 것으로 이해될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 결정된 제2 부호화 단위(1210)를 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다. 도 12를 참조하면 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1200)를 분할하여 결정된 비-정사각형의 형태의 제2 부호화 단위(1210)를 적어도 하나의 제3 부호화 단위(1220a, 1220b, 1220c, 1220d 등)로 분할하거나 제2 부호화 단위(1210)를 분할하지 않을 수 있다. 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 획득할 수 있고 비디오 복호화 장치(100)는 획득한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1200)를 분할하여 다양한 형태의 복수개의 제2 부호화 단위(예를 들면, 1210)를 분할할 수 있으며, 제2 부호화 단위(1210)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1200)가 분할된 방식에 따라 분할될 수 있다. 일 실시예에 따라, 제1 부호화 단위(1200)가 제1 부호화 단위(1200)에 대한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제2 부호화 단위(1210)로 분할된 경우, 제2 부호화 단위(1210) 역시 제2 부호화 단위(1210)에 대한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제3 부호화 단위(예를 들면, 1220a, 1220b, 1220c, 1220d 등)으로 분할될 수 있다. 즉, 부호화 단위는 부호화 단위 각각에 관련된 분할 형태 정보 및 블록 형태 정보 중 적어도 하나에 기초하여 재귀적으로 분할될 수 있다. 따라서 비-정사각형 형태의 부호화 단위에서 정사각형의 부호화 단위가 결정될 수 있고, 이러한 정사각형 형태의 부호화 단위가 재귀적으로 분할되어 비-정사각형 형태의 부호화 단위가 결정될 수도 있다. 도 12를 참조하면, 비-정사각형 형태의 제2 부호화 단위(1210)가 분할되어 결정되는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 소정의 부호화 단위(예를 들면, 가운데에 위치하는 부호화 단위 또는 정사각형 형태의 부호화 단위)는 재귀적으로 분할될 수 있다. 일 실시예에 따라 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 하나인 정사각형 형태의 제3 부호화 단위(1220c)는 수평 방향으로 분할되어 복수개의 제4 부호화 단위로 분할될 수 있다. 복수개의 제4 부호화 단위 중 하나인 비-정사각형 형태의 제4 부호화 단위(1240)는 다시 복수개의 부호화 단위들로 분할될 수 있다. 예를 들면, 비-정사각형 형태의 제4 부호화 단위(1240)는 홀수개의 부호화 단위(1250a, 1250b, 1250c)로 다시 분할될 수도 있다.

부호화 단위의 재귀적 분할에 이용될 수 있는 방법에 대하여는 다양한 실시예를 통해 후술하도록 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제3 부호화 단위(1220a, 1220b, 1220c, 1220d 등) 각각을 부호화 단위들로 분할하거나 제2 부호화 단위(1210)를 분할하지 않는 것으로 결정할 수 있다. 비디오 복호화 장치(100)는 일 실시예에 따라 비-정사각형 형태의 제2 부호화 단위(1210)를 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d)로 분할할 수 있다. 비디오 복호화 장치(100)는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 소정의 제3 부호화 단위에 대하여 소정의 제한을 둘 수 있다. 예를 들면 비디오 복호화 장치(100)는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d) 중 가운데에 위치하는 부호화 단위(1220c)에 대하여는 더 이상 분할되지 않는 것으로 제한하거나 또는 설정 가능한 횟수로 분할되어야 하는 것으로 제한할 수 있다. 도 12를 참조하면, 비디오 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1210)에 포함되는 홀수개의 제3 부호화 단위(1220b, 1220c, 1220d)들 중 가운데에 위치하는 부호화 단위(1220c)는 더 이상 분할되지 않거나, 소정의 분할 형태로 분할(예를 들면 4개의 부호화 단위로만 분할하거나 제2 부호화 단위(1210)가 분할된 형태에 대응하는 형태로 분할)되는 것으로 제한하거나, 소정의 횟수로만 분할(예를 들면 n회만 분할, n>0)하는 것으로 제한할 수 있다. 다만 가운데에 위치한 부호화 단위(1220c)에 대한 상기 제한은 단순한 실시예들에 불과하므로 상술한 실시예들로 제한되어 해석되어서는 안되고, 가운데에 위치한 부호화 단위(1220c)가 다른 부호화 단위(1220b, 1220d)와 다르게 복호화 될 수 있는 다양한 제한들을 포함하는 것으로 해석되어야 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위를 분할하기 위해 이용되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 현재 부호화 단위 내의 소정의 위치에서 획득할 수 있다.

도 13은 일 실시예에 따라 비디오 복호화 장치(100)가 홀수개의 부호화 단위들 중 소정의 부호화 단위를 결정하기 위한 방법을 도시한다. 도 13을 참조하면, 현재 부호화 단위(1300)의 블록 형태 정보 및 분할 형태 정보 중 적어도 하나는 현재 부호화 단위(1300)에 포함되는 복수개의 샘플 중 소정 위치의 샘플(예를 들면, 가운데에 위치하는 샘플(1340))에서 획득될 수 있다. 다만 이러한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나가 획득될 수 있는 현재 부호화 단위(1300) 내의 소정 위치가 도 13에서 도시하는 가운데 위치로 한정하여 해석되어서는 안되고, 소정 위치에는 현재 부호화 단위(1300)내에 포함될 수 있는 다양한 위치(예를 들면, 최상단, 최하단, 좌측, 우측, 좌측상단, 좌측하단, 우측상단 또는 우측하단 등)가 포함될 수 있는 것으로 해석되어야 한다. 비디오 복호화 장치(100)는 소정 위치로부터 획득되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 획득하여 현재 부호화 단위를 다양한 형태 및 크기의 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위가 소정의 개수의 부호화 단위들로 분할된 경우 그 중 하나의 부호화 단위를 선택할 수 있다. 복수개의 부호화 단위들 중 하나를 선택하기 위한 방법은 다양할 수 있으며, 이러한 방법들에 대한 설명은 이하의 다양한 실시예를 통해 후술하도록 한다.

일 실시예에 따라 비디오 복호화 장치(100) 는 현재 부호화 단위를 복수개의 부호화 단위들로 분할하고, 소정 위치의 부호화 단위를 결정할 수 있다.

도 13은 일 실시예에 따라 비디오 복호화 장치(100)가 홀수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위한 방법을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 홀수개의 부호화 단위들 중 가운데에 위치하는 부호화 단위를 결정하기 위하여 홀수개의 부호화 단위들 각각의 위치를 나타내는 정보를 이용할 수 있다. 도 13을 참조하면, 비디오 복호화 장치(100)는 현재 부호화 단위(1300)를 분할하여 홀수개의 부호화 단위들(1320a, 1320b, 1320c)을 결정할 수 있다. 비디오 복호화 장치(100)는 홀수개의 부호화 단위들(1320a, 1320b, 1320c)의 위치에 대한 정보를 이용하여 가운데 부호화 단위(1320b)를 결정할 수 있다. 예를 들면 비디오 복호화 장치(100)는 부호화 단위들(1320a, 1320b, 1320c)에 포함되는 소정의 샘플의 위치를 나타내는 정보에 기초하여 부호화 단위들(1320a, 1320b, 1320c)의 위치를 결정함으로써 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다. 구체적으로, 비디오 복호화 장치(100)는 부호화 단위들(1320a, 1320b, 1320c)의 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 정보에 기초하여 부호화 단위(1320a, 1320b, 1320c)의 위치를 결정함으로써 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다.

일 실시예에 따라 부호화 단위(1320a, 1320b, 1320c)에 각각 포함되는 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 정보는 부호화 단위(1320a, 1320b, 1320c)의 픽쳐 내에서의 위치 또는 좌표에 대한 정보를 포함할 수 있다. 일 실시예에 따라 부호화 단위(1320a, 1320b, 1320c)에 각각 포함되는 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 정보는 현재 부호화 단위(1300)에 포함되는 부호화단위(1320a, 1320b, 1320c)들의 너비 또는 높이를 나타내는 정보를 포함할 수 있고, 이러한 너비 또는 높이는 부호화 단위(1320a, 1320b, 1320c)의 픽쳐 내에서의 좌표 간의 차이를 나타내는 정보에 해당할 수 있다. 즉, 비디오 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c)의 픽쳐 내에서의 위치 또는 좌표에 대한 정보를 직접이용하거나 좌표간의 차이값에 대응하는 부호화 단위의 너비 또는 높이에 대한 정보를 이용함으로써 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다.

일 실시예에 따라, 상단 부호화 단위(1320a)의 좌측 상단의 샘플(1330a)의 위치를 나타내는 정보는 (xa, ya) 좌표를 나타낼 수 있고, 가운데 부호화 단위(1320b)의 좌측 상단의 샘플(1330b)의 위치를 나타내는 정보는 (xb, yb) 좌표를 나타낼 수 있고, 하단 부호화 단위(1320c)의 좌측 상단의 샘플(1330c)의 위치를 나타내는 정보는 (xc, yc) 좌표를 나타낼 수 있다. 비디오 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c)에 각각 포함되는 좌측 상단의 샘플(1330a, 1330b, 1330c)의 좌표를 이용하여 가운데 부호화 단위(1320b)를 결정할 수 있다. 예를 들면, 좌측 상단의 샘플(1330a, 1330b, 1330c)의 좌표를 오름차순 또는 내림차순으로 정렬하였을 때, 가운데에 위치하는 샘플(1330b)의 좌표인 (xb, yb)를 포함하는 부호화 단위(1320b)를 현재 부호화 단위(1300)가 분할되어 결정된 부호화 단위(1320a, 1320b, 1320c) 중 가운데에 위치하는 부호화 단위로 결정할 수 있다. 다만 좌측 상단의 샘플(1330a, 1330b, 1330c)의 위치를 나타내는 좌표는 픽쳐 내에서의 절대적인 위치를 나타내는 좌표를 나타낼 수 있고, 나아가 상단 부호화 단위(1320a)의 좌측 상단의 샘플(1330a)의 위치를 기준으로, 가운데 부호화 단위(1320b)의 좌측 상단의 샘플(1330b)의 상대적 위치를 나타내는 정보인 (dxb, dyb)좌표, 하단 부호화 단위(1320c)의 좌측 상단의 샘플(1330c)의 상대적 위치를 나타내는 정보인 (dxc, dyc)좌표를 이용할 수도 있다. 또한 부호화 단위에 포함되는 샘플의 위치를 나타내는 정보로서 해당 샘플의 좌표를 이용함으로써 소정 위치의 부호화 단위를 결정하는 방법이 상술한 방법으로 한정하여 해석되어서는 안되고, 샘플의 좌표를 이용할 수 있는 다양한 산술적 방법으로 해석되어야 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위(1300)를 복수개의 부호화 단위(1320a, 1320b, 1320c)로 분할할 수 있고, 부호화 단위(1320a, 1320b, 1320c)들 중 소정의 기준에 따라 부호화 단위를 선택할 수 있다. 예를 들면, 비디오 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c) 중 크기가 다른 부호화 단위(1320b)를 선택할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 상단 부호화 단위(1320a)의 좌측 상단의 샘플(1330a)의 위치를 나타내는 정보인 (xa, ya) 좌표, 가운데 부호화 단위(1320b)의 좌측 상단의 샘플(1330b)의 위치를 나타내는 정보인 (xb, yb) 좌표, 하단 부호화 단위(1320c)의 좌측 상단의 샘플(1330c)의 위치를 나타내는 정보인 (xc, yc) 좌표를 이용하여 부호화 단위(1320a, 1320b, 1320c) 각각의 너비 또는 높이를 결정할 수 있다. 비디오 복호화 장치(100)는 부호화 단위(1320a, 1320b, 1320c)의 위치를 나타내는 좌표인 (xa, ya), (xb, yb), (xc, yc)를 이용하여 부호화 단위(1320a, 1320b, 1320c) 각각의 크기를 결정할 수 있다.

일 실시예에 따라, 비디오 복호화 장치(100)는 상단 부호화 단위(1320a)의 너비를 xb-xa로 결정할 수 있고 높이를 yb-ya로 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 가운데 부호화 단위(1320b)의 너비를 xc-xb로 결정할 수 있고 높이를 yc-yb로 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 하단 부호화 단위의 너비 또는 높이는 현재 부호화 단위의 너비 또는 높이와 상단 부호화 단위(1320a) 및 가운데 부호화 단위(1320b)의 너비 및 높이를 이용하여 결정할 수 있다. 비디오 복호화 장치(100)는 결정된 부호화 단위(1320a, 1320b, 1320c)의 너비 및 높이에 기초하여 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정할 수 있다. 도 13을 참조하면, 비디오 복호화 장치(100)는 상단 부호화 단위(1320a) 및 하단 부호화 단위(1320c)의 크기와 다른 크기를 가지는 가운데 부호화 단위(1320b)를 소정 위치의 부호화 단위로 결정할 수 있다. 다만 상술한 비디오 복호화 장치(100)가 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정하는 과정은 샘플 좌표에 기초하여 결정되는 부호화 단위의 크기를 이용하여 소정 위치의 부호화 단위를 결정하는 일 실시예에 불과하므로, 소정의 샘플 좌표에 따라 결정되는 부호화 단위의 크기를 비교하여 소정 위치의 부호화 단위를 결정하는 다양한 과정이 이용될 수 있다.

다만 부호화 단위의 위치를 결정하기 위하여 고려하는 샘플의 위치는 상술한 좌측 상단으로 한정하여 해석되어서는 안되고 부호화 단위에 포함되는 임의의 샘플의 위치에 대한 정보가 이용될 수 있는 것으로 해석될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위의 형태를 고려하여, 현재 부호화 단위가 분할되어 결정되는 홀수개의 부호화 단위들 중 소정 위치의 부호화 단위를 선택할 수 있다. 예를 들면, 현재 부호화 단위가 너비가 높이보다 긴 비-정사각형 형태라면 비디오 복호화 장치(100)는 수평 방향에 따라 소정 위치의 부호화 단위를 결정할 수 있다. 즉, 비디오 복호화 장치(100)는 수평 방향으로 위치를 달리 하는 부호화 단위들 중 하나를 결정하여 해당 부호화 단위에 대한 제한을 둘 수 있다. 현재 부호화 단위가 높이가 너비보다 긴 비-정사각형 형태라면 비디오 복호화 장치(100)는 수직 방향에 따라 소정 위치의 부호화 단위를 결정할 수 있다. 즉, 비디오 복호화 장치(100)는 수직 방향으로 위치를 달리 하는 부호화 단위들 중 하나를 결정하여 해당 부호화 단위에 대한 제한을 둘 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 짝수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여 짝수개의 부호화 단위들 각각의 위치를 나타내는 정보를 이용할 수 있다. 비디오 복호화 장치(100)는 현재 부호화 단위를 분할하여 짝수개의 부호화 단위들을 결정할 수 있고 짝수개의 부호화 단위들의 위치에 대한 정보를 이용하여 소정 위치의 부호화 단위를 결정할 수 있다. 이에 대한 구체적인 과정은 도 13에서 상술한 홀수개의 부호화 단위들 중 소정 위치(예를 들면, 가운데 위치)의 부호화 단위를 결정하는 과정에 대응하는 과정일 수 있으므로 생략하도록 한다.

일 실시예에 따라, 비-정사각형 형태의 현재 부호화 단위를 복수개의 부호화 단위로 분할한 경우, 복수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여 분할 과정에서 소정 위치의 부호화 단위에 대한 소정의 정보를 이용할 수 있다. 예를 들면 비디오 복호화 장치(100)는 현재 부호화 단위가 복수개로 분할된 부호화 단위들 중 가운데에 위치하는 부호화 단위를 결정하기 위하여 분할 과정에서 가운데 부호화 단위에 포함된 샘플에 저장된 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용할 수 있다.

도 13을 참조하면 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 현재 부호화 단위(1300)를 복수개의 부호화 단위들(1320a, 1320b, 1320c)로 분할할 수 있으며, 복수개의 부호화 단위들(1320a, 1320b, 1320c) 중 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다. 나아가 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나가 획득되는 위치를 고려하여, 가운데에 위치하는 부호화 단위(1320b)를 결정할 수 있다. 즉, 현재 부호화 단위(1300)의 블록 형태 정보 및 분할 형태 정보 중 적어도 하나는 현재 부호화 단위(1300)의 가운데에 위치하는 샘플(1340)에서 획득될 수 있으며, 상기 블록 형태 정보 및 상기 분할 형태 정보 중 적어도 하나에 기초하여 현재 부호화 단위(1300)가 복수개의 부호화 단위들(1320a, 1320b, 1320c)로 분할된 경우 상기 샘플(1340)을 포함하는 부호화 단위(1320b)를 가운데에 위치하는 부호화 단위로 결정할 수 있다. 다만 가운데에 위치하는 부호화 단위로 결정하기 위해 이용되는 정보가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나로 한정하여 해석되어서는 안되고, 다양한 종류의 정보가 가운데에 위치하는 부호화 단위를 결정하는 과정에서 이용될 수 있다.

일 실시예에 따라 소정 위치의 부호화 단위를 식별하기 위한 소정의 정보는, 결정하려는 부호화 단위에 포함되는 소정의 샘플에서 획득될 수 있다. 도 13을 참조하면, 비디오 복호화 장치(100)는 현재 부호화 단위(1300)가 분할되어 결정된 복수개의 부호화 단위들(1320a, 1320b, 1320c) 중 소정 위치의 부호화 단위(예를 들면, 복수개로 분할된 부호화 단위 중 가운데에 위치하는 부호화 단위)를 결정하기 위하여 현재 부호화 단위(1300) 내의 소정 위치의 샘플(예를 들면, 현재 부호화 단위(1300)의 가운데에 위치하는 샘플)에서 획득되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용할 수 있다. . 즉, 비디오 복호화 장치(100)는 현재 부호화 단위(1300)의 블록 블록 형태를 고려하여 상기 소정 위치의 샘플을 결정할 수 있고, 비디오 복호화 장치(100)는 현재 부호화 단위(1300)가 분할되어 결정되는 복수개의 부호화 단위(1320a, 1320b, 1320c)들 중, 소정의 정보(예를 들면, 블록 형태 정보 및 분할 형태 정보 중 적어도 하나)가 획득될 수 있는 샘플이 포함된 부호화 단위(1320b)를 결정하여 소정의 제한을 둘 수 있다. 도 13을 참조하면 일 실시예에 따라 비디오 복호화 장치(100)는 소정의 정보가 획득될 수 있는 샘플로서 현재 부호화 단위(1300)의 가운데에 위치하는 샘플(1340)을 결정할 수 있고, 비디오 복호화 장치(100)는 이러한 샘플(1340)이 포함되는 부호화 단위(1320b)를 복호화 과정에서의 소정의 제한을 둘 수 있다. 다만 소정의 정보가 획득될 수 있는 샘플의 위치는 상술한 위치로 한정하여 해석되어서는 안되고, 제한을 두기 위해 결정하려는 부호화 단위(1320b)에 포함되는 임의의 위치의 샘플들로 해석될 수 있다.

일 실시예에 따라 소정의 정보가 획득될 수 있는 샘플의 위치는 현재 부호화 단위(1300)의 형태에 따라 결정될 수 있다. 일 실시예에 따라 블록 형태 정보는 현재 부호화 단위의 형태가 정사각형인지 또는 비-정사각형인지 여부를 결정할 수 있고, 형태에 따라 소정의 정보가 획득될 수 있는 샘플의 위치를 결정할 수 있다. 예를 들면, 비디오 복호화 장치(100)는 현재 부호화 단위의 너비에 대한 정보 및 높이에 대한 정보 중 적어도 하나를 이용하여 현재 부호화 단위의 너비 및 높이 중 적어도 하나를 반으로 분할하는 경계 상에 위치하는 샘플을 소정의 정보가 획득될 수 있는 샘플로 결정할 수 있다. 또다른 예를 들면, 비디오 복호화 장치(100)는 현재 부호화 단위에 관련된 블록 형태 정보가 비-정사각형 형태임을 나타내는 경우, 현재 부호화 단위의 긴 변을 반으로 분할하는 경계에 인접하는 샘플 중 하나를 소정의 정보가 획득될 수 있는 샘플로 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위를 복수개의 부호화 단위로 분할한 경우, 복수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여, 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 부호화 단위에 포함된 소정 위치의 샘플에서 획득할 수 있고, 비디오 복호화 장치(100)는 현재 부호화 단위가 분할되어 생성된 복수개의 부호화 단위들을 복수개의 부호화 단위 각각에 포함된 소정 위치의 샘플로부터 획득되는 분할 형태 정보 및 블록 형태 정보 중 적어도 하나를 이용하여 분할할 수 있다. 즉, 부호화 단위는 부호화 단위 각각에 포함된 소정 위치의 샘플에서 획득되는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용하여 재귀적으로 분할될 수 있다. 부호화 단위의 재귀적 분할 과정에 대하여는 도 12를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정할 수 있고, 이러한 적어도 하나의 부호화 단위가 복호화되는 순서를 소정의 블록(예를 들면, 현재 부호화 단위)에 따라 결정할 수 있다.

도 14는 일 실시예에 따라 비디오 복호화 장치(100)가 현재 부호화 단위를 분할하여 복수개의 부호화 단위들을 결정하는 경우, 복수개의 부호화 단위들이 처리되는 순서를 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보에 따라 제1 부호화 단위(1400)를 수직 방향으로 분할하여 제2 부호화 단위(1410a, 1410b)를 결정하거나 제1 부호화 단위(1400)를 수평 방향으로 분할하여 제2 부호화 단위(1430a, 1430b)를 결정하거나 제1 부호화 단위(1400)를 수직 방향 및 수평 방향으로 분할하여 제2 부호화 단위(1450a, 1450b, 1450c, 1450d)를 결정할 수 있다.

도 14를 참조하면, 비디오 복호화 장치(100)는 제1 부호화 단위(1400)를 수직 방향으로 분할하여 결정된 제2 부호화 단위(1410a, 1410b)를 수평 방향(1410c)으로 처리되도록 순서를 결정할 수 있다. 비디오 복호화 장치(100)는 제1 부호화 단위(1400)를 수평 방향으로 분할하여 결정된 제2 부호화 단위(1430a, 1430b)의 처리 순서를 수직 방향(1430c)으로 결정할 수 있다. 비디오 복호화 장치(100)는 제1 부호화 단위(1400)를 수직 방향 및 수평 방향으로 분할하여 결정된 제2 부호화 단위(1450a, 1450b, 1450c, 1450d)를 하나의 행에 위치하는 부호화 단위들이 처리된 후 다음 행에 위치하는 부호화 단위들이 처리되는 소정의 순서(예를 들면, 래스터 스캔 순서((raster scan order) 또는 z 스캔 순서(z scan order)(1450e) 등)에 따라 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 부호화 단위들을 재귀적으로 분할할 수 있다. 도 14를 참조하면, 비디오 복호화 장치(100)는 제1 부호화 단위(1400)를 분할하여 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d)을 결정할 수 있고, 결정된 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d) 각각을 재귀적으로 분할할 수 있다. 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d)을 분할하는 방법은 제1 부호화 단위(1400)를 분할하는 방법에 대응하는 방법이 될 수 있다. 이에 따라 복수개의 부호화 단위들(1410a, 1410b, 1430a, 1430b, 1450a, 1450b, 1450c, 1450d)은 각각 독립적으로 복수개의 부호화 단위들로 분할될 수 있다. 도 14를 참조하면 비디오 복호화 장치(100)는 제1 부호화 단위(1400)를 수직 방향으로 분할하여 제2 부호화 단위(1410a, 1410b)를 결정할 수 있고, 나아가 제2 부호화 단위(1410a, 1410b) 각각을 독립적으로 분할하거나 분할하지 않는 것으로 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 좌측의 제2 부호화 단위(1410a)를 수평 방향으로 분할하여 제3 부호화 단위(1420a, 1420b)로 분할할 수 있고, 우측의 제2 부호화 단위(1410b)는 분할하지 않을 수 있다.

일 실시예에 따라 부호화 단위들의 처리 순서는 부호화 단위의 분할 과정에 기초하여 결정될 수 있다. 다시 말해, 분할된 부호화 단위들의 처리 순서는 분할되기 직전의 부호화 단위들의 처리 순서에 기초하여 결정될 수 있다. 비디오 복호화 장치(100)는 좌측의 제2 부호화 단위(1410a)가 분할되어 결정된 제3 부호화 단위(1420a, 1420b)가 처리되는 순서를 우측의 제2 부호화 단위(1410b)와 독립적으로 결정할 수 있다. 좌측의 제2 부호화 단위(1410a)가 수평 방향으로 분할되어 제3 부호화 단위(1420a, 1420b)가 결정되었으므로 제3 부호화 단위(1420a, 1420b)는 수직 방향(1420c)으로 처리될 수 있다. 또한 좌측의 제2 부호화 단위(1410a) 및 우측의 제2 부호화 단위(1410b)가 처리되는 순서는 수평 방향(1410c)에 해당하므로, 좌측의 제2 부호화 단위(1410a)에 포함되는 제3 부호화 단위(1420a, 1420b)가 수직 방향(1420c)으로 처리된 후에 우측 부호화 단위(1410b)가 처리될 수 있다. 상술한 내용은 부호화 단위들이 각각 분할 전의 부호화 단위에 따라 처리 순서가 결정되는 과정을 설명하기 위한 것이므로, 상술한 실시예에 한정하여 해석되어서는 안되고, 다양한 형태로 분할되어 결정되는 부호화 단위들이 소정의 순서에 따라 독립적으로 처리될 수 있는 다양한 방법으로 이용되는 것으로 해석되어야 한다.

도 15는 일 실시예에 따라 비디오 복호화 장치(100)가 소정의 순서로 부호화 단위가 처리될 수 없는 경우, 현재 부호화 단위가 홀수개의 부호화 단위로 분할되는 것임을 결정하는 과정을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 획득된 블록 형태 정보 및 분할 형태 정보에 기초하여 현재 부호화 단위가 홀수개의 부호화 단위들로 분할되는 것을 결정할 수 있다. 도 15를 참조하면 정사각형 형태의 제1 부호화 단위(1500)가 비-정사각형 형태의 제2 부호화 단위(1510a, 1510b)로 분할될 수 있고, 제2 부호화 단위(1510a, 1510b)는 각각 독립적으로 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)로 분할될 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 제2 부호화 단위 중 좌측 부호화 단위(1510a)는 수평 방향으로 분할하여 복수개의 제3 부호화 단위(1520a, 1520b)를 결정할 수 있고, 우측 부호화 단위(1510b)는 홀수개의 제3 부호화 단위(1520c, 1520d, 1520e)로 분할할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 제3 부호화 단위들(1520a, 1520b, 1520c, 1520d, 1520e)이 소정의 순서로 처리될 수 있는지 여부를 판단하여 홀수개로 분할된 부호화 단위가 존재하는지를 결정할 수 있다. 도 15를 참조하면, 비디오 복호화 장치(100)는 제1 부호화 단위(1500)를 재귀적으로 분할하여 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)를 결정할 수 있다. 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여, 제1 부호화 단위(1500), 제2 부호화 단위(1510a, 1510b) 또는 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)가 분할되는 형태 중 홀수개의 부호화 단위로 분할되는지 여부를 결정할 수 있다. 예를 들면, 제2 부호화 단위(1510a, 1510b) 중 우측에 위치하는 부호화 단위가 홀수개의 제3 부호화 단위(1520c, 1520d, 1520e)로 분할될 수 있다. 제1 부호화 단위(1500)에 포함되는 복수개의 부호화 단위들이 처리되는 순서는 소정의 순서(예를 들면, z-스캔 순서(z-scan order)(1530))가 될 수 있고, 비디오 복호화 장치(100)는 우측 제2 부호화 단위(1510b)가 홀수개로 분할되어 결정된 제3 부호화 단위(1520c, 1520d, 1520e)가 상기 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 판단할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 제1 부호화 단위(1500)에 포함되는 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)가 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 결정할 수 있으며, 상기 조건은 제3 부호화 단위(1520a, 1520b, 1520c, 1520d, 1520e)의 경계에 따라 제2 부호화 단위(1510a, 1510b)의 너비 및 높이 중 적어도 하나를 반으로 분할되는지 여부와 관련된다. 예를 들면 비-정사각형 형태의 좌측 제2 부호화 단위(1510a)의 높이를 반으로 분할하여 결정되는 제3 부호화 단위(1520a, 1520b)는 조건을 만족하지만, 우측 제2 부호화 단위(1510b)를 3개의 부호화 단위로 분할하여 결정되는 제3 부호화 단위(1520c, 1520d, 1520e)들의 경계가 우측 제2 부호화 단위(1510b)의 너비 또는 높이를 반으로 분할하지 못하므로 제3 부호화 단위(1520c, 1520d, 1520e)는 조건을 만족하지 못하는 것으로 결정될 수 있고, 비디오 복호화 장치(100)는 이러한 조건 불만족의 경우 스캔 순서의 단절(disconnection)로 판단하고, 판단 결과에 기초하여 우측 제2 부호화 단위(1510b)는 홀수개의 부호화 단위로 분할되는 것으로 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 홀수개의 부호화 단위로 분할되는 경우 분할된 부호화 단위들 중 소정 위치의 부호화 단위에 대하여 소정의 제한을 둘 수 있으며, 이러한 제한 내용 또는 소정 위치 등에 대하여는 다양한 실시예를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.

도 16은 일 실시예에 따라 비디오 복호화 장치(100)가 제1 부호화 단위(1600)를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다. 일 실시예에 따라 비디오 복호화 장치(100)는 획득부(110)를 통해 획득한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1600)를 분할할 수 있다. 정사각형 형태의 제1 부호화 단위(1600)는 4개의 정사각형 형태를 가지는 부호화 단위로 분할되거나 또는 비-정사각형 형태의 복수개의 부호화 단위로 분할할 수 있다. 예를 들면 도 16을 참조하면, 블록 형태 정보가 제1 부호화 단위(1600)는 정사각형임을 나타내고 분할 형태 정보가 비-정사각형의 부호화 단위로 분할됨을 나타내는 경우 비디오 복호화 장치(100)는 제1 부호화 단위(1600)를 복수개의 비-정사각형의 부호화 단위들로 분할할 수 있다. 구체적으로, 분할 형태 정보가 제1 부호화 단위(1600)를 수평 방향 또는 수직 방향으로 분할하여 홀수개의 부호화 단위를 결정하는 것을 나타내는 경우, 비디오 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1600)을 홀수개의 부호화 단위들로서 수직 방향으로 분할되어 결정된 제2 부호화 단위(1610a, 1610b, 1610c) 또는 수평 방향으로 분할되어 결정된 제2 부호화 단위(1620a, 1620b, 1620c)로 분할할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 제1 부호화 단위(1600)에 포함되는 제2 부호화 단위(1610a, 1610b, 1610c, 1620a, 1620b, 1620c)가 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 결정할 수 있으며, 상기 조건은 제2 부호화 단위(1610a, 1610b, 1610c, 1620a, 1620b, 1620c)의 경계에 따라 제1 부호화 단위(1600)의 너비 및 높이 중 적어도 하나를 반으로 분할되는지 여부와 관련된다. 도 16를 참조하면 정사각형 형태의 제1 부호화 단위(1600)를 수직 방향으로 분할하여 결정되는 제2 부호화 단위(1610a, 1610b, 1610c)들의 경계가 제1 부호화 단위(1600)의 너비를 반으로 분할하지 못하므로 제1 부호화 단위(1600)는 소정의 순서에 따라 처리될 수 있는 조건을 만족하지 못하는 것으로 결정될 수 있다. 또한 정사각형 형태의 제1 부호화 단위(1600)를 수평 방향으로 분할하여 결정되는 제2 부호화 단위(1620a, 1620b, 1620c)들의 경계가 제1 부호화 단위(1600)의 너비를 반으로 분할하지 못하므로 제1 부호화 단위(1600)는 소정의 순서에 따라 처리될 수 있는 조건을 만족하지 못하는 것으로 결정될 수 있다. 비디오 복호화 장치(100)는 이러한 조건 불만족의 경우 스캔 순서의 단절(disconnection)로 판단하고, 판단 결과에 기초하여 제1 부호화 단위(1600)는 홀수개의 부호화 단위로 분할되는 것으로 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 홀수개의 부호화 단위로 분할되는 경우 분할된 부호화 단위들 중 소정 위치의 부호화 단위에 대하여 소정의 제한을 둘 수 있으며, 이러한 제한 내용 또는 소정 위치 등에 대하여는 다양한 실시예를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.

일 실시예에 따라, 비디오 복호화 장치(100)는 제1 부호화 단위를 분할하여 다양한 형태의 부호화 단위들을 결정할 수 있다.

도 16을 참조하면, 비디오 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1600), 비-정사각형 형태의 제1 부호화 단위(1630 또는 1650)를 다양한 형태의 부호화 단위들로 분할할 수 있다.

도 17은 일 실시예에 따라 비디오 복호화 장치(100)가 제1 부호화 단위(1700)가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위가 소정의 조건을 만족하는 경우 제2 부호화 단위가 분할될 수 있는 형태가 제한되는 것을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 획득부(105)를 통해 획득한 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 정사각형 형태의 제1 부호화 단위(1700)를 비-정사각형 형태의 제2 부호화 단위(1710a, 1710b, 1720a, 1720b)로 분할하는 것으로 결정할 수 있다. 제2 부호화 단위(1710a, 1710b, 1720a, 1720b)는 독립적으로 분할될 수 있다. 이에 따라 비디오 복호화 장치(100)는 제2 부호화 단위(1710a, 1710b, 1720a, 1720b) 각각에 관련된 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 복수개의 부호화 단위로 분할하거나 분할하지 않는 것을 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 수직 방향으로 제1 부호화 단위(1700)가 분할되어 결정된 비-정사각형 형태의 좌측 제2 부호화 단위(1710a)를 수평 방향으로 분할하여 제3 부호화 단위(1712a, 1712b)를 결정할 수 있다. 다만 비디오 복호화 장치(100)는 좌측 제2 부호화 단위(1710a)를 수평 방향으로 분할한 경우, 우측 제2 부호화 단위(1710b)는 좌측 제2 부호화 단위(1710a)가 분할된 방향과 동일하게 수평 방향으로 분할될 수 없도록 제한할 수 있다. 만일 우측 제2 부호화 단위(1710b)가 동일한 방향으로 분할되어 제3 부호화 단위(1714a, 1714b)가 결정된 경우, 좌측 제2 부호화 단위(1710a) 및 우측 제2 부호화 단위(1710b)가 수평 방향으로 각각 독립적으로 분할됨으로써 제3 부호화 단위(1712a, 1712b, 1714a, 1714b)가 결정될 수 있다. 하지만 이는 비디오 복호화 장치(100)가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1700)를 4개의 정사각형 형태의 제2 부호화 단위(1730a, 1730b, 1730c, 1730d)로 분할한 것과 동일한 결과이며 이는 영상 복호화 측면에서 비효율적일 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 수평 방향으로 제1 부호화 단위(11300)가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위(1720a 또는 1720b)를 수직 방향으로 분할하여 제3 부호화 단위(1722a, 1722b, 1724a, 1724b)를 결정할 수 있다. 다만 비디오 복호화 장치(100)는 제2 부호화 단위 중 하나(예를 들면 상단 제2 부호화 단위(1720a))를 수직 방향으로 분할한 경우, 상술한 이유에 따라 다른 제2 부호화 단위(예를 들면 하단 부호화 단위(1720b))는 상단 제2 부호화 단위(1720a)가 분할된 방향과 동일하게 수직 방향으로 분할될 수 없도록 제한할 수 있다.

도 18은 일 실시예에 따라 분할 형태 정보가 4개의 정사각형 형태의 부호화 단위로 분할하는 것을 나타낼 수 없는 경우, 비디오 복호화 장치(100)가 정사각형 형태의 부호화 단위를 분할하는 과정을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1800)를 분할하여 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등)를 결정할 수 있다. 분할 형태 정보에는 부호화 단위가 분할될 수 있는 다양한 형태에 대한 정보가 포함될 수 있으나, 다양한 형태에 대한 정보에는 정사각형 형태의 4개의 부호화 단위로 분할하기 위한 정보가 포함될 수 없는 경우가 있다. 이러한 분할 형태 정보에 따르면, 비디오 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1800)를 4개의 정사각형 형태의 제2 부호화 단위(1830a, 1830b, 1830c, 1830d)로 분할하지 못한다. 분할 형태 정보에 기초하여 비디오 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등)를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등)를 각각 독립적으로 분할할 수 있다. 재귀적인 방법을 통해 제2 부호화 단위(1810a, 1810b, 1820a, 1820b 등) 각각이 소정의 순서대로 분할될 수 있으며, 이는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 제1 부호화 단위(1800)가 분할되는 방법에 대응하는 분할 방법일 수 있다.

예를 들면 비디오 복호화 장치(100)는 좌측 제2 부호화 단위(1810a)가 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1812a, 1812b)를 결정할 수 있고, 우측 제2 부호화 단위(1810b)가 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1814a, 1814b)를 결정할 수 있다. 나아가 비디오 복호화 장치(100)는 좌측 제2 부호화 단위(1810a) 및 우측 제2 부호화 단위(1810b) 모두 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1816a, 1816b, 1816c, 1816d)를 결정할 수도 있다. 이러한 경우 제1 부호화 단위(1800)가 4개의 정사각형 형태의 제2 부호화 단위(1830a, 1830b, 1830c, 1830d)로 분할된 것과 동일한 형태로 부호화 단위가 결정될 수 있다.

또 다른 예를 들면 비디오 복호화 장치(100)는 상단 제2 부호화 단위(1820a)가 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1822a, 1822b)를 결정할 수 있고, 하단 제2 부호화 단위(1820b)가 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1824a, 1824b)를 결정할 수 있다. 나아가 비디오 복호화 장치(100)는 상단 제2 부호화 단위(1820a) 및 하단 제2 부호화 단위(1820b) 모두 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1822a, 1822b, 1824a, 1824b)를 결정할 수도 있다. 이러한 경우 제1 부호화 단위(1800)가 4개의 정사각형 형태의 제2 부호화 단위(1830a, 1830b, 1830c, 1830d)로 분할된 것과 동일한 형태로 부호화 단위가 결정될 수 있다.

도 19는 일 실시예에 따라 복수개의 부호화 단위들 간의 처리 순서가 부호화 단위의 분할 과정에 따라 달라질 수 있음을 도시한 것이다.

일 실시예에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보에 기초하여 제1 부호화 단위(1900)를 분할할 수 있다. 블록 형태 정보가 정사각형 형태를 나타내고, 분할 형태 정보가 제1 부호화 단위(1900)가 수평 방향 및 수직 방향 중 적어도 하나의 방향으로 분할됨을 나타내는 경우, 비디오 복호화 장치(100)는 제1 부호화 단위(1900)를 분할하여 제2 부호화 단위(예를 들면, 1910a, 1910b, 1920a, 1920b, 1930a, 1930b, 1930c, 1930d 등)를 결정할 수 있다. 도 19를 참조하면 제1 부호화 단위1900)가 수평 방향 또는 수직 방향만으로 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위(1910a, 1910b, 1920a, 1920b)는 각각에 대한 블록 형태 정보 및 분할 형태 정보에 기초하여 독립적으로 분할될 수 있다. 예를 들면 비디오 복호화 장치(100)는 제1 부호화 단위(1900)가 수직 방향으로 분할되어 생성된 제2 부호화 단위(1910a, 1910b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1916a, 1916b, 1916c, 1916d)를 결정할 수 있고, 제1 부호화 단위(1900)가 수평 방향으로 분할되어 생성된 제2 부호화 단위(1920a, 1920b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1926a, 1926b, 1926c, 1926d)를 결정할 수 있다. 이러한 제2 부호화 단위(1910a, 1910b, 1920a, 1920b)의 분할 과정은 도 17과 관련하여 상술하였으므로 자세한 설명은 생략하도록 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 소정의 순서에 따라 부호화 단위를 처리할 수 있다. 소정의 순서에 따른 부호화 단위의 처리에 대한 특징은 도 14과 관련하여 상술하였으므로 자세한 설명은 생략하도록 한다. 도 19를 참조하면 비디오 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1900)를 분할하여 4개의 정사각형 형태의 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)를 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 제1 부호화 단위(1900)가 분할되는 형태에 따라 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)의 처리 순서를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 수직 방향으로 분할되어 생성된 제2 부호화 단위(1910a, 1910b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1916a, 1916b, 1916c, 1916d)를 결정할 수 있고, 비디오 복호화 장치(100)는 좌측 제2 부호화 단위(1910a)에 포함되는 제3 부호화 단위(1916a, 1916b)를 수직 방향으로 먼저 처리한 후, 우측 제2 부호화 단위(1910b)에 포함되는 제3 부호화 단위(1916c, 1916d)를 수직 방향으로 처리하는 순서(1917)에 따라 제3 부호화 단위(1916a, 1916b, 1916c, 1916d)를 처리할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 수평 방향으로 분할되어 생성된 제2 부호화 단위(1920a, 1920b)를 수직 방향으로 각각 분할하여 제3 부호화 단위(1926a, 1926b, 1926c, 1926d)를 결정할 수 있고, 비디오 복호화 장치(100)는 상단 제2 부호화 단위(1920a)에 포함되는 제3 부호화 단위(1926a, 1926b)를 수평 방향으로 먼저 처리한 후, 하단 제2 부호화 단위(1920b)에 포함되는 제3 부호화 단위(1926c, 1926d)를 수평 방향으로 처리하는 순서(1927)에 따라 제3 부호화 단위(1926a, 1926b, 1926c, 1926d)를 처리할 수 있다.

도 19를 참조하면, 제2 부호화 단위(1910a, 1910b, 1920a, 1920b)가 각각 분할되어 정사각형 형태의 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)가 결정될 수 있다. 수직 방향으로 분할되어 결정된 제2 부호화 단위(1910a, 1910b) 및 수평 방향으로 분할되어 결정된 제2 부호화 단위(1920a, 1920b)는 서로 다른 형태로 분할된 것이지만, 이후에 결정되는 제3 부호화 단위(1916a, 1916b, 1916c, 1916d, 1926a, 1926b, 1926c, 1926d)에 따르면 결국 동일한 형태의 부호화 단위들로 제1 부호화 단위(1900)가 분할된 결과가 된다. 이에 따라 비디오 복호화 장치(100)는 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 상이한 과정을 통해 재귀적으로 부호화 단위를 분할함으로써 결과적으로 동일한 형태의 부호화 단위들을 결정하더라도, 동일한 형태로 결정된 복수개의 부호화 단위들을 서로 다른 순서로 처리할 수 있다.

도 20은 일 실시예에 따라 부호화 단위가 재귀적으로 분할되어 복수개의 부호화 단위가 결정되는 경우, 부호화 단위의 형태 및 크기가 변함에 따라 부호화 단위의 심도가 결정되는 과정을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 부호화 단위의 심도를 소정의 기준에 따라 결정할 수 있다. 예를 들면 소정의 기준은 부호화 단위의 긴 변의 길이가 될 수 있다. 비디오 복호화 장치(100)는 현재 부호화 단위의 긴 변의 길이가 분할되기 전의 부호화 단위의 긴 변의 길이보다 2n (n>0) 배로 분할된 경우, 현재 부호화 단위의 심도는 분할되기 전의 부호화 단위의 심도보다 n만큼 심도가 증가된 것으로 결정할 수 있다. 이하에서는 심도가 증가된 부호화 단위를 하위 심도의 부호화 단위로 표현하도록 한다.

도 20을 참조하면, 일 실시예에 따라 정사각형 형태임을 나타내는 블록 형태 정보(예를 들면 블록 형태 정보는 ′0: SQUARE′를 나타낼 수 있음)에 기초하여 비디오 복호화 장치(100)는 정사각형 형태인 제1 부호화 단위(2000)를 분할하여 하위 심도의 제2 부호화 단위(2002), 제3 부호화 단위(2004) 등을 결정할 수 있다. 정사각형 형태의 제1 부호화 단위(2000)의 크기를 2Nx2N이라고 한다면, 제1 부호화 단위(2000)의 너비 및 높이를 1/21배로 분할하여 결정된 제2 부호화 단위(2002)는 NxN의 크기를 가질 수 있다. 나아가 제2 부호화 단위(2002)의 너비 및 높이를 1/2크기로 분할하여 결정된 제3 부호화 단위(2004)는 N/2xN/2의 크기를 가질 수 있다. 이 경우 제3 부호화 단위(2004)의 너비 및 높이는 제1 부호화 단위(2000)의 1/22배에 해당한다. 제1 부호화 단위(2000)의 심도가 D인 경우 제1 부호화 단위(2000)의 너비 및 높이의 1/21배인 제2 부호화 단위(2002)의 심도는 D+1일 수 있고, 제1 부호화 단위(2000)의 너비 및 높이의 1/22배인 제3 부호화 단위(2004)의 심도는 D+2일 수 있다.

일 실시예에 따라 비-정사각형 형태를 나타내는 블록 형태 정보(예를 들면 블록 형태 정보는, 높이가 너비보다 긴 비-정사각형임을 나타내는 ′1: NS_VER′ 또는 너비가 높이보다 긴 비-정사각형임을 나타내는 ′2: NS_HOR′를 나타낼 수 있음)에 기초하여, 비디오 복호화 장치(100)는 비-정사각형 형태인 제1 부호화 단위(2010 또는 2020)를 분할하여 하위 심도의 제2 부호화 단위(2012 또는 2022), 제3 부호화 단위(2014 또는 2024) 등을 결정할 수 있다.

비디오 복호화 장치(100)는 Nx2N 크기의 제1 부호화 단위(2010)의 너비 및 높이 중 적어도 하나를 분할하여 제2 부호화 단위(예를 들면, 2002, 2012, 2022 등)를 결정할 수 있다. 즉, 비디오 복호화 장치(100)는 제1 부호화 단위(2010)를 수평 방향으로 분할하여 NxN 크기의 제2 부호화 단위(2002) 또는 NxN/2 크기의 제2 부호화 단위(2022)를 결정할 수 있고, 수평 방향 및 수직 방향으로 분할하여 N/2xN 크기의 제2 부호화 단위(2012)를 결정할 수도 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 2NxN 크기의 제1 부호화 단위(2020) 의 너비 및 높이 중 적어도 하나를 분할하여 제2 부호화 단위(예를 들면, 2002, 2012, 2022 등)를 결정할 수도 있다. 즉, 비디오 복호화 장치(100)는 제1 부호화 단위(2020)를 수직 방향으로 분할하여 NxN 크기의 제2 부호화 단위(2002) 또는 N/2xN 크기의 제2 부호화 단위(2012)를 결정할 수 있고, 수평 방향 및 수직 방향으로 분할하여 NxN/2 크기의 제2 부호화 단위(2022)를 결정할 수도 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 NxN 크기의 제2 부호화 단위(2002) 의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 2004, 2014, 2024 등)를 결정할 수도 있다. 즉, 비디오 복호화 장치(100)는 제2 부호화 단위(2002)를 수직 방향 및 수평 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(2004)를 결정하거나 N/22xN/2 크기의 제3 부호화 단위(2014)를 결정하거나 N/2xN/22 크기의 제3 부호화 단위(2024)를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 N/2xN 크기의 제2 부호화 단위(2012)의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 2004, 2014, 2024 등)를 결정할 수도 있다. 즉, 비디오 복호화 장치(100)는 제2 부호화 단위(2012)를 수평 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(2004) 또는 N/2xN/22 크기의 제3 부호화 단위(2024)를 결정하거나 수직 방향 및 수평 방향으로 분할하여 N/22xN/2 크기의 제3 부호화 단위(2014)를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 NxN/2 크기의 제2 부호화 단위(2014)의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 2004, 2014, 2024 등)를 결정할 수도 있다. 즉, 비디오 복호화 장치(100)는 제2 부호화 단위(2012)를 수직 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(2004) 또는 N/22xN/2 크기의 제3 부호화 단위(2014)를 결정하거나 수직 방향 및 수평 방향으로 분할하여 N/2xN/22크기의 제3 부호화 단위(2024)를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 정사각형 형태의 부호화 단위(예를 들면, 2000, 2002, 2004)를 수평 방향 또는 수직 방향으로 분할할 수 있다. 예를 들면, 2Nx2N 크기의 제1 부호화 단위(2000)를 수직 방향으로 분할하여 Nx2N 크기의 제1 부호화 단위(2010)를 결정하거나 수평 방향으로 분할하여 2NxN 크기의 제1 부호화 단위(2020)를 결정할 수 있다. 일 실시예에 따라 심도가 부호화 단위의 가장 긴 변의 길이에 기초하여 결정되는 경우, 2Nx2N 크기의 제1 부호화 단위(2000, 2002 또는 2004)가 수평 방향 또는 수직 방향으로 분할되어 결정되는 부호화 단위의 심도는 제1 부호화 단위(2000, 2002 또는 2004)의 심도와 동일할 수 있다.

일 실시예에 따라 제3 부호화 단위(2014 또는 2024)의 너비 및 높이는 제1 부호화 단위(2010 또는 2020)의 1/22배에 해당할 수 있다. 제1 부호화 단위(2010 또는 2020)의 심도가 D인 경우 제1 부호화 단위(2010 또는 2020)의 너비 및 높이의 1/2배인 제2 부호화 단위(2012 또는 2014)의 심도는 D+1일 수 있고, 제1 부호화 단위(2010 또는 2020)의 너비 및 높이의 1/22배인 제3 부호화 단위(2014 또는 2024)의 심도는 D+2일 수 있다.

도 21은 일 실시예에 따라 부호화 단위들의 형태 및 크기에 따라 결정될 수 있는 심도 및 부호화 단위 구분을 위한 인덱스(part index, 이하 PID)를 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(2100)를 분할하여 다양한 형태의 제2 부호화 단위를 결정할 수 있다. 도 21를 참조하면, 비디오 복호화 장치(100)는 분할 형태 정보에 따라 제1 부호화 단위(2100)를 수직 방향 및 수평 방향 중 적어도 하나의 방향으로 분할하여 제2 부호화 단위(2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, 2106d)를 결정할 수 있다. 즉, 비디오 복호화 장치(100)는 제1 부호화 단위(2100)에 대한 분할 형태 정보에 기초하여 제2 부호화 단위(2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, 2106d)를 결정할 수 있다.

일 실시예에 따라 정사각형 형태의 제1 부호화 단위(2100)에 대한 분할 형태 정보에 따라 결정되는 제2 부호화 단위(2102a, 2102b, 2104a, 2104b, 2106a, 2106b, 2106c, 2106d)는 긴 변의 길이에 기초하여 심도가 결정될 수 있다. 예를 들면, 정사각형 형태의 제1 부호화 단위(2100)의 한 변의 길이와 비-정사각형 형태의 제2 부호화 단위(2102a, 2102b, 2104a, 2104b)의 긴 변의 길이가 동일하므로, 제1 부호화 단위(2100)와 비-정사각형 형태의 제2 부호화 단위(2102a, 2102b, 2104a, 2104b)의 심도는 D로 동일하다고 볼 수 있다. 이에 반해 비디오 복호화 장치(100)가 분할 형태 정보에 기초하여 제1 부호화 단위(2100)를 4개의 정사각형 형태의 제2 부호화 단위(2106a, 2106b, 2106c, 2106d)로 분할한 경우, 정사각형 형태의 제2 부호화 단위(2106a, 2106b, 2106c, 2106d)의 한 변의 길이는 제1 부호화 단위(2100)의 한 변의 길이의 1/2배 이므로, 제2 부호화 단위(2106a, 2106b, 2106c, 2106d)의 심도는 제1 부호화 단위(2100)의 심도인 D보다 한 심도 하위인 D+1의 심도일 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 높이가 너비보다 긴 형태의 제1 부호화 단위(2110)를 분할 형태 정보에 따라 수평 방향으로 분할하여 복수개의 제2 부호화 단위(2112a, 2112b, 2114a, 2114b, 2114c)로 분할할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 너비가 높이보다 긴 형태의 제1 부호화 단위(2120)를 분할 형태 정보에 따라 수직 방향으로 분할하여 복수개의 제2 부호화 단위(2122a, 2122b, 2124a, 2124b, 2124c)로 분할할 수 있다.

일 실시예에 따라 비-정사각형 형태의 제1 부호화 단위(2110 또는 2120)에 대한 분할 형태 정보에 따라 결정되는 제2 부호화 단위(2112a, 2112b, 2114a, 2114b, 2116a, 2116b, 2116c, 2116d)는 긴 변의 길이에 기초하여 심도가 결정될 수 있다. 예를 들면, 정사각형 형태의 제2 부호화 단위(2112a, 2112b)의 한 변의 길이는 높이가 너비보다 긴 비-정사각형 형태의 제1 부호화 단위(2110)의 한 변의 길이의 1/2배이므로, 정사각형 형태의 제2 부호화 단위(2102a, 2102b, 2104a, 2104b)의 심도는 비-정사각형 형태의 제1 부호화 단위(2110)의 심도 D보다 한 심도 하위의 심도인 D+1이다.

나아가 비디오 복호화 장치(100)가 분할 형태 정보에 기초하여 비-정사각형 형태의 제1 부호화 단위(2110)를 홀수개의 제2 부호화 단위(2114a, 2114b, 2114c)로 분할할 수 있다. 홀수개의 제2 부호화 단위(2114a, 2114b, 2114c)는 비-정사각형 형태의 제2 부호화 단위(2114a, 2114c) 및 정사각형 형태의 제2 부호화 단위(2114b)를 포함할 수 있다. 이 경우 비-정사각형 형태의 제2 부호화 단위(2114a, 2114c)의 긴 변의 길이 및 정사각형 형태의 제2 부호화 단위(2114b)의 한 변의 길이는 제1 부호화 단위(2110)의 한 변의 길이의 1/2배 이므로, 제2 부호화 단위(2114a, 2114b, 2114c)의 심도는 제1 부호화 단위(2110)의 심도인 D보다 한 심도 하위인 D+1의 심도일 수 있다. 비디오 복호화 장치(100)는 제1 부호화 단위(2110)와 관련된 부호화 단위들의 심도를 결정하는 상기 방식에 대응하는 방식으로, 너비가 높이보다 긴 비-정사각형 형태의 제1 부호화 단위(2120)와 관련된 부호화 단위들의 심도를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 분할된 부호화 단위들의 구분을 위한 인덱스(PID)를 결정함에 있어서, 홀수개로 분할된 부호화 단위들이 서로 동일한 크기가 아닌 경우, 부호화 단위들 간의 크기 비율에 기초하여 인덱스를 결정할 수 있다. 도 21를 참조하면, 홀수개로 분할된 부호화 단위들(2114a, 2114b, 2114c) 중 가운데에 위치하는 부호화 단위(2114b)는 다른 부호화 단위들(2114a, 2114c)와 너비는 동일하지만 높이가 다른 부호화 단위들(2114a, 2114c)의 높이의 두 배일 수 있다. 즉, 이 경우 가운데에 위치하는 부호화 단위(2114b)는 다른 부호화 단위들(2114a, 2114c)의 두 개를 포함할 수 있다. 따라서, 스캔 순서에 따라 가운데에 위치하는 부호화 단위(2114b)의 인덱스(PID)가 1이라면 그 다음 순서에 위치하는 부호화 단위(2114c)는 인덱스가 2가 증가한 3일수 있다. 즉 인덱스의 값의 불연속성이 존재할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 이러한 분할된 부호화 단위들 간의 구분을 위한 인덱스의 불연속성의 존재 여부에 기초하여 홀수개로 분할된 부호화 단위들이 서로 동일한 크기가 아닌지 여부를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위로부터 분할되어 결정된 복수개의 부호화 단위들을 구분하기 위한 인덱스의 값에 기초하여 특정 분할 형태로 분할된 것인지를 결정할 수 있다. 도 21를 참조하면 비디오 복호화 장치(100)는 높이가 너비보다 긴 직사각형 형태의 제1 부호화 단위(2110)를 분할하여 짝수개의 부호화 단위(2112a, 2112b)를 결정하거나 홀수개의 부호화 단위(2114a, 2114b, 2114c)를 결정할 수 있다. 비디오 복호화 장치(100)는 복수개의 부호화 단위 각각을 구분하기 위하여 각 부호화 단위를 나타내는 인덱스(PID)를 이용할 수 있다. 일 실시예에 따라 PID는 각각의 부호화 단위의 소정 위치의 샘플(예를 들면, 좌측 상단 샘플)에서 획득될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 부호화 단위의 구분을 위한 인덱스를 이용하여 분할되어 결정된 부호화 단위들 중 소정 위치의 부호화 단위를 결정할 수 있다. 일 실시예에 따라 높이가 너비보다 긴 직사각형 형태의 제1 부호화 단위(2110)에 대한 분할 형태 정보가 3개의 부호화 단위로 분할됨을 나타내는 경우 비디오 복호화 장치(100)는 제1 부호화 단위(2110)를 3개의 부호화 단위(2114a, 2114b, 2114c)로 분할할 수 있다. 비디오 복호화 장치(100)는 3개의 부호화 단위(2114a, 2114b, 2114c) 각각에 대한 인덱스를 할당할 수 있다. 비디오 복호화 장치(100)는 홀수개로 분할된 부호화 단위 중 가운데 부호화 단위를 결정하기 위하여 각 부호화 단위에 대한 인덱스를 비교할 수 있다. 비디오 복호화 장치(100)는 부호화 단위들의 인덱스에 기초하여 인덱스들 중 가운데 값에 해당하는 인덱스를 갖는 부호화 단위(2114b)를, 제1 부호화 단위(2110)가 분할되어 결정된 부호화 단위 중 가운데 위치의 부호화 단위로서 결정할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 분할된 부호화 단위들의 구분을 위한 인덱스를 결정함에 있어서, 부호화 단위들이 서로 동일한 크기가 아닌 경우, 부호화 단위들 간의 크기 비율에 기초하여 인덱스를 결정할 수 있다. 도 21를 참조하면, 제1 부호화 단위(2110)가 분할되어 생성된 부호화 단위(2114b)는 다른 부호화 단위들(2114a, 2114c)와 너비는 동일하지만 높이가 다른 부호화 단위들(2114a, 2114c)의 높이의 두 배일 수 있다. 이 경우 가운데에 위치하는 부호화 단위(2114b)의 인덱스(PID)가 1이라면 그 다음 순서에 위치하는 부호화 단위(2114c)는 인덱스가 2가 증가한 3일수 있다. 이러한 경우처럼 균일하게 인덱스가 증가하다가 증가폭이 달라지는 경우, 비디오 복호화 장치(100)는 다른 부호화 단위들과 다른 크기를 가지는 부호화 단위를 포함하는 복수개의 부호화 단위로 분할된 것으로 결정할 수 있다, 일 실시예에 따라 분할 형태 정보가 홀수개의 부호화 단위로 분할됨을 나타내는 경우, 비디오 복호화 장치(100)는 홀수개의 부호화 단위 중 소정 위치의 부호화 단위(예를 들면 가운데 부호화 단위)가 다른 부호화 단위와 크기가 다른 형태로 현재 부호화 단위를 분할할 수 있다. 이 경우 비디오 복호화 장치(100)는 부호화 단위에 대한 인덱스(PID)를 이용하여 다른 크기를 가지는 가운데 부호화 단위를 결정할 수 있다. 다만 상술한 인덱스, 결정하고자 하는 소정 위치의 부호화 단위의 크기 또는 위치는 일 실시예를 설명하기 위해 특정한 것이므로 이에 한정하여 해석되어서는 안되며, 다양한 인덱스, 부호화 단위의 위치 및 크기가 이용될 수 있는 것으로 해석되어야 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 부호화 단위의 재귀적인 분할이 시작되는 소정의 데이터 단위를 이용할 수 있다.

도 22는 일 실시예에 따라 픽쳐에 포함되는 복수개의 소정의 데이터 단위에 따라 복수개의 부호화 단위들이 결정된 것을 도시한다.

일 실시예에 따라 소정의 데이터 단위는 부호화 단위가 블록 형태 정보 및 분할 형태 정보 중 적어도 하나를 이용하여 재귀적으로 분할되기 시작하는 데이터 단위로 정의될 수 있다. 즉, 현재 픽쳐를 분할하는 복수개의 부호화 단위들이 결정되는 과정에서 이용되는 최상위 심도의 부호화 단위에 해당할 수 있다. 이하에서는 설명 상 편의를 위해 이러한 소정의 데이터 단위를 기준 데이터 단위라고 지칭하도록 한다.

일 실시예에 따라 기준 데이터 단위는 소정의 크기 및 형태를 나타낼 수 있다. 일 실시예에 따라, 기준 부호화 단위는 MxN의 샘플들을 포함할 수 있다. 여기서 M 및 N은 서로 동일할 수도 있으며, 2의 승수로 표현되는 정수일 수 있다. 즉, 기준 데이터 단위는 정사각형 또는 비-정사각형의 형태를 나타낼 수 있으며, 이후에 정수개의 부호화 단위로 분할될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 픽쳐를 복수개의 기준 데이터 단위로 분할할 수 있다. 일 실시예에 따라 비디오 복호화 장치(100)는 현재 픽쳐를 분할하는 복수개의 기준 데이터 단위를 각각의 기준 데이터 단위에 대한 분할 정보를 이용하여 분할할 수 있다. 이러한 기준 데이터 단위의 분할 과정은 쿼드 트리(quad-tree)구조를 이용한 분할 과정에 대응될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 픽쳐에 포함되는 기준 데이터 단위가 가질 수 있는 최소 크기를 미리 결정할 수 있다. 이에 따라, 비디오 복호화 장치(100)는 최소 크기 이상의 크기를 갖는 다양한 크기의 기준 데이터 단위를 결정할 수 있고, 결정된 기준 데이터 단위를 기준으로 블록 형태 정보 및 분할 형태 정보를 이용하여 적어도 하나의 부호화 단위를 결정할 수 있다.

도 22를 참조하면, 비디오 복호화 장치(100)는 정사각형 형태의 기준 부호화 단위(2200)를 이용할 수 있고, 또는 비-정사각형 형태의 기준 부호화 단위(2202)를 이용할 수도 있다. 일 실시예에 따라 기준 부호화 단위의 형태 및 크기는 적어도 하나의 기준 부호화 단위를 포함할 수 있는 다양한 데이터 단위(예를 들면, 시퀀스(sequence), 픽쳐(picture), 슬라이스(slice), 슬라이스 세그먼트(slice segment), 최대부호화단위 등)에 따라 결정될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)의 획득부(105)는 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보 중 적어도 하나를 상기 다양한 데이터 단위마다 비트스트림으로부터 획득할 수 있다. 정사각형 형태의 기준 부호화 단위(2200)에 포함되는 적어도 하나의 부호화 단위가 결정되는 과정은 도 10의 현재 부호화 단위(300)가 분할되는 과정을 통해 상술하였고, 비-정사각형 형태의 기준 부호화 단위(2200)에 포함되는 적어도 하나의 부호화 단위가 결정되는 과정은 도 11의 현재 부호화 단위(1100 또는 1150)가 분할되는 과정을 통해 상술하였으므로 자세한 설명은 생략하도록 한다.

일 실시예에 따라 비디오 복호화 장치(100)는 소정의 조건에 기초하여 미리 결정되는 일부 데이터 단위에 따라 기준 부호화 단위의 크기 및 형태를 결정하기 위하여, 기준 부호화 단위의 크기 및 형태를 식별하기 위한 인덱스를 이용할 수 있다. 즉, 획득부(105)는 비트스트림으로부터 상기 다양한 데이터 단위(예를 들면, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트, 최대부호화단위 등) 중 소정의 조건(예를 들면 슬라이스 이하의 크기를 갖는 데이터 단위)을 만족하는 데이터 단위로서 슬라이스, 슬라이스 세그먼트, 최대부호화 단위 등 마다, 기준 부호화 단위의 크기 및 형태의 식별을 위한 인덱스만을 획득할 수 있다. 비디오 복호화 장치(100)는 인덱스를 이용함으로써 상기 소정의 조건을 만족하는 데이터 단위마다 기준 데이터 단위의 크기 및 형태를 결정할 수 있다. 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보를 상대적으로 작은 크기의 데이터 단위마다 비트스트림으로부터 획득하여 이용하는 경우, 비트스트림의 이용 효율이 좋지 않을 수 있으므로, 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보를 직접 획득하는 대신 상기 인덱스만을 획득하여 이용할 수 있다. 이 경우 기준 부호화 단위의 크기 및 형태를 나타내는 인덱스에 대응하는 기준 부호화 단위의 크기 및 형태 중 적어도 하나는 미리 결정되어 있을 수 있다. 즉, 비디오 복호화 장치(100)는 미리 결정된 기준 부호화 단위의 크기 및 형태 중 적어도 하나를 인덱스에 따라 선택함으로써, 인덱스 획득의 기준이 되는 데이터 단위에 포함되는 기준 부호화 단위의 크기 및 형태 중 적어도 하나를 결정할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 하나의 최대 부호화 단위에 포함하는 적어도 하나의 기준 부호화 단위를 이용할 수 있다. 즉, 영상을 분할하는 최대 부호화 단위에는 적어도 하나의 기준 부호화 단위가 포함될 수 있고, 각각의 기준 부호화 단위의 재귀적인 분할 과정을 통해 부호화 단위가 결정될 수 있다. 일 실시예에 따라 최대 부호화 단위의 너비 및 높이 중 적어도 하나는 기준 부호화 단위의 너비 및 높이 중 적어도 하나의 정수배에 해당할 수 있다. 일 실시예에 따라 기준 부호화 단위의 크기는 최대부호화단위를 쿼드 트리 구조에 따라 n번 분할한 크기일 수 있다. 즉, 비디오 복호화 장치(100)는 최대부호화단위를 쿼드 트리 구조에 따라 n 번 분할하여 기준 부호화 단위를 결정할 수 있고, 다양한 실시예들에 따라 기준 부호화 단위를 블록 형태 정보 및 분할 형태 정보 중 적어도 하나에 기초하여 분할할 수 있다.

도 23은 일 실시예에 따라 픽쳐(2300)에 포함되는 기준 부호화 단위의 결정 순서를 결정하는 기준이 되는 프로세싱 블록을 도시한다.

일 실시예에 따라 비디오 복호화 장치(100)는 픽쳐를 분할하는 적어도 하나의 프로세싱 블록을 결정할 수 있다. 프로세싱 블록이란, 영상을 분할하는 적어도 하나의 기준 부호화 단위를 포함하는 데이터 단위로서, 프로세싱 블록에 포함되는 적어도 하나의 기준 부호화 단위는 특정 순서대로 결정될 수 있다. 즉, 각각의 프로세싱 블록에서 결정되는 적어도 하나의 기준 부호화 단위의 결정 순서는 기준 부호화 단위가 결정될 수 있는 다양한 순서의 종류 중 하나에 해당할 수 있으며, 각각의 프로세싱 블록에서 결정되는 기준 부호화 단위 결정 순서는 프로세싱 블록마다 상이할 수 있다. 프로세싱 블록마다 결정되는 기준 부호화 단위의 결정 순서는 래스터 스캔(raster scan), Z 스캔(Z-scan), N 스캔(N-scan), 우상향 대각 스캔(up-right diagonal scan), 수평적 스캔(horizontal scan), 수직적 스캔(vertical scan) 등 다양한 순서 중 하나일 수 있으나, 결정될 수 있는 순서는 상기 스캔 순서들에 한정하여 해석되어서는 안 된다.

일 실시예에 따라 비디오 복호화 장치(100)는 프로세싱 블록의 크기에 대한 정보를 획득하여 영상에 포함되는 적어도 하나의 프로세싱 블록의 크기를 결정할 수 있다. 비디오 복호화 장치(100)는 프로세싱 블록의 크기에 대한 정보를 비트스트림으로부터 획득하여 영상에 포함되는 적어도 하나의 프로세싱 블록의 크기를 결정할 수 있다. 이러한 프로세싱 블록의 크기는 프로세싱 블록의 크기에 대한 정보가 나타내는 데이터 단위의 소정의 크기일 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)의 획득부(105)는 비트스트림으로부터 프로세싱 블록의 크기에 대한 정보를 특정의 데이터 단위마다 획득할 수 있다. 예를 들면 프로세싱 블록의 크기에 대한 정보는 영상, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트 등의 데이터 단위로 비트스트림으로부터 획득될 수 있다. 즉 획득부(105)는 상기 여러 데이터 단위마다 비트스트림으로부터 프로세싱 블록의 크기에 대한 정보를 획득할 수 있고 비디오 복호화 장치(100)는 획득된 프로세싱 블록의 크기에 대한 정보를 이용하여 픽쳐를 분할하는 적어도 하나의 프로세싱 블록의 크기를 결정할 수 있으며, 이러한 프로세싱 블록의 크기는 기준 부호화 단위의 정수배의 크기일 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 픽쳐(2300)에 포함되는 프로세싱 블록(2302, 2312)의 크기를 결정할 수 있다. 예를 들면, 비디오 복호화 장치(100)는 비트스트림으로부터 획득된 프로세싱 블록의 크기에 대한 정보에 기초하여 프로세싱 블록의 크기를 결정할 수 있다. 도 23을 참조하면, 비디오 복호화 장치(100)는 일 실시예에 따라 프로세싱 블록(2302, 2312)의 가로크기를 기준 부호화 단위 가로크기의 4배, 세로크기를 기준 부호화 단위의 세로크기의 4배로 결정할 수 있다. 비디오 복호화 장치(100)는 적어도 하나의 프로세싱 블록 내에서 적어도 하나의 기준 부호화 단위가 결정되는 순서를 결정할 수 있다.

일 실시예에 따라, 비디오 복호화 장치(100)는 프로세싱 블록의 크기에 기초하여 픽쳐(2300)에 포함되는 각각의 프로세싱 블록(2302, 2312)을 결정할 수 있고, 프로세싱 블록(2302, 2312)에 포함되는 적어도 하나의 기준 부호화 단위의 결정 순서를 결정할 수 있다. 일 실시예에 따라 기준 부호화 단위의 결정은 기준 부호화 단위의 크기의 결정을 포함할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 비트스트림으로부터 적어도 하나의 프로세싱 블록에 포함되는 적어도 하나의 기준 부호화 단위의 결정 순서에 대한 정보를 획득할 수 있고, 획득한 결정 순서에 대한 정보에 기초하여 적어도 하나의 기준 부호화 단위가 결정되는 순서를 결정할 수 있다. 결정 순서에 대한 정보는 프로세싱 블록 내에서 기준 부호화 단위들이 결정되는 순서 또는 방향으로 정의될 수 있다. 즉, 기준 부호화 단위들이 결정되는 순서는 각각의 프로세싱 블록마다 독립적으로 결정될 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 특정 데이터 단위마다 기준 부호화 단위의 결정 순서에 대한 정보를 비트스트림으로부터 획득할 수 있다. 예를 들면, 획득부(105)는 기준 부호화 단위의 결정 순서에 대한 정보를 영상, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트, 프로세싱 블록 등의 데이터 단위로마다 비트스트림으로부터 획득할 수 있다. 기준 부호화 단위의 결정 순서에 대한 정보는 프로세싱 블록 내에서의 기준 부호화 단위 결정 순서를 나타내므로, 결정 순서에 대한 정보는 정수개의 프로세싱 블록을 포함하는 특정 데이터 단위 마다 획득될 수 있다.

비디오 복호화 장치(100)는 일 실시예에 따라 결정된 순서에 기초하여 적어도 하나의 기준 부호화 단위를 결정할 수 있다.

일 실시예에 따라 획득부(105)는 비트스트림으로부터 프로세싱 블록(2302, 2312)과 관련된 정보로서, 기준 부호화 단위 결정 순서에 대한 정보를 획득할 수 있고, 비디오 복호화 장치(100)는 상기 프로세싱 블록(2302, 2312)에 포함된 적어도 하나의 기준 부호화 단위를 결정하는 순서를 결정하고 부호화 단위의 결정 순서에 따라 픽쳐(2300)에 포함되는 적어도 하나의 기준 부호화 단위를 결정할 수 있다. 도 23을 참조하면, 비디오 복호화 장치(100)는 각각의 프로세싱 블록(2302, 2312)과 관련된 적어도 하나의 기준 부호화 단위의 결정 순서(2304, 2314)를 결정할 수 있다. 예를 들면, 기준 부호화 단위의 결정 순서에 대한 정보가 프로세싱 블록마다 획득되는 경우, 각각의 프로세싱 블록(2302, 2312)과 관련된 기준 부호화 단위 결정 순서는 프로세싱 블록마다 상이할 수 있다. 프로세싱 블록(2302)과 관련된 기준 부호화 단위 결정 순서(2304)가 래스터 스캔(raster scan)순서인 경우, 프로세싱 블록(2302)에 포함되는 기준 부호화 단위는 래스터 스캔 순서에 따라 결정될 수 있다. 이에 반해 다른 프로세싱 블록(2312)과 관련된 기준 부호화 단위 결정 순서(2314)가 래스터 스캔 순서의 역순인 경우, 프로세싱 블록(2312)에 포함되는 기준 부호화 단위는 래스터 스캔 순서의 역순에 따라 결정될 수 있다.

비디오 복호화 장치(100)는 일 실시예에 따라, 결정된 적어도 하나의 기준 부호화 단위를 복호화할 수 있다. 비디오 복호화 장치(100)는 상술한 실시예를 통해 결정된 기준 부호화 단위에 기초하여 영상을 복호화 할 수 있다. 기준 부호화 단위를 복호화 하는 방법은 영상을 복호화 하는 다양한 방법들을 포함할 수 있다.

일 실시예에 따라 비디오 복호화 장치(100)는 현재 부호화 단위의 형태를 나타내는 블록 형태 정보 또는 현재 부호화 단위를 분할하는 방법을 나타내는 분할 형태 정보를 비트스트림으로부터 획득하여 이용할 수 있다. 블록 형태 정보 또는 분할 형태 정보는 다양한 데이터 단위와 관련된 비트스트림에 포함될 수 있다. 예를 들면, 비디오 복호화 장치(100)는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set), 비디오 파라미터 세트(video parameter set), 슬라이스 헤더(slice header), 슬라이스 세그먼트 헤더(slice segment header)에 포함된 블록 형태 정보 또는 분할 형태 정보를 이용할 수 있다. 나아가, 비디오 복호화 장치(100)는 최대 부호화 단위, 기준 부호화 단위, 프로세싱 블록마다 비트스트림으로부터 블록 형태 정보 또는 분할 형태 정보에 대응하는 신택스를 비트스트림으로부터 획득하여 이용할 수 있다.

이제까지 다양한 실시예들을 중심으로 살펴보았다. 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자는 본 개시가 본 개시의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 개시의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 개시에 포함된 것으로 해석되어야 할 것이다.

한편, 상술한 본 개시의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.

Claims (5)

1. 적어도 하나의 프로세서를 포함하는 비디오 복호화 장치에 있어서,
   상기 적어도 하나의 프로세서는,
   제 1 움직임 벡터를 이용하여 제 1 참조 픽처 내에서 제 1 참조 블록을 획득하고, 제 2 움직임 벡터를 이용하여 제 2 참조 픽처 내에서 제 2 참조 블록을 획득하고,
   제 1 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값과 제 2 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 적어도 하나의 픽셀을 포함하는 픽셀 그룹의 변위 벡터를 결정하고, 상기 제 1 확장 참조 블록은 상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 1 참조 블록으로부터 확장된 블록이고, 상기 제 2 확장 참조 블록은 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 2 참조 블록으로부터 확장된 블록이고,
   상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 및 상기 픽셀 그룹의 변위 벡터를 이용하여 상기 현재 블록에 대해 옵티컬 플로우 기반 보상을 수행함으로써 상기 현재 블록의 예측 픽셀 값을 획득하고,
   상기 현재 블록에 대한 잔차 픽셀 값을 획득하고,
   상기 예측 픽셀 값과 상기 잔차 픽셀 값을 이용하여 상기 현재 블록을 복원하는, 비디오 복호화 장치.
   
2. 적어도 하나의 프로세서를 포함하는 비디오 부호화 장치에 있어서,
   상기 적어도 하나의 프로세서는,
   제 1 움직임 벡터를 이용하여 제 1 참조 픽처 내에서 제 1 참조 블록을 획득하고, 제 2 움직임 벡터를 이용하여 제 2 참조 픽처 내에서 제 2 참조 블록을 획득하고,
   제 1 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값과 제 2 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 적어도 하나의 픽셀을 포함하는 픽셀 그룹의 변위 벡터를 결정하고, 상기 제 1 확장 참조 블록은 상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 1 참조 블록으로부터 확장된 블록이고, 상기 제 2 확장 참조 블록은 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 2 참조 블록으로부터 확장된 블록이고,
   상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 및 상기 픽셀 그룹의 변위 벡터를 이용하여 상기 현재 블록에 대해 옵티컬 플로우 기반 보상을 수행함으로써 상기 현재 블록의 예측 픽셀 값을 획득하고,
   상기 현재 블록의 픽셀 값과 상기 예측 픽셀 값을 이용하여 상기 현재 블록에 대한 잔차 픽셀 값을 획득하는, 비디오 부호화 장치.
   
3. 비디오 복호화 방법에 있어서,
   제 1 움직임 벡터를 이용하여 제 1 참조 픽처 내에서 제 1 참조 블록을 획득하고, 제 2 움직임 벡터를 이용하여 제 2 참조 픽처 내에서 제 2 참조 블록을 획득하는 단계;
   제 1 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값과 제 2 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 적어도 하나의 픽셀을 포함하는 픽셀 그룹의 변위 벡터를 결정하는 단계, 상기 제 1 확장 참조 블록은 상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 1 참조 블록으로부터 확장된 블록이고, 상기 제 2 확장 참조 블록은 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 2 참조 블록으로부터 확장된 블록이고;
   상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 및 상기 픽셀 그룹의 변위 벡터를 이용하여 상기 현재 블록에 대해 옵티컬 플로우 기반 보상을 수행함으로써 상기 현재 블록의 예측 픽셀 값을 획득하는 단계;
   상기 현재 블록에 대한 잔차 픽셀 값을 획득하는 단계; 및
   상기 예측 픽셀 값과 상기 잔차 픽셀 값을 이용하여 상기 현재 블록을 복원하는 단계를 포함하는, 비디오 복호화 방법.
   
4. 비디오 부호화 방법에 있어서,
   제 1 움직임 벡터를 이용하여 제 1 참조 픽처 내에서 제 1 참조 블록을 획득하고, 제 2 움직임 벡터를 이용하여 제 2 참조 픽처 내에서 제 2 참조 블록을 획득하는 단계;
   제 1 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값과 제 2 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 이용하여 현재 블록의 경계 안쪽에 인접하는 적어도 하나의 픽셀을 포함하는 픽셀 그룹의 변위 벡터를 결정하는 단계, 상기 제 1 확장 참조 블록은 상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 1 참조 블록으로부터 확장된 블록이고, 상기 제 2 확장 참조 블록은 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 2 참조 블록으로부터 확장된 블록이고;
   상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 및 상기 픽셀 그룹의 변위 벡터를 이용하여 상기 현재 블록에 대해 옵티컬 플로우 기반 보상을 수행함으로써 상기 현재 블록의 예측 픽셀 값을 획득하는 단계; 및
   상기 현재 블록의 픽셀 값과 상기 예측 픽셀 값을 이용하여 상기 현재 블록에 대한 잔차 픽셀 값을 획득하는 단계를 포함하는, 비디오 부호화 방법.
   
5. 비트스트림을 기록하기 위한 컴퓨터로 읽을 수 있는 기록매체에 있어서,
   상기 비트스트림은,
   현재 블록에 대한 잔차 픽셀 값과 관련된 정보를 포함하되,
   상기 현재 블록에 대한 잔차 픽셀 값은,
   제 1 움직임 벡터를 이용하여 제 1 참조 픽처 내에서 제 1 참조 블록을 획득하고, 제 2 움직임 벡터를 이용하여 제 2 참조 픽처 내에서 제 2 참조 블록을 획득하고,
   제 1 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값과 제 2 확장 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 이용하여 상기 현재 블록의 경계 안쪽에 인접하는 적어도 하나의 픽셀을 포함하는 픽셀 그룹의 변위 벡터를 결정하고, 상기 제 1 확장 참조 블록은 상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 1 참조 블록으로부터 확장된 블록이고, 상기 제 2 확장 참조 블록은 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값을 산출하기 위해 상기 제 2 참조 블록으로부터 확장된 블록이고,
   상기 제 1 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 상기 제 2 참조 블록 내 적어도 하나의 참조 픽셀의 그래디언트 값, 및 상기 픽셀 그룹의 변위 벡터를 이용하여 상기 현재 블록에 대해 옵티컬 플로우 기반 보상을 수행함으로써 상기 현재 블록의 예측 픽셀 값을 획득하고,
   상기 현재 블록의 픽셀 값과 상기 예측 픽셀 값을 이용함으로써 획득되는, 컴퓨터로 읽을 수 있는 기록매체.