KR101635111B1 - 움직임 벡터를 부호화, 복호화하는 방법 및 장치 - Google Patents

Abstract

현재 블록의 예측 움직임 벡터를 부호화하는 모드로서 명시 모드 및 암시 모드 중 하나를 선택하고, 선택된 모드에 따라 결정된 예측 움직임 벡터에 기초해 현재 블록의 움직임 벡터를 부호화하는 방법 및 장치가 개시된다.

Description

움직임 벡터를 부호화, 복호화하는 방법 및 장치{Method and apparatus for encoding/decoding motion vector}

본 발명은 움직임 벡터 부호화 방법 및 장치에 관한 것으로 보다 상세히는 현재 블록의 움직임 벡터를 예측하여 부호화, 복호화하는 방법 및 장치에 관한 것이다.

MPEG-4 H.264/MPEG-4 AVC(Advanced Video Coding)와 같은 코덱에서는 현재 블록의 움직임 벡터를 예측하기 위해 현재 블록에 인접한 이전에 부호화된 블록들의 움직임 벡터를 이용한다. 현재 블록에 좌측, 상부 및 우측 상부에 인접한 이전한 부호화된 블록들의 움직임 벡터들의 중앙값(median)을 현재 블록의 예측 움직임 벡터(Motion vector Predictor)로 이용한다.

본 발명이 해결하고자 하는 기술적 과제는 움직임 벡터를 부호화, 복호화하는 방법 및 장치를 제공하는데 있고, 상기 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공하는데 있다.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 움직임 벡터를 부호화하는 방법은 적어도 하나의 예측 움직임 벡터(motion vector predictor) 중 하나의 예측 움직임 벡터를 지시하는 정보를 부호화하는 제1 모드 및 현재 블록에 인접한 이전에 부호화된 영역에 포함된 픽셀들에 기초해 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 제2 모드 중 하나를 선택하는 단계; 상기 선택된 모드에 따라 현재 블록의 예측 움직임 벡터를 결정하고, 상기 현재 블록의 예측 움직임 벡터에 대한 정보를 부호화하는 단계; 및 상기 현재 블록의 움직임 벡터와 상기 현재 블록의 예측 움직임 벡터 사이의 차이 벡터를 부호화하는 단계를 포함하고, 상기 제2 모드는 상기 적어도 하나의 예측 움직임 벡터에 기초해 예측 움직임 벡터를 검색할 범위를 설정하고, 설정된 검색 범위를 상기 이전에 부호화된 영역에 포함된 픽셀들을 이용해 검색하여 상기 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 모드인 것을 특징으로 한다.

본 발명의 또 다른 실시예에 따르면, 상기 제1 모드 및 제2 모드 중 하나를 선택하는 단계는 현재 픽처 또는 현재 슬라이스의 최대 부호화 단위의 크기에서 현재 블록의 크기로 단계적으로 축소된 정도를 나타내는 심도에 기초해 상기 제1 모드 및 상기 제2 모드 중 하나를 선택하는 단계를 포함한다.

본 발명의 또 다른 실시예에 따르면, 상기 제1 모드 및 제2 모드 중 하나를 선택하는 단계는 상기 현재 블록을 포함하는 현재 픽처 또는 현재 슬라이스 단위로 상기 제1 모드 및 상기 제2 모드 중 하나를 선택하는 단계를 포함한다.

본 발명의 또 다른 실시예에 따르면, 상기 제1 모드 및 제2 모드 중 하나를 선택하는 단계는 현재 블록이 스킵 모드로 부호화되는지 여부에 기초해 상기 제1 모드 및 상기 제2 모드 중 하나를 선택하는 단계를 포함한다.

본 발명의 또 다른 실시예에 따르면, 상기 적어도 하나의 예측 움직임 벡터는 현재 블록의 좌측에 인접한 블록의 제1 움직임 벡터, 상부에 인접한 블록의 제2 움직임 벡터 및 우측 상부에 인접한 블록의 제3 움직임 벡터를 포함한다.

본 발명의 또 다른 실시예에 따르면, 상기 적어도 하나의 예측 움직임 벡터는 상기 제1 움직임 벡터, 상기 제2 움직임 벡터 및 상기 제3 움직임 벡터의 중앙값(median value)을 더 포함한다.

본 발명의 또 다른 실시예에 따르면, 상기 적어도 하나의 예측 움직임 벡터는 참조 픽처의 상기 현재 블록과 동일한 위치(colocated)의 블록의 움직임 벡터및 상기 참조 픽처와 상기 현재 픽처 사이의 시간적 거리에 기초해 생성된 예측 움직임 벡터를 더 포함한다.

본 발명의 또 다른 실시예에 따르면, 상기 예측 움직임 벡터에 대한 정보를 부호화하는 단계는 상기 동일한 위치의 블록이 상기 현재 픽처보다 시간적으로 선행하는 픽처의 블록인지 후행하는 픽처의 블록인지 지시하는 정보를 부호화하는 단계를 더 포함하는 것을 특징으로 한다.

본 발명의 또 다른 실시예에 따르면, 상기 동일한 위치의 블록이 상기 현재 픽처보다 시간적으로 선행하는 픽처의 블록인지 후행하는 픽처의 블록인지 지시하는 정보는 상기 현재 블록이 포함된 슬라이스의 헤더에 삽입되는 정보인 것을 특징으로 한다.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른, 움직임 벡터를 부호화하는 장치는 적어도 하나의 예측 움직임 벡터(motion vector predictor) 중 하나의 예측 움직임 벡터를 지시하는 정보를 부호화하는 제1 모드 및 현재 블록에 인접한 이전에 부호화된 영역에 포함된 픽셀들에 기초해 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 제2 모드 중 하나를 선택하고, 상기 선택된 모드에 기초해 현재 블록의 예측 움직임 벡터를 결정하는 예측부; 상기 선택된 모드에 기초해 상기 결정된 현재 블록의 예측 움직임 벡터에 대한 정보를 부호화하는 제1부호화부; 및 현재 블록의 움직임 벡터와 상기 현재 블록의 예측 움직임 벡터 사이의 차이 벡터를 부호화하는 제2부호화부를 포함하고, 상기 제2 모드는 상기 적어도 하나의 예측 움직임 벡터에 기초해 예측 움직임 벡터를 검색할 범위를 설정하고, 설정된 검색 범위를 상기 이전에 부호화된 영역에 포함된 픽셀들을 이용해 검색하여 상기 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 모드인 것을 특징으로 한다.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 움직임 벡터를 복호화하는 방법은 제1 모드 및 제2 모드 중 선택된 하나의 모드에 의해 부호화된 현재 블록의 예측 움직임 벡터에 대한 정보를 복호화하는 단계; 현재 블록의 움직임 벡터와 상기 현재 블록의 예측 움직임 벡터 사이의 차이 벡터를 복호화하는 단계; 상기 복호화된 현재 블록의 예측 움직임 벡터에 대한 정보에 기초해 현재 블록의 예측 움직임 벡터를 생성하는 단계; 및 상기 예측 움직임 벡터 및 상기 차이 벡터에 기초해 현재 블록의 움직임 벡터를 복원하는 단계를 포함하고, 상기 제1 모드는 적어도 하나의 예측 움직임 벡터(motion vector predictor) 중 하나의 예측 움직임 벡터를 지시하는 정보를 부호화하는 모드이고, 상기 제2 모드는 상기 적어도 하나의 예측 움직임 벡터에 기초해 예측 움직임 벡터를 검색할 범위를 설정하고, 설정된 검색 범위를 상기 현재 블록에 인접한 이전에 복호화된 영역에 포함된 픽셀들을 이용해 검색하여 상기 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 모드인 것을 특징으로 한다.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 움직임 벡터를 복호화하는 장치는 제1 모드 및 제2 모드 중 선택된 하나의 모드에 의해 부호화된 현재 블록의 예측 움직임 벡터에 대한 정보를 복호화하는 제1 복호화부; 현재 블록의 움직임 벡터와 상기 현재 블록의 예측 움직임 벡터 사이의 차이 벡터를 복호화하는 제2 복호화부; 상기 복호화된 현재 블록의 예측 움직임 벡터에 대한 정보에 기초해 현재 블록의 예측 움직임 벡터를 생성하는 예측부; 및 상기 예측 움직임 벡터 및 상기 차이 벡터에 기초해 현재 블록의 움직임 벡터를 복원하는 움직임벡터복원부를 포함하고, 상기 제1 모드는 적어도 하나의 예측 움직임 벡터(motion vector predictor) 중 현재 블록의 예측 움직임 벡터로 이용된 하나의 예측 움직임 벡터를 지시하는 정보를 부호화하는 모드이고, 상기 제2 모드는 상기 적어도 하나의 예측 움직임 벡터에 기초해 예측 움직임 벡터를 검색할 범위를 설정하고, 설정된 검색 범위를 상기 현재 블록에 인접한 이전에 복호화된 영역에 포함된 픽셀들을 이용해 검색하여 상기 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 모드인 것을 특징으로 한다.

*상기 기술적 과제를 해결하기 위해 본 발명의 일 실시예는 상기된 움직임 벡터 부호화, 복호화 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공한다.

본원 발명에 따르면, 움직임 벡터에 대한 정보를 별도로 부호화하지 않는 모드 및 예측 움직임 벡터에 대한 정보를 부호화하는 모드를 모두 이용해 움직임 벡터를 보다 정확하게 예측할 수 있다.

도 1은 본 발명의 일 실시예에 따른 영상 부호화 장치를 도시한다.
도 2는 본 발명의 일 실시예에 따른 영상 복호화 장치를 도시한다.
도 3은 본 발명의 일 실시예에 따른 계층적 부호화 단위를 도시한다.
도 4는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 부호화부를 도시한다.
도 5는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 복호화부를 도시한다.
도 6은 본 발명의 일 실시예에 따른 최대 부호화 단위, 서브 부호화 단위 및 예측 단위를 도시한다.
도 7은 본 발명의 일 실시예에 따른, 부호화 단위 및 변환 단위를 도시한다.
도 8a 및 8b는 본 발명의 일 실시예에 따른, 부호화 단위, 예측 단위 및 주파수 변환 단위의 분할 형태를 도시한다.
도 9는 본 발명의 일 실시예에 따른 움직임 벡터를 부호화하는 장치를 도시한다.
도 10a 및 10b는 본 발명의 일 실시예에 따른 명시 모드의 예측 움직임 벡터 후보들을 도시한다.
도 10c 내지 10e는 본 발명의 일 실시예에 따른 현재 블록에 인접한 다양한 크기의 블록들을 도시한다.
도 11a 내지 11c는 본 발명의 또 다른 실시예에 따른 명시 모드의 예측 움직임 벡터 후보들을 도시한다.
도 12a는 본 발명의 일 실시예에 따른 암시 모드의 예측 움직임 벡터를 생성하는 방법을 도시한다.
도 12b는 본 발명의 일 실시예에 따른 암시 모드의 예측 움직임 벡터를 검색하는 방법을 도시한다.
도 12c 및 12d는 본 발명의 일 실시예에 따른 예측 움직임 벡터를 생성하기 위해 이용되는 템플릿(template)을 도시한다.
도 13은 본 발명의 일 실시예에 따른 움직임 벡터를 복호화하는 장치를 도시한다.
도 14는 본 발명의 일 실시예에 따른 움직임 벡터를 부호화하는 방법을 설명하기 위한 흐름도이다.
도 15는 본 발명의 일 실시예에 따른 움직임 벡터를 복호화하는 방법을 설명하기 위한 흐름도이다.

이하에서는 도면을 참조하여 본 발명의 바람직한 실시예들을 상세히 설명한다.

도 1 은 본 발명의 일 실시예에 따른 영상 부호화 장치를 도시한다.

도 1을 참조하면, 본 발명의 일 실시예에 따른 영상 부호화 장치(100)는 최대 부호화 단위 분할부(110), 부호화 심도 결정부(120), 영상 데이터 부호화부(130) 및 부호화 정보 부호화부(140)를 포함한다.

최대 부호화 단위 분할부(110)는 최대 크기의 부호화 단위인 최대 부호화 단위에 기반하여 현재 픽처 또는 현재 슬라이스를 분할할 수 있다. 현재 픽처 또는 현재 슬라이스를 적어도 하나의 최대 부호화 단위로 분할할 수 있다.

본 발명의 일 실시예에 따르면, 최대 부호화 단위 및 심도를 이용해 부호화 단위가 표현될 수 있다. 전술한 바와 같이 최대 부호화 단위는 현재 픽처의 부호화 단위 중 크기가 가장 큰 부호화 단위를 나타내며, 심도는 부호화 단위가 계층적으로 축소된 서브 부호화 단위의 크기를 나타낸다. 심도가 커지면서, 부호화 단위는 최대 부호화 단위로부터 최소 부호화 단위까지 축소될 수 있으며, 최대 부호화 단위의 심도는 최소 심도로 정의되고, 최소 부호화 단위의 심도는 최대 심도로 정의될 수 있다. 최대 부호화 단위는 심도가 커짐에 따라 심도별 부호화 단위의 크기는 감소하므로, k 심도의 서브 부호화 단위는 복수 개의 k보다 큰 심도의 서브 부호화 단위를 포함할 수 있다.

부호화되는 픽처의 크기가 커짐에 따라, 더 큰 단위로 영상을 부호화하면 더 높은 영상 압축률로 영상을 부호화할 수 있다. 그러나, 부호화 단위를 크게 하고, 그 크기를 고정시켜버리면, 계속해서 변하는 영상의 특성을 반영하여 효율적으로 영상을 부호화할 수 없다.

예를 들어, 바다 또는 하늘에 대한 평탄한 영역을 부호화할 때에는 부호화 단위를 크게 할수록 압축률이 향상될 수 있으나, 사람들 또는 빌딩에 대한 복잡한 영역을 부호화할 때에는 부호화 단위를 작게 할수록 압축률이 향상된다.

이를 위해 본 발명의 일 실시예는 픽처 또는 슬라이스마다 상이한 최대 영상 부호화 단위를 설정하고, 최대 심도를 설정한다. 최대 심도는 부호화 단위가 축소될 수 있는 최대 횟수를 의미하므로, 최대 심도에 따라 최대 영상 부호화 단위에 포함된 최소 부호화 단위 크기를 가변적으로 설정할 수 있게 된다.

부호화 심도 결정부(120)는 최대 심도를 결정한다. 최대 심도는 R-D 코스트(Rate-Distortion Cost) 계산에 기초해 결정될 수 있다. 최대 심도는 픽처 또는 슬라이스마다 상이하게 결정되거나, 각각의 최대 부호화 단위마다 상이하게 결정될 수도 있다. 결정된 최대 심도는 부호화 정보 부호화부(140)로 출력되고, 최대 부호화 단위별 영상 데이터는 영상 데이터 부호화부(130)로 출력된다.

최대 심도는 최대 부호화 단위에 포함될 수 있는 가장 작은 크기의 부호화 단위 즉, 최소 부호화 단위를 의미한다. 다시 말해, 최대 부호화 단위는 상이한 심도에 따라 상이한 크기의 서브 부호화 단위로 분할될 수 있다. 도 8a 및 8b를 참조하여 상세히 후술한다. 또한, 최대 부호화 단위에 포함된 상이한 크기의 서브 부호화 단위들은 상이한 크기의 처리 단위에 기초해 예측 또는 주파수 변환될 수 있다. 다시 말해, 영상 부호화 장치(100)는 영상 부호화를 위한 복수의 처리 단계들을 다양한 크기 및 다양한 형태의 처리 단위에 기초해 수행할 수 있다. 영상 데이터의 부호화를 위해서는 예측, 주파수 변환, 엔트로피 부호화 등의 처리 단계를 거치는데, 모든 단계에 걸쳐서 동일한 크기의 처리 단위가 이용될 수도 있으며, 단계별로 상이한 크기의 처리 단위를 이용할 수 있다.

예를 들어 영상 부호화 장치(100)는 부호화 단위를 예측하기 위해, 부호화 단위와 다른 처리 단위를 선택할 수 있다.

부호화 단위의 크기가 2Nx2N(단, N은 양의 정수)인 경우, 예측을 위한 처리 단위는 2Nx2N, 2NxN, Nx2N, NxN 등일 수 있다. 다시 말해, 부호화 단위의 높이 또는 너비 중 적어도 하나를 반분하는 형태의 처리 단위를 기반으로 움직임 예측이 수행될 수도 있다. 이하, 예측의 기초가 되는 데이터 단위는 '예측 단위'라 한다.

예측 모드는 인트라 모드, 인터 모드 및 스킵 모드 중 적어도 하나일 수 있으며, 특정 예측 모드는 특정 크기 또는 형태의 예측 단위에 대해서만 수행될 수 있다. 예를 들어, 인트라 모드는 정방형인 2Nx2N, NxN 크기의 예측 단위에 대해서만 수행될 수 있다. 또한, 스킵 모드는 2Nx2N 크기의 예측 단위에 대해서만 수행될 수 있다. 부호화 단위 내부에 복수의 예측 단위가 있다면, 각각의 예측 단위에 대해 예측을 수행하여 부호화 오차가 가장 작은 예측 모드가 선택될 수 있다.

또한, 영상 부호화 장치(100)는 부호화 단위와 다른 크기의 처리 단위에 기초해 영상 데이터를 주파수 변환할 수 있다. 부호화 단위의 주파수 변환을 위해서 부호화 단위보다 작거나 같은 크기의 데이터 단위를 기반으로 주파수 변환이 수행될 수 있다. 이하, 주파수 변환의 기초가 되는 처리 단위를 '변환 단위'라 한다.

부호화 심도 결정부(120)는 라그랑지 곱(Lagrangian Multiplier) 기반의 율-왜곡 최적화 기법(Rate-Distortion Optimization)을 이용해 최대 부호화 단위에 포함된 서브 부호화 단위들을 결정할 수 있다. 다시 말해, 최대 부호화 단위가 어떠한 형태의 복수의 서브 부호화 단위로 분할되는지 결정할 수 있는데, 여기서 복수의 서브 부호화 단위는 심도에 따라 크기가 상이하다. 그런 다음, 영상 데이터 부호화부(130)는 부호화 심도 결정부(120)에서 결정된 분할 형태에 기초해 최대 부호화 단위를 부호화하여 비트스트림을 출력한다.

부호화 정보 부호화부(140)는 부호화 심도 결정부(120)에서 최대 부호화 단위의 부호화 모드에 대한 정보를 부호화한다. 최대 부호화 단위의 분할 형태에 대한 정보, 최대 심도에 대한 정보 및 심도별 서브 부호화 단위의 부호화 모드에 관한 정보를 부호화하여 비트스트림을 출력한다. 서브 부호화 단위의 부호화 모드에 관한 정보는 서브 부호화 단위의 예측 단위에 대한 정보, 예측 단위별 예측 모드 정보, 서브 부호화 단위의 변환 단위에 대한 정보 등을 포함할 수 있다.

최대 부호화 단위마다 상이한 크기의 서브 부호화 단위가 존재하고, 각각의 서브 부호화 단위마다 부호화 모드에 관한 정보가 결정되어야 하므로, 하나의 최대 부호화 단위에 대해서는 적어도 하나의 부호화 모드에 관한 정보가 결정될 수 있다.

영상 부호화 장치(100)는 심도가 커짐에 따라 최대 부호화 단위를 높이 및 너비를 반분하여 서브 부호화 단위를 생성할 수 있다. 즉, k 심도의 부호화 단위의 크기가 2Nx2N이라면, k+1 심도의 부호화 단위의 크기는 NxN 이다.

따라서, 일 실시예에 따른 영상 복호화 장치(100)는 영상의 특성을 고려한 최대 부호화 단위의 크기 및 최대 심도를 기반으로, 각각의 최대 부호화 단위마다 최적의 분할 형태를 결정할 수 있다. 영상 특성을 고려하여 가변적으로 최대 부호화 단위의 크기를 조절하고, 상이한 심도의 서브 부호화 단위로 최대 부호화 단위를 분할하여 영상을 부호화함으로써, 다양한 해상도의 영상을 보다 효율적으로 부호화할 수 있다.

*도 2 는 본 발명의 일 실시예에 따른 영상 복호화 장치를 도시한다.

도 2를 참조하면, 본 발명의 일 실시예에 따른 영상 복호화 장치(200)는 영상 데이터 획득부(210), 부호화 정보 추출부(220) 및 영상 데이터 복호화부(230)를 포함한다.

영상 관련 데이터 획득부(210)는 영상 복호화 장치(200)가 수신한 비트스트림을 파싱하여, 최대 부호화 단위별로 영상 데이터를 획득하여 영상 데이터 복호화부(230)로 출력한다. 영상 데이터 획득부(210)는 현재 픽처 또는 슬라이스에 대한 헤더로부터 현재 픽처 또는 슬라이스의 최대 부호화 단위에 대한 정보를 추출할 수 있다. 다시 말해, 비트스트림을 최대 부호화 단위로 분할하여, 영상 데이터 복호화부(230)가 최대 부호화 단위마다 영상 데이터를 복호화하게 한다.

부호화 정보 추출부(220)는 영상 복호화 장치(200)가 수신한 비트열을 파싱하여, 현재 픽처에 대한 헤더로부터 최대 부호화 단위, 최대 심도, 최대 부호화 단위의 분할 형태, 서브 부호화 단위의 부호화 모드에 관한 정보를 추출한다. 분할 형태 및 부호화 모드에 관한 정보는 영상 데이터 복호화부(230)로 출력된다.

최대 부호화 단위의 분할 형태에 대한 정보는 최대 부호화 단위에 포함된 심도에 따라 상이한 크기의 서브 부호화 단위에 대한 정보를 포함할 수 있으며, 부호화 모드에 관한 정보는 서브 부호화 단위별 예측 단위에 대한 정보, 예측 모드에 대한 정보 및 변환 단위에 대한 정보 등을 포함할 수 있다.

영상 데이터 복호화부(230)는 부호화 정보 추출부에서 추출된 정보에 기초하여 각각의 최대 부호화 단위의 영상 데이터를 복호화하여 현재 픽처를 복원한다. 최대 부호화 단위의 분할 형태에 대한 정보에 기초하여, 영상 데이터 복호화부(230)는 최대 부호화 단위에 포함된 서브 부호화 단위를 복호화할 수 있다. 복호화 과정은 인트라 예측 및 움직임 보상을 포함하는 움직임 예측 과정, 및 주파수 역변환 과정을 포함할 수 있다.

영상 데이터 복호화부(230)는, 서브 부호화 단위의 예측을 위해, 서브 부호화 단위별 예측 단위에 대한 정보 및 예측 모드에 대한 정보에 기초해 인트라 예측 또는 인터 예측을 수행할 수 있다. 또한, 영상 데이터 복호화부(230)는, 서브 부호화 단위의 변환 단위에 대한 정보에 기초해 서브 부호화 단위마다 주파수 역변환을 수행할 수 있다.

도 3 은 본 발명의 일 실시예에 따른 계층적 부호화 단위를 도시한다.

도 3을 참조하면, 본 발명에 따른 계층적 부호화 단위는 너비x높이가 64x64인 부호화 단위부터, 32x32, 16x16, 8x8, 및 4x4를 포함할 수 있다. 정사각형 형태의 부호화 단위 이외에도, 너비x높이가 64x32, 32x64, 32x16, 16x32, 16x8, 8x16, 8x4, 4x8인 부호화 단위들이 존재할 수 있다.

도 3을 참조하면, 해상도가 1920x1080인 영상 데이터(310)에 대해서, 최대 부호화 단위의 크기는 64x64, 최대 심도가 2로 설정되어 있다.

또 다른 해상도가 1920x1080인 영상 데이터(320)에 대해서 최대 부호화 단위의 크기는 64x64, 최대 심도가 4로 설정되어 있다. 해상도가 352x288인 비디오 데이터(330)에 대해서 최대 부호화 단위의 크기는 16x16, 최대 심도가 2로 설정되어 있다.

해상도가 높거나 데이터량이 많은 경우 압축률 향상뿐만 아니라 영상 특성을 정확히 반영하기 위해 부호화 사이즈의 최대 크기가 상대적으로 큰 것이 바람직하다. 따라서, 영상 데이터(330)에 비해, 해상도가 높은 영상 데이터(310 및 320)는 최대 부호화 단위의 크기가 64x64로 선택될 수 있다.

최대 심도는 계층적 부호화 단위에서 총 계층수를 나타낸다. 영상 데이터(310)의 최대 심도는 2이므로, 영상 데이터(310)의 부호화 단위(315)는 장축 크기가 64인 최대 부호화 단위로부터, 심도가 증가함에 따라 장축 크기가 32, 16인 서브 부호화 단위들까지 포함할 수 있다.

반면, 영상 데이터(330)의 최대 심도는 2이므로, 영상 데이터(330)의 부호화 단위(335)는 장축 크기가 16인 최대 부호화 단위들로부터, 심도가 증가함에 따라 장축 크기가 8, 4인 부호화 단위들까지 포함할 수 있다.

영상 데이터(320)의 최대 심도는 4이므로, 비디오 데이터(320)의 부호화 단위(325)는 장축 크기가 64인 최대 부호화 단위로부터, 심도가 증가함에 따라 장축 크기가 32, 16, 8, 4인 서브 부호화 단위들까지 포함할 수 있다. 심도가 증가할수록 더 작은 서브 부호화 단위에 기초해 영상을 부호화하므로 보다 세밀한 장면을 포함하고 있는 영상을 부호화하는데 적합해진다.

도 4 는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 부호화부를 도시한다.

인트라 예측부(410)는 현재 프레임(405) 중 인트라 모드의 예측 단위에 대해 인트라 예측을 수행하고, 움직임 추정부(420) 및 움직임 보상부(425)는 인터 모드의 예측 단위에 대해 현재 프레임(405) 및 참조 프레임(495)을 이용해 인터 예측 및 움직임 보상을 수행한다.

인트라 예측부(410), 움직임 추정부(420) 및 움직임 보상부(425)로부터 출력된 예측 단위에 기초해 레지듀얼 값들이 생성되고, 생성된 레지듀얼 값들은 주파수 변환부(430) 및 양자화부(440)를 거쳐 양자화된 변환 계수로 출력된다.

양자화된 변환 계수는 역양자화부(460), 주파수 역변환부(470)를 통해 다시 레지듀얼 값으로 복원되고, 복원된 레지듀얼 값들은 디블로킹부(480) 및 루프 필터링부(490)를 거쳐 후처리되어 참조 프레임(495)으로 출력된다. 양자화된 변환 계수는 엔트로피 부호화부(450)를 거쳐 비트스트림(455)으로 출력될 수 있다.

본 발명의 일 실시예에 따른 영상 부호화 방법에 따라 부호화하기 위해, 영상 부호화부(400)의 구성 요소들인 인트라 예측부(410), 움직임 추정부(420), 움직임 보상부(425), 주파수 변환부(430), 양자화부(440), 엔트로피 부호화부(450), 역양자화부(460), 주파수 역변환부(470), 디블로킹부(480) 및 루프 필터링부(490)는 모두 최대 부호화 단위, 심도에 따른 서브 부호화 단위, 예측 단위 및 변환 단위에 기초해 영상 부호화 과정들을 처리한다.

도 5는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 복호화부를 도시한다.

비트스트림(505)이 파싱부(510)를 거쳐 복호화 대상인 부호화된 영상 데이터 및 복호화를 위해 필요한 부호화 정보가 파싱된다. 부호화된 영상 데이터는 엔트로피 복호화부(520) 및 역양자화부(530)를 거쳐 역양자화된 데이터로 출력되고, 주파수 역변환부(540)를 거쳐 레지듀얼 값들로 복원된다. 레지듀얼 값들은 인트라 예측부(550)의 인트라 예측의 결과 또는 움직임 보상부(560)의 움직임 보상 결과와 가산되어 부호화 단위 별로 복원된다. 복원된 부호화 단위는 디블로킹부(570) 및 루프 필터링부(580)를 거쳐 다음 부호화 단위 또는 다음 픽처의 예측에 이용된다.

본 발명의 일 실시예에 따른 영상 복호화 방법에 따라 복호화하기 위해 영상 복호화부(400)의 구성 요소들인 파싱부(510), 엔트로피 복호화부(520), 역양자화부(530), 주파수 역변환부(540), 인트라 예측부(550), 움직임 보상부(560), 디블로킹부(570) 및 루프 필터링부(580)가 모두 최대 부호화 단위, 심도에 따른 서브 부호화 단위, 예측 단위 및 변환 단위에 기초해 영상 복호화 과정들을 처리한다.

특히, 인트라 예측부(550), 움직임 보상부(560)는 최대 부호화 단위 및 심도를 고려하여 서브 부호화 단위 내의 예측 단위 및 예측 모드를 결정하며, 주파수 역변환부(540)는 변환 단위의 크기를 고려하여 주파수 역변환을 수행한다.

도 6는 본 발명의 일 실시예에 따른 최대 부호화 단위, 서브 부호화 단위 및 예측 단위를 도시한다.

본 발명의 일 실시예에 따른 영상 부호화 장치(100) 및 영상 복호화 장치(200)는 영상 특성을 고려하여 부호화, 복호화를 수행하기 위해 계층적인 부호화 단위를 이용한다. 최대 부호화 단위 및 최대 심도는 영상의 특성에 따라 적응적으로 설정되거나, 사용자의 요구에 따라 다양하게 설정될 수 있다.

본 발명의 일 실시예에 따른 부호화 단위의 계층 구조(600)는 최대 부호화 단위(610)의 높이 및 너비가 64이며, 최대 심도가 4인 경우를 도시한다. 부호화 단위의 계층 구조(600)의 세로축을 따라서 심도가 증가하고, 심도의 증가에 따라 서브 부호화 단위(620 내지 650)의 높이 및 너비가 축소된다. 또한, 부호화 단위의 계층 구조(600)의 가로축을 따라, 최대 부호화 단위(610) 및 서브 부호화 단위(620 내지 650)의 예측 단위가 도시되어 있다.

최대 부호화 단위(610)는 심도가 0이며, 부호화 단위의 크기, 즉 높이 및 너비가 64x64이다. 세로축을 따라 심도가 증가하며, 크기 32x32인 심도 1의 서브 부호화 단위(620), 크기 16x16인 심도 2의 서브 부호화 단위(630), 크기 8x8인 심도 3의 서브 부호화 단위(640), 크기 4x4인 심도 4의 서브 부호화 단위(650)가 존재한다. 크기 4x4인 심도 4의 서브 부호화 단위(650)는 최소 부호화 단위이다.

도 6을 참조하면, 각각의 심도별로 가로축을 따라 예측 단위의 예시들이 도시되어 있다. 즉, 심도 0의 최대 부호화 단위(610)의 예측 단위는, 크기 64x64의 부호화 단위(610)와 동일하거나 작은 크기인 크기 64x64의 예측 단위(610), 크기 64x32의 예측 단위(612), 크기 32x64의 예측 단위(614), 크기 32x32의 예측 단위(616)일 수 있다.

*심도 1의 크기 32x32의 부호화 단위(620)의 예측 단위는, 크기 32x32의 부호화 단위(620)와 동일하거나 작은 크기인 크기 32x32의 예측 단위(620), 크기 32x16의 예측 단위(622), 크기 16x32의 예측 단위(624), 크기 16x16의 예측 단위(626)일 수 있다.

심도 2의 크기 16x16의 부호화 단위(630)의 예측 단위는, 크기 16x16의 부호화 단위(630)와 동일하거나 작은 크기인 크기 16x16의 예측 단위(630), 크기 16x8의 예측 단위(632), 크기 8x16의 예측 단위(634), 크기 8x8의 예측 단위(636)일 수 있다.

심도 3의 크기 8x8의 부호화 단위(640)의 예측 단위는, 크기 8x8의 부호화 단위(640)와 동일하거나 작은 크기인 크기 8x8의 예측 단위(640), 크기 8x4의 예측 단위(642), 크기 4x8의 예측 단위(644), 크기 4x4의 예측 단위(646)일 수 있다.

마지막으로, 심도 4의 크기 4x4의 부호화 단위(650)는 최소 부호화 단위이며 최대 심도의 부호화 단위이고, 예측 단위는 크기 4x4의 예측 단위(650)이다.

도 7은 본 발명의 일 실시예에 따른, 부호화 단위 및 변환 단위를 도시한다.

본 발명의 일 실시예에 따른 영상 부호화 장치(100) 및 영상 복호화 장치(200)는, 최대 부호화 단위 그대로 부호화하거나, 최대 부호화 단위 보다 작거나 같은 서브 부호화 단위로 최대 부호화 단위를 분할하여 부호화한다. 부호화 과정 중 주파수 변환을 위한 변환 단위의 크기는 각각의 부호화 단위보다 크지 않은 변환 단위로 선택된다. 예를 들어, 현재 부호화 단위(710)가 64x64 크기일 때, 32x32 크기의 변환 단위(720)를 이용하여 주파수 변환이 수행될 수 있다.

도 8a 및 8b는 본 발명의 일 실시예에 따른, 부호화 단위, 예측 단위 및 주파수 변환 단위의 분할 형태를 도시한다.

도 8a는 본 발명의 일 실시예에 따른 부호화 단위 및 예측 단위를 도시한다.

도 8a의 좌측은 최대 부호화 단위(810)를 부호화하기 위해 본 발명의 일 실시예에 따른 영상 부호화 장치(100)가 선택한 분할 형태를 도시한다. 영상 부호화 장치(100)는 다양한 형태로 최대 부호화 단위(810)를 분할하고, 부호화한 다음 다양한 분할 형태의 부호화 결과를 R-D 코스트에 기초해 비교하여 최적의 분할 형태를 선택한다. 최대 부호화 단위(810)를 그대로 부호화하는 것이 최적일 경우에는 도 8a 및 8b와 같이 최대 부호화 단위(810)를 분할하지 않고 최대 부호화 단위(800)를 부호화할 수도 있다.

도 8a의 좌측을 참조하면, 심도 0인 최대 부호화 단위(810)를 심도 1 이상의 서브 부호화 단위로 분할하여 부호화한다. 최대 부호화 단위(810)를 네 개의 심도 1의 서브 부호화 단위로 분할한 다음, 전부 또는 일부의 심도 1의 서브 부호화 단위를 다시 심도 2의 서브 부호화 단위로 분할한다.

심도 1의 서브 부호화 단위 중 우측 상부에 외치한 서브 부호화 단위 및 좌측 하부에 위치한 서브 부호화 단위가 심도 2 이상의 서브 부호화 단위로 분할되었다. 심도 2 이상의 서브 부호화 단위 중 일부는 다시 심도 3 이상의 서브 부호화 단위로 분할될 수 있다.

도 8b의 우측은 최대 부호화 단위(810)에 대한 예측 단위의 분할 형태를 도시한다.

도 8a의 우측을 참조하면, 최대 부호화 단위에 대한 예측 단위(860)는 최대 부호화 단위(810)와 상이하게 분할될 수 있다. 다시 말해, 서브 부호화 단위들 각각에 대한 예측 단위는 서브 부호화 단위보다 작을 수 있다.

예를 들어, 심도 1의 서브 부호화 단위 중 우측 하부에 외치한 서브 부호화 단위(854)에 대한 예측 단위는 서브 부호화 단위(854)보다 작을 수 있다. 심도 2의 서브 부호화 단위들(814, 816, 818, 828, 850, 852) 중 일부 서브 부호화 단위(815, 816, 850, 852)에 대한 예측 단위는 서브 부호화 단위보다 작을 수 있다. 또한, 심도 3의 서브 부호화 단위(822, 832, 848)에 대한 예측 단위는 서브 부호화 단위보다 작을 수 있다. 예측 단위는 각각의 서브 부호화 단위를 높이 또는 너비 방향으로 반분한 형태일 수도 있고, 높이 및 너비 방향으로 4분한 형태일 수도 있다.

도 8b는 본 발명의 일 실시예에 따른 예측 단위 및 변환 단위를 도시한다.

도 8b의 좌측은 도 8a의 우측에 도시된 최대 부호화 단위(810)에 대한 예측 단위의 분할 형태를 도시하고, 도 8b의 우측은 최대 부호화 단위(810)의 변환 단위의 분할 형태를 도시한다.

도 8b의 우측을 참조하면, 변환 단위(870)의 분할 형태는 예측 단위(860)와 상이하게 설정될 수 있다.

예를 들어, 심도 1의 부호화 단위(854)에 대한 예측 단위가 높이를 반분한 형태로 선택되더라도, 변환 단위는 심도 1의 부호화 단위(854)의 크기와 동일한 크기로 선택될 수 있다. 마찬가지로, 심도 2의 부호화 단위(814, 850)에 대한 예측 단위가 심도 2의 부호화 단위(814, 850)의 높이를 반분한 형태로 선택되더라도 변환 단위는 심도 2의 부호화 단위(814, 850)의 원래 크기와 동일한 크기로 선택될 수 있다.

예측 단위보다 더 작은 크기로 변환 단위가 선택될 수도 있다. 예를 들어, 심도 2의 부호화 단위(852)에 대한 예측 단위가 너비를 반분한 형태로 선택된 경우에 변환 단위는 예측 단위보다 더 작은 크기인 높이 및 너비를 반분한 형태로 선택될 수 있다.

도 9는 본 발명의 일 실시예에 따른 움직임 벡터를 부호화하는 장치를 도시한다.

도 1과 관련하여 전술한 영상 부호화 장치(100) 또는 도 4와 관련하여 전술한 영상 부호화부(400)에 포함되어 움직임 벡터를 부호화하는 장치를 상세히 도시된다. 도 9를 참조하면, 본 발명의 일 실시예에 따른 움직임 벡터 부호화 장치(900)는 예측부(910), 제1 부호화부(920) 및 제2 부호화부(930)를 포함한다.

인터 예측 즉, 픽처간 예측을 이용해 부호화된 블록을 복호화하기 위해서는 현재 블록과 참조 픽처 내의 유사한 블록 사이의 위치 차이를 나타내는 움직임 벡터에 대한 정보가 필요하다. 따라서, 영상 부호화시에 움직임 벡터에 대한 정보를 부호화하여 비트스트림에 삽입하게 되는데, 움직임 벡터에 대한 정보를 그대로 부호화하여 삽입하면, 움직임 벡터에 대한 정보를 부호화하기 위한 오버헤드(overhead)가 증가하게 되어 영상 데이터의 압축률이 낮아진다.

따라서, 영상 부호화에서는 현재 블록의 움직임 벡터를 예측하고, 예측의 결과로 생성된 예측 움직임 벡터(motion vector predictor)와 원본 움직임 벡터와의 차분 벡터만을 부호화하여 비트스트림에 삽입으로써 움직임 벡터에 대한 정보도 압축한다. 도 9는 이러한 예측 움직임 벡터를 이용한 움직임 벡터를 부호화하는 장치를 도시한다.

도 9를 참조하면, 예측부(910)는 현재 블록의 예측 움직임 벡터가 명시 모드(explicit mode) 및 암시 모드(implicit mode) 중 어떤 모드에 기초해 예측 부호화되는지 결정한다.

전술한 바와 같이, MPEG-4 H.264/MPEG-4 AVC(Advanced Video Coding)와 같은 코덱에서는 현재 블록의 움직임 벡터를 예측하기 위해 현재 블록에 인접한 이전에 부호화된 블록들의 움직임 벡터를 이용한다. 현재 블록에 좌측, 상부 및 우측 상부에 인접한 이전한 부호화된 블록들의 움직임 벡터들의 중앙값(median)을 현재 블록의 예측 움직임 벡터로 이용한다. 인터 예측을 이용해 부호화된 모든 블록의 움직임 벡터가 동일한 방법을 이용해 예측되기 때문에 예측 움직임 벡터에 대해 정보는 별도로 부호화할 필요가 없다. 그러나, 본원 발명에 따른 영상 부호화 장치(100) 또는 영상 부호화부(400)는 움직임 벡터를 보다 정확하게 예측하기 위해 전술한 예측 움직임 벡터에 대한 정보를 별도로 부호화하지 않는 모드 및 예측 움직임 벡터에 대한 정보를 부호화하는 모드를 모두 이용하는 바 이에 대해 상세히 후술한다.

(1) 명시 모드

예측부(910)가 선택할 수 있는 예측 움직임 벡터를 부호화하는 방법 중 하나는 현재 블록의 예측 움직임 벡터에 대한 정보를 명시적으로 부호화하는 모드가 있을 수 있다. 명시 모드는 적어도 하나의 예측 움직임 벡터 후보들 중에서 어떤 예측 움직임 벡터를 이용해 현재 블록의 움직임 벡터를 예측하는지 지시하는 정보를 별도로 부호화하는 모드이다. 도 10a, 10b, 11a 내지 11c를 참조하여 본원 발명의 예측 움직임 벡터 후보를 설명한다.

도 10a 및 10b는 본 발명의 일 실시예에 따른 명시 모드의 예측 움직임 벡터 후보들을 도시한다.

도 10a를 참조하면, 본 발명의 일 실시예에 따른 움직임 벡터 예측 방법은 현재 블록에 인접한 이전에 부호화된 블록들의 움직임 벡터 중 하나를 현재 블록의 예측 움직임 벡터로 이용할 수 있다. 현재 블록의 상부에 인접한 블록들 중 가장 좌측의 a0 블록, 좌측에 인접한 가장 상부의 b0 블록, 우측상부에 인접한 c 블록, 좌측상부에 인접한 d 블록 및 좌측하부에 인접한 e 블록을 모두 현재 블록의 예측 움직임 벡터로 이용할 수 있다.

본 발명에 따른 영상 부호화 방법 및 복호화 방법은 심도에 의해 구분되는 다양한 크기의 부호화 단위를 기초로 영상 부호화 및 복호화를 수행하는 바, 좌측하부에 인접한 e 블록의 움직임 벡터도 현재 블록의 예측 움직임 벡터로 이용할 수 있다.

도 8a을 참조하여 설명하면, 현재 블록이 부호화 단위(820)이면, 현재 블록의 상부, 좌측상부, 우측상부, 좌측 및 좌측하부의 부호화 단위들(814, 816, 818 및 822)은 현재 블록 이전에 부호화된다. 따라서, 현재 블록의 좌측하부에 인접한 블록의 움직임 벡터도 현재 블록의 예측 움직임 벡터로 이용할 수 있다.

도 10b를 참조하면, 현재 블록의 인접한 모든 블록의 움직임 벡터를 현재 블록의 예측 움직임 벡터로 이용할 수 있다. 다시 말해, 상부에 인접한 블록들 중 가장 좌측의 a0 블록뿐만 아니라 상부에 인접한 모든 블록들(a0 내지 aN)의 움직임 벡터를 현재 블록의 예측 움직임 벡터로 이용할 수 있으며, 좌측에 인접한 불록들 중 가장 상부의 b0 블록뿐만 아니라 좌측에 인접한 모든 블록들(b0 내지 bN)의 움직임 벡터를 현재 블록의 예측 움직임 벡터로 이용할 수 있다.

또한, 인접한 블록들의 움직임 벡터의 중앙값을 예측 움직임 벡터로 이용할 수 있다. 다시 말해, median(mv_a0, mv_b0, mv_c)을 현재 블록의 예측 움직임 벡터로 이용할 수 있다. 여기서, mv_a0은 a0 블록의 움직임 벡터이고, mv_b0는 b0 블록의 움직임 벡터이며, mv_c는 c 블록의 움직임 벡터이다.

다만, 현재 블록의 크기 및 인접한 블록들의 크기에 따라 현재 블록의 예측 움직임 벡터 후보들을 제한할 수 있는 바, 도 10c 내지 10e를 참조하여 상세히 설명한다.

도 10c 내지 10e는 본 발명의 일 실시예에 따른 현재 블록에 인접한 다양한 크기의 블록들을 도시한다.

전술한 바와 같이 본 발명에 따른 영상 부호화 방법 및 복호화 방법은 심도에 따라 결정되는 다양한 크기의 부호화 단위 및 예측 단위를 이용해 영상을 부호화한다. 따라서, 현재 블록에 인접한 블록들의 크기도 다양할 수 있는 바, 현재 블록의 크기와 일부 인접한 블록들의 크기가 크게 상이하면, 크기가 다른 일부 인접한 블록들의 움직임 벡터는 현재 블록의 예측 움직임 벡터로 이용하지 않을 수 있다.

도 10c를 참조하면, 현재 블록(1010)의 상부에 인접한 블록들(1014 내지 1018)은 현재 블록(1010)의 크기보다 작은 블록들이다. 현재 블록(1010)과 크기가 동일한 크기의 인접한 블록(1012)의 움직임 벡터가 현재 블록(1010)의 움직임 벡터와 동일 또는 유사할 가능성이 높을 수 있으므로, 예측부(910)는 동일한 크기의 인접한 블록(1012)의 움직임 벡터만을 예측 움직임 벡터로 이용할 수 있다.

크기가 동일하지 않더라도, 소정 크기 이상의 인접한 블록들의 움직임 벡터들만 예측 움직임 벡터로 이용할 수 있다. 예를 들어, 현재 블록(1010)의 크기와 비교하여 1/4 크기 이상인 블록들(1012 및 1018)의 움직임 벡터들만을 예측 움직임 벡터로 이용할 수 있다.

도 10d를 참조하면, 현재 블록(1020)의 좌측에 인접한 블록(1022)의 크기는 현재 블록의 16배로서, 현저한 크기의 차이가 존재한다. 현저한 크기의 차이로 인해 좌측에 인접한 블록(1022)의 움직임 벡터가 현재 블록(1020)의 움직임 벡터와 동일 또는 유사할 가능성이 낮을 수 있다. 따라서, 좌측에 인접한 블록(1022)의 움직임 벡터는 현재 블록(1020)의 예측 움직임 벡터로 이용하지 않고, 상부에 인접한 블록(1024) 및 좌측상부에 인접한 블록(1026)의 움직임 벡터만 이용할 수 있다.

도 10e를 참조하면, 현재 블록(1030)의 크기가 인접한 모든 블록들(1031 내지 1037)의 크기보다 크다. 이 때, 인접한 모든 블록들(1031 내지 1037)의 움직임 벡터를 모두 현재 블록(1030)의 예측 움직임 벡터로 이용하면, 현재 블록(1030)의 예측 움직임 벡터 후보들의 개수가 너무 많을 수 있다. 현재 블록(1030)과 인접한 블록들(1031 내지 1037) 사이의 크기 차이가 클수록 예측 움직임 벡터 후보들의 개수는 더 많아진다. 따라서, 본 발명의 일 실시예에 따른 예측부(910)는 인접한 블록 중 일부 블록의 움직임 벡터는 현재 블록(1030)의 예측 움직임 벡터로 이용하지 않는다.

예를 들어, 도 10e에 도시된 실시예에서, 좌측하부에 인접한 블록(1031) 및 우측상부에 인접한 블록(1037)의 움직임 벡터는 현재 블록(1030)의 예측 움직임 벡터로 이용하지 않을 수 있다.

이를 보다 일반화하여, 현재 블록(1030)의 크기가 소정 크기 이상이면, 인접한 블록들 중 특정 방향으로 인접한 블록들의 움직임 벡터는 현재 블록(1030)의 예측 움직임 벡터로 이용하지 않을 수 있다.

도 11a 내지 11c는 본 발명의 또 다른 실시예에 따른 명시 모드의 예측 움직임 벡터 후보들을 도시한다.

도 11a는 본 발명의 일 실시예에 따른 B 픽처(Bi-directional Predictive Picture)의 예측 움직임 벡터를 계산하는 방법을 도시한다. 현재 블록을 포함하는 현재 픽처가 양방향 예측을 수행하는 B 픽처인 경우 시간적 거리(tempral distance)에 기초해 생성된 움직임 벡터가 예측 움직임 벡터 후보일 수 있다.

현재 픽처(1110)의 현재 블록(1100)의 예측 움직임 벡터(mv_temporal)는 시간적으로 선행하는 픽처(1112)의 동일한 위치(colocated)의 블록(1120)의 움직임 벡터를 이용해 생성될 수 있다. 예를 들어, 현재 블록(1100)과 동일한 위치의 블록(1120)의 움직임 벡터 mv_colA가 현재 픽처(1110)의 시간적으로 후행하는 픽처(1114)의 검색된 블록(1122)에 대해 생성되면, 현재 블록(1100)의 예측 움직임 벡터 후보들인 mv_L0A 및 mv_L1A 는 다음과 같이 생성될 수 있다.

mv_L1A = (t1/t2) * mv_colA

mv_L0A = mv_L1A - mv_colA

여기서, mv_L0A는 시간적으로 선행하는 픽처(1112)에 대한 현재 블록(1110)의 예측 움직임 벡터를 의미하고, mv_L1A는 시간적으로 후행하는 픽처(1114)에 대한 현재 블록(1110)의 예측 움직임 벡터를 의미한다.

도 11a에 도시된 실시예에서는 B 픽처인 현재 픽처(1110)가 시간적으로 선행하는 픽처(1112)와 시간적으로 후행하는 픽처(1114) 사이에 존재한다. 이 때, 동일한 위치의 블록(1120)의 움직임 벡터 mv_colA가 현재 픽처(1110)의 시간적으로 후행하는 픽처(1114)에 대해 생성되면, mv_L1A에 기초해 현재 블록(1100)의 움직임 벡터를 보다 정확하게 예측할 수 있다. 다시 말해, mv_colA가 도 11a에 도시된 방향과 반대 방향의 움직임 벡터인 경우 즉, 시간적으로 선행하는 픽처(1112) 이전의 다른 픽처에 대해 생성된 경우보다 mv_colA가 도 11a에 도시된 방향의 움직임 벡터인 경우에 현재 블록(1100)의 움직임 벡터를 보다 정확하게 예측할 수 있다.

따라서, 현재 블록(1110)으로부터 동일한 위치의 블록(1120)으로의 방향이 List0 방향이라면, 동일한 위치의 블록(1120)의 움직임 벡터 mv_colA는 List1 방향이어야, 도 11a에 도시된 바와 같이 현재 픽처(1110)가 선행하는 픽처(1112)와 후행하는 픽처(1114) 사이에 존재할 가능성이 높아져 mv_colA에 기초해 현재 블록(1100)의 움직임 벡터를 보다 정확하게 예측할 수 있다.

또한, 도 11a에 도시된 픽처들(1110 내지 1114)은 시간 순서에 따라 배열되어 있으므로, POC(Picture Order Count)에 기초해 현재 블록의 예측 움직임 벡터(mv_temporal)를 생성할 수 있다. 현재 블록이 참조하는 픽처가 도 11a에 픽처들(1112 및 1114)가 아닌 다른 픽처일 수 있으므로, POC에 기초해 현재 블록의 예측 움직임 벡터를 생성한다.

예를 들어, 현재 픽처의 POC를 CurrPOC이고, 현재 픽처가 참조하는 픽처의 POC를 CurrRefPOC이라면, 현재 블록이 예측 움직임 벡터는 다음과 같이 생성될 수 있다.

Scale = (CurrPOC-CurrRefPOC)/(ColPOC-ColRefPOC)

mv_temporal = Scale*mv_colA

여기서 ColPOC는 동일한 위치의 블록(1120)이 포함되어 있는 시간적으로 선행하는 픽처(1112)의 POC이며, ColRefPOC는 동일한 위치의 블록(1120)이 참조하는 블록(1122)가 포함되어 있는 시간적으로 후행하는 픽처(1114)의 POC이다.

도 11b는 본 발명의 또 다른 실시예에 따른 B 픽처(Bi-directional Predictive Picture)의 예측 움직임 벡터를 생성하는 방법을 도시한다. 도 11a에 도시된 방법과 비교해보면, 시간적으로 후행하는 픽처(1114)에 현재 블록(1100)과 동일한 위치의 블록이 존재한다는 점이 상이하다.

도 11b를 참조하면, 현재 픽처(1110)의 현재 블록(1100)의 예측 움직임 벡터는 시간적으로 후행하는 픽처(1114)의 동일한 위치(colocated)의 블록(1130)의 움직임 벡터를 이용해 생성될 수 있다. 예를 들어, 현재 블록(1100)과 동일한 위치의 블록(1130)의 움직임 벡터 mv_colB가 현재 픽처(1110)의 시간적으로 선행하는 픽처(1112)의 검색된 블록(1132)에 대해 생성되면, 현재 블록(1100)의 예측 움직임 벡터 후보들인 mv_L0B 및 mv_L1B 는 다음과 같이 생성될 수 있다.

mv_L0B = (t3/t4) * mv_colB

mv_L1B = mv_L0B - mv_colB

여기서, mv_L0B는 시간적으로 선행하는 픽처(1112)에 대한 현재 블록(1110)의 예측 움직임 벡터를 의미하고, mv_L1B는 시간적으로 후행하는 픽처(1114)에 대한 현재 블록(1100)의 예측 움직임 벡터를 의미한다.

도 11a와 마찬가지로 도 11b에 도시된 실시예에서도 B 픽처인 현재 픽처(1110)가 시간적으로 선행하는 픽처(1112)와 시간적으로 후행하는 픽처(1114) 사이에 존재한다. 따라서, 동일한 위치의 블록(1130)의 움직임 벡터 mv_colB가 시간적으로 선행하는 픽처(1112)에 대해 생성되면, mv_L0B에 기초해 현재 블록(1100)의 움직임 벡터를 보다 정확하게 예측할 수 있다. 다시 말해, _colB가 도 11b에 도시된 방향과 반대 방향의 움직임 벡터인 경우 즉, 시간적으로 후행하는 픽처(1114) 이후의 다른 픽처에 대해 생성된 경우보다 mv_colB가 도 11b에 도시된 방향의 움직임 벡터인 경우 현재 블록(1100)의 움직임 벡터를 보다 정확하게 예측할 수 있다..

따라서, 현재 블록(1110)으로부터 동일한 위치의 블록(1130)으로의 방향이 List1 방향이라면, 동일한 위치의 블록(1130)의 움직임 벡터 mv_colB는 List0 방향이어야, 도 11b에 도시된 바와 같이 현재 픽처(1110)가 선행하는 픽처(1112)와 후행하는 픽처(1114) 사이에 존재할 가능성이 높아져 mv_colB에 기초해 현재 블록(1100)의 움직임 벡터를 보다 정확하게 예측할 수 있다.

또한, 현재 블록이 참조하는 픽처가 도 11b에 픽처들(1112 및 1114)이 아닌 다른 픽처일 수 있으므로, POC에 기초해 현재 블록의 예측 움직임 벡터를 생성한다.

예를 들어, 현재 픽처의 POC를 CurrPOC이고, 현재 픽처가 참조하는 픽처의 POC를 CurrRefPOC이라면, 현재 블록이 예측 움직임 벡터는 다음과 같이 생성될 수 있다.

Scale = (CurrPOC-CurrRefPOC)/(ColPOC-ColRefPOC)

mv_temporal = Scale*mv_colB

*여기서 ColPOC는 동일한 위치의 블록(1130)이 포함되어 있는 시간적으로 후행하는 픽처(1114)의 POC이며, ColRefPOC는 동일한 위치의 블록(1130)이 참조하는 블록(1132)가 포함되어 있는 시간적으로 선행하는 픽처(1112)의 POC이다.

예측부(910)가 B 픽처의 현재 블록(1100)의 예측 움직임 벡터를 생성함에 있어서, 도 11a에 도시된 방법 및 도 11b에 도시된 방법 중 하나를 이용할 수 있다. 다시 말해, 현재 블록(1100)과 동일한 위치의 블록(1120 또는 1130)의 움직임 벡터와 시간적 거리를 이용해 예측 움직임 벡터를 생성하므로, 동일한 위치의 블록(1120 및 1130)의 움직임 벡터가 반드시 존재해야 도 11a 및 11b에 도시된 방법을 이용해 예측 움직임 벡터를 생성할 수 있다. 따라서, 본 발명에 따른 예측부(910)는 동일한 위치의 블록들(1120 및 1130) 중 해당 블록에 대한 움직임 벡터가 존재하는 블록만을 이용해 현재 블록(1100)의 예측 움직임 벡터를 생성한다.

예를 들어, 시간적으로 선행하는 픽처(1112)의 동일한 위치의 블록(1120)이 인터 예측이 아닌 인트라 예측을 이용해 부호화된 경우 해당 블록(1120)의 움직임 벡터는 존재하지 않으므로, 도 11a에 도시된 바와 같은 예측 움직임 벡터를 생성하는 방법을 이용해 현재 블록(1100)의 예측 움직임 벡터를 생성할 수는 없다.

도 11a 및 11b에 도시된 바와 같이 예측부(910)가 B 픽처의 현재 블록(1100)의 예측 움직임 벡터를 생성할 때, 시간적으로 선행하는 픽처(1112)의 동일한 위치의 블록(1120) 및 시간적으로 후행하는 픽처(1114)의 동일한 위치의 블록(1130)을 모두 이용할 수 있다. 따라서, 움직임 벡터를 복호화하는 측에서는 움직임 벡터 부호화 장치(900)가 복수의 동일한 위치의 블록(1120 및 1130) 중 어떤 블록을 이용해 예측 움직임 벡터(mv_temporal)를 생성하였는지 알아야 예측 움직임 벡터를 복호화할 수 있다.

이를 위해 움직임 벡터 부호화 장치(900)는 복수의 동일한 위치의 블록(1120 및 1130) 중 어떤 블록을 예측 움직임 벡터의 생성에 이용하는지 특정하기 위한 정보를 부호화하여 블록 헤더 또는 슬라이스 헤더에 삽입할 수 있다.

도 11c는 본 발명의 일 실시예에 따른 P 픽처(Predictive Picture)의 예측 움직임 벡터를 생성하는 방법을 도시한다.

도 11c를 참조하면, 현재 픽처(1110)의 현재 블록(1100)의 예측 움직임 벡터는 시간적으로 선행하는 픽처(1112)의 동일한 위치(colocated)의 블록(1140)의 움직임 벡터를 이용해 생성될 수 있다. 예를 들어, 현재 블록(1100)과 동일한 위치의 블록(1140)의 움직임 벡터 mv_colC가 또 다른 시간적으로 선행하는 픽처(1116)의 검색된 블록(1142)에 대해 생성되면, 현재 블록(1100)의 예측 움직임 벡터 후보인 mv_L0C는 다음과 같이 생성될 수 있다.

mv_L0C = (t6/t5) * mv_colC

도 11a 및 11b와 관련하여 전술한 바와 같이 POC에 기초해 mv_L0C를 생성할 수도 있다. 현재 픽처(1110)의 POC, 현재 픽처(1110)가 참조하는 픽처의 POC, 시간적으로 선행하는 픽처(1112)의 POC 및 또 다른 시간적으로 선행하는 픽처(1116)의 POC에 기초해 mv_L0C를 생성할 수 있다.

현재 픽처(1110)가 P 픽처이므로, 현재 블록(1100)의 예측 움직임 벡터 후보는 도 11a 및 11b와 달리 하나만 생성된다.

종합하면, 도 10a 및 10b, 도 11a 내지 11c에 따라 다음과 같이 예측 움직임 벡터 후보들의 집합 C는 다음과 같이 생성될 수 있다.

C = {median(mv_a0, mv_b0, mv_c), mv_a0, mv_a1 ..., mv_aN, mv_b0, mv_b1, ... , mv_bN, mv_c, mv_d, mv_e, mv_temporal}

또는, 또는 예측 움직임 벡터 후보들의 개수를 줄여 생성할 수도 있다.

C = {median(mv_a', mv_b', mv_c'), mv_a', mv_b', mv_c', mv_temporal}

여기서, mv_x는 x 블록의 움직임 벡터를 의미하고, median()은 중앙값을 의미하며, mv_temporal은 도 11a 내지 11c와 관련하여 전술한 시간적 거리를 이용해 생성된 예측 움직임 벡터 후보들을 의미한다.

또한, mv_a'은 mv_a0, mv_a1, ... , mv_aN 중 유효한 최초의 움직임 벡터를 의미한다. 예를 들어, a0 블록이 인트라 예측을 이용해 부호화되었거나, 현재 블록과 다른 픽처를 참조하면, a0의 움직임 벡터인 mv_a0은 유효하지 않으므로, mv_a'=mv_a1이 되며, a1 블록의 움직임 벡터도 유효하지 않은 경우에는 mv_a'=mv_a2이다.

마찬가지로, mv_b'은 mv_b0, mv_b1, ... , mv_bN 중 유효한 최초의 움직임 벡터를 의미하고, mv_c'은 mv_c, mv_d, mv_e 중 유효한 최초의 움직임 벡터를 의미한다.

현재 블록에 인접한 블록들의 움직임 벡터들 중 현재 블록과 다른 픽처를 참조하는 블록의 움직임 벡터는 현재 블록의 움직임 벡터를 효율적으로 예측할 수 없다. 따라서, 예측 움직임 벡터 후보들의 집합 C에서 현재 블록과 다른 픽처를 참조하는 블록의 움직임 벡터를 제외할 수 있다.

명시 모드는 상기 C 집합 중 어떤 움직임 벡터를 현재 블록의 예측 움직임 벡터로 이용했는지 지시하는 정보를 부호화하는 모드이다. 예를 들어, 명시 모드로 움직임 벡터를 부호화하는 경우 C 집합의 원소 즉 예측 움직임 벡터 후보들에 각각에 대응되는 이진수를 할당하고, 그 중 하나가 현재 블록의 예측 움직임 벡터로 이용되는 경우 대응되는 이진수를 출력할 수 있다.

C 집합의 원소 중 하나를 특정하기 위해 각각의 예측 움직임 벡터 후보에 대응되는 이진수를 할당하고, 이진수를 출력하기 때문에 C 집합의 원소의 개수가 적을수록 더 적은 비트의 이진수로 C 집합의 원소를 특정할 수 있다.

*따라서, C 집합에서 중복되는 예측 움직임 벡터 후보가 있으면, 중복되는 예측 움직임 벡터 후보는 C 집합에서 제외하고, 이진수를 할당할 수 있다. 예를 들어, C 집합이 전술한 바와 같이 C = {median(mv_a', mv_b', mv_c'), mv_a', mv_b', mv_c', mv_temporal} 일 때, mv_a', mv_b' 및 mv_c'가 모두 동일하다면, C 집합을 C = {median(mv_a', mv_b', mv_c'), mv_a', mv_temporal}와 같이 세 개의 원소로 결정하고, 이진수를 할당할 수 있다. 중복되는 예측 움직임 벡터 후보를 제외하기 전에 C 집합의 원소들을 3 비트를 이용해 특정할 수 있다면, 중복되는 예측 움직임 벡터 후보를 제외한 후에는 C 집합의 원소들을 2 비트를 이용해 특정할 수 있다.

중복되는 예측 움직임 벡터 후보를 제외하는 대신 중복되는 예측 움직임 벡터 후보가 현재 블록의 예측 움직임 벡터로 결정될 확률을 높이기 위해 소정의 가중치(weight)를 부가할 수도 있다. 전술한 예에서 mv_a', mv_b' 및 mv_c'가 모두 동일하여 mv_a'만 C 집합에 포함되어 있으므로, mv_a'에 소정의 가중치를 부가하여 mv_a'가 현재 블록의 예측 움직임 벡터로 결정될 확률을 높일 수 있다.

또한, 예측 움직임 벡터 후보가 하나인 경우에는 명시 모드임에도 불구하고 예측 움직임 벡터 후보 중 하나를 특정하기 위한 이진수를 부호화하지 않을 수도 있다. 예를 들어, C 집합이 C = {median(mv_a0, mv_b0, mv_c), mv_a0, mv_a1 ..., mv_aN, mv_b0, mv_b1, ... , mv_bN, mv_c, mv_d, mv_e, mv_temporal} 인데, a0 내지 aN 블록, b0 내지 bN 블록, c 블록, d 블록, e 블록이 모두 인트라 예측된 블록들이면, C 집합은 C = {mv_temporal} 이므로, 실질적으로 하나의 원소 밖에 포함하지 않는다. 따라서, 이 경우에 움직임 벡터 부호화 장치(900)는 명시 모드임에도 불구하고 예측 움직임 벡터 후보 중 하나를 특정하기 위한 이진수를 부호화하지 않을 수도 있다.

명시 모드와 관련하여 전술한 모든 예측 움직임 벡터 후보들 이외에 다른 예측 움직임 벡터 후보들이 이용될 수 있음은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 쉽게 이해할 수 있다.

(2) 암시 모드

예측부(910)가 선택할 수 있는 예측 움직임 벡터를 부호화하는 방법 중 또 다른 하나는 현재 블록의 예측 움직임 벡터가 현재 블록에 인접한 이전에 부호화된 영역에 포함된 블록 또는 픽셀에 기초해 생성됨을 지시하는 정보만 부호화하는 모드이다. 이 모드는 명시 모드와 달리 예측 움직임 벡터를 특정하기 위한 정보를 부호화하지 않고, 암시 모드로 예측 움직임 벡터로 생성함을 지시하는 정보만 부호화하는 모드이다.

전술한 바와 같이 MPEG-4 H.264/MPEG-4 AVC(Advanced Video Coding)와 같은 코덱에서는 현재 블록의 움직임 벡터를 예측하기 위해 현재 블록에 인접한 이전에 부호화된 블록들의 움직임 벡터를 이용한다. 현재 블록에 좌측, 상부 및 우측 상부에 인접한 이전한 부호화된 블록들의 움직임 벡터들의 중앙값을 현재 블록의 예측 움직임 벡터로 이용하는데, 이 경우 명시 모드와 같이 예측 움직임 벡터 후보들 중 하나를 선택하기 위한 정보를 부호화하지 않아도 된다.

다시 말해, 영상 부호화 과정에서는 현재 블록의 예측 움직임 벡터가 암시 모드로 부호화되었음을 지시하는 정보만 부호화하면, 영상 복호화 과정에서는 현재 블록에 좌측, 상부 및 우측 상부에 인접한 이전한 복호화된 블록들의 움직임 벡터들의 중앙값을 현재 블록의 예측 움직임 벡터로 이용할 수 있다.

또한, 본 발명에 따른 영상 부호화 방법은 현재 블록에 인접한 이전에 부호화된 픽셀 값들을 탬플릿(template)으로 이용하여 예측 움직임 벡터를 생성하는 새로운 암시 모드를 제공한다. 도 12를 참조하여 상세히 설명한다.

도 12a는 본 발명의 일 실시예에 따른 암시 모드의 예측 움직임 벡터를 생성하는 방법을 도시한다.

도 12a를 참조하면, 현재 픽처(1210)의 현재 블록(1200)의 예측 움직임 벡터를 생성함에 있어, 현재 블록에 인접한 이전에 부호화된 영역(1220)에 포함된 픽셀들(1222)을 이용한다. 인접한 픽셀들(1222)을 이용해 참조 픽처(1212)를 검색하여 대응되는 픽셀들(1224)을 결정한다. SAD(Sum of Absolute Difference)를 계산하여 대응되는 픽셀들(1224)을 결정할 수 있다. 대응되는 픽셀들(1224)이 결정되면, 인접한 픽셀들(1222)의 움직임 벡터 mv_template가 생성되고, mv_template를 현재 블록(1200)의 예측 움직임 벡터로 이용할 수 있다.

mv_template를 참조 픽처(1212)에서 검색할 때, 전술한 예측 움직임 벡터 후보들의 집합 C를 이용할 수 있다. 도 12b를 참조하여 상세히 설명한다.

도 12b는 본 발명의 일 실시예에 따른 암시 모드의 예측 움직임 벡터를 검색하는 방법을 도시한다.

도 12b를 참조하면, 예측부(910)가 현재 블록(1200)에 인접한 픽셀들(1222)를 이용해 참조 픽처(1212)를 검색할 때, 소정의 검색 범위(1226)를 설정하고, 설정된 검색 범위(1226) 안에서만 대응되는 픽셀들(1224)를 검색할 수 있다.

검색 범위(1226)는 전술한 예측 움직임 벡터 후보들에 기초해 설정할 수 있다. 예측 움직임 벡터 후보에 의해 검색 범위(1226)의 중심을 결정하고, 결정된 검색 범위(1226)의 중심으로부터 소정의 픽셀 범위 안에 포함되는 영역을 검색 범위(1226)로 설정할 수 있다. 예측 움직임 벡터 후보들은 복수일 수 있으므로, 복수의 검색 범위(1226)가 설정될 수 있고, 서로 상이한 픽처에 검색 범위(1226)가 설정될 수 있다.

복수의 검색 범위(1226)를 모두 검색하여 SAD가 가장 작은 대응되는 픽셀들(1224)를 결정하고, 결정에 기초해 mv_template를 생성한다. 현재 블록(1200)에 인접한 픽셀들(1222)의 크기 및 형태는 실시예에 따라 다양할 수 있는 바, 도 12c를 참조하여 상세히 설명한다.

도 12c는 본 발명의 일 실시예에 따른 예측 움직임 벡터를 생성하기 위해 이용되는 템플릿(template)을 도시한다.

도 12c를 참조하면, 예측부(910)가 현재 블록(1200)의 예측 움직임 벡터를 도 12a에 도시된 바와 같이 생성하기 위해 이용하는 인접한 픽셀들(1222)는 다양한 크기와 형태일 수 있다.

현재 블록(1200)의 크기가 4x4인 경우를 예로 들어 설명하면, 현재 블록(1220)에 인접한 픽셀들(1222)을 도 12c와 같이 9개의 픽셀들만 포함하도록 설정할 수도 있고, 더 많은 픽셀들이 포함되도록 인접한 픽셀들(1228)을 설정할 수도 있다. 또한, 인접한 픽셀들(1222)의 형태도 도 12a 내지 12c에 도시된 바와 같이 '┌'의 형태가 아닌 다른 형태로 설정할 수도 있다.

도 12d는 본 발명의 일 실시예에 또 다른 실시예에 따른 예측 움직임 벡터를 생성하기 위해 이용되는 템플릿을 도시한다.

SAD를 계산함에 있어, 현재 블록에 인접한 픽셀들(1222)를 모두 이용하지 않고, 현재 블록에 인접한 픽셀들(1222) 중 일부만을 이용할 수도 있다. 예를 들어, 4x4 크기의 현재 블록(1200)에 인접한 9개의 픽셀들(1222) 중에서 3개 또는 5개 또는 7개의 픽셀들만 이용해 SAD를 계산할 수 있다. 도 12d는 현재 블록의 좌측상부에 인접한 픽셀, 상부에 인접한 픽셀들 중 가장 우측에 위치한 픽셀 및 좌측에 인접한 픽셀들 중 가장 하부에 위치한 픽셀만을 이용해 SAD를 계산하기 위한 템플릿을 도시한다.

도 12b 내지 12d와 관련하여 전술한 템플릿의 다양한 크기 및 형태에 대한 정보는 움직임 벡터와 별도로 부호화되어 슬라이스 파라미터로서 부호화되어 슬라이스 헤더에 삽입될 수도 있고, 시퀀스(sequence) 파라미터로서 부호화되어 비트스트림에 삽입될 수도 있다.

인접한 블록들의 움직임 벡터의 중앙값을 예측 움직임 벡터로 이용하는 모드를 implicit mode_1 이라 하고, 현재 블록에 인접한 픽셀들(1222)을 이용해 예측 움직임 벡터를 생성하는 모드를 implicit mode_2 라 한다면, 영상 부호화 과정에서는 이 두 가지 암시 모드 중 하나의 모드에 대한 정보를 부호화하고, 영상 복호화 과정에서는 모드에 대한 정보를 참조해 implicit mode_1 및 implicit mode_2 중 하나를 이용해 예측 움직임 벡터를 생성할 수 있다.

(3) 모드의 선택

예측부(910)가 전술한 명시 모드 및 암시 모드 중 하나를 선택하는 기준에는 다양한 기준들이 있을 수 있다.

명시 모드는 복수의 예측 움직임 벡터 후보들 중 하나를 선택하는 것이므로, 현재 블록의 움직임 벡터와 보다 유사한 예측 움직임 벡터를 선택할 수 있다. 대신 복수의 예측 움직임 벡터 후보 중 하나를 지시하는 정보를 부호화하기 때문에 암시 모드보다 더 큰 오버헤드가 발생할 수 있다. 따라서, 크기가 큰 부호화 단위인 경우에 명시 모드로 움직임 벡터를 부호화하는 것이 타당하다. 크기가 큰 부호화 단위가 크기가 작은 부호화 단위보다 움직임 벡터를 잘못 예측할 경우 발생하는 오차가 커질 확률이 높고, 크기가 크기 때문에 단위 픽처마다 오버헤드가 발생하는 횟수가 적기 때문이다.

예를 들어, m 개의 64x64 크기의 부호화 단위로 균일하게 분할된 픽처를 명시 모드로 부호화하는 경우 오버헤드가 발생하는 횟수는 m 번이지만, 동일한 크기의 픽처를 4m 개의 32x32 크기의 부호화 단위로 균일하게 분할된 픽처를 명시 모드로 부호화하는 경우 오버헤드가 발생하는 횟수는 4m 번이다.

따라서, 본 발명에 따른 예측부(910)가 현재 블록의 움직임 벡터를 부호화함에 있어 명시 모드 및 암시 모드 중 하나를 부호화 단위의 크기에 기초해 선택할 수 있다.

도 1 내지 8과 관련하여 전술한 본 발명에 따른 영상 부호화, 복호화 방법에서 부호화 단위의 크기는 심도에 의해 표현되므로, 예측부(910)는 현재 블록의 심도에 기초해 현재 블록의 움직임 벡터를 명시 모드로 부호화할지 암시 모드로 부호화할지 선택한다. 예를 들어, 심도 0 및 심도 1의 부호화 단위를 인터 예측하는 경우에는 부호화 단위의 움직임 벡터를 명시 모드로 부호화하고, 심도 2 이상의 부호화 단위를 인터 예측하는 경우에는 암시 모드로 부호화할 수 있다.

본 발명의 또 다른 실시예에 따르면, 예측부(910)는 픽처 또는 슬라이스 단위로 명시 모드 또는 암시 모드를 선택할 수 있다. 픽처 또는 슬라이스 단위마다 영상 특성이 상이하므로, 이를 고려하여 픽처 또는 슬라이스 단위로 명시 모드 또는 암시 모드를 선택할 수 있다. R-D 코스트를 고려하여 명시 모드 및 암시 모드 중 최적의 모드를 선택해 현재 픽처 또는 슬라이스에 포함된 부호화 단위들의 움직임 벡터들을 예측 부호화할 수 있다.

예를 들어, 명시 모드를 이용하지 않아도 픽처 또는 슬라이스에 포함된 부호화 단위들의 움직임 벡터들을 정확하게 예측할 수 있다면, 픽처 또는 슬라이스에 포함된 모든 부호화 단위들의 움직임 벡터들을 암시 모드로 예측 부호화할 수 있다.

또한, 본 발명의 또 다른 실시예에 따르면, 예측부(910)는 현재 블록이 스킵 모드로 부호화 되었는지 여부에 따라 명시 모드 및 암시 모드 중 하나를 선택할 수도 있다. 스킵 모드란 현재 블록이 스킵 모드로 부호화되었음을 지시하는 플래그 정보만 부호화하고, 픽셀 값은 부호화하지 않는 부호화 모드를 의미한다.

스킵 모드는 예측 움직임 벡터를 현재 블록의 움직임 벡터로 이용해 움직임 보상하여 생성된 예측 블록이 현재 블록과 매우 유사하면, 현재 블록의 픽셀 값을 부호화하지 않는 모드이다. 따라서, 예측 움직임 벡터를 현재 블록의 움직임 벡터와 유사하게 생성할수록 스킵 모드로 현재 블록을 부호화할 확률이 높아진다. 따라서, 스킵 모드로 부호화되는 블록은 명시 모드로 부호화할 수 있다.

다시 도 9를 참조하면, 예측부(910)에서 명시 모드 및 암시 모드 중 하나를 선택하고, 선택된 모드에 따라 예측 움직임 벡터를 결정하면, 제1 부호화(920) 및 제2 부호화부(930)는 부호화 모드에 대한 정보 및 움직임 벡터를 부호화한다.

먼저, 제1 부호화부(920)는 현재 블록의 예측 움직임 벡터에 대한 정보를 부호화한다. 예측부(910)에서 명시 모드로 현재 블록의 움직임 벡터를 부호화할 것을 선택하면, 명시 모드로 예측 움직임 벡터가 생성되었음을 지시하는 정보 및 복수의 예측 움직임 벡터 후보들 중에서 어떤 예측 움직임 벡터가 현재 블록의 예측 움직임 벡터로 이용되었는지 지시하는 정보를 부호화한다.

또한, 복수의 예측 움직임 벡터 후보가 도 11a 내지 11c와 관련하여 전술한 mv_temporal을 포함하면, mv_temporal 생성에 기초가 된 동일한 위치의 블록(1200 또는 1300)이 현재 픽처에 시간적으로 선행하는 픽처의 블록인지 후행하는 픽처의 블록인지 지시하는 정보도 함께 부호화한다.

반면에, 예측부(910)에서 암시 모드로 현재 블록의 움직임 벡터를 부호화할 것을 선택하면, 암시 모드로 현재 블록의 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화한다. 다시 말해, 현재 블록에 인접한 블록 또는 픽셀을 이용해 현재 블록의 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화한다. 두 개 이상의 암시 모드가 있는 경우 어떤 암시 모드를 이용해 현재 블록의 예측 움직임 벡터를 생성하였는지 지시하는 정보를 부호화할 수도 있다.

암시 모드는 현재 블록의 예측 움직임 벡터 후보들에 기초해 검색 범위를 설정하고, 도 12c에 도시된 바와 같은 현재 블록에 인접한 이전에 부호화된 영역의 픽셀들에 기초해 설정된 검색 범위를 검색하여 예측 움직임 벡터를 생성하는 모드일 수 있다.

제2 부호화부(930)는 예측부(910)에서 결정된 예측 움직임 벡터에 기초해 현재 블록의 움직임 벡터를 부호화한다. 움직임 보상 결과 생성된 현재 블록의 움직임 벡터에서 예측부(910)에서 생성된 예측 움직임 벡터를 감산하여 차이 벡터를 생성한다. 그런 다음 차이 벡터에 대한 정보를 부호화한다.

도 13은 본 발명의 일 실시예에 따른 움직임 벡터를 복호화하는 장치를 도시한다.

도 2와 관련하여 전술한 영상 부호화 장치(200) 또는 도 5와 관련하여 전술한 영상 부호화부(500)에 포함되어 움직임 벡터를 복호화하는 장치를 상세히 도시된다. 도 13을 참조하면, 본 발명의 일 실시예에 따른 움직임 벡터 복호화 장치(1300)는 제1 복호화부(1310), 제2 복호화부(1320), 예측부(1330) 및 움직임벡터복원부(1340)를 포함한다.

제1 복호화부(1310)는 비트스트림에 포함되어 있는 현재 블록의 예측 움직임 벡터에 대한 정보를 복호화한다. 현재 블록의 예측 움직임 벡터가 명시 모드 또는 암시 모드로 부호화되었는지를 나타내는 정보를 복호화한다.

명시 모드로 현재 블록의 예측 움직임 벡터가 부호화된 경우에는 복수의 예측 움직임 벡터 후보들 중에서 현재 블록의 예측 움직임 벡터로 이용한 하나의 예측 움직임 벡터를 지시하는 정보도 복호화한다.

또한, 복수의 예측 움직임 벡터 후보가 도 11a 내지 11c와 관련하여 전술한 mv_temporal을 포함하면, mv_temporal 생성에 기초가 된 동일한 위치의 블록(1200 또는 1300)이 현재 픽처에 시간적으로 선행하는 픽처의 블록인지 후행하는 픽처의 블록인지 지시하는 정보도 함께 복호화한다.

암시 모드로 현재 블록의 예측 움직임 벡터가 부호화된 경우에는 복수의 암시 모드 중 어떤 암시 모드로 현재 블록의 예측 움직임 벡터가 부호화되었는지 지시하는 정보도 복호화할 수 있다.

암시 모드는 현재 블록의 예측 움직임 벡터 후보들에 기초해 검색 범위를 설정하고, 도 12c에 도시된 바와 같은 현재 블록에 인접한 이전에 부호화된 영역의 픽셀들에 기초해 설정된 검색 범위를 검색하여 예측 움직임 벡터를 생성하는 모드일 수 있다.

제2 복호화부(1310)는 비트스트림에 포함되어 있는 현재 블록의 움직임 벡터와 예측 움직임 벡터 사이의 차이 벡터를 복호화한다.

예측부(1330)는 제1 복호화부(1310)에서 복호화된 현재 블록의 예측 움직임 벡터에 대한 정보에 기초해 현재 블록의 예측 움직임 벡터를 생성한다.

*명시 모드로 부호화된 현재 블록의 예측 움직임 벡터에 대한 정보를 복호화한 경우에는 도 10a 및 10b, 11a 내지 11c와 관련하여 전술한 예측 움직임 벡터 후보들 중 하나의 예측 움직임 벡터를 생성하여 현재 블록의 예측 움직임 벡터로서 이용한다.

암시 모드로 부호화된 현재 블록의 예측 움직임 벡터에 대한 정보를 복호화한 경우에는 현재 블록에 인접한 이전에 부호화된 영역에 포함되어 있는 블록 또는 픽셀을 이용해 현재 블록의 예측 움직임 벡터를 생성한다. 현재 블록에 인접한 블록들의 움직임 벡터들의 중앙값을 현재 블록의 예측 움직임 벡터로서 생성하거나, 현재 블록에 인접한 픽셀들을 이용해 참조 픽처를 검색하여 현재 블록의 예측 움직임 벡터를 생성한다.

움직임벡터복원부(1340)는 예측부(1330)에서 생성된 예측 움직임 벡터 및 제2 복호화부(320)에서 복호화된 차이 벡터를 가산하여 현재 블록의 움직임 벡터를 복원한다. 복원된 움직임 벡터는 현재 블록의 움직임 보상에 이용된다.

도 14는 본 발명의 일 실시예에 따른 움직임 벡터를 부호화하는 방법을 설명하기 위한 흐름도이다.

도 14를 참조하면, 본 발명의 일 실시예에 따른 움직임 벡터 부호화 장치는 단계 1410에서 예측 움직임 벡터에 대한 정보를 부호화는 모드로서 명시 모드 및 암시 모드 중 하나의 모드를 선택한다.

명시 모드는 예측 움직임 벡터에 대한 정보로서 적어도 하나의 예측 움직임 벡터 후보들 중 하나의 예측 움직임 벡터 후보를 지시하는 정보를 부호화하는 모드이고, 암시 모드는 예측 움직임 벡터에 대한 정보로서 현재 블록에 인접한 이전에 부호화된 영역에 포함된 블록 또는 픽셀에 기초해 예측 움직임 벡터를 생성함을 지시하는 정보를 부호화하는 모드이다. 상세한 설명은 도 10a 내지 10e, 11a 내지 11c 및 12a 내지 12c와 관련하여 전술하였다.

현재 블록의 크기 즉, 현재 블록의 심도에 기초해 모드를 선택하거나, 현재 블록이 포함된 현재 픽처 또는 현재 슬라이스 단위로 모드를 선택할 수 있다. 또한, 현재 블록이 스킵 모드로 부호화되었는지 여부에 따라 모드를 선택할 수도 있다.

단계 1420에서 움직임 벡터 부호화 장치는 단계 1410에서 선택된 모드에 따라 예측 움직임 벡터를 결정한다. 단계 1410에서 선택된 명시 모드 또는 암시 모드에 기초해 현재 블록의 예측 움직임 벡터를 결정한다. 명시 모드에 따라 적어도 하나의 예측 움직임 벡터 후보들 중 하나의 예측 움직임 벡터 후보를 현재 블록의 예측 움직임 벡터로 결정하거나, 암시 모드에 따라 현재 블록에 인접한 블록 또는 픽셀에 기초해 현재 블록의 예측 움직임 벡터를 결정한다.

단계 1430에서 움직임 벡터 부호화 장치는 단계 1420에서 결정된 예측 움직임 벡터에 대한 정보를 부호화한다.

명시 모드의 경우 적어도 하나의 예측 움직임 벡터 후보들 중 하나의 예측 움직임 벡터를 지시하는 정보 및 현재 블록의 예측 움직임 벡터에 대한 정보가 명시 모드에 따라 부호화됨을 지시하는 정보를 부호화한다.

*또한, 복수의 예측 움직임 벡터 후보가 도 11a 내지 11c와 관련하여 전술한 mv_temporal을 포함하면, mv_temporal 생성에 기초가 된 동일한 위치의 블록(1200 또는 1300)이 현재 픽처에 시간적으로 선행하는 픽처의 블록인지 후행하는 픽처의 블록인지 지시하는 정보도 함께 부호화한다.

암시 모드의 경우 현재 블록의 예측 움직임 벡터가 현재 블록에 인접한 이전에 부호화된 영역에 포함된 블록 또는 픽셀에 기초해 생성됨을 지시하는 정보를 부호화한다. 복수의 암시 모드가 있는 경우 이 중 하나의 암시 모드를 지시하는 정보도 부호화될 수 있다.

암시 모드는 현재 블록의 예측 움직임 벡터 후보들에 기초해 검색 범위를 설정하고, 도 12c에 도시된 바와 같은 현재 블록에 인접한 이전에 부호화된 영역의 픽셀들에 기초해 설정된 검색 범위를 검색하여 예측 움직임 벡터를 생성하는 모드일 수 있다.

단계 1440에서 움직임 벡터 부호화 장치는 단계 1420에서 결정된 예측 움직임 벡터를 현재 블록의 움직임 벡터에서 감산하여 생성된 차이 벡터를 부호화한다.

도 15는 본 발명의 일 실시예에 따른 움직임 벡터를 복호화하는 방법을 설명하기 위한 흐름도이다.

도 15를 참조하면, 본 발명의 일 실시예에 따른 움직임 벡터 복호화 장치는 단계 1510에서 비트스트림에 포함된 현재 블록의 예측 움직임 벡터에 대한 정보를 복호화한다. 명시 모드 및 모시 모드 중 현재 블록의 예측 움직임 벡터를 부호화하는데 이용된 모드에 대한 정보를 복호화한다.

명시 모드의 경우 현재 블록의 예측 움직임 벡터가 명시 모드에 따라 부호화되었음을 지시하는 정보 및 적어도 하나의 예측 움직임 벡터 후보들 중 하나의 예측 움직임 벡터 후보에 대한 정보를 복호화한다.

또한, 복수의 예측 움직임 벡터 후보가 도 11a 내지 11c와 관련하여 전술한 mv_temporal을 포함하면, mv_temporal 생성에 기초가 된 동일한 위치의 블록(1200 또는 1300)이 현재 픽처에 시간적으로 선행하는 픽처의 블록인지 후행하는 픽처의 블록인지 지시하는 정보도 함께 부호화한다.

암시 모드의 경우 현재 블록의 예측 움직임 벡터가 현재 블록에 인접한 이전에 복호화된 영역에 포함된 블록 또는 픽셀에 기초해 생성됨을 지시하는 정보를 복호화한다. 복수의 암시 모드가 있는 경우 복수의 암시 모드 중 하나의 암시 모드를 지시하는 정보도 함께 복호화될 수 있다.

암시 모드는 현재 블록의 예측 움직임 벡터 후보들에 기초해 검색 범위를 설정하고, 도 12c에 도시된 바와 같은 현재 블록에 인접한 이전에 부호화된 영역의 픽셀들에 기초해 설정된 검색 범위를 검색하여 예측 움직임 벡터를 생성하는 모드일 수 있다.

단계 1520에서 움직임 벡터 복호화 장치는 차이 벡터에 대한 정보를 복호화한다. 차이 벡터는 현재 블록의 예측 움직임 벡터와 현재 블록의 움직임 벡터 사이의 차이에 대한 벡터이다.

단계 1530에서 움직임 벡터 복호화 장치는 단계 1510에서 복호화된 예측 움직임 벡터에 대한 정보에 기초해 현재 블록의 예측 움직임 벡터를 생성한다. 명시 모드 또는 암시 모드에 따라 현재 블록의 예측 움직임 벡터를 생성한다. 적어도 하나의 예측 움직임 벡터 후보들 중에서 하나의 예측 움직임 벡터를 선택하거나, 현재 블록에 인접한 이전에 복호화된 영역에 포함된 블록 또는 픽셀을 이용해 현재 블록의 예측 움직임 벡터를 생성한다.

단계 1540에서 움직임 벡터 부호화 장치는 단계 1520에서 복호화된 차이 벡터와 단계 1530에서 생성된 예측 움직임 벡터를 가산하여 현재 블록의 움직임 벡터를 복원한다.

이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명이 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이와 균등하거나 또는 등가적인 변형 모두는 본 발명 사상의 범주에 속한다 할 것이다. 또한, 본 발명에 따른 시스템은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다.

예를 들어, 본 발명의 예시적인 실시예에 따른 영상 부호화 장치, 영상 복호화 장치, 영상 부호화부, 영상 복호화부, 움직임 벡터 부호화 장치 및 움직임 벡터 복호화 장치는 도 1, 2, 4, 5, 9 및 13에 도시된 바와 같은 장치의 각각의 유닛들에 커플링된 버스, 상기 버스에 결합된 적어도 하나의 프로세서를 포함할 수 있다. 또한, 명령, 수신된 메시지 또는 생성된 메시지를 저장하기 위해 상기 버스에 결합되어, 전술한 바와 같은 명령들을 수행하기 위한 적어도 하나의 프로세서에 커플링된 메모리를 포함할 수 있다.

또한, 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.

Claims (2)

1. 비트스트림으로부터 현재 블록의 예측 모드 정보를 획득하는 단계;
   상기 현재 블록의 예측 모드가 인터 예측 모드인 경우, 상기 현재 블록에 인접한 주변 블록들을 이용하여, 상기 현재 블록의 공간적 예측 움직임 벡터 후보들을 획득하는 단계;
   현재 픽처보다 시간적으로 선행 또는 후행하는 참조 픽처에 포함되며 상기 현재 블록과 동일 위치의 블록을 이용하여, 상기 현재 블록의 시간적 예측 움직임 벡터 후보들을 획득하는 단계;
   상기 시간적 및 공간적 예측 움직임 벡터 후보들 중에서 상기 현재 블록의 예측 움직임 벡터를 획득하는 단계; 및
   상기 비트스트림으로부터 획득된 차이 벡터와, 상기 현재 블록의 예측 움직임 벡터에 기초하여 상기 현재 블록의 움직임 벡터를 획득하는 단계를 포함하며,
   상기 현재 블록의 시간적 예측 움직임 벡터 후보들을 획득하는 단계는
   동일 위치의 블록이 참조하는 참조 픽처의 POC(Picture Order Count)와 상기 동일 위치의 블록이 포함된 참조 픽처의 POC 사이의 차이값 및 현재 픽처의 POC와 상기 현재 블록이 참조하는 참조 픽처의 POC 사이의 차이값에 기초하여, 상기 현재 블록과 동일 위치의 블록의 움직임 벡터를 스케일링하여 상기 현재 블록의 예측 움직임 벡터 후보를 획득하며,
   영상이 최대 부호화 단위 크기 정보에 따라서 복수 개의 최대 부호화 단위들로 분할되고, 최대 부호화 단위는 심도를 가지는 하나 이상의 부호화 단위들로 계층적으로 분할되고, 현재 심도의 부호화 단위는 상위 심도의 부호화 단위로부터 분할된 정사각 데이터 단위들 중 하나이며, 상기 현재 심도의 부호화 단위가 예측 복호화를 위해 적어도 하나의 예측 단위들로 분할된 경우, 상기 현재 블록은 상기 현재 심도의 부호화 단위를 분할한 적어도 하나의 예측 단위인 것을 특징으로 하는 영상 복호화 방법.
2. 제 1항에 있어서,
   상기 공간적 예측 움직임 벡터 후보는
   상기 현재 블록의 좌하측에 위치한 제 1 블록 및 상기 제 1 블록의 상측에 위치한 제 2 블록 중 적어도 하나의 주변 블록의 움직임 벡터에 기초하여 획득되는 것을 특징으로 하는 영상 복호화 방법.

Images