KR20140046421A - 화상 처리 장치 및 방법 - Google Patents

Abstract

본 기술은, 부호화 효율의 저감을 억제할 수 있도록 하는 화상 처리 장치 및 방법에 관한 것이다. 다시점 화상의 부호화에서의 예측 화상 생성 시에, 주목 영역의 예측 방향에 따라, 상기 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역의 사용을 제한하는 제한부와, 상기 제한부에 의해 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부를 구비한다. 본 발명은 화상 처리 장치에 적용할 수 있다.

Description

화상 처리 장치 및 방법{IMAGE PROCESSING DEVICE AND METHOD}

본 발명은, 화상 처리 장치 및 방법에 관한 것으로, 특히, 부호화 효율을 향상시킬 수 있도록 한 화상 처리 장치 및 방법에 관한 것이다.

최근 들어, 화상 정보를 디지털로서 취급하게 되면서, 그때, 효율이 높은 정보의 전송, 축적을 목적으로, 화상 정보 특유의 용장성(冗長性)을 이용해서, 이산(離散) 코사인 변환 등의 직교 변환과 움직임 보상에 의해 압축하는 MPEG(Moving Picture Experts Group) 등의 방식에 준거한 장치가, 방송국 등의 정보 배신 및 일반 가정에서의 정보 수신 양쪽에 있어서 보급되었다.

특히, MPEG2(ISO(International Organization for Standardization)/IEC(International Electrotechnical Commission) 13818-2)는 범용 화상 부호화 방식으로서 정의되어 있으며, 비월 주사 화상(interlaced image) 및 순차 주사 화상 양쪽, 및 표준 해상도 화상 및 고정밀 화상을 망라하는 표준으로, 프로페셔널 용도 및 소비자 용도의 광범위한 어플리케이션에 현재 널리 사용되고 있다. MPEG2 압축 방식을 사용함으로써, 예를 들어 720×480 화소를 갖는 표준 해상도의 비월 주사 화상이면 4 내지 8Mbps, 1920×1088 화소를 갖는 고해상도의 비월 주사 화상이면 18 내지 22Mbps의 부호량(비트 레이트)을 할당함으로써, 높은 압축률과 양호한 화질의 실현이 가능하다.

MPEG2는 주로 방송용에 적합한 고화질 부호화를 대상으로 하고 있었지만, MPEG1보다 낮은 부호량(비트 레이트), 즉 보다 높은 압축률의 부호화 방식에는 대응하지 않았다. 휴대 단말기의 보급에 의해, 금후 그러한 부호화 방식의 요구는 높아질 것으로 생각되며, 이에 대응하여 MPEG4 부호화 방식의 표준화가 행해졌다. 화상 부호화 방식에 관해서는, 1998년 12월에 ISO/IEC 14496-2로서 그 규격이 국제 표준으로 승인되었다.

또한, 최근 들어, 당초 화상 회의용의 화상 부호화를 목적으로, H.26L(ITU-T(International Telecommunication Union Telecommunication Standardization Sector) Q6/16 VCEG(Video Coding Expert Group))이라는 표준의 규격화가 진행되고 있다. H.26L은 MPEG2나 MPEG4와 같은 종래의 부호화 방식에 비해, 그 부호화, 복호화에 보다 많은 연산량이 요구되지만, 보다 높은 부호화 효율이 실현되는 것으로 알려져 있다. 또한, MPEG4의 활동의 일환으로서, 이 H.26L을 베이스로, H.26L에서는 지원되지 않는 기능도 도입하여, 보다 높은 부호화 효율을 실현하는 표준화가 Joint Model of Enhanced-Compression Video Coding으로서 행해졌다.

표준화의 스케줄로서는, 2003년 3월에는 H.264 및 MPEG-4 Part10(Advanced Video Coding, 이하, AVC라고 기재함)이라는 이름 하에 국제 표준이 되었다.

그러나, 매크로 블록 사이즈를 16 화소×16 화소로 하는 것은, 차세대 부호화 방식의 대상이 되는, UHD(Ultra High Definition; 4000 화소×2000 화소)와 같은 큰 화면 프레임에 대해서는, 최적이 아닐 우려가 있었다.

따라서, AVC보다 더욱 부호화 효율의 향상을 목적으로, ITU-T와, ISO/IEC의 공동의 표준화 단체인 JCTVC(Joint Collaboration Team-Video Coding)에 의해, HEVC(High Efficiency Video Coding)라고 불리는 부호화 방식의 표준화가 진행되고 있다(예를 들어, 비특허문헌 1 참조).

이 HEVC 부호화 방식에서는, AVC에서의 매크로 블록과 마찬가지의 처리 단위로서 코딩 유닛(CU(Coding Unit))이 정의되어 있다. 이 CU는, AVC의 매크로 블록과 같이 크기가 16×16 화소에 고정되지 않고, 각각의 시퀀스에서, 화상 압축 정보 중에 있어서 지정된다.

그런데, AVC에 있어서 정의되어 있는 메디안(median) 예측을 사용한 움직임 벡터의 부호화를 개선하기 위해서, "Spatial Predictor"뿐만 아니라, "Temporal Predictor" 및 "Spatio-Temporal Predictor"도 예측 움직임 벡터의 후보로 할 수 있도록 하는 방법을 고려하게 되었다(예를 들어, 비특허문헌 2 참조).

또한, 움직임 정보의 부호화 방식의 하나로서, Merge_Flag와 Merge_Left_Flag가 전송되는, Motion Partition Merging이라고 불리는 방법이 제안되어 있다(예를 들어, 비특허문헌 3 참조).

Thomas Wiegand, Woo-Jin Han, Benjamin Bross, Jens- Rainer Ohm, Gary J. Sullivan, "Working Draft 1 of High-Efficiency Video Coding", JCTVC-C403, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG113rd Meeting: Guangzhou, CN, 7-15 October, 2010 Joel Jung, Guillaume Laroche, "Competition-Based Scheme for Motion Vector Selection and Coding", VCEG-AC06, ITU-Telecommunications Standardization Sector STUDY GROUP 16 Question 6Video Coding Experts Group (VCEG)29th Meeting: Klagenfurt, Austria, 17-18 July, 2006 Martin Winken, Sebastian Bosse, Benjamin Bross, Philipp Helle, Tobias Hinz, Heiner Kirchhoffer, Haricharan Lakshman, Detlev Marpe, Simon Oudin, Matthias Preiss, Heiko Schwarz, Mischa Siekmann, Karsten Suehring, and Thomas Wiegand, "Description of video coding technology proposed by Fraunhofer HHI", JCTVC-A116, April, 2010

그러나, 동일 시점 내에서의 처리밖에 나타나 있지 않아, 다시점 부호화의 경우에, 시점간을 걸치는 벡터의 예측을 할 수 없어, 부호화 효율이 저감될 우려가 있었다.

본 발명은, 이러한 상황을 감안하여 이루어진 것으로, 부호화 효율의 저감을 억제하는 것을 목적으로 한다.

본 발명의 일 측면은, 다시점 화상의 주목 영역의 예측 방향에 따라, 상기 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역의 사용을 제한하는 제한부와, 상기 제한부에 의해 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부를 구비하는 화상 처리 장치이다.

상기 제한부는, 시차 방향의 예측을 행하는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 금지할 수 있다.

상기 제한부는, 시차 방향만의 예측을 행하는 주목 영역의 상관 영역이며, 시간 방향의 예측을 행하는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 금지할 수 있다.

상기 제한부는, 시차 방향의 예측을 행하는, 상기 주목 영역과 상이한 뷰의 동일 시각의 상관 영역의 사용을 금지할 수 있다.

상기 제한부는, 상기 상관 영역의 제한을 나타내는 제한 정보를 생성할 수 있다.

상기 제한부에 의해 생성된 제한 정보를 전송하는 전송부를 더 구비할 수 있다.

본 발명의 일 측면은, 또한, 화상 처리 장치의 화상 처리 방법이며, 제한부가, 다시점 화상의 주목 영역의 예측 방향에 따라, 상기 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역의 사용을 제한하고, 예측 벡터 생성부가, 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 화상 처리 방법이다.

본 발명의 다른 측면은, 다시점 화상의 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역을 제한하는 제한 정보를 수취하는 수취부와, 상기 수취부에 의해 수취된 상기 제한 정보에 의해 사용이 금지되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부를 구비하는 화상 처리 장치이다.

본 발명의 다른 측면은, 또한, 화상 처리 장치의 화상 처리 방법이며, 수취부가, 다시점 화상의 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역을 제한하는 제한 정보를 수취하고, 예측 벡터 생성부가, 수취된 상기 제한 정보에 의해 사용이 금지되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 화상 처리 방법이다.

본 발명의 일 측면에서는, 다시점 화상의 주목 영역의 예측 방향에 따라, 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역의 사용이 제한되고, 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 예측 벡터가 생성된다.

본 발명의 다른 측면에서는, 다시점 화상의 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역을 제한하는 제한 정보가 수취되고, 수취된 제한 정보에 의해 사용이 금지되어 있지 않은 상관 영역의 벡터를 사용하여 예측 벡터가 생성된다.

본 발명에 의하면, 화상을 처리할 수 있다. 특히, 부호화 효율의 저감을 억제할 수 있다.

도 1은 예측 유닛의 종류의 예를 설명하는 도면이다.
도 2는 머지 모드의 공간 상관 영역에서의 주변 영역의 예를 설명하는 도면이다.
도 3은 머지 모드의 시간 상관 영역에서, 참조 화상 인덱스 결정에서 사용하는 주변 영역의 예를 설명하는 도면이다.
도 4는 머지 모드의 시간 상관 블록에서의 참조 화상 인덱스의 결정 조건의 예를 나타내는 도면이다.
도 5는 시간 상관 영역의 결정 방법의 예를 설명하는 도면이다.
도 6은 시간 상관 영역을 포함하는 화상의 결정 방법의 예를 설명하는 도면이다.
도 7은 주목 영역과 시간 상관 영역의 위치 관계의 예를 설명하는 도면이다.
도 8은 시간 상관 영역의 움직임 벡터의 스케일링의 예를 나타내는 도면이다.
도 9는 머지 모드 이외의 공간 상관 영역의 주변 영역의 예를 설명하는 도면이다.
도 10은 참조 화상 인덱스가 상이한 공간 상관 영역의 움직임 벡터의 스케일링의 예를 나타내는 도면이다.
도 11은 3 시점 화상의 참조 관계의 예를 나타내는 도면이다.
도 12는 시간 상관 영역에 대한 제한의 예를 설명하는 도면이다.
도 13은 공간 상관 영역에 대한 제한의 예를 설명하는 도면이다.
도 14는 화상 부호화 장치의 주된 구성예를 도시하는 블록도이다.
도 15는 움직임 시차 예측·보상부의 주된 구성예를 도시하는 블록도이다.
도 16은 시간 상관 블록과 공간 상관 블록의 사용 조건의 예를 나타내는 도면이다.
도 17은 시퀀스 파라미터 세트의 구문의 예를 나타내는 도면이다.
도 18은 슬라이스 헤더의 구문의 예를 나타내는 도면이다.
도 19는 부호화 처리의 흐름의 예를 설명하는 흐름도이다.
도 20은 인터(inter) 움직임 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 21은 제한 판정 처리의 흐름의 예를 설명하는 흐름도이다.
도 22는 머지 모드 처리의 흐름의 예를 설명하는 흐름도이다.
도 23은 공간 상관 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 24는 시간 시차 상관 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 25는 시간 시차 상관 예측 처리의 흐름의 예를 설명하는, 도 24에 계속되는 흐름도이다.
도 26은 움직임 시차 벡터 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 27은 공간 상관 예측 처리의 흐름의, 다른 예를 설명하는 흐름도이다.
도 28은 주변 영역(A) 움직임 벡터 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 29는 주변 영역(B) 움직임 벡터 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 30은 화상 복호 장치의 주된 구성예를 도시하는 블록도이다.
도 31은 움직임 시차 보상부의 주된 구성예를 도시하는 블록도이다.
도 32는 복호 처리의 흐름의 예를 설명하는 흐름도이다.
도 33은 예측 처리의 흐름의 예를 설명하는 흐름도이다.
도 34는 움직임 시차 보상 처리의 흐름의 예를 설명하는 흐름도이다.
도 35는 움직임 시차 벡터 생성 처리의 흐름의 예를 설명하는 흐름도이다.
도 36은 시차와 깊이에 대하여 설명하는 도면이다.
도 37은 퍼스널 컴퓨터의 주된 구성예를 도시하는 블록도이다.
도 38은 텔레비전 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 39는 휴대 전화기의 개략적인 구성의 일례를 나타내는 블록도이다.
도 40은 기록 재생 장치의 개략적인 구성의 일례를 나타내는 블록도이다.
도 41은 촬상 장치의 개략적인 구성의 일례를 나타내는 블록도이다.

이하, 본 발명을 실시하기 위한 형태(이하, 실시 형태라 함)에 대하여 설명한다. 또한, 설명은 이하의 순서로 행한다.

1. 제1 실시 형태(화상 부호화 장치)

2. 제2 실시 형태(화상 복호 장치)

3. 제3 실시 형태(컴퓨터)

4. 제4 실시 형태(텔레비전 수상기)

5. 제5 실시 형태(휴대 전화기)

6. 제6 실시 형태(기록 재생 장치)

7. 제7 실시 형태(촬상 장치)

<1. 제1 실시 형태>

[본 명세서에서의 뎁스(depth) 화상(시차 화상)의 설명]

도 36은, 시차와 깊이에 대하여 설명하는 도면이다.

도 36에 도시한 바와 같이, 피사체(M)의 컬러 화상이, 위치(C1)에 배치된 카메라(c1)와 위치(C2)에 배치된 카메라(c2)에 의해 촬영될 경우, 피사체(M)의, 카메라(c1)(카메라(c2))로부터의 깊이 방향의 거리인 깊이(Z)는, 이하의 식 (a)로 정의된다.

또한, L은, 위치(C1)와 위치(C2)의 수평 방향의 거리(이하, 카메라간 거리라고 함)이다. 또한, d는, 카메라(c1)로 촬영된 컬러 화상 상의 피사체(M)의 위치의, 컬러 화상의 중심으로부터의 수평 방향의 거리(u1)로부터, 카메라(c2)로 촬영된 컬러 화상 상의 피사체(M)의 위치의, 컬러 화상의 중심으로부터의 수평 방향의 거리(u2)를 감산한 값, 즉 시차이다. 또한, f는, 카메라(c1)의 초점 거리이며, 식 (a)에서는, 카메라(c1)와 카메라(c2)의 초점 거리는 동일한 것으로 하고 있다.

식 (a)에 나타낸 바와 같이, 시차(d)와 깊이(Z)는, 일의적으로 변환 가능하다. 따라서, 본 명세서에서는, 카메라(c1)와 카메라(c2)에 의해 촬영된 2 시점의 컬러 화상의 시차(d)를 나타내는 화상과 깊이(Z)를 나타내는 화상을 총칭하여, 뎁스 화상(시차 화상)이라 한다.

또한, 뎁스 화상(시차 화상)은, 시차(d) 또는 깊이(Z)를 나타내는 화상이면 되고, 뎁스 화상(시차 화상)의 화소값으로서는, 시차(d) 또는 깊이(Z) 그 자체가 아니라, 시차(d)를 정규화한 값, 깊이(Z)의 역수(1/Z)를 정규화한 값 등을 채용할 수 있다.

시차(d)를 8bit(0 내지 255)로 정규화한 값(I)은, 이하의 식 (b)에 의해 구할 수 있다. 또한, 시차(d)의 정규화 비트수는 8bit에 한정되지 않고, 10bit, 12bit 등 다른 비트수로 하는 것도 가능하다.

또한, 식 (b)에서, D_max는, 시차(d)의 최대값이며, D_min은, 시차(d)의 최소값이다. 최대값(D_max)과 최소값(D_min)은, 1 화면 단위로 설정되어도 되고, 복수 화면 단위로 설정되어도 된다.

또한, 깊이(Z)의 역수(1/Z)를 8bit(0 내지 255)로 정규화한 값(y)은, 이하의 식 (c)에 의해 구할 수 있다. 또한, 깊이(Z)의 역수(1/Z)의 정규화 비트수는 8bit에 한정되지 않고, 10bit, 12bit 등 다른 비트수로 하는 것도 가능하다.

또한, 식 (c)에서, Z_far는, 깊이(Z)의 최대값이며, Z_near은, 깊이(Z)의 최소값이다. 최대값(Z_far)과 최소값(Z_near)은, 1 화면 단위로 설정되어도 되고, 복수 화면 단위로 설정되어도 된다.

이와 같이, 본 명세서에서는, 시차(d)와 깊이(Z)는 일의적으로 변환 가능한 것을 고려하여, 시차(d)를 정규화한 값(I)을 화소값으로 하는 화상과, 깊이(Z)의 역수(1/Z)를 정규화한 값(y)을 화소값으로 하는 화상을 총칭하여, 뎁스 화상(시차 화상)이라 한다. 여기에서는, 뎁스 화상(시차 화상)의 컬러 포맷은, YUV420 또는 YUV400인 것으로 하지만, 다른 컬러 포맷으로 하는 것도 가능하다.

또한, 뎁스 화상(시차 화상)의 화소값으로서가 아니라, 값(I) 또는 값(y)의 정보 자체에 착안할 경우에는, 값(I) 또는 값(y)을, 뎁스 정보(시차 정보)라 한다. 또한, 값(I) 또는 값(y)을 맵핑한 것을 뎁스 맵(시차 맵)이라 한다.

[움직임 예측]

AVC(Advanced Video Coding)나 HEVC(High Efficiency Video Coding) 등의 화상 부호화에서는, 시간 방향(프레임간)의 상관을 이용한 움직임 예측이 행해진다.

이러한 예측 처리의 처리 단위로서, AVC에서는, 매크로 블록이나 서브매크로 블록과 같은 계층 구조의 블록이 규정되어 있지만, HEVC에서는, 코딩 유닛(CU(Coding Unit))이 규정되어 있다.

CU는, Coding Tree Block(CTB)이라고도 불리며, AVC에서의 매크로 블록과 마찬가지의 역할을 하는, 픽처 단위의 화상의 부분 영역이다. 후자는, 16×16 화소의 크기로 고정되어 있는 것에 반해, 전자의 크기는 고정되어 있지 않고, 각각의 시퀀스에서, 화상 압축 정보 중에 있어서 지정되게 된다.

예를 들어, 출력이 되는 부호화 데이터에 포함되는 시퀀스 파라미터 세트(SPS(Sequence Parameter Set))에 있어서, CU의 최대 크기(LCU(Largest Coding Unit))와 최소 크기((SCU(Smallest Coding Unit))가 규정된다.

각각의 LCU 내에서는, SCU의 크기를 하회하지 않는 범위에서, split-flag=1로 함으로써, 보다 작은 크기의 CU로 분할할 수 있다. 2N×2N의 크기의 CU는, split_flag의 값이 "1"일 때, 1개 아래의 계층이 되는, N×N의 크기의 CU로 분할된다.

또한, CU는, 인트라 또는 인터 예측의 처리 단위가 되는 영역(픽처 단위의 화상의 부분 영역)인 예측 유닛(Prediction Unit(PU))으로 분할되고, 또한, 직교 변환의 처리 단위가 되는 영역(픽처 단위의 화상의 부분 영역)인, 변환 유닛(Transform Unit(TU))으로 분할된다. 현재, HEVC에서는, 4×4 및 8×8 외에, 16×16 및 32×32 직교 변환을 사용하는 것이 가능하다.

이상의 HEVC와 같이, CU를 정의하고, 그 CU를 단위로 해서 각종 처리를 행하는 부호화 방식의 경우, AVC에서의 매크로 블록은 LCU에 상당한다고 생각할 수 있다. 단, CU는 계층 구조를 가지므로, 그 최상위 계층의 LCU의 크기는, 예를 들어 128×128 화소와 같이, AVC의 매크로 블록보다 크게 설정되는 것이 일반적이다.

또한, 이하에서, "영역"에는, 상술한 각종 영역(예를 들어, 매크로 블록, 서브매크로 블록, LCU, CU, SCU, PU 및 TU 등)을 모두 포함한다(그것들 중 어느 것이어도 된다). 물론, 상술한 것 이외의 단위가 포함되어도 되고, 설명의 내용에 따라 불가능한 단위는, 적절히 제외하기로 한다.

도 1은, 부호화 처리 단위인 CU에 대한, 예측 처리 단위인 예측 유닛(PU)의 구성예를 나타낸다. 도 1에 도시되는 바와 같이, 1CU에 대하여 4종류의 PU를 형성할 수 있다. 도 1에 도시되는 4개의 큰 정사각형이 CU를 나타내고, 그 내부의 직사각형 또는 정사각형이 PU를 나타낸다. 숫자는, 각 PU의 인덱스를 나타내는 것이지, 화상의 내용을 나타내는 것은 아니다.

도 1에 도시되는 바와 같이, 좌측 상단의 예의 경우, CU는 1개의 PU(2N×2N)에 의해 구성된다. 즉, 이 경우, CU와 PU는 등가이다. 또한, 우측 상단의 예의 경우, CU는, 상하로 2 분할되어, 2개의 가로로 긴 PU(2N×N)에 의해 구성된다. 또한, 좌측 하방의 예의 경우, CU는, 좌우로 2 분할되어, 2개의 세로로 긴 PU(N×2N)에 의해 구성된다. 또한, 우측 하방의 예의 경우, CU는, 상하 좌우로 2 분할(총 4 분할)되어, 4개의 정사각형의 PU(N×N)에 의해 구성된다. 이 중의 어느 패턴이 적용될지는, 화상의 내용(예측 결과의 비용 함수값)에 의해 결정된다.

그런데, 비특허문헌 3에는, 움직임 정보의 부호화 방식의 하나로서, Motion Partition Merging이라고 불리는 방법(머지 모드)이 제안되어 있다. 이 방법에서는, MergeFlag와, MergeLeftFlag라는 2개의 flag가, 머지 모드에 관한 정보인 머지 정보로서 전송된다. MergeFlag=1은, 처리 대상인 주목 영역(X)의 움직임 정보가, 주목 영역 위에 인접하는 주변 영역(T), 또는, 주목 영역의 좌측에 인접하는 주변 영역(L)의 움직임 정보와 동일한 것을 나타낸다. 이때, 머지 정보에는, MergeLeftFlag가 포함되어 전송된다. MergeFlag=0은, 주목 영역(X)의 움직임 정보가, 주변 영역(T) 및 주변 영역(L)의 어느 움직임 정보와도 상이한 것을 나타낸다. 이 경우, 주목 영역(X)의 움직임 정보가 전송된다.

주목 영역(X)의 움직임 정보가, 주변 영역(L)의 움직임 정보와 동일한 경우, MergeFlag=1, 또한, MergeLeftFlag=1이 된다. 주목 영역(X)의 움직임 정보가, 주변 영역(T)의 움직임 정보와 동일한 경우, MergeFlag=1, 또한, MergeLeftFlag=0이 된다.

또한, 이러한 머지 모드에서, 공간적인 주변 영역(L) 및 (T)뿐만 아니라, 시간적 주변 영역(시간 상관 영역)도, 주목 영역(X)과 머지시키는 영역의 후보로 하는 것을 고려할 수 있다.

도 1의 예에서의 각 예측 유닛(PU)의 주변 영역은, 도 2에 도시되게 된다. 예를 들어, 도 1의 좌측 상단의 예의 인덱스 0의 예측 유닛은, 도 2의 좌측 상단에 나타내는 예의 영역(A) 내지 영역(D)을 주변 영역으로 한다. 또한, 예를 들어 도 1의 우측 상단의 예의 인덱스 1의 예측 유닛은, 도 2의 우측 상단에 나타내는 예의 영역(A) 내지 영역(D)을 주변 영역이라 한다. 또한, 예를 들어 도 1의 좌측 하방의 예의 인덱스 1의 예측 유닛은, 도 2의 좌측 하방에 나타내는 예의 영역(A) 내지 영역(D)를 주변 영역이라 한다. 또한, 예를 들어 도 1의 우측 하방의 예의 인덱스 3의 예측 유닛은, 도 2의 우측 하방에 나타내는 예의 영역(A) 내지 영역(D)을 주변 영역이라 한다.

또한, 참조 화상 인덱스는, 도 3에 도시된 바와 같이, 처리 대상인 주목 영역(Current Block)에 대하여 좌측에 인접하는 주변 영역(A), 위에 인접하는 주변 영역(B) 및 우측 상단에 인접하는 주변 영역(C)의 참조 화상 인덱스에 기초하여 도 4에 도시되는 표와 같이 결정된다.

도 4에 도시되는 표에서, 좌측에서부터 2번째 내지 4번째의 열은, 각각 주변 영역(A) 내지 주변 영역(C)의 참조 화상 인덱스의 상태를 나타내고 있다. 좌측에서부터 1열째는, 결정된 참조 화상 인덱스이다. "x", "y" 및 "z"는, 각각 임의의 자연수를 나타내고, "-1"은, 참조 불가인 것을 나타내고 있다.

주변 영역(A) 내지 주변 영역(C) 중, 참조 가능한 영역이 1개밖에 없을 경우, 그 블록의 참조 화상 인덱스를 사용한다. 또한, 주변 영역(A) 내지 주변 영역(C) 중, 참조 가능한 영역이 2개 있을 경우, 최소의 참조 화상 인덱스를 사용한다. 또한, 주변 영역(A) 내지 주변 영역(C) 모두가 참조 불가인 경우, 참조 화상 인덱스를 0으로 한다.

처리 대상인 주목 영역에 대하여 시간적 주변에 위치하는 시간 상관 영역은, 도 5에 도시되는 바와 같이 결정된다. 도 5에서, 좌측이 처리 대상인 주목 픽처(CurrPic)의 일부 영역을 나타내고, 그 중의 좌측 상단의 사각이 주목 영역(CurrPU)을 나타낸다. 또한, 도 5의 우측이 주목 픽처의 시간적으로 주변에 위치하는 시간 상관 픽처(colPic)의 일부 영역을 나타내고 있다. 이 시간 상관 픽처에 있어서, 주목 영역의 우측 하방의 화소와 동일 위치의 화소를 포함하는 영역을 시간 상관 영역(colPU)이라 한다. 이 영역이 참조 불가인 경우, 복호 영역의 중앙의 화소와 동일 위치의 화소를 포함하는 영역을 시간 상관 영역(colPU)이라 한다.

또한, 시간 상관 픽처는, 도 6에 도시된 바와 같이 결정된다. 예를 들어, 주목 픽처가 B 픽처이고, collocated_from_l0_flag가 0인 경우, 리스트 L1의 참조 화상 인덱스 0의 픽처가 시간 상관 픽처가 된다. 또한, 주목 픽처가, P 픽처 또는 B 픽처이고, collocated_from_l0_flag이 1인 경우, 리스트 L0의 참조 화상 인덱스 0의 픽처가 시간 상관 픽처가 된다.

또한, 주목 픽처와 시간 상관 픽처의 위치 관계에 의해, 도 7에 도시된 바와 같이, 비월 플래그가 설정된다. 예를 들어, 도 7 상에 도시된 바와 같이, 시간 상관 픽처의 참조 화상의 시간적 위치가 주목 픽처를 뛰어넘는(시간 상관 픽처와 참조 화상의 사이에 주목 픽처가 존재하는) 경우, 비월 플래그가 1로 설정된다.

또한, 시간 상관 픽처의 참조 화상의 시간적 위치가 주목 픽처를 뛰어넘지 않는(시간 상관 픽처와 참조 화상의 사이에 주목 픽처가 존재하지 않는) 경우, 비월 플래그가 0으로 설정된다. 비월 플래그가 1인 경우, 주목 영역이, 시간 상관 영역과 시간 상관 영역의 참조 화상의 내부 삽입이 되기 때문에, 예측 벡터의 신뢰도가 높다.

또한, 예측 벡터(pmv) 생성 시에는, 시간 상관 영역의 움직임 벡터(mvCol)가 이용되는 경우가 있는데, 그 경우, 도 8에 도시하는 예와 같이, 시간 상관 영역의 움직임 벡터의 스케일링이 행해진다. 즉, 주목 영역과 주목 영역의 참조 화상의 시간적 거리(A)와, 시간 상관 영역과 시간 상관 영역의 참조 화상의 시간적 거리(B)에 기초하여, 이하의 식 (1) 및 식 (2)와 같이 스케일링이 행해진다.

A와 B가 동등할 경우, pmv =mvCol ··· (1)

A와 B가 동등하지 않을 경우, pmv =mvCol×A/B ··· (2)

그런데, 머지 모드 이외의 공간 상관 영역의 주변 영역은, 도 9에 도시하는 예와 같이 된다. 즉, 영역(A0), 영역(A1), 영역(B0), 영역(B1) 및 영역(B2)이 주변 영역의 후보가 된다.

또한, 예측 벡터(pmv) 생성 시에는, 공간 상관 영역의 움직임 벡터(mvArr)가 이용되는 경우가 있는데, 그 경우, 도 10에 도시되는 예와 같이, 공간 상관 영역의 움직임 벡터의 스케일링이 행해진다. 즉, 주목 영역과 주목 영역의 참조 화상의 시간적 거리(A)와, 공간 상관 영역과 공간 상관 영역의 참조 화상의 시간적 거리(B)에 기초하여, 이하의 식 (3) 및 식 (4)와 같이 스케일링이 행해진다.

A와 B가 동등할 경우, pmv =mvArr ··· (3)

A와 B가 동등하지 않을 경우, pmv =mvArr×A/B ··· (4)

그런데, 다시점 화상의 경우, 화상은 복수의 뷰를 포함하여 이루어지고, 이 뷰간(시차 방향)의 상관성을 이용한 시차 예측도 행해진다. 도 11에 3 시점 화상의 참조 관계의 예를 나타낸다.

도 11에 도시되는 3 시점 화상은, 뷰 0, 뷰 1 및 뷰 2의 3개의 뷰를 포함하여 이루어진다. 도 11에서, POC는, 시각의 인덱스를 나타낸다. 또한 PicNum은, 복호 순서의 인덱스를 나타낸다.

뷰 0은 베이스 뷰라고 불리며, 시간 상관을 이용해서 예측을 행하는 시간 예측을 사용하여 부호화되어 있다. 뷰 1은 논베이스 뷰(non-base view)라고 불리며, 시간 예측과 시차 예측을 사용하여 부호화된다. 시차 예측에서는, 부호화 완료된 뷰 0과 뷰 2를 참조할 수 있다. 뷰 2는 논베이스 뷰라고 불리며, 시간 예측과 시차 예측을 사용하여 부호화된다. 시차 예측에서는, 부호화 완료된 뷰 0을 참조할 수 있다.

그러나, 상술한 바와 같이 종래의 예측 벡터는 움직임 벡터에 관한 것만이며, 이러한 시점(뷰)간을 걸치는 시차 예측에 있어서 생성되는, 뷰간의, 동일 또는 가장 근사한 부분 화상의 위치 관계를 나타내는 시차 벡터에 대한 부호화(예측)는 고려되지 않았다. 이 시차 벡터는, 시간 예측의 움직임 벡터에 상당하는 정보이며, 동일 시각의 서로 다른 뷰의 화상을 사용하여 주목 영역의 예측 화상을 생성하는 시간 예측에 사용된다. 그로 인해, 시차 벡터의 예측을 적절하게 행할 수 없어, 부호화 효율이 저감될 우려가 있었다.

따라서, 본 기술에서는, 다시점 화상에 있어서, 효율적으로 예측 벡터를 생성하고, 또한 부호화 효율을 향상시키기 위해서, 이하와 같이 예측 벡터의 후보를 제한한다.

보다 구체적으로 설명한다. 우선 시간 상관 영역에 대한 제한 방법에 대하여 설명한다. 도 12에 그 예를 나타낸다. 처리 대상인 주목 영역에서 시간 예측밖에 행해지지 않고, 시간 상관 영역에서 시차 예측밖에 행해지지 않는 경우, 시간 상관 영역을 사용한 처리를 행하여, 예측 벡터를 구했어도, 부호화 벡터와 특성이 상이하므로, 예측 정밀도가 나쁘다. 따라서, 시간 상관 영역 사용 제한 플래그를 1로 설정한다. 이에 의해, 시간 상관 영역이 예측 벡터의 후보에서 제외된다. 이에 의해, 처리 시간, 축적 메모리, 부호화 효율의 관점에서 이득을 얻을 수 있다.

예를 들어, 시간 상관 영역을 사용한 예측 벡터의 산출 처리를 생략함으로써, 처리 시간을 저감시킬 수 있다. 또한, 예를 들어 시간 상관 영역의 정보를 유지할 필요가 없어지므로, 메모리 사용량을 저감시킬 수 있다. 또한, 예를 들어 예측 벡터의 후보가 줄어들기 때문에, 예측 벡터 인덱스 플래그에 할당하는 부호량을 저감시킬 수 있어, 부호화 효율을 향상시킬 수 있다.

또한, 마찬가지로, 주목 영역에서 시차 예측밖에 행해지지 않고, 시간 상관 영역에서 시간 예측밖에 행해지지 않는 경우도 시간 상관 영역 사용 제한 플래그를 1로 한다. 시간 상관 영역에서 시차 예측과 시간 예측이 행하여지는 경우도, 시간 상관 영역 사용 제한 플래그를 1로 한다. 왜냐하면, 시간 상관 영역이 동일 시각의 시차 예측을 행하고 있는 경우, 종래 방법에 따른 예측 벡터의 스케일링을 할 수 없기 때문이다. 즉, 시간 상관 영역과 시간 상관 영역의 참조 화상의 시간적 거리가 0이 되기 때문에, 스케일링에 필요한 제산을 할 수 없다.

이에 반해, 주목 영역에서 시간 예측과 시차 예측이 행해지고 있고, 시간 상관 영역에서 시간 예측만 행해지고 있는 경우, 시간 상관 영역 사용 제한 플래그를 0으로 하고, 시간 상관 영역의 움직임 벡터를 예측 벡터의 후보로 한다. 이때, 종래 방법의 스케일링 방법이라도 문제가 없다. 예를 들어, 주목 영역에서 시간 예측이 행하여지는 경우, 종래 방법과 마찬가지의 효과가 얻어진다. 또한, 예를 들어 주목 영역에서 시차 예측이 행하여지는 경우, 주목 영역과 그 참조 화상의 시간적 거리가 0이 되기 때문에, 스케일링된 시간 상관 영역의 예측 벡터는 0이 된다.

다음으로 공간 상관 영역에 대한 제한 방법에 대하여 설명한다. 도 13에 그 예를 나타낸다. 주목 영역에서 시간 예측과 시차 예측이 행하여지는 경우, 참조 화상 인덱스가 상이한 주변 영역은, 서로 다른 특성이 되므로, 공간 상관 영역 사용 플래그를 1로 설정한다. 이에 의해, 참조 화상 인덱스가 상이한 공간 상관 영역이 예측 벡터의 후보에서 제외된다. 이에 의해, 처리 시간 및 부호화 효율의 관점에서 이득을 얻을 수 있다.

예를 들어, 참조 화상 인덱스가 상이한 공간 상관 영역을 사용한 예측 벡터의 산출 처리를 생략함으로써, 처리 시간을 저감시킬 수 있다. 또한, 예를 들어 예측 벡터의 후보가 줄어들기 때문에, 예측 벡터 인덱스 플래그에 할당하는 부호량을 저감시킬 수 있어, 부호화 효율을 향상시킬 수 있다.

또한, 예를 들어 주목 영역에서, 시간 예측만 행하여지는 경우, 또는, 시차 예측만 행하여지는 경우, 공간 상관 영역 사용 제한 플래그를 0으로 하고, 참조 화상 인덱스가 상이한 공간 상관 영역의 움직임 벡터를 예측 벡터의 후보로 한다. 이때, 종래 방법의 스케일링 방법이라도 문제가 없다. 예를 들어, 주목 영역에서 시간 예측이 행하여지는 경우, 종래 방법과 마찬가지의 효과가 얻어진다. 또한, 예를 들어 주목 영역에서 시차 예측이 행하여지는 경우, 주목 영역과 그 참조 화상의 시간적 거리가 0이 되기 때문에, 스케일링된 공간 상관 영역의 예측 벡터는 0이 된다.

[화상 부호화 장치]

도 14는, 화상 처리 장치인 화상 부호화 장치의 주된 구성예를 도시하는 블록도이다.

도 14에 도시되는 화상 부호화 장치(100)는, 예를 들어 AVC나 HEVC 등의 부호화 방식과 같이, 예측 처리를 사용하여 화상 데이터를 부호화한다. 단, 화상 부호화 장치(100)는, 복수의 뷰를 포함하여 이루어지는 다시점 화상을 부호화한다. 이하에서는, 다시점 화상의 일례로서, 3개의 뷰를 포함하여 이루어지는 3 시점 화상을 처리하는 경우에 대하여 설명한다. 단, 실제로는, 화상 부호화 장치(100)는, 임의의 시점수(뷰수)의 다시점 화상을 부호화할 수 있다.

도 14에 도시되는 바와 같이 화상 부호화 장치(100)는, A/D 변환부(101), 화면 재배열 버퍼(102), 연산부(103), 직교 변환부(104), 양자화부(105), 가역 부호화부(106) 및 축적 버퍼(107)를 갖는다. 또한, 화상 부호화 장치(100)는, 역양자화부(108), 역직교 변환부(109), 연산부(110), 루프 필터(111), 디코드 픽처 버퍼(112), 선택부(113), 인트라 예측부(114), 움직임 시차 예측·보상부(115), 예측 화상 선택부(116), 다시점 디코드 픽처 버퍼(121) 및 상관 영역 판정부(122)를 갖는다.

A/D 변환부(101)는, 입력된 화상 데이터를 A/D 변환하고, 변환 후의 화상 데이터(디지털 데이터)를 화면 재배열 버퍼(102)에 공급하여 기억시킨다. 화면 재배열 버퍼(102)는, 기억한 표시의 순서의 프레임의 화상을, GOP(Group Of Picture)에 따라서, 부호화를 위한 프레임의 순서대로 재배열하고, 프레임의 순서를 재배열한 화상을, 그 화상의 뷰 ID 및 POC와 함께 연산부(103)에 공급한다.

또한, 화면 재배열 버퍼(102)는, 프레임의 순서를 재배열한 화상을, 그 화상의 뷰 ID 및 POC와 함께, 인트라 예측부(114) 및 움직임 시차 예측·보상부(115)에도 공급한다. 또한, 뷰 ID는, 시점을 식별하기 위한 정보이며, POC는, 시각을 식별하기 위한 정보이다.

연산부(103)는, 화면 재배열 버퍼(102)로부터 판독된 화상에서, 예측 화상 선택부(116)를 거쳐 인트라 예측부(114) 또는 움직임 시차 예측·보상부(115)로부터 공급되는 예측 화상을 감산하고, 그 차분 정보를 직교 변환부(104)에 출력한다.

예를 들어, 인트라 부호화가 행해지는 화상의 경우, 연산부(103)는, 화면 재배열 버퍼(102)로부터 판독된 화상에서, 인트라 예측부(114)로부터 공급되는 예측 화상을 감산한다. 또한, 예를 들어 인터 부호화가 행해지는 화상의 경우, 연산부(103)는, 화면 재배열 버퍼(102)로부터 판독된 화상에서, 움직임 시차 예측·보상부(115)로부터 공급되는 예측 화상을 감산한다.

직교 변환부(104)는, 연산부(103)로부터 공급되는 차분 정보에 대하여 이산 코사인 변환이나 카루넨 루베 변환(Karhunen-Loeve transform) 등의 직교 변환을 실시한다. 또한, 이 직교 변환의 방법은 임의이다. 직교 변환부(104)는, 그 변환 계수를 양자화부(105)에 공급한다.

양자화부(105)는, 직교 변환부(104)로부터 공급되는 변환 계수를 양자화한다. 양자화부(105)는, 부호량의 목표값에 관한 정보에 기초하여 양자화 파라미터를 설정하고, 그 양자화를 행한다. 또한, 이 양자화의 방법은 임의이다. 양자화부(105)는, 양자화된 변환 계수를 가역 부호화부(106)에 공급한다.

가역 부호화부(106)는, 양자화부(105)에서 양자화된 변환 계수를, 임의의 부호화 방식으로 부호화한다. 또한, 가역 부호화부(106)는, 인트라 예측의 모드를 나타내는 정보 등을 포함하는 인트라 예측 정보를 인트라 예측부(114)로부터 취득하고, 인터 예측의 모드를 나타내는 정보나 움직임 시차 벡터 정보 등을 포함하는 인터 예측 정보를 움직임 시차 예측·보상부(115)로부터 취득한다. 또한, 가역 부호화부(106)는, 루프 필터(111)에서 사용된 필터 계수 등을 취득한다.

가역 부호화부(106)는, 이들 각종 정보를 임의의 부호화 방식으로 부호화하여, 부호화 데이터의 헤더 정보의 일부로 한다(다중화함). 가역 부호화부(106)는, 부호화하여 얻어진 부호화 데이터를 축적 버퍼(107)에 공급하여 축적시킨다.

가역 부호화부(106)의 부호화 방식으로서는, 예를 들어 가변 길이 부호화 또는 산술 부호화 등을 들 수 있다. 가변 길이 부호화로서는, 예를 들어 H.264/AVC 방식으로 정해져 있는 CAVLC(Context-Adaptive Variable Length Coding) 등을 들 수 있다. 산술 부호화로서는, 예를 들어 CABAC(Context-Adaptive Binary Arithmetic Coding) 등을 들 수 있다.

축적 버퍼(107)는, 가역 부호화부(106)로부터 공급된 부호화 데이터를, 일시적으로 유지한다. 축적 버퍼(107)는, 소정의 타이밍에서, 유지하고 있는 부호화 데이터를, 비트 스트림으로서, 예를 들어 후단의 도시하지 않은 기록 장치(기록 매체)나 전송로 등에 출력한다. 즉, 부호화된 각종 정보가 복호측에 공급된다.

또한, 양자화부(105)에서 양자화된 변환 계수는, 역양자화부(108)에도 공급된다. 역양자화부(108)는, 그 양자화된 변환 계수를, 양자화부(105)에 의한 양자화에 대응하는 방법으로 역양자화한다. 이 역양자화의 방법은, 양자화부(105)에 의한 양자화 처리에 대응하는 방법이면 어떤 방법이어도 된다. 역양자화부(108)는, 얻어진 변환 계수를 역직교 변환부(109)에 공급한다.

역직교 변환부(109)는, 역양자화부(108)로부터 공급된 변환 계수를, 직교 변환부(104)에 의한 직교 변환 처리에 대응하는 방법으로 역직교 변환한다. 이 역직교 변환의 방법은, 직교 변환부(104)에 의한 직교 변환 처리에 대응하는 방법이면 어떤 것이어도 된다. 역직교 변환된 출력(국소적으로 복원된 차분 정보)은, 연산부(110)에 공급된다.

연산부(110)는, 역직교 변환부(109)로부터 공급된 역직교 변환 결과, 즉, 국소적으로 복원된 차분 정보에, 예측 화상 선택부(116)를 거쳐 인트라 예측부(114) 또는 움직임 시차 예측·보상부(115)로부터 공급되는 예측 화상을 가산하여, 국소적으로 재구성된 화상(이하, 재구성 화상이라고 함)을 얻는다. 그 재구성 화상은, 루프 필터(111) 또는 디코드 픽처 버퍼(112)에 공급된다.

루프 필터(111)는, 디블록 필터나 적응 루프 필터 등을 포함하고, 연산부(110)로부터 공급되는 복호 화상에 대하여 적절히 필터 처리를 행한다. 예를 들어, 루프 필터(111)는, 복호 화상에 대하여 디블록 필터 처리를 행함으로써 복호 화상의 블록 왜곡을 제거한다. 또한, 예를 들어 루프 필터(111)는, 그 디블록 필터 처리 결과(블록 왜곡의 제거가 행해진 복호 화상)에 대하여 위너 필터(Wiener Filter)를 사용하여 루프 필터 처리를 행함으로써 화질 개선을 행한다.

또한, 루프 필터(111)가, 복호 화상에 대하여 임의의 필터 처리를 행하도록 해도 된다. 또한, 루프 필터(111)는, 필요에 따라, 필터 처리에 사용한 필터 계수 등의 정보를 가역 부호화부(106)에 공급하고, 그것을 부호화시키도록 할 수도 있다.

루프 필터(111)는, 필터 처리 결과(이하, 복호 화상이라고 함)를 디코드 픽처 버퍼(112)에 공급한다.

디코드 픽처 버퍼(112)는, 연산부(110)로부터 공급되는 재구성 화상과, 루프 필터(111)로부터 공급되는 복호 화상을 각각 기억한다. 또한, 디코드 픽처 버퍼(112)는, 그 화상의 뷰 ID 및 POC를 기억한다.

디코드 픽처 버퍼(112)는, 소정의 타이밍에서, 또는, 인트라 예측부(114) 등의 외부로부터의 요구에 기초하여, 기억하고 있는 재구성 화상(및, 그 화상의 뷰 ID 및 POC)을 선택부(113)를 거쳐 인트라 예측부(114)에 공급한다. 또한, 디코드 픽처 버퍼(112)는, 소정의 타이밍에서, 또는, 움직임 시차 예측·보상부(115) 등의 외부로부터의 요구에 기초하여, 기억하고 있는 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 선택부(113)를 거쳐 움직임 시차 예측·보상부(115)에 공급한다.

선택부(113)는, 디코드 픽처 버퍼(112)로부터 출력되는 화상의 공급처를 나타낸다. 예를 들어, 인트라 예측의 경우, 선택부(113)는, 디코드 픽처 버퍼(112)로부터 필터 처리되어 있지 않은 화상(재구성 화상)을 판독하여, 주변 화소로서 인트라 예측부(114)에 공급한다.

또한, 예를 들어 인터 예측의 경우, 선택부(113)는, 디코드 픽처 버퍼(112)로부터 필터 처리된 화상(복호 화상)을 판독하여, 참조 화상으로서 그것을 움직임 시차 예측·보상부(115)에 공급한다.

인트라 예측부(114)는, 디코드 픽처 버퍼(112)로부터, 처리 대상 영역의 주변에 위치하는 주변 영역의 화상(주변 화상)을 취득하면, 그 주변 화상의 화소값을 사용하여, 기본적으로 프레딕션(prediction) 유닛(PU)을 처리 단위로 해서 예측 화상을 생성하는 인트라 예측(화면 내 예측)을 행한다. 인트라 예측부(114)는, 미리 준비된 복수의 모드(인트라 예측 모드)에서 이 인트라 예측을 행한다.

인트라 예측부(114)는, 후보가 되는 모든 인트라 예측 모드에서 예측 화상을 생성하고, 화면 재배열 버퍼(102)로부터 공급되는 입력 화상을 사용하여 각 예측 화상의 비용 함수값을 평가하여, 최적의 모드를 선택한다. 인트라 예측부(114)는, 최적의 인트라 예측 모드를 선택하면, 그 최적의 모드에서 생성된 예측 화상을, 예측 화상 선택부(116)에 공급한다.

또한, 인트라 예측부(114)는, 최적의 인트라 예측 모드 등, 인트라 예측에 관한 정보를 포함하는 인트라 예측 정보를, 적절히 가역 부호화부(106)에 공급하여 부호화시킨다.

움직임 시차 예측·보상부(115)는, 화면 재배열 버퍼(102)로부터 공급되는 입력 화상과, 디코드 픽처 버퍼(112)로부터 공급되는 참조 화상을 사용하여, 기본적으로 PU를 처리 단위로 해서, 움직임 예측이나 시차 예측(인터 예측)을 행하고, 검출된 움직임 시차 벡터에 따라서 보상 처리를 행하여, 예측 화상(인터 예측 화상 정보)을 생성한다. 움직임 시차 예측·보상부(115)는, 미리 준비된 복수의 모드(인터 예측 모드)에서 이러한 인터 예측(화면간 예측)을 행한다.

움직임 시차 예측·보상부(115)는, 후보가 되는 모든 인터 예측 모드에서 예측 화상을 생성하고, 각 예측 화상의 비용 함수값을 평가하여, 최적의 모드를 선택한다. 움직임 시차 예측·보상부(115)는, 최적의 인터 예측 모드를 선택하면, 그 최적의 모드에서 생성된 예측 화상을 예측 화상 선택부(116)에 공급한다.

또한, 움직임 시차 예측·보상부(115)는, 최적의 인터 예측 모드 등, 인터 예측에 관한 정보를 포함하는 인터 예측 정보를 가역 부호화부(106)에 공급하여 부호화시킨다.

예측 화상 선택부(116)는, 연산부(103)나 연산부(110)에 공급하는 예측 화상의 공급원을 선택한다. 예를 들어, 인트라 부호화의 경우, 예측 화상 선택부(116)는, 예측 화상의 공급원으로서 인트라 예측부(114)를 선택하고, 그 인트라 예측부(114)로부터 공급되는 예측 화상을 연산부(103)나 연산부(110)에 공급한다. 또한, 예를 들어 인터 부호화의 경우, 예측 화상 선택부(116)는, 예측 화상의 공급원으로서 움직임 시차 예측·보상부(115)를 선택하고, 그 움직임 시차 예측·보상부(115)로부터 공급되는 예측 화상을 연산부(103)나 연산부(110)에 공급한다.

디코드 픽처 버퍼(112)는, 처리 대상의 뷰의 화상(및, 그 화상의 뷰 ID 및 POC)만을 기억하지만, 다시점 디코드 픽처 버퍼(121)는, 각 시점(뷰)의 화상(및, 그 화상의 뷰 ID 및 POC)을 기억한다. 즉, 다시점 디코드 픽처 버퍼(121)는, 디코드 픽처 버퍼(112)에 공급된 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 취득하고, 디코드 픽처 버퍼(112)와 함께 그 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 기억한다.

디코드 픽처 버퍼(112)는, 처리 대상의 뷰가 바뀌면, 그 복호 화상을 소거하지만, 다시점 디코드 픽처 버퍼(121)는, 그대로 유지한다. 그리고, 디코드 픽처 버퍼(112) 등의 요구에 따라서, 기억하고 있는 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 "처리 대상이 아닌 뷰의 복호 화상"으로서 디코드 픽처 버퍼(112)에 공급한다. 디코드 픽처 버퍼(112)는, 다시점 디코드 픽처 버퍼(121)로부터 판독한 "처리 대상이 아닌 뷰의 복호 화상(및, 그 화상의 뷰 ID 및 POC)"을, 선택부(113)를 거쳐 움직임 시차 예측·보상부(115)에 공급한다.

상관 영역 판정부(122)는, 주목 영역이나 상관 영역에서 행해지는 예측의 종류(공간 예측·시간 예측·시차 예측 등)에 따라, 시간 상관 영역 사용 제한 플래그 및 공간 상관 영역 사용 제한 플래그의 값을 설정한다. 상관 영역 판정부(122)는, 값을 설정한 시간 상관 영역 사용 제한 플래그 및 공간 상관 영역 사용 제한 플래그를 움직임 시차 예측·보상부(115)에 공급한다. 움직임 시차 예측·보상부(115)는, 그것들의 플래그에 의한 제한 하에 예측 벡터의 생성을 행한다.

또한, 상관 영역 판정부(122)는, 값을 설정한 시간 상관 영역 사용 제한 플래그 및 공간 상관 영역 사용 제한 플래그를 가역 부호화부(106)에 공급하여 부호화시킨다. 즉, 이들 플래그 정보는, 가역 부호화부(106)에서 부호화되어, 예를 들어 슬라이스 헤더 등에 부가되어 복호측에 전송된다. 즉, 복호시의 움직임 시차 보상 처리에서의 예측 벡터의 재구축도, 이들 플래그에 의한 제한 하에서 행해진다.

[움직임 시차 예측·보상부]

도 15는, 도 1의 움직임 시차 예측·보상부의 주된 구성예를 도시하는 블록도이다.

도 15에 도시된 바와 같이, 움직임 시차 예측·보상부(115)는, 움직임 시차 벡터 탐색부(131), 예측 화상 생성부(132), 부호화 정보 축적 버퍼(133) 및 선택부(134)를 갖는다. 또한, 움직임 시차 예측·보상부(115)는, 공간 상관 예측 벡터 생성부(135), 시간 시차 상관 예측 벡터 생성부(136), 선택부(137), 부호화 비용 산출부(138) 및 모드 판정부(139)를 갖는다.

움직임 시차 벡터 탐색부(131)는, 디코드 픽처 버퍼(112)로부터 복호 화상 화소값을 취득하고, 화면 재배열 버퍼(102)로부터 원 화상 화소값을 취득한다. 움직임 시차 벡터 탐색부(131)는, 그것들을 사용하여, 처리 대상인 주목 영역의 참조 화상 인덱스를 결정하고, 시간 방향 및 시차 방향의 움직임 탐색을 행하여, 움직임 벡터 및 시차 벡터를 생성한다.

또한, 이하에서, 시간 방향, 즉, 프레임(픽처)간의 움직임을 나타내는 움직임 벡터와, 시차 방향, 즉, 뷰간의 움직임을 나타내는 시차 벡터를 서로 구별할 필요가 없을 경우, 또는, 그 양쪽을 가리킬 경우, 움직임 시차 벡터라고 칭한다.

움직임 시차 벡터 탐색부(131)는, 참조 화상 인덱스로 움직임 시차 벡터를 예측 화상 생성부(132) 및 부호화 비용 산출부(138)에 공급한다.

예측 화상 생성부(132)는, 움직임 시차 벡터 탐색부(131)로부터 참조 화상 인덱스와 움직임 시차 벡터를 취득함과 함께, 디코드 픽처 버퍼(112)로부터 복호 화상 화소값을 취득한다. 예측 화상 생성부(132)는, 그것들을 사용하여 주목 영역의 예측 화상을 생성한다. 예측 화상 생성부(132)는, 예측 화상 화소값을 부호화 비용 산출부(138)에 공급한다.

부호화 정보 축적 버퍼(133)는, 모드 판정부(139)에서 최적 모드로 선택된 모드를 나타내는 모드 정보, 및 그 모드의 참조 화상 인덱스 및 움직임 시차 벡터를 기억한다. 부호화 정보 축적 버퍼(133)는, 소정의 타이밍에서, 또는, 외부로부터의 요구에 따라서, 기억하고 있는 그들 정보를 선택부(134)에 공급한다.

선택부(134)는, 부호화 정보 축적 버퍼(133)로부터 공급된 모드 정보, 참조 화상 인덱스 및 움직임 시차 벡터를 공간 상관 예측 벡터 생성부(135) 또는 시간 시차 상관 예측 벡터 생성부(136)에 공급한다.

공간 상관 예측 벡터 생성부(135) 및 시간 시차 상관 예측 벡터 생성부(136)는, 처리 대상인 주목 영역의 움직임 벡터의 예측값(예측 벡터)을 생성한다.

공간 상관 예측 벡터 생성부(135)는, 공간적인 상관을 이용하여 예측 벡터(공간 상관 예측 벡터)를 생성한다. 보다 구체적으로는, 공간 상관 예측 벡터 생성부(135)는, 선택부(134)를 거쳐 부호화 정보 축적 버퍼(133)로부터, 주목 영역과 동일한 프레임(주목 프레임)의, 주목 영역이 공간적인 주변에 위치하는 주변 영역(공간 주변 영역)의 움직임 정보에 관한 정보(모드 정보, 참조 화상 인덱스 및 움직임 시차 벡터 등)를 취득한다.

공간 상관 예측 벡터 생성부(135)는, 예를 들어 복수의 공간 주변 영역의 움직임 벡터(공간 주변 움직임 벡터)를 사용해서 메디안 연산을 행하여, 공간 상관 예측 벡터를 생성한다. 공간 상관 예측 벡터 생성부(135)는, 생성한 공간 상관 예측 벡터를 선택부(137)에 공급한다.

또한, 공간 상관 예측 벡터 생성부(135)는, 이상과 같은 처리를, 상관 영역 판정부(122)의 제어에 따라서 행한다. 즉, 공간 상관 영역 사용 제한 플래그의 값이 1인 경우, 공간 상관 예측 벡터 생성부(135)는, 공간 상관 예측 벡터의 생성을 행하지 않는다. 또한, 공간 상관 영역 사용 제한 플래그의 값이 0인 경우, 공간 상관 예측 벡터 생성부(135)는 공간 상관 예측 벡터를 생성한다.

시간 시차 상관 예측 벡터 생성부(136)는, 시간적인 상관 또는 시차적인 상관을 이용하여 예측 벡터(시간 시차 상관 예측 벡터(시간 상관 예측 벡터 또는 시차 상관 예측 벡터))를 생성한다. 보다 구체적으로는, 시간 시차 상관 예측 벡터 생성부(136)는, 예를 들어 선택부(134)를 거쳐 부호화 정보 축적 버퍼(133)로부터, 주목 영역의 시간적 주변에 위치하는 주변 영역(시간 주변 영역)의 움직임 정보에 관한 정보를 취득한다. 시간 주변 영역이란, 주목 영역과 동일 뷰(주목 뷰)의, 주목 프레임과 상이한 프레임(픽처)의 주목 영역에 상당하는 위치의 영역, 또는 그 근방의 영역을 나타낸다.

또한, 예를 들어 시간 시차 상관 예측 벡터 생성부(136)는, 선택부(134)를 거쳐 부호화 정보 축적 버퍼(133)로부터, 주목 영역의 시차적인 주변에 위치하는 주변 영역(시차 주변 영역)의 움직임 정보에 관한 정보를 취득한다. 시차 주변 영역이란, 주목 영역의 뷰(주목 뷰)와 상이한 뷰의, 주목 프레임과 동일 시각의 프레임(픽처)의 주목 영역에 상당하는 위치의 영역, 또는 그 근방의 영역을 나타낸다.

시간 시차 상관 예측 벡터 생성부(136)는, 예를 들어 복수의 시간 주변 영역의 움직임 벡터(시간 주변 움직임 벡터)를 사용하여 메디안 연산을 행하여, 시간 상관 예측 벡터를 생성한다. 또한, 예를 들어 시간 시차 상관 예측 벡터 생성부(136)는, 예를 들어 복수의 시차 주변 영역의 움직임 벡터(시차 주변 움직임 벡터)를 사용하여 메디안 연산을 행하여, 시차 상관 예측 벡터를 생성한다.

시간 시차 상관 예측 벡터 생성부(136)는, 이렇게 생성한 시간 시차 상관 예측 벡터를 선택부(137)에 공급한다.

또한, 시간 시차 상관 예측 벡터 생성부(136)는, 이상과 같은 처리를, 상관 영역 판정부(122)의 제어에 따라서 행한다. 즉, 시간 상관 영역 사용 제한 플래그의 값이 1인 경우, 시간 시차 상관 예측 벡터 생성부(136)는, 시간 시차 상관 예측 벡터의 생성을 행하지 않는다. 또한, 시간 상관 영역 사용 제한 플래그의 값이 0인 경우, 시간 시차 상관 예측 벡터 생성부(136)는, 시간 시차 상관 예측 벡터를 생성한다.

공간 상관 예측 벡터 생성부(135) 및 시간 시차 상관 예측 벡터 생성부(136)는, 각각 예측 벡터를 인터 예측 모드마다 생성한다.

선택부(137)는, 공간 상관 예측 벡터 생성부(135)로부터 공급되는 공간 상관 예측 벡터, 및 시간 시차 상관 예측 벡터 생성부(136)로부터 공급되는 시간 시차 상관 예측 벡터를, 부호화 비용 산출부(138)에 공급한다.

부호화 비용 산출부(138)는, 예측 화상 생성부(132)로부터 공급되는 예측 화상 화소값과, 화면 재배열 버퍼(102)로부터 공급되는 원 화상 화소값을 사용하여, 예측 화상과 원 화상의 차분값(차분 화상)을 인터 예측 모드마다 산출한다. 또한, 부호화 비용 산출부(138)는, 그 차분 화상 화소값을 사용하여, 인터 예측 모드마다 비용 함수값(부호화 비용값이라고도 함)을 산출한다.

또한, 부호화 비용 산출부(138)는, 선택부(137)로부터 공급된 공간 상관 예측 벡터와 시간 시차 상관 예측 벡터 중, 움직임 시차 벡터 탐색부(131)로부터 공급된 주목 영역의 움직임 시차 벡터에 보다 가까운 쪽을, 주목 영역의 예측 벡터로서 선택한다. 또한, 부호화 비용 산출부(138)는, 그 예측 벡터와 주목 영역의 움직임 시차 벡터와의 차분값인 차분 움직임 시차 벡터를 생성한다. 부호화 비용 산출부(138)는, 인터 예측 모드마다 차분 움직임 시차 벡터를 생성한다.

부호화 비용 산출부(138)는, 각 인터 예측 모드의, 부호화 비용 값, 예측 화상 화소값, 차분 움직임 시차 벡터를 포함하는 차분 움직임 시차 정보, 및 예측 벡터나 참조 화상 인덱스를 포함하는 예측 정보를 모드 판정부(139)에 공급한다.

모드 판정부(139)는, 부호화 비용값이 최소가 되는 인터 예측 모드를 최적의 모드로서 선택한다. 모드 판정부(139)는, 최적의 모드로 선택한 인터 예측 모드의 예측 화상 화소값을, 예측 화상 선택부(116)에 공급한다.

예측 화상 선택부(116)에 의해 인터 예측이 선택된 경우, 모드 판정부(139)는 최적의 모드로 선택한 인터 예측 모드에 관한 정보인 모드 정보, 및 그 인터 예측 모드의 차분 움직임 시차 정보 및 예측 정보를, 가역 부호화부(106)에 공급하여 부호화시킨다. 이들 정보는, 부호화되어 복호측에 전송된다.

또한, 모드 판정부(139)는, 최적의 모드로 선택한 인터 예측 모드의, 모드 정보, 차분 움직임 시차 정보 및 예측 정보를, 부호화 정보 축적 버퍼(133)에 공급하여 기억시킨다. 이들 정보는, 주목 영역보다 시간적으로 후에 처리되는 다른 영역에 대한 처리에서, 주변 영역의 정보로서 이용된다.

이와 같이 함으로써, 시간 시차 상관 예측 벡터 생성부(136)는, 움직임 상관 예측 벡터뿐만 아니라, 시차 상관 예측 벡터도 생성할 수 있다. 따라서, 움직임 시차 예측·보상부(115)는, 주목 영역의 벡터가 시차 벡터인 경우에도, 예측 정밀도가 높은 예측 벡터를 생성할 수 있다. 이에 의해, 화상 부호화 장치(100)는, 부호화 효율의 저감을 억제할 수 있다.

또한, 상관 영역 판정부(122)가, 예측 방향의 관계에 기초하여, 상관 영역의 사용을 제어함으로써, 공간 상관 예측 벡터 생성부(135) 및 시간 시차 상관 예측 벡터 생성부(136)는, 예측 벡터의 생성에 있어서, 예측 정밀도가 낮은 예측 벡터를 생성하거나, 처리를 파탄시키는 등의 불필요한 부하의 발생을 억제할 수 있어, 처리 시간이나 메모리 사용량을 저감할 수 있다. 또한, 이 제한에 의해, 공간 상관 예측 벡터 생성부(135) 및 시간 시차 상관 예측 벡터 생성부(136)는, 예측 정밀도가 높은 예측 벡터를 적절하게 생성할 수 있게 되므로, 부호화 효율을 향상시킬 수 있다. 또한, 본 기술의 경우, 베이스 뷰의 예측 방식에 제한을 두므로, 종래의 방식으로부터의 확장이 용이하다.

또한, 상관 영역의 사용 제한 플래그를 복호측에 전송함으로써, 복호측에서도 화상 부호화 장치(100)와 마찬가지의 벡터의 예측을 행할 수 있다. 즉, 화상 부호화 장치(100)가 생성한 부호화 데이터를 정확하게 복호할 수 있을 뿐 아니라, 복호 시에도, 처리 시간이나 메모리 사용량을 저감할 수 있다.

[사용 제한의 예]

공간 상관 영역 사용 제한 플래그 및 시간 상관 영역 사용 제한 플래그의 설정예를 도 16에 나타내었다.

도 16에 도시된 바와 같이, 시간 상관 영역에서 시차 예측이 행해지고 있는 경우, 시간 상관 영역의 사용이 금지된다. 즉, 시간 상관 영역 사용 제한 플래그의 값이 1로 설정된다.

또한, 시간 상관 영역에서 시간 예측이 행해지고, 또한, 주목 영역에서 시간 예측만이 행하여지는 경우, 시간 상관 영역의 사용이 금지된다. 즉, 시간 상관 영역 사용 제한 플래그의 값이 1로 설정된다.

그 이외의 경우, 시간 상관 영역의 사용이 허가된다. 즉, 시간 상관 영역 사용 제한 플래그의 값이 0으로 설정된다.

또한, 공간 상관 영역에서 시차 예측이 행해지고 있는 경우, 공간 상관 영역의 사용이 금지된다. 즉, 공간 상관 영역 사용 제한 플래그의 값이 1로 설정된다.

그 이외의 경우, 공간 상관 영역의 사용이 허가된다. 즉, 공간 상관 영역 사용 제한 플래그의 값이 0으로 설정된다.

[구문]

도 17에 이 경우의 시퀀스 파라미터 세트의 구문의 예를 나타낸다. 도 17에 도시된 바와 같이, 밑에서부터 12행째 내지 밑에서부터 3행째와 같이, 뷰의 합계수, 뷰를 구별하기 위한 ID, 리스트 L0에서의 시차 예측의 매수, 리스트 L0에서의 시차 예측에서 참조하는 뷰의 ID, 리스트 L1에서의 시차 예측의 매수, 및 리스트 L1에서의 시차 예측에서 참조하는 뷰의 ID 등의 정보가 시퀀스 파라미터 세트에 포함된다. 이들 정보는, 다시점 화상에 필요한 정보이다. 환언하자면, 본 기술은, 시퀀스 파라미터 세트에 새로운 구문을 추가하지 않고 적용할 수 있다.

도 18에 이 경우의 슬라이스 헤더의 구문의 예를 나타낸다. 도 18에 도시된 바와 같이, 슬라이스 헤더에서는, 밑에서부터 9행째 및 10행째에서, 시간 상관 영역 사용 제한 플래그가 설정된다. 또한, 밑에서부터 5행째에서, 공간 상관 영역 사용 제한 플래그가 설정된다.

[부호화 처리의 흐름]

이어서, 이상과 같은 화상 부호화 장치(100)에 의해 실행되는 각 처리의 흐름에 대하여 설명한다. 최초로, 도 19의 흐름도를 참조하여, 부호화 처리의 흐름의 예를 설명한다.

스텝 S101에서, A/D 변환부(101)는, 입력된 화상을 A/D 변환한다. 스텝 S102에서, 화면 재배열 버퍼(102)는, A/D 변환된 화상을 기억하고, 각 픽처가 표시하는 순서에서 부호화하는 순서로의 재배열을 행한다.

스텝 S103에서, 인트라 예측부(114)는 인트라 예측 처리를 행한다. 스텝 S104에서, 움직임 시차 예측·보상부(115)는 인터 움직임 예측 처리를 행한다. 스텝 S105에서, 예측 화상 선택부(116)는, 인트라 예측에 의해 생성된 예측 화상, 및 인터 예측에 의해 생성된 예측 화상 중 어느 한쪽을 선택한다.

스텝 S106에서, 연산부(103)는, 스텝 S102의 처리에 의해 재배열된 화상과, 스텝 S105의 처리에 의해 선택된 예측 화상의 차분을 연산한다(차분 화상을 생성한다). 생성된 차분 화상은 원래의 화상에 비교하여 데이터량이 저감된다. 따라서, 화상을 그대로 부호화하는 경우에 비해 데이터량을 압축할 수 있다.

스텝 S107에서, 직교 변환부(104)는, 스텝 S106의 처리에 의해 생성된 차분 화상을 직교 변환한다. 구체적으로는, 이산 코사인 변환, 카루넨 루베 변환 등의 직교 변환이 행해지고, 직교 변환 계수가 출력된다. 스텝 S108에서, 양자화부(105)는, 스텝 S107의 처리에 의해 얻어진 직교 변환 계수를 양자화한다.

스텝 S108의 처리에 의해 양자화된 차분 화상은, 다음과 같이 하여 국부적으로 복호된다. 즉, 스텝 S109에서, 역양자화부(108)는 스텝 S108의 처리에 의해 생성된 양자화된 직교 변환 계수(양자화 계수라고도 함)를 양자화부(105)의 특성에 대응하는 특성으로 역양자화한다. 스텝 S110에서, 역직교 변환부(109)는, 스텝 S109의 처리에 의해 얻어진 직교 변환 계수를, 직교 변환부(104)의 특성에 대응하는 특성으로 역직교 변환한다. 이에 의해 차분 화상이 복원된다.

스텝 S111에서, 연산부(110)는, 스텝 S105에서 선택된 예측 화상을, 스텝 S110에서 생성된 차분 화상에 가산하여, 국부적으로 복호된 복호 화상(재구성 화상)을 생성한다. 스텝 S112에서, 루프 필터(111)는, 스텝 S111의 처리에 의해 얻어진 재구성 화상에 대하여 디블록 필터 처리나 적응 루프 필터 처리 등을 포함하는 루프 필터 처리를 적절히 행하여 복호 화상을 생성한다.

스텝 S113에서, 디코드 픽처 버퍼(112)나 다시점 디코드 픽처 버퍼(121)는, 스텝 S112의 처리에 의해 생성된 복호 화상, 또는, 스텝 S111의 처리에 의해 생성된 재구성 화상을 기억한다.

스텝 S114에서, 가역 부호화부(106)는, 스텝 S108의 처리에 의해 양자화된 직교 변환 계수를 부호화한다. 즉, 차분 화상에 대하여 가변 길이 부호화나 산술 부호화 등의 가역 부호화가 행해진다. 또한, 가역 부호화부(106)는, 예측에 관한 정보나, 양자화에 관한 정보나, 필터 처리에 관한 정보 등을 부호화하여, 비트 스트림에 부가한다.

스텝 S115에서, 축적 버퍼(107)는, 스텝 S114의 처리에 의해 얻어진 비트 스트림을 축적한다. 축적 버퍼(107)에 축적된 부호화 데이터는, 적절히 판독되어, 전송로나 기록 매체를 거쳐 복호측에 전송된다.

스텝 S116에서 양자화부(105)는, 스텝 S115의 처리에 의해 축적 버퍼(107)에 축적된 부호화 데이터의 부호량(발생 부호량)에 기초하여, 오버플로우 또는 언더플로우가 발생하지 않도록 양자화 동작의 레이트를 제어한다.

스텝 S116의 처리가 종료되면, 부호화 처리가 종료된다.

[인터 움직임 예측 처리의 흐름]

이어서, 도 20의 흐름도를 참조하여, 도 19의 스텝 S104에서 실행되는 인터 움직임 예측 처리의 흐름의 예를 설명한다.

스텝 S121에서, 상관 영역 판정부(122)는, 상관 영역 제한 플래그의 값을 설정하는 제한 판정 처리를 행한다. 스텝 S122에서, 움직임 시차 벡터 탐색부(131)는 처리 대상의 인터 예측 모드에 대해서 움직임 탐색을 행하고, 처리 대상인 주목 영역의 움직임 시차 벡터(움직임 벡터 또는 시차 벡터)를 생성한다. 스텝 S123에서, 예측 화상 생성부(132)는, 스텝 S122에서 생성된 움직임 시차 벡터를 사용하여 보상 처리를 행하여 예측 화상을 생성한다. 스텝 S124에서, 부호화 비용 산출부(138)는, 스텝 S123에서 생성된 예측 화상과 원 화상(입력 화상)의 차분 화상을 생성한다.

스텝 S125에서, 부호화 비용 산출부(138)는, 공간 상관 예측 벡터 생성부(135)나 시간 시차 상관 예측 벡터 생성부(136) 등을 사용하여 머지 모드 처리를 행한다.

스텝 S126에서, 부호화 비용 산출부(138)는, 스텝 S122에서 생성된 주목 영역의 움직임 시차 벡터와, 스텝 S125의 처리에 의해 생성된 주목 영역의 예측 벡터를 비교하여, 주목 영역에서 머지 모드가 적용되는지 여부를 판정한다.

양자가 일치하지 않고, 머지 모드가 적용되지 않는다고 판정했을 경우, 부호화 비용 산출부(138)는, 처리를 스텝 S127로 진행시켜, 공간 상관 예측 벡터 생성부(135)나 시간 시차 상관 예측 벡터 생성부(136) 등을 사용하여 움직임 시차 벡터 예측 처리를 행한다. 스텝 S127의 처리가 종료되면, 부호화 비용 산출부(138)는 처리를 스텝 S128로 진행시킨다.

또한, 스텝 S126에서, 주목 영역의 움직임 시차 벡터와 예측 벡터가 일치하여, 주목 영역에서 머지 모드가 적용된다고 판정했을 경우, 부호화 비용 산출부(138)는, 스텝 S127의 처리를 생략하고, 스텝 S128로 진행시킨다.

스텝 S128에서, 부호화 비용 산출부(138)는, 모든 인터 예측 모드에서, 이상의 처리를 행했는지 여부를 판정하고, 미처리의 인터 예측 모드가 존재한다고 판정된 경우, 처리를 스텝 S121로 복귀시켜, 그 미처리의 인터 예측 모드에 대해서, 그 이후의 처리가 반복되도록 제어한다. 즉, 스텝 S121 내지 스텝 S128의 각 처리가, 각 인터 예측 모드에 대하여 실행된다.

스텝 S128에서, 모든 인터 예측 모드에 대하여 처리를 행했다고 판정된 경우, 부호화 비용 산출부(138)는, 처리를 스텝 S129로 진행시킨다. 스텝 S129에서, 부호화 비용 산출부(138)는 각 인터 예측 모드의 비용 함수값을 산출한다.

스텝 S130에서, 모드 판정부(139)는, 스텝 S129에서 산출된 비용 함수값(부호화 비용값)이 가장 작은 인터 예측 모드를 최적의 모드(최적 인터 예측 모드)로 결정한다.

스텝 S131에서, 예측 화상 생성부(132)는, 그 최적 인터 예측 모드에서 예측 화상을 생성한다. 이 예측 화상은, 예측 화상 선택부(116)에 공급된다.

스텝 S132에서, 부호화 정보 축적 버퍼(133)는, 도 19의 스텝 S105에서 인터 예측이 선택된 경우, 최적 인터 예측 모드의 모드 정보나 움직임 정보(움직임 시차 벡터나 참조 화상 인덱스 등)를 기억한다. 인트라 예측 모드가 선택된 경우, 움직임 시차 벡터로서 제로 벡터가 기억된다. 또한, 이들 정보는, 도 19의 스텝 S105에서 인터 예측이 선택된 경우, 가역 부호화부(106)에도 공급되어, 부호화되어서 복호측에 전송된다.

스텝 S132의 처리가 종료되면, 부호화 정보 축적 버퍼(133)는 인터 움직임 예측 처리를 종료하고, 처리를 도 19로 복귀시킨다.

[제한 판정 처리의 흐름]

이어서, 도 21의 흐름도를 참조하여, 도 20의 스텝 S121에서 실행되는 제한 판정 처리의 흐름의 예를 설명한다. 제한 판정 처리가 개시되면, 스텝 S141에서, 상관 영역 판정부(122)는, 부호화 정보 축적 버퍼(133)로부터 취득한 참조 화상 인덱스를 사용하여, 주목 영역의 참조 화상을 디코드 픽처 버퍼(112)로부터 취득한다.

스텝 S142에서, 상관 영역 판정부(122)는, 부호화 정보 축적 버퍼(133)로부터 취득한 참조 화상 인덱스를 사용하여, 시간 상관 영역의 참조 화상을 디코드 픽처 버퍼(112)로부터 취득한다.

스텝 S143에서, 상관 영역 판정부(122)는, 그들 정보를 사용하여, 시간 상관 영역에서 시차 예측이 행하여지는지 여부를 판정한다. 시간 상관 영역에서 시차 예측이 행하여진다고 판정했을 경우, 상관 영역 판정부(122)는, 처리를 스텝 S144로 진행시키고, 시간 상관 영역 사용 제한 플래그를 1로 설정한다. 스텝 S144의 처리가 종료되면, 상관 영역 판정부(122)는 처리를 스텝 S147로 진행시킨다.

또한, 스텝 S143에서, 시간 상관 영역에서 시차 예측이 행하여지지 않는다고 판정했을 경우, 상관 영역 판정부(122)는, 처리를 스텝 S145로 진행시킨다. 스텝 S145에서, 상관 영역 판정부(122)는, 주목 영역에서 시차 예측만 행하여지는지 여부를 판정한다. 주목 영역에서 시차 예측만 행하여진다고 판정된 경우, 상관 영역 판정부(122)는 처리를 스텝 S144로 복귀시킨다. 즉, 시간 상관 영역 사용 제한 플래그가 1로 설정된다.

또한, 스텝 S145에서, 주목 영역에서 시차 예측 이외에도 행하여진다고 판정된 경우, 상관 영역 판정부(122)는 처리를 스텝 S146으로 진행시킨다. 스텝 S146에서, 상관 영역 판정부(122)는 시간 상관 영역 사용 제한 플래그를 0으로 설정한다. 스텝 S146의 처리가 종료되면, 상관 영역 판정부(122)는 처리를 스텝 S147로 진행시킨다.

스텝 S147에서, 상관 영역 판정부(122)는, 주목 영역에서 시차 예측이 행하여지는지 여부를 판정한다. 주목 영역에서 시차 예측이 행하여지지 않는다고 판정했을 경우, 상관 영역 판정부(122)는 처리를 스텝 S148로 진행시켜, 공간 상관 영역 사용 제한 플래그의 값을 0으로 설정하고, 제한 판정 처리를 종료하여, 처리를 도 20으로 복귀시킨다.

또한, 스텝 S147에서, 주목 영역에서 시차 예측이 행하여진다고 판정했을 경우, 상관 영역 판정부(122)는 처리를 스텝 S149로 진행시켜, 공간 상관 영역 사용 제한 플래그를 1로 설정하고, 제한 판정 처리를 종료하여, 처리를 도 20으로 복귀시킨다.

[머지 모드 처리의 흐름]

이어서, 도 22의 흐름도를 참조하여, 도 20의 스텝 S125에서 실행되는 머지 모드 처리의 흐름의 예를 설명한다.

머지 모드 처리가 개시되면, 스텝 S161에서, 공간 상관 예측 벡터 생성부(135)는, 공간 주변 영역과의 상관성을 이용하여 공간 상관 예측 벡터를 생성하는 공간 상관 예측 처리를 행한다. 스텝 S162에서, 시간 시차 상관 예측 벡터 생성부(136)는 시간 주변 영역이나 시차 주변 영역과의 상관성을 이용해서 시간 시차 상관 예측 벡터를 생성하는 시간 상관 예측 처리를 행한다.

스텝 S163에서, 부호화 비용 산출부(138)는, 스텝 S161에서 생성된 공간 상관 예측 벡터와, 스텝 S162에서 생성된 시간 시차 예측 벡터에서, 중복하는 벡터를 삭제한다.

스텝 S164에서, 부호화 비용 산출부(138)는, 벡터가 존재하는지 여부를 판정한다. 공간 상관 예측 벡터 또는 시간 시차 상관 예측 벡터가 1개라도 존재한다고 판정된 경우, 부호화 비용 산출부(138)는 처리를 스텝 S165로 진행시킨다.

스텝 S165에서, 부호화 비용 산출부(138)는, 벡터가 복수 존재하는지 여부를 판정한다. 복수 존재한다고 판정된 경우, 부호화 비용 산출부(138)는 처리를 스텝 S166으로 진행시켜, 머지 인덱스를 취득한다. 복수 존재하지 않는다고 판정된 경우, 부호화 비용 산출부(138)는 스텝 S166의 처리를 생략한다.

주목 영역의 움직임 벡터와 일치하는 공간 상관 예측 벡터 또는 시간 시차 상관 예측 벡터가 존재하는 경우, 부호화 비용 산출부(138)는, 스텝 S167에서, 그 일치하는 벡터를 예측 벡터로서 취득하고, 스텝 S168에서, 참조 화상 인덱스를 취득한다.

스텝 S168의 처리를 종료하면, 부호화 비용 산출부(138)는, 머지 모드 처리를 종료하고, 처리를 도 20으로 복귀시킨다.

또한, 스텝 S164에서, 공간 상관 예측 벡터 또는 시간 시차 상관 예측 벡터가 1개도 존재하지 않는다고 판정된 경우, 부호화 비용 산출부(138)는 처리를 스텝 S169로 진행시킨다.

스텝 S169에서, 부호화 비용 산출부(138)는, 예측 벡터에 초기값(예를 들어 제로 벡터)을 부여한다. 또한, 스텝 S170에서, 부호화 비용 산출부(138)는, 참조 화상 인덱스에 초기값(예를 들어 0)을 부여한다.

스텝 S170의 처리를 종료하면, 부호화 비용 산출부(138)는 머지 모드 처리를 종료하고, 처리를 도 20으로 복귀시킨다.

[공간 상관 예측 처리의 흐름]

이어서, 도 23의 흐름도를 참조하여, 도 22의 스텝 S161에서 실행되는 공간 상관 예측 처리의 흐름의 예를 설명한다.

공간 상관 예측 처리가 개시되면, 공간 상관 예측 벡터 생성부(135)는, 스텝 S181에서, 공간 상관 영역의 사용 제한 플래그가 0인지 여부를 판정한다. 공간 상관 영역 사용 제한 플래그가 1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 공간 상관 예측 처리를 종료하고, 처리를 도 22로 복귀시킨다.

또한, 스텝 S181에서, 공간 상관 영역 사용 제한 플래그가 0이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S182로 진행시키고, 주변 영역(A) 내지 (D)(도 2)을 순차 1개씩 선택한다. 선택된 주변 영역을 주목 주변 영역이라고 칭한다.

스텝 S183에서, 공간 상관 예측 벡터 생성부(135)는, 스텝 S182에서 선택된 주목 주변 영역(즉 주변 영역(A) 내지 (D) 중 어느 하나)의 예측 모드가 인터 예측인지 여부를 판정한다. 인터 예측이 아니라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S184로 진행시킨다. 스텝 S184에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역의 움직임 벡터를 예측 벡터의 후보에서 제외한다.

스텝 S185에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역이 주변 영역(D)인지 여부를 판정하고, 주목 주변 영역이 주변 영역(D)이라고 판정된 경우, 공간 상관 예측 처리를 종료하고, 처리를 도 22로 복귀시킨다.

또한, 스텝 S185에서, 주목 주변 영역이 주변 영역(D)이 아니라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S182로 복귀시키고, 그 이후의 처리를 반복한다. 즉, 주목 주변 영역이 갱신되어, 마찬가지의 처리가 반복된다.

또한, 스텝 S183에서, 주목 주변 영역의 예측 모드가 인터 예측이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S186으로 진행시킨다.

스텝 S186에서, 공간 상관 예측 벡터 생성부(135)는, 예측 유닛의 파트 모드가 2N×N(도 1의 우측 상단의 예)이며, 주목 영역(처리 대상의 예측 유닛)의 인덱스가 1인지 여부를 판정한다. 예측 유닛의 파트 모드가 2N×N이며, 주목 영역의 인덱스가 1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S187로 진행시킨다.

스텝 S187에서, 공간 상관 예측 벡터 생성부(135)는, 주목 영역이 주변 영역(B)과 동일한 움직임 정보를 가지는지 여부를 판정한다. 동일한 움직임 정보를 가진다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S184로 복귀시킨다.

또한, 스텝 S187에서, 주목 영역의 움직임 정보가 주변 영역(B)과 상이하다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는, 처리를 스텝 S188로 진행시킨다. 또한, 스텝 S186에서, 예측 유닛의 파트 모드가 2N×N이 아니라고 판정되거나, 또는, 예측 유닛의 파트 모드가 2N×N이지만 주목 영역의 인덱스가 1이 아니라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S188로 진행시킨다.

스텝 S188에서, 공간 상관 예측 벡터 생성부(135)는, 예측 유닛의 파트 모드가 N×2N(도 1의 좌측 하방의 예)이며, 주목 영역(처리 대상의 예측 유닛)의 인덱스가 1인지 여부를 판정한다. 예측 유닛의 파트 모드가 N×2N이며, 주목 영역의 인덱스가 1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S189로 진행시킨다.

스텝 S189에서, 공간 상관 예측 벡터 생성부(135)는, 주목 영역이 주변 영역(A)과 동일한 움직임 정보를 가지는지 여부를 판정한다. 동일한 움직임 정보를 가진다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S184로 복귀시킨다.

또한, 스텝 S189에서, 주목 영역의 움직임 정보가 주변 영역(A)과 상이하다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는, 처리를 스텝 S190으로 진행시킨다. 또한, 스텝 S188에서, 예측 유닛의 파트 모드가 N×2N이 아니라고 판정되거나, 또는, 예측 유닛의 파트 모드가 N×2N이지만 주목 영역의 인덱스가 1이 아니라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S190으로 진행시킨다.

스텝 S190에서, 공간 상관 예측 벡터 생성부(135)는, 예측 유닛의 파트 모드가 N×N(도 1의 우측 하방의 예)이며, 주목 영역(처리 대상의 예측 유닛)의 인덱스가 3인지 여부를 판정한다. 예측 유닛의 파트 모드가 N×N이며, 주목 영역의 인덱스가 3이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S191로 진행시킨다.

스텝 S191에서, 공간 상관 예측 벡터 생성부(135)는, 주변 영역(X)과 주변 영역(A)이 동일한 움직임 정보를 갖고, 또한, 주목 영역이 주변 영역(B)과 동일한 움직임 정보를 가지는지 여부를 판정한다. 주변 영역(X)과 주변 영역(A)이 동일한 움직임 정보를 갖고, 또한, 주목 영역이 주변 영역(B)과 동일한 움직임 정보를 가진다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S184로 복귀시킨다.

또한, 스텝 S191에서, 주변 영역(X)의 움직임 정보가 주변 영역(A)과 동일하지 않다고 판정되거나, 또는, 주목 영역의 움직임 정보가 주변 영역(B)과 상이하다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S192로 진행시킨다.

스텝 S192에서, 공간 상관 예측 벡터 생성부(135)는, 주변 영역(X)과 주변 영역(B)이 동일한 움직임 정보를 갖고, 또한, 주목 영역이 주변 영역(A)과 동일한 움직임 정보를 가지는지 여부를 판정한다. 주변 영역(X)과 주변 영역(B)이 동일한 움직임 정보를 갖고, 또한, 주목 영역이 주변 영역(A)과 동일한 움직임 정보를 가진다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S184로 복귀시킨다.

또한, 스텝 S192에서, 주변 영역(X)의 움직임 정보가 주변 영역(B)과 동일하지 않다고 판정되거나, 또는, 주목 영역의 움직임 정보가 주변 영역(A)과 상이하다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S193으로 진행시킨다.

또한, 스텝 S190에서, 예측 유닛의 파트 모드가 N×N이 아니라고 판정되거나, 또는, 예측 유닛의 파트 모드가 N×N이지만 주목 영역의 인덱스가 3이 아니라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S193으로 진행시킨다.

공간 상관 예측 벡터 생성부(135)는, 스텝 S193에서, 주목 주변 영역의 움직임 벡터를 유지하고, 스텝 S194에서, 주목 주변 영역의 참조 화상 인덱스를 유지한다. 스텝 S194의 처리가 종료되면, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S185로 복귀시킨다.

공간 상관 예측 벡터 생성부(135)는 이상과 같이 하여 예측 벡터의 후보(공간 상관 예측 벡터)의 압축을 행한다.

[시간 시차 상관 예측 처리의 흐름]

이어서, 도 24 및 도 25의 흐름도를 참조하여, 도 22의 스텝 S162에서 행해지는 시간 시차 상관 예측 처리의 흐름의 예를 설명한다.

시간 시차 상관 예측 처리가 개시되면, 시간 시차 상관 예측 벡터 생성부(136)는, 스텝 S201에서, 시간 상관 영역 사용 제한 플래그가 0인지 여부를 판정한다. 시간 시차 상관 영역 사용 제한 플래그가 1이라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 시간 시차 상관 예측 처리를 종료하고, 처리를 도 22로 복귀시킨다.

또한, 스텝 S201에서, 시간 시차 상관 영역 사용 제한 플래그가 0이라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S202로 진행시키고, 주목 영역의 참조 화상 인덱스를 결정한다. 또한, 스텝 S203에서, 시간 시차 상관 예측 벡터 생성부(136)는, 움직임 정보를 예측하는 픽처를 결정한다. 또한, 스텝 S204에서, 시간 시차 상관 예측 벡터 생성부(136)는, 움직임 정보를 예측하는 영역(주목 상관 영역)을 결정한다.

스텝 S205에서, 시간 시차 상관 예측 벡터 생성부(136)는, 주목 상관 영역이 인트라 예측된 영역인지, 또는, 참조 불가인지 여부를 판정한다. 주목 상관 영역이 인트라 예측된 영역이라고 판정되거나, 또는, 주목 상관 영역이 참조 불가라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S206으로 진행시킨다.

스텝 S206에서, 시간 시차 상관 예측 벡터 생성부(136)는, 주목 상관 영역의 움직임 벡터를 예측 벡터의 후보에서 제외하고, 시간 시차 상관 예측 처리를 종료하여, 처리를 도 22로 복귀시킨다.

또한, 스텝 S205에서, 주목 상관 영역이 참조 가능한 인터 예측된 영역이라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S207로 진행시킨다.

스텝 S207에서, 시간 시차 상관 예측 벡터 생성부(136)는, 주목 상관 영역이 L1 참조의 영역인지 여부를 판정한다. 주목 상관 영역이 L1 참조의 영역이라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S208로 진행시킨다.

시간 시차 상관 예측 벡터 생성부(136)는, 스텝 S208에서, 주목 상관 영역의 움직임 벡터를 취득하고, 스텝 S209에서, 참조 화상 인덱스를 취득하고, 스텝 S210에서, 참조 화상의 비월 플래그를 결정하고, 처리를 스텝 S211로 진행시킨다. 또한, 스텝 S207에서, 주목 상관 영역이 L1 참조의 영역이 아니라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S211로 진행시킨다.

스텝 S211에서, 시간 시차 상관 예측 벡터 생성부(136)는, 주목 상관 영역이 L0 참조의 영역인지 여부를 판정한다. 주목 상관 영역이 L0 참조의 영역이라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S212로 진행시킨다.

시간 시차 상관 예측 벡터 생성부(136)는, 스텝 S212에서, 주목 상관 영역의 움직임 벡터를 취득하고, 스텝 S213에서, 참조 화상 인덱스를 취득하고, 스텝 S214에서, 참조 화상의 비월 플래그를 결정하고, 처리를 도 25의 스텝 S221로 진행시킨다. 또한, 도 24의 스텝 S211에서, 주목 상관 영역이 L0 참조의 영역이 아니라고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 도 25의 스텝 S221로 진행시킨다.

도 25의 스텝 S221에서, 시간 시차 상관 예측 벡터 생성부(136)는, L1의 비월 플래그만 1인지, 또는, L0/L1의 비월 플래그의 값이 동등하고, L1의 참조가 있는지 여부를 판정한다.

L1의 비월 플래그만이 1이라고 판정된 경우, 또는, L0/L1의 비월 플래그의 값이 동등하고, 또한, L1의 참조가 있다고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S222로 진행시킨다.

스텝 S222에서, 시간 시차 상관 예측 벡터 생성부(136)는 L1 참조의 벡터를 취득한다. 스텝 S223에서, 시간 시차 상관 예측 벡터 생성부(136)는 L1 참조의 참조 화상 인덱스를 취득하고, 처리를 스텝 S226으로 진행시킨다.

또한, 스텝 S221에서, L1의 비월 플래그가 1이 아니거나, 또는, L0의 비월 플래그도 0이라고 판정되고, 또한, L0/L1의 비월 플래그의 값이 동등하지 않거나, 또는, L1의 참조가 없다고 판정된 경우, 시간 시차 상관 예측 벡터 생성부(136)는 처리를 스텝 S224로 진행시킨다.

스텝 S224에서, 시간 시차 상관 예측 벡터 생성부(136)는 L0 참조의 벡터를 취득한다. 스텝 S225에서, 시간 시차 상관 예측 벡터 생성부(136)는 L0 참조의 참조 화상 인덱스를 취득하고, 처리를 스텝 S226으로 진행시킨다.

스텝 S226에서, 시간 시차 상관 예측 벡터 생성부(136)는, 취득한 L1 참조의 벡터 또는 L0 참조의 벡터를 예측 벡터로 한다. 그때, 시간 시차 상관 예측 벡터 생성부(136)는, 주목 영역이나 상관 영역에서의 참조 화상과의 거리를 사용하여 벡터의 스케일링을 행하고, 스케일링 결과를 예측 벡터로 한다.

스텝 S226의 처리가 종료되면, 시간 시차 상관 예측 벡터 생성부(136)는, 처리를 도 24로 복귀시키고, 시간 시차 상관 예측 처리를 종료하여, 처리를 도 22로 복귀시킨다.

[움직임 시차 벡터 예측 처리의 흐름]

이어서, 도 26의 흐름도를 참조하여, 도 20의 스텝 S127에서 실행되는 움직임 시차 벡터 예측 처리의 흐름의 예를 설명한다.

움직임 시차 벡터 예측 처리가 개시되면, 스텝 S231에서, 공간 상관 예측 벡터 생성부(135)는 공간 상관 예측 처리를 행하여, 공간 상관 예측 벡터를 생성한다. 스텝 S232에서, 시간 시차 상관 예측 벡터 생성부(136)는 시간 시차 상관 예측 처리를 행하여, 시간 시차 상관 예측 벡터를 생성한다. 또한, 이 경우의, 시간 시차 상관 예측 처리는, 도 24 및 도 25의 흐름도를 참조하여 설명한 경우와 마찬가지로 실행된다.

스텝 S233에서, 부호화 비용 산출부(138)는, 스텝 S231에서 생성된 공간 상관 예측 벡터와, 스텝 S232에서 생성된 시간 시차 예측 벡터에서, 중복하는 벡터를 삭제한다.

부호화 비용 산출부(138)는, 남은 벡터 중, 주목 영역의 움직임 벡터에 가장 가까운 벡터를 선택하고, 스텝 S234에서 그 벡터를 나타내는 예측 벡터 인덱스를 작성하고, 스텝 S235에서, 그 벡터를 예측 벡터로 한다. 스텝 S235의 처리가 종료되면, 부호화 비용 산출부(138)는 움직임 시차 벡터 예측 처리를 종료하고, 처리를 도 20으로 복귀시킨다.

[공간 상관 예측 처리의 흐름]

이어서, 도 27의 흐름도를 참조하여, 도 26의 스텝 S231에서 실행되는 공간 상관 예측 처리의 흐름의 예를 설명한다.

공간 상관 예측 처리가 개시되면, 공간 상관 예측 벡터 생성부(135)는, 도 27의 스텝 S241에서, 주변 영역(A)(도 9의 A0 및 A1)에 대한 움직임 벡터 예측 처리인 주변 영역(A) 움직임 벡터 예측 처리를 행한다.

또한, 스텝 S242에서, 공간 상관 예측 벡터 생성부(135)는, 주변 영역(B)(도 9의 B0 내지 B2)에 관한 움직임 벡터 예측 처리인 주변 영역(B) 움직임 벡터 예측 처리를 행한다.

스텝 S242의 처리가 종료되면, 공간 상관 예측 벡터 생성부(135)는, 공간 상관 예측 처리를 종료하고, 처리를 도 26으로 복귀시킨다.

[주변 영역(A) 움직임 벡터 예측 처리의 흐름]

이어서, 도 28의 흐름도를 참조하여, 주변 영역(A) 움직임 벡터 예측 처리의 흐름의 예를 설명한다.

주변 영역(A) 움직임 벡터 예측 처리가 개시되면, 공간 상관 예측 벡터 생성부(135)는, 스텝 S251에서, 주변 영역(A0, A1)(도 9)을 순차 1개씩 선택한다.

선택된 주변 영역을 주목 주변 영역이라고 칭한다.

스텝 S252에서, 공간 상관 예측 벡터 생성부(135)는 주목 주변 영역이 참조 가능하고, 비인트라(non-intra)이며, 참조 리스트와 참조 화상 인덱스가 주목 영역과 동등한지 여부를 판정한다.

주목 주변 영역이 참조 가능한 인터 예측된 영역이며, 또한, 주목 주변 영역의 참조 리스트와 참조 화상 인덱스가 주목 영역과 동등하다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S253으로 진행시킨다.

스텝 S253에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역의 움직임 벡터를 예측 벡터로서 취득한다. 스텝 S254에서, 공간 상관 예측 벡터 생성부(135)는 주목 주변 영역의 참조 인덱스를 취득한다. 스텝 S255에서, 공간 상관 예측 벡터 생성부(135)는, 주목 영역과 그 참조 화상의 거리나 공간 상관 영역과 그 참조 화상의 거리 등을 사용해서, 스케일링을 행하여 예측 벡터를 산출한다. 스텝 S255의 처리가 종료되면, 공간 상관 예측 벡터 생성부(135)는, 주변 영역(A) 움직임 벡터 예측 처리를 종료하고, 처리를 도 27로 복귀시킨다.

또한, 스텝 S252에서, 주목 주변 영역이 참조 가능한 인터 예측된 영역이 아니라고 판정되거나, 또는, 주목 주변 영역의 참조 리스트와 참조 화상 인덱스가 주목 영역과 상이하다고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S256으로 진행시킨다.

스텝 S256에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역이 주변 영역(A1)인지 여부를 판정하고, 주변 영역(A1)이 아니라고 판정된 경우, 처리를 스텝 S251로 복귀시킨다.

또한, 스텝 S256에서, 주목 주변 영역이 주변 영역(A1)이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S257로 진행시킨다.

스텝 S257에서, 공간 상관 예측 벡터 생성부(135)는, 주변 영역(A0, A1)(도 9)을 순차 1개씩 선택한다.

스텝 S258에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역이 참조 가능하고, 비인트라이며, 참조 리스트가 주목 영역과 상이하고, 참조 화상 인덱스가 주목 영역과 동등하고, 또한, 공간 상관 영역 사용 제한 플래그가 0인지 여부를 판정한다.

주목 주변 영역이 참조 가능하고, 비인트라이며, 참조 리스트가 주목 영역과 상이하고, 참조 화상 인덱스가 주목 영역과 동등하고, 또한, 공간 상관 영역 사용 제한 플래그가 0이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S253으로 복귀시킨다.

또한, 스텝 S258에서, 주목 주변 영역이 참조 가능한 인터 예측된 영역이 아니라고 판정되거나, 참조 리스트가 주목 영역과 동등하다고 판정되거나, 참조 화상 인덱스가 주목 영역과 상이하다고 판정되거나, 또는, 공간 상관 영역 사용 제한 플래그가 1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S259로 진행시킨다.

스텝 S259에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역이 참조 가능하고, 비인트라이며, 참조 리스트가 주목 영역과 동등하고, 또한, 공간 상관 영역 사용 제한 플래그가 0인지 여부를 판정한다.

주목 주변 영역이 참조 가능하고, 비인트라이며, 참조 리스트가 주목 영역과 동등하고, 또한, 공간 상관 영역 사용 제한 플래그가 0이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S253으로 복귀시킨다.

또한, 스텝 S259에서, 주목 주변 영역이 참조 가능한 인터 예측된 영역이 아니라고 판정되거나, 참조 리스트가 주목 영역과 상이하다고 판정되거나, 또는, 공간 상관 영역 사용 제한 플래그가 1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S260으로 진행시킨다.

스텝 S260에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역이 참조 가능하고, 비인트라이며, 참조 리스트가 주목 영역과 상이하고, 또한, 공간 상관 영역 사용 제한 플래그가 0인지 여부를 판정한다.

주목 주변 영역이 참조 가능하고, 비인트라이며, 참조 리스트가 주목 영역과 상이하고, 또한, 공간 상관 영역 사용 제한 플래그가 0이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S253으로 복귀시킨다.

또한, 스텝 S260에서, 주목 주변 영역이 참조 가능한 인터 예측된 영역이 아니라고 판정되거나, 참조 리스트가 주목 영역과 동등하다고 판정되거나, 또는, 공간 상관 영역 사용 제한 플래그가 1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 처리를 스텝 S261로 진행시킨다.

스텝 S261에서, 공간 상관 예측 벡터 생성부(135)는, 주목 주변 영역이 A1인지 여부를 판정하고, 주목 주변 영역이 A1이 아니라고 판정된 경우, 처리를 스텝 S257로 복귀시킨다.

또한, 스텝 S261에서, 주목 주변 영역이 A1이라고 판정된 경우, 공간 상관 예측 벡터 생성부(135)는 주변 영역(A) 움직임 벡터 예측 처리를 종료하고, 처리를 도 27로 복귀시킨다.

[주변 영역(B) 움직임 벡터 예측 처리의 흐름]

도 29의 흐름도를 참조하여, 주변 영역(B) 움직임 벡터 예측 처리의 흐름의 예를 설명한다.

이 주변 영역(B) 움직임 벡터 예측 처리는, 처리 대상으로 하는 주변 영역이 B0 내지 B2가 되는 것 이외에, 도 28의 흐름도를 참조하여 설명한 주변 영역(A) 움직임 벡터 예측 처리와 마찬가지로 행해진다. 즉, 도 29의 스텝 S271 내지 스텝 S281의 각 처리는, 도 28의 스텝 S251 내지 스텝 S261의 각 처리와 마찬가지로 행해진다.

주변 영역(B) 움직임 벡터 예측 처리가 종료되면, 공간 상관 예측 벡터 생성부(135)는 처리를 도 27로 복귀시킨다.

이상과 같이 각 처리를 실행함으로써, 시간 시차 상관 예측 벡터 생성부(136)는, 움직임 상관 예측 벡터뿐만 아니라, 시차 상관 예측 벡터도 생성할 수 있다. 따라서, 움직임 시차 예측·보상부(115)는, 주목 영역의 벡터가 시차 벡터인 경우에도, 예측 정밀도가 높은 예측 벡터를 생성할 수 있다. 이에 의해, 화상 부호화 장치(100)는 부호화 효율의 저감을 억제할 수 있다.

또한, 상관 영역 판정부(122)가, 예측 방향의 관계에 기초하여, 상관 영역의 사용을 제어함으로써, 공간 상관 예측 벡터 생성부(135) 및 시간 시차 상관 예측 벡터 생성부(136)는, 예측 벡터의 생성에 있어서, 예측 정밀도가 낮은 예측 벡터를 생성하거나, 처리를 파탄시키는 등의 불필요한 부하의 발생을 억제할 수 있어, 처리 시간이나 메모리 사용량을 저감할 수 있다. 또한, 이 제한에 의해, 공간 상관 예측 벡터 생성부(135) 및 시간 시차 상관 예측 벡터 생성부(136)는, 예측 정밀도가 높은 예측 벡터를 적절하게 생성할 수 있게 되므로, 부호화 효율을 향상시킬 수 있다. 또한, 본 기술의 경우, 베이스 뷰의 예측 방식에 제한을 두므로, 종래의 방식으로부터의 확장이 용이하다.

또한, 상관 영역의 사용 제한 플래그를 복호측에 전송함으로써, 복호측에서도 화상 부호화 장치(100)와 마찬가지의 벡터의 예측을 행할 수 있다. 즉, 화상 부호화 장치(100)가 생성한 부호화 데이터를 정확하게 복호할 수 있을 뿐 아니라, 복호 시에도, 처리 시간이나 메모리 사용량을 저감할 수 있다.

<2. 제2 실시 형태>

[화상 복호 장치]

도 30은, 화상 처리 장치인 화상 복호 장치의 주된 구성예를 도시하는 블록도이다. 도 30에 나타나는 화상 복호 장치(300)는, 도 14의 화상 부호화 장치(100)에 대응하는 장치이다. 즉, 화상 복호 장치(300)는, 화상 부호화 장치(100)가 다시점 화상을 부호화하여 생성한 부호화 데이터(비트 스트림)를 화상 부호화 장치(100)의 부호화 방법에 대응하는 복호 방법으로 복호하여, 다시점의 복호 화상을 얻는다.

도 30에 도시된 바와 같이, 화상 복호 장치(300)는, 축적 버퍼(301), 가역 복호부(302), 역양자화부(303), 역직교 변환부(304), 연산부(305), 루프 필터(306), 화면 재배열 버퍼(307) 및 D/A 변환부(308)를 갖는다. 또한, 화상 복호 장치(300)는, 디코드 픽처 버퍼(309), 선택부(310), 인트라 예측부(311), 움직임 시차 보상부(312) 및 선택부(313)를 갖는다.

또한, 화상 복호 장치(300)는, 다시점 디코드 픽처 버퍼(321)를 갖는다.

축적 버퍼(301)는, 전송되어 온 부호화 데이터를 축적하고, 소정의 타이밍에서 그 부호화 데이터를 가역 복호부(302)에 공급한다. 가역 복호부(302)는, 축적 버퍼(301)로부터 공급된, 도 14의 가역 부호화부(106)에 의해 부호화된 정보를, 가역 부호화부(106)의 부호화 방식에 대응하는 방식으로 복호한다. 가역 복호부(302)는, 복호하여 얻어진 차분 화상의 양자화된 계수 데이터를 역양자화부(303)에 공급한다.

또한, 가역 복호부(302)는, 부호화 데이터를 복호하여 얻어진 최적의 예측 모드에 관한 정보를 참조하여, 최적의 예측 모드에 인트라 예측 모드가 선택되었는지 인터 예측 모드가 선택되었는지를 판정한다. 가역 복호부(302)는, 그 판정 결과에 기초하여, 그 최적의 예측 모드에 관한 정보를, 인트라 예측부(311) 또는 움직임 시차 보상부(312)에 공급한다. 즉, 예를 들어 화상 부호화 장치(100)에서 최적의 예측 모드로서 인트라 예측 모드가 선택된 경우, 그 최적의 예측 모드에 관한 정보인 인트라 예측 정보 등이 인트라 예측부(311)에 공급된다. 또한, 예를 들어 화상 부호화 장치(100)에서 최적의 예측 모드로서 인터 예측 모드가 선택된 경우, 그 최적의 예측 모드에 관한 정보인 인터 예측 정보 등이 움직임 시차 보상부(312)에 공급된다.

또한, 가역 복호부(302)는, 공간 상관 사용 제한 플래그나 시간 상관 사용 제한 플래그를 움직임 시차 보상부(312)에 공급한다.

역양자화부(303)는, 가역 복호부(302)에 의해 복호되어 얻어진 양자화된 계수 데이터를, 도 14의 양자화부(105)의 양자화 방식에 대응하는 방식으로 역양자화하여, 얻어진 계수 데이터를 역직교 변환부(304)에 공급한다. 역직교 변환부(304)는, 도 14의 직교 변환부(104)의 직교 변환 방식에 대응하는 방식으로 역양자화부(303)로부터 공급되는 계수 데이터를 역직교 변환한다. 역직교 변환부(304)는, 이 역직교 변환 처리에 의해, 화상 부호화 장치(100)에서 직교 변환되기 전의 차분 화상에 대응하는 차분 화상을 얻는다.

역직교 변환되어 얻어진 차분 화상은, 연산부(305)에 공급된다. 또한, 연산부(305)에는, 선택부(313)를 거쳐, 인트라 예측부(311) 또는 움직임 시차 보상부(312)로부터 예측 화상이 공급된다.

연산부(305)는, 차분 화상과 예측 화상을 가산하여, 화상 부호화 장치(100)의 연산부(103)에 의해 예측 화상이 감산되기 전의 화상에 대응하는 재구성 화상을 얻는다. 연산부(305)는 그 재구성 화상을 루프 필터(306)에 공급한다.

루프 필터(306)는, 공급된 재구성 화상에 대하여 디블록 필터 처리나 적응 루프 필터 처리 등을 포함하는 루프 필터 처리를 적절히 실시하여 복호 화상을 생성한다. 예를 들어, 루프 필터(306)는, 재구성 화상에 대하여 디블록 필터 처리를 행함으로써 블록 왜곡을 제거한다. 또한, 예를 들어 루프 필터(306)는, 그 디블록 필터 처리 결과(블록 왜곡의 제거가 행해진 재구성 화상)에 대하여, 위너 필터(Wiener Filter)를 사용하여 루프 필터 처리를 행함으로써 화질 개선을 행한다.

또한, 루프 필터(306)가 행하는 필터 처리의 종류는 임의이며, 상술한 것 이외의 필터 처리를 행해도 된다. 또한, 루프 필터(306)가, 도 14의 화상 부호화 장치(100)로부터 공급된 필터 계수를 사용하여 필터 처리를 행하도록 해도 된다.

루프 필터(306)는, 필터 처리 결과인 복호 화상을 화면 재배열 버퍼(307) 및 디코드 픽처 버퍼(309)에 공급한다. 또한, 이 루프 필터(306)에 의한 필터 처리는 생략할 수도 있다. 즉, 연산부(305)의 출력이, 필터 처리되지 않고, 디코드 픽처 버퍼(309)에 저장되도록 할 수도 있다. 예를 들어, 인트라 예측부(311)는, 이 화상에 포함되는 화소의 화소값을 주변 화소의 화소값으로서 이용한다.

화면 재배열 버퍼(307)는, 공급된 복호 화상의 재배열을 행한다. 즉, 도 14의 화면 재배열 버퍼(102)에 의해 부호화의 순서를 위해 재배열된 프레임의 순서가, 원래의 표시의 순서대로 재배열된다. D/A 변환부(308)는, 화면 재배열 버퍼(307)로부터 공급된 복호 화상을 D/A 변환하여, 도시하지 않은 디스플레이에 출력하고 표시시킨다.

디코드 픽처 버퍼(309)는, 공급되는 재구성 화상(및, 그 화상의 뷰 ID 및 POC)이나 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 기억한다. 또한, 디코드 픽처 버퍼(309)는, 소정의 타이밍에서, 또는, 인트라 예측부(311)나 움직임 시차 보상부(312) 등의 외부의 요구에 기초하여, 기억하고 있는 재구성 화상(및, 그 화상의 뷰 ID 및 POC)이나 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 선택부(310)를 거쳐 인트라 예측부(311)나 움직임 시차 보상부(312)에 공급한다.

인트라 예측부(311)는, 도 14의 인트라 예측부(114)와 기본적으로 마찬가지의 처리를 행한다. 단, 인트라 예측부(311)는, 부호화 시에 인트라 예측에 의해 예측 화상이 생성된 영역에 대해서만 인트라 예측을 행한다.

움직임 시차 보상부(312)는, 가역 복호부(302)로부터 공급되는 인터 예측 정보에 기초하여 움직임 시차 보상을 행하여, 예측 화상을 생성한다. 또한, 움직임 시차 보상부(312)는, 가역 복호부(302)로부터 공급되는 인터 예측 정보에 기초하여, 부호화 시에 인터 예측이 행해진 영역에 대해서만 움직임 시차 보상을 행한다.

움직임 시차 보상부(312)는, 예측 처리 단위의 영역마다, 생성한 예측 화상을, 선택부(313)를 거쳐 연산부(305)에 공급한다.

선택부(313)는, 인트라 예측부(311)로부터 공급되는 예측 화상, 또는, 움직임 시차 보상부(312)로부터 공급되는 예측 화상을 연산부(305)에 공급한다.

디코드 픽처 버퍼(309)는, 처리 대상의 뷰의 화상(및, 그 화상의 뷰 ID 및 POC)만을 기억하지만, 다시점 디코드 픽처 버퍼(321)는, 각 시점(뷰)의 화상(및, 그 화상의 뷰 ID 및 POC)을 기억한다. 즉, 다시점 디코드 픽처 버퍼(321)는, 디코드 픽처 버퍼(309)에 공급된 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 취득하고, 디코드 픽처 버퍼(309)와 함께 그 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 기억한다.

디코드 픽처 버퍼(309)는, 처리 대상의 뷰가 바뀌면, 그 복호 화상을 소거하지만, 다시점 디코드 픽처 버퍼(321)는, 그대로 유지한다. 그리고, 디코드 픽처 버퍼(309) 등의 요구에 따라서, 기억하고 있는 복호 화상(및, 그 화상의 뷰 ID 및 POC)을 "처리 대상이 아닌 뷰의 복호 화상"으로서 디코드 픽처 버퍼(309)에 공급한다. 디코드 픽처 버퍼(309)는, 다시점 디코드 픽처 버퍼(321)로부터 판독한 "처리 대상이 아닌 뷰의 복호 화상(및, 그 화상의 뷰 ID 및 POC)"을, 선택부(310)를 거쳐 움직임 시차 보상부(312)에 공급한다.

[움직임 시차 보상부]

도 31은, 움직임 시차 보상부(312)의 주된 구성예를 도시하는 블록도이다.

도 30에 도시된 바와 같이, 움직임 시차 보상부(312)는, 부호화 정보 축적 버퍼(331), 선택부(332), 공간 상관 예측 벡터 생성부(333), 시간 시차 상관 예측 벡터 생성부(334), 선택부(335), 연산부(336) 및 예측 화상 생성부(337)를 갖는다.

부호화 정보 축적 버퍼(331)는, 가역 복호부(302)에서 얻어진, 모드 정보, 차분 움직임 시차 정보 및 예측 정보를 취득한다. 또한, 부호화 정보 축적 버퍼(331)는, 예측 화상 생성부(337)에서 사용된 복호 완료된 움직임 시차 벡터를 기억한다. 이 움직임 시차 벡터는, 다른 영역에 대한 처리에서 주변 영역의 움직임 시차 벡터로서 사용된다.

부호화 정보 축적 버퍼(331)는, 모드 정보를, 선택부(332)를 거쳐, 공간 상관 예측 벡터 생성부(333), 또는 시간 시차 상관 예측 벡터 생성부(334)의, 예측 정보에서 지정되는 예측 벡터의 종류(공간 상관 예측 벡터 또는 시간 시차 상관 예측 벡터)에 대응하는 쪽에 공급한다.

또한, 부호화 정보 축적 버퍼(331)는, 복호 완료된 주변 영역의 움직임 시차 벡터를, 공간 상관 예측 벡터 생성부(333) 및 시간 시차 상관 예측 벡터 생성부(334)에 공급한다.

또한, 부호화 정보 축적 버퍼(331)는, 차분 움직임 시차 정보에 포함되는 차분 움직임 시차 벡터를 연산부(336)에 공급한다. 또한, 부호화 정보 축적 버퍼(331)는, 예측 정보에 포함되는 참조 화상 인덱스를 예측 화상 생성부(337)에 공급한다.

공간 상관 예측 벡터 생성부(333)는, 가역 복호부(302)에서 부호화 데이터로부터 추출된 공간 상관 영역 사용 제한 플래그를 취득한다. 또한, 공간 상관 예측 벡터 생성부(333)는, 그 공간 상관 영역 사용 제한 플래그에 따라서, 부호화 정보 축적 버퍼(331)로부터 모드 정보나 복호 완료된 움직임 시차 벡터 등을 취득하고, 그들 정보에 기초하여 공간 상관 예측 벡터를 생성한다. 이 생성 방법은, 공간 상관 예측 벡터 생성부(135)의 경우와 마찬가지이다. 단, 공간 상관 예측 벡터 생성부(333)의 경우, 최적의 인터 예측 모드는 미리 정해져 있으므로, 그 모드에 대해서만 공간 상관 예측 벡터를 생성하면 된다. 공간 상관 예측 벡터 생성부(333)는, 생성한 공간 상관 예측 벡터를, 선택부(335)를 거쳐 연산부(336)에 공급한다.

시간 시차 상관 예측 벡터 생성부(334)는, 가역 복호부(302)에서 부호화 데이터로부터 추출된 시간 상관 영역 사용 제한 플래그를 취득한다. 또한, 시간 시차 상관 예측 벡터 생성부(334)는, 그 시간 상관 영역 사용 제한 플래그에 따라, 부호화 정보 축적 버퍼(331)로부터 모드 정보나 복호 완료된 움직임 시차 벡터 등을 취득하고, 그들 정보에 기초하여, 시간 시차 상관 예측 벡터를 생성한다. 이 생성 방법은, 시간 시차 상관 예측 벡터 생성부(136)의 경우와 마찬가지이다. 단, 시간 시차 상관 예측 벡터 생성부(334)의 경우, 최적의 인터 예측 모드는 미리 정해져 있으므로, 그 모드에 대해서만 시간 시차 상관 예측 벡터를 생성하면 된다. 시간 시차 상관 예측 벡터 생성부(334)는, 생성한 시간 시차 상관 예측 벡터를, 선택부(335)를 거쳐 연산부(336)에 공급한다.

선택부(335)는, 공간 상관 예측 벡터 생성부(333)로부터 공간 상관 예측 벡터가 공급된 경우, 그것을 연산부(336)에 공급한다. 또한, 선택부(335)는, 시간 시차 상관 예측 벡터 생성부(334)로부터 시간 시차 상관 예측 벡터가 공급된 경우, 그것을 연산부(336)에 공급한다.

연산부(336)는, 선택부(335)로부터 공급되는 공간 상관 예측 벡터 또는 시간 시차 상관 예측 벡터에, 부호화 정보 축적 버퍼(331)로부터 공급되는 차분 움직임 시차 벡터를 가산하여, 주목 영역의 움직임 시차 벡터를 재구축한다. 연산부(336)는, 재구축된 주목 영역의 움직임 시차 벡터를 예측 화상 생성부(337)에 공급한다.

예측 화상 생성부(337)는, 연산부(336)로부터 공급되는, 재구축된 주목 영역의 움직임 시차 벡터와, 부호화 정보 축적 버퍼(331)로부터 공급되는 참조 화상 인덱스와, 디코드 픽처 버퍼(309)로부터 공급되는 주변 영역의 화상인 주변 화상 화소값을 사용하여 예측 화상을 생성한다. 예측 화상 생성부(337)는, 생성한 예측 화상 화소값을 선택부(313)에 공급한다.

이와 같이 함으로써, 시간 시차 상관 예측 벡터 생성부(334)는, 움직임 상관 예측 벡터뿐만 아니라, 시차 상관 예측 벡터도 생성할 수 있다. 따라서, 움직임 시차 보상부(312)는, 주목 영역의 벡터가 시차 벡터인 경우에도, 예측 정밀도가 높은 예측 벡터를 생성할 수 있다. 이에 의해, 화상 복호 장치(300)는, 부호화 효율의 향상을 실현할 수 있다.

또한, 상관 영역 판정부(122)가 생성한 상관 영역의 사용 제한 플래그를 사용하여 상관 영역의 사용을 제어함으로써, 공간 상관 예측 벡터 생성부(333) 및 시간 시차 상관 예측 벡터 생성부(334)는, 예측 벡터의 재구축에 있어서, 예측 정밀도가 낮은 예측 벡터를 재구축하거나, 처리를 파탄시키는 등의 불필요한 부하의 발생을 억제할 수 있어, 처리 시간이나 메모리 사용량을 저감할 수 있다. 또한, 이 제한에 의해, 공간 상관 예측 벡터 생성부(333) 및 시간 시차 상관 예측 벡터 생성부(334)는, 예측 정밀도가 높은 예측 벡터를 적절하게 생성할 수 있게 되므로, 부호화 효율을 향상시킬 수 있다. 또한, 본 기술의 경우, 베이스 뷰의 예측 방식에 제한을 두므로, 종래의 방식으로부터의 확장이 용이하다.

[복호 처리의 흐름]

이어서, 이상과 같은 화상 복호 장치(300)에 의해 실행되는 각 처리의 흐름에 대하여 설명한다. 최초로, 도 32의 흐름도를 참조하여, 복호 처리의 흐름의 예를 설명한다.

복호 처리가 개시되면, 스텝 S301에서, 축적 버퍼(301)는, 전송되어 온 비트 스트림을 축적한다. 스텝 S302에서, 가역 복호부(302)는, 축적 버퍼(301)로부터 공급되는 비트 스트림(부호화된 차분 화상 정보)을 복호한다. 이때, 인트라 예측 정보나 인터 예측 정보 등, 비트 스트림에 포함된 차분 화상 정보 이외의 각종 정보도 복호된다.

스텝 S303에서, 역양자화부(303)는, 스텝 S302의 처리에 의해 얻어진, 양자화된 직교 변환 계수를 역양자화한다. 스텝 S304에서 역직교 변환부(304)는, 스텝 S303에서 역양자화된 직교 변환 계수를 역직교 변환한다.

스텝 S305에서, 인트라 예측부(311) 또는 움직임 시차 보상부(312)는, 공급된 정보를 사용하여 예측 처리를 행한다. 스텝 S306에서, 연산부(305)는, 스텝 S304에서 역직교 변환되어 얻어진 차분 화상 정보에, 스텝 S305에서 생성된 예측 화상을 가산한다. 이에 의해 재구성 화상이 생성된다.

스텝 S307에서, 루프 필터(306)는, 스텝 S306에서 얻어진 재구성 화상에 대하여 디블록 필터 처리나 적응 루프 필터 처리 등을 포함하는 루프 필터 처리를 적절히 행한다.

스텝 S308에서, 화면 재배열 버퍼(307)는, 스텝 S307에서 필터 처리되어 생성된 복호 화상의 재배열을 행한다. 즉 화상 부호화 장치(100)의 화면 재배열 버퍼(102)에 의해 부호화를 위해 재배열된 프레임의 순서가, 원래의 표시의 순서로 재배열된다.

스텝 S309에서, D/A 변환부(308)는, 프레임의 순서가 재배열된 복호 화상을 D/A 변환한다. 이 복호 화상이 도시하지 않은 디스플레이에 출력되어 표시된다.

스텝 S310에서, 디코드 픽처 버퍼(309)는, 스텝 S307에서 필터 처리되어 얻어진 복호 화상을 기억한다. 이 복호 화상은, 인터 예측 처리에서 참조 화상으로서 이용된다.

스텝 S310의 처리가 종료되면, 복호 처리가 종료된다.

[예측 처리의 흐름]

이어서, 도 33의 흐름도를 참조하여, 도 32의 스텝 S305에서 실행되는 예측 처리의 흐름의 예를 설명한다.

예측 처리가 개시되면, 가역 복호부(302)는, 스텝 S331에서, 처리 대상의 주목 영역이 부호화 시에 인트라 예측이 행해졌는지 여부를 판정한다. 인트라 예측이 행해졌다고 판정된 경우, 가역 복호부(302)는, 처리를 스텝 S332로 진행시킨다.

이 경우, 인트라 예측부(311)는, 스텝 S332에서, 가역 복호부(302)로부터 인트라 예측 모드 정보를 취득하고, 스텝 S333에서, 인트라 예측에 의해 예측 화상을 생성한다. 예측 화상이 생성되면, 인트라 예측부(311)는 예측 처리를 종료하고, 처리를 도 32로 복귀시킨다.

또한, 스텝 S331에서, 주목 영역이 인터 예측이 행해진 영역이라고 판정했을 경우, 가역 복호부(302)는 처리를 스텝 S334로 진행시킨다. 스텝 S334에서, 움직임 시차 보상부(312)는 움직임 시차 보상 처리를 행한다. 움직임 시차 보상 처리가 종료되면, 움직임 시차 보상부(312)는 예측 처리를 종료하고, 처리를 도 32로 복귀시킨다.

[움직임 시차 보상 처리의 흐름]

이어서, 도 34의 흐름도를 참조하여, 도 33의 스텝 S334에서 실행되는 움직임 시차 보상 처리의 흐름의 예를 설명한다.

움직임 시차 보상 처리가 개시되면, 스텝 S351에서, 부호화 정보 축적 버퍼(331)는, 스텝 S351에서 복호된 모드 정보, 움직임 시차 정보 및 예측 정보 등을 기억한다.

스텝 S352에서, 공간 상관 예측 벡터 생성부(333), 시간 시차 상관 예측 벡터 생성부(334), 선택부(335) 및 연산부(336)는, 움직임 시차 벡터 생성 처리를 행하여, 주목 영역의 움직임 시차 벡터를 재구축한다.

움직임 시차 벡터가 재구축되면, 스텝 S353에서, 예측 화상 생성부(337)는 그 움직임 시차 벡터를 사용하여 예측 화상을 생성한다.

예측 화상이 생성되면, 예측 화상 생성부(337)는 움직임 시차 보상 처리를 종료하고, 처리를 도 33으로 복귀시킨다.

[움직임 시차 벡터 생성 처리의 흐름]

이어서, 도 35의 흐름도를 참조하여, 도 34의 스텝 S352에서 실행되는 움직임 시차 벡터 생성 처리의 흐름의 예를 설명한다.

움직임 시차 벡터 생성 처리가 개시되면, 부호화 정보 축적 버퍼(331)는, 스텝 S371에서, 예측 정보로부터 스킵 모드인지 여부를 판정한다. 스킵 모드라고 판정된 경우, 부호화 정보 축적 버퍼(331)는, 처리를 스텝 S372로 진행시킨다. 스텝 S372에서, 공간 상관 예측 벡터 생성부(333) 내지 연산부(336)는, 머지 모드 처리를 행하여, 머지 모드에서 움직임 시차 벡터를 재구축한다. 또한, 이 머지 모드 처리에서는, 도 22의 흐름도를 참조하여 설명한 각 처리와 마찬가지의 처리가 행해진다. 머지 모드 처리가 종료되면, 연산부(336)는 움직임 시차 벡터 생성 처리를 종료하고, 처리를 도 34로 복귀시킨다.

또한, 도 35의 스텝 S371에서, 스킵 모드가 아니라고 판정된 경우, 부호화 정보 축적 버퍼(331)는, 처리를 스텝 S373으로 진행시킨다. 스텝 S373에서, 부호화 정보 축적 버퍼(331)는, 예측 정보로부터 머지 모드인지 여부를 판정한다. 머지 모드라고 판정된 경우, 부호화 정보 축적 버퍼(331)는, 처리를 스텝 S372로 복귀시키고, 머지 모드 처리를 실행시킨다.

또한, 스텝 S373에서, 머지 모드가 아니라고 판정된 경우, 부호화 정보 축적 버퍼(331)는 처리를 스텝 S374로 진행시킨다.

스텝 S374에서, 부호화 정보 축적 버퍼(331)는, 참조 화상의 인덱스를 취득한다. 스텝 S375에서, 부호화 정보 축적 버퍼(331)는, 차분 움직임 시차 벡터를 취득한다.

스텝 S376에서, 공간 상관 예측 벡터 생성부(333) 또는 시간 시차 상관 예측 벡터 생성부(334)는, 움직임 시차 벡터 예측 처리를 행한다. 이 움직임 시차 벡터 예측 처리는, 도 26의 흐름도를 참조하여 설명한 경우와 마찬가지로 행해진다. 단, 이 경우, 예측 방법은 정해져 있으므로, 공간 상관 예측 처리와 시간 시차 상관 예측 처리 중, 어느 한쪽(예측 정보에 의해 지정되는 것)이 행해진다.

스텝 S377에서, 연산부(336)는, 스텝 S376에서 재구축된 예측 벡터와, 차분 움직임 시차 벡터를 가산하여, 움직임 시차 벡터를 재구축한다.

스텝 S377의 처리가 종료되면, 연산부(336)는, 움직임 시차 벡터 생성 처리를 종료하고, 처리를 도 34로 복귀시킨다.

이상과 같이 각 처리를 실행함으로써, 시간 시차 상관 예측 벡터 생성부(334)는, 움직임 상관 예측 벡터뿐만 아니라, 시차 상관 예측 벡터도 생성할 수 있다. 따라서, 움직임 시차 보상부(312)는, 주목 영역의 벡터가 시차 벡터인 경우에도, 예측 정밀도가 높은 예측 벡터를 생성할 수 있다. 이에 의해, 화상 복호 장치(300)는 부호화 효율의 향상을 실현할 수 있다.

또한, 상관 영역 판정부(122)가 생성한 상관 영역의 사용 제한 플래그를 사용하여 상관 영역의 사용을 제어함으로써, 공간 상관 예측 벡터 생성부(333) 및 시간 시차 상관 예측 벡터 생성부(334)는, 예측 벡터의 재구축에 있어서, 예측 정밀도가 낮은 예측 벡터를 재구축하거나, 처리를 파탄시키는 등의 불필요한 부하의 발생을 억제할 수 있어, 처리 시간이나 메모리 사용량을 저감할 수 있다. 또한, 이 제한에 의해, 공간 상관 예측 벡터 생성부(333) 및 시간 시차 상관 예측 벡터 생성부(334)는, 예측 정밀도가 높은 예측 벡터를 적절하게 생성할 수 있게 되므로, 부호화 효율을 향상시킬 수 있다. 또한, 본 기술의 경우, 베이스 뷰의 예측 방식에 제한을 두므로, 종래의 방식으로부터의 확장이 용이하다.

또한, 본 기술은, 예를 들어 MPEG, H.26x 등과 같이, 이산 코사인 변환 등의 직교 변환과 움직임 보상에 의해 압축된 화상 정보(비트 스트림)를 위성 방송, 케이블 텔레비전, 인터넷 또는 휴대 전화기 등의 네트워크 미디어를 통해 수신할 때에 사용되는 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다. 또한, 본 기술은, 광, 자기 디스크 및 플래시 메모리와 같은 기억 미디어 상에서 처리할 때에 사용되는 화상 부호화 장치 및 화상 복호 장치에 적용할 수 있다. 또한, 본 기술은, 그것들의 화상 부호화 장치 및 화상 복호 장치 등에 포함되는 움직임 예측 보상 장치에도 적용할 수 있다.

<3. 제3 실시 형태>

[컴퓨터]

상술한 일련의 처리는, 하드웨어에 의해 실행할 수도 있고, 소프트웨어에 의해 실행할 수도 있다. 일련의 처리를 소프트웨어에 의해 실행하는 경우에는, 그 소프트웨어를 구성하는 프로그램이 컴퓨터에 인스톨된다. 여기서, 컴퓨터에는, 전용 하드웨어에 내장되어 있는 컴퓨터나, 각종 프로그램을 인스톨함으로써, 각종 기능을 실행하는 것이 가능한 범용의 퍼스널 컴퓨터 등이 포함된다.

도 37에서, 퍼스널 컴퓨터(500)의 CPU(Central Processing Unit)(501)는, ROM(Read Only Memory)(502)에 기억되어 있는 프로그램 또는 기억부(513)로부터 RAM(Random Access Memory)(503)에 로드된 프로그램에 따라서 각종 처리를 실행한다. RAM(503)에는 또한, CPU(501)가 각종 처리를 실행함에 있어서 필요한 데이터 등도 적절히 기억된다.

CPU(501), ROM(502) 및 RAM(503)은, 버스(504)를 통해 서로 접속되어 있다. 이 버스(504)에는 또한, 입출력 인터페이스(510)도 접속되어 있다.

입출력 인터페이스(510)에는, 키보드, 마우스 등으로 이루어지는 입력부(511), CRT(Cathode Ray Tube)나 LCD(Liquid Crystal Display) 등을 포함하여 이루어지는 디스플레이, 및 스피커 등으로 이루어지는 출력부(512), 하드 디스크 등으로 구성되는 기억부(513), 모뎀 등으로 구성되는 통신부(514)가 접속되어 있다. 통신부(514)는, 인터넷을 포함하는 네트워크를 통한 통신 처리를 행한다.

입출력 인터페이스(510)에는 또한, 필요에 따라 드라이브(515)가 접속되고, 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 리무버블 미디어(521)가 적절히 장착되어, 그것들로부터 판독된 컴퓨터 프로그램이, 필요에 따라 기억부(513)에 인스톨된다.

상술한 일련의 처리를 소프트웨어에 의해 실행시키는 경우에는, 그 소프트웨어를 구성하는 프로그램이, 네트워크나 기록 매체로부터 인스톨된다.

이 기록 매체는, 예를 들어 도 37에 도시된 바와 같이, 장치 본체와는 별도로, 유저에게 프로그램을 배신하기 위해 배포되는, 프로그램이 기록되어 있는 자기 디스크(플렉시블 디스크를 포함함), 광 디스크(CD-ROM(Compact Disc-Read Only Memory), DVD(Digital Versatile Disc)를 포함함), 광자기 디스크(MD(Mini Disc)를 포함함), 또는 반도체 메모리 등을 포함하여 이루어지는 리무버블 미디어(521)에 의해 구성될 뿐만 아니라, 장치 본체에 미리 내장된 상태에서 유저에게 배신되는, 프로그램이 기록되어 있는 ROM(502)이나, 기억부(513)에 포함되는 하드 디스크 등으로 구성된다.

또한, 컴퓨터가 실행하는 프로그램은, 본 명세서에서 설명하는 순서에 따라서 시계열로 처리가 행해지는 프로그램이어도 되고, 병렬로, 또는 호출이 행해졌을 때 등의 필요한 타이밍에 처리가 행해지는 프로그램이어도 된다.

또한, 본 명세서에서, 기록 매체에 기록되는 프로그램을 기술하는 스텝은, 기재된 순서에 따라서 시계열적으로 행해지는 처리는 물론, 반드시 시계열적으로 처리되지 않아도, 병렬적 또는 개별로 실행되는 처리도 포함하는 것이다.

또한, 본 명세서에서, 시스템이란, 복수의 디바이스(장치)에 의해 구성되는 장치 전체를 나타내는 것이다.

또한, 이상에서, 1개의 장치(또는 처리부)로서 설명한 구성을 분할하여, 복수의 장치(또는 처리부)로서 구성하도록 해도 된다. 반대로, 이상에서 복수의 장치(또는 처리부)로서 설명한 구성을 통합해서 1개의 장치(또는 처리부)로서 구성되도록 해도 된다. 또한, 각 장치(또는 각 처리부)의 구성에 상술한 것 이외의 구성을 부가하도록 해도 물론 좋다. 또한, 시스템 전체적으로의 구성이나 동작이 실질적으로 동일하면, 어떤 장치(또는 처리부)의 구성의 일부를 다른 장치(또는 다른 처리부)의 구성에 포함하도록 해도 된다. 즉, 본 기술은, 상술한 실시 형태에 한정되는 것이 아니며, 본 기술의 요지를 일탈하지 않는 범위에서 다양한 변경이 가능하다.

상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치는, 위성 방송, 케이블 TV 등의 유선 방송, 인터넷상에서의 배신 및 셀룰러 통신에 의한 단말기에 대한 배신 등에서의 송신기 또는 수신기, 광 디스크, 자기 디스크 및 플래시 메모리 등의 매체에 화상을 기록하는 기록 장치, 또는, 이들 기억 매체로부터 화상을 재생하는 재생 장치 등의 다양한 전자 기기에 응용될 수 있다. 이하, 4개의 응용예에 대하여 설명한다.

<4. 제4 실시 형태>

[제1 응용예: 텔레비전 수상기]

도 38은, 상술한 실시 형태를 적용한 텔레비전 장치의 개략적인 구성의 일례를 나타내고 있다. 텔레비전 장치(900)는, 안테나(901), 튜너(902), 디멀티플렉서(903), 디코더(904), 영상 신호 처리부(905), 표시부(906), 음성 신호 처리부(907), 스피커(908), 외부 인터페이스(909), 제어부(910), 유저 인터페이스(911) 및 버스(912)를 구비한다.

튜너(902)는, 안테나(901)를 통해 수신되는 방송 신호로부터 원하는 채널의 신호를 추출하고, 추출한 신호를 복조한다. 그리고, 튜너(902)는 복조에 의해 얻어진 부호화 비트 스트림을 디멀티플렉서(903)에 출력한다. 즉, 튜너(902)는 화상이 부호화되어 있는 부호화 스트림을 수신하는, 텔레비전 장치(900)에서의 전송부로서의 역할을 갖는다.

디멀티플렉서(903)는, 부호화 비트 스트림으로부터 시청 대상의 프로그램의 영상 스트림 및 음성 스트림을 분리하고, 분리한 각 스트림을 디코더(904)에 출력한다. 또한, 디멀티플렉서(903)는, 부호화 비트 스트림으로부터 EPG(Electronic Program Guide) 등의 보조적인 데이터를 추출하고, 추출한 데이터를 제어부(910)에 공급한다. 또한, 디멀티플렉서(903)는, 부호화 비트 스트림이 스크램블되어 있는 경우에는, 디스크램블을 행해도 된다.

디코더(904)는, 디멀티플렉서(903)로부터 입력되는 영상 스트림 및 음성 스트림을 복호한다. 그리고, 디코더(904)는, 복호 처리에 의해 생성되는 영상 데이터를 영상 신호 처리부(905)에 출력한다. 또한, 디코더(904)는, 복호 처리에 의해 생성되는 음성 데이터를 음성 신호 처리부(907)에 출력한다.

영상 신호 처리부(905)는, 디코더(904)로부터 입력되는 영상 데이터를 재생하고, 표시부(906)에 영상을 표시시킨다. 또한, 영상 신호 처리부(905)는, 네트워크를 통해 공급되는 어플리케이션 화면을 표시부(906)에 표시시켜도 된다. 또한, 영상 신호 처리부(905)는, 영상 데이터에 대해서, 설정에 따라, 예를 들어 노이즈 제거 등의 추가적인 처리를 행해도 된다. 또한, 영상 신호 처리부(905)는, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI(Graphical User Interface)의 화상을 생성하고, 생성한 화상을 출력 화상에 중첩해도 된다.

표시부(906)는, 영상 신호 처리부(905)로부터 공급되는 구동 신호에 의해 구동되어, 표시 디바이스(예를 들어, 액정 디스플레이, 플라즈마 디스플레이 또는 OELD(Organic Electro Luminescence Display)(유기 EL 디스플레이) 등)의 영상면 상에 영상 또는 화상을 표시한다.

음성 신호 처리부(907)는, 디코더(904)로부터 입력되는 음성 데이터에 대하여 D/A 변환 및 증폭 등의 재생 처리를 행하여, 스피커(908)로부터 음성을 출력시킨다. 또한, 음성 신호 처리부(907)는, 음성 데이터에 대하여 노이즈 제거 등의 추가적인 처리를 행해도 된다.

외부 인터페이스(909)는, 텔레비전 장치(900)와 외부 기기 또는 네트워크를 접속하기 위한 인터페이스이다. 예를 들어, 외부 인터페이스(909)를 통해 수신되는 영상 스트림 또는 음성 스트림이, 디코더(904)에 의해 복호되어도 된다. 즉, 외부 인터페이스(909)도 또한, 화상이 부호화되어 있는 부호화 스트림을 수신하는, 텔레비전 장치(900)에서의 전송부로서의 역할을 갖는다.

제어부(910)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램, 프로그램 데이터, EPG 데이터, 및 네트워크를 통해 취득되는 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어 텔레비전 장치(900)의 기동시에 CPU에 의해 판독되어 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스(911)로부터 입력되는 조작 신호에 따라, 텔레비전 장치(900)의 동작을 제어한다.

유저 인터페이스(911)는 제어부(910)와 접속된다. 유저 인터페이스(911)는, 예를 들어 유저가 텔레비전 장치(900)를 조작하기 위한 버튼 및 스위치, 및 원격 제어 신호의 수신부 등을 갖는다. 유저 인터페이스(911)는, 이들 구성 요소를 통하여 유저에 의한 조작을 검출해서 조작 신호를 생성하고, 생성한 조작 신호를 제어부(910)에 출력한다.

버스(912)는, 튜너(902), 디멀티플렉서(903), 디코더(904), 영상 신호 처리부(905), 음성 신호 처리부(907), 외부 인터페이스(909) 및 제어부(910)를 서로 접속한다.

이렇게 구성된 텔레비전 장치(900)에 있어서, 디코더(904)는 상술한 실시 형태에 따른 화상 복호 장치의 기능을 갖는다. 그에 의해, 텔레비전 장치(900)에서의 화상의 복호 시에, 부호화 효율의 저감의 억제를 실현할 수 있다.

<5. 제5 실시 형태>

[제2 응용예: 휴대 전화기]

도 39는, 상술한 실시 형태를 적용한 휴대 전화기의 개략적인 구성의 일례를 나타내고 있다. 휴대 전화기(920)는, 안테나(921), 통신부(922), 음성 코덱(923), 스피커(924), 마이크로폰(925), 카메라부(926), 화상 처리부(927), 다중 분리부(928), 기록 재생부(929), 표시부(930), 제어부(931), 조작부(932) 및 버스(933)를 구비한다.

안테나(921)는 통신부(922)에 접속된다. 스피커(924) 및 마이크로폰(925)은 음성 코덱(923)에 접속된다. 조작부(932)는 제어부(931)에 접속된다. 버스(933)는 통신부(922), 음성 코덱(923), 카메라부(926), 화상 처리부(927), 다중 분리부(928), 기록 재생부(929), 표시부(930) 및 제어부(931)를 서로 접속한다.

휴대 전화기(920)는, 음성 통화 모드, 데이터 통신 모드, 촬영 모드 및 텔레비전 전화 모드를 포함하는 다양한 동작 모드에서, 음성 신호의 송수신, 전자 메일 또는 화상 데이터의 송수신, 화상의 촬상 및 데이터의 기록 등의 동작을 행한다.

음성 통화 모드에서, 마이크로폰(925)에 의해 생성되는 아날로그 음성 신호는, 음성 코덱(923)에 공급된다. 음성 코덱(923)은, 아날로그 음성 신호를 음성 데이터로 변환하고, 변환된 음성 데이터를 A/D 변환해서 압축한다. 그리고, 음성 코덱(923)은, 압축 후의 음성 데이터를 통신부(922)에 출력한다. 통신부(922)는, 음성 데이터를 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는, 생성한 송신 신호를, 안테나(921)를 통해 기지국(도시하지 않음)으로 송신한다. 또한, 통신부(922)는, 안테나(921)를 통해 수신되는 무선 신호를 증폭하고 및 주파수 변환하여, 수신 신호를 취득한다. 그리고, 통신부(922)는, 수신 신호를 복조 및 복호하여 음성 데이터를 생성하고, 생성한 음성 데이터를 음성 코덱(923)에 출력한다. 음성 코덱(923)은, 음성 데이터를 신장 및 D/A 변환하여, 아날로그 음성 신호를 생성한다. 그리고, 음성 코덱(923)은 생성한 음성 신호를 스피커(924)에 공급하여 음성을 출력시킨다.

또한, 데이터 통신 모드에서, 예를 들어 제어부(931)는, 조작부(932)를 통한 유저에 의한 조작에 따라, 전자 메일을 구성하는 문자 데이터를 생성한다. 또한, 제어부(931)는 문자를 표시부(930)에 표시시킨다. 또한, 제어부(931)는, 조작부(932)를 통한 유저로부터의 송신 지시에 따라서 전자 메일 데이터를 생성하고, 생성한 전자 메일 데이터를 통신부(922)에 출력한다. 통신부(922)는, 전자 메일 데이터를 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는, 생성한 송신 신호를, 안테나(921)를 통해 기지국(도시하지 않음)으로 송신한다. 또한, 통신부(922)는, 안테나(921)를 통해 수신되는 무선 신호를 증폭하고 및 주파수 변환하여, 수신 신호를 취득한다. 그리고, 통신부(922)는, 수신 신호를 복조 및 복호하여 전자 메일 데이터를 복원하고, 복원한 전자 메일 데이터를 제어부(931)에 출력한다. 제어부(931)는, 표시부(930)에 전자 메일의 내용을 표시시킴과 함께, 전자 메일 데이터를 기록 재생부(929)의 기억 매체에 기억시킨다.

기록 재생부(929)는, 판독 기입 가능한 임의의 기억 매체를 갖는다. 예를 들어, 기억 매체는, RAM 또는 플래시 메모리 등의 내장형의 기억 매체이어도 되고, 하드 디스크, 자기 디스크, 광자기 디스크, 광 디스크, USB(Unallocated Space Bitmap) 메모리, 또는 메모리 카드 등의 외부 장착형의 기억 매체이어도 된다.

또한, 촬영 모드에서, 예를 들어 카메라부(926)는 피사체를 촬상하여 화상 데이터를 생성하고, 생성한 화상 데이터를 화상 처리부(927)에 출력한다. 화상 처리부(927)는, 카메라부(926)로부터 입력되는 화상 데이터를 부호화하고, 부호화 스트림을 기억 재생부(929)의 기억 매체에 기억시킨다.

또한, 텔레비전 전화 모드에서, 예를 들어 다중 분리부(928)는, 화상 처리부(927)에 의해 부호화된 영상 스트림과, 음성 코덱(923)으로부터 입력되는 음성 스트림을 다중화하고, 다중화한 스트림을 통신부(922)에 출력한다. 통신부(922)는, 스트림을 부호화 및 변조하여, 송신 신호를 생성한다. 그리고, 통신부(922)는, 생성한 송신 신호를, 안테나(921)를 통해 기지국(도시하지 않음)으로 송신한다. 또한, 통신부(922)는, 안테나(921)를 통해 수신되는 무선 신호를 증폭 및 주파수 변환하여, 수신 신호를 취득한다. 이들 송신 신호 및 수신 신호에는, 부호화 비트 스트림이 포함될 수 있다. 그리고, 통신부(922)는, 수신 신호를 복조 및 복호하여 스트림을 복원하고, 복원한 스트림을 다중 분리부(928)에 출력한다. 다중 분리부(928)는, 입력되는 스트림으로부터 영상 스트림 및 음성 스트림을 분리하여, 영상 스트림을 화상 처리부(927), 음성 스트림을 음성 코덱(923)에 출력한다. 화상 처리부(927)는, 영상 스트림을 복호하여, 영상 데이터를 생성한다. 영상 데이터는, 표시부(930)에 공급되어, 표시부(930)에 의해 일련의 화상이 표시된다. 음성 코덱(923)은, 음성 스트림을 신장 및 D/A 변환하여, 아날로그 음성 신호를 생성한다. 그리고, 음성 코덱(923)은, 생성한 음성 신호를 스피커(924)에 공급하여 음성을 출력시킨다.

이렇게 구성된 휴대 전화기(920)에 있어서, 화상 처리부(927)는, 상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치의 기능을 갖는다. 그에 의해, 휴대 전화기(920)에서의 화상의 부호화 및 복호 시에, 부호화 효율의 저감을 억제할 수 있다.

<6. 제6 실시 형태>

[제3 응용예: 기록 재생 장치]

도 40은, 상술한 실시 형태를 적용한 기록 재생 장치의 개략적인 구성의 일례를 나타내고 있다. 기록 재생 장치(940)는, 예를 들어 수신한 방송 프로그램의 음성 데이터 및 영상 데이터를 부호화하여 기록 매체에 기록한다. 또한, 기록 재생 장치(940)는, 예를 들어 다른 장치로부터 취득되는 음성 데이터 및 영상 데이터를 부호화하여 기록 매체에 기록해도 된다. 또한, 기록 재생 장치(940)는, 예를 들어 유저의 지시에 따라, 기록 매체에 기록되어 있는 데이터를 모니터 및 스피커 상에서 재생한다. 이때, 기록 재생 장치(940)는, 음성 데이터 및 영상 데이터를 복호한다.

기록 재생 장치(940)는, 튜너(941), 외부 인터페이스(942), 인코더(943), HDD(Hard Disk Drive)(944), 디스크 드라이브(945), 셀렉터(946), 디코더(947), OSD(On-Screen Display)(948), 제어부(949) 및 유저 인터페이스(950)를 구비한다.

튜너(941)는, 안테나(도시하지 않음)를 통해 수신되는 방송 신호로부터 원하는 채널의 신호를 추출하고, 추출한 신호를 복조한다. 그리고, 튜너(941)는, 복조에 의해 얻어진 부호화 비트 스트림을 셀렉터(946)에 출력한다. 즉, 튜너(941)는 기록 재생 장치(940)에서의 전송부로서의 역할을 갖는다.

외부 인터페이스(942)는, 기록 재생 장치(940)와 외부 기기 또는 네트워크를 접속하기 위한 인터페이스이다. 외부 인터페이스(942)는, 예를 들어 IEEE1394 인터페이스, 네트워크 인터페이스, USB 인터페이스, 또는 플래시 메모리 인터페이스 등이어도 된다. 예를 들어, 외부 인터페이스(942)를 통해 수신되는 영상 데이터 및 음성 데이터는, 인코더(943)에 입력된다. 즉, 외부 인터페이스(942)는, 기록 재생 장치(940)에서의 전송부로서의 역할을 갖는다.

인코더(943)는, 외부 인터페이스(942)로부터 입력되는 영상 데이터 및 음성 데이터가 부호화되어 있지 않은 경우에, 영상 데이터 및 음성 데이터를 부호화한다. 그리고, 인코더(943)는, 부호화 비트 스트림을 셀렉터(946)에 출력한다.

HDD(944)는, 영상 및 음성 등의 콘텐츠 데이터가 압축된 부호화 비트 스트림, 각종 프로그램 및 그 밖의 데이터를 내부의 하드 디스크에 기록한다. 또한, HDD(944)는, 영상 및 음성의 재생 시에, 이들 데이터를 하드 디스크로부터 판독한다.

디스크 드라이브(945)는, 장착되어 있는 기록 매체에 대한 데이터의 기록 및 판독을 행한다. 디스크 드라이브(945)에 장착되는 기록 매체는, 예를 들어 DVD 디스크(DVD-Video, DVD- RAM, DVD-R, DVD-RW, DVD+R, DVD+RW 등) 또는 Blu-ray(등록 상표) 디스크 등이어도 된다.

셀렉터(946)는, 영상 및 음성의 기록 시에는, 튜너(941) 또는 인코더(943)로부터 입력되는 부호화 비트 스트림을 선택하고, 선택한 부호화 비트 스트림을 HDD(944) 또는 디스크 드라이브(945)에 출력한다. 또한, 셀렉터(946)는, 영상 및 음성의 재생 시에는, HDD(944) 또는 디스크 드라이브(945)로부터 입력되는 부호화 비트 스트림을 디코더(947)에 출력한다.

디코더(947)는, 부호화 비트 스트림을 복호하여, 영상 데이터 및 음성 데이터를 생성한다. 그리고, 디코더(947)는, 생성한 영상 데이터를 OSD(948)에 출력한다. 또한, 디코더(904)는 생성한 음성 데이터를 외부의 스피커에 출력한다.

OSD(948)는, 디코더(947)로부터 입력되는 영상 데이터를 재생하여, 영상을 표시한다. 또한, OSD(948)는, 표시하는 영상에, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI의 화상을 중첩해도 된다.

제어부(949)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램 및 프로그램 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어 기록 재생 장치(940)의 기동시에 CPU에 의해 판독되어 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스(950)로부터 입력되는 조작 신호에 따라, 기록 재생 장치(940)의 동작을 제어한다.

유저 인터페이스(950)는 제어부(949)와 접속된다. 유저 인터페이스(950)는, 예를 들어 유저가 기록 재생 장치(940)를 조작하기 위한 버튼 및 스위치, 및 원격 제어 신호의 수신부 등을 갖는다. 유저 인터페이스(950)는 이들 구성 요소를 통하여 유저에 의한 조작을 검출해서 조작 신호를 생성하고, 생성한 조작 신호를 제어부(949)에 출력한다.

이렇게 구성된 기록 재생 장치(940)에 있어서, 인코더(943)는, 상술한 실시 형태에 따른 화상 부호화 장치의 기능을 갖는다. 또한, 디코더(947)는, 상술한 실시 형태에 따른 화상 복호 장치의 기능을 갖는다. 그에 의해, 기록 재생 장치(940)에서의 화상의 부호화 및 복호 시에, 부호화 효율의 저감을 억제할 수 있다.

<7. 제7 실시 형태>

[제4 응용예: 촬상 장치]

도 41은, 상술한 실시 형태를 적용한 촬상 장치의 개략적인 구성의 일례를 나타내고 있다. 촬상 장치(960)는, 피사체를 촬상하여 화상을 생성하고, 화상 데이터를 부호화하여 기록 매체에 기록한다.

촬상 장치(960)는, 광학 블록(961), 촬상부(962), 신호 처리부(963), 화상 처리부(964), 표시부(965), 외부 인터페이스(966), 메모리(967), 미디어 드라이브(968), OSD(969), 제어부(970), 유저 인터페이스(971) 및 버스(972)를 구비한다.

광학 블록(961)은 촬상부(962)에 접속된다. 촬상부(962)는, 신호 처리부(963)에 접속된다. 표시부(965)는 화상 처리부(964)에 접속된다. 유저 인터페이스(971)는 제어부(970)에 접속된다. 버스(972)는 화상 처리부(964), 외부 인터페이스(966), 메모리(967), 미디어 드라이브(968), OSD(969) 및 제어부(970)를 서로 접속한다.

광학 블록(961)은 포커스 렌즈 및 조리개 기구 등을 갖는다. 광학 블록(961)은 피사체의 광학상을 촬상부(962)의 촬상면에 결상시킨다. 촬상부(962)는 CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal Oxide Semiconductor) 등의 이미지 센서를 갖고, 촬상면에 결상한 광학상을 광전 변환에 의해 전기 신호로서의 화상 신호로 변환한다. 그리고, 촬상부(962)는 화상 신호를 신호 처리부(963)에 출력한다.

신호 처리부(963)는, 촬상부(962)로부터 입력되는 화상 신호에 대하여 니 보정, 감마 보정, 색 보정 등의 다양한 카메라 신호 처리를 행한다. 신호 처리부(963)는, 카메라 신호 처리 후의 화상 데이터를 화상 처리부(964)에 출력한다.

화상 처리부(964)는, 신호 처리부(963)로부터 입력되는 화상 데이터를 부호화하여, 부호화 데이터를 생성한다. 그리고, 화상 처리부(964)는, 생성한 부호화 데이터를 외부 인터페이스(966) 또는 미디어 드라이브(968)에 출력한다. 또한, 화상 처리부(964)는, 외부 인터페이스(966) 또는 미디어 드라이브(968)로부터 입력되는 부호화 데이터를 복호하여, 화상 데이터를 생성한다. 그리고, 화상 처리부(964)는, 생성한 화상 데이터를 표시부(965)에 출력한다. 또한, 화상 처리부(964)는, 신호 처리부(963)로부터 입력되는 화상 데이터를 표시부(965)에 출력하여 화상을 표시시켜도 된다. 또한, 화상 처리부(964)는, OSD(969)로부터 취득되는 표시용 데이터를, 표시부(965)에 출력하는 화상에 중첩해도 된다.

OSD(969)는, 예를 들어 메뉴, 버튼 또는 커서 등의 GUI의 화상을 생성하고, 생성한 화상을 화상 처리부(964)에 출력한다.

외부 인터페이스(966)는, 예를 들어 USB 입출력 단자로서 구성된다. 외부 인터페이스(966)는, 예를 들어 화상의 인쇄 시에, 촬상 장치(960)와 프린터를 접속한다. 또한, 외부 인터페이스(966)에는, 필요에 따라 드라이브가 접속된다. 드라이브에는, 예를 들어 자기 디스크 또는 광 디스크 등의 리무버블 미디어가 장착되고, 리무버블 미디어로부터 판독되는 프로그램이, 촬상 장치(960)에 인스톨될 수 있다. 또한, 외부 인터페이스(966)는, LAN 또는 인터넷 등의 네트워크에 접속되는 네트워크 인터페이스로서 구성되어도 된다. 즉, 외부 인터페이스(966)는, 촬상 장치(960)에서의 전송부로서의 역할을 갖는다.

미디어 드라이브(968)에 장착되는 기록 매체는, 예를 들어 자기 디스크, 광자기 디스크, 광 디스크, 또는 반도체 메모리 등의, 판독 기입 가능한 임의의 리무버블 미디어이면 된다. 또한, 미디어 드라이브(968)에 기록 매체가 고정적으로 장착되어, 예를 들어 내장형 하드디스크 드라이브 또는 SSD(Solid State Drive)와 같은 비가반성의 기억부가 구성되어도 된다.

제어부(970)는, CPU 등의 프로세서, 및 RAM 및 ROM 등의 메모리를 갖는다. 메모리는, CPU에 의해 실행되는 프로그램 및 프로그램 데이터 등을 기억한다. 메모리에 의해 기억되는 프로그램은, 예를 들어 촬상 장치(960)의 기동시에 CPU에 의해 판독되어 실행된다. CPU는, 프로그램을 실행함으로써, 예를 들어 유저 인터페이스(971)로부터 입력되는 조작 신호에 따라, 촬상 장치(960)의 동작을 제어한다.

유저 인터페이스(971)는 제어부(970)와 접속된다. 유저 인터페이스(971)는, 예를 들어 유저가 촬상 장치(960)를 조작하기 위한 버튼 및 스위치 등을 갖는다. 유저 인터페이스(971)는, 이들 구성 요소를 통하여 유저에 의한 조작을 검출하여 조작 신호를 생성하고, 생성한 조작 신호를 제어부(970)에 출력한다.

이렇게 구성된 촬상 장치(960)에 있어서, 화상 처리부(964)는, 상술한 실시 형태에 따른 화상 부호화 장치 및 화상 복호 장치의 기능을 갖는다. 그에 의해, 촬상 장치(960)에서의 화상의 부호화 및 복호 시에, 부호화 효율의 저감을 억제할 수 있다.

또한, 본 명세서에서는, 임계값 등의 다양한 정보가, 부호화 스트림의 헤더에 다중화되어서, 부호화측으로부터 복호측에 전송되는 예에 대하여 설명하였다. 그러나, 이들 정보를 전송하는 방법은 이와 같은 예에 한정되지 않는다. 예를 들어, 이들 정보는, 부호화 비트 스트림에 다중화되지 않고, 부호화 비트 스트림과 관련지어진 별개의 데이터로서 전송되거나 또는 기록되어도 된다. 여기서, "관련지어진"이라는 용어는, 비트 스트림에 포함되는 화상(슬라이스 또는 블록 등, 화상의 일부이어도 된다)과 당해 화상에 대응하는 정보를 복호시에 링크시킬 수 있도록 하는 것을 의미한다. 즉, 정보는, 화상(또는 비트 스트림)과는 별도의 전송로 상에서 전송되어도 된다. 또한, 정보는, 화상(또는 비트 스트림)과는 별도의 기록 매체(또는 동일한 기록 매체의 별도의 기록 에리어)에 기록되어도 된다. 또한, 정보와 화상(또는 비트 스트림)은, 예를 들어 복수 프레임, 1 프레임, 또는 프레임 내의 일부분 등의 임의의 단위로 서로 관련지어져도 된다.

이상, 첨부 도면을 참조하면서 본 발명의 적합한 실시 형태에 대하여 상세하게 설명했지만, 본 발명은 이와 같은 예에 한정되지 않는다. 본 발명이 속하는 기술의 분야에서의 통상의 지식을 갖는 자이면, 청구범위에 기재된 기술적 사상의 범주 내에서, 각종 변경예 또는 수정예에 상도할 수 있음은 명확하며, 이것들에 대해서도, 당연히 본 발명의 기술적 범위에 속하는 것으로 이해된다.

또한, 본 기술은 이하와 같은 구성도 취할 수 있다.

(1) 다시점 화상의 주목 영역의 예측 방향에 따라, 상기 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역의 사용을 제한하는 제한부와,

상기 제한부에 의해 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부

를 구비하는 화상 처리 장치.

(2) 상기 제한부는, 시차 방향의 예측을 행하는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 금지하는

상기 (1)에 기재된 화상 처리 장치.

(3) 상기 제한부는, 시차 방향만의 예측을 행하는 주목 영역의 상관 영역이며, 시간 방향의 예측을 행하는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 금지하는

상기 (1) 또는 (2)에 기재된 화상 처리 장치.

(4) 상기 제한부는, 시차 방향의 예측을 행하는, 상기 주목 영역과 서로 다른 뷰의 동일 시각의 상관 영역의 사용을 금지하는

상기 (1) 내지 (3) 중 어느 하나에 기재된 화상 처리 장치.

(5) 상기 제한부는, 상기 상관 영역의 제한을 나타내는 제한 정보를 생성하는

상기 (1) 내지 (4) 중 어느 하나에 기재된 화상 처리 장치.

(6) 상기 제한부에 의해 생성된 제한 정보를 전송하는 전송부를 더 구비하는

상기 (5)에 기재된 화상 처리 장치.

(7) 화상 처리 장치의 화상 처리 방법으로서,

제한부가, 다시점 화상의 주목 영역의 예측 방향에 따라, 상기 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역의 사용을 제한하고,

예측 벡터 생성부가, 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는

화상 처리 방법.

(8) 다시점 화상의 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역을 제한하는 제한 정보를 수취하는 수취부와,

상기 수취부에 의해 수취된 상기 제한 정보에 의해 사용이 금지되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부

를 구비하는 화상 처리 장치.

(9) 화상 처리 장치의 화상 처리 방법으로서,

수취부가, 다시점 화상의 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는 상관 영역을 제한하는 제한 정보를 수취하고,

예측 벡터 생성부가, 수취된 상기 제한 정보에 의해 사용이 금지되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는

화상 처리 방법.

100 : 화상 부호화 장치 115 : 움직임 시차 예측·보상부
121 : 다시점 디코드 픽처 버퍼 122 : 상관 영역 판정부
131 : 움직임 시차 벡터 탐색부 132 : 예측 화상 생성부
133 : 부호화 정보 축적 버퍼 134 : 선택부
135 : 공간 상관 예측 벡터 생성부
136 : 시간 시차 상관 예측 벡터 생성부
137 : 선택부 138 : 부호화 비용 산출부
139 : 모드 판정부 300 : 화상 복호 장치
312 : 움직임 시차 보상부 321 : 다시점 디코드 픽처 버퍼
331 : 부호화 정보 축적 버퍼 332 : 선택부
333 : 공간 상관 예측 벡터 생성부
334 : 시간 시차 상관 예측 벡터 생성부
335 : 선택부 336 : 연산부
337 : 예측 화상 생성부

Claims (11)

1. 화상 처리 장치로서,
   주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 제한하는 제한부와,
   상기 제한부에 의해 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부
   를 구비하는, 화상 처리 장치.
2. 제1항에 있어서,
   상기 제한부는, 다시점 화상의 주목 영역의 예측 방향에 따라, 상기 상관 영역의 사용을 제한하는, 화상 처리 장치.
3. 제2항에 있어서,
   상기 제한부는, 시차 방향만의 예측을 행하는 주목 영역의 상관 영역이며, 시간 방향의 예측을 행하는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 금지하는, 화상 처리 장치.
4. 제1항에 있어서,
   상기 제한부는, 시차 방향의 예측을 행하는, 상기 주목 영역과 서로 다른 뷰의 동일 시각의 상관 영역의 사용을 금지하는, 화상 처리 장치.
5. 제2항에 있어서,
   상기 제한부는, 상기 상관 영역의 제한을 나타내는 제한 정보를 생성하는, 화상 처리 장치.
6. 제5항에 있어서,
   상기 제한부에 의해 생성된 제한 정보를 전송하는 전송부를 더 구비하는, 화상 처리 장치.
7. 제1항에 있어서,
   상기 제한부는, 플래그 데이터에 기초하여 상기 상관 영역의 사용을 제한하는, 화상 처리 장치.
8. 제7항에 있어서,
   상기 플래그 데이터는, 상기 주목 영역을 포함하는 부호화 데이터의 시퀀스 파라미터 세트로서 전송되는, 화상 처리 장치.
9. 화상 처리 장치의 화상 처리 방법으로서,
   제한부가, 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 제한하고,
   예측 벡터 생성부가, 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는, 화상 처리 방법.
10. 화상 처리 장치로서,
    주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 제한하는 제한 정보를 수취하는 수취부와,
    상기 수취부에 의해 수취된 상기 제한 정보에 의해 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는 예측 벡터 생성부
    를 구비하는, 화상 처리 장치.
11. 화상 처리 장치의 화상 처리 방법으로서,
    수취부가, 주목 영역의 벡터의 예측값인 예측 벡터의 후보를 얻는, 상기 주목 영역과 동일 뷰의 서로 다른 시각의 상관 영역의 사용을 제한하는 제한 정보를 수취하고,
    예측 벡터 생성부가, 수취된 상기 제한 정보에 의해 사용이 제한되어 있지 않은 상관 영역의 벡터를 사용하여 상기 예측 벡터를 생성하는, 화상 처리 방법.

Images