JPWO2010035733A1 - 画像処理装置および方法 - Google Patents

Abstract

本発明は、演算量の増大を抑制することができる画像処理装置および方法に関する。ＭＲＦ探索中心算出部７７は、参照ピクチャ番号ref_id=0の参照フレーム上において探索された動きベクトルtmmv0を用いて、対象フレームと、参照ピクチャ番号ref_id=0の次に対象フレームに時間軸上の距離が近い参照ピクチャ番号ref_id=1の参照フレームにおける動き探索中心mvcを算出する。テンプレート動き予測・補償部７６は、求められた参照ピクチャ番号ref_id=1の参照フレームの探索中心mvcの周辺の所定の範囲Ｅでの動き探索を行い、補償処理を行って、予測画像を生成する。本発明は、例えば、Ｈ．２６４／ＡＶＣ方式で符号化する画像符号化装置に適用することができる。

Description

本発明は画像処理装置および方法に関し、特に、演算量の増大を抑制するようにした画像処理装置および方法に関する。

近年、ＭＰＥＧ（Moving Picture Experts Group）２やＨ．２６４およびＭＰＥＧ−４ Ｐａｒｔ１０ （Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）（以下Ｈ．２６４／ＡＶＣと記す）などの方式で画像を圧縮符号化し、パケット化して伝送し、受信側で復号する技術が普及してきた。これによりユーザは高品質の動画像を視聴することができる。

ところで、ＭＰＥＧ２方式においては、線形内挿処理により１／２画素精度の動き予測・補償処理が行われているが、Ｈ．２６４／ＡＶＣ方式においては、６タップのFIR (Finite Impulse Response Filter)フィルタを用いた１／４画素精度の予測・補償処理が行われている。

また、ＭＰＥＧ２方式においては、フレーム動き補償モードの場合には、１６×１６画素を単位として動き予測・補償処理が行われ、フィールド動き補償モードの場合には、第１フィールドと第２フィールドのそれぞれに対し、１６×８画素を単位として動き予測・補償処理が行われている。

これに対して、Ｈ．２６４／ＡＶＣ方式においては、ブロックサイズを可変にして、動き予測・補償を行うことができる。すなわち、Ｈ．２６４／ＡＶＣ方式においては、１６×１６画素で構成される１つのマクロブロックを、１６×１６、１６×８、８×１６、あるいは８×８のいずれかのパーティションに分割して、それぞれ独立した動きベクトル情報を持つことが可能である。また、８×８パーティションに関しては、８×８、８×４、４×８、あるいは４×４のいずれかのサブパーティションに分割し、それぞれ独立した動きベクトル情報を持つことが可能である。

しかしながら、Ｈ．２６４／ＡＶＣ方式においては、上述した１／４画素精度、およびブロック可変の動き予測・補償処理が行われることにより、膨大な動きベクトル情報が生成されてしまい、これをこのまま符号化してしまうと、符号化効率の低下を招いていた。

そこで、符号化対象の画像の領域に対して所定の位置関係で隣接すると共に復号画像の一部であるテンプレート領域の復号画像と相関が高い画像の領域を、復号画像から探索して、探索された領域と所定の位置関係とに基づいて予測を行う方法が提案されている（特許文献１参照）。

この方法は、マッチングに復号画像を用いているため、探索範囲を予め定めておくことで、符号化装置と復号装置において同一の処理を行うことが可能である。すなわち、復号装置においても上述したような予測・補償処理を行うことにより、符号化装置からの画像圧縮情報の中に動きベクトル情報を持つ必要がないため、符号化効率の低下を抑えることが可能である。

特開２００７−４３６５１号公報

ところで、Ｈ．２６４／ＡＶＣ方式においては、複数の参照フレームをメモリに格納しておき、対象ブロック毎に異なる参照フレームを参照することができるというマルチ参照フレームという方式が規定されている。

しかしながら、特許文献１の技術を、このマルチ参照フレームに適用すると、全ての参照フレームに対して、動き探索を行う必要があるため、符号化装置のみならず、復号装置においても、演算量の増大を招いてしまう。

本発明は、このような状況に鑑みてなされたものであり、演算量の増大を抑制するものである。

本発明の一側面の画像処理装置は、フレームの第１の対象ブロックの第１の参照フレームで探索された前記第１の対象ブロックの動きベクトルを用いて、前記フレームに対する時間軸上の距離が前記第１の参照フレームの次に近い第２の参照フレームにおける探索中心を算出する探索中心算出部と、前記探索中心算出部により算出された前記第２の参照フレームにおける前記探索中心の周辺の所定の探索範囲で、前記第１の対象ブロックの動きベクトルを、前記第１の対象ブロックに対して所定の位置関係で隣接するとともに復号画像から生成されるテンプレートを利用して探索する動き予測部とを備える。

前記探索中心算出部は、前記第１の参照フレームで前記動き予測部により探索された前記第１の対象ブロックの動きベクトルを、前記フレームに対する時間軸上の距離でスケーリングすることで、前記第２の参照フレームにおける前記探索中心を算出することができる。

前記フレームと参照ピクチャ番号ref_id=k-1の前記第１の参照フレームとの時間軸上の距離をt_k-1とし、前記フレームと参照ピクチャ番号ref_id=kの前記第２の参照フレームとの時間軸上の距離をt_kとし、前記第１の参照フレームで前記動き予測部により探索された前記第１の対象ブロックの動きベクトルをtmmv_k-1としたとき、前記探索中心算出部は、

として前記探索中心mv_cを算出し、前記動き予測部は、前記探索中心算出部により算出された前記第２の参照フレームにおける前記探索中心mv_cの周辺の所定の探索範囲で、前記第１の対象ブロックの動きベクトルを、前記テンプレートを利用して探索することができる。

前記探索中心算出部は、t_k/t_k-1の値を、N/2^M(N,Mは整数)の形で近似することにより、前記探索中心mv_cの算出を、シフト演算のみで行うことができる。

前記時間軸上の距離t_k,t_k-1として、POC(Picture Order Count)を用いることができる。

前記画像圧縮情報中に参照ピクチャ番号ref_idに相当するパラメータがない場合、前方向、後方向予測共に、時間軸上で前記フレームに近い順の参照フレームから処理を行うことができる。

前記動き予測部は、前記フレームに時間軸上の距離が最も近い前記第１の参照フレームにおいては、前記第１の対象ブロックの動きベクトルを、前記テンプレートを利用して所定の範囲で探索することができる。

前記動き予測部は、前記第２の参照フレームがLong Term Reference Pictureである場合、前記第２の参照フレームにおいては、前記第１の対象ブロックの動きベクトルを、前記テンプレートを利用して所定の範囲で探索することができる。

符号化された動きベクトルの情報を復号する復号部と、前記復号部により復号された前記フレームの第２の対象ブロックの動きベクトルを用いて予測画像を生成する予測画像生成部とをさらに備えることができる。

前記動き予測部は、前記フレームの第２の対象ブロックの動きベクトルを、前記第２の対象ブロックを利用して探索し、前記動き予測部により探索された前記第１の対象ブロックの動きベクトルに基づく予測画像と、前記動き予測部により探索された前記第２の対象ブロックの動きベクトルに基づく予測画像のうちの一方を選択する画像選択部とをさらに備えることができる。

本発明の一側面の画像処理方法は、画像処理装置が、フレームの対象ブロックの第１の参照フレームで探索された前記対象ブロックの動きベクトルを用いて、前記フレームに対する時間軸上の距離が前記第１の参照フレームの次に近い第２の参照フレームにおける探索中心を算出し、算出された前記第２の参照フレームにおける前記探索中心の周辺の所定の探索範囲で、前記対象ブロックの動きベクトルを、前記対象ブロックに対して所定の位置関係で隣接するとともに復号画像から生成されるテンプレートを利用して探索するステップを含む。

本発明の一側面においては、フレームの対象ブロックの第１の参照フレームで探索された前記対象ブロックの動きベクトルを用いて、前記フレームに対する時間軸上の距離が前記第１の参照フレームの次に近い第２の参照フレームにおける探索中心が算出される。そして、算出された前記第２の参照フレームにおける前記探索中心の周辺の所定の探索範囲で、前記対象ブロックの動きベクトルが、前記対象ブロックに対して所定の位置関係で隣接するとともに復号画像から生成されるテンプレートを利用して探索される。

以上のように、本発明の一側面によれば、画像を符号化または復号することができる。また、本発明の一側面によれば、演算量の増大を抑制することができる。

本発明を適用した画像符号化装置の一実施の形態の構成を示すブロック図である。 可変ブロックサイズ動き予測・補償処理を説明する図である。 １／４画素精度の動き予測・補償処理を説明する図である。 マルチ参照フレームの動き予測・補償方式について説明する図である。 図１の画像符号化装置の符号化処理を説明するフローチャートである。 図５のステップＳ２１の予測処理を説明するフローチャートである。 図６のステップＳ３１のイントラ予測処理を説明するフローチャートである。 イントラ予測の方向を説明する図である。 イントラ予測を説明する図である。 図６のステップＳ３２のインター動き予測処理を説明するフローチャートである。 動きベクトル情報の生成方法の例を説明する図である。 図６のステップＳ３３のインターテンプレート動き予測処理を説明するフローチャートである。 インターテンプレートマッチング方式について説明する図である。 図１２のステップＳ７１乃至Ｓ７３の処理を詳しく説明する図である。 Ｈ．２６４／ＡＶＣ方式におけるdefaultの参照ピクチャ番号Ref_idの割り振りを示す図である。 ユーザにより付け替えられた参照ピクチャ番号Ref_idの割り振りの例を示す図である。 Multi-Hypothesis Motion Compensationについて説明する図である。 本発明を適用した画像復号装置の一実施の形態の構成を示すブロック図である。 図１８の画像復号装置の復号処理を説明するフローチャートである。 図１９のステップＳ１３８の予測処理を説明するフローチャートである。 図２０のステップＳ１７５のインターテンプレート動き予測処理を説明するフローチャートである。 拡張されたブロックサイズの例を示す図である。 本発明を適用したテレビジョン受像機の主な構成例を示すブロック図である。 本発明を適用した携帯電話機の主な構成例を示すブロック図である。 本発明を適用したハードディスクレコーダの主な構成例を示すブロック図である。 本発明を適用したカメラの主な構成例を示すブロック図である。

以下、図を参照して本発明の実施の形態について説明する。

図１は、本発明の画像符号化装置の一実施の形態の構成を表している。この画像符号化装置５１は、Ａ／Ｄ変換部６１、画面並べ替えバッファ６２、演算部６３、直交変換部６４、量子化部６５、可逆符号化部６６、蓄積バッファ６７、逆量子化部６８、逆直交変換部６９、演算部７０、デブロックフィルタ７１、フレームメモリ７２、スイッチ７３、イントラ予測部７４、動き予測・補償部７５、テンプレート動き予測・補償部７６、ＭＲＦ(Multi-Reference Frame)探索中心算出部７７、予測画像選択部７８、およびレート制御部７９により構成されている。

この画像符号化装置５１は、例えば、Ｈ．２６４およびＭＰＥＧ−４ Ｐａｒｔ１０ （Advanced Video Coding）（以下Ｈ．２６４／ＡＶＣと記す）方式で画像を圧縮符号化する。

Ｈ．２６４／ＡＶＣ方式においては、ブロックサイズを可変にして、動き予測・補償が行われる。すなわち、Ｈ．２６４／ＡＶＣ方式においては、１６×１６画素で構成される１つのマクロブロックを、図２に示されるように、１６×１６画素、１６×８画素、８×１６画素、あるいは８×８画素のいずれかのパーティションに分割して、それぞれ独立した動きベクトル情報を持つことが可能である。また、８×８画素のパーティションに関しては、図２に示されるように、８×８画素、８×４画素、４×８画素、あるいは４×４画素のいずれかのサブパーティションに分割し、それぞれ独立した動きベクトル情報を持つことが可能である。

また、Ｈ．２６４／ＡＶＣ方式においては、６タップのFIR (Finite Impulse Response Filter)フィルタを用いた１／４画素精度の予測・補償処理が行われている。図３を参照して、Ｈ．２６４／ＡＶＣ方式における小数画素精度の予測・補償処理について説明する。

図３の例において、位置Ａは、整数精度画素の位置、位置ｂ，ｃ，ｄは、１／２画素精度の位置、位置ｅ１，ｅ２，ｅ３は、１／４画素精度の位置を示している。まず、以下においては、Clip()を次の式（１）のように定義する。

なお、入力画像が８ビット精度である場合、max_pixの値は255となる。

位置ｂおよびｄにおける画素値は、６タップのFIRフィルタを用いて、次の式（２）のように生成される。

位置ｃにおける画素値は、水平方向および垂直方向に６タップのFIRフィルタを適用し、次の式（３）のように生成される。

なお、Clip処理は、水平方向および垂直方向の積和処理の両方を行った後、最後に１度のみ実行される。

位置ｅ１乃至ｅ３は、次の式（４）のように線形内挿により生成される。

さらに、Ｈ．２６４／ＡＶＣ方式においては、マルチ参照フレーム(Multi-Reference Frame) の動き予測・補償方式が定められている。図４を参照して、Ｈ．２６４／ＡＶＣ方式におけるマルチ参照フレームの予測・補償処理について説明する。

図４の例においては、いまから符号化される対象フレームＦnと、符号化済みのフレームＦn-5,…,Ｆn-1が示されている。フレームＦn-1は、時間軸上、対象フレームＦnの１つ前のフレームであり、フレームＦn-2は、対象フレームＦnの２つ前のフレームであり、フレームＦn-3は、対象フレームＦnの３つ前のフレームである。また、フレームＦn-4は、対象フレームＦnの４つ前のフレームであり、フレームＦn-5は、対象フレームＦnの５つ前のフレームである。一般的には、対象フレームＦnに対して時間軸上に近いフレームほど、小さい参照ピクチャ番号（ref_id）が付加される。すなわち、フレームＦn-1が一番参照ピクチャ番号が小さく、以降、Fn-2,…, Ｆn-5の順に参照ピクチャ番号が小さい。

対象フレームＦnには、ブロックＡ1とブロックＡ2が示されており、ブロックＡ1は、２つ前のフレームＦn-2のブロックＡ1’と相関があるとされて、動きベクトルＶ1が探索されている。また、ブロックＡ2は、４つ前のフレームＦn-4のブロックＡ1’と相関があるとされて、動きベクトルＶ2が探索されている。

以上のように、Ｈ．２６４／ＡＶＣ方式においては、複数の参照フレームをメモリに格納しておき、１枚のフレーム（ピクチャ）において、異なる参照フレームを参照することが可能である。すなわち、例えば、ブロックＡ1がフレームＦn-2を参照し、ブロックＡ2がフレームＦn-4を参照しているというように、１枚のピクチャにおいて、ブロック毎にそれぞれ独立した参照フレーム情報（参照ピクチャ番号（ref_id））を持つことができる。

図１に戻って、Ａ／Ｄ変換部６１は、入力された画像をＡ／Ｄ変換し、画面並べ替えバッファ６２に出力し、記憶させる。画面並べ替えバッファ６２は、記憶した表示の順番のフレームの画像を、ＧＯＰ（Group of Picture）に応じて、符号化のためのフレームの順番に並べ替える。

演算部６３は、画面並べ替えバッファ６２から読み出された画像から、予測画像選択部７８により選択されたイントラ予測部７４からの予測画像または動き予測・補償部７５からの予測画像を減算し、その差分情報を直交変換部６４に出力する。直交変換部６４は、演算部６３からの差分情報に対して、離散コサイン変換、カルーネン・レーベ変換等の直交変換を施し、その変換係数を出力する。量子化部６５は直交変換部６４が出力する変換係数を量子化する。

量子化部６５の出力となる、量子化された変換係数は、可逆符号化部６６に入力され、ここで可変長符号化、算術符号化等の可逆符号化が施され、圧縮される。

可逆符号化部６６は、イントラ予測に関する情報をイントラ予測部７４から取得し、インター予測やインターテンプレート予測に関する情報などを動き予測・補償部７５から取得する。可逆符号化部６６は、量子化された変換係数を符号化するとともに、イントラ予測に関する情報、インター予測やインターテンプレート予測に関する情報などを符号化し、圧縮画像におけるヘッダ情報の一部とする。可逆符号化部６６は、符号化したデータを蓄積バッファ６７に供給して蓄積させる。

例えば、可逆符号化部６６においては、Ｈ．２６４／ＡＶＣ方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などの可変長符号化、または、CABAC（Context-Adaptive Binary Arithmetic Coding）などの算術符号化等の可逆符号化処理が行われる。

蓄積バッファ６７は、可逆符号化部６６から供給されたデータを、Ｈ．２６４／ＡＶＣ方式で符号化された圧縮画像として、例えば、後段の図示せぬ記録装置や伝送路などに出力する。

また、量子化部６５より出力された、量子化された変換係数は、逆量子化部６８にも入力され、逆量子化された後、さらに逆直交変換部６９において逆直交変換される。逆直交変換された出力は演算部７０により予測画像選択部７８から供給される予測画像と加算されて、局部的に復号された画像となる。デブロックフィルタ７１は、復号された画像のブロック歪を除去した後、フレームメモリ７２に供給し、蓄積させる。フレームメモリ７２には、デブロックフィルタ７１によりデブロックフィルタ処理される前の画像も供給され、蓄積される。

スイッチ７３はフレームメモリ７２に蓄積された参照画像を動き予測・補償部７５またはイントラ予測部７４に出力する。

この画像符号化装置５１においては、例えば、画面並べ替えバッファ６２からのＩピクチャ、Ｂピクチャ、およびＰピクチャが、イントラ予測（イントラ処理とも称する）する画像として、イントラ予測部７４に供給される。また、画面並べ替えバッファ６２から読み出されたＢピクチャおよびＰピクチャが、インター予測（インター処理とも称する）する画像として、動き予測・補償部７５に供給される。

イントラ予測部７４は、画面並べ替えバッファ６２から読み出されたイントラ予測する画像とフレームメモリ７２から供給された参照画像に基づいて、候補となる全てのイントラ予測モードのイントラ予測処理を行い、予測画像を生成する。

その際、イントラ予測部７４は、候補となる全てのイントラ予測モードに対してコスト関数値を算出し、算出したコスト関数値が最小値を与えるイントラ予測モードを、最適イントラ予測モードとして選択する。

イントラ予測部７４は、最適イントラ予測モードで生成された予測画像とそのコスト関数値を、予測画像選択部７８に供給する。イントラ予測部７４は、予測画像選択部７８により最適イントラ予測モードで生成された予測画像が選択された場合、最適イントラ予測モードに関する情報を、可逆符号化部６６に供給する。可逆符号化部６６は、この情報を符号化し、圧縮画像におけるヘッダ情報の一部とする。

動き予測・補償部７５は、候補となる全てのインター予測モードの動き予測・補償処理を行う。すなわち、動き予測・補償部７５は、画面並べ替えバッファ６２から読み出されたインター処理する画像と、スイッチ７３を介してフレームメモリ７２から供給される参照画像に基づいて、候補となる全てのインター予測モードの動きベクトルを検出し、動きベクトルに基づいて参照画像に動き予測と補償処理を施し、予測画像を生成する。

また、動き予測・補償部７５は、画面並べ替えバッファ６２から読み出されたインター処理される画像と、スイッチ７３を介してフレームメモリ７２から供給される参照画像を、テンプレート動き予測・補償部７６に供給する。

さらに、動き予測・補償部７５は、候補となる全てのインター予測モードに対してコスト関数値を算出する。動き予測・補償部７５は、算出したインター予測モードに対してのコスト関数値と、テンプレート動き予測・補償部７６により算出されたインターテンプレート予測モードに対してのコスト関数値のうち、最小値を与える予測モードを、最適インター予測モードとして決定する。

動き予測・補償部７５は、最適インター予測モードで生成された予測画像とそのコスト関数値を、予測画像選択部７８に供給する。動き予測・補償部７５は、予測画像選択部７８により最適インター予測モードで生成された予測画像が選択された場合、最適インター予測モードに関する情報、およびその最適インター予測モードに応じた情報（動きベクトル情報、フラグ情報、参照フレーム情報など）を可逆符号化部６６に出力する。可逆符号化部６６は、動き予測・補償部７５からの情報をやはり可変長符号化、算術符号化といった可逆符号化処理し、圧縮画像のヘッダ部に挿入する。

テンプレート動き予測・補償部７６は、画面並べ替えバッファ６２からのインター処理される画像と、フレームメモリ７２から供給の参照画像に基づいて、インターテンプレート予測モードの動き予測と補償処理を行い、予測画像を生成する。

その際、テンプレート動き予測・補償部７６は、図４を参照して上述した複数の参照フレームのうち、対象フレームに時間軸上最も近い参照フレームについては、予め設定されている所定の範囲でのインターテンプレート予測モードの動き探索を行い、補償処理を行って、予測画像を生成する。他方、それ以外の参照フレームについては、テンプレート動き予測・補償部７６は、ＭＲＦ探索中心算出部７７により算出される探索中心の周辺の所定の範囲でのインターテンプレート予測モードの動き探索を行い、補償処理を行って、予測画像を生成する。

したがって、複数の参照フレームのうち、対象フレームに時間軸上最も近い参照フレーム以外の参照フレームについての動き探索を行う場合、テンプレート動き予測・補償部７６は、画面並べ替えバッファ６２から読み出されたインター符号化が行われる画像、およびフレームメモリ７２から供給される参照画像を、ＭＲＦ探索中心算出部７７に供給する。なお、このとき、探索対象となる参照フレームの時間軸上１つ前の参照フレームについて探索された動きベクトル情報もＭＲＦ探索中心算出部７７に供給される。

また、テンプレート動き予測・補償部７６は、複数の参照フレームについて生成された予測画像のうち、予測誤差が最小のものを、対象ブロックに対する予測画像であると決定する。そして、テンプレート動き予測・補償部７６は、決定した予測画像について、インターテンプレート予測モードに対してコスト関数値を算出し、算出したコスト関数値と予測画像を、動き予測・補償部７５に供給する。

ＭＲＦ探索中心算出部７７は、複数の参照フレームのうち、探索対象となる参照フレームの時間軸上１つ前の参照フレームについて探索された動きベクトル情報を用いて、探索対象となる参照フレームにおける動きベクトルの探索中心を算出する。具体的には、ＭＲＦ探索中心算出部７７は、探索対象となる参照フレームの時間軸上１つ前の参照フレームについて探索された動きベクトル情報を、いまから符号化する対象フレームに対する時間軸上の距離でスケーリングすることで、探索対象となる参照フレームにおける動きベクトル探索中心を算出する。

予測画像選択部７８は、イントラ予測部７４または動き予測・補償部７５より出力された各コスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードから、最適予測モードを決定し、決定された最適予測モードの予測画像を選択し、演算部６３，７０に供給する。このとき、予測画像選択部７８は、予測画像の選択情報を、イントラ予測部７４または動き予測・補償部７５に供給する。

レート制御部７９は、蓄積バッファ６７に蓄積された圧縮画像に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部６５の量子化動作のレートを制御する。

次に、図５のフローチャートを参照して、図１の画像符号化装置５１の符号化処理について説明する。

ステップＳ１１において、Ａ／Ｄ変換部６１は入力された画像をＡ／Ｄ変換する。ステップＳ１２において、画面並べ替えバッファ６２は、Ａ／Ｄ変換部６１より供給された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。

ステップＳ１３において、演算部６３は、ステップＳ１２で並び替えられた画像と予測画像との差分を演算する。予測画像は、インター予測する場合は動き予測・補償部７５から、イントラ予測する場合はイントラ予測部７４から、それぞれ予測画像選択部７８を介して演算部６３に供給される。

差分データは元の画像データに較べてデータ量が小さくなっている。したがって、画像をそのまま符号化する場合に較べて、データ量を圧縮することができる。

ステップＳ１４において、直交変換部６４は演算部６３から供給された差分情報を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、変換係数が出力される。ステップＳ１５において、量子化部６５は変換係数を量子化する。この量子化に際しては、後述するステップＳ２５の処理で説明されるように、レートが制御される。

以上のようにして量子化された差分情報は、次のようにして局部的に復号される。すなわち、ステップＳ１６において、逆量子化部６８は量子化部６５により量子化された変換係数を量子化部６５の特性に対応する特性で逆量子化する。ステップＳ１７において、逆直交変換部６９は逆量子化部６８により逆量子化された変換係数を直交変換部６４の特性に対応する特性で逆直交変換する。

ステップＳ１８において、演算部７０は、予測画像選択部７８を介して入力される予測画像を局部的に復号された差分情報に加算し、局部的に復号された画像（演算部６３への入力に対応する画像）を生成する。ステップＳ１９においてデブロックフィルタ７１は、演算部７０より出力された画像をフィルタリングする。これによりブロック歪みが除去される。ステップＳ２０においてフレームメモリ７２は、フィルタリングされた画像を記憶する。なお、フレームメモリ７２にはデブロックフィルタ７１によりフィルタ処理されていない画像も演算部７０から供給され、記憶される。

ステップＳ２１において、イントラ予測部７４、動き予測・補償部７５、およびテンプレート動き予測・補償部７６は、それぞれ画像の予測処理を行う。すなわち、ステップＳ２１において、イントラ予測部７４は、イントラ予測モードのイントラ予測処理を行い、動き予測・補償部７５は、インター予測モードの動き予測・補償処理を行う。また、テンプレート動き予測・補償部７６は、インターテンプレート予測モードの動き予測・補償処理を行う。

ステップＳ２１における予測処理の詳細は、図６を参照して後述するが、この処理により、候補となる全ての予測モードでの予測処理がそれぞれ行われ、候補となる全ての予測モードでのコスト関数値がそれぞれ算出される。そして、算出されたコスト関数値に基づいて、最適イントラ予測モードが選択され、最適イントラ予測モードのイントラ予測により生成された予測画像とそのコスト関数値が予測画像選択部７８に供給される。また、算出されたコスト関数値に基づいて、インター予測モードとインターテンプレート予測モードの中から、最適インター予測モードが決定され、最適インター予測モードで生成された予測画像とそのコスト関数値が、予測画像選択部７８に供給される。

ステップＳ２２において、予測画像選択部７８は、イントラ予測部７４および動き予測・補償部７５より出力された各コスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードのうちの一方を、最適予測モードに決定する。そして、予測画像選択部７８は、決定した最適予測モードの予測画像を選択し、演算部６３，７０に供給する。
この予測画像が、上述したように、ステップＳ１３，Ｓ１８の演算に利用される。

なお、この予測画像の選択情報は、イントラ予測部７４または動き予測・補償部７５に供給される。最適イントラ予測モードの予測画像が選択された場合、イントラ予測部７４は、最適イントラ予測モードに関する情報（すなわち、イントラ予測モード情報）を、可逆符号化部６６に供給する。

最適インター予測モードの予測画像が選択された場合、動き予測・補償部７５は、最適インター予測モードに関する情報、およびその最適インター予測モードに応じた情報（動きベクトル情報やフラグ情報、参照フレーム情報など）を可逆符号化部６６に出力する。
さらに具体的には、最適インター予測モードとして、インター予測モードによる予測画像が選択されているときには、動き予測・補償部７５は、インター予測モード情報、動きベクトル情報、参照フレーム情報を可逆符号化部６６に出力する。

一方、最適インター予測モードとして、インターテンプレート予測モードによる予測画像が選択されているときには、動き予測・補償部７５は、インターテンプレート予測モード情報のみを可逆符号化部６６に出力する。すなわち、動きベクトル情報などは、復号側に送る必要がないので、可逆符号化部６６に出力されない。したがって、圧縮画像中における動きベクトル情報を低減することができる。

ステップＳ２３において、可逆符号化部６６は量子化部６５より出力された量子化された変換係数を符号化する。すなわち、差分画像が可変長符号化、算術符号化等の可逆符号化され、圧縮される。このとき、上述したステップＳ２２において可逆符号化部６６に入力された、イントラ予測部７４からのイントラ予測モード情報、または、動き予測・補償部７５からの最適インター予測モードに応じた情報（予測モード情報、動きベクトル情報や参照フレーム情報など）なども符号化され、ヘッダ情報に付加される。

ステップＳ２４において蓄積バッファ６７は差分画像を圧縮画像として蓄積する。蓄積バッファ６７に蓄積された圧縮画像が適宜読み出され、伝送路を介して復号側に伝送される。

ステップＳ２５においてレート制御部７９は、蓄積バッファ６７に蓄積された圧縮画像に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部６５の量子化動作のレートを制御する。

次に、図６のフローチャートを参照して、図５のステップＳ２１における予測処理を説明する。

画面並べ替えバッファ６２から供給される処理対象の画像がイントラ処理されるブロックの画像である場合、参照される復号済みの画像がフレームメモリ７２から読み出され、スイッチ７３を介してイントラ予測部７４に供給される。これらの画像に基づいて、ステップＳ３１において、イントラ予測部７４は処理対象のブロックの画素を、候補となる全てのイントラ予測モードでイントラ予測する。なお、参照される復号済みの画素としては、デブロックフィルタ７１によりデブロックフィルタリングされていない画素が用いられる。

ステップＳ３１におけるイントラ予測処理の詳細は、図７を参照して後述するが、この処理により、候補となる全てのイントラ予測モードでイントラ予測が行われ、候補となる全てのイントラ予測モードに対してコスト関数値が算出される。そして、算出されたコスト関数値に基づいて、最適イントラ予測モードが選択され、最適イントラ予測モードのイントラ予測により生成された予測画像とそのコスト関数値が予測画像選択部７８に供給される。

画面並べ替えバッファ６２から供給される処理対象の画像がインター処理される画像である場合、参照される画像がフレームメモリ７２から読み出され、スイッチ７３を介して動き予測・補償部７５に供給される。これらの画像に基づいて、ステップＳ３２において、動き予測・補償部７５はインター動き予測処理を行う。すなわち、動き予測・補償部７５は、フレームメモリ７２から供給される画像を参照して、候補となる全てのインター予測モードの動き予測処理を行う。

ステップＳ３２におけるインター動き予測処理の詳細は、図１０を参照して後述するが、この処理により、候補となる全てのインター予測モードで動き予測処理が行われ、候補となる全てのインター予測モードに対してコスト関数値が算出される。

また、画面並べ替えバッファ６２から供給される処理対象の画像がインター処理される画像である場合、参照される画像がフレームメモリ７２から読み出され、スイッチ７３および動き予測・補償部７５を介してテンプレート動き予測・補償部７６にも供給される。
これらの画像に基づいて、テンプレート動き予測・補償部７６は、ステップＳ３３において、インターテンプレート動き予測処理を行う。

ステップＳ３３におけるインターテンプレート動き予測処理の詳細は、図１２を参照して後述するが、この処理により、インターテンプレート予測モードで動き予測処理が行われ、インターテンプレート予測モードに対してコスト関数値が算出される。そして、インターテンプレート予測モードの動き予測処理により生成された予測画像とそのコスト関数値が動き予測・補償部７５に供給される。なお、インターテンプレート予測モードに応じた情報（例えば、予測モード情報など）がある場合には、それも動き予測・補償部７５に供給される。

ステップＳ３４において、動き予測・補償部７５は、ステップＳ３２において算出されたインター予測モードに対してのコスト関数値と、ステップＳ３３において算出されたインターテンプレート予測モードに対してのコスト関数値を比較し、最小値を与える予測モードを、最適インター予測モードとして決定する。そして、動き予測・補償部７５は、最適インター予測モードで生成された予測画像とそのコスト関数値を、予測画像選択部７８に供給する。

次に、図７のフローチャートを参照して、図６のステップＳ３１におけるイントラ予測処理を説明する。なお、図７の例においては、輝度信号の場合を例として説明する。

イントラ予測部７４は、ステップＳ４１において、４×４画素、８×８画素、および１６×１６画素の各イントラ予測モードに対してイントラ予測を行う。

輝度信号のイントラ予測モードには、９種類の４×４画素および８×８画素のブロック単位、並びに４種類の１６×１６画素のマクロブロック単位の予測モードがあり、色差信号のイントラ予測モードには、４種類の８×８画素のブロック単位の予測モードがある。
色差信号のイントラ予測モードは、輝度信号のイントラ予測モードと独立に設定が可能である。輝度信号の４×４画素および８×８画素のイントラ予測モードについては、４×４画素および８×８画素の輝度信号のブロック毎に１つのイントラ予測モードが定義される。輝度信号の１６×１６画素のイントラ予測モードと色差信号のイントラ予測モードについては、１つのマクロブロックに対して１つの予測モードが定義される。

予測モードの種類は、図８の番号０，１，３乃至８で示される方向に対応している。予測モード２は平均値予測である。

例えば、イントラ４×４予測モードの場合について、図９を参照して説明する。画面並べ替えバッファ６２から読み出された処理対象の画像（例えば、画素ａ乃至ｐ）がイントラ処理されるブロックの画像である場合、参照される復号済みの画像（画素Ａ乃至Ｍ）がフレームメモリ７２から読み出され、スイッチ７３を介してイントラ予測部７４に供給される。

これらの画像に基づいて、イントラ予測部７４は、処理対象のブロックの画素をイントラ予測する。このイントラ予測処理が、各イントラ予測モードで行われることで、各イントラ予測モードでの予測画像が生成される。なお、参照される復号済みの画素（画素Ａ乃至Ｍ）としては、デブロックフィルタ７１によりデブロックフィルタリングされていない画素が用いられる。

イントラ予測部７４は、ステップＳ４２において、４×４画素、８×８画素、および１６×１６画素の各イントラ予測モードに対するコスト関数値を算出する。ここで、コスト関数値としては、Ｈ．２６４／ＡＶＣ方式における参照ソフトウエアであるＪＭ(Joint Model)で定められているように、High Complexity モードか、Low Complexity モードのいずれかの手法に基づいて行う。

すなわち、High Complexity モードにおいては、ステップＳ４１の処理として、候補となる全ての予測モードに対して、仮に符号化処理までを行い、次の式（５）で表わされるコスト関数値を各予測モードに対して算出し、その最小値を与える予測モードを最適予測モードであるとして選択する。

Cost(Mode) = D + λ・R ・・・（５）
Dは、原画像と復号画像の差分（歪）、Rは、直交変換係数まで含んだ発生符号量、λは、量子化パラメータQPの関数として与えられるラグランジュ乗数である。

一方、Low Complexity モードにおいては、ステップＳ４１の処理として、候補となる全ての予測モードに対して、予測画像の生成、および、動きベクトル情報や予測モード情報、フラグ情報などのヘッダビットまでを算出し、次の式（６）で表わされるコスト関数値を各予測モードに対して算出し、その最小値を与える予測モードを最適予測モードであるとして選択する。

Cost(Mode) = D + QPtoQuant(QP)・Header_Bit ・・・（６）
Dは、原画像と復号画像の差分（歪）、Header_Bitは、予測モードに対するヘッダビット、QPtoQuantは、量子化パラメータQPの関数として与えられる関数である。

Low Complexity モードにおいては、全ての予測モードに対して、予測画像を生成するのみで、符号化処理および復号処理を行う必要がないため、演算量が少なくて済む。

イントラ予測部７４は、ステップＳ４３において、４×４画素、８×８画素、および１６×１６画素の各イントラ予測モードに対して、それぞれ最適モードを決定する。すなわち、図８を参照して上述したように、イントラ４×４予測モードおよびイントラ８×８予測モードの場合には、予測モードの種類が９種類あり、イントラ１６×１６予測モードの場合には、予測モードの種類が４種類ある。したがって、イントラ予測部７４は、ステップＳ４２において算出されたコスト関数値に基づいて、それらの中から、最適イントラ４×４予測モード、最適イントラ８×８予測モード、最適イントラ１６×１６予測モードを決定する。

イントラ予測部７４は、ステップＳ４４において、４×４画素、８×８画素、および１６×１６画素の各イントラ予測モードに対して決定された各最適モードの中から、ステップＳ４２において算出されたコスト関数値に基づいて、最適イントラ予測モードを選択する。すなわち、４×４画素、８×８画素、および１６×１６画素に対して決定された各最適モードの中から、コスト関数値が最小値であるモードを、最適イントラ予測モードとして選択する。そして、イントラ予測部７４は、最適イントラ予測モードで生成された予測画像とそのコスト関数値とを、予測画像選択部７８に供給する。

次に、図１０のフローチャートを参照して、図６のステップＳ３２のインター動き予測処理について説明する。

動き予測・補償部７５は、ステップＳ５１において、図２を参照して上述した１６×１６画素乃至４×４画素からなる８種類の各インター予測モードに対して動きベクトルと参照画像をそれぞれ決定する。すなわち、各インター予測モードの処理対象のブロックについて、動きベクトルと参照画像がそれぞれ決定される。

動き予測・補償部７５は、ステップＳ５２において、１６×１６画素乃至４×４画素からなる８種類の各インター予測モードについて、ステップＳ５１で決定された動きベクトルに基づいて、参照画像に動き予測と補償処理を行う。この動き予測と補償処理により、各インター予測モードでの予測画像が生成される。

動き予測・補償部７５は、ステップＳ５３において、１６×１６画素乃至４×４画素からなる８種類の各インター予測モードに対して決定された動きベクトルについて、圧縮画像に付加するための動きベクトル情報を生成する。

ここで、図１１を参照して、Ｈ．２６４／ＡＶＣ方式による動きベクトル情報の生成方法について説明する。図１１の例において、これから符号化される対象ブロックＥ（例えば、１６×１６画素）と、既に符号化済みであり、対象ブロックＥに隣接するブロックＡ乃至Ｄが示されている。

すなわち、ブロックＤは、対象ブロックＥの左上に隣接しており、ブロックＢは、対象ブロックＥの上に隣接しており、ブロックＣは、対象ブロックＥの右上に隣接しており、ブロックＡは、対象ブロックＥの左に隣接している。なお、ブロックＡ乃至Ｄが区切られていないのは、それぞれ、図２で上述した１６×１６画素乃至４×４画素のうちのいずれかの構成のブロックであることを表している。

例えば、Ｘ（＝Ａ，Ｂ，Ｃ，Ｄ，Ｅ）に対する動きベクトル情報を、mv_Xで表す。まず、対象ブロックＥに対する予測動きベクトル情報pmv_Eは、ブロックＡ，Ｂ，Ｃに関する動きベクトル情報を用いて、メディアン予測により次の式（７）のように生成される。

pmv_E = med(mv_A,mv_B,mv_C) ・・・（７）
ブロックＣに関する動きベクトル情報が、画枠の端であったり、あるいは、まだ符号化されていないなどの理由により、利用可能でない（unavailableである）場合には、ブロックＣに関する動きベクトル情報は、ブロックＤに関する動きベクトル情報で代用される。

対象ブロックＥに対する動きベクトル情報として、圧縮画像のヘッダ部に付加されるデータmvd_Eは、pmv_Eを用いて、次の式（８）のように生成される。

mvd_E = mv_E - pmv_E ・・・（８）

なお、実際には、動きベクトル情報の水平方向、垂直方向のそれぞれの成分に対して、独立に処理が行われる。

このように、予測動きベクトル情報を生成し、隣接するブロックとの相関で生成された予測動きベクトル情報と動きベクトル情報との差分を、圧縮画像のヘッダ部に付加することにより、動きベクトル情報を低減することができる。

以上のようにして生成された動きベクトル情報は、次のステップＳ５４におけるコスト関数値算出の際にも用いられ、最終的に予測画像選択部７８により対応する予測画像が選択された場合には、予測モード情報および参照フレーム情報とともに、可逆符号化部６６へ出力される。

図１０に戻って、動き予測・補償部７５は、ステップＳ５４において、１６×１６画素乃至４×４画素からなる８種類の各インター予測モードに対して、上述した式（５）または式（６）で示されるコスト関数値を算出する。ここで算出されたコスト関数値は、上述した図６のステップＳ３４で最適インター予測モードを決定する際に用いられる。

次に、図１２のフローチャートを参照して、図６のステップＳ３３のインターテンプレート動き予測処理について説明する。

テンプレート動き予測・補償部７６は、ステップＳ７１において、対象フレームに対して時間軸上の距離が最も近い参照フレームについて、インターテンプレート予測モードの動き予測、補償処理を行う。すなわち、テンプレート動き予測・補償部７６は、対象フレームに対して、時間軸上の距離が最も近い参照フレームについて、インターテンプレートマッチング方式に基づいて動きベクトルを探索する。そして、テンプレート動き予測・補償部７６は、探索した動きベクトルに基づいて参照画像に動き予測と補償処理を施し、予測画像を生成する。

このインターテンプレートマッチング方式について、図１３を参照して具体的に説明する。

図１３の例においては、符号化対象の対象フレームと、動きベクトルを探索する際に参照される参照フレームが示されている。対象フレームには、これから符号化されようとしている対象ブロックＡと、対象ブロックＡに対して隣接するとともに、すでに符号化済みの画素で構成されるテンプレート領域Ｂが示されている。すなわち、テンプレート領域Ｂは、符号化処理をラスタスキャン順に行う場合には、図１３に示されるように、対象ブロックＡの左および上側に位置する領域であり、フレームメモリ７２に復号画像が蓄積されている領域である。

テンプレート動き予測・補償部７６は、参照フレーム上の所定の探索範囲Ｅ内において、例えば、SAD(Sum of Absolute Difference) 等をコスト関数としてテンプレートマッチング処理を行い、テンプレート領域Ｂの画素値と相関が最も高くなる領域Ｂ’を探索する。そして、テンプレート動き予測・補償部７６は、探索された領域Ｂ’に対応するブロックＡ’を、対象ブロックＡに対する予測画像として、対象ブロックＡに対する動きベクトルＰを探索する。

このように、インターテンプレートマッチング方式による動きベクトル探索処理は、テンプレートマッチング処理に復号画像を用いているので、所定の探索範囲Ｅを予め定めておくことにより、図１の画像符号化装置５１と後述する図１８の画像復号装置１０１において同一の処理を行うことが可能である。すなわち、画像復号装置１０１においても、テンプレート動き予測・補償部１２３を構成することにより、対象ブロックＡに対する動きベクトルＰの情報を画像復号装置１０１に送る必要がなくなるので、圧縮画像中における動きベクトル情報を低減することができる。

なお、インターテンプレート予測モードにおけるブロックおよびテンプレートのサイズは任意である。すなわち、動き予測・補償部７５と同様に、図２で上述した１６×１６画素乃至４×４画素からなる８種類のブロックサイズから、１つのブロックサイズを固定して行うこともできるし、すべてのブロックサイズを候補として行うこともできる。ブロックサイズに応じて、テンプレートサイズは、可変としてもよいし、固定することもできる。

ここで、Ｈ．２６４／ＡＶＣ方式においては、図４を参照して上述したように複数の参照フレームをメモリに記憶しておき、１の対象フレームの各ブロックにおいては、異なる参照フレームを参照することが可能である。しかしながら、マルチ参照フレームの候補となる全ての参照フレームに関して、インターテンプレートマッチング方式による動き予測を行うことは、演算量の増大を招いてしまう。

そこで、複数の参照フレームのうち、対象フレームに時間軸上最も近い参照フレーム以外の参照フレームについての動き探索を行う場合、テンプレート動き予測・補償部７６は、ステップＳ７２において、ＭＲＦ探索中心算出部７７に、参照フレーム上の探索中心を算出させる。そして、テンプレート動き予測・補償部７６は、ステップＳ７３において、ＭＲＦ探索中心算出部７７により算出された探索中心の周辺数画素からなる所定の範囲での動き探索を行い、補償処理を行って、予測画像を生成する。

上述したステップＳ７１乃至Ｓ７３の処理について、図１４を参照しながら詳しく説明する。図１４の例においては、時間軸tが時間の経過を表しており、左から順に、参照ピクチャ番号ref_id=N-1の参照フレーム、…、参照ピクチャ番号ref_id=1の参照フレーム、参照ピクチャ番号ref_id=0の参照フレーム、いまから符号化される対象フレームが示されている。すなわち、参照ピクチャ番号ref_id=0の参照フレームは、複数の参照フレームの中で、対象フレームに対する時間軸t上の距離が最も近い参照フレームである。対して、参照ピクチャ番号ref_id=N-1の参照フレームは、複数の参照フレームの中で、対象フレームに対する時間軸t上の距離が最も遠い参照フレームである。

テンプレート動き予測・補償部７６は、ステップＳ７１において、対象フレームと、対象フレームに時間軸上の距離が最も近い参照ピクチャ番号ref_id=0の参照フレームとの間で、インターテンプレート予測モードの動き予測、補償処理を行う。

このステップＳ７１の処理により、まず、参照ピクチャ番号ref_id=0の参照フレーム上の所定の探索範囲において、対象フレーム上の対象ブロックＡに対して隣接するとともに、すでに符号化済みの画素で構成されるテンプレート領域Ｂの画素値と相関が最も高くなる領域Ｂ₀が探索される。この結果、探索された領域Ｂ₀に対応するブロックＡ₀を、対象ブロックＡに対する予測画像として、対象ブロックＡに対する動きベクトルtmmv₀が探索される。

次に、ステップＳ７２において、ＭＲＦ探索中心算出部７７は、ステップＳ７１において探索された動きベクトルtmmv₀を用いて、対象フレームと次に対象フレームに時間軸上の距離が近い参照ピクチャ番号ref_id=1の参照フレームにおける動き探索中心を算出する。

このステップＳ７２の処理により、対象フレームと参照ピクチャ番号ref_id=0の参照フレームとの時間軸t上の距離t₀、および、対象フレームと参照ピクチャ番号ref_id=1の参照フレームとの時間軸t上の距離t₁とが考慮されて、式（９）となる探索中心mv_cが求められる。すなわち、探索中心mv_cは、図１４において点線で示されるように、時間軸上１つ前の参照フレームで求められた動きベクトルtmmv₀を、参照ピクチャ番号ref_id=1の参照フレームに対して時間軸上の距離でスケーリングしたものである。なお、実際には、この探索中心mv_cは、整数画素精度に丸められて用いられる。

なお、式（９）は、除算を必要とするが、実際には、M,Nを整数として、t₁/t₀をN/2^Mの形で近似することにより、四捨五入を含んだシフト演算により実現することができる。

また、Ｈ．２６４／ＡＶＣ方式においては、圧縮画像中には、対象フレームに対する時間軸t上の距離t₀、t₁に相当する情報が存在しないため、ピクチャの出力順序を示す情報であるPOC(Picture Order Count)を用いる。

そして、ステップＳ７３において、テンプレート動き予測・補償部７６は、式（９）で求められた参照ピクチャ番号ref_id=1の参照フレーム上の探索中心mv_cの周辺の所定の範囲Ｅ₁での動き探索を行い、補償処理を行って、予測画像を生成する。

このステップＳ７３の処理により、参照ピクチャ番号ref_id=1の参照フレーム上の探索中心mv_cの周辺の所定の範囲Ｅ₁において、対象フレーム上の対象ブロックＡに対して隣接するとともに、すでに符号化済みの画素で構成されるテンプレート領域Ｂの画素値と相関が最も高くなる領域Ｂ₁が探索される。この結果、探索された領域Ｂ₁に対応するブロックＡ₁を、対象ブロックＡに対する予測画像として、対象ブロックＡに対する動きベクトルtmmv₁が探索される。

以上のように、動きベクトルを探索する範囲を、時間軸上１つ前の参照フレームで求められた動きベクトルを、次の参照フレームに対して、対象フレームに対する時間軸上の距離でスケーリングした探索中心を中心とした所定の範囲に制限するようにした。これにより、参照ピクチャ番号ref_id=1の参照フレームにおいては、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

次に、テンプレート動き予測・補償部７６は、ステップＳ７４において、すべての参照フレームについての処理が終了したか否かを判定する。ステップＳ７４において、まだ終了していないと判定された場合、処理は、ステップＳ７２に戻り、それ以降の処理が繰り返される。

すなわち、今度は、ステップＳ７２において、ＭＲＦ探索中心算出部７７は、前回のステップＳ７３において探索された動きベクトルtmmv₁を用いて、対象フレームと近い参照ピクチャ番号ref_id=1の次に対象フレームに時間軸上の距離が近い参照ピクチャ番号ref_id=2の参照フレームにおける動き探索中心を算出する。

このステップＳ７２の処理により、対象フレームと参照ピクチャ番号ref_id=1の参照フレームとの時間軸t上の距離t₁、および、対象フレームと参照ピクチャ番号ref_id=2の参照フレームとの時間軸t上の距離t₂とが考慮されて、式（１０）となる探索中心mv_cが求められる。

そして、ステップＳ７３において、テンプレート動き予測・補償部７６は、式（１０）で求められた探索中心mv_cの周辺の所定の範囲Ｅ₂での動き探索を行い、補償処理を行って、予測画像を生成する。

これらの処理は、最終的に、参照ピクチャ番号ref_id=N-1である最後の参照フレームまで、すなわち、ステップＳ７４において、すべての参照フレームについての処理が終了したと判定されるまで、順に繰り返される。その結果、参照ピクチャ番号ref_id=0の参照フレームの動きベクトルtmmv₀乃至参照ピクチャ番号ref_id=N-1の参照フレームの動きベクトルtmmv_N-1が求められる。

なお、式（９）および式（１０）を任意の整数ｋ（0<k<N）で表すと、式（１１）となる。すなわち、参照ピクチャ番号ref_id=k-1の参照フレームにおいて求められた動きベクトルtmmv_k-1を用いて、対象フレームと参照ピクチャ番号ref_id= k-1の参照フレーム、および、対象フレームと参照ピクチャ番号ref_id=kの参照フレームとの時間軸t上の距離をそれぞれt_k-1,t_kとすると、参照ピクチャ番号ref_id=kの参照フレームの探索中心は、式（１１）で表される。

ステップＳ７４において、すべての参照フレームについての処理が終了したと判定された場合、処理は、ステップＳ７５に進む。ステップＳ７５において、テンプレート動き予測・補償部７６は、ステップＳ７１またはＳ７３の処理において求められたすべての参照フレームに対する予測画像から、対象ブロックに対するインターテンプレートモードの予測画像を決定する。

すなわち、すべての参照フレームに対する予測画像のうち、SAD(Sum of Absolute Difference)などを用いて求められる予測誤差が最少のものが、対象ブロックに対する予測画像として決定される。

ステップＳ７５において、テンプレート動き予測・補償部７６は、インターテンプレート予測モードに対して、上述した式（５）または式（６）で示されるコスト関数値を算出する。ここで算出されたコスト関数値は、決定した予測画像とともに動き予測・補償部７５に供給され、上述した図６のステップＳ３４で最適インター予測モードを決定する際に用いられる。

以上のように、画像符号化装置５１において、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行うようにした。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

また、これらの処理は、画像符号化装置５１だけでなく、図１８の画像復号装置１０１においても実行される。したがって、インターテンプレート予測モードの対象ブロックにおいては、動きベクトル情報のみならず、参照フレーム情報をも送る必要がないため、符号化効率を改善することができる。

なお、Ｈ．２６４／ＡＶＣ方式においては、defaultで参照ピクチャ番号ref_idの割り振りが行われるが、参照ピクチャ番号ref_idの付け替えをユーザが行うことも可能である。

図１５は、Ｈ．２６４／ＡＶＣ方式におけるdefaultの参照ピクチャ番号ref_idの割り振りを示しており、図１６は、ユーザにより付け替えられた参照ピクチャ番号ref_idの割り振りの例を示している。図１５および図１６においては、左から右に時間が経過している。

図１５のdefaultの例においては、これから符号化する対象ピクチャに時間的に最も近い参照ピクチャから順に参照ピクチャ番号ref_idが割り振られている。

すなわち、対象ピクチャの（時間的に）１つ前の参照ピクチャには、参照ピクチャ番号ref_id=0が割り振られており、対象ピクチャの２つ前の参照ピクチャには、参照ピクチャ番号ref_id=1が割り振られている。対象ピクチャの３つ前の参照ピクチャには、参照ピクチャ番号ref_id=2が割り振られており、対象ピクチャの４つ前の参照ピクチャには、参照ピクチャ番号ref_id=3が割り振られている。

一方、図１６の例においては、対象ピクチャの２つ前の参照ピクチャに参照ピクチャ番号ref_id=0が割り振られており、対象ピクチャの３つ前の参照ピクチャに、参照ピクチャ番号ref_id=1が割り振られている。また、対象ピクチャの１つ前の参照ピクチャに参照ピクチャ番号ref_id=2が割り振られており、対象ピクチャの４つ前の参照ピクチャに、参照ピクチャ番号ref_id=3が割り振られている。

画像を符号化する際、より頻繁に参照されるピクチャにより小さい参照ピクチャ番号ref_idを割り振った方が圧縮画像の符号量を少なくすることが可能である。したがって、通常、図１５のdefaultのように、これから符号化する対象ピクチャに、時間的に最も近い参照ピクチャから順に参照ピクチャ番号ref_idを割り振っていくことで、参照ピクチャ番号ref_idに要する符号量を削減することができる。

ただし、フラッシュなどの理由により、直前のピクチャを用いた予測効率が極端に低いなどの場合、図１６の例のように、参照ピクチャ番号ref_idを割り振ることで、符号量を削減することができる。

図１４を参照して上述したインターテンプレート予測モードでの動き予測・補償処理は、図１５の例の場合には、対象フレームに時間軸上の距離が近い参照フレーム順、すなわち、参照ピクチャ番号ref_idの小さい順に行われる。一方、図１６の例の場合には、対象フレームに時間軸上の距離が近い参照フレーム順とはならないが、参照ピクチャ番号ref_idの小さい順に行われる。すなわち、図１４のインターテンプレート予測モードでの動き予測・補償処理は、参照ピクチャ番号ref_idがある場合には、参照ピクチャ番号ref_idの小さい順に行われる。

なお、図１５および図１６の例においては、前方向予測の例を示しているが、後方向予測についても同様であるので、その図示および説明は省略される。また、参照フレームを識別するための情報は、参照ピクチャ番号ref_idに限らない。ただし、参照ピクチャ番号ref_idに相当するパラメータが存在しない圧縮画像の場合には、前方向予測、後方向予測ともに、対象ピクチャから、時間軸上近い順に、参照フレームを処理していくものとする。

また、Ｈ．２６４／ＡＶＣ方式においては、短時間参照ピクチャ（Short Term Reference Picture）と長時間参照ピクチャ（Long Term Reference Picture）が規定されている。例えば、具体的なアプリケーションとして、ＴＶ(television)会議などを考える場合、背景画像に関しては、長時間参照ピクチャをメモリに格納し、復号処理が終了するまでこれが参照可能となる。一方、人物の動きに関しては、復号処理が進むごとに、FIFO(First_In_First_Out)で、メモリに格納・破棄されていく短時間参照ピクチャが参照される、というように利用される。

図１４を参照して上述したインターテンプレート予測モードでの動き予測・補償処理は、この場合においては、短時間参照ピクチャのみに適用される。一方、長時間参照ピクチャにおいては、図１２のステップＳ７１の処理と同様の通常のインターテンプレート予測モードでの動き予測・補償処理が実行される。すなわち、長時間参照ピクチャの場合、参照フレーム上の予め設定されている所定の探索範囲内において、インターテンプレート動き予測処理が行われる。

さらに、図１４を参照して上述したインターテンプレート予測モードでの動き予測・補償処理は、Multi-Hypothesis Motion Compensationにも適用される。図１７を参照して、Multi-Hypothesis Motion Compensationについて説明する。

図１７の例においては、いまから符号化される対象フレームＦnと、符号化済みのフレームＦn-5,…, Ｆn-1が示されている。フレームＦn-1は、対象フレームＦnの１つ前のフレームであり、フレームＦn-2は、対象フレームＦnの２つ前のフレームであり、フレームＦn-3は、対象フレームＦnの３つ前のフレームである。また、フレームＦn-4は、対象フレームＦnの４つ前のフレームであり、フレームＦn-5は、対象フレームＦnの５つ前のフレームである。

対象フレームＦnには、ブロックＡnが示されている。ブロックＡnは、１つ前のフレームFn-1のブロックAn-1と相関があるとされて、動きベクトルＶn-1が探索され、２つ前のフレームFn-2のブロックAn-2と相関があるとされて、動きベクトルＶn-2が探索され、３つ前のフレームFn-3のブロックAn-3と相関があるとされて、動きベクトルＶn-3が探索されている。

すなわち、Ｈ．２６４／ＡＶＣ方式においては、Ｐスライスなら１枚、Ｂスライスなら２枚の参照フレームのみを用いて予測画像の生成を行うことが規定されている。これに対して、Multi-Hypothesis Motion Compensationにおいては、N>3となるようなNに対しても、Predを予測画像、Ref(id)を参照フレームのIDがidであるような参照画像であるとするなら、式（１２）のようにして予測画像の生成を行うことが可能である。

このMulti-Hypothesis Motion Compensationに、図１４を参照して上述したインターテンプレート予測モードでの動き予測・補償処理が適用される場合には、図１２のステップＳ７１乃至Ｓ７３のようにして求められた参照フレームの各予測画像を用いて、式（１２）により予測画像の生成が行われる。

したがって、通常のMulti-Hypothesis Motion Compensationにおいては、全ての参照フレームに対する動きベクトル情報を、圧縮画像中に符号化して、復号側に送る必要があったが、インターテンプレート予測モードでの動き予測・補償処理の場合には、その必要がないため、符号化効率を向上することができる。

符号化された圧縮画像は、所定の伝送路を介して伝送され、画像復号装置により復号される。図１８は、このような画像復号装置の一実施の形態の構成を表している。

画像復号装置１０１は、蓄積バッファ１１１、可逆復号部１１２、逆量子化部１１３、逆直交変換部１１４、演算部１１５、デブロックフィルタ１１６、画面並べ替えバッファ１１７、Ｄ／Ａ変換部１１８、フレームメモリ１１９、スイッチ１２０、イントラ予測部１２１、動き予測・補償部１２２、テンプレート動き予測・補償部１２３、ＭＲＦ探索中心算出部１２４、およびスイッチ１２５により構成されている。

蓄積バッファ１１１は伝送されてきた圧縮画像を蓄積する。可逆復号部１１２は、蓄積バッファ１１１より供給された、図１の可逆符号化部６６により符号化された情報を、可逆符号化部６６の符号化方式に対応する方式で復号する。逆量子化部１１３は可逆復号部１１２により復号された画像を、図１の量子化部６５の量子化方式に対応する方式で逆量子化する。逆直交変換部１１４は、図１の直交変換部６４の直交変換方式に対応する方式で逆量子化部１１３の出力を逆直交変換する。

逆直交変換された出力は演算部１１５によりスイッチ１２５から供給される予測画像と加算されて復号される。デブロックフィルタ１１６は、復号された画像のブロック歪を除去した後、フレームメモリ１１９に供給し、蓄積させるとともに、画面並べ替えバッファ１１７に出力する。

画面並べ替えバッファ１１７は、画像の並べ替えを行う。すなわち、図１の画面並べ替えバッファ６２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。Ｄ／Ａ変換部１１８は、画面並べ替えバッファ１１７から供給された画像をＤ／Ａ変換し、図示せぬディスプレイに出力し、表示させる。

スイッチ１２０は、インター処理される画像と参照される画像をフレームメモリ１１９から読み出し、動き予測・補償部１２２に出力するとともに、イントラ予測に用いられる画像をフレームメモリ１１９から読み出し、イントラ予測部１２１に供給する。

イントラ予測部１２１には、ヘッダ情報を復号して得られたイントラ予測モードに関する情報が可逆復号部１１２から供給される。イントラ予測部１２１は、この情報に基づいて、予測画像を生成し、生成した予測画像を、スイッチ１２５に出力する。

動き予測・補償部１２２には、ヘッダ情報を復号して得られた情報（予測モード情報、動きベクトル情報、参照フレーム情報）が可逆復号部１１２から供給される。インター予測モードである情報が供給された場合、動き予測・補償部１２２は、動きベクトル情報と参照フレーム情報に基づいて画像に動き予測と補償処理を施し、予測画像を生成する。インターテンプレート予測モードである情報が供給された場合、動き予測・補償部１２２は、フレームメモリ１１９から読み出されたインター処理される画像と参照される画像をテンプレート動き予測・補償部１２３に供給し、インターテンプレート予測モードでの動き予測・補償処理を行わせる。

また、動き予測・補償部１２２は、予測モード情報に応じて、インター予測モードにより生成された予測画像、または、インターテンプレート予測モードにより生成された予測画像のどちらか一方をスイッチ１２５に出力する。

テンプレート動き予測・補償部１２３は、フレームメモリ１１９から読み出されたインター処理される画像と参照される画像に基づいて、インターテンプレート予測モードの動き予測と補償処理を行い、予測画像を生成する。なお、この動き予測・補償処理は、画像符号化装置５１のテンプレート動き予測・補償部７６の処理と基本的に同じ処理である。

すなわち、テンプレート動き予測・補償部１２３は、複数の参照フレームのうち、対象フレームに時間軸上最も近い参照フレームについては、予め設定されている所定の範囲でのインターテンプレート予測モードの動き探索を行い、補償処理を行って、予測画像を生成する。他方、それ以外の参照フレームについては、テンプレート動き予測・補償部１２３は、ＭＲＦ探索中心算出部１２４により算出される探索中心の周辺の所定の範囲でのインターテンプレート予測モードの動き探索を行い、補償処理を行って、予測画像を生成する。

したがって、複数の参照フレームのうち、対象フレームに時間軸上最も近い参照フレーム以外の参照フレームについての動き探索を行う場合、テンプレート動き予測・補償部１２３は、フレームメモリ１１９から読み出されたインター処理される画像と参照される画像を、ＭＲＦ探索中心算出部１２４に供給する。なお、このとき、探索対象となる参照フレームの時間軸上１つ前の参照フレームについて探索された動きベクトル情報もＭＲＦ探索中心算出部１２４に供給される。

また、テンプレート動き予測・補償部１２３は、複数の参照フレームについて生成された予測画像のうち、予測誤差が最小のものを、対象ブロックに対する予測画像であると決定する。そして、テンプレート動き予測・補償部１２３は、決定した予測画像を、動き予測・補償部１２２に供給する。

ＭＲＦ探索中心算出部１２４は、複数の参照フレームのうち、探索対象となる参照フレームの時間軸上１つ前の参照フレームについて探索された動きベクトル情報を用いて、探索対象となる参照フレームにおける動きベクトルの探索中心を算出する。なお、この算出処理は、画像符号化装置５１のＭＲＦ探索中心算出部７７の処理と基本的に同じ処理である。

スイッチ１２５は、動き予測・補償部１２２またはイントラ予測部１２１により生成された予測画像を選択し、演算部１１５に供給する。

次に、図１９のフローチャートを参照して、画像復号装置１０１が実行する復号処理について説明する。

ステップＳ１３１において、蓄積バッファ１１１は伝送されてきた画像を蓄積する。ステップＳ１３２において、可逆復号部１１２は、蓄積バッファ１１１から供給される圧縮画像を復号する。すなわち、図１の可逆符号化部６６により符号化されたＩピクチャ、Ｐピクチャ、並びにＢピクチャが復号される。

このとき、動きベクトル情報、参照フレーム情報、予測モード情報（イントラ予測モード、インター予測モード、またはインターテンプレート予測モードを表す情報）、フラグ情報も復号される。

すなわち、予測モード情報がイントラ予測モード情報である場合、予測モード情報は、イントラ予測部１２１に供給される。予測モード情報がインター予測モード情報である場合、予測モード情報と対応する動きベクトル情報は、動き予測・補償部１２２に供給される。予測モード情報がインターテンプレート予測モード情報である場合、予測モード情報は、動き予測・補償部１２２に供給される。

ステップＳ１３３において、逆量子化部１１３は可逆復号部１１２により復号された変換係数を、図１の量子化部６５の特性に対応する特性で逆量子化する。ステップＳ１３４において逆直交変換部１１４は逆量子化部１１３により逆量子化された変換係数を、図１の直交変換部６４の特性に対応する特性で逆直交変換する。これにより図１の直交変換部６４の入力（演算部６３の出力）に対応する差分情報が復号されたことになる。

ステップＳ１３５において、演算部１１５は、後述するステップＳ１４１の処理で選択され、スイッチ１２５を介して入力される予測画像を差分情報と加算する。これにより元の画像が復号される。ステップＳ１３６においてデブロックフィルタ１１６は、演算部１１５より出力された画像をフィルタリングする。これによりブロック歪みが除去される。
ステップＳ１３７においてフレームメモリ１１９は、フィルタリングされた画像を記憶する。

ステップＳ１３８において、イントラ予測部１２１、動き予測・補償部１２２、またはテンプレート動き予測・補償部１２３は、可逆復号部１１２から供給される予測モード情報に対応して、それぞれ画像の予測処理を行う。

すなわち、可逆復号部１１２からイントラ予測モード情報が供給された場合、イントラ予測部１２１は、イントラ予測モードのイントラ予測処理を行う。可逆復号部１１２からインター予測モード情報が供給された場合、動き予測・補償部１２２は、インター予測モードの動き予測・補償処理を行う。また、可逆復号部１１２からインターテンプレート予測モード情報が供給された場合、テンプレート動き予測・補償部１２３は、インターテンプレート予測モードの動き予測・補償処理を行う。

ステップＳ１３８における予測処理の詳細は、図２０を参照して後述するが、この処理により、イントラ予測部１２１により生成された予測画像、動き予測・補償部１２２により生成された予測画像、またはテンプレート動き予測・補償部１２３により生成された予測画像がスイッチ１２５に供給される。

ステップＳ１３９において、スイッチ１２５は予測画像を選択する。すなわち、イントラ予測部１２１により生成された予測画像、動き予測・補償部１２２により生成された予測画像、またはテンプレート動き予測・補償部１２３により生成された予測画像が供給されるので、供給された予測画像が選択されて演算部１１５に供給され、上述したように、ステップＳ１３４において逆直交変換部１１４の出力と加算される。

ステップＳ１４０において、画面並べ替えバッファ１１７は並べ替えを行う。すなわち画像符号化装置５１の画面並べ替えバッファ６２により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。

ステップＳ１４１において、Ｄ／Ａ変換部１１８は、画面並べ替えバッファ１１７からの画像をＤ／Ａ変換する。この画像が図示せぬディスプレイに出力され、画像が表示される。

次に、図２０のフローチャートを参照して、図１９のステップＳ１３８の予測処理を説明する。

イントラ予測部１２１は、ステップＳ１７１において、対象ブロックがイントラ符号化されているか否かを判定する。可逆復号部１１２からイントラ予測モード情報がイントラ予測部１２１に供給されると、イントラ予測部１２１は、ステップ１７１において、対象ブロックがイントラ符号化されていると判定し、処理は、ステップＳ１７２に進む。

イントラ予測部１２１は、ステップＳ１７２において、イントラ予測を行う。すなわち、処理対象の画像がイントラ処理される画像である場合、必要な画像がフレームメモリ１１９から読み出され、スイッチ１２０を介してイントラ予測部１２１に供給される。ステップＳ１７２において、イントラ予測部１２１は、可逆復号部１１２から供給されるイントラ予測モード情報に従ってイントラ予測し、予測画像を生成する。生成した予測画像は、スイッチ１２５に出力される。

一方、ステップＳ１７１において、イントラ符号化されていないと判定された場合、処理は、ステップＳ１７３に進む。

処理対象の画像がインター処理される画像である場合、可逆復号部１１２からインター予測モード情報、参照フレーム情報、動きベクトル情報が動き予測・補償部１２２に供給される。ステップＳ１７３において、動き予測・補償部１２２は、可逆復号部１１２からの予測モード情報が、インター予測モード情報であるか否かを判定し、インター予測モード情報であると判定した場合、ステップＳ１７４において、インター動き予測を行う。

処理対象の画像がインター予測処理される画像である場合、必要な画像がフレームメモリ１１９から読み出され、スイッチ１２０を介して動き予測・補償部１２２に供給される。ステップＳ１７４において動き予測・補償部１２２は、可逆復号部１１２から供給される動きベクトルに基づいて、インター予測モードの動き予測をし、予測画像を生成する。
生成した予測画像は、スイッチ１２５に出力される。

ステップＳ１７３において、インター予測モード情報ではないと判定された場合、すなわち、インターテンプレート予測モード情報である場合、処理は、ステップＳ１７５に進み、インターテンプレート動き予測処理が行われる。

このステップＳ１７５のインターテンプレート動き予測処理について図２１のフローチャートを参照して説明する。なお、図２１のステップＳ１９１乃至Ｓ１９５の処理は、図１２のステップＳ７１乃至Ｓ７５の処理と基本的に同様の処理を行うため、繰り返しになるのでその詳細な説明は省略する。

処理対象の画像がインターテンプレート予測処理される画像である場合、必要な画像がフレームメモリ１１９から読み出され、スイッチ１２０および動き予測・補償部１２２を介してテンプレート動き予測・補償部１２３に供給される。

テンプレート動き予測・補償部１２３は、ステップＳ１９１において、対象フレームに対して時間軸上の距離が最も近い参照フレームについて、インターテンプレート予測モードの動き予測、補償処理を行う。すなわち、テンプレート動き予測・補償部１２３は、対象フレームに対して、時間軸上の距離が最も近い参照フレームについて、インターテンプレートマッチング方式に基づいて動きベクトルを探索する。そして、テンプレート動き予測・補償部１２３は、探索した動きベクトルに基づいて参照画像に動き予測と補償処理を施し、予測画像を生成する。

テンプレート動き予測・補償部１２３は、ステップＳ１９２において、複数の参照フレームのうち、対象フレームに時間軸上最も近い参照フレーム以外の参照フレームについての動き探索を行うため、ＭＲＦ探索中心算出部１２４に、参照フレーム上の探索中心を算出させる。そして、テンプレート動き予測・補償部１２３は、ステップＳ１９３において、ＭＲＦ探索中心算出部１２４により算出された探索中心の周辺の所定の範囲での動き探索を行い、補償処理を行って、予測画像を生成する。

テンプレート動き予測・補償部１２３は、ステップＳ１９４において、すべての参照フレームについての処理が終了したか否かを判定する。ステップＳ１９４において、まだ終了していないと判定された場合、処理は、ステップＳ１９２に戻り、それ以降の処理が繰り返される。

ステップＳ１９４において、すべての参照フレームについての処理が終了したと判定された場合、処理は、ステップＳ１９５に進む。ステップＳ１９５において、テンプレート動き予測・補償部１２３は、ステップＳ１９１またはＳ１９３の処理において求められたすべての参照フレームに対する予測画像から、対象ブロックに対するインターテンプレートモードの予測画像を決定する。

すなわち、すべての参照フレームに対する予測画像のうち、SAD(Sum of Absolute Difference)などを用いて求められる予測誤差が最少のものが、対象ブロックに対する予測画像として決定され、決定された予測画像は、動き予測・補償部１２２を介して、スイッチ１２５に供給される。

以上のように、テンプレートマッチングに基づく動き予測を、画像符号化装置および画像復号装置の両方で行うことにより、動きベクトル情報および参照フレーム情報などを送らずに、良質な画質を表示させることができる。

さらに、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行うようにした。
これにより、符号化効率の低下を最小限に抑えながら、演算量の増大を抑制することができる。

また、Ｈ．２６４／ＡＶＣ方式による動き予測・補償処理を行う際に、テンプレートマッチングに基づく予測も行い、コスト関数値のよい方を選択して符号化処理を行うようにしたので、符号化効率を向上することができる。

なお、上記説明においては、マクロブロックの大きさが、１６×１６画素の場合について説明してきたが、本発明は、”Video Coding Using Extended Block Sizes”,VCEG-AD09,ITU-Telecommunications Standardization Sector STUDY GROUP Question 16 - Contribution 123, Jan 2009に記載の拡張されたマクロブロックサイズに対しても適用することが可能である。

図２２は、拡張されたマクロブロックサイズの例を示す図である。上記記載では、マクロブロックサイズが３２×３２画素に拡張されている。

図２２の上段には、左から、３２×３２画素、３２×１６画素、１６×３２画素、および１６×１６画素のブロック（パーティション）に分割された３２×３２画素で構成されるマクロブロックが順に示されている。図２２の中段には、左から、１６×１６画素、１６×８画素、８×１６画素、および８×８画素のブロックに分割された１６×１６画素で構成されるブロックが順に示されている。また、図２２の下段には、左から、８×８画素、８×４画素、４×８画素、および４×４画素のブロックに分割された８×８画素のブロックが順に示されている。

すなわち、３２×３２画素のマクロブロックは、図２２の上段に示される３２×３２画素、３２×１６画素、１６×３２画素、および１６×１６画素のブロックでの処理が可能である。

また、上段の右側に示される１６×１６画素のブロックは、Ｈ．２６４／ＡＶＣ方式と同様に、中段に示される１６×１６画素、１６×８画素、８×１６画素、および８×８画素のブロックでの処理が可能である。

さらに、中段の右側に示される８×８画素のブロックは、Ｈ．２６４／ＡＶＣ方式と同様に、下段に示される８×８画素、８×４画素、４×８画素、および４×４画素のブロックでの処理が可能である。

このような階層構造を採用することにより、拡張されたマクロブロックサイズにおいては、１６×１６画素のブロック以下に関してＨ．２６４／ＡＶＣ方式と互換性を保ちながら、そのスーパーセットとして、より大きなブロックが定義されている。

以上のように提案される拡張されたマクロブロックサイズにも本発明を適用することができる。

以上においては、符号化方式としてＨ．２６４／ＡＶＣ方式を用いるようにしたが、その他の符号化方式／復号方式を用いることもできる。

なお、本発明は、例えば、ＭＰＥＧ、Ｈ.２６ｘ等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報（ビットストリーム）を、衛星放送、ケーブルＴＶ（テレビジョン）、インターネット、および携帯電話機などのネットワークメディアを介して受信する際に、あるいは、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本発明は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。

上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。

コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む）、光磁気ディスクを含む）、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア、または、プログラムが一時的もしくは永続的に格納されるROMやハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインタフェースを介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。

なお、本明細書において、プログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。

また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。

例えば、上述した画像符号化装置５１や画像復号装置１０１は、任意の電子機器に適用することができる。以下にその例について説明する。

図２３は、本発明を適用した画像復号装置を用いるテレビジョン受像機の主な構成例を示すブロック図である。

図２３に示されるテレビジョン受像機３００は、地上波チューナ３１３、ビデオデコーダ３１５、映像信号処理回路３１８、グラフィック生成回路３１９、パネル駆動回路３２０、および表示パネル３２１を有する。

地上波チューナ３１３は、地上アナログ放送の放送波信号を、アンテナを介して受信し、復調し、映像信号を取得し、それをビデオデコーダ３１５に供給する。ビデオデコーダ３１５は、地上波チューナ３１３から供給された映像信号に対してデコード処理を施し、得られたデジタルのコンポーネント信号を映像信号処理回路３１８に供給する。

映像信号処理回路３１８は、ビデオデコーダ３１５から供給された映像データに対してノイズ除去などの所定の処理を施し、得られた映像データをグラフィック生成回路３１９に供給する。

グラフィック生成回路３１９は、表示パネル３２１に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成し、生成した映像データや画像データをパネル駆動回路３２０に供給する。また、グラフィック生成回路３１９は、項目の選択などにユーザにより利用される画面を表示するための映像データ（グラフィック）を生成し、それを番組の映像データに重畳したりすることによって得られた映像データをパネル駆動回路３２０に供給するといった処理も適宜行う。

パネル駆動回路３２０は、グラフィック生成回路３１９から供給されたデータに基づいて表示パネル３２１を駆動し、番組の映像や上述した各種の画面を表示パネル３２１に表示させる。

表示パネル３２１はLCD（Liquid Crystal Display）などよりなり、パネル駆動回路３２０による制御に従って番組の映像などを表示させる。

また、テレビジョン受像機３００は、音声A/D（Analog/Digital)変換回路３１４、音声信号処理回路３２２、エコーキャンセル／音声合成回路３２３、音声増幅回路３２４、およびスピーカ３２５も有する。

地上波チューナ３１３は、受信した放送波信号を復調することにより、映像信号だけでなく音声信号も取得する。地上波チューナ３１３は、取得した音声信号を音声A/D変換回路３１４に供給する。

音声A/D変換回路３１４は、地上波チューナ３１３から供給された音声信号に対してA/D変換処理を施し、得られたデジタルの音声信号を音声信号処理回路３２２に供給する。

音声信号処理回路３２２は、音声A/D変換回路３１４から供給された音声データに対してノイズ除去などの所定の処理を施し、得られた音声データをエコーキャンセル／音声合成回路３２３に供給する。

エコーキャンセル／音声合成回路３２３は、音声信号処理回路３２２から供給された音声データを音声増幅回路３２４に供給する。

音声増幅回路３２４は、エコーキャンセル／音声合成回路３２３から供給された音声データに対してD/A変換処理、増幅処理を施し、所定の音量に調整した後、音声をスピーカ３２５から出力させる。

さらに、テレビジョン受像機３００は、デジタルチューナ３１６およびMPEGデコーダ３１７も有する。

デジタルチューナ３１６は、デジタル放送（地上デジタル放送、BS（Broadcasting Satellite）／CS（Communications Satellite）デジタル放送）の放送波信号を、アンテナを介して受信し、復調し、MPEG-TS（Moving Picture Experts Group-Transport Stream）を取得し、それをMPEGデコーダ３１７に供給する。

MPEGデコーダ３１７は、デジタルチューナ３１６から供給されたMPEG-TSに施されているスクランブルを解除し、再生対象（視聴対象）になっている番組のデータを含むストリームを抽出する。MPEGデコーダ３１７は、抽出したストリームを構成する音声パケットをデコードし、得られた音声データを音声信号処理回路３２２に供給するとともに、ストリームを構成する映像パケットをデコードし、得られた映像データを映像信号処理回路３１８に供給する。また、MPEGデコーダ３１７は、MPEG-TSから抽出したEPG（Electronic Program Guide)データを図示せぬ経路を介してCPU３３２に供給する。

テレビジョン受像機３００は、このように映像パケットをデコードするMPEGデコーダ３１７として、上述した画像復号装置１０１を用いる。したがって、MPEGデコーダ３１７は、画像復号装置１０１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

MPEGデコーダ３１７から供給された映像データは、ビデオデコーダ３１５から供給された映像データの場合と同様に、映像信号処理回路３１８において所定の処理が施される。そして、所定の処理が施された映像データは、グラフィック生成回路３１９において、生成された映像データ等が適宜重畳され、パネル駆動回路３２０を介して表示パネル３２１に供給され、その画像が表示される。

MPEGデコーダ３１７から供給された音声データは、音声A/D変換回路３１４から供給された音声データの場合と同様に、音声信号処理回路３２２において所定の処理が施される。そして、所定の処理が施された音声データは、エコーキャンセル／音声合成回路３２３を介して音声増幅回路３２４に供給され、D/A変換処理や増幅処理が施される。その結果、所定の音量に調整された音声がスピーカ３２５から出力される。

また、テレビジョン受像機３００は、マイクロホン３２６、およびA/D変換回路３２７も有する。

A/D変換回路３２７は、音声会話用のものとしてテレビジョン受像機３００に設けられるマイクロホン３２６により取り込まれたユーザの音声の信号を受信する。A/D変換回路３２７は、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データをエコーキャンセル／音声合成回路３２３に供給する。

エコーキャンセル／音声合成回路３２３は、テレビジョン受像機３００のユーザ（ユーザＡ）の音声のデータがA/D変換回路３２７から供給されている場合、ユーザＡの音声データを対象としてエコーキャンセルを行う。そして、エコーキャンセル／音声合成回路３２３は、エコーキャンセルの後、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路３２４を介してスピーカ３２５より出力させる。

さらに、テレビジョン受像機３００は、音声コーデック３２８、内部バス３２９、SDRAM（Synchronous Dynamic Random Access Memory)３３０、フラッシュメモリ３３１、CPU３３２、USB（Universal Serial Bus) I/F３３３、およびネットワークI/F３３４も有する。

A/D変換回路３２７は、音声会話用のものとしてテレビジョン受像機３００に設けられるマイクロホン３２６により取り込まれたユーザの音声の信号を受信する。A/D変換回路３２７は、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データを音声コーデック３２８に供給する。

音声コーデック３２８は、A/D変換回路３２７から供給された音声データを、ネットワーク経由で送信するための所定のフォーマットのデータに変換し、内部バス３２９を介してネットワークI/F３３４に供給する。

ネットワークI/F３３４は、ネットワーク端子３３５に装着されたケーブルを介してネットワークに接続される。ネットワークI/F３３４は、例えば、そのネットワークに接続される他の装置に対して、音声コーデック３２８から供給された音声データを送信する。また、ネットワークI/F３３４は、例えば、ネットワークを介して接続される他の装置から送信される音声データを、ネットワーク端子３３５を介して受信し、それを、内部バス３２９を介して音声コーデック３２８に供給する。

音声コーデック３２８は、ネットワークI/F３３４から供給された音声データを所定のフォーマットのデータに変換し、それをエコーキャンセル／音声合成回路３２３に供給する。

エコーキャンセル／音声合成回路３２３は、音声コーデック３２８から供給される音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路３２４を介してスピーカ３２５より出力させる。

SDRAM３３０は、CPU３３２が処理を行う上で必要な各種のデータを記憶する。

フラッシュメモリ３３１は、CPU３３２により実行されるプログラムを記憶する。フラッシュメモリ３３１に記憶されているプログラムは、テレビジョン受像機３００の起動時などの所定のタイミングでCPU３３２により読み出される。フラッシュメモリ３３１には、デジタル放送を介して取得されたEPGデータ、ネットワークを介して所定のサーバから取得されたデータなども記憶される。

例えば、フラッシュメモリ３３１には、CPU３３２の制御によりネットワークを介して所定のサーバから取得されたコンテンツデータを含むMPEG-TSが記憶される。フラッシュメモリ３３１は、例えばCPU３３２の制御により、そのMPEG-TSを、内部バス３２９を介してMPEGデコーダ３１７に供給する。

MPEGデコーダ３１７は、デジタルチューナ３１６から供給されたMPEG-TSの場合と同様に、そのMPEG-TSを処理する。このようにテレビジョン受像機３００は、映像や音声等よりなるコンテンツデータを、ネットワークを介して受信し、MPEGデコーダ３１７を用いてデコードし、その映像を表示させたり、音声を出力させたりすることができる。

また、テレビジョン受像機３００は、リモートコントローラ３５１から送信される赤外線信号を受光する受光部３３７も有する。

受光部３３７は、リモートコントローラ３５１からの赤外線を受光し、復調して得られたユーザ操作の内容を表す制御コードをCPU３３２に出力する。

CPU３３２は、フラッシュメモリ３３１に記憶されているプログラムを実行し、受光部３３７から供給される制御コードなどに応じてテレビジョン受像機３００の全体の動作を制御する。CPU３３２とテレビジョン受像機３００の各部は、図示せぬ経路を介して接続されている。

USB I/F３３３は、USB端子３３６に装着されたUSBケーブルを介して接続される、テレビジョン受像機３００の外部の機器との間でデータの送受信を行う。ネットワークI/F３３４は、ネットワーク端子３３５に装着されたケーブルを介してネットワークに接続し、ネットワークに接続される各種の装置と音声データ以外のデータの送受信も行う。

テレビジョン受像機３００は、MPEGデコーダ３１７として画像復号装置１０１を用いることにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。その結果として、テレビジョン受像機３００は、アンテナを介して受信した放送波信号や、ネットワークを介して取得したコンテンツデータから、より高速に、より高精細な復号画像を得て、表示することができる。

図２４は、本発明を適用した画像符号化装置および画像復号装置を用いる携帯電話機の主な構成例を示すブロック図である。

図２４に示される携帯電話機４００は、各部を統括的に制御するようになされた主制御部４５０、電源回路部４５１、操作入力制御部４５２、画像エンコーダ４５３、カメラI/F部４５４、LCD制御部４５５、画像デコーダ４５６、多重分離部４５７、記録再生部４６２、変復調回路部４５８、および音声コーデック４５９を有する。これらは、バス４６０を介して互いに接続されている。

また、携帯電話機４００は、操作キー４１９、CCD（Charge Coupled Devices）カメラ４１６、液晶ディスプレイ４１８、記憶部４２３、送受信回路部４６３、アンテナ４１４、マイクロホン（マイク）４２１、およびスピーカ４１７を有する。

電源回路部４５１は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話機４００を動作可能な状態に起動する。

携帯電話機４００は、CPU、ROMおよびRAM等でなる主制御部４５０の制御に基づいて、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。

例えば、音声通話モードにおいて、携帯電話機４００は、マイクロホン（マイク）４２１で集音した音声信号を、音声コーデック４５９によってデジタル音声データに変換し、これを変復調回路部４５８でスペクトラム拡散処理し、送受信回路部４６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機４００は、その変換処理により得られた送信用信号を、アンテナ４１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（音声信号）は、公衆電話回線網を介して通話相手の携帯電話機に供給される。

また、例えば、音声通話モードにおいて、携帯電話機４００は、アンテナ４１４で受信した受信信号を送受信回路部４６３で増幅し、さらに周波数変換処理およびアナログデジタル変換処理し、変復調回路部４５８でスペクトラム逆拡散処理し、音声コーデック４５９によってアナログ音声信号に変換する。携帯電話機４００は、その変換して得られたアナログ音声信号をスピーカ４１７から出力する。

更に、例えば、データ通信モードにおいて電子メールを送信する場合、携帯電話機４００は、操作キー４１９の操作によって入力された電子メールのテキストデータを、操作入力制御部４５２において受け付ける。携帯電話機４００は、そのテキストデータを主制御部４５０において処理し、LCD制御部４５５を介して、画像として液晶ディスプレイ４１８に表示させる。

また、携帯電話機４００は、主制御部４５０において、操作入力制御部４５２が受け付けたテキストデータやユーザ指示等に基づいて電子メールデータを生成する。携帯電話機４００は、その電子メールデータを、変復調回路部４５８でスペクトラム拡散処理し、送受信回路部４６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機４００は、その変換処理により得られた送信用信号を、アンテナ４１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（電子メール）は、ネットワークおよびメールサーバ等を介して、所定のあて先に供給される。

また、例えば、データ通信モードにおいて電子メールを受信する場合、携帯電話機４００は、基地局から送信された信号を、アンテナ４１４を介して送受信回路部４６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機４００は、その受信信号を変復調回路部４５８でスペクトラム逆拡散処理して元の電子メールデータを復元する。携帯電話機４００は、復元された電子メールデータを、LCD制御部４５５を介して液晶ディスプレイ４１８に表示する。

なお、携帯電話機４００は、受信した電子メールデータを、記録再生部４６２を介して、記憶部４２３に記録する（記憶させる）ことも可能である。

この記憶部４２３は、書き換え可能な任意の記憶媒体である。記憶部４２３は、例えば、RAMや内蔵型フラッシュメモリ等の半導体メモリであってもよいし、ハードディスクであってもよいし、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、またはメモリカード等のリムーバブルメディアであってもよい。もちろん、これら以外のものであってもよい。

さらに、例えば、データ通信モードにおいて画像データを送信する場合、携帯電話機４００は、撮像によりCCDカメラ４１６で画像データを生成する。CCDカメラ４１６は、レンズや絞り等の光学デバイスと光電変換素子としてのCCDを有し、被写体を撮像し、受光した光の強度を電気信号に変換し、被写体の画像の画像データを生成する。その画像データを、カメラI/F部４５４を介して、画像エンコーダ４５３で、例えばMPEG２やMPEG４等の所定の符号化方式によって圧縮符号化することにより符号化画像データに変換する。

携帯電話機４００は、このような処理を行う画像エンコーダ４５３として、上述した画像符号化装置５１を用いる。したがって、画像エンコーダ４５３は、画像符号化装置５１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

なお、携帯電話機４００は、このとき同時に、CCDカメラ４１６で撮像中にマイクロホン（マイク）４２１で集音した音声を、音声コーデック４５９においてアナログデジタル変換し、さらに符号化する。

携帯電話機４００は、多重分離部４５７において、画像エンコーダ４５３から供給された符号化画像データと、音声コーデック４５９から供給されたデジタル音声データとを、所定の方式で多重化する。携帯電話機４００は、その結果得られる多重化データを、変復調回路部４５８でスペクトラム拡散処理し、送受信回路部４６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機４００は、その変換処理により得られた送信用信号を、アンテナ４１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（画像データ）は、ネットワーク等を介して、通信相手に供給される。

なお、画像データを送信しない場合、携帯電話機４００は、CCDカメラ４１６で生成した画像データを、画像エンコーダ４５３を介さずに、LCD制御部４５５を介して液晶ディスプレイ４１８に表示させることもできる。

また、例えば、データ通信モードにおいて、簡易ホームページ等にリンクされた動画像ファイルのデータを受信する場合、携帯電話機４００は、基地局から送信された信号を、アンテナ４１４を介して送受信回路部４６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機４００は、その受信信号を変復調回路部４５８でスペクトラム逆拡散処理して元の多重化データを復元する。携帯電話機４００は、多重分離部４５７において、その多重化データを分離して、符号化画像データと音声データとに分ける。

携帯電話機４００は、画像デコーダ４５６において、符号化画像データを、MPEG２やMPEG４等の所定の符号化方式に対応した復号方式でデコードすることにより、再生動画像データを生成し、これを、LCD制御部４５５を介して液晶ディスプレイ４１８に表示させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる動画データが液晶ディスプレイ４１８に表示される。

携帯電話機４００は、このような処理を行う画像デコーダ４５６として、上述した画像復号装置１０１を用いる。したがって、画像デコーダ４５６は、画像復号装置１０１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

このとき、携帯電話機４００は、同時に、音声コーデック４５９において、デジタルの音声データをアナログ音声信号に変換し、これをスピーカ４１７より出力させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる音声データが再生される。

なお、電子メールの場合と同様に、携帯電話機４００は、受信した簡易ホームページ等にリンクされたデータを、記録再生部４６２を介して、記憶部４２３に記録する（記憶させる）ことも可能である。

また、携帯電話機４００は、主制御部４５０において、撮像されてCCDカメラ４１６で得られた２次元コードを解析し、２次元コードに記録された情報を取得することができる。

さらに、携帯電話機４００は、赤外線通信部４８１で赤外線により外部の機器と通信することができる。

携帯電話機４００は、画像エンコーダ４５３として画像符号化装置５１を用いることにより、処理の高速化を実現するとともに、例えばCCDカメラ４１６において生成された画像データを符号化して生成する符号化データの符号化効率を向上させることができる。結果として、携帯電話機４００は、符号化効率のよい符号化データ（画像データ）を、他の装置に提供することができる。

また、携帯電話機４００は、画像デコーダ４５６として画像復号装置１０１を用いることにより、処理の高速化を実現するとともに、精度の高い予測画像を生成することができる。その結果として、携帯電話機４００は、例えば、簡易ホームページにリンクされた動画像ファイルから、より高精細な復号画像を得て、表示することができる。

なお、以上において、携帯電話機４００が、CCDカメラ４１６を用いるように説明したが、このCCDカメラ４１６の代わりに、CMOS（Complementary Metal Oxide Semiconductor）を用いたイメージセンサ（CMOSイメージセンサ）を用いるようにしてもよい。この場合も、携帯電話機４００は、CCDカメラ４１６を用いる場合と同様に、被写体を撮像し、被写体の画像の画像データを生成することができる。

また、以上においては携帯電話機４００として説明したが、例えば、PDA（Personal Digital Assistants）、スマートフォン、UMPC（Ultra Mobile Personal Computer）、ネットブック、ノート型パーソナルコンピュータ等、この携帯電話機４００と同様の撮像機能や通信機能を有する装置であれば、どのような装置であっても携帯電話機４００の場合と同様に、画像符号化装置５１および画像復号装置１０１を適用することができる。

図２５は、本発明を適用した画像符号化装置および画像復号装置を用いるハードディスクレコーダの主な構成例を示すブロック図である。

図２５に示されるハードディスクレコーダ（HDDレコーダ）５００は、チューナにより受信された、衛星や地上のアンテナ等より送信される放送波信号（テレビジョン信号）に含まれる放送番組のオーディオデータとビデオデータを、内蔵するハードディスクに保存し、その保存したデータをユーザの指示に応じたタイミングでユーザに提供する装置である。

ハードディスクレコーダ５００は、例えば、放送波信号よりオーディオデータとビデオデータを抽出し、それらを適宜復号し、内蔵するハードディスクに記憶させることができる。また、ハードディスクレコーダ５００は、例えば、ネットワークを介して他の装置からオーディオデータやビデオデータを取得し、それらを適宜復号し、内蔵するハードディスクに記憶させることもできる。

さらに、ハードディスクレコーダ５００は、例えば、内蔵するハードディスクに記録されているオーディオデータやビデオデータを復号してモニタ５６０に供給し、モニタ５６０の画面にその画像を表示させる。また、ハードディスクレコーダ５００は、モニタ５６０のスピーカよりその音声を出力させることができる。

ハードディスクレコーダ５００は、例えば、チューナを介して取得された放送波信号より抽出されたオーディオデータとビデオデータ、または、ネットワークを介して他の装置から取得したオーディオデータやビデオデータを復号してモニタ５６０に供給し、モニタ５６０の画面にその画像を表示させる。また、ハードディスクレコーダ５００は、モニタ５６０のスピーカよりその音声を出力させることもできる。

もちろん、この他の動作も可能である。

図２５に示されるように、ハードディスクレコーダ５００は、受信部５２１、復調部５２２、デマルチプレクサ５２３、オーディオデコーダ５２４、ビデオデコーダ５２５、およびレコーダ制御部５２６を有する。ハードディスクレコーダ５００は、さらに、EPGデータメモリ５２７、プログラムメモリ５２８、ワークメモリ５２９、ディスプレイコンバータ５３０、OSD（On Screen Display）制御部５３１、ディスプレイ制御部５３２、記録再生部５３３、D/Aコンバータ５３４、および通信部５３５を有する。

また、ディスプレイコンバータ５３０は、ビデオエンコーダ５４１を有する。記録再生部５３３は、エンコーダ５５１およびデコーダ５５２を有する。

受信部５２１は、リモートコントローラ（図示せず）からの赤外線信号を受信し、電気信号に変換してレコーダ制御部５２６に出力する。レコーダ制御部５２６は、例えば、マイクロプロセッサなどにより構成され、プログラムメモリ５２８に記憶されているプログラムに従って、各種の処理を実行する。レコーダ制御部５２６は、このとき、ワークメモリ５２９を必要に応じて使用する。

通信部５３５は、ネットワークに接続され、ネットワークを介して他の装置との通信処理を行う。例えば、通信部５３５は、レコーダ制御部５２６により制御され、チューナ（図示せず）と通信し、主にチューナに対して選局制御信号を出力する。

復調部５２２は、チューナより供給された信号を、復調し、デマルチプレクサ５２３に出力する。デマルチプレクサ５２３は、復調部５２２より供給されたデータを、オーディオデータ、ビデオデータ、およびEPGデータに分離し、それぞれ、オーディオデコーダ５２４、ビデオデコーダ５２５、またはレコーダ制御部５２６に出力する。

オーディオデコーダ５２４は、入力されたオーディオデータを、例えばMPEG方式でデコードし、記録再生部５３３に出力する。ビデオデコーダ５２５は、入力されたビデオデータを、例えばMPEG方式でデコードし、ディスプレイコンバータ５３０に出力する。レコーダ制御部５２６は、入力されたEPGデータをEPGデータメモリ５２７に供給し、記憶させる。

ディスプレイコンバータ５３０は、ビデオデコーダ５２５またはレコーダ制御部５２６より供給されたビデオデータを、ビデオエンコーダ５４１により、例えばNTSC（National Television Standards Committee）方式のビデオデータにエンコードし、記録再生部５３３に出力する。また、ディスプレイコンバータ５３０は、ビデオデコーダ５２５またはレコーダ制御部５２６より供給されるビデオデータの画面のサイズを、モニタ５６０のサイズに対応するサイズに変換する。ディスプレイコンバータ５３０は、画面のサイズが変換されたビデオデータを、さらに、ビデオエンコーダ５４１によってNTSC方式のビデオデータに変換し、アナログ信号に変換し、ディスプレイ制御部５３２に出力する。

ディスプレイ制御部５３２は、レコーダ制御部５２６の制御のもと、OSD（On Screen Display）制御部５３１が出力したOSD信号を、ディスプレイコンバータ５３０より入力されたビデオ信号に重畳し、モニタ５６０のディスプレイに出力し、表示させる。

モニタ５６０にはまた、オーディオデコーダ５２４が出力したオーディオデータが、D/Aコンバータ５３４によりアナログ信号に変換されて供給されている。モニタ５６０は、このオーディオ信号を内蔵するスピーカから出力する。

記録再生部５３３は、ビデオデータやオーディオデータ等を記録する記憶媒体としてハードディスクを有する。

記録再生部５３３は、例えば、オーディオデコーダ５２４より供給されるオーディオデータを、エンコーダ５５１によりMPEG方式でエンコードする。また、記録再生部５３３は、ディスプレイコンバータ５３０のビデオエンコーダ５４１より供給されるビデオデータを、エンコーダ５５１によりMPEG方式でエンコードする。記録再生部５３３は、そのオーディオデータの符号化データとビデオデータの符号化データとをマルチプレクサにより合成する。記録再生部５３３は、その合成データをチャネルコーディングして増幅し、そのデータを、記録ヘッドを介してハードディスクに書き込む。

記録再生部５３３は、再生ヘッドを介してハードディスクに記録されているデータを再生し、増幅し、デマルチプレクサによりオーディオデータとビデオデータに分離する。記録再生部５３３は、デコーダ５５２によりオーディオデータおよびビデオデータをMPEG方式でデコードする。記録再生部５３３は、復号したオーディオデータをD/A変換し、モニタ５６０のスピーカに出力する。また、記録再生部５３３は、復号したビデオデータをD/A変換し、モニタ５６０のディスプレイに出力する。

レコーダ制御部５２６は、受信部５２１を介して受信されるリモートコントローラからの赤外線信号により示されるユーザ指示に基づいて、EPGデータメモリ５２７から最新のEPGデータを読み出し、それをOSD制御部５３１に供給する。OSD制御部５３１は、入力されたEPGデータに対応する画像データを発生し、ディスプレイ制御部５３２に出力する。ディスプレイ制御部５３２は、OSD制御部５３１より入力されたビデオデータをモニタ５６０のディスプレイに出力し、表示させる。これにより、モニタ５６０のディスプレイには、EPG（電子番組ガイド）が表示される。

また、ハードディスクレコーダ５００は、インターネット等のネットワークを介して他の装置から供給されるビデオデータ、オーディオデータ、またはEPGデータ等の各種データを取得することができる。

通信部５３５は、レコーダ制御部５２６に制御され、ネットワークを介して他の装置から送信されるビデオデータ、オーディオデータ、およびEPGデータ等の符号化データを取得し、それをレコーダ制御部５２６に供給する。レコーダ制御部５２６は、例えば、取得したビデオデータやオーディオデータの符号化データを記録再生部５３３に供給し、ハードディスクに記憶させる。このとき、レコーダ制御部５２６および記録再生部５３３が、必要に応じて再エンコード等の処理を行うようにしてもよい。

また、レコーダ制御部５２６は、取得したビデオデータやオーディオデータの符号化データを復号し、得られるビデオデータをディスプレイコンバータ５３０に供給する。ディスプレイコンバータ５３０は、ビデオデコーダ５２５から供給されるビデオデータと同様に、レコーダ制御部５２６から供給されるビデオデータを処理し、ディスプレイ制御部５３２を介してモニタ５６０に供給し、その画像を表示させる。

また、この画像表示に合わせて、レコーダ制御部５２６が、復号したオーディオデータを、D/Aコンバータ５３４を介してモニタ５６０に供給し、その音声をスピーカから出力させるようにしてもよい。

さらに、レコーダ制御部５２６は、取得したEPGデータの符号化データを復号し、復号したEPGデータをEPGデータメモリ５２７に供給する。

以上のようなハードディスクレコーダ５００は、ビデオデコーダ５２５、デコーダ５５２、およびレコーダ制御部５２６に内蔵されるデコーダとして画像復号装置１０１を用いる。したがって、ビデオデコーダ５２５、デコーダ５５２、およびレコーダ制御部５２６に内蔵されるデコーダは、画像復号装置１０１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

したがって、ハードディスクレコーダ５００は、処理の高速化を実現するとともに、精度の高い予測画像を生成することができる。その結果として、ハードディスクレコーダ５００は、例えば、チューナを介して受信されたビデオデータの符号化データや、記録再生部５３３のハードディスクから読み出されたビデオデータの符号化データや、ネットワークを介して取得したビデオデータの符号化データから、より高精細な復号画像を得て、モニタ５６０に表示させることができる。

また、ハードディスクレコーダ５００は、エンコーダ５５１として画像符号化装置５１を用いる。したがって、エンコーダ５５１は、画像符号化装置５１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

したがって、ハードディスクレコーダ５００は、例えば、処理の高速化を実現させるとともに、ハードディスクに記録する符号化データの符号化効率を向上させることができる。その結果として、ハードディスクレコーダ５００は、ハードディスクの記憶領域をより効率よく使用することができる。

なお、以上においては、ビデオデータやオーディオデータをハードディスクに記録するハードディスクレコーダ５００について説明したが、もちろん、記録媒体はどのようなものであってもよい。例えばフラッシュメモリ、光ディスク、またはビデオテープ等、ハードディスク以外の記録媒体を適用するレコーダであっても、上述したハードディスクレコーダ５００の場合と同様に、画像符号化装置５１および画像復号装置１０１を適用することができる。

図２６は、本発明を適用した画像復号装置および画像符号化装置を用いるカメラの主な構成例を示すブロック図である。

図２６に示されるカメラ６００は、被写体を撮像し、被写体の画像をLCD６１６に表示させたり、それを画像データとして、記録メディア６３３に記録したりする。

レンズブロック６１１は、光（すなわち、被写体の映像）を、CCD/CMOS６１２に入射させる。CCD/CMOS６１２は、CCDまたはCMOSを用いたイメージセンサであり、受光した光の強度を電気信号に変換し、カメラ信号処理部６１３に供給する。

カメラ信号処理部６１３は、CCD/CMOS６１２から供給された電気信号を、Ｙ，Ｃｒ，Ｃｂの色差信号に変換し、画像信号処理部６１４に供給する。画像信号処理部６１４は、コントローラ６２１の制御の下、カメラ信号処理部６１３から供給された画像信号に対して所定の画像処理を施したり、その画像信号をエンコーダ６４１で例えばMPEG方式により符号化したりする。画像信号処理部６１４は、画像信号を符号化して生成した符号化データを、デコーダ６１５に供給する。さらに、画像信号処理部６１４は、オンスクリーンディスプレイ（OSD）６２０において生成された表示用データを取得し、それをデコーダ６１５に供給する。

以上の処理において、カメラ信号処理部６１３は、バス６１７を介して接続されるDRAM（Dynamic Random Access Memory）６１８を適宜利用し、必要に応じて画像データや、その画像データが符号化された符号化データ等をそのDRAM６１８に保持させる。

デコーダ６１５は、画像信号処理部６１４から供給された符号化データを復号し、得られた画像データ（復号画像データ）をLCD６１６に供給する。また、デコーダ６１５は、画像信号処理部６１４から供給された表示用データをLCD６１６に供給する。LCD６１６は、デコーダ６１５から供給された復号画像データの画像と表示用データの画像を適宜合成し、その合成画像を表示する。

オンスクリーンディスプレイ６２０は、コントローラ６２１の制御の下、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを、バス６１７を介して画像信号処理部６１４に出力する。

コントローラ６２１は、ユーザが操作部６２２を用いて指令した内容を示す信号に基づいて、各種処理を実行するとともに、バス６１７を介して、画像信号処理部６１４、DRAM６１８、外部インタフェース６１９、オンスクリーンディスプレイ６２０、およびメディアドライブ６２３等を制御する。FLASH ROM６２４には、コントローラ６２１が各種処理を実行する上で必要なプログラムやデータ等が格納される。

例えば、コントローラ６２１は、画像信号処理部６１４やデコーダ６１５に代わって、DRAM６１８に記憶されている画像データを符号化したり、DRAM６１８に記憶されている符号化データを復号したりすることができる。このとき、コントローラ６２１は、画像信号処理部６１４やデコーダ６１５の符号化・復号方式と同様の方式によって符号化・復号処理を行うようにしてもよいし、画像信号処理部６１４やデコーダ６１５が対応していない方式により符号化・復号処理を行うようにしてもよい。

また、例えば、操作部６２２から画像印刷の開始が指示された場合、コントローラ６２１は、DRAM６１８から画像データを読み出し、それを、バス６１７を介して外部インタフェース６１９に接続されるプリンタ６３４に供給して印刷させる。

さらに、例えば、操作部６２２から画像記録が指示された場合、コントローラ６２１は、DRAM６１８から符号化データを読み出し、それを、バス６１７を介してメディアドライブ６２３に装着される記録メディア６３３に供給して記憶させる。

記録メディア６３３は、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアである。記録メディア６３３は、もちろん、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触ICカード等であっても良い。

また、メディアドライブ６２３と記録メディア６３３を一体化し、例えば、内蔵型ハードディスクドライブやSSD（Solid State Drive）等のように、非可搬性の記憶媒体により構成されるようにしてもよい。

外部インタフェース６１９は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタ６３４と接続される。また、外部インタフェース６１９には、必要に応じてドライブ６３１が接続され、磁気ディスク、光ディスク、あるいは光磁気ディスクなどのリムーバブルメディア６３２が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、FLASH ROM６２４にインストールされる。

さらに、外部インタフェース６１９は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。コントローラ６２１は、例えば、操作部６２２からの指示に従って、DRAM６１８から符号化データを読み出し、それを外部インタフェース６１９から、ネットワークを介して接続される他の装置に供給させることができる。また、コントローラ６２１は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース６１９を介して取得し、それをDRAM６１８に保持させたり、画像信号処理部６１４に供給したりすることができる。

以上のようなカメラ６００は、デコーダ６１５として画像復号装置１０１を用いる。したがって、デコーダ６１５は、画像復号装置１０１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

したがって、カメラ６００は、処理の高速化を実現するとともに、精度の高い予測画像を生成することができる。その結果として、カメラ６００は、例えば、CCD/CMOS６１２において生成された画像データや、DRAM６１８または記録メディア６３３から読み出されたビデオデータの符号化データや、ネットワークを介して取得したビデオデータの符号化データから、より高精細な復号画像を得て、LCD６１６に表示させることができる。

また、カメラ６００は、エンコーダ６４１として画像符号化装置５１を用いる。したがって、エンコーダ６４１は、画像符号化装置５１の場合と同様に、マルチ参照フレームのインターテンプレート予測モードでの動き予測・補償処理を行う際に、時間軸上１つ前の参照フレームで求められた動きベクトル情報を用いて、次の参照フレームにおける探索中心を求め、それを利用して動き探索を行う。これにより、符号化効率の低下を最小限に抑えながら、演算量の削減を実現することができる。

したがって、カメラ６００は、例えば、処理の高速化を実現させるとともに、ハードディスクに記録する符号化データの符号化効率をことができる。その結果として、カメラ６００は、DRAM６１８や記録メディア６３３の記憶領域をより効率よく使用することができる。

なお、コントローラ６２１が行う復号処理に画像復号装置１０１の復号方法を適用するようにしてもよい。同様に、コントローラ６２１が行う符号化処理に画像符号化装置５１の符号化方法を適用するようにしてもよい。

また、カメラ６００が撮像する画像データは動画像であってもよいし、静止画像であってもよい。

もちろん、画像符号化装置５１および画像復号装置１０１は、上述した装置以外の装置やシステムにも適用可能である。

５１ 画像符号化装置， ６６ 可逆符号化部， ７４ イントラ予測部， ７５ 動き予測・補償部， ７６ テンプレート動き予測・補償部， ７７ ＭＲＦ探索中心算出部， ７８ 予測画像選択部， １０１ 画像復号装置， １１２ 可逆復号部， １２１ イントラ予測部， １２２ 動き予測・補償部， １２３ テンプレート動き予測・補償部， １２４ ＭＲＦ探索中心算出部， １２５ スイッチ

Claims (11)

1. フレームの第１の対象ブロックの第１の参照フレームで探索された前記第１の対象ブロックの動きベクトルを用いて、前記フレームに対する時間軸上の距離が前記第１の参照フレームの次に近い第２の参照フレームにおける探索中心を算出する探索中心算出部と、
   前記探索中心算出部により算出された前記第２の参照フレームにおける前記探索中心の周辺の所定の探索範囲で、前記第１の対象ブロックの動きベクトルを、前記第１の対象ブロックに対して所定の位置関係で隣接するとともに復号画像から生成されるテンプレートを利用して探索する動き予測部と
   を備える画像処理装置。
2. 前記探索中心算出部は、前記第１の参照フレームで前記動き予測部により探索された前記第１の対象ブロックの動きベクトルを、前記フレームに対する時間軸上の距離でスケーリングすることで、前記第２の参照フレームにおける前記探索中心を算出する
   請求項１に記載の画像処理装置。
3. 前記フレームと参照ピクチャ番号ref_id=k-1の前記第１の参照フレームとの時間軸上の距離をt_k-1とし、前記フレームと参照ピクチャ番号ref_id=kの前記第２の参照フレームとの時間軸上の距離をt_kとし、前記第１の参照フレームで前記動き予測部により探索された前記第１の対象ブロックの動きベクトルをtmmv_k-1としたとき、
   前記探索中心算出部は、
   

   

   として前記探索中心mv_cを算出し、
   前記動き予測部は、前記探索中心算出部により算出された前記第２の参照フレームにおける前記探索中心mv_cの周辺の所定の探索範囲で、前記第１の対象ブロックの動きベクトルを、前記テンプレートを利用して探索する
   請求項２に記載の画像処理装置。
4. 前記探索中心算出部は、t_k/t_k-1の値を、N/2^M(N,Mは整数)の形で近似することにより、前記探索中心mv_cの算出を、シフト演算のみで行う
   請求項３に記載の画像処理装置。
5. 前記時間軸上の距離t_k,t_k-1として、POC(Picture Order Count)を用いる
   請求項３に記載の画像処理装置。
6. 画像圧縮情報中に参照ピクチャ番号ref_idに相当するパラメータがない場合、前方向、後方向予測共に、時間軸上で前記フレームに近い順の参照フレームから処理を行う
   請求項３に記載の画像復号装置。
7. 前記動き予測部は、前記フレームに時間軸上の距離が最も近い前記第１の参照フレームにおいては、前記第１の対象ブロックの動きベクトルを、前記テンプレートを利用して所定の範囲で探索する
   請求項２に記載の画像処理装置。
8. 前記動き予測部は、前記第２の参照フレームがLong Term Reference Pictureである場合、前記第２の参照フレームにおいては、前記第１の対象ブロックの動きベクトルを、前記テンプレートを利用して所定の範囲で探索する
   請求項２に記載の画像処理装置。
9. 符号化された動きベクトルの情報を復号する復号部と、
   前記復号部により復号された前記フレームの第２の対象ブロックの動きベクトルを用いて予測画像を生成する予測画像生成部と
   をさらに備える請求項２に記載の画像処理装置。
10. 前記動き予測部は、前記フレームの第２の対象ブロックの動きベクトルを、前記第２の対象ブロックを利用して探索し、
    前記動き予測部により探索された前記第１の対象ブロックの動きベクトルに基づく予測画像と、前記動き予測部により探索された前記第２の対象ブロックの動きベクトルに基づく予測画像のうちの一方を選択する画像選択部とをさらに備える
    請求項２に記載の画像処理装置。
11. 画像処理装置が、
    フレームの対象ブロックの第１の参照フレームで探索された前記対象ブロックの動きベクトルを用いて、前記フレームに対する時間軸上の距離が前記第１の参照フレームの次に近い第２の参照フレームにおける探索中心を算出し、
    算出された前記第２の参照フレームにおける前記探索中心の周辺の所定の探索範囲で、前記対象ブロックの動きベクトルを、前記対象ブロックに対して所定の位置関係で隣接するとともに復号画像から生成されるテンプレートを利用して探索するステップを
    含む画像処理方法。

Images