JP5988071B2 - 画像処理装置および方法、並びに、プログラム - Google Patents

Description

本発明は、画像処理装置および方法、並びに、プログラムに関し、特に、符号化効率を向上させることができるようにした画像処理装置および方法、並びに、プログラムに関する。

近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG（Moving Picture Experts Group）などの方式に準拠した装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及しつつある。

特に、MPEG2（ISO（International Organization for Standardization）/IEC（International Electrotechnical Commission） 13818-2）は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば７２０×４８０画素を持つ標準解像度の飛び越し走査画像であれば４〜８Ｍｂｐｓ、１９２０×１０８８画素を持つ高解像度の飛び越し走査画像であれば１８〜２２Ｍｂｐｓの符号量（ビットレート）を割り当てることで、高い圧縮率と良好な画質の実現が可能である。

MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量（ビットレート）、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、１９９８年１２月にISO/IEC 14496-2としてその規格が国際標準に承認された。

更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L （ITU-T（International Telecommunication Union Telecommunication Standardization Sector） Q6/16 VCEG（Video Coding Expert Group））という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、現在、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われている。

標準化のスケジュールとしては、２００３年３月にはH.264及びMPEG-4 Part10 （Advanced Video Coding、以下AVCと記す）という名の元に国際標準となった。

ところで、AVCにおけるメディアン予測を用いた動きベクトルの符号化を改善するため、AVCにおいて定義されている、メディアン予測により求められる”Spatial Predictor”に加え、”Temporal Predictor”及び”Spatio-Temporal Predictor”のどれかを、予測動きベクトル情報として、適応的に用いることが提案されている（例えば、非特許文献１参照）。

画像情報符号化装置においては、それぞれのブロックに関して、それぞれの予測動きベクトル情報を用いた場合のコスト関数が算出され、最適な予測動きベクトル情報の選択が行われる。画像圧縮情報においては、それぞれのブロックに対し、どの予測動きベクトル情報が用いられたかに関する情報を示すフラグ情報が伝送される。

ところで、マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；4000画素×2000画素）といった大きな画枠に対しては、最適ではない恐れがあった。

そこで、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC（Joint Collaboration Team - Video Coding）により、HEVC（High Efficiency Video Coding）と呼ばれる符号化方式の標準化が進められている（例えば、非特許文献２参照）。

このHEVC符号化方式においては、AVCにおけるマクロブロックと同様の処理単位としてコーディングユニット（CU（Coding Unit））が定義されている。このCUは、AVCのマクロブロックのようにサイズが16×16画素に固定されず、それぞれのシーケンスにおいて、画像圧縮情報中において指定される。

CUは、最大のLCU（Largest Coding Unit）から最小のSCU（Smallest Coding Unit）まで階層的に構成される。つまり、概ね、LCUがAVCのマクロブロックに相当し、そのLCUより下の階層のCU（LCUより小さなCU）がAVCのサブマクロブロックに相当すると考えることもできる。

ところで、動きベクトル（MV）の符号化では通常、MVをそのままデコーダに送るのではなく、予測動きベクトル（PMV）との差分ベクトル（MVD）を可逆符号化してデコーダに送る。Advanced MV prediction（AMVP）若しくはMV competitionと呼ばれる技術では、２個以上のPMVの候補がある時、PMVを特定するindex（pmv_index）をストリームに含める（例えば、非特許文献２参照）。

PMVの候補には、同じ時間であるフレーム内の近いブロックのMV（spatial_pmv）若しくは、符号化済みの当該フレームと異なる時間のブロックのMV（temporal_pmv）がある。pmv_indexを符号化する際、通常、pmv_indexの値が小さい方が符号化後のビット量を少なくすることができる。

従って、高い符号化効率を得るためには、指定する頻度がより多いPMV候補により小さいpmv_indexを割り当てるのが望ましい。

Joel Jung,Guillaume Laroche,"Competition-Based Scheme for Motion Vector Selection and Coding", VCEG-AC06,ITU - Telecommunications Standardization SectorSTUDY GROUP 16 Question 6Video Coding Experts Group (VCEG)29th Meeting: Klagenfurt, Austria, 17-18 July, 2006 "Test Model under Consideration",JCTVC-B205,Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG112nd Meeting:Geneva,CH,21-28 July, 2010

しかしながら、PMV候補の指定される頻度は、画像の内容に依存する。したがって、例えば、temporal_pmvとspatial_pmvのどちらを優先させるようにコード番号を割り当てても（どちらに小さいコード番号を割り当てても）、画像の内容によっては符号化効率が低減する恐れがあった。問題がある。

例えば、temporal_pmvに大きい（spatial_pmvに小さい）コード番号を割り振ると、当該ブロックの周囲に動きの切れ目があるなどしてtemporal_pmvをPMVに指定したい時に符号量が増大する恐れがあった。

逆に、spatial_pmvに大きい（temporal_pmvに小さい）コード番号を割り振ると、例えばカメラのパンが止まったりしてspatial_pmvをPMVに指定したい時に符号量が増大する恐れがあった。

本発明は、このような状況に鑑みてなされたものであり、表示順序で近いフレーム間の動きは類似する可能性が高いことを利用して、当該ピクチャとtemporal_pmvを含むピクチャ（アンカーピクチャ）間の表示順序が近い場合、temporal_pmvに小さいコード番号を割り振り、当該ピクチャとアンカーピクチャとの間の表示順序が遠い場合、spatial_pmvに小さいコード番号を割り振るようにすることにより、符号化効率の低減を抑制することができるようにすることを目的とする。

本発明の一側面は、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを選択するテーブル選択部と、前記テーブル選択部により選択された前記テーブルを用いて、前記予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列を割り当てることにより、前記予測動きベクトル選択情報を２値化する２値化部と、前記テーブル選択部により選択された前記テーブルを示す情報を、前記２値化部により２値化された前記予測動きベクトル選択情報の符号化データの供給先に供給する供給部とを備える画像処理装置である。

前記テーブル選択部は、所定のパラメータに基づいて前記テーブルを選択することができる。

前記テーブル選択部は、前記パラメータと閾値との比較結果に基づいて前記テーブルを選択することができる。

前記閾値は可変であり、前記テーブル選択部は、前記パラメータと設定された前記閾値との比較結果に基づいて前記テーブルを選択することができる。

前記閾値は所定の処理単位毎に設定されるようにすることができる。

前記供給部は、前記閾値を前記供給先に供給することができる。

前記テーブル選択部は、前記パラメータと複数の閾値との比較結果に基づいて前記テーブルを選択することができる。

前記パラメータは、前記予測動きベクトルが生成される当該ブロックを含むピクチャである当該ピクチャとアンカーピクチャとの距離であるようにすることができる。

前記パラメータは、周辺予測動きベクトル同士の類似度であるようにすることができる。

前記パラメータは、前記予測動きベクトル選択情報のコスト関数値であるようにすることができる。

前記２値化部により前記予測動きベクトル選択情報が２値化されて得られた２値データを符号化する符号化部をさらに備え、前記供給部は、前記符号化部により前記２値データが符号化されて得られた前記符号化データを前記供給先に供給することができる。

本発明の一側面は、また、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを選択し、選択された前記テーブルを用いて、前記予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列を割り当てることにより、前記予測動きベクトル選択情報を２値化し、選択された前記テーブルを示す情報を、２値化された前記予測動きベクトル選択情報の符号化データの供給先に供給する画像処理方法である。

本発明の一側面は、さらに、コンピュータを、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを選択するテーブル選択部と、前記テーブル選択部により選択された前記テーブルを用いて、前記予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列を割り当てることにより、前記予測動きベクトル選択情報を２値化する２値化部と、前記テーブル選択部により選択された前記テーブルを示す情報を、前記２値化部により２値化された前記予測動きベクトル選択情報の符号化データの供給先に供給する供給部として機能させるためのプログラムである。

本発明の他の側面は、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報を取得する取得部と、前記取得部により取得された前記テーブルを用いて、前記テーブルに基づいて前記予測動きベクトル選択情報に割り当てられた前記ビット系列を逆２値化する逆２値化部とを備える画像処理装置である。
前記予測動きベクトル選択情報に割り当てられた前記ビット系列が符号化された符号化データを復号する復号部をさらに備え、前記逆２値化部は、前記取得部により取得された前記テーブルを用いて、前記復号部により前記符号化データが復号されて得られた前記ビット系列を逆２値化することができる。

本発明の他の側面は、また、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報を取得し、取得された前記テーブルを用いて、前記テーブルに基づいて前記予測動きベクトル選択情報に割り当てられた前記ビット系列を逆２値化する画像処理方法である。

本発明の他の側面は、さらに、コンピュータを、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報を取得する取得部と、前記取得部により取得された前記テーブルを用いて、前記テーブルに基づいて前記予測動きベクトル選択情報に割り当てられた前記ビット系列を逆２値化する逆２値化部として機能させるためのプログラムである。

本発明の一側面においては、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルが選択され、選択されたテーブルが用いられて、予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列が割り当てられることにより、予測動きベクトル選択情報が２値化され、選択されたテーブルを示す情報が、２値化された予測動きベクトル選択情報の符号化データの供給先に供給される。

本発明の他の側面においては、予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報が取得され、取得されたテーブルが用いられて、テーブルに基づいて予測動きベクトル選択情報に割り当てられたビット系列が逆２値化される。

本発明によれば、画像を処理することができる。特に、符号化効率を向上させることができる。

AVC符号化方式に基づく画像圧縮情報を出力する画像符号化装置を示すブロック図である。 AVC符号化方式に基づく画像圧縮情報を入力とする画像復号装置を示すブロック図である。 小数点画素精度の動き予測・補償処理の例を示す図である。 マクロブロックの例を示す図である。 メディアンオペレーションの様子の例を説明する図である。 マルチ参照フレームの例を説明する図である。 テンポラルダイレクトモードの様子の例を説明する図である。 非特許文献１において提案されている動きベクトル符号化方法の様子の例を説明する図である。 コーディングユニットの構成例を説明する図である。 本実施の画像符号化装置の主な構成例を示すブロック図である。 AMVPのPMVの候補の例を説明する図である。 当該ピクチャとアンカーピクチャとの表示順の差と、MV_Tmpとの関係を説明する図である。 当該ピクチャとアンカーピクチャとの表示順の差と、MV_Tmpとの関係を説明する図である。 図１１の可逆符号化部および割り当て制御部の主な構成例を示すブロック図である。 コード番号およびビット系列の割り当て方の例を説明する図である。 符号化処理の流れの例を説明するフローチャートである。 可逆符号化処理の流れの例を説明するフローチャートである。 インター予測モード情報符号化処理の流れの例を説明するフローチャートである。 本実施の画像復号装置の主な構成例を示すブロック図である。 図１９の可逆復号部および割り当て制御部の主な構成例を示すブロック図である。 復号処理の流れの例を説明するフローチャートである。 可逆復号処理の流れの例を説明するフローチャートである。 インター予測モード情報復号処理の流れの例を説明するフローチャートである。 コード番号およびビット系列の割り当て方の他の例を説明する図である。 コード番号およびビット系列の割り当て方の、さらに他の例を説明する図である。 図１１の可逆符号化部および割り当て制御部の他の構成例を示すブロック図である。 周辺の動きベクトルの関係の例を説明する図である。 周辺の動きベクトルの関係の他の例を説明する図である。 周辺の動きベクトルの関係の、さらに他の例を説明する図である。 周辺の動きベクトルの関係の、さらに他の例を説明する図である。 周辺の動きベクトルの関係の、さらに他の例を説明する図である。 インター予測モード情報符号化処理の流れの、他の例を説明するフローチャートである。 図１９の可逆復号部および割り当て制御部の他の構成例を示すブロック図である。 インター予測モード情報復号処理の流れの、他の例を説明するフローチャートである。 図１１の可逆符号化部および割り当て制御部の、さらに他の構成例を示すブロック図である。 インター予測モード情報符号化処理の流れの、さらに他の例を説明するフローチャートである。 図１９の可逆復号部のさらに他の構成例を示すブロック図である。 インター予測モード情報復号処理の流れの、さらに他の例を説明するフローチャートである。 本実施のパーソナルコンピュータの主な構成例を示すブロック図である。 本実施のテレビジョン受像機の主な構成例を示すブロック図である。 本実施の携帯電話機の主な構成例を示すブロック図である。 本実施のハードディスクレコーダの主な構成例を示すブロック図である。 本発明を適用したカメラの主な構成例を示すブロック図である。

以下、発明を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（画像符号化装置・画像復号装置）
２．第２の実施の形態（画像符号化装置・画像復号装置）
３．第３の実施の形態（画像符号化装置・画像復号装置）
４．第４の実施の形態（パーソナルコンピュータ）
５．第５の実施の形態（テレビジョン受像機）
６．第６の実施の形態（携帯電話機）
７．第７の実施の形態（ハードディスクレコーダ）
８．第８の実施の形態（カメラ）

＜１．第１の実施の形態＞
［AVC符号化方式の画像符号化装置］
図１は、H．264及びMPEG（Moving Picture Experts Group）4 Part10（AVC（Advanced Video Coding））符号化方式により画像を符号化する画像符号化装置の一実施の形態の構成を表している。

図１に示される画像符号化装置１００は、AVC規格に基づいた符号化方式で画像を符号化し、出力する装置である。図１に示されるように、画像符号化装置１００は、A/D変換部１０１、画面並べ替えバッファ１０２、演算部１０３、直交変換部１０４、量子化部１０５、可逆符号化部１０６、および蓄積バッファ１０７を有する。また、画像符号化装置１００は、逆量子化部１０８、逆直交変換部１０９、演算部１１０、デブロックフィルタ１１１、フレームメモリ１１２、選択部１１３、イントラ予測部１１４、動き予測・補償部１１５、選択部１１６、およびレート制御部１１７を有する。

A/D変換部１０１は、入力された画像データをA/D変換し、画面並べ替えバッファ１０２に出力し、記憶させる。画面並べ替えバッファ１０２は、記憶した表示の順番のフレームの画像を、GOP（Group of Picture）構造に応じて、符号化のためのフレームの順番に並べ替える。

画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、演算部１０３に供給する。また、画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、イントラ予測部１１４および動き予測・補償部１１５にも供給する。

演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を減算し、その差分情報を直交変換部１０４に出力する。

例えば、イントラ符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、イントラ予測部１１４から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、動き予測・補償部１１５から供給される予測画像を減算する。

直交変換部１０４は、演算部１０３から供給される差分情報に対して、離散コサイン変換、カルーネン・レーベ変換等の直交変換を施し、その変換係数を量子化部１０５に供給する。

量子化部１０５は、直交変換部１０４が出力する変換係数を量子化する。量子化部１０５は、レート制御部１１７から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、量子化を行う。量子化部１０５は、量子化された変換係数を可逆符号化部１０６に供給する。

可逆符号化部１０６は、その量子化された変換係数に対して、可変長符号化、算術符号化等の可逆符号化を施す。係数データは、レート制御部１１７の制御の下で量子化されているので、この符号量は、レート制御部１１７が設定した目標値となる（若しくは目標値に近似する）。

可逆符号化部１０６は、イントラ予測を示す情報などをイントラ予測部１１４から取得し、インター予測モードを示す情報や動きベクトル情報などを動き予測・補償部１１５から取得する。なお、イントラ予測（画面内予測）を示す情報は、以下、イントラ予測モード情報とも称する。また、インター予測（画面間予測）を示す情報モードを示す情報は、以下、インター予測モード情報とも称する。

可逆符号化部１０６は、量子化された変換係数を符号化するとともに、フィルタ係数、イントラ予測モード情報、インター予測モード情報、および量子化パラメータなどの各種情報を、符号化データのヘッダ情報の一部とする（多重化する）。可逆符号化部１０６は、符号化して得られた符号化データを蓄積バッファ１０７に供給して蓄積させる。

例えば、可逆符号化部１０６においては、可変長符号化または算術符号化等の可逆符号化処理が行われる。可変長符号化としては、H．264/AVC方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などがあげられる。算術符号化としては、CABAC（Context-Adaptive Binary Arithmetic Coding）などがあげられる。

蓄積バッファ１０７は、可逆符号化部１０６から供給された符号化データを、一時的に保持し、所定のタイミングにおいて、H．264/AVC方式で符号化された符号化画像として、例えば、後段の図示せぬ記録装置や伝送路などに出力する。

また、量子化部１０５において量子化された変換係数は、逆量子化部１０８にも供給される。逆量子化部１０８は、その量子化された変換係数を、量子化部１０５による量子化に対応する方法で逆量子化する。逆量子化部１０８は、得られた変換係数を、逆直交変換部１０９に供給する。

逆直交変換部１０９は、供給された変換係数を、直交変換部１０４による直交変換処理に対応する方法で逆直交変換する。逆直交変換された出力（復元された差分情報）は、演算部１１０に供給される。

演算部１１０は、逆直交変換部１０９より供給された逆直交変換結果、すなわち、復元された差分情報に、選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を加算し、局部的に復号された画像（復号画像）を得る。

例えば、差分情報が、イントラ符号化が行われる画像に対応する場合、演算部１１０は、その差分情報にイントラ予測部１１４から供給される予測画像を加算する。また、例えば、差分情報が、インター符号化が行われる画像に対応する場合、演算部１１０は、その差分情報に動き予測・補償部１１５から供給される予測画像を加算する。

その加算結果は、デブロックフィルタ１１１またはフレームメモリ１１２に供給される。

デブロックフィルタ１１１は、適宜デブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。デブロックフィルタ１１１は、そのフィルタ処理結果をフレームメモリ１１２に供給する。なお、演算部１１０から出力される復号画像は、デブロックフィルタ１１１を介さずにフレームメモリ１１２に供給することができる。すなわち、デブロックフィルタ１１１のデブロックフィルタ処理は省略することができる。

フレームメモリ１１２は、供給される復号画像を記憶し、所定のタイミングにおいて、記憶している復号画像を参照画像として、選択部１１３を介してイントラ予測部１１４または動き予測・補償部１１５に出力する。

例えば、イントラ符号化が行われる画像の場合、フレームメモリ１１２は、参照画像を、選択部１１３を介してイントラ予測部１１４に供給する。また、例えば、インター符号化が行われる場合、フレームメモリ１１２は、参照画像を、選択部１１３を介して動き予測・補償部１１５に供給する。

選択部１１３は、フレームメモリ１１２から供給される参照画像がイントラ符号化を行う画像である場合、その参照画像をイントラ予測部１１４に供給する。また、選択部１１３は、フレームメモリ１１２から供給される参照画像がインター符号化を行う画像である場合、その参照画像を動き予測・補償部１１５に供給する。

イントラ予測部１１４は、選択部１１３を介してフレームメモリ１１２から供給される処理対象ピクチャ内の画素値を用いて予測画像を生成するイントラ予測（画面内予測）を行う。イントラ予測部１１４は、予め用意された複数のモード（イントラ予測モード）でこのイントラ予測を行う。

H.264画像情報符号化方式において、輝度信号に対しては、イントラ4×4予測モード、イントラ8×8予測モード及びイントラ16×16予測モードが定義されており、また、色差信号に関しては、それぞれのマクロブロックごとに、輝度信号とは独立した予測モードを定義することが可能である。イントラ4×4予測モードについては、それぞれの4×4輝度ブロックに対して、イントラ8×8予測モードについては、それぞれの8×8輝度ブロックに対して、１つのイントラ予測モードが定義されることになる。イントラ16×16予測モード、並びに、色差信号に対しては、１つのマクロブロックに対して、それぞれ１つの予測モードが定義されることになる。

イントラ予測部１１４は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ１０２から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部１１４は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、選択部１１６を介して演算部１０３や演算部１１０に供給する。

また、上述したように、イントラ予測部１１４は、採用されたイントラ予測モードを示すイントラ予測モード情報等の情報を、適宜可逆符号化部１０６に供給する。

動き予測・補償部１１５は、インター符号化が行われる画像について、画面並べ替えバッファ１０２から供給される入力画像と、選択部１１３を介してフレームメモリ１１２から供給される参照画像とを用いて、動き予測（インター予測）を行い、検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。動き予測・補償部１１５は、予め用意された複数のモード（インター予測モード）でこのようなインター予測を行う。

動き予測・補償部１１５は、候補となる全てのインター予測モードで予測画像を生成し、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部１１５は、生成された予測画像を、選択部１１６を介して演算部１０３や演算部１１０に供給する。

また、動き予測・補償部１１５は、採用されたインター予測モードを示すインター予測モード情報や、算出した動きベクトルを示す動きベクトル情報を可逆符号化部１０６に供給する。

選択部１１６は、イントラ符号化を行う画像の場合、イントラ予測部１１４の出力を演算部１０３や演算部１１０に供給し、インター符号化を行う画像の場合、動き予測・補償部１１５の出力を演算部１０３や演算部１１０に供給する。

レート制御部１１７は、蓄積バッファ１０７に蓄積された圧縮画像に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。

［AVC符号化方式の画像復号装置］
図２は、離散コサイン変換若しくはカルーネン・レーベ変換等の直交変換と動き補償により画像圧縮を実現する画像復号装置の主な構成例を示すブロック図である。図２に示される画像復号装置２００は、図１の画像符号化装置１００に対応する復号装置である。

画像符号化装置１００より符号化された符号化データは、例えば伝送路や記録媒体等、任意の経路を介して、この画像符号化装置１００に対応する画像復号装置２００に供給され、復号される。

図２に示されるように、画像復号装置２００は、蓄積バッファ２０１、可逆復号部２０２、逆量子化部２０３、逆直交変換部２０４、演算部２０５、デブロックフィルタ２０６、画面並べ替えバッファ２０７、およびD/A変換部２０８を有する。また、画像復号装置２００は、フレームメモリ２０９、選択部２１０、イントラ予測部２１１、動き予測・補償部２１２、および選択部２１３を有する。

蓄積バッファ２０１は、伝送されてきた符号化データを蓄積する。この符号化データは、画像符号化装置１００により符号化されたものである。可逆復号部２０２は、蓄積バッファ２０１から所定のタイミングで読み出された符号化データを、図１の可逆符号化部１０６の符号化方式に対応する方式で復号する。

また、当該フレームがイントラ符号化されたものである場合、符号化データのヘッダ部にはイントラ予測モード情報が格納されている。可逆復号部２０２は、このイントラ予測モード情報も復号し、その情報をイントラ予測部２１１に供給する。これに対して、当該フレームがインター符号化されたものである場合、符号化データのヘッダ部には動きベクトル情報が格納されている。可逆復号部２０２は、この動きベクトル情報も復号し、その情報を動き予測・補償部２１２に供給する。

逆量子化部２０３は、可逆復号部２０２により復号されて得られた係数データ（量子化係数）を、図１の量子化部１０５の量子化方式に対応する方式で逆量子化する。つまり、逆量子化部２０３は、図１の逆量子化部１０８と同様の方法で量子化係数の逆量子化を行う。

逆量子化部２０３は、逆量子化された係数データ、つまり、直交変換係数を、逆直交変換部２０４に供給する。逆直交変換部２０４は、図１の直交変換部１０４の直交変換方式に対応する方式（図１の逆直交変換部１０９と同様の方式）で、その直交変換係数を逆直交変換し、画像符号化装置１００において直交変換される前の残差データに対応する復号残差データを得る。例えば、４次の逆直交変換が施される。

逆直交変換されて得られた復号残差データは、演算部２０５に供給される。また、演算部２０５には、選択部２１３を介して、イントラ予測部２１１若しくは動き予測・補償部２１２から予測画像が供給される。

演算部２０５は、その復号残差データと予測画像とを加算し、画像符号化装置１００の演算部１０３により予測画像が減算される前の画像データに対応する復号画像データを得る。演算部２０５は、その復号画像データをデブロックフィルタ２０６に供給する。

デブロックフィルタ２０６は、供給された復号画像のブロック歪を除去した後、画面並べ替えバッファ２０７に供給する。

画面並べ替えバッファ２０７は、画像の並べ替えを行う。すなわち、図１の画面並べ替えバッファ１０２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部２０８は、画面並べ替えバッファ２０７から供給された画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。

デブロックフィルタ２０６の出力は、さらに、フレームメモリ２０９に供給される。

フレームメモリ２０９、選択部２１０、イントラ予測部２１１、動き予測・補償部２１２、および選択部２１３は、画像符号化装置１００のフレームメモリ１１２、選択部１１３、イントラ予測部１１４、動き予測・補償部１１５、および選択部１１６にそれぞれ対応する。

選択部２１０は、インター処理される画像と参照される画像をフレームメモリ２０９から読み出し、動き予測・補償部２１２に供給する。また、選択部２１０は、イントラ予測に用いられる画像をフレームメモリ２０９から読み出し、イントラ予測部２１１に供給する。

イントラ予測部２１１には、ヘッダ情報を復号して得られたイントラ予測モードを示す情報等が可逆復号部２０２から適宜供給される。イントラ予測部２１１は、この情報に基づいて、フレームメモリ２０９から取得した参照画像から予測画像を生成し、生成した予測画像を選択部２１３に供給する。

動き予測・補償部２１２は、ヘッダ情報を復号して得られた情報（予測モード情報、動きベクトル情報、参照フレーム情報、フラグ、および各種パラメータ等）を可逆復号部２０２から取得する。

動き予測・補償部２１２は、可逆復号部２０２から供給されるそれらの情報に基づいて、フレームメモリ２０９から取得した参照画像から予測画像を生成し、生成した予測画像を選択部２１３に供給する。

選択部２１３は、動き予測・補償部２１２またはイントラ予測部２１１により生成された予測画像を選択し、演算部２０５に供給する。

［少数画素精度の動き予測・補償処理］
ところで、MPEG2等の符号化方式においては、線形内挿処理により、１／２画素精度の動き予測・補償処理を行っているが、AVC符号化方式においては、これが、６タップのFIRフィルタを用いた１／４画素精度の動き予測・補償処理を行っており、これにより、符号化効率が向上している。

図３は、AVC符号化方式において規定されている、１／４画素精度の動き予測・補償処理の様子の例を説明する図である。図３において、各四角は、画素を示している。その内、Ａはフレームメモリ１１２に格納されている整数精度画素の位置を示し、b,c,dは、１／２画素精度の位置を示し、e₁,e₂,e₃は１／４画素精度の位置を示している。

以下においては、関数Clip1()を以下の式（１）のように定義する。

・・・（１）

例えば、入力画像が８ビット精度である場合、式（１）のmax_pixの値は２５５となる。

b及びdの位置における画素値は、６tapのFIRフィルタを用いて、以下の式（２）および式（３）のように生成される。

・・・（２）

・・・（３）

cの位置における画素値は、水平方向及び垂直方向に６tapのFIRフィルタを適用し、以下の式（４）乃至式（６）のように生成される。

・・・（４）
もしくは、

・・・（５）

・・・（６）

なお、Clip処理は、水平方向及び垂直方向の積和処理の両方を行った後、最後に１度のみ行われる。

e₁乃至e₃は、以下の式（７）乃至式（９）のように、線形内挿により生成される。

・・・（７）

・・・（８）

・・・（９）

［動き予測・補償処理］
また、MPEG2においては、動き予測・補償処理の単位は、フレーム動き補償モードの場合には１６×１６画素、フィールド動き補償モードの場合には第一フィールド、第二フィールドのそれぞれに対し、１６×８画素を単位として動き予測・補償処理が行なわれる。

これに対し、AVCにおいては、図４に示されるように、１６×１６画素により構成される１つのマクロブロックを、１６×１６、１６×８、８×１６若しくは８×８のいずれかのパーティションに分割し、サブマクロブロック毎に、互いに独立した動きベクトル情報を持つことが可能である。更に、８×８パーティションに関しては、図４に示されるとおり、８×８、８×４、４×８、４×４のいずれかのサブマクロブロックに分割し、それぞれ独立した動きベクトル情報を持つことが可能である。

しかしながら、AVC画像符号化方式において、MPEG2の場合と同様に、かかるような動き予測・補償処理が行なわれるようにすると、膨大な動きベクトル情報が生成されてしまう恐れがあった。そして、その生成された動きベクトル情報をこのまま符号化することは、符号化効率の低下を招く恐れがあった。

［動きベクトルのメディアン予測］
かかる問題を解決する手法として、AVC画像符号化においては、以下のような手法により、動きベクトルの符号化情報の低減が実現されている。

図５に示される各直線は、動き補償ブロックの境界を示している。また、図５において、Ｅはこれから符号化されようとしている当該動き補償ブロックを示し、Ａ乃至Ｄは、それぞれ、既に符号化済の、Ｅに隣接する動き補償ブロックを示す。

今、Ｘ＝Ａ，Ｂ，Ｃ，Ｄ，Ｅとして、Ｘに対する動きベクトル情報を、mv_xとする。

まず、動き補償ブロックＡ，Ｂ、およびＣに関する動きベクトル情報を用い、動き補償ブロックＥに対する予測動きベクトル情報pmv_Eを、メディアンオペレーションにより、以下の式（１０）のように生成する。

・・・（１０）

動き補償ブロックＣに関する情報が、画枠の端である等の理由により“unavailable”である場合、動き補償ブロックＤに関する情報で代用される。

画像圧縮情報に、動き補償ブロックＥに対する動きベクトル情報として符号化されるデータmvd_Eは、pmv_Eを用いて、以下の式（１１）のように生成される。

・・・（１１）

なお、実際の処理は、動きベクトル情報の水平方向および垂直方向のそれぞれの成分に対して、独立に処理が行なわれる。

［マルチ参照フレーム］
また、AVCにおいては、Multi-Reference Frame（マルチ（複数）参照フレーム）という、MPEG2やH.263等、従来の画像符号化方式では規定されていなかった方式が規定されている。

図６を用いて、AVCにおいて規定されている、マルチ参照フレーム（Multi-Reference Frame）を説明する。

すなわち、MPEG-2やH.263においては、Ｐピクチャの場合、フレームメモリに格納された参照フレーム１枚のみを参照することにより動き予測・補償処理が行われていたが、AVCにおいては、図５に示されるように、複数の参照フレームがメモリに格納され、マクロブロック毎に、異なるメモリを参照することが可能である。

［ダイレクトモード］
ところで、Ｂピクチャにおける動きベクトル情報における情報量は膨大であるが、AVCにおいては、Direct Mode（ダイレクトモード）と称されるモードが用意されている。

このダイレクトモード（Direct Mode）において、動きベクトル情報は、画像圧縮情報中には格納されない。画像復号装置においては、周辺ブロックの動きベクトル情報、若しくは、参照フレームにおける処理対象ブロックと同じ位置のブロックであるco-locatedブロックの動きベクトル情報から、当該ブロックの動きベクトル情報が算出される。

ダイレクトモード（Direct Mode）には、Spatial Direct Mode（空間ダイレクトモード）と、Temporal Direct Mode（時間ダイレクトモード）の２種類が存在し、スライス毎に切り替えることが可能である。

空間ダイレクトモード（Spatial Direct Mode）においては、以下の式（１２）に示されるように、処理対象動き補償ブロックＥの動きベクトル情報mv_Eが算出される。

mv_E = pmv_E ・・・（１２）

すなわち、Median（メディアン）予測により生成された動きベクトル情報が、当該ブロックに適用される。

以下においては、図７を用いて、時間ダイレクトモード（Temporal Direct Mode）を説明する。

図７において、L0参照ピクチャにおける、当該ブロックと同じ空間上のアドレスにあるブロックを、Co-Locatedブロックとし、Co-Locatedブロックにおける動きベクトル情報を、mv_colとする。また、当該ピクチャとL0参照ピクチャの時間軸上の距離をTD_Bとし、L0参照ピクチャとL1参照ピクチャの時間軸上の距離をTD_Dとする。

この時、当該ピクチャにおける、L0の動きベクトル情報mv_L0及びL1の動きベクトル情報mv_L1は、以下の式（１３）および式（１４）のように算出される。

・・・（１３）

・・・（１４）

なお、AVC画像圧縮情報においては、時間軸上の距離を表す情報TDが存在しないため、POC（Picture Order Count）を用いて、上述した式（１２）および式（１３）の演算が行われるものとする。

また、AVC画像圧縮情報においては、ダイレクトモード（Direct Mode）は、16×16画素マクロブロック単位、若しくは、8×8画素ブロック単位で定義することが可能である。

［予測モードの選択］
ところで、AVC符号化方式において、より高い符号化効率を達成するには、適切な予測モードの選択が重要である。

かかる選択方式の例として、JM（Joint Model）と呼ばれるH.264/MPEG-4 AVCの参照ソフトウエア（http://iphome.hhi.de/suehring/tml/index.htm において公開されている）に実装されている方法を挙げることが出来る。

JMにおいては、以下に述べる、High Complexity Modeと、Low Complexity Modeの２通りのモード判定方法を選択することができる。どちらも、それぞれの予測モードに関するコスト関数値を算出し、これを最小にする予測モードを当該サブマクロブロック、または、当該マクロブロックに対する最適モードとして選択する。

High Complexity Modeにおけるコスト関数は、以下の式（１５）のように示される。

Cost(Mode∈Ω) = D + λ*R ・・・（１５）

ここで、Ωは、当該ブロック乃至マクロブロックを符号化するための候補モードの全体集合、Ｄは、当該予測モードで符号化した場合の、復号画像と入力画像の差分エネルギーである。λは、量子化パラメータの関数として与えられるLagrange未定乗数である。Ｒは、直交変換係数を含んだ、当該モードで符号化した場合の総符号量である。

つまり、High Complexity Modeでの符号化を行うには、上記パラメータＤ及びＲを算出するため、全ての候補モードにより、一度、仮エンコード処理を行う必要があり、より高い演算量を要する。

Low Complexity Modeにおけるコスト関数は、以下の式（１６）のように示される。

Cost(Mode∈Ω) = D + QP2Quant(QP) * HeaderBit ・・・（１６）

ここで、Ｄは、High Complexity Modeの場合と異なり、予測画像と入力画像の差分エネルギーとなる。QP2Quant(QP)は、量子化パラメータQPの関数として与えられ、HeaderBitは、直交変換係数を含まない、動きベクトルや、モードといった、Headerに属する情報に関する符号量である。

すなわち、Low Complexity Modeにおいては、それぞれの候補モードに関して、予測処理を行う必要があるが、復号画像までは必要ないため、符号化処理まで行う必要はない。このため、High Complexity Modeより低い演算量での実現が可能である。

［動きベクトルのコンペティション］
ところで、図５を参照して説明したような、メディアン予測を用いた動きベクトルの符号化を改善するため、非特許文献１では、以下に述べるような方法が提案されている。

すなわち、AVCにおいて定義されている、メディアン予測により求められる”Spatial Predictor（空間予測）”に加え、以下に述べる”Temporal Predictor（時間予測）”及び”Spatio-Temporal Predictor（時間と空間の予測）”のどれかを、予測動きベクトル情報として、適応的に用いることが可能にするものである。

すなわち、図８において、”mvcol”を、当該ブロックに対するco-locatedブロック（参照画像において、xy座標が、当該ブロックと同じであるブロック）に対する動きベクトル情報、mvtk（ｋ＝０乃至８）をその周辺ブロックの動きベクトル情報であるとして、それぞれの予測動きベクトル情報(Predictor)は、以下の式（１７）乃至（１９）により定義される。

Temporal Predictor：

・・・（１７）

・・・（１８）
Spatio-Temporal Predictor：

・・・（１９）

画像符号化装置１００においては、それぞれのブロックに関して、それぞれの予測動きベクトル情報を用いた場合のコスト関数が算出され、最適な予測動きベクトル情報の選択が行われる。画像圧縮情報においては、それぞれのブロックに対し、どの予測動きベクトル情報が用いられたかに関する情報を示すflagが伝送される。

［コーディングユニット］
ところで、マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；４０００画素×２０００画素）といった大きな画枠に対しては、最適ではない。

そこで、AVCにおいては、図４に示されるように、マクロブロックとサブマクロブロックによる階層構造が規定されているが、例えば、HEVC（High Efficiency Video Coding）においては、図９に示されるように、コーディングユニット（CU（Coding Unit））が規定されている。

CUは、Coding Tree Block（CTB）とも呼ばれ、AVCにおけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の部分領域である。後者は、１６×１６画素の大きさに固定されているのに対し、前者の大きさは固定されておらず、それぞれのシーケンスにおいて、画像圧縮情報中において指定されることになる。

例えば、出力となる符号化データに含まれるシーケンスパラメータセット（SPS（Sequence Parameter Set））において、CUの最大サイズ（LCU（Largest Coding Unit））と最小サイズ（（SCU（Smallest Coding Unit））が規定される。

それぞれのLCU内においては、SCUのサイズを下回らない範囲で、split-flag=1とすることにより、より小さなサイズのCUに分割することができる。図９の例では、LCUの大きさが１２８であり、最大階層深度が５となる。２Ｎ×２Ｎの大きさのCUは、split_flagの値が「１」である時、１つ下の階層となる、Ｎ×Ｎの大きさのCUに分割される。

更に、CUは、イントラ若しくはインター予測の処理単位となる領域（ピクチャ単位の画像の部分領域）であるプレディクションユニット（Prediction Unit（PU））に分割され、また、直交変換の処理単位となる領域（ピクチャ単位の画像の部分領域）である、トランスフォームユニット（Transform Unit（TU））に分割される。現在、HEVCにおいては、４×４及び８×８に加え、１６×１６及び３２×３２直交変換を用いることが可能である。

以上のHEVCのように、CUを定義し、そのCUを単位として各種処理を行うような符号化方式の場合、AVCにおけるマクロブロックはLCUに相当すると考えることができる。ただし、CUは図９に示されるように階層構造を有するので、その最上位階層のLCUのサイズは、例えば128×128画素のように、AVCのマクロブロックより大きく設定されることが一般的である。

［本実施について］
以上のように様々な予測動きベクトルが用意されているが、どの予測動きベクトルを採用するかを特定する予測動きベクトル選択情報（pmv_index）を符号化する場合、通常、２値データとして割り当てられる符号系列が短い方がその符号量を低減させることができ、望ましい。つまり、指定される頻度がより多い予測動きベクトルに対して、より短いビット系列を割り当てるのが望ましい。

しかしながら、この頻度は、画像の内容等に依存する。したがって、例えば、ある画像においてtemporal_pmvの方が指定される頻度が高くても、他の画像においてはspatial_pmvの方が指定される頻度が高くなる場合も考えられる。したがって、各予測動きベクトルの指定される頻度に対して、各予測動きベクトルへのビット系列の割り当て方が適切にならずに符号化効率が低減してしまう恐れがあった。

そこで、以下においては、表示順序で近いフレーム間の動きは類似する可能性が高いことを利用して、表示順序において、当該ピクチャとtemporal_pmvを含むアンカーピクチャとが近い場合、temporal_pmvに小さいコード番号を割り当てるようにする。逆に、当該ピクチャとアンカーピクチャとが大きい場合、spatial_pmvに小さいコード番号を割り当てるようにする。以下においてその方法について説明する。

［画像符号化装置］
図１０は、本発明を適用した画像符号化装置の主な構成例を示すブロック図である。

図１０に示される画像符号化装置３００は、図１の画像符号化装置１００と基本的に同様の装置であり、画像データを符号化する。図１１に示されるように画像符号化装置３００は、A/D変換部３０１、画面並べ替えバッファ３０２、演算部３０３、直交変換部３０４、量子化部３０５、可逆符号化部３０６、および蓄積バッファ３０７を有する。また、画像符号化装置３００は、逆量子化部３０８、逆直交変換部３０９、演算部３１０、ループフィルタ３１１、フレームメモリ３１２、選択部３１３、イントラ予測部３１４、動き予測・補償部３１５、選択部３１６、およびレート制御部３１７を有する。

画像符号化装置３００は、さらに、割り当て制御部３２１を有する。

A/D変換部３０１は、入力された画像データをA/D変換する。A/D変換部３０１は、変換後の画像データ（デジタルデータ）を、画面並べ替えバッファ３０２に供給し、記憶させる。画面並べ替えバッファ３０２は、記憶した表示の順番のフレームの画像を、GOPに応じて、符号化のためのフレームの順番に並べ替える。画面並べ替えバッファ３０２は、フレームの順番を並び替えた画像を、演算部３０３に供給する。また、画面並べ替えバッファ３０２は、フレームの順番を並び替えた画像を、イントラ予測部３１４および動き予測・補償部３１５にも供給する。

演算部３０３は、画面並べ替えバッファ３０２から読み出された画像から、選択部３１６を介してイントラ予測部３１４若しくは動き予測・補償部３１５から供給される予測画像を減算する。演算部３０３は、その差分情報を直交変換部３０４に出力する。

例えば、イントラ符号化が行われる画像の場合、演算部３０３は、画面並べ替えバッファ３０２から読み出された画像から、イントラ予測部３１４から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部３０３は、画面並べ替えバッファ３０２から読み出された画像から、動き予測・補償部３１５から供給される予測画像を減算する。

直交変換部３０４は、演算部３０３から供給される差分情報に対して、離散コサイン変換、カルーネン・レーベ変換等の直交変換を施す。なお、この直交変換の方法は任意である。直交変換部３０４は、その変換係数を量子化部３０５に供給する。

量子化部３０５は、直交変換部３０４から供給される変換係数を量子化する。量子化部３０５は、レート制御部３１７から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、その量子化を行う。なお、この量子化の方法は任意である。量子化部３０５は、量子化された変換係数を可逆符号化部３０６に供給する。

可逆符号化部３０６は、量子化部３０５において量子化された変換係数を任意の符号化方式で符号化する。係数データは、レート制御部３１７の制御の下で量子化されているので、この符号量は、レート制御部３１７が設定した目標値となる（若しくは目標値に近似する）。

また、可逆符号化部３０６は、イントラ予測のモードを示す情報などをイントラ予測部３１４から取得し、インター予測のモードを示す情報や動きベクトル情報などを動き予測・補償部３１５から取得する。さらに、可逆符号化部３０６は、ループフィルタ３１１において使用されたフィルタ係数等を取得する。

可逆符号化部３０６は、これらの各種情報を任意の符号化方式で符号化し、符号化データのヘッダ情報の一部とする（多重化する）。可逆符号化部３０６は、符号化して得られた符号化データを蓄積バッファ３０７に供給して蓄積させる。

可逆符号化部３０６の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、H．264/AVC方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などが挙げられる。算術符号化としては、例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）などが挙げられる。

蓄積バッファ３０７は、可逆符号化部３０６から供給された符号化データを、一時的に保持する。蓄積バッファ３０７は、所定のタイミングにおいて、保持している符号化データを、例えば、後段の図示せぬ記録装置（記録媒体）や伝送路などに出力する。

また、量子化部３０５において量子化された変換係数は、逆量子化部３０８にも供給される。逆量子化部３０８は、その量子化された変換係数を、量子化部３０５による量子化に対応する方法で逆量子化する。この逆量子化の方法は、量子化部３０５による量子化処理に対応する方法であればどのような方法であってもよい。逆量子化部３０８は、得られた変換係数を、逆直交変換部３０９に供給する。

逆直交変換部３０９は、逆量子化部３０８から供給された変換係数を、直交変換部３０４による直交変換処理に対応する方法で逆直交変換する。この逆直交変換の方法は、直交変換部３０４による直交変換処理に対応する方法であればどのようなものであってもよい。逆直交変換された出力（復元された差分情報）は、演算部３１０に供給される。

演算部３１０は、逆直交変換部３０９から供給された逆直交変換結果、すなわち、復元された差分情報に、選択部３１６を介してイントラ予測部３１４若しくは動き予測・補償部３１５から供給される予測画像を加算し、局部的に復号された画像（復号画像）を得る。

例えば、差分情報が、イントラ符号化が行われる画像に対応する場合、演算部３１０は、その差分情報にイントラ予測部３１４から供給される予測画像を加算する。また、例えば、差分情報が、インター符号化が行われる画像に対応する場合、演算部３１０は、その差分情報に動き予測・補償部３１５から供給される予測画像を加算する。

その加算結果（復号画像）は、ループフィルタ３１１またはフレームメモリ３１２に供給される。

ループフィルタ３１１は、デブロックフィルタや適応ループフィルタ等を含み、演算部３１０から供給される復号画像に対して適宜フィルタ処理を行う。例えば、ループフィルタ３１１は、復号画像に対して、デブロックフィルタ１１１と同様のデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。また、例えば、ループフィルタ３１１は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた復号画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。

なお、ループフィルタ３１１が、復号画像に対して任意のフィルタ処理を行うようにしてもよい。また、ループフィルタ３１１は、必要に応じて、フィルタ処理に用いたフィルタ係数等の情報を可逆符号化部３０６に供給し、それを符号化させるようにすることもできる。

ループフィルタ３１１は、フィルタ処理結果（フィルタ処理後の復号画像）をフレームメモリ３１２に供給する。なお、上述したように、演算部３１０から出力される復号画像は、ループフィルタ３１１を介さずにフレームメモリ３１２に供給することができる。つまり、ループフィルタ３１１によるフィルタ処理は省略することができる。

フレームメモリ３１２は、供給される復号画像を記憶し、所定のタイミングにおいて、記憶している復号画像を参照画像として、選択部３１３に供給する。

選択部３１３は、フレームメモリ３１２から供給される参照画像の供給先を選択する。例えば、イントラ予測の場合、選択部３１３は、フレームメモリ３１２から供給される参照画像をイントラ予測部３１４に供給する。また、インター予測の場合、選択部３１３は、フレームメモリ３１２から供給される参照画像を動き予測・補償部３１５に供給する。

イントラ予測部３１４は、選択部３１３を介してフレームメモリ３１２から供給される参照画像である処理対象ピクチャ内の画素値を用いて、基本的にPUを処理単位として予測画像を生成するイントラ予測（画面内予測）を行う。イントラ予測部３１４は、予め用意された複数のモード（イントラ予測モード）でこのイントラ予測を行う。イントラ予測部３１４は、AVC符号化方式において規定されるモードだけでなく、それ以外の任意のモードでこのイントラ予測を行うこともできる。

イントラ予測部３１４は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ１０２から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部３１４は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、選択部３１６に供給する。

また、上述したように、イントラ予測部３１４は、採用されたイントラ予測モードを示すイントラ予測モード情報等を、適宜可逆符号化部３０６に供給し、符号化させる。

動き予測・補償部３１５は、画面並べ替えバッファ３０２から供給される入力画像と、選択部３１３を介してフレームメモリ３１２から供給される参照画像とを用いて、基本的にPUを処理単位として、動き予測（インター予測）を行い、検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。動き予測・補償部３１５は、予め用意された複数のモード（インター予測モード）でこのようなインター予測を行う。動き予測・補償部３１５は、AVC符号化方式において規定されるモードだけでなく、それ以外の任意のモードでこのインター予測を行うこともできる。

動き予測・補償部３１５は、候補となる全てのインター予測モードで予測画像を生成し、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部３１５は、最適なインター予測モードを選択すると、その最適なモードで生成された予測画像を、選択部３１６に供給する。

また、動き予測・補償部３１５は、採用されたインター予測モードを示す情報や、符号化データを復号する際に、そのインター予測モードで処理を行うために必要な情報等を可逆符号化部３０６に供給し、符号化させる。

選択部３１６は、演算部３０３や演算部３１０に供給する予測画像の供給元を選択する。例えば、イントラ符号化の場合、選択部３１６は、予測画像の供給元としてイントラ予測部３１４を選択し、そのイントラ予測部３１４から供給される予測画像を演算部３０３や演算部３１０に供給する。また、例えば、インター符号化の場合、選択部３１６は、予測画像の供給元として動き予測・補償部３１５を選択し、その動き予測・補償部３１５から供給される予測画像を演算部３０３や演算部３１０に供給する。

レート制御部３１７は、蓄積バッファ３０７に蓄積された符号化データの符号量に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部３０５の量子化動作のレートを制御する。

割り当て制御部３２１は、可逆符号化部３０６における、採用（選択）された予測動きベクトルを示す予測動きベクトル選択情報（pmv_index）への、ビット系列（２値データ）の割り当てを制御する。割り当て制御部３２１は、表示順における当該ピクチャとアンカーピクチャとの距離に応じて、ビット系列（２値データ）の割り当てを制御する。

［ビット系列割り当て制御］
次に、この割り当て制御部３２１による割り当て方の制御について説明する。

図１１は、AMVPの予測動きベクトル（PMV）の候補の例を説明する図である。図１１において、xは当該ブロックである。MV_A，MV_B，MV_C，MV_D，MV_Eは、それぞれ、当該ピクチャの当該ブロックの周囲の動きベクトル（MV）であり、spatial_pmvである。また、MV_Tmpは符号化済みピクチャでxと同じ位置にあるCo-located ブロックのMVであり、temporal_pmvである。アンカーピクチャはL1側で最も当該ピクチャに近い符号化済みピクチャを指すのが一般的である。

図１２は、当該ピクチャとアンカーピクチャのPOC（Picture Order Count）の差dPOCが２の場合の動きベクトルの関係の様子の例を示す図である。t+4は当該ピクチャのPOCであり、t+6はアンカーピクチャのPOCである。当該ピクチャで太い線は当該ブロックである。当該ブロックの周囲の動きベクトル（MV）はspatial_pmvとなる。ここでは代表的にMV_Bが示されている。アンカーピクチャの太い線は、Co-locatedブロックを示している。その動きベクトルMV_Tmpはtemporal_pmvである。

図１３は、当該ピクチャとアンカーピクチャのPOCの差dPOCが１の場合の動きベクトルの関係の様子の例を示す図である。

図１２の例と図１３の例を比較して分かるように、図１３の例の場合の方が、図１２の例の場合よりも、temporal_pmv（MV_Tmp）が、spatial_pmv（MV_B）に近い。つまり、dPOCが小さい程、temporal_pmv の予測精度が高くなる。

そこで、割り当て制御部３２１は、dPOCが小さい場合、temporal_pmvに短いビット系列を割り当て、dPOCが大きい場合、spatial_pmvに短いビット系列を割り当てる。このようにビット系列の割り当て制御することで、割り当て制御部３２１は、予測精度の高くなる可能性の高いPMV候補を指定するための予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。

［可逆符号化部および割り当て制御部］
図１４は、図１０の可逆符号化部３０６および割り当て制御部３２１の主な構成例を示すブロック図である。

図１４に示されるように、可逆符号化部３０６は、動きベクトル記憶部３３１、予測動きベクトル選択部３３２、差分動きベクトル算出部３３３、テーブル記憶部３３４、２値化部３３５、２値化部３３６、およびエントロピ符号化部３３７を有する。

また、割り当て制御部３２１は、距離閾値取得部３４１、距離算出部３４２、およびテーブル選択部３４３を有する。

動きベクトル記憶部３３１は、動き予測・補償部３１５から供給される最適モード情報に含まれる、処理対象である当該PUの動きベクトルを記憶する。動きベクトル記憶部３３１は、時間的に後において行われる他の領域についての処理において、記憶している動きベクトルを予測動きベクトルの候補として予測動きベクトル選択部３３２に供給する。

予測動きベクトル選択部３３２は、動きベクトル記憶部３３１に記憶されている動きベクトルを予測動きベクトル候補として取得し、その候補の中から、動き予測・補償部３１５から供給される最適モード情報に含まれる当該PUの動きベクトルに最も近い動きベクトルを予測動きベクトルとして選択する。予測動きベクトル選択部３３２は、選択した動きベクトルを予測動きベクトルとして差分動きベクトル算出部３３３に供給する。また、予測動きベクトル選択部３３２は、どの予測動きベクトル候補を予測動きベクトルとして選択したかを示す予測動きベクトル選択情報を、２値化部３３５に供給する。

差分動きベクトル算出部３３３は、予測動きベクトル選択部３３２から供給される予測動きベクトルと、動き予測・補償部３１５から最適モード情報に含められて供給される当該PUの動きベクトルとの差分である差分動きベクトルを算出する。差分動きベクトル算出部３３３は、算出した差分動きベクトルを２値化部３３６に供給する。

テーブル記憶部３３４は、予測動きベクトル選択情報に割り当てるビット系列（２値データ）を、予測動きベクトルとして選択されたベクトルの種類に応じて指定するテーブル情報を予め記憶する。テーブル記憶部３３４は、ベクトルの種類に応じたビット系列の割り当て方が互いに異なる複数のテーブル情報を記憶する。

図１５は、そのテーブル情報の例を示す図である。

図１５に示されるテーブル情報において、ビット系列の列が、割り当てられるビット系列の値を示す。また、Ｓ１の列は、各ビット系列が割り当てられる予測動きベクトルの種類の例を示す。Ｓ２の列は、Ｓ１と同様であるが、ビット系列との対応関係が異なる。

例えば、Ｓ１の割り当てパターンでは、予測動きベクトルがMV_A，MV_B、およびMV_Cの中央値（Median）（spatial_pmv）である場合、符号長１Binのビット系列「１」が割り当てられる。また、予測動きベクトルがMV_Aである場合、符号長３Binのビット系列「０１０」が割り当てられる。以下、同様に、予測動きベクトルがMV_Bである場合、符号長３Binのビット系列「０１１」が割り当てられ、予測動きベクトルがMV_Cである場合、符号長５Binのビット系列「００１００」が割り当てられ、予測動きベクトルがMV_Eである場合、符号長５Binのビット系列「００１０１」が割り当てられ、予測動きベクトルがMV_Dである場合、符号長５Binのビット系列「００１１０」が割り当てられる。

また、予測動きベクトルがMV_Tmp（temporal_pmv）である場合、符号長５Binのビット系列「００１１１」が割り当てられる。

つまり、S１の場合、spatial_pmvにより短いビット系列が割り当てられ、temporal_pmvにより長いビット系列が割り当てられる。

これに対して、例えばＳ２の割り当てパターンでは、予測動きベクトルがMV_Tmp（temporal_pmv）である場合、符号長１Binのビット系列「１」が割り当てられる。

そして、予測動きベクトルがMV_A，MV_B、およびMV_Cの中央値（Median）（spatial_pmv）である場合、符号長３Binのビット系列「０１０」が割り当てられる。また、予測動きベクトルがMV_Aである場合、符号長３Binのビット系列「０１１」が割り当てられる。以下、同様に、予測動きベクトルがMV_Bである場合、符号長５Binのビット系列「００１００」が割り当てられ、予測動きベクトルがMV_Cである場合、符号長５Binのビット系列「００１０１」が割り当てられ、予測動きベクトルがMV_Eである場合、符号長５Binのビット系列「００１１０」が割り当てられ、予測動きベクトルがMV_Dである場合、符号長５Binのビット系列「００１１１」が割り当てられる。

つまり、この場合、spatial_pmvにより長いビット系列が割り当てられ、temporal_pmvにより短いビット系列が割り当てられる。

図１４に戻り、テーブル記憶部３３４は、このような「ビット系列」の列と「Ｓ１」の列のテーブルと、「ビット系列」の列と「Ｓ２」の列のテーブルのように、互いに対応関係が異なる複数のテーブル情報を有する。

なお、図１５の例に示されるコード番号は、各ビット系列を識別するための仮想的な情報であるので、その値は任意である。

また、以上においては、テーブル記憶部３３４が複数のテーブル情報を記憶するように説明したが、予測動きベクトルの種類に対してビット系列の割り当てパターンが複数用意されていればよく、図１５の例に示されるように、各ビット系列の割り当てパターンが１つのテーブル情報にまとめられていてもよい。

図１４の２値化部３３５は、テーブル記憶部３３４に記憶されている、割り当て制御部３２１のテーブル選択部３４３に選択された割り当てパターン（Sn）のテーブル情報を参照し、その割り当てパターンに従って、予測動きベクトル選択部３３２から供給される予測動きベクトル選択情報（pmv_index）を２値化する（テーブル情報において割り当てられたビット系列に変換する）。２値化部３３５は、２値化後の２値データをエントロピ符号化部３３７に供給する。

２値化部３３６は、量子化部３０５から供給される量子化された係数データ、イントラ予測部３１４から供給される最適モード情報（イントラ予測モード情報等）、およびループフィルタ３１１から供給されるフィルタ情報（フィルタ係数等を含む）等の各種情報を２値化し、その２値データをエントロピ符号化部３３７に供給する。

また、２値化部３３６は、動き予測・補償部３１５から供給される最適モード情報を２値化し、その２値データをエントロピ符号化部３３７に供給する。

さらに、２値化部３３６は、差分動きベクトル算出部３３３から供給される差分動きベクトルを２値化し、その２値データをエントロピ符号化部３３７に供給する。

また、２値化部３３６は、割り当て制御部３２１の距離閾値取得部３４１から供給される距離閾値dPOC_thを２値化し、その２値データをエントロピ符号化部３３７に供給する。

エントロピ符号化部３３７は、２値化部３３５および２値化部３３６から供給される各２値データを符号化し、必要に応じてヘッダ等の情報を生成し、各情報を合成してストリームとして蓄積バッファ３０７に供給し、蓄積させる。

距離閾値取得部３４１は、外部から距離閾値dPOC_thを取得する。この距離閾値dPOC_thは、割り当て制御部３２１が、当該ピクチャとアンカーピクチャのPOCの差dPOC、つまり、表示順における当該ピクチャとアンカーピクチャとの距離に応じて、ビット系列の割り当てパターンを制御するための閾値である。

この距離閾値dPOC_thは、どのように設定されるようにしてもよい。例えば、ユーザの指示であってもよいし、画像符号化装置３００の処理能力によって決定されるようにしてもよいし、画像の内容に応じて設定されるようにしてもよい。

距離閾値取得部３４１は、何らかの方法で決定された距離閾値dPOC_thを外部から取得すると、それをテーブル選択部３４３に供給し、テーブル選択（割り当てパターンの選択）に利用させる。

また、距離閾値取得部３４１は、取得した距離閾値dPOC_thを可逆符号化部３０６の２値化部３３６にも供給し、復号側に提供させる。

距離算出部３４２は、各ピクチャのPOCをカウントし、当該ピクチャとアンカーピクチャのPOCの差dPOCを算出する。距離算出部３４２は、その差dPOCをテーブル選択部３４３に供給する。

テーブル選択部３４３は、距離算出部３４２から供給される差（距離）dPOCと、距離閾値取得部３４１から供給された距離閾値dPOC_thとを比較し、その比較結果に応じてテーブル（ビット系列の割り当てパターン）Snをを選択する。

図１５の例の場合、距離dPOCが距離閾値dPOC_thより大きい場合（若しくは、距離dPOCが距離閾値dPOC_th以上である場合）、spatial_pmvが優先されるので、テーブル選択部３４３は、spatial_pmvにより短いビット系列が割り当てられるように、Ｓ１を選択する。また、距離dPOCが距離閾値dPOC_th以下である場合（若しくは、距離dPOCが距離閾値dPOC_thより小さい場合）、temporal_pmvが優先されるので、テーブル選択部３４３は、temporal_pmvにより短いビット系列が割り当てられるように、Ｓ２を選択する。

テーブル選択部３４３は、その選択結果Snを可逆符号化部３０６の２値化部３３５に供給する。

このように、割り当て制御部３２１は、当該ピクチャとアンカーピクチャの表示順上の距離（dPOC）に応じてビット系列の割り当てを適切に制御することができる。つまり、割り当て制御部３２１は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。換言するに、割り当て制御部３２１は、指定する頻度がより低い動きベクトルの選択情報に対して符号長がより長いビット系列を割り当てることができる。したがって、可逆符号化部３０６は、予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。これにより、画像符号化装置３００は、符号化効率を向上させることができる。

［符号化処理の流れ］
次に、以上のような画像符号化装置３００により実行される各処理の流れについて説明する。最初に、図１６のフローチャートを参照して、符号化処理の流れの例を説明する。

なお、各ステップの処理データ単位は互いに異なる場合もある。そのため、各ステップの処理は、実際には、互いに並行して行われたり、順序が入れ替えて行われたりする場合もある。以下に説明する他の処理においても同様である。

ステップＳ３０１において、A/D変換部３０１は入力された画像をA/D変換する。ステップＳ３０２において、画面並べ替えバッファ３０２は、A/D変換された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。

ステップＳ３０３において、イントラ予測部３１４は、イントラ予測モードのイントラ予測処理を行う。ステップＳ３０４において、動き予測・補償部３１５は、インター予測モードでの動き予測や動き補償を行うインター動き予測処理を行う。

ステップＳ３０５において、選択部３１６は、イントラ予測部３１４および動き予測・補償部３１５から出力された各コスト関数値に基づいて、最適なモードを決定する。つまり、選択部３１６は、イントラ予測部３１４により生成された予測画像と、動き予測・補償部３１５により生成された予測画像のいずれか一方を選択する。

また、このいずれの予測画像が選択されたかを示す選択情報は、イントラ予測部３１４および動き予測・補償部３１５のうち、予測画像が選択された方に供給される。最適イントラ予測モードの予測画像が選択された場合、イントラ予測部３１４は、最適イントラ予測モード等を示すイントラ予測モード情報を可逆符号化部３０６に供給する。最適インター予測モードの予測画像が選択された場合、動き予測・補償部３１５は、最適インター予測モードを示す情報を可逆符号化部３０６に出力する。

ステップＳ３０６において、演算部３０３は、ステップＳ３０２の処理により並び替えられた画像と、ステップＳ３０５の処理により選択された予測画像との差分を演算する。予測画像は、インター予測する場合は動き予測・補償部３１５から、イントラ予測する場合はイントラ予測部３１４から、選択部３１６を介して演算部３０３に供給される。

差分データは元の画像データに較べてデータ量が低減される。したがって、画像をそのまま符号化する場合に較べて、データ量を圧縮することができる。

ステップＳ３０７において、直交変換部３０４は、ステップＳ３０６の処理により生成された差分情報を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、変換係数が出力される。

ステップＳ３０８において、量子化部３０５は、ステップＳ３０７の処理により得られた直交変換係数を量子化する。

ステップＳ３０８の処理により量子化された差分情報は、次のようにして局部的に復号される。すなわち、ステップＳ３０９において、逆量子化部３０８は、ステップＳ３０８の処理により生成された量子化された直交変換係数（量子化係数とも称する）を量子化部３０５の特性に対応する特性で逆量子化する。ステップＳ３１０において、逆直交変換部３０９は、ステップＳ３０７の処理により得られた直交変換係数を、直交変換部３０４の特性に対応する特性で逆直交変換する。

ステップＳ３１１において、演算部３１０は、予測画像を局部的に復号された差分情報に加算し、局部的に復号された画像（演算部３０３への入力に対応する画像）を生成する。ステップＳ３１２においてループフィルタ３１１は、ステップＳ３１１の処理により得られた局部的な復号画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行う。

ステップＳ３１３において、フレームメモリ３１２は、ステップＳ３１２の処理によりループフィルタ処理が施された復号画像を記憶する。なお、フレームメモリ３１２にはループフィルタ３１１によりフィルタ処理されていない画像も演算部３１０から供給され、記憶される。

ステップＳ３１４において、可逆符号化部３０６は、ステップＳ３０８の処理により量子化された変換係数を符号化する。すなわち、差分画像に対して、可変長符号化や算術符号化等の可逆符号化が行われる。

なお、可逆符号化部３０６は、ステップＳ３０８において算出された量子化パラメータを符号化し、符号化データに付加する。また、可逆符号化部３０６は、ステップＳ３０５の処理により選択された予測画像のモードに関する情報を符号化し、差分画像を符号化して得られる符号化データに付加する。つまり、可逆符号化部３０６は、イントラ予測部３１４から供給される最適イントラ予測モード情報、または、動き予測・補償部３１５から供給される最適インター予測モードも符号化し、符号化データに付加する。

ステップＳ３１５において蓄積バッファ３０７は、可逆符号化部３０６から出力される符号化データを蓄積する。蓄積バッファ３０７に蓄積された符号化データは、適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。

ステップＳ３１６においてレート制御部３１７は、ステップＳ３１５の処理により蓄積バッファ３０７に蓄積された符号化データの符号量（発生符号量）に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部３０５の量子化動作のレートを制御する。

ステップＳ３１６の処理が終了すると、符号化処理が終了される。

［可逆符号化処理の流れ］
次に、図１６のステップＳ３１４において実行される可逆符号化処理の流れの例を、図１７のフローチャートを参照して説明する。

可逆符号化処理が開始されると、２値化部３３６およびエントロピ符号化部３３７は、ステップＳ３２１において、量子化された係数データを２値化して符号化し、ステップＳ３３２２において、フィルタ情報を２値化して符号化し、ステップＳ３２３において、イントラ符号化された領域についてイントラ予測モード情報を２値化して符号化する。

また、ステップＳ３２４において、可逆符号化部３０６および割り当て制御部３２１は、インター符号化された領域についてインター予測モード情報を２値化して符号化する。

ステップＳ３２５において、エントロピ符号化部３３７は、各符号化データを合成し、ストリームとする。

ステップＳ３２５の処理を終了すると、エントロピ符号化部３３７は、可逆符号化処理を終了し、処理を図１６のステップＳ３１４に戻し、ステップＳ３１５に処理を進める。

［インター予測モード情報符号化処理の流れ］
次に、図１８のフローチャートを参照して、図１７のステップＳ３２４において実行されるインター予測モード情報符号化処理の流れの例を説明する。

インター予測モード情報符号化処理が開始されると、ステップＳ３３１において、距離閾値取得部３４１は、距離閾値dPOC_thを取得する。ステップＳ３３２において、２値化部３３６およびエントロピ符号化部３３７は、ステップＳ３３１において得られた距離閾値dPOC_thを２値化して符号化し、シーケンスパラメータセット（SPS（Sequence Parameter Set））に格納する。

ステップＳ３３３において、動きベクトル記憶部３３１は、最適モード情報（インター予測モード情報）に含まれる当該PUの動きベクトルを記憶する。ステップＳ３３４において、予測動きベクトル選択部３３２は、動きベクトル記憶部３３１に記憶されている周辺動きベクトルを予測動きベクトル候補として取得する。ステップＳ３３５において、予測動きベクトル選択部３３２は、当該PUの動きベクトルに最も近い予測動きベクトル候補を予測動きベクトルとして選択する。

ステップＳ３３６において、距離算出部３４２は、当該ピクチャとアンカーピクチャとの距離dPOCを求める。ステップＳ３３７において、テーブル選択部３４３は、ステップＳ３３６において求められた距離dPOCと、ステップＳ３３１において取得された距離閾値dPOC_thとの大小関係に応じて、ビット系列の割り当てパターンを示すテーブル情報を選択する。

ステップＳ３３８において、２値化部３３５は、テーブル記憶部３３４に記憶されている、ステップＳ３３７において選択されたテーブル情報を参照し、ステップＳ３３５においてどの予測動きベクトル候補が選択されたかを示す予測動きベクトル選択情報を２値化する。ステップＳ３３９において、エントロピ符号化部３３７は、ステップＳ３３８において２値化された予測動きベクトル選択情報の２値データを符号化する。

ステップＳ３４０において、差分動きベクトル算出部３３３は、当該動きベクトルと予測動きベクトルとの差分である差分動きベクトルを求める。ステップＳ３４１において、２値化部３３６およびエントロピ符号化部３３７は、ステップＳ３４０において得られた差分動きベクトルを２値化して符号化する。

ステップＳ３４２において、２値化部３３６およびエントロピ符号化部３３７は、その他の最適モード情報を２値化して符号化する。

ステップＳ３４２の処理が終了すると、エントロピ符号化部３３７は、インター予測モード情報符号化処理を終了し、処理を図１７のステップＳ３２４に戻し、ステップＳ３２５に処理を進める。

このように各処理を実行することにより、割り当て制御部３２１は、当該ピクチャとアンカーピクチャの表示順上の距離（dPOC）に応じてビット系列の割り当てを適切に制御することができる。つまり、割り当て制御部３２１は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。換言するに、割り当て制御部３２１は、指定する頻度がより低い動きベクトルの選択情報に対して符号長がより長いビット系列を割り当てることができる。したがって、可逆符号化部３０６は、予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。これにより、画像符号化装置３００は、符号化効率を向上させることができる。

［画像復号装置］
図１９は、本実施の画像復号装置の主な構成例を示すブロック図である。図１９に示される画像復号装置４００は、図１０の画像符号化装置３００に対応する復号装置である。画像符号化装置３００より符号化された符号化データは、例えば伝送路や記録媒体等、任意の経路を介して、この画像復号装置４００に供給され、復号される。

図１９に示されるように、画像復号装置４００は、蓄積バッファ４０１、可逆復号部４０２、逆量子化部４０３、逆直交変換部４０４、演算部４０５、ループフィルタ４０６、画面並べ替えバッファ４０７、およびD/A変換部４０８を有する。また、画像復号装置４００は、フレームメモリ４０９、選択部４１０、イントラ予測部４１１、動き予測・補償部４１２、および選択部４１３を有する。

画像復号装置４００は、さらに、割り当て制御部４２１を有する。

蓄積バッファ４０１は、伝送されてきた符号化データを蓄積する。この符号化データは、画像符号化装置３００により符号化されたものである。可逆復号部４０２は、蓄積バッファ４０１から符号化データを所定のタイミングで読み出し、図１０の可逆符号化部３０６の符号化方式に対応する方式で復号する。

また、当該フレームがイントラ符号化されたものである場合、符号化データのヘッダ部にはイントラ予測モード情報が格納されている。可逆復号部４０２は、このイントラ予測モード情報も復号し、その情報をイントラ予測部４１１に供給する。これに対して、当該フレームがインター符号化されたものである場合、符号化データのヘッダ部には動きベクトル情報やインター予測モード情報が格納されている。可逆復号部４０２は、この動きベクトル情報やインター予測モード情報も復号し、その情報を動き予測・補償部４１２に供給する。

逆量子化部４０３は、可逆復号部４０２により復号されて得られた係数データ（量子化係数）を、図１０の量子化部３０５の量子化方式に対応する方式で逆量子化する。つまり、逆量子化部４０３は、図１０の逆量子化部３０８と同様の方法で量子化係数の逆量子化を行う。

逆量子化部４０３は、逆量子化された係数データ、つまり、直交変換係数を、逆直交変換部４０４に供給する。逆直交変換部４０４は、図１０の直交変換部３０４の直交変換方式に対応する方式（図１０の逆直交変換部３０９と同様の方式）で、その直交変換係数を逆直交変換する。逆直交変換部４０４は、この逆直交変換処理により、画像符号化装置３００において直交変換される前の残差データに対応する復号残差データを得る。例えば、４次の逆直交変換が施される。

逆直交変換されて得られた復号残差データは、演算部４０５に供給される。また、演算部４０５には、選択部４１３を介して、イントラ予測部４１１若しくは動き予測・補償部４１２から予測画像が供給される。

演算部４０５は、その復号残差データと予測画像とを加算し、画像符号化装置３００の演算部３０３により予測画像が減算される前の画像データに対応する復号画像データを得る。演算部４０５は、その復号画像データをループフィルタ４０６に供給する。

ループフィルタ４０６は、供給された復号画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜施し、それを画面並べ替えバッファ４０７に供給する。

ループフィルタ４０６は、デブロックフィルタや適応ループフィルタ等を含み、演算部４０５から供給される復号画像に対して適宜フィルタ処理を行う。例えば、ループフィルタ４０６は、復号画像に対してデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。また、例えば、ループフィルタ４０６は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた復号画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。

なお、ループフィルタ４０６が、復号画像に対して任意のフィルタ処理を行うようにしてもよい。また、ループフィルタ４０６が、図１０の画像符号化装置３００から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。

ループフィルタ４０６は、フィルタ処理結果（フィルタ処理後の復号画像）を画面並べ替えバッファ４０７およびフレームメモリ４０９に供給する。なお、演算部４０５から出力される復号画像は、ループフィルタ４０６を介さずに画面並べ替えバッファ４０７やフレームメモリ４０９に供給することができる。つまり、ループフィルタ４０６によるフィルタ処理は省略することができる。

画面並べ替えバッファ４０７は、画像の並べ替えを行う。すなわち、図１０の画面並べ替えバッファ３０２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部４０８は、画面並べ替えバッファ４０７から供給された画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。

フレームメモリ４０９は、供給される復号画像を記憶し、所定のタイミングにおいて、若しくは、イントラ予測部４１１や動き予測・補償部４１２等の外部の要求に基づいて、記憶している復号画像を参照画像として、選択部４１０に供給する。

選択部４１０は、フレームメモリ４０９から供給される参照画像の供給先を選択する。選択部４１０は、イントラ符号化された画像を復号する場合、フレームメモリ４０９から供給される参照画像をイントラ予測部４１１に供給する。また、選択部４１０は、インター符号化された画像を復号する場合、フレームメモリ４０９から供給される参照画像を動き予測・補償部４１２に供給する。

イントラ予測部４１１には、ヘッダ情報を復号して得られたイントラ予測モードを示す情報等が可逆復号部４０２から適宜供給される。イントラ予測部４１１は、図１０のイントラ予測部３１４において用いられたイントラ予測モードで、フレームメモリ４０９から取得した参照画像を用いてイントラ予測を行い、予測画像を生成する。つまり、イントラ予測部４１１は、図１０のイントラ予測部３１４と同様に、AVC符号化方式において規定されるモード以外の任意のモードでこのイントラ予測を行うこともできる。

イントラ予測部４１１は、生成した予測画像を選択部４１３に供給する。

動き予測・補償部４１２は、ヘッダ情報を復号して得られた情報（最適モード情報、動きベクトル情報、参照フレーム情報、フラグ、および各種パラメータ等）を可逆復号部４０２から取得する。

動き予測・補償部４１２は、図１０の動き予測・補償部３１５において用いられたインター予測モードで、フレームメモリ４０９から取得した参照画像を用いてインター予測を行い、予測画像を生成する。つまり、動き予測・補償部４１２は、図１０の動き予測・補償部３１５と同様に、AVC符号化方式において規定されるモード以外の任意のモードでこのイントラ予測を行うこともできる。

動き予測・補償部４１２は、動き予測・補償部２１２の場合と同様に、生成した予測画像を選択部４１３に供給する。

選択部４１３は、演算部４０５に供給する予測画像の供給元を選択する。つまり、選択部４１３は、動き予測・補償部４１２またはイントラ予測部４１１により生成された予測画像を演算部４０５に供給する。

割り当て制御部４２１は、可逆復号部４０２において行われる逆２値化において、予測動きベクトル選択情報の２値データを正しく逆２値化するために、画像符号化装置３００の場合と同様の、ビット系列の割り当て制御を行う。

［可逆復号部および割り当て制御部］
図２０は、図１９の可逆復号部４０２および割り当て制御部４２１の主な構成例を示すブロック図である。

図２０に示されるように、可逆復号部４０２は、エントロピ復号部４３１、逆２値化部４３２、テーブル記憶部４３３、逆２値化部４３４、予測動きベクトル選択部４３５、動きベクトル算出部４３６、および動きベクトル記憶部４３７を有する。

また、割り当て制御部４２１は、距離算出部４４１およびテーブル選択部４４２を有する。

エントロピ復号部４３１は、蓄積バッファ４０１から供給されるコードストリームを復号し、２値データを逆２値化部４３２および逆２値化部４３４に供給する。

逆２値化部４３２は、量子化された係数データ、最適モード情報、フィルタ情報、差分動きベクトル、距離閾値dPOC_th等の、画像符号化装置３００から供給された各種情報の２値データを逆２値化する。逆２値化部４３２は、得られた係数データを逆量子化部４０３に供給する。また、逆２値化部４３２は、得られた最適モード情報をイントラ予測部４１１若しくは動き予測・補償部４１２に供給する。さらに、逆２値化部４３２は、得られたフィルタ情報をループフィルタ４０６に供給する。また、逆２値化部４３２は、得られた差分動きベクトルを動きベクトル算出部４３６に供給する。さらに、逆２値化部４３２は、得られた距離閾値dPOC_thを割り当て制御部４２１のテーブル選択部４４２に供給する。

テーブル記憶部４３３は、例えば、図１５に示されるような、画像符号化装置３００のテーブル記憶部３３４が記憶するテーブル情報と同様の、予測動きベクトル選択情報に対するビット系列の割り当てパターンを示すテーブル情報を記憶する。テーブル記憶部４３３は、テーブル記憶部３３４の場合と同様に、互いに異なる割り当てパターンの複数のテーブル情報（例えばS1、S2等）を記憶する。このテーブル情報は、テーブル記憶部３３４の場合と同様に、１つにまとめられていてもよい。

逆２値化部４３４は、テーブル記憶部４３３に記憶されている、割り当て制御部４２１のテーブル選択部４４２により選択されたテーブル情報Snを参照し、その割り当てパターンに従って、エントロピ復号部４３１から供給される予測動きベクトル選択情報の２値データを逆２値化する。逆２値化部４３４は、逆２値化して得られた予測動きベクトル選択情報を予測動きベクトル選択部４３５に供給する。

予測動きベクトル選択部４３５は、動きベクトル記憶部４３７が記憶する当該PUの周辺の動きベクトル（周辺動きベクトル）を予測動きベクトル候補として取得する。予測動きベクトル選択部４３５は、その中から、逆２値化部４３４から供給された予測動きベクトル選択情報が示す予測動きベクトル候補を、予測動きベクトルとして選択する。予測動きベクトル選択部４３５は、選択した予測動きベクトルを動きベクトル算出部４３６に供給する。

動きベクトル算出部４３６は、逆２値化部４３２から供給される差分動きベクトルに、予測動きベクトル選択部４３５から供給される予測動きベクトルを加算することにより、当該PUの動きベクトルを算出する。動きベクトル算出部４３６は、算出した動きベクトルを動き予測・補償部４１２に供給する。また、動きベクトル算出部４３６は、算出した動きベクトルを動きベクトル記憶部４３７にも供給し、記憶させる。

動きベクトル記憶部４３７に記憶された動きベクトルは、当該PUより時間的に後に処理される領域に対する処理において、周辺動きベクトル（予測動きベクトル候補）として使用される。

割り当て制御部４２１の距離算出部４４１は、各ピクチャのPOCをカウントし、当該ピクチャとアンカーピクチャのPOCの差dPOCを算出する。距離算出部４４１は、その差dPOCをテーブル選択部４４２に供給する。

テーブル選択部４４２は、距離算出部４４１から供給される差dPOCと、逆２値化部４３２から供給された、符号化の際に使用された距離閾値dPOC_thとを比較し、その比較結果に応じてテーブル（ビット系列の割り当てパターン）Snをを選択する。テーブル選択部４４２は、その選択結果Snを可逆符号化部３０６の逆２値化部４３４に供給する。

このように、割り当て制御部４２１が、当該ピクチャとアンカーピクチャの表示順上の距離（dPOC）に応じてビット系列の割り当てを適切に制御することで、可逆復号部４０２は、符号化時と同様のビット系列の割り当てを再現することができ、画像符号化装置３００から供給される符号化データを正しく復号することができる。つまり、画像復号装置４００は、符号化効率を向上させることができる。

［復号処理の流れ］
次に、以上のような画像復号装置４００により実行される各処理の流れについて説明する。最初に、図２１のフローチャートを参照して、復号処理の流れの例を説明する。

復号処理が開始されると、ステップＳ４０１において、蓄積バッファ４０１は、伝送されてきた符号化データを蓄積する。ステップＳ４０２において、可逆復号部４０２は、蓄積バッファ４０１から供給される符号化データ（画像符号化装置３００により画像データが符号化されて得られた符号化データ）を復号する。

ステップＳ４０３において、逆量子化部４０３は、可逆復号部４０２により復号されて得られた、量子化された直交変換係数を、図１０の量子化部３０５による量子化処理に対応する方法で逆量子化する。ステップＳ４０４において逆直交変換部４０４は逆量子化部４０３により逆量子化されて得られた直交変換係数を、図１０の直交変換部３０４による直交変換処理に対応する方法で逆直交変換する。これにより図１０の直交変換部３０４の入力（演算部３０３の出力）に対応する差分情報が復号されたことになる。

ステップＳ４０５において、イントラ予測部４１１および動き予測・補償部４１２は、予測処理を行い、予測画像を生成する。

ステップＳ４０６において、選択部４１３は、ステップＳ４０５の処理により生成された予測画像を選択する。すなわち、選択部４１３には、イントラ予測部４１１により生成された予測画像、若しくは、動き予測・補償部４１２により生成された予測画像が供給される。選択部４１３は、その予測画像が供給された側を選択し、その予測画像を演算部４０５に供給する。

ステップＳ４０７において、演算部４０５は、ステップＳ４０４の処理により得られた差分情報に、ステップＳ４０６において選択された予測画像を加算する。これにより元の画像データが復号される。

ステップＳ４０８において、ループフィルタ４０６は、ステップＳ４０７の処理により得られた復号画像を適宜フィルタリングする。

ステップＳ４０９において、画面並べ替えバッファ４０７は、ステップＳ４０８において適宜フィルタリングされた復号画像のフレームの並べ替えを行う。すなわち、画像符号化装置３００の画面並べ替えバッファ３０２（図１０）により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。

ステップＳ４１０において、D/A変換部４０８は、ステップＳ４０９においてフレームが並べ替えられた復号画像データをD/A変換する。この復号画像データが図示せぬディスプレイに出力され、その画像が表示される。

ステップＳ４１１において、フレームメモリ４０９は、ステップＳ４０８において適宜フィルタリングされた復号画像を記憶する。

ステップＳ４１１の処理が終了すると、フレームメモリ４０９は、復号処理を終了する。

［可逆復号処理の流れ］
次に、図２２のフローチャートを参照して、図２１のステップＳ４０２において実行される可逆復号処理の流れの例を説明する。

可逆復号処理が開始されると、可逆復号部４０２および割り当て制御部４２１は、ステップＳ４２１において、インター符号化された領域について、インター予測モード情報を復号して逆２値化する。

エントロピ復号部４３１および逆２値化部４３２は、ステップＳ４２２において、イントラ符号化された領域について、イントラ予測モード情報を復号して逆２値化し、ステップＳ４２３において、フィルタ情報を復号して逆２値化し、ステップＳ４２４において、係数データを復号して逆２値化する。

ステップＳ４２４の処理が終了すると、逆２値化部４３２は、可逆復号処理を終了し、処理を図２１のステップＳ４０２に戻し、ステップＳ４０３に処理を進める。

［インター予測モード情報復号処理の流れ］
次に、図２３のフローチャートを参照して、図２２のステップＳ４２１において実行されるインター予測モード情報復号処理の流れの例を説明する。

インター予測モード情報復号処理が開始されると、エントロピ復号部４３１および逆２値化部４３２は、ステップＳ４３１において、SPSから距離閾値dPOC_thの符号化データを抽出し、それを復号して逆２値化する。

ステップＳ４３２において、割り当て制御部４２１の距離算出部４４１は、当該ピクチャとアンカーピクチャとの距離dPOCを求める。

ステップＳ４３３において、割り当て制御部４２１のテーブル選択部４４２は、ステップＳ４３２において算出された当該ピクチャとアンカーピクチャとの距離dPOCと、ステップＳ４３１において得られた閾値距離dPOC_thとを比較し、それらの大小関係に応じて、逆２値化に利用するテーブル情報Snを選択する。

ステップＳ４３４において、エントロピ復号部４３１は、予測動きベクトル選択情報を復号する。

ステップＳ４３５において、逆２値化部４３４は、テーブル記憶部４３３が記憶する、ステップＳ４３３において選択されたテーブルを参照し、そのビット系列割り当てパターンSnに従って、ステップＳ４３４において得られた予測動きベクトル選択情報の２値データを逆２値化する（ビット系列を、そのビット系列に対応する動きベクトルを示す情報に変換する）。

ステップＳ４３６において、予測動きベクトル選択部４３５は、動きベクトル記憶部４３７に記憶されている周辺動きベクトルを予測動きベクトル候補として取得する。

ステップＳ４３７において、予測動きベクトル選択部４３５は、ステップＳ４３５において逆２値化されて得られた予測動きベクトル選択情報により指定される動きベクトルを、ステップＳ４３６において取得された予測動きベクトル候補の中から選択し、それを予測動きベクトルとする。

ステップＳ４３８において、エントロピ復号部４３１および逆２値化部４３２は、差分動きベクトルの符号化データを復号し、得られた２値データを逆２値化し、差分動きベクトルを得る。

ステップＳ４３９において、動きベクトル算出部４３６は、ステップＳ４３８の処理により得られた差分動きベクトルに、ステップＳ４３７において選択された予測動きベクトルを加算し、当該PUの動きベクトルを求める。

ステップＳ４４０において、動きベクトル記憶部４３７は、ステップＳ４３９の処理により得られた当該PUの動きベクトルを記憶する。

ステップＳ４４１において、エントロピ復号部４３１および逆２値化部４３２は、その他の最適モード情報の符号化データを復号し、その２値データを逆２値化し、その他の最適モード情報を得る。

ステップＳ４４１の処理が終了すると、逆２値化部４３２は、インター予測モード情報復号処理を終了し、処理を図２２のステップＳ４２１に戻し、処理をステップＳ４２２に進める。

このように、各処理を行うことにより、可逆復号部４０２は、符号化時と同様のビット系列の割り当てを再現することができ、画像符号化装置３００から供給される符号化データを正しく復号することができる。つまり、画像復号装置４００は、符号化効率を向上させることができる。

［その他の例］
図１５において、ビット系列の割り当てパターンの例を説明したが、ビット系列の割り当て方法は、これ以外であってもよい。例えば、距離dPOCが距離閾値dPOC_th以下である場合（若しくは、距離dPOCが距離閾値dPOC_thより小さい場合）、図１５のＳ２の代わりに、図２４に示されるテーブル情報のＳ３が選択されるようにしてもよい。

Ｓ３の場合、Ｓ１と比較して、予測動きベクトルがMV_Tmp（temporal_pmv）である場合に割り当てられるビット系列と、予測動きベクトルがMV_A，MV_B、およびMV_Cの中央値（Median）（spatial_pmv）である場合に割り当てられるビット系列とが入れ替えられている。

もちろん、これ以外の割り当てパターンが用意されるようにしてもよい。

また、図１５においては、ビット系列の値として指数ゴロムの値を用いているが、ビット系列の値は、互いに識別することができるものであれば任意である。例えば、図２５に示されるテーブル情報の例のように、ユナリーコードを用いるようにしてもよい。

以上においては、距離閾値dPOC_thが可変であるように説明したが、この距離閾値dPOC_thを予め定められる固定値としてもよい。例えば、画像符号化装置３００と画像復号装置４００がこの固定値の距離閾値dPOC_thを共有するようにしてもよい。その場合、この距離閾値dPOC_thの授受は省略される。また、符号化データを伝送する前に、画像符号化装置３００が、固定値の距離閾値dPOC_thを画像復号装置４００に供給するようにしてもよい。さらに、符号化が行われる前に、画像復号装置４００が、固定値の距離閾値dPOC_thを画像符号化装置３００に供給するようにしてもよい。また、画像符号化装置３００および画像復号装置４００以外の装置が、画像符号化装置３００および画像復号装置４００に対して固定値の距離閾値dPOC_thを供給するようにしてもよい。

また、距離閾値dPOC_thを複数設けるようにしてもよい。その場合、テーブル情報（符号系列割り当てパターンSn）が３つ以上用意され、距離dPOCと距離閾値dPOC_thとの大小関係に応じて、適切なパターンが選択されるようにする。

なお、距離閾値dPOC_thは、SPS以外にも、ストリームの任意の位置に格納することができる。例えば、ピクチャパラメータセット（PPS（Picture Parameter Set））やスライスヘッダに格納されるようにしてもよい。また、例えば、SEI（Suplemental Enhancement Information）等に格納されるようにしてもよい。

さらに、最適モード情報が、符号化データとは別に復号側に伝送されるようにしてもよい。

また、距離閾値dPOC_thは任意の処理単位毎に変更することができる。例えば、ピクチャ単位で変更することができるようにしてもよいし、スライス単位で変更することができるようにしてもよいし、CU単位で変更することができるようにしてもよいし、それ以外であってもよい。

＜２．第２の実施の形態＞
［可逆符号化部および割り当て制御部］
なお、以上においては、当該ピクチャとアンカーピクチャとの距離dPOCに応じてビット系列の割り当てパターンを制御するように説明したが、これに限らず、当該PUの周辺の領域の動きベクトルである周辺動きベクトル同士の類似度に基づいて、ビット系列の割り当てパターンを制御するようにしてもよい。

図２６は、その場合の可逆符号化部３０６および割り当て制御部３２１の主な構成例を示すブロック図である。

図２６に示される例の場合も、可逆符号化部３０６は、図１４を参照して説明した例の場合と基本的に同様の構成を有する。

ただし、割り当て制御部３２１は、この場合、類似度閾値取得部５４１、類似度算出部５４２、およびテーブル選択部５４３を有する。

類似度閾値取得部５４１は、距離閾値dPOC_thの場合と同様に、外部から類似度閾値MV_thを取得する。この類似度閾値MV_thは、割り当て制御部３２１が、周辺動きベクトル同士の類似度に応じて、ビット系列の割り当てパターンを制御するための閾値である。

この類似度閾値MV_thも、距離閾値dPOC_thの場合と同様に、どのように設定されるようにしてもよい。類似度閾値取得部５４１は、何らかの方法で決定された類似度閾値MV_thを外部から取得すると、それをテーブル選択部５４３に供給し、テーブル選択（割り当てパターンの選択）に利用させる。また、類似度閾値取得部５４１は、取得した類似度閾値MV_thを可逆符号化部３０６の２値化部３３６にも供給し、復号側に提供させる。

類似度算出部５４２は、動きベクトル記憶部３３１から、当該PUの周辺の領域の動きベクトルである周辺動きベクトルを複数取得し、その周辺動きベクトル同士を比較し、その類似度を算出する。なお、類似度を算出には、任意の周辺動きベクトルが用いられるようにしてよい。類似度算出部５４２は、その算出した類似度をテーブル選択部５４３に供給する。

テーブル選択部５４３は、類似度算出部５４２から供給される類似度と、類似度閾値取得部５４１から供給される類似度閾値MV_thとを比較し、その比較結果に応じてテーブル（ビット系列の割り当てパターン）Snをを選択する。

図２７は当該領域の右上の周辺動きベクトル（MV_TR）と左下の周辺動きベクトル（(MV_BL）が類似している例を示している。この場合、当該領域ｘの動きベクトルもこれらの周辺動きベクトルに類似することが期待されるため、テーブル選択部５４３は、図１５の例の場合、Ｓ１を選択する。

これに対して図２８は、右上の周辺動きベクトル（MV_TR）と左下の周辺動きベクトル（MV_BL）が類似していない例を示している。この場合、当該領域ｘの動きベクトルは、周辺動きベクトルと類似するとは限らないと判定されるため、テーブル選択部５４３は、図１５の例の場合、Ｓ２を選択する。

なお、領域Ｃおよび領域Ｅが符号化済みでない場合、若しくはインター予測ブロックではない場合も考えられる。そこで、類似度の算出に使用する右上の周辺動きベクトルと左下の周辺動きベクトルは、図２９乃至図３１に示されるように、他の領域の周辺動きベクトルとしてもよい。

例えば、周辺動きベクトルMV_Eを使用できない場合、図２９に示されるように、領域Ａの動きベクトルMV_Aと領域Ｃの動きベクトルMV_Cの類似度が算出されるようにしてもよい。また、例えば、周辺動きベクトルMV_Cを使用できない場合、図３０に示されるように、領域Ｅの動きベクトルMV_Eと領域Ｂの動きベクトルMV_Bの類似度が算出されるようにしてもよい。さらに、例えば、周辺動きベクトルMV_Eおよび周辺動きベクトルMV_Cを使用できない場合、図３１に示されるように、領域Ａの動きベクトルMV_Aと領域Ｂの動きベクトルMV_Bの類似度が算出されるようにしてもよい。もちろん、これら以外の周辺動きベクトルが用いられるようにしてもよい。このようにどのベクトルを代用するかは、予め符号化側と復号側で共有するようにしてもよいし、どのベクトルを用いたかを示す情報を授受させるようにしてもよい。

なお、右上の周辺動きベクトル（MV_TR）と左下の周辺動きベクトル（MV_BL）の類似度はベクトル差分の絶対値|MV_TR-MV_BL|で計算される。これが類似度閾値MVthよりも大きい場合、temporal_pmvを使う可能性が高いためＳ２のビット系列が選択される。

図２６に戻り、テーブル選択部５４３は、その選択結果Snを可逆符号化部３０６の２値化部３３５に供給する。

このように、割り当て制御部３２１は、周辺動きベクトルの類似度に応じてビット系列の割り当てを適切に制御することができる。つまり、この場合も、割り当て制御部３２１は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。換言するに、割り当て制御部３２１は、指定する頻度がより低い動きベクトルの選択情報に対して符号長がより長いビット系列を割り当てることができる。したがって、可逆符号化部３０６は、予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。これにより、画像符号化装置３００は、符号化効率を向上させることができる。

［インター予測モード情報符号化処理の流れ］
図３２のフローチャートを参照して、この場合のインター予測モード情報符号化処理の流れの例を説明する。

この場合も、図１８のフローチャートを参照して説明した距離閾値を用いる場合と基本的に同様の処理が行われる。

ただし、ステップＳ５３１において、類似度閾値取得部５４１は、距離閾値の代わりに類似度閾値MV_thを取得する。そして、ステップＳ５３２において、２値化部３３６およびエントロピ符号化部３３７は、ステップＳ５３１において取得された類似度閾値MV_thを２値化して符号化し、SPSに格納する。

ステップＳ５３３においては、ステップＳ３３３と同様の処理が行われる。ステップＳ５３４において、類似度算出部５４２は、周辺動きベクトルを複数取得する。ステップＳ５３５においては、ステップＳ３３５と同様の処理が行われる。

ステップＳ５３６において、類似度算出部５４２は、周辺動きベクトル間の類似度を算出する。

ステップＳ５３７において、テーブル選択部５４３は、類似度と類似度閾値MV_thとの大小関係に応じてテーブルを選択する。

ステップＳ５３８乃至ステップＳ５４２の各ステップにおいては、ステップＳ３３８乃至ステップＳ３４２の各ステップと同様の処理が行われる。

ステップＳ５４２の処理が終了すると、エントロピ符号化部３３７は、インター予測モード情報符号化処理を終了し、処理を図１７のステップＳ３２４に戻し、ステップＳ３２５に処理を進める。

このように各処理を実行することにより、この場合も、可逆符号化部３０６は、予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。これにより、画像符号化装置３００は、符号化効率を向上させることができる。

［可逆復号部および割り当て制御部］
次に、この場合の画像符号化装置３００に対応する画像復号装置４００について説明する。

図３３は、この場合の画像復号装置４００の可逆復号部４０２および割り当て制御部４２１の主な構成例を示すブロック図である。

この場合も、可逆復号部４０２は、図２０の場合と同様の構成を有するが、割り当て制御部４２１は、類似度算出部６４１およびテーブル選択部６４２を有する。

エントロピ復号部４３１は、画像符号化装置３００において使用された類似度閾値MV_thの符号化データを復号する。逆２値化部４３２は、得られた２値データを逆２値化し、得られた類似度閾値MV_thをテーブル選択部６４２に供給する。

類似度算出部６４１は、動きベクトル記憶部４３７に記憶されている周辺動きベクトルを複数取得し、それらの類似度を算出する。この類似度の算出方法は、類似度算出部５４２の場合と同様である。

類似度算出部６４１は、算出した類似度をテーブル選択部６４２に供給する。

テーブル選択部６４２は、類似度閾値MV_thと類似度を比較し、その大小関係に応じてテーブル（ビット系列の割り当てパターン）Snをを選択する。このテーブル選択方法は、テーブル選択部５４３の場合と同様である。

テーブル選択部６４２は、その選択結果Snを可逆復号部４０２の逆２値化部４３４に供給する。

このように、割り当て制御部４２１が、周辺動きベクトルの類似度に応じてビット系列の割り当てを適切に制御することで、可逆復号部４０２は、符号化時と同様のビット系列の割り当てを再現することができ、画像符号化装置３００から供給される符号化データを正しく復号することができる。つまり、画像復号装置４００は、符号化効率を向上させることができる。

［インター予測モード情報復号処理の流れ］
次に、図３４のフローチャートを参照して、この場合のインター予測モード情報復号処理の流れの例を説明する。

この場合も基本的に図２３の例の場合と同様の処理が行われる。

ただし、ステップＳ６３１において、エントロピ復号部４３１および逆２値化部４３２は、SPSから類似度閾値MV_thの符号化データを抽出し、それを復号して逆２値化する。

割り当て制御部４２１の類似度算出部６４１は、ステップ６３２において、動きベクトル記憶部４３７から周辺動きベクトルを複数取得し、ステップＳ６３３において、取得した周辺動きベクトル間の類似度を算出する。

ステップＳ６３４において、テーブル選択部６４２は、類似度と類似度閾値MV_thとの大小関係に応じてテーブルを選択する。

ステップＳ６３５乃至ステップＳ６４２の各ステップにおいて、ステップＳ４３４乃至ステップＳ４４１の各ステップと同様の処理が行われる。

ステップＳ６４２の処理が終了すると、逆２値化部４３２は、インター予測モード情報復号処理を終了し、処理を図２２のステップＳ４２１に戻し、処理をステップＳ４２２に進める。

このように、各処理を行うことにより、可逆復号部４０２は、この場合も、符号化時と同様のビット系列の割り当てを再現することができ、画像符号化装置３００から供給される符号化データを正しく復号することができる。つまり、画像復号装置４００は、符号化効率を向上させることができる。

［その他の例］
距離閾値dPOC_thの場合と同様に、類似度閾値MV_thも予め定められる固定値としてもよい。また、類似度閾値MV_thを複数設けるようにしてもよい。さらに、類似度閾値MV_thも、距離閾値dPOC_thの場合と同様に、SPS以外にも、ストリームの任意の位置に格納することができる。また、類似度閾値MV_thも、距離閾値dPOC_thの場合と同様に、任意の処理単位毎に変更することができる。

＜３．第３の実施の形態＞
［可逆符号化部および割り当て制御部］
以上においては、距離閾値や類似度閾値等、パラメータの閾値を画像符号化装置３００から画像復号装置４００へ伝送し、画像復号装置４００においてもその閾値を用いて画像符号化装置３００と同様のテーブル選択を行うように説明したが、これに限らず、画像符号化装置３００において選択されたテーブルを示す情報を、画像復号装置４００に提供するようにしてもよい。この場合、画像復号装置４００においては、その情報に基づいて、画像符号化装置３００において選択されたテーブルと同じテーブルが選択される。

この場合、画像復号装置４００は、画像符号化装置３００のテーブル選択方法に依存せずに、画像符号化装置３００と同じテーブルを選択することができる。

例えば、以下に説明するように、画像符号化装置３００が、予測動きベクトルの選択結果のコスト関数値に基づいて、ビット系列の割り当てパターンを制御するようにしてもよい。

図３５は、その場合の可逆符号化部３０６および割り当て制御部３２１の主な構成例を示すブロック図である。

この場合も可逆符号化部３０６は、上述した他の実施の形態と同様の構成を有するが、割り当て制御部３２１は、その可逆符号化部３０６の予測動きベクトルの選択結果についてコスト関数値を算出し、そのコスト関数値に基づいて、ビット系列の割り当てパターンを制御する。

割り当て制御部３２１は、コスト関数値算出部７４１、コスト関数値記憶部７４２、およびテーブル選択部７４３を有する。

コスト関数値算出部７４１は、予測動きベクトル選択部３３２から予測動きベクトル選択情報を取得し、その選択結果のコスト関数値をテーブル（Sn）選択用に算出する。コスト関数値算出部７４１は、算出したSn用コスト関数値をコスト関数値記憶部７４２に供給する。

コスト関数値記憶部７４２は、供給されたSn用コスト関数値を、テーブル記憶部３３４に記憶されるテーブル毎に集計し、記憶する。この集計結果は、現在の処理対象である当該PUより時間的に後に処理される領域に対するテーブル選択に使用される。

テーブル選択部７４３は、コスト関数値記憶部７４２に記憶されているテーブル毎のSn用コスト関数値の集計結果を取得し、その集計結果に基づいてテーブル（Sn）を選択し、その選択結果を２値化部３３５に供給する。

２値化部３３５は、テーブル記憶部３３４に記憶されている、テーブル選択部７４３により選択されたテーブル情報を参照し、予測動きベクトル選択情報を２値化する。その２値データは、エントロピ符号化部３３７に供給され、符号化される。

また、テーブル選択部７４３は、選択結果Snを２値化部３３６に供給する。つまり、テーブル選択部７４３によるテーブル選択結果Snは、２値化部３３６により２値化され、エントロピ符号化部３３７により符号化されて、画像復号装置４００に供給される。

このように、割り当て制御部３２１は、予測動きベクトルの選択結果のコスト関数値に応じてビット系列の割り当てを適切に制御することができる。つまり、この場合も、割り当て制御部３２１は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。換言するに、割り当て制御部３２１は、指定する頻度がより低い動きベクトルの選択情報に対して符号長がより長いビット系列を割り当てることができる。したがって、可逆符号化部３０６は、予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。これにより、画像符号化装置３００は、符号化効率を向上させることができる。

［インター予測モード情報符号化処理の流れ］
図３６のフローチャートを参照して、この場合のインター予測モード情報符号化処理の流れの例を説明する。

この場合も、図１８のフローチャートを参照して説明した距離閾値を用いる場合と基本的に同様の処理が行われる。

ステップＳ７３１乃至ステップＳ７３３の各ステップにおいては、ステップＳ３３３乃至ステップＳ３３５の各ステップと同様の処理が行われる。

ステップＳ７３４において、テーブル選択部７４３は、コスト関数値記憶部７４２に記憶されている過去の領域のコスト関数値（のテーブル毎の集計結果）に基づいて、テーブルを選択する。

ステップＳ７３５において、２値化部３３６およびエントロピ符号化部３３７は、ステップＳ７３４において得られたテーブル選択情報（テーブル選択結果）を２値化して符号化し、SPSに格納する。

ステップＳ７３６乃至ステップＳ７３９の各ステップにおいては、ステップＳ３３８乃至ステップＳ３４１の各ステップと同様の処理が行われる。

ステップＳ７４０において、コスト関数値算出部７４１は、予測動きベクトル選択情報について、各テーブルに対応するコスト関数値を算出する。ステップＳ７４１において、コスト関数値記憶部７４２は、ステップＳ７４０において算出されたコスト関数値をテーブル毎に集計し、記憶する。

ステップＳ７４２においては、ステップＳ３４２と同様の処理が行われる。ステップＳ７４２の処理が終了すると、エントロピ符号化部３３７は、インター予測モード情報符号化処理を終了し、処理を図１７のステップＳ３２４に戻し、ステップＳ３２５に処理を進める。

このように各処理を実行することにより、この場合も、可逆符号化部３０６は、予測動きベクトル選択情報（pmv_index）の符号量を低減させることができる。これにより、画像符号化装置３００は、符号化効率を向上させることができる。

［可逆復号部および割り当て制御部］
次に、この場合の画像符号化装置３００に対応する画像復号装置４００について説明する。

図３７は、この場合の画像復号装置４００の可逆復号部４０２の主な構成例を示すブロック図である。この場合、画像復号装置４００は、画像符号化装置３００から供給されるテーブル選択情報Snを用いてテーブルを選択するので、割り当て制御部４２１は、省略される。

図３７に示されるように、この場合の可逆復号部４０２は、図２０の例の場合と比較して、逆２値化部４３２の代わりに逆２値化部８３２を有し、逆２値化部４３４の代わりに逆２値化部８３４を有する。

逆２値化部８３２は、逆２値化部４３２の場合と同様に、係数データ、最適モード情報、フィルタ情報、および差分動きベクトル等の２値データを逆２値化するとともに、テーブル選択情報Snの２値データを逆２値化する。逆２値化部８３２は、その逆２値化により得られたテーブル選択情報Snを逆２値化部８３４に供給する。

逆２値化部８３４は、テーブル記憶部４３３に記憶される、逆２値化部８３２から供給されるテーブル選択情報Snにより示されるテーブル情報を参照し、エントロピ復号部４３１から供給される予測動きベクトル選択情報が２値化された２値データを逆２値化する。

逆２値化部８３４は、その逆２値化により得られた予測動きベクトル選択情報を予測動きベクトル選択部４３５に供給する。

このように、可逆復号部４０２は、画像符号化装置３００から供給される、画像符号化装置３００におけるテーブル情報の選択結果を用いて予測動きベクトル選択情報の２値データを適切に逆２値化する。つまり、可逆復号部４０２は、この場合も、符号化時と同様のビット系列の割り当てを再現することができ、画像符号化装置３００から供給される符号化データを正しく復号することができる。つまり、画像復号装置４００は、符号化効率を向上させることができる。

［インター予測モード情報復号処理の流れ］
次に、図３８のフローチャートを参照して、この場合のインター予測モード情報復号処理の流れの例を説明する。

この場合も基本的に図２３の例の場合と同様の処理が行われる。

ただし、ステップＳ８３１において、エントロピ復号部４３１および逆２値化部８３２は、SPSからテーブル選択情報Snの符号化データを抽出し、それを復号して逆２値化する。つまり、この時点でテーブルが選択されたことになる。

ステップＳ８３２乃至ステップＳ８３９の各ステップにおいては、ステップＳ４３４乃至ステップＳ４４１の各ステップと同様の処理が行われる。

ステップＳ８３９の処理が終了すると、逆２値化部８３２は、インター予測モード情報復号処理を終了し、処理を図２２のステップＳ４２１に戻し、処理をステップＳ４２２に進める。

このように、各処理を行うことにより、可逆復号部４０２は、この場合も、符号化時と同様のビット系列の割り当てを再現することができ、画像符号化装置３００から供給される符号化データを正しく復号することができる。つまり、画像復号装置４００は、符号化効率を向上させることができる。

［その他の例］
以上においては、過去に処理された領域の予測動きベクトル選択情報に基づいてコスト関数値が算出され、そのコスト関数値を用いて現在の処理対象の領域に対するテーブル情報が選択されるように説明したが、これ以外にも、現在の処理対象の領域の予測動きベクトル選択情報のコスト関数値を用いて、現在の処理対象の領域に対するテーブル情報が選択されるようにしてもよい。

また、テーブル選択情報SnをSPSに格納するように説明したが、このテーブル選択情報Snは、距離閾値dPOC_thの場合と同様に、SPS以外にも、ストリームの任意の位置に格納されるようにすることができる。

なお、このテーブル選択情報Snを画像符号化装置３００から画像復号装置４００に伝送させる方法は、上述した画像符号化装置３００が距離閾値dPOC_thを用いてテーブルを選択する場合や、画像符号化装置３００が類似度閾値MV_thを用いてテーブルを選択する場合にも適用することができる。ただし、いずれの場合も画像復号装置４００は、図３７を参照して説明したように、画像符号化装置３００から供給されるテーブル選択情報Snに基づいてテーブルを選択する。

以上のいずれの場合においても、テーブルの選択の切り替えは、例えば、PU（若しくはそのパーティション）毎、スライス毎、ピクチャ毎、若しくはシーケンス毎等、任意の処理単位で行うことができる。

＜４．第４の実施の形態＞
［パーソナルコンピュータ］
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。この場合、例えば、図３９に示されるようなパーソナルコンピュータとして構成されるようにしてもよい。

図３９において、パーソナルコンピュータ９００のCPU（Central Processing Unit）９０１は、ROM（Read Only Memory）９０２に記憶されているプログラム、または記憶部９１３からRAM（Random Access Memory）９０３にロードされたプログラムに従って各種の処理を実行する。RAM９０３にはまた、CPU９０１が各種の処理を実行する上において必要なデータなども適宜記憶される。

CPU９０１、ROM９０２、およびRAM９０３は、バス９０４を介して相互に接続されている。このバス９０４にはまた、入出力インタフェース９１０も接続されている。

入出力インタフェース９１０には、キーボード、マウスなどよりなる入力部９１１、CRT（Cathode Ray Tube）やLCD（Liquid Crystal Display）などよりなるディスプレイ、並びにスピーカなどよりなる出力部９１２、ハードディスクなどより構成される記憶部９１３、モデムなどより構成される通信部９１４が接続されている。通信部９１４は、インターネットを含むネットワークを介しての通信処理を行う。

入出力インタフェース９１０にはまた、必要に応じてドライブ９１５が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア９２１が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部９１３にインストールされる。

上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。

この記録媒体は、例えば、図３９に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM（Compact Disc - Read Only Memory）,DVD（Digital Versatile Disc）を含む）、光磁気ディスク（MD（Mini Disc）を含む）、若しくは半導体メモリなどよりなるリムーバブルメディア９２１により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM９０２や、記憶部９１３に含まれるハードディスクなどで構成される。

なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。

また、本明細書において、システムとは、複数のデバイス（装置）により構成される装置全体を表すものである。

また、以上において、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。つまり、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。

例えば、上述した画像符号化装置や画像復号装置は、任意の電子機器に適用することができる。以下にその例について説明する。

＜５．第５の実施の形態＞
［テレビジョン受像機］
図４０は、本発明を適用した画像復号装置４００を用いるテレビジョン受像機の主な構成例を示すブロック図である。

図４０に示されるテレビジョン受像機１０００は、地上波チューナ１０１３、ビデオデコーダ１０１５、映像信号処理回路１０１８、グラフィック生成回路１０１９、パネル駆動回路１０２０、および表示パネル１０２１を有する。

地上波チューナ１０１３は、地上アナログ放送の放送波信号を、アンテナを介して受信し、復調し、映像信号を取得し、それをビデオデコーダ１０１５に供給する。ビデオデコーダ１０１５は、地上波チューナ１０１３から供給された映像信号に対してデコード処理を施し、得られたデジタルのコンポーネント信号を映像信号処理回路１０１８に供給する。

映像信号処理回路１０１８は、ビデオデコーダ１０１５から供給された映像データに対してノイズ除去などの所定の処理を施し、得られた映像データをグラフィック生成回路１０１９に供給する。

グラフィック生成回路１０１９は、表示パネル１０２１に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成し、生成した映像データや画像データをパネル駆動回路１０２０に供給する。また、グラフィック生成回路１０１９は、項目の選択などにユーザにより利用される画面を表示するための映像データ（グラフィック）を生成し、それを番組の映像データに重畳したりすることによって得られた映像データをパネル駆動回路１０２０に供給するといった処理も適宜行う。

パネル駆動回路１０２０は、グラフィック生成回路１０１９から供給されたデータに基づいて表示パネル１０２１を駆動し、番組の映像や上述した各種の画面を表示パネル１０２１に表示させる。

表示パネル１０２１はLCD（Liquid Crystal Display）などよりなり、パネル駆動回路１０２０による制御に従って番組の映像などを表示させる。

また、テレビジョン受像機１０００は、音声A/D（Analog/Digital)変換回路１０１４、音声信号処理回路１０２２、エコーキャンセル／音声合成回路１０２３、音声増幅回路１０２４、およびスピーカ１０２５も有する。

地上波チューナ１０１３は、受信した放送波信号を復調することにより、映像信号だけでなく音声信号も取得する。地上波チューナ１０１３は、取得した音声信号を音声A/D変換回路１０１４に供給する。

音声A/D変換回路１０１４は、地上波チューナ１０１３から供給された音声信号に対してA/D変換処理を施し、得られたデジタルの音声信号を音声信号処理回路１０２２に供給する。

音声信号処理回路１０２２は、音声A/D変換回路１０１４から供給された音声データに対してノイズ除去などの所定の処理を施し、得られた音声データをエコーキャンセル／音声合成回路１０２３に供給する。

エコーキャンセル／音声合成回路１０２３は、音声信号処理回路１０２２から供給された音声データを音声増幅回路１０２４に供給する。

音声増幅回路１０２４は、エコーキャンセル／音声合成回路１０２３から供給された音声データに対してD/A変換処理、増幅処理を施し、所定の音量に調整した後、音声をスピーカ１０２５から出力させる。

さらに、テレビジョン受像機１０００は、デジタルチューナ１０１６およびMPEGデコーダ１０１７も有する。

デジタルチューナ１０１６は、デジタル放送（地上デジタル放送、BS（Broadcasting Satellite）／CS（Communications Satellite）デジタル放送）の放送波信号を、アンテナを介して受信し、復調し、MPEG-TS（Moving Picture Experts Group-Transport Stream）を取得し、それをMPEGデコーダ１０１７に供給する。

MPEGデコーダ１０１７は、デジタルチューナ１０１６から供給されたMPEG-TSに施されているスクランブルを解除し、再生対象（視聴対象）になっている番組のデータを含むストリームを抽出する。MPEGデコーダ１０１７は、抽出したストリームを構成する音声パケットをデコードし、得られた音声データを音声信号処理回路１０２２に供給するとともに、ストリームを構成する映像パケットをデコードし、得られた映像データを映像信号処理回路１０１８に供給する。また、MPEGデコーダ１０１７は、MPEG-TSから抽出したEPG（Electronic Program Guide)データを図示せぬ経路を介してCPU１０３２に供給する。

テレビジョン受像機１０００は、このように映像パケットをデコードするMPEGデコーダ１０１７として、上述した画像復号装置４００を用いる。なお、放送局等より送信されるMPEG-TSは、画像符号化装置３００によって符号化されている。

MPEGデコーダ１０１７は、画像復号装置４００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。したがって、MPEGデコーダ１０１７は、符号化時と同様のビット系列の割り当てを再現することができ、符号化側から供給される符号化データを正しく復号することができる。これにより、MPEGデコーダ１０１７は、符号化データの符号化効率を向上させることができる。

MPEGデコーダ１０１７から供給された映像データは、ビデオデコーダ１０１５から供給された映像データの場合と同様に、映像信号処理回路１０１８において所定の処理が施され、グラフィック生成回路１０１９において、生成された映像データ等が適宜重畳され、パネル駆動回路１０２０を介して表示パネル１０２１に供給され、その画像が表示される。

MPEGデコーダ１０１７から供給された音声データは、音声A/D変換回路１０１４から供給された音声データの場合と同様に、音声信号処理回路１０２２において所定の処理が施され、エコーキャンセル／音声合成回路１０２３を介して音声増幅回路１０２４に供給され、D/A変換処理や増幅処理が施される。その結果、所定の音量に調整された音声がスピーカ１０２５から出力される。

また、テレビジョン受像機１０００は、マイクロホン１０２６、およびA/D変換回路１０２７も有する。

A/D変換回路１０２７は、音声会話用のものとしてテレビジョン受像機１０００に設けられるマイクロホン１０２６により取り込まれたユーザの音声の信号を受信し、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データをエコーキャンセル／音声合成回路１０２３に供給する。

エコーキャンセル／音声合成回路１０２３は、テレビジョン受像機１０００のユーザ（ユーザＡ）の音声のデータがA/D変換回路１０２７から供給されている場合、ユーザＡの音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路１０２４を介してスピーカ１０２５より出力させる。

さらに、テレビジョン受像機１０００は、音声コーデック１０２８、内部バス１０２９、SDRAM（Synchronous Dynamic Random Access Memory)１０３０、フラッシュメモリ１０３１、CPU１０３２、USB（Universal Serial Bus) I/F１０３３、およびネットワークI/F１０３４も有する。

A/D変換回路１０２７は、音声会話用のものとしてテレビジョン受像機１０００に設けられるマイクロホン１０２６により取り込まれたユーザの音声の信号を受信し、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データを音声コーデック１０２８に供給する。

音声コーデック１０２８は、A/D変換回路１０２７から供給された音声データを、ネットワーク経由で送信するための所定のフォーマットのデータに変換し、内部バス１０２９を介してネットワークI/F１０３４に供給する。

ネットワークI/F１０３４は、ネットワーク端子１０３５に装着されたケーブルを介してネットワークに接続される。ネットワークI/F１０３４は、例えば、そのネットワークに接続される他の装置に対して、音声コーデック１０２８から供給された音声データを送信する。また、ネットワークI/F１０３４は、例えば、ネットワークを介して接続される他の装置から送信される音声データを、ネットワーク端子１０３５を介して受信し、それを、内部バス１０２９を介して音声コーデック１０２８に供給する。

音声コーデック１０２８は、ネットワークI/F１０３４から供給された音声データを所定のフォーマットのデータに変換し、それをエコーキャンセル／音声合成回路１０２３に供給する。

エコーキャンセル／音声合成回路１０２３は、音声コーデック１０２８から供給される音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路１０２４を介してスピーカ１０２５より出力させる。

SDRAM１０３０は、CPU１０３２が処理を行う上で必要な各種のデータを記憶する。

フラッシュメモリ１０３１は、CPU１０３２により実行されるプログラムを記憶する。フラッシュメモリ１０３１に記憶されているプログラムは、テレビジョン受像機１０００の起動時などの所定のタイミングでCPU１０３２により読み出される。フラッシュメモリ１０３１には、デジタル放送を介して取得されたEPGデータ、ネットワークを介して所定のサーバから取得されたデータなども記憶される。

例えば、フラッシュメモリ１０３１には、CPU１０３２の制御によりネットワークを介して所定のサーバから取得されたコンテンツデータを含むMPEG-TSが記憶される。フラッシュメモリ１０３１は、例えばCPU１０３２の制御により、そのMPEG-TSを、内部バス１０２９を介してMPEGデコーダ１０１７に供給する。

MPEGデコーダ１０１７は、デジタルチューナ１０１６から供給されたMPEG-TSの場合と同様に、そのMPEG-TSを処理する。このようにテレビジョン受像機１０００は、映像や音声等よりなるコンテンツデータを、ネットワークを介して受信し、MPEGデコーダ１０１７を用いてデコードし、その映像を表示させたり、音声を出力させたりすることができる。

また、テレビジョン受像機１０００は、リモートコントローラ１０５１から送信される赤外線信号を受光する受光部１０３７も有する。

受光部１０３７は、リモートコントローラ１０５１からの赤外線を受光し、復調して得られたユーザ操作の内容を表す制御コードをCPU１０３２に出力する。

CPU１０３２は、フラッシュメモリ１０３１に記憶されているプログラムを実行し、受光部１０３７から供給される制御コードなどに応じてテレビジョン受像機１０００の全体の動作を制御する。CPU１０３２とテレビジョン受像機１０００の各部は、図示せぬ経路を介して接続されている。

USB I/F１０３３は、USB端子１０３６に装着されたUSBケーブルを介して接続される、テレビジョン受像機１０００の外部の機器との間でデータの送受信を行う。ネットワークI/F１０３４は、ネットワーク端子１０３５に装着されたケーブルを介してネットワークに接続し、ネットワークに接続される各種の装置と音声データ以外のデータの送受信も行う。

テレビジョン受像機１０００は、MPEGデコーダ１０１７として画像復号装置４００を用いることにより、アンテナを介して受信する放送波信号や、ネットワークを介して取得するコンテンツデータの符号化効率を向上させることができる。

＜６．第６の実施の形態＞
［携帯電話機］
図４１は、本発明を適用した画像符号化装置３００および画像復号装置４００を用いる携帯電話機の主な構成例を示すブロック図である。

図４１に示される携帯電話機１１００は、各部を統括的に制御するようになされた主制御部１１５０、電源回路部１１５１、操作入力制御部１１５２、画像エンコーダ１１５３、カメラI/F部１１５４、LCD制御部１１５５、画像デコーダ１１５６、多重分離部１１５７、記録再生部１１６２、変復調回路部１１５８、および音声コーデック１１５９を有する。これらは、バス１１６０を介して互いに接続されている。

また、携帯電話機１１００は、操作キー１１１９、CCD（Charge Coupled Devices）カメラ１１１６、液晶ディスプレイ１１１８、記憶部１１２３、送受信回路部１１６３、アンテナ１１１４、マイクロホン（マイク）１１２１、およびスピーカ１１１７を有する。

電源回路部１１５１は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話機１１００を動作可能な状態に起動する。

携帯電話機１１００は、CPU、ROMおよびRAM等でなる主制御部１１５０の制御に基づいて、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。

例えば、音声通話モードにおいて、携帯電話機１１００は、マイクロホン（マイク）１１２１で集音した音声信号を、音声コーデック１１５９によってデジタル音声データに変換し、これを変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（音声信号）は、公衆電話回線網を介して通話相手の携帯電話機に供給される。

また、例えば、音声通話モードにおいて、携帯電話機１１００は、アンテナ１１１４で受信した受信信号を送受信回路部１１６３で増幅し、さらに周波数変換処理およびアナログデジタル変換処理し、変復調回路部１１５８でスペクトラム逆拡散処理し、音声コーデック１１５９によってアナログ音声信号に変換する。携帯電話機１１００は、その変換して得られたアナログ音声信号をスピーカ１１１７から出力する。

更に、例えば、データ通信モードにおいて電子メールを送信する場合、携帯電話機１１００は、操作キー１１１９の操作によって入力された電子メールのテキストデータを、操作入力制御部１１５２において受け付ける。携帯電話機１１００は、そのテキストデータを主制御部１１５０において処理し、LCD制御部１１５５を介して、画像として液晶ディスプレイ１１１８に表示させる。

また、携帯電話機１１００は、主制御部１１５０において、操作入力制御部１１５２が受け付けたテキストデータやユーザ指示等に基づいて電子メールデータを生成する。携帯電話機１１００は、その電子メールデータを、変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（電子メール）は、ネットワークおよびメールサーバ等を介して、所定のあて先に供給される。

また、例えば、データ通信モードにおいて電子メールを受信する場合、携帯電話機１１００は、基地局から送信された信号を、アンテナ１１１４を介して送受信回路部１１６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機１１００は、その受信信号を変復調回路部１１５８でスペクトラム逆拡散処理して元の電子メールデータを復元する。携帯電話機１１００は、復元された電子メールデータを、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示する。

なお、携帯電話機１１００は、受信した電子メールデータを、記録再生部１１６２を介して、記憶部１１２３に記録する（記憶させる）ことも可能である。

この記憶部１１２３は、書き換え可能な任意の記憶媒体である。記憶部１１２３は、例えば、RAMや内蔵型フラッシュメモリ等の半導体メモリであってもよいし、ハードディスクであってもよいし、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、またはメモリカード等のリムーバブルメディアであってもよい。もちろん、これら以外のものであってもよい。

さらに、例えば、データ通信モードにおいて画像データを送信する場合、携帯電話機１１００は、撮像によりCCDカメラ１１１６で画像データを生成する。CCDカメラ１１１６は、レンズや絞り等の光学デバイスと光電変換素子としてのCCDを有し、被写体を撮像し、受光した光の強度を電気信号に変換し、被写体の画像の画像データを生成する。CCDカメラ１１１６は、その画像データを、カメラI/F部１１５４を介して、画像エンコーダ１１５３で符号化し、符号化画像データに変換する。

携帯電話機１１００は、このような処理を行う画像エンコーダ１１５３として、上述した画像符号化装置３００を用いる。画像エンコーダ１１５３は、画像符号化装置３００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。つまり、画像エンコーダ１１５３は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。これにより、画像エンコーダ１１５３は、符号化データの符号化効率を向上させることができる。

なお、携帯電話機１１００は、このとき同時に、CCDカメラ１１１６で撮像中にマイクロホン（マイク）１１２１で集音した音声を、音声コーデック１１５９においてアナログデジタル変換し、さらに符号化する。

携帯電話機１１００は、多重分離部１１５７において、画像エンコーダ１１５３から供給された符号化画像データと、音声コーデック１１５９から供給されたデジタル音声データとを、所定の方式で多重化する。携帯電話機１１００は、その結果得られる多重化データを、変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（画像データ）は、ネットワーク等を介して、通信相手に供給される。

なお、画像データを送信しない場合、携帯電話機１１００は、CCDカメラ１１１６で生成した画像データを、画像エンコーダ１１５３を介さずに、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示させることもできる。

また、例えば、データ通信モードにおいて、簡易ホームページ等にリンクされた動画像ファイルのデータを受信する場合、携帯電話機１１００は、基地局から送信された信号を、アンテナ１１１４を介して送受信回路部１１６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機１１００は、その受信信号を変復調回路部１１５８でスペクトラム逆拡散処理して元の多重化データを復元する。携帯電話機１１００は、多重分離部１１５７において、その多重化データを分離して、符号化画像データと音声データとに分ける。

携帯電話機１１００は、画像デコーダ１１５６において符号化画像データをデコードすることにより、再生動画像データを生成し、これを、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる動画データが液晶ディスプレイ１１１８に表示される。

携帯電話機１１００は、このような処理を行う画像デコーダ１１５６として、上述した画像復号装置４００を用いる。つまり、画像デコーダ１１５６は、画像復号装置４００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。したがって、画像デコーダ１１５６は、符号化時と同様のビット系列の割り当てを再現することができ、符号化側から供給される符号化データを正しく復号することができる。これにより、画像デコーダ１１５６は、符号化データの符号化効率を向上させることができる。

このとき、携帯電話機１１００は、同時に、音声コーデック１１５９において、デジタルの音声データをアナログ音声信号に変換し、これをスピーカ１１１７より出力させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる音声データが再生される。

なお、電子メールの場合と同様に、携帯電話機１１００は、受信した簡易ホームページ等にリンクされたデータを、記録再生部１１６２を介して、記憶部１１２３に記録する（記憶させる）ことも可能である。

また、携帯電話機１１００は、主制御部１１５０において、撮像されてCCDカメラ１１１６で得られた２次元コードを解析し、２次元コードに記録された情報を取得することができる。

さらに、携帯電話機１１００は、赤外線通信部１１８１で赤外線により外部の機器と通信することができる。

携帯電話機１１００は、画像エンコーダ１１５３として画像符号化装置３００を用いることにより、例えばCCDカメラ１１１６において生成された画像データを符号化して伝送する際に、その符号化データの符号化効率を向上させることができる。

また、携帯電話機１１００は、画像デコーダ１１５６として画像復号装置４００を用いることにより、例えば、簡易ホームページ等にリンクされた動画像ファイルのデータ（符号化データ）の符号化効率を向上させることができる。

なお、以上において、携帯電話機１１００が、CCDカメラ１１１６を用いるように説明したが、このCCDカメラ１１１６の代わりに、CMOS（Complementary Metal Oxide Semiconductor）を用いたイメージセンサ（CMOSイメージセンサ）を用いるようにしてもよい。この場合も、携帯電話機１１００は、CCDカメラ１１１６を用いる場合と同様に、被写体を撮像し、被写体の画像の画像データを生成することができる。

また、以上においては携帯電話機１１００として説明したが、例えば、PDA（Personal Digital Assistants）、スマートフォン、UMPC（Ultra Mobile Personal Computer）、ネットブック、ノート型パーソナルコンピュータ等、この携帯電話機１１００と同様の撮像機能や通信機能を有する装置であれば、どのような装置であっても携帯電話機１１００の場合と同様に、本発明を適用した画像符号化装置および画像復号装置を適用することができる。

＜７．第７の実施の形態＞
［ハードディスクレコーダ］
図４２は、本発明を適用した画像符号化装置３００および画像復号装置４００を用いるハードディスクレコーダの主な構成例を示すブロック図である。

図４２に示されるハードディスクレコーダ（HDDレコーダ）１２００は、チューナにより受信された、衛星や地上のアンテナ等より送信される放送波信号（テレビジョン信号）に含まれる放送番組のオーディオデータとビデオデータを、内蔵するハードディスクに保存し、その保存したデータをユーザの指示に応じたタイミングでユーザに提供する装置である。

ハードディスクレコーダ１２００は、例えば、放送波信号よりオーディオデータとビデオデータを抽出し、それらを適宜復号し、内蔵するハードディスクに記憶させることができる。また、ハードディスクレコーダ１２００は、例えば、ネットワークを介して他の装置からオーディオデータやビデオデータを取得し、それらを適宜復号し、内蔵するハードディスクに記憶させることもできる。

さらに、ハードディスクレコーダ１２００は、例えば、内蔵するハードディスクに記録されているオーディオデータやビデオデータを復号してモニタ１２６０に供給し、モニタ１２６０の画面にその画像を表示させ、モニタ１２６０のスピーカよりその音声を出力させることができる。また、ハードディスクレコーダ１２００は、例えば、チューナを介して取得された放送波信号より抽出されたオーディオデータとビデオデータ、または、ネットワークを介して他の装置から取得したオーディオデータやビデオデータを復号してモニタ１２６０に供給し、モニタ１２６０の画面にその画像を表示させ、モニタ１２６０のスピーカよりその音声を出力させることもできる。

もちろん、この他の動作も可能である。

図４２に示されるように、ハードディスクレコーダ１２００は、受信部１２２１、復調部１２２２、デマルチプレクサ１２２３、オーディオデコーダ１２２４、ビデオデコーダ１２２５、およびレコーダ制御部１２２６を有する。ハードディスクレコーダ１２００は、さらに、EPGデータメモリ１２２７、プログラムメモリ１２２８、ワークメモリ１２２９、ディスプレイコンバータ１２３０、OSD（On Screen Display）制御部１２３１、ディスプレイ制御部１２３２、記録再生部１２３３、D/Aコンバータ１２３４、および通信部１２３５を有する。

また、ディスプレイコンバータ１２３０は、ビデオエンコーダ１２４１を有する。記録再生部１２３３は、エンコーダ１２５１およびデコーダ１２５２を有する。

受信部１２２１は、リモートコントローラ（図示せず）からの赤外線信号を受信し、電気信号に変換してレコーダ制御部１２２６に出力する。レコーダ制御部１２２６は、例えば、マイクロプロセッサなどにより構成され、プログラムメモリ１２２８に記憶されているプログラムに従って、各種の処理を実行する。レコーダ制御部１２２６は、このとき、ワークメモリ１２２９を必要に応じて使用する。

通信部１２３５は、ネットワークに接続され、ネットワークを介して他の装置との通信処理を行う。例えば、通信部１２３５は、レコーダ制御部１２２６により制御され、チューナ（図示せず）と通信し、主にチューナに対して選局制御信号を出力する。

復調部１２２２は、チューナより供給された信号を、復調し、デマルチプレクサ１２２３に出力する。デマルチプレクサ１２２３は、復調部１２２２より供給されたデータを、オーディオデータ、ビデオデータ、およびEPGデータに分離し、それぞれ、オーディオデコーダ１２２４、ビデオデコーダ１２２５、またはレコーダ制御部１２２６に出力する。

オーディオデコーダ１２２４は、入力されたオーディオデータをデコードし、記録再生部１２３３に出力する。ビデオデコーダ１２２５は、入力されたビデオデータをデコードし、ディスプレイコンバータ１２３０に出力する。レコーダ制御部１２２６は、入力されたEPGデータをEPGデータメモリ１２２７に供給し、記憶させる。

ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５またはレコーダ制御部１２２６より供給されたビデオデータを、ビデオエンコーダ１２４１により、例えばNTSC（National Television Standards Committee）方式のビデオデータにエンコードし、記録再生部１２３３に出力する。また、ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５またはレコーダ制御部１２２６より供給されるビデオデータの画面のサイズを、モニタ１２６０のサイズに対応するサイズに変換し、ビデオエンコーダ１２４１によってNTSC方式のビデオデータに変換し、アナログ信号に変換し、ディスプレイ制御部１２３２に出力する。

ディスプレイ制御部１２３２は、レコーダ制御部１２２６の制御のもと、OSD（On Screen Display）制御部１２３１が出力したOSD信号を、ディスプレイコンバータ１２３０より入力されたビデオ信号に重畳し、モニタ１２６０のディスプレイに出力し、表示させる。

モニタ１２６０にはまた、オーディオデコーダ１２２４が出力したオーディオデータが、D/Aコンバータ１２３４によりアナログ信号に変換されて供給されている。モニタ１２６０は、このオーディオ信号を内蔵するスピーカから出力する。

記録再生部１２３３は、ビデオデータやオーディオデータ等を記録する記憶媒体としてハードディスクを有する。

記録再生部１２３３は、例えば、オーディオデコーダ１２２４より供給されるオーディオデータを、エンコーダ１２５１によりエンコードする。また、記録再生部１２３３は、ディスプレイコンバータ１２３０のビデオエンコーダ１２４１より供給されるビデオデータを、エンコーダ１２５１によりエンコードする。記録再生部１２３３は、そのオーディオデータの符号化データとビデオデータの符号化データとをマルチプレクサにより合成する。記録再生部１２３３は、その合成データをチャネルコーディングして増幅し、そのデータを、記録ヘッドを介してハードディスクに書き込む。

記録再生部１２３３は、再生ヘッドを介してハードディスクに記録されているデータを再生し、増幅し、デマルチプレクサによりオーディオデータとビデオデータに分離する。記録再生部１２３３は、デコーダ１２５２によりオーディオデータおよびビデオデータをデコードする。記録再生部１２３３は、復号したオーディオデータをD/A変換し、モニタ１２６０のスピーカに出力する。また、記録再生部１２３３は、復号したビデオデータをD/A変換し、モニタ１２６０のディスプレイに出力する。

レコーダ制御部１２２６は、受信部１２２１を介して受信されるリモートコントローラからの赤外線信号により示されるユーザ指示に基づいて、EPGデータメモリ１２２７から最新のEPGデータを読み出し、それをOSD制御部１２３１に供給する。OSD制御部１２３１は、入力されたEPGデータに対応する画像データを発生し、ディスプレイ制御部１２３２に出力する。ディスプレイ制御部１２３２は、OSD制御部１２３１より入力されたビデオデータをモニタ１２６０のディスプレイに出力し、表示させる。これにより、モニタ１２６０のディスプレイには、EPG（電子番組ガイド）が表示される。

また、ハードディスクレコーダ１２００は、インターネット等のネットワークを介して他の装置から供給されるビデオデータ、オーディオデータ、またはEPGデータ等の各種データを取得することができる。

通信部１２３５は、レコーダ制御部１２２６に制御され、ネットワークを介して他の装置から送信されるビデオデータ、オーディオデータ、およびEPGデータ等の符号化データを取得し、それをレコーダ制御部１２２６に供給する。レコーダ制御部１２２６は、例えば、取得したビデオデータやオーディオデータの符号化データを記録再生部１２３３に供給し、ハードディスクに記憶させる。このとき、レコーダ制御部１２２６および記録再生部１２３３が、必要に応じて再エンコード等の処理を行うようにしてもよい。

また、レコーダ制御部１２２６は、取得したビデオデータやオーディオデータの符号化データを復号し、得られるビデオデータをディスプレイコンバータ１２３０に供給する。ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５から供給されるビデオデータと同様に、レコーダ制御部１２２６から供給されるビデオデータを処理し、ディスプレイ制御部１２３２を介してモニタ１２６０に供給し、その画像を表示させる。

また、この画像表示に合わせて、レコーダ制御部１２２６が、復号したオーディオデータを、D/Aコンバータ１２３４を介してモニタ１２６０に供給し、その音声をスピーカから出力させるようにしてもよい。

さらに、レコーダ制御部１２２６は、取得したEPGデータの符号化データを復号し、復号したEPGデータをEPGデータメモリ１２２７に供給する。

以上のようなハードディスクレコーダ１２００は、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダとして画像復号装置４００を用いる。つまり、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダは、画像復号装置４００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。したがって、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダは、符号化時と同様のビット系列の割り当てを再現することができる。これにより、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダは、符号化データの符号化効率を向上させることができる。

したがって、ハードディスクレコーダ１２００は、例えば、チューナや通信部１２３５が受信するビデオデータ（符号化データ）や、記録再生部１２３３が再生するビデオデータ（符号化データ）の符号化効率を向上させることができる。

また、ハードディスクレコーダ１２００は、エンコーダ１２５１として画像符号化装置３００を用いる。したがって、エンコーダ１２５１は、画像符号化装置３００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。つまり、エンコーダ１２５１は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。これにより、エンコーダ１２５１は、符号化データの符号化効率を向上させることができる。

したがって、ハードディスクレコーダ１２００は、例えば、ハードディスクに記録する符号化データの符号化効率を向上させることができる。

なお、以上においては、ビデオデータやオーディオデータをハードディスクに記録するハードディスクレコーダ１２００について説明したが、もちろん、記録媒体はどのようなものであってもよい。例えばフラッシュメモリ、光ディスク、またはビデオテープ等、ハードディスク以外の記録媒体を適用するレコーダであっても、上述したハードディスクレコーダ１２００の場合と同様に、本発明を適用した画像符号化装置３００および画像復号装置４００を適用することができる。

＜８．第８の実施の形態＞
［カメラ］
図４３は、本発明を適用した画像符号化装置および画像復号装置を用いるカメラの主な構成例を示すブロック図である。

図４３に示されるカメラ１３００は、被写体を撮像し、被写体の画像をLCD１３１６に表示させたり、それを画像データとして、記録メディア１３３３に記録したりする。

レンズブロック１３１１は、光（すなわち、被写体の映像）を、CCD/CMOS１３１２に入射させる。CCD/CMOS１３１２は、CCDまたはCMOSを用いたイメージセンサであり、受光した光の強度を電気信号に変換し、カメラ信号処理部１３１３に供給する。

カメラ信号処理部１３１３は、CCD/CMOS１３１２から供給された電気信号を、Ｙ，Ｃｒ，Ｃｂの色差信号に変換し、画像信号処理部１３１４に供給する。画像信号処理部１３１４は、コントローラ１３２１の制御の下、カメラ信号処理部１３１３から供給された画像信号に対して所定の画像処理を施したり、その画像信号をエンコーダ１３４１で符号化したりする。画像信号処理部１３１４は、画像信号を符号化して生成した符号化データを、デコーダ１３１５に供給する。さらに、画像信号処理部１３１４は、オンスクリーンディスプレイ（OSD）１３２０において生成された表示用データを取得し、それをデコーダ１３１５に供給する。

以上の処理において、カメラ信号処理部１３１３は、バス１３１７を介して接続されるDRAM（Dynamic Random Access Memory）１３１８を適宜利用し、必要に応じて画像データや、その画像データが符号化された符号化データ等をそのDRAM１３１８に保持させる。

デコーダ１３１５は、画像信号処理部１３１４から供給された符号化データを復号し、得られた画像データ（復号画像データ）をLCD１３１６に供給する。また、デコーダ１３１５は、画像信号処理部１３１４から供給された表示用データをLCD１３１６に供給する。LCD１３１６は、デコーダ１３１５から供給された復号画像データの画像と表示用データの画像を適宜合成し、その合成画像を表示する。

オンスクリーンディスプレイ１３２０は、コントローラ１３２１の制御の下、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを、バス１３１７を介して画像信号処理部１３１４に出力する。

コントローラ１３２１は、ユーザが操作部１３２２を用いて指令した内容を示す信号に基づいて、各種処理を実行するとともに、バス１３１７を介して、画像信号処理部１３１４、DRAM１３１８、外部インタフェース１３１９、オンスクリーンディスプレイ１３２０、およびメディアドライブ１３２３等を制御する。FLASH ROM１３２４には、コントローラ１３２１が各種処理を実行する上で必要なプログラムやデータ等が格納される。

例えば、コントローラ１３２１は、画像信号処理部１３１４やデコーダ１３１５に代わって、DRAM１３１８に記憶されている画像データを符号化したり、DRAM１３１８に記憶されている符号化データを復号したりすることができる。このとき、コントローラ１３２１は、画像信号処理部１３１４やデコーダ１３１５の符号化・復号方式と同様の方式によって符号化・復号処理を行うようにしてもよいし、画像信号処理部１３１４やデコーダ１３１５が対応していない方式により符号化・復号処理を行うようにしてもよい。

また、例えば、操作部１３２２から画像印刷の開始が指示された場合、コントローラ１３２１は、DRAM１３１８から画像データを読み出し、それを、バス１３１７を介して外部インタフェース１３１９に接続されるプリンタ１３３４に供給して印刷させる。

さらに、例えば、操作部１３２２から画像記録が指示された場合、コントローラ１３２１は、DRAM１３１８から符号化データを読み出し、それを、バス１３１７を介してメディアドライブ１３２３に装着される記録メディア１３３３に供給して記憶させる。

記録メディア１３３３は、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアである。記録メディア１３３３は、もちろん、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触ICカード等であっても良い。

また、メディアドライブ１３２３と記録メディア１３３３を一体化し、例えば、内蔵型ハードディスクドライブやSSD（Solid State Drive）等のように、非可搬性の記憶媒体により構成されるようにしてもよい。

外部インタフェース１３１９は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタ１３３４と接続される。また、外部インタフェース１３１９には、必要に応じてドライブ１３３１が接続され、磁気ディスク、光ディスク、あるいは光磁気ディスクなどのリムーバブルメディア１３３２が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、FLASH ROM１３２４にインストールされる。

さらに、外部インタフェース１３１９は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。コントローラ１３２１は、例えば、操作部１３２２からの指示に従って、DRAM１３１８から符号化データを読み出し、それを外部インタフェース１３１９から、ネットワークを介して接続される他の装置に供給させることができる。また、コントローラ１３２１は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース１３１９を介して取得し、それをDRAM１３１８に保持させたり、画像信号処理部１３１４に供給したりすることができる。

以上のようなカメラ１３００は、デコーダ１３１５として画像復号装置４００を用いる。つまり、デコーダ１３１５は、画像復号装置４００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。したがって、デコーダ１３１５は、符号化時と同様のビット系列の割り当てを再現することができ、符号化側から供給される符号化データを正しく復号することができる。これにより、デコーダ１３１５は、符号化データの符号化効率を向上させることができる。

したがって、カメラ１３００は、例えば、CCD/CMOS１３１２において生成される画像データや、DRAM１３１８または記録メディア１３３３から読み出すビデオデータの符号化データや、ネットワークを介して取得するビデオデータの符号化データの符号化効率を向上させることができる。

また、カメラ１３００は、エンコーダ１３４１として画像符号化装置３００を用いる。エンコーダ１３４１は、画像符号化装置３００の場合と同様に、所定のパラメータに応じてビット系列の割り当てを適切に制御する。つまり、エンコーダ１３４１は、指定する頻度がより高い動きベクトルの選択情報に対して符号長がより短いビット系列を割り当てることができる。これにより、エンコーダ１３４１は、符号化データの符号化効率を向上させることができる。

したがって、カメラ１３００は、例えば、DRAM１３１８や記録メディア１３３３に記録する符号化データや、他の装置に提供する符号化データの符号化効率を向上させることができる。

なお、コントローラ１３２１が行う復号処理に画像復号装置２００の復号方法を適用するようにしてもよい。同様に、コントローラ１３２１が行う符号化処理に画像符号化装置１００の符号化方法を適用するようにしてもよい。

また、カメラ１３００が撮像する画像データは動画像であってもよいし、静止画像であってもよい。

もちろん、本発明を適用した画像符号化装置および画像復号装置は、上述した装置以外の装置やシステムにも適用可能である。

本発明は、例えば、MPEG，H.26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報（ビットストリーム）を、衛星放送、ケーブルＴＶ、インターネット、携帯電話などのネットワークメディアを介して受信する際に、若しくは光、磁気ディスク、フラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置や画像復号装置に適用することができる。

３００ 画像符号化装置， ３０６ 可逆符号化部， ３２１ 割り当て制御部， ３３１ 動きベクトル記憶部， ３３２ 予測動きベクトル選択部， ３３３ 差分動きベクトル算出部， ３３４ テーブル記憶部， ３３５ ２値化部， ３３６ ２値化部， ３３７ エントロピ符号化部， ３４１ 距離閾値取得部， ３４２ 距離算出部， ３４３ テーブル選択部， ４００ 画像復号装置， ４０２ 可逆復号部， ４２１ 割り当て制御部， ４３１ エントロピ復号部， ４３２ 逆２値化部， ４３３ テーブル記憶部， ４３４ 逆２値化部， ４３５ 予測動きベクトル選択部， ４３６ 動きベクトル算出部， ４３７ 動きベクトル記憶部， ４４１ 距離算出部， ４４２ テーブル選択部， ５４１ 類似度閾値取得部， ５４２ 類似度算出部， ５４３ テーブル選択部， ６４１ 類似度算出部， ６４２ テーブル記憶部， ７４１ コスト関数値算出部， ７４２ コスト関数値記憶部， ７４３ テーブル選択部， ８３２ 逆２値化部， ８３４ 逆２値化部

Claims (17)

1. 予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを選択するテーブル選択部と、
   前記テーブル選択部により選択された前記テーブルを用いて、前記予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列を割り当てることにより、前記予測動きベクトル選択情報を２値化する２値化部と、
   前記テーブル選択部により選択された前記テーブルを示す情報を、前記２値化部により２値化された前記予測動きベクトル選択情報の符号化データの供給先に供給する供給部と
   を備える画像処理装置。
2. 前記テーブル選択部は、所定のパラメータに基づいて前記テーブルを選択する
   請求項１に記載の画像処理装置。
3. 前記テーブル選択部は、前記パラメータと閾値との比較結果に基づいて前記テーブルを選択する
   請求項２に記載の画像処理装置。
4. 前記閾値は可変であり、
   前記テーブル選択部は、前記パラメータと設定された前記閾値との比較結果に基づいて前記テーブルを選択する
   請求項３に記載の画像処理装置。
5. 前記閾値は所定の処理単位毎に設定される
   請求項４に記載の画像処理装置。
6. 前記供給部は、前記閾値を前記供給先に供給する
   請求項３に記載の画像処理装置。
7. 前記テーブル選択部は、前記パラメータと複数の閾値との比較結果に基づいて前記テーブルを選択する
   請求項２に記載の画像処理装置。
8. 前記パラメータは、前記予測動きベクトルが生成される当該ブロックを含むピクチャである当該ピクチャとアンカーピクチャとの距離である
   請求項２に記載の画像処理装置。
9. 前記パラメータは、周辺予測動きベクトル同士の類似度である
   請求項２に記載の画像処理装置。
10. 前記パラメータは、前記予測動きベクトル選択情報のコスト関数値である
    請求項２に記載の画像処理装置。
11. 前記２値化部により前記予測動きベクトル選択情報が２値化されて得られた２値データを符号化する符号化部をさらに備え、
    前記供給部は、前記符号化部により前記２値データが符号化されて得られた前記符号化データを前記供給先に供給する
    請求項１に記載の画像処理装置。
12. 予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを選択し、
    選択された前記テーブルを用いて、前記予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列を割り当てることにより、前記予測動きベクトル選択情報を２値化し、
    選択された前記テーブルを示す情報を、２値化された前記予測動きベクトル選択情報の符号化データの供給先に供給する
    画像処理方法。
13. コンピュータを、
    予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを選択するテーブル選択部と、
    前記テーブル選択部により選択された前記テーブルを用いて、前記予測動きベクトルとして選択された動きベクトルの種類に応じたビット系列を割り当てることにより、前記予測動きベクトル選択情報を２値化する２値化部と、
    前記テーブル選択部により選択された前記テーブルを示す情報を、前記２値化部により２値化された前記予測動きベクトル選択情報の符号化データの供給先に供給する供給部
    として機能させるためのプログラム。
14. 予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報を取得する取得部と、
    前記取得部により取得された前記テーブルを用いて、前記テーブルに基づいて前記予測動きベクトル選択情報に割り当てられた前記ビット系列を逆２値化する逆２値化部と
    を備える画像処理装置。
15. 前記予測動きベクトル選択情報に割り当てられた前記ビット系列が符号化された符号化データを復号する復号部をさらに備え、
    前記逆２値化部は、前記取得部により取得された前記テーブルを用いて、前記復号部により前記符号化データが復号されて得られた前記ビット系列を逆２値化する
    請求項１４に記載の画像処理装置。
16. 予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報を取得し、
    取得された前記テーブルを用いて、前記テーブルに基づいて前記予測動きベクトル選択情報に割り当てられた前記ビット系列を逆２値化する
    画像処理方法。
17. コンピュータを、
    予測動きベクトルとして選択された動きベクトルを示す予測動きベクトル選択情報に割り当てるビット系列を前記予測動きベクトルとして選択された動きベクトルの種類に応じて指定するテーブルを示す情報を取得する取得部と、
    前記取得部により取得された前記テーブルを用いて、前記テーブルに基づいて前記予測動きベクトル選択情報に割り当てられた前記ビット系列を逆２値化する逆２値化部
    として機能させるためのプログラム。

Images