JP6210387B2 - 動画像復号化方法および動画像復号化装置 - Google Patents

Description

本発明は、動画像符号化方法および動画像復号化方法等に関する。

動画像符号化処理では、一般に、動画像が有する空間方向および時間方向の冗長性を利用して情報量の圧縮が行われる。ここで一般に、空間方向の冗長性を利用する方法としては、周波数領域への変換が用いられる。また、時間方向の冗長性を利用する方法としては、ピクチャ間予測（以降、「インター予測」と呼ぶ）符号化処理が用いられる。インター予測符号化処理では、あるピクチャを符号化する際に、符号化対象ピクチャに対して表示時間順で前方または後方にある符号化済みのピクチャが、参照ピクチャとして用いられる。そして、その参照ピクチャに対する符号化対象ピクチャの動き検出により、動きベクトルが導出される。そして、導出された動きベクトルに基づいて動き補償を行って得られた予測画像データと符号化対象ピクチャの画像データとの差分を算出することにより、時間方向の冗長性が取り除かれる（例えば、非特許文献１参照）。ここで、動き検出では、符号化ピクチャ内の符号化対象ブロックと、参照ピクチャ内のブロックとの差分値を算出し、最も差分値の小さい参照ピクチャ内のブロックが参照ブロックとして決定される。そして、符号化対象ブロックと、参照ブロックとを用いて、動きベクトルが検出される。

ＩＴＵ−Ｔ Ｒｅｃｏｍｍｅｎｄａｔｉｏｎ Ｈ．２６４「Ａｄｖａｎｃｅｄ ｖｉｄｅｏ ｃｏｄｉｎｇ ｆｏｒ ｇｅｎｅｒｉｃ ａｕｄｉｏｖｉｓｕａｌ ｓｅｒｖｉｃｅｓ」、２０１０年３月 ＪＣＴ−ＶＣ，"ＷＤ３：Ｗｏｒｋｉｎｇ Ｄｒａｆｔ ３ ｏｆ Ｈｉｇｈ−Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ"，ＪＣＴＶＣ−Ｅ６０３，Ｍａｒｃｈ ２０１１．

しかしながら、上記従来の技術では、インター予測を用いた動画像符号化及び復号化のエラー耐性を向上させることが望まれている。

そこで、本発明の目的は、インター予測を用いた動画像符号化及び復号化のエラー耐性を向上させることができる動画像符号化方法及び動画像復号化方法を提供することである。

本発明の一態様に係る動画像復号化方法は、ビットストリームから復号化対象ブロックを復号化するための動画像復号化方法であって、第１インデックスに対応する第１タイプの候補を候補リストに追加し、前記第１タイプの候補は前記復号化対象ブロックを含む画像に含まれ前記復号化対象ブロックに空間的に隣接する第１ブロックの復号化に用いられた第１予測動きベクトルを有し、第２インデックスに対応する第２タイプの候補を前記候補リストに追加し、前記第２タイプの候補は前記復号化対象ブロックを含む画像とは異なる画像に含まれ前記復号化対象ブロックに時間的に隣接する第２ブロックの復号化に用いられた第２予測動きベクトルを有し、第３予測動きベクトルを有し、第３インデックスに対応する第３タイプの候補を前記候補リストに追加し、前記第３タイプの候補は、前記第１タイプの候補および前記第２タイプの候補とは異なり、第４予測動きベクトルを有し、第４インデックスに対応する第４タイプの候補を前記候補リストに追加し、前記第４タイプの候補は、前記第１タイプの候補のコピーであり、前記候補リストのうち前記ビットストリーム中の予測動きベクトルインデックスに対応する一の候補が有する予測動きベクトルを用いて前記復号化対象ブロックを復号する。

本発明の一態様によれば、インター予測を用いた動画像符号化及び復号化のエラー耐性を向上させることが可能になる。

図１Ａは、Ｂピクチャにおける参照ピクチャリストの一例を説明するための図である。 図１Ｂは、Ｂピクチャにおける予測方向０の参照ピクチャリストの一例を示す図である。 図１Ｃは、Ｂピクチャにおける予測方向１の参照ピクチャリストの一例を示す図である。 図２は、時間予測動きベクトルモードにおける動きベクトルを説明するための図である。 図３は、予測動きベクトル指定モードにおいて用いられる隣接ブロックの動きベクトルの一例を示す図である。 図４は、予測方向０の予測動きベクトル候補リストの一例を説明するための図である。 図５は、予測方向１の予測動きベクトル候補リストの一例を説明するための図である。 図６は、予測動きベクトルインデックスへのビット列の割り当ての一例を示す図である。 図７は、予測動きベクトル指定モードを用いる場合の符号化処理の一例を示すフローチャートである。 図８Ａは、予測動きベクトルの算出例を示す図である。 図８Ｂは、予測動きベクトルの算出例を示す図である。 図９は、予測動きベクトル指定モードを用いて動画像を符号化する動画像符号化装置の構成の一例を示すブロック図である。 図１０は、予測動きベクトル指定モードを用いる場合の復号化処理の一例を示すフローチャートである。 図１１は、予測動きベクトル指定モードを用いて符号化された動画像を復号化する動画像復号化装置の構成の一例を示すブロック図である。 図１２は、予測動きベクトルインデックスをビットストリームに付加する際のシンタックスを示す図である。 図１３は、実施の形態１に係る動画像符号化装置の構成を示すブロック図である。 図１４は、実施の形態１に係る動画像符号化装置の処理動作を示すフローチャートである。 図１５Ａは、実施の形態１における予測方向０の予測動きベクトル候補リストの一例を示す図である。 図１５Ｂは、実施の形態の変形例における予測方向０の予測動きベクトル候補リストの一例を示す図である。 図１５Ｃは、実施の形態の変形例における予測方向０の予測動きベクトル候補リストの一例を示す図である。 図１６Ａは、実施の形態１における予測方向１の予測動きベクトル候補リストの一例を示す図である。 図１６Ｂは、実施の形態の変形例における予測方向１の予測動きベクトル候補リストの一例を示す図である。 図１６Ｃは、実施の形態の変形例における予測方向１の予測動きベクトル候補リストの一例を示す図である。 図１７Ａは、実施の形態１における予測動きベクトル候補、および、予測動きベクトル候補リストサイズの算出処理を示すフローチャートである。 図１７Ｂは、実施の形態の変形例における予測動きベクトル候補の算出処理を示すフローチャートである。 図１７Ｃは、実施の形態の変形例における予測動きベクトル候補の算出処理を示すフローチャートである。 図１８は、実施の形態１における予測可能候補数の更新処理を示すフローチャートである。 図１９Ａは、実施の形態１における新規候補の追加処理を示すフローチャートである。 図１９Ｂは、実施の形態の変形例における新規候補の追加処理を示すフローチャートである。 図２０は、実施の形態１における予測動きベクトル候補の選択に関する処理を示すフローチャートである。 図２１は、実施の形態２に係る動画像復号化装置の構成を示すブロック図である。 図２２は、実施の形態２に係る動画像復号化装置の処理動作を示すフローチャートである。 図２３は、実施の形態２における予測可能候補数の算出処理を示すフローチャートである。 図２４は、実施の形態２における予測動きベクトル候補の算出処理を示すフローチャートである。 図２５は、予測動きベクトルインデックスをビットストリームに付加する際のシンタックスの一例を示す図である。 図２６は、予測動きベクトル候補リストサイズを予測動きベクトル候補数の最大値に固定した場合のシンタックスの一例を示す図である。 図２７は、実施の形態の変形例における第二の候補の追加処理を示すフローチャートである。 図２８は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。 図２９は、デジタル放送用システムの全体構成図である。 図３０は、テレビの構成例を示すブロック図である。 図３１は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。 図３２は、光ディスクである記録メディアの構造例を示す図である。 図３３Ａは、携帯電話の一例を示す図である。 図３３Ｂは、携帯電話の構成例を示すブロック図である。 図３４は、多重化データの構成を示す図である。 図３５は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。 図３６は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。 図３７は、多重化データにおけるＴＳパケットとソースパケットの構造を示す図である。 図３８は、ＰＭＴのデータ構成を示す図である。 図３９は、多重化データ情報の内部構成を示す図である。 図４０は、ストリーム属性情報の内部構成を示す図である。 図４１は、映像データを識別するステップを示す図である。 図４２は、各実施の形態の動画像符号化方法および動画像復号化方法を実現する集積回路の構成例を示すブロック図である。 図４３は、駆動周波数を切り替える構成を示す図である。 図４４は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。 図４５は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。 図４６Ａは、信号処理部のモジュールを共有化する構成の一例を示す図である。 図４６Ｂは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。

（本発明の基礎となった知見）
既に標準化されている、Ｈ．２６４と呼ばれる動画像符号化方式では、情報量の圧縮のために、Ｉピクチャ、Ｐピクチャ、Ｂピクチャという３種類のピクチャタイプが用いられている。

Ｉピクチャは、インター予測符号化処理で符号化されない。すなわち、Ｉピクチャは、ピクチャ内予測（以降、「イントラ予測」と呼ぶ）符号化処理で符号化される。Ｐピクチャは、表示時間順で、符号化対象ピクチャの前方または後方にある既に符号化済みの１つのピクチャを参照してインター予測符号化される。Ｂピクチャは、表示時間順で、符号化対象ピクチャの前方または後方にある既に符号化済みの２つのピクチャを参照してインター予測符号化される。

インター予測符号化においては、参照ピクチャを特定するための参照ピクチャリストが生成される。参照ピクチャリストは、インター予測で参照する符号化済みの参照ピクチャに参照ピクチャインデックスを割り当てたリストである。例えば、Ｂピクチャでは、２つのピクチャを参照して符号化を行えるため、２つの参照ピクチャリスト（Ｌ０、Ｌ１）が生成される。

図１Ａは、Ｂピクチャにおける参照ピクチャリストの一例を説明するための図である。図１Ｂは、双方向予測における予測方向０の参照ピクチャリスト０（Ｌ０）の一例を示す。ここでは、参照ピクチャリスト０において、参照ピクチャインデックス０の値０は、表示順２の参照ピクチャ０に割り当てられている。また、参照ピクチャインデックス０の値１は、表示順１の参照ピクチャ１に割り当てられている。また、参照ピクチャインデックス０の値２は、表示順０の参照ピクチャ２に割り当てられている。つまり、符号化対象ピクチャに対して表示順で時間的に近い参照ピクチャほど、小さい値を有する参照ピクチャインデックスが割り当てられている。

一方、図１Ｃは、双方向予測における予測方向１の参照ピクチャリスト１（Ｌ１）の一例を示す。ここでは、参照ピクチャリスト１において、参照ピクチャインデックス１の値０は、表示順１の参照ピクチャ１に割り当てられている。また、参照ピクチャインデックス１の値１は、表示順２の参照ピクチャ０に割り当てられている。また、参照ピクチャインデックス２の値２は、表示順０の参照ピクチャ２に割り当てられている。

このように、各参照ピクチャに対して、予測方向毎に異なる参照ピクチャインデックスの値を割り当てること（図１Ａの参照ピクチャ０、１）、あるいは同じ参照ピクチャインデックスの値を割り当てることが可能である（図１Ａの参照ピクチャ２）。

また、Ｈ．２６４と呼ばれる動画像符号化方式（非特許文献１）では、Ｂピクチャにおける各符号化対象ブロックのインター予測の符号化モードとして、動きベクトル検出モードが用いられる。動きベクトル検出モードでは、予測画像データおよび符号化対象ブロックの画像データの差分値と、予測画像データ生成に用いた動きベクトルとが符号化される。また、動きベクトル検出モードでは、予測方向として、双方向予測と片方向予測とを選択することができる。双方向予測では、符号化対象ピクチャの前方または後方にある既に符号化済みの２つのピクチャを参照して予測画像が生成される。片方向予測では、前方または後方にある既に符号化済みの１つのピクチャを参照して予測画像が生成される。

また、Ｈ．２６４と呼ばれる動画像符号化方式では、Ｂピクチャの符号化において、動きベクトルを導出する際に、時間予測動きベクトルモードと呼ばれる符号化モードを選択することができる。時間予測動きベクトルモードにおけるインター予測符号化方法を、図２を用いて説明する。

図２は、時間予測動きベクトルモードにおける動きベクトルを説明するための図である。具体的には、図２は、ピクチャＢ２のブロックａを時間予測動きベクトルモードで符号化する場合を示している。

ここでは、ピクチャＢ２の後方にある参照ピクチャであるピクチャＰ３内の、ブロックａと同じ位置にあるブロックｂ（以下、「ｃｏ−ｌｏｃａｔｅｄブロック」と呼ぶ）の符号化に用いられた動きベクトルｖｂが利用されている。動きベクトルｖｂは、ブロックｂがピクチャＰ１を参照して符号化された際に用いられた動きベクトルである。

動きベクトルｖｂに平行な動きベクトルを用いて、前方向参照ピクチャであるピクチャＰ１と、後方参照ピクチャであるピクチャＰ３とから、ブロックａのための２つの参照ブロックが取得される。そして、取得された２つの参照ブロックに基づいて２方向予測を行うことにより、ブロックａが符号化される。すなわち、ブロックａを符号化する際に用いられる動きベクトルは、ピクチャＰ１に対しては動きベクトルｖａ１であり、ピクチャＰ３に対しては動きベクトルｖａ２である。

また、ＢピクチャあるいはＰピクチャにおける各符号化対象ブロックの動きベクトルを符号化する方法として、予測動きベクトル指定モードが検討されている（非特許文献２）。予測動きベクトル指定モードでは、符号化対象ブロックの隣接ブロックを符号化する際に用いられた動きベクトルから予測動きベクトル候補を生成する。そして、予測動きベクトル候補の中から予測動きベクトルを選択して、符号化対象ブロックの動きベクトルの符号化が行われる。この際に、選択された予測動きベクトルのインデックス等がビットストリームに付加される。これによって、復号化時にも、符号化時に用いられた予測動きベクトルと同一の予測動きベクトルを選択できるようになる。具体例を、図３を参照して説明する。

図３は、予測動きベクトル指定モードにおいて用いられる隣接ブロックの動きベクトルの一例を示す図である。図３において、隣接ブロックＡは、符号化対象ブロックの左隣接の符号化済みブロックである。隣接ブロックＢは、符号化対象ブロックの上隣接の符号化済みブロックである。隣接ブロックＣは、符号化対象ブロックの右上隣接の符号化済みブロックである。隣接ブロックＤは、符号化対象ブロックの左下隣接の符号化済みブロックである。

また、図３において、符号化対象ブロックは、動き検出等の結果、予測方向０の参照ピクチャインデックスＲｅｆＬ０が示す参照ピクチャに対する動きベクトルとして、予測方向０の動きベクトルＭｖＬ０を持ち、予測方向１の参照ピクチャインデックスＲｅｆＬ１が示す参照ピクチャに対する動きベクトルとして、予測方向１の動きベクトルＭｖＬ１を持つ、双方向予測で符号化されたブロックである。ここで、ＭｖＬ０とは、参照ピクチャリスト０（Ｌ０）により特定される参照ピクチャを参照する動きベクトルである。また、ＭｖＬ１とは、参照ピクチャリスト１（Ｌ１）により特定される参照ピクチャを参照する動きベクトルである。

また、隣接ブロックＡは、予測方向０の片方向予測で符号化されたブロックである。隣接ブロックＡは、予測方向０の参照ピクチャインデックスＲｅｆＬ０＿Ａが示す参照ピクチャに対する動きベクトルとして、予測方向０の動きベクトルＭｖＬ０＿Ａを持つ。また、隣接ブロックＢは、予測方向１の片方向予測で符号化されたブロックである。隣接ブロックＢは、予測方向１の参照ピクチャインデックスＲｅｆＬ１＿Ｂが示す参照ピクチャに対する動きベクトルとして、予測方向１の動きベクトルＭｖＬ１＿Ｂを持つ。また、隣接ブロックＣは、イントラ予測で符号化されたブロックである。また、隣接ブロックＤは、予測方向０の片方向予測で符号化されたブロックである。隣接ブロックＤは、予測方向０の参照ピクチャインデックスＲｅｆＬ０＿Ｄが示す参照ピクチャに対する動きベクトルとして、予測方向０の動きベクトルＭｖＬ０＿Ｄを持つ。

このような場合では、符号化対象ブロックの予測動きベクトルとして、例えば、隣接ブロックＡ、Ｂ、Ｃ、Ｄの動きベクトル、および、ｃｏ−ｌｏｃａｔｅｄブロックを用いて求めた時間予測動きベクトルモードによる動きベクトルから生成された予測動きベクトル候補の中から、符号化対象ブロックの動きベクトルを最も効率よく符号化できる予測動きベクトルが選択される。そして、選択された予測動きベクトルを表す予測動きベクトルインデックスがビットストリームに付加される。例えば、符号化対象ブロックの予測方向０の動きベクトルＭｖＬ０を符号化する際に、隣接ブロックＡの予測方向０の動きベクトルＭｖＬ０＿Ａが、予測動きベクトルとして選択された場合、図４に示すように、隣接ブロックＡから生成した予測動きベクトル候補が用いられたことを表す予測動きベクトルインデックスの値「０」のみがビットストリームに付随される。これにより、符号化対象ブロックの予測方向０の動きベクトルＭｖＬ０の情報量を削減できる。

ここで、図４は、予測方向０の予測動きベクトル候補リストの一例を示す図である。また、図４に示すように、予測動きベクトル指定モードでは、予測動きベクトルの生成が不可能である候補（以下、「予測不可能候補」と呼ぶ）、または他の予測動きベクトル候補と値が一致する候補（以下、「重複候補」と呼ぶ）が、予測動きベクトル候補から削除される。このように、予測動きベクトル候補数を削減することで、予測動きベクトルインデックスに割り当てる符号量が削減される。ここで、予測動きベクトルの生成が不可能であるということは、隣接ブロックが、（１）イントラ予測で符号化されたブロックであること、（２）符号化対象ブロックを含むスライスまたはピクチャ境界外のブロックであること、または、（３）まだ符号化されていないブロックであること等を表している。

図４の例では、隣接ブロックＣがイントラ予測で符号化されている。そのため、予測動きベクトルインデックスの値が「３」の予測候補は、予測不可能候補であり、予測動きベクトル候補リストから削除される。また、隣接ブロックＤから生成された予測方向０の予測動きベクトルは、隣接ブロックＡから生成された予測方向０の予測動きベクトルと値が一致しているため、予測動きベクトルインデックスの値が「４」の予測候補は、予測動きベクトル候補リストから削除される。その結果、最終的に、予測方向０の予測動きベクトル候補数は３となり、予測方向０の予測動きベクトル候補リストのリストサイズは３に設定される。

また、図５は、予測方向１の予測動きベクトル候補リストの一例を示す図である。図５に示す例では、予測不可能候補および重複候補の削除によって、最終的に予測方向１の予測動きベクトル候補数２となり、予測方向１の予測動きベクトル候補リストのリストサイズは２に設定される。

予測動きベクトルインデックスは、予測動きベクトル候補リストサイズの大きさに応じて、図６に示すように、ビット列が割り当てられ、可変長符号化される。また、予測動きベクトル候補リストサイズが１の場合は、予測動きベクトルインデックスをビットストリームに付随させず、復号化側で値０と推定させる。このように、予測動きベクトル指定モードでは、予測動きベクトルインデックスに割り当てるビット列を、予測動きベクトル候補リストサイズの大きさによって変化させることにより、符号量を削減している。

図７は、予測動きベクトル指定モードを用いる場合の符号化処理の一例を示すフローチャートである。

ステップＳ１００１では、隣接ブロックおよびｃｏ−ｌｏｃａｔｅｄブロック（以下、「予測ブロック候補」と呼ぶ）から、予測方向Ｘの予測動きベクトル候補が算出される。ここで、Ｘは「０」または「１」の値をとり、それぞれ予測方向０または予測方向１を表す。予測方向Ｘの予測動きベクトル候補ｓＭｖＬＸは、予測ブロック候補の動きベクトルＭｖＬＸ＿Ｎと参照ピクチャインデックスＲｅｆＬＸ＿Ｎ、および、符号化対象ブロックの参照ピクチャインデックスＲｅｆＬＸを用いて、以下の式で算出される。

sMvLX＝MvLX_N×(POC(RefLX)−curPOC)／(POC(RefLX_N)−curPOC) …（式１）

ここで、ＰＯＣ（ＲｅｆＬＸ）は、参照ピクチャインデックスＲｅｆＬＸが示す参照ピクチャの表示順を、ＰＯＣ（ＲｅｆＬＸ＿Ｎ）は、参照ピクチャインデックスＲｅｆＬＸ＿Ｎが示す参照ピクチャの表示順を、ｃｕｒＰＯＣは、符号化対象ピクチャの表示順を示す。なお、予測ブロック候補が予測方向Ｘの動きベクトルＭｖＬＸ＿Ｎを持たない場合は、予測方向（１−Ｘ）の動きベクトルＭｖＬ（１−Ｘ）＿Ｎと参照ピクチャインデックスＲｅｆＬ（１−Ｘ）＿Ｎを用いて、式２により予測動きベクトルｓＭｖＬＸを算出する。

sMvLX＝MvL(1-X)_N×(POC(RefLX)−curPOC)／(POC(RefL(1-X)_N)−curPOC) …（式２）

図８Ａ、図８Ｂは、式１、式２による予測動きベクトルの算出例を示す図である。なお、式１、式２に示すように、ＰＯＣ（ＲｅｆＬＸ）とＰＯＣ（ＲｅｆＬＸ＿Ｎ）の値が同じ場合、つまり、同一のピクチャを参照する場合は、スケーリングを省略できる。

ステップＳ１００２では、予測方向Ｘの予測動きベクトル候補から重複候補および予測不可能候補が削除される。

ステップＳ１００３では、削除処理後の予測動きベクトル候補数が、予測動きベクトル候補リストサイズに設定される。

ステップＳ１００４では、符号化対象ブロックの予測方向Ｘの動きベクトル符号化に用いる予測動きベクトルインデックスが決定される。

ステップＳ１００５において、決定された予測動きベクトルインデックスが、予測動きベクトル候補リストサイズによって決められたビット列を用いて可変長符号化される。

図９は、予測動きベクトル指定モードを用いて動画像を符号化する動画像符号化装置１０００の構成の一例を示すブロック図である。

動画像符号化装置１０００は、図９に示すように、減算部１００１と、直交変換部１００２と、量子化部１００３と、逆量子化部１００４と、逆直交変換部１００５と、加算部１００６、ブロックメモリ１００７と、フレームメモリ１００８と、イントラ予測部１００９と、インター予測部１０１０と、インター予測制御部１０１１と、ピクチャタイプ決定部１０１２と、スイッチ１０１３と、予測動きベクトル候補算出部１０１４と、ｃｏｌＰｉｃメモリ１０１５と、可変長符号化部１０１６とを備える。

図９において、予測動きベクトル候補算出部１０１４は、予測動きベクトル候補を算出する。そして、予測動きベクトル候補算出部１０１４は、算出した予測動きベクトル候補数を可変長符号化部１０１６に送信する。可変長符号化部１０１６は、予測動きベクトル候補数を符号化パラメータである予測動きベクトル候補リストサイズに設定する。そして、可変長符号化部１０１６は、符号化に用いられた予測動きベクトルインデックスに、予測動きベクトル候補リストサイズに応じたビット列を割り当てて可変長符号化を行う。

図１０は、予測動きベクトル指定モードを用いる場合の復号化処理の一例を示すフローチャートである。

ステップＳ２００１では、隣接ブロックおよびｃｏ−ｌｏｃａｔｅｄブロック（予測ブロック候補）から、予測方向Ｘの予測動きベクトル候補を算出する。ステップＳ２００２では、予測動きベクトル候補から重複候補および予測不可能候補が削除される。ステップＳ２００３では、削除処理後の予測動きベクトル候補数が、予測動きベクトル候補リストサイズに設定される。ステップＳ２００４では、ビットストリームから、復号化対象ブロックの復号化に用いる予測動きベクトルインデックスが、予測動きベクトル候補リストサイズを用いて復号化される。ステップＳ２００５において、復号化された予測動きベクトルインデックが示す予測動きベクトル候補に、差分動きベクトルが加算されて動きベクトルが算出され、算出された動きベクトルを用いて、予測画像が生成され、復号化処理が行われる。

図１１は、予測動きベクトル指定モードを用いて符号化された動画像を復号化する動画像復号化装置の構成の一例を示すブロック図である。

動画像復号化装置２０００は、図１１に示すように、可変長復号化部２００１と、逆量子化部２００２と、逆直交変換部２００３と、加算部２００４と、ブロックメモリ２００５と、フレームメモリ２００６と、イントラ予測部２００７と、インター予測部２００８と、インター予測制御部２００９と、スイッチ２０１０と、予測動きベクトル候補算出部２０１１と、ｃｏｌＰｉｃメモリ２０１２とを備える。

図１１において、予測動きベクトル候補算出部２０１１は、予測動きベクトル候補を算出する。そして、予測動きベクトル候補算出部２０１１は、算出した予測動きベクトル候補数を可変長復号化部２００１に送信する。可変長復号化部２００１は、予測動きベクトル候補数を復号パラメータである予測動きベクトル候補リストサイズに設定する。そして、可変長復号化部２００１は、ビットストリームに含まれる予測動きベクトルインデックスを、予測動きベクトル候補リストサイズを用いて復号する。

図１２は、予測動きベクトルインデックスをビットストリームに付加する際のシンタックスを表す図である。図１２において、ｉｎｔｅｒ＿ｐｒｅｄ＿ｆｌａｇは、インター予測の予測方向フラグを表す。ｍｖｐ＿ｉｄｘは、予測動きベクトルインデックスを表す。ＮｕｍＭＶＰＣａｎｄは、予測動きベクトル候補リストサイズを表す。このＮｕｍＭＶＰＣａｎｄは、予測動きベクトル候補から、予測不可能候補および重複候補を削除した後の予測動きベクトル候補数が設定されている。

以上のように、予測動きベクトル指定モードを用いて動画像が符号化または復号化される。しかしながら、上記の予測動きベクトル指定モードでは、予測動きベクトルインデックスを符号化または復号化する際に用いられる予測動きベクトル候補リストサイズに、予測動きベクトル候補数が設定される。この予測動きベクトル候補数は、ｃｏ−ｌｏｃａｔｅｄブロック等を含む参照ピクチャ情報を用いて予測不可能候補または重複候補を削除した後に得られる。そのため、動画像符号化装置と動画像復号化装置とで予測動きベクトル候補数に不一致が発生した場合等に、予測動きベクトルインデックスに割り当てるビット列に動画像符号化装置と動画像復号化装置とで不一致が生じる。その結果、動画像復号化装置は、ビットストリームを正しく復号化できなくなる場合がある。

例えば、伝送路等で発生したパケットロス等により、ｃｏ−ｌｏｃａｔｅｄブロックとして参照していた参照ピクチャの情報がロスされた場合、ｃｏ−ｌｏｃａｔｅｄブロックの動きベクトルまたは参照ピクチャインデックスが不明となる。そのため、ｃｏ−ｌｏｃａｔｅｄブロックから生成される予測動きベクトル候補の情報が不明となる。このような場合、復号化時に予測動きベクトル候補から予測不可能候補や重複候補を正しく削除することができなくなる。その結果、動画像復号化装置は、予測動きベクトル候補リストサイズを正しく求めることができず、予測動きベクトルインデックスを正常に復号化できなくなる。

なお、上記問題に対しては、予測動きベクトル候補リストサイズの大きさを固定することが考えられる。予測動きベクトル候補リストサイズの大きさを固定すれば、予測動きベクトル候補リストサイズを求める必要がなくなる。

しかし、予測動きベクトル候補リストサイズの大きさを固定すると、空間的に隣接するブロックから導出される候補（重複候補および予測不可能候補を除く予測動きベクトル候補）および時間的に隣接するブロック（ｃｏ-ｌｏｃａｔｅｄブロック）から導出される候補（第一の候補）の総数が、予測動きベクトル候補リストサイズ以下の場合には、予測動きベクトル候補リストに空き要素が生じることになる。この場合、画像復号化装置において、エラー等の発生により、空き要素が参照された場合、予期せぬ動作が実行される可能性があるという問題がある。

そこで、本発明の一態様に係る画像符号化方法は、符号化対象ブロックの動きベクトルを符号化する際に用いる予測動きベクトルを算出して、前記符号化対象ブロックを符号化することでビットストリームを生成する動画像符号化方法であって、前記予測動きベクトルの候補である予測動きベクトル候補であって、２以上の固定数の前記予測動きベクトル候補を取得する予測動きベクトル候補取得ステップと、前記２以上の固定数の前記予測動きベクトル候補の中から前記符号化対象ブロックの前記動きベクトルの符号化に用いる前記予測動きベクトルを選択する選択ステップと、選択された前記予測動きベクトルを特定するためのインデックスを、前記２以上の固定数に応じて符号化し、符号化した前記インデックスを前記ビットストリームに付加する符号化ステップとを含み、前記２以上の固定数の前記予測動きベクトル候補は、予め定められた固定値を持つ候補を含む。

また、例えば、前記２以上の固定数の前記予測動きベクトル候補は、さらに、第一の候補および新規候補のうちの少なくとも１つを含み、前記第一の候補は、前記符号化対象ブロックに空間的または時間的に隣接する隣接ブロックの符号化に用いられた前記動きベクトルに基づいて導出される候補であり、前記新規候補は、前記隣接ブロックとは異なるブロックの符号化に用いられた前記動きベクトルに基づいて導出される候補、または、予め定められた固定ベクトルを動きベクトルとして持つ候補としてもよい。

また、例えば、前記予測動きベクトル候補取得ステップは、前記第一の候補を導出する第一導出処理を行い、前記第一の候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として設定する第一導出ステップと、前記第一の候補の数が、前記２以上の固定数より小さい場合に、前記新規候補を導出する第二導出処理を行い、前記新規候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として設定する第二導出ステップと、前記第一の候補の数および前記新規候補の数の合計が、前記２以上の固定数より小さい場合に、前記第一の候補の数、前記予め定められた固定値を持つ候補の数および前記新規候補の数の合計が、前記２以上の固定数と等しくなるように、少なくとも１つの前記予め定められた固定値を持つ候補を前記２以上の固定数の前記予測動きベクトル候補の一部として設定する第三導出ステップと、を有していてもよい。

また、例えば、前記第二導出ステップでは、予め用意された複数の異なる候補から、所定の優先順位に従って少なくとも１つの候補を選択することにより、少なくとも１つの前記新規候補を導出してもよい。

また、例えば、前記予測動きベクトル候補取得ステップは、前記２以上の固定数の前記予測動きベクトル候補の全てに前記予め定められた固定値を持つ候補を設定することにより、前記２以上の固定数の前記予測動きベクトル候補を初期化する初期化ステップと、前記第一の候補を導出する第一導出処理を行い、前記第一の候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として更新する第一導出ステップと、前記第一の候補の数が、前記２以上の固定数より小さい場合に、前記新規候補を導出する第二導出処理を行い、前記新規候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として更新する第二導出ステップと、を有していてもよい。

そこで、本発明の一態様に係る画像復号化方法は、ビットストリームに含まれる復号化対象ブロックの動きベクトルを復号化する際に用いる予測動きベクトルを算出して、前記復号化対象ブロックを復号化する動画像復号化方法であって、前記予測動きベクトルの候補である予測動きベクトル候補であって、２以上の固定数の前記予測動きベクトル候補を取得する予測動きベクトル候補取得ステップと、前記ビットストリームに付加された符号化されたインデックスであって、前記２以上の固定数の前記予測動きベクトル候補の中から前記予測動きベクトル候補を特定するためのインデックスを、前記２以上の固定数に応じて復号化する復号化ステップと、復号された前記インデックスに基づいて、前記２以上の固定数の前記予測動きベクトル候補の中から、前記復号化対象ブロックの復号に用いられる前記予測動きベクトルを選択する選択ステップとを含み、前記２以上の固定数の前記予測動きベクトル候補は、予め定められた固定値を持つ候補を含む。

また、例えば、前記２以上の固定数の前記予測動きベクトル候補は、さらに、第一の候補および新規候補のうちの少なくとも１つを含み、前記第一の候補は、前記符号化対象ブロックに空間的または時間的に隣接する隣接ブロックの符号化に用いられた前記動きベクトルに基づいて導出される候補であり、前記新規候補は、前記隣接ブロックとは異なるブロックの符号化に用いられた前記動きベクトルに基づいて導出される候補、または、予め定められた固定ベクトルを動きベクトルとして持つ候補としてもよい。

また、例えば、前記予測動きベクトル候補取得ステップは、前記第一の候補を導出する第一導出処理を行い、前記第一の候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として設定する第一導出ステップと、前記第一の候補の数が、前記２以上の固定数より小さい場合に、前記新規候補を導出する第二導出処理を行い、前記新規候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として設定する第二導出ステップと、前記第一の候補の数および前記新規候補の数の合計が、前記２以上の固定数より小さい場合に、前記第一の候補の数、前記予め定められた固定値を持つ候補の数および前記新規候補の数の合計が、前記２以上の固定数と等しくなるように、少なくとも１つの前記予め定められた固定値を持つ候補を前記２以上の固定数の前記予測動きベクトル候補の一部として設定する第三導出ステップと、を有していてもよい。

また、例えば、前記第二導出ステップでは、予め用意された複数の異なる候補から、所定の優先順位に従って少なくとも１つの候補を選択することにより、少なくとも１つの前記新規候補を導出してもよい。

また、例えば、前記予測動きベクトル候補取得ステップは、前記２以上の固定数の前記予測動きベクトル候補の全てに前記予め定められた固定値を持つ候補を設定することにより、前記２以上の固定数の前記予測動きベクトル候補を初期化する初期化ステップと、前記第一の候補を導出する第一導出処理を行い、前記第一の候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として更新する第一導出ステップと、前記第一の候補の数が、前記２以上の固定数より小さい場合に、前記新規候補を導出する第二導出処理を行い、前記新規候補が導出された場合に、前記２以上の固定数の前記予測動きベクトル候補の一部として更新する第二導出ステップと、を有していてもよい。

そこで、本発明の一態様に係る画像符号化装置は、符号化対象ブロックの動きベクトルを符号化する際に用いる予測動きベクトルを算出して、前記符号化対象ブロックを符号化することでビットストリームを生成する動画像符号化装置であって、前記予測動きベクトルの候補である予測動きベクトル候補であって、２以上の固定数の前記予測動きベクトル候補を取得する予測動きベクトル候補取得部と、前記２以上の固定数の前記予測動きベクトル候補の中から前記符号化対象ブロックの前記動きベクトルの符号化に用いる前記予測動きベクトルを選択する選択部と、選択された前記予測動きベクトルを特定するためのインデックスを、前記２以上の固定数に応じて符号化し、符号化した前記インデックスを前記ビットストリームに付加する符号化部とを含み、前記２以上の固定数の前記予測動きベクトル候補は、予め定められた固定値を持つ候補を含む。

そこで、本発明の一態様に係る画像復号化装置は、ビットストリームに含まれる復号化対象ブロックの動きベクトルを復号化する際に用いる予測動きベクトルを算出して、前記復号化対象ブロックを復号化する動画像復号化装置であって、前記予測動きベクトルの候補である予測動きベクトル候補であって、２以上の固定数の前記予測動きベクトル候補を取得する予測動きベクトル候補取得部と、前記ビットストリームに付加された符号化されたインデックスであって、前記２以上の固定数の前記予測動きベクトル候補の中から前記予測動きベクトル候補を特定するためのインデックスを、前記２以上の固定数に応じて復号化する復号化部と、復号された前記インデックスに基づいて、前記２以上の固定数の前記予測動きベクトル候補の中から、前記復号化対象ブロックの復号に用いられる前記予測動きベクトルを選択する選択部とを含み、前記２以上の固定数の前記予測動きベクトル候補は、予め定められた固定値を持つ候補を含む。

そこで、本発明の一態様に係る画像符号化復号化装置は、上記動画像符号化装置と、上記動画像復号化装置とを備える。

なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。

以下、本発明の一態様に係る動画像符号化装置および動画像復号化装置について、図面を参照しながら具体的に説明する。

なお、以下で説明する実施の形態は、いずれも本発明の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置および接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。

（実施の形態１）
本実施の形態に係る動画像符号化方法を用いた動画像符号化装置について、図１３〜図２２を基に説明する。

［１−１．動画像符号化装置の構成］
先ず、動画像符号化装置の構成について、図１３を基に説明する。図１３は、実施の形態１に係る動画像符号化装置１００の構成を示すブロック図である。

動画像符号化装置１００は、図１３に示すように、減算部１０１、直交変換部１０２、量子化部１０３、逆量子化部１０４、逆直交変換部１０５、加算部１０６、ブロックメモリ１０７、フレームメモリ１０８、イントラ予測部１０９、インター予測部１１０、インター予測制御部１１１、ピクチャタイプ決定部１１２、スイッチ１１３、予測動きベクトル候補算出部１１４、ｃｏｌＰｉｃメモリ１１５、および可変長符号化部１１６を備えている。

減算部１０１は、ブロックごとに、入力画像列に含まれる入力画像データから予測画像データを減算することにより予測誤差データを生成する。直交変換部１０２は、生成された予測誤差データに対し、画像領域から周波数領域への変換を行う。量子化部１０３は、周波数領域に変換された予測誤差データに対し、量子化処理を行う。

逆量子化部１０４は、量子化部１０３によって量子化処理された予測誤差データに対し、逆量子化処理を行う。逆直交変換部１０５は、逆量子化処理された予測誤差データに対し、周波数領域から画像領域への変換を行う。

加算部１０６は、符号化対象ブロックごとに、予測画像データと、逆直交変換部１０５によって逆量子化処理された予測誤差データとを加算することにより、再構成画像データを生成する。ブロックメモリ１０７には、再構成画像データがブロック単位で保存される。フレームメモリ１０８には、再構成画像データがフレーム単位で保存される。

ピクチャタイプ決定部１１２は、Ｉピクチャ、Ｂピクチャ、およびＰピクチャのいずれのピクチャタイプで入力画像データを符号化するかを決定する。そして、ピクチャタイプ決定部１１２は、ピクチャタイプ情報を生成する。イントラ予測部１０９は、ブロックメモリ１０７に保存されているブロック単位の再構成画像データを用いてイントラ予測を行うことにより、符号化対象ブロックのイントラ予測画像データを生成する。インター予測部１１０は、フレームメモリ１０８に保存されているフレーム単位の再構成画像データと、動き検出等により導出した動きベクトルとを用いてインター予測を行うことにより、符号化対象ブロックのインター予測画像データを生成する。

スイッチ１１３は、符号化対象ブロックがイントラ予測符号化される場合に、イントラ予測部１０９によって生成されたイントラ予測画像データを、符号化対象ブロックの予測画像データとして減算部１０１および加算部１０６に出力する。一方、スイッチ１１３は、符号化対象ブロックがインター予測符号化される場合に、インター予測部１１０によって生成されたインター予測画像データを、符号化対象ブロックの予測画像データとして減算部１０１および加算部１０６に出力する。

予測動きベクトル候補算出部１１４は、符号化対象ブロックの隣接ブロックの動きベクトル等、および、ｃｏｌＰｉｃメモリ１１５に格納されているｃｏ−ｌｏｃａｔｅｄブロックの動きベクトル等のｃｏｌＰｉｃ情報を用いて、予測動きベクトル指定モードの予測動きベクトル候補を導出する。そして、予測動きベクトル候補算出部１１４は、後述する方法で、予測可能候補数を算出する。また、予測動きベクトル候補算出部１１４は、導出した予測動きベクトル候補に対して、予測動きベクトルインデックスの値を割り当てる。そして、予測動きベクトル候補算出部１１４は、予測動きベクトル候補と、予測動きベクトルインデックスとを、インター予測制御部１１１に送る。また、予測動きベクトル候補算出部１１４は、算出した予測可能候補数を可変長符号化部１１６に送信する。

インター予測制御部１１１は、動き検出により導出された動きベクトルを用いて生成したインター予測画像を用いて、インター予測符号化を行うようインター予測部１１０を制御する。また、インター予測制御部１１１は、インター予測符号化に用いた動きベクトルの符号化に最適な予測動きベクトル候補を後述する方法で選択する。そして、インター予測制御部１１１は、選択した予測動きベクトル候補に対応する予測動きベクトルインデックスと、予測の誤差情報（差分動きベクトル）とを、可変長符号化部１１６に送る。さらに、インター予測制御部１１１は、符号化対象ブロックの動きベクトル等を含むｃｏｌＰｉｃ情報をｃｏｌＰｉｃメモリ１１５に転送する。

可変長符号化部１１６は、量子化処理された予測誤差データ、予測方向フラグ、ピクチャタイプ情報、および差分動きベクトルに対し、可変長符号化処理を行うことで、ビットストリームを生成する。また、可変長符号化部１１６は、予測可能候補数を予測動きベクトル候補リストサイズに設定する。そして、可変長符号化部１１６は、動きベクトル符号化に用いた予測動きベクトルインデックスに、予測動きベクトル候補リストサイズに応じたビット列を割り当てて可変長符号化を行う。

［１−２．動画像符号化方法の処理手順］
次に、動画像符号化装置で実行される動画像符号化方法の処理手順について、図１４を基に説明する。図１４は、実施の形態１に係る動画像符号化装置１００の処理動作を示すフローチャートである。

ステップＳ１０１では、インター予測制御部１１１は、動き検出により、符号化対象ブロックの予測方向、参照ピクチャインデックスおよび、動きベクトルを決定する。ここで、動き検出では、例えば、符号化ピクチャ内の符号化対象ブロックと、参照ピクチャ内のブロックとの差分値を算出し、最も差分値の小さい参照ピクチャ内のブロックが参照ブロックとして決定される。そして、符号化対象ブロック位置と、参照ブロック位置とから、動きベクトルを求める方法等を用いて、動きベクトルが求められる。また、インター予測制御部１１１は、予測方向０と予測方向１との参照ピクチャに対し、それぞれ動き検出を行い、予測方向０、または、予測方向１、または、双方向予測を選択するかどうかを、例えば、Ｒ−Ｄ最適化モデルの以下の式等で算出する。

Ｃｏｓｔ＝Ｄ＋λ×Ｒ …（式３）

式３において、Ｄは符号化歪を表している。符号化歪Ｄには、ある動きベクトルで生成した予測画像を用いて符号化対象ブロックを符号化および復号化して得られた画素値と、符号化対象ブロックの元の画素値との差分絶対値和等を用いる。また、Ｒは発生符号量を表している。発生符号量Ｒとしては、予測画像生成に用いた動きベクトルを符号化することに必要な符号量等を用いる。また、λはラグランジュの未定乗数である。

ステップＳ１０２では、予測動きベクトル候補算出部１１４は、符号化対象ブロックの隣接ブロックおよびｃｏ−ｌｏｃａｔｅｄブロックから予測動きベクトル候補を導出する。また、予測動きベクトル候補算出部１１４は、後述する方法で、予測動きベクトル候補リストサイズを算出する。

例えば、図３のような場合では、予測動きベクトル候補算出部１１４は、符号化対象ブロックの予測動きベクトル候補として、例えば、隣接ブロックＡ、Ｂ、Ｃ、およびＤの持つ動きベクトルを選択する。さらに、予測動きベクトル候補算出部１１４は、ｃｏ−ｌｏｃａｔｅｄブロックの動きベクトルから時間予測モードによって算出した動きベクトル等を予測動きベクトル候補として算出する。

予測動きベクトル候補算出部１１４は、図１５Ａの（ａ）および図１６Ａの（ａ）のように予測方向０および予測方向１の予測動きベクトル候補に対して予測動きベクトルインデックスを割り当てる。そして、予測動きベクトル候補算出部１１４は、後述する方法で、予測不可能候補および重複候補の削除、および新規候補の追加を行うことにより、図１５Ａの（ｂ）および図１６Ａの（ｂ）のような予測動きベクトル候補リスト、および、予測動きベクトル候補リストサイズを算出する。

予測動きベクトルインデックスは、値が小さいほど短い符号が割り振られる。即ち、予測動きベクトルインデックスの値が小さい場合に、予測動きベクトルインデックスに必要な情報量が少なくなる。一方、予測動きベクトルインデックスの値が大きくなると、予測動きベクトルインデックスに必要な情報量が大きくなる。従って、より精度が高い予測動きベクトルとなる可能性の高い予測動きベクトル候補に対して、値の小さい予測動きベクトルインデックスが割り当てられると、符号化効率が高くなる。

そこで、予測動きベクトル候補算出部１１４は、例えば、予測動きベクトルとして選ばれた回数を予測動きベクトル候補毎に計測し、その回数が多い予測動きベクトル候補に対し、値の小さい予測動きベクトルインデックスを割り当ててもよい。具体的には、隣接ブロックにおいて選択された予測動きベクトルを特定しておき、対象ブロックの符号化の際に、特定した予測動きベクトル候補に対する予測動きベクトルインデックスの値を小さくすることが考えられる。

なお、隣接ブロックが、動きベクトル等の情報を有しない場合（イントラ予測で符号化されたブロックである場合、ピクチャやスライスの境界外などに位置するブロックである場合、まだ符号化されていないブロックである場合など）には、予測動きベクトル候補として利用できない。

本実施の形態では、予測動きベクトル候補として利用できないことを予測不可能候補と呼ぶ。また、予測動きベクトル候補として利用できることを予測可能候補と呼ぶ。また、複数の予測動きベクトル候補において、他のいずれかの予測動きベクトルと値が一致している候補を重複候補と呼ぶ。

図３の場合では、隣接ブロックＣは、イントラ予測で符号化されたブロックであるので、予測不可能候補とする。また、隣接ブロックＤから生成される予測方向０の予測動きベクトルｓＭｖＬ０＿Ｄは、隣接ブロックＡから生成される予測方向０の予測動きベクトルＭｖＬ０＿Ａと値が一致しており、重複候補とする。

ステップＳ１０３では、インター予測制御部１１１は、予測方向Ｘの動きベクトル符号化に用いる予測動きベクトルインデックスの値を、後述する方法で決定する。

ステップＳ１０４では、可変長符号化部１１６は、予測方向Ｘの動きベクトル符号化に用いる予測動きベクトル候補の予測動きベクトルインデックスに図６に示すような予測動きベクトル候補リストサイズに応じたビット列を割り当て、可変長符号化を行う。

本実施の形態では、図１５Ａの（ａ）および図１６Ａの（ａ）のように、隣接ブロックＡに対応する予測動きベクトルインデックスの値として「０」が割り当てられる。また、隣接ブロックＢに対応する予測動きベクトルインデックスの値として「１」が割り当てられる。また、ｃｏ−ｌｏｃａｔｅｄブロックに対応する予測動きベクトルインデックスの値として「２」が割り当てられる。また、隣接ブロックＣに対応する予測動きベクトルインデックスの値として「３」が割り当てられる。また、隣接ブロックＤに対応する予測動きベクトルインデックスの値として「４」が割り当てられる。

なお、必ずしも、予測動きベクトルインデックスの値の割り当て方は、この例に限らない。例えば、可変長符号化部１１６は、後述する方法を用いて新規候補が追加された場合などには、元々の予測動きベクトル候補（第一の候補に相当）には小さい値を割り当て、新規候補には大きい値を割り当ててもよい。つまり、可変長符号化部１１６は、元々の予測動きベクトル候補に優先して小さな値の予測動きベクトルインデックスを割り当てても構わない。ただし、後述する方法を用いて第二の候補を用いる場合は、第一の候補および新規候補の予測動きベクトルインデックスの値には、第二の候補よりも小さい値を割り当てるようにする。これは、第二の候補は、予測動きベクトル候補リストサイズが固定の場合であって、第一の候補および新規候補の数が予測動きベクトル候補リストサイズよりも小さいときに、予測動きベクトル候補リストの空き要素に割り当てられる候補だからである。

また、必ずしも、予測動きベクトル候補は、隣接ブロックＡ、Ｂ、Ｃ、Ｄの位置に限定されない。例えば、左下隣接ブロックＤの上に位置する隣接ブロック等が予測動きベクトル候補として用いられても構わない。また、必ずしもすべての隣接ブロックが予測動きベクトル候補として使用される必要はない。例えば、隣接ブロックＡ、Ｂのみが予測動きベクトル候補として用いられても良い。または、隣接ブロックＤが予測不可能候補ならば、隣接ブロックＡを用いるなど、隣接ブロックを順にスキャンするようにしても構わない。

また、本実施の形態では、図１４のステップＳ１０４において、可変長符号化部１１６は、予測動きベクトルインデックスをビットストリームに付加したが、必ずしも予測動きベクトルインデックスをビットストリームに付加する必要はない。例えば、可変長符号化部１１６は、予測動きベクトル候補リストサイズが１の場合には、予測動きベクトルインデックスをビットストリームに付加しなくても構わない。これにより、予測動きベクトルインデックスの情報量を削減できる。

図１７Ａは、図１４のステップＳ１０２の詳細な処理を示すフローチャートである。具体的には、図１７Ａは、予測動きベクトル候補、および、予測動きベクトル候補リストサイズを算出する方法を表す。以下、図１７Ａについて説明する。

ステップＳ１１１では、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］が予測可能候補であるかどうかを後述する方法で判定する。そして、予測動きベクトル候補算出部１１４は、判定結果に従って、予測可能候補数を更新する。

ここで、Ｎは各予測ブロック候補を表すためのインデックス値である。本実施の形態では、Ｎは０から４までの値をとる。具体的には、予測ブロック候補［０］には、図３の隣接ブロックＡが割り振られる。また、予測ブロック候補［１］には図３の隣接ブロックＢが割り振られる。また、予測ブロック候補［２］にはｃｏ−ｌｏｃａｔｅｄブロックが割り振られる。また、予測ブロック候補［３］には図３の隣接ブロックＣが割り振られる。また、予測ブロック候補［４］には図３の隣接ブロックＤが割り振られる。

ステップＳ１１２では、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］から、予測方向Ｘの予測動きベクトル候補を、上記の式１、式２を用いて算出して、予測動きベクトル候補リストに追加する。

ステップＳ１１３では、予測動きベクトル候補算出部１１４は、図１５Ａおよび図１６Ａに示すように、予測動きベクトル候補リストから予測不可能候補および重複候補を探索し、削除する。

ステップＳ１１４では、予測動きベクトル候補算出部１１４は、後述する方法で、予測動きベクトル候補リストに新規候補を追加する。ここで、新規候補を追加する際には、予測動きベクトル候補算出部１１４は、元々ある予測動きベクトル候補に優先して小さい予測動きベクトルインデックスが割り当たるように、予測動きベクトルインデックスの値の再割り当てを行ってもよい。つまり、予測動きベクトル候補算出部１１４は、新規候補には値が大きい予測動きベクトルインデックスが割り当たるように、予測動きベクトルインデックスの値の再割り当てを行っても構わない。これにより予測動きベクトルインデックスの符号量を削減できる。

ステップＳ１１５では、予測動きベクトル候補算出部１１４は、ステップＳ１１１で算出された予測可能候補数を予測動きベクトル候補リストサイズに設定する。図１５Ａおよび図１６Ａの例では、後述する方法により、予測方向０の予測可能候補数は「４」と算出され、予測方向０の予測動きベクトル候補リストサイズには「４」が設定される。また、予測方向１の予測可能候補数は「４」と算出され、予測方向１の予測動きベクトル候補リストサイズには「４」に設定される。

なお、ステップＳ１１４における新規候補とは、後述する方法で、予測動きベクトル候補数が予測可能候補数に達していない場合に、予測動きベクトル候補に新たに追加される候補である。例えば、新規候補は、図３における左下隣接ブロックＤの上に位置する隣接ブロックから生成される予測動きベクトルであってもよい。また、新規候補は、例えば、ｃｏ−ｌｏｃａｔｅｄブロックの隣接ブロックＡ、Ｂ、Ｃ、Ｄに対応するブロックから生成される予測動きベクトルであってもよい。また、新規候補は、例えば、参照ピクチャの画面全体または一定の領域の動きベクトルの統計等から算出した予測動きベクトルであってもよい。このように、予測動きベクトル候補数が予測可能候補数に達していない場合には、予測動きベクトル候補算出部１１４は、新たな予測動きベクトルを新規候補として追加することによって、符号化効率を向上できる。

図１８は、図１７ＡのステップＳ１１１の詳細な処理を示すフローチャートであある。具体的には、図１８は、予測ブロック候補［Ｎ］が予測可能候補であるかどうかを判定し、予測可能候補数を更新する方法を表す。以下、図１８について説明する。

ステップＳ１２１では、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］が、（１）イントラ予測で符号化されたブロック、または、（２）符号化対象ブロックを含むスライスまたはピクチャ境界外に位置するブロック、または、（３）まだ符号化されていないブロックであるかどうかを判定する。

ここで、ステップＳ１２１の判定結果が真ならば（ステップＳ１２１のＹｅｓ）、ステップＳ１２２において、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］を予測不可能候補に設定する。一方、ステップＳ１２１の判定結果が偽ならば（ステップＳ１２１のＮｏ）、ステップＳ１２３において、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］を予測可能候補に設定する。

ステップＳ１２４では、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］が予測可能候補、または、ｃｏ−ｌｏｃａｔｅｄブロック候補であるかどうかを判定する。ここで、ステップＳ１２４の判定結果が真ならば（ステップＳ１２４のＹｅｓ）、ステップＳ５において、予測動きベクトル候補算出部１１４は、予測可能候補数に１を加算して、予測動きベクトル候補数を更新する。一方、ステップＳ１２４の判定結果が偽ならば（ステップＳ１２４のＮｏ）、予測動きベクトル候補算出部１１４は、予測可能候補数を更新しない。

このように、予測ブロック候補がｃｏ−ｌｏｃａｔｅｄブロックの場合は、予測動きベクトル候補算出部１１４は、ｃｏ−ｌｏｃａｔｅｄブロックが予測可能候補か予測不可能候補かどうかに関らず、予測可能候補数に１を加算する。これにより、パケットロス等でｃｏ−ｌｏｃａｔｅｄブロックの情報がロスされた場合でも、動画像符号化装置と動画像復号化装置とで予測可能候補数に不一致が発生しない。

この予測可能候補数は、図１７ＡのステップＳ１１５において、予測動きベクトル候補リストサイズに設定される。さらに、図１４のステップＳ１０４において、予測動きベクトル候補リストサイズは、予測動きベクトルインデックスの可変長符号化に用いられる。これによって、ｃｏ−ｌｏｃａｔｅｄブロック等を含む参照ピクチャ情報をロスした場合でも、動画像符号化装置１００は、予測動きベクトルインデックスを正常に復号化できるビットストリームを生成することが可能になる。

図１９Ａは、図１７ＡのステップＳ１１４の詳細な処理を示すフローチャートである。具体的には、図１９Ａは、新規候補を追加する方法を表す。以下、図１９Ａについて説明する。

ステップＳ１３１では、予測動きベクトル候補算出部１１４は、予測動きベクトル候補数が予測可能候補数より小さいか否かを判定する。つまり、予測動きベクトル候補算出部１１４は、予測動きベクトル候補数が予測可能候補数に達していないかどうかを判定する。

ここで、ステップＳ１３１の判定結果が真ならば（ステップＳ１３１のＹｅｓ）、ステップＳ１３２において、予測動きベクトル候補算出部１１４は、予測動きベクトル候補として予測動きベクトル候補リストに追加可能な新規候補が存在するかどうかを判定する。ここで、ステップＳ１３２の判定結果が真ならば（ステップＳ１３２のＹｅｓ）、ステップＳ１３３において、予測動きベクトル候補算出部１１４は、新規候補に予測動きベクトルインデックスの値を割り当て、予測動きベクトル候補リストに新規候補を追加する。さらに、ステップＳ１３４において、予測動きベクトル候補算出部１１４は、予測動きベクトル候補数に１を加算する。

一方、ステップＳ１３１またはステップＳ１３２の判定結果が偽ならば（ステップＳ１３１またはステップＳ１３２のＮｏ）、新規候補追加処理を終了する。つまり、予測動きベクトル候補数が予測可能候補数に達している場合、または、新規候補が存在しない場合は、新規候補追加処理を終了する。

図２０は、図１４のステップＳ１０３の詳細な処理を示すフローチャートである。具体的には、図２０は、予測動きベクトル候補の選択に関する処理を示す。以下、図２０について説明する。

ステップＳ１４１では、インター予測制御部１１１は、初期化として、予測動きベクトル候補インデックスｍｖｐ＿ｉｄｘに０を設定し、最小差分動きベクトルに値の最大値を設定する。

ステップＳ１４２では、インター予測制御部１１１は、予測動きベクトル候補インデックスｍｖｐ＿ｉｄｘの値が予測動きベクトル候補数より小さいか否かを判定する。すなわち、インター予測制御部１１１は、すべての予測動きベクトル候補の差分動きベクトルを算出したかどうかを判定する。

ここで、まだ予測動きベクトル候補が残っていれば（ステップＳ１４２のＹｅｓ）、ステップＳ１４３において、インター予測制御部１１１は、動き検出で求められた動きベクトル（動き検出結果ベクトル）から予測動きベクトル候補を差し引くことによって、差分動きベクトルを算出する。

ステップＳ１４４では、インター予測制御部１１１は、ステップＳ１４３で求めた差分動きベクトルが最小差分動きベクトルより値が小さいかどうかを判定する。

ここで、ステップＳ１４４の判定結果が真であれば（ステップＳ１４４のＹｅｓ）、ステップＳ１４５において、インター予測制御部１１１は、最小差分動きベクトルおよび予測動きベクトルインデックスの値を更新する。一方、ステップＳ１４４の判定結果が偽ならば（ステップＳ１４４のＮｏ）、インター予測制御部１１１は、最小差分動きベクトルおよび予測動きベクトルインデックスの値を更新しない。

ステップＳ１４６では、インター予測制御部１１１は、予測動きベクトル候補インデックスを＋１で更新し、ステップＳ１４２に戻って次の予測動きベクトル候補が存在するかどうかを判定する。

一方、ステップＳ１４２において、すべての予測動きベクトル候補に対し、差分動きベクトルを算出したと判定すれば（ステップＳ１４２のＮｏ）、ステップＳ１４７において、インター予測制御部１１１は、最終的に設定されている最小差分動きベクトルおよび予測動きベクトルインデックスを確定する。

このように、本実施の形態に係る動画像符号化装置１００によれば、予測動きベクトルインデックスを符号化または復号化する際に用いる予測動きベクトル候補リストサイズを、ｃｏ−ｌｏｃａｔｅｄブロック等を含む参照ピクチャ情報に依存しない方法で算出することができる。これによって、動画像符号化装置１００は、エラー耐性を向上することが可能になる。

より具体的には、本実施の形態に係る動画像符号化装置１００は、ｃｏ−ｌｏｃａｔｅｄブロックが予測可能候補かどうかに関らず、予測ブロック候補がｃｏ−ｌｏｃａｔｅｄブロックであれば常に予測可能候補数に１を加算する。そして、動画像符号化装置１００は、このようにして算出した予測可能候補数を用いて、予測動きベクトルインデックスに割り当てるビット列を決定する。これにより、動画像符号化装置１００は、ｃｏ−ｌｏｃａｔｅｄブロックを含む参照ピクチャ情報をロスした場合でも、予測動きベクトルインデックスを正常に復号化できるビットストリームを生成することが可能になる。

また、本実施の形態に係る動画像符号化装置１００は、予測動きベクトル候補数が、予測可能候補数に達していない場合には、新たな予測動きベクトルを持つ新規候補を予測動きベクトル候補として追加することによって、符号化効率を向上できる。

なお、本実施の形態では、動画像符号化装置１００は、予測動きベクトル候補数が予測可能候補数に達していない場合に、新たな予測動きベクトルを持つ新規候補を予測動きベクトル候補として追加しているが、これに限られるものではない。例えば、動画像符号化装置１００は、予測動きベクトル候補リストを作成する際に、予測動きベクトル候補リスト上のすべての予測動きベクトル候補の初期値として、新たな予測動きベクトルを持つ新規候補を設定しておいても構わない。この場合、動画像符号化装置１００は、予測動きベクトル候補を算出して、予測動きベクトル候補リストに追加する際に、初期値である新規候補を上書きすることになる。そして、動画像符号化装置１００は、算出された予測動きベクトル候補を予測動きベクトル候補リストに追加する前に、予測動きベクトル候補が予測不可能候補または重複候補であるか否かの判定を行う。これにより、予測不可能候補または重複候補があった場合に、予測動きベクトル候補リストに初期値である新規候補が残る。このような方法によって、新規候補を予測動きベクトル候補として追加することも可能である。

なお、本実施の形態では、動画像符号化装置１００は、ｃｏ−ｌｏｃａｔｅｄブロックが予測可能候補かどうかに関らず、予測ブロック候補がｃｏ−ｌｏｃａｔｅｄブロックであれば常に１を加算するようにして算出した予測可能候補数を用いて、予測動きベクトルインデックスに割当てるビット列を決定するようにしたが、これに限られるものではない。

例えば、動画像符号化装置１００は、図１８のステップＳ１２４において、ｃｏ−ｌｏｃａｔｅｄブロック以外の予測ブロック候補に対しても、必ず常に１を加算するようにして算出した予測可能候補数を用いて、予測動きベクトルインデックスに割り当てるビット列を決定してもよい。すなわち、動画像符号化装置１００は、予測動きベクトル候補数の最大値Ｍに固定された予測動きベクトル候補リストサイズを用いて、予測動きベクトルインデックスにビット列を割当てても構わない。つまり、動画像符号化装置１００は、全ての予測ブロック候補を予測可能候補とみなし、予測動きベクトル候補リストサイズを、予測動きベクトル候補数の最大値Ｍに固定して、予測動きベクトルインデックスを符号化しても構わない。

例えば、本実施の形態では、予測動きベクトル候補数の最大値Ｍは５であるため（隣接ブロックＡ、隣接ブロックＢ、ｃｏ−ｌｏｃａｔｅｄブロック、隣接ブロックＣ、隣接ブロックＤ）、動画像符号化装置１００は、常に予測動きベクトル候補リストサイズに５を設定して、予測動きベクトルインデックスを符号化するようにしても構わない。また、例えば、予測動きベクトル候補数の最大値Ｍが４（隣接ブロックＡ、隣接ブロックＢ、隣接ブロックＣ、隣接ブロックＤ）の場合には、動画像符号化装置１００は、常に予測動きベクトル候補リストサイズに４を設定して、予測動きベクトルインデックスを符号化しても構わない。

このように、動画像符号化装置１００は、予測動きベクトル候補数の最大値Ｍに応じて、予測動きベクトル候補リストサイズを決定しても構わない。これにより、動画像復号化装置の可変長復号化部が、ビットストリーム中の予測動きベクトルインデックスを、隣接ブロックやｃｏ−ｌｏｃａｔｅｄブロックの情報を参照せずに復号化することができるビットストリームを生成することが可能となり、可変長復号化手段の処理量を削減することができる。

また、予測動きベクトル候補数の最大値Ｍを、ＳＰＳ（Ｓｅｑｕｅｎｃｅ Ｐａｒａｍｅｔｅｒ Ｓｅｔ）、ＰＰＳ（Ｐｉｃｔｕｒｅ Ｐａｒａｍｅｔｅｒ Ｓｅｔ）、または、スライスヘッダ等に埋め込むようにしても構わない。これにより、符号化対象ピクチャに応じて、予測動きベクトル候補数の最大値Ｍを切り替えることができ、処理量の削減および符号化効率の向上を図ることができる。

例えば、ｃｏ−ｌｏｃａｔｅｄブロックを参照しないようなピクチャ（Ｉピクチャを参照するＢピクチャやＰピクチャ）の場合には、予測動きベクトル候補数の最大値を４（隣接ブロックＡ、隣接ブロックＢ、隣接ブロックＣ、隣接ブロックＤ）に設定し、ｃｏ−ｌｏｃａｔｅｄブロックを参照するようなピクチャの場合には、予測動きベクトル候補数の最大値を５（隣接ブロックＡ、隣接ブロックＢ、ｃｏ−ｌｏｃａｔｅｄブロック、隣接ブロックＣ、隣接ブロックＤ）に設定して、ＳＰＳ（ＳｅｑｕｅｎｃｅＰａｒａｍｅｔｅｒ Ｓｅｔ）、ＰＰＳ（Ｐｉｃｔｕｒｅ Ｐａｒａｍｅｔｅｒ Ｓｅｔ）、または、スライスヘッダ等に埋め込むこと等が考えられる。

（実施の形態２）
本実施の形態に係る動画像復号化方法を用いた動画像復号化装置について、図２１〜図２４を基に説明する。

［２−１．動画像復号化装置の構成］
先ず、動画像復号化装置の構成について、図２１を基に説明する。図２１は、実施の形態３に係る動画像復号化装置３００の構成を示すブロック図である。

動画像復号化装置３００は、図２１に示すように、可変長復号化部３０１、逆量子化部３０２、逆直交変換部３０３、加算部３０４、ブロックメモリ３０５、フレームメモリ３０６、イントラ予測部３０７、インター予測部３０８、インター予測制御部３０９、スイッチ３１０、予測動きベクトル候補算出部３１１、およびｃｏｌＰｉｃメモリ３１２を備えている。

可変長復号化部３０１は、入力されたビットストリームに対し、可変長復号化処理を行い、ピクチャタイプ情報、予測方向フラグ、量子化係数、および差分動きベクトルを生成する。また、可変長復号化部３０１は、後述する予測可能候補数を用いて、予測動きベクトルインデックスの可変長復号化処理を行う。

逆量子化部３０２は、可変長復号化処理によって得られた量子化係数に対し、逆量子化処理を行う。逆直交変換部３０３は、逆量子化処理によって得られた直交変換係数を、周波数領域から画像領域へ変換することにより、予測誤差データを生成する。ブロックメモリ３０５には、予測誤差データと、予測画像データとが加算されて生成された復号化画像データが、ブロック単位で保存される。フレームメモリ３０６には、復号化画像データが、フレーム単位で保存される。

イントラ予測部３０７は、ブロックメモリ３０５に保存されているブロック単位の復号化画像データを用いてイントラ予測することにより、復号化対象ブロックの予測画像データを生成する。インター予測部３０８は、フレームメモリ３０６に保存されているフレーム単位の復号化画像データを用いてインター予測することにより、復号化対象ブロックの予測画像データを生成する。

スイッチ３１０は、復号化対象ブロックがイントラ予測復号される場合に、イントラ予測部３０７によって生成されたイントラ予測画像データを、復号化対象ブロックの予測画像データとして加算部３０４に出力する。一方、スイッチ３１０は、復号化対象ブロックがインター予測復号される場合に、インター予測部３０８によって生成されたインター予測画像データを、復号化対象ブロックの予測画像データとして加算部３０４に出力する。

予測動きベクトル候補算出部３１１は、復号化対象ブロックの隣接ブロックの動きベクトル等、および、ｃｏｌＰｉｃメモリ３１２に格納されているｃｏ−ｌｏｃａｔｅｄブロックの動きベクトル等のｃｏｌＰｉｃ情報を用いて、予測動きベクトル指定モードの予測動きベクトル候補を後述する方法で導出する。また、予測動きベクトル候補算出部３１１は、導出した各予測動きベクトル候補に対し、予測動きベクトルインデックスの値を割り当てる。そして、予測動きベクトル候補算出部３１１は、予測動きベクトル候補と、予測動きベクトルインデックスとを、インター予測制御部３０９に送る。

インター予測制御部３０９は、予測動きベクトル候補から、復号化された予測動きベクトルインデックスに基づいて、インター予測に用いる予測動きベクトルを選択する。そして、インター予測制御部３０９は、予測動きベクトルおよび差分動きベクトルから復号化対象ブロックの動きベクトルを算出する。そして、インター予測制御部３０９は、算出した動きベクトルを用いて、インター予測部３０８にインター予測画像を生成させる。また、インター予測制御部３０９は、復号化対象ブロックの動きベクトル等を含むｃｏｌＰｉｃ情報をｃｏｌＰｉｃメモリ３１２に転送する。

最後に、加算部３０４は、予測画像データと予測誤差データとを加算することにより、復号画像データを生成する。

［１−２．動画像符号化方法の処理手順］
次に、動画像符号化装置で実行される動画像符号化方法の処理手順について、図２２を基に説明する。図２２は、実施の形態３に係る動画像復号化装置３００の処理動作を示すフローチャートである。

ステップＳ３０１では、可変長復号化部３０１は、予測方向フラグおよび参照ピクチャインデックスを復号する。そして、復号された予測方向フラグに応じて予測方向Ｘの値を決定され、以下のステップＳ３０２からステップＳ３０５の処理が行われる。

ステップＳ３０２では、予測動きベクトル候補算出部３１１は、後述する方法で、予測可能候補数を算出する。そして、予測動きベクトル候補算出部３１１は、算出された予測可能候補数を予測動きベクトル候補リストサイズに設定する。

ステップＳ３０３では、可変長復号化部３０１は、算出された予測動きベクトル候補リストサイズを用いて、ビットストリーム中の予測動きベクトルインデックスを可変長復号化する。

ステップＳ３０４では、予測動きベクトル候補算出部３１１は、後述する方法で、復号化対象ブロックの隣接ブロックおよびｃｏ−ｌｏｃａｔｅｄブロックから予測動きベクトル候補を生成する。

ステップＳ３０５では、インター予測制御部３０９は、復号された予測動きベクトルインデックスの示す予測動きベクトル候補に、復号された差分動きベクトルを加算し、動きベクトルを算出する。そして、インター予測制御部３０９は、算出した動きベクトルを用いて、インター予測部３０８にインター予測画像を生成させる。

なお、ステップＳ３０２で算出された予測動きベクトル候補リストサイズが「１」の場合は、予測動きベクトルインデックスは、復号されずに、０と推定されても構わない。

図２３は、図２２のステップＳ３０２の詳細な処理を示すフローチャートである。具体的には、図２３は、予測ブロック候補［Ｎ］が予測可能候補であるかどうかを判定し、予測可能候補数を算出する方法を表す。以下、図２３について説明する。

ステップＳ３１１では、予測動きベクトル候補算出部３１１は、予測ブロック候補［Ｎ］が、（１）イントラ予測で復号化されたブロック、または、（２）復号化対象ブロックを含むスライスまたはピクチャ境界外に位置するブロック、または、（３）まだ復号化されていないブロックであるかどうかを判定する。

ここで、ステップＳ３１１の判定結果が真ならば（ステップＳ３１１のＹｅｓ）、ステップＳ３１２において、予測動きベクトル候補算出部３１１は、予測ブロック候補［Ｎ］を予測不可能候補に設定する。一方、ステップＳ３１１の判定結果が偽ならば（Ｓ３１１のＮｏ）、ステップＳ３１３において、予測動きベクトル候補算出部３１１は、予測ブロック候補［Ｎ］を予測可能候補に設定する。

ステップＳ３１４では、予測動きベクトル候補算出部３１１は、予測ブロック候補［Ｎ］が予測可能候補、または、ｃｏ−ｌｏｃａｔｅｄブロック候補であるかどうかを判定する。ここで、ステップＳ３１４の判定結果が真ならば（ステップＳ３１４のＹｅｓ）、ステップＳ５において、予測動きベクトル候補算出部３１１は、予測可能候補数に１を加算して値を更新する。一方、ステップＳ３１４の判定結果が偽ならば（ステップＳ３１４のＮｏ）、予測動きベクトル候補算出部３１１は、予測可能候補数を更新しない。

このように、予測ブロック候補がｃｏ−ｌｏｃａｔｅｄブロックの場合は、予測動きベクトル候補算出部３１１は、ｃｏ−ｌｏｃａｔｅｄブロックが予測可能候補か予測不可能候補かどうかに関らず、予測可能候補数に１を加算する。これにより、パケットロス等でｃｏ−ｌｏｃａｔｅｄブロックの情報がロスされた場合でも、動画像符号化装置と動画像復号化装置とで予測可能候補数に不一致が発生しない。

この予測可能候補数は、図２２のステップＳ３０２において、予測動きベクトル候補リストサイズに設定される。さらに、図２２のステップＳ３０３において、予測動きベクトル候補リストサイズは、予測動きベクトルインデックスの可変長復号化に用いられる。これによって、ｃｏ−ｌｏｃａｔｅｄブロック等を含む参照ピクチャ情報をロスした場合でも、動画像復号化装置３００は、予測動きベクトルインデックスを正常に復号化することが可能になる。

図２４は、図２２のステップＳ３０４の詳細な処理を示すフローチャートである。具体的には、図２４は、予測動きベクトル候補を算出する方法を表す。以下、図２４について説明する。

ステップＳ３２１では、予測動きベクトル候補算出部３１１は、予測ブロック候補［Ｎ］から、予測方向Ｘの予測動きベクトル候補を、上記の式１、式２を用いて算出して、予測動きベクトル候補リストに追加する。

ステップＳ３２２では、予測動きベクトル候補算出部３１１は、図１５Ａおよび図１６Ａに示すように、予測動きベクトル候補リストから予測不可能候補および重複候補を探索し、削除する。

ステップＳ３２３では、予測動きベクトル候補算出部３１１は、図１９Ａと同様の方法で、予測動きベクトル候補リストに新規候補を追加する。

図２５は、予測動きベクトルインデックスをビットストリームに付加する際のシンタックスの一例を表す図である。図２５において、ｉｎｔｅｒ＿ｐｒｅｄ＿ｆｌａｇは予測方向フラグ、ｍｖｐ＿ｉｄｘは予測動きベクトルインデックスを表す。ＮｕｍＭＶＰＣａｎｄは予測動きベクトル候補リストサイズを表し、本実施の形態では図２３の処理フローで算出された予測可能候補数が設定される。

このように、本実施の形態に係る動画像復号化装置３００によれば、予測動きベクトルインデックスを符号化または復号化する際に用いる予測動きベクトル候補リストサイズを、ｃｏ−ｌｏｃａｔｅｄブロック等を含む参照ピクチャ情報に依存しない方法で算出することができる。これによって、動画像復号化装置３００は、エラー耐性を向上したビットストリームを適切に復号することが可能になる。

より具体的には、本実施の形態に係る動画像復号化装置３００は、ｃｏ−ｌｏｃａｔｅｄブロックが予測可能候補かどうかに関らず、予測ブロック候補がｃｏ−ｌｏｃａｔｅｄブロックであれば常に予測可能候補数に１を加算する。そして、動画像復号化装置３００は、このようにして算出した予測可能候補数を用いて、予測動きベクトルインデックスに割り当てるビット列を決定する。これにより、動画像復号化装置３００は、ｃｏ−ｌｏｃａｔｅｄブロックを含む参照ピクチャ情報をロスした場合でも、予測動きベクトルインデックスを正常に復号化することが可能になる。

また、本実施の形態に係る動画像復号化装置３００は、予測動きベクトル候補数が、予測可能候補数に達していない場合には、新たな予測動きベクトルを持つ新規候補を予測動きベクトル候補として追加することによって、符号化効率を向上したビットストリームを適切に復号することが可能になる。

なお、本実施の形態では、動画像復号化装置３００は、予測動きベクトル候補数が予測可能候補数に達していない場合に、新たな予測動きベクトルを持つ新規候補を予測動きベクトル候補として追加しているが、これに限られるものではない。例えば、上記実施の形態１と同様に、動画像復号化装置３００は、予測動きベクトル候補リストを作成する際に、予測動きベクトル候補リスト上のすべての予測動きベクトル候補の初期値として、新たな予測動きベクトルを持つ新規候補を設定しておいても構わない。

なお、本実施の形態の動画像復号化装置３００は、ｃｏ−ｌｏｃａｔｅｄブロックが予測可能候補かどうかに関らず、予測ブロック候補がｃｏ−ｌｏｃａｔｅｄブロックであれば常に１を加算するようにして算出した予測可能候補数を用いて、予測動きベクトルインデックスに割当てるビット列を決定するようにしたが、これに限られるものではない。

例えば、動画像復号化装置３００は、図２３のステップＳ３１４において、ｃｏ−ｌｏｃａｔｅｄブロック以外の予測ブロック候補に対しても、必ず常に１を加算するようにして算出した予測可能候補数を用いて、予測動きベクトルインデックスに割り当てられたビット列を決定してもよい。すなわち、動画像復号化装置３００は、予測動きベクトル候補数の最大値Ｍに固定された予測動きベクトル候補リストサイズを用いて、予測動きベクトルインデックスにビット列を割当てても構わない。つまり、動画像復号化装置３００は、全ての予測ブロック候補を予測可能候補とみなし、予測動きベクトル候補リストサイズを、予測動きベクトル候補数の最大値Ｍに固定して、予測動きベクトルインデックスを復号化しても構わない。

例えば、本実施の形態では、予測動きベクトル候補数の最大値Ｍは５であるため（隣接ブロックＡ、隣接ブロックＢ、ｃｏ−ｌｏｃａｔｅｄブロック、隣接ブロックＣ、隣接ブロックＤ）、動画像復号化装置３００は、常に予測動きベクトル候補リストサイズに５を設定して、予測動きベクトルインデックスを復号化するようにしても構わない。また、ｃｏ−ｌｏｃａｔｅｄブロックを参照しないようなピクチャ（Ｉピクチャを参照するＢピクチャやＰピクチャ）のように、予測動きベクトル候補数の最大値Ｍが４（隣接ブロックＡ、隣接ブロックＢ、隣接ブロックＣ、隣接ブロックＤ）の場合には、動画像復号化装置３００は、常に予測動きベクトル候補リストサイズに４を設定して、予測動きベクトルインデックスを符号化しても構わない。

これにより、動画像復号化装置３００の可変長復号化部３０１が、ビットストリーム中の予測動きベクトルインデックスを、隣接ブロックやｃｏ−ｌｏｃａｔｅｄブロックの情報を参照せずに復号化することが可能になる。例えば、図２３のステップＳ３１４、ステップＳ３１５の処理を省略するなど、可変長復号化部３０１の処理量を削減できる。

図２６は、予測動きベクトル候補リストサイズを予測動きベクトル候補数の最大値Ｍに固定した場合のシンタックスの一例を表す図である。図２６に示すように、予測動きベクトル候補リストサイズを予測動きベクトル候補数の最大値に固定する場合は、図２５と比較して、ＮｕｍＭＶＰＣａｎｄをシンタックスから削除できる。

また、予測動きベクトル候補数の最大値Ｍを、ＳＰＳ、ＰＰＳ、または、スライスヘッダ等から取得するようにしても構わない。これにより、復号化対象ピクチャに応じて、予測動きベクトル候補数の最大値Ｍを切り替えることができ、処理量の削減および符号化効率の向上を図ることができ、ビットストリームを正しく復号することができる。

（実施の形態１および実施の形態２の変形例）
上述した実施の形態１および実施の形態２において、予測動きベクトル候補リストサイズを予測動きベクトル候補数の最大値（２以上の固定数の一例に相当）に固定する場合において、予測動きベクトル候補リストに空きがあるときは、エラー耐性を向上させるために、予測動きベクトル候補リストの空き部分に所定のエラー耐性向上用の予測動きベクトル候補（第二の候補）を入れるようにしてもよい。

第二の候補としては、例えば、動きベクトルの大きさが（０，０）の予測動きベクトル候補を割り当てるようにしても構わない。第二の候補は、エラー耐性を向上させるための候補であることから、複数の第二の候補を追加する場合でも、全て同じ値に設定しても良い。なお、新規候補については、符号化効率を向上させるための候補であることから、複数の新規候補を追加する場合には、異なる候補を追加する。ただし、新規候補は、第一の候補および第二の候補との間では、結果として、同じ候補が存在していても良い。

なお、第二の候補を割り当てる方法としては、（１）新規候補の追加後に、空き候補に第二の候補を割り当てる、あるいは、（２）予測動きベクトル候補リストの全ての要素に第二の候補を入れて初期化することが考えられる。

先ず、動画像符号化装置１００および動画像復号化装置３００において、（１）新規候補の追加後に、空き候補に第二の候補を割り当てる場合について説明する。

ここで、図１５Ｂは、予測方向０の予測動きベクトル候補リストの一例を示す表である。また、図１６Ｂは、予測方向１の予測動きベクトル候補リストの一例を示す表である。

図１５Ｂおよび図１６Ｂでは、新規候補の追加後に、空き候補に第二の候補を割り当てる場合の予測動きベクトル候補リストを示しており、予測動きベクトル候補数の最大値Ｍが５である場合（Ｎ＝０〜４）について例示している。

図１７Ｂは、新規候補の追加後に、空き候補に第二の候補を割り当てる場合における予測動きベクトル候補の算出手順を示すフローチャートである。なお、図１７Ａと同じ処理については、同じ符号を用いている。当該算出手順は、動画像符号化装置１００で実行される図１４のステップＳ１０２に対応する処理であり、動画像復号化装置３００で実行される図２２のステップＳ３０４の処理にも対応している。また、予測動きベクトル候補リストサイズは、最大値Ｍに固定されているため、算出する必要がない。

ステップＳ１５１では、動画像符号化装置１００の予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］が予測可能候補であるかどうかを上述した方法で判定する。

ステップＳ１１２では、予測動きベクトル候補算出部１１４は、予測ブロック候補［Ｎ］から、予測方向Ｘの予測動きベクトル候補を、上記の式１、式２を用いて算出して、予測動きベクトル候補リストに追加する。

ステップＳ１１３では、予測動きベクトル候補算出部１１４は、予測動きベクトル候補リストから予測不可能候補および重複候補を探索し、削除する。

ステップＳ１１４では、予測動きベクトル候補算出部１１４は、予測動きベクトル候補リストに新規候補を追加する。ここで、図１９Ｂは、予測動きベクトル候補リストサイズが固定されている場合における、新規候補の追加手順を示すフローチャートである。図１９Ｂは、図１９Ａに対して、ステップＳ１３１の判定方法のみが異なっており、予測可能候補数ではなく、予測動きベクトル候補リストサイズに達するまで、新規候補の追加が可能となっている。

ステップＳ１５５では、予測動きベクトル候補算出部１１４は、図１５Ｂの（ｂ）および図１６Ｂの（ｂ）に示すように、予測動きベクトル候補リストの最後まで、第二の候補を追加する。第二の候補としては、例えば、動きベクトルの大きさが（０，０）の予測動きベクトル候補がある。

ここで、図２７は、空き候補に第二の候補を割り当てる処理手順を示すフローチャートである。

ステップＳ１７１では、予測動きベクトル候補算出部１１４は、予測動きベクトル候補リストサイズ（例えば、最大値Ｍ）−予測動きベクトル候補が、０以上であるかを判定する。すなわち、予測動きベクトル候補リストに空き要素があるかを判定する。

ステップＳ１７１の判定結果が真ならば（ステップＳ１７１のＹｅｓ）、ステップＳ１７２において、予測動きベクトル候補算出部１１４は、予測動きベクトル候補リストの空き要素に、第二の候補を追加する。さらに、ステップＳ１７３において、予測動きベクトル候補算出部１１４は、予測動きベクトル候補数に１を加算する。

ステップＳ１７１の判定結果が偽ならば（ステップＳ１７１のＮｏ）、予測動きベクトル候補算出部１１４は、第二の候補の追加を終了する。このとき、予測動きベクトル候補リストは、図１５Ｂの（ｂ）および図１６Ｂの（ｂ）に示す状態となる。

なお、ここでは、動画像符号化装置１００の予測動きベクトル候補算出部１１４による処理として説明したが、動画像復号化装置３００の予測動きベクトル候補算出部３１１により予測動きベクトル候補リストを算出する場合も、同じ処理を行うことにより、予測動きベクトルインデックスを正常に復号化することが可能になる。

次に、動画像符号化装置１００および動画像復号化装置３００において、（２）予測動きベクトル候補リストの全ての要素に第二の候補を入れて初期化する場合について説明する。

ここで、図１５Ｃは、予測方向０の予測動きベクトル候補リストの一例を示す表である。また、図１６Ｃは、予測方向１の予測動きベクトル候補リストの一例を示す表である。

図１５Ｃおよび図１６Ｃでは、予測動きベクトル候補リストを第二の候補で初期化する場合において、各処理における予測動きベクトル候補リストを示している。図１５Ｃおよび図１６Ｃでは、予測動きベクトル候補数の最大値Ｍが５である場合（Ｎ＝０〜４）について例示している。

図１７Ｃは、予測動きベクトル候補リストを第二の候補で初期化する場合における予測動きベクトル候補の算出手順を示すフローチャートである。当該算出手順は、動画像符号化装置１００で実行される図１４のステップＳ１０２に対応する処理であり、動画像復号化装置３００で実行される図２２のステップＳ３０４の処理にも対応している。また、予測動きベクトル候補リストサイズは、最大値Ｍに固定されているため、算出する必要がない。なお、図１７Ｃにおいて、Ｎ１は、隣接ブロックを示す値である。

ステップＳ１６１では、動画像符号化装置１００の予測動きベクトル候補算出部１１４は、予測動きベクトル候補［Ｎ１］（Ｎ１＝０〜４）の全てに第二の候補を設定する。第二の候補としては、例えば、動きベクトルの大きさが（０，０）の予測動きベクトル候補がある。

ステップＳ１６２では、予測動きベクトル候補算出部１１４は、隣接ブロックＮ１から得られる予測ベクトル候補が、予測不可能候補または重複候補であるかを判定する。

ステップＳ１６２の判定結果が真ならば（ステップＳ１６２のＹｅｓ）、次の隣接ブロックＮ１に対してステップＳ１６２の判定を行う。ステップＳ１６２の判定結果が偽ならば（ステップＳ１６２のＮｏ）、ステップＳ１６３において、予測動きベクトル候補算出部１１４は、隣接ブロックＮ１の予測動きベクトル候補を取得して、予測動きベクトル候補リストを更新する。このとき、予測動きベクトル候補算出部１１４は、隣接ブロックＮ１に対し、第二の候補が割り当てられている予測動きベクトルインデックスのうち、値が最も小さい予測動きベクトルインデックスを割り当てる。そして、予測動きベクトル候補算出部１１４は、割り当てた予測動きベクトルインデックスの予測動きベクトル候補に、隣接ブロックＮ１の予測動きベクトル候補を上書きする。

ステップＳ１６４では、予測動きベクトル候補算出部１１４は、予測動きベクトル候補リストに新規候補を追加する。ここでは、予測動きベクトル候補算出部１１４は、図１９Ｂに示す方法で新規候補を追加する。

このとき、予測動きベクトル候補リストは、図１５Ｃの（ｃ）および図１６Ｃの（ｃ）に示す状態となる。

なお、ここでは、動画像符号化装置１００の予測動きベクトル候補算出部１１４による処理として説明したが、動画像復号化装置３００の予測動きベクトル候補算出部３１１により予測動きベクトル候補リストを算出する場合も、同じ処理を行うことにより、予測動きベクトルインデックスを正常に復号化することが可能になる。

ここで、図１５Ｂの（ｂ）に示す予測動きベクトル候補リストと図１５Ｃの（ｃ）に示す予測動きベクトル候補リストとは同じであり、図１６Ｂの（ｂ）に示す予測動きベクトル候補リストと図１６Ｃの（ｃ）に示す予測動きベクトル候補リストとは同じであることから、（１）新規候補の追加後に、空き候補に第二の候補を割り当てる方法、および（２）予測動きベクトル候補リストの全ての要素に第二の候補を入れて初期化する方法の何れを用いても、同じ予測動きベクトル候補リストを得ることができることが分かる。

なお、本変形例では、第二の候補として、動きベクトルが（０，０）の予測動きベクトル候補を割当てる例を示したが、これに限られるものではない。例えば、他の予測動きベクトルインデックスに割当てられた予測動きベクトル候補をコピーするようにしても構わない。また、他の予測動きベクトルインデックスに割当てられた予測動きベクトル候補の動きベクトルの大きさの平均をとるなど、他の予測動きベクトルインデックスに割当てられた予測動きベクトル候補から生成するようにしても構わない。

なお、上記変形例では、第二の候補を割り当てる方法として、（１）新規候補（第三の候補）の追加後に、空き候補に第二の候補を割り当てる、あるいは、（２）予測動きベクトル候補リストの全ての要素に第二の候補を入れて初期化する方法について説明したが、これに限るものではない。

例えば、図２２のステップＳ３０５において、動画像復号化装置３００の予測動きベクトル候補算出部３１１は、空き要素のない予測動きベクトル候補リストを作成するのではなく、復号した予測動きベクトルインデックスが示す要素が空き要素の場合にのみ、当該空き要素についてのみ第二の候補を追加するようにしても構わない。この場合は、処理量を削減できる。

また、例えば、図２２のステップＳ３０５において、予測動きベクトル候補算出部３１１は、復号した予測動きベクトルインデックスが、予測動きベクトルインデックスの最大値以上であるかどうかを判定し、真ならば、第二の候補を割り当てるようにしても構わない。また、例えば、図２２のステップＳ３０５において、予測動きベクトル候補算出部３１１は、復号した予測動きベクトルインデックスが、予測動きベクトルインデックスの最大値以上であるかどうかを判定し、真ならば、予測動きベクトルインデックスが予測動きベクトルインデックスの最大値より小さい値になるように、予測動きベクトルインデックスの値を予測動きベクトルインデックスの最大値でクリッピング処理するようにしても構わない。

なお、例えば、動画像復号化装置３００において、予測動きベクトル候補の重複候補削除に誤りが発生した場合には、ｃｏ−ｌｏｃａｔｅｄブロックの情報を失うようなパケットロスに対応して、予測動きベクトルインデックスを正常に復号化できたとしても、復号した予測動きベクトルインデックスに予測動きベクトル候補が割り当たっていないという状況が生じる場合がある。また、例えば、動画像符号化装置１００側が誤って、予測動きベクトル候補数以上の値を持つ予測動きベクトルインデックスをビットストリームに付加したような場合でも、復号した予測動きベクトルインデックスに予測動きベクトル候補が割り当たっていないという状況が生じる場合がある。

上記変形例では、予測動きベクトル候補リストの空き要素に第二の候補を割り当てるので、予測動きベクトルインデックスに予測動きベクトル候補が割り当たっていないという状況を回避することができる。

（実施の形態３）
上記各実施の形態で示した動画像符号化方法（画像符号化方法）または動画像復号化方法（画像復号方法）の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。

さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）や動画像復号化方法（画像復号方法）の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。

図２８は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。

このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および基地局ｅｘ１０６からｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。

しかし、コンテンツ供給システムｅｘ１００は図２８のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６からｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。

カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ アクセス）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ アクセス）方式、若しくはＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ(Ｈｉｇｈ Ｓｐｅｅｄ Ｐａｃｋｅｔ Ａｃｃｅｓｓ)の携帯電話機、またはＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙｐｈｏｎｅ Ｓｙｓｔｅｍ）等であり、いずれでも構わない。

コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い（即ち、本発明の一態様に係る画像符号化装置として機能する）、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。

なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。

また、これら符号化・復号化処理は、一般的にコンピュータｅｘ１１１や各機器が有するＬＳＩｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。

また、ストリーミングサーバｅｘ１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。

以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。

なお、コンテンツ供給システムｅｘ１００の例に限らず、図２９に示すように、デジタル放送用システムｅｘ２００にも、上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）または動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。具体的には、放送局ｅｘ２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ｅｘ２０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである（即ち、本発明の一態様に係る画像符号化装置によって符号化されたデータである）。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ２０４が受信する。受信した多重化データを、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７等の装置が復号化して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。

また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した多重化データを読み取り復号化する、または記録メディアｅｘ２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダｅｘ２１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示され、多重化データが記録された記録メディアｅｘ２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に動画像復号化装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。

図３０は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナｅｘ３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ｅｘ３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ｅｘ３０６で符号化された映像データ、音声データを多重化する多重／分離部ｅｘ３０３を備える。

また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５（本発明の一態様に係る画像符号化装置または画像復号装置として機能する）を有する信号処理部ｅｘ３０６と、復号化した音声信号を出力するスピーカｅｘ３０７、復号化した映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインタフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インタフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。

まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した多重化データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号化し、分離した映像データを映像信号処理部ｅｘ３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から多重化データを読み出してもよい。次に、テレビｅｘ３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２や多重／分離部ｅｘ３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。

また、テレビｅｘ３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。

また、リーダ／レコーダｅｘ２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビｅｘ３００、リーダ／レコーダｅｘ２１８のいずれで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８が互いに分担して行ってもよい。

一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図３１に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１、ｅｘ４０２、ｅｘ４０３、ｅｘ４０４、ｅｘ４０５、ｅｘ４０６、ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３、サーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。

以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。

図３２に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３より内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。

以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。

また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図３０に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１や携帯電話ｅｘ１１４等でも考えられる。

図３３Ａは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ｅｘ１１４を示す図である。携帯電話ｅｘ１１４は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ３５０、映像、静止画を撮ることが可能なカメラ部ｅｘ３６５、カメラ部ｅｘ３６５で撮像した映像、アンテナｅｘ３５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ｅｘ３５８を備える。携帯電話ｅｘ１１４は、さらに、操作キー部ｅｘ３６６を有する本体部、音声を出力するためのスピーカ等である音声出力部ｅｘ３５７、音声を入力するためのマイク等である音声入力部ｅｘ３５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ｅｘ３６７、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ｅｘ３６４を備える。

さらに、携帯電話ｅｘ１１４の構成例について、図３３Ｂを用いて説明する。携帯電話ｅｘ１１４は、表示部ｅｘ３５８及び操作キー部ｅｘ３６６を備えた本体部の各部を統括的に制御する主制御部ｅｘ３６０に対して、電源回路部ｅｘ３６１、操作入力制御部ｅｘ３６２、映像信号処理部ｅｘ３５５、カメラインタフェース部ｅｘ３６３、ＬＣＤ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ）制御部ｅｘ３５９、変調／復調部ｅｘ３５２、多重／分離部ｅｘ３５３、音声信号処理部ｅｘ３５４、スロット部ｅｘ３６４、メモリ部ｅｘ３６７がバスｅｘ３７０を介して互いに接続されている。

電源回路部ｅｘ３６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ｅｘ１１４を動作可能な状態に起動する。

携帯電話ｅｘ１１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ｅｘ３６０の制御に基づいて、音声通話モード時に音声入力部ｅｘ３５６で収音した音声信号を音声信号処理部ｅｘ３５４でデジタル音声信号に変換し、これを変調／復調部ｅｘ３５２でスペクトラム拡散処理し、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。また携帯電話ｅｘ１１４は、音声通話モード時にアンテナｅｘ３５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ｅｘ３５２でスペクトラム逆拡散処理し、音声信号処理部ｅｘ３５４でアナログ音声信号に変換した後、これを音声出力部ｅｘ３５７から出力する。

さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ｅｘ３６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ３６２を介して主制御部ｅｘ３６０に送出される。主制御部ｅｘ３６０は、テキストデータを変調／復調部ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して基地局ｅｘ１１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ｅｘ３５８に出力される。

データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ｅｘ３５５は、カメラ部ｅｘ３６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し（即ち、本発明の一態様に係る画像符号化装置として機能する）、符号化された映像データを多重／分離部ｅｘ３５３に送出する。また、音声信号処理部ｅｘ３５４は、映像、静止画等をカメラ部ｅｘ３６５で撮像中に音声入力部ｅｘ３５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ｅｘ３５３に送出する。

多重／分離部ｅｘ３５３は、映像信号処理部ｅｘ３５５から供給された符号化された映像データと音声信号処理部ｅｘ３５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。

データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナｅｘ３５０を介して受信された多重化データを復号化するために、多重／分離部ｅｘ３５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ３７０を介して符号化された映像データを映像信号処理部ｅｘ３５５に供給するとともに、符号化された音声データを音声信号処理部ｅｘ３５４に供給する。映像信号処理部ｅｘ３５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し（即ち、本発明の一態様に係る画像復号装置として機能する）、ＬＣＤ制御部ｅｘ３５９を介して表示部ｅｘ３５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ｅｘ３５４は、音声信号を復号し、音声出力部ｅｘ３５７から音声が出力される。

また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムｅｘ２００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。

このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。

また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。

（実施の形態４）
上記各実施の形態で示した動画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。

ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。

この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。

図３４は、多重化データの構成を示す図である。図３４に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラフィックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ Ｄｉｇｉｔａｌ Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。

多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。

図３５は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームｅｘ２３５、複数のオーディオフレームからなるオーディオストリームｅｘ２３８を、それぞれＰＥＳパケット列ｅｘ２３６およびｅｘ２３９に変換し、ＴＳパケットｅｘ２３７およびｅｘ２４０に変換する。同じくプレゼンテーショングラフィックスストリームｅｘ２４１およびインタラクティブグラフィックスｅｘ２４４のデータをそれぞれＰＥＳパケット列ｅｘ２４２およびｅｘ２４５に変換し、さらにＴＳパケットｅｘ２４３およびｅｘ２４６に変換する。多重化データｅｘ２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。

図３６は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図３６における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図３６の矢印ｙｙ１，ｙｙ２，ｙｙ３，ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ Ｐｒｅｓｅｎｔａｔｉｏｎ ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。

図３７は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図３７下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。

また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ Ａｓｓｏｃｉａｔｉｏｎ Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ Ｍａｐ Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ Ｃｌｏｃｋ Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ Ｔｉｍｅ Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ Ｔｉｍｅ Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。

図３８はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。

記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。

多重化データ情報ファイルは、図３９に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。

多重化データ情報は図３９に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。

ストリーム属性情報は図４０に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。

本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。

また、本実施の形態における動画像復号化方法のステップを図４１に示す。ステップｅｘＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップｅｘＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップｅｘＳ１０２において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップｅｘＳ１０３において、従来の規格に準拠した動画像復号方法により復号を行う。

このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。

（実施の形態５）
上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図４２に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１、ｅｘ５０２、ｅｘ５０３、ｅｘ５０４、ｅｘ５０５、ｅｘ５０６、ｅｘ５０７、ｅｘ５０８、ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。

例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７やカメラｅｘ１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られ、信号処理部ｅｘ５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力された多重化データは、基地局ｅｘ１０７に向けて送信されたり、または記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。

なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファｅｘ５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。

また、上記では、制御部ｅｘ５０１が、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有するとしているが、制御部ｅｘ５０１の構成は、この構成に限らない。例えば、信号処理部ｅｘ５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ｅｘ５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵｅｘ５０２が信号処理部ｅｘ５０７、または信号処理部ｅｘ５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ｅｘ５０１は、信号処理部ｅｘ５０７、またはその一部を有するＣＰＵｅｘ５０２を備える構成となる。

なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。

また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。

さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。

（実施の形態６）
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩｅｘ５００において、従来の規格に準拠する映像データを復号する際のＣＰＵｅｘ５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。

この課題を解決するために、テレビｅｘ３００、ＬＳＩｅｘ５００などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図４３は、本実施の形態における構成ｅｘ８００を示している。駆動周波数切替え部ｅｘ８０３は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ｅｘ８０２に対し、映像データを復号するよう指示する。

より具体的には、駆動周波数切替え部ｅｘ８０３は、図４２のＣＰＵｅｘ５０２と駆動周波数制御部ｅｘ５１２から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１、および、従来の規格に準拠する復号処理部ｅｘ８０２は、図４２の信号処理部ｅｘ５０７に該当する。ＣＰＵｅｘ５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵｅｘ５０２からの信号に基づいて、駆動周波数制御部ｅｘ５１２は、駆動周波数を設定する。また、ＣＰＵｅｘ５０２からの信号に基づいて、信号処理部ｅｘ５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態４で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態４で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵｅｘ５０２における駆動周波数の選択は、例えば、図４５のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファｅｘ５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵｅｘ５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。

図４４は、本実施の形態の方法を実施するステップを示している。まず、ステップｅｘＳ２００では、信号処理部ｅｘ５０７において、多重化データから識別情報を取得する。次に、ステップｅｘＳ２０１では、ＣＰＵｅｘ５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップｅｘＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップｅｘＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。

さらに、駆動周波数の切替えに連動して、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することが考えられる。

また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。

さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵｅｘ５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。

このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。

（実施の形態７）
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩｅｘ５００の信号処理部ｅｘ５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ｅｘ５０７を個別に用いると、ＬＳＩｅｘ５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。

この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図４６Ａのｅｘ９００に示す。例えば、上記各実施の形態で示した動画像復号方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ｅｘ９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明の一態様に特有の他の処理内容については、専用の復号処理部ｅｘ９０１を用いるという構成が考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。

また、処理を一部共有化する他の例を図４６Ｂのｅｘ１０００に示す。この例では、本発明の一態様に特有の処理内容に対応した専用の復号処理部ｅｘ１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ｅｘ１００２と、本発明の一態様に係る動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ｅｘ１００３とを用いる構成としている。ここで、専用の復号処理部ｅｘ１００１、ｅｘ１００２は、必ずしも本発明の一態様、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩｅｘ５００で実装することも可能である。

このように、本発明の一態様に係る動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。

本発明に係る動画像符号化方法および動画像復号化方法は、あらゆるマルチメディアデータに適用することができ、動画像符号化および復号化のエラー耐性を向上させることが可能である。本発明に係る動画像符号化方法および動画像復号化方法は、例えば、携帯電話、ＤＶＤ装置、およびパーソナルコンピュータ等を用いた蓄積、伝送、通信等における動画像符号化方法および動画像復号化方法として有用である。

１００、１０００ 動画像符号化装置
１０１、１００１ 減算部
１０２、１００２ 直交変換部
１０３、１００３ 量子化部
１０４、３０２、１００４、２００２ 逆量子化部
１０５、３０３、１００５、２００３ 逆直交変換部
１０６、３０４、１００６、２００４ 加算部
１０７、３０５、１００７、２００５ ブロックメモリ
１０８、３０６、１００８、２００６ フレームメモリ
１０９、３０７、１００９、２００７ イントラ予測部
１１０、３０８、１０１０、２００８ インター予測部
１１１、３０９、１０１１、２００９ インター予測制御部
１１２、１０１２ ピクチャタイプ決定部
１１３、３１０、１０１３、２０１０ スイッチ
１１４、３１１、１０１４、２０１１ 予測動きベクトル候補算出部
１１５、３１２、１０１５、２０１２ ｃｏｌＰｉｃメモリ
１１６、１０１６ 可変長符号化部
３００、２０００ 動画像復号化装置
３０１、２００１ 可変長復号化部

Claims (2)

1. ビットストリームから復号化対象ブロックを復号化するための動画像復号化方法であって、
   第１インデックスに対応する第１タイプの候補を候補リストに追加し、前記第１タイプの候補は前記復号化対象ブロックを含む画像に含まれ前記復号化対象ブロックに空間的に隣接する第１ブロックの復号化に用いられた第１予測動きベクトルを有し、
   第２インデックスに対応する第２タイプの候補を前記候補リストに追加し、前記第２タイプの候補は前記復号化対象ブロックを含む画像とは異なる画像に含まれ前記復号化対象ブロックに時間的に隣接する第２ブロックの復号化に用いられた第２予測動きベクトルを有し、
   第３予測動きベクトルを有し、第３インデックスに対応する第３タイプの候補を前記候補リストに追加し、前記第３タイプの候補は、前記第１タイプの候補および前記第２タイプの候補とは異なり、
   第４予測動きベクトルを有し、第４インデックスに対応する第４タイプの候補を前記候補リストに追加し、前記第４タイプの候補は、前記第１タイプの候補のコピーであり、
   前記候補リストのうち前記ビットストリーム中の予測動きベクトルインデックスに対応する一の候補が有する予測動きベクトルを用いて前記復号化対象ブロックを復号する、
   動画像復号化方法。
2. ビットストリームから復号化対象ブロックを復号化するための動画像復号化装置であって、
   生成部と、
   復号部と、を有し、
   前記生成部は、
   第１インデックスに対応する第１タイプの候補を候補リストに追加し、前記第１タイプの候補は前記復号化対象ブロックを含む画像に含まれ前記復号化対象ブロックに空間的に隣接する第１ブロックの復号化に用いられた第１予測動きベクトルを有し、
   第２インデックスに対応する第２タイプの候補を前記候補リストに追加し、前記第２タイプの候補は前記復号化対象ブロックを含む画像とは異なる画像に含まれ前記復号化対象ブロックに時間的に隣接する第２ブロックの復号化に用いられた第２予測動きベクトルを有し、
   第３予測動きベクトルを有し、第３インデックスに対応する第３タイプの候補を前記候補リストに追加し、前記第３タイプの候補は、前記第１タイプの候補および前記第２タイプの候補とは異なり、
   第４予測動きベクトルを有し、第４インデックスに対応する第４タイプの候補を前記候補リストに追加し、前記第４タイプの候補は、前記第１タイプの候補のコピーであり、
   前記復号部は、前記候補リストのうち前記ビットストリーム中の予測動きベクトルインデックスに対応する一の候補が有する予測動きベクトルを用いて前記復号化対象ブロックを復号する、
   動画像復号化装置。

Images