JP2018129808A - 動画像復号化方法および動画像復号化装置 - Google Patents

Abstract

【課題】時間予測動きベクトルモードにおける必要メモリおよびバンド幅を削減することができる動画像復号化方法を提供する。
【解決手段】復号化対象ブロックを含む復号化対象フレームとは異なる参照フレームに含まれる参照ブロックの参照動きベクトルを用いて復号化対象ブロックを復号化する動画像復号化方法であって、参照ブロックが有する２つの参照動きベクトルのうち１つの参照動きベクトルのみを参照するか否かを示す情報を取得し、情報が１つの参照動きベクトルのみを参照することを示す場合、２つの参照動きベクトルのうち１つだけを含む参照ブロック情報を用いて復号化対象ブロックの動きベクトルの復号化を行う。
【選択図】図１４

Description

本発明は、動画像符号化方法および動画像復号化方法に関する。

動画像符号化処理では、一般に、動画像が有する空間方向および時間方向の冗長性を利用して情報量の圧縮が行われる。ここで一般に、空間方向の冗長性を利用する方法としては、周波数領域への変換が用いられ、時間方向の冗長性を利用する方法としては、ピクチャ間予測（以降、インター予測と呼ぶ）符号化処理が用いられる。インター予測符号化処理では、あるピクチャを符号化する際に、符号化対象ピクチャに対して表示時間順で前方または後方にある符号化済みのピクチャを、参照ピクチャとして用いる。そして、その参照ピクチャに対する符号化対象ピクチャの動き検出により、動きベクトルを導出し、動きベクトルに基づいて動き補償を行って得られた予測画像データと符号化対照ピクチャの画像データとの差分を取ることにより、時間方向の冗長性を取り除く。ここで、動き検出では、符号化ピクチャ内の符号化対象ブロックと、参照ピクチャ内のブロックとの差分値を算出し、最も差分値の小さい参照ピクチャ内のブロックを参照ブロックとする。そして、符号化対象ブロックと、参照ブロックとを用いて、動きベクトルを検出する。

既に標準化されている、Ｈ．２６４と呼ばれる動画像符号化方式では、情報量の圧縮のために、Ｉピクチャ、Ｐピクチャ、Ｂピクチャという３種類のピクチャタイプを用いている。Ｉピクチャは、インター予測符号化処理を行わない、すなわち、ピクチャ内予測（以降、イントラ予測と呼ぶ）符号化処理を行うピクチャである。Ｐピクチャは、表示時間順で、符号化対象ピクチャの前方または後方にある既に符号化済みの１つのピクチャを参照してインター予測符号化を行うピクチャである。Ｂピクチャは、表示時間順で、符号化対象ピクチャの前方または後方にある既に符号化済みの２つのピクチャを参照してインター予測符号化を行うピクチャである。

また、Ｈ．２６４と呼ばれる動画像符号化方式では、Ｂピクチャにおける各符号化対象ブロックのインター予測の符号化モードとして、予測画像データと符号化対象ブロックの画像データとの差分値および予測画像データ生成に用いた動きベクトルを符号化する動きベクトル検出モードがある。動きベクトル検出モードは、予測方向として、符号化対象ピクチャの前方または後方にある既に符号化済みの２つのピクチャを参照して予測画像を生成する２方向予測と、前方または後方にある既に符号化済みの１つのピクチャを参照して予測画像を生成する１方向予測を選択することができる。

また、Ｈ．２６４と呼ばれる動画像符号化方式では、Ｂピクチャの符号化において、動きベクトルを導出する際に、時間予測動きベクトルモードと呼ぶ符号化モードを選択することができる。時間予測動きベクトルモードにおけるインター予測符号化方法を、図１を用いて説明する。図１は、時間予測動きベクトルモードにおける動きベクトルを示す説明図であり、ピクチャＢ２のブロックａを時間予測動きベクトルモードで符号化する場合を示している。この場合、ピクチャＢ２の後方にある参照ピクチャであるピクチャＰ３中の、ブロックａと同じ位置にあるブロックｂを符号化した際に用いた動きベクトルａを利用する。動きベクトルａは、ブロックｂが符号化された際に用いられた動きベクトルであり、ピクチャＰ１を参照している。ブロックａは、動きベクトルａと平行な動きベクトルを用いて、前方向参照ピクチャであるピクチャＰ１と、後方参照ピクチャであるピクチャＰ３とから参照ブロックを取得し、２方向予測を行って符号化される。すなわち、ブロックａを符号化する際に用いられる動きベクトルは、ピクチャＰ１に対しては動きベクトルｂ、ピクチャＰ３に対しては動きベクトルｃとなる。

ＩＴＵ−Ｔ Ｒｅｃｏｍｍｅｎｄａｔｉｏｎ Ｈ．２６４「Ａｄｖａｎｃｅｄ ｖｉｄｅｏ ｃｏｄｉｎｇ ｆｏｒ ｇｅｎｅｒｉｃ ａｕｄｉｏｖｉｓｕａｌ ｓｅｒｖｉｃｅｓ」、２０１０年３月

しかしながら、従来の時間予測動きベクトルモードでは、時間予測動きベクトル算出の際に利用する動きベクトルをあらかじめメモリに保存しておく必要がある。例えば、図１の参照ピクチャＰ３の全ての符号化対象ブロックが２方向予測の場合、各符号化ブロックは少なくとも２本の動きベクトルを持つ。そのため、時間予測動きベクトル算出用に参照ピクチャの全ての動きベクトルを保存しておくには、大容量のメモリが必要であり、また、メモリバンド幅も増加する。

そこで、本発明は、時間予測動きベクトルモードにおける必要メモリおよびバンド幅を削減することができる動画像復号化方法を提供することを目的とする。

本発明に係る動画像復号化方法は、復号化対象ブロックを含む復号化対象フレームとは異なる参照フレームに含まれる参照ブロックの参照動きベクトルを用いて前記復号化対象ブロックを復号化する動画像復号化方法であって、前記参照ブロックが有する２つの前記参照動きベクトルのうち１つの前記参照動きベクトルのみを参照するか否かを示す情報を取得し、前記情報が１つの前記参照動きベクトルのみを参照することを示す場合、前記２つの参照動きベクトルのうち１つだけを含む参照ブロック情報を用いて前記復号化対象ブロックの動きベクトルの復号化を行う。

なお、本発明は、このような動画像復号化方法として実現することができるだけでなく、このような動画像復号化方法が含む特徴的なステップを手段とする動画像復号化装置として実現したり、それらのステップをコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、コンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体として実現したり、そのプログラムを示す情報、データ又は信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、インターネット等の通信ネットワークを介して配信してもよい。

本発明によれば時間予測動きベクトルモードにおける必要メモリおよびバンド幅を削減することが可能になる。

図１は、時間ダイレクトにおける動きベクトルを示す説明図である。 図２は、本発明に係る動画像符号化方法を用いた動画像符号化装置の一実施の形態の構成を示すブロック図である。 図３は、本発明に係る動画像符号化方法の処理フローの概要を示すフローチャートである。 図４Ａは、予測動きベクトル候補の一例を示す図である。 図４Ｂは、予測動きベクトルインデックスの割り当て方の一例を示す図である。 図５は、予測動きベクトルインデックスを可変長符号化する際に用いる、符号表の一例を示す図である。 図６は、実施の形態１におけるインター予測制御部での予測動きベクトル候補の決定フローを示すフローチャートである。 図７は、colPicメモリへの読み書き処理を示す概念図である。 図８は、図３のステップＳ１０１の詳細な処理フローを示すフローチャートである。 図９は、図３のステップＳ１０２の詳細な処理フローを示すフローチャートである。 図１０Ａは、時間予測動きベクトルモードにより予測動きベクトル候補を導出する方法の一例を示す図である。 図１０Ｂは、時間予測動きベクトルモードにより予測動きベクトル候補を導出する方法の一例を示す図である。 図１１Ａは、時間予測動きベクトルモードにより予測動きベクトル候補を導出する方法の一例を示す図である。 図１１Ｂは、時間予測動きベクトルモードにより予測動きベクトル候補を導出する方法の一例を示す図である。 図１２は、図３のステップＳ１０４の詳細な処理フローを示すフローチャートである。 図１３は、本発明に係る動画像復号化方法を用いた動画像復号化装置の一実施の形態の構成を示すブロック図である。 図１４は、本発明に係る動画像復号化方法の処理フローの概要を示すフローチャートである。 図１５は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。 図１６は、デジタル放送用システムの全体構成図である。 図１７は、テレビの構成例を示すブロック図である。 図１８は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。 図１９は、光ディスクである記録メディアの構造例を示す図である。 図２０Ａは、携帯電話の一例を示す図である。 図２０Ｂは、携帯電話の構成例を示すブロック図である。 図２１は、多重化データの構成を示す図である。 図２２は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。 図２３は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。 図２４は、多重化データにおけるＴＳパケットとソースパケットの構造を示す図である。 図２５は、ＰＭＴのデータ構成を示す図である。 図２６は、多重化データ情報の内部構成を示す図である。 図２７は、ストリーム属性情報の内部構成を示す図である。 図２８は、映像データを識別するステップを示す図である。 図２９は、各実施の形態の動画像符号化方法および動画像復号化方法を実現する集積回路の構成例を示すブロック図である。 図３０は、駆動周波数を切り替える構成を示す図である。 図３１は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。 図３２は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。 図３３Ａは、信号処理部のモジュールを共有化する構成の一例を示す図である。 図３３Ｂは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。

以下、本発明の実施の形態について、図面を参照しながら説明する。

（実施の形態１）
図２は、本発明に係る動画像符号化方法を用いた動画像符号化装置の一実施の形態の構成を示すブロック図である。

動画像符号化装置１００は、図２に示すように、直交変換部１０１、量子化部１０２、逆量子化部１０３、逆直交変換部１０４、ブロックメモリ１０５、フレームメモリ１０６、イントラ予測部１０７、インター予測部１０８、インター予測制御部１０９、ピクチャタイプ決定部１１０、時間予測動きベクトル算出部１１１、colPicメモリ１１２、co-located情報決定部１１３、および可変長符号化部１１４を備えている。

直交変換部１０１は、入力画像列に対し、画像領域から、周波数領域への変換を行う。量子化部１０２は、周波数領域に変換された入力画像列に対し、量子化処理を行う。逆量子化部１０３は、量子化部１０２により、量子化処理された入力画像列に対し、逆量子化処理を行う。逆直交変換部１０４は、逆量子化処理された入力画像列に対し、周波数領域から、画像領域への変換を行う。ブロックメモリ１０５は、入力画像列をブロック単位で保存する。フレームメモリ１０６は、入力画像列をフレーム単位で保存する。ピクチャタイプ決定部１１０は、Ｉピクチャ、Ｂピクチャ、Ｐピクチャのいずれのピクチャタイプで入力画像列を符号化するかを決定し、ピクチャタイプ情報を生成する。イントラ予測部１０７は、ブロックメモリ１０５に保存されているブロック単位の入力画像列を用いて、符号化対象ブロックをイントラ予測により符号化し、予測画像データを生成する。インター予測部１０８は、フレームメモリ１０６に保存されているフレーム単位の入力画像と、動き検出により導出した動きベクトルとを用いて、符号化対象ブロックをインター予測により符号化し、予測画像データを生成する。

co-located情報決定部１１３は、符号化対象ピクチャより、表示時間順で、前方に位置するピクチャに含まれるブロック（以降、前方参照ブロックと呼ぶ）、または、後方に位置するピクチャに含まれるブロック（以降、後方参照ブロックと呼ぶ）のいずれをco-locatedブロックとするかを決定する。そして、co-located情報決定部１１３は、前方参照ブロックまたは後方参照ブロックのいずれをco-locatedブロックとして決定したのかに応じて、co-located参照方向フラグをピクチャ毎に生成し、符号化対象ピクチャに付随させる。また、co-located情報決定部１１３は、co-locatedブロックの動きベクトルのうち、単方向の動きベクトルのみをcolPicメモリに保存するか否かを決定する。そして、co-located情報決定部１１３は、単方向の動きベクトルのみをcolPicメモリに保存するか否かを示すco-located単方向保存フラグをピクチャ毎に生成し、符号化対象ピクチャに付随させる。ここで、co-locatedブロックとは、符号化対象ブロックを含むピクチャとは異なるピクチャ内のブロックで、かつ、ピクチャ内における位置が、符号化対象ブロックと同じ位置になるブロックである。

時間予測動きベクトル算出部１１１は、colPicメモリ１１２に格納されているco-locatedブロックの動きベクトル等のcolPic情報を用いて、時間予測動きベクトルモードの予測動きベクトル候補（時間予測動きベクトル）を導出する。また、時間予測動きベクトル算出部１１１は、時間予測動きベクトルに対応する予測動きベクトルインデックスの値を割り当てる。そして、時間予測動きベクトル算出部１１１は、時間予測動きベクトルと、予測動きベクトルインデックスを、インター予測制御部１０９に送る。co-locatedブロックが動きベクトルを有していない場合には、時間予測動きベクトル算出部１１１は、時間予測動きベクトルモードによる動きベクトル導出を中止するか、または、動きベクトルを０として、予測動きベクトル候補（時間予測動きベクトル）を導出する。

インター予測制御部１０９は、複数の予測動きベクトル候補から、動き検出により導出された動きベクトルとの誤差が最も小さい予測動きベクトル候補を用いて、動きベクトルの符号化を行うと決定する。ここで、誤差は、予測動きベクトル候補と、動き検出により導出された動きベクトルとの差分値を示す。また、インター予測制御部１０９は、決定した予測動きベクトルに対応する予測動きベクトルインデックスをブロック毎に生成する。そして、インター予測制御部１０９は、予測動きベクトルインデックスと、予測動きベクトル候補と動きベクトルとの誤差を示す誤差情報とを、可変長符号化部１１４に送る。また、インター予測制御部１０９は、符号化対象ブロックの動きベクトル等を含むcolPic情報をcolPicメモリ１１２に転送する。

直行変換部１０１は、生成された予測画像データと、入力画像列との予測誤差データに対し、画像領域から、周波数領域への変換を行う。量子化部１０２は、周波数領域へ変換した予測誤差データに対し、量子化処理を行う。可変長符号化部１１４は、量子化処理された予測誤差データ、予測動きベクトルインデックス、予測動きベクトル候補の誤差情報、ピクチャタイプ情報、co-located参照方向フラグ、co-located単方向保存フラグに対し、可変長符号化処理を行うことで、ビットストリームを生成する。

図３は、本発明に係る動画像符号化方法の処理フローの概要を示すフローチャートである。co-located情報決定部１１３は、予測動きベクトル候補を時間予測動きベクトルモードで導出する際に、後述する方法で、co-located参照方向フラグ、およびco-located単方向保存フラグなどのco-located情報を決定する（ステップＳ１０１）。時間予測動きベクトル算出部１１１は、co-located情報に応じてcolPicメモリからco-locatedブロックの参照動きベクトル等を含むcolPic情報をリードし、co-locatedブロックの参照動きベクトルを用いて、時間予測動きベクトルモードにより、予測動きベクトル候補（時間予測動きベクトル）を導出する（ステップＳ１０２）。また、時間予測動きベクトル算出部１１１時間予測動きベクトルに対応する、予測動きベクトルインデックスの値を割り振る。一般に、予測動きベクトルインデックスは、値の小さい場合に必要な情報量が少なくなる。一方、値が大きくなると、必要な情報量が大きくなる。従って、より精度の高い動きベクトルとなる可能性の高い動きベクトルに対応する、予測動きベクトルインデックスの値を小さくすると、符号化効率が高くなる。インター予測制御部１０９は、動き検出により導出された動きベクトルを用いてインター予測によりピクチャを符号化する（ステップＳ１０３）。また、インター予測制御部１０９は、予測動きベクトル候補から、誤差の最も小さい予測動きベクトルを用いて、動きベクトルの符号化を行う。例えば、予測動きベクトル候補と、動き検出により導出された動きベクトルとの差分値を誤差とし、最も誤差の小さい予測動きベクトル候補を、動きベクトルの符号化を行う際に用いると決定する。そして、インター予測制御部１０９は、選択した予測動きベクトル候補に対応する予測動きベクトルインデックスと、決定した予測動きベクトル候補の誤差情報とを可変長符号化するために、可変長符号化部１１４に出力する。次に、インター予測制御部１０９は、インター予測に用いた動きベクトル等を含むcolPic情報を、後述する方法で、colPicメモリ１１２に転送し、保存する（ステップＳ１０４）。colPicメモリ１１２には、符号化対象ブロックの時間予測動きベクトルを算出するための、参照ピクチャの動きベクトルや参照ピクチャのインデックス値、予測方向などが格納されている。

図４Ａは、予測動きベクトル候補の一例を示す図である。動きベクトルＡ（ＭＶ＿Ａ）は、符号化対象ブロックの左隣に位置する隣接ブロックＡの動きベクトルである。動きベクトルＢ（ＭＶ＿Ｂ）は、符号化対象ブロックの上隣に位置する隣接ブロックＢの動きベクトルである。動きベクトルＣ（ＭＶ＿Ｃ）は、符号化対象ブロックの右上隣に位置する隣接ブロックＣの動きベクトルである。また、Ｍｅｄｉａｎ（ＭＶ＿Ａ，ＭＶ＿Ｂ，ＭＶ＿Ｃ）は、動きベクトルＡ、Ｂ、Ｃの中間値を示している。ここで、中間値は、以下に示す（式１）〜（式３）により導出される。

図４Ｂは、予測動きベクトルインデックスの割り当て方の一例を示す図である。予測動きベクトルインデックスの値は、Ｍｅｄｉａｎ（ＭＶ＿Ａ，ＭＶ＿Ｂ、ＭＶ＿Ｃ）に対応する値を「０」とし、動きベクトルＡに対応する値を「１」とし、ＭＶ＿Ｂに対応する値を「２」とし、ＭＶ＿Ｃに対応する値を「３」とし、時間予測動きベクトルに対応する値を「４」としている。予測動きベクトルインデックスの割り当て方は、この例に限らない。

図５は、予測動きベクトルインデックスを可変長符号化する際に用いる、符号表の一例を示す図である。予測動きベクトルインデックスの値の小さい順に、符号長の短い符号を割り当てている。従って、予測精度が良い可能性の高い予測動きベクトル候補に対応する、予測動きベクトルインデックスの値を小さくすることにより、符号化効率を向上させることができる。

図６は、インター予測制御部１０９における、予測動きベクトル候補の決定フローを示すフローチャートである。

インター予測制御部１０９は、予測動きベクトル候補インデックスmvp_idx＝０、最小動きベクトル誤差＝∞とする（ステップＳ２０１）。インター予測制御部１０９は、予測動きベクトル候補インデックスmvp_idxが予測動きベクトル候補数より小さいか否かを判断する（ステップＳ２０２）。この判断の結果、予測動きベクトル候補インデックスmvp_idxが予測動きベクトル候補数より小さいと判断した場合（ステップＳ２０２でＹｅｓ）に、インター予測制御部１０９は、動きベクトル誤差を動き検出により導出した動きベクトルと予測動きベクトル候補との差により算出する（ステップＳ２０３）。次に、インター予測制御部１０９は、算出した動きベクトル誤差が最小動きベクトル誤差より小さいか否かを判断する（ステップＳ２０４）。この判断の結果、動きベクトル誤差が最小動きベクトル誤差より小さいと判断した場合（ステップＳ２０４でＹｅｓ）に、インター予測制御部１０９は、最小動きベクトル誤差を算出した動きベクトル誤差とし、予測動きベクトルインデックスを予測動きベクトル候補インデックスmvp_idxとする（ステップＳ２０５）。そしｔ、インター予測制御部１０９は、予測動きベクトル候補インデックスmvp_idxに「１」を加算し（ステップＳ２０６）、ステップＳ２０２の処理に戻る。ステップＳ２０２において、予測動きベクトル候補インデックスmvp_idxが予測動きベクトル候補数より小さくないと判断した場合（ステップＳ２０２でＮｏ）に、インター予測制御部１０９は、最小動きベクトル誤差と予測動きベクトルインデックスとを可変長符号化するために、可変長符号化部１１４に出力する（ステップＳ２０７）。以上のように図６に示すフローにより、動き検出により導出した動きベクトルとの誤差が最も小さい予測動きベクトル候補を、動きベクトルを符号化する際に用いると決定する。そして、決定した予測動きベクトル候補の誤差情報と、決定した予測動きベクトルを示す予測動きベクトルインデックスを可変長符号化するために、可変長符号化部１１４に出力する。

図７は、図２に示したcolPicメモリ１１２への読み書き処理を示す概念図である。図７において、co-locatedピクチャcolPicのco-locatedブロックの予測方向１の動きベクトルmvCol1および、予測方向２の動きベクトルmvCol2は、co-located単方向保存フラグに応じて、後述する方法でcolPicメモリに格納される。なお、本実施の形態では、予測方向１を前方参照とし、予測方向２を後方参照とする例を用いて説明するが、予測方向１を後方参照、予測方向２を前方参照、または、予測方向１および予測方向２がともに前方参照、または後方参照としても構わない。また、co-locatedブロックは、co-locatedピクチャcolPic内での位置が符号化対象ピクチャ内での符号化対象ブロックの位置に一致するブロックである。co-locatedピクチャcolPicが符号化対象ピクチャよりも後方であるか前方であるかは、co-located参照方向フラグによって切替えられる。その後、符号化対象ブロックが符号化される時に、colPicメモリに格納された動きベクトル等を含むcolPic情報がco-located単方向フラグに応じて読み出され、時間予測動きベクトルが算出される。算出された時間予測動きベクトルは、符号化対象ブロックの符号化に用いられる。

colPicメモリには、予測方向１領域と予測方向２領域があり、co-located単方向保存フラグに応じて、予測方向１の動きベクトル等を含むcolPic情報および、予測方向２の動きベクトル等を含むcolPic情報が、各領域に保存される。なお、本実施の形態ではcolPicメモリに予測方向１領域および予測方向２領域が存在するようにしたが、co-located単方向保存フラグが常にオンの場合には、予測方向１領域のみを用意することで、colPicメモリのメモリ量を削減することができる。

図８は、図３のステップＳ１０１の詳細な処理フローを示すフローチャートである。以下、図８について説明する。

co-located情報決定部１１３は、前方参照ブロック、または、後方参照ブロックのいずれをco-locatedブロックとするか決定する（ステップＳ３０１）。例えば、前方参照ブロックの属する前方参照ピクチャと、後方参照ブロックの属する後方参照ピクチャのうち、符号化対象ピクチャと表示順において距離が近い方をco-locatedブロックの参照方向として決定することなどが考えられる。そして、co-locatedブロックが前方参照ブロックであるか後方参照ブロックであるかを示すco-located参照方向フラグをピクチャ毎に生成し、ピクチャに付随させる。次に、co-located情報決定部１１３は、colPicメモリに格納する動きベクトル等のcolPic情報を、単方向のみにするか否かを決定する（ステップＳ３０２）。例えば、遅延を抑えるためにメモリバンド幅を抑える場合や、colPicメモリの容量を削減する場合などは、colPicメモリに格納する動きベクトル等のcolPic情報を単方向に制限することが考えられる。そして、colPicメモリに格納する動きベクトル等を含むcolPic情報を単方向に制限することを表すco-located単方向保存フラグを、ピクチャ毎に生成し、ピクチャに付随させる。

図９は、図３のステップＳ１０２の詳細な処理フローを示すフローチャートである。以下、図９について説明する。

時間予測動きベクトル算出部１１１は、co-located単方向保存フラグがオンであるか否かを判断する（ステップＳ４０１）。この判断の結果、co-located単方向保存フラグがオンであれば（ステップＳ４０１でＹｅｓ）、時間予測動きベクトル算出部１１１は、colPicメモリの予測方向１領域から、参照動きベクトル等を含むcolPic情報をリードする（ステップＳ４０２）。次に、時間予測動きベクトル算出部１１１は、coPicメモリからリードしたcolPic情報に含まれる参照動きベクトルがavailableであるか否かを判断する（ステップＳ４０３）。ここで、参照動きベクトルがavailableということは、時間予測動きベクトルを算出するための参照動きベクトルが存在することを表し、co-locatedブロックがイントラ符号化された場合などは、availableでないと判断される。ここで、参照動きベクトルがavailableであれば（ステップＳ４０３でＹｅｓ）、時間予測動きベクトル算出部１１１は、参照動きベクトルを用いて時間予測動きベクトルを算出する（ステップＳ４０４）。そして、時間予測動きベクトル算出部１１１は、算出した時間予測動きベクトルを予測動きベクトル候補に追加する（ステップＳ４０４）。一方、参照動きベクトルがavailableでない場合（ステップＳ４０３でＮｏ）は、時間予測動きベクトル算出部１１１は、時間予測動きベクトルを予測動きベクトル候補に追加しない、または、co-locatedブロックの時間予測動きベクトルを０として、予測動きベクトル候補に追加する（ステップＳ４１５）。

また、ステップＳ４０１の判断の結果、co-located単方向保存フラグがオフならば（ステップＳ４０１でＮｏ）、時間予測動きベクトル算出部１１１は、colPicメモリの予測方向１領域および予測方向２領域から、予測方向１の参照動きベクトル、予測方向２の参照動きベクトル等を含むcolPic情報をリードする（ステップＳ４０６）。次に、時間予測動きベクトル算出部１１１は、colPic情報に含まれるco-locatedブロックが、２つ以上の動きベクトルを有しているか否か、すなわち、少なくとも前方参照動きベクトル（ｍｖＬ０）と、後方参照動きベクトル（ｍｖＬ１）を有しているか否かを判断する（ステップＳ４０７）。この判断の結果、co-locatedブロックが、２つ以上の動きベクトルを有していると判断された場合（ステップＳ４０７でＹｅｓ）に、時間予測動きベクトル算出部１１１は、co-locatedブロックが、後方参照ブロックであるか否かを判断する（ステップＳ４０８）。ここで、co-locatedブロックが、後方参照ブロックであると判断された場合（ステップＳ４０８でＹｅｓ）に、時間予測動きベクトル算出部１１１は、co-locatedブロックの前方参照動きベクトルを用いて、時間予測動きベクトルモードにより、時間予測動きベクトルを導出する（ステップＳ４０９）。一方、co-locatedブロックが、前方参照ブロックであると判断された場合（ステップＳ４０８でＮｏ）に、時間予測動きベクトル算出部１１１は、co-locatedブロックの後方参照動きベクトルを用いて、時間予測動きベクトルモードにより、時間予測動きベクトルを導出する（ステップＳ４１０）。

また、ステップＳ４０７の判断の結果、co-locatedブロックが、前方参照動きベクトル、または、後方参照動きベクトルのいずれか一方のみを有していると判断された場合（ステップＳ４０７でＮｏ）に、時間予測動きベクトル算出部１１１は、co-locatedブロックが前方参照動きベクトルを有しているか否かを判断する（ステップＳ４１１）。ここで、co-locatedブロックが、前方参照動きベクトルを有していると判断された場合（ステップＳ４１１でＹｅｓ）に、時間予測動きベクトル算出部１１１は、co-locatedブロックの前方参照動きベクトルを用いて、符号化対象ブロックの時間予測動きベクトルを導出する（ステップＳ４１２）。一方、co-locatedブロックが、前方参照動きベクトルを有していないと判断された場合（ステップＳ４１１でＮｏ）に、時間予測動きベクトル算出部１１１は、co-locatedブロックが、後方参照動きベクトルを有しているか否かを判断する（ステップＳ４１３）。ここで、co-locatedブロックが、後方参照動きベクトルを有していると判断された場合（ステップＳ４１３でＹｅｓ）に、時間予測動きベクトル算出部１１１は、後方参照動きベクトルを用いて、符号化対象ブロックの時間予測動きベクトルを導出する（ステップＳ４１４）。一方、co-locatedブロックが、後方参照動きベクトルを有していないと判断された場合（ステップＳ４１３でＮｏ）には、時間予測動きベクトル算出部１１１は、時間予測動きベクトルを予測動きベクトル候補に追加しない、または、co-locatedブロックの時間予測動きベクトルを０として、予測動きベクトル候補に追加する（ステップＳ４１５）。

図９の処理フローでは、ステップＳ４１１において、co-locatedブロックが前方参照動きベクトルを有しているか否かについて判断し、ステップＳ４１３において、co-locatedブロックが後方参照動きベクトルを有しているか否かについて判断しているがこのフローに限らない。例えば、co-locatedブロックが後方参照動きベクトルを有しているか否かについて判断し、その後、co-locatedブロックが前方参照動きベクトルを有しているか否かについて判断してもよい。

次に、時間予測動きベクトルモードにより、時間予測動きベクトルを導出する方法について、詳細に説明する。

図１０Ａは、co-locatedブロックが後方参照ブロックであり、前方参照動きベクトルと、後方参照動きベクトルとを有する場合に、前方参照動きベクトルを用いて、時間予測動きベクトルモードにより、予測動きベクトル候補（時間予測動きベクトル）を導出する方法を示している。前方参照動きベクトルを用いて、以下の計算式により、予測動きベクトル候補(TemporalMV)を導出する。

TemporalMV＝ｍｖＬ０×（Ｂ２−Ｂ０）／（Ｂ４−Ｂ０）…（式４）

ここで、（Ｂ２−Ｂ０）は、ピクチャＢ２とピクチャＢ０の表示時間における時間差情報、（Ｂ４−Ｂ０）は、ピクチャＢ４とピクチャＢ０の表示時間における時間差情報を示す。

図１０Ｂは、後方参照動きベクトルを用いて、時間予測動きベクトルモードにより、予測動きベクトル候補（時間予測動きベクトル）を導出する方法を示している。後方参照動きベクトルを用いて、以下の計算式により、予測動きベクトル候補を導出する。

TemporalMV＝ｍｖＬ１×（Ｂ２−Ｂ０）／（Ｂ４−Ｂ８）…（式５）

図１１Ａは、co-locatedブロックが前方参照ブロックであり、前方参照動きベクトルと、後方参照動きベクトルとを有する場合に、後方参照動きベクトルを用いて、時間予測動きベクトルモードにより、予測動きベクトル候補（時間予測動きベクトル）を導出する方法を示している。後方参照動きベクトルを用いて、以下の計算式により、予測動きベクトル候補を導出する。

TemporalMV＝ｍｖＬ１×（Ｂ６−Ｂ８）／（Ｂ４−Ｂ８）…（式６）

図１１Ｂは、前方参照動きベクトルを用いて、時間予測動きベクトルモードにより、予測動きベクトル候補（時間予測動きベクトル）を導出する方法を示している。後方参照動きベクトルを用いて、以下の計算式により、予測動きベクトル候補を導出する。

TemporalMV＝ｍｖＬ０×（Ｂ６−Ｂ８）／（Ｂ４−Ｂ０）…（式７）

図１２は、図３のステップＳ１０４の詳細な処理フローを示すフローチャートである。以下、図１２について説明する。

インター予測制御部１０９は、co-located単方向保存フラグがオンであるか否かを判断する（ステップＳ５０１）。この判断の結果、co-located単方向保存フラグがオンであれば（ステップＳ５０１でＹｅｓ）、インター予測制御部１０９は、符号化対象ブロックのインター予測に用いた動きベクトルが、予測方向１の動きベクトルを含むか否かを判断する（ステップＳ５０２）。つまり、符号化対象ブロックを予測方向１または２方向予測でインター符号化したか否かを判断する。ここで、インター予測に用いた動きベクトルが予測方向１の動きベクトルを含むならば（ステップＳ５０２でＹｅｓ）、インター予測制御部１０９は、予測方向１の動きベクトル等を含む情報をcolPic情報として、colPicメモリの予測方向１領域に転送して保存する（ステップＳ５０３）。一方、インター予測に用いた動きベクトルが予測方向１の動きベクトルを含まない偽ならば（ステップＳ５０２でＮｏ）、インター予測制御部１０９は、符号化対象ブロックのインター予測に用いた動きベクトルが、予測方向２の動きベクトルを含むか否かを判断する（ステップＳ５０４）。つまり、符号化対象ブロックを予測方向２でインター符号化したか否かを判断する。この判断の結果、インター予測に用いた動きベクトルが、予測方向２の動きベクトルを含むならば（ステップＳ５０４でＹｅｓ）、インター予測制御部１０９は、予測方向２の動きベクトル等を含む情報をcolPic情報として、colPicメモリの予測方向１領域に転送して保存する（ステップＳ５０５）。一方、インター予測に用いた動きベクトルが、予測方向２の動きベクトルを含まないならば（ステップＳ５０４でＮｏ）、インター予測制御部１０９は、colPic情報をcolPicメモリに転送しない（ステップＳ５０６）。

また、ステップＳ５０１の判断の結果、co-located単方向保存フラグがオフならば（ステップＳ５０１でＮｏ）、インター予測制御部１０９は、予測方向１と予測方向２の動きベクトル等を含む情報をcolPic情報として、colPicメモリの予測方向１領域および予測方向２領域に転送し保存する（ステップＳ５０７）。つまり、co-located単方向保存フラグがオンの場合は、符号化対象ブロックの予測方向１もしくは予測方向２の動きベクトル等を含む情報を、colPicメモリの予測方向１領域に保持し、co-located単方向保存フラグがオフの場合は、予測方向１および予測方向２の動きベクトル等を含む情報を、colPicメモリの予測方向１領域および予測方向２領域に保持させる。

なお、本実施の形態では、図１２のステップＳ５０６において、colPic情報をcolPicメモリに転送しないとしたが、符号化対象ブロックの各予測方向の動きベクトルがavailableでないという情報を含むcolPic情報を転送するようにしても構わない。

このように、本発明は、時間予測動きベクトルモード時のメモリに保持する動きベクトル情報を、適切に制御する新たな判断基準を用いることにより、時間予測動きベクトルモードにおける必要メモリおよびバンド幅を削減することが可能になる。

より具体的には、co-located単方向保存フラグがオンの場合は、符号化対象ブロックの予測方向１もしくは予測方向２の動きベクトル等を含む情報を、colPicメモリの予測方向１領域に保持し、時間予測動きベクトルを求める際には、colPicメモリの予測方向１領域からcolPic情報をリードするように制御する。また、co-located単方向保存フラグがオフの場合は、予測方向１および予測方向２の動きベクトル等を含む情報を、colPicメモリの予測方向１領域および予測方向２領域に保持し、時間予測動きベクトルを求める際には、co-located参照方向フラグに応じて、符号化対象ブロックに最適な参照動きベクトルを選択することができるため、圧縮効率を向上させることが可能になる。特に、co-locatedブロックが前方参照ブロックである場合に、後方参照動きベクトルを用いることにより、予測誤差を小さくすることができる。後方参照動きベクトルは、co-locatedブロックを含むピクチャから、符号化対象ブロックを含むピクチャ方向の動きベクトルであり、最適な動きベクトルに近くなる確率が高くなるため、予測誤差が小さくなる。一方、前方参照動きベクトルは、co-locatedブロックを含むピクチャから、符号化対象ブロックを含むピクチャが位置する方向とは逆方向の動きベクトルであり、最適な動きベクトルに近くなる確率が低くなるため、予測誤差が大きくなる。また、co-locatedブロックが後方参照ブロックである場合も同様に、前方参照動きベクトルを用いることにより、最適な動きベクトルに近くなる確率が高くなるため、予測誤差を小さくすることができる。

なお、本実施の形態では、co-locatedブロックが２つ以上の動きベクトルを有している際に、co-locatedブロックが後方参照ブロックか、前方参照ブロックかで、符号化対象ブロックの時間予測動きベクトル算出に用いるco-locatedブロックの動きベクトルを切替えるようにしたが、co-locatedブロックを含むピクチャに時間的に近い参照ピクチャを参照する動きベクトル（時間的な距離が短い動きベクトル）を用いて、時間予測動きベクトルを算出するようにしても構わない。ここで、時間的な距離は、表示時間順で、co-locatedブロックを含むピクチャと、co-locatedブロックが参照する参照ピクチャとの間のピクチャ数に応じて決定するなどが考えられる。

また、本実施の形態では、co-locatedブロックが２つ以上の動きベクトルを有している際に、co-locatedブロックが後方参照ブロックか、前方参照ブロックかで、符号化対象ブロックの時間予測動きベクトル算出に用いるco-locatedブロックの動きベクトルを切替えるようにしたが、co-locatedブロックの２つの動きベクトルのうち、大きさが小さい動きベクトルを用いて時間予測動きベクトルを算出するようにしても構わない。ここで、動きベクトルの大きさとは、動きベクトルの絶対値などを意味する。

（実施の形態２）
図１３は、本発明に係る動画像復号化方法を用いた動画像復号化装置の一実施の形態の構成を示すブロック図である。

本実施の形態では、復号化対象ピクチャより、表示時間順で、前方に位置するピクチャに含まれるブロックを、前方参照ブロックと呼ぶ。また、復号化対象ピクチャより、表示時間順で、後方に位置するピクチャに含まれるブロックを、後方参照ブロックと呼ぶ。

動画像復号化装置２００は、図１３に示すように、可変長復号化部２０１、逆量子化部２０２、逆直交変換部２０３、ブロックメモリ２０４、フレームメモリ２０５、イントラ予測部２０６、インター予測部２０７、インター予測制御部２０８、時間予測動きベクトル算出部２０９、およびcolPicメモリ２１０を備えている。

可変長復号化部２０１は、入力されたビットストリームに対し、可変長復号化処理を行い、ピクチャタイプ情報、予測動きベクトルインデックス、co-located参照方向フラグ、co-located単方向保存フラグ、可変長復号化処理を行ったビットストリームを生成する。逆量子化部２０２は、可変長復号化処理を行ったビットストリームに対し、逆量子化処理を行う。逆直交変換部２０３は、逆量子化処理を行ったビットストリームを、周波数領域から、画像領域への変換し、予測誤差画像データとする。ブロックメモリ２０４は、予測誤差画像データと、予測画像データが加算されて生成された画像列を、ブロック単位で保存する。フレームメモリ２０５は、画像列を、フレーム単位で保存する。イントラ予測部２０６は、ブロックメモリ２０４に保存されているブロック単位の画像列を用いて、イントラ予測することにより、復号化対象ブロックの予測誤差画像データを生成する。インター予測部２０７は、フレームメモリ２０５に保存されているフレーム単位の画像列を用いて、インター予測することにより、復号化対象ブロックの予測誤差画像データを生成する。

時間予測動きベクトル算出部２０９は、colPicメモリ２１０に格納されているco-locatedブロックの動きベクトル等のcolPic情報を用いて、時間予測動きベクトルモードの予測動きベクトル候補（時間予測動きベクトル）を導出する。また、時間予測動きベクトル算出部２０９は、時間予測動きベクトルに対応する予測動きベクトルインデックスの値を割り当てる。そして、時間予測動きベクトル算出部２０９は、時間予測動きベクトルと、予測動きベクトルインデックスを、インター予測制御部２０８に送る。co-locatedブロックが動きベクトルを有していない場合には、時間予測動きベクトル算出部２０９は、時間予測動きベクトルモードによる動きベクトル導出を中止するか、または、動きベクトルを０として、予測動きベクトル候補（時間予測動きベクトル）を導出してもよい。

インター予測制御部２０８は、複数の予測動きベクトル候補から、予測動きベクトルインデックスに基づいて、インター予測の際に用いる動きベクトルを決定する。また、インター予測制御部２０８は、決定した予測動きベクトル候補のベクトルの値に、予測動きベクトル候補の誤差情報を加算することにより、インター予測の際に用いる動きベクトルとする。また、インター予測制御部２０８は、復号化対象ブロックの動きベクトル等を含むcolPic情報をcolPicメモリに転送する。

最後に、復号化した予測画像データと、予測誤差画像データとを加算することにより、復号画像列を生成する。

図１４は、本発明に係る動画像復号化方法の処理フローの概要を示すフローチャートである。

可変長復号化部２０１は、ピクチャ単位で、co-located参照方向フラグおよびco-located単方向保存フラグを復号化する（ステップＳ６０１）。次に、時間予測動きベクトル算出部２０９は、co-located参照方向フラグに基づいて、前方参照ブロックをco-locatedブロックとするか、後方参照ブロックをco-locatedブロックとするか決定する。そして、時間予測動きベクトル算出部２０９は、図９と同様の方法で、co-located情報に応じてcolPicメモリからco-locatedブロックの参照動きベクトル等を含むcolPic情報をリードし、co-locatedブロックの参照動きベクトルを用いて、時間予測動きベクトルモードにより、予測動きベクトル候補（時間予測動きベクトル）を導出する（ステップＳ６０２）。次に、インター予測制御部２０８は、複数の予測動きベクトル候補から、可変長復号化部２０１によって復号された予測動きベクトルインデックスに基づいて、インター予測の際に用いる予測動きベクトルを決定する（ステップＳ６０３）。また、インター予測制御部２０８は、決定した予測動きベクトルに、誤差情報を加算し、動きベクトルを導出する。そして、インター予測制御部２０８は、導出した動きベクトルを用いて、インター予測により復号化を行う。次に、インター予測制御部２０８は、図１２と同様な方法で、インター予測に用いた動きベクトル等を含むcolPic情報を、colPicメモリ２１０に転送し、保存する（ステップＳ６０４）。colPicメモリ２１０には、復号化対象ブロックの時間予測動きベクトルを算出するための、参照ピクチャの動きベクトルや参照ピクチャのインデックス値、予測方向などが格納されている。

なお、参照ブロックが２つ以上の参照動きベクトルを有している場合に、時間予測動きベクトル算出のための参照動きベクトルの選択方法はco-located参照方向フラグに基づく場合に限られない。例えば、参照動きベクトルの時間的な距離を算出し、時間的な距離が短い参照動きベクトルを用いてもよい。ここで、時間的な距離は、表示時間において、参照ブロックを含む参照ピクチャと、参照ピクチャが参照するピクチャとの間のピクチャ数に基づいて算出される。

また、例えば、参照動きベクトルの大きさを算出し、大きさが小さい参照動きベクトルを用いて導出した動きベクトルを時間予測動きベクトルとしてもよい。

このように、本発明は、時間予測動きベクトルモード時のメモリに保持する動きベクトル情報を、適切に制御する新たな判断基準を用いることにより、時間予測動きベクトルモードにおける必要メモリおよびバンド幅を削減したビットストリームを適切に復号することが可能になる。

より具体的には、復号したco-located単方向保存フラグがオンの場合は、復号化対象ブロックの予測方向１もしくは予測方向２の動きベクトル等を含む情報を、colPicメモリの予測方向１領域に保持し、時間予測動きベクトルを求める際には、colPicメモリの予測方向１領域からcolPic情報をリードするように制御する。また、co-located単方向保存フラグがオフの場合は、予測方向１および予測方向２の動きベクトル等を含む情報を、colPicメモリの予測方向１領域および予測方向２領域に保持し、時間予測動きベクトルを求める際には、co-located参照方向フラグに応じて、復号化対象ブロックに最適な参照動きベクトルを選択したビットストリームを適切に復号することが可能になる。

（実施の形態３）
上記各実施の形態で示した動画像符号化方法（画像符号化方法）または動画像復号化方法（画像復号方法）の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。

さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）や動画像復号化方法（画像復号方法）の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。

図１５は、コンテンツ配信サービスを実現するコンテンツ供給システムex１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex１０６、ex１０７、ex１０８、ex１０９、ex１１０が設置されている。

このコンテンツ供給システムex１００は、インターネットex１０１にインターネットサービスプロバイダex１０２および電話網ex１０４、および基地局ex１０６からex１１０を介して、コンピュータex１１１、ＰＤＡ（Personal Digital Assistant）ex１１２、カメラex１１３、携帯電話ex１１４、ゲーム機ex１１５などの各機器が接続される。

しかし、コンテンツ供給システムex１００は図１５のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ex１０６からex１１０を介さずに、各機器が電話網ex１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。

カメラex１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex１１４は、ＧＳＭ（登録商標：Global System for Mobile Communications）方式、ＣＤＭＡ（Code Division Multiple Access）方式、Ｗ−ＣＤＭＡ（Wideband-Code Division Multiple Access）方式、若しくはＬＴＥ（Long Term Evolution）方式、ＨＳＰＡ(High Speed Packet Access)の携帯電話機、またはＰＨＳ（Personal Handyphone System）等であり、いずれでも構わない。

コンテンツ供給システムex１００では、カメラex１１３等が基地局ex１０９、電話網ex１０４を通じてストリーミングサーバex１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い（即ち、本発明の画像符号化装置として機能する）、ストリーミングサーバex１０３に送信する。一方、ストリーミングサーバex１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex１１１、ＰＤＡex１１２、カメラex１１３、携帯電話ex１１４、ゲーム機ex１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する（即ち、本発明の画像復号装置として機能する）。

なお、撮影したデータの符号化処理はカメラex１１３で行っても、データの送信処理をするストリーミングサーバex１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバex１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラex１１３に限らず、カメラex１１６で撮影した静止画像および／または動画像データを、コンピュータex１１１を介してストリーミングサーバex１０３に送信してもよい。この場合の符号化処理はカメラex１１６、コンピュータex１１１、ストリーミングサーバex１０３のいずれで行ってもよいし、互いに分担して行ってもよい。

また、これら符号化・復号化処理は、一般的にコンピュータex１１１や各機器が有するＬＳＩex５００において処理する。ＬＳＩex５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータex１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ex１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex１１４が有するＬＳＩex５００で符号化処理されたデータである。

また、ストリーミングサーバex１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。

以上のようにして、コンテンツ供給システムex１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。

なお、コンテンツ供給システムex１００の例に限らず、図１６に示すように、デジタル放送用システムex２００にも、上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）または動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。具体的には、放送局ex２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ex２０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである（即ち、本発明の画像符号化装置によって符号化されたデータである）。これを受けた放送衛星ex２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナex２０４が受信する。受信した多重化データを、テレビ（受信機）ex３００またはセットトップボックス（ＳＴＢ）ex２１７等の装置が復号化して再生する（即ち、本発明の画像復号装置として機能する）。

また、ＤＶＤ、ＢＤ等の記録メディアex２１５に記録した多重化データを読み取り復号化する、または記録メディアex２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダex２１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex２１９に表示され、多重化データが記録された記録メディアex２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルex２０３または衛星／地上波放送のアンテナex２０４に接続されたセットトップボックスex２１７内に動画像復号化装置を実装し、これをテレビのモニタex２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。

図１７は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ（受信機）ex３００を示す図である。テレビex３００は、上記放送を受信するアンテナex２０４またはケーブルex２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナex３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ex３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ex３０６で符号化された映像データ、音声データを多重化する多重／分離部ex３０３を備える。

また、テレビex３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ex３０４、映像信号処理部ex３０５（本発明の画像符号化装置または画像復号装置として機能する）を有する信号処理部ex３０６と、復号化した音声信号を出力するスピーカex３０７、復号化した映像信号を表示するディスプレイ等の表示部ex３０８を有する出力部ex３０９とを有する。さらに、テレビex３００は、ユーザ操作の入力を受け付ける操作入力部ex３１２等を有するインタフェース部ex３１７を有する。さらに、テレビex３００は、各部を統括的に制御する制御部ex３１０、各部に電力を供給する電源回路部ex３１１を有する。インタフェース部ex３１７は、操作入力部ex３１２以外に、リーダ／レコーダex２１８等の外部機器と接続されるブリッジex３１３、ＳＤカード等の記録メディアex２１６を装着可能とするためのスロット部ex３１４、ハードディスク等の外部記録メディアと接続するためのドライバex３１５、電話網と接続するモデムex３１６等を有していてもよい。なお記録メディアex２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex３００の各部は同期バスを介して互いに接続されている。

まず、テレビex３００がアンテナex２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビex３００は、リモートコントローラex２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ex３１０の制御に基づいて、変調／復調部ex３０２で復調した多重化データを多重／分離部ex３０３で分離する。さらにテレビex３００は、分離した音声データを音声信号処理部ex３０４で復号化し、分離した映像データを映像信号処理部ex３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ex３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex３１８、ex３１９等に一旦これらの信号を蓄積するとよい。また、テレビex３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアex２１５、ex２１６から多重化データを読み出してもよい。次に、テレビex３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビex３００は、リモートコントローラex２２０等からのユーザ操作を受け、制御部ex３１０の制御に基づいて、音声信号処理部ex３０４で音声信号を符号化し、映像信号処理部ex３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ex３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex３２０、ex３２１等に一旦これらの信号を蓄積するとよい。なお、バッファex３１８、ex３１９、ex３２０、ex３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ex３０２や多重／分離部ex３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。

また、テレビex３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。

また、リーダ／レコーダex２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビex３００、リーダ／レコーダex２１８のいずれで行ってもよいし、テレビex３００とリーダ／レコーダex２１８が互いに分担して行ってもよい。

一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ex４００の構成を図１８に示す。情報再生／記録部ex４００は、以下に説明する要素ex４０１、ex４０２、ex４０３、ex４０４、ex４０５、ex４０６、ex４０７を備える。光ヘッドex４０１は、光ディスクである記録メディアex２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアex２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ex４０２は、光ヘッドex４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex４０３は、光ヘッドex４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex４０４は、記録メディアex２１５に記録するための情報および記録メディアex２１５から再生した情報を一時的に保持する。ディスクモータex４０５は記録メディアex２１５を回転させる。サーボ制御部ex４０６は、ディスクモータex４０５の回転駆動を制御しながら光ヘッドex４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex４０７は、情報再生／記録部ex４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ex４０７が、バッファex４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ex４０２、再生復調部ex４０３、サーボ制御部ex４０６を協調動作させながら、光ヘッドex４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ex４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。

以上では、光ヘッドex４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。

図１９に光ディスクである記録メディアex２１５の模式図を示す。記録メディアex２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックex２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックex２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex２１５は、データ記録領域ex２３３、内周領域ex２３２、外周領域ex２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex２３３であり、データ記録領域ex２３３より内周または外周に配置されている内周領域ex２３２と外周領域ex２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ex４００は、このような記録メディアex２１５のデータ記録領域ex２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。

以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。

また、デジタル放送用システムex２００において、アンテナex２０５を有する車ex２１０で衛星ex２０２等からデータを受信し、車ex２１０が有するカーナビゲーションex２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex２１１の構成は例えば図１７に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータex１１１や携帯電話ex１１４等でも考えられる。

図２０Ａは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ex１１４を示す図である。携帯電話ex１１４は、基地局ex１１０との間で電波を送受信するためのアンテナex３５０、映像、静止画を撮ることが可能なカメラ部ex３６５、カメラ部ex３６５で撮像した映像、アンテナex３５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex３５８を備える。携帯電話ex１１４は、さらに、操作キー部ex３６６を有する本体部、音声を出力するためのスピーカ等である音声出力部ex３５７、音声を入力するためのマイク等である音声入力部ex３５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ex３６７、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ex３６４を備える。

さらに、携帯電話ex１１４の構成例について、図２０Ｂを用いて説明する。携帯電話ex１１４は、表示部ex３５８及び操作キー部ex３６６を備えた本体部の各部を統括的に制御する主制御部ex３６０に対して、電源回路部ex３６１、操作入力制御部ex３６２、映像信号処理部ex３５５、カメラインタフェース部ex３６３、ＬＣＤ（Liquid Crystal Display）制御部ex３５９、変調／復調部ex３５２、多重／分離部ex３５３、音声信号処理部ex３５４、スロット部ex３６４、メモリ部ex３６７がバスex３７０を介して互いに接続されている。

電源回路部ex３６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ex１１４を動作可能な状態に起動する。

携帯電話ex１１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ex３６０の制御に基づいて、音声通話モード時に音声入力部ex３５６で収音した音声信号を音声信号処理部ex３５４でデジタル音声信号に変換し、これを変調／復調部ex３５２でスペクトラム拡散処理し、送信／受信部ex３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex３５０を介して送信する。また携帯電話ex１１４は、音声通話モード時にアンテナex３５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ex３５２でスペクトラム逆拡散処理し、音声信号処理部ex３５４でアナログ音声信号に変換した後、これを音声出力部ex３５７から出力する。

さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ex３６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ex３６２を介して主制御部ex３６０に送出される。主制御部ex３６０は、テキストデータを変調／復調部ex３５２でスペクトラム拡散処理をし、送信／受信部ex３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex３５０を介して基地局ex１１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ex３５８に出力される。

データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ex３５５は、カメラ部ex３６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し（即ち、本発明の画像符号化装置として機能する）、符号化された映像データを多重／分離部ex３５３に送出する。また、音声信号処理部ex３５４は、映像、静止画等をカメラ部ex３６５で撮像中に音声入力部ex３５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ex３５３に送出する。

多重／分離部ex３５３は、映像信号処理部ex３５５から供給された符号化された映像データと音声信号処理部ex３５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ex３５２でスペクトラム拡散処理をし、送信／受信部ex３５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex３５０を介して送信する。

データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナex３５０を介して受信された多重化データを復号化するために、多重／分離部ex３５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスex３７０を介して符号化された映像データを映像信号処理部ex３５５に供給するとともに、符号化された音声データを音声信号処理部ex３５４に供給する。映像信号処理部ex３５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し（即ち、本発明の画像復号装置として機能する）、ＬＣＤ制御部ex３５９を介して表示部ex３５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ex３５４は、音声信号を復号し、音声出力部ex３５７から音声が出力される。

また、上記携帯電話ex１１４等の端末は、テレビex３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムex２００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。

このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。

また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。

（実施の形態４）
上記各実施の形態で示した動画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。

ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。

この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。

図２１は、多重化データの構成を示す図である。図２１に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラフィックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ Ｄｉｇｉｔａｌ Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。

多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。

図２２は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームex２３５、複数のオーディオフレームからなるオーディオストリームex２３８を、それぞれＰＥＳパケット列ex２３６およびex２３９に変換し、ＴＳパケットex２３７およびex２４０に変換する。同じくプレゼンテーショングラフィックスストリームex２４１およびインタラクティブグラフィックスex２４４のデータをそれぞれＰＥＳパケット列ex２４２およびex２４５に変換し、さらにＴＳパケットex２４３およびex２４６に変換する。多重化データex２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。

図２３は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図２３における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図２３の矢印ｙｙ１，ｙｙ２， ｙｙ３， ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ Ｐｒｅｓｅｎｔａｔｉｏｎ ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。

図２４は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図２４下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。

また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ Ａｓｓｏｃｉａｔｉｏｎ Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ Ｍａｐ Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ Ｃｌｏｃｋ Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ Ｔｉｍｅ Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ Ｔｉｍｅ Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。

図２５はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。

記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。

多重化データ情報ファイルは、図２６に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。

多重化データ情報は図２６に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。

ストリーム属性情報は図２７に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。

本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。

また、本実施の形態における動画像復号化方法のステップを図２８に示す。ステップexＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップexＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップexＳ１０２において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップexＳ１０３において、従来の規格に準拠した動画像復号方法により復号を行う。

このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。

（実施の形態５）
上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図２９に１チップ化されたＬＳＩex５００の構成を示す。ＬＳＩex５００は、以下に説明する要素ex５０１、ex５０２、ex５０３、ex５０４、ex５０５、ex５０６、ex５０７、ex５０８、ex５０９を備え、各要素はバスex５１０を介して接続している。電源回路部ex５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。

例えば符号化処理を行う場合には、ＬＳＩex５００は、ＣＰＵex５０２、メモリコントローラex５０３、ストリームコントローラex５０４、駆動周波数制御部ex５１２等を有する制御部ex５０１の制御に基づいて、ＡＶ Ｉ／Ｏex５０９によりマイクex１１７やカメラex１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリex５１１に蓄積される。制御部ex５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ex５０７に送られ、信号処理部ex５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ex５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏex５０６から外部に出力する。この出力された多重化データは、基地局ex１０７に向けて送信されたり、または記録メディアex２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex５０８にデータを蓄積するとよい。

なお、上記では、メモリex５１１がＬＳＩex５００の外部の構成として説明したが、ＬＳＩex５００の内部に含まれる構成であってもよい。バッファex５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩex５００は１チップ化されてもよいし、複数チップ化されてもよい。

また、上記では、制御部ex５０１が、ＣＰＵex５０２、メモリコントローラex５０３、ストリームコントローラex５０４、駆動周波数制御部ex５１２等を有するとしているが、制御部ex５０１の構成は、この構成に限らない。例えば、信号処理部ex５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ex５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵex５０２が信号処理部ex５０７、または信号処理部ex５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ex５０１は、信号処理部ex５０７、またはその一部を有するＣＰＵex５０２を備える構成となる。

なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。

また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Field Programmable Gate Array）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。

さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。

（実施の形態６）
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩex５００において、従来の規格に準拠する映像データを復号する際のＣＰＵex５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。

この課題を解決するために、テレビex３００、ＬＳＩex５００などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図３０は、本実施の形態における構成ex８００を示している。駆動周波数切替え部ex８０３は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ex８０２に対し、映像データを復号するよう指示する。

より具体的には、駆動周波数切替え部ex８０３は、図２９のＣＰＵex５０２と駆動周波数制御部ex５１２から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex８０１、および、従来の規格に準拠する復号処理部ex８０２は、図２９の信号処理部ex５０７に該当する。ＣＰＵex５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵex５０２からの信号に基づいて、駆動周波数制御部ex５１２は、駆動周波数を設定する。また、ＣＰＵex５０２からの信号に基づいて、信号処理部ex５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態４で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態４で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵex５０２における駆動周波数の選択は、例えば、図３２のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファex５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵex５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。

図３１は、本実施の形態の方法を実施するステップを示している。まず、ステップexＳ２００では、信号処理部ex５０７において、多重化データから識別情報を取得する。次に、ステップexＳ２０１では、ＣＰＵex５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップexＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵex５０２が駆動周波数制御部ex５１２に送る。そして、駆動周波数制御部ex５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップexＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵex５０２が駆動周波数制御部ex５１２に送る。そして、駆動周波数制御部ex５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。

さらに、駆動周波数の切替えに連動して、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を低く設定することが考えられる。

また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。

さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵex５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵex５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵex５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。

このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩex５００またはＬＳＩex５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。

（実施の形態７）
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩex５００の信号処理部ex５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ex５０７を個別に用いると、ＬＳＩex５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。

この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図３３Ａのex９００に示す。例えば、上記各実施の形態で示した動画像復号方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ex９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明特有の他の処理内容については、専用の復号処理部ex９０１を用いるという構成が考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。

また、処理を一部共有化する他の例を図３３Ｂのex１０００に示す。この例では、本発明に特有の処理内容に対応した専用の復号処理部ex１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ex１００２と、本発明の動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ex１００３とを用いる構成としている。ここで、専用の復号処理部ex１００１、ex１００２は、必ずしも本発明、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩex５００で実装することも可能である。

このように、本発明の動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。

本発明に係る動画像符号化方法および動画像復号化方法は、あらゆるマルチメディアデータに適用することができ、圧縮率を向上させることが可能であり、例えば携帯電話、ＤＶＤ装置、およびパーソナルコンピュータ等を用いた蓄積、伝送、通信等における動画像符号化方法および動画像復号化方法として有用である。

１００ 動画像符号化装置
１０１ 直交変換部
１０２ 量子化部
１０３ 逆量子化部
１０４ 逆直交変換部
１０５ ブロックメモリ
１０６ フレームメモリ
１０７ イントラ予測部
１０８ インター予測部
１０９ インター予測制御部
１１０ ピクチャタイプ決定部
１１１ 時間予測動きベクトル算出部
１１２ colPicメモリ
１１３ co-located情報決定部
１１４ 可変長符号化部
２００ 動画像復号化装置
２０１ 可変長復号化部
２０２ 逆量子化部
２０３ 逆直交変換部
２０４ ブロックメモリ
２０５ フレームメモリ
２０６ イントラ予測部
２０７ インター予測部
２０８ インター予測制御部
２０９ 時間予測動きベクトル算出部
２１０ colPicメモリ

Claims (2)

1. 復号化対象ブロックを含む復号化対象フレームとは異なる参照フレームに含まれる参照ブロックの参照動きベクトルを用いて前記復号化対象ブロックを復号化する動画像復号化方法であって、
   前記参照ブロックが有する２つの前記参照動きベクトルのうち１つの前記参照動きベクトルのみを参照するか否かを示す情報を取得し、
   前記情報が１つの前記参照動きベクトルのみを参照することを示す場合、前記２つの参照動きベクトルのうち１つだけを含む参照ブロック情報を用いて前記復号化対象ブロックの動きベクトルの復号化を行う、
   動画像復号化方法。
2. 復号化対象ブロックを含む復号化対象フレームとは異なる参照フレームに含まれる参照ブロックの参照動きベクトルを用いて前記復号化対象ブロックを復号化する動画像復号化装置であって、
   前記参照ブロックが有する２つの前記参照動きベクトルのうち１つの前記参照動きベクトルのみを参照するか否かを示す情報を取得し、
   前記情報が１つの前記参照動きベクトルのみを参照することを示す場合、前記２つの参照動きベクトルのうち１つだけを含む参照ブロック情報を用いて前記復号化対象ブロックの動きベクトルの復号化を行う復号部を備える、
   動画像復号化装置。

Images