JP2014519211A - 色平面内予測を用いて映像を符号化および復号する方法および装置 - Google Patents

Abstract

最近の映像符号化方式は、符号化効率を高め、視覚的品質を改善するために色平面間予測に対応している。先行技術における色平面間予測方式は、実際に使われている様々な映像コンテンツの表現に対応していない。本発明は、様々な既存の映像コンテンツの表現に適応可能な色平面間予測を実行する方法および装置を提供する。本発明は、色平面間予測技術の適用性および符号化効率を改善するという点で有益である。

Description

本発明は、あらゆるマルチメディアデータ符号化に用いることができ、特に、複数の色平面を有する画像および映像コンテンツの符号化に用いることができる。

ＭＰＥＧ−４ ＡＶＣ／Ｈ．２６４や、次世代のＨＥＶＣ（Ｈｉｇｈ−Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）等の最新の映像符号化方式は、複数の色平面／成分を有する画像および映像コンテンツの符号に対応している。そのような映像コンテンツの一例は、４：２：０色差フォーマット（色平面フォーマット）を有するＹＵＶ色空間内の映像データである。ＹＵＶ色空間は、輝度平面１つ（Ｙ）と色差平面２つ（ＵおよびＶ）を含み、４：２：０色差フォーマットは、２つの色差平面の解像度が、水平方向および垂直方向ともに、輝度平面の解像度の半分であることを示す。通常用いられる色平面フォーマットのいくつかの例を図１に示す。

１つの画像の異なる色平面は、（図２に示されるような）整列された位置において、しばしば、ある程度相関または類似した物体形状および特徴を含む。そのような相関を利用することで、第２の色平面（例えばＵ平面）のサンプルが第１色平面（例えばＹ平面）の再構築済みサンプルから予測される、色平面間予測が実行できる。符号化処理中および復号処理中の両方において、第２色平面の整列された位置にある第２ブロックの予測処理の前に、第１色平面の第１ブロックが再構築されるので、第２ブロックに用いられる複数の予測サンプルの生成に、第１ブロックの再構築サンプルを利用できる。色平面間予測は、ＨＥＶＣ映像符号化方式のＷｏｒｋｉｎｇ Ｄｒａｆｔ ３が対応している。

従来技術の色平面間予測の課題は、図３（ａ）に示される色平面サンプリング位置を有する４：２：０色差フォーマット以外の画像／映像コンテンツの表現に対応していない点である。色平面サンプリング位置は、他の高解像度色平面と比較して低解像度の色平面の画像サンプルの位置を示す。多くの色平面サンプリング位置が、図３の例に示されるように、１つの映像内に用いられてもよい。

また、先行技術は、画像サンプルの行が１つおきに、トップフィールドとボトムフィールドとして別々に符号化される、フィールド符号化に対応していない。フィールド符号化が用いられる場合、トップフィールドとボトムフィールドにおける色サンプリング位置は、図４の例に示されるように、フレーム符号化が用いられる場合と異なる。

上記課題を解決するため、本発明において、様々な色平面フォーマット、色平面サンプリング位置、およびフィールド符号化タイプに適応した色平面間予測を実行する新たな方法および装置を提案する。

本発明の新規な点は、色平面間予測を、既存の様々な画像／映像コンテンツの表現に適応させる手段を提供することで、色平面間予測技術の適応性を拡張することである。

本発明の効果は、様々な画像／映像コンテンツの表現に色平面間予測を適応させることである。よって、色平面間予測技術の適応性および符号化効率が改善する。

図１は、既存の様々な画像／映像コンテンツの表現における色平面フォーマットの例を示す図である。 図２は、画像／映像コンテンツの表現を構成する各色平面に対応する、複数の画像サンプルからなる整列された位置にあるブロックのセットの例を示す図である。 図３は、４：２：０色平面フォーマットに用いられる２つの異なる色平面サンプリング位置の例を示す図である。 図４は、４：２：０色平面フォーマットに用いられる、トップフィールドおよびボトムフィールドのピクチャにおける異なる色平面サンプリング位置の例を示す図である。 図５は、本発明の実施の形態１に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図６は、本発明の実施の形態１に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図７は、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて第２色平面の複数の予測サンプルからなるブロックを生成する色平面間予測処理を示すフローチャートである。 図８は、本発明の実施の形態２に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図９は、本発明の実施の形態２に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図１０は、本発明の実施の形態３に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図１１は、本発明の実施の形態３に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図１２は、本発明の実施の形態４に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図１３は、本発明の実施の形態４に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図１４は、本発明の実施の形態５に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図１５は、本発明の実施の形態５に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図１６は、本発明の実施の形態６に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図１７は、本発明の実施の形態６に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図１８は、本発明の実施の形態７に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図１９は、本発明の実施の形態７に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。 図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。 図２２Ａは、本発明の実施の形態１に係る、符号化映像ビットストリームのヘッダにおける色平面フォーマットを示すパラメータの位置を示す図である。 図２２Ｂは、本発明の実施の形態１に係る、符号化映像ビットストリームのヘッダにおける色平面フォーマットを示すパラメータの位置を示す図である。 図２２Ｃは、本発明の実施の形態１に係る、符号化映像ビットストリームのヘッダにおける色平面フォーマットを示すパラメータの位置を示す図である。 図２２Ｄは、本発明の実施の形態１に係る、符号化映像ビットストリームのヘッダにおける色平面フォーマットを示すパラメータの位置を示す図である。 図２３Ａは、本発明の実施の形態２に係る、符号化映像ビットストリームのヘッダにおける色平面サンプリング位置を示すパラメータの位置を示す図である。 図２３Ｂは、本発明の実施の形態２に係る、符号化映像ビットストリームのヘッダにおける色平面サンプリング位置を示すパラメータの位置を示す図である。 図２３Ｃは、本発明の実施の形態２に係る、符号化映像ビットストリームのヘッダにおける色平面サンプリング位置を示すパラメータの位置を示す図である。 図２３Ｄは、本発明の実施の形態２に係る、符号化映像ビットストリームのヘッダにおける色平面サンプリング位置を示すパラメータの位置を示す図である。 図２４Ａは、本発明の実施の形態３に係る、符号化映像ビットストリームのヘッダにおけるフィールド符号化タイプを示すパラメータの位置を示す図である。 図２４Ｂは、本発明の実施の形態３に係る、符号化映像ビットストリームのヘッダにおけるフィールド符号化タイプを示すパラメータの位置を示す図である。 図２４Ｃは、本発明の実施の形態３に係る、符号化映像ビットストリームのヘッダにおけるフィールド符号化タイプを示すパラメータの位置を示す図である。 図２４Ｄは、本発明の実施の形態３に係る、符号化映像ビットストリームのヘッダにおけるフィールド符号化タイプを示すパラメータの位置を示す図である。 図２５Ａは、本発明の実施の形態４に係る、符号化映像ビットストリームのヘッダにおける、色平面間予測が有効か否かを示すパラメータの位置を示す図である。 図２５Ｂは、本発明の実施の形態４に係る、符号化映像ビットストリームのヘッダにおける、色平面間予測が有効か否かを示すパラメータの位置を示す図である。 図２５Ｃは、本発明の実施の形態４に係る、符号化映像ビットストリームのヘッダにおける、色平面間予測が有効か否かを示すパラメータの位置を示す図である。 図２５Ｄは、本発明の実施の形態４に係る、符号化映像ビットストリームのヘッダにおける、色平面間予測が有効か否かを示すパラメータの位置を示す図である。 図２６Ａは、本発明の実施の形態４に係る、符号化映像ビットストリームにおける予測モードを示すパラメータの位置を示す図である。 図２６Ｂは、本発明の実施の形態４に係る、符号化映像ビットストリームにおける予測モードを示すパラメータの位置を示す図である。 図２７Ａは、本発明の実施の形態５に係る、符号化映像ビットストリームのヘッダにおける色平面間予測方向を示すパラメータの位置を示す図である。 図２７Ｂは、本発明の実施の形態５に係る、符号化映像ビットストリームのヘッダにおける色平面間予測方向を示すパラメータの位置を示す図である。 図２７Ｃは、本発明の実施の形態５に係る、符号化映像ビットストリームのヘッダにおける色平面間予測方向を示すパラメータの位置を示す図である。 図２７Ｄは、本発明の実施の形態５に係る、符号化映像ビットストリームのヘッダにおける色平面間予測方向を示すパラメータの位置を示す図である。 図２８Ａは、本発明の実施の形態７に係る、符号化映像ビットストリームのヘッダにおける第３色平面予測モードを示すパラメータの位置を示す図である。 図２８Ｂは、本発明の実施の形態７に係る、符号化映像ビットストリームのヘッダにおける第３色平面予測モードを示すパラメータの位置を示す図である。 図２８Ｃは、本発明の実施の形態７に係る、符号化映像ビットストリームのヘッダにおける第３色平面予測モードを示すパラメータの位置を示す図である。 図２８Ｄは、本発明の実施の形態７に係る、符号化映像ビットストリームのヘッダにおける第３色平面予測モードを示すパラメータの位置を示す図である。 図２９は、本発明の実施の形態８に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図３０は、本発明の実施の形態８に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図３１は、本発明の実施の形態９に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。 図３２は、本発明の実施の形態９に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。 図３３は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。 図３４は、デジタル放送用システムの全体構成図である。 図３５は、テレビの構成例を示すブロック図である。 図３６は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。 図３７は、光ディスクである記録メディアの構造例を示す図である。 図３８Ａは、携帯電話の一例を示す図である。 図３８Ｂは、携帯電話の構成例を示すブロック図である。 図３９は、多重化データの構成を示す図である。 図４０は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。 図４１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。 図４２は、多重化データにおけるＴＳパケットとソースパケットの構造を示す図である。 図４３は、ＰＭＴのデータ構成を示す図である。 図４４は、多重化データ情報の内部構成を示す図である。 図４５は、ストリーム属性情報の内部構成を示す図である。 図４６は、映像データを識別するステップを示す図である。 図４７は、各実施の形態の動画像符号化方法および動画像復号化方法を実現する集積回路の構成例を示すブロック図である。 図４８は、駆動周波数を切り替える構成を示す図である。 図４９は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。 図５０は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。 図５１Ａは、信号処理部のモジュールを共有化する構成の一例を示す図である。 図５１Ｂは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。

以下は、本発明の実施の形態の説明である。当業者には明らかな通り、様々な画像／映像コンテンツの表現に対する色平面間予測の適応性をさらに増すために、複数の実施の形態を組み合わせることができる。

（実施の形態１）
図５は、本発明の実施の形態１に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール５００において色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む。そしてモジュール５０２において、色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する。次に、モジュール５０４において、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める。次にモジュール５０６において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックが、再構築される。そしてモジュール５０８において、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて、色平面間予測処理を実行する。色平面間予測処理を実行する際に、モジュール５０８は、第２色平面の複数の予測サンプルからなるブロックを生成する。次に、モジュール５１０において、第２色平面の複数の元のサンプルからなる第２ブロックから第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する。この符号化処理において、複数の元のサンプルからなる第１ブロックと第２ブロックとは整列された位置にある。最後に、モジュール５１２において、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

図７は、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて第２色平面の複数の予測サンプルからなるブロックを生成する色平面間予測処理を示すフローチャートである。

まず、モジュール７００において、再スケーリング方式にしたがって、第１色平面の複数の再構築サンプルからなるブロックに対応する第１色平面の近隣再構築サンプルを再スケーリングする。モジュール７００は、第１色平面の、再スケーリング済み近隣再構築サンプルを生成する。近隣再構築サンプルとは、画像サンプルからなる対象ブロックの符号化処理前に生成され、対象ブロックに隣接した再構築サンプルを指す。近隣再構築サンプルは、例えば、対象ブロックの左に位置する２列の再構築サンプルと、対象ブロックの上に位置する２行の再構築サンプルである。

再スケーリング方式は、予め定められた補間、および画像サンプルからなる入力ブロックのアップスケール／ダウンスケールを実行する。図３（ａ）の例に示される色平面サンプリング位置に関し、例示的な予め定められた再スケーリング方式によって、サンプルＡおよびＢを補間することで、サンプルｐを生成する。同様に、図３（ｂ）の例に示される色平面サンプリング位置に関し、別の例示的な予め定められた再スケーリング方式によって、サンプルＣ、Ｄ、Ｅ、およびＦを補間することで、サンプルｑを生成する。図４の例に示されるさらに別の色平面サンプリング位置において、さらに別の例示的な予め定められた再スケーリング方式によって、サンプルＧおよびＨを補間することで、サンプルｒを生成する。

次に、モジュール７０２において、第１色平面の再スケーリング済み近隣再構築サンプルと、第２色平面の近隣再構築サンプルとの間のマッピングパラメータを算出する。この処理において、第１色平面の近隣再構築サンプルと、第２色平面の近隣再構築サンプルは整列された位置にある。マッピングパラメータが、第１セットの値を第２セットの値にマッピングする予め定められたマッピング方式を制御する。マッピング方式の一例は、直線関係ｙ＝ａ．ｘ＋ｂにしたがって、値ｘから値ｙにマッピングすることである。この例において、定数ａおよびｂがマッピングパラメータのセットを構成する。

次に、モジュール７０４において、予め定められた再スケーリング方式にしたがって、第１色平面の複数の再構築サンプルからなるブロックを再スケーリングし、第１色平面の再スケーリング済み複数の再構築サンプルからなるブロックを生成する。最後に、モジュール７０６において、マッピングパラメータを用いて予め定められたマッピング方式にしたがって、再スケーリング済み複数の再構築サンプルからなるブロック内の全てのサンプル値を、対応する予測サンプル値にマッピングする。モジュール７０６において、色平面間予測処理の最終的な出力を構成する第２色平面の複数の予測サンプルからなるブロックを生成する。

図６は、本発明の実施の形態１に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。まず、モジュール６００において色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダから解読する。そしてモジュール６０２において、色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する。次に、モジュール６０４において、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する。次にモジュール６０６において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックが、再構築される。そしてモジュール６０８において、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなる第１ブロックを用いて色平面間予測処理を実行することにより、第２色平面の複数の予測サンプルからなるブロックを生成する。次に、モジュール６１０において、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する。この復号処理において、複数の残差サンプルからなる第１ブロックと第２ブロックは整列された位置にある。最後に、モジュール６１２において、再構築処理を実行することで第２色平面の複数の再構築サンプルからなる第２ブロックを生成する。再構築処理は、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合算することを含む。

符号化処理（図５）および復号処理（図６）は両方、上述のような図７の色平面間予測処理を、全く同じ方法で実行する。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。当該装置は、動き予測部２０００、動き補償部２００２、イントラ予測部２００４、スイッチ部２００６、減算部２００８、変換部２０１０、量子化部２０１２、エントロピー符号化部２０１４、逆量子化部２０１６、逆変換部２０１８、合算部２０２０、フィルタ部２０２２、イントラ予測メモリ部２０２４、およびピクチャメモリ部２０２６を備える。

同図に示されるように、動き予測部２０００は、画像／映像コンテンツの表現を構成する各色平面に対応する、複数の元のサンプルＤ２００３からなる整列された位置にあるブロックのセットを、参照ピクチャＤ２０３１と共に読み出し、その後、動きベクトルＤ２００５のセットを出力する。複数の元のサンプルからなる整列された位置にあるブロックのセットは、例えば、Ｙ、Ｕ、およびＶ平面の複数の元のサンプルからなる整列された位置にある３つのブロックである。本発明で可能なエンコーダの実装において、動き予測部２０００が、動きベクトルＤ２００５のセットを決定するために、１つの予め定められた色平面（例えば、Ｙ色平面）の元のサンプルを用いる。次に、動き補償部２００２が、動きベクトルＤ２００５と参照ピクチャＤ２０３１のセットを読み出し、インター予測サンプルＤ２００７からなる整列された位置にあるブロックのセットを生成する。

イントラ予測部２００４は、元のサンプルＤ２００３からなる整列された位置にある複数のブロック、元のサンプルＤ２００３からなるブロックに隣接する対象画像の再構築済みサンプルＤ２０２７、および色平面間制御パラメータＤ２００１を読み出す。これらの入力を用いて、イントラ予測部２００４がイントラ予測処理を実行し、イントラ予測サンプルＤ２００９からなる整列された位置にあるブロックのセットを生成する。

スイッチ部２００６は、予め定められた決定方式にしたがって、インター予測サンプルＤ２００７またはイントラ予測サンプルＤ２００９の何れかを予測サンプルＤ２０１１として出力する。その後、減算部２００８が、元のサンプルＤ２００３から予測サンプルＤ２０１１を減算し、残差サンプルＤ２０１３を生成する。変換部２０１０が予め定められた変換方式を実行し、量子化部２０１２が予め定められた量子化方式を実行する。生成された量子化変換残差データＤ２０１７がエントロピー符号化部２０１４によって符号化されて符号化映像ビットストリームＤ２０１９に含められる。また、エントロピー符号化部２０１４は、色平面間予測制御パラメータＤ２００１も符号化して圧縮映像ビットストリームＤ２０１９のヘッダに含める。

量子化変換残差データＤ２０１７は、逆量子化部２０１６および逆変換部２０１８によって逆量子化および逆変換され、差分サンプルＤ２０２３となる。合算部２０２０が、予測サンプルＤ２０１１と差分サンプルＤ２０２３とを合算し、再構築サンプルＤ２０２５を生成する。対象画像の再構築サンプルＤ２０２５が、対象画像内で複数の画像サンプルからなる後続ブロックの符号化処理に用いるために、イントラ予測メモリ部２０２４に格納される。再構築サンプルＤ２０２５がフィルタ部２０２２でフィルタリングされ、フィルタリング済みサンプルＤ２０２９がピクチャメモリ部２０２６に格納される。

図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。当該装置は、エントロピー復号部２１００、逆量子化部２１０２、逆変換部２１０４、動き補償部２１０６、イントラ予測部２１０８、スイッチ部２１１０、合算部２１１２、フィルタ部２１１４、イントラ予測メモリ部２１１６、およびピクチャメモリ部２１１８を備える。

同図に示すように、エントロピー復号部２１００が符号化映像ビットストリームＤ２１０１から残差データＤ２１０３を復号する。残差データは、逆量子化部２１０２および逆変換部２１０４によって逆量子化および逆変換され、残差サンプルＤ２１１１となる。

動き補償部２１０６が、復号動きベクトルＤ２１０７と参照ピクチャＤ２１２７のセットを受け取り、インター予測サンプルＤ２１１５を生成する。イントラ予測部が、復号イントラ予測情報Ｄ２１０９および対象画像の再構築済みサンプルＤ２１２３を受け取り、イントラ予測サンプルＤ２１１７を生成する。復号イントラ予測情報Ｄ２１０９は、色平面間予測制御パラメータを有する。スイッチ部が復号イントラ／インター予測モードを受け取り、インター予測サンプルＤ２１１５とイントラ予測サンプルＤ２１１７とを切り替えて予測サンプルＤ２１１９として出力する。

合算部２１１２が、予測サンプルＤ２１１９と残差サンプルＤ２１１３とを合算し、再構築サンプルＤ２１２１を生成する。対象画像の再構築サンプルＤ２１２１が、対象画像内で複数の画像サンプルからなる後続ブロックの復号処理に用いるために、イントラ予測メモリ部２１１６に格納される。再構築サンプルＤ２１２１がフィルタ部２１１４でフィルタリングされ、フィルタリング済みサンプルＤ２１２５がピクチャメモリ部２１１８に格納される。

本発明の実施の形態１の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態１によれば、色平面間予測制御パラメータ（エンコーダにおけるＤ１９０１およびデコーダにおけるＤ２１０９）は、色平面フォーマットを示すパラメータを含む。色平面フォーマットは、イントラ予測部において、色平面間予測処理中に実行される複数の予め定められた再スケーリング方式から１つを選択するために用いられる。

図２２は、符号化映像ビットストリームのヘッダにおける色平面フォーマットを示すパラメータの位置を示す図である。図２２Ａは、圧縮映像ビットストリームのシーケンスヘッダにおける当該パラメータの位置を示す。図２２Ｂは、圧縮映像ビットストリームのピクチャヘッダにおける当該パラメータの位置を示す。図２２Ｃは、圧縮映像ビットストリームのスライスヘッダにおける当該パラメータの位置を示す。図２２Ｄは、圧縮映像ビットストリームのシーケンスヘッダに位置するプロファイルパラメータ、レベルパラメータ、またはプロファイルパラメータとレベルパラメータの両方に基づく予め定義されたルックアップテーブルから当該パラメータを導出することもできることを示す。先行技術において、色平面フォーマットを示すパラメータは、例えば、ＭＰＥＧ−４ ＡＶＣ／Ｈ．２６４映像符号化方式の標準規格のシーケンスパラメータセットにおけるシンタックスエレメントｃｈｒｏｍａ＿ｆｏｒｍａｔ＿ｉｄｃである。先行技術において、色平面フォーマットを示すパラメータは、色平面間予測処理の制御には用いられない。

（実施の形態２）
図８は、本発明の実施の形態２に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール８００において色平面サンプリング位置を示すパラメータを圧縮映像ビットストリームのヘッダに書き込む。そしてモジュール８０２において、色平面サンプリング位置に基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する次に、モジュール８０４において、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める。次にモジュール８０６において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックが、再構築される。そしてモジュール８０８において、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて、色平面間予測処理を実行する。色平面間予測処理を実行する際に、モジュール８０８は、第２色平面の複数の予測サンプルからなるブロックを生成する。次に、モジュール８１０において、第２色平面の複数の元のサンプルからなる第２ブロックから第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する。この符号化処理において、複数の元のサンプルからなる第１ブロックと第２ブロックとは整列された位置にある。最後に、モジュール８１２において、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

図９は、本発明の実施の形態２に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。まず、モジュール９００において色平面サンプリング位置を示すパラメータを圧縮映像ビットストリームのヘッダから解読する。そしてモジュール９０２において、色平面サンプリング位置に基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する次に、モジュール９０４において、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する。次にモジュール９０６において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックが、再構築される。そしてモジュール９０８において、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなる第１ブロックを用いて色平面間予測処理を実行することにより、第２色平面の複数の予測サンプルからなるブロックを生成する。次に、モジュール９１０において、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する。この復号処理において、複数の残差サンプルからなる第１ブロックと第２ブロックは整列された位置にある。最後に、モジュール９１２において、再構築処理を実行することで第２色平面の複数の再構築サンプルからなる第２ブロックを生成する。再構築処理は、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することを含む。

符号化処理（図８）および復号処理（図９）は両方、上述のような図７の色平面間予測処理を、全く同じ方法で実行する。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。本発明の実施の形態２の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態２によれば、色平面間予測制御パラメータ（エンコーダにおけるＤ２００１およびデコーダにおけるＤ２１０９）は、色平面サンプリング位置を示すパラメータを含む。色平面サンプリング位置は、イントラ予測部において、色平面間予測処理中に実行される複数の予め定められた再スケーリング方式から１つを選択するために用いられる。

図２３は、符号化映像ビットストリームのヘッダにおける色平面サンプリング位置を示すパラメータの位置を示す図である。図２３Ａは、圧縮映像ビットストリームのシーケンスヘッダにおける当該パラメータの位置を示す。図２３Ｂは、圧縮映像ビットストリームのピクチャヘッダにおける当該パラメータの位置を示す。図２３Ｃは、圧縮映像ビットストリームのスライスヘッダにおける当該パラメータの位置を示す。図２３Ｄは、圧縮映像ビットストリームのシーケンスヘッダに位置するプロファイルパラメータ、レベルパラメータ、またはプロファイルパラメータとレベルパラメータの両方に基づく予め定義されたルックアップテーブルから当該パラメータを導出することもできることを示す。先行技術において、色平面サンプリング位置を示すパラメータは、例えば、ＭＰＥＧ−４ ＡＶＣ／Ｈ．２６４映像符号化方式の標準規格のシーケンスパラメータセットのビデオユーザビリティ情報（ＶＵＩ）セクションにおけるシンタックスエレメントｃｈｒｏｍａ＿ｓａｍｐｌｅ＿ｌｏｃ＿ｔｙｐｅ＿ｔｏｐ＿ｆｉｅｌｄおよびｃｈｒｏｍａ＿ｓａｍｐｌｅ＿ｌｏｃ＿ｔｙｐｅ＿ｂｏｔｔｏｍ＿ｆｉｅｌｄである。先行技術において、色平面サンプリング位置を示すパラメータは、色平面間予測処理の制御には用いられない。

（実施の形態３）
図１０は、本発明の実施の形態３に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール１０００において、フィールド符号化タイプを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む。そしてモジュール１００２において、フィールド符号化タイプに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する。次に、モジュール１００４において、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める。次にモジュール１００６において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックが、再構築される。そしてモジュール１００８において、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて、色平面間予測処理を実行する。色平面間予測処理を実行する際に、モジュール１００８は、第２色平面の複数の予測サンプルからなるブロックを生成する。次に、モジュール１０１０において、第２色平面の複数の元のサンプルからなる第２ブロックから第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する。この符号化処理において、複数の元のサンプルからなる第１ブロックと第２ブロックとは整列された位置にある。最後に、モジュール１０１２において、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

図１１は、本発明の実施の形態２に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。まず、モジュール１１００において、フィールド符号化タイプを示すパラメータを圧縮映像ビットストリームのヘッダから解読する。そしてモジュール１１０２において、フィールド符号化タイプに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する。次に、モジュール１１０４において、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する。次にモジュール１１０６において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックが、再構築される。そしてモジュール１１０８において、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなる第１ブロックを用いて色平面間予測処理を実行することにより、第２色平面の複数の予測サンプルからなるブロックを生成する。次に、モジュール１１１０において、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する。この復号処理において、複数の残差サンプルからなる第１ブロックと第２ブロックは整列された位置にある。最後に、モジュール１１１２において、再構築処理を実行することで第２色平面の複数の再構築サンプルからなる第２ブロックを生成する。再構築処理は、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することを含む。

符号化処理（図１０）および復号処理（図１１）は両方、上述のような図７の色平面間予測処理を、全く同じ方法で実行する。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。本発明の実施の形態３の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態３によれば、色平面間予測制御パラメータ（エンコーダにおけるＤ２００１およびデコーダにおけるＤ２１０９）は、フィールド符号化タイプを示すパラメータを含む。フィールド符号化タイプは、イントラ予測部において、色平面間予測処理中に実行される複数の予め定められた再スケーリング方式から１つを選択するために用いられる。

図２４は、符号化映像ビットストリームのヘッダにおけるフィールド符号化タイプを示すパラメータの位置を示す図である。図２４Ａは、圧縮映像ビットストリームのシーケンスヘッダにおける当該パラメータの位置を示す。図２４Ｂは、圧縮映像ビットストリームのピクチャヘッダにおける当該パラメータの位置を示す。図２４Ｃは、圧縮映像ビットストリームのスライスヘッダにおける当該パラメータの位置を示す。図２４Ｄは、圧縮映像ビットストリームのシーケンスヘッダに位置するプロファイルパラメータ、レベルパラメータ、またはプロファイルパラメータとレベルパラメータの両方に基づく予め定義されたルックアップテーブルから当該パラメータを導出することもできることを示す。先行技術において、フィールド符号化タイプを示すパラメータは、例えば、ＭＰＥＧ−４ ＡＶＣ／Ｈ．２６４映像符号化方式の標準規格のスライスヘッダにおけるシンタックスエレメントｆｉｅｌｄ＿ｐｉｃ＿ｆｌａｇである。先行技術において、フィールド符号化タイプを示すパラメータは、色平面間予測処理の制御には用いられない。

上述の通り、本発明の２つ以上の実施の形態を組み合わせることができる。具体的には、実施の形態１、２、および３の間の組み合わせによって、色平面間予測を様々な画像／映像コンテンツの表現に適応させることができる。

（実施の形態４）
図１２は、本発明の実施の形態４に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール１２００において色平面間予測が有効か否かを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む。本発明の１実施の形態において、色平面間予測が有効か否かを示すパラメータは、フラグである。本発明の別の実施の形態において、色平面間予測が有効か否かを示すパラメータは、色平面間予測に直接関係しない他の主要な目的を持つパラメータ（例えば、フィールド符号化タイプを示すパラメータ）から推測される。本発明のさらに別の実施の形態において、色平面間予測が有効か否かを示すパラメータは、色平面間予測に直接関係しない他の主要な目的を持つ複数のパラメータ（例えば、フィールド符号化タイプを示すパラメータおよびイントラ／インターピクチャタイプを示すパラメータ）の組み合わせから推測される。

そしてモジュール１２０２において、色平面間予測が有効か否かを判定する。色平面間予測が有効であれば、モジュール１２０４において予測処理を実行し、色平面間予測を利用して第１予測方式にしたがって複数の予測サンプルからなるブロックを生成する。色平面間予測が有効でなければ、モジュール１２０６において予測処理を実行し、色平面間予測を利用せずに第２予測方式にしたがって複数の予測サンプルからなるブロックを生成する。

次に、色平面間予測が有効であってもなくても、モジュール１２０８において、複数の予測サンプルからなるブロックを複数の元のサンプルからなるブロックから減算し、複数の残差サンプルからなるブロックを生成する。そしてモジュール１２１０において、複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。最後に、モジュール１２１２において、予測モードパラメータを圧縮映像ビットストリームに書き込むことによって、複数の予測サンプルからなるブロックの生成に用いられる予測方式を識別する。予測モードパラメータは、複数の予測方式の中から１つを識別する。第１の予測方式および第２の予測方式は両方、予測モードパラメータの同じ値、例えばインデックス値ゼロと対応する。

図１３は、本発明の実施の形態４に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。まず、モジュール１３００が、色平面間予測が有効か否かを示すパラメータを圧縮映像ビットストリームのヘッダから解読する。次に、モジュール１３０２において、圧縮映像ビットストリームから予測モードパラメータを解読することで、複数の予め定義された予測方式の中から複数の画像サンプルからなるブロックに対する予測方式を識別する。そしてモジュール１３０４において、予測モードパラメータの値が予め定められた値と等しいか否かを判定する。予め定められた値は、例えば値ゼロである。

予測モードパラメータの値が予め定められた値と等しい場合、モジュール１３０６において、色平面間予測が有効か否かを判定する。

色平面間予測が有効であれば、モジュール１３０８において予測処理を実行し、色平面間予測を利用して第１予測方式にしたがって複数の予測サンプルからなるブロックを生成する。色平面間予測が有効でなければ、モジュール１３１０において予測処理を実行し、色平面間予測を利用せずに第２予測方式にしたがって複数の予測サンプルからなるブロックを生成する。

予測モードパラメータの値が予め定められた値と等しくない場合、モジュール１３１２が予測処理を実行し、色平面間予測を利用せずに第３予測方式にしたがって複数の予測サンプルからなるブロックを生成する。

次に、色平面間予測が有効であってもなくても、予測モードパラメータの値が予め定められた値と等しくても等しくなくても、モジュール１３１４において、複数の画像サンプルからなるブロックに対応する複数の残差サンプルからなるブロックを、圧縮映像ビットストリームから復号する。そしてモジュール１３１６において、複数の残差サンプルからなるブロックと複数の予測サンプルからなるブロックとを合計することで、複数の再構築サンプルからなるブロックを再構築する。

符号化処理（図１２）および復号処理（図１３）は両方、予測処理を全く同じ方法で実行する。色平面間予測を利用する第１の予測方式は、上記図７において説明したステップからなる。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。本発明の実施の形態４の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態４によれば、色平面間予測制御パラメータ（エンコーダにおけるＤ２００１およびデコーダにおけるＤ２１０９）は、色平面間予測が有効か否かを示すパラメータを含む。

図２５は、符号化映像ビットストリームのヘッダにおいて色平面間予測が有効か否かを示すパラメータの位置を示す図である。図２５Ａは、圧縮映像ビットストリームのシーケンスヘッダにおける当該パラメータの位置を示す。図２５Ｂは、圧縮映像ビットストリームのピクチャヘッダにおける当該パラメータの位置を示す。図２５Ｃは、圧縮映像ビットストリームのスライスヘッダにおける当該パラメータの位置を示す。図２５Ｄは、圧縮映像ビットストリームのシーケンスヘッダに位置するプロファイルパラメータ、レベルパラメータ、またはプロファイルパラメータとレベルパラメータの両方に基づく予め定義されたルックアップテーブルから当該パラメータを導出することもできることを示す。

図２６は、映像／画像コンテンツの色平面の表現を表す、符号化映像ビットストリームにおける、複数の画像サンプルからなるブロックまたは複数の画像サンプルからなる整列された位置にあるブロックのセットに対する予測モードを示すパラメータの位置を示す図である。図２６Ａは、符号化単位のヘッダにおける当該パラメータの位置を示す。図２６Ｂは、予測単位のヘッダにおける当該パラメータの位置を示す。

（実施の形態５）
図１４は、本発明の実施の形態５に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール１４００が、色平面間予測方向を示すパラメータを圧縮映像ビットストリームのヘッダに書き込む。色平面間予測方向は、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを指定する。そしてモジュール１４０２において、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを判定する。

第２色平面が第１色平面から予測される場合、モジュール１４０４において、第１色平面の複数の元のサンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。モジュール１４０６において、第１色平面の複数の元のサンプルからなるブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築する。次に、モジュール１４０８において、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することで、第２色平面の複数の予測サンプルからなるブロックを生成する。モジュール１４１０において、第２色平面の複数の元のサンプルからなるブロックから第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する。最後に、モジュール１４１２において、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

第１色平面が第２色平面から予測される場合、モジュール１４１４において、第２色平面の複数の元のサンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。モジュール１４１６において、第２色平面の複数の元のサンプルからなるブロックに対応する第２色平面の複数の再構築サンプルからなるブロックを再構築する。次に、モジュール１４１８において、予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することで、第１色平面の複数の予測サンプルからなるブロックを生成する。モジュール１４２０において、第１色平面の複数の元のサンプルからなるブロックから第１色平面の複数の予測サンプルからなるブロックを減算することで、第１色平面の複数の残差サンプルからなるブロックを生成する。最後に、モジュール１４２２において、第１色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

図１５は、本発明の実施の形態５に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。まず、モジュール１５００において、色平面間予測方向を示すパラメータを圧縮映像ビットストリームのヘッダから解読する。色平面間予測方向は、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを指定する。そして、モジュール１５０２において、第１色平面に対応する複数の残差サンプルからなる第１ブロックを圧縮映像ビットストリームから復号し、モジュール１５０４において、第２色平面に対応する複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する。次に、モジュール１５０６において、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを判定する。

第２色平面が第１色平面から予測される場合、モジュール１５０８において、複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなるブロックを再構築する。そしてモジュール１５１０において、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することで、第２色平面の複数の予測サンプルからなるブロックを生成する。最後に、モジュール１５１２において、複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなるブロックを再構築する。

第１色平面が第２色平面から予測される場合、モジュール１５１４において、複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなるブロックを再構築する。そしてモジュール１５１６において、予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することで、第１色平面の複数の予測サンプルからなるブロックを生成する。最後に、モジュール１５１８において、第１色平面の複数の残差サンプルからなる第１ブロックと、複数の予測サンプルからなるブロックとを合計することにより、第１色平面の複数の再構築サンプルからなるブロックを再構築する。

符号化処理（図１４）および復号処理（図１５）は両方、上述のような図７の色平面間予測処理を、全く同じ方法で実行する。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。本発明の実施の形態５の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態５によれば、色平面間予測制御パラメータ（エンコーダにおけるＤ２００１およびデコーダにおけるＤ２１０９）は、色平面間予測方向を示すパラメータを含む。

図２７は、符号化映像ビットストリームのヘッダにおける、色平面間予測方向を示すパラメータの位置を示す図である。図２７Ａは、圧縮映像ビットストリームのシーケンスヘッダにおける当該パラメータの位置を示す。図２７Ｂは、圧縮映像ビットストリームのピクチャヘッダにおける当該パラメータの位置を示す。図２７Ｃは、圧縮映像ビットストリームのスライスヘッダにおける当該パラメータの位置を示す。図２７Ｄは、圧縮映像ビットストリームのシーケンスヘッダに位置するプロファイルパラメータ、レベルパラメータ、またはプロファイルパラメータとレベルパラメータの両方に基づく予め定義されたルックアップテーブルから当該パラメータを導出することもできることを示す。

（実施の形態６）
図１６は、本発明の実施の形態６に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール１６００において、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める。そしてモジュール１６０２において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する。次に、モジュール１６０４において、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含めるそしてモジュール１６０６において、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する。次に、モジュール１６０８において、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する。モジュール１６１０において、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する。次に、モジュール１６１２において、予め定められた組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する。本発明の１実施の形態において、予め定められた組み合わせ方式は、複数の中間予測サンプルからなる第１ブロックと第２ブロックとの間で同じ位置にあるサンプル値を線形平均することである。本発明の別の実施の形態において、予め定められた組み合わせ方式は、複数の中間予測サンプルからなる第１ブロックと第２ブロックとの間で同じ位置にあるサンプル値を重み付け平均することである。重み付け平均は、例えば、演算ｐ＝ａ．ｐ１＋ｂ．ｐ２＋ｃである。ただし、ｐは結果として得られる重み付け平均値であり、ｐ１およびｐ２は入力値であり、ａおよびｂはそれぞれｐ１およびｐ２に割り当てられた予め定められた重み（倍率）であり、ｃは定数加算オフセット値である。

次に、モジュール１６１４において、第３色平面の複数の元のサンプルからなる第３ブロックから第３色平面の複数の最終的な予測サンプルからなるブロックを減算することによって、第３色平面の複数の残差サンプルからなるブロックを生成する。複数の元のサンプルからなる第１ブロックと第２ブロックと第３ブロックとは整列された位置にある。最後に、モジュール１６１６において、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

図１７は、本発明の実施の形態６に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。モジュール１７００が、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する。そしてモジュール１７０２において、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する。次に、モジュール１７０４において、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する。そしてモジュール１７０６において、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する。次に、モジュール１７０８において、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する。モジュール１７１０において、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する。そしてモジュール１７１２において、予め定められた組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する。次に、モジュール１７１４において、第３色平面の複数の残差サンプルからなる、第１ブロックおよび第２ブロックと整列された位置にある第３ブロックを、圧縮映像ビットストリームから復号する。モジュール１７１６において、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する。

符号化処理（図１６）および復号処理（図１７）は両方、上述のような図７の色平面間予測処理を、全く同じ方法で実行し、上述の同じ予め定められた組み合わせ方式を利用する。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。本発明の実施の形態６の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態６によれば、符号化映像ビットストリームには色平面間予測制御パラメータが含まれない（つまり、エンコーダ内のデータＤ２００１、デコーダ内のデータＤ２１０９は存在しない）。

（実施の形態７）
図１８は、本発明の実施の形態７に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。まず、モジュール１８００において、第３色平面予測モードを示す１つ以上のパラメータを圧縮映像ビットストリームのヘッダに書き込む。第３色平面予測モードは、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを指定する。次に、モジュール１８０２において、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める。そしてモジュール１８０４において、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する。次に、モジュール１８０６において、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含めるそしてモジュール１８０８において、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する。モジュール１８１０において、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを判定する。

第３色平面が第１色平面と第２色平面との両方から予測される場合、モジュール１８１２において、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する。モジュール１８１４において、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する。次に、モジュール１８１６において、予め定められた組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する。

第３色平面が第１色平面のみから予測される場合、モジュール１８１８において、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する。

第３色平面が第２色平面のみから予測される場合、モジュール１８２０において、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の最終的な中間予測サンプルからなるブロックを生成する。

第３色平面の複数の最終的な中間予測サンプルからなるブロックが生成された後に、モジュール１８２２において、第３色平面の複数の元のサンプルからなる第３ブロックから複数の最終的な予測サンプルからなるブロックを減算することによって、第３色平面の複数の残差サンプルからなるブロックを生成する。複数の元のサンプルからなる第１ブロックと第２ブロックと第３ブロックとは整列された位置にある。最後に、モジュール１８２４において、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める。

図１９は、本発明の実施の形態７に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。まず、モジュール１９００において、第３色平面予測モードを示すパラメータを圧縮映像ビットストリームのヘッダから解読する。符号化処理と同様に、第３色平面予測モードは、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを指定する。次に、モジュール１９０２が、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する。そしてモジュール１９０４において、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する。次に、モジュール１９０６において、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する。そしてモジュール１９０８において、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する。次に、モジュール１９１０において、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを判定する。

第３色平面が第１色平面と第２色平面との両方から予測される場合、モジュール１９１２において、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する。モジュール１９１４において、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する。次に、モジュール１９１６において、予め定められた組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する。

第３色平面が第１色平面のみから予測される場合、モジュール１９１８において、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する。

第３色平面が第２色平面のみから予測される場合、モジュール１９２０において、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の最終的な中間予測サンプルからなるブロックを生成する。

第３色平面の複数の最終的な中間予測サンプルからなるブロックが生成された後に、モジュール１９２２において、圧縮映像ビットストリームから、第３色平面の複数の残差サンプルからなる第３ブロックを復号する。複数の残差サンプルからなる第１ブロックと第２ブロックと第３ブロックとは整列された位置にある。最後に、モジュール１９２４において、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する。

符号化処理（図１８）および復号処理（図１９）は両方、上述のような図７の色平面間予測処理を、全く同じ方法で実行し、上述の同じ予め定められた組み合わせ方式を利用する。

図２０は、本発明に係る色平面間予測方式を利用する映像エンコーダの例示的な装置を示すブロック図である。図２１は、本発明に係る色平面間予測方式を利用する映像デコーダの例示的な装置を示すブロック図である。本発明の実施の形態７の効果は、映像エンコーダのイントラ予測部２００４および映像デコーダのイントラ予測部２１０８おいて得られる。本発明の実施の形態７によれば、色平面間予測制御パラメータ（エンコーダにおけるＤ２００１およびデコーダにおけるＤ２１０９）は、第３色平面予測モードを示すパラメータを含む。

（実施の形態８）
図２９は、本発明の実施の形態８に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。図３０は、本発明の実施の形態８に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。本実施の形態は、２つの中間予測サンプルから最終的な予測サンプルを生成するために用いられる明示的な組み合わせ方式を反映している。

（実施の形態９）
図３１は、本発明の実施の形態９に係る色平面間予測方式を利用する映像符号化処理を示すフローチャートである。図３２は、本発明の実施の形態９に係る色平面間予測方式を利用する映像復号処理を示すフローチャートである。本実施の形態は、色平面フォーマットとフィールド符号化タイプとに基づく再スケーリング方式の選択を反映している。

＜概要＞
（方法１）色平面間予測を利用する映像符号化方法であって、色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダに書き込み、色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法２）色平面間予測を利用する映像復号方法であって、色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダから解読し、色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する映像復号方法。

（方法３）色平面間予測を利用する映像符号化方法であって、色平面サンプリング位置を示すパラメータを圧縮映像ビットストリームのヘッダに書き込み、色平面サンプリング位置に基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法４）色平面間予測を利用して映像復号方法であって、色平面サンプリング位置を示すパラメータを圧縮映像ビットストリームのヘッダから解読し、色平面サンプリング位置に基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する映像復号方法。

（方法５）色平面間予測を利用する映像符号化方法であって、フィールド符号化タイプを示すパラメータを圧縮映像ビットストリームのヘッダに書き込み、フィールド符号化タイプに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法６）色平面間予測を利用する映像復号方法であって、フィールド符号化タイプを示すパラメータを圧縮映像ビットストリームのヘッダから解読し、フィールド符号化タイプに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する映像復号方法。

（方法７）色平面間予測を利用する映像符号化方法であって、色平面間予測が有効か否かを示すパラメータを圧縮映像ビットストリームのヘッダに書き込み、色平面間予測が有効か否かを判定し、色平面間予測が有効であれば、色平面間予測を利用して第１予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成し、色平面間予測が有効でなければ、色平面間予測を利用せずに第２予測方式にしたがって予測処理を実行することで、複数の予測サンプルからなるブロックを生成し、色平面間予測が有効であってもなくても、複数の元のサンプルからなるブロックから複数の予測サンプルからなるブロックを減算することで、複数の残差サンプルからなるブロックを生成し、複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含め、予測モードパラメータを圧縮映像ビットストリームに書き込むことで、複数の予測サンプルからなるブロックの生成に用いられる予測方式を識別し、ここで、予測モードパラメータは、複数の予測方式のうちの一つを識別し、第１予測方式と第２予測方式との両方は、予測モードパラメータの同じ値に対応付けられている映像符号化方法。

（方法８）色平面間予測を利用する映像復号方法であって、色平面間予測が有効か否かを示すパラメータを圧縮映像ビットストリームのヘッダから解読し、圧縮映像ビットストリームから予測モードパラメータを解読することで、複数の予め定義された予測方式の中から複数の画像サンプルからなるブロックに対する予測方式を識別し、予測モードパラメータの値が予め定められた値と等しいか否かを判定し、予測モードパラメータの値が予め定められた値と等しい場合、色平面間予測が有効か否かを判定し、色平面間予測が有効であれば、色平面間予測を利用して第１予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成し、色平面間予測が有効でなければ、色平面間予測を利用せずに第２予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成し、予測モードパラメータの値が予め定められた値と等しくなければ、色平面間予測を利用せず第３予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成し、予測モードパラメータの値が予め定められた値と等しくても等しくなくても、また、色平面間予測が有効であってもなくても、複数の画像サンプルからなるブロックに対応する複数の残差サンプルからなるブロックを、圧縮映像ビットストリームから復号し、複数の残差サンプルからなるブロックと複数の予測サンプルからなるブロックとを合計することで、複数の再構築サンプルからなるブロックを再構築する映像復号方法。

（方法９）色平面間予測を利用する映像符号化方法であって、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを指定する色平面間予測方向を示すパラメータを符号化映像ビットストリームのヘッダに書き込み、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを判定し、第２色平面が第１色平面から予測される場合、第１色平面の複数の元のサンプルからなるブロックを符号化して圧縮映像ビットストリームに含め、第１色平面の複数の元のサンプルからなるブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築し、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の元のサンプルからなるブロックから第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含め、第１色平面が第２色平面から予測される場合、第２色平面の複数の元のサンプルからなるブロックを符号化して圧縮映像ビットストリームに含め、第２色平面の複数の元のサンプルからなるブロックに対応する第２色平面の複数の再構築サンプルからなるブロックを再構築し、予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第１色平面の複数の予測サンプルからなるブロックを生成し、第１色平面の複数の元のサンプルからなるブロックから第１色平面の複数の予測サンプルからなるブロックを減算することで、第１色平面の複数の残差サンプルからなるブロックを生成し、第１色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化方法。

（方法１０）色平面間予測を利用する映像復号方法であって、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを指定する色平面間予測方向を示すパラメータを符号化映像ビットストリームのヘッダから解読し、第１色平面に対応する複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第２色平面に対応する複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを判定し、第２色平面が第１色平面から予測される場合、複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなるブロックを再構築し、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなる第２ブロックと複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなるブロックを再構築し、第１色平面が第２色平面から予測される場合、複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなるブロックを再構築し、予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することにより、第１色平面の複数の予測サンプルからなるブロックを生成し、第１色平面の複数の残差サンプルからなる第１ブロックと、複数の予測サンプルからなるブロックとを合計することにより、第１色平面の複数の再構築サンプルからなるブロックを再構築する映像復号方法。

（方法１１）色平面間予測を利用する映像符号化方法であって、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築し、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成し、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成し、予め定められた組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面の複数の元のサンプルからなる、第２ブロックと整列された位置にある第３ブロックから、第３色平面の複数の最終的な予測サンプルからなるブロックを減算することで、第３色平面の複数の残差サンプルからなるブロックを生成し、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法１２）色平面間予測を利用する映像復号方法であって、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築し、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成し、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成し、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面の複数の残差サンプルからなる、第２ブロックと整列された位置にある第３ブロックを、圧縮映像ビットストリームから復号し、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって、第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する映像復号方法。

（方法１３）色平面間予測を利用する映像符号化方法であって、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを指定する第３色平面予測モードを示す１つ以上のパラメータを圧縮映像ビットストリームのヘッダに書き込み、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築し、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを判定し、第３色平面が第１色平面と第２色平面との両方から予測される場合、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成し、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成し、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面が第１色平面のみから予測される場合、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面が第２色平面のみから予測される場合、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第３色平面の複数の最終的な中間予測サンプルからなるブロックを生成し、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測される場合に、第３色平面の複数の元のサンプルからなる、第２ブロックと整列された位置にある第３ブロックから、複数の最終的な予測サンプルからなるブロックを減算することで、第３色平面の複数の残差サンプルからなるブロックを生成し、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法１４）色平面間予測を利用する映像復号方法であって、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを指定する第３色平面予測モードを示す１つ以上のパラメータを圧縮映像ビットストリームのヘッダから解読し、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築し、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを判定し、第３色平面が第１色平面と第２色平面との両方から予測される場合に、第１の予め定められた再スケーリング方式および第１色平面の複数の再構築サンプルからなる第１ブロックを用いて色平面間予測処理を実行することにより、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成し、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成し、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面が第１色平面のみから予測される場合、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することによって、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面が第２色平面のみから予測される場合、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することによって、第３色平面の複数の最終的な中間予測サンプルからなるブロックを生成し、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測される場合に、第３色平面の複数の残差サンプルからなる、第２ブロックと整列された位置にある第３ブロックを圧縮映像ビットストリームから復号し、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって、第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する映像復号方法。

（方法１５）色平面間予測を利用する映像符号化方法であって、組み合わせ方式を選択し、組み合わせ方式を示すパラメータを符号化映像ビットストリームのヘッダに書き込み、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築し、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成し、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成し、組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面の複数の元のサンプルからなる、第２ブロックと整列された位置にある第３ブロックから、第３色平面の複数の最終的な予測サンプルからなるブロックを減算することで、第３色平面の複数の残差サンプルからなるブロックを生成し、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法１６）色平面間予測を利用する映像復号方法であって、組み合わせ方式を示すパラメータを符号化映像ビットストリームのヘッダから解読し、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築し、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成し、第２の予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなる第２ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成し、組み合わせ方式にしたがって、第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成し、第３色平面の複数の残差サンプルからなる、第２ブロックと整列された位置にある第３ブロックを、圧縮映像ビットストリームから復号し、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって、第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する映像復号方法。

（方法１７）色平面間予測を利用する映像符号化方法であって、色平面フォーマットを示す第１パラメータを圧縮映像ビットストリームのヘッダに書き込み、フィールド符号化タイプを示す第２パラメータを圧縮映像ビットストリームのヘッダに書き込み、色平面フォーマットとフィールド符号化タイプとに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含め、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める映像符号化方法。

（方法１８）色平面間予測を利用する映像復号方法であって、色平面フォーマットを示す第１パラメータを圧縮映像ビットストリームのヘッダから解読し、フィールド符号化タイプを示す第２パラメータを圧縮映像ビットストリームのヘッダから解読し、色平面フォーマットとフィールド符号化タイプとに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号し、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、選択された再スケーリング方式および第１色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号し、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する映像復号方法。

（装置１９）色平面間予測を利用する映像符号化装置であって、色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む書込部と、色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、選択された再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する減算部と、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部とを備える映像符号化装置。

（装置２０）色平面間予測を利用する映像復号装置であって、色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダから解読する解読部と、色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する復号部と、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、選択された再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部とを備える映像復号装置。

（装置２１）色平面間予測を利用する映像符号化装置であって、色平面サンプリング位置を示すパラメータを圧縮映像ビットストリームのヘッダに書き込む書込部と、色平面サンプリング位置に基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、選択された再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する減算部と、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部とを含む映像符号化装置。

（装置２２）色平面間予測を利用する映像復号装置であって、色平面サンプリング位置を示すパラメータを圧縮映像ビットストリームのヘッダから解読する解読部と、色平面サンプリング位置に基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する復号部と、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、選択された再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部とを備える映像復号装置。

（装置２３）色平面間予測を利用する映像符号化装置であって、フィールド符号化タイプを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む書込部と、フィールド符号化タイプに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、選択された再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の元のサンプルからなる、第１ブロックと整列された位置にある第２ブロックから、第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する減算部と、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部とを含む映像符号化装置。

（装置２４）色平面間予測を利用する映像復号装置であって、フィールド符号化タイプを示すパラメータを圧縮映像ビットストリームのヘッダから解読する解読部と、フィールド符号化タイプに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する復号部と、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、選択された再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の残差サンプルからなる、第１ブロックと整列された位置にある第２ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部とを備える映像復号装置。

（装置２５）色平面間予測を利用する映像符号化装置であって、色平面間予測が有効か否かを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む書込部と、色平面間予測が有効か否かを判定する判定部と、色平面間予測が有効であれば、色平面間予測を利用して第１予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成する予測部と、色平面間予測が有効でなければ、色平面間予測を利用せずに第２予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成する予測部と、色平面間予測が有効であってもなくても、複数の元のサンプルからなるブロックから複数の予測サンプルからなるブロックを減算することで、複数の残差サンプルからなるブロックを生成する減算部と、複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部と、予測モードパラメータを圧縮映像ビットストリームに書き込むことで、複数の予測サンプルからなるブロックの生成に用いられる予測方式を識別する書込部とを含み、ここで、予測モードパラメータは、複数の予測方式のうちの一つを識別し、第１予測方式と第２予測方式との両方は、予測モードパラメータの同じ値に対応付けられている映像符号化装置。

（装置２６）色平面間予測を利用する映像復号装置であって、色平面間予測が有効か否かを示すパラメータを圧縮映像ビットストリームのヘッダから解読する解読部と、圧縮映像ビットストリームから予測モードパラメータを解読することで、複数の予め定義された予測方式の中から複数の画像サンプルからなるブロックに対する予測方式を識別する解読部と、予測モードパラメータの値が予め定められた値と等しいか否かを判定する判定部と、予測モードパラメータの値が予め定められた値と等しい場合、色平面間予測が有効か否かを判定する判定部と、色平面間予測が有効であれば、色平面間予測を利用して第１予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成する予測部と、色平面間予測が有効でなければ、色平面間予測を利用せずに第２予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成する予測部と、予測モードパラメータの値が予め定められた値と等しくなければ、色平面間予測を利用せず第３予測方式にしたがって予測処理を実行することによって、複数の予測サンプルからなるブロックを生成する予測部と、予測モードパラメータの値が予め定められた値と等しくても等しくなくても、また、色平面間予測が有効であってもなくても、複数の画像サンプルからなるブロックに対応する複数の残差サンプルからなるブロックを、圧縮映像ビットストリームから復号する復号部と、複数の残差サンプルからなるブロックと複数の予測サンプルからなるブロックとを合計することで、複数の再構築サンプルからなるブロックを再構築する再構築部とを含む映像復号装置。

（装置２７）色平面間予測を利用する映像符号化装置であって、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを指定する色平面間予測方向を示すパラメータを符号化映像ビットストリームのヘッダに書き込む書込部と、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを判定する判定部と、第２色平面が第１色平面から予測される場合、第１色平面の複数の元のサンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部と、第１色平面の複数の元のサンプルからなるブロックに対応する第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の元のサンプルからなるブロックから第２色平面の複数の予測サンプルからなるブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成する減算部と、第２色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部と、第１色平面が第２色平面から予測される場合、第２色平面の複数の元のサンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部と、第２色平面の複数の元のサンプルからなるブロックに対応する第２色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第１色平面の複数の予測サンプルからなるブロックを生成する予測部と、第１色平面の複数の元のサンプルからなるブロックから第１色平面の複数の予測サンプルからなるブロックを減算することで、第１色平面の複数の残差サンプルからなるブロックを生成する減算部と、第１色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部とを含む映像符号化装置。

（装置２８）色平面間予測を利用する映像復号装置であって、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを指定する色平面間予測方向を示すパラメータを符号化映像ビットストリームのヘッダから解読する解読部と、第１色平面に対応する複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面に対応する複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面が第１色平面から予測されるか、第１色平面が第２色平面から予測されるかを判定する判定部と、第２色平面が第１色平面から予測される場合、複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、第２色平面の複数の残差サンプルからなる第２ブロックと、第２色平面の複数の予測サンプルからなるブロックとを合計することにより、第２色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、第１色平面が第２色平面から予測される場合、複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、予め定められた再スケーリング方式と第２色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することによって、第１色平面の複数の予測サンプルからなるブロックを生成する予測部と、第１色平面の複数の残差サンプルからなる第１ブロックと、複数の予測サンプルからなるブロックとを合計することにより、第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部とを含む映像復号装置。

（装置２９）色平面間予測を利用する映像符号化装置であって、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部と、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する予測部と、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する予測部と、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する組み合わせ部と、第３色平面の複数の元のサンプルからなる、第１ブロックおよび第２ブロックと整列された位置にある第３ブロックから第３色平面の複数の最終的な予測サンプルからなるブロックを減算することで、第３色平面の複数の残差サンプルからなるブロックを生成する減算部と、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部とを含む映像符号化装置。

（装置３０）色平面間予測を利用する映像復号装置であって、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する復号部と、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部と、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する予測部と、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する予測部と、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する組み合わせ部と、第３色平面の複数の残差サンプルからなる、第１ブロックおよび第２ブロックと整列された位置にある第３ブロックを、圧縮映像ビットストリームから復号する復号部と、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって、第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する再構築部とを含む映像復号装置。

（装置３１）色平面間予測を利用する映像符号化装置であって、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを指定する第３色平面予測モードを示す１つ以上のパラメータを圧縮映像ビットストリームのヘッダに書き込む書込部と、第１色平面の複数の元のサンプルからなる第１ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第１ブロックに対応する第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、第２色平面の複数の元のサンプルからなる第２ブロックを符号化して圧縮映像ビットストリームに含める符号化部と、複数の元のサンプルからなる第２ブロックに対応する第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部と、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを判定する判定部と、第３色平面が第１色平面と第２色平面との両方から予測される場合に、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する予測部と、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する予測部と、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する組み合わせ部と、第３色平面が第１色平面のみから予測される場合に、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなるブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する予測部と、第３色平面が第２色平面のみから予測される場合に、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなるブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の最終的な中間予測サンプルからなるブロックを生成する予測部と、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測される場合に、第３色平面の複数の元のサンプルからなる、第２ブロックと整列された位置にある第３ブロックから、複数の最終的な予測サンプルからなるブロックを減算することで、第３色平面の複数の残差サンプルからなるブロックを生成する減算部と、第３色平面の複数の残差サンプルからなるブロックを符号化して圧縮映像ビットストリームに含める符号化部とを含む映像符号化装置。

（装置３２）色平面間予測を利用する映像復号装置であって、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを指定する第３色平面予測モードを示す１つ以上のパラメータを圧縮映像ビットストリームのヘッダから解読する解読部と、第１色平面の複数の残差サンプルからなる第１ブロックを、圧縮映像ビットストリームから復号する復号部と、第１色平面の複数の残差サンプルからなる第１ブロックを用いて、第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、第２色平面の複数の残差サンプルからなる第２ブロックを、圧縮映像ビットストリームから復号する復号部と、第２色平面の複数の残差サンプルからなる第２ブロックを用いて、第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部と、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測されるかを判定する判定部と、第３色平面が第１色平面と第２色平面との両方から予測される場合に、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の中間予測サンプルからなる第１ブロックを生成する予測部と、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の中間予測サンプルからなる第２ブロックを生成する予測部と、予め定められた組み合わせ方式にしたがって第３色平面の複数の中間予測サンプルからなる第１ブロックと第２ブロックとを組み合わせることで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する組み合わせ部と、第３色平面が第１色平面のみから予測される場合に、第１の予め定められた再スケーリング方式と第１色平面の複数の再構築サンプルからなる第１ブロックとを用いて色平面間予測処理を実行することで、第３色平面の複数の最終的な予測サンプルからなるブロックを生成する予測部と、第３色平面が第２色平面のみから予測される場合に、第２の予め定められた再スケーリング方式および第２色平面の複数の再構築サンプルからなる第２ブロックを用いて色平面間予測処理を実行することによって、第３色平面の複数の最終的な中間予測サンプルからなるブロックを生成する予測部と、第３色平面が第１色平面と第２色平面との両方から予測されるか、第１色平面のみから予測されるか、第２色平面のみから予測される場合に、第３色平面の複数の残差サンプルからなる、第２ブロックと整列された位置にある第３ブロックを、圧縮映像ビットストリームから復号する復号部と、第３色平面の複数の最終的な予測サンプルからなるブロックと第３色平面の複数の残差サンプルからなる第３ブロックとを合計することによって、第３色平面の複数の再構築サンプルからなる第３ブロックを再構築する再構築部とを含む映像復号装置。

（実施の形態１０）
上記各実施の形態で示した動画像符号化方法（画像符号化方法）または動画像復号化方法（画像復号方法）の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。

さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）や動画像復号化方法（画像復号方法）の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。

図３３は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。

このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および基地局ｅｘ１０６からｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。

しかし、コンテンツ供給システムｅｘ１００は図３３のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６からｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。

カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）方式、若しくはＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ Ｓｐｅｅｄ Ｐａｃｋｅｔ Ａｃｃｅｓｓ）の携帯電話機、またはＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙｐｈｏｎｅ Ｓｙｓｔｅｍ）等であり、いずれでも構わない。

コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い（即ち、本発明の一態様に係る画像符号化装置として機能する）、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。

なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。

また、これら符号化・復号化処理は、一般的にコンピュータｅｘ１１１や各機器が有するＬＳＩｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した画像データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。

また、ストリーミングサーバｅｘ１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。

以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。

なお、コンテンツ供給システムｅｘ１００の例に限らず、図３４に示すように、デジタル放送用システムｅｘ２００にも、上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）または動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。具体的には、放送局ｅｘ２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ｅｘ２０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである（即ち、本発明の一態様に係る画像符号化装置によって符号化されたデータである）。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ２０４が受信する。受信した多重化データを、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７等の装置が復号化して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。

また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した多重化データを読み取り復号化する、または記録メディアｅｘ２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダｅｘ２１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示され、多重化データが記録された記録メディアｅｘ２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に動画像復号化装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。

図３５は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナｅｘ３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ｅｘ３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ｅｘ３０６で符号化された映像データ、音声データを多重化する多重／分離部ｅｘ３０３を備える。

また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５（本発明の一態様に係る画像符号化装置または画像復号装置として機能する）を有する信号処理部ｅｘ３０６と、復号化した音声信号を出力するスピーカｅｘ３０７、復号化した映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインタフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インタフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。

まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した多重化データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号化し、分離した映像データを映像信号処理部ｅｘ３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から多重化データを読み出してもよい。次に、テレビｅｘ３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２や多重／分離部ｅｘ３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。

また、テレビｅｘ３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。

また、リーダ／レコーダｅｘ２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビｅｘ３００、リーダ／レコーダｅｘ２１８のいずれで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８が互いに分担して行ってもよい。

一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図３６に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１、ｅｘ４０２、ｅｘ４０３、ｅｘ４０４、ｅｘ４０５、ｅｘ４０６、ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３、サーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。

以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。

図３７に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３より内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。

以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。

また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図３５に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１や携帯電話ｅｘ１１４等でも考えられる。

図３８Ａは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ｅｘ１１４を示す図である。携帯電話ｅｘ１１４は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ３５０、映像、静止画を撮ることが可能なカメラ部ｅｘ３６５、カメラ部ｅｘ３６５で撮像した映像、アンテナｅｘ３５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ｅｘ３５８を備える。携帯電話ｅｘ１１４は、さらに、操作キー部ｅｘ３６６を有する本体部、音声を出力するためのスピーカ等である音声出力部ｅｘ３５７、音声を入力するためのマイク等である音声入力部ｅｘ３５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ｅｘ３６７、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ｅｘ３６４を備える。

さらに、携帯電話ｅｘ１１４の構成例について、図３８Ｂを用いて説明する。携帯電話ｅｘ１１４は、表示部ｅｘ３５８及び操作キー部ｅｘ３６６を備えた本体部の各部を統括的に制御する主制御部ｅｘ３６０に対して、電源回路部ｅｘ３６１、操作入力制御部ｅｘ３６２、映像信号処理部ｅｘ３５５、カメラインタフェース部ｅｘ３６３、ＬＣＤ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ）制御部ｅｘ３５９、変調／復調部ｅｘ３５２、多重／分離部ｅｘ３５３、音声信号処理部ｅｘ３５４、スロット部ｅｘ３６４、メモリ部ｅｘ３６７がバスｅｘ３７０を介して互いに接続されている。

電源回路部ｅｘ３６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ｅｘ１１４を動作可能な状態に起動する。

携帯電話ｅｘ１１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ｅｘ３６０の制御に基づいて、音声通話モード時に音声入力部ｅｘ３５６で収音した音声信号を音声信号処理部ｅｘ３５４でデジタル音声信号に変換し、これを変調／復調部ｅｘ３５２でスペクトラム拡散処理し、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。また携帯電話ｅｘ１１４は、音声通話モード時にアンテナｅｘ３５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ｅｘ３５２でスペクトラム逆拡散処理し、音声信号処理部ｅｘ３５４でアナログ音声信号に変換した後、これを音声出力部ｅｘ３５７から出力する。

さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ｅｘ３６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ３６２を介して主制御部ｅｘ３６０に送出される。主制御部ｅｘ３６０は、テキストデータを変調／復調部ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して基地局ｅｘ１１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ｅｘ３５８に出力される。

データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ｅｘ３５５は、カメラ部ｅｘ３６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し（即ち、本発明の一態様に係る画像符号化装置として機能する）、符号化された映像データを多重／分離部ｅｘ３５３に送出する。また、音声信号処理部ｅｘ３５４は、映像、静止画等をカメラ部ｅｘ３６５で撮像中に音声入力部ｅｘ３５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ｅｘ３５３に送出する。

多重／分離部ｅｘ３５３は、映像信号処理部ｅｘ３５５から供給された符号化された映像データと音声信号処理部ｅｘ３５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。

データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナｅｘ３５０を介して受信された多重化データを復号化するために、多重／分離部ｅｘ３５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ３７０を介して符号化された映像データを映像信号処理部ｅｘ３５５に供給するとともに、符号化された音声データを音声信号処理部ｅｘ３５４に供給する。映像信号処理部ｅｘ３５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し（即ち、本発明の一態様に係る画像復号装置として機能する）、ＬＣＤ制御部ｅｘ３５９を介して表示部ｅｘ３５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ｅｘ３５４は、音声信号を復号し、音声出力部ｅｘ３５７から音声が出力される。

また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムｅｘ２００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。

このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。

また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。

（実施の形態１１）
上記各実施の形態で示した動画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。

ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。

この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。

図３９は、多重化データの構成を示す図である。図３９に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラフィックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ Ｄｉｇｉｔａｌ Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。

多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。

図４０は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームｅｘ２３５、複数のオーディオフレームからなるオーディオストリームｅｘ２３８を、それぞれＰＥＳパケット列ｅｘ２３６およびｅｘ２３９に変換し、ＴＳパケットｅｘ２３７およびｅｘ２４０に変換する。同じくプレゼンテーショングラフィックスストリームｅｘ２４１およびインタラクティブグラフィックスｅｘ２４４のデータをそれぞれＰＥＳパケット列ｅｘ２４２およびｅｘ２４５に変換し、さらにＴＳパケットｅｘ２４３およびｅｘ２４６に変換する。多重化データｅｘ２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。

図４１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図４１における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図４１の矢印ｙｙ１，ｙｙ２，ｙｙ３，ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ Ｐｒｅｓｅｎｔａｔｉｏｎ ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。

図４２は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図４２下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。

また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ Ａｓｓｏｃｉａｔｉｏｎ Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ Ｍａｐ Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ Ｃｌｏｃｋ Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ Ｔｉｍｅ Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ Ｔｉｍｅ Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。

図４３はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。

記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。

多重化データ情報ファイルは、図４４に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。

多重化データ情報は図４４に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。

ストリーム属性情報は図４５に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。

本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。

また、本実施の形態における動画像復号化方法のステップを図４６に示す。ステップｅｘＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報を取得する。次に、ステップｅｘＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップｅｘＳ１０２において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップｅｘＳ１０３において、従来の規格に準拠した動画像復号方法により復号を行う。

このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データであっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。

（実施の形態１２）
上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図４７に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１、ｅｘ５０２、ｅｘ５０３、ｅｘ５０４、ｅｘ５０５、ｅｘ５０６、ｅｘ５０７、ｅｘ５０８、ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。

例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７やカメラｅｘ１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られ、信号処理部ｅｘ５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力された多重化データは、基地局ｅｘ１０７に向けて送信されたり、または記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。

なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファｅｘ５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。

また、上記では、制御部ｅｘ５０１が、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有するとしているが、制御部ｅｘ５０１の構成は、この構成に限らない。例えば、信号処理部ｅｘ５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ｅｘ５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵｅｘ５０２が信号処理部ｅｘ５０７、または信号処理部ｅｘ５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ｅｘ５０１は、信号処理部ｅｘ５０７、またはその一部を有するＣＰＵｅｘ５０２を備える構成となる。

なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。

また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。

さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。

（実施の形態１３）
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩｅｘ５００において、従来の規格に準拠する映像データを復号する際のＣＰＵｅｘ５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。

この課題を解決するために、テレビｅｘ３００、ＬＳＩｅｘ５００などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図４８は、本実施の形態における構成ｅｘ８００を示している。駆動周波数切替え部ｅｘ８０３は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ｅｘ８０２に対し、映像データを復号するよう指示する。

より具体的には、駆動周波数切替え部ｅｘ８０３は、図４７のＣＰＵｅｘ５０２と駆動周波数制御部ｅｘ５１２から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１、および、従来の規格に準拠する復号処理部ｅｘ８０２は、図４７の信号処理部ｅｘ５０７に該当する。ＣＰＵｅｘ５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵｅｘ５０２からの信号に基づいて、駆動周波数制御部ｅｘ５１２は、駆動周波数を設定する。また、ＣＰＵｅｘ５０２からの信号に基づいて、信号処理部ｅｘ５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態１１に記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態１１に記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵｅｘ５０２における駆動周波数の選択は、例えば、図５０のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファｅｘ５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵｅｘ５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。

図４９は、本実施の形態の方法を実施するステップを示している。まず、ステップｅｘＳ２００では、信号処理部ｅｘ５０７において、多重化データから識別情報を取得する。次に、ステップｅｘＳ２０１では、ＣＰＵｅｘ５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップｅｘＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップｅｘＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。

さらに、駆動周波数の切替えに連動して、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することが考えられる。

また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。

さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵｅｘ５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。

このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。

（実施の形態１４）
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩｅｘ５００の信号処理部ｅｘ５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ｅｘ５０７を個別に用いると、ＬＳＩｅｘ５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。

この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図５１Ａのｅｘ９００に示す。例えば、上記各実施の形態で示した動画像復号方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキングフィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ｅｘ９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明の一態様に特有の他の処理内容については、専用の復号処理部ｅｘ９０１を用いるという構成が考えられる。特に、本発明の一態様は、イントラ予測処理に特徴を有していることから、例えば、イントラ予測処理については専用の復号処理部ｅｘ９０１を用い、それ以外のエントロピー復号、逆量子化、デブロッキングフィルタ、動き補償のいずれか、または、全ての処理については、復号処理部を共有することが考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。

また、処理を一部共有化する他の例を図５１Ｂのｅｘ１０００に示す。この例では、本発明の一態様に特有の処理内容に対応した専用の復号処理部ｅｘ１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ｅｘ１００２と、本発明の一態様に係る動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ｅｘ１００３とを用いる構成としている。ここで、専用の復号処理部ｅｘ１００１、ｅｘ１００２は、必ずしも本発明の一態様、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩｅｘ５００で実装することも可能である。

このように、本発明の一態様に係る動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。

本発明による映像を符号化・復号する方法・装置は、符号化効率を改善するという効果を有する。例えば、本方法はビデオカメラ、携帯電話、パーソナルコンピュータに適用できる。

２０００ 動き予測
２００２ 動き補償
２００４ イントラ予測
２００６ スイッチ部
２００８ 減算部
２０１０ 変換
２０１２ 量子化
２０１４ エントロピー符号化
２０１６ 逆量子化
２０１８ 逆変換
２０２０ 合算部
２０２２ フィルタ
２０２４ イントラ予測メモリ
２０２６ ピクチャメモリ
２１００ エントロピー復号
２１０２ 逆量子化
２１０４ 逆変換
２１０６ 動き補償
２１０８ イントラ予測
２１１０ スイッチ部
２１１２ 合算部
２１１４ フィルタ
２１１６ イントラ予測メモリ
２１１８ ピクチャメモリ

Claims (4)

1. 色平面間予測を利用する映像符号化方法であって、
   色平面フォーマットを示すパラメータを、圧縮映像ビットストリームのヘッダに書き込み、
   前記色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、
   第１色平面の複数の元のサンプルからなる第１ブロックを符号化して前記圧縮映像ビットストリームに含め、
   複数の元のサンプルからなる前記第１ブロックに対応する前記第１色平面の複数の再構築サンプルからなるブロックを再構築し、
   前記選択された再スケーリング方式と前記第１色平面の複数の再構築サンプルからなる前記ブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、
   前記第２色平面の複数の元のサンプルからなる、前記第１ブロックと整列された位置にある第２ブロックから、前記第２色平面の複数の予測サンプルからなる前記ブロックを減算することで、第２色平面の複数の残差サンプルからなるブロックを生成し、
   前記第２色平面の複数の残差サンプルからなる前記ブロックを符号化して前記圧縮映像ビットストリームに含める
   映像符号化方法。
2. 色平面間予測を利用する映像復号方法であって、
   色平面フォーマットを示すパラメータを、圧縮映像ビットストリームのヘッダから解読し、
   前記色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択し、
   第１色平面の複数の残差サンプルからなる第１ブロックを、前記圧縮映像ビットストリームから復号し、
   前記第１色平面の複数の残差サンプルからなる前記第１ブロックを用いて、前記第１色平面の複数の再構築サンプルからなる第１ブロックを再構築し、
   前記選択された再スケーリング方式と前記第１色平面の複数の再構築サンプルからなる前記ブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成し、
   前記第２色平面の複数の残差サンプルからなる、前記第１ブロックと整列された位置にある第２ブロックを、前記圧縮映像ビットストリームから復号し、
   前記第２色平面の複数の残差サンプルからなる前記第２ブロックと、前記第２色平面の複数の予測サンプルからなる前記ブロックとを合計することにより、前記第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する
   映像復号方法。
3. 色平面間予測を利用する映像符号化装置であって、
   色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダに書き込む書込部と、
   前記色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、
   第１色平面の複数の元のサンプルからなる第１ブロックを符号化して前記圧縮映像ビットストリームに含める符号化部と、
   複数の元のサンプルからなる前記第１ブロックに対応する前記第１色平面の複数の再構築サンプルからなるブロックを再構築する再構築部と、
   前記選択された再スケーリング方式と前記第１色平面の複数の再構築サンプルからなる前記ブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、
   前記第２色平面の複数の元のサンプルからなる、前記第１ブロックと整列された位置にある第２ブロックから、前記第２色平面の複数の予測サンプルからなる前記ブロックを減算することで、前記第２色平面の複数の残差サンプルからなるブロックを生成する減算部と、
   前記第２色平面の複数の残差サンプルからなる前記ブロックを符号化して前記圧縮映像ビットストリームに含める符号化部と
   を備える映像符号化装置。
4. 色平面間予測を利用する映像復号装置であって、
   色平面フォーマットを示すパラメータを圧縮映像ビットストリームのヘッダから解読する解読部と、
   前記色平面フォーマットに基づいて、複数の予め定められた再スケーリング方式のうちの一つを選択する選択部と、
   第１色平面の複数の残差サンプルからなる第１ブロックを、前記圧縮映像ビットストリームから復号する復号部と、
   前記第１色平面の複数の残差サンプルからなる前記第１ブロックを用いて、前記第１色平面の複数の再構築サンプルからなる第１ブロックを再構築する再構築部と、
   前記選択された再スケーリング方式と前記第１色平面の複数の再構築サンプルからなる前記ブロックとを用いて色平面間予測処理を実行することによって、第２色平面の複数の予測サンプルからなるブロックを生成する予測部と、
   前記第２色平面の複数の残差サンプルからなる、前記第１ブロックと整列された位置にある第２ブロックを、前記圧縮映像ビットストリームから復号する復号部と、
   前記第２色平面の複数の残差サンプルからなる前記第２ブロックと、前記第２色平面の複数の予測サンプルからなる前記ブロックとを合計することにより、前記第２色平面の複数の再構築サンプルからなる第２ブロックを再構築する再構築部と
   を備える映像復号装置。

Images