JP2012169762A - 画像符号化装置と画像復号化装置およびその方法とプログラム - Google Patents

Abstract

【課題】主観画質および符号化効率を向上させる。
【解決手段】参照画像エッジ検出部は、符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う。変換ブロック設定部３２は、検出されたエッジがフレーム内予測モードの予測方向に連続すると推定して、分割後のブロック間の境界でエッジを含まないように符号化対象ブロックの分割処理を行い、変換ブロックを設定する。第１変換部１３や第２量子化部１４、第１量子化部１５、第２量子化部１６は、符号化効率の高い予測モードで変換ブロック毎に処理を行い符号化データを生成する。連続するエッジが複数の変換ブロックをまたいでしまうことを防止して主観画質を向上できる。また、エッジが含まれない変換ブロックを増加させることが可能となり、エネルギー集中の効率化の効果を得ることができる。
【選択図】 図１

Description

この技術は、画像符号化装置と画像復号化装置およびその方法とプログラムに関する。詳しくは、主観画質および符号化効率を向上できるようにする。

従来、静止画像や動画像は、データ量が多いため、伝送時や媒体への記録時に符号化することが一般的となっている。Ｈ．２６４／ＭＰＥＧ−４ ＡＶＣ（以下Ｈ．２６４／ＡＶＣと呼ぶ）等の符号化方式では、直交変換として離散コサイン変換(Discrete Cosine Transform、以下ＤＣＴ)/逆離散コサイン変換(Inverse Discrete Cosine Transform、以下ＩＤＣＴ)が行われている。ＤＣＴ／ＩＤＣＴは、水平方向と垂直方向に１次元ＤＣＴ／ＩＤＣＴを２回行うことで実現されている。これに対して、フレーム内予測（イントラ予測）の予測誤差にエッジがある場合、水平方向と垂直方向にＤＣＴを行うよりも、エッジに沿った方向にＤＣＴを行うことで、よりエネルギーの集中をさせることができる。

例えば、特許文献１は、空間相関を利用するＨ．２６４／ＡＶＣ方式のようなフレーム内予測を行う場合、予測方向と予測誤差の方向性は同一である可能性が高いため、フレーム内予測のモードに応じて直交変換を行う方向を決めている。このように直交変換を行う方向を決めることで、より高いエネルギーの集中を実現して符号化効率の向上がはかられている。

特開２００９−２７２７２７号公報

ところで、直交変換を行う場合、直交変換の方向とともに直交変換の単位である変換ブロックのブロックサイズもエネルギー集中の向上のために重要な要素である。ここで、複数の変換ブロックに連続したエッジがまたいでしまうと、その後の量子化によって、エッジがブロック境界で断続的となるような劣化が目立ちやすくなる。また、ＤＣＴは定常的な信号に対してエネルギーを集中させやすい特性を持つため、エッジが含まれている変換ブロックが多いと符号化効率が低下してしまう。

そこで、本技術では、主観画質および符号化効率を向上させることができる画像符号化装置と画像復号化装置およびその方法とプログラムを提供することを目的とする。

この技術の第１の側面は、符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行うエッジ検出部と、前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記符号化対象ブロックの分割処理を行い、変換ブロックを設定する変換ブロック設定部と、前記変換ブロック毎の直交変換を含む処理を行い、符号化データを生成する符号化処理部とを備える画像符号化装置にある。

この技術においては、符号化対象ブロックに対する参照画像の画像信号を用いてエッジの位置やエッジの強度が検出される。このエッジ検出結果に基づき、符号化対象ブロックの分割処理を行うことで、直交変換等を行う変換ブロックが設定される。変換ブロックの設定では、符号化対象ブロックの分割後のブロックである変換ブロック間の境界に、エッジを含まないように行われる。また、エッジの強度に応じてエッジの優先度を決定して、優先度の高いエッジを含まれないように変換ブロックの設定が行われる。エッジの検出では、符号化対象ブロックに隣接する符号化済みブロックの画像が参照画像として用いられる。また、検出されたエッジがフレーム内予測モードの予測方向に連続すると推定して、変換ブロックが設定される。また、符号化効率の高い予測モードを選択して符号化処理が行われて、符号化処理を行うことにより得られた符号化データに、選択した予測モードを示す情報が含められる。また、設定された変換ブロックを示す情報が符号化データに含められる。また、エッジの検出では、符号化対象ブロックに対して時間方向の符号化済み画像も用いられる。

この技術の第２の側面は、符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う工程と、前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記符号化対象ブロックの分割処理を行い、変換ブロックを設定する工程と、前記変換ブロック毎の直交変換を含む処理を行い、符号化データを生成する工程とを含む画像符号化方法にある。

この技術の第３の側面は、画像の符号化をコンピュータで実行させるプログラムであって、符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う手順と、前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記符号化対象ブロックの分割処理を行い、変換ブロックを設定する手順と、前記変換ブロック毎の直交変換を含む処理を行い、符号化データを生成する手順とを実行させるプログラムにある。

この技術の第４の側面は、符号化データから予測モード情報の抽出を行う情報抽出部と、復号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行うエッジ検出部と、前記予測モード情報と前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記復号化対象ブロックの分割処理を行い、変換ブロックを設定する変換ブロック設定部と、前記変換ブロック毎の逆直交変換を含む処理を行い、画像信号を生成する復号化処理部とを備える画像復号化装置にある。

この技術においては、 符号化データから予測モード情報が抽出される。また、復号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出が行われて、エッジの位置や強度が検出される。このエッジ検出結果と抽出された予測モード情報に基づき、復号化対象ブロックの分割処理を行うことで、逆直交変換等を行う変換ブロックが設定される。変換ブロックの設定では、復号化対象ブロックの分割後のブロックである変換ブロック間の境界に、エッジが含まれないように行われる。また、エッジの強度に応じてエッジの優先度を決定して、優先度の高いエッジが含まれないようにする。エッジの検出では、復号化対象ブロックに隣接する復号化済みブロックの画像が参照画像として用いられる。また、検出されたエッジがフレーム内予測モードの予測方向に連続すると推定して、変換ブロックの設定が行われる。また、復号化対象ブロックに対して時間方向の復号化済み画像を参照画像として用いてエッジ検出が行われる。このようにして変換ブロックが設定されると、この設定された変換ブロック毎の逆直交変換を含む処理が行われて復号画像の生成が行われる。

この技術の第５の側面は、符号化データから予測モード情報の抽出を行う工程と、復号化対象ブロックに対する参照画像の画像信号を用いてエッジの位置を検出する工程と、前記予測モード情報と前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記復号化対象ブロックの分割処理を行い、変換ブロックを設定する工程と、前記変換ブロック毎に逆変換処理を行う工程とを含む画像復号化方法にある。

この技術の第６の側面は、符号化データの復号化をコンピュータで実行させるプログラムであって、前記符号化データから予測モード情報の抽出を行う手順と、復号化対象ブロックに対する参照画像の画像信号を用いてエッジの位置を検出する手順と、前記予測モード情報と前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記復号化対象ブロックの分割処理を行い、変換ブロックを設定する手順と、前記変換ブロック毎に逆変換処理を行う手順
とを実行させるプログラムにある。

なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。

本技術によれば、符号化対象ブロックに対する参照画像の画像信号を用いてエッジが検出される。このエッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように符号化対象ブロックの分割処理を行い、変換ブロックが設定される。また、変換ブロック毎に変換処理が行われて符号化データが生成される。符号化データを復号化処理する画像復号化装置では、復号化対象ブロックに対する参照画像の画像信号を用いてエッジが検出される。このエッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように復号化対象ブロックの分割処理を行い、変換ブロックが設定される。また、変換ブロック毎に逆変換処理が行われて復号画像の画像信号が生成される。

このため、連続するエッジが複数の変換ブロックをまたいでしまうことが防止されて主観画質を向上できる。また、エッジが含まれない変換ブロックを増加させることが可能となり、エネルギー集中の効率化の効果を得ることができる。

第１の実施の形態における画像符号化装置の構成を示す図である。 第１変換部と第１量子化部の構成を示す図である。 第２変換部の構成を示す図である。 第２量子化部の構成を示す図である。 第１逆変換部と第１逆量子化部の構成を示す図である。 第２逆変換部の構成を示す図である。 第２逆量子化部の構成を示す図である。 Ｈ．２６４／ＡＶＣ方式におけるフレーム内予測のマクロブロックを示す図である。 サブブロックと隣接する画素信号の位置関係を説明するための図である。 フレーム内予測における４×４画素の予測モードを示す図である。 予測モード３の場合の１次元ＤＣＴを説明するための図である。 予測モード５の場合の１次元ＤＣＴを説明するための図である。 第１の実施の形態における画像符号化装置の動作を示すフローチャート（１／２）である。 第１の実施の形態における画像符号化装置の動作を示すフローチャート（２／２）である。 参照画像エッジ検出部の動作を説明するための図である。 変換ブロック設定部の動作を説明するための図である。 変換ブロックを設定する手順を示したフローチャートである。 ８×８画素のサブブロックが４つに分割されて変換ブロックが設定された場合を示した図である。 第１の実施の形態における画像復号化装置の構成を示す図である。 第１の実施の形態における画像復号化装置の動作を示すフローチャートである。 第２の実施の形態における画像符号化装置の構成を示す図である。 第２の実施の形態における画像復号化装置の構成を示す図である。 第２の実施の形態における画像復号化装置の動作を示すフローチャートである。 第３の実施の形態における画像符号化装置の構成を示す図である。 第３の実施の形態における画像符号化装置の動作を示すフローチャート（１／２）である。 第３の実施の形態における画像符号化装置の動作を示すフローチャート（２／２）である。 動き補償を用いたエッジ検出を説明するための図である。 第３の実施の形態における画像復号化装置の構成を示す図である。Ｓ 示す図である。 第３の実施の形態における画像復号化装置の動作を示すフローチャートである。

以下、本技術を実施するための形態について説明する。本技術では、フレーム内予測（イントラ予測）のモードに基づいて、エッジの連続性を考慮して直交変換の変換ブロックを設定することで、連続するエッジが複数の変換ブロックをまたぐことを防止して主観画質の向上をはかる。また、エッジが含まれない変換ブロックを増加させることによるエネルギー集中の向上をはかる。また、フレーム間予測（インター予測）においても本技術が適用可能であることを説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態
１−１ 画像符号化装置の構成
１−２ 画像符号化装置の動作
１−３ 画像復号化装置の構成
１−４ 画像復号化装置の動作
２．第２の実施の形態
２−１ 画像符号化装置の構成
２−２ 画像符号化装置の動作
２−３ 画像復号化装置の構成
２−４ 画像復号化装置の動作
３．第３の実施の形態
３−１ 画像符号化装置の構成
３−２ 画像符号化装置の動作
３−３ 画像復号化装置の構成
３−４ 画像復号化装置の動作

＜１．第１の実施の形態＞
［１−１．画像符号化装置の構成］
図１は、第１の実施の形態における画像符号化装置の構成を示している。画像符号化装置１０は、演算部１１、処理選択スイッチ１２、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６、エントロピー符号化部１７を備えている。また、画像符号化装置１０は、処理選択スイッチ１８、第１逆量子化部１９、第２逆量子化部２０、第１逆変換部２１、第２逆変換部２２、演算部２３、参照メモリ２４、予測部２５を備えている。さらに、画像符号化装置１０は、参照画像エッジ検出部３１と変換ブロック設定部３２、および符号化制御部４０を備えている。

演算部１１は、入力画像信号ＤＳ１から後述する予測部２５で生成された予測画像信号ＤＳ１８を減算することで、入力画像に対する予測画像の予測誤差を算出して、予測誤差を示す予測誤差信号ＤＳ２を処理選択スイッチ１２へ出力する。

処理選択スイッチ１２は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいてスイッチ切り替えを行い、予測誤差信号ＤＳ２を第１量子化部１５または第２量子化部１６に出力する。

第１変換部１３は、図２の（Ａ）に示すように、水平垂直ＤＣＴ部１３１を備えている。水平垂直ＤＣＴ部１３１は、処理選択スイッチ１２から供給された予測誤差信号ＤＳ２の水平垂直ＤＣＴを行う。また、水平垂直ＤＣＴ部１３１は、後述する変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、水平垂直ＤＣＴを行う変換ブロックを設定する。水平垂直ＤＣＴ部１３１は、水平垂直ＤＣＴを行うことにより得られた変換係数ＤＳ３を第１量子化部１５に出力する。

第１量子化部１５は、図２の（Ｂ）に示すように、水平垂直量子化部１５１を備えている。水平垂直量子化部１５１は、第１変換部１３から出力された変換係数ＤＳ３の量子化を行う。また、水平垂直量子化部１５１は、量子化を行うことにより得られた量子化データＤＳ５をエントロピー符号化部１７と処理選択スイッチ１８に出力する。

第２変換部１４は、斜め方向の予測方向毎に設けたＤＣＴ部と、予測方向に対応したＤＣＴ部を選択するためのパターン選択スイッチを備えている。例えば、後述する図１０を用いた説明のように、フレーム内予測モードにおいて、予測方向が斜め方向である予測モード３から予測モード８までの６つのモードが設けられているとする。この場合、第２変換部１４は、図３に示すように、予測モード３の斜め方向に対応する第１斜め方向パターンＤＣＴ部１４１、・・・予測モード８の斜め方向に対応する第６斜め方向パターンＤＣＴ部１４６を備えている。また、第２変換部１４は、予測モードに応じたＤＣＴ部を選択するためのパターン選択スイッチ１４０を備えている。

パターン選択スイッチ１４０は、処理選択スイッチ１２から供給された予測誤差信号ＤＳ２を、後述する予測部２５からの予測モード情報ＤＳ２０に基づき、第１斜め方向パターンＤＣＴ部１４１〜第６斜め方向パターンＤＣＴ部１４６のいずれかに供給する。例えば、パターン選択スイッチ１４０は、予測モード情報ＤＳ２０が予測モード３であることを示している場合、予測モード３の斜め方向に対応する第１斜め方向パターンＤＣＴ部１４１に予測誤差信号ＤＳ２を供給する。また、パターン選択スイッチ１４０は、予測モード情報ＤＳ２０が予測モード８であることを示している場合、予測モード８の斜め方向に対応する第６斜め方向パターンＤＣＴ部１４６に予測誤差信号ＤＳ２を供給する。

第１斜め方向パターンＤＣＴ部１４１は、パターン選択スイッチ１４０を介して供給された予測誤差信号ＤＳ２に対して予測方向に応じたＤＣＴを行う。また、第１斜め方向パターンＤＣＴ部１４１は、後述する変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、ＤＣＴの変換ブロックを設定する。第１斜め方向パターンＤＣＴ部１４１は、ＤＣＴを行うことにより得られた変換係数ＤＳ４を第２量子化部１６に出力する。また、第２斜め方向パターンＤＣＴ部１４２〜第６斜め方向パターンＤＣＴ部１４６も同様に、予測誤差信号ＤＳ２に対して予測方向に応じたＤＣＴを行い、得られた変換係数ＤＳ４を第２量子化部１６に出力する。このように、第２変換部１４は、第１斜め方向パターンＤＣＴ部１４１〜第６斜め方向パターンＤＣＴ部１４６を予測モード情報ＤＳ２０に基づき選択的に用いて、変換ブロック設定情報ＤＳ３２に基づいた変換ブロック毎に予測モードに応じたＤＣＴを行う。

第２量子化部１６は、斜め方向の予測方向毎に設けた量子化部と、予測方向に対応した量子化部を選択するためのパターン選択スイッチを備えている。例えば、予測方向が斜め方向である予測モード３から予測モード８までの６つのモードが設けられているとする。この場合、第２量子化部１６は、図４に示すように、予測モード３の斜め方向に対応する第１斜め方向パターン量子化部１６１、・・・、予測モード８の斜め方向に対応する第６斜め方向パターン量子化部１６６を備えている。また、第２量子化部１６は、予測モードに応じた量子化部を選択するためのパターン選択スイッチ１６０を備えている。

パターン選択スイッチ１６０は、第２変換部１４から供給された変換係数ＤＳ４を、予測部２５からの予測モード情報ＤＳ２０に基づき、第１斜め方向パターン量子化部１６１〜第６斜め方向パターン量子化部１６６のいずれかに供給する。例えば、パターン選択スイッチ１６０は、予測モード情報ＤＳ２０が予測モード３を示す場合、予測モード３に対応する第１斜め方向パターン量子化部１６１に、第２変換部１４の第１斜め方向パターンＤＣＴ部１４１で得られた変換係数ＤＳ４を供給する。また、パターン選択スイッチ１６０は、予測モード情報ＤＳ２０が予測モード８を示す場合、予測モード８の斜め方向に対応する第６斜め方向パターン量子化部１６６に、第２変換部１４の第６斜め方向パターンＤＣＴ部１４６で得られた変換係数ＤＳ４を供給する。

第１斜め方向パターン量子化部１６１は、第２変換部１４の第１斜め方向パターンＤＣＴ部１４１からパターン選択スイッチ１６０を介して供給された変換係数ＤＳ４の量子化を行う。また、第１斜め方向パターン量子化部１６１は、後述する変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、変換ブロック毎の変換係数ＤＳ４を量子化する。第１斜め方向パターン量子化部１６１は、量子化を行うことにより得られた量子化データＤＳ６をエントロピー符号化部１７と処理選択スイッチ１８に出力する。第２斜め方向パターン量子化部１６２〜第６斜め方向パターン量子化部１６６も同様に、予測方向に応じたＤＣＴで得られた変換係数ＤＳ４を、変換ブロック毎に量子化して、量子化データＤＳ６をエントロピー符号化部１７と処理選択スイッチ１８に出力する。このように、第２量子化部１６は、第２変換部１４で予測方向に応じてＤＣＴが行われた変換係数を、予測方向毎にＤＣＴのブロック毎に量子化する。

図１のエントロピー符号化部１７は、第１量子化部１５から供給された量子化データＤＳ５または第２量子化部１６から供給された量子化データＤＳ６のエントロピー符号化を行う。また、エントロピー符号化部１７は、後述する予測部２５で生成された予測モード情報ＤＳ２０や符号化制御部４０で生成された変換情報ＤＳ４０等のエントロピー符号化を行う。エントロピー符号化部１７は、エントロピー符号化を行うことにより得られた符号化データＤＳＣを出力する。

処理選択スイッチ１８は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいて逆変換方法の選択を行い、第１量子化部１５からの量子化データＤＳ５を第１逆量子化部１９、第２量子化部１６からの量子化データＤＳ６を第２逆量子化部２０に出力する。

第１逆量子化部１９は、図５の（Ａ）に示すように、水平垂直逆量子化部１９１を備えている。水平垂直逆量子化部１９１は、処理選択スイッチ１８を介して供給された量子化データＤＳ５の逆量子化を行う。また、水平垂直逆量子化部１９１は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、第１量子化部１５と対応した変換ブロック毎に量子化データの逆量子化を行う。第１逆量子化部１９は、逆量子化を行うことにより得られた変換係数ＤＳ１１を第１逆変換部２１に出力する。

第１逆変換部２１は、図５の（Ｂ）に示すように、水平垂直逆ＤＣＴ部２１１を備えている。水平垂直逆ＤＣＴ部２１１は、第１逆量子化部１９から供給された変換係数ＤＳ１１に対して、第１変換部１３における水平垂直方向のＤＣＴに対応する水平垂直方向の逆ＤＣＴを行う。水平垂直逆ＤＣＴ部２１１は、逆ＤＣＴ変換を行うことにより得られた予測誤差信号ＤＳ１３を演算部２３に出力する。

第２逆量子化部２０は、第２量子化部１６で行われた量子化に対応する逆量子化を行うように構成されている。例えば第２逆量子化部２０は、図６に示すように、パターン選択スイッチ２００と第１斜め方向パターン逆量子化部２０１〜第６斜め方向パターン逆量子化部２０６を備えている。

パターン選択スイッチ２００は、処理選択スイッチ１８を介して供給された量子化データＤＳ６を、予測部２５からの予測モード情報ＤＳ２０に基づき、第１斜め方向パターン逆量子化部２０１〜第６斜め方向パターン逆量子化部２０６のいずれかに供給する。例えば、パターン選択スイッチ２００は、予測モード情報ＤＳ２０が予測モード３を示している場合、予測モード３に対応する第１斜め方向パターン逆量子化部２０１に、第２量子化部１６の第１斜め方向パターン量子化部１６１で得られた量子化データＤＳ６を供給する。同様に、パターン選択スイッチ２００は、予測モード情報ＤＳ２０が予測モード８を示している場合、予測モード８に対応する第６斜め方向パターン逆量子化部２０６に、第２量子化部１６の第６斜め方向パターン量子化部１６６で得られた量子化データＤＳ６を供給する。

第１斜め方向パターン逆量子化部２０１は、パターン選択スイッチ２００を介して供給された量子化データＤＳ６に対して、第２量子化部１６における第１斜め方向パターン量子化部１６１の量子化に対応する逆量子化を行う。また、第１斜め方向パターン逆量子化部２０１は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、第２量子化部１６と対応した変換ブロック毎に量子化データの逆量子化を行う。第１斜め方向パターン逆量子化部２０１は、逆量子化を行うことにより得られた変換係数ＤＳ１２を第２逆変換部２２に出力する。また、第２斜め方向パターン逆量子化部２０２〜第６斜め方向パターン逆量子化部２０６も同様に、供給された量子化データＤＳ６の逆量子化を行い、得られた変換係数ＤＳ１２を第２逆変換部２２に出力する。このように、第２逆量子化部２０は、第２量子化部１６の量子化と対応させて逆量子化を行う。

第２逆変換部２２は、第２変換部１４で行われたＤＣＴに対応する逆ＤＣＴを行うように構成されている。例えば第２逆変換部２２は、図７に示すように、パターン選択スイッチ２２０と第１斜め方向パターン逆ＤＣＴ部２２１〜第６斜め方向パターン逆ＤＣＴ部２２６を備えている。

パターン選択スイッチ２２０は、第２逆量子化部２０から供給された変換係数ＤＳ１２を、予測部２５からの予測モード情報ＤＳ２０に基づき、第１斜め方向パターン逆ＤＣＴ部２２１〜第６斜め方向パターン逆ＤＣＴ部２２６のいずれかに供給する。例えば、パターン選択スイッチ２２０は、予測モード情報ＤＳ２０が予測モード３を示している場合、予測モード３に対応する第１斜め方向パターン逆ＤＣＴ部２２１に、第２逆量子化部２０の第１斜め方向パターン逆量子化部２０１で得られた変換係数ＤＳ１２を供給する。同様に、パターン選択スイッチ２００は、予測モード情報ＤＳ２０が予測モード８を示している場合、予測モード８に対応する第６斜め方向パターン逆ＤＣＴ部２２６に、第２逆量子化部２０の第６斜め方向パターン逆量子化部２０６で得られた変換係数ＤＳ１２を供給する。

第１斜め方向パターン逆ＤＣＴ部２２１は、パターン選択スイッチ２２０を介して供給された変換係数ＤＳ１２に対して、第２変換部１４における第１斜め方向パターンＤＣＴ部１４１のＤＣＴに対応する逆ＤＣＴを行う。第１斜め方向パターン逆ＤＣＴ部２２１は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、第２変換部１４と対応した変換ブロック毎に変換係数の逆ＤＣＴを行う。第１斜め方向パターン逆ＤＣＴ部２２１は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ１４を演算部２３に出力する。また、第１斜め方向パターン逆ＤＣＴ部２２２〜第１斜め方向パターン逆ＤＣＴ部２２６も同様に、供給された変換係数ＤＳ１２の逆量子化を行い、得られた予測誤差信号ＤＳ１４を第２逆変換部２２に出力する。このように、第２逆変換部２２は、第２変換部１４における予測方向に応じたＤＣＴと対応する逆ＤＣＴを行う。

演算部２３は、第１逆変換部２１から供給された予測誤差信号ＤＳ１３、または第２逆変換部２２から供給された予測誤差信号ＤＳ１４に、予測部２５で生成された予測画像信号ＤＳ１８を加算して、参照画像信号ＤＳ１５を生成する。演算部２３は、生成した参照画像信号ＤＳ１５を参照メモリ２４に記憶させる。

参照メモリ２４に記憶されている参照画像信号ＤＳ１５は、予測部２５と参照画像エッジ検出部３１に供給される。

予測部２５は、参照画像信号ＤＳ１５を用いて予測モード毎にフレーム内予測を行う。また、予測部２５は、符号化効率が最も高くなる予測モードを判別して、符号化効率が最も高くなる予測モードを示す予測モード情報ＤＳ２０を生成する。予測部２５は、生成した予測モード情報ＤＳ２０を第２変換部１４、第２量子化部１６、第２逆量子化部２０、第２逆変換部、および変換ブロック設定部３２に出力する。さらに、予測部２５は、符号化効率が最も高くなる予測モードで予測画像信号ＤＳ１８を生成して、演算部１１，２３に出力する。

参照画像エッジ検出部３１は、参照メモリ２４に記憶されている符号化済み隣接ブロックの画像信号を用いてエッジ検出を行い、エッジの位置とエッジの強度（濃度変化の急峻さ）を示す指標ＤＳ３１を変換ブロック設定部３２に出力する。

変換ブロック設定部３２は、参照画像エッジ検出部３１から供給された指標ＤＳ３１と予測部２５から供給された予測モード情報ＤＳ２０に基づき、符号化対象のサブブロック内におけるエッジの連続性を推定する。変換ブロック設定部３２は、推定結果から符号化対象のサブブロックの分割を行い、直交変換および量子化における変換ブロックを設定して、この設定した変換ブロックを示す変換ブロック設定情報ＤＳ３２を生成する。変換ブロック設定部３２は、生成した変換ブロック設定情報ＤＳ３２を、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６、第１逆量子化部１９、第２逆量子化部２０、第１逆変換部２１、第２逆変換部２２に出力する。

符号化制御部４０は、変換情報ＤＳ４０を生成する。変換情報ＤＳ４０は、直交変換に関して水平垂直ＤＣＴや水平垂直量子化を行う処理と、予測モード情報ＤＳ２０が示す予測方向に沿って１次元ＤＣＴや量子化を行う処理のいずれかを選択するための情報である。符号化制御部４０は、生成した変換情報ＤＳ４０を処理選択スイッチ１２，エントロピー符号化部１７，処理選択スイッチ１８に出力する。

［１−２．画像符号化装置の動作］
次に、画像符号化装置の動作について説明する。例えばＨ．２６４／ＡＶＣ方式のフレーム内予測における輝度信号においては、図８の（Ａ）に示すように、符号化対象フレームに複数のマクロブロックが設けられている。図８の（Ｂ）は、１６個の４×４画素のサブブロックを持つマクロブロックを示している、図８の（Ｃ）は、４個の８×８画素のサブブロックを持つマクロブロックを示している。図８の（Ｄ）は、１個の１６×１６画素サブブロックを持つマクロブロックを示している。

また、Ｈ．２６４／ＡＶＣ方式では、１６×１６画素のサブブロックについての予測モードとして、予測モード０〜予測モード３の４つモードが設定されている。また、８×８画素のサブブロックについての予測モードとして、予測モード０〜予測モード８の９つの予測モードが設定されている。さらに、４×４画素のサブブロックについての予測モードとして、予測モード０〜予測モード８の９つの予測モードが設定されている。

図９は、例えば４×４画素のサブブロックに属する画素ａ〜ｐと、サブブロックの左側と左上側と上側と右上側に隣接するブロックにおいて、サブブロックと隣接する画素Ａ〜Ｍの位置関係を説明するための図である。

図１０は、フレーム内予測における４×４画素の予測モードを示している。なお、図１０において矢印は予測方向を示している。図１０の（Ａ）は予測モード０(vertical)を示している。予測モード０は、垂直方向に隣接する参照画素(reference pixel)Ａ〜Ｄから予測値を生成するモードである。図１０の（Ｂ）は予測モード１(horizontal)を示している。予測モード１は、矢印で示すように、水平方向に隣接する参照画素Ｉ〜Ｌより予測値を生成するモードである。図１０の（Ｃ）は予測モード２（DC）を示している。予測モード２は、１３個の参照画素Ａ〜Ｍのうち、このブロックの垂直方向および水平方向に隣接する参照画素Ａ〜ＤおよびＩ〜Ｌより予測値を生成するモードである。

図１０の（Ｄ）は予測モード３(diagonal down-left)を示している。予測モード３は、１３個の参照画素Ａ〜Ｍのうち、水平方向に連続する参照画素Ａ〜Ｈより予測値を生成するモードである。図１０の（Ｅ）は予測モード４(diagonal down-right)を示している。予測モード４は、１３個の参照画素Ａ〜Ｍのうち、当該ブロックに隣接する参照画素Ａ〜Ｄ、Ｉ〜Ｍとにより予測値を生成するモードである。図１０の（Ｆ）は予測モード５(vertical-right)を示している。予測モード５は、１３個の参照画素Ａ〜Ｍのうち、当該ブロックに隣接する参照画素Ａ〜Ｄ、Ｉ〜Ｍとにより予測値を生成するモードである。

図１０の（Ｇ）は予測モード６(horizontal-down)を示している。予測モード６は、予測モード４および予測モード５と同様に、１３個の参照画素Ａ〜Ｍのうち、当該ブロックに隣接する参照画素Ａ〜Ｄ、Ｉ〜Ｍにより予測値を生成するモードである。図１０の（Ｈ）は予測モード７(vertical-left)を示している。予測モード７は、１３個の参照画素Ａ〜Ｍのうち、当該ブロックの上方に隣接する４個の参照画素Ａ〜Ｄと、この４個の参照画素Ａ〜Ｄに続く４個の参照画素Ｅ〜Ｇとにより予測値を生成するモードである。図１０の（Ｉ）は予測モード８(horizontal-up)を示している。予測モード８は、１３個の参照画素Ａ〜Ｍのうち、当該ブロックの左方に隣接する４個の参照画素Ｉ〜Ｌにより予測値を生成するモードである。

予測部２５は、上述の各予測モードで予測画像信号ＤＳ１８を生成する。また、符号化制御部４０は、予測部２５で選択された予測モードに応じて変換情報ＤＳ４０を生成する。例えば直交変換に関して水平垂直ＤＣＴや水平垂直量子化を行う処理と、予測モード情報ＤＳ２０が示す予測方向に沿って１次元ＤＣＴや量子化を行う処理のいずれかを選択するための情報である変換情報ＤＳ４０を生成する。

処理選択スイッチ１２は、変換情報ＤＳ４０で水平垂直方向の予測モードであることが示された場合、水平垂直方向のＤＣＴを行うように、予測誤差信号ＤＳ２を第１変換部１３に供給する。また、処理選択スイッチ１２は、変換情報ＤＳ４０で斜め方向予測モードであることが示された場合、予測方向に沿って１次元ＤＣＴを行うように、予測誤差信号ＤＳ２を第２変換部１４に供給する。

処理選択スイッチ１８は、変換情報ＤＳ４０が水平垂直方向の予測モードであることを示す場合、水平垂直方向のＤＣＴや量子化によって得られた量子化データに対して対応する逆量子化や逆変換を行うため、量子化データＤＳ５を第１逆量子化部１９に供給する。処理選択スイッチ１８は、変換情報ＤＳ４０が斜め方向予測モードであることが示す場合、斜め方向の１次元ＤＣＴや量子化によって得られた量子化データに対して、対応する逆量子化や逆変換を行うため、量子化データＤＳ６を第２逆量子化部２０に供給する。

ここで、符号化効率が最も高い予測モードの判定について説明する。予測部２５は、各予測モードで符号化処理を行い、その結果得られた符号化コストが最小となる予測モードを最適モードと判定する。具体的には、式（１）を用いて符号化コストＫを算出して、符号化コストＫが最小となる予測モードを最適モードとする。
Ｋ＝ＳＡＤ＋λ×ＯＨ ・・・（１）
なお、差分誤差ＳＡＤは、予測モードに規定された予測方法で生成された予測画像信号と入力画像信号との差分値の絶対値である。サイド情報ＯＨは、その予測モードを用いたときに必要となる種々の情報量である。係数λは、ラグランジュ乗数である。

また、最適モードの判定では、サイド情報と差分値の絶対値を用いる場合に限らず、モード情報のみ、予測誤差信号の絶対和のみを用いてモードを判定してもよいし、これらをアダマール変換したり、近似した値を利用したりしてもよい。また、入力画像のアクティビティを用いて符号化コストＫを求めるようにしてもよいし、量子化スケールを利用して符号化コストを求めるようにしてもよい。

符号化コストＫは、式（２）を用いて算出することもできる。
Ｋ＝Ｄ＋λ×Ｒ ・・・（２）
なお、符号化歪Ｄは、入力画像信号と局部復号画像信号の二乗誤差を示す。符号量Ｒは、仮符号化によって見積もられた符号量である。また、係数λは、量子化パラメータに基づいて決定される定数である。
式（２）を用いて符号化コストを算出する場合、画像符号化装置１０は、モード毎にエントロピー符号化と局部復号(逆量子化や逆変換処理を含む)が必要となる。したがって、回路規模は増大するが、正確な符号量と符号化歪を用いることが可能となり、符号化効率を高く維持することが可能である。

次に、予測方向に沿った１次元ＤＣＴの方法について、Ｈ．２６４／ＡＶＣ方式で行われているＤＣＴについて説明する。４×４画素のサブブロックに対して、入力画像信号をＸ、変換行列をＴとすると、変換係数Ｃは式（３）に従って求められる。

すなわち、入力画像信号に対して、変換行列Ｔを用いて、水平方向に１次元ＤＣＴをかけた後、変換行列Ｔの転置行列Ｔ^tを用いて、垂直方向に１次元ＤＣＴをかけている。また、この演算は、８×８画素のサブブロックに対しても同様である。

次に、Ｈ．２６４／ＡＶＣ方式で定められているフレーム内予測の９種類の予測モード中から、予測モード０（vertical）と予測モード１（horizontal）および予測モード２（DC）の３種類を除いた６方向の予測モードについては、予測方向に沿ったＤＣＴを行う。

以下、図９に示す４×４画素のサブブロックについて、予測方向に沿ったＤＣＴを行う場合を説明する。例えば予測モード３の場合、サブブロック内の画素を、予測方向に沿って、（ａ）、（ｂ，ｅ）、（ｃ，ｆ，ｉ）、（ｄ，ｇ，ｊ，ｍ）、（ｈ，ｋ，ｎ）、（ｌ，ｏ）、（ｐ）の７組に画素をまとめる。

図１１の（Ａ）は、１次元ＤＣＴを行う画素列の組み合わせを示している。変換係数をＦ（ｕ）とすると、４×４画素のブロックの対角線にある画素列（ｄ，ｇ，ｊ，ｍ）に関しては、基底長４の１次元ＤＣＴが行われる。

式（４）は基底長を「Ｎ」としたときの変換係数Ｆ（ｕ）を示している。

画素列（ｄ，ｇ，ｊ，ｍ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝４」、「ｆ（０）＝ｄ，ｆ（１）＝ｇ，ｆ（２）＝ｊ，ｆ（３）＝ｍ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。

画素列（ｃ，ｆ，ｉ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝３」、「ｆ（０）＝ｃ，ｆ（１）＝ｆ，ｆ（２）＝ｉ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。

画素（ａ）と画素列（ｂ，ｅ）については、画素を折り返し結合して変換係数Ｆ（ｕ）を求める。この場合、基底長「Ｎ＝３」、「ｆ（０）＝ｂ，ｆ（１）＝ｅ，ｆ（２）＝ａ、またはｆ（０）＝ｅ， ｆ（１）＝ｂ， ｆ（２）＝ａ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。

図１１の（Ｂ）は、画素を折り返し結合せずに１次元ＤＣＴを行う場合を示している。画素列（ｄ，ｇ，ｊ，ｍ）、（ｅ，ｆ，ｉ）に関しては図１１の（Ａ）と同様であるが、画素列（ｂ，ｅ）と画素（ａ）に関して、画素を折り返し結合せずそれぞれに対して１次元ＤＣＴを行う。すなわち、画素列（ｂ，ｅ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝２」、「ｆ（０）＝ｂ，ｆ（１）＝ｅ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。また、画素（ａ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝１」、「ｆ（０）＝ａ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。

図１１の（Ｃ）は、画素列（ｃ，ｆ，ｉ）、（ｅ，ｂ）と画素（ａ）を全て折り返し結合して１次元ＤＣＴを行う場合を示している。画素列（ｄ，ｇ，ｊ，ｍ）に関しては図１１の（Ａ）と同様であるが、画素列（ｃ，ｆ，ｉ）、（ｅ，ｂ）と画素（ａ）に関しては、各画素を折り返し結合させて１次元ＤＣＴを行う。すなわち、画素列（ｃ，ｆ，ｉ，ｅ，ｂ，ａ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝６」、「ｆ（０）＝ｃ，ｆ（１）＝ｆ，ｆ（２）＝ｉ，ｆ（３）＝ｅ，ｆ（４）＝ｂ，ｆ（５）＝ａ、またはｆ（０）＝ｉ，ｆ（１）＝ｆ，ｆ（２）＝ｃ，ｆ（３）＝ｂ，ｆ（４）＝ｅ，ｆ（５）＝ａ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。なお、画素列（ｈ，ｋ，ｎ）、（ｌ，ｅ）と画素（ｐ）についても同様にして、変換係数Ｆ（ｕ）を求めることができる。

また、予測モード４の場合は、予測モード３の予測方向を左右反転したものと考えられるので、予測モード３の時と同様にしてＤＣＴ演算を行うことが可能である。

次に、予測モード５〜８に対応するＤＣＴ演算方法を説明する。予測モード５の場合、サブブロック内の画素を、予測方向に沿って、（ａ，ｅ，ｊ，ｎ）、（ｂ，ｆ，ｋ，ｏ）、（ｃ，ｇ，ｌ，ｐ）、（ｉ，ｍ）、（ｄ，ｈ）の５組の画素列をまとめる。１次元ＤＣＴをかける画素列の組み合わせを図１２の（Ａ）に示す。画素列（ａ，ｅ，ｊ，ｎ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝４」、「ｆ（０）＝ａ，ｆ（１）＝ｅ，ｆ（２）＝ｊ，ｆ（３）＝ｎ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。また、画素列（ｂ，ｆ，ｋ，ｏ）、（ｃ，ｇ，ｌ，ｐ）に関しても同様に演算を行うことで変換係数Ｆ（ｕ）を求めることができる。

画素列（ｉ，ｍ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝３」、「ｆ（０）＝ｉ，ｆ（１）＝ｍ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。また、画素列（ｄ，ｈ）に関しても同様に演算を行うことで変換係数Ｆ（ｕ）を求めることができる。

また、予測モード５に対応したＤＣＴ演算の別の例として、画素を折り返し合わせて１次ＤＣＴを行う方法が考えられる。この時の１次元ＤＣＴをかける画素列の組み合わせを図１２の（Ｂ）に示す。画素列（ｂ，ｆ，ｋ，ｏ）に関しては上述の１次元ＤＣＴと同様であるが、画素列（ａ，ｅ，ｊ，ｎ）、（ｍ，ｉ）と画素列（ｐ，ｌ，ｇ，ｃ）、（ｄ，ｈ）に関しては、画素を折り返し結合して１次元ＤＣＴを行う。すなわち、画素列（ａ，ｅ，ｊ，ｎ，ｍ，ｉ）に関して変換係数Ｆ（ｕ）を求める場合、基底長「Ｎ＝６」、「ｆ（０）＝ａ，ｆ（１）＝ｅ，ｆ（２）＝ｊ，ｆ（３）＝ｎ，ｆ（４）＝ｍ，ｆ（５）＝ｉ」として、式（４）の演算を行うことで、変換係数Ｆ（ｕ）を求めることができる。また、画素列（ｐ，ｌ，ｇ，ｃ）、（ｄ，ｈ）に関しても同様に演算を行うことで変換係数Ｆ（ｕ）を求めることができる。

予測モード６〜８の場合は、予測モード５の予測方向を回転または反転したものと考えられるので、予測モード５の時と同様にしてＤＣＴ演算を行うことが可能である。

また、符号化対象のサブブロックのブロックサイズは、４×４画素よりも小さいサイズのブロックや、４×４画素よりも大きいサイズのブロックをサブブロックとして符号化処理を行うことも可能である。また、ＤＣＴ演算は、実数ＤＣＴ演算に限らず整数演算でＤＣＴを行うことも可能である。

図１３，図１４は、第１の実施の形態における画像符号化装置１０の動作を示すフローチャートである。なお、符号化処理では、図１０に示す予測モード０〜予測モード８が設けられているとする。

ステップＳＴ１で画像符号化装置１０は、入力画像を取得する。画像符号化装置１０は、入力画像信号ＤＳ１を取得して、マクロブロック毎またはマクロブロックペア毎に符号化を開始する。

ステップＳＴ２で画像符号化装置１０は、サブブロックに関する初期化を行う。画像符号化装置１０は、サブブロックのインデックスsub_blkを初期化して「sub_blk=０」とし、同時に最大サブブロック数MAX_SUB_BLKをセットしてステップＳＴ３に進む。

ステップＳＴ３で画像符号化装置１０は、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さいか判別する。画像符号化装置１０は、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さい場合、マクロブロック内のサブブロックにまだ符号化していないサブブロックが存在することからステップＳＴ４に進む。画像符号化装置１０は、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さくない場合、マクロブロック内のサブブロックに符号化していないサブブロックは存在しないことからステップＳＴ２２に進む。

ステップＳＴ４で画像符号化装置１０は、予測モードに関する初期化を行う。画像符号化装置１０は、予測モードのインデックスmode_idxを初期化して「mode_idx＝０」とし、選択されうる最大モード数MAX_MODEをセットする。例えば、予測モード０〜予測モード８の９つの予測モードが設けられている場合、「MAX_MODE＝９」とする。なお、予測モードのインデックスmode_idx＝０は予測モード０に対応する。同様に、インデックスmode_idx＝１〜８は予測モード１〜予測モード８に対応する。

ステップＳＴ５で画像符号化装置１０は、予測モードのインデックスmode_idxが最大モード数MAX_MODEよりも小さいか判別する。画像符号化装置１０は、予測モードのインデックスmode_idxが最大モード数MAX_MODEよりも小さい場合、全てのフレーム内予測モードが試されていないことからステップＳＴ６に進む。画像符号化装置１０は、予測モードのインデックスmode_idxが最大モード数MAX_MODEよりも小さくない場合、全てのフレーム内予測モードが試されたことからステップＳＴ２１に進む。

ステップＳＴ６で画像符号化装置１０は変換情報trans_idxをセットする。画像符号化装置１０は、予測モードのインデックスmode_idxの値に応じて変換情報trans_idxをセットする。画像符号化装置１０は、予測モードのインデックスmode_idxが斜め方向予測モード（予測モード３〜予測モード８）を示している場合、変換情報trans_idxを「trans_idx＝０」にセットしてステップＳＴ７に進む。また、画像符号化装置１０は、非斜め方向の予測モード（予測モード０〜予測モード２）を示している場合、変換情報trans_idxを「trans_idx＝１」にセットしてステップＳＴ７に進む。

ステップＳＴ７で画像符号化装置１０は、インデックスmode_idxの予測モードで予測画像信号を生成する。画像符号化装置１０は、インデックスmode_idxで示された予測モードの予測画像信号を、参照画像の画像信号を用いて生成してステップＳＴ８に進む。

ステップＳＴ８で画像符号化装置１０は、予測誤差信号を生成する。画像符号化装置１０は、生成されたインデックスmode_idxの予測モードの予測画像信号ＤＳ１８と入力画像信号ＤＳ１との差分を算出することで、予測誤差信号ＤＳ２を生成してステップＳＴ９に進む。

ステップＳＴ９で画像符号化装置１０は、エッジ検出を行う。画像符号化装置１０は、記憶されている参照画像の画像信号（符号化済み隣接ブロックの画像信号）を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ３１を生成してステップＳＴ１０に進む。

ステップＳＴ１０で画像符号化装置１０は、変換ブロックを設定する。画像符号化装置１０は、エッジの位置とエッジの強度を示す指標ＤＳ３１およびインデックスmode_idxで示される予測モードの方向に基づいて、符号化対象のサブブロック内におけるエッジの連続性を推定する。さらに、画像符号化装置１０は、推定結果に基づき変換ブロックを設定して変換ブロック設定情報ＤＳ３２の生成を行いステップＳＴ１１に進む。

ステップＳＴ１１で画像符号化装置１０は、予測モードのインデックスmode_idxが、斜め方向予測モードのモード番号のうち最小値である斜め方向予測モードの最小モード番号mode_directionよりも小さいか、または変換情報が「trans_idx＝１」かどうかを判別する。画像符号化装置１０は、予測モードのインデックスmode_idxが最小モード番号mode_directionよりも小さい場合、または変換情報「trans_idx＝１」の場合の少なくともいずれかの場合にステップＳＴ１２に進む。また、画像符号化装置１０は、他の場合にステップＳＴ１４に進む。

ステップＳＴ１２で画像符号化装置１０は、水平垂直ＤＣＴを行いステップＳＴ１３に進む。ステップＳＴ１３で画像符号化装置１０は、水平垂直量子化を行いステップＳＴ１６に進む。画像符号化装置１０は、例えば処理選択スイッチ１２を第１変換部１３側に切り替えて、第１変換部１３と第１量子化部１５を用いてＤＣＴと量子化を行う。

ステップＳＴ１４で画像符号化装置１０は、斜め方向パターンＤＣＴを行いステップＳＴ１５に進む。ステップＳＴ１５で画像符号化装置１０は、斜め方向パターン量子化を行いステップＳＴ１６に進む。画像符号化装置１０は、例えば処理選択スイッチ１２を第２変換部１４側に切り替える。また、画像符号化装置１０は、第２変換部１４のパターン選択スイッチ１４０と第２量子化部１６のパターン選択スイッチ１６０を予測モードのインデックスmode_idxに従って切り替える。画像符号化装置１０は、インデックスmode_idxに従ってスイッチを切り替えることで、予測方向に対応した斜め方向パターンＤＣＴ部と斜め方向パターン量子化部を用いてＤＣＴと量子化を行う。

ステップＳＴ１６で画像符号化装置１０は、エントロピー符号化を行う。画像符号化装置１０は、量子化データＤＳ５，ＤＳ６と予測モード情報ＤＳ２０および変換情報ＤＳ４０をエントロピー符号化してステップＳＴ１７に進む。

ステップＳＴ１７で画像符号化装置１０は、予測モードの符号化コストを保存する。画像符号化装置１０は、上述のようにコスト値Ｋの算出を行い、算出したコスト値Ｋを保存してステップＳＴ１８に進む。

ステップＳＴ１８で画像符号化装置１０は、変換情報trans_idxが「trans_idx＝０」であるか判別する。画像符号化装置１０は、変換情報trans_idxが「trans_idx＝０」である場合、ステップＳＴ１９に進み、変換情報trans_idxが「trans_idx＝０」でない場合、ステップＳＴ２０に進む。

ステップＳＴ１９で画像符号化装置１０は、変換情報trans_idxに「１」を加算して、新たな変換情報trans_idxとしてステップＳＴ１１に戻る。

ステップＳＴ２０で画像符号化装置１０は、予測モードのインデックスmode_idxに「１」を加算して、新たな変換情報trans_idxに「１」を加算して、新たなインデックスmode_idxとしてステップＳＴ５に戻る。

以下同様にしてステップＳＴ５からの処理を繰り返すことで、サブブロックについて可能な全ての予測モードで符号化コストを算出する。

その後、画像符号化装置１０は、ステップＳＴ５で予測モードのインデックスmode_idxが最大モード数MAX_MODE以下でないと判定するとステップＳＴ２１に進む。ステップＳＴ２１で画像符号化装置１０は、サブブロックのインデックスsub_blkに「１」を加算して、新たなインデックスsub_blkとしてステップＳＴ３に戻る。

また、画像符号化装置１０は、ステップＳＴ３でサブブロックのインデックスsub_blkが最大モード数MAX_MODE以下でないと判定してステップＳＴ２２に進むと、サブブロック毎の最適モードのデータをロードする。画像符号化装置１０は、サブブロック毎に求められた各モードの符号化コストを比較し、各サブブロックにおける最適モードのデータをロードしてステップＳＴ２３に進む。また、画像符号化装置１０は、最適モードを示す予測モード情報ＤＳ２０を生成する。

ステップＳＴ２３で画像符号化装置１０は、最適モードで符号化を行った符号化データをマクロブロックで多重化して送出する。また、画像符号化装置１０は、符号化データに予測モード情報ＤＳ２０すなわち最適モードのインデックスmode_idxと変換情報ＤＳ４０すなわち変換情報trans_idxをエントロピー符号化して符号化データに含める。

次に、参照画像エッジ検出部３１の動作について図１５を用いて説明する。図１５の（Ａ）は、符号化対象のサブブロックサイズが１６×１６画素である場合を示している。同図中の斜線で示している個所は、参照メモリ２４に記憶されている符号化済み隣接ブロックの垂直１ライン、水平１ラインの信号である。参照画像エッジ検出部３１は、斜線部で示す隣接する垂直および水平の各１ラインの信号のエッジを検出し、エッジの位置とエッジの強度を示す指標を出力する。例えば、１次元のSobelフィルタを施し、その結果得られる信号を出力する。Sobelフィルタを施した結果得られる信号は、エッジの位置もエッジの強度の情報も持ち合わせている。Sobelフィルタを施した結果得られる信号のイメージを図１５の（Ｂ）に示す。なお、説明を簡単にするために、多値である信号を便宜上白と黒で示し、黒で示した場所にエッジがあることを意味している。ここで、エッジの位置とエッジの強度を示す指標のフォーマットは、フィルタの結果得られる信号でなくてもよい。例えば、エッジの位置の有無を示すフラグと、エッジがある位置のみのエッジの強度を示す点数形式のデータなどを得てもよい。また、エッジの位置とエッジの強度を示す指標が得られれば、その算出にはどのような方法を用いてもよい。例えば、Prewittフィルタやラプラシアンフィルタを用いたり、フィルタ以外の数学的、物理的な方法などを用いてもよい。

また、図１５の（Ａ）（Ｂ）では、符号化対象のサブブロックに隣接する垂直および水平の各１ラインの信号のエッジの位置とエッジの強度を示す指標を得たが、これに限らず、図１５の（Ｃ）（Ｄ）に示すように複数のラインを用いてもよい。さらに、サブブロックのサイズが１６×１６画素と異なるサイズであっても同様の処理を適用することがでる。例えば、図１５の（Ｅ）（Ｆ）に示すように８×８画素の場合も同様の処理を適用できる。

次に、変換ブロック設定部３２の動作について図１６を用いて説明する。図１６の（Ａ）は、符号化対象のサブブロックのブロックサイズが１６×１６画素である場合を示している。変換ブロック設定部３２は、エッジの位置やエッジの強度を示す情報と予測モード情報ＤＳ２０に基づいてサブブロックの分割を行い、変換ブロックを設定する。変換ブロック設定部３２は、エッジの位置と予測モード情報ＤＳ２０に基づき、符号化対象のサブブロック内におけるエッジの連続性を推定する。例えば、参照画像エッジ検出部３１は、隣接ブロックの垂直、水平ラインにSobelフィルタをかけて検出したエッジが、図１６の（Ａ）に示すように予測モード情報ＤＳ２０の示す予測方向に連続していると推定する。なお、図１６の（Ａ）では、予測モード情報ＤＳ２０が予測モード５を示していた場合のエッジ連続性を推定した結果を示している。また、図では、説明を簡単にするため多値の信号を便宜上白と黒で示し、黒の部分がエッジを意味している。

また、図１６の（Ｂ）に示すように、隣接ブロックで、エッジの位置と強度が複数ラインで検出されてエッジの方向が推定できる場合、予測モードと隣接ブロックのエッジの方向から、より適切と考えられる方向にエッジがあると推定する。例えば、予測モードの信頼性と隣接ブロックのエッジの方向の信頼性を数値化し、それらの数値の高い方を採用する。信頼性の数値化は、例えば、エッジの強度が大きい場合は、より隣接ブロックのエッジの信頼性を高くするなどの方法が挙げられる。そして、その数値が閾値を超えた場合に隣接ブロックのエッジの方向を採用する、などである。図１６の（Ｂ）では、予測モードのモード５よりも隣接ブロックのエッジの方向を採用した例を示している。

次に、変換ブロック設定部３２は、推定したエッジの連続性を考慮して、符号化対象のサブブロックの分割を行い、直交変換の変換ブロックを設定する。ここで、符号化対象のサブブロックの分割は、符号化効率の観点から、エッジにかからない範囲が可能な限り広くなるように複数の変換ブロックに分割することが望ましい。したがって、変換ブロック設定部３２は、図１６の（Ｃ）に示すように、分割後のブロック間の境界にエッジが含まれないように、符号化対象のサブブロックを水平・垂直に分割する。例えば、変換ブロック設定部３２は、連続するエッジの終端部を見つけ、そこに接するように分割の境界を決定する。変換ブロック設定部３２は、分割後のブロックを直交変換の単位である変換ブロックとして、変換ブロックを示す変換ブロック設定情報ＤＳ３２を生成する。

また、サブブロックの分割では、複数のエッジが検出されて、変換ブロックの境界がエッジにかからないように分割することができない場合もある。その場合、変換ブロック設定部３２は、エッジの強度を示す指標から、ブロック境界にかからないようにするエッジの優先順位を決める。例えば、変換ブロック設定部３２は、Sobelフィルタのフィルタ処理によって得られた信号のエネルギーの大きい順に優先順位を高くする。優先順位の決め方は、相対的であってもよいし、絶対的でもよい。このように優先順位を決定して優先順位の高いエッジが変換ブロックの境界がエッジにかからないように分割を行う。また、サブブロックは必ずしも水平・垂直ともに分割する必要はなく、どちらか一方でもよいし、全く分割しなくてもよい。分割後のブロックをさらに階層的に分割してもよいし、同じ階層で複数のブロックに分割してもよい。さらに、分割後の変換ブロックのサイズは、一般的な符号化方式との互換性を考慮して２の階乗のサイズに限定してもよい。

さらに、変換ブロック設定部３２は、参照画像エッジ検出部３１から別のフォーマットで出力された場合、それに応じて前述した手順と同様の概念でエッジの連続性の推定を行い、変換ブロックを設定すればよい。

サブブロックのサイズは、１６×１６画素に限らず他のサブブロックサイズにも同様の処理を適用することがでる。例えば、図１６の（Ｄ）に示すようにサブブロックサイズが８×８画素の場合にも同様の処理を適用することができる。

図１７は、参照画像エッジ検出部３１と変換ブロック設定部３２を用いて変換ブロックを設定する手順を示している。ステップＳＴ３１で参照画像エッジ検出部３１は、符号化対象のサブブロックに隣接する参照画像のエッジの位置とエッジの強度を示す指標を得てステップＳＴ３２に進む。

ステップＳＴ３２で変換ブロック設定部３２は、エッジの位置とエッジの強度を示す指標および予測部２５から得られる予測モード情報ＤＳ２０を基に、符号化対象のサブブロック内におけるエッジの連続性を推定してステップＳＴ３３に進む。

ステップＳＴ３３で変換ブロック設定部３２は、推定したエッジの連続性とエッジの強度を考慮して変換ブロックを設定する。

このようにして、変換ブロック設定部３２で変換ブロックが設定されると、第１変換部１３、第１量子化部１５、第１逆量子化部１９、第１逆変換部２１は、設定された変換ブロック毎に、ＤＣＴ、量子化、逆量子化、逆ＤＣＴを行う。

また、第２変換部１４、第２量子化部１６、第２逆量子化部２０、第２逆変換部２２は、設定された変換ブロック毎に、予測モード情報ＤＳ２０に応じた予測方向のＤＣＴ、量子化、逆量子化、逆ＤＣＴを行う。図１８は、サブブロックが８×８画素のブロックサイズであり、このサブブロックが図１６の（Ｄ）のように４つに分割されて変換ブロックが設定された場合を示している。例えば図１８の（Ａ）に示す８×８画素のサブブロックは、分割されて図１８の（Ｂ）〜（Ｅ）に示すように５×６画素、３×６画素、５×２画素、３×２画素の変換ブロックとされる。また、予測モードはモード５とする。この場合、垂直斜め方向に相関があることを考慮して、ブロック内の信号をスキャンしてＤＣＴを行う。例えば、図１８の（Ｂ）〜（Ｅ）の矢印に示すようなスキャンを行い、それぞれ連続する画素数に応じたＤＣＴを実施する。

なお、直交変換はＤＣＴに限らず、例えば、ウェーブレット変換やアダマール変換、それぞれを整数精度にした変換などでもよい。量子化も採用した直交変換に適切な方法を用いればよい。

［１−３．画像復号化装置の構成］
次に、画像符号化装置１０で生成された符号化データの復号化処理を行う画像復号化装置について説明する。

図１９は、第１の実施の形態における画像復号化装置５０の構成を示している。画像復号化装置５０は、エントロピー復号化部５１、処理選択スイッチ５２、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６、演算部５７、参照メモリ５８、予測部６０を備えている。また、画像復号化装置５０は、参照画像エッジ検出部７１、変換ブロック設定部７２、復号化制御部８０を備えている。

エントロピー復号化部５１は、入力として受け付けた符号化データＤＳＣのエントロピー復号化を行う。エントロピー復号化部５１は、画像符号化装置１０のエントロピー符号化部１７で行われたエントロピー符号化に対応するエントロピー復号化を行う。エントロピー復号化部５１は、エントロピー復号化を行うことにより得られた量子化データＤＳ５１と変換情報ＤＳ５２（ＤＳ４０に相当）を処理選択スイッチ５２に出力する。また、エントロピー復号化部５１は、エントロピー復号化を行うことにより得られた予測モード情報ＤＳ５３（ＤＳ２０に相当）を予測部６０に出力する。

処理選択スイッチ５２は、エントロピー復号化部５１から供給された変換情報ＤＳ５２に基づいて切り替えを行い、量子化データＤＳ５１を第１逆量子化部５３または第２逆量子化部５４に出力する。

第１逆量子化部５３は、画像符号化装置１０の第１逆量子化部１９と同様に構成されている。第１逆量子化部５３は、処理選択スイッチ５２を介して供給された量子化データＤＳ５１の逆量子化を行う。また、第１逆量子化部５３は、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に量子化データの逆量子化を行う。第１逆量子化部５３は、逆量子化を行うことにより得られた変換係数ＤＳ５４を第１逆変換部５５に出力する。

第１逆変換部５５は、画像符号化装置１０の第１逆変換部２１と同様に構成されている。第１逆変換部５５は、第１逆量子化部５３から供給された変換係数ＤＳ５４に対して、水平垂直方向の逆ＤＣＴを、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に行う。第１逆変換部５５は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ５６を、演算部５７に出力する。

第２逆量子化部５４は、画像符号化装置１０の第２逆量子化部２０と同様に構成されている。第２逆量子化部５４は、処理選択スイッチ５２を介して供給された量子化データＤＳ５１の逆量子化を、変換情報ＤＳ５２で示された予測方向に対応する斜め方向パターン逆量子化部で行う。また、第２逆量子化部５４は、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に量子化データの逆量子化を行う。第２逆量子化部５４は、逆量子化を行うことにより得られた変換係数ＤＳ５５を第２逆変換部５６に出力する。

第２逆変換部５６は、画像符号化装置１０の第２逆変換部２２と同様に構成されている。第２逆変換部５６は、第２逆量子化部５４から供給された変換係数ＤＳ５５の逆ＤＣＴを、変換情報ＤＳ５２で示された予測方向に対応する斜め方向パターン逆ＤＣＴ部で行う。また、第２逆変換部５６は、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に逆ＤＣＴを行う。第２逆変換部５６は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ５７を演算部５７に出力する。

演算部５７は、第１逆変換部５５から供給された予測誤差信号ＤＳ５６、または第２逆変換部５６から供給された予測誤差信号ＤＳ５７に、予測部６０で生成された予測画像信号ＤＳ６１を加算して、画像信号ＤＳ５８を生成する。演算部５７は、生成した画像信号ＤＳ５８を参照メモリ５８に記憶させる。

参照メモリ５８に記憶されている画像信号ＤＳ５８は、予測部６０と参照画像エッジ検出部７１に供給される。また、参照メモリ５８に記憶されている参照画像信号が出力画像信号ＤＳ５９として順次画像復号化装置５０から出力される。

予測部６０は、参照メモリ５８から読み出された参照画像信号ＤＳ６０を用いて、予測モード情報ＤＳ５３で示された予測モードの予測を行い、予測画像信号ＤＳ６１を生成して演算部５７に出力する。

参照画像エッジ検出部７１は、画像符号化装置１０の参照画像エッジ検出部３１と同様に構成されている。参照画像エッジ検出部７１は、参照メモリ５８に記憶されている復号化済み隣接ブロックの画像信号を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ７５を変換ブロック設定部７２に出力する。

変換ブロック設定部７２は、画像符号化装置１０の変換ブロック設定部３２と同様に構成されている。変換ブロック設定部７２は、参照画像エッジ検出部７１から供給された指標ＤＳ７５とエントロピー復号化部５１から供給された予測モード情報ＤＳ５３に基づき、復号化対象のブロックにおけるエッジの連続性を推定する。変換ブロック設定部７２は、推定結果から逆直交変換および逆量子化を行う場合の変換ブロックを設定して、この変換ブロックを示す変換ブロック設定情報ＤＳ７６を生成する。変換ブロック設定部７２は、生成した変換ブロック設定情報ＤＳ７６を、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６に出力する。

復号化制御部８０は、符号化データの復号化処理における制御命令等の発行を行う。

［１−４．画像復号化装置の動作］
図２０は、第１の実施の形態における画像復号化装置５０の動作を示すフローチャートである。ステップＳＴ５１で画像復号化装置５０は、符号化データを取得する。画像復号化装置５０は、符号化データＤＳＣを取得して、マクロブロック毎、あるいはマクロブロックペア毎に復号化を開始してステップＳＴ５２に進む。

ステップＳＴ５２で画像復号化装置５０は、エントロピー復号化を行う。画像復号化装置５０は、符号化データＤＳＣの各シンタックスの可変長符号を復号化して、量子化データＤＳ５１や変換情報ＤＳ５２、予測モード情報ＤＳ５３を再生してステップＳＴ５３に進む。

ステップＳＴ５３で画像復号化装置５０は、シンタックスの解析を行う。画像復号化装置５０は、復号化を行うことにより得られたデータから、シンタックスの解析を行ってステップＳＴ５４に進む。

ステップＳＴ５４で画像復号化装置５０は、サブブロックに関する初期化を行う。画像復号化装置５０は、サブブロックのインデックスsub_blkを初期化して「sub_blk=０」とし、同時に最大サブブロック数MAX_SUB_BLKをセットしてステップＳＴ５５に進む。

ステップＳＴ５５で画像復号化装置５０は、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さいか判別する。画像復号化装置５０は、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さい場合、マクロブロック内のサブブロックにまだ復号化していないサブブロックが存在することからステップＳＴ５６に進む。画像復号化装置５０は、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さくない場合、マクロブロック内のサブブロックに符号化していないサブブロックは存在しないことからステップＳＴ６８に進む。

ステップＳＴ５６で画像復号化装置５０は、インデックスmode_idxと変換情報trans_idxをロードする。画像復号化装置５０は、インデックスmode_idxと変換情報trans_idxを符号化データから抽出してステップＳＴ５７に進む。

ステップＳＴ５７で画像復号化装置５０は、予測画像を生成する。画像復号化装置５０は、参照画像の画像信号すなわち記憶されている復号化済み隣接ブロックの画像信号を用いて、インデックスmode_idxで示された予測モードの予測画像信号ＤＳ６１の生成を行いステップＳＴ５８に進む。

ステップＳＴ５８で画像復号化装置５０は、エッジ検出を行う。画像復号化装置５０は、記憶されている復号化済み隣接ブロックの画像信号を用いてエッジ検出を行い、エッジ位置とエッジの強度を示す指標ＤＳ７５を生成してステップＳＴ５９に進む。

ステップＳＴ５９で画像復号化装置５０は、変換ブロックを設定する。画像復号化装置５０は、エッジの位置とエッジの強度を示す指標ＤＳ７５およびインデックスmode_idxの予測方向に基づいて、復号化対象のサブブロック内におけるエッジの連続性を推定する。さらに、画像復号化装置５０は、エッジの連続性の推定結果に基づきサブブロックの分割を行い、変換ブロックを設定してステップＳＴ６０に進む。

ステップＳＴ６０で画像復号化装置５０は、予測モードのインデックスmode_idxが、斜め方向予測モードのモード番号のうち最小値である斜め方向予測モードの最小モード番号mode_directionよりも小さいか、または変換情報が「trans_idx＝１」かどうかを判別する。画像復号化装置５０は、予測モードのインデックスmode_idxが最小モード番号mode_directionよりも小さい場合、または変換情報「trans_idx＝１」の場合の少なくともいずれかの場合にステップＳＴ６１に進む。また、他の場合にはステップＳＴ６３に進む。

ステップＳＴ６１で画像復号化装置５０は、水平垂直逆量子化を行いステップＳＴ６２に進む。ステップＳＴ６２で画像復号化装置５０は、水平垂直逆ＤＣＴを行いステップＳＴ６５に進む。画像復号化装置５０は、例えば処理選択スイッチ５２を第１逆量子化部５３側に切り替えて、第１逆量子化部５３と第１逆変換部５５を用いて逆量子化と逆ＤＣＴを行う。

ステップＳＴ６３で画像復号化装置５０は、斜め方向パターン逆量子化を行いステップＳＴ６４に進む。ステップＳＴ６４で画像復号化装置５０は、斜め方向パターン逆ＤＣＴを行いステップＳＴ６５に進む。画像復号化装置５０は、例えば処理選択スイッチ５２を第２逆量子化部５４側に切り替える。画像復号化装置５０は、第２逆量子化部５４と第２逆変換部５６のパターン選択スイッチを予測モードのインデックスmode_idxに従って切り替えて、予測方向に対応した斜め方向パターン逆量子化部と斜め方向パターン逆ＤＣＴ部を用いて逆量子化と逆ＤＣＴを行う。

ステップＳＴ６５で画像復号化装置５０は、予測誤差と予測画像の合成を行う。画像復号化装置５０は、予測誤差信号ＤＳ５６または予測誤差信号ＤＳ５７に対して予測画像信号ＤＳ６１を加算して、画像信号ＤＳ５８を生成してステップＳＴ６６に進む。

ステップＳＴ６６で画像復号化装置５０は、参照メモリに蓄積する。画像復号化装置５０は、生成した画像信号ＤＳ５８を参照メモリ５８に蓄積してステップＳＴ６７に進む。

ステップＳＴ６７で画像復号化装置５０は、サブブロックのインデックスsub_blkに「１」を加算して、新たなインデックスsub_blkとしてステップＳＴ５５に戻る。

また、画像復号化装置５０は、ステップＳＴ５５でサブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLK以下でないと判定してステップＳＴ６８に進むと、画像復号化装置５０は、復号画像の出力を行う。画像復号化装置５０は、サブブロックの復号化が完了したことから参照メモリ５８に蓄積されている画像信号を復号画像の画像信号として出力する。

このように、第１の実施の形態によれば、画像符号化装置１０では、参照画像エッジ検出部３１によって、符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出が行われる。また、変換ブロック設定部３２は、エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように符号化対象ブロックの分割処理を行い、変換ブロックの設定が行われる。さらに、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６等で構成される符号化処理部では、変換ブロック毎の直交変換を含む処理が行われて符号化データが生成される。また、画像復号化装置５０では、参照画像エッジ検出部７１によって、復号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出が行われる。また、変換ブロック設定部７２は、エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように復号化対象ブロックの分割処理を行い、画像符号化装置１０と等しい変換ブロックの設定が行われる。さらに、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６等で構成される復号化処理部では、変換ブロック毎の逆直交変換を含む処理が行われて画像信号が生成される。さらに、フレーム内予測のモードに基づいて、エッジの連続性を考慮して変換ブロックが設定される。このため、連続するエッジが複数の変換ブロックをまたぐことを防止して主観画質を向上させることができる。また、エッジが含まれない変換ブロックが増加されてエネルギー集中の向上をはかることができる。さらに、変換ブロックは、画像符号化装置と画像復号化装置で同じ動作が行われて同じサイズに設定されるので、変換ブロックに関する情報を符号化データＤＳＣに含めなくても、符号化データＤＳＣの復号化処理を行うことができるため、符号化効率を向上できる。

＜第２の実施の形態＞
次に、第２の実施の形態について説明する。上述の第１の実施の形態では、適応的に変化する変換ブロックを示す変換ブロック設定情報を、符号化データに含めないようにして符号化効率の向上をはかっている。しかし、変換ブロック設定情報を符号化データに含めなくても正しく復号化処理を行うためには、画像復号化装置に変換ブロック設定部を設けておかなければならない。そこで、第２の実施の形態では、若干の符号化効率の低下を許容することで、画像復号化装置の構成を簡略化する場合について説明する。

［２−１．画像符号化装置の構成］
図２１は、第２の実施の形態の画像符号化装置１０ａの構成を示している。なお、図２１において、第１の実施の形態の画像符号化装置１０と対応する構成については同一符号を付している。

画像符号化装置１０ａは、演算部１１、処理選択スイッチ１２、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６、エントロピー符号化部１７ａを備えている。また、画像符号化装置１０ａは、処理選択スイッチ１８、第１逆量子化部１９、第２逆量子化部２０、第１逆変換部２１、第２逆変換部２２、演算部２３、参照メモリ２４、予測部２５を備えている。さらに、画像符号化装置１０ａは、参照画像エッジ検出部３１と変換ブロック設定部３２ａ、および符号化制御部４０を備えている。

演算部１１は、入力画像信号ＤＳ１から後述する予測部２５で生成された予測画像信号ＤＳ１８を減算することで、入力画像に対する予測画像の予測誤差を算出して、予測誤差を示す予測誤差信号ＤＳ２を処理選択スイッチ１２へ出力する。

処理選択スイッチ１２は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいて切り替えを行い、予測誤差信号ＤＳ２を第１量子化部１５または第２量子化部１６に出力する。

第１変換部１３は、処理選択スイッチ１２から供給された予測誤差信号ＤＳ２の水平垂直ＤＣＴを行う。また第１変換部１３は、水平垂直ＤＣＴを、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づく変換ブロック毎に行い、得られた変換係数ＤＳ３を第１量子化部１５に出力する。

第１量子化部１５は、第１変換部１３から出力された変換係数ＤＳ３の量子化を行い、量子化データＤＳ５をエントロピー符号化部１７ａと処理選択スイッチ１８に出力する。また、第１量子化部１５は、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づき、変換ブロック毎に変換係数ＤＳ３を量子化する。

第２変換部１４は、処理選択スイッチ１２から供給された予測誤差信号ＤＳ２に対して、予測部２５からの予測モード情報ＤＳ２０に基づく予測方向のＤＣＴを行う。また第２変換部１４は、予測方向のＤＣＴを、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づく変換ブロック毎に行い、得られた変換係数ＤＳ４を第２量子化部１６に出力する。

第２量子化部１６は、第２変換部１４から供給された変換係数ＤＳ４に対して、予測部２５からの予測モード情報ＤＳ２０に基づき、予測方向の量子化を行い、量子化データＤＳ６をエントロピー符号化部１７ａと処理選択スイッチ１８に出力する。また、第２量子化部１６は、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づき、変換ブロック毎に変換係数ＤＳ４を量子化する。

エントロピー符号化部１７ａは、第１量子化部１５から供給された量子化データＤＳ５または第２量子化部１６から供給された量子化データＤＳ６のエントロピー符号化を行う。また、エントロピー符号化部１７ａは、予測部２５で生成された予測モード情報ＤＳ２０や符号化制御部４０で生成された変換情報ＤＳ４０、変換ブロック設定部３２ａで設定された変換ブロックを示す変換ブロック設定情報ＤＳ３２のエントロピー符号化を行う。エントロピー符号化部１７ａは、エントロピー符号化を行うことにより得られた符号化データＤＳＣを出力する。

処理選択スイッチ１８は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいて逆変換方法の選択を行い、第１量子化部１５からの量子化データＤＳ５を第１逆量子化部１９、第２量子化部１６からの量子化データＤＳ６を第２逆量子化部２０に出力する。

第１逆量子化部１９は、処理選択スイッチ１８を介して供給された量子化データＤＳ５の逆量子化を行う。また、第１逆量子化部１９は、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づき、第１量子化部１５と対応した変換ブロック毎に量子化データの逆量子化を行う。第１逆量子化部１９は、逆量子化を行うことにより得られた変換係数ＤＳ１１を第１逆変換部２１に出力する。

第１逆変換部２１は、第１逆量子化部１９から供給された変換係数ＤＳ１１に対して、第１変換部１３における水平垂直方向のＤＣＴに対応する水平垂直方向の逆ＤＣＴを行う。また第１逆変換部２１は、水平垂直方向の逆ＤＣＴを、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づく変換ブロック毎に行う。水平垂直逆ＤＣＴ部２１１は、逆ＤＣＴ変換を行うことにより得られた予測誤差信号ＤＳ１３を演算部２３に出力する。

第２逆量子化部２０は、処理選択スイッチ１８を介して供給された量子化データＤＳ６の逆量子化を行う。第２逆量子化部２０は、予測部２５からの予測モード情報ＤＳ２０に基づき、第２量子化部１６に対応する予測方向の逆量子化を行う。また、第２逆量子化部２０は、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づき、第２量子化部１６と対応した変換ブロック毎に量子化データの逆量子化を行う。第２逆量子化部２０は、逆量子化を行うことにより得られた変換係数ＤＳ１２を第２逆変換部２２に出力する。

第２逆変換部２２は、変換係数ＤＳ１２の逆ＤＣＴを行う。第２逆変換部２２は、予測部２５からの予測モード情報ＤＳ２０に基づき、第２変換部１４に対応する予測方向の逆ＤＣＴを行う。また、第２逆変換部２２は、変換ブロック設定部３２ａから供給された変換ブロック設定情報ＤＳ３２に基づき、第２変換部１４と対応した変換ブロック毎に変換係数の逆ＤＣＴを行う。第２逆変換部２２は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ１４を演算部２３に出力する。

演算部２３は、第１逆変換部２１から供給された予測誤差信号ＤＳ１３、または第２逆変換部２２から供給された予測誤差信号ＤＳ１４に、予測部２５で生成された予測画像信号ＤＳ１８を加算して、参照画像信号ＤＳ１５を生成する。演算部２３は、生成した参照画像信号ＤＳ１５を参照メモリ２４に記憶させる。

参照メモリ２４に記憶されている参照画像信号ＤＳ１５は、予測部２５と参照画像エッジ検出部３１に供給される。

予測部２５は、参照画像信号ＤＳ１５を用いて予測モード毎にフレーム内予測を行う。また、予測部２５は、符号化効率が最も高くなる予測モードを判別して、符号化効率が最も高くなる予測モードを示す予測モード情報ＤＳ２０を生成する。予測部２５は、生成した予測モード情報ＤＳ２０を第２変換部１４、第２量子化部１６、第２逆量子化部２０、第２逆変換部、および変換ブロック設定部３２ａに出力する。さらに、予測部２５は、符号化効率が最も高くなる予測モードで予測画像信号ＤＳ１８を生成して、演算部１１，２３に出力する。

参照画像エッジ検出部３１は、参照メモリ２４に記憶されている符号化済み隣接ブロックの画像信号を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ３１を変換ブロック設定部３２ａに出力する。

変換ブロック設定部３２ａは、参照画像エッジ検出部３１から供給された指標ＤＳ３１と予測部２５から供給された予測モード情報ＤＳ２０に基づき、符号化対象のサブブロック内におけるエッジの連続性を推定する。変換ブロック設定部３２ａは、推定結果から直交変換および量子化における変換ブロックを設定して、この設定した変換ブロックを示す変換ブロック設定情報ＤＳ３２を生成する。変換ブロック設定部３２ａは、生成した変換ブロック設定情報ＤＳ３２を、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６、第１逆量子化部１９、第２逆量子化部２０、第１逆変換部２１、第２逆変換部２２に出力する。また、変換ブロック設定部３２ａは、生成した変換ブロック設定情報ＤＳ３２を、エントロピー符号化部１７ａに出力する。

符号化制御部４０は、変換情報ＤＳ４０を生成して処理選択スイッチ１２，エントロピー符号化部１７ａ，処理選択スイッチ１８に出力する。

［２−２．画像符号化装置の動作］
第２の実施の形態の画像符号化装置１０ａは、図１３，１４に示すフローチャートの処理を行い、符号化データを生成して出力する。また、画像符号化装置１０ａは、図１４のステップＳＴ２２における最適モードのデータをロードする処理において、最適モードのデータに、最適モードにおける直交変換の変換ブロック設定情報ＤＳ３２を含める。例えば、画像符号化装置１０ａは、変換ブロック設定情報ＤＳ３２をエントロピー符号化したのち、ヘッダとして符号化データＤＳＣに含める。

［２−３．画像復号化装置の構成］
次に、画像符号化装置１０ａで生成された符号化データの復号化処理を行う画像復号化装置について説明する。

図２２は、第２の実施の形態における画像復号化装置５０ａの構成を示している。なお、図２２において、第１の実施の形態の画像復号化装置５０と対応する構成については同一符号を付している。

画像復号化装置５０ａは、エントロピー復号化部５１ａ、処理選択スイッチ５２、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６、演算部５７、参照メモリ５８、予測部６０を備えている。また、画像復号化装置５０ａは、参照画像エッジ検出部７１、変換ブロック設定部７２、および復号化制御部８０を備えている。

エントロピー復号化部５１ａは、入力として受け付けた符号化データＤＳＣのエントロピー復号化を行う。エントロピー復号化部５１ａは、画像符号化装置１０ａのエントロピー符号化部１７ａで行われたエントロピー符号化に対応するエントロピー復号化を行う。エントロピー復号化部５１ａは、エントロピー復号化を行うことにより得られた量子化データＤＳ５１と変換情報ＤＳ５２（ＤＳ４０に相当）を処理選択スイッチ５２に出力する。また、エントロピー復号化部５１ａは、エントロピー復号化を行うことにより得られた予測モード情報ＤＳ５３（ＤＳ２０に相当）を予測部６０に出力する。さらに、エントロピー復号化部５１ａは、エントロピー復号化を行うことにより得られた変換ブロック設定情報ＤＳ７６（ＤＳ３２に相当）を、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６に出力する。

処理選択スイッチ５２は、エントロピー復号化部５１ａから供給された変換情報ＤＳ５２に基づいて切り替えを行い、量子化データＤＳ５１を第１逆量子化部５３または第２逆量子化部５４に出力する。

第１逆量子化部５３は、画像符号化装置１０ａの第１逆量子化部１９と同様に構成されている。第１逆量子化部５３は、処理選択スイッチ５２を介して供給された量子化データＤＳ５１の逆量子化を行う。また、第１逆量子化部５３は、エントロピー復号化部５１ａから供給された変換ブロック設定情報ＤＳ７６に基づくブロック毎に量子化データの逆量子化を行う。第１逆量子化部５３は、逆量子化を行うことにより得られた変換係数ＤＳ５４を第１逆変換部５５に出力する。

第１逆変換部５５は、画像符号化装置１０ａの第１逆変換部２１と同様に構成されている。第１逆変換部５５は、第１逆量子化部５３から供給された変換係数ＤＳ５４に対して、水平垂直方向の逆ＤＣＴを、エントロピー復号化部５１ａから供給された変換ブロック設定情報ＤＳ７６に基づくブロック毎に行う。第１逆変換部５５は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ５６を演算部５７に出力する。

第２逆量子化部５４は、画像符号化装置１０ａの第２逆量子化部２０と同様に構成されている。第２逆量子化部５４は、処理選択スイッチ５２を介して供給された量子化データＤＳ５１の逆量子化を行う。また、第２逆量子化部５４は、エントロピー復号化部５１ａから供給された変換ブロック設定情報ＤＳ７６に基づくブロック毎に量子化データの逆量子化を行う。第２逆量子化部５４は、逆量子化を行うことにより得られた変換係数ＤＳ５５を第２逆変換部５６に出力する。

第２逆変換部５６は、画像符号化装置１０ａの第２逆変換部２２と同様に構成されている。第２逆変換部５６は、第２逆量子化部５４から供給された変換係数ＤＳ５５に対して、予測方向に応じた逆ＤＣＴを、エントロピー復号化部５１ａから供給された変換ブロック設定情報ＤＳ７６に基づくブロック毎に行う。第２逆変換部５６は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ５７を演算部５７に出力する。

演算部５７は、第１逆変換部５５から供給された予測誤差信号ＤＳ５６、または第２逆変換部５６から供給された予測誤差信号ＤＳ５７に、予測部６０で生成された予測画像信号ＤＳ６１を加算して、画像信号ＤＳ５８を生成する。演算部５７は、生成した画像信号ＤＳ５８を参照メモリ５８に記憶させる。

参照メモリ５８に記憶されている画像信号ＤＳ５８は、予測部６０と参照画像エッジ検出部７１に供給される。また、参照メモリ５８に記憶されている参照画像信号が出力画像信号ＤＳ５９として画像復号化装置５０ａから出力される。

予測部６０は、参照メモリ５８から読み出された参照画像信号ＤＳ６０を用いて、予測モード情報ＤＳ５３で示された予測モードの予測を行い、予測画像信号ＤＳ６１を生成して、演算部５７に出力する。

復号化制御部８０は、符号化データの復号化処理における制御命令等の発行を行う。

［２−４．画像復号化装置の動作］
図２３は、第２の実施の形態における画像復号化装置５０ａの動作を示すフローチャートである。ステップＳＴ５１で画像復号化装置５０ａは、符号化データを取得する。画像復号化装置５０ａは、符号化データＤＳＣを取得して、マクロブロック毎、あるいはマクロブロックペア毎に復号化を開始してステップＳＴ５２ａに進む。

ステップＳＴ５２ａで画像復号化装置５０ａは、エントロピー復号化を行う。画像復号化装置５０ａは、符号化データＤＳＣの各シンタックスの可変長符号を復号化して、量子化データＤＳ５１や変換情報ＤＳ５２、予測モード情報ＤＳ５３、変換ブロック設定情報ＤＳ７６を再生してステップＳＴ５３に進む。

ステップＳＴ５３で画像復号化装置５０ａは、シンタックスの解析を行う。画像復号化装置５０ａは、復号化を行うことにより得られたデータから、シンタックスの解析を行ってステップＳＴ５４に進む。

ステップＳＴ５４で画像復号化装置５０ａは、サブブロックに関する初期化を行う。画像復号化装置５０ａは、サブブロックのインデックスsub_blkを初期化して「sub_blk=０」とし、同時に最大サブブロック数MAX_SUB_BLKをセットしてステップＳＴ５５に進む。

ステップＳＴ５５で画像復号化装置５０ａは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さいか判別する。画像復号化装置５０ａは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さい場合、マクロブロック内のサブブロックにまだ復号化していないサブブロックが存在することからステップＳＴ５６ａに進む。画像復号化装置５０ａは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さくない場合、マクロブロック内のサブブロックに符号化していないサブブロックは存在しないことからステップＳＴ６８に進む。

ステップＳＴ５６ａで画像復号化装置５０ａは、インデックスmode_idxと変換情報trans_idxおよび変換ブロック設定情報ＤＳ７６をロードする。画像復号化装置５０ａは、インデックスmode_idxと変換情報trans_idxおよび変換ブロック設定情報ＤＳ７６を、符号化データから抽出してステップＳＴ５７に進む。

ステップＳＴ５７で画像復号化装置５０ａは、予測画像を生成する。画像復号化装置５０ａは、参照画像の画像信号すなわち記憶されている復号化済み隣接ブロックの画像信号を用いて、インデックスmode_idxで示された予測モードの予測画像信号ＤＳ６１の生成を行いステップＳＴ６０に進む。

ステップＳＴ６０で画像復号化装置５０ａは、予測モードのインデックスmode_idxが、斜め方向予測モードのモード番号のうち最小値である斜め方向予測モードの最小モード番号mode_directionよりも小さいか、または変換情報が「trans_idx＝１」かどうかを判別する。画像復号化装置５０ａは、予測モードのインデックスmode_idxが最小モード番号mode_directionよりも小さい場合または変換情報「trans_idx＝１」の場合の少なくともいずれかの場合、ステップＳＴ６１に進む。また、他の場合にはステップＳＴ６３に進む。

ステップＳＴ６１で画像復号化装置５０ａは、水平垂直逆量子化を行いステップＳＴ６２に進む。ステップＳＴ６２で画像復号化装置５０ａは、水平垂直逆ＤＣＴを行いステップＳＴ６５に進む。画像復号化装置５０ａは、例えば処理選択スイッチ５２を第１逆量子化部５３側に切り替えて、第１逆量子化部５３と第１逆変換部５５を用いて逆量子化と逆ＤＣＴを行う。

ステップＳＴ６３で画像復号化装置５０ａは、斜め方向パターン逆量子化を行いステップＳＴ６４に進む。ステップＳＴ６４で画像復号化装置５０ａは、斜め方向パターン逆ＤＣＴを行いステップＳＴ６５に進む。画像復号化装置５０ａは、例えば処理選択スイッチ５２を第２逆量子化部５４側に切り替える。また、画像復号化装置５０ａは、第２逆量子化部５４と第２逆変換部５６のパターン選択スイッチを予測モードのインデックスmode_idxに従って切り替えて、予測方向に対応した斜め方向パターン逆量子化部と斜め方向パターン逆ＤＣＴ部を用いて逆量子化と逆ＤＣＴを行う。

ステップＳＴ６５で画像復号化装置５０ａは、予測誤差と予測画像の合成を行う。画像復号化装置５０ａは、予測誤差信号ＤＳ５６または予測誤差信号ＤＳ５７に対して予測画像信号ＤＳ６１を加算して、画像信号ＤＳ５８を生成してステップＳＴ６６に進む。

ステップＳＴ６６で画像復号化装置５０ａは、参照メモリに蓄積する。画像復号化装置５０ａは、生成した画像信号ＤＳ５８を参照メモリ５８に蓄積してステップＳＴ６７に進む。

ステップＳＴ６７で画像復号化装置５０ａは、サブブロックのインデックスsub_blkに「１」を加算して、新たなインデックスsub_blkとしてステップＳＴ５５に戻る。

また、画像復号化装置５０ａは、ステップＳＴ５５でサブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLK以下でないと判定してステップＳＴ６８に進むと、画像復号化装置５０ａは、復号画像の出力を行う。画像復号化装置５０ａは、サブブロックの復号化が完了したことから参照メモリ５８に蓄積されている画像信号を復号画像の画像信号として出力する。

このように、第２の実施の形態によれば、第１の実施の形態と同様に、フレーム内予測のモードに基づいて、エッジの連続性を考慮して変換ブロックが設定されるので、連続するエッジが複数の変換ブロックをまたぐことを防止して主観画質を向上させることができる。また、エッジが含まれない変換ブロックが増加されてエネルギー集中の向上をはかることができる。さらに、変換ブロックに関する変換ブロック設定情報が符号化データに多重されて出力されるので、画像復号化装置５０ａには、エッジ検出を行う参照画像エッジ検出部やエッジ検出結果に基づいて変換ブロックを設定する変換ブロック設定部を設ける必要がない。したがって、第１の実施の形態に比べて画像復号化装置の構成を簡単にできる。

＜第３の実施の形態＞
ところで、上述の第１および第２の実施の形態では、隣接するブロックのエッジから符号化対象のサブブロック内におけるエッジの連続性を推定することにより、変換ブロックを設定した。すなわち、空間方向の画像を参照画像として用いて変換ブロックを設定している。しかし、参照画像は空間方向に限らず時間方向の画像を用いることもできる。次に、第３の実施の形態として、時間方向の画像を参照画像として用いる場合について説明する。

［３−１．画像符号化装置の構成］
図２４は、第３の実施の形態における画像符号化装置の構成を示している。なお、図２４において、第１の実施の形態の画像符号化装置１０と対応する構成については同一符号を付している。

画像符号化装置１０ｂは、演算部１１、処理選択スイッチ１２、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６、エントロピー符号化部１７ｂを備えている。また、画像符号化装置１０ｂは、処理選択スイッチ１８、第１逆量子化部１９、第２逆量子化部２０、第１逆変換部２１、第２逆変換部２２、演算部２３、参照メモリ２４、予測部２５、参照画像エッジ検出部３１と変換ブロック設定部３２を備えている。さらに、画像符号化装置１０ｂは、画像信号選択スイッチ３０とＭＰＥＧやＨ．２６４／ＡＶＣ方式と同等の機能を持つ動き推定部３５、動き補償部３６、予測選択スイッチ３７、符号化制御部４０を備えている。

演算部１１は、入力画像信号ＤＳ１から後述する予測選択スイッチ３７の出力である予測画像信号ＤＳ３７を減算することで、入力画像に対する予測画像の予測誤差を算出して、予測誤差を示す予測誤差信号ＤＳ２を処理選択スイッチ１２へ出力する。

処理選択スイッチ１２は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいて切り替えを行い、予測誤差信号ＤＳ２を第１量子化部１５または第２量子化部１６に出力する。

処理選択スイッチ１２は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいて切り替えを行い、予測誤差信号ＤＳ２を第１量子化部１５または第２量子化部１６に出力する。

第１変換部１３は、処理選択スイッチ１２から供給された予測誤差信号ＤＳ２の水平垂直ＤＣＴを行う。また第１変換部１３は、水平垂直ＤＣＴを、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づく変換ブロック毎に、得られた変換係数ＤＳ３を第１量子化部１５に出力する。

第１量子化部１５は、第１変換部１３から出力された変換係数ＤＳ３の量子化を行い、量子化データＤＳ５をエントロピー符号化部１７ｂと処理選択スイッチ１８に出力する。また、第１量子化部１５は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、変換ブロック毎に変換係数ＤＳ３を量子化する。

第２変換部１４は、処理選択スイッチ１２から供給された予測誤差信号ＤＳ２に対して、予測部２５からの予測モード情報ＤＳ２０に基づく予測方向のＤＣＴを行う。また第２変換部１４は、予測方向のＤＣＴを、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づく変換ブロック毎に行い、得られた変換係数ＤＳ４を第２量子化部１６に出力する。

第２量子化部１６は、第２変換部１４から供給された変換係数ＤＳ４に対して、予測部２５からの予測モード情報ＤＳ２０に基づき、予測方向の量子化を行い、量子化データＤＳ６をエントロピー符号化部１７ｂと処理選択スイッチ１８に出力する。また、第２量子化部１６は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、変換ブロック毎に変換係数ＤＳ４を量子化する。

エントロピー符号化部１７ｂは、第１量子化部１５から供給された量子化データＤＳ５または第２量子化部１６から供給された量子化データＤＳ６のエントロピー符号化を行う。また、エントロピー符号化部１７ｂは、予測部２５で生成された予測モード情報ＤＳ２０や符号化制御部４０で生成された変換情報ＤＳ４０、動き推定部３５で検出された動きベクトル情報ＤＳ３５のエントロピー符号化を行う。エントロピー符号化部１７ｂは、エントロピー符号化を行うことにより得られた符号化データＤＳＣを出力する。

処理選択スイッチ１８は、符号化制御部４０から供給された変換情報ＤＳ４０に基づいて逆変換方法の選択を行い、第１量子化部１５からの量子化データＤＳ５を第１逆量子化部１９、第２量子化部１６からの量子化データＤＳ６を第２逆量子化部２０に出力する。

第１逆量子化部１９は、処理選択スイッチ１８を介して供給された量子化データＤＳ５の逆量子化を行う。また、第１逆量子化部１９は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、第１量子化部１５と対応した変換ブロック毎に量子化データの逆量子化を行う。第１逆量子化部１９は、逆量子化を行うことにより得られた変換係数ＤＳ１１を第１逆変換部２１に出力する。

第１逆変換部２１は、第１逆量子化部１９から供給された変換係数ＤＳ１１に対して、第１変換部１３における水平垂直方向のＤＣＴに対応する水平垂直方向の逆ＤＣＴを行う。また第１逆変換部２１は、水平垂直方向の逆ＤＣＴを、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づく変換ブロック毎に行う。水平垂直逆ＤＣＴ部２１１は、逆ＤＣＴ変換を行うことにより得られた予測誤差信号ＤＳ１３を演算部２３に出力する。

第２逆量子化部２０は、処理選択スイッチ１８を介して供給された量子化データＤＳ６の逆量子化を行う。第２逆量子化部２０は、予測部２５からの予測モード情報ＤＳ２０に基づき、第２量子化部１６に対応する予測方向の逆量子化を行う。また、第２逆量子化部２０は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、第２量子化部１６と対応した変換ブロック毎に量子化データの逆量子化を行う。第２逆量子化部２０は、逆量子化を行うことにより得られた変換係数ＤＳ１２を第２逆変換部２２に出力する。

第２逆変換部２２は、変換係数ＤＳ１２の逆ＤＣＴを行う。第２逆変換部２２は、予測部２５からの予測モード情報ＤＳ２０に基づき、第２変換部１４に対応する予測方向の逆ＤＣＴを行う。また、第２逆変換部２２は、変換ブロック設定部３２から供給された変換ブロック設定情報ＤＳ３２に基づき、第２変換部１４と対応した変換ブロック毎に変換係数の逆ＤＣＴを行う。第２逆変換部２２は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ１４を演算部２３に出力する。

演算部２３は、第１逆変換部２１から供給された予測誤差信号ＤＳ１３、または第２逆変換部２２から供給された予測誤差信号ＤＳ１４に、予測選択スイッチ３７から出力された予測画像信号ＤＳ３７を加算して、参照画像信号ＤＳ１５を生成する。演算部２３は、生成した参照画像信号ＤＳ１５を参照メモリ２４に記憶させる。

参照メモリ２４には、空間方向に隣接しているブロックの画像信号だけでなく、時間方向の画像、すなわち複数のフレームの画像も参照画像として蓄積する。なお、複数のフレームの画像はデブロッキングフィルタ処理が行われて蓄積される。

参照メモリ２４から読み出された隣接ブロックの画像信号ＤＳ１６は、予測部２５と画像信号選択スイッチ３０に供給される。また、参照メモリ２４から読み出されたフレーム画像の画像信号ＤＳ１７は、動き推定部３５と動き補償部３６に供給される。

予測部２５は、画像信号ＤＳ１６を用いて予測モード毎にフレーム内予測を行う。また、予測部２５は、符号化効率が最も高くなる予測モードを判別して、符号化効率が最も高くなる予測モードを示す予測モード情報ＤＳ２０を生成する。予測部２５は、生成した予測モード情報ＤＳ２０を第２変換部１４、第２量子化部１６、第２逆量子化部２０、第２逆変換部、および変換ブロック設定部３２に出力する。さらに、予測部２５は、符号化効率が最も高くなる予測モードで予測画像信号ＤＳ１８を生成して、予測選択スイッチ３７に出力する。

画像信号選択スイッチ３０は、変換情報ＤＳ４０に基づき、参照メモリ２４から供給された画像信号ＤＳ１６または動き補償部３６から供給された予測画像信号ＤＳ３６のいずれかを選択して、参照画像エッジ検出部３１に出力する。例えば、フレーム内予測モードである場合、参照メモリ２４から供給された画像信号ＤＳ１６を選択して、選択した画像信号を参照画像エッジ検出部３１に出力する。また、予測選択スイッチ３７は、フレーム間予測モードである場合、動き補償部３６から供給された予測画像信号ＤＳ３６を選択して参照画像エッジ検出部３１に出力する。

参照画像エッジ検出部３１は、画像信号選択スイッチ３０で選択された画像信号を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ３１を変換ブロック設定部３２に出力する。

変換ブロック設定部３２は、参照画像エッジ検出部３１から供給された指標ＤＳ３１と予測部２５から供給された予測モード情報ＤＳ２０に基づき、符号化対象のサブブロック内におけるエッジの連続性を推定する。変換ブロック設定部３２は、推定結果から直交変換および量子化における変換ブロックを設定して、この設定した変換ブロックを示す変換ブロック設定情報ＤＳ３２を生成する。変換ブロック設定部３２は、生成した変換ブロック設定情報ＤＳ３２を、第１変換部１３、第２変換部１４、第１量子化部１５、第２量子化部１６、第１逆量子化部１９、第２逆量子化部２０、第１逆変換部２１、第２逆変換部２２に出力する。

動き推定部３５は、入力画像信号ＤＳ１と参照メモリ２４から供給された画像信号ＤＳ１７を用いて、サブブロックの動き推定を行い、動きベクトルを検出する。動き推定部３５は、検出した動きベクトルを示す動きベクトル情報ＤＳ３５を動き補償部３６とエントロピー符号化部１７ｂに出力する。

動き補償部３６は、参照メモリ２４から供給された画像信号ＤＳ１７に基づく参照画像に対して動き推定部３５から供給された動きベクトル情報ＤＳ３５に基づいた動き補償を行う。動き補償部３６は、動き補償によって生成したフレーム間予測モードの予測画像信号ＤＳ３６を予測選択スイッチ３７に出力する。

予測選択スイッチ３７は、変換情報ＤＳ４０に基づき、予測部２５から供給された予測画像信号ＤＳ１８または動き補償部３６から供給された予測画像信号ＤＳ３６のいずれかを選択して、演算部１１，２３に出力する。例えば、予測選択スイッチ３７は、フレーム内予測モードである場合、予測部２５から供給された予測画像信号ＤＳ１８を選択して、選択した画像信号を予測画像信号ＤＳ３７として演算部１１，２３に出力する。また、予測選択スイッチ３７は、フレーム間予測モードである場合、動き補償部３６から供給された予測画像信号ＤＳ３６を選択して、選択した画像信号を予測画像信号ＤＳ３７として演算部１１，２３に出力する。

符号化制御部４０は、変換情報ＤＳ４０を生成する。変換情報ＤＳ４０は、直交変換に関して水平垂直ＤＣＴや水平垂直量子化を行う処理と、予測モード情報ＤＳ２０が示す予測方向に沿って１次元ＤＣＴや量子化を行う処理のいずれかを選択するための情報である。また、第３の実施の形態では、フレーム内予測とフレーム間予測のいずれが選択されているかを示す情報とする。符号化制御部４０は、生成した変換情報ＤＳ４０を処理選択スイッチ１２，エントロピー符号化部１７ｂ，処理選択スイッチ１８に出力する。

［３−２．画像符号化装置の動作］
図２５，図２６は、第３の実施の形態における画像符号化装置１０ｂの動作を示すフローチャートである。ステップＳＴ１０１で画像符号化装置１０ｂは、入力画像を取得する。画像符号化装置１０ｂは、入力画像信号ＤＳ１を取得して、マクロブロック毎またはマクロブロックペア毎に符号化を開始する。

ステップＳＴ１０２で画像符号化装置１０ｂは、サブブロックに関する初期化を行う。画像符号化装置１０ｂは、サブブロックのインデックスsub_blkを初期化して「sub_blk=０」とし、同時に最大サブブロック数MAX_SUB_BLKをセットしてステップＳＴ１０３に進む。

ステップＳＴ１０３で画像符号化装置１０ｂは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さいか判別する。画像符号化装置１０ｂは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さい場合、マクロブロック内のサブブロックにまだ符号化していないサブブロックが存在することからステップＳＴ１０４に進む。また、画像符号化装置１０ｂは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さくない場合、マクロブロック内のサブブロックにまだ符号化していないサブブロックが存在していないことからステップＳＴ１２５に進む。

ステップＳＴ１０４で画像符号化装置１０ｂは、動きベクトルのＸ方向（例えば水平方向）の探索位置ＭＶ_ｘとＹ方向（例えば垂直方向）の探索位置ＭＶ_ｙを探索開始点ＳＴＡＲＴ_Ｘ、ＳＴＡＲＴ_ＹにセットしてステップＳＴ１０５に進む。

ステップＳＴ１０５で画像符号化装置１０ｂは、ＭＶ_ｘ＜ＥＮＤ_ＸおよびＭＶ_ｙ＜ＥＮＤ_Ｙであるか判別する。画像符号化装置１０ｂは、探索位置が探索終了点ＥＮＤ_Ｘ、ＥＮＤ_Ｙの範囲内である場合にはステップＳＴ１０６に進み、探索範囲を超える場合にはステップＳＴ１２３に進む。

ステップＳＴ１０６で画像符号化装置１０ｂは、予測方向に関する初期化を行う。画像符号化装置１０ｂは、インデックスmode_idx_dを初期化して「mode_idx_d＝０」とし、選択されうる最大方向数MAX_MODE_dをセットする。インデックスmode_idx_dは、予測方向を示すインデックスであり、フレーム内予測モードの予測方向に対応する。また、最大方向数MAX_MODE_dは、選択されうる予測方向の数、すなわちフレーム内予測モードの最大モード数MAX_MODEに相当する。このように、予測方向を示すインデックスmode_idx_dを用いることで、フレーム間予測においても、斜め方向の予測方向に対応したＤＣＴを行って最適モードを検出できるようにする。

ステップＳＴ１０７で画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dが最大方向数MAX_MODE_dよりも小さいか判別する。画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dが最大方向数MAX_MODE_dよりも小さい場合、全ての予測方向が試されていないとしてステップＳＴ１０８に進む。画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dが最大方向数MAX_MODE_dよりも小さくない場合、全ての予測方向が試されたとしてステップＳＴ１２２に進む。

ステップＳＴ１０８で画像符号化装置１０ｂは変換情報trans_idxをセットする。画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dの値に応じて変換情報trans_idxをセットする。例えば、画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dの値が斜めの予測方向を示している場合、変換情報trans_idxを「trans_idx＝０」にセットしてステップＳＴ１０９に進む。また、画像符号化装置１０ｂは、斜めでない予測方向を示している場合、変換情報trans_idxを「trans_idx＝１」にセットしてステップＳＴ１０９に進む。

ステップＳＴ１０９で画像符号化装置１０ｂは、参照フレームから探索位置ＭＶ_ｘ，ＭＶ_ｙの動き補償信号を生成してステップＳＴ１１０に進む。

ステップＳＴ１１０で画像符号化装置１０ｂは、生成した動き補償信号を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ３１を生成してステップＳＴ１１１に進む。

ステップＳＴ１１１で画像符号化装置１０ｂは、変換ブロックを設定する。画像符号化装置１０ｂは、エッジの位置とエッジの強度を示す指標ＤＳ３１に基づいて、符号化対象のサブブロック内におけるエッジの連続性を推定する。さらに、画像符号化装置１０ｂは、エッジの連続性の推定結果に基づき変換ブロックを設定してステップＳＴ１１２に進む。

ステップＳＴ１１２で画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dが、斜めの予測方向のうち最小のインデックス値である最小方向番号mode_direction_dよりも小さいか、または変換情報が「trans_idx＝１」かどうかを判別する。画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dが最小方向番号mode_direction_dよりも小さい場合または変換情報「trans_idx＝１」の場合の少なくともいずれかの場合、ステップＳＴ１１３に進む。また、画像符号化装置１０ｂは、他の場合にステップＳＴ１１５に進む。

ステップＳＴ１１３で画像符号化装置１０ｂは、水平垂直ＤＣＴを行いステップＳＴ１１４に進む。ステップＳＴ１１４で画像符号化装置１０ｂは、水平垂直量子化を行いステップＳＴ１１７に進む。画像符号化装置１０ｂは、例えば処理選択スイッチ１２を第１変換部１３側に切り替えて、第１変換部１３と第１量子化部１５を用いてＤＣＴと量子化を行う。

ステップＳＴ１１５で画像符号化装置１０ｂは、斜め方向パターンＤＣＴを行いステップＳＴ１１６に進む。ステップＳＴ１１６で画像符号化装置１０ｂは、斜め方向パターン量子化を行いステップＳＴ１１７に進む。画像符号化装置１０ｂは、例えば処理選択スイッチ１２を第２変換部１４側に切り替える。また、画像符号化装置１０ｂは、第２変換部１４のパターン選択スイッチ１４０と第２量子化部１６のパターン選択スイッチ１６０を予測方向のインデックスmode_idx_dに従って切り替えて、予測方向に対応した斜め方向パターンＤＣＴ部と斜め方向パターン量子化部を用いてＤＣＴと量子化を行う。

ステップＳＴ１１７で画像符号化装置１０ｂは、エントロピー符号化を行う。画像符号化装置１０ｂは、量子化データＤＳ５，ＤＳ６と予測モード情報ＤＳ２０および動きベクトル情報ＤＳ３５や変換情報ＤＳ４０をエントロピー符号化部１７ｂで符号化してステップＳＴ１１８に進む。

ステップＳＴ１１８で画像符号化装置１０ｂは、符号化コストを保存する。画像符号化装置１０ｂは、符号化制御部４０は上述のようにコスト値Ｋの算出を行い、算出したコスト値Ｋを保存してステップＳＴ１１９に進む。

ステップＳＴ１１９で画像符号化装置１０ｂは、変換情報trans_idxが「trans_idx＝０」であるか判別する。画像符号化装置１０ｂは、変換情報trans_idxが「trans_idx＝０」である場合、ステップＳＴ１２０に進み、変換情報trans_idxが「trans_idx＝０」でない場合、ステップＳＴ１２１に進む。

ステップＳＴ１２０で画像符号化装置１０ｂは、変換情報trans_idxに「１」を加算して、新たな変換情報trans_idxとしてステップＳＴ１１２に戻る。

ステップＳＴ１２１で画像符号化装置１０ｂは、予測方向のインデックスmode_idx_dに「１」を加算して、新たなインデックスmode_idx_dとしてステップＳＴ１０７に戻る。

その後、ステップＳＴ１０７で予測方向のインデックスmode_idx_dが最大方向数MAX_MODE_dよりも小さくないと判別してステップＳＴ１２２に進むと、画像符号化装置１０ｂは、探索位置ＭＶ_ｘまたは探索位置ＭＶ_ｙを新たな位置に移動してステップＳＴ１０５に戻る。

また、ステップＳＴ１０５で探索位置が探索範囲を超える場合にはステップＳＴ１２３に進み、画像符号化装置１０ｂは、サブブロックのインデックスsub_blkに「１」を加算して、新たなインデックスsub_blkとしてステップＳＴ１０３に戻る。

また、画像符号化装置１０ｂは、ステップＳＴ１０３でサブブロックのインデックスsub_blkが最大方向数MAX_MODE_d以下でないと判定されるとステップＳＴ１２５に進む。

また、画像符号化装置１０ｂは、フレーム間予測だけでなくステップＳＴ１２４で、図１３，１４で説明したフレーム内予測を行いステップＳＴ１２５に進む。

ステップＳＴ１２５で画像符号化装置１０ｂは、最適モードのデータをロードする。画像符号化装置１０ｂは、保存されている符号化コストを比較して、フレーム内予測やフレーム間予測で最も符号化効率の高いモードや予測方向を最適モードとして判別する。画像符号化装置１０ｂは判別した最適モードのデータをロードしてステップＳＴ１２６に進む。

ステップＳＴ１２６で画像符号化装置１０ｂは、最適モードで符号化を行った符号化データをマクロブロックで多重化して送出する。また、画像符号化装置１０ｂは、符号化データに予測モード情報ＤＳ２０すなわち最適モードのインデックスmode_idxと変換情報ＤＳ４０すなわち変換情報trans_idxをエントロピー符号化して符号化データに含める。さらに、画像符号化装置１０ｂは、最適モードにおける動きベクトル情報ＤＳ３５をエントロピー符号化して符号化データに含める。

画像符号化装置１０ｂの参照画像エッジ検出部３１は、フレーム内予測の場合、第１の実施の形態と同様の動作を行う。また、フレーム間予測の場合、参照画像エッジ検出部３１は、ＭＰＥＧやＨ．２６４／ＡＶＣ方式と同様に動き補償を行って得られる動き補償信号を用いてエッジ検出を行う。図２７の（Ａ）は、動き補償信号を用いて検出されたエッジを示している。画像符号化装置１０ｂは、上述のように例えばSobelフィルタ等を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標を得る。

変換ブロック設定部３２は、フレーム内予測の場合、第１の実施の形態と同様の動作を行う。また、変換ブロック設定部３２は、フレーム間予測の場合、動き補償信号のエッジの位置と強度を示す指標に基づき変換ブロックを設定する。例えば図２７の（Ａ）に示すようにエッジが検出された場合、図２７の（Ｂ）に示すように、符号対象のサブブロックにも同じエッジがあると推定して、この結果をもとに、フレーム内予測の場合と同様にして変換ブロックを設定する。

［３−３．画像復号化装置の構成］
次に、画像符号化装置１０ｂで生成された符号化データの復号化処理を行う画像復号化装置について説明する。

図２８は、第３の実施の形態における画像復号化装置５０ｂの構成を示している。なお、図２８において、第１の実施の形態の画像復号化装置５０と対応する構成については同一符号を付している。

画像復号化装置５０ｂは、エントロピー復号化部５１ｂ、処理選択スイッチ５２、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６、演算部５７、参照メモリ５８、予測部６０、動き補償部６１、予測選択スイッチ６２を備えている。また、画像復号化装置５０ｂは、画像信号選択スイッチ７０、参照画像エッジ検出部７１、変換ブロック設定部７２、および復号化制御部８０を備えている。

エントロピー復号化部５１ｂは、入力として受け付けた符号化データＤＳＣのエントロピー復号化を行う。エントロピー復号化部５１ｂは、画像符号化装置１０ｂのエントロピー符号化部１７ｂで行われたエントロピー符号化に対応するエントロピー復号化を行う。エントロピー復号化部５１ｂは、エントロピー復号化を行うことにより得られた量子化データＤＳ５１と変換情報ＤＳ５２（ＤＳ４０に相当）を処理選択スイッチ５２に出力する。また、エントロピー復号化部５１ｂは、エントロピー復号化を行うことにより得られた予測モード情報ＤＳ５３（ＤＳ２０に相当）を予測部６０に出力する。

処理選択スイッチ５２は、エントロピー復号化部５１ｂから供給された変換情報ＤＳ５２に基づいて切り替えを行い、量子化データＤＳ５１を第１逆量子化部５３または第２逆量子化部５４に出力する。

第１逆量子化部５３は、画像符号化装置１０ｂの第１逆量子化部１９と同様に構成されている。第１逆量子化部５３は、処理選択スイッチ５２を介して供給された量子化データＤＳ５１の逆量子化を行う。また、第１逆量子化部５３は、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に量子化データの逆量子化を行う。第１逆量子化部５３は、逆量子化を行うことにより得られた変換係数ＤＳ５４を第１逆変換部５５に出力する。

第１逆変換部５５は、画像符号化装置１０ｂの第１逆変換部２１と同様に構成されている。第１逆変換部５５は、第１逆量子化部５３から供給された変換係数ＤＳ５４に対して、水平垂直方向の逆ＤＣＴを、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に行う。第１逆変換部５５は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ５６を演算部５７に出力する。

第２逆量子化部５４は、画像符号化装置１０ｂの第２逆量子化部２０と同様に構成されている。第２逆量子化部５４は、処理選択スイッチ５２を介して供給された量子化データＤＳ５１の逆量子化を行う。また、第２逆量子化部５４は、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に量子化データの逆量子化を行う。第２逆量子化部５４は、逆量子化を行うことにより得られた変換係数ＤＳ５５を第２逆変換部５６に出力する。

第２逆変換部５６は、画像符号化装置１０ｂの第２逆変換部２２と同様に構成されている。第２逆変換部５６は、第２逆量子化部５４から供給された変換係数ＤＳ５５に対して、予測方向に応じた逆ＤＣＴを、変換ブロック設定部７２から供給された変換ブロック設定情報ＤＳ７６に基づく変換ブロック毎に行う。第２逆変換部５６は、逆ＤＣＴを行うことにより得られた予測誤差信号ＤＳ５７を演算部５７に出力する。

演算部５７は、第１逆変換部５５から供給された予測誤差信号ＤＳ５６、または第２逆変換部５６から供給された予測誤差信号ＤＳ５７に、予測選択スイッチ６２から供給された予測画像信号ＤＳ７３を加算して、画像信号ＤＳ５８を生成する。演算部５７は、生成した画像信号ＤＳ５８を参照メモリ５８に記憶させる。

参照メモリ５８は、隣接ブロックの画像信号と複数のフレームの画像信号を蓄積する。なお、複数のフレームの画像信号はデブロッキングフィルタ処理が行われて蓄積される。

参照メモリ５８から読み出された隣接ブロックの参照画像信号ＤＳ６０は、予測部６０と画像信号選択スイッチ７０に供給される。また、参照メモリ５８から読み出されたフレーム画像の参照画像信号ＤＳ６５は、動き補償部６１に供給される。

予測部６０は、参照メモリ５８から読み出された参照画像信号ＤＳ６０を用いて、予測モード情報ＤＳ５３で示された予測モードの予測を行い、予測画像信号ＤＳ６１を生成して、予測選択スイッチ６２に供給する。

動き補償部６１は、最適モードとしてフレーム間予測モードが選択されている場合、最適モードの動きベクトル情報に基づき参照画像信号ＤＳ６５を用いて動き補償を行い、予測画像信号ＤＳ６６を生成する。動き補償部６１は、生成した予測画像信号ＤＳ６６を予測選択スイッチ６２と画像信号選択スイッチ７０に供給する。

予測選択スイッチ６２は、最適モードとしてフレーム内予測モードが選択されている場合、予測部６０で生成された予測画像信号ＤＳ６１を選択して、予測画像信号ＤＳ７３として演算部５７に出力する。また、予測選択スイッチ６２は、最適モードとしてフレーム間予測モードが選択されている場合、動き補償部６１で生成された予測画像信号ＤＳ６６を選択して、予測画像信号ＤＳ７３として演算部５７に出力する。

画像信号選択スイッチ７０は、最適モードとしてフレーム内予測モードが選択されている場合、参照画像信号ＤＳ６０を選択して参照画像エッジ検出部７１に出力する。また、画像信号選択スイッチ７０は、最適モードとしてフレーム間予測モードが選択されている場合、動き補償部６１で生成された予測画像信号ＤＳ６６を選択して、参照画像エッジ検出部７１に出力する。

参照画像エッジ検出部７１は、画像符号化装置１０ｂの参照画像エッジ検出部３１と同様に構成されている。参照画像エッジ検出部７１は、画像信号選択スイッチ７０で選択された復号画像信号を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ７５を変換ブロック設定部７２に出力する。

変換ブロック設定部７２は、画像符号化装置１０ｂの変換ブロック設定部３２と同様に構成されている。変換ブロック設定部７２は、参照画像エッジ検出部７１から供給された指標ＤＳ７５と予測部２５から供給された予測モード情報ＤＳ２０に基づき、符号化対象のサブブロック内におけるエッジの連続性を推定する。変換ブロック設定部７２は、推定結果から直交変換および量子化における変換ブロックを設定して、この設定した変換ブロックを示す変換ブロック設定情報ＤＳ７６を生成する。変換ブロック設定部７２は、生成した変換ブロック設定情報ＤＳ７６を、第１逆量子化部５３、第２逆量子化部５４、第１逆変換部５５、第２逆変換部５６に出力する。

復号化制御部８０は、符号化データの復号化処理における制御命令等の発行を行う。

［３−４．画像復号化装置の動作］
図２９は、第３の実施の形態における画像復号化装置５０ｂの動作を示すフローチャートである。ステップＳＴ１５１で画像復号化装置５０ｂは、符号化データを取得する。画像復号化装置５０ｂは、符号化データＤＳＣを取得して、マクロブロック毎、あるいはマクロブロックペア毎に復号化を開始してステップＳＴ１５２に進む。

ステップＳＴ１５２で画像復号化装置５０ｂは、エントロピー復号化を行う。画像復号化装置５０ｂは、符号化データＤＳＣの各シンタックスの可変長符号を復号化して、量子化データＤＳ５１や変換情報ＤＳ５２、予測モード情報ＤＳ５３、動きベクトル情報ＤＳ３５を再生してステップＳＴ１５３に進む。

ステップＳＴ１５３で画像復号化装置５０ｂは、シンタックスの解析を行う。画像復号化装置５０ｂは、復号化を行うことにより得られたデータから、シンタックスの解析を行ってステップＳＴ１５４に進む。

ステップＳＴ１５４で画像復号化装置５０ｂは、サブブロックに関する初期化を行う。画像復号化装置５０ｂは、サブブロックのインデックスsub_blkを初期化して「sub_blk=０」とし、同時に最大サブブロック数MAX_SUB_BLKをセットしてステップＳＴ１５５に進む。

ステップＳＴ１５５で画像復号化装置５０ｂは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さいか判別する。画像復号化装置５０ｂは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さい場合、マクロブロック内のサブブロックにまだ復号化していないサブブロックが存在することからステップＳＴ１５６に進む。画像復号化装置５０ｂは、サブブロックのインデックスsub_blkが最大サブブロック数MAX_SUB_BLKより小さくない場合、マクロブロック内のサブブロックに符号化していないサブブロックは存在しないことからステップＳＴ１７０に進む。

ステップＳＴ１５６で画像復号化装置５０ｂは、フレーム間予測が選択されているか判別する。画像復号化装置５０ｂは、最適モードとしてフレーム間予測が選択されている場合にステップＳＴ１５７に進み、フレーム内予測が選択されている場合にステップＳＴ１６９に進む。

ステップＳＴ１５７で画像復号化装置５０ｂは、予測方向のインデックスmode_idx_dと変換情報trans_idxおよび動きベクトル情報をロードする。画像復号化装置５０ｂは、予測方向のインデックスmode_idx_dと変換情報trans_idxおよび動きベクトル情報を符号化データから抽出してステップＳＴ１５８に進む。

ステップＳＴ１５８で画像復号化装置５０ｂは、動き補償信号を生成する。画像復号化装置５０ｂは、参照フレームの画像信号と動きベクトル情報ＤＳ３５に基づき、動きベクトル情報ＤＳ３５の動きベクトルで示された探索位置ＭＶ_ｘ，ＭＶ_ｙの動き補償信号を生成してステップＳＴ１５９に進む。

ステップＳＴ１５９で画像復号化装置５０ｂは、エッジ検出を行う。画像復号化装置５０ｂは、生成した動き補償信号を用いてエッジ検出を行い、エッジの位置とエッジの強度を示す指標ＤＳ７５を生成してステップＳＴ１６０に進む。

ステップＳＴ１６０で画像復号化装置５０ｂは、変換ブロッを設定する。画像復号化装置５０ｂは、エッジの位置とエッジの強度を示す指標ＤＳ７５に基づいて、復号化対象のサブブロック内におけるエッジの連続性から変換ブロックを設定してステップＳＴ１６１に進む。

ステップＳＴ１６１で画像復号化装置５０ｂは、インデックスmode_idx_dが、斜め方向予測モードのモード番号のうち最小値である斜め方向予測モードの最小モード番号mode_directionよりも小さいか、または変換情報が「trans_idx＝１」かどうかを判別する。画像復号化装置５０ｂは、インデックスmode_idxが最小モード番号mode_directionよりも小さい場合または変換情報「trans_idx＝１」の場合の少なくともいずれかの場合、ステップＳＴ１６２に進む。また、画像復号化装置５０ｂは、他の場合にステップＳＴ１６４に進む。

ステップＳＴ１６２で画像復号化装置５０ｂは、垂直水平逆量子化を行いステップＳＴ１６３に進む。ステップＳＴ１６３で画像復号化装置５０ｂは、垂直水平逆ＤＣＴを行いステップＳＴ１６６に進む。画像復号化装置５０ｂは、例えば処理選択スイッチ５２を第１逆量子化部５３側に切り替えて、第１逆量子化部５３と第１逆変換部５５を用いて逆量子化と逆ＤＣＴを行う。

ステップＳＴ１６４で画像復号化装置５０ｂは、斜め方向パターン逆量子化を行いステップＳＴ１６５に進む。ステップＳＴ１６５で画像復号化装置５０ｂは、斜め方向パターン逆ＤＣＴを行いステップＳＴ１６６に進む。画像復号化装置５０ｂは、例えば処理選択スイッチ５２を第２逆量子化部５４側に切り替える。また、画像復号化装置５０ｂは、第２逆量子化部５４と第２逆変換部５６のパターン選択スイッチを予測方向のインデックスmode_idx_dに従って切り替える。画像復号化装置５０ｂは、インデックスmode_idx_dに従ってスイッチを切り替えることで、予測方向に対応した斜め方向パターン逆量子化部と斜め方向パターン逆ＤＣＴ部を用いて逆量子化と逆ＤＣＴを行う。

ステップＳＴ１６６で画像復号化装置５０ｂは、予測誤差と予測画像の合成を行う。画像復号化装置５０ｂは、予測誤差信号ＤＳ５６または予測誤差信号ＤＳ５７に対して予測選択スイッチ６２から出力された予測画像信号ＤＳ７３を加算して、画像信号ＤＳ５８を生成してステップＳＴ１６７に進む。

ステップＳＴ１６７で画像復号化装置５０ｂは、参照メモリに蓄積する。画像復号化装置５０ｂは、生成した画像信号ＤＳ５８を参照メモリ５８に蓄積してステップＳＴ１６８に進む。

ステップＳＴ１６８で画像復号化装置５０ｂは、サブブロックのインデックスsub_blkに「１」を加算して、新たなインデックスsub_blkとしてステップＳＴ１５５に戻る。

また、ステップＳＴ１５６でフレーム内予測が選択されていると判別されてステップＳＴ１６９に進むと、画像復号化装置５０ｂは、図２０のステップＳＴ５６からステップＳＴ６７まで処理を行ったのちステップＳＴ１５５に戻る。

その後、画像復号化装置５０ｂは、ステップＳＴ１５５でサブブロックのインデックスsub_blkが最大方向数MAX_MODE_d以下でないと判定してステップＳＴ１７０に進む。ステップＳＴ１７０で画像復号化装置５０ｂは、サブブロックの復号化が完了したことから参照メモリ５８に蓄積されている画像信号を復号画像の画像信号として出力する。

このように、第３の実施の形態によれば、フレーム内予測だけでなくフレーム間予測に基づいて、エッジの連続性を考慮して変換ブロックが設定される。したがって、フレーム間予測においても、連続するエッジが複数の変換ブロックをまたぐことを防止して主観画質を向上させることができる。また、エッジが含まれない変換ブロックが増加されてエネルギー集中の向上をはかることができる。

なお、第３の実施の形態では、探索位置を順次移動しながら、予測方向毎に符号化コストを算出した。しかし、例えば符号化対象のサブブロックと最も相関が高いブロック位置を検出して、この最も相関が高いブロック位置で予測方向毎に符号化コストを算出して、この算出した予測方向毎の符号化コストとフレーム内予測の予測モード毎の符号化コストを比較して、最適モードを決定することも可能である。この場合には、探索位置を順次移動させる毎に符号化コストを算出する必要がないので演算処理を軽減できる。

また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。

例えば、プログラムは記録媒体としてのハードディスクやＲＯＭ（Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、ＣＤ−ＲＯＭ(Compact Disc Read Only Memory)，ＭＯ(Magneto optical)ディスク，ＤＶＤ(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的あるいは永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。

なお、プログラムは、上述したようなリムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトから、コンピュータに無線転送したり、ＬＡＮ(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送する。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。

なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。

また、上述の実施の形態では、直交変換方法としてＤＣＴを用いたが、ＫＬＴ、ＤＳＴ、離散ウェーブレット変換(Discrete Wavelet Transform)を用いるようにしてもよい。また、ブロックサイズも上述の実施の形態のサイズに限らず、さらに大きなブロックサイズであってもよい。

上述の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。

本技術の画像符号化装置と画像復号化装置およびその方法とプログラムによれば、符号化対象ブロックに対する参照画像の画像信号を用いてエッジが検出される。このエッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように符号化対象ブロックの分割処理を行い、変換ブロックが設定される。また、変換ブロック毎に変換処理が行われて符号化データが生成される。符号化データを復号化処理する画像復号化装置では、復号化対象ブロックに対する参照画像の画像信号を用いてエッジが検出される。このエッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように復号化対象ブロックの分割処理を行い、変換ブロックが設定される。また、変換ブロック毎に逆変換処理が行われて復号画像の画像信号が生成される。このため、連続するエッジが複数の変換ブロックをまたいでしまうことを防止して主観画質を向上できる。また、エッジが含まれない変換ブロックを増加させることが可能となり、エネルギー集中の効率化の効果を得ることができる。したがって、動画や静止画の生成を行う撮像装置、動画や静止画の編集を行う編集装置等に適している。

１０，１０ａ，１０ｂ・・・画像符号化装置、１１，２３，５７・・・演算部、１２，１８，５２・・・処理選択スイッチ、１３・・・第１変換部、１４・・・第２変換部、１５・・・第１量子化部、１６・・・第２量子化部、１７，１７ａ，１７ｂ・・・エントロピー符号化部、１９，５３・・・第１逆量子化部、２０，５４・・・第２逆量子化部、２１，５５・・・第１逆変換部、２２，５６・・・第２逆変換部、２３，５７・・・演算部、２４，５８・・・参照メモリ、２５，６０・・・予測部、３０，７０・・画像信号選択スイッチ、３１，７１・・・参照画像エッジ検出部、３２，３２ａ，７２・・・変換ブロック設定部、３５・・・動き推定部、３６，６１・・・動き補償部、３７，６２・・・予測選択スイッチ、４０・・・符号化制御部、５０，５０ａ，５０ｂ・・・画像復号化装置、５１，５１ａ，５１ｂ・・・エントロピー復号化部、５３ 第１逆量子化部、１３１・・・水平垂直ＤＣＴ部、１４０，１６０，２００，２２０・・・パターン選択スイッチ、１４１〜１４６・・・第１斜め方向パターンＤＣＴ部〜第６斜め方向パターンＤＣＴ部、１５１・・・水平垂直量子化部、１６１〜１６６・・・第１斜め方向パターン量子化部〜第６斜め方向パターン量子化部、１９１・・・水平垂直逆量子化部、２０１〜２０６・・・第１斜め方向パターン逆量子化部〜第６斜め方向パターン逆量子化部、２１１・・・水平垂直逆ＤＣＴ部、２２１〜２２６・・・第１斜め方向パターン逆ＤＣＴ部〜第６斜め方向パターン逆ＤＣＴ部

Claims (19)

1. 符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行うエッジ検出部と、
   前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記符号化対象ブロックの分割処理を行い、変換ブロックを設定する変換ブロック設定部と、
   前記変換ブロック毎の直交変換を含む処理を行い、符号化データを生成する符号化処理部と
   を備える画像符号化装置。
2. 前記変換ブロック設定部は、前記エッジ検出結果に基づき符号化対象ブロックにおけるエッジの連続性を推定して、該推定したエッジがブロック間の境界に含まないように分割処理を行い、前記変換ブロックを設定する請求項１記載の画像符号化装置。
3. 前記変換ブロック設定部は、フレーム間予測またはフレーム内予測の予測モード毎に、前記変換ブロックの設定を行い、
   前記符号化処理部は、前記予測モード毎に設定した変換ブロックで前記直交変換を含む処理を行ったときの符号化コストを比較して、最も符号化効率の高い予測モードを選択する請求項２記載の画像符号化装置。
4. 前記エッジ検出部は、前記参照画像の画像信号として、前記符号化対象ブロックに隣接する符号化済みブロックの画像信号を用い、
   前記変換ブロック設定部は、前記エッジ検出によって検出されたエッジが予測モードの予測方向に連続すると推定して、前記変換ブロックを設定する請求項３記載の画像符号化装置。
5. 前記エッジ検出部は、前記参照画像の画像信号として、前記符号化対象ブロックに対して時間方向の符号化済み画像の画像信号を用いる請求項３記載の画像符号化装置。
6. 前記符号化処理部は、前記選択した予測モードで符号化処理を行うことにより得られた符号化データに、該選択した予測モードを示す情報を含める請求項３記載の画像符号化装置。
7. 前記符号化処理部は、前記選択した予測モードで符号化処理を行うことにより得られた符号化データに、該選択した予測モードで設定された変換ブロックを示す情報を含める請求項３記載の画像符号化装置。
8. 前記変換ブロック設定部は、前記エッジ検出によってエッジの位置とエッジの方向が検出された場合、予測モードの予測方向と前記検出されたエッジの方向の信頼度を比較して、信頼度の高い方向にエッジが連続すると推定する請求項２記載の画像符号化装置。
9. 前記エッジ検出部は、前記エッジ検出でエッジの強度を検出して、
   前記変換ブロック設定部は、前記変換ブロック間の境界に含まないようにするエッジを、前記エッジの強度に応じて選択する請求項１記載の画像符号化装置。
10. 符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う工程と、
    前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記符号化対象ブロックの分割処理を行い、変換ブロックを設定する工程と、
    前記変換ブロック毎のブロック毎の直交変換を含む処理を行い、符号化データを生成する工程と
    を含む画像符号化方法。
11. 画像の符号化をコンピュータで実行させるプログラムであって、
    符号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う手順と、
    前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記符号化対象ブロックの分割処理を行い、変換ブロックを設定する手順と、
    前記変換ブロック毎の直交変換を含む処理を行い、符号化データを生成する手順と
    を実行させるプログラム。
12. 符号化データから予測モード情報の抽出を行う情報抽出部と、
    復号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行うエッジ検出部と、
    前記予測モード情報と前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記復号化対象ブロックの分割処理を行い、変換ブロックを設定する変換ブロック設定部と、
    前記変換ブロック毎の逆直交変換を含む処理を行い、画像信号を生成する復号化処理部と
    を備える画像復号化装置。
13. 前記変換ブロック設定部は、前記エッジ検出結果に基づき復号化対象ブロックにおけるエッジの連続性を推定して、該推定したエッジがブロック間の境界に含まないように分割処理を行い、前記変換ブロックを設定する請求項１２記載の画像復号化装置。
14. 前記エッジ検出部は、前記参照画像の画像信号として、前記復号化対象ブロックに隣接する復号化済みブロックの画像信号を用い、
    前記変換ブロック設定部は、前記エッジ検出によって検出されたエッジが前記予測モード情報で示された予測モードの予測方向に連続すると推定して、前記変換ブロックを設定する請求項１３記載の画像復号化装置。
15. 前記エッジ検出部は、前記参照画像の画像信号として、前記復号化対象ブロックに対して時間方向の復号化済み画像の画像信号を用いる請求項１３記載の画像復号化装置。
16. 前記変換ブロック設定部は、前記エッジ検出によってエッジの位置とエッジの方向が検出された場合、予測モードの予測方向と前記検出されたエッジの方向の信頼度を比較して、信頼度の高い方向にエッジが連続すると推定する請求項１３記載の画像復号化装置。
17. 前記エッジ検出部は、前記エッジ検出でエッジの強度を検出して、
    前記変換ブロック設定部は、前記変換ブロック間の境界に含まないようにするエッジを、前記エッジの強度に応じて選択する請求項１２記載の画像復号化装置。
18. 符号化データから予測モード情報の抽出を行う工程と、
    復号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う工程と、
    前記予測モード情報と前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記復号化対象ブロックの分割処理を行い、変換ブロックを設定する工程と、
    前記変換ブロック毎の逆直交変換を含む処理を行い、画像信号を生成する工程と
    を含む画像復号化方法。
19. 符号化データの復号化をコンピュータで実行させるプログラムであって、
    前記符号化データから予測モード情報の抽出を行う手順と、
    復号化対象ブロックに対する参照画像の画像信号を用いてエッジ検出を行う手順と、
    前記予測モード情報と前記エッジ検出結果に基づき、分割後のブロック間の境界でエッジを含まないように前記復号化対象ブロックの分割処理を行い、変換ブロックを設定する手順と、
    前記変換ブロック毎の逆直交変換を含む処理を行い、画像信号を生成する手順と
    とを実行させるプログラム。

Images