JP4509104B2

JP4509104B2 - 高度動画像符号化におけるイントラ予測のための高速モード決定アルゴリズム

Info

Publication number: JP4509104B2
Application number: JP2006508058A
Authority: JP
Inventors: パン，フェン; リン，シャオ; ラハルジャ，スサント; リム，ケン，パン; リー，ジェン，グオ; フェン，ゲ，ナン; ウー，ダ，ジュン; ウー，シー
Original assignee: エージェンシー・フォア・サイエンス・テクノロジー・アンド・リサーチ
Priority date: 2003-03-03
Filing date: 2004-03-03
Publication date: 2010-07-21
Anticipated expiration: 2024-03-03
Also published as: US20070036215A1; EP1604530A1; KR101029762B1; JP2006523073A; BRPI0408087A; CN1795680A; WO2004080084A1; EP1604530A4; AU2004217221A1; CN1795680B; MXPA05009250A; KR20050109525A; AU2004217221B2

Description

本発明は、デジタル動画像処理、特に、デジタル動画像符号化及び圧縮に関する。

最高の符号化効率を達成するために、高度動画像符号化（ＡＶＣ： Advanced Video Coding）は、符号化品質の最高化、その結果得られるデータビットの最小化に関して最良の符号化結果を得るために、レート歪み最適化（ＲＤＯ：rate distortion optimization）技術を使用する。ＡＶＣは、Ｈ．２６４／ＡＶＣ，ＭＰＥＧ−４Ｐａｒｔ１０及びＪＶＴを含む。ＡＶＣに関する更なる情報は、ITU-T Rec. H.264 ISO/IEC 14496-10 AVC, “Joint Final Committee Draft（JFCD）of Joint Video Specification（共同動画像仕様の共同最終委員草案）”，Klagenfurt, オーストリア, 2002年7月22-26日、に見られる。ＲＤＯを達成するために、符号器は、その動画像を余す所なく符号化するために全てのモードの組み合わせを利用する。そのようなモードの組み合わせは、種々のイントラ（フレーム内）予測モード及びインター（フレーム間）予測モードを含む。その結果、ＡＶＣにおける動画像符号化の複雑性と計算負荷が劇的に増大し、それによって、最新のハードウエアシステムを使用した動画像通信などの実用化が困難となっている。

ＡＶＣ動画像符号化のための動き推定の高速アルゴリズムに関していくつかの研究が報告されている。ジャン・リ（Xiang Li）とグオウェイ・ウー（Guowei Wu）の「高速完全画素動き推定(Fast Integer Pixel Motion Estimation)」2002年12月5-13日の日本の淡路島におけるＪＴＶ−Ｆ００１１の第６回会議、ジボ・チェン（Zhibo Chen），ペン・ゾウ（Peng Zhou）及びユン・ヒー（Yun He）「ＪＶＴのための高速完全画素及び部分画素動き推定(Fast Integer Pel and Fractional Pel Motion Estimation)」 2002年12月5-13日の日本の淡路島におけるＪＴＶ−Ｆ００１１の第６回会議、ヒェ‐イェオン・チョン・トゥラピス（Hye-Yeon Cheong Tourapis），アレクシス・マイケル・トゥラピス（Alexis Michael Tourapis）及びパンカジ・トピワル（Pankaj Topiwal）「ＪＴＶ符復号器内での高速動き推定(Fast Motion Estimation within the JVT Codec)」2002年10月9-17日のスイス、ジュネーブでのＪＶＴ−Ｅ０２３、第５回会議、を参照。しかしながら、ＡＶＣ用のイントラ予測における高速アルゴリズムはまだ報告されていない。

イントラ符号化とは、動画像内の空間冗長性のみが利用される場合のことをいう。その結果得られる画像は、Ｉ−画像と呼ばれる。従来、Ｉ−画像は、その画像のすべてのマクロブロックに対して変換を直接適用することによって符号化され、これにより、インター符号化のそれと比較して、遥かに多数のデータビットが生成される。イントラ符号化の効率を増大するために、ＡＶＣ処理において、所与の画像の隣接するマクロブロック間の空間相互関係が利用される。対象マクロブロックを、その周囲のマクロブロックから予測することができる。そして実際のマクロブロックとその予測との間の差を符号化する。

マクロブロックがイントラモードで符号化される場合、前に符号化され再構築されたブロックに基づいて予測ブロックが形成される。輝度成分の場合、各４ｘ４のサブブロック又は１６ｘ１６のマクロブロックに対してイントラ予測を使用することができる。４ｘ４輝度ブロックの場合は９つの予測モードがあり、１６ｘ１６のマクロブロックの場合は４つの予測モードがある。クロミナンス（クロマ）成分の場合、二つの８ｘ８のクロマブロック（ＵとＶ）に４つの予測モードを適用することができる。その結果ＵとＶ成分についての予測モードは同じになるはずである。

図１は、４ｘ４輝度ブロック１００のイントラ予測を図示し、ここで、画素ａ−ｐが予測対象画素であり、画素Ａ−Ｉは、予測時に利用可能な隣接画素である。もし予測モードＯが選択されれば、隣接画素Ａに基づいて画素ａ，ｅ，ｉ及びｍが、隣接画素Ｂに基づいて画素ｂ，ｆ，ｊ及びｎが、それぞれ予測される。図１に図示されている８つの方向予測モード１５０の他に、第９番目のモード、即ち、ＤＣ予測モード又はＡＶＣのモード２、がある。

ここでも、ＡＶＣ動画像符号化は、レート歪み最適化のコンセプトに基づくものであり、符号器は全てのモードの組み合わせを使用してイントラブロックを符号化して、最良のＲＤＯを与えるものを選択しなければならない。ＡＶＣのイントラ予測構造により、１つのマクロブロック中の輝度とクロマのモード組み合わせの数はＭ８ｘ（Ｍ４ｘ１６＋Ｍ１６）であり、ここで、Ｍ８，Ｍ４及びＭ１６は、それぞれ、８ｘ８クロマブロックのモード数、４ｘ４輝度ブロックのモード数、そして１６ｘ１６輝度ブロックのモード数、である。従って、あるマクロブロックに対して、最良のＲＤＯが決定されるまでに、５９２のＲＤＯ計算が行われなければならない。その結果、符号器の複雑性と計算負荷は極めて高いものとなる。

本発明によれば、複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測方法が提供される。この方法は、デジタル画像の各イントラブロックに対してエッジ方向情報を生成するステップと、生成されたエッジ方向情報に基づくレート歪み最適化のための最も可能性の高い予測モードを選択するステップとを備えている。

前記エッジ方向情報は、前記デジタル画像に対して少なくとも１つのエッジ演算子を適用することによって生成できる。前記エッジ演算子は、前記デジタル動画像の輝度のクロミナンス成分の境界の画素以外の各輝度及びクロミナンス画素に適用することができる。この方法は、さらに、各画素につき、エッジベクトルの大きさと角度とを決定するステップを備えることができる。前記エッジ方向情報として、各イントラブロック中の全画素について計算されたエッジ方向ヒストグラムを採用することができる。このエッジ方向ヒストグラムは、４ｘ４輝度ブロックによるものとすることができ、予測モードとして８つの方向予測モードとＤＣ予測モードが挙げられる。前記エッジ方向ヒストグラムは、８ｘ８及び１６ｘ１６輝度ブロックによるものとすることができ、予測モードとして、２つの方向予測モードと、平面予測モードとＤＣ予測モードとを採用することができる。
前記エッジ方向ヒストグラムによって、ブロック中の類似方向の画素の大きさを合計することも提案される。

本発明の方法は、さらに、現在のＲＤＯモード演算中の非零係数の値が前に計算されたＲＤＯモードのそれを超えている場合、ＲＤＯモード演算を中止し、現在のＲＤＯモードを排除するステップが備えられてもよい。
この方法は、さらに、選択された最も可能性の高いイントラ予測モードを使用して前記デジタル画像のブロックをイントラ符号化するステップが備えられてもよい。

本発明によれば、複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測装置も提供される。この装置は、デジタル画像の各イントラブロックに対してエッジ方向情報を生成するための手段と、生成されたエッジ方向情報に基づくレート歪み最適化のための最も可能性の高い予測モードを選択するための手段とを備える。この装置のその他の実施形態は、上記方法で説明された実施形態と同様にすることができる。

本発明の実施形態を、以下、図面を参照しながら説明する。
複数の画像からなるデジタル動画像を符号化するためのＡＶＣイントラ予測のための、方法、装置及びコンピュータプログラム物がここに開示される。少数の実施形態についてのみ記載するが、当業者は、本発明の範囲及び意図から逸脱することなく多種多様な変更および／又は置換行うことが可能であることを理解するであろう。その他の場合、当業者に周知の詳細については本発明の不明瞭化を避けるために省略するかもしれない。

本発明の実施形態は、イントラ予測の計算量を減少させる、ローカルエッジ方向情報に基づくＡＶＣイントラ予測のための高速モード決定アルゴリズムを提供する。予測されるべき画像ブロックのエッジ情報に基づき、各画像ブロックに対して、エッジ方向フィールド又は、その他任意の形態のエッジ方向情報が生成される。このエッジ方向情報に基づき、レート歪み最適化のための少数の最も可能性の高いイントラ予測モードのみを選択するための機構が提供される。即ち、画像のエッジマップから導出されたエッジ方向ヒストグラムの使用によって、ＲＤＯ計算のために、小数の最も可能性の高いイントラ予測モードのみが選択される。従って、前記高速モード決定アルゴリズムによれば、イントラ符号化の速度が大幅に増大する。あるひとつのローカルエッジ方向に沿った画素は、通常、類似の値（輝度成分とクロマ成分の両方）を有する。従って、あるエッジと同じ方向にある隣接画素を使用して画素を予測することによって良好な予測を達成することができる。

本発明の実施形態では、以下の特徴のうちの１つ又はそれ以上を備えることができる。即ち、画像ブロック（４ｘ４，８ｘ８，１６ｘ１６又はその他のブロックサイズ）中のエッジ方向情報を利用してイントラ予測のプロセスをガイドする。
前記イントラ予測のプロセスをガイドするための前記ローカルエッジ方向情報としてエッジ方向ヒストグラムが用いられる。
前記イントラ予測のプロセスをガイドするための前記ローカルエッジ方向情報としてエッジ方向フィールドが用いられる。
前記イントラ予測のプロセスをガイドするための前記ローカルエッジ方向情報として前記画像ブロック内のその他の形態のエッジ方向情報が用いられる。
最も大きなエッジ強度を有する１つのエッジ方向が、レート歪み最適化のための最良候補として用いられる。
比較的大きなエッジ強度を有する二つ以上のエッジ方向が、レート歪み最適化のための好適候補として用いられる。
整数変換及びジグザグ走査後における非零係数の値に基づく、ＲＤＯ計算の早期中止。
整数変換及びジグザグ走査後におけるゼロの連続の長さに基づく、ＲＤＯ計算の早期中止。

前記ローカルエッジ方向情報を得るには多数の方法がある。例えば、エッジ方向ヒストグラム（Rafael C. Gonzalez, Richard E. Woods，“Digital Image Processing（デジタル画像処理）”，Prentice Hall, 2002, p.572を参照），方向フィールド（A. M. Bazen and S. H. Gerez, “Systematic methods for the computation of the directional fields and singular points of fingerprints（指紋の方向フィールドと特異点の計算のためのシステマチックな方法）”，IEEE Transactions on Pattern Analysis and Machine Intelligence（パターン分析と人工知能とに関するIEEE研究論文），Vo. 24，pp.905-919，2002年7月）、等。前記高速イントラモード予測アルゴリズムは、エッジ方向ヒストグラムと方向フィールドとの両方に基づいて実施することができ、その実施のパフォーマンスを、JTV Test Model Ad Hoc Group, Evaluation sheet for motion estimation（動き予測の評価シート）, Draft version 4, 2003年2月19日、において推奨されている全てのシーケンスについて、時間節約、平均ＰＳＮＲ及びビットレートに関して比較した。その結果、エッジ方向ヒストグラムに基づくスキームのパフォーマンスが良好であった。従って、ここに記載されるモード決定スキームは、エッジ方向ヒストグラムに基づいている。

エッジマップ
予測対象ブロックの近傍でエッジ情報を得るために、ソーベル演算子等のエッジ演算子をイントラ画像に適用してエッジ情報を生成することができる。次に、イントラ画像の各画素を、そのエッジ方向と大きさとを含むエッジベクトルであるところの、エッジマップ中の要素と関連つける。イントラ予測に先立って、元の画像からエッジマップを作り出す。

前記エッジ演算子は、二つのたたみ込みカーネルを有する。画像の画素は、両方のカーネルでたたみ込まれる。一方は垂直方向、他方は水平方向での差の度合いに応答する。前記エッジ演算子は、輝度とクロマ画像の境界上の画素を除く、各輝度及びクロマ画素に適用される。これは、演算子が、８つの周囲の画素無しで、それらの画素に適用することが出来ないからである。輝度（又はクロマ）画像中の画素p_ij,の場合、その対応するエッジベクトル：vＤ_ij＝{ｄｘ_ij,，ｄｙ_ij}は下記のように定義される。

ここで、ｄｘ_ｉｊとｄｙ_ｉｊは、それぞれ、垂直方向と水平方向での差の度合いを表す。従って、エッジベクトルの大きさは、下記によって決定することができる。

実際には、前記大きさは、ｄｘ_ｉｊとｄｙ_ｉｊの二乗和の平方根を使用することによってより正確に得ることができる。但し、前記高速アルゴリズム環境においては、その代わりに通常は式（２）が使用される。エッジの方向（角度単位）は、次の超関数によって決定される。

前記アルゴリズムの一実施形態において、式（３）は不要である。というのは、ＡＶＣでは、予測を適用可能な方向は限られた数しかないからである。実際には、前記エッジ方向ヒストグラムを構築するために、単純なしきい値処理技術を代わりに使用することも可能である。

エッジ方向ヒストグラム
ＲＤＯにおける候補予測モードの数を低減するために、エッジ方向ヒストグラムは、ブロック内のすべての画素から、ブロック内の類似の方向の画素の大きさを合計することによって算出される。

４ｘ４輝度ブロックエッジ方向ヒストグラム
４ｘ４輝度ブロックの場合、図１に図示されているように８つの方向予測モードと、さらに、ＤＣ予測モードとがある。各二つの隣接する方向予測モード間の境界は、二つの対応する方向の光軸角等分線である。例えば、モード１（０°）とモード８（２６．６°）との境界は１３．３°の方向である。重要なことは、モード３とモード８とが、予測モードの円対称性のために隣接しているということである。各画素のモードは、そのエッジ方向Ａｎｇ（vＤ_ｉｊ）によって決まる。
従って、４ｘ４輝度ブロックのエッジ方向ヒストグラムは、次のように決まる。

尚、ｋ＝１，．．．．８，は、８つの方向予測モードを示す。又、式（４）の方向の角度は１８０°周期である。図２にエッジ方向ヒストグラム２００の一例を示す。

１６ｘ１６輝度及び８ｘ８クロマブロックのエッジ方向ヒストグラム
１６ｘ１６輝度及び８ｘ８クロマブロックの場合、二つの方向予測モードと、平面予測モードとＤＣ予測モードしかない。従って、このケースのエッジ方向ヒストグラムは、図３に図示されているように、三つの方向３００、即ち、水平、垂直、及び対角線方向、に基づく。
それらのエッジ方向ヒストグラムは次のように構築される。

ここで、ｋ＝１は、水平予測モード、ｋ＝２は垂直予測モード、そしてｋ＝３は平面予測モードを示す。

イントラ予測のためのヒストグラムに基づく高速モード選択
上述したように、前記エッジ方向ヒストグラムの各セルは、ブロック内の類似方向の画素の大きさを合算している。最も大きいセルは、その方向の強いエッジの存在を示し、従って、これを最良予測モードの方向として使用することができる。

４ｘ４輝度ブロック予測モード
４ｘ４輝度ブロックの場合に９モードＲＤＯを実行する代わりに、前記高速アルゴリズムは、前記エッジ方向ヒストグラムに基づき、イントラ４ｘ４ブロック予測のための候補モードとして最も可能性の高い方向予測モードの一部のみを選択する。
エッジ方向に沿った画素は、類似の値を有する可能性が高いので、最良予測モードは、恐らく、そのセルが最も大きな大きさを有するエッジ方向、又は、最大の大きさのセルに近い方向、のモードである。従って、最大の大きさのヒストグラムセルとその二つの隣接するセルが、最良予測モードの候補と見なされる。全てのセルがエッジ方向ヒストグラムにおいて類似の大きさを有する場合を考慮して、ＤＣモードも第４の候補として選択される。
従って、各４ｘ４輝度ブロックに対して、９つではなく、４つのモードＲＤＯ計算だけを実行することができる。

１６ｘ１６輝度ブロック予測モード
最大の大きさのヒストグラムセルだけが最良予測モードの候補と見なされる。上述したものと同様に、ＤＣモードも次の候補として選択される。
従って、各４ｘ４輝度ブロックに対して、４つではなく、２つのモードＲＤＯ計算だけを実行することができる。

８ｘ８クロマブロック予測モード
クロマブロックの場合、二種類のヒストグラム、即ち、成分Ｕと、成分Ｖとからのヒストグラム、がある。従って、これら二つの成分からの最大の大きさを有するヒストグラムセルが、候補モードと見なされる。前と同様、ＤＣモードもＲＤＯ計算に加わる。尚、二つの成分からの最大の大きさの方向が同じである場合は、ＲＤＯ計算のために２つの候補モードしか存在しないことがありうる。その他の場合、その数は３である。
従って、各８ｘ８クロマブロックにつき、４ではなく、２又は３のモードＲＤＯ計算が行われる。
表１に、エッジ方向ヒストグラムに基づくＲＤＯ計算のために選択される候補の数を纏めている。この表１から理解されるように、高速モード決定アルゴリズムを備える符号器は、１３２−１９８のＲＤＯ計算しか実行せず、これは、現在のＡＶＣ動画像符号化（５９２）よりも遥かに少ない。

モード演算の早期中止
イントラ予測ＲＤＯモード演算において、最も時間がかかる部分は、context adaptive binary arithmetic coding （コンテクスト適合二値算術符号化）（ＣＡＢＡＣ）符号化にある。又、ＣＡＢＡＣ符号化後に生成されるデータビットの数は、整数変換とジグザグ走査後の非零係数の値に大きく依存する。従って、モード演算における単純な早期中止スキームが実行される。即ち、もしも、現在のＲＤＯモード演算における非零係数の値が前に計算されたＲＤＯモードにおけるそれを上回ったならば、このＲＤＯモード演算の早期中止が起動され、現在のＲＤＯモードは排除される。

ＡＶＣイントラ予測
図４は、ＡＶＣイントラ予測の方法４００を図示する高レベルフローチャートである。ステップ４１０において、デジタル動画像の１つのデジタル画像の各イントラブロックに対するエッジ方向情報が生成される。ステップ４２０において、この生成されたエッジ方向情報に基づくレート歪み最適化のための最も可能性の高い予測モードを選択する。ステップ４３０において、前記選択された最も可能性の高いイントラ予測モードを使用して前記デジタル画像のブロックをイントラ符号化する。この方法は、ハードウエアおよび／又はソフトウエアとしての実施に非常に適している。例えば、そのソフトウエアをソフトウエアアプリケーションとしてコンピュータ上で実行し、あるいは、ビデオレコーダに組み込むことができる。

コンピュータプログラムとしての実施
上記実施形態は、図５に略示するコンピュータシステム５００上で実行可能である。それは、前記コンピュータシステム５００内にて実行され、このコンピュータシステム５００に前記実施形態の方法を実行するように指示するコンピュータプログラムなどのソフトウエアとして実施することが可能である。

前記コンピュータシステム５００は、コンピュータモジュール５０２と、キーボード５０４やマウス５０６等の入力モジュールと、ディスプレイ５０８やプリンタ５１０等の複数の出力装置とからなる。
前記コンピュータモジュール５０２は、適当なトランシーバ装置５１４を介してコンピュータネットワーク５１２に接続され、インターネットや、ローカルエリアネットワーク（ＬＡＮ）又はワイドエリアネットワーク（ＷＡＮ）等のその他のネットワークシステムに接続されている。

この実施形態でのコンピュータモジュール５０２は、プロセッサ５１８、ランダムアクセスメモリ（ＲＡＭ）５２０、及び読み取り専用メモリ（ＲＯＭ）５２２を有する。前記コンピュータモジュール５０２は、さらに、前記ディスプレー５０８へのＩ／Ｏインターフェース５２４や、前記キーボード２０４へのＩ／Ｏインターフェース５２６等の多数の入力/出力（Ｉ／Ｏ）インターフェースを有する。
前記コンピュータモジュール５０２の前記コンポーネントは、通常、相互接続バス５２８を介して、当業者に公知の方法で通信する。

アプリケーションプログラムは、通常、ＣＤ−ＲＯＭやフロッピーディスクなどのデータ格納媒体上にエンコードされて前記コンピュータシステム５００のユーザに供給され、データ格納装置５３０の対応のデータ格納媒体ドライブを利用して読み出される。前記アプリケーションプログラムは、前記プロセッサ５１８によって読み出され、その実行が制御される。RAM５２０を利用して、プログラムの中間格納を達成することができる。
上述したように、複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測のための方法と装置が開示された。ここには小数の実施形態しか記載しなかったが、当業者には、本発明の範囲及び要旨から逸脱することなく多数の改変および／又は置換が可能であることが理解されるであろう。

４ｘ４輝度ブロックのイントラ予測の例を示す説明図４ｘ４輝度ブロックでのエッジ方向ヒストグラムの例を示す図８ｘ８及び１６ｘ１６イントラ予測モード方向を示す図複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測の方法を説明する高レベルフローチャート本発明の１つの実施形態を実行することが可能な汎用コンピュータのブロック図

Claims

複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測のための方法であって、
デジタル画像の各イントラブロックに対して、当該イントラブロック中の全画素について、類似の方向を持つ画素の大きさを合計することにより算出されたエッジ方向ヒストグラムを含むエッジ方向情報を生成するステップと、前記生成されたエッジ方向情報に基づいて、レート歪み最適化のための最適な予測モードの方向として用いられる前記エッジ方向情報において最大値を持つセルを含んでいる予測モードを最も可能性の高いイントラ予測モードとして選択するステップと、選択された前記イントラ予測モードを用いて前記デジタル画像のそれぞれの前記イントラブロックをイントラコード化するステップと、が備えられている方法。
前記エッジ方向情報は、前記デジタル画像に対して少なくとも１つのエッジ演算子を適用することによって生成される請求項１に記載の方法。
前記少なくとも１つのエッジ演算子には、少なくとも１つのソーベル演算子が含まれる請求項２に記載の方法。
前記エッジ演算子は、前記デジタル画像の輝度及びクロマ成分の境界の画素以外の各輝度及びクロマ画素に適用される請求項２又は３に記載の方法。
さらに、それぞれの前記輝度及びクロマ画素のエッジベクトルの大きさと角度とを決定するステップが備えられている請求項４に記載の方法。
前記エッジ方向ヒストグラムは、４ｘ４輝度ブロックによるものである請求項１から５のいずれか一項に記載の方法。
予測モードには、８つの方向予測モードとＤＣ予測モードとが含まれる請求項６に記載の方法。
前記エッジ方向ヒストグラムは、８ｘ８及び１６ｘ１６輝度ブロックによるものである請求項６に記載の方法。
予測モードには、２つの方向予測モードと、平面予測モードと、ＤＣ予測モードとが含まれる請求項８に記載の方法。
前記エッジ方向情報は、前記デジタル画像から生成された方向フィールド情報を使用して生成される請求項１から９のいずれか一項に記載の方法。
さらに、現在のＲＤＯモード演算中の非零係数の値が前に計算されたＲＤＯモードのそれを超えている場合、ＲＤＯモード演算を中止し、現在のＲＤＯモードを排除するステップが備えられている請求項１から１０のいずれか一項に記載の方法。
さらに、前記選択された最も可能性の高いイントラ予測モードを使用して前記デジタル画像のブロックをイントラ符号化するステップが備えられている請求項１から１１のいずれか一項に記載の方法。
複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測のための装置であって、
デジタル画像の各イントラブロックに対して、当該イントラブロック中の全画素について、類似の方向を持つ画素の大きさを合計することにより算出されたエッジ方向ヒストグラムを含むエッジ方向情報を生成するための手段と、前記生成されたエッジ方向情報に基づいて、レート歪み最適化のための最適な予測モードの方向として用いられる前記エッジ方向情報において最大値を持つセルを含んでいる予測モードを最も可能性の高いイントラ予測モードとして選択するための手段とが備えられている装置。
前記エッジ方向情報は、前記デジタル画像に対して少なくとも１つのエッジ演算子を適用することによって生成される請求項１３に記載の装置。
前記少なくとも１つのエッジ演算子には、少なくとも１つのソーベル演算子が含まれる請求項１４に記載の装置。
前記エッジ演算子は、前記デジタル画像の輝度及びクロマ成分の境界の画素以外の各輝度及びクロマ画素に適用される請求項１３又は１４に記載の装置。
さらに、画素のエッジベクトルの大きさと角度とを決定するための手段が備えられている請求項１６に記載の装置。
前記エッジ方向ヒストグラムは、４ｘ４輝度ブロックによるものである請求項１３に記載の装置。
予測モードには、８つの方向予測モードとＤＣ予測モードとが含まれる請求項１８に記載の装置。
前記エッジ方向ヒストグラムは、８ｘ８及び１６ｘ１６輝度ブロックによるものである請求項１８に記載の装置。
予測モードには、２つの方向予測モードと、平面予測モードと、ＤＣ予測モードとが含まれる請求項２０に記載の装置。
請求項に記載の装置１３の装置であって、前記エッジ方向情報は、前記デジタル画像から生成された方向フィールド情報を使用して生成される。
さらに、現在のＲＤＯモード演算中の非零係数の値が前に計算されたＲＤＯモードのそれを超えている場合、ＲＤＯモード演算を中止し、現在のＲＤＯモードを排除するための手段を有する請求項１３から２２のいずれか一項に記載の装置。
さらに、前記選択された最も可能性の高いイントラ予測モードを使用して前記デジタル画像のブロックをイントラ符号化するための手段を有する請求項１３から２３のいずれか一項に記載の装置。
複数の画像を含むデジタル動画像を符号化するためのＡＶＣイントラ予測を使用するコンピュータ読み取り可能媒体上に記録されたコンピュータプログラムであって、
デジタル画像の各イントラブロックに対して、当該イントラブロック中の全画素について、類似の方向を持つ画素の大きさを合計することにより算出されたエッジ方向ヒストグラムを含むエッジ方向情報を生成するための機能と、前記生成されたエッジ方向情報に基づいて、レート歪み最適化のための最適な予測モードの方向として用いられる前記エッジ方向情報において最大値を持つセルを含んでいる予測モードを最も可能性の高いイントラ予測モードとして選択するための機能とをコンピュータに実現させるためのコンピュータプログラム。
前記エッジ方向情報は、前記デジタル画像に対して少なくとも１つのエッジ演算子を適用することによって生成される請求項２５に記載のコンピュータプログラム。
前記少なくとも１つのエッジ演算子には、少なくとも１つのソーベル演算子が含まれる請求項２５に記載のコンピュータプログラム。
前記エッジ演算子は、前記デジタル画像の輝度及びクロマ成分の境界の画素以外の各輝度及びクロマ画素に適用される請求項２６又は２７に記載のコンピュータプログラム。
さらに、画素のエッジベクトルの大きさと角度とを決定するためのコンピュータプログラムコード部が備えられている請求項２８に記載のコンピュータプログラム。
前記エッジ方向ヒストグラムは、４ｘ４輝度ブロックによるものである請求項２５に記載のコンピュータプログラム。
予測モードには、８つの方向予測モードとＤＣ予測モードとが含まれる請求項３０に記載のコンピュータプログラム。
前記エッジ方向ヒストグラムは、８ｘ８及び１６ｘ１６輝度ブロックによるものである請求項２５に記載のコンピュータプログラム。
予測モードには、２つの方向予測モードと、平面予測モードと、ＤＣ予測モードとが含まれる請求項３２に記載のコンピュータプログラム。
前記エッジ方向情報は、前記デジタル画像に対して少なくとも１つのエッジ演算子を適用することによって、又は、前記デジタル画像から生成された方向フィールド情報を使用して生成される請求項２５に記載のコンピュータプログラム。
さらに、現在のＲＤＯモード演算中の非零係数の値が前に計算されたＲＤＯモードのそれを超えている場合、ＲＤＯモード演算を中止し、現在のＲＤＯモードを排除するための機能が備えられている請求項２５から３４のいずれか一項に記載のコンピュータプログラム。
さらに、前記選択された最も可能性の高いイントラ予測モードを使用して前記デジタル画像のブロックをイントラ符号化するための機能が備えられている請求項２５から３５のいずれか一項に記載のコンピュータプログラム。