JP3553570B2 - 動き量検出方法及び動き量検出装置 - Google Patents
動き量検出方法及び動き量検出装置 Download PDFInfo
- Publication number
- JP3553570B2 JP3553570B2 JP02740994A JP2740994A JP3553570B2 JP 3553570 B2 JP3553570 B2 JP 3553570B2 JP 02740994 A JP02740994 A JP 02740994A JP 2740994 A JP2740994 A JP 2740994A JP 3553570 B2 JP3553570 B2 JP 3553570B2
- Authority
- JP
- Japan
- Prior art keywords
- motion
- motion amount
- value
- image data
- evaluation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【目次】
以下の順序で本発明を説明する。
産業上の利用分野
従来の技術
発明が解決しようとする課題
課題を解決するための手段(図13及び図14)
作用(図13及び図14)
実施例(図1〜図14)
(1)第1実施例の動き量検出方法及び装置(図1〜図7)
(2)第2実施例の動き量検出方法及び装置(図3、図5)
(3)第3実施例の動き量検出方法及び装置(図5、図8、図9)
(4)第4実施例の動き量検出方法及び装置(図5)
(5)第5実施例の動き量検出方法及び装置(図10)
(6)第6実施例の動き量検出方法及び装置(図11、図12)
(7)第7実施例の動き量検出方法及び装置(図13、図14)
(8)他の実施例(図10)
発明の効果
【0002】
【産業上の利用分野】
本発明は動き量検出方法及び動き量検出装置に関し、特に画像の動きを検出する際に時間的に異なる2つの画像データをそれぞれ階層化してから動き量を検出するものに適用し得る。
【0003】
【従来の技術】
従来、動画像の処理として、動き量(動きベクトル)すなわち時間的に異なる画像中の物体の動き方向と大きさ(又は速さ)を用いるものがある。例えば画像の高能率符号化における動き補償フレーム間符号化や、フレーム間時間領域フイルタによるテレビジヨン雑音低減装置における動きによるパラメータ制御等に動き量が用いられる。この画像の動き量を求める動き量検出方法として、ブロツクマツチング法が用いられる(特公昭54−124927 号公報)。
【0004】
このブロツクマツチング法では、まず1つの画面を適当な数画素からなるブロツクに分割する。続いてこのようにブロツク化された画像データと、この画像データが動いた領域を検索するために時間的に異なる画面の画像データがブロツク化されてなるサーチ領域との間で、所定の評価関数を用いて画素単位で評価し、この評価値を最小とする最適値を求めることにより、2つのブロツク化された画像データ間の動き量を検出する。これにより高い精度で画像の動き量を検出し得るようになされている。
【0005】
【発明が解決しようとする課題】
ところがブロツクマツチング法においては、検出対象のブロツクの全ての画素に対して、検出範囲となる全てのサーチ領域をくまなくサーチし、その差分を求める必要がある。このため動き量を検出する計算量が大きくなり、装置自体が大型化したり、演算時間が長くなる問題があつた。このような問題を解決するため、オリジナル画像を複数の解像度で階層化し、この階層画像を用いてブロツクマツチング法で動き量を検出するようになされた動き量検出方法が提案されている(特願平5−2448814 号)。
【0006】
この動き量検出方法では、まずオリジナルの画像データ(以下、階層1と呼ぶ)を、平均化やローパスフイルタ処理等で平均値階層化して、画素数を低減した画像データ(以下、階層2と呼ぶ)を作成する。次に作成した階層2の画像データで大まかな動き量を検出し、その動き量に基づいて階層1の画像データについて細かい動き量検出を行うことにより、少ない計算量で動き量を検出し得るようになされている。なおここでの階層数は2階層に限らず、順次平均値階層化を繰り返すことにより、さらにデータ量の少ない階層3、階層4、……の画像データを作成することもできる。
【0007】
このような動き量検出方法を用いれば、階層数が多くなる程少ない計算量で動き量を求めることができる。すなわちより上位階層の画像データほどブロツクのサイズとサーチエリアが小さくなるため、評価関数による演算量は必然的に小さくなる。最終的に動き量を求める最下位階層での評価は、ブロツクサイズ自体通常のブロツクマツチング法と同じになるが、上位階層の画像データで求めた動き量に応じて動き補償して、サーチ領域を小さくすることができるため、演算量を削減することができる。
【0008】
ところがこの動き量検出方法においては、階層数が多くなる程動き量の検出精度が劣化する問題があつた。実際上この動き量検出方法では、まず画像の粗い上位階層においてブロツク毎の動き量を検出し、この検出結果に基づいて下位階層において動き量を検出するため、上位階層での検出結果が下位階層での動き量検出に大きな影響を与える。すなわち上位階層の画像データは、平均値階層化の処理でブロツクサイズを小さくするため、画像の特徴量が最下位階層のオリジナル画像と異なつてくる。特にエツジ成分は平均値階層化により失われることになるため、平均値階層化された画像データにおける動き量とオリジナル画像による動き量の対応関係がずれる場合が生じる。
【0009】
実際上現在の階層より下位の階層で動き量を求める場合、上位階層での動き量の結果を反映させるため、もし対応関係のずれ量が大きくサーチ領域以内でカバーできなかつたときには誤動作となる。従つて平均値階層化された画像データによる動き量検出方法では、平均値階層化による情報量の欠落により、誤動作が起きる可能性が大きくなる問題がある。また階層が上位になるほどブロツクサイズが小さくなることから、平均値階層化された画像データ上での動き量検出は、オリジナル画像に対する動き量検出の分解能が低下して誤動作が発生する問題もある。
【0010】
本発明は以上の点を考慮してなされたもので、階層化された画像データを用いてブロツクマツチング法で動き量を検出する際に、動き量の検出精度を向上し得る動き量検出方法及び動き量検出装置を提案しようとするものである。
【0011】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、入力画像より生成された解像度の異なる複数階層の画像データに基づいて、動き量を検出する動き量検出方法において、それぞれ異なる時点の入力画像に対応する階層化された解像度の異なる複数階層の画像データに基づいて、当該階層毎の画像データの高周波成分を表す複数階層のアクテイビテイデータを形成するアクテイビテイ階層化ステツプと、上位階層から階層毎に、画像データについて所定ブロツク単位でブロツクマツチングによつて第1の評価値を求める第1の評価値算出ステツプと、上位階層から階層毎に、アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて第2の評価値を求める第2の評価値算出ステツプと、上位階層の第1及び第2の評価値算出ステツプで得られた第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上位階層よりも下位の階層毎に第1及び第2の評価値算出ステツプで得られた第1及び第2の評価値に基づいて、複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の第1の評価値に基づいて複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に異なる時点の入力画像間の動き量として検出する動き量検出ステツプとを設けるようにした。
【0012】
また本発明においては、入力画像より生成された解像度の異なる複数階層の画像データに基づいて、動き量を検出する動き量検出装置1、90において、それぞれ異なる時点の入力画像に対応する階層化された解像度の異なる複数階層の画像データに基づいて、当該階層毎の画像データの高周波成分を表す複数階層のアクテイビテイデータを形成するアクテイビテイ階層化手段6、7、95、96と、上位階層から階層毎に、画像データについて所定ブロツク単位でブロツクマツチングによつて第1の評価値を求める第1の評価値算出手段19、26、4、103、107と、上位階層から階層毎に、アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて第2の評価値を求める第2の評価値算出手段20、27、101、104、108と、上位階層の第1及び第2の評価値算出手段19、26、103及び20、27、101、104で得られた第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上位階層よりも下位の階層毎に第1及び第2の評価値算出手段26、4、107及び27、104、108で得られた第1及び第2の評価値に基づいて、複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の第1の評価値に基づいて複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に異なる時点の入力画像間の動き量として検出する動き量検出手段29、32、98、99、93、94とを設けるようにした。
【0013】
【作用】
この場合、階層構造のアクテイビテイデータが、入力画像を階層化したときに画像データ中で欠落する特徴量を反映するものであり、上位階層から階層毎に画像データとアクテイビテイデータとの両方を用いて評価値を算出することで、一方の階層の最適評価値が誤検出であつても、もう一方の階層の評価値で正しい動き量を検出して各階層における動き量の検出精度を向上させることができる。
【0014】
【実施例】
以下図面について、本発明の一実施例を詳述する。
【0015】
(1)第1実施例の動き量検出方法及び装置
この第1実施例の動き量検出方法では、オリジナル画像について平均値階層化の手法によつて複数階層の画像データを形成すると共に、各階層の高周波成分(以下アクテイビテイと呼ぶ)を表すデータについても階層化(以下これをアクテイビテイ階層化とよぶ)してアクテイビテイデータを形成し、階層毎にこれらを用いて動き量を検出するものである。
【0016】
実際上それぞれ階層化された画像データとアクテイビテイデータについては、上位階層から順にブロツクマツチング法で評価値を求め、これらを総合判断することにより、その階層の動き量を求める。この動き量を順次下位階層の評価値を求める際に動き補償して参照することにより、最終的にオリジナル画像の動き量を検出する。
【0017】
ここで動き量検出とは、図1に示すように現在のフイールド(又はフレーム)F1上のブロツクB1が過去のフイールド(又はフレーム)F2上のサーチエリアSA内のどのブロツクB2と一致するかを、評価関数で評価して当該評価値に最小を与える位置を動き量として検出する。階層化された画像データを用いた動き量検出方法では、現在及び過去の両フイールドのオリジナル画像の他に階層化された画像データが必要となる。
【0018】
階層化された画像データを生成する例を、図2に示す。図2(A)はオリジナル画像について3階層に階層化された画像データを生成する場合で、階層1はオリジナル画像である。オリジナル画像上のブロツク(例えば16×16)より上位階層の画像データ、階層nにおける画像データをMn (x、y)とすると、次式
【数1】
のように平均値化によつて求めることができ、ブロツクサイズは水平及び垂直方向にそれぞれ1/2になる。またこのように平均値階層化された階層1の画像データから階層2の画像データを生成するときも、(1)式により同様に求めることができる。
【0019】
従来の画像を階層化してなる階層画像を用いた動き量検出方法では、図2(A)の平均値階層化しか行わないが、この実施例では(1)式により平均値階層化された画像データを生成すると同時に、図2(B)に示すように、平均値階層化された画像データについてアクテイビテイ階層化してアクテイビテイデータを生成する。階層2のアクテイビテイデータをΔ2 (x、y)とすると、このアクテイビテイデータΔ2 (x、y)は、平均値階層化された画像データからオリジナル画像の対応する画素の差分の絶対値和によつて、次式
【0020】
【数2】
で求め、同様に階層3のアクテイビテイデータΔ3 (x、y)は、次式
【数3】
で求める。アクテイビテイデータとして、全てオリジナル画像を基底にして求めるようにしたことにより、オリジナル画像に忠実な高周波成分を抽出し得るようになされている。
【0021】
このようにしてアクテイビテイデータを求めると、その階層構造は図2(B)に示すようになり、最下位階層以外での階層プレーンを持つことになる。このアクテイビテイデータは、平均値階層化したときに画像データ中で欠落する特徴量を反映していることになる。
【0022】
ここで例えば図3に示すようなオリジナル画像中の画像データの4×4の画素x1、x2、……、x15、x16でなるブロツクを階層1として階層化する場合、平均値階層化の階層2の画像データ中の画素y1、y2、y3、y4は(1)式に基づいて、次式
【数4】
によつて求め、さらにこの階層2の2×2の画素を用いて、平均値階層化した階層3の画像データ中の画素z1も(1)式に基づいて、次式
【数5】
により求める。
【0023】
また同様にして、アクテイビテイ階層化してなる階層2のアクテイビテイデータは、平均値階層化された階層2の画像データの画素y1、y2、y3、y4と階層1の画像データの画素x1、x2、……、x15、x16を用いて、(2)式に基づいて、次式
【数6】
により求め、さらにアクテイビテイ階層化してなる階層3のアクテイビテイデータは、平均値階層化された階層3の画像データの画素z1と階層1の画像データの画素x1、x2、……、x15、x16を用いて、(3)式に基づいて、次式
【数7】
により求める。
【0024】
上述のようにして求めた平均値階層化した画像データとアクテイビテイ階層化したアクテイビテイデータを用いて、各階層でブロツクマツチング法による動き量検出を行う。すなわちブロツクマツチングの評価関数は、現フイールドをtで表すと、次式
【数8】
で表される。ただし(un 、vn )は、階層nでの動き量を示す。この評価関数E(Y)n の最小を与えるV′n =(un 、vn )を求める動き量とする。現在の階層における動き量Vn は、次式
【数9】
という関係から、最終的な動き量を求めることができる。
【0025】
この実施例の場合の評価関数とは、図2(B)のアクテイビテイデータについても(8)式と同様に、次式
【数10】
となる評価を行い、新たな評価関数E(G)n を、次式
【数11】
とする。ただしw1 、w2 は重み係数である。そして評価関数E(G)n の最小を与える動き量を求める。なお最下位階層ではアクテイビテイデータが存在しないため、(8)式の評価関数E(Y)n のみによる評価を行う。
【0026】
このように平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータの両者を用いて評価することにより、一方の階層の最適評価値が誤検出であつても、もう一方の評価値で正しい検出ができるようになり、各階層における動き量検出の精度が向上する。このように各階層における動き量検出精度が向上すると、(9)式で求める最終的な動き量も検出精度を向上することができる。
【0027】
ここでこの実施例における動き量検出処理手順SP0を図3に示す。すなわちまずステツプSP1において、比較する2画面のオリジナル画像をブロツク化し、次のステツプSP2でブロツク化されたオリジナル画像を、(1)式に従つて平均値階層化すると共に、(2)式及び(3)式に従つてアクテイビテイ階層化して、例えば階層1、階層2及び階層3の画像データと階層2及び階層3のアクテイビテイデータを生成する。
【0028】
続くステツプSP3では現在処理済みの階層が最下位階層か否か判断し、否定結果の場合にはステツプSP4で全サーチ領域について探索終了か否か判断し、ここで否定結果を得るとステツプSP5で画像データ及びアクテイビテイデータの現在及び過去のデータを用いて、(8)式及び(10)式について上述した評価関数E(Y)n 及びE(D)n による評価を行い、ステツプSP4に戻る。
【0029】
やがてステツプSP4で肯定結果を得ると、ステツプSP6に移つて所定階層の画像データ及びアクテイビテイデータについて求めた評価関数E(Y)n及びE(D)nを用いて(11)式より得られる新たな評価関数E(G)nによる評価を行つて最適評価値を求めステツプSP7に移る。ステツプSP7では最適評価値より動き量を決定し、次のステツプSP8で動き量を加算して、それぞれ下位階層に適用し、ステツプSP3に戻る。やがてこのステツプSP3で肯定結果を得ると、ステツプSP9に移つて当該動き量検出方法の処理手順SP0を終了する。
【0030】
このようにサーチ領域内の探索を、最上位階層から始め平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータの評価値を(11)式により総合判定しながら最適な動き量を求め、(9)式によつて求めた動き量を下位階層に適用しながら最下位階層まで処理を繰り返し行い、最終的な動き量を求める。これにより平均値階層化の画像データのみより求めた動き量に比較して、各階層の高周波成分でなるアクテイビテイデータより求めた評価値を加味して動き量を求めるようにしたことにより、平均値化による誤判定を有効に防止して高い精度で動き量を検出し得る。
【0031】
ここで、この実施例の動き量検出方法を用いる動き量検出装置は、図5に示すように構成されている。この動き量検出装置1においては、入力されるオリジナル画像の画像データがブロツク回路2に入力され、所定のサイズ(例えば16×16のブロツクサイズに対してサーチ領域を含むサイズでなる)で順次ブロツク化される。この結果ブロツク化されたオリジナル画像の画像データは、それぞれ階層1のフレームメモリ3及び評価値算出回路4、階層2の平均値階層化回路5、アクテイビテイ階層化回路6、階層3のアクテイビテイ階層化回路7に入力される。
【0032】
階層2の平均値階層化回路5では、入力されるオリジナル画像の画像データの所定ブロツク分について、(1)式の演算による平均値階層化処理を実行して階層2の画像データを求める。この結果得られる階層2の画像データは、それぞれ階層2のブロツク回路8、フレームメモリ9及びアクテイビテイ階層化回路6、階層3の平均値階層化回路10に入力される。
【0033】
階層2のアクテイビテイ階層化回路6では、入力されるオリジナル画像の画像データと階層2の画像データを用いて、(2)式の演算によるアクテイビテイ階層化処理を実行して階層2のアクテイビテイデータを求める。この結果得られる階層2のアクテイビテイデータは、それぞれ階層2のブロツク回路11及びフレームメモリ12に入力される。
【0034】
階層3の平均値階層化回路10では、入力される階層2の画像データを用いて、(1)式の演算による平均値階層化処理を実行して階層3の画像データを求める。この結果得られる階層3の画像データは、それぞれ階層3のブロツク回路13、フレームメモリ14及びアクテイビテイ階層化回路7に入力される。
【0035】
階層3のアクテイビテイ階層化回路7では、入力されるオリジナル画像の画像データと階層3の画像データを用いて、(3)式の演算によるアクテイビテイ階層化処理を実行して階層3のアクテイビテイデータを求める。この結果得られる階層3のアクテイビテイデータは、それぞれ階層3のブロツク回路15及びフレームメモリ16に入力される。
【0036】
このようにしてブロツク化された画像データが、図2について上述したように、それぞれの階層1、階層2及び階層3の画像データとして平均値階層化されると共に、階層2及び階層3のアクテイビテイデータとしてアクテイビテイ階層化される。
【0037】
実際の動き量の検出は最上位階層でなる階層3において、まずフレームメモリ14及び16に設定された過去(すなわち1フレーム前)の画像データ及びアクテイビテイデータを、サーチ領域に応じてそれぞれサーチブロツク回路17及び18に読み出す。次に評価値算出回路19及び20において、ブロツク回路13及び15とサーチブロツク回路17及び18との画像データ及びアクテイビテイデータを用いて、それぞれ(8)式及び(10)式の評価関数E(Y)3 及びE(D)3 に基づいて評価値を求める。この評価値は加算回路21において、(11)式に示すように、重み係数w1 、w2 に応じて所定の重み付けして加算し、この結果得られる新たな評価関数E(G)3 に基づく評価値が動き量検出回路22に入力される。
【0038】
ここでこの実施例の場合、評価値算出回路19、20は図6に示すような回路40で構成されている。すなわち評価値算出回路40においては、それぞれブロツク回路13、15に対応する参照ブロツクメモリ41と、サーチブロツク回路17、18に対応する候補ブロツクメモリ42を有し、この参照ブロツクメモリ41及び候補ブロツクメモリ42の内容が、メモリコントロール43で指定されたアドレスの順に読み出され、それぞれレジスタ44及び45を通じて減算回路46で減算される。この結果得られる差分データは絶対値化回路47で絶対値化され、加算回路48及びレジスタ49で累積加算される。
【0039】
この累積加算結果が評価値メモリ50に、評価値メモリコントロール51より指定されたアドレスの順に従つて入力される。このようにして(8)式及び(10)式の演算が評価値算出回路40で実行され、この結果得られる評価値が評価値メモリ50に入力される。なお実際階層2及び階層3では、平均値階層化された画像データについての評価値と、アクテイビテイ階層化されたアクテイビテイデータについての評価値が、重み付けされて加算されて評価値メモリ50に記憶される。
【0040】
またこの実施例の場合、動き量検出回路22は図7に示すような回路60で構成されている。すなわち動き量検出回路60では、図6で上述したように評価値が記憶された評価値メモリ50が、順次評価値メモリコントロール51より指定されたアドレスに従つて読み出され、比較器61及びレジスタ62に入力される。比較器61は他方の入力と評価値メモリ50より読み出された評価値を順次比較し、このうち入力された評価値が小さいとき、レジスタ62及び63の内容を更新する信号を送出する。
【0041】
このレジスタ63には、評価値メモリ50を読み出すアドレスが順次設定される。このようにして順次評価値メモリ50に記憶された評価値が評価され、そのうちの評価値の最小を与えるアドレスがレジスタ63より送出され、これが動き量検出回路60の出力、すなわち動きベクトルでなる動き量MVとして出力される。
【0042】
ここでこの動き量検出装置1の場合、階層3の動き量検出回路22で得られる動き量は、階層2の画像データのフレームメモリ9及びアクテイビテイデータのフレームメモリ12に与えられ、この動き量によつてサーチ領域が動き補償される。すなわち階層2の動き量を検出する場合には、フレームメモリ9及び12に設定された過去(すなわち1フレーム前)の画像データ及びアクテイビテイデータを、動き補償されたサーチ領域に応じてそれぞれサーチブロツク回路24及び25に読み出す。
【0043】
次に評価値算出回路26及び27は、ブロツク回路8及び11とサーチブロツク回路24及び25との過去及び現在の画像データ及びアクテイビテイデータを用いて、それぞれ(8)式及び(10)式の評価関数E(Y)2 及びE(D)2 に基づいて評価値を求める。この評価値は加算回路28において、(11)式に示すように、重み係数w1 、w2 に応じて所定の重み付けされて加算され、この結果得られる新たな評価関数E(G)2 に基づく評価値が、動き量検出回路29に入力される。この結果動き量検出回路29で得られる動き量が加算回路23で、(9)式に示すように、階層3の動き量と加算され階層2の動き量として送出される。なおこの評価値算出回路26及び27、動き量検出回路29も、図6及び図7の評価値算出回路40及び動き量検出回路60と同様に構成されている。
【0044】
このようにして階層2で得られる動き量は、階層1の画像データのフレームメモリ3に与えられ、この動き量によつてサーチ領域が動き補償される。すなわち階層1の動き量検出においては、フレームメモリ3に設定された過去(すなわち1フレーム前)の画像データを、動き補償されたサーチ領域に応じてサーチブロツク回路31に読み出す。次に評価値算出回路4は、ブロツク回路2とサーチブロツク回路31との画像データを用いて、それぞれ(8)式の評価関数E(Y)1 に基づいて評価値を求める。
【0045】
この評価値が動き量検出回路32に入力され、この結果得られる階層1の動き量が加算回路30で、(9)式に示すように、階層2の動き量と加算され、このようにしてオリジナル画像の動き量が検出され、動き量検出装置1の出力として送出される。なおこの評価値算出回路4、動き量検出回路32も、図6及び図7の評価値算出回路40及び動き量検出回路60と同様に構成されている。
【0046】
このようにして画像を複数の解像度で階層化し、この階層画像を用いてブロツクマツチング法で動き量を検出する際、アクテイビテイ階層化したアクテイビテイデータについて求めた評価値を階層毎の評価の対象とするようにしたことにより、少ない計算量で動き量を高い精度で検出し得る。因に実験によれば、オリジナル画像について全てくまなくブロツクマツチングによつて、フルサーチする場合に比較して、1/10程度の正規化ハード量で同様のSNを得られることが分かつた。
【0047】
以上の構成によれば、オリジナル画像を平均値階層化すると共に差分の絶対値和によるアクテイビテイ階層化し、この結果得られる複数階層の画像データとアクテイビテイデータについて、それぞれ階層毎に最上位階層より順次ブロツクマツチングによつて評価し、同一階層上でこれらを総合的に判定することにより、各階層における動き量の誤検出を未然に防止することができ、かくして簡易な構成かつ短い演算時間で、最終的なオリジナル画像について動き量の検出精度を格段的に向上し得る。
【0048】
(2)第2実施例の動き量検出方法及び装置
上述の第1実施例では、アクテイビテイ階層化する際に差分の絶対値和の平均値を用いたが、この第2実施例ではアクテイビテイ階層化する際に、標準偏差又は分散値を用いてアクテイビテイデータを作成する。すなわち平均値階層化については、上述と同様の処理により作成し、図2に示すように、階層2のアクテイビテイ階層化については、平均値階層化された画像データから、次式
【数12】
に基づく標準偏差を計算することで求める。
【0049】
また階層3のアクテイビテイ階層化については、階層3の平均値階層化された画像データから階層2の平均値階層化された画像データから、次式
【数13】
に基づく標準偏差を計算することで求める。または階層3の平均値階層化された画像データから、階層1のオリジナル画像を見て、次式
【数14】
のように標準偏差を計算するようにしても良い。
【0050】
ここで例えば図3に上述したようなオリジナル画像中の画像データの4×4の画素x1、x2、……、x15、x16でなるブロツクを階層1として階層化する場合、まず平均値階層化として階層2の画像データ中の画素y1、y2、y3、y4は、(1)式に基づく(4)式によつて求め、さらにこの階層2の画像データ中の2×2の画素を用いて、階層3の画像データ中の画素z1も、(1)式に基づく(5)式により求める。
【0051】
次にアクテイビテイ階層化として階層2のアクテイビテイデータは、平均値階層化された階層2の画像データ中の画素y1、y2、y3、y4と、階層1の画像データ中の画素x1、x2、……、x15、x16を用いて、(12)式に基づく、次式
【数15】
により求め、さらにアクテイビテイ階層化として階層3の画像は、平均値階層化された階層3の画像データ中の画素z1と階層1の画像データ中の画素x1、x2、……、x15、x16を用いて、(14)式に基づく、次式
【数16】
により求める。この第2実施例の動き量検出装置も、図5の動き量検出装置1と同様で、アクテイビテイ階層化回路6、7において、上述したように標準偏差によるアクテイビテイデータを求める。
【0052】
以上の構成によれば、平均値階層化された画像データ及び標準偏差でアクテイビテイ階層化されたアクテイビテイデータについて、それぞれ階層毎に最上位階層より順次ブロツクマツチングによつて評価し、同一階層上でこれらを総合的に判定することにより、各階層における動き量の誤検出を未然に防止することができ、かくして最終的にオリジナル画像について、動き量の検出精度を格段的に向上し得る。
【0053】
さらに上述の構成によれば、アクテイビテイ階層化として差分の絶対値和の平均値に代えて、標準偏差を用いるようにしたことより、アクテイビテイデータとしてよりオリジナル画像の高周波成分について特徴量を保存したデータを得ることができ、各階層における動き量の誤検出を一段と有効に防止することができる。
【0054】
(3)第3実施例の動き量検出方法及び装置
上述の第1実施例及び第2実施例では、アクテイビテイ階層化する際に、差分の絶対値和の平均値を用いたり、標準偏差を用いた場合について述べたが、この第3実施例では、ラプラシアンフイルタを前処理に用いて画像の高周波成分を抽出した後に、アクテイビテイ階層化してアクテイビテイデータを生成する。
【0055】
すなわち、図8に示すように、第1実施例で平均値階層化された画像データ(図8(A))から、まず各階層毎にラプラシアンフイルタ処理によつてラプラシアンデータ(図8(B))を作成する。このラプラシアンデータにおいて、平均値階層化による画像データの作成と同様に例えば2×2の小ブロツクに分割し、小ブロツク内のラプラシアンデータの絶対値の平均値を算出して、アクテイビテイ階層化しアクテイビテイデータ(図8(C))を作成する。
【0056】
ここでラプラシアンフイルタとしては、図9(A)に示すように、画面の垂直及び水平方向の微分を考慮した値が設定された3×3の係数フイルタや、図9(B)に示すように、斜め方向を考慮した値が設定された3×3の係数フイルタが用いられる。この第3実施例の動き量検出装置も、図5の動き量検出装置1と同様で、アクテイビテイ階層化回路6、7において、上述したようにラプラシアンフイルタ処理で前処理して、アクテイビテイ階層化してアクテイビテイデータを求める。
【0057】
以上の構成によれば、平均値階層化された画像データ及びラプラシアンフイルタ処理で前処理されてアクテイビテイ階層化されたアクテイビテイデータについて、それぞれ階層毎に最上位階層より順次ブロツクマツチングによつて評価し、同一階層上でこれらを総合的に判定することにより、各階層における動き量の誤検出を未然に防止することができ、かくして最終的にオリジナル画像について、動き量の検出精度を格段的に向上し得る。
【0058】
さらに上述の構成によれば、アクテイビテイ階層化の前にラプラシアンフイルタ処理で前処理するようにしたことにより、アクテイビテイデータとしてよりオリジナル画像の高周波成分について特徴量を保存したデータを得ることができ、各階層における動き量の誤検出を一段と有効に防止することがでる。
【0059】
(4)第4実施例の動き量検出方法及び装置
上述の第1〜第3実施例では、アクテイビテイ階層化する際に、差分の絶対値和の平均値を用いたり、標準偏差を用いたり、さらにオリジナル画像についてラプラシアン処理を前処理として施した場合について述べたが、この第4実施例では、オリジナル画像の最大値と最小値の差で定義されるダイナミツクレンジを用いて、アクテイビテイ階層化してアクテイビテイデータを生成する。
【0060】
このアクテイビテイ階層化の場合、階層2のアクテイビテイデータをΔ2 (x、y)とすると、このアクテイビテイデータΔ2 (x、y)は、平均値階層化された画像データから、オリジナル画像の対応する画素の最大値及び最小値の差でなるダイナミツクレンジを用いて、次式
【数17】
で求め、同様に階層3のアクテイビテイデータΔ3 (x、y)は、次式
【数18】
で求める。アクテイビテイデータとして、全てオリジナル画像を基底にして求めるようにしたことにより、オリジナル画像に忠実な高周波成分を抽出し得るようになされている。
【0061】
上述のようにダイナミツクレンジを用いてアクテイビテイ階層化することにより、結果的に得られるアクテイビテイデータとしては、平均値階層化したときに欠落する特徴量を反映していることになる。この第4実施例の動き量検出装置も、図5の動き量検出装置1と同様で、アクテイビテイ階層化回路6、7において、上述したようにダイナミツクレンジによるアクテイビテイ階層化してアクテイビテイデータを求める。
【0062】
以上の構成によれば、平均値階層化された画像データ及びダイナミツクレンジによりアクテイビテイ階層化されたアクテイビテイデータについて、それぞれ階層毎に最上位階層より順次ブロツクマツチングによつて評価し、同一階層上でこれらを総合的に判定することにより、各階層における動き量の誤検出を未然に防止することができ、かくして最終的にオリジナル画像について、動き量の検出精度を格段的に向上し得る。
【0063】
さらに上述の構成によれば、平均値階層化したときに欠落する特徴量を反映したダイナミツクレンジでアクテイビテイ階層化したことにより、アクテイビテイデータとしてよりオリジナル画像の高周波成分について特徴量を保存したデータを得ることができ、各階層における動き量の誤検出を一段と有効に防止することがでる。
【0064】
(5)第5実施例の動き量検出方法及び装置
上述の第1〜第4実施例では、平均値階層化によつて上位階層の画像データを作成する際に、オリジナル画像についてブロツク完結で上位まで演算したが、この第5実施例では、図10に示すように、平均値階層化する際2×2のブロツクより広い範囲、例えば4×4のブロツクについて、16画素の平均値を算出して平均値階層化して画像データを作成する。上位階層の構成は従来と変わらないようにするため、下位の階層のブロツクはオーバーラツプした形になり、隣接ブロツクとの関係を保持しながら階層化し得ることにより、ブロツク完結によつて生じる動き量の誤検出を防止し得る。
【0065】
すなわちこうすることで、上位階層までの隣接ブロツクとの関係が完全に切れたものではなく、何らかの相互関係をもつて平均値階層化された画像データが構成されることになり、上位階層でのブロツクマツチング法における誤検出の確率を下げることが可能となる。
【0066】
アクテイビテイ階層化したアクテイビテイデータについては、上述のようにオーバーラツプさせて作られた平均値階層化の画像データから、第1〜第4実施例のように差分の絶対値和の平均値や、標準偏差又は分散値、さらにはダイナミツクレンジを計算することで求めることができる。
【0067】
以上の構成によれば、画像を階層化する際にオーバーラツプさせてブロツクを構成し、ブロツク内の画素の加重平均をとることで、平均値階層化された複数階層の画像データを作成すると共に、複数階層の画像データに応じてアクテイビテイ階層化されたアクテイビテイデータを作成し、それぞれ階層毎に最上位階層より順次ブロツクマツチングによつて評価し、同一階層上でこれらを総合的に判定することにより、各階層における動き量の誤検出を未然に防止することができ、かくして最終的にオリジナル画像について、動き量の検出精度を格段的に向上し得る。
【0068】
さらに上述の構成によれば、平均値階層化やアクテイビテイ階層化において、ブロツクをオーバーラツプさせて画像データやアクテイビテイデータを形成するようにしたことにより、ブロツク完結で階層化した場合に比較して動き量の誤検出を未然に防止し得る。
【0069】
(6)第6実施例の動き量検出方法及び装置
上述した第1実施例では、それぞれ平均値階層化した画像データとアクテイビテイ階層化したアクテイビテイデータとの各階層についてのブロツクマツチングによる評価関数E(Y)n 、E(D)n を、(11)式に示すように重みw1 、w2 で重み付け加算して新たな評価関数E(G)n を求めた。この場合重みw1 、w2 はそれぞれ値1として均等加重によつて演算していたが、この第6実施例では、動き量検出の誤差が少なくなるように重みを適応的に変化させる。
【0070】
(6−1)適応化処理1
適応化処理1では、まず平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータとにおいて、それぞれのブロツクの標準偏差σY 、σD を考える。この標準偏差σY 、σD が大きいほど、評価テーブルのすり鉢形状は急峻になり、その最適値の信憑性が大きくなると考えられる。そこで、実際には標準偏差値σY 、σD を用いて次式
【数19】
の演算により正規化して適応化処理し、新たな評価関数E(G)n を求めるようにする。
【0071】
(6−2)適応化処理2
適応化処理2では、まず平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータとにおいて、最適評価値の絶対レベルが異なつていると評価のウエイトが変わつてしまうことから、最適評価値のレベルを同じにする正規化を行う。すなわちそれぞれの最適評価値をeY 、eDとして、次式
【数20】
の演算により正規化して適応化処理して、新たな評価関数E(G)n を求めるようにする。
【0072】
(6−3)適応化処理3
平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータとの評価値の単純加算値において、評価値の形状と加重比率の関係には相関関係があることが実験によりわかつた。それによると、評価値の形状が急峻なブロツクが多い場合、平均値の評価値に対する重みを大きくするほうが良い。この適応化処理3では、その関係をあらかじめ種々のソースを用いてテーブル化しておき、ある評価値の形状に対して重みの比率を出力して再評価する。
【0073】
評価値の形状を定量化する方法は、最適評価値を中心とした周囲の評価値を用いる。例えば図11に示すように中心の画素xについて、周囲8点e1 〜e8 の評価値を用いると、形状の尺度Sは、
【数21】
で求めることができる。但し、Nは最適評価値の周囲の存在するデータ数である。この尺度Sの値を用いて、ルツクアツプテーブル(LUT)を構成し、このテーブルから最適な重み係数を出力し、(11)式による評価を再度行う。
【0074】
(6−4)適応化処理4
評価値の形状は、急峻な形状ほど最適評価値は正しい可能性が高いと考えられる。また評価値の形状がほぼフラツトであると、特に一方の形状がフラツトである場合、(11)式に対する悪影響は少ない。したがつて適応化処理4では、平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータとの評価値のそれぞれの評価値形状に適応した重み付けを行う。
【0075】
それぞれの評価値の定量尺度は、(21)式と同様に考えて、平均値階層化された画像データをSY 、アクテイビテイ階層化されたアクテビテイデータをSD とすると、次式
【数22】
及び次式
【数23】
で求め、評価関数は、次式
【数24】
として評価を行い、新たな評価関数E(G)n を求めるようにする。
【0076】
(6−5)適応化処理5
評価値メモリの内容は、ブロツク内の画像の特性(フラツト、エツジ等)によつて値が異なる。一般にフラツトな画像だと評価値も変化が小さく、エツジなどを含む画像だと評価値は大きく変化する。従つて均等加算で新たな評価関数を求めると、真の最小値の位置がずれてしまい動き量検出として誤検出になるおそれがある。
【0077】
従つてこの適応化処理5では、まず平均値階層化された画像データについての評価関数E(Y)n の最大値E(Y)nmax、最小値E(M)nminを検出し、次式
【数25】
を用いて正規化し、同様に、アクテイビテイ階層化されたアクテイビテイデータについての評価関数E(D)n の最大値E(D)nmax、最小値E(D)nminを検出し、次式
【数26】
を用いて正規化する。
【0078】
このようにして正規化された評価値テーブルを用いて、新たな評価関数E(G)n を次式
【数27】
によつて求めるようにする。
【0079】
(6−6)適応化処理回路
上述した適応化処理1〜5は、何れも図5について上述した動き量検出装置1において、各階層の平均値階層化された画像データ及びアクテイビテイ階層化されたアクテイビテイデータの評価値算出回路26、19及び27、20で得られる評価値メモリの内容を加算回路28、21で加算する際に実行される。因に、図12に適応化処理5を実現する適応化処理回路70の構成を示す。
【0080】
すなわちこの適応化処理回路70においては、平均値階層化された画像データ及びアクテイビテイ階層化されたアクテイビテイデータの評価値算出回路26、19及び27、20で得られる評価値メモリ71、72の評価値E(Y)n 、E(D)n が、順次それぞれの最大値/最小値検出回路73、74と遅延回路75、76に入力される。
【0081】
最大値/最小値検出回路73、74はそれぞれの評価値E(Y)n 、E(D)n ついて最大値E(Y)nmax、E(D)nmaxと、最小値E(Y)nmin、E(D)nminを求める。この結果得られる最大値E(Y)nmax、E(D)nmaxはそれぞれの第1の減算回路77、78に入力され、また最小値E(Y)nmin、E(D)nminは、それぞれ第1の減算回路77、78及び第2の減算回路79、80に入力される。第2の減算回路79、80には、それぞれの評価値E(Y)n 、E(D)n が、最大値/最小値検出回路73、74の処理時間分だけ遅延されて入力されている。
【0082】
それぞれ第1の減算回路77、78及び第2の減算回路79、80の減算出力は、除算回路81、82に入力されて除算され、その出力が加算回路83で加算される。これにより上述の(25)式〜(27)式の演算が実行される。このようにして適応化処理5が施された新たな評価関数E(G)n は、評価値メモリ84に記憶され、動き量検出回路に送出される。なお最下位階層に関してはオリジナル画像になるため、評価値E(Y)1 を計算して最小値の検出を行なう。
【0083】
(6−6)適応化処理の効果
以上の構成によれば、オリジナル画像を平均値階層化すると共にアクテイビテイ階層化し、この結果得られる複数階層の画像データとアクテイビテイデータについて、それぞれ階層毎に最上位階層より順次ブロツクマツチングによつて評価し、同一階層上でこれらを総合的に判定する際に、最適に重み付けして得られる新たな評価関数を用いるようにしたことにより、各階層における動き量の誤検出を未然に防止することができ、かくして最終的なオリジナル画像について、動き量の検出精度をさらに一段と格段的に向上し得る。
【0084】
(7)第7実施例の動き量検出方法及び装置
上述の第1〜第4実施例では、平均値階層化によつて上位階層の画像データを作成する際に、オリジナル画像についてブロツク完結で上位まで演算したが、平均値階層化やアクテイビテイ階層化等の操作がブロツク単位で完結するため、動き量を誤検出するおそれがあつた。このため第5実施例では、平均値階層化する際に下位の階層のブロツクをオーバーラツプした形として、隣接ブロツクとの関係を保持しながら階層化したが、この第7実施例では、平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータの評価値を得る際に、複数例えば2種類の評価値を得て下位の階層で動き補償するようになされている。
【0085】
すなわち、この動き量検出方法では、まず上述の第1実施例と同様に、平均値階層化された画像データのサーチ領域内での評価値をE(Y)n 、アクテイビテイ階層化されたアクテイビテイデータのサーチ領域内での評価値をE(D)n として、各々評価値メモリに評価値テーブルを作成する。この評価値テーブルは、ブロツク内の画像の特性(フラツト、エツジ等)によつてかなり値が異なる。一般にフラツトな画像だと評価値テーブルも変化が小さく、エツジ等を含む画像だと評価値は大きく変化する。通常、評価値テーブルの値は、動き量に対応する位置の評価値が最小点によるような擦り鉢形状をしているが、画像によつてはかなり平坦になつていたり、極小点が複数存在することもある。特に平均値階層化された画像データにおける上位階層で、この傾向が強くなる。
【0086】
従つてこの動き量検出方法では、最上位階層における評価値テーブルの極小点を複数検出し、これを初段の動き量候補とする。具体的には、最上位階層の評価値テーブルは平均値階層化されたものとアクテイビテイ階層化されたものが2種類あり、それぞれにおいて最も小さいものから複数の極小点を検出する。そして平均値階層化での極小点の位置とアクテイビテイ階層化での極小点の位置に関して、論理和をとることで重なりを除き、階層3における複数の極小点の位置を初段の動き量の候補とする。
【0087】
次に階層3すなわち最上位階層における動き量の候補毎に、以下の操作を行なう。まず平均値階層化での階層2において、動き量のうちの1つを選択し、この位置を中心としてサーチ範囲を設定する。サーチ範囲内で階層2のブロツクマツチングを行ない評価値を計算する。同様にアクテイビテイ階層化の階層2においても選択した動き量の位置を中心としてサーチ範囲を設定し、サーチ範囲内で階層2のブロツクマツチングを行ない評価値を計算する。
【0088】
続いて階層2における平均値階層化での評価値と、アクテイビテイ階層化での評価値を重み付け加算してその最小点を検出する。この最小点の位置を初段の動き量の1個に対応した階層2における動き量とする。次に上述のようにして決定された複数の初段の動き量のうちの1個と、それに対応する階層2の動き量で決定される位置を中心として、階層1におけるサーチ範囲を決定する。
【0089】
階層1はオリジナル画像の階層であり、ブロツクマツチングは1種類のみ行なわれ、差分の絶対値和で算出された評価値の最小値が検出される。この最小値の位置が初段の動き量のうちの1個に対応する最終段の動き量になる。以上の操作を複数決定した初段の動き量毎に行ない、階層1での評価値の最小値の位置を複数個求め、その中からさらに最小の評価値を示すものを検出し、最終的な動き量として送出する。
【0090】
ここでこの第7実施例における動き量検出処理手順SP10を図13に示す。すなわちまずステツプSP11において、比較する2画面のオリジナル画像をブロツク化し、次のステツプSP12でブロツク化されたオリジナル画像について、平均値階層化すると共にアクテイビテイ階層化し、例えば階層1、階層2及び階層3の画像データと階層2及び階層3のアクテイビテイデータを生成する。
【0091】
続くステツプSP13では現在探索済みの階層が最上位階層すなわち階層3か否か判断し、否定結果の場合にはステツプSP14で、平均値階層化された画像データとアクテイビテイ階層化されたアクテイビテイデータの現在及び過去のデータを用いてサーチ領域について探索して評価関数による評価値を算出し、ステツプSP13に戻る。このステツプSP13で肯定結果を得ると、ステツプSP15に移つて評価値からn個の極小点を選択して、ステツプSP16に移る。
【0092】
ステツプSP16では、最上位階層で求めたn個の極小点について、階層2及び階層3での処理が終了したか否かを判断し、ここで否定結果を得るとステツプSP17に移つて現在の階層が最下位階層すなわち階層1か否かを判断し、ここで否定結果を得るとステツプSP18に移つて探索が終了したか否かを判断し、ここで否定結果を得ると、ステツプSP19に移り階層2の画像データ及びアクテイビテイデータの現在及び過去のデータを用いてサーチ領域について探索して評価関数による評価を行いステツプSP18に戻る。
【0093】
やがてステツプSP18で肯定結果を得ると、ステツプSP20に移つて階層2の画像データ及びアクテイビテイデータについて求めた評価関数を用いて新たな評価関数による評価を行つて最適評価値を求め、その最適評価値より動き量を決定してステツプSP21に移つて下位階層に適用してステツプSP17に戻る。
【0094】
やがてこのステツプSP17で否定結果を得ると、ステツプSP16に戻つて最上位階層で求めた評価値のn個の極小値について、ステツプSP17−SP18−SP19−SP20−SP21で、階層2及び階層1の動き量を検出したか否か判断し、肯定結果を得るとステツプSP22に移つて階層1で求めた動き量のうち、最小の動き量を最終の動き量として送出し、ステツプSP23において当該動き量検出処理手順SP10を終了する。
【0095】
ここで、この実施例の動き量検出方法を用いる動き量検出装置は、図14に示すように構成されている。この動き量検出装置90においては、入力されるオリジナル画像の画像データがブロツク回路91及び階層1のフレームメモリ92に入力される。ブロツク回路91は入力画像データを、所定のサイズ(例えば16×16のブロツクサイズ)で順次ブロツク化し、この結果得られるブロツク化されたオリジナル画像の画像データが、それぞれ階層1の動き量検出回路93及び94、階層2及び階層3の階層化回路95及び96に入力される。この階層化回路95及び96は、それぞれ平均値階層化及びアクテイビテイ階層化を含んで構成されている。
【0096】
階層2の階層化回路95で階層化されて得られる画像データ及びアクテイビテイデータは、フレームメモリ97と第1及び第2の動き量検出回路98及び99とに入力される。また階層3の階層化回路96で階層化されて得られる画像データ及びアクテイビテイデータは、フレームメモリ100及び動き量検出回路102に入力される。このようにしてブロツク化された画像データが、それぞれの階層1、階層2及び階層3の画像データとして平均値階層化されると共に、階層2及び階層3のアクテイビテイデータとしてアクテイビテイ階層化される。
【0097】
実際の動き量の検出は最上位階層でなる階層3において、まずフレームメモリ100に設定された過去(すなわち1フレーム前)の画像データ及びアクテイビテイデータを、サーチ領域に応じてそれぞれサーチブロツク回路101に読み出す。次に動き量検出回路102において、階層化回路96とサーチブロツク回路101との画像データ及びアクテイビテイデータを用いて、それぞれ評価関数に基づいて評価値を求め、これらを重み付け係数に応じて重み付けして加算し、この結果得られる新たな評価関数に基づく評価値を極小とする極小点を2つ選出し、これらがそれぞれ階層3の2つの動き量として送出される。
【0098】
この実施例の場合、階層3の動き量検出回路102で得られる2つの動き量は、階層2のサーチブロツク回路103、104と加算回路105、106にそれぞれ入力される。階層2においてはフレームメモリ97に記憶された画像データ及びアクテイビテイデータをサーチブロツク回路103及び104に読み出す際に、それぞれ異なる動き量に応じてサーチ領域が動き補償される。
【0099】
この結果階層2で動き量を検出する場合には、動き量検出回路98、99において、サーチブロツク回路103及び104に設定された過去(すなわち1フレーム前)の画像データ及びアクテイビテイデータと、階層化回路95より入力される現在の画像データ及びアクテイビテイデータとを用いて、それぞれ評価関数に基づいて評価値を求める。次にこれの評価値を重み付け係数に応じて重み付けして加算し、この結果得られる新たな評価関数に基づく評価値を最小にするものを検出し、それぞれの動き量として送出する。
【0100】
この階層2の動き量検出回路98、99で得られる動き量は、それぞれ加算回路105、106において、階層3の対応する動き量と加算され、階層2の動き量として、階層1のサーチブロツク回路107、108と加算回路109、110にそれぞれ入力される。階層1においてはフレームメモリ92に記憶された画像データ及びアクテイビテイデータをサーチブロツク回路107及び108に読み出す際に、それぞれ異なる動き量に応じてサーチ領域が動き補償される。
【0101】
この結果階層1で動き量を検出する場合には、動き量検出回路93、94において、サーチブロツク回路107及び108に設定された過去(すなわち1フレーム前)の画像データ及びアクテイビテイデータと、ブロツク回路91より入力される現在の画像データ及びアクテイビテイデータとを用いて、それぞれ評価関数に基づいて評価値を求める。次にこれらの評価値を重み付け係数に応じて重み付けして加算し、この結果得られる新たな評価関数に基づく評価値を最小にするものを検出し、それぞれの動き量として送出する。
【0102】
このようにして動き量検出回路93、94でそれぞれ得られる動き量は、加算回路109及び110に送出されると共に、判断回路111に入力される。加算回路109及び110に入力された動き量は、それぞれ階層2の対応する動き量と加算され、階層1の動き量として選択回路112に入力される。判断回路111は入力される動き量のうち最小を与えるものを判断し、当該最小を与える動き量に基づく、階層1の動き量を選択回路112で選択し、最終的な動き量として送出する。
【0103】
以上の構成によれば、オリジナル画像を平均値階層化して複数階層の画像データを作成すると共に、アクテイビテイ階層化して階層毎の画像データの高周波成分を表すアクテイビテイデータを作成し、それぞれの最上位階層でのブロツクマツチングの評価値を算出し、この評価値を総合判断して得られる最上位階層の新たな評価値の極小点の位置を複数選択して動き量の候補とし、その動き量毎に順次下位の階層でのブロツクマツチングを行なつて、評価値の最小値から動き量を算出し、最下位階層の評価値の最小値で最終の動き量を得るようにしたことにより、最上位階層における複数の動き量の候補から、最下位階層までの経緯にそつて総合評価でき、最終的に動き量の検出精度を格段的に向上し得る。
【0104】
(8)他の実施例
(8−1)上述の実施例においては、オリジナル画像より平均値階層化で3階層の画像データを作成した場合について述べたが、階層数はこれに限らず2階層や4階層以上でも、上述の実施例と同様の効果を実現できる。また平均値階層化する際、(1)式のように2×2のブロツク範囲で平均値を求めるようにしたが、ブロツク範囲はこれに限らず、また平均値に限らずローパスフイルタ等で平滑化するようにして良い。因に、例えばより広範囲の4×4のブロツク範囲について、フイルタ処理する場合に、その重み係数を水平及び垂直方向のマトリクスで表現すると、次式
【数28】
のように表すことができる。
【0105】
(8−2)上述の第1実施例では、アクテイビテイ階層化する際に、オリジナル画像でなる階層1の画像データと求める階層の画像データとの差分の絶対値和によつて、アクテイビテイデータを得るようにしたが、これに代え、階層nのアクテイビテイをΔn (x、y)として、次式
【0106】
【数29】
で求めるようにしても良い。この場合1つ下位の平均値階層化された画像データを用いるため、オリジナル画像より特徴量が欠落した画像データでアクテイビテイデータを求めることになるが、(2)及び(3)式の場合と比較してハード規模は小さくなる。またこの他に階層2のアクテイビテイデータは、(2)式によつて求め、一旦アクテイビテイデータが求まると次式
【数30】
により順次上位階層のアクテイビテイデータを求めるようにしても良い。
【0107】
(8−3)上述の実施例においては、ブロツクマツチングの評価値を求めるために、(8)式や(10)式でなる評価関数によつて、両ブロツクの差分の絶対値和を用いているが、その他にブロツクマツチングの評価関数を求めるため、差分の2乗和や相関係数を用いる等を適用するようにしても上述の実施例と同様の効果を実現できる。
【0108】
(8−4)上述の第2実施例においては、平均値階層化して得られる画像データより(12)式に基づいて標準偏差を計算することにより、アクテイビテイ階層化して、アクテイビテイデータで求めるようにしたが、これに代え、分散値を用いるようにしても上述の実施例と同様の効果を実現できる。因に、この場合、上述した(12)式において、平方根を演算する前の値を使用すれば良い。
【0109】
(8−5)上述の第3実施例においては、階層1及び階層2の画像データについて、ラプラシアン処理した場合について述べたが、これに代え、ラプラシアンフイルタ処理するのは、最下位階層でなるオリジナル画像のみとし、ラプラシアンデータの例えば2×2のブロツク内の絶対値の平均値を算出して階層2のアクテイビテイデータを作成し、さらに上位のアクテイビテイデータは、下位のアクテイビテイデータの平均値階層化によつて作成するようにして良い。
【0110】
またこれに代え、最下位階層のラプラシアンデータにおける小ブロツク内の絶対値の最大値をアクテイビテイデータとして階層2をアクテイビテイ階層化し、さらに上位のアクテイビテイ階層化は、下位のアクテイビテイデータの小ブロツク内での最大値をアクテイビテイデータとするようにしても良い。
【0111】
さらにまたこれに代え、最下位階層のラプラシアンデータにおける小ブロツクの最大値と最小値の差、つまりダイナミツクレンジをアクテイビテイデータとして、階層2をアクテイビテイ階層化し、さらに上位のアクテイビテイ階層化に関しては、下位のアクテイビテイデータの小ブロツク内での最大値をとることでアクテイビテイデータとするようにしても良い。
【0112】
(8−6)上述の第4実施例においては、アクテイビテイ階層化する際にオリジナル画像でなる階層1の画像データと求める階層の画像データとの最大値及び最小値の差でなるダイナミツクレンジを用いてアクテイビテイデータを得るようにしたが、これに代え、階層nのアクテイビテイデータをΔn (x、y)として、次式
【数31】
で求めるようにしても良い。この場合1つ下位の階層化された画像データを用いるため、オリジナル画像より特徴量が欠落した画像データでアクテイビテイデータを求めることになるが、(17)式及び(18)式の場合と比較してハード規模は小さくなる。
【0113】
またこの他に階層2のアクテイビテイデータは、(17)式によつて求め、一旦アクテイビテイデータが求まると次式
【数32】
により順次上位階層のアクテイビテイデータを求める方法もある。またこのようにダイナミツクレンジでアクテイビテイ階層化する場合、オリジナル画像の階層化についても平均値階層化に代えて、最大値又は最小値を用いて階層化するようにしても良い。このようにすれば、アクテイビテイ階層化の際の演算量を削減できることにより、回路構成を簡略化し得ると共に演算時間を短縮化し得る。
【0114】
(8−7)上述の第5実施例においては、図10に示したように、階層3の平均値階層化された画像データを階層2から作成しているが、これに限らず、階層1において、例えば6×6のブロツクでオーバーラツプさせて平均値階層化するようにしても良い。
【0115】
(8−8)上述の第5実施例においては、オーバーラツプさせて平均値をとるようにしたが、この平均値を演算する際にブロツクの中心画素に重みを多く持たせて加重平均を演算するようにしても良い。このように階層画像に隣接ブロツクの影響を弱くかけることで、動き量の検出の感度を調整することもできる。また同様に階層1のオリジナル画像に2次元ローパスフイルタ処理し、隣接画素の影響をある程度加味できるように前処理した後、階層化については平均値を用いるようにしても良い。また階層画像についてはオーバーラツプさせないで平均値階層化により形成し、アクテイビテイ階層化する際に下位の平均値階層化された画像データにおいて、オーバーラツプさせたブロツクで差分の絶対値和の平均値を算出することで作成するようにしても良い。
【0116】
(8−9)上述の第7実施例においては、平均値階層化での評価値とアクテイビテイ階層化での評価値との各々について、複数の極小値を初段の動き量の候補とした場合について述べたが、これに代え、平均値階層化での評価値とアクテイビテイ階層化での評価値を重み付け加算した後に、複数の極小点を検出しその位置を初段の動き量の候補としても良い。
【0117】
(8−10)上述の第7実施例においては、階層2において動き量の候補として最小位置を選択したが、最上位階層と同様に平均値階層化での評価値とアクテイビテイ階層化での評価値毎に極小点を複数個選択し、さらに下位の階層で動き量の検出について分岐を増やし、最下位階層で全ての評価値のうち最小となる評価値を検出して、最終的な動き量として送出するようにしても良い。
【0118】
【発明の効果】
上述のように本発明によれば、それぞれ異なる時点の入力画像に対応する階層化された解像度の異なる複数階層の画像データに基づいて、当該階層毎の画像データの高周波成分を表す複数階層のアクテイビテイデータを形成し、上位階層から階層毎に、画像データについて所定ブロツク単位でブロツクマツチングによつて第1の評価値を求めると共に、アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて第2の評価値を求め、当該上位階層で得られた第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上位階層よりも下位の階層毎に得られた第1及び第2の評価値に基づいて、複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の第1の評価値に基づいて複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に異なる時点の入力画像間の動き量として検出するようにしたことにより、上位階層から階層毎に、画像データと、その画像データ中で階層化により欠落する特徴量を反映するアクテイビテイデータとの両方を用いて評価値を算出することができ、その結果、一方の階層の最適評価値が誤検出であつても、もう一方の階層の評価値で正しい動き量を検出して各階層における動き量の検出精度を向上させることができ、かくして簡易な構成かつ短い演算時間で最終的な入力画像について動き量の検出精度を向上し得る動き量検出方法及び動き量検出装置を実現することができる。
【図面の簡単な説明】
【図1】ブロツクマツチングによる動き量検出方法の説明に供する略線図である。
【図2】実施例による階層画像の説明に供する略線図である。
【図3】実施例による階層画像の説明に供する略線図である。
【図4】実施例による動き量検出処理手順を示すフローチヤートである。
【図5】実施例による動き量検出装置の構成を示すブロツク図である、
【図6】図5の動き量検出装置における評価値算出回路の構成を示すブロツク図である。
【図7】図5の動き量検出装置における動き量検出回路の構成を示すブロツク図である。
【図8】第4実施例による動き量検出方法の説明としてラプラシアンフイルタによる前処理を示す略線図である。
【図9】第4実施例による動き量検出装置の説明としてラプラシアンフイルタの係数の例を示す略線図である。
【図10】第5実施例の平均値階層化の説明に供する略線図である。
【図11】第6実施例による動き量検出方法の説明として最適評価値と近傍評価値の関係を示す略線図である。
【図12】第6実施例による動き量検出装置として適応化処理回路の構成を示すブロツク図である。
【図13】第7実施例による動き量検出方法の説明として動き量検出処理手順を示すフローチヤートである。
【図14】第7実施例による動き量検出装置の構成を示すブロツク図である。
【符号の説明】
1、90……動き量検出装置、2、8、11、13、15、91……ブロツク回路、3、9、12、14、16、92、97、100……フレームメモリ、4、19、20、26、27、40……評価値算出回路、5、10……平均値階層化回路、6、7……アクテイビテイ階層化回路、17、18、24、25、31、102、103、104、107、108……サーチブロツク回路、21、23、28、30、48、105、106、109、110……加算回路、22、29、32、60、93、94、98、99、101……動き量検出回路、41……参照ブロツクメモリ、42……候補ブロツクメモリ、43……メモリコントロール、44、45、49、62、63……レジスタ、46……減算回路、47……絶対値化回路、50……評価値メモリ、51……評価値メモリコントロール、61……比較器、95、96……階層化回路、111……判断回路、112……選択回路。
Claims (10)
- 入力画像より生成された解像度の異なる複数階層の画像データに基づいて、動き量を検出する動き量検出方法において、
それぞれ異なる時点の上記入力画像に対応する階層化された上記解像度の異なる複数階層の画像データに基づいて、当該階層毎の上記画像データの高周波成分を表す複数階層のアクテイビテイデータを形成するアクテイビテイ階層化ステツプと、
上位階層から上記階層毎に、上記画像データについて所定ブロツク単位でブロツクマツチングによつて第1の評価値を求める第1の評価値算出ステツプと、
上記上位階層から上記階層毎に、上記アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて第2の評価値を求める第2の評価値算出ステツプと、
上記上位階層の上記第1及び第2の評価値算出ステツプで得られた上記第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上記上位階層よりも下位の上記階層毎に上記第1及び第2の評価値算出ステツプで得られた上記第1及び第2の評価値に基づいて、上記複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上記上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の上記第1の評価値に基づいて上記複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に上記異なる時点の上記入力画像間の上記動き量として検出する動き量検出ステツプと
を具えることを特徴とする動き量検出方法。 - 入力画像より生成された解像度の異なる複数階層の画像データに基づいて、動き量を検出する動き量検出装置において、
それぞれ異なる時点の上記入力画像に対応する階層化された上記解像度の異なる複数階層の画像データに基づいて、当該階層毎の上記画像データの高周波成分を表す複数階層のアクテイビテイデータを形成するアクテイビテイ階層化手段と、
上位階層から上記階層毎に、上記画像データについて所定ブロツク単位でブロツクマツチングによつて第1の評価値を求める第1の評価値算出手段と、
上記上位階層から上記階層毎に、上記アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて第2の評価値を求める第2の評価値算出手段と、
上記上位階層の上記第1及び第2の評価値算出手段で得られた上記第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上記上位階層よりも下位の上記階層毎に上記第1及び第2の評価値算出手段で得られた上記第1及び第2の評価値に基づいて、上記複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上記上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の上記第1の評価値に基づいて上記複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に上記異なる時点の上記入力画像間の上記動き量として検出する動き量検出手段と
を具えることを特徴とする動き量検出装置。 - 上記演算は、加算である
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記階層毎動き量は、上記上位階層から上記下位階層へ上記第1及び第2の評価値を総合判断して得られる評価値に基づいて検出される
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記階層毎動き量は、上記第1及び第2の評価値の重み付け加算の結果に基づいて検出 される
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記複数の上位階層動き量は、1又は複数の上記上位階層の上記第1及び第2の評価値算出手段で得られた上記第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値に基づいて検出される
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記複数の上位階層動き量は、上記上位階層の上記第1及び第2の評価値算出手段で得られた上記第1及び第2の評価値のうち最小値及び/又は極小値となる当該第1及び第2の評価値から得られる新たな評価値に基づいて検出される
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記新たな評価値は、上記第1及び第2の評価値の重み付け加算に基づいて得られる
ことを特徴とする請求項7に記載の動き量検出装置。 - 入力画像より生成された解像度の異なる複数階層の画像データに基づいて、動き量を検出する動き量検出方法において、
それぞれ異なる時点の上記入力画像に対応する階層化された上記解像度の異なる複数階層の画像データに基づいて、当該階層毎の上記画像データの高周波成分を表す複数階層のアクテイビテイデータを形成するアクテイビテイ階層化ステツプと、
上位階層から上記階層毎に、上記アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて評価値を求める評価値算出ステツプと、
上記上位階層の上記評価値算出ステツプで得られた上記評価値のうち最小値及び/又は極小値となる当該評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上記上位階層よりも下位の上記階層毎に上記評価値算出ステツプで得られた上記評価値に基づいて、上記複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上記上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の上記評価値に基づいて上記複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に上記異なる時点の上記入力画像間の上記動き量として検出する動き量検出ステツプと
を具えることを特徴とする動き量検出方法。 - 入力画像より生成された解像度の異なる複数階層の画像データに基づいて、動き量を検出する動き量検出装置において、
それぞれ異なる時点の上記入力画像に対応する階層化された上記解像度の異なる複数階層の画像データに基づいて、当該階層毎の上記画像データの高周波成分を表す複数階層のアクテイビテイデータを形成するアクテイビテイ階層化手段と、
上位階層から上記階層毎に、上記アクテイビテイデータについて所定ブロツク単位でブロツクマツチングによつて評価値を求める評価値算出手段と、
上記上位階層の上記評価値算出手段で得られた上記評価値のうち最小値及び/又は極小値となる当該評価値に基づいて複数の上位階層動き量を動き量候補として検出し、上記上位階層よりも下位の上記階層毎に上記評価値算出手段で得られた上記評価値に基づいて、上記複数の上位階層動き量にそれぞれ対応する階層毎動き量を検出して当該対応する上記上位階層動き量と順次演算することにより下位階層で複数の演算結果動き量を検出し、当該下位階層の上記評価値に基づいて上記複数の演算結果動き量のうち1つの当該演算結果動き量を最終的に上記異なる時点の上記入力画像間の上記動き量として検出する動き量検出手段と
を具えることを特徴とする動き量検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02740994A JP3553570B2 (ja) | 1994-01-31 | 1994-01-31 | 動き量検出方法及び動き量検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02740994A JP3553570B2 (ja) | 1994-01-31 | 1994-01-31 | 動き量検出方法及び動き量検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH07222159A JPH07222159A (ja) | 1995-08-18 |
JP3553570B2 true JP3553570B2 (ja) | 2004-08-11 |
Family
ID=12220295
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP02740994A Expired - Lifetime JP3553570B2 (ja) | 1994-01-31 | 1994-01-31 | 動き量検出方法及び動き量検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3553570B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100275694B1 (ko) | 1998-03-02 | 2000-12-15 | 윤덕용 | 실시간 동영상 부호화를 위한 초고속 움직임 벡터 추정방법 |
-
1994
- 1994-01-31 JP JP02740994A patent/JP3553570B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH07222159A (ja) | 1995-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPH07264603A (ja) | 動き量検出方法及び動き量検出装置 | |
RU2424561C2 (ru) | Обучение сверточных нейронных сетей на графических процессорах | |
JP4725001B2 (ja) | 画像処理装置及び方法、並びに記録媒体 | |
CN112419372A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
Samantaray et al. | Neighbourhood decision based impulse noise filter | |
CN111292308A (zh) | 基于卷积神经网络的光伏太阳能板红外缺陷检测方法 | |
JP3553570B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JP3494308B2 (ja) | 動き量検出方法及び動き量検出装置 | |
CN116664921A (zh) | 基于迁移学习与多注意力机制的废旧电路板缺陷分类方法 | |
JP3494306B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JP3494307B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JP5928465B2 (ja) | 劣化復元システム、劣化復元方法およびプログラム | |
Jia et al. | Fractional‐integral‐operator‐based improved SVM for filtering salt‐and‐pepper noise | |
CN113506259A (zh) | 一种基于融合网络的图像模糊判别方法及系统 | |
JP3491768B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JP3812750B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JPH08265778A (ja) | 動き量検出方法及び動き量検出装置 | |
CN111310824A (zh) | 多角度稠密目标检测抑制优化方法及设备 | |
JPH0888855A (ja) | 動きベクトル検出方法及び装置 | |
Li et al. | Adaptive salt-&-pepper noise removal: a function level evolution based approach | |
JPS5935470B2 (ja) | 図形修正方式 | |
JP2000324495A (ja) | フィールド周波数変換装置および変換方法 | |
JP3214660B2 (ja) | 動きベクトル検出装置 | |
JPH09187013A (ja) | 動きベクトル検出装置および方法 | |
KOLI | TWO PHASE WEIGHTED ADAPTIVE MEAN FILTER FOR HIGH DENSITY IMPULSE NOISE REDUCTION |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20031224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040220 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040406 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040416 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040429 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090514 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100514 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100514 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110514 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120514 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130514 Year of fee payment: 9 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |