JP3908792B2 - 画像照合方法および装置 - Google Patents
画像照合方法および装置 Download PDFInfo
- Publication number
- JP3908792B2 JP3908792B2 JP03317494A JP3317494A JP3908792B2 JP 3908792 B2 JP3908792 B2 JP 3908792B2 JP 03317494 A JP03317494 A JP 03317494A JP 3317494 A JP3317494 A JP 3317494A JP 3908792 B2 JP3908792 B2 JP 3908792B2
- Authority
- JP
- Japan
- Prior art keywords
- value
- block
- range
- pixel data
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Color Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Description
【産業上の利用分野】
この発明は、一般的には、二つのディジタル画像の部分的照合をとるための方法および装置、より具体的には、ブロックマッチング法により画像の動きの方向および量を表す動きベクトルを検出する場合に適用可能な画像照合方法および装置に関する。
【0002】
【従来の技術】
動きベクトルの一つの利用分野は、ディジタル画像データの予測符号化における動き補償である。一例として、動画の高能率符号化の国際的標準方式である、MPEG(Moving Picture Coding Experts Group) 方式が提案されている。このMPEG方式は、DCT(Discrete Cosine Transform) と動き補償予測符号化とを組み合わせたものである。
【0003】
図20は、動き補償予測符号化装置の一例を示す。図20において、入力端子61からのディジタルビデオデータが動きベクトル検出回路62および減算回路63に供給される。動きベクトル検出回路62では、現フレームと参照フレーム(例えば時間的に前フレーム)との間の動きベクトルが検出される。この動きベクトルが動き補償回路64に供給される。
【0004】
フレームメモリ65に蓄えられている画像が動き補償回路64において動きベクトルに基づいて動き補償された後に、減算回路63および加算回路66に供給される。減算回路63では、現フレームのビデオデータと動き補償回路64からの前フレームの復号ビデオデータとが画素毎に減算される。減算回路63からの差分データがDCT回路67においてDCT変換される。DCT回路67からの係数データが量子化回路68により再量子化される。量子化回路68の出力データが出力端子69に取り出されるとともに、逆量子化回路70に供給される。
【0005】
逆量子化回路70とこれに接続された逆DCT回路71とは、DCT回路67および量子化回路68と反対の処理を行うためのローカル復号回路を構成する。逆DCT回路71からの復号差分データが加算回路66に供給される。加算回路66の出力データがフレームメモリ65を介して動き補償回路64に供給される。動き補償回路64からの前フレームの復号データが加算回路66に供給されることで、復号データが形成され、この復号データがフレームメモリ65に蓄えられる。
【0006】
動きベクトル検出回路62では、ブロックマッチング法により動きベクトルが検出される。これは、参照フレームの検査ブロックを所定の探索範囲内で移動し、現フレームの基準ブロックと最も合致しているブロックを検出することにより動きベクトルを求めるものである。従って、動きベクトルは、ブロック毎に求められる。なお、画面全体あるいは1画面を1/4に分割した領域のような比較的大きい領域の動きベクトルを求める場合もある(例えば特開昭61−105178号公報参照)。
【0007】
ブロックマッチング法では、図21Aに示すように、1枚の画像、例えば水平H画素、垂直Vラインの1フレームの画像が図21Bに示すように、P画素×Qラインのブロックに細分化される。図21Bの例では、P=5、Q=5の例である。cがブロックの中心画素位置である。
【0008】
図22は、cを中心画素とする基準ブロックとc´を中心とする検査ブロックの位置関係を示している。cを中心画素とする基準ブロックは、現フレームの注目しているある基準ブロックであり、その画像と一致する参照フレームの検査ブロックが参照フレームにおいてc´を中心とするブロックの位置にあるものとしている。ブロックマッチング法では、探索範囲内において、基準ブロックと最も合致する検査ブロックを見出すことによって、動きベクトルを検出する。
【0009】
図22Aの場合では、水平方向に−1画素、垂直方向に−1ライン、すなわち、(−1,−1)の動きベクトルが検出される。図22Bでは、(−3,−3)の動きベクトルが検出され、図22Cでは、(−2,+1)の動きベクトルが検出される。動きベクトルは、現フレームの基準ブロック毎に求められる。動きベクトルの極性は、テレビジョンのラスター走査の方向と一致する方向を+としている。
【0010】
動きベクトルを探索する範囲を水平方向で±S画素、垂直方向で±Tラインとすると、基準ブロックは、その中心cに対して、水平に±S、垂直に±Tずれたところに中心c´を有する検査ブロックと比較される必要がある。図23は、現フレームのある基準ブロックの中心cの位置をRとする時に、比較すべき参照フレームの(2S+1)×(2T+1)個の検査ブロックとの比較が必要なことを示している。すなわち、この図23のます目の位置にc´が存在する検査ブロックの全てが比較対象である。図23は、S=4,T=3とした例である。
【0011】
探索範囲内の比較で得られた評価値(すなわち、フレーム差の絶対値和、このフレーム差の二乗和、あるいはフレーム差の絶対値のn乗和)の中で、最小値を検出することによって、動きベクトルが検出される。図23の探索範囲は、検査ブロックの中心が位置する領域であり、検査ブロックの全体が含まれる探索範囲の大きさは、(2S+P)×(2T+Q)となる。
【0012】
図24は、従来の動きベクトル検出装置の一例の構成を示す。図24において、81が現フレームの画像データの入力端子であり、この画像データが現フレームメモリ83に蓄えられる。82が参照フレームの画像データの入力端子であり、この画像データが参照フレームメモリ84に蓄えられる。
【0013】
現フレームメモリ83および参照フレームメモリ84の読出し/書込みは、コントローラ85によって制御される。現フレームメモリ83からは、現フレームの基準ブロックの画素データが読出され、参照フレームメモリ84からは、参照フレームの検査ブロックの画素データが読出される。参照フレームメモリ84と関連してアドレス移動回路86が設けられる。コントローラ85がアドレス移動回路86を制御する結果、検査ブロックの中心位置が1画素ステップで、探索範囲内を移動される。
【0014】
現フレームメモリ83の出力と参照フレームメモリ84の出力とが差分検出回路87に供給され、1画素毎の差分が検出される。差分検出回路87の出力が絶対値化回路88で絶対値に変換され、この絶対値が累算回路89に供給される。累算回路89が1ブロックで発生した絶対値差分を累算し、その出力が評価値として判断回路90に供給される。判断回路90は、探索範囲内で検査ブロックを移動させた時にそれぞれ発生する差分の絶対値和から動きベクトルを検出する。すなわち、最小の差分の絶対値和を発生する検査ブロックの位置を動きベクトルとして検出する。
【0015】
上述の従来のブロックマッチング法は、基準ブロックと検査ブロックとの間でフレーム差分の絶対値和を求める処理を探索範囲内で行う必要がある。上述の図21、図22、図23の例では、(P×Q)回の絶対値差分の累算を全ての探索点、すなわち,(2S+1)×(2T+1)回行う必要がある。この関係から、演算量は、(P×Q)×(2S+1)×(2T+1)で表される。従って、上述のブロックマッチング法は、ハードウエアの規模が大きく、演算量が膨大であるという問題点があった。
【0016】
より具体的な例として、図25に示すように、P=16,Q=16、S=2,T=2の例を考える。このSおよびTの数値は、説明および図示の簡単のために、非常に小さな値としており、実際には、より大きな探索範囲が設定される。図25では、基準ブロックと(+2,+2)の移動量の検査ブロックとが描かれている。この具体例では、探索範囲を水平および垂直方向に±2としており、探索点が(5×5=25)である。
【0017】
そして、ブロックマッチングのための演算量について考えると、(16×16)回の画素間の差分を求める減算と、その絶対値を得る減算と、全ての差分の絶対値を加算する演算とを一つの探索点について必要とする。さらに、この演算を25個の全ての探索点について行う必要がある。従って、ブロックマッチング法における演算量は、照合画素数×探索点に依存すると考えることができ、この演算量が膨大となる。従来において、基準ブロック内の画素を一つの代表点画素とし、代表点データと検査ブロック内のデータとの差分を演算するものが提案されている(例えば特開昭62−25587号公報参照)。この方式は、ハードウエアの簡略化あるいは処理時間の短縮化をある程度達成することができるが、演算量の大幅な減少を達成することができない。
【0018】
この対策として、探索方式を簡略化する手法と、照合方式を簡略化する手法が提案されている。探索を簡略化する方法としては、探索範囲で検査ブロックを移動する時に、最初のステップとして、数画素の間隔で検査ブロックを移動させることによって、大まかな動きベクトルを検出し、次のステップで、検出された位置の付近で、1画素間隔で検査ブロックを移動させることによって、最終的に動きベクトルを求める方法(2ステップ法)が知られている。ステップ数を3とした3ステップ法も考えられる。この方法によれば、フルサーチで必要とされた、全ての探索点において必要とされた演算を各ステップで検出された動きベクトルの周辺の探索点と対応する回数へ減少させることができる。
【0019】
さらに、照合方式および探索方式の双方を簡略化する方法として、ブロック内の画素数を間引き(サブサンプリング)により減少させるものである。例えば図26に示すように、(16×16)画素のブロックを水平および垂直方向に1/4の間引きを行ない、ブロック内の画素数を1/16に減少させる。また、探索点は、4画素毎に存在する。これによって、照合画素数および探索点を少なくできる。
【0020】
照合方式および探索方式の双方を簡略化する他の方法として、階層構造を採用するものが提案されている。一例として、原画像(第1階層と称する)と、第1階層からローパスフィルタおよび/またはサブサンプリングによって、水平および垂直方向で画素数が1/2に間引かれた第2階層と、さらに、第2階層をローパスフィルタおよび/またはサブサンプリングによって、水平および垂直方向で1/2に間引いた第3階層とからなる階層構造を規定する。
【0021】
そして、第3階層に関してブロックマッチングを行ない、検出された最小値の位置に原点を移動して第2階層に関してブロックマッチングを行ない、検出された最小値の位置に原点を移動して、第1階層に関してブロックマッチングを行い、最終的に1画素ステップのブロックマッチングで動きベクトルを検出する。
【0022】
照合方式および探索方式の双方を簡略化するさらに他の方法として、基準ブロックおよび検査ブロックを水平方向および垂直方向のそれぞれの方向で小ブロックに更に分割し、小ブロック毎に特徴量を抽出するものが提案されている。すなわち、基準ブロックおよび検査ブロックの間で、水平方向小ブロックの特徴量と垂直方向小ブロック特徴量とを別個に比較し、比較結果の絶対値をそれぞれ累算し、累算結果を加重平均したものをブロック間の比較結果として用いる。小ブロックの特徴量は、例えばその小ブロック内の画素データの累算結果である。この方法は、1ブロック内の全画素数に関して必要とされた演算を水平および垂直方向の小ブロックの数に減少することができる。
【0023】
【発明が解決しようとする課題】
ブロックマッチングの上述したような種々の改良は、演算量を減少させることはできるが、誤検出が生じる欠点を有している。これは、簡略化の結果として、原画像の有する情報量の欠落が生じるからである。
【0024】
より具体的に述べると、ブロック内の要素数(照合画素数)を減らすようにした照合方式の簡略化においては、ブロックの画像データのディテイルが失われ、その結果、誤検出が生じる。図27に示すように、基準ブロックと検査ブロック(簡単のため、各ブロックが1次元ブロックとする)を照合する場合を考える。基準ブロックデータを4画素毎に平均化したものは、検査ブロックデータと同じ波形となり、元の二つのデータは、異なる波形であるにもかかわらず、比較の結果、両者が合致するものと判定され、誤検出が生じる。
【0025】
この問題の一つの解決法を本願発明者は、提案している(特願平5−248813号参照)。この方法は、基準ブロックと検査ブロックとを比較する時に、定常成分と過渡成分とをそれぞれ各ブロックから抽出し、定常成分同士、過渡成分同士を比較することによって、誤検出を防止しようとするものである。図27の例において、過渡成分の一例として、平均値に対する差分の絶対値を求めると、基準ブロックデータと検査ブロックデータとが大きく異なったものとなる。従って、過渡成分を参照することによって、誤検出を防止することができる。
【0026】
探索点を減少することによって、探索を簡略化する方法では、大まかな動きベクトルを検出する時に、精度が粗いために、誤検出のおそれが生じる。照合方式および探索方式の簡略化を行う方法では、やはり、間引かれた画像あるいはローパスフィルタを通した画像に基づいて動きベクトルの検出する時に、誤検出のおそれがある。
【0027】
さらに、探索点を減少させる時には、探索点の位相と画像の動きとの間に位相ずれが生じる。これを図28を参照して説明する。図28は、1次元ブロックについて4画素毎の探索点を設定した場合であり、原信号の波形を水平に、1画素、2画素、3画素および4画素移動した波形がそれぞれ示されている。基準ブロックと検査ブロックの切り出しが同一位相の場合では、静止と4画素の倍数の動きにおいて、両ブロックが合致し、これを検出できる。しかしながら、それ以外の動きは、検出することができない。
【0028】
特に、変化が激しい画像の場合には、真の動きが3画素以下であっても、原点から4画素離れた探索点における差分の絶対値の累算値が非常に大きな値となるおそれがある。若し、他の探索点における差分の絶対値の累算値がこれより小さな時には、検出される動きが真のものとかけ離れたものとなる。
【0029】
従って、この発明の目的は、演算量を減少でき、ハードウエアが簡単な特徴を備え、また、誤検出を防止でき、さらに、位相ずれの補償および検出精度の向上が可能な画像照合方法および装置を提供することにある。
【0030】
【課題を解決するための手段】
請求項1に記載の発明は、第1の画像データを複数の基準ブロックへ分割するステップと、
第2の画像データを複数の検査ブロックへ分割するステップと、
基準ブロック内の所定の位置の画素データを第1の代表画素データとして抽出するステップと、
検査ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出するステップと、
第1の代表画素データの値が第1の特徴量データの示す範囲内に存在する場合に0となり、第1の代表画素データの値が範囲内に存在しない場合に第1の代表画素データの値と最大値または最小値との差分となる第1の評価値を生成するステップと、
検査ブロック内の所定の位置の画素データを第2の代表画素データとして抽出するステップと、
第2の代表画素データと対応する画素データを含む基準ブロックについて、該基準ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出するステップと、
第2の代表画素データの値が第2の特徴量データの示す範囲内に存在する場合に0となり、第2の代表画素データの値が範囲内に存在しない場合に第2の代表画素データの値と最大値または最小値との差分となる第2の評価値を生成するステップと、
第1および第2の評価値を加算した総合評価値を生成し、総合評価値の大小に基づいて第1および第2の画像データの部分的照合を行うステップとからなる画像照合方法である。
【0031】
請求項2に記載の発明は、第1の画像データを複数の基準ブロックへ分割する手段と、
第2の画像データを複数の検査ブロックへ分割する手段と、
基準ブロック内の所定の位置の画素データを第1の代表画素データとして抽出する手段と、
検査ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出する手段と、
第1の代表画素データの値が第1の特徴量データの示す範囲内に存在する場合に0となり、第1の代表画素データの値が範囲内に存在しない場合に第1の代表画素データの値と最大値または最小値との差分となる第1の評価値を生成する手段と、
検査ブロック内の所定の位置の画素データを第2の代表画素データとして抽出する手段と、
第2の代表画素データと対応する画素データを含む基準ブロックについて、該基準ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出する手段と、
第2の代表画素データの値が第2の特徴量データの示す範囲内に存在する場合に0となり、第2の代表画素データの値が範囲内に存在しない場合に第2の代表画素データの値と最大値または最小値との差分となる第2の評価値を生成する手段と、
第1および第2の評価値を加算した総合評価値を生成し、総合評価値の大小に基づいて第1および第2の画像データの部分的照合を行う手段とからなる画像照合装置である。
【0032】
請求項3に記載の発明は、第1の画像データを複数の基準ブロックへ分割するステップと、
基準ブロックを複数の基準小ブロックへ分割するステップと、
第2の画像データを複数の検査ブロックへ分割するステップと、
検査ブロックを複数の検査小ブロックへ分割するステップと、
基準小ブロック内の所定の位置の画素データを第1の代表画素データとしてそれぞれ抽出するステップと、
検査小ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出するステップと、
第1の代表画素データの値が第1の特徴量データの示す範囲内に存在する場合に0となり、第1の代表画素データの値が範囲内に存在しない場合に第1の代表画素データの値と最大値または最小値との差分となる評価値を複数の検査小ブロックについてそれぞれ求め、求められた評価値を積算して第1の評価値を生成するステップと、
検査小ブロック内の所定の位置の画素データを第2の代表画素データとして抽出するステップと、
第2の代表画素データと対応する画素データを含む基準小ブロックについて、該基準小ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出するステップと、
第2の代表画素データの値が第2の特徴量データの示す範囲内に存在する場合に0となり、第2の代表画素データの値が範囲内に存在しない場合に第2の代表画素データの値と最大値または最小値との差分となる評価値を複数の基準小ブロックについてそれぞれ求め、求められた評価値を積算して第2の評価値を生成するステップと、
第1および第2の評価値を加算した総合評価値を生成し、総合評価値の大小に基づいて第1および第2の画像データの部分的照合を行うステップとからなる画像照合方法である。
【0033】
請求項4に記載の発明は、第1の画像データを複数の基準ブロックへ分割する手段と、
基準ブロックを複数の基準小ブロックへ分割する手段と、
第2の画像データを複数の検査ブロックへ分割する手段と、
検査ブロックを複数の検査小ブロックへ分割する手段と、
基準小ブロック内の所定の位置の画素データを第1の代表画素データとしてそれぞれ抽出する手段と、
検査小ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出する手段と、
第1の代表画素データの値が第1の特徴量データの示す範囲内に存在する場合に0となり、第1の代表画素データの値が範囲内に存在しない場合に第1の代表画素データの値と最大値または最小値との差分となる評価値を複数の検査小ブロックについてそれぞれ求め、求められた評価値を積算して第1の評価値を生成する手段と、
検査小ブロック内の所定の位置の画素データを第2の代表画素データとして抽出する手段と、
第2の代表画素データと対応する画素データを含む基準小ブロックについて、該基準小ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出する手段と、
第2の代表画素データの値が第2の特徴量データの示す範囲内に存在する場合に0となり、第2の代表画素データの値が範囲内に存在しない場合に第2の代表画素データの値と最大値または最小値との差分となる評価値を複数の基準小ブロックについてそれぞれ求め、求められた評価値を積算して第2の評価値を生成する手段と、
第1および第2の評価値を加算した総合評価値を生成し、総合評価値の大小に基づいて第1および第2の画像データの部分的照合を行う手段とからなる画像照合装置である。
【0034】
【作用】
基準ブロックの例えば中央位置の画素データを代表画素データxa として抽出し、代表画素データxa と検査ブロックの特徴量とを比較する。検査ブロックの例えば最大値MAX2および最小値MIN2が検出され、MAX2およびMIN2の範囲に代表画素データxa の値が含まれるかどうかの比較がなされる。これが順方向の照合である。逆方向の照合は、検査ブロックから抽出された代表画素データxb と基準ブロックの最大値MAX1および最小値MIN1を使用してなされる。順方向および逆方向の照合結果に基づいて総合評価値が形成され、総合評価値に基づいて照合の程度が調べられる。このように、演算量が低減でき、また、位相ずれの問題を解決することができ、さらに、照合の精度を向上することができる。
【0035】
代表画素データと特徴量とを比較して、照合を行う他に、基準ブロックと検査ブロック間で、領域同士の照合を行うことができる。この場合にも、双方向の照合が行われ、照合の精度を向上することができる。
【0036】
【実施例】
以下、この発明を動きベクトル検出装置に対して適用した一実施例について図面を参照して説明する。図1は、一実施例のブロック図であり、図1において、1が現フレームの画像データの入力端子、2が参照フレームの画像データの入力端子、3が現フレームの画像データを蓄える現フレームメモリ、4が参照フレームの画像データを蓄える参照フレームメモリである。現フレームメモリ3および参照フレームの書込み/読出し動作がコントローラ5により制御される。さらに、参照フレームメモリ4と関連して設けられたアドレス移動回路6がコントローラ5によって制御され、これによって、参照フレーム内で検査ブロックが移動される。
【0037】
図2は、この一実施例のブロック構造を説明するためのもので、基準ブロックは、(3×3)画素の構成とされている。検査ブロックも同様の構造である。順方向の照合は、基準ブロックから検査ブロックに対してなされるものであり、逆方向の照合は、検査ブロックから基準ブロックに対してなされるものである。
【0038】
基準ブロックのデータが代表値抽出回路7aおよびMAX1,MIN1(最大値,最小値)検出回路8bに供給される。代表値抽出回路7aは、基準ブロック毎に代表値例えば図2に示すように、各基準ブロックの中央位置の画素の値xa を抽出する。検査ブロックのデータが代表値抽出回路7bおよびMAX2,MIN2検出回路8aに供給される。代表値抽出回路7bは、検査ブロック毎に代表値例えば図2に示すように、各検査ブロックの中央位置の画素の値xb を抽出する。代表画素としては、これ以外に、ブロックの異なる位置の画素の値、またはブロックの最大値、最小値、極値を代表値として使用することができる。
【0039】
MAX1,MIN1検出回路8bは、基準ブロックの特徴量としての最大値MAX1および最小値MIN1を検出する。MAX2,MIN2検出回路8aは、検査ブロックの特徴量としての最大値MAX2および最小値MIN2を検出する。特徴量としては、MAX,MINおよびダイナミックレンジDR(=MAX−MIN)の内の二つの値を使用することができる。さらに、ブロックの平均値Avおよび標準偏差σを計算し、Av+σとAv−σとを特徴量として使用しても良い。
【0040】
ブロックマッチングの対象としては、上述のような現フレームと参照フレーム(現フレームに対して時間的に前あるいは後のフレーム)に限られない。例えば2枚の静止画像間で動きベクトルを検出する場合、または解像度が異なる画像同士の間で動きベクトルを検出する場合に対しても、この発明を適用することができる。さらに、動きベクトルの検出に限らず、二つの静止画像間で照合をとる場合、例えば集合写真に相当する静止画像を参照画像とし、特定の人物の写真を注目画像とし、注目画像が参照画像中のどの位置に存在しているかを検出するような画像照合に対しても適用できる。この例では、参照画像の全体が探索範囲となる。
【0041】
検出回路8a、8bの一例を図3に示す。入力端子21からは、検出回路8aの場合では、検査ブロックの画素データが供給され、検出回路8bの場合では、基準ブロックの画素データが供給される。検出回路8aおよび8bは、同じ構成であるので、図3では、特に区別しないで示されており、MAX1およびMAX2が単にMAXとして示され、MIN1およびMIN2がMINとして示されている。入力データがタイミング生成回路22、選択回路23および24にそれぞれ供給される。タイミング生成回路22は、画素データと同期したサンプルクロックおよびブロックの区切りを示すブロックタイミング信号を発生する。
【0042】
選択回路23は、二つの画素データの内のより大きな値の画素データを選択的に出力し、選択回路24は、二つの画素データの内のより小さな値の画素データを選択的に出力する。選択回路23の出力データがラッチ25およびレジスタ27に供給され、選択回路24の出力データがラッチ26およびレジスタ28に供給される。レジスタ27および28の出力が選択回路23および24に入力される。ラッチ25から出力端子29にそのブロックの画素の最大値MAXが取り出され、ラッチ26から出力端子30にそのブロックの画素の最小値MINが取り出される。
【0043】
レジスタ27は、一つのブロックの画素データが入力される前の初期状態では、ゼロにクリアされている。そして、選択回路23の出力がレジスタ27に取り込まれ、レジスタ27の出力および入力画素データの内のより大きな値が選択回路23によって選択されるので、次の画素データが到来する時には、以前の画素データの最大値がレジスタ27に保持されている。そして、一つのブロックの選択画素データが入力された時に、選択回路23がそのブロックの最大値MAXを出力する。このMAXがラッチ25に取り込まれる。最小値MINの検出も同様になされ、出力端子30にブロックのMINが取り出される。
【0044】
代表値xa と検出されたMAX2およびMIN2は、比較回路9aおよび評価値計算回路10aにそれぞれ供給される。比較回路9aの比較結果によって、評価値計算回路10aが制御される。代表値xb と検出されたMAX1およびMIN1は、比較回路9bおよび評価値計算回路10bにそれぞれ供給される。比較回路9bの比較結果によって、評価値計算回路10bが制御される。評価値計算回路10aは、順方向の照合に基づくブロック毎の評価値を発生し、評価値計算回路10bは、逆方向の照合に基づくブロック毎の評価値を発生する。比較回路9a、9bおよび評価値計算回路10a、10bの処理をソフトウェア処理で行う時のフローチャートが図4に示される。図4および後述の図5では、図3の場合と同様に、代表画素xa 、xb をxで表し、MAX1,MAX2をMAXで表し、MIN1,MIN2をMINで表す。
【0045】
比較処理が開始されると、ステップ31において、x>MAXが調べられる。若し、この関係が成立する(Y)時には、ステップ32へ処理が移り、評価値Δ=x−MAXが生成される。ステップ31の結果が否定(N)の時には、ステップ33において、x<MINの関係が成立するかどうかが調べられる。これが成立する時には、Δ=MIN−xが生成される。ステップ33における関係が成立しない時、すなわち、MIN≦x≦MAXの時には、Δ=0(ステップ35)とされる。このように生成された評価値Δが出力される(ステップ36)。
【0046】
図5は、比較回路9(9a、9b)および評価値計算回路10(10a、10b)をハードウエアで構成した時のブロック図である。比較回路9には、代表値x、MAXおよびMINが供給され、2ビットの比較出力が発生する。この比較出力が選択回路41を制御する。選択回路41の入力端子aには、減算回路42からのx−MAXが供給される。その入力端子bには、ゼロデータが供給される。その入力端子cには、減算回路43からのMIN−xが供給される。
【0047】
比較回路9の2ビットの出力は、x>MAX、x<MIN、MIN≦x≦MAXの3つの関係を指示するものであって、各関係に応じて入力端子a、b、cが選択され、上述と同様の評価値Δが生成される。評価値計算回路10で生成された評価値Δが累算回路19に供給され、累算回路19の出力が評価値メモリ11に格納される。
【0048】
評価値Δは、図6Aに示すように、代表値が相手方のブロックの画素のMINおよびMAXの間の範囲に含まれる時に、0であり、MINより小さい時およびMAXより大きい時には、次第に大きくなる値である。実際には、ノイズが存在するので、ノイズマージンを設定し、図6Aにおける破線のような変化を呈する評価値Δを形成しても良い。なお、図5の構成は、一例であって、ゲート回路あるいは2入力の選択回路の組合せ等によって、種々の構成が可能である。また、評価値としては、差分の絶対値、差分のn乗値等を使用しても良い。
【0049】
評価値計算回路10aからの順方向照合の結果の評価値Δaと評価値計算回路10bからの逆方向照合の結果の評価値Δbとが加算回路14において加算される。この場合、単純な加算ではなく、重み付け加算を行うようにしても良い。加算回路14からの総合評価値(Δa+Δb)が評価値メモリ11に格納される。この総合評価値は、所定の探索範囲内の各ブロックについてそれぞれ計算される。例えば、図6Bに示すように、6個のブロックと対応する6個の総合評価値Δ1〜Δ6が求められ、これらが評価値メモリ11に格納される。
【0050】
図1に戻って説明すると、評価値メモリ11への総合評価値の格納は、コントローラ5により制御される。そして、所定の探索範囲(図6Bでは、9×9の範囲)で総合評価値がそれぞれ求められ、総合評価値の中の最小値が最小値検出回路12において検出される。最小値の存在する位置がその基準ブロックの動きベクトルである。
【0051】
次に、この発明の他の実施例について説明する。図7は、他の実施例の構成を示し、上述の一実施例の構成(図1のブロック図)と対応する部分には、同一符号を付して示す。図1の構成に対して、現フレームメモリ3および参照フレームメモリ4に対してそれぞれ小ブロック化回路17aおよび17bが接続され、また、加算回路14に対して累算回路16が接続される点が相違している。
【0052】
他の実施例では、図8に示すように、(3×3)画素の領域を小ブロックとして扱い、小ブロックを縦横に3個ずつ並べた(9×9)画素の領域を基準ブロックおよび検査ブロックとして扱う。図8では、基準ブロックについては、各小ブロックの中央位置の代表画素のみが示されている。そして、基準ブロックの小ブロックの代表値xa が検査ブロックの小ブロックのMAX2,MIN2と比較され、上述の一実施例と同様に順方向の評価値Δaが小ブロック毎に計算される。逆方向の評価値Δb も同様に小ブロック毎に求められる。そして、Δa+Δbによって、小ブロック毎の総合評価値Δが形成される。
【0053】
基準小ブロックとある位置の検査小ブロックとの比較および評価値の計算の結果、Δ1〜Δ9の総合評価値が小ブロック毎に得られる。この評価値が累算回路16において累算される。すなわち、ΣΔ=Δ1+Δ2+・・・・+Δ9の累算がなされる。検査ブロックが探索範囲内で移動され、各探索点において、総合評価値の累算値が求められる。この累算評価値の中の最小値が最小値検出回路12により検出され、その最小値を生じさせる検査ブロックの位置と対応する動きベクトルが出力端子13に取り出される。
【0054】
図9は、例えば±5の探索範囲(一点鎖線で示す)の一部を示す。基準ブロックの右下の頂点を基準として考え、3画素毎に目盛られた座標軸(x,y)が描かれている。なお、基準の点は、より好ましくは、ブロック内のより中心に近い点に設定される。例えば図9に示すような(+5,+5)の位置の検査ブロックが最小の累算評価値を生じさせる時には、(+15(=5×3),+15(=5×3))の動きベクトルが出力される。
【0055】
上述の一実施例および他の実施例は、要約すると、ブロックの代表画素と対応ブロック(領域)間の照合をとるもので、ブロックの画素の全てを代表する量として、例えば最大値および最小値を求めている。代表画素の値がこの間に存在しない場合には、基準ブロックと検査ブロックの照合の可能性はない。従来では、探索点を減少させる簡略化を行うと、位相ずれによって誤検出が生じる問題があった。この発明は、探索点を例えば3画素毎に減少させても、フルサーチと等価な処理、すなわち、位相ずれを生じない照合を行うことができる。
【0056】
図10は、この発明が位相ずれを生じないことを説明するものである。簡単のために、a、b、cの値をそれぞれ有する3画素からなる1次元ブロックを考える。破線は、3画素毎に描かれている。この1次元ブロックを基準ブロックとして考え、その中央位置の画素の値bが代表値である。図10では、基準ブロックが静止、+1画素の動き、−1画素の動き、+2画素の動き、+3画素の動き、+4画素の動きがそれぞれ示されている。
【0057】
この図10から分かるように、±1画素の動きの場合でも、代表値bが3画素の区切りの中に存在している。従って、±1画素の動きの場合でも、検査ブロックとの照合がとれ、評価値Δが0となる。+2画素、+3画素、+4画素の動きは、次の検査ブロックとの照合によって、検出することができる。従って、検査ブロック(小ブロック)の区切りをオーバーラップさせる必要がない。従来の探索点の簡略化では、静止並びに探索点の間隔の倍数の動きしか正確に検出することができなかった。この発明は、かかる位相ずれを補償することができる。
【0058】
次に、この発明のさらに他の実施例について説明する。以下に述べる二つの実施例では、ブロック間の照合をとる時に、領域対領域で比較するものである。他の実施例のブロック構成を図12に示す。基準ブロックは、例えば(2×4)画素の大きさである。検査ブロックは、基準ブロックと同様に、(2×4)画素の領域である。修正検査ブロックは、後述のように、位相補償範囲の±1ラインおよび±2画素を検査ブロックに付加した領域である。順方向照合時では、この基準ブロックと修正検査ブロックとの照合が行われ、逆方向照合時では、図12に示すように、検査ブロックおよび修正基準ブロックとの照合が行われる。
【0059】
上述の一実施例(図1)および他の実施例(図7)における代表値抽出回路7a、7bの代わりに、更に他の実施例では、基準ブロックの画素データがMAX3,MIN3検出回路15aおよび検査ブロックのMAX4,MIN4検出回路15bが設けられる。また、MAX2,MIN2検出回路8aは、修正検査ブロック毎に最大値MAX2および最小値MIN2を特徴量として抽出し、MAX1,MIN1検出回路8bは、修正基準ブロック毎に最大値MAX1および最小値MIN1を特徴量として抽出する。
【0060】
MAX3,MIN3検出回路15aによって検出されたMAX3およびMIN3と、MAX2,MIN2検出回路8aによって検出されたMAX2およびMIN2とが比較回路9aおよび評価値計算回路10aに供給される。同様に、MAX1,MIN1とMAX4,MIN4とが比較回路9bおよび評価値計算回路10bに供給される。比較回路9aおよび評価値計算回路10aの処理をソフトウェア処理で行う時のフローチャートが図12に示される。
【0061】
比較処理が開始されると、ステップ131において、MAX3>MAX2が成立するかどうかが調べられる。若し、この関係が成立しない(N)時(すなわち、MAX2≧MAX3の時)には、ステップ132へ処理が移り、評価値Δ1=0とされる。そして、次に、MIN3<MIN2が成立するかどうかが調べられる(ステップ133)。若し、この関係が成立しない(N)時(すなわち、MIN3≧MIN2の時)には、ステップ134へ処理が移り、評価値Δ2=0とされる。従って、評価値Δ1=0、Δ2=0(ステップ135a)である。これは、基準ブロックの最小値MIN3および最大値MAX3が修正検査ブロックMIN2および最大値MAX2の範囲内に含まれ、基準ブロックと検査ブロックとの照合が成立したと判断されることを意味する。若し、ステップ133の結果が肯定の場合では、Δ1=0、Δ2=MIN2−MIN3の評価値が生成される(ステップ135b)。
【0062】
ステップ131の結果が肯定(Y)の時には、ステップ136において、MIN3<MIN2の関係が成立するかどうかが調べられる。これが成立しない時(すなわち、MIN3≧MIN2の時)には、Δ2=0とされ(ステップ137)、Δ1=MAX3−MAX2,Δ2=0の評価値が生成される(ステップ135c)。ステップ136の結果が肯定の時には、Δ1=MAX3−MAX2,Δ2=MIN2−MIN3の評価値が生成される(ステップ135d)。
【0063】
図14は、比較回路9aおよび評価値計算回路10aをハードウエアで構成した時のブロック図である。比較回路9aには、基準ブロックのMAX3およびMIN3と修正検査ブロックのMAX2およびMIN2が供給され、二つの比較出力が発生する。これらの比較出力が選択回路141および142を制御する。選択回路141の入力端子aには、減算回路145からのMAX3−MAX2が供給され、その入力端子bには、ゼロデータが供給される。選択回路142の入力端子aには、減算回路146からのMIN2−MIN3が供給され、その入力端子bには、ゼロデータが供給される。
【0064】
比較回路9の一方の出力は、MAX3>MAX2の時には、選択回路141が入力端子a(すなわち、MAX3−MAX2)を選択するように制御し、MAX3<MAX2の時には、選択回路141が入力端子b(すなわち、ゼロデータ)を選択するように制御する。比較回路9の他方の出力は、MIN3<MIN2の時には、選択回路142が入力端子a(すなわち、MIN2−MIN3)を選択するように制御し、MIN3≧MIN2の時には、選択回路142が入力端子b(すなわち、ゼロデータ)を選択するように制御する。選択回路141からの評価値Δ1と選択回路142からの評価値Δ2とが加算回路143に供給される。選択回路143からのΔ1+Δ2の出力が出力端子144に取り出される。
【0065】
評価値Δ1およびΔ2は、図15に示すように変化する。評価値Δ1は、MAX3がMAX2よりも小さい範囲では、0であり、MAX2よりも大きくなるに従って、その値が大きくなる。また、評価値Δ2は、MIN3がMIN2よりも大きい範囲では、0であり、MIN2よりも小さくなるに従って、その値が大きくなる。実際には、ノイズが存在するので、ノイズマージンを設定し、図15における破線のような変化を呈する評価値Δ1およびΔ2を形成しても良い。なお、図14の構成は、一例であって、種々の構成が可能である。また、評価値としては、差分の絶対値、差分のn乗値等を使用しても良い。
【0066】
比較回路9bおよび評価値計算回路10bは、上述した順方向の照合のための比較回路9aおよび評価値計算回路10aと同様に構成されており、評価値計算回路10bからは、逆方向の照合の結果の評価値が発生する。そして、上述したように、加算回路14によって総合評価値が形成され、この総合評価値が評価値メモリ11に格納される。この総合評価値の中の最小値が最小値検出回路12によって検出され、検出された最小値の位置と対応する動きベクトルが出力端子13に取り出される。
【0067】
次に、この発明のよりさらに他の実施例について説明する。図16は、その構成を示し、上述の他の実施例の構成(図7のブロック図)と対応する部分には、同一符号を付して示す。図16では、図11の構成と比較して、現フレームメモリ3および参照フレームメモリ4に対してそれぞれ小ブロック化回路17aおよび17bが接続され、また、加算回路14に対して累算回路16が接続される点が相違している。
【0068】
よりさらに他の実施例では、上述の他の実施例では、基準ブロックとして説明した大きさの(2×4)画素の領域を小ブロックとして扱い、小ブロックを縦横に4個ずつ並べた(8×16)画素の領域(上述一実施例では、探索範囲として説明した)を基準ブロックおよび検査ブロックとして扱う。そして、順方向の照合時には、基準ブロックの小ブロックのMAX3およびMIN3が検査ブロックの修正小ブロックのMAX2およびMIN2と比較され、上述の一実施例と同様に評価値が小ブロック毎に計算される。
【0069】
また、逆方向の照合時には、検査ブロックのMAX4,MIN4が修正基準小ブロックのMAX1,MIN1と比較され、評価値が小ブロック毎に計算される。これらの順および逆方向の照合の結果発生する小ブロック毎の評価値が加算回路14で加算され、加算結果が累算回路16によって、累算される。累算回路16から総合評価値がブロック毎に形成される。図17のように、ブロックの大きさとして、小ブロックの縦横に4個ずつ並べた構成のブロックの場合、小ブロック毎に評価値Δ1〜Δ16が形成される。Δ1〜Δ16を累算したものが総合評価値である。
【0070】
検査ブロックが所定の探索範囲内で移動され、各探索点において、総合評価値が求められる。この総合評価値の中の最小値が最小値検出回路12により検出され、その最小値を生じさせる検査ブロックの位置と対応する動きベクトルが出力端子13に取り出される。
【0071】
図18は、例えば±5の探索範囲(一点鎖線で示す)の一部を示す。基準ブロックの例えば中心を基準の一例として考え、4画素毎に目盛られた座標軸xと、2画素毎に目盛られたy軸とが描かれている。例えば図18に示すような(+5,+5)の位置の検査ブロックが最小の累算評価値を生じさせる時には、(+20(=4×5),+10(=2×5))の動きベクトルが出力される。
【0072】
この発明のさらに他の実施例およびよりさらに他の実施例は、要約すると、基準ブロックの領域と検査ブロックの領域間の照合をとるもので、検査ブロックの全画素の存在範囲を表す量として、例えば最大値MAX2および最小値MIN2を求めている。基準ブロックのMAX3およびMIN3がこの間に存在しない場合には、両者が照合しないと判断される。従来では、探索点を減少させる簡略化を行うと、位相ずれによって誤検出が生じる問題があった。この発明は、探索点を例えば数画素毎に減少させても、フルサーチと等価な処理、すなわち、位相ずれを生じない照合を行うことができる。
【0073】
図19は、この領域間の照合が位相ずれを生じないことを説明するものである。簡単のために、a、b、c、dの値をそれぞれ有する4画素からなる1次元ブロックを考える。破線は、4画素毎に描かれている。この1次元ブロックを基準ブロックとして考える。図19では、基準ブロックが+1画素の動き、+2画素の動き、+3画素の動き、+4画素の動きがそれぞれ示されている。
【0074】
この図19から分かるように、領域同士を比較する時に、検査ブロックが基準ブロックと同じ大きさの場合では、+1画素、+2画素、+3画素、+4画素の動きの場合には、誤照合が発生する可能性がある。しかしながら、4画素の大きさの場合では、検査ブロックに対して、左右に2画素分の拡張領域を付加しているので、誤照合を防止できる。+3画素および+4画素の動きは、次の基準ブロックに関する照合によって、照合をとることができる。どの程度の幅を検査ブロックに対して付加するかは、ブロックの大きさによって変化する。従来の探索点の簡略化では、静止並びに探索点の間隔の倍数の動きしか正確に検出することができなかった。この発明は、かかる位相ずれを補償することができる。
【0075】
この発明の具体的構成は、上述した実施例の構成以外に種々のものが可能である。例えば過渡成分を考慮して簡略化による誤検出を防止する方式を併用しても良い。また、動きベクトルを求める時に、動きベクトルの精度を1画素ではなく、ハーフペル精度とするようにしても良い。
【0076】
【発明の効果】
この発明は、探索点を簡略化するのと同様に、演算量および比較回数を大幅に減少することができる。これと共に、位相ずれによる誤検出を防止することができる。また、この発明は、照合時に順方向および逆方向の照合を行ない、この双方向の照合の結果に基づいて評価値を形成するので、検出精度を向上することができる。
【図面の簡単な説明】
【図1】この発明の一実施例の構成を示すブロック図である。
【図2】この発明の一実施例におけるブロックの構成を示す略線図である。
【図3】この発明の一実施例における最大値,最小値検出回路の一例のブロック図である。
【図4】代表画素の値と最大値,最小値の比較処理および評価値生成の処理を示すフローチャートである。
【図5】代表画素の値と最大値,最小値の比較回路および評価値生成回路の一例のブロック図である。
【図6】評価値および探索範囲の説明に用いる略線図である。
【図7】この発明の他の実施例のブロック図である。
【図8】この発明の他の実施例における総合評価値の形成の説明に用いる略線図である。
【図9】この発明の他の実施例の探索範囲の一部を示す略線図である。
【図10】この発明の他の実施例による位相補償を説明するための略線図である。
【図11】この発明のさらに他の実施例のブロック図である。
【図12】この発明のさらに他の実施例のブロック構成を示す略線図である。
【図13】この発明のさらに他の実施例における評価値の生成を説明するためのフローチャートである。
【図14】この発明のさらに他の実施例における評価値の生成のための構成の一例のブロック図である。
【図15】この発明のさらに他の実施例における評価値の説明のための略線図である。
【図16】この発明のよりさらに他の実施例のブロック構成を示す略線図である。
【図17】この発明のよりさらに他の実施例における総合評価値の生成を説明するための略線図である。
【図18】この発明のよりさらに他の実施例における探索範囲の一部を示す略線図である。
【図19】この発明のよりさらに他の実施例による位相補償を説明するための略線図である。
【図20】この発明を適用することができる動き補償予測符号化装置の一例を示すブロック図である。
【図21】従来のブロックマッチング法による動きベクトル検出方法の説明のための略線図である。
【図22】従来のブロックマッチング法による動きベクトル検出方法の説明のための略線図である。
【図23】従来のブロックマッチング法による動きベクトル検出方法における探索範囲の説明のための略線図である。
【図24】従来のブロックマッチング法による動きベクトル検出装置の一例のブロック図である。
【図25】従来のブロックマッチング法による動きベクトル検出をより具体的に説明するための略線図である。
【図26】従来の間引き法によるブロックマッチングの説明のための略線図である。
【図27】先に提案されている誤照合を防止する手法の説明のための略線図である。
【図28】従来の簡略化されたブロックマッチング方式の問題点を説明するための略線図である。
【符号の説明】
3 現フレームメモリ
4 参照フレームメモリ
7a,7b 代表値抽出回路
8a,8b 最大値,最小値検出回路
9a,9b 比較回路
10a,10b 評価値計算回路
12 最小値検出回路
Claims (19)
- 第1の画像データを複数の基準ブロックへ分割するステップと、
第2の画像データを複数の検査ブロックへ分割するステップと、
上記基準ブロック内の所定の位置の画素データを第1の代表画素データとして抽出するステップと、
上記検査ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出するステップと、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる第1の評価値を生成するステップと、
上記検査ブロック内の所定の位置の画素データを第2の代表画素データとして抽出するステップと、
上記第2の代表画素データと対応する画素データを含む上記基準ブロックについて、該基準ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出するステップと、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる第2の評価値を生成するステップと、
上記第1および第2の評価値を加算した総合評価値を生成し、上記総合評価値の大小に基づいて上記第1および上記第2の画像データの部分的照合を行うステップとからなる画像照合方法。 - 第1の画像データを複数の基準ブロックへ分割する手段と、
第2の画像データを複数の検査ブロックへ分割する手段と、
上記基準ブロック内の所定の位置の画素データを第1の代表画素データとして抽出する手段と、
上記検査ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出する手段と、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる第1の評価値を生成する手段と、
上記検査ブロック内の所定の位置の画素データを第2の代表画素データとして抽出する手段と、
上記第2の代表画素データと対応する画素データを含む上記基準ブロックについて、該基準ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出する手段と、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる第2の評価値を生成する手段と、
上記第1および第2の評価値を加算した総合評価値を生成し、上記総合評価値の大小に基づいて上記第1および第2の画像データの部分的照合を行う手段とからなる画像照合装置。 - 第1の画像データを複数の基準ブロックへ分割するステップと、
上記基準ブロックを複数の基準小ブロックへ分割するステップと、
第2の画像データを複数の検査ブロックへ分割するステップと、
上記検査ブロックを複数の検査小ブロックへ分割するステップと、
上記基準小ブロック内の所定の位置の画素データを第1の代表画素データとしてそれぞれ抽出するステップと、
上記検査小ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出するステップと、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記検査小ブロックについてそれぞれ求め、求められた上記評価値を積算して第1の評価値を生成するステップと、
上記検査小ブロック内の所定の位置の画素データを第2の代表画素データとして抽出するステップと、
上記第2の代表画素データと対応する画素データを含む上記基準小ブロックについて、該基準小ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出するステップと、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記基準小ブロックについてそれぞれ求め、求められた上記評価値を積算して第2の評価値を生成するステップと、
上記第1および第2の評価値を加算した総合評価値を生成し、上記総合評価値の大小に基づいて上記第1および上記第2の画像データの部分的照合を行うステップとからなる画像照合方法。 - 第1の画像データを複数の基準ブロックへ分割する手段と、
上記基準ブロックを複数の基準小ブロックへ分割する手段と、
第2の画像データを複数の検査ブロックへ分割する手段と、
上記検査ブロックを複数の検査小ブロックへ分割する手段と、
上記基準小ブロック内の所定の位置の画素データを第1の代表画素データとしてそれぞれ抽出する手段と、
上記検査小ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出する手段と、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記検査小ブロックについてそれぞれ求め、求められた上記評価値を積算して第1の評価値を生成する手段と、
上記検査小ブロック内の所定の位置の画素データを第2の代表画素データとして抽出する手段と、
上記第2の代表画素データと対応する画素データを含む上記基準小ブロックについて、該基準小ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出する手段と、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記基準小ブロックについてそれぞれ求め、求められた上記評価値を積算して第2の評価値を生成する手段と、
上記第1および第2の評価値を加算した総合評価値を生成し、上記総合評価値の大小に基づいて上記第1および上記第2の画像データの部分的照合を行う手段とからなる画像照合装置。 - 第1の画像データをそれぞれが検査ブロックと同一の大きさの複数の基準ブロックへ分割するステップと、
第2の画像データを複数の上記基準ブロックと同一の大きさの検査ブロックへ分割すると共に、上記検査ブロックを所定画素数拡大した修正検査ブロックを構成するステップと、
上記基準ブロック内の全画素の値の最小値MIN3から最大値MAX3までの範囲を示す第1の特徴量データを抽出するステップと、
上記修正検査ブロックの全画素の値の最小値MIN2から最大値MAX2までの範囲を示す第2の特徴量データを抽出するステップと、
上記第1の特徴量データの上記最小値MIN3および上記最大値MAX3のそれぞれが上記第2の特徴量データの上記最小値MIN2および最大値MAX2の範囲内に存在する場合に0となり、上記最小値MIN3および上記最大値MAX3のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN3および上記最大値MAX3のそれぞれと、上記第2の特徴量データの上記最小値MIN2および上記最大値MAX2のそれぞれとの差分の加算値となる第1の評価値を生成するステップと、
上記基準ブロックを所定画素数拡大した修正基準ブロックを構成するステップと、
上記検査ブロックの全画素の値の最小値MIN4から最大値MAX4までの範囲を示す第3の特徴量データを抽出するステップと、
上記修正基準ブロックの全画素の値の最小値MIN1から最大値MAX1までの範囲を示す第4の特徴量データを抽出するステップと、
上記第3の特徴量データの上記最小値MIN4および上記最大値MAX4のそれぞれが上記第4の特徴量データの上記最小値MIN1および最大値MAX1の範囲内に存在する場合に0となり、上記最小値MIN4および上記最大値MAX4のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN4および上記最大値MAX4のそれぞれと、上記第3の特徴量データの上記最小値MIN1および上記最大値MAX1のそれぞれとの差分の加算値となる第2の評価値を生成するステップと、
上記第1および第2の評価値を加算した総合評価値を生成し、上記総合評価値の大小に基づいて上記第1および第2の画像データの部分的照合を行うステップとからなる画像照合方法。 - 第1の画像データをそれぞれが検査ブロックと同一の大きさの複数の基準ブロックへ分割する手段と、
第2の画像データを複数の上記基準ブロックと同一の大きさの検査ブロックへ分割すると共に、上記検査ブロックを所定画素数拡大した修正検査ブロックを構成する手段と、
上記基準ブロック内の全画素の値の最小値MIN3から最大値MAX3までの範囲を示す第1の特徴量データを抽出する手段と、
上記修正検査ブロックの全画素の値の最小値MIN2から最大値MAX2までの範囲を示す第2の特徴量データを抽出する手段と、
上記第1の特徴量データの上記最小値MIN3および上記最大値MAX3のそれぞれが上記第2の特徴量データの上記最小値MIN2および最大値MAX2の範囲内に存在する場合に0となり、上記最小値MIN3および上記最大値MAX3のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN3および上記最大値MAX3のそれぞれと、上記第2の特徴量データの上記最小値MIN2および上記最大値MAX2のそれぞれとの差分の加算値となる第1の評価値を生成する手段と、
上記基準ブロックを所定画素数拡大した修正基準ブロックを構成する手段と、
上記検査ブロックの全画素の値の最小値MIN4から最大値MAX4までの範囲を示す第3の特徴量データを抽出する手段と、
上記修正基準ブロックの全画素の値の最小値MIN1から最大値MAX1までの範囲を示す第4の特徴量データを抽出する手段と、
上記第3の特徴量データの上記最小値MIN4および上記最大値MAX4のそれぞれが上記第4の特徴量データの上記最小値MIN1および最大値MAX1の範囲内に存在する場合に0となり、上記最小値MIN4および上記最大値MAX4のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN4および上記最大値MAX4のそれぞれと、上記第3の特徴量データの上記最小値MIN1および上記最大値MAX1のそれぞれとの差分の加算値となる第2の評価値を生成する手段と、
上記第1および第2の評価値を加算した総合評価値を生成し、上記総合評価値の大小に基づいて上記第1および第2の画像データの部分的照合を行う手段とからなる画像照合装置。 - 第1の画像データを複数の基準ブロックへ分割するステップと、
上記第1の画像データと時間的に異なる第2の画像データを複数の検査ブロックへ分割するステップと、
上記基準ブロック内の所定の位置の画素データを第1の代表画素データとして抽出するステップと、
上記検査ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出するステップと、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる第1の評価値を生成するステップと、
上記検査ブロック内の所定の位置の画素データを第2の代表画素データとして抽出するステップと、
上記第2の代表画素データと対応する画素データを含む上記基準ブロックについて、該基準ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出するステップと、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる第2の評価値を生成するステップと、
上記第1および第2の評価値を加算した総合評価値を生成し、所定の探索範囲内で上記検査ブロックを移動することで生成された上記総合評価値の大小に基づいて、上記基準ブロックと最も合致する上記検査ブロックの位置と対応する動きベクトルを検出するステップとからなることを特徴とする動きベクトル検出方法。 - 第1の画像データを複数の基準ブロックへ分割する手段と、
上記第1の画像データと時間的に異なる第2の画像データを複数の検査ブロックへ分割する手段と、
上記基準ブロック内の所定の位置の画素データを第1の代表画素データとして抽出する手段と、
上記検査ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出する手段と、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる第1の評価値を生成する手段と、
上記検査ブロック内の所定の位置の画素データを第2の代表画素データとして抽出する手段と、
上記第2の代表画素データと対応する画素データを含む上記基準ブロックについて、該基準ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出する手段と、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる第2の評価値を生成する手段と、
上記第1および第2の評価値を加算した総合評価値を生成し、所定の探索範囲内で上記検査ブロックを移動することで生成された上記総合評価値の大小に基づいて、上記基準ブロックと最も合致する上記検査ブロックの位置と対応する動きベクトルを検出する手段とからなることを特徴とする動きベクトル検出装置。 - 第1の画像データを複数の基準ブロックへ分割するステップと、
上記基準ブロックを複数の基準小ブロックへ分割するステップと、
上記第1の画像データと時間的に異なる第2の画像データを複数の検査ブロックへ分割するステップと、
上記検査ブロックを複数の検査小ブロックへ分割するステップと、
上記基準小ブロック内の所定の位置の画素データを第1の代表画素データとしてそれぞれ抽出するステップと、
上記検査小ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出するステップと、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記検査小ブロックについてそれぞれ求め、求められた上記評価値を積算して第1の評価値を生成するステップと、
上記検査小ブロック内の所定の位置の画素データを第2の代表画素データとして抽出するステップと、
上記第2の代表画素データと対応する画素データを含む上記基準小ブロックについて、該基準小ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出するステップと、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記基準小ブロックについてそれぞれ求め、求められた上記評価値を積算して第2の評価値を生成するステップと、
上記第1および第2の評価値を加算した総合評価値を生成し、所定の探索範囲内で上記検査ブロックを移動することで生成された上記総合評価値の大小に基づいて、上記基準ブロックと最も合致する上記検査ブロックの位置と対応する動きベクトルを検出するステップとからなることを特徴とする動きベクトル検出方法。 - 第1の画像データを複数の基準ブロックへ分割する手段と、
上記基準ブロックを複数の基準小ブロックへ分割する手段と、
上記第1の画像データと時間的に異なる第2の画像データを複数の検査ブロックへ分割する手段と、
上記検査ブロックを複数の検査小ブロックへ分割する手段と、
上記基準小ブロック内の所定の位置の画素データを第1の代表画素データとしてそれぞれ抽出する手段と、
上記検査小ブロック内の全画素の値の最小値から最大値までの範囲を示す第1の特徴量データを抽出する手段と、
上記第1の代表画素データの値が上記第1の特徴量データの示す上記範囲内に存在する場合に0となり、上記第1の代表画素データの値が上記範囲内に存在しない場合に上記第1の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記検査小ブロックについてそれぞれ求め、求められた上記評価値を積算して第1の評価値を生成する手段と、
上記検査小ブロック内の所定の位置の画素データを第2の代表画素データとして抽出する手段と、
上記第2の代表画素データと対応する画素データを含む上記基準小ブロックについて、該基準小ブロック内の全画素の値の最小値から最大値までの範囲を示す第2の特徴量データを抽出する手段と、
上記第2の代表画素データの値が上記第2の特徴量データの示す上記範囲内に存在する場合に0となり、上記第2の代表画素データの値が上記範囲内に存在しない場合に上記第2の代表画素データの値と上記最大値または上記最小値との差分となる評価値を複数の上記基準小ブロックについてそれぞれ求め、求められた上記評価値を積算して第2の評価値を生成する手段と、
上記第1および第2の評価値を加算した総合評価値を生成し、所定の探索範囲内で上記検査ブロックを移動することで生成された上記総合評価値の大小に基づいて、上記基準ブロックと最も合致する上記検査ブロックの位置と対応する動きベクトルを検出する手段とからなることを特徴とする動きベクトル検出装置。 - 第1の画像データをそれぞれが検査ブロックと同一の大きさの複数の基準ブロックへ分割するステップと、
上記第1の画像データと時間的に異なる第2の画像データを複数の上記基準ブロックと同一の大きさの検査ブロックへ分割すると共に、上記検査ブロックを所定画素数拡大した修正検査ブロックを構成するステップと、
上記基準ブロック内の全画素の値の最小値MIN3から最大値MAX3までの範囲を示す第1の特徴量データを抽出するステップと、
上記修正検査ブロックの全画素の値の最小値MIN2から最大値MAX2までの範囲を示す第2の特徴量データを抽出するステップと、
上記第1の特徴量データの上記最小値MIN3および上記最大値MAX3のそれぞれが上記第2の特徴量データの上記最小値MIN2および最大値MAX2の範囲内に存在する場合に0となり、上記最小値MIN3および上記最大値MAX3のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN3および上記最大値MAX3のそれぞれと、上記第2の特徴量データの上記最小値MIN2および上記最大値MAX2のそれぞれとの差分の加算値となる第1の評価値を生成するステップと、
上記基準ブロックを所定画素数拡大した修正基準ブロックを構成するステップと、
上記検査ブロックの全画素の値の最小値MIN4から最大値MAX4までの範囲を示す第3の特徴量データを抽出するステップと、
上記修正基準ブロックの全画素の値の最小値MIN1から最大値MAX1までの範囲を示す第4の特徴量データを抽出するステップと、
上記第3の特徴量データの上記最小値MIN4および上記最大値MAX4のそれぞれが上記第4の特徴量データの上記最小値MIN1および最大値MAX1の範囲内に存在する場合に0となり、上記最小値MIN4および上記最大値MAX4のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN4および上記最大値MAX4のそれぞれと、上記第3の特徴量データの上記最小値MIN1および上記最大値MAX1のそれぞれとの差分の加算値となる第2の評価値を生成するステップと、
上記第1および第2の評価値を加算した総合評価値を生成し、所定の探索範囲内で上記検査ブロックを移動することで生成された上記総合評価値の大小に基づいて、上記基準ブロックと最も合致する上記検査ブロックの位置と対応する動きベクトルを検出するステップとからなることを特徴とする動きベクトル検出方法。 - 第1の画像データをそれぞれが検査ブロックと同一の大きさの複数の基準ブロックへ分割する手段と、
上記第1の画像データと時間的に異なる第2の画像データを複数の上記基準ブロックと同一の大きさの検査ブロックへ分割すると共に、上記検査ブロックを所定画素数拡大した修正検査ブロックを構成する手段と、
上記基準ブロック内の全画素の値の最小値MIN3から最大値MAX3までの範囲を示す第1の特徴量データを抽出する手段と、
上記修正検査ブロックの全画素の値の最小値MIN2から最大値MAX2までの範囲を示す第2の特徴量データを抽出する手段と、
上記第1の特徴量データの上記最小値MIN3および上記最大値MAX3のそれぞれが上記第2の特徴量データの上記最小値MIN2および最大値MAX2の範囲内に存在する場合に0となり、上記最小値MIN3および上記最大値MAX3のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN3および上記最大値MAX3のそれぞれと、上記第2の特徴量データの上記最小値MIN2および上記最大値MAX2のそれぞれとの差分の加算値となる第1の評価値を生成する手段と、
上記基準ブロックを所定画素数拡大した修正基準ブロックを構成する手段と、
上記検査ブロックの全画素の値の最小値MIN4から最大値MAX4までの範囲を示す第3の特徴量データを抽出する手段と、
上記修正基準ブロックの全画素の値の最小値MIN1から最大値MAX1までの範囲を示す第4の特徴量データを抽出する手段と、
上記第3の特徴量データの上記最小値MIN4および上記最大値MAX4のそれぞれが上記第4の特徴量データの上記最小値MIN1および最大値MAX1の範囲内に存在する場合に0となり、上記最小値MIN4および上記最大値MAX4のそれぞれが上記範囲内に存在しない場合に、上記最小値MIN4および上記最大値MAX4のそれぞれと、上記第3の特徴量データの上記最小値MIN1および上記最大値MAX1のそれぞれとの差分の加算値となる第2の評価値を生成する手段と、
上記第1および第2の評価値を加算した総合評価値を生成し、所定の探索範囲内で上記検査ブロックを移動することで生成された上記総合評価値の大小に基づいて、上記基準ブロックと最も合致する上記検査ブロックの位置と対応する動きベクトルを検出するステップとからなることを特徴とする動きベクトル検出装置。 - 請求項2、4、8、または10に記載の装置において、
上記第1および第2の代表画素データがブロック内の中央位置の画素のデータであることを特徴とする装置。 - 請求項2、4、8、または10に記載の装置において、
上記第1および第2の特徴量データが示す範囲の上記最小値および上記最大値がブロック内の複数画素の最大値、最小値およびダイナミックレンジの内の二つのデータで表されたものであることを特徴とする装置。 - 請求項2、4、8、または10に記載の装置において、
上記第1および第2の特徴量データが示す範囲の上記最小値および上記最大値がブロック内の画素のダイナミックレンジおよび最大値若しくは最小値のうちの一方で表されたものである場合に、演算によって上記最大値および最小値を求めることを特徴とする装置。 - 請求項2、4、8、または10に記載の装置において、
上記第1および第2の特徴量データが示す範囲の上記最小値および上記最大値がブロック内の複数画素の平均値と標準偏差の和データおよび上記平均値と標準偏差の差データで表されたものであることを特徴とする装置。 - 請求項6または12に記載の装置において、
上記第1、第2、第3および第4の特徴量データが示す範囲の上記最小値および上記最大値がブロック内の複数画素の最大値、最小値およびダイナミックレンジの内の二つのデータで表されたものであることを特徴とする装置。 - 請求項6または12に記載の装置において、
上記第1、第2、第3および第4の特徴量データが示す範囲の上記最小値および上記最大値がブロック内の画素のダイナミックレンジおよび最大値若しくは最小値のうちの一方で表されたものである場合に、演算によって上記最大値および最小値を求めることを特徴とする装置。 - 請求項6または12に記載の装置において、
上記第1、第2、第3および第4の特徴量データが示す範囲の上記最小値および上記最大値がブロック内の複数画素の平均値と標準偏差の和データおよび上記平均値と標準偏差の差データで表されたものであることを特徴とする装置。
Priority Applications (11)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03317494A JP3908792B2 (ja) | 1994-02-04 | 1994-02-04 | 画像照合方法および装置 |
KR1019950001876A KR100366141B1 (ko) | 1994-01-31 | 1995-01-28 | 화상대조방법및장치 |
EP98203070A EP0895423B1 (en) | 1994-01-31 | 1995-01-30 | Image collating method and apparatus |
US08/380,392 US5612751A (en) | 1994-01-31 | 1995-01-30 | Image collating method and apparatus |
DE69531706T DE69531706T2 (de) | 1994-01-31 | 1995-01-30 | Verfahren und Vorrichtung zum Bildvergleich |
DE69531510T DE69531510T2 (de) | 1994-01-31 | 1995-01-30 | Verfahren und Vorrichtung zur Bewegungsschätzung mittels Blockübereinstimmung |
EP95300570A EP0665692B1 (en) | 1994-01-31 | 1995-01-30 | Image collating method and apparatus |
DE69531364T DE69531364T2 (de) | 1994-01-31 | 1995-01-30 | Verfahren und Vorrichtung zum Bildvergleich |
EP98203071A EP0893924B1 (en) | 1994-01-31 | 1995-01-30 | Method and apparatus for motion estimation using block matching |
DE69515535T DE69515535T2 (de) | 1994-01-31 | 1995-01-30 | Verfahren und Vorrichtung zum Bildvergleich |
EP98203069A EP0895426B1 (en) | 1994-01-31 | 1995-01-30 | Image collating method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03317494A JP3908792B2 (ja) | 1994-02-04 | 1994-02-04 | 画像照合方法および装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH07222174A JPH07222174A (ja) | 1995-08-18 |
JP3908792B2 true JP3908792B2 (ja) | 2007-04-25 |
Family
ID=12379168
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP03317494A Expired - Lifetime JP3908792B2 (ja) | 1994-01-31 | 1994-02-04 | 画像照合方法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3908792B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003058891A (ja) * | 1996-11-06 | 2003-02-28 | Dohme:Kk | 移動物体検出装置およびその方法 |
-
1994
- 1994-02-04 JP JP03317494A patent/JP3908792B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH07222174A (ja) | 1995-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3277418B2 (ja) | 動きベクトル検出装置および方法 | |
US4777530A (en) | Apparatus for detecting a motion of a picture of a television signal | |
JP4004653B2 (ja) | 動きベクトル検出方法および装置、記録媒体 | |
JP3994445B2 (ja) | 動きベクトル検出装置及び動きベクトル検出方法 | |
US5610658A (en) | Motion vector detection using hierarchical calculation | |
US8064522B2 (en) | Motion-vector detecting device, motion-vector detecting method, and computer program | |
US6469745B1 (en) | Image signal processor for detecting duplicate fields | |
EP0679034B1 (en) | Apparatus and method for detecting motion vectors | |
EP0893924B1 (en) | Method and apparatus for motion estimation using block matching | |
US4817174A (en) | Image processing apparatus | |
US6665340B1 (en) | Moving picture encoding/decoding system, moving picture encoding/decoding apparatus, moving picture encoding/decoding method, and recording medium | |
JP3908792B2 (ja) | 画像照合方法および装置 | |
JP3908793B2 (ja) | 画像照合方法および装置 | |
JP3598526B2 (ja) | 動きベクトル検出方法及び画像データの符号化方法 | |
JP3277419B2 (ja) | 動きベクトル検出装置および方法 | |
JP3334317B2 (ja) | 画像照合方法および装置 | |
JP3334316B2 (ja) | 画像照合方法および装置 | |
JP3277417B2 (ja) | 動きベクトル検出装置および方法 | |
WO1999038331A1 (en) | Device and method for detecting moving vector | |
JP3490142B2 (ja) | 動画像符号化方法及び装置 | |
JP3549175B2 (ja) | 動きベクトル検出方法および装置 | |
JPH10257485A (ja) | 繰り返し画像検出回路及び画像符号化装置 | |
JPH0795585A (ja) | 動きベクトル検出装置 | |
JPH1075455A (ja) | 動きベクトル検出回路 | |
JPH08195939A (ja) | 動画像信号の動きベクトル検出方法および動きベクトル検出回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040824 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041021 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041207 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20041210 |
|
A912 | Removal of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20050715 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061212 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070119 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100126 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110126 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110126 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120126 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120126 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130126 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140126 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |