JP4208011B2 - テンプレートマッチング装置 - Google Patents

テンプレートマッチング装置 Download PDF

Info

Publication number
JP4208011B2
JP4208011B2 JP2006512405A JP2006512405A JP4208011B2 JP 4208011 B2 JP4208011 B2 JP 4208011B2 JP 2006512405 A JP2006512405 A JP 2006512405A JP 2006512405 A JP2006512405 A JP 2006512405A JP 4208011 B2 JP4208011 B2 JP 4208011B2
Authority
JP
Japan
Prior art keywords
similarity
matching
calculation
template
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006512405A
Other languages
English (en)
Other versions
JPWO2005101313A1 (ja
Inventor
啓之 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2005101313A1 publication Critical patent/JPWO2005101313A1/ja
Application granted granted Critical
Publication of JP4208011B2 publication Critical patent/JP4208011B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V10/7515Shifting the patterns to accommodate for positional errors

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像情報または音声情報などを含む入力画像信号に対してテンプレートマッチングを行うテンプレートマッチング装置に関する。
テンプレートマッチングは、入力画像信号の中から既知のテンプレート信号に合致する部分画像信号(ターゲット)を探索して、ターゲットの位置(合致位置)を特定する処理である。この処理では、入力画像信号の中から抽出した演算用の部分画像信号と既知のテンプレート信号とのマッチング演算が、演算用の部分画像信号の抽出位置を少しずつ移動させながら、繰り返し行われる。そして、入力画像信号の中の各位置でのマッチング演算の結果を大小比較することで、合致位置が特定される。なお、マッチング演算には、周知の相互相関法や残差逐次検定法などが用いられる。
また、演算用の部分画像信号の抽出位置を少しずつ移動させる際、その移動は、入力画像信号の全体または所定範囲内において、予め設定した間隔で一様に行われる(例えば特開2000−76444号公報、特開平7−220076号公報を参照)。すなわち、テンプレートマッチングを開始する前に設定した一定の間隔で、演算用の部分画像信号の抽出位置の移動が行われる。上記した特開2000−76444号公報、特開平7−220076号公報には、まず、予め設定した大きな移動間隔で一様に粗いテンプレートマッチングを行い、合致位置を含む所定範囲に絞り込んだ後、その範囲内において予め設定した小さな移動間隔で一様に細かいテンプレートマッチングを行い、合致位置を特定することが提案されている。
しかしながら、予め設定した移動間隔で一様にテンプレートマッチングを行う上記の方法には、その移動間隔を適切な一定値に設定することが難しいという問題がある。移動間隔の適切な一定値とは、入力画像信号の中の合致位置を短時間で正確に効率よく特定できるような値であり、入力画像信号やテンプレート信号に応じて異なる。
ちなみに、移動間隔の設定値が適切な一定値より小さいと、合致位置の特定(または合致位置を含む所定範囲の絞り込み)は正確に行えるが、マッチング演算の繰り返し回数が多くなるため余計な時間が掛かってしまう。また逆に、移動間隔の設定値が適切な一定値より大きいと、マッチング演算の繰り返し回数が少なくなるため時間を短縮できるが、合致位置の特定(または合致位置を含む所定範囲の絞り込み)を正確に行えるとは限らず、疑似マッチングやマッチング不可能になることがある。
本発明の目的は、確実に時間を短縮して効率よく合致位置を特定できるテンプレートマッチング装置を提供することにある。
本発明のテンプレートマッチング装置は、入力画像信号の中から、順次抽出位置を変えて演算用の部分画像信号を抽出する抽出手段と、前記抽出手段により前記部分画像信号が抽出される毎に、該部分画像信号と既知のテンプレート信号との類似性に関する指標を求める演算手段と、前記入力画像信号の複数の位置での前記類似性に関する指標に基づいて、前記入力画像信号の中の前記テンプレート信号との合致位置を特定する特定手段とを備え、前記抽出手段は、前記演算手段が求めた現在の抽出位置における前記類似性に関する指標を考慮して、前記現在の抽出位置から次の抽出位置への移動量を決定することを特徴とする。
本発明によれば、確実に時間を短縮して効率よく合致位置を特定することができる。
以下、図面を用いて本発明の実施形態を詳細に説明する。第1実施形態から第4実施形態は、テンプレートマッチング処理を類似度判定に基づきステップ制御するものである。第5実施形態は、テンプレートマッチング処理を類似度判定に基づきマッチング演算処理をカット制御するものである。第6実施形態は、第1〜第4実施形態の処理と第5実施形態の処理とを組合せた制御をするものである。
(第1実施形態)
ここでは、第1実施形態のテンプレートマッチング装置および方法について、図1に示す観察装置10を例に説明する。観察装置10には、ステージ11と光学系12とカメラ13と画像処理部14とが設けられる。ステージ11は、試料10Aを支持する。光学系12は、試料10Aの局所領域の光像を形成する。カメラ13は、不図示の撮像素子により試料10Aの光像を撮像し、撮像信号を画像処理部14に出力する。
画像処理部14は、カメラ13から撮像信号を取り込むと、これを所定ビット(例えば8ビット)のディジタル画像に変換し、入力画像として不図示のメモリに記憶させる。そして、入力画像に対して後述のテンプレートマッチングを行う。試料10Aは、例えば、半導体ウエハや液晶基板、プリント基板、生物標本(例えば細胞)などである。観察装置10を用いて、試料10Aの観察や検査や位置合わせなどが行われる。
次に、画像処理部14におけるテンプレートマッチングについて説明する。テンプレートマッチングは、例えば図2に示す入力画像21の中から既知のテンプレート画像22に合致する部分画像であるターゲット23を探索して、ターゲット23の位置(以下「合致位置(X,Y)」という)を特定する処理である。
この処理では、入力画像21の中から抽出した演算用の部分画像24とテンプレート画像22とのマッチング演算が、演算用の部分画像24の抽出位置(X,Y)を少しずつ移動させながら、繰り返し行われる。また、抽出位置(X,Y)の移動は、入力画像21の図中左上端から右下端に向けて、複数の走査線からなるラスタ走査の方向に沿って行われる。ここでは、各々の走査線がX方向に平行であるとし、走査線に平行なX方向を「横方向」、走査線に垂直なY方向を「縦方向」という。
なお、入力画像21は、「画像情報を含む入力画像信号」に対応する。テンプレート画像22は、「画像情報を含むテンプレート信号」に対応する。演算用の部分画像24は、「画像情報を含む演算用の部分画像信号」に対応する。
第1実施形態のテンプレートマッチングは、図3に示すフローチャートの手順(ステップS1〜S6)にしたがって画像処理部14が行う。また、図3のステップS5の処理(つまり演算用の部分画像24の抽出位置(X,Y)の移動処理)は、図4に示すフローチャートの手順(ステップS11〜S15)にしたがって行われる。さらに、第1実施形態のテンプレートマッチングでは、このテンプレートマッチングを開始する前までに、演算用の部分画像24の抽出位置(X,Y)の移動間隔を適切な一定値に設定しておく必要がない。このような前処理を行わずに、入力画像21を取り込むと直ぐに図3の処理を開始することができる。
図3のステップS1において、画像処理部14は、入力画像21の中から演算用の部分画像24を抽出する。1回目の抽出は、入力画像21の例えば左上端(図2)の初期位置から行われる。なお、演算用の部分画像24は、テンプレート画像22と縦横各々同じ大きさ(画素数)の矩形状である。図2にはテンプレート画像22の縦横の大きさ(画素数)をTx,Tyで示した。部分画像24とテンプレート画像22は、共に、入力画像21より小さい(画素数が少ない)。
次に(ステップS2)、画像処理部14は、ステップS1で抽出した演算用の部分画像24とテンプレート画像22とのマッチング演算を行う。ここでは、マッチング演算の一例として、周知の相互相関法を用いる。この場合のマッチング演算は、図5に示す部分画像24の位置(m,n)における濃度値Bmnと、テンプレート画像22の同じ位置(m,n)における濃度値Amnとを用い、次の式(1)により行われる。
マッチング演算の結果は、正規化された相互相関係数Cであり(−1≦C≦1)、演算用の部分画像24とテンプレート画像22との類似度に相当する。類似度は、部分画像24とテンプレート画像22との「類似性に関する指標」の1つである。傾向としては、類似度に相当する相互相関係数Cが大きい(つまり「1」に近い)ほど、部分画像24とテンプレート画像22との類似性が高く、部分画像24の抽出位置(X,Y)が合致位置(X,Y)に近いことをが多い。
上記のマッチング演算が終了すると、画像処理部14は、次のステップS3において、マッチング演算の結果である類似度すなわち、相互相関係数Cを、部分画像24の抽出位置(X,Y)と対応づけて画像処理部14内のメモリに保存する。これらのステップS1〜S3の処理を経て、入力画像21の中の1つの抽出位置(X,Y)に対する処理が終わる。そして、演算用の部分画像24の抽出位置(X,Y)を次の位置へ移動させる場合すなわち、ステップS4がYesの場合には、ステップS5の処理に進む。
ステップS5の処理は、演算用の部分画像24の抽出位置(X,Y)の移動処理であり、図4に示すフローチャートの手順(ステップS11〜S15)にしたがって行われる。まず(ステップS11)、画像処理部14は、次の位置への移動方向が、横方向(走査線に平行な方向)か否かを判断する。この判断には、入力画像21の中での現在の位置のX座標(つまり走査線上での位置座標)が用いられる。そして、現在の位置のX座標が、入力画像21の右端(つまり走査線の終点)に相当するとき以外は「横方向」と判断する(S11がYes)。
演算用の部分画像24の抽出位置(X,Y)を横方向に移動させる場合、画像処理部14は、ステップS12の処理に進み、現在の位置での類似度(相互相関係数C)を考慮して、現在の位置から次の位置への移動量Mxを計算する。具体的には、現在の位置での類似度(相互相関係数C)を次の式(2)の“類似度”に代入することにより、移動量Mxを計算する。このような移動量Mxの計算は非常に簡単なものである。
Mx=floor[(Tx/4)×(1−k×類似度)] …(2)
式(2)には、テンプレート画像22の横方向の画素数Tx(図2参照)が含まれる。この画素数Txは、演算用の部分画像24の横方向の画素数と同じである。係数kは、0<k≦1を満たす範囲で定めた経験値(例えば1/2)である。floorは、抽出位置(X,Y)の移動を入力画像21の画素単位で行うために、小数点以下を切り捨てて整数化するという意味である。
式(2)によって求められる移動量Mxは、現在の位置での類似度(相互相関係数C)が小さく(つまり「0」に近く)、部分画像24とテンプレート画像22との類似性が低く、部分画像24の抽出位置(X,Y)が合致位置(X,Y)から離れているほど、大きくなることが多い。移動量Mxの最大値は、類似度が「0」の場合であり、floor(Tx/4)となる。移動量Mxの最小値は、類似度が「1」の場合であり、floor[(Tx/4)×(1−k)]となる。移動量Mxが“0画素”と求められた場合には、実際の移動量を“1画素”とする。
画像処理部14は、上記の移動量Mxの計算が終了すると、次のステップS13において、演算用の部分画像24の抽出位置(X,Y)を現在の位置から横方向に移動量Mxだけ離れた次の位置へ移動させる。その後、図3のステップS1の処理に戻り、新たな抽出位置(X,Y)において、演算用の部分画像24の抽出(S1)→テンプレート画像22とのマッチング演算(S2)→結果保存(S3)を繰り返す。
上記したステップS1→S2→S3→S4→S5(S11→S12→S13)→S1…の繰り返しによって、演算用の部分画像24の抽出位置(X,Y)が走査線の終点(つまり入力画像21の右端)に到達し、この抽出位置(X,Y)に対するステップS1〜S3の処理が終了した後、さらに次の位置へ移動させる場合(S4がYes)、画像処理部14は、図4のステップS11にて、次の位置への移動方向を「縦方向(走査線に垂直な方向)」と判断する(ステップS11がNo)。
演算用の部分画像24の抽出位置(X,Y)を縦方向に移動させる場合、画像処理部14は、ステップS14の処理に進み、現在の走査線上の各位置での類似度(相互相関係数C)を考慮して、現在の走査線から次の走査線への移動量Myを計算する。具体的には、現在の走査線上の各位置での類似度(相互相関係数C)をメモリから読み出し、それらの類似度の平均値を次の式(3)の“類似度の行平均”に代入することにより、移動量Myを計算する。現在の走査線上の各位置とは、例えば、現在の走査線上の全ての位置(現在の位置を含む)である。このような移動量Myの計算は非常に簡単なものである。
My=floor[(Ty/4)×(1−k×類似度の行平均)] …(3)
式(3)には、テンプレート画像22の縦方向の画素数Ty(図2参照)が含まれる。この画素数Tyは、演算用の部分画像24の縦方向の画素数と同じである。係数kは、0<k≦1を満たす範囲で定めた経験値(例えば1/2)である。
式(3)によって求められる移動量Myは、現在の走査線における平均的な類似度(相互相関係数C)が小さく(つまり「0」に近く)、各位置で抽出された部分画像24とテンプレート画像22との類似性が平均的に低く、現在の走査線が合致位置(X,Y)から離れているほど、大きくなる。移動量Myの最大値は、類似度の平均値が「0」の場合であり、floor(Ty/4)となる。移動量Myの最小値は、類似度の平均値が「1」の場合であり、floor[(Ty/4)×(1−k)]となる。移動量Myが“0画素”と求められた場合には、実際の移動量を“1画素”とする。
画像処理部14は、上記の移動量Myの計算が終了すると、次のステップS15において、演算用の部分画像24の抽出位置(X,Y)を現在の走査線から縦方向に移動量Myだけ離れた次の走査線へ移動させると共に、横方向には入力画像21の左端(すなわち、次の走査線の始点)に移動させる。その後、図3のステップS1の処理に戻り、新たな走査線の抽出位置(X,Y)において、演算用の部分画像24の抽出(S1)→テンプレート画像22とのマッチング演算(S2)→結果保存(S3)を繰り返す。
このようにして、ステップS1→S2→S3→S4→S5(S11→S12→S13またはS11→S14→S15)→S1…の処理を繰り返すことにより、演算用の部分画像24の抽出位置(X,Y)を複数の走査線からなるラスタ走査の方向に沿って移動させながら、複数の走査線上の各位置で演算用の部分画像24を順に抽出することができる。また、演算用の部分画像24を抽出する毎に、テンプレート画像22とのマッチング演算を行い、その結果を保存する。
そして、演算用の部分画像24の抽出位置(X,Y)が最後の走査線の終点(つまり入力画像21の右下端)に到達し、そこでのステップS1〜S3の処理が終了すると、画像処理部14は、次の位置への移動を行わずに(S4がNo)、ステップS6の処理に進む。ステップS6では、入力画像21の中の異なる複数の位置での類似度(相互相関係数C)を大小比較することにより、その値が最も大きく、テンプレート画像22との類似性が最も高い部分画像24の抽出位置(X,Y)を合致位置(X,Y)と特定する。以上で入力画像21に対するテンプレートマッチングの処理は終了となる。
上記のように、第1実施形態のテンプレートマッチングでは、演算用の部分画像24の抽出位置(X,Y)を少しずつ移動させる際、現在までに求めた類似度(現在の位置での類似度を含む)のうち少なくとも1つを考慮して、式(2)または式(3)により、現在の位置から次の位置への移動量Mx,Myを計算する(図4のステップS12,S14参照)。
したがって、例えば抽出位置(X,Y)を横方向に移動させる場合、現在の位置での類似度が小さければ式(2)の結果(移動量Mx)が大きくなるため、合致位置(X,Y)から離れたところでは、抽出位置(X,Y)を大きな間隔で効率よく適切に移動させることができる。また逆に、現在の位置での類似度が大きければ式(2)の結果(移動量Mx)が小さくなるため、合致位置(X,Y)に近づいたところでは、抽出位置(X,Y)を小さな間隔で適切に移動させることができる。特に、合致位置(X,Y)の近傍に到達した場合は、抽出位置(X,Y)を“1画素”に相当する間隔で適切に移動させることができる。
このような合致位置(X,Y)との位置関係に応じた移動間隔(移動量Mx)の大小変化を図示すると、例えば図6A、図6Bのようになる。図6Aには、抽出位置(X,Y)と合致位置(X,Y)との位置関係のステップ変化を時間順に並べて示した。図6Aにおいて、縦方向に隣り合う抽出位置(X,Y)どうしのズレ量が、移動間隔(移動量Mx)に相当する。また、図6Bには、抽出位置(X,Y)の軌跡を“・”で示した。これらの図においても、抽出位置(X,Y)の移動は、合致位置(X,Y)から離れたところで大きく、合致位置(X,Y)に近づくほど小さくなることが分かる。
一方、抽出位置(X,Y)を縦方向に移動させる場合も同様であり、現在の走査線での平均的な類似度が小さければ式(3)の結果(移動量My)が大きくなるため、合致位置(X,Y)から離れたところでは、抽出位置(X,Y)を大きな間隔で効率よく適切に移動させることができる。また逆に、現在の走査線での平均的な類似度が大きければ式(3)の結果(移動量My)が小さくなるため、合致位置(X,Y)に近づいたところでは、抽出位置(X,Y)を小さな間隔で適切に移動させることができる。
第1実施形態のテンプレートマッチングによれば、現在までに求めた類似度(現在の位置での類似度を含む)のうち少なくとも1つをフィードバックして、合致位置(X,Y)から離れたところで大きく部分画像24の抽出位置(X,Y)を移動させるため、マッチング演算の繰り返し回数を減らすことができ、テンプレートマッチングの処理時間を短縮できる。さらに、合致位置(X,Y)に近づくほど小さく部分画像24の抽出位置(X,Y)を移動させるため(ここで、移動量の最小単位は“1画素”である)、正確に合致位置(X,Y)を特定することができる。
したがって、第1実施形態のテンプレートマッチングによれば、従来のように部分画像24の抽出位置(X,Y)を少しずつ移動させる際の間隔を予め適切な一定値に設定しなくても、テンプレートマッチングの最中に合致位置(X,Y)との位置関係に応じて移動間隔(移動量Mx,My)を設定するため、入力画像21の中の合致位置(X,Y)を短時間で正確に効率よく特定できる。また、従来のような移動間隔を予め適切な一定値に設定するという難しい前処理が不要なため、入力画像21を取り込むと直ぐにテンプレートマッチング(図3の処理)を開始することができ、処理が簡単化する。
さらに、第1実施形態のテンプレートマッチングによれば、演算用の部分画像24の抽出位置(X,Y)を予め定めた方向(例えばラスタ走査の方向)に沿って移動させると共に、少なくとも現在の位置での類似度を考慮して(例えば式(2)または式(3)を用いて)次の位置への移動量Mx,Myを計算するため、テンプレートマッチングの最中に合致位置(X,Y)との位置関係に応じて簡単に適切な移動間隔を設定できる。各位置で逐次行われる移動量Mx,Myの計算は非常に簡単なものであり、この計算を追加したことによってテンプレートマッチングの処理が複雑化することはない。
また、第1実施形態のテンプレートマッチングによれば、例えば式(2),(3)のように、次の位置への移動量Mx,Myを計算する際にテンプレート画像22の大きさ(画素数Tx,Ty:ここで、テンプレート画像の大きさは画素数で表わすものとする)を考慮するため、演算用の部分画像24の抽出位置(X,Y)をテンプレート画像22の大きさを基準にして効率よく移動させることができる。
さらに、第1実施形態のテンプレートマッチングによれば、移動量Mx,Myの最大値をテンプレート画像22の大きさ(画素数Tx,Ty)の1/4に設定するため、演算用の部分画像24の抽出位置(X,Y)を大きく移動させる際に、部分画像24がターゲット23を通り過ぎてしまうといった事態を回避できる。
さらに、第1実施形態のテンプレートマッチングによれば、演算用の部分画像24の抽出位置(X,Y)をラスタ走査の方向に沿って移動させると共に、現在の走査線上の各位置(例えば全ての位置)での類似度を考慮して次の走査線への移動量Myを計算するため、テンプレートマッチングの最中に合致位置(X,Y)との位置関係に応じて簡単に適切な走査線間隔を設定できる。
また、第1実施形態のテンプレートマッチングによれば、現在の走査線上の各位置(例えば全ての位置)での類似度の平均値に基づいて次の走査線への移動量Myを計算するため(例えば式(3)を用いて)、ノイズの影響を受けることなく安定して適切な走査線間隔を設定できる。
(第2実施形態)
上記した第1実施形態では、演算用の部分画像24の抽出位置(X,Y)を横方向に移動させる際、現在までに求めた類似度のうち「現在の位置での類似度」のみを考慮して次の位置への移動量Mxを計算したが、本発明はこれに限定されない。第2実施形態では、現在の位置での類似度に加えて「現在の位置より1つ前の位置での類似度」をも考慮する場合について一例を説明する。
第2実施形態のテンプレートマッチングは、既に説明した図4のフローチャートのステップS13に代えて、図7に示すフローチャートのステップS21〜S25の処理を行うものである。画像処理部14は、図4のステップS12において、現在の位置での類似度を考慮して次の位置への移動量Mxを計算し終えると、演算用の部分画像24の抽出位置(X,Y)を実際に移動させる前に、図7のステップS21〜S23の処理を行う。
ステップS21において、画像処理部14は、入力画像21の中での現在の位置が走査線の始点(つまり入力画像21の左端)に相当するか否かを判断する。そして走査線の始点に位置する場合(すなわち、S21がYesの場合)、ステップS24に進んで、演算用の部分画像24の抽出位置(X,Y)を横方向に移動量Mxだけ移動させる(図8A参照)。その後、図3のステップS1の処理に戻る。
一方、走査線の始点に位置しない場合(すなわち、S21がNoの場合)には、ステップS22に進み、現在の位置での類似度(相互相関係数C)に基づいて、次の条件式(4)を満足するか否かの判定を行う。この条件式(4)のうち係数kは、上記した式(2)の係数kと同じである。閾値Tは、入力画像21の全体から求めた統計値(つまり平均濃度および濃度範囲)を用いて、次の式(5)により計算したものである。
(1−k×現在の類似度)<T…(4)
=平均濃度/濃度範囲 …(5)
ステップS22の条件式(4)を満足する場合とは、現在の類似度に相当する相互相関係数Cが大きく(つまり「1」に近く)、現在の位置で抽出された部分画像24とテンプレート画像22との類似性が高く、現在の抽出位置(X,Y)が合致位置(X,Y)の近傍に到達した場合である。そして、ステップS22における判定の結果、現在の位置での類似度が「抽出位置(X,Y)は合致位置(X,Y)の近傍に到達した」ことを示す場合(すなわち、S22がYesの場合)、次のステップS23に進む。
ステップS23では、現在の位置での類似度と「現在の位置より1つ前の位置での類似度」とに基づいて、次の条件式(6)を満足するか否かの判定を行う。この条件式(6)のうち係数kは、0<k≦1を満たす範囲で定めた経験値である。閾値Tは、入力画像21の全体から求めた統計値(つまり標準偏差および濃度範囲)を用いて、次の式(7)により計算したものである。
(現在の類似度−1つ前の類似度)×k>T…(6)
=標準偏差/濃度範囲 …(7)
ステップS23の条件式(6)を満足する場合とは、現在の類似度が1つ前の類似度と比較して大きく上昇した場合である。つまり、1つ前の類似度が現在の類似度と比較して極端に小さかった場合である。このため、条件式(6)を満足する場合とは、1つ前の類似度に相当する相互相関係数Cが小さく(つまり「0」に近く)、1つ前の位置で抽出された部分画像24とテンプレート画像22との類似性が低く、1つ前の抽出位置(X,Y)が合致位置(X,Y)から離れている場合と考えられる。そして、ステップS23における判定の結果、1つ前の位置での類似度が「抽出位置(X,Y)は合致位置(X,Y)から離れている」ことを示す場合(すなわち、S23がYesの場合)は、次のステップS25に進む。
ステップS22の条件式(4)を満足し、且つ、ステップS23の条件式(6)を満足する場合とは、1つ前の小さな類似度を考慮して抽出位置(X,Y)を大きく移動させたところ現在の位置で急激に類似度が大きくなった場合であり、例えば入力画像21の真っ黒の背景(濃度値が最小)に含まれる白い点(濃度値が最大)を探索するようなテンプレートマッチングで起こりうる。条件式(4),(6)を満足する場合、仮に現在の大きな類似度を考慮して抽出位置(X,Y)を小さく移動させても、このまま前進させると合致位置(X,Y)を通り過ぎてしまう可能性がある。
このため、ステップS25の処理では、次の位置を現在の位置と1つ前の位置との間に設定し(図8B参照)、抽出位置(X,Y)を1つ前の位置に戻してから移動量Mxだけ前方に移動させる。つまり、前回(1つ前の位置→現在の位置)の移動量Mxの計算結果と、今回(現在の位置→次の位置)の移動量Mxの計算結果との差分に応じて、抽出位置(X,Y)を後方に移動させる。その後、図3のステップS1の処理に戻る。
なお、上記の条件式(4)を満足しない場合(すなわち、S22がNoの場合)と、条件式(4)は満足するが条件式(6)を満足しない場合(すなわち、S23がNoの場合)には、ステップS25ではなく、ステップS24に進み、抽出位置(X,Y)を前方に移動量Mxだけ移動させる。その後、図3のステップS1の処理に戻る。
したがって、第2実施形態のテンプレートマッチングによれば、演算用の部分画像24がターゲット23を通り過ぎてしまう、つまり抽出位置(X,Y)が合致位置(X,Y)を通り過ぎてしまうといった事態を確実に回避することができる。このため、入力画像21の中の合致位置(X,Y)を確実に特定できる。第2実施形態のテンプレートマッチングでも、上記した第1実施形態のテンプレートマッチングと同様、合致位置(X,Y)の特定を短時間で正確に効率よく行えるのは言うまでもない。
(第3実施形態)
上記した第1実施形態では、図3のステップS2において相互相関法によるマッチング演算(式(1)参照)を行う例で説明したが、本発明はこれに限定されない。第3実施形態では、残差逐次検定法(SSDA法)によりマッチング演算を行う場合について一例を説明する。
残差逐次検定法によるマッチング演算は、図5に示す部分画像24の位置(m,n)における濃度値Bmnと、テンプレート画像22の同じ位置(m,n)における濃度値Amnとを用い、次の式(8)または式(9)により行われる。式(8)のDは濃度差の絶対値和である。式(9)のEは濃度差の二乗和である。マッチング演算の結果D,Eは、部分画像24とテンプレート画像22との類似度に相当し、その値(つまり残差)が小さいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。残差逐次検定法によるマッチング演算は、その計算量が少ないため、さらなる高速化が可能となる。
また、残差逐次検定法によるマッチング演算を図3のステップS2で行う場合、図4のステップS12,S14における移動量Mx,Myの計算には、次の式(10),(11)を用いればよい。
Mx=floor[(Tx/4)×(k×類似度)] …(10)
My=floor[(Ty/4)×(k×類似度の行平均)] …(11)
移動量Mxを計算する際には、現在の位置での類似度(マッチング演算の結果D,E)を正規化し、正規化した値(0〜1)を式(10)の“類似度”に代入する。移動量Myを計算する際には、現在の走査線上の各位置での類似度(マッチング演算の結果D,E)を正規化し、正規化した値(0〜1)の平均値を式(11)の“類似度の行平均”に代入する。このような計算により、上記と同様、テンプレートマッチングの最中に合致位置(X,Y)との位置関係に応じて簡単に適切な移動間隔(移動量Mx,My)を設定できる。
さらに、残差逐次検定法によるマッチング演算を図3のステップS2で行う場合、図7のステップS22,S23における判定(つまり抽出位置(X,Y)を1つ前の位置に戻すか否かの判定)には、次の条件式(12),(13)を用いればよい。
(k×現在の類似度)<T…(12)
(1つ前の類似度−現在の類似度)×k>T…(13)
この場合にも、上記と同様、類似度(マッチング演算の結果D,E)を正規化し、正規化した値(0〜1)を条件式(12),(13)に代入する。ちなみに、条件式(12)を上記条件式(4)の代わりに用い、条件式(13)を上記条件式(6)の代わりに用いる。条件式(12)の閾値Tは上記式(5)と同じである。条件式(13)の閾値Tは上記式(7)と同じである。このような条件式(12),(13)を用いることにより、上記と同様、演算用の部分画像24がターゲット23を通り過ぎてしまう(つまり抽出位置(X,Y)が合致位置(X,Y)を通り過ぎてしまう)といった事態を確実に回避できる。
(第4実施形態)
図3のステップS2におけるマッチング演算としては、上記した相互相関法や残差逐次検定法に限らず、濃度ヒストグラムまたは慣性モーメントなどの特徴量を用いることもできる。第4実施形態では、濃度ヒストグラム及び慣性モーメントに基づいてマッチング演算を行う場合について一例を説明する。
濃度ヒストグラムに基づくマッチング演算では、例えば図9Aに示す通り、テンプレート画像22の濃度ヒストグラムH22が予め作成され、演算用の部分画像24が抽出される毎に、その部分画像24の濃度ヒストグラムH24が作成される。濃度ヒストグラムH24,H22の横軸は濃度値、縦軸は画素数である。
そして、2つの濃度ヒストグラムH24,H22の重なり部分(図9Bの斜線部分)の画素数を集計することで、マッチング演算が行われる。この場合のマッチング演算の結果としての集計値Fは、部分画像24とテンプレート画像22との類似度に相当し、その値が大きいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。
慣性モーメントとは下記式(14)〜(16)に示すように画像内のある領域のすべての画素のその領域の原点からの距離(xi,yi)と濃度値wiを原点周りの慣性モーメントの式に代入した値である。
原点周りの慣性モーメント=Σ(xi+yi)wi … (14)
各軸周りの慣性モーメント=Σxi・wi 、又は …(15)
各軸周りの慣性モーメント=Σyi・wi …(16)
慣性モーメントに基づくマッチング演算では、例えばテンプレート画像22の慣性モーメントI22が予め作成され、演算用の部分画像24が抽出される毎に、その部分画像24の慣性モーメントI24が作成される。2つの慣性モーメントI24,I22の差分の絶対値が演算されその値が小さいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。
図9A、図9Bに説明されているような、濃度ヒストグラムによるマッチング演算や慣性モーメントによるマッチング演算を図3のステップS2で行う場合、図4のステップS12,S14における移動量Mx,Myの計算には、上記式(2),(3)を用いればよい。
移動量Mxを計算する際には、現在の位置での類似度である集計値Fを正規化し、正規化した値(0〜1)を式(2)の“類似度”に代入する。移動量Myを計算する際には、現在の走査線上の各位置での類似度である集計値Fを正規化し、正規化した値(0〜1)の平均値を式(3)の“類似度の行平均”に代入する。このような計算により、上記と同様、テンプレートマッチングの最中に合致位置(X,Y)との位置関係に応じて簡単に適切な移動間隔(移動量Mx,My)を設定できる。
また、図9A、図9Bに説明されているように、濃度ヒストグラムによるマッチング演算を図3のステップS2で行う場合、図7のステップS22,S23における判定(つまり抽出位置(X,Y)を1つ前の位置に戻すか否かの判定)には、上記条件式(4),(6)を用いればよい。
この場合にも、上記と同様、類似度(集計値F)を正規化し、正規化した値(0〜1)を条件式(4),(6)に代入する。この場合にも、上記と同様、演算用の部分画像24がターゲット23を通り過ぎてしまう(つまり抽出位置(X,Y)が合致位置(X,Y)を通り過ぎてしまう)といった事態を確実に回避できる。
さらに、濃度ヒストグラムに基づくマッチング演算は、例えば図9Aに示す2つの濃度ヒストグラムH24,H22の差分の絶対値(図9Cの斜線部分)の画素数を集計することにより行ってもよい。この場合のマッチング演算の結果である集計値Gは、部分画像24とテンプレート画像22との類似度に相当し、その値が小さいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。
図9A、図9Cに説明されているように、濃度ヒストグラムによるマッチング演算を図3のステップS2で行う場合、図4のステップS12,S14における移動量Mx,Myの計算には、上記式(10),(11)を用いればよい。
移動量Mxを計算する際には、現在の位置での類似度(集計値G)を正規化し、正規化した値(0〜1)を式(10)の“類似度”に代入する。移動量Myを計算する際には、現在の走査線上の各位置での類似度(集計値G)を正規化し、正規化した値(0〜1)の平均値を式(11)の“類似度の行平均”に代入する。このような計算により、上記と同様、テンプレートマッチングの最中に合致位置(X,Y)との位置関係に応じて簡単に適切な移動間隔(移動量Mx,My)を設定できる。
また、図9A、図9Cに説明されているように、濃度ヒストグラムによるマッチング演算を図3のステップS2で行う場合、図7のステップS22,S23における判定(つまり抽出位置(X,Y)を1つ前の位置に戻すか否かの判定)には、上記条件式(12),(13)を用いればよい。ただし、条件式(13)の閾値Tは、次の式(17)により計算する。
=(標準偏差)×2/濃度範囲 …(17)
この場合にも、上記と同様、類似度(集計値G)を正規化し、正規化した値(0〜1)を条件式(12),(13)に代入する。したがって、上記と同様、演算用の部分画像24がターゲット23を通り過ぎてしまう(つまり抽出位置(X,Y)が合致位置(X,Y)を通り過ぎてしまう)といった事態を確実に回避できる。
なお、上記した実施形態1〜4では、演算用の部分画像24の抽出位置(X,Y)を少しずつ移動させる際、テンプレート画像22の大きさ(画素数Tx,Ty)を考慮し、その1/4に相当する大きさを移動量Mx,Myの最大値としたが、本発明はこれに限定されない。移動量Mx,Myの最大値を“画素数Tx,Tyの1/4”以外の値(例えば画素数Tx,Tyの1/2)に設定してもよい。移動量Mx,Myの最大値の設定をマッチング演算の種類に応じて変更してもよい。例えば、濃度ヒストグラムに基づくマッチング演算の際には、相互相関法や残差逐次検定法と比較して、移動量Mx,Myの最大値を大きく設定することができる。このため、さらなる高速化が可能となる。
また、上記した実施形態では、ラスタ走査の次の走査線への移動量Myを計算する際に、現在の走査線上の各位置(例えば全ての位置)での“類似性に関する指標”を考慮したが、本発明はこれに限定されない。全ての位置に限らず、現在の走査線上の一部(例えば1つ置き)の位置を選択的に考慮する場合にも、本発明を適用できる。その場合、現在の位置での“類似性に関する指標”が考慮されなくても構わない。
さらに、上記した実施形態では、ラスタ走査の次の走査線への移動量Myを計算する際に、現在の走査線上の各位置(少なくとも一部の位置)での平均的な“類似性に関する指標”を考慮したが、本発明はこれに限定されない。平均値に限らず、現在の走査線上の各位置(全部または一部)で最も大きい“類似性に関する指標”を考慮する場合にも、本発明を適用できる。
また、上記した実施形態では、演算用の部分画像24の抽出位置(X,Y)をラスタ走査の方向に沿って移動させる例を説明したが、本発明はこれに限定されない。その他の予め定めた方向(例えば一次元方向など)に沿って抽出位置(X,Y)を移動させる場合にも、上記と同様の移動量の計算式(例えば式(2))を用いることで、同様の効果を得ることができる。
さらに、上記した実施形態では、抽出位置(X,Y)の移動方向を予め定めておく例(例えばラスタ走査の方向に沿って移動させる例)を説明したが、本発明はこれに限定されない。抽出位置(X,Y)の移動方向を予め定めず、現在までに求めた“類似性に関する指標”のうち少なくとも1つを考慮して、抽出位置(X,Y)の移動方向と移動量との双方を決定しても構わない。その場合、現在の位置での“類似性に関する指標”を考慮しなくても構わない。
(第5実施形態)
第1実施形態から第4実施形態は、テンプレートマッチング処理を類似度判定に基づきステップ制御するものであるが、第5実施形態は、テンプレートマッチング処理を類似度判定に基づきマッチング演算処理をカット制御するものである。
本実施形態のテンプレートマッチングは、図10に示すフローチャートの手順(ステップS1〜S8)にしたがって行われる。
図10の処理では、入力画像21の中から抽出した演算用の部分画像24とテンプレート画像22とのマッチング演算(S4)が、演算用の部分画像24の抽出位置(X,Y)を少しずつ移動させながら、必要に応じて繰り返し行われる。なお、入力画像21は、「画像情報を含む入力信号」に対応する。テンプレート画像22は、「画像情報を含むテンプレート信号」に対応する。演算用の部分画像24は、「画像情報を含む演算用の部分信号」に対応する。
また、本実施形態のテンプレートマッチングでは、マッチング演算(S4)を行うか否かの判断処理(S3)の1回目までに、テンプレート画像22の歪度S22を計算する。この場合の歪度S22は、テンプレート画像22の濃度ヒストグラムの分布形状の非対称性を示す統計的な尺度(skewness)である。具体的には、次の式(18)の“Xmn”に、図5Aに示すテンプレート画像22の位置(m,n)における濃度値Amnを代入することより、テンプレート画像22の歪度S22の計算が行われる。式(18)のNはテンプレート画像22の画素の総数,σは標準偏差である。
テンプレート画像22の歪度S22について、図11A乃至図11Cに示す濃度ヒストグラムを用いて説明する。図11A−図11Cに示す濃度ヒストグラムの横軸は濃度値、縦軸は画素数である。図11Aに示す濃度ヒストグラムのように分布形状が左右対称の場合、歪度S22=0となる。図11Bに示す濃度ヒストグラムのように分布形状が非対称で左側に偏っている(すなわち、濃度小の画素が多い)場合、歪度S22<0となる。図11Cに示す濃度ヒストグラムのように分布形状が非対称で右側に偏っている(すなわち、濃度大の画素が多い)場合、歪度S22>0となる。テンプレート画像22の歪度S22の計算は、上記の通り、マッチング演算(S4)を行うか否かの判断処理(S3)の1回目までに行われる。
図10の処理(S1〜S8)について順に説明する。
ステップS1において、画像処理部14は、入力画像21の中から演算用の部分画像24を抽出する。演算用の部分画像24は、テンプレート画像22と縦横各々同じ大きさ(画素数)の矩形状である。演算用の部分画像24とテンプレート画像22は、共に、入力画像21より小さい(画素数が少ない)。
次に(ステップS2)、画像処理部14は、ステップS1で抽出した演算用の部分画像24の歪度S24を計算する。この場合の歪度S24は、部分画像24の濃度ヒストグラムの分布形状の非対称性を示す統計的な尺度(skewness)である。具体的には、上記の式(1)の“Xmn”に、図5Bに示す部分画像24の位置(m,n)における濃度値Bmnを代入することより、演算用の部分画像24の歪度S24の計算が行われる。この場合、式(1)のNは部分画像24の画素の総数,σは標準偏差である。
部分画像24の歪度S24も、テンプレート画像22の歪度S22と同様、図11Aに示す濃度ヒストグラムのように分布形状が左右対称の場合、歪度S24=0となる。図11Bに示す濃度ヒストグラムのように分布形状が非対称で左側に偏っている(濃度小の画素が多い)場合、歪度S24<0となる。図11Cに示す濃度ヒストグラム(c)のように分布形状が非対称で右側に偏っている(濃度大の画素が多い)場合、歪度S24>0となる。
次に(ステップS3)、画像処理部14は、ステップS2で計算した部分画像24の歪度S24と既に計算済みのテンプレート画像22の歪度S22との比較により、歪度の絶対差|S22−S24|を計算する。歪度の絶対差|S22−S24|は、テンプレート画像22の濃度ヒストグラムと部分画像24の濃度ヒストグラムとの類似性に関する指標である。2つの濃度ヒストグラムの類似性が高いほど、歪度の絶対差|S22−S24|は小さな値を示す。逆に、2つの濃度ヒストグラムの類似性が低いほど、歪度の絶対差|S22−S24|は大きな値を示す。
さらに、歪度の絶対差|S22−S24|が大きな値を示し、2つの濃度ヒストグラムの類似性が低い場合、テンプレート画像22と部分画像24とは、明かに類似性が低い(相違している)と考えられる。逆に、歪度の絶対差|S22−S24|が小さな値を示し、2つの濃度ヒストグラムの類似性が高い場合、テンプレート画像22と部分画像24との類似性は高い可能性がある。つまり、類似性が低い可能性もあるが、類似性が高い可能性もある。したがって、歪度の絶対差|S22−S24|は、テンプレート画像22と部分画像24との類似性に関する概略値と考えられる。
画像処理部14は、歪度の絶対差|S22−S24|を計算した後、これを予め定めた閾値α(>0)と大小比較する。そして、次の条件式(19)を満足するか否かの判断(ステップS3)を行う。
|S22−S24|<α …(19)
条件式(19)を満足しない場合(S3がNo)、上記のようにテンプレート画像22と部分画像24とは明かに類似性が低い(相違している)ため、マッチング演算(S4)によって、部分画像24とテンプレート画像22との類似性に関する正確な指標(つまり類似度)を求める必要がない。したがって、条件式(19)を満足しない場合(S3がNo)にはマッチング演算(S4)を省略し、後述のステップS6に進む。
一方、条件式(19)を満足する場合(すなわち、S3がYesの場合)、上記のようにテンプレート画像22と部分画像24との類似性は高い可能性があるため、マッチング演算(S4)によって、部分画像24とテンプレート画像22との類似性に関する正確な指標(つまり類似度)を求める意味がある。したがって、条件式(19)を満足する場合(S3がYes)にはステップS4に進み、マッチング演算(S4)を実行する。
このように、本実施形態のテンプレートマッチング(図10)では、ステップS3において、演算用の部分画像24とテンプレート画像22との類似性に関する概略値(つまり歪度の絶対差|S22−S24|)に基づいて、部分画像24とテンプレート画像22とのマッチング演算(S4)を行うか否かを判断する。ステップS3の判断処理は、部分画像24とテンプレート画像22との類似性を大雑把に判断する処理である。したがって、この演算処理は、マッチング演算よりも短い時間で行うことができる。つまり、演算速度が速い。そして、マッチング演算を「行わない」と判断した場合にはその演算を省略し、「行う」と判断した場合のみその演算を実行する。
ステップS3の条件式(19)を満足する場合、画像処理部14は、ステップS4において、演算用の部分画像24とテンプレート画像22とのマッチング演算(類似度の演算)を行う。ここでは、マッチング演算の一例として、周知の相互相関法を用いる。この場合のマッチング演算は、図5Bに示す部分画像24の位置(m,n)における濃度値Bmnと、図5Aに示すテンプレート画像22の同じ位置(m,n)における濃度値Amnとを用い、次の式(20)により行われる。
マッチング演算の結果は、正規化された相互相関係数Cであり(−1≦C≦1)、演算用の部分画像24とテンプレート画像22との類似度に相当する。類似度は、部分画像24とテンプレート画像22との「類似性に関する指標」の1つであり、「類似性に関する正確な指標」である。傾向としては、類似度に相当する相互相関係数Cが大きい(つまり「1」に近い)ほど、部分画像24とテンプレート画像22との類似性が高く、部分画像24の抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。
上記のマッチング演算が終了すると、画像処理部14は、次のステップS5において、マッチング演算の結果である類似度(相互相関係数C)を、部分画像24の抽出位置(X,Y)と対応づけてメモリに保存する。これらのステップS1〜S5の処理を経て、入力画像21の中の1つの抽出位置(X,Y)に対する処理が終わる。そして、演算用の部分画像24の抽出位置(X,Y)を次の位置へ移動させる場合(すなわち、ステップS6がYesの場合)には、ステップS7の処理に進む。
ステップS7の処理は、演算用の部分画像24の抽出位置(X,Y)の移動処理である。画像処理部14は、部分画像24の抽出位置(X,Y)を現在の位置から次の位置へ移動させる。その後、ステップS1の処理に戻り、新たな抽出位置(X,Y)において、演算用の部分画像24の抽出(S1)→歪度S24の計算(S2)→マッチング演算の実行/省略の判断(S3)→〔必要に応じてマッチング演算(S4)→結果保存(S5)〕を繰り返す。
このようにして、ステップS1→S2→S3→〔S4→S5〕→S6→S7→S1…の処理を繰り返すことにより、演算用の部分画像24の抽出位置(X,Y)を少しずつ移動させながら、各々の位置で部分画像24を順に抽出し、部分画像24を抽出する毎に、マッチング演算(S4)を行うか否かを判断することができる。また、その判断の内容が「行う」ことを示す場合のみテンプレート画像22とのマッチング演算を行い、その結果を保存する。
そして、演算用の部分画像24の抽出位置(X,Y)が終点に到達し、そこでのステップS1〜S5の処理が終了すると、画像処理部14は、次の位置への移動を行わずに(S6がNo)、ステップS8の処理に進む。ステップS8では、入力画像21の中の異なる複数の位置で実際に求められた類似度(相互相関係数C)を大小比較することにより、その値が最も大きく、テンプレート画像22との類似性が最も高い部分画像24の抽出位置(X,Y)を合致位置(X,Y)と特定する。以上で入力画像21に対するテンプレートマッチングの処理は終了となる。
上記のように、本実施形態のテンプレートマッチングでは、演算用の部分画像24を抽出する毎に、部分画像24とテンプレート画像22とのマッチング演算を行うか否かを判断し、「行わない」と判断した場合にはマッチング演算を省略する。そして、「行う」と判断した場合のみマッチング演算を実行する。このため、確実に時間を短縮して効率よく合致位置(X,Y)を特定できる。つまり、テンプレートマッチングの処理速度が飛躍的に向上する。
また、本実施形態のテンプレートマッチングでは、演算用の部分画像24とテンプレート画像22との類似性に関する概略値(つまり歪度の絶対差|S22−S24|)に基づいて、マッチング演算を行うか否かを判断する。このため、テンプレート画像22と部分画像24とが明かに相違している場合(すなわち、明かに類似性が低い場合)の不要なマッチング演算を効率よく省略することができる。
条件式(19)の閾値αは、例えば、テンプレート画像22のコントラストを変化させた場合の各々において、歪度(skewness)の計算を行い、得られた計算結果のレンジ値(=最大歪度−最小歪度)を考慮して設定することが好ましい。一例として、閾値α=レンジ値とすることが考えられる。また、閾値α=レンジ値×係数kとしてもよい。この場合の係数kは、1/2〜1の任意の値である。ちなみに、閾値αの設定値が大きすぎると、マッチング演算の省略率が減って処理速度の向上が望めなくなる。逆に、閾値αの設定値が小さすぎると、演算用の部分画像24のコントラスト変化やノイズなどの影響を受けて正確な合致位置(X,Y)の特定が難しくなる。
なお、上記した実施形態5では、演算用の部分画像24とテンプレート画像22との類似性に関する概略値として歪度の絶対差|S22−S24|を用い、マッチング演算を行うか否かを判断したが、本発明はこれに限定されない。マッチング演算よりも短い時間で演算を行うことができ、類似性を判断できるのであれば、他の演算でもよい。
その他、次の式(21)によりテンプレート画像22の3次のモーメントM22を計算し、同様に、演算用の部分画像24の3次のモーメントM24を計算し、これらのモーメントM22,M24の絶対差|M22−M24|を上記の概略値として用い、マッチング演算を行うか否かを判断してもよい。また、3次に限らず、n次(nは5以上の奇数)のモーメントを用いてもよい。奇数次のモーメントは、既に説明した歪度(skewness)と同様、濃度ヒストグラムの偏り方向(左側または右側)を示すため、マッチング演算を行うか否かを判断する際の良好な指標となる。
特に、3次のモーメントを用いる場合、歪度(skewness)と比較して計算量が少ないため、マッチング演算の要不要の判断を高速に行うことができる。そのため、マッチング演算を計算量の少ない方法(例えば後述の残差逐次検定法など)により行う場合でも、確実に処理速度の向上に対応できる。
さらに、上記の概略値の他の具体例としては、テンプレート画像22の平均濃度と部分画像24の平均濃度との比較により求めた「平均濃度の絶対差」を用いることもできる。この場合には、さらに計算量が少なく、上記の概略値を簡単に計算できる。その結果、さらなる高速化が実現する。
また、上記した本実施形態では、図10のステップS4において相互相関法によるマッチング演算(式(20)参照)を行う例で説明したが、本発明はこれに限定されない。その他、残差逐次検定法(SSDA法)によりマッチング演算を行ってもよいし、濃度ヒストグラムまたは慣性モーメントなどの特徴量を用いてマッチング演算を行ってもよい。
残差逐次検定法によるマッチング演算は、図5Bに示す部分画像24の位置(m,n)における濃度値Bmnと、テンプレート画像22の同じ位置(m,n)における濃度値Amnとを用い、次の式(22)または式(23)により行われる。式(22)のDは濃度差の絶対値和である。式(23)のEは濃度差の二乗和である。マッチング演算の結果D,Eは、部分画像24とテンプレート画像22との類似度に相当し、その値(つまり残差)が小さいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。残差逐次検定法によるマッチング演算は、その計算量が少ないため、さらなる高速化が可能となる。
濃度ヒストグラムに基づくマッチング演算では、例えば図9Aに示す通り、テンプレート画像22の濃度ヒストグラムH22が予め作成され、演算用の部分画像24が抽出される毎に、その部分画像24の濃度ヒストグラムH24が作成される。濃度ヒストグラムH24,H22の横軸は濃度値、縦軸は画素数である。
そして、2つの濃度ヒストグラムH24,H22の重なり部分(図9Bの斜線部分)の画素数を集計することで、マッチング演算が行われる。この場合のマッチング演算の結果(集計値F)は、部分画像24とテンプレート画像22との類似度に相当し、その値が大きいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。
さらに、濃度ヒストグラムに基づくマッチング演算は、例えば図9Aに示す2つの濃度ヒストグラムH24,H22の差分の絶対値(図9Cの斜線部分)の画素数を集計することにより行ってもよい。この場合のマッチング演算の結果(集計値G)は、部分画像24とテンプレート画像22との類似度に相当し、その値が小さいほど、部分画像24とテンプレート画像22との類似性が高く、抽出位置(X,Y)が合致位置(X,Y)に近いことを表す。
(第6実施形態)
本発明の第6実施形態は、第1〜4実施形態と第5実施形態とを併せたものである。第6実施形態のテンプレートマッチング装置は、第5実施形態に開示されたマッチング演算のカット制御と、第1〜4実施形態に開示するテンプレートマッチング処理のステップ制御とを組合せたものである。
具体的には、第6実施形態のテンプレートマッチング処理は、図10のステップS1からステップS8までの処理(マッチング演算カット制御)を行うが、その際に図10のステップS7の「演算用の部分画像の抽出位置の移動処理」は、図4のステップS11からステップS15の処理(ステップ制御)を実行する。
これにより、両実施形態の効果が相乗され、飛躍的にテンプレートマッチング処理の高速化が達成される。
また、上記した実施形態1〜6では、演算用の部分画像24とテンプレート画像22の形状が矩形状である例を説明したが、本発明はこれに限定されない。部分画像24とテンプレート画像22は、その形状と大きさ(画素数)が同一であれば、矩形状である必要はない。他の形状でも本質的な処理は同じである。
さらに、上記した実施形態1〜6では、図1の観察装置10のような光学顕微鏡装置を例にテンプレートマッチングの説明を行ったが、本発明はこれに限定されない。その他、試料の局所領域を電子線で走査して画像を取り込む電子顕微鏡装置にも、本発明を適用できる。試料の局所領域の画像に限らず、試料の全面の画像を一括で取り込む装置にも、本発明を適用できる。観察装置10などに接続された外部のコンピュータを用いた場合でも、同様の効果を得ることができる。
また、上記した実施形態1〜6では、図1の観察装置10のカメラ13から取り込んだ入力画像(画像情報を含む入力画像信号)に対してテンプレートマッチングを行う例について説明したが、本発明はこれに限定されない。その他、音声情報を含む入力画像信号(入力音声)に対してテンプレートマッチングを行う場合(信号処理)にも、本発明を適用できる。入力音声のような一次元の入力画像信号を対象とする場合、上述の「画像の濃度」を「信号の強度」に置き換えて考えればよい。「平均濃度」は「強度の平均値」に対応する。
観察装置10の概略図である。 入力画像21,テンプレート画像22,ターゲット23,演算用の部分画像24を説明する図である。 第1実施形態のテンプレートマッチングにおける全体的な処理手順を示すフローチャートである。 図3のステップS5における処理手順をを示すフローチャートである。 図5Aと図5Bとはそれぞれ、テンプレート画像22の位置(m,n)における濃度値Amnと演算用の部分画像24の位置(m,n)における濃度値Bmnとを説明する図である。 図6A、図6Bは、合致位置(X1,Y1)との位置関係に応じた移動間隔(移動量Mx)の大小変化を説明する図である。 第2実施形態のテンプレートマッチングにおける処理手順の一部を示すフローチャートである。 図8A、図8Bは、図7の処理による抽出位置(X2,Y2)の移動について説明する図である。 図9A、図9B、図9Cは、濃度ヒストグラムに基づくマッチング演算について説明する図である。 本実施形態のテンプレートマッチングの処理手順を示すフローチャートである。 図11A、図11B、図11Cは、濃度ヒストグラムの分布形状の非対称性と歪度(skewness)との関係を説明する図である。

Claims (4)

  1. 入力画像信号の中から、順次抽出位置を変えて演算用の部分画像信号を抽出する抽出手段と、
    前記抽出手段により前記部分画像信号が抽出される毎に、該部分画像信号と既知のテンプレート信号との類似性に関する指標を求める演算手段と、
    前記入力画像信号の複数の位置での前記類似性に関する指標に基づいて、前記入力画像信号の中の前記テンプレート信号との合致位置を特定する特定手段とを備え、
    前記抽出手段は、前記演算手段が求めた現在の抽出位置における前記類似性に関する指標を考慮して、前記現在の抽出位置から次の抽出位置への移動量を決定する
    ことを特徴とするテンプレートマッチング装置。
  2. 入力画像信号の中から、順次抽出位置を変えて演算用の部分画像信号を抽出する抽出手段と、
    前記抽出手段により前記部分画像信号が抽出される毎に、該部分画像信号と既知のテンプレート信号との類似性に関する指標を求める演算手段と、
    前記入力画像信号の複数の位置での前記類似性に関する指標に基づいて、前記入力画像信号の中の前記テンプレート信号との合致位置を特定する特定手段とを備え、
    前記抽出手段は、少なくとも前記現在の位置での前記類似性に関する指標を考慮すると共に、前記テンプレート信号の大きさを考慮して、前記現在の抽出位置から次の抽出位置への移動量を決定する
    ことを特徴とするテンプレートマッチング装置。
  3. 入力画像信号の中から、順次抽出位置を変えて演算用の部分画像信号を抽出する抽出手段と、
    前記抽出手段により前記部分画像信号が抽出される毎に、該部分画像信号と既知のテンプレート信号との類似性に関する指標を求める演算手段と、
    前記入力画像信号の複数の位置での前記類似性に関する指標に基づいて、前記入力画像信号の中の前記テンプレート信号との合致位置を特定する特定手段とを備え、
    前記入力画像信号と前記部分画像信号と前記テンプレート信号は、各々、画像情報を含み、
    前記抽出手段は、前記抽出位置を複数の走査線からなるラスタ走査の方向に沿って移動させながら前記部分画像信号を順に抽出すると共に、前記抽出位置を現在の走査線から次の走査線へ移動させる際、前記現在の走査線上の各位置での前記類似性に関する指標を考慮して、前記現在の走査線から前記次の走査線への移動量を計算し、該移動量に基づいて前記抽出位置を移動させる
    ことを特徴とするテンプレートマッチング装置。
  4. 請求項2に記載のテンプレートマッチング装置において、
    前記入力画像信号と前記部分画像信号と前記テンプレート信号は、各々、画像情報を含み、
    前記抽出手段は、前記抽出位置を複数の走査線からなるラスタ走査の方向に沿って移動させながら前記部分画像信号を順に抽出すると共に、前記抽出位置を現在の走査線から次の走査線へ移動させる際、前記現在の走査線上の各位置での前記類似性に関する指標を考慮して、前記現在の走査線から前記次の走査線への移動量を計算し、該移動量に基づいて前記抽出位置を移動させる
    ことを特徴とするテンプレートマッチング装置。
JP2006512405A 2004-04-13 2005-04-13 テンプレートマッチング装置 Active JP4208011B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2004117979 2004-04-13
JP2004117980 2004-04-13
JP2004117979 2004-04-13
JP2004117980 2004-04-13
PCT/JP2005/007487 WO2005101313A1 (ja) 2004-04-13 2005-04-13 テンプレートマッチング装置

Publications (2)

Publication Number Publication Date
JPWO2005101313A1 JPWO2005101313A1 (ja) 2008-03-06
JP4208011B2 true JP4208011B2 (ja) 2009-01-14

Family

ID=35150202

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006512405A Active JP4208011B2 (ja) 2004-04-13 2005-04-13 テンプレートマッチング装置

Country Status (2)

Country Link
JP (1) JP4208011B2 (ja)
WO (1) WO2005101313A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4644816B2 (ja) * 2006-04-14 2011-03-09 国立大学法人東北大学 地中レーダ装置及び画像信号処理方法
US8260058B2 (en) 2007-03-13 2012-09-04 Nikon Corporation Template matching device, camera with template matching device, and program for allowing computer to carry out template matching
JP4986817B2 (ja) 2007-11-13 2012-07-25 株式会社ソニーDadc 評価装置、評価方法、プログラム
JP5264457B2 (ja) * 2008-12-12 2013-08-14 セコム株式会社 物体検出装置
JP5230567B2 (ja) * 2009-08-31 2013-07-10 日本電信電話株式会社 信号検出装置、信号検出方法、信号検出プログラム及び記録媒体

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6431741A (en) * 1987-07-29 1989-02-02 Tsumura & Co Novel lignan, diuretic and cardiac comprising said lignan as active ingredient
JP3930067B2 (ja) * 1995-05-02 2007-06-13 株式会社山武 パターン照合装置
JP3114668B2 (ja) * 1997-10-03 2000-12-04 日本電気株式会社 物体検出・背景除去方法、装置およびプログラムを記録した記録媒体
US6295083B1 (en) * 1998-02-27 2001-09-25 Tektronix, Inc. High precision image alignment detection

Also Published As

Publication number Publication date
JPWO2005101313A1 (ja) 2008-03-06
WO2005101313A1 (ja) 2005-10-27

Similar Documents

Publication Publication Date Title
KR101764658B1 (ko) 결함 해석 지원 장치, 결함 해석 지원 장치에 의해 실행되는 프로그램 및 결함 해석 시스템
KR101524421B1 (ko) 결함 관찰 방법 및 결함 관찰 장치
JP4208011B2 (ja) テンプレートマッチング装置
US20140050411A1 (en) Apparatus and method for generating image feature data
JP2007334746A (ja) 画像処理装置および画像処理プログラム
JP5173549B2 (ja) 画像処理装置及び撮像装置
JP3961438B2 (ja) パターン計測装置、パターン計測方法および半導体装置の製造方法
JP5099120B2 (ja) テンプレートマッチング装置、テンプレートマッチング装置を備えたカメラ、テンプレートマッチングをコンピュータで行うためのプログラム
JP2000121319A (ja) 画像処理装置および画像処理方法、並びに提供媒体
JP6199799B2 (ja) 自発光材料画像処理装置及び自発光材料画像処理方法
CN117635421A (zh) 图像拼接融合的方法及装置
US10515455B2 (en) Optical flow measurement
JP2005293334A (ja) テンプレートマッチング装置
US6650362B1 (en) Movement detecting apparatus with feature point extractor based on luminance gradient in current frame
JPH0962838A (ja) 高速パターンマッチング方法
JP2007241418A (ja) テンプレートマッチング装置
JP5206499B2 (ja) 測定方法、測定装置、測定制御プログラム
CN113382134B (zh) 一种线阵工业相机的聚焦调试方法
JPH07280560A (ja) 相関演算評価方法
JP7066580B2 (ja) 画像処理装置
US20230043003A1 (en) Method of detecting measurement error of sem equipment and method of aligning sem equipment
CN112334732B (zh) 预测装置及预测方法
JP2010092319A (ja) 位置検出方法およびプログラム、並びに測定装置
JP2000348175A (ja) 対応点検出装置及び方法
JP2010186485A (ja) カラー画像の処理方法および画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080514

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080725

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080930

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081013

R150 Certificate of patent or registration of utility model

Ref document number: 4208011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141031

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141031

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141031

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250