JP2006107046A - 画像処理方法、画像処理装置及び半導体検査装置 - Google Patents

画像処理方法、画像処理装置及び半導体検査装置 Download PDF

Info

Publication number
JP2006107046A
JP2006107046A JP2004291631A JP2004291631A JP2006107046A JP 2006107046 A JP2006107046 A JP 2006107046A JP 2004291631 A JP2004291631 A JP 2004291631A JP 2004291631 A JP2004291631 A JP 2004291631A JP 2006107046 A JP2006107046 A JP 2006107046A
Authority
JP
Japan
Prior art keywords
image
weighted average
pattern
matching
template
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004291631A
Other languages
English (en)
Other versions
JP4865204B2 (ja
Inventor
Yasutaka Toyoda
康隆 豊田
Koji Ikeda
光二 池田
Atsushi Takane
高根  淳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi High Tech Corp
Original Assignee
Hitachi High Technologies Corp
Hitachi High Tech Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi High Technologies Corp, Hitachi High Tech Corp filed Critical Hitachi High Technologies Corp
Priority to JP2004291631A priority Critical patent/JP4865204B2/ja
Publication of JP2006107046A publication Critical patent/JP2006107046A/ja
Application granted granted Critical
Publication of JP4865204B2 publication Critical patent/JP4865204B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Analysing Materials By The Use Of Radiation (AREA)
  • Testing Or Measuring Of Semiconductors Or The Like (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】加重平均処理およびパターンマッチングを行なう画像処理において、ランダムノイズが含まれている撮影画像(被サーチ画像)の撮影回数を減らしても、良好なパターンマッチング結果を得られる画像処理方法及び装置を実現する。
【解決手段】ランダムノイズが含まれる撮影画像の中から目的のパターンを認識するために、撮影画像を複数取得(1A-1L)して、その画像のマッチング候補像2A-2Lに加重平均処理を施し、加重平均処理された画像2´とテンプレート画像3とをパターンマッチングする。上記加重平均処理を行う場合に、加重平均処理を補助するための画像5(5A−5M)としてテンプレート画像3と同じパターンを含む画像を用意する。加重平均処理は、前記マッチング候補画像に加重平均補助用の画像も加えることにより行われる。
【選択図】 図1

Description

本発明は、ランダムノイズが含まれる撮影画像から目的のパターンを認識するための画像処理方法および装置に関する。
近年、デジタルカメラ、ビデオカメラ、電子顕微鏡といった撮像装置の高性能化と、マイクロプロセッサ、FPGA、ASICなどを搭載した演算装置の高性能化により、撮像装置で撮影した画像内に含まれている特定のパターンを認識する機能(以下、「パターンマッチング」と称する)を搭載した画像処理装置が実用化されている。例えば、車番認識機能を搭載した渋滞監視システム、顔認識機能を搭載した防犯装置、半導体ウェハの自動検査機能を搭載した半導体検査システムがそれにあたる。
パターンマッチングは、撮像装置で撮影した画像(以下、「被サーチ画像」と称することもある)の中から特定のパターンやその位置を認識(検出)するための手法である。パターンマッチングにおいては、認識したいパターンは、テンプレート画像として予め登録されている。そして、被サーチ画像の中の画像領域を、所定サイズ(テンプレート画像と同サイズ)で順次選択し、選択した画像領域ごとにスキャニングによりテンプレート画像との一致度(マッチング)を求める。このようにして、被サーチ画像から、一致度の高い画像、もしくはその画像の位置(以下「マッチング位置」とする)を認識することができる。
具体的には、図18に示すように、被サーチ画像1からテンプレート画像3と同サイズの画像領域(以下、「マッチング候補画像2」とする)を切り出し、テンプレート画像3とマッチング候補画像2の各画素の輝度値を比較して、テンプレート画像3とマッチング候補画像2の一致度を求める。
通常は、被サーチ画像1の始点から終点まで1画素単位でマッチング候補画像2をずらしていき、マッチング候補画像2ごとにスキャニングによりテンプレート画像3との一致度を求める。それにより、被サーチ画像1内で最も一致度の高いマッチング候補画像4を決定する。被サーチ画像中のマッチング候補画像の座標位置がマッチング位置となる。
パターンマッチングの手法としては、単純に画像間の輝度比較を行う輝度差分法や、各画素の座標を極座標系に変換し、極座標上での形状により線図形を認識するハフ変換法(Maresca,M.,Lavin,M.,and Li,H.,Parallel HoughTransform Algorithms on Polymorphic Torus Ar-chitectureLevialdi,S.eds.,Multicomputer Vi-sion Academic Press,pp.9−21,)、画像の標準偏差を用いて正規化した後に画像間の相関を求める正規化相関法(R.L.Lillestrand: 乃echniques for change detection. IEEETrans. Computer, Vol. c-21, No.7, pp.654−659, 1972.)などが提案されている。この中でも正規化相関法は、実環境で発生しやすい「環境光の変動による画像間の輝度変動」に影響されない手法として広く利用されている。
しかし、このようなパターンマッチング方法は、いずれも画像に含まれるランダムノイズの影響を受けやすいといった問題をもっている。ランダムノイズは、周波数や振幅が不規則な信号である。物体からの反射光を光電変換素子で画像化するデジタルカメラ等の撮像装置では、フォトダイオードの暗電流、電荷検出アンプノイズ等の影響により撮影画像にランダムノイズが入る。
また、試料に電子ビームを照射して試料の照射面から放出された2次電子を収集し増幅および輝度変調して画像化する走査型電子顕微鏡などの撮像装置でも、試料中の電子の不規則な熱運動によって発生するノイズや、周辺回路から発生されるノイズの影響から撮影画像にランダムノイズが混在する。
このようなランダムノイズが含まれる画像は、被写体がもつ本来のパターン情報が欠落することになり、テンプレートとのパターンマッチングにおいて、画素間での一致、不一致の関係が正確に検出できず、誤ったマッチング位置を検出する原因になる。
撮影画像に含まれるランダムノイズを低減するパターンマッチング方法として、特許文献1(特開2000-342558)に記載されるように、マスクを用いたパターンマッチング方法がある。
この手法は、パターン情報以外の領域にマスクを施し、そのマスクされた領域では、マッチング計算を行わないことで、パターン情報以外の領域に含まれているノイズがマッチング結果に与える影響を低減するというものである。しかし、ランダムノイズが含まれた画像からマスク領域を抽出するのは非常に困難であるし、パターン情報に重なるノイズの影響を抑えることができない。また、特許文献2(特開平5-28273)、特許文献3(特開2000-260699)のように被サーチ画像に対してフィルタリングを行い、それによりノイズを低減した後にパターンマッチングを行う手法は数多く提案されているが、ノイズによって欠落したパターンの復元は非常に難しい。
ランダムノイズが含まれる画像をパターンマッチングの対象とする装置として、例えば半導体検査装置がある。半導体検査装置は、走査型電子顕微鏡で撮影した半導体ウェハの画像から半導体ウェハ上の検査位置を特定し、パターンの形状や欠陥の検査を行う。
検査の前工程として、基準となる半導体ウェハの検査位置(検査位置付近を含む場合もある)を走査型電子顕微鏡で撮影し、撮影画像をテンプレート画像として登録する。検査工程では、検査対象の半導体ウェハを撮影し、その撮影画像の中からテンプレート画像と一致する画像位置を、パターンマッチングによって特定した後、パターンの形状や欠陥の検査を行っている。
走査型電子顕微鏡は、上述したように試料の局所領域に電子ビームを照射し、試料の照射面から放出された2次電子を収集し増幅し、それに基づき画面上に輝度変調することにより、2次電子像を表示するものである。この際、電子ビームにより取得できる画像信号はその特性によりランダムノイズが多く含まれてしまうため、被写体を一回走査しただけでは鮮明な画像が得られず、ランダムノイズの影響を受けてパターンマッチングやその後の検査が正確に行えないといった問題がある。
このため、ランダムノイズを低減する目的で撮像位置を固定した状態で半導体ウェハを複数回撮影し、撮影した画像を加重平均することで撮影画像のS/N比を高め、鮮明な画像を取得してからパターンマッチングを行い、検査位置の特定や検査を行っている。加重平均処理を利用した従来技術は、例えば特許文献4(特開2002−15692)に記載されている。ランダムノイズは、撮影画像ごとに異なる位置や異なる態様で現れる。したがって、加重平均すれば、ランダムノイズの信号強度は弱まり、一方、正規なパターンは強調されるので、S/Nを高められる。
ランダムノイズを低減する目的で、加重平均を利用する方法は、半導体検査装置に限らず、CCD、CMOSといった光電変換素子を搭載した撮像装置にも適用されている。
特開2000−342558号公報 特開平5−28273号公報 特開2000−260699号公報 特開2002−15692号公報 Maresca,M.,Lavin,M.,and Li,H.,Parallel HoughTransform Algorithms on Polymorphic Torus Ar-chitectureLevialdi,S.eds.,Multicomputer Vi-sion Academic Press,pp.9−21,) R.L.Lillestrand: 乃echniques for change detection. IEEETrans. Computer, Vol. c−21, No.7, pp.654−659, 1972.
加重平均数の増加は撮影時間の増加につながるため、例えば半導体検査装置では、検査時間を短縮する目的で加重平均数を少なく設定している。また、半導体は、微細加工されているため電子ビームのダメージを受けやすく、加重平均数を最低限に抑えて検査する必要性が高まっている。しかし、加重平均数を減らすと、S/Nが低下し、ランダムノイズの影響を受けてパターンマッチングが失敗することもある。
図9に正規化相関法を利用したパターンマッチング結果の一例を示す。テンプレート画像401と、被サーチ画像に含まれる画像Aパターン402および、画像Bパターン403を比較する過程において算出される各画素間の一致度を輝度情報に変換したものが画像Aパターンの相関像404、画像Bパターンの相関像405である。各画素の一致度の合計が各パターン画像の相関値となり、その大小関係から、テンプレート画像401と一致するパターンおよびそのマッチング位置を求めることができる。
輝度値の高い(明るい)画素がテンプレート画像401との一致を示す画素であり、輝度値の低い(暗い)画素は、テンプレート画像401との不一致を示している。画像Aパターン402は画像Bパターン403に比べて輝度値の高い画素が多いので、画像Aパターンの位置(座標)を、テンプレート画像401と一致するマッチング位置として検出することができる。
しかし、上述した例は、画像Aパターン(マッチング候補A画像)402と画像Bパターン(マッチング候補B画像)403にノイズが重畳されていない場合の結果である。画像Aパターン402と画像Bパターン403にランダムノイズを重畳させた画像がノイズ重畳画像Aパターン406とノイズ重畳画像Bパターン407である。テンプレート画像401と、ノイズ重畳画像Aパターン406およびノイズ重畳画像Bパターン407を比較する過程において算出される各画素間の一致度を輝度情報に変換したものが、ノイズ重畳画像Aパターンの相関像408とノイズ重畳画像Bパターンの相関像409である。
相関像408および409には、ノイズが重畳されていない相関像404および相関像405に比べ、一致度が低くなっている画素が随所にみられる。これはランダムノイズの影響を受けて画像Aパターン402、画像Bパターン403のような本来のパターンを失ったことが原因である。ノイズ重畳画像Bパターン407においては、ランダムノイズの影響を受けて、本来一致しないはずの画素位置の一致度が高くなっている画素もある。
このように被サーチ画像にランダムノイズが重畳してしまうと、正確な一致度を求めることができなくなる。被サーチ画像内にテンプレート画像に類似したマッチング候補が複数存在した場合、上記ランダムノイズが影響して本来検出すべきマッチング候補とは異なるマッチング候補の位置をマッチング位置として検出してしまうことがある。
このような誤検出(誤認識)防止手段として、前記加重平均処理が有効であるが、加重平均に使用する撮影画像を減少させた場合には、上記誤検出防止に支障をきたすこともある。
本発明の目的は、加重平均処理およびパターンマッチングを行なう画像処理において、ランダムノイズが含まれている撮影画像(被サーチ画像)の撮影回数を減らしても、良好なパターンマッチング結果を得られる画像処理方法及び装置を実現することにある。
本発明は、上記目的を達成するために、ランダムノイズが含まれる画像を加重平均処理する場合に、本来の加重平均対象となる画像(マッチング候補画像)のほかに加重平均処理を補助するための画像を用意し、加重平均処理を、前記加重平均補助用画像も加えて行うようにした。
図1に加重平均処理を伴うパターンマッチン方式の本発明と従来の画像処理方法を比較して示す。
図1の(b)は従来方式である。この場合には、被検査の被写体からN枚の被サーチ画像1A−1N(図14の被サーチ画像1402に相当)を撮影し(ステップS1)、その中からピックアップしたマッチング候補画像2A−2N(図14のマッチング候補画像1403に相当)を加重平均処理し(ステップS2)、その後、加重平均されたマッチング候補画像2´とテンプレート画像3(図14のテンプレート画像1401相当)とのパターンマッチングが実行される(ステップS3)。
図1の(a)は、本願発明の画像処理である。この場合には、被検査の被写体からL枚(L<N;Lは1以上)の被サーチ画像1A−1Lを撮影し(ステップS1)、その中からピックアップしたマッチング候補画像2A−2Nに、予め登録しておいたM枚(M≦L;Mは1以上)の加重平均補助用の画像5A−5Mを加えて加重平均処理を行なう(ステップS2)。加重平均補助用の画像は、予め基準の被写体を撮影して登録されるが、それは、サーチ対象となるパターンを含む画像である。例えば、テンプレート画像の作成に利用した被写体と同じパターンを有する被写体を撮影し、これを加重平均に先立って予め登録しておくことにより得られる。加重平均補助用の画像は、テンプレート画像が兼ねることも可能である。その後のパターンマッチングは、上記ステップS3同様に行なわれる。
このように構成すれば、マッチング候補画像の撮影画像の枚数の減らしても、その分を、加重平均補助用の画像が補うことになる。すなわち、加重平均補助用の画像を多すぎない程度に適量使用すれば、それは被サーチ画像の中のパターン(マッチング候補画像のパターン)と一致する場合にだけ、パターンの検出信号の強度を高めることになるので、S/N比を高めることができる。
本発明によれば、加重平均処理およびパターンマッチングを行なう画像処理において、ランダムノイズが含まれている撮影画像(被サーチ画像)の撮影回数を減らしても、良好なパターンマッチング結果を得ることができる。特に多数の被検査物をパターンマッチングする場合には、加重平均補助用の画像は、それらの被検査物に共通して使用できるのでその効果は大きい。
まず、本発明の実施例に用いる画像処理装置の概要を図2により説明する。
本発明の画像処理装置は、図2(a)に示すように、例えば、ビデオカメラ,電子顕微鏡等の画像入力装置76、キーボード,マウス等の情報入力装置77、情報処理装置7000、およびCRT等の情報出力装置(ディスプレイ)78により構成されている。情報処理装置7000は、画像処理装置の中枢をなし、この情報処理装置7000に、画像入力装置76、情報入力装置77、情報出力装置78が接続される。情報処理装置7000および周辺装置を含めた外観の例を図11に示す。
情報処理装置7000は、CPU71、信号入力IF(インターフェース)72、RAM73、ROM74、信号出力IF(インターフェース)75、パターンマッチング装置100、画像データ処理部79により構成されている。
CPU71は、ROM74に格納された制御プログラムに基づき信号入力IF72、信号出力IF75、パターンマッチング装置100、画像データ処理部79、RAM73などを制御する。これらの制御により、画像入力装置76からの画像データは、IF72を介して入力され、RAM73に保存される。
RAM73は、画像データのほかにパターンマッチング処理のためのデータの蓄積やパターンマッチング結果を保存する。
パターンマッチング装置100は、演算機能を有して、入力される被サーチ画像(被検査画像)のマッチング候補画像と加重平均補助画像とのデータを加重平均処理し、加重平均された画像とテンプレート画像との照合を行う。さらに、この照合を介して被サーチ画像データの中からテンプレート画像のパターンに最も一致度の高いパターン及びその位置(マッチング位置)を探し出す。パターンマッチングの結果は、RAM73に保存される。加重平均処理およびパターンマッチングの具体例は、後述する。
画像処理に関する情報、例えば加重平均やパターンマッチングの条件設定に関する情報は、情報入力装置77から信号入力IF72を介して情報処理装置7000に入力され、RAM703に保存される。
パターンマッチング結果は、信号出力IF75を介して情報出力装置78に出力される。
なお、パターンマッチング装置100は後述する実施例で説明するブロックで構成されたASIC、FPGAなどのハードウェアである。
信号入力IF72は、USB、IEEE1394、セントロニクスやメモリカード、PCI、Ethernet(登録商標)などのインターフェースである。画像入力装置76からの画像データ、および情報入力装置77からのデータを、情報処理装置7000に入力する。
RAM73は、SDRAM、SRAM、DRAMやメモリカード、ハードディスクなどであり、画像データの蓄積や、パターンマッチングに利用するパラメータの保存を行うものである。
ROM74は、Flash ROMなどで構成され、CPU71で使用する制御プログラムなどを保存するものである。
なお、パターンマッチングに利用するパラメータはROM73に保存してもよい。
信号出力IF75はUSB、IEEE1394、セントロニクスやメモリカード、PCI、Ethernetなどのインターフェースであり、パターンマッチング結果を信号出力装置78に出力するものである。
画像データ処理部79は、RAM73に保存されている画像を入力として、画像内に含まれているランダムノイズや輝度むらといった情報を低減するような画像処理を行い、処理結果の画像をRAM73に保存する。この画像データ処理部79は、CPU71の制御によって起動、実行、終了を行うFPGAやASICなどの画像処理ハードウェアよりなる。なお、画像データ処理部79は、必ずしもハードウェアである必要はなく、ランダムノイズや輝度むらといった情報を低減するような画像処理の機能をプログラム化してRAM73、およびROM74に保存しておくことで、CPU71の制御によってソフトウェア処理することもできる。例えば、ソフトウェア処理でランダムノイズの低減処理を行い、ハードウェア処理で輝度むらの低減などを行うような構成でもよい。また、画像処理部79の機能については限定するものではない。
図2(a)では、パターンマッチング装置100の機能をハードウェアで構成するが、ソフトウェアプログラムで構成することも可能である。図2(b)では、このようなソフトウェアプログラムを情報処理装置7001に搭載したものである。なお、図2(b)において、図2(a)と同一符号は、図2(a)の構成要素と同一或いは共通する要素を示すものである。
図2(b)において、情報処理装置7001は、CPU71、信号入力IF72、メモリ(RAM73、ROM74)、信号出力IF75、画像データ処理部79により構成されている。本実施例では、図2(a)のパターンマッチング装置100に相当する機能を、CPU71のソフトウェア処理で実行される。
信号入力IF72、信号出力IF75、画像データ処理部79については、図2(a)に示したものと同様のため説明を省略し、ここでは、CPU71,RAM73、RM74について具体的に説明する。
図2(a)のパターンマッチング装置100の機能をソフトウェア処理で実行するためのプログラムは、RAM73、またはROM74に保存されており、CPU71はパターンマッチングのプログラムを実行する。パターンマッチングに利用するパラメータはROM73に保存してもよい。
本発明のパターンマッチング装置100は、上記のようにハードウェアで実現したり、或いはソフトウェアで実現することができる。また、パターンマッチング装置の一部の機能をソフトウェアで実現し、残りの機能をハードウェアで実現することも可能である。
以下、本発明におけるパターンマッチング装置100を、ハードウェアで実現する例を、実施例1,2に基づき説明し、ソフトウェアで実現する例を実施例3により説明する。また、半導体検査装置に本発明の画像処理技術を適用した例を実施例4により説明する。
〔実施例1〕
図3は、本発明に用いるパターンマッチング装置100の基本構成をブロック図で示す。また、パターンマッチング装置100とCPU71とRAM73との関係を示す。
RAM73は、ランダムノイズが重畳された被写体の撮影画像(被サーチ画像12;図1の被サーチ画像2A−2Lに相当する)、テンプレート画像10(図1のテンプレート画像3に相当する)、加重平均補助用画像11(図1の加重平均補助用画像5A−5Mに相当する)を記憶する。パターンマッチング装置100は、ランダムノイズが重畳された被サーチ画像12の中からテンプレート画像10と一致するパターンを探し出し、そのパターンの存在する位置(マッチング位置)17を検出することを目的としている。以下、各構成要素を説明する。
RAM73は、既述したように、パターンマッチングに使用する画像データ(テンプレート画像10、加重平均補助用画像11、被サーチ画像12)を蓄積する。CPU71は、パターンマッチング制御手段として機能し、パターンマッチング装置100の起動と終了、パターンマッチング装置100への画像データおよびパラメータの入力、マッチング結果(マッチング位置17)の出力を制御する。
パターンマッチングの手順を以下に示す。
パターンマッチング装置100は、起動後、RAM73から被サーチ画像12を読み込む。被サーチ画像12は複数取得される。すなわち、被サーチ画像12は、同一被写体に対して同一位置で複数回撮影して得られたものである。
テンプレート画像10と比較すべきマッチング候補画像18(図1のマッチング候補画像2A−2Lに相当する)は、各被サーチ画像12から切り出され、加重平均手段14に入力される。
マッチング候補画像18に加重平均補助用画像11を加えて加重平均処理が行われ、加重平均後の画像18´(図1の画像2´に相当する)は、パターンマッチング手段15に入力される。
パターンマッチング手段15は、テンプレート画像10と加重平均された画像18´とのパターンマッチングを行い、マッチング値(画像パターンの一致度)19をマッチング値比較手段16に入力する。マッチング値比較手段16では、マッチング値の大きいマッチング候補を検出してマッチング結果17を出力する。
上記したマッチング候補画像18の切り出しは、被サーチ画像12からテンプレート10と同サイズの画像を抽出するものであり、基本的に被サーチ画像12の始点から終点にかけて順次行うものである。加重平均補助用の画像11とテンプレート画像10は、被サーチ画像12の始点から終点までのパターンマッチング過程において固定である。ここで、加重平均補助用画像11とは、マッチング候補画像の加重平均に必要とされる画像データの補助に使用され、テンプレート画像10と同じパターンを含む画像である。テンプレート画像10と加重平均補助用画像11は、パターンマッングの前工程として画像入力装置76で撮影した画像の中から情報入力装置77による指定によって、RAM73に登録されたものである。
テンプレート画像10と加重平均補助用画像11の登録は、図13に示すテンプレート登録プログラム90を利用することにより実現できる。
テンプレートの登録手順を図12と図13を用いて説明する。
テンプレート登録プログラム90は、RAM73もしくはROM74に格納されており、CPU71がそのプログラムを実行する。
テンプレート登録プログラム90を実行する場合、RAM73にテンプレートとなる撮影画像80が保存されていない場合は、画像入力装置76でテンプレート画像となる被写体を撮影し(ステップ900)、それをRAM73に保存する。
次にRAM73に保存されている撮影画像80を、情報出力装置(ディスプレイ)78に表示する(ステップ901)。
オペレータは、図12に示すように、情報出力装置78の画面をみながら、情報入力装置77を用いて撮影画像80内の所望のパターンを含む画像領域の座標を指定する。CPU71は、その座標情報の指定を受けて、その座標範囲の画像領域81をテンプレート画像10として登録する(ステップ902)。次に加重平均補助用の画像11を登録する(ステップ905)。加重平均補助用の画像11は、テンプレート画像10のパターンと同じパターンを含む画像である。
ここでパターンとは、被写体の形状を示す輝度情報を指している。つまり、被写体の画像化に光学式の撮像装置が使用された場合には、被写体からの反射光もしくは、透過光の強度が被写体の形状を示す輝度情報であり、被写体の画像化に電子顕微鏡が使用された場合には、被写体から放出された二次電子、反射電子を収集、増幅したものが被写体の形状を示す輝度情報である。
通常は撮影の過程で、被写体の形状を示す輝度情報にランダムノイズが重畳するが、テンプレート画像10および加重平均補助用画像11として登録する画像は、ランダムノイズの影響を受けず、被写体の形状を正確に示す輝度情報を持つ画像が望ましい。
以上から、テンプレート画像10を加重平均補助用画像11として登録してもよいし、テンプレート画像10を抽出した撮影画像80以外の撮影画像からテンプレート画像10と同じパターンを切り出して登録しても良い。
なお、本例では、加重平均補助用画像11として登録する被写体を撮影し(ステップ903)、RAM73に保存した後、その撮影画像を情報出力装置78に表示させ(ステップ904)、その撮影画像の確認後に該画像を加重平均補助用画像11として登録している。
テンプレート画像10を加重平均補助用画像11として利用する場合には、ステップ903、904は省略される。
加重平均手段14は、既述したように、マッチング候補画像18に、加重平均補助用画像11を加えて加重平均処理を行う。
加重平均とは、加重対象の複数の画像(本実施例では、マッチング候補画像18と加重平均補助用画像11)の各画素の輝度値に重み付け係数を掛けることで、それらの複数画像の重み付き平均画像(以下、加重平均画像とする)を求めるものであり、式1で表すことができる。重み付けの係数k1=k2=0.5を通常値とするが、これは限定しない。
Dst(i,j)=k1×Img1(i,j)+k2×Img2(i,j) …式1
k1+k2=1.0
Dst(i,j):加重平均処理画像
Img1(i,j):マッチング候補画像
Img2(i,j):加重平均補助画像
図5は、加重平均手段14のハード構成を示すものであり、マッチング候補画像Img1(i,j)の各画素の輝度値に重み付け係数k1を掛けるための乗算器141と、加重平均補助画像Img2(i,j)の各画素の輝度値に重み付け係数k2を掛けるための乗算器142と、重み付け処理されたマッチング候補画像と加重平均補助画像の各画素の輝度値を加算する加算器143によって構成される。
加重平均による効果について、図8の輝度プロファイルを用いて説明する。
輝度プロファイルは、画像上の座標を横軸として、各座標の画素の輝度値を縦軸に表したものである。破線1はランダムノイズが重畳していないパターン(画像信号)、破線2がランダムノイズ、実線はランダムノイズが重畳した画像信号を示している。
図8には、テンプレート画像10の輝度ファイル301、被サーチ画像内のマッチング候補A画像18−1の輝度ファイル302、マッチング候補B画像18−2の輝度ファイル303、加重平均補助用画像11の輝度ファイル304を例示している。2つのマッチング候補画像のうち、輝度ファイル302は、被サーチ画像におけるマッチング位置(すなわち、テンプレート画像と同一のパターンが存在する位置の画像)の輝度ファイルである。輝度ファイル303は、被サーチ画像における非マッチング位置の輝度ファイルである。なお、各マッチング候補画像18−1,18−2は、実際には、同一位置で同一被写体に対して複数回撮影された複数枚の被サーチ画像から切り出されるために、各マッチング候補画像18−1,18−2がそれぞれ複数存在するが、ここでは、便宜上、代表的に各々一枚だけを例示している。
マッチング候補画像18−1,18−2は、共にランダムノイズの影響を受けてパターンが欠落しており、仮に各々一枚だけをテンプレート画像とパターンマッチングした場合には、マッチングの過程で誤った一致度を検出し、ミスマッチングされることがある。
このような不具合を解消するために、各マッチング候補画像は、複数取得されて、加重平均手段14によって加重平均されるが、本実施例では、被サーチ画像の撮影回数を減らすために、各マッチング候補画像に加重平均補助用画像11を加えて加重平均処理を行う。すなわち、マッチング候補A画像18−1と加重平均補助用画像11との加重平均処理、およびマッチング候補B画像18−2と加重平均補助用画像11との加重平均処理を行う。ここで、加重平均補助用画像の枚数がマッチング候補画像に較べて多すぎると、各マッチング候補画像の加重平均後の画像データが似通ってきてしまうので、適度な量に制限する必要がある。以上を考慮して、各マッチング候補画像の枚数(被サーチ画像の枚数)Lと加重平均補助用の画像の枚数Mとは、L>Mの関係にある。
このような加重平均処理によれば、マッチング候補A画像18−1については、ランダムノイズが低減され、また、加重平均補助用画像11の加入により、テンプレート画像と一致すべきパターンの明りょう化を図れる。この場合の加重平均後の画像18´−1の輝度ファイルが図8の305で示される。
一方、マッチング候補B画像18−2(テンプレート画像11と一致しない画像)については、加重平均後の画像18´−2の中に加重平均補助用画像304のパターンが重み付け係数k2の割合で含まれることになる。例えばk1=0.5、k2=0.5とした場合、加重平均補助用画像11のパターンが1/2含まれた画像を得ることになる。このような場合においては、加重平均後のマッチング候補画像18´−2がテンプレートに類似する傾向となる。しかし、加重平均によってランダムノイズが低減される。また、非マッチング位置のマッチング候補B画像18−2にテンプレート画像とパターンが同一の加重平均補助用画像11が加わったとしても、それは各画像における加重平均処理枚数のうち少数であるので、加重平均によりそのパターンは希釈化される。そのため、本来のパターン情報が良好に抽出できるようになる。306は、この画像18´−2の輝度ファイルである。このため、加重平均処理後のパターンの差30をマッチング結果に反映させることでマッチング候補間の一致度の差を検出することが可能となる。
図3において、パターンマッチング手段15は、テンプレート画像10(図8の輝度ファイル301相当)と加重平均画像18´(図8の加重平均画像18´−1、18´−2の輝度ファイルに相当)のパターンマッチングを行い、一致度(以下、マッチング値19とする)を計測する。パターンマッチングの手法は、各加重平均画像18´のパターン情報の差30に基づき一致度を判定できる手法であればよく、その具体的な手法は、限定しない。つまり、加重平均によって変化したパターン(不一致のマッチング候補)と、加重平均により変化しなかったパターン(一致のマッチング候補)の差を利用して一致度を計測するパターンマッチング手法であればよい。
上記のようなパターンマッチングの手法としては、例えば、単純に画像間の輝度比較を行う輝度差分法や、画像の標準偏差を用いて正規化した後に画像間の相関を求める正規化相関法などがある。
マッチング値比較手段16は、各マッチング候補画像のマッチング値19の中から最も高いマッチング値を検出して、そのマッチング値をもつマッチング候補画像の被サーチ画像内での画像位置(位置座標)をマッチング位置17として出力する。
〔実施例2〕
図4は、本発明の実施例2におけるパターンマッチング装置100のブロック図である。
本実施例において、実施例1と同一符号は、実施例1に用いる構成要素と同一或いは共通する要素を示す。
本実施例において、実施例1と相違する点は、加重平均手段14の後段に画像変換手段20を設けたことである。
画像変換手段20は、加重平均された画像18´に対して、パターンとランダムノイズ成分を分離した画像(ここでは、「加重平均変換画像」と称する)21を生成するものである。パターンとランダムノイズを分離する方法としては、フーリエ変換を利用した方法やフィルタ係数を利用した方法など様々あるが、ノイズの低減効果があるものであれば、これを限定しない。
図10を用いて画像変換の一例を示す。
マッチング候補A画像18−1およびマッチング候補B画像18−2に対して、加重平均補助用画像11をk1=0.5,k2=0.5の重み付け係数で加重平均した画像が加重平均A画像18´−1および加重平均B画像18´−2である。加重平均A画像18´−1および加重平均B画像18´−2に対し、画像変換手段20を用いて、式2に示すエッジ抽出フィルタを適用した画像が、加重平均A変換画像509および加重平均B変換画像510である。
符号504、505で示す画像は、本実施例に対する比較例であり、それらは、マッチング候補A画像18−1、マッチング候補B画像18−2に対して、それぞれ加重平均を行わずに直接式2に示すフィルタ処理を施した画像である。加重平均を行わない画像に比べ、加重平均を行った画像は、エッジ成分とノイズ成分が良好に分離できているのが分かる。このような画像変換手段20を適用することで、ランダムノイズの影響を更に低減した画像でパターンマッチングを行うことができる。
Figure 2006107046
i,j:画像座標
Dst2(i,j):加重平均処理変換画像
Dst(i,j):加重平均処理画像
Fx(i,j):水平方向のエッジ成分
Fy(i,j):垂直方向のエッジ成分
式2における、Fx(i,j)は、画像の水平方向の隣接画素同士の濃淡の勾配のあるところをエッジとして求め、同じくFy(i,j)は、画像の垂直方向の隣接画素同士の濃淡の勾配のあるところをエッジとして求めている。
図6は、上記式2を実行するための画像変換手段20(エッジ抽出フィルタ)のハード構成を示す一例であり、引き算器151、152、加算器153、154、155、156、157、158、乗算器159、160、引き算器161、162、二乗演算器163、164、加算器165、ルート演算器166により構成される。
図7(a)は、上記式2が適用される画像座標データであり、同図(b)は、その水平方向エッジ成分を求める場合(画像変換する場合)の各画素に適用される係数であり、どう図(c)は、の加重平均処理変換にその垂直方向エッジ成分を求める場合(画像変換する場合)の各画素に適用される係数である。
〔実施例3〕
図16は、実施例1および実施例2で示した本発明のパターンマッチング装置100の機能をソフトウェアで実行するためのパターンマッチングプログラムのフローチャートである。
パターンマッチングプログラムは、図2(b)に示した情報処理装置7001のRAM703、およびROM704に格納されており、情報入力装置706の指示を受けたCPU701がパターンマッチングに必要な起動、実行、終了の制御を行うものである。
パターンマッチングプログラム起動後、RAM703に格納されている画像を利用してテンプレート画像10の登録を行い(ステップ1201)、加重平均補助用画像11を登録する(ステップ1202)。RAM703に格納されている被サーチ画像12からマッチング候補画像18を切り出し、加重平均補助用画像11とテンプレート画像10の加重平均を行い、加重平均画像18´を生成する(ステップ1203)。加重平均画像18´、もしくは加重平均画像18´を画像変換(ステップ1204)した加重平均変換画像21に対してテンプレート画像10とのパターンマッチングを行なう(ステップ1205)。被サーチ画像12の終点までパターンマッチングが終了した時点で、最もマッチング値の高いマッチング候補の画像位置を検出し(ステップ1207)、RAM703および情報出力装置708に出力する(ステップ1208)。これらの加重平均処理、画像変換処理、パターンマッチングは、CPU701の演算により行なわれる。
〔実施例4〕
図14は、上記した図2の画像処理装置(情報処理装置)7000を半導体検査装置1001に適用したブロック図である。
本例の装置1001は、走査型電子顕微鏡76で撮影した画像を利用して、半導体ウェハの検査を行うものである。ブロック図の構成要素であるCPU71、信号入力IF72,RAM73、ROM74,信号出力IF75、画像データ処理部79、情報出力装置77、パターンマッチング装置100は、図2(a)で示した画像処理装置7000の構成要素と同等のため、説明を省略する。
半導体検査装置1001のコスト、要求性能により、本例のパターンマッチング装置100は、実施例1、2で示したハードウェアで構成してもよいし、実施例3で示したソフトウェアで構成してもよいし、或いは一部をハードウェア、残りをソフトウェアで構成してもよい。
検査工程の全体制御は、CPU71がRAM73およびROM74に格納された検査制御プログラムを利用することで行う。検査制御プログラムの処理フローを図17に示す。
検査の前工程として、実施例1に示したテンプレート登録プログラムを起動して半導体ウェハ上の検査パターン、もしくは検査パターンとその付近のパターンをテンプレート画像10として登録し、テンプレート画像10と同じパターンを含む加重平均補助用の画像11を登録する(ステップ1301)。テンプレート画像10、加重平均補助用画像11の作成については、既述したので省略する。続いて半導体ウェハ上の検査位置を登録する(ステップ1302)。
図15に半導体ウェハ1101、走査型電子顕微鏡76により半導体ウェハ1101上の所定の位置を撮影した画像1102、テンプレート登録プログラムにより登録するテンプレート画像1103、検査位置を指定するための指標1104の関係を示す。検査位置は、情報出力装置77に表示される画像1102の任意の位置に情報入力装置77による指標1104の操作により特定することができる。
ステップ1302の後、走査型電子顕微鏡のスキャン方法や測長検査、欠陥検査などの検査方法を登録する(ステップ1303)。
その後に検査工程が入る。検査工程では、検査の対象となる半導体ウェハを電子顕微鏡で撮影し(ステップ1304)、撮影画像(既述の被サーチ画像12に相当する)をRAM73に保存する。テンプレート10、加重平均補助用画像11、被サーチ画像12からのマッチング候補画像に関するデータをパターンマッチング装置100に入力して、加重平均処理、パターンマッチングを行うことにより、マッチング位置を得る(ステップ1305)。
なお、ステップ1305では、図16に示す画像変換の実行1204を含む。続いてマッチング位置の座標が知り得ることから、マッチング位置の画像内に検査位置1104を特定し、検査処理装置1002を起動して検査方法の登録1303で指定した検査を行う(ステップ1306)。その後、検査結果をRAM73および情報出力装置77に出力する。ウェハの検査が終了次第、検査制御プログラムを終了する。なお、検査処理装置1002は、画像処理部79と同様にFPGA、ASICなどのハードウェアで構成してもよいし、検査処理装置1102の機能をプログラム化してRAM73およびROM74に登録しておき、CPU71の制御によって起動、実行、終了するソフトウェアで構成してもよい。
(a)は、本発明の画像処理に関する原理図、(b)は、従来方式の画像処理の原理図。 (a)は、本発明の実施例1に係るパターンマッチング装置を搭載した情報処理装置(画像処理装置)を示すブロック図、(b)は、同じく実施例2の情報処理装置のブロック図。 実施例1に用いるパターンマッチング装置を示すブロック図。 実施例2に用いるパターンマッチング装置を示すブロック図。 実施例1における加重平均処理手段の構成を示す図。 実施例2における加重平均処理手段の構成を示す図。 実施例2の加重平均処理に用いるデータを示す図。 本発明のパターンマッチング装置で利用する画像の輝度プロファイルを示した図。 本発明のパターンマッチング装置で利用する画像を示した図。 本発明のパターンマッチング装置で利用する画像を示した図。 本発明のパターンマッチング装置を搭載した情報処理装置と周辺装置の外観を示した図。 情報出力装置の外観と、本発明のパターンマッチング装置で利用する画像を示した図。 テンプレート登録プログラムのフローチャート。 本発明の画像処理装置を搭載した半導体検査装置を示すブロック図。 半導体ウェハと撮影画像およびテンプレート画像の関係を示した図。 本発明のパターンマッチング装置の機能を示すフローチャート。 本発明のパターンマッチング装置の機能を含む半導体検査工程を示すフローチャート。 テンプレートを用いたパターンマッチングの手順を示した図。
符号の説明
10…テンプレート画像、11…加重平均補助用画像、12…被サーチ画像、14…加重平均処理手段、15…パターンマッチング手段、16…マッチング値比較手段、17…マッチング位置、18…マッチング候補画像、18´…加重平均画像、20…画像変換手段、21…加重平均変換画像、100…パターンマッチング装置、301…テンプレート画像の輝度プロファイル、302…マッチング候補A画像の輝度プロファイル、303…マッチング候補B画像の輝度プロファイル、304…加重平均補助用画像の輝度プロファイル、305…加重平均A画像の輝度プロファイル、306…加重平均B画像の輝度プロファイル、30…加重平均後のパターン情報の差、401…テンプレート画像、402…マッチング候補A画像、403…マッチング候補B画像、404…マッチング候補A画像の相関像、405…マッチング候補B画像の相関像、406…ノイズが重畳したマッチング候補A画像、407…ノイズが重畳したマッチング候補B画像、408…ノイズが重畳したマッチング候補A画像の相関像、409…ノイズが重畳したマッチング候補B画像の相関像、71…CPU、72…信号入力IF、73…RAM、74…ROM、75…信号出力IF、76…画像入力装置、77…情報入力装置、78…情報出力装置、79…画像処理部、7000…情報処理装置、701…CPU、702…信号入力IF、703…RAM、704…ROM、705…信号出力IF、706…画像入力装置、707…情報入力装置、708…情報出力装置、709…画像処理部、7001…情報処理装置、80…撮影画像、81…テンプレート画像、加重平均補助用画像、1001…半導体検査装置、1002…検査処理部、1101…半導体ウェハ、1102…半導体ウェハの撮影画像、1103…テンプレート画像、1104…検査位置、1401…テンプレート画像、1402…被サーチ画像、1403…マッチング候補画像、1404…マッチング位置。

Claims (9)

  1. ランダムノイズが含まれる撮影画像の中から目的のパターンを認識するために、前記撮影画像を複数取得して加重平均処理を施し、加重平均処理された画像とテンプレート画像とをパターンマッチングする画像処理方法において、
    前記加重平均処理を補助するための画像として前記テンプレート画像と同じパターンを含む画像を用意し、前記加重平均処理は、前記撮影画像に前記加重平均補助用の画像も加えることにより行われることを特徴とする画像処理方法。
  2. 請求項1において、前記加重平均補助用の画像は、前記テンプレート画像の作成に利用した被写体と同じパターンを有する被写体を撮影することにより得られたものである画像処理方法。
  3. 請求項1において、前記加重平均補助用の画像は、前記テンプレート画像が兼ねている画像処理方法。
  4. 請求項1において、前記画像処理方法は、被検査物の表面状態を検査するために使用され、前記ランダムノイズが含まれる撮影画像は、被検査物の表面を複数回撮影して得られた複数の撮影画像であり、前記加重平均補助用の画像は、前記被検査物と同じパターンを有する基準の被写体を検査に先立って撮影することにより予め用意され、前記ランダムノイズが含まれる撮影画像の枚数Nと前記加重平均補助用の画像の枚数Mとは、L>Mの関係にある画像処理方法。
  5. 認識対象となるパターンを含む撮影画像を複数取得して加重平均処理し、加重平均処理された画像とテンプレート画像とをパターンマッチングして前記パターンを認識する画像処理装置において、
    前記テンプレート画像と同じパターンを含む画像を、前記加重平均処理を補助するための画像として登録する手段と、
    前記撮影画像に前記加重平均補助用の画像も加えて加重平均処理を行う手段と、を備えていることを特徴とする画像処理装置。
  6. 請求項5において、前記加重平均した画像からランダムノイズを低減する手段を備えたことを特徴とする画像処理装置。
  7. 請求項5において、撮影された被写体の画像を表示するディスプレイと、このディスプレイに表示された画像から前記テンプレート画像および前記加重平均補助用の画像を指定する情報入力手段と、前記情報入力手段の指示に基づき前記テンプレート画像および加重平均補助用の画像をデータ保存部に登録するデータ登録手段とを備えた画像処理装置。
  8. 走査型電子顕微鏡の撮影によって得られた検査対象の半導体の表面画像データを入力して半導体の検査を行う半導体検査装置において、
    半導体の表面画像データを処理する手段として、検査対象の撮影画像を複数取得して加重平均処理し、加重平均処理された画像とテンプレート画像とをパターンマッチングしてテンプレートとパターンが一致する撮影画像中のマッチング位置を検出する画像処理装置と、半導体表面上のマッチング位置のパターンを検査する手段を備え、
    且つ、前記画像処理装置は、前記テンプレート画像と同じパターンを含む画像を、前記加重平均処理を補助するための画像として登録し、この加重平均補助用の画像を検査対象の前記撮影画像に加えて加重平均処理を行う機能を有することを特徴とする半導体検査装置。
  9. 請求項8において、半導体検査の工程を制御する手段と、前記走査型電子顕微鏡からの撮影画像やテンプレート画像、加重平均補助用の画像などを保存するデータ保存手段と、撮影画像に対して輝度むら除去などの画像処理を行う手段と、半導体ウェハの検査を行う検査処理手段と、前記テンプレート画像、加重平均用の画像および前記走査型電子顕微鏡からの撮影画像内の検査位置を指定する情報入力装置と、前記情報入力装置の指示を受けて前記テンプレート画像および加重平均用の画像をデータ保存手段に登録する手段と、前記走査型電子顕微鏡の撮影画像、テンプレート画像、加重平均補助用の画像およびパターンマッチングの結果などを表示する情報出力装置と、を備えたことを特徴とする半導体検査装置。
JP2004291631A 2004-10-04 2004-10-04 画像処理方法、画像処理装置及び半導体検査装置 Active JP4865204B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004291631A JP4865204B2 (ja) 2004-10-04 2004-10-04 画像処理方法、画像処理装置及び半導体検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004291631A JP4865204B2 (ja) 2004-10-04 2004-10-04 画像処理方法、画像処理装置及び半導体検査装置

Publications (2)

Publication Number Publication Date
JP2006107046A true JP2006107046A (ja) 2006-04-20
JP4865204B2 JP4865204B2 (ja) 2012-02-01

Family

ID=36376724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004291631A Active JP4865204B2 (ja) 2004-10-04 2004-10-04 画像処理方法、画像処理装置及び半導体検査装置

Country Status (1)

Country Link
JP (1) JP4865204B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009216398A (ja) * 2008-03-07 2009-09-24 Hitachi High-Technologies Corp テンプレート作成方法及び画像処理装置
WO2011114644A1 (ja) * 2010-03-18 2011-09-22 株式会社日立ハイテクノロジーズ 走査荷電粒子顕微鏡を用いた画像生成方法及び装置、並びに試料の観察方法及び観察装置
JP2013126056A (ja) * 2011-12-14 2013-06-24 Nippon Telegr & Teleph Corp <Ntt> 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023046978A (ja) 2021-09-24 2023-04-05 富士フイルムビジネスイノベーション株式会社 照合装置及びプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009216398A (ja) * 2008-03-07 2009-09-24 Hitachi High-Technologies Corp テンプレート作成方法及び画像処理装置
WO2011114644A1 (ja) * 2010-03-18 2011-09-22 株式会社日立ハイテクノロジーズ 走査荷電粒子顕微鏡を用いた画像生成方法及び装置、並びに試料の観察方法及び観察装置
JP2011196731A (ja) * 2010-03-18 2011-10-06 Hitachi High-Technologies Corp 走査荷電粒子顕微鏡を用いた画像生成方法及び装置、並びに試料の観察方法及び観察装置
JP2013126056A (ja) * 2011-12-14 2013-06-24 Nippon Telegr & Teleph Corp <Ntt> 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム

Also Published As

Publication number Publication date
JP4865204B2 (ja) 2012-02-01

Similar Documents

Publication Publication Date Title
KR102466997B1 (ko) 라이브니스 검사 방법 및 장치
TWI621849B (zh) 用於偵測晶圓上之缺陷之電腦實施方法、非暫時性電腦可讀媒體及系統
US8849062B2 (en) Eye defect detection in international standards organization images
JP4154374B2 (ja) パターンマッチング装置及びそれを用いた走査型電子顕微鏡
KR101857961B1 (ko) 드론과 열 영상 카메라의 영상분석을 이용한 자동 싱크홀 탐지 시스템 및 방법
TW201727580A (zh) 使用缺陷特定及多通道資訊檢測晶圓上之缺陷
JP6299300B2 (ja) 画像処理装置および画像処理方法
US11250559B2 (en) Inspection method and system
JP2010112802A (ja) 木材の外観検査装置、木材の外観検査方法
JP2014020926A (ja) 表面欠陥検査装置及び表面欠陥検査方法
JP4865204B2 (ja) 画像処理方法、画像処理装置及び半導体検査装置
JP2006323779A (ja) 画像処理方法、画像処理装置
JP4801697B2 (ja) 画像形成方法,画像形成装置、及びコンピュータプログラム
JP2009139133A (ja) 欠陥検出方法および欠陥検出装置
CN114913071A (zh) 集成亮度区域信息的特征点匹配的水下图像拼接方法
JP6716769B1 (ja) 画像検査方法、画像検査装置、及び画像検査プログラム
JP2012133587A (ja) 画像解析装置、画像解析方法及びプログラム
JP5671135B2 (ja) 位置検出装置およびそれを搭載した外観検査装置
JP2004072415A (ja) 侵入物検出装置
KR102509215B1 (ko) 인쇄회로기판의 코팅 영역 검출 방법 및 장치
JP4893938B2 (ja) 欠陥検査装置
JP6955147B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JPH06309434A (ja) 画像処理方法及び装置
JP2009145161A (ja) 欠陥検出方法および欠陥検出装置
JP2004178243A (ja) 移動物体抽出装置、移動物体抽出方法、移動物体抽出プログラム及びそのプログラムを記録した記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061218

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20061218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100112

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100602

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100728

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20100820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111017

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111110

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4865204

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350