JP2009162563A - デバイス外観検査装置及び方法、プログラム - Google Patents

デバイス外観検査装置及び方法、プログラム Download PDF

Info

Publication number
JP2009162563A
JP2009162563A JP2007340572A JP2007340572A JP2009162563A JP 2009162563 A JP2009162563 A JP 2009162563A JP 2007340572 A JP2007340572 A JP 2007340572A JP 2007340572 A JP2007340572 A JP 2007340572A JP 2009162563 A JP2009162563 A JP 2009162563A
Authority
JP
Japan
Prior art keywords
image
inspection
illumination
imaging
foreign matter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007340572A
Other languages
English (en)
Other versions
JP2009162563A5 (ja
JP4958114B2 (ja
Inventor
Kazuo Otsuka
一雄 大塚
Masashi Kawamatsu
政士 川松
Hideji Fukunishi
秀次 福西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon IT Solutions Inc
Original Assignee
Canon IT Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon IT Solutions Inc filed Critical Canon IT Solutions Inc
Priority to JP2007340572A priority Critical patent/JP4958114B2/ja
Publication of JP2009162563A publication Critical patent/JP2009162563A/ja
Publication of JP2009162563A5 publication Critical patent/JP2009162563A5/ja
Application granted granted Critical
Publication of JP4958114B2 publication Critical patent/JP4958114B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】本発明は、広視野を暗視野照明を使って低解像度で検査し、その形状の合否判定が難しい小さな異物に関しては、狭視野を明視野光源を使って高解像度に再検査を実行することで、デバイスのセンサー表面や保護ガラス面の異物を高速に検出することができるデバイス外観検査装置を提供する。
【解決手段】基準となるデバイス100のガラス面/センサー面を暗照明及び明照明で照明して所定の倍率で撮像した基準画像を作成し、基準画像と検査対象となるデバイス100を同一の条件で撮像した検査画像から差分画像を作成し、差分画像の予め設定されたマスク範囲にある異物の位置及び面積を含む異物一覧情報を保存し、予め設定された閾値等により異物の判定を行う。保存された異物一覧情報に基づいて、所定の第一の撮像条件で撮像し、異物の面積が予め設定された閾値等に合えば、異物の位置で第一の撮像条件とは異なる第二の撮像条件で撮像し、新たに作成した差分画像を検査して異物に関する情報を更新する。
【選択図】図15

Description

本発明は、CCDやCMOSセンサーなどのデバイスの外観を検査するデバイス外観検査装置及び方法、プログラムに関し、特に、デバイス表面や保護ガラス面の異物の検査に好適なデバイス外観検査装置に関する。
従来、CCDやCMOSセンサーなどのデバイス(受光素子)は、図29に示すように、受光センサー面と、その周辺の電子回路と、それらを保護するための保護ガラス面とで構成されている。このようなデバイスは、通常、クリーンルームなどの清浄な環境において製造されるが、実際問題として異物が受光センサー面やその周辺の電子回路上、また、保護ガラスの上面・下面等あらゆる所に付着する。
保護ガラスの上面(表面)に付着する異物については、その部分を清掃することで異物を除去することができるので、製品として出荷するには問題なく、それにより歩留まりを上げることが可能となる。一方、異物が保護ガラスで覆われたパッケージ内部に付着すると除去できないため、それらを出荷しないように全品検査するのが一般的である。特に、受光センサー面やその上部にあたる保護ガラス面に付着する異物は撮像性能に大きく影響を与えるので、その周辺の電子回路上よりもさらに高精度に検査をする必要がある。
従来、デバイスの外観検査については、顕微鏡を使って人間の目で行われてきた。しかし、長時間にわたって注意力が必要となる作業なので、個人差によるバラツキや見逃しが発生するという問題がある。この問題を解決するために、目視検査に代えて検査装置を使った検査方法が、例えば、特許文献1のように提案されている。特許文献1に記載された技術は、被検査物全体をカメラで撮像し、得られた画像と予め登録された良品画像とを比較して判定するもので、被検査物を高速に検査することが可能である。
また、特許文献2に記載された技術についてもデバイスの外観検査に流用可能である。これは、1つの対象を複数の照明の照射パターンで撮影して得られた画像の特徴を捉えて、検査判断するものであり高精度の検査をすることが期待できる。
特開2003−232750号公報 特開2000−131037号公報
しかしながら、特許文献1に記載された技術では、検査精度を高めようとすると、より高解像度で被検査物であるデバイス全体を撮像しなければならないので、検査するデータ量が増大し、その結果、検査の高速化が難しくなる。さらには検査装置自体のコストがアップするという問題がある。
また、特許文献2に記載された技術では、特定された位置における検査では効果を発揮するが、デバイスなどの検査で求められる、不特定な位置にある異物を見つける検査の場合には、検査位置の特定が困難であり、デバイスの外観検査には適さない。
そこで、本発明は、上記課題を解決するためになされたものであり、広視野を暗視野照明を使って低解像度で検査し、その形状の合否判定が難しい小さな異物に関しては、狭視野を明視野光源を使って高解像度に再検査を実行することで、デバイスのセンサー表面や保護ガラス面の異物を高速に検出することができるデバイス外観検査装置及び方法、プログラムを提供することを目的とする。
上記目的を達成するために、請求項1記載のデバイス外観検査装置は、少なくとも1つのデバイスを固定するデバイス固定手段と、前記デバイス固定手段を任意の位置に移動するデバイス移動手段と、前記デバイス固定手段により固定されたデバイスの検査面を複数の照明条件を切り替えて照明する照明手段と、前記検査面の照明条件の切り替えに対応して倍率を切り替えて画像を撮像する撮像手段と、撮像条件ごとに基準となるデバイスの検査面を前記照明手段により所定の照明方法で照明して前記撮像手段により所定の倍率で撮像した画像から基準画像を作成する基準画像作成手段と、検査対象となるデバイスの検査面を前記照明手段により所定の照明方法で照明し、前記撮像手段により所定の倍率で撮像した検査画像と前記基準画像作成手段で作成された基準画像から差分画像を作成する差分画像作成手段と、前記差分画像作成手段で作成された差分画像から異物と判断する判断基準を撮像条件ごとに登録する異物判断基準登録手段と、第一の撮像条件にしたがって前記撮像手段にて撮像した画像をもとに前記差分画像作成手段で作成した差分画像から前記異物判断基準登録手段により登録された第一の撮像条件に対応する第一の判断基準で判定した異物の位置および形状に関する情報を保存する異物情報保存手段と、前記異物情報保存手段に保存されている異物に関する情報から第二の判断基準に合致する異物について、当該異物の位置に前記デバイス移動手段で移動して前記第一の撮像条件とは異なる第二の撮像条件で撮像し、前記差分画像作成手段で新たに作成した差分画像から前記異物判断基準登録手段により登録された第二の撮像条件に対応する判断基準で判定した当該異物に関する情報を更新する詳細検査手段とを備えることを特徴とする。
上記目的を達成するために、請求項10記載のデバイス外観検査方法は、少なくとも1つのデバイスを任意の位置に移動するデバイス移動工程と、前記デバイスの検査面を複数の照明方法を切り替えて照明する照明工程と、前記検査面の照明条件の切り替えに対応して倍率を切り替えて画像を撮像する撮像工程と、撮像条件ごとに基準となるデバイスの検査面を所定の照明条件で照明して所定の倍率で撮像した画像から基準画像を作成する基準画像作成工程と、検査対象となるデバイスの検査面を前記所定の照明方法で照明して前記所定の倍率で撮像した検査画像と前記基準画像作成手段で作成された基準画像から差分画像を作成する差分画像作成工程と、前記差分画像作成手段で作成された差分画像から異物と判断する判断基準を撮像条件ごとに登録する異物判断基準登録工程と、第一の撮像条件にしたがって前記撮像工程にて撮像した画像をもとに前記差分画像作成工程で作成した差分画像から前記異物判断基準登録工程にて登録された第一の撮像条件に対応する第一の判断基準で判定した異物の位置および形状に関する情報を記憶手段に保存する異物情報保存工程と、前記記憶手段に保存されている異物に関する情報から第二の判断基準に合致する異物について、当該異物の位置に前記デバイス移動工程にて移動して前記第一の撮像条件とは異なる第二の撮像条件で撮像し、前記差分画像作成工程で新たに作成した差分画像から前記異物判断基準登録工程にて登録された第二の撮像条件に対応する判断基準で判定した当該異物に関する情報を更新する詳細検査工程とを備えることを特徴とする。
上記目的を達成するために、請求項12記載のプログラムは、少なくとも1つのデバイスを任意の位置に移動するデバイス移動ステップ、前記デバイスの検査面を複数の照明方法を切り替えて照明する照明ステップ、前記検査面の照明条件の切り替えに対応して倍率を切り替えて画像を撮像する撮像ステップ、撮像条件ごとに基準となるデバイスの検査面を所定の照明条件で照明して所定の倍率で撮像した画像から基準画像を作成する基準画像作成ステップ、検査対象となるデバイスの検査面を前記所定の照明方法で照明して前記所定の倍率で撮像した検査画像と前記基準画像作成手段で作成された基準画像から差分画像を作成する差分画像作成ステップ、前記差分画像作成手段で作成された差分画像から異物と判断する判断基準を撮像条件ごとに登録する異物判断基準登録ステップ、第一の撮像条件にしたがって前記撮像ステップにて撮像した画像をもとに前記差分画像作成ステップで作成した差分画像から前記異物判断基準登録ステップにて登録された第一の撮像条件に対応する第一の判断基準で判定した異物の位置および形状に関する情報を記憶手段に保存する異物情報保存ステップ、及び前記記憶手段に保存されている異物に関する情報から第二の判断基準に合致する異物について、当該異物の位置に前記デバイス移動手段で移動して前記第一の撮像条件とは異なる第二の撮像条件で撮像し、前記差分画像作成ステップで新たに作成した差分画像から前記異物判断基準登録ステップにて登録された第二の撮像条件に対応する判断基準で判定した当該異物に関する情報を更新する詳細検査ステップをコンピュータに実行させることを特徴とする。
本発明によれば、デバイスのセンサー表面や保護ガラス面の異物を高速に検出することができる。特に、広視野を暗視野光源を使って低解像度で検査し、その形状の合否判定が難しい小さな異物に関しては、狭視野を明視野光源を使って高解像度で再検査を実行することができるので、歩留まりを落とすことなく高速に正確な判定が可能となる。
以下、本発明の実施の形態を図面を参照して詳細に説明する。
図1は、本発明の実施形態に係るデバイス外観検査装置の全体構成を示す図である。
図1において、本発明の実施形態に係るデバイス外観検査装置は、照明装置コントローラ8と、XYZズームコントローラ9と、情報処理装置としてのパーソナルコンピュータ(PC)10と、検査台101とを備える。
デバイス100は、デバイス固定手段である検査トレー7上に複数個が搭載され、エアーで吸着固定される。検査トレー7は、9個のデバイスを固定可能であるが、この個数に限定されるものではない。デバイス100は、X・Y軸ステージ4によってカメラ直下への移動が可能となる。
カメラ1は、ケーブル13を通じてPC10に画像データを送信する。カメラ1は、Z軸ステージ3によって、その位置が上下し、検査面であるセンサー面およびガラス面にフォーカスがあうようにコントロール可能である。デバイス移動手段としてのX・Y,Z軸ステージ3,4は、ケーブル14、ケーブル15、ケーブル16によりXYZズームコントローラ9からコントロールされる。
ズームレンズ2は、ケーブル17によりXYZズームコントローラ9からコントロールされる。ズームレンズ2は、撮像ターゲットを数倍〜数十倍に拡大することができるので、大きな異物は低倍率で検査し、良品と区別のつき難い小さな異物は高倍率で検査することが可能である。本実施形態では、低倍率を(×1)倍、高倍率を(×5)倍とした倍率としている。
フォーカス位置は、Z軸ステージ3によって制御するが、その位置情報はPC10にデジタル値で保存されているので、センサー面およびガラス面のそれぞれについて一度フォーカス位置を求めると、その後フォーカス位置検出作業を必要としない。
暗視野照明装置5および明視野照明装置6は、光ファイバー18,19により照明装置コントローラ8につながり、検査内容に応じて切り替えて使用される。本実施形態では、暗視野照明装置5は、検査トレー7に固定されたデバイス100に対し、円周上からフォーカス位置に向けて約20degの角度で照射する照明条件で照明を行う。一方、明視野照明装置6は、検査トレー7に固定されたデバイス100に対し、カメラ1の光軸と同軸で照射する照明条件で照明を行う。
PC10は、ケーブル11を通じてXYZズームコントローラ9とXYZ方向の移動命令やズーム命令やフォーカス命令等が通信可能である。またケーブル12を通じて照明装置コントローラ8と照明切替命令が通信可能である。
図2は、図1に示す明視野照明装置6および暗視野照明装置5によるデバイス100の照明状況を説明するための概略図であり(a)は明視野照明装置6の場合、(b)は暗視野照明装置5の場合を示す。
装置の電源がONになると、照明装置コントローラ8により明視野照明装置6と暗視野照明装置5がONになる。これらの照明装置はシャッター機能を有しているのでそれぞれを開閉することによりリアルタイムに照明装置の切替動作が可能となる。照明装置からの反射光は、カメラ1で撮像されそのデータはPC10のメモリに取り込まれる。
暗視野照明装置5を使うと、ターゲットの異物が実サイズより大きく撮像されるので、低解像度でも微小な異物を検出することが可能である。一方、明視野照明装置6を使うと、ターゲットの異物が実サイズで撮像されるので、その異物の長さや面積などの形状を精度よく判定することが可能である。このように、ズームレンズ2や明視野照明装置6、暗視野照明装置5を組み合わせて検査することで、広範囲の異物を高速に精度よく検査することが可能となる。
本実施形態では、暗視野照明装置のときはズームレンズ2の倍率を(×1)倍とし、明視野照明装置のときはズームレンズ2の倍率を(×5)倍としているが、これは検出したい異物のサイズに応じて決めれば、この倍率である必要はない。
図3は、図1に示すPC10のハードウェア構成を示すブロック図である。
CPU201は、システムバス204に接続される各デバイスやコントローラを統括的に制御する。また、ROM202或いは外部メモリ213には、CPU201の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、PC10の実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。RAM203は、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をRAM203にロードして、プログラムを実行することで各種動作を実現するものである。
また、入力コントローラ(入力C)205は、キーボード211や不図示のマウス等のポインティングデバイスからの入力を制御する。ビデオコントローラ(VC)206は、CRTディスプレイ(CRT)212等の表示器への表示を制御する。表示器はCRTだけでなく、液晶ディスプレイでも構わない。これらは必要に応じて管理者が使用するものである。本発明には直接関係があるものではない。メモリコントローラ(MC)207は、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶するハードディスク(HD)やフロッピー(登録商標)ディスク(FD)或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等の外部メモリ213へのアクセスを制御する。通信I/Fコントローラ208は、照明装置コントローラ214と通信が可能である。通信I/Fコントローラ209は、照明装置コントローラ215と通信が可能である。画像入力コントローラ210は、カメラ216から画像情報が受信可能である。なお、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、CRT210上での表示を可能としている。また、CPU201は、CRT212上の不図示のマウスカーソル等でのユーザ指示を可能とする。
本発明を実現するための検査プログラム217は、外部メモリ213に記録されており、必要に応じてRAM203にロードされることによりCPU201によって実行されるものである。さらに、本発明に係わるプログラム217が用いる各種情報テーブル218および各種検査結果219は外部メモリ213に格納されており、これらについての詳細な説明は後述する。
検査の前に検査中に使う機能のために前処理が必要になる。まず前処理について図4を用いて説明する。
図4は、デバイスの検査前にPC10が実行する前処理のフローチャートである。
ステップS302では、CPU201は、シェーディング補正情報作成処理を実行する。本実施形態では、照明ムラを補正するために、暗視野照明・低倍率そして明視野照明・高倍率それぞれのシェーディング補正データを作成する。シェーディング補正画像の元データはデバイス配線パターンが現れない部分を用いる。この部分は光学的にほぼ均一になっているので補正データを得るのに最適である。この部分の画像を複数枚撮像し、その平均値をとることでさらに精度のよいシェーディング補正情報が作成できる。
ステップS303では、CPU201は、基準画像情報作成処理を実行する。本実施形態では、検査対象となるデバイスの画像と予め登録しておいた正常なデバイスを撮像した画像である基準画像とを比較することで、検査を行う。
ステップS304では、CPU201は、マスク画像情報作成処理(マスク処理)を実行する。本実施形態では、検査判定レベルを検査領域に合わせて変更するためにマスク画像を作成する。検査は基準画像と被検査物画像の差、それにこのマスク画像を組み合わせて実施する。通常、受光センサーにあたる部分の検査はより厳しく実施する必要があるので、マスクによる閾値を厳しく設定することを可能としている。一方、例えばパッケージ内であるが、受光センサー面以外の電子回路部も、検査を必要とするがその判定レベルは受光センサー部分より甘く設定することが可能である。また、配線パターンが露出しており検査が不可能な所はマスクにより不感帯として設定することも可能である。暗視野基準画像にマスク領域を設定したものを図13に示す。マスク画像を作成することでそれぞれの画素の検査感度を調整する。
図13において、マスク1領域1300と、マスク2領域1301と、マスク1閾値と、マスク2閾値とを設定する。マスク1領域の異物は、明視野照明装置を使った詳細検査にも利用する。マスク1閾値及びマスク2閾値は、後述する検査画面上でユーザにより任意に設定登録された、異物の判定に必要な値である。
図5は、図4のステップS302のシェーディング補正情報作成処理の詳細を示すフローチャートである。
ステップS402では、CPU201は、位置情報として、ガラス面撮像Z方向位置Zg、センサー面撮像Z方向位置Zs、取り出し口X方向位置X0、取り出し口Y方向位置Y0を情報テーブルから読み込む。情報テーブルは、外部メモリ213に格納された検査するためのステージの基準データであり、デバイス100のサイズや検査トレー7の形状に対応したものである。
ステップS404では、CPU201は、図25に示す移動処理を実行して、検査トレー7をセンサー面の撮像位置Zgに移動する。ステップS406では、CPU201は、図6に示す面上シェーディング補正情報作成処理を実行し、センサー面上のシェーディング補正情報を作成する。ステップS408では、CPU201は、図25に示す移動処理を実行して、検査トレー7をガラス面の撮像位置Zsに移動する。
ステップS410では、CPU201は、図6に示す面上シェーディング補正情報作成処理を実行し、ガラス面上のシェーディング補正情報を作成する。ステップS412では、CPU201は、図25に示す移動処理を実行して、検査トレー7を取り出し口のX方向位置X0、Y方向位置Y0に移動して、本処理を終了する。
図6は、図5のステップS406、S410における面上シェーディング補正情報作成処理の詳細を示すフローチャートである。
ステップS502では、CPU201は、シェーディングX方向開始位置Xsh0、シェーディングY方向開始位置Ysh0、X方向への移動回数Xshn、Y方向への移動回数Yshn、暗視野フォーカス量Af、暗視野ズーム量Az、明視野フォーカス量Mf、明視野ズーム量Mzを情報テーブルから読み込む。また、X繰り返し回数NxとY繰り返し回数Nyを0クリアする。
ステップS504では、CPU201は、計算式:Ysh0+Yshn×NyでY方向移動量を計算して情報テーブルに書き込む。そして、Nyに1を加算する。ステップS506では、CPU201は、図25に示す移動処理を実行して、検査トレー7をY方向へ移動する。ステップS508では、CPU201は、計算式:Xsh0+Xshn×NxでX方向移動量を計算して情報テーブルに書き込む。そして、Nxに1を加算する。
ステップS510では、CPU201は、図25に示す移動処理を実行して、検査トレー7をX方向へ移動する。ステップS512では、CPU201は、図26に示す照明切替処理を実行して、暗視野照明装置5による照明に切り替える。ステップS514では、CPU201は、図27に示す倍率変更処理を実行して、低倍率(×1)に倍率を変更する。ステップS516では、CPU201は、暗視野シェーディング元画像を撮影する。
ステップS518では、CPU201は、図26に示す照明切替処理を実行して、明視野照明装置6による照明に切り替える。ステップS520では、CPU201は、図27に示す倍率変更処理を実行して、高倍率(×5)に倍率を切り替える。ステップS522では、CPU201は、明視野シェーディング元画像を撮影する。
ステップS524では、CPU201は、X方向への移動回数が設定回数Xshn回に達したか否かを判断する。達した場合は、ステップS526へ進む。一方、達していない場合は、ステップS508へ戻る。ステップS526では、CPU201は、Y方向への移動回数が設定回数Yshn回に達したか否かを判断する。達した場合は、ステップS528へ進む。一方、達していない場合は、ステップS504へ戻る。
ステップS528では、CPU201は、撮影した暗視野シェーディング元画像を平均して暗視野平均画像を計算する。そして、暗視野平均画像の全画素の輝度を平均して暗視野輝度平均値を求める。さらに、画素ごとに暗視野輝度平均値から暗視野平均画像の輝度を割り、暗視野シェーディング補正情報を算出して外部メモリ213に保存する。
ステップS530では、CPU201は、撮影した明視野シェーディング元画像を平均して明視野平均画像を計算する。そして、明視野平均画像の全画素の輝度を平均して明視野輝度平均値を求める。さらに、画素ごとに明視野輝度平均値から明視野平均画像の輝度を割り、明視野シェーディング補正情報を算出して外部メモリ213に保存する。
図7は、デバイスの分割撮影方法の一例を示す図である。
精度を上げるためにデバイス100をMd×Nd分割して撮影する。図示例では、3×3分割されたデバイス全体の画像を表している。撮像は、エリア1からエリア9の順に実施される。それぞれの撮影位置情報は、それぞれの画像の撮影位置はデバイスX方向開始位置とデバイスY方向開始位置とデバイスX方向移動量とデバイスY方向移動量から求める。それをソフトウェア処理で画像合成して1個のデバイスとして認識する。なお、画像合成には、少しずつ重なるようにして撮影された複数の画像を張り合わせることで、1枚の高解像度画像に合成する手法を用いる。合成手法としては、画像間で本来同じであるはずの対応関係を自動的に取得し、取得した対応関係から隣接画像と整合するように合成させ、画像間で明るさの違いによる継ぎ目を目立たなくするために輝度補正を行う手法を使用している。
図8は、複数のデバイス100を一度に検査するために用いる検査トレー7の一例を示す図である。
検査トレー7に良品のデバイス100をNs×Ms個セットする。図示例では、3×3=9個のデバイス100がセットされている。1から9の順番に画像を撮影する。それぞれのデバイス画像の撮影位置はステージX方向開始位置とステージY方向開始位置とステージX方向移動量とステージY方向移動量から求める。その9枚の平均画像を基準画像とする。検査はこの基準画像と撮像された被検査物画像の差、それにマスク画像を組み合わせて実施する。
図9は、図4のステップS303における基準画像情報作成処理の詳細を示すフローチャートである。
ステップS902では、CPU201は、ガラス面撮像Z方向位置Zg、センサー面撮像Z方向位置Zs、取り出し口X方向位置X0、取り出し口Y方向位置Y0を情報テーブルから読み込む。
ステップS904では、CPU201は、図25に示す移動処理を実行して、検査トレー7をセンサー面の撮像位置Zgに移動する。ステップS906では、CPU201は、図10に示す面上基準画像作成処理を実行して、センサー面上の基準画像を作成する。ステップS908では、CPU201は、図25に示す移動処理を実行して、検査トレー7をガラス面の撮像位置Zsに移動する。ステップS910では、CPU201は、図10に示す面上基準画像作成処理を実行して、ガラス面上の基準画像を作成する。ステップS912では、CPU201は、図25に示す移動処理を実行して、検査トレー7を取り出し口のX方向位置X0、Y方向位置Y0に移動する。
図10は、図9のステップS906、S910における面上基準画像作成処理の詳細を示すフローチャートである。
ステップS1002では、CPU201は、Ns、Ms、ステージX方向開始位置Xs0、ステージY方向開始位置Ys0、ステージX方向の移動量Xsd0、ステージY方向の移動量Ysd0、暗視野フォーカス量Af、暗視野ズーム量Az、明視野フォーカス量Mf、及び明視野ズーム量Mzを情報テーブルから読み込む。
ステップS1004では、CPU201は、ステップS1002で読み込んだNs、Ms、ステージX方向開始位置Xs0、ステージY方向開始位置Ys0、ステージX方向の移動量Xsd0、ステージY方向の移動量Ysd0と図8を元にデバイス位置を計算する。
次に、ステップS1006では、CPU201は、図25に示す移動処理を実行して、ステップS1004で計算したデバイス位置に移動を行う。ステップS1008では、CPU201は、図26に示す照明切替処理を実行して、暗視野照明装置5による照明に切り替える。ステップS1010では、CPU201は、図27に示す倍率変更処理を実行して、低倍率(×1)に倍率を変更する。ステップS1012では、CPU201は、カメラ1を制御して撮影を行う(暗視野画像撮影)。ここで撮影された暗視野画像は、センサー面上とガラス面上で配線パターンの部分が含まれた画像である。
次に、ステップS1014では、CPU201は、ステップS1012で撮影された暗視野画像に対して位置補正を行い、暗視野基準元画像としてRAM203とともに外部メモリ213に保存する。ステップS1016では、CPU201は、図25に示す移動処理を実行して、カメラ1の撮像範囲の中心が、デバイス位置情報から計算したデバイスの中央に位置するように検査トレー7を移動させる。この位置は明視野基準画像を作成する基準位置となる。
ステップS1018では、CPU201は、図26に示す照明切替処理を実行して、明暗視野照明装置6による照明に切り替える。次に、ステップS1020では、CPU201は、図27に示す倍率変更処理を実行して、高倍率(×5)に倍率を変更する。ステップS1022では、CPU201は、カメラ1を制御して撮影を行う(明視野画像撮影)。ここで撮影された明視野画像は、配線パターンが映らない受光センサー面上とガラス面で撮影された画像である。CPU201は、撮影された明視野画像を明視野基準元画像としてRAM203とともに外部メモリ213に保存する。
次に、ステップS1024では、CPU201は、検査トレー7が所定回数(Ns×Ms回)移動したときはステップS1026へ進む。一方、そうでないときは、ステップS1004へ進む。
ステップS1026では、CPU201は、撮影して得た暗視野基準元画像と明視野基準元画像の平均をとり、暗視野基準画像と明視野基準画像をそれぞれ作成して外部メモリ213に保存する。
なお、ガラス面の基準画像も同様のフローで作成が可能である。しかしながら、ガラス面には位置補正のためのアライメントマークが存在しない。よって、ガラス面の位置補正データはセンサー面の情報を流用することとする。これによって、アライメントマークを検出する時間が省略されると共に、高精度に分割撮像されたデバイスの合成が可能となる。
図11は、図10のステップS1014における画像位置補正処理の説明図である。
搬送用の冶具とデバイス100との間には数mmの隙間があり、デバイス100はその隙間の範囲内で任意の位置にセットされる。このズレ量を補正するために、アライメントマーク1 1100とアライメントマーク2 1101が使用される。検索は、範囲を限ったほうが高速になるので、アライメントマーク1 1100は、検索範囲1 1102内で検索され、アライメントマーク2 1101は、検索範囲2 1103内で検索される。補正は、PC10に組み込まれたソフトウェアで実施される。
図12は、図10のステップS1014における画像位置補正処理の詳細を示すフローチャートである。
ステップS1202では、CPU201は、アライメントマーク1 1100、アライメントマーク2 1101、検索範囲1 1102、及び検索範囲2 1103を情報テーブルから読み込む。次に、ステップS1204では、CPU201は、アライメントマーク1 1100の中心位置を検出する。次に、ステップS1206では、CPU201は、アライメントマーク2 1101の中心位置を検出する。
次に、ステップS1208では、CPU201は、検出したアライメントマーク1 1100とアライメントマーク2 1101の中心位置と基準となるアライメントマークとの差からX方向の移動量、Y方向の移動量、回転量を計算する。ステップS1210では、CPU201は、暗視野基準元画像をステップS1208で算出した量だけ画像処理で移動または回転させて位置補正を行い、本処理を終了する。
図14は、図4のステップS304におけるマスク画像情報作成処理の詳細を示すフローチャートである。
ステップS1402では、CPU201は、マスク1領域1300とマスク1閾値、マスク2領域1301とマスク2閾値および基準輝度値を情報テーブルから読み込む。次に、ステップS1404では、CPU201は、暗視野基準画像と予め設定された基準輝度値から差分画像を作成する(差分画像作成)。次に、ステップS1406では、CPU201は、マスク2領域外の領域を検査対象外として設定する。
次に、ステップS1408では、CPU201は、マスク2領域内かつマスク1領域外の領域で差分値がマスク2閾値外の場合は、その値をマスクデータとして設定する。マスク2閾値内の場合はマスク2閾値の値を設定する。次に、ステップS1410では、CPU201は、マスク1領域内で差分値がマスク1閾値外の場合はその値をマスクデータとして設定する。マスク1閾値内の場合は閾値マスク1の値を設定する。ステップS1412では、CPU201は、上記作業で作成したマスク画像を保存する。
次に、デバイス外観検査装置におけるデバイス検査とそのシミュレーション処理について説明する。
まず、デバイス外観検査装置におけるデバイス検査は、上述したように、暗視野照明装置5を使った低倍率(×1)と明視野照明装置を使った高倍率(×5)の2つの環境で実施される。低倍率では、検査装置は、ある微小サイズ以上の異物を全て検出する。一方、高倍率では、歩留まりを向上させるために、検査装置は、微小サイズの異物のみを検査する。例えば、デバイスの検査環境が次のような場合、3×3の領域に分解すると、検査エリアは、3.0mm×2.3mmとなり、その分解能は約2μm×2μmとなる。
・検査エリア:9mm×7mm
・撮像カメラ:200万画素CCDカメラ(1600×1200画素、素子サイズ:2μm×2μm)
暗視野照明装置5で照明すると、異物に反射した拡散光のために、2μmφ前後の異物を検出することが可能であるが、その大きさを正確に判断することができない。確実に2μmφの異物を検出するには、分解能を高め、明視野照明装置6で照明する必要がある。
しかし、例えば、分解能を5倍に上げて検査すると、検査エリアは25倍となり、検査に要する時間も25倍となる。これでは、タクトタイムが製造ラインに間に合わず、検査装置を製造ラインに設置することができない。
そこで、本検査装置では、まず分解能を約2μmとし暗視野照明装置5を使ってデバイス全体を検査する。そして、5μmφ以下と計測された異物についてのみ分解能を約0.4μmとし、明視野照明装置6を使って、2μm以上の幅と長さ、そして、4平方μm以上の面積を持つ異物のみを確実に検出することとする。この2段階の検査により、本来は約25倍かかる高分解能の検査を約2倍程度に短縮することが可能となる。もちろん、詳細に検査する異物の数が多いと、それに比例して検査に要する時間も増加する。ここでは、タクトタイムを優先するために、ある個数の異物を検出すると、検査は途中で打ち切ることとする。
図15は、デバイス外観検査装置における検査処理のフローチャートである。
検査ボタン(不図示)押下のタイミングで検査処理が始まり、所定数のデバイスの検査が終了すると終了する。検査結果はRAM203と共にハードディスク等の外部メモリ213に検査No.ごとに保存される(異物情報保存)。また、検査結果は検査結果一覧として表示される。
ステップS1502では、CPU201は、Ns、Ms、ステージX方向開始位置Xs0、ステージY方向開始位置Ys0、ステージX方向の移動量Xsd0、及びステージY方向の移動量Ysd0を情報テーブルから読み込む。次に、ステップS1504では、CPU201は、Ns、Ms、ステージX方向開始位置Xs0、ステージY方向開始位置Ys0、ステージX方向の移動量Xsd0、ステージY方向の移動量Ysd0と図7からデバイスのセット位置を計算する。
次に、ステップS1506では、CPU201は、図25に示す移動処理を実行して、センサー面の撮像位置・デバイスセット位置に移動する。次に、ステップS1508では、CPU201は、図16に示す暗視野検査処理を実行する。次に、ステップS1510では、CPU201は、図18に示す暗視野異物一覧情報1800をチェックして詳細検査が必要な異物があるか否かを判断する。詳細検査が必要な異物があった場合はステップS1512へ進む。一方、詳細検査が必要な異物がない場合はステップS1514に進む。
ステップS1512では、CPU201は、図19に示す明視野検査処理を行い、ステップS1514へ進む。ステップS1514では、CPU201は、図25に示す移動処理を実行して、ガラス面撮像位置・デバイスセット位置に移動する。ステップS1516では、CPU201は、図16に示す暗視野検査処理を実行する。次に、ステップS1518では、CPU201は、図18に示す暗視野異物一覧情報1800をチェックして詳細検査が必要な異物があるか否かを判断する。詳細検査が必要な異物があった場合はステップS1520へ進む。一方、詳細検査が必要な異物がない場合はステップS1522に進む。
ステップS1520では、CPU201は、図19に示す明視野検査処理を行い、ステップS1522へ進む。ステップS1522では、CPU201は、検査トレー7が所定数(Ns×Ms回)移動した時点でステップS1524へ進む一方、そうでない場合は、ステップS1504へ進む。
ステップS1524では、CPU201は、図25に示す移動処理を実行して、検査トレー7を取り出し口へ移動する。
図16は、図15のステップS1508、S1516における暗視野検査処理の詳細を示すフローチャートである。
ステップS1502では、CPU201は、暗視野フォーカス量Af、暗視野ズーム量Az、暗視野閾値、暗視野判定面積、暗視野要詳細面積、暗視野判定長、及び暗視野要詳細長を情報テーブルから読み込む。ステップS1604では、CPU201は、図26に示す照明切替処理を実行して、暗視野照明装置5による照明に切り替える。次に、ステップS1606では、CPU201は、図27に示す倍率変更処理を実行して、低倍率(×1)に倍率を変更する。
ステップS1608では、CPU201は、図28に示す暗視野画像作成処理を実行する。次に、ステップS1610では、CPU201は、図12に示す画像位置補正処理を実行し、ステップS1608で作成された暗視野画像の補正を行う。そして、ステップS1612では、CPU201は、補正された暗視野画像をRAM203とともに外部メモリ213に保存する。
ステップS1614では、CPU201は、被検査画像としての暗視野画像と暗視野基準画像の差分画像を作成する(差分画像作成)。次に、ステップS1616では、CPU201は、作成された差分画像からマスク画像と暗視野閾値を用いて2値化画像を作成する。次に、ステップS1618では、CPU201は、作成された2値化画像を既存の技術を利用して粒子解析し、その結果から異物の面積や長さ、異物の位置等に関する情報を計算し、図17に示す検査結果一覧情報を更新して、保存する(異物情報保存)。このとき、後述する検査画面上でユーザにより設定登録された異物の判断基準(第1の判断基準)に基づいて、ガラス面及びセンサー面の検査結果が判定される。なお、暗視野検査処理において、当該判断基準に基づいて詳細検査が必要と判断された場合には、明視野検査処理が実行される。
ステップS1618では、CPU201は、計算された異物の位置情報からマスク1とマスク2のどちらの領域に異物があるかを判定する。マスク1の領域に異物がある場合は、暗視野判定面積以上または暗視野判定長以上のものは不良と判断する。一方、暗視野判定面積未満かつ暗視野判定長未満のものについては、暗視野要詳細面積以上または暗視野要詳細長以上のものは詳細検査と判断する。そして、それ以外は良品とし、図18に示す暗視野異物一覧情報を作成して保存する(異物情報保存)。詳細検査が必要か否かの具体的な判断方法を図23を参照して説明する。
図23において、検査画面2001では、暗視野判定面積、暗視野判定長2310(マスク1)のそれぞれの判定値は10平方μm、5μm、また、暗視野要詳細面積、暗視野要詳細長2301(マスク1詳細)のそれぞれの判定値は5平方μm、3μmである。ある異物の面積が9平方μm、長辺が4μmと測定され、その領域がマスク1と判定された場合、マスク1の判定値には抵触しないが、マスク1詳細には面積・長さともに抵触することになる。よって、この異物は明視野照明装置6を使った詳細検査が必要と判定される。
なお、マスク2の領域の場合は、暗視野判定面積以上または暗視野判定長以上のものは不良と判断する。一方、暗視野判定面積以下かつ暗視野判定長以下のものについては、マスク1の領域の場合と違い、そのまま良品とし暗視野異物一覧情報を作成して保存する。このようにすることで、撮像性能に大きく影響を与える可能性が少ない領域の検査基準を緩和することで、検査の高速化を図ることができる。
図17は、検査結果一覧情報の概要を示す図である。
検査結果一覧情報1700は、検査番号、センサー面結果(暗)、センサー面結果(明)、ガラス面結果(暗)、及びガラス面結果(明)で構成される。センサー面結果(暗)には、検査結果として、「良」、「不良」、「詳細検査」のいずれかが登録される。センサー面結果(明)には、検査結果として、「良」、「不良」のいずれかが登録される。ガラス面結果(暗)には、検査結果として、「良」、「不良」、「詳細検査」のいずれかが登録される。ガラス面結果(明)には、検査結果として、「良」、「不良」のいずれかが登録される。
検査結果一覧情報1700は、後述する暗視野、明視野検査という検査種別ごとに作成され、明視野検査処理、暗視野検査処理・暗視野検査シミュレーション処理、及び明視野検査シミュレーション処理がそれぞれ実行されるタイミングで更新される。
図18は、暗視野異物一覧情報の概要を示す図である。
暗視野異物一覧情報1800は、異物番号、異物のX座標位置、Y座標位置、マスク、異物の面積、長さ、及び判定で構成される。マスクには、検出場所のマスク番号の1もしくは2が登録される。判定には、検査結果として、「良」、「不良」、「詳細検査」のいずれかが登録される。
暗視野異物一覧情報1800は、1デバイスごとに、上述した暗明視野検査処理が実行されるタイミングで作成される。また、暗視野異物一覧情報1800は、後述する暗視野検査シミュレーション処理が実行されるタイミングで更新される。
図19は、図15のステップS1512、S1520における明視野検査処理の詳細を示すフローチャートである。
ステップS1902では、CPU201は、明視野Z方向位置、明視野ズーム量、明視野フォーカス量、明視野閾値、明視野判定面積、及び明視野判定長を情報テーブルから読み込む。次に、ステップS1904では、CPU201は、図26に示す照明切替処理を実行して、明視野照明装置6による照明に切り替える。次に、ステップS1906では、CPU201は、図27に示す倍率変更処理を実行して、高倍率(×5)へ倍率を変更する。
次に、ステップS1908では、CPU201は、暗視野異物一覧情報1800をチェックし、情報がなければ終了する。一方、情報があればステップS1910へ行く。ステップS1910では、CPU201は、暗視野異物一覧情報1800における検査結果(「判定」欄の情報)を参照し、詳細検査が必要かチェックする。必要ならステップS1912へ進む。不要ならステップS1908へ進む。
ステップS1912では、CPU201は、暗視野結果一覧情報1800から異物のX,Y座標位置を取得する。次に、ステップS1914では、CPU201は、取得した異物のX,Y座標位置に基づいて図25に示す移動処理を実行し、カメラ1の撮像範囲の中心に異物が入るように、検査トレー7を移動する。次に、ステップS1916では、CPU201は、カメラ1を制御して撮影を行う(明視野画像撮影)。ステップS1918では、CPU201は、カメラ1により撮影された明視野画像をRAM203と共に外部メモリ213に保存する。
ステップS1920では、CPU201は、RAM203に保存した明視野画像と明視野基準画像の差分画像を作成する(差分画像作成)。ステップS1922では、CPU201は、作成した差分画像から明視野閾値を用いて2値化画像を作成する。次に、ステップS1924では、CPU201は、作成した2値化画像を既存の技術を利用した粒子解析し、その結果から異物の面積や長さ、異物の位置等に関する情報で図20に示す明視野異物一覧情報2000を作成し、する。明視野異物一覧情報2000を作成する処理は、図16のステップS1618における処理と略同様であるので、その説明は省略する。なお、明視野検査処理では、検査画面上でユーザにより設定登録された異物の判断基準(第2の判断基準)に基づいて、ガラス面及びセンサー面の検査結果が判定される。
また、ステップS1924では、CPU201は、判定された検査結果に基づいて、図17に示す検査結果一覧情報1700を更新して保存し、ステップS1908に戻る。
図20は、明視野異物一覧情報の概要を示す図である。
明視野異物一覧情報2000は、異物番号、異物のX座標位置、Y座標位置、マスク、異物の面積、長さ、及び判定で構成される。マスクには、固定値として1が登録される。判定には、検査結果として、「良」、「不良」、「詳細検査」のいずれかが登録される。
明視野異物一覧情報2000は、1デバイスごとに、上述した明視野検査処理が実行されるタイミングで作成される。また、明視野異物一覧2000は、後述する明視野検査シミュレーション処理が実行されるタイミングで更新される。
次に、デバイス外観検査装置におけるシミュレーション処理について説明する。シミュレーション処理は、再検査として実際に検査処理を実行することなく、PC10上で閾値、異物の面積や長さ等の設定を変更して新たな検査結果を算出するものである。
図21は、PC10により実行される暗視野検査シミュレーション処理のフローチャートである。
ステップS2102では、CPU201は、暗視野閾値、暗視野判定面積、及び暗視野判定長を情報テーブルから読み込む。次に、ステップS2104では、CPU201は、暗視野画像を読み込む。次に、ステップS2106では、CPU201は、読み込んだ暗視野画像とステップS1026で作成された暗視野基準画像の差分画像を作成する(差分画像作成)。
次に、ステップS2108では、CPU201は、作成された差分画像からマスク画像と閾値を用いて2値化画像を作成する。次に、ステップS2110では、CPU201は、作成した2値化画像を粒子解析し、その結果から異物の面積や長さ、異物の位置等に関する情報を図18に示す暗視野異物一覧情報として作成する。同時に、暗視野異物一覧情報における面積や判定長での判定結果で図17に示す検査結果一覧情報を更新して、本処理を終了する。
図22は、PC10により実行される明視野検査シミュレーション処理のフローチャートである。
ステップS2202では、CPU201は、明視野閾値、明視野判定面積、及び明視野判定長を情報テーブルから読み込む。次に、ステップS2204では、CPU201は、明視野画像を読み込む。次に、ステップS2206では、CPU201は、読み込んだ明視野画像とステップS1026で作成された明視野基準画像の差分画像を作成する(差分画像作成)。
次に、ステップS2208では、CPU201は、作成された差分画像から明視野閾値を用いて2値化画像を作成する。次に、ステップS2210では、CPU201は、作成した2値化画像を粒子解析し、その結果から図20に示す明視野異物一覧情報の異物の面積や長さ、異物の位置等に関する情報を更新する。同時に、明視野面積や明視野判定長での判定結果で図17に示す検査結果一覧情報1700を更新して、本処理を終了する。
図23は、デバイス検査時にPC10のCRT212に表示する検査画面の一例を示す図である。
図23において、2001は検査画面であり、2300は画像表示部である。2301は検査結果一覧である。検査結果一覧として、No.:検査番号、センサー面結果(明):センサー面明視野判定結果(良/不良/詳細検査)、センサー面結果(暗):センサー面暗視野判定結果(良/不良/詳細検査)、ガラス面(明):ガラス面明視野判定結果(良/不良/詳細検査)、ガラス面(暗):ガラス面暗視野判定結果(良/不良/詳細検査)が表示される。
検査結果一覧2301では、検査したデバイスNo.ごとに判定結果を表示する。本実施形態では、ラジオボタンにて「結果」・「センサー面」・「暗視野」、そして、デバイスNo.18を選択しているので、このデバイスの暗視野で撮像したセンサー面の検査結果の画像を画面上に表示している。ユーザは、この検査画面を見ることで、どれ位の大きさの異物がデバイス上のどの位置に存在するのかを確認することが可能である。異物が保護ガラス面の表面のみに存在すれば、これらの位置情報を元に異物を清掃することが可能である。また、センサー面に存在する場合は、異物の存在場所・大きさといった情報を生産管理にフィードバックすることで、生産工程の見直しが可能となる。
2303は検査種別であり、検査パラメータを選択することができる。2306は検査数であり、デバイスの検査数をカウントすることができる。2305は不良数であり、2306はリセットボタンであって、検査数と不良数と検査結果を削除することができる。
2307は原画/結果選択ボタンであり、画像表示部2300に表示される画面を切り替える。原画が選択されると、カメラ1により撮影された画像をそのまま画像表示部2300に表示する。結果が選択されると、撮影された画像上の異物を赤枠で囲み表示する。2308はセンサー面/ガラス面選択ボタンであり、画像表示部2300に表示される画面をセンサー面画像とガラス面画像とに切り替える。2309は明視野/暗視野選択ボタンであり、画像表示部2300に表示される画面を暗視野画像と明視野画像とに切り替える。このように、原画/結果とセンサー面/ガラス面と明視野/暗視野画像の選択表示が可能となる。
2302は詳細結果一覧であり、検査結果一覧2301上で指定された検査結果における異物の面積や長さといった詳細データを表示する。本実施形態では、デバイスNo.18で検出された1個目の異物が選択されているので、図24に示すように、その異物を画像表示部2300上に拡大表示している。このように、ユーザは異物No.を選択することで、その異物を拡大して画像表示部2300に表示して、異物の形状を確認することが可能となる。詳細結果一覧2302の「結果」欄に「詳細」・「良」と表示されている場合は、高倍率(×5)の画像を拡大表示する。「不良」と表示されている場合は、低倍率(×1)の画像を拡大表示する。
本実施形態では、デバイスの検査処理を行う前に、検査画面2001上の2310〜2313において、異物と判断する判断基準として、センサー面暗視野、センサー面明視野、ガラス面暗視野、ガラス面明視野の各閾値と、マスク1,2の各面積及び長さ、マスク1の各詳細な面積及び長さをそれぞれ設定登録することができる(異物判断基準登録)。また、検査処理後に、再検査として、これらの設定値を変更して暗視野検査シミュレーション処理及び/または明視野検査シミュレーション処理を実行した後に、その結果を表示させることが可能である。閾値は2値化閾値、面積は異物判定面積、長さは異物判定長さである。
全体画像検査表示中に再検査ボタン2314が選択されると、保存されていた検査画像全てに対して再検査を行い、検査結果一覧を更新する。詳細検査表示中に再検査ボタン2314が選択されると、詳細検査画像に対して再検査を行い、異物一覧を更新する。作成した検査パラメータデータは検査種別ごとに外部メモリ213に保存する。検査ボタン2315が選択されると、検査を開始する。設定保存ボタン2316が選択されると、検査画面2001上で設定された内容が外部メモリ213に保存される。
図25は、図1のデバイス外観検査装置における移動処理の詳細を示すフローチャートである。
ステップS2502では、PC10は、XYZ方向の移動距離の情報を読み込む。次に、ステップS2504では、PC10は、XYZズームコントローラ9にXYZ方向の移動距離の移動命令を送信する。
次に、ステップS2506では、XYZズームコントローラ9は、PC10から移動命令を受信する。次に、ステップS2508では、XYZズームコントローラ9は、X・Y,Z軸ステージ3,4を駆動して検査トレー7を移動する。次に、ステップS2510では、XYZズームコントローラ9は、PC10に移動完了を通知する。
ステップS2512では、PC10は、XYZズームコントローラ9から移動完了の通知を受信して、本処理を終了する。
図26は、デバイス外観検査装置における照明切替処理の詳細を示すフローチャートである。
ステップS2602では、PC10は、照明情報(暗視野照明/明視野照明)を読み込む。次に、ステップS2604では、PC10は、照明装置コントローラ8に照明装置の切替命令を送信する。
次に、ステップS2606では、照明装置コントローラ8は、PC10から照明装置の切替命令を受信する。次に、ステップS2608では、照明装置コントローラ8は、照明装置の切替えを行う。次に、ステップS2610では、照明装置コントローラ8は、PC10に照明切替完了を通知する。
ステップS2612では、PC10は、照明装置コントローラ8から照明切替完了の通知を受信して、本処理を終了する。
図27は、デバイス外観検査装置における倍率変更処理の詳細を示すフローチャートである。
ステップS2702では、PC10は、倍率とフォーカスの情報を読み込む。次に、ステップS2704では、PC10は、XYZズームコントローラ9に倍率変更命令を送信する。
次に、ステップS2706では、XYZズームコントローラ9は、PC10から倍率変更命令を受信する。次に、ステップS2708では、XYZズームコントローラ9は、ズームレンズ2を駆動して倍率を変更する。次に、ステップS2710では、XYZズームコントローラ9は、PC10に倍率変更完了を通知する。
ステップS2712では、PC10は、XYZズームコントローラ9から倍率変更完了を受信する。次に、ステップS2714では、PC10は、XYZズームコントローラ9にフォーカス変更命令を送信する。
ステップS2716では、XYZズームコントローラ9は、PC10からフォーカス変更命令を受信する。次に、ステップS2718では、XYZズームコントローラ9は、ズームレンズ2に配置されたフォーカスレンズ(不図示)を調節してフォーカスを変更する。次に、ステップS2720では、XYZズームコントローラ9は、PC10にフォーカス変更完了を通知する。
ステップS2722では、PC10は、フォーカス変更完了の通知を受信して、本処理を終了する。
図28は、PC10における暗視野画像作成処理の詳細を示すフローチャートである。
ステップS2802では、PC10内のCPU201は、Nd、Md、デバイスX方向開始位置、デバイスY方向開始位置、デバイスX方向の移動量、及びデバイスY方向の移動量の情報を読み込む。次に、ステップS2804では、CPU201は、ステップS2802で読み込んだNd、Md、デバイスX方向開始位置、デバイスY方向開始位置、デバイスX方向の移動量、及びデバイスY方向の移動量に基づいて移動量を計算する。
ステップS2806では、図25に示す移動処理が実行される。次に、ステップS2808では、CPU201は、カメラ1を制御してデバイス100の暗視野元画像を撮影する。次に、ステップS2810では、CPU201は、検査トレー7が所定数(Nd×Md回)移動した時点で撮影を終了する。これにより、検査トレー7上の1つのデバイスの全体画像が得られる。
次に、ステップS2812では、面種別がセンサー面かガラス面かを判断し、ガラス面の場合はステップS2814へ進み、センサー面の場合はステップS2816へ進む。ステップS2814では、CPU201は、アライメントマークを検索し、アライメント情報を作成・保存する。ステップS2816では、CPU201は、アライメント情報を読み込む。ガラス面とセンサー面での処理の違いは、上述したように、ガラス面には位置補正のためのアライメントマークが存在せず、ガラス面の位置補正データをセンサー面の情報として流用しているためである。
次に、ステップS2818では、暗視野画像をシェーディング補正し、ソフトウェア処理で画像を合成して、本処理を終了する。
上記実施形態によれば、基準となるデバイス100のガラス面/センサー面を暗照明及び明照明で照明して所定の倍率で撮像した基準画像を作成し、基準画像と検査対象となるデバイス100を同一の撮像条件で撮像した検査画像から差分画像を作成し、差分画像の予め設定されたマスク範囲にある異物の位置及び面積を含む異物一覧情報を保存し、予め設定された閾値等により異物の判定を行う。保存された異物一覧情報に基づいて、所定の第一の撮像条件で撮像し、異物の面積が予め設定された閾値等に合えば、異物の位置で第一の撮像条件とは異なる第二の撮像条件で撮像し、新たに作成した差分画像を検査して異物に関する情報を更新する。これにより、デバイスのセンサー表面や保護ガラス面の異物を高速に検出することができる。特に、広視野を暗視野光源を使って低解像度で検査し、その形状の合否判定が難しい小さな異物に関しては、狭視野を明視野光源を使って高解像度で再検査を実行することができるので、歩留まりを落とすことなく高速に正確な判定が可能となる。
本発明の目的は、以下の処理を実行することによって達成される。即ち、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)が記憶媒体に格納されたプログラムコードを読み出す処理である。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコードおよび該プログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、プログラムコードを供給するための記憶媒体としては、次のものを用いることができる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光磁気ディスク、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD+RW、磁気テープ、不揮発性のメモリカード、ROM等である。または、プログラムコードをネットワークを介してダウンロードしてもよい。
また、コンピュータが読み出したプログラムコードを実行することにより、上記実施の形態の機能が実現される場合も本発明に含まれる。加えて、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれる。
さらに、前述した実施形態の機能が以下の処理によって実現される場合も本発明に含まれる。即ち、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う場合である。
本発明の実施形態に係るデバイス外観検査装置の全体構成を示す図である。 図1に示す明視野照明装置6および暗視野照明装置5によるデバイス100の照明状況を説明するための概略図であり(a)は明視野照明装置6の場合、(b)は暗視野照明装置5の場合を示す。 図1に示すPC10のハードウェア構成を示すブロック図である。 デバイスの検査前にPC10が実行する前処理のフローチャートである。 図4のステップS302のシェーディング補正情報作成処理の詳細を示すフローチャートである。 図5のステップS406、S410における面上シェーディング補正情報作成処理の詳細を示すフローチャートである。 デバイスの分割撮影方法の一例を示す図である。 検査トレー7の検査ステージにセットされた複数のデバイスの撮影方法の一例を示す図である。 図4のステップS303における基準画像情報作成処理の詳細を示すフローチャートである。 図9のステップS906、S910における面上基準画像作成処理の詳細を示すフローチャートである。 図10のステップS1014における画像位置補正処理の説明図である。 図10のステップS1014における画像位置補正処理の詳細を示すフローチャートである。 暗視野基準画像にマスク領域を設定したデバイス画像の一例を示す図である。 図4のステップS304におけるマスク画像情報作成処理の詳細を示すフローチャートである。 デバイス外観検査装置における検査処理のフローチャートである。 図15のステップS1508、S1516における暗視野検査処理の詳細を示すフローチャートである。 検査結果一覧情報の概要を示す図である。 暗視野異物一覧情報の概要を示す図である。 図15のステップS1512、S1520における明視野検査処理の詳細を示すフローチャートである。 明視野異物一覧情報の概要を示す図である。 PC10により実行される暗視野検査シミュレーション処理のフローチャートである。 PC10により実行される明視野検査シミュレーション処理のフローチャートである。 デバイス検査時にPC10のCRT212に表示される検査画面の一例を示す図である。 デバイス検査時にPC10のCRT212に表示する詳細検査画面の一例を示す図である。 デバイス外観検査装置における移動処理の詳細を示すフローチャートである。 デバイス外観検査装置における照明切替処理の詳細を示すフローチャートである。 デバイス外観検査装置における倍率変更処理の詳細を示すフローチャートである。 PC10における暗視野画像作成処理の詳細を示すフローチャートである。 デバイスの概略構造を示す部分断面図である。
符号の説明
1 カメラ
2 ズームレンズ
3 Z軸ステージ
4 X・Y軸ステージ
5 暗視野照明装置
6 明視野照明装置
7 検査トレー
8 照明装置コントローラ
9 XYZズームコントローラ
10 パーソナルコンピュータ(PC)
100 デバイス
201 CPU
202 ROM
203 RAM

Claims (11)

  1. 少なくとも1つのデバイスを固定するデバイス固定手段と、
    前記デバイス固定手段を任意の位置に移動するデバイス移動手段と、
    前記デバイス固定手段により固定されたデバイスの検査面を複数の照明条件を切り替えて照明する照明手段と、
    前記検査面の照明条件の切り替えに対応して倍率を切り替えて画像を撮像する撮像手段と、
    撮像条件ごとに基準となるデバイスの検査面を前記照明手段により所定の照明方法で照明して前記撮像手段により所定の倍率で撮像した画像から基準画像を作成する基準画像作成手段と、
    検査対象となるデバイスの検査面を前記照明手段により所定の照明方法で照明し、前記撮像手段により所定の倍率で撮像した検査画像と前記基準画像作成手段で作成された基準画像から差分画像を作成する差分画像作成手段と、
    前記差分画像作成手段で作成された差分画像から異物と判断する判断基準を撮像条件ごとに登録する異物判断基準登録手段と、
    第一の撮像条件にしたがって前記撮像手段にて撮像した画像をもとに前記差分画像作成手段で作成した差分画像から前記異物判断基準登録手段により登録された第一の撮像条件に対応する第一の判断基準で判定した異物の位置および形状に関する情報を保存する異物情報保存手段と、
    前記異物情報保存手段に保存されている異物に関する情報から第二の判断基準に合致する異物について、当該異物の位置に前記デバイス移動手段で移動して前記第一の撮像条件とは異なる第二の撮像条件で撮像し、前記差分画像作成手段で新たに作成した差分画像から前記異物判断基準登録手段により登録された第二の撮像条件に対応する判断基準で判定した当該異物に関する情報を更新する詳細検査手段とを備えることを特徴とするデバイス外観検査装置。
  2. 前記第一の撮像条件は、前記照明手段による前記デバイスへの暗照明と前記撮像手段による低倍率での撮像であり、前記第二の撮像条件は、前記照明手段による前記デバイスへの明照明と前記撮像手段による高倍率での撮像であることを特徴とする請求項1記載のデバイス外観検査装置。
  3. 前記デバイスの検査面として、前記デバイスのガラス面、センサー面が検査されることを特徴とする請求項1または2記載のデバイス外観検査装置。
  4. 前記詳細検査手段は、前記センサー面を詳細検査するが、前記デバイスの電子回路部については詳細検査しないことを特徴とする請求項3記載のデバイス外観検査装置。
  5. 前記検査画像は、前記撮像手段により前記デバイスの検査面を分割して撮像した画像を合成したものであることを特徴とする請求項1乃至4のいずれか1項に記載のデバイス外観検査装置。
  6. 前記検査画像は、前記予め設定された範囲にマスク処理がされていることを特徴とする請求項1乃至5のいずれか1項に記載のデバイス外観検査装置。
  7. 前記検査画像は、シェーディング補正されていることを特徴とする請求項1乃至6のいずれか1項に記載のデバイス外観検査装置。
  8. 前記デバイス固定手段は、複数個のデバイスが固定可能であることを特徴とする請求項1乃至7のいずれか1項に記載のデバイス外観検査装置。
  9. 前記所定の照明方法ごとに前記異物に関する情報から、ユーザにより変更された前記判断基準に応じて前記デバイスの検査をシミュレーションすることを特徴とする請求項1乃至9のいずれか1項に記載のデバイス外観検査装置。
  10. 少なくとも1つのデバイスを任意の位置に移動するデバイス移動工程と、
    前記デバイスの検査面を複数の照明方法を切り替えて照明する照明工程と、
    前記検査面の照明条件の切り替えに対応して倍率を切り替えて画像を撮像する撮像工程と、
    撮像条件ごとに基準となるデバイスの検査面を所定の照明条件で照明して所定の倍率で撮像した画像から基準画像を作成する基準画像作成工程と、
    検査対象となるデバイスの検査面を前記所定の照明方法で照明して前記所定の倍率で撮像した検査画像と前記基準画像作成手段で作成された基準画像から差分画像を作成する差分画像作成工程と、
    前記差分画像作成手段で作成された差分画像から異物と判断する判断基準を撮像条件ごとに登録する異物判断基準登録工程と、
    第一の撮像条件にしたがって前記撮像工程にて撮像した画像をもとに前記差分画像作成工程で作成した差分画像から前記異物判断基準登録工程にて登録された第一の撮像条件に対応する第一の判断基準で判定した異物の位置および形状に関する情報を記憶手段に保存する異物情報保存工程と、
    前記記憶手段に保存されている異物に関する情報から第二の判断基準に合致する異物について、当該異物の位置に前記デバイス移動工程にて移動して前記第一の撮像条件とは異なる第二の撮像条件で撮像し、前記差分画像作成工程で新たに作成した差分画像から前記異物判断基準登録工程にて登録された第二の撮像条件に対応する判断基準で判定した当該異物に関する情報を更新する詳細検査工程とを備えることを特徴とするデバイス外観検査方法。
  11. 少なくとも1つのデバイスを任意の位置に移動するデバイス移動ステップ、
    前記デバイスの検査面を複数の照明方法を切り替えて照明する照明ステップ、
    前記検査面の照明条件の切り替えに対応して倍率を切り替えて画像を撮像する撮像ステップ、
    撮像条件ごとに基準となるデバイスの検査面を所定の照明条件で照明して所定の倍率で撮像した画像から基準画像を作成する基準画像作成ステップ、
    検査対象となるデバイスの検査面を前記所定の照明方法で照明して前記所定の倍率で撮像した検査画像と前記基準画像作成手段で作成された基準画像から差分画像を作成する差分画像作成ステップ、
    前記差分画像作成手段で作成された差分画像から異物と判断する判断基準を撮像条件ごとに登録する異物判断基準登録ステップ、
    第一の撮像条件にしたがって前記撮像ステップにて撮像した画像をもとに前記差分画像作成ステップで作成した差分画像から前記異物判断基準登録ステップにて登録された第一の撮像条件に対応する第一の判断基準で判定した異物の位置および形状に関する情報を記憶手段に保存する異物情報保存ステップ、及び
    前記記憶手段に保存されている異物に関する情報から第二の判断基準に合致する異物について、当該異物の位置に前記デバイス移動手段で移動して前記第一の撮像条件とは異なる第二の撮像条件で撮像し、前記差分画像作成ステップで新たに作成した差分画像から前記異物判断基準登録ステップにて登録された第二の撮像条件に対応する判断基準で判定した当該異物に関する情報を更新する詳細検査ステップをコンピュータに実行させるためのプログラム。
JP2007340572A 2007-12-28 2007-12-28 情報処理装置、情報処理方法、コンピュータプログラム Expired - Fee Related JP4958114B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007340572A JP4958114B2 (ja) 2007-12-28 2007-12-28 情報処理装置、情報処理方法、コンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007340572A JP4958114B2 (ja) 2007-12-28 2007-12-28 情報処理装置、情報処理方法、コンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2009162563A true JP2009162563A (ja) 2009-07-23
JP2009162563A5 JP2009162563A5 (ja) 2011-03-31
JP4958114B2 JP4958114B2 (ja) 2012-06-20

Family

ID=40965360

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007340572A Expired - Fee Related JP4958114B2 (ja) 2007-12-28 2007-12-28 情報処理装置、情報処理方法、コンピュータプログラム

Country Status (1)

Country Link
JP (1) JP4958114B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012088199A (ja) * 2010-10-20 2012-05-10 Yamaha Motor Co Ltd 異物検査装置および異物検査方法
KR101716111B1 (ko) * 2015-12-04 2017-03-15 충북대학교 산학협력단 이물질 검출 시스템 및 방법
KR20170115678A (ko) * 2016-04-08 2017-10-18 한화테크윈 주식회사 트레이 이미지 티칭 장치
JP2018040649A (ja) * 2016-09-06 2018-03-15 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2018167357A (ja) * 2017-03-29 2018-11-01 グローリー株式会社 良品収集システム並びにそのシステムの制御用のコントローラおよびプログラム
JP2019152557A (ja) * 2018-03-05 2019-09-12 オムロン株式会社 画像検査装置、画像検査方法及び画像検査プログラム
WO2020121784A1 (ja) * 2018-12-11 2020-06-18 本田技研工業株式会社 ワーク検査装置及びワーク検査方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0979991A (ja) * 1995-09-11 1997-03-28 Nikon Corp パターン検査装置、欠陥検査装置およびパターン検査方法
JPH10185535A (ja) * 1998-01-19 1998-07-14 Hitachi Ltd 半導体装置の製造システム及び欠陥検査方法
JPH1151622A (ja) * 1997-08-07 1999-02-26 Hitachi Ltd 異物検査方法および装置
JPH11230917A (ja) * 1998-02-12 1999-08-27 Nikon Corp 欠陥検査装置
JP2000171403A (ja) * 1998-12-08 2000-06-23 Dainippon Printing Co Ltd 表面検査装置
JP2001118899A (ja) * 1999-10-19 2001-04-27 Mitsubishi Electric Corp 異物及びパターン欠陥検査装置
JP2002303586A (ja) * 2001-04-03 2002-10-18 Hitachi Ltd 欠陥検査方法及び欠陥検査装置
JP2004177284A (ja) * 2002-11-27 2004-06-24 Hitachi Ltd 欠陥検査装置および欠陥検査方法
JP2005292048A (ja) * 2004-04-02 2005-10-20 Sony Corp 外観検査方法及び外観検査装置
JP2006201044A (ja) * 2005-01-21 2006-08-03 Hitachi High-Technologies Corp 欠陥検査方法及びその装置
JP2007192759A (ja) * 2006-01-23 2007-08-02 Hitachi High-Technologies Corp 欠陥検査装置およびその方法
JP2007327896A (ja) * 2006-06-09 2007-12-20 Canon Inc 検査装置

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0979991A (ja) * 1995-09-11 1997-03-28 Nikon Corp パターン検査装置、欠陥検査装置およびパターン検査方法
JPH1151622A (ja) * 1997-08-07 1999-02-26 Hitachi Ltd 異物検査方法および装置
JPH10185535A (ja) * 1998-01-19 1998-07-14 Hitachi Ltd 半導体装置の製造システム及び欠陥検査方法
JPH11230917A (ja) * 1998-02-12 1999-08-27 Nikon Corp 欠陥検査装置
JP2000171403A (ja) * 1998-12-08 2000-06-23 Dainippon Printing Co Ltd 表面検査装置
JP2001118899A (ja) * 1999-10-19 2001-04-27 Mitsubishi Electric Corp 異物及びパターン欠陥検査装置
JP2002303586A (ja) * 2001-04-03 2002-10-18 Hitachi Ltd 欠陥検査方法及び欠陥検査装置
JP2004177284A (ja) * 2002-11-27 2004-06-24 Hitachi Ltd 欠陥検査装置および欠陥検査方法
JP2005292048A (ja) * 2004-04-02 2005-10-20 Sony Corp 外観検査方法及び外観検査装置
JP2006201044A (ja) * 2005-01-21 2006-08-03 Hitachi High-Technologies Corp 欠陥検査方法及びその装置
JP2007192759A (ja) * 2006-01-23 2007-08-02 Hitachi High-Technologies Corp 欠陥検査装置およびその方法
JP2007327896A (ja) * 2006-06-09 2007-12-20 Canon Inc 検査装置

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012088199A (ja) * 2010-10-20 2012-05-10 Yamaha Motor Co Ltd 異物検査装置および異物検査方法
KR101716111B1 (ko) * 2015-12-04 2017-03-15 충북대학교 산학협력단 이물질 검출 시스템 및 방법
KR20170115678A (ko) * 2016-04-08 2017-10-18 한화테크윈 주식회사 트레이 이미지 티칭 장치
KR102564247B1 (ko) 2016-04-08 2023-08-07 한화정밀기계 주식회사 트레이 이미지 티칭 장치
JP2018040649A (ja) * 2016-09-06 2018-03-15 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2018167357A (ja) * 2017-03-29 2018-11-01 グローリー株式会社 良品収集システム並びにそのシステムの制御用のコントローラおよびプログラム
JP2019152557A (ja) * 2018-03-05 2019-09-12 オムロン株式会社 画像検査装置、画像検査方法及び画像検査プログラム
JP7073785B2 (ja) 2018-03-05 2022-05-24 オムロン株式会社 画像検査装置、画像検査方法及び画像検査プログラム
WO2020121784A1 (ja) * 2018-12-11 2020-06-18 本田技研工業株式会社 ワーク検査装置及びワーク検査方法
JPWO2020121784A1 (ja) * 2018-12-11 2021-10-07 本田技研工業株式会社 ワーク検査装置及びワーク検査方法
JP7134253B2 (ja) 2018-12-11 2022-09-09 本田技研工業株式会社 ワーク検査装置及びワーク検査方法
US11711615B2 (en) 2018-12-11 2023-07-25 Honda Motor Co., Ltd. Workpiece inspection device and workpiece inspection method

Also Published As

Publication number Publication date
JP4958114B2 (ja) 2012-06-20

Similar Documents

Publication Publication Date Title
JP4958114B2 (ja) 情報処理装置、情報処理方法、コンピュータプログラム
JP5134188B2 (ja) 試料上の欠陥を分析する装置
JP3802716B2 (ja) 試料の検査方法及びその装置
TW201802770A (zh) 用於檢測晶圓上缺陷之系統
JP2010157154A (ja) 画像分類基準更新方法、プログラムおよび画像分類装置
JP2009175334A (ja) 顕微鏡システム、画像生成方法、及びプログラム
WO2004038786A1 (ja) プローブ痕読取装置およびプローブ痕読取方法
JPWO2001041068A1 (ja) 欠陥検査システム
JP2002323458A (ja) 電子回路パターンの欠陥検査管理システム,電子回路パターンの欠陥検査システム及び装置
JP2004294358A (ja) 欠陥検査方法および装置
US20070172111A1 (en) Inspection apparatus of object to be inspected
JP5018868B2 (ja) 試料の観察方法およびその装置
WO2014208193A1 (ja) ウエハ外観検査装置
JP6049052B2 (ja) ウエハ外観検査装置及びウエハ外観検査装置における感度しきい値設定方法
KR100696105B1 (ko) Pcb검사장치의 티칭데이터 설정방법 및 장치
WO2020003887A1 (ja) 外観検査システム、外観検査結果の表示方法、および、外観検査結果の表示プログラム
JP2018091771A (ja) 検査方法、事前画像選別装置及び検査システム
US20100111401A1 (en) Mask inspection system and mask inspection method
JP5934516B2 (ja) 検査領域表示装置及び検査領域表示方法
TW201522949A (zh) 影像資訊檢測方法
JP2009264882A (ja) 外観検査装置
JP7362324B2 (ja) 画像表示装置の検査方法、製造方法及び検査装置
JP2006234554A (ja) パターン検査方法およびパターン検査装置
JP2011029324A (ja) レシピ更新方法およびレシピ更新システム
JP2006074065A (ja) 試料の検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090629

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110822

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120214

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120313

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees