JP3855244B2 - 顕微鏡を用いた3次元画像認識装置 - Google Patents
顕微鏡を用いた3次元画像認識装置 Download PDFInfo
- Publication number
- JP3855244B2 JP3855244B2 JP21165296A JP21165296A JP3855244B2 JP 3855244 B2 JP3855244 B2 JP 3855244B2 JP 21165296 A JP21165296 A JP 21165296A JP 21165296 A JP21165296 A JP 21165296A JP 3855244 B2 JP3855244 B2 JP 3855244B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- point
- dimensional
- microscope
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L2224/00—Indexing scheme for arrangements for connecting or disconnecting semiconductor or solid-state bodies and methods related thereto as covered by H01L24/00
- H01L2224/01—Means for bonding being attached to, or being formed on, the surface to be connected, e.g. chip-to-package, die-attach, "first-level" interconnects; Manufacturing methods related thereto
- H01L2224/42—Wire connectors; Manufacturing methods related thereto
- H01L2224/47—Structure, shape, material or disposition of the wire connectors after the connecting process
- H01L2224/48—Structure, shape, material or disposition of the wire connectors after the connecting process of an individual wire connector
- H01L2224/4805—Shape
- H01L2224/4809—Loop shape
- H01L2224/48091—Arched
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L2224/00—Indexing scheme for arrangements for connecting or disconnecting semiconductor or solid-state bodies and methods related thereto as covered by H01L24/00
- H01L2224/80—Methods for connecting semiconductor or other solid state bodies using means for bonding being attached to, or being formed on, the surface to be connected
- H01L2224/85—Methods for connecting semiconductor or other solid state bodies using means for bonding being attached to, or being formed on, the surface to be connected using a wire connector
- H01L2224/859—Methods for connecting semiconductor or other solid state bodies using means for bonding being attached to, or being formed on, the surface to be connected using a wire connector involving monitoring, e.g. feedback loop
Landscapes
- Microscoopes, Condenser (AREA)
- Testing Or Measuring Of Semiconductors Or The Like (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
【発明の属する技術分野】
本発明は顕微鏡を用いた3次元画像認識装置に係り、特に左右2つの顕微鏡を介して撮像された画像データに基づいて3次元測定を行う顕微鏡を用いた3次元画像認識装置に関する。
【0002】
【従来の技術】
従来、画像処理を応用した半導体の製造プロセスにおける検査装置は、単一の方向から顕微鏡を通して撮像された画像データに対して各種の画像処理を行って良否判定を行う方法か、或いは、リファレンスとして良好な画像データを登録して、そのリファレンスを検査する対象物の画像データと比較処理することにより良否判定を行う方法のどちらかの方法を採用している。
【0003】
【発明が解決しようとする課題】
しかしながら、リードフレームの曲がりと欠陥やボンディングワイヤー等の3次元的な対象については満足な検査結果を得ることが出来なかった。現在、半導体製造アセンプリプロセスにおいては対象物の3次元的特性を画像処理で検査する装置はなく、実際のラインでは人間のオペレータにより実体顕微鏡を用いたマニュアル判定を行っており、自動化が大変に遅れている。
【0004】
また、ウェハ等の半導体製品には表面に何らかのパターンが存在し、そのパターン自身も同一の製造プロセスで処理されても同一のパターンとして形成されるとはかぎらず、シミや汚れ、欠陥が発生する。そのため、単一方向から撮像した画像データを用いた検査装置においては検査すべき対象の特徴を画像データの中から抽出することが大変困難である。
【0005】
本発明はこのような事情に鑑みてなされたもので、検査対象物の3次元的な特徴を定量認識することができる顕微鏡を用いた3次元画像認識装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
本発明は上記目的を達成するために、請求項1に記載の顕微鏡を用いた3次元画像認識装置は、第1の光軸方向から対象物の検査領域を拡大して撮像し、第1の画像データを得る第1の顕微鏡と、前記第1の光軸方向と異なる第2の光軸方向から前記対象物の検査領域と同一の検査領域を拡大して撮像し、第2の画像データを得る第2の顕微鏡と、前記第1及び第2の各画像データ上において、前記対象物上での同一部位に対応する線状の領域を検出する検出手段と、前記第1及び第2の各画像データ上において、前記対象物の空間内での同一座標点に対応する点を通過するエピポーラ線と、前記検出手段により検出された線状の領域とが交わる点を検出し、該検出した各画像データ上での点の位置に基づいて該点に対応する前記対象物上の位置の3次元座標を算出する3次元座標算出手段と、を備え、前記第1及び第2の各画像データ上において、前記対象物の空間上での同一座標点に対応する前記点は、前記第1及び第2の各画像データ上において前記検出手段により検出された線状の領域の両端を結ぶ直線を同一の比で分割した点であり、前記3次元座標算出手段は、該分割する点の位置を変更することにより、前記検出手段より検出された線状の領域の各点に対応する前記対象物上の各位置の3次元座標を算出することを特徴としている。
【0007】
本発明によれば、第1及び第2の各画像データ上において対応する点の位置が不明な場合であっても、第1及び第2の各画像データ上において線状となり得る部位内の点であれば、エピポーラ線を利用することにより、第1及び第2の画像データ上で対応する点を特定することができ、その点に対応する対象物上の位置の3次元座標を求めることができる。
【0008】
【発明の実施の形態】
以下添付図面に従って本発明に係る顕微鏡を用いた3次元画像認識装置について詳説する。
図1は本発明の3次元画像認識装置の一実施の形態を示したシステム構成図である。
【0009】
同図に示すように3次元画像認識装置は、XYステージ10と、画像処理装置を搭載したパソコン12(パーソナルコンピュータ)と、検査対象物を照明する照明用ランプ14と、格子縞を投影する格子縞投影用ランプ16と、前記ランプのオン・オフ及び明るさを制御する照明コントローラ18と、前記XYステージ10の上方の左右2方向の位置に固定された顕微鏡20A、20Bと、前記左右の顕微鏡20A、20Bのそれぞれの接眼部に設置されたCCDカメラ22A、22Bと、から構成される。
【0010】
上記XYステージ10は、検査対象物(以下、単に対象物という)をステージ上に固定し、互いに直交するX軸及びY軸の方向に対象物を移動させて、上記顕微鏡20A、20Bによって対象物の検査対象領域を観察できる位置に調整する。
上記顕微鏡20A、20Bは、XYステージ10上に固定された対象物の検査対象領域を左右2方向から拡大する。
【0011】
そして、上記CCDカメラ22A、22Bは、左右の顕微鏡20A、20Bによって拡大された検査対象領域の像を撮像する。
図2は上記3次元画像認識装置のハードウェア構成図である。同図に示すように、上記3次元画像認識装置は、装置制御部30(パソコン12を含む)、画像処理部32、上記各種装置から構成される。
【0012】
上記装置制御部30は、MPU30A、照明コントローラ18のD/Aコンバータ30B、XYステージ10のXモータ10A、Yモータ10Bを駆動制御するモータコントローラ30C、各種センサの入出力信号を制御するI/Oコントローラ30Dから構成さる。MPU30Aはプログラム動作し、バス34で接続された各装置にコントロール信号を出力し、装置全体を総括的に制御する。
【0013】
D/Aコンバータ30Bは、MPU30Aから入力したコントロール信号をアナログ信号に変換するとともに、アナログ信号を照明用ランプ14の電源36及び格子縞投影用ランプ16の電源38を制御し、照明用ランプ14及び格子縞投影用ランプ16のオン・オフ及び明るさの制御を行う。
モータコントローラ30Cは、MPU30Aから入力したコントロール信号に従って、XYステージ10のX方向及びY方向の移動を行うXモータ10A、Yモータ10Bの駆動制御を行うとともに、Xモータ10A、Yモータ10Bの駆動量からXYステージ10の位置を示す位置信号をMPU30Aに出力する。
【0014】
上記画像処理部34は、画像メモリ34A、画像演算処理部34B、カメラI/F34Cとから構成され、上記装置制御部30とバス34によって接続される。上記カメラI/F34Cは、左右の顕微鏡20A、20Bに設置されたCCDカメラ22A、22Bの画像取り込みタイミングを同期させてCCDカメラ22A、22Bから画像信号を取り込むとともに、MPU30Aから入力したコントロール信号に従って入力した画像信号を画像データとして画像メモリ34Aに出力する。
【0015】
画像メモリ34Aは、カメラI/F34Cを介してCCDカメラ22A、22Bから取り込んだ画像データを記録するとともに、画像演算処理部34Bによって処理された画像データを記録する。
画像演算処理部34Bは、MPU30Aから入力したコントロール信号に従って、上記画像メモリ34Aに記録された画像データを読み出し、この画像データに基づいて各種画像演算処理を行う。尚、この画像演算処理部は、通常の画像処理関数以外に、左右の画像データの対応位置を抽出するための手法である正規化相関法の演算機能を有している。
【0016】
図3は、上記3次元画像認識装置のソフトウェア構成図である。上記MPU30Aは、同図に示す複数のシステムから成るソフトウェア構成によってプログラム動作する。同図に示すように上記3次元画像認識装置のソフトウェアのシステムは、上記左右の顕微鏡20A、20Bを介してCCDカメラ22A、22Bから画像データの取り込み処理(画像データ取り込み処理)を行う画像データ取込処理システム40、以下に詳説するキャリブレーションシステム42、標定システム44、3次元特性領域の抽出システム46、リードフレーム曲がり、欠陥検査システム48、ボンディングワイヤの形状測定システム50とから構成される。
【0017】
上記画像取込処理システム40、キャリブレーションシステム42、標定システム44、3次元特性領域の抽出システム46は、3次元画像処理を行う上で共通に必要とする基本システムであり、上記リードフレーム曲がり、欠陥検査システム48、ボンディングワイヤの形状測定システム50は、検査対象物により異なる応用システムである。尚、応用システムは、検査対象物及び検査内容に応じて適宜プログラムされるもので、ここでは応用システムの一例としてボンディングワイヤの形状測定システム50を説明する。
【0018】
以上の基本システム及び応用システムは装置全体を総括的に制御するシステム制御部52によって実行され、これらのシステムを実行する際に演算処理関数、画像処理関数、画像メモリが使用される。
次に上述の如く構成される上記3次元画像認識装置の作用について説明する。まず、上記システム制御部52は、キャリブレーションシステム42によって顕微鏡20A、20Bの光学系をキャリブレーションする。上記左右2つの顕微鏡20A、20Bは、これらの顕微鏡20A、20Bを介して対象物を撮像した場合に、左右の映像は現在市販されている実体顕微鏡を使用すればほぼ同等の映像が得られると期待できる。しかし、左右の画像データを計測に使用する場合にはこれらの顕微鏡20A、20Bの光学系を正確にキャリブレーションする必要がある。そこで、キャリブレーション用の格子パターンを用いて左画像データ及び右画像データの画素の大きさを精度良くキャリブレーションする。
【0019】
図4はキャリブレーションの方法を示した説明図である。図4(A)に示すリファレンスパターンから構成される間隔の精度が十分によい格子縞をリファレンスワーク(理想平面から成る対象物)に垂直上方から投影用ランプ16によって投影し、左右の顕微鏡20A、20Bに設置されたCCDカメラ22A、22Bでこのリファレンスワークを撮像する。例えば、図4(B)に示すようにリファレンスワークの平面に投影された格子縞を垂直上方に対して斜方θ方向から撮像するとすると、図4(C)に示すような画像データが得られる。顕微鏡の光学系の一番最初の標定をかける時には、スイングするステージで、図4(E)に示すようにキャリブレーション用のリファレンスワークを顕微鏡の光軸と垂直になるように傾けて図4(D)のような画像データを得る。このようにして得られた画像データ上の格子の交点(以下、格子点と称す。)の位置(例えば、図4(D)の1、2、3、25で示したような格子点の位置)を正規化相関法を使用して1/10画素の精度で計測する。このようにして計測した複数の格子点の位置と、撮像方向の角度θをパラメータとして算出される画像上の格子点の位置とから最小2乗法によって画面の各格子が正しく正方格子になるようにアフィン変換する真の角度θと歪みの補正値を算出する。これにより、この角度θから格子縞を撮像した場合の画像上の各格子点の位置が精度良く算出され、この格子点の位置から内部評定要素である撮像面における光学系の歪みの補正値と1画素の大きさを求めることができる。
【0020】
また、顕微鏡光学系をフィールドでキャリブレーションする場合は、顕微鏡設計時の角度θ(図4(B)参照)を基に図5に示すように図4(A)のリファレンスパターン(図5(A))を、例えば、図4(C)に示した格子点1、2、3、21、25における格子縞のパターン図5(A1)、(A2)、(A3)、(A21)、(A25)のように変換してから、図4(C)(図5(C)参照)に対して正規化相関法を使用して各格子点を測定する。尚、同一のライン上の図5(A1)、(A2)、(A3)は、相似関係を保ったまま、大きさが変化し、同様に中心線より上と下では収束点からの角度により横線の傾きが逆になった上、図5(A21)と(A25)とは(A1)、(A2)、(A3)と同様に相似関係になる。この関係を考慮して、例えば、格子点1付近のサーチは(A1)を、格子点2付近のサーチは(A2)を使用することにより、ずれの少ない相関ができる。そして、測定した各格子点の値を基にアフィン変換することによっても、内部評定要素である撮像面における光学系の歪みの補正値と1画素の大きさを求めることができる。
【0021】
また、CCDカメラ22A、22Bから入力した画像データから左右の画像データの明るさをキャリブレーションする。左右の画像データの明るさは上記キャリブレーションワークを使用して入力した画像データから左画像データ及び右画像データの明るさのヒストグラムを作成し、これらのヒストグラムを比較してCCDカメラ22A、22Bのゲインとオフセットの2つの明るさコントローラパラメータを調整する。
【0022】
以上のキャリブレーションシステムによって顕微鏡の光学系をキャリブレーションした後、次に上記システム制御部52は標定システム44によって左右の顕微鏡光学系の撮像位置等の光学系の幾何学的な配置を標定する。ステレオ実体視により対象物の3次元的な位置決めを行うには、計測に先立って左右の顕微鏡光学系の撮像位置等を含め、顕微鏡光学系の焦点距離、光軸と撮像面の交点における3次元座標の各軸X、Y、Zに対する回転、撮像倍率等の光学系の幾何学的な配置を決定する標定要素を求めることが必要になる。
【0023】
評定要素が決定されると、対象物の3次元座標は、その対象物の左右の画像データ上の座標より計算により求めることができる。
標定には図4に示したリファレンスパターンと同一の格子縞を使用し、一辺を3、4、〜10とした時の正方格子の合計点9点、16点、25点、〜100点の格子点を利用して評定を実施する。標定要素は、格子縞上の格子点位置の3次元座標を既知として、左右のCCDカメラ22A、22Bによって撮像された画像データ上の格子点の座標値を求めることにより算出される。この標定要素の算出には最小4点の対応点が必要である。多数の格子点を用いることは、撮像系の光学的歪みを正しくキャリブレーションするためである。
【0024】
以上の標定システムによって左右の顕微鏡光学系の撮像位置等の光学系の幾何学的な配置を標定した後、次に上記システム制御部52は抽出システム44によって3次元的な特徴を持つ部分を抽出する。
図6に示すように、対象物の平面上にバンプ60が存在する対象物を左右のCCDカメラ22A、22Bで撮像する場合を例に示す。分かりやすくするために対象物に上述の格子縞が投影されているとする。平面上に正方形の格子縞を投影して斜方からCCDカメラ22A、22Bによってこの格子縞を撮像すると、顕微鏡20A、20Bの光学系の光軸が対象物平面に垂直でないために画像データ上では台形の格子縞として記録されるが、この画像データ上の格子縞はアフィン変換により正方形に変換することができる。ところが、平面でない部分に投影された正方形の格子縞は、アフィン変換しても正方形には変換されず、左画像データ上と右の画像データ上で異なった形状を示す。図6に示したようなバンプ60が存在する対象物を左右のCCDカメラ22A、22Bで撮像すると、図7(A)、(B)に示すような左右の画像データが得られる。この左右の画像データをそれぞれアフィン変換して平面上の格子縞を正方形に変換すると、図8(A)、(B)に示すような左右の画像データが得られる。同図からわかるようにバンプ60の部分に投影された格子縞は左右の画像データで異なることがわかる。この特性を利用して画像データの中から所定平面とは高さの異なる部分のみの左右の画像データを図9(A)、(B)に示すように抽出することができる。
【0025】
この状況を対象物の断面方向から見ると分かりやすくなるので模式的に対象物の断面図を図10に示す。図10に示すようにバンプ60が存在する対象物を左右のCCDカメラ22A、22Bによって撮像し、上記アフィン変換すると、バンプ60と平面との境界上の点B、Cと、点B、Cの中点Aに対して垂直方向のあるバンプ60上の点A’は、それぞれ図11(A)、(B)の点B、C、A’の位置に投影される。同図から分かるようにバンプ60上にある点A’は、点B、Cの中点Aの位置とは異なる位置に投影され、バンプ60が存在しない場合(点A’が平面上の点Aと一致する場合)に点A’が投影されるべき位置とは左右の画像データで異なる。
【0026】
このように、対象物の所定の平面上にある点が左右の画像データ上の投影されるべき点の位置とは異なる位置に投影された対象物上の点を抽出することにより、3次元的な特徴を持つ部分を抽出することができる。そして、この3次元的な特徴を持つ部分の左右の画像データ上での位置から3次元的な定量測定を行うことができる。
【0027】
以上説明した基本システムは、以下に一例として示すような応用システムにおいて共通に使用されるシステムであり、この基本システムによって対象物の3次元測定が可能になる点を利用して応用システムがプログラムされる。
次に応用システム一例としてボンディングワイヤの形状測定システム50(図3参照)について説明する。
【0028】
図12は、形状測定するボンディングワイヤの形状の一例を示した構成図である。同図に示すボンディングワイヤ70Bはチップ70C上のパッド70Dとリードフレーム70A間に接着されて、このパッド70Dとリードフレーム70A間に規定の空間形状で配置される。もし、このボンディングワイヤ70Bの形状が規定の形状と大きく異なる場合には不良品と判定される。
【0029】
図13は、このボンディングワイヤの形状測定システムの処理手順を示したフローチャートである。ボンディングワイヤについては3次元的な形状を測定する。上記ボンディングワイヤの3次元形状測定の準備工程として、予め、チップ上のパッド70Dの位置と、これに対応するリードフレーム70Aの位置を登録しておく。そして、このチップ70CをXYステージ10上に固定して、チップ70C上に記されたアライメント用マーク又はリファレンス70E、70Eを所定の位置に合わせる。そして、左右の顕微鏡20A、20Bを介してCCDカメラ22A、22Bで撮像し、パッド70Dの位置とリードフレーム70Aの位置が上記登録した位置と一致するか確認する(ステップS20)。このようにしてチップ70Cの固定位置を調節した後、CCDカメラ22A、22Bによってチップ70Cを撮像し、図14に示すように撮像した左右の画像データ上でパッド70D位置付近に小画像領域80Aを設定する(ステップS22)。つぎにこの左右の画像データ上の小画像領域80Aにおいてそれぞれ、ボンディングワイヤ70Bの輪郭を抽出し、ソーベルオペレータ等の画像処理でボンディングワイヤ70Bの中心線の線分(曲線)を検出する(ステップS24)。そして、抽出したボンディングワイヤ70Bの中心線の画像データ上での座標値及び方向を算出する(ステップS26)。この後、さらに、ボンディングワイヤ70Bの中心線の延長上に小画像領域80B(図14参照)を設定し、この設定した小画像領域80Bにリードフレーム70Aが含まれるか否かを判定する(ステップS30)。もし、小画像領域にリードフレーム70Aが含まれない場合、小画像領域にリードフレーム70Aが含まれるまで上記ステップS24からステップS30までの処理を繰り返し実行する(図14では小画像領域80Eまで上記処理を繰り返す)。即ち、上記ステップS24からステップS30までの処理を繰り返し実行してパッド70Dの位置からリードフレーム70Aの位置までのボンディングワイヤ70Bの中心線の座標値を左右の画像データ上でそれぞれ検出する。
【0030】
このようにして検出した左右の画像データ上でのボンディングワイヤ70Bの中心線の座標値を求めた後、この座標値からボンディングワイヤ70Bの3次元座標値の点列を算出する(ステップS32)。
尚、ボンディングワイヤ70Bの3次元座標値を算出際に、ボンディングワイヤ70Bの同一点を左右の画像データ上で対応させる必要があるが、これにはエピポーラ線を使用する。エピポーラ線は左右の顕微鏡光学系の焦点を結ぶ直線と対象物の任意の点で決定される平面(エピポーラ面)を左右の画像データ上に投影した際の直線を示す。図15に示すように所定平面上の2点A、B間(パッド70Dとリードフレーム70A間)に3次元的に設置されたボンディングワイヤ70Bを左右のCCDカメラ22A、22Bで撮像すると、左右の画像データ上には上記2点A、Bの投影点A’、B’を結ぶ曲線として投影される。このとき、左右の画像データ上に投影された2点A’、B’間を結ぶ線分を所定の比率で2分する分割点C’、C’は対象物上で同一の点Cとなり、左右の画像データ上でこの分割点を通るエピポーラ線e、eがボンディングワイヤ70Bと交わる点P’、P’は、対象物上でボンディングワイヤ70Bの同一の点Pとなる(同図斜線で示した平面はエピポーラ面を示す)。
【0031】
即ち、図16(A)、(B)に示すように左右の画像データ上で、ボンディングワイヤ70Bの中心線データの始点A’と終点B’を結ぶ線分を作り、この線分をn等分する。そして、このn等分した内のl番目の点を通るエピポーラ線e、eと中心線データの交点P’、P’を求め、この左右の画像データ上での交点P’、P’の座標値よりボンディングワイヤ70Bの3次元座標値を求める。
【0032】
そして、以上のようにして求めたボンディングワイヤの3次元座標値の点列と予め登録してある理想的な形状のボンディングワイヤの3次元座標値との偏差を算出してこの偏差が許容範囲内か否かで良否判定を行う(ステップS34)。
尚、応用システムの他の例として図3に示したリードフレームの曲がり、欠陥検査システム48は、3次元測定からリードフレームの曲がり(図17(A)、(B)のICチップ70の上面図、断面図に示したリードフレーム70Aの曲がり70B)を検出するとともに、リードフレームのプレス打痕、プレス磨耗等(図18参照)の欠陥を検出する。
【0033】
以上、上記実施の形態では、顕微鏡光学系の標定要素を決定する際にリファレンスワークに投影した格子縞の格子点位置の3次元座標を既知としてこの標定要素を決定していたが、これに限らず、観測可能で3次元座標が既知の任意の複数点によっても同様に標定要素を決定することができる。
また、上記実施の形態では、2つの顕微鏡を左右斜め方向に設置していたが、この2つの顕微鏡の設置位置は対象物の同一領域を観測できる位置でどこでもよい。
【0034】
【発明の効果】
以上説明したように本発明の顕微鏡を用いた3次元画像認識装置によれば、対象物を左右2方向から拡大して撮像する第1、第2の顕微鏡を設置し、まず、初期設定として予め複数点の3次元座標が決定されている基準対象物を前記第1、第2の顕微鏡によって撮像し、これによって得られた第1、第2の画像データから前記複数点に対応する前記第1、第2の画像データ上の位置を測定する。そして、この測定によって得られた複数点に対応する前記第1、第2の画像データ上の位置と前記複数点の3次元座標とから前記第1、第2の顕微鏡の標定要素を決定する。そして、第1、第2の顕微鏡によって対象物を拡大して撮像し、第1、第2の画像データを得る。そして、この第1、第2の画像データ上の対応する位置を検出してこの対応する位置と、標定要素から前記対象物の所定位置の3次元座標を算出する。
【0035】
これにより、対象物の3次元的な特徴を顕微鏡を用いて精度良く定量認識することができる。
また、請求項2の発明によれば、第1、第2の画像データ上で対応する位置が不明な対象物の位置を、第1、第2の画像データ上で対応する位置が分かっている点を通るエピポーラ線によって検出することによって立体形状の対象物の定量認識が可能となる。
【0036】
更に、請求項3の発明によれば、第1、第2の画像データ上で平面領域以外の領域を抽出することによって、シミや汚れの付着のような単一方向からの画像だけでは3次元的な画像の影部分と区別できない検査対象の特徴を抽出することができるので、画像計測処理を早く確実に行うことができる。
【図面の簡単な説明】
【図1】図1は、本発明に係る顕微鏡を用いた3次元画像認識装置の一実施の形態を示したシステム構成図である。
【図2】図2は、本発明に係る顕微鏡を用いた3次元画像認識装置の一実施の形態を示したハードウェア構成図である。
【図3】図3は、本発明に係る顕微鏡を用いた3次元画像認識装置のソフトウェア構成図である。
【図4】図4は、キャリブレーションの方法を示した説明図である。
【図5】図5は、キャリブレーションの方法を示した説明図である。
【図6】図6は、平面上にバンプが存在する対象物を左右のCCDカメラで撮像する場合を示した説明図である。
【図7】図7は、図6の対象物を左右のCCDカメラで撮像した場合に得られる画像を示した説明図である。
【図8】図8は、図7の画像をアフィン変換した場合に得られる画像を示した説明図である。
【図9】図9は、図6の対象物から3次元的に特徴がある部分を抽出して得られる画像を示した説明図である。
【図10】図10は、平面上にバンプが存在する対象物を左右のCCDカメラで撮像する場合を示した説明図である。
【図11】図11は、図10の対象物を左右のCCDカメラで撮像した場合に、バンプ上の点が撮像される画像データ上の位置を示した説明図である。
【図12】図12は、ボンディングワイヤの形状を示した構成図である。
【図13】図13は、このボンディングワイヤの形状測定システムの処理手順を示したフローチャートである。
【図14】図14は、ボンディングワイヤの形状測定の手順を説明する際に用いた説明図である。
【図15】図15は、エピポーラ線による左右画像データの対応点を求める手順を示した説明図である。
【図16】図16は、エピポーラ線による左右画像データの対応点を求める手順を示した説明図である。
【図17】図17は、ICチップのリードフレームの曲がりによる不良品例を示した図である。
【図18】図18は、ICチップのリードフレームのプレス打痕やプレス磨耗による不良品例を示した図である。
【符号の説明】
10…XYステージ
12…パソコン12
16…格子縞投影用ランプ
20A、20B…顕微鏡
22A、22B…CCDカメラ
Claims (1)
- 第1の光軸方向から対象物の検査領域を拡大して撮像し、第1の画像データを得る第1の顕微鏡と、
前記第1の光軸方向と異なる第2の光軸方向から前記対象物の検査領域と同一の検査領域を拡大して撮像し、第2の画像データを得る第2の顕微鏡と、
前記第1及び第2の各画像データ上において、前記対象物上での同一部位に対応する線状の領域を検出する検出手段と、
前記第1及び第2の各画像データ上において、前記対象物の空間内での同一座標点に対応する点を通過するエピポーラ線と、前記検出手段により検出された線状の領域とが交わる点を検出し、該検出した各画像データ上での点の位置に基づいて該点に対応する前記対象物上の位置の3次元座標を算出する3次元座標算出手段と、を備え、
前記第1及び第2の各画像データ上において、前記対象物の空間上での同一座標点に対応する前記点は、前記第1及び第2の各画像データ上において前記検出手段により検出された線状の領域の両端を結ぶ直線を同一の比で分割した点であり、前記3次元座標算出手段は、該分割する点の位置を変更することにより、前記検出手段より検出された線状の領域の各点に対応する前記対象物上の各位置の3次元座標を算出することを特徴とする顕微鏡を用いた3次元画像認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP21165296A JP3855244B2 (ja) | 1996-08-09 | 1996-08-09 | 顕微鏡を用いた3次元画像認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP21165296A JP3855244B2 (ja) | 1996-08-09 | 1996-08-09 | 顕微鏡を用いた3次元画像認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1054709A JPH1054709A (ja) | 1998-02-24 |
JP3855244B2 true JP3855244B2 (ja) | 2006-12-06 |
Family
ID=16609348
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP21165296A Expired - Fee Related JP3855244B2 (ja) | 1996-08-09 | 1996-08-09 | 顕微鏡を用いた3次元画像認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3855244B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100938453B1 (ko) * | 2007-07-31 | 2010-01-25 | (주)레드로버 | 입체영상 획득장치 및 입체영상 획득장치를 구비한입체현미경 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100417914C (zh) * | 2005-06-17 | 2008-09-10 | 欧姆龙株式会社 | 图像处理装置以及图像处理方法 |
JP4774824B2 (ja) * | 2005-06-17 | 2011-09-14 | オムロン株式会社 | 3次元計測処理の計測対象範囲の確認方法および計測対象範囲の設定方法ならびに各方法を実施する装置 |
CN100460807C (zh) * | 2005-06-17 | 2009-02-11 | 欧姆龙株式会社 | 进行三维计测的图像处理装置及图像处理方法 |
JP2007018935A (ja) * | 2005-07-08 | 2007-01-25 | Hitachi High-Technologies Corp | プローブ付き顕微鏡及びプローブ接触方法 |
AU2008222933A1 (en) * | 2007-03-02 | 2008-09-12 | Organic Motion | System and method for tracking three dimensional objects |
US8285025B2 (en) * | 2008-03-25 | 2012-10-09 | Electro Scientific Industries, Inc. | Method and apparatus for detecting defects using structured light |
JP5867194B2 (ja) * | 2012-03-13 | 2016-02-24 | 株式会社島津製作所 | 顕微鏡 |
JP6231505B2 (ja) * | 2015-01-14 | 2017-11-15 | 三友工業株式会社 | 表面検査装置及び表面検査方法。 |
US10247546B2 (en) | 2015-06-10 | 2019-04-02 | Pfu Limited | Image processing system and method for detecting a target object area based on height information |
US11235317B2 (en) | 2017-03-10 | 2022-02-01 | Nsk Ltd. | Tubular instrument and manipulation system |
TWI732506B (zh) * | 2019-04-22 | 2021-07-01 | 日商新川股份有限公司 | 線形狀測量裝置、線三維圖像產生方法以及線形狀測量方法 |
KR20230154277A (ko) | 2022-01-18 | 2023-11-07 | 야마하 로보틱스 홀딩스 가부시키가이샤 | 3차원 디지털 현미경 |
KR20230154278A (ko) | 2022-01-18 | 2023-11-07 | 야마하 로보틱스 홀딩스 가부시키가이샤 | 물품의 3차원 선도를 생성하는 방법 및 3차원 선도 생성 장치 및 3차원 형상 검사 장치 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0615968B2 (ja) * | 1986-08-11 | 1994-03-02 | 伍良 松本 | 立体形状測定装置 |
JPH0617776B2 (ja) * | 1988-09-07 | 1994-03-09 | 株式会社東芝 | ボンディングワイヤー検査方法 |
EP0373614A3 (en) * | 1988-12-16 | 1992-08-12 | Schlumberger Technologies Inc | Method for direct volume measurement of three dimensional features in binocular stereo images |
JP2941412B2 (ja) * | 1990-11-26 | 1999-08-25 | 株式会社東芝 | 3次元計測方法 |
JPH0792364B2 (ja) * | 1991-03-02 | 1995-10-09 | 東京工業大学長 | 非接触型三次元座標検出装置のz座標の位置検出方法および装置 |
JPH06195446A (ja) * | 1992-12-24 | 1994-07-15 | Canon Inc | 対応点の探索方法 |
JP3429529B2 (ja) * | 1993-06-15 | 2003-07-22 | オリンパス光学工業株式会社 | 手術用顕微鏡 |
JP3424327B2 (ja) * | 1994-06-16 | 2003-07-07 | 朝日航洋株式会社 | 眼底計測装置 |
JPH0814828A (ja) * | 1994-06-29 | 1996-01-19 | Kobe Steel Ltd | ステレオ画像センサのキャリブレーション方法及びその装置 |
-
1996
- 1996-08-09 JP JP21165296A patent/JP3855244B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100938453B1 (ko) * | 2007-07-31 | 2010-01-25 | (주)레드로버 | 입체영상 획득장치 및 입체영상 획득장치를 구비한입체현미경 |
Also Published As
Publication number | Publication date |
---|---|
JPH1054709A (ja) | 1998-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3855244B2 (ja) | 顕微鏡を用いた3次元画像認識装置 | |
CN105783784B (zh) | 检查装置及检查装置的控制方法 | |
JP6750841B2 (ja) | 検査方法、検査装置、処理装置、プログラム及び記録媒体 | |
JP4446609B2 (ja) | 画像処理方法および装置 | |
US20070041632A1 (en) | Bonding program | |
JPH11317429A (ja) | 直接プローブ・センシングのための改良された方法および装置 | |
JPH09504401A (ja) | ボールボンド検査システム用の方法および装置 | |
KR20130096136A (ko) | 화상 처리 장치 및 화상 처리 방법 | |
US7191929B2 (en) | Method of measuring thickness of bonded ball in wire bonding | |
US20230179732A1 (en) | Image capturing apparatus, image processing apparatus, image processing method, image capturing apparatus calibration method, robot apparatus, method for manufacturing article using robot apparatus, and recording medium | |
US6061467A (en) | Automated optical inspection apparatus using nearest neighbor interpolation | |
JP2008014700A (ja) | ワークの検査方法及びワーク検査装置 | |
JP4932202B2 (ja) | 画像測定装置用パートプログラム生成装置、画像測定装置用パートプログラム生成方法、及び画像測定装置用パートプログラム生成用プログラム | |
KR0169845B1 (ko) | 와이어 본딩부의 볼 검출방법 및 검출장치 | |
JP7368141B2 (ja) | ウエーハ外観検査装置および方法 | |
JPH11351840A (ja) | 非接触三次元測定方法 | |
WO2020217970A1 (ja) | ワイヤ形状測定装置及びワイヤ三次元画像生成方法並びにワイヤ形状測定方法 | |
JP6900261B2 (ja) | 処理装置、基板検査装置、処理方法および基板検査方法 | |
WO2004102171A1 (ja) | 外観検査方法、それに用いるマスタパターンおよび該マスタパターンを備える外観検査装置 | |
JP2009250777A (ja) | 表面検査装置および表面検査方法 | |
JP3395721B2 (ja) | バンプ接合部検査装置及び方法 | |
JP2005274309A (ja) | 三次元物体の検査方法および検査装置 | |
JP4741943B2 (ja) | 検査装置及び検査方法 | |
JP3857668B2 (ja) | パターンの位置合わせ方法 | |
JP2000251824A (ja) | 電子ビーム装置及びそのステージ移動位置合せ方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050422 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050616 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060602 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060731 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060821 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060903 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090922 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100922 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100922 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110922 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110922 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120922 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120922 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130922 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |