JP2004536300A - 画像装置の位置の迅速な判断を可能にする基準のしるしの選択 - Google Patents
画像装置の位置の迅速な判断を可能にする基準のしるしの選択 Download PDFInfo
- Publication number
- JP2004536300A JP2004536300A JP2003511609A JP2003511609A JP2004536300A JP 2004536300 A JP2004536300 A JP 2004536300A JP 2003511609 A JP2003511609 A JP 2003511609A JP 2003511609 A JP2003511609 A JP 2003511609A JP 2004536300 A JP2004536300 A JP 2004536300A
- Authority
- JP
- Japan
- Prior art keywords
- group
- indicia
- imaging device
- substrate
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
- H05K—PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
- H05K13/00—Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
- H05K13/08—Monitoring manufacture of assemblages
- H05K13/081—Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
- H05K13/0818—Setup of monitoring devices prior to starting mounting operations; Teaching of monitoring devices for specific products; Compensation of drifts during operation, e.g. due to temperature shifts
Landscapes
- Engineering & Computer Science (AREA)
- Operations Research (AREA)
- Manufacturing & Machinery (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Input (AREA)
Abstract
Description
本発明は位置判断の分野に関し、特に、装置によって形成された画像において、基板の基準パターンの位置測定に基づいて、基板又はそれと同様のものに対するカメラのような画像装置の視野の位置を判断する方法に関する。本方法を実現する装置もまた述べられる。
【0002】
F. de JongとP.P Jonkerによる“Visual servoing in PCB manufacture”(Delftで2000年にL.J. van VilietとJ.W.J. HeijnsdijkとT. KielmanとP.M.W. Knijnenburgにより編集されたProc. ASCI2000, 6th Annual Conference of the Advanced School for Computing and Imaging, ASCIの59−63ページ)において、基板、この場合は、電子部部品が配置された回路基板に対するカメラの視野の位置を判断する方法が提案された。前記カメラは回路基板に電子部品を配置するために使用されるロボットにより運ばれる。前記回路基板は直線のセグメントからなる幾何学的模様を形成する導体を有する。提案された方法は、ビデオ画像における前記セグメントのいくつかの位置測定に基づいて、カメラの視野の正確な位置を決定することを含む。カメラの位置を判断する方法で用いられるセグメントは、“基準セグメント”として呼ばれ得る。
【0003】
この周知の方法によると、当然ながら、基準セグメントとビデオ画像に表れる他のセグメントとを区別ができることが必要である。de Jong他の論文は、明白な基準セグメントを選択し、セグメント間の距離を利用して明白なセグメントのグループを形成することにより、又は基板の他の明白な要素(例えばビア(via)又は基準)を利用することにより、このことが行われ得ることを保証することを提案する。しかし、ビア(via)は円形であるため、位置測定される基準要素としてビア(via)を用いた位置判断方法では、適切に位置測定するためには二次元の画像データを処理する必要がある。基板に場所を取るため、位置測定される基準要素として基準を用いることもまた不利である。従って、線形の導体に対応する基準要素に位置判断を基づかせることが好ましい。de Jong他の論文によると、選択された導体の基準グループを見つけるために、全ビデオ画像が取得され、分析される。各基準グループの位置の補正値がそれぞれの一次元で決定される。二次元における基板に関するカメラの視野の位置の補正値についての完全な情報が、(x及び/又はy方向にそう平行移動、及び/又は回転角に続いて)一次元の補正データを結合することにより獲得される。
【0004】
説明した方法は、カメラの視野の位置を判断する有望な技術であるが、いくつかの問題が存在する。特に、時間が重視される用途において、全ビデオ画像の取得と分析は非常に長い時間がかかる。
【0005】
画像装置の視野の位置を判断する場合に用いる1つ以上のしるしの基準グループが、画像装置によって映された基板に表示されたしるしの中から選択され、基板の画像の小さな一部のみを用いて、前記基準グループが迅速に及び明白に検出される方法を提供することが、本発明の目的である。
【0006】
本発明は、しるしを有する基板に対する画像装置の視野の位置を判断する方法を提供し、本方法は、選択された一式のしるしの基準グループの位置の変化に基づいて、前記画像装置の視野の位置を判断するステップを有し、それぞれの選択されたしるしの基準グループについて、位置の変化が前記基板の対応する一部の画像データの取得と分析により決定されることを特徴とする。
【0007】
本発明の位置判断方法は、前記基板で各基準グループとしての役割をする1つ以上のしるしのグループを選択するステップであって、前記選択された基準グループが視野の公称位置にある場合に、前記画像装置の視野が前記基板に関して第1の位置にあるステップと;それぞれの基準グループの公称位置に対応する前記基板の一部の画像を生成する画像装置を使用するステップであって、前記一部の画像の少なくとも1つの大きさが、前記画像装置の最大の位置誤差の実質的に2倍以上であるステップと;それぞれの一部の画像で、前記対応する基準グループの画像を検出し、前記画像装置の視野における前記基準グループの公称位置と、それから検出された位置との間の補正値を決定するステップと;決定された補正値に基づき、及び、前記画像装置の前記第1の位置と前記基準グループの公称位置との間の周知の関係に基づき、前記画像装置の視野の位置を決定するステップとを有し得る。
【0008】
本発明の位置判断方法を用いることにより、画像の一部における所定の基準グループの位置を決定するために、画像の一部のみが取得され、分析される。従って、全画像を取得し分析することはもはや必要なく、その結果、処理時間が減少する。
【0009】
前記の方法をうまく行うために、前記基準グループが必ず現れる画像の領域(“関心領域”と呼ばれる)を定義できなければならない。従って、前記画像装置の位置が、測ることができる不正確さを備えることが知られ得る必要がある。概して、何らかの所定の用途において、カメラの最大の位置誤差は知られている。一般的に、これは“位置が±1mmの正確さである”というような言葉で表現され、直交(x,y)座標のシステムについて考えると、各x及びy座標について1mmまでの誤差が存在し得ることを意味する。前記の例において、1mmは、本願で“最大の位置誤差”として称されるものを構成する。本発明による方法の好ましい実施例において、前記基板の一部の画像の少なくとも1つの大きさが、前記画像装置の最大の位置誤差の2倍以上である事実からみて、前記対応する基準グループが、前記分析された一部の画像に現れることが確実になり得る。
【0010】
この点について、前記基準グループに用いられるしるしが幾何学的要素であることが有利である。本発明の好ましい実施例において、前記しるしは、直線のセグメントである。選択された直線のセグメントが、前記最大の位置誤差の少なくとも2倍の長さを有する場合、前記選択されたセグメントが、次の特性を有する一部の画像に現れることが確実である。
a)前記選択されたセグメントの公称位置に中心が置かれる。
b)前記選択されたセグメントの公称方向に対して実質的に垂直に伸びる方向に、前記位置誤差の距離の実質的に2倍以上の大きさを有する。
従って、前記一部のイメージは、前記選択されたセグメントの基準方向に平行な方向に比較的小さいサイズを有する帯状である場合がある。
【0011】
本発明の好ましい実施例において、基準としての役割をするグループを選択するステップは、前記最大の位置誤差の距離の2倍より小さい直線のセグメントからなる基準グループの候補を却下するステップを有する。
【0012】
正確な結果を得る本発明による方法のために、各基準グループと、関心領域に現れ得る他のしるしのグループの全てとを区別できなければならない。前記基準グループは、前記条件を満たすために複数の異なる方法で選択され得る。
【0013】
好ましくは、基準としての役割をするグループ又はグループ群は、次のステップを用いて選択される:候補グループとして、前記基板で1つ以上のしるしのグループを指定するステップと;前記画像装置の最大の位置誤差に基づいて、前記候補グループの画像が現れ得る画像領域の境界を決定するステップと;前記決定された画像領域が前記画像装置の使用可能な視野に完全には含まれない場合に、前記候補グループを却下するステップ。
【0014】
基準としての役割をするグループ又はグループ群の選択が、前記画像領域に対応する前記基板の一部を分析することを含み、前記候補グループが明白に識別され得るかどうかを決定し;前記分析ステップが、前記基板の前記一部に前記候補グループが明白に識別され得ることを決定した場合にのみ、基準グループとしての役割をする前記候補グループを選択することが、更に好ましい。
【0015】
本発明の好ましい実施例による方法は、前記画像の選択された一部のみの分析を含み、前記カメラの最大の位置誤差に関する演繹的知識を使用し、分析された画像の一部がセグメントのそれぞれの基準グループが必ず現れる領域に対応することを確実にする。このことは、前記基準グループを構成するセグメント又はセグメントのグループからなる特定の選択と組み合わせて、保持された基準グループが明白に検出され得ることを確実にする。従って、本発明の好ましい実施例による方法は、基板に関してカメラの位置の高速で確固とした計算を可能にする。
【0016】
本発明の好ましい実施例において、候補グループが明白であるかどうかについての判断が、前記画像の一部において、前記基準グループのそれぞれのしるし(群)と同じ方向(及び、前記候補グループに1つ以上のしるしが存在する場合には間隔)を有する何らかの他のしるしのグループが存在するかどうかの検討を含む場合に有利である。
【0017】
ある場合においては、前記画像の一部が特定の方向に走査されると、基準グループが明白である可能性がある。例えば、前記基準グループは、前記画像の一部が左から右に走査される場合に見つけられる2つのセグメントのうちの最初のグループである。従って、基準グループを前記画像の対応する一部が走査される方向に関連付けることが有利である可能性がある。
【0018】
本発明は、前述の方法を実施する手段を有する装置を更に提供する。好ましくは、本発明は、前述の方法に従って画像データを処理するように構成された、適切にプログラムされたコンピュータ又は専用プロセッサを有する。本システムは、画像データを取得する手段を有する装置において提供され得る。
【0019】
本発明は、前述の方法を実施する一式の命令を有するコンピュータプログラム製品を更に提供する。
【0020】
本発明を有利に実現するためにオプションで使用され得る本発明と追加の特徴は、本願で説明される図の参照から明白であり、明らかになる。
【0021】
本発明の好ましい実施例が、前記基板に電子部品を性格に配置することを確実にために、カメラの視野の位置が回路基板に関して判断される用途に照らして以下に説明される。本出願において、前記カメラは、同じ配置の導体を有する新しい回路基板と、各基板の異なる導体の場所に繰り返し調整される。しかし、本発明は前記用途に限定されない。逆に、カメラの視野の位置が、直線のセグメント又はその他のしるしを表す基板に関して判断される場合に概して適用できる。
【0022】
以下において、“水平な”及び“垂直な”線について言及が行われるが、前記表現は絶対的ではなく、それぞれ基板の上部と下部に平行な方向又は側面に水平な方向を参照する。
【0023】
図1は、カメラの視野の位置を判断する本発明による手順における主要なステップを表すフロー図であり、前記判断に基づく位置に電子部品が回路基板に配置される用途におけるものである。
【0024】
前記手順の最初のステップ(ステップ1)において、基板に現れるどのセグメント又はパターンが、その後にセグメントの基準グループとして用いられるかを選択するために、基板のデザインが分析される。概して、回路基板はコンピュータ援用設計(CAD)を用いて設計されており、配置の詳細は既にコンピュータの分析に利用可能である。前記基板のデザインを表すCADデータに直接に、前記基準グループ又はセグメントの選択を実行することが好ましい。その他、CADデータが利用可能でない場合、前記基板の見本の画像が、画像装置を用いて生成され、前記選択が前記画像データの分析に基づく。本発明の好ましい実施例による選択手順の更なる詳細は、図2から4を参照して後述する。
【0025】
セグメントの基準グループ(群)が選択されると、前記カメラが、ある程度の正確性で当該回路基板の見本に調整される(ステップ2)。一般的に、前記調整は、カメラの移動又は静止カメラに関する(回路基板を運ぶ)コンベヤベルトの移動を含む。次に、最初の電子部品が前記回路基板に配置される場所にカメラが調整される(ステップ3)。概して、前記カメラは、前記電子部品を回路基板に物理的に配置するロボットによって運ばれ、カメラの視野とロボットアームの配置装置との間の位置関係は知られている。位置誤差は、基板に関するカメラの平行移動又は回転における誤差を含む場合があり、逆も同様である。
【0026】
カメラは基板の選択された一部のみの画像を生成し、前記基板において、セグメントの各基準グループが必ず現れ、それぞれの一部の画像を分析する。前記分析(ステップ4)は、セグメントの基準グループの位置測定を決定するのに役立つ。前記カメラの視野が、前記基板に関して所定の基準位置にある場合に、前記基準グループ(群)の所定の位置が、前記グループが画像において占める位置と比較される(ステップ5)。現在説明する用途において、前述の通り、回路基板に電子部品を配置するロボットによってカメラが運ばれる。前記ロボットは、前記カメラの視野の画像に関して、前記回路基板の所定の位置に電子部品を配置するようにプログラムされる。カメラの視野の実際の位置が判断されると、ロボットの位置(従ってカメラの位置)が調整され(ステップ6)、それによって、最初の電子部品が望ましい位置に配置される(ステップ7)。最初の電子部品が回路基板に配置されると、それが配置される最後の部品かどうか調べられる(ステップ8)。前記基板に設置される更なる部品が存在する場合には、処理は図2のステップ3に戻り、前記カメラが次の部品が前記回路基板に配置される場所に調整される。
【0027】
現在の基板に必要な全ての部品が配置されると、それが処理を必要とする最後の基板であるかどうかについて調査が行われる。“そうでない(no)”の場合には、前記処理のステップ2から8が繰り返される。“そうである(yes)”の場合には、前記処理が終了する。
【0028】
前記カメラを前記回路基板と部品の場所に調整するのに必要な処理(ステップ2と3)は、周知であり、ここでは更に説明しない。同様に、前に引用したde Jongの論文に説明されているため、基準セグメントの位置の変化が、カメラの視野の位置の計算を可能にする方法(ステップ5)、又はロボットが位置を調整し、前記計算された位置に基づいて回路基板に電子部品を配置する方法(ステップ6と7)についての更なる説明は、熟練した人には必要ない。さらに、前記基板に配置された部品が最後の部品であるかどうか、又は現在の基板が処理を必要とする最後の基板であるかどうか(ステップ8と9)についての決定は、些細なことである。
【0029】
しかし、本発明の好ましい実施例は、基準グループとしての役割をする1つ以上のセグメントのグループを選択する特有の方法(ステップ1)と、前記選択された基準グループの位置測定を行う特有の方法(ステップ2)を提供する。したがって、これらのステップが更に詳細に説明される。
【0030】
画像に映された基板に関するカメラの配置の誤差のため、前記カメラの視野のしるし又はセグメントのそれぞれが、前記画像において予定された位置と異なる位置に現れる場合がある。しかし、前記カメラの最大の位置誤差は知られているため、前記基板の所定の点が現れるべき画像内の限定された領域を定義することが可能である。前記限定された領域は、図3の“エラーウィンドウ”と称される。例えば、カメラの最大の位置誤差が±1mm(直交(x,y)座標のシステムについて考えると、各x方向とy方向の双方)である場合、前記エラーウィンドウは2mm掛ける2mmである。前述の用途において、検討中のセグメントは、好ましくは、直線の導体部分である。検討中の直線のセグメントの中心の公称位置に、エラーウィンドウの中心が置かれる。隣接するセグメントのグループを映すことを望む場合は、前記エラーウィンドウの大きさが少し増加する。例えば、距離Dだけ離れて間隔が開いた中心を有する一対の隣接する垂直の直線のセグメントの画像を位置測定することを望む場合、前記エラーウィンドウは、(横方向の最大の位置誤差の2倍)+Dと等しい幅を有する。
【0031】
カメラの視野の場所を判断するときに、基準グループとしての役割をする1つ以上のセグメントのグループを選択する場合、セグメントの選択されたグループは、以下の2つの条件を満たす必要がある。
1)前記選択されたグループに当てはまるエラーウィンドウは、前記カメラの使用可能な視野に完全に含まれなければならない。
2)前記選択されたグループが、前記カメラの視野に現れ得る他のどんなセグメントとも混同するものであってはならない。つまり、前記選択されたグループが明白でなければならない。
【0032】
前記カメラと前記基板のそれぞれの位置の誤差が、前記セグメントが前記カメラの視野の外に部分的に出るエラーウィンドウを結果として導くため、前記第1の条件は、前記カメラの視野の縁の近くに位置するセグメントを除くことに結果的につながる。前記カメラの視野から全体的に又は一部分覆われた導体もまた除かれる。例えば、前記ロボットアームがカメラと基板の一部にある場合、又は、前記基板の一部がロボットアームによって保持される部品によって、又は前記基板に既に配置された部品によって覆われる場合に、覆われることが生じ得る。
【0033】
また、短いセグメントを検討から除くことが望ましい。ここで、“短いセグメント”とは、(最大の位置誤差が異なる方向で違う事実を考慮して)前記セグメントが伸びる方向のカメラの最大の位置誤差の2倍未満の長さの直線のセグメントを言う。セグメントが伸びる方向のカメラの最大の位置誤差の少なくとも2倍の長さのセグメントのとき、外形がセグメントに実質的に垂直な方向の線に沿い、前記外形が沿う方向のカメラの最大の位置誤差の2倍であり、前記外形の中心が前記セグメントの中心の基準に位置する場合に、前記セグメントは、必ず検出される。従って、基板の相当な部分ではなく、前記の外形に沿った画像データを取得しさえすればよい。
【0034】
前記第2の条件に関して、2つ以上のセグメントが同じ幅と方向を有する場合、それらは混同され得る。実際に、単一の回路基板の導体の幅はほとんど一定であるが、生産工程において1つの基板と他の基板との変動が生じ得る。従って、幅は、1つの導体と他の導体を区別する有益なパラメータではない。セグメントと他のセグメントとを方向に基づいて区別することを望む場合、方向の小さい差異(例えば10°)を検出する必要があるため、処理時間は相対的に長くなる。実際に、回路基板の導体は、水平(基板の上部と下部に平行)又は垂直(基板の側面に平行)又は斜めである。前記3つの基本方向の間を区別するのに有する処理はほとんどない。
【0035】
前述の検知から見て、基準グループとして単一のセグメントが選択されると、前記選択されたセグメントのエラーウィンドウに、前記選択されたセグメントと同じ方向を有する他のセグメントが存在しない場合に、前記第2の条件が満たされるとみなされる。複数のセグメントが基準グループとして選択されると、前記選択されたグループのセグメントのエラーウィンドウに、同じ方向と間隔(セグメントの中心間で測定された間隔)を有する他のグループのセグメントが存在しない場合に、前記第2の条件が満たされるとみなされる。
【0036】
所定のセグメントが明白でないかどうかを決定する場合、前記エラーウィンドウの内容が特定の方向、例えば左から右又は右から左に(又は、水平に伸びる基準セグメントに対しては、上から下又は下から上に)走査される場合に有利である可能性がある。例えば、前記エラーウィンドウに1つ以上の垂直なセグメントが存在しても、(右から左に走査するときに見つけられる最初のセグメントと同様に)前記エラーウィンドウを左から右に走査するときに見つけられる最初のセグメントは明白である。所定の候補グループが明白であるかどうかを評価する間、前記エラーウィンドウは双方向から(垂直なセグメントに対しては左から右と右から左に、水平なセグメントに対しては上から下と下から上に)走査され、走査方向が明白なグループを生じることに関するデータが蓄積され得る。
【0037】
図2から4を参照して、セグメントを有する基板に対するカメラの視野の位置を判断する場合に、それぞれの基準グループとしての役割をする個々のセグメント又はセグメントのグループを選択する好ましい処理が説明される。実際には、カメラの視野の位置を判断する基準として用いられる何らかのグループのセグメントに、セグメントの数の制限(n)が存在することが好ましい。前記の制限が存在しない場合、位置判断処理の間の基準セグメントの選択と基準セグメントの検出は、画像の小さな一部の分析ではなく、相当な大きさの領域の分析を含み得る。さらに、各基準グループは、その基準グループの大きさに関わらず、1つの位置情報を生じる。従って、基準グループの大きさが増加すると、処理時間が増加され、利点が少なくなる。理想的には、各基準グループは単一のセグメントからなる。しかし、一般的に回路基板に部品を配置することを有する用途において、nはおよそ3に設定される。
【0038】
図2は基準グループの選択の好ましい処理の主要なステップを示したものであり、図3と4は、基準グループとして適した評価を受けるセグメントの候補グループを含む画像部分の見本を示したものである。図3と4において、基準としての役割をするのに適した評価を受けるセグメントの候補グループが実線で示され、同じ画像部分に現れるが、前記の評価を受けない他のセグメントが破線で示されている。
【0039】
図2に示す通り、第1のステップ(T1)として、それぞれのセグメントが伸びる方向のカメラの最大の位置誤差の2倍であるセグメントのみを、基準セグメントの候補としてみなす。前記候補セグメントが基準グループとして用いられるのに適しているかについて、前述の条件1)と2)に関して、順番に評価される。特に、最初のセグメント(S1)が評価に選ばれ(図2のステップT2とT3)、前記セグメントについて前述の条件1)が満たされているかどうか決定される(図2のステップT4)。“そうでない(no)”場合、つまり、前記セグメントのエラーウィンドウがカメラの使用可能な視野に含まれない場合は、前記セグメントは、基準グループとして用いるのに適さず、処理が進み、図2のステップT9とT10を介して次の候補セグメント(S2)を分析する。
【0040】
ステップT4の評価結果が“そうである(yes)”の場合、(図2のステップT5において)前記候補セグメントと混同し得る何らかの他のセグメントがエラーウィンドウに存在するかどうかが、次に決定される。特に、単一のセグメントからなる候補グループについては、前記セグメントが、その方向を有する唯一のセグメントであるかどうか、又は特定の方向にエラーウィンドウを走査する場合に見つけられる最初/最後のセグメントであるかどうかが調査される。いくつかのセグメントからなる候補グループについては、前記グループが、エラーウィンドウでその方向と間隔を有する唯一のグループであるかどうか、及び/又はそれがエラーウィンドウの最初/最後のグループであるかどうかが調査される。
【0041】
候補基準グループと混同し得る他のグループが存在しない場合は、このことは、検討中の候補セグメントが明白であり、カメラの視野の位置を判断する場合の基準グループとして用いるのに適していることを意味する。図2のステップT8において、前記セグメントは、“基準グループ”として指定され、次の候補セグメント(S2、又はより一般的にはSi+1)のためにステップT3からT5が繰り返される。図3は、基準グループとして指定されるのに適した個々の候補セグメントを含む画像部分の見本を示したものである。すなわち、示されたセグメントでは、条件1)と2)が満たされる。ところで、図3と4において、エラーウィンドウを水平に横切る線は、基準グループを検出するために画像の外形が取得された線である(以下参照)。
【0042】
ステップT5において、前記候補セグメントと混同し得る他のセグメントが存在するという評価を示す場合、このことは、検討中の候補セグメントが明白でないことを意味する。図4Aは明白でない個々の候補セグメントを有する画像部分の見本を示したものである。その理由は、前記エラーウィンドウが同じ方向を有する他のセグメントを含み、特定の方向に走査される時に、前記候補セグメントが前記エラーウィンドウの最初/最後でないからである。前記の場合、検討中のグループがn未満である場合は、最も近い平行に隣接するものを候補グループに加えることにより、検討中のセグメントのグループを拡大することが好ましい(図2のステップT6とT7)。前記追加された最も近くの隣接するものは、前記エラーウィンドウが前述の特定の方向に走査される場合に最初に見つけられる側に存在することが好ましい。そして、前記拡大されたセグメントのグループが前述の条件1)と2)を満たすかどうかが(拡大されたセグメントのグループに関してステップT4とT5を繰り返すことにより)評価される。グループにおけるセグメントの数が増加するため、前記エラーウィンドウの大きさも同様に増加しなければならない。ステップT4とT5を繰り返す結果が、拡大されたグループが未だ明白でないという決定である場合には、更なるセグメントが候補グループに加えられ、ステップT4とT5がもう一度繰り返され、候補グループのセグメント数が制限nに達するまで、以下同様である。
【0043】
図4Bは、図4Aの候補セグメントからなる“グループ”に第2のセグメントが加えられた場合を示す。その結果の拡大された候補グループは未だ明白でなく、図4Cに示す通り、更なるセグメントをグループに加える必要がある。前記更に拡大された候補グループは明白になり、基準として用いるのに適して指定され得る。
【0044】
前記エラーウィンドウが特定の方向に走査され、走査方向において最初又は最後であるために特定の基準グループが明白になる場合は、前記エラーウィンドウが走査される方向にあるものを識別するデータを蓄積する必要がある。一般的に、いくつかの基準グループは水平方向に、他は垂直方向に(場合によっては、他は斜めに)向くため、それぞれの基準グループに関連付けられて、前記走査方向のデータが蓄積される。
【0045】
全ての可能性のある候補セグメントが分析されたと決定されると(図2のステップT9)、処理は終了する。処理の結果は、グループ毎に、前記グループの中心の公称位置を示すデータと、前記グループのセグメント間の間隔と、前記セグメントの方向と、適切な場合は選択的な走査方向と共に、“基準グループ”として指定されるセグメントのグループ(“グループ”は個々のセグメントから構成され得る)の一覧である。
【0046】
実際に、前記セグメントのグループは、カメラの位置を判断する場合に基準としての役割をするのに全て適しているが、その全てが使用されることは必須ではない。カメラ位置の判断の間の処理時間を減少するために、前記適切なセグメントのグループの一部の選択が行われ得る。用いられる基準グループが多いほど、位置判断の正確性が向上するが、処理時間が長くなる。明らかに達するべき妥協点が存在する。しかし、好ましい実施例においては、各基準グループが一方向の位置補正情報を生じるため、少なくとも2又は3の基準グループを使用する必要がある。基準グループの異なる選択が、基板に配置されるそれぞれの電子部品の場所の位置の判断に使用され得ることがわかる。
【0047】
カメラの視野の位置を判断する処理の間に、セグメントのグループが基準グループとしての役割をすることに関する選択が行われたことを仮定する。位置判断処理の間に、カメラが生成する基板のビデオ画像において、選択されたセグメントの基準グループ(群)を検出し、位置測定する必要がある。図5は、セグメントの基準グループを検出し、位置測定する好ましい処理の主要なステップを示したものである(“グループ”は単一のセグメントからなる場合があることを思い出すべきである)。前記処理が、カメラの位置を判断する場合に用いられる各基準グループについて繰り返される。
【0048】
セグメントの選択された基準グループについて、基準グループが必ず現れる基板の一部の画像が取得される(図5のステップW1)。本発明の好ましい実施例において、前記一部の画像は、エラーウィンドウの中央を横切る線に沿って、好ましくは、基準グループのセグメントの方向に実質的に垂直に、取得された外形である。取得された画像の外形の長さは、取得された外形に沿った方向のカメラの最大の位置誤差の2倍に対応する。前記外形の中心点は、前記基準グループの中心の公称位置である。好ましくは、画像の外形は、線に沿って5ピクセルの幅のように数ピクセルの幅で取得され、5ピクセルを超える画像データは平均化される。特に、このことは、画像処理の不具合によって生じた画像データの途切れが、誤ってセグメントの縁として判断されないことを確実にする。
【0049】
標準的な境界検出技術を用いて、セグメントの縁に対応する明るさの変化を検出するために、前記取得された外形が次に分析される(図5のステップW2)。
【0050】
次に(図5のステップW3)、検出された縁と基準グループのセグメントの縁との間の最適な合致を見つける試みが行われる。前記合致する処理は、基準グループのセグメント又はセグメント群の予定された方向を判断し、基準グループがいくつかのセグメントを含む場合には、セグメント間の予定された間隔もまた判断する。走査方向が基準グループに関連付けられる場合、前記合致する処理は、特定の走査方向に沿った画像の外形の縁の走査を含む。前記合致する処理は、標準的な数学的三角法技術を用いるため、詳細には説明する必要がない。
【0051】
取得された外形において一式の縁が識別され、基準グループとの最適な合致が評価されると、前記一式の縁の実際の位置とその喜寿に地との間の補正値が決定される(図5のステップW4)。前記補正値は、基準グループの公称位置に対応する所定の位置と比較されるカメラの視野の一次元の補正値の測定である。
【0052】
実際に、1つの基準グループの位置測定から生じる一次元の補正値情報は、望ましい正確性でカメラの視野の位置を判断するのに不十分である。好ましくは、回路基板の縁に平行と垂直との双方向に伸びるセグメントを含む一式の基準グループについて計算された補正値に基づいて、判断を生成することが望ましい。一式の基準グループについて計算された一式の補正値は、基板に関する所定の位置に対するカメラの視野が平行移動又は回転又はその2つの組み合わせを受けたかどうかを示す。計算された補正値の所定のパターンに基づいて、カメラの視野の位置の変化を計算するのに必要な計算は複雑でなく、ここで詳細に説明しない(例えば、前に引用したde Jong他の論文を参照)。
【0053】
本発明は、図6に図式的に表す通り、前述の方法を実現する装置を提供する。
【0054】
図6を参照すると、本発明による装置は、デジタル画像データを取得する手段150と、前記データを前述の処理方法に従って処理するデジタル処理システム120とを組み込む。前記画像データ取得手段150は、前述のカメラを組み込む場合がある、又はカメラから画像データを受信する(物理的又はソフトウェア実装の)インタフェースである場合がある。前記デジタル処理システム120は、しるしの基準グループの最初の選択を実行することと、前記基準グループを検出し、位置測定し、カメラの視野の位置判断を計算することを含む処理を実行することの双方に適合し得る。その他、しるしの基準グループの最初の選択は、離れた処理装置によって行われ得る。後者の場合、デジタル処理システム120は、少なくとも選択された基準グループを識別し、その公称位置を示すデータを備える。
【0055】
前記画像データ取得手段150は、少なくとも1つの出力を有する処理システム120(この例において、処理システムは2つの出力105、106を有する)に画像データを供給する。前記処理システム120は、第1の出力106を介して、位置判断データを出力及び/又は蓄積手段130、140に出力し得る。一般的に前記位置判断データは、数値データの形式であるが、何らかの便宜的な表現(例えば、基板の表示に関するカメラの視野の予定された位置を示すグラフ表示)も用いられ得る。前記表示及び蓄積手段は、それぞれ、スクリーン140とワークステーション110のメモリ130である場合がある。前記蓄積手段は、その他に、外部の蓄積手段である場合がある。
【0056】
前述のような用途において、前記位置の評価はロボットアームの位置のサーボ制御に用いられ、前記処理手段120はまた、ロボットの位置を調整するために必要な計算を実行し得る。前記の場合、前記処理手段120は、出力105を介して位置制御データをロボットに出力し得る。
【0057】
前記データ処理システムは、ワークステーション110のコンピュータに、又は参照テーブル(LUT)や、メモリや、フィルタや、論理演算手段のような回路手段を有する特定目的プロセッサに適切にプログラムされ、本発明による方法のステップの機能を実行するように構成され得る。前記ワークステーション110はまた、キーボード131とマウス132を有し得る。前記処理システム120は、前述の方法を実行するために、前記処理システムの計算手段により実行されるプログラム命令を有するコンピュータプログラム製品を使用し得る。
【0058】
前述の図面とその説明は、本発明を限定するものではなく、例証するものである。特許請求の範囲内に含まれる多数の代替方法が存在することが明白である。この点について、次の終わりの注釈が行われる。
【0059】
回路部品が正確に導体経路に配置可能にすることを目的として、本発明は、導体経路により構成されるセグメントを有する回路基板に対するカメラの視野の位置を判断することに照らして説明された。前述の通り、本発明はこの用途に限定されず、特に、本願で“基板”の言及は、画像に映り得るしるしを有する何からの媒体を参照する。さらに、“カメラ”の言及は、多様な種類の映像装置を対象とすることがわかり、従来の静止カメラ又はビデオカメラに限定されない。さらに、検討中のしるしの色と基板の色は、前記しるしと前記基板の間の識別し得るコントラストが存在する限り、本発明には重要でない。
【0060】
同様に、本発明の好ましい実施例は、画像装置の最大の位置誤差の少なくとも2倍の長さの直線セグメントの基準グループを使用する。このように、一部の画像が薄い外形に沿ってのみ取得される必要がある。短いセグメントが用いられ得るが、このことは、取得されなければならない一部の画像の大きさを増加することがわかる。
【0061】
特許請求の範囲の何らかの引用符号は、特許請求の範囲を限定するものとして解釈されるべきではない。
【図面の簡単な説明】
【0062】
【図1】電子部品が回路基板に配置される用途において、カメラの視野の位置を判断する本発明による手順における主要なステップを表すフロー図である。
【図2】基準セグメントとしての役割をするセグメントを選択する好ましい処理における主要なステップのフロー図である。
【図3】画像部分の第1の見本の配置図である。
【図4A】図4は、画像部分の第2の見本の配置図であり、図4Aは、単一のセグメントがセグメントの候補基準グループとしてみなされる場合を示したものである。
【図4B】一対の隣接するセグメントが、セグメントの候補基準グループとしてみなされる場合を示したものである。
【図4C】3つの隣接するセグメントのグループが、セグメントの候補基準グループとしてみなされる場合を示したものである。
【図5】セグメントの基準グループを検出する好ましい処理における主要なステップを示すフロー図である。
【図6】本発明による方法を実現するのに適した装置の配置図である。
Claims (18)
- 可視的なしるしを有する基板に対する画像装置の視野の位置を判断する方法であって、
前記方法は、選択された一式のしるしの基準グループの位置の変化に基づいて、前記画像装置の前記視野の前記位置を判断するステップを有し、
それぞれの選択されたしるしの基準グループについて、前記位置の変化が前記基板の対応する一部の画像データの取得と分析により決定されることを特徴とする方法。 - 請求項1に記載の位置判断方法であって、
前記基板で各基準グループとしての役割をする1つ以上のしるしのグループを選択するステップであって、前記選択された基準グループが前記視野の公称位置にある場合に、前記画像装置の前記視野が前記基板に関して第1の位置にあるステップと、
それぞれの基準グループの前記公称位置に対応する前記基板の一部の画像を生成する前記画像装置を使用するステップであって、前記一部の画像の少なくとも1つの大きさが、前記画像装置の最大の位置誤差の実質的に等しい又はそれ以上であるステップと、
それぞれの一部の画像で、前記対応する基準グループの前記画像を検出し、前記画像装置の前記視野における前記基準グループの前記公称位置と、それから検出された位置との間の補正値を決定するステップと、
前記決定された補正値に基づき、及び、前記画像装置の前記第1の位置と前記基準グループ(群)の前記公称位置との間の周知の関係に基づき、前記画像装置の前記視野の前記位置を決定するステップと
を有する位置判断方法。 - 請求項2に記載の位置判断方法であって、
前記グループを選択するステップが、
候補グループとして、前記基板で1つ以上のしるしのグループを指定し、
前記画像装置の最大の位置誤差に基づいて、前記候補グループの前記画像が現れ得る画像領域の境界を決定し、
前記決定された画像領域が前記画像装置の使用可能な視野に完全には含まれない場合に、前記候補グループを却下することを有する位置判断方法。 - 請求項3に記載の位置判断方法であって、
前記グループを選択するステップが、
前記画像領域に対応する前記基板の一部を分析し、前記候補グループが明白に識別され得るかどうかを決定し、
前記分析ステップが、前記基板の前記一部に前記候補グループが明白に識別され得ることを決定した場合にのみ、基準グループとしての役割をする前記候補グループを選択することを有する位置判断方法。 - 請求項4に記載の位置判断方法であって、
前記分析ステップが、
前記基板の決定された一部に、前記候補グループを構成するしるし(群)として、同じ間隔又は同じ間隔と方向を有する1つ以上のしるしのグループが他に存在するかどうかを判断するステップと、
何らかの前記他のグループが、前記基板の前記一部に見つかった場合に、前記候補グループを明白でないと指定するステップと
を有する位置判断方法。 - 請求項4に記載の位置判断方法であって、
前記分析ステップが、
特定の方向に前記画像領域を走査し、それによって前記候補グループが走査される最初又は最後のグループであるかどうか判断するステップと、
前記候補グループが走査される最初又は最後のグループである場合に、前記候補グループを明白であると指定し、それに前記特定の走査方向を識別するデータを関連付けるステップと
を有する位置判断方法。 - 請求項5又は6に記載の位置判断方法であって、
前記候補グループが明白でないと指定された場合、
前記候補グループの隣接を構成する1つ以上のしるしを加えることによって、前記候補グループを拡大するステップと、
前記生成された画像の前記決定された一部において、前記拡大された候補グループを構成するしるしと同じ間隔と方向を有するしるしのグループが他に存在するかどうかを判断するステップと、
何らかの前記他のグループが前記基板の前記一部に見つかった場合に、前記拡大された候補グループを明白でないと指定するステップと、
明白でない拡大されたグループについて、前記拡大するステップと判断するステップとを繰り返すステップと
を有する位置判断方法。 - 請求項7に記載の位置判断方法であって、
拡大後の前記候補グループのしるしの数が、しきい値を超える場合に、前記拡大するステップが実行されない、又は繰り返されない位置判断方法。 - 請求項3ないし8のうちいずれか1項に記載の位置判断方法であって、
前記グループを選択するステップが、
前記画像装置の前記視野の拒否されないしるしが、候補グループとしてみなされるまで、候補グループとして1つ以上のしるしを指定するステップを繰り返し適用することを有するステップを有する位置判断方法。 - 請求項1ないし9のうちいずれか1項に記載の位置判断方法であって、
基準グループの前記画像を検出するステップが、
前記画像装置の最大の位置誤差に基づいて、前記基準グループの前記画像が現れ得るエラーウィンドウの境界を決定するステップと、
前記エラーウィンドウの前記しるしを検出するステップと、
前記基準グループの前記1つ以上のしるしに最適に合致する、前記エラーウィンドウの1つ以上の前記一式のしるしを見つけるステップと
を有する位置判断方法。 - 請求項10に記載の位置判断方法であって、
前記エラーウィンドウの前記しるしを検出するステップが、前記エラーウィンドウのしるしの境界を検出することを有し、
前記エラーウィンドウの一式のしるしの最適な合致を見つけるステップが、前記基準グループの前記しるし(群)の前記境界(群)に最適に合致する、前記一式の境界を見つけることを有する位置判断方法。 - 請求項1ないし11のうちいずれか1項に記載の位置判断方法であって、
候補グループとしての判断のために、前記基板の直線のセグメントのみを選択するステップと、
それぞれのセグメントが伸びる方向の前記画像装置の前記最大の位置誤差の2倍より短いセグメントを拒否するステップと、
を有し、
前記基板の一部の画像を生成するステップが、前記エラーウィンドウの中心を横切る線に沿って外形を取得することを有し、
前記線が、前記それぞれの基準グループの前記セグメントの基準方向に実質的に垂直に向き、前記外形が取得される方向の前記装置の前記最大の位置誤差の少なくとも2倍の長さを有する位置判断方法。 - 請求項10ないし12のうちいずれか1項に記載の位置判断方法であって、
前記最適に合致する一式のしるしを見つけるステップが、前記しるしの前記方向と間隔のうちの少なくとも1つを評価することを有する位置判断方法。 - 請求項1ないし13のうちいずれか1項に記載の方法の、少なくとも前記画像データ分析ステップと位置判断ステップとを実現するのに適した手段を有する装置。
- 請求項1ないし13のうちいずれか1項に記載の方法の、少なくとも前記画像データ分析ステップと位置判断ステップとを実行するように構成された回路手段を有する、適当にプログラムされたコンピュータ、又は特定目的プロセッサを有するシステム。
- 請求項14又は15に記載の装置又はシステムであって、
前記装置/システムがデータへのアクセスを有するデジタル画像データを取得する手段に関連付けられた装置又はシステム。 - 請求項1ないし13のうちいずれか1項に記載の方法の、少なくとも前記画像データ分析ステップと位置判断ステップとを実行する一式の命令を有するコンピュータプログラム製品。
- 請求項14ないし17のうちいずれか1項に記載の装置又はシステム又はコンピュータプログラム製品であって、
前記位置判断方法で使用される前記一式の基準グループを選択するのに適した装置又はシステム又はコンピュータプログラム製品。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP01401790 | 2001-07-04 | ||
PCT/IB2002/002837 WO2003005793A2 (en) | 2001-07-04 | 2002-07-04 | Choice of reference markings for enabling fast estimating of the position of an imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004536300A true JP2004536300A (ja) | 2004-12-02 |
JP2004536300A5 JP2004536300A5 (ja) | 2008-09-04 |
Family
ID=8182793
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003511609A Pending JP2004536300A (ja) | 2001-07-04 | 2002-07-04 | 画像装置の位置の迅速な判断を可能にする基準のしるしの選択 |
Country Status (5)
Country | Link |
---|---|
US (1) | US7477774B2 (ja) |
EP (1) | EP1407647B1 (ja) |
JP (1) | JP2004536300A (ja) |
DE (1) | DE60238407D1 (ja) |
WO (1) | WO2003005793A2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1611780A1 (en) | 2003-03-28 | 2006-01-04 | Koninklijke Philips Electronics N.V. | Method of determining at least one marking element on a substrate |
JP2005229111A (ja) * | 2004-02-13 | 2005-08-25 | Assembleon Nv | 基体上の少なくとも1つの部品配置位置を推定する方法及びかかる方法を実施する装置 |
US9046890B2 (en) * | 2008-09-05 | 2015-06-02 | Fanuc Robotics America, Inc. | Line tracking data over Ethernet |
JP2011082243A (ja) * | 2009-10-05 | 2011-04-21 | Panasonic Corp | 部品実装装置および部品実装装置における実装状態検査方法 |
US9128367B2 (en) | 2010-03-05 | 2015-09-08 | Panasonic Intellectual Property Management Co., Ltd. | 3D imaging device and 3D imaging method |
JP5444452B2 (ja) * | 2010-03-05 | 2014-03-19 | パナソニック株式会社 | 立体撮像装置および立体撮像方法 |
JP5432365B2 (ja) | 2010-03-05 | 2014-03-05 | パナソニック株式会社 | 立体撮像装置および立体撮像方法 |
JP2011191943A (ja) * | 2010-03-12 | 2011-09-29 | Omron Corp | 画像処理装置および画像処理プログラム |
EP2749843A1 (en) * | 2012-12-28 | 2014-07-02 | GN Store Nord A/S | Method for filtering and selecting geographical points of interest and mobile unit corresponding thereto |
CN111263141B (zh) * | 2020-02-21 | 2021-11-02 | 深圳创维-Rgb电子有限公司 | 摄像头检测方法、装置、生产线系统 |
CN113794875B (zh) * | 2021-11-15 | 2022-02-18 | 浪潮软件股份有限公司 | 一种重大项目现场视频偏移智能巡检的方法及装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5794608A (en) * | 1980-12-03 | 1982-06-12 | Nec Corp | Defect detecting method for printed wiring |
US4860374A (en) * | 1984-04-19 | 1989-08-22 | Nikon Corporation | Apparatus for detecting position of reference pattern |
JPH07234943A (ja) * | 1994-02-23 | 1995-09-05 | Matsushita Electric Ind Co Ltd | 位置認識方法及びその装置 |
US5974169A (en) * | 1997-03-20 | 1999-10-26 | Cognex Corporation | Machine vision methods for determining characteristics of an object using boundary points and bounding regions |
US6324299B1 (en) * | 1998-04-03 | 2001-11-27 | Cognex Corporation | Object image search using sub-models |
GB9828109D0 (en) * | 1998-12-19 | 1999-02-17 | Kestra Ltd | Inspection equipment and methods of inspection |
US6542630B1 (en) * | 1999-09-14 | 2003-04-01 | Teradyne, Inc. | Inspecting component placement relative to component pads |
US6577758B1 (en) * | 1999-09-24 | 2003-06-10 | Cognex Technology And Investment Corporation | Image position detection technique in which input parameters can be easily determined |
US6748104B1 (en) * | 2000-03-24 | 2004-06-08 | Cognex Corporation | Methods and apparatus for machine vision inspection using single and multiple templates or patterns |
JP4740405B2 (ja) * | 2000-11-09 | 2011-08-03 | 東京エレクトロン株式会社 | 位置合わせ方法及びプログラム記録媒体 |
US6915008B2 (en) * | 2001-03-08 | 2005-07-05 | Point Grey Research Inc. | Method and apparatus for multi-nodal, three-dimensional imaging |
US7110591B2 (en) * | 2001-03-28 | 2006-09-19 | Siemens Corporate Research, Inc. | System and method for recognizing markers on printed circuit boards |
-
2002
- 2002-07-04 WO PCT/IB2002/002837 patent/WO2003005793A2/en active Application Filing
- 2002-07-04 US US10/482,141 patent/US7477774B2/en not_active Expired - Fee Related
- 2002-07-04 EP EP02745737A patent/EP1407647B1/en not_active Expired - Fee Related
- 2002-07-04 DE DE60238407T patent/DE60238407D1/de not_active Expired - Lifetime
- 2002-07-04 JP JP2003511609A patent/JP2004536300A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2003005793A2 (en) | 2003-01-16 |
US20040151363A1 (en) | 2004-08-05 |
EP1407647A2 (en) | 2004-04-14 |
US7477774B2 (en) | 2009-01-13 |
DE60238407D1 (de) | 2011-01-05 |
WO2003005793A3 (en) | 2003-05-08 |
EP1407647B1 (en) | 2010-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5953842B2 (ja) | 画像検査方法および検査領域設定方法 | |
KR100785594B1 (ko) | 화상 처리 장치 | |
US10636165B2 (en) | Information processing apparatus, method and non-transitory computer-readable storage medium | |
US9626776B2 (en) | Apparatus, systems, and methods for processing a height map | |
KR101272448B1 (ko) | 관심영역 검출 장치와 방법 및 상기 방법을 구현하는 프로그램이 기록된 기록매체 | |
TW202016531A (zh) | 掃描晶圓的系統及方法 | |
CN106017313B (zh) | 边缘检测偏差校正值计算、边缘检测偏差校正方法及设备 | |
JP4112812B2 (ja) | パターン評価方法、パターン評価装置およびコンピュータ読み取り可能な記録媒体 | |
CN110793431A (zh) | 工件测量装置、工件测量方法以及计算机可读介质 | |
JP2004536300A (ja) | 画像装置の位置の迅速な判断を可能にする基準のしるしの選択 | |
JP2004536300A5 (ja) | ||
JP6278842B2 (ja) | 検査装置、検査方法およびプログラム | |
JP6405124B2 (ja) | 検査装置、検査方法およびプログラム | |
JP2020067308A (ja) | 画像処理方法および画像処理装置 | |
JP2873883B2 (ja) | 線画像の線幅検出方法 | |
JP6585793B2 (ja) | 検査装置、検査方法およびプログラム | |
CN115375610A (zh) | 检测方法及装置、检测设备和存储介质 | |
CN109148433B (zh) | 用于确定集成电路器件的尺寸的方法和设备 | |
JP4847685B2 (ja) | パターンサーチ方法 | |
JP5587021B2 (ja) | 部品画像処理装置及び部品画像処理方法 | |
JP4097255B2 (ja) | パターンマッチング装置、パターンマッチング方法およびプログラム | |
JP3857668B2 (ja) | パターンの位置合わせ方法 | |
JP3447716B2 (ja) | 画像処理装置 | |
JP4530723B2 (ja) | パターンマッチング方法、パターンマッチング装置、および電子部品実装方法 | |
JP3311551B2 (ja) | イメージデータ入力処理方法およびその装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050630 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070828 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080415 |
|
A524 | Written submission of copy of amendment under section 19 (pct) |
Free format text: JAPANESE INTERMEDIATE CODE: A524 Effective date: 20080714 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080916 |