JP2006208362A - 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法 - Google Patents

画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法 Download PDF

Info

Publication number
JP2006208362A
JP2006208362A JP2005361711A JP2005361711A JP2006208362A JP 2006208362 A JP2006208362 A JP 2006208362A JP 2005361711 A JP2005361711 A JP 2005361711A JP 2005361711 A JP2005361711 A JP 2005361711A JP 2006208362 A JP2006208362 A JP 2006208362A
Authority
JP
Japan
Prior art keywords
image
inspection
substrate
color data
extracted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005361711A
Other languages
English (en)
Other versions
JP3960346B2 (ja
Inventor
Kiyoshi Murakami
清 村上
Masato Ishibane
正人 石羽
Teruhisa Yotsuya
輝久 四ッ谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2005361711A priority Critical patent/JP3960346B2/ja
Priority to US11/317,415 priority patent/US7680320B2/en
Priority to EP05028443A priority patent/EP1675067A3/en
Priority to TW094146495A priority patent/TWI288366B/zh
Publication of JP2006208362A publication Critical patent/JP2006208362A/ja
Application granted granted Critical
Publication of JP3960346B2 publication Critical patent/JP3960346B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30152Solder

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】観測対象物の色合いがある程度変化しても、その観測対象物を精度良く抽出できるようにして、画像処理の精度を高める。
【解決手段】クリームはんだ印刷前のベア基板を撮像して得た基準画像には、赤みがかかったランドの画像30が現れる。クリームはんだが良好に塗布された基板を撮像して得た良品画像では、クリームはんだの画像31が青みがかった状態で現れる。自動ティーチング処理では、基準画像および良品画像のそれぞれについて、画素毎にR,G,Bの各色相データを算出し、さらに対応する画素の組毎に、各色相データの変化量を算出する。さらに、青色成分の変動量が所定のしきい値以上となる画素を抽出し、抽出された画素により構成される画像領域をはんだ印刷領域32とみなして、検査領域やモデルの設定処理を実行する。
【選択図】図3

Description

この発明は、2以上の色データを組み合わせて構成されるカラー画像を処理することにより、その画像中の観測対象物に所定の画像処理を施す技術に関する。
また、この発明は、基板のカラー画像を処理してその画像中の被検査部位に対する自動検査を行う技術、およびその自動検査に必要な検査データを作成する技術に関する。
部品実装基板の一般的な製造工程には、プリント配線板にクリームはんだを印刷する工程、クリームはんだが印刷された位置に部品を搭載する工程、部品登載後の基板を加熱して部品を基板にはんだ付けする工程が含められている。
上記の流れで部品実装基板を製造する場合、各工程毎に、その工程における処理が適切に行われたかどうかを検査するのが望ましい。この点に鑑み、出願人は、カラー画像の処理により被検査部位を自動的に検査する基板検査装置を開発している。たとえば、下記の特許文献1に開示されたものがある。
特許第3250335号 公報
この種の基板検査装置では、検査対象の基板の画像(以下、「処理対象画像」という。)を生成した後、この処理対象画像上の各被検査部位に検査領域を設定し、各検査領域において、それぞれ赤(R)、緑(G)、青(B)毎に設定された2値化しきい値により被検査部位と同様の色彩を有する画素を抽出する。そして、抽出された各画素により構成される画像領域を被検査部位とみなして、その面積や位置をあらかじめ教示された基準値と照合することにより、被検査部位の適否を判別するようにしている。
また、この種の基板検査装置では、最後のはんだ付け工程後の基板のフィレット検査に活用するために、「カラーハイライト照明」と呼ばれる照明方式を導入している。この照明は、赤、緑、青の色彩光を異なる仰角方向から基板に照射するもので、赤色光源の仰角が最も大きく、以下、緑色光源、青色光源の順に仰角が小さくなるように配備される。また、基板を撮像するカメラは、光軸を鉛直方向に向けて配備され、その光軸を取り囲むようにして各光源が配備される。このような構成により、カメラには、はんだの傾斜角度によって異なる色彩の光が入射することになり、生成された画像上のフィレットにも、R,G,Bの各色彩パターンが出現する。
フィレット検査では、検査領域におけるR,G,Bの各色彩パターンを個別に抽出し、各色彩パターン毎に、位置や大きさの適否を判別する。これにより、はんだの傾斜状態が適切であるか否かを、精度良く判別することができる。
従来の基板検査装置では、被検査部位の抽出を2値化により行っているが、周囲環境の明るさが変化すると、基板表面の明るさも変化したり、被検査部位に影が生じることがある。このような変化が生じると、被検査部位の色合いが変化し、設定されたしきい値では、被検査部位を正確に抽出できなくなる可能性がある。
また、基板検査に限定しない一般的な画像処理においても、照明変動や、個々の対象物における個体差などによって、観測対象物の色合いが変動することがある。このため観測対象物の色彩を特定の範囲に定め、その範囲に含まれる色彩のみを抽出するような方法をとると、観測対象物の抽出精度を十分に確保できなくなるおそれがある。
この発明は上記の問題に着目してなされたもので、観測対象物の色合いがある程度変化しても、その観測対象物を精度良く抽出できるようにして、検査をはじめとする各種画像処理の精度を高めることを目的とする。
この発明にかかる画像処理方法は、n個(n≧2、以下も同じ。)の色データの組み合わせによるカラー画像を処理対象として、その処理対象画像から観測対象物を抽出して所定の画像処理を実行するものである。画像処理としては、観測対象物の位置、大きさ、輪郭形状などを計測しても良いし、さらに、この計測処理の結果を所定のしきい値と比較して、観測対象物の適否を判別してもよい。また、抽出した観測対象物の画像データについて、あらかじめ設定したモデルの画像データに対する類似度を求め、その類似度を出力したり、類似度から観測対象物の適否を判別してもよい。
また、画像処理として、単に観測対象物の抽出結果を表示する処理を行うようにしてもよい。たとえば、処理対象画像中の観測対象物の視認を容易にするという目的で、抽出された観測対象物を特定の色彩により識別表示する場合がある。
前記カラー画像として、以下では、赤(R),緑(G),青(B)の3色の濃淡データ(階調)を色データとして組み合わせた画像を例に説明する。ただし、カラー画像の構成はこれに限らず、たとえば、R,G,B以外の色彩による濃淡データを色データとして加えた4以上の色データの組み合わせによるカラー画像を、処理対象としてもよい。また観測対象物の色彩の範囲を限定できるのであれば、RとG、GとBのように、色データの数を2個に限定してもよい。
この発明にかかる画像処理方法では、下記の第1、第2、第3のステップを実行する。
第1ステップでは、観測対象物が撮像領域内に存在しない状態下で撮像を行って基準画像を生成する。
第2ステップでは、前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目し、前記観測対象物を含む処理対象画像上の画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する。
第3ステップでは、前記第2ステップで抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出し、抽出された画素から構成される画像領域を前記観測対象物として認識する。
上記において、処理対象画像と基準画像とは、同じサイズであって、各画素間に一対一の対応関係があるのが望ましい。これらの画像は、カメラによる撮像処理を1回実行することにより生成されるものであっても良いし、複数回の撮像により得られた複数枚の画像を合成したものを、処理対象画像または基準画像として設定してもよい。
基準画像を生成する場合の照明やカメラの条件は、処理対象画像の取得時と同様に設定されるのが望ましい。しかしながら、周囲環境の明るさ変化などの影響により照明条件が多少変動しても差し支えはない。
第2ステップでは、観測対象物の存在によって、基準画像に対し、大きく増加する色データまたは大きく減少する色データに着目するのが望ましい。たとえば、観測対象物が置かれるベース部分の色彩が緑色であり、観測対象物が赤色である場合には、観測対象物によって増加するRもしくは減少するGに着目するか、R,Gの双方に着目することが可能である。
「n個の色データの組み合わせに対する着目中の色データの強弱の度合い」は、n個の色データにより決定される色彩に対し、着目中の色データがどの程度の影響力を持つのかを示すものである。たとえば、n個の色データの値の総和に対する着目中の色データの比を、強弱の度合いとすることが考えられる。たとえば、R,G,Bの各色データをr,g,bとして、そのうちのrに着目した場合には、強弱の度合いとして、[r/(r+g+b)]を算出することができる。
また、複数の色データに着目する場合には、これらの色データ毎に上記の比を求めるのが望ましいが、これに限らず、これらの色データの値の総和についての比を求めてもよい。たとえば、r,g,bのうちのrとgとに着目する場合には、[r/(r+g+b)]と[g/(r+g+b)]を求めても良いし、[(r+g)/(r+g+b)]を求めてもよい。前者の算出方法は、観測対象物の存在によりr,gが共に変化し、かつそれぞれの変化の方向を特定できる場合に適用できる。一方、後者の算出方法は、観測対象物の存在によりr,gのいずれか一方の強度が変化するが、いずれが変化するかを特定できない場合に有用である。
さらに、強弱の度合いとして、着目されていない色データに対する着目中の色データの比を求めてもよい。たとえば、r,g,bのうちのbに着目する場合には、強弱の度合いとして、[b/(r+g)]を算出することができる。
第3ステップでは、着目対象の色データが1つの場合には、正の方向または負の方向を対象に、基準値を上回る変化量を有する画素を抽出するのが望ましい。一方、複数の色データに着目する場合には、これらの色データ毎の変化を示すベクトルの合成ベクトルの向きがあらかじめ定めた特定の方向に対応し、かつ合成ベクトルの長さが所定の基準値を上回る画素を抽出してもよい。ただし、着目している色データ毎に、それぞれ正の方向または負の方向おける変化量を個別の基準値と比較し、いずれの変化量とも基準値を上回っている画素を抽出してもよい。
基準画像に対して処理対象画像で色彩が変化した部分を抽出する場合に、単に両画像間の色データの差を求めたのでは、種々の色彩の違いが抽出されるばかりでなく、同系色の色彩であっても明暗の変化が抽出されてしまう。
これに対し、この発明によれば、観測対象物により強められた色データまたは弱められた色データについて、n個の色データの組み合わせに対する強弱の度合いの変化を抽出し、その変化が特定の方向に沿って所定の基準値以上の変化量をもって表れている画素を抽出するので、観測対象物によって色彩に変化が生じた領域を精度良く抽出することができる。また、周囲の明るさ変化の影響により観測対象物の色合いが多少変動しても、色データの強弱の傾向まで変わることはないから、各色データの特定の組み合わせを基準にして2値化を行う場合よりも、観測対象物の抽出精度を高めることができる。
つぎに、この発明にかかる基板検査方法は、検査対象の基板を撮像することによって、n個の色データの組み合わせによるカラーの処理対象画像を生成し、生成された処理対象画像から被検査部位を抽出して所定の検査を実行するものである。被検査部位は、たとえば、はんだ印刷工程後の基板であればクリームはんだであり、はんだ付け工程後の基板であれば、溶融後のはんだフィレットである。また、部品を搭載した後の基板であれば、部品の本体部を被検査部位にしてもよい。
この基板検査方法では、検査の前に第1ステップを実行した後に、被検査部位毎に第2〜第4のステップを実行する。
第1ステップでは、前記被検査部位が存在しない基板を撮像して基準画像を生成する。
なお、この被検査部位が存在しない基板は、検査対象となる基板の製造工程より1つ前の工程で製作された基板としても良いし、2つ以上前の工程で製作された基板としてもよい。
第2ステップでは、前記処理対象画像の1被検査部位に対応する位置に検査領域を設定する。
第3ステップでは、前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目し、前記検査領域に含まれる画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する。
第4ステップでは、前記第3ステップで抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出し、抽出された画素から構成される画像領域を対象として、前記検査のための画像処理を実行する。
第2ステップにおける検査領域の設定データは、後記する検査データ作成方法によりあらかじめ求めておいてもよい。第3ステップ、第4ステップでは、前記した画像処理方法における第2,第3の各ステップと同様の処理を実行して、被検査部位を抽出し、検査のための画像処理を実行することができる。なお、基準画像について、あらかじめ検査領域毎に、n個の色データの組み合わせに対する着目中の色データの強弱の度合いを求め、第3ステップの処理のために登録しておいてもよい。
この発明にかかる基板検査装置は、検査対象の基板を撮像して、n個の色データの組み合わせによるカラー画像を生成する画像生成手段と、前記画像生成手段により生成された検査対象の基板の画像から被検査部位を抽出し、検査のための画像処理を実行する画像処理手段と、前記画像処理手段による処理結果を用いて前記基板の良否を判別する判別手段と、前記判別手段による判別結果を出力する出力手段とを具備する。
上記において、画像生成手段には、たとえば基板撮像用のカメラや、このカメラから出力された画像をディジタル変換するA/D変換回路などが含められる。さらに、複数枚の画像を重ね合わせて処理対象画像とする場合には、画像生成手段には、たとえば、画像合成処理に関するプログラムが設定されたコンピュータが含められる。
前記画像処理手段には、色データ処理手段、記憶手段、領域設定手段、第1、第2の抽出手段、および被検査部位認識手段が含められる。これらのうち記憶手段以外の手段は、たとえばプログラムが設定されたコンピュータにより構成される。記憶手段は、たとえば前記コンピュータの内部メモリまたは外付けのメモリにより構成される。
色データ処理手段は、前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目し、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いを画素毎に算出する。
記憶手段には、前記画像生成手段が前記被検査部位が搭載されていない基板を撮像して生成した基準画像、またはこの基準画像に対する前記色データ処理手段の処理結果が登録される。
領域設定手段は、前記画像生成手段が検査対象の基板の画像を生成したとき、その画像の被検査部位に対応する位置に検査領域を設定する。
第1の抽出手段は、前記領域設定手段により設定された検査領域内の画像を前記色データ処理手段に処理させるとともに、その処理結果および前記記憶手段内の登録情報を用いて、前記検査領域内の画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する。
第2の抽出手段は、第1の抽出手段により抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向があらかじめ定められた特定の方向に対応する画素を抽出する。被検査部位認識手段は、第2の抽出手段により抽出された画素から構成される画像領域を前記被検査部位として認識する。
上記の構成によれば、画像生成手段により前記基板検査方法の第1ステップが実行されたことに応じて、記憶手段に、基準画像または基準画像に対する色データ処理手段の処理結果が登録される。検査時には、領域設定手段により、前記基板検査方法にかかる第2ステップの処理が実行され、また色データ処理手段および第1の抽出手段により第3ステップの処理が実行され、第2の抽出手段および被検査部位認識手段により、第4のステップが実行される。
さらに、この発明は、n個の色データの組み合わせによるカラー画像を用いて基板を自動検査するために、検査データを作成する方法にも適用することができる。この発明にかかる基板検査用の検査データ作成方法では、以下の第1〜第5のステップを実行する。
まず第1ステップでは、被検査部位が存在しない基板を撮像して基準画像を生成し、第2ステップでは、被検査部位が存在する基板を撮像して処理対象画像を生成する。
第3ステップでは、前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目して、前記処理対象画像上の画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素に対する変化量および変化の方向を抽出する。
第4ステップでは、第3ステップで抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出し、抽出された画素から構成される画像領域を前記被検査部位として認識する。
第5ステップでは、前記第4ステップで認識された被検査部位を含むような検査領域を設定し、その設定データを前記被検査部位に対する検査データ中に含める。
上記の方法によれば、被検査部位が存在しない基板から得た基準画像と、被検査部位が良好に搭載された基板から得た処理対象画像とを用いて、前記した画像処理方法と同様の手法で被検査部位を抽出することができる。よって、基準画像と処理対象画像との間に、明暗などの影響による色合いの差異が生じていても、その影響を受けずに被検査部位を精度良く抽出することができ、検査領域の設定にかかる検査データを正しく作成することができることができる。
この発明によれば、観測対象物の色合いにある程度のばらつきがあっても、観測対象物の抽出の精度を確保することができるから、目的とする画像処理を精度良く実行することができる。
また、この発明を基板検査に適用すれば、被検査部位の色合いにばらつきがあっても、被検査部位を精度良く抽出することができるから、検査領域の設定データの作成や検査時の被検査部位の抽出処理を精度良く行うことができ、基板検査装置の性能を向上することができる。
図1は、この発明の一実施例にかかる基板検査装置の構成を示す。
この基板検査装置は、検査対象の基板1を撮像して得た画像を処理して、前記基板1上の被検査部位の適否を判別する機能を具備する。被検査部位は、検査対象の基板の種類に応じて、適宜設定することができる。たとえば、クリームはんだ印刷後の基板を検査する場合には、クリームはんだの印刷部位を、部品実装後の基板を検査する場合には、部品本体を、はんだ付け後の基板を検査する場合には、各部品のフィレットを、それぞれ検査対象とすることができる。
前記基板検査装置は、撮像部3,投光部4,制御処理部5,X軸テーブル部6,Y軸テーブル部7などにより構成される。
Y軸テーブル部7は、前記基板1を支持するコンベヤ7Aを具備し、図示しないモータによりこのコンベヤ7Aを動かして、前記基板1をY軸方向(図の紙面に直交する方向)に沿って移動させる。前記X軸テーブル部6は、Y軸テーブル部7の上方で撮像部3および投光部4を支持しつつ、これらをX軸方向(図の左右方向)に移動させる。
前記投光部4は、前述したカラーハイライト照明に適合した構成のもので、異なる径を有する3個の円環状光源8,9,10により構成される。これらの光源8,9,10は、それぞれ赤色(R)、緑色(G)、青色(B)の各色彩光を発光するもので、観測位置の真上位置に中心を合わせることにより、前記基板1から見て、異なる仰角に対応する方向に位置するように配備される。
前記撮像部3は、カラー画像生成用のCCDカメラを含むもので、その光軸が各光源8,9,10の中心に対応し、かつ鉛直方向に沿うように位置決めされる。これにより観測対象である基板1からの反射光が撮像部3に入射し、R,G,Bの各階調データに変換されて制御処理部5へ入力される。
制御処理部5は、CPUを含むコンピュータを制御部11とし、そのほか、画像入力部12、メモリ13、撮像コントローラ14、画像処理部15、照明制御部16、XYテーブルコントローラ17、検査部18、ティーチングテーブル19、入力部20、CRT表示部21、プリンタ22、送受信部23、外部メモリ装置24などを含む。
画像入力部12は、撮像部3からのR,G,Bの各画像信号を増幅する増幅回路や、これら画像信号をディジタル信号に変換するためのA/D変換回路などを備える。メモリ13には、R,G,B毎の階調データのほか、後記する色相データやカラーベクトルの算出結果などが格納される。
撮像コントローラ14は、撮像部3を制御部11に接続するインターフェースなどを備えるもので、制御部11からの命令に基づいて前記撮像部3を駆動したり、各色彩光の出力レベルを調整するなどの制御を行う。照明制御部16は、投光部4の各光源の光量を調整するためのものである。なお、この実施例では、赤、緑、青の各色彩光が混合されることによって白色照明が施されるように、各光源8,9,10の光量を調整するようにしている。
XYテーブルコントローラ17は、前記X軸テーブル部6およびY軸テーブル部7を制御部11に接続するインターフェースなどを含み、制御部11からの指令に基づき、X軸テーブル部6およびY軸テーブル部7の移動動作を制御する。
ティーチングテーブル19は、基板の検査データを記憶するための記憶部である。この検査データには、各被検査部位に対する検査領域の設定条件(設定位置や領域の大きさなどである。)、各検査領域で実行されるプログラムの種類、被検査部位のモデル、被検査部位の適否を判別するための判定基準値などが含められる。なお、このティーチングテーブル19は、ハードディスクのような不揮発性のメモリ装置内に設定することができる。
この実施例で使用される検査データは、検査に先だって教示されるもので、基板の種類毎に検査データファイルとしてまとめられて、前記ティーチングテーブル19に保存される。前記制御部11は、被検査基板1の基板名の入力を受け付けた後、前記ティーチングテーブル19からその被検査基板1に対応する検査データファイルを読み出してメモリ13にセットする。画像処理部15や検査部18は、この読み出されたファイル内の検査データに基づき処理を実行する。
画像処理部15は、検査時に、メモリ13に格納されたR,G,Bの各階調によるカラー画像に対し、前記検査データを用いた画像処理を実行し、被検査部位の位置や大きさなどを計測する。検査部18は、計測結果を登録された判定基準値と比較することにより、被検査部位の適否を判別する。
制御部11は、検査部18が判別処理を行う都度、その判別結果をCRT表示部21(以下、単に「表示部21」という。)に出力する。また、1枚の基板に対する検査が終了すると、制御部11は、各被検査部位に対する判別結果を総合して被検査基板1が良品か否かを判定し、その最終的な判定結果を、表示部21やプリンタ22,あるいは送受信部23に出力する。
前記入力部20は、検査のための各種条件や検査情報などを入力するためのもので、キーボードやマウスなどにより構成される。
表示部21は、制御部11から画像データ、検査結果などの供給を受けて、これらを表示画面上に表示する。またプリンタ22は、制御部11から検査結果などの供給を受け、これを予め定められた形式でプリントアウトする。
送受信部23は、他の装置との間でデータのやりとりを行うためのもので、たとえば不良と判定された被検査基板1について、その識別情報や不良の内容を後段の修正装置に送信することにより、不良箇所を速やかに修正することができる。外部メモリ装置24は、フレキシブルディスク、CD−R、光磁気ディスクなどの記憶媒体にデータを読み書きするための装置であって、前記検査結果を保存したり、検査に必要なプログラムや設定データを外部から取り込むために用いられる。
なお、上記構成において、画像処理部15および検査部18は、上記した各処理を実行するためのプログラムを組み込んだ専用のプロセッサにより構成される。ただし、必ずしも専用のプロセッサを設ける必要はなく、制御部11に画像処理部15および検査部18の機能を付与するようにしてもよい。
上記の基板検査装置では、検査対象と同じ種類の基板で、各被検査部位の品質が良好な基板(以下、この基板を「良品基板」という。)の画像(以下、「良品画像」という。)、および前記被検査部位が配備される前の良品基板の画像(以下、「基準画像」という。)を生成し、これらの画像を用いて、検査データを自動的に作成する。以下、この検査データの自動作成処理を「自動ティーチング処理」という。
なお基準画像の作成に用いられる基板は、前記被検査部位が配備される工程の直前の工程を終了した後の基板でも良いし、その直前の工程に投入されるよりも前の基板でもよい。
また、この実施例の良品画像および基準画像は、それぞれ対象となる基板を複数の領域に分けて撮像し、毎時の撮像で得られた画像を合成することにより生成される。この画像合成処理では、複数の撮像対象領域を、前記X,Yテーブル部6,7の位置決めにおける誤差に対応する幅だけ重ねて設定し、これらの重なり部分で各画像を重ね合わせながら合成するのが望ましい。また、自動ティーチング処理に入る前には、良品画像および基準画像に共通に含まれる特徴パターン(たとえば基板上のシルク印刷パターン)の座標が画像間で一致するように、両画像の位置合わせを行い、画素の対応関係の精度を確保しておくのが望ましい。
以下では、上記の画像合成処理や位置合わせが実行され、良品画像と基準画像との間の対応関係が確保されていることを前提として説明する。
この実施例の自動ティーチング処理では、前記良品画像および基準画像について、それぞれ各画素の階調データr,g,bを下記の(1)(2)(3)式にあてはめて、色相データROP,GOP,BOPを求める。
Figure 2006208362

Figure 2006208362

Figure 2006208362
さらに、良品画像上の各画素につき、下記の(4)(5)(6)式を用いて、それぞれ基準画像の対応する画素に対する色相データの差V,V,Vを抽出する。なお、各式のROP(E),GOP(E),BOP(E)は、良品画像について前記(1)〜(3)を用いて求めた色相データであり、ROP(F),GOP(F),BOP(F)は、基準画像について求めた色相データである。
= ROP(E)−ROP(F) ・・・(4)
= GOP(E)−GOP(F) ・・・(5)
= BOP(E)−BOP(F) ・・・(6)
対応する画素の組み合わせ毎に抽出された各色相データの差V,V,Vは、3次元配列のデータに編集され、画素の座標に対応づけられてメモリ13に保存される。ただし、後記する具体例の検査のように、3つの色相データの中から選択された特定のものだけを、上記の差の算出対象としてもよい。
図2は、前記色相データROP,GOP,BOPをそれぞれ軸とする仮想の3次元空間(以下、「色相空間」という。)を用いて、前記基準画像と良品画像との色相の関係を表したものである。図中のVは、基準画像上の一点Fにおける色相であり、3次元空間における座標は(ROP(F),GOP(F),BOP(F))となる。またVは、良品画像上の前記F点と同じ座標に位置する点Eにおける色相であって、3次元空間における座標はROP(E),GOP(E),BOP(E))となる。なお、点F,Eの具体例は、つぎの図3(1)(2)に示してある。
前記(4)(5)(6)式で求めたV,V,Vの配列は、この色相空間において、点Vから点Vに向かうベクトルVに該当することになる。以下では、このベクトルVをカラーベクトルと呼び、V,V,Vを、それぞれカラーベクトルVの赤色成分、緑色成分、青色成分ということにする。このカラーベクトルVの向きや大きさは、前記F点とE点との色相の差違を反映したものとなる。
この実施例の自動ティーチング処理では、被検査部位の色彩に応じて前記カラーベクトルVの所定の成分を選択し、その成分が所定値以上の大きさになる画素を抽出する。そして抽出された画素により構成される画像領域を被検査部位として認定し、検査領域の設定条件や被検査部位のモデルを求め、前記ティーチングテーブル19に登録する。
検査の際には、検査対象の基板の画像(以下、「検査対象画像」という。)が生成された後、この検査対象画像に検査領域が順に設定され、被検査部位の抽出処理、計測処理、判別処理などが実行される。この検査対象画像に対しても、自動ティーチング処理時と同様の方法でカラーベクトルVが算出された後、前記自動ティーチング時に選択されたのと同じ成分を用いて被検査部位が抽出される。
以下、クリームはんだの印刷工程を経た基板(以下、「はんだ印刷後基板」という。)に対する検査を行う場合を例にして、検査データの作成および検査に関する詳細な内容を説明する。なお、この実施例では、クリームはんだを印刷する前のプリント配線板(以下、「ベア基板」という。)の画像を基準画像として使用する。
図3(1)は、前記ベア基板の基準画像を、図3(2)は、はんだ印刷後基板の良品画像を、それぞれ示す。基準画像には、ランドの画像30のほか、図示しないシルク印刷パターンなどが現れる。良品画像では、前記ランドの画像30の大部分がクリームはんだの画像31に置き換えられる。なお、一般的なランドは、銅を主成分とし、表面が平坦で鏡面反射性が高いため、カラーハイライト照明によると、前記画像30は赤みがかった状態になる。一方、クリームはんだは、灰色で、拡散反射性が高いことから、その画像31は青みがかった状態になる。
上記のような色の変化によれば、ランド上の一部にクリームはんだが搭載されると、その部分は、赤色の色相データROPが優勢な状態から青色の色相データBOPが優勢な状態に変化することになる。したがって、良品画像中のクリームはんだ上の点Eと、基準画像上の点Eへの対応点Fとの間で求めたカラーベクトルVでは、赤色成分Vが負の方向に大きな値を示すとともに、青色成分Vが正の方向に大きな値を示すと考えられる。
そこで、この実施例では、正の値をとる青色成分Vに着目し、このVが所定のしきい値以上になる画素から構成される領域を、前記クリームはんだの印刷領域(以下、「はんだ印刷領域」という。)として抽出するようにしている。
図3(3)は、前記図3(1)(2)の基準画像および良品画像につき、対応する画素の組毎に前記カラーベクトルの算出や青色成分Vに基づく抽出処理を行って、はんだ印刷領域32を抽出した例を示す。このように、実際にクリームはんだが印刷されている部分が抽出されるので、以後は、その抽出結果を用いて、検査領域の設定条件や判定のための基準値を定めることが可能になる。
画像中のランドやクリームはんだの色合いは、周囲環境の明るさや材質の違いなどにより変動する可能性がある。しかし、多少の変動があっても、ランドの画像30では赤色の色相データROPが大きくなり、クリームはんだの画像31では青色の色相データBOPが大きくなる、という傾向は変わらないから、これらの画像30,31から求めたカラーベクトルVの青色成分Vは正の方向で大きな値をとると考えられる。したがって、はんだ印刷領域の色合いに多少のばらつきがあっても、カラーベクトルの青色成分Vに基づいて、はんだ印刷領域を精度良く抽出することが可能になり、検査領域やモデルの設定を精度良く行うことができる。
また、従来のクリームはんだの検査では、基板の設計データ中のランドの設定データを用いて検査領域を設定しているが、近年では、搭載する部品の種類を変更したり、選択的に部品を搭載するなどして、同一設計のベア基板から複数種の基板を製作する例が多数見受けられるため、ランドの設計データによる検査領域の設定では、実際の基板に適用できない場合がある。
たとえば、図3の30Aは、部品が実装されないランドの画像の例であるが、このようなランドにはクリームはんだも印刷されないため、はんだ印刷用の検査領域を設定する必要がない。この実施例では、上記したように、検査領域の設定条件のティーチング時に、実際のはんだ印刷領域を抽出し、その抽出がなされた部分にのみ検査領域を設定することができるので、前記ランド30Aの位置に不要な検査領域が設定されることがない。したがって、不要な検査領域を設定することなく、ティーチング処理を効率良く進めることができる。
つぎに、図4を用いて、自動ティーチング処理の手順を説明する。
まず、最初のST1(STは「ステップ」の略である。以下も同じ。)では、前記Y軸テーブル部7にベア基板を搬入し、複数回の撮像処理や画像合成処理により基準画像を生成する。この後、ベア基板を搬出すると、つぎのST2では、はんだ印刷後基板の良品基板を搬入し、ST1と同様の処理により良品画像を生成する。
なお、ST2では、ST1で使用したベア基板にクリームはんだを印刷したものを良品基板として使用するのが望ましい。
ST3では、前記基準画像および良品画像の各構成画素につき、それぞれ前記(1)〜(3)式を実行して色相データを求める。つぎのST4では、良品画像の各構成画素をそれぞれ基準画像の対応画素と組み合わせ、組み合わせ毎に前記(6)式を実行して、カラーベクトルVの青色成分Vを算出する。
ST5では、前記青色成分Vがしきい値P(P>0)以上となる画素を抽出する。なお、この抽出処理では、青色成分Vがしきい値P以上となる画素を黒画素とし、その他の画素を白画素とする2値画像が生成される。
ST6では、前記2値画像上の黒画素領域に順に着目し、その領域の大きさが所定のしきい値より小さいものをノイズとして除去する。なお、このノイズ除去に使用されるしきい値は、はんだ印刷領域の標準的な面積に基づいて定められる。
上記のノイズ除去処理により、しきい値よりも面積が大きい領域が残されることになる。以下では、これらの領域をはんだ印刷領域とみなして、検査データを作成する処理に移行する。
まず、ST7では、各はんだ印刷領域にそれぞれ外接矩形を設定する。さらにST8において、前記はんだ印刷領域および外接矩形の組毎に個別のラベルを付ける。ST9では、ラベル毎に検査領域の設定条件を決定する。
図5は、検査領域の設定方法の一例を示す。
図中の32は、前記青色成分Vに基づいて抽出されたはんだ印刷領域(黒画素領域)であり、33は前記ST7で設定された外接矩形である。この実施例では、外接矩形33の各辺をそれぞれm画素外側に拡張した領域34を検査領域として設定する。なお、mの値としては、部品の実装密度などに応じて任意の値を設定することができる。
前記ST9では、はんだ領域毎に、図5に示した方法により検査領域34を設定し、その設定位置や領域の大きさを設定条件として決定する。つぎのST10では、決定した設定条件をティーチングテーブル19に登録する。さらにつぎのST11では、ラベル毎に、そのラベルに対応するはんだ印刷領域32のモデルとして、前記2値画像から対応する検査領域34内の画像を切り出し、ティーチングテーブル19に登録する。
さらにST12では、前記基準画像の構成画素毎に算出された色相データのうち、各検査領域34に対応するものを読み出し、これらを検査領域34毎にティーチングテーブル19に登録する。以下、この登録された色相データを「基準色相データ」という。
なお、検査領域34の設定条件、モデル、および基準色相データには、いずれも対応する検査領域34のラベルが付与される。
図6(A)は、前記ST11で作成されたモデルの一例を示す。また図6(B)は、検査対象画像中の前記モデルに対応する検査領域内の画像を示す。この(B)の画像も(A)のモデルと同様の2値画像である(以下、この(B)の画像を「比較対象画像」という。)。検査では、(A)(B)双方の2値画像を比較する処理が実行される。
図7は、前記はんだ印刷後基板の検査にかかる手順を示す。なお、この手順はST21から開始されるものとする。
この検査に先立ち、制御部11は、検査対象の基板の名称などの入力を受け付け、前記ティーチングテーブル19からその基板に該当する検査データを読み出してメモリ13にセットする。図7の手順は1枚の基板に対して実行されるもので、検査対象の基板がY軸テーブル部7に搬入される都度、この手順が実行される。
まずST21では、被検査基板1をY軸テーブル部7に搬入し、検査対象画像を生成する。なお、このST21でも、前記ティーチング時のST1やST2と同様に、複数回の撮像が実行され、毎時の撮像毎に得た画像を合成する処理が行われる。
検査対象画像が生成されると、ST22では、前記メモリ13から最初のラベルに対応する検査領域の設定条件を読み出し、その条件に基づいて検査領域を設定する。つぎに、ST23では、この検査領域内の各画素の色相データを算出する。つぎに、ST24では、検査領域内の各画素の色相データと前記基準色相データとを用いて、カラーベクトルVの青色成分Vを算出する。
ST25では、前記青色成分Vの値がしきい値P以上となる画素を抽出する。なお、ここで用いられるしきい値Pは、前記図4のST5で使用されたものと同一である。
この抽出処理により、前記検査領域内の画像から、前記はんだ印刷領域の構成画素を黒画素とし、その他の画素を白画素とする2値画像が生成される。この2値画像は、前記図6(B)に示した比較対象画像に相当する。
ST26では、前記比較対象画像の各構成画素のうち、モデル側の対応画素と値が一致する画素の数を計数する(以下、この計数値を「一致画素数」という。)。具体的には、黒画素の場合には対応画素が黒画素であるものを、白画素の場合には対応画素が白画素であるものを、それぞれ計数の対象とする。
また比較対象画像中の黒画素数を計数することにより、前記はんだ印刷領域の面積を算出する。
ST27,28では、前記一致画素数および面積を、それぞれ所定のしきい値と比較する。ここで、一致画素数、面積ともにしきい値以上であれば、ST29に進み、前記検査領域内のはんだ印刷領域が良好であると判定する。一方、いずれか一方の値がしきい値を下回っている場合には、ST30に進み、前記はんだ印刷領域は不良であると判定する。
なお、判定方法は上記に限らず、一致画素数、面積のいずれか一方を用いた判定を行ってもよい。
このようにして1つの検査領域に対する判定処理がなされると、ST31では、その判定結果を表示部21に表示する。図8は、その表示の一例であって、検査対象部位に関する情報や検査結果のほか、比較対象画像35が表示されている。また、画面の適所には、確認ボタン40が設定されている。
なお、ここで表示される比較対象画像35には、はんだ印刷領域とランドとの関係を確認できるように、ランドの輪郭線36が付加されている。
ユーザーが前記確認ボタン40にマウスカーソルを合わせて確定操作を行うと、ST32およびST33を介してST22に戻り、つぎの検査領域について、上記と同様の処理を実行する。
以下、同様にして、検査領域毎に、色相データの算出から判定結果を表示するまでの一連の処理を実行する。すべての検査領域に対する処理を終了すると、ST34に進み、それまでの判定結果をまとめて1枚の基板にかかる検査結果データを作成し、これを送受信部23などから出力する。なお、上記の判定結果の出力は、必ずしも検査領域毎に行う必要はなく、すべての検査が終了した時点で不良と判別された部位についてのみ行ってもよい。
上記した自動ティーチング処理および検査の処理によれば、検査対象画像におけるはんだ印刷領域の色合いが良品基板における色合いと多少違っていても、各はんだ印刷領域を精度良く抽出することが可能になる。よって、従来の2値化しきい値によりはんだ印刷領域を抽出する方法よりも、はんだ印刷領域の抽出精度を高めることができ、より確度の高い検査を実行することが可能になる。
なお、はんだ印刷領域の抽出に用いられるカラーベクトルVの成分は青色成分Vに限らず、赤色成分Vを用いてもよい。この場合には、赤色成分Vが負の方向に所定のしきい値以上の大きさを有する画素を、はんだ印刷領域の構成画素として抽出することになる。
さらに青色成分Vおよび赤色成分Vの双方を用いて、はんだ印刷領域の構成画素を抽出してもよい。
つぎに、はんだ付け後の基板におけるフィレット検査について説明する。
図9(1)は、チップ部品のフィレットに前記カラーハイライト照明を行った場合に観測される色彩の分布状態を示す。一方、図9(2)は、部品落ちなどによりフィレットが形成されず、半球状に固まったはんだに同様の照明を行った場合に観測される分布状態を示す。なお、図9(1)(2)は、はんだの傾斜状態と観測される色彩との関係を説明するために、画像上で認められる色彩の分布をはんだの側面図に反映させたものであって、フィレットやはんだを側方から見たときに、これらの図のような色彩分布が観測されるわけではない。
フィレットが正常に形成されている場合には、図9(1)に示すように、フィレットの上端から下端に向かう方向に沿って、青、緑、赤の各色彩が順に分布する状態となる。特に図9(1)の例では、フィレットが急峻であるため、青色領域の占める割合が大きくなている。
フィレットが形成されずに、はんだが半球状に固まった場合には、図9(2)に示すように、中心部から周辺部に向かう方向に沿って、赤、緑、青の各色領域が順に分布するようになる。
この実施例では、図9(1)に示した良好なフィレットおよび図9(2)に示した不良はんだ部位について、それぞれ図10または図11に示すような要領でモデルを作成し、ティーチングテーブル19に登録する。以下、良好なフィレットにかかるモデルを「良品モデル」、不良はんだ部位にかかるモデルを「不良品モデル」という。また、はんだ付け工程により溶融・固化されたはんだによる領域(フィレット、不良はんだ部位の双方を含む。)を、「溶融後はんだ領域」という。
図10および図11では、前記図9の溶融後はんだ領域に対応する基準画像、良品画像、および不良品画像を示している。なお、これらの図では、ランド、はんだ印刷領域の画像を、前記図3の例と同様の符号30,31により示すとともに、部品本体を37、部品の電極を38とする。また、溶融後はんだ領域中の各色彩領域を、図9と同様のパターンおよび赤、緑、青の各文字により示す。
図10の基準画像は、ベア基板を撮像して得られた画像である。良品画像および不良品画像は、はんだ付け工程後の基板(以下、「はんだ付け後基板」という。)を撮像することにより得られるもので、良品画像には、前記図9(1)に示したフィレットの画像が、不良品画像には、前記図9(2)に示した不良はんだの画像が、それぞれ現れている。
一方、図11の基準画像は、部品実装工程が終了してはんだ付け工程に搬入される前の基板(以下、「部品実装後基板」という。)を撮像することにより得られる。良品画像および不良品画像は、いずれも図10の例と同様のものである。
前記したように、カラーハイライト照明下では、ランドの画像30は赤みがかった状態になる。したがって、図10のように、ベア基板の画像を基準画像とすると、溶融後はんだ領域中の青色領域に対応するカラーベクトルVは、赤色の色相データROPが優勢な状態から青色の色相データBOPが優勢な状態への変化を示すものになる。
またはんだ印刷領域31の画像は、前記したように灰色であり、3種類の色相データの中では青色の色相データBOPが最も優勢となるが、溶融後はんだ領域の青色領域では青色の色相データBOPがさらに優勢になる。したがって、図11のように、部品実装後基板の画像を基準画像とする場合でも、青色領域に対応するカラーベクトルVでは、青色の色相データBOPが大きな変化を示すものとなる。
なお、部品は、表面が平坦であり、一般に光沢を有するため、赤色光の鏡面反射光がカメラに入射しやすい状態になるが、青色光は殆ど入射しない。したがって、ベア基板の画像を基準画像とした場合、部品本体37や電極38に対応するカラーベクトルVでは、青色成分Vはさほど大きくならない。また溶融後はんだ領域の緑色領域、赤色領域では、それぞれ緑色成分V,赤色成分Vが大きくなるが、青色成分Vはごく小さな値となり、しかも基準画像に比べて殆ど変化しない。また、部品実装後基板の画像を基準画像とした場合には、部品37や電極38の部分の画像が同一であるため、カラーベクトルVもごく小さなものになり、青色成分Vが顕著になることはない。溶融後はんだ領域の緑色領域や赤色領域についても、前記ベア基板の画像を基準画像にする場合と同様に、青色成分Vが大きくなることはない。
よって、ベア基板、部品実装基板のいずれの基板の画像を基準画像とする場合でも、カラーベクトルVの青色成分Vが正方向に大きく現れる領域を抽出することにより、溶融後はんだ領域中の青色領域を高い確度で抽出することができる。
上記の点に鑑み、この実施例のフィレット検査では、良品画像および不良品画像につき、それぞれ前記図4に準じた手順で色相データを算出した後、前記はんだの青色領域として、カラーベクトルVの青色成分Vが所定のしきい値以上となる領域42を抽出し、この領域42内の画素を黒画素とする2値画像を生成する。そして、良品画像に対応する2値画像を良品モデルとして、不良品画像に対応する2値画像を不良品モデルとして、それぞれ登録する。
なお、図10,11では、良品モデルおよび不良品モデル上にランドの輪郭線30aを示しているが、これは上の画像との比較を容易にするためのものであり、実際のモデル上に輪郭線30aを含める必要はない。
また、はんだ印刷後基板の検査の場合には、基板の全体画像を用いてすべてのはんだ印刷領域のモデルを一括で作成するとともに、検査領域の設定条件を決定するようにしたが、フィレット検査の場合には、あらかじめ検査領域を設定した上で、検査領域毎に良品画像および不良品画像を生成して、各モデルの作成を行うようにしてもよい。
なお、フィレット検査における検査領域は、従来と同様にランドに基づいて設定されるが、先に同じ基板について、前出のクリームはんだ検査を行っている場合には、その検査における検査領域の設定条件を流用することで、部品が搭載されるべき箇所にのみ検査領域を設定することができる。
以下、図12を用いて、フィレット検査にかかる詳細な手順を説明する。
この図12の手順も、1枚の基板に対して実行されるもので、最初のステップをST41とする。この手順も、検査対象の基板が搬入されることによりスタートするもので、ST41では、搬入された基板を撮像して検査対象画像を生成する。
ST42〜45では、前記図7のST22〜25とほぼ同じ処理が実行される。すなわち、ST42では、検査領域を設定し、ST43では、その領域内の色相データを算出する。つぎのST44では、算出した色相データと登録されていた基準色相データとを用いてカラーベクトルの青色成分Vを算出する。ST45では、この青色成分Vがしきい値Q(Q>0)以上となる画素を抽出する。この処理により、前記溶融後はんだ領域中の青色領域を黒画素領域とする2値の比較対象画像が生成される。
以下では、前記比較対象画像と各モデルとの比較処理を行う。この実施例では、各モデルに対する一致画素数と不一致画素数とを求め、これをしきい値と比較するようにしている。
まず、ST46では、良品モデルに対する一致画素数および不一致画素数が抽出される。一致画素数は、前記図7におけるのと同様に、良品モデルの対応画素と同じ値をとる画素の数である。不一致画素数は、良品モデルの対応画素とは異なる値をとる画素の数である。
この後は、ST47,48において、一致画素数および不一致画素数を、それぞれ所定のしきい値T1,T1と比較する。ここで一致画素数がしきい値T1以上であり、不一致画素数がしきい値T1以下であれば、ST49に進み、不良品モデルに対する一致画素数および不一致画素数を、それぞれ抽出する。
さらに、ST50,51では、ST49で求めた一致画素数および不一致画素数を、それぞれ所定のしきい値T2,T2と比較する。ここで一致画素数がしきい値T2以下であり、不一致画素数がしきい値T2以上であれば、ST52に進み、前記検査領域内の青色領域は良好であると判定する。
一方、ST47,48における比較処理において、一致画素数がしきい値T1を下回るか、不一致画素数がしきい値T1を上回った場合には、不良品モデルとの判定を行わずにST53に進み、青色領域は不良であると判定する。また、ST47,48が「YES」であっても、不良品モデルとの比較において、一致画素数がしきい値T2を上回るか、不一致画素数がしきい値T2を下回った場合には、ST53の不良判定を実行する。
このようにして、1つの検査領域に対する判定が終了すると、ST54において、その判定結果を表示部21に表示する。この後は、前記図7の実施例と同様に、確認操作に応じてつぎの検査領域に対する処理に移行する(ST55→ST56→ST42)。全ての検査領域に対する処理が終了すると、ST57に進み、基板全体にかかる検査結果データを作成し、これを出力して処理を終了する。
上記のように、青色の色相データが正方向に大きく変化した領域を抽出すれば、照明条件の変化などによって溶融後はんだ領域の色合いにばらつきが生じても、青色領域を精度良く抽出することが可能になる。よって、r,g,bの各階調データを固定された2値化しきい値で2値化する従来の方法よりも、精度の良い検査を行うことができる。
ただし、実際の基板においては、良好な状態のはんだフィレットであっても、その傾斜角度には、ある程度のばらつきがあるため、画像上の青色領域の位置や大きさを厳密には定められない。また不良についても、図9(2)に示したような全くフィレットが形成されていないものに限らず、部分的にフィレットが形成されているものや、フィレットは形成されているが、その傾斜角度が適当でないものなど、種々の態様の不良が存在する。
つぎの図13に示す実施例では、上記の点を考慮して、良品モデルおよび不良品モデルをそれぞれ複数設定し、これらのモデルの中から被検査部位に最も適合するモデルを抽出することにより、被検査部位の良否を判別するようにしている。
なお、各モデルの作成に使用される良品、不良品は、フィレットの良否を目視で判断できる熟練者により準備される。
図13の手順は、図12のST46〜53の処理を図中の一点鎖線で囲んだ処理(ST61〜70)に置き換えたものである。その前後の処理については図12と同様であるため、各ステップに図12と同じ符号を付すことにより、説明を簡略化または省略する。
また、良品モデルおよび不良品モデルの総数をNとし、各モデルの識別番号をカウンタiで表すことにする。
前記ST41で検査対象画像を生成した後、ST42〜45の処理により、所定の検査領域につき比較対象画像を生成されると、ST61では、前記カウンタiに初期値「1」をセットする。つぎのST62では、ティーチングテーブル19からi番目のモデル(良品モデルまたは不良品モデル)を読み出す。
ST63では、読み出したモデルと比較対象画像との一致画素数Aを求める。なお、この実施例の一致画素数Aは、比較対象画像に対し、モデルを1画素ずつ走査しながら、走査の度に求めた一致画素数の中の最大値である。
ST64では、この前記一致画素数Aを最大値Amax(初期値は0)と比較する。ここで一致画素数AがAmaxより大きい場合には、ST65に進み、最大値AmaxをAにより書き換えるとともに、現在のiの値を変数Uに格納する。
以下、iの値をNになるまで1つずつ加算(ST66,67)しながら、毎時のiに対し、前記ST61〜65を実行する。この一連の処理により、最終的に、モデル毎の一致画素数Aのうちの最大値がAmaxとなり、その最大の一致画素数Amaxを得たときのモデルの識別番号がUとなる。
この最終のUの値に対応するモデルが良品モデルであれば、ST68が「YES」となってST69に進み、フィレットは良好であると判定する。一方、前記Uの値に対応するモデルが不良品モデルであれば、ST68が「NO」となってST70に進み、フィレットは不良であると判定する。以下は、図12の例と同様の処理(ST54〜57)が実行される。
上記図13の手順によれば、フィレットの良否をより細かい基準で判定することが可能になる。さらに、最大の一致画素数Amaxが書き換えられたときのモデルと比較対象画像との位置ずれ量(比較対象画像に対するモデルの走査回数でもよい。)を記憶しておき、変数Uに対応するモデルが良品モデルであった場合には、前記位置ずれ量を用いてフィレットの形成位置が適切であるかどうかを判定するようにしてもよい。
なお、フィレット検査では、赤色領域や緑色領域についてもチェックするのが望ましいから、カラーベクトルVの緑色成分Vや赤色成分Vについても、上記と同様の方法で各色彩による領域を個別に抽出し、判別処理を行うようにしてもよい。
つぎに、部品実装後基板に対する部品検査においても、前記カラーベクトルを用いることによって、検査対象の部品を高い確度で抽出することが可能になる。
図14は、部品検査に使用するモデルの生成例を示す。なお、この例では、先の各実施例に合わせて、1検査領域の大きさを1つのランドに対応する大きさにしているが、これに限らず、部品および部品に対応するすべてのランドを包含する大きさの検査領域を設定してもよい。またこの図14でも、画像中の各部には前記図10,11と同様の符号を付してある。
この実施例では、はんだ印刷後基板の画像を基準画像に設定し、良品、不良品の各画像において、それぞれカラーベクトルの赤色成分Vが正方向に大きくなっている領域43を、部品に対応する領域として抽出するようにしている。部品や電極の画像37,38では赤の色相データROPが優勢になるため、これらに対応するカラーベクトルVは、赤の色相データROPの正方向への大きな変化を表すと考えられるからである。
図14には、1種類の良品モデルと2種類の不良品モデルが示されている。不良品モデルの一方は、部品が完全に欠落した状態の画像を用いて作成され、他方は、部品がランド側に位置ずれした状態の画像を用いて作成される。このほかにも、位置ずれ量の異なる複数の不良品モデルを設定することができる。また、良品モデルについても、1種類に限らず、許容範囲の位置ずれが生じている状態に対応するモデルを設定してもよい。
なお、良品画像や不良品画像は、ランド上に種々の状態で設置された部品を撮像することによって生成される。部品の設置作業は、フィレット検査の場合と同様に、熟練者により行われる。
図15は、上記のモデルを用いた部品検査の手順を示す。なお、この手順では、ST81を最初のステップとする。
この部品検査でも、先のはんだ印刷検査やフィレット検査と同様に、処理対象の基板全体を表す検査対象画像を生成する(ST81)。また、検査領域を設定する処理(ST82)や色相データを算出する処理(ST83)を行う点についても、先の実施例と同様である。
つぎにST84では、色相データの算出結果を用いて、カラーベクトルVの赤色成分Vを算出する。ST85では、この赤色成分Vが所定のしきい値R(R>0)以上となる画素を抽出する。なお、この抽出処理では、良品モデルや不良品モデルと同様に、抽出された画素を黒画素とし、その他の画素を白画素とする2値画像が生成される。
続くST86では、前記2値画像中の黒画素数を計数することによって、画像上に現れた部品の面積を求める。ST87では、ティーチングテーブル19に登録されているN個のモデルの中から、部品の面積がST86の算出結果に最も近いモデルを抽出する。
ここで抽出されたモデルが良品モデルであれば、ST88が「YES」となってST89に進み、前記部品の実装状態を良好と判定する。他方、抽出されたモデルが不良品モデルであれば、ST88は「NO」となってST90に進み、部品に実装不良があると判定する。
以下、先の各実施例と同様に、判定結果の表示(ST91)や確認操作の受け付け(ST92)を行った後に、つぎの検査領域に対する処理に移行する。すべての検査領域に対する処理が終了すると、ST93からST94に進み、全検査結果を出力して1枚の基板に対する検査を終了する。
上記した各実施例では、いずれも、被検査部位が設けられることによって大きな変化が現れる色相データに着目し、その色相データが正または負の方向に所定値以上変化している領域を被検査部位として抽出している。このような抽出方法によれば、被検査部位の一部に影が生じたり、周囲環境の変化により画像の明るさが変化するなどして、被検査部位の色合いにばらつきが生じても、色相データの変化量に基づき、被検査部位を精度良く抽出することができ、確度の高い検査を実行することができる。
さらに、上記した色相データの変化により対象物を抽出する方法は、基板検査に限らず、他の目的にも適用することができる。たとえば、工業製品に生じたキズを検出する場合に、照明によりキズの部分が所定の色彩で表されるようにしておき、キズのない対象物を撮像して得た基準画像と検査対象画像とを用いてカラーベクトルを算出する。さらに、カラーベクトルのうち、前記キズの色彩に応じて1または複数の成分を選択し、選択した成分がそれぞれ所定の数値範囲に含まれるような領域を抽出することにより、前記キズに対応する画像を精度良く抽出することができる。
この発明の一実施例にかかる基板検査装置のブロック図である。 画像における色相の変化をカラーベクトルの概念を示す説明図である。 基準画像および良品画像の例と、これらの画像から溶融後はんだ領域を抽出した結果を示す説明図である。 自動ティーチング処理の手順を示すフローチャートである。 検査領域の設定例を示す説明図である。 溶融後はんだ領域のモデルおよびこのモデルを用いた検査方法を示す説明図である。 はんだ印刷後基板の検査手順を示すフローチャートである。 一検査領域に対する判別結果の表示例を示す説明図である。 良好なフィレットおよびはんだの不良部位にカラーハイライト照明を行った場合に観測される色彩の分布状態を示す説明図である。 フィレット検査用のモデルの作成方法を示す説明図である。 フィレット検査用のモデルの作成方法を示す説明図である。 フィレット検査の手順を示すフローチャートである。 フィレット検査の他の手順を示すフローチャートである。 部品検査用のモデルの作成方法を示す説明図である。 部品検査の手順を示すフローチャートである。
符号の説明
1 基板
3 撮像部
5 制御処理部
11 制御部
12 画像入力部
13 メモリ
15 画像処理部
19 ティーチングテーブル

Claims (4)

  1. n個(n≧2)の色データの組み合わせによるカラー画像を処理対象として、その処理対象画像から観測対象物を抽出して所定の画像処理を実行する方法において、
    前記観測対象物が撮像領域内に存在しない状態下で撮像を行って基準画像を生成する第1ステップと、
    前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目し、前記観測対象物を含む処理対象画像上の画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する第2ステップと、
    前記第2ステップで抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出し、抽出された画素から構成される画像領域を前記観測対象物として認識する第3ステップとを、実行することを特徴とする画像処理方法。
  2. 検査対象の基板を撮像することによって、n個(n≧2)の色データの組み合わせによるカラーの処理対象画像を生成し、生成された処理対象画像から被検査部位を抽出して所定の検査を実行する方法において、
    前記被検査部位が存在しない基板を撮像して基準画像を生成する第1ステップを実行した後、
    前記処理対象画像の1被検査部位に対応する位置に検査領域を設定する第2ステップ;
    前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目し、前記検査領域に含まれる画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する第3ステップ;
    前記第3ステップで抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出し、抽出された画素から構成される画像領域を対象として、前記検査のための画像処理を実行する第4ステップ;の各ステップを、被検査部位毎に実行することを特徴とする基板検査方法。
  3. 検査対象の基板を撮像して、n個(n≧2)の色データの組み合わせによるカラー画像を生成する画像生成手段と、前記画像生成手段により生成された検査対象の基板のカラー画像から被検査部位を抽出し、検査のための画像処理を実行する画像処理手段と、前記画像処理手段による処理結果を用いて前記基板の良否を判別する判別手段と、前記判別手段による判別結果を出力する出力手段とを具備し、
    前記画像処理手段は、
    前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目し、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いを画素毎に算出する色データ処理手段;前記画像生成手段が被検査部位が存在しない基板を撮像して生成した基準画像、またはこの基準画像に対する前記色データ処理手段の処理結果が登録される記憶手段;前記画像生成手段が検査対象の基板の画像を生成したとき、その画像の被検査部位に対応する位置に検査領域を設定する領域設定手段;前記領域設定手段により設定された検査領域内の画像を前記色データ処理手段に処理させるとともに、その処理結果および前記記憶手段内の登録情報を用いて、前記検査領域内の画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する第1の抽出手段;前記第1の抽出手段により抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出する第2の抽出手段;第2の抽出手段により抽出された画素から構成される画像領域を前記被検査部位として認識する被検査部位認識手段;の各手段を含んでいる基板検査装置。
  4. n個(n≧2)の色データの組み合わせによるカラー画像を用いて基板を自動検査するために、検査データを作成する方法において、
    被検査部位が存在しない基板を撮像して基準画像を生成する第1ステップと、
    被検査部位が存在する基板を撮像して処理対象画像を生成する第2ステップと、
    前記n個の色データのうちの特定の1つ、またはnより小さい所定数の色データに着目して、前記処理対象画像上の画素毎に、前記n個の色データの組み合わせに対する着目中の色データの強弱の度合いについて、前記基準画像上の対応画素から見た変化量および変化の方向を抽出する第3ステップと、
    前記第3ステップで抽出された変化量が所定の基準値を上回り、かつ抽出された変化の方向が特定の方向に対応する画素を抽出し、抽出された画素から構成される画像領域を前記被検査部位として認識する第4ステップと、
    前記第4ステップで認識された被検査部位を含むような検査領域を設定し、その設定データを前記被検査部位に対する検査データ中に含める第5ステップとを、実行することを特徴とする基板検査用の検査データ作成方法。
JP2005361711A 2004-12-27 2005-12-15 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法 Active JP3960346B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2005361711A JP3960346B2 (ja) 2004-12-27 2005-12-15 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法
US11/317,415 US7680320B2 (en) 2004-12-27 2005-12-22 Image processing method, substrate inspection method, substrate inspection apparatus and method of generating substrate inspection data
EP05028443A EP1675067A3 (en) 2004-12-27 2005-12-23 Image processing method, substrate inspection method, substrate inspection apparatus and method of generating substrate inspection data
TW094146495A TWI288366B (en) 2004-12-27 2005-12-26 Image processing method, printed wiring board inspection method, printed wiring board inspection device, and inspection data producing

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004377931 2004-12-27
JP2005361711A JP3960346B2 (ja) 2004-12-27 2005-12-15 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法

Publications (2)

Publication Number Publication Date
JP2006208362A true JP2006208362A (ja) 2006-08-10
JP3960346B2 JP3960346B2 (ja) 2007-08-15

Family

ID=35811648

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005361711A Active JP3960346B2 (ja) 2004-12-27 2005-12-15 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法

Country Status (4)

Country Link
US (1) US7680320B2 (ja)
EP (1) EP1675067A3 (ja)
JP (1) JP3960346B2 (ja)
TW (1) TWI288366B (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009198494A (ja) * 2008-01-22 2009-09-03 Akira Kitahara 部品実装状態の外観検査装置及び検査方法
US9189683B2 (en) 2008-03-14 2015-11-17 Omron Corporation Target image detection device, controlling method of the same, control program and recording medium recorded with program, and electronic apparatus equipped with target image detection device
US9256912B2 (en) 2009-05-13 2016-02-09 Koh Young Technology Inc. Method of measuring measurement target
JP2018506127A (ja) * 2014-11-24 2018-03-01 キトフ システムズ エルティーディー. 自動検査方法
JP2019516191A (ja) * 2016-05-03 2019-06-13 レオニ カーベル ゲーエムベーハー 操作者の強調された視認のための色の区分けを備える映像システム
JP2019168371A (ja) * 2018-03-26 2019-10-03 住友電気工業株式会社 表面状態検査装置及び表面状態検査方法
JP2020204487A (ja) * 2019-06-14 2020-12-24 ヤマハ発動機株式会社 検査装置及びそれを備えた塗布装置
JP2021039691A (ja) * 2019-09-05 2021-03-11 株式会社富士通アドバンストエンジニアリング 検査装置、検査方法及び検査プログラム
WO2023223883A1 (ja) * 2022-05-17 2023-11-23 ブラザー工業株式会社 コンピュータプログラム、および、データ処理装置

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW200949241A (en) * 2008-05-28 2009-12-01 Asustek Comp Inc Apparatus and method for detecting circuit board
US20100119170A1 (en) * 2008-11-07 2010-05-13 Yahoo! Inc. Image compression by comparison to large database
JP5182122B2 (ja) * 2009-01-27 2013-04-10 オムロン株式会社 部品実装基板の品質管理用の情報表示システムおよび情報表示方法
JP5832167B2 (ja) * 2010-07-13 2015-12-16 富士機械製造株式会社 部品有無判定装置及び部品有無判定方法
US9055279B2 (en) * 2011-04-15 2015-06-09 Tektronix, Inc. System for natural language assessment of relative color quality
DE102011108754A1 (de) * 2011-07-28 2013-01-31 Khs Gmbh Inspektionseinheit
JP5661833B2 (ja) 2013-02-28 2015-01-28 ファナック株式会社 線状パターンを含む対象物の外観検査装置及び外観検査方法
JP5911899B2 (ja) * 2014-02-17 2016-04-27 Ckd株式会社 基板検査装置及び部品実装装置
JP7021886B2 (ja) * 2017-09-19 2022-02-17 株式会社Screenホールディングス 基板検査装置、基板処理装置、基板検査方法および基板処理方法
CN108465648A (zh) * 2018-04-23 2018-08-31 苏州香农智能科技有限公司 一种基于机器视觉的磁芯自动分拣系统
ES2952872T3 (es) * 2018-07-27 2023-11-06 Hubergroup Deutschland Gmbh Procedimiento y dispositivo de tratamiento de datos para determinar una receta de color
US20220392190A1 (en) * 2019-11-06 2022-12-08 Fuji Corporation Image processing device, component mounting system, and image processing method
KR20230159987A (ko) * 2022-05-16 2023-11-23 주식회사 고영테크놀러지 기판에 도포된 대상물의 도포 상태를 검사하기 위한 장치, 방법 및 명령을 기록한 기록 매체
CN118587513B (zh) * 2024-08-06 2024-10-15 福建帝视科技集团有限公司 一种硅片分类方法及终端

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5039868A (en) * 1988-11-24 1991-08-13 Omron Corporation Method of and apparatus for inspecting printed circuit boards and the like
JP3250335B2 (ja) 1993-08-25 2002-01-28 オムロン株式会社 実装部品検査装置
JPH08110216A (ja) 1994-10-13 1996-04-30 Hitachi Denshi Ltd 外観検査装置の対象面認識処理装置
JP3561988B2 (ja) 1994-11-14 2004-09-08 神鋼電機株式会社 びんの色判別方法
JPH08318619A (ja) 1995-05-25 1996-12-03 Dainippon Printing Co Ltd 印刷物検査装置
JP3322801B2 (ja) * 1996-08-01 2002-09-09 三井金属鉱業株式会社 レジスト飛散検査装置および方法
JP2000002667A (ja) * 1998-06-15 2000-01-07 Omron Corp はんだ検査装置
JP2002207994A (ja) 2001-01-11 2002-07-26 Fuji Heavy Ind Ltd 物体の画像処理方法
JP3599023B2 (ja) 2002-01-11 2004-12-08 オムロン株式会社 はんだ検査方法およびこの方法を用いた基板検査装置
JP2004109018A (ja) 2002-09-20 2004-04-08 Matsushita Electric Works Ltd 回路パターン検査方法および検査装置
JP3882840B2 (ja) * 2004-03-01 2007-02-21 オムロン株式会社 はんだ印刷検査方法、およびこの方法を用いたはんだ印刷検査機ならびにはんだ印刷検査システム

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009198494A (ja) * 2008-01-22 2009-09-03 Akira Kitahara 部品実装状態の外観検査装置及び検査方法
US9189683B2 (en) 2008-03-14 2015-11-17 Omron Corporation Target image detection device, controlling method of the same, control program and recording medium recorded with program, and electronic apparatus equipped with target image detection device
US9256912B2 (en) 2009-05-13 2016-02-09 Koh Young Technology Inc. Method of measuring measurement target
JP7108247B2 (ja) 2014-11-24 2022-07-28 キトフ システムズ エルティーディー. 自動検査方法
JP2018506127A (ja) * 2014-11-24 2018-03-01 キトフ システムズ エルティーディー. 自動検査方法
JP2019516191A (ja) * 2016-05-03 2019-06-13 レオニ カーベル ゲーエムベーハー 操作者の強調された視認のための色の区分けを備える映像システム
JP2022133297A (ja) * 2016-05-03 2022-09-13 レオニ カーベル ゲーエムベーハー 操作者の強調された視認のための色の区分けを備える映像システム
JP2019168371A (ja) * 2018-03-26 2019-10-03 住友電気工業株式会社 表面状態検査装置及び表面状態検査方法
JP7087533B2 (ja) 2018-03-26 2022-06-21 住友電気工業株式会社 表面状態検査装置及び表面状態検査方法
JP2020204487A (ja) * 2019-06-14 2020-12-24 ヤマハ発動機株式会社 検査装置及びそれを備えた塗布装置
JP7181157B2 (ja) 2019-06-14 2022-11-30 ヤマハ発動機株式会社 検査装置及びそれを備えた塗布装置
JP2021039691A (ja) * 2019-09-05 2021-03-11 株式会社富士通アドバンストエンジニアリング 検査装置、検査方法及び検査プログラム
WO2023223883A1 (ja) * 2022-05-17 2023-11-23 ブラザー工業株式会社 コンピュータプログラム、および、データ処理装置

Also Published As

Publication number Publication date
JP3960346B2 (ja) 2007-08-15
TWI288366B (en) 2007-10-11
US20060140471A1 (en) 2006-06-29
EP1675067A2 (en) 2006-06-28
TW200639748A (en) 2006-11-16
EP1675067A3 (en) 2011-06-08
US7680320B2 (en) 2010-03-16

Similar Documents

Publication Publication Date Title
JP3960346B2 (ja) 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法
TW583389B (en) A surface conduction examination method and a substrate examination device
TWI313576B (en) Board inspecting apparatus, its parameter setting method and parameter setting apparatus
JP5365643B2 (ja) はんだ付け検査方法、および基板検査システムならびにはんだ付け検査機
CN100472205C (zh) 基板检查方法和装置、及其检查逻辑设定方法和装置
TWI291561B (en) PC board inspecting apparatus, inspection logic setting method, and inspection logic setting apparatus
JP2006058284A (ja) 基板検査用ウィンドウの設定条件の決定方法、基板検査方法、基板検査用の検査データ作成方法、および基板検査装置
JPH1137727A (ja) 粒子の高精度測定システム
KR20130084617A (ko) 솔더 검사를 위한 검사 기준 등록 방법 및 그 방법을 이용한 기판 검사 장치
JP4492356B2 (ja) 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
JP3906780B2 (ja) 部品コード変換テーブルに対するデータ登録方法、基板検査データの作成装置、登録処理用のプログラムおよびその記憶媒体
JP2019015741A (ja) 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP7214432B2 (ja) 画像処理方法、画像処理プログラム、記録媒体、画像処理装置、生産システム、物品の製造方法
JP4910897B2 (ja) はんだフィレットの検査方法および基板外観検査装置
JP2009128303A (ja) 基板外観検査装置
JP2007033126A (ja) 基板検査装置並びにそのパラメータ調整方法およびパラメータ調整装置
JP3197443B2 (ja) 半田付け検査方法と穴空き並びにリード抜け検査方法
JP4506395B2 (ja) 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
KR20010098460A (ko) 빠른 검사 처리 속도를 갖는 외관 검사 방법 및 외관 검사장치
JPH10311713A (ja) ボンディングワイヤ検査方法および装置
JP2005164454A (ja) 実装外観検査方法及び実装外観検査装置
JP4507785B2 (ja) 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
JP2002250700A (ja) パターン検査方法およびその装置
JP2006072913A (ja) 部品検査用のモデル登録方法およびこの方法を用いた検査データ作成装置
JP2008292398A (ja) 部品電極の浮き不良の検査方法および基板検査装置

Legal Events

Date Code Title Description
A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20060831

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20060920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070507

R150 Certificate of patent or registration of utility model

Ref document number: 3960346

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100525

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140525

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250