JP2022138308A - 情報生成装置 - Google Patents
情報生成装置 Download PDFInfo
- Publication number
- JP2022138308A JP2022138308A JP2021038115A JP2021038115A JP2022138308A JP 2022138308 A JP2022138308 A JP 2022138308A JP 2021038115 A JP2021038115 A JP 2021038115A JP 2021038115 A JP2021038115 A JP 2021038115A JP 2022138308 A JP2022138308 A JP 2022138308A
- Authority
- JP
- Japan
- Prior art keywords
- inspection method
- image
- defective product
- inspection
- rule
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007689 inspection Methods 0.000 claims abstract description 200
- 238000000034 method Methods 0.000 claims abstract description 162
- 230000002950 deficient Effects 0.000 claims abstract description 112
- 229910000679 solder Inorganic materials 0.000 description 36
- 230000007547 defect Effects 0.000 description 32
- 238000003860 storage Methods 0.000 description 11
- 238000004519 manufacturing process Methods 0.000 description 10
- 238000005457 optimization Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000007639 printing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 238000006073 displacement reaction Methods 0.000 description 5
- 238000007667 floating Methods 0.000 description 4
- 238000000513 principal component analysis Methods 0.000 description 4
- 238000005476 soldering Methods 0.000 description 4
- 239000000758 substrate Substances 0.000 description 4
- 238000009736 wetting Methods 0.000 description 4
- 238000002591 computed tomography Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000010363 phase shift Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000007621 cluster analysis Methods 0.000 description 2
- 238000010438 heat treatment Methods 0.000 description 2
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000002844 melting Methods 0.000 description 1
- 230000008018 melting Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 238000007650 screen-printing Methods 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 238000003466 welding Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
- G01N21/956—Inspecting patterns on the surface of objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biochemistry (AREA)
- Software Systems (AREA)
- Chemical & Material Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Analytical Chemistry (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Abstract
【課題】ルールベース検査方法と学習ベース検査方法を組み合わせて画像検査を実施する場合に、どのように組み合わせられているのかをユーザにも分かりやすく示す。【解決手段】検査対象物を撮像した画像に基づいて該検査対象物の良否を判定する画像検査を、所定のルールに従って良否を判定するルールベース検査方法と、学習させた判定器を用いて良否を判定する学習ベース検査方法と、を含む複数種類の検査方法を組み合わせて行う場合に、不良と判定された該検査対象物の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報を生成する情報生成装置であって、前記適用関係情報は、表示領域内に、前記不良品画像の特徴に基づいて配置された、前記不良品画像に関連付けられた表示画像と、該表示画像に関連付けられた前記不良品画像に適用される検査方法を特定する適用方法情報と、を含む。【選択図】図5
Description
本発明は、不良品の画像に適用される検査方法に関する情報を生成する情報生成装置に関する。
従来、プリント基板等の検査対象物を撮像した画像を用いて検査対象物の良否の判定を行う画像検査方法として、画像から特徴量を抽出し、設定されたルールに基づいて特徴量の値を判定するルールベースの検査方法(以下、ルールベース検査方法」と称する。)と、良品が撮像された良品画像と不良品が撮像された不良品画像の特徴をそれぞれニューラルネットワーク等の公知の学習手段に学習させて判定器を生成し、入力された検査対象物の画像が良品であるか不良品であるか判定器によって判定する学習ベースの検査方法(以下、「学習ベース検査方法」と称する。)が知られている。
ルールベース検査方法と学習ベース検査方法には、それぞれ得意不得意があるため、両者を組み合わせて画像検査を実施することが提案されている(例えば、特許文献1参照)。
上述のように、ルールベース検査方法と学習ベース検査方法を組み合わせて画像検査を実施する場合には、どのような不良に対していずれの検査方法を適用するかの組み合わせが画像検査の精度に影響を与えることになる。検査装置側で、ルールベース検査方法と学習ベース検査方法とを組み合わせて検査方法の最適化を図り、精度のよい画像検査を実現するとしても、どのような組み合わせにより最適化が実現されているのかが必ずしもユーザに伝えられるわけではないので、検査方法の最適化ひいては検査精度の高さに対するユーザの納得性を確保することは難しかった。
本発明は、上記のような問題に鑑みてなされたものであり、ルールベース検査方法と学習ベース検査方法を組み合わせて画像検査を実施する場合に、どのように組み合わせられているのかをユーザにも分かりやすく示す技術を提供することを目的とする。
上記の課題を解決するための本発明は、
検査対象物を撮像した画像に基づいて該検査対象物の良否を判定する画像検査を、所定のルールに従って良否を判定するルールベース検査方法と、学習させた判定器を用いて良否を判定する学習ベース検査方法と、を含む複数種類の検査方法を組み合わせて行う場合に、不良と判定された該検査対象物の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報を生成する情報生成装置であって、
前記適用関係情報は、
表示領域内に、前記不良品画像の特徴に基づいて配置された、前記不良品画像に関連付けられた表示画像と、
該表示画像に関連付けられた前記不良品画像に適用される検査方法を特定する適用方法
情報と、
を含むことを特徴とする。
検査対象物を撮像した画像に基づいて該検査対象物の良否を判定する画像検査を、所定のルールに従って良否を判定するルールベース検査方法と、学習させた判定器を用いて良否を判定する学習ベース検査方法と、を含む複数種類の検査方法を組み合わせて行う場合に、不良と判定された該検査対象物の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報を生成する情報生成装置であって、
前記適用関係情報は、
表示領域内に、前記不良品画像の特徴に基づいて配置された、前記不良品画像に関連付けられた表示画像と、
該表示画像に関連付けられた前記不良品画像に適用される検査方法を特定する適用方法
情報と、
を含むことを特徴とする。
これによれば、適用関係情報には、不良品画像の特徴が、表示領域内における表示画像の位置関係として表現されるので、表示領域内には不良の種類に応じた表示画像の群が形成され、これらの表示画像に関連付けられた不良品画像に適用される検査方法を特定する適用方法情報も含まれる。どのような不良にルールベース検査方法と学習ベース検査方法のいずれが適用されるのかを、視覚的に認識することができ、ルールベース検査方法と学習ベース検査方法が、どのように組み合わせられているのかをユーザにも分かりやすく示すことができる。
表示画像には、不良品画像自体、不良品画像に情報処理を施したものも含まれる。
表示画像には、不良品画像自体、不良品画像に情報処理を施したものも含まれる。
また、本発明において、
前記適用方法情報は、互いに近接して配置された前記表示画像の群に関連付けて表示されるようにしてもよい。
前記適用方法情報は、互いに近接して配置された前記表示画像の群に関連付けて表示されるようにしてもよい。
表示画像は、不良品画像の特徴に基づいて表示領域内に配置されるので、共通の不良と判定された不良品画像に関連付けられた表示画像は、表示領域内においても近接して配置され群を形成するので、適用方法情報を表示画像の群に関連付けることにより、ルールベース検査方法と学習ベース検査方法が、どのように組み合わせられているのかをユーザにより分かりやすく示すことができる。
また、本発明において、
前記表示領域の中心の近傍に前記学習ベース検査方法が適用された前記不良品画像が配置され、
前記表示領域の中心から離れた位置に前記ルールベース検査方法が適用された前記不良品画像が配置されているようにしてもよい。
前記表示領域の中心の近傍に前記学習ベース検査方法が適用された前記不良品画像が配置され、
前記表示領域の中心から離れた位置に前記ルールベース検査方法が適用された前記不良品画像が配置されているようにしてもよい。
これによれば、ルールベース検査方法と学習ベース検査方法とが、表示領域の中心からの遠近によって区別されるので、ルールベース検査方法と学習ベース検査方法がどのように組み合わせられているのかをユーザにより分かりやすく示すことができる。
本発明によれば、ルールベース検査方法と学習ベース検査方法を組み合わせて画像検査を実施する場合に、どのように組み合わせられているのかをユーザにも分かりやすく示すことができる。
〔適用例〕
以下、本発明の適用例について、図面を参照しつつ説明する。
図2は、本発明の情報提供装置が適用される管理装置1の機能ブロック図である。管理装置1は、図1に示すプリント基板の製造設備の管理システム100に含まれ、製造装置X1~X3および検査装置Y1~Y4の管理や制御を担う。
以下、本発明の適用例について、図面を参照しつつ説明する。
図2は、本発明の情報提供装置が適用される管理装置1の機能ブロック図である。管理装置1は、図1に示すプリント基板の製造設備の管理システム100に含まれ、製造装置X1~X3および検査装置Y1~Y4の管理や制御を担う。
管理装置1は、不良品画像取得部11、不良品画像記憶部12、最適化制御部13、適用関係情報生成部14、表示部15、出力部16、入力部17の各部を有する。
不良品画像取得部11は、検査装置Y1~Y4による検査において不良と判定された基板の画像(不良品画像)を取得し、不良品画像記憶部12は、不良品画像取得部11によって取得された不良品画像を記憶する。
最適化制御部13は、検査装置Y1~Y4のそれぞれにおける良否判定に、ルールベース検査方法と学習ベース検査方法のいずれを適用して画像検査の最適化を実現するかを決定し、検査装置Y1~Y4に指示する。
ルールベース検査方法と学習ベース検査方法とには、良否判定において、それぞれ得意不得意があり、図3(A)に示すように、良不良の特徴が分かれているものは学習ベース検査方法に適しており、図3(B)に示すように、良不良の特徴が分かれていないものはルールベース検査方法に適している。したがって、どのような不良にいずれの検査方法を適用するかによって画像検査の最適化を図ることができる。
ルールベース検査方法と学習ベース検査方法とには、良否判定において、それぞれ得意不得意があり、図3(A)に示すように、良不良の特徴が分かれているものは学習ベース検査方法に適しており、図3(B)に示すように、良不良の特徴が分かれていないものはルールベース検査方法に適している。したがって、どのような不良にいずれの検査方法を適用するかによって画像検査の最適化を図ることができる。
しかし、良否判定に適用される検査方法の組み合わせは、検査装置Y1~Y4の内部で実施されるため、その内容及び適否が検査装置Y1~Y4のユーザにはわかりづらい。
そこで、管理装置1では、不良と判定されたプリント基板の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報を生成する情報生成装置としての機能を実現している。
ここでは、適用関係情報生成部14が、不良品画像取得部11によって取得され、不良品画像記憶部に記憶された不良品画像と、最適化制御部13から取得した、当該不良品画像の良否判定に適用された検査方法に関する情報に基づいて、図5に示すような適用関係情報を生成している。
図5は、破線で囲まれた表示要素FのクラスタC1が「はんだ多」に対応し、1点鎖線で囲まれた表示要素FのクラスタC2が「はんだ少」に対応する。そして、点線で囲まれたクラスタC3「浮き」に対応し、2鎖線で囲まれたクラスタC4が「ずれ」に対応する。これらのクラスタC1~C4に含まれる不良品画像の良否判定には、ルールベース検査方法が適用される。
実線で囲まれた表示要素FのクラスタC5、C6、C7に含まれる表示要素Fに含まれる不良品画像は、ルールベース検査方法に比べて、学習ベース検査方法の方が良否判定に適した不良品画像であり、例えば、「不濡れ」がこれらのクラスタに含まれる。
適用関係情報Mでは、不良品画像の特徴の遠近が2次元平面上の位置として表現され、不良の種類に応じたクラスタとして表現される。さらに、図5に実線等の円に囲うことによって不良品画像に対応する表示要素Fと検査方法との適用関係が特定され、ラベリングされている。
適用関係情報Mによれば、検査装置Y1~Y4において、どのような種類の不良に関する画像検査に対して、いずれの検査方法を適用しているか、そして、それらの検査方法がどのように組み合わされているのかという情報を視覚的に認識可能な態様で提供することができ、ルールベース検査方法と学習ベース検査方法を組み合わせて画像検査を実施する場合に、どのように組み合わせられているのかをユーザにも分かりやすく示すことができる。
〔実施例1〕
以下では、本発明の実施例に係る情報生成装置の例である管理装置1を含む管理システム100ついて、図面を用いて、より詳細に説明する。
(システム構成)
図1は、本実施例に係るプリント基板の表面実装ラインにおける製造設備の構成例を模式的に示している。表面実装(Surface Mount Technology:SMT)とはプリント基板の表面に電子部品をはんだ付けする技術であり、表面実装ラインは、主として、はんだ印刷~部品のマウント~リフロー(はんだの溶着)の三つの工程から構成される。
以下では、本発明の実施例に係る情報生成装置の例である管理装置1を含む管理システム100ついて、図面を用いて、より詳細に説明する。
(システム構成)
図1は、本実施例に係るプリント基板の表面実装ラインにおける製造設備の構成例を模式的に示している。表面実装(Surface Mount Technology:SMT)とはプリント基板の表面に電子部品をはんだ付けする技術であり、表面実装ラインは、主として、はんだ印刷~部品のマウント~リフロー(はんだの溶着)の三つの工程から構成される。
図1に示すように、表面実装ラインでは、製造装置として、上流側から順に、はんだ印刷装置X1、マウンタX2、リフロー炉X3が設けられる。はんだ印刷装置X1は、スクリーン印刷によってプリント基板上の電極部(ランドと呼ばれる)にペースト状のはんだを印刷する装置である。マウンタX2は、基板に実装すべき電子部品をピックアップし、該当箇所のはんだペーストの上に部品を載置するための装置であり、チップマウンタとも呼ばれる。リフロー炉X3は、はんだペーストを加熱溶融した後、冷却を行い、電子部品を基板上にはんだ接合するための加熱装置である。基板に実装する電子部品の数や種類が多い場合には、表面実装ラインに複数台のマウンタX2が設けられることもある。
また、表面実装ラインには、はんだ印刷~部品のマウント~リフローの各工程の出口で基板の状態を検査し、不良あるいは不良のおそれを自動で検出するシステムが設置されている。当該システムは、良品と不良品の自動仕分けの他、検査結果やその分析結果に基づき各製造装置の動作にフィードバックする機能(例えば、実装プログラムの変更など)も有している。
はんだ印刷検査装置Y1は、はんだ印刷装置X1から搬出された基板に対し、はんだペーストの印刷状態を検査するための装置である。はんだ印刷検査装置Y1では、基板上に印刷されたはんだペーストを2次元ないし3次元的に計測し、その計測結果から各種の検査項目について正常値(許容範囲)か否かの判定を行う。検査項目としては、例えば、はんだの体積・面積・高さ・位置ずれ・形状などがある。はんだペーストの2次元計測には、イメージセンサ(カメラ)などを用いることができ、3次元計測には、レーザ変位計や、位相シフト法、空間コード化法、光切断法などを利用することができる。
部品検査装置Y2は、マウンタX2から搬出された基板に対し、電子部品の配置状態を検査するための装置である。部品検査装置Y2では、はんだペーストの上に載置された部品(部品本体、電極など部品の一部でもよい)を2次元ないし3次元的に計測し、その計測結果から各種の検査項目について正常値(許容範囲)か否かの判定を行う。検査項目としては、例えば、部品の位置ずれ、角度(回転)ずれ、欠品(部品が配置されていないこと)、部品違い(異なる部品が配置されていること)、極性違い(部品側と基板側の電極の極性が異なること)、表裏反転(部品が裏向きに配置されていること)、部品高さなどがある。はんだ印刷検査と同様、電子部品の2次元計測には、イメージセンサ(カメラ)などを用いることができ、3次元計測には、レーザ変位計や、位相シフト法、空間コード化法、光切断法などを利用することができる。
外観検査装置Y3は、リフロー炉X3から搬出された基板に対し、はんだ付けの品質を検査するための装置である。外観検査装置Y3では、リフロー後のはんだ部分を2次元ないし3次元的に計測し、その計測結果から各種の検査項目について正常値(許容範囲)か否かの判定を行う。検査項目としては、部品検査と同じ項目に加え、はんだフィレット形状の良否なども含まれる。はんだの形状計測には、上述したレーザ変位計、位相シフト法
、空間コード化法、光切断法などの他、いわゆるカラーハイライト方式(R、G、Bの照明を異なる入射角ではんだ面に当て、各色の反射光を天頂カメラで撮影することで、はんだの3次元形状を2次元の色相情報として検出する方法)を用いることができる。
、空間コード化法、光切断法などの他、いわゆるカラーハイライト方式(R、G、Bの照明を異なる入射角ではんだ面に当て、各色の反射光を天頂カメラで撮影することで、はんだの3次元形状を2次元の色相情報として検出する方法)を用いることができる。
X線検査装置Y4は、X線像を用いて基板のはんだ付けの状態を検査するための装置である。例えば、BGA(Ball Grid Array)、CSP(Chip Size Package)などのパッケージ部品や多層基板の場合には、はんだ接合部が部品や基板の下に隠れているため、外観検査装置Y3では(つまり外観画像では)はんだの状態を検査することができない。X線検査装置Y4は、このような外観検査の弱点を補完するための装置である。X線検査装置Y4の検査項目としては、例えば、部品の位置ずれ、はんだ高さ、はんだ体積、はんだボール径、バックフィレットの長さ、はんだ接合の良否などがある。なお、X線像としては、X線透過画像を用いてもよいし、CT(Computed Tomography)画像を用いることも好ましい。
(管理装置)
上述した製造装置X1~X3及び検査装置Y1~Y4は、ネットワーク(LAN)を介して管理装置1に接続されている。管理装置1は、製造装置X1~X3および検査装置Y1~Y4の管理や制御を担うシステムであり、図示しないが、CPU(プロセッサ)、主記憶装置(メモリ)、補助記憶装置(ハードディスクなど)、入力装置(キーボード、マウス、コントローラ、タッチパネルなど)、表示装置などを具備する汎用的なコンピュータシステムにより構成される。後述する管理装置1の機能は、補助記憶装置に格納されたプログラムをCPUが読み込み実行することにより実現される。
上述した製造装置X1~X3及び検査装置Y1~Y4は、ネットワーク(LAN)を介して管理装置1に接続されている。管理装置1は、製造装置X1~X3および検査装置Y1~Y4の管理や制御を担うシステムであり、図示しないが、CPU(プロセッサ)、主記憶装置(メモリ)、補助記憶装置(ハードディスクなど)、入力装置(キーボード、マウス、コントローラ、タッチパネルなど)、表示装置などを具備する汎用的なコンピュータシステムにより構成される。後述する管理装置1の機能は、補助記憶装置に格納されたプログラムをCPUが読み込み実行することにより実現される。
なお、管理装置1は、1台のコンピュータにより構成してもよいし、複数のコンピュータにより構成してもよい。あるいは、製造装置X1~X3や検査装置Y1~Y4のいずれかの装置が内蔵するコンピュータに、管理装置1の機能の全部又は一部を実装することも可能である。あるいは、管理装置1の機能の一部をネットワーク上のサーバ(クラウドサーバなど)により実現してもよい。
管理装置1には、ネットワーク(LAN)を介して端末10が接続される。
本実施形態の管理装置1は、製造設備の管理者が設備のメンテナンス及び品質管理を行うための機能を実現するための機能部を有している。図2に、管理装置1が有する、適用関係情報生成装置としての機能部のブロック図を示す。
図2に示すように、管理装置1は、不良品画像取得部11、不良品画像記憶部12、最適化制御部13、適用関係情報生成部14、表示部15、出力部16、入力部17の各部を有している。
不良品画像取得部11は、検査装置Y1~Y4による検査において不良と判定された基板の画像(不良品画像)を取得する。
不良品画像記憶部12は、不良品画像取得部11によって取得された不良品画像を記憶する。
最適化制御部13は、検査装置Y1~Y4における各良否判定に、ルールベース検査方法と学習ベース検査方法のいずれを適用して画像検査の最適化を実現するかを決定し、検査装置Y1~Y4に指示する。具体的には、検査装置Y1~Y4によって実行されるプログラムの選択や、各種パラメータの調整等を行う。
プリント基板の表面実装では、例えば、はんだの多い少ない、浮き、ずれ、不濡れ等の不良が発生する可能性がある。プリント基板の良否を画像検査する場合には、これらの不良の種類に応じて、その良否の判定に適した画像検査方法を適用している。画像検査方法としては、種々の検査方法が知られているが、ここでは、ルールベース検査方法と、学習ベース検査方法について説明する。ルールベース検査方法とは、検査対象物の画像から特徴量を抽出し、予め設定されたルールに従って特徴量の値から良否を判定する検査方法である。学習ベース検査方法は、良品を撮像した良品画像と、不良品を撮像した不良品画像とを含む教師画像を予めニューラルネットワーク等の学習手段によって学習させて判定器を生成し、このように学習させた判定器によって良否を判定する検査方法である。
ルールベース検査方法では、不良の種類に応じてルール(例えば特徴量の閾値)を設定する。まず、第1の不良を検出でき、見過ぎが発生しないようにルールを設定する。このように設定されたルールで検出される不良を除いた状態から、第2の不良について、第2の不良を検出でき、見過ぎが発生しないようにルールを設定する。同様の処理を繰り返して、複数種類の不良に対してルールを設定する。このようにして、ルールの最適化を図ることにより、ルールベース検査方法の精度を向上させることができるが、あらゆる不良に対して必ずしも適切なルールを設定できるわけではない。そのような不良に対して学習ベース検査方法を適用することにより、精度の良い判定ができる場合がある。図3(A)、(B)は、学習ベース検査方法の得意不得意を説明する概念図である。図3(A)のように、実線で示された良と破線で示された不良の特徴が分かれているものについては、学習ベース検査方法で精度の良い判定が可能である。これに対して、図3(B)に示すように不良と良の特徴が分かれていないものは、学習ベース検査方法では精度の良い判定が難しい。例えば、ずれや浮きなどのように点線で示された基準の近辺で線形的に変化するグレーゾーンが存在するものは、外周ベース検査方法では精度の良い判定が期待できない。
上述のようにルールベース検査方法と学習ベース検査方法の得意不得意があるため、どのような不良をどの検査方法で判定するかという検査方法の適用関係によって全体としての画像検査の精度が決まる。したがって、不良の種類と検査方法との適用関係を最適化することによって、画像検査の最適化を図ることができる。
図4は、そのような適用関係の例を示す概念図である。ここでは、各種の不良のうち、よりルールベース検査方法に適した、はんだ多、はんだ少、浮き、ずれについて、ルールベース検査方法によって良否判定を行う。そして、その他の不良については、より学習ベース検査方法が適しているものとして、学習ベース検査方法によって、良否の判定を行う。このような学習ベース検査方法により適した不良として、例えば、不濡れがある。ルールベース検査方法か学習ベース検査方法のいずれかのみで画像検査を行う場合に限られず、両者を併用し、両者で同じ種類の不良の判定を行ってもよい。
このように、最適化制御部13では、ルールベース検査方法と学習ベース検査方法とを組み合わせて画像検査を行う場合に、両者の適用関係を制御することによって画像検査の最適化を実現する。複数の画像検査方法を組み合わせて用いる場合に、ルールベース検査方法と学習ベース検査方法以外の検査方法を組み合わせてもよいし、画像検査の最適化の方法も上述のものに限られるわけではない。
適用関係情報生成部14は、不良品画像と当該不良品画像の良否判定に適用される画像検査方法との関係を示す適用関係情報を生成する。
図5に、表示部15に画像として表示された適用関係情報Mを示す。図5に示す適用関係情報Mは、不良品画像取得部11が検査装置Y1~Y4から取得し、不良品画像記憶部12に記憶された不良品画像を2次元平面にマッピングして配置したものである。適用関
係情報Mに含まれる表示要素Fのそれぞれが、1枚の不良品画像に対応する。ここでは、表示要素Fが、本発明の不良銀画像に関連付けられた表示画像に対応する。
係情報Mに含まれる表示要素Fのそれぞれが、1枚の不良品画像に対応する。ここでは、表示要素Fが、本発明の不良銀画像に関連付けられた表示画像に対応する。
ここでは、破線で囲まれた表示要素FのクラスタC1が「はんだ多」に対応し、1点鎖線で囲まれた表示要素FのクラスタC2が「はんだ少」に対応する。そして、点線で囲まれたクラスタC3「浮き」に対応し、2鎖線で囲まれたクラスタC4が「ずれ」に対応する。これらのクラスタC1~C4に含まれる不良品画像の良否判定には、ルールベース検査方法が適用される。
実線で囲まれた表示要素FのクラスタC5、C6、C7に含まれる表示要素Fに含まれる不良品画像は、ルールベース検査方法に比べて、学習ベース検査方法の方が良否判定に適した不良品画像であり、例えば、「不濡れ」がこれらのクラスタに含まれる。ここでは、クラスタC1~C7が、本発明の、互いに近接して配置された表示画像の群に対応する。
このような適用関係情報Mは、不良品画像記憶部12に記憶された不良品画像に対して、適用関係情報生成部14が主成分分析(PCA)を実行することにより、各不良品画像に対応する表示要素Fを2次元平面上に配置することができる。さらに、主成分分析によって2次元平面上に配置された表示要素Fのクラスタごとのラベリングは、適用関係情報生成部14がクラスタ分析を実行することによって実現することができる。クラスタ分析によるラベリングにおいては、最適化制御部13から、各不良と検査方法との適用関係に関する情報を取得して利用することができる。このような各不良と検査方法との適用関係に関する情報は、適用関係情報生成部14が所定の記憶領域に記憶しておいてもよい。また、表示要素Fのクラスタごとのラベリングは、入力装置によって構成される入力部17を用いて、人が行ってもよい。不良品画像取得部11によって取得され、不良品画像記憶部12に記憶された不良品画像の情報に、当該不良品画像の判定に適用された検査方法に関する情報が関連付けられている場合にはこれを利用して、適用関係情報生成部14は適用関係情報Mを生成してもよい。適用関係情報Mの生成方法は、上述のものに限られるものではない。また、適用関係情報生成部14が、適用関係情報Mの生成に用いる不良品画像は、不良品画像記憶部12に記憶された不良品画像のすべてでもよいし、適宜サンプリングされたものでもよい。不良品画像記憶部12から取得する不良品画像には、AOI検査機によって撮像された不良品画像、X線CT検査機によって取得された不良品画像が含まれる。
このように、不良品画像に対応する表示要素Fが2次元平面にマッピングされることにより、同種の不良と判定された不良品画像に対応する表示要素Fがクラスタ化して表示される。また、異なる種類の不良と判定された不良品画像に対応する表示要素Fのクラスタは異なる位置に表示される。そして、ルールベース検査方法が適用される不良品画像に対応する表示要素Fは2次元平面の中心から離れた遠い位置に配置され、学習ベース検査方法が適用される不良品画像に対応する表示要素Fは2次元平面の中心の近傍すなわち中心に近い位置に配置される。
適用関係情報Mでは、不良品画像の特徴の遠近が2次元平面上の位置として表現され、不良の種類に応じたクラスタとして表現される。さらに、図5に実線等の円に囲うことによって不良品画像に対応する表示要素Fと検査方法との適用関係が特定され、ラベリングされている。ここでは、学習ベース検査方法が適用されるか、ルールベース検査方法が適用されるかは、表示要素Fのクラスタを囲む円を描く線の種類によって特定し、ルールベース検査方法については適用される不良の種類によっても、表示要素Fのクラスタを囲む円を描く線の種類を区別している。また、学習ベース検査方法が適用される不良品画像に対応するクラスタには、「AI」との文字も表示することによっても検査方法を特定して
いる。ルールベース検査方法が適用される不良品画像に対応するクラスタには不良の種類を示す文字を表示している。したがって、適用関係情報Mによれば、検査装置Y1~Y4において、どのような種類の不良に関する画像検査に対して、いずれの検査方法を適用しているか、そして、それらの検査方法がどのように組み合わされているのかという情報を視覚的に認識可能な態様で提供することができる。このような適用関係情報Mを用いることにより、検査装置Y1~Y4のユーザは、複数の検査方法の組み合わせの現状について、明確かつ説得的に認識することができ、必要に応じて、検査方法の適用関係の変更を試みることができる。
いる。ルールベース検査方法が適用される不良品画像に対応するクラスタには不良の種類を示す文字を表示している。したがって、適用関係情報Mによれば、検査装置Y1~Y4において、どのような種類の不良に関する画像検査に対して、いずれの検査方法を適用しているか、そして、それらの検査方法がどのように組み合わされているのかという情報を視覚的に認識可能な態様で提供することができる。このような適用関係情報Mを用いることにより、検査装置Y1~Y4のユーザは、複数の検査方法の組み合わせの現状について、明確かつ説得的に認識することができ、必要に応じて、検査方法の適用関係の変更を試みることができる。
ここでは、2次元平面が、本発明の表示領域に対応し、不良品画像の特徴量の遠近に基づく主成分分析によるマッピングが、本発明の、不良品画像の特徴に基づく表示領域内の配置に対応する。また、クラスタC1等を囲む円が、本発明の適用方法情報に対応する。
表示部15は、適用関係情報生成部14によって生成された適用関係情報を表示する機能を有し、ディスプレイ等の表示装置によって構成される。
出力部16は、管理装置1とネットワークによって接続された端末10からの要求に基づき、適用関係情報生成部14によって生成された適用関係情報を送信する機能を有する。また、出力部16は、検査装置Y1~Y4に、適用関係情報生成部14によって生成された適用関係情報を送信し、これらの装置のディスプレイに表示させるようにしてもよい。また、出力部16は、適用関係情報生成部14によって生成された適用関係情報を印刷して出力する機能を有してもよい。
ここでは、管理装置1が、本発明の情報生成装置に対応する。管理装置1とネットワークによって接続された端末10に、不良品画像の情報及び適用される検査方法に関する適用方法情報を送信し、端末10において適用関係情報を生成することにより、端末10によって本発明の情報生成装置を構成してもよい。同様に、検査装置Y1~Y4のいずれかに、不良品画像の情報及び適用される検査方法に関する適用方法情報を送信し、検査装置Y1~Y4のいずれかにおいて適用関係情報を生成することにより、検査装置Y1~Y4のいずれかによって本発明の情報生成装置を構成してもよい。
学習ベース検査方法によって、検査対象物の良否を判定しているが、良否の2値の判定に限らず、不良の種類も含めた多値の状態判定を行ってもよい。
<付記1>
検査対象物を撮像した画像に基づいて該検査対象物の良否を判定する画像検査を、所定のルールに従って良否を判定するルールベース検査方法と、学習させた判定器を用いて良否を判定する学習ベース検査方法と、を含む複数種類の検査方法を組み合わせて行う場合に、不良と判定された該検査対象物の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報(M)を生成する情報生成装置(1)であって、
前記適用関係情報(M)は、
表示領域内に、前記不良品画像の特徴に基づいて配置された、前記不良品画像に関連付けられた表示画像(F)と、
該表示画像(F)に関連付けられた前記不良品画像に適用される検査方法を特定する適用方法情報(C1~C7)と、
を含むことを特徴とする情報生成装置(1)。
検査対象物を撮像した画像に基づいて該検査対象物の良否を判定する画像検査を、所定のルールに従って良否を判定するルールベース検査方法と、学習させた判定器を用いて良否を判定する学習ベース検査方法と、を含む複数種類の検査方法を組み合わせて行う場合に、不良と判定された該検査対象物の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報(M)を生成する情報生成装置(1)であって、
前記適用関係情報(M)は、
表示領域内に、前記不良品画像の特徴に基づいて配置された、前記不良品画像に関連付けられた表示画像(F)と、
該表示画像(F)に関連付けられた前記不良品画像に適用される検査方法を特定する適用方法情報(C1~C7)と、
を含むことを特徴とする情報生成装置(1)。
1 :管理装置
14 :適用関係情報生成部
F :表示要素
M :適用関係情報
14 :適用関係情報生成部
F :表示要素
M :適用関係情報
Claims (3)
- 検査対象物を撮像した画像に基づいて該検査対象物の良否を判定する画像検査を、所定のルールに従って良否を判定するルールベース検査方法と、学習させた判定器を用いて良否を判定する学習ベース検査方法と、を含む複数種類の検査方法を組み合わせて行う場合に、不良と判定された該検査対象物の画像である不良品画像と、該不良品画像に適用された検査方法との関係を、視覚的に認識可能な態様で提供する適用関係情報を生成する情報生成装置であって、
前記適用関係情報は、
表示領域内に、前記不良品画像の特徴に基づいて配置された、前記不良品画像に関連付けられた表示画像と、
該表示画像に関連付けられた前記不良品画像に適用される検査方法を特定する適用方法情報と、
を含むことを特徴とする情報生成装置。 - 前記適用方法情報は、互いに近接して配置された前記表示画像の群に関連付けて表示されることを特徴とする請求項1に記載の情報生成装置。
- 前記表示領域の中心の近傍に前記学習ベース検査方法が適用された前記不良品画像が配置され、
前記表示領域の中心から離れた位置に前記ルールベース検査方法が適用された前記不良品画像が配置されていることを特徴とする請求項1又は2に記載の情報生成装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021038115A JP2022138308A (ja) | 2021-03-10 | 2021-03-10 | 情報生成装置 |
PCT/JP2021/047125 WO2022190543A1 (ja) | 2021-03-10 | 2021-12-20 | 情報生成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021038115A JP2022138308A (ja) | 2021-03-10 | 2021-03-10 | 情報生成装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022138308A true JP2022138308A (ja) | 2022-09-26 |
Family
ID=83226222
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021038115A Pending JP2022138308A (ja) | 2021-03-10 | 2021-03-10 | 情報生成装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2022138308A (ja) |
WO (1) | WO2022190543A1 (ja) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4118703B2 (ja) * | 2002-05-23 | 2008-07-16 | 株式会社日立ハイテクノロジーズ | 欠陥分類装置及び欠陥自動分類方法並びに欠陥検査方法及び処理装置 |
JP4317805B2 (ja) * | 2004-09-29 | 2009-08-19 | 株式会社日立ハイテクノロジーズ | 欠陥自動分類方法及び装置 |
JP7151426B2 (ja) * | 2018-11-29 | 2022-10-12 | 日本電気硝子株式会社 | 管ガラス検査方法、学習方法及び管ガラス検査装置 |
KR102208551B1 (ko) * | 2019-02-11 | 2021-01-27 | (주) 인텍플러스 | 외관 검사 시스템 |
JP7240199B2 (ja) * | 2019-02-22 | 2023-03-15 | 東京エレクトロンデバイス株式会社 | パラメータ決定方法、パラメータ決定装置、及びプログラム |
JP7440877B2 (ja) * | 2019-03-13 | 2024-02-29 | 株式会社ナベル | 卵分類装置、卵分類方法及びコンピュータプログラム |
JP7271305B2 (ja) * | 2019-05-16 | 2023-05-11 | 株式会社キーエンス | 画像検査装置及び画像検査装置の設定方法 |
-
2021
- 2021-03-10 JP JP2021038115A patent/JP2022138308A/ja active Pending
- 2021-12-20 WO PCT/JP2021/047125 patent/WO2022190543A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2022190543A1 (ja) | 2022-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5290233B2 (ja) | 三次元計測装置及び基板検査装置 | |
JPS62219632A (ja) | 回路基板のろう接状態の自動検査装置及びその方法 | |
JP6277754B2 (ja) | 品質管理システムおよび内部検査装置 | |
JP6988499B2 (ja) | 検査管理システム、検査管理装置、検査管理方法 | |
JP6451142B2 (ja) | 品質管理装置および品質管理装置の制御方法 | |
JP6988500B2 (ja) | 検査管理システム、検査管理装置、検査管理方法 | |
JPH03500580A (ja) | 電子装置のコンピュータ断層検査 | |
WO2012096003A1 (ja) | はんだ付け検査方法、および基板検査システムならびにはんだ付け検査機 | |
JP2006017474A (ja) | プリント回路基板検査装置とプリント回路基板組み立て検査ラインシステムおよびプログラム | |
JP2015133406A (ja) | 品質管理装置、品質管理方法、およびプログラム | |
KR101916134B1 (ko) | 인쇄회로기판 상의 컨포멀 코팅 검사 장치 | |
JP4228773B2 (ja) | 基板検査装置 | |
WO2022190543A1 (ja) | 情報生成装置 | |
EP3104169B1 (en) | Quality management system | |
JP4333349B2 (ja) | 実装外観検査方法及び実装外観検査装置 | |
JP2007017311A (ja) | 外観検査システム | |
WO2022157995A1 (ja) | 検査管理システム、検査管理装置、検査管理方法、及びプログラム | |
Kumar et al. | Automated quality inspection of PCB assembly using image processing | |
WO2022196003A1 (ja) | 品質評価装置及び検査管理システム | |
JP7266123B2 (ja) | 溶接品質検査方法及び溶接品質検査デバイス | |
WO2023189220A1 (ja) | 検査管理システムおよび検査管理装置 | |
JP2023152091A (ja) | 検査管理システム、検査管理装置、検査管理プログラム作成方法 | |
JP2023152089A (ja) | 検査管理システムおよび検査管理装置 | |
JP7484744B2 (ja) | 管理システム、管理装置、管理方法、及びプログラム | |
JP2023152090A (ja) | 検査管理システムおよび検査管理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240116 |