JP6960620B2 - 検知システム - Google Patents
検知システム Download PDFInfo
- Publication number
- JP6960620B2 JP6960620B2 JP2021020188A JP2021020188A JP6960620B2 JP 6960620 B2 JP6960620 B2 JP 6960620B2 JP 2021020188 A JP2021020188 A JP 2021020188A JP 2021020188 A JP2021020188 A JP 2021020188A JP 6960620 B2 JP6960620 B2 JP 6960620B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- cell image
- determination
- detection system
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 65
- 230000007547 defect Effects 0.000 claims description 58
- 230000002950 deficient Effects 0.000 claims description 40
- 230000008859 change Effects 0.000 claims description 6
- 238000011084 recovery Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 17
- 238000007689 inspection Methods 0.000 description 11
- 238000004519 manufacturing process Methods 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 239000011248 coating agent Substances 0.000 description 3
- 238000000576 coating method Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000003860 storage Methods 0.000 description 2
- 230000032823 cell division Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 238000000034 method Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Description
特許文献2の撮像装置においても、同様に不良が存在する対象物を予め撮像した複数の画像によって、検査対象物モデル画像が構成されている。すなわち、事前に複数の不良品のサンプルの画像を用意しておく必要がある。
しかしながら、機械学習による画像処理はコンピュータの記憶容量制限により、高解像度の画像に対しては解像度を下げて劣化させる必要があるため、微細な不良部位は検知精度が極端に低下するという欠点がある。
また、判定部が判定セル画像とセル画像とを比較して、対象物の良不良を検知することにより、高解像度の画像についても、画素数を維持したまま処理することが可能となる。これにより、対象物の微細な不良を検知することが可能となる。
また、対応するセル単位で不良を検知できるので、判定精度を向上させることが可能となる。また、コンピュータの負荷を軽減することができる。さらに、セルの数を増やすことにより、細部であっても不良の検知が容易となる。
なお、図面中、同一要素には同一符号を付すこととし、重複する説明は省略する。
また、上下左右等の位置関係は、特に断らない限り、図面に示す位置関係に基づくものとする。更に、図面の寸法比率は図示の比率に限られるものではない。
図1は、本発明の検知システムAの一実施形態を示す説明図である。
検知システムAは、対象物を撮影して得られる画像に基づき、AIを用いて対象物の良不良を検知するものであって、対象物の画像を撮影するための画像撮影部1と、基準セル画像から複数の学習データを生成するデータ生成部2と、複数の学習データを数値化し、その数値を利用して、AIが判定基準を生成する判定部3と、判定基準を記録する記録部4と、を備える。
検知システムAは、対象物Wの不良をカメラCで撮影した画像により検知するものである。不良が検知されない対象物Wは良品であり、すなわち、検知システムAは対象物Wの良不良を検知するものである。
カメラCが対象物Wを撮影する撮影条件は任意であるが、対象物Wの全体が画像に収まる撮影角度、及び距離であることが好ましい。また、対象物Wの背景が単色のシンプルなものであることが望ましい。また、検知しようとする部位が5×5ピクセル以上の大きさで映りこむ解像度であることが好ましい。ここで、ピクセルとは画像を構成する最小単位である正方形のマスである。
なお、カメラで対象物Wを撮影した画像は二次元であるため、対象物Wの一面の不良を検知することとなる。立体の対象物Wについて撮影できない部分の不良を検知したい場合、撮影角度の異なるカメラCを複数用意してそれぞれで不良の検知を行う、対象物Wの向きを変えて撮影する等により対応することができる。
画像撮影部1は予め不良がないことが確認された対象物Wの良品を撮影した画像を、コンピュータの演算部で任意の数のセルに分割し(図2では10)、基準セル画像P1とする機能を有する。
このとき、基準セル画像P1は矩形であり、そのサイズが8×8ピクセル以上、かつ辺を構成するピクセルがいずれも2nの整数倍であることが好ましい。ここで、nは後述する判定部3における特徴量の注出回数である。画像撮影部1が撮影した画像は、当該条件を満たすようにリサイズされた後に分割され、分割されたセルそれぞれが基準セル画像P1となる。当該分割された基準セル画像P1の形状及びサイズについても同様の条件を満たすことが好ましい。
この場合、セルの分割数は基準セル画像P1の分割数と同一、かつそれぞれのセル画像は基準セル画像P1と上述の条件を満たす同サイズとする。相当するセル単位で不良を検知することにより、細部であっても不良の検知が容易となり、判定精度を向上させることが可能となる。ちなみに、対象物Wが複雑な形状を有する場合等、画像を分割せずに判定を行うほうが判定精度が良好な場合、基準セル画像P1及びセル画像を分割せず、撮影した画像をそのまま用いてもよい。
学習データDは、データ生成部2が基準セル画像P1について要素を良品と認められる範囲内で変更することにより生成された画像である。すなわち、学習データDは疑似的に生成された良品のサンプル画像となる。
ここで、要素の変更とは、データ上の要素を一定の範囲で変更することである。
ここで、デジタルデータにおける画像は、ピクセルごとのRGB値又は明度(画像が単色画像である場合)として記録される。なお、RGB値とは、光の三原色それぞれの強度を示す3列の文字列である。なお、検知システムAにおいて画像が単色画像である場合、明度をRGBそれぞれの値として扱うことにより、学習データDのフォーマットを統一することができ、カラー画像と単色画像とを同一の検知システムAにおいて利用することが可能となる。
このため、画像撮影部1が撮影する画像において、対象物Wは検査対象とする部位全体が収まり、画像の端部は背景であることが好ましい。また、背景が単色かつシンプルなものであることが好ましい。
例えば、10ピクセルを超える位置ずれを不良として検知したい場合、学習データDとして画像を複製する際の画像全体を既定の位置からずらす移動の上限を10ピクセルとする。なお、位置ずれを許容せずにすべて不良として検知したい場合、移動の上限を0ピクセルとすることで、適切な判定基準を生成することができる。
AIが学習データDを解析することにより、画像の特徴量と元となる画像の関係を定式化する。より詳しくは、複数の画像データである学習データDを数値化し、その数値を利用して、数値からそれぞれの元の画像へと復元する復元プロトコルを定式化することで、判定基準を生成する。当該定式化により、行列の形式で表される特徴量のみの情報から、元となる画像を復元することが可能となる。
一方で、特徴量の抽出の処理はコンピュータの負担が大きい。画像撮影部1が撮影した画像を分割し基準セル画像P1又はセル画像P3とすることで、特徴量を抽出する画像データのデータ量を小さくすることができ、コンピュータの負担を軽減することができる。
上述した判定基準を生成した検知システムAにより、実際の対象物Wの良不良を検知する場合、まず画像撮影部1により対象物Wの向き、位置、画面に占める大きさ等、基準セル画像P1に対応するように対象物Wの画像を撮影し、任意の数に分割したそれぞれのセルをセル画像P3とする。
それぞれのセル画像P3から判定部3が特徴量を抽出し、当該特徴量からセル毎の判定基準によって元となるセル画像P3を復元した判定セル画像P2を生成する。当該判定セル画像P2と、セル画像P3とを比較する。この比較は、例えば判定セル画像P2のピクセルごとのRGB値から、セル画像P3の判定セル画像P2に対応するピクセルごとのRGB値を減じることにより行われる。両者のRGB値が一致すれば、RGB値は(0,0,0)、画像としては黒色となり、復元が正確に行われたことを示す。
セル画像P2とセル画像P3との比較において、予め設定した閾値を超える差異を1つ以上のセルで検知した場合、対象物Wに不良があるものと判定される。閾値は、差異の大きさと、差異が生じた領域の広さ(ピクセル数)、又は、これらの関数として設定される。
また、判定部が判定セル画像P2とセル画像P3とを比較して、対象物Wの良不良を検知することにより、例えば130万画素から2000万画素の高解像度の画像についても、検知システムAにおいて画素数を下げることなく扱うことが可能となる。これにより、検知システムAにおいて、対象物Wの微細な不良を検知することが可能となる。
また、対象物Wの輪郭部分においても、正確な復元がなされないことがある。この場合、セル画像P3と復元された画像を比較すると、正確に復元されなかった部分には差異が生じるため、不良と判定されてしまう。
さらに、当該復元誤差Rをもとに、ピクセルの座標ごとに誤差基準値を設定する。
セル画像P3との比較に際して、判定セル画像P2から誤差基準値を減じて比較する。具体的には、判定セル画像P2のピクセルごとのRGB値から、ピクセルの座標ごとに設定された誤差基準値を減じ、更にセル画像P3の対応するピクセルのRGB値を減じる。これにより、対象物Wの不良によらない誤差を捨象することが可能となる。これにより不正確な復元の影響を軽減でき、不良品の判定の精度を向上させることができる。
対象物Wの判定を行う場合、近傍するピクセルの不良確率を反映することで、さらに判定精度を向上させることが可能となる。例えば、前述した復元誤差Rが高い対象物Wの輪郭付近では、近傍のピクセルにも同様に復元誤差Rが生じている。すなわち、あるピクセルにおいて不良が検知されている場合、これがエラーによるものであれば近傍するピクセルにおいても不良が検知されていることが多い。逆に、真に対象物Wに不良が生じており、これを検知しているのであれば近傍するピクセルにおいては不良が検知されていないことが多い。
したがって、近傍するピクセルの不良確率を誤差基準値に反映し、近傍するピクセルで不良が生じていない場合、当該ピクセルの誤差基準値を減じることで、対象物Wの不良によらない不一致点を捨象し、判定精度を向上させることが可能となる。例えば、対象物Wの輪郭付近では、一つのピクセルに近傍するピクセルの不良確率が高いため、当該一つのピクセルの誤差基準値は大きくなる。
差分画像P4は、セル画像P3と判定部3により復元された判定セル画像P2との差分を取ることで作成される画像である。差がない、又は小さい、すなわち不良がなく画像が完全に復元されたピクセルにおいては、両者の差分はゼロとなり、黒く表示される。一方で、差が大きいピクセルにおいては、差分画像P4の輝度が高くなる。すなわち、不良が存在する場合の差分画像P4は、不良部分だけが明るく表示されたものとなる。
結合画像P5は、差分画像P4を、元のセル画像P3と結合することにより作成される。結合画像P5においては、不良の発生個所のみが明るく表示される。これにより、不良の発生を視覚的に確認することが可能となる。
検知システムAは、各種の搬送装置に沿って加工機械又は加工のための人員が配設された製造部6を備える製造ラインに設置して用いられる。ここで、検知システムAが不良を検知する対象物Wは、当該製造ライン上で製造される物品である。
このとき、検知システムAの判定部3と、製造部6とを連動させることにより、歩留まりを向上させることが可能となる。
具体的には、検知システムAが不良を検知した場合、製造部6を停止させることで、不良の発生原因を特定し、補修することが容易となり、歩留まりを向上させることができる。
ここで、検知システムAを用いた不良の検知方法について述べる。これは、検知システムAを用いて対象物Wの不良を検知する不良の検知方法であって、画像撮影部1が対象物Wを撮影し、基準セル画像P1とする基準セル画像撮影ステップS1と、データ生成部2が基準セル画像P1を基に学習データDを生成する学習データ生成ステップS2と、判定部3が学習データDを基に判定基準を生成し、記録部4が当該判定基準を記録する判定基準生成ステップS3と、画像撮影部1により、検査対象である対象物Wの画像を撮影し、セル画像P3とするセル画像撮影ステップS4と、判定部3が判定基準により、セル画像P3を基に判定セル画像P2を作成する判定セル画像作成ステップS5と、判定部3がセル画像P3と判定セル画像P2とを比較することで、対象物Wの不良を検知する検知ステップS6と、を有する。
上述したように学習データDの生成、及び学習データDを基にした判定基準の生成は、コンピュータにより行われる。学習データDの生成とこれを基にした判定基準の生成を繰り返すことにより、判定基準とこれに基づく不良の検知の精度が向上する。すなわち、AIが自己学習を行うことで学習データD及び判定基準の生成が行われる。
1・・・画像撮影部
2・・・データ生成部
3・・・判定部
4・・・記録部
5・・・表示部
6・・・製造部
W・・・対象物
C・・・カメラ
P1・・・基準セル画像
P2・・・判定セル画像
P3・・・セル画像
P4・・・差分画像
P5・・・結合画像
D・・・学習データ
R・・・復元誤差
S1・・・基準セル画像撮影ステップ
S2・・・学習データ生成ステップ
S3・・・判定基準生成ステップ
S4・・・セル画像撮影ステップ
S5・・・判定セル画像作成ステップ
S6・・・検知ステップ
Claims (6)
- 対象物を撮影して得られる画像に基づき、AIを用いて該対象物の良不良を検知する検知システムであって、
予め不良のない前記対象物の良品を撮影し、基準セル画像とする画像撮影部と、
前記基準セル画像を構成する要素を良品と認められる範囲内で変更した画像である学習データを、複数生成するデータ生成部と、
複数の前記学習データを数値化し、その数値を利用して、AIが判定基準を生成する判定部と、
前記判定基準を記録する記録部と、
を備え、
前記画像撮影部が、検知の対象となる前記対象物を、前記基準セル画像に対応するように撮影し、セル画像とするものであり、
前記判定基準が、各前記基準セル画像の特徴量から元となる前記基準セル画像を復元するための復元プロトコルであり、
前記判定部が、各前記セル画像を数値化して特徴量を算出し、該特徴量及び前記復元プロトコルから判定セル画像を生成するものであり、
前記判定部が前記判定セル画像と前記セル画像とを比較して、1つ以上の前記セルにおいて予め設定した閾値を超えた場合に、前記対象物を不良品と検知するものであり、
前記判定部が、前記復元プロトコルにおける復元誤差を算出するものであり、
前記判定部が、前記復元誤差から誤差基準値を生成し、
前記判定セル画像から該誤差基準値を減じて前記セル画像と比較するものである検知システム。 - 前記基準セル画像が、前記画像撮影部が撮影した画像を任意の数のセルに分割したものの中の1つであり、
前記セル画像が、前記画像撮影部が撮影した画像を任意の数のセルに分割したものの中の1つであり、
前記判定基準が、分割したセル毎に生成される請求項1記載の検知システム。 - 前記要素が、前記基準セル画像の任意の数のピクセルにおける、明度、彩度及び色相からなる群より選ばれる少なくとも1つである請求項1又は2記載の検知システム。
- 前記要素の変更が、前記基準セル画像全体を既定の位置からずらすことにより行われるものである請求項1〜3いずれか1項に記載の検知システム。
- 前記基準セル画像が矩形であり、8×8ピクセル以上の大きさであり、
前記基準セル画像の辺を構成するピクセルがいずれも2nの整数倍であり、該nが前記判定部による前記特徴量の注出回数である請求項1〜4いずれか1項に記載の不良検知システム。 - 前記要素の変更が、前記基準セル画像のRGB値のデータをHSVデータへ変換して行われるものである請求項1〜5いずれか1項に記載の不良検知システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020045006 | 2020-03-16 | ||
JP2020045006 | 2020-03-16 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021149952A JP2021149952A (ja) | 2021-09-27 |
JP6960620B2 true JP6960620B2 (ja) | 2021-11-05 |
Family
ID=77849150
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021020188A Active JP6960620B2 (ja) | 2020-03-16 | 2021-02-10 | 検知システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6960620B2 (ja) |
-
2021
- 2021-02-10 JP JP2021020188A patent/JP6960620B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2021149952A (ja) | 2021-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9773302B2 (en) | Three-dimensional object model tagging | |
US20170069075A1 (en) | Classifier generation apparatus, defective/non-defective determination method, and program | |
CN109472271B (zh) | 印刷电路板图像轮廓提取方法及装置 | |
TWI500925B (zh) | Check the device, check the method and check the program | |
US11315229B2 (en) | Method for training defect detector | |
KR20090101356A (ko) | 결함 검출 장치 및 결함 검출 방법 | |
CN105372259A (zh) | 测量装置、基板检查装置以及其控制方法 | |
KR100668029B1 (ko) | 탄성 모델을 이용한 인쇄 품질의 자동 검사 방법 | |
CN113034488A (zh) | 一种喷墨印刷品的视觉检测方法 | |
JP2019158628A (ja) | 検査装置、検査方法、及び検査プログラム | |
JP4230880B2 (ja) | 欠陥検査方法 | |
US20200193561A1 (en) | Automatic Detection, Counting, and Measurement of Lumber Boards Using a Handheld Device | |
JP5274173B2 (ja) | 車両検査装置 | |
JP2002140694A (ja) | 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体 | |
JP2005345290A (ja) | 筋状欠陥検出方法及び装置 | |
JP6960620B2 (ja) | 検知システム | |
JP6788929B1 (ja) | 被検物判定用の画像処理装置及び画像処理方法 | |
CA3219745A1 (en) | Texture mapping to polygonal models for industrial inspections | |
US20160379360A1 (en) | Inspecting method, inspecting apparatus, image processing apparatus, program and recording medium | |
JP2002008029A (ja) | 画像検査装置 | |
JP7380332B2 (ja) | 画像処理装置、画像処理装置の制御方法およびプログラム | |
CN110288662A (zh) | 显示器检测方法与系统 | |
Somwang et al. | Image Processing for Quality Control in Manufacturing Process | |
JP7300155B2 (ja) | 固形製剤外観検査における教示装置、及び固形製剤外観検査における教示方法 | |
Belshe | Chess Piece Detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210210 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210210 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20210212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210407 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210409 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20210423 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210520 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210825 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210929 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210930 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6960620 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |