JP2022096093A - 外観面の画像検査システム及び画像検査方法 - Google Patents
外観面の画像検査システム及び画像検査方法 Download PDFInfo
- Publication number
- JP2022096093A JP2022096093A JP2020209006A JP2020209006A JP2022096093A JP 2022096093 A JP2022096093 A JP 2022096093A JP 2020209006 A JP2020209006 A JP 2020209006A JP 2020209006 A JP2020209006 A JP 2020209006A JP 2022096093 A JP2022096093 A JP 2022096093A
- Authority
- JP
- Japan
- Prior art keywords
- image
- defective product
- inspection
- defective
- inspected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
【課題】被検査体は透明品でも不透明品でもよく、簡単な構造で正確かつ短時間で外観面の欠陥を判定することができる外観面の画像検査システムを提供すること。【解決手段】天面が光反射性を有する被検査体30を載置し回転する検査台10、天面に帯状の線状投射光S1を照射する照明ユニット20、天面を挟んで照明ユニット20と対抗するように配置され、天面に投影された線状投射光S1により形成されるストライプ縞の天面の表面での反射光S2を一定の回転タイミングごとに撮像する撮像装置23、を備える画像検査装置2と、被検査体30の検査画像G2を予め機械学習し記憶してある判定モデルMにより処理することで、被検査体30の天面の傷や欠け、凹凸等の欠陥を非常に簡単に検出し被検査体30の良否判定を行う情報処理装置3とで構成した外観画像検査システムと画像検査方法。【選択図】 図1
Description
本願発明は、被検査体の外観表面における傷や欠陥の有無を画像診断で良否判定を行う外観面の画像検査システム及び画像検査方法に関する。
従来、被検査体の表面に縞模様のスリット光を照射する照射手段と、被検査体の表面で反射された反射光を撮像する撮像手段を設け、撮像された画像を解析することにより被検査体の表面の傷や欠陥の有無を判別する方法が提案されている。また、被検査体が透明品の場合は被検査体を挟んでスリット光照射手段と反対側に撮像手段を設けて、透過するスリット光の画像から表面の傷や欠陥の有無を判別する提案もされている。
例えば特許文献1には、被写体の中心軸を中心にして、被写体の胴部にストライプ(例えば、縞模様)状に光を照射する照明装置と、照明装置と被写体を挟んで略対向するように配置され、被写体の胴部で反射された反射光を撮像する複数のカメラ、とで構成された円筒状金属缶の座屈検査装置が提案されている。
また、特許文献2には、明暗が交互の規則性をもった識別パターンとして透明物体の検査領域に照射し、その透過光を、焦点が検査領域の後方に位置するようにした固体撮像素子カメラで撮影し、該カメラの出力の高低を固体撮像素子の配列順序に従って検出してその高低の変化量が急峻な画素数を計数し、その画素数が予め設定された個数以上存在しているとき欠陥有りと判定する透明物体の欠陥検出方法とその装置が提案されている。
しかしながら、特許文献1の場合には、被検査体が円筒の金属缶に対して放射状のストライプ光を照射し、その反射光を反対側に配置した複数のカメラで撮像し、撮像画像のストライプのラインの乱れと輝度変化を検出することで被検査体の良否判定をするもので、コンベア上を搬送される円筒の金属缶に対しての検査方法であり、コンベア装置や複数のカメラが必要となり、装置が非常に大掛かりになってしまうという問題点があった。また、被検査体が透明体の場合は反射光と透過光が絡み合い正確な判定が行えない欠点があった。
さらに、従来の画像処理を用いた検査手法では、画像を人間が判定し不良品画像として登録する必要があり、判定基準の設定が難しい問題があった。また、被検査体が変わるたびに多量の不良品画像を登録しなければならず、多くの工数がかかり多品種の外観検査への対応が困難であるという問題もあった。
一方、特許文献2の場合には、被検査体が透明体のものを透過するスリット光の画像変化で欠陥を判定するものであり、例えば、不透明体を基材にしてその表面を透明物で被覆するような検査体は検査できないという問題があった。
本願発明は、上記問題点に鑑みその目的は、被検査体は透明品でも不透明品でもよく、簡単な構造で正確かつ短時間で外観面の欠陥を判定することができる外観面の画像検査システム及び画像検査方法を提供することを目的とする。
本願発明に係る手段1は、天面が光反射性を有する被検査体を載置し回転する検査台、
天面に帯状の線状投射光を照射する照明ユニット、
天面を挟んで照明ユニットと対抗するように配置され、天面に投影された線状投射光により形成されるストライプ縞の天面の表面での反射光のみを一定の回転タイミングごとに撮像する撮像装置、
とを備える画像検査装置と、
前記反射光を、撮像縞を含む領域を画像として取り込んだ撮像画像から、予め機械学習し記憶してある判定モデルにより良否判定を行う情報処理装置と、
を具備したことである。
天面に帯状の線状投射光を照射する照明ユニット、
天面を挟んで照明ユニットと対抗するように配置され、天面に投影された線状投射光により形成されるストライプ縞の天面の表面での反射光のみを一定の回転タイミングごとに撮像する撮像装置、
とを備える画像検査装置と、
前記反射光を、撮像縞を含む領域を画像として取り込んだ撮像画像から、予め機械学習し記憶してある判定モデルにより良否判定を行う情報処理装置と、
を具備したことである。
本願発明の手段1によれば、簡単な構造の画像検査装置で、天面に光反射性を有する被検査体を回転させながら、天面に帯状の線状投射光を照射し、投影された線状投射光により形成されるストライプ縞の天面の表面での反射光のみを、一定の回転量ごとに撮像縞を含む領域を画像として取り込んだ撮像画像から、予め機械学習し記憶してある判定モデルにより、被検査体の天面の傷や欠け、凹凸等の欠陥を、非常に簡単に検出し被検査体の良否判定を行うことができる。また、被検査体は表面に光反射性を有しストライプ縞が映り込むものであれば透明品でも不透明品でもよく、透明品であっても反射光で表面の欠陥を非常に簡単に検出でき、撮像装置の配置の自由度も向上するため検査が簡単になる利点がある。さらに、予め機械学習し記憶してある判定モデルにより良否判定を行うことで、短時間で簡単に良否判定を行うことができる。
本願発明によれば、被検査体は透明品でも不透明品でもよく、簡単な構造で正確かつ短時間で外観面の欠陥を判定する外観面の画像検査システム及び画像検査方法を提供することができる。
(課題を解決するための他の手段)
本願発明に係る手段2は、情報処理装置は、演算処理を行う演算処理部と、撮像画像を機械学習し判定モデルを構築する学習プログラム部と、該判定モデルを記憶する記憶部と、
を備え、学習プログラム部は、一定数の良品画像又は一定数の良品画像と一定数の不良品画像を機械学習し、判定モデルを構築したことである。
本願発明に係る手段2は、情報処理装置は、演算処理を行う演算処理部と、撮像画像を機械学習し判定モデルを構築する学習プログラム部と、該判定モデルを記憶する記憶部と、
を備え、学習プログラム部は、一定数の良品画像又は一定数の良品画像と一定数の不良品画像を機械学習し、判定モデルを構築したことである。
本願発明に係る手段2によれば、機械学習用データとして一定数の良品画像又は一定数の良品画像と一定数の不良品画像を学習させることで、各種の判定モデルを構築することができるため、多数の不良品の画像は必要とはせず、非常に簡単で短時間に学習させることができる。さらに、検査対象が変更になった場合にも簡単に判定モデルを構築することができるため、多品種の外観検査への対応が簡単に行える利点がある。
本願発明に係る手段3は、前述の外観面の画像検査システムを用い、検査対象の被検査体を回転させながら撮像装置で一定の回転タイミングごとに撮像縞を含む領域を画像として撮像する撮像工程と、
撮像工程にて撮像した撮像画像を検査画像とし、予め機械学習し記憶してある判定モデルにより良否判定を行う良否判定工程と、
を備えたことである。
撮像工程にて撮像した撮像画像を検査画像とし、予め機械学習し記憶してある判定モデルにより良否判定を行う良否判定工程と、
を備えたことである。
本願発明に係る手段3によれば、予め機械学習し記憶してある判定モデルにより良否判定を行うことができるため、非常に簡単に短時間で被検査体の良否判定を行える利点がある。さらに、多品種にも対応可能となる効果がある。
本願発明に係る手段4は、前述の判定モデルは、予め良品とわかっている一定数の被検査体を、一定の回転タイミングごとに撮像した撮像画像に“良好”ラベルを付け、機械学習により学習プログラム部で判定モデルを構築し、良品判定モデルとしたことである。
本願発明に係る手段4によれば、予め良品と分かっている一定数の被検査体を学習する場合に、一括で撮像画像を良品画像としてラベル付けし学習できるので非常に簡単に良品判定モデルを構築することができる。また、検査画像の良否判定を行う際に比較的明瞭な見分け易い欠陥や予期せぬ欠陥も検出できる利点がある。
本願発明に係る手段5は、前述の判定モデルは、予め良品とわかっている一定数の被検査体を、一定の回転タイミングごとに撮像した撮像画像に“良好”ラベルを付け、さらに、予め不良品とわかっている一定数の被検査体を、一定の回転タイミングごとに撮像した撮像画像の欠陥箇所にマーキングをし“不良”ラベルを付け、 “良好”ラベルを付けた撮像画像と “不良”ラベルを付けた撮像画像から、機械学習により学習プログラム部で判定モデルを構築し、良品及び不良品判定モデルとしたことである。
本願発明に係る手段5によれば、良品画像を定義すると共に、不良品画像の欠陥箇所にマーキングをして不良品画像と定義をし、良品画像と不良品画像の両方の画像を使用して学習をし、良品及び不良品判定モデルを構築することで、検査画像の良否判定を行う際に比較的不明瞭な見分け難い欠陥も検出できる利点がある。また、多量の不良品画像を必要とせず、簡単に良品及び不良品判定モデルを構築することができる。
本願発明に係る手段6は、前述の良否判定工程は、撮像工程にて撮像した検査画像を良品判定モデルにより良否判定を行う第1の良否判定工程又は、
検査画像を良品及び不良品判定モデルにより良否判定を行う第2の良否判定工程の、少なくともいずれか一方を備えたことである。
検査画像を良品及び不良品判定モデルにより良否判定を行う第2の良否判定工程の、少なくともいずれか一方を備えたことである。
本願発明に係る手段6によれば、検査画像と良品判定モデルを使用し第1の良否判定を実施する場合は、比較的明瞭な見分け易い欠陥や予期せぬ欠陥を簡単に検出できる。また、良品及び不良品判定モデルを使用し、第2の良否判定を実施する場合は、比較的不明瞭な見分け難い欠陥も簡単に検出できる効果がある。
また、検査画像と良品判定モデルを使用し第1の良否判定を実施し、比較的明瞭な見分け易い欠陥や予期せぬ欠陥を検出した後、一度良品判定された被検査体の検査画像に対し、良品及び不良品判定モデルを使用し、再度第2の良否判定を実施することで、比較的不明瞭な見分け難い欠陥も検出でき、良品判定モデルを使用した第1の良否判定で見落とされた不良品を検出排除できる効果がある。また逆に、良品及び不良品判定モデルを使用し第2の良否判定を実施し、比較的不明瞭な欠陥を検出した後、一度良品判定された被検査体の検査画像に対し、再度良品判定モデルを使用し第1の良否判定を実施することで、予期せぬ欠陥を検出できる効果がある。このように、2段階で良否判定を実施することで一層不良品を検出排除できる効果がある。
また、検査画像と良品判定モデルを使用し第1の良否判定を実施し、比較的明瞭な見分け易い欠陥や予期せぬ欠陥を検出した後、一度良品判定された被検査体の検査画像に対し、良品及び不良品判定モデルを使用し、再度第2の良否判定を実施することで、比較的不明瞭な見分け難い欠陥も検出でき、良品判定モデルを使用した第1の良否判定で見落とされた不良品を検出排除できる効果がある。また逆に、良品及び不良品判定モデルを使用し第2の良否判定を実施し、比較的不明瞭な欠陥を検出した後、一度良品判定された被検査体の検査画像に対し、再度良品判定モデルを使用し第1の良否判定を実施することで、予期せぬ欠陥を検出できる効果がある。このように、2段階で良否判定を実施することで一層不良品を検出排除できる効果がある。
本願発明に係る実施の形態について、図1から図3を用いてそのシステム構成を説明する。図1には、外観画像検査システム1の構成要素とその接続関係が示されており、画像検査装置2はローカルエリアネットワーク(LAN)6または専用ケーブルを介して情報処理装置(コンピュータ)3に接続されている。また、コンピュータ3には学習プログラム4がインストールされており、学習プログラム4の処理は画像検査装置2にて取り込まれた被検査体30の撮像画像G1を学習処理し、良否判定を行うための判定モデルMを構築して記憶部5に保存する判定モデル構築処理と、検査対象である被検査体30の検査画像G2を取り込み、記憶部5に保存された判定モデルMにより良否判定を行う良否判定処理を備えている。
画像検査装置2は図2、図3のように、中央部に検査台10が設けられ、回転テーブル11上に検査治具12を介して扁平な被検査体30が載置され、回転テーブル11は図示せぬ回転駆動手段で回転可能になっている。すなわち、被検査体30は回転テーブル11の回転中心にて回転する構造となっている。
この検査台10の一方の斜め上方には、LED等の照明装置21とスリット板22で構成された照明ユニット20が配設され、検査台10を挟んで被検査体30の天面32aの表面のみで反射した光を撮像する位置に撮像装置23が配設されている。スリット板22は、図3に示すように全面に垂直方向に細かいスリット溝22aが貫通して設けられ、照明装置21からの光は、スリット溝22aを通過した光と遮光された光で明暗のストライプ模様を成す線状投射光S1となって被検査体30の表面に投影される。一方、被検査体30の天面32a(図4参照)の表面で反射した線状投射光S1が、反射光S2となって撮像装置23で撮像される。
被検査体30は、例えば服飾品などに用いられるボタンであり、図4(a)、(b)に示すように略円形の薄い円筒形状を成し、金属などの不透明のベース31とアクリル樹脂やエポキシ樹脂などの透明なボディー32で構成され、全体的に円盤状となっている。なお、被検査体30は略円形ばかりでなく楕円形や四角形、六角形などの多角形であってもかまわない。
ベース31は、底面31aに蒸着や彫刻等で装飾面31bのような模様が装飾された亜鉛合金や錫合金等の金属で作製されている。尚、図4では装飾面31bは突起状にて表現しているが、必ずしも突起の必要はない。一方、ボディー32は平滑な曲面形状の天面32aを有し、鏡のような完全な鏡面ではないが光の反射には十分な光沢を有する巨視的な鏡面となっており、被検査体30は、ベース31に対してボディー32をアクリル樹脂やエポキシ樹脂などの透明材料をポッティング加工やインサート射出成形により作製されている。
次に、被検査体30の天面32aに対して、明暗のストライプ模様を成す線状投射光S1を投影した状態を説明する。図5は天面32a上に線状投射光S1を投影した状態で発生する投影縞(以降ストライプ縞と称す)S3の状態を示しており、線状投射光S1は天面32aの曲面に沿って略平行なストライプ縞となっている。
一方、天面32aの表面で反射した反射光S2を撮像装置23で撮像した結果は図6のようになる。天面32aは平滑な曲面形状で、巨視的な鏡面となっており、表面で巨視的鏡面反射した反射光S2を撮像装置23で撮像すると図6のように天面32aの曲面に沿って中央部に集中する模様の撮像縞S4が得られる。尚、天面32aが曲面形状の場合は前述のような撮像縞S4となるが、天面32aが平滑な平面の場合はストライプ縞S3とほぼ同等な略平行な撮像縞となる。なお、本説明では天面32aは透明で滑らかな面として説明したが、線状投射光S1が巨視的鏡面反射し反射光S2が撮像できれば巨視的な鏡面を有する金属加工面やプラスチック表面であっても構わない。
なお、検査台10の一方の斜め上方に配置した照明ユニット20と、反射光S2を撮像する撮像装置23の角度関係は、上記被検査体30の天面32aの表面で反射した光のみ撮像し、ベース31の底面31aや装飾面31bからの反射光S2を撮像しないような角度に設定され、天面32aを挟んで対抗するように配置されている。
被検査体30の天面32aにおける傷、欠けや凹凸などの欠陥を、画像検査装置2を使用して撮像する方法について説明する。先ず、図2に示すように被検査体30を検査治具12に天面32aを上向きにセットし、回転テーブル11を一定速度で一方向に回転させながら、照明ユニット20にて線状投射光S1を天面32aの曲面に投射する。次に、天面32aの表面で反射した反射光S2による撮像縞S4を含む領域を予め定めたタイミングで撮像装置23にて撮像する。(撮像した画像は撮像画像G1とする。)
尚、回転テーブル11を回転することは、反射光S2の撮像縞S4の明暗部の位置をずらしながら撮像して表面を漏れなく検査するためである。また、被検査体30の天面32aが曲面の場合は照射ユニット20側に対向する面からの反射光S2が受光できずに撮像縞S4が撮像装置23で取り込めないこともあり、被検査体30を回転することにより検査面を順次ずらし撮像縞S4を取り込むためでもある。
図7に、天面32aに傷や欠け、凹凸等の欠陥を有する被検査体30の撮像縞S4の例を示してある。例えば、表面に傷や欠けがある場合には、天面32aでの反射光S2は本来反射すべき方向には向かず、異なる方向に反射する。この結果、撮像縞S4の明部の一部に暗部突起S4aが出現し、さらに状態が悪い場合には明部縞が切断される。また、天面32aにヒケ等の歪んだ状態がある場合は、撮像縞S4の一部の縞に歪曲部S4bが出現する。尚、上記は表面における欠陥の一例で、他の状態の縞が発生する場合もある。この撮像縞S4の状態を検出して、本来の良品の場合の撮像縞S4と比較すれば、被検査体30が良品か不良品かを判別することが出来る。
以降、撮像装置23で撮像された撮像画像G1を使用して、被検査体30の良否判定を行う方法について説明する。図8(a)は複数の被検査体30の撮像画像G1を取り込んで、学習プログラム4により機械学習を行い、判定モデルMを構築し記憶部5に保存する学習行程P1を示しており、図8(b)は検査対象の被検査体30の撮像縞S4を含む領域を撮像し、記憶部5に保存されている上記の判定モデルMにより、良否判定を行う検査工程のフローチャートを示している。
<学習工程P1>
学習工程P1は以下の作業となる。被検査体30を検査治具12にセットし、回転テーブル11を一定速度で回転させながら一定のタイミングで撮像装置23にて複数枚の撮像縞S4を含む領域を撮像する。撮像縞S4は天面32aが滑らかな面の場合は、図6のように規則正しい撮像縞S4が撮像される。この作業を被検査体30が一定数に達するまで交換セットし直して、複数の撮像縞S4を含む領域を撮像し、撮像画像G1として記憶部5に保存する。一定数の撮像画像G1から機械学習により判定モデルMを構築し、記憶部5に保存する。
学習工程P1は以下の作業となる。被検査体30を検査治具12にセットし、回転テーブル11を一定速度で回転させながら一定のタイミングで撮像装置23にて複数枚の撮像縞S4を含む領域を撮像する。撮像縞S4は天面32aが滑らかな面の場合は、図6のように規則正しい撮像縞S4が撮像される。この作業を被検査体30が一定数に達するまで交換セットし直して、複数の撮像縞S4を含む領域を撮像し、撮像画像G1として記憶部5に保存する。一定数の撮像画像G1から機械学習により判定モデルMを構築し、記憶部5に保存する。
判定モデルMは、例えばニューラルネットワークを用いた教師なし学習により構築される。教師なし学習とは、学習データセットに正解ラベルを付けずに学習させる方法であり、良品画像のみからニューラルネットワークが自動で良品画像の特徴を学習する。ニューラルネットワークとしては、例えばAutoEncoder(自己符号化器)などの生成モデルが使用される。なお、ここで扱う判定モデルとは、入力に対して学習済みニューラルネットワークを介して出力し、入力と出力から特徴を抽出するまでの一連の処理の判定モデルも含む。
検査工程は、主に以下の撮像工程P2と良否判定工程P3から成っている。
<撮像工程P2>
撮像工程P2は、検査対象の被検査体30を撮像する工程である。被検査体30を検査治具12にセットし回転テーブル11を一定速度で回転させながら一定のタイミングで撮像装置23にて撮像縞S4を含む領域を撮像する。撮像された撮像縞S4を含む領域を検査画像G2として記憶部5に保存する。
<良否判定工程P3>
良否判定工程P3は、検査対象の被検査体30の良否を判定する工程である。記憶部5に保存された検査画像G2を、同じく記憶部5に保存された判定モデルMを使用して良否判定する。
<撮像工程P2>
撮像工程P2は、検査対象の被検査体30を撮像する工程である。被検査体30を検査治具12にセットし回転テーブル11を一定速度で回転させながら一定のタイミングで撮像装置23にて撮像縞S4を含む領域を撮像する。撮像された撮像縞S4を含む領域を検査画像G2として記憶部5に保存する。
<良否判定工程P3>
良否判定工程P3は、検査対象の被検査体30の良否を判定する工程である。記憶部5に保存された検査画像G2を、同じく記憶部5に保存された判定モデルMを使用して良否判定する。
図9は良否判定工程P3における検査画像G2を判定モデルMにより処理するアルゴリズムの例を示しており、例えば、良品画像のみで学習させた生成モデルの学習済みニューラルネットワークに欠陥の写った画像を入力すると、学習済みニューラルネットワークからは欠陥が除去された画像が出力される。そこで、入力画像(検査画像G2)と出力画像の差分を取ると、欠陥領域のみが抽出された画像が得られる。この画像から、欠陥領域抽出画像の面積などに応じて不良度を計算する。判定モデルMにより検査画像G2の不良度がスコア値として出力される。図8(b)の良否判定工程P3では、不良度が予め定めた基準値以下であれば検査画像G2は良品として判定され、基準値より大きければ不良品として判定される。
本願発明の画像検査装置2における変形例として、他の照明ユニット40を図10に示す。箱形のケース43内の底部には基板44上に実装されたLED素子45が規則正しく配列/実装されており、通電することでLED素子45が発光し照明装置41となる。また、透明なガラスやプラスチックで作製され、表面部は縦縞の遮光部42aが黒インク等で規則正しく印刷され、光の透過部と遮光部で白黒のスリットパターンが形成されたスリット板42が、取付面43aに取り付けられ照明装置41と組み合わさり照明ユニット40となっている。本変形例では、白黒のスリットパターンの輝度が均一化できる利点がある。
なお、照明ユニット40は照明装置41とスリット板42で構成して説明したが、パーソナルコンピュータなどの液晶表示装置に濃淡パターンを表示させ、直接濃淡パターンを天面32aの曲面に投射しても構わない。
なお、照明ユニット40は照明装置41とスリット板42で構成して説明したが、パーソナルコンピュータなどの液晶表示装置に濃淡パターンを表示させ、直接濃淡パターンを天面32aの曲面に投射しても構わない。
図12は本願発明の画像検査方法における第1の実施態様を示しており、図12(a)の良品学習工程P4で作成した良品判定モデルM1を使用して、図12(b)の検査工程において第1の良否判定工程P5で良否判定を行うフローチャートを示す。なお、撮像画像G1としては後述の実施例で使用した図11に示す実際の写真画像を用いて説明する。照明ユニット40の線状投射光S1は、被検査体30の透明な曲面状の天面32aの表面にて巨視的鏡面反射をし、反射縞となって現れる。天面32aが滑らかな曲面の場合は図11の様に整った線となり中央部近傍に集まってくる。この反射縞を撮像装置23で撮像したものが撮像縞S4を含む領域の撮像画像G1となる。なお、図中で一点鎖線は天面32aの稜線を表している。この稜線より照明ユニット40側の面は反射光が撮像できないため、被検査体30を回転させて順次撮像することになる。
以降、図12のフローチャートにしたがって説明する。
<良品学習工程P4>
先ず、予め良品とわかっている被検査体30を回転テーブル11上で回転させながら、一定のタイミングでこの反射縞を撮像し、撮像縞S4を含む領域を撮像画像G1として記憶部5に保存する。この作業を良品の被検査体30を交換しながら、予め決めた一定数になるまで撮像画像G1として記憶部5に保存する。保存した撮像画像G1に対して “良好”ラベルGLを付け良品画像G3として登録する。図13は(a)撮像画像G1に対して(b) “良好”ラベルGLを付ける方法の例であり、画像の右上隅に斜帯で表示している(実際は緑色帯)。“良好”ラベルGLを付けた画像は、良品画像G3として記憶部5に保存する。なお、学習時の撮像画像G1は、予めすべて良品の被検査体30のため、すべて良品画像であり一括して良品画像G3として登録することになる。
<良品学習工程P4>
先ず、予め良品とわかっている被検査体30を回転テーブル11上で回転させながら、一定のタイミングでこの反射縞を撮像し、撮像縞S4を含む領域を撮像画像G1として記憶部5に保存する。この作業を良品の被検査体30を交換しながら、予め決めた一定数になるまで撮像画像G1として記憶部5に保存する。保存した撮像画像G1に対して “良好”ラベルGLを付け良品画像G3として登録する。図13は(a)撮像画像G1に対して(b) “良好”ラベルGLを付ける方法の例であり、画像の右上隅に斜帯で表示している(実際は緑色帯)。“良好”ラベルGLを付けた画像は、良品画像G3として記憶部5に保存する。なお、学習時の撮像画像G1は、予めすべて良品の被検査体30のため、すべて良品画像であり一括して良品画像G3として登録することになる。
次に、保存した一定数の良品画像G3のみから、例えばAutoEncoder(自己符号化器)などの教師なし学習により良品判定モデルM1を構築し記憶部5に保存する。この良品判定モデルM1を構築することで、ニューラルネットワークは学習済みニューラルネットワークとなる。
検査工程は、主に前述の撮像工程P2と以下の第1の良否判定工程P5から成っている。
<第1の良否判定工程P5>
検査対象の被検査体30を検査する場合は、撮像工程P2にて撮像された検査画像G2の良否判定を行う第1の良否判定工程P5で判定する。図12において、検査画像G2を記憶部5から呼び出し、順次良品判定モデルM1にて良否判定を行う。図9に示す欠陥領域抽出画像から求められる不良度の数値(後述するスコア値SC)が予め定めた基準値(後述する閾値SL)以下ならば良品、それ以上ならば不良品と判定される。
<第1の良否判定工程P5>
検査対象の被検査体30を検査する場合は、撮像工程P2にて撮像された検査画像G2の良否判定を行う第1の良否判定工程P5で判定する。図12において、検査画像G2を記憶部5から呼び出し、順次良品判定モデルM1にて良否判定を行う。図9に示す欠陥領域抽出画像から求められる不良度の数値(後述するスコア値SC)が予め定めた基準値(後述する閾値SL)以下ならば良品、それ以上ならば不良品と判定される。
図14は本願発明の画像検査方法における第2の実施態様を示しており、良品及び不良品学習工程P6で作成した良品及び不良品判定モデルM2を使用し、第2の良否判定工程P7にて良否判定を行うフローチャートを示す。
<良品及び不良品学習工程P6>
良品学習工程P4と同様に、先ず、予め良品とわかっている被検査体30を回転テーブル11上で回転させながら、一定のタイミングでこの反射縞を撮像し、撮像縞S4を含む領域を撮像画像G1として記憶部5に保存する。この作業を良品の被検査体30を交換しながら、予め決めた一定数になるまで撮像画像G1として記憶部5に保存する。保存した撮像画像G1に対して “良好”ラベルGLを付け良品画像G3として登録する。なお、ここまでは良品学習工程P4と同様の作業であり、同様に一括して良品画像G3として登録する。
<良品及び不良品学習工程P6>
良品学習工程P4と同様に、先ず、予め良品とわかっている被検査体30を回転テーブル11上で回転させながら、一定のタイミングでこの反射縞を撮像し、撮像縞S4を含む領域を撮像画像G1として記憶部5に保存する。この作業を良品の被検査体30を交換しながら、予め決めた一定数になるまで撮像画像G1として記憶部5に保存する。保存した撮像画像G1に対して “良好”ラベルGLを付け良品画像G3として登録する。なお、ここまでは良品学習工程P4と同様の作業であり、同様に一括して良品画像G3として登録する。
次に、予め不良品とわかっている被検査体30を回転テーブル11上で回転させながら、一定のタイミングでこの反射縞を撮像し、撮像縞S4を含む領域を撮像画像G1として記憶部5に保存する。この作業を不良品の被検査体30を交換しながら、予め決めた一定数になるまで撮像画像G1として記憶部5に保存する。さらに、撮像画像G1の欠陥DEの部分に欠陥マークDMをマーキングし撮像画像G1に“不良”ラベルBLを付け不良品画像G4として登録する。なお、上述の良品画像G3と不良品画像G4の作成の順番は逆であっても構わない。
図15は不良品画像G4の例であり、(a)撮像画像G1の一部に欠陥DEが現れており、(b)撮像画像G1の欠陥DEに対応する位置に欠陥マークDM(赤色)が付けられ、画像の右上隅に斜帯(実際は赤色帯)で“不良”ラベルBLを付けた図となっている。 “不良”ラベルBLを付けた画像は、不良品画像G4として記憶部5に保存される。なお、欠陥マークDMは点状、円状、異形状、筋状等で各種マーキングは異なり、その形状に合わせてマーキングをする。
記憶部5に保存した上記の良品画像G3と不良品画像G4から、機械学習により良品及び不良品判定モデルM2を構築し、記憶部5に保存する。例えばこの画像を教師データとしてニューラルネットワークの入力層に入力し、隠れ層で複数回の重み付け係数を付加したのち出力層に出力される出力データと入力した教師データとの誤差をとり、この誤差が最小となるように何度も重み付け係数を変更して調整する誤差逆伝播法によりニューラルネットワークは学習される。特に、画像をピクセルに分割しピクセルにラベル付けをする画像セグメンテーション法を用いて学習させ、良品及び不良品判定モデルM2を作成することが有効である。
検査工程は、主に前述の撮像工程P2と以下の第2の良否判定工程P7から成っている。
<第2の良否判定工程P7>
検査対象の被検査体30を検査する場合は、撮像工程P2にて撮像された検査画像G2の良否判定を行う第2の良否判定工程P7で判定する。図14(b)において、検査画像G2を記憶部5から呼び出し、順次良品及び不良品判定モデルM2にて良否判定を行う。図9に示す欠陥領域抽出画像から求められる不良度の数値(後述するスコア値SC)が予め定めた基準値(後述する閾値SL)以下ならば良品、それ以上ならば不良品と判定される。
<第2の良否判定工程P7>
検査対象の被検査体30を検査する場合は、撮像工程P2にて撮像された検査画像G2の良否判定を行う第2の良否判定工程P7で判定する。図14(b)において、検査画像G2を記憶部5から呼び出し、順次良品及び不良品判定モデルM2にて良否判定を行う。図9に示す欠陥領域抽出画像から求められる不良度の数値(後述するスコア値SC)が予め定めた基準値(後述する閾値SL)以下ならば良品、それ以上ならば不良品と判定される。
図16は本願発明の画像検査方法における第3の実施態様を示しており、良品判定モデルM1と良品及び不良品判定モデルM2の両方の判定モデルを使用し、第1の良否判定工程P5と第2の良否判定工程P7の両方の工程を含む第3の良否判定工程P8にて良否判定を行うフローチャートを示す。先ず、上記第3の良否判定工程P8を実施する前に、前述の方法で予め、良品判定モデルM1と良品及び不良品判定モデルM2を構築しておく。
検査工程は、主に前述の撮像工程P2と以下の第3の良否判定工程P8から成っている。
<第3の良否判定工程P8>
検査対象の被検査体30を検査する場合は、先ず、撮像工程P2にて撮像された検査画像G2を記憶部5から呼び出し、前述の良品判定モデルM1にて判定し、結果が予め定めた基準値(後述する閾値SL)以上ならば不良品として終了する。一方結果が基準値以下の場合は、前述の良品及び不良品判定モデルM2にて追加判定を行う。結果が予め定めた基準値(後述する閾値SL)値以下ならば良品とし、結果が基準値以上ならば不良品として終了する。
検査工程は、主に前述の撮像工程P2と以下の第3の良否判定工程P8から成っている。
<第3の良否判定工程P8>
検査対象の被検査体30を検査する場合は、先ず、撮像工程P2にて撮像された検査画像G2を記憶部5から呼び出し、前述の良品判定モデルM1にて判定し、結果が予め定めた基準値(後述する閾値SL)以上ならば不良品として終了する。一方結果が基準値以下の場合は、前述の良品及び不良品判定モデルM2にて追加判定を行う。結果が予め定めた基準値(後述する閾値SL)値以下ならば良品とし、結果が基準値以上ならば不良品として終了する。
上記の第3の良否判定工程P8は、一旦、判定結果が予め定めた基準値(後述する閾値SL)以下の場合でも、異なる観点で作成した判定モデルで別々に判定することにより、比較的不明瞭な見分け難い欠陥も検出でき、一度見落とされた不良品を検出排除できる利点がある。なお、後述する実施例4で説明するが、第4の実施態様として第3の良否判定工程P8において、判定の順番を入れ替えて、良品及び不良品判定モデルM2にて判定を行った後に良品判定モデルM1にて追加判定しても構わない。
以上、4種類の実施態様において学習工程P1として、2種類の学習工程(良品学習工程P4、良品及び不良品学習工程P6)と、良否判定工程P3として、3種類の良否判定工程(第1の良否判定工程P5と第2の良否判定工程P7、第3の良否判定工程P8)について説明したが、学習工程P1と良否判定工程P3は各々独立した工程であり、一旦、学習工程P1にて何種類かの判定モデルMを作成し記憶しておけば、検査工程は検査対象の被検査体30の撮像工程P2と良否判定工程P3のみの工程となり、良否判定時に必要な判定モデルMを呼び出して良否判定することができる。これは、同一種類の被検査体を繰り返し検査する場合に非常に有効である。
また、判定モデルMの作成も必ずしも多量の不良品画像を必要とせず、比較的簡単に判定モデルMを作成することができる。
以下、各実施態様に対して実施例を基に説明する。
また、判定モデルMの作成も必ずしも多量の不良品画像を必要とせず、比較的簡単に判定モデルMを作成することができる。
以下、各実施態様に対して実施例を基に説明する。
本願発明の実施例に使用した画像検査装置2の写真を図17に示す。中央部の回転テーブル11には検査治具12が設けられ被検査体(ボタン)30が載置されて図中矢印方向に回転している。照明ユニット40からの線状投射光S1がボタン30の表面に投射され、撮像装置23で反射光S2を撮像している。
本実施例に使用したボタン30の外観写真を図18に示す。亜鉛合金のベース31の表面を透明なエポキシ樹脂にてポッティング加工でボディー32が形成されている。ボディー32の表面は平滑な曲面形状をした天面32aが形成されており、天面32aで光が巨視的鏡面反射するようになっている。
実施例において、撮像装置23にて撮像縞S4を含む領域を撮像した結果の撮像画像G1は前述したように図11である。なお、ボタン30の寸法は図18に示すように外形は約φ20mm、曲面部の高さは約2mmのボタンとした。
本願発明の実施例にて使用した各種機器を以下に示す。
・撮像装置23は、IDS Imaging Development Systems社のカメラでUI-6280SE-C-HQ Rev.3
・照明ユニット40は、シーシーエス株式会社のLFX3-100SW-PT-Bで、濃淡のスリット間隔は各2mmを使用。
・学習プログラム4は、コグネックスコーポレーションのVision Pro ViDiという学習・判定ソフトウェア
を使用して実験を行った。
本願発明の実施例にて使用した各種機器を以下に示す。
・撮像装置23は、IDS Imaging Development Systems社のカメラでUI-6280SE-C-HQ Rev.3
・照明ユニット40は、シーシーエス株式会社のLFX3-100SW-PT-Bで、濃淡のスリット間隔は各2mmを使用。
・学習プログラム4は、コグネックスコーポレーションのVision Pro ViDiという学習・判定ソフトウェア
を使用して実験を行った。
(実施例1)
以下、実施例1として第1の実施態様の場合の例で、実際のボタン30を用いて検証した条件/手順を説明する。先ず、良品学習工程P4としての作業で、予め良品と分かっているボタン30を検査治具12に配設し、回転テーブル11を図17に示す矢印方向に一定速度で回転させながら、ボタン30が約3回転する間に撮像装置23にて40枚の撮像縞S4を含む領域を撮像する。本実験では良品のボタン30を10個用いて、合計400枚の撮像画像G1を撮像した。
以下、実施例1として第1の実施態様の場合の例で、実際のボタン30を用いて検証した条件/手順を説明する。先ず、良品学習工程P4としての作業で、予め良品と分かっているボタン30を検査治具12に配設し、回転テーブル11を図17に示す矢印方向に一定速度で回転させながら、ボタン30が約3回転する間に撮像装置23にて40枚の撮像縞S4を含む領域を撮像する。本実験では良品のボタン30を10個用いて、合計400枚の撮像画像G1を撮像した。
次に、図13に示すように、上記で撮像した(a)の撮像画像G1を学習・判定ソフトウェアViDiにて良品画像G3として(b)に示す“良好”ラベルGL(緑色の帯)を付与する。このとき、学習・判定ソフトウェアViDiでは撮像画像G1を読み取り、撮像縞S4の歪みや欠け、変形の大きさや量等から内部処理にてスコア値SCを求める。図19(a)には実際の良品学習時に出力したスコア値SCと良品画像G3として良品マークGM(外形の枠:緑色外枠)を付与した画像を表示している。
図19(b)は、上記良品学習工程P4で10個の良品のボタン30を学習させ、400枚の良品画像G3から得られたスコア値SCの分布を示したヒストグラムであり、スコア値SCの平均値AVE=4.02,標準偏差σ=0.265が得られている。この結果を基に、400枚のスコア値SCが全て良品となるように閾値SL=5.04を決定し、400枚の良品画像G3から学習・判定ソフトウェアViDiにて良品判定モデルM1を構築した。尚、閾値SLは自動で設定も出来るし、任意に設定も出来る。
以降は実際の検査工程で、撮像工程P2として検査対象のボタン30を20個用意し、上記学習時と同様に撮像縞S4を含む領域を撮像した。この撮像された800枚の検査画像G2を、図9で示すように、入力画像として順次学習済みニューラルネットワークを介して構築された良品判定モデルM1により処理することで出力画像が得られる。スコア値SCは、良品判定モデルM1により処理された出力画像と入力画像の差分を取ったときの欠陥領域抽出画像から求められた差分を数値化した数値である。
実際に、第1の良否判定工程P5として400枚(ボタンが10個)の良品画像G3と800枚(ボタン20個)の検査画像G2合わせて1200枚(ボタンが30個)を学習・判定ソフトウェアViDiで良否判定をした。図20は不良品画像G4の検出結果(写真)の例であり、(a)では実際の検査画像G2の連続した6枚を抜き出した例である。目視でも欠陥DEが回転に伴い右から順に左側に移動していることが分かる。(b)はこの欠陥DEを有する検査画像G2の判定結果である。欠陥DEのある部分にエラーマークEM(赤色)が自動で付加され、不良品画像G4としてスコア値SCと不良品マークBM(外形の枠:赤色外枠)が自動で表示される。スコア値SCを見ると、閾値SL=5.04からは大幅に外れていることが分かる。
上記のボタン30を検査し良否判定した結果の(a)分布グラフと(b)コンフュージョンマトリックスを図21に示す。図21には閾値SL=5.04近傍における各良品画像G3と不良品画像G4の数の分布状況が示されている。閾値SLの左側が良品領域GAで、右側が不良品領域BAになっており、実際の不良品のボタン30を画像検査して良品として判定された交差領域CA1と実際の良品のボタン30を不良品として判定された交差領域CA2が閾値SLを挟んで表れている。
本来はこの交差領域が存在しないことが理想である。また、実際の撮像画像1200枚に対して、判定した結果を図21(b)のコンフュージョンマトリックスにした。実際の良品を良品として正しく判定したものは1144枚((イ)部分)、実際の不良品を不良品として正しく判定したものは35枚((ニ)部分)であり、実際の良品を不良品と誤判定した6枚((ロ)部分)は交差領域CA2、実際の不良品を良品と誤判定した15枚((ハ)部分)は交差領域CA1に相当している。このことは、学習・判定ソフトウェアViDiが欠陥画像を認識できなかった、若しくは正常画像を欠陥として判定した結果であるが、閾値SLを任意に移動することにより、実際の不良品を良品と判定する確率を減らすように設定することも可能である。また、閾値SLは2段階で設定することも可能であり、その閾値SLの間は偽判定領域になるが、本実施例1では閾値SLは共通とした。
全画像のスコア値SCの分布を表すヒストグラムを図22に示す。全画像では不良品も検出されているため、スコア値SCの平均値AVE=4.22と良品画像G3のみの場合より0.2程度大きくなっており、さらに不良品画像の影響で閾値SL=5.04を越えるスコア値SCが散見されて、バラツキ具合を示す標準偏差σ=0.612と2倍以上に大きくなっている。この結果、閾値SL=5.04とすると、平均値AVEと標準偏差σから推定不良率が約9%と計算される。なお、実際本システムの学習・判定ソフトウェアViDiで検出された1200枚の画像の不良率は3.42%となった。(図21における(ロ)と(ニ)の部分の不良率)
(実施例2)
次に実施例2として本願発明の第2の実施態様の場合の例で説明する。先ず、前述の良品画像G3の400枚と、予め不良品と分かっているボタン30の欠陥DEに対応する位置に欠陥マークDMと“不良”ラベルBLを付けた不良品画像G4を9枚用意した。この良品画像G3と不良品画像G4を使用して学習・判定ソフトウェアViDiにて良品及び不良品判定モデルM2を構築し、記憶部5に保存した。さらに、第2の良否判定工程P7として、この良品及び不良品判定モデルM2を用いて、全1200枚の検査画像G2の良否判定を実施した。
次に実施例2として本願発明の第2の実施態様の場合の例で説明する。先ず、前述の良品画像G3の400枚と、予め不良品と分かっているボタン30の欠陥DEに対応する位置に欠陥マークDMと“不良”ラベルBLを付けた不良品画像G4を9枚用意した。この良品画像G3と不良品画像G4を使用して学習・判定ソフトウェアViDiにて良品及び不良品判定モデルM2を構築し、記憶部5に保存した。さらに、第2の良否判定工程P7として、この良品及び不良品判定モデルM2を用いて、全1200枚の検査画像G2の良否判定を実施した。
図23にその結果の(a)分布グラフと(b)コンフュージョンマトリックスを示す。本実施例2では第1の閾値SL1=0.15、第2の閾値SL2=0.30が設定されている。この結果、実際の良品を良品として正しく判定したものは963枚((ホ)部分)、実際の不良品を不良品として正しく判定したものは35枚((ヌ)部分)であり、実際の良品を不良品と誤判定した23枚((ト)部分)、実際の不良品を良品と誤判定した5枚((チ)部分)となった。さらに、第1の閾値SL1=0.15と第2の閾値SL2=0.30の間は偽判定領域となっており、実際の不良品の判定不可が10枚((リ)部分)発生した。
図24に本実施例2における全1200枚の画像のスコア値SCの分布を示す。第2の閾値SL2=0.30の場合では、平均値AVE=0.11と標準偏差σ=0.106から推定不良率が約3.73%と計算される。なお、実際不良品検出率は4.83%(図23(ト)と(ヌ)部分)となっている。また、偽判定領域(図23(ヘ)と(リ)部分)が発生する結果となっている。
(実施例3)
次に実施例3として本願発明の第3の実施態様を例に説明する。第3の良否判定工程P8として、先ず、実施例1において良品判別モデルM1を使用して、全1200枚の画像の良否判定を行った後、良品として通過した良品画像G3の1159枚(図21の(イ)と(ハ)の部分の合計)に対して、上記良品及び不良品判定モデルM2を使用して追加で良否判定を行う2段階の良否判定を行った。
次に実施例3として本願発明の第3の実施態様を例に説明する。第3の良否判定工程P8として、先ず、実施例1において良品判別モデルM1を使用して、全1200枚の画像の良否判定を行った後、良品として通過した良品画像G3の1159枚(図21の(イ)と(ハ)の部分の合計)に対して、上記良品及び不良品判定モデルM2を使用して追加で良否判定を行う2段階の良否判定を行った。
図25にその結果の(a)分布グラフと(b)コンフュージョンマトリックスを示す。本実施例3では第1の閾値SL1=0.15、第2の閾値SL2=0.30が設定されている。この結果、実際の良品を良品として正しく判定したものは1159枚中1057枚((ル)部分)、実際の不良品を不良品として正しく判定したものは11枚((タ)部分)、実際の良品を不良品と誤判定したものは9枚((ワ)部分)、実際の不良品を良品と誤判定したものは1枚((カ)部分)となった。さらに、第1の閾値SL1=0.15と第2の閾値SL2=0.30の間は偽判定領域となっており、実際の不良品の画像の判定不可が3枚((ヨ)部分)発生した。
図26に本実施例3における1159枚の実施例1で良品とされた画像を追加検証したスコア値SCの分布を示す。実施例3においては、実施例1で良品として通過してしまった実際の不良品の15枚(図21の(ハ)の部分)の画像を、第2の閾値SL2=0.30で緩めに良否判定したとしても、誤判定で通過する枚数は4枚(図25(カ)と(ヨ)部分)と大幅に減少し、実際の不良品が不良品画像G4として11枚検出され正しく判定されている(図25(タ)部分)。すなわち、実施例1で誤判定となった15枚の内11枚は良品及び不良品判定モデルM2を使用した再判定で正しく不良品画像と判定されたこととなる。なお、実施例2の図24のグラフに対して平均値AVE=0.07、標準偏差σ=0.082と数値が小さくなった原因は、実施例2は全1200画像の結果であるが、実施例3は一旦実施例1で良品判定された画像の1159画像のみを使用して追加検証した結果のため数値が小さくなっている。
(実施例4)
最後に、実施例4として本願発明の第4の実施態様を例に説明する。実施例3では第3の良否判定工程P8は、良品判別モデルM1を使用して、全1200枚の画像の良否判定を行った後、良品として通過した良品画像G3の1159枚に対して、上記良品及び不良品判定モデルM2を使用して追加で良否判定を行う工程としたが、実施例4では、この良否判定工程の順番を逆としている。即ち、実施例2で良品及び不良品判定モデルM2を使用して、全1200枚の画像の良否判定を行った後、良品及び判定不可となった1142枚(図23の(ホ)、(ヘ)、(チ)、(リ)の部分の合計)の画像に対して、良品判別モデルM1を使用して、追加で良否判定を行った。
最後に、実施例4として本願発明の第4の実施態様を例に説明する。実施例3では第3の良否判定工程P8は、良品判別モデルM1を使用して、全1200枚の画像の良否判定を行った後、良品として通過した良品画像G3の1159枚に対して、上記良品及び不良品判定モデルM2を使用して追加で良否判定を行う工程としたが、実施例4では、この良否判定工程の順番を逆としている。即ち、実施例2で良品及び不良品判定モデルM2を使用して、全1200枚の画像の良否判定を行った後、良品及び判定不可となった1142枚(図23の(ホ)、(ヘ)、(チ)、(リ)の部分の合計)の画像に対して、良品判別モデルM1を使用して、追加で良否判定を行った。
図27にその結果の(a)分布グラフと(b)コンフュージョンマトリックスを示す。本実施例4では閾値SL=5.04が設定されている。この結果、実際の良品を良品として正しく判定したものは1142枚中1121枚((レ)部分)、実際の不良品を不良品として正しく判定したものは6枚((ネ)部分)、実際の良品を不良品と誤判定したものは6枚((ツ)部分)、実際の不良品を良品と誤判定したものは9枚((ソ)部分)となった。
以上、実施例1及び実施例2にて実際の不良品の50枚の不良画像を別々の判定モデルで判定した結果と、実施例3及び実施例4として、実施例1にて良品判定された画像及び実施例2にて良品判定/判定不可とされた画像を、それぞれ別の判定モデルで追加判定(2段階判定)した結果を表2に纏めた。
実施例1では実際の不良品画像の50枚は、誤判定(良品画像と判定)が15枚((ハ)部分)、正解判定(不良品画像と判定)35枚((ニ)部分)となった。
実施例2では、実際の不良品画像の50枚は、誤判定(良品画像と判定)が5枚((チ)部分)、正解判定(不良品画像と判定)35枚((ヌ)部分)、10枚((リ)部分)の画像は判定不可となった。
実施例3では、実際の不良品画像の50枚のうち実施例1で不良品画像と正しく判定された35枚((ニ)部分)を除いて、誤判定(良品画像と判定)した15枚((ハ)部分)の画像を、良品及び不良品判定モデルM2を使用して追加判定した結果が、誤判定(良品画像と判定)が1枚((カ)部分)、正解判定(不良品画像と判定)11枚((タ)部分)、3枚((ヨ)部分)の画像は判定不可となった。
実施例4では、実際の不良品画像の50枚のうち実施例2で不良品画像と正しく判定された35枚((ヌ)部分)を除いて、誤判定(良品画像と判定)及び判定不可の15枚((チ)と(リ)部分)の画像を、良品判定モデルM1を使用して追加判定した結果が、誤判定(良品画像と判定)が9枚((ソ)部分)、正解判定(不良品画像と判定)6枚((ネ)部分)となった。
実施例2では、実際の不良品画像の50枚は、誤判定(良品画像と判定)が5枚((チ)部分)、正解判定(不良品画像と判定)35枚((ヌ)部分)、10枚((リ)部分)の画像は判定不可となった。
実施例3では、実際の不良品画像の50枚のうち実施例1で不良品画像と正しく判定された35枚((ニ)部分)を除いて、誤判定(良品画像と判定)した15枚((ハ)部分)の画像を、良品及び不良品判定モデルM2を使用して追加判定した結果が、誤判定(良品画像と判定)が1枚((カ)部分)、正解判定(不良品画像と判定)11枚((タ)部分)、3枚((ヨ)部分)の画像は判定不可となった。
実施例4では、実際の不良品画像の50枚のうち実施例2で不良品画像と正しく判定された35枚((ヌ)部分)を除いて、誤判定(良品画像と判定)及び判定不可の15枚((チ)と(リ)部分)の画像を、良品判定モデルM1を使用して追加判定した結果が、誤判定(良品画像と判定)が9枚((ソ)部分)、正解判定(不良品画像と判定)6枚((ネ)部分)となった。
以上の結果から、表2の破線で囲む部分を参考に、実施例1では明らかな誤判定が15枚((ハ)部分)発生したが、実施例2では、明らかな誤判定が5枚((チ)部分)、実施例3では1枚((カ)部分)、実施例4では9枚((ソ)部分)まで減少する結果となった。なお、判定不可まで含めて誤判定とした表2の一点鎖線で囲む部分の場合でも、実施例2では15枚((チ)と(リ)部分)と変わらないが、実施例4では9枚((ソ)部分)となり、2段階で別の判定モデルを使用して良否判定をすることにより、一度良品判定されたボタン30の検査画像G2に対し、見落とされた不良品を検出排除できる効果があることがわかる。
特に実施例3では誤判定が4枚((カ)と(ヨ)の部分)まで減少しており、先ず実施例1で良品判定モデルM1を使用し第1の良否判定を実施し、比較的明瞭な見分け易い欠陥を簡単に検出した後、一度良品判定されたボタン30の検査画像G2に対し、良品及び不良品判定モデルM2を使用し、再度、第2の良否判定を実施することで、傷や低コントラストの汚れ、線状の亀裂や割れ目等の比較的不明瞭な見分け難い欠陥も検出でき、良品判定モデルM1を使用した第1の良否判定で見落とされた不良品を、良品及び不良品判定モデルM2を使用して追加で第2の良否判定を行うことで検出排除できる大きな効果があることがわかる。
特に実施例3では誤判定が4枚((カ)と(ヨ)の部分)まで減少しており、先ず実施例1で良品判定モデルM1を使用し第1の良否判定を実施し、比較的明瞭な見分け易い欠陥を簡単に検出した後、一度良品判定されたボタン30の検査画像G2に対し、良品及び不良品判定モデルM2を使用し、再度、第2の良否判定を実施することで、傷や低コントラストの汚れ、線状の亀裂や割れ目等の比較的不明瞭な見分け難い欠陥も検出でき、良品判定モデルM1を使用した第1の良否判定で見落とされた不良品を、良品及び不良品判定モデルM2を使用して追加で第2の良否判定を行うことで検出排除できる大きな効果があることがわかる。
また、実施例3では実際の良品画像を不良品画像と誤判定した結果が9枚(図25(ワ)の部分)発生したが、良品がはじかれるだけで、不良品が混入しないように安全サイドで考えると許容できるレベルとなった。なお、良品を不良品と誤判定した結果と、不良品を良品と誤判定した結果を併せて、不良品の混入リスクと良品の歩留まりを考慮しながら、何度か第2の閾値SL2を調整することで最適な良否判定が行える。
また、実施例1や実施例2のように目的に合わせて各実施態様に添って良否判定を行うことで、作業効率と判定の正確性を見ながら良否判定ができる。さらに、実施例3、実施例4のように2段階で良否判定を行うことで、一層判定確度の高い判定方法が適用できる。なお、実施例3では、良品判定モデルM1を使用し第1の良否判定を実施した後、一度良品判定されたボタン30の検査画像G2に対し、良品及び不良品判定モデルM2を使用し、再度第2の良否判定を実施したが、さらに別の良品及び不良品判定モデルM3を使用し追加で良否判定を実施する等、複数回実施しても構わない。
一般に被検査体(ボタン)30は、図4に示す様なベース31の底面31aや装飾面31bの面にも傷、打痕、凹凸や欠け、汚れ等の欠陥が存在する場合があり、透明部分の欠陥を検査する本検査方法だけでは十分ではない。そこで、本検査システムを利用し、照明ユニット20と撮像装置23の配置を変更し、底面31aや装飾面31bの反射光を撮像して、学習プログラム4で検査し良否判定することで、本システムの検査と併用して使用すれば、より効果的に検査が可能となる。尚、底面31aや装飾面31bの反射光を撮像の場合は、必ずしも被検査体30は回転する必要はない。
以上、本願発明の実施の形態や実施例に基づいて詳細に説明してきたが、実施形態はこれに限定されるものでなく、本願発明の要旨を逸脱することなく、その他種々の構成をとり得ることは勿論である。
1 :外観画像検査システム
2 :画像検査装置
3 :情報処理装置(コンピュータ)
4 :学習プログラム
5 :記憶部
10 :検査台
11:回転テーブル
12:検査治具
20、40:照明ユニット
21、41:照明装置
22:スリット板
22a:スリット溝
23:撮像装置
30 :被検査体(ボタン)
31 :ベース
31a:底面
31b:装飾面
32 :ボディー
32a:天面
42 :スリット板
42a:遮光部
43 :ケース
43a:取付面
44 :基板
45 :LED素子
S1:線状投射光
S2:反射光
S3:投影縞(ストライプ縞)
S4:撮像縞
S4a:暗部突起
S4b:歪曲部
P1:学習工程
P2:撮像工程
P3:良否判定工程
P4:良品学習工程
P5:第1の良否判定工程
P6:良品及び不良品学習工程
P7:第2の良否判定工程
P8:第3の良否判定工程
G1:撮像画像
G2:検査画像
G3:良品画像
G4:不良品画像
M:判定モデル
M1:良品判定モデル
M2:良品及び不良品判定モデル
SL:閾値
SL1:第1の閾値
SL2:第2の閾値
SC:スコア値
DE:欠陥
DM:欠陥マーク
GL:”良好“ラベル
BL:”不良“ラベル
GM:良品マーク
BM:不良品マーク
EM:エラーマーク
GA:良品領域
BA:不良品領域
CA1、CA2:交差領域
2 :画像検査装置
3 :情報処理装置(コンピュータ)
4 :学習プログラム
5 :記憶部
10 :検査台
11:回転テーブル
12:検査治具
20、40:照明ユニット
21、41:照明装置
22:スリット板
22a:スリット溝
23:撮像装置
30 :被検査体(ボタン)
31 :ベース
31a:底面
31b:装飾面
32 :ボディー
32a:天面
42 :スリット板
42a:遮光部
43 :ケース
43a:取付面
44 :基板
45 :LED素子
S1:線状投射光
S2:反射光
S3:投影縞(ストライプ縞)
S4:撮像縞
S4a:暗部突起
S4b:歪曲部
P1:学習工程
P2:撮像工程
P3:良否判定工程
P4:良品学習工程
P5:第1の良否判定工程
P6:良品及び不良品学習工程
P7:第2の良否判定工程
P8:第3の良否判定工程
G1:撮像画像
G2:検査画像
G3:良品画像
G4:不良品画像
M:判定モデル
M1:良品判定モデル
M2:良品及び不良品判定モデル
SL:閾値
SL1:第1の閾値
SL2:第2の閾値
SC:スコア値
DE:欠陥
DM:欠陥マーク
GL:”良好“ラベル
BL:”不良“ラベル
GM:良品マーク
BM:不良品マーク
EM:エラーマーク
GA:良品領域
BA:不良品領域
CA1、CA2:交差領域
Claims (6)
- 天面が光反射性を有する被検査体を載置し回転する検査台、
前記天面に帯状の線状投射光を照射する照明ユニット、
前記天面を挟んで前期照明ユニットと対抗するように配置され、前記天面に投影された前記線状投射光により形成されるストライプ縞の前期天面の表面での反射光のみを、一定の回転タイミングごとに撮像する撮像装置、
とを備える画像検査装置と、
前記反射光を、撮像縞を含む領域を画像として取り込んだ撮像画像から、予め機械学習し記憶してある判定モデルにより良否判定を行う情報処理装置と、
を具備する外観面の画像検査システム。 - 前記情報処理装置は、演算処理を行う演算処理部と、
前記撮像画像を機械学習し前記判定モデルを構築する学習プログラム部と、
該判定モデルを記憶する記憶部と、
を備え、前記学習プログラム部は、一定数の良品画像又は一定数の良品画像と一定数の不良品画像を機械学習し、前記判定モデルを構築することを特徴とする請求項1に記載の外観面の画像検査システム。 - 天面が光反射性を有する被検査体を載置し回転する検査台、
前記天面に帯状の線状投射光を照射する照明ユニット、
前記天面を挟んで前期照明ユニットと対抗するように配置され、前記天面に投影された線状投射光により形成されるストライプ縞の前期天面の表面での反射光のみを一定の回転タイミングごとに撮像する撮像装置、
とを備える画像検査装置と、
前記反射光を、撮像縞を含む領域を画像として取り込んだ撮像画像から、予め機械学習し記憶してある判定モデルにより良否判定を行う情報処理装置と、
を具備する画像検査システムを用い、
検査対象の前記被検査体を回転させながら前記撮像装置で一定の回転タイミングごとに前記撮像縞を含む領域を画像として撮像する撮像工程と、
前記撮像工程にて撮像した前記撮像画像を検査画像とし、予め機械学習し記憶してある前記判定モデルにより良否判定を行う良否判定工程と、
を備えた外観面の画像検査方法。 - 前記判定モデルは、予め良品とわかっている一定数の前記被検査体を、一定の回転タイミングごとに撮像した撮像画像に“良好”ラベルを付け、機械学習により前記学習プログラム部で判定モデルを構築し、良品判定モデルとしたことを特徴とする請求項3に記載の外観面の画像検査方法。
- 前記判定モデルは、予め良品とわかっている一定数の前記被検査体を、一定の回転タイミングごとに撮像した撮像画像に“良好”ラベルを付け、さらに、予め不良品とわかっている一定数の前記被検査体を、一定の回転タイミングごとに撮像した撮像画像の欠陥箇所にマーキングをし“不良”ラベルを付け、前記 “良好”ラベルを付けた撮像画像と 前記“不良”ラベルを付けた撮像画像から、機械学習により前記学習プログラム部で判定モデルを構築し、良品及び不良品判定モデルとしたことを特徴とする請求項3に記載の外観面の画像検査方法。
- 前記良否判定工程は、前記撮像工程にて撮像した前記検査画像を、前記良品判定モデルにより良否判定を行う第1の良否判定工程又は、
前記検査画像を前記良品及び不良品判定モデルにより良否判定を行う第2の良否判定工程の、少なくともいずれか一方を備えたことを特徴とする請求項4及び請求項5に記載の外観面の画像検査方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020209006A JP2022096093A (ja) | 2020-12-17 | 2020-12-17 | 外観面の画像検査システム及び画像検査方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020209006A JP2022096093A (ja) | 2020-12-17 | 2020-12-17 | 外観面の画像検査システム及び画像検査方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022096093A true JP2022096093A (ja) | 2022-06-29 |
Family
ID=82163782
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020209006A Pending JP2022096093A (ja) | 2020-12-17 | 2020-12-17 | 外観面の画像検査システム及び画像検査方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022096093A (ja) |
-
2020
- 2020-12-17 JP JP2020209006A patent/JP2022096093A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105069790B (zh) | 一种齿轮外观缺陷快速影像检测方法 | |
TWI484161B (zh) | 缺陷檢查系統及使用於該缺陷檢查系統之缺陷檢查用攝影裝置、缺陷檢查用畫像處理裝置、缺陷檢查用畫像處理程式、記錄媒體及缺陷檢查用畫像處理方法 | |
US6493079B1 (en) | System and method for machine vision analysis of an object using a reduced number of cameras | |
US20050007364A1 (en) | Method for sorting ununiformity of liquid crystal display panel sorting apparatus, and information recorded medium with recorded program for executing this sorting | |
Eshkevari et al. | Automatic dimensional defect detection for glass vials based on machine vision: A heuristic segmentation method | |
JP6134383B2 (ja) | 可視パターンを有する透明な又は半透明な容器を検査するための光学的方法 | |
US7599050B2 (en) | Surface defect inspecting method and device | |
JP2000180382A (ja) | 外観検査装置 | |
CN113192013A (zh) | 一种反光表面缺陷检测方法、系统及电子设备 | |
US20120133761A1 (en) | Uneven area inspection system | |
JP2020201158A (ja) | 立体物の外観検査装置および立体物の外観検査方法 | |
EP1563271B1 (en) | Automated inspection of tinted ophthalmic parts | |
JP7098111B2 (ja) | 表面検査装置および表面検査方法 | |
CN111103309A (zh) | 用于检测透明材质物体瑕疵的方法 | |
JPH06201611A (ja) | シート状印刷物の欠陥検出方法 | |
JP2022096093A (ja) | 外観面の画像検査システム及び画像検査方法 | |
TW201736832A (zh) | 檢查方法、檢查系統及製造方法 | |
CN111833350A (zh) | 机器视觉检测方法与系统 | |
JP6699694B2 (ja) | 検査システム、検査方法 | |
JP5995600B2 (ja) | 遊戯盤の検査装置および検査方法 | |
JP5959430B2 (ja) | ボトルキャップの外観検査装置及び外観検査方法 | |
KR20230139166A (ko) | 목재 제품의 불량 검사 방법 | |
JPH04223262A (ja) | 蛍光磁粉探傷における画像処理方法 | |
TWI447382B (zh) | Wood inspection methods and apparatus and program | |
JP2010008125A (ja) | ガラス基板内の気泡選別処理法 |