JP7483135B2 - 外観検査装置、および外観検査方法 - Google Patents

外観検査装置、および外観検査方法 Download PDF

Info

Publication number
JP7483135B2
JP7483135B2 JP2023525357A JP2023525357A JP7483135B2 JP 7483135 B2 JP7483135 B2 JP 7483135B2 JP 2023525357 A JP2023525357 A JP 2023525357A JP 2023525357 A JP2023525357 A JP 2023525357A JP 7483135 B2 JP7483135 B2 JP 7483135B2
Authority
JP
Japan
Prior art keywords
inspected
image
filter
camera
filter image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023525357A
Other languages
English (en)
Other versions
JPWO2022254747A1 (ja
Inventor
幸博 徳
悠一郎 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2022254747A1 publication Critical patent/JPWO2022254747A1/ja
Application granted granted Critical
Publication of JP7483135B2 publication Critical patent/JP7483135B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本開示は、外観検査装置、外観検査方法、学習装置および推論装置に関する。
工業製品の表面に凹凸、傷、汚れ、または異物が存在すると、工業製品の性能劣化を引き起こすため、検査によりこれらの不良品を取り除く必要がある。近年、製品の多品種化および大量生産によって、作業者の負担増加および検査時間の増加が発生しているため、検査工程の自動化が試みられている。
例えば、特許文献1の検査装置は、ワークWの表面に対してA色の照射光L1,LA1とB色の照射光LB1と、C色の照射光LC1とを照射し、ワークWからの反射光を分光して、A色画像、B色画像、およびC色画像を同時に生成する。A色画像はB色画像(あるいはC色画像)に比べて、ワークWの欠陥に対応する部分と、その周囲との明るさの差が小さい。特許文献1の検査装置は、2つの画像を比較することによって、ワークWの欠陥のみを2つの画像の相違点として抽出する。
特開2008-64715号公報
しかしながら、特許文献1に記載の検査装置は、検出したい異物が被検査物体の表面に埋め込まれているか、あるいは被検査物体の表面上に付着しているだけかを判別することはできない。
それゆえに、本開示の目的は、被検査物体の表面に埋め込まれた金属異物のみを検出することができる外観検査装置、外観検査方法、学習装置および推論装置を提供することである。
本開示の外観検査装置は、NDフィルタを有し、被検査物体の表面を撮影して、NDフィルタ画像を生成する第1のカメラと、PLフィルタを有し、被検査物体の表面を撮影して、PLフィルタ画像を生成する第2のカメラと、NDフィルタ画像とPLフィルタ画像との差分画像に基づいて、被検査物体の表面に埋め込まれた金属異物の有無を検査する制御装置とを備える。
本開示の外観検査方法は、NDフィルタを有する第1のカメラが、被検査物体の表面を撮影して、NDフィルタ画像を生成するステップと、PLフィルタを有する第2のカメラが、被検査物体の表面を撮影して、PLフィルタ画像を生成するステップと、制御装置が、NDフィルタ画像とPLフィルタ画像との差分画像に基づいて、被検査物体の表面に埋め込まれた金属異物の有無を検査するステップとを備える。
本開示の学習装置は、表面に埋め込まれた金属異物が存在しない被検査物体を良品とし、良品の表面を撮影して得られる良品のNDフィルタ画像を含む学習用データを取得するデータ取得部と、学習用データを用いて、良品のNDフィルタ画像から、良品のNDフィルタ画像を再構成する学習済モデルを生成するモデル生成部とを備える。
本開示の推論装置は、被検査物体の表面を撮影して得られる被検査物体のNDフィルタ画像を取得するデータ取得部と、表面に埋め込まれた金属異物が存在しない被検査物体を良品とし、良品の表面を撮影して得られる良品のNDフィルタ画像から、良品のNDフィルタ画像を再構成する学習済モデルを用いて、データ取得部で取得した被検査物体のNDフィルタ画像から、被検査物体のNDフィルタ画像を再構成する推論部とを備える。
本開示の学習装置は、被検査物体の表面を撮影して得られる被検査物体のNDフィルタ画像と被検査物体の表面に埋め込まれた金属異物が存在するか否かを表わす識別データとを含む学習用データを取得するデータ取得部と、学習用データを用いて、被検査物体の表面を撮影して得られる被検査物体のNDフィルタ画像から被検査物体の表面に埋め込まれた金属異物が存在するか否かを識別する学習済モデルを生成するモデル生成部と備える。
本開示の推論装置は、被検査物体の表面を撮影して得られる被検査物体のNDフィルタ画像を取得するデータ取得部と、被検査物体の表面を撮影して得られる被検査物体のNDフィルタ画像から被検査物体の表面に埋め込まれた金属異物が存在するか否かを推論するための学習済モデルを用いて、データ取得部で取得した被検査物体のNDフィルタ画像から、被検査物体の表面に金属異物が存在するか否かを推論する推論部とを備える。
本開示の外観検査装置は、NDフィルタ画像とPLフィルタ画像との差分画像に基づいて、被検査物体の表面に埋め込まれた金属異物の有無を検査する。これによって、本開示の外観検査装置は、被検査物体の表面に埋め込まれた金属異物のみを検出することができる。
実施の形態1の外観検査装置の構成を表わす図である。 実施の形態1に係る検査装置による検査処理の手順を表わすフローチャートである。 実施の形態1によるNDフィルタ画像とPLフィルタ画像との差分処理を説明するための図である。 実施の形態2の外観検査装置の構成を表わす図である。 ニューラルネットワークの構成を表わす図である。 実施の形態2の学習装置101の学習処理に関するフローチャートである。 実施の形態2の推論装置105の推論処理に関するフローチャートである。 実施の形態3の外観検査装置の構成を表わす図である。 実施の形態3の学習装置101Aの学習処理に関するフローチャートである。 実施の形態3の推論装置105Aの推論処理に関するフローチャートである。 実施の形態4の外観検査装置の構成を表わす図である。 実施の形態4に係る検査装置による検査処理の手順を表わすフローチャートである。 検査範囲を説明するための図である。 制御装置20、200、200Aのハードウェア構成を表わす図である。
以下、実施の形態について、図面を参照して説明する。図示される実施形態の構成要素は、実施の形態の理解を助けるために寸法が適宜変更されている。また、同一または対応する構成要素には、同一の参照符号が付されている。
実施の形態1.
図1は、実施の形態1の外観検査装置の構成を表わす図である。
外観検査装置は、被検査物体8の表面における異物を検査する。被検査物体8は、その表面で光の正反射が生じる物体であれば特に限定されない。正反射では、照射された光の入射角と反射角とが等しい。拡散光は、あらゆる方向に拡散して反射する光である。
被検査物体8は、たとえば表面がエポキシ樹脂によりコーティングされたプラスチック成型品である。被検査物体8の表面(被検査面)は平面でも曲面でもよい。
外観検査装置が検出可能な異物は、金属異物および浮遊異物である。金属異物は、被検査物体8の表面に埋め込まれてフラット形状を有する物体である。浮遊異物は、被検査物体8の表面に付着している凹凸を有する物体である。たとえば、金属異物には、銅、およびアルミ等が含まれる。浮遊異物には、たとえば埃、および繊維異物等が含まれる。
外観検査装置は、照明部61と、ビームスプリッタ4と、第1のカメラ1と、第2のカメラ51と、モータ6と、駆動軸7と、治具9と、電源装置10と、偏光板11と、制御装置20とを備える。
照明部61は、被検査物体8を撮影するときの明るさを調整する。照明部61は、被検査物体8に対して、特定の偏光角度成分のみを有する照射光L1を照射する。照明部61は、照明装置5と、偏光板11とを備える。照明装置5は、光を照射する。偏光板11は、照明装置5から照射される光の成分のうち、特定の偏光角度成分だけを有する光だけを出射する。特定の偏光角度成分だけを有する照射光L1が被検査物体8に照射される。照射光L1が被検査物体8に入射すると、正反射の反射光LA1が発生し、ビームスプリッタ4に入射する。
ビームスプリッタ4は、2個の直角プリズムによって構成されたキューブ型ビームスプリッタである。ビームスプリッタ4は、照射光L1が正反射する方向に配置される。ビームスプリッタ4は、入射光を定められた分割比で2つの光に分割する。ビームスプリッタ4に入射した反射光LA1は、反射光LA2と反射光LA3とに分岐される。反射光LA2は、第1のカメラ1に入射される。反射光LA3は、第2のカメラ51に入射される。
第1のカメラ1および第2のカメラ51は、被検査物体8の表面を撮影するためのモノクロカメラである。第1のカメラ1および第2のカメラ51は、被検査物体8の表面を同時に撮影する。
第1のカメラ1は、照射光L1の正反射方向から被検査物体8の表面を撮影する。第1のカメラ1は、反射光LA2を受けて被検査物体8を撮影し、被検査物体8の画像を生成する。第1のカメラ1は、レンズ2と、レンズ2が装着されたND(Neutral Density)フィルタ3とを含む。
NDフィルタ3は、「中性濃度フィルタ」とも呼ばれ、所定の波長帯の全域において、光量を一定量だけ低下させる。NDフィルタ3を通過した光によって生成される画像をNDフィルタ画像と呼ぶことにする。NDフィルタ3を通過する光は、被検査物体8の表面に埋め込まれたフラットな金属異物から反射された光と、浮遊異物から反射された光とを含む。レンズ2は、NDフィルタ3を通過した光を集光して、1点に像を結ぶ。以上のようにして、NDフィルタ3を有する第1のカメラ1は、被検査物体8の表面を撮影して、NDフィルタ画像を生成する。NDフィルタ画像は、被検査物体8の表面に存在する埋め込まれたフラットな金属異物から反射された光と浮遊異物から反射された光とによって生成される。
第2のカメラ51は、照射光L1の正反射方向と垂直な方向から被検査物体8の表面を撮影する。第2のカメラ51は、反射光LA3を受けて被検査物体8を撮影し、被検査物体8の画像を生成する。第2のカメラ51は、レンズ52と、レンズ52が装着されたPL(Polarized Light)フィルタ53とを含む。
PLフィルタ53は、「偏光フィルタ」とも呼ばれ、偏光膜を利用したレンズフィルタである。偏光フィルタは、2枚のガラスの間に偏光膜をサンドイッチした構造を有し、偏光膜の向きを回転させるための回転枠構造を備える。PLフィルタ53の偏光膜の方向は、被検査物体8の表面に埋め込まれる金属異物からの反射光の偏光方向と垂直方向になるように装着されている。レンズ52は、PLフィルタ53を通過した光を集光して、1点に像を結ぶ。PLフィルタ53を通過した光によって生成される画像をPLフィルタ画像と呼ぶことにする。
一般的に、金属のような光沢表面では、入射光の偏光特性と反射光の偏光特性とが、そのまま保存される。微小な散乱粒子を有する埃および繊維異物からの反射光は、無偏光になることが知られている。レンズ52に集光される光の偏光方向は、金属異物の反射光に対して垂直方向のため、被検査物体8の表面に埋め込まれたフラット形状の金属異物が存在すると、その部分が暗く見える。これに対して、被検査物体8の表面に凹凸を有する浮遊異物が存在すると、その部分が明るく見える。PLフィルタ53を透過する光は、浮遊異物から反射された光のみを含む。以上のようにして、PLフィルタ53を有する第2のカメラ51は、被検査物体8の表面を撮影して、PLフィルタ画像を生成する。PLフィルタ画像は、浮遊異物から反射された光のみによって生成される。
被検査物体8の表面に金属異物と浮遊異物とが存在している場合には、NDフィルタ画像では、金属異物と浮遊異物とが明るく強調され、PLフィルタ画像では、浮遊異物のみが明るく強調される。したがって、NDフィルタ画像とPLフィルタ画像との差分画像から、金属異物だけを検査できる。本実施の形態では、NDフィルタ画像とPLフィルタ画像とを同時に生成できるので、別々に画像を生成する場合と比較して、検査に要する時間を短縮できる。
モータ6は、電気エネルギーを力学的エネルギーに変換する。本実施形態においては、モータ6に直流のパルス電圧が印加されると、モータ6は、回転運動を出力する。
駆動軸7は、モータ6の回転駆動力を被検査物体8に伝える。
治具9は、被検査物体8を載置する。
電源装置10は、照明装置5に電源電圧を供給する。
制御装置20は、演算機能を有する。制御装置20は、例えば、パーソナルコンピュータ、マイコンボード、またはFPGA(Field Programmable Gate Array)ボードなどにより構成することができる。制御装置20は、カメラ制御部21、検査処理部22、照明制御部23、およびモータ制御部24を備える。
カメラ制御部21は、第1のカメラ1および第2のカメラ51を制御する。カメラ制御部21は、第1のカメラ1と第2のカメラ51とに対してトリガ信号を送ることにより、第1のカメラ1と第2のカメラ51に被検査物体8を撮像させる。
検査処理部22は、第1のカメラ1によって生成されたNDフィルタ画像、および第2のカメラ51によって生成されたPLフィルタ画像に対して画像変換、変形、および特徴量抽出などを行なう。検査処理部22は、NDフィルタ画像とPLフィルタ画像との差分画像に基づいて、被検査物体8の表面に埋め込まれた金属異物の有無を検査する。検査処理部22は、差分画像における2値化しきい値以上の値を有する連結された画素からなる領域の面積の大きさに基づいて、被検査物体8の表面に埋め込まれた金属異物の有無を検査する。
照明制御部23は、照明部61を制御する。照明制御部23は、照明装置5と電源装置10とに接続される。照明制御部23は、照明装置5の点灯および消灯を行なうだけでなく、照明装置5の光の強度を制御する。
モータ制御部24は、モータ6を制御する。モータ制御部24は、モータ6に対して位置、および速度を伝達し、位置決め完了信号を受信する。モータ制御部24は、パルス信号によってモータ6の回転角度と回転速度とを制御する。モータ6は、一般的なステッピングモータまたはサーボモータでよい。モータ制御部24は、パルス信号を出力する。パルス信号のON/OFFのサイクルを1パルスとし、1パルスが出力される1ステップ角度だけが駆動軸7が回転する。
カメラ制御部21から出力されるトリガ信号と、照明制御部23から出力される点灯および消灯信号と、モータ制御部24から出力されるパルス信号とを同期させることによって、1ステップ角度毎に画像が生成される。
図2は、実施の形態1に係る検査装置による検査処理の手順を表わすフローチャートである。
ステップA1において、照明制御部23は、照明装置5を点灯させる。
ステップA2において、カメラ制御部21は、第1のカメラ1と第2のカメラ51とに撮像指示を送る。これにより、被検査物体8の表面において、NDフィルタ画像とPLフィルタ画像とが生成される。
ステップA3において、検査処理部22は、NDフィルタ画像からPLフィルタ画像を減算することによって、NDフィルタ画像とPLフィルタ画像との差分画像を生成する。具体的には、検査処理部22は、NDフィルタ画像の画素値からPLフィルタ画像の画素値を減算した値を差分画像の画素値とする。
ステップA4において、検査処理部22は、予め定められた2値化しきい値を用いて、差分画像の画素値を2値化することによって、2値化画像を生成する。検査処理部22は、差分画像の画素の値が2値化しきい以上の場合には、その画素の値を「1」とし、差分画像の画素の値が2値化しきい未満の場合には、その画素の値を「0」とする。
ステップA5において、検査処理部22は、2値化画像をラベリングする。ここでラベリングとは、連結している画素に同じラベル「1」を付加することによって、複数の領域をグループとして分類する処理であり、画像処理において公知の技術である。
ステップA6において、検査処理部22は、「1」のラベルが付加された複数の画素によって形成される領域毎に、その領域の面積を計測する。面積が閾値以上の領域が存在するときには、処理がステップA8に進む。面積が閾値以上の領域が存在しないときには、処理がステップA7に進む。
ステップA7において、検査処理部22は、被検査物体8の表面に埋め込まれた金属異物が存在しないと判定する。
ステップA8において、検査処理部22は、被検査物体8の表面に埋め込まれた金属異物が存在すると判定する。
図3は、実施の形態1によるNDフィルタ画像とPLフィルタ画像との差分処理を説明するための図である。
NDフィルタ画像300では、金属異物FW1と浮遊異物FW2とが抽出されている。PLフィルタ画像301では、浮遊異物FW2が抽出されている。
NDフィルタ画像300からPLフィルタ画像301を減算すると、差分画像302が生成される。差分画像302では、金属異物FW1のみが抽出される。
以上のように、本実施の形態によれば、NDフィルタ画像とPLフィルタ画像との差分画像を用いることによって、被検査物体の表面に埋め込まれた金属異物のみを検出することができる。
実施の形態2.
図4は、実施の形態2の外観検査装置の構成を表わす図である。
実施の形態2の外見検査装置は、実施の形態1の制御装置20と相違する制御装置200を備える。
制御装置200は、学習装置101と、学習済モデル記憶部109と、推論装置105と、検査部108とを備える。
学習装置101は、データ取得部102と、モデル生成部103とを備える。
データ取得部102は、表面に埋め込まれた金属異物が存在しない被検査物体(以下、良品)の表面を撮影して得られ得る良品のNDフィルタ画像を学習用データとして取得する。このNDフィルタ画像は、実施の形態1と同様に、第1のカメラ1によって生成することができる。
モデル生成部103は、学習用データを用いて、良品のNDフィルタ画像から良品のNDフィルタ画像を再構成する学習済モデル104を生成する(良品学習)。
モデル生成部103が用いる学習アルゴリズムとして、教師あり学習、教師なし学習、または強化学習等の公知のアルゴリズムを用いることができる。一例として、ニューラルネットワークを適用した場合について説明する。
モデル生成部103は、例えば、ニューラルネットワークモデルに従って、いわゆる教師なし学習により、良品学習を実行する。ここで、教師なし学習とは、入力に対して結果(ラベル)のデータ組みを紐づけず、良品のNDフィルタ画像だけを学習装置101に与え、良品のNDフィルタ画像の特徴を学習して、良品のNDフィルタ画像から良品のNDフィルタ画像を再構成する学習済みモデルを生成する手法を言う。なお、教師あり学習とは、入力と結果(ラベル)のデータの組を学習装置に与えることで、それらの学習用データにある特徴を学習し、入力から複数の結果(ラベル)の中から、スコアの高い結果(ラベル)を推論する手法をいう。
図5は、ニューラルネットワークの構成を表わす図である。
ニューラルネットワークは、複数のニューロンからなる入力層、複数のニューロンからなる中間層(隠れ層)、及び複数のニューロンからなる出力層によって構成される。中間層は、1層、又は2層以上でもよい。
例えば、図5に示すような3層のニューラルネットワークであれば、複数の入力が入力層(X1~X3)に入力されると、その値に重みW1(w11~w16)を乗算して中間層(Y1~Y2)に入力され、その結果にさらに重みW2(w21~w26)を乗算して出力層(Z1~Z3)から出力される。この出力結果は、重みW1とW2との値によって変わる。
本願において、ニューラルネットワークは、データ取得部102によって取得された良品のNDフィルタ画像に従って、いわゆる教師なし学習により、良品のNDフィルタ画像の特徴を学習する。すなわち、入力層に良品のNDフィルタ画像を入力して出力層から出力される再構成画像が、入力層に入力された良品のNDフィルタ画像に近づくように重みW1とW2とを調整することで学習する。
モデル生成部103に用いられる学習アルゴリズムとしては、特徴量そのものを抽出できるように学習する、深層学習(Deep Learning)、例えば畳み込み処理(Convolution Neural Network)に従って実行してもよい。モデル生成部103に用いられる学習アルゴリズムとして、オートエンコーダを用いることができる。オートエンコーダは、入力データである良品のNDフィルタ画像から特徴量を抽出するエンコーダと、特徴量から良品のNDフィルタ画像を再構成するデコーダとを備える。エンコーダは、ニューラルネットワークの入力層と中間層とによって構成され、デコーダは、ニューラルネットワークの中間層と出力層とによって構成される。さらに、他の公知の方法、例えば遺伝的プログラミング、機能論理プログラミング、またはサポートベクターマシンなどに従って機械学習を実行してもよい。
モデル生成部103は、以上のような学習を実行することで学習済モデルを生成し、出力する。
学習済モデル記憶部109は、モデル生成部103から出力された学習済モデル104を記憶する。
次に、学習装置101による学習手順について説明する。図6は、実施の形態2の学習装置101の学習処理に関するフローチャートである。
ステップa1において、表面に埋め込まれた金属異物が存在しない被検査物体(以下、良品)の表面を撮影して得られ得る良品のNDフィルタ画像を学習用データとして取得する。また、前処理として、良品のNDフィルタ画像に画像処理を施すことによって得られた被検査物体8の特徴量を表わす画像を良品画像として入力するものとしてもよい。前処理として実施する画像処理は、一例として公知のアルゴリズム、例えば輝度二値化または正規化などを用いることができる。
ステップa2において、モデル生成部103は、データ取得部102によって取得された学習用データを用いて、いわゆる教師なし学習により、良品のNDフィルタ画像から良品のNDフィルタ画像を再構成する学習済モデル104を生成する。
ステップa3において、学習済モデル記憶部109は、モデル生成部103が生成した学習済モデル104を記憶する。
図4に示すように、推論装置105は、データ取得部106と、推論部107とを備える。
データ取得部106は、被検査物体8の表面を撮影して得られる被検査物体8のNDフィルタ画像を取得する。このNDフィルタ画像は、実施の形態1と同様に、第1のカメラ1によって生成することができる。
推論部107は、学習済モデル記憶部109に記憶されている良品のNDフィルタ画像から良品のNDフィルタ画像を再構成する学習済モデル104を用いて、データ取得部106で取得した被検査物体8のNDフィルタ画像から被検査物体8のNDフィルタ画像を再構成する。すなわち、この学習済モデルにデータ取得部106で取得した被検査物体8のNDフィルタ画像を入力することで、被検査物体8のNDフィルタ画像の再構成画像を生成することができる。
被検査物体8が良品の場合には、推論部107によって生成された再構成画像は、データ取得部106で取得し、オートエンコーダに入力された被検査物体のNDフィルタ画像(良品画像)に近い画像となり、再構成が適切に行われる。被検査物体8が良品でない場合には、推論部107によって生成された再構成画像は、データ取得部106で取得し、オートエンコーダに入力された被検査物体のNDフィルタ画像に近い画像とはならず、再構成が適切に行われない。なぜなら、学習済みモデルは、良品のNDフィルタ画像から良品のNDフィルタ画像を再構成するように学習されたものだからである。
図4に示す検査部108は、推論部107から出力される被検査物体8の再構成画像と、推論部107に入力した被検査物体8のNDフィルタ画像とを比較することによって、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを検査する。比較手法の一例として、例えばZscoreまたはパターンマッチングなどの公知のアルゴリズムを用いることができる。
次に、推論装置105による推論手順について説明する。図7は、実施の形態2の推論装置105の推論処理に関するフローチャートである。
ステップb1において、データ取得部106は、被検査物体8のNDフィルタ画像を取得する。
ステップb2において、推論部107は、学習済モデル記憶部109に記憶された学習済モデル104に、データ取得部106が取得した被検査物体8のNDフィルタ画像を入力し、再構成画像を得る。
ステップb3において、推論部107は、得られた再構成画像を検査部108に出力する。
ステップb4において、検査部108は、データ取得部106が取得した被検査物体8のNDフィルタ画像と再構成画像とを比較する。検査部108は、パターンマッチングなどによって、2つの画像が類似していると判断したときには、被検査物体8の表面に埋め込まれた金属異物が存在しないと判定することができる。検査部108は、パターンマッチングなどによって、2つの画像が類似していないと判断したときに、被検査物体8の表面に埋め込まれた金属異物が存在すると判定することができる。
なお、本実施の形態では、モデル生成部103が用いる学習アルゴリズムに教師なし学習を適用した場合について説明したが、これに限られるものではない。学習アルゴリズムについては、教師なし学習以外にも、強化学習、教師あり学習、または半教師あり学習等を適用することも可能である。
モデル生成部103は、形状が類似した複数の樹脂成型品の良品の被検査物体8のNDフィルタ画像を学習用データとして用いて、良品学習を実行してもよい。学習用データを収集する樹脂成型品の良品の被検査物体8を途中で対象のモデルとして追加すること、および対象のモデルから除去することも可能である。さらに、ある樹脂成型品の良品の被検査物体8のNDフィルタ画像を用いて良品学習を実行して得られる学習済みモデルに、さらに別の樹脂成型品の良品の被検査物体8のNDフィルタ画像を用いて良品学習を再度実行するようにしてもよい。
以上のように、本実施の形態によれば、被検査物体のNDフィルタ画像を推論装置105に入力するだけで、被検査物体8の良否、すなわち表面に埋め込まれた金属異物の有無を判定することができる。
実施の形態3.
図8は、実施の形態3の外観検査装置の構成を表わす図である。
実施の形態3の外観検査装置は、実施の形態2の制御装置200と相違する制御装置200Aを備える。
制御装置200Aは、学習装置101、推論装置105、学習済モデル記憶部109、および検査部108に代えて、学習装置101A、推論装置105A、学習済モデル記憶部109A、および表示部120を備える。
学習装置101Aは、データ取得部102Aと、モデル生成部103Aとを備える。
データ取得部102Aは、被検査物体8の表面を撮影して得られる被検査物体8のNDフィルタ画像と、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを表わす識別データとを学習用データとして取得する。
モデル生成部103Aは、学習用データを用いて、被検査物体8の表面を撮影して得られる被検査物体8のNDフィルタ画像から被検査物体8の表面に埋め込まれた金属異物が存在するか否かを識別する学習済モデル104Aを生成する。
モデル生成部103Aが用いる学習アルゴリズムは、教師あり学習、教師なし学習、または強化学習等の公知のアルゴリズムを用いることができる。一例として、ニューラルネットワークを適用した場合について説明する。
モデル生成部103Aは、例えば、ニューラルネットワークモデルに従って、いわゆる教師あり学習により、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを学習する。ここで、教師あり学習とは、入力と結果(ラベル)のデータの組を学習装置101Aに与えることで、それらの学習用データにある特徴を学習し、入力から結果を推論する手法をいう。
本願において、ニューラルネットワークは、データ取得部102Aによって取得される被検査物体8のNDフィルタ画像と、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを表わす識別データとを含む学習用データを用いて、いわゆる教師あり学習により、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを学習する。
すなわち、ニューラルネットワークは、入力層にNDフィルタ画像を入力して出力層から出力された結果が、識別データ(正解)に近づくように重みW1とW2とを調整することで学習する。
モデル生成部103Aは、以上のような学習を実行することで学習済モデル104Aを生成し、出力する。
学習済モデル記憶部109Aは、モデル生成部103Aから出力された学習済モデル104Aを記憶する。
次に、学習装置101Aによる学習手順について説明する。図9は、実施の形態3の学習装置101Aの学習処理に関するフローチャートである。
ステップc1において、データ取得部102Aは、被検査物体8を撮影して得られる被検査物体8のNDフィルタ画像と、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを表わす識別データ(正解)との組み合わせを含む学習用データを取得する。
ステップc2において、モデル生成部103Aは、データ取得部102Aで取得した学習用データに基づいて、いわゆる教師あり学習により、被検査物体8のNDフィルタ画像から被検査物体8の表面に埋め込まれた金属異物が存在するか否かを識別する学習済モデル104Aを生成する。
ステップc3において、学習済モデル記憶部109Aは、モデル生成部103Aが生成した学習済モデル104Aを記憶する。
図8の推論装置105Aは、データ取得部106Aと、推論部107Aとを備える。
データ取得部106Aは、被検査物体8の表面を撮影して得られる被検査物体8のNDフィルタ画像を取得する。
推論部107Aは、学習済モデル記憶部109Aに記憶されている学習済モデル104Aを利用して、データ取得部106Aで取得した被検査物体8のNDフィルタ画像から被検査物体8の表面に金属異物が存在するか否かを推論する。すなわち、この学習済モデルにデータ取得部106Aで取得した被検査物体8のNDフィルタ画像を入力することで、このNDフィルタ画像から推論される被検査物体8の表面に埋め込まれた金属異物が存在するか否かを識別する識別データを出力することができる。
次に、推論装置105Aによる推論手順について説明する。図10は、実施の形態3の推論装置105Aの推論処理に関するフローチャートである。
ステップd1において、データ取得部106Aは、被検査物体8の表面を撮影することによって得られる被検査物体8のNDフィルタ画像を取得する。
ステップd2において、推論部107Aは、学習済モデル記憶部109Aに記憶された学習済モデル104Aにデータ取得部106Aで取得した被検査物体8のNDフィルタ画像を入力し、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを識別する識別データを得る。
ステップd3において、推論部107Aは、得られた識別データを表示部120に出力する。
ステップd4において、表示部120は、被検査物体8の表面に埋め込まれた金属異物が存在するか否かを表わす情報を表示することができる。
以上のように、本実施の形態によれば、被検査物体のNDフィルタ画像を推論装置105Aに入力するだけで、被検査物体8の良否、すなわち表面に埋め込まれた金属異物の有無を判定することができる。
実施の形態4.
図11は、実施の形態4の外観検査装置の構成を表わす図である。
実施の形態4の外観検査装置が、実施の形態1の外観検査装置と相違する点は、実施の形態4の外観検査装置が、照明部61に代えて照明部61Aを備える点である。
照明部61Aは、被検査物体8を撮影するときの明るさを調整する。照明部61Aは、被検査物体8に対して、特定の偏光角度成分のみを有する照明光L1および照射光L2を照射する。照明部61Aは、照明部61と同様に、照明装置5と偏光板11とを備える。照明部61Aは、さらに、照明装置54と偏光板55とを備える。照明装置54は、光を照射する。偏光板55は、照明装置54から照射される光の成分のうち、特定の偏光角度成分だけを有する照射光L2だけを出射する。特定の偏光角度成分だけを有する照射光L2が被検査物体8に射される。
照射光L1と照射光L2とが被検査物体8に入射すると、拡散反射の反射光LB1が発生し、ビームスプリッタ4に入射する。
ビームスプリッタ4は、2個の直角プリズムによって構成されたキューブ型ビームスプリッタである。ビームスプリッタ4は、反射光LB1が入射する方向に配置される。ビームスプリッタ4は、入射光を定められた分割比で2つの光に分割する。ビームスプリッタ4に入射した反射光LB1は、反射光LB2と反射光LB3とに分岐される。反射光LB2は、第1のカメラ1に入射される。反射光LB3は、第2のカメラ51に入射される。
第1のカメラ1は、実施の形態1と異なる位置に配置している。
第1のカメラ1は、被検査物体8の法線方向から被検査物体8の表面を撮影する。第1のカメラ1と第2のカメラ51との位置関係は、実施の形態1と同様である。したがって、第1のカメラ1が移動したことにより、第2のカメラ51もオフセットした位置に配置している。
図12は、実施の形態4に係る検査装置による検査処理の手順を表わすフローチャートである。
本フローチャートは、実施の形態1の図2で示した内容に検査範囲を動的に設定する処理が加えられている。
ステップB1において、照明制御部23は、照明装置5と照明装置54とを点灯させる。
ステップB2において、カメラ制御部21は、第1のカメラ1と第2のカメラ51とに撮像指示を送る。これにより、被検査物体8の表面において、NDフィルタ画像とPLフィルタ画像とが生成される。
ステップB3において、検査範囲が設定される。
図13は、検査範囲を説明するための図である。NDフィルタ画像400は、被検査物体401の撮影画像を含む。被検査物体401には、照明装置5と照明装置54とから照射された光が正反射する範囲がある。正反射する範囲が矩形402と矩形403とで示されている。照明装置5と照明装置54との照度は、あらかじめ正反射する範囲の輝度値が255(最大値)の光量で第1のカメラ1に入力されるように設定されている。検査処理部22は、輝度値が255になる範囲、すなわち矩形402と矩形403を検出し、矩形402と矩形403とで挟まれた隙間を検査範囲として設定する。金属異物が、正反射する範囲に埋め込まれていた場合、金属異物も輝度値255になり、金属異物を検出できない課題があったが、正反射する範囲を除いたところを検査範囲とすることによって、その課題が解決される。
矩形402と矩形403とで挟まれた範囲の表面に埋め込まれたフラット形状の金属異物が存在すると、金属異物から正反射光と拡散反射光とが同時に生成される。また、浮遊異物においては拡散反射光のみが生成される。
ステップB4において、検査処理部22は、NDフィルタ画像からPLフィルタ画像を減算することによって、NDフィルタ画像とPLフィルタ画像との差分画像を生成する。NDフィルタ3を透過する光は、金属異物からの正反射光と拡散反射光と、浮遊異物からの拡散反射光とを含むため、NDフィルタ画像では、金属異物と浮遊異物とが明るく強調され、PLフィルタ画像でも金属異物と浮遊異物とが明るく強調されるが、PLフィルタ53を透過する光は、金属異物からの拡散反射光のみを含むため、PLフィルタ画像の金属異物の明るさは、NDフィルタ画像の金属異物の明るさに対して暗くなっている。したがって、NDフィルタ画像とPLフィルタ画像との差分画像から、金属異物だけを検査できる。具体的には、検査処理部22は、NDフィルタ画像の画素値からPLフィルタ画像の画素値を減算した値を差分画像の画素値とする。
ステップB5において、検査処理部22は、予め定められた2値化しきい値を用いて、差分画像の画素値を2値化することによって、2値化画像を生成する。検査処理部22は、差分画像の画素の値が2値化しきい以上の場合には、その画素の値を「1」とし、差分画像の画素の値が2値化しきい未満の場合には、その画素の値を「0」とする。
ステップB6において、検査処理部22は、2値化画像をラベリングする。ここでラベリングとは、連結している画素に同じラベル「1」を付加することによって、複数の領域をグループとして分類する処理であり、画像処理において公知の技術である。
ステップB7において、検査処理部22は、「1」のラベルが付加された複数の画素によって形成される領域毎に、その領域の面積を計測する。面積が閾値以上の領域が存在するときには、処理がステップB9に進む。面積が閾値以上の領域が存在しないときには、処理がステップB8に進む。
ステップB8において、検査処理部22は、被検査物体8の表面に埋め込まれた金属異物が存在しないと判定する。
ステップB9において、検査処理部22は、被検査物体8の表面に埋め込まれた金属異物が存在すると判定する。
なお、本実施の形態では、照明装置5と照明装置54とが、バー状の照明装置である場合について説明したが、リング状の照明装置であってもよい。本実施の形態では、検査範囲を広くするために照明装置5と照明装置54の2台を設置するものとしたが、バー状の照明装置1台のみ設置することも可能である。
以上のように、本実施の形態によれば、NDフィルタ画像とPLフィルタ画像との差分画像を用いることによって、被検査物体の表面に埋め込まれた金属異物のみを検出することができる。
図14は、制御装置20、200、200Aのハードウェア構成を表わす図である。
制御装置20、200、200Aは、相当する動作をデジタル回路のハードウェアまたはソフトウェアで構成することができる。制御装置20、200、200Aの機能をソフトウェアを用いて実現する場合には、制御装置20、200、200Aは、例えば、図11に示すように、バス1003によって接続されたプロセッサ1001とメモリ1002とを備え、メモリ1002に記憶されたプログラムをプロセッサ1001が実行するようにすることができる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本開示の範囲は上記した説明ではなくて請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 第1のカメラ、2,52 レンズ、3 NDフィルタ、4 ビームスプリッタ、5,54 照明装置、6 モータ、7 駆動軸、8 被検査物体、9 治具、10 電源装置、11,55 偏光板、20,200,200A 制御装置、21 カメラ制御部、22 検査処理部、23 照明制御部、24 モータ制御部、51 第2のカメラ、53 PLフィルタ、61,61A 照明部、101,101A 学習装置、102,102A,106,106A データ取得部、103,103A モデル生成部、104,104A 学習済モデル、105,105A 推論装置、107,107A 推論部、108 検査部、109,109A 学習済モデル記憶部、120 表示部、1001 プロセッサ、1002 メモリ、1003 バス。

Claims (7)

  1. NDフィルタを有し、被検査物体の表面を撮影して、NDフィルタ画像を生成する第1のカメラと、
    PLフィルタを有し、前記被検査物体の表面を撮影して、PLフィルタ画像を生成する第2のカメラと、
    前記NDフィルタ画像と前記PLフィルタ画像との差分画像に基づいて、前記被検査物体の表面に埋め込まれた金属異物の有無を検査する制御装置とを備え、
    前記制御装置は、前記差分画像における2値化しきい値以上の値を有する連結された画素からなる領域の面積の大きさに基づいて、前記被検査物体の表面に埋め込まれた前記金属異物の有無を検査する、外観検査装置。
  2. 前記被検査物体の表面に対して、特定の偏光角度成分のみを有する照射光を照射する照明部をさらに備える、請求項1記載の外観検査装置。
  3. 前記照射光が正反射する方向に配置され、前記照射光の反射光を2分岐させるビームスプリッタをさらに備え、
    前記第1のカメラは、前記正反射する方向から前記被検査物体の表面を撮影し、
    前記第2のカメラは、前記正反射する方向と垂直な方向から前記被検査物体の表面を撮影する、請求項に記載の外観検査装置。
  4. 前記第1のカメラおよび前記第2のカメラは、前記被検査物体の表面を同時に撮影する、請求項1~3のいずれか1項に記載の外観検査装置。
  5. 前記制御装置は、前記被検査物体における正反射する範囲を除いた箇所を検査範囲として、前記被検査物体の表面に埋め込まれた金属異物の有無を検査する、請求項1または2に記載の外観検査装置。
  6. NDフィルタを有する第1のカメラが、被検査物体の表面を撮影して、NDフィルタ画像を生成するステップと、
    PLフィルタを有する第2のカメラが、前記被検査物体の表面を撮影して、PLフィルタ画像を生成するステップと、
    制御装置が、前記NDフィルタ画像と前記PLフィルタ画像との差分画像に基づいて、前記被検査物体の表面に埋め込まれた金属異物の有無を検査するステップとを備える、外観検査方法。
  7. 前記検査するステップは、前記被検査物体における正反射する範囲を除いた箇所を検査範囲として、前記被検査物体の表面に埋め込まれた金属異物の有無を検査するステップを含む、請求項6記載の外観検査方法。
JP2023525357A 2021-06-03 2021-11-25 外観検査装置、および外観検査方法 Active JP7483135B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2021093691 2021-06-03
JP2021093691 2021-06-03
PCT/JP2021/043248 WO2022254747A1 (ja) 2021-06-03 2021-11-25 外観検査装置、外観検査方法、学習装置および推論装置

Publications (2)

Publication Number Publication Date
JPWO2022254747A1 JPWO2022254747A1 (ja) 2022-12-08
JP7483135B2 true JP7483135B2 (ja) 2024-05-14

Family

ID=84324051

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023525357A Active JP7483135B2 (ja) 2021-06-03 2021-11-25 外観検査装置、および外観検査方法

Country Status (2)

Country Link
JP (1) JP7483135B2 (ja)
WO (1) WO2022254747A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001013261A (ja) 1999-06-30 2001-01-19 Mitsubishi Heavy Ind Ltd 異物検出方法及びその装置
JP2016105052A (ja) 2014-12-01 2016-06-09 東レエンジニアリング株式会社 基板検査装置
JP2019060780A (ja) 2017-09-27 2019-04-18 ファナック株式会社 検査装置及び検査システム
WO2020031984A1 (ja) 2018-08-08 2020-02-13 Blue Tag株式会社 部品の検査方法及び検査システム
JP2020193890A (ja) 2019-05-29 2020-12-03 ヴィスコ・テクノロジーズ株式会社 外観検査装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10221268A (ja) * 1997-02-05 1998-08-21 Advantest Corp ウェーハの表面状態検出方法および装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001013261A (ja) 1999-06-30 2001-01-19 Mitsubishi Heavy Ind Ltd 異物検出方法及びその装置
JP2016105052A (ja) 2014-12-01 2016-06-09 東レエンジニアリング株式会社 基板検査装置
JP2019060780A (ja) 2017-09-27 2019-04-18 ファナック株式会社 検査装置及び検査システム
WO2020031984A1 (ja) 2018-08-08 2020-02-13 Blue Tag株式会社 部品の検査方法及び検査システム
JP2020193890A (ja) 2019-05-29 2020-12-03 ヴィスコ・テクノロジーズ株式会社 外観検査装置

Also Published As

Publication number Publication date
JPWO2022254747A1 (ja) 2022-12-08
WO2022254747A1 (ja) 2022-12-08

Similar Documents

Publication Publication Date Title
Ren et al. State of the art in defect detection based on machine vision
JP7273250B2 (ja) 偏光キューを用いた面モデリングのためのシステム及び方法
TWI598581B (zh) 檢查裝置及檢查方法
JPH0736001B2 (ja) びんの欠陥検査方法
KR20070092607A (ko) 결함 검사 장치 및 결함 검사 방법
CN114787648A (zh) 用于使用偏振提示进行透明对象分段的系统和方法
JP2016166842A (ja) 情報処理、情報処理方法、プログラム
TWI743837B (zh) 訓練資料增量方法、電子裝置與電腦可讀取記錄媒體
JP7483135B2 (ja) 外観検査装置、および外観検査方法
JP2010117322A (ja) 表面疵検査装置、表面疵検査方法及びプログラム
JP6812118B2 (ja) 欠陥検出装置、欠陥検出方法およびプログラム
Banus et al. A deep-learning based solution to automatically control closure and seal of pizza packages
CA3109406C (en) Systems and methods for surface modeling using polarization cues
JPH0792104A (ja) 被検査物の不良個所検査方法
US11598715B2 (en) Detection apparatus and method of producing electronic apparatus
Honzátko et al. Defect segmentation for multi-illumination quality control systems
WO2024009868A1 (ja) 外観検査システム、外観検査方法、学習装置および推論装置
Cai et al. A vision-based character inspection system for tire mold
JP2023061387A (ja) 合成データ及び機械学習を使用した欠陥検出
TW202240546A (zh) 用於自動視覺檢查之圖像增強技術
JPH109835A (ja) 表面欠陥検査装置
KR20210009411A (ko) 결함 검사 장치
KR102558404B1 (ko) 비정형적 외형을 갖는 제품의 불량을 검사하는 장치
Solorzano et al. Accurate Vision-Based PCB Positioning Using Cosine-Convolutional Neural Networks
KR102433319B1 (ko) Led 광원용 확산 렌즈 비전 검사 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240430

R150 Certificate of patent or registration of utility model

Ref document number: 7483135

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150