JP2022023320A - 外観検査装置および外観検査方法、並びに、これに用いるプログラム - Google Patents

外観検査装置および外観検査方法、並びに、これに用いるプログラム Download PDF

Info

Publication number
JP2022023320A
JP2022023320A JP2020126173A JP2020126173A JP2022023320A JP 2022023320 A JP2022023320 A JP 2022023320A JP 2020126173 A JP2020126173 A JP 2020126173A JP 2020126173 A JP2020126173 A JP 2020126173A JP 2022023320 A JP2022023320 A JP 2022023320A
Authority
JP
Japan
Prior art keywords
inspection
images
normal
image
divided
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020126173A
Other languages
English (en)
Inventor
貴之 石黒
Takayuki Ishiguro
賢治 大崎
Kenji Osaki
仁 星野
Hitoshi Hoshino
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Roxy Co Ltd
Original Assignee
Roxy Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Roxy Co Ltd filed Critical Roxy Co Ltd
Priority to JP2020126173A priority Critical patent/JP2022023320A/ja
Publication of JP2022023320A publication Critical patent/JP2022023320A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)

Abstract

【課題】学習済モデルの効率的な学習または効率的な検査に資する技術を提供すること。【解決手段】検査対象90の外観を複数のカメラ70,72,74によって異なる方向から撮影した検査対象撮影画像50a,50b,50cを撮影方向毎に各別に記憶部30に記憶し、当該各別に記憶した検査対象撮影画像50a,50b,50cそれぞれから異なる検査領域R1,R2,R3を選択して検査対象検査画像52a,52b,52cを抽出する。そして、抽出した各検査対象検査画像52a,52b,52cを所定サイズに分割すると共に、分割した複数の検査対象分割画像54a,54b,54cについて1つの学習済モデル32により特徴量を抽出する。これにより、検査対象部位とは関係のない不要な領域の分割画像について特徴量を抽出する処理が発生しない。また、複数の学習済モデルを作成する必要がない。【選択図】図3

Description

本発明は、検査対象の外観を検査する外観検査装置および検査対象の外観を検査する外観検査方法、並びに、検査対象の外観を検査するためのプログラムに関するものである。
特開2019-211288号公報(特許文献1)には、コンベア上に配置された検査対象を上方および下方から撮影し、撮影した上面画像および下面画像のそれぞれから所定の検査領域を選択することによって、検査画像としての上面検査画像および下面検査画像を抽出し、抽出した当該上面検査画像および下面検査画像について、学習器を用いてそれぞれの特徴量を抽出して、抽出した当該特徴量に基づいて検査対象品の欠陥を検出する欠陥検出装置が記載されている。当該欠陥検出装置は、コンベア上に配置された検査対象の上面に発生する欠陥のみならず検査対象の下面に発生する欠陥も自動で検出することができる。
特開2019-211288号公報
ところで、検査対象が立体形状を有する場合、当該立体形状を構成する複数の面に欠陥が生じる得るため、検査対象の欠陥を確実に検出するためには、当該検査対象を複数方向から撮影した画像を用いることが必要となる。ここで、検査対象は、撮影する方向によって形状が異なることがあり得る。これら異なる形状を検査画像として抽出するためには、上述した公報に記載の欠陥検出装置のように、撮影方向から見たときの仮想投影面上における検査対象の投影面積が最も大きくなる検査画像を抽出することができるように、所定の検出領域を設定することが一般的に行われる。
しかしながら、このように所定の検出領域を設定した場合、検査画像によっては、検査部位とは関係のない不要な領域の画像についても特徴量を抽出する処理が発生するため、学習器の学習や欠陥の検出に不要な時間が発生する場合がある。一方、検査対象を各撮影方向から撮影した画像毎に異なる検査領域を設定すれば良いが、異なる検査領域で選択された各検査画像それぞれに応じて学習器を学習させる必要があり、学習器の学習に多大な時間が必要となる。
こうした不都合は、検査対象を複数の方向から撮影する場合の他、同じ種類だが仕様違いなどに起因して異なる形状を有する検査対象の検査を行う場合にも同様に発生する。上述した公報には、こうした点については、何ら言及がなされておらず、効率的な学習や効率的な検査といった点において、なお改良の余地がある。
本発明は、上記に鑑みてなされたものであり、学習済モデルの効率的な学習または効率的な検査に資する技術を提供することを目的の一つとする。
本発明に係る第1の外観検査装置の好ましい形態によれば、検査対象の外観を検査する外観検査装置が構成される。当該外観検査装置は、画像取得部と、設定部と、検査画像抽出部と、分割部と、学習器と、判別部と、を備えている。画像取得部は、検査対象の外観を少なくとも第1および第2方向から撮影した第1および第2撮影画像を取得する。領域設定部は、第1および第2撮影画像の検査するべき領域としての第1および第2検査領域を設定する。検査画像抽出部は、第1および第2撮影画像から第1および第2検査領域を選択して、検査画像としての第1および第2検査画像を抽出する。分割部は、抽出した第1および第2検査画像を所定サイズの複数の第1および第2分割画像に分割する。学習器は、分割部から提供される複数の第1および第2分割画像について特徴量を抽出可能な第1学習済モデルを有する。判別部は、特徴量に基づき第1および第2検査画像に欠陥があるか否かを判別する。ここで、本発明における「第1および第2検査領域」は、第1および第2撮影画像のうち検査対象部位としての検査対象の外観を含む必要最小限の領域として規定され、「第1および第2検査画像」は、第1および第2撮影画像から背景を含む検査対象以外の部分を除いた画像として規定される。
本発明によれば、同一の検査対象の外観を異なる方向から撮影した撮影画像毎に異なる検査領域を設定するため、第1学習済モデルが各検査画像の分割画像について特徴量を抽出する際に、検査対象部位とは関係のない不要な領域の分割画像について特徴量を抽出する処理が発生しない。また、異なる検査領域で抽出した各検査画像それぞれを所定サイズで複数に分割した複数の分割画像について、同一の第1学習済モデルが特徴量を抽出するため、複数の学習済モデルを作成する必要がない。これにより、学習済モデルの学習に要する時間、あるいは、欠陥の検出に要する時間の短縮を図ることができる。
本発明に係る第1の外観検査装置の更なる形態によれば、記憶部と、分割画像抽出部と、をさらに備える。記憶部は、欠陥があるか否かの教師信号が付された複数の第1および第2正常信号付き検査画像,および,複数の第1および第2異常信号付き検査画像と、複数の第1および第2正常信号付き検査画像,および,複数の第1および第2異常信号付き検査画像を所定サイズで分割した複数の第1および第2正常信号付き分割画像,および,複数の第1および第2異常信号付き分割画像と、を記憶する。分割画像抽出部は、複数の第1正常信号付き検査画像からの情報量と、複数の第2正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の第1および第2正常信号付き2検査画像から複数の第1および第2正常信号付き分割画像を抽出する。そして、第1学習済モデルは、複数の第1および第2正常信号付き検査画像を用いた学習段階である場合、抽出された複数の第1および第2正常信号付き分割画像、および、記憶された複数の第1および第2異常信号付き分割画像について特徴量を抽出し、抽出した当該特徴量に基づき学習を行う。
本形態によれば、検査領域が異なるために生じ得る情報量の違いに起因して第1学習済モデルの学習に偏りが発生することを抑制することができる。これにより、第1学習済モデルを適正に学習させることができる。この結果、欠陥の検出精度の向上を図ることができる。なお、撮影条件が同じで、異なる方向から撮影した各撮影画像間で正常信号付き検査画像の映り方がほぼ同じ場合には、本発明の効果をより顕著なものとすることができる。
本発明に係る第1の外観検査装置の更なる形態によれば、分割画像抽出部は、記憶部に記憶された第1および第2正常信号付き検査画像それぞれの枚数をIおよびJとし、当該第1および第2正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各第1および第2正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の第1正常信号付き検査画像およびJ枚の第2正常信号付き検査画像それぞれから次式(1)により求まる枚数Wを任意に抽出し、抽出したW枚の当該第1および第2正常信号付き検査画像それぞれからk番目およびm番目の第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、第1正常信号付き検査画像についてはK回、第2正常信号付き検査画像についてはM回実施する。
(式1)
W=T1/(K+M)・・・・・・(1)
ただし、T1は、第1学習済モデルに入力可能な分割後の画像枚数である。
本形態によれば、検査領域が異なるために生じ得る情報量の違いを、簡易な方法で解消することができる。
本発明に係る第1の外観検査装置の更なる形態によれば、分割画像抽出部は、第1正常信号付き検査画像の枚数Iまたは第2正常信号付き検査画像の枚数Jが枚数W未満の場合には、全ての第1および第2正常信号付き検査画像それぞれからk番目およびm番目の第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、第1正常信号付き検査画像についてはK回、第2正常信号付き検査画像についてはM回実施する。
本形態によれば、第1正常信号付き検査画像の枚数Iまたは第2正常信号付き検査画像の枚数Jが枚数W未満の場合であっても、検査領域が異なるために生じ得る情報量の違いを抑制することができる。
本発明に係る第2の外観検査装置の好ましい形態によれば、第1および第2検査対象の外観を検査する外観検査装置が構成される。当該外観検査装置は、画像取得部と、領域設定部と、検査画像抽出部と、分割部と、学習器と、判別部と、を備えている。画像取得部は、少なくとも第1および第2検査対象の外観を第3方向から撮影した第3および第4撮影画像を取得する。領域設定部は、第3および第4撮影画像の検査するべき領域としての第3および第4検査領域を設定する。検査画像抽出部は、第3および第4撮影画像から第3および第4検査領域を選択して、検査画像としての第3および第4検査画像を抽出する。分割部は、抽出した第3および第4検査画像を所定サイズの複数の第3および第4分割画像に分割する。学習器は、分割部から提供される複数の第3および第4分割画像について特徴量を抽出可能な第2学習済モデルを有する。そして、判別部は、抽出した特徴量に基づき第3および第4検査画像に欠陥があるか否かを判別する。
本発明によれば、異なる検査対象を同方向から撮影した撮影画像毎に異なる検査領域を設定するため、第2学習済モデルが各検査画像の分割画像について特徴量を抽出する際に、検査対象部位とは関係のない不要な領域の分割画像について特徴量を抽出する処理が発生しない。また、異なる検査領域で抽出した各検査画像それぞれを所定サイズで複数に分割した複数の分割画像について、同一の第2学習済モデルが特徴量を抽出するため、複数の学習器を作成する必要がない。これにより、学習済モデルの学習に要する時間、あるいは、欠陥の検出に要する時間の短縮を図ることができる。
本発明に係る第2の外観検査装置の更なる形態によれば、記憶部と、分割画像抽出部と、をさらに備える。記憶部は、欠陥があるか否かの教師信号が付された複数の第3および第4正常信号付き検査画像,および,複数の第3および第4異常信号付き検査画像と、複数の第3および第4正常信号付き検査画像,および,複数の第3および第4異常信号付き検査画像を所定サイズで分割した複数の第3および第4正常信号付き分割画像,および,複数の第3および第4異常信号付き分割画像と、を記憶する。分割画像抽出部は、複数の第3正常信号付き検査画像からの情報量と、複数の第4正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の第3および第4正常信号付き検査画像から複数の第3および第4正常信号付き分割画像を抽出する。そして、第2学習済モデルは、複数の第3および第4正常信号付き検査画像を用いた学習段階である場合、抽出された複数の第3および第4正常信号付き分割画像、および、記憶された複数の第3および第4異常信号付き分割画像について特徴量を抽出し、抽出した当該特徴量に基づき学習を行う。
本形態によれば、検査領域が異なるために生じ得る情報量の違いに起因して第2学習済モデルの学習に偏りが発生することを抑制することができる。これにより、第2学習済モデルを適正に学習させることができる。この結果、欠陥の検出精度の向上を図ることができる。なお、撮影条件が同じで、異なる検査対象を同方向から撮影した各撮影画像間で正常信号付き検査画像の映り方がほぼ同じ場合には、本発明の効果をより顕著なものとすることができる。
本発明に係る第2の外観検査装置の更なる形態によれば、分割画像抽出部は、記憶部に記憶された第3および第4正常信号付き検査画像それぞれの枚数をIおよびJとし、当該第3および第4正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各第3および第4正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の第3正常信号付き検査画像およびJ枚の第4正常信号付き検査画像それぞれから次式(2)により求まる枚数Wを任意に抽出し、抽出したW枚の当該第3および第4正常信号付き検査画像それぞれからk番目およびm番目の第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、第3正常信号付き検査画像についてはK回、第4正常信号付き検査画像についてはM回実施する。
(式2)
W=T2/(K+M)・・・・・・(2)
ただし、T2は、第2学習済モデルに入力可能な画像枚数である。
本形態によれば、検査領域が異なるために生じ得る情報量の違いを、簡易な方法で解消することができる。
本発明に係る第2の外観検査装置の更なる形態によれば、分割画像抽出部は、第3正常信号付き検査画像の枚数Iまたは第4正常信号付き検査画像の枚数Jが枚数W未満の場合には、全ての第3および第4正常信号付き検査画像それぞれからk番目およびm番目の第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、第3正常信号付き検査画像についてはK回、第4正常信号付き検査画像についてはM回実施する。
本形態によれば、第3正常信号付き検査画像の枚数Iまたは第4正常信号付き検査画像の枚数Jが枚数W未満の場合であっても、検査領域が異なるために生じ得る情報量の違いを抑制することができる。
本発明に係る第1の外観検査方法の好ましい形態によれば、検査対象の外観を検査する外観検査方法が構成される。当該外観検査方法は、(a)検査対象の外観を少なくとも第1および第2方向から撮影した第1および第2撮影画像を取得し、(b)当該第1および第2撮影画像の検査するべき領域としての第1および第2検査領域を設定し、(c)第1および第2撮影画像から第1および第2検査領域を選択して、検査画像としての第1および第2検査画像を抽出し、(d)抽出した複数の第1および第2検査画像を所定サイズの複数の第1および第2分割画像に分割し、(e)複数の第1および第2分割画像について第1学習済モデルを用いて特徴量を抽出し、(f)抽出した特徴量に基づき第1および第2検査画像に欠陥があるか否かを判別する。
本発明によれば、検査対象の外観を異なる方向から撮影した撮影画像毎に異なる検査領域を設定するため、第1学習済モデルが各検査画像の分割画像について特徴量を抽出する際に、検査対象部位とは関係のない不要な領域の分割画像について特徴量を抽出する処理が発生しない。また、異なる検査領域で抽出した各検査画像それぞれを所定サイズで複数に分割した複数の分割画像について、同一の第1学習済モデルが特徴量を抽出するため、複数の学習器を作成する必要がない。これにより、学習済モデルの学習に要する時間、あるいは、欠陥の検出に要する時間の短縮を図ることができる。
本発明に係る第1の外観検査方法の更なる形態によれば、欠陥があるか否かの教師信号が付された複数の第1および第2正常信号付き検査画像,および,複数の第1および第2異常信号付き検査画像と、複数の第1および第2正常信号付き検査画像,および,複数の第1および第2異常信号付き検査画像を所定サイズで分割した複数の第1および第2正常信号付き分割画像,および,複数の第1および第2異常信号付き分割画像と、を記憶するステップ(g)と、複数の第1正常信号付き検査画像からの情報量と、複数の第2正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の第1および第2正常信号付き2検査画像から複数の第1および第2正常信号付き分割画像を抽出するステップ(h)と、をさらに備えている。そして、ステップ(e)は、第1学習済モデルが複数の第1および第2正常信号付き検査画像を用いた学習段階である場合、ステップ(h)で抽出した複数の第1および第2正常信号付き分割画像、および、記憶された複数の第1および第2異常信号付き分割画像について特徴量を抽出し、抽出した当該特徴量に基づき学習を行うステップを含んでいる。
本形態によれば、検査領域が異なるために生じ得る情報量の違いに起因して第1学習済モデルの学習に偏りが発生することを抑制することができる。これにより、第1学習済モデルを適正に学習させることができる。この結果、欠陥の検出精度の向上を図ることができる。なお、撮影条件が同じで、異なる方向から撮影した各撮影画像間で正常信号付き検査画像の映り方がほぼ同じ場合には、本発明の効果をより顕著なものとすることができる。
本発明に係る第1の外観検査方法の更なる形態によれば、ステップ(h)は、記憶した第1および第2正常信号付き検査画像それぞれの枚数をIおよびJとし、当該第1および第2正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各第1および第2正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の第1正常信号付き検査画像およびJ枚の第2正常信号付き検査画像それぞれから次式(3)により求まる枚数Wを任意に抽出し、抽出したW枚の当該第1および第2正常信号付き検査画像それぞれからk番目およびm番目の第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、第1正常信号付き検査画像についてはK回、第2正常信号付き検査画像についてはM回実施するステップを含んでいる。
(式3)
W=T1/(K+M)・・・・・・(3)
ただし、T1は、第1学習済モデルに入力可能な画像枚数である。
本形態によれば、検査領域が異なるために生じ得る情報量の違いを、簡易な方法で解消することができる。
本発明に係る第1の外観検査方法の更なる形態によれば、ステップ(h)は、第1正常信号付き検査画像の枚数Iまたは第2正常信号付き検査画像の枚数Jが枚数W未満の場合には、全ての第1および第2正常信号付き検査画像それぞれからk番目およびm番目の第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、第1正常信号付き検査画像についてはK回、第2正常信号付き検査画像についてはM回実施する。
本形態によれば、第1正常信号付き検査画像の枚数Iまたは第2正常信号付き検査画像の枚数Jが枚数W未満の場合であっても、検査領域が異なるために生じ得る情報量の違いを抑制することができる。
本発明に係る第2の外観検査方法の好ましい形態によれば、第1および第2検査対象の外観を検査する外観検査方法が構成される。当該外観検査方法は、(i)第1および第2検査対象の外観を第3方向から撮影した第3および第4撮影画像を取得し、(j)第3および第4撮影画像の検査するべき領域としての第3および第4検査領域を設定し、(k)第3および第4撮影画像から第3および第4検査領域を選択して、検査画像としての第3および第4検査画像を抽出し、(l)抽出した第3および第4検査画像を所定サイズの複数の第3および第4分割画像に分割し、(m)複数の第3および第4分割画像について第2学習済モデルを用いて特徴量を抽出し、(n)抽出した特徴量に基づき第3および第4検査画像に欠陥があるか否かを判別する。
本発明によれば、異なる検査対象を同方向から撮影した撮影画像毎に異なる検査領域を設定するため、第2学習済モデルが各検査画像の分割画像について特徴量を抽出する際に、検査対象部位とは関係のない不要な領域の分割画像について特徴量を抽出する処理が発生しない。また、異なる検査領域で抽出した各検査画像それぞれを所定サイズで複数に分割した複数の分割画像について、同一の第2学習済モデルが特徴量を抽出するため、複数の学習器を作成する必要がない。これにより、学習済モデルの学習に要する時間、あるいは、欠陥の検出に要する時間の短縮を図ることができる。
本発明に係る第2の外観検査方法の更なる形態によれば、欠陥があるか否かの教師信号が付された複数の第3および第4正常信号付き検査画像,および,複数の第3および第4異常信号付き検査画像と、複数の第3および第4正常信号付き検査画像,および,複数の第3および第4異常信号付き検査画像を所定サイズで分割した複数の第3および第4正常信号付き分割画像,および,複数の第3および第4異常信号付き分割画像と、を記憶するステップ(o)と、複数の第3正常信号付き検査画像からの情報量と、複数の第4正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の第3および第4正常信号付き検査画像から複数の第3および第4正常信号付き分割画像を抽出するステップ(p)と、をさらに備えている。そして、ステップ(m)は、第2学習済モデルが複数の第3および第4正常信号付き検査画像を用いた学習段階である場合、ステップ(p)で抽出した複数の第3および第4正常信号付き分割画像、および、記憶された複数の第3および第4異常信号付き分割画像について特徴量を抽出し、抽出した当該特徴量に基づき学習を行うステップを含んでいる。
本形態によれば、検査領域が異なるために生じ得る情報量の違いに起因して第2学習済モデルの学習に偏りが発生することを抑制することができる。これにより、第2学習済モデルを適正に学習させることができる。この結果、欠陥の検出精度の向上を図ることができる。なお、撮影条件が同じで、異なる検査対象を同方向から撮影した各撮影画像間で正常信号付き検査画像の映り方がほぼ同じ場合には、本発明の効果をより顕著なものとすることができる。
本発明に係る第2の外観検査方法の更なる形態によれば、ステップ(p)は、記憶された第3および第4正常信号付き検査画像それぞれの枚数をIおよびJとし、当該第3および第4正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各第3および第4正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の第3正常信号付き検査画像およびJ枚の第4正常信号付き検査画像それぞれから次式(4)により求まる枚数Wを任意に抽出し、抽出したW枚の当該第3および第4正常信号付き検査画像それぞれからk番目およびm番目の第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、第3正常信号付き検査画像についてはK回、第4正常信号付き検査画像についてはM回実施するステップを含んでいる。
(式4)
W=T2/(K+M)・・・・・・(4)
ただし、T2は、第2学習済モデルに入力可能な画像枚数である。
本形態によれば、検査領域が異なるために生じ得る情報量の違いを、簡易な方法で解消することができる。
本発明に係る第2の外観検査方法の更なる形態によれば、ステップ(p)は、第3正常信号付き検査画像の枚数Iまたは第4正常信号付き検査画像の枚数Jが枚数W未満の場合には、全ての第3および第4正常信号付き検査画像それぞれからk番目およびm番目の第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、第3正常信号付き検査画像についてはK回、第4正常信号付き検査画像についてはM回実施する。
本形態によれば、第3正常信号付き検査画像の枚数Iまたは第4正常信号付き検査画像の枚数Jが枚数W未満の場合であっても、検査領域が異なるために生じ得る情報量の違いを抑制することができる。
本発明に係るプログラムの好ましい形態によれば、検査対象または第1および第2検査対象の外観を検査するためのプログラムが構成される。当該プログラムは、上述したいずれかの態様の本発明に係る外観検査方法の各ステップを1又は複数のコンピュータに実行させるためのものである。当該プログラムは、コンピュータが読み取り可能な記録媒体、例えば、ハードディスクやROM、SSD、フラッシュメモリ(USBメモリ、SDカードなど)、フロッピーディスク、CD、DVDなどに記録されていても良いし、伝送媒体、例えば、インターネットやLANなどの通信網を介してあるコンピュータから別のコンピュータへ配信されても良いし、あるいは、その他如何なる態様で授受されても良い。
本発明によれば、プログラムを一つのコンピュータに実行させるか又は複数のコンピュータに各ステップを分担して実行させることによって、上述したいずれかの態様の本発明に係る外観検査方法の各ステップが実行されるため、上述した本発明に係る外観検査方法と同様の作用効果、例えば、学習済モデルの学習に要する時間、あるいは、当該学習済モデルを用いた欠陥の検出に要する時間の短縮を図ることができるという効果や、欠陥の検出精度の向上を図ることができるという効果を得ることができる。
本発明によれば、学習済モデルの効率的な学習または効率的な検査に資する技術を提供することができる。
本発明の実施の形態に係る外観検査装置として機能するコンピュータ1の構成の概略を示す構成図である。 本発明の実施の形態に係る外観検査装置として機能するコンピュータ1の機能構成を示す機能ブロック図である。 本発明の実施の形態に係る外観検査装置として機能するコンピュータ1の機能構成を模式的に示す模式図である。 画像学習処理ルーチンの一例を示すフローチャートである。 画像学習処理ルーチンから分岐した部分のフローチャートである。 画像学習処理ルーチンから分岐した部分のフローチャートである。 判別処理ルーチンの一例を示すフローチャートである。 正常品サンプル検査画像NE1i,NE2j,NE3xが所定サイズの複数の正常品サンプル分割画像ND1k,ND2m,ND3yに分割された様子を示す説明図である。 欠陥品サンプル検査画像DE1f,DE2g,DE3hが所定サイズの複数の欠陥品サンプル分割画像DD1q,DD2u,DD3sに分割された様子を示す説明図である。 複数の正常品サンプル分割画像ND1k,ND2m,ND3yに分割された複数の正常品サンプル検査画像NE1i,NE2j,NE3xが記憶部30に記憶された様子を概念的に示す説明図である。 複数の正常品サンプル検査画像NE1i,NE2j,NE3xからW枚をランダムに抽出すると共に、抽出された各正常品サンプル検査画像NE1i,NE2j,NE3xそれぞれから1番目の正常品サンプル分割画像ND11,ND21,ND31が抽出される様子を示す説明図である。 複数の正常品サンプル検査画像NE1i,NE2j,NE3xからW枚をランダムに抽出すると共に、抽出された各正常品サンプル検査画像NE1i,NE2j,NE3xそれぞれから2番目の正常品サンプル分割画像ND12,ND22,ND32が抽出される様子を示す説明図である。 複数の正常品サンプル検査画像NE1i,NE2j,NE3xからW枚をランダムに抽出すると共に、抽出された各正常品サンプル検査画像NE1i,NE2j,NE3xそれぞれからK番目,M番目,Y番目の正常品サンプル分割画像ND1K,ND2M,ND3Yが抽出される様子を示す説明図である。 正常品学習用分割画像LD1wk,LD2wm,LD3wyを示す説明図である。 変形例の外観検査装置の機能構成を模式的に示す模式図である。 変形例の外観検査装置の機能構成を模式的に示す模式図である。
次に、本発明を実施するための最良の形態を実施例を用いて説明する。
本実施の形態に係る外観検査装置は、図1に示すように、例えば、ベルトコンベアBCによって搬送されてくる検査対象90が、3つのカメラ70,72,74によって3方向から撮影された画像を用いて、当該検査対象90の外観検査を行う装置であり、CPU2、ROM4、RAM6を中心とした汎用のコンピュータ1として構成されている。本実施の形態に係る外観検査装置として機能するコンピュータ1は、画像処理を行う際に必要な計算処理や行列演算処理を行うGPU8、各種アプリケーションプログラム(単にアプリケーションと称する)や画像データを含む各種データを記憶する大容量メモリであるハードディスク(HDD)10、カメラ70,72,74などの外部機器とのデータの入出力を行う入出力インターフェイス(I/F)12などを備えている。なお、検査対象90は、例えば、製造過程にある部品や製品等である。コンピュータ1は、本発明における「外観検査装置」に対応する実施構成の一例である。
また、コンピュータ1は、ユーザが各種指令を入力するキーボードおよびマウス等の入力装置14や、各種情報を表示するディスプレイ60などを備えている。CPU2やROM4、RAM6、GPU8、HDD10、I/F12、入力装置14、ディスプレイ60などは、バス80によって電気的に接続され、互いに各種制御信号やデータのやり取りができるように構成されている。
当該コンピュータ1は、ユーザが入力装置14を介してディスプレイ60に表示されたカーソル等を力操作すると、その入力操作に応じた動作を実行する機能を有している。また、当該コンピュータ1は、HDD10に格納されたアプリケーション、具体的には、検査対象90の外観検査を実行する外観検査アプリケーションによって各種処理が実行されることで、本実施の形態に係る外観検査装置として機能する。なお、本実施の形態では、外観検査装置としてコンピュータ1によって実現可能な構成としたが、専用装置として実現しても良い。
また、コンピュータ1には、図2に示すように、CPU2やROM4、RAM6、GPU8、HDD10、I/F12、入力装置14、ディスプレイ60など(図1参照)の前述したハードウェア資源と、外観検査アプリケーションの各処理の1つである本実施の形態に係る欠陥有無判定プログラムといったソフトウェアと、の一方または双方の協働により、画像取得部20や、領域設定部21、検査画像抽出部22、分割部24、分割画像抽出部25、学習器26、判別部28、記憶部30等が機能ブロックとして構成されている。換言すれば、これらの各部(画像取得部20、領域設定部21、検査画像抽出部22、分割部24、分割画像抽出部25、学習器26、判別部28、記憶部30)は、HDD10からRAM6上に展開されたアプリケーションを実行するCPU2からの命令によって、図1に示す各構成要素(CPU2やROM4、RAM6、GPU8、HDD10、I/F12、入力装置14、ディスプレイ60など)が単独あるいは協働して動作することにより実現される機能であると言うことができる。なお、画像取得部20や、領域設定部21、検査画像抽出部22、分割部24、分割画像抽出部25、学習器26、判別部28、記憶部30等は、アドレスバスやデータバスなどのバスライン82によって電気的に接続されている。
画像取得部20は、図3に示すように、カメラ70,72,74によって撮影され記憶部30に各別に記憶された正常品サンプル撮影画像NP1i(i=1,2,・・・,Iである。以下同様),NP2j(j=1,2,・・・,Jである。以下同様),NP3x(x=1,2,・・・,Xである。以下同様)や、欠陥品サンプル撮影画像DP1f(f=1,2,・・・,Fである。以下同様),DP2g(g=1,2,・・・,Gである。以下同様),DP3h(h=1,2,・・・,Hである。以下同様)、検査対象撮影画像50a,50b,50cを各別に取得する。なお、正常品サンプル撮影画像NP1iは、正常品である検査対象90をカメラ70によって撮影した教師信号付き画像であり、正常品サンプル撮影画像NP2jは、正常品である検査対象90をカメラ72によって撮影した教師信号付き画像であり、正常品サンプル撮影画像NP3xは、正常品である検査対象90をカメラ74によって撮影した教師信号付き画像である。また、欠陥品サンプル撮影画像DP1fは、欠陥品である検査対象90をカメラ70によって撮影した教師信号付き画像であり、欠陥品サンプル撮影画像DP2gは、欠陥品である検査対象90をカメラ72によって撮影した教師信号付き画像であり、欠陥品サンプル撮影画像DP3hは、欠陥品である検査対象90をカメラ74によって撮影した教師信号付き画像である。正常品サンプル撮影画像NP1i,NP2j,NP3x、欠陥品サンプル撮影画像DP1f,DP2g,DP3h、および、検査対象撮影画像50a,50b,50cは、本発明における「第1撮影画像」や「第2撮影画像」に対応する実施構成の一例である。
領域設定部21は、正常品サンプル撮影画像NP1i,NP2j,NP3xや、欠陥品サンプル撮影画像DP1f,DP2g,DP3h、検査対象撮影画像50a,50b,50cの検査するべき領域として、それぞれ検査領域R1,R2,R3を設定する(図8および図9参照。なお、図8には、正常品サンプル撮影画像NP1i,NP2j,NP3xの場合のみが記載されており、図9には、欠陥品サンプル撮影画像DP1f,DP2g,DP3hの場合のみが記載されている。)。
検査画像抽出部22は、図3に示すように、画像取得部20によって各別に取得された正常品サンプル撮影画像NP1i,NP2j,NP3xや、欠陥品サンプル撮影画像DP1f,DP2g,DP3h、検査対象撮影画像50a,50b,50cそれぞれから対応する検査領域R1,R2,R3を選択して、検査画像としての正常品サンプル検査画像NE1i,NE2j,NE3xや、欠陥品サンプル検査画像DE1f,DE2g,DE3h、検査対象検査画像52a,52b,52cを各別に抽出し、抽出した正常品サンプル検査画像NE1i,NE2j,NE3xや、欠陥品サンプル検査画像DE1f,DE2g,DE3h、検査対象検査画像52a,52b,52cを各別に記憶部30に記憶する。正常品サンプル検査画像NE1i,NE2j,NE3xは、本発明における「第1正常信号付き検査画像」や「第2正常信号付き検査画像」に対応し、欠陥品サンプル検査画像DE1f,DE2g,DE3hは、本発明における「第1異常信号付き検査画像」や「第2異常信号付き検査画像」に対応し、検査対象検査画像52a,52b,52cは、本発明における「第1検査画像」や「第2検査画像」に対応する実施構成の一例である。
分割部24は、図3に示すように、検査画像抽出部22によって各別に抽出された正常品サンプル検査画像NE1i,NE2j,NE3xや欠陥品サンプル検査画像DE1f,DE2g,DE3hをそれぞれ所定サイズの複数の正常品サンプル分割画像ND1k(k=1,2,・・・,Kである。以下同様),ND2m(m=1,2,・・・,Mである。以下同様),ND3y(y=1,2,・・・,Yである。以下同様)や、複数の欠陥品サンプル分割画像DD1q(q=1,2,・・・,Qである。以下同様),DD3s(s=1,2,・・・,Sである。以下同様),DD2u(u=1,2,・・・,Uである。以下同様)に分割する(図8および図9参照)。また、分割部24は、検査画像抽出部22によって各別に抽出された検査対象検査画像52a,52b,52cを複数の検査対象分割画像54a,54b,54cに分割する。さらに、分割部24は、分割した複数の正常品サンプル分割画像ND1k,ND2m,ND3yや、複数の欠陥品サンプル分割画像DD1q,DD2u,DD3s、複数の検査対象分割画像54a,54b,54cを各別に記憶部30に記憶する。正常品サンプル分割画像ND1k,ND2m,ND3yは、本発明における「第1正常信号付き分割画像」や「第2正常信号付き分割画像」に対応し、欠陥品サンプル分割画像DD1q,DD2u,DD3sは、本発明における「第1異常信号付き分割画像」や「第2異常信号付き分割画像」に対応し、検査対象分割画像54a,54b,54cは、本発明における「第1分割画像」や「第2分割画像」に対応する実施構成の一例である。
分割画像抽出部25は、学習済モデル32の学習に用いるための正常品サンプル検査画像NE1i,NE2j,NE3xの枚数Wを演算する。また、分割画像抽出部25は、記憶部30に各別に記憶された正常品サンプル検査画像NE1i,NE2j,NE3xの枚数I,J,X(図10参照)と、枚数Wと、を比較して、枚数I,J,Xの全てが枚数W以上であれば、当該枚数Wを、学習済モデル32の学習に用いるための正常品サンプル検査画像NE1i,NE2j,NE3xの枚数として設定し、枚数I,J,Xの中に枚数Wよりも少ないものがあれば、当該枚数Wよりも少ない枚数I,J,Xを、学習済モデル32の学習に用いるための正常品サンプル検査画像NE1i,NE2j,NE3xの枚数として設定する。そして、分割画像抽出部25は、記憶部30に各別に記憶されたI,J,X枚の正常品サンプル検査画像NE1i,NE2j,NE3x(図10参照)から設定した枚数W(or I,J,X)をランダムに抽出し(図11参照。なお、図11は、I,J,X≧Wの場合において、I,J,X枚からW枚をランダムに抽出する様子を示す。)、抽出した正常品サンプル検査画像NE1(w or i),NE2(w or j),NE3(w or x)それぞれからk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出する処理をそれぞれK回,M回,Y回実施して(図12および図13参照。なお、図12および図13は、I,J,X≧Wの場合において、I,J,X枚からW枚をランダムに抽出する様子を示す。)、抽出した正常品サンプル分割画像ND1k,ND2m,ND3yを、正常品学習用分割画像LD1wk(w=1,2,・・・,Wである。以下同様),LD2wm,LD3wyとして各別に記憶部30に記憶する(図14参照)。正常品学習用分割画像LD1wk,LD2wm,LD3wyは、本発明における「第1正常信号付き分割画像Dk」や「第2正常信号付き分割画像Dm」に対応する実施構成の一例である。また、枚数I,J,Xは、本発明における「第1正常信号付き検査画像それぞれの枚数I」や「第2正常信号付き検査画像枚数J」に対する実施構成の一例である。
学習器26は、複数の正常品学習用分割画像LD1wk,LD2wm,LD3wyや、複数の欠陥品サンプル分割画像DD1q,DD2u,DD3s、検査対象分割画像54a,54b,54cについて特徴量を抽出する。本実施の形態では、検査対象90の外観に欠陥があるか否かの判別を精度よく行うことができるような特徴量を抽出することができるように、学習器26は、ディープメトリックラーニングを用いて演算パラメータを修正して学習を行う構成とした。即ち、学習器26は、抽出した特徴量間の距離を算定して、算定した当該距離に基づき誤差逆伝搬法および勾配降下法によりパラメータの修正を行う一連の処理にディープメトリックラーニングを適用した。学習器26は、図3に示すように、記憶部20に各別に記憶された複数の正常品学習用分割画像LD1wk,LD2wm,LD3wyや複数の欠陥品サンプル分割画像DD1q,DD2u,DD3sを区別することなく読み込んで予め学習を行い、1つの学習済モデル32を作成し、当該学習済モデル32を記憶部30に記憶する。そして、当該作成された学習済モデル32は、記憶部20に各別に記憶された検査対象分割画像54a,54b,54cを区別することなく読み込み、読み込んだ検査対象分割画像54a,54b,54cについて特徴量の抽出を行う。
判別部28は、学習器26によって抽出された特徴量に基づいて、検査対象90の外観に欠陥があるか否かの判別を行う。なお、当該判別結果は、ディスプレイ60に表示される。判別部28には、例えば、勾配ブースティングや、サポートベクターマシーン、ランダムフォレスト、ニューラルネットワーク、ガウス正規化、アンサンブル検査などの所謂統計的機械学習を用いることができる。なお、判別部28は、判別済の検査対象撮影画像50a,50b,50c、検査対象検査画像52a,52b,52c、および、複数の検査対象分割画像54a,54b,54cを後述する判別対象画像領域56に移動させる。
記憶部30は、RAM6およびHDD10の少なくとも一方に確保される。記憶部30は、学習済モデル32や、検査領域R1,R2,R3、カメラ70,72,74によって撮影された複数の正常品サンプル撮影画像NP1i,NP2j,NP3x、複数の欠陥品サンプル撮影画像DP1f,DP2g,DP3h、検査対象撮影画像50a,50b,50c、検査画像抽出部によって抽出された複数の正常品サンプル検査画像NE1i,NE2j,NE3x、複数の欠陥品サンプル検査画像DE1f,DE2g,DE3h、検査対象検査画像52a,52b,52c、分割部によって分割された複数の正常品サンプル分割画像ND1k,ND2m,ND3y、複数の欠陥品サンプル分割画像DD1q,DD2u,DD3s、複数の検査対象分割画像54a,54b,54c、分割画像抽出部25によって抽出された複数の正常品学習用分割画像LD1wk,LD2wm,LD3wxを記憶する。なお、記憶部30は、カメラ70によって撮影された正常品サンプル撮影画像NP1i、欠陥品サンプル撮影画像DP1fおよび検査対象撮影画像50aと、カメラ72によって撮影された正常品サンプル撮影画像NP2j、欠陥品サンプル撮影画像DP2gおよび検査対象撮影画像50bと、カメラ74によって撮影された正常品サンプル撮影画像NP3x、欠陥品サンプル撮影画像DP3hおよび検査対象撮影画像と、を各別に記憶する(図3参照)。また、記憶部30は、判別済の検査対象撮影画像50a,50b,50c、検査対象検査画像52a,52b,52c、および、複数の検査対象分割画像54a,54b,54cを記憶する判別済検査対象画像領域56を有している。
次に、外観検査アプリケーションが起動されたときにコンピュータ1において実行される欠陥有無判定プログラムについて説明する。まず、画像学習処理ルーチンについて説明し、続いて、判別処理ルーチンについて説明する。図4は、画像学習処理ルーチンの一例を示すメインフローチャートであり、図5および図6は、図4のメインフローチャートから分岐したサブフローチャートであり、図7は、判別処理ルーチンの一例を示すフローチャートである。
画像学習処理ルーチンは、例えば、各種コマンドボタンの中から「学習済モデルの作成」ボタンを押したときに実行される。画像学習処理ルーチンは、主にコンピュータ1の画像取得部20、領域設定部21、検査画像抽出部22、分割部24、分割画像抽出部25、および、学習器26により実行される。
画像学習処理が実行されると、まず、画像取得部20は、学習対象が欠陥を有さない正常品であるのか、あるいは、欠陥を有する欠陥品であるのかの判定を行う処理を実行する(ステップS100)。当該判定は、例えば、ユーザが各種コマンドボタンの中から「正常品の学習」あるいは「欠陥品の学習」のいずれを選択したかに基づき判定することができる。
画像取得部20は、学習対象が正常品であると判定した場合、記憶部30に記憶された複数の正常品サンプル撮影画像NP1i,NP2j,NP3xを取得する処理を実行する(ステップS102)。
続いて、領域設定部21が、各正常品サンプル撮影画像NP1i,NP2j,NP3xに対応する検査領域R1,R2,R3を設定する処理を実行する(ステップS104)。即ち、正常品サンプル撮影画像NP1iに対しては検査領域R1を設定し、正常品サンプル撮影画像NP2jに対しては検査領域R2を設定し、正常品サンプル撮影画像NP3xに対しては検査領域R3を設定する。検査領域R1,R2,R3は、本発明における「第1検査領域」や「第2検査領域」に対応する実施構成の一例である。
そして、検査画像抽出部22が、各正常品サンプル撮影画像NP1i,NP2j,NP3xから対応する検査領域R1,R2,R3を選択して、検出画像としての正常品サンプル検査画像NE1i,NE2j,NE3xを抽出すると共に(図8および図10参照)、抽出した正常品サンプル検査画像NE1i,NE2j,NE3xを記憶部30に記憶する処理を実行する(ステップS106)。即ち、各正常品サンプル撮影画像NP1iから検査領域R1を選択して、正常品サンプル検査画像NE1iを抽出し、各正常品サンプル撮影画像NP2jから検査領域R2を選択して、正常品サンプル検査画像NE2jを抽出し、各正常品サンプル撮影画像NP3xから検査領域R3を選択して、正常品サンプル検査画像NE3xを抽出する(図8および図10参照)。ここで、各正常品サンプル撮影画像NP1i,NP2j,NP3xから検査領域R1,R2,R3を選択する処理は、検査領域R1,R2,R3として設定された座標に基づいて行う構成や、テンプレート画像に対応する領域を選択する構成、その他公知の方法を適用することができる。
こうして検査画像抽出部22によって正常品サンプル検査画像NE1i,NE2j,NE3xが抽出されると、分割部24が、抽出した各正常品サンプル検査画像NE1i,NE2j,NE3xを所定サイズで分割すると共に(図8および図10参照)、分割された複数の正常品サンプル分割画像ND1k,ND2m,ND3yを記憶部30に記憶する処理を実行する(ステップS108)。
続いて、分割画像抽出部25が、学習済モデル32の学習に用いるための正常品サンプル検査画像NE1i,NE2j,NE3xの枚数Wを次式(5)により演算する処理を実行する(ステップ110)。
(数5)
W=T/(K+M+Y)・・・・・・・(5)
ここで、Tは、学習済モデル32に入力可能な画像の枚数であり、Kは、正常品サンプル検査画像NE1iの分割数、即ち、正常品サンプル分割画像ND1kの総数であり、Mは、正常品サンプル検査画像NE2jの分割数、即ち、正常品サンプル分割画像ND2mの総数、Yは、正常品サンプル検査画像NE3xの分割数、即ち、正常品サンプル分割画像ND3yの総数である。学習済モデル32に入力可能な画像の枚数Tは、本発明における「第1学習済モデルに入力可能な画像枚数」や「第2学習済モデルに入力可能な画像枚数」に対応する実施構成の一例である。
こうして枚数Wを演算した後、分割画像抽出部25は、当該枚数Wと、正常品サンプル分割画像ND1k,ND2m,ND3yそれぞれの枚数I,J,Xと、を比較する処理を実行する(ステップS112)。枚数I,J,Xのすべてが枚数W以上であるときは、分割画像抽出部25は、記憶部30に記憶された複数の正常品サンプル検査画像NE1i,NE2j,NE3xからW枚をランダムに抽出する処理を実行すると共に(ステップS114)、抽出した当該W枚の正常品サンプル検査画像NE1w,NE2w,NE3wからそれぞれk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出し(図11ないし図13参照)、抽出したk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを正常品学習用分割画像LD1wk,LD2wm,LD3wy(図14参照)として記憶部30に記憶する処理を実行する(ステップS116)。なお、画像学習処理ルーチンが実行されてから、ステップ116を始めて実行する際には、k,m,yのいずれも値1に設定されているため、W枚の正常品サンプル検査画像NE1w,NE2w,NE3wからそれぞれ1番目,2番目,3番目の正常品サンプル分割画像ND11,ND21,ND31を抽出する処理となる。
そして、分割画像抽出部25は、分割画像番号k,m,yをそれぞれ値1だけインクリメントすると共に(ステップS118)、分割画像番号k,m,yがそれぞれ値K,M,Yとなったか否かを判定する処理を実行する(ステップS120)。即ち、ステップS120では、分割画像抽出部25は、全ての正常品サンプル分割画像ND1k,ND2m,ND3yの抽出が完了したか否かを判定する処理を実行するのである。
ステップS120において、分割画像番号k,m,yが1つでも値K,M,Yとなっていないときは、分割画像番号k,m,yの全てが値K,M,Yとなるまで、ステップS114~S120の処理を繰り返し実行する。一方、分割画像番号k,m,yの全てが値K,M,Yとなったときは、分割画像番号k,m,yをそれぞれ値1に初期化する処理を実行する(ステップS122)。なお、ステップS114に戻る度に、記憶部30に記憶された複数の正常品サンプル検査画像NE1i,NE2j,NE3xから新たなW枚がランダムに抽出される。換言すれば、分割画像番号k,m,yの全てが値K,M,Yとなるまで、正常品サンプル分割画像ND1k,ND2m,ND3yを抽出する度に、記憶部30に記憶された複数の正常品サンプル検査画像NE1i,NE2j,NE3xから新たなW枚がランダムに抽出される。
一方、ステップS100において、画像取得部20が、学習画像が欠陥品であると判定した場合には、記憶部30に記憶された複数の欠陥品サンプル撮影画像DP1f,DP2g,DP3hを取得する処理を実行する(ステップS136)。続いて、領域設定部21が、各欠陥品サンプル撮影画像DP1f,DP2g,DP3hに対応する検査領域R1,R2,R3を設定する処理を実行する(ステップS138)。即ち、欠陥品サンプル撮影画像DP1fに対しては検査領域R1を設定し、欠陥品サンプル撮影画像DP2gに対しては検査領域R2を設定し、欠陥品サンプル撮影画像DP3hに対しては検査領域R3を設定する。
そして、検査画像抽出部22が、各欠陥品サンプル撮影画像DP1f,DP2g,DP3hから対応する検査領域R1,R2,R3を選択して、検出画像としての欠陥品サンプル検査画像DE1f,DE2g,DE3hを抽出すると共に、抽出した欠陥品サンプル検査画像DE1f,DE2g,DE3hを記憶部30に記憶する処理を実行する(ステップS140)。即ち、各欠陥品サンプル撮影画像DP1fから検査領域R1を選択して、欠陥品サンプル検査画像DE1fを抽出し、各欠陥品サンプル撮影画像DP2gから検査領域R2を選択して、欠陥品サンプル検査画像DE2gを抽出し、各欠陥品サンプル撮影画像DP3hから検査領域R3を選択して、欠陥品サンプル検査画像DE3hを抽出する。ここで、各欠陥品サンプル撮影画像DP1f,DP2g,DP3hから検査領域R1,R2,R3を選択する処理は、検査領域R1,R2,R3として設定された座標に基づいて行う構成や、テンプレート画像に対応する領域を選択する構成、その他公知の方法を適用することができる。
検査画像抽出部22によって欠陥品サンプル検査画像DE1f,DE2g,DE3hが抽出され、記憶部30に記憶されると、分割部24が、抽出した各欠陥品サンプル検査画像DE1f,DE2g,DE3hを所定サイズで分割すると共に、分割された複数の分割画像を欠陥品学習用分割画像DD1q,DD2u,DD3sとして記憶部30に記憶する処理を実行する(ステップS144)。
こうして正常品学習用分割画像LD1wk,LD2wm,LD3wyおよび欠陥品学習用分割画像DD1q,DD2u,DD3sが抽出された後、学習器26は、これら正常品学習用分割画像LD1wk,LD2wm,LD3wyおよび欠陥品学習用分割画像DD1q,DD2u,DD3sを用いて学習済モデル32の学習を行うと共に(ステップS124)、当該学習済モデル32を記憶部30に記憶して(ステップS126)、本ルーチンを終了する。学習済モデル32は、本発明における「第1学習済モデル」に対応する実施構成の一例である。
なお、ステップS112において、分割画像抽出部25が、枚数I,J,Xのいずれかが枚数Wより少ないと判定したときは、枚数Wよりも少ない枚数の正常品サンプル検査画像NE1i,NE2j,NE3xについては、記憶部30に記憶された全ての正常品サンプル検査画像NE1i,NE2j,NE3xを抽出すると共に、枚数W以上の正常品サンプル検査画像NE1i,NE2j,NE3xについては、記憶部30に記憶された当該正常品サンプル検査画像NE1i,NE2j,NE3xからW枚をランダムに抽出する処理を実行する(ステップS128)。
そして、抽出した枚数(I or J or X or W)の正常品サンプル検査画像NE1(w or i),NE2(w or j),NE3(w or x)からそれぞれk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出し、抽出したk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを正常品学習用分割画像LD1wk,LD2wm,LD3wyとして記憶部30に記憶する処理を実行した後(ステップS130)、ステップS118に戻って当該ステップS118以降の処理を実行する。
また、ステップS112において、分割画像抽出部25が、枚数I,J,Xの全てが枚数Wより少ないと判定したときは、記憶部30に記憶された全ての正常品サンプル検査画像NE1i,NE2j,NE3xを抽出すると共に(ステップS132)、抽出した全ての正常品サンプル検査画像NE1(w or i),NE2(w or j),NE3(w or x)からそれぞれk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出し、抽出したk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを正常品学習用分割画像LD1wk,LD2wm,LD3wyとして記憶部30に記憶する処理を実行した後(ステップS134)、ステップS118に戻って当該ステップS118以降の処理を実行する。
次に、判別処理ルーチンについて説明する。判別処理ルーチンは、例えば、各種コマンドボタンの中から「検査対象90の判別」ボタンを押したときに実行される。判別処理ルーチンは、主にコンピュータ1の画像取得部20、領域設定部21、検査画像抽出部22、分割部24、学習器26、および、判別部28により実行される。
判別処理が実行されると、図7に示すように、まず、画像取得部20は、カメラ70,72,74によって撮影され記憶部30に記憶された検査対象撮影画像50a,50b,50cを取得する処理を実行する(ステップS200)。
続いて、領域設定部21が、各検査対象撮影画像50a,50b,50cに対応する検査領域R1,R2,R3を設定する処理を実行する(ステップS202)。即ち、検査対象撮影画像50aに対しては検査領域R1を設定し、検査対象撮影画像50bに対しては検査領域R2を設定し、検査対象撮影画像50cに対しては検査領域R3を設定する。
そして、検査画像抽出部22が、各検査対象撮影画像50a,50b,50cから対応する検査領域R1,R2,R3を選択して、検出画像としての検査対象検査画像52a,52b,52cを抽出すると共に、抽出した検査対象検査画像52a,52b,52cを記憶部30に記憶する処理を実行する(ステップS204)。即ち、検査対象撮影画像50aから検査領域R1を選択して、検査対象検査画像52aを抽出し、検査対象撮影画像50bから検査領域R2を選択して、検査対象検査画像52bを抽出し、検査対象撮影画像50cから検査領域R3を選択して、検査対象検査画像52cを抽出する。ここで、各検査対象撮影画像50a,50b,50cから検査領域R1,R2,R3を選択する処理は、検査領域R1,R2,R3として設定された座標に基づいて行う構成や、テンプレート画像に対応する領域を選択する構成、その他公知の方法を適用することができる。
こうして検査画像抽出部22によって検査対象撮影画像50a,50b,50cが抽出されると、分割部24が、抽出した各検査対象撮影画像50a,50b,50cを所定サイズで分割すると共に、分割された複数の検査対象分割画像54a,54b,54cを記憶部30に記憶する処理を実行する(ステップS206)。
続いて、学習器26が、学習済モデル32を利用して、記憶部30に記憶された複数の検査対象分割画像54a,54b,54cについて特徴量を抽出する処理を実行する(ステップS208)。そして、判別部28が、抽出された特徴量に基づき、検査対象撮影画像50a,50b,50cに欠陥が存在するか否かの判別を行うと共に(ステップS210)、当該判別結果(検査対象撮影画像50a,50b,50cに欠陥が存在するか否か)を出力する処理を実行し(ステップS212)、さらに、判別済の検査対象撮影画像50a,50b,50c、検査対象検査画像52a,52b,52c、および、複数の検査対象分割画像54a,54b,54cを記憶部30に設けた判別対象画像領域56に移動して(ステップS214)、本ルーチンを終了する。
以上説明した本実施の形態に係る外観検査装置によれば、検査対象90の外観を複数のカメラ70,72,74によって異なる方向から撮影した検査対象撮影画像50a,50b,50cを撮影方向(カメラ70,72,74)毎に各別に記憶部30に記憶し、当該各別に記憶した検査対象撮影画像50a,50b,50cそれぞれから異なる検査領域R1,R2,R3を選択して検査対象検査画像52a,52b,52cを抽出し、抽出した各検査対象検査画像52a,52b,52cを所定サイズに分割すると共に、分割した複数の検査対象分割画像54a,54b,54cについて1つの学習済モデル32により特徴量を抽出するため、検査対象部位とは関係のない不要な領域の分割画像について特徴量を抽出する処理が発生しない。また、各別に記憶した複数の検査対象分割画像54a,54b,54cについて1つの学習済モデル32によって特徴量を抽出するため、複数の学習済モデルを作成する必要がない。これにより、学習済モデル32の作成に要する時間や、学習済モデル32の学習に要する時間、あるいは、欠陥の検出に要する時間の短縮を図ることができる。
また、本実施の形態に係る外観検査装置によれば、学習済モデル32が複数の正常品サンプル検査画像NE1i, NE2j, NE3xを用いた学習段階である場合に、学習済モデル32の学習に用いる正常品サンプル分割画像ND1k,ND2m,ND3yを以下の様に選定する。即ち、式(5)により学習済モデル32の学習に用いる画像の枚数Wを演算し、複数の正常品サンプル検査画像NE1i, NE2j, NE3xの中からW枚をランダムに抽出して、当該抽出した各正常品サンプル検査画像NE1w, NE2w, NE3wからそれぞれk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出する処理をそれぞれK回,M回,Y回実施するのである。なお、分割画像番号k,m,yの全てが値K,M,Yとなるまで、正常品サンプル分割画像ND1k,ND2m,ND3yを抽出する度に、記憶部30に記憶された複数の正常品サンプル検査画像NE1i,NE2j,NE3xから新たなW枚がランダムに抽出される。これにより、各正常品サンプル検査画像NE1i, NE2j, NE3xからの情報量を均等にすることができる。この結果、検査領域R1,R2,R3が異なるために生じ得る情報量の違いに起因して学習済モデル32(学習器26)の学習に偏りが発生することを抑制することができ、学習済モデル32(学習器26)を適正に学習させることができる。また、欠陥品の検出精度の向上を図ることができる。
なお、正常品サンプル検査画像NE1i, NE2j, NE3xの枚数I,J,Xが枚数Wに満たない場合には、当該枚数Wよりも少ない枚数I,J,Xを、学習済モデル32の学習に用いるための正常品サンプル検査画像NE1i,NE2j,NE3xの枚数として設定して、これらからそれぞれk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出する処理をそれぞれK回,M回,Y回実施するため、正常品サンプル検査画像NE1i, NE2j, NE3xの枚数I,J,Xが枚数Wに満たない場合であっても、検査領域R1,R2,R3が異なるために生じ得る情報量の違いを抑制することができる。
本実施の形態では、3つの異なるカメラ70,72,74によって、3方向から検査対象90を撮影する構成としたが、これに限らない。例えば、1つのカメラ70を移動させることによって、3方向から検査対象90を撮影しても良い。図15は、変形例の外観検査装置の機能構成を模式的に示す模式図である。変形例の外観検査装置は、1つのカメラ70によって3方向から検査対象90を撮影し、各方向からの撮影画像(正常品サンプル撮影画像NP1i,NP2j,NP3x、欠陥品サンプル撮影画像DP1f,DP2g,DP3h、検査対象撮影画像50a,50b,50c)を各別に記憶部30に記憶する点を除いて、上述した本実施形態の外観検査装置と同一の構成を有している。
本実施の形態では、3方向から検査対象90を撮影した各撮影画像(正常品サンプル撮影画像NP1i,NP2j,NP3x、欠陥品サンプル撮影画像DP1f,DP2g,DP3h、検査対象撮影画像50a,50b,50c)を用いる態様に適用したが、これに限らない。例えば、2方向から検査対象90を撮影した各撮影画像を用いる態様や、4方向以上から検査対象90を撮影した各撮影画像を用いる態様に適用しても良い。
本実施の形態では、同一の検査対象90の外観を複数の異なる方向から撮影した各撮影画像を用いる態様に適用したが、これに限らない。例えば、ベルトコンベアBCによって搬送されてくる仕様違いの2以上の検査対象(同じ製品ではあるが形状が異なる)を、同方向から撮影した各撮影画像を用いる態様に適用しても良い。この場合、仕様違いの2以上の検査対象を同方向から撮影した各撮影画像は、本発明における「第3撮影画像」や「第4撮影画像」に対応し、本態様において使用する検査領域R1,R2,R3は、本発明における「第3検査領域」や「第4検査領域に対応し、本態様において使用する正常品サンプル検査画像NE1i,NE2j,NE3xは、本発明における「第3正常信号付き検査画像」や「第4正常信号付き検査画像」に対応し、本態様において使用する欠陥品サンプル検査画像DE1f,DE2g,DE3hは、本発明における「第3異常信号付き検査画像」や「第4異常信号付き検査画像」に対応し、本態様において使用する検査対象検査画像52a,52b,52cは、本発明における「第3検査画像」や「第4検査画像」に対応し、本態様において使用する正常品サンプル分割画像ND1k,ND2m,ND3yは、本発明における「第3正常信号付き分割画像」や「第4正常信号付き分割画像」に対応し、本態様において使用する欠陥品サンプル分割画像DD1q,DD2u,DD3sは、本発明における「第3異常信号付き分割画像」や「第4異常信号付き分割画像」に対応し、本態様において使用する検査対象分割画像54a,54b,54cは、本発明における「第3分割画像」や「第4分割画像」に対応する実施構成の一例である。また、本態様において使用する正常品学習用分割画像LD1wk,LD2wm,LD3wyは、本発明における「第3正常信号付き分割画像Dk」や「第4正常信号付き分割画像Dm」に対応し、枚数I,J,Xは、本発明における「第3正常信号付き検査画像それぞれの枚数I」や「第4正常信号付き検査画像枚数J」に対する実施構成の一例である。
図16は、変形例の外観検査装置の機能構成を模式的に示す模式図である。変形例の外観検査装置は、3仕様の検査対象90a,90b,90cを1つのカメラ70によって同方向(1方向)から撮影し、各検査対象90a,90b,90cの撮影画像(正常品サンプル撮影画像NP1i,NP2j,NP3x、欠陥品サンプル撮影画像DP1f,DP2g,DP3h、検査対象撮影画像50a,50b,50c)を各別に記憶部30に記憶する点を除いて、上述した本実施形態の外観検査装置と同一の構成を有している。
本実施の形態および上述した変形例では、学習済モデル32の学習に用いる画像の枚数Wとして、学習済モデル32に入力可能な画像の枚数Tを各正常品サンプル検査画像NE1i, NE2j, NE3xの分割数K,M,Yの和で除した値を求め(W=T/(K+M+Y))、各正常品サンプル検査画像NE1i, NE2j, NE3xからランダムにW枚を抽出して、抽出した各正常品サンプル検査画像NE1w, NE2w, NE3wからそれぞれk番目,m番目,y番目の正常品サンプル分割画像ND1k,ND2m,ND3yを抽出する処理をそれぞれK回,M回,Y回実施する構成としたが、これに限らない。例えば、各正常品サンプル検査画像NE1w, NE2w, NE3wについて、学習済モデル32の学習段階において、予め学習器26によって特徴量を抽出して、各正常品サンプル検査画像NE1w, NE2w, NE3wの間で類似した特徴量を有する画像があることを確認できた場合、当該類似した特徴量を有する画像同士を紐づけして、当該紐づけされた画像全体(全枚数)から学習済モデル32の学習に用いる画像の枚数Wをランダムに抽出する構成としても良い。当該構成によれば、類似する特徴量を有する画像に関する情報量が多くなる方向に偏った状態で、学習済モデル32が学習されることを良好に抑制することができる。これにより、学習済モデル32をより一層適正に学習させることができる。この結果、欠陥の検出精度のより一層の向上を図ることができる。
本実施形態は、本発明を実施するための形態の一例を示すものである。したがって、本発明は、本実施形態の構成に限定されるものではない。
1 コンピュータ1(外観検査装置)
2 CPU
4 ROM
6 RAM
8 GPU
10 HDD
12 入出力インターフェイス
14 入力装置
20 画像取得部
21 領域設定部(領域設定部)
22 検査画像抽出部(検査画像抽出部)
24 分割部(分割部)
25 分割画像抽出部(分割画像抽出部)
26 学習器(学習器)
28 判別部(判別部)
30 記憶部(記憶部)
32 学習済モデル(第1学習済モデル、第2学習済モデル)
50a 検査対象撮影画像(第1撮影画像、第2撮影画像)
50b 検査対象撮影画像(第1撮影画像、第2撮影画像)
50c 検査対象撮影画像(第1撮影画像、第2撮影画像)
52a 検査対象検査画像(第1検査画像、第2検査画像)
52b 検査対象検査画像(第1検査画像、第2検査画像)
52c 検査対象検査画像(第1検査画像、第2検査画像)
54a 検査対象分割画像(第1分割画像、第2分割画像)
54b 検査対象分割画像(第1分割画像、第2分割画像)
54c 検査対象分割画像(第1分割画像、第2分割画像)
56 判別済検査対象画像領域
60 ディスプレイ
70 カメラ
72 カメラ
74 カメラ
80 バス
82 バスライン
90 検査対象(検査対象)
BC ベルトコンベア
NP1i 正常品サンプル撮影画像(第1撮影画像、第2撮影画像)
NP2j 正常品サンプル撮影画像(第1撮影画像、第2撮影画像)
NP3x 正常品サンプル撮影画像(第1撮影画像、第2撮影画像)
DP1f 欠陥品サンプル撮影画像(第1撮影画像、第2撮影画像)
DP2g 欠陥品サンプル撮影画像(第1撮影画像、第2撮影画像)
DP3h 欠陥品サンプル撮影画像(第1撮影画像、第2撮影画像)
NE1i 正常品サンプル検査画像(第1正常信号付き検査画像、第2正常信号付き検査画像)
NE2j 正常品サンプル検査画像(第1正常信号付き検査画像、第2正常信号付き検査画像)
NE3x 正常品サンプル検査画像(第1正常信号付き検査画像、第2正常信号付き検査画像)
DE1f 欠陥品サンプル検査画像(第1異常信号付き検査画像、第2異常信号付き検査画像)
DE2g 欠陥品サンプル検査画像(第1正常信号付き検査画像、第2正常信号付き検査画像)
DE3h 欠陥品サンプル検査画像(第1異常信号付き検査画像、第2異常信号付き検査画像)
ND1k 正常品サンプル分割画像(第1正常信号付き分割画像、第2正常信号付き分割画像)
ND2m 正常品サンプル分割画像(第1正常信号付き分割画像、第2正常信号付き分割画像)
ND3y 正常品サンプル分割画像(第1正常信号付き分割画像、第2正常信号付き分割画像)
DD1q 欠陥品サンプル分割画像(第1異常信号付き分割画像、第2異常信号付き分割画像)
DD2u 欠陥品サンプル分割画像(第1異常信号付き分割画像、第2異常信号付き分割画像)
DD3s 欠陥品サンプル分割画像(第1異常信号付き分割画像、第2異常信号付き分割画像)
NE1w ランダムに抽出した正常品サンプル検査画像
NE2w ランダムに抽出した正常品サンプル検査画像
NE3w ランダムに抽出した正常品サンプル検査画像
LD1wk 正常品学習用分割画像(第1正常信号付き分割画像Dk、第2正常信号付き分割画像Dm)
LD2wm 正常品学習用分割画像(第1正常信号付き分割画像Dk、第2正常信号付き分割画像Dm)
LD3wy 正常品学習用分割画像(第1正常信号付き分割画像Dk、第2正常信号付き分割画像Dm)
I 正常品サンプル撮影画像、正常品サンプル検査画像の枚数(第1正常信号付き検査画像それぞれの枚数I、第2正常信号付き検査画像枚数J)
J 正常品サンプル撮影画像、正常品サンプル検査画像の枚数(第1正常信号付き検査画像それぞれの枚数I、第2正常信号付き検査画像枚数J)
X 正常品サンプル撮影画像、正常品サンプル検査画像の枚数(第1正常信号付き検査画像それぞれの枚数I、第2正常信号付き検査画像枚数J)
F 欠陥品サンプル撮影画像、欠陥品サンプル検査画像の枚数
G 欠陥品サンプル撮影画像、欠陥品サンプル検査画像の枚数
H 欠陥品サンプル撮影画像、欠陥品サンプル検査画像の枚数
K 正常品サンプル分割画像の枚数、正常品サンプル検査画の分割数
M 正常品サンプル分割画像の枚数、正常品サンプル検査画の分割数
Y 正常品サンプル分割画像の枚数、正常品サンプル検査画の分割数
Q 欠陥品サンプル分割画像の枚数、欠陥品サンプル検査画像の分割数
S 欠陥品サンプル分割画像の枚数、欠陥品サンプル検査画像の分割数
U 欠陥品サンプル分割画像の枚数、欠陥品サンプル検査画像の分割数
R1 検査領域(第1検査領域、第2検査領域)
R2 検査領域(第1検査領域、第2検査領域)
R3 検査領域(第1検査領域、第2検査領域)
W 学習済モデルの学習に用いるための正常品サンプル検査画像の枚数
T 学習済モデルに入力可能な画像の枚数(第1学習済モデルに入力可能な画像枚数T1,第2学習済モデルに入力可能な画像枚数T2)

Claims (17)

  1. 検査対象の外観を検査する外観検査装置であって、
    前記検査対象の外観を少なくとも第1および第2方向から撮影した第1および第2撮影画像を取得する画像取得部と、
    前記第1および第2撮影画像の検査するべき領域としての第1および第2検査領域を設定する領域設定部と、
    前記第1および第2撮影画像から前記第1および第2検査領域を選択して、検査画像としての第1および第2検査画像を抽出する検査画像抽出部と、
    抽出した前記第1および第2検査画像を所定サイズの複数の第1および第2分割画像に分割する分割部と、
    複数の前記第1および第2分割画像について特徴量を抽出可能な第1学習済モデルを有する学習器と、
    前記特徴量に基づき前記第1および第2検査画像に欠陥があるか否かを判別する判別部と、
    を備える外観検査装置。
  2. 欠陥があるか否かの教師信号が付された複数の第1および第2正常信号付き検査画像,および,複数の第1および第2異常信号付き検査画像と、複数の前記第1および第2正常信号付き検査画像,および,複数の前記第1および第2異常信号付き検査画像を前記所定サイズで分割した複数の第1および第2正常信号付き分割画像,および,複数の第1および第2異常信号付き分割画像と、を記憶する記憶部と、
    複数の前記第1正常信号付き検査画像からの情報量と、複数の前記第2正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の前記第1および第2正常信号付き2検査画像から複数の前記第1および第2正常信号付き分割画像を抽出する分割画像抽出部と、
    をさらに備え、
    前記第1学習済モデルは、複数の前記第1および第2正常信号付き検査画像を用いた学習段階である場合、抽出された複数の前記第1および第2正常信号付き分割画像、および、記憶された複数の前記第1および第2異常信号付き分割画像について前記特徴量を抽出し、抽出した該特徴量に基づき学習を行う
    請求項1に記載の外観検査装置。
  3. 前記分割画像抽出部は、前記記憶部に記憶された前記第1および第2正常信号付き検査画像それぞれの枚数をIおよびJとし、該第1および第2正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各前記第1および第2正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の前記第1正常信号付き検査画像およびJ枚の前記第2正常信号付き検査画像それぞれから次式(1)により求まる枚数Wを任意に抽出し、抽出したW枚の該第1および第2正常信号付き検査画像それぞれからk番目およびm番目の前記第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、前記第1正常信号付き検査画像についてはK回、前記第2正常信号付き検査画像についてはM回実施する
    請求項2に記載の外観検査装置。
    (式1)
    W=T1/(K+M)・・・・・・(1)
    ただし、T1は、前記第1学習済モデルに入力可能な画像枚数である。
  4. 前記分割画像抽出部は、前記第1正常信号付き検査画像の枚数Iまたは前記第2正常信号付き検査画像の枚数Jが前記枚数W未満の場合には、全ての前記第1および第2正常信号付き検査画像それぞれからk番目およびm番目の前記第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、前記第1正常信号付き検査画像についてはK回、前記第2正常信号付き検査画像についてはM回実施する
    請求項3に記載の外観検査装置。
  5. 第1および第2検査対象の外観を検査する外観検査装置であって、
    少なくとも前記第1および第2検査対象の外観を第3方向から撮影した第3および第4撮影画像を取得する画像取得部と、
    前記第3および第4撮影画像の検査するべき領域としての第3および第4検査領域を設定する領域設定部と、
    前記第3および第4撮影画像から前記第3および第4検査領域を選択して、検査画像としての第3および第4検査画像を抽出する検査画像抽出部と、
    抽出した前記第3および第4検査画像を所定サイズの複数の第3および第4分割画像に分割する分割部と、
    複数の前記第3および第4分割画像について特徴量を抽出可能な第2学習済モデルを有する学習器と、
    前記特徴量に基づき前記第3および第4検査画像に欠陥があるか否かを判別する判別部と、
    を備える外観検査装置。
  6. 欠陥があるか否かの教師信号が付された複数の第3および第4正常信号付き検査画像,および,複数の第3および第4異常信号付き検査画像と、複数の前記第3および第4正常信号付き検査画像,および,複数の前記第3および第4異常信号付き検査画像を前記所定サイズで分割した複数の第3および第4正常信号付き分割画像,および,複数の第3および第4異常信号付き分割画像と、を記憶する記憶部と、
    複数の前記第3正常信号付き検査画像からの情報量と、複数の前記第4正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の前記第3および第4正常信号付き検査画像から複数の前記第3および第4正常信号付き分割画像を抽出する分割画像抽出部と、
    をさらに備え、
    前記第2学習済モデルは、複数の前記第3および第4正常信号付き検査画像を用いた学習段階である場合、抽出された複数の前記第3および第4正常信号付き分割画像、および、記憶された複数の前記第3および第4異常信号付き分割画像について前記特徴量を抽出し、抽出した該特徴量に基づき学習を行う
    請求項5に記載の外観検査装置。
  7. 前記分割画像抽出部は、前記記憶部に記憶された前記第3および第4正常信号付き検査画像それぞれの枚数をIおよびJとし、該第3および第4正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各前記第3および第4正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の前記第3正常信号付き検査画像およびJ枚の前記第4正常信号付き検査画像それぞれから次式(2)により求まる枚数Wを任意に抽出し、抽出したW枚の該第3および第4正常信号付き検査画像それぞれからk番目およびm番目の前記第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、前記第3正常信号付き検査画像についてはK回、前記第4正常信号付き検査画像についてはM回実施する
    請求項6に記載の外観検査装置。
    (式2)
    W=T2/(K+M)・・・・・・(2)
    ただし、T2は、前記第2学習済モデルに入力可能な画像枚数である。
  8. 前記分割画像抽出部は、前記第3正常信号付き検査画像の枚数Iまたは前記第4正常信号付き検査画像の枚数Jが前記枚数W未満の場合には、全ての前記第3および第4正常信号付き検査画像それぞれからk番目およびm番目の前記第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、前記第3正常信号付き検査画像についてはK回、前記第4正常信号付き検査画像についてはM回実施する
    請求項7に記載の外観検査装置。
  9. 検査対象の外観を検査する外観検査方法であって、
    (a)前記検査対象の外観を少なくとも第1および第2方向から撮影した第1および第2撮影画像を取得し、
    (b)前記第1および第2撮影画像の検査するべき領域としての第1および第2検査領域を設定し、
    (c)前記第1および第2撮影画像から前記第1および第2検査領域を選択して、検査画像としての第1および第2検査画像を抽出し、
    (d)抽出した前記第1および第2検査画像を所定サイズの複数の第1および第2分割画像に分割し、
    (e)複数の前記第1および第2分割画像について第1学習済モデルを用いて特徴量を抽出し、
    (f)抽出した前記特徴量に基づき前記第1および第2検査画像に欠陥があるか否かを判別する
    外観検査方法。
  10. 欠陥があるか否かの教師信号が付された複数の第1および第2正常信号付き検査画像,および,複数の第1および第2異常信号付き検査画像と、複数の前記第1および第2正常信号付き検査画像,および,複数の前記第1および第2異常信号付き検査画像を前記所定サイズで分割した複数の第1および第2正常信号付き分割画像,および,複数の第1および第2異常信号付き分割画像と、を記憶するステップ(g)と、
    複数の前記第1正常信号付き検査画像からの情報量と、複数の前記第2正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の前記第1および第2正常信号付き2検査画像から複数の前記第1および第2正常信号付き分割画像を抽出するステップ(h)と、
    をさらに備え、
    前記ステップ(e)は、前記第1学習済モデルが複数の前記第1および第2正常信号付き検査画像を用いた学習段階である場合、前記ステップ(h)で抽出した複数の前記第1および第2正常信号付き分割画像、および、記憶された複数の前記第1および第2異常信号付き分割画像について前記特徴量を抽出し、抽出した該特徴量に基づき学習を行うステップを含んでいる
    請求項9に記載の外観検査方法。
  11. 前記ステップ(h)は、記憶した前記第1および第2正常信号付き検査画像それぞれの枚数をIおよびJとし、該第1および第2正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各前記第1および第2正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の前記第1正常信号付き検査画像およびJ枚の前記第2正常信号付き検査画像それぞれから次式(3)により求まる枚数Wを任意に抽出し、抽出したW枚の該第1および第2正常信号付き検査画像それぞれからk番目およびm番目の前記第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、前記第1正常信号付き検査画像についてはK回、前記第2正常信号付き検査画像についてはM回実施するステップを含んでいる
    請求項10に記載の外観検査方法。
    (式3)
    W=T1/(K+M)・・・・・・(3)
    ただし、T1は、前記第1学習済モデルに入力可能な画像枚数である。
  12. 前記ステップ(h)は、前記第1正常信号付き検査画像の枚数Iまたは前記第2正常信号付き検査画像の枚数Jが前記枚数W未満の場合には、全ての前記第1および第2正常信号付き検査画像それぞれからk番目およびm番目の前記第1および第2正常信号付き分割画像Dk,Dmを抽出する作業を、前記第1正常信号付き検査画像についてはK回、前記第2正常信号付き検査画像についてはM回実施する
    請求項11に記載の外観検査方法。
  13. 第1および第2検査対象の外観を検査する外観検査方法であって、
    (i)少なくとも前記第1および第2検査対象の外観を第3方向から撮影した第3および第4撮影画像を取得し、
    (j)前記第3および第4撮影画像の検査するべき領域としての第3および第4検査領域を設定し、
    (k)前記第3および第4撮影画像から前記第3および第4検査領域を選択して、検査画像としての第3および第4検査画像を抽出し、
    (l)抽出した前記第3および第4検査画像を所定サイズの複数の第3および第4分割画像に分割し、
    (m)複数の前記第3および第4分割画像について第2学習済モデルを用いて特徴量を抽出し、
    (n)抽出した前記特徴量に基づき前記第3および第4検査画像に欠陥があるか否かを判別する
    外観検査方法。
  14. 欠陥があるか否かの教師信号が付された複数の第3および第4正常信号付き検査画像,および,複数の第3および第4異常信号付き検査画像と、複数の前記第3および第4正常信号付き検査画像,および,複数の前記第3および第4異常信号付き検査画像を前記所定サイズで分割した複数の第3および第4正常信号付き分割画像,および,複数の第3および第4異常信号付き分割画像と、を記憶するステップ(o)と、
    複数の前記第3正常信号付き検査画像からの情報量と、複数の前記第4正常信号付き検査画像からの情報量と、が等しくなる態様で、複数の前記第3および第4正常信号付き検査画像から複数の前記第3および第4正常信号付き分割画像を抽出するステップ(p)と、
    をさらに備え、
    前記ステップ(m)は、前記第2学習済モデルが複数の前記第3および第4正常信号付き検査画像を用いた学習段階である場合、前記ステップ(p)で抽出した複数の前記第3および第4正常信号付き分割画像、および、記憶された複数の前記第3および第4異常信号付き分割画像について前記特徴量を抽出し、抽出した該特徴量に基づき学習を行うステップを含んでいる
    請求項13に記載の外観検査方法。
  15. 前記ステップ(p)は、記憶された前記第3および第4正常信号付き検査画像それぞれの枚数をIおよびJとし、該第3および第4正常信号付き検査画像それぞれの分割数をKおよびMとし、分割された各前記第3および第4正常信号付き分割画像をそれぞれDk(k=1,2,・・・,Kである。以下同様)およびDm(m=1,2,・・・,Mである。以下同様)としたとき、I枚の前記第3正常信号付き検査画像およびJ枚の前記第4正常信号付き検査画像それぞれから次式(4)により求まる枚数Wを任意に抽出し、抽出したW枚の該第3および第4正常信号付き検査画像それぞれからk番目およびm番目の前記第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、前記第3正常信号付き検査画像についてはK回、前記第4正常信号付き検査画像についてはM回実施するステップを含んでいる
    請求項14に記載の外観検査方法。
    (式4)
    W=T2/(K+M)・・・・・・(4)
    ただし、T2は、前記第2学習済モデルに入力可能な画像枚数である。
  16. 前記ステップ(p)は、前記第3正常信号付き検査画像の枚数Iまたは前記第4正常信号付き検査画像の枚数Jが前記枚数W未満の場合には、全ての前記第3および第4正常信号付き検査画像それぞれからk番目およびm番目の前記第3および第4正常信号付き分割画像Dk,Dmを抽出する作業を、前記第3正常信号付き検査画像についてはK回、前記第4正常信号付き検査画像についてはM回実施する
    請求項15に記載の外観検査方法。
  17. 検査対象または第1および第2検査対象の外観を検査するためのプログラムであって、
    請求項9ないし16のいずれか1項に記載の外観検査方法の各ステップを1又は複数のコンピュータに実行させるためのプログラム。
JP2020126173A 2020-07-27 2020-07-27 外観検査装置および外観検査方法、並びに、これに用いるプログラム Pending JP2022023320A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020126173A JP2022023320A (ja) 2020-07-27 2020-07-27 外観検査装置および外観検査方法、並びに、これに用いるプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020126173A JP2022023320A (ja) 2020-07-27 2020-07-27 外観検査装置および外観検査方法、並びに、これに用いるプログラム

Publications (1)

Publication Number Publication Date
JP2022023320A true JP2022023320A (ja) 2022-02-08

Family

ID=80226090

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020126173A Pending JP2022023320A (ja) 2020-07-27 2020-07-27 外観検査装置および外観検査方法、並びに、これに用いるプログラム

Country Status (1)

Country Link
JP (1) JP2022023320A (ja)

Similar Documents

Publication Publication Date Title
US10964013B2 (en) System, method for training and applying defect classifiers in wafers having deeply stacked layers
US10311559B2 (en) Information processing apparatus, information processing method, and storage medium
KR20190063839A (ko) 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템
CN109426835B (zh) 信息处理装置、信息处理装置的控制方法和存储介质
US20130034305A1 (en) Image-based crack quantification
CN105787923A (zh) 用于平面表面分割的视觉系统和分析方法
US20170330315A1 (en) Information processing apparatus, method for processing information, discriminator generating apparatus, method for generating discriminator, and program
JP7059883B2 (ja) 学習装置、画像生成装置、学習方法、及び学習プログラム
TW202105549A (zh) 對樣本的缺陷檢測的方法及其系統
JP2007334766A (ja) 異常領域検出装置および異常領域検出方法
JP2015041164A (ja) 画像処理装置、画像処理方法およびプログラム
JP2016179534A (ja) 情報処理装置、情報処理方法、プログラム
JP2019158628A (ja) 検査装置、検査方法、及び検査プログラム
CN113705669A (zh) 一种数据匹配方法、装置、电子设备以及存储介质
US20190066285A1 (en) Image inspection apparatus, image inspection method, and image inspection program
JP2018036770A (ja) 位置姿勢推定装置、位置姿勢推定方法、及び位置姿勢推定プログラム
US11989928B2 (en) Image processing system
JP6786015B1 (ja) 動作分析システムおよび動作分析プログラム
WO2016092783A1 (en) Information processing apparatus, method for processing information, discriminator generating apparatus, method for generating discriminator, and program
JP2022023320A (ja) 外観検査装置および外観検査方法、並びに、これに用いるプログラム
CN113160414B (zh) 货物余量自动识别方法、装置、电子设备以及计算机可读介质
WO2016092779A1 (en) Information processing apparatus, information processing method, and program
Shao et al. Damage Detection of the RC Building in TLS Point Clouds Using 3D Deep Neural Network PointNet++
JP7327984B2 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2015136716A1 (ja) 画像処理装置、画像センサ、画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240110

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240625