JP2015041164A - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2015041164A
JP2015041164A JP2013170842A JP2013170842A JP2015041164A JP 2015041164 A JP2015041164 A JP 2015041164A JP 2013170842 A JP2013170842 A JP 2013170842A JP 2013170842 A JP2013170842 A JP 2013170842A JP 2015041164 A JP2015041164 A JP 2015041164A
Authority
JP
Japan
Prior art keywords
defect candidate
defect
feature
image
candidate area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013170842A
Other languages
English (en)
Inventor
友貴 藤森
Tomoki Fujimori
友貴 藤森
裕輔 御手洗
Hirosuke Mitarai
裕輔 御手洗
克彦 森
Katsuhiko Mori
克彦 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013170842A priority Critical patent/JP2015041164A/ja
Publication of JP2015041164A publication Critical patent/JP2015041164A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】製造プロセスが変更になったり、環境変動が生じたりしても欠陥検出精度が劣化しない検査技術を提供する【解決手段】画像処理装置に、検査対象物の画像データから抽出される複数の第1特徴量に基づいて、各領域の中から欠陥候補点を検出する欠陥候補点検出手段と、検出された前記欠陥候補点に基づいて、欠陥候補領域を設定する欠陥候補領域設定手段と、前記欠陥候補領域を除く領域に対して、非欠陥候補領域を設定する非欠陥候補領域設定手段と、前記欠陥候補領域及び前記非欠陥候補領域のそれぞれから第2特徴量を算出する第2特徴量算出手段と、複数の非欠陥候補領域から抽出した第2特徴量に基づき、正常モデル識別器を生成する正常モデル識別器生成手段と、前記正常モデル識別器を用いて、前記検査対象物の欠陥の有無を判定する欠陥判定手段と、を備える。【選択図】 図2

Description

本発明は、検査対象領域の中から欠陥を検出する画像処理装置、画像処理方法およびプログラムに関する。
例えば、表面のキズや凹み等の欠陥の検出を行う外観検査は、目視で行うことが多いが、この工程は検査員の負荷が高く、自動化が検討されている。欠陥の自動検出手法の多くは、あらかじめ用意した正常データと検出対象データとの差を閾値と比較して、正常・異常を判断する。正常データと検出対象データとの比較に使用する特徴や、閾値等のパラメータの調整は、成功率に直結するが、その調整には専門の知識が必要であり、手間もかかっている。
そのため、特許文献1では、あらかじめ用意した正常・異常データの分離度に基づいて特徴量間の組合せを評価し、検出に使用する特徴を選択する。そして、選択された特徴に基づき、部分空間法により正常・異常判定を行う技術が開示されている。
また、特許文献2では、汎用的な特徴を使用し、部分空間法を使用して欠陥検出を行う技術が開示されている。
特開2010−102690号公報 特許第4603512号公報
石井健一郎,上田修功,前田英作,村瀬洋,"わかりやすいパターン認識",オーム社,東京,1998. 麻生英樹,津田宏治,村田昇,"パターン認識と学習の統計学",岩波書店,東京,2003.
製造プロセスの変更や環境の変動によっては、欠陥の種類や表質の仕方が異なることがある。そのため、あらかじめ用意したデータに基づいて設定した識別器やパラメータではそのような変動によって欠陥検出精度が劣化する場合がある。
そこで本発明は、製造プロセスが変更になったり、環境変動が生じたりしても欠陥検出精度が劣化しない検査技術を提供することにある。
本発明の画像処理装置は、画像データから抽出される複数の第1特徴量に基づいて、各領域の中から欠陥候補点を検出する欠陥候補点検出手段と、検出された前記欠陥候補点に基づいて、欠陥候補領域を設定する欠陥候補領域設定手段と、前記欠陥候補領域を除く領域に対して、非欠陥候補領域を設定する非欠陥候補領域設定手段と、前記欠陥候補領域及び前記非欠陥候補領域のそれぞれから第2特徴量を算出する第2特徴量算出手段と、複数の非欠陥候補領域から抽出した第2特徴量に基づき、正常モデル識別器を生成する正常モデル識別器生成手段と、前記正常モデル識別器を用いて、欠陥の有無を判定する欠陥判定手段と、を備えることを特徴とする。
本発明によれば、検査対象の欠陥候補領域、非欠陥候補領域を検出し、正常モデル識別器をオンラインで生成することにより、製造プロセスが変更になったり、環境変動が生じたりしても、高精度な欠陥検出が可能になる。
第1の実施形態におけるパターン認識システムの構成例を示す図。 第1の実施形態におけるパターン認識装置101の機能ブロック図である。 第1の実施形態におけるパターン認識装置101のパターン認識処理の流れを示すフローチャートである。 第1の実施形態におけるハール・ウェーブレット変換の概略図である。 第1の実施形態における欠陥候補領域502と非欠陥候補領域503の設定方法を示す概略図である。 第1の実施形態における表示装置103の概略図である。 第2の実施形態におけるパターン認識装置101のパターン認識処理の流れを示すフローチャートである。 第2の実施形態における特徴量の評価値の算出方法の概略図を示す。 第3の実施形態におけるパターン認識装置101のパターン認識処理の流れを示すフローチャートである。 第3の実施形態における特徴空間上の正常モデルと欠陥の種類の関係を示す概略図である。
[第1の実施形態]
検査ライン上で、検査対象物が運ばれており、画像を撮影して検査し、検査結果を表示するタスクを例として、説明を行う。以下、図面を用いて第1の実施形態を詳細に述べる。
図1は、第1の実施形態におけるパターン認識装置の構成を示した図である。パターン認識装置101は、検査を行う。パターン認識装置101には、撮像装置102で撮影された画像が入力される。
撮像装置102は、検査対象物104の画像の撮影を行う。
表示装置103は、欠陥の位置・種類を表示し、液晶モニタなどから構成され、パターン認識装置101から送信される認識結果を表示する。
欠陥の可視化のために、光源105から検査対象物104に光を照射し、撮像装置102で画像を撮影する。
図2は、本実施形態におけるパターン認識装置101をより詳しく示した図である。
欠陥候補点検出部201は、撮像装置103により検査対象領域を撮像して得られた画像データから第1特徴量を算出し、第1特徴量の算出位置に基づいて、欠陥候補点を検出する。第1特徴量については後述する。
欠陥候補領域設定部202は、検出された欠陥候補点に基づいて検査対象領域内に欠陥候補領域を設定する。
非欠陥候補領域設定部203は、欠陥候補領域設定部202で設定された欠陥候補領域以外の領域を非欠陥候補領域としてランダムに選択し設定する。
第2特徴量算出部204は、欠陥候補領域と非欠陥候補領域とのそれぞれから複数の第2特徴量を算出する。
正常モデル識別器生成部205は、非欠陥候補領域から求めた第2特徴量を用いて正常モデル識別器を生成する。
欠陥判定部206は、生成された正常モデル識別器と欠陥候補領域から求めた第2特徴量とを用いて、正常モデルと欠陥候補領域から求めた第2特徴量とを比較して、欠陥候補領域から求めた第2特徴量の異常度を算出する。そして、算出された異常度を閾値処理することにより、欠陥の有無を判定する。
図3に、本実施形態における処理のフローチャートを示す。検査対象物の欠陥検出のタスクを例に、ステップS301からステップS307までの処理を説明する。
(ステップS301:データ入力)
ステップS301では、撮影された画像データの入力を行う。なお、検査対象領域が画像上の一部であるときは、検査対象領域のみを評価対象として入力をおこなう。
(ステップS302:第1特徴量から欠陥候補点を検出)
ステップS302では、欠陥候補点の検出をおこなう。画像の検査対象領域から、第1特徴量を抽出し、第1特徴量に基づいて欠陥候補点を検出する。
第1特徴量としては、
1)輝度値の最大値や、
2)輝度画像から横方向u軸の微分量,縦方向v軸の微分量を算出し、異なる方向の微分量の平方和をそれぞれの画素に対して算出して得られる平方和の最大値
を用いる。
輝度値が最大値となる座標や、前記平方和が最大値となる座標を、欠陥候補点の座標として検出する。
複数の第1特徴量を用いる場合は、たとえば対象画像の注目領域に対して、ハール・ウェーブレット(Haar Wavelet)変換をかけて、階層的に画像を生成する。ハール・ウェーブレット変換とは、簡単に述べると、位置情報を保持したまま周波数変換する処理である。
図4にハール・ウェーブレット変換の概略図を示す。まず、対象画像に対して、4種類のフィルタ(式1−1〜1−4)を用意する。
Figure 2015041164
式1−1が縦方向高周波数成分フィルタ(HL)、式1−2が横方向高周波数成分フィルタ(LH)、式1−3が対角方向高周波数成分フィルタ(HH)、式1−4が低周波数成分フィルタ(LL)を示す。対象画像の2×2の画素に対して、上記のフィルタで内積をとる。2×2の領域を重ね合わせることなく、移動させて、解像度が2分の1になるように、縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の4種類の画像を生成する。
この際、解像度は2分の1になるので、たとえばハール・ウェーブレット変換を8回繰り返すのであれば、画像サイズは2の8乗の倍数に設定しておくことが好ましい。
生成された低周波成分画像に対して再度4種類のフィルタを適用して、解像度が更に2分の1となるように、次の階層の縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の四種類の画像を生成する。
つまり、第1の階層の画像から、縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の4種類の画像を生成する。
そして、第1の階層の画像から生成された低周波成分画像から、第2の階層の縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の4種類の画像を生成する。
さらに、第2の階層の画像から生成された低周波成分画像から、第3の階層の縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の4種類の画像を生成する。
このような画像生成を繰り返すことによって各階層で縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像の3種類の高周波数成分画像を生成する。各階層で生成した縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像の3種類の高周波数成分画像から、階層ごとに3種類の高周波成分画像の和画像、高周波成分画像の二乗和画像、高周波成分画像の絶対値和画像を生成する。結果としてハール・ウェーブレット変換を8回行い、各階層から7画像生成されるので、56画像が生成される。これに加えて入力画像が追加されるので、以下の合計57画像が生成される。
1)入力画像
2)第1〜第8階層の各階層の縦方向高周波成分画像
3)第1〜第8階層の各階層の横方向高周波成分画像
4)第1〜第8階層の各階層の対角方向高周波成分画像
5)第1〜第8階層の各階層の低周波成分画像
6)第1〜第8階層の各階層の3種類の高周波成分画像の和画像
7)第1〜第8階層の各階層の3種類の高周波成分画像の二乗和画像
8)第1〜第8階層の各階層の3種類の高周波成分画像の絶対値和画像
ハール・ウェーブレット変換前の1種類の画像(入力画像)と、ハール・ウェーブレット変換を行った56種類の画像との合計57種類の画像に対して、第1特徴量を算出する。ここで、第1特徴量としては、例えば
1)輝度値の最大値と、
2)輝度画像から横方向u軸の微分量,縦方向v軸の微分量を算出し、縦横2方向の微分量の平方和をそれぞれの画素で算出して得られる平方和の最大値
を用いる。
画素の輝度値が最大となる位置を算出する方法を式2に示し、画像上の異なる2方向の微分量の平方和が最大となる位置を算出する方法を式3に示す。
式2、式3のpは入力画像pを示し、画像上の座標位置を横軸であるu軸,縦軸であるv軸の画像に対して、第1特徴量算出位置(u,v)=(i,j)を示す。
ただし、ハール・ウェーブレット変換を行うごとに、縦、横それぞれが2分の1のサイズの画像が生成される。このため、q番目の階層の画像に対しては、ハール・ウェーブレット変換をかける前の座標において、座標位置i、jを利用し、(u,v)=(2×i,2×j)として求める。
つまり、ハール・ウェーブレット変換開始前の最初の階層を0番目の階層とし、変換を1回行った後の画像を1番目の階層の画像としたとき、q番目の階層の画像から得られた座標(i,j)は、0番目の階層の画像の座標(2×i,2×j)に相当する。
このようにして、ハール・ウェーブレット変換をかけて生成された57種類の画像に対して、画像ごとに式2を用いて1か所、式3を用いて1か所の合計2か所の第1特徴量算出位置(欠陥候補点)を求める。よって57種類の画像のそれぞれについて2か所、合計114か所(以下、M箇所とする)の欠陥候補点を求める。
本実施形態では、輝度値の最大値算出位置と、輝度値の縦横2方向の微分量の平方和の最大値算出位置を用いて欠陥候補点を求めた。しかし、欠陥候補点が少ないときは、最大値算出位置だけを用いるのではなく、最大値算出位置からL番目に大きい値までの算出位置の全てを用いてもよい。つまり、最大値算出位置、2番目に大きい値の算出位置、3番目に大きい値の算出位置、・・、L−1番目に大きい値の算出位置、L番目に大きい値の算出位置の全てを欠陥候補点として用いてもよい。
また、輝度値が閾値以上の値をもつ座標位置の全てを欠陥候補点としてもよい。
Figure 2015041164
(ステップS303:欠陥候補領域を設定)
ステップS303では、欠陥候補領域の設定を行う。図5は欠陥候補領域設定方法と非欠陥候補領域設定方法の例を示す図である。検査対象領域501に対して、ステップS303で欠陥候補領域を設定し、後述のステップS304で非欠陥候補領域を設定する。
図5中の欠陥候補領域502は、ステップS302で算出したM箇所の欠陥候補点を中心として、a×bピクセル(aは横方向の画素数、bは縦方向の画素数)の矩形領域を設定する。
なお、a×bピクセルの矩形領域の一部が検査対象領域501の外へはみ出してしまう場合は、矩形領域の中心位置をずらさないで、矩形領域の検査対象領域501からはみ出してしまう部分を削り、検査対象領域501内の部分のみを利用してもよい。また、矩形領域全体が検査対象領域501内に収まるように、矩形領域の中心位置を移動するとしてもよい。
(ステップS304:非欠陥候補領域を設定)
ステップS304では、非欠陥候補領域の設定をおこなう。ステップS302で設定したM個の矩形領域を避けるように、非欠陥候補領域を設定する。
図5中の非欠陥候補領域503は、検査対象領域501に対して、M箇所の欠陥候補領域502を除いた領域から設定する。M箇所の欠陥候補領域502と重ならないようにa×bピクセルの領域を非欠陥候補領域503としてランダムにN箇所、設定する。
(ステップS305:第2特徴量を算出)
ステップS305では、ステップS303で求めた欠陥候補領域502とステップS304で求めた非欠陥候補領域503のそれぞれに対して、複数の第2特徴量を算出する。欠陥候補領域502と非欠陥候補領域503に共通する第2特徴量として、最大値、平均、分散といった特徴量を算出する。最大値の算出方法は式4に、平均の算出方法は式5に、分散の算出方法は式6に示す。縦i番目、横j番目の画素値をp(i,j)とする。
ステップS302で求めたハール・ウェーブレット変換後のある階層の画像(縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像又は低周波成分画像)から最大値、平均、分散といった特徴量を求めてもよい。
また、ある階層の高周波成分画像の和画像、高周波数成分画像の二乗和画像または高周波成分画像の絶対値和画像から、最大値、平均、分散を求めてもよい。
ただし、ハール・ウェーブレット変換を1回行うごとに、検査対象領域501の縦横のサイズがそれぞれ2分の1になるので、欠陥候補領域502と非欠陥候補領域503の中心座標を縦軸横軸のそれぞれで2分の1の値にする必要がある。また、同時に欠陥候補領域502と非欠陥候補領域503のサイズも縦横それぞれで2分の1にする必要がある。
Figure 2015041164
(ステップS306:正常モデル識別器を生成)
ステップS306では、ステップS305で求めたN箇所の非欠陥候補領域から求められた第2特徴量を利用して学習し、正常モデル識別器を生成する。正常モデル識別器とは、良品データを利用して、特徴空間上に良品のモデルを生成し、モデル内に含まれれば良品と判定し、モデル外に含まれれば、不良品と判定する仕組みである。正常モデル識別器として、1クラス識別器を用いる。1クラス識別器としては部分空間法を用いた識別器、1クラスSVM(サポート・ベクター・マシン)、楕円体モデルを用いた識別器が存在するが、いずれを用いてもよい。
部分空間法については非特許文献1に開示されており、1クラスSVMについては非特許文献2に開示されている。本実施形態ではオンラインで処理するので、計算時間が比較的短い楕円体モデルを用いた識別器を利用する。
楕円体モデルとは、式7を用いて算出されるマハラノビス距離を評価関数として異常度を算出し、欠陥か非欠陥かを識別するものである。
まず、M箇所の欠陥候補領域すべてに対して、最大値(式4)、平均(式5)、分散(式6)からなるi番目の欠陥候補領域iの特徴ベクトルx(i=1,2,…,M)を求める。なお、このiは画素の位置を示すiとは無関係である。
特徴ベクトルx=(欠陥候補領域iの最大値,欠陥候補領域iの平均,欠陥候補領域iの分散)
次に、N箇所の非欠陥候補領域のそれぞれに対して、最大値(式4)、平均(式5)、分散(式6)からなる非欠陥候補領域jの特徴ベクトルx(j=1,2,…,N)を求める。
特徴ベクトルx=(非欠陥候補領域jの最大値,非欠陥候補領域jの平均,非欠陥候補領域jの分散)
そして、非欠陥候補領域の平均ベクトルμを求める。
非欠陥候補領域の平均ベクトルμ=(x+x+・・・+x+・・・+x)/N
次に、欠陥候補領域の特徴ベクトルxと非欠陥候補領域の平均ベクトルμから分散共分散行列Σを求め、さらに、式7により欠陥候補領域のマハラノビス距離ΔMiを算出する。
また、非欠陥候補領域の特徴ベクトルxと非欠陥候補領域の平均ベクトルμから分散共分散行列Σを求め、さらに、式8により非欠陥候補領域のマハラノビス距離ΔNjを算出する。
Figure 2015041164
(ステップS307:欠陥の有無を判定)
ステップS307では、ステップS306で式7により求めた欠陥候補領域のマハラノビス距離ΔMiと、式8により求めた非欠陥候補領域のマハラノビス距離ΔNjをのそれぞれを閾値処理により分類し、欠陥の有無を判定する。閾値以上であれば、欠陥有と判定し、閾値未満であれば、欠陥無と判定する。そして、この判定結果を、図1の表示装置103により、表示する。表示方法については、図6に例を示す。
図6に示すように、検査対象物601の欠陥の位置を表示装置103に表示する。
第1の実施形態にかかるパターン認識方法によれば、検査対象の欠陥候補領域及び非欠陥候補領域を検出し、非欠陥候補領域に基づく正常モデル識別器により、欠陥候補領域の欠陥の有無を再評価することと、表示装置103に欠陥位置を表示することができる。
[第2の実施形態]
第1の実施形態では、すべての第2特徴量を用いて正常モデル識別器を作成した。
これに対し、第2の実施形態では、第2特徴量選択手段が選択した第2特徴量を利用して正常モデル識別器を生成する。
図7に本実施形態における処理のフローチャートを示す。なお、第2の実施形態で示した図7のステップS701、ステップS702、ステップS703、ステップS704、ステップS707、ステップS708は、第1の実施形態で示した図3のステップS301、ステップS302、ステップS303、ステップS304、ステップS306、ステップS307と同じであるので説明は省略する。
(ステップS705:第2特徴量の抽出)
ステップS705では、欠陥候補領域と非欠陥候補領域のそれぞれに対して、特徴選択を利用し共通する複数の特徴量を抽出する。まず、はじめにステップS703で設定した欠陥候補領域とステップS704で設定した非欠陥候補領域から第2特徴量を抽出する。
これらの画像から、第2特徴量として、式4、式5、式6で示した最大値、平均、分散といった特徴量に加えて、コントラスト、最大値―最小値、歪度、尖度、相乗平均といった特徴量を網羅的に抽出する。コントラストの算出方法は式9に、最大値―最小値の算出方法は式10に、歪度の算出方法は式11に、尖度の算出方法は式12に、相乗平均の算出方法は式13に示す。これらの合計8種類の特徴量を抽出する。前述の57種類の各画像に対して、8種類の特徴量を抽出することになるので、57×8=456個(以下、L個とする)の第2特徴量を抽出することになる。
Figure 2015041164
(ステップS706:第2特徴量の選択)
ステップS706では、ステップS705で求められた第2特徴量の中から、特許文献1に開示されているような正常モデル識別器に基づく特徴選択手法を用いて、特徴量の選択を行う。
図8を用いて、特徴量の評価値の算出方法を説明する。非欠陥候補領域における第2特徴量を算出し、非欠陥候補領域のすべての第2特徴量を各第2特徴量の標準偏差で正規化する。正規化されたL個の第2特徴量から2つの特徴量を選択し、図8のような2次元の特徴空間をとおりの組合せだけ生成する。
図8中の801は2次元の特徴空間に分布する第2特徴量の重心Gを示し、重心Gからすべてのデータに対するユークリッド距離dを求め、重心Gから最も離れているデータへのユークリッド距離dmaxを評価値として求め、特徴選択をおこなう。
なお、このユークリッド距離dmaxが小さければ小さいほど、欠陥データと分離すると考えられる。とおりのすべての特徴量の組合せに対して、このユークリッド距離dmaxを求め、これを評価値として特許文献1に示されている組合せを考慮した特徴選択手法で第2特徴量を選択する。
例えば、ベイズ誤り確率推定値が最も低くなる第2特徴量の組合せを選択する。また、クラス内分散・クラス間分散比を評価値として第2特徴量の組合せを選択しても良い。
なお、本実施形態ではオンラインで第2特徴量を選択することを前提としたが、あらかじめ訓練データの第2特徴量に対して、上述の特徴選択を行い、すべての欠陥候補領域と非欠陥候補領域に対し、算出する第2特徴量を固定しておいてもよい。
第2の実施形態によれば、所定の特徴選択手法により選択した第2特徴量を用いて正常モデル識別器を生成し、欠陥の有無を判定することにより、第1の実施形態に比べて、処理コストをそれほど増加させることなく、欠陥有無の判定の質を向上させることができる。
[第3の実施形態]
第1、第2の実施形態では、欠陥の位置のみを求めたが、第3の実施形態では、欠陥の位置だけではなく、欠陥の種類も特定する。
図9に本実施形態における処理のフローチャートを示す。なお、第3の実施形態で示した図9のステップS901、ステップS902、ステップS903、ステップS904、ステップS905、ステップS906と、第1の実施形態で示した図3のステップS301、ステップS302、ステップS303、ステップS304、ステップS305、ステップS306は同じであるので説明は省略する。
(ステップS907:単位ベクトルへの変換)
ステップS907では、N箇所の非欠陥候補領域における第2特徴量を利用して学習し、正常モデル識別器を生成し、特徴空間上で欠陥と判定されたデータの位置にあるかを判定する。
楕円体モデルの場合、欠陥の度合いは式7に示すマハラノビス距離で算出できる。特徴空間上の正常データ、正常モデルと欠陥の種類の概略図を図10に示す。正常データ1001に基づいて、楕円体モデルによる正常モデル1002が形成される。また、欠陥の種類は、正常データ1001の平均1005から対象データへの向きによって求めることができる。
第2特徴量がN次元の場合、正常データの特徴ベクトルの平均から欠陥有と判定されたデータの特徴ベクトルへのベクトルの単位ベクトルを、式14を用いて算出する。
Figure 2015041164
この単位ベクトルの方向によって、欠陥の種類を表すことができる。
同じ欠陥は特徴空間上でクラスタを形成するため、欠陥の種類AはクラスタAを形成し、欠陥の種類BはクラスタBを形成する。
(ステップS908:分類によるラベルの決定)
ステップS908では、欠陥有と判定されたすべてのデータに関して、式14で示した単位ベクトルをあらかじめ求めておき、SVMやk−NN法(k−Nearest Neighbor:k近傍法)といった教師付き学習により分類する。
なお、k−means法(k平均法)やmean−shift法等のクラスタリング手法で分類を行うとしてもよい。
そして得られたクラスタの平均に最も近い代表データの画像を目視で確認することにより、ラベル(欠陥の種類)を決定してもよい。
なお、部分空間法の一種である投影距離法を利用する場合も同様に、データの分布を第一主成分の主軸で表し、主軸からの距離で欠陥を決定するので、この場合も、単位ベクトルに変換し、k−NN法でラベル(欠陥の種類)を決定することができる。
第3の実施形態によれば、検査対象の欠陥候補点を検出し、正常モデル識別器を用いてオンラインで欠陥の有無を再評価し、良品のモデルと特徴空間上の欠陥と判定されたデータの位置との相対関係により、欠陥の種類を特定することができる。
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
201 欠陥候補点検出部、 202 欠陥候補領域設定部、 203 非欠陥候補領域設定部、 204 第2特徴量算出部、 205 正常モデル識別器生成部、 206 欠陥判定部

Claims (11)

  1. 検査対象物の画像データから抽出される複数の第1特徴量に基づいて、各領域の中から欠陥候補点を検出する欠陥候補点検出手段と、
    検出された前記欠陥候補点に基づいて、欠陥候補領域を設定する欠陥候補領域設定手段と、
    前記欠陥候補領域を除く領域に対して、非欠陥候補領域を設定する非欠陥候補領域設定手段と、
    前記欠陥候補領域及び前記非欠陥候補領域のそれぞれから第2特徴量を算出する第2特徴量算出手段と、
    複数の非欠陥候補領域から抽出した第2特徴量に基づき、正常モデル識別器を生成する正常モデル識別器生成手段と、
    前記正常モデル識別器を用いて、前記検査対象物の欠陥の有無を判定する欠陥判定手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記複数の第1特徴量は、複数の周波数成分フィルタを用いて生成された複数の画像から抽出された第1特徴量であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記欠陥候補領域設定手段は、前記欠陥候補点を中心とする矩形領域を前記欠陥候補領域として設定することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記第1特徴量として、下記式3により算出される輝度画像の横方向u軸の微分量と縦方向v軸の微分量の平方和の最大値を用いることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
    Figure 2015041164
  5. 前記正常モデル識別器は、1クラス識別器であることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  6. 前記欠陥判定手段は、下記式7により算出される欠陥候補領域のマハラノビス距離ΔMiと閾値とに基づいて、または下記式8により算出される非欠陥候補領域のマハラノビス距離ΔNjと閾値とに基づいて、欠陥の有無を判定することを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
    Figure 2015041164
  7. 前記欠陥判定手段は、特徴空間における正常データの特徴ベクトルの平均から、欠陥有と判定されたデータの特徴ベクトルへのベクトルの向きに基づいて、欠陥の種類を特定することを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  8. 前記欠陥判定手段は、下記式14に基づいて、特徴空間において欠陥有と判定されたデータの特徴ベクトルを単位ベクトルに変換し、変換された単位ベクトルを教師付き学習により分類し、欠陥の種類を判定することを特徴とする請求項7に記載の画像処理装置。
    Figure 2015041164
  9. 第2特徴量選択手段をさらに備え、
    前記第2特徴量選択手段は、
    非欠陥候補領域のすべての第2特徴量を、各第2特徴量の標準偏差で正規化し、
    正規化されたL個の第2特徴量から2つの第2特徴量を選択し、
    選択された2つの第2特徴量を縦軸または横軸とする2次元の特徴空間をとおりの組合せだけ生成し、
    生成された2次元の特徴空間に分布する第2特徴量の重心Gと、前記重心Gから最も離れているデータへのユークリッド距離dmaxを求め、
    前記とおりの第2特徴量の組合せの中で、前記ユークリッド距離dmaxが最も小さくなる第2特徴量の組合せを求め、
    前記正常モデル識別器生成手段は、前記ユークリッド距離dmaxが最も小さくなる組合せとして求められた2つの第2特徴量を用いて前記正常モデル識別器を生成することを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
  10. 検査対象物の画像データから抽出される複数の第1特徴量に基づいて、各領域の中から欠陥候補点を検出する欠陥候補点検出工程と、
    検出された前記欠陥候補点に基づいて、欠陥候補領域を設定する欠陥候補領域設定工程と、
    前記欠陥候補領域を除く領域に対して、非欠陥候補領域を設定する非欠陥候補領域設定工程と、
    前記欠陥候補領域及び前記非欠陥候補領域のそれぞれから第2特徴量を算出する第2特徴量算出工程と、
    複数の非欠陥候補領域から抽出した第2特徴量に基づき、正常モデル識別器を生成する正常モデル識別器生成工程と、
    前記正常モデル識別器を用いて、前記検査対象物の欠陥の有無を判定する欠陥判定工程と、
    を有することを特徴とする画像処理方法。
  11. 請求項1乃至請求項9のいずれか1項に記載の画像処理装置の各手段としてコンピュータを機能させることを特徴とするプログラム。

JP2013170842A 2013-08-20 2013-08-20 画像処理装置、画像処理方法およびプログラム Pending JP2015041164A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013170842A JP2015041164A (ja) 2013-08-20 2013-08-20 画像処理装置、画像処理方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013170842A JP2015041164A (ja) 2013-08-20 2013-08-20 画像処理装置、画像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2015041164A true JP2015041164A (ja) 2015-03-02

Family

ID=52695312

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013170842A Pending JP2015041164A (ja) 2013-08-20 2013-08-20 画像処理装置、画像処理方法およびプログラム

Country Status (1)

Country Link
JP (1) JP2015041164A (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6358351B1 (ja) * 2017-03-21 2018-07-18 Jfeスチール株式会社 表面欠陥検査方法及び表面欠陥検査装置
JP2018120300A (ja) * 2017-01-23 2018-08-02 株式会社リコー 情報処理装置、情報処理方法およびプログラム
JP2018195107A (ja) * 2017-05-18 2018-12-06 ファナック株式会社 画像処理システム
JP2019078640A (ja) * 2017-10-25 2019-05-23 Jfeスチール株式会社 表面欠陥検出方法及び表面欠陥検出装置
KR20200026110A (ko) * 2018-08-31 2020-03-10 가부시키가이샤 히다치 하이테크놀로지즈 패턴 검사 시스템
JP2020101900A (ja) * 2018-12-20 2020-07-02 富士通株式会社 画像検査装置、画像検査のための学習方法および画像検査プログラム
WO2020158630A1 (ja) * 2019-01-31 2020-08-06 株式会社カネカ 検出装置、学習器、コンピュータプログラム、検出方法及び学習器の生成方法
JP2021513095A (ja) * 2018-01-02 2021-05-20 キングス カレッジ ロンドン 局在化顕微鏡法のための方法及びシステム
US11120541B2 (en) 2018-11-28 2021-09-14 Seiko Epson Corporation Determination device and determining method thereof
CN114723751A (zh) * 2022-06-07 2022-07-08 中国空气动力研究与发展中心设备设计与测试技术研究所 一种基于无监督的带钢表面缺陷在线检测方法
WO2022244250A1 (ja) * 2021-05-21 2022-11-24 日本電気株式会社 情報生成装置、判定装置、情報生成方法、判定方法及び記憶媒体
CN116297524A (zh) * 2023-04-07 2023-06-23 苏州矽行半导体技术有限公司 一种有图像晶圆的多模态检测方法
CN116777917A (zh) * 2023-08-24 2023-09-19 山东东方智光网络通信有限公司 一种光缆生产用缺陷检测方法及系统

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018120300A (ja) * 2017-01-23 2018-08-02 株式会社リコー 情報処理装置、情報処理方法およびプログラム
US10859507B2 (en) 2017-03-21 2020-12-08 Jfe Steel Corporation Surface defect inspection method and surface defect inspection apparatus
WO2018173660A1 (ja) * 2017-03-21 2018-09-27 Jfeスチール株式会社 表面欠陥検査方法及び表面欠陥検査装置
JP2018155690A (ja) * 2017-03-21 2018-10-04 Jfeスチール株式会社 表面欠陥検査方法及び表面欠陥検査装置
JP6358351B1 (ja) * 2017-03-21 2018-07-18 Jfeスチール株式会社 表面欠陥検査方法及び表面欠陥検査装置
JP2018195107A (ja) * 2017-05-18 2018-12-06 ファナック株式会社 画像処理システム
US10430650B2 (en) 2017-05-18 2019-10-01 Fanuc Corporation Image processing system
JP2019078640A (ja) * 2017-10-25 2019-05-23 Jfeスチール株式会社 表面欠陥検出方法及び表面欠陥検出装置
JP2021513095A (ja) * 2018-01-02 2021-05-20 キングス カレッジ ロンドン 局在化顕微鏡法のための方法及びシステム
US11587225B2 (en) 2018-08-31 2023-02-21 Hitachi High-Tech Corporation Pattern inspection system
US11132788B2 (en) 2018-08-31 2021-09-28 Hitachi High-Tech Corporation Pattern inspection system
TWI731396B (zh) * 2018-08-31 2021-06-21 日商日立全球先端科技股份有限公司 圖案檢查系統
KR20200026110A (ko) * 2018-08-31 2020-03-10 가부시키가이샤 히다치 하이테크놀로지즈 패턴 검사 시스템
KR102218364B1 (ko) * 2018-08-31 2021-02-22 주식회사 히타치하이테크 패턴 검사 시스템
US11120541B2 (en) 2018-11-28 2021-09-14 Seiko Epson Corporation Determination device and determining method thereof
JP2020101900A (ja) * 2018-12-20 2020-07-02 富士通株式会社 画像検査装置、画像検査のための学習方法および画像検査プログラム
JP7206892B2 (ja) 2018-12-20 2023-01-18 富士通株式会社 画像検査装置、画像検査のための学習方法および画像検査プログラム
JPWO2020158630A1 (ja) * 2019-01-31 2021-10-07 株式会社カネカ 検出装置、学習器、コンピュータプログラム、検出方法及び学習器の生成方法
WO2020158630A1 (ja) * 2019-01-31 2020-08-06 株式会社カネカ 検出装置、学習器、コンピュータプログラム、検出方法及び学習器の生成方法
WO2022244250A1 (ja) * 2021-05-21 2022-11-24 日本電気株式会社 情報生成装置、判定装置、情報生成方法、判定方法及び記憶媒体
CN114723751B (zh) * 2022-06-07 2022-09-23 中国空气动力研究与发展中心设备设计与测试技术研究所 一种基于无监督的带钢表面缺陷在线检测方法
CN114723751A (zh) * 2022-06-07 2022-07-08 中国空气动力研究与发展中心设备设计与测试技术研究所 一种基于无监督的带钢表面缺陷在线检测方法
CN116297524A (zh) * 2023-04-07 2023-06-23 苏州矽行半导体技术有限公司 一种有图像晶圆的多模态检测方法
CN116297524B (zh) * 2023-04-07 2023-11-14 苏州矽行半导体技术有限公司 一种有图像晶圆的多模态检测方法
CN116777917A (zh) * 2023-08-24 2023-09-19 山东东方智光网络通信有限公司 一种光缆生产用缺陷检测方法及系统
CN116777917B (zh) * 2023-08-24 2023-11-21 山东东方智光网络通信有限公司 一种光缆生产用缺陷检测方法及系统

Similar Documents

Publication Publication Date Title
JP2015041164A (ja) 画像処理装置、画像処理方法およびプログラム
US10963676B2 (en) Image processing method and apparatus
JP7059883B2 (ja) 学習装置、画像生成装置、学習方法、及び学習プログラム
CN107111872B (zh) 信息处理装置、信息处理方法、及存储介质
US8873837B2 (en) Image-based crack detection
WO2012066785A1 (ja) 人数カウント装置、人数カウント方法及び人数カウントプログラム
US11049275B2 (en) Method of predicting depth values of lines, method of outputting three-dimensional (3D) lines, and apparatus thereof
JP2016115331A (ja) 識別器生成装置、識別器生成方法、良否判定装置、良否判定方法、プログラム
US10255673B2 (en) Apparatus and method for detecting object in image, and apparatus and method for computer-aided diagnosis
JP5936561B2 (ja) 画像における外観及びコンテキストに基づく物体分類
JP2007256029A (ja) ステレオ画像処理装置
CN109816051B (zh) 一种危化品货物特征点匹配方法及系统
EP3376433A1 (en) Image processing apparatus, image processing method, and image processing program
JP2017076289A (ja) パラメータ決定装置、パラメータ決定方法及びプログラム
JP2019158628A (ja) 検査装置、検査方法、及び検査プログラム
JP2016110290A (ja) 情報処理装置及び情報処理方法
JP7392488B2 (ja) 遺留物誤検出の認識方法、装置及び画像処理装置
US20230410484A1 (en) Anomaly detection using a convolutional neural network and feature based memories
JP2016110625A (ja) 分類方法、検査方法、検査装置、およびプログラム
CN109829401A (zh) 基于双拍摄设备的交通标志识别方法及装置
JP2016110626A (ja) 分類方法、検査方法、検査装置、およびプログラム
WO2016092783A1 (en) Information processing apparatus, method for processing information, discriminator generating apparatus, method for generating discriminator, and program
JP6948547B2 (ja) プログラム、情報処理システム、及び情報処理方法
JP2019149028A (ja) 情報処理装置、情報処理装置の制御方法及びプログラム
CN115546476A (zh) 基于多尺度特征的多对象检测方法与数据平台