JP5479309B2 - マハラノビス基準空間の生成方法、検査方法及び検査装置 - Google Patents

マハラノビス基準空間の生成方法、検査方法及び検査装置 Download PDF

Info

Publication number
JP5479309B2
JP5479309B2 JP2010267785A JP2010267785A JP5479309B2 JP 5479309 B2 JP5479309 B2 JP 5479309B2 JP 2010267785 A JP2010267785 A JP 2010267785A JP 2010267785 A JP2010267785 A JP 2010267785A JP 5479309 B2 JP5479309 B2 JP 5479309B2
Authority
JP
Japan
Prior art keywords
defective
inspection
product
image
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010267785A
Other languages
English (en)
Other versions
JP2012117908A (ja
Inventor
靖之 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Elemex Corp
Original Assignee
Ricoh Elemex Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Elemex Corp filed Critical Ricoh Elemex Corp
Priority to JP2010267785A priority Critical patent/JP5479309B2/ja
Publication of JP2012117908A publication Critical patent/JP2012117908A/ja
Application granted granted Critical
Publication of JP5479309B2 publication Critical patent/JP5479309B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、マハラノビス・タグチ法(MT法)を利用して、製品の外観検査を行う技術に関する。
従来、製品の外観検査は人手に頼る部分が大きく、この場合、検査員が目視でその検査を実施する。しかし、最終ユーザからの検査品質向上要求、人海戦術検査による人件費増大対策から、近年、市場では画像認識技術を利用した製品の外観検査の自動化が求められている。外観検査を自動的に行う検査装置は、先ずカメラや照明などの撮像機器によって検査品の外観を撮像する。そして、その撮像した検査画像に対して所定の画像処理を行うアルゴリズムにより検査品の良否判定を行う。ここで、そのアルゴリズムの一つに、MT法を利用した方法が従来知られている(例えば特許文献1参照)。
このMT法は、多数の情報をマハラノビス距離という一つの尺度に集約し、このマハラノビス距離の大小によって、良否を判定する方法である。具体的には、良品の外観を撮像した良品画像から特徴量を抽出して、マハラノビス距離を算出するための基準空間(以下、マハラノビス基準空間とも言う)を生成する。次いで、検査品の外観を撮像した検査画像の特徴量と基準空間とに基づいて、マハラノビス距離を算出する。そして、そのマハラノビス距離の大小に基づいて検査品の良否判定を行うというものである。
ここで、従来のマハラノビス基準空間の生成方法について説明する。図11は、従来のマハラノビス基準空間の生成手順を示したフローチャートである。先ず、マハラノビス基準空間を生成するために、評価の基準となる正常な画像サンプル(良品画像)を取得する(S101)。次いで、S101で取得したサンプル画像を所定の大きさごとに(例えば640×480)に切り取っていく(S102)。次いで、切り取った画像について、そのR、G、Bの輝度(8bit:0〜255)データから、それぞれ0〜15、16〜31、32〜47、・・・、240〜255の16段階(R、G、Bでは48段階)の輝度範囲にある画素数をカウントし、R、G、Bの輝度分布データを計算する(S103)。次いで、S103で計算した輝度分布データを良品画像の特徴量とし、その特徴量に基づいてマハラノビス基準空間を生成する(S104)。
特開2005−252451号公報
ところで、上記のようにして生成した基準空間を検査時に利用する場合には、被検査対象となる検査画像に対しても、上述のS102のように切り取る処理を行って、切り取った画像ごとに輝度分布データを求める必要がある。しかし、その切り取った画像の範囲が例えば640×480のような大きな範囲になると、640×480=307200の画素に対して演算が必要になる。さらに、この方法を検査画像のサイズ(フレームサイズ)で行う必要があるので、切り取る画像の枚数も多くなり、演算時間がさらに増加する。MT法では数値計算をする必要があるが、製品の外観を撮像する近年のCCDカメラでは分解能UPの要求から数百万画素単位で取り込めるものが汎用的になってきつつあり、数百万からなる画素を処理するためには、上記の従来方法では計算量が多くなってしまい、その結果、検査時間が長くなってしまうという問題がある。
また、従来の方法では、正常のサンプルを利用してマハラノビス基準空間を生成するのだが、その正常の範囲の中でも偏りが存在していることによる問題もある。具体的には、例えば利用するサンプルの大半が真の良品(不良の疑わしい領域が全く無い良品)でマハラノビス基準空間を生成する場合、良品であるがやや不良に近いサンプルに対してMD値(マハラノビス距離)の増大を招く。その結果、過検出(良品を不良品と判断すること)する可能性が高くなる問題がある。また、利用するサンプルの大半が良品であるが不良に近いサンプルであった場合には、逆に、真の良品を検査したときにMD値の増大を招き、その結果、良品を不良品として過検出するという問題がある。
このように、MT法による良否判定では、基準となるパターン以外はMD値が大きくなるので、上記の過検出といった問題が起こる。つまり、従来の方法で生成した基準空間によって良否判定を行うときに、検査品が良品であっても、検査品の良品範囲での偏り具合で、検査品を過検出と判断してしまうので、検査精度を著しく損なうといった問題がある。
本発明は上記問題に鑑みてなされたものであり、MT法を利用して検査品の良否判定を行う技術に関して、検査品に偏りがある場合であっても、良否判定を精度良く行うことを課題とする。また、良否判定をするための処理時間を短縮することを課題とする。
上記課題を解決するために、本発明のマハラノビス基準空間の生成方法は、良品サンプルの画像を良品画像として取得する第一の取得ステップと、
その第一の取得ステップで取得した前記良品画像から、他の領域に比べて良品の程度が劣る領域である良品グレー領域を検出する検出ステップと、
その検出ステップで検出した前記良品グレー領域の輝度分布を示した良品輝度分布データを算出する算出ステップと、
その算出ステップで算出した前記良品輝度分布データに基づいて、マハラノビス距離を算出するための基準空間を生成する生成ステップと、を含むことを特徴とする。
これによれば、良品サンプルの良品画像に含まれる、他の領域に比べて良品の程度が劣る良品グレー領域の輝度分布データに基づいて基準空間を生成しているため、良品であるがやや不良に近いサンプルに対するMD値の増加を防ぐことができる。加えて、検出ステップにおいて、グレー領域が検出されなかった検査品を良品として判定することで、過検出を低減することができる。つまり、検査品の良否判定を精度良く行うことができる。また、良品画像全体の輝度分布データに基づいて基準空間を生成する場合に比べて、基準空間を生成するための処理時間と、その基準空間を利用して検査品の良否判定をするための処理時間を短縮することができる。
また、本発明における検出ステップは、前記良品画像に対して所定の画像処理を施すことにより前記良品グレー領域を検出するステップであることを特徴とする。
これによれば、良品画像に対して所定の画像処理を施しているので、正確に良品グレー領域を検出することができる。
また、本発明における算出ステップは、前記良品グレー領域の各画素の輝度値のうち所定の第一閾値より大きい各輝度値と前記第一閾値との差分値をそれぞれ算出し、それら差分値の合計値と、前記良品グレー領域の各画素の輝度値のうち前記第一閾値より小さい各輝度値と前記第一閾値との差分値をそれぞれ算出し、それら差分値の合計値の少なくとも一方を前記良品輝度分布データとして算出するステップであることを特徴とする。
これによれば、算出ステップで、良品グレー領域の各画素の輝度値のうち第一閾値より大きい各輝度値と第一閾値との差分値の合計値を算出するので、第一閾値の輝度値に対して良品グレー領域がどの程度明るくされているのかを示した特徴量を得ることができる。また、その算出ステップでは、上記の合計値に代えて、又は上記の合計値と共に、良品グレー領域の各画素の輝度値のうち第一閾値より小さい各輝度値と第一閾値との差分値の合計値を算出するので、第一閾値の輝度値に対して良品グレー領域がどの程度暗くされているのかを示した特徴量を得ることができる。
また、本発明における算出ステップは、前記良品グレー領域の各画素のうち所定の第二閾値より大きい輝度値の画素の数と前記第二閾値より小さい輝度値の画素の数の少なくとも一方を前記良品輝度分布データとして算出するステップであるとしてもよい。
これによれば、良品グレー領域のうち、第二閾値の輝度値よりも明るい領域がどの程度含まれているかを示した特徴量と、第二閾値の輝度値よりも暗い領域がどの程度含まれているかを示した特徴量の一方又は両方を得ることができる。
また、本発明における算出ステップは、前記良品グレー領域の各画素の輝度値のうち所定の第一閾値より大きい各輝度値と前記第一閾値との各差分値の合計値、前記良品グレー領域の各画素の輝度値のうち前記第一閾値より小さい各輝度値と前記第一閾値との各差分値の合計値、前記良品グレー領域の各画素のうち所定の第二閾値より大きい輝度値の画素の数、及び前記良品グレー領域の各画素のうち前記第二閾値より小さい輝度値の画素の数の少なくともいずれか一つを前記良品輝度分布データとして算出するステップであるとしてもよい。これにより、上記の4つの特徴量の中から選択される1又は複数の特徴量を得ることができる。
本発明の検査装置は、請求項1〜5のいずれか1項に記載のマハラノビス基準空間の生成方法と、
被検査対象となる検査品の画像を検査画像として取得する第二の取得ステップと、
その第二の取得ステップで取得した前記検査画像に、不良の可能性がある領域である検査品グレー領域が含まれているか否かを判断する判断ステップと、
その判断ステップで前記検査品グレー領域が含まれていると判断した場合に、前記検査品グレー領域の輝度分布を示した検査品輝度分布データを算出する第二の算出ステップと、
その算出ステップで算出した前記検査品輝度分布データと前記基準空間とに基づいて、前記検査画像のマハラノビス距離を算出する第三の算出ステップと、
その第三の算出ステップで算出した前記マハラノビス距離に基づいて、前記検査品の良否判定を行う良否判定ステップと、を含むことを特徴とする。
これによれば、検査画像に不良の可能性がある領域である検査品グレー領域が含まれている場合には、その検査品グレー領域でマハラノビス距離を算出するので、検査画像全体でマハラノビス距離を算出する場合に比べて、良否判定をするための処理時間を短縮することができる。また、上記の方法で生産された基準空間を利用してマハラノビス距離を算出するので、過検出の要因を持つグレー領域であっても、その情報より生成された基準空間から計算されるMD値の増大を防ぐことができ、過検出を防ぐことができる。よって、検査品の偏りに関わらず、検査品の良否判定を精度良く行うことができる。
また、本発明における検査方法は、前記判断ステップで前記検査品グレー領域が含まれていないと判断した場合には、前記検査品を良品と判定する良品判定ステップを含むことを特徴とする。
これによれば、検査画像に検査品グレー領域が含まれていない場合には、その検査品を良品と判定しているので、その検査画像のマハラノビス距離の算出を省略することができる。よって、迅速に良否判定を行うことができる。
また、本発明における判断ステップは、前記検査画像に対して、前記画像処理と同じ画像処理を施すことにより、前記検査品グレー領域が含まれているか否かを判断するステップであることを特徴とする。
これによれば、良品グレー領域を検出する際の画像処理と同じ画像処理によって、検査品グレー領域を検出することになるので、良品グレー領域を基準として検査品グレー領域の良否を判定することができる。つまり、検査品の良否判定を精度良く行うことができる。
本発明の検査装置は、請求項1〜5のいずれか1項に記載のマハラノビス基準空間の生成方法で生成された前記基準空間が記憶された記憶手段と、
被検査対象となる検査品の画像を検査画像として取得する取得手段と、
その取得手段が取得した前記検査画像に、不良の可能性がある領域である検査品グレー領域が含まれているか否かを判断する判断手段と、
その判断手段が前記検査品グレー領域が含まれていると判断した場合に、前記検査品グレー領域の輝度分布を示した検査品輝度分布データを算出する輝度分布データ算出手段と、
その算出手段が算出した前記検査品輝度分布データと前記記憶手段に記憶された前記基準空間とに基づいて、前記検査画像のマハラノビス距離を算出するマハラノビス距離算出手段と、
そのマハラノビス距離算出手段が算出した前記マハラノビス距離に基づいて、前記検査品の良否判定を行う良否判定手段と、を備えることを特徴とする。これにより、本発明の検査方法と同じ効果を得ることができる。
また、本発明におけるマハラノビス距離算出手段は、前記検査品輝度分布データを正規化する正規化手段を含み、その正規化手段が正規化した前記検査品輝度分布データと前記基準空間とに基づいて、前記マハラノビス距離を算出するものであることを特徴とする。
これによれば、正規化手段が検査品輝度分布データを正規化し、マハラノビス距離算出手段は、その正規化された検査品輝度分布データを使用してマハラノビス距離を算出するので、精度の良いマハラノビス距離を得ることができる。
また、本発明において、前記判断手段が前記検査品グレー領域が含まれていないと判断した場合に、前記検査品を良品と判定する良品判定手段を備えることを特徴とする。
これによれば、検査画像に検査品グレー領域が含まれていない場合には、良品判定手段がその検査品を良品と判定しているので、その検査画像のマハラノビス距離の算出を省略することができる。よって、迅速に良否判定を行うことができる。
検査装置1の全体構成を示した図である。 マハラノビス基準空間の生成手順を示したフローチャートである。 図2のS2の詳細手順を示したフローチャートである。 図3の画像処理の出力結果を例示した図である。 図2のS3の詳細手順を示したフローチャートである。 良品グレー領域621を示した図である。 図5のS32の積分特性、S33の画素数特性の算出方法を説明する図である。 図2のS4の詳細手順を示したフローチャートである。 検査品の良否判定手順を示したフローチャートである。 検査品の複数のサンプルA〜Iの画像71〜79を示した図である。 従来のマハラノビス基準空間の生成手順を示したフローチャートである。
以下、本発明に係るマハラノビス基準空間の生成方法、検査方法、及び検査装置の実施形態を図面を参照しながら説明する。図1は、本実施形態の検査装置1の全体構成を示した図である。その検査装置1は、例えば切削加工した金属部品等の製品の表面にあるムラ、埃、傷、バリ等の有無を検査することで、その製品の外観の良否判定をする装置である。図1に示すように、検査装置1は、画像処理用PC10、報知器20、カメラ30、及び検査台50を備えている。検査台50は、マハラノビス基準空間を生成するための良品サンプル60(図1参照)や、被検査対象となる検査品70(図1参照)が載置される台である。カメラ30は、レンズ31を有し、そのレンズ31を介して検査台50に載置された良品サンプル60や検査品70を撮像するものである。そのカメラ30として、例えばCCDイメージセンサやデジタルスチルカメラを用いることができる。なお、良品サンプル60や検査品70をカメラ30で良好に撮像できるようにするために、良品サンプル60や検査品70に光を照射する照明(図示外)が適宜設けられる。
カメラ30で撮像された画像はケーブル40(図1参照)を介して、画像処理用PC10に送信される。画像処理用PC10は、検査品70の画像である検査画像に対して所定の画像処理を施しつつ、MT法を利用してその検査画像の良品判定、すなわち検査品70の良否判定を行うコンピュータである。また、画像処理用PC10は、検査画像の良否判定を行うのに先だって、良品サンプル60の画像である良品画像に基づいて、MT法で使用するマハラノビス基準空間を生成するコンピュータでもある。なお、検査品70を検査するコンピュータとマハラノビス基準空間を生成するコンピュータとを別々にしてもよい。
画像処理用PC10は、より詳細には、CPU11及びメモリ12を有しており、CPU11がメモリ12に記憶された制御プログラムにしたがった処理を実行することで、マハラノビス基準空間を生成したり、検査品70の良否判定を行ったりする。なお、それらの詳細は後述する。メモリ12は、CPU11が実行する制御プログラムが記憶されたROMやフラッシュメモリ等の記憶装置である。また、本実施形態では、メモリ12には、画像処理用PC10が生成したマハラノビス基準空間も記憶される。
報知器20は、画像処理用PC10によって行われた検査結果(検査品70の良否判定結果)を報知するものである。その報知器20として、例えば音で報知するスピーカや表示で報知するディスプレイを用いることができる。
次に、画像処理用PC10が実行するマハラノビス基準空間の生成方法について詳細に説明する。なお、画像処理用PC10がマハラノビス基準空間を生成するタイミングとしては、検査品70を検査する前であればどのタイミングでもよい。ここで、図2は、マハラノビス基準空間の生成手順を示したフローチャートである。先ず、図2を参照してマハラノビス基準空間の生成手順を大まかに説明し、その後、図2の各手順の詳細を説明する。なお、この図2の処理は、例えば、所定の開始スイッチ(図示外)がユーザに操作された場合に開始される。
図2において、先ず、良品と予め解っている良品サンプル、すなわち、目視検査員が良品と判断した良品サンプルが検査台50(図1参照)に載置されて、その良品サンプルをカメラ30で撮像してその画像(良品画像)を取得(収集)する(S1)。この際、複数の良品サンプルの良品画像を取得するようにする。次いで、S1で取得した各良品画像に対して所定の画像処理を施して、各良品画像から、他の領域に比べて良品の程度が劣る領域である良品グレー領域を検出する(S2)。なお、この良品グレー領域は、良品か否かの区別が付きにくい領域であるとも言える。次いで、検出された良品グレー領域の特徴量として、良品グレー領域の輝度分布データを算出する(S3)。次いで、S3で算出された輝度分布データに基づいて、マハラノビス基準空間を生成する(S4)。その後、図2のフローチャートの処理を終了する。このように、本発明では、良品画像の全体からマハラノビス基準空間を生成するのではなく、良品画像のうちの良品グレー領域からそれを生成している。以下、図2の各手順を詳細に説明する。
図3は、図2の良品グレー領域を検出する画像処理(S2)の詳細手順を示したフローチャートである。具体的には、図2のS1で取得された良品画像に対して2値化処理(S21)、平滑処理(S22)、差分処理(S23)の順に画像処理を施す。なお、2値化処理、平滑処理、差分処理は当業者であれば説明の必要がないほど汎用的なので、各処理の詳細の説明は省略する。S21〜S23の画像処理によって検出された領域を他の領域に比べて良品の程度が劣る良品グレー領域とする。次いで、その良品グレー領域を出力する(S24)。その後、図3のフローチャートの処理を終了する。
この図3での画像処理の目的は、不良をほぼ全て検出できるように処理することであり、良品の過検出については問わない。すなわち、一般的に、過検出率と不良流出率はトレードオフの関係であるが、ここでの画像処理は、過検出を行ってもよいので、不良の可能性が少しでもあるものは、全て検出するように画像処理をしている。つまり、その不良の可能性が少しでもあるものを、ここでの良品グレー領域としている。なお、不良(良品グレー領域)をほぼ全て検出できるようにするために、あらかじめ目視検査員が判断した、不良とわかっているサンプルを収集し、それらが全て検出できるように画像処理、つまりS21〜S23の各画像処理の条件(例えば2値化処理をする際の閾値)を決定している。
なお、良品グレー領域を検出するための画像処理は、図3の処理手順(2値化処理→平滑処理→差分処理)のアルゴリズムに関わらず、既存として存在するアルゴリズムの中で、不良流出を極力防ぐように構成されたアルゴリズムであれば、当業者で利用しているものでも、それを利用することができる。
ここで、図4は、図3の画像処理の出力結果を例示した図であり、より厳密には、複数の良品サンプルA〜Eの入力画像61〜65と、それら入力画像61〜65に対する出力とを示している。なお、2値化処理、平滑処理及び差分処理は当業者であれば説明の必要がないほど汎用的なので、図4では、上記処理の途中経過については省略している。図4に示すように、ここでは、5つの良品サンプルA〜Eを用意し、図2のS1において、それら良品サンプルA〜Eの良品画像61〜65が取得される。そして、各良品画像61〜65が、図3の画像処理をするための入力画像とされる。良品サンプルAの良品画像61と良品サンプルDの良品画像64は汚れやムラの無いきれいな画像であることを想定している、また、良品サンプルBはその表面にムラがあることを想定しており、そのためにその良品画像62にはムラを示した良品グレー領域621が含まれている。同様に、良品サンプルEはその表面にムラがあることを想定しており、そのためにその良品画像65にはムラを示した良品グレー領域651が含まれている。また、良品サンプルCはその表面に埃が載っていることを想定しており、そのためにその良品画像63には埃を示した良品グレー領域631が含まれている。
これら良品画像61〜65に対して、図3のS21〜S23の画像処理を施すことで、S24において、図4の下欄に示したデータが出力される。具体的には、良品サンプルBの良品画像62に対しては、その良品画像62に含まれる良品グレー領域621が出力される。また、良品サンプルCの良品画像63に対しては、その良品画像63に含まれる良品グレー領域631が出力される。また、良品サンプルEの良品画像65に対しては、その良品画像65に含まれる良品グレー領域651が出力される。なお、良品サンプルA及び良品サンプルDは良品グレー領域が含まれていない良品であるので、図3のS24においては何も出力されない。なお、ムラや埃を良品とするか、不良とするかどうかは、検出要件によって異なるが、図4の例では、ムラや埃はただのノイズとして、良品と扱う事を前提にしている。そのため、図3のS21〜S23の画像処理においては、良品画像62、63、65に対して過検出をしている状況とされる。
次に、図2のS3の輝度分布データを算出する処理の詳細を説明する。ここで、図5はそのS3の処理の詳細手順を示したフローチャートである。なお、ここでは、図4の良品画像62の良品グレー領域621に対して図5の処理が実行された場合について説明する。また、その良品グレー領域621の画素数が11画素として説明する。先ず、良品グレー領域621の各画素の輝度値を取得する(S31)。ここで、図6は、良品グレー領域621を示した図である。S31では、良品グレー領域621の各画素621a(図6参照)に順番に番号を割り振っていく。ここでは、図6の紙面左上にいくほど、言い換えると紙面右下にいくほど大きい番号になるように、各画素621aに対して1番から11番まで順番に番号を割り振っていく。また、各画素621aに番号を割り振るのと並行して、各画素621aの輝度値を取得していく。これによって得られた輝度データを次の表1に示す。なお、表1では、割り振られた番号順に輝度値を示している。
次いで、良品グレー領域621の輝度分布データとして、良品グレー領域621が所定の閾値TH1(本発明の「第一閾値」に相当する)に対してどの程度明るくされているかを示した積分特性を算出する(S32)。ここで、図7(a)は、その積分特性の算出方法を説明する図であり、具体的には、横軸が画素番号、縦軸が輝度値のグラフを示している。また、図7(a)のグラフは、表1の各輝度値が点でプロットされている。なお、それら各輝度値の点をP1〜P11で示している。また、図7(a)では、予め定められた閾値TH1のラインL1(閾値TH1=35のラインL1)が引かれている。
積分特性の算出をするために、輝度値P1〜P11のうち閾値TH1のラインL1より高い輝度値P3、P5、P6、P9、P10、P11から閾値TH1を引いたときの値を、各輝度値P3、P5、P6、P9、P10、P11ごとに算出する。輝度値Pと閾値TH1の差分値をΔPとすると、図7(a)では、画素番号3の差分値ΔP3、画素番号5の差分値ΔP5、画素番号6の差分値ΔP6、画素番号9の差分値ΔP9、画素番号10の差分値ΔP10及び画素番号11の差分値ΔP11を示している。なお、閾値TH1より小さい輝度値に対する差分値ΔPに関しては、ΔP=0として計算する。そして、各差分値ΔPの合計値(=Σ(輝度値−閾値TH1))を積分特性として算出する。図7(a)では、閾値TH1=35の例を示しているが、S32では、例えば閾値TH1=30、35、40、45のように複数の閾値TH1を設定し、各閾値ごとに積分特性を算出する。
なお、今回の説明では、閾値TH1より上側(大きい)にある輝度値を対象としているが、逆に、閾値TH1より下側(小さい)部分の輝度値の面積に相当する積分特性(=Σ(閾値TH1−輝度値))を算出してもよい。この場合には、良品グレー領域が閾値に対してどの程度暗くされているかを示した特徴量を得ることができる。また、複数設定した閾値TH1の一部を上側にある輝度値を対象とし、別の閾値TH1は下側にある輝度値を対象にしてもよい。
図5の説明に戻り、S32で積分特性を算出した後、次いで、良品グレー領域621の輝度分布データとして、良品グレー領域621のうち、所定の閾値TH2(本発明の「第二閾値」に相当する)より明るくされている領域がどの程度含まれているかを示した画素数特性を算出する(S33)。ここで、図7(b)は、その画素数特性の算出方法を説明する図であり、具体的には、図7(a)と同様に、横軸が画素番号、縦軸が輝度値のグラフに、各輝度値をプロットした点P1〜P11、閾値TH2のラインL2(閾値TH2=35のラインL2)を示した図である。画素数特性として、閾値TH2以上の輝度値Pを持つ画素の数をカウントしていく。図7(b)に示すように、閾値TH2以上の輝度値Pは、輝度値P3、P4、P5、P6、P9、P10、P11とされる。よって、閾値TH2=35の場合、画素数特性=7(画素)となる。
また、画素数特性の計算に関しても、例えば閾値TH2=30、35、40、45のように、複数の閾値TH2を設定するのが望ましい。この場合には、各閾値TH2ごとに画素数特性を算出する。なお、画素数特性の算出に関しても、閾値TH2以上の輝度値を持つ画素の数をカウントするのとは逆に、閾値TH2より小さい輝度値を持つ画素の数をカウントするようにしてもよい。この場合には、良品グレー領域のうち、閾値TH2より暗くされている領域がどの程度含まれているかを示した特徴量を得ることができる。また、複数設定した閾値TH2の一部を閾値TH2以上の輝度値を持つ画素を対象とし、別の閾値TH2は閾値TH2より小さい輝度値を持つ画素を対象にしてもよい。なお、S32の処理とS33の処理は、どちらの処理を先に実行もよく、また並列して同時に実行してもよい。
また、今回の例では、積分特性と、画素数特性を算出するための閾値TH1、TH2が同じ値として説明したが、もちろんそれぞれの閾値TH1、TH2が一致してなくてもよい。また、各閾値TH1、TH2の数についても、4つでなくてもよい。また、積分特性と画素数特性のうちの片方の特性(例えば積分特性だけ)を利用するパターンもありえる。また、今回説明を簡略化するために、画素に番号を付けて説明したが、積分特性及び画素数特性を演算する上で、必ずしも画素番号は必要ではなく、良品グレー領域の輝度値さえ得られていればよい。
S32及びS33によって得られた輝度分布データを次の表2に示す。なお、表2では、説明の対象とした良品グレー領域621の輝度分布データのみ、具体的数値を示している。以降、本明細書では、積分特性や画素数特性を「項目」と記載し、それぞれの項目から得られた輝度分布データを総括して「特徴量」と記載する。
図5のS33の処理の後、図5のフローチャートの処理を終了し、図2のフローチャートの処理に戻る。図2において、次いで、S3で算出した特徴量に基づいて、マハラノビス基準空間を生成する(S4)。ここで、図8は、S4の処理の詳細手順を示したフローチャートである。以下、説明を簡略化するために、S3で算出した特徴量を次の表3の記号に置き換えて、マハラノビス基準空間の生成方法について説明する。なお、表3では、図4の良品グレー領域621、631、651のそれぞれについて、各項目に対する特徴量を記号Xで示している。また、各特徴量Xの添え字nは良品グレー領域のサンプル数を示しており、添え字kは項目数を示している。
マハラノビス基準空間の生成方法としては幾つか手法が確立されているが、本実施形態では、その中でも頻繁に利用される計算方法で生成を行っている。なお、生成の過程で、上記表3のnとkの関係は少なくともn>=kである必要がある。表3では、良品グレー領域621、631、651のみ特徴量Xを示しているが、実際は、その他にも沢山のサンプル数nが確保されている。
図8において、先ず、次の式1によって特徴量Xの正規化を行う(S41)。なお、式1において、Xj(式1ではオーバーバー付)はj番目の項目の平均値であり、σjはj番目の項目の標準偏差である。
式1で正規化した後のデータxを次の表4に示す。
次いで、次の式2によって相関係数rpqを算出する(S42)。その後、各相関係数r11〜rkkから構成された相関行列Rを生成する(S42)。
次いで、次の式3で示すように、相関行列Rの逆行列Aを算出する(S43)。その逆行列Aをマハラノビス基準空間とする。
その後、図8のフローチャートの処理を終了して、図2のフローチャートの処理に戻る。そして、S4の処理の後、図2のフローチャートの処理を終了する。以上のようにして、本発明におけるマハラノビス基準空間が生成される。その生成したマハラノビス基準空間は、検査品の良否判定を行う際に使用するために、メモリ12(図1参照)に記憶される。
次に、画像処理用PC10が実行する検査品の良否判定の方法について詳細に説明する。ここで、図9は、その方法の手順を示したフローチャートである。なお、図9のフローチャートの処理は、例えば、所定の開始スイッチ(図示外)がユーザに操作された場合に開始される。
先ず、検査台50(図1参照)に載置された検査品をカメラ30で撮像して、その撮像画像である検査画像を取得する(S51)。次いで、その検査画像に対して所定の画像処理を施して、不良の可能性がある領域である検査品グレー領域が検査画像に含まれている場合にその検査品グレー領域を検出する(S52)。このS52の処理の詳細は、先に説明した良品グレー領域を検出するときの処理(図3の処理)と同じである。また、このときの画像処理(図3の2値化処理、平滑処理、差分処理)の条件は、良品グレー領域を検出したときの条件と同じに設定する。
次いで、S52の処理によって検査品グレー領域が検出されたか否かを判断する(S53)。これは、S52の処理によって検査品グレー領域が検出された場合にはその検査品グレー領域が出力されるので、その出力の有無によってS53の判断を行う。検査品グレー領域が検出されなかった場合には(S53:No)、その検査品は良品であると判断し(S61)、図9のフローチャートを終了する。これに対し、検査品グレー領域が検出された場合には(S53:Yes)、処理をS54に進める。
S54では、その検査品グレー領域の輝度分布データ(特徴量)を算出する(S54)。このS54の処理の詳細は、先に説明した基準空間を生成するときの処理(図2のS3の処理)と同じである。すなわち、検査品グレー領域の輝度分布データとして、積分特性や画素数特性を算出する。次いで、上記の式1と同様の式によって、その輝度分布データである特徴量を正規化する(S55)。なお、正規化の際に用いる平均値と標準偏差は、上記式1の良品画像の平均値Xj(式1ではオーバーバー付き)及び標準偏差σjを用いる。次いで、メモリ12(図1参照)に記憶されたマハラノビス基準空間を読み出す(S56)。
次いで、そのマハラノビス基準空間に基づいて、検査画像、厳密には検査画像に含まれた検査品グレー領域のマハラノビス距離(MD値)を算出する(S57)。具体的には、マハラノビス基準空間(上記式3参照)と、S55で正規化した特徴量のデータ(x11〜xik、ただしkは項目数、iはi=1、2、3、・・・、識別したい検査品グレー領域の数)とを、次の式4、式5に代入することにより、MD値を算出する。
例えば、検査品グレー領域が5箇所検出された場合には、各検査品グレー領域にi=1番から5番までの番号を振ったときに、上記式4、式5によって、1番(i=1)におけるMD値〜5番(i=5)におけるMD値の全部で5つのMD値が算出される。
次いで、そのMD値が予め設定された閾値以上であるか否かを判断する(S58)。MD値が閾値より小さい場合には(S58:No)、その検査品は良品であると判断する(S60)。これに対し、MD値が閾値以上の場合には(S58:Yes)、その検査品は不良品であると判断する(S59)。なお、閾値の設定方法についてはいくつかの方法が考えられるが、以下にその1例をあげる。すなわち、予め良品か不良か解っている被検査対象のMD値をそれぞれ求め、テスト用閾値を設定し、誤判定した場合の損失を求める。テスト用閾値を複数変更した場合に、一番損失が少なくなる閾値を、S58で使用する閾値に設定する。なお、不良流出を可能な限り防ぐ場合には、予め不良と解っている被検査対象のMD値を複数求め、求めたMD値の最小値よりも小さい値で閾値を設定する。
その後、良品(S60)、不良(S59)に関わらず報知器20(ディスプレイなど)で報知する(S62)。特に不良判定の場合には、検査員などがそれを認識できるように、ディスプレイ上で強調したり、音を出したりするなどして、報知の度合いを強くする(S62)。その後、図9のフローチャートの処理を終了する。
次に、具体的な検査品のサンプルを挙げて、本実施形態の検査装置1(図1参照)による良否判定を行った場合について説明する。ここで、図10は、検査品の複数のサンプルA〜Iの画像71〜79を示している。図10の上段に示したサンプルA〜Fは、目視検査員が良品と判断した良品サンプルとされる。ただし、良品サンプルA、B、Dにはそれぞれムラが存在し、それら画像71、72、74にはムラを示した領域(検査品グレー領域)711、721、741が含まれている。また、良品サンプルCには埃が存在し、そのためにその画像73には埃を示した領域(検査品グレー領域)731が含まれている。また、良品サンプルE、Fはきれいな良品であり、そのためにそれら画像75、76には検査品グレー領域が含まれていない。一方、図10の下段に示したサンプルG〜Iは、目視検査員が不良と判断した不良サンプルである。各不良サンプルG〜Iには不良の原因とされる欠陥が存在し、そのためにそれら画像77〜79には欠陥を示した領域(検査品グレー領域)771〜791が含まれている。これら検査品グレー領域771〜791は、それぞれ存在している場所や形状が異なっている。これらの画像71〜79に対して、検査装置1で良否判定を実施した結果例を次の表5に示す。
表5に示すように、画像75、76(良品サンプルE、F)には検査品グレー領域が含まれていないので、それら画像75、76に対してはMD値は算出されない。また、検査品グレー領域を含む良品サンプルA、B、C、Dに対しては、1.2〜1.8のMD値が算出されている。また、不良サンプルG〜Iの画像77〜79に対しては、12.1〜17.7のMD値が算出されている。このように、実際の良品と不良のMD値について、充分なMD値の差を得ることができる。
以上説明したように、本実施形態では、画像全体ではなく、不良の可能性がある検査品グレー領域のMD値に基づいて、検査品の良否判定を行っているので、その判定を行うための処理時間を短縮することができる。また、検査品に検査品グレー領域が含まれていない場合には、MD値を算出しないで良品と判定しているので、迅速にその判定をすることができる。また、MD値の算出にあたり、良品画像に含まれる良品グレー領域の輝度分布データから生成された基準空間を利用しているので、その良品グレー領域を基準として検査品グレー領域の良否を判定することができる。よって、検査品の偏りに関わらず、検査品の良否判定を精度良く行うことができる。
なお、上記実施形態において、図2のS1の処理が本発明の「第一の取得ステップ」に相当する。図2のS2の処理が本発明の「検出ステップ」に相当する。図2のS3の処理が本発明の「算出ステップ」に相当する。図2のS4の処理が本発明の「生成ステップ」に相当する。図9のS51の処理が本発明の「第二の取得ステップ」に相当する。図9のS52及びS53の処理が本発明の「判断ステップ」に相当する。図9のS54の処理が本発明の「第二の算出ステップ」に相当する。図9のS55〜S57の処理が本発明の「第三の算出ステップ」に相当する。図9のS58〜S60の処理が本発明の「良否判定ステップ」に相当する。図9のS61の処理が本発明の「良品判定ステップ」に相当する。メモリ12が本発明の「記憶手段」に相当する。図9のS51の処理を実行する画像処理用PC10が本発明の「取得手段」に相当する。図9のS52及びS53を実行する画像処理用PC10が本発明の「判断手段」に相当する。図9のS54の処理を実行する画像処理用PC10が本発明の「輝度分布データ算出手段」に相当する。図9のS55〜S57の処理を実行する画像処理用PC10が本発明の「マハラノビス距離算出手段」に相当する。図9のS55処理を実行する画像処理用PC10が本発明の「正規化手段」に相当する。図9のS58〜S60の処理を実行する画像処理用PC10が本発明の「良否判定手段」に相当する。図9のS61の処理を実行する画像処理用PC10が本発明の「良品判定手段」に相当する。
1 検査装置
10 画像処理用PC
11 CPU
12 メモリ
20 報知器
30 カメラ
61〜65 良品画像
621、631、651 良品グレー領域
71〜79 検査画像
711、721、731、741、771、781、791 検査品グレー領域

Claims (11)

  1. 良品サンプルの画像を良品画像として取得する第一の取得ステップと、
    その第一の取得ステップで取得した前記良品画像から、他の領域に比べて良品の程度が劣る領域である良品グレー領域を検出する検出ステップと、
    その検出ステップで検出した前記良品グレー領域の輝度分布を示した良品輝度分布データを算出する算出ステップと、
    その算出ステップで算出した前記良品輝度分布データに基づいて、マハラノビス距離を算出するための基準空間を生成する生成ステップと、を含むことを特徴とするマハラノビス基準空間の生成方法。
  2. 前記検出ステップは、前記良品画像に対して所定の画像処理を施すことにより前記良品グレー領域を検出するステップであることを特徴とする請求項1に記載のマハラノビス基準空間の生成方法。
  3. 前記算出ステップは、前記良品グレー領域の各画素の輝度値のうち所定の第一閾値より大きい各輝度値と前記第一閾値との差分値をそれぞれ算出し、それら差分値の合計値と、前記良品グレー領域の各画素の輝度値のうち前記第一閾値より小さい各輝度値と前記第一閾値との差分値をそれぞれ算出し、それら差分値の合計値の少なくとも一方を前記良品輝度分布データとして算出するステップであることを特徴とする請求項1又は2に記載のマハラノビス基準空間の生成方法。
  4. 前記算出ステップは、前記良品グレー領域の各画素のうち所定の第二閾値より大きい輝度値の画素の数と前記第二閾値より小さい輝度値の画素の数の少なくとも一方を前記良品輝度分布データとして算出するステップであることを特徴とする請求項1又は2に記載のマハラノビス基準空間の生成方法。
  5. 前記算出ステップは、前記良品グレー領域の各画素の輝度値のうち所定の第一閾値より大きい各輝度値と前記第一閾値との各差分値の合計値、前記良品グレー領域の各画素の輝度値のうち前記第一閾値より小さい各輝度値と前記第一閾値との各差分値の合計値、前記良品グレー領域の各画素のうち所定の第二閾値より大きい輝度値の画素の数、及び前記良品グレー領域の各画素のうち前記第二閾値より小さい輝度値の画素の数の少なくともいずれか一つを前記良品輝度分布データとして算出するステップであることを特徴とする請求項1又は2に記載のマハラノビス基準空間の生成方法。
  6. 請求項1〜5のいずれか1項に記載のマハラノビス基準空間の生成方法と、
    被検査対象となる検査品の画像を検査画像として取得する第二の取得ステップと、
    その第二の取得ステップで取得した前記検査画像に、不良の可能性がある領域である検査品グレー領域が含まれているか否かを判断する判断ステップと、
    その判断ステップで前記検査品グレー領域が含まれていると判断した場合に、前記検査品グレー領域の輝度分布を示した検査品輝度分布データを算出する第二の算出ステップと、
    その算出ステップで算出した前記検査品輝度分布データと前記基準空間とに基づいて、前記検査画像のマハラノビス距離を算出する第三の算出ステップと、
    その第三の算出ステップで算出した前記マハラノビス距離に基づいて、前記検査品の良否判定を行う良否判定ステップと、を含むことを特徴とする検査方法。
  7. 前記判断ステップで前記検査品グレー領域が含まれていないと判断した場合には、前記検査品を良品と判定する良品判定ステップを含むことを特徴とする請求項6に記載の検査方法。
  8. 前記判断ステップは、前記検査画像に対して、前記画像処理と同じ画像処理を施すことにより、前記検査品グレー領域が含まれているか否かを判断するステップであることを特徴とする請求項6又は7に記載の検査方法。
  9. 請求項1〜5のいずれか1項に記載のマハラノビス基準空間の生成方法で生成された前記基準空間が記憶された記憶手段と、
    被検査対象となる検査品の画像を検査画像として取得する取得手段と、
    その取得手段が取得した前記検査画像に、不良の可能性がある領域である検査品グレー領域が含まれているか否かを判断する判断手段と、
    その判断手段が前記検査品グレー領域が含まれていると判断した場合に、前記検査品グレー領域の輝度分布を示した検査品輝度分布データを算出する輝度分布データ算出手段と、
    その算出手段が算出した前記検査品輝度分布データと前記記憶手段に記憶された前記基準空間とに基づいて、前記検査画像のマハラノビス距離を算出するマハラノビス距離算出手段と、
    そのマハラノビス距離算出手段が算出した前記マハラノビス距離に基づいて、前記検査品の良否判定を行う良否判定手段と、を備えることを特徴とする検査装置。
  10. 前記マハラノビス距離算出手段は、前記検査品輝度分布データを正規化する正規化手段を含み、その正規化手段が正規化した前記検査品輝度分布データと前記基準空間とに基づいて、前記マハラノビス距離を算出するものであることを特徴とする請求項9に記載の検査装置。
  11. 前記判断手段が前記検査品グレー領域が含まれていないと判断した場合に、前記検査品を良品と判定する良品判定手段を備えることを特徴とする請求項9又は10に記載の検査装置。
JP2010267785A 2010-11-30 2010-11-30 マハラノビス基準空間の生成方法、検査方法及び検査装置 Active JP5479309B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010267785A JP5479309B2 (ja) 2010-11-30 2010-11-30 マハラノビス基準空間の生成方法、検査方法及び検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010267785A JP5479309B2 (ja) 2010-11-30 2010-11-30 マハラノビス基準空間の生成方法、検査方法及び検査装置

Publications (2)

Publication Number Publication Date
JP2012117908A JP2012117908A (ja) 2012-06-21
JP5479309B2 true JP5479309B2 (ja) 2014-04-23

Family

ID=46500912

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010267785A Active JP5479309B2 (ja) 2010-11-30 2010-11-30 マハラノビス基準空間の生成方法、検査方法及び検査装置

Country Status (1)

Country Link
JP (1) JP5479309B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6579739B2 (ja) * 2014-09-18 2019-09-25 株式会社Screenホールディングス 検査装置および基板処理装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000275757A (ja) * 1999-03-24 2000-10-06 Fuji Photo Film Co Ltd 画像評価方法及び装置
JP4429640B2 (ja) * 2003-06-11 2010-03-10 古河電気工業株式会社 溶接痕の外観検査方法
JP2005252451A (ja) * 2004-03-02 2005-09-15 Sony Corp 画質検査方法及び画質検査装置
JP4608224B2 (ja) * 2004-03-22 2011-01-12 オリンパス株式会社 欠陥画像検査装置及びその方法
JP4402004B2 (ja) * 2005-04-15 2010-01-20 株式会社日立ハイテクノロジーズ 検査装置
JP2010164446A (ja) * 2009-01-16 2010-07-29 Angle Try Kk 検査対象品の外観検査方法及びプログラム

Also Published As

Publication number Publication date
JP2012117908A (ja) 2012-06-21

Similar Documents

Publication Publication Date Title
CN109870461B (zh) 一种电子元器件质量检测系统
TWI603074B (zh) 光學薄膜缺陷辨識方法及其系統
Choi et al. No-reference image quality assessment using blur and noise
EP3610986B1 (en) Apparatus and method for shot peening evaluation
JP2018005640A (ja) 分類器生成装置、画像検査装置、及び、プログラム
JP5956814B2 (ja) 外観検査装置、外観検査方法及びコンピュータプログラム
JP2007114843A (ja) 良否判定装置
CN116758491B (zh) 应用于3d打印的打印监控图像分析方法及系统
JP2011145179A (ja) 官能検査装置及び官能検査方法
JP2020181532A (ja) 画像判定装置及び画像判定方法
JP5305002B2 (ja) 外観検査装置
JP5479309B2 (ja) マハラノビス基準空間の生成方法、検査方法及び検査装置
JP6126290B1 (ja) 外観検査装置
JP5595247B2 (ja) マハラノビス基準空間の生成方法及び検査装置
CN110441315B (zh) 电子部件测试设备和方法
JP2009017158A (ja) カメラ検査装置
JP7411155B2 (ja) 色ムラ検査装置および色ムラ検査方法
TWI493177B (zh) 一種檢測具週期性結構光學薄膜的瑕疵檢測方法及其檢測裝置
JP4956077B2 (ja) 欠陥検査装置及び欠陥検査方法
JP6182024B2 (ja) ムラ測定方法およびムラ測定装置
KR20140006582A (ko) 표시패널의 얼룩 검사 장치 및 그 방법
JP6114559B2 (ja) フラットパネルディスプレイの自動ムラ検出装置
TWM606740U (zh) 瑕疵檢測系統
JP2011220828A (ja) 焦点ズレ検出装置、焦点ズレ検出方法およびプログラム
JP2007249743A (ja) 移動物体の識別方法、移動物体の識別装置、及び移動物体の識別処理を実行させるプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20121016

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140212

R150 Certificate of patent or registration of utility model

Ref document number: 5479309

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250