JP6643856B2 - 分類方法、検査方法、検査装置、およびプログラム - Google Patents

分類方法、検査方法、検査装置、およびプログラム Download PDF

Info

Publication number
JP6643856B2
JP6643856B2 JP2015199722A JP2015199722A JP6643856B2 JP 6643856 B2 JP6643856 B2 JP 6643856B2 JP 2015199722 A JP2015199722 A JP 2015199722A JP 2015199722 A JP2015199722 A JP 2015199722A JP 6643856 B2 JP6643856 B2 JP 6643856B2
Authority
JP
Japan
Prior art keywords
image
group
evaluation value
article
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015199722A
Other languages
English (en)
Other versions
JP2016110625A5 (ja
JP2016110625A (ja
Inventor
英則 橋口
英則 橋口
洋志 奥田
洋志 奥田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US14/943,512 priority Critical patent/US10248888B2/en
Priority to CN201510847745.6A priority patent/CN105654109B/zh
Publication of JP2016110625A publication Critical patent/JP2016110625A/ja
Publication of JP2016110625A5 publication Critical patent/JP2016110625A5/ja
Application granted granted Critical
Publication of JP6643856B2 publication Critical patent/JP6643856B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate

Description

本発明は、物品を複数のグループのいずれかに分類する分類方法、検査方法、検査装置、およびプログラムに関する。
物品の外観検査や内部検査を行う装置として、撮像部で当該物品を撮像することによって得られた画像(対象画像)を用いて検査を行う検査装置がある。このような検査装置では、画像の評価値を求めるための評価方法を、複数のグループのいずれかに既に分類された複数のサンプルそれぞれの画像(学習用画像)を用いて決定する、いわゆる「学習」が行われる。そして、決定された評価方法に基づいて物品の画像についての評価値が求められ、その評価値に基づいて物品が複数のグループのいずれかに分類される。したがって、検査装置では、評価方法を、学習により、物品を分類する性能が向上するように決定することが好ましい。
特許文献1には、複数の学習用画像を用いて、評価方法に使用される特徴量の組み合わせを決定する方法が提案されている。また、特許文献2には、装置とユーザとで分類したカテゴリが互いに異なるサンプルを特定し、当該サンプルについて装置とユーザとで同じカテゴリに分類されるように、評価方法をユーザに変更させる方法が提案されている。
特開2010−102690号公報 特開2010−157154号公報
特許文献1に記載された方法では、例えば、複数の学習用画像の中に小さい欠陥や低コントラストの欠陥などを含む画像がある場合、当該画像に係るサンプルを本来分類すべきグループに分類させるように評価方法が決定されないことがある。この場合において、特許文献1には、物品を分類する性能を向上させるように評価方法を変更することについては記載されていない。また、特許文献2に記載された方法では、装置とユーザとで分類の異なるサンプルを特定するため、評価方法を変更するごとに、全てのサンプルについての分類を装置にも行わせる必要がある。そのため、物品の分類に使用される評価方法を決定する処理(学習処理)が煩雑化しうる。
そこで、本発明は、学習処理の煩雑化を低減し、且つ物品を分類する性能を向上させるために有利な技術を提供することを目的とする。
上記目的を達成するために、本発明の一側面としての分類方法は、物品の画像についての評価値に基づいて前記物品を複数のグループのいずれかに分類する分類方法であって、前記複数のグループのいずれかに既に分類された複数のサンプルの画像を用いて、前記評価値を取得するための評価方法を決定する決定工程と、前記決定工程で決定した評価方法により前記複数のサンプルの画像についての評価値を取得する取得工程と、前記複数のサンプルの画像についての評価値において前記複数のグループの各々で特異な評価値を有する画像のサンプルの属するグループを変更する第1変更工程と、前記第1変更工程の後に前記複数のグループのいずれかにそれぞれ分類されている前記複数のサンプルの画像を用いて前記評価方法を変更する第2変更工程と、前記第2変更工程で変更された評価方法を用いて前記物品の画像についての評価値を取得し、当該評価値に基づいて前記物品を前記複数のグループのいずれかに分類する分類工程と、を含み、前記複数のグループは、第1グループおよび第2グループを含み、前記第1変更工程において属するグループを変更された前記サンプルは、サンプルの画像についての評価値の範囲が前記第1グループと前記第2グループとで互いに重なり合っている部分におけるサンプル群から選択されている、ことを特徴とする。
本発明の更なる目的又はその他の側面は、以下、添付図面を参照して説明される好ましい実施形態によって明らかにされるであろう。
本発明によれば、例えば、学習処理の煩雑化を低減し、且つ物品を分類する性能を向上させるために有利な技術を提供することができる。
第1実施形態の検査装置を示す概略図である。 処理部における分類方法を示すフローチャートである。 分類情報を取得する方法(学習方法)を示すフローチャートである。 複数の学習用画像の各々について、特徴リストに含まれる各画像特徴についての特徴量を抽出した結果を示す図である。 表示部の画面における表示例を示す図である。 表示部に表示される累積数分布を示す図である。 累積数分布の比較例を示す図である。 累積数分布の変形例を示す図である。
以下、添付図面を参照して、本発明の好適な実施の形態について説明する。なお、各図において、同一の部材ないし要素については同一の参照番号を付し、重複する説明は省略する。
<第1実施形態>
本発明に係る第1実施形態の検査装置1について、図1を参照しながら説明する。図1は、第1実施形態の検査装置1を示す概略図である。検査装置1は、例えば、工業製品に利用される金属部品や樹脂部品などの物品2の外観検査を行う。物品2の表面には、キズやムラ(例えば色ムラ)、凹凸などの欠陥が生じていることがあり、検査装置1は、物品2の画像に基づいて物品2の表面に生じている欠陥を検出し、当該物品2を複数のグループのいずれかに分類する。第1実施形態では、複数のグループに良品グループ(第1グループ)および不良品グループ(第2グループ)が含まれ、検査装置1によって物品2を良品グループおよび不良品グループのいずれかに分類する例について説明する。また、第1実施形態は、検査装置1によって物品2の外観(物品2の表面)を検査する例について説明するが、X線などを用いて物品2の内部を検査する場合においても本実施形態を適用することができる。
検査装置1は、撮像部11と、処理部12と、表示部13と、入力部14とを含みうる。撮像部11は、例えば照明部やカメラなどを含み、物品2を撮像して物品2の画像(対象画像)を取得する。撮像部11によって取得された物品2の画像は、処理部12に転送される。処理部12は、例えば、CPU12a(Central Processing Unit)、RAM12b(Random AccessMemory)、およびHDD12c(Hard Disk Drive)を含む情報処理装置から成りうる。処理部12は、撮像部11によって取得された対象画像についての評価値を求め、求めた評価値と各グループにおける評価値の範囲(閾値)とに基づいて物品2を複数のグループのいずれかに分類する処理(分類処理)を実行する。CPU12aは、物品2を複数のグループに分類するためのプログラムを実行し、RAM12b、HDD12cは、当該プログラムやデータを格納する。表示部13は、例えばモニタを含み、処理部12によって実行された分類処理の結果を表示する。また、入力部14は、例えばキーボードやマウスなどを含み、ユーザからの指示を処理部12に送信する。
[処理部12における分類処理について]
次に、処理部12における分類処理について、図2を参照しながら説明する。図2は、処理部12における分類処理の方法を示すフローチャートである。S1では、処理部12は、物品2の表面における欠陥の可視化された画像が取得されるように、物品2を撮像するときの撮像部11の条件を設定する。当該条件は、例えば照明の角度やカメラの露光時間、フォーカスや絞りなどを含みうる。S2では、処理部12は、複数のグループのいずれかに既に分類された複数のサンプルぞれぞれの画像(学習用画像)を取得する。複数の学習用画像は、今までに撮像部11によって撮像されて保存された画像であってもよいし、保存された画像が無い場合は、複数のサンプルそれぞれを撮像部11に撮像させることによって新たに取得されてもよい。また、複数のサンプルそれぞれは、それらの学習用画像に基づいて、例えばユーザによって複数のグループ(良品グループおよび不良品グループ)のいずれかに分類されている。ここで、第1実施形態では、2つのグループ(良品グループおよび不良品グループ)のいずれかに分類されたサンプルの画像を学習用画像として用いているが、それに限られるものではない。例えば、不良品の種類(キズやムラなど)に応じて更に細かく分類されたサンプルの画像を学習用画像として用いてもよい。
S3では、処理部12は、S2で取得した複数の学習用画像の少なくとも一部を用いて、対象画像を分類するための情報(以下、分類情報)を取得する、いわゆる「学習」を行う。分類情報は、画像の評価値を求めるための評価方法、および物品を分類するための評価値の閾値を含みうる。評価方法は、例えば、画像の評価値を求めるための関数であり、画像における複数の特徴量をパラメータとして使用する評価方法に当該複数の特徴量を代入することにより画像の評価値を求めることができる。特徴量とは、画像における特徴(以下、画像特徴)の大きさを表す。S3において、処理部12は、例えば、多数の画像特徴の中から、各学習用画像を良品グループおよび不良品グループのいずれかに分類するために用いられたと推定される複数の画像特徴を自動的に抽出して特徴リストを作成する。そして、当該特徴リストに含まれる複数の画像特徴の各々についての特徴量をパラメータとする評価方法を分類情報として決定する。分類情報を取得する方法の詳細については後述する。S4では、処理部12は、撮像部11に物品2を撮像させ、それにより得られた物品2の画像(対象画像)をS3で取得した分類情報に基づいて良品グループおよび不良品グループのいずれかに分類する。処理部12は、例えば、S3で決定した評価方法を用いて対象画像の評価値を求め、当該評価値と閾値とを比較することによって物品を分類するグループを決定する。S5では、処理部12は、検査結果を表示部13に表示させる。処理部12は、物品2に対する良品または不良品の判定だけでなく、例えば、物品2に生じている欠陥部分の画像や、特徴リストに含まれる各画像特徴についての特徴量および評価値などを検査結果として表示部13に表示させてもよい。
[分類情報の取得について]
図2のフローチャートにおけるS3の工程で行われる分類情報の取得(学習)について、図3を参照しながら説明する。図3は、分類情報を取得する方法(学習方法)を示すフローチャートである。
S3−1では、処理部12は、複数の学習用画像の少なくとも一部を用いて特徴リストを作成し、当該特徴リストに含まれる複数の画像特徴の各々についての特徴量をパラメータとする評価方法を決定する。以下では、n枚の学習用画像を用いて特徴リストを作成し、評価方法としてマハラノビス距離を用いる例について説明する。例えば、処理部12は、複数の学習用画像の各々における欠陥を強調するため、各学習用画像に対し、周波数ドメインへの変換手法としてのウェーブレット変換のひとつであるハール・ウェーブレット変換を行う。ハール・ウェーブレット変換は、位置情報を保持したまま周波数変換を行うことが可能な処理である。まず、処理部12は、複数の学習用画像の各々に対し、式(1)で示す第1フィルタから第4フィルタまでの4種類のフィルタを用いて内積演算を行う。式(1)において、第1フィルタは、縦方向の高周波成分を抽出するためのフィルタであり、第2フィルタは、対角方向の高周波成分を抽出するためのフィルタである。また、第3フィルタは横方向の高周波成分を抽出するためのフィルタであり、第4フィルタは低周波成分を抽出するためのフィルタである。
Figure 0006643856
これにより、処理部12は、縦方向の高周波成分を抽出した画像、対角方向の高周波成分を抽出した画像、横方向の高周波成分を抽出した画像、および低周波成分を抽出した画像の4種類の画像を得ることができる。このように得られた4種類の画像はそれぞれ、変換前の画像と比べて解像度が2分の1になる。処理部12は、低周波成分を抽出した画像に対してハール・ウェーブレット変換を行い、解像度を2分の1にした4種類の画像を更に得る工程を繰り返すことにより、階層的に周波数が低くなる複数の画像を得る。
そして、処理部12は、ハール・ウェーブレット変換により得られた各階層の画像および変換前の画像のそれぞれから、全画素値の最大値、平均値、分散値、尖度、歪度、相乗平均などのマクロな画像特徴を抽出する。処理部12は、マクロな画像特徴として、コントラスト、最大値と最小値との差、標準偏差などの統計値を抽出してもよい。このような処理を行うことにより、処理部12は、複数の学習用画像から多数の画像特徴を抽出することができる。ここで、本実施形態では、ハール・ウェーブレット変換を用いて多数の画像特徴を得たが、例えば、その他のウェーブレット変換やエッジ抽出、フーリエ変換、ガボール変換といったその他の変換手法を用いて多数の画像特徴を得てもよい。また、多数の画像特徴には、マクロな画像特徴だけでなく、フィルタリング処理によって算出された局所的な画像特徴が含まれてもよい。
次に、処理部12は、例えば、良品グループにおける学習用画像を用いて、抽出した画像特徴ごとにスコアを算出し、抽出された多数の画像特徴から分類処理に用いる画像特徴を選択して特徴リストを作成する。画像特徴を選択する方法としては、例えば、特許文献1に示すように、良品グループにおける学習用画像を用いて画像特徴の組み合わせの相性を評価する方法がある。本実施形態では、当該方法を用いて分類処理に用いる画像特徴を選択するが、例えば主成分分析法など他の方法を用いてもよい。主成分分析法は、複数の画像特徴における冗長性を省くため、固有分解によって固有値が高い画像特徴を選択する方法である。この方法を用いることにより、冗長な画像特徴が選択されることを防ぐことができる。ここで、上記では、良品グループにおける学習用画像を用いて画像特徴を選択する例を説明したが、それに限られるものではない。例えば、不良品グループにおける学習用画像を用いて画像特徴を選択してもよいし、双方における学習用画像を用いて画像特徴を選択してもよい。
次に、作成された特徴リストに含まれる各画像特徴についての特徴量の重みを決定する方法について、図4を参照しながら説明する。図4は、複数の学習用画像の各々について、特徴リストに含まれる各画像特徴についての特徴量を抽出した結果を示す図である。図4では、複数の学習用画像の各々における各特徴量をXijで表す。iは学習用画像の番号を示し(i=1,2,・・・,n)、jは特徴リストに含まれる特徴の番号を示している(j=1,2,・・・,k)。nは学習用画像の数であり、kは特徴リストに含まれている画像特徴の数である。ただし、nとkとの関係はn≧kであることが好ましい。また、Mは複数の学習用画像における特徴量Xijの平均値であり、σは複数の学習用画像における特徴量Xijの標準偏差である。
処理部12は、式(2)により、複数の学習用画像の各々における各特徴量Xijの正規化を行う。Yijは、正規化された各特徴量を表す。また、処理部12は、式(3)により相関係数rpqを求め、式(4)に示すように各相関係数r11〜rkkによって構成された相関行列Rの逆行列Aを求める。この逆行列Aが特徴リストに含まれる各画像特徴についての特徴量の重みに相当する。これにより、処理部12は、評価方法を、特徴リストに含まれる各画像特徴についての特徴量(正規化された特徴量)をパラメータとした、例えば式(5)によって表されるマハラノビス距離MDに決定することができる。
Figure 0006643856
Figure 0006643856
Figure 0006643856
Figure 0006643856
図3のフローチャートに戻り、S3−2では、処理部12は、S3−1で決定した評価方法(マハラノビス距離MD)により、複数の学習用画像の各々について評価値を求める。処理部12は、特徴リストに従って複数の学習用画像の各々から複数の特徴量を抽出し、当該複数の特徴量を評価方法に代入することにより各学習用画像についての評価値を求める。第1実施形態では、各学習用画像の評価値として異常度を用いる例について説明する。本実施形態では、異常度(評価値)をマハラノビス距離MDによって求めたが、ユークリッド距離や部分空間法の一種である投影距離によって求めてもよい。
S3−3では、処理部12は、複数の学習用画像の各々における異常度(評価値)の分布を各グループについて生成するとともに表示部13に表示する。S3−4では、処理部12は、サンプルの画像についての評価値の範囲が複数のグループにおいて互いに相違する度合(以下、相違度)が許容値を満たしているか否かを判断する。相違度が許容値を満たしていない場合はS3−5に進み、相違度が許容値を満たしている場合は分類情報の取得(学習)を終了する。許容値は、例えば、ユーザによって予め設定されうる。
図5は、表示部13の画面における表示例を示す図である。表示部13の領域13aには、各学習用画像における異常度(評価値)の分布(ヒストグラム)が各グループについて表示されている。当該ヒストグラムにおいて、白い棒が良品グループにおける学習用画像の枚数を表し、黒い棒が不良品グループにおける学習用画像の枚数を表している。また、表示部13の領域13bには、対象画像を分類するための評価値の閾値を決定するための不良品検出率と、相違度としての直交率とが表示されている。
不良品検出率とは、複数のグループのうち所定のグループの分類されるべきサンプルを当該所定のグループに分類させる比率のことであり、例えば、不良品を不良品として分類させる比率のことである。この不良品検出率に応じて閾値が決定されうる。不良品検出率は、ユーザによって任意に設定可能であるが、一般に、不良品が良品に分類されることがないように100%に設定される。不良品検出率が100%の場合、処理部12は、不良品グループにおける学習用画像の異常度の最小値より小さい値に閾値を設定する。つまり、処理部12は、図5に示すヒストグラムにおいて、不良品グループにおける学習用画像の全てが閾値より右側になるように閾値を設定する。図5に示す例では、不良品グループにおいて異常度が最小となる学習用画像13kの異常度より小さい値になるように閾値13cが処理部12によって設定される。
また、相違度としての直交率とは、良品グループにおける学習用画像の全てに対する、閾値より異常度の小さい学習用画像の割合のことである。直交率は一般に高い方が好ましく、直交率が100%のときが、良品グループにおける学習用画像の全てが閾値より左側に配置され、不良品グループにおける学習用画像の全てが閾値より右側に配置される理想的な状態となる。
ここで、本実施形態では、相違度が許容値を満たしているか否かの判断が処理部12によって行われるが、例えばユーザによって行われてもよい。この場合、ユーザは、相違度(直交率)が許容値を満たしていないと判断したときには「追加学習」ボタン13dを、相違度が許容値を満たしていると判断したときには「学習の終了」ボタン13eを入力部14を介して押す。処理部12は、「追加学習」ボタン13dがユーザによって押された場合にはS3−5に進み、「学習の終了」ボタン13eがユーザによって押された場合には分類情報の取得(学習)を終了する。
S3−5では、処理部12は、複数の学習用画像の各々についての異常度(評価値)をグループごとに表した情報に基づいて、複数の学習用画像の各々についての異常度において特異な異常度を有する少なくとも1つのサンプルを特定する。第1実施形態では、当該情報として、各グループにおける異常度のヒストグラムが用いられる。処理部12は、サンプルの画像についての評価値の範囲が良品グループと不良品グループとで互いに重なり合っている部分(以下、重複部分)に属するサンプルから、特異な評価値を有する少なくとも1つのサンプルを選択するとよい。重複部分とは、例えば、表示部13の領域13aに表示されたヒストグラムにおける異常度の範囲13fのことである。例えば、処理部12は、不良品グループおよび重複部分の双方に含まれるサンプルのうち、異常度の低い方から順に少なくとも1つのサンプルを特定する。もしくは、処理部12は、良品グループおよび重複部分の双方に含まれるサンプルのうち、異常度の高い方から順に少なくとも1つのサンプルを特定する。特定するサンプルの数は、例えば、ユーザによって予め設定されうる。また、処理部12は、特定されたサンプルの学習用画像を表示部13の領域13gに表示させてもよい。ここで、本実施形態では、特異な評価値を有する少なくとも1つのサンプルの特定が処理部12によって行われるが、例えばユーザによって行われてもよい。この場合、ユーザは、表示部13の領域13aに表示されたヒストグラムにおいて、特異な評価値を有する学習用画像を入力部14を介して選択することにより、当該少なくとも1つのサンプルを特定しうる。
S3−6では、処理部12は、S3−5で特定された少なくとも1つのサンプルの属するグループを変更する。例えば、処理部12は、S3−5で特定された少なくとも1つのサンプルが不良品グループに属する場合は、当該少なくとも1つのサンプルの属するグループを不良品グループから良品グループに変更する。図5の例において、不良品グループにおいて異常度が最小となる学習用画像13kに係るサンプルがS3−5で特定されたとすると、処理部12は、学習用画像13kに係るサンプルの属するグループを良品グループに変更する。
ここで、特定された物品の学習用画像を表示部13の領域13gに表示し、当該学習用画像の属するグループを変更するか否かをユーザに判断させるように処理部12を構成してもよい。この場合、処理部12は、表示部13の領域13gに表示された学習用画像を参照し、当該学習用画像に係るサンプルを良品判定するか、不良品判定するか、または当該学習用画像を削除するかを判断させる。例えば、S3−5で特定されたサンプルが不良品グループに属しているときでは、「良品判定」ボタン13hが入力部14を介してユーザにより押されると、処理部12は、特定されたサンプルの属するグループを良品グループに変更する。一方で、「不良品判定」ボタン13iがユーザにより押されると、処理部12は、学習を終了する。また、「削除」ボタン13jがユーザにより押されると、処理部12は、特定されたサンプルの学習用画像を削除する。
S3−6の工程の後のS3−1では、処理部12は、S3−6において少なくとも1つのサンプルの属するグループが変更された後の複数のサンプルそれぞれの学習用画像を用いて特徴リストを新たに作成し、評価方法を変更する。S3−6の工程の後のS3−2では、処理部12は、変更した後の評価方法を用いて、複数の学習用画像の各々について評価値を求める。S3−6の工程の後のS3−3では、処理部12は、各学習用画像における異常度(評価値)の分布を各グループについて新たに生成する。また、S3−6の工程の後のS3−4では、相違度が許容値を満たしているか否かを判断するとともに、不良品検出率に従って閾値を新たに決定する。ここで、第1実施形態では、処理部12は、S3−6の工程の後S3−1に戻り、特徴リストを新たに作成して評価方法を変更したが、それに限られるものではない。例えば、処理部12は、S3−5の工程の後S3−3に戻り、S3−1における評価方法の変更や、S3−3における各学習用画像における異常度の分布の生成を行わずに、不良品検出率に従って閾値のみを新たに決定してもよい。この場合、処理部12は、最初にS3−1の工程で決定された評価方法を用いて対象画像の評価値を求め、S3−3で新たに決定した閾値に従って物品を分類するグループを決定し、当該物品を複数のグループのいずれかに分類する。
上述したように、第1実施形態の検査装置1では、評価方法を用いて複数の学習用画像の各々について評価値を求める。そして、検査装置1は、複数の学習用画像についての評価値において特異な評価値を有する少なくとも1つのサンプルのグループを変更し、特徴リストを新たに作成して評価方法を変更する。これにより、検査装置1は、高精度な学習を行うことができ、変更した評価方法を用いて対象画像についての評価値を求めることにより、当該物品を複数のグループのいずれかに精度よく分類することができる。
<第2実施形態>
第1実施形態では、特異な異常度を有する少なくとも1つのサンプルを特定する際に、各グループにおける異常度のヒストグラムを、複数の学習用画像の各々についての異常度をグループごとに表した情報として用いる例について説明した。第2実施形態では、異常度(評価値)でソートされた良品グループの各学習用画像と、良品グループの各学習用画像の異常度に対応する異常度を有する不良品グループの学習用画像の数との関係を、当該情報として用いる例について説明する。以下では、当該関係を「累積数分布」と称する。
図6は、累積数分布を示す図である。当該累積数分布は、S3−3の工程において処理部12によって生成され、表示部13の領域13aに表示されうる。図6における横軸は、異常度が少ない順にソートさせた良品グループの各学習用画像の番号を示し、縦軸は、良品グループの各学習用画像の異常度に対応する異常度を有する不良品グループの学習用画像の数(累積数)を示している。
例えば、図6では、良品グループの学習用画像の番号(横軸)が「30」のところで、不良品グループの学習用画像の累積数(縦軸)が1枚目にカウントされている。これは、良品グループの30枚目の学習用画像の異常度に対応する異常度を有する不良品グループの学習用画像が1枚あることを示している。具体的には、不良品グループにおける1枚の学習用画像の異常度が、良品グループにおける30枚目の学習用画像の異常度と31枚目の学習用画像の異常度との間にあることを示している。
同様に、図6では、良品グループの学習用画像の番号(横軸)が「40」のところで、不良品グループの学習用画像の累積数(縦軸)が2枚目にカウントされている。これは、良品グループの40枚目の学習用画像の異常度に対応する異常度を有する不良品グループの学習用画像が1枚あることを示している。具体的には、不良品グループにおける1枚の学習用画像の異常度が、良品グループにおける40枚目の学習用画像の異常度と41枚目の学習用画像の異常度との間にあることを示している。
次に、図6に示す累積数分布を用いる利点について説明する。累積数分布を用いる利点としては主に3点ある。1点目の利点としては、グラフ形状が一意的に決定されることである。例えば、異常度をグループごとに表した情報としてヒストグラムを用いる場合では、ビンの設定を行わないとグラフ形状を決定することができない。それに対し、図6に示す累積数分布を当該情報として用いる場合では、ビンなどを設定することなく、グラフ形状を一意的に決定することができる。
2点目の利点としては、最も異常度が小さい不良品グループの学習用画像を容易に検知することができることである。一般に検査システムにおいては、最も良品に近い不良品を如何に早く且つ正確に検知することができるかが、高精度に画像を分類するうえで大きな課題となる。ヒストグラムを用いる場合では、良品グループおよび不良品グループの2つのヒストグラムを参照しないと、最も異常度が小さい不良品グループの学習用画像を検知することができない。それに対し、図6に示す累積数分布では、プロット線で表される1つのデータのみを参照することにより、最も異常度が小さい不良品グループの学習用画像を容易に且つ正確に検知することができる。
3点目の利点としては、グラフ形状によって学習結果が妥当であるか否かを容易に判断することができることである。即ち、累積数分布では、グラフ形状(プロット線の傾き)から直交率(相違度)を容易に把握することができる。図7は、累積数分布についての比較例(3つの例)を示す。図7における実線71は、不良品グループにおける全ての学習用画像の異常度が良品グループにおける学習画像の最大の異常度よりも大きく、良品グループと不良品グループとが完全に分離している場合を示している。また、図7における破線72は、不良品グループにおける学習用画像の中に、良品グループにおける最大の異常度より小さい異常度を有する学習用画像があるが、良品グループと不良品グループとが十分に分離している場合を示している。さらに、図7における一点鎖線73は、不良品グループにおける学習用画像の中に、良品グループにおける最大の異常度より特に小さい異常度を有する学習用画像があり、学習が不十分である場合を示している。一点鎖線73に示すようなグラフ形状になる理由としては、例えば、本来は良品グループに分類されるべき学習用画像が不良品グループに分類されていることや、不良品グループを分類するために必要な画像特徴が抽出されていないことなどが挙げられる。
ここで、累積数分布では、グラフ形状(プロット線の傾き)から直交率(相違度)が求められ、求められた直交率が許容値を満たしているか否かがS3−4の工程において判断される。また、累積数分布は、累積数分布は、図6に示す例に限られるものではなく、例えば、図8に示すように、図6の縦軸と横軸とを逆にしたものであってもよい。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形および変更が可能である。
1:検査装置、11:撮像部、12:処理部、13:表示部、14:入力部、2:物品

Claims (14)

  1. 物品の画像についての評価値に基づいて前記物品を複数のグループのいずれかに分類する分類方法であって、
    前記複数のグループのいずれかに既に分類された複数のサンプルの画像を用いて、前記評価値を取得するための評価方法を決定する決定工程と、
    前記決定工程で決定した評価方法により前記複数のサンプルの画像についての評価値を取得する取得工程と、
    前記複数のサンプルの画像についての評価値において前記複数のグループの各々で特異な評価値を有する画像のサンプルの属するグループを変更する第1変更工程と、
    前記第1変更工程の後に前記複数のグループのいずれかにそれぞれ分類されている前記複数のサンプルの画像を用いて前記評価方法を変更する第2変更工程と、
    前記第2変更工程で変更された評価方法を用いて前記物品の画像についての評価値を取得し、当該評価値に基づいて前記物品を前記複数のグループのいずれかに分類する分類工程と、
    を含み、
    前記複数のグループは、第1グループおよび第2グループを含み、
    前記第1変更工程において属するグループを変更された前記サンプルは、サンプルの画像についての評価値の範囲が前記第1グループと前記第2グループとで互いに重なり合っている部分におけるサンプル群から選択されている、ことを特徴とする分類方法。
  2. サンプルの画像についての評価値の範囲が前記複数のグループにおいて互いに相違する度合が許容値を満たすように前記第1変更工程および前記第2変更工程を繰り返す、ことを特徴とする請求項1に記載の分類方法。
  3. 前記取得工程では、評価方法で使用するパラメータとして前記複数のサンプルの画像から抽出した複数の特徴量に基づいて、前記複数の特徴量を評価方法に代入することより前記複数のサンプルの画像についての評価値を取得する、ことを特徴とする請求項1又は2に記載の分類方法。
  4. 前記第2変更工程では、前記サンプルの属するグループが変更された後の前記複数のサンプルの画像について新たな評価値を取得し、当該新たな評価値に基づいて前記物品を分類するための評価値の閾値を決定する、ことを特徴とする請求項1乃至のうちいずれか1項に記載の分類方法。
  5. 前記第2変更工程では、前記複数のグループのうち所定のグループに分類されるべきサンプルを当該所定のグループに分類させる比率に従って前記閾値を決定する、ことを特徴とする請求項に記載の分類方法。
  6. 前記第1変更工程では、特異な評価値を有する画像の前記サンプルの属するグループを変更することに代えて、特異な評価値を有する画像の前記サンプルの画像を削除する、ことを特徴とする請求項1乃至のうちいずれか1項に記載の分類方法。
  7. 前記第1変更工程は、前記複数のサンプルの画像についての評価値をグループごとに表した情報を表示する表示工程を含む、ことを特徴とする請求項1乃至のうちいずれか1項に記載の分類方法。
  8. 前記情報は、各グループにおける評価値のヒストグラムを含む、ことを特徴とする請求項に記載の分類方法。
  9. 物品の画像についての評価値に基づいて前記物品を複数のグループのいずれかに分類する分類方法であって、
    前記複数のグループのいずれかに既に分類された複数のサンプルの画像を用いて、前記評価値を取得するための評価方法を決定する決定工程と、
    前記決定工程で決定した評価方法により前記複数のサンプルの画像についての評価値を取得する取得工程と、
    前記複数のサンプルの画像についての評価値において前記複数のグループの各々で特異な評価値を有する画像のサンプルの属するグループを変更する第1変更工程と、
    前記第1変更工程の後に前記複数のグループのいずれかにそれぞれ分類されている前記複数のサンプルの画像を用いて前記評価方法を変更する第2変更工程と、
    前記第2変更工程で変更された評価方法を用いて前記物品の画像についての評価値を取得し、当該評価値に基づいて前記物品を前記複数のグループのいずれかに分類する分類工程と、
    を含み、
    前記第1変更工程は、前記複数のサンプルの画像についての評価値をグループごとに表した情報を表示する表示工程を含み、
    前記複数のグループは、第1グループおよび第2グループを含み、
    前記情報は、評価値でソートされた前記第1グループの各サンプルの画像と、前記第1グループの各サンプルの画像の評価値に対応する評価値を有する前記第2グループのサンプルの画像の数との関係を含む、ことを特徴とする類方法。
  10. 前記第1変更工程は、前記表示工程において表示された前記情報に基づいて、特異な評価値を有する前記サンプルを特定する特定工程を含む、ことを特徴とする請求項乃至のうちいずれか1項に記載の分類方法。
  11. 請求項1乃至10のうちいずれか1項に記載の分類方法の各工程を情報処理装置に実行させることを特徴とするプログラム。
  12. 物品の検査を行う検査方法であって、
    前記物品を撮像することにより前記物品の画像を取得する工程と、
    請求項1乃至10のうちいずれか1項に記載の分類方法を用いて前記物品を前記複数のグループのいずれかに分類する工程と、
    を含むことを特徴とする検査方法。
  13. 物品の検査を行う検査装置であって、
    前記物品を撮像することにより前記物品の画像を得る撮像部と、
    前記物品の画像についての評価値に基づいて前記物品を複数のグループのいずれかに分類する処理部と、
    を含み、
    前記処理部は、
    前記複数のグループのいずれかに既に分類された複数のサンプルの画像を用いて、前記評価値を取得するための評価方法を決定する決定工程と
    前記決定工程で決定した評価方法により前記複数のサンプルの画像についての評価値を取得する取得工程と
    前記複数のサンプルの画像についての評価値において前記複数のグループの各々で特異な評価値を有する画像のサンプルの属するグループを変更する第1変更工程と
    前記第1変更工程の後に前記複数のグループのいずれかにそれぞれ分類されている前記複数のサンプルの画像を用いて前記評価方法を変更する第2変更工程と
    前記第2変更工程で変更された評価方法を用いて前記物品の画像についての評価値を取得し、当該評価値に基づいて前記物品を前記複数のグループのいずれかに分類する分類工程と、を行い、
    前記複数のグループは、第1グループおよび第2グループを含み、
    前記処理部は、前記第1変更工程において属するグループを変更する前記サンプルを、サンプルの画像についての評価値の範囲が前記第1グループと前記第2グループとで互いに重なり合っている部分におけるサンプル群から選択する、ことを特徴とする検査装置。
  14. 物品の検査を行う検査装置であって、
    前記物品を撮像することにより前記物品の画像を得る撮像部と、
    前記物品の画像についての評価値に基づいて前記物品を複数のグループのいずれかに分類する処理部と、
    を含み、
    前記処理部は、
    前記複数のグループのいずれかに既に分類された複数のサンプルの画像を用いて、前記評価値を取得するための評価方法を決定する決定工程と、
    前記決定工程で決定した評価方法により前記複数のサンプルの画像についての評価値を取得する取得工程と、
    前記複数のサンプルの画像についての評価値において前記複数のグループの各々で特異な評価値を有する画像のサンプルの属するグループを変更する第1変更工程と、
    前記第1変更工程の後に前記複数のグループのいずれかにそれぞれ分類されている前記複数のサンプルの画像を用いて前記評価方法を変更する第2変更工程と、
    前記第2変更工程で変更された評価方法を用いて前記物品の画像についての評価値を取得し、当該評価値に基づいて前記物品を前記複数のグループのいずれかに分類する分類工程と、を行い
    前記第1変更工程は、前記複数のサンプルの画像についての評価値をグループごとに表した情報を表示する表示工程を含み、
    前記複数のグループは、第1グループおよび第2グループを含み、
    前記情報は、評価値でソートされた前記第1グループの各サンプルの画像と、前記第1グループの各サンプルの画像の評価値に対応する評価値を有する前記第2グループのサンプルの画像の数との関係を含む、ことを特徴とする検査装置。
JP2015199722A 2014-11-28 2015-10-07 分類方法、検査方法、検査装置、およびプログラム Active JP6643856B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US14/943,512 US10248888B2 (en) 2014-11-28 2015-11-17 Classifying method, storage medium, inspection method, and inspection apparatus
CN201510847745.6A CN105654109B (zh) 2014-11-28 2015-11-27 分类方法、检查方法和检查装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014242305 2014-11-28
JP2014242305 2014-11-28

Publications (3)

Publication Number Publication Date
JP2016110625A JP2016110625A (ja) 2016-06-20
JP2016110625A5 JP2016110625A5 (ja) 2018-11-15
JP6643856B2 true JP6643856B2 (ja) 2020-02-12

Family

ID=56122196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015199722A Active JP6643856B2 (ja) 2014-11-28 2015-10-07 分類方法、検査方法、検査装置、およびプログラム

Country Status (2)

Country Link
JP (1) JP6643856B2 (ja)
CN (1) CN105654109B (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6381144B2 (ja) * 2016-10-06 2018-08-29 ソリッドビジョン株式会社 撮像処理装置
CN110537203A (zh) * 2017-03-27 2019-12-03 三菱重工业株式会社 飞机用部件的缺陷检测系统及飞机用部件的缺陷检测方法
JP7130984B2 (ja) * 2018-03-01 2022-09-06 日本電気株式会社 画像判定システム、モデル更新方法およびモデル更新プログラム
WO2019194064A1 (ja) * 2018-04-02 2019-10-10 日本電産株式会社 画像処理装置、画像処理方法、外観検査システムおよび外観検査方法
JP2018164272A (ja) * 2018-05-28 2018-10-18 ソリッドビジョン株式会社 撮像処理装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001156135A (ja) * 1999-11-29 2001-06-08 Hitachi Ltd 欠陥画像の分類方法及びその装置並びにそれを用いた半導体デバイスの製造方法
JP4606779B2 (ja) * 2004-06-07 2011-01-05 グローリー株式会社 画像認識装置、画像認識方法およびその方法をコンピュータに実行させるプログラム
US20060193520A1 (en) * 2005-02-28 2006-08-31 Takeshi Mita Object detection apparatus, learning apparatus, object detection system, object detection method and object detection program
JP2009080557A (ja) * 2007-09-25 2009-04-16 Seiko Epson Corp 識別方法及びプログラム
JP4629118B2 (ja) * 2008-03-03 2011-02-09 株式会社日立ハイテクノロジーズ 欠陥検査装置およびこの欠陥検査装置に用いるパラメータ調整方法。
JP2009282699A (ja) * 2008-05-21 2009-12-03 Seiko Epson Corp 画像における顔の器官の画像に対応する器官領域の検出
JP5414416B2 (ja) * 2008-09-24 2014-02-12 キヤノン株式会社 情報処理装置及び方法
JP4670976B2 (ja) * 2008-10-03 2011-04-13 ソニー株式会社 学習装置および方法、認識装置および方法、プログラム、並びに記録媒体
JP4710979B2 (ja) * 2009-01-09 2011-06-29 ソニー株式会社 対象物検出装置、学習装置、対象物検出方法およびプログラム
JP2014511530A (ja) * 2011-02-24 2014-05-15 スリーエム イノベイティブ プロパティズ カンパニー ウェブベース材料内の不均一性の検出システム
JP5214762B2 (ja) * 2011-03-25 2013-06-19 株式会社東芝 認識装置、方法及びプログラム
JP2013117861A (ja) * 2011-12-02 2013-06-13 Canon Inc 学習装置、学習方法およびプログラム

Also Published As

Publication number Publication date
JP2016110625A (ja) 2016-06-20
CN105654109A (zh) 2016-06-08
CN105654109B (zh) 2019-03-05

Similar Documents

Publication Publication Date Title
JP6643856B2 (ja) 分類方法、検査方法、検査装置、およびプログラム
JP6632288B2 (ja) 情報処理装置、情報処理方法、プログラム
JP5414416B2 (ja) 情報処理装置及び方法
US20180204315A1 (en) System, method for training and applying defect classifiers in wafers having deeply stacked layers
Cord et al. Texture classification by statistical learning from morphological image processing: application to metallic surfaces
JP2013257304A5 (ja)
JP2016115331A (ja) 識別器生成装置、識別器生成方法、良否判定装置、良否判定方法、プログラム
JP2015041164A (ja) 画像処理装置、画像処理方法およびプログラム
Zakaria et al. Object shape recognition in image for machine vision application
US10248888B2 (en) Classifying method, storage medium, inspection method, and inspection apparatus
US20130236082A1 (en) Rapid processing and detection of non-uniformities in web-based materials
JP2017102865A (ja) 情報処理装置、情報処理方法及びプログラム
WO2020129041A1 (en) Classifying defects in a semiconductor specimen
JP6616645B2 (ja) 分類方法、検査方法、検査装置、およびプログラム
US9959482B2 (en) Classifying method, storage medium, inspection method, and inspection apparatus
TW201606854A (zh) 用於晶粒對資料庫光罩檢查之自動校準樣本選擇
Davis et al. Automated bone age assessment using feature extraction
JP2016110625A5 (ja)
EP2977933B1 (en) Image classification
WO2016092783A1 (en) Information processing apparatus, method for processing information, discriminator generating apparatus, method for generating discriminator, and program
JP2016110626A5 (ja)
JP2019164450A (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
CN115485740A (zh) 异常晶片图像分类
US20200167908A1 (en) Determination device and determining method thereof
JP2022029137A (ja) 電子機器画面部のグレード判定方法及びシステム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181003

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181003

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190930

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200107

R151 Written notification of patent or utility model registration

Ref document number: 6643856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151