JP2022136618A - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2022136618A JP2022136618A JP2021036317A JP2021036317A JP2022136618A JP 2022136618 A JP2022136618 A JP 2022136618A JP 2021036317 A JP2021036317 A JP 2021036317A JP 2021036317 A JP2021036317 A JP 2021036317A JP 2022136618 A JP2022136618 A JP 2022136618A
- Authority
- JP
- Japan
- Prior art keywords
- image
- learning
- feature amount
- measurement
- measurement image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 58
- 238000003672 processing method Methods 0.000 title claims abstract description 11
- 238000005259 measurement Methods 0.000 claims abstract description 308
- 238000011156 evaluation Methods 0.000 claims abstract description 92
- 238000007689 inspection Methods 0.000 claims abstract description 51
- 238000004364 calculation method Methods 0.000 claims abstract description 30
- 230000007547 defect Effects 0.000 claims description 65
- 238000003860 storage Methods 0.000 description 34
- 238000000034 method Methods 0.000 description 33
- 238000010586 diagram Methods 0.000 description 24
- 238000004891 communication Methods 0.000 description 20
- 230000002950 deficient Effects 0.000 description 15
- 238000006243 chemical reaction Methods 0.000 description 13
- 230000005484 gravity Effects 0.000 description 6
- 238000010606 normalization Methods 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Abstract
【課題】計測画像の誤分類を抑制することのできる、画像処理装置及び画像処理方法を提供する。【解決手段】検査対象物の計測画像(327)を分類するための画像処理装置(30)であって、計測画像(327)の特徴量と学習画像の特徴量とに基づいて、計測画像(327)の評価値(328)を算出する算出部(350)と、計測画像(327)の評価値(328)に基づいて、計測画像(327)の特徴量が学習画像の特徴量に対して外れ値であるか否かを判定する判定部(360)と、を備える。【選択図】図3
Description
本発明は、画像処理装置及び画像処理方法に関する。
従来、この種の情報処理装置として、対象物体の欠陥を検出する情報処理装置であって、対象物体に複数の方向から光を照射して撮像された画像群を取得する取得手段と、画像群に含まれるそれぞれの画像の輝度情報に基づいて、画像の小領域ごとに輝度プロファイルを生成する生成手段と、小領域毎に生成された輝度プロファイルに基づいて、対象物体における欠陥を検出する検出手段とを備えるものが知られている(特許文献1参照)。特許文献1の情報処理装置は、事前学習して得られたデータを用いることなく対象物体の欠陥を検出している。
一方、検査対象物を撮影した計測画像において、検査対象物の種類、例えば、欠陥なし又は欠陥あり、及び欠陥ありであるときのその欠陥の種類の分類を求められることがある。
そのために、計測画像の特徴量とあらかじめ分類の分かっている学習画像の特徴量とに基づいて、当該計測画像を分類する方法が提案されている。
しかしながら、計測画像の特徴量が学習画像の特徴量と比較して外れ値である場合、そのような計測画像は既存の分類のいずれにも属さないにもかからず、上記方法では最も近い分類が与えられてしまう。その結果、計測画像を誤って分類してしまうことがあった。
本発明は、このような事情に鑑みてなされたものであり、計測画像の誤分類を抑制することのできる、画像処理装置及び画像処理方法を提供することを目的の1つとする。
本開示の一態様に係る画像処理装置は、検査対象物の計測画像を分類するための画像処理装置であって、計測画像の特徴量と学習画像の特徴量とに基づいて、計測画像の評価値を算出する算出部と、計測画像の評価値に基づいて、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを判定する判定部と、を備える。
この態様によれば、計測画像の特徴量と学習画像の特徴量とに基づいて算出された計測画像の評価値に基づいて、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを判定する。これにより、当該計測画像を、既存の分類以外、例えば計測エラー等として除外することが可能になる。従って、計測画像の誤分類を抑制することができる。
前述した態様において、算出部は、複数の特徴量で表現される特徴空間における計測画像の点と学習画像の点との間の距離に基づいて、計測画像の評価値を算出してもよい。
この態様によれば、複数の特徴量で表現される特徴空間における計測画像の点と学習画像の点との間の距離に基づいて、計測画像の評価値が算出される。これにより、計測画像の特徴量が学習画像の特徴量に対して外れ値であるかを評価する計測画像の評価値を、簡単かつ容易に算出することができる。
前述した態様において、算出部は、複数の特徴量で表現される特徴空間における計測画像の点と学習画像の点との間の密度に基づいて、計測画像の評価値を算出してもよい。
この態様によれば、複数の特徴量で表現される特徴空間における計測画像の点と学習画像の点との間の密度に基づいて、計測画像の評価値が算出される。これにより、さらに高精度な計測画像の評価値を、簡単かつ容易に算出することができる。
前述した態様において、学習画像と該学習画像に付与された分類とに基づいて、計測画像を分類する分類部をさらに備えてもよい。
この態様によれば、学習画像と該学習画像に付与された分類とに基づいて、計測画像が分類される。これにより、あらかじめ分類の分かっている学習画像から、計測画像が属する分類を推定することができる。
前述した態様において、計測画像及び学習画像は、それぞれ、欠陥を含み得る検査対象物の画像であり、分類は、欠陥がないことを示すクラスと、欠陥があるときの該欠陥の種類を示すクラスとを含んでもよい。
この態様によれば、計測画像及び学習画像は、それぞれ、欠陥を含み得る検査対象物の画像であり、分類は、欠陥がないことを示すクラスと、欠陥があるときの当該欠陥の種類を示すクラスとを含む。これにより、計測画像の欠陥の有無及びその種類を分類することが可能となる。
前述した態様において、分類部は、学習画像の特徴量と分類とを用いて学習させた学習済みモデルに計測画像の特徴量を入力し、該学習済みモデルから計測画像の分類を出力させてもよい。
この態様によれば、学習画像の特徴量と分類とを用いて学習させた学習済みモデルに計測画像の特徴量を入力し、当該学習済みモデルから計測画像の分類が出力される。これにより、さらに高精度な計測画像の分類を簡単かつ容易に得ることができる。
前述した態様において、学習画像の特徴量を入力とし、該学習画像の分類をラベルデータとして学習モデルを学習させ、学習済みモデルを生成する学習部をさらに備えてもよい。
この態様によれば、学習画像の特徴量を入力とし、学習画像の分類をラベルデータとして学習モデルを学習させ、学習済みモデルが生成される。これにより、学習済みモデル生成装置がなくても、学習済みモデルを得ることができる。
前述した態様において、複数の特徴量のそれぞれの指標に基づいて、複数の特徴量から少なくとも1つを選択する選択部をさらに備え、学習部は、学習画像における選択された特徴量を入力とし、該学習画像の分類をラベルデータとして学習モデルを学習させ、学習済みモデルを生成し、分類部は、学習済みモデルに計測画像における選択された特徴量を入力し、該学習済みモデルから計測画像の分類を出力させてもよい。
この態様によれば、学習画像における複数の特徴量から選択された特徴量を入力とし、該学習画像の分類をラベルデータとして学習モデルを学習させ、学習済みモデルを生成させ、分類部は、学習済みモデルに計測画像における選択された特徴量を入力し、該学習済みモデルから計測画像の分類を出力させる。これにより、学習時間を短縮することができるともに、学習済みモデルの過学習と計測画像の分類精度の低下とを抑制することができる。
前述した態様において、算出部は、計測画像における選択された特徴量と学習画像における選択された特徴量とに基づいて、計測画像の評価値を算出してもよい。
この態様によれば、計測画像における選択された特徴量と学習画像における選択された特徴量とに基づいて、計測画像の評価値が算出される。これにより、特徴量の数(次元)を削減されるので、さらに高精度な計測画像の評価値を、さらに少ない計算量で算出することができる。
前述した態様において、判定部による判定結果と分類部による分類とに基づいて、計測画像の適否を出力する出力部をさらに備えてもよい。
この態様によれば、判定部による判定結果と分類部による分類とに基づいて、計測画像の適否を出力する。これにより、分類に適さない、又は、欠陥を含む計測画像を、容易に除外することができる。
前述した態様において、判定部は、計測画像の評価値としきい値との比較に基づいて、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを判定してもよい。
この態様によれば、計測画像の評価値としきい値との比較に基づいて、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かが判定される。これにより、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを、容易に判定することができる。
前述した態様において、算出部は、一の学習画像の特徴量と他の学習画像の特徴量とに基づいて、一の学習画像の評価値を算出し、しきい値は、学習画像の評価値に基づいて設定されてもよい。
この態様によれば、しきい値が学習画像の評価値に基づいて設定される。これにより、適切なしきい値を容易に設定することができる。
前述した態様において、計測画像の特徴量と学習画像の特徴量とに基づく座標系に、計測画像の点と学習画像の点とをプロットしたグラフを作成する作成部、をさらに備えてもよい。
この態様によれば、計測画像の特徴量と学習画像の特徴量とに基づく座標系に計測画像の点と学習画像の点とをプロットしたグラフが作成される。これにより、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを視覚的に確認することが可能になる。
本開示の他の態様に係る画像処理方法は、検査対象物の計測画像を分類するための画像処理方法であって、計測画像の特徴量と学習画像の特徴量とに基づいて、計測画像の評価値を算出するステップと、計測画像の評価値に基づいて、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを判定するステップと、を含む。
この態様によれば、計測画像の特徴量と学習画像の特徴量とに基づいて算出された計測画像の評価値に基づいて、計測画像の特徴量が学習画像の特徴量に対して外れ値であるか否かを判定する。これにより、当該計測画像を、既存の分類以外、例えば計測エラー等として除外することが可能になる。従って、計測画像の誤分類を抑制することができる。
本発明によれば、計測画像の誤分類を抑制することができる。
以下に本発明の実施形態を説明する。以下の図面の記載において、同一または類似の部分には同一または類似の符号で表している。但し、図面は模式的なものである。従って、具体的な寸法等は以下の説明を照らし合わせて判断するべきものである。また、図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることは勿論である。さらに、本発明の技術的範囲は、当該実施形態に限定して解するべきではない。
まず、図1を参照しつつ、一実施形態に従う画像検査システムの構成について説明する。図1は、一実施形態における画像検査システム1の概略構成を例示する構成図である。
図1に示すように、画像検査システム1は、学習済みモデル生成装置10と、画像検査装置20と、画像処理装置30と、照明ILとを含んでいる。学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、通信ネットワークNWを介して、互いに通信可能に接続されている。照明ILは、検査対象物TAに光Lを照射する。画像検査装置20は、反射光Rを撮影し、検査対象物TAを計測した画像(以下、「計測画像」ともいう)に基づいて、検査対象物TAの検査を行う。より詳細には、画像検査装置20は、計測画像に基づいて、検査対象物TAが良品であるか不良品であるかを判定したり、検査対象物TAが欠陥を含むか否かを判定したりする。
学習済みモデル生成装置10は、画像処理装置30が計測画像を分類するために用いる学習済みモデルを生成する。また、学習済みモデル生成装置10は、画像検査装置20が検査を行うために用いる学習済みモデルを生成してもよい。
画像処理装置30は、検査対象物TAの計測画像を分類するためのものである。計測画像は検査対象物TAの画像であり、検査対象物TAには、例えば製造工程において欠陥が生じることがある。欠陥は、特に限定されるものではないが、例えば、欠け、傷、薄い汚れ、濃い汚れ、クラック、バリ、付着物、異物、打痕、色等のムラ、印字のかすれ、印字等の位置ずれ等の視認可能なものを含む。よって、計測画像は、このような欠陥の部分画像(以下、単に「欠陥」ともいう)を含み得る。
前述したように、画像検査装置20は、計測画像に基づいて検査対象物TAが欠陥を含むか否かを判定することが可能である。一方、画像処理装置30は、計測画像に基づいて、当該計測画像における欠陥の有無、及び、欠陥があるときの当該欠陥の種類を分類することが可能である。そのため、画像処理装置30は、例えば、計測画像の分析や解析、計測画像に含まれ得る欠陥の原因の推定及び/又は絞り込みに有用である。
次に、図2を参照しつつ、一実施形態に従う学習済みモデル生成装置、画像検査装置、及び画像処理装置の物理的構成について説明する。図2は、一実施形態における学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30の物理的構成を示す構成図である。
図2に示すように、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、それぞれ、プロセッサ31と、メモリ32と、記憶装置33と、通信装置34と、入力装置35と、出力装置36と、を備える。これらの各構成は、バスを介して相互にデータ送受信可能に接続される。
プロセッサ31は、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30の各部の動作を制御するように構成されている。プロセッサ31は、例えば、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array))、SoC(Sysmtem-on-a-Chip)等の集積回路を含んで構成される。
メモリ32及び記憶装置33は、それぞれ、プログラムやデータ等を記憶するように構成されている。メモリ32は、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)及び/又はRAM(Random Access Memory)等から構成される。記憶装置33は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)及び/又はeMMC(embedded Multi Media Card)等のストレージから構成される。
通信装置34は、有線及び無線の少なくとも一方のネットワークを介して通信を行うように構成されている。通信装置34は、例えば、ネットワークカード、通信モジュール、他の機器に接続するインターフェース等を含んで構成される。
入力装置35は、ユーザの操作により情報を入力できるように構成されている。入力装置35は、例えば、キーボード、タッチパネル、マウス、ポインティングデバイス、及び/又はマイク等を含んで構成される。
出力装置36は、情報を出力するように構成されている。出力装置36は、例えば液晶ディスプレイ、EL(Electro Luminescence)ディスプレイ、プラズマディスプレイ、LCD(Liquid Crystal Display)等の表示装置、及び/又はスピーカ等を含んで構成される。
なお、図2に示す例では、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30が、それぞれ、一台のコンピュータで構成される場合について説明するが、これに限定されるものではない。学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、それぞれ、複数のコンピュータが組み合わされて実現されてもよい。また、図2で示す構成は一例であり、学習済みモデル生成装置10、画像検査装置20、及び画像処理装置30は、それぞれ、これら以外の構成を備えてもよいし、これらの構成のうち一部を備えなくてもよい。
次に、図3から図12を参照しつつ、一実施形態に従う画像処理装置の機能ブロックについて説明する。図3は、一実施形態における画像処理装置30の機能ブロックの構成を示す構成図である。図4は、学習用データ321の一例を示す図である。図5は、計測画像327の特徴量及び評価値328と、学習画像321aの特徴量及び評価値322との一例を示す図である。図6は、計測画像327の一例を示す図である。図7は、出力画面OSの第1例を示す図である。図8は、出力画面OSの第2例を示す図である。図9は、出力画面OSの第3例を示す図である。図10は、出力画面OSの第4例を示す図である。図11は、作成部380によって作成されるグラフの一例を示す図である。図12は、特徴量選択画面SSの一例を示す図である。
図3に示すように、画像処理装置30は、通信部310と、記憶部320と、学習部330と、分類部340と、算出部350と、判定部360と、出力部370と、作成部380と、選択部390と、を備える。
通信部310は、各種の情報を送信及び受信可能に構成されている。通信部310は、例えば、通信ネットワークNWを介して、学習済みモデル生成装置10又は他の装置から複数の学習用データ321を受信する。また、通信部310は、例えば、通信ネットワークNWを介して、画像検査装置20又は他の装置から計測画像327を受信する。さらに、通信部310は、例えば、通信ネットワークNWを介して、学習済みモデル生成装置10から学習済みモデル325を受信する。受信した複数の学習用データ321、学習済みモデル325、及び計測画像327は、記憶部320に書き込まれて記憶される。なお、通信部310は、複数の学習用データ321及び計測画像327のみを受信してもよい。通信部310が複数の学習用データ321及び計測画像327のみを受信する場合、後述する学習部330は、複数の学習用データ321を用いて学習済みモデル325を生成する。
記憶部320は、各種の情報を記憶するように構成されている。記憶部320は、例えば、複数の学習用データ321と、学習済みモデル325と、計測画像327とを記憶する。このように、学習済みモデル325を記憶する記憶部320を備えることにより、学習済みモデルを容易に読み出すことができる。
学習部330は、記憶部320に記憶された複数の学習用データ321を用い、学習モデルの機械学習を実行し、学習済みモデル325を生成するように構成されている。生成した学習済みモデル325は、記憶部320に書き込まれて記憶される。
より詳細には、学習部330は、学習用データ321に含まれる学習画像の特徴量を入力とし、当該学習画像の分類をラベルデータとして学習モデルを学習させ、学習済みモデル325を生成するように構成されている。
図4に示すように、複数の学習用データ321は、それぞれ、学習画像321a及びラベルデータ321bを含んでいる。すなわち、各学習用データ321は、学習画像321aとラベルデータ321bとの組合せで構成されている。学習画像321aは、前述した計測画像327と同様に、欠陥を含み得る検査対象物TAの画像である。
一般的に、ラベルデータは、学習モデルの機械学習の際に、当該学習モデルに入力される入力データの性質を表すデータである。別の言い方をすれば、ラベルデータは、当該学習モデルが出力すべきデータであり、学習の目標とされるデータである。本実施形態では、ラベルデータ321bは、対応する学習画像321aの分類、厳密には、対応する学習画像321aの特徴量に基づく分類である。このように、学習用データ321において、学習画像321aには分類が付与されている。この分類は、学習画像321aに欠陥を含まない(以下、「欠陥がない」又は「欠陥なし」ともいう)ことを示すクラスと、学習画像321aに欠陥を含む(以下、「欠陥がある」又は「欠陥あり」ともいう)ときの当該欠陥の種類を示すクラスとを含んでいる。
より詳細には、ラベルデータ321bに、対応する学習画像321aの分類を示すクラスが設定されており、当該クラスはIDで表されている。例えば、ラベルデータ321bが“0”(ID:0)である場合、対応する学習画像321aは“欠陥なし”であることを示すクラスに分類される。また、ラベルデータ321bが“1”(ID:1)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“欠け”であることを示すクラスに分類される。また、ラベルデータ321bが“2”(ID:2)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“傷”であることを示すクラスに分類される。また、ラベルデータ321bが“3”(ID:3)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“濃い汚れ”であることを示すクラスに分類される。さらに、ラベルデータ321bが“4”(ID:4)である場合、対応する学習画像321aは“欠陥あり”であって、その欠陥の種類が“薄い汚れ”であることを示すクラスに分類される。
このように、計測画像327及び学習画像321aは、それぞれ、欠陥を含み得る検査対象物TAの画像であり、分類は、欠陥がないことを示すクラスと、欠陥があるときの当該欠陥の種類を示すクラスとを含むことにより、計測画像327の欠陥の有無及びその種類を分類することが可能となる。
ここで、特徴量は、求めたい事物の特徴を定量的に表した変数である。学習モデルの機械学習の際に、当該学習モデルに入力される学習画像321aの特徴量は、例えば、欠陥を含み得る検査対象物TAの画像であることを特徴づけるものである。具体的には、学習画像321aの特徴量は、面積、重心位置のx座標、重心位置のy座標、扁平率、画像の濃度平均等で表される濃淡値等が挙げられる。一般的に、学習画像321aは、1種類の特徴量だけで検査対象物TAの画像であることを認識可能である場合は少なく、複数種類の特徴量を用いて検査対象物TAの画像であることを認識できる場合が多い。
この1つ又は複数の特徴量を成分としてベクトル形式で表現したものが特徴ベクトルである。特徴量の数(個数)は、当該特徴ベクトルの次元(次元数)を表す。特徴ベクトルで表現される空間、別の言い方をすれば、特徴ベクトルによって張られる空間は、特徴空間と呼ばれ、特徴ベクトルは特徴空間上の1点として表される。よって、特徴空間は、特徴量に基づく座標系であるといえる。
学習部330は、学習部330は、学習画像321aから1つ又は複数の特徴量を算出し、算出した特徴量を学習モデルに入力する。なお、学習モデルに入力される特徴量は、学習画像321aに基づいてあらかじめ算出され、学習用データ321に含まれていてもよい。さらに、学習画像321aについて複数の特徴量が使用される場合、後述するように、当該複数の特徴量から選択された少なくとも1つの特徴量を学習モデルに入力してもよい。
学習済みモデル325の生成には、例えば、K近傍法、SVM(Support Vector Machine)、決定木、回帰モデル、ニューラルネットワーク等の学習モデルが使用可能である。例えば、学習モデルがニューラルネットワークである場合、学習画像321aの特徴量を入力し、その出力とラベルデータとの差に基づいて、誤差逆伝播法にニューラルネットワークの重みを更新する。このプロセスを複数の学習用データ321のそれぞれについて行うことで、学習済みモデル325が生成される。なお、学習モデルは、前述したものに限定されず、学習部330は、その他のアルゴリズムを用いて学習済みモデル325を生成してもよい。
このように、学習画像321aの特徴量を入力とし、学習画像321aの分類をラベルデータとして学習モデルを学習させ、学習済みモデル325を生成することにより、学習済みモデル生成装置10がなくても、学習済みモデル325を得ることができる。
なお、通信部310が、通信ネットワークNWを介して、学習済みモデル生成装置10から学習済みモデル325を受信する場合、学習済みモデル生成装置10は、学習部330と同様の機能を有する。すなわち、学習済みモデル生成装置10は、学習部330についての説明と同様の方法で、学習モデルを学習させて学習済みモデル325を生成する。そのため、学習済みモデル生成装置10については、その詳細な説明を省略する。
図3の説明に戻り、分類部340は、学習画像321aと該学習画像321aに付与された分類とに基づいて、計測画像327を分類するように構成されている。これにより、あらかじめ分類の分かっている学習画像321aから、計測画像327が属する分類を推定することができる。
より詳細には、分類部340は、学習画像321aの特徴量と分類とを用いて学習させた学習済みモデル325に計測画像327の特徴量を入力し、当該学習済みモデル325から計測画像327の分類を出力させるように構成されている。
具体的には、分類部340は、記憶部320に記憶された学習済みモデル325及び計測画像327をそれぞれ読み出し、学習済みモデル325に計測画像327の特徴量を入力して計測画像327の分類を出力させる。学習済みモデル325から出力された計測画像327の分類は、記憶部320に書き込まれて記憶される。また、分類部340は、出力された計測画像327の分類を出力部370に出力する。さらに、分類部340は、出力された計測画像327の分類を前述した出力装置36に出力し、当該分類は表示装置等に表示される。なお、分類部340は、学習済みモデル325の出力をそのまま計測画像327の分類として用いなくてもよく、任意の後処理を行ってよい。
このように、学習画像321aの特徴量と分類とを用いて学習させた学習済みモデル325に計測画像327の特徴量を入力し、当該学習済みモデル325から計測画像327の分類を出力させることにより、さらに高精度な計測画像327の分類を簡単かつ容易に得ることができる。
本実施形態では、分類部340が学習済みモデル325を用いて計測画像327の分類を得る例を示したが、これに限定されるものではない。例えば、分類部340は、マハラノビス距離に基づいて計測画像327を分類してもよい。この場合、分類部340は、所定の座標系において、複数の学習画像321aの分類ごとに形成される複数の点群(グループ)に対し、計測画像327の点とそれぞれの点群との間のマハラノビス距離を算出する。そして、分類部340は、マハラノビス距離が最小となるような点群のクラスに属するものとして、計測画像327の分類を決定する。
また、分類部340は、1つの分類手法によって計測画像327を分類する場合に限定されず、複数の分類手法から選択した1つ以上の分類手法を用いて、計測画像327を分類してもよい。この場合、分類手法ごとに、当該分類手法に従う計測画像327の分類が得られる。また、記憶部320は、各分類手法に従ってそれぞれ学習させた複数の学習済みモデルを記憶していてもよい。
算出部350は、計測画像327の特徴量と学習画像321aの特徴量とに基づいて、計測画像327の評価値を算出するように構成されている。算出部350は、算出した計測画像327の評価値328を判定部360に出力する。また、当該評価値328は、記憶部320に書き込まれて記憶される。算出部350は、少なくとも1つの特徴量に基づいて計測画像327の評価値を算出すればよく、計測画像327及び学習画像321aが複数の特徴量で特徴付けられる場合、計測画像327及び学習画像321aにおける当該複数の特徴量に基づいて、計測画像327の評価値を算出してもよい。また、算出部350は、少なくとも1つの学習画像321aの特徴量に基づいて計測画像327の評価値を算出すればよく、複数の学習画像321aが存在する場合、当該複数の学習画像321aの特徴量のそれぞれに基づいて、計測画像327の評価値を算出してもよい。
また、算出部350は、一の学習画像321aの特徴量と他の学習画像321aの特徴量とに基づいて、当該一の学習画像321aの評価値322を算出するように構成されている。他の学習画像321aは、1つであってもよいし複数であってもよい。また、複数の学習画像321aが存在する場合、算出部350は、複数の学習画像321aのそれぞれについて、当該学習画像321aの特徴量と他の学習画像321aの特徴量とに基づいて、当該学習画像321aの評価値322を算出する。算出された評価値322は、記憶部320に書き込まれて記憶される。
ここで、図5に示すように、計測画像327と複数の学習画像321aとは、それぞれ、例えば第1特徴量から第5特徴量の5つの特徴量で特徴付けられる。第1特徴量は、例えば画像の面積であり、単位はピクセルである。第2特徴量は、例えば画像の重心のx座標であり、単位はピクセルである。第3特徴量は、例えば画像の重心のy座標であり、単位はピクセルである。第4特徴量は、例えば画像の扁平率であり、ゼロから1の値であって単位なし(無次元)である。第5特徴量は、例えば画像の濃淡値であり、ゼロから255の明度であって単位なし(無次元)である。
前述したように、複数の学習画像321aには、それぞれ、ラベルデータ321bとして、分類が付与されている。この分類は、“0”から“4”のIDで識別される5つのクラスを含んでいる。また、計測画像327には、分類部340によって分類が付与される。図5に示す例では、計測画像327の分類は、IDが“4”で識別されるクラスであって、図4を用いて説明した例では、“欠陥あり”で、欠陥の種類が“薄い汚れ”である。
図5に示す例における計測画像327は、例えば、図6に示すような画像である。この計測画像327は、前述したIDが“1”から“4”で識別される“欠陥あり”のクラスに分類される種類の欠陥は含んでいない。その一方、IDが“1”で識別される“欠陥なし”のクラスに分類される、図4に示した学習画像321aと比べて、図6に示す計測画像327は、右下部分に切欠きを有しており、外形状が異なっている。よって、当該計測画像327は、その特徴量が学習画像321aの特徴量に対して外れ値であると考えられる。このように、特徴量が外れ値である計測画像327は、他にも、例えば、検査対象物TAが未完成品である場合、検査対象物TAを撮影する際に、当該検査対象物TAの位置がずれていて、検査対象物TAの一部が含まれていない場合、あるいは、計測画像327に検査対象物TAの画像が含まれていない場合等が挙げられる。
従来、計測画像327の特徴量が学習画像321aの特徴量と比較して外れ値であると、本来であれば計測画像は既存の分類のいずれにも属さないにもかからず、学習画像に付与された分類の中で最も近い分類が与えられていた。その結果、計測画像327を誤って分類してしまうことがあった。
これに対し、本実施形態の画像処理装置30は、算出部350が、計測画像327の特徴量と学習画像321aの特徴量とに基づいて、計測画像327の評価値328を算出する。図5に示す例では、計測画像327の評価値328は、“3.22”である。また、算出部350は、複数の学習画像321aのそれぞれについて、当該学習画像321aの特徴量と他の学習画像321aの特徴量とに基づいて、当該学習画像321aの評価値322を算出する。図5に示す例では、各学習画像321aの評価値322のうち、最大値が“2.01”である。計測画像327の評価値328は、複数の学習画像321aのそれぞれの評価値322と比較して、例えば、相対的に高い値になっている。
計測画像327の評価値は、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるかを評価するためのものである。別の言い方をすれば、計測画像327の評価値は、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かの判定基準となる値である。そのため、計測画像327の評価値は、計測画像327及び学習画像321aの特徴量で表現される特徴空間において、計測画像327と学習画像321aとの分布に基づくものであることが好ましい。
より詳細には、算出部350は、複数の特徴量で表現される特徴空間における計測画像327の点と学習画像321aの点との間の距離に基づいて、計測画像327の評価値を算出するように構成されていてもよい。具体的には、計測画像327の評価値は、複数の学習画像321aが存在する場合、計測画像327の点に最も近い学習画像321aの点との間の距離である。当該距離は、一般的に用いられるユークリッド距離に限定されず、マハラノビス距離等の他の距離であってもよい。
このように、複数の特徴量で表現される特徴空間における計測画像327の点と学習画像321aの点との間の距離に基づいて、計測画像327の評価値を算出することにより、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるかを評価する計測画像327の評価値を、簡単かつ容易に算出することができる。
また、計測画像327の評価値は、複数の特徴量で表現される特徴空間における分布のうち、特に、密度に基づくものであることが好ましい場合がある。より詳細には、算出部350は、複数の特徴量で表現される特徴空間における計測画像327の点と学習画像321aの点との間の密度に基づいて、計測画像327の評価値を算出するように構成されていてもよい。計測画像327の点と学習画像321aの点との間の密度を推定する方法として、例えば、局所外れ値因子法(LOF:Local Outlier Factor)が用いられる。局所外れ値因子法を用いる場合、特徴空間における計測画像327の点と、当該計測画像327の点から近傍のk個(kは1以上の整数)の学習画像321aの点との間の局所密度という指標に基づいて、計測画像327の評価値が算出される。この局所外れ値因子法を用いると、局所的な密度の違いを考慮することができ、特徴空間における計測画像327の点と学習画像321aの点とのが複雑に分布している場合に特に有効である。なお、特徴空間における計測画像327の点と学習画像321aの点との間の密度は、局所外れ値因子法を用い場合に限定されず、例えば、k最近傍法(k-NN:k-Nearest Neighbor)やOne Class SVM等の方法を用いてもよい。
このように、複数の特徴量で表現される特徴空間における計測画像327の点と学習画像321aの点との間の密度に基づいて、計測画像327の評価値を算出することにより、さらに高精度な計測画像327の評価値を、簡単かつ容易に算出することができる。
図3の説明に戻り、判定部360は、計測画像327の評価値328に基づいて、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを判定するように構成されている。判定部360は、判定結果を出力部370に出力する。
このように、計測画像327の特徴量と学習画像321aの特徴量とに基づいて算出された計測画像327の評価値328に基づいて、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを判定することにより、当該計測画像327を、既存の分類以外、例えば計測エラー等として除外することが可能になる。従って、計測画像327の誤分類を抑制することができる。
より詳細には、判定部360は、計測画像327の評価値328としきい値323との比較に基づいて、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを判定するように構成されている。これにより、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを、容易に判定することができる。
しきい値323は、学習画像321aの評価値322に基づいて、設定される。設定されたしきい値323は、記憶部320に書き込まれて記憶される。複数の学習画像321aが存在する場合、しきい値323は、当該複数の学習画像321aの評価値322のそれぞれに基づいて、設定される。しきい値の設定は、例えば、操作者(ユーザ)の入力操作に従って行われる。操作者(ユーザ)は、例えば、図5に示す学習画像321aの評価値322を見て、適切な値、例えば“3.00”をしきい値323に設定する。あるいは、算出部350は、算出された複数の学習画像321aの評価値322のうちの最大値に所定値を加算したものを、しきい値323に設定してもよい。なお、しきい値323は、1つである場合に限定されず、例えば、上限値及び下限値である場合等、複数存在してもよい。
このように、しきい値323が学習画像321aの評価値322に基づいて設定されることにより、適切なしきい値323を容易に設定することができる。
出力部370は、判定部360による判定結果と分類部340による分類とに基づいて、計測画像327の適否を出力するように構成されている。出力部370は、計測画像327の適否を、前述した出力装置36に出力し、当該計測画像327の適否は表示装置等に表示される。
図7に示すように、計測画像327の適否を出力するための出力画面OSが表示される。出力部370は、出力画面OSの表示に必要なデータを生成し、生成したデータを前述した出力装置36に出力することで、出力画面OSを表示装置等に表示することができる。出力画面OSは、例えば、第1領域R11と、第2領域R12と、第3領域R13と、第4領域R14と、を含んでいる。
第1領域R11は、計測画像327を表示するためのものである。図7に示す例では、第1領域R11に、IDが“0”で識別される“欠陥なし”のクラスに分類される計測画像327が表示されている。
第2領域R12は、第1領域R11に表示された計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを表示するためのものである。出力部370は、判定部360から入力された判定結果に基づいて、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値である場合に“NG”を表示し、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値でない場合に“OK”を表示する。図7に示す例では、第1領域R11に表示された計測画像327の評価値が、例えばしきい値323以下であるから、第2領域R12に“OK”が表示される。
第3領域R13は、第1領域R11に表示された計測画像327が欠陥を含むか否かを表示するためのものである。出力部370は、分類部340から入力された計測画像327の分類に基づいて、計測画像327が欠陥を含む場合に“NG”を表示し、計測画像327が欠陥を含まない場合に“OK”を表示する。図7に示す例では、第1領域R11に表示された計測画像327の分類はIDが“0”で識別される“欠陥なし”のクラスであるから、第3領域R13に“OK”が表示される。
第4領域R14は、第1領域R11に表示された計測画像327が適切か否か、つまり、計測画像327の適否を表示するためのものである。出力部370は、判定部360による判定結果と、分類部340による分類とに基づいて、計測画像327が適切でない場合に“NG”を表示し、計測画像327が適切である場合に“OK”を表示する。
本実施形態では、計測画像327が適切であるとは、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値でなく、かつ、計測画像327が欠陥を含まない場合である。別の言い方をすれば、第2領域R12の表示が“OK”、かつ、第3領域R13の表示が“OK”であるときに、計測画像327は適切であると見なされる。逆に、第2領域R12の表示及び第3領域R13の表示の少なくとも一方が“NG”であるときは、計測画像327が適切でないとみなされる。図7に示す例では、第1領域R11に表示された計測画像327は、その特徴量が学習画像321aの特徴量に対して外れ値でなく、かつ、その分類が“欠陥なし”のクラスであるから、第4領域R14に“OK”が表示される。
図8に示すように、第1領域R11に、IDが“1”で識別される、“欠陥あり”であって、その欠陥の種類が“欠け”のクラスに分類される計測画像327が表示される場合、当該計測画像327の評価値は、例えばしきい値323以下であるから、第2領域R12に“OK”が表示される。また、当該計測画像327の分類はIDが“1”で識別される“欠陥あり”のクラスであるから、第3領域R13に“NG”が表示される。さらに、当該計測画像327は、その特徴量が学習画像321aの特徴量に対して外れ値でないものの、その分類が“欠陥あり”のクラスであるから、第4領域R14に“NG”が表示される。
図9に示すように、第1領域R11に、IDが“2”で識別される、“欠陥あり”であって、その欠陥の種類が“傷”のクラスに分類される計測画像327が表示される場合、当該計測画像327の評価値は、例えばしきい値323以下であるから、第2領域R12に“OK”が表示される。また、当該計測画像327の分類はIDが“2”で識別される“欠陥あり”のクラスであるから、第3領域R13に“NG”が表示される。さらに、当該計測画像327は、その特徴量が学習画像321aの特徴量に対して外れ値でないものの、その分類が“欠陥あり”のクラスであるから、第4領域R14に“NG”が表示される。
図10に示すように、第1領域R11に、IDが“4”で識別される、“欠陥あり”であって、その欠陥の種類が“薄い汚れ”のクラスに分類され、その評価値がしきい値より大きい計測画像327が表示される場合、当該計測画像327の評価値はしきい値323より大きいから、第2領域R12に“NG”が表示される。また、当該計測画像327の分類はIDが“4”で識別される“欠陥あり”のクラスであるものの、当該計測画像327の特徴量は学習画像321aの特徴量に対して外れ値であるから、この分類は誤分類であり、当該計測画像327は欠陥を含んでいないから、第3領域R13には“OK”が表示される。さらに、当該計測画像327は、その特徴量が学習画像321aの特徴量に対して外れ値であるので、第4領域R14に“NG”が表示される。
このように、判定部360による判定結果と分類部340による分類とに基づいて、計測画像327の適否を出力することにより、分類に適さない、又は、欠陥を含む計測画像327を、容易に除外することができる。
図3の説明に戻り、作成部380は、計測画像327の特徴量と学習画像321aの特徴量とに基づく座標系に、計測画像327の点と学習画像321aの点とをプロットしたグラフを作成するように構成されている。作成部380は作成したグラフを、前述した出力装置36に出力し、当該グラフは表示装置等に表示される。
また、作成部380は、作成するグラフに関して、例えば、拡大率、縮小率、回転角、仰角等のパラメータを変更可能に構成されている。よって、操作者(ユーザ)は、前述の入力装置35を介した入力操作によって、これらのパラメータを任意に変更することができる。
図11に示すように、グラフは、例えば3次元(3D)の座標系で表される。X軸に平行な方向の第1座標軸は、例えば画像の面積である前述の第1特徴量であり、Y軸に平行な方向の第2座標軸は、例えば画像の重心のx座標である前述の第2特徴量であり、Z軸に平行な方向の第3座標軸は、例えば画像の重心のy座標である前述の第3特徴量である。
図11に示す例では、丸で示される計測画像327の点MPは、第2座標軸負方向側に配置されており、それぞれ十字で示される、複数の学習画像321aの各点から離れた位置に配置されている。そのため、計測画像327の特徴量は、当該複数の学習画像321aの特徴量に対して外れ値であることが推定される。
なお、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であると、計測画像327の点が学習画像321aの点から大きく離れた位置にプロットされてグラフ内に表示できないことがある。このように、計測画像327の点がグラフ内に表示できないことを避けるために、作成部380は、計測画像327の特徴量と学習画像321aの特徴量とに対し、標準化及び正規化の少なくとも一方を行い、変換された特徴量を座標軸とする座標系に、計測画像327の点と学習画像321aの点とをプロットしたグラフを作成してもよい。
例えば標準化を行う場合、作成部380は、図5に示す計測画像327の特徴量と学習画像321aの特徴量とに対し、例えば、複数の学習画像321aの特徴量に基づいて標準化を行い、計測画像327の変換後の特徴量及び学習画像321aの変換後の特徴量にそれぞれ変換する。
より詳細には、作成部380は、計測画像327の特徴量と学習画像321aの特徴量とに対し、複数の学習画像321aの特徴量に基づいて算出された平均及び標準偏差を用いて標準化を行うように構成されている。
具体的には、計測画像327の変換後の各特徴量Yi(i=1,2,3,4,5)は、計測画像327の変換前の第i特徴量Xi(i=1,2,3,4,5)と、各学習画像321aの第i特徴量に基づいて算出された平均μiと、各学習画像321aにおいて対応する第i特徴量に基づいて算出された標準偏差ρiと、を用い、以下の式(1)で算出することができる。
Yi=(Xi-μi)/ρi …(1)
Yi=(Xi-μi)/ρi …(1)
同様に、学習画像321aの変換後の各特徴量Mi(i=1,2,3,4,5)は、学習画像321aの変換前の第i特徴量Li(i=1,2,3,4,5)と、前述の平均μi及び標準偏差ρiと、を用い、以下の式(2)で算出することができる。
Mi=(Li-μi)/ρi …(2)
Mi=(Li-μi)/ρi …(2)
このように、計測画像327の第i特徴量と学習画像321aの第i特徴量とに対し、複数の学習画像321aの第i特徴量に基づいて算出された平均μi及び標準偏差ρiを用いて標準化を行うことにより、平均μiが“0”になり、標準偏差ρiが“1”になるので、異なる特徴量との間であっても、計測画像327の変換後の特徴量の値と学習画像321aの変換後の特徴量の値との比較が容易になる。
また、作成部380は、前述した標準化に代えて、又は、前述した標準化に加えて、計測画像327の特徴量と学習画像321aの特徴量とに対し、複数の学習画像321aの特徴量における最大値と最小値とを用いて正規化を行うように構成されている。
具体的には、計測画像327の変換後の各特徴量Ti(i=1,2,3,4,5)は、計測画像327の変換前の第i特徴量Si(i=1,2,3,4,5)と、各学習画像321aの第i特徴量における最大値MAXiと、各学習画像321aの第i特徴量における最小値MINiと、を用い、以下の式(3)で算出することができる。
Ti=(Si-MINi)/(MAXi-MINi) …(3)
Ti=(Si-MINi)/(MAXi-MINi) …(3)
同様に、学習画像321aの変換後の各特徴量Qi(i=1,2,3,4,5)は、学習画像321aの変換前の第i特徴量Pi(i=1,2,3,4,5)と、前述の最大値MAXi及び最小値MINiと、を用い、以下の式(4)で算出することができる。
Qi=(Pi-MINi)/(MAXi-MINi) …(4)
Qi=(Pi-MINi)/(MAXi-MINi) …(4)
このように、計測画像327の第i特徴量と学習画像321aの第i特徴量とに対し、複数の学習画像321aの第i特徴量における最大値MAXiと最小値MINiとを用いて正規化を行うことにより、計測画像327の変換後の特徴量の値と学習画像321aの変換後の特徴量の値とがある範囲に収まるので、異なる特徴量との間であっても、計測画像327の変換後の特徴量の値と学習画像321aの変換後の特徴量の値との比較が容易になる。
前述した標準化及び正規化では、複数の学習画像321aの特徴量のみに基づいて行われる例を示したが、これに限定されるものではない。例えば、作成部380は、標準化及び正規化の少なくとも一方を、計測画像327の特徴量にさらに基づいて行ってもよい。具体的には、前述の平均μiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とから算出され、前述の標準偏差ρiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とから算出されてもよい。同様に、例えば、前述の最大値MAXiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とにおける最大値であり、前述の最小値MINiは、各学習画像321aの第i特徴量と計測画像327の第i特徴量とにおける最小値であってもよい。
このように、前述した標準化及び正規化の少なくとも一方が、計測画像327の第i特徴量にさらに基づいて行われることにより、標準化及び正規化の少なくとも一方を更に適切に行うことが可能になる。
本実施形態では、作成部380が作成するグラフは、3次元の座標系にプロットする例を示したが、これに限定されるものではない。作成部380は、3次元以外の次元数、例えば2次元又は4次元以上の座標系に、計測画像327の点と学習画像321aの点とをプロットしたグラフを作成してもよい。また、作成部380は、グラフ以外の形式、例えばリスト形式で、計測画像327及び学習画像321aの、特徴量と評価値とを表示してもよい。この場合、特徴量及び評価値の少なくとも1つで計測画像327及び学習画像321aをソートし、降順又は昇順で表示してもよい。
このように、計測画像327の特徴量と学習画像321aの特徴量とに基づく座標系に計測画像327の点と学習画像321aの点とをプロットしたグラフを作成することにより、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを視覚的に確認することが可能になる。
図3の説明に戻り、選択部390は、複数の特徴量のそれぞれの指標に基づいて、複数の特徴量から少なくとも1つを選択するように構成されている。選択された特徴量は、記憶部320に書き込まれて記憶される。
図12に示すように、例えば、複数の特徴量から少なくとも1つの特徴量を選択可能な特徴量選択画面SSが表示される。選択部390は、特徴量選択画面SSの表示に必要なデータを生成し、生成したデータを前述した出力装置36に出力することで、特徴量選択画面SSが表示装置等に表示することができる。特徴量選択画面SSは、例えば、第1領域R21と、確認ボタンB1と、第2領域R22と、第3領域R23とを含んでいる。
第1領域R21は、複数の特徴量の中から少なくとも1つの特徴量を選択するためのものである。図12に示す例では、第1領域R21は、第1特徴量から第15特徴量のチェックボックスを含んでおり、そのうち、選択対象外となる第6特徴量から第15特徴量のチェックボックスはグレーアウトされ、選択不能となっている。一方、第1特徴量から第5特徴量のチェックボックスは、“オン”になっている。操作者(ユーザ)は、入力操作によってこれらのチェックボックスを“オン”又は“オフ”に変更することで、当該特徴量の選択状態又は非選択状態を設定することができる。
第2領域R22は、選択された特徴量に基づく学習画像321aの分類の正解率を表示するためのものである。複数の分類手法が存在する場合、分類手法ごとに、選択された特徴量に基づく学習画像321aの分類の正解率が表示される。具体的には、第1領域R21のチェックボックスのうちの少なくとも1つが“オン”になっているときに、操作者(ユーザ)が確認ボタンB1を押下すると、第2領域R22に、分類手法ごとの分類の正解率が算出され、表示される。
分類の正解率は、例えば、複数の学習画像321aのそれぞれについて、選択された特徴量に基づいて、当該分類手法を用いて取得される分類と、当該学習画像321aに対応するラベルデータ321bの分類とを比較し、一致するか否かを判定する。そして、全ての学習画像321aについて、取得された分類と対応するラベルデータ321bの分類とが一致した個数の割合(%)を算出する。図12に示す例では、第1特徴量から第5特徴量までの全ての特徴量が選択されているので、第1分類手法から第4分類手法までのそれぞれにおいて、正解率は“100.0”(%)となっている。
第3領域R23は、特徴量ごとの指標を表示するためのものである。複数の分類手法が存在する場合、分類手法ごと、且つ、特徴量ごとに、当該特徴量の指標が表示される。
特徴量の指標は、例えば、複数の学習画像321aのそれぞれについて、その特徴量を使用しないときに当該分類手法を用いて取得される分類と、当該学習画像321aに対応するラベルデータ321bの分類とを比較し、一致するか否かを判定する。そして、全ての学習画像321aについて、取得された分類と対応するラベルデータ321bの分類とが一致しない個数を指標として算出する。この場合、指標が“0”であるとき、その特徴量は分類のために不要であり、指標が“0”以外であるとき、その特徴量は分類のために必要である蓋然性が高い。図12に示す例では、例えば、第1分類方法において、第1特徴量、第2特徴量、及び第3特徴量の指標は全て“0”であるのに対し、第4特徴量及び第5特徴量の指標は、それぞれ、“2”である。よって、第1分類方法では、第4特徴量及び第5特徴量を選択すればよいことが推定される。
なお、特徴量の指標は、前述した例に限定されるものではなく、多種多様な方法で算出することができる。例えば、特徴量を選択するための方法として知られている、複数の特徴量を1つずつ独立に評価してランク付けを行うフィルタ法、複数の特徴量を組み合わせて評価するラッパー法、又は、学習モデルの学習と特徴量の評価とを同時に行う組み込み法等を使用し、特徴量の指標を算出することができる。また、特徴量の指標は、数値又は算出可能なものに限定されず、特徴量を選択するための基準、程度、又は目安等になるものであれば、例えば、レベル、ランク、クラス、級(等級)等であってもよい。
本実施形態では、選択部390が、特徴量選択画面SSを表示させ、操作者(ユーザ)の入力操作に従って特徴量を選択する例を示したが、これに限定されるものではない。例えば、選択部390は、複数の特徴量のそれぞれの指標に基づいて複数の特徴量から少なくとも1つの特徴量を自動的に選択してもよい。図12を用いて説明した前述の例では、第1分類方法において、第4特徴量及び第5特徴量の指標は、それぞれ、“0”以外であるから、選択部390は、第1特徴量から第5特徴量のうちの第4特徴量及び第5特徴量を自動的に選択する。
また、作成部380は、選択部390により選択された特徴量に基づいてグラフを作成してもよい。すなわち、作成部380は、計測画像327の選択された特徴量と学習画像321aの選択された特徴量とに基づく座標系に、計測画像327の点と学習画像321aの点とをプロットしたグラフを作成する。これにより、特徴量の数(次元)を削減することができ、選択された特徴量の変換後特徴量を座標軸とする座標系において、計測画像327の点と学習画像321aの点とを更に適切に分布させることができる。
また、学習部330は、選択部390により選択された特徴量を学習モデルに入力して機械学習を行い、分類部340は、学習済みモデル325に選択部390により選択された特徴量を入力して計測画像327の分類を出力させてもよい。すなわち、学習部330は、学習画像321aにおける選択された特徴量を入力とし、該学習画像321aの分類をラベルデータとして学習モデルを学習させ、学習済みモデル325を生成する。そして、分類部340は、この学習済みモデル325に計測画像327における選択された特徴量を入力し、当該学習済みモデル325から計測画像327の分類を出力させる。これにより、学習時間を短縮することができるともに、学習済みモデル325の過学習と計測画像327の分類精度の低下とを抑制することができる。
また、算出部350は、選択部390により選択された特徴量に基づいて、評価値を算出してもよい。すなわち、算出部350は、計測画像327における選択された特徴量と学習画像321aにおける選択された特徴量とに基づいて、計測画像327の評価値を算出する。これにより、特徴量の数(次元)を削減されるので、さらに高精度な計測画像327の評価値を、さらに少ない計算量で算出することができる。
なお、学習部330、分類部340、算出部350、判定部360、出力部370、作成部380、及び選択部390のうちの少なくとも1つは、プロセッサ31が、記憶装置33に記憶されたプログラムを実行することにより実現されてもよい。プログラムを実行する場合、当該プログラムは、記憶媒体に格納されていてもよい。当該プログラムを格納した記憶媒体は、コンピュータ読み取り可能な非一時的な記憶媒体(Non-Transitory computer readable medium)であってもよい。非一時的な記憶媒体は、特に限定されないが、例えば、USBメモリ、又はCD-ROM(Compact Disc ROM)等の記憶媒体であってもよい。
次に、図13を参照しつつ、一実施形態に従う画像処理装置が行う処理手順について説明する。図13は、一実施形態における画像処理装置30が行う画像処理S100の一例を説明するためのフローチャートである。
なお、以下の例では、記憶部320に複数の学習用データ321、学習済みモデル325、及び計測画像327が記憶されているものとして、説明する。
図13に示すように、まず、分類部340は、記憶部320に記憶された学習済みモデル325及び計測画像327をそれぞれ読み出し、学習済みモデル325に計測画像327の特徴量を入力し、学習済みモデル325から計測画像327の分類を出力させることで、計測画像327を分類する(S101)。計測画像327の分類は、記憶部320に記憶されるとともに、出力部370に出力される。
次に、算出部350は、記憶部320に記憶された複数の学習用データ321をそれぞれ読み出し、複数の学習画像321aのそれぞれについて、当該学習画像321aの特徴量と当該学習画像321a以外の他の学習画像321aの特徴量とに基づいて、当該学習画像321aの評価値322を算出する(S102)。算出された各学習画像321aの評価値322は、記憶部320に記憶される。
次に、算出部350は、ステップS102で算出された複数の学習画像321aの評価値322のそれぞれに基づいて、しきい値323を設定する(S103)。算出されたしきい値323は、記憶部320に記憶されるとともに、判定部360に出力される。
次に、算出部350は、記憶部320に記憶された複数の学習用データ321及び計測画像327をそれぞれ読み出し、計測画像327の特徴量と複数の学習画像321aのそれぞれの特徴量とに基づいて、当該計測画像327の評価値328を算出する(S104)。算出された計測画像327の評価値328は、記憶部320に記憶されるとともに、判定部360に出力される。
次に、判定部360は、ステップS104で算出された計測画像327の評価値328とステップS103で算出されたしきい値323との比較に基づいて、学習画像321aの特徴量に対して計測画像327の特徴量が外れ値であるか否かを判定する(S105)。判定結果は、出力部370に出力される。
ステップS105の判定の結果、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値である場合、判定部360は、当該計測画像327が計測エラーであると判定する(S106)。この場合、画像処理装置30は、例えば、ステップS101における当該計測画像327の分類は誤分類であるとみなして使用しない。一方、ステップS105の判定の結果、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値でない場合、判定部360はステップS106を行わない。
次に、出力部370は、ステップS105における判定結果とステップS101における当該計測画像327の分類とに基づいて、計測画像327の適否を出力する(S107)。計測画像327の適否は、図7から図10を用いて説明したように、表示装置等に表示される。
次に、作成部380は、記憶部320に記憶された計測画像327及び複数の学習用データ321をそれぞれ読み出し、計測画像327の特徴量と複数の学習用データ321の特徴量とに基づく座標系に、計測画像327の点と、複数の学習画像321aのそれぞれの点とをプロットしたグラフを作成する(S108)。作成されたグラフは、図11を用いて説明したように、表示装置等に表示される。
ステップS108の後、画像処理装置30は、画像処理S100を終了する。
なお、図13では、説明の簡略化のため、計測画像327及び学習画像321aについて複数の特徴量が使用される場合に、当該複数の特徴量の全てを用いる例を示したが、これに限定されるものではない。画像処理S100は、前述したように、複数の特徴量のうちの少なく1つを選択し、選択された特徴量について、ステップS101からステップS108を行ってもよい。
また、本実施形態で説明したシーケンス及びフローチャートは、処理に矛盾が生じない限り、順序を入れ替えてもよい。
以上、本発明の例示的な実施形態について説明した。本実施形態における画像処理装置30及び画像処理方法によれば、計測画像327の特徴量と学習画像321aの特徴量とに基づいて算出された計測画像327の評価値328に基づいて、計測画像327の特徴量が学習画像321aの特徴量に対して外れ値であるか否かを判定する。これにより、当該計測画像327を、既存の分類以外、例えば計測エラー等として除外することが可能になる。従って、計測画像327の誤分類を抑制することができる。
なお、以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更/改良され得るとともに、本発明にはその等価物も含まれる。すなわち、実施形態に当業者が適宜設計変更を加えたものも、本発明の特徴を備えている限り、本発明の範囲に包含される。例えば、実施形態が備える各要素及びその配置、材料、条件、形状、サイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、実施形態は例示であり、異なる実施形態で示した構成の部分的な置換又は組み合わせが可能であることは言うまでもなく、これらも本発明の特徴を含む限り本発明の範囲に包含される。
[付記1]
検査対象物(TA)の計測画像(327)を分類するための画像処理装置(30)であって、
計測画像(327)の特徴量と学習画像(321a)の特徴量とに基づいて、計測画像(327)の評価値(328)を算出する算出部(350)と、
計測画像(327)の評価値(327)に基づいて、計測画像(327)の特徴量が学習画像(321a)の特徴量に対して外れ値であるか否かを判定する判定部(360)と、を備える、
画像処理装置(30)。
[付記14]
検査対象物(TA)の計測画像(327)を分類するための画像処理方法であって、
検査対象物(TA)の計測画像(327)を分類するための画像処理装置(30)であって、
計測画像(327)の特徴量と学習画像(321a)の特徴量とに基づいて、計測画像(327)の評価値(328)を算出するステップと、、
計測画像(327)の評価値(327)に基づいて、計測画像(327)の特徴量が学習画像(321a)の特徴量に対して外れ値であるか否かを判定するステップと、を含む、
画像処理方法。
検査対象物(TA)の計測画像(327)を分類するための画像処理装置(30)であって、
計測画像(327)の特徴量と学習画像(321a)の特徴量とに基づいて、計測画像(327)の評価値(328)を算出する算出部(350)と、
計測画像(327)の評価値(327)に基づいて、計測画像(327)の特徴量が学習画像(321a)の特徴量に対して外れ値であるか否かを判定する判定部(360)と、を備える、
画像処理装置(30)。
[付記14]
検査対象物(TA)の計測画像(327)を分類するための画像処理方法であって、
検査対象物(TA)の計測画像(327)を分類するための画像処理装置(30)であって、
計測画像(327)の特徴量と学習画像(321a)の特徴量とに基づいて、計測画像(327)の評価値(328)を算出するステップと、、
計測画像(327)の評価値(327)に基づいて、計測画像(327)の特徴量が学習画像(321a)の特徴量に対して外れ値であるか否かを判定するステップと、を含む、
画像処理方法。
1…画像検査システム、10…モデル生成装置、20…画像検査装置、30…画像処理装置、31…プロセッサ、32…メモリ、33…記憶装置、34…通信装置、35…入力装置、36…出力装置、310…通信部、320…記憶部、320…分類部、321…学習用データ、321a…学習画像、321b…ラベルデータ、322…評価値、323…しきい値、325…学習済みモデル、327…計測画像、328…評価値、330…学習部、340…分類部、350…算出部、360…判定部、370…出力部、380…作成部、390…選択部、B1…確認ボタン、IL…照明、L…光、MAXi…最大値、MINi…最小値、MP…点、NW…通信ネットワーク、OS…出力画面、R…反射光、R11…第1領域、R12…第2領域、R13…第3領域、R14…第4領域、R21…第1領域、R22…第2領域、R23…第3領域、S100…画像処理、SS…特徴量選択画面、TA…検査対象物、μi…平均、ρi…標準偏差。
Claims (14)
- 検査対象物の計測画像を分類するための画像処理装置であって、
前記計測画像の特徴量と学習画像の特徴量とに基づいて、前記計測画像の評価値を算出する算出部と、
前記計測画像の前記評価値に基づいて、前記計測画像の前記特徴量が前記学習画像の前記特徴量に対して外れ値であるか否かを判定する判定部と、を備える、
画像処理装置。 - 前記算出部は、複数の前記特徴量で表現される特徴空間における前記計測画像の点と前記学習画像の点との間の距離に基づいて、前記計測画像の前記評価値を算出する、
請求項1に記載の画像処理装置。 - 前記算出部は、複数の前記特徴量で表現される特徴空間における前記計測画像の点と前記学習画像の点との間の密度に基づいて、前記計測画像の前記評価値を算出する、
請求項1に記載の画像処理装置。 - 前記学習画像と該学習画像に付与された分類とに基づいて、前記計測画像を分類する分類部をさらに備える、
請求項1から3のいずれか一項に記載の画像処理装置。 - 前記計測画像及び前記学習画像は、それぞれ、欠陥を含み得る前記検査対象物の画像であり、
前記分類は、前記欠陥がないことを示すクラスと、前記欠陥があるときの該欠陥の種類を示すクラスとを含む、
請求項4に記載の画像処理装置。 - 前記分類部は、前記学習画像の前記特徴量と前記分類とを用いて学習させた学習済みモデルに前記計測画像の前記特徴量を入力し、該学習済みモデルから前記計測画像の前記分類を出力させる、
請求項4又は5に記載の画像処理装置。 - 前記学習画像の前記特徴量を入力とし、該学習画像の前記分類をラベルデータとして学習モデルを学習させ、前記学習済みモデルを生成する学習部をさらに備える、
請求項6に記載の画像処理装置。 - 複数の前記特徴量のそれぞれの指標に基づいて、前記複数の特徴量から少なくとも1つを選択する選択部をさらに備え、
前記学習部は、前記学習画像における前記選択された特徴量を入力とし、該学習画像の前記分類をラベルデータとして学習モデルを学習させ、前記学習済みモデルを生成し、
前記分類部は、前記学習済みモデルに前記計測画像における前記選択された特徴量を入力し、該学習済みモデルから前記計測画像の前記分類を出力させる、
請求項7に記載の画像処理装置。 - 前記算出部は、前記計測画像における前記選択された特徴量と前記学習画像における前記選択された特徴量とに基づいて、前記計測画像の評価値を算出する、
請求項8に記載の画像処理装置。 - 前記判定部による判定結果と前記分類部による分類とに基づいて、前記計測画像の適否を出力する出力部をさらに備える、
請求項4から9のいずれか一項に記載の画像処理装置。 - 前記判定部は、前記計測画像の前記評価値としきい値との比較に基づいて、前記計測画像の前記特徴量が学習画像の特徴量に対して外れ値であるか否かを判定する、
請求項1から10のいずれか一項に記載の画像処理装置。 - 前記算出部は、一の前記学習画像の特徴量と他の前記学習画像の特徴量とに基づいて、前記一の学習画像の評価値を算出し、
前記しきい値は、前記学習画像の前記評価値に基づいて設定される、
請求項11に記載の画像処理装置。 - 前記計測画像の特徴量と前記学習画像の特徴量とに基づく座標系に、前記計測画像の点と前記学習画像の点とをプロットしたグラフを作成する作成部、をさらに備える、
請求項1から12のいずれか一項に記載の画像処理装置。 - 検査対象物の計測画像を分類するための画像処理方法であって、
前記計測画像の特徴量と学習画像の特徴量とに基づいて、前記計測画像の評価値を算出するステップと、
前記計測画像の前記評価値に基づいて、前記計測画像の前記特徴量が前記学習画像の前記特徴量に対して外れ値であるか否かを判定するステップと、を含む、
画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021036317A JP2022136618A (ja) | 2021-03-08 | 2021-03-08 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021036317A JP2022136618A (ja) | 2021-03-08 | 2021-03-08 | 画像処理装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022136618A true JP2022136618A (ja) | 2022-09-21 |
Family
ID=83311773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021036317A Pending JP2022136618A (ja) | 2021-03-08 | 2021-03-08 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022136618A (ja) |
-
2021
- 2021-03-08 JP JP2021036317A patent/JP2022136618A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3499418B1 (en) | Information processing apparatus, identification system, setting method, and program | |
US20230419472A1 (en) | Defect detection method, device and system | |
TWI699732B (zh) | 用於缺陷分類之方法及系統 | |
WO2019117065A1 (ja) | データ生成装置、データ生成方法及びデータ生成プログラム | |
JP2022136563A (ja) | 画像処理装置及び画像処理方法 | |
JP6113024B2 (ja) | 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム | |
JP5718781B2 (ja) | 画像分類装置および画像分類方法 | |
JP6669453B2 (ja) | 画像分類装置および画像分類方法 | |
JP6544716B2 (ja) | データ生成装置、データ生成方法及びデータ生成プログラム | |
TW202044067A (zh) | 基於機器學習之半導體樣本中的缺陷分類 | |
JP6584250B2 (ja) | 画像分類方法、分類器の構成方法および画像分類装置 | |
JP7393313B2 (ja) | 欠陥分類装置、欠陥分類方法及びプログラム | |
TWI783400B (zh) | 誤差因子的推定裝置及推定方法 | |
JP2019106119A (ja) | 検出システム、情報処理装置、評価方法及びプログラム | |
WO2019176988A1 (ja) | 検査システム、識別システム、及び識別器評価装置 | |
JP2020144626A (ja) | 異常検出システム、及び異常検出プログラム | |
JP6530688B2 (ja) | 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置 | |
JP2019158628A (ja) | 検査装置、検査方法、及び検査プログラム | |
JP2014137284A (ja) | 教師データ作成支援装置、教師データ作成装置、画像分類装置、教師データ作成支援方法、教師データ作成方法および画像分類方法 | |
TWI601098B (zh) | 影像分類裝置及影像分類方法 | |
JP2013254286A (ja) | 欠陥画像の提示方法 | |
JP2017107313A (ja) | 教師データ作成支援方法、画像分類方法、教師データ作成支援装置および画像分類装置 | |
JP2006292615A (ja) | 外観検査装置、外観検査方法、コンピュータを外観検査装置として機能させるためのプログラムおよび記録媒体 | |
JP6871807B2 (ja) | 分類器構築方法、分類器および分類器構築装置 | |
JP2022136618A (ja) | 画像処理装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240116 |