JP7070334B2 - 画像分類装置、画像検査装置、及び画像分類方法 - Google Patents

画像分類装置、画像検査装置、及び画像分類方法 Download PDF

Info

Publication number
JP7070334B2
JP7070334B2 JP2018203838A JP2018203838A JP7070334B2 JP 7070334 B2 JP7070334 B2 JP 7070334B2 JP 2018203838 A JP2018203838 A JP 2018203838A JP 2018203838 A JP2018203838 A JP 2018203838A JP 7070334 B2 JP7070334 B2 JP 7070334B2
Authority
JP
Japan
Prior art keywords
class
image
classifier
classification
classified
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018203838A
Other languages
English (en)
Other versions
JP2020071582A (ja
Inventor
紫朗 藤枝
真嗣 栗田
泰之 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2018203838A priority Critical patent/JP7070334B2/ja
Priority to PCT/JP2019/037441 priority patent/WO2020090290A1/ja
Publication of JP2020071582A publication Critical patent/JP2020071582A/ja
Application granted granted Critical
Publication of JP7070334B2 publication Critical patent/JP7070334B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Description

本発明は、画像分類装置、画像検査装置、及び画像分類方法に関する。
従来、画像分類装置の検査・分類装置として、検査対象領域の画像データの欠陥検査を行い、欠陥が検出されると欠陥画像のデータを生成する欠陥検出部と、分類器を用いて欠陥画像を複数の欠陥クラスのいずれかに分類する分類制御部と、を備えたものが知られている(特許文献1参照)。この検査・分類装置の分類器は、M個(Mは2以上の整数)のコア分類器と、1個の投票部とを含み、N個(Nは2以上の整数)の欠陥クラスに分類している。
特開2016-40650号公報
ここで、ある画像について、例えば、欠陥ありと欠陥なしとのどちらともいえない、つまり、欠陥ありのクラスと欠陥なしのクラスとの間に中間クラス(グレークラス)が存在する場合がある。
この中間クラスが存在する状況において、例えば、対象となる画像について、欠陥ありを第1クラスに、欠陥なしを第2クラスに、中間クラスを第3クラスに、それぞれ分類する場合、第1クラスと第3クラスとの間のしきい値と、第1クラスと第3クラスとの間のしきい値との2つしきい値を設定する必要が生じる。
しかしながら、中間クラスの境界ははっきりしないため、これらの2つのしきい値の調整は困難であり、2つのしきい値次第では、第3クラスに分類される画像が多過ぎたり(過多分類)、あるいは第3クラスに分類される画像が少な過ぎたり(過少分類)することがあった。
そこで、本発明は、画像の中間クラスへの過多分類及び過少分類を抑制することのできる画像分類装置及び画像分類方法を提供することを目的とする。
本発明の一態様に係る画像分類装置は、画像を第1クラス又はそれ以外のクラスに分類する第1分類器であって、第1クラスに分類される画像には該第1クラスの可能性のあるものが含まれる、第1分類器と、画像を第2クラス又はそれ以外のクラスに分類する第2分類器であって、第2クラスに分類される画像には該第2クラスの可能性のあるものが含まれる、第2分類器と、第1分類器の分類結果と第2分類器の分類結果とに基づいて、画像が第1クラスと第2クラスとの間の中間クラスであるか否かを判定する判定部と、を備える。
この態様によれば、第1分類器の分類結果と第2分類器の分類結果とに基づいて、画像は第1クラスと第2クラスとの間の中間クラスであるか否かが判定される。ここで、第1分類器によって第1クラスに分類される画像に第1クラスの可能性のあるものが含まれる場合、第1分類器が画像を第1クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第2分類器によって第2クラスに分類される画像に第2クラスの可能性のあるものが含まれるようにする場合、第2分類器が画像を第2クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第1分類器の分類結果及び第2分類器の分類結果に基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器の分類結果と第2分類器の分類結果とに基づいて、画像が第1クラスと第2クラスとの間の中間クラスであるか否かを判定することにより、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
前述した態様において、判定部は、画像が、第1分類器によって第1クラスに分類され、第2分類器によって第2クラスに分類されたときに、該画像を中間クラスであると判定してもよい。
この態様によれば、画像が、第1分類器によって第1クラスに分類され、第2分類器によって第2クラスに分類されたときに、当該画像は中間クラスであると判定される。ここで、第1分類器によって第1クラスの可能性のあるものを含む第1クラスであると分類され、第2分類器によって第2クラスの可能性のあるものを含む第2クラスであると分類された画像は、第1クラスと第2クラスとの間にある中間クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、画像が、第1分類器によって第1クラスに分類され、第2分類器によって第2クラスに分類されたときに、当該画像を中間クラスであると判定することにより、画像を中間クラスに分類する精度を向上させることができる。
前述した態様において、判定部は、画像が、第1分類器によって第1クラスに分類され、第2分類器によってそれ以外のクラスに分類されたときに、該画像を第1クラスであると判定してもよい。
この態様によれば、画像が、第1分類器によって第1クラスに分類され、第2分類器によってそれ以外のクラスに分類されたときに、当該画像は第1クラスであると判定される。ここで、第1分類器によって第1クラスの可能性のあるものを含む第1クラスであると分類され、第2分類器によって第2クラス以外であると分類された画像は、第1クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、画像が、第1分類器によって第1クラスに分類され、第2分類器によって第2クラス以外に分類されたときに、当該画像を第1クラスであると判定することにより、画像を第1クラスに分類する精度を向上させることができる。
前述した態様において、判定部は、画像が、第1分類器によってそれ以外のクラスに分類され、第2分類器によって第2クラスに分類されたときに、該画像を第2クラスであると判定してもよい。
この態様によれば、画像が、第1分類器によってそれ以外のクラスに分類され、第2分類器によって第2クラスに分類されたときに、当該画像は第2クラスであると判定される。ここで、第1分類器によって第1クラス以外であると分類され、第2分類器によって第2クラスの可能性のあるものを含む第2クラスであると分類された画像は、第2クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、画像が、第1分類器によって第1クラス以外に分類され、第2分類器によって第2クラスに分類されたときに、当該画像を第2クラスであると判定することにより、画像を第2クラスに分類する精度を向上させることができる。
前述した態様において、第1分類器及び第2分類器は、それぞれ2クラス分類器であってもよい。
この態様によれば、第1分類器及び第2分類器は、それぞれ2クラス分類器である。これにより、3クラス以上の多クラス分類器と比較して、簡単かつ容易に、分類精度の高い第1分類器及び第2分類器を生成することができる。
前述した態様において、画像を第3クラス又はそれ以外のクラスに分類する第3分類器であって、第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれる、第3分類器をさらに備え、判定部は、第1分類器の分類結果と第2分類器の分類結果と第3分類器の分類結果とに基づいて、画像が第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定してもよい。
この態様によれば、第1分類器の分類結果と第2分類器の分類結果と第3分類器の分類結果とに基づいて、画像は第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かが判定される。ここで、第3分類器によって第3クラスに分類される画像に第3クラスの可能性のあるものが含まれる場合、第3分類器が画像を第3クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第3分類器の分類結果CR3と、第1分類器の分類結果及び第2分類器の分類結果とに基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器の分類結果と第2分類器の分類結果と第3分類器の分類結果とに基づいて、画像が第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することにより、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
前述した態様において、第3分類器から第m(mは4以上の整数)分類器までのそれぞれをさらに備え、第3分類器は画像を第3クラス又はそれ以外のクラスに分類し、第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれ、第m分類器は前記画像を第mクラス又はそれ以外のクラスに分類し、第mクラスに分類される画像には該第mクラスの可能性のあるものが含まれ、判定部は、第1分類器の分類結果から第m分類器の分類結果までに基づいて、画像が第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定してもよい。
この態様によれば、第1分類器の分類結果から第m分類器の分類結果までに基づいて、画像は第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かが判定される。ここで、第3分類器によって第3クラスに分類される画像に第3クラスの可能性のあるものが含まれる場合、第3分類器が画像を第3クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスから第mクラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第m分類器によって第mクラスに分類される画像に第mクラスの可能性のあるものが含まれる場合、第m分類器が画像を第mクラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスから第mクラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第3分類器の分類結果から第m分類器の分類結果までと、第1分類器の分類結果及び第2分類器の分類結果とに基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器の分類結果から第m分類器の分類結果までに基づいて、画像が第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することにより、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
また、本発明の他の態様に係る画像検査装置は、前述した画像分類装置を備え、画像分類装置を用いて検査対象物の画像を検査する。
この態様によれば、前述した画像分類装置を用いて検査対象物の画像を検査される。これにより、画像の中間クラスへの過多分類及び過少分類を抑制する画像検査装置を容易に実現することができる。
また、本発明の他の態様に係る画像分類方法は、第1分類器が画像を第1クラス又はそれ以外のクラスに分類する第1分類ステップであって、第1クラスに分類される画像には該第1クラスの可能性のあるものが含まれる、第1分類ステップと、第2分類器が画像を第2クラス又はそれ以外のクラスに分類する第2分類ステップであって、第2クラスに分類される画像には該第2クラスの可能性のあるものが含まれる、第2分類ステップと、判定部が、第1分類ステップの分類結果と第2分類ステップの分類結果とに基づいて、画像は第1クラスと第2クラスとの間の中間クラスであるか否かを判定する判定ステップと、を含む。
この態様によれば、第1分類ステップの分類結果と第2分類ステップの分類結果とに基づいて、画像は第1クラスと第2クラスとの間の中間クラスであるか否かが判定される。ここで、第1分類器によって第1クラスに分類される画像に第1クラスの可能性のあるものが含まれる場合、第1分類器が画像を第1クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第2分類器によって第2クラスに分類される画像に第2クラスの可能性のあるものが含まれるようにする場合、第2分類器が画像を第2クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第1分類器の分類結果及び第2分類器の分類結果に基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類ステップの分類結果と第2分類ステップの分類結果とに基づいて、画像が第1クラスと第2クラスとの間の中間クラスであるか否かを判定することにより、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
前述した態様において、判定ステップは、画像が、第1分類ステップにおいて第1クラスに分類され、第2分類ステップにおいて第2クラスに分類されたときに、判定部が該画像を中間クラスであると判定することを含んでもよい。
この態様によれば、画像が、第1分類ステップにおいて第1クラスに分類され、第2分類ステップにおいて第2クラスに分類されたときに、当該画像は中間クラスであると判定される。ここで、第1分類器によって第1クラスの可能性のあるものを含む第1クラスであると分類され、第2分類器によって第2クラスの可能性のあるものを含む第2クラスであると分類された画像は、第1クラスと第2クラスとの間にある中間クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、画像が、第1分類ステップにおいて第1クラスに分類され、第2分類ステップによって第2クラスに分類されたときに、当該画像を中間クラスであると判定することにより、画像を中間クラスに分類する精度を向上させることができる。
前述した態様において、判定ステップは、画像が、第1分類ステップにおいて第1クラスに分類され、第2分類ステップにおいてそれ以外のクラスに分類されたときに、判定部が該画像を第1クラスであると判定することを含んでもよい。
この態様によれば、画像が、第1分類ステップにおいて第1クラスに分類され、第2分類器においてそれ以外のクラスに分類されたときに、当該画像は第1クラスであると判定される。ここで、第1分類器によって第1クラスの可能性のあるものを含む第1クラスであると分類され、第2分類器によって第2クラス以外であると分類された画像は、第1クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、画像が、第1分類ステップにおいて第1クラスに分類され、第2分類ステップにおいて第2クラス以外に分類されたときに、当該画像を第1クラスであると判定することにより、画像を第1クラスに分類する精度を向上させることができる。
前述した態様において、判定ステップは、画像が、第1分類ステップにおいてそれ以外のクラスに分類され、第2分類ステップにおいて第2クラスに分類されたときに、判定部が該画像を第2クラスであると判定することを含んでもよい。
この態様によれば、画像が、第1分類ステップにおいてそれ以外のクラスに分類され、第2分類ステップにおいて第2クラスに分類されたときに、当該画像は第2クラスであると判定される。ここで、第1分類器によって第1クラス以外であると分類され、第2分類器によって第2クラスの可能性のあるものを含む第2クラスであると分類された画像は、第2クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、画像が、第1分類ステップにおいて第1クラス以外に分類され、第2分類ステップにおいて第2クラスに分類されたときに、当該画像を第2クラスであると判定することにより、画像を第2クラスに分類する精度を向上させることができる。
前述した態様において、第3分類器が画像を第3クラス又はそれ以外のクラスに分類する第3分類ステップであって、第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれる、第3分類ステップをさらに含み、判定ステップは、判定部が、第1分類ステップの分類結果と第2分類ステップの分類結果と第3分類ステップの分類結果とに基づいて、画像は第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することを含んでもよい。
この態様によれば、第1分類ステップの分類結果と第2分類ステップの分類結果と第3分類ステップの分類結果とに基づいて、画像は第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かが判定される。ここで、第3分類器によって第3クラスに分類される画像に第3クラスの可能性のあるものが含まれる場合、第3分類器が画像を第3クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第3分類器の分類結果CR3と、第1分類器の分類結果及び第2分類器の分類結果とに基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類ステップの分類結果と第2分類ステップの分類結果と第3分類ステップの分類結果とに基づいて、画像が第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することにより、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
前述した態様において、第3分類ステップから第m(mは4以上の整数)分類ステップまでのそれぞれをさらに含み、第3分類ステップは、第3分類器が画像を第3クラス又はそれ以外のクラスに分類することを含み、第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれ、第m分類ステップは、第m分類器が画像を第mクラス又はそれ以外のクラスに分類することを含み、第mクラスに分類される画像には該第mクラスの可能性のあるものが含まれ、判定ステップは、判定部が、第1分類ステップの分類結果から第m分類ステップの分類結果までに基づいて、画像は第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することを含む。
この態様によれば、第1分類ステップの分類結果から第m分類ステップの分類結果までに基づいて、画像は第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かが判定される。ここで、第3分類器によって第3クラスに分類される画像に第3クラスの可能性のあるものが含まれる場合、第3分類器が画像を第3クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスから第mクラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第m分類器によって第mクラスに分類される画像に第mクラスの可能性のあるものが含まれる場合、第m分類器が画像を第mクラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスから第mクラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第3分類器の分類結果から第m分類器の分類結果までと、第1分類器の分類結果及び第2分類器の分類結果とに基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類ステップの分類結果から第m分類ステップの分類結果までに基づいて、画像が第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することにより、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
本発明によれば、画像の中間クラスへの過多分類及び過少分類を抑制することができる。
図1は、一実施形態に係る画像処理装置の概略構成を例示する構成図である。 図2は、図1に示した分類部及び判定部の構成を例示するブロック図である。 図3は、第1クラスと第2クラスとの間の中間クラスを例示するベン図である。 図4は、図1に示した判定部の結果を例示する表である。 図5は、図2に示した第1分類器及び第1分類器の生成を例示する図である。 図6は、本発明の第1実施形態に係る画像検査装置の概略動作を例示するフローチャートである。 図7は、図1に示した画像検査装置の検査画像と分類結果を例示する図である。 図8は、図7に示した画像検査装置の検査画像を特徴量によってマッピングしたグラフである。 図9は、本発明の第2実施形態に係る画像検査装置の概略構成を例示する構成図である。 図10は、図9に示した分類部及び判定部の構成を例示するブロック図である。 図11は、第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスを例示するベン図である。 図12は、図10に示した判定部の結果を例示する表である。 図13は、図9に示した分類部及び判定部の構成の変形例を例示するブロック図である。
添付図面を参照して、本発明の好適な実施形態について説明する。なお、各図において、同一の符号を付したものは、同一又は同様の構成を有する。
<第1実施形態>
まず、図1から図5を参照しつつ、本発明の第1実施形態に係る画像検査装置及び画像分類装置の構成の一例について説明する。図1は、本発明の第1実施形態に係る画像検査装置100の概略構成を例示する構成図である。図2は、図1に示した分類部31及び判定部32の構成を例示するブロック図である。図3は、第1クラスCL1と第2クラスCL2との間の中間クラスICを例示するベン図である。図4は、図1に示した判定部32の結果REを例示する表である。図5は、図2に示した第1分類器31a及び第2分類器31bの生成を例示する図である。
画像検査装置100は、検査対象物を撮影した画像から検査対象物が欠陥を含むか否かを検査するためのものである。欠陥は、特に限定されるものではないが、例えば、傷、クラック、欠け、バリ、付着物、異物、打痕、色等のムラ、汚れ、印字のかすれ、印字等の位置ずれ等の視認可能なものを含む。
図1に示すように、画像検査装置100は、画像分類装置50と、撮像装置60と、入力装置70と、出力装置80と、ライン装置90と、を備える。画像検査装置100は、例えば、ライン装置90の上の検査対象物を撮像装置60によって撮像し、画像分類装置50を用いて検査対象物の画像(以下、「検査画像」という)を検査するように構成されている。
画像分類装置50は、例えば、コンピュータ等の情報処理装置である。画像分類装置50は、入出力I/F(インターフェース)10と、記憶部20と、制御部30と、を備える。また、画像分類装置50は、画像分類装置50の各部の間で信号やデータを伝送するように構成されたバス40をさらに備える。
入出力I/F10は、画像分類装置50と外部の機器とのインターフェースである。入出力I/F10は、外部の機器との間でデータや信号をやり取りするように構成されている。また、入出力I/F10は、外部の機器との通信を制御するように構成されている。入出力I/F10は、例えば、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Mutimedia Interface)、IEEE1394等の規格化されたインターフェースの接続端子を含んで構成される。入出力I/F10は、撮像装置60、入力装置70、及び出力装置80に接続されている。
記憶部20は、プログラムやデータ等を記憶するように構成されている。記憶部20は、例えば、ハードディスクドライブ、ソリッドステートドライブ等を含んで構成される。記憶部20は、制御部30が実行する各種プログラムやプログラムの実行に必要なデータ等をあらかじめ記憶している。また、記憶部20は、撮像装置60から入出力I/F10を介して入力される検査画像21を記憶する。
制御部30は、入出力I/F10及び記憶部20等、画像分類装置50の各部の動作を制御するように構成されている。また、制御部30は、記憶部20に記憶されたプログラムを実行する等によって、後述する各機能を実現するように構成されている。制御部30は、例えば、CPU(Central Processing Unit)等のプロセッサ、ROM(Read Only Memory)、RAM(Random Access Memory)等のメモリ、及びバッファ等の緩衝記憶装置を含んで構成される。制御部30は、その機能構成として、例えば、分類部31と、判定部32と、を備える。
図2に示すように、分類部31は、第1分類器31aと、第2分類器31bと、を備える。
第1分類器31aは、入力される画像を、第1クラス又はそれ以外のクラスに分類するように構成されている。第1クラスに分類される画像には、当該第1クラスの可能性のあるものが含まれる。この結果、それ以外のクラス(第1クラス以外のクラス)には、確実に第1クラスではない画像が分類される。第1分類器31aには記憶部20に記憶された検査画像21が入力され、第1分類器31aは分類結果CR1を出力する。
第2分類器31bは、入力される画像を、第2クラス又はそれ以外のクラスに分類するように構成されている。第2クラスに分類される画像には、当該第2クラスの可能性のあるものが含まれる。この結果、それ以外のクラス(第2クラス以外のクラス)には、確実に第2クラスではない画像が分類される。第2分類器31bには記憶部20に記憶された検査画像21が入力され、第2分類器31bは分類結果CR2を出力する。
判定部32は、第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2とに基づいて、第1分類器31a及び第2分類器31bに入力される検査画像21が、第1クラスと第2クラスとの間の中間クラスであるか否かを判定するように構成されている。判定部32には、第1分類器31aの分類結果CR1及び第2分類器31bの分類結果CR2が入力され、判定部32は判定結果に従う結果REを出力する。
ここで、第1分類器31aによって第1クラスに分類される検査画像21に第1クラスの可能性のあるものが含まれる場合、第1分類器31aが検査画像21を第1クラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第2分類器31bによって第2クラスに分類される検査画像21に第2クラスの可能性のあるものが含まれるようにする場合、第2分類器31bが検査画像21を第2クラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第1分類器31aの分類結果CR1及び第2分類器31bの分類結果CR2に基づいて、検査画像21を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2とに基づいて、検査画像21が第1クラスと第2クラスとの間の中間クラスであるか否かを判定することにより、検査画像21の中間クラスへの過多分類及び過少分類を抑制することができる。
例えば、図3に示すように、第1クラスCL1は検査画像21が「OK」であるクラスであり、第2クラスCL2は検査画像21が「NG」であるクラスである場合、第1クラスCL1と第2クラスCL2との間に、中間クラスICが存在する。中間クラスICには、第1分類器31aでは「OK」であり、第2分類器31bでは「NG」である検査画像21が含まれ、当該検査画像21は、「OK」とも「NG」とも分類できないグレーな画像である。
以下の説明において、特に明示する場合を除き、図3に示すように、第1クラスCL1は検査画像21が「OK」、第2クラスCL2は検査画像21が「NG」、第1クラスCL1と第2クラスCL2との間に存在する中間クラスICは「グレー」とする。
図3に示す例の場合、判定部32は、図4に示す表に従って判定する。なお、図4の表では、上線は否定を表しており、「OK」の上線は「OK」以外を意味し、「NG」の上線は「NG」以外を意味する。以下の説明において、「OK」以外を「¬OK」と表記し、「NG」以外を「¬NG」と表記する場合がある。
詳細には、検査画像21が、第1分類器31aによって「OK」に分類され、第2分類器31bによって「NG」に分類されたときに、判定部32は、当該検査画像21を中間クラスICであると判定し、結果REとして中間クラスICを示す「グレー」を出力する。ここで、第1分類器31aによって第1クラスの可能性のあるものを含む第1クラスであると分類され、第2分類器31bによって第2クラスの可能性のあるものを含む第2クラスであると分類された検査画像21は、第1クラスと第2クラスとの間にある中間クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、検査画像21が、第1分類器31aによって「OK」に分類され、第2分類器31bによって「NG」に分類されたときに、当該検査画像21を中間クラスICであると判定することにより、検査画像21を「グレー」に分類する精度を向上させることができる。
また、検査画像21が、第1分類器31aによって「OK」に分類され、第2分類器31bによって「NG」以外に分類されたときに、判定部32は、当該検査画像21を第1クラスCL1であると判定し、結果REとして第1クラスCL1を示す「OK」を出力する。ここで、第1分類器31aによって第1クラスの可能性のあるものを含む第1クラスであると分類され、第2分類器31bによって第2クラス以外であると分類された検査画像21は、第1クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、検査画像21が、第1分類器31aによって「OK」に分類され、第2分類器31bによって「NG」以外に分類されたときに、当該検査画像21を第1クラスCL1であると判定することにより、検査画像21を「OK」に分類する精度を向上させることができる。
さらに、検査画像21が、第1分類器31aによって「OK」以外に分類され、第2分類器31bによって「NG」に分類されたときに、判定部32は、当該検査画像21を第2クラスCL2であると判定し、結果REとして第2クラスCL2を示す「NG」を出力する。ここで、第1分類器31aによって第1クラス以外であると分類され、第2分類器31bによって第2クラスの可能性のあるものを含む第2クラスであると分類された検査画像21は、第2クラスである蓋然性が高いことを、本発明の発明者は見出した。よって、検査画像21が、第1分類器31aによって「OK」以外に分類され、第2分類器31bによって「NG」に分類されたときに、当該検査画像21を第2クラスCL2であると判定することにより、検査画像21を「NG」に分類する精度を向上させることができる。
なお、検査画像21が、第1分類器31aによって「OK」以外に分類され、第2分類器31bによって「NG」以外に分類されたとき、当該検査画像21は、図3に示す例において、第1クラスCL1の外側かつ第2クラスCL2の外側の領域に属することになる。すなわち、このような検査画像21は、画像分類装置50Aでは分類できない画像であるから、判定部32は、結果REとして「不明」を出力する。
第1分類器31a及び第2分類器31bは、それぞれ2クラス分類器である。これにより、3クラス以上の多クラス分類器と比較して、簡単かつ容易に、分類精度の高い第1分類器31a及び第2分類器31bを生成することができる。
第1分類器31a及び第2分類器31bは、任意の機械学習モデルのアルゴリズムを用いて生成される。例えば、図5に示すように、第1分類器31aは第1ニューラルネットワークNW1を用いて生成され、第2分類器31bは第2ニューラルネットワークNW2を用いて生成される。図5に示す例では、第1ニューラルネットワークNW1及び第2ニューラルネットワークNW2は、それぞれ、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)である。
第1ニューラルネットワークNW1及び第2ニューラルネットワークNW2は、例えば、それぞれ、畳み込みフィルタ層とプーリング層との組み合わせである畳み込みフィルタ層/プーリング層と、畳み込みフィルタ層/プーリング層によって抽出される特徴量と、全結合層と、出力と、を含んでいる。
第1ニューラルネットワークNW1及び第2ニューラルネットワークNW2には、入力として複数の学習画像LGが与えられる。各学習画像LGには、アノテーション、つまり、関連情報が付与されている。すなわち、第1ニューラルネットワークNW1に各学習画像LGを入力する際、各学習画像LGには第1ラベルLA1が付与され、第2ニューラルネットワークNW2に各学習画像LGを入力する際、各学習画像LGには第2ラベルLA2が付与される。第1ラベルLA1は、第1クラスである「OK」又はそれ以外のクラスである「¬OK」である。一方、第2ラベルLA2は、第2クラスである「NG」又はそれ以外のクラスである「¬NG」である。第1ラベルLA1及び第2ラベルLA2は、例えばユーザが、各学習画像LGを見て分類することによって設定される。
図5に示す例では、第1ニューラルネットワークNW1及び第2ニューラルネットワークNW2を用いて第1分類器31a及び第2分類器31bを生成する例を示したが、これに限定されるものではない。第1分類器31a及び第2分類器31bを生成する機械学習モデルのアルゴリズムとして、例えば、サポートベクターマシン、ロジスティック回帰、ディープニューラルネットワーク等を用いるようにしてもよい。
図1に戻り、制御部30の各機能は、コンピュータ(マイクロプロセッサ)で実行されるプログラムによって実現することが可能である。したがって、制御部30が備える各機能は、ハードウェア、ソフトウェア、若しくはハードウェア及びソフトウェアの組み合わせによって実現可能であり、いずれかの場合に限定されるものではない。
また、制御部30の各機能が、ソフトウェア、若しくはハードウェア及びソフトウェアの組み合わせによって実現される場合、その処理は、マルチタスク、マルチスレッド、若しくはマルチタスク及びマルチスレッドの両方で実行可能であり、いずれかの場合に限定されるものではない。
撮像装置60は、画像を撮影してデータとして記録するように構成されている。撮像装置60は、デジタルカメラであり、例えば、レンズ等の光学系部品と、撮像素子(受光素子)等の電子系部品とを含んで構成される。なお、光学系部品は、複数のレンズを備えていてもよい。また、電子系部品は、フラッシュ等の発光装置を備えていてもよい。撮像装置60は、ライン装置90の上方に配置されており、ライン装置90上の検査対象物を撮影し、撮影した画像を入出力I/F10を介して画像分類装置50に出力する。制御部30は、撮像装置60から入力された画像に必要な処理を施して検査画像21のファイルを生成し、生成した検査画像21のファイルを記憶部20に記憶させる。
入力装置70は、利用者(ユーザ)の操作によって情報を入力できるように構成されている。入力装置70は、例えば、キーボード、キーパッド、マウス、トラックボール、タッチパネル、マイク等を含んで構成される。することが可能である。例えば、利用者が、キーボード、キーパッド、マウス、トラックボール、タッチパネル、マイク等を操作(マイクを用いた音声操作を含む)したときに、入力装置70は、当該操作に対応するデータ又は信号を入出力I/F10を介して画像分類装置50に出力する。制御部30が、このデータまた信号に基づいてデータを生成することで、画像分類装置50に情報を入力することが可能になる。
出力装置80は、情報を出力するように構成されている。出力装置80は、例えば、液晶ディスプレイ、EL(Electro Luminescence)ディスプレイ、プラズマディスプレイ等の表示装置を含んで構成される。例えば、画像分類装置50から入出力I/F10を介して入力される画像データを、出力装置80が表示装置に表示することで、情報を出力することが可能になる。
ライン装置90は、検査対象物を搬送するように構成されている。ライン装置90は、例えばベルトコンベヤ等の搬送手段を含んで構成される。ライン装置90は、画像分類装置50から入出力I/F10を介して入力される制御信号に基づいて、例えば、ライン装置90上の検査対象物を移動させたり、停止させたり、除外したりすることが可能になる。
次に、図6から図8を参照しつつ、本発明の第1実施形態に係る画像検査装置100の動作について説明する。図6は、本発明の第1実施形態に係る画像検査装置100の概略動作を例示するフローチャートである。図7は、図1に示した画像検査装置100の検査画像21と分類結果を例示する図である。図8は、図7に示した画像検査装置100の検査画像21を特徴量によってマッピングしたグラフである。
画像検査装置100は、例えば利用者(ユーザ)の操作によって起動すると、図6に示す画像検査処理S200を実行する。
最初に、第1分類器31aは、記憶部20に記憶された検査画像21を読み出し、当該検査画像21を「OK」又は「OK」以外に分類する(S201)。なお、ステップS201は、本発明の「第1分類ステップ」に相当する。
次に、第2分類器31bは、ステップS201で読み出した検査画像21を「NG」又は「NG」以外に分類する(S202)。なお、ステップS202は、本発明の「第2分類ステップ」に相当する。
次に、判定部32は、ステップS201の分類結果とステップS202の分類結果とに基づいて、ステップS201で読み出した検査画像21が中間クラスである「グレー」であるか否かを判定する(S203)。なお、ステップS203は、本発明の「判定ステップ」に相当する。
ステップS203の判定の結果、検査画像21が「グレー」である場合、当該検査画像21を再検査する必要があると考えられる。よって、制御部30は、例えば、検査画像21をI/F10を介して出力装置80に表示させ、利用者の目視によって検査画像21を再検査する(S204)。利用者は、出力装置80に表示された検査画像21を見て、入力装置70を操作することによって、当該検査画像21に対して「OK」又は「NG」を入力する。
一方、ステップS203の判定の結果、判定部32は、検査画像21が「グレー」でない場合、検査画像21が第1クラスである「OK」であるか否かを判定する(S205)。
ステップS205の判定の結果、検査画像21が「OK」である場合、当該検査画像21に対応する検査対象物は、例えば製品として出荷可能な状態であると考えられる。よって、制御部30は、I/F10を介してライン装置90に制御信号を出力し、ライン装置90が、当該検査画像21に対応する検査対象物を搬送し、出荷する(S206)。
一方、ステップS205の判定の結果、判定部32は、検査画像21が「OK」でない場合、検査画像21が第2クラスである「NG」であるか否かを判定する(S207)。
ステップS207の判定の結果、検査画像21が「NG」である場合、当該検査画像21に対応する検査対象物は、例えば欠陥を含み、製品として出荷不能な状態であると考えられる。よって、制御部30は、I/F10を介してライン装置90に制御信号を出力し、ライン装置90が、当該検査画像21に対応する検査対象物をライン上から除外する(S208)。
一方、ステップS207の判定の結果、判定部32は、検査画像21が「NG」でない場合、図4に示した「不明」のように、画像分類装置50によって分類できないものと考えられる。よって、制御部30は、例えば、I/F10を介して出力装置80に、検査画像21とともに警告を出力する(S209)。利用者は、出力装置80に出力された検査画像及び警告を見て、ライン装置90を停止させたり、入力装置70を操作することによって当該検査画像21に対して「OK」又は「NG」を入力したりする。
ステップ204、ステップ206、ステップ208、又はステップ209の後、制御部30は、例えば画像検査装置100が停止するまで、ステップS201からステップS209の各ステップを繰り返す。
ここで、図7におけるNo.1からNo.5の検査画像21のように、各検査画像21が汚れやシミ等の欠陥を含む場合、第1分類器31aは、No.1からNo.5の検査画像21について「OK」に分類し、No.4からNo.5の検査画像21について「¬OK」(「OK」以外)に分類する。一方、第2分類器31bは、No.1からNo.2の検査画像21について「NG」に分類し、No.3からNo.5の検査画像21について「¬NG」(「NG」以外)に分類する。
また、図7におけるNo.6からNo.10の検査画像21のように、各検査画像21がクラックやキズ等の欠陥を含む場合、第1分類器31aは、No.6からNo.7の検査画像21について「OK」に分類し、No.8からNo.10の検査画像21について「¬OK」(「OK」以外)に分類する。一方、第2分類器31bは、No.6の検査画像21について「NG」に分類し、No.7からNo.10の検査画像21について「¬NG」(「NG」以外)に分類する。
このように、各検査画像21が欠陥を含む場合、欠陥の種類は多種多様であり、欠陥を含む各検査画像21はそれぞれに異なる特徴を有することがある。
図7に示すNo.1からNo.10の検査画像21に含まれる欠陥を、例えば、「面積」という特徴と、「長さ」という特徴とによってマッピングすると、図8に示すようになる。判定部32は、図7に示した第1分類器31aの分類結果と第2分類器31bの分類結果とに基づいて、No.1、No.2、及びNo.6の検査画像21を図8において破線で囲う第1クラスCL1であると判定する。また、判定部32は、図7に示した第1分類器31aの分類結果と第2分類器31bの分類結果とに基づいて、No.4、No.5、及びNo.8からNo.10の検査画像21を図8において一点鎖線で囲う第2クラスCL2であると判定する。さらに、図7に示した第1分類器31aの分類結果と第2分類器31bの分類結果とに基づいて、No.3及びNo.7の検査画像21を第1クラスCL1と第2クラスCL2とが重複する中間クラスICであると判定する。
このように、複数の検査画像21が異なる特徴を有する場合でも、第1分類器31aの分類結果と第2分類器31bの分類結果とに基づいて、検査画像21を第1クラスCL1と第2クラスCL2との間の中間クラスICであるか否かを判定することができる。
できる。
<第2実施形態>
次に、図9から図13を参照しつつ、本発明の第2実施形態に係る画像検査装置及び画像分類装置について説明する。図9は、本発明の第2実施形態に係る画像検査装置100Aの概略構成を例示する構成図である。図10は、図9に示した分類部31A及び判定部32Aの構成を例示するブロック図である。図11は、第1クラスCL1、第2クラスCL2、及び第3クラスCL3のうちの少なくとも2つの間の中間クラスICを例示するベン図である。図12は、図10に示した判定部32Aの結果REを例示する表である。図13は、図9に示した分類部31A及び判定部32Aの構成の変形例を例示するブロック図である。なお、第1実施形態と同一又は類似の構成について同一又は類似の符号を付している。以下、第1実施形態と異なる点について説明する。また、同様の構成による同様の作用効果については、逐次言及しない。
図9に示すように、本発明の第2実施形態に係る画像検査装置100A及び画像分類装置50Aは、制御部30が分類部31Aと判定部32Aを備える点で、本発明の第2実施形態に係る画像検査装置100及び画像分類装置50と相違する。
すなわち、分類部31Aは、第1分類器31a及び第2分類器31bに加え、第3分類器31cをさらに備える。また、判定部32Aには、分類結果CR1及び分類結果CR2に加え、第3分類器31cの分類結果CR3が入力される。
第3分類器31cは、入力される画像を、第3クラス又はそれ以外のクラスに分類するように構成されている。第3クラスに分類される画像には、当該第3クラスの可能性のあるものが含まれる。この結果、それ以外のクラス(第3クラス以外のクラス)には、確実に第3クラスではない画像が分類される。第3分類器31cには記憶部20に記憶された検査画像21が入力され、第3分類器31cは分類結果CR3を出力する。
判定部32Aは、第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2と第3分類器31cの分類結果CR3とに基づいて、第1分類器31a、第2分類器31b、及び第3分類器31cに入力される検査画像21が、第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定するように構成されている。判定部32Aは、判定結果に従う結果REを出力する。
ここで、第3分類器31cによって第3クラスに分類される検査画像21に第3クラスの可能性のあるものが含まれる場合、第3分類器31cが検査画像21を第3クラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第3分類器31cの分類結果CR3と、第1分類器31aの分類結果CR1及び第2分類器31bの分類結果CR2とに基づいて、検査画像21を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2と第3分類器31cの分類結果CR3とに基づいて、検査画像21が第1クラス、第2クラス、及び第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することにより、検査画像21の中間クラスへの過多分類及び過少分類を抑制することができる。
例えば、図11に示すように、第1クラスCL1は検査画像21が「A」であるクラスであり、第2クラスCL2は検査画像21が「B」であるクラスであり、第3クラスCL3は検査画像21が「C」であるクラスである場合、第1クラスCL1と第2クラスCL2との間、第1クラスCL1と第3クラスCL3との間、第2クラスCL2と第3クラスCL3との間、及び第1クラスCL1と第2クラスCL2と第3クラスCL3との間に、それぞれ中間クラスICが存在する。中間クラスICに含まれる検査画像21は、「A」、「B」、及び「C」のいずれにも分類できないグレーな画像である。
以下の説明において、特に明示する場合を除き、図11に示すように、第1クラスCL1は検査画像21が「A」、第2クラスCL2は検査画像21が「B」、第3クラスCL3は検査画像21が「C」、第1クラスCL1、第2クラスCL2、及び第3クラスCL3のうちの少なくとも2つの間に存在する中間クラスICは「グレー」とする。
図11に示す例の場合、判定部32Aは、図12に示す表に従って判定する。なお、図12に示す表では、図4に示した表と同様に、上線は否定を表しており、「A」の上線は「A」以外を意味し、「B」の上線は「B」以外を意味、「C」の上線は「C」以外を意味する。以下の説明において、「A」以外を「¬A」と表記し、「B」以外を「¬B」と表記し、「C」以外を「¬C」と表記する場合がある。
詳細には、検査画像21が、第1分類器31aによって「A」に分類され、第2分類器31bによって「B」に分類され、第3分類器31cによって「C」に分類されたときに、判定部32Aは、当該検査画像21を中間クラスICであると判定し、結果REとして中間クラスICを示す「グレー」を出力する。また、検査画像21が、第1分類器31aによって「A」に分類され、第2分類器31bによって「B」に分類され、第3分類器31cによって「C」以外に分類されたときに、判定部32Aは、当該検査画像21を中間クラスICであると判定し、結果REとして中間クラスICを示す「グレー」を出力する。また、検査画像21が、第1分類器31aによって「A」に分類され、第2分類器31bによって「B」以外に分類され、第3分類器31cによって「C」に分類されたときに、判定部32Aは、当該検査画像21を中間クラスICであると判定し、結果REとして中間クラスICを示す「グレー」を出力する。また、検査画像21が、第1分類器31aによって「A」以外に分類され、第2分類器31bによって「B」に分類され、第3分類器31cによって「C」に分類されたときに、判定部32Aは、当該検査画像21を中間クラスICであると判定し、結果REとして中間クラスICを示す「グレー」を出力する。
これに対し、検査画像21が、第1分類器31aによって「A」に分類され、第2分類器31bによって「B」以外に分類され、第3分類器31cによって「C」以外に分類されたときに、判定部32Aは、当該検査画像21を第1クラスCL1であると判定し、結果REとして第1クラスCL1を示す「A」を出力する。
また、検査画像21が、第1分類器31aによって「A」以外に分類され、第2分類器31bによって「B」に分類され、第3分類器31cによって「C」以外に分類されたときに、判定部32Aは、当該検査画像21を第2クラスCL2であると判定し、結果REとして第2クラスCL2を示す「B」を出力する。
さらに、検査画像21が、第1分類器31aによって「A」以外に分類され、第2分類器31bによって「B」以外に分類され、第3分類器31cによって「C」に分類されたときに、判定部32Aは、当該検査画像21を第3クラスCL3であると判定し、結果REとして第3クラスCL3を示す「C」を出力する。
なお、検査画像21が、第1分類器31aによって「A」以外に分類され、第2分類器31bによって「B」以外に分類され、第3分類器31cによって「C」以外に分類されたたとき、当該検査画像21は、図11に示す例において、第1クラスCL1の外側、第2クラスCL2の外側、かつ第3クラスCL3の外側の領域に属することになる。すなわち、このような検査画像21は画像分類装置50Aでは分類できない画像であるから、判定部32Aは、結果REとして「不明」を出力する。
なお、第3分類器31cは、第1分類器31a及び第2分類器31bと同様に、2クラス分類器である。また、第3分類器31cは、第1分類器31a及び第2分類器31bと同様に、ニューラルネットワークを用いて生成されてもよいし、サポートベクターマシン、ロジスティック回帰、ディープニューラルネットワーク等の他の機械学習モデルのアルゴリズムを用いて生成してもよい。
また、本発明の第2実施形態に係る画像検査装置100Aの動作は、例えば、図6に示した画像検査装置100の概略動作に、第3分類器31cが検査画像21を第3クラス又はそれ以外のクラスに分類するステップ(本発明の第3分類ステップに相当する)と、検査画像21が第3クラスであるか否かを判定するステップとが加わるのみである。よって、画像検査装置100Aの動作については、図示及びその説明を省略する。
本実施形態では、分類部31Aが第3分類器31cをさらに備える例を示したが、これに限定されるものではない。例えば、図13に示すように、分類部31Aは、第3分類器31cから第m(mは4以上の整数)分類器31xまでのそれぞれを、さらに備えるようにしてもよい。この場合、第m分類器31xは、入力される画像を、第mクラス又はそれ以外のクラスに分類するように構成されている。第mクラスに分類される画像には、当該第mクラスの可能性のあるものが含まれる。この結果、それ以外のクラス(第mクラス以外のクラス)には、確実に第mクラスではない画像が分類される。また、判定部32Aは、第1分類器31aの分類結果CR1から第m分類器31xの分類結果CRmまでに基づいて、検査画像21が第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定する。
ここで、第3分類器31cによって第3クラスに分類される画像に第3クラスの可能性のあるものが含まれる場合、第3分類器31cが検査画像21を第3クラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラスから第mクラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第m分類器31xによって第mクラスに分類される画像に第mクラスの可能性のあるものが含まれる場合、第m分類器31xが検査画像21を第mクラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラスから第mクラスのうちの少なくとも2つの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第3分類器31cの分類結果CR3から第m分類器31xの分類結果CRmまでと、第1分類器31aの分類結果CR1及び第2分類器31bの分類結果CR2とに基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器31aの分類結果CR1から第m分類器31xの分類結果CRmまでに基づいて、検査画像21が第1クラスから第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することにより、検査画像21の中間クラスへの過多分類及び過少分類することができる。
詳細には、検査画像21が、第1分類器31aから第m分類器31xのうちの2つ以上において、第n(nは1からmまでの整数)クラスであると分類されたときに、判定部32Aは、当該検査画像21を中間クラスであると判定する。
これに対し、検査画像21が、第n分類器によって第nクラスに分類され、その他の全ての分類器においてそれ以外のクラスに分類されたときに、判定部32Aは、当該検査画像21を第nクラスであると判定する。
以上、本発明の例示的な実施形態について説明した。本発明の一実施形態に係る画像分類装置50,50Aによれば、第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2とに基づいて、検査画像21は第1クラスと第2クラスとの間の中間クラスであるか否かが判定される。ここで、第1分類器31aによって第1クラスに分類される検査画像21に第1クラスの可能性のあるものが含まれる場合、第1分類器31aが検査画像21を第1クラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第2分類器31bによって第2クラスに分類される検査画像21に第2クラスの可能性のあるものが含まれるようにする場合、第2分類器31bが検査画像21を第2クラス又はそれ以外のクラスに分類する際のしきい値は、検査画像21を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第1分類器31aの分類結果CR1及び第2分類器31bの分類結果CR2に基づいて、検査画像21を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2とに基づいて、検査画像21が第1クラスと第2クラスとの間の中間クラスであるか否かを判定することにより、検査画像21の中間クラスへの過多分類及び過少分類を抑制することができる。
また、本発明の一実施形態に係る画像分類方法によれば、ステップS201の分類結果とステップS202の分類結果とに基づいて、検査画像21は第1クラスと第2クラスとの間の中間クラスであるか否かが判定される。ここで、第1分類器によって第1クラスに分類される画像に第1クラスの可能性のあるものが含まれる場合、第1分類器が画像を第1クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。同様に、第2分類器によって第2クラスに分類される画像に第2クラスの可能性のあるものが含まれるようにする場合、第2分類器が画像を第2クラス又はそれ以外のクラスに分類する際のしきい値は、画像を第1クラスと第2クラスとの間にある中間クラスに分類するときのしきい値と比較して、容易に設定することができる。そして、このような第1分類器の分類結果及び第2分類器の分類結果に基づいて、画像を中間クラスに分類可能であることを、本発明の発明者は見出した。よって、ステップS201の分類結果とステップS202の分類結果とに基づいて、検査画像21は第1クラスと第2クラスとの間の中間クラスであるか否かを判定することにより、検査画像21の中間クラスへの過多分類及び過少分類することができる。
以上説明した各実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。各実施形態が備える各要素並びにその配置、材料、条件、形状及びサイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、異なる実施形態で示した構成同士を部分的に置換し又は組み合わせることが可能である。
(附記)
1.検査画像21を第1クラス又はそれ以外のクラスに分類する第1分類器31aであって、第1クラスに分類される画像には該第1クラスの可能性のあるものが含まれる、第1分類器31aと、
検査画像21を第2クラス又はそれ以外のクラスに分類する第2分類器31bであって、第2クラスに分類される画像には該第2クラスの可能性のあるものが含まれる、第2分類器31bと、
第1分類器31aの分類結果CR1と第2分類器31bの分類結果CR2とに基づいて、検査画像21が第1クラスと第2クラスとの間の中間クラスであるか否かを判定する判定部32と、を備える、
画像分類装置50。
9.第1分類器31aが検査画像21を第1クラス又はそれ以外のクラスに分類する第1分類ステップであって、第1クラスに分類される画像には該第1クラスの可能性のあるものが含まれる、第1分類ステップと、
第2分類器31bが検査画像21を第2クラス又はそれ以外のクラスに分類する第2分類ステップであって、第2クラスに分類される画像には該第2クラスの可能性のあるものが含まれる、第2分類ステップと、
判定部32が、第1分類ステップの分類結果と第2分類ステップの分類結果とに基づいて、検査画像21は第1クラスと第2クラスとの間の中間クラスであるか否かを判定する判定ステップと、を含む、
画像分類方法。
10…入出力I/F、20…記憶部、21…検査画像、30…制御部、31,31A…分類部、31a…第1分類器、31b…第2分類器、31c…第3分類器、31x…第m分類器、32,32A…判定部、40…バス、50,50A…画像分類装置、60…撮像装置、70…入力装置、80…出力装置、90…ライン装置、100,100A…画像検査装置、CL1…第1クラス、CL2…第2クラス、CL3…第3クラス、CR1,CR2,CR3,CRm…分類結果、IC…中間クラス、LA1…第1ラベル、LA2…第2ラベル、LG…学習画像、NW1…第1ニューラルネットワーク、NW2…第2ニューラルネットワーク、RE…結果、S200…画像検査処理。

Claims (14)

  1. 画像を第1クラス又はそれ以外のクラスに分類する第1分類器であって、前記第1クラスに分類される画像には該第1クラスの可能性のあるものが含まれる、第1分類器と、
    前記画像を第2クラス又はそれ以外のクラスに分類する第2分類器であって、前記第2クラスに分類される画像には該第2クラスの可能性のあるものが含まれる、第2分類器と、
    前記第1分類器の分類結果と前記第2分類器の分類結果とに基づいて、前記画像が前記第1クラスと前記第2クラスとの間の中間クラスであるか否かを判定する判定部と、を備え、
    前記判定部は、前記画像が、前記第1分類器によってそれ以外のクラスに分類され、前記第2分類器によってそれ以外のクラスに分類されたときに、該画像を分類不能であると判定する、
    画像分類装置。
  2. 前記判定部は、前記画像が、前記第1分類器によって前記第1クラスに分類され、前記第2分類器によって前記第2クラスに分類されたときに、該画像を前記中間クラスであると判定する、
    請求項1に記載の画像分類装置。
  3. 前記判定部は、前記画像が、前記第1分類器によって前記第1クラスに分類され、前記第2分類器によってそれ以外のクラスに分類されたときに、該画像を前記第1クラスであると判定する、
    請求項1又は2に記載の画像分類装置。
  4. 前記判定部は、前記画像が、前記第1分類器によってそれ以外のクラスに分類され、前記第2分類器によって前記第2クラスに分類されたときに、該画像を前記第2クラスであると判定する、
    請求項1から3のいずれか一項に記載の画像分類装置。
  5. 前記第1分類器及び前記第2分類器は、それぞれ2クラス分類器である、
    請求項1から4のいずれか一項に記載の画像分類装置。
  6. 前記画像を第3クラス又はそれ以外のクラスに分類する第3分類器であって、前記第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれる、第3分類器をさらに備え、
    前記判定部は、前記第1分類器の分類結果と前記第2分類器の分類結果と前記第3分類器の分類結果とに基づいて、前記画像が前記第1クラス、前記第2クラス、及び前記第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定する、
    請求項1から5のいずれか一項に記載の画像分類装置。
  7. 第3分類器から第m(mは4以上の整数)分類器までのそれぞれをさらに備え、
    前記第3分類器は前記画像を第3クラス又はそれ以外のクラスに分類し、前記第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれ、
    前記第m分類器は前記画像を第mクラス又はそれ以外のクラスに分類し、前記第mクラスに分類される画像には該第mクラスの可能性のあるものが含まれ、
    前記判定部は、前記第1分類器の分類結果から前記第m分類器の分類結果までに基づいて、前記画像が前記第1クラスから前記第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定する、
    請求項1から5のいずれか一項に記載の画像分類装置。
  8. 請求項1から7のいずれか一項に記載の画像分類装置を備え、
    前記画像分類装置を用いて検査対象物の前記画像を検査する、
    画像検査装置。
  9. 第1分類器が画像を第1クラス又はそれ以外のクラスに分類する第1分類ステップであって、前記第1クラスに分類される画像には該第1クラスの可能性のあるものが含まれる、第1分類ステップと、
    第2分類器が前記画像を第2クラス又はそれ以外のクラスに分類する第2分類ステップであって、前記第2クラスに分類される画像には該第2クラスの可能性のあるものが含まれる、第2分類ステップと、
    判定部が、前記第1分類ステップの分類結果と前記第2分類ステップの分類結果とに基づいて、前記画像は前記第1クラスと前記第2クラスとの間の中間クラスであるか否かを判定する判定ステップと、を含
    前記判定ステップは、前記画像が、前記第1分類ステップにおいてそれ以外のクラスに分類され、前記第2分類ステップにおいてそれ以外のクラスに分類されたときに、前記判定部が該画像を分類不能であると判定することを含む、
    画像分類方法。
  10. 前記判定ステップは、前記画像が、前記第1分類ステップにおいて前記第1クラスに分類され、前記第2分類ステップにおいて前記第2クラスに分類されたときに、前記判定部が該画像を前記中間クラスであると判定することを含む、
    請求項9に記載の画像分類方法。
  11. 前記判定ステップは、前記画像が、前記第1分類ステップにおいて前記第1クラスに分類され、前記第2分類ステップにおいてそれ以外のクラスに分類されたときに、前記判定部が該画像を前記第1クラスであると判定することを含む、
    請求項9又は10に記載の画像分類方法。
  12. 前記判定ステップは、前記画像が、前記第1分類ステップにおいてそれ以外のクラスに分類され、前記第2分類ステップにおいて前記第2クラスに分類されたときに、前記判定部が該画像を前記第2クラスであると判定することを含む、
    請求項9から11のいずれか一項に記載の画像分類方法。
  13. 第3分類器が前記画像を第3クラス又はそれ以外のクラスに分類する第3分類ステップであって、前記第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれる、第3分類ステップをさらに含み、
    前記判定ステップは、前記判定部が、前記第1分類ステップの分類結果と前記第2分類ステップの分類結果と前記第3分類ステップの分類結果とに基づいて、前記画像は前記第1クラス、前記第2クラス、及び前記第3クラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することを含む、
    請求項9から12のいずれか一項に記載の画像分類方法。
  14. 第3分類ステップから第m(mは4以上の整数)分類ステップまでのそれぞれをさらに含み、
    前記第3分類ステップは、第3分類器が前記画像を第3クラス又はそれ以外のクラスに分類することを含み、前記第3クラスに分類される画像には該第3クラスの可能性のあるものが含まれ、
    前記第m分類ステップは、第m分類器が前記画像を第mクラス又はそれ以外のクラスに分類することを含み、前記第mクラスに分類される画像には該第mクラスの可能性のあるものが含まれ、
    前記判定ステップは、前記判定部が、前記第1分類ステップの分類結果から前記第m分類ステップの分類結果までに基づいて、前記画像は前記第1クラスから前記第mクラスのうちの少なくとも2つの間の中間クラスであるか否かを判定することを含む、
    請求項9から12のいずれか一項に記載の画像分類方法。
JP2018203838A 2018-10-30 2018-10-30 画像分類装置、画像検査装置、及び画像分類方法 Active JP7070334B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018203838A JP7070334B2 (ja) 2018-10-30 2018-10-30 画像分類装置、画像検査装置、及び画像分類方法
PCT/JP2019/037441 WO2020090290A1 (ja) 2018-10-30 2019-09-25 画像分類装置、画像検査装置、及び画像分類方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018203838A JP7070334B2 (ja) 2018-10-30 2018-10-30 画像分類装置、画像検査装置、及び画像分類方法

Publications (2)

Publication Number Publication Date
JP2020071582A JP2020071582A (ja) 2020-05-07
JP7070334B2 true JP7070334B2 (ja) 2022-05-18

Family

ID=70463937

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018203838A Active JP7070334B2 (ja) 2018-10-30 2018-10-30 画像分類装置、画像検査装置、及び画像分類方法

Country Status (2)

Country Link
JP (1) JP7070334B2 (ja)
WO (1) WO2020090290A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023095416A1 (ja) * 2021-11-25 2023-06-01 株式会社ジャパンディスプレイ 表示装置の検査方法及び情報処理装置
WO2023176058A1 (ja) * 2022-03-16 2023-09-21 株式会社フジクラ 検査装置、検査方法、及び検査プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006331306A (ja) 2005-05-30 2006-12-07 Sony Corp 画像処理装置、画像処理方法および画像処理プログラム
WO2008059624A1 (fr) 2006-11-13 2008-05-22 Fujitsu Limited Procédé, programme et dispositif de réalisation d'un modèle de classification/prévision à deux classes
JP2008187328A (ja) 2007-01-29 2008-08-14 Sony Corp ネットワーク機器、ネットワークシステムおよび監視カメラシステム
JP2017107313A (ja) 2015-12-08 2017-06-15 株式会社Screenホールディングス 教師データ作成支援方法、画像分類方法、教師データ作成支援装置および画像分類装置
JP2017162232A (ja) 2016-03-10 2017-09-14 株式会社Screenホールディングス 教師データ作成支援装置、画像分類装置、教師データ作成支援方法および画像分類方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006331306A (ja) 2005-05-30 2006-12-07 Sony Corp 画像処理装置、画像処理方法および画像処理プログラム
WO2008059624A1 (fr) 2006-11-13 2008-05-22 Fujitsu Limited Procédé, programme et dispositif de réalisation d'un modèle de classification/prévision à deux classes
JP2008187328A (ja) 2007-01-29 2008-08-14 Sony Corp ネットワーク機器、ネットワークシステムおよび監視カメラシステム
JP2017107313A (ja) 2015-12-08 2017-06-15 株式会社Screenホールディングス 教師データ作成支援方法、画像分類方法、教師データ作成支援装置および画像分類装置
JP2017162232A (ja) 2016-03-10 2017-09-14 株式会社Screenホールディングス 教師データ作成支援装置、画像分類装置、教師データ作成支援方法および画像分類方法

Also Published As

Publication number Publication date
JP2020071582A (ja) 2020-05-07
WO2020090290A1 (ja) 2020-05-07

Similar Documents

Publication Publication Date Title
JP7087397B2 (ja) 基板の欠陥検査装置、基板の欠陥検査方法及び記憶媒体
US10885626B2 (en) Identifying apparatus, identifying method, and program
JP6992475B2 (ja) 情報処理装置、識別システム、設定方法及びプログラム
TWI787296B (zh) 光學檢測方法、光學檢測裝置及光學檢測系統
US11783469B2 (en) Method and system for scanning wafer
JP2018005640A (ja) 分類器生成装置、画像検査装置、及び、プログラム
JP2018005639A (ja) 画像分類装置、画像検査装置、及び、プログラム
JP2017211259A (ja) 検査装置、検査方法、及びプログラム
JP6584250B2 (ja) 画像分類方法、分類器の構成方法および画像分類装置
JP7054436B2 (ja) 検出システム、情報処理装置、評価方法及びプログラム
JP7070334B2 (ja) 画像分類装置、画像検査装置、及び画像分類方法
JP2015038441A (ja) 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム
JP2016181098A (ja) 領域検出装置および領域検出方法
US20220245780A1 (en) Inspection method and system
CN111191670A (zh) 基于神经网络的分类装置及分类方法
US8606017B1 (en) Method for inspecting localized image and system thereof
JP7118365B2 (ja) 画像検査装置
US20240112325A1 (en) Automatic Optical Inspection Using Hybrid Imaging System
JP2021056004A (ja) 画像判定装置及び画像判定方法
TW202018600A (zh) 基於神經網路的分類裝置及分類方法
TWI727595B (zh) 基於神經網路的分類裝置及分類方法
JP2023007260A (ja) 計算機及び外観検査方法
JP2022156999A (ja) 検査方法、検査装置
CN114113101A (zh) 异常判定模型生成方法和异常判定模型生成装置以及检查装置
JP2013160664A (ja) 半導体装置の製造方法、及び、検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220418

R150 Certificate of patent or registration of utility model

Ref document number: 7070334

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150