JP2020125918A - 画像検査装置 - Google Patents

画像検査装置 Download PDF

Info

Publication number
JP2020125918A
JP2020125918A JP2019017148A JP2019017148A JP2020125918A JP 2020125918 A JP2020125918 A JP 2020125918A JP 2019017148 A JP2019017148 A JP 2019017148A JP 2019017148 A JP2019017148 A JP 2019017148A JP 2020125918 A JP2020125918 A JP 2020125918A
Authority
JP
Japan
Prior art keywords
image
defective
defective product
unit
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019017148A
Other languages
English (en)
Other versions
JP7287791B2 (ja
Inventor
大輔 木田
Daisuke Kida
大輔 木田
宣之 栗原
Noriyuki Kurihara
宣之 栗原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2019017148A priority Critical patent/JP7287791B2/ja
Publication of JP2020125918A publication Critical patent/JP2020125918A/ja
Application granted granted Critical
Publication of JP7287791B2 publication Critical patent/JP7287791B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】使用者への負担を少なくしながら検査対象物の良否判定の精度を高めることができるようにするとともに、その識別結果を使用者による判別の感覚に近づける。
【解決手段】画像検査装置1は、識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を拡張する操作を受け付ける操作受付部23と、受け付けられた操作の結果、新たに良品画像として判定される画像を生成する画像生成部24と、生成された画像を表示可能な表示部とを備え、画像生成部24により生成された画像を機械学習器に入力することにより、識別器を更新する。
【選択図】図3

Description

本発明は、検査対象物を撮像した画像に基づいて検査対象物の良否判定を行う画像検査装置に関し、特に、機械学習器を利用する構造の技術分野に属する。
従来より、画像検査装置は、検査に用いる色やエッジなどの特徴量と、良否判定用の閾値とを使用者が設定し、検査対象物を撮像した画像の中から特徴量を抽出し、抽出された特徴量と閾値とを比較することによって検査対象物の良否判定を行うように構成されている(例えば特許文献1参照)。色やエッジなどの特徴量がはっきりしている画像に対しては良否判定が容易であるが、色ムラが多い検査対象物や、金属部品のようにエッジの出方が変わりやすい検査対象物は特徴量が撮像条件などによって変化しやすく、人間の目による検査では良否判定が容易であっても、画像検査装置では判定が難しく、ひいては、判定結果が安定しないことがある。
これに対し、良品が撮像された良品画像と不良品が撮像された不良品画像の特徴をそれぞれニューラルネットワークなどの公知の機械学習器に学習させ、新たに入力された検査対象物の画像が良品であるか、不良品であるかを機械学習器によって識別する技術が知られている(例えば特許文献2参照)。
特開2013−120550号公報 特開2018−5640号公報
ところで、特許文献2の装置のように機械学習器を用いることにより、使用者は検査に用いる特徴量や閾値を設定する必要が無くなり、良品と不良品を識別するために有効な特徴量及び閾値を装置の内部で自動的に選択、生成することが可能になる。
しかしながら、機械学習も人間の学習と同様、事前に経験・知識が無ければ正しく識別することができない。機械学習による識別精度は、適切な良品画像及び不良品画像を学習しているか否かに依存するが、適切な画像を事前に用意するのは使用者にとって煩雑な作業である。
そこで、良品画像及び不良品画像を機械が自動生成することが考えられるが、この段階は、良品と不良品の識別を行わせる前の段階、即ち機械学習器が識別器を生成する前の段階であることから良品と不良品の識別自体が難しく、したがって、良品画像及び不良品画像を機械に自動生成させるのは容易なことではない。また、機械学習器は使用者にとって複雑で理解が難しい面があり、機械学習器の内部処理を調整する作業を使用者に強いることは現実的ではないし、機械学習器による識別結果を使用者による判別の感覚と一致させることは容易なことではない。
本発明は、かかる点に鑑みてなされたものであり、その目的とするところは、使用者への負担を少なくしながら検査対象物の良否判定の精度を高めることができるようにするとともに、その識別結果を使用者による判別の感覚に近づけることにある。
上記目的を達成するために、第1の発明は、検査対象物を撮像して得られた画像に基づいて検査対象物の良否判定を行う画像検査装置において、使用者により良品としての属性を付与された良品画像と、不良品としての属性を付与された不良品画像とを入力可能な画像入力部と、前記画像入力部により入力された良品画像と不良品画像を、複数層で構成された機械学習器に入力し、良品画像と不良品画像を識別する識別器を生成する識別器生成部と、前記識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を拡張する操作を受け付ける操作受付部と、前記操作受付部により受け付けられた操作の結果、新たに良品画像として判定される画像を生成する画像生成部と、前記画像生成部により生成された画像を表示可能な表示部とを備え、前記識別器生成部は、前記画像生成部により生成された画像を前記機械学習器に入力することにより、前記識別器を更新するように構成されていることを特徴とする。
この構成によれば、画像入力部により入力された良品画像と不良品画像は、機械学習器に入力されて機械学習され、その結果、良品画像と不良品画像を識別する識別器が識別器生成部により生成される。識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を使用者が拡張する操作を行うと、新たに良品画像として判定される画像が画像生成部により自動的に生成されるので、使用者は良品範囲を拡張するための良品画像を新たに準備する必要はなく、使用者への負担が少なくなる。また、画像生成部により生成された新たな良品画像は、表示部に表示されるので、使用者が当該新たな良品画像を視認することができる。よって、装置による識別結果と、使用者による判別の感覚とを近づけることが可能になる。
また、画像生成部により生成された新たな良品画像は機械学習器に入力されるので、当該新たな良品画像に基づいて識別器が更新される。これにより、良品画像と不良品画像の識別精度が高まる。
第2の発明は、前記識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を前記表示部に表示可能に構成されていることを特徴とする。
この構成によれば、良品画像と不良品画像の識別に寄与している特徴量の良品範囲が表示部に表示されるので、使用者が良品範囲を容易に確認することができる。また、良品範囲を拡張する際には、表示部に表示されている良品範囲を見ながら行うことができるので、操作性が良好になる。
第3の発明は、前記識別器による良品画像と不良品画像の識別に寄与する可能性のある複数種の特徴量が予め定義され、予め定義された複数種の特徴量の中から、前記識別器による良品画像と不良品画像の識別に寄与している上位の特徴量を自動的に抽出する特徴量抽出部を備え、前記操作受付部は、前記特徴量抽出部により抽出された上位の特徴量の良品範囲を拡張する操作を受け付けるように構成されていることを特徴とする。
この構成によれば、良品画像と不良品画像の識別に寄与している上位の特徴量の良品範囲を拡張する操作を行うことができる。これにより、寄与度合いの低い特徴量が操作されなくなるので、識別器の更新が確実に行われるようになり、良品画像と不良品画像の識別精度がより一層高まる。尚、「上位」とは最上位、即ち1位でなくてもよく、例えば2位や3位の特徴量であってもよい。
第4の発明は、前記予め定義された特徴量には、明るさ、角度、色の少なくとも1つが含まれていることを特徴とする。
すなわち、識別器による良品画像と不良品画像の識別に当たっては、画像の明るさ、画像における検査対象物の角度、画像における検査対象物の色が寄与度合いの大きな特徴量となる場合が多く、これら特徴量を予め定義しておくことで、上位の特徴量の抽出が容易に行えるようになる。予め定義された特徴量は、1つであってもよいし、2つ以上であってもよい。予め定義された特徴量に順位を付与しておくこともできる。
第5の発明は、前記特徴量抽出部は、良品画像と不良品画像に複数種のフィルタ処理を行うように構成され、フィルタ処理後の画像に基づいて上位の特徴量を抽出するように構成されていることを特徴とする。
この構成によれば、複数種のフィルタ処理を行い、フィルタ処理後の画像に基づいて特徴量を抽出することで、上位の特徴量の抽出が容易に行えるようになる。
第6の発明は、前記識別器による良品画像と不良品画像の識別に寄与している特徴量の不良品範囲を前記表示部に表示可能に構成されていることを特徴とする。
この構成によれば、良品画像と不良品画像の識別に寄与している特徴量の不良品範囲が表示部に表示されるので、使用者が不良品範囲を容易に確認することができる。
第7の発明は、前記表示部には、前記識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲または不良品範囲の少なくとも一方が数値またはバー形式で表示され、前記操作受付部は、良品範囲または不良品範囲の調整を受け付けるように構成されていることを特徴とする。
この構成によれば、良品範囲または不良品範囲が分かり易く表示されるので、良品範囲または不良品範囲の調整作業が容易に行えるようになる。
第8の発明は、前記画像生成部は、良品範囲または不良品範囲の境界近傍に位置する境界近傍画像を生成するように構成され、前記表示部は、前記画像生成部により生成された境界近傍画像を表示するように構成されていることを特徴とする。
この構成によれば、良品範囲または不良品範囲の境界近傍に位置する画像が表示部に表示されるので、使用者が良品範囲または不良品範囲を視覚で容易に把握することができる。
第9の発明は、前記画像生成部は、前記識別器による良品画像と不良品画像の識別に寄与している特徴量が明るさである場合に、予め入力されている画像の明るさを変更することにより、新たに良品画像として判定される画像を生成するように構成されていることを特徴とする。
すなわち、良品画像と不良品画像の識別に寄与している特徴量が明るさである場合には、操作受付部による特徴量の良品範囲を拡張する操作は、明るさを変更する操作に相当することになる。操作受付部による特徴量の良品範囲を拡張する操作が行われると、画像生成部は、予め入力されている画像の明るさを変更することにより、新たに良品画像として判定される画像を自動的に生成することができる。
第10の発明は、検査対象物を照明する照明部と、前記照明部により照明された検査対象物を撮像することにより、良品画像と不良品画像を取得する撮像部を備え、前記画像生成部は、前記識別器による良品画像と不良品画像の識別に寄与している特徴量が明るさである場合に、前記照明部による照明の明るさを変更して前記撮像部により撮像することにより、新たに良品画像として判定される画像を生成するように構成されていることを特徴とする。
この構成によれば、操作受付部による特徴量の良品範囲を拡張する操作が行われると、画像生成部は、照明部による照明の明るさを変更して撮像部により撮像することで、新たに良品画像として判定される画像を自動的に生成することができる。
また、照明部の明るさを変更することなく、撮像部の露光時間を変更することによって明るさの異なる画像を自動生成することもできる。
第11の発明は、前記識別器生成部は、学習済みの前記機械学習器に良品画像と不良品画像を入力するように構成されていることを特徴とする。
この構成によれば、機械学習器を学習させるための処理が使用者側で不要になるので、例えばGPUなどの大規模処理装置を使用者が用意せずに済み、画像検査装置の導入が容易になる。
本発明によれば、良品画像と不良品画像を機械学習器に入力して識別器を生成する場合に、識別に寄与している特徴量の良品範囲を拡張する操作を受け付け、その結果、新たに良品画像として判定される画像を生成し、その生成された画像を表示部するとともに、機械学習器に入力して識別器を更新するようにしたので、使用者への負担を少なくしながら検査対象物の良否判定の精度を高めることができるとともに、その識別結果を使用者による判別の感覚に近づけることができる。
本発明の実施形態に係る画像検査装置の構成を示す模式図である。 画像検査装置のハードウエア構成を示す図である。 画像検査装置のブロック図である。 画像検査装置の設定モード時のフローチャートである。 設定モード時の初期画面を示す図である。 撮像設定時に表示されるユーザーインターフェースを示す図である。 マスター画像登録用ユーザーインターフェースを示す図である。 マスター画像の選択時に表示される画面を示す図である。 学習設定ユーザーインターフェースを示す図である。 良品画像入力ステップ時に表示される画面を示す図である。 不良品画像入力ステップ時に表示される画面を示す図である。 範囲調整用ユーザーインターフェースを示す図である。 図13Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図13Bは、良品画像が追加されて識別境界が修正された特徴量空間を模式的に示す図である。 画像検査装置の運転モード時のフローチャートである。 検査対象画像が良品画像である場合のユーザーインターフェースを示す図である。 検査対象画像が不良品画像である場合のユーザーインターフェースを示す図である。 追加画像を入力する場合のユーザーインターフェースを示す図である。 使用者が不良品及び良品の一方を選択する場合のユーザーインターフェースを示す図である。 識別器生成部及び通知手段による具体的な制御内容を示すフローチャートである。 図20Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図20Bは、新品種の良品画像が追加されて識別境界が修正された特徴量空間を模式的に示す図である。 新品種の良品画像が追加された場合の処理の流れを説明する図19相当図である。 新品種の良品画像が更に追加されて識別境界が修正された特徴量空間を模式的に示す図である。 新品種の良品画像が更に追加された場合の処理の流れを説明する図19相当図である。 図24Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図24Bは、既存品種が誤登録された場合の特徴量空間を模式的に示す図である。 既存品種が誤登録された場合の処理の流れを説明する図19相当図である。 図26Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図26Bは、不良品の新品種が良品として誤登録された場合の特徴量空間を模式的に示す図であり、図26Cは、不良品の新品種が複数良品として誤登録された場合の特徴量空間を模式的に示す図である。 不良品の新品種が良品として誤登録された場合の処理の流れを説明する図19相当図である。 不安定画像があるか否かの判定手順を示すフローチャートである。 不安定画像があるか否かを判定する場合の特徴量空間を模式的に示す図である。 特徴量空間上にプロットした追加画像と識別境界との距離の算出方法を示す図である。 学習枚数と学習効果との関係を示すグラフである。 自動ウインドウ設定機能の処理手順を示すフローチャートである。 単領域に検査ウインドウを自動的に設定する手順を説明する図である。 複数領域に検査ウインドウを自動的に設定する手順を示すフローチャートである。 複数領域に検査ウインドウを自動的に設定する手順を説明する図である。 複数領域を重ね合わせてから検査ウインドウを自動的に設定する手順を示すフローチャートである。 複数領域を重ね合わせてから検査ウインドウを自動的に設定する手順を説明する図である。 位置補正処理を行う場合の手順を示すフローチャートである。 位置補正処理を行う場合の手順を説明する図である。
以下、本発明の実施形態を図面に基づいて詳細に説明する。尚、以下の好ましい実施形態の説明は、本質的に例示に過ぎず、本発明、その適用物或いはその用途を制限することを意図するものではない。
図1は、本発明の実施形態に係る画像検査装置1の構成を示す模式図である。画像検査装置1は、例えば各種部品や製品等の検査対象物を撮像した画像に基づいて検査対象物の良否判定を行うための装置であり、工場等の生産現場等で使用することができる。検査対象物は、それ全体が検査対象であってもよいし、一部のみが検査対象であってもよい。また、1つの検査対象物に複数の検査対象が含まれていてもよい。また、画像には、複数の検査対象物が含まれていてもよい。
画像検査装置1は、装置本体となる制御ユニット2と、撮像ユニット3と、表示装置(表示部)4と、パーソナルコンピュータ5とを備えている。パーソナルコンピュータ5は、必須なものではなく、省略することもできる。表示装置4の代わりにパーソナルコンピュータ(表示部)5を使用することもできる。図1では、画像検査装置1の構成例の一例として、制御ユニット2、撮像ユニット3、表示装置4及びパーソナルコンピュータ5を別々のものとして記載しているが、これらのうち、任意の複数を組み合わせて一体化することもできる。例えば、制御ユニット2と撮像ユニット3を一体化することや、制御ユニット2と表示装置4を一体化することもできる。また、制御ユニット2を複数のユニットに分割して一部を撮像ユニット3や表示装置4に組み込むことや、撮像ユニット3を複数のユニットに分割して一部を他のユニットに組み込むこともできる。
(撮像ユニット3の構成)
図2に示すように、撮像ユニット3は、カメラモジュール(撮像部)14と、照明モジュール(照明部)15とを備えている。カメラモジュール14は、撮像光学系を駆動するAF用モータ141と、撮像基板142とを備えている。AF用モータ141は、撮像光学系のレンズを駆動することにより、自動でピント調整を実行する部分であり、従来から周知のコントラストオートフォーカス等の手法によってピント調整を行うことができる。撮像基板142は、撮像光学系から入射した光を受光する受光素子としてCMOSセンサ143と、FPGA144と、DSP145とを備えている。CMOSセンサ143は、カラー画像を取得することができるように構成された撮像センサである。CMOSセンサ143の代わりに、例えばCCDセンサ等の受光素子を用いることもできる。FPGA144及びDSP145は、撮像ユニット3の内部において画像処理を実行するためのものであり、CMOSセンサ143から出力された信号はFPGA144及びDSP145にも入力されるようになっている。
照明モジュール15は、検査対象物を含む撮像領域を照明する発光体としてのLED(発光ダイオード)151と、LED151を制御するLEDドライバ152とを備えている。LED151による発光タイミング、発光時間、発光量は、LEDドライバ152によって任意に設定することができる。LED151は、撮像ユニット3に一体に設けてもよいし、撮像ユニット3とは別体として外部照明ユニットとして設けてもよい。図示しないが、照明モジュール15には、LED151から照射された光を反射するリフレクターや、LED151から照射された光が通過するレンズ等が設けられている。LED151から照射された光が検査対象物と、検査対象物の周辺領域に照射されるように、LED151の照射範囲が設定されている。発光ダイオード以外の発光体を使用することもできる。
(制御ユニット2の構成)
制御ユニット2は、メイン基板13と、コネクタ基板16と、通信基盤17と、電源基板18とを備えている。メイン基板13には、FPGA131と、DSP132と、メモリ133とが搭載されている。FPGA131とDSP132は制御部13Aを構成するものであり、これらが一体化された主制御部を設けることもできる。
メイン基板13の制御部13Aは、接続されている各基板及びモジュールの動作を制御する。例えば、制御部13Aは、照明モジュール15のLEDドライバ152に対してLED151の点灯/消灯を制御する照明制御信号を出力する。LEDドライバ152は、制御部13Aからの照明制御信号に応じて、LED151の点灯/消灯の切替及び点灯時間の調整を行うとともに、LED151の光量等を調整する。
また、制御部13Aは、カメラモジュール14の撮像基板142に、CMOSセンサ143を制御する撮像制御信号を出力する。CMOSセンサ143は、制御部13Aからの撮像制御信号に応じて、撮像を開始するとともに、露光時間を任意の時間に調整して撮像を行う。すなわち、撮像ユニット3は、制御部13Aから出力される撮像制御信号に応じてCMOSセンサ143の視野範囲内を撮像し、視野範囲内に検査対象物があれば、検査対象物を撮像することになるが、検査対象物以外の物が視野範囲内にあれば、それも撮像することができる。例えば、画像検査装置1の設定時には、使用者により良品としての属性を付与された良品画像と、不良品としての属性を付与された不良品画像とを撮像することができる。画像検査装置1の運用時には、検査対象物を撮像することができる。また、CMOSセンサ143は、ライブ画像、即ち現在の撮像された画像を短いフレームレートで随時出力することができるように構成されている。
CMOSセンサ143による撮像が終わると、撮像ユニット3から出力された画像信号は、メイン基板13のFPGA131に入力され、FPGA131及びDSP132によって処理されるとともに、メモリ133に記憶されるようになっている。メイン基板13の制御部13Aによる具体的な処理内容の詳細については後述する。
コネクタ基板16は、電源インターフェース161に設けてある電源コネクタ(図示せず)を介して外部から電力の供給を受ける部分である。電源基板18は、コネクタ基板16で受けた電力を各基板及びモジュール等に分配する部分であり、具体的には、照明モジュール15、カメラモジュール14、メイン基板13、及び通信基板17に電力を分配する。電源基板18は、AF用モータドライバ181を備えている。AF用モータドライバ181は、カメラモジュール14のAF用モータ141に駆動電力を供給し、オートフォーカスを実現している。AF用モータドライバ181は、メイン基板13の制御部13AからのAF制御信号に応じて、AF用モータ141に供給する電力を調整する。
通信基板17は、メイン基板13の制御部13Aから出力された検査対象物の良否判定信号、画像データ、ユーザーインターフェース等を表示装置4やパーソナルコンピュータ5、外部制御機器(図示せず)等に出力する。表示装置4やパーソナルコンピュータ5は、例えば液晶パネル等からなる表示パネルを有しており、画像データやユーザーインターフェース等は表示パネルに表示される。
また、通信基板17は、表示装置4が有するタッチパネル41やパーソナルコンピュータ5のキーボード51等から入力された使用者の各種操作を受け付けることができるように構成されている。表示装置4のタッチパネル41は、例えば感圧センサを搭載した従来から周知のタッチ式操作パネルであり、使用者によるタッチ操作を検出して通信基板17へ出力する。パーソナルコンピュータ5は、キーボード51の他に、図示しないがマウスやタッチパネルを備えており、これら操作デバイスから入力された使用者の各種操作を受け付けることができるように構成されている。通信は、有線であってもよいし、無線であってもよく、いずれの通信形態も、従来から周知の通信モジュールによって実現することができる。
制御ユニット2には、例えばハードディスクドライブ等の記憶装置19が設けられている。記憶装置19には、後述する各制御及び処理を上記ハードウエアによって実行可能にするためのプログラムファイル80や設定ファイル等(ソフトウエア)が記憶されている。プログラムファイル80や設定ファイルは、例えば光ディスク等の記憶媒体90に格納しておき、この記憶媒体90に格納されたプログラムファイル80や設定ファイルを制御ユニット2にインストールすることができる。また、記憶装置19には、上記画像データや良否判定結果等を記憶させておくこともできる。
(画像検査装置1の具体的な構成)
図3は、画像検査装置1のブロック図であり、プログラムファイル80や設定ファイルがインストールされた制御ユニット2により、図3に示す各部及び手段が構成される。すなわち、画像検査装置1は、画像入力部21と、識別器生成部22と、操作受付部23と、画像生成部24と、特徴量抽出部25と、通知手段26と、選択手段27と、第1ウインドウ設定部28と、第2ウインドウ設定部29と、良否判定部30とを備えている。これら各部及び手段は、ハードウエアのみで構成されていてもよいし、ハードウエアとソフトウエアとの組み合わせによって構成されていてもよい。また、図3に示す各部及び手段は、それぞれが独立したものであってもよいし、1つのハードウエアまたはソフトウエアによって複数の機能が実現されるように構成されたものであってもよい。また、図3に示す各部及び手段の機能は、メイン基板13の制御部13Aによる制御で実現することもできる。
また、画像検査装置1は、撮像設定等の各種パラメータ設定、マスター画像の登録、良品画像と不良品画像とを内部で識別できるようにする識別器の生成等を行う設定モードと、実際の現場において検査対象物を撮像した画像に基づいて検査対象物の良否判定を行う運転モード(Runモード)とに切り替えられるようになっている。設定モードでは、使用者が所望の製品検査で良品と不良品とを分けることができるようにするための事前の作業を行う。設定モードと運転モードとの切替は、図示しないユーザーインターフェース上で行うことができる他、設定モードの完了と同時に運転モードに自動で移行するように構成することもできる。運転モードにおいて、識別器による識別境界の修正や変更を行うこともできる。
(画像検査装置1の設定モード時の制御)
図4は、画像検査装置の設定モード時のフローチャートである。スタート時には、図5に示すような設定モードユーザーインターフェース40をメイン基板13の制御部13Aが生成し、表示装置4に表示させる。設定モードユーザーインターフェース40には、設定モードにおける作業の流れを示した作業手順表示領域40aと、設定開始ボタン40bと、キャンセルボタン40cとが設けられている。設定開始ボタン40bを押すと、図4のフローチャートに示すように、設定作業を順に行うように使用者を導くナビゲーションが開始される。一方、キャンセルボタン40cを押すと、設定モードが中断される。尚、「ボタンを押す」とは、表示装置4のタッチパネル41による操作、パーソナルコンピュータ5のキーボード51やマウス等による操作によって実行される。以下、ボタン操作については同様である。
図4に示すフローチャートのステップSA1は撮像設定ステップである。撮像設定ステップでは、図6に示す撮像条件設定用ユーザーインターフェース41をメイン基板13の制御部13Aが生成し、表示装置4に表示させる。撮像条件設定用ユーザーインターフェース41には、CMOSセンサ143で撮像された画像を表示する画像表示領域41aと、撮像条件の設定作業の流れを示した設定手順表示領域41bとが設けられている。設定手順表示領域41bには、撮像を開始するトリガとなる条件(トリガ条件)の設定、CMOSセンサ143で撮像された画像の明るさの自動調整、フォーカス調整の順で表示されており、この順序にしたがって設定を行う。トリガ条件の設定は、撮像タイミングの調整も含んでおり、外部から入力されるトリガ信号にしたがって撮像を開始してもよいし、内部で生成するトリガ信号にしたがって撮像を開始してもよい。明るさの自動調整は、検査の精度が高くなるように画像の明るさを自動で調整することであり、LED151の光量で調整するようにしてもよいし、CMOSセンサ143の露光時間で調整するようにしてもよい。明るさの調整手法は、従来から周知の方法を用いることができる。明るさは使用者が手動で調整することもできる。
フォーカス調整は、検査対象物Wにピントが合うようにオートフォーカス機能によって実現することができるが、これに限らず、使用者がマニュアルフォーカスでピント合わせを行うようにしてもよい。撮像条件の設定が終了すると、次のステップへ進むためのボタン41cを押す。これにより、図4に示すフローチャートのステップSA2であるマスター画像登録ステップに進む。
マスター画像とは、画像検査枠、即ち検査ウインドウを設定するための基準となる画像であり、良品の検査対象物Wが含まれる画像である。このマスター画像をマスター画像登録ステップで登録する。マスター画像登録ステップでは、図7に示すマスター画像登録用ユーザーインターフェース42をメイン基板13の制御部13Aが生成し、表示装置4に表示させる。
マスター画像登録用ユーザーインターフェース42には、マスター画像の候補となる画像を表示させるための候補画像表示領域42aが設けられている。図7ではマスター画像が登録されていない状態であり、候補画像表示領域42aには画像が表示されていない。さらに、マスター画像登録用ユーザーインターフェース42には、CMOSセンサ143で撮像されたライブ画像をマスター画像とする際に操作するライブ画像登録ボタン42bと、画像履歴に残っている画像をマスター画像とする際に操作する画像履歴登録ボタン42cと、これまでに記憶された画像をマスター画像とする際に操作するファイル画像登録ボタン42dとが設けられている。
ライブ画像登録ボタン42bを押すと、図8に示すように、CMOSセンサ143で撮像されている現在の画像が候補画像表示領域42aに表示され、候補画像表示領域42aの横に画像登録ボタン42eが表示される。使用者は、候補画像表示領域42aに表示されている画像を見ながら、マスター画像として登録すべき画像が表示された時点で画像登録ボタン42eを押す。すると、画像登録ボタン42eが押されたときに候補画像表示領域42aに表示されていた画像がマスター画像として登録される。マスター画像は、図2に示す記憶装置19に記憶させておくことができる。このようにして複数の画像を記憶させることもできる。
図7に示す画像履歴登録ボタン42cを押すと、過去に撮像された画像が候補画像表示領域42aに表示され、この中から所望の画像をマスター画像として選択し、登録することができる。過去に撮像された画像は自動的に記憶装置19に記憶させるようにしてもよいし、使用者が記憶操作を行うことによって記憶させるようにしてもよい。また、図7に示すファイル画像登録ボタン42dを押すと、記憶装置19に記憶されている画像を読み込み、この中から所望の画像をマスター画像として選択し、登録することができる。マスター画像の登録後、次のステップへ進むためのボタン42f(図7に示す)を押す。
すると、図9に示す学習設定ユーザーインターフェース43をメイン基板13の制御部13Aが生成し、表示装置4に表示させる。学習設定ユーザーインターフェース43には、入力画像表示領域43aが設けられている。第1段階では、入力画像表示領域43aにマスター画像が表示されている。使用者は、入力画像表示領域43aに表示されているマスター画像を見ながら、検査ウインドウ100を設定する。検査ウインドウ100は、マスター画像の検査対象物Wの全体を囲むように設定してもよいし、検査対象物Wの特徴となる一部のみ囲むように設定してもよい。検査ウインドウ100は、例えば矩形状にすることができ、検査ウインドウ100を描こうとする矩形の範囲を想定したとき、その上の角部から斜め下の角部までタッチ操作によってドラッグすることで検査ウインドウ100が入力画像表示領域43aに表示される。検査ウインドウ100は、マスター画像に重畳表示される。検査ウインドウ100の位置や大きさ、形状は修正することができる。後述するように、検査ウインドウ100は自動設定されるように構成することもできる。
また、画像検査装置1が備えているエッジ抽出機能により、図9に示すように検査対象物Wのエッジを抽出して重畳表示するようにしてもよい。
検査ウインドウ100の設定後、図4に示すフローチャートのステップSA3である良品画像入力ステップに進む。良品画像とは、使用者により良品としての属性を付与された画像であり、良品の検査対象物Wを撮像した画像と呼ぶこともできる。この良品画像は、マスター画像とは別に入力する。図9に示すように、学習設定ユーザーインターフェース43には、良品画像入力ボタン43bと、良品画像表示領域43cと、不良品画像入力ボタン43dと、不良品画像表示領域43eとが設けられている。
図10に示すように、使用者が良品の検査対象物WをCMOSセンサ143の視野範囲に置くと、制御部13Aは、CMOSセンサ143に撮像されたライブ画像を学習設定ユーザーインターフェース43の入力画像表示領域43aに表示させる。良品の検査対象物Wが入力画像表示領域43aに表示されている状態で良品画像入力ボタン43bを押すと、その時点で入力画像表示領域43aに表示されている画像、即ち使用者により良品としての属性を付与された良品画像が静止画として良品画像表示領域43cに表示されるとともに、メモリ133や記憶装置19に記憶される。この工程が良品画像入力ステップであり、図3に示す画像入力部21で行われる。良品画像入力ステップでは最低1枚の良品画像を入力するが、複数枚の良品画像を入力するようにしてもよい。複数枚の良品画像を入力する場合、異なる良品を撮像した画像であってもよいし、1つの良品の角度や位置を変えて複数回撮像した画像であってもよい。良品画像の入力枚数は、学習設定ユーザーインターフェース43の入力枚数表示領域43fに表示されるようになっている。複数枚の良品画像により良品画像群が構成される。
また、画像入力部21は、良品画像入力ステップを実現するための部材として、カメラモジュール14、表示装置4、タッチパネル41、学習設定ユーザーインターフェース43を表示させる制御部13A等を含むものであってもよい。
良品画像の入力後、図4に示すフローチャートのステップSA4である不良品画像入力ステップに進む。不良品画像とは、使用者により不良品としての属性を付与された画像であり、不良品の検査対象物Wを撮像した画像と呼ぶこともできる。尚、良品であるのに、使用者が誤って不良品であると認識してしまう場合もあるが、この場合も、使用者により不良品としての属性を付与された画像であるので、本実施形態では不良品画像とする。つまり、不良品画像には、真の不良品を撮像した画像と、良品を撮像した画像との両方が含まれる場合がある。
図11に示すように、使用者が不良品であると認識している検査対象物WをCMOSセンサ143の視野範囲に置くと、制御部13Aは、CMOSセンサ143に撮像されたライブ画像を学習設定ユーザーインターフェース43の入力画像表示領域43aに表示させる。このとき、良品画像表示領域43cには良品画像が常時表示されている。
使用者が不良品であると認識している検査対象物Wが入力画像表示領域43aに表示されている状態で不良品画像入力ボタン43dを押すと、その時点で入力画像表示領域43aに表示されている画像、即ち使用者により不良品としての属性を付与された不良品画像が静止画として不良品画像表示領域43eに表示されるとともに、メモリ133や記憶装置19に記憶される。この工程が不良品画像入力ステップであり、図3に示す画像入力部21で行われる。不良品画像入力ステップでは最低1枚の不良品画像を入力するが、複数枚の不良品画像を入力するようにしてもよい。複数枚の不良品画像を入力する場合、異なる不良品を撮像した画像であってもよいし、1つの不良品の角度や位置を変えて複数回撮像した画像であってもよい。不良品画像の入力枚数は、学習設定ユーザーインターフェース43に表示することができる。複数枚の不良品画像により不良品画像群が構成される。
つまり、画像入力部21は、使用者により良品としての属性を付与された良品画像と、不良品としての属性を付与された不良品画像とを入力可能に構成されるとともに、良品画像群及び不良品画像群も入力可能に構成されている。良品画像及び不良品画像の入力は、画像検査装置1への登録と呼ぶこともできる。
不良品画像の入力後、図4に示すフローチャートのステップSA5である学習ステップに進む。学習ステップは、図3に示す識別器生成部22で行われる。識別器生成部22は、画像入力部21により入力された良品画像と不良品画像を、複数層で構成された機械学習器に入力し、良品画像と不良品画像を識別する識別器を生成する部分である。複数の良品画像からなる良品画像群及び複数の不良品画像からなる不良品画像群を上記機械学習器に入力して同様に識別器を生成することもできる。機械学習器に入力する画像は、検査ウインドウ100内の画像とすることができる。
具体的には、識別器生成部22はニューラルネットワークを有しており、そのニューラルネットワークのパラメータの初期値をランダムに決定しておき、ニューラルネットワークから出力される画像認識の誤差をフィードバックしながらパラメータを調整していく、いわゆるディープラーニングの手法を採用してもよい。パラメータが調整されたニューラルネットワーク、即ち学習済みのニューラルネットワークが使用者に提供される形態であってもよいし、使用者がパラメータを調整する形態であってもよいが、上記良品画像と不良品画像を識別する識別器を生成するステップは、画像検査装置1の設定モード時に行う。
識別器による良品画像と不良品画像の識別に寄与している特徴量は、例えば、明るさ、角度、色等があるが、これら以外の特徴量が良品画像と不良品画像の識別に寄与している場合もあるので、特徴量の種類は特に限定されない。
図3に示すように、画像検査装置1は、識別器生成部22が生成した識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を拡張する操作を受け付ける操作受付部23を有している。操作受付部23は、図12に示すような範囲調整用ユーザーインターフェース45を生成し、表示装置4に表示させる。図12に示す範囲調整用ユーザーインターフェース45では、良品画像と不良品画像の識別に寄与している特徴量として画像の明るさを使用する場合を示しており、最も暗い場合を「0」とし、最も明るい場合を「100」とするが、この値は任意に設定することができる。明るさ0〜100のなかで、良品範囲と不良品範囲とを個別に調整することが可能になっている。すなわち、範囲調整用ユーザーインターフェース45は、横方向に長いバー型表示部45aと、2つの良品範囲設定用目印部45b、45bと、2つの不良品範囲設定用目印部45c、45cとを有している。バー型表示部45aの左端に近づけば近づくほど暗くなり、右端に近づけば近づくほど明るくなる。2つの良品範囲設定用目印部45b、45bは、例えば表示装置4のタッチパネル41の操作によってバー型表示部45aの長手方向にそれぞれ移動させることができ、2つの良品範囲設定用目印部45b、45bの間の明るさ範囲が良品範囲として設定される。2つの良品範囲設定用目印部45b、45bの間を狭めれば良品範囲が狭くなり、2つの良品範囲設定用目印部45b、45bの間を広げれば良品範囲が拡張する。つまり、範囲調整用ユーザーインターフェース45は、特徴量の良品範囲を拡張する操作を受け付けるとともに、狭める操作も受け付けるように構成されている。同様に、2つの不良品範囲設定用目印部45c、45cを操作することで、特徴量の不良品範囲を拡張する操作を受け付けるとともに、狭める操作も受け付けることができる。特徴量の良品範囲及び不良品範囲の設定は、上記バー型表示部45aの他、明るさの値を直接入力する方法であってもよい。
図12に示す範囲調整用ユーザーインターフェース45には、識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲が表示されるようになっており、したがって、識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲は、表示装置4に表示可能に構成されている。これにより、使用者は、特徴量の良品範囲を容易に確認することができる。尚、特徴量の良品範囲は表示装置4に非表示としてもよい。識別器による良品画像と不良品画像の識別に寄与している特徴量の不良品範囲についても同様に、表示装置4に表示可能にしてもよいし、非表示にしてもよい。
図3に示すように、画像検査装置1は、操作受付部23により受け付けられた操作の結果、新たに良品画像として判定される画像(自動生成良品画像)を生成する画像生成部24を有している。識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲が操作受付部23により拡張されると、画像生成部24は拡張後の良品範囲(具体的には明るさ範囲)を読み込み、良品範囲内となる明るさの画像を自動的に生成する。画像生成部24は、例えば、良品範囲内で最も暗い画像と、最も明るい画像を生成することができ、また、良品範囲内の中間の明るさの画像も生成することができる。生成する画像の数は特に限定されるものではなく、1枚であってもよいし、複数枚であってもよい。
画像生成部24は、画像入力部21により予め入力されている良品画像の明るさを画像処理によって変更させることで、自動生成良品画像を得ることができる。この場合、画像生成部24は自動生成良品画像を内部処理で生成することができる。
また、画像生成部24は、CMOSセンサ143の視野範囲にある良品の検査対象物Wを、露光時間を変化させてCMOSセンサ143により複数回撮像して得た画像を自動生成良品画像とすることもできる。露光時間を変化させることなく、照明モジュール15による照明の明るさを変更してCMOSセンサ143により複数回撮像して得た画像を自動生成良品画像とすることもできる。また、CMOSセンサ143の露光時間と、照明モジュール15による照明の明るさの両方を変更してCMOSセンサ143により複数回撮像して得た画像を自動生成良品画像とすることもできる。この場合、画像生成部24は、CMOSセンサ143を制御するとともに、必要に応じて照明モジュール15を制御することで、自動生成良品画像を得る。
画像生成部24が生成した自動生成良品画像は、図12に示す範囲調整用ユーザーインターフェース45に表示することができる。範囲調整用ユーザーインターフェース45には、自動生成良品画像を表示する自動生成良品画像表示領域45d、45dが設けられている。左側の自動生成良品画像表示領域45dには、良品範囲内で最も暗い画像が表示され、右側の自動生成良品画像表示領域45dには、良品範囲内で最も明るい画像が表示される。自動生成良品画像表示領域45dの数は2つに限られるものではなく、1つであってもよいし、3つ以上であってもよく、画像生成部24が生成した自動生成良品画像の数と同じにすることができる。バー型表示部45aの暗い側に、画像生成部24が生成した暗い画像を表示させ、バー型表示部45aの明るい側に、画像生成部24が生成した明るい画像を表示させるのが好ましい。したがって、画像生成部24が生成した自動生成良品画像は表示装置4に表示可能に構成されている。これにより、使用者は、自動生成良品画像を容易に確認することができる。
また、識別器による良品画像と不良品画像の識別に寄与している特徴量の不良品範囲が操作受付部23により拡張された場合、画像生成部24は、不良品範囲(具体的には明るさ範囲)を読み込み、新たに不良品画像として判定される画像(自動生成不良品画像)を生成することもできる。画像生成部24が生成した自動生成不良品画像は、図12に示す範囲調整用ユーザーインターフェース45に表示することができる。範囲調整用ユーザーインターフェース45には、自動生成不良品画像を表示する自動生成不良品画像表示領域45eが設けられている。
また、画像生成部24は、良品範囲または不良品範囲の境界近傍に位置する境界近傍画像を生成することもできる。例えば、良品範囲の境界近傍の明るさの画像を生成し、この画像を図12に示す範囲調整用ユーザーインターフェース45に表示することや、不良品範囲の境界近傍の明るさの画像を生成し、この画像を図12に示す範囲調整用ユーザーインターフェース45に表示することができる。これにより、良品範囲または不良品範囲の境界近傍に位置する画像が表示装置4に表示されることになるので、使用者が良品範囲または不良品範囲を視覚で容易に把握することができる。
画像生成部24により生成された画像は、図3に示す識別器生成部22に入力される。識別器生成部22は、画像生成部24により生成された画像を機械学習器に入力することにより、識別器を更新するように構成されている。つまり、識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を使用者が拡張する操作を行うと、その操作が操作受付部23によって受け付けられ、新たに良品画像として判定される画像が画像生成部24により自動的に生成され、生成された画像が識別器生成部22に入力されるので、使用者は良品範囲を拡張するための良品画像を新たに準備する必要はなく、使用者への負担が少なくなる。また、画像生成部24により生成された新たな良品画像は、表示装置4に表示されるので、使用者が当該新たな良品画像を視認することができる。よって、画像検査装置1による識別結果と、使用者による判別の感覚とを近づけることが可能になる。
図3に示すように、画像検査装置1は、特徴量抽出部25を備えている。特徴量抽出部25では、識別器生成部22で生成される識別器による良品画像と不良品画像の識別に寄与する可能性のある複数種の特徴量が予め定義されている。特徴量抽出部25は、予め定義された複数種の特徴量の中から、識別器による良品画像と不良品画像の識別に寄与している上位の特徴量を自動的に抽出する部分である。
予め定義された特徴量には、明るさ、角度、色の少なくとも1つが含まれている。「明るさ」は、良品画像及び不良品画像の明るさである。「角度」とは、検査対象物WのX軸に対する傾斜角度やY軸に対する傾斜角度で表すことができる。X軸とは、表示装置4の縦方向の軸とすることができ、また、Y軸とは、表示装置4の横方向の軸とすることができる。また、エッジ抽出機能によって良品画像及び不良品画像の検査対象物Wのエッジを抽出する処理を行い、特定のエッジのX軸に対する傾斜角度やY軸に対する傾斜角度を、上記「角度」として用いることもできる。「色」とは、検査対象物Wの色であり、画像処理によって検査対象物Wの色を抽出して特徴量として使用することができる。
複数の特徴量のうち、例えば良品画像及び不良品画像で「色」が同じであれば、「色」は、良品画像と不良品画像の識別に寄与する度合いが低いので、上位の特徴量にはなり得ないようにランク付けすることができる。同様に、良品画像及び不良品画像で検査対象物Wの角度が同等であれば、「角度」は、良品画像と不良品画像の識別に寄与する度合いが低いので、上位の特徴量にはなり得ないようにランク付けすることができる。同様に、良品画像及び不良品画像で明るさが同等であれば、「明るさ」は、良品画像と不良品画像の識別に寄与する度合いが低いので、上位の特徴量にはなり得ないようにランク付けすることができる。また、良品画像及び不良品画像で「色」が大きく異なっていれば、「色」は、良品画像と不良品画像の識別に寄与する度合いが高いので、上位の特徴量となるようにランク付けすることができる。良品画像及び不良品画像で「角度」が大きく異なっていれば、「角度」は、良品画像と不良品画像の識別に寄与する度合いが高いので、上位の特徴量となるようにランク付けすることができる。良品画像及び不良品画像で「明るさ」が大きく異なっていれば、「明るさ」は、良品画像と不良品画像の識別に寄与する度合いが高いので、上位の特徴量となるようにランク付けすることができる。
このようにして良品画像と不良品画像の識別に寄与している上位の特徴量が抽出される。上位の特徴量とは、最も寄与度合いの高い特徴量(第1位の特徴量)を含んでいてもよいし、第1位の特徴量の次に寄与度合いの高い特徴量(第2位の特徴量)を含んでいてもよいし、第2位の特徴量の次に寄与度合いの高い特徴量(第3位の特徴量)を含んでいてもよい。上位の特徴量には、第1位の特徴量が含まれていなくてもよい。また、複数の特徴量が上位の特徴量となり得る。
図3に示す操作受付部23は、特徴量抽出部25により抽出された上位の特徴量の良品範囲を拡張する操作を受け付けるように構成することもできる。図12に示す範囲調整用ユーザーインターフェース45は、特徴量抽出部25により抽出された上位の特徴量が明るさである場合を示しているが、上位の特徴量が角度の場合には、同様にして角度の調整が可能なユーザーインターフェースにすることができ、また、上位の特徴量が色の場合には、同様にして色の調整が可能なユーザーインターフェースにすることができる。範囲調整用ユーザーインターフェース45は、複数の特徴量の調整が可能に構成することもできる。これにより、上位の特徴量の良品範囲を拡張する操作を行うことができるので、寄与度合いの低い特徴量が操作されなくなり、その結果、識別器の更新が確実に行われるようになり、良品画像と不良品画像の識別精度がより一層高まる。
特徴量抽出部25は、良品画像と不良品画像に複数種のフィルタ処理を行うように構成することができ、そのフィルタ処理後の画像に基づいて上位の特徴量を抽出するように構成することができる。良品画像と不良品画像にフィルタ処理を行った画像を中間画像とも呼ぶことができ、この中間画像はフォルダ処理が行われていることで、特徴量を抽出しやすくすることができ、その結果、上位の特徴量の抽出処理が容易になる。
(特徴量空間)
識別器生成部22は、画像入力部21により入力された良品画像群と不良品画像群を、複数層で構成された機械学習器に入力し、良品画像群と不良品画像群を特徴量空間上にプロットするとともに、特徴量空間上にプロットされた良品画像群と不良品画像群との間に識別境界を設定することにより、良品画像と不良品画像を識別する識別器を生成するように構成することもできる。
図13Aは、良品画像群と不良品画像群がプロットされた特徴量空間50を模式的に示している。良品画像群は黒丸でプロットされ、不良品画像群は白丸でプロットされており、良品画像群と不良品画像群との間に識別境界51が設定されている。識別境界51は、良品画像群と不良品画像群とのちょうど中間を通るように設定することができ、直線状の境界であってもよいし、曲線状の境界であってもよい。特徴量空間50であるから3次元空間上に識別境界51を設定することもできる。
(画像検査装置1の運転モード時の制御)
設定モードで各種設定が完了した後、画像検査装置1は運転モードに移行する。設定モードから運転モードへは、使用者の移行操作によって移行するようにしてもよいし、設定モードが完了した後、運転モードへ自動的に移行するようにしてもよい。
図14に示す運転モード時のフローチャートのステップSB1は、検査対象画像の入力ステップである。検査対象画像は、画像検査装置1の運用時に検査対象物Wを撮像して得られた画像であり、画像入力部21により入力される。CMOSセンサ143の視野範囲に検査対象物Wが位置した状態で、トリガ信号が入力されると、画像入力部21がCMOSセンサ143を制御して検査対象物Wを撮像し、この画像が検査対象画像として図3に示す良否判定部30に入力される。
ステップSB2は良否判定ステップであり、良否判定部30で行われる。良否判定部30は、検査対象画像を識別器生成部22で生成された識別器に入力し、当該検査対象画像の良否判定を行う部分である。識別器による良品画像と不良品画像の識別に寄与している特徴量に基づいて検査対象画像が良品画像であるか、不良品画像であるか判定される。
例えば、検査対象画像の判定結果は、図15及び図16に示す判定結果表示用ユーザーインターフェース46を用いて使用者に知らせることができる。判定結果表示用ユーザーインターフェース46は、メイン基板13の制御部13Aが生成し、表示装置4に表示させる。判定結果表示用ユーザーインターフェース46には、検査対象画像を表示する画像表示領域46aと、判定結果を表示する結果表示領域46bと、判定結果の確度を表示する確度表示領域46cとが設けられている。画像入力部21により検査対象画像が入力されると、その検査対象画像が画像表示領域46aに表示される。結果表示領域46bには、検査対象画像が良品画像であると判定される場合には「OK」と表示され、検査対象画像が不良品画像であると判定される場合には「NG」と表示される。「OK」及び「NG」の表示は一例であり、表示形態はどのような形態であってもよく、良品画像と不良品画像とを区別することができる形態であればよい。例えば、結果表示領域46bの色や、結果表示領域46bに表示される記号等によって良品と不良品とを区別可能にしてもよい。
確度表示領域46cには、0〜100の数値と、数値に対応した長さのバーとが表示されるようになっている。数値が大きくなればなるほど、良品画像である確度が高くなる。例えば、図13Aに示す特徴量空間50において、識別境界51と良品画像との距離に基づいて判定の確度を演算することができる。識別境界51と良品画像との距離が近ければ確度が低く、距離が遠ければ確度が高いと判定することができる。
図14に示すフローチャートのステップSB3では、不安定画像があるか否かを判定する。画像入力部21により入力された検査対象画像が図13Aに示す特徴量空間50において識別境界51に近い場合のように、良品画像であるか、不良品画像であるか、判定が困難な画像は安定度が低い画像であり、このような画像を不安定画像と呼ぶ。ステップSB3において不安定画像がないと判定された場合には、ステップSB1に進み、次の検査対象画像が入力され、その検査対象画像の良否判定を行う。ステップSB3において不安定画像があると判定されると、ステップSB4の追加画像入力ステップに進む。
追加画像入力ステップでは、良品画像と不良品画像の両方の入力が可能となっている。図15〜図17に示すように、判定結果表示用ユーザーインターフェース46には、画像表示領域46aに表示されている画像を追加学習するための追加学習ボタン46dが設けられている。図17に示す例は、使用者が良品であると認識している画像が画像検査装置1によって不良品画像であると判定された例である。この場合、使用者が追加学習ボタン46dを押すと、図18に示すように、判定結果表示用ユーザーインターフェース46に設定ボタン46eが表示される。設定ボタン46eは、「不良」と「良品」の一方を選択することができるように構成されており、使用者が「不良」を選択すると、画像表示領域46aに表示されている画像が不良品画像であるとして識別器生成部22の機械学習器に入力され、また、使用者が「良品」を選択すると、画像表示領域46aに表示されている画像が良品画像であるとして識別器生成部22の機械学習器に入力される。図18に示す例では、使用者が良品であると認識している画像が画像表示領域46aに表示されているので、使用者が「良品」を選択している。このようにして追加画像が入力される。図14に示すフローチャートのステップSB5は再学習ステップである。図13Bに示すように、符号Aで示す枠内に良品画像が追加された場合には、その画像が特徴量空間50上でプロットされて識別境界50が修正される。
(再学習ステップの詳細)
図19に示すフローチャートは、再学習ステップの詳細を示すものであり、使用者による良否画像または不良品画像の誤登録(誤入力)を検知する機能を実現する手順を示している。例えば、使用者により新たに機械学習器に入力された追加画像には、上述した図14に示すフローチャートのステップSB4において使用者により良品または不良品のいずれか一方の属性が付与されている。しかし、使用者が良品である画像を誤って不良品であると認識していたり、不良品である画像を誤って良品であると認識し、誤った属性を追加画像に付与してしまうおそれがある。
この実施形態では、使用者により新たに機械学習器に入力された良品または不良品のいずれか一方の属性が付与された追加画像を図13A等に示す特徴量空間50上にプロットしたとき、当該追加画像の特徴量空間50上における位置と、識別境界51または他方の属性の画像の代表点までの距離とに基づいて当該追加画像の属性が誤っている可能性を推測し、当該追加画像の属性が誤っている可能性があると推測される場合に、当該追加画像の属性が誤っている可能性がある旨の通知を行う通知手段26(図3に示す)を備えている。
以下、識別器生成部22及び通知手段26による具体的な制御内容について説明する。図19に示すフローチャートのスタート後のステップSC1では学習データ(追加画像)が入力される。これは図14に示すフローチャートのステップSB4によって実行されるので、追加画像には使用者により良品または不良品のいずれか一方の属性が付与されている。その後、ステップSC2では、特徴抽出部25で追加画像の特徴量が抽出される。次いで、ステップSC3では、識別器生成部22により、図13Aに示すような識別境界51(識別曲線ともいう)を算出する。ステップSC4では、学習データである追加画像を特徴量空間50上にプロットし、追加画像と、識別境界51との距離から安定度を算出する。追加画像と、識別境界51との距離が近ければ安定度が低く、遠ければ安定度が高いと判定することができる。
ステップSC5では、追加画像に「疑わしい」ラベルがあるか否かを判定する。追加画像が1つ目である場合には、「疑わしい」ラベルがある追加画像は無いので、NOと判定されてステップSC6に進む。ステップSC6では、追加画像の安定度が閾値以上であるか否かを判定する。追加画像の安定度が閾値以上であればYESと判定されてステップSC7に進む。ステップSC7では、次の追加画像があるか否か、即ち追加学習があるか否かを判定し、追加学習があればステップSC1に進む一方、追加学習が無ければ、終了する。
ステップSC6でNOと判定されて追加画像の安定度が閾値未満であればステップSC8に進み、追加画像を「疑わしい」とラベリングする。「疑わしい」とは、追加画像の属性が誤っている可能性があるということであり、この推測は安定度に基づいて行うことができる。ステップSC9では、「疑わしい」ラベルがある追加画像がすでにあれば、その「疑わしい」ラベルがある追加画像と他の追加画像との類似度を計算する。具体的には、「疑わしい」ラベルがある追加画像と、他の追加画像とが互いに似た画像であるか否かを画像処理によって判定し、互いに似ていれば類似度が高いとすることができる。例えば数値によって画像の類似度を表すことができる。
ステップSC10では、今回追加された「疑わしい」ラベルがある追加画像と、これとは異なる「疑わしい」ラベルがある追加画像との類似度が閾値以上であるか否かを判定する。ステップSC10でNOと判定されて類似度が閾値未満である場合には、ステップSC7に進む。一方、ステップSC10でYESと判定された場合にはステップSC11に進み、追加画像の属性が誤っている可能性がある旨の通知を通知手段26(図3に示す)が使用者に対して行う。通知の方法は特に限定されるものはなく、例えば、追加画像の属性が誤っている可能性がある旨のメッセージを表示装置4に表示する方法や音声で通知する方法等を挙げることができる。疑わしい画像が無い場合には、図19に実線で示す処理の流れになる。
通知手段26は、良品または不良品のいずれか一方の属性が付与された追加画像の特徴量空間50(図13Aに示す)上における位置と、他方の属性の代表点までの距離とが閾値未満の場合に、当該追加画像の属性が誤っている可能性があると推測するように構成することができる。代表点は、特徴量空間50上でプロットされた複数の他方の属性の画像のうち、追加画像に最も近い点とすることができる。また、代表点は、特徴量空間50上でプロットされた複数の他方の属性の画像の重心点とすることができる。
また、通知手段26は、追加画像の特徴量空間50上における位置と、良品または不良品のいずれか一方の属性の画像の代表点との距離よりも、追加画像の特徴量空間50上における位置と、他方の属性の画像の代表点との距離が近い場合には、当該追加画像の属性が誤っている可能性があると推測するように構成することができる。
通知手段26が通知した後、使用者は追加画像の属性を修正することができる。図3に示すように、画像検査装置1は選択手段27を備えており、この選択手段27は、通知手段26から追加画像の属性が誤っている可能性がある旨の通知を受けた場合に、使用者による当該追加画像の属性を修正するか否かの選択を受け付ける部分である。選択手段27は、例えば図18に示すユーザーインターフェースの設定ボタン46eのような選択ボタンを表示装置4に表示させ、使用者が「不良」と「良品」の一方を選択することができるように構成することができる。使用者が「不良」を選択すると、追加画像の属性が不良になり、使用者が「良品」を選択すると、追加画像の属性が良品になる。通知手段26の通知が誤っている場合もあるので、最終判断は使用者に委ねるようにしている。そして、識別器生成部22は、選択手段27による選択結果に基づいて追加画像の属性を決定した場合、決定された属性に基づいて識別境界51を修正することができる。
図20Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図20Bは、これまで登録された良品画像とは異なる新品種の良品画像が追加されて識別境界が修正された特徴量空間を模式的に示す図である。すなわち、図21に示すフローチャートにおいて実線で示すように処理が進むことになり、まず、ステップSC1、SC2、SC3、SC4、SC5に進み、ステップSC5においてNOと判定されてステップSC6に進む。その後、ステップSC6では、これまで登録された良品画像とは異なる新品種であることから、安定度が閾値未満であり、したがって、NOと判定される。そして、ステップSC8、SC9に進む。次いで、ステップSC10においてNOと判定されて、今回追加された「疑わしい」ラベルがある追加画像と、これとは異なる「疑わしい」ラベルがある追加画像との類似度が閾値未満である場合には、ステップSC11に進むことなく、即ち使用者に通知をすることなく、ステップSC7に進む。つまり、図20Bに示すように、これまで登録された良品画像との相違が大きくて安定度が閾値未満である追加画像であっても、符号Bの枠内に示すように、追加画像が特徴量空間50上でプロットされ、これにより識別境界51が修正される。
図22は、新品種の良品画像が更に追加されて識別境界が修正された特徴量空間を模式的に示す図である。新品種の良品画像が更に追加されると、図23に示すフローチャートにおいて実線で示すように処理が進むことになる。まず、ステップSC1、SC2、SC3、SC4、SC5に進む。ステップSC5では、「疑わしい」ラベルがある追加画像が既に追加されているので、YESと判定されてステップSC9に進む。その後、ステップSC9からステップSC10に進み、ステップSC10においてNOと判定されて、今回追加された「疑わしい」ラベルがある追加画像と、これとは異なる「疑わしい」ラベルがある追加画像との類似度が閾値未満である場合には、ステップSC11に進むことなく、即ち使用者に通知をすることなく、ステップSC7に進む。つまり、図22に示すように、これまで登録された良品画像との相違が大きくて安定度が閾値未満である追加画像を、符号Bの枠内に示すように特徴量空間50上で複数プロットすることになる。これにより識別境界51が修正される。
したがって、通知手段26は、使用者が付与した追加画像の属性が誤っている可能性があると推測される場合に、当該追加画像との類似度が所定以上である画像が画像入力部21により既に入力されているか否か判定し、入力されていないと判定されたときには、追加画像の属性が誤っている可能性がある旨の通知を行わないように構成されている。
図24Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図24Bは、既に登録されている品種、即ち既存品種が誤登録された場合の特徴量空間を模式的に示す図である。既存品種が誤登録された場合には、図25に示すフローチャートにおいて実線で示すように処理が進むことになる。まず、ステップSC1、SC2、SC3、SC4、SC5に進み、ステップSC5においてNOと判定されてステップSC6に進む。その後、ステップSC6でYESと判定されてステップSC8、SC7、SC9に進み、ステップSC10においてYESと判定されて、今回追加された「疑わしい」ラベルがある追加画像と、これとは異なる「疑わしい」ラベルがある追加画像との類似度が閾値以上であるので、ステップSC11に進み、追加画像の属性が誤っている可能性がある旨の通知を通知手段26が使用者に対して行う。
したがって、通知手段26は、使用者が付与した属性が誤っている可能性があると推測される追加画像に、誤登録の可能性があることを示す目印として「疑わしい」ラベルを付与し、当該追加画像とは別の追加画像が特徴量空間50上にプロットされたとき、当該別の追加画像と、「疑わしい」ラベルが付与された追加画像との類似度が所定以上であると判定されると、追加画像の属性が誤っている可能性がある旨の通知を行うように構成されている。
図26Aは、良品画像群と不良品画像群がプロットされた特徴量空間を模式的に示す図であり、図26Bは、不良品の新品種が良品として誤登録された場合の特徴量空間を模式的に示す図であり、図26Cは、不良品の新品種が複数良品として誤登録された場合の特徴量空間を模式的に示す図である。この場合、図27に示すように示すフローチャートにおいて実線で示すように処理が進むことになる。まず、ステップSC1、SC2、SC3、SC4、SC5に進み、ステップSC5においてNOと判定されてステップSC6に進む。その後、ステップSC6においてNOと判定されて安定度が閾値未満であるので、ステップSC8、SC9に進む。次いで、ステップSC10においてNOと判定されて、今回追加された「疑わしい」ラベルがある追加画像と、これとは異なる「疑わしい」ラベルがある追加画像との類似度が閾値未満である場合には、ステップSC11に進むことなく、即ち使用者に通知をすることなく、ステップSC7に進む。つまり、図26Bに示すように、これまで登録された良品画像との相違が大きくて安定度が閾値未満である追加画像であっても、符号Cの枠内に示すように、追加画像がプロットされ、これにより識別境界51が修正されるが、図26Cに示すように、「疑わしい」画像と類似しかつ異なるラベルの画像が多数検出された場合には、ステップSC10においてYESと判定されて、ステップSC11に進み、追加画像の属性が誤っている可能性がある旨の通知を通知手段26が使用者に対して行う。この場合は、当初追加された追加画像が誤登録されているということであり、この当初された追加画像も誤登録である旨を通知することができる。
また、通知手段26が、追加画像の属性が誤っている可能性がある旨の通知を行う際に、「疑わしい」ラベルが付与された追加画像を制御部13Aが表示装置4に表示させるとともに、「疑わしい」ラベルが付与された追加画像との類似度が所定以上である別の追加画像も制御部13Aが表示装置4に表示するように構成されている。これにより、属性が誤っている可能性があると推測される複数の追加画像を一度に確認することができる。
(不安定画像の検出手順)
次に、図28に示すフローチャートに基づいて不安定画像の検出手順について説明する。スタート後のステップSD1では、学習データ(追加画像)が入力される。これは図14に示すフローチャートのステップSB4によって実行されるので、追加画像には使用者により良品または不良品のいずれか一方の属性が付与されている。その後、ステップSD2では、特徴抽出部25で追加画像の特徴量が抽出される。次いで、ステップSD3では、識別器生成部22により、図29に示すような識別境界51(識別曲線ともいう)を算出する。ステップSD4では、学習データである追加画像を特徴量空間50上にプロットし、追加画像と、識別境界51との距離から安定度を算出する。例えば、図29に符号Dで示す枠内に追加画像がプロットされた場合、その追加画像と、識別境界51との距離を算出する。距離は図30に示す式により計算することができるが、分子がf(x)であり、+1と−1に固定されるため、||w||のみを評価すればよい。
ステップSD5では、安定度が閾値以上であるか否かを判定し、安定度が閾値以上であればYESと判定されてステップSD6に進む。ステップSD6では、次の追加画像があるか否か、即ち追加学習があるか否かを判定し、追加学習があればステップSD1に進む一方、追加学習が無ければ、終了する。ステップSD5でNOと判定された場合には、ステップSD7に進み、追加画像の属性が誤っている可能性がある旨の通知を通知手段26が使用者に対して行う。通知手段26から追加画像の属性が誤っている可能性がある旨の通知を受けた場合には、使用者による当該追加画像の属性を修正するか否かの選択を選択手段27により受け付けることができる。
(学習寄与度合い通知)
通知手段26は、使用者により良品または不良品のいずれか一方の属性が付与された追加画像の特徴量空間50上における位置と、他方の属性の代表点までの距離とに基づいて安定度を算出し、算出された安定度が所定未満の場合には、追加画像が機械学習器の学習に寄与していない旨の通知を行うように構成されている。例えば、図31に示すグラフは、横軸が学習枚数、即ち学習のために画像入力部21により入力された良品画像の枚数を示し、縦軸が上述した||w||を示している。
図31に示すグラフでは、||w||がほぼ単純増加となっているため、一度||w||が閾値(破線で示す)を超えると、追加学習を行っても検査対象物Wの検出可能領域に戻ることはないことが分かる。つまり、追加画像が機械学習器の学習に寄与していない領域に入ると、追加画像が機械学習器の学習に寄与していない旨の通知を通知手段26が使用者に対して行う。これにより、露光時間や光量の調整などの撮像設定の見直しを促して学習効果を高める方向に使用者を誘導することができる。
(自動ウインドウ設定機能)
次に、自動ウインドウ設定機能について説明する。一般的に、機械学習器を用いた画像識別では、検出領域として全画像領域を扱っている。しかしながら、検査対象物Wの検査を行っている実際の現場では、検査対象物Wが画像の全体に存在しているケースは少なく、画像の一部にのみ存在しているケースが多いので、全画像領域を検出領域にしてしまうと、検査対象物Wが存在していない部分についても学習及び識別の対象となり、その結果、識別精度の低下を招くとともに、不必要な演算が行われて時間が長引いてしまう。本実施形態では、使用者の負担を減らしながら、機械学習器に入力すべき部分を自動的に設定可能にするために、自動ウインドウ設定機能を搭載している。自動ウインドウ設定機能は、常時有効にしておいてもよいし、使用者が必要なときにのみ有効にするようにしてもよい。また、自動ウインドウ設定機能で設定した検査ウインドウを使用者が修正することもできる。
自動ウインドウ設定機能の処理手順について、図32に示すフローチャートに基づいて説明する。スタート後のステップSE1では、良品画像と不良品画像を入力する。これは画像入力部21により行うことができる。ステップSE2では、画像入力部21により入力された良品画像と不良品画像との特徴量の差、例えば、画像入力部21により入力された良品画像と不良品画像との差分を抽出する。その後、ステップSE3において良品画像と不良品画像との特徴量の差を有する領域に検査ウインドウを自動的に設定する。検査ウインドウの設定は図3に示す第1ウインドウ設定部28が行う。
図33に基づいて、検査ウインドウを自動的に設定する処理について説明する。図33は、単領域に検査ウインドウを自動的に設定する場合を示している。まず、良品の検出対象物Wを撮像した良品画像と、検査対象物Wが無い不良品画像とが画像入力部21により入力されたとする。図示するように、良品画像の全体に占める検査対象物Wは小さく、良否画像の大部分は、判別に寄与しない領域となっている。不良品画像においても同様に、判別に寄与しない領域が大きなものになる。
そして、第1ウインドウ設定部28が、良品画像と不良品画像との差分を抽出する。これにより、良品画像と不良品画像との特徴量の差を有する領域が特定される。第1ウインドウ設定部28は、良品画像と不良品画像との特徴量の差を有する領域に検査ウインドウ100を自動的に設定する。検査ウインドウ100は、良品画像と不良品画像との特徴量の差を有する領域を囲む外接矩形状にすることができるが、これに限られるものではなく、例えば外接円形状等にすることもできる。特徴量の差を有する領域が検査ウインドウ100によって自動的に囲まれるので、使用者の負担が増加することはなく、しかも、必要以上に大きめの範囲が指定されることもない。
識別器生成部22は、画像入力部21により入力された良品画像及び不良品画像のうち、第1ウインドウ設定部28により設定された検査ウインドウ100内の画像を、複数層で構成された機械学習器に入力し、良品画像と不良品画像を識別する識別器を生成するように構成することができる。すなわち、良品画像のうち、検査ウインドウ100に沿って切り抜かれた当該検査ウインドウ100内の画像と、不良品画像のうち、検査ウインドウ100に沿って切り抜かれた当該検査ウインドウ100内の画像とが機械学習器に入力される。検査ウインドウ100内の画像は、元の良品画像及び不良品画像よりも小さく、この検査ウインドウ100内の画像が機械学習器に入力されて良品画像と不良品画像を識別する識別器が生成されるので、良品画像及び不良品画像の判別に寄与しない領域が入力されなくなり、識別精度が高まるとともに、処理時間が短くなる。
図3に示すように、画像検査装置1は第2ウインドウ設定部29を備えている。第2ウインドウ設定部29は、画像検査装置1の運用時に画像入力部21に入力された検査対象画像上に検査ウインドウ100を設定する部分である。上述のようにして良品画像と不良品画像との特徴量の差を有する領域を特定することができるので、その領域の特徴量に基づいて、検査対象画像上で特徴量の差を有する領域を特定することができる。この検査対象画像上で特定された領域を囲むように検査ウインドウ100が自動的に設定されるので、使用者の負担が増加することはなく、しかも、必要以上に大きめの範囲が指定されることもない。また、第2ウインドウ設定部29は、画像検査装置1の運用時に画像入力部21に入力された検査対象画像上に、第1ウインドウ設定部28により設定された検査ウインドウ100と同じ形状及び大きさの検査ウインドウ100を自動的に設定するように構成されている。尚、第1ウインドウ設定部28と第2ウインドウ設定部29とは概念的に分けて記載しているだけであり、例えば、第2ウインドウ設定部29を省略して第1ウインドウ設定部28により、画像検査装置1の運用時に検査対象画像上に検査ウインドウ100を設定するように構成してもよい。この場合、ウインドウ設定部は1つになる。
図3に示す良否判定部30は、第2ウインドウ設定部29により設定された検査ウインドウ100内の画像を識別器に入力し、当該検査対象画像の良否判定を行うように構成されている。例えば、図13Aに示すような特徴量空間50に、検査ウインドウ100内の画像をプロットし、識別境界51よりも良品画像側の領域に入っていれば、検査対象画像が良品であると判定し、一方、識別境界51よりも不良品画像側の領域に入っていれば、検査対象画像が不良品であると判定することができる。判定結果は、図15や図16に示す判定結果表示用ユーザーインターフェース46に表示することができる。
図34は、複数領域に検査ウインドウを自動的に設定する手順を示すフローチャートである。スタート後のステップSF1では、良品画像と不良品画像を入力する。これは画像入力部21により行うことができる。ステップSF2では、画像入力部21により入力された良品画像と不良品画像との特徴量の差、例えば、画像入力部21により入力された良品画像と不良品画像との差分を抽出する。図35に示すように、良品画像に複数の検査対象物Wが互いに間隔をあけて含まれている場合には、差分抽出を行うと、良品画像と不良品画像との特徴量の差を有する複数の領域が互いに間隔をあけて存在することになる。ブロブ処理無しの画像例に示すように、複数の領域の全てを囲むように検査ウインドウ100を設定すると、検査ウインドウ100が大きくなるとともに、検査ウインドウ100内には、良品画像と不良品画像の識別に寄与していない領域が広く含まれることになる。その結果、識別精度が低下したり、処理時間が長時間化するおそれがある。
そこで、本実施形態では、図34のフローチャートのステップSF3においてブロブ処理を行い、その後、ステップSF4において各々の領域に対して検査ウインドウ100を自動的に設定する。つまり、第1ウインドウ設定部28は、設定される検査ウインドウ100の大きさが所定以上であるか否かを判定し、設定される検査ウインドウ100の大きさが所定以上である場合には、良品画像または不良品画像にブロブ処理を行ってラベリングを行い、ラベリングされた各ブロブ領域に対し、所定未満の大きさの検査ウインドウ100をそれぞれ設定するように構成されている。尚、設定される検査ウインドウ100の大きさが所定未満であれば、ブロブ処理をキャンセルすることができる。
図35に示す例では、良品画像と不良品画像との特徴量の差を有する領域が4つあり、これらが良品画像の4つの角部近傍に位置している。ブロブ処理を行うことで、特徴量の差を有する領域を個別に特定することができる。そして、第1ウインドウ設定部28が4つの領域をそれぞれ囲むように、複数の検査ウインドウ100を設定する。これにより、機械学習器に入力される画像に無駄な領域が少なくなり、識別精度を高めることができる。運用時にも同様に複数の検査ウインドウ100を設定することができる。
図36は、複数領域を重ね合わせてから検査ウインドウを自動的に設定する手順を示すフローチャートである。スタート後のステップSG1では、複数の良品画像と複数の不良品画像を入力する。これは画像入力部21により行うことができる。ステップSG2では、複数の良品画像を重ね合わせる処理を行う。例えば、図37に示すように、第1〜第4良品画像が入力された場合を想定する。これら第1〜第4良品画像の検査対象物Wは、傾きが互い異なっているが、良品画像中における位置は殆ど同じである。このような場合に第1〜第4良品画像を重ね合わせると、差分抽出画像に示すように、第1〜第4良品画像の検査対象物Wの大部分が互いに重なり合うようになる。
また、図36に示すフローチャートのステップSG3では、複数の不良品画像を重ね合わせる処理を行う。その後、ステップSG4において、重ね合わせ処理後の良品画像と、重ね合わせ処理後の不良品画像との特徴量の差分抽出を行う。図37に示す差分抽出画像のような結果が得られる。上述したように、第1〜第4良品画像の検査対象物Wの位置が殆ど同じであるため、重ね合わせ処理を事前に行うことで、良品画像と不良品画像との特徴量の差を有する領域が狭くなる。したがって、ステップSG5で検査ウインドウ100を設定する際に、検査ウインドウ100の大きさが小さくて済む。
(位置補正処理)
図38は、位置補正処理を行う場合の手順を示すフローチャートである。ステップSH1では、マスター画像を登録する。マスター画像の登録は、図4に示すフローチャートのステップSA2と同様にして行うことができる。このとき、画像入力部21により、位置補正の基準を含む良品画像を入力する。例えば、図39に示すマスター画像のように、位置補正の基準を示す基準部101を含む画像をマスター画像とする。図38に示すフローチャートのステップSH2では、位置補正用設定を行う。具体的には、マスター画像の基準部101を選択し、基準部101が位置補正の基準であることを入力する。基準部101は、例えば方向性のある部品や目印、記号、文字等で構成することができる。
ステップSH3では複数の良品画像を入力する。また、ステップSH4では複数の不良品画像を入力する。ステップSH5では、ステップSH3で入力された良品画像群に対して位置補正された画像を作成する。図39に示すように、第1〜第4良品画像の検査対象物Wの向きや傾きが異なっている場合には、第1ウインドウ設定部28が、基準部101に基づいて良品画像の位置補正を行う。例えば、基準部101の特定の部分101aが真上に来るように、第1〜第4良品画像の検査対象物Wの向きや傾きを変える。これにより、図38の第1〜第4位置補正画像が得られる。また、図38に示すフローチャートのステップSH6では、同様にして不良品画像群に対して位置補正された画像を作成する。
ステップSH7では、第1〜第4位置補正画像を重ね合わせる処理を行う。これは、図36のフローチャートのステップSG2と同じ処理である。また、ステップSH8では、位置補正後の不良品画像を重ね合わせる処理を行う。
ステップSH9では、重ね合わせ処理後の良品画像と、重ね合わせ処理後の不良品画像との特徴量の差分抽出を行う。図39に示す差分抽出画像のような結果が得られる。位置補正及び重ね合わせ処理を事前に行うことで、良品画像と不良品画像との特徴量の差を有する領域が狭くなる。したがって、ステップSH10で検査ウインドウ100を設定する際に、検査ウインドウ100の大きさが小さくて済む。
(実施形態の作用効果)
以上説明したように、この実施形態に係る画像検査装置1によれば、良品画像と不良品画像を機械学習器に入力して識別器を生成する場合に、識別に寄与している特徴量の良品範囲を拡張する操作を受け付けることができる。識別に寄与している特徴量の良品範囲を拡張した結果、新たに良品画像として判定される画像を画像生成部24が生成し、その生成された画像を表示装置4するとともに、機械学習器に入力して識別器を更新するようにしたので、使用者への負担を少なくしながら検査対象物Wの良否判定の精度を高めることができるとともに、その識別結果を使用者による判別の感覚に近づけることができる。
また、画像を追加して学習を行う際、その追加画像の属性が誤っている可能性を特徴量空間上で推測することができる。追加画像の属性が誤っている可能性があると推測される場合には使用者に通知し、その通知を受けた使用者による当該追加画像の属性の修正を受け付けて追加画像の属性を最終的に決定し、決定された属性に基づいて特徴量空間上の識別境界を修正することができる。これにより、良品画像及び不良品画像の入力時における誤入力を抑制し、良品画像及び不良品画像の識別精度を高めることができる。
また、良品画像と不良品画像との特徴量の差を有する領域に検査ウインドウ100を自動的に設定し、検査ウインドウ100内の画像を機械学習器に入力して識別器を生成し、運用時には検査対象画像上に検査ウインドウ100を自動的に設定して該検査ウインドウ100内の画像を識別器に入力し、良否判定を行うようにしたので、検査対象物が画像の一部である場合に、使用者の負担を減らしながら、識別精度を向上させることができる。
上述の実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内のものである。
以上説明したように、本発明に係る画像検査装置は、検査対象物を撮像した画像に基づいて検査対象物の良否判定を行う場合に使用することができる。
1 画像検査装置
2 制御ユニット
4 表示装置(表示部)
13A 制御部
14 カメラモジュール(撮像部)
15 照明モジュール(照明部)
21 画像入力部
22 識別器生成部
23 操作受付部
24 画像生成部
25 特徴量抽出部
26 通知手段
27 選択手段
28 第1ウインドウ設定部
29 第2ウインドウ設定部
30 良否判定部

Claims (11)

  1. 検査対象物を撮像して得られた画像に基づいて検査対象物の良否判定を行う画像検査装置において、
    使用者により良品としての属性を付与された良品画像と、不良品としての属性を付与された不良品画像とを入力可能な画像入力部と、
    前記画像入力部により入力された良品画像と不良品画像を、複数層で構成された機械学習器に入力し、良品画像と不良品画像を識別する識別器を生成する識別器生成部と、
    前記識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を拡張する操作を受け付ける操作受付部と、
    前記操作受付部により受け付けられた操作の結果、新たに良品画像として判定される画像を生成する画像生成部と、
    前記画像生成部により生成された画像を表示可能な表示部とを備え、
    前記識別器生成部は、前記画像生成部により生成された画像を前記機械学習器に入力することにより、前記識別器を更新するように構成されていることを特徴とする画像検査装置。
  2. 請求項1に記載の画像検査装置において、
    前記識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲を前記表示部に表示可能に構成されていることを特徴とする画像検査装置。
  3. 請求項1または2に記載の画像検査装置において、
    前記識別器による良品画像と不良品画像の識別に寄与する可能性のある複数種の特徴量が予め定義され、予め定義された複数種の特徴量の中から、前記識別器による良品画像と不良品画像の識別に寄与している上位の特徴量を自動的に抽出する特徴量抽出部を備え、
    前記操作受付部は、前記特徴量抽出部により抽出された上位の特徴量の良品範囲を拡張する操作を受け付けるように構成されていることを特徴とする画像検査装置。
  4. 請求項3に記載の画像検査装置において、
    前記予め定義された特徴量には、明るさ、角度、色の少なくとも1つが含まれていることを特徴とする画像検査装置。
  5. 請求項3または4に記載の画像検査装置において、
    前記特徴量抽出部は、良品画像と不良品画像に複数種のフィルタ処理を行うように構成され、フィルタ処理後の画像に基づいて上位の特徴量を抽出するように構成されていることを特徴とする画像検査装置。
  6. 請求項1から5のいずれか1つに記載の画像検査装置において、
    前記識別器による良品画像と不良品画像の識別に寄与している特徴量の不良品範囲を前記表示部に表示可能に構成されていることを特徴とする画像検査装置。
  7. 請求項1から6のいずれか1つに記載の画像検査装置において、
    前記表示部には、前記識別器による良品画像と不良品画像の識別に寄与している特徴量の良品範囲または不良品範囲の少なくとも一方が数値またはバー形式で表示され、
    前記操作受付部は、良品範囲または不良品範囲の調整を受け付けるように構成されていることを特徴とする画像検査装置。
  8. 請求項1から7のいずれか1つに記載の画像検査装置において、
    前記画像生成部は、良品範囲または不良品範囲の境界近傍に位置する境界近傍画像を生成するように構成され、
    前記表示部は、前記画像生成部により生成された境界近傍画像を表示するように構成されていることを特徴とする画像検査装置。
  9. 請求項1から8のいずれか1つに記載の画像検査装置において、
    前記画像生成部は、前記識別器による良品画像と不良品画像の識別に寄与している特徴量が明るさである場合に、予め入力されている画像の明るさを変更することにより、新たに良品画像として判定される画像を生成するように構成されていることを特徴とする画像検査装置。
  10. 請求項1から9のいずれか1つに記載の画像検査装置において、
    検査対象物を照明する照明部と、
    前記照明部により照明された検査対象物を撮像することにより、良品画像と不良品画像を取得する撮像部を備え、
    前記画像生成部は、前記識別器による良品画像と不良品画像の識別に寄与している特徴量が明るさである場合に、前記照明部による照明の明るさを変更して前記撮像部により撮像することにより、新たに良品画像として判定される画像を生成するように構成されていることを特徴とする画像検査装置。
  11. 請求項1から10のいずれか1つに記載の画像検査装置において、
    前記識別器生成部は、学習済みの前記機械学習器に良品画像と不良品画像を入力するように構成されていることを特徴とする画像検査装置。
JP2019017148A 2019-02-01 2019-02-01 画像検査装置 Active JP7287791B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019017148A JP7287791B2 (ja) 2019-02-01 2019-02-01 画像検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019017148A JP7287791B2 (ja) 2019-02-01 2019-02-01 画像検査装置

Publications (2)

Publication Number Publication Date
JP2020125918A true JP2020125918A (ja) 2020-08-20
JP7287791B2 JP7287791B2 (ja) 2023-06-06

Family

ID=72083856

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019017148A Active JP7287791B2 (ja) 2019-02-01 2019-02-01 画像検査装置

Country Status (1)

Country Link
JP (1) JP7287791B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020187070A (ja) * 2019-05-16 2020-11-19 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
JP2020187072A (ja) * 2019-05-16 2020-11-19 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
WO2022065271A1 (ja) * 2020-09-25 2022-03-31 ファナック株式会社 画像作成装置
JPWO2022065272A1 (ja) * 2020-09-25 2022-03-31
WO2022065273A1 (ja) * 2020-09-25 2022-03-31 ファナック株式会社 外観検査のためのモデル作成装置及び外観検査装置
WO2023136452A1 (ko) * 2022-01-17 2023-07-20 삼성전자 주식회사 외부 전자 장치에 대한 이미지를 획득하기 위한 전자 장치 및 방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7403142B2 (ja) 2019-01-09 2023-12-22 株式会社寺岡精工 計量装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11272845A (ja) * 1998-03-23 1999-10-08 Denso Corp 画像認識装置
JP2009266839A (ja) * 2008-04-21 2009-11-12 Hitachi High-Technologies Corp 半導体検査装置及び半導体検査方法
JP2011214903A (ja) * 2010-03-31 2011-10-27 Denso It Laboratory Inc 外観検査装置、外観検査用識別器の生成装置及び外観検査用識別器生成方法ならびに外観検査用識別器生成用コンピュータプログラム
JP2015161522A (ja) * 2014-02-26 2015-09-07 株式会社イシダ X線検査装置
JP2016114592A (ja) * 2014-12-12 2016-06-23 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
WO2018173478A1 (ja) * 2017-03-23 2018-09-27 日本電気株式会社 学習装置、学習方法および学習プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11272845A (ja) * 1998-03-23 1999-10-08 Denso Corp 画像認識装置
JP2009266839A (ja) * 2008-04-21 2009-11-12 Hitachi High-Technologies Corp 半導体検査装置及び半導体検査方法
JP2011214903A (ja) * 2010-03-31 2011-10-27 Denso It Laboratory Inc 外観検査装置、外観検査用識別器の生成装置及び外観検査用識別器生成方法ならびに外観検査用識別器生成用コンピュータプログラム
JP2015161522A (ja) * 2014-02-26 2015-09-07 株式会社イシダ X線検査装置
JP2016114592A (ja) * 2014-12-12 2016-06-23 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
WO2018173478A1 (ja) * 2017-03-23 2018-09-27 日本電気株式会社 学習装置、学習方法および学習プログラム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020187070A (ja) * 2019-05-16 2020-11-19 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
JP2020187072A (ja) * 2019-05-16 2020-11-19 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
JP7267094B2 (ja) 2019-05-16 2023-05-01 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
JP7271305B2 (ja) 2019-05-16 2023-05-11 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
JP2023090819A (ja) * 2019-05-16 2023-06-29 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
JP7448710B2 (ja) 2019-05-16 2024-03-12 株式会社キーエンス 画像検査装置及び画像検査装置の設定方法
WO2022065271A1 (ja) * 2020-09-25 2022-03-31 ファナック株式会社 画像作成装置
JPWO2022065272A1 (ja) * 2020-09-25 2022-03-31
WO2022065272A1 (ja) * 2020-09-25 2022-03-31 ファナック株式会社 外観検査のためのモデル作成装置及び外観検査装置
WO2022065273A1 (ja) * 2020-09-25 2022-03-31 ファナック株式会社 外観検査のためのモデル作成装置及び外観検査装置
WO2023136452A1 (ko) * 2022-01-17 2023-07-20 삼성전자 주식회사 외부 전자 장치에 대한 이미지를 획득하기 위한 전자 장치 및 방법

Also Published As

Publication number Publication date
JP7287791B2 (ja) 2023-06-06

Similar Documents

Publication Publication Date Title
JP2020125919A (ja) 画像検査装置
JP2020125918A (ja) 画像検査装置
JP2020125920A (ja) 画像検査装置
US9728168B2 (en) Image processing apparatus
JP7448710B2 (ja) 画像検査装置及び画像検査装置の設定方法
CN107077258B (zh) 投射型影像显示装置以及影像显示方法
US20130329247A1 (en) Image processing apparatus and image processing method
US20200364841A1 (en) Image Inspection Apparatus And Setting Method For Image Inspection Apparatus
KR20120107483A (ko) 천 제품 식별 장치 및 천 제품 파지 시스템
JP4858098B2 (ja) 視覚センサおよび照明設定方法
US11694048B2 (en) Optical information reading device
JP2023077054A (ja) 外観検査装置及び外観検査方法
JP2007280088A (ja) 特定物体検出装置、特定物体検出方法、及び特定物体検出プログラム
EP2713313B1 (en) Image processing system and image processing method
JP2009122823A (ja) 画像処理コントローラ用のプログラム作成装置
JP2019071018A (ja) 光学的情報読取装置及び光学的情報読取方法
US10943109B2 (en) Electronic apparatus, method for controlling thereof and the computer readable recording medium
JP7308656B2 (ja) 画像検査装置
JP7489523B2 (ja) 画像検査装置及び画像検査装置の設定方法
JP2023077059A (ja) 外観検査装置及び外観検査方法
JP2007292894A (ja) 表示装置、関連情報表示方法およびプログラム
JP2023077055A (ja) 外観検査装置及び外観検査方法
US20220375138A1 (en) Visualized image display device
US20230418452A1 (en) Inspection setting device
US20240089591A1 (en) Non-transitory computer-readable storage medium storing display content notification program, display content notification device, display content notification method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230525

R150 Certificate of patent or registration of utility model

Ref document number: 7287791

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150