最初に、本発明の実施形態の内容を列記して説明する。
(1)本発明の実施の形態に係る判定装置は、判定用画像を取得する取得部と、前記取得部によって取得された前記判定用画像が分割された複数の部分画像に対して、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いてフィルタリング処理を行い、前記フィルタリング処理後の複数の前記部分画像の中から第1の所定条件を満たす前記部分画像を抽出する前処理部と、前記畳み込みニューラルネットワークモデルである分類モデルを用いて、前記前処理部によって抽出された前記部分画像が対象事象を含むか否かを判定する判定部とを備える。
畳み込みニューラルネットワークモデルには、たとえば、部分画像において、対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、部分画像に対してフィルタリング処理を行う構成により、たとえば、対象事象を含む部分画像では、対象事象を強調させて表示させることができるので、対象事象を含む部分画像を漏れなく抽出することができる。これにより、判定用画像を構成する複数の部分画像のうち、対象事象を含む可能性の高い部分画像に絞って判定処理を行わせることができるので、当該複数の部分画像のすべてを判定する場合と比べて、判定処理の負荷および所要時間を小さくすることができる。すなわち、判定用画像における対象事象の有無を効率よく判定することができる。したがって、画像の判定を良好に行うことができる。
(2)好ましくは、前記畳み込みニューラルネットワークモデルは、ディープラーニングモデルである。
このように、分類モデルが、判定精度をより高めることが可能なディープラーニングモデルである構成により、部分画像における対象事象の有無をより精度よく判定することができる。
(3)より好ましくは、前記画像フィルタは、前記ディープラーニングモデルの中間層における1段目の1または複数の画像フィルタを含む。
中間層における1段目の画像フィルタは、生の部分画像に対して効果を発揮するように作成されている。また、中間層における2段目以降の画像フィルタは、その前段における画像フィルタによってフィルタリング処理された部分画像に対して効果を発揮するように作成されている。上記のように、フィルタリング処理に用いられる画像フィルタが、中間層における1段目の1または複数の画像フィルタを含む構成により、生の部分画像において、対象事象をより強調して表示させることができる。また、たとえば、フィルタリング処理に用いられる画像フィルタが、2段目以降の1または複数の画像フィルタを含む場合においても、これらの画像フィルタの効果をより発揮させることができる。
(4)好ましくは、前記前処理部は、前記複数の部分画像の各々に対して、第2の所定条件を満たす複数の前記画像フィルタを用いて前記フィルタリング処理を行う。
このような構成により、たとえば、対象事象の強調表示により適した複数の画像フィルタを用いてそれぞれフィルタリング処理された各部分画像を平均化することで、部分画像において、対象事象をより強調して表示させることができる。これにより、対象事象を含む部分画像をより漏れなく抽出することができる。
(5)好ましくは、前記前処理部は、前記対象事象を含む画像にフィルタリング処理を行うと前記フィルタリング処理後の前記画像が前記第1の所定条件を満たす前記画像フィルタを用いて、前記部分画像にフィルタリング処理を行う。
このような構成により、フィルタリング処理された部分画像において第1の所定条件が満たされる場合に、当該部分画像に対象事象が含まれる可能性をより高めることができるので、対象事象を含む部分画像をより漏れなく抽出することができる。
(6)本発明の実施の形態に係る判定装置は、判定用画像を取得する取得部と、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いて、画像に対してフィルタリング処理を行う前処理部とを備え、前記前処理部は、前記取得部によって取得された前記判定用画像に対して前記フィルタリング処理を行い、前記判定装置は、さらに、前記フィルタリング処理された前記画像を学習データとして用いて作成された畳み込みニューラルネットワークモデルである分類モデルを用いて、前記前処理部によって前記フィルタリング処理された前記判定用画像を判定する判定部を備える。
畳み込みニューラルネットワークモデルには、たとえば、画像において、キズまたはひび等の対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、フィルタリング処理されることで対象事象が強調して表示された画像を、学習データとして用いて分類モデルが作成される構成により、より良質の学習データによって分類モデルを機械学習させることができる。また、フィルタリング処理された判定用画像を分類モデルに入力する構成により、対象事象を含む判定用画像を入力する場合には、対象事象が強調して表示された良質な判定用画像を分類モデルに入力することができる。これにより、分類モデルの判定精度を向上させることができるので、判定用画像における対象事象の有無をより正確に判定することができる。したがって、画像の判定を良好に行うことができる。
(7)好ましくは、前記前処理部は、前記判定用画像に対して、所定条件を満たす複数の前記画像フィルタを用いてそれぞれ前記フィルタリング処理を行い、前記判定部は、前記前処理部によって前記フィルタリング処理された各前記判定用画像を、前記分類モデルを用いてそれぞれ判定し、各判定結果に基づいて前記判定用画像を総合的に判定する。
このような構成により、たとえば、対象事象の強調表示により適した複数の画像フィルタを用いてそれぞれフィルタリング処理された各判定用画像をそれぞれ判定することで、各判定結果の精度をより高めることができる。また、各判定結果に基づいて判定用画像を総合的に判定する構成により、たとえば、複数の画像フィルタの中に対象事象の強調表示能力の劣る画像フィルタが含まれてしまい、当該画像フィルタによってフィルタリング処理された判定用画像の判定結果が誤った場合においても、他の画像フィルタによってフィルタリング処理された判定用画像の判定結果と合わせて総合的に判定することができるので、強調表示能力の劣る画像フィルタの判定結果を覆してより正確な判定結果を得ることができる。
(8)本発明の実施の形態に係る判定方法は、判定装置における判定方法であって、判定用画像を取得するステップと、取得した前記判定用画像が分割された複数の部分画像に対して、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いてフィルタリング処理を行い、前記フィルタリング処理後の複数の前記部分画像の中から第1の所定条件を満たす前記部分画像を抽出するステップと、前記畳み込みニューラルネットワークモデルである分類モデルを用いて、抽出した前記部分画像が対象事象を含むか否かを判定するステップとを含む。
畳み込みニューラルネットワークモデルには、たとえば、部分画像において、対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、部分画像に対してフィルタリング処理を行う構成により、たとえば、対象事象を含む部分画像では、対象事象を強調させて表示させることができるので、対象事象を含む部分画像を漏れなく抽出することができる。これにより、判定用画像を構成する複数の部分画像のうち、対象事象を含む可能性の高い部分画像に絞って判定処理を行わせることができるので、当該複数の部分画像のすべてを判定する場合と比べて、判定処理の負荷および所要時間を小さくすることができる。すなわち、判定用画像における対象事象の有無を効率よく判定することができる。したがって、画像の判定を良好に行うことができる。
(9)本発明の実施の形態に係る判定方法は、判定装置における判定方法であって、判定用画像を取得するステップと、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いて、画像に対してフィルタリング処理を行うステップとを含み、前記フィルタリング処理を行うステップにおいては、取得した前記判定用画像に対して前記フィルタリング処理を行い、前記判定方法は、さらに、前記フィルタリング処理された前記画像を学習データとして用いて作成された畳み込みニューラルネットワークモデルである分類モデルを用いて、前記フィルタリング処理を行った前記判定用画像を判定するステップを含む。
畳み込みニューラルネットワークモデルには、たとえば、画像において、キズまたはひび等の対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、フィルタリング処理されることで対象事象が強調して表示された画像を、学習データとして用いて分類モデルが作成される構成により、より良質の学習データによって分類モデルを機械学習させることができる。また、フィルタリング処理された判定用画像を分類モデルに入力する構成により、対象事象を含む判定用画像を入力する場合には、対象事象が強調して表示された良質な判定用画像を分類モデルに入力することができる。これにより、分類モデルの判定精度を向上させることができるので、判定用画像における対象事象の有無をより正確に判定することができる。したがって、画像の判定を良好に行うことができる。
(10)本発明の実施の形態に係る判定プログラムは、判定装置において用いられる判定プログラムであって、コンピュータを、判定用画像を取得する取得部と、前記取得部によって取得された前記判定用画像が分割された複数の部分画像に対して、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いてフィルタリング処理を行い、前記フィルタリング処理後の複数の前記部分画像の中から第1の所定条件を満たす前記部分画像を抽出する前処理部と、前記畳み込みニューラルネットワークモデルである分類モデルを用いて、前記前処理部によって抽出された前記部分画像が対象事象を含むか否かを判定する判定部、として機能させるためのプログラムである。
畳み込みニューラルネットワークモデルには、たとえば、部分画像において、対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、部分画像に対してフィルタリング処理を行う構成により、たとえば、対象事象を含む部分画像では、対象事象を強調させて表示させることができるので、対象事象を含む部分画像を漏れなく抽出することができる。これにより、判定用画像を構成する複数の部分画像のうち、対象事象を含む可能性の高い部分画像に絞って判定処理を行わせることができるので、当該複数の部分画像のすべてを判定する場合と比べて、判定処理の負荷および所要時間を小さくすることができる。すなわち、判定用画像における対象事象の有無を効率よく判定することができる。したがって、画像の判定を良好に行うことができる。
(11)本発明の実施の形態に係る判定プログラムは、判定装置において用いられる判定プログラムであって、コンピュータを、判定用画像を取得する取得部と、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いて、画像に対してフィルタリング処理を行う前処理部、として機能させるためのプログラムであり、前記前処理部は、前記取得部によって取得された前記判定用画像に対して前記フィルタリング処理を行い、さらに、コンピュータを、前記フィルタリング処理された前記画像を学習データとして用いて作成された畳み込みニューラルネットワークモデルである分類モデルを用いて、前記前処理部によって前記フィルタリング処理された前記判定用画像を判定する判定部、として機能させるためのプログラムである。
畳み込みニューラルネットワークモデルには、たとえば、画像において、キズまたはひび等の対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、フィルタリング処理されることで対象事象が強調して表示された画像を、学習データとして用いて分類モデルが作成される構成により、より良質の学習データによって分類モデルを機械学習させることができる。また、フィルタリング処理された判定用画像を分類モデルに入力する構成により、対象事象を含む判定用画像を入力する場合には、対象事象が強調して表示された良質な判定用画像を分類モデルに入力することができる。これにより、分類モデルの判定精度を向上させることができるので、判定用画像における対象事象の有無をより正確に判定することができる。したがって、画像の判定を良好に行うことができる。
以下、本発明の実施の形態について図面を用いて説明する。なお、図中同一または相当部分には同一符号を付してその説明は繰り返さない。また、以下に記載する実施の形態の少なくとも一部を任意に組み合わせてもよい。
<第1の実施の形態>
[構成および基本動作]
図1は、本発明の第1の実施の形態に係る判定システムの構成を示す図である。
図1を参照して、判定システム301は、判定装置101と、蓄積装置131と、学習装置151とを備える。
図2は、本発明の第1の実施の形態に係る判定システムにおける蓄積装置に蓄積された不良品画像の一例を示す図である。
図3は、本発明の第1の実施の形態に係る判定システムにおける蓄積装置に蓄積された良品画像の一例を示す図である。
図1〜図3を参照して、カメラ121は、対象物を撮影する。この例では、カメラ121は、対象物として焼結物Tgtを撮影する。
より詳細には、焼結物Tgtは、たとえば工場において順次生産される。カメラ121は、生産ラインにおける焼結物Tgtを撮影し、撮影した焼結物Tgtの画像を示す画像情報を蓄積装置131へ送信する。このような撮影処理は、たとえば焼結物Tgtが生産ラインを流れるごとに行われる。
図2に示す画像は、対象事象の一例であるキズ部Df1を含む焼結物Tgtの不良品の画像(以下、不良品画像とも称する。)Sngである。蓄積装置131には、このようなキズ部Df1を含む焼結物Tgtの画像すなわち不良品画像Sngが複数枚蓄積されている。
図3に示す画像は、キズ部Df1を含まない焼結物Tgtの良品の画像(以下、良品画像とも称する。)Sgである。蓄積装置131には、良品画像Sgが複数枚蓄積されている。
なお、対象物は、焼結物Tgtに限らず、ネジ等の他の物体または人間もしくは動物であってもよい。また、対象事象は、キズ部Df1に限らず、ひび等であってもよい。
再び図1を参照して、蓄積装置131は、カメラ121から画像情報を受信するごとに、受信した画像情報を蓄積する。
学習装置151は、たとえば、ディープラーニングモデルである分類モデルを作成する。分類モデルは、たとえば、機械学習によって自動的に作成されるアルゴリズムである。ディープラーニングモデルは、畳み込みニューラルネットワークモデルの一例である。
[動作の流れ]
判定システム301における各装置は、コンピュータを備え、当該コンピュータにおけるCPU等の演算処理部は、以下のシーケンス図またはフローチャートの各ステップの一部または全部を含むプログラムを図示しないメモリからそれぞれ読み出して実行する。これら複数の装置のプログラムは、それぞれ、外部からインストールすることができる。これら複数の装置のプログラムは、それぞれ、記録媒体に格納された状態で流通する。
図4は、本発明の第1の実施の形態に係る判定システムにおける学習装置が分類モデルを作成する際の動作手順を定めたフローチャートである。
図4を参照して、学習装置151は、画像データPng1を作成する(ステップS102)。
図5は、図2に示す不良品画像におけるキズ部を拡大した図である。
図5を参照して、ユーザは、たとえば、分類モデルを作成するための操作を学習装置151に対して行う。
具体的には、ユーザは、たとえば、蓄積装置131に蓄積された複数の画像のうち、不良品画像Sng(図2参照)を複数枚たとえば500枚選択する。
そして、ユーザは、選択した不良品画像Sngのそれぞれに対して、キズ部Df1をマウス等のポインティングデバイスによって指定する操作を学習装置151に対して行う。
学習装置151は、たとえば、ユーザの操作に従って、ユーザによって選択された不良品画像Sngにポインティングデバイスの軌跡Tr1をピクセル単位で描画する(図5参照)。
学習装置151は、軌跡Tr1をピクセル単位で描画した不良品画像Sngを500枚含む画像データPng1を作成する。
再び図4を参照して、次に、学習装置151は、画像データPg1を作成する(ステップS104)。
より詳細には、ユーザは、たとえば、蓄積装置131に蓄積された複数の画像のうち、良品画像Sg(図3参照)を複数枚たとえば500枚選択し、選択結果を入力する操作を学習装置151に対して行う。
学習装置151は、たとえば、ユーザの操作に従って、ユーザによって選択された良品画像Sgを500枚含む画像データPg1を作成する。
分類モデルは、このようにして作成された画像データPng1およびPg1から作成される。
次に、学習装置151は、画像データPng1から複数のデータ組を作成する(ステップS106)。
図6は、本発明の第1の実施の形態に係る判定システムにおける学習装置が処理する不良品画像の一例を示す図である。
図6を参照して、学習装置151は、たとえば、画像データPng1から不良品画像Sngを1枚取得し、所定の方式M1に従う方法により、取得した不良品画像Sngを複数の部分画像に分割する。
より詳細には、学習装置151は、図6に示すように、不良品画像Sngを複数の部分画像に分割する。この例では、学習装置151は、不良品画像Sngを縦方向に均等に7分割し、かつ横方向に均等に9分割することにより、63個の同じ形状およびサイズの部分画像に分割する。
なお、部分画像の個数は、複数であれば任意の個数でよい。また、各部分画像の形状およびサイズは、同じに限らず、形状およびサイズの少なくともいずれか一方が異なってもよい。
学習装置151は、分割した63個の部分画像のそれぞれに対して、当該部分画像が対象事象を含むか否かを示す部分ラベル情報を作成する。
より詳細には、学習装置151は、63個の部分画像を順番に選択し、選択した部分画像において軌跡Tr1の少なくとも一部が含まれる場合、部分ラベル情報の一例である部分ラベル、ここでは「キズあり部分」を示す部分ラベルを作成する。
一方、学習装置151は、選択した部分画像において軌跡Tr1が全く含まれない場合、「キズなし部分」を示す部分ラベルを作成する。
学習装置151は、選択した部分画像および作成した部分ラベルを含むデータ組を作成する。
このようにして、学習装置151は、部分画像および対応の部分ラベルを含むデータ組を63個作成する。
学習装置151は、画像データPng1における他の不良品画像Sngについても同様に処理することによりデータ組を作成する。このようにして不良品画像Sngについての500×63個すなわち31500個のデータ組が作成される。
再び図4を参照して、次に、学習装置151は、画像データPg1から複数のデータ組を作成する(ステップS108)。
図7は、本発明の第1の実施の形態に係る判定システムにおける学習装置が処理する良品画像の一例を示す図である。図7には、図3に示す良品画像Sgが分割された画像が示される。
図7を参照して、学習装置151は、図6に示す不良品画像Sngと同様に、良品画像Sg(図3参照)を63個の部分画像に分割する。
学習装置151は、分割した63個の部分画像のそれぞれに対して、「キズなし部分」を示す部分ラベルを作成する。
学習装置151は、部分画像および対応の部分ラベルを含む63個のデータ組を作成する。
学習装置151は、画像データPg1における他の良品画像Sgについても同様に処理することによりデータ組を作成する。このようにして、良品画像Sgについての500×63個すなわち31500個のデータ組が作成される。
再び図4を参照して、次に、学習装置151は、画像データPng1に基づく31500個のデータ組および画像データPg1に基づく31500個のデータ組を合わせた63500個のデータ組を含む学習データセットを作成する(ステップS110)。
次に、学習装置151は、作成した学習用データセットを用いて分類モデルを作成する(ステップS112)。
具体的には、学習装置151は、たとえば、ディープラーニング(Deep Learning)の手法に沿って、多層化したニューラルネットワークに学習データセットを入力する。
学習装置151は、多層化したニューラルネットワークに対して、部分画像にキズ部Df1が含まれるか否かを分類できるように機械学習させることにより、分類モデルを作成する。
このような機械学習の結果、分類モデルは、たとえば、所定の輝度以下の背景において所定の輝度以上の筋状の模様が含まれるか否かに基づいて、部分画像にキズ部Df1が含まれるか否かを分類する。
次に、学習装置151は、作成した分類モデルの判定精度を評価する評価処理を行う(ステップS114)。
具体的には、学習装置151は、たとえば、学習データセットとは別の、評価用のデータ組を複数含むテストデータセットを用いて、分類モデルの判定精度を評価する。
学習装置151は、たとえば、テストデータセットに含まれる複数のデータ組を順番に選択し、選択したデータ組における部分画像を分類モデルに入力する。
分類モデルに部分画像が入力されると、たとえば、当該部分画像にキズ部Df1が含まれる確率を示すスコア(以下、出力スコアとも称する。)が出力される。
学習装置151は、たとえば、出力スコアが所定のしきい値以上である場合、当該部分画像にキズ部Df1が含まれると判定し、また、出力スコアが当該所定のしきい値より小さい場合、当該部分画像にキズ部Df1が含まれないと判定する。
学習装置151は、入力した部分画像に対応する部分ラベルと判定結果とを比較し、これらが一致した場合、正解と判定し、また、これらが一致しない場合、不正解と判定する。
学習装置151は、たとえば、正解と判定したデータ組の個数を、テストデータセットに含まれるデータ組の個数で除した値を、分類モデルの判定精度として算出する。
次に、学習装置151は、たとえば、判定精度が所定のしきい値以上である場合、当該分類モデルを採用し、モデル情報を判定装置101へ送信する(ステップS116)。このモデル情報の詳細については、後述する。
なお、上記ステップS102〜S108の順番は、ステップS102の後にステップS106が行われ、かつステップS104の後にステップS108が行われれば、上記に限らず、一部または全部の順番を変更してもよい。
また、学習装置151は、上記ステップS114において、テストデータセットを用いて評価処理を行う構成であるとしたが、これに限定するものではない。学習装置151は、たとえば、学習データセットおよびテストデータセットの両方を用いて評価処理を行う構成であってもよい。また、学習装置151は、たとえば、テストデータセットを利用できない場合には、学習データセットを用いて評価処理を行う構成であってもよい。
また、学習装置151は、上記ステップS116において、判定精度が所定のしきい値より小さい場合、たとえば、作成した分類モデルが基準に満たない旨をユーザに通知してもよい。
[分類モデルにおける処理の詳細]
図8は、本発明の第1の実施の形態に係る判定システムにおける学習装置が作成した分類モデルにおける処理を説明するための図である。
図8を参照して、分類モデルは、入力層と、中間層言い換えると隠れ層と、出力層とを含む。
中間層は、1段目と、2段目と、第1の全結合層と、第2の全結合層とを含む。1段目および2段目の各々は、畳み込み層と、プーリング層とを含む。
ここで、中間層における1段目は、分類モデルに入力された画像を最初にフィルタリングする層である。
この例では、1段目における畳み込み層は、5つの畳み込みフィルタを含む。2段目における畳み込み層は、3つの畳み込みフィルタを含む。ここで、畳み込みフィルタは、画像フィルタの一例である。
なお、図8に示す分類モデルでは、中間層は、1段目および2段目を含む構成であるとしたが、これに限定するものではない。中間層は、1段目のみを含む構成であってもよいし、3段目以降も含む構成であってもよい。
また、図8に示す分類モデルでは、中間層は、畳み込み層と、プーリング層と、全結合層とを含む構成であるとしたが、これに限定するものではない。中間層は、プーリング層および全結合層を含まずに、1または複数の畳み込み層を含む構成であってもよい。
入力層は、画像を受け付ける。この例では、入力層は、キズ部Df1を含む部分画像(図6参照)を受け付ける。
中間層では、1段目における畳み込み層は、部分画像をフィルタリング処理する。より詳細には、畳み込み層は、たとえば、非特許文献1(“自然言語処理における畳み込みニューラルネットワークを理解する”、[online]、けんごのお屋敷、[平成29年7月3日検索]、インターネット〈URL:http://tkengo.github.io/blog/2016/03/11/understanding−convolutional−neural−networks−for−nlp/〉)に記載の方法に従って、部分画像に対して、所定のサイズを有するマトリックス形状の畳み込みフィルタを、部分画像全体をカバーするようにスライドさせながら適用する。
この例では、1段目における畳み込み層は、5つの畳み込みフィルタを含んでいるため、入力された1つの部分画像から、フィルタリング処理された5つの部分画像が生成される。
分類モデルを作成する処理において、これらの畳み込みフィルタのサイズ、および畳み込みフィルタのマトリックスに格納される値等のパラメータが決定される。
1段目におけるプーリング層は、畳み込み層によって抽出された局所的な特徴をまとめる処理を行う。言い換えると、プーリング層は、畳み込み層によって抽出された局所的な特徴を維持しながら、フィルタリング処理された5つの部分画像の各々を縮小処理する。
2段目における畳み込み層およびプーリング層も、それぞれ1段目における畳み込み層およびプーリング層と同様の処理を行う。
2段目におけるプーリング層によって処理された部分画像は、たとえば、第1の全結合層および第2の全結合層により1つのベクトルにまとめられた後、出力層において出力スコアとして算出される。
[フィルタリング処理の効果]
図9は、本発明の第1の実施の形態に係る学習装置が作成した分類モデルにおけるフィルタリング処理を説明するための図である。
図8および図9を参照して、たとえば、1段目における畳み込み層は、入力層において入力された1つの部分画像を、5つの畳み込みフィルタFL1〜FL5を用いてそれぞれフィルタリング処理することにより、フィルタリング処理された5つの部分画像を生成する。
フィルタリング処理された5つの部分画像では、たとえば、キズ部Df1の輪郭が強調される。より詳細には、キズ部Df1の輪郭を表示する画素の輝度が、輪郭以外を表示する画素の輝度より大きくなることによってキズ部Df1の輪郭が強調される。
なお、フィルタリング処理された5つの部分画像では、キズ部Df1と同様に、焼結物Tgtの輪郭も強調される。
また、畳み込みフィルタFL1〜FL5のパラメータに応じてキズ部Df1の輪郭を表示する画素の輝度が異なる。この例では、畳み込みフィルタFL1〜FL5の順に、キズ部Df1の輪郭を表示する画素の輝度が小さくなる。
[モデル情報]
学習装置151は、上記ステップS116(図4参照)において、たとえば、複数の画像フィルタ、方式M1および分類モデルを含むモデル情報を作成し、作成したモデル情報を判定装置101へ送信する。
詳細には、学習装置151は、たとえば、ディープラーニングモデルの中間層における1段目から複数の画像フィルタを抽出する。
より詳細には、学習装置151は、たとえば、ディープラーニングモデルの中間層における1段目から第2の所定条件を満たす複数の画像フィルタを抽出する。
ここで、第2の所定条件は、たとえば、畳み込みフィルタFL1〜FL5のうち、フィルタリング処理後の部分画像において、軌跡Tr1周辺における画素の輝度、すなわちキズ部Df1の輪郭を表示する各画素の輝度の平均値が上位の所定順位内であることである。
ここでは、上記所定順位は、たとえば3位である。学習装置151は、畳み込みフィルタFL1〜FL5のうち、畳み込みフィルタFL1〜FL3を抽出する。
なお、上記所定順位は、2位であってもよいし、4位以上であってもよい。また、第2の所定条件は、たとえば、キズ部Df1の輪郭を表示する各画素の輝度の平均値が所定値以上であることであってもよい。
学習装置151は、畳み込みフィルタFL1〜FL3、方式M1および分類モデルを含むモデル情報を判定装置101へ送信する。
[判定装置の構成]
図10は、本発明の第1の実施の形態に係る判定システムにおける判定装置の構成を示す図である。
図10を参照して、判定装置101は、取得部21と、判定部22と、前処理部23と、送信部24と、画像分割部25とを備える。
図11は、本発明の第1の実施の形態に係る判定システムにおける判定装置が判定処理を行う際の動作手順を定めたフローチャートである。
図10および図11を参照して、まず、判定装置101における取得部21は、分類モデルおよび画像フィルタを取得する(ステップS202)。
より詳細には、取得部21は、たとえば、学習装置151からモデル情報を受信すると、受信したモデル情報を画像分割部25へ出力する。
次に、取得部21は、判定用画像を取得する(ステップS204)。詳細には、取得部21は、たとえば、焼結物Tgtが生産ラインを流れるごとに当該焼結物Tgtの画像を判定用画像として取得する。
より詳細には、取得部21は、蓄積装置131における画像情報の蓄積状況を監視し、たとえば、蓄積装置131において新たな画像情報が蓄積されると、当該新たな画像情報を蓄積装置131から取得する。取得部21は、取得した判定用画像を画像分割部25へ出力する。
図12は、本発明の第1の実施の形態に係る判定システムにおける判定装置が判定する判定用画像の一例を示す図である。
図11および12を参照して、次に、画像分割部25は、判定用画像を複数の部分画像に分割する(ステップS206)。
より詳細には、画像分割部25は、取得部21から判定用画像を受けると、取得部21から受けたモデル情報に含まれる方式M1を取得し、方式M1に従う方法により、当該判定用画像を63個の部分画像に分割する。
また、判定部22は、たとえば、分割した63個の部分画像の各々に部分画像位置情報を付する。
ここで、部分画像位置情報は、たとえば、縦方向の段および横方向の段にそれぞれアルファベットA〜Gおよび番号1〜9を割り当てた場合における、対象の部分画像の位置する縦方向の段のアルファベットおよび横方向の段の番号を示す。
画像分割部25は、63個の部分画像およびモデル情報を前処理部23へ出力する。
なお、部分画像位置情報は、たとえば、画像全体を基準とした場合における判定用部分画像のピクセル単位での座標であってもよい。
また、図12に示す判定用画像には、キズ部Df2が含まれる。より詳細には、キズ部Df2を含む部分画像が「D8」に位置する。
図11を参照して、次に、前処理部23は、画像分割部25から63個の部分画像およびモデル情報を受けると、モデル情報に基づいて、画像分割部25によって分割された部分画像に対して前処理を行う(ステップS208)。
すなわち、前処理部23は、取得部21によって取得された判定用画像が分割された複数の部分画像に対して、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いてフィルタリング処理を行う。
そして、前処理部23は、フィルタリング処理後の複数の部分画像の中から第1の所定条件を満たす部分画像(以下、判定用部分画像とも称する。)を抽出する。
前処理部23は、抽出した判定用部分画像、およびモデル情報を判定部22へ出力する。前処理の詳細については、後述する。
次に、判定部22は、畳み込みニューラルネットワークモデルである分類モデルを用いて、前処理部23によって抽出された部分画像が対象事象を含むか否かを判定する判定処理を行う(ステップS210)。
より詳細には、判定部22は、前処理部23から判定用部分画像およびモデル情報を受けると、モデル情報に基づいて、前処理部23から受けた判定用部分画像がキズ部を含むか否かを判定する。判定処理の詳細については、後述する。
なお、上記ステップS202およびS204の順番は、上記に限らず、順番を入れ替えてもよい。
図13は、本発明の第1の実施の形態に係る判定システムにおける判定装置が前処理を行う際の動作手順を定めたフローチャートである。図13は、図11のステップS208における動作の詳細を示している。
図13を参照して、前処理部23は、たとえば、複数の部分画像の各々に対して、第2の所定条件を満たす複数の画像フィルタを用いてフィルタリング処理を行う。
より詳細には、前処理部23は、たとえば、63個の部分画像の各々に対して、第2の所定条件を満たす複数の画像フィルタを用いてそれぞれフィルタリング処理を行った後、フィルタリング処理後の各部分画像に基づく平均化部分画像を生成する生成処理を行う。
そして、前処理部23は、たとえば、63個の部分画像の中から第1の所定条件を満たす部分画像すなわち判定用部分画像を抽出する。
まず、前処理部23は、63個の部分画像のうちの1つを選択する(ステップS302)。
次に、前処理部23は、選択した部分画像に対して、モデル情報に含まれる畳み込みフィルタFL1〜FL3を用いて、それぞれフィルタリング処理を行うことにより、3つの部分画像を生成する(ステップS304)。
次に、前処理部23は、たとえば、生成したフィルタリング処理後の3つの部分画像を平均化した平均化部分画像を生成する(ステップS306)。平均化部分画像における画素の輝度は、たとえば、フィルタリング処理後の3つの部分画像における対応の各画素の輝度の平均である。
次に、前処理部23は、生成した平均化部分画像が第1の所定条件を満たすか否かを判断する(ステップS308)。
ここで、第1の所定条件は、たとえば、対象の部分画像、ここでは対応の平均化部分画像がしきい値Th1以上の輝度を有する画素を含むことである。
また、第1の所定条件を満たす部分画像は、たとえば、図12に示す判定用画像において、キズ部Df2を含む「D8」に位置する部分画像、ならびに焼結物Tgtの輪郭を含む「C8」および「E8」等に位置する部分画像である。
また、第1の所定条件を満たさない部分画像は、たとえば、キズ部Df2および焼結物Tgtの輪郭の両方を含まない「C7」、「D7」および「E7」等に位置する部分画像である。
前処理部23は、平均化部分画像がしきい値Th1以上の輝度を有する画素を含む場合(ステップS308でYES)、平均化部分画像に対応する部分画像、すなわち選択した部分画像を判定用部分画像として抽出する(ステップS310)。
次に、前処理部23は、63個の部分画像をすべて選択したか否かを確認する(ステップS312)。
前処理部23は、上記63個の部分画像の中で未選択の部分画像が存在する場合(ステップS312でNO)、上記63個の部分画像において未選択の部分画像を1つ選択する(ステップS302)。
一方、前処理部23は、上記63個の部分画像をすべて選択した場合(ステップS312でYES)、抽出した判定用部分画像、およびモデル情報を判定部22へ出力する。
図14は、本発明の第1の実施の形態に係る判定システムにおける判定装置が判定処理を行う際の動作手順を定めたフローチャートである。図14は、図11のステップS210における動作の詳細を示している。
図14を参照して、まず、判定部22は、前処理部23によって抽出された1または複数の判定用部分画像のうちの1つを選択する(ステップS402)。
次に、判定部22は、モデル情報に含まれる分類モデルに、選択した判定用部分画像を入力する(ステップS404)。
次に、判定部22は、分類モデルに判定用部分画像を入力することにより出力された出力スコアが所定のしきい値Th2以上である場合(ステップS406でYES)、判定用部分画像にキズ部が含まれることについて「真」であると判定し、判定用画像に映った焼結物Tgtをキズ有りと判断する(ステップS412)。
一方、判定部22は、上記出力スコアが所定のしきい値Th2より小さい場合(ステップS406でNO)、判定用部分画像にキズ部が含まれることについて「偽」であると判定し、前処理部23によって抽出された判定用部分画像をすべて選択したか否かを確認する(ステップS408)。
判定部22は、前処理部23によって抽出された判定用部分画像の中で未選択の判定用部分画像が存在する場合(ステップS408でNO)、前処理部23によって抽出された判定用部分画像において未選択の判定用部分画像を1つ選択する(ステップS402)。
一方、判定部22は、前処理部23によって抽出された判定用部分画像をすべて選択した場合(ステップS408でYES)、判定用画像に映った焼結物Tgtを良品と判断する(ステップS410)。
次に、判定部22は、判定用画像に映った焼結物Tgtをキズ有りと判断するか(ステップS412)、または判定用画像に映った焼結物Tgtを良品と判断すると(ステップS410)、判断結果を示す結果情報を送信部24経由で上位装置161へ送信する(ステップS414)。
再び図1を参照して、上位装置161は、たとえば、生産ラインを管理するサーバである。上位装置161は、判定装置101から結果情報を受信して、受信した結果情報がキズ有りを示す場合、たとえば、当該焼結物Tgtを生産ラインから除外させたり、当該焼結物Tgtの識別子をユーザに通知したりする。
[判定システム301の変形例]
学習装置151は、ディープラーニングモデルの中間層における1段目から第2の所定条件を満たす複数の画像フィルタを抽出する構成であるとしたが、これに限定するものではない。
学習装置151は、たとえば、対象事象を含む画像にフィルタリング処理を行うとフィルタリング処理後の画像が第1の所定条件を満たす1または複数の画像フィルタを抽出する構成であってもよい。
具体的には、学習装置151は、たとえば、畳み込みフィルタFL1〜FL5によってそれぞれフィルタリング処理された5つの部分画像のうち(図9参照)、しきい値Th1以上の輝度を有する画素を含む部分画像を特定する。
ここでは、学習装置151は、たとえば、畳み込みフィルタFL1,FL2によってそれぞれフィルタリング処理された2つの部分画像を特定する。
学習装置151は、特定結果に基づいて、第1の所定条件を満たす画像フィルタとして畳み込みフィルタFL1,FL2を抽出する。
学習装置151は、抽出した畳み込みフィルタFL1,FL2、方式M1および分類モデルを含むモデル情報を判定装置101へ送信する。
再び図10を参照して、前処理部23は、図13に示すステップS304において、学習装置151からのモデル情報に含まれる畳み込みフィルタFL1,FL2を用いて、部分画像に対してフィルタリング処理を行う。
なお、本発明の第1の実施の形態に係る判定装置では、判定部22は、ディープラーニングモデルである分類モデルを用いる構成であるとしたが、これに限定するものではない。判定部22は、畳み込みニューラルネットワークモデルである分類モデルを用いる構成であればよい。
また、本発明の第1の実施の形態に係る判定装置は、送信部24を備える構成であるとしたが、これに限定するものではない。判定装置101は、送信部24を備えない構成であってもよい。
また、本発明の第1の実施の形態に係る判定システムでは、判定装置101および学習装置151は、別体であるとしたが、これに限定するものではない。判定装置101は、学習装置151を備える構成であってもよい。
また、本発明の第1の実施の形態に係る判定装置では、分類モデルは、ディープラーニングモデルであるとしたが、これに限定するものではない。分類モデルは、ディープラーニングモデル以外の他の畳み込みニューラルネットワークモデルであってもよい。
また、本発明の第1の実施の形態に係る判定装置では、画像フィルタは、ディープラーニングモデルの中間層における1段目の1または複数の畳み込みフィルタを含む構成であるとしたが、これに限定するものではない。画像フィルタは、たとえば、中間層における2段目以降の1または複数の畳み込みフィルタをさらに含む構成であってもよい。
また、本発明の第1の実施の形態に係る判定装置では、画像フィルタは、ディープラーニングモデルの中間層における1段目の1または複数の畳み込みフィルタを含む構成であるとしたが、これに限定するものではない。画像フィルタは、たとえば、中間層における1段目の代わりに、2段目以降の1または複数の畳み込みフィルタを含む構成であってもよい。
また、本発明の第1の実施の形態に係る判定装置は、第2の所定条件を満たす複数の画像フィルタ、または第1の所定条件を満たす画像フィルタを用いてフィルタリング処理を行う構成であるとしたが、これに限定するものではない。判定装置101は、たとえば、中間層におけるすべての畳み込みフィルタ(図8参照)、または中間層から任意に抽出した畳み込みフィルタを用いてフィルタリング処理を行う構成であってもよい。
ところで、このような特許文献1に記載の技術を超えて、画像に映り込んだ対象事象の有無、たとえば対象物におけるキズまたはひび等の異常部分の有無をより良好に判定するための技術が求められている。
より詳細には、再び図6〜図8を参照して、判定用画像の一例である不良品画像Sngおよび良品画像Sgの各々は、63個の部分画像を含むため、判定用画像に映り込んだ焼結物Tgtにキズ部Df1が含まれるか否かを判断するためには、63個の部分画像を順次、分類モデルに入力することが求められる。
このように、63個の部分画像をすべて分類モデルに入力する場合、処理時間が長くなってしまう。たとえば、工場における生産品の良否判定は、迅速に行われることが好ましいので、判定用画像にキズ部Df1が含まれるか否かを迅速に判断可能な技術が求められる。
これに対して、本発明の第1の実施の形態に係る判定装置では、取得部21は、判定用画像を取得する。前処理部33は、取得部21によって取得された判定用画像が分割された複数の部分画像に対して、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いてフィルタリング処理を行う。前処理部33は、フィルタリング処理後の複数の部分画像の中から第1の所定条件を満たす部分画像を抽出する。そして、判定部22は、畳み込みニューラルネットワークモデルである分類モデルを用いて、前処理部23によって抽出された部分画像が対象事象を含むか否かを判定する。
畳み込みニューラルネットワークモデルには、たとえば、部分画像において、対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、部分画像に対してフィルタリング処理を行う構成により、たとえば、対象事象を含む部分画像では、対象事象を強調させて表示させることができるので、対象事象を含む部分画像を漏れなく抽出することができる。これにより、判定用画像を構成する複数の部分画像のうち、対象事象を含む可能性の高い部分画像に絞って判定処理を行わせることができるので、当該複数の部分画像のすべてを判定する場合と比べて、判定処理の負荷および所要時間を小さくすることができる。すなわち、判定用画像における対象事象の有無を効率よく判定することができる。したがって、画像の判定を良好に行うことができる。
また、本発明の第1の実施の形態に係る判定装置では、畳み込みニューラルネットワークモデルは、ディープラーニングモデルである。
このように、分類モデルが、判定精度をより高めることが可能なディープラーニングモデルである構成により、部分画像における対象事象の有無をより精度よく判定することができる。
また、本発明の第1の実施の形態に係る判定装置では、画像フィルタは、ディープラーニングモデルの中間層における1段目の1または複数の画像フィルタを含む。
中間層における1段目の画像フィルタは、生の部分画像に対して効果を発揮するように作成されている。また、中間層における2段目以降の画像フィルタは、その前段における画像フィルタによってフィルタリング処理された部分画像に対して効果を発揮するように作成されている。上記のように、フィルタリング処理に用いられる画像フィルタが、中間層における1段目の1または複数の画像フィルタを含む構成により、生の部分画像において、対象事象をより強調して表示させることができる。また、たとえば、フィルタリング処理に用いられる画像フィルタが、2段目以降の1または複数の画像フィルタを含む場合においても、これらの画像フィルタの効果をより発揮させることができる。
また、本発明の第1の実施の形態に係る判定装置では、前処理部23は、複数の部分画像の各々に対して、第2の所定条件を満たす複数の画像フィルタを用いてフィルタリング処理を行う。
このような構成により、たとえば、対象事象の強調表示により適した複数の画像フィルタを用いてそれぞれフィルタリング処理された各部分画像を平均化することで、部分画像において、対象事象をより強調して表示させることができる。これにより、対象事象を含む部分画像をより漏れなく抽出することができる。
また、本発明の第1の実施の形態に係る判定装置では、前処理部23は、対象事象を含む画像にフィルタリング処理を行うとフィルタリング処理後の画像が第1の所定条件を満たす画像フィルタを用いて、部分画像にフィルタリング処理を行う。
このような構成により、フィルタリング処理された部分画像において第1の所定条件が満たされる場合に、当該部分画像に対象事象が含まれる可能性をより高めることができるので、対象事象を含む部分画像をより漏れなく抽出することができる。
次に、本発明の他の実施の形態について図面を用いて説明する。なお、図中同一または相当部分には同一符号を付してその説明は繰り返さない。
<第2の実施の形態>
本実施の形態は、第1の実施の形態に係る判定システムと比べて、フィルタリング処理された画像を学習データとして用いて作成された分類モデルを用いる判定システムに関する。以下で説明する内容以外は第1の実施の形態に係る判定システムと同様である。
[構成および基本動作]
図15は、本発明の第2の実施の形態に係る判定システムの構成を示す図である。
図15を参照して、判定システム302は、判定装置102と、蓄積装置131と、学習装置152とを備える。
判定システム302における蓄積装置131の動作は、図1に示す判定システム301における蓄積装置131と同様である。
図16は、本発明の第2の実施の形態に係る判定システムにおける学習装置が分類モデルを作成する際の動作手順を定めたフローチャートである。
図16を参照して、ステップS502〜S512の動作は、図4に示すステップS102〜S112の動作と同様である。
次に、学習装置152は、作成した分類モデルの判定精度を評価する評価処理を行う(ステップS514)。
次に、学習装置152は、たとえば、判定精度が所定のしきい値以上である場合、ディープラーニングモデルの中間層における1段目から第2の所定条件を満たす複数の画像フィルタを抽出する(ステップS516)。
ここでは、学習装置152は、畳み込みフィルタFL1〜FL5のうち、畳み込みフィルタFL1〜FL3を抽出する(図9参照)。
次に、学習装置152は、学習データセットとは別の、新たな学習データセット(以下、新学習データセットとも称する。)を作成する(ステップS518)。
次に、学習装置152は、新学習データセットに含まれる部分画像の各々に対して、畳み込みフィルタFL1〜FL3を用いてそれぞれフィルタリング処理を行う(ステップS520)。
次に、学習装置152は、フィルタリング処理された各部分画像を含む新学習用データセットを用いて、ディープラーニングモデルである分類モデル(以下、処理済用分類モデルとも称する。)を作成する(ステップS522)。
次に、学習装置152は、作成した処理済用分類モデルの判定精度を評価する評価処理を行う(ステップS524)。
次に、学習装置152は、たとえば、判定精度が所定のしきい値以上である場合、当該処理済用分類モデルを採用し、畳み込みフィルタFL1〜FL3、方式M1および処理済用分類モデルを含むモデル情報を判定装置102へ送信する(ステップS526)。
なお、学習装置152は、上記ステップS518において、学習データセットとは別の、新学習データセットを作成する構成であるとしたが、これに限定するものではない。学習装置152は、たとえば、新学習データセットを作成しない構成であってもよい。
この場合、学習装置152は、学習データセットに含まれる部分画像の各々に対して、畳み込みフィルタFL1〜FL3を用いてそれぞれフィルタリング処理を行う(ステップS520)。そして、学習装置152は、フィルタリング処理後の各部分画像を含む学習用データセットを用いて処理済用分類モデルを作成する(ステップS522)。
また、学習装置152は、上記ステップS516において、判定精度が所定のしきい値より小さい場合、たとえば、作成した分類モデルが基準に満たない旨をユーザに通知してもよい。
また、学習装置152は、上記ステップS526において、判定精度が所定のしきい値より小さい場合、たとえば、作成した処理済用分類モデルが基準に満たない旨をユーザに通知してもよい。
[判定装置の構成]
図17は、本発明の第2の実施の形態に係る判定システムにおける判定装置の構成を示す図である。
図17を参照して、判定装置102は、取得部21と、送信部24と、画像分割部25と、判定部32と、前処理部33とを備える。
判定装置102における取得部21、送信部24および画像分割部25の動作は、図10に示す判定装置101における取得部21、送信部24および画像分割部25とそれぞれ同様である。
図18は、本発明の第2の実施の形態に係る判定システムにおける判定装置が判定処理を行う際の動作手順を定めたフローチャートである。
図17および図18を参照して、ステップS602〜S606の動作は、図11に示すステップS202〜S206の動作と同様である。
次に、前処理部33は、画像分割部25から63個の部分画像およびモデル情報を受けると、モデル情報に基づいて、画像分割部25によって分割された部分画像に対して前処理を行う(ステップS608)。
前処理部33は、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いて、画像に対してフィルタリング処理を行う。
詳細には、前処理部33は、取得部21によって取得された判定用画像、より詳細には画像分割部25によって分割された部分画像に対してフィルタリング処理を行う。
前処理部33は、フィルタリング処理後の部分画像すなわち判定用部分画像、およびモデル情報を判定部32へ出力する。前処理の詳細については、後述する。
次に、判定部32は、処理済用分類モデルを用いて、前処理部33によってフィルタリング処理された判定用部分画像を判定する判定処理を行う(ステップS610)。
より詳細には、判定部32は、前処理部33から判定用部分画像およびモデル情報を受けると、モデル情報に基づいて、前処理部33から受けた判定用部分画像がキズ部を含むか否かを判定する。判定処理の詳細については、後述する。
図19は、本発明の第2の実施の形態に係る判定システムにおける判定装置が前処理を行う際の動作手順を定めたフローチャートである。図19は、図18のステップS608における動作の詳細を示している。
図19を参照して、前処理部33は、たとえば、画像分割部25によって分割された部分画像に対して、第2の所定条件を満たす複数の画像フィルタを用いてそれぞれフィルタリング処理を行う。
まず、前処理部33は、63個の部分画像のうちの1つを選択する(ステップS702)。
次に、前処理部33は、選択した部分画像に対して、モデル情報に含まれる畳み込みフィルタFL1〜FL3を用いて、それぞれフィルタリング処理を行うことにより、3つの判定用部分画像を生成し、生成した3つの判定用部分画像を部分画像組としてまとめる(ステップS704)。
次に、前処理部33は、63個の部分画像をすべて選択したか否かを確認する(ステップS706)。
前処理部33は、上記63個の部分画像の中で未選択の部分画像が存在する場合(ステップS706でNO)、上記63個の部分画像において未選択の部分画像を1つ選択する(ステップS702)。
一方、前処理部33は、上記63個の部分画像をすべて選択した場合(ステップS706でYES)、生成した63個の部分画像組、およびモデル情報を判定部32へ出力する。
図20は、本発明の第2の実施の形態に係る判定システムにおける判定装置が判定処理を行う際の動作手順を定めたフローチャートである。図20は、図18のステップS610における動作の詳細を示している。
図20を参照して、判定部32は、たとえば、前処理部33によってフィルタリング処理された各判定用部分画像を、処理済用分類モデルを用いてそれぞれ判定し、各判定結果に基づいて判定用部分画像を総合的に判定する。
まず、判定部32は、前処理部33によって生成された複数の部分画像組のうちの1つを選択する(ステップS802)。
次に、判定部32は、選択した部分画像組に含まれる3つの判定用部分画像のうちの1つを選択する(ステップS804)。以下、選択した判定用部分画像を対象部分画像とも称する。
次に、判定部32は、モデル情報に含まれる処理済用分類モデルに、選択した対象部分画像を入力する(ステップS806)。
次に、判定部32は、処理済用分類モデルに対象部分画像を入力することにより出力された出力スコアが所定のしきい値Th2以上である場合(ステップS808でYES)、対象部分画像にキズ部が含まれることについて「真」であると判定する(ステップS810)。
一方、判定部32は、上記出力スコアが所定のしきい値Th2より小さい場合(ステップS808でNO)、対象部分画像にキズ部が含まれることについて「偽」であると判定する(ステップS812)。
次に、判定部32は、判定結果を保持する(ステップS814)。
次に、判定部32は、選択した部分画像組に含まれる3つの判定用部分画像をすべて選択したか否かを確認する(ステップS816)。
判定部32は、選択した部分画像組に含まれる3つの判定用部分画像の中で未選択の判定用部分画像が存在する場合(ステップS816でNO)、当該部分画像組に含まれる3つの判定用部分画像において未選択の判定用部分画像を1つ選択する(ステップS804)。
一方、判定部32は、選択した部分画像組に含まれる3つの判定用部分画像をすべて選択した場合(ステップS816でYES)、保持する3つの判定結果の論理値の多数決に基づいて、選択した部分画像組を総合判定する。
具体的には、判定部32は、選択した部分画像組において、「真」と判定した回数が、「偽」と判定した回数より多い場合(ステップS818でYES)、当該部分画像組に対して「真」と総合判定し、判定用画像に映った焼結物Tgtをキズ有りと判断する(ステップS824)。
また、判定部32は、選択した部分画像組において、「真」と判定した回数が、「偽」と判定した回数以下である場合(ステップS818でNO)、当該部分画像組に対して「偽」と総合判定し、前処理部33によって生成された複数の部分画像組をすべて選択したか否かを確認する(ステップS820)。
判定部32は、前処理部33によって生成された複数の部分画像組の中で未選択の部分画像組が存在する場合(ステップS820でNO)、当該複数の部分画像組において未選択の部分画像組を1つ選択する(ステップS802)。
一方、判定部32は、前処理部33によって生成された複数の部分画像組をすべて選択した場合(ステップS820でYES)、判定用画像に映った焼結物Tgtを良品と判断する(ステップS822)。
次に、判定部32は、判定用画像に映った焼結物Tgtをキズ有りと判断するか(ステップS824)、または判定用画像に映った焼結物Tgtを良品と判断すると(ステップS822)、判断結果を示す結果情報を送信部24経由で上位装置161へ送信する(ステップS826)。
なお、判定部32は、上記ステップS818において、保持する3つの判定結果の論理値の多数決に基づいて、選択した部分画像組を総合判定する構成であるとしたが、これに限定するものではない。判定部32は、たとえば、保持する3つの判定結果の論理積または論理和に基づいて、選択した部分画像組を総合判定する構成であってもよい。
また、本発明の第2の実施の形態に係る判定システムでは、学習装置152は、畳み込みフィルタFL1〜FL3を用いてそれぞれフィルタリング処理された各部分画像を含む新学習用データセットを用いて、処理済用分類モデルを作成する(ステップS522)構成であるとしたが、これに限定するものではない。学習装置152は、畳み込みフィルタFL1〜FL3を用いてそれぞれフィルタリング処理された各部分画像を平均化した平均化部分画像を生成し、生成した平均化部分画像を含む新学習用データセットを用いて、処理済用分類モデルを作成する構成であってもよい。
この場合、判定装置102における前処理部33は、図19に示すステップS702において、63個の部分画像のうちの1つを選択する。
次に、前処理部33は、ステップS704において、選択した部分画像に対して、畳み込みフィルタFL1〜FL3を用いて、それぞれフィルタリング処理を行うことにより3つの部分画像を生成し、生成した各部分画像を平均化した1つの判定用部分画像を生成する。
前処理部33は、残りの62個の部分画像に対しても同様の処理を行い、63個の判定用部分画像を生成する。
判定部32は、前処理部33によって生成された63個の判定用部分画像のうちの1つを選択し、選択した判定用部分画像を処理済用分類モデルに入力する。
判定部32は、処理済用分類モデルに判定用部分画像を入力することにより出力された出力スコアが所定のしきい値Th2以上である場合、対象部分画像にキズ部が含まれることについて「真」であると判定し、判定用画像に映った焼結物Tgtをキズ有りと判断する。
一方、判定部32は、上記出力スコアが所定のしきい値Th2より小さい場合、対象部分画像にキズ部が含まれることについて「偽」であると判定し、未選択の判定用部分画像のうちの1つを選択し、選択した判定用部分画像を処理済用分類モデルに入力する。
判定部32は、63個の判定用部分画像のすべてを「偽」と判定した場合、判定用画像に映った焼結物Tgtを良品と判断する。
また、本発明の第2の実施の形態に係る判定装置では、判定部32は、ディープラーニングモデルである分類モデルを用いる構成であるとしたが、これに限定するものではない。判定部32は、畳み込みニューラルネットワークモデルである分類モデルを用いる構成であればよい。
また、本発明の第2の実施の形態に係る判定装置は、送信部24を備える構成であるとしたが、これに限定するものではない。判定装置102は、送信部24を備えない構成であってもよい。
また、本発明の第2の実施の形態に係る判定システムでは、判定装置102および学習装置152は、別体であるとしたが、これに限定するものではない。判定装置102は、学習装置152を備える構成であってもよい。
また、本発明の第2の実施の形態に係る判定装置は、取得部21によって取得された判定用部分画像を複数の部分画像に分割する構成であるとしたが、これに限定するものではない。判定装置102は、取得部21によって取得された判定用画像をそのまま総合的に評価する構成であってもよい。
また、本発明の第2の実施の形態に係る判定装置では、前処理部33は、部分画像に対して、複数の画像フィルタを用いてそれぞれフィルタリング処理を行う構成であるとしたが、これに限定するものではない。前処理部33は、部分画像に対して、1つの画像フィルタを用いてフィルタリング処理を行う構成であってもよい。この場合、前処理部33は、判定用部分画像の総合的な判定を行わない。
また、本発明の第2の実施の形態に係る判定装置は、第2の所定条件を満たす複数の画像フィルタを用いてフィルタリング処理を行う構成であるとしたが、これに限定するものではない。判定装置102は、たとえば、中間層におけるすべての畳み込みフィルタ(図8参照)、または中間層から任意に抽出した畳み込みフィルタを用いてフィルタリング処理を行う構成であってもよい。
その他の構成および動作は第1の実施の形態に係る判定システムと同様であるため、ここでは詳細な説明を繰り返さない。
以上のように、本発明の第2の実施の形態に係る判定装置では、取得部21は、判定用画像を取得する。前処理部33は、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いて、画像に対してフィルタリング処理を行う。前処理部33は、取得部21によって取得された判定用画像に対してフィルタリング処理を行う。そして、判定部32は、フィルタリング処理された画像を学習データとして用いて作成された畳み込みニューラルネットワークモデルである分類モデルを用いて、前処理部33によってフィルタリング処理された判定用画像を判定する。
畳み込みニューラルネットワークモデルには、たとえば、画像において、キズまたはひび等の対象事象を強調して表示させるための画像フィルタが含まれる。上記のように、フィルタリング処理されることで対象事象が強調して表示された画像を、学習データとして用いて分類モデルが作成される構成により、より良質の学習データによって分類モデルを機械学習させることができる。また、フィルタリング処理された判定用画像を分類モデルに入力する構成により、対象事象を含む判定用画像を入力する場合には、対象事象が強調して表示された良質な判定用画像を分類モデルに入力することができる。これにより、分類モデルの判定精度を向上させることができるので、判定用画像における対象事象の有無をより正確に判定することができる。したがって、画像の判定を良好に行うことができる。
また、本発明の第2の実施の形態に係る判定装置では、前処理部33は、判定用画像に対して、第2の所定条件を満たす複数の画像フィルタを用いてそれぞれフィルタリング処理を行う。そして、判定部32は、前処理部33によってフィルタリング処理された各判定用画像を、分類モデルを用いてそれぞれ判定し、各判定結果に基づいて判定用画像を総合的に判定する。
このような構成により、たとえば、対象事象の強調表示により適した複数の画像フィルタを用いてそれぞれフィルタリング処理された各判定用画像をそれぞれ判定することで、各判定結果の精度をより高めることができる。また、各判定結果に基づいて判定用画像を総合的に判定する構成により、たとえば、複数の画像フィルタの中に対象事象の強調表示能力の劣る画像フィルタが含まれてしまい、当該画像フィルタによってフィルタリング処理された判定用画像の判定結果が誤った場合においても、他の画像フィルタによってフィルタリング処理された判定用画像の判定結果と合わせて総合的に判定することができるので、強調表示能力の劣る画像フィルタの判定結果を覆してより正確な判定結果を得ることができる。
なお、本発明の第1の実施の形態および第2の実施の形態に係る各装置の構成要素および動作のうち、一部または全部を適宜組み合わせることも可能である。
上記実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記説明ではなく特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
以上の説明は、以下に付記する特徴を含む。
[付記1]
判定用画像を取得する取得部と、
前記取得部によって取得された前記判定用画像が分割された複数の部分画像に対して、畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いてフィルタリング処理を行い、前記フィルタリング処理後の複数の前記部分画像の中から第1の所定条件を満たす前記部分画像を抽出する前処理部と、
前記畳み込みニューラルネットワークモデルである分類モデルを用いて、前記前処理部によって抽出された前記部分画像が対象事象を含むか否かを判定する判定部とを備え、
前記分類モデルは、機械学習によって自動的に作成されるアルゴリズムであり、
前記分類モデルは、前記部分画像を入力するための入力層と、中間層と、スコアを出力するための出力層とを含み、
前記中間層は、少なくとも1段目を含み、
前記1段目は、畳み込み層と、プーリング層とを含み、
前記畳み込み層は、前記画像フィルタである畳み込みフィルタを用いて前記部分画像に対して前記フィルタリング処理を行い、
前記前処理部は、前記複数の部分画像の各々に対して、前記畳み込みフィルタを、前記部分画像全体をカバーするようにスライドさせながら適用し、
前記第1の所定条件は、前記部分画像が所定のしきい値以上の輝度を有する画素を含むことであり、
前記対象事象はキズまたはひびである、判定装置。
[付記2]
判定装置であって、
判定用画像を取得する取得部と、
畳み込みニューラルネットワークモデルにおいて用いられる画像フィルタを用いて、画像に対してフィルタリング処理を行う前処理部とを備え、
前記前処理部は、前記取得部によって取得された前記判定用画像に対して前記フィルタリング処理を行い、
前記判定装置は、さらに、
前記フィルタリング処理された前記画像を学習データとして用いて作成された畳み込みニューラルネットワークモデルである分類モデルを用いて、前記前処理部によって前記フィルタリング処理された前記判定用画像を判定する判定部を備え、
前記畳み込みニューラルネットワークモデルは、機械学習によって自動的に作成されるアルゴリズムであり、
前記畳み込みニューラルネットワークモデルは、画像を入力するための入力層と、中間層と、スコアを出力するための出力層とを含み、
前記中間層は、少なくとも1段目を含み、
前記1段目は、畳み込み層と、プーリング層とを含み、
前記畳み込み層は、前記画像フィルタである畳み込みフィルタを用いて前記画像に対して前記フィルタリング処理を行い、
前記前処理部は、前記判定用画像に対して、前記畳み込みフィルタを、前記判定用画像全体をカバーするようにスライドさせながら適用する、判定装置。