JP6961319B2 - 評価方法及び評価装置 - Google Patents

評価方法及び評価装置 Download PDF

Info

Publication number
JP6961319B2
JP6961319B2 JP2021043561A JP2021043561A JP6961319B2 JP 6961319 B2 JP6961319 B2 JP 6961319B2 JP 2021043561 A JP2021043561 A JP 2021043561A JP 2021043561 A JP2021043561 A JP 2021043561A JP 6961319 B2 JP6961319 B2 JP 6961319B2
Authority
JP
Japan
Prior art keywords
image
singular
evaluation
data
format
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021043561A
Other languages
English (en)
Other versions
JP2021157791A (ja
Inventor
雄史 松下
慶 高橋
将司 富重
崇宏 猿渡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asahi Kasei Corp
Original Assignee
Asahi Kasei Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kasei Corp filed Critical Asahi Kasei Corp
Publication of JP2021157791A publication Critical patent/JP2021157791A/ja
Application granted granted Critical
Publication of JP6961319B2 publication Critical patent/JP6961319B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、評価方法及び評価装置に関する。
対象物を撮像等することによって得られた画像に基づいて、対象物に発生する可能性がある異常状態、又は、他とは異なる特徴を有する部位の有無を評価する欠陥検査システム、異常検査システム、又は、特異部検知システムが知られている。近年、機械学習を用いて、欠陥等を含む、他の大部分の領域と異なる特徴を持った部位(以下、「特異部」という。)の有無を評価するための手法が提案されている。
特許文献1には、撮像部で撮像された対象物の撮像画像から任意の特徴を持った特異部を含む特異部画像を抽出し、特異部画像を入力とした機械学習により特異部の種別を識別する特異部検知システムが記載されている。
国際公開第2019/003813号
しかしながら、特異部の有無の検出精度には、向上の余地がある。また、多数の対象物について、特異部の有無を迅速に評価することが求められる場合もある。
そこで本発明は、特異部の検出精度を維持又は向上しつつ、多数の対象物について、特異部の有無を迅速に評価することが可能になる評価方法及び評価装置を提供することを目的とする。
本開示に係る評価方法は、対象物の第1範囲に対応する第1画像を取得することと、第1方法を用いて、第1画像の画像データであって1画素あたり1つの指標により表現される第1形式の画像データから、第1範囲の一部である第2範囲を抽出することと、機械学習を用いて取得された第2方法を用いて、第2範囲に相当する第2画像の画像データであって1画素あたり複数の指標により表現される第2形式の画像データから、第2範囲内の特異部の有無を評価することと、を含む。
なお、「1画素あたり1つの指標により表現される第1形式の画像データ」は、各画素の色彩の違いが1つの指標によって表現される画像データである。このような画像データは、1つの画素が単一の濃度値により表現される画像データであってよい。このような画像データとしては、例えば、グレースケールデータが挙げられる。また、このような画像データとして、各画素において、RGBの各原色が同一の濃度値(輝度)を有することにより、画像データを構成する各画素を、1つの濃度値で表現可能な画像データが挙げられる。各画素が、RGBの各原色のうち2つの原色が固定された濃度値を有することにより、画像データを構成する各画素を、残り1つの原色が有する1つの濃度値で表現可能な画像データが挙げられる。なお、各画素は、CMY等、他の原色により表現されてもよい。また、各画素の色彩を、色相、彩度、明度の3つのパラメータにより表現する場合には、各画素について、これら3つのパラメータのうちの2つが固定され、各画素の色彩の違いが、残りの1つのパラメータにより表現される画像データが挙げられる。
上述した指標としては、濃度(輝度)、色相、彩度、明度等を用いることができる。
「1画素あたり複数の指標を有する第2形式の画像データ」は、例えば、RGBの各原色を独立した濃度値で表現可能なRGBデータ等のカラーデータを含む。また、CMYデータ等、異なるカラーモデルで表現されるカラーデータを含む。また、色相、彩度、明度のうち、複数のパラメータによって各画素の違いが表現される画像データを含む。
このような方法によれば、第2形式の画像データと比較して情報量の少ない第1形式の画像データを用いることで、第2範囲の抽出の画像処理に要する演算量を抑え、その結果、演算時間を短縮することが可能になる。また、機械学習を用いて取得された第2方法を用いて、第2範囲に相当する第2画像のカラーデータ等、情報量の多い第2形式で表現される画像データから、第2範囲内の特異部の有無を評価する。すなわち、第2形式の第2画像と比較して大きい領域の画像であって、かつ、各画素が有する情報量は少ない第1画像に対して第1の方法の画像処理を適用し、これにより第1画像のうち異常が存在する部分領域を第2画像とすることで探索範囲の絞込を行った後、第1画像よりも相対的に各画素が有する情報量の多い第2画像に対して第2の方法の画像処理を適用し、第2画像に特異部が存在するか否かの評価を行うようにしている。これによれば、機械学習による検出精度を維持又は向上することが可能になる。その結果、特異部の検出精度を維持又は向上しつつ、多数の対象物について、特異部の有無を迅速に評価することが可能になる。例えば、一の対象物について第2方法を実行しながら、同時に、この対象物とは異なる一又は複数の対象物について第1方法を実行してもよい。
なお、本開示における「評価」は、特異部の有無を判断すること、又は、確率情報と共に特異部の有無を判断すること、特異部の有無に関する確率情報を出力することを含む。また、本開示における「評価」は、特異部に複数の種類がある場合には、上記特異部の有無に関する情報および/または特異部の種別に関する情報を出力することを含む。
また、第1方法は、例えば、グレースケールデータから二値データを作成し、所定の大きさの領域内における所定の二値データを有するピクセル数に基づいて第2範囲を抽出する方法であってもよい。例えば、全体、又は、一部のグレースケールデータから決定される閾値に基づいて白黒の二値データを作成し、所定の大きさの領域内に含まれる黒のピクセル数が所定数以上の場合にその領域を第2範囲として抽出する方法であってもよい。また、二値化フィルターにより輪郭を強調して背景との境界を強調してもよい。その他、第1方法は、評価対象となる特異部の特徴に基づいて、グレースケールデータから特異部を含む可能性がある第2範囲を抽出するのに適した手法を選択することができる。例えば、異物のモデル形状に基づくパターン認識により第2範囲を抽出してもよい。
また、グレースケールデータ等、第1形式の画像データに基づいてカラーデータ等、第2形式の画像データを生成してもよい。例えば、グレースケールデータを変換してカラーデータを生成してもよい。第1形式の画像データを第2形式の画像データに変換する方法の一例として、第1形式のグレースケールデータに含まれる指標としての輝度を、RGB等の各原色の輝度に採用することで、カラー画像を生成する方法が挙げられる。
このような構成とすることにより、機械学習を用いて取得された第2方法を用いて、カラーデータから特異部の有無を評価することが可能になるとともに、第1範囲についてカラーデータを取得する必要がない。
また、機械学習は、一の特異部を含む第3画像から、第3画像よりも小さく、かつ、一の特異部の位置が異なる複数の第4画像を生成することと、複数の第4画像のカラーデータ等、第2形式の画像データで表現された画像データを教師データとして内部パラメータの最適化を行うことと、を含んでもよい。
なお、第3画像は、第2範囲以上の大きさの画像であってよい。例えば、第3画像は第2範囲と同じ大きさの画像(一例として256画素×256画素)であってよい。第3画像は、機械学習よって第2の方法に用いる学習済みモデルを得るための一連の演算処理の事前に準備されてもよい。第4画像は、学習済みモデルを得るための一連の演算処理において、第3画像の一部であって第2範囲よりも小さく(一例として、224画素×224画素)、かつ、特異部を含む複数の画像を抽出することにより生成されてよい。これにより、特異部の位置が互いに異なる複数の第4画像が得られる。複数の第4画像は、同一の特異部を含み、かつ、特異部の位置が異なる複数の画像を有してよい。これら第4画像は教師データとして用いられる。また、第3画像を第2範囲よりも大きい画像とし、第4画像を第2範囲と同じ大きさの画像としてもよい。
このような構成とすることにより、偏った位置に特異部が存在する教師データを複数パターン生成することが可能になるから、機械学習による検出精度を維持又は向上することが可能になる。なお、一の特異部を含む第3画像から、一の特異部を含み、かつ、色彩が異なる複数の画像を生成し、これを教師データとしてもよい。
上述のように教師データの態様(特異部の位置、色彩、明度等)を異ならせて教師データの分散の程度を大きくすることで、検出したい特異部の特徴の検出精度を向上させる効果がある。
また、本開示に係る評価装置は、対象物の第1範囲に対応する第1画像を取得する手段と、第1方法を用いて、第1画像の画像データであって1画素あたり1つの指標により表現される第1形式の画像データから、第1範囲の一部である第2範囲を抽出する手段と、機械学習を用いて取得された第2方法を用いて、第2範囲に相当する第2画像の画像データであって、1画素あたり複数の指標により表現される第2形式の画像データから、第2範囲内の特異部の有無を評価する手段と、を備える。
このような装置によれば、第2形式の画像データと比較して情報量の少ない第1形式の画像データを用いることで、第2範囲の抽出の画像処理に要する演算量を抑え、その結果、演算時間を短縮することが可能になる。また、機械学習を用いて取得された第2方法を用いて、第2範囲に相当する第2画像のカラーデータ等、情報量の多い第2形式で表現される画像データから、第2範囲内の特異部の有無を評価する手段を備えるから、機械学習による検出精度を維持又は向上することが可能になる。従って、特異部の検出精度を維持又は向上しつつ、多数の対象物について、特異部の有無を迅速に評価することが可能になる。
また、本開示に係るコンピュータプログラムは、コンピュータに、対象物の第1範囲に対応する第1画像を取得することと、第1方法を用いて、第1画像の画像データであって1画素あたり1つの指標により表現される第1形式の画像データから、第1範囲の一部である第2範囲を抽出することと、機械学習を用いて取得された第2方法を用いて、第2範囲に相当する第2画像の画像データであって1画素あたり複数の指標により表現される第2形式の画像データから、第2範囲内の特異部の有無を評価することと、を実行させる命令を含む。
このようなコンピュータプログラムによれば、第2形式の画像データと比較して情報量の少ない第1形式の画像データを用いることで、第2範囲の抽出の画像処理に要する演算量を抑え、その結果、演算時間を短縮することが可能になる。また、コンピュータに、機械学習を用いて取得された第2方法を用いて、第2範囲に相当する第2画像のカラーデータ等、情報量の多い第2形式で表現される画像データから、第2範囲内の特異部の有無を評価させるから、機械学習による検出精度を維持又は向上することが可能になる。従って、特異部の検出精度を維持又は向上しつつ、多数の対象物について、特異部の有無を迅速に評価することが可能になる。
また、本開示に係る評価システムは、評価装置とサーバを備える。サーバは、機械学習の教師データとして、それぞれが異なる種類の特異部を含む第1画像データ群及び特異部を含まない第2画像データ群を格納する。第1画像データには、同一のラベルが付与されてもよい。第2画像データ群には、第1画像データに付与されるラベルとは異なるラベルが付与される。また、本開示に係る評価システムは、上述した本開示に係るコンピュータプログラムに含まれる実行命令が、プロセッサおよびメモリを備え、無線または有線により互いに通信可能に接続された複数の演算装置が連携して実行される態様を含む。
このような評価システムによれば、上記評価装置と同様の効果を発揮することが可能になる。
また、本開示は、対象物の第1範囲に対応する第1画像を取得するステップと、第1の画像処理方法を用いて、第1画像の画像データであって1画素あたり1つの濃度値を有する第1形式の画像データから、第1範囲の一部である第2範囲を抽出する画像処理をする第1ステップと、機械学習を用いて取得された第2の画像処理方法を用いて、第2範囲に相当する第2画像の画像データであって1画素あたり複数の濃度値を有する第2形式の画像データから、第2範囲内の特異部の有無を評価する画像処理をする第2ステップ、を含む。
このような画像処理方法によれば、第1ステップの演算量を抑え、演算時間を短縮することが可能になる。このため、特異部を有する可能性が低い対象物に対し、演算時間を短縮することが可能になる。また、第2ステップは、情報量の多い第2形式の画像データを利用するから機械学習を用いて取得された第2の画像処理方法を用いた評価精度を維持又は高めることが可能になる。
また、このような画像処理方法をコンピュータに実行させるために、第1の画像処理方法を実装する第1のソフトウェアモジュールは、対象物の第1範囲に対応して取得された第1画像に対して、第1画像の画像データであって1画素あたり1つの濃度値を有する第1形式の画像データから、第1範囲の一部である第2範囲を抽出する画像処理をする第1ステップをコンピュータに実行させるための命令を含む。また、機械学習を用いて取得された第2の画像処理方法を実装する第2のソフトウェアモジュールは、第2範囲に相当する第2画像の画像データであって1画素あたり複数の濃度値を有する第2形式の画像データから、第2範囲内の特異部の有無を評価する画像処理をする第2ステップをコンピュータに実行させるための命令を含む。
評価システム10の機能ブロック図 評価システム10の評価装置のハードウェア構成を示すブロック図 本実施形態に示される評価方法のフローチャート 第1範囲AR1及び第2範囲AR2乃至AR4の模式図 第2範囲AR2及び特異部候補C2 第2範囲AR3及び特異部候補C3 第2範囲AR4及び特異部候補C4 本実施形態に係る評価方法による評価結果を示すグラフ 教師データの生成方法を示す模式図 教師データの生成方法を示す模式図
以下、本発明の実施形態について図面を用いて説明する。以下の実施形態は、本発明を説明するための例示であり、本発明をその実施形態のみに限定する趣旨ではない。
図1は、本実施形態に係る特異部の評価システム10の機能ブロック図である。この評価システム10は、液体を収容するペットボトル(「対象物」の一例)の内部に異物が混入しているか否かを判断するための評価システムである。但し、後述するように、本発明は、様々な対象物及び様々な特異部に適用することが可能である。
この評価システム10は、撮像部12、特異部検出部14、特異部画像抽出部16、画像データ変換部18及び特異部有無評価部20を有する評価装置を備えている。更に、評価システム10は、特異部有無評価部20にネットワークNを介して接続されるサーバ装置を更に備えている。サーバ装置は、正常サンプルの画像を格納するデータベースDB1及び異常サンプルの画像を格納するデータベースDB2を備えている。本実施の形態において、正常サンプルとは、特異部を含まない、換言すると、対象物が異常を有しないサンプルであり、良品に該当するサンプルである。また、異常サンプルとは、特異部を含む、換言すると、対象物が異常を有するサンプルであり、不良品に該当するサンプルである。
撮像部12は、対象物の一部又は全部撮像し、画像を取得する。撮像部12は、例えば、ラインセンサ又はエリアセンサ等のイメージセンサ等から構成することができる。例えば、対象物が中心軸に対し回転対称に形成されるペットボトルのような形状を有する対象物の場合、ペットボトルを中心軸周りに回転させながら、ラインセンサで側面を撮像することにより、対象物の側面全体(「第1範囲」の一例)に対応する画像を取得することができる。本実施形態の場合、撮像部12はラインセンサから構成され、対象物の画像として、5000画素×5000画素の各画素について、8ビット(256階調)の輝度値(「濃度値」の一例)を有するグレースケールデータ(「第1形式の画像データ」の一例)を取得する。なお、撮像部12により対象物を撮像して画像を取得することに替えて、対象物の画像を格納するデータベース等から、対象物の画像を取得してもよい。また、撮像部12によりカラーデータを撮像し、これをグレースケールデータに変換することにより、1画素あたり1つの濃度値など、1つの指標により表現される第1形式の画像データを取得してもよい。例えば、ITU(International Telecommunication Union)が策定したBT.601("Studio encoding parameters of digital television for standard 4:3 and wide screen 16:9 aspect ratio")規格で規定される数式(RGBの輝度値の重み付け平均)に従って、カラーデータをグレースケールデータに変換することにより、第1形式の画像データを取得してもよい。ここで、第1形式の画像データは、各画素の違いが1つの指標によって表現される画像データである。このため、1つの画素が濃度値という単一の指標によって表現される場合の他、輝度、色相、彩度又は明度によって表現される画像データを第1形式の画像データとして用いてもよい。また、RGBデータなどであっても、RGBの各原色のうち2つの原色が固定された濃度値を有することにより、画像データを構成する各画素を、残り1つの原色が有する1つの濃度値で表現可能な画像データを、第1形式の画像データとして用いてもよい。更に、色相、彩度、明度の3つのパラメータにより表現される場合であっても、これら3つのパラメータのうちの2つのパラメータが固定され、残り1つのパラメータによって表現可能な画像データを、第1形式の画像データとして用いてもよい。
特異部検出部14は、撮像部12で取得された対象物の画像から、任意の特徴を持った特異部を検出する。ここで特異部とは、形状、輝度及び色の少なくとも一つの観点から、周囲の領域とは異なる特徴をもった部位のことをいう。特異部は、欠陥であってもよいし、人為的に設定されたマークやパターン等であってもよい。形状に関する特異部は、形状が有する特性(例えば、体積、面積、高さ、粒子径、アスペクト比、真円度、輪郭形状等)において、周囲の領域とは異なる特性を有する部分のことをいう。同様に、輝度については、明るさ、ヒストグラム等の輝度に関する特性において、色については、スペクトル、中心波長、最大波長等の色に関する特性において、周囲の領域とは異なる特性を有する部分のことをいう。本実施形態における特異部は、ペットボトル内部の液体中に含まれ得る塵、人毛及び容器の汚れ等である。
特異部を検出する手法は、様々な方法を採用することが可能である。本実施形態における特異部検出部14は、例えば、第1範囲であるペットボトルの側面全体の画像として、各画素に対応して取得されたグレースケールデータを、適応的に設定された閾値を用いて二値化し、所定領域内に含まれる二値化データの画素数に応じて、特異部を検出する(「第1方法」の一例)。例えば、特異部検出部14は、所定の対象画素を中心とする所定の周辺領域に含まれる複数の画素の輝度の平均値を取得する。次に、中心とされた対象画素の輝度と、算出された輝度の平均値との差分を取得する。この差分の値が、予め定められた所定の閾値を上回るか否かに基づいて、対象画素を二値化する処理実行し、これを各画素について繰り返す。このように、周囲の画素に基づいて閾値を設定することにより、ペットボトルに含まれる液体の色など、背景部分の影響を抑え、より精度良く特異部を検出することが可能になる。そして特異部検出部14は、所定領域内に含まれる黒画素(又は白画素)の数が所定個以上である場合に、特異部が存在する可能性があると判断する。なお、閾値の設定方法や特異部の検出手法は、評価目的に応じて適宜選択可能である。例えば、なるべく検出漏れを抑制したい場合、閾値を小さく設定し、特異部を検出されやすくすることができる。
また、特異部を検出する手法は、特異部の特徴に応じて様々な手法を採用することが可能である。例えば、特異部が特徴的な幾何学形状を有することが予めわかっている場合、その形状のパターンマッチングによって、特異部を検出するように特異部検出部14を構成してもよい。
特異部画像抽出部16は、ペットボトルの側面全体である第1範囲から、特異部検出部14で検出された特異部の全部又は一部を含む領域(「第2範囲」の一例)を抽出する。本実施形態においては、特異部検出部14で検出された特異部を含む256画素×256画素の領域を特異部画像として抽出する。抽出される領域及びそれに対応する特異部画像の数は、0個の場合もあるし、複数個の場合もある。
画像データ変換部18は、画像に含まれる各画素の色彩の違いを1画素あたり1つの指標によって表現する第1形式の画像データを、各画素の色彩の違いを1画素あたり複数の指標によって表現する第2形式の画像データに変換する。
本実施形態において、画像データ変換部18は、グレースケールデータ等、1画素あたり1つの濃度値を有する第1形式の画像データを、各8ビットのRGBのカラーデータ(以下、「RGBデータ」という。)等、1画素あたり複数の濃度値を有する第2形式の画像データに変換する。例えば、濃い灰色を表現する所定のグレースケールデータであって、169の輝度値を有する画像データは、RGBデータ、CMYデータ、において、例えば、169、169、169という3つの輝度値を有するように変換されることができる。このように、1つの指標を有するグレースケールを複数の指標を有するカラーデータに変換する場合に、例えば、グレースケールデータが有する1つの指標としての輝度を、カラーデータを表現する3つの原色の輝度として用いることで、カラーデータを得ることができる。同様に、特異部画像抽出部16は、第2範囲に含まれる各画素について、所定の変換テーブル、変換行列、変換式又は変換マップ等を用いて、元のグレースケールデータを、これと同一又は近似のRGBデータに変換する。以上のようにして、画像データ変換部18は、1又は複数の第2範囲について、1画素あたり複数の濃度値を有する第2形式の画像データを生成する。なお、第1形式の画像データの各画素が、例えば、HSVに対応する色相、彩度、明度のうちの1つのパラメータによって表現されている場合には、HSV表現とRGB表現との公知の換算式を用いることにより、第1形式の画像データを第2形式の画像データに変換してよい。
本実施の形態における評価方法は、第2の方法が適用され、第2範囲に対応する第2形式の画像データのデータ量が、第1の方法が適用され、第1範囲に対応する第1形式の画像データよりも小さくなるように構成されている。より具体的には、本実施の形態における評価方法は、第2範囲に対応する第2形式の画像データの各画素が有するデータ量が、第1範囲に対応する第1形式の画像データの各画素が有するデータ量よりも多くなるようにし、かつ、第2範囲に対応する第2形式の画像データの大きさ(画素数)が、第1形式の画像データのそれよりも小さくなるように構成されている。このとき、第2形式の画像データの各画素が有するデータ量の増加分よりも、第2範囲の大きさを第1範囲よりも小さくすることによるデータ量の削減分が上回るようにする。このような演算処理により、第2範囲に対応する第2形式の画像データであって、第1範囲に対応する第1形式の画像データよりもデータ量が小さい第2形式の画像データを得る。
特異部有無評価部20は、機械学習を用いて生成されたモデルに基づいて、第2範囲内に特異部が含まれているか否かを評価する。本実施形態では、特異部有無評価部20は、畳み込みニューラルネットワークを備える。畳み込みニューラルネットワークは、第2範囲について第2形式の画像データを入力するための入力層と、特異部の有無を出力するための出力層と、両層を結合する中間層を備える。中間層は、フィルターをスライドさせて重複部分の積和を特徴量として算出する畳み込み演算を行って特徴量を有するマップを生成する畳み込み層と、畳み込み層から出力された二次元配列データの最大値を抽出するプーリング層との組み合わせを複数備え、内部パラメータを重み係数として結合して出力層に評価結果を提供する結合層とを備える。なお、ニューラルネットワークは、畳み込みニューラルネットワーク(Convolutional Neural Network)の他、RNN(Recurrent Neural Network)、Elman network、Jordan network、ESN(Echo State Network)、LSTM(Long Short Term Memory network)、BRNN(Bi-directional RNN)などから構成することができる。また、出力層は、特異部の有無という2種類の結果を出力する場合に限られない。例えば、特異部の種類に応じて3種類以上の結果を出力するように構成してもよく、特定の画素または特定の画素の集合体が、特異部に該当するかに関する数値情報を出力するように構成してもよい。
サーバ装置は、正常な対象物のサンプル画像を格納するデータベースDB1及び異常な対象物のサンプル画像を格納するデータベースDB2を備えている。データベースDB1は、特異部を含まない第2形式の画像データを格納する。本実施形態では、データベースDB1は、対象物であるペットボトルの側面を撮像して取得される、224画素×224画素の特異部を含まないRGBデータを格納する。例えば、ペットボトルの容器に収容される液体が炭酸を含む場合、気泡は、特異部ではない。このため、データベースDB1は、特異部を含まない画像データとして、気泡を含むRGBデータを格納する。
データベースDB2は、特異部を含む第2形式の画像データを格納する。本実施形態では、データベースDB2は、対象物であるペットボトルの側面を撮像して取得される、224画素×224画素の特異部の全部又は一部を含むRGBデータである。特異部は、例えば、人毛、塵、容器の汚れである。従って、データベースDB2は、人毛を含む複数のRGBデータ、塵を含む複数のRGBデータ、容器の汚れを含む複数のRGBデータをそれぞれ格納する。これらデータベースDB1及びデータベースDB2に格納される画像データの生成方法については後述する。
特異部有無評価部20は、データベースDB1及びデータベースDB2に格納される第2形式の画像データを教師データとして学習することにより、特異部の有無を評価するための内部パラメータを含む学習済みモデルを取得している。内部パラメータは、例えば、畳み込み層におけるバイアス値、結合層における重み付け係数等である。教師データを追加することにより内部パラメータは、変動する。
本実施の形態における学習済みモデルは、所定の大きさの入力画像に含まれる特異部の有無に関する情報を出力するように構成された学習済みモデルである。本実施の形態における学習済みモデルは、複数の第2形式の画像データのそれぞれに対して特異部の有無がラベル付けされた教師データを用いた機械学習により生成される。なお、学習済みモデルは、入力画像に含まれる特異部の有無に関する情報および/または特異部の種別に関する情報を出力するようにしてもよい。このような学習済みモデルは、複数の第2形式の画像データのそれぞれに対して、特異部の有無および/または特異部の種別がラベル付けされた教師データを用いた機械学習により生成される。
図2は、評価システム10を構成する評価装置を実現するためのハードウェア構成を示すブロック図である。撮像部12は、上述したとおり、対象物を撮像して対象物の第1範囲に対応する第1画像を取得するものであり、例えば、ラインカメラから構成される。プロセッサ22は、記憶部24に記憶されたコンピュータプログラム(特異部有無の評価を行うための学習済みモデルを含む。)を実行して、本実施形態に示される各演算処理を実行する。従って、プロセッサ22及び記憶部24は、協働して、特異部検出部14、特異部画像抽出部16、画像データ変換部18及び特異部有無評価部20として機能する。プロセッサ22は、例えば、複数の演算コアを備えるASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)又は量子コンピュータ等から構成される。記憶部24は、本実施形態に示される各演算処理を実行するためのコンピュータプログラム(特異部有無の評価を行うための学習済みモデルを含む。)を含む各命令その他の情報を記憶する。記憶部24は、NANDフラッシュメモリ、FeRAM、MRAM等の電気的に情報を記録及び読取可能な不揮発性半導体記憶素子(一時的でない記憶素子)又はHDD(Hard Disc Drive)等の磁気記憶素子から構成される。RAM26は、本実施形態に示される各演算処理等のために使用するデータその他の情報を一次記憶するためのSRAM(Static Random Access Memory)及びDRAM(Dynamic Random Access Memory)等の揮発性半導体記憶素子から構成される。表示部28は、プロセッサ22による演算結果を表示するためのディスプレイを備える。演算結果は、特異部有無評価部20による評価結果を含む。通信I/F部30は、ネットワークNを介して、データベースDB1及びデータベースDB2に接続され、データベースDB1及びデータベースDB2から情報を受け取ることができる。入力部32は、評価者が評価システム10に情報を入力するためのキーボード等の入力機器を備える。これら各構成は、バスを介して相互にデータ送受信可能に接続される。ただし、一部構成は、ネットワークNを介して遠隔地に設けられてもよいし、他の構成と一体化されてもよい。また、プロセッサ22によって実行される機能の一部は、撮像部12等、他の構成によって実行されてもよい。
以上のような評価システム10を用いた特異部の評価方法について説明する。図3は、本実施形態に示される評価方法のフローチャートである。
まず、撮像部12は、対象物を撮像する。具体的には、対象物であるペットボトルを中心軸周りに回転させながら、撮像部12のラインカメラによってペットボトルの側面を撮像して、第1範囲に対応する第1画像を撮像する。本実施形態において、撮像部12は、第1範囲に対応する第1画像として5000画素×5000画素の画像を撮像する。また、本実施形態において、撮像部12は、5000画素×5000画素の各画素について、8ビット(256階調)の輝度値を有するグレースケールデータを第1画像として取得する(ステップS1)。ここで、ペットボトルの容器は、透光性を有する。このため、撮像部12は、ペットボトルの容器及びその内部に収容される液体の画像を取得する。
次いで、特異部検出部14は、撮像部12によって取得されたペットボトルの側面の画像から、特異部を検出する(ステップS2)。具体的には、各画素に対応して取得されたグレースケールデータを、適応的に設定された閾値を用いて二値化し、所定領域内に含まれる閾値を越えた画素数が所定個以上である場合に、特異部を検出する。
次いで、特異部検出部14は、撮像部12によって取得されたペットボトルの側面の画像内に特異部が検出されたか否か判断する(ステップS3)。本実施形態において、特異部検出部14は、ルールベースの画像処理によって第1範囲に対応する第1画像に含まれる特異部を検出する。
特異部が検出されず、従って、特異部を含む第2範囲が抽出されなかった場合(NO)、その対象物について検査は終了する。なお、特異部が検出されなかった対象物について簡易の目視検査を実行してもよい。
特異部が検出された場合(YES)、特異部画像抽出部16は、第1範囲に対応する第1画像(本実施の形態では撮像部12によって撮像された画像)から、特異部検出部14によって検出された特異部の全部又は一部を含む領域を抽出する(ステップS4)。具体的には、特異部画像抽出部16は、特異部検出部14で検出された一又は複数の特異部を含む256画素×256画素の領域を特異部画像として抽出する。図4Aは、撮像部12によって取得されたペットボトルの側面に相当する第1範囲AR1と、第1範囲AR1に相当する第1形式の画像データから抽出された3つの第2範囲AR2乃至AR4を示す。図4B乃至図4Dは、第2範囲AR2乃至AR4及びそれに含まれる特異部候補C2乃至C4の画像を示している。なお、複数の第2範囲は、一部が互いに重複するように抽出されてもよい。これにより、第1範囲に対応する第1画像のうち、所定の画像処理によって特異部が存在する領域の絞込が行われる。
次いで、画像データ変換部18は、第2範囲AR2乃至AR4に相当する各画素のグレースケールデータを、RGBデータに変換し、第2範囲AR2乃至AR4に相当する各画素のRGBデータを生成する(ステップS5)。
次いで、特異部有無評価部20は、機械学習を用いて生成された学習済みモデルに基づいて、第2範囲内に特異部が含まれているか否かを評価する(ステップS6)。
いずれの第2範囲AR2乃至AR4にも、特異部が含まれていないと評価された場合(NO)、その対象物について特異部が無いと評価され、検査は終了する。なお、特異部が無いと評価された対象物について簡易の目視検査を実行してもよい。
いずれかの第2範囲AR2乃至AR4に特異部が含まれていると評価された場合(YES)、その旨の情報を出力し、検査者による目視検査を促す。これにより、検査者による目視検査を行う(ステップS7)。このとき、表示部28は、図4Aに示されるように、第1範囲AR1と、特異部が含まれていると評価された第2範囲(例えば、第2範囲AR3及び第2範囲AR4)の第1範囲AR1内における位置を表示するように構成される。このように構成することで、検査者は、特異部が含まれていると評価された領域を容易に特定することができる。このため、目視による検査時間を低減することが可能になる。なお、特異部が含まれていると評価された第2範囲の第1範囲AR1内における位置を表示しない場合、検査者は、広範囲にわたり、実際に特異部が含まれているか定かでない領域を検査しなければならない。
検査者は、特異部が含まれていると評価された第2範囲に、実際に特異部が含まれていたか否かを判断する。このとき検査者は、特異部が含まれていると評価された第2範囲に特異部が実際に含まれていたか否かを示す情報を入力部32を用いて入力することができる。入力された情報及び対応する第2範囲のRGBデータは、教師データとして、データベースDB1又はデータベースDB2に格納されるように構成することができる。
以上のような評価システム10及び評価方法によれば、第2形式の画像データと比較して情報量の少ない第1形式の画像データを用いて、機械学習による第2方法の評価対象領域を抽出するため、第2範囲の抽出の画像処理に要する演算量を抑え、その結果、演算時間を短縮することが可能になる。また、第2範囲以外の画像データを削減することが可能になる。機械学習による第2方法の評価にあたっては、必要な情報が付加され、情報量の多い第2形式の画像データを用いるから、評価精度を維持又は向上することが可能になる。従って、特異部の検出精度を維持又は向上しつつ、多数の対象物について、特異部の有無を迅速に評価することが可能になる。
また、本実施の形態における評価方法では、第2の方法として、教師データ(訓練データ)に基づいて、入力データに対する推定ルールを自律的に生成可能な、機械学習により得られたモデルを用いる方法を採用する。さらに、機械学習に用いる訓練データとして、第1形式の画像データと比較して各画素の違いを示すデータ量が多い第2形式の画像データを用いる。これにより、以下の図5に基づいて説明するように、特異部の見逃し率、及び、過検出率をいずれも低減することができる。
また、第2形式の画像データは、第1形式の画像データよりも画素数の少ない画像データ(より典型的には、大きさ範囲の小さい画像データ)とすることで、各画素のデータ量は増加しながらも、第1形式の画像データからのデータ量の総量を少なくするようにしている。これにより、第2の方法を適用して第2の画像に含まれる特異部の評価の精度を向上させながら、学習済みモデルを生成するのにかかる時間(学習時間)の過度な増大を防止することができる。
特に、本実施の形態における評価方法を製造ラインに実装して製品検査に用いることを想定すると、製造対象の製品のロット変更や型式変更に臨機応変に対応すべく、学習済みモデルを生成するための時間は短いことが好ましい。上記のように、学習時間の増大を抑制することで、製造ラインへの実装に適した評価方法を実現することができる。
なお、上述した効果をさらに高める観点から、第1の方法としては、製造対象の製品のロット変更や型式変更に応じて変更すべき要素が少なく、また、データ量の大きい画像処理にも適用可能なルールベースの画像処理方法を用いることが、好ましい。
図5は、特異部有無評価部20を用いて、5000個以上の対象物について、グレースケールデータで特異部の有無を評価した場合と、RGBデータで特異部の有無を評価した場合における特異部の見逃し率及び過検出率を示すグラフである。
グレースケールデータで特異部の有無を評価した場合、特異部が存在するにもかかわらず、特異部が無いと評価される見逃し率が0.05%存在した。一方で、RGBデータで特異部の有無を評価した場合、特異部が存在するにもかかわらず、特異部が無いと評価される見逃し率をゼロにすることができた。大量に生産される対象物のうちの1個のみに特異部が存在したとしても大きな問題に生じる可能性があるところ、本実施形態に係る評価システム10及び評価方法を使用することにより、特異部の見逃し率をゼロにすることができた。その理由は、機械学習を用いて取得された第2方法による評価を実行する際に、情報量の多い第2形式の画像データを用いたためであると推察される。一方で、第1方法を実行する際は、情報量の少ない第1形式の画像データを用いることで、演算時間を短縮することが可能になる。また、特異部が無いにも関わらず特異部が有ると評価される過検出率も、グレースケールデータの場合、約5.6%であった一方で、RGBデータの場合、約3.6%と大きく減少した。過検出がなされると、長大な時間を要する目視検査を実行するため、過検出を減少することによって、大幅に評価時間を短縮することが可能になる。このように、見逃し率、過検出率ともに向上することが確認された。
また、本実施形態では、第1形式の画像データに基づいて第2形式の画像データを生成するようにしたから、第1方法で第2範囲が抽出されないときに第2形式の画像データを生成する必要がなくなる。また、第1方法で実行された画像処理後の画像データを利用して第2形式の画像データを生成するから、第2方法を実行する際に、同様の画像処理を省略又は簡略化することが可能になる。このため、演算時間を一層短縮することが可能になる。このため、大量の対象物を効率的に評価することが可能になる。
なお、撮像部12により撮像される領域を通過するように複数の対象物を移動させながら撮像することにより、複数の対象物を同時に撮像可能としてもよい。これによれば、複数の対象物を効率的に評価可能となる。その際、中心軸周りに対象物を回転させながら移動させることにより、側面全体を評価可能に評価システム10を構成してもよい。また、第1の対象物について、撮像部12、特異部検出部14を用いて、撮像及び特異部の検出を実行しながら、同時に、他の対象物について、特異部有無評価部20を用いて特異部の有無の評価を実行してもよい。例えば、特異部検出部14を用いて検出された特異部を含む第2画像について、順に、特異部有無評価部20を用いて特異部の有無の評価を実行することで、特異部の検出と特異部の有無の評価とを並行して実行してよい。
[教師データの生成方法]
以下、データベースDB1及びデータベースDB2に格納する教師データの生成方法について説明する。
図6Aは、図4Cに示される第2範囲AR3に相当する画像(「第3画像」の一例)のRGBデータに基づいて教師データを生成する方法を説明する模式図である。上述したように、第2範囲AR3は、256画素×256画素の領域を有し、特異部候補C2を含む特異部画像である。なお、教師データを生成するための元画像である第3画像は、必ずしも、第2範囲AR3と同じ大きさでなくてもよい。例えば、第2範囲AR3より大きい画像に基づいて教師データを生成してもよい。
本実施形態において、教師データは、第2範囲AR3から、第2範囲AR3よりも小さく、かつ、特異部候補C3の位置が異なる4つの第4画像を切り出すことによって生成される。具体的には、1つ目の第4画像として、第2範囲AR3の頂点V1を頂点とする228画素×228画素の範囲の画像を切り出す。この第4画像は、同図に示される頂点V1及び頂点V7を対角の頂点とし、かつ、特異部候補C3を含む画像である。同様に2つ目の第4画像として、第2範囲AR3の頂点V2及び頂点V8を対角の頂点とし、3つ目の第4画像として、第2範囲AR3の頂点V3及び頂点V5を対角の頂点とし、4つ目の第4画像として、第2範囲AR3の頂点V4及び頂点V6を対角の頂点とする、それぞれ228画素×228画素の大きさを有する画像を切り出すことによって、教師データとなる4つのRGBデータを生成する。目視等により、特異部候補C3が特異部であることが確認済みの場合、生成された教師データを異常サンプルを格納するデータベースDB2に格納する。特異部候補C3が、気泡等、特異部でないことが確認済みの場合、正常サンプルを格納するデータベースDB1に格納する。
このようにして、1つの第3画像に基づいて、4つの教師データを生成することが可能になる。各教師データにおける特異部候補C3の位置は異なる。一方で、特異部画像抽出部16で抽出される画像中の特異部の位置は、一定ではない。このため、特異部候補C3の位置が異なる複数の教師データを生成することによって、特異部有無評価部20による評価精度を高めることが可能になる。
図6Bは、図6Aに示される第3画像を90度回転させた画像である。この画像に基づいて、同様に、4つの第4画像を切り出すことによって、更に、特異部候補C3の位置及び角度が異なる4つの教師データを生成することが可能になる。一方で、特異部画像抽出部16で抽出される画像中の特異部の位置及び角度は、一定ではない。このため、特異部候補C3の角度が異なる複数の教師データを生成することによって、特異部有無評価部20による評価精度を高めることが可能になる。
更に、生成された各教師データのそれぞれについて、色彩を変動させることにより、さらに多くの教師データを生成してもよい。例えば、RGBの各原色の輝度により色彩が表現されるカラーデータのRGBのそれぞれのレイヤにおいて、輝度値及びコントラストを変動させることにより、より多くの教師データを生成し、評価システム10による評価のロバスト性を向上させることが可能になる。特に、対象物が液体を収容する物である場合、又は、対象物が液体を収容しない場合であっても、透光性を有する容器を有する場合、液体部分又は透光性を有する容器で光が屈折するために、光の当たり方等の周囲の環境に応じて、RGBのそれぞれのレイヤの輝度値等が異なる場合がある。従って、このような教師データを生成することにより、特異部有無評価部20による評価精度を高めることが可能になる。色彩の変動は、例えば、輝度値及びコントラストをランダムに変動させてよく、また、例えば、RGBの各原色の輝度値それぞれに同一の値を加算または減算させてるようにして色彩を変動させてもよいい。なお、1つの第3画像から複数の第4画像を生成する際、特異部を含む異常サンプルの教師データの生成数(例えば、12の教師データ)を、特異部を含まない正常サンプルの教師データの生成数(例えば、8の教師データ)より大きくしてもよい。このように構成することで、特異部有無評価部20が、特異部を有する評価をするように過学習させ、特異部を見逃す可能性を低下させることが可能になる。
[第1変形例]
以下、第1実施形態の変形例について説明する。第1実施形態では、撮像部12が備えるラインセンサを用いて対象物のグレースケールデータを取得した。本変形例における撮像部12は、二次元のRGBデータを取得するエリアセンサ(例えば、CMOSイメージセンサ)を用いて対象物の第1画像を取得する。特異部検出部14は、撮像部12によって取得されたRGBデータに基づいて、第1画像のグレースケールデータ(「第1形式の画像データ」の一例)を生成し、これに基づいて特異部を検出する。また、特異部有無評価部20は、検出された特異部を含む第2範囲に相当するRGBデータ(「第2形式の画像データ」の一例)を撮像部12から取得し、これに基づいて第2範囲の特異部の有無を評価する。
このような態様によっても、特異部の検出精度を維持又は向上しつつ、多数の対象物について、特異部の有無を迅速に評価することが可能になる評価方法及び評価装置を提供することが可能になる。また、撮像部12によって取得された高分解能のカラーデータや異なるカラーデータ(例えば、CMYKカラーモデルによるカラーデータ)に基づいて第2範囲内の特異部の有無を評価することが可能になるから、評価対象によっては、第2方法による評価精度を高めることが可能になる。
[適用範囲]
本開示に係る評価システム及び評価装置は、様々な対象物を評価するために適用することが可能である。例えば、ポリ塩化ビニリデン(PVDC)の透明フィルムの製造工程において、透明フィルムに含まれ得る異物、傷、皺等を特異部として検出するために使用することができる。
また、フラットパネルディスプレイ用等の高分子フィルムの製造工程において、高分子フィルムに含まれ得る異物、傷等を特異部として検出するために使用することができる。
また、ガラス製品等の製造工程において、ガラスに含まれ得る割れやキズ等を特異部として検出するために使用することができる。この場合、ガラス製品に照明を当てて撮像し、特異部において輝度が他の部位よりも高くなることを利用して特異部を検出することができる。
また、クロマトグラフィーの分離膜の製造工程において、膜表面の変形や気泡を特異部として検出するために使用することができる。この場合、分離膜に照明を当てて撮像し、特異部において輝度が他の部位よりも低く、又は、高くなることを利用して特異部を検出することができる。
また、本開示は、その要旨を逸脱しない限り、さまざまな変形が可能である。たとえば、当業者の通常の創作能力の範囲内で、ある実施形態における一部の構成要素を、他の実施形態に追加することができる。また、ある実施形態における一部の構成要素を、他の実施形態の対応する構成要素と置換することができる。
例えば、本開示に係る評価方法は、
対象物の第1範囲に対応する画像を取得することと、
第1方法を用いて、前記第1範囲に対応する画像であって、各画素の色彩の違いが第1の指標により表現される第1の画像から、前記第1範囲の一部である第2範囲を抽出することと、
前記第2範囲に対応する画像であって、各画素の色彩の違いが前記第1指標により表現される第2の画像に、前記各画素の色彩の違いを示す第2の指標を付与することで、前記各画素の色彩の違いが前記第1の指標および前記第2の指標により表現される第3画像の画像を得ることと、
機械学習を用いて取得される第2の方法を用いて、前記第3の画像内の特異部の有無を評価することと、
を含む評価方法であってよい。
ここで、第1方法は、好ましくはルールベースの方法である。また、第1の方法は、好ましくは、第2の方法によってその有無が判断されるべき特異部の候補が含まれている第2範囲を抽出する方法である。
また、第1の画像は、好ましくはグレースケールの画像である。このとき、第1の指標は各画素の色彩の違いを表現する画素の輝度であってよい。また、第2の画像は、好ましくはカラー画像である。このとき、第2の指標は各画素の色彩を表現する三原色のそれぞれの輝度であってよい。なお、第2の指標が第1の指標を包含する場合には、第2の指標の付与は、第2指標から第1指標を除いた指標の付与であってよい。
また、第2の画像に各画素の色彩の違いを示す第2の指標の付与は、これにより得られる第3の画像のデータ量が、第1の画像のデータ量を超えない範囲で行われることが好ましい。
例えば、本開示に係る評価方法は、
対象物の第1画像を取得することと、
第1方法を用いて、前記第1画像であって、各画素の色彩が第1の色情報により表現される第1形式の前記第1画像の一部を、特異部が存在する候補領域の第2画像として抽出することと、
前記第1形式の前記第2画像に、各画素の色彩を表す第2の色情報を付与することで、各画素の色彩が、前記第1の色情報および前記第2の色情報により表現される第2形式の第3画像を得ることと、
機械学習を用いて取得された第2方法を用いて、前記第2形式の前記第3画像から、特異部の有無を識別することと、
を含む評価方法、であってよい。
例えば、本開示に係る評価手段は、
対象物の第1画像を取得する手段と、
第1方法を用いて、前記第1画像であって、各画素の色彩が第1の色情報により表現される第1形式の前記第1画像の一部を、特異部が存在する候補領域の第2画像として抽出する手段と、
前記第1形式の前記第2画像に、各画素の色彩を表す第2の色情報を付与することで、各画素の色彩が、前記第1の色情報および前記第2の色情報により表現される第2形式の第3画像を取得する手段と、
機械学習を用いて取得された第2方法を用いて、前記第2形式の前記第3画像から、特異部の有無を識別する手段と、
を含む評価装置、であってよい。
ここで第1画像は、対象物の第1範囲に対応する画像であってよく、第2画像および第3画像は、第1範囲の一部である第2範囲に対応する画像であってよい。
また、第1および第2の色情報は、それぞれ、各画素の色彩の違いを示す指標の情報であってよい。
上述した「指標」は、「色情報」と表現される場合がある。
上述した「評価」は、識別を含む。
上述した実施形態に関し、さらに以下の付記を開示する。
(付記1)
対象物の第1画像を取得することと、
第1方法を用いて、前記第1画像であって1画素あたり1つの指標により表現される第1形式の前記第1画像の一部を、第2画像として抽出することと、
機械学習を用いて取得された第2方法を用いて、前記第2画像であって1画素あたり複数の指標により表現される第2形式の前記第2画像から、特異部の有無を評価することと、
を含む評価方法。
(付記2)
前記第1形式の前記第1画像に基づいて前記第2形式の前記第2画像を生成すること、
を更に含む付記1に記載の評価方法。
(付記3)
前記第2画像の抽出は、前記第1画像から、複数の前記第2画像を抽出し、
前記特異部の有無の評価は、複数の前記第2画像に対して行われる、
付記1又は2に記載の評価方法。
(付記4)
前記第2画像の特異部の有無の評価結果に基づいて、目視による評価を行うか否かを判定すること、
を更に含む付記1乃至3の何れか一項に記載の評価方法。
(付記5)
前記第1方法を用いて、前記第1画像から、前記第2画像を抽出できない場合に、前記対象物の前記第1画像の範囲に前記特異部が無いと判定すること、
を更に含む付記1乃至4の何れか一項に記載の評価方法。
(付記6)
抽出された複数の前記第2画像に前記特異部が無い場合に、前記対象物に前記特異部が無いと評価すること、
を更に含む付記3に記載の評価方法。
(付記7)
前記機械学習は、
特異部を含む第3画像から、前記第3画像よりも小さく、かつ、前記特異部の位置が異なる複数の第4画像を生成することと、
複数の前記第4画像であって前記第2形式で表現された前記第4画像を教師データとして内部パラメータの最適化を行うこと、
を含む付記1乃至6の何れか一項に記載の評価方法。
(付記8)
対象物の第1画像を取得する手段と、
第1方法を用いて、前記第1画像であって1画素あたり1つの指標により表現される第1形式の前記第1画像の一部を、第2画像として抽出する手段と、
機械学習を用いて取得された第2方法を用いて、前記第2画像であって1画素あたり複数の指標により表現される第2形式の前記第2画像から、特異部の有無を評価する手段と、
を含む評価装置。
(付記9)
前記第1形式の前記第1画像に基づいて前記第2形式の前記第2画像を生成する手段、
を更に備える付記8に記載の評価装置。
(付記10)
前記第2画像を抽出する手段は、前記第1画像から、複数の前記第2画像を抽出するように構成され、
前記特異部の有無を評価する手段は、複数の前記第2画像に対して特異部の有無を評価するように構成される、
付記8又は9に記載の評価装置。
(付記11)
前記第2画像の特異部の有無の評価結果に基づいて、目視による評価を行うか否かを判定する手段、
を更に備える付記8乃至10の何れか一項に記載の評価装置。
(付記12)
前記第1方法を用いて、前記第1画像から、前記第2画像を抽出できない場合に、前記対象物の前記第1画像の範囲に前記特異部が無いと判定する手段、
を更に備える付記8乃至11の何れか一項に記載の評価装置。
(付記13)
抽出された複数の前記第2画像に前記特異部が無い場合に、前記対象物に前記特異部が無いと評価する手段、
を更に備える付記10に記載の評価装置。
(付記14)
前記機械学習は、
特異部を含む第3画像から、前記第3画像よりも小さく、かつ、前記特異部の位置が異なる複数の第4画像を生成することと、
複数の前記第4画像であって前記第2形式で表現された前記第4画像を教師データとして内部パラメータの最適化を行うこと、
を含む付記8乃至13の何れか一項に記載の評価装置。
10 評価システム
12 撮像部
14 特異部検出部
16 特異部画像抽出部
18 画像データ変換部
20 特異部有無評価部
22 プロセッサ
24 記憶部
28 表示部
30 通信I/F部
32 入力部
AR1 第1範囲
AR2 第2範囲
AR3 第2範囲
AR4 第2範囲

Claims (12)

  1. 対象物の第1画像を取得することと、
    第1方法を用いて、前記第1画像であって1画素あたり1つの指標により表現される第1形式の前記第1画像の一部を抽出することと、
    前記第1方法により抽出した前記第1画像に基づいて、1画素あたり複数の指標により表現される第2形式の第2画像を生成することと、
    機械学習を用いて取得された第2方法を用いて、前記第2画像から、特異部の有無を評価することと、
    を含む評価方法。
  2. 前記抽出は、前記第1画像から、複数の前記第1画像の一部を抽出し、
    前記生成は、複数の前記第1画像の一部に基づいて、複数の前記第2画像を生成し、
    前記特異部の有無の評価は、複数の前記第2画像に対して行われる、
    請求項に記載の評価方法。
  3. 前記第2画像の特異部の有無の評価結果に基づいて、目視による評価を行うか否かを判定すること、
    を更に含む請求項1又は2に記載の評価方法。
  4. 前記第1方法を用いて、前記第1画像の一部を抽出できない場合に、前記対象物の前記第1画像の範囲に前記特異部が無いと判定すること、
    を更に含む請求項1乃至3の何れか一項に記載の評価方法。
  5. 生成された複数の前記第2画像に前記特異部が無い場合に、前記対象物に前記特異部が無いと評価すること、
    を更に含む請求項に記載の評価方法。
  6. 前記機械学習は、
    特異部を含む第3画像から、前記第3画像よりも小さく、かつ、前記特異部の位置が異なる複数の第4画像を生成することと、
    複数の前記第4画像であって前記第2形式で表現された前記第4画像を教師データとして内部パラメータの最適化を行うこと、
    を含む請求項1乃至5の何れか一項に記載の評価方法。
  7. 対象物の第1画像を取得する手段と、
    第1方法を用いて、前記第1画像であって1画素あたり1つの指標により表現される第1形式の前記第1画像の一部を抽出する手段と、
    前記第1方法により抽出した前記第1画像に基づいて、1画素あたり複数の指標により表現される第2形式の第2画像を生成する手段と、
    機械学習を用いて取得された第2方法を用いて、前記第2画像から、特異部の有無を評価する手段と、
    を含む評価装置。
  8. 前記抽出する手段は、前記第1画像から、複数の前記第1画像の一部を抽出するように構成され、
    前記生成する手段は、複数の前記第1画像の一部に基づいて、複数の前記第2画像を生成するように構成され、
    前記特異部の有無を評価する手段は、複数の前記第2画像に対して特異部の有無を評価するように構成される、
    請求項に記載の評価装置。
  9. 前記第2画像の特異部の有無の評価結果に基づいて、目視による評価を行うか否かを判定する手段、
    を更に備える請求項7又は8に記載の評価装置。
  10. 前記第1方法を用いて、前記第1画像の一部を抽出できない場合に、前記対象物の前記第1画像の範囲に前記特異部が無いと判定する手段、
    を更に備える請求項7乃至9の何れか一項に記載の評価装置。
  11. 生成された複数の前記第2画像に前記特異部が無い場合に、前記対象物に前記特異部が無いと評価する手段、
    を更に備える請求項に記載の評価装置。
  12. 前記機械学習は、
    特異部を含む第3画像から、前記第3画像よりも小さく、かつ、前記特異部の位置が異なる複数の第4画像を生成することと、
    複数の前記第4画像であって前記第2形式で表現された前記第4画像を教師データとして内部パラメータの最適化を行うこと、
    を含む請求項7乃至11の何れか一項に記載の評価装置。
JP2021043561A 2020-03-25 2021-03-17 評価方法及び評価装置 Active JP6961319B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020054162 2020-03-25
JP2020054162 2020-03-25

Publications (2)

Publication Number Publication Date
JP2021157791A JP2021157791A (ja) 2021-10-07
JP6961319B2 true JP6961319B2 (ja) 2021-11-05

Family

ID=77890247

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021043561A Active JP6961319B2 (ja) 2020-03-25 2021-03-17 評価方法及び評価装置

Country Status (2)

Country Link
JP (1) JP6961319B2 (ja)
WO (1) WO2021193287A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5591849B2 (ja) * 2012-03-09 2014-09-17 株式会社 日立産業制御ソリューションズ 異物検査装置、異物検査プログラム、異物検査方法
JP2018005506A (ja) * 2016-06-30 2018-01-11 株式会社東芝 画像認識手法評価装置、画像認識手法評価方法、及びプログラム
EP3648054A4 (en) * 2017-06-29 2021-03-10 Sumitomo Chemical Company Limited IDIOSYNCRASY DETECTION SYSTEM AND IDIOSYNCRASY DETECTION METHOD

Also Published As

Publication number Publication date
JP2021157791A (ja) 2021-10-07
WO2021193287A1 (ja) 2021-09-30

Similar Documents

Publication Publication Date Title
JP3877916B2 (ja) デジタル画像の異常検出方法およびシステム、ならびにそのための記憶媒体
CN111681273B (zh) 图像分割方法、装置、电子设备及可读存储介质
KR20230124713A (ko) 결함 검출 방법, 장치 및 시스템
JP2017049974A (ja) 識別器生成装置、良否判定方法、およびプログラム
KR20200087297A (ko) 인공신경망 기반의 영상 분할을 이용한 불량 검출 방법 및 불량 검출 장치
TWI673683B (zh) 用於辨識組織病徵影像的系統及方法
TWI743837B (zh) 訓練資料增量方法、電子裝置與電腦可讀取記錄媒體
CN110596120A (zh) 玻璃边界缺陷检测方法、装置、终端及存储介质
CN111325717B (zh) 手机缺陷位置识别方法及设备
US20230222645A1 (en) Inspection apparatus, unit selection apparatus, inspection method, and computer-readable storage medium storing an inspection program
CN115830004A (zh) 表面缺陷检测方法、装置、计算机设备和存储介质
CN116453104B (zh) 液位识别方法、装置、电子设备及计算机可读存储介质
CN105718931A (zh) 用于确定采集图像中的杂斑的系统和方法
JP7481956B2 (ja) 推論装置、方法、プログラムおよび学習装置
CN110619619A (zh) 一种缺陷检测方法、装置及电子设备
JP7298176B2 (ja) 欠点検査装置および学習済みモデル
CN109902751B (zh) 融合卷积神经网络和半字模板匹配的表盘数字字符识别法
CN114445410A (zh) 基于图像识别的电路板检测方法、计算机及可读存储介质
CN108021914B (zh) 基于卷积神经网络的印刷品字符区域提取方法
JP6961319B2 (ja) 評価方法及び評価装置
CN115131355B (zh) 利用电子设备数据检测防水布异常的智能方法
CN115861259A (zh) 一种基于模板匹配的引线框架表面缺陷检测方法及装置
CN115546141A (zh) 一种基于多维度度量的小样本Mini LED缺陷检测方法及系统
CN112750113B (zh) 基于深度学习和直线检测的玻璃瓶缺陷检测方法及装置
JP7362924B2 (ja) データ増強基盤空間分析モデル学習装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210317

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210331

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210331

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210630

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211006

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211012

R150 Certificate of patent or registration of utility model

Ref document number: 6961319

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150