JP6897042B2 - 画像検査装置、画像検査方法および画像検査プログラム - Google Patents

画像検査装置、画像検査方法および画像検査プログラム Download PDF

Info

Publication number
JP6897042B2
JP6897042B2 JP2016188594A JP2016188594A JP6897042B2 JP 6897042 B2 JP6897042 B2 JP 6897042B2 JP 2016188594 A JP2016188594 A JP 2016188594A JP 2016188594 A JP2016188594 A JP 2016188594A JP 6897042 B2 JP6897042 B2 JP 6897042B2
Authority
JP
Japan
Prior art keywords
image
inspection
determination
predetermined
judgment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016188594A
Other languages
English (en)
Other versions
JP2018054375A (ja
Inventor
小林 弘幸
弘幸 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2016188594A priority Critical patent/JP6897042B2/ja
Priority to US15/715,823 priority patent/US10565703B2/en
Publication of JP2018054375A publication Critical patent/JP2018054375A/ja
Application granted granted Critical
Publication of JP6897042B2 publication Critical patent/JP6897042B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Description

本発明は、画像検査装置、画像検査方法および画像検査プログラムに関する。
計算機の計算速度の向上、ハードディスク等の記憶媒体の記憶容量の増大により、大規模なデータであっても容易に解析されることが多い。大規模データの解析の容易化に伴い、機械学習が使用された画像認識技術が様々な方面で活用されている。機械学習が使用された画像認識技術は、製品に対する不良品検査への適用も試みられている。
特許文献1〜特許文献2には、機械学習が使用された画像認識技術の例が記載されている。特許文献1には、オブジェクト判別を行う際に画像を細かく切断し、切断された画像それぞれにおいて機械学習で判別を行うオブジェクト判別装置が記載されている。
また、特許文献2には、画像を用いて特定の状態を検出する際にニューラルネットワークを使用して特定の状態を検出する画像検出装置が記載されている。
特許第5748472号公報 特許第4978227号公報 特許第4670722号公報
学習型の画像認識技術が使用された不良品検査装置は、良製品が撮影された画像と不良製品が撮影された画像を用いて学習を行う。また、不良品検査装置は、検査対象の製品が撮影された画像を用いて検査を行う。
しかし、検査対象の製品が撮影された画像のサイズに対して、不良個所が表示されている画像のサイズが小さいと、不良品検査装置の認識精度が悪くなるという問題がある。例えば、1000×1000(px)のサイズの画像に対して傷等の不良個所が表示されている画像のサイズが10×10(px)である場合、不良個所が表示されている画像が小さいため、認識精度が悪くなる。
上記の認識精度の悪化の問題を解消するために、検査対象の画像を不良個所が表示されている画像のサイズに分割して学習および検査を行うことが考えられる。しかし、学習型の画像認識技術では、認識対象(すなわち、不良個所)の形自体は記憶されず、複数の画像が重ね合わせられて重み学習が行われる。よって、分割された検査対象の画像から認識対象の一部が検出されたとしても、学習型の画像認識技術が使用された不良品検査装置にとって、検出された一部から認識対象全体の形を認識することは困難である。
また、分割された検査対象の画像に認識対象全体が表示されているとは限らない。よって、検査対象の画像を分割する場合、不良品検査装置には、検査対象の画像全体に渡って認識領域を少しずつずらすことが求められる。すなわち、検査が必ず複数回行われるため、検査処理の高速化が困難である。
非学習型の画像認識技術が使用された検査装置では、上記の検査処理の長時間化の問題は発生しない。しかし、画像認識の対象が細かく分類された上で検査装置に蓄積されていることが、非学習型の画像認識技術が使用された検査装置の使用条件になる。
例えば、認識対象が「傷」のような不定形の物である場合、不定形の物の画像認識に要するデータの蓄積自体が困難である。すなわち、非学習型の画像認識技術が使用された検査装置には、不定形の物の検査に使いづらいという問題がある。
上記の各問題を解消するために、学習型の画像認識技術と非学習型の画像認識技術が組み合わせられた検査装置を使用することも考えられる。しかし、装置の構成が複雑になり、検査装置を使用するコストがかかる等の問題がある。
上述したように、機械学習が使用された画像検査は、処理に時間がかかるという問題がある。特に、工場等で行われているライン生産における製品検査は、高速で実行されることが求められる。ライン生産方式では製品が次々に流れて来るため、製品の移動速度に合わせて検査処理が実行されることが求められるためである。すなわち、ライン生産等に画像検査装置による製品検査が組み込まれる場合、画像検査装置の検査処理の高速化が求められる。
特許文献3には、検査処理が高速化された画像を使用する検査装置(画像処理装置)が記載されている。特許文献3に記載されている検査装置は、処理を並列化することによって検査処理を高速に実行する。
しかし、処理の並列化のために、特許文献3に記載されている検査装置には、多くの画像データを読み込むことが求められる。すなわち、検査装置への負荷が高いという問題や、画像データの読み込みのために容量の大きいバッファを要するという問題がある。
[発明の目的]
そこで、本発明は、上述した課題を解決する、学習型の画像認識技術を用いて検査処理を高速に実行できる画像検査装置、画像検査方法および画像検査プログラムを提供することを目的とする。
本発明による画像検査装置は、検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出部と、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する判定部と、判定された度合いが所定の条件を満たす第1判定画像を含む検査対象画像内の画像上で所定領域を所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出部とを備え、第2抽出部は、判定された度合いが所定の条件を満たす第1判定画像内のその度合いに対応する位置に基づいて所定領域を移動させ、判定部は、抽出された第2判定画像に検査対象物が表示されている可能性の度合いを判定することを特徴とする。
本発明による画像検査方法は、検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行し、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定し、判定された度合いが所定の条件を満たす第1判定画像を含む検査対象画像内の画像上で所定領域を所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行し、判定された度合いが所定の条件を満たす第1判定画像内のその度合いに対応する位置に基づいて所定領域を移動させ、抽出された第2判定画像に検査対象物が表示されている可能性の度合いを判定することを特徴とする。
本発明による画像検査プログラムは、コンピュータに、検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出処理、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する第1判定処理、判定された度合いが所定の条件を満たす第1判定画像を含む検査対象画像内の画像上で所定領域を所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出処理、および抽出された第2判定画像に検査対象物が表示されている可能性の度合いを判定する第2判定処理を実行させるための画像検査プログラムであって、第2抽出処理で、判定された度合いが所定の条件を満たす第1判定画像内のその度合いに対応する位置に基づいて所定領域を移動させることを特徴とする。
本発明によれば、学習型の画像認識技術を用いて検査処理を高速に実行できる。
本発明による画像検査装置の第1の実施形態の構成例を示すブロック図である。 第1の実施形態の画像検査装置10による検査処理の動作を示すフローチャートである。 本発明による画像検査システムの第2の実施形態の構成例を示すブロック図である。 簡易検査の機械学習用の画像の例を示す説明図である。 簡易検査学習用画像の正解ラベルの例を示す説明図である。 詳細検査学習用画像の正解ラベルの例を示す説明図である。 簡易検査用画像抽出部108により抽出される簡易検査用画像の例を示す説明図である。 詳細検査用画像抽出部109が詳細検査用画像を抽出する範囲の例を示す説明図である。 詳細検査用画像抽出部109により抽出される詳細検査用画像の例を示す説明図である。 詳細検査用画像抽出部109が詳細検査用画像を抽出する範囲の他の例を示す説明図である。 簡易検査結果の例を示す説明図である。 詳細検査結果の例を示す説明図である。 第2の実施形態の学習部106による簡易検査用学習処理の動作を示すフローチャートである。 第2の実施形態の学習部106による詳細検査用学習処理の動作を示すフローチャートである。 第2の実施形態の画像検査システム100による簡易検査処理の動作を示すフローチャートである。 第2の実施形態の画像検査システム100による詳細検査処理の動作を示すフローチャートである。 第2の実施形態の画像検査システム100による結果集計処理の動作を示すフローチャートである。
実施形態1.
以下、本発明の実施形態を、図面を参照して説明する。図1は、本発明による画像検査装置の第1の実施形態の構成例を示すブロック図である。本発明による画像検査装置10は、検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出部11(例えば、簡易検査用画像抽出部108)と、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する判定部12(例えば、予測部110)と、判定された度合いが所定の条件を満たす第1判定画像を含む検査対象画像内の画像上で所定領域を所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出部13(例えば、詳細検査用画像抽出部109)とを備え、判定部12は、抽出された第2判定画像に検査対象物が表示されている可能性の度合いを判定する。
以下、画像検査装置10による検査処理を説明する。図2は、第1の実施形態の画像検査装置10による検査処理の動作を示すフローチャートである。
第1抽出部11に、検査対象画像が入力される。すなわち、第1抽出ループに入る(ステップS11)。
第1抽出部11は、入力された検査対象画像上で所定領域を所定距離移動させ、移動後の所定領域の画像を第1判定画像として抽出する(ステップS12)。第1抽出部11は、抽出された第1判定画像に含まれる検査対象画像が所定の第1割合に満たない間、ステップS12の処理を繰り返し実行する。
検査対象画像の所定の第1割合が複数の第1判定画像に含まれた時、第1抽出部11は、第1抽出ループを抜ける(ステップS13)。
次いで、判定部12は、抽出された複数の第1判定画像それぞれに対して、検査対象物が表示されている可能性の度合いを判定する(ステップS14)。
次いで、第2抽出部13に、第1抽出部11に入力された検査対象画像と、判定された度合いが所定の条件を満たす第1判定画像に関する情報とが入力される。すなわち、第2抽出ループに入る(ステップS15)。
第2抽出部13は、入力された情報が示す第1判定画像を含む検査対象画像内の画像上で所定領域を所定距離より小さい距離移動させ、移動後の所定領域の画像を第2判定画像として抽出する(ステップS16)。第2抽出部13は、抽出された第2判定画像に含まれる第1判定画像を含む検査対象画像内の画像が所定の第2割合に満たない間、ステップS16の処理を繰り返し実行する。
第1判定画像を含む検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれた時、第2抽出部13は、第2抽出ループを抜ける(ステップS17)。
次いで、判定部12は、抽出された複数の第2判定画像それぞれに対して、検査対象物が表示されている可能性の度合いを判定する(ステップS18)。判定した後、画像検査装置10は、検査処理を終了する。
そのような構成により、画像検査装置は、学習型の画像認識技術を用いて検査処理を高速に実行できる。
また、判定部12は、学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定してもよい。
そのような構成により、画像検査装置は、Convolutional neural networkで作成された予測モデルを用いて検査処理を実行できる。
また、画像検査装置10は、検査対象物が表示されている画像と画像が検査対象物の表示画像であることを示す情報との関係性を表す予測モデルを学習処理で作成する作成部(例えば、学習部106)を備えてもよい。
そのような構成により、画像検査装置は、Convolutional neural networkで予測モデルを作成できる。
また、画像が検査対象物の表示画像であることを示す情報には、検査対象物が表示されている画像内の位置を示す情報が含まれ、判定部12は、予測モデルを用いて第1判定画像内の各位置に検査対象物が表示されている可能性の度合いをそれぞれ判定してもよい。
そのような構成により、画像検査装置は、検査対象物が表示されている画像内の位置の情報を取得できる。
また、第2抽出部13は、判定された度合いが所定の条件を満たす第1判定画像内の度合いに対応する位置に基づいて所定領域を移動させてもよい。
そのような構成により、画像検査装置は、より高い確率で検査対象物を検出できる。
また、第2抽出部13は、判定された度合いが所定の条件を満たす第1判定画像に隣接する第1判定画像に関する各位置に検査対象物が表示されている可能性の度合いに基づいて所定領域を移動させる第1判定画像を含む検査対象画像内の画像を決定してもよい。
そのような構成により、画像検査装置は、検査処理をより高速に実行できる。
実施形態2.
[構成の説明]
次に、本発明の第2の実施形態を、図面を参照して説明する。図3は、本発明による画像検査システムの第2の実施形態の構成例を示すブロック図である。
本実施形態の画像検査システム100は、製品が撮影された画像を用いて製品の不良品検査を行う際、最初は画像全体に対して簡易な検査を行う。簡易な検査の結果、画像検査システム100は、画像内の異常が存在すると認められる可能性がある部分に対して詳細な検査を行う。すなわち、本実施形態の画像検査システム100は、2段階の検査を行うことによって検査処理全体を高速化する。
また、本実施形態の画像検査システム100は、機械学習を使用してCD(Compact Disc)を検査する。なお、画像検査システム100は、CD以外の製品を検査してもよい。
図3に示すように、画像検査システム100は、簡易検査学習用画像記憶部101と、詳細検査学習用画像記憶部102と、検査用画像記憶部103と、簡易検査学習用正解ラベル記憶部104と、詳細検査学習用正解ラベル記憶部105と、学習部106と、予測モデル記憶部107と、簡易検査用画像抽出部108と、詳細検査用画像抽出部109と、予測部110と、簡易検査結果記憶部111と、詳細検査結果記憶部112と、結果集計部113と、結果通知部114とを含む。
簡易検査学習用画像記憶部101は、簡易検査の機械学習で使用される画像のデータを保存する。保存されている画像のサイズは、検査用に抽出される画像のサイズである。なお、抽出される画像のサイズの値は、各システムで固定の値である。
簡易検査学習用画像記憶部101に保存されている画像には、正常画像と、不良画像の2種類の画像がある。図4は、簡易検査の機械学習用の画像の例を示す説明図である。図4に示す画像は、全て不良画像である。
図4には、9つの不良画像が示されている。例えば、下部に「右上」と記載されている不良画像には、画像内の右上に不良個所が表示されている。同様に、「左上」、「上」、「左」、「中央」、「右」、「左下」、「下」、および「右下」の各不良画像には、名称が示す画像内の各位置に不良個所が表示されている。
図4に示すように、本実施形態の簡易検査学習用画像記憶部101には、1つの不良データに対して、指定された位置に不良データに対応する不良個所が表示されている不良画像が9位置分(すなわち、9つ)保存されている。
詳細検査学習用画像記憶部102は、詳細検査の機械学習で使用される画像のデータを保存する。詳細検査学習用画像記憶部102に保存されている画像には、正常画像と、不良画像の2種類の画像がある。
検査用画像記憶部103は、検査用画像のデータを保存する。検査用画像記憶部103に保存されている画像は、検査用製品が撮影されたサイズが比較的大きい画像である。
簡易検査学習用正解ラベル記憶部104は、簡易検査学習用画像記憶部101に保存されている簡易検査学習用画像の正解ラベルを保存する。簡易検査学習用正解ラベル記憶部104は、例えば図5に示す形式で正解ラベルを保存する。
図5は、簡易検査学習用画像の正解ラベルの例を示す説明図である。正解ラベルは、「ファイル名」と、「正解」とで構成されている。図5に示すように、例えばファイル名が「A1.png」の正解は「正常」である。すなわち、「A1.png」は、正常画像のファイルである。
また、図5に示すように、例えばファイル名が「A3.png」の正解は「右上」である。すなわち、「A3.png」は、画像内の右上に不良個所が表示されている不良画像のファイルである。他の正解ラベルも同様の意味である。
詳細検査学習用正解ラベル記憶部105は、詳細検査学習用画像記憶部102に保存されている詳細検査学習用画像の正解ラベルを保存する。詳細検査学習用正解ラベル記憶部105は、例えば図6に示す形式で正解ラベルを保存する。
図6は、詳細検査学習用画像の正解ラベルの例を示す説明図である。正解ラベルは、「ファイル名」と、「正解」とで構成されている。図6に示すように、例えばファイル名が「B1.png」の正解は「正常」である。すなわち、「B1.png」は、正常画像のファイルである。
また、図6に示すように、例えばファイル名が「B5.png」の正解は「不良」である。すなわち、「B5.png」は、不良画像のファイルである。他の正解ラベルも同様の意味である。
学習部106は、学習用画像と学習用画像の正解ラベルとの関係性を学習することによって予測モデルを作成する。学習部106は、簡易検査学習用画像記憶部101から簡易検査学習用画像を、および簡易検査学習用正解ラベル記憶部104から対応する簡易検査学習用画像の正解ラベルを取り出す。次いで、学習部106は、取り出されたデータを用いて簡易検査用予測モデルを作成する。
また、学習部106は、詳細検査学習用画像記憶部102から詳細検査学習用画像を、および詳細検査学習用正解ラベル記憶部105から対応する詳細検査学習用画像の正解ラベルを取り出す。次いで、学習部106は、取り出されたデータを用いて詳細検査用予測モデルを作成する。
作成される予測モデルは、画像と正解ラベルとの関係性を表すモデルである。学習部106は、予測モデルを作成する手法として、例えばConvolutional neural network(以下、CNNという。)を使用する。なお、学習部106は、CNN以外の予測モデルを作成する手法を使用してもよい。
学習部106は、作成された予測モデルを予測モデル記憶部107に追加する。予測モデル記憶部107は、学習部106で作成された予測モデルを保存する。
簡易検査用画像抽出部108は、検査用画像記憶部103から検査用画像を取り出し、取り出された検査用画像から簡易検査用画像を抽出する。簡易検査用画像抽出部108は、検査用画像に抽出対象領域を設定し、抽出対象領域の画像を簡易検査用画像として抽出する。
簡易検査用画像を1つ抽出した後、簡易検査用画像抽出部108は、抽出対象領域を移動させて、他の簡易検査用画像を再度抽出する。簡易検査用画像抽出部108は、抽出された簡易検査用画像を予測部110に渡す。
図7は、簡易検査用画像抽出部108により抽出される簡易検査用画像の例を示す説明図である。図7には、検査対象の製品が撮影された検査用画像が示されている。また、図7に示す検査対象の製品には、不良個所が存在する。また、図7に示す検査用画像内の破線で区切られた16個の各画像が、簡易検査用画像に相当する。
また、図7に示すx軸とy軸は、抽出対象領域が設定される位置を表すために使用される。簡易検査用画像抽出部108は、抽出された簡易検査用画像のファイル名と抽出された簡易検査用画像の元の検査用画像における位置を示す情報とを対応付けて簡易検査結果記憶部111に追加する。
なお、簡易検査用画像抽出部108は、図7に示すように検査用画像が全て簡易検査用画像に含まれるように簡易検査用画像を抽出してもよい。また、簡易検査用画像抽出部108は、検査用画像の所定の割合が簡易検査用画像に含まれるように簡易検査用画像を抽出してもよい。例えば、検査用画像にマージン等の空白領域が含まれている場合、簡易検査用画像抽出部108は、空白領域が除かれた画像が全て簡易検査用画像に含まれるように簡易検査用画像を抽出してもよい。
詳細検査用画像抽出部109は、簡易検査結果記憶部111から簡易検査結果を取り出し、元の検査用画像において不良個所が存在する可能性がある場所を特定する。次いで、詳細検査用画像抽出部109は、検査用画像記憶部103から検査用画像を取り出し、不良個所が存在する可能性があると特定された場所から詳細検査用画像を抽出する。
詳細検査用画像抽出部109は、特定された場所に抽出対象領域を設定し、抽出対象領域の画像を詳細検査用画像として抽出する。詳細検査用画像を1つ抽出した後、詳細検査用画像抽出部109は、抽出対象領域を不良個所が存在すると予想されている方向に移動させて、他の詳細検査用画像を再度抽出する。なお、詳細検査用画像抽出部109が抽出対象領域を移動させる幅は、簡易検査用画像抽出部108が抽出対象領域を移動させる幅よりも小さい。
図8は、詳細検査用画像抽出部109が詳細検査用画像を抽出する範囲の例を示す説明図である。図8に示すように、二重線で囲まれた領域が簡易検査用画像に、網掛けで示された領域が詳細検査時の検査範囲にそれぞれ相当する。
例えば、簡易検査により正解ラベル「右上」の判定スコアが最も高かった簡易検査用画像に対して、詳細検査用画像抽出部109は、簡易検査用画像の上部、右上部、右部を詳細検査時の検査範囲に含める。
同様に、詳細検査用画像抽出部109は、正解ラベル「上」の判定スコアが最も高かった簡易検査用画像の上部を、正解ラベル「左」の判定スコアが最も高かった簡易検査用画像の左部を、それぞれ詳細検査時の検査範囲に含める。
また、詳細検査用画像抽出部109は、正解ラベル「右」の判定スコアが最も高かった簡易検査用画像の右部を、正解ラベル「下」の判定スコアが最も高かった簡易検査用画像の下部を、それぞれ詳細検査時の検査範囲に含める。
また、詳細検査用画像抽出部109は、正解ラベル「左上」の判定スコアが最も高かった簡易検査用画像の左上部、上部、左部を、正解ラベル「左下」の判定スコアが最も高かった簡易検査用画像の左部、左下部、下部を、それぞれ詳細検査時の検査範囲に含める。
また、詳細検査用画像抽出部109は、正解ラベル「右下」の判定スコアが最も高かった簡易検査用画像の右部、下部、右下部を、正解ラベル「中央」の判定スコアが最も高かった簡易検査用画像の左上部、上部、右上部、左部、右部、左下部、下部、右下部を、それぞれ詳細検査時の検査範囲に含める。
図7に示す例における上から2番目、左から1番目に位置する簡易検査用画像に対する簡易検査では、判定スコアが最も高い正解ラベルは「右」であるという結果が得られる。
図9は、詳細検査用画像抽出部109により抽出される詳細検査用画像の例を示す説明図である。図9に示すx軸とy軸は、抽出対象領域が設定される位置を表すために使用される。
判定スコアが最も高い正解ラベルが「右」であるという簡易検査結果に基づいて、詳細検査用画像抽出部109は、図9に示すように抽出対象領域を右方向に少しずつ移動させる。詳細検査用画像抽出部109は、1回移動させるごとに抽出対象領域の画像を詳細検査用画像として抽出する。
上記の方法で抽出された詳細検査用画像に対する不良判定スコアのうち、図9に示すような不良個所が完全に表示された詳細検査用画像に対する不良判定スコアが最も高くなる。詳細検査用画像抽出部109は、抽出された詳細検査用画像を予測部110に渡す。
また、詳細検査用画像抽出部109は、抽出された詳細検査用画像のファイル名と抽出された詳細検査用画像の元の検査用画像における位置を示す情報とを対応付けて詳細検査結果記憶部112に追加する。
なお、詳細検査用画像抽出部109は、図9に示すように詳細検査時の検査範囲の画像が全て詳細検査用画像に含まれるように詳細検査用画像を抽出してもよい。また、詳細検査用画像抽出部109は、詳細検査時の検査範囲の画像の所定の割合が詳細検査用画像に含まれるように詳細検査用画像を抽出してもよい。例えば、詳細検査時の検査範囲の画像にマージン等の空白領域が含まれている場合、詳細検査用画像抽出部109は、空白領域が除かれた画像が全て詳細検査用画像に含まれるように詳細検査用画像を抽出してもよい。
なお、詳細検査用画像抽出部109は、以下に示す方法で詳細検査用画像を抽出してもよい。図10は、詳細検査用画像抽出部109が詳細検査用画像を抽出する範囲の他の例を示す説明図である。図10に示す二重線で囲まれた領域が、現在処理中の簡易検査用画像に相当する。
詳細検査用画像を抽出する際、詳細検査用画像抽出部109は、スコアの判定元の簡易検査用画像に隣接する簡易検査用画像の判定スコアが最も高かった正解ラベルを確認する。隣接する簡易検査用画像は、例えば図10に示す詳細検査用画像が抽出される当初の範囲内に存在する簡易検査用画像である。
隣接する簡易検査用画像の判定スコアが最も高かった正解ラベルが示す位置が、現在処理中の簡易検査用画像の判定スコアが最も高かった正解ラベルが示す位置と丁度反対であれば、簡易検査用画像間に不良個所が存在する可能性が高い。よって、詳細検査用画像抽出部109は、抽出範囲を簡易検査用画像間に絞って詳細検査用画像を抽出する。
図10に示す例では、現在処理中の簡易検査用画像の判定スコアが最も高かった正解ラベルは「左上」である。また、現在処理中の簡易検査用画像の左上の簡易検査用画像、上の簡易検査用画像、および左の簡易検査用画像の判定スコアが最も高かった各正解ラベルは、それぞれ「右下」、「正常」、「正常」である。
よって、詳細検査用画像抽出部109は、現在処理中の簡易検査用画像と、左上の簡易検査用画像との間に不良個所が存在する可能性が高いと判断し、両画像間の範囲のみを詳細検査時の検査範囲に設定する。
従って、図10に示すように、網掛けで示された領域が詳細検査時の検査範囲に設定される。上記の方法が使用された場合、詳細検査用画像の抽出範囲がさらに限定されるため、詳細検査処理がより高速に実行される。
予測部110は、予測モデルを用いて検査用画像を判定する。予測部110は、予測モデル記憶部107から保存されている予測モデルを取り出す。また、予測部110には、簡易検査用画像抽出部108から簡易検査用画像が、および詳細検査用画像抽出部109から詳細検査用画像がそれぞれ入力される。
予測部110は、入力された判定用の画像に対する判定スコアを作成する。予測部110は、例えば判定処理にCNNを使用する。予測部110は、作成された判定スコアを簡易検査結果記憶部111、および詳細検査結果記憶部112に保存する。
簡易検査結果記憶部111は、簡易検査用画像の各正解ラベルに対する判定スコアを記憶する。簡易検査結果記憶部111は、例えば図11に示す形式で判定スコアを保存する。図11は、簡易検査結果の例を示す説明図である。
図11に示すように、簡易検査結果は、「元ファイル名」と、「簡易検査用画像ファイル名」と、「x座標」と、「y座標」と、各正解ラベルに対する判定スコアとで構成されている。
「元ファイル名」は、検査用画像記憶部103に記憶されている元の検査用画像のファイル名である。「簡易検査用画像ファイル名」は、簡易検査用画像抽出部108により抽出された簡易検査用画像のファイル名である。「x座標」、および「y座標」は、簡易検査用画像の元の検査用画像における位置を示す所定の基準で定められた座標値である。
各正解ラベルに対する判定スコアには、判定結果に応じて0から1の間のいずれかの値が格納される。各正解ラベルに対応する簡易検査学習用画像に簡易検査用画像が類似しているほど、判定スコアには1に近い値が格納される。また、各正解ラベルに対応する簡易検査学習用画像と簡易検査用画像が非類似であるほど、判定スコアには0に近い値が格納される。
例えば、図11に示す上から2つ目の簡易検査結果の正解ラベル「スコア正常」には、「0.0」が格納されている。すなわち、簡易検査用画像「1_000_100.png」は、正常画像に全く類似していない。また、正解ラベル「スコア右上」には、「0.9」が格納されている。すなわち、簡易検査用画像「1_000_100.png」は、右上に不良個所が表示されている不良画像に高い確率で類似している。
詳細検査結果記憶部112は、詳細検査用画像の良不良判定結果を記憶する。詳細検査結果記憶部112は、例えば図12に示す形式で判定結果を保存する。図12は、詳細検査結果の例を示す説明図である。
図12に示すように、詳細検査結果は、「元ファイル名」と、「詳細検査用画像ファイル名」と、「x座標」と、「y座標」と、「スコア」とで構成されている。
「元ファイル名」は、検査用画像記憶部103に記憶されている元の検査用画像のファイル名である。「詳細検査用画像ファイル名」は、詳細検査用画像抽出部109により抽出された詳細検査用画像のファイル名である。「x座標」、および「y座標」は、詳細検査用画像の元の検査用画像における位置を示す所定の基準で定められた座標値である。
「スコア」には、判定結果に応じて0から1の間のいずれかの値が格納される。詳細検査学習用画像である不良画像に詳細検査用画像が類似しているほど、スコアには1に近い値が格納される。また、詳細検査学習用画像である正常画像に詳細検査用画像が類似しているほど、スコアには0に近い値が格納される。
例えば、図12に示す上から2つ目の詳細検査結果のスコアには、「0.0」が格納されている。すなわち、詳細検査用画像「1_000_010.png」は、正常画像に一致している。また、上から4つ目の詳細検査結果のスコアには、「0.3」が格納されている。すなわち、詳細検査用画像「1_010_000.png」は、不良画像に比較的類似している。
結果集計部113は、詳細検査結果記憶部112から詳細検査結果に含まれる判定結果を取り出す。結果集計部113は、各詳細検査用画像の判定されたスコアを用いて、検査用画像全体に対する良不良判定を行う。結果集計部113は、良不良判定の結果を結果通知部114に渡す。
結果通知部114は、結果集計部113から受け取った良不良判定の結果を利用者に通知する。結果通知部114は、例えば良不良判定の結果を画面に表示する。
本実施形態の画像検査システム100は、画像を用いて不良品検査を行う際、検査用画像から画像を抽出し、抽出された画像それぞれに対して良不良判定を行う検査システムである。
画像検査システム100は、画像を抽出する際に最初は抽出対象領域を比較的大きく移動させて検査を行う。検査を行う際、画像検査システム100は、不良個所が抽出画像内のどの位置に存在するかを判別する。
検査により不良個所が存在する可能性のある場所が判明した後、画像検査システム100は、判明された場所において抽出対象領域を比較的小さく移動させて検査を行う。検査を行う際、画像検査システム100は、不良個所が存在する位置に基づいて検査を行う。以上により、判定対象の画像が少なくなるため、画像検査システム100は、検査処理を高速化できる。
[動作の説明]
以下、本実施形態の画像検査システム100の動作を図13〜図17を参照して説明する。本実施形態の画像検査システム100は、画像検査を行う際、学習処理、および検査処理の2つの処理を実行する。
以下、画像検査システム100による学習処理の動作を説明する。学習処理は、簡易検査用学習処理と、詳細検査用学習処理の2つの処理で構成される。最初に、簡易検査用学習処理を図13を参照して説明する。図13は、第2の実施形態の学習部106による簡易検査用学習処理の動作を示すフローチャートである。
学習部106は、簡易検査学習用画像記憶部101から簡易検査学習用画像のデータを読み込む(ステップS101)。次いで、学習部106は、簡易検査学習用正解ラベル記憶部104から簡易検査学習用正解ラベルを読み込む(ステップS102)。
次いで、学習部106は、読み込まれた簡易検査学習用画像と、簡易検査学習用正解ラベルとの関係性を学習することによって簡易検査用予測モデルを作成する(ステップS103)。次いで、学習部106は、作成された簡易検査用予測モデルを予測モデル記憶部107に保存する(ステップS104)。保存した後、学習部106は、簡易検査用学習処理を終了する。
次に、詳細検査用学習処理を図14を参照して説明する。図14は、第2の実施形態の学習部106による詳細検査用学習処理の動作を示すフローチャートである。
学習部106は、詳細検査学習用画像記憶部102から詳細検査学習用画像のデータを読み込む(ステップS111)。次いで、学習部106は、詳細検査学習用正解ラベル記憶部105から詳細検査学習用正解ラベルを読み込む(ステップS112)。
次いで、学習部106は、読み込まれた詳細検査学習用画像と、詳細検査学習用正解ラベルとの関係性を学習することによって詳細検査用予測モデルを作成する(ステップS113)。次いで、学習部106は、作成された詳細検査用予測モデルを予測モデル記憶部107に保存する(ステップS114)。保存した後、学習部106は、詳細検査用学習処理を終了する。
以下、画像検査システム100による検査処理の動作を説明する。検査処理は、簡易検査処理と、詳細検査処理と、結果集計処理の3つの処理で構成される。最初に、簡易検査処理を図15を参照して説明する。図15は、第2の実施形態の画像検査システム100による簡易検査処理の動作を示すフローチャートである。
簡易検査用画像抽出部108は、検査用画像記憶部103から検査用画像のデータを読み込む(ステップS201)。
次いで、簡易検査用画像抽出部108は、読み込まれた検査用画像におけるx座標に所定値を加算する(ステップS202)。すなわち、x座標加算ループに入る。なお、x座標の初期値は0である。また、x座標に加算される所定値は、抽出される簡易検査用画像の幅に一致する。
次いで、簡易検査用画像抽出部108は、読み込まれた検査用画像におけるy座標に所定値を加算する(ステップS203)。すなわち、y座標加算ループに入る。なお、y座標の初期値は0である。また、y座標に加算される所定値は、抽出される簡易検査用画像の高さに一致する。
次いで、簡易検査用画像抽出部108は、算出された座標(x,y)に基づいて、ステップS202で加算された所定値が幅、ステップS203で加算された所定値が高さの簡易検査用画像を検査用画像から抽出する(ステップS204)。
次いで、簡易検査用画像抽出部108は、ステップS204で抽出された簡易検査用画像に関する情報を簡易検査結果記憶部111に保存する(ステップS205)。簡易検査用画像に関する情報は、ステップS201で読み込まれた検査用画像のファイル名、ステップS204で抽出された簡易検査用画像のファイル名、ステップS202で算出されたx座標、およびステップS203で算出されたy座標である。
次いで、予測部110は、予測モデル記憶部107に記憶されている簡易検査用予測モデルを使用して、抽出された簡易検査用画像の良不良判定を行う。また、予測部110は、簡易検査用画像に傷が表示されている場合、傷の位置判定を行う。すなわち、予測部110は、簡易検査用画像が各正解ラベルに対応する簡易検査学習用画像にどの程度類似しているかをそれぞれ判定する(ステップS206)。
次いで、予測部110は、ステップS206で得られた判定スコアを簡易検査結果記憶部111に保存する(ステップS207)。各判定スコアは、ステップS205で保存された簡易検査用画像に関する情報を含む簡易検査結果にそれぞれ格納される。
簡易検査用画像抽出部108、および予測部110は、算出されるy座標が検査用画像の高さ未満の間、ステップS204〜ステップS207の処理を繰り返し実行する。ステップS204〜ステップS207の処理は簡易検査用画像ごとに、検査用画像の高さに含まれる簡易検査用画像の高さの数だけ繰り返し実行される。
算出されたy座標が検査用画像の高さ以上の時、簡易検査用画像抽出部108は、y座標加算ループを抜ける(ステップS208)。y座標加算ループを抜けた後、簡易検査用画像抽出部108は、ステップS209の処理を行う。
簡易検査用画像抽出部108、および予測部110は、算出されるx座標が検査用画像の幅未満の間、ステップS203〜ステップS208の処理を繰り返し実行する。ステップS203〜ステップS208の処理は簡易検査用画像ごとに、検査用画像の幅に含まれる簡易検査用画像の幅の数だけ繰り返し実行される。
算出されたx座標が検査用画像の幅以上の時、簡易検査用画像抽出部108は、x座標加算ループを抜ける(ステップS209)。x座標加算ループを抜けた後、画像検査システム100は、簡易検査処理を終了する。簡易検査処理を終了した後、画像検査システム100は、詳細検査処理を行う。
次に、詳細検査処理を図16を参照して説明する。図16は、第2の実施形態の画像検査システム100による詳細検査処理の動作を示すフローチャートである。
詳細検査用画像抽出部109は、検査用画像記憶部103から検査用画像のデータを読み込む(ステップS301)。次いで、詳細検査用画像抽出部109は、読み込まれた検査用画像に関する簡易検査結果を簡易検査結果記憶部111から読み込む(ステップS302)。
次いで、詳細検査用画像抽出部109は、読み込まれた簡易検査結果に含まれる検査結果情報を1件ずつ読み込む。すなわち、詳細検査ループに入る(ステップS303)。なお、読み込まれる検査結果情報は、検査用画像から抽出された1つの簡易検査用画像に対する簡易検査結果の情報である。
次いで、詳細検査用画像抽出部109は、読み込まれた検査結果情報に含まれる「スコア正常」の判定スコアが所定値以下であるか否かを確認する(ステップS304)。例えば、不良個所が存在する可能性が少しでもある画像が詳細検査の対象になる場合、所定値は、可能な限り小さい値に設定される。
「スコア正常」の判定スコアが所定値よりも大きい場合(ステップS304におけるNo)、詳細検査用画像抽出部109は、ステップS309に処理を進める。
「スコア正常」の判定スコアが所定値以下の場合(ステップS304におけるYes)、詳細検査用画像抽出部109は、検査結果情報に含まれる「スコア正常」以外の正解ラベルの中で、判定スコアが最も高い正解ラベルを取得する。
次いで、詳細検査用画像抽出部109は、取得された正解ラベルが示す位置に基づいて詳細検査用画像を抽出する(ステップS305)。抽出される詳細検査用画像は、例えば図8に示す詳細検査時の検査範囲内で少しずつずらされた抽出対象領域の画像である。
次いで、詳細検査用画像抽出部109は、ステップS305で抽出された全ての詳細検査用画像に関する情報を詳細検査結果記憶部112に保存する(ステップS306)。詳細検査用画像に関する情報は、ステップS301で読み込まれた検査用画像のファイル名、ステップS305で抽出された詳細検査用画像のファイル名、および抽出された詳細検査用画像の位置を示す座標(x,y)である。
次いで、予測部110は、予測モデル記憶部107に記憶されている詳細検査用予測モデルを使用して、抽出された全ての詳細検査用画像に対して良不良判定を行う(ステップS307)。
次いで、予測部110は、ステップS307で得られた判定スコアを詳細検査結果記憶部112に保存する(ステップS308)。各判定スコアは、ステップS306で保存された詳細検査用画像に関する情報を含む詳細検査結果にそれぞれ格納される。
詳細検査用画像抽出部109、および予測部110は、読み込まれた簡易検査結果に未だ処理されていない検査結果情報が含まれる間、ステップS304〜ステップS308の処理を繰り返し実行する。ステップS304〜ステップS308の処理は検査結果情報ごとに、簡易検査結果に含まれる検査結果情報の数だけ繰り返し実行される。
簡易検査結果に含まれる検査結果情報が全て処理された時、詳細検査用画像抽出部109は、詳細検査ループを抜ける(ステップS309)。詳細検査ループを抜けた後、画像検査システム100は、詳細検査処理を終了する。詳細検査処理を終了した後、画像検査システム100は、結果集計処理を行う。
次に、結果集計処理を図17を参照して説明する。図17は、第2の実施形態の画像検査システム100による結果集計処理の動作を示すフローチャートである。
結果集計部113は、詳細検査結果記憶部112から1つの検査用画像に関する詳細検査結果を読み込む(ステップS401)。
次いで、結果集計部113は、読み込まれた詳細検査結果に含まれる検査結果情報を1件ずつ読み込む。すなわち、集計ループに入る(ステップS402)。なお、読み込まれる検査結果情報は、検査用画像から抽出された1つの詳細検査用画像に対する詳細検査結果の情報である。
次いで、結果集計部113は、読み込まれた検査結果情報に含まれる判定スコアが所定値以上であるか否かを確認する(ステップS403)。例えば、確実に「不良」と判断される製品が撮影された画像が選び出される場合、所定値は、可能な限り大きい値に設定される。
判定スコアが所定値よりも小さい場合(ステップS403におけるNo)、結果集計部113は、ステップS405に処理を進める。
判定スコアが所定値以上である場合(ステップS403におけるYes)、結果集計部113は、検査結果情報に含まれる詳細検査用画像の位置を示すx座標およびy座標を一時記憶装置(図示せず)に保存する(ステップS404)。
結果集計部113は、読み込まれた詳細検査結果に未だ処理されていない検査結果情報が含まれる間、ステップS403〜ステップS404の処理を繰り返し実行する。ステップS403〜ステップS404の処理は検査結果情報ごとに、詳細検査結果に含まれる検査結果情報の数だけ繰り返し実行される。
詳細検査結果に含まれる検査結果情報が全て処理された時、結果集計部113は、集計ループを抜ける(ステップS405)。集計ループを抜けた後、結果集計部113は、不良判定スコアが所定値以上の詳細検査用画像の位置を示すx座標およびy座標の一覧を結果通知部114に通知する(ステップS406)。座標値の一覧を通知した後、画像検査システム100は、結果集計処理を終了する。
[効果の説明]
本実施形態の画像検査システム100は、画像に対する不良品検査を行う際、最初は抽出対象領域の移動幅を比較的大きくして画像を抽出し、検査を行う。検査の結果、不良個所が存在する可能性がある場所が判明した場合、画像検査システム100は、不良個所が存在すると考えられる位置に基づいて抽出対象領域の移動幅を比較的小さくして画像を抽出し、検査を行う。よって、検査対象の画像が少なくなるため、小さな画像を抽出し、抽出された各画像に対して良不良判定を行う検査方式が使用される場合であっても、不良品検査が高速で実行される。
本実施形態の画像検査システム100の学習部106は、学習対象の画像を、画像に表示されている不良個所の位置も含めて事前に学習する。また、本実施形態では、画像検査が簡易検査と詳細検査の2段階で実行される。
簡易検査では、簡易検査用画像抽出部108が抽出対象領域の移動幅を比較的大きくして、簡易検査用画像を抽出する。次いで、予測部110が各簡易検査用画像に対して検査を行う。検査の際に予測部110は、各簡易検査用画像に不良個所が存在する可能性があるか否かを判別する。また、不良個所が存在する場合、予測部110は、簡易検査用画像内のどの位置に不良個所が存在するかを判別する。
詳細検査では、詳細検査用画像抽出部109が簡易検査で判別された不良個所が存在する可能性がある簡易検査用画像の周辺から、不良個所が存在する位置に基づいて詳細検査用画像を抽出する。詳細検査用画像抽出部109は、不良個所が存在する位置に基づいて少しずつ抽出対象領域を移動させながら詳細検査用画像を抽出する。次いで、予測部110は、各詳細検査用画像に対して検査を行う。
抽出対象領域を少しずつずらしながら判別や検出を行う技術は、特許文献1〜特許文献2に記載されている。しかし、特許文献1〜特許文献2に記載されている技術と異なり、本実施形態では抽出対象領域の移動量が2段階で変更されることによって、検査処理が高速に実行される。
また、特許文献3に記載されている技術と異なり、本実施形態では詳細検査で読み込まれる画像のデータ量が削減されることによって検査処理が高速に実行される。従って、本実施形態の画像検査システム100は、学習型の画像認識技術のみを用いて検査処理を高速に実行できる。
なお、各実施形態の画像検査装置10、および画像検査システム100は、例えば、記憶媒体に格納されているプログラムに従って処理を実行するCPU(Central Processing Unit)によって実現される。すなわち第1抽出部11、判定部12、第2抽出部13、学習部106、簡易検査用画像抽出部108、詳細検査用画像抽出部109、予測部110、結果集計部113、および結果通知部114は、例えば、プログラム制御に従って処理を実行するCPUによって実現される。
また、簡易検査学習用画像記憶部101、詳細検査学習用画像記憶部102、検査用画像記憶部103、簡易検査学習用正解ラベル記憶部104、詳細検査学習用正解ラベル記憶部105、予測モデル記憶部107、簡易検査結果記憶部111、および詳細検査結果記憶部112は、例えばRAM(Random Access Memory)で実現される。
また、本実施形態の画像検査装置10および画像検査システム100における各部は、ハードウェア回路によって実現されてもよい。一例として、第1抽出部11、判定部12、第2抽出部13、簡易検査学習用画像記憶部101、詳細検査学習用画像記憶部102、検査用画像記憶部103、簡易検査学習用正解ラベル記憶部104、詳細検査学習用正解ラベル記憶部105、学習部106、予測モデル記憶部107、簡易検査用画像抽出部108、詳細検査用画像抽出部109、予測部110、簡易検査結果記憶部111、詳細検査結果記憶部112、結果集計部113、および結果通知部114が、それぞれLSI(Large Scale Integration)で実現される。また、それらが1つのLSIで実現されていてもよい。
また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下に限られない。
(付記1)検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を前記検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出部と、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する判定部と、判定された度合いが所定の条件を満たす第1判定画像を含む前記検査対象画像内の画像上で所定領域を前記所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む前記検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出部とを備え、前記判定部は、抽出された第2判定画像に前記検査対象物が表示されている可能性の度合いを判定することを特徴とする画像検査装置。
(付記2)判定部は、学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定する付記1記載の画像検査装置。
(付記3)検査対象物が表示されている画像と前記画像が前記検査対象物の表示画像であることを示す情報との関係性を表す予測モデルを学習処理で作成する作成部を備える付記2記載の画像検査装置。
(付記4)画像が検査対象物の表示画像であることを示す情報には、前記検査対象物が表示されている画像内の位置を示す情報が含まれ、判定部は、予測モデルを用いて第1判定画像内の各位置に前記検査対象物が表示されている可能性の度合いをそれぞれ判定する付記3記載の画像検査装置。
(付記5)第2抽出部は、判定された度合いが所定の条件を満たす第1判定画像内の前記度合いに対応する位置に基づいて所定領域を移動させる付記4記載の画像検査装置。
(付記6)第2抽出部は、判定された度合いが所定の条件を満たす第1判定画像に隣接する第1判定画像に関する各位置に検査対象物が表示されている可能性の度合いに基づいて所定領域を移動させる第1判定画像を含む検査対象画像内の画像を決定する付記5記載の画像検査装置。
(付記7)検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を前記検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行し、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定し、判定された度合いが所定の条件を満たす第1判定画像を含む前記検査対象画像内の画像上で所定領域を前記所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む前記検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行し、抽出された第2判定画像に前記検査対象物が表示されている可能性の度合いを判定することを特徴とする画像検査方法。
(付記8)学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定する付記7記載の画像検査方法。
(付記9)コンピュータに、検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を前記検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出処理、抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する第1判定処理、判定された度合いが所定の条件を満たす第1判定画像を含む前記検査対象画像内の画像上で所定領域を前記所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む前記検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出処理、および抽出された第2判定画像に前記検査対象物が表示されている可能性の度合いを判定する第2判定処理を実行させるための画像検査プログラム。
(付記10)コンピュータに、学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定する判定処理を実行させる付記9記載の画像検査プログラム。
本発明は、工場においてライン生産方式で生産される商品の不良品検査を高速に行う際に好適に適用される。
10 画像検査装置
11 第1抽出部
12 判定部
13 第2抽出部
100 画像検査システム
101 簡易検査学習用画像記憶部
102 詳細検査学習用画像記憶部
103 検査用画像記憶部
104 簡易検査学習用正解ラベル記憶部
105 詳細検査学習用正解ラベル記憶部
106 学習部
107 予測モデル記憶部
108 簡易検査用画像抽出部
109 詳細検査用画像抽出部
110 予測部
111 簡易検査結果記憶部
112 詳細検査結果記憶部
113 結果集計部
114 結果通知部

Claims (9)

  1. 検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を前記検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出部と、
    抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する判定部と、
    判定された度合いが所定の条件を満たす第1判定画像を含む前記検査対象画像内の画像上で所定領域を前記所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む前記検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出部とを備え、
    前記第2抽出部は、判定された度合いが前記所定の条件を満たす第1判定画像内の当該度合いに対応する位置に基づいて所定領域を移動させ、
    前記判定部は、抽出された第2判定画像に前記検査対象物が表示されている可能性の度合いを判定する
    ことを特徴とする画像検査装置。
  2. 判定部は、学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定する
    請求項1記載の画像検査装置。
  3. 検査対象物が表示されている画像と前記画像が前記検査対象物の表示画像であることを示す情報との関係性を表す予測モデルを学習処理で作成する作成部を備える
    請求項2記載の画像検査装置。
  4. 画像が検査対象物の表示画像であることを示す情報には、前記検査対象物が表示されている画像内の位置を示す情報が含まれ、
    判定部は、予測モデルを用いて第1判定画像内の各位置に前記検査対象物が表示されている可能性の度合いをそれぞれ判定する
    請求項3記載の画像検査装置。
  5. 第2抽出部は、判定された度合いが所定の条件を満たす第1判定画像に隣接する第1判定画像に関する各位置に検査対象物が表示されている可能性の度合いに基づいて所定領域を移動させる第1判定画像を含む検査対象画像内の画像を決定する
    請求項記載の画像検査装置。
  6. 検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を前記検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行し、
    抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定し、
    判定された度合いが所定の条件を満たす第1判定画像を含む前記検査対象画像内の画像上で所定領域を前記所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む前記検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行し、
    判定された度合いが前記所定の条件を満たす第1判定画像内の当該度合いに対応する位置に基づいて所定領域を移動させ、
    抽出された第2判定画像に前記検査対象物が表示されている可能性の度合いを判定する
    ことを特徴とする画像検査方法。
  7. 学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定する
    請求項記載の画像検査方法。
  8. コンピュータに、
    検査対象画像上で所定領域を所定距離移動させ移動後の所定領域の画像を第1判定画像として抽出する処理を前記検査対象画像の所定の第1割合が複数の第1判定画像に含まれるまで繰り返し実行する第1抽出処理、
    抽出された第1判定画像に検査対象物が表示されている可能性の度合いを判定する第1判定処理、
    判定された度合いが所定の条件を満たす第1判定画像を含む前記検査対象画像内の画像上で所定領域を前記所定距離より小さい距離移動させ移動後の所定領域の画像を第2判定画像として抽出する処理を第1判定画像を含む前記検査対象画像内の画像の所定の第2割合が複数の第2判定画像に含まれるまで繰り返し実行する第2抽出処理、および
    抽出された第2判定画像に前記検査対象物が表示されている可能性の度合いを判定する第2判定処理を実行させるための画像検査プログラムであって、
    前記第2抽出処理で、判定された度合いが前記所定の条件を満たす第1判定画像内の当該度合いに対応する位置に基づいて所定領域を移動させる
    画像検査プログラム
  9. コンピュータに、
    学習処理で作成された予測モデルを用いて検査対象物が表示されている可能性の度合いを判定する判定処理を実行させる
    請求項記載の画像検査プログラム。
JP2016188594A 2016-09-27 2016-09-27 画像検査装置、画像検査方法および画像検査プログラム Active JP6897042B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016188594A JP6897042B2 (ja) 2016-09-27 2016-09-27 画像検査装置、画像検査方法および画像検査プログラム
US15/715,823 US10565703B2 (en) 2016-09-27 2017-09-26 Image inspection device, image inspection method, and image inspection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016188594A JP6897042B2 (ja) 2016-09-27 2016-09-27 画像検査装置、画像検査方法および画像検査プログラム

Publications (2)

Publication Number Publication Date
JP2018054375A JP2018054375A (ja) 2018-04-05
JP6897042B2 true JP6897042B2 (ja) 2021-06-30

Family

ID=61686353

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016188594A Active JP6897042B2 (ja) 2016-09-27 2016-09-27 画像検査装置、画像検査方法および画像検査プログラム

Country Status (2)

Country Link
US (1) US10565703B2 (ja)
JP (1) JP6897042B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7210873B2 (ja) * 2017-07-26 2023-01-24 横浜ゴム株式会社 欠陥検査方法及び欠陥検査装置
CN110021005B (zh) * 2018-01-05 2022-03-15 财团法人工业技术研究院 电路板瑕疵筛选方法及其装置与计算机可读取记录介质
JP6767432B2 (ja) * 2018-06-11 2020-10-14 ファナック株式会社 縫い目検査装置
JP2020112483A (ja) * 2019-01-15 2020-07-27 春江 姚 外観検査システム、計算モデル構築方法及び計算モデル構築プログラム
WO2020172386A1 (en) * 2019-02-20 2020-08-27 International Electronic Machines Corp. Machine vision based inspection
US20220130135A1 (en) * 2019-03-13 2022-04-28 Nec Corporation Data generation method, data generation device, and program
TWI697851B (zh) * 2019-05-03 2020-07-01 宏碁股份有限公司 電子裝置與模型更新方法
KR102357729B1 (ko) * 2019-09-10 2022-02-03 라온피플 주식회사 복수의 이미지들에 대해 기계학습 및 테스트를 수행하기 위한 방법 및 장치
JP7321452B2 (ja) 2019-10-11 2023-08-07 Biprogy株式会社 プログラム、情報処理装置、情報処理方法及び学習済みモデルの生成方法
JPWO2022215382A1 (ja) * 2021-04-05 2022-10-13
JP2023034478A (ja) * 2021-08-31 2023-03-13 キヤノン株式会社 検査装置および検査方法

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CH557494A (de) 1972-11-07 1974-12-31 Sulzer Ag Absperrschieber fuer in leitungen stroemende medien.
JPS608189B2 (ja) 1980-09-04 1985-03-01 三菱マテリアル株式会社 研磨装置
JP4002655B2 (ja) * 1998-01-06 2007-11-07 株式会社日立製作所 パターン検査方法およびその装置
US6687396B1 (en) * 1998-07-29 2004-02-03 Pentax Corporation Optical member inspection apparatus, image-processing apparatus, image-processing method, and computer readable medium
JP3695993B2 (ja) * 1999-06-30 2005-09-14 株式会社東芝 半導体装置の検査装置と検査方法
JP2004061418A (ja) * 2002-07-31 2004-02-26 Jfe Steel Kk 非金属介在物の自動検査方法および装置
JP2004164563A (ja) * 2002-09-26 2004-06-10 Toshiba Corp 画像解析方法、画像解析装置、画像解析プログラム
JP2004317190A (ja) * 2003-04-14 2004-11-11 Neomax Co Ltd 高速凹凸判定可能な表面検査方法及び表面検査システム
JP2006098151A (ja) * 2004-09-29 2006-04-13 Dainippon Screen Mfg Co Ltd パターン検査装置およびパターン検査方法
JP4599191B2 (ja) * 2005-03-01 2010-12-15 国立大学法人神戸大学 画像診断処理装置および画像診断処理プログラム
KR100785594B1 (ko) * 2005-06-17 2007-12-13 오므론 가부시키가이샤 화상 처리 장치
JP4595705B2 (ja) * 2005-06-22 2010-12-08 オムロン株式会社 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
US7983482B2 (en) * 2005-11-08 2011-07-19 Kitakyushu Foundation For The Advancement Of Industry, Science And Technology Matching apparatus, image search system, and histogram approximate restoring unit, and matching method, image search method, and histogram approximate restoring method
JP4670722B2 (ja) 2006-04-24 2011-04-13 パナソニック電工株式会社 画像処理装置
JP4065893B1 (ja) * 2006-12-04 2008-03-26 東京エレクトロン株式会社 欠陥検出装置、欠陥検出方法、情報処理装置、情報処理方法及びそのプログラム
JP4102842B1 (ja) * 2006-12-04 2008-06-18 東京エレクトロン株式会社 欠陥検出装置、欠陥検出方法、情報処理装置、情報処理方法及びそのプログラム
JP4978227B2 (ja) 2007-02-15 2012-07-18 トヨタ自動車株式会社 画像検出装置
JP2009049979A (ja) * 2007-07-20 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法、画像処理システム、及びプログラム
JP5081590B2 (ja) * 2007-11-14 2012-11-28 株式会社日立ハイテクノロジーズ 欠陥観察分類方法及びその装置
JP5286004B2 (ja) * 2008-09-12 2013-09-11 株式会社日立ハイテクノロジーズ 基板の検査装置、および、基板の検査方法
JP2010139317A (ja) * 2008-12-10 2010-06-24 Mitsubishi Materials Corp 軸物工具表面の欠陥検査方法および装置
DE102010003376B4 (de) * 2009-03-30 2021-04-01 Koh Young Technology Inc. Untersuchungsverfahren
JP2010281754A (ja) * 2009-06-05 2010-12-16 Nikon Corp 生成装置、検査装置、プログラムおよび生成方法
JP5465620B2 (ja) * 2010-06-25 2014-04-09 Kddi株式会社 映像コンテンツに重畳する付加情報の領域を決定する映像出力装置、プログラム及び方法
US8995747B2 (en) * 2010-07-29 2015-03-31 Sharp Laboratories Of America, Inc. Methods, systems and apparatus for defect detection and classification
JP5748472B2 (ja) 2010-12-15 2015-07-15 富士フイルム株式会社 オブジェクト判別装置、方法、及びプログラム
JP5958534B2 (ja) * 2012-05-24 2016-08-02 日本電気株式会社 病理診断結果判定システム、病理診断結果判定方法および病理診断結果判定装置
JP5957357B2 (ja) * 2012-10-15 2016-07-27 株式会社日立ハイテクノロジーズ パターン検査・計測装置及びプログラム
JP6047418B2 (ja) * 2013-02-18 2016-12-21 株式会社ニューフレアテクノロジー 検査方法および検査装置
JP2014190821A (ja) * 2013-03-27 2014-10-06 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法
JP6270361B2 (ja) * 2013-07-16 2018-01-31 株式会社キーエンス 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6071805B2 (ja) * 2013-08-27 2017-02-01 富士フイルム株式会社 画像領域指定装置および方法、並びに放射線画像処理装置および方法
JP2015201092A (ja) * 2014-04-09 2015-11-12 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP6424020B2 (ja) * 2014-06-09 2018-11-14 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6632288B2 (ja) * 2014-12-12 2020-01-22 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
WO2016121073A1 (ja) * 2015-01-30 2016-08-04 株式会社 日立ハイテクノロジーズ パターンマッチング装置、及びパターンマッチングのためのコンピュータプログラム
JP6446297B2 (ja) * 2015-03-09 2018-12-26 株式会社ニューフレアテクノロジー 検査装置
CN104965941A (zh) * 2015-06-02 2015-10-07 上海电力学院 基于改进的人工蜂群算法的漏磁检测缺陷重构方法

Also Published As

Publication number Publication date
US20180089818A1 (en) 2018-03-29
US10565703B2 (en) 2020-02-18
JP2018054375A (ja) 2018-04-05

Similar Documents

Publication Publication Date Title
JP6897042B2 (ja) 画像検査装置、画像検査方法および画像検査プログラム
US9348848B2 (en) Methods and apparatus for identifying tables in digital files
WO2019188040A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
CN111640089B (zh) 一种基于特征图中心点的缺陷检测方法及装置
JP2017211259A (ja) 検査装置、検査方法、及びプログラム
JP5718781B2 (ja) 画像分類装置および画像分類方法
US20170352145A1 (en) Semiconductor wafer inspection using care area group-specific threshold settings for detecting defects
JP6584250B2 (ja) 画像分類方法、分類器の構成方法および画像分類装置
JP2008175549A (ja) 欠陥検出装置および欠陥検出方法
CN107004265A (zh) 信息处理装置、处理信息的方法、鉴别器生成装置、生成鉴别器的方法、以及程序
CN114372968B (zh) 结合注意力机制与自适应记忆性融合网络的瑕疵检测方法
JP7034840B2 (ja) 外観検査装置および方法
CN109462999B (zh) 通过数据平衡基于学习的视觉检查方法以及利用其的视觉检查装置
CN112634201B (zh) 目标检测方法、装置和电子设备
TW202127371A (zh) 基於圖像的瑕疵檢測方法及電腦可讀存儲介質
CN111144282A (zh) 表格识别方法和装置、计算机可读存储介质
JP5862260B2 (ja) 情報処理装置及び情報処理プログラム
WO2019159853A1 (ja) 画像処理装置、画像処理方法及び記録媒体
US20220207290A1 (en) Apparatus for processing labeled data to be used in learning of discriminator, method of controlling the apparatus, and non-transitory computer-readable recording medium
CN113221855B (zh) 基于尺度敏感损失与特征融合的小目标检测方法和系统
CN110866931A (zh) 图像分割模型训练方法及基于分类的强化图像分割方法
JP6880494B2 (ja) 分類装置の製造方法、画像の分類方法、画像の分類装置、半導体の検査装置および分類基準モジュール
CN112580624A (zh) 基于边界预测的多方向文本区域检测方法和装置
TWI705241B (zh) 光學薄膜缺陷檢測裝置及方法
CN111340139A (zh) 一种图像内容复杂度的判别方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190802

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201020

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210511

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210524

R150 Certificate of patent or registration of utility model

Ref document number: 6897042

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150