JP2019091249A - 欠陥検査装置、欠陥検査方法、及びそのプログラム - Google Patents

欠陥検査装置、欠陥検査方法、及びそのプログラム Download PDF

Info

Publication number
JP2019091249A
JP2019091249A JP2017219594A JP2017219594A JP2019091249A JP 2019091249 A JP2019091249 A JP 2019091249A JP 2017219594 A JP2017219594 A JP 2017219594A JP 2017219594 A JP2017219594 A JP 2017219594A JP 2019091249 A JP2019091249 A JP 2019091249A
Authority
JP
Japan
Prior art keywords
image
defect
inspection
processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017219594A
Other languages
English (en)
Other versions
JP7004145B2 (ja
Inventor
池田 泰之
Yasuyuki Ikeda
泰之 池田
真嗣 栗田
Masashi Kurita
真嗣 栗田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2017219594A priority Critical patent/JP7004145B2/ja
Priority to CN201811055662.3A priority patent/CN109781733B/zh
Priority to US16/129,818 priority patent/US10776909B2/en
Priority to EP18194192.3A priority patent/EP3486867A1/en
Publication of JP2019091249A publication Critical patent/JP2019091249A/ja
Application granted granted Critical
Publication of JP7004145B2 publication Critical patent/JP7004145B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Abstract

【課題】事前学習された識別器を検査対象や背景画像に応じて柔軟に利用可能にする技術を提供する。【解決手段】学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶する記憶部と、所定の条件で撮影された検査対象の画像を取得する取得部と、取得部で取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前処理フィルタを取得部で取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで、前処理済み画像を生成する前処理部と、前処理済み画像に対して、記憶された学習済みモデルを用いて、検査対象の欠陥の有無を検査する検査部と、を備える。【選択図】図1

Description

本発明は、畳み込みニューラルネットワーク(CNN:convolutional neural network)を用いた欠陥検出処理を実行可能な欠陥検査装置、欠陥検査方法、及びそのプログラムに関する。
FA(Factory Automation)分野では、画像計測処理を用いた自動制御が広く実用化されている。例えば、ワークなどの被検査対象を撮像し、その撮像された画像から欠陥などの特徴量を算出することで、当該ワークについての良否を検査するような工程が実現される。このような工程を実現するためには、所望のワークに応じた教師データを予め用意し、識別器を学習させる必要がある。
例えば特許文献1には、検査対象の画像の分類を支援する効率的な環境を提供する分類支援装置が開示されている。特許文献1に記載の分類支援装置は、画像を表示する表示部と、検査対象の画像を分類する入力を受け付ける入力部と、予め準備された複数の検査対象の画像が示す複数の検査対象が撮像された際の撮像位置に基づいて複数の検査対象の順序を決定し、順序に従って複数の検査対象の画像を表示部に配列表示させる処理部と、を備えている。
特開2003−317082号公報
FA分野において、生産ライン上を流れるワークの種類や、検出対象となる欠陥の種類、撮影条件等の検査条件は生産ラインによって様々である。したがって、特許文献1に記載されるような技術を用いて事前学習された識別器を様々な検査条件に共通して汎用的に用いると、生産ライン毎に異なる検査条件によっては、欠陥の見逃しが発生する場合があった。一方で生産ラインに応じて識別器を学習させると、ワークの種類等の検査条件が変更されるのに合わせて、再度、識別器の構築をする時間が必要となり、生産性を低下させる場合があった。
本発明は、上述した事情を鑑みてなされたものであり、事前学習された識別器を検査対象画像や背景画像に応じて柔軟に利用可能にする技術を提供することを目的とする。
本発明は、上述した課題を解決するために、以下の構成を採用する。
すなわち、本発明の一側面に係る欠陥検査装置は、学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶する記憶部と、所定の条件で撮影された検査対象の画像を取得する取得部と、取得部で取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前処理フィルタを取得部で取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで、前処理済み画像を生成する前処理部と、前処理済み画像に対して、記憶された学習済みモデルを用いて、検査対象の欠陥の有無を検査する検査部と、を備える。なお、学習済みモデルの内部パラメータとは、学習済みモデルを表現する情報であって、学習済みモデルにニューラルネットワーク(以下、単に「ネットワーク」ということもある。)を例にすれば、ニューラルネットワークのレイヤ数、各レイヤに関するノード数、ノード間を繋ぐリンクの重みパラメータ、各ノードに関するバイアスパラメータ及び各ノードに関する活性化関数の関数形に関する情報等、を示すものである。内部パラメータにより欠陥として検出すべき特徴量が規定される。また、前処理画像とは、欠陥検査装置に入力される入力画像であって、前処理フィルタを生成するための特徴量を抽出する対象の画像である。前処理画像は、欠陥を含む検査対象の画像であり、ユーザが選択してもよく、また、欠陥検査装置が自ら選択するようにしてもよい。また、検査画像とは、欠陥検査装置が取得する入力画像であって実際の検査工程において、検査対象となる画像である。
上記構成では、実際の検査工程で用いられる検査画像を変換する前処理フィルタを、検査対象となる欠陥に応じて生成することができる。これによって、あらかじめ構築された学習済みモデルを、検査対象や背景画像に応じて汎用的に利用可能になる。
上記一側面に係る欠陥検査装置において、前処理部は、前処理画像における欠陥を含む欠陥領域の特徴量の幅が、内部パラメータに対応した特徴量の範囲に含まれるように、前処理画像を変換するための前処理フィルタを生成するように構成されてよい。すなわち、内部パラメータに対応する特徴量の範囲は、学習済みモデルの生成に利用した学習データが含む欠陥の種類に依存して決定される。したがって、生産ラインにおいて学習データに含まれない特異な特徴を有する欠陥が発生すると、当該欠陥の特徴量は事前学習によって獲得した特徴量から逸脱し、誤認識(見逃し)が発生する場合がある。しかしながら、当該構成によれば、学習済みモデルが事前学習によって獲得した内部パラメータから逸脱するような特徴量を有する欠陥について、見逃しを防ぐことができる。
また、上記一側面に係る欠陥検査装置において、前処理部は、前処理画像における欠陥領域以外の背景領域のパターンの幅が、内部パラメータに対応した特徴量の範囲から逸脱するように、前処理画像を変換するための前処理フィルタを生成するように構成されてよい。すなわち、内部パラメータに対応する特徴量の範囲は、学習済みモデルの生成に利用した学習データが含む欠陥の種類に依存して決定される。したがって、生産ラインにおいて学習データに含まれない特異な特徴を有する背景領域のパターンが発生すると、当該背景領域のパターンが事前学習によって獲得した特徴量の範囲と合致し、誤認識(見過ぎ)が発生する場合がある。当該構成によれば、欠陥ではない画像の特徴が事前学習によって獲得した内部パラメータで検出される特徴量に収まっていた場合に、誤検出(見過ぎ)が発生するのを防ぐことができる。
また、上記一側面に係る欠陥検査装置において、前処理部は、前処理画像における欠陥領域の指定を外部から受け付け、受け付けた欠陥領域に基づいて前記前処理フィルタを生成するように構成されてよい。さらに前処理部は、欠陥領域に基づいて前処理画像を拡大又は縮小する前処理フィルタを生成するように構成されてよい。さらに前記前処理部は、前処理画像のうち、少なくとも欠陥領域を含む部分を複数の拡縮率によって変動させ、少なくとも部分について特徴検出画像を生成し、複数の拡縮率で変動させたときの、特徴検出画像の欠陥領域内の濃度と欠陥領域外の濃度との差が最大のとき拡縮率によって、前処理画像を拡大又は縮小する前処理フィルタを生成するものであり、特徴検出画像は、内部パラメータに対応する特徴を示す領域が他の領域に比較して濃度が大きくなるように濃淡表示されているものであってもよい。
また、上記一側面に係る欠陥検査装置において、前処理部は、前処理画像の明度を平坦にする前処理フィルタを生成するように構成されてよい。当該構成によれば、検査工程に応じて前処理フィルタを生成することによって、あらかじめ構築された学習済みモデルを、汎用的に利用可能になる。
また、上記一側面に係る欠陥検査装置は、前処理済み画像を表示する表示部をさらに備えるように構成されてよい。さらに、上記表示部は、前処理済み画像と、欠陥が抽出された検査結果画像とを比較可能に表示するように構成されてよい。当該構成によれば、ユーザに対して前処理後の中間画像を提示するため、ユーザが計測結果画像を確認した際に、欠陥が誤検出された理由が、学習済みモデルのエラーによるものなのか、前処理によるノイズであるのかを把握できるようになる。
また、上記一側面に係る欠陥検査装置は、取得部で取得された欠陥を含む検査対象の画像のうち、前処理フィルタを生成するために用いられる前処理画像のユーザ選択を受け付ける入力部を備え、前処理部は、前処理画像における特徴量と、内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成するように構成されてよい。当該構成によれば、内部パラメータから逸脱した画像であって、前処理フィルタの生成のための画像を適切に選ぶことができる。
また、上記一側面に係る欠陥検査装置は、複数の処理シーケンスのうちのいずれを実行させるかのユーザ選択を受け付けるシーケンス入力部を備え、複数の処理シーケンスは、前処理部が前処理フィルタを生成する準備工程シーケンスと、生成された前処理フィルタを検査画像に適用して、検査対象に含まれる欠陥の有無を検査する運用工程シーケンスとを含むように構成されてよい。さらに、上記運用工程シーケンスは、検査対象の欠陥を識別できたか否かの検査結果の内容に応じて、前処理部により前処理フィルタを更新する処理を実行するように構成されてよい。当該構成によれば、検査結果に応じて前処理フィルタが適宜更新されるため、誤検出や未検出の発生率をより低減することができる。
また、本発明の一側面に係る欠陥検査方法は、コンピュータが、学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶するステップと、所定の条件で撮影された検査対象の画像を取得するステップと、取得するステップによって取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前処理フィルタを取得するステップによって取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで、前処理済み画像を生成するステップと、前処理済み画像に対して、記憶された学習済みモデルを用いて、検査対象の欠陥の有無を検査するステップと、を実行する。
上記構成では、実際の検査工程で用いられる検査画像を変換する前処理フィルタを、検査対象となる欠陥に応じて生成することができる。これによって、あらかじめ構築された学習済みモデルを、検査対象や背景画像に応じて汎用的に利用可能になる。
また、本発明の一側面に係るプログラムは、コンピュータを、学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶する手段、所定の条件で撮影された検査対象の画像を取得する手段、取得する手段によって取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前処理フィルタを取得する手段によって取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで前処理済み画像を生成する手段、及び前処理済み画像に対して、記憶された学習済みモデルを用いて、検査対象の欠陥の有無を検査する手段、として機能させる。
上記構成では、実際の検査工程で用いられる検査画像を変換する前処理フィルタを、検査対象となる欠陥に応じて生成することができる。これによって、あらかじめ構築された学習済みモデルを、検査対象や背景画像に応じて汎用的に利用可能になる。
本発明によれば、事前学習された識別器を検査対象や背景画像に応じて柔軟に利用可能にする技術を提供できる。
本実施の形態に係る欠陥検査システムのシステム構成例を示す模式図である 。 本実施の形態に係る欠陥検査装置のハードウェア構成を示す模式図である。 本実施の形態に係る欠陥検査装置の機能構成を示す模式図である。 本実施の形態に係る欠陥検査システムにおけるCNNを用いた画像計測処理の処理手順の一例を説明するための図である。 本実施の形態に係る欠陥検査システムにおける前処理フィルタ生成処理の一例を説明するためのフローチャートである。 本実施の形態に係る欠陥検査装置における前処理フィルタ生成処理の一例を説明するための図である。 本実施の形態に係る欠陥検査装置における前処理フィルタの一例を説明するための図である。 本実施の形態に係る欠陥検査装置における前処理フィルタの一例を説明するための図である。 本実施の形態に係る欠陥検査装置が提供するユーザインターフェイス画面200の一例を示す模式図である。 本実施の形態に係る欠陥検査装置が提供するユーザインターフェイス画面200の一例を示す模式図である。 本実施の形態に係る欠陥検査装置が提供するユーザインターフェイス画面200の一例を示す模式図である。 本実施の形態に係る欠陥検査装置が提供するユーザインターフェイス画面200の一例を示す模式図である。 本実施の形態に係る欠陥検査システムにおける準備工程の処理手順を示すフローチャートである。 本実施の形態に係る欠陥検査システムにおける運用工程の処理手順を示すフローチャートである。 本実施の形態に係る欠陥検査装置における前処理フィルタ生成処理の別の例を説明するための図である。 本実施の形態に係る欠陥検査装置における前処理フィルタ生成処理の別の例を説明するための図である。
以下、本発明の一側面に係る実施の形態(以下「本実施形態」とも表記する)を、図面に基づいて説明する。ただし、以下で説明する本実施形態は、あらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。つまり、本発明の実施にあたって、実施形態に応じた具体的構成が適宜採用されてもよい。なお、本実施形態において登場するデータを自然言語により説明しているが、より具体的には、コンピュータが認識可能な疑似言語、コマンド、パラメータ、マシン語等で指定される。
§1 適用例
まず、図1を用いて、本発明が適用される場面の一例について説明する。図1は、本実施形態に係る欠陥検査システム1の適用場面の一例を模式図である。本実施の形態に係る欠陥検査システム1は、被検査対象を撮像することにより生成される入力画像に対して前処理を行うことで、学習済みモデルに基づいて適切な欠陥検査ができるようにする。被検査対象は、例えば、製造過程にある、部品、製品等のワーク(Work piece)である。
図1に示されるとおり、欠陥検査システム1は、例えば、ベルトコンベア2上を搬送される被検査対象であるワーク4を撮像して得られる入力画像に対して画像計測処理を実行することで、ワーク4の外観検査または外観計測を実現する。以下の説明においては、画像計測処理の典型例として、ワーク4表面における欠陥の有無の検査などを応用例として説明するが、これに限らず、欠陥の種類の特定や外観形状の計測などにも応用が可能である。
ベルトコンベア2の上部には撮像部であるカメラ102が配置されており、カメラ102の撮像視野6はベルトコンベア2の所定領域を含むように構成される。カメラ102の撮像により生成された画像データ(検査画像の一例である。以下「入力画像」ともいう。)は、欠陥検査装置100へ送信される。カメラ102による撮像は、周期的またはイベント的に実行される。
欠陥検査装置100は、上位ネットワーク8を介して、PLC(プログラマブルコントローラ)10およびデータベース装置12などと接続されている。欠陥検査装置100における計測結果は、PLC10および/またはデータベース装置12へ送信されてもよい。なお、上位ネットワーク8には、PLC10およびデータベース装置12に加えて、任意の装置が接続されるようにしてもよい。
欠陥検査装置100は、処理中の状態や計測結果などを表示するためのディスプレイ104と、ユーザ操作を受付ける入力部としてのキーボード106およびマウス108とが接続されていてもよい。
欠陥検査装置100はCNNエンジンを有している。CNNエンジンは、畳み込みニューラルネットワーク(Convolutional Neural Network)を用いた識別器を構成しており、CNNエンジンを用いて入力画像から所定数のクラス(分類)毎の特徴検出画像を生成する。生成された1または複数の特徴検出画像に基づいて、対象のワークにおける欠陥の有無などが判断される。あるいは、欠陥の大きさや位置などを検出することもできる。
欠陥検査装置100が備えるCNNエンジンは所定の教師データ用の特徴検出画像(以下「学習画像」ともいう。)に基づいて学習を行うことにより、欠陥として検出すべき画像の特徴量を内部パラメータとしてあらかじめ獲得している。
このとき、学習画像として準備できるデータセットには限りがあるため、獲得した内部パラメータで検出可能な欠陥の特徴量の範囲には制限が発生してしまう。つまり、学習画像のセットに含まれていた欠陥の特徴から逸脱するような特徴量を有する欠陥は、このような学習画像のセットを用いて学習したCNNエンジンでは検出することができない。
一方で、実際の生産現場において、生産ラインに流れるワークの種類や撮影条件、検出対象となる欠陥の種類等は生産ラインごとに様々である。例えば、学習画像を撮影した際の撮影条件と、実際の検査工程での撮影条件とは必ずしも一致しない場合がある。したがって、生産ラインの多種多様性を鑑みると、事前学習されたCNNエンジンの汎用性は必ずしも高いものではないといえる。しかし、生産ラインごとにCNNエンジンを構築することは、生産ラインの仕様が頻繁に変更される等の理由により非効率である。
本実施形態にかかる欠陥検査装置100は、このような事情を鑑み、CNNエンジンが事前学習で獲得した内部パラメータで、欠陥を適切に検出可能となるように、入力画像を変換する前処理フィルタを適用する。これによって、事前学習されたCNNエンジンの汎用性を向上させ、様々な生産ラインにおいて検査対象や背景画像に応じて柔軟に利用可能としている。また、前処理フィルタを適用することで、欠陥検査装置100のワークカバレッジが増大、すなわち、欠陥検査装置100で検査することのできるワーク4の種類ないし量が増大する。
なお、以下の説明では、前処理フィルタは、検査工程の立ち上げ時に、ユーザによって選択された入力画像に基づいて予め生成される例について説明するが、前処理フィルタが生成されるタイミングは検査工程の立ち上げ時に限定されず、カメラ102のリプレース時期等、任意のタイミングでよい。なお、以下の説明では検査工程の立ち上げ工程を準備工程ともいい、準備工程のあと、実際に検査を行う工程を運用工程ともいう。
§2 構成例
<1.欠陥検査装置100のハードウェア構成>
次に、本実施の形態に係る欠陥検査システム1に含まれる欠陥検査装置100のハードウェア構成について説明する。
図2は、本実施の形態に係る欠陥検査装置100のハードウェア構成を示す模式図である。図2を参照して、欠陥検査装置100は、一例として、汎用的なコンピュータアーキテクチャに従って構成される汎用コンピュータを用いて実現されてもよい。欠陥検査装置100は、プロセッサ110と、メインメモリ(主記憶部)112と、カメラインターフェイス114と、入力インターフェイス116と、表示インターフェイス118と、通信インターフェイス120と、ストレージ(補助記憶部)130とを含む。これらのコンポーネントは、典型的には、内部バス122を介して互いに通信可能に接続されている。
プロセッサ110は、ストレージ130に格納されているプログラムをメインメモリ112に展開して実行することで、後述するような機能および処理を実現する。メインメモリ112は、揮発性メモリにより構成され、プロセッサ110によるプログラム実行に必要なワークメモリとして機能する。
カメラインターフェイス114は、カメラ102と接続されて、カメラ102にて撮像された入力画像を取得する。カメラインターフェイス114は、カメラ102に対して撮像タイミングなどを指示するようにしてもよい。
入力インターフェイス116は、キーボード106およびマウス108といった入力部と接続されて、ユーザが入力部に対して行った操作などを示す指令を取得する。
表示インターフェイス118は、ディスプレイ104と接続された、プロセッサ110によるプログラムの実行によって生成される各種処理結果をディスプレイ104へ出力する。
通信インターフェイス120は、上位ネットワーク8を介して、PLC10およびデータベース装置12などと通信するための処理を担当する。
ストレージ130は、CNNエンジンを実現するための画像処理プログラム132およびOS(operating system)134などのコンピュータを欠陥検査装置100として機能させるためのプログラムを格納している。ストレージ130は、さらに、後述するような画像計測処理を実現するための前処理フィルタ136と、カメラ102から取得された入力画像138と、画像計測処理によって得られた計測結果140とを格納していてもよい。
ストレージ130に格納される画像処理プログラム132は、DVD(digital versatile disc)などの光学記録媒体またはUSB(universal serial bus)メモリなどの半導体記録媒体などを介して、欠陥検査装置100にインストールされてもよい。あるいは、画像処理プログラム132は、ネットワーク上のサーバ装置などからダウンロードするようにしてもよい。
このように汎用コンピュータを用いて実現する場合には、OS134が提供するソフトウェアモジュールのうち、必要なソフトウェアモジュールを所定の順序および/またはタイミングで呼出して処理することで、本実施の形態に係る機能の一部を実現するものであってもよい。すなわち、本実施の形態に係る画像処理プログラム132は、本実施の形態に係る機能を実現するためのすべてのソフトウェアモジュールを含んでおらず、OSと協働することで、必要な機能が提供されるようにしてもよい。
本実施の形態に係る画像処理プログラム132は、他のプログラムの一部に組込まれて提供されるものであってもよい。その場合にも、画像処理プログラム132自体には、上記のような組合せられる他のプログラムに含まれるモジュールを含んでおらず、当該他のプログラムと協働して処理が実行される。このように、本実施の形態に係る画像処理プログラム132は、他のプログラムに組込まれた形態であってもよい。
図2には、汎用コンピュータを用いて欠陥検査装置100を実現する例を示したが、これに限られることなく、その全部または一部の機能を専用回路(例えば、ASIC(application specific integrated circuit)やFPGA(field-programmable gate array)など)を用いて実現してもよい。さらに、一部の処理をネットワーク接続された外部装置に担当させてもよい。
<2.欠陥検査装置100の機能構成>
次に、図3及び図4を参照して、本実施形態に係る欠陥検査システム1に含まれる欠陥検査装置100の機能構成について説明する。
図3は、本実施形態に係る欠陥検査装置100の機能構成を示す模式図である。欠陥検査装置100が有する各機能構成は、典型的には、前述のプロセッサ110が画像処理プログラム132を実行することで実現される演算処理である。また、図4は、本実施形態に係る欠陥検査装置100における検査工程(運用工程)の一例を説明するための模式図である。
図3を参照して、欠陥検査装置100は、機能構成として、入力バッファ152と、前処理部154と、CNNエンジン156と、後処理部170と、ユーザインターフェイス部166とを含む。以下、各機能部について詳細に説明する。なお、図3においてCNNエンジン156と、後処理部170とが検査部に該当する。
(2−1.入力バッファ152)
入力バッファ152は、カメラ102により撮像された入力画像を一旦格納する。プロセッサ110がストレージ130に入力画像を記憶することで、入力バッファ152が実現される。入力バッファ152には、前処理部154およびユーザインターフェイス部166からのアクセスが可能である。
(2−2.前処理部154)
前処理部154は、入力バッファ152に格納される入力画像に対して必要な前処理を実行する。本実施形態に係る前処理部154は、準備工程において前処理フィルタを生成する。前処理フィルタは例えば入力画像を変換するためのパラメータ(フィルタパラメータ)である。そして運用工程においては、入力画像に対して、前処理として準備工程において生成された当該前処理フィルタを入力画像に適用することによって入力画像の変換を変換し前処理済み画像を生成する(図4のS1)。このような前処理は、後段にあるCNNエンジン156において、より確実に欠陥の特徴を抽出できるように入力画像を加工することを目的としている。前処理の内容については、ユーザインターフェイス部166を介してユーザから指定されるようにしてもよい。前処理後の入力画像(前処理済み画像)は、CNNエンジン156へ出力される。なお、前処理フィルタの生成処理及びその機能の詳細については、図5乃至図7A、7Bを用いて後述する。
(2−3.CNNエンジン156)
CNNエンジン156は、事前学習された複数のクラスを有するCNNエンジン156を入力画像に適用することで、複数のクラスに対応する複数の特徴検出画像をそれぞれ生成する特徴検出画像生成機能を提供する。より具体的には、CNNエンジン156は、所定数のクラスへの分別能力を有するように事前学習されたネットワークを有しており、それぞれのクラスに対応する特徴検出画像(特徴検出画像1,特徴検出画像2,・・・,特徴検出画像N)を出力する(図4のS3)。図4の例では、ワークに生じる4つの欠陥の分類(クラス)として、「白点」、「黒点」、「白線」、「黒線」が示されている。カメラ102などにより撮像された入力画像がCNNエンジン156に入力されることで、特徴量がこれらのクラス「白点」、「黒点」、「白線」、「黒線」に分類される特徴検出画像がそれぞれ生成される。図4に示す特徴検出画像においては、対応する各特徴を示す領域が他の領域に比較してより濃度が大きくなるように濃淡表示されている。なお、他の領域に比較して濃度を大きく表示する例として、他の領域よりも明るく表示する態様や、他の領域よりも暗くする態様を含み得るが、これらに限られず、所定の特徴を示す領域を区別可能な態様であればいかなる態様でもよい。
CNNエンジン156は事前学習によって、各クラスに対応する特徴画像を検出するための内部パラメータを獲得している。たとえば、「白線」や「黒線」のクラスを検出する場合、内部パラメータは、検出可能な欠陥の幅のピクセル数で表すことが可能である。内部パラメータは事前学習によって与えられた学習画像に含まれていた欠陥の種類に応じて獲得される。
CNNエンジン156にてそれぞれ生成された複数の特徴検出画像は後処理部170へ出力されるとともに、ユーザインターフェイス部166からのアクセスも可能になっている。
(2−4.後処理部170)
後処理部170は、CNNエンジン156から出力される複数の特徴検出画像の少なくとも一部の特徴検出画像に対して、後処理を行うことで計測結果を生成する。
具体的には、本構成例において、後処理部170は、CNNエンジン156が出力した複数の特徴検出画像のうち、最も適切であると考えられる1つの特徴検出画像を選択し、後処理を実行することにより、計測結果画像を出力する(図4のS4)。
例えば、図4の例では、最も適切な特徴検出画像として、「黒線」の特徴検出画像が選択されている。しかし、この例では、「黒線」の特徴検出画像内には「黒点」に相当する特徴量も現れている。すなわち、「黒線」の特徴検出画像および「黒点」の特徴検出画像のいずれにも、点状の特徴部分が共通して現れている。逆に、ある一つの特徴が複数のクラスの特徴検出画像に分裂して現れることもある。このような入力画像に含まれる特徴の種類や大きさによっては、欠陥と欠陥以外(例えば、背景部分)とのパターン分離が難しくなる。このような同一の特徴が複数のクラスの特徴検出画像に現れているような場合には、後処理部170は、一方の特徴検出画像から他方の特徴検出画像に現れている特徴を減じるように画像演算処理を実行することで、目的の特徴のみを抽出することができる。
本明細書において、「画像演算処理」は、複数の画像間において、対応する画素の間で四則演算を含む任意の数学的処理を行うことを含む。図4に示す例では、「黒線」の特徴検出画像を構成するそれぞれの画素の輝度値と「黒点」の特徴検出画像を構成するそれぞれの画素の輝度値とを用いて、画素毎に輝度値の差を求める処理が実行される。
なお、画像演算処理は、特徴を減算する処理に限定されず、例えば、加算処理、および、それらの重付き演算処理などを含む。
さらに、後処理部170は、演算結果画像に対して2値化処理を含む後処理を実行することで、計測結果画像が得られる。図4に示す計測結果画像においては、「黒線」の特徴検出画像に現れていた、「黒点」を示す特徴が削除または縮小され、入力画像に含まれる特徴(欠陥)が十分に抽出できていることがわかる。
なお、後処理部170は、最も適切な特徴検出画像の選択や、実行する画像演算処理の種類、2値化処理に用いる閾値等を、ユーザインターフェイス部166を介してユーザから受け付けてもよい。
(2−5.ユーザインターフェイス部166)
ユーザインターフェイス部166は、前処理部154が前処理フィルタ作成処理を行う際に、ユーザから、入力画像において欠陥が含まれる領域(以下「欠陥領域」ともいう。)の指定を受け付ける。また、ユーザインターフェイス部166は、ユーザに提示する入力画像の選択を受け付ける。
さらに、ユーザインターフェイス部166は、画像計測処理により生成される計測結果画像および画像計測処理の途中過程において生成される画像などを、ディスプレイ104を介してユーザへ提示(画像表示)する。具体的には、ユーザインターフェイス部166は、欠陥検査装置100に入力される入力画像、前処理部154により生成される前処理済み画像、CNNエンジン156により生成される複数の特徴検出画像の少なくとも一部、および、CNNエンジン156により生成される複数の特徴検出画像の少なくとも一部を用いて後処理部170により後処理を行うことで生成される計測結果、のうち少なくとも一方をユーザへ提示する。
ユーザインターフェイス部166が提供するユーザインターフェイス画面例については、図8、図9A乃至9Cを用いて後述する。
<3.前処理フィルタ生成処理>
次に、図5を参照して、前処理部154の前処理フィルタ作成処理の詳細について説明する。図5は、前処理フィルタ生成処理の流れの一例を示すフローチャートである。図5の例では、入力画像のサイズを変換(拡大又は縮小)する前処理フィルタが生成される。しかし、前処理部154が生成する前処理フィルタはこれに限定されず、画像の面積や明度や彩度を変換する前処理フィルタが生成されてもよい。前処理フィルタの作成処理は、前述の準備工程において行われることが好ましい。
前処理フィルタ生成処理に先立って、まず、欠陥検査装置100に入力される入力画像から、前処理フィルタを生成するための画像(以下「前処理画像」ともいう。)がユーザ等によって選ばれる。前処理画像は、欠陥を含む検査対象の画像である。特に、前処理画像は、学習済みのCNNエンジン156の内部パラメータでは検出できない大きさ、種類の欠陥を含む、すなわち、事前学習した学習済みのCNNエンジンが有する特徴量から逸脱した特徴を有する欠陥を含む、検査対象の画像であることが望ましい。
次に、前処理部154は、前処理画像に対する欠陥領域の指定を、ユーザインターフェイス部166を介して受け付ける(S101)。図6は指定された欠陥領域の一例を示す図である。図6においては、矩形GTが欠陥領域に対応する。なお、欠陥領域は矩形に限定されず、面積をもった任意の形状でよい。
図5に戻りフローの続きを説明する。前処理部154は、拡縮率Sに初期値として1を設定する(S102)。次に、前処理部154は、前処理画像を拡縮率Sで拡大又は縮小(以下「変動」という。)し(S103)、前処理済み画像を生成する。続いて、前処理部154は、変動後の画像(前処理済み画像)のうち、少なくとも欠陥領域を含む部分をCNNエンジン156へ入力する。CNNエンジン156は入力された前処理済み画像から特徴検出画像を作成する(S104)。
CNNエンジン156が作成した特徴検出画像について、前処理部154は、スコア算出を行う(S105)。具体的には、前処理部154は、欠陥領域内における特徴検出画像の濃度の平均と、欠陥領域外の領域(以下「背景領域」ともいう。)における特徴検出画像の濃度の平均との差を、スコアとして算出する。上述のとおり特徴検出画像は、CNNエンジン156の内部パラメータに対応する特徴を示す領域が他の領域に比較してより濃度が大きくなるように濃淡によって表される。したがって、前処理画像を適切な拡縮率Sで変動させて、欠陥領域内で適切に欠陥の特徴が検出される場合(すなわち欠陥に対する見逃しが起きない場合)には、欠陥領域内の濃度は大きくなる。他方、欠陥領域外で欠陥の特徴が検出されない場合(すなわち見過ぎが起きない場合)には、欠陥領域外の濃度は小さくなる。なお、図5、及び、図6に示す例では、欠陥領域外の領域全てを背景領域として用いる例について説明したが、この例に限られない。例えば、背景領域に欠陥以外の所定の模様がある場合等に対応することを目的に、背景領域として、予め指定された領域を用いてもよく、また、欠陥以外の領域に含まれる所定の模様等を比較の対象外とするためのマスク処理を行って、欠陥以外の領域の特定の領域を背景領域として設定してもよい。
なお、上述のとおり、CNNエンジン156が出力する特徴検出画像は複数のクラスに分類されるところ、いずれのクラスの特徴検出画像に基づいてスコアを算出するかは、ユーザの指定を受け付けることが望ましい。しかしこれに限定されず、前処理部154はすべてのクラスの特徴検出画像についてスコアを算出し、スコアが最大となるクラスを選択してもよい。
スコアを算出すると、前処理部154は、拡縮率Sに2Sを代入する(S106)。
前処理部154は、上記のS101からS106までの処理を所定の終了条件を満たす(S107)まで繰り返し実行する。例えば、前処理部154は、前処理画像のサイズが所定の面積より小さくなる場合や、スコアがある値に収束した場合に、終了条件を満たしたと判定し(S107:YES)、繰り返し処理を脱出して、S108の処理に進む。S108においては、前処理部154は、スコアが最大となるときのSを選択し、選択したS倍で入力画像を変動する前処理フィルタを生成する(S108)。
ここで、図7A及び図7Bを参照して、このように生成された前処理フィルタの有用性について説明する。図7A,及び図7Bにおいては、一例としてそれぞれ「黒線」クラス、「白線」クラスに分類される特徴を有する欠陥を含む入力画像を例にとって説明する。
図7Aは、前処理フィルタが適用されることにより、入力画像に含まれる欠陥の特徴量が、学習済みの内部パラメータで検出可能な特徴量を逸脱していた場合に、未検出(欠陥の見逃し)が発生するのを防止可能な理由を説明するための模式図である。
図7Aでは、入力画像に含まれる欠陥は幅(Ttest)が、学習済みCNNエンジン156で検出可能な幅の最大値(Tmax)を逸脱している。したがって、前処理を行わずにCNNエンジン156に入力されると、このような入力画像は、適切なクラスに分類されない。
この場合、前処理部154は、入力画像のサイズを縮小率(拡縮率)S倍で縮小する前処理フィルタを適用することで、前処理済み画像に含まれる欠陥の幅(特徴量)は、CNNエンジン156で検出可能な幅(特徴量)の最大値(Tmax)より小さくなる。これによって、学習済みCNNエンジンによって、欠陥を検出することが可能になる。
他方、図7Bは、背景のテクスチャ等、欠陥ではない画像の特徴が学習済みの内部パラメータで検出可能な特徴量に収まっていた場合に、誤検出(見過ぎ)が発生するのを防ぐ例である。図7Bの例では背景のテクスチャの幅Ttestが、学習済みCNNエンジン156で検出可能な幅の範囲に収まってしまっている(Tmin≦Ttest≦Tmax)。
前処理部154は、入力画像のサイズを縮小率(拡縮率)S倍で拡大又は縮小する前処理フィルタを適用することで、前処理済み画像に含まれる欠陥の幅は、Tminより小さくなる。これによって、学習済みCNNエンジンによって、誤検出を防ぐことが可能になる。
このように、本実施形態に係る欠陥検査装置100によれば、CNNエンジンが事前学習で獲得した内部パラメータで、欠陥を適切に検出可能となるように、入力画像を変換する前処理フィルタを適用する。これによって、事前学習されたCNNエンジンの汎用性を向上させ、様々な検査対象や背景画像において柔軟に利用可能としている。
なお、本適用例において、入力画像のサイズを変動させる例について説明したが、入力画像のサイズを拡大することにより、前処理画像における欠陥を含む欠陥領域の特徴量の幅が、内部パラメータに対応した特徴量の範囲に含まれるように、または、前処理画像における背景領域のパターンの幅が、内部パラメータに対応した特徴量の範囲から逸脱するように、拡縮率Sを変更するようにしてもよい。
<4.ユーザインターフェイス画面例>
次に、図8、及び図9A乃至9Cを参照して本実施の形態に係る欠陥検査装置100が提供するユーザインターフェイス画面のいくつかの例を説明する。
図8は、本実施形態に係る欠陥検査装置100が提供する欠陥領域入力画面200の一例を示す模式図である。図8の例では、欠陥領域入力画面200は、図形登録領域201と、座標入力領域202と表示領域203を有している。
図形登録領域201は、図形ボタン211を含んでいる。ユーザは、図形ボタン211から、所望の形状の図形のボタンを選択することで、欠陥領域を特定する図形を選択することができる。図8の例では、図形ボタン211として、正方形や長方形、円形、五角形、円弧形、同心円が表示されているがこれに限定されず、任意の図形を設定可能である。また、図形を選択する方法はボタンに限定されず、プルダウンやチェックボックス、ラジオボタン等でもよい。
座標入力領域202は、欠陥領域の座標の入力を受け付ける。図8の例では、ユーザは座標入力領域202において、欠陥領域の左上と右上との座標を入力することで、欠陥領域GTを指定することができる。ユーザが指定した欠陥領域GTは、表示領域203に表示される。
なお、欠陥領域の指定方法は、図8の例に限定されない。例えば、欠陥領域は、表示領域203に表示された画像に直接描画することによって、入力される構成でもよい。
図9A乃至9Cは、本実施形態に係る欠陥検査装置100が提供する処理画像表示画面230の一例を示す模式図である。処理画像表示画面230は、選択領域231と、画像表示領域232とを有している。
選択領域231は、ラジオボタン群233を有している。ユーザはラジオボタン群233に対する選択操作を与えて、画像表示領域232に表示させる画像の種類を選択する。例えば、選択領域231においては、元画像(入力画像)と、前処理後の画像(前処理済み画像)と、計測結果画像とから、画像表示領域232に表示させる画像を選択することができる。
図9Aは画像表示領域232に元画像が表示されている例を示している。図9Aに示すように元画像では、円Fで示す領域には、欠陥は視認できない。他方、図9Bは計測結果画像が表示されている例を示している。また、図9Cは前処理後の画像(前処理済み画像)が表示されている例を示している。計測結果画像においては円Fで示す領域に、白点が検出されている。ここで、前処理後の画像(前処理済み画像)においても、円Fの領域には、薄い点が表示されていることから、計測結果画像の円Fに表示される白点は、欠陥ではなく、前処理によって発生してしまったノイズであることが分かる。
このように、本実施形態に係る欠陥検査装置100は、ユーザに対して、前処理後の中間画像(前処理済み画像)を提示することによって、ユーザが計測結果画像を確認した際に、欠陥が誤検出された理由が、CNNエンジン156によるものなのか、前処理によるノイズであるのかを把握できるようになる。
§3 動作例
次に、本実施の形態に係る欠陥検査システム1における動作例について説明する。本実施の形態に係る欠陥検査システム1においては、画像計測処理に係る前処理フィルタを生成するための準備工程と、現実に対象のワークを撮像して画像計測処理を実行する運用工程とが存在する。なお、準備工程の処理シーケンスと、運用工程の処理シーケンスとは、前述の入力部を用いて、ユーザが選択することができる。また、運用工程の処理シーケンスにおいて、検査結果(例えば、欠陥の有無、欠陥に対応する領域の大きさ、当該領域の位置などの情報をいう。)の内容に応じて、設定された前処理フィルタを更新する処理を実行するようにしてもよい。例えば、運用工程の処理シーケンスにおいて、未検出の欠陥が所定回数生じた場合に、前述の前処理フィルタのフィルタパラメータを、未検出の欠陥が含まれる画像(以下、「未検出画像」ともいう。)に基づき、更新するようにしてもよい。
図10は、本実施の形態に係る欠陥検査システム1における準備工程の処理手順を示すフローチャートである。図11は、本実施の形態に係る欠陥検査システム1における運用工程の処理手順を示すフローチャートである。図10および図11に示す処理手順の各ステップは、典型的には、欠陥検査装置100のプロセッサ110が画像処理プログラム132などを実行することで実現される。
図10を参照して、準備工程において、欠陥検査装置100は、画像計測処理の基準となるワークを所定位置に配置した状態でカメラ102を用いて撮像して得られる入力画像を取得する(ステップS201)。このとき、カメラ102がワークを撮像することで生成される入力画像(画像データ)は、欠陥検査装置100へ転送されて、欠陥検査装置100のメインメモリ112に展開される。続いて、欠陥検査装置100は、取得した入力画像を用いて、上述の前処理フィルタ生成処理を行い、スコアが最大となる拡縮率Sを決定する(ステップS202)。
さらに、欠陥検査装置100は、決定した拡縮率Sで入力画像を変換するための前処理フィルタ生成し格納する(ステップS203)。そして、準備工程での処理は終了する。
図11を参照して、運用工程において、欠陥検査装置100は、画像計測処理の基準となるワークがカメラ102の撮像視野6に到着すると、カメラ102を用いて当該ワークを撮像して得られる入力画像を取得する(ステップS301)。このとき、カメラ102がワークを撮像することで生成される入力画像(画像データ)は、欠陥検査装置100へ転送されて、欠陥検査装置100のメインメモリ112に展開される。
続いて、欠陥検査装置100は、取得した入力画像に対して前処理を実行する(ステップS302)。さらに、欠陥検査装置100は、事前学習されたCNNを有する識別器を含むCNNエンジンを用いて、前処理後の入力画像から1または複数の特徴の分類(クラス)毎に特徴を抽出する処理を実行する。欠陥検査装置100は、この特徴を抽出する処理によって、1または複数のクラス毎の特徴検出画像を生成する(ステップS303)。
続いて、欠陥検査装置100は、後処理を実行して、計測結果画像を生成する(ステップS304)。
最終的に、欠陥検査装置100は、生成した計測結果画像を出力する(ステップS212)。計測結果画像の出力先としては、ディスプレイ104などであってもよいし、上位ネットワーク8を介して接続されている、PLC10および/またはデータベース装置12であってもよい。そして、運用工程の処理は終了する。なお、欠陥検査装置100は、計測結果画像に代えて、または、計測結果画像とともに、検査対象に欠陥が含まれているか否かの情報を少なくとも含む検査結果を出力してもよい。検査結果は、例えば、生産ラインにおいて検査対象の仕分けを行う所定の動作機械に送付される。これによれば、動作機械は、検査結果に応じた検査対象の自動仕分けを実行することができる。
なお、図11に示す運用工程の処理手順が開始される条件は、ワークの到着を検出するタイミングセンサからのトリガ信号、上位装置からの実行開始指令、ユーザからの指示のいずれであってもよい。
<H.利点>
本実施の形態に係る欠陥検査装置は、事前学習された複数のクラスを有するCNNエンジンの汎用性を向上させ、任意の被検査対象に対する画像計測処理に適用可能にする。このような事前学習されたCNNエンジンを用いた場合には、当該事前学習によってCNNエンジンが獲得した内部パラメータで検出可能な欠陥の特徴量から、実際の検査工程に含まれる欠陥の特徴量が逸脱してしまう場合などが生じ得る。
目的とする被検査対象に応じてCNNエンジンを再学習するなどの対処をとることもできるが、目的とする被検査対象が頻繁に変化するようなアプリケーションにおいては、現実的な対処ではない。そこで、本実施の形態においては、実際の検査工程で用いられる入力画像を変換する前処理フィルタを有している。これによって、実際の検査工程に含まれる欠陥の特徴量が、内部パラメータで検出可能な特徴量の範囲に含まれるように変換することができ、事前学習されたCNNエンジンを汎用的に利用可能にする。
また、本実施の形態に係る欠陥検査装置は、画像計測処理の過程において生成される画像を比較可能にユーザへ提示することができる。例えば、入力画像、前処理済み画像、特徴検出画像、及び計測結果画像をユーザへ提示したりすることができる。
このような各過程で生成される画像を確認することで、例えば計測結果画像に誤って検出された欠陥が含まれていた場合に、ユーザは、当該誤検出の原因を特定することができる。
§4 変形例
以上、本発明の実施の形態を詳細に説明してきたが、上述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略した。以下の変形例は適宜組合せ可能である。
例えば、既述の実施形態では、前処理部154は、前処理画像のサイズを変換する前処理フィルタを生成する例について説明した。しかし、これに限定されず、前処理部154は、明度を平坦化するための前処理フィルタを生成してもよい。
図12及び図13を参照して、明度を平坦化するための前処理フィルタを生成する処理について説明する。図12は、縦x、横yの大きさの元画像が、所定の特徴サイズ(1辺がFの正方形)の特徴のみのコントラストを強調するように前処理を施した場合の例を示している。元の画像をI、前処理後の画像をI’とすると、前処理部154は、以下の式1に示すアルゴリズムを用いて、所定のサイズの特徴についてコントラストを強調することができる
図13は、上記のアルゴリズムを用いた、前処理部154の前処理フィルタ作成処理の流れの変形例を示すフローチャートである。図13を参照し、図5に示したフローチャートとの違いについて主に説明する。
この例では、前処理部154は、S103の処理において前処理画像を倍率Sで拡大又は縮小したのち、特徴サイズFを、指定された欠陥領域のサイズで初期化する(S111)。例えば、前処理部154は、欠陥領域の高さと幅の平均値を、特徴サイズFに設定する。
次に、前処理部154は、上記式1のアルゴリズムを用いて、前処理画像の明度を平坦化し、前処理済み画像を生成する(S112)。その後、図5の例と同様に、前処理済み画像をCNNエンジン156へ入力し、特徴検出画像を作成させ(S104)、スコアを算出する(S105)。その後、前処理部154は、特徴サイズFに2Fを代入し(S113)、終了条件を満たしたと判定するまで(S115)、S112、S104、S105、S113の処理を繰り返し実行する。この処理を各拡縮率Sに対して所定の終了条件を満たすまで(S107:YES)、繰り返し実行する。
これによって、前処理部154は、スコアを最大にする拡縮率、及び特徴サイズを前処理フィルタに設定することができる(S117)。その他の構成、効果は既述の実施形態と同様である。
なお、上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
(付記1)
少なくとも1つのメモリと前記メモリに接続された少なくとも1つのハードウェアプロセッサを備え、
前記メモリには、学習済みモデルと当該学習済みモデルに設定された内部パラメータが記憶され、
前記ハードウェアプロセッサは、
所定の条件で撮影された検査対象の画像を取得し、
前記取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、前記内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前記前処理フィルタを前記取得部で取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで、前処理済み画像を生成する前処理部と、
前記前処理済み画像に対して、前記記憶された学習済みモデルを用いて、前記検査対象の欠陥の有無を検査する、
ことを特徴とする欠陥検査装置。
(付記2)
少なくとも1つ以上のハードウェアプロセッサによって、
学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶するステップと、
所定の条件で撮影された検査対象の画像を取得するステップと、
前記取得するステップによって取得された欠陥を含む検査対象の前処理画像における特徴量と、前記内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前記前処理フィルタを取得された検査対象の画像である検査画像に適用し手当該検査画像を変換することで、前処理済み画像を生成するステップと、
前記前処理済み画像に対して、前記記憶された学習済みモデルを用いて、前記検査対象の欠陥の有無を検査するステップと、
を実行する欠陥検査方法。
1 欠陥検査システム
2 特徴検出画像
2 ベルトコンベア
4 ワーク
6 撮像視野
8 上位ネットワーク
12 データベース装置
100 欠陥検査装置
102 カメラ
104 ディスプレイ
106 キーボード
108 マウス
110 プロセッサ
112 メインメモリ
114 カメラインターフェイス
116 入力インターフェイス
118 表示インターフェイス
120 通信インターフェイス
122 内部バス
130 ストレージ
132 画像処理プログラム
136 前処理フィルタ
138 入力画像
140 計測結果
152 入力バッファ
154 前処理部
156 エンジン
166 ユーザインターフェイス部
170 後処理部
200 欠陥領域入力画面
201 図形登録領域
202 座標入力領域
203 表示領域
211 図形ボタン
230 処理画像表示画面
231 選択領域
232 画像表示領域
233 ラジオボタン群

Claims (14)

  1. 学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶する記憶部と、
    所定の条件で撮影された検査対象の画像を取得する取得部と、
    前記取得部で取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、前記内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前記前処理フィルタを前記取得部で取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで、前処理済み画像を生成する前処理部と、
    前記前処理済み画像に対して、前記記憶された学習済みモデルを用いて、前記検査対象の欠陥の有無を検査する検査部と、を備える欠陥検査装置。
  2. 前記前処理部は、
    前記前処理画像における前記欠陥を含む欠陥領域の特徴量の幅が、前記内部パラメータに対応した特徴量の範囲に含まれるように、前記前処理画像を変換するための前処理フィルタを生成する、
    請求項1に記載の欠陥検査装置。
  3. 前記前処理部は、
    前記前処理画像における前記欠陥領域以外の背景領域のパターンの幅が、前記内部パラメータに対応した特徴量の範囲から逸脱するように、前記前処理画像を変換するための前処理フィルタを生成する、
    請求項2に記載の欠陥検査装置。
  4. 前記前処理部は、
    前記前処理画像における前記欠陥領域の指定を外部から受け付け、受け付けた前記欠陥領域に基づいて前記前処理フィルタを生成する、
    請求項2又は3に記載の欠陥検査装置。
  5. 前記前処理部は、
    前記欠陥領域に基づいて前記前処理画像を拡大又は縮小する前記前処理フィルタを生成する、
    請求項2乃至4の何れか一項に記載の欠陥検査装置。
  6. 前記前処理部は、
    前記前処理画像のうち、少なくとも前記欠陥領域を含む部分を複数の拡縮率によって変動させ、少なくとも前記部分について特徴検出画像を生成し、
    複数の拡縮率で変動させたときの、前記特徴検出画像の前記欠陥領域内の濃度と前記欠陥領域外の濃度との差が最大のとき拡縮率によって、前記前処理画像を拡大又は縮小する前記前処理フィルタを生成するものであり、
    前記特徴検出画像は、前記内部パラメータに対応する特徴を示す領域が他の領域に比較してより濃度が大きくなるように濃淡で表されるものである、
    請求項2乃至4の何れか一項に記載の欠陥検査装置。
  7. 前記前処理部は、
    前記前処理画像の明度を平坦にする前処理フィルタを生成する、
    請求項1乃至6の何れか一項に記載の欠陥検査装置。
  8. 前記前処理済み画像を表示する表示部をさらに備える請求項7に記載の欠陥検査装置。
  9. 前記表示部は、
    前記前処理済み画像査画像と、欠陥が抽出された検査結果画像とを比較可能に表示する、請求項8に記載の欠陥検査装置。
  10. 取得部で取得された欠陥を含む検査対象の画像のうち、前記前処理フィルタを生成するために用いられる前処理画像のユーザ選択を受け付ける入力部を備え、
    前記前処理部は、前記前処理画像における特徴量と、前記内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成する、
    請求項1乃至9の何れか一項に記載の欠陥検査装置。
  11. 複数の処理シーケンスのうちのいずれを実行させるかのユーザ選択を受け付けるシーケンス入力部を備え、
    前記複数の処理シーケンスは、前記前処理部が前記前処理フィルタを生成する準備工程シーケンスと、生成された前記前処理フィルタを前記検査画像に適用して、前記検査対象に含まれる欠陥の有無を検査する運用工程シーケンスと、を含む、
    請求項1乃至10の何れか一項に記載の欠陥検査装置。
  12. 前記運用工程シーケンスは、前記検査対象の欠陥を識別できたか否かの検査結果の内容に応じて、前記前処理部により前記前処理フィルタを更新する処理を実行する、
    請求項11に記載の欠陥検査装置。
  13. コンピュータが、
    学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶するステップと、
    所定の条件で撮影された検査対象の画像を取得するステップと、
    前記取得するステップによって取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、前記内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前記前処理フィルタを前記取得するステップによって取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで、前処理済み画像を生成するステップと、
    前記前処理済み画像に対して、前記記憶された学習済みモデルを用いて、前記検査対象の欠陥の有無を検査するステップと、
    を実行する欠陥検査方法。
  14. コンピュータを、
    学習済みモデルと当該学習済みモデルに設定された内部パラメータを記憶する手段、
    所定の条件で撮影された検査対象の画像を取得する手段、
    前記取得する手段によって取得された欠陥を含む検査対象の画像である前処理画像における特徴量と、前記内部パラメータに対応した特徴量とに応じて所定の前処理フィルタを生成し、生成した前記前処理フィルタを前記取得する手段によって取得された検査対象の画像である検査画像に適用して当該検査画像を変換することで前処理済み画像を生成する手段と、
    前記前処理済み画像に対して、前記記憶された学習済みモデルを用いて、前記検査対象の欠陥の有無を検査する手段、
    として機能させるプログラム。
JP2017219594A 2017-11-15 2017-11-15 欠陥検査装置、欠陥検査方法、及びそのプログラム Active JP7004145B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017219594A JP7004145B2 (ja) 2017-11-15 2017-11-15 欠陥検査装置、欠陥検査方法、及びそのプログラム
CN201811055662.3A CN109781733B (zh) 2017-11-15 2018-09-11 缺陷检查装置、缺陷检查方法及计算机可读存储介质
US16/129,818 US10776909B2 (en) 2017-11-15 2018-09-13 Defect inspection apparatus, defect inspection method, and non-transitory computer readable medium
EP18194192.3A EP3486867A1 (en) 2017-11-15 2018-09-13 Defect inspection apparatus, defect inspection method, and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017219594A JP7004145B2 (ja) 2017-11-15 2017-11-15 欠陥検査装置、欠陥検査方法、及びそのプログラム

Publications (2)

Publication Number Publication Date
JP2019091249A true JP2019091249A (ja) 2019-06-13
JP7004145B2 JP7004145B2 (ja) 2022-01-21

Family

ID=63579150

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017219594A Active JP7004145B2 (ja) 2017-11-15 2017-11-15 欠陥検査装置、欠陥検査方法、及びそのプログラム

Country Status (4)

Country Link
US (1) US10776909B2 (ja)
EP (1) EP3486867A1 (ja)
JP (1) JP7004145B2 (ja)
CN (1) CN109781733B (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054478A1 (ja) * 2019-09-22 2021-03-25 株式会社リョーワ 良否判定システム、サーバ及びプログラム
KR20210040853A (ko) * 2020-06-30 2021-04-14 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 제품 결함 검출 방법, 장치, 전자 기기, 저장 매체 및 컴퓨터 프로그램
WO2021070675A1 (ja) * 2019-10-08 2021-04-15 キヤノン株式会社 教師データの生成方法、学習済の学習モデル、及びシステム
JP2022137981A (ja) * 2021-03-09 2022-09-22 株式会社豊田中央研究所 対象物検出装置及びプログラム
WO2022255493A1 (ja) * 2021-06-04 2022-12-08 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像方法および撮像プログラム
JP7191283B1 (ja) * 2022-05-24 2022-12-16 三菱電機株式会社 情報処理装置、情報処理システム、情報処理方法、及び、プログラム
KR102644815B1 (ko) * 2023-07-27 2024-03-08 주식회사 인터엑스 사출공정에 적용 가능한 딥러닝 기반 품질검사 시스템 및 그 제어방법

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
US11748874B2 (en) * 2018-10-15 2023-09-05 3M Innovative Properties Company Automated inspection for sheet parts of arbitrary shape from manufactured film
JP7258509B2 (ja) * 2018-10-15 2023-04-17 オムロン株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
CN110148130B (zh) * 2019-05-27 2022-02-11 北京百度网讯科技有限公司 用于检测零件缺陷的方法和装置
CA3140559A1 (en) * 2019-06-05 2020-12-10 Luc Perron Automated inspection method for a manufactured article and system for performing same
JP7298333B2 (ja) * 2019-06-25 2023-06-27 オムロン株式会社 外観検査管理システム、外観検査管理装置、外観検査管理方法及びプログラム
CN112304952B (zh) * 2019-07-23 2024-04-02 纬创资通股份有限公司 影像辨识装置、影像辨识方法及其计算机程序产品
CN111175318A (zh) * 2020-01-21 2020-05-19 上海悦易网络信息技术有限公司 屏幕划痕碎裂检测方法及设备
JP2021140524A (ja) * 2020-03-06 2021-09-16 株式会社東芝 検査端末装置、検査装置、検査システム、及び、検査プログラム
TWI738367B (zh) * 2020-06-01 2021-09-01 國立中正大學 以卷積神經網路檢測物件影像之方法
CN113751332A (zh) * 2020-06-03 2021-12-07 泰连服务有限公司 视觉检查系统和检查零件的方法
US20230334651A1 (en) * 2020-08-13 2023-10-19 Corning Incorporated Structural characteristic prediction for a honeycomb body using image abstraction
JPWO2022085135A1 (ja) * 2020-10-21 2022-04-28

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04166712A (ja) * 1990-10-30 1992-06-12 Dainippon Screen Mfg Co Ltd プリント基板のパターン検査方法
JPH0552767A (ja) * 1991-08-28 1993-03-02 Matsushita Electric Ind Co Ltd 画像検査装置
JPH06325181A (ja) * 1993-05-17 1994-11-25 Mitsubishi Electric Corp パターン認識方法
JP2004061500A (ja) * 2002-06-03 2004-02-26 Fuji Photo Film Co Ltd 画像欠陥検出方法
JP2009116377A (ja) * 2007-11-01 2009-05-28 Keyence Corp 画像処理コントローラ用のプログラム作成装置
WO2017068675A1 (ja) * 2015-10-22 2017-04-27 富士通株式会社 プログラム生成装置、プログラム生成方法および生成プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4056670B2 (ja) * 2000-01-31 2008-03-05 富士フイルム株式会社 画像処理方法
JP4155496B2 (ja) 2002-04-25 2008-09-24 大日本スクリーン製造株式会社 分類支援装置、分類装置およびプログラム
US20040027618A1 (en) * 2002-06-03 2004-02-12 Fuji Photo Film Co., Ltd. Image defect detecting method
JP5075111B2 (ja) 2008-12-29 2012-11-14 株式会社日立ハイテクノロジーズ 画像分類基準更新方法、プログラムおよび画像分類装置
JP5715873B2 (ja) * 2011-04-20 2015-05-13 株式会社日立ハイテクノロジーズ 欠陥分類方法及び欠陥分類システム
JP2013160530A (ja) * 2012-02-01 2013-08-19 Seiko Epson Corp 検査装置、ロボット装置、検査方法及び検査プログラム
EP3118812A4 (en) * 2014-03-14 2017-11-22 Omron Corporation Image processing device, image sensor, and image processing method
KR101562988B1 (ko) * 2014-05-08 2015-10-23 주식회사 포스코 열간소재의 표면결함 검출 장치 및 표면 검출 방법
CN105118044B (zh) * 2015-06-16 2017-11-07 华南理工大学 一种轮形铸造产品缺陷自动检测方法
US10186026B2 (en) * 2015-11-17 2019-01-22 Kla-Tencor Corp. Single image detection
US10325351B2 (en) * 2016-03-11 2019-06-18 Qualcomm Technologies, Inc. Systems and methods for normalizing an image
CN107220649A (zh) * 2017-05-27 2017-09-29 江苏理工学院 一种素色布匹缺陷检测和分类方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04166712A (ja) * 1990-10-30 1992-06-12 Dainippon Screen Mfg Co Ltd プリント基板のパターン検査方法
JPH0552767A (ja) * 1991-08-28 1993-03-02 Matsushita Electric Ind Co Ltd 画像検査装置
JPH06325181A (ja) * 1993-05-17 1994-11-25 Mitsubishi Electric Corp パターン認識方法
JP2004061500A (ja) * 2002-06-03 2004-02-26 Fuji Photo Film Co Ltd 画像欠陥検出方法
JP2009116377A (ja) * 2007-11-01 2009-05-28 Keyence Corp 画像処理コントローラ用のプログラム作成装置
WO2017068675A1 (ja) * 2015-10-22 2017-04-27 富士通株式会社 プログラム生成装置、プログラム生成方法および生成プログラム

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054478A1 (ja) * 2019-09-22 2021-03-25 株式会社リョーワ 良否判定システム、サーバ及びプログラム
JP2021051404A (ja) * 2019-09-22 2021-04-01 株式会社リョーワ 良否判定システム、サーバ及び良否判定方法
WO2021070675A1 (ja) * 2019-10-08 2021-04-15 キヤノン株式会社 教師データの生成方法、学習済の学習モデル、及びシステム
KR20210040853A (ko) * 2020-06-30 2021-04-14 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 제품 결함 검출 방법, 장치, 전자 기기, 저장 매체 및 컴퓨터 프로그램
KR102636381B1 (ko) 2020-06-30 2024-02-13 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 제품 결함 검출 방법, 장치, 전자 기기, 저장 매체 및 컴퓨터 프로그램
JP2022137981A (ja) * 2021-03-09 2022-09-22 株式会社豊田中央研究所 対象物検出装置及びプログラム
WO2022255493A1 (ja) * 2021-06-04 2022-12-08 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像方法および撮像プログラム
JP7191283B1 (ja) * 2022-05-24 2022-12-16 三菱電機株式会社 情報処理装置、情報処理システム、情報処理方法、及び、プログラム
WO2023228282A1 (ja) * 2022-05-24 2023-11-30 三菱電機株式会社 情報処理装置、情報処理システム、情報処理方法、及び、プログラム
KR102644815B1 (ko) * 2023-07-27 2024-03-08 주식회사 인터엑스 사출공정에 적용 가능한 딥러닝 기반 품질검사 시스템 및 그 제어방법

Also Published As

Publication number Publication date
CN109781733A (zh) 2019-05-21
US10776909B2 (en) 2020-09-15
EP3486867A1 (en) 2019-05-22
JP7004145B2 (ja) 2022-01-21
US20190147586A1 (en) 2019-05-16
CN109781733B (zh) 2022-02-22

Similar Documents

Publication Publication Date Title
JP7004145B2 (ja) 欠陥検査装置、欠陥検査方法、及びそのプログラム
US11301978B2 (en) Defect inspection device, defect inspection method, and computer readable recording medium
JP6869490B2 (ja) 欠陥検査装置、欠陥検査方法、及びそのプログラム
EP3502966B1 (en) Data generation apparatus, data generation method, and data generation program
US10824906B2 (en) Image processing device, non-transitory computer readable storage medium, and image processing system
US7881520B2 (en) Defect inspection system
TW202142852A (zh) 半導體試樣的基於深度學習之檢查的方法及其系統
TW202105549A (zh) 對樣本的缺陷檢測的方法及其系統
JP2008047664A (ja) パターン検査装置及び半導体検査システム
US20210272272A1 (en) Inspection support apparatus, inspection support method, and inspection support program for concrete structure
CN113870170B (zh) 生成可用于检查半导体样本的训练集
KR20230036650A (ko) 영상 패치 기반의 불량 검출 시스템 및 방법
US11574397B2 (en) Image processing device, image processing method, and computer readable recording medium
WO2022181304A1 (ja) 検査システムおよび検査プログラム
US20230316492A1 (en) Teacher data generating method and generating device
US20240020822A1 (en) Teacher data preparation method and preparation device
JP2023172508A (ja) 学習装置、学習システム、学習方法、及び、プログラム
JPH10143673A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211214

R150 Certificate of patent or registration of utility model

Ref document number: 7004145

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150