JP7015001B2 - 欠陥検査装置、欠陥検査方法、及びそのプログラム - Google Patents
欠陥検査装置、欠陥検査方法、及びそのプログラム Download PDFInfo
- Publication number
- JP7015001B2 JP7015001B2 JP2018046534A JP2018046534A JP7015001B2 JP 7015001 B2 JP7015001 B2 JP 7015001B2 JP 2018046534 A JP2018046534 A JP 2018046534A JP 2018046534 A JP2018046534 A JP 2018046534A JP 7015001 B2 JP7015001 B2 JP 7015001B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- defect
- determination
- inspection
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
- G01N21/956—Inspecting patterns on the surface of objects
- G01N21/95607—Inspecting patterns on the surface of objects using a comparative method
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Chemical & Material Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Geometry (AREA)
- Signal Processing (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Description
本発明の一側面に係る欠陥検査装置は、検査対象物の検査画像を所得する取得部と、検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する画像生成部と、検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する検査部と、欠陥に対応する領域が特定された2値化画像である設定用画像を用いて、設定用画像の画素の色の濃度に基づく画像スコアを算出し、領域の内部の画像スコアと領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新する、設定部と、を備える。特徴抽出画像は、欠陥検査装置に入力される画像から所定の特徴を抽出した画像をいう。2値化画像は、特徴抽出画像に基づいて生成され、検査部によって欠陥の有無が判定される画像をいう。
まず、図1を用いて、本発明が適用される場面の一例について説明する。図1は、本実施形態に係る欠陥検査システム1の適用場面の一例を模式図である。本実施の形態に係る欠陥検査システム1は、検査対象を撮像することにより生成される入力画像に対して欠陥検査を行う際に、欠陥として抽出する特徴に応じて適切な判定用パラメータが設定されるように作業者(以下「ユーザ」ともいう。)を補助することができる。なお、検査対象は、例えば、製造過程にある、部品、製品等のワーク(Work piece)等を含む。
<1.欠陥検査装置100のハードウェア構成>
次に、本実施の形態に係る欠陥検査システム1に含まれる欠陥検査装置100のハードウェア構成について説明する。
次に、図3及び図4を参照して、本実施形態に係る欠陥検査システム1に含まれる欠陥検査装置100の機能構成について説明する。なお、図3においてCNNエンジン156が画像生成部に該当し、後処理部170(特に判定部162)が検査部に該当する。
入力バッファ152は、カメラ102により撮像された入力画像を一旦格納する。プロセッサ110がストレージ130に入力画像を記憶することで、入力バッファ152が実現される。入力バッファ152には、前処理部154および設定部166からのアクセスが可能である。
前処理部154は、入力バッファ152に格納される入力画像に対して必要な前処理を実行する。本実施形態に係る前処理部154は、検査工程の立ち上げ時(以下「準備工程」ともいう。)において前処理フィルタを生成する。前処理フィルタは例えば入力画像を変換するためのパラメータ(フィルタパラメータ)である。なお、前処理フィルタの具体例としては、明度補正、カラーグレー変換、後述する入力画像の拡大縮小、等が挙げられる。なお、前処理フィルタは、入力画像に態様により適宜適用すればよい。
・入力画像に含まれる欠陥に対応する領域の特徴量の幅が、内部パラメータに対応した特徴量の範囲に含まれるように、入力画像を拡大縮小する。
・入力画像に含まれる欠陥でない領域の特徴が、内部パラメータで抽出される特徴量に納まらないように入力画像を拡大縮小する。
CNNエンジン156は、事前学習された複数のクラスを有するCNNエンジン156を入力画像に適用することで、複数のクラスに対応する複数の特徴抽出画像をそれぞれ生成する特徴抽出画像生成機能を提供する。CNNエンジン156にてそれぞれ生成された複数の特徴抽出画像は後処理部170へ出力されるとともに、設定部166からのアクセスも可能になっている。
CNNエンジン156は、画像が入力された場合に、入力された画像があらかじめ指定された複数のクラス(分類:n)に属する確率prob(n)を出力するように構成されている。確率は、予め指定された複数のクラス(分類)ごとに算出される。本実施形態におけるCNNエンジン156は、事前学習により、入力画像が、いずれのクラスに属する画像であるかの確率prob(n)と、当該クラスに属する特徴抽出画像(特徴抽出画像1,特徴抽出画像2,・・・,特徴抽出画像N)を出力する(図4のS3)。本実施の形態において、複数のクラスは、背景、黒点、白点、黒線、白線、の5つのクラスである。カメラ102などにより撮像された入力画像がCNNエンジン156に入力されることで、これらのクラス「白点」、「黒点」、「白線」、「黒線」に分類される特徴を抽出した特徴抽出画像がそれぞれ生成される。図4に示す特徴抽出画像においては、各特徴を示す領域と他の領域との濃度差が大きくなるように表示されている。なお、濃度差を大きく表示する例として、他の領域よりも明るく表示する態様や、他の領域よりも暗くする態様を含み得るが、これらに限られず、所定の特徴を示す領域を区別可能な態様であればいかなる態様でもよい。
後処理部170は、CNNエンジン156から出力される複数の特徴抽出画像の少なくとも一部の特徴抽出画像に対して、後処理を行うことで計測結果画像を生成する。具体的には、後処理部170は、CNNエンジン156が出力した複数の特徴抽出画像のうち、指定された1つまたは複数の特徴抽出画像を選択し、後処理を実行することにより、計測結果画像を出力する(図4のS4)。1つまたは特徴抽出画像の選択は、図3に示すように設定部166を介してユーザによる指定を受け付けてもよい。なお、後処理部170は計測結果画像と併せて計測結果を出力してもよい。計測結果は、入力画像に対して欠陥検査処理を実行したときに得られる判定結果(例えば、欠陥の有無、欠陥パターンの大きさ、欠陥パターンの位置など)を含む。
2値化処理とは、判定部162が判定用パラメータに含まれる2値化レベルに従って、特徴抽出画像、または、複数の特徴抽出画像について画像演算部160が画像処理を施した画像(以下、「中間画像」という。)から2値化画像を生成する処理である。より詳細には、2値化処理として、判定部162は、まず、画像演算部160が出力した中間画像に対して判定用パラメータに含まれる2値化レベルに基づいて、2値化画像を生成する。2値化レベルとは、例えば、画素の強度に関する閾値である。例えば、判定部162が特徴抽出画像の濃度を白と黒の2値で表す2値化画像を生成する場合を例に説明する。この場合、もとの特徴抽出画像の濃度は連続した値を有するところ、判定部162は、2値化レベル以上の強度を有する画素をすべて黒に変換し、2値化レベル未満の強度を有する画素をすべて白に変換することで、特徴抽出画像を2値化した2値化画像を生成する。なお、強度と黒白との対応関係はこれに限定されず、逆でもよい。
設定部166は、判定部162が判定処理に用いる判定用パラメータを設定し、判定部162に出力する。本実施形態に係る設定部166は判定用パラメータを設定するモードとして、以下の3種類を有している。
・手動モード
・半自動モード
・全自動モード
手動モードでは、設定部166は、判定条件の設定として、判定項目の選択と選択された判定項目に設定する判定閾値(上限と下限)との設定をユーザから受け付ける。また、設定部166は手動モードでは2値化レベルの設定もユーザから受け付ける。設定部166は、受け付けた2値化レベルと判定条件とを判定パラメータとして判定部162に出力する。
半自動モードでは、設定部166は、判定用パラメータを仮設定したのち、ユーザからパラメータの調整を受け付けるモードであり、ユーザが判定用パラメータを調整自在な状態で判定用パラメータの仮設定を自動的に実行する設定モードである。図6を用いて半自動モードにおける設定部166の処理の一例について説明する。
全自動モードでは、設定部166は、入力画像に対して、欠陥として検出する領域(以下「欠陥領域」ともいう。)の指定をユーザから受け付け、当該指定された欠陥領域に基づいて判定用パラメータを自動設定する。図7乃至図9を用いて全自動モードにおける設定部166の処理の一例について説明する。
まず、設定部166はユーザから入力画像に対する欠陥領域の特定を受け付ける(S201)。図8は特定された欠陥領域の一例を示す図である。図8においては、矩形GTが欠陥領域に対応する。なお、欠陥領域は矩形に限定されず、面積をもった任意の形状でよい。
欠陥領域が指定されると、CNNエンジン156が特徴抽出画像を生成する。このとき設定部166は、判定用パラメータを初期設定する(S202)。判定用パラメータの初期設定は、例えば2値化レベルの初期化、判定項目の選択、及び選択された判定項目に対応する判定閾値の初期化である。設定部166は、CNNエンジン156の学習に使用した学習データセットに含まれる学習用画像に含まれる欠陥の特徴に基づいて2値化レベル、判定条件を含む判定用パラメータを仮設定してもよい。また、設定部166は、CNNエンジン156が獲得した内部パラメータに基づいて2値化レベル、判定条件を含む判定用パラメータを仮設定してもよい。なお、2値化レベル及び判定項目については、事前にユーザから指定を受け付ける構成でもよい。これによって判定用パラメータの設定処理を高速化することができる。判定部162は、初期設定された判定用パラメータに含まれる2値化レベルに基づいて、2値化画像を生成する。さらに判定部162は、初期設定された判定用パラメータに含まれる判定項目と判定閾値とに基づいて計測結果画像を生成する。
2値化画像において、特徴領域に白色の画素が対応する場合、非特徴領域は黒色の画素が対応する。この場合、欠陥領域内の画素の色の濃度は、欠陥領域内の白色の画素数であり、欠陥領域外の画素の色の濃度は、欠陥領域外の白色の画素数として、両濃度の差をスコアを算出することができる。
それぞれの画素の色に対応する濃度値(例えば、白色に対して1、黒色に対して0)が予め設定されている場合、各対象領域内の画素についての濃度値の合計値を第1の画像スコアとして算出してもよい。
上述のとおり、計測結果画像は、2値化画像に含まれる第1特徴領域から、第2特徴領域を抽出した画像である。したがって、欠陥領域内で適切に第2特徴領域が抽出される場合(すなわち欠陥に対する見逃しが起きない場合)には、欠陥領域内の濃度は大きくなる。他方、欠陥領域外で第2特徴領域が抽出されない場合(すなわち見過ぎが起きない場合)には、欠陥領域外の濃度は小さくなる。つまり、判定用パラメータが最も適切に設定された場合には、欠陥領域内の濃度と欠陥領域外の濃度の差(スコア)が最大になる。よって、設定部166は、スコアを算出し比較することで、適切な判定用パラメータを探索することができる。
次に、図10A乃至10Dを参照して本実施の形態に係る欠陥検査装置100が提供し、表示部に出力されるユーザインターフェイス画面のいくつかの例を説明する。
次に、本実施の形態に係る欠陥検査システム1における動作例について説明する。本実施の形態に係る欠陥検査システム1においては、画像計測処理に係る判定用パラメータを設定するための準備工程と、現実に対象のワークを撮像して画像計測処理を実行する運用工程とが存在する。なお、準備工程の処理シーケンスと、運用工程の処理シーケンスとは、前述の入力部を用いて、ユーザが選択することができる。また、運用工程の処理シーケンスにおいて、検査結果(例えば、欠陥の有無、欠陥に対応する領域の大きさ、当該領域の位置などの情報をいう。)の内容に応じて、設定された前処理フィルタを更新する処理を実行するようにしてもよい。例えば、運用工程の処理シーケンスにおいて、未検出の欠陥が所定回数生じた場合に、前述の判定用パラメータを、いずれかの設定モードで更新するようにしてもよい。
本実施の形態に係る欠陥検査装置100は、事前学習された識別器が出力する結果を用いて欠陥の有無を検査する際に、欠陥の有無を判別するための判定用パラメータを適切かつ簡易に設定することができる。このような欠陥検査装置100では、判定用パラメータが適切に設定できるようになることで、誤判定が減少する。特にノイズを減らすことができるので、欠陥ではないのに欠陥と認識してしまう誤検出が減少する。さらに、判定用パラメータを簡易に設定できるので、欠陥検査装置の設定工数、立上げ工数が削減できる。
(付記1)
検査対象物の検査画像を所得する取得部(114)と、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する画像生成部(156)と、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する検査部(170)と、
前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新する、設定部(166)と、
を備える、欠陥検査装置(100)。
(付記2)
前記2値化画像は白色の画素と黒色の画素とから構成され、
前記白色の画素と前記黒色の画素とのそれぞれに濃度値が対応付けられており
前記設定部(166)は、前記領域内に含まれる複数の画素について、色の濃度値の合計値を第1の画像スコアとして算出し、前記領域外に含まれる複数の画素について、色の濃度値の合計値を第2の画像スコアとして算出し、第1の画像スコアと第2の画像スコアとの差が最大となるように判定用パラメータを更新する、
付記1に記載の欠陥検査装置(100)。
(付記3)
前記検査部(170)は、更新した前記判定用パラメータと、前記2値化画像と、に基づいて欠陥の有無を判定し、判定結果を出力する、
付記1または2に記載の欠陥検査装置(100)。
(付記4)
前記検査部(170)は、前記判定結果として、少なくとも、更新した前記判定用パラメータに基づいて欠陥を特定した前記2値化画像を出力する、
付記3に記載の欠陥検査装置(100)。
(付記5)
前記判定用パラメータは、前記2値化画像を生成するための2値化レベルを含む、
付記1から4のいずれか一項に記載の欠陥検査装置(100)。
(付記6)
前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項目の各々に対して設定される判定閾値とを含む、
付記1から5のいずれか一項に記載の欠陥検査装置(100)。
(付記7)
前記欠陥を判定するための1以上の判定項目は、前記2値化画像における同色の画素の塊で表現される所定の領域の面積、外接矩形の幅及び/又は高さ、周囲長、縦横比、円形度の少なくとも1つを含み、前記判定閾値は、これらの判定項目の各々に対して設定される上限値及び/又は下限値を含む、
付記6に記載の欠陥検査装置(100)。
(付記8)
前記判定項目と前記判定閾値とは、前記画像生成部又は前記検査部の学習時に用いられる学習用の画像データに含まれる欠陥の特徴に基づいて決定される、
付記6又は7に記載の欠陥検査装置(100)。
(付記9)
前記領域の指定を受け付ける表示部(104)をさらに備え、
前記検査部(170)は、予め定められた前記判定用パラメータに基づいて、欠陥と判定される領域を特定するとともに、特定した領域を前記検査画像とともに前記表示部(104)に対して出力し、
前記設定部(166)は、前記表示部を介して受け付けた前記領域の指定に基づいて前記設定用画像を生成する、
付記1から8のいずれか一項に記載の欠陥検査装置(100)。
(付記10)
前記検査部(170)は、
前記2値化画像において、欠陥を判定するための1以上の特徴量の各々に対して設定された判定閾値に基づいて、前記2値化画像のうち、欠陥と判定される領域を特定し、特定した領域をユーザに提示し、
前記設定部(166)は、
前記ユーザから、前記検査部(170)で欠陥と判定された領域であるが、欠陥として判定されるべきでない領域、及び/又は、前記検査部で欠陥と判定されなかった領域であるが、欠陥として判定されるべきである領域の指定を受け付け、当該指定に基づいて、前記判定閾値を更新する
請求項1から9のいずれか一項に記載の欠陥検査装置(100)。
(付記11)
前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項 目の各々に対して設定される判定閾値とを含み、
前記欠陥を判定するための1以上の判定項目と前記判定閾値は、前記ユーザの指定に基づいて決定される、付記10に記載の欠陥検査装置(100)。
(付記12)
コンピュータ(100)が、
検査対象物の検査画像を所得するステップと、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成するステップと、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定するステップと、
前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新するステップと
を実行する欠陥検査方法。
(付記13)
コンピュータ(100)を、
検査対象物の検査画像を所得する手段、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する手段、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する手段、及び
前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新する手段、
として機能させるプログラム。
2 ベルトコンベア
4 ワーク
6 撮像視野
8 上位ネットワーク
10 欠陥検査装置
12 データベース装置
100 欠陥検査装置
102 カメラ
104 ディスプレイ
106 キーボード
108 マウス
110 プロセッサ
112 メインメモリ
114 カメラインターフェイス
116 入力インターフェイス
118 表示インターフェイス
120 通信インターフェイス
122 内部バス
130 ストレージ
132 画像処理プログラム
136 判定用パラメータ
138 入力画像
140 計測結果
152 入力バッファ
154 前処理部
156 エンジン
158 選択部
160 画像演算部
162 判定部
166 設定部
170 後処理部
300 自動設定画面
700 手動設定画面
710 値化レベル設定部
711 値化レベルコントローラ
712 値化レベル表示欄
720 判定条件設定部
721 判定項目選択欄
722 判定閾値設定欄
730 計測結果画像表示部
800 半自動設定画面
830 第3特徴領域選択部
900 自動設定画面
901 図形登録領域
902 座標入力領域
903 表示領域
911 図形ボタン
Claims (13)
- 検査対象物の検査画像を取得する取得部と、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する画像生成部と、
前記検査対象物における欠陥有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する検査部と、
前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように前記判定用パラメータを更新する、設定部と、
を備える、欠陥検査装置。 - 前記2値化画像は白色の画素と黒色の画素とから構成され、
前記白色の画素と前記黒色の画素とのそれぞれに濃度値が対応付けられており、
前記設定部は、前記領域内に含まれる複数の画素について、前記濃度値の合計値を第1の画像スコアとして算出し、前記領域外の含まれる複数の画素について、前記濃度値の合計値を第2の画像スコアとして算出し、第1の画像スコアと第2の画像スコアとの差が最大となるように判定用パラメータを更新する、
請求項1に記載の欠陥検査装置。 - 前記検査部は、更新した前記判定用パラメータと、前記2値化画像と、に基づいて欠陥の有無を判定し、判定結果を出力する、
請求項1または2に記載の欠陥検査装置。 - 前記検査部は、前記判定結果として、少なくとも、更新した前記判定用パラメータに基づいて欠陥を特定した前記2値化画像を出力する、
請求項3に記載の欠陥検査装置。 - 前記判定用パラメータは、前記2値化画像を生成するための2値化レベルを含む、
請求項1から4のいずれか一項に記載の欠陥検査装置。 - 前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項目の各々に対して設定される判定閾値とを含む、
請求項1から5のいずれか一項に記載の欠陥検査装置。 - 前記欠陥を判定するための1以上の判定項目は、前記2値化画像における同色の画素の塊で表現される所定の領域の面積、外接矩形の幅及び/又は高さ、周囲長、縦横比、円形度の少なくとも1つを含み、前記判定閾値は、これらの判定項目の各々に対して設定される上限値及び/又は下限値を含む、
請求項6に記載の欠陥検査装置。 - 前記判定項目と前記判定閾値とは、前記画像生成部又は前記検査部の学習時に用いられる学習用の画像データに含まれる欠陥の特徴に基づいて決定される、
請求項6又は7に記載の欠陥検査装置。 - 前記領域の指定を受け付ける表示部をさらに備え、
前記検査部は、予め定められた前記判定用パラメータに基づいて、欠陥と判定される領域を特定するとともに、特定した領域を前記検査画像とともに前記表示部に対して出力し、
前記設定部は、前記表示部を介して受け付けた前記領域の指定に基づいて前記設定用画像を生成する、
請求項1から7のいずれか一項に記載の欠陥検査装置。 - 前記検査部は、
前記2値化画像において、欠陥を判定するための1以上の特徴量の各々に対して設定された判定閾値に基づいて、前記2値化画像のうち、欠陥と判定される領域を特定し、特定した領域をユーザに提示し、
前記設定部は、
前記ユーザから、前記検査部で欠陥と判定された領域であるが、欠陥として判定されるべきでない領域、及び/又は、前記検査部で欠陥と判定されなかった領域であるが、欠陥として判定されるべきである領域の指定を受け付け、当該指定に基づいて、前記判定閾値を更新する
請求項1から9のいずれか一項に記載の欠陥検査装置。 - 前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項目の各々に対して設定される判定閾値とを含み、
前記欠陥を判定するための1以上の判定項目と前記判定閾値は、前記ユーザの指定に基づいて決定される、請求項10に記載の欠陥検査装置。 - コンピュータが、
検査対象物の検査画像を取得するステップと、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成するステップと、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定するステップと、
前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新するステップと
を実行する欠陥検査方法。 - コンピュータを、
検査対象物の検査画像を取得する手段、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する手段、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する手段、及び
前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新する手段、
として機能させるプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018046534A JP7015001B2 (ja) | 2018-03-14 | 2018-03-14 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
CN201910030739.XA CN110274908B (zh) | 2018-03-14 | 2019-01-14 | 缺陷检查装置、缺陷检查方法以及计算机可读记录介质 |
EP19151773.9A EP3540688A1 (en) | 2018-03-14 | 2019-01-15 | Defect inspection device, defect inspection method, and program |
US16/249,917 US11301978B2 (en) | 2018-03-14 | 2019-01-17 | Defect inspection device, defect inspection method, and computer readable recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018046534A JP7015001B2 (ja) | 2018-03-14 | 2018-03-14 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019159889A JP2019159889A (ja) | 2019-09-19 |
JP7015001B2 true JP7015001B2 (ja) | 2022-02-02 |
Family
ID=65033383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018046534A Active JP7015001B2 (ja) | 2018-03-14 | 2018-03-14 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11301978B2 (ja) |
EP (1) | EP3540688A1 (ja) |
JP (1) | JP7015001B2 (ja) |
CN (1) | CN110274908B (ja) |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6333871B2 (ja) * | 2016-02-25 | 2018-05-30 | ファナック株式会社 | 入力画像から検出した対象物を表示する画像処理装置 |
TWI653605B (zh) * | 2017-12-25 | 2019-03-11 | 由田新技股份有限公司 | 利用深度學習的自動光學檢測方法、設備、電腦程式、電腦可讀取之記錄媒體及其深度學習系統 |
JP6977686B2 (ja) * | 2018-08-06 | 2021-12-08 | オムロン株式会社 | 制御システムおよび制御装置 |
US11861484B2 (en) * | 2018-09-28 | 2024-01-02 | Qualcomm Incorporated | Neural processing unit (NPU) direct memory access (NDMA) hardware pre-processing and post-processing |
JP7311310B2 (ja) * | 2018-10-18 | 2023-07-19 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 情報処理装置、情報処理方法及びプログラム |
JP7206892B2 (ja) * | 2018-12-20 | 2023-01-18 | 富士通株式会社 | 画像検査装置、画像検査のための学習方法および画像検査プログラム |
JP6869490B2 (ja) * | 2018-12-28 | 2021-05-12 | オムロン株式会社 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
JP7271305B2 (ja) * | 2019-05-16 | 2023-05-11 | 株式会社キーエンス | 画像検査装置及び画像検査装置の設定方法 |
CN111008964B (zh) * | 2019-11-27 | 2023-06-23 | 易启科技(吉林省)有限公司 | 一种部件表面缺陷检测方法 |
JP7365999B2 (ja) * | 2019-12-24 | 2023-10-20 | 財團法人工業技術研究院 | ニューラルネットワーク演算装置および方法 |
JP7423368B2 (ja) * | 2020-03-23 | 2024-01-29 | イビデン株式会社 | 不良検出装置及び不良検出方法 |
JP7485028B2 (ja) * | 2020-06-03 | 2024-05-16 | 日本電信電話株式会社 | 学習装置、方法及びプログラム |
CN111784666A (zh) * | 2020-06-30 | 2020-10-16 | 深兰科技(达州)有限公司 | 基于学习记忆的led灯珠缺陷检测方法 |
CN111768386B (zh) * | 2020-06-30 | 2024-02-20 | 北京百度网讯科技有限公司 | 产品缺陷检测方法、装置、电子设备和存储介质 |
CN112381898B (zh) * | 2020-12-07 | 2024-03-01 | 苏州律点信息科技有限公司 | 一种影像特征的提取方法、装置、存储介质及电子设备 |
US20220276207A1 (en) * | 2021-03-01 | 2022-09-01 | Ecole De Technologie Superieure | Ultrasonic testing for defect detection |
CN117043814A (zh) * | 2021-03-22 | 2023-11-10 | 松下知识产权经营株式会社 | 检查辅助系统、检查辅助方法和程序 |
JP2022164146A (ja) * | 2021-04-16 | 2022-10-27 | 株式会社キーエンス | 画像検査装置、画像処理方法、画像処理プログラム及びコンピュータで読取可能な記録媒体並びに記録した機器 |
JP2022164145A (ja) * | 2021-04-16 | 2022-10-27 | 株式会社キーエンス | 画像検査装置、画像検査装置用制御ユニット、画像検査方法、画像検査プログラム及びコンピュータで読取可能な記録媒体並びに記録した機器 |
CN113658136B (zh) * | 2021-08-17 | 2023-10-13 | 燕山大学 | 一种基于深度学习的传送带缺陷检测方法 |
CN113706506B (zh) * | 2021-08-27 | 2023-07-28 | 创新奇智(重庆)科技有限公司 | 一种装配状态检测的方法、装置、电子设备及存储介质 |
CN113537517B (zh) * | 2021-09-16 | 2022-01-07 | 深圳市信润富联数字科技有限公司 | 缺陷检测模型训练方法、装置、设备及存储介质 |
JP2023082567A (ja) * | 2021-12-02 | 2023-06-14 | 株式会社日立製作所 | システムおよびプログラム |
CN114418899B (zh) * | 2022-03-28 | 2022-08-16 | 深圳市嘉年印务有限公司 | 一种自彩印的自适应修复方法、系统及可读存储介质 |
CN114764790B (zh) * | 2022-03-31 | 2023-05-12 | 河北鹰眼智能科技有限公司 | 一种基于霍夫圆检测的齿轮断齿检测方法 |
CN114454635B (zh) * | 2022-04-13 | 2022-06-17 | 中体彩印务技术有限公司 | 一种防伪印刷品制备方法及其系统 |
CN114612469B (zh) * | 2022-05-09 | 2022-08-12 | 武汉中导光电设备有限公司 | 产品缺陷检测方法、装置、设备及可读存储介质 |
CN114897850B (zh) * | 2022-05-20 | 2024-08-06 | 湖北工业大学 | 检测带钢表面缺陷的有监督Dropout方法及设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006090921A (ja) | 2004-09-27 | 2006-04-06 | Sharp Corp | 外観検査装置、閾値決定方法、外観検査方法、およびコンピュータを外観検査装置として機能させるためのプログラム |
JP2006293528A (ja) | 2005-04-07 | 2006-10-26 | Sharp Corp | 学習用画像選択方法および装置、画像処理アルゴリズム生成方法および装置、プログラムならびに記録媒体 |
JP2008175588A (ja) | 2007-01-16 | 2008-07-31 | Kagawa Univ | 外観検査装置 |
JP2018005639A (ja) | 2016-07-04 | 2018-01-11 | タカノ株式会社 | 画像分類装置、画像検査装置、及び、プログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0690144B2 (ja) * | 1989-01-14 | 1994-11-14 | 松下電工株式会社 | 画像処理方法 |
JPH09179985A (ja) * | 1995-12-25 | 1997-07-11 | Ricoh Co Ltd | 画像欠陥検査方法及び画像欠陥分類方法 |
US7508973B2 (en) * | 2003-03-28 | 2009-03-24 | Hitachi High-Technologies Corporation | Method of inspecting defects |
WO2011114449A1 (ja) * | 2010-03-17 | 2011-09-22 | 株式会社島津製作所 | Tftアレイ検査方法およびtftアレイ検査装置 |
JPWO2011155123A1 (ja) * | 2010-06-07 | 2013-08-01 | 株式会社日立ハイテクノロジーズ | 観察画像の分類基準の最適化方法、および画像分類装置 |
JP5608575B2 (ja) * | 2011-01-19 | 2014-10-15 | 株式会社日立ハイテクノロジーズ | 画像分類方法および画像分類装置 |
JP2017049974A (ja) | 2015-09-04 | 2017-03-09 | キヤノン株式会社 | 識別器生成装置、良否判定方法、およびプログラム |
JP6615835B2 (ja) * | 2017-06-26 | 2019-12-04 | 矢崎総業株式会社 | 画像検査における二値化処理プログラム及び二値化処理方法 |
-
2018
- 2018-03-14 JP JP2018046534A patent/JP7015001B2/ja active Active
-
2019
- 2019-01-14 CN CN201910030739.XA patent/CN110274908B/zh active Active
- 2019-01-15 EP EP19151773.9A patent/EP3540688A1/en active Pending
- 2019-01-17 US US16/249,917 patent/US11301978B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006090921A (ja) | 2004-09-27 | 2006-04-06 | Sharp Corp | 外観検査装置、閾値決定方法、外観検査方法、およびコンピュータを外観検査装置として機能させるためのプログラム |
JP2006293528A (ja) | 2005-04-07 | 2006-10-26 | Sharp Corp | 学習用画像選択方法および装置、画像処理アルゴリズム生成方法および装置、プログラムならびに記録媒体 |
JP2008175588A (ja) | 2007-01-16 | 2008-07-31 | Kagawa Univ | 外観検査装置 |
JP2018005639A (ja) | 2016-07-04 | 2018-01-11 | タカノ株式会社 | 画像分類装置、画像検査装置、及び、プログラム |
Also Published As
Publication number | Publication date |
---|---|
CN110274908A (zh) | 2019-09-24 |
US20190287235A1 (en) | 2019-09-19 |
EP3540688A1 (en) | 2019-09-18 |
CN110274908B (zh) | 2022-01-11 |
JP2019159889A (ja) | 2019-09-19 |
US11301978B2 (en) | 2022-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7015001B2 (ja) | 欠陥検査装置、欠陥検査方法、及びそのプログラム | |
JP6869490B2 (ja) | 欠陥検査装置、欠陥検査方法、及びそのプログラム | |
JP7004145B2 (ja) | 欠陥検査装置、欠陥検査方法、及びそのプログラム | |
US10824906B2 (en) | Image processing device, non-transitory computer readable storage medium, and image processing system | |
JP5546317B2 (ja) | 外観検査装置、外観検査用識別器の生成装置及び外観検査用識別器生成方法ならびに外観検査用識別器生成用コンピュータプログラム | |
US9075026B2 (en) | Defect inspection device and defect inspection method | |
CN112088387B (zh) | 检测成像物品缺陷的系统和方法 | |
US10621717B2 (en) | System and method for image-based target object inspection | |
JP2018005640A (ja) | 分類器生成装置、画像検査装置、及び、プログラム | |
JP2018005639A (ja) | 画像分類装置、画像検査装置、及び、プログラム | |
JP2017049974A (ja) | 識別器生成装置、良否判定方法、およびプログラム | |
CN111667455A (zh) | 一种刷具多种缺陷的ai检测方法 | |
CN110596120A (zh) | 玻璃边界缺陷检测方法、装置、终端及存储介质 | |
CN106355579A (zh) | 烟条表面褶皱的缺陷检测方法 | |
TWI743837B (zh) | 訓練資料增量方法、電子裝置與電腦可讀取記錄媒體 | |
CN114226262A (zh) | 瑕疵检测方法、瑕疵分类方法及其系统 | |
Sulaiman et al. | Automatic grading system for oil palm fruit ripeness | |
CN116645351A (zh) | 一种复杂场景的缺陷在线检测方法及系统 | |
CN115861259A (zh) | 一种基于模板匹配的引线框架表面缺陷检测方法及装置 | |
US20220157050A1 (en) | Image recognition device, image recognition system, image recognition method, and non-transitry computer-readable recording medium | |
CN112115824A (zh) | 果蔬检测方法、装置、电子设备以及计算机可读介质 | |
JP2002140695A (ja) | 検査方法およびその装置 | |
US20230077332A1 (en) | Defect Inspection System and Defect Inspection Method | |
JP2024101892A (ja) | 欠陥検査方法及び欠陥検査装置 | |
JPH0676069A (ja) | 表面欠陥検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210430 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211222 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220104 |