JP2023141721A - 検査システム、教師データ生成装置、教師データ生成方法およびプログラム - Google Patents

検査システム、教師データ生成装置、教師データ生成方法およびプログラム Download PDF

Info

Publication number
JP2023141721A
JP2023141721A JP2022048188A JP2022048188A JP2023141721A JP 2023141721 A JP2023141721 A JP 2023141721A JP 2022048188 A JP2022048188 A JP 2022048188A JP 2022048188 A JP2022048188 A JP 2022048188A JP 2023141721 A JP2023141721 A JP 2023141721A
Authority
JP
Japan
Prior art keywords
defect
inspection
image
unit
defects
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022048188A
Other languages
English (en)
Inventor
正博 海津
Masahiro Kaizu
順一 塩見
Junichi Shiomi
勝彦 杉山
Katsuhiko Sugiyama
達也 瀧本
Tatsuya Takimoto
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Screen Holdings Co Ltd
Original Assignee
Screen Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Screen Holdings Co Ltd filed Critical Screen Holdings Co Ltd
Priority to JP2022048188A priority Critical patent/JP2023141721A/ja
Priority to TW111142697A priority patent/TWI837934B/zh
Priority to KR1020220161858A priority patent/KR20230138869A/ko
Priority to CN202310101400.0A priority patent/CN116804637A/zh
Publication of JP2023141721A publication Critical patent/JP2023141721A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/888Marking defects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8883Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges involving the calculation of gauges, generating models
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biophysics (AREA)
  • Chemical & Material Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biochemistry (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】学習済みモデルにおける重大な誤分類の回避、および、分類処理に要する時間の短縮を実現する。【解決手段】検査システム1は、対象物を撮像した画像を、機械学習を用いずに検査して欠陥を検出する検査部20と、予め生成された学習済みモデルを有し、欠陥を示す画像を学習済みモデルに入力することにより、欠陥の欠陥種別を分類する分類部52と、検査部20により検出された欠陥の分類部52における分類の要否を、欠陥の検出の際に検査部20にて取得または利用された欠陥関連情報に基づいて決定する分類要否決定部53とを備える。これにより、学習済みモデルにおける重大な誤分類の回避、および、分類処理に要する時間の短縮を実現することができる。【選択図】図1

Description

本発明は、対象物を検査する技術に関する。
従来、プリント基板等の対象物を撮像して、欠陥を検出する検査システムが用いられている。特許文献1の検査システムでは、対象物を撮像した画像に基づき、機械学習を用いずに不良判定を行う一次検査部と、一次検査部で不良と判定された対象物の画像に基づき、機械学習モデルを用いて、真の不良品と過判定品とを分別する二次検査部とが設けられる。これにより、過判定品の発生に起因する生産性の低下が抑制される。
上記のように、学習済みモデル(機械学習モデル)を真欠陥または偽欠陥の分類に用いる場合、事前に複数の教師データを用いて学習を行い、当該学習済みモデルを生成する必要がある。この場合、作業者が、予め準備された欠陥画像に対して、真欠陥または偽欠陥を判定することにより(すなわち、アノテーションにより)、当該欠陥画像に真欠陥または偽欠陥がラベル付けされた教師データが生成される。
特開2021-177154号公報
ところで、プリント基板上の欠陥は、その位置や状態等によっては、プリント基板の動作や性能等に大きな影響を及ぼすため、学習済みモデルによる分類の誤り(ここでは、真欠陥の偽欠陥への誤分類)が許容できない場合がある。学習済みモデルにおける重大な誤分類を回避するために、多数の教師データを用いて学習を行うことが考えられるが、この場合、作業者によるラベル付け作業に長時間を要するとともに、学習に要する時間も長くなる。また、学習済みモデルにおける誤分類を完全に回避することは不可能である。さらに、検出された全ての欠陥を学習済みモデルに入力する場合、分類処理に要する時間が長くなってしまう。
本発明は上記課題に鑑みなされたものであり、学習済みモデルにおける重大な誤分類の回避、および、分類処理に要する時間の短縮を実現することを目的とし、教師データの生成においてラベル付け作業および学習に要する時間を短縮することも目的としている。
請求項1に記載の発明は、検査システムであって、対象物を撮像した画像を、機械学習を用いずに検査して欠陥を検出する検査部と、予め生成された学習済みモデルを有し、欠陥を示す画像を前記学習済みモデルに入力することにより、前記欠陥の欠陥種別を分類する分類部と、前記検査部により検出された欠陥の前記分類部における分類の要否を、前記欠陥の検出の際に前記検査部にて取得または利用された欠陥関連情報に基づいて決定する分類要否決定部とを備える。
請求項2に記載の発明は、請求項1に記載の検査システムであって、前記分類部が、前記検査部により検出された欠陥を真欠陥または偽欠陥に分類し、前記検査部が、欠陥の検出の際に前記欠陥の欠陥種別を取得し、前記欠陥関連情報に前記欠陥種別が含められ、前記分類要否決定部が、特定の欠陥種別である欠陥の前記分類部における分類を不要と決定する。
請求項3に記載の発明は、請求項1または2に記載の検査システムであって、前記検査部が、第1検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第1検査処理部と、前記第1検査処理とは異なる第2検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第2検査処理部とを備え、前記第1検査処理部が前記第2検査処理部よりも詳細な欠陥画像中の欠陥の位置情報を取得可能であり、前記欠陥関連情報に前記第1検査処理部により取得された前記位置情報が含められ、前記分類要否決定部が、前記第1検査処理部により検出された欠陥の前記分類部における分類を必要と決定し、前記第2検査処理部により検出された欠陥の前記分類部における分類を不要と決定し、前記分類部が、欠陥の位置情報に基づいて欠陥画像から前記欠陥の領域を切り出した画像を前記学習済みモデルに入力する。
請求項4に記載の発明は、請求項1ないし3のいずれか1つに記載の検査システムであって、前記対象物の各位置に対して複数の検査感度のうち一の検査感度が設定されており、前記検査部が欠陥の検出の際に利用した検査感度を示す情報が、前記欠陥関連情報に含められ、前記分類要否決定部が、特定の検査感度にて検出された欠陥の前記分類部における分類を不要と決定する。
請求項5に記載の発明は、教師データを生成する教師データ生成装置であって、対象物を撮像した画像を、機械学習を用いずに検査する検査部から、欠陥を含む欠陥画像と、前記欠陥の検出の際に取得または利用された欠陥関連情報とを受け付ける画像受付部と、前記欠陥関連情報に基づいて前記欠陥画像を教師データに用いるか否かを決定する画像要否決定部と、教師データに用いる欠陥画像をディスプレイに表示する表示制御部と、前記ディスプレイに表示された前記欠陥画像に対する作業者による、欠陥種別の判定結果の入力を受け付ける判定結果受付部と、前記欠陥画像に前記判定結果をラベル付けして教師データを生成する教師データ生成部とを備える。
請求項6に記載の発明は、請求項5に記載の教師データ生成装置であって、前記判定結果受付部が、作業者による真欠陥または偽欠陥の判定結果の入力を受け付け、前記検査部において欠陥の検出の際に取得された前記欠陥の欠陥種別が、前記欠陥関連情報に含められ、前記画像要否決定部が、特定の欠陥種別である欠陥を含む欠陥画像を教師データに用いないと決定する。
請求項7に記載の発明は、請求項5または6に記載の教師データ生成装置であって、前記検査部が、第1検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第1検査処理部と、前記第1検査処理とは異なる第2検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第2検査処理部とを備え、前記第1検査処理部が前記第2検査処理部よりも詳細な欠陥画像中の欠陥の位置情報を取得可能であり、前記欠陥関連情報に前記第1検査処理部により取得された前記位置情報が含められ、前記画像要否決定部が、前記第1検査処理部により検出された欠陥の欠陥画像を教師データに用いると決定し、前記第2検査処理部により検出された欠陥の欠陥画像を教師データに用いないと決定し、前記教師データ生成部が、欠陥の位置情報に基づいて欠陥画像から前記欠陥の領域を切り出した画像を含む教師データを生成する。
請求項8に記載の発明は、請求項5ないし7のいずれか1つに記載の教師データ生成装置であって、前記対象物の各位置に対して複数の検査感度のうち一の検査感度が設定されており、前記検査部が欠陥の検出の際に利用した検査感度を示す情報が、前記欠陥関連情報に含められ、前記画像要否決定部が、特定の検査感度にて検出された欠陥を含む欠陥画像を教師データに用いないと決定する。
請求項9に記載の発明は、教師データを生成する教師データ生成方法であって、a)対象物を撮像した画像を、機械学習を用いずに検査する検査部から、欠陥を含む欠陥画像と、前記欠陥の検出の際に取得または利用された欠陥関連情報とを受け付ける工程と、b)前記欠陥関連情報に基づいて前記欠陥画像を教師データに用いるか否かを決定する工程と、c)教師データに用いる欠陥画像をディスプレイに表示する工程と、d)前記ディスプレイに表示された前記欠陥画像に対する作業者による、欠陥種別の判定結果の入力を受け付ける工程と、e)前記欠陥画像に前記判定結果をラベル付けして教師データを生成する工程とを備える。
請求項10に記載の発明は、コンピュータに教師データを生成させるプログラムであって、前記プログラムのコンピュータによる実行は、前記コンピュータに、a)対象物を撮像した画像を、機械学習を用いずに検査する検査部から、欠陥を含む欠陥画像と、前記欠陥の検出の際に取得または利用された欠陥関連情報とを受け付ける工程と、b)前記欠陥関連情報に基づいて前記欠陥画像を教師データに用いるか否かを決定する工程と、c)教師データに用いる欠陥画像をディスプレイに表示する工程と、d)前記ディスプレイに表示された前記欠陥画像に対する作業者による、欠陥種別の判定結果の入力を受け付ける工程と、e)前記欠陥画像に前記判定結果をラベル付けして教師データを生成する工程とを実行させる。
請求項1ないし4の発明では、学習済みモデルにおける重大な誤分類の回避、および、分類処理に要する時間の短縮を実現することができる。請求項5ないし10の発明では、教師データの生成においてラベル付け作業および学習に要する時間を短縮することができる。
検査システムの構成を示す図である。 コンピュータの構成を示す図である。 教師データ生成装置の構成を示す図である。 第1検査処理を説明するための図である。 第1検査処理により検出可能な欠陥種別を示す図である。 第1検査処理の他の例を説明するための図である。 二値の分割画像およびマスタ画像を示す図である。 第2検査処理を説明するための図である。 教師データを生成する処理の流れを示す図である。 プリント基板を検査する処理の流れを示す図である。 プリント基板を示す図である。 プリント基板の一部を示す図である。
(第1実施形態)
図1は、本発明の第1実施形態に係る検査システム1の構成を示す図である。検査システム1は、対象物であるプリント基板を検査する。検査システム1は、検査装置2と、コンピュータ3と、欠陥確認装置11とを備える。図1では、コンピュータ3が実現する機能構成を破線の矩形にて囲んでいる。
検査装置2は、図示省略の撮像部と、移動機構とを備える。撮像部は、プリント基板を撮像する。移動機構は、撮像部に対してプリント基板を相対的に移動する。検査装置2は、検査部20をさらに備える。検査部20は、例えば、コンピュータまたは/および電気回路により実現される。検査部20は、第1検査処理部21と、第2検査処理部22とを備える。第1検査処理部21および第2検査処理部22は、撮像部から出力される撮像画像に対して互いに異なる検査処理を実行し、当該撮像画像から欠陥を検出する。第1検査処理部21または第2検査処理部22において欠陥が検出されると、当該欠陥の領域を含む欠陥画像がコンピュータ3に出力される。欠陥確認装置11には、検査装置2による検査後のプリント基板が搬入される。欠陥確認装置11は、コンピュータ3から入力される情報に基づいて、プリント基板における欠陥の領域を撮像してディスプレイに表示し、作業者に欠陥を確認させる。
図2はコンピュータ3の構成を示す図である。コンピュータ3は、CPU31と、ROM32と、RAM33と、固定ディスク34と、ディスプレイ35と、入力部36と、読取装置37と、通信部38と、GPU39と、バス30とを含む一般的なコンピュータシステムの構成を有する。CPU31は、各種演算処理を行う。GPU39は、画像処理に関する各種演算処理を行う。ROM32は、基本プログラムを記憶する。RAM33および固定ディスク34は、各種情報を記憶する。ディスプレイ35は、画像等の各種情報の表示を行う。入力部36は、作業者からの入力を受け付けるキーボード36aおよびマウス36bを備える。読取装置37は、光ディスク、磁気ディスク、光磁気ディスク、メモリカード等のコンピュータ読み取り可能な記録媒体81から情報の読み取りを行う。通信部38は、検査システム1の他の構成、および、外部の装置との間で信号を送受信する。バス30は、CPU31、GPU39、ROM32、RAM33、固定ディスク34、ディスプレイ35、入力部36、読取装置37および通信部38を接続する信号回路である。
コンピュータ3では、事前に読取装置37を介して記録媒体81からプログラム811が読み出されて固定ディスク34に記憶されている。プログラム811はネットワークを介して固定ディスク34に記憶されてもよい。CPU31およびGPU39は、プログラム811に従ってRAM33や固定ディスク34を利用しつつ演算処理を実行する。CPU31およびGPU39は、コンピュータ3において演算部として機能する。CPU31およびGPU39以外に演算部として機能する他の構成が採用されてもよい。
検査システム1では、コンピュータ3がプログラム811に従って演算処理等を実行することにより、図1中に破線にて囲む機能構成が実現される。すなわち、コンピュータ3のCPU31、GPU39、ROM32、RAM33、固定ディスク34およびこれらの周辺構成は、教師データ生成装置4と、学習部51と、分類部52と、分類要否決定部53とを実現する。これらの機能の全部または一部は専用の電気回路により実現されてもよく、これらの機能が個別のプログラムにより実現されてもよい。また、複数のコンピュータによりこれらの機能が実現されてもよい。
分類部52は、欠陥を示す画像の入力により、当該欠陥を真欠陥または偽欠陥(虚報または疑似欠陥とも呼ばれる。)に分類する分類器521を有する。分類要否決定部53は、検査部20から入力される欠陥画像が示す欠陥に対して分類部52における分類の要否を決定する。学習部51は、後述する複数の教師データを用いて学習を行うことにより、学習済みモデルである上記分類器521を生成する。教師データ生成装置4は、学習部51において用いられる教師データを生成する。
図3は、教師データ生成装置4の構成を示す図である。教師データ生成装置4は、画像受付部41と、画像要否決定部42と、表示制御部43と、判定結果受付部44と、教師データ生成部45とを備える。画像受付部41は、検査部20に接続され、検査部20からの欠陥画像等の入力を受け付ける。画像要否決定部42は、各欠陥画像を教師データに用いるか否かを決定する。表示制御部43は、ディスプレイ35に接続され、ディスプレイ35に欠陥画像等を表示する。判定結果受付部44は、入力部36に接続され、作業者による入力部36を介した入力を受け付ける。教師データ生成部45は、欠陥画像にラベル付けを行って教師データを生成する。
ここで、検査部20が欠陥を検出する処理について説明する。既述のように、検査装置2では、撮像画像が取得され、検査部20の第1検査処理部21および第2検査処理部22により、撮像画像に対して互いに異なる検査処理が実行される。検査部20による検査では、機械学習は用いられず、例えば、ルールベース等により欠陥が検出される。検査に利用される閾値等の決定は、機械学習により行われてもよい。ここでは、撮像画像は、グレースケール画像であるものとするが、カラー画像であってもよい。
図4は、第1検査処理部21が実行する第1検査処理を説明するための図であり、撮像画像の一部を示している。図4では、銅等の金属により形成された配線領域61と、プリント基板の基材表面等である領域62(以下、「背景領域62」という。)とを示している。例えば、配線領域61と背景領域62とは、所定の閾値により区別可能である。
第1検査処理の一例では、ライン幅が測定される。例えば、設計データ等に基づいて、配線領域61上に多数の検査位置が予め設定されており、撮像画像において、各検査位置に位置する画素が対象画素として特定される。検査位置は、例えば、配線領域61の幅(すなわち、配線領域61の長手方向に垂直な方向の幅)の略中央の位置である。続いて、対象画素を中心とする16方向の直線が等角度間隔にて設定され、各直線と配線領域61とが重なる長さ(すなわち、直線上において配線領域61の両エッジと重なる位置間の長さ)が求められる。そして、16本の直線における当該長さのうち、最小のものが測定距離として取得される。測定距離は所定の下限距離および上限距離と比較される。当該測定距離が下限距離よりも小さい場合、または、上限距離よりも大きい場合に、当該検査位置における欠陥の存在が検出される。図4の例では、符号A1を付す矢印にて示す測定距離が下限距離よりも小さいため、配線領域61の欠け欠陥である欠陥69が検出される。
このように、各検査位置における測定距離を取得することにより、図5に例示する様々な種別の欠陥が検出可能である。図5の左側の例では、隣接する複数の検査位置において測定距離が下限距離よりも小さくなっており、線細り欠陥である欠陥69が検出される。図5の中央の例では、隣接する複数の検査位置において測定距離が上限距離よりも大きくなっており、線太り欠陥(ランド部分の線太り)である欠陥69が検出される。図5の右側の例では、一の検査位置において測定距離が下限距離よりも小さくなっている欠け欠陥と、一の検査位置において測定距離が上限距離よりも大きくなっている突起欠陥とが、それぞれ欠陥69として検出される。
以上のように、第1検査処理部21では、検査位置を単位として欠陥の位置情報が詳細に(後述の第2検査処理を行う第2検査処理部22よりも詳細に)取得可能である。第1検査処理部21において欠陥69が検出されると、欠陥69を含む所定サイズの欠陥画像が撮像画像から切り出される。また、欠陥画像における欠陥69の位置を示す位置情報(以下、「欠陥位置情報」ともいう。)と、欠陥69の欠陥種別も取得され、両者を含む欠陥関連情報が生成される。欠陥画像および欠陥関連情報は互いに関連付けられて、コンピュータ3に出力される。なお、欠陥関連情報には、欠陥画像が示すプリント基板上の位置も含められる(以下同様)。
本処理例では、配線領域61のオープン(断線)欠陥およびショート(短絡)欠陥を検出する他の第1検査処理も第1検査処理部21により行われる。当該他の第1検査処理では、図6の右側に示す撮像画像71において、配線領域61の接続性が確認される。例えば、配線領域61において、各検査位置(上述の処理における検査位置と異なる位置であってもよい。)と配線領域61を介して連続する他の検査位置を特定することにより、配線領域61の接続性を確認することが可能である。第1検査処理部21では、図6の左側に示すように、撮像画像71と同じ領域を示すマスタ画像70(例えば、設計データから生成される二値画像)も準備されており、上記と同様にしてマスタ画像70における配線領域61の接続性(検査位置間の接続関係)が確認される。そして、撮像画像71における配線領域61の接続性と、マスタ画像70における配線領域61の接続性とが相違する場合に、相違が発生している部分が欠陥として検出される。
図6の例では、マスタ画像70に存在しない接続性(検査位置間の接続)が撮像画像71において発生しているため(矢印A2参照)、当該接続性が発生している部分が、ショート欠陥である欠陥69として検出される。第1検査処理部21では、欠陥69を含む所定サイズの欠陥画像が撮像画像71から切り出される。また、欠陥画像における欠陥位置情報と、欠陥69の欠陥種別とを含む欠陥関連情報が生成される。そして、欠陥画像および欠陥関連情報が互いに関連付けられて、コンピュータ3に出力される。一方、マスタ画像に存在する接続性が、撮像画像において欠落している(発生していない)場合には、当該接続性が欠落している部分が、オープン欠陥である欠陥として検出される。そして、当該欠陥を含む所定サイズの欠陥画像と、欠陥位置情報および欠陥種別を含む欠陥関連情報とが、コンピュータ3に出力される。
次に、第2検査処理部22が実行する第2検査処理の一例について説明する。第2検査処理では、多階調の撮像画像が所定サイズの複数の画像(以下、「分割画像」という。)に分割される。そして、各分割画像を所定の閾値にて二値化した画像(以下、「二値の分割画像」という。)と、二値のマスタ画像の対応する領域とが比較される。図7では、右側に二値の分割画像72を示し、左側に当該分割画像に対応するマスタ画像70の領域を示している。二値の分割画像72とマスタ画像70との比較は、マトリクスを用いて行われる。
図8は、二値の分割画像の各画素と、二値のマスタ画像の対応する画素との排他的論理和を示す画像であり、図8中の平行斜線を付す画素が、両画像において画素値が相違する画素(以下、「相違画素」という。)を示す。図8では、説明の便宜上、図7とは異なる二値の分割画像およびマスタ画像を用いている。二値の分割画像とマスタ画像との比較では、概念的には、図8の画像において、マトリクスM1を行方向および列方向に走査させつつ、マトリクスM1内に含まれる画素における相違画素の個数の割合が許容値を超えた場合に、欠陥の存在が検出される。図8の例では、マトリクスM1のサイズが4×4画素であり、許容値が75%である。したがって、図8中に細い破線にて示すマトリクスM1の位置では、相違画素の割合は許容値を超えないが、図8中に太い破線にて示すマトリクスM1の位置では、相違画素の割合が許容値を超える。これにより、分割画像において欠陥の存在が検出される。マトリクスM1のサイズは、2×2画素、3×3画素等、適宜変更されてよく、許容値も変更されてよい。
実際には、図7の二値の分割画像72において、各位置に配置したマトリクスM1内に含まれる画素のうち、マスク画像70の対応する画素と画素値が異なる画素の個数の割合が求められる。そして、当該割合が許容値を超える場合に、分割画像において欠陥の存在が検出される。図7の例では、二値の分割画像72において、マスタ画像70の対応する画素と値が異なる画素(以下、図8と同様に「相違画素」という。)を太い実線にて囲んでいる。マトリクスM1を用いる本処理例では、二値の分割画像72において孤立して存在する相違画素は、欠陥の検出に影響しない(無視される)が、ある程度の個数の相違画素の集合は、欠陥として検出されやすくなる(二値の分割画像72の中央近傍に位置する相違画素群参照)。
二値の分割画像72において欠陥の存在が検出されると、対応する多階調の分割画像が欠陥画像としてコンピュータ3に出力される。第2検査処理部22では、分割画像(欠陥画像)における欠陥の詳細な位置は取得されず、欠陥種別も取得されない。したがって、第1検査処理部21とは異なり、欠陥位置情報および欠陥種別を含まない欠陥関連情報がコンピュータ3に出力される。既述のように、欠陥関連情報には、欠陥画像が示すプリント基板上の位置は含められる。欠陥関連情報には、第2検査処理により検出されたことを示す情報が含まれてもよい。
図9は、教師データ生成装置4が教師データを生成する処理の流れを示す図である。まず、図3の画像受付部41では、検査部20から欠陥画像と欠陥関連情報とが受け付けられる(ステップS11)。本処理例では、検査部20により、複数のプリント基板に対する多数の撮像画像から複数の欠陥画像が予め取得されており、複数の欠陥画像と、当該複数の欠陥画像に対する欠陥関連情報とが、画像受付部41において受け付けられる。複数の欠陥画像に対する欠陥関連情報は、複数の欠陥画像にそれぞれ関連付けられた状態で1つのリストに含められてもよい。既述のように、第1検査処理部21により検出された欠陥の欠陥関連情報には、欠陥位置情報および欠陥種別が含められる。一方、第2検査処理部22により検出された欠陥の欠陥関連情報には、欠陥位置情報および欠陥種別が含められない。
続いて、画像要否決定部42では、欠陥関連情報に基づいて各欠陥画像を教師データに用いるか否かが決定される(ステップS12)。本処理例では、特定の欠陥種別である欠陥の欠陥画像については、教師データに用いられない。特定の欠陥種別の一例は、オープン欠陥およびショート欠陥である。また、第2検査処理部22により検出された欠陥の欠陥画像、すなわち、欠陥関連情報に欠陥位置情報および欠陥種別を含まない欠陥画像も、教師データに用いられない。これらの欠陥画像を除く残りの欠陥画像は、教師データに用いる欠陥画像に決定される。なお、オープン欠陥およびショート欠陥等の特定の欠陥種別の欠陥画像、並びに、第2検査処理部22により検出された欠陥の欠陥画像を教師データに用いない理由については後述する。
表示制御部43では、教師データに用いる欠陥画像がディスプレイ35に表示される(ステップS13)。ディスプレイ35に表示される画像は、欠陥画像の全体または一部のいずれであってもよい。すなわち、表示制御部43は、欠陥画像の少なくとも一部をディスプレイ35に表示する。一例では、ディスプレイ35上のウィンドウには、複数の欠陥画像のサムネイルが配列表示されており、作業者が入力部36を介して1つの欠陥画像のサムネイルを選択することにより、ディスプレイ35に当該欠陥画像(以下、「選択欠陥画像」という。)の少なくとも一部が表示される。ディスプレイ35に表示する欠陥画像の選択は、様々な周知の手法により行われてよい。
判定結果受付部44では、ディスプレイ35に表示された選択欠陥画像に対する、作業者による真欠陥または偽欠陥の判定結果の入力が受け付けられる(ステップS14)。一例では、ディスプレイ35上のウィンドウに、選択欠陥画像と共に、「真欠陥」を示すボタンおよび「偽欠陥」を示すボタンが設けられる。作業者が選択欠陥画像を確認し、入力部36を介していずれかのボタンを選択することにより、選択欠陥画像が示す欠陥が真欠陥または偽欠陥のいずれであるかを示す判定結果の入力が行われる。当該判定結果の入力は、判定結果受付部44により受け付けられる。作業者による判定結果の入力は、様々な周知の手法により行われてよい。
教師データ生成部45では、欠陥画像に判定結果をラベル付けすることにより、教師データが生成される(ステップS15)。教師データは、欠陥画像と、当該欠陥画像に対する作業者による判定結果とを含むデータである。既述のように、教師データに用いる欠陥画像の欠陥関連情報には、欠陥位置情報が含められており、好ましくは、欠陥位置情報に基づいて欠陥画像から欠陥の領域を切り出した画像(以下、同様に「欠陥画像」ともいう。)が教師データに含められる。これにより、欠陥の領域以外の不要な領域の特徴が、後述の学習に用いられることが抑制され、分類器521の分類精度を向上することが可能となる。実際には、複数の欠陥画像に対して、作業者による判定結果の入力が行われ、複数の教師データが生成される。以上により、教師データ生成処理が完了し、複数の教師データ(学習用データセット)が得られる。
複数の教師データが生成されると、図1の学習部51では、複数の教師データにおける欠陥画像の入力に対する分類器の出力と、複数の教師データが示す判定結果(真欠陥または偽欠陥)とがほぼ同じになるように機械学習が行われ、分類器が生成される。分類器は、画像が示す欠陥を真欠陥または偽欠陥に分類する学習済みモデルであり、分類器の生成では、分類器が含むパラメータの値や、分類器の構造が決定される。機械学習は、例えば、ニューラルネットワークを用いたディープラーニングにより行われる。当該機械学習は、ディープラーニング以外の周知の方法により行われてもよい。分類器(実際には、パラメータの値や、分類器の構造を示す情報)は、分類部52に転送されて導入される。
図10は、検査システム1がプリント基板を検査する処理の流れを示す図である。図10の処理を行う際には、学習済みモデルである分類器521が上記処理により予め生成されている。プリント基板の検査では、検査装置2において、プリント基板の複数の位置を示す複数の撮像画像が取得され、検査部20により複数の撮像画像における欠陥の有無が検査される。欠陥が検出されると(ステップS21)、当該欠陥を含む欠陥画像および欠陥関連情報が分類要否決定部53に出力される。既述のように、第1検査処理部21により検出された欠陥の欠陥関連情報には、欠陥位置情報(すなわち、欠陥画像における欠陥の位置情報)および欠陥種別が含められる。一方、第2検査処理部22により検出された欠陥の欠陥関連情報には、欠陥位置情報および欠陥種別が含められない。
続いて、分類要否決定部53では、欠陥画像が示す欠陥の分類部52における分類の要否が、欠陥関連情報に基づいて決定される。本処理例では、特定の欠陥種別である欠陥については、分類部52における分類が不要と決定される(ステップS22)。特定の欠陥種別の一例は、オープン欠陥およびショート欠陥である。また、第2検査処理部22により検出された欠陥、すなわち、欠陥関連情報に欠陥位置情報および欠陥種別を含まない欠陥も、分類部52における分類が不要と決定される。オープン欠陥およびショート欠陥等の特定の欠陥種別の欠陥、並びに、第2検査処理部22により検出された欠陥に対して、分類部52における分類を不要と決定する理由については後述する。
分類が不要と決定された欠陥の欠陥画像および欠陥関連情報は、欠陥確認装置11に出力される。既述のように、欠陥関連情報には、欠陥画像が示すプリント基板上の位置(すなわち、プリント基板における欠陥画像の位置情報)が含められている。欠陥確認装置11では、欠陥関連情報を参照してプリント基板上の当該欠陥画像の領域が撮像され、ディスプレイに表示される。作業者が、表示された画像に含まれる欠陥を確認することにより、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われる(ステップS23)。なお、当該ディスプレイには、欠陥確認装置11にて撮像される画像と共に欠陥画像が表示されてもよい(以下同様)。
一方、分類要否決定部53では、第1検査処理部21により検出され、かつ、特定の欠陥種別ではない欠陥については、分類部52における分類が必要と決定される(ステップS22)。分類が必要と決定された欠陥の欠陥画像および欠陥関連情報は、分類部52に出力される。分類部52では、欠陥画像を分類器521に入力することにより、欠陥画像が示す欠陥が真欠陥または偽欠陥に分類される(ステップS24)。好ましい分類部52では、欠陥位置情報に基づいて欠陥画像から欠陥の領域を切り出した画像が取得され、当該画像が分類器521に入力される。これにより、欠陥の領域以外の不要な領域の特徴が、分類器521における分類処理に用いられることが抑制され、当該欠陥が真欠陥または偽欠陥のいずれであるかをより精度よく分類することが可能となる。
分類部52により欠陥が真欠陥に分類された場合(ステップS25)、当該欠陥の欠陥画像および欠陥関連情報は、欠陥確認装置11に出力される。欠陥確認装置11では、プリント基板上の当該欠陥画像の領域が撮像され、ディスプレイに表示される。作業者が、表示された画像に含まれる欠陥を確認することにより、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われる(ステップS23)。分類部52により欠陥が偽欠陥に分類された場合(ステップS25)、当該欠陥の欠陥画像および欠陥関連情報は、欠陥確認装置11に出力されず、当該欠陥に対する処理が終了する。このように、分類部52により偽欠陥に分類された欠陥について、作業者による確認を省略することにより、欠陥の確認に要する作業者の工数を削減することができる。
ここで、オープン欠陥およびショート欠陥等の特定の欠陥種別の欠陥、並びに、第2検査処理部22により検出された欠陥に対して、分類部52における分類を不要と決定する理由について説明する。オープン欠陥およびショート欠陥等の特定の欠陥種別の欠陥は、プリント基板の動作や性能等に大きな影響を及ぼすため、分類器521による分類の誤り(ここでは、真欠陥の偽欠陥への誤分類)が許容できない場合が多い。したがって、特定の欠陥種別の欠陥については、分類器521における重大な誤分類を回避するため、分類器521による分類を行うことなく、欠陥確認装置11にて作業者が確認し、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われることが好ましい。このように、オープン欠陥およびショート欠陥等の特定の欠陥種別の欠陥を分類器521により分類しないため、教師データとしても、当該特定の欠陥種別の欠陥画像を用いないことが好ましい。
また、第2検査処理部22により検出された欠陥の欠陥関連情報には、欠陥位置情報が含められないため、分類部52において、欠陥画像から欠陥の領域を切り出した画像を取得することができない。この場合に、欠陥画像をそのまま分類器521に入力すると、欠陥の領域以外の不要な領域の特徴が、分類処理に用いられてしまう。その結果、第2検査処理部22により検出された欠陥については分類器521における分類精度が低くなり、誤分類が生じやすくなる。したがって、第2検査処理部22により検出された欠陥については、分類器521による分類を行うことなく、欠陥確認装置11にて作業者が確認し、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われることが好ましい。このように、第2検査処理部22により検出された欠陥を分類器521により分類しないため、教師データとしても、第2検査処理部22により検出された欠陥の欠陥画像を用いないことが好ましい。
以上に説明したように、図1の検査システム1では、プリント基板を撮像した画像を、機械学習を用いずに検査して欠陥を検出する検査部20と、欠陥を示す画像を分類器521に入力することにより、当該欠陥の欠陥種別(上記処理では、真欠陥または偽欠陥)を分類する分類部52とが設けられる。また、分類要否決定部53では、検査部20により検出された欠陥の分類部52における分類の要否が、当該欠陥の検出の際に検査部20にて取得された欠陥関連情報に基づいて決定される。検査システム1では、分類器521による分類に適さない欠陥を分類対象から容易に除外することができ、分類器521における重大な誤分類の回避、および、分類処理に要する時間の短縮を実現することが可能となる。
好ましくは、分類部52では、検査部20により検出された欠陥が真欠陥または偽欠陥に分類される。検査部20では、欠陥の検出の際に当該欠陥の欠陥種別(ここでは、真欠陥および偽欠陥以外の欠陥種別)が取得され、欠陥関連情報に当該欠陥種別が含められる。分類要否決定部53では、特定の欠陥種別である欠陥の分類部52における分類が不要と決定される。これにより、分類の誤りが許容できない欠陥種別の欠陥(すなわち、重要欠陥)の誤分類を容易に防止することができる。上記特定の欠陥種別が、オープン欠陥およびショート欠陥を含む場合、オープン欠陥およびショート欠陥の誤分類を容易に防止することができる。
好ましくは、検査部20では、第1検査処理により欠陥を検出し、当該欠陥を含む欠陥画像を取得する第1検査処理部21と、第1検査処理とは異なる第2検査処理により欠陥を検出し、当該欠陥を含む欠陥画像を取得する第2検査処理部22とが設けられる。第1検査処理部21では、第2検査処理部22よりも詳細な欠陥画像中の欠陥の位置情報が取得可能であり、欠陥関連情報に第1検査処理部21により取得された当該位置情報が含められる。分類要否決定部53では、第1検査処理部21により検出された欠陥の分類部52における分類が必要と決定され、第2検査処理部22により検出された欠陥の分類部52における分類が不要と決定される。また、分類部52では、欠陥の位置情報に基づいて欠陥画像から当該欠陥の領域を切り出した画像が分類器521に入力される。このような構成により、欠陥の詳細な位置(欠陥位置情報)が取得されず、分類器521による分類精度が低くなる欠陥を、分類対象から容易に除外することができ、分類器521における誤分類の低減、および、分類処理に要する時間の短縮を、より確実に実現することができる。
図3の教師データ生成装置4では、欠陥を含む欠陥画像と、当該欠陥の検出の際に取得された欠陥関連情報とが、検査部20から入力され、画像受付部41において受け付けられる。画像要否決定部42では、欠陥関連情報に基づいて欠陥画像を教師データに用いるか否かが決定される。教師データに用いる欠陥画像は、表示制御部43によりディスプレイ35に表示され、表示された欠陥画像に対する作業者による、欠陥種別(上記処理では、真欠陥または偽欠陥)の判定結果の入力が判定結果受付部44により受け付けられる。そして、教師データ生成部45により、当該判定結果が欠陥画像にラベル付けされ、教師データが生成される。教師データ生成装置4では、教師データに適さない画像を容易に除外することができ、ラベル付け作業および学習に要する時間を短縮することができる。
好ましくは、判定結果受付部44では、作業者による真欠陥または偽欠陥の判定結果の入力が受け付けられる。検査部20では、欠陥の検出の際に取得された当該欠陥の欠陥種別が欠陥関連情報に含められる。画像要否決定部42では、特定の欠陥種別である欠陥を含む欠陥画像を教師データに用いないと決定される。これにより、上記特定の欠陥種別の欠陥の分類を行わないことを前提とした好ましい分類器521を生成することができる。上記特定の欠陥種別が、オープン欠陥およびショート欠陥を含む場合、オープン欠陥およびショート欠陥の分類を行わないことを前提とした好ましい分類器521を生成することができる。
好ましくは、検査部20では、上述の第1検査処理部21と第2検査処理部22とが設けられる。第1検査処理部21では、第2検査処理部22よりも詳細な欠陥画像中の欠陥の位置情報が取得可能であり、欠陥関連情報に第1検査処理部21により取得された当該位置情報が含められる。画像要否決定部42では、第1検査処理部21により検出された欠陥の欠陥画像を教師データに用いると決定され、第2検査処理部22により検出された欠陥の欠陥画像を教師データに用いないと決定される。また、教師データ生成部45では、欠陥の位置情報に基づいて欠陥画像から当該欠陥の領域を切り出した画像を含む教師データが生成される。このような構成により、欠陥画像中の詳細な位置が取得されない欠陥(分類精度が低くなる欠陥)の分類を行わないことを前提とした好ましい分類器521を生成することができる。
(第2実施形態)
次に、本発明の第2実施形態に係る検査システム1の処理について説明する。図11は、プリント基板9の全体を示す図である。製造途中のプリント基板9では、最終製品において除去される部分である、捨て基板領域92が含まれている。図11では、捨て基板領域92に平行斜線を付している。図12は、図11のプリント基板9において破線にて囲む部分B1を拡大して示す図である。図12では、捨て基板領域92を太い破線にて囲んでいる。
図12に示すように、プリント基板9では、小さいメッキ領域が密に配列されていたり、細い配線パターンが設けられる領域91(図12中にて細い破線にて囲む領域)が存在する。領域91に存在する欠陥は、プリント基板9の動作に大きな影響を及ぼすため、本処理例における検査部20では、領域91に対して、他の領域に比べて厳しい第1検査感度が設定される。以下、領域91を「第1感度設定領域91」という。一方、既述の捨て基板領域92に存在する欠陥は、プリント基板9の動作にほとんど影響を及ぼさないため、捨て基板領域92に対して、他の領域に比べて緩い第2検査感度が設定される。以下、捨て基板領域92を「第2感度設定領域92」という。また、第1感度設定領域91および第2感度設定領域92以外の領域93には、中間的な第3検査感度が設定される。以下、領域93を「第3感度設定領域93」という。以上のように、プリント基板9の各位置には、複数の検査感度のいずれか1つが設定されている。
検査部20における検査処理では、検査感度に従って欠陥が検出される。例えば、図8を参照して説明した第2検査処理では、マトリクスM1内の相違画素の割合と比較される許容値が、検査感度によって変化する。具体的には、設計データ(CAMデータ等)を参照することにより、撮像画像を分割した既述の分割画像が示す位置が、第1感度設定領域91、第2感度設定領域92および第3感度設定領域93のいずれに属するかが特定され、利用すべき許容値が取得される。第1感度設定領域91では、他の領域よりも小さい許容値が取得され、第2感度設定領域92では、他の領域よりも大きい許容値が取得される。そして、マトリクスM1内の相違画素の割合が当該許容値と比較され、許容値を超えた場合に、欠陥の存在が検出される。
欠陥の存在が検出されると、当該欠陥を含む欠陥画像(多階調の分割画像)および欠陥関連情報がコンピュータ3に出力される。このとき、欠陥関連情報には、当該欠陥の検出の際に利用した検査感度を示す検査感度情報が含められる。例えば、検査感度情報は、第1検査感度、第2検査感度および第3検査感度のいずれか1つを示す情報、または、第1感度設定領域91、第2感度設定領域92および第3感度設定領域93のいずれか1つを示す情報である。第1検査処理部21においても同様に、検査感度に従って欠陥が検出され、欠陥を含む欠陥画像、および、検査感度情報を含む欠陥関連情報がコンピュータ3に出力される。欠陥の検出では、様々な手法が用いられてよく、検査感度の設定の仕方は、欠陥の検出手法に応じて適宜変更される。
教師データ生成装置4による教師データの生成では、画像受付部41において、検査部20から欠陥画像と欠陥関連情報とが受け付けられる(図9:ステップS11)。既述のように、欠陥関連情報は、検査感度情報を含んでいる。画像要否決定部42では、欠陥関連情報に基づいて各欠陥画像を教師データに用いるか否かが決定される(ステップS12)。本処理例では、特定の検査感度にて検出された欠陥を含む欠陥画像については、教師データに用いられない。特定の検査感度の一例は、第1感度設定領域91に設定される第1検査感度である。第2検査感度および第3検査感度にて検出された欠陥を含む欠陥画像は、教師データに用いる欠陥画像に決定される。特定の検査感度にて検出された欠陥の欠陥画像を教師データに用いない理由については後述する。
教師データに用いる欠陥画像がディスプレイ35に表示された後(ステップS13)、欠陥画像に対する真欠陥または偽欠陥の判定結果の入力が作業者により行われ、当該入力が受け付けられる(ステップS14)。そして、欠陥画像に判定結果をラベル付けすることにより、教師データが生成される(ステップS15)。その後、上述の処理例と同様に、複数の教師データを用いて分類器521が生成される。
検査システム1におけるプリント基板9の検査では、検査部20において欠陥が検出されると(図10:ステップS21)、当該欠陥を含む欠陥画像および欠陥関連情報が分類要否決定部53に出力される。既述のように、欠陥関連情報には、検査感度情報が含められる。続いて、分類要否決定部53では、当該欠陥画像が示す欠陥の分類部52における分類の要否が、欠陥関連情報に基づいて決定される。本処理例では、特定の検査感度にて検出された欠陥については、分類部52における分類が不要と決定される(ステップS22)。特定の検査感度の一例は、第1感度設定領域91に設定される第1検査感度である。特定の検査感度にて検出された欠陥に対して、分類部52における分類を不要と決定する理由については後述する。
分類が不要と決定された欠陥の欠陥画像および欠陥関連情報は、欠陥確認装置11に出力される。欠陥確認装置11では、プリント基板9上の当該欠陥画像の領域が撮像され、ディスプレイに表示される。作業者が、表示された画像に含まれる欠陥を確認することにより、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われる(ステップS23)。
一方、特定の検査感度以外の検査感度にて検出された欠陥については、分類部52における分類が必要と決定される(ステップS22)。分類が必要と決定された欠陥の欠陥画像および欠陥関連情報は、分類部52に出力される。分類部52では、欠陥画像を分類器521に入力することにより、欠陥画像が示す欠陥が真欠陥または偽欠陥に分類される(ステップS24)。分類部52により欠陥が真欠陥に分類された場合(ステップS25)、当該欠陥の欠陥画像および欠陥関連情報は、欠陥確認装置11に出力され、作業者により、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われる(ステップS23)。分類部52により欠陥が偽欠陥に分類された場合(ステップS25)、当該欠陥の欠陥画像および欠陥関連情報は、欠陥確認装置11に出力されず、当該欠陥に対する処理が終了する。
ここで、特定の検査感度にて検出された欠陥に対して、分類部52における分類を不要と決定する理由について説明する。既述のように、第1感度設定領域91に存在する欠陥は、プリント基板9の動作に大きな影響を及ぼすため、分類器521による分類の誤り(ここでは、真欠陥の偽欠陥への誤分類)が許容できない場合がある。したがって、第1感度設定領域91にて検出された欠陥、すなわち、特定の検査感度にて検出された欠陥については、分類器521における重大な誤分類を回避するため、分類器521による分類を行うことなく、欠陥確認装置11にて作業者が確認し、当該欠陥が真欠陥または偽欠陥のいずれであるかの最終的な決定が行われることが好ましい。このように、特定の検査感度にて検出された欠陥を分類器521により分類しないため、教師データとしても、当該特定の検査感度にて検出された欠陥の欠陥画像を用いないことが好ましい。
以上のように、検査システム1における本処理例では、プリント基板9の各位置に対して複数の検査感度のうち一の検査感度が設定されており、検査部20が欠陥の検出の際に利用した検査感度を示す情報が、欠陥関連情報に含められる。分類要否決定部53では、特定の検査感度にて検出された欠陥の分類部52における分類が不要と決定される。これにより、分類の誤りが許容できない、検査感度が高い領域における欠陥の誤分類を容易に防止することができる。また、教師データ生成装置4の画像要否決定部42では、特定の検査感度にて検出された欠陥を含む欠陥画像を教師データに用いないと決定される。これにより、検査感度が高い領域における欠陥の分類を行わないことを前提とした好ましい分類器521を生成することができる。
上記処理例では、第2検査感度にて検出された欠陥、および、第3検査感度にて検出された欠陥が同一の分類器521により分類されるが、各検査感度用の分類器が生成されてもよい。例えば、第2検査感度にて検出された欠陥の複数の教師データが生成され、当該複数の教師データを用いて機械学習を行うことにより、第2検査感度用の分類器が生成される。第3検査感度用の分類器も同様にして生成される。検査システム1におけるプリント基板の検査では、第2検査感度にて検出された欠陥については、分類部52における分類が必要と決定され、第2検査感度用の分類器により当該欠陥が真欠陥または偽欠陥に分類される。第3検査感度にて検出された欠陥についても、分類部52における分類が必要と決定され、第3検査感度用の分類器により当該欠陥が真欠陥または偽欠陥に分類される。検査システム1では、検査部20により取得される各欠陥種別用の分類器(真欠陥または偽欠陥に分類する分類器)が生成されてもよい。
上記検査システム1、教師データ生成装置4および教師データ生成方法では様々な変形が可能である。
プリント基板では、品番によってライン/スペースや、材料、プロセス等が相違するため、検査部20により欠陥が検出されるプリント基板の品番に基づいて、分類要否決定部53により当該欠陥の分類部52における分類の要否が決定されてもよい。また、欠陥が検出されるプリント基板の直前の工程の種類に基づいて、当該欠陥の分類部52における分類の要否が決定されてもよい。例えば、欠陥を検出した際に、検査部20においてプリント基板の品番、または/および、工程の種類を示す識別番号が取得され、欠陥関連情報に含められる。分類要否決定部53では、品番または/および識別番号毎に分類の要否を示すテーブルが記憶されており、欠陥関連情報に含まれる品番または/および識別番号を用いて当該テーブルを参照することにより、欠陥の分類部52における分類の要否が決定される。教師データ生成装置4の画像要否決定部42において同様である。
分類部52における分類が不要とされる欠陥種別は、オープン欠陥およびショート欠陥のみには限定されず、例えば、外装基板におけるソルダレジスト剥がれ等、他の欠陥種別が、分類が不要とされる特定の欠陥種別に含められてもよい。教師データに用いない欠陥画像を決定する場合も同様である。
上記第1実施形態における分類要否決定部53では、必ずしも特定の欠陥種別の欠陥、および、第2検査処理部22により検出された欠陥の両方について、分類部52における分類が不要と決定される必要はなく、一方のみについて分類部52における分類が不要と決定されてもよい。教師データ生成装置4の画像要否決定部42において同様である。
検査部20では、必ずしも欠陥の欠陥種別が取得される必要はない。また、第1検査処理部21および第2検査処理部22の一方のみが設けられてもよい。第1検査処理部21における第1検査処理は、欠陥位置情報が取得可能な他の処理であってもよい。第2検査処理部22における第2検査処理も、上述の処理以外の処理であってもよい。
上記第1および第2実施形態では、図9のステップS14において、欠陥画像に対する真欠陥または偽欠陥の判定結果が作業者により入力されるが、真欠陥および偽欠陥以外の欠陥種別(例えば、異物付着、膜剥がれ等)の判定結果が入力されてもよい。すなわち、判定結果受付部44では、ディスプレイ35に表示された欠陥画像に対する作業者による、欠陥種別の判定結果(真欠陥または偽欠陥の判定結果を含む。)の入力が受け付けられる。同様に、分類部52では、欠陥が真欠陥および偽欠陥以外の欠陥種別に分類されてもよい。
検査システム1において、分類要否決定部53の機能が、検査装置2に設けられてもよい。また、教師データ生成装置4における画像受付部41および画像要否決定部42の機能が、検査装置2に設けられてもよい。
検査部20における検査の対象物は、プリント基板以外に、半導体基板やガラス基板等の基板であってもよい。また、機械部品等、基板以外の対象物の欠陥が検査部20により検出されてもよい。検査システム1および教師データ生成装置4は、様々な対象物の検査に用いることが可能である。
上記実施の形態および各変形例における構成は、相互に矛盾しない限り適宜組み合わされてよい。
1 検査システム
3 コンピュータ
4 教師データ生成装置
9 プリント基板
20 検査部
21 第1検査処理部
22 第2検査処理部
35 ディスプレイ
41 画像受付部
42 画像要否決定部
43 表示制御部
44 判定結果受付部
45 教師データ生成部
52 分類部
53 分類要否決定部
69 欠陥
71 撮像画像
521 分類器
811 プログラム
S11~S15,S21~S25 ステップ

Claims (10)

  1. 検査システムであって、
    対象物を撮像した画像を、機械学習を用いずに検査して欠陥を検出する検査部と、
    予め生成された学習済みモデルを有し、欠陥を示す画像を前記学習済みモデルに入力することにより、前記欠陥の欠陥種別を分類する分類部と、
    前記検査部により検出された欠陥の前記分類部における分類の要否を、前記欠陥の検出の際に前記検査部にて取得または利用された欠陥関連情報に基づいて決定する分類要否決定部と、
    を備えることを特徴とする検査システム。
  2. 請求項1に記載の検査システムであって、
    前記分類部が、前記検査部により検出された欠陥を真欠陥または偽欠陥に分類し、
    前記検査部が、欠陥の検出の際に前記欠陥の欠陥種別を取得し、前記欠陥関連情報に前記欠陥種別が含められ、
    前記分類要否決定部が、特定の欠陥種別である欠陥の前記分類部における分類を不要と決定することを特徴とする検査システム。
  3. 請求項1または2に記載の検査システムであって、
    前記検査部が、
    第1検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第1検査処理部と、
    前記第1検査処理とは異なる第2検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第2検査処理部と、
    を備え、
    前記第1検査処理部が前記第2検査処理部よりも詳細な欠陥画像中の欠陥の位置情報を取得可能であり、前記欠陥関連情報に前記第1検査処理部により取得された前記位置情報が含められ、
    前記分類要否決定部が、前記第1検査処理部により検出された欠陥の前記分類部における分類を必要と決定し、前記第2検査処理部により検出された欠陥の前記分類部における分類を不要と決定し、
    前記分類部が、欠陥の位置情報に基づいて欠陥画像から前記欠陥の領域を切り出した画像を前記学習済みモデルに入力することを特徴とする検査システム。
  4. 請求項1ないし3のいずれか1つに記載の検査システムであって、
    前記対象物の各位置に対して複数の検査感度のうち一の検査感度が設定されており、
    前記検査部が欠陥の検出の際に利用した検査感度を示す情報が、前記欠陥関連情報に含められ、
    前記分類要否決定部が、特定の検査感度にて検出された欠陥の前記分類部における分類を不要と決定することを特徴とする検査システム。
  5. 教師データを生成する教師データ生成装置であって、
    対象物を撮像した画像を、機械学習を用いずに検査する検査部から、欠陥を含む欠陥画像と、前記欠陥の検出の際に取得または利用された欠陥関連情報とを受け付ける画像受付部と、
    前記欠陥関連情報に基づいて前記欠陥画像を教師データに用いるか否かを決定する画像要否決定部と、
    教師データに用いる欠陥画像をディスプレイに表示する表示制御部と、
    前記ディスプレイに表示された前記欠陥画像に対する作業者による、欠陥種別の判定結果の入力を受け付ける判定結果受付部と、
    前記欠陥画像に前記判定結果をラベル付けして教師データを生成する教師データ生成部と、
    を備えることを特徴とする教師データ生成装置。
  6. 請求項5に記載の教師データ生成装置であって、
    前記判定結果受付部が、作業者による真欠陥または偽欠陥の判定結果の入力を受け付け、
    前記検査部において欠陥の検出の際に取得された前記欠陥の欠陥種別が、前記欠陥関連情報に含められ、
    前記画像要否決定部が、特定の欠陥種別である欠陥を含む欠陥画像を教師データに用いないと決定することを特徴とする教師データ生成装置。
  7. 請求項5または6に記載の教師データ生成装置であって、
    前記検査部が、
    第1検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第1検査処理部と、
    前記第1検査処理とは異なる第2検査処理により欠陥を検出し、前記欠陥を含む欠陥画像を取得する第2検査処理部と、
    を備え、
    前記第1検査処理部が前記第2検査処理部よりも詳細な欠陥画像中の欠陥の位置情報を取得可能であり、前記欠陥関連情報に前記第1検査処理部により取得された前記位置情報が含められ、
    前記画像要否決定部が、前記第1検査処理部により検出された欠陥の欠陥画像を教師データに用いると決定し、前記第2検査処理部により検出された欠陥の欠陥画像を教師データに用いないと決定し、
    前記教師データ生成部が、欠陥の位置情報に基づいて欠陥画像から前記欠陥の領域を切り出した画像を含む教師データを生成することを特徴とする教師データ生成装置。
  8. 請求項5ないし7のいずれか1つに記載の教師データ生成装置であって、
    前記対象物の各位置に対して複数の検査感度のうち一の検査感度が設定されており、
    前記検査部が欠陥の検出の際に利用した検査感度を示す情報が、前記欠陥関連情報に含められ、
    前記画像要否決定部が、特定の検査感度にて検出された欠陥を含む欠陥画像を教師データに用いないと決定することを特徴とする教師データ生成装置。
  9. 教師データを生成する教師データ生成方法であって、
    a)対象物を撮像した画像を、機械学習を用いずに検査する検査部から、欠陥を含む欠陥画像と、前記欠陥の検出の際に取得または利用された欠陥関連情報とを受け付ける工程と、
    b)前記欠陥関連情報に基づいて前記欠陥画像を教師データに用いるか否かを決定する工程と、
    c)教師データに用いる欠陥画像をディスプレイに表示する工程と、
    d)前記ディスプレイに表示された前記欠陥画像に対する作業者による、欠陥種別の判定結果の入力を受け付ける工程と、
    e)前記欠陥画像に前記判定結果をラベル付けして教師データを生成する工程と、
    を備えることを特徴とする教師データ生成方法。
  10. コンピュータに教師データを生成させるプログラムであって、前記プログラムのコンピュータによる実行は、前記コンピュータに、
    a)対象物を撮像した画像を、機械学習を用いずに検査する検査部から、欠陥を含む欠陥画像と、前記欠陥の検出の際に取得または利用された欠陥関連情報とを受け付ける工程と、
    b)前記欠陥関連情報に基づいて前記欠陥画像を教師データに用いるか否かを決定する工程と、
    c)教師データに用いる欠陥画像をディスプレイに表示する工程と、
    d)前記ディスプレイに表示された前記欠陥画像に対する作業者による、欠陥種別の判定結果の入力を受け付ける工程と、
    e)前記欠陥画像に前記判定結果をラベル付けして教師データを生成する工程と、
    を実行させることを特徴とするプログラム。
JP2022048188A 2022-03-24 2022-03-24 検査システム、教師データ生成装置、教師データ生成方法およびプログラム Pending JP2023141721A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2022048188A JP2023141721A (ja) 2022-03-24 2022-03-24 検査システム、教師データ生成装置、教師データ生成方法およびプログラム
TW111142697A TWI837934B (zh) 2022-03-24 2022-11-09 檢查系統、訓練資料生成裝置、訓練資料生成方法以及程式
KR1020220161858A KR20230138869A (ko) 2022-03-24 2022-11-28 검사 시스템, 교사 데이터 생성 장치, 교사 데이터 생성 방법 및 기록 매체에 기록된 프로그램
CN202310101400.0A CN116804637A (zh) 2022-03-24 2023-02-09 检查系统、教师数据生成装置、教师数据生成方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022048188A JP2023141721A (ja) 2022-03-24 2022-03-24 検査システム、教師データ生成装置、教師データ生成方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2023141721A true JP2023141721A (ja) 2023-10-05

Family

ID=88078658

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022048188A Pending JP2023141721A (ja) 2022-03-24 2022-03-24 検査システム、教師データ生成装置、教師データ生成方法およびプログラム

Country Status (3)

Country Link
JP (1) JP2023141721A (ja)
KR (1) KR20230138869A (ja)
CN (1) CN116804637A (ja)

Also Published As

Publication number Publication date
KR20230138869A (ko) 2023-10-05
CN116804637A (zh) 2023-09-26
TW202338745A (zh) 2023-10-01

Similar Documents

Publication Publication Date Title
US20060133660A1 (en) Apparatus and method for detecting defect existing in pattern on object
KR20210104028A (ko) 부품 검사 동안의 기준 오정렬 보상
JP2010133744A (ja) 欠陥検出方法およびその方法を用いた視覚検査装置
TWI609178B (zh) Pattern inspection device and pattern inspection method
WO2014103617A1 (ja) 位置合せ装置、欠陥検査装置、位置合せ方法、及び制御プログラム
JPH0723847B2 (ja) プリント基板のパターン検査方法
Leta et al. Computer vision system for printed circuit board inspection
Malge et al. A survey: Automated visual pcb inspection algorithm
US6795186B2 (en) Adaptive tolerance reference inspection system
KR20230126163A (ko) 교사 데이터 생성 장치, 교사 데이터 생성 방법 및 기록 매체에 기록된 프로그램
JP2023141721A (ja) 検査システム、教師データ生成装置、教師データ生成方法およびプログラム
JP3247823B2 (ja) 欠陥検査方法およびその装置並びに薄膜磁気ヘッド用の素子の製造方法
TWI837934B (zh) 檢查系統、訓練資料生成裝置、訓練資料生成方法以及程式
US20080107329A1 (en) Method of detecting defects of patterns on a semiconductor substrate and apparatus for performing the same
JP7423368B2 (ja) 不良検出装置及び不良検出方法
US6005966A (en) Method and apparatus for multi-stream detection of high density metalization layers of multilayer structures having low contrast
JP2017133868A (ja) パターン検査装置およびパターン検査方法
JP3029774B2 (ja) 回路パターン検査装置
JP2001099625A (ja) パターン検査装置およびパターン検査方法
CN112702905A (zh) 印刷电路板良率和生产设备错误率之回溯方法及其系统
CN114441554B (zh) 检测方法
JP2003203218A (ja) 外観検査装置および方法
JP2023183761A (ja) 検査装置、検査方法およびプログラム
WO2024062854A1 (ja) 画像処理装置および画像処理方法
WO2022201968A1 (ja) 情報処理装置、制御プログラム、および制御方法