JP2020085705A - 判定装置及び判定方法 - Google Patents

判定装置及び判定方法 Download PDF

Info

Publication number
JP2020085705A
JP2020085705A JP2018221952A JP2018221952A JP2020085705A JP 2020085705 A JP2020085705 A JP 2020085705A JP 2018221952 A JP2018221952 A JP 2018221952A JP 2018221952 A JP2018221952 A JP 2018221952A JP 2020085705 A JP2020085705 A JP 2020085705A
Authority
JP
Japan
Prior art keywords
determination
target portion
unit
determination target
quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018221952A
Other languages
English (en)
Other versions
JP7119949B2 (ja
Inventor
公威 溝部
Kimii Mizobe
公威 溝部
太郎 田中
Taro Tanaka
太郎 田中
奈津美 真野
Natsumi Mano
奈津美 真野
博之 増田
Hiroyuki Masuda
博之 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2018221952A priority Critical patent/JP7119949B2/ja
Priority to US16/697,268 priority patent/US11120541B2/en
Publication of JP2020085705A publication Critical patent/JP2020085705A/ja
Application granted granted Critical
Publication of JP7119949B2 publication Critical patent/JP7119949B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】判定対象物の一部が変更された場合に効率的に判定を行う。【解決手段】判定装置は、旧判定対象物からの変更部分を取得する変更部分取得部と、判定モデルを用いて、判定対象部分を良と不良と不良候補のいずれかに判定する第1判定部と、判定対象部分について判定員による良否判定結果を取得する第2判定部と、判定対象部分について、第1判定部と第2判定部との少なくとも一方を用いた良否判定処理を実行する判定実行部と、を備える。判定実行部は、良否判定処理において、変更部分を含まない第1種判定対象部分については、第1判定部に判定を実行させ、第1判定部により不良候補と判定された場合に第1種判定対象部分について第2判定部に良否判定結果の取得を実行させ、変更部分が含まれる第2種判定対象部分については、第2判定部に良否判定結果の取得を実行させる。【選択図】図1

Description

本開示は、判定装置及び判定方法に関する。
特許文献1には、対象物から取得した特徴量に応じて、対象物の良否を判定する装置が記載されている。この装置では、対象物から抽出される複数の第1特徴量に基づいて各領域の中から欠陥候補点を検出し、検出された欠陥候補点に基づいて欠陥候補領域と非欠陥候補領域とを設定し、欠陥候補領域及び非欠陥候補領域のそれぞれから第2特徴量を算出する。そして、複数の非欠陥候補領域から抽出した第2特徴量に基づいて、正常モデルを識別する識別器をオンラインで生成し、識別器により対象物の欠陥の有無を判定している。こうすることで、製造プロセスの変更や環境変動が生じても、対象物における欠陥検出を可能としている。
特開2015−41164号公報
特許文献1記載の技術では、判定対象物の一部が変更された場合に効率的に判定を行う点については、十分に考慮されていなかった。
本開示の第1の形態によれば、判定対象物のセンシング部によるセンシング結果により得られた判定対象部分の良否を判定する判定装置が提供される。この判定装置は、旧判定対象物からの前記判定対象物の変更部分を取得する変更部分取得部と、前記判定対象部分の判定員による良否判定結果により学習された判定モデルを用いて、前記判定対象部分を良と不良と不良候補のいずれかに判定する第1判定部と、前記判定対象部分について判定員による良否判定結果を取得する第2判定部と、前記判定対象部分について、前記第1判定部と前記第2判定部との少なくとも一方を用いた良否判定処理を実行する判定実行部と、を備え、前記判定実行部は、前記良否判定処理において、前記変更部分を含まない前記判定対象部分である第1種判定対象部分については、前記第1判定部に判定を実行させ、前記第1判定部により不良候補と判定された場合に前記第1種判定対象部分について前記第2判定部に良否判定結果の取得を実行させ、前記変更部分が含まれる前記判定対象部分である第2種判定対象部分については、前記第2判定部に良否判定結果の取得を実行させる。
本開示の第2の形態によれば、判定対象物のセンシング結果により得られた判定対象部分の良否を判定する判定方法が提供される。この方法は、旧判定対象物からの変更部分を取得する変更部分取得工程と、前記判定対象部分の判定員による良否判定結果により学習された判定モデルを用いて、前記判定対象部分を良と不良と不良候補のいずれかに判定する第1判定工程と、前記判定対象部分について判定員による良否判定結果を取得する第2判定工程と、を備え、前記変更部分を含まない前記判定対象部分である第1種判定対象部分について、前記第1判定工程において判定を実行し、前記第1判定工程において不良候補と判定された前記第1種判定対象部分について前記第2判定工程において良否判定結果の取得を実行し、前記変更部分が含まれる前記判定対象部分である第2種判定対象部分について、前記第2判定工程において良否判定結果の取得を実行する。
本開示の一実施形態としての判定システムの概略構成を示す図である。 前処理前の検査画像と、前処理後の検査画像とを示す図である。 判定モデルにより算出される判定スコアと、判定閾値と、第1判定部による判定結果とを説明するための第1の図である。 判定モデルにより算出される判定スコアと、判定閾値と、第1判定部による判定結果とを説明するための第2の図である。 判定モデルにより算出される判定スコアと、判定閾値と、第1判定部による判定結果とを説明するための第3の図である。 目視検査装置における判定対象部分の良否判定イメージ図である。 第2判定部により良品と判定される判定対象物の良否判定結果付き画像である。 第2判定部により不良品と判定される判定対象物の良否判定結果付き画像である。 判定システムにおける良否判定処理を示す工程図である。 ステップS30における変更部分の取得について説明するための図である。 変更部分が指定された、前処理前の検査画像と前処理後の検査画像とを示す図である。 第1種判定対象部分と第2種判定対象部分とを示す図である。 第1実施形態における良否判定処理のイメージ図である。 第2実施形態における良否判定処理を示す工程図である。 ステップS62の判定のイメージを示す図である。 第2実施形態における良否判定処理のイメージ図である。 第3実施形態における判定システムの概略構成を示す図である。 第3実施形態における良否判定処理を示す工程図である。 他の実施形態1における良否判定処理のイメージを示す図である。
A.第1実施形態
A1.判定システムの構成
図1は、本開示の一実施形態としての判定システム5の概略構成を示す図である。判定システム5は、検査装置20と、自動分類装置40と、目視検査装置50と、学習装置70と、転送装置90と、検査データベース60と、を備える。判定システム5における各装置は、ネットワークにより接続されている。自動分類装置40と目視検査装置50とを「判定装置10」とも呼ぶ。判定装置10は、判定対象物の良否判定を実行するための装置である。
検査装置20は、判定対象物のセンシング結果を取得するセンシング部21を備える。本実施形態において、センシング部21は、判定対象物を撮像した画像を取得するカメラを含む。本実施形態では、検査装置20は、各判定対象物のセンシング結果である検査画像を、検査データベース60に保存する。
自動分類装置40は、変更部分取得部41と、前処理部42と、第1判定部43と、判定実行部44と、を備える。これらの各部は、自動分類装置40の備える図示しないCPUが、図示しないメモリーに記憶されたプログラムを展開して実行することで、その機能を実現する。
変更部分取得部41は、旧判定対象物からの判定対象物の変更部分を取得する。本実施形態において、判定対象物における一部の設計は、旧判定対象物から変更されており、判定対象物は、旧判定対象物からの変更部分と未変更部分とにより構成されている。判定実行部44は、判定対象物の判定対象部分について、第1判定部43と第2判定部51との少なくとも一方を用いた良否判定処理を実行する。変更部分取得部41による変更部分の取得と、判定実行部44による良否判定処理と、については後述する。
図2は、前処理前の検査画像G1と、前処理後の検査画像G2とを示す図である。前処理部42は、センシング結果としての検査画像G1に対し、第1判定部43あるいは第2判定部51による判定を行うための所定の処理を行う。本実施形態では、前処理部42は、図2に示すように、検査画像G1を複数の判定対象部分pに分割して、前処理後の検査画像G2を得る。
図3から図5は、判定対象部分pについて判定モデルにより算出される判定スコアと、判定閾値と、第1判定部43による判定結果とを説明するための図である。判定モデルは、判定対象部分pの判定員による良否判定結果により学習されたモデルである。判定モデルとしては、例えば、畳み込みニューラルネットワークなどのニューラルネットワークを使用可能である。第1判定部43は、判定モデルを用いて、判定対象部分pについて、良である確率を示す判定スコアと不良である確率を示す1つ以上の判定スコアとをそれぞれ算出する。本実施形態では、判定モデルは、良の判定スコアS0と、不良1と不良2と不良3の3種類の不良の判定スコアS1、S2、S3と、をそれぞれ算出する。これらの判定スコアS0、S1、S2、S3は、それらの和が1になるように規格化されている。不良の種類は、例えば、「キズ」や「異物」や「欠け」等である。図3に示す例では、判定対象部分pについて良である判定スコアS0が閾値以上であるため、第1判定部43は、当該判定対象部分を「良」と判定する。図4に示す例では、判定対象部分pについて、不良1である判定スコアS1が閾値以上であるため、第1判定部43は、当該判定対象部分を「不良1」と判定する。図5に示す例では、判定対象部分pについて、いずれの判定スコアも閾値を超えていないため、第1判定部43は、当該判定対象部分を「不良候補」と判定する。第1判定部43は、検査画像G2における各判定対象部分pに、判定モデルによる判定結果を付与して、検査データベース60に保存する。検査画像G2における各判定対象部分pに、判定モデルによる判定結果や、判定員による判定結果が付与された画像を「良否判定結果付き画像」とも呼ぶ。
図1に示す目視検査装置50は、第2判定部51を備える。第2判定部51は、目視検査装置50の備える図示しないCPUが図示しないメモリーに記憶されたプログラムを展開して実行することで、その機能を実現する。
図6は、目視検査装置50における判定対象部分pの良否判定イメージ図である。図6に示す例では、第2判定部51は、検査データベース60に保存された良否判定結果付き画像を取得し、各判定対象部分pを良と不良と不良候補とに分類する。第2判定部51は、不良候補である判定対象部分pを、目視検査装置50の備える図示しない表示装置に表示させる。判定員は、表示された判定対象部分pについて、図示しない入力装置を介して、良否判定結果を入力する。第2判定部51は、入力された良否判定結果を取得し、取得した良否判定結果を良否判定結果付き画像G2に付与して更新する。また、第2判定部51は、各良否判定結果付き画像における判定対象部分pの良否判定を用いて、各判定対象物を良品と不良品とに分類する。
図7は、第2判定部51により良品と判定される判定対象物の良否判定結果付き画像G3である。図8は、第2判定部51により不良品と判定される判定対象物の良否判定結果付き画像G4である。図7及び図8において、斜線でハッチングされた判定対象部分pbは、「不良」と判定された判定対象部分pであり、ドットでハッチングされた判定対象部分pgは、「良」と判定された判定対象部分pである。本実施形態において、第2判定部51は、判定対象部分pbを有する判定対象物を「不良品」と判定する。第2判定部51は、全ての判定対象部分pについて良と判定されている判定対象物を「良品」と判定する。
図1に戻り、検査データベース60は、各判定対象物の検査画像や良否判定結果付き画像を保存する。
転送装置90は、検査データベース60に蓄積された良否判定結果付き画像を、ネットワークを介して学習装置70に転送する。
学習装置70には、転送装置90から良否判定結果付き画像が転送されて蓄積される。学習装置70は、判定対象部分pの判定員による良否判定結果により学習を行う。
図9は、判定システム5における良否判定処理を示す工程図である。この処理では、現在の判定対象物が旧判定対象物からその一部が変更されている場合を想定する。図9に示す良否判定処理は、例えば、判定システム5の管理者等により、図示しない入力装置を介して自動分類装置40の判定実行部44に判定開始指示が入力されることで開始される。
ステップS10では、検査装置20のセンシング部21は、判定対象物をセンシングしてセンシング結果を取得する。本実施形態では、センシング部21は、判定対象物を撮像した検査画像をセンシング結果として取得する。
ステップS20では、判定実行部44は、ステップS10でセンシングされた判定対象物について、変更部分CPが取得済みか否かを判定する。判定実行部44は、変更部分CPが取得されていない場合には処理をステップS30に進める。
図10は、ステップS30における変更部分CPの取得について説明するための図である。ステップS30では、表示装置30にセンシング結果としての検査画像G5が表示される。検査画像G5のうち、ハッチングが付された部分は変更部分CPであり、ハッチングが付されていない部分は未変更部分NCPである。本実施形態において、判定システム5の管理者や判定員は、検査画像G5の旧判定対象物からの変更箇所を、図示しない入力装置を介して指定する。変更部分取得部41は、指定された箇所を変更部分CPとして取得し、指定されなかった箇所を未変更部分NCPとして取得する。
ステップS35では、判定対象物のセンシング結果が自動分類装置40に供給される。自動分類装置40の前処理部42は、図2で説明した前処理を実行する。
図11は、変更部分CPが指定された、前処理前の検査画像G5と前処理後の検査画像G6とを示す図である。前処理部42は、ステップS30において、図11に示すように、変更部分CPが指定された検査画像G5を複数の判定対象部分pに分割して、前処理後の検査画像G6を得る。前処理部42は、前処理された複数の判定対象部分pを、変更部分CPを含まない判定対象部分p、すなわち、未変更部分NCPからなる判定対象部分pと、変更部分CPを含む判定対象部分pと、に分類する。以下、変更部分CPを含まない判定対象部分pを「第1種判定対象部分P1」と呼び、変更部分CPを含むpを「第2種判定対象部分P2」とも呼ぶ。なお、ステップS30を「変更部分取得工程」とも呼ぶ。
図12は、第1種判定対象部分P1と第2種判定対象部分P2とを示す図である。図12に示す判定対象部分p1〜p6のうち、判定対象部分p1は、未変更部分NCPのみで構成されているので、第1種判定対象部分P1である。他の判定対象部分、p2、p3、p4、p5、p6は、変更部分CPを含むので、第2種判定対象部分P2である。
ステップS40では、判定対象物における判定対象部分pが選択される。ステップS40で選択される判定対象部分pは、判定対象物の複数の判定対象部分pのうち、良否判定がされていない判定対象部分pである。
ステップS50では、判定実行部44は、ステップS40で選択された判定対象部分pが、第2種判定対象部分P2であるか否かを判定する。ステップS40で選択された判定対象部分pが第1種判定対象部分P1である場合には、判定実行部44は、処理をステップS60に進める。
ステップS60では、判定実行部44は、第1種判定対象部分P1について、自動分類装置40の第1判定部43に判定を実行させる。ステップS60を「第1判定工程」とも呼ぶ。
図13は、第1実施形態における良否判定処理のイメージ図である。自動分類装置40では、上述のように、ステップS35において、前処理部42により、変更部分CPを含む判定対象物を判定対象部分pに分割する前処理が行われる。第1判定部43は、変更部分CPを含まない第1種判定対象部分P1について、判定モデルを用いて良と不良との判定スコアを算出し、閾値を用いて良と不良と不良候補とのいずれかに判定する。本実施形態では、判定実行部44は、変更部分CPを含む第2種判定対象部分P2について、第1判定部43に判定を実行させない。
ステップS70では、判定実行部44は、第1種判定対象部分P1の判定結果が不良候補である場合、処理をステップS80に進める。第1種判定対象部分P1の判定結果が良又は不良である場合には、判定実行部44は、処理をステップS90に進める。
ステップS80では、判定実行部44は、判定対象部分pについて、第2判定部51による良否判定結果の取得を実行させる。ステップS80において、第2判定部51が判定員による良否判定結果を取得するのは、不良候補と判定された第1種判定対象部分P1と、第2種判定対象部分P2とのいずれかである。ステップS80を、「第2判定工程」とも呼ぶ。ステップS50からステップS80の処理が実行されることで、ステップS40において選択された判定対象部分pの良否判定結果が取得される。
ステップS90では、判定実行部44は、良否判定結果が取得されていない判定対象部分pが存在する場合には、処理をステップS40に戻す。判定実行部44は、判定対象物の全ての判定対象部分pについて良否判定結果が取得されている場合には、上述したように目視検査装置50において当該判定対象物を良品、不良品のいずれかに分類し、当該判定対象物についての良否判定処理を終了する。
この形態によれば、変更部分CPを含まない第1種判定対象部分P1については判定モデルを用いて第1判定部43に判定を実行させ、変更部分CPを含む第2種判定対象部分P2については判定員による良否判定結果の取得を実行させるので、判定対象物が旧判定対象物からの変更部分CPを含む場合に、判定員により良否判定される判定対象部分数が増加することを抑制して、効率的に良否判定を行うことができる。そのため、旧判定対象物からの変更部分CPを有する判定対象物の良否判定に係るコストの増加を抑制することができる。また、旧判定対象物から設計の一部が変更された判定対象物について、旧判定対象物の判定に使用された判定モデル及び良否判定のための基準をそのまま用いることで判定の精度が低下することを、抑制することができる。
上記形態において、判定実行部44は、第2種判定対象部分P2について、第1判定部43に判定を実行させず、第2判定部51に良否判定結果の取得を実行させるので、第1判定部43において変更部分CPを含む第2種判定対象部分P2の良否が誤判定されることを抑制することができる。
B.第2実施形態
第2実施形態の判定システム5では、判定実行部44は、第2種判定対象部分P2について、第1判定部43における良の基準と不良の基準とを第1種判定対象部分P1よりも厳しく設定して、第1判定部43に判定を実行させる。また、判定実行部44は、第1判定部43により不良候補と判定された第2種判定対象部分P2について、第2判定部51に良否判定結果の取得を実行させる。その他の判定システム5の構成は、第1実施形態と同様であるため説明を省略する。
図14は、第2実施形態における良否判定処理を示す工程図である。図14は、図9にステップS62を追加したものであり、他のステップは図9と同じである。ステップS50において、判定対象部分pが変更部分CPを含む第2種判定対象部分P2である場合には、ステップS62に進む。
ステップS62では、判定実行部44は、第2種判定対象部分P2について、第1判定部43により判定を実行させる。この際、判定実行部44は、第2種判定対象部分P2について、第1判定部43における良及び不良と判定するための閾値を、第1種判定対象部分P1よりも高く設定して、第1判定部43に判定を実行させる。
図15は、ステップS62の判定のイメージを示す図である。図15に示す破線L1は第1種判定対象部分P1における判定閾値であり、実線L2は第2種判定対象部分P2における判定閾値である。ある判定対象部分pについて、判定モデルにより図15に示す良と不良1と不良2と不良3との判定スコアS0、S1、S2、S3が得られた場合について説明する。当該判定対象部分pが第1種判定対象部分P1である場合には、第1判定部43は、良の判定スコアS0が破線L1で示す判定閾値を超えているため、当該判定対象部分pを良と判定する。当該判定対象部分pが第2種判定対象部分P2である場合には、第1判定部43は、いずれの判定スコアも破線L1よりも高い閾値である実線L2で示す判定閾値を超えていないため、当該判定対象部分pを不良候補と判定する。
図16は、第2実施形態における良否判定処理のイメージ図である。前処理部42により、変更部分CPを含む判定対象物について判定対象部分pに分割する前処理が行われた後、第1判定部43は、第1種判定対象部分P1及び第2種判定対象部分P2について、判定モデルを用いて良と不良との判定スコアを算出する。ただし、第2種判定対象部分P2については、良又は不良と判定される確率を低下させるとともに、不良候補と判定される確率を上昇させるように、良と不良の判定基準を、第1種判定対象部分P1よりも厳しく設定する。具体的には、第1判定部43は、図15に破線L1で示した閾値を用いて、第1種判定対象部分P1を、良と不良と不良候補とのいずれかに判定する。第1判定部43は、図15に実線L2で示した第1種判定対象部分P1よりも高く設定した閾値を用いて、第2種判定対象部分P2を、良と不良と不良候補とのいずれかに判定する。
ステップS80では、第1判定部43により不良候補と判定された第1種判定対象部分P1及び第2種判定対象部分P2について、第2判定部51において判定員による良否判定結果の取得が実行される。第2種判定対象部分P2のうち、ステップS62において良あるいは不良と判定された判定対象部分pについては、判定員による良否判定の対象とならない。
この形態によれば、判定実行部44は、第2種判定対象部分P2について、第1判定部43における良の基準と不良の基準とを、第1種判定対象部分P1よりも厳しく設定して、第1判定部43に判定を実行させ、第1判定部43により不良候補と判定された第2種判定対象部分P2について第2判定部51に良否判定結果の取得を実行させる。そのため、判定対象物が旧判定対象物からの変更部分CPを含む場合に、判定員により良否判定される判定対象部分数が増加することをより抑制して、効率的に良否判定を行うことができる。そのため、旧判定対象物からの変更部分CPを有する判定対象物の良否判定に係るコストの増加をより抑制することができる。また、第2種判定対象部分P2については、第1種判定対象部分P1よりも厳しく設定された基準を用いて、第1判定部43により判定が行われるので、第2種判定対象部分P2について良否の誤判定がされることを抑制することができる。
C.第3実施形態
図17は、第3実施形態における判定システム5aの概略構成を示す図である。この判定システム5aは、センシング部21aが、パターンマッチング部22aとテンプレートデータ23aとを有する点が、図1に示した判定システム5と異なり、他の構成は図1と同じである。判定システム5aでは、検査装置20aのセンシング部21aが、判定対象物について判定装置10aにおける判定が必要か否かを判定する。また、判定システム5aでは、自動分類装置40aの判定実行部44aが、センシング部21aにより判定が必要とされた判定対象物における判定対象部分pについて、上述の良否判定処理を実行する。
図18は、第3実施形態における良否判定処理を示す工程図である。図18は、図9にステップS15を追加したものであり、他のステップは図9と同じである。センシング部21aにおいて判定対象物がセンシングされると、ステップS15に進む。
ステップS15では、パターンマッチング部22aは、予め記憶されたテンプレートデータ23aを用いて、判定対象物を良品と不良候補品とに分類する。例えば、パターンマッチング部22aは、判定対象物の所定の位置範囲において、ステップS10で取得されたセンシング結果と検査装置20aに予め記憶されたテンプレートデータ23aとを比較する。パターンマッチング部22aは、センシング結果における寸法幅が、テンプレートデータ23aを基準とした予め定められた幅以内である場合に、判定対象物を良品と判定し、予め定められた幅を超えている場合に、判定対象物を不良候補品に分類する。センシング部21aは、センシング結果としての検査画像に良品と不良候補品との判定結果を付与して、検査データベース60に保存する。判定実行部44aは、センシングされた判定対象物について判定装置10aにおける判定が必要であるか否かを判断する。判定実行部44aは、センシング部21aにおいて良品と判定された判定対象物については、判定装置10aにおける判定が不要であると判断し、不良候補品と判定された判定対象物を判定装置10aにおける判定が必要であると判断する。
この形態によれば、判定実行部44aは、センシング部21aにより判定が必要とされた判定対象物における判定対象部分pについて、判定装置10aにおける良否判定処理を実行するので、判定装置10aにおいて良否判定される判定対象部分pの数を削減することができる。そのため、判定員により良否判定される判定対象部分数の増加をより抑制することができる。
なお、第3実施形態は第2実施形態と組み合わせられてもよく、図14にステップS15を追加してもよい。
D.他の実施形態
D1.他の実施形態1
図19は、他の実施形態1における良否判定処理のイメージを示す図である。上記第1実施形態においては、図13に示したように、判定実行部44は、第2種判定対象部分P2については、第1判定部43による判定を実行せず、第2判定部51に判定員による良否判定結果の取得を実行させている。これに対し、第1判定部43は第2種判定対象部分P2を「不良候補」と判定するように構成されており、判定実行部44は、第2種判定対象部分P2について第1判定部43による判定を実行させる。この形態においても、全ての第2種判定対象部分P2は、上記第1実施形態と同様に、判定員により良否判定される。そのため、第1実施形態と同様に、第1判定部43において変更部分CPを含む第2種判定対象部分P2の良否が誤判定されることを抑制することができる。
D2.他の実施形態2
上記実施形態において、判定実行部44、44aは、自動分類装置40、40aに代えて、判定装置10、10aの備える目視検査装置50や、判定システム5、5aの備える学習装置70や、判定システム5、5aにネットワークで接続された他の装置に備えられていてもよい。この場合、第1判定部43と、第2判定部51と、判定実行部44、44aとの機能を実現する装置を「判定装置」と呼ぶこともできる。
D3.他の実施形態3
上記実施形態において、センシング部21、21aは、例えば、対象物の匂い、味、音響等、画像以外の結果を取得してもよい。
D4.他の実施形態4
上記実施形態において、学習装置70は、第2種判定対象部分P2の判定員による良否判定結果を用いて学習を行ってもよい。判定実行部44、44aは、学習装置70に、第2種判定対象部分P2の判定員による良否判定結果による学習を、第1種判定対象部分P1よりも優先させてもよい。例えば、判定実行部44、44aは、判定対象部分に第2種判定対象部分P2を識別するためのラベルを付与した良否判定結果付き画像を検査データベース60に保存し、学習装置70は、ラベルが付与された判定対象部分の判定員による良否判定結果による学習頻度や学習の重み付けを、ラベルが付与されていない良否判定結果による学習頻度よりも高くしてもよい。また、学習装置70は、第2種判定対象部分P2の判定員による良否判定結果を用いて学習された判定モデルを、例えば、クロスバリデーション方式により評価してもよい。判定実行部44、44aは、当該学習された判定モデルの評価結果が予め定めた条件を満たす場合に、第2種判定対象部分P2を当該判定モデルにより判定可能と判断してもよい。判定実行部44、44aは、第2種判定対象部分P2を判定モデルにより良と不良と不良候補とに判定可能になった場合に、変更部分取得部41による変更部分CPの取得を行わず、判定対象部分pについて第1判定部43に判定を実行させ、第1判定部43により不良候補と判定された前記判定対象部分pについて第2判定部51に良否判定結果の取得を実行させてもよい。
D5.他の実施形態5
上記形態において、変更部分CPは旧判定対象物からの設計の変更により生じているが、変更部分CPは、判定対象物の製造プロセスが、旧判定対象物から変更されることにより生じていてもよい。
E.他の形態
本開示は、上述した実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の形態で実現することができる。例えば、本開示は、以下の形態によっても実現可能である。以下に記載した各形態中の技術的特徴に対応する上記実施形態中の技術的特徴は、本開示の課題の一部又は全部を解決するために、あるいは、本開示の効果の一部又は全部を達成するために、適宜、差し替えや、組合せを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
(1)本開示の第1の形態によれば、判定対象物のセンシング部によるセンシング結果により得られた判定対象部分の良否を判定する判定装置が提供される。この判定装置は、旧判定対象物からの前記判定対象物の変更部分を取得する変更部分取得部と、前記判定対象部分の判定員による良否判定結果により学習された判定モデルを用いて、前記判定対象部分を良と不良と不良候補のいずれかに判定する第1判定部と、前記判定対象部分について判定員による良否判定結果を取得する第2判定部と、前記判定対象部分について、前記第1判定部と前記第2判定部との少なくとも一方を用いた良否判定処理を実行する判定実行部と、を備え、前記判定実行部は、前記良否判定処理において、前記変更部分を含まない前記判定対象部分である第1種判定対象部分については、前記第1判定部に判定を実行させ、前記第1判定部により不良候補と判定された場合に前記第1種判定対象部分について前記第2判定部に良否判定結果の取得を実行させ、前記変更部分が含まれる前記判定対象部分である第2種判定対象部分については、前記第2判定部に良否判定結果の取得を実行させる。この形態によれば、変更部分を含まない第1種判定対象部分については判定モデルを用いて第1判定部に判定を実行させ、変更部分を含む第2種判定対象部分については判定員による良否判定結果の取得を実行させるので、判定対象物が旧判定対象物からの変更部分を含む場合に、判定員により良否判定される判定対象部分数が増加することを抑制して、効率的に良否判定を行うことができる。
(2)上記形態において、前記判定実行部は、前記第2種判定対象部分について、前記第1判定部に判定を実行させず、前記第2判定部に良否判定結果の取得を実行させてもよい。この形態によれば、第1判定部において、変更部分を含む第2種判定対象部分の良否が誤判定されることを抑制することができる。
(3)上記形態において、前記判定実行部は、前記第2種判定対象部分について、良又は不良と判定される確率を低下させるとともに不良候補と判定される確率を上昇させるように前記第1判定部における良と不良の判定基準を、前記第1種判定対象部分よりも厳しく設定して、前記第1判定部に判定を実行させ、前記第1判定部により不良候補と判定された場合に、前記第2種判定対象部分について、前記第2判定部に良否判定結果の取得を実行させてもよい。この形態によれば、判定対象物が旧判定対象物からの変更部分を含む場合に、判定員により良否判定される判定対象部分数が増加することをより抑制して、効率的に良否判定を行うことができる。そのため、旧判定対象物からの変更部分を有する判定対象物の良否判定に係るコストの増加をより抑制することができる。また、第2種判定対象部分については、第1種判定対象部分よりも厳しく設定された基準を用いて、第1判定部により判定が行われるので、第2種判定対象部分について良否の誤判定がされることを抑制することができる。
(4)上記形態において、前記判定実行部は、前記センシング部により判定が必要とされた前記判定対象物における前記判定対象部分について、前記良否判定処理を実行してもよい。この形態によれば、判定対象物が旧判定対象部分からの変更部分を含む場合に、判定員により良否判定される判定対象部分数が増加することを、一層抑制することができる。
(5)本開示の第2の形態によれば、判定対象物のセンシング結果により得られた判定対象部分の良否を判定する判定方法が提供される。この方法は、旧判定対象物からの変更部分を取得する変更部分取得工程と、前記判定対象部分の判定員による良否判定結果により学習された判定モデルを用いて、前記判定対象部分を良と不良と不良候補のいずれかに判定する第1判定工程と、前記判定対象部分について判定員による良否判定結果を取得する第2判定工程と、を備え、前記変更部分を含まない前記判定対象部分である第1種判定対象部分について、前記第1判定工程において判定を実行し、前記第1判定工程において不良候補と判定された前記第1種判定対象部分について前記第2判定工程において良否判定結果の取得を実行し、前記変更部分が含まれる前記判定対象部分である第2種判定対象部分について、前記第2判定工程において良否判定結果の取得を実行する。この形態によれば、変更部分を含まない第1種判定対象部分については判定モデルを用いて判定を実行し、変更部分を含む第2種判定対象部分については判定員による良否判定結果の取得を実行するので、判定対象物が旧判定対象物からの変更部分を含む場合に、判定員により良否判定される判定対象部分数が増加することを抑制して、効率的に良否判定を行うことができる。
本開示は、判定装置10、10a以外の種々の形態で実現することも可能である。例えば、判定装置10、10aを備える判定システム5、5a、判定装置10、10aによる判定方法、その方法を実現するコンピュータープログラム、そのコンピュータープログラムを記録した一時的でない記録媒体(non−transitory storage medium)等の形態で実現することができる。
5、5a…判定システム、10、10a…判定装置、20、20a…検査装置、21、21a…センシング部、22a…パターンマッチング部、23a…テンプレートデータ、30…表示装置、40、40a…自動分類装置、41…変更部分取得部、42…前処理部、43…第1判定部、44、44a…判定実行部、50…目視検査装置、51…第2判定部、60…検査データベース、70…学習装置、90…転送装置、CP…変更部分、NCP…未変更部分、G1、G2、G3、G4、G5、G6…検査画像、P1…第1種判定対象部分、P2…第2種判定対象部分、p、p1、p2、p3、p4、p5、p6、pb、pg…判定対象部分

Claims (5)

  1. 判定対象物のセンシング部によるセンシング結果により得られた判定対象部分の良否を判定する判定装置であって、
    旧判定対象物からの前記判定対象物の変更部分を取得する変更部分取得部と、
    前記判定対象部分の判定員による良否判定結果により学習された判定モデルを用いて、前記判定対象部分を良と不良と不良候補のいずれかに判定する第1判定部と、
    前記判定対象部分について判定員による良否判定結果を取得する第2判定部と、
    前記判定対象部分について、前記第1判定部と前記第2判定部との少なくとも一方を用いた良否判定処理を実行する判定実行部と、を備え、
    前記判定実行部は、前記良否判定処理において、
    前記変更部分を含まない前記判定対象部分である第1種判定対象部分については、前記第1判定部に判定を実行させ、前記第1判定部により不良候補と判定された場合に前記第1種判定対象部分について前記第2判定部に良否判定結果の取得を実行させ、
    前記変更部分が含まれる前記判定対象部分である第2種判定対象部分について、前記第2判定部に良否判定結果の取得を実行させる、判定装置。
  2. 請求項1に記載の判定装置であって、
    前記判定実行部は、前記第2種判定対象部分について、前記第1判定部に判定を実行させず、前記第2判定部に良否判定結果の取得を実行させる、判定装置。
  3. 請求項1に記載の判定装置であって、
    前記判定実行部は、
    前記第2種判定対象部分について、良又は不良と判定される確率を低下させるとともに不良候補と判定される確率を上昇させるように前記第1判定部における良と不良の判定基準を、前記第1種判定対象部分よりも厳しく設定して、前記第1判定部に判定を実行させ、
    前記第1判定部により不良候補と判定された場合に前記第2種判定対象部分について、前記第2判定部に良否判定結果の取得を実行させる、判定装置。
  4. 請求項1から請求項3までのいずれか一項に記載の判定装置であって、
    前記判定実行部は、前記センシング部により判定が必要とされた前記判定対象物における前記判定対象部分について、前記良否判定処理を実行する、判定装置。
  5. 判定対象物のセンシング結果により得られた判定対象部分の良否を判定する判定方法であって、
    旧判定対象物からの変更部分を取得する変更部分取得工程と、
    前記判定対象部分の判定員による良否判定結果により学習された判定モデルを用いて、前記判定対象部分を良と不良と不良候補のいずれかに判定する第1判定工程と、
    前記判定対象部分について判定員による良否判定結果を取得する第2判定工程と、を備え、
    前記変更部分を含まない前記判定対象部分である第1種判定対象部分について、前記第1判定工程において判定を実行し、前記第1判定工程において不良候補と判定された前記第1種判定対象部分について前記第2判定工程において良否判定結果の取得を実行し、
    前記変更部分が含まれる前記判定対象部分である第2種判定対象部分について、前記第2判定工程において良否判定結果の取得を実行する、判定方法。
JP2018221952A 2018-11-28 2018-11-28 判定装置及び判定方法 Active JP7119949B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018221952A JP7119949B2 (ja) 2018-11-28 2018-11-28 判定装置及び判定方法
US16/697,268 US11120541B2 (en) 2018-11-28 2019-11-27 Determination device and determining method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018221952A JP7119949B2 (ja) 2018-11-28 2018-11-28 判定装置及び判定方法

Publications (2)

Publication Number Publication Date
JP2020085705A true JP2020085705A (ja) 2020-06-04
JP7119949B2 JP7119949B2 (ja) 2022-08-17

Family

ID=70771322

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018221952A Active JP7119949B2 (ja) 2018-11-28 2018-11-28 判定装置及び判定方法

Country Status (2)

Country Link
US (1) US11120541B2 (ja)
JP (1) JP7119949B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261168A1 (ja) * 2020-06-23 2021-12-30 オムロン株式会社 検査装置、ユニット選択装置、検査方法、及び検査プログラム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005128628A (ja) * 2003-10-21 2005-05-19 Toshiba Corp パターン識別における照合に用いられるテンプレートの生成ならびに同テンプレートを用いたパターン識別のための方法、装置、およびプログラム
JP2011192032A (ja) * 2010-03-15 2011-09-29 Nippon Steel Corp 疵学習装置、疵学習方法、及びコンピュータプログラム
JP2014137284A (ja) * 2013-01-17 2014-07-28 Dainippon Screen Mfg Co Ltd 教師データ作成支援装置、教師データ作成装置、画像分類装置、教師データ作成支援方法、教師データ作成方法および画像分類方法
JP2014190821A (ja) * 2013-03-27 2014-10-06 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法
JP2017049974A (ja) * 2015-09-04 2017-03-09 キヤノン株式会社 識別器生成装置、良否判定方法、およびプログラム
JP2018045673A (ja) * 2016-09-09 2018-03-22 株式会社Screenホールディングス 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置
WO2018150607A1 (ja) * 2017-02-20 2018-08-23 Serendipity株式会社 外観検査装置、照明装置、撮影照明装置
US20180293721A1 (en) * 2017-04-07 2018-10-11 Kla-Tencor Corporation Contour based defect detection

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003222659A (ja) * 2002-01-31 2003-08-08 Umc Japan 解析シミュレータ、解析シミュレート方法及び解析シミュレートプログラム
JP5312100B2 (ja) * 2009-03-03 2013-10-09 キヤノン株式会社 測定方法及び測定装置
JP2015041164A (ja) 2013-08-20 2015-03-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6403261B2 (ja) 2014-12-03 2018-10-10 タカノ株式会社 分類器生成装置、外観検査装置、分類器生成方法、及びプログラム
US20170069075A1 (en) * 2015-09-04 2017-03-09 Canon Kabushiki Kaisha Classifier generation apparatus, defective/non-defective determination method, and program
US10546373B2 (en) * 2016-08-03 2020-01-28 Sightline Innovation Inc. System and method for integrated laser scanning and signal processing
AU2017305417B2 (en) * 2016-08-03 2023-06-15 Geoquest Systems B.V. Multi-scale deep network for fault detection
JP6615847B2 (ja) * 2017-11-08 2019-12-04 株式会社東芝 画像処理装置、画像処理システム、画像処理方法、およびプログラム
US10677742B2 (en) * 2018-03-09 2020-06-09 Kla-Tencor Corp. Detecting die repeating programmed defects located in backgrounds with non-repeating features
US10803617B2 (en) * 2018-03-21 2020-10-13 Wipro Limited Method and system for detecting and correcting an orientation of an image

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005128628A (ja) * 2003-10-21 2005-05-19 Toshiba Corp パターン識別における照合に用いられるテンプレートの生成ならびに同テンプレートを用いたパターン識別のための方法、装置、およびプログラム
JP2011192032A (ja) * 2010-03-15 2011-09-29 Nippon Steel Corp 疵学習装置、疵学習方法、及びコンピュータプログラム
JP2014137284A (ja) * 2013-01-17 2014-07-28 Dainippon Screen Mfg Co Ltd 教師データ作成支援装置、教師データ作成装置、画像分類装置、教師データ作成支援方法、教師データ作成方法および画像分類方法
JP2014190821A (ja) * 2013-03-27 2014-10-06 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法
JP2017049974A (ja) * 2015-09-04 2017-03-09 キヤノン株式会社 識別器生成装置、良否判定方法、およびプログラム
JP2018045673A (ja) * 2016-09-09 2018-03-22 株式会社Screenホールディングス 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置
WO2018150607A1 (ja) * 2017-02-20 2018-08-23 Serendipity株式会社 外観検査装置、照明装置、撮影照明装置
US20180293721A1 (en) * 2017-04-07 2018-10-11 Kla-Tencor Corporation Contour based defect detection

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261168A1 (ja) * 2020-06-23 2021-12-30 オムロン株式会社 検査装置、ユニット選択装置、検査方法、及び検査プログラム
TWI784537B (zh) * 2020-06-23 2022-11-21 日商歐姆龍股份有限公司 檢查裝置、檢查方法及檢查程式
JP7435303B2 (ja) 2020-06-23 2024-02-21 オムロン株式会社 検査装置、ユニット選択装置、検査方法、及び検査プログラム

Also Published As

Publication number Publication date
US11120541B2 (en) 2021-09-14
US20200167908A1 (en) 2020-05-28
JP7119949B2 (ja) 2022-08-17

Similar Documents

Publication Publication Date Title
US11488294B2 (en) Method for detecting display screen quality, apparatus, electronic device and storage medium
JP3834041B2 (ja) 学習型分類装置及び学習型分類方法
CN110402487B (zh) 对从晶片检测的缺陷进行分类的方法和装置
US20200380899A1 (en) Method and apparatus for detecting peripheral circuit of display screen, electronic device, and storage medium
JPH11214462A (ja) 回路パターン検査における欠陥致命性判定方法、レビュー対象とする欠陥選択方法、およびそれらに関連する回路パターンの検査システム
JP6113024B2 (ja) 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム
WO2019176990A1 (ja) 検査装置、画像識別装置、識別装置、検査方法、及び検査プログラム
JP2011158373A (ja) 自動欠陥分類のための教師データ作成方法、自動欠陥分類方法および自動欠陥分類装置
JP7054436B2 (ja) 検出システム、情報処理装置、評価方法及びプログラム
CN112528975A (zh) 工业质检方法、装置和计算机可读存储介质
JP7034840B2 (ja) 外観検査装置および方法
KR20200004823A (ko) 디스플레이 스크린 주변 회로 검출 방법, 장치, 전자기기 및 저장매체
CN116542984A (zh) 五金件缺陷检测方法、装置、计算机设备及存储介质
JP5405245B2 (ja) 画像検査方法及び画像検査装置
JP2010071826A (ja) 教師データ作成方法、並びに、画像分類方法および画像分類装置
WO2019176988A1 (ja) 検査システム、識別システム、及び識別器評価装置
JP2020085705A (ja) 判定装置及び判定方法
JP2005309535A (ja) 画像自動分類方法
JP6871807B2 (ja) 分類器構築方法、分類器および分類器構築装置
JP6425468B2 (ja) 教師データ作成支援方法、画像分類方法、教師データ作成支援装置および画像分類装置
KR102489115B1 (ko) 제조품의 비전 검사를 위한 심층 학습 방법 및 장치
US20230326008A1 (en) Work test apparatus and method
JP7390851B2 (ja) 欠陥分類装置、欠陥分類プログラム
KR100567895B1 (ko) 자동 결함 분류 방법
JP2022169974A (ja) 検査方法、情報処理装置、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220705

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220718

R150 Certificate of patent or registration of utility model

Ref document number: 7119949

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150