JP6936958B2 - データ生成装置、データ生成方法及びデータ生成プログラム - Google Patents

データ生成装置、データ生成方法及びデータ生成プログラム Download PDF

Info

Publication number
JP6936958B2
JP6936958B2 JP2017215452A JP2017215452A JP6936958B2 JP 6936958 B2 JP6936958 B2 JP 6936958B2 JP 2017215452 A JP2017215452 A JP 2017215452A JP 2017215452 A JP2017215452 A JP 2017215452A JP 6936958 B2 JP6936958 B2 JP 6936958B2
Authority
JP
Japan
Prior art keywords
image
unit
region
data
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017215452A
Other languages
English (en)
Other versions
JP2019087078A (ja
Inventor
真嗣 栗田
真嗣 栗田
雄希 半澤
雄希 半澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2017215452A priority Critical patent/JP6936958B2/ja
Priority to CN201811057553.5A priority patent/CN109767419B/zh
Priority to EP18194940.5A priority patent/EP3483833B1/en
Priority to US16/135,018 priority patent/US11176650B2/en
Publication of JP2019087078A publication Critical patent/JP2019087078A/ja
Application granted granted Critical
Publication of JP6936958B2 publication Critical patent/JP6936958B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19147Obtaining sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19173Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/196Recognition using electronic means using sequential comparisons of the image signals with a plurality of references
    • G06V30/1983Syntactic or structural pattern recognition, e.g. symbolic string recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Databases & Information Systems (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

データ生成装置、データ生成方法及びデータ生成プログラムに関する。
近年、ニューラルネットワーク等の識別器を用いて画像の識別を行う技術が研究されている。識別器は、画像と、その画像のラベルとを含むデータ(教師データ)を用いて学習されることがある。
質の高い学習用データを生成することに関して、下記特許文献1には、第1のデータセットを教師データとした教師あり学習により学習された分類器により、第2のデータセットを評価データとして分類を行う分類部と、分類部による分類結果に応じた第2のデータセットのラベルの修正を受け付ける入力部と、入力部により受け付けられた修正を反映して第2のデータセットを更新する更新部と、を備える情報処理装置が記載されている。
特開2015−087903号公報
例えば検査対象物の画像に欠陥が含まれているか否かを識別器によって判定する場合、識別器の学習用データとして、欠陥を含む画像とその欠陥が含まれている領域とを関連付けた学習用データを用意することがある。このような学習用データを用いて学習された識別器は、入力された画像に対して、欠陥が含まれていると判定される領域を出力することができるようになる。ここで、欠陥が含まれている領域を、人が手作業で入力することがある。
しかしながら、欠陥が含まれている領域の指定は、必ずしも欠陥の周囲を適切に含むように行われるとは限らない。例えば、領域がほとんど欠陥のみを含むように指定されると、欠陥とその他の部分の対比が難しくなり、識別器によって欠陥の特徴が適切に識別できなくなることがあることを発明者は見出した。
そこで、本発明は、画像に基づいて検査対象物に含まれる欠陥の特徴を適切に識別するように識別器を学習させることが可能な学習用データを生成するデータ生成装置、データ生成方法及びデータ生成プログラムを提供する。
本開示の一態様に係るデータ生成装置は、欠陥を有する検査対象物の画像及び画像の欠陥が含まれている領域を取得する取得部と、取得部により取得された領域を、領域の内部に含まれる画素が所定量多くなるように、領域の外縁を広げるように補正する補正部と、補正部により補正された領域を画像に関連付けて、学習用データを生成する生成部と、を備える。ここで、学習用データは、少なくとも、識別器に入力される画像データと、当該画像データに関連付けられた、当該画像の欠陥が含まれている領域に関するデータと、を含むが、一般には、欠陥を有さない検査対象物の画像データと、当該画像データに欠陥が含まれていない旨を示すデータと、を含むものであってもよい。
この態様によれば、欠陥が含まれている領域を、ほとんど欠陥のみ含むように指定した場合であっても、領域の外縁の少なくとも一部が広がるように補正され、画像に基づいて検査対象物に含まれる欠陥の特徴を適切に識別するように識別器を学習させることが可能な学習用データを生成することができる。その結果、学習用データを用いた学習により、識別器による欠陥の識別性能を向上させることができる。
上記態様において、補正部は、取得部により取得された領域に対して複数の異なる補正を行い、生成部は、補正部により複数の異なる補正が行われた、複数の補正された領域を画像に関連付けて、補正部により行われた複数の異なる補正に対応する複数の学習用データの候補を生成してもよい。
この態様によれば、複数の異なる補正が行われた領域を画像に関連付けて、複数の学習用データの候補を生成することで、欠陥とその他の部分の対比の行い易さがそれぞれ異なる学習用データの候補を生成することができる。ここで、異なる補正とは、例えば、外縁の広がり度合いが異なることをいい、外縁の広がり度合いが異なる複数の学習用データの候補を生成することで、欠陥とその他の部分の対比の行い易さがそれぞれ異なり、これにより、学習の結果として識別器が獲得する欠陥を示す画像部分の特徴が異なる学習用データを生成することができる。なお、複数の学習用データの候補は、そのすべてが実際的に学習用データとして採用されなくてもよい。また、外縁の広がり度合いが異なる複数の学習用データの候補の一部又は全部が、選択的に実際の学習用データとして採用されればよい。
上記態様において、補正部は、取得部により取得された領域に含まれる欠陥以外の背景模様に基づいて、領域の補正の方法を決定してもよい。
この態様によれば、領域に含まれる欠陥以外の背景模様が、補正前後で大きく異なることが無いように補正の方法を決定することができ、画像に基づいて検査対象物に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。例えば、欠陥が含まれる領域の補正により、補正前には含まれなかった特殊な模様が、補正後の領域に含まれることを防止して、識別器によって画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。
上記態様において、複数の学習用データの候補それぞれを、異なる識別器の学習に適用して、入力された画像に基づいて検査対象物に欠陥が含まれているか否かを識別する複数の識別器を学習させる学習部と、学習部により学習された、複数の学習済みの識別器の識別性能に基づいて、複数の学習用データの候補から1又は複数の学習用データを選択する選択部と、をさらに備えてもよい。
この態様によれば、生成された複数の学習用データの候補それぞれを、異なる識別器の学習に適用して、複数の学習済みの識別器の識別性能に基づいて1又は複数の学習用データを選択することで、画像に基づいて検査対象物に含まれる欠陥とその他の部分の対比がより適切に行える学習用データを選別することができる。ここで、異なる補正とは、例えば、外縁の広がり度合いが異なることをいい、外縁の広がり度合いが異なる複数の学習用データに基づいて生成された複数の識別器の識別性能に基づいて、複数の学習用データの採否を選別することができるので、識別器が、欠陥部位を判別する特徴を適切に獲得でき、欠陥の識別性能を向上させることができる。
上記態様において、選択部は、補正部により補正を行う前の領域と、補正部により補正を行った後の領域との類似度に基づいて、複数の学習用データの候補から1又は複数の学習用データを選択してもよい。なお、補正前後の領域の類似度としては、例えば、白黒の濃淡度、エッジの個数及び強度を使用することができる。
この態様によれば、欠陥を示す領域の補正によって、意図しない画像部位が領域に含まれることを防止できる。すなわち、欠陥と誤判定される可能性のある画像部位が学習用データに混入しないように、学習用データの採否を選択することができ、識別器によって画像に含まれる欠陥とその他の部分の対比がより適切に行える学習用データを選別することができる。
上記態様において、選択部は、補正部により補正を行う前の領域の外縁の画素値と、補正部により補正を行った後の領域の外縁の画素値との相関に基づいて、類似度を算出してもよい。
この態様によれば、領域の外縁を広げることで、例えば、補正後の領域の外縁に補正前の領域には含まれていなかった欠陥と誤判定される可能性のある画像部位が含まれてしまう場合に、そのような補正後の領域を学習用データから除外することができる。
上記態様において、取得部は、複数の欠陥を有する検査対象物の画像と、画像の複数の欠陥のうち1つがそれぞれ含まれる複数の領域とを取得し、補正部は、取得部により取得された複数の領域それぞれについて、領域の外縁を広げるように補正し、生成部は、補正部により補正された複数の領域を画像に関連付けて、学習用データを生成してもよい。
この態様によれば、画像が複数の欠陥を含み、欠陥が含まれている複数の領域を、ほとんど欠陥のみ含むように指定した場合であっても、識別器によって画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。なお、欠陥のうちの1つが含まれる領域とは、識別器が1つの欠陥であると識別した領域であればよい。
上記態様において、画像の欠陥が含まれている領域を指定する情報の入力を受け付ける入力部をさらに備え、取得部は、入力部により入力された情報に基づいて、画像の欠陥が含まれている領域を取得してもよい。
この態様によれば、検査対象物の画像を確認した作業者から、欠陥が含まれている領域を指定する情報の入力を受け付けることができ、検査工程の現場で欠陥が含まれている領域を取得することができる。
上記態様において、入力部は、画像の欠陥が含まれている領域の内点を指定する、画像の1又は複数の点の入力を受け付けてもよい。
この態様によれば、領域の内側の点を指定させることで、欠陥がどのような形状であっても、検査対象物の画像を確認する作業者が、簡易な操作で欠陥が含まれている領域の指定を行うことができる。
上記態様において、内点は、画像の欠陥の端点を含んでもよい。
この態様によれば、欠陥の端点が指定され、欠陥の位置をより明確に設定できるので、内点の指定に応じて定まる領域の設定を適切に行うことができ、画像に基づいて検査対象物に含まれる欠陥とその他の部分の対比がより適切に行える学習用データが得られる。
上記態様において、入力部は、画像の欠陥が含まれている領域の外形を指定する、画像の1又は複数の点の入力を受け付けてもよい。
この態様によれば、領域の外形を指定させることで、欠陥がどのような形状であっても、検査対象物の画像を確認する作業者が、簡易な操作で欠陥が含まれている領域の指定を行うことができる。
上記態様において、補正部は、所定の条件を満たす場合に、領域の外縁が狭まるように、領域を補正してもよい。なお、所定の条件は、領域において欠陥以外の部分が占める割合に関する条件とすることができる。
この態様によれば、欠陥が含まれている領域を、欠陥以外の部分が領域の大半を占めるように指定した場合であっても、領域の外縁の少なくとも一部が狭まるように補正され、画像に基づいて検査対象物に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。
上記態様において、補正部は、取得部により取得された領域に含まれる欠陥とその他の部分との割合に基づいて、領域の外縁の拡縮率を決定してもよい。領域の外縁の拡縮は、予め記憶された適正割合と、領域に含まれる欠陥とその他の部分との割合とを比較して、領域に含まれる欠陥とその他の部分との割合が適正割合となるように行われてよい。
この態様によれば、欠陥が含まれている領域が、ほとんど欠陥のみ含むように指定されている場合には、領域の外縁を相対的に大きく広げるように補正し、領域が欠陥以外の部分を十分に含むように指定されている場合には、領域の外縁を相対的に小さく広げるように補正することができる。ここで、欠陥とその他の部分との割合は、例えば、欠陥を示す画素の個数と、その他の部分を示す画素の個数との比で表現することができる。
本開示の他の態様に係るデータ生成方法は、欠陥を有する検査対象物の画像及び画像の欠陥が含まれている領域を取得することと、取得された領域を、領域の内部に含まれる画素が所定量多くなるように、領域の外縁を広げるように補正することと、補正された領域を画像に関連付けて、学習用データを生成することと、を含む。
この態様によれば、欠陥が含まれている領域を、ほとんど欠陥のみ含むように指定した場合であっても、領域の外縁が広がるように補正され、画像に基づいて検査対象物に含まれる欠陥の特徴を適切に識別するように識別器を学習させることが可能な学習用データを生成することができる。
本開示の他の態様に係るデータ生成プログラムは、データ生成装置に備えられた演算装置を、欠陥を有する検査対象物の画像及び画像の欠陥が含まれている領域を取得する取得部、取得部により取得された領域を、領域の内部に含まれる画素が所定量多くなるように、領域の外縁を広げるように補正する補正部、及び補正部により補正された領域を画像に関連付けて、学習用データを生成する生成部、として動作させる。
この態様によれば、欠陥が含まれている領域を、ほとんど欠陥のみ含むように指定した場合であっても、領域の外縁が広がるように補正され、画像に基づいて検査対象物に含まれる欠陥の特徴を適切に識別するように識別器を学習させることが可能な学習用データを生成することができる。
画像に基づいて検査対象物に含まれる欠陥の特徴を適切に識別するように識別器を学習させることが可能な学習用データを生成するデータ生成装置、データ生成方法及びデータ生成プログラムを提供する。
本発明の実施形態に係るデータ生成装置の機能ブロック図である。 本実施形態に係るデータ生成装置の第1学習部及び第2学習部における処理の内容を示す概念図である。 本実施形態に係るデータ生成装置の計測部における処理の内容を示す概念図である。 本実施形態に係るデータ生成装置のハードウェア構成を示すブロック図である。 本実施形態に係るデータ生成装置による画像の領域の補正の例を示す図である。 本実施形態に係るデータ生成装置により実行される第1処理の内容を示すフローチャートである。 本実施形態に係るデータ生成装置による画像の領域の指定の例を示す図である。 本実施形態に係るデータ生成装置により実行される第2処理の内容を示すフローチャートである。
以下、本発明の一側面に係る実施の形態(以下、「本実施形態」と表記する。)を、図面に基づいて説明する。なお、各図において、同一の符号を付したものは、同一又は同様の構成を有する。
§1 適用例
まず、図1を用いて、本発明が適用される場面の一例について説明する。図1は、本実施形態に係るデータ生成装置100の適用場面の一例を模式的に例示した機能ブロック図である。本実施形態に係るデータ生成装置100は、撮像装置153によって撮像された検査対象物の画像に欠陥が含まれている場合に、ユーザインタフェース170によって欠陥が含まれる領域の指定を受け付けて、その領域の外縁を広げるように補正して、補正された領域を画像に関連付けて新たな学習用データを生成する装置である。
図1に示すように、データ生成装置100は、欠陥を有する検査対象物の画像を取得する撮像装置153と、当該画像の欠陥が含まれている領域を取得するユーザインタフェース170と、取得された領域を、領域の外縁を広げることで、領域の中の正常部位を示す画素が多くなるように補正する補正部123と、補正部123により補正された領域を画像に関連付けて、学習用データを生成する生成部121と、を備える。ここで、撮像装置153及びユーザインタフェース170は、本発明の「取得部」の一例である。本明細書では、撮像装置153により新たに撮像される検査対象物の画像を「計測画像」と呼び、識別器(a、b、c、A、B、…)を学習するため予め収集される検査対象物の画像を「サンプル画像」と呼ぶ。なお、データ生成装置100は、必ずしも撮像装置153を備えていなくてもよく、別体で設けられた撮像装置から計測画像を取得するものであってもよい。
撮像装置153により撮像された検査対象物の計測画像は、第2作業者のユーザインタフェース170に表示される。第2作業者は、計測画像のうち欠陥が含まれている領域をユーザインタフェース170によって指定する。ここで、欠陥が含まれている領域の指定は、必ずしも欠陥の周囲を適切に含むように行われるとは限らない。例えば、領域がほとんど欠陥のみを含むように指定されることがある。従来、画像に含まれる人物の顔を認識する場合等、認識する対象それ自体に特徴がある場合、認識対象のみを含むように領域を指定して、識別器を学習させることが行われている。しかしながら、欠陥は、それ自体が特徴を有するとは限らず、欠陥とその周囲の部分の差異が特徴となる場合がある。そのため、領域がほとんど欠陥のみを含むように指定されると、欠陥とその周囲の部分の対比が難しくなり、識別器によって欠陥の特徴が適切に識別できなくなることがある。そこで、本実施形態に係るデータ生成装置100は、取得された領域をそのまま計測画像に関連付けず、補正部123によって補正した領域を計測画像に関連付けて、新たな学習用データを生成する。
補正部123は、第2作業者によって指定された領域を、領域の外縁を広げるように補正する。そして、生成部121は、補正部123により補正された領域を画像に関連付けて、学習用データを生成する。生成された新たな学習用データは、修正画像DB122に記憶され、第1学習部130や第2学習部140によって識別器(a、b、c、A、B、…)を学習するために用いられる。
発明者らは、鋭意検討の結果、学習用データに基づいて生成された識別器を用いて、取得された検査対象物の画像に基づいて検査対象物に欠陥が含まれているか否かを判定する場合、学習用データには、欠陥を示す画素に加え、正常部位を示す画素が含まれるようにすると、生成された学習用データを用いた識別器による欠陥の識別精度が向上することを見出した。これは、識別器が、画像中の欠陥部位の判別に対して、欠陥部位に対応する画素と正常部位に対応する画素との差分情報を利用できるためであると考えられる。したがって、本実施形態に係るデータ生成装置100によれば、欠陥が含まれている領域を、ほとんど欠陥のみ含むように指定した場合であっても、画像に基づいて検査対象物に含まれる欠陥の特徴を適切に識別するように識別器を学習させることが可能な学習用データを生成することができる。そのため、識別器の学習処理を行う場合に、比較的少ない演算量でより判定精度の高い識別器を生成することができるようになる。また、識別器の学習のためにどのような領域の指定の方法が適切であるかを作業者が必ずしも認識していない場合であっても、画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。
§2 構成例
[機能構成]
次に、図1を用いて、本実施形態に係るデータ生成装置100の機能構成の一例を説明する。データ生成装置100は、学習用データを用いて、検査対象物の欠陥の有無と、検査対象物に欠陥が含まれる場合には、その欠陥の位置と、その欠陥の種類と、を含む属性情報(ラベル)を出力する識別器を生成する機能を備える。ここで、検査対象物に複数の欠陥が含まれる場合には、属性情報は、欠陥の有無と、複数の欠陥の位置と、それらの欠陥の種類と、を含んでよい。また、データ生成装置100は、検査対象物を計測した計測画像を取得し、生成された識別器を用いて、検査対象物の属性情報を出力する機能を備える。したがって、データ生成装置100は、検査対象物の計測画像を取得し、計測画像に基づいて検査対象物の欠陥の有無に関する情報を含む計測結果を出力する検査装置又は検査システムとして機能する。
図1に示すように、データ生成装置100は、学習用データを生成及び格納する画像収集部110と、識別器により出力された属性情報の正誤に関する情報に基づいて、計測した画像(計測画像)の修正を行う画像修正部120と、画像収集部110及び画像修正部120の少なくともいずれかにより生成された学習用データを用い、検査対象物の欠陥の有無と、検査対象物に欠陥が含まれる場合には、その欠陥の位置と、その欠陥の種類と、を含む属性情報を出力する識別器を生成する、第1学習部130及び第2学習部140と、検査対象物を計測した計測画像を取得し、第1学習部130及び第2学習部140の少なくともいずれかにより生成された識別器を用いて、検査対象物の属性情報を出力する計測部150と、計測画像とその属性情報とを関連付けて、計測結果として記憶する計測結果管理部160と、を備える。ここで、計測結果は、計測画像と、識別器により出力された検査対象物の属性情報とを含む。なお、学習用データとは、単一の学習用データのみならず、複数の学習用データを有するデータセットであってよい。
ここで、欠陥とは、検査対象物が有する異常であって、例えば、キズ、色等のムラ、汚れ、欠け、バリ、異物、印字のかすれ、印字等の位置ずれ等を含む。
また、属性情報とは、各画像に含まれる欠陥の有無に関する情報、画像に欠陥が含まれる場合には、当該欠陥の位置を示す情報及び当該欠陥の種類を示す情報を少なくとも含むものである。なお、属性情報は、欠陥の有無、欠陥の位置に関する情報及び欠陥の種類に関する情報に限られず、例えば、識別器により出力される欠陥の有無、欠陥の位置に関する情報及び欠陥の種類に関する情報の信頼度に関する情報を含んでいてもよい。
データ生成装置100は、ソフトウェアプログラム及び当該ソフトウェアプログラムの実行に用いられるデータを記憶する記憶部(例えば、図4に示す補助記憶部102、103)と、ソフトウェアプログラムを呼び出し、実行する演算部(例えば、図4に示すプロセッサ104)と、を有する1又は複数の情報処理装置により構成される。すなわち、画像収集部110、画像修正部120、第1学習部130、第2学習部140、計測部150及び計測結果管理部160の各機能ブロックのそれぞれは、補助記憶部102、103等の記憶部に記憶された所定のソフトウェアプログラムがプロセッサ104等のハードウェアプロセッサによって実行されることで実現される。すなわち、画像収集部110、画像修正部120、第1学習部130、第2学習部140、計測部150及び計測結果管理部160の各機能のそれぞれは、ソフトウェアプログラムがハードウェアプロセッサによって実行されることにより実現される所定の処理を示す。また、画像収集部110、画像修正部120、第1学習部130、第2学習部140、計測部150及び計測結果管理部160のそれぞれは、単独で、又は、複数が組み合わされて、情報処理装置として構成される。なお、データ生成装置100を、単一の情報処理装置により構成してもよい。本実施形態における情報処理装置のハードウェア構成については後述する。
<画像収集部の構成>
画像収集部110は、学習用データを生成するためのサンプル画像を取得する。サンプル画像は、検査対象物を撮像した画像でもよく、また、公知の画像合成技術により生成されたCG画像であってもよい。画像収集部110が取得したサンプル画像は、属性付与部111にて、各画像に対して、又は、複数の画像に対して、属性情報の付与が行われる。すなわち、属性付与部111は、サンプル画像に対して属性情報を付与することで、サンプル画像を学習用データにする。
本実施形態において、属性情報の付与(ラベル付け)は、任意のユーザインタフェース180を介して、第1作業者により行われる。例えば、サンプル画像に欠陥が含まれる場合には、第1作業者は、ユーザインタフェース180としての、表示装置(液晶表示装置等)及び入力装置(タッチパネル、キーボード、マウス等)とを用いて、所定の形状の枠により当該欠陥を囲うことで、欠陥の有無及び欠陥の位置を含む属性情報を付与することができる。また、ユーザインタフェース180を用いて、当該欠陥の種類を含む属性情報をサンプル画像に付与することもできる。なお、属性情報の付与の方法は、特に限定されない。例えば、画像と、その画像に付与すべき属性情報との関係性を学習済みの識別器を用いて、画像に対して属性情報を自動的に付与するようにしてもよいし、公知の統計的手法により、複数の画像をクラスタリングして、クラスタに対して属性情報の付与を行うこととしてもよい。
属性付与部111において属性情報が付与された画像(学習用データ)は、画像データベース(以下、「画像DB」と称す。)112に格納され、記憶される。
画像収集部110は、例えば、取得するサンプル画像の多少や、画像DB112に格納されている学習用データの多少に応じて、学習用データの拡張を行う画像補正部113を備えている。画像補正部113は、ユーザインタフェース180を介して行われる第1作業者の補正操作に基づいて、サンプル画像の拡張を行ってよい。なお、画像補正部113は、画像収集部110に必ずしも必須の要素ではない。また、学習用データの拡張とは、学習に用いるデータセットを増やすデータオーグメンテーション(Data Augmentation)の処理を示す。
学習用データの拡張(オーグメンテーション)は、例えば、サンプル画像を平行移動させたり、回転させたり、色を変えたり、拡大させたり、縮小させたりすることで行ってよい。なお、画像補正部113は、画像収集部110に必須の構成要素ではなく、データ生成装置100を用いて実現する画像計測処理に必要な学習用データの必要量に応じて、適宜設けてよい。また、上記オーグメンテーションは、任意のユーザインタフェース180を介して、作業者自らが、部分画像の抽出、背景画像との合成等の各処理の指示を行うことで実現されてもよい。画像補正部113により拡張された学習用データは、画像DB112に格納され、記憶される。
ここで、背景画像は、部分画像に合成される画像であって、部分画像が抽出された計測画像とは異なる画像を含む。なお、背景画像は、計測画像であってもよいが、計測画像を背景画像として用いる場合には、計測画像から抽出された部分画像以外の領域に部分画像が合成されるように、合成箇所を制限して用いることができる。また、背景画像は、計測画像以外の画像に基づいて生成されてよく、計測画像の欠陥以外の領域の画像と同一の模様を有していてもよいし、有していなくてもよい。また、背景画像は一様な背景模様の画像の場合もあれば、ヘアラインのような背景模様を有する画像であったり、文字等が印字されている画像であったりしてよく、多種多様な画像であってよい。
画像DB112は、属性付与部111及び画像補正部113から、学習用データを取得する。画像DB112は、学習用データを、付与された属性情報に基づいて分類した状態で記憶してよい。また、画像DB112は、画像収集部110が取得したサンプル画像にすでに属性情報が付与されている場合には、当該サンプル画像を、属性付与部111及び画像補正部113を介さずに取得して、記憶してよい。なお、画像DB112は、学習用データを、後述する識別器を生成するための学習処理に使用する学習処理用の学習用データと、生成された識別器が、所望の属性情報を出力するか否かを評価するための評価処理用のテスト用データと、に区別して記憶してもよい。もっとも、学習用データとテスト用データを区別せずに画像DB112に記憶しておき、学習処理を行う際に、画像DB112に記憶されたデータセットを任意の手法で学習用とテスト用等に分けることとしてもよい。
<第1学習部の構成>
図2は、本実施形態に係るデータ生成装置の第1学習部130及び第2学習部140における処理の内容を示す概念図である。第1学習部130は、画像収集部110から、学習用データを取得する。なお、第1学習部130は、後述する画像修正部120から、学習用データを取得してもよい。第1学習部130は、取得した学習用データを用いた機械学習を実行し、識別器(a、b、c、・・・)を生成する第1学習処理部131を有する。識別器(a、b、c、・・・)は、画像データを入力とし、当該画像に含まれる欠陥の有無と、1又は複数の欠陥が含まれる場合にはその位置及びその種類と、を含む属性情報を出力するものである。なお、識別器(a、b、c、・・・)には、画像データ以外のデータが入力されてもよい。例えば、識別器(a、b、c、・・・)には、検査対象物の画像を撮像した条件(光量や撮像装置の露光時間等)が入力されたり、検査対象物の識別情報が入力されたりしてもよい。
識別器(a、b、c、・・・)は、任意の機械学習モデルに対して学習処理と評価処理とを行うことにより生成される。機械学習モデルは、所定のモデル構造と、学習処理によって変動する処理パラメータと、を有し、学習用データから得られる経験に基づいてその処理パラメータが最適化されることで、識別性能が向上するモデルである。すなわち、機械学習モデルは、学習処理によって、最適な処理パラメータを学習するモデルである。機械学習モデルのアルゴリズムは、例えば、サポートベクターマシン、ロジスティック回帰、ニューラルネットワーク等を用いることができるが、その種類は特に限定されない。本実施形態では、ニューラルネットワークであって、特に階層が3層以上であるディープニューラルネットワークのうち、画像認識に適したコンボリューショナルニューラルネットワーク(Convolutional Neural Network)を用いた例について説明する。なお、第1学習部130は、機械学習モデルを生成するためのモデル生成部(図示せず)を備えていてもよい。また、第1学習部130は、予め生成された機械学習モデルを、外部から取得してもよい。
第1学習処理部131は、学習用データを用いて画像のデータを入力すると、属性情報で表現される計測画像の属性に対応する出力値を出力するように、機械学習モデルを学習させる学習処理を行う。第1学習処理部131は、さらに、学習処理によって生成された識別器(a、b、c、・・・)に対し、テスト用データを用いて、識別器(a、b、c、・・・)の出力と、テスト用データに対して付与された属性情報とを比較する評価処理を行う。識別器(a、b、c、・・・)の出力と、テスト用データに付与された属性情報とが一致している場合には、識別器(a、b、c、・・・)の生成条件を満たしたと判断し、識別器(a、b、c、・・・)の生成処理を完了させる。
第1学習部130は、生成した識別器(a、b、c、・・・)のモデル構造及び処理パラメータを含む情報を、学習結果データとして、後述する計測部150及び第2学習部140に出力する。
<第2学習部の構成>
引き続き、図2を用いて、第2学習部140における処理の内容を説明する。第2学習部140は、所定の生成処理によって生成された識別器に対する追加学習(再学習)を行う。なお、第2学習部140について、第1学習部130と共通する要素については、その記載を省略する。
第2学習部140は、第1学習部130で生成された学習済みの識別器(a、b、c、・・・)の学習結果データを取得する。なお、第2学習部140は、所定の生成処理によって生成された識別器に関する学習結果データを、外部から取得してもよい。第2学習部140は、画像収集部110から、学習用データを取得する。なお、第2学習部140は、後述する画像修正部120から、学習用データを取得してもよい。
第2学習部140は、学習用データを用いた機械学習による追加学習(再学習)を実行し、識別器(A、B、C、・・・)を生成する第2学習処理部141を有する。識別器(A、B、C、・・・)は、所定の学習処理により生成された識別器(a、b、c、・・・)に対して学習処理と評価処理とを行うことにより生成される。換言すれば、第2学習処理部141は、学習用データを用いて、識別器(a、b、c、・・・)のモデル構造及び処理パラメータを含む学習結果データに対する学習処理と評価処理とを実行することで、識別器(A、B、C、・・・)を生成する。識別器(A、B、C、・・・)は、画像データを入力とし、当該画像に含まれる欠陥の有無と、1又は複数の欠陥が含まれる場合には、その位置及びその種類と、を含む属性情報を出力するものである。
第2学習処理部141は、学習用データを用いて、画像のデータを入力すると、属性情報で表現される計測画像の属性に対応する出力値を出力するように、識別器(a、b、c、・・・)の学習結果データによって表現される機械学習モデルを学習させる学習処理(追加学習の学習処理)を行う。ここで、第2学習処理部141が行う追加学習の学習処理は、後述する画像修正部120から取得した学習用データを用いて行われてよい。これにより、検査対象物を撮像した画像に基づいて新たに生成された学習用データを用いることができ、識別器の識別精度を向上させることができるからである。
第2学習処理部141は、さらに、学習処理によって生成された識別器(A、B、C、・・・)に対し、テスト用データを用いて、識別器(A、B、C、・・・)の出力と、テスト用データに対して付与された属性情報とを比較する評価処理を行う。識別器(A、B、C、・・・)の出力と、テスト用データに付与された属性情報とが一致している場合には、識別器(A、B、C、・・・)の生成条件を満たしたと判断し、識別器(A、B、C、・・・)の生成処理を完了させる。ここで、第2学習処理部141が行う評価処理は、後述する画像修正部120から取得したテスト用データを用いて行われてよい。これにより、検査対象物を撮像した画像に基づいて新たに生成された学習用データを用いて評価を行うことができ、識別器の認識精度を向上させることができるからである。
第2学習部140は、生成した識別器(A、B、C、・・・)のモデル構造及び処理パラメータを含む情報を、学習結果データとして、後述する計測部150に出力する。
なお、第1学習部130と第2学習部140とを一体に構成し、第1学習処理部131が、追加学習の学習処理と評価処理とを実行するようにしてもよい。
<計測部の構成>
図3は、本実施形態に係るデータ生成装置100の計測部150における処理の内容を示す概念図である。計測部150は、学習用データを用いた学習処理及び評価処理によって生成された識別器を用いて、撮像装置153により撮像された検査対象物の計測画像の属性情報を出力させ、計測画像及び属性情報を含む計測結果を出力する。属性情報は、欠陥の有無、1又は複数の欠陥が含まれる場合にはその欠陥の位置及び種類、を含む。
計測部150は、第1学習部130及び第2学習部140から、識別器のモデル構造及び処理パラメータを含む情報を、学習結果データとして取得する。計測部150は、取得した学習結果データを格納する学習結果DB151を有する。また、計測部150は、検査対象物を撮像する撮像装置153を有する。撮像装置153は、例えば、工場の製造ラインを撮像するように設置され、製造ラインの一部を構成する。撮像装置153は、製造ラインを流れる検査対象物としての部品及び製品(以下、部品と製品とを合わせて「ワーク」と称することがある。)の画像を計測画像として撮像する。
計測部150は、学習結果DB151に格納された学習結果データに基づき構成される識別器を用いて、計測画像の属性情報を出力する判定部152を有する。判定部152は、計測画像に基づいて検査対象物に1又は複数の欠陥が含まれているか否かを判定し、欠陥が含まれている場合には、計測画像上での欠陥の位置に関する情報を含む属性情報を出力してよい。ここで、計測画像上での欠陥の位置に関する情報としては、計測画像上での欠陥に相当する領域を示す枠形状が挙げられる。
計測部150は、計測画像と、識別器により出力された計測画像の属性情報と、を含む検査対象物の計測結果を、計測結果管理部160に出力する。なお、計測部150は、個々の検査対象物を識別するための識別情報を、計測結果とともに、計測結果管理部160に出力してもよい。このとき、検査対象物の識別情報は、計測画像から取得してもよく、所定のインタフェースを介して外部より取得してもよい。識別情報としては、例えば、製造番号や、製造番号を符号化した図形を用いることができる。よって、識別情報とは、検査対象物の個体を識別することができる情報であることが好ましい。なお、計測部150は、検査対象物の計測結果を、計測結果管理部160以外に出力してもよい。例えば、後述するユーザインタフェース170に対し、計測結果及び識別情報を出力するようにしてもよい。また、例えば、計測結果を仕分け装置(図示せず)に対して直接的または間接的に出力してもよい。仕分け装置は、取得した計測結果に基づいて、検査対象物の仕分けを行う。
<計測結果管理部の構成>
計測結果管理部160は、計測結果に含まれる計測画像と、識別器により出力された計測画像の属性情報とを関連付けて記憶する計測結果DB161を有する。なお、計測結果管理部160は、検査対象物を識別するための識別情報を、計測結果とともに取得してもよい。このとき、検査対象物の識別情報は、計測部150から取得してもよく、所定のインタフェースを介して外部より取得してもよい。また、計測結果DB161は、属性情報に含まれる属性の種別に応じて、例えば、欠陥の種別の属性に関連付けて、計測画像を分類して記憶してもよい。
計測結果管理部160は、計測結果を、ユーザインタフェース170に対して出力する。このとき、計測結果管理部160は、あわせて、検査対象物の識別情報をユーザインタフェース170に対して出力してよい。また、計測結果管理部160は、計測結果を、後述する画像修正部120に対して出力する。このとき、計測結果管理部160は、あわせて検査対象物の識別情報を、画像修正部120に対して出力してもよい。
<ユーザインタフェース>
本実施形態において、ユーザインタフェース170は、第2作業者が、計測部150による計測結果を確認するために用いられたり、計測画像に含まれる欠陥を囲むように領域を指定する操作(領域指定)を実行するために用いられたりする。ユーザインタフェース170は、少なくとも計測部150による計測結果を表示するための表示部(液晶表示装置等)、及び、第2作業者による領域指定を行うための入力部(タッチパネル、キーボード、マウス等)を有する。第2作業者は、表示部に表示された計測結果に基づいて、識別器により出力された検査対象物の属性情報の正誤を判断し、入力部を用いて欠陥を囲む領域を入力してよい。この際、入力部は、欠陥が含まれている領域の内点を指定する、画像の1又は複数の点の入力を受け付けてもよいし、領域の外形を指定する、画像の1又は複数の点の入力を受け付けてもよい。第2作業者により行われた領域指定の内容は、画像修正部120に対して出力される。なお、領域指定の入力操作を行える者は、後述する画像修正部120によって所定の実行権限を有すると認定された者に制限されてよい。これによれば、入力操作の信頼性が向上するとともに、生成される新たな学習用データの品質、ひいては、新たな学習用データを用いて生成される識別器の識別精度を向上させることができる。また、第1作業者と第2作業者とは同一であってもよい。
<画像修正部の構成>
画像修正部120は、取得された領域を補正して、学習用データの生成を行う。画像修正部120は、生成部121、修正画像データベース(以下、「修正画像DB」と称す。)122、補正部123及び選択部124を有し、ユーザインタフェース170によって受け付けた領域を補正して、学習用データを生成する。なお、以下では、画像修正部120は、ユーザインタフェース170によって受け付けた領域を補正して、補正した領域を計測画像に関連付けることで新たな学習用データを生成する例について説明するが、ユーザインタフェース180によって受け付けた領域を補正して、補正した領域をサンプル画像に関連付けることで新たな学習用データを生成してもよい。
補正部123は、ユーザインタフェース170(取得部)により取得された領域を、領域の内部に含まれる画素が所定量多くなるように、領域の外縁を広げるように補正する。補正部123は、領域の外縁を広げるように補正することで、領域の中の正常部位を示す画素の個数が多くなるように補正する。補正部123は、ユーザインタフェース170から計測画像の複数の領域を取得して、複数の領域それぞれについて、領域の外縁を広げるように補正してもよい。領域の補正は、例えば、欠陥を囲むように指定された領域を、当該領域を囲むように1画素ないし所定画素分ずつ一回り大きくすることにより行ってよい。
また、補正部123は、ユーザインタフェース170により取得された領域に対して複数の異なる補正を行ってもよい。例えば、補正部123は、欠陥を囲むように指定された領域を、当該領域を囲むように一回り大きくした第1補正を行い、第1補正を行った領域を囲むようにさらに一回り大きくした第2補正を行ってもよい。このように、補正部123は、段階的に領域が大きくなるように、複数の異なる補正を行ってよい。また、例えば、補正部123は、欠陥を囲むように指定された領域を、その一部の外縁を広げるように大きくした第3補正を行い、第3補正とは異なる一部の外縁を広げるように大きくした第4補正を行ってもよい。このように、補正部123は、指向性の異なる複数の補正を行ってよい。
また、補正部123は、所定の条件を満たす場合に、領域の外縁が狭まるように、領域を補正してもよい。ここで、補正部123は、所定の条件を満たす場合に、ユーザインタフェース170により取得された領域の外縁を広げるように補正する代わりに、領域の外縁が狭まるように、領域を補正してもよいし、取得された領域の外縁の一部が狭まるように、領域を補正してもよい。例えば、第2作業者によって指定された欠陥を含む領域が、第1の部分について、欠陥ではない模様を含む場合に、第1の部分について、取得された領域の外縁の一部が狭まるように、領域を補正してもよい。このとき、第1の部分以外のその他の部分について、取得された領域の外縁の一部が広がるように、領域を補正してもよい。また、例えば、第2作業者によって、欠陥以外の部分が大半を占めるように、欠陥を含む領域が指定された場合、補正部123は、指定された領域の外縁を狭めるように、領域を補正してもよい。この場合、所定の条件は、領域において欠陥以外の部分が占める割合に関する条件であってよい。所定の条件は、例えば、領域において欠陥以外の部分が占める割合が、閾値より大きいという条件であってよい。これにより、欠陥が含まれている領域を、欠陥以外の部分が領域の大半を占めるように指定された場合であっても、識別器によって画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。よって、識別器の学習処理を行う場合に、比較的少ない演算量でより判定精度の高い識別器を生成することができるようになる。なお、所定の条件は、ユーザインタフェース170により取得された領域の画素数に関する条件であったり、計測画像全体の画素数とユーザインタフェース170により取得された領域の画素数の比に関する条件であったりしてもよい。
補正部123は、ユーザインタフェース170により取得された領域に含まれる欠陥とその他の部分との割合に基づいて、領域の外縁の拡縮率を決定してもよい。ここで、欠陥とその他の部分との割合は、指定された領域のうち欠陥に相当する画素の個数と、欠陥以外に相当する画素の個数との比によって求めてよいが、その他の方法によって求めてもよい。これにより、欠陥が含まれている領域が、ほとんど欠陥のみ含むように指定されている場合には、領域の外縁を比較的大きく広げるように補正し、領域が欠陥以外の部分を十分に含むように指定されている場合には、領域の外縁を比較的小さく広げるように補正することができる。
また、補正部123は、ユーザインタフェース170により取得された領域に含まれる欠陥以外の背景模様に基づいて、領域の補正の方法を決定してもよい。ここで、背景模様は、検査対象物の表面の模様であったり、検査対象物に付されたロゴ及び文字の他、検査対象物のエッジ等を含む。例えば、検査対象物に対してヘアライン加工等が施されて、検査対象物の表面に一定の均一性のあるテクスチャパターンが表れている場合、当該テクスチャパターンに沿った方向に領域を広げるように補正の方法を決定してよい。また、検査対象物にロゴが付されていたり、検査対象物にエッジが存在したりする場合、ロゴやエッジが領域内に含まれないように、領域を広げる方向や領域を広げる拡大率を決定してよい。これにより、領域に含まれる欠陥以外の背景模様が、補正前後で大きく異なることが無いように補正の方法を決定することができ、識別器によって画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。
生成部121は、補正部123により補正された領域を画像に関連付けて、学習用データを生成する。生成部121は、補正部123により複数の領域が補正された場合、補正後の複数の領域を画像に関連付けて、複数の学習用データを生成してもよい。これにより、画像が複数の欠陥を含み、欠陥が含まれている複数の領域を、ほとんど欠陥のみ含むように指定した場合であっても、識別器によって画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。
生成部121は、補正部123により複数の異なる補正が行われた、複数の補正された領域を画像に関連付けて、補正部123により行われた複数の異なる補正に対応する複数の学習用データの候補を生成してもよい。ここで、生成された複数の学習用データの候補は、そのすべてが実際的に学習用データとして使用されなくてもよい。すなわち、生成された複数の学習用データの候補は、その一部又は全部が学習用データとして選択されるものであってよい。
修正画像DB122は、生成部121により生成された新たな学習用データを格納し、記憶する。修正画像DB122は、計測画像及びユーザインタフェース170から受け付けた領域を一時的に記憶してもよいし、サンプル画像及びユーザインタフェース180から受け付けた領域を一時的に記憶してもよい。
画像修正部120は、生成部121により生成した複数の学習用データの候補を、異なる識別器(a、b、c、A、B、・・・)の学習に適用して、入力された画像に基づいて検査対象物に欠陥が含まれているか否かを識別する複数の識別器(a、b、c、A、B、・・・)を第1学習部130又は第2学習部140によって学習させてよい。画像修正部120は、例えば、補正部123により領域の拡大率を3段階に変化させて補正を行った場合に、第1段階の拡大率で補正を行った複数の領域を含む複数の第1学習用データの候補を用いて識別器(a、b、c、A、B、・・・)を第1学習部130又は第2学習部140によって学習させ、第2段階の拡大率で補正を行った複数の領域を含む複数の第2学習用データの候補を用いて識別器(a、b、c、A、B、・・・)を第1学習部130又は第2学習部140によって学習させ、3段階の拡大率で補正を行った複数の領域を含む複数の第3学習用データの候補を用いて識別器(a、b、c、A、B、・・・)を第1学習部130又は第2学習部140によって学習させてよい。これにより、いずれの補正方法が識別器(a、b、c、A、B、・・・)の識別性能を向上させるのに最適であるかを試行することができる。
選択部124は、第1学習部130又は第2学習部140により学習された複数の学習済みの識別器の識別性能に基づいて、複数の学習用データの候補から1又は複数の学習用データを選択する。生成された複数の学習用データをそれぞれ独立に用いて識別器を学習させ、その識別性能に基づいて1又は複数の学習用データを選択することで、識別器によって画像に含まれる欠陥とその他の部分の対比がより適切に行える学習用データを選別することができる。特に、新たな学習用データを生成する場面においては、機械学習に関する知見の少ない作業者の操作によって、学習用データを生成する場合がある。このような場合でも、本態様によれば、各工程で生じる検査対象物の欠陥に対応した新たな学習用データを容易に生成することができ、ひいては、新たな学習用データを使用した識別器を生成することで、各工程に適した識別器を生成することができ、識別精度を向上させることができる。
また、選択部124は、補正部123により補正を行う前の領域と、補正部123により補正を行った後の領域との類似度に基づいて、複数の学習用データの候補から1又は複数の学習用データを選択してもよい。なお、補正前後の領域の類似度は、例えば、白黒の濃淡度、エッジの個数及び強度を使用することができる。例えば、濃淡度は、領域に含まれる画素の明度で表される。したがって、濃淡度を使用する場合、領域内の画素の濃淡度の平均値を算出し、補正前の領域内の平均値N1と、補正後の領域内の平均値N2とを比較し、両者の差が予め定められた閾値M未満の場合には、類似であると判断して学習用データとして採用してよい。また、例えば、エッジの個数を使用する場合、補正前後での領域に含まれるエッジの個数を算出し、補正前のエッジの個数E1と補正後のエッジの個数E2とを比較し、両者の差が予め定めたエッジの個数の差D未満の場合には、類似であると判断して、学習用データとして採用してよい。このとき、領域のエッジの算出は、Sobelフィルタ、ラプラシアンフィルタ等の既知の手法を用いることができる。なお、補正前後の領域の類似度は、濃淡度、エッジの個数、その他の指標を、複数組み合わせて算出するようにしてもよい。
類似度が所定の値を上回る場合、補正後の領域が関連付けられた画像を学習用データとして採用して、類似度が所定の値を下回る場合、補正後の領域が関連付けられた画像を学習用データとして採用しないこととしてよい。補正前後の領域について類似度を算出することで、例えば、検査対象物に対してヘアライン加工等が施されて一定の均一性のあるテクスチャパターンが表れている場合に、当該テクスチャパターンの態様が類似するように領域が補正されているか否かを判定することができる。また、検査対象物にロゴが付されていたり、検査対象物にエッジが存在したりする場合、類似度を算出することで、ロゴやエッジが領域内に含まれないように領域が補正されているか否かを判定することができる。これにより、補正した後に領域に含まれる画像部位が欠陥と誤判定される要因にならないように、学習用データの採否を選択することができ、識別器によって画像に含まれる欠陥とその他の部分の対比がより適切に行える学習用データを選別することができる。
選択部124は、補正部123により補正を行う前の領域の外縁の画素値と、補正部123により補正を行った後の領域の外縁の画素値との相関に基づいて、類似度を算出してよい。領域の外縁を広げることで、補正後の領域の外縁に補正前の領域には含まれていなかった画像部位が含まれることになる。例えば、この画像部位にロゴ等の特徴的な模様が含まれる場合、この画像部位が欠陥と誤判定される要因となり得る。しかしながら、補正前後における外縁の画素値の相関に基づいて類似度を算出することで、誤判定の要因となり得る補正後の領域を学習用データから除外することができる。
なお、選択部124は、補正部123によって、指定された領域の外縁が狭まるように領域を補正する場合に、補正を行う前の領域の外縁の画素値と、補正を行った後の領域の外縁の画素値との相関に基づいて、類似度を算出してもよい。例えば、領域の外縁を狭めることで、欠陥の一部が補正後の領域からはみ出して、欠陥が補正後の領域の外縁を横切ってしまう場合に、そのような補正後の領域を学習用データから除外することができる。
[ハードウェア構成]
次に、図4を用いて、本実施形態に係るデータ生成装置100のハードウェア構成の一例を説明する。本実施形態に係るデータ生成装置100は、演算装置101、出力装置191、入力装置192及び撮像装置153を備える情報処理装置であってよい。ここで、出力装置191及び入力装置192は、ユーザインタフェース170及びユーザインタフェース180を構成する。
演算装置101は、補助記憶部102、103、プロセッサ104、主記憶部105及び外部インタフェース(以下、「外部I/F」と称す。)を含むものであってよい。
演算装置101は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を含み、情報処理に応じて各構成要素の制御を行う。プロセッサ104は、CPUを含んでよく、補助記憶部102、103及び主記憶部105は、RAM及びROMを含んでよい。補助記憶部102は、例えば、ハードディスクドライブ、ソリッドステートドライブ等であってもよく、プロセッサ104で実行されるデータ生成プログラム102a、撮像装置153により撮像された計測画像102b及び学習用データ102c等を記憶してよい。また、補助記憶部102、103は、画像上の欠陥を含む領域を拡縮する目標値である、領域内の欠陥を示す画素と正常部位を示す画素との適正割合を記憶していてもよい。例えば、領域に含まれる欠陥を示す画素と正常部位を示す画素との比が、1.0より大きい、すなわち、欠陥を示す画素が相対的に多い場合には、正常部位を示す画素が多くなるように領域の外縁を拡縮する。このとき、適正割合は、例えば、正常部位を示す画素が相対的に多くなるように、1.0未満、好ましくは0.5未満とすることができる。補助記憶部103及び主記憶部105は、補助記憶部102と同様に、例えば、ハードディスクドライブやソリッドステートドライブ等であってもよい。データ生成プログラム102aは、前述の、画像収集部110、画像修正部120、第1学習部130、第2学習部140、計測部150及び計測結果管理部160の機能を実現するための処理を行うためのプログラムであり、当該プログラムがプロセッサ104によって実行されることにより、各機能が実現される。なお、データ生成プログラム102aは、画像収集部110、画像修正部120、第1学習部130、第2学習部140、計測部150及び計測結果管理部160のうち一部の機能を実現するための処理を行うためのプログラムであってもよいし、これら以外の機能を実現するための処理を行うためのプログラムを含んでもよい。
外部I/F106は、USB(Universal Serial Bus)ポート等であり、出力装置191、入力装置192及び撮像装置153等の外部装置と接続するためのインタフェースである。なお、データ生成装置は、有線LAN(Local Area Network)モジュールや無線LANモジュール等、ネットワークを介した有線又は無線通信を行うためのインタフェースを備えてもよい。
記憶媒体は、コンピュータ等の装置によって、記憶されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。記憶媒体は、例えば、CD(Compact Disk)やDVD(Digital Versatile Disk)等であり、データ生成プログラム102aを記憶したものであってよい。記憶媒体に記憶されたデータ生成プログラム102aは、補助記憶部103にコピーされ、補助記憶部102や主記憶部105にコピーされてよい。図4では、記憶媒体の一例として、CD、DVD等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。また、データ生成装置100は、データ生成プログラム102a等のデータを、有線又は無線通信によってネットワークを介して取得してもよい。
なお、データ生成装置100の具体的なハードウェア構成は、実施形態に応じて、適宜、構成要素を省略、置換及び追加されてもよい。例えば、演算装置101は、複数のプロセッサを含んでもよいし、GPU(Graphical Processing Unit)やFPGA(Field Programmable Gate Array)を含んでもよい。また、データ生成装置100は、複数台の情報処理装置で構成されてもよい。データ生成装置100は、提供されるサービス専用に設計された情報処理装置の他、汎用のデスクトップPC(Personal Computer)、タブレットPC等で構成されてもよい。
§3 動作例
図5は、本実施形態に係るデータ生成装置100による画像の領域の補正の例を示す図である。同図の左上には、スマートフォンの背面を撮像した計測画像と、その計測画像に含まれる3つの欠陥を囲む領域R1、R2及びR3を破線で指定した例を示している。ここで、領域R1、R2及びR3は、第2作業者によって指定されたものとする。領域R1及び領域R2は、横長の欠陥を囲むように、長辺と短辺の差が比較的大きい矩形で指定されている。また、領域R3は、折れ線状の欠陥を囲むように、長辺と短辺の差が比較的小さい矩形で指定されている。ここで、領域R1、R2及びR3を指定する破線が、領域R1、R2及びR3の外縁にあたる。すなわち、領域の外縁とは、領域の外周部分であり、実質的に領域の境界と同義である。本例のスマートフォンの背面には、「om」の文字(ロゴ)が付されており、左上にはカメラのための開口が設けられている。
図5の右上には、領域の補正の第1例を示し、右下には領域の補正の第2例を示し、左下には領域の補正の第3例を示している。領域の補正の第1例では、第2作業者によって指定された領域R1、R2及びR3それぞれを、領域の外縁を第1拡大率で広げるように補正して、領域R1a、R2a及びR3aとしている。また、領域の補正の第2例では、第2作業者によって指定された領域R1、R2及びR3それぞれを、領域の外縁を第2拡大率で広げるように補正して、領域R1b、R2b及びR3bとしている。ここで、第2拡大率は、第1拡大率よりも大きい。このように、補正部123は、領域に対して複数の異なる補正を行ってよい。複数の異なる補正が行われた領域を画像に関連付けて、複数の学習用データを生成することで、欠陥とその他の部分の対比の行い易さがそれぞれ異なる学習用データを生成することができる。
領域の補正の第3例では、第2作業者によって指定された領域R1、R2及びR3それぞれを、拡大と変形を組み合わせて補正して、領域R1c、R2c及びR3cとしている。このうち領域R1cは、補正前の領域R1と比較して、長辺よりも短辺の拡大率が大きくなるように補正されている。また、短辺の拡大は、「om」の文字と重ならない範囲で行われている。このように、補正部123は、領域に含まれる欠陥以外の背景模様に基づいて、領域の補正の方法を決定してよい。すなわち、補正前に領域内に文字や部品のエッジが含まれていない場合には、補正後の領域内に文字や部品のエッジが含まれないように、補正の方法を決定してよい。
また、領域R2cは、補正前の領域R2が矩形であるのに対して、楕円形状となるように補正されている。このように、補正部123は、領域の外形を変化させてもよい。さらに、領域R3cは、補正前の領域R3と同様に矩形であるが、補正前の領域R3に対して回転して配置された矩形であり、補正前の領域R3よりも面積が大きくなるように補正されている。このように、補正部123は、領域を回転させてもよい。
図6は、本実施形態に係るデータ生成装置100により実行される第1処理の内容を示すフローチャートである。第1処理は、画像のうち欠陥が含まれている領域の入力を受け付け、当該領域を補正した上で画像に関連付けて、新たな学習用データを生成する処理である。データ生成装置100は、はじめに検査対象物の画像を取得する(S10)。ここで、画像は、予め画像DB112に記憶されたサンプル画像であってもよいし、撮像装置153によって新たに撮像された計測画像であってもよい。
データ生成装置100は、ユーザインタフェース170、180によって、画像のうち欠陥が含まれている領域の入力を受け付ける(S11)。なお、領域の入力方法については、次図を用いて詳細に説明する。
データ生成装置100の補正部123は、入力された領域について、複数の異なる補正を行う(S12)。補正部123は、例えば、入力された領域を複数の異なる拡大率で拡大したり、複数の異なる角度で回転させたり、複数の異なる形状に変形したりしてよい。
データ生成装置100の生成部121は、複数の異なる補正が行われた領域を画像に関連付けて、複数の学習用データの候補を生成する(S13)。選択部124は、補正前の領域の外縁と、補正後の領域の外縁との相関に基づいて、類似度を算出し(S14)、類似度に基づいて学習用データの候補を絞り込む(S15)。選択部124は、補正前の領域との類似度が所定値より小さい補正後の領域が関連付けられた画像を学習用データとして採用せず、補正前の領域との類似度が所定値以上である補正後の領域が関連付けられた画像を学習用データとして採用することとしてよい。
第1学習部130又は第2学習部140は、絞り込まれた複数の学習用データの候補をそれぞれ独立に用いて、識別器(a、b、c、A、B、…)を学習させる(S16)。そして、選択部124は、複数の学習済みの識別器(a、b、c、A、B、…)の識別性能に基づいて、複数の学習用データの候補から1又は複数の学習用データを選択する。選択部124は、複数の学習用データの候補をそれぞれ独立に用いて学習された識別器(a、b、c、A、B、…)のうち、識別性能が所定値以上となった学習用データの候補を1又は複数の学習用データとして選択してよく、識別性能が所定値に達しなかった学習用データの候補を学習用データとして選択しないこととしてよい。以上により、第1処理が終了する。
本実施形態に係るデータ生成装置100によれば、欠陥が含まれている領域を、ほとんど欠陥のみ含むように指定した場合であっても、欠陥とその他の部分が適切に含まれるように領域を補正するため、識別器によって画像に含まれる欠陥とその他の部分の対比が適切に行える学習用データを生成することができる。よって、識別器の学習処理を行う場合に、比較的少ない演算量でより判定精度の高い識別器を生成することができるようになる。
図7は、本実施形態に係るデータ生成装置100による画像の領域の指定の例を示す図である。データ生成装置100は、ユーザインタフェース170、180(入力部)によって、画像の欠陥が含まれている領域を指定する情報の入力を受け付け、入力部により入力された情報に基づいて、画像の欠陥が含まれている領域を取得する。ここで、領域を指定する情報は、領域を指定する1又は複数の点であったり、線であったり、面であったりしてよい。入力部は、例えばタッチパネルであったり、マウス等のポインティングデバイスであったりしてよく、画像の点の入力を受け付けたり、線の入力や矩形等の多角形の入力を受け付けたり、楕円の入力を受け付けたりしてよい。このような入力部を備えることで、検査対象物の画像を確認した作業者から、欠陥が含まれている領域の指定を受け付けることができる。
本例において、入力部は、画像の欠陥が含まれている領域R1の内点を指定する、画像の複数の点p1及びp2の入力を受け付ける。点p1及びp2は、欠陥の両端に位置するように入力され、データ生成装置100は、入力された点p1及びp2に基づいて、点p1及びp2を内包するような矩形領域によって領域R1を生成する。このように、設定される領域の内側の点を指定させることで、欠陥がどのような形状であっても、検査対象物の画像を確認する作業者が、簡易な操作で欠陥が含まれている領域の指定を行うことができる。
また、本例において、入力部は、画像の欠陥が含まれている領域R4の外形を指定する、画像の複数の点p3、p4及びp5の入力を受け付ける。点p3、p4及びp5は、欠陥の端点及び屈曲点に位置するように入力され、データ生成装置100は、入力された点p3、p4及びp5に基づいて、点p3、p4及びp5を包絡するような三角形領域によって領域R4を生成する。このように、領域の外形を指定させることで、欠陥がどのような形状であっても、検査対象物の画像を確認する作業者が、簡易な操作で欠陥が含まれている領域の指定を行うことができる。
図8は、本実施形態に係るデータ生成装置100により実行される第2処理の内容を示すフローチャートである。第2処理は、画像について欠陥が含まれる領域の入力が行われた後に実行される処理であり、領域の補正を行う処理である。なお、第2処理は、画像について欠陥が含まれる領域の入力が行われた後に実行される処理であって、第1処理とは別個に行われてよい。また、第2処理は、第1処理のS11とS12との間に行われ、S12の補正の方法を決定するための処理として実行されてよい。
データ生成装置100は、取得した画像に対して入力された領域のうち、欠陥以外の背景模様がヘアラインであるか否かを判定する(S20)。欠陥以外の背景模様がヘアラインでない場合(S20:NO)、補正部123は、領域に含まれる欠陥と、欠陥以外との割合に基づいて、複数の拡大率を決定する(S21)。補正部123は、領域全体に対する欠陥が占める割合が大きいほど、拡大率が大きくなるように決定してよい。
一方、欠陥以外の背景模様がヘアラインである場合(S20:YES)、補正部123は、領域に含まれる欠陥と、欠陥以外との割合の変化が比較的小さくなるように、複数の拡大率を決定する(S22)。検査対象物にヘアライン加工が施されている場合、指定された領域を大きく変化させると、様々なヘアラインのパターンが領域に含まれることとなり、それらのパターンが欠陥と誤認識されることがある。そのため、指定された領域をあまり変化させないように領域を補正した方が、識別器の識別性能をより向上させるような学習用データを生成することができる。なお、図8では、欠陥以外の背景模様がヘアラインであるか否かに応じて、補正の方式を変更するようにしたが、この例に限られない。例えば、取得した画像の欠陥以外の背景模様が、一様であるか否かに応じて、補正の方式を変更するようにしてよい。また、図8では、変更する補正の方式として複数の拡大率を設定する方式を採用しているが、この例に限られない。例えば、補正によって広げる外縁の方向を、変更するようにしてもよい。
補正部123は、決定された拡大率に従うことを前提として、ロゴやエッジに重ならないように領域を補正する(S23)。すなわち、仮に、決定された拡大率で指定された領域を拡大した場合に、領域内にロゴやエッジが含まれることとなる場合、少なくともロゴやエッジに接近する方向に関する領域の拡大を行わないこととして、領域内にロゴやエッジが含まれないように領域を補正する。これにより、ロゴやエッジが欠陥として誤認識されることが防止され、誤認識の要因を排除した学習用データを生成することができる。以上により、第2処理が終了する。このように、取得した画像の欠陥以外の背景模様が、所定のパターンを有するか否か等の、背景模様の種別に応じて、補正の方式を変更するようにすることで、補正後の領域に含まれる欠陥以外の画像部位が欠陥であると誤認識される可能性を低減することができる。
以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。実施形態が備える各要素並びにその配置、材料、条件、形状及びサイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、異なる実施形態で示した構成同士を部分的に置換し又は組み合わせることが可能である。
[付記1]
欠陥を有する検査対象物の画像及び前記画像の前記欠陥が含まれている領域を取得する取得部(153、170、180)と、
前記取得部(153、170、180)により取得された領域を、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正する補正部(123)と、
前記補正部により補正された領域を前記画像に関連付けて、学習用データを生成する生成部(121)と、
を備えるデータ生成装置(100)。
[付記2]
前記補正部(123)は、前記取得部(153、170、180)により取得された領域に対して複数の異なる補正を行い、
前記生成部(121)は、前記補正部(123)により複数の異なる補正が行われた前記領域を前記画像に関連付けて、前記補正部(123)により行われた複数の異なる補正に対応する複数の学習用データの候補を生成する、
付記1に記載のデータ生成装置。
[付記3]
前記補正部(123)は、前記取得部(153、170、180)により取得された領域に含まれる前記欠陥以外の背景模様に基づいて、前記領域の補正の方法を決定する、
付記1又は2に記載のデータ生成装置。
[付記4]
前記複数の学習用データの候補それぞれを、異なる識別器の学習に適用して、入力された画像に基づいて前記検査対象物に欠陥が含まれているか否かを識別する複数の識別器を学習させる学習部(130、140)と、
前記学習部(130、140)により学習された、複数の学習済みの識別器(a、b、c、A、B)の識別性能に基づいて、前記複数の学習用データの候補から1又は複数の学習用データを選択する選択部(124)と、をさらに備える、
付記2に記載のデータ生成装置。
[付記5]
前記選択部(124)は、前記補正部(123)により補正を行う前の領域と、前記補正部(123)により補正を行った後の領域との類似度に基づいて、前記複数の学習用データの候補から前記1又は複数の学習用データを選択する、
付記4に記載のデータ生成装置。
[付記6]
前記選択部(124)は、前記補正部(123)により補正を行う前の領域の外縁の画素値と、前記補正部(123)により補正を行った後の領域の外縁の画素値との相関に基づいて、前記類似度を算出する、
付記5に記載のデータ生成装置。
[付記7]
前記取得部(153、170、180)は、複数の欠陥を有する検査対象物の画像と、前記画像の前記複数の欠陥のうち1つがそれぞれ含まれる複数の領域とを取得し、
前記補正部(123)は、前記取得部(153、170、180)により取得された複数の領域それぞれについて、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正し、
前記生成部(121)は、前記補正部により補正された前記複数の領域を前記画像に関連付けて、学習用データを生成する、
付記1から6のいずれか一項に記載のデータ生成装置。
[付記8]
前記画像の前記欠陥が含まれている領域を指定する情報の入力を受け付ける入力部(170、180)をさらに備え、
前記取得部(153、170、180)は、前記入力部(170、180)により入力された情報に基づいて、前記画像の前記欠陥が含まれている領域を取得する、
付記1から7のいずれか一項に記載のデータ生成装置。
[付記9]
前記入力部(170、180)は、前記画像の前記欠陥が含まれている領域の内点を指定する、前記画像の1又は複数の点の入力を受け付ける、
付記8に記載のデータ生成装置。
[付記10]
前記内点は、前記画像の前記欠陥の端点を含む、
付記9に記載のデータ生成装置。
[付記11]
前記入力部(170、180)は、前記画像の前記欠陥が含まれている領域の外形を指定する、前記画像の1又は複数の点の入力を受け付ける、
付記8から10のいずれか一項に記載のデータ生成装置。
[付記12]
前記補正部(123)は、所定の条件を満たす場合に、前記領域の外縁が狭まるように、前記領域を補正する、
付記1から11のいずれか一項に記載のデータ生成装置。
[付記13]
前記補正部(123)は、前記取得部(153、170、180)により取得された領域に含まれる前記欠陥とその他の部分との割合に基づいて、前記領域の外縁の拡縮率を決定する、
付記1から12のいずれか一項に記載のデータ生成装置。
[付記14]
欠陥を有する検査対象物の画像及び前記画像の前記欠陥が含まれている領域を取得することと、
取得された領域を、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正することと、
補正された領域を前記画像に関連付けて、学習用データを生成することと、
を含むデータ生成方法。
[付記15]
データ生成装置(100)に備えられた演算装置を、
欠陥を有する検査対象物の画像及び前記画像の前記欠陥が含まれている領域を取得する取得部(153、170、180)、
前記取得部(153、170、180)により取得された領域を、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正する補正部(123)、及び
前記補正部により補正された領域を前記画像に関連付けて、学習用データを生成する生成部(121)、
として動作させるデータ生成プログラム。
100…データ生成装置、101…演算装置、102…補助記憶部、102a…データ生成プログラム、102b…計測画像、102c…学習用データ、103…補助記憶部、104…プロセッサ、105…主記憶部、106…外部I/F、110…画像収集部、111…属性付与部、112…画像DB、113…画像補正部、120…画像修正部、121…生成部、122…修正画像DB、123…補正部、124…選択部、130…第1学習部、131…第1学習処理部、140…第2学習部、141…第2学習処理部、150…計測部、151…学習結果DB、152…判定部、153…撮像装置、160…計測結果管理部、161…計測結果DB、170…ユーザインタフェース、180…ユーザインタフェース、191…出力装置、192…入力装置

Claims (11)

  1. 欠陥を有する検査対象物の画像及び前記画像の前記欠陥が含まれている領域を取得する取得部と、
    前記取得部により取得された領域を、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正する補正部であって、前記取得部により取得された領域に対して複数の異なる補正を行う、補正部と、
    前記補正部により複数の異なる補正が行われた、複数の補正された領域前記画像とを関連付けて、前記補正部により行われた複数の異なる補正に対応する複数の学習用データの候補を生成する生成部と、
    前記複数の学習用データの候補それぞれを、異なる識別器の学習に適用して、入力された画像に基づいて前記検査対象物に欠陥が含まれているか否かを識別する複数の識別器を学習させる学習部と、
    前記学習部により学習された、複数の学習済みの識別器の識別性能に基づいて、前記複数の学習用データの候補から1又は複数の学習用データを選択する選択部であって、前記補正部により補正を行う前の領域の外縁の画素値と、前記補正部により補正を行った後の領域の外縁の画素値との相関に基づいて算出した類似度に基づいて、前記複数の学習用データの候補から前記1又は複数の学習用データを選択する、選択部と、
    を備えるデータ生成装置。
  2. 前記補正部は、前記取得部により取得された領域に含まれる前記欠陥以外の背景模様に基づいて、前記領域の補正の方法を決定する、
    請求項1に記載のデータ生成装置。
  3. 前記取得部は、複数の欠陥を有する検査対象物の画像と、前記画像の前記複数の欠陥のうち1つがそれぞれ含まれる複数の領域とを取得し、
    前記補正部は、前記取得部により取得された複数の領域それぞれについて、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正し、
    前記生成部は、前記補正部により補正された複数の領域を前記画像に関連付けて、学習用データを生成する、
    請求項1又は2に記載のデータ生成装置。
  4. 前記画像の前記欠陥が含まれている領域を指定する情報の入力を受け付ける入力部をさらに備え、
    前記取得部は、前記入力部により入力された情報に基づいて、前記画像の前記欠陥が含まれている領域を取得する、
    請求項1からのいずれか一項に記載のデータ生成装置。
  5. 前記入力部は、前記画像の前記欠陥が含まれている領域の内点を指定する、前記画像の1又は複数の点の入力を受け付ける、
    請求項に記載のデータ生成装置。
  6. 前記内点は、前記画像の前記欠陥の端点を含む、
    請求項に記載のデータ生成装置。
  7. 前記入力部は、前記画像の前記欠陥が含まれている領域の外形を指定する、前記画像の1又は複数の点の入力を受け付ける、
    請求項からのいずれか一項に記載のデータ生成装置。
  8. 前記補正部は、所定の条件を満たす場合に、前記領域の外縁が狭まるように、前記領域を補正する、
    請求項1からのいずれか一項に記載のデータ生成装置。
  9. 前記補正部は、前記取得部により取得された領域に含まれる前記欠陥とその他の部分との割合に基づいて、前記領域の外縁の拡縮率を決定する、
    請求項1からのいずれか一項に記載のデータ生成装置。
  10. 欠陥を有する検査対象物の画像及び前記画像の前記欠陥が含まれている領域を取得することと、
    取得された領域を、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正することであって、取得された領域に対して複数の異なる補正を行う、ことと、
    複数の異なる補正が行われた、複数の補正された領域前記画像とを関連付けて、複数の異なる補正に対応する複数の学習用データの候補を生成することと、
    前記複数の学習用データの候補それぞれを、異なる識別器の学習に適用して、入力された画像に基づいて前記検査対象物に欠陥が含まれているか否かを識別する複数の識別器を学習させることと、
    学習された、複数の学習済みの識別器の識別性能に基づいて、前記複数の学習用データの候補から1又は複数の学習用データを選択することであって、補正を行う前の領域の外縁の画素値と、補正を行った後の領域の外縁の画素値との相関に基づいて算出した類似度に基づいて、前記複数の学習用データの候補から前記1又は複数の学習用データを選択する、ことと、
    を含むデータ生成方法。
  11. データ生成装置に備えられた演算装置を、
    欠陥を有する検査対象物の画像及び前記画像の前記欠陥が含まれている領域を取得する取得部、
    前記取得部により取得された領域を、前記領域の内部に含まれる画素が所定量多くなるように、前記領域の外縁を広げるように補正する補正部であって、前記取得部により取得された領域に対して複数の異なる補正を行う、補正部
    前記補正部により複数の異なる補正が行われた、複数の補正された領域前記画像とを関連付けて、前記補正部により行われた複数の異なる補正に対応する複数の学習用データの候補を生成する生成部、
    前記複数の学習用データの候補それぞれを、異なる識別器の学習に適用して、入力された画像に基づいて前記検査対象物に欠陥が含まれているか否かを識別する複数の識別器を学習させる学習部、及び
    前記学習部により学習された、複数の学習済みの識別器の識別性能に基づいて、前記複数の学習用データの候補から1又は複数の学習用データを選択する選択部であって、前記補正部により補正を行う前の領域の外縁の画素値と、前記補正部により補正を行った後の領域の外縁の画素値との相関に基づいて算出した類似度に基づいて、前記複数の学習用データの候補から前記1又は複数の学習用データを選択する、選択部、
    として動作させるデータ生成プログラム。
JP2017215452A 2017-11-08 2017-11-08 データ生成装置、データ生成方法及びデータ生成プログラム Active JP6936958B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017215452A JP6936958B2 (ja) 2017-11-08 2017-11-08 データ生成装置、データ生成方法及びデータ生成プログラム
CN201811057553.5A CN109767419B (zh) 2017-11-08 2018-09-11 数据生成装置、数据生成方法及存储介质
EP18194940.5A EP3483833B1 (en) 2017-11-08 2018-09-17 Data generation apparatus, data generation method, and data generation program
US16/135,018 US11176650B2 (en) 2017-11-08 2018-09-19 Data generation apparatus, data generation method, and data generation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017215452A JP6936958B2 (ja) 2017-11-08 2017-11-08 データ生成装置、データ生成方法及びデータ生成プログラム

Publications (2)

Publication Number Publication Date
JP2019087078A JP2019087078A (ja) 2019-06-06
JP6936958B2 true JP6936958B2 (ja) 2021-09-22

Family

ID=63787706

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017215452A Active JP6936958B2 (ja) 2017-11-08 2017-11-08 データ生成装置、データ生成方法及びデータ生成プログラム

Country Status (4)

Country Link
US (1) US11176650B2 (ja)
EP (1) EP3483833B1 (ja)
JP (1) JP6936958B2 (ja)
CN (1) CN109767419B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
JP6549644B2 (ja) * 2017-06-27 2019-07-24 ファナック株式会社 機械学習装置、ロボット制御システム及び機械学習方法
EP3489892B1 (en) * 2017-11-24 2022-01-05 Ficosa Adas, S.L.U. Determining clean or dirty captured images
KR20200039047A (ko) * 2018-10-01 2020-04-16 에스케이씨 주식회사 필름 결함 검출 방법 및 시스템
JP7137487B2 (ja) * 2019-01-22 2022-09-14 株式会社日立ハイテク 画像評価装置及び方法
KR102225099B1 (ko) * 2019-05-17 2021-03-09 라온피플 주식회사 불량 이미지 생성 장치 및 방법
CN110827249A (zh) * 2019-10-28 2020-02-21 上海悦易网络信息技术有限公司 电子设备背板外观瑕疵检测方法及设备
TWI707137B (zh) * 2020-01-13 2020-10-11 憶象有限公司 智能產線監測系統及監測方法
JP7437610B2 (ja) * 2020-05-15 2024-02-26 オムロン株式会社 画像検査装置、画像検査方法及び学習済みモデル生成装置
KR102374840B1 (ko) * 2020-10-20 2022-03-15 두산중공업 주식회사 딥러닝 학습용 결함 이미지 생성 방법 및 이를 위한 시스템
JP7281586B2 (ja) * 2020-12-17 2023-05-25 株式会社クボタ 検査装置及び検査方法
WO2022186110A1 (ja) * 2021-03-01 2022-09-09 富士フイルム株式会社 機械学習システム、認識器、学習方法、及びプログラム
JP7299388B2 (ja) * 2021-11-18 2023-06-27 株式会社クボタ 鉄管外表面の欠陥判定装置
JP7502808B2 (ja) * 2022-06-24 2024-06-19 株式会社 東京ウエルズ 学習装置、学習方法及び学習プログラム
KR102545144B1 (ko) * 2023-01-13 2023-06-21 주식회사 아이브 딥러닝 알고리즘에 기반한 불량품 검사 솔루션 제공 장치 및 그 방법

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0817445B2 (ja) * 1990-11-06 1996-02-21 大日本スクリーン製造株式会社 画像のカブセ処理方法
JPH08287218A (ja) * 1995-04-10 1996-11-01 Sharp Corp 画像合成装置
JP3902823B2 (ja) * 1996-11-29 2007-04-11 大日本印刷株式会社 筋状欠陥検査方法及び装置
US6476388B1 (en) * 1998-10-19 2002-11-05 Hitachi, Ltd. Scanning electron microscope having magnification switching control
US20020164070A1 (en) * 2001-03-14 2002-11-07 Kuhner Mark B. Automatic algorithm generation
JP4293810B2 (ja) * 2002-03-22 2009-07-08 ニスカ株式会社 印刷制御システム及び印刷制御方法並びにプログラム
JP2004206689A (ja) * 2002-12-11 2004-07-22 Fuji Photo Film Co Ltd 画像修正装置および画像修正プログラム
JP3834041B2 (ja) * 2004-03-31 2006-10-18 オリンパス株式会社 学習型分類装置及び学習型分類方法
JP2006098152A (ja) * 2004-09-29 2006-04-13 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法
JP2008518318A (ja) * 2004-10-26 2008-05-29 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ボケた画像部分の画質を向上する方法
JP4266920B2 (ja) * 2004-12-03 2009-05-27 オリンパス株式会社 分類装置及び分類方法
JP2007124088A (ja) * 2005-10-26 2007-05-17 Olympus Corp 画像撮影装置
JP5056263B2 (ja) * 2007-08-14 2012-10-24 オムロン株式会社 画像検査装置、画像検査方法、コンピュータを画像検査装置として機能させるためのプログラム、およびコンピュータ読み取り可能な記録媒体
JP5002497B2 (ja) * 2008-03-11 2012-08-15 株式会社Pfu 画像処理装置、画像処理方法および画像処理プログラム
JP2009293957A (ja) * 2008-06-02 2009-12-17 Toshiba Corp パターン欠陥検査装置及び検査方法
JP5114302B2 (ja) * 2008-06-12 2013-01-09 株式会社日立ハイテクノロジーズ パターン検査方法,パターン検査装置及びパターン処理装置
JP5187331B2 (ja) * 2010-03-23 2013-04-24 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置、画像処理方法、およびコンピュータプログラム
KR101214806B1 (ko) * 2010-05-11 2012-12-24 가부시키가이샤 사무코 웨이퍼 결함 검사 장치 및 웨이퍼 결함 검사 방법
JP5654867B2 (ja) * 2010-12-27 2015-01-14 パナソニックIpマネジメント株式会社 映像信号処理装置及び映像信号処理方法
JP5767963B2 (ja) * 2011-12-28 2015-08-26 株式会社キーエンス 外観検査装置、外観検査方法及びコンピュータプログラム
CN104584081B (zh) * 2012-09-03 2018-04-27 索尼公司 信息处理设备、信息处理方法和程序
JP6295561B2 (ja) * 2013-09-17 2018-03-20 株式会社リコー 画像検査結果判断装置、画像検査システム及び画像検査結果の判断方法
JP2015087903A (ja) 2013-10-30 2015-05-07 ソニー株式会社 情報処理装置及び情報処理方法
JP5874721B2 (ja) * 2013-12-25 2016-03-02 コニカミノルタ株式会社 画像処理装置、画像補正方法、及び、プログラム
CN105321147B (zh) * 2014-06-25 2019-04-12 腾讯科技(深圳)有限公司 图像处理的方法及装置
CN105205796A (zh) * 2014-06-30 2015-12-30 华为技术有限公司 广域图像获取方法和装置
KR101724555B1 (ko) * 2014-12-22 2017-04-18 삼성전자주식회사 부호화 방법 및 장치와 복호화 방법 및 장치
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
JP2017196037A (ja) * 2016-04-26 2017-11-02 東芝メディカルシステムズ株式会社 X線診断装置
JP6783547B2 (ja) * 2016-04-28 2020-11-11 キヤノンメディカルシステムズ株式会社 X線診断装置
JP2018180875A (ja) * 2017-04-12 2018-11-15 富士通株式会社 判定装置、判定方法および判定プログラム

Also Published As

Publication number Publication date
US11176650B2 (en) 2021-11-16
CN109767419A (zh) 2019-05-17
US20190139213A1 (en) 2019-05-09
JP2019087078A (ja) 2019-06-06
EP3483833B1 (en) 2021-03-03
CN109767419B (zh) 2023-05-16
EP3483833A1 (en) 2019-05-15

Similar Documents

Publication Publication Date Title
JP6936958B2 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
JP6573226B2 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
US20210374940A1 (en) Product defect detection method, device and system
CN109767418B (zh) 检査装置、数据生成装置、数据生成方法及存储介质
CN106846316B (zh) 一种gis内部典型缺陷图像自动识别方法
CN109961421B (zh) 数据生成装置、数据生成方法以及数据生成记录介质
JP6403261B2 (ja) 分類器生成装置、外観検査装置、分類器生成方法、及びプログラム
JP3834041B2 (ja) 学習型分類装置及び学習型分類方法
CN109377445B (zh) 模型训练方法、替换图像背景的方法、装置和电子系统
JP6285640B2 (ja) 自動及び手動欠陥分類の統合
JP6391083B2 (ja) 自動欠陥分類における分類器の準備及び保守
JP2011214903A (ja) 外観検査装置、外観検査用識別器の生成装置及び外観検査用識別器生成方法ならびに外観検査用識別器生成用コンピュータプログラム
JP6113024B2 (ja) 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム
JP2004294360A (ja) 欠陥分類方法及び装置
JP6544716B2 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
JP2022027473A (ja) 半導体試料の検査に使用可能な訓練データの生成
JP2020042754A (ja) 分類装置、分類方法、分類プログラム、及び検査装置
TW202147250A (zh) 異常晶圓圖像分類
Christoff et al. Morphological crater classification via convolutional neural network with application on MOLA data
JP2015106408A (ja) 画像処理装置及び画像処理方法
CN117474916B (zh) 一种图像检测方法、电子设备及存储介质
CN111681229B (zh) 深度学习模型训练方法、可穿戴衣服瑕疵识别方法及装置
WO2023112302A1 (ja) 教師データ作成支援装置、教師データ作成支援方法
JP2022099696A (ja) データ生成装置、データ生成方法、及び、データ生成プログラム
WO2023082018A1 (en) Machine learning system and method for object-specific recognition

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210729

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210811

R150 Certificate of patent or registration of utility model

Ref document number: 6936958

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150