JP2020027424A - 学習データ生成装置、判別モデル生成装置、及びプログラム - Google Patents

学習データ生成装置、判別モデル生成装置、及びプログラム Download PDF

Info

Publication number
JP2020027424A
JP2020027424A JP2018151732A JP2018151732A JP2020027424A JP 2020027424 A JP2020027424 A JP 2020027424A JP 2018151732 A JP2018151732 A JP 2018151732A JP 2018151732 A JP2018151732 A JP 2018151732A JP 2020027424 A JP2020027424 A JP 2020027424A
Authority
JP
Japan
Prior art keywords
data
image
defective
learning
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018151732A
Other languages
English (en)
Inventor
孝志 梶丸
Takashi Kajimaru
孝志 梶丸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Electron Device Ltd
Original Assignee
Tokyo Electron Device Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Electron Device Ltd filed Critical Tokyo Electron Device Ltd
Priority to JP2018151732A priority Critical patent/JP2020027424A/ja
Publication of JP2020027424A publication Critical patent/JP2020027424A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】 学習データを容易に生成可能とする。【解決手段】 一実施形態に係る学習データ生成装置は、不良部画像の画像データである不良部データを記憶する不良部データ記憶部と、良品画像の画像データである良品データを記憶する良品データ記憶部と、前記不良部データ、前記良品データ、及び生成パラメータに基づいて、前記良品画像に前記不良部画像を合成した学習画像の画像データである学習データを生成する学習データ生成部と、前記学習データを記憶する学習データ記憶部と、前記生成パラメータを設定する生成パラメータ設定部と、を備える。【選択図】 図2

Description

本発明は、学習データ生成装置、判別モデル生成装置、及びプログラムに関する。
従来、対象物の画像である対象画像の画像データに基づいて、対象物の外観の状態を検査する外観検査が行われている。外観検査の方法として、対象画像の画像データを判別モデルに入力し、当該対象物の状態を判別する方法が知られている。判別モデルは、予め用意された学習データ(対象画像の画像データ)に基づいて、そのパラメータを機械学習することにより生成される。学習データが多いほど、判別精度が高い判別モデルを生成することができる。
特開2005−149506号公報 特開2001−307067号公報 特開平06−076069号公報
しかしながら、一般に、学習データの収集には大きな手間がかかるため、学習データを大量に用意することは困難であった。結果として、判別精度が高い判別モデルを生成することは困難であった。
本発明は、上記の課題に鑑みてなされたものであり、学習データを容易に生成可能とすることを目的とする。
一実施形態に係る学習データ生成装置は、不良部画像の画像データである不良部データを記憶する不良部データ記憶部と、良品画像の画像データである良品データを記憶する良品データ記憶部と、前記不良部データ、前記良品データ、及び生成パラメータに基づいて、前記良品画像に前記不良部画像を合成した学習画像の画像データである学習データを生成する学習データ生成部と、前記学習データを記憶する学習データ記憶部と、前記生成パラメータを設定する生成パラメータ設定部と、を備える。
本発明の各実施形態によれば、学習データを容易に生成することができる。
判別モデル生成装置のハードウェア構成の一例を示す図。 判別モデル生成装置の機能構成の一例を示す図。 不良品画像の一例を示す図。 不良部画像の一例を示す図。 良品画像の一例を示す図。 学習画像の一例を示す図。 学習データの生成方法の一例を示すフローチャート。 判別モデルの生成方法の一例を示すフローチャート。
以下、本発明の各実施形態について、添付の図面を参照しながら説明する。なお、各実施形態に係る明細書及び図面の記載に関して、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重畳した説明を省略する。
一実施形態に係る判別モデル生成装置1について、図1〜図8を参照して説明する。本実施形態に係る判別モデル生成装置1は、対象物の画像である対象画像の画像データに基づく外観検査に利用される判別モデルを生成する装置である。対象物は、外観検査の対象となる任意の物である。外観検査は、カメラにより対象物を撮影することにより得られた対象画像の画像データに基づいて、当該対象物の外観の状態を検査する任意の検査である。外観検査は、欠陥検査、傷検査、汚れ検査、及び異物検査を含む。判別モデルは、対象画像の画像データに基づいて、当該対象物の状態を判別する任意の数学的モデルである。判別モデルは、学習データに基づいて、パラメータ(以下「判別パラメータ」という。)を機械学習することにより設定される。判別モデルの生成とは、学習データに基づく機械学習により、判別パラメータを最適な値に設定することをいう。本実施形態において、学習データは、後述する学習データ生成装置11により生成される。判別モデル、学習データ、学習データ生成装置11について、詳しくは後述する。
まず、判別モデル生成装置1のハードウェア構成について説明する。図1は、判別モデル生成装置1のハードウェア構成の一例を示す図である。図1の判別モデル生成装置1は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、HDD(Hard Disk Drive)104と、入力装置105と、表示装置106と、通信インタフェース107と、バス108と、を備える。
CPU101は、プログラムを実行することにより、判別モデル生成装置1の各構成を制御し、判別モデル生成装置1の機能を実現する。CPU101が実行するプログラムは、CD(Compact Disk)、DVD、フラッシュメモリなどの、コンピュータ読み取り可能な任意の記録媒体に記録され得る。
ROM102は、CPU101が実行するプログラムや各種のデータを記憶する。
RAM103は、CPU101に作業領域を提供する。
HDD104は、CPU101が実行するプログラムや各種のデータを記憶する。判別モデル生成装置1は、HDD104と共に、又はHDD104の代わりにSSD(Solid State Drive)を備えてもよい。
入力装置105は、ユーザの操作に応じた情報を判別モデル生成装置1に入力する。入力装置105は、タッチパッド、キーボード、マウス、及びハードウェアボタンを含む。
表示装置106は、ユーザの操作に応じた画面を表示する。表示装置106は、液晶ディスプレイ、及び有機EL(Electro Luminescence)ディスプレイを含む。判別モデル生成装置1は、タッチパッドと表示装置106が一体化されたタッチパネルを備えてもよい。
通信インタフェース107は、判別モデル生成装置1をインターネットやLAN(Local Area Network)などのネットワークに接続する。判別モデル生成装置1は、通信インタフェース107を介して、ネットワーク上の外部装置と通信する。
バス108は、CPU101、ROM102、RAM103、HDD104、入力装置105、表示装置106、及び通信インタフェース107を相互に接続する。
なお、図1の例では、判別モデル生成装置1が1つのコンピュータにより構成される場合を想定しているが、判別モデル生成装置1は、ネットワークを介して接続された複数のコンピュータからなるシステムとして構成されてもよい。
次に、判別モデル生成装置1の機能構成について説明する。図2は、判別モデル生成装置1の機能構成の一例を示す図である。図2の判別モデル生成装置1は、テストデータ記憶部12と、前処理部13と、判別モデル学習部14と、判別モデル記憶部15と、判別部16と、前処理パラメータ学習部17と、を備える。テストデータ記憶部12、及び判別モデル記憶部15は、HDD104により実現される。前処理部13、判別モデル学習部14、判別部16、及び前処理パラメータ学習部17は、CPU101がプログラムを実行することにより実現される。
学習データ生成装置11は、複数の学習データを生成する装置である。学習データは、対象物の状態を示すラベル(以下単に「ラベル」という。)と対応付けられた、対象画像の画像データである。学習データは、判別パラメータを機械学習(教師あり学習)するために利用される。図2の例では、学習データ生成装置11は、判別モデル生成装置1の一部として構成されているが、独立した装置として構成されてもよい。また、学習データ生成装置11は、1つのコンピュータにより構成されてもよいし、ネットワークを介して接続された複数のコンピュータからなるシステムとして構成されてもよい。学習データ生成装置11について、詳しくは後述する。
テストデータ記憶部12は、複数のテストデータを記憶する。テストデータは、ラベルと対応付けられた、対象画像の画像データである。テストデータは、予め用意され、テストデータ記憶部12に記憶される。テストデータは、判別モデルの性能を評価するために利用される。
前処理部13は、前処理パラメータに基づいて、学習データ及びテストデータに前処理を実行する。前処理は、画像データの一部をマスクするマスク処理、画像データにフィルタを適用するフィルタ処理、及び画像データのコントラストを調整するコントラスト調整処理を含む。フィルタは、移動平均フィルタ、ガウシアンフィルタ、膨張フィルタ、収縮フィルタ、二値化フィルタ、ガンマ補正フィルタ、色調補正フィルタ、エッジ強調フィルタ、及びエッジ抽出フィルタを含む。前処理パラメータは、上記の前処理を実行する際に利用されるパラメータであり、前処理パラメータ学習部17により設定される。前処理部13は、前処理を実行した学習データを判別モデル学習部14に入力する。また、前処理部13は、前処理を実行したテストデータを判別部16に入力する。
判別モデル学習部14は、前処理部13により前処理された学習データに基づいて、判別パラメータを機械学習(教師あり学習)する。具体的には、判別モデル学習部14は、判別モデルにより判別される学習データのラベルと、当該学習データに対応付けられたラベルと、の一致率が高まるように、判別パラメータを機械学習する。判別モデル学習部14は、判別パラメータを学習可能な任意の機械学習方法(アルゴリズム)を利用することができる。機械学習方法は、サポートベクターマシン、決定木、ランダムフォレスト、ニューラルネットワーク、ディープラーニング、及びk近傍法を含む。判別モデル学習部14は、判別パラメータを機械学習すると、当該判別パラメータを判別モデル記憶部15に保存する。
判別モデル記憶部15は、対象画像の画像データのラベルを判別するための判別モデルを記憶する。判別モデルは、対象画像の画像データを入力されると、当該画像データのラベルを出力する関数である。上述の通り、判別パラメータは、判別モデル学習部14により機械学習され、設定される。
判別部16は、判別モデルに基づいて、前処理部13により前処理されたテストデータのラベルを判別する。具体的には、判別部16は、判別モデルにテストデータを入力し、当該テストデータのラベルを出力する。判別部16は、判別結果を前処理パラメータ学習部17に入力する。判別結果は、テストデータに対応付けられたラベルと、判別部16が判別したテストデータのラベルと、を含む。
前処理パラメータ学習部17は、判別部16の判別結果に基づいて、前処理パラメータを機械学習(教師あり学習)する。具体的には、前処理パラメータ学習部17は、テストデータに対応付けられたラベルと、判別部16が判別したテストデータのラベルと、の一致率が高まるように、前処理パラメータを機械学習する。前処理パラメータ学習部17は、前処理パラメータを学習可能な任意の機械学習方法(アルゴリズム)を利用することができる。機械学習方法は、サポートベクターマシン、決定木、ランダムフォレスト、ニューラルネットワーク、ディープラーニング、及びk近傍法を含む。前処理パラメータ学習部17は、前処理パラメータを機械学習すると、当該前処理パラメータを記憶する。また、前処理パラメータ学習部17は、記憶した前処理パラメータを前処理部13に設定する。
次に、学習データ生成装置11の機能構成について説明する。図2の学習データ生成装置11は、不良品データ記憶部111と、不良部抽出部112と、不良部データ記憶部113と、良品データ記憶部114と、学習データ生成部115と、学習データ記憶部116と、生成パラメータ設定部117と、を備える。不良品データ記憶部111、不良部データ記憶部113、良品データ記憶部114、及び学習データ記憶部116は、HDD104により実現される。不良部抽出部112、学習データ生成部115、及び生成パラメータ設定部117は、CPU101がプログラムを実行することにより実現される。
不良品データ記憶部111は、少なくとも1つの不良品データを記憶する。不良品データは、不良品の画像である不良品画像の画像データである。不良品は、不良部を有する対象物である。不良部は、外観検査における検査対象であり、欠陥検査における欠陥、傷検査における傷、汚れ検査における汚れ、及び異物検査における異物に相当する。不良品データ記憶部111には、不良品をカメラで撮影することにより得られた不良品データが記憶される。
図3は、不良品画像の一例を示す図である。図3の不良品画像は、傷aを有する飲料缶(不良品)の画像である。不良品データ記憶部111には、異なる不良品を撮影して得られる複数の不良品データが記憶されてもよいし、同一の不良品を異なる角度から撮影して得られる複数の不良品データが記憶されてもよい。
不良部抽出部112は、不良品データ記憶部111に記憶された不良品データから不良部データを抽出する。不良部データは、不良部の画像である不良部画像の画像データである。不良品データからの不良部データの抽出は、不良品画像からの不良部画像の抽出に相当する。不良部抽出部112は、入力装置105の操作により入力されたユーザからの指示に従って不良部データを抽出してもよいし、予め設定された抽出方法に従って自動的に不良部データを抽出してもよい。また、不良部抽出部112は、1つの不良品データから1つの不良部データを抽出してもよいし、複数の不良部データを抽出してもよい。不良部抽出部112は、不良部データを抽出すると、当該不良部データを、当該不良部データに対応する不良部の種類(傷、汚れなど)を示すラベルと対応付けて、不良部データ記憶部113に保存する。不良部の種類を示すラベルは、対象物の状態を示すラベルに含まれる。不良部抽出部112が抽出した不良部データに対応するラベルは、不良部画像に基づいて不良部抽出部112により自動的に判別されてもよいし、入力装置105を介してユーザにより入力されてもよい。
不良部データ記憶部113は、少なくとも1つの不良部データをラベルと対応付けて記憶する。不良部データ記憶部113は、不良部抽出部112により抽出された不良部データだけを記憶してもよいし、当該不良部データと共に、CG(Computer Graphics)又はCAD(Computer Aided Design)により人工的に生成された不良部データを記憶してもよい。人工的に生成された不良部データに対応するラベルは、入力装置105を介してユーザにより入力される。
なお、本実施形態において、学習データ生成装置11は、不良品データ記憶部111及び不良部抽出部112を備えない構成も可能である。この場合、不良部データ記憶部113は、人工的に生成された不良部データや、不良品をカメラで撮影することにより得られた不良品データから予め抽出された不良部データを記憶すればよい。
図4は、不良部画像の一例を示す図である。図4の不良部画像は、図3の不良品画像から抽出された傷aの画像である。図4の例では、不良部画像にラベルAが対応付けられる場合を想定している。不良部データ記憶部113には、複数種類の不良部の不良部データが記憶されてもよいし、同一種類の不良部の不良部データが複数記憶されてもよい。
良品データ記憶部114は、少なくとも1つの良品データを記憶する。良品データは、良品の画像である良品画像の画像データである。良品は、不良部を有しない対象物である。良品データ記憶部114には、良品をカメラで撮影することにより得られた良品データが記憶されてもよいし、CG又はCADにより人工的に生成された良品データが記憶されてもよい。
図5は、良品画像の一例を示す図である。図5の良品画像は、飲料缶(良品)の画像である。良品データ記憶部114には、異なる良品を撮影して得られる複数の良品データが記憶されてもよいし、同一の良品を異なる角度から撮影して得られる複数の良品データが記憶されてもよい。
学習データ生成部115は、不良部データ記憶部113に記憶された不良部データと、良品データ記憶部114に記憶された良品データと、生成パラメータ設定部117に設定された生成パラメータと、に基づいて、学習画像の画像データである学習データを生成する。すなわち、学習データ生成部115は、不良部画像と、良品画像と、生成パラメータと、に基づいて、学習画像を生成する。より詳細には、学習データ生成部115は、良品画像に不良部画像を合成して調整前学習画像を生成し、調整前学習画像を調整して学習画像を生成する。
学習画像(学習データ)は、例えば、不良品画像(不良品データ)を含む。すなわち、学習データ生成部115は、良品画像に不良部画像を合成し、不良品画像を生成する。学習データ生成部115は、不良品画像を生成すると、当該不良品画像の画像データ(学習データ)を、当該不良品画像に合成された不良部画像に対応するラベルと対応付けて、学習データ記憶部116に保存する。例えば、学習データ生成部115は、図4の不良部画像と、図5の良品画像と、を合成した不良品画像の画像データを、ラベルAと対応付けて学習データ記憶部116に保存する。学習データ生成部115により生成された不良品画像(学習画像)を判別モデルに学習させることにより、判別モデルによるラベルAの判別精度を向上させることができる。
また、学習画像(学習データ)は、不良品画像(不良品データ)の代わりに、又は不良品画像(不良品データ)と共に、良品画像(良品データ)を含んでもよい。すなわち、学習データ生成部115は、良品画像に不良部画像を合成した画像を、良品画像として生成してもよい。理由は以下の通りである。
判別モデルが不良部の有無だけで良品か否かを判別する場合、不良部の大きさにかかわらず、不良部を有する全ての対象物が不良品と判別されることになる。しかしながら、実際には、対象物が不良部を有する場合であっても、当該不良部が十分に小さい場合には、当該対象物を良品と判別してもよい場合が考えられる。このような場合、不良部が十分に小さい場合には、対象物が良品と判別されるように、判別モデルを学習させるのが好ましい。学習データ生成部115により、不良部を有する対象物の画像を良品画像として生成し、当該良品画像を判別モデルに学習させることにより、判別モデルに、不良部を有する対象物の中で良品と判別してもよい対象物の範囲、すなわち、良品の範囲を学習させることができる。結果として、判別モデルによるラベルの判別精度を向上させることができる。
学習データ生成部115は、良品画像を生成すると、当該良品画像の画像データ(学習データ)を、良品であることを示すラベルXと対応付けて、学習データ記憶部116に保存する。例えば、学習データ生成部115は、図4の不良部画像と、図5の良品画像と、を合成した良品画像の画像データを、ラベルXと対応付けて学習データ記憶部116に保存する。学習データ生成部115により生成された良品画像(学習画像)を判別モデルに学習させることにより、判別モデルによるラベルXの判別精度を向上させることができる。
生成パラメータは、学習データの生成方法を示すパラメータである。学習データ生成部115は、生成パラメータに従って、学習データ(学習画像)を生成する。生成パラメータは、合成パラメータと、調整パラメータと、を含む。
合成パラメータは、良品データ記憶部114に記憶された良品画像に対する不良部画像の合成方法を示すパラメータである。学習データ生成部115は、合成パラメータに従って、良品画像に不良部画像を合成し、調整前学習画像を生成する。合成パラメータは、不良部画像の位置、大きさ、角度、形状、色、輝度、コントラスト、及び材質の少なくとも1つを含む。学習データ生成部115は、複数の合成パラメータに従って調整前学習画像を生成することにより、1つの良品画像及び1つの不良部画像から、複数の調整前学習画像を生成することができる。
調整パラメータは、調整前学習画像の調整方法を示すパラメータである。学習データ生成部115は、調整パラメータに従って、調整前学習画像を調整し、学習画像を生成する。調整パラメータは、調整前学習画像の色、輝度、コントラスト、光源位置、及び材質の少なくとも1つを含む。学習データ生成部115は、複数の調整パラメータに従って学習画像を生成することにより、1つの調整前学習画像から、複数の学習画像を生成することができる。
なお、調整パラメータは、判別モデルによる判別対象となる対象物の実際の撮影環境に対応するように設定されるのが好ましい。例えば、判別対象となる対象物が、正面から光を当てた状態で撮影される場合には、調整パラメータの光源位置は、正面に設定されるのが好ましい。このように、調整パラメータを撮影環境に対応させることにより、学習データを、判別モデルに実際に入力される対象物の画像データに近づけることができるため、当該学習データによる判別モデルの学習効果を向上させ、判別モデルの判別精度を向上させることができる。
学習データ記憶部116は、学習データ生成部115が生成した学習データをラベルと対応付けて記憶する。図6は、学習画像の一例を示す図である。図6の学習画像は、図4の不良部画像と、図5の良品画像と、に基づいて生成された学習画像である。
学習画像Im1は、図4の不良部画像を図5の良品画像に合成した不良品画像である。学習画像Im1は、図3の不良品画像に相当し、ラベルAを対応付けられている。学習画像Im2は、図4の不良部画像を大きくして図5の良品画像に合成した不良品画像である。学習画像Im2は、ラベルAを対応付けられている。学習画像Im3は、図4の不良部画像の角度を変えて図5の良品画像に合成した不良品画像である。学習画像Im3は、ラベルAを対応付けられている。学習画像Im4は、図4の不良部画像の色を変えて図5の良品画像に合成した不良品画像である。学習画像Im4は、ラベルAを対応付けられている。学習画像Im5は、図4の不良部画像を図5の良品画像に合成した調整前合成画像の輝度を変えた不良品画像である。学習画像Im5は、輝度を変えた図3の不良品画像に相当し、ラベルAを対応付けられている。学習画像Im6は、図4の不良部画像を小さくして図5の良品画像に合成した良品画像である。学習画像Im6は、ラベルXを対応付けられている。
図6からわかるように、学習データ生成部115は、1つの良品画像及び1つの不良部画像から、複数の異なる学習画像を生成することができる。学習データ記憶部116には、学習データ生成部115が生成した複数の異なる学習データが記憶される。
生成パラメータ設定部117は、学習データ生成部115に生成パラメータを設定する。生成パラメータ設定部117は、学習データ生成部115が生成する学習データごとに、異なる生成パラメータを設定する。生成パラメータ設定部117は、学習データごとに、ランダムに選択した生成パラメータを設定してもよいし、予め設定されたルールに従って選択した生成パラメータを設定してもよい。また、生成パラメータ設定部117は、表示装置106に生成パラメータの入力画面を表示させ、ユーザからの生成パラメータの入力を受け付けてもよい。これにより、ユーザは、判別モデルによる判別対象となる対象物の実際の撮影環境に対応するように調整パラメータを設定する、というように、所望の生成パラメータを設定することができる。
次に、学習データの生成方法について説明する。図7は、学習データの生成方法の一例を示すフローチャートである。
まず、ユーザは、良品をカメラで撮影することにより得られた1つ又は複数の良品データを良品データ記憶部114に保存する(ステップS101)。ユーザは、CG又はCADにより人工的に生成された良品データを良品データ記憶部114に保存してもよい。良品データ記憶部114は、保存された良品データを記憶する。
次に、ユーザは、不良品をカメラで撮影することにより得られた1つ又は複数の不良品データを不良品データ記憶部111に保存する(ステップS102)。ユーザは、CG又はCADにより人工的に生成された不良品データを不良品データ記憶部111に保存してもよい。不良品データ記憶部111は、保存された不良品データを記憶する。
不良品データ記憶部111に不良品データが保存されると、不良部抽出部112は、不良品データ記憶部111から1つ又は複数の不良品データを読み出し、当該不良品データから不良部データを抽出する(ステップS103)。不良部抽出部112は、不良部データを抽出すると、当該不良部データを不良部データ記憶部113に保存する(ステップS104)。不良部データ記憶部113は、保存された不良部データを記憶する。
不良部データ記憶部113に不良部データが保存されると、生成パラメータ設定部117は、学習データ生成部115に生成パラメータを設定する(ステップS105)。
学習データ生成部115は、生成パラメータを設定されると、不良部データ記憶部113から不良部データを読み出し、良品データ記憶部114から良品データを読み出し、生成パラメータに従って、学習データを生成する(ステップS106)。不良部データ記憶部113に複数の不良部データが記憶されている場合、学習データ生成部115が読み出す不良部データは、ランダムに選択されてもよいし、予め設定されたルールに従って選択されてもよいし、入力装置105の操作により入力されたユーザからの指示に従って選択されてもよい。同様に、良品データ記憶部114に複数の良品データが記憶されている場合、学習データ生成部115が読み出す良品データは、ランダムに選択されてもよいし、予め設定されたルールに従って選択されてもよいし、入力装置105の操作により入力されたユーザからの指示に従って選択されてもよい。学習データ生成部115は、学習データを生成すると、当該学習データをラベルと対応付けて学習データ記憶部116に保存する(ステップS107)。学習データ記憶部116は、保存された学習データを記憶する。
学習データの生成を終了しない場合(ステップS108:NO)、生成パラメータ設定部117は、学習データ生成部115に次の生成パラメータを設定する(ステップS105)。以降、学習データの生成が終了するまで、ステップS105〜S107の処理が繰り返される。これにより、複数の学習データが生成され、学習データ記憶部116に保存される。
一方、学習データの生成を終了する場合(ステップS108:YES)、学習データ生成装置11は動作を終了する。学習データの生成の終了条件は、例えば、生成する学習データの数であるが、これに限られない。
以上説明した通り、本実施形態によれば、学習データ生成装置11は、1つの良品画像(良品データ)及び1つの不良部画像(不良部データ)から、複数の学習画像(学習データ)を容易に生成することができる。これにより、大量の学習データを簡単に用意し、判別モデルの学習に利用することができる。結果として、判別モデルの判別精度を向上させることができる。
次に、判別モデルの生成方法について説明する。図8は、判別モデルの生成方法の一例を示すフローチャートである。以下、学習データは生成済みであるものとする。また、学習データ及びテストデータには、それぞれラベルA,Xのいずれかが対応付けられているものとする。
まず、ユーザは、対象物をカメラで撮影することにより得られた1つ又は複数のテストデータをラベルと対応付けてテストデータ記憶部12に保存する(ステップS201)。テストデータ記憶部12は、保存されたテストデータを記憶する。
次に、ユーザは、判別モデルを判別モデル記憶部15に保存する(ステップS202)。この際、判別パラメータは初期値に設定される。判別モデル記憶部15は、保存された判別モデルを記憶する。
判別モデル記憶部15に判別モデルが保存されると、前処理パラメータ学習部17は、前処理部13に前処理パラメータを設定する(ステップS203)。
前処理部13は、前処理パラメータを設定されると、学習データ記憶部116から学習対象となる複数の学習データを読み出し、前処理パラメータに従って、当該学習データに前処理を実行する(ステップS204)。学習対象となる学習データは、前処理部13により、ランダムに選択されてもよいし、予め設定されたルールに従って選択されてもよいし、入力装置105の操作により入力されたユーザからの指示に従って選択されてもよい。また、学習対象となる学習データは、学習データ記憶部116に記憶された学習データの全てであってもよいし、一部であってもよい。前処理部13は、学習データに前処理を実行すると、当該学習データを判別モデル学習部14に入力する。
判別モデル学習部14は、前処理を実行された複数の学習データを入力されると、判別モデル記憶部15から判別モデルを読み出し、入力された複数の学習データに基づいて、判別パラメータを機械学習する(ステップS205)。判別モデル学習部14は、機械学習により得られた判別パラメータを判別モデル記憶部15に保存する(ステップS206)。判別モデル記憶部15は、保存された判別パラメータを記憶する。
新たな判別パラメータが保存されると、前処理部13は、テストデータ記憶部12からテスト対象となる複数のテストデータを読み出し、前処理パラメータに従って、当該テストデータに前処理を実行する(ステップS207)。テスト対象となるテストデータは、前処理部13により、ランダムに選択されてもよいし、予め設定されたルールに従って選択されてもよいし、入力装置105の操作により入力されたユーザからの指示に従って選択されてもよい。また、テスト対象となるテストデータは、テストデータ記憶部12に記憶されたテストデータの全てであってもよいし、一部であってもよい。前処理部13は、テストデータに前処理を実行すると、当該テストデータを判別部16に入力する。
判別部16は、前処理を実行された複数のテストデータを入力されると、判別モデル記憶部15から新たに保存された判別パラメータを含む判別モデルを読み出し、当該判別モデルに基づいて、入力された複数のテストデータのラベルをそれぞれ判別する(ステップS208)。判別部16は、複数のテストデータのラベルを判別すると、判別結果を前処理パラメータ学習部17に入力する。前処理パラメータ学習部17は、判別結果を入力されると、当該判別結果をステップS203で設定した前処理パラメータと対応付けて記憶する。
判別モデルの生成を終了しない場合(ステップS209:NO)、前処理パラメータ学習部17は、前処理部13に次の前処理パラメータを設定する(ステップS203)。以降、判別モデルの生成を終了するまで、ステップS203〜S208の処理が繰り返される。
一方、学習データの生成を終了する場合(ステップS209:YES)、前処理パラメータ学習部17は、複数の前処理パラメータの中から、判別結果が最も良い(判別精度が最も高い)ものを最適な前処理パラメータとして選択する(ステップS210)。前処理パラメータ学習部17は、選択した前処理パラメータを記憶する。
また、判別モデル記憶部15は、複数の判別パラメータの中から、判別結果が最も良い(判別精度が最も高い)ものを最適な判別パラメータとして選択する(ステップS211)。判別モデル記憶部15は、選択した判別パラメータを記憶する。
その後、判別モデル生成装置1は動作を終了する。判別モデルの生成の終了条件は、例えば、生成する前処理パラメータの候補の数(ステップS203〜S208の処理のサイクル数)であるが、これに限られない。
以上説明した通り、本実施形態によれば、判別モデル生成装置1は、複数の前処理パラメータについて、判別パラメータの機械学習及び判別結果の取得を自動的に実行し、複数の前処理パラメータの中から最適な前処理パラメータを選択し、複数の判別パラメータの中から最適な判別パラメータを選択することができる。最適な判別パラメータを含む判別モデルを利用し、判別モデルに入力される画像データに最適な前処理パラメータに基づいた前処理を実行することにより、外観検査の検査精度を向上させることができる。
なお、本実施形態において、良品データを利用せずに、不良部データに基づいて学習データを生成することも可能である。具体的には、学習データ生成部115は、不良部データ記憶部113に記憶された不良部データと、生成パラメータ設定部117により設定された生成パラメータと、に基づいて、学習データを生成する。すなわち、学習データ生成部115は、不良部画像及び生成パラメータに基づいて学習画像を生成する。より詳細には、学習データ生成部115は、不良部画像を調整して学習画像を生成する。不良部画像は、調整前学習画像に相当する。
学習データ生成部115は、学習画像(調整された不良部画像)を生成すると、当該学習画像の画像データ(学習データ)を、不良部画像(不良部データ)に対応するラベルと対応付けて、学習データ記憶部116に保存する。学習データ生成部115により生成された学習画像を判別モデルに学習させることにより、判別モデルによるラベルの判別精度を向上させることができる。
そして、判別モデル学習部14が前処理部13により前処理された学習データに基づいて、対象物に含まれる不良部を判別する不良部判別モデルの判別パラメータを機械学習し、判別モデル記憶部15が不良部判別モデルの判別パラメータを記憶し、判別部16が不良部判別モデルに基づいて、前処理部13により前処理されたテストデータのラベル(対象物に含まれる不良部)を判別し、前処理パラメータ学習部17が判別部16の判別結果に基づいて、前処理パラメータを機械学習する。
これにより、判別モデル生成装置1は、複数の前処理パラメータについて、判別パラメータの機械学習及び判別結果の取得を自動的に実行し、複数の前処理パラメータの中から最適な前処理パラメータを選択し、複数の判別パラメータの中から最適な判別パラメータを選択することができる。最適な判別パラメータを含む不良部判別モデルを利用し、不良部判別モデルに入力される画像データに最適な前処理パラメータに基づいた前処理を実行することにより、外観検査の検査精度(対象物に含まれる不良部のオブジェクト認識の精度)を向上させることができる。
以上、本発明の好ましい実施形態について詳説したが、本発明は、上述した実施形態に制限されることはなく、本発明の範囲を逸脱することなしに上述した実施形態に種々の変形及び置換を加えることができる。
1:判別モデル生成装置
11:学習データ生成装置
12:テストデータ記憶部
13:前処理部
14:判別モデル学習部
15:判別モデル記憶部
16:判別部
17:前処理パラメータ学習部
101:CPU
102:ROM
103:RAM
104:HDD
105:入力装置
106:表示装置
107:通信インタフェース
108:バス
111:不良品データ記憶部
112:不良部抽出部
113:不良部データ記憶部
114:良品データ記憶部
115:学習データ生成部
116:学習データ記憶部
117:生成パラメータ設定部

Claims (11)

  1. 不良部画像の画像データである不良部データを記憶する不良部データ記憶部と、
    良品画像の画像データである良品データを記憶する良品データ記憶部と、
    前記不良部データ、前記良品データ、及び生成パラメータに基づいて、前記良品画像に前記不良部画像を合成した学習画像の画像データである学習データを生成する学習データ生成部と、
    前記学習データを記憶する学習データ記憶部と、
    前記生成パラメータを設定する生成パラメータ設定部と、
    を備える学習データ生成装置。
  2. 前記学習画像は、不良品画像を含む
    請求項1に記載の学習データ生成装置。
  3. 前記学習画像は、良品画像を含む
    請求項1又は請求項2に記載の学習データ生成装置。
  4. 不良品画像の画像データから前記不良部データを抽出する不良部抽出部を更に備え、
    前記不良部データ記憶部は、前記不良部抽出部により抽出された前記不良部データを記憶する
    請求項1から請求項3までのいずれか1項に記載の学習データ生成装置。
  5. 前記生成パラメータは、前記不良部画像の位置、大きさ、角度、形状、色、輝度、コントラスト、及び材質の少なくとも1つを含む
    請求項1から請求項4までのいずれか1項に記載の学習データ生成装置。
  6. 前記生成パラメータは、前記学習画像の色、輝度、コントラスト、光源位置、及び材質の少なくとも1つを含む
    請求項1から請求項5までのいずれか1項に記載の学習データ生成装置。
  7. 前記不良部データ記憶部は、人工的に生成された前記不良部データを記憶する
    請求項1から請求項6までのいずれか1項に記載の学習データ生成装置。
  8. 前記良品データ記憶部は、人工的に生成された前記良品データを記憶する
    請求項1から請求項7までのいずれか1項に記載の学習データ生成装置。
  9. 不良部画像の画像データである不良部データを記憶する不良部データ記憶部と、
    前記不良部データ及び生成パラメータに基づいて、学習画像の画像データである学習データを生成する学習データ生成部と、
    前記学習データを記憶する学習データ記憶部と、
    前記生成パラメータを設定する生成パラメータ設定部と、
    を備える学習データ生成装置。
  10. 請求項1から請求項9までのいずれか1項に記載の学習データ生成装置と、
    前処理パラメータに基づいて、前記学習データに前処理を実行する前処理部と、
    前処理された前記学習データに基づいて、判別モデルのパラメータを機械学習する判別モデル学習部と、
    前記判別モデルに基づいて、対象画像のラベルを判別する判別部と、
    前記判別部による判別結果に基づいて、前記前処理パラメータを機械学習する前処理パラメータ学習部と、
    を備える判別モデル生成装置。
  11. 不良部画像の画像データである不良部データを記憶する不良部データ記憶部と、
    良品画像の画像データである良品データを記憶する良品データ記憶部と、
    学習データを記憶する学習データ記憶部と、
    を備えたコンピュータに、
    生成パラメータを設定する工程と、
    前記不良部データ、前記良品データ、及び前記生成パラメータに基づいて、前記良品画像に前記不良部画像を合成した学習画像の画像データである前記学習データを生成する工程と、
    を実行させるためのプログラム。
JP2018151732A 2018-08-10 2018-08-10 学習データ生成装置、判別モデル生成装置、及びプログラム Pending JP2020027424A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018151732A JP2020027424A (ja) 2018-08-10 2018-08-10 学習データ生成装置、判別モデル生成装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018151732A JP2020027424A (ja) 2018-08-10 2018-08-10 学習データ生成装置、判別モデル生成装置、及びプログラム

Publications (1)

Publication Number Publication Date
JP2020027424A true JP2020027424A (ja) 2020-02-20

Family

ID=69622208

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018151732A Pending JP2020027424A (ja) 2018-08-10 2018-08-10 学習データ生成装置、判別モデル生成装置、及びプログラム

Country Status (1)

Country Link
JP (1) JP2020027424A (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210116913A (ko) * 2020-03-18 2021-09-28 라온피플 주식회사 불량 이미지 생성 장치 및 방법
KR20210117782A (ko) * 2020-03-20 2021-09-29 라온피플 주식회사 딥러닝을 이용한 신규 제품의 품질 검사 방법 및 시스템
CN113538631A (zh) * 2020-04-20 2021-10-22 贤智研究株式会社 通过基于用户输入所生成的人工智能模型来生成虚拟缺陷图像的计算机程序、方法和装置
KR20210128190A (ko) * 2020-04-16 2021-10-26 한국세라믹기술원 가상 결함 데이터 생성 방법
JP2021183773A (ja) * 2020-05-21 2021-12-02 清水建設株式会社 切羽画像加工装置、切羽画像加工方法
KR20220067617A (ko) 2020-11-17 2022-05-25 (주)자비스 학습데이터 생성 방법, 장치, 프로그램 및 이를 이용한 이물질 검출 방법
KR20220074021A (ko) * 2020-11-27 2022-06-03 씨제이올리브네트웍스 주식회사 상품불량 선별을 위한 딥러닝 기반의 이미지 분석 방법 및 이를 위한 시스템
KR102489115B1 (ko) * 2022-01-11 2023-01-17 주식회사 아이브 제조품의 비전 검사를 위한 심층 학습 방법 및 장치
JP2023520066A (ja) * 2020-03-31 2023-05-15 アーベーベー・シュバイツ・アーゲー 産業用機械学習のためのデータ処理
WO2023139688A1 (ja) * 2022-01-19 2023-07-27 三菱重工エンジン&ターボチャージャ株式会社 欠陥診断モデル作成装置、欠陥診断モデル作成方法及び欠陥診断モデル作成プログラム
WO2023238590A1 (ja) * 2022-06-10 2023-12-14 日立Astemo株式会社 疑似欠陥画像生成装置
WO2024079991A1 (ja) * 2022-10-12 2024-04-18 パナソニックIpマネジメント株式会社 分類モデル生成システム、分類モデル生成方法及びプログラム
JP7487392B1 (ja) 2023-10-06 2024-05-20 セーフィー株式会社 システム、方法、およびプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004333451A (ja) * 2003-05-12 2004-11-25 Nec Corp レチクル検査装置評価用欠陥データ作り込み方法、システム、装置、及びプログラム
JP2004354251A (ja) * 2003-05-29 2004-12-16 Nidek Co Ltd 欠陥検査装置
JP2005156334A (ja) * 2003-11-25 2005-06-16 Nec Tohoku Sangyo System Kk 疑似不良画像自動作成装置及び画像検査装置
JP2009238992A (ja) * 2008-03-27 2009-10-15 Tokyo Electron Ltd 欠陥分類方法、プログラム、コンピュータ記憶媒体及び欠陥分類装置
JP2015090559A (ja) * 2013-11-05 2015-05-11 キヤノン株式会社 データ処理方法及び装置、データ識別方法及び装置、プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004333451A (ja) * 2003-05-12 2004-11-25 Nec Corp レチクル検査装置評価用欠陥データ作り込み方法、システム、装置、及びプログラム
JP2004354251A (ja) * 2003-05-29 2004-12-16 Nidek Co Ltd 欠陥検査装置
JP2005156334A (ja) * 2003-11-25 2005-06-16 Nec Tohoku Sangyo System Kk 疑似不良画像自動作成装置及び画像検査装置
JP2009238992A (ja) * 2008-03-27 2009-10-15 Tokyo Electron Ltd 欠陥分類方法、プログラム、コンピュータ記憶媒体及び欠陥分類装置
JP2015090559A (ja) * 2013-11-05 2015-05-11 キヤノン株式会社 データ処理方法及び装置、データ識別方法及び装置、プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
片山 隼多、外6名: ""画像検査システムの評価のための模擬検査画像生成の検討"", 第23回 画像センシングシンポジウム SSII2017, JPN6019035251, 7 June 2017 (2017-06-07), JP, pages 1 - 4, ISSN: 0004113600 *

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102372987B1 (ko) * 2020-03-18 2022-03-11 라온피플 주식회사 불량 이미지 생성 장치 및 방법
KR20210116913A (ko) * 2020-03-18 2021-09-28 라온피플 주식회사 불량 이미지 생성 장치 및 방법
WO2021187732A3 (ko) * 2020-03-18 2021-11-11 라온피플 주식회사 불량 이미지 생성 장치 및 방법
KR20210117782A (ko) * 2020-03-20 2021-09-29 라온피플 주식회사 딥러닝을 이용한 신규 제품의 품질 검사 방법 및 시스템
KR102486230B1 (ko) * 2020-03-20 2023-01-10 라온피플 주식회사 딥러닝을 이용한 신규 제품의 품질 검사 방법 및 시스템
JP2023520066A (ja) * 2020-03-31 2023-05-15 アーベーベー・シュバイツ・アーゲー 産業用機械学習のためのデータ処理
KR20210128190A (ko) * 2020-04-16 2021-10-26 한국세라믹기술원 가상 결함 데이터 생성 방법
KR102408754B1 (ko) 2020-04-16 2022-06-13 한국세라믹기술원 가상 결함 데이터 생성 방법
KR20210129775A (ko) * 2020-04-20 2021-10-29 세이지리서치 주식회사 사용자 입력에 기반하여 생성된 인공지능 모델을 이용하여 가상 결함 이미지를 생성하기 위한 컴퓨터 프로그램, 방법, 및 장치
CN113538631A (zh) * 2020-04-20 2021-10-22 贤智研究株式会社 通过基于用户输入所生成的人工智能模型来生成虚拟缺陷图像的计算机程序、方法和装置
WO2021215730A1 (ko) * 2020-04-20 2021-10-28 세이지리서치 주식회사 사용자 입력에 기반하여 생성된 인공지능 모델을 이용하여 가상 결함 이미지를 생성하기 위한 컴퓨터 프로그램, 방법, 및 장치
KR102430090B1 (ko) 2020-04-20 2022-08-11 세이지리서치 주식회사 사용자 입력에 기반하여 생성된 인공지능 모델을 이용하여 가상 결함 이미지를 생성하기 위한 컴퓨터 프로그램, 방법, 및 장치
JP2021183773A (ja) * 2020-05-21 2021-12-02 清水建設株式会社 切羽画像加工装置、切羽画像加工方法
JP7453848B2 (ja) 2020-05-21 2024-03-21 清水建設株式会社 切羽画像加工装置、切羽画像加工方法
KR20220067617A (ko) 2020-11-17 2022-05-25 (주)자비스 학습데이터 생성 방법, 장치, 프로그램 및 이를 이용한 이물질 검출 방법
KR20230090302A (ko) 2020-11-17 2023-06-21 (주)자비스 딥러닝 기반의 불량품 이미지를 생성하는 학습데이터 구축 방법, 장치 및 프로그램
KR20220074021A (ko) * 2020-11-27 2022-06-03 씨제이올리브네트웍스 주식회사 상품불량 선별을 위한 딥러닝 기반의 이미지 분석 방법 및 이를 위한 시스템
KR102621884B1 (ko) * 2020-11-27 2024-01-05 씨제이올리브네트웍스 주식회사 상품불량 선별을 위한 딥러닝 기반의 이미지 분석 방법 및 이를 위한 시스템
KR102489115B1 (ko) * 2022-01-11 2023-01-17 주식회사 아이브 제조품의 비전 검사를 위한 심층 학습 방법 및 장치
WO2023139688A1 (ja) * 2022-01-19 2023-07-27 三菱重工エンジン&ターボチャージャ株式会社 欠陥診断モデル作成装置、欠陥診断モデル作成方法及び欠陥診断モデル作成プログラム
WO2023238590A1 (ja) * 2022-06-10 2023-12-14 日立Astemo株式会社 疑似欠陥画像生成装置
WO2024079991A1 (ja) * 2022-10-12 2024-04-18 パナソニックIpマネジメント株式会社 分類モデル生成システム、分類モデル生成方法及びプログラム
JP7487392B1 (ja) 2023-10-06 2024-05-20 セーフィー株式会社 システム、方法、およびプログラム

Similar Documents

Publication Publication Date Title
JP2020027424A (ja) 学習データ生成装置、判別モデル生成装置、及びプログラム
JP7114774B2 (ja) 顔融合モデルのトレーニング方法、装置及び電子機器
WO2019117065A1 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
US11176650B2 (en) Data generation apparatus, data generation method, and data generation program
US20170278308A1 (en) Image modification and enhancement using 3-dimensional object model based recognition
JP2024509411A (ja) 欠陥検出方法、装置及びシステム
JP2018005640A (ja) 分類器生成装置、画像検査装置、及び、プログラム
JP6607261B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2006337152A (ja) 教示用画像生成方法および装置、画像処理アルゴリズム生成方法および装置、画像検査方法および装置、プログラムならびに記録媒体
US20210110215A1 (en) Information processing device, information processing method, and computer-readable recording medium recording information processing program
CN111767228A (zh) 基于人工智能的界面测试方法、装置、设备和介质
US20150063697A1 (en) Method and apparatus for segmenting object in image
US11562479B2 (en) Inspection apparatus, inspection method, and non-volatile storage medium
JP7383022B2 (ja) 自動リアルタイム高ダイナミックレンジコンテンツレビューシステム
US20110142336A1 (en) Similar shader search apparatus and method using image feature extraction
US20180033156A1 (en) Method and device for filtering texture, using patch shift
US11200645B2 (en) Previewing a content-aware fill
JP6177649B2 (ja) データ処理装置、測長システム、欠陥検査システム、画像トラッキングシステム、及びデータ処理方法
JP7240199B2 (ja) パラメータ決定方法、パラメータ決定装置、及びプログラム
US10586311B2 (en) Patch validity test
JP2018005505A (ja) 画像認識パラメータ設定装置、画像認識パラメータ設定方法、および画像認識パラメータ設定プログラム
RU2810697C2 (ru) Автоматизированная система просмотра контента с высоким динамическим диапазоном в реальном времени
US20230169708A1 (en) Image and video matting
JP7073806B2 (ja) スクラッチ判定プログラム、スクラッチ判定装置およびスクラッチ判定方法
JP2022051460A (ja) 情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190917

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200324