JP7197021B2 - 情報処理装置、情報処理プログラム、及び、情報処理方法 - Google Patents

情報処理装置、情報処理プログラム、及び、情報処理方法 Download PDF

Info

Publication number
JP7197021B2
JP7197021B2 JP2021541361A JP2021541361A JP7197021B2 JP 7197021 B2 JP7197021 B2 JP 7197021B2 JP 2021541361 A JP2021541361 A JP 2021541361A JP 2021541361 A JP2021541361 A JP 2021541361A JP 7197021 B2 JP7197021 B2 JP 7197021B2
Authority
JP
Japan
Prior art keywords
image
images
pseudo
pass
fail
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021541361A
Other languages
English (en)
Other versions
JPWO2021033239A1 (ja
Inventor
貴史 布施
順二 富田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2021033239A1 publication Critical patent/JPWO2021033239A1/ja
Application granted granted Critical
Publication of JP7197021B2 publication Critical patent/JP7197021B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/047Probabilistic or stochastic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、情報処理装置、情報処理プログラム、及び、情報処理方法に関する。
従来より、同一対象が写る画像のペアと、異なる対象が写る画像のペアとを複数取得する取得手段と、前記取得手段により取得された前記ペアの一方の画像と他方の画像に特徴点を設定する設定手段とを備える学習装置がある。
前記一方の画像と前記他方の画像の同じ位置に設定された所定の特徴点を複数選択し、前記所定の特徴点の特徴の抽出に用いられる特徴抽出フィルタを前記所定の特徴点毎に選択する選択手段と、前記選択手段により選択された複数の前記特徴抽出フィルタを用いて、前記一方の画像と前記他方の画像のそれぞれの前記所定の特徴点の特徴を抽出する抽出手段とをさらに備える。
前記抽出手段により前記一方の画像から抽出された特徴と前記他方の画像から抽出された特徴との相関を求める算出手段と、前記算出手段により求められた前記相関と、前記一方の画像と前記他方の画像に写る対象が同一対象であるか否かを表すラベル情報に基づいて、二枚の画像に写る対象が同一であるか否かを識別するための同一対象識別器を学習する学習手段をさらに備える(例えば、特許文献1参照)。
特開2012-083938号公報
ところで、従来の学習装置は、量産品のうちの良品(検査での合格品)の画像(合格画像)と不良品(検査での不合格品)の画像(不合格画像)の合否を判定できるように機械学習を行った検査プログラム(第1検査プログラム)がある場合に、学習した量産品と同一種類の検査対象に対し合否を判定するものであり、未知の画像の合否を第1検査プログラムに判定させることが適切であるかどうかを判定するものではない。
例えば、未知の画像に対して合格画像と不合格画像の合否を判定できるように機械学習を行い第1検査プログラムによる合否の判定結果を得るために、時間が掛かる場合、又は、準備作業等の手間が掛かる場合等に、第1検査プログラムに判定を行わせる前に、第1検査プログラムが合否を判定していない未知の画像の合否を第1検査プログラムに判定させることが適切であるかどうかを判定できると、第1検査プログラムを有効的に利用することができる。
そこで、量産品の合格画像と不合格画像の合否を判定できるように機械学習を行った第1検査プログラムに未知の画像の合否を判定させることが適切であるかどうかを判定できる第2検査プログラムを得ることができる、情報処理装置、情報処理プログラム、及び、情報処理方法を提供することを目的とする。
本発明の実施の形態の情報処理装置は、第1機械学習済みの第1検査プログラムが合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像を取得する第1画像取得部と、前記判定済ペア画像の合格画像及び不合格画像に対して第1疑似画像生成処理を行った合格画像及び不合格画像を含む第1疑似ペア画像を生成する第1画像生成部と、前記第1疑似ペア画像の合格画像及び不合格画像について前記第1検査プログラムが合否を判定した判定結果を取得する判定結果取得部と、前記判定結果に基づいて、前記第1検査プログラムが合否を判定した第1疑似ペア画像をペア毎に、前記判定の正否に応じてランク付けするランク付け部と、ペア画像の合格画像及び不合格画像が入力されると、当該ペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であるかどうかを判定する第2検査プログラムで表される数学モデルと、前記判定済ペア画像と、前記ランク付けされた第1疑似ペア画像とを入力とする第2機械学習を前記数学モデルに行わせる学習処理部とを含み、前記第1画像生成部は、前記ランク付けされた第1疑似ペア画像の数が第1所定数以上になるまで前記第1疑似ペア画像の生成を行い、前記学習処理部は、前記判定済ペア画像と、前記第1所定数以上の前記ランク付けされた第1疑似ペア画像とを入力とする前記第2機械学習を前記数学モデルに行わせることにより、未知のペア画像の合格画像及び不合格画像を前記数学モデルに入力すると、当該未知のペア画像の合格画像及び不合格画像が所定のランク以上である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であると前記数学モデルが判定し、前記所定のランク未満である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが不適切であると前記数学モデルが判定するように前記数学モデルを学習させる。
量産品の合格画像と不合格画像の合否を判定できるように機械学習を行った第1検査プログラムに未知の画像の合否を判定させることが適切であるかどうかを判定できる第2検査プログラムを得ることができる、情報処理装置、情報処理プログラム、及び、情報処理方法を提供することができる。
実施の形態の検査プログラム生成装置100を含むシステム1を示す図である。 検査プログラム生成装置100を実現するコンピュータシステム20の斜視図である。 コンピュータシステム20の本体部21内の要部の構成を説明するブロック図である。 検査プログラム生成装置100の構成を示す図である。 ランク1~6のペア画像の一例を示す図である。 検査プログラム生成装置100が取り扱う画像識別データを示す図である。 検査部11による画像の評価とDNN119の学習用及び評価用の画像とに関する条件を示す図である。 検査部11による疑似ペア画像1の合格画像と不合格画像の判定結果の分布を示す図である。 検査部11による疑似ペア画像2の合格画像と不合格画像の判定結果の分布を示す図である。 検査プログラム生成装置100の制御装置110が実施する処理を表すフローチャートを示す図である。 検査プログラム生成装置100の制御装置110が実施する処理を表すフローチャートを示す図である。
以下、本発明の情報処理装置、情報処理プログラム、及び、情報処理方法を適用した実施の形態について説明する。
<実施の形態>
図1は、実施の形態の検査プログラム生成装置100を含むシステム1を示す図である。システム1は、検査装置10と検査プログラム生成装置100とを含む。検査装置10と検査プログラム生成装置100とはネットワーク50によってデータ通信可能に接続されている。ネットワーク50は、LAN(Local Area Network)、WLAN(Wireless LAN)、WAN(Wide Area Network)等である。
検査装置10は、検査部11とメモリ12を含む。検査部11は、検査装置10に検査プログラムがインストールされることによって実現される機能を表したものであり、メモリ12は検査装置10のRAM(Random Access Memory)、ROM(Read Only Memory)、及び/又はHDD(Hard Disk Drive)等を機能的に表したものである。
検査部11を実現する検査プログラムは、第1機械学習済みの第1検査プログラムの一例であり、検査装置10を実現するコンピュータシステムの一部を検査部11として機能させる。
検査部11を実現する検査プログラムは、一例として、同一種類の量産される製品(量産品)についての合格品(良品)のリアル画像と不合格品(不良品)のリアル画像とのペア画像を表す教師データを用いて、合格品と不合格品を正確に判定できるように機械学習を行った機械学習済みのプログラムである。
ここで、合格品と不合格品を正確に判定できるとは、所定の確率以上で合格品と不合格品を判定できること(合否を判定できること)をいい、所定の確率は、一例として95%である。
また、合格品とは、所定の量産品について人間が検査を行い、検査に合格した量産品であり、不合格品とは、所定の量産品について人間が検査を行い、検査に合格しなかった量産品である。
また、リアル画像とは、被写体に光を照射し、被写体で反射される光によって得られる画像であり、典型的にはカメラ等で被写体を撮影して得る写真画像である。すなわち、合格品のリアル画像とは、検査に合格した合格品についてのリアル画像であり、不合格品のリアル画像とは、検査に合格しなかった量産品についてのリアル画像である。
また、合格品のリアル画像と不合格品のリアル画像とは、合格品及び不合格品のいずれであるかの正解が分かっている合格品と不合格品についてのリアル画像であるので、合格品のリアル画像と不合格品のリアル画像とのペア画像を表す教師データとして利用可能なデータである。
また、検査プログラム生成装置100は、合格品のリアル画像と不合格品のリアル画像とに疑似画像生成処理を行うことにより、疑似的な合格品の画像と不合格品の画像とを生成する。
疑似とは、良く似ていてひと目見た程度では判別が容易ではないことを言う。量産品の個体差による形状の違い又は位置の違い等は、疑似の範囲に入るものである。また、疑似画像生成処理とは、合格品のリアル画像及び不合格品のリアル画像に良く似た疑似的な合格品の画像と不合格品の画像とを生成する処理である。合格品のリアル画像及び不合格品のリアル画像に対する疑似的な合格品の画像及び不合格品の画像の類似度は、疑似画像生成処理におけるパラメータ等によって調整することができる。
以下では、合格品のリアル画像と不合格品のリアル画像と、疑似的な合格品の画像と不合格品の画像とに1~6のランク付けを行う。
また、以下では、ランク1の合格画像及び不合格画像とは、それぞれ、合格品のリアル画像、及び、不合格品のリアル画像である。ランク1は、ランク1~6のうちの最高位である。
また、疑似的な合格品の画像、及び、不合格品の画像については、2~6のランク付けを行う。ランク2は、最高位から2番目のランクであり、ランク6は最下位である。なお、ランクの意味等については後述する。
検査部11は、上述のように量産される同一種類の所定の量産品についての合格品のリアル画像と不合格品のリアル画像とのペア画像を表す教師データを用いて機械学習を行ってあるが、検査部11が合否を判定する検査には、下準備等の諸々の処理が伴うため、比較的多くの時間が必要である。また、所定の量産品としては、様々な取引先等から様々な完成度の製品が持ち込まれ、検査部11で合否の判定を行うことになる。
そこで、検査部11が検査を行う前に、検査部11が行う検査に適しているかどうかを判定する事前検査プログラムを検査プログラム生成装置100が生成し、事前検査プログラムで適否を判定する。
図2は、検査プログラム生成装置100を実現するコンピュータシステム20の斜視図である。図2に示すコンピュータシステム20は、本体部21、ディスプレイ22、キーボード23、マウス24、及び通信モジュール25を含む。
本体部21は、CPU(Central Processing Unit:中央演算装置)、HDD(Hard Disk Drive:ハードディスクドライブ)、及びディスクドライブ等を内蔵する。ディスプレイ22は、本体部21からの指示により画面22A上に処理結果等を表示する。ディスプレイ22は、例えば、液晶モニタであればよい。キーボード23は、コンピュータシステム20に種々の情報を入力するための入力部である。マウス24は、ディスプレイ22の画面22A上の任意の位置を指定する入力部である。通信モジュール25は、無線通信で検査装置10と通信する。
コンピュータシステム20に検査プログラム生成装置100としての機能を持たせる検査プログラム生成プログラムは、情報処理プログラムの一例であり、ディスク27等の可搬型記録媒体に格納されるか、通信モジュール25等の通信装置を使って他のコンピュータシステムの記録媒体26からダウンロードされ、コンピュータシステム20に入力されてコンパイルされる。
コンピュータシステム20に検査プログラム生成装置100としての機能を持たせる検査プログラム生成プログラムは、コンピュータシステム20を検査プログラム生成装置100として動作させる。この検査プログラム生成プログラムは、例えばディスク27等のコンピュータ読み取り可能な記録媒体に格納されていてもよい。コンピュータ読み取り可能な記録媒体は、ディスク27、ICカードメモリ、フロッピー(登録商標)ディスク等の磁気ディスク、光磁気ディスク、CD-ROM、USB(Universal Serial Bus)メモリ等の可搬型記録媒体に限定されるものではない。コンピュータ読み取り可能な記録媒体は、通信モジュール25又はLAN等の通信装置を介して接続されるコンピュータシステムでアクセス可能な各種記録媒体を含む。
図3は、コンピュータシステム20の本体部21内の要部の構成を説明するブロック図である。本体部21は、バス30によって接続されたCPU31、RAM(Random Access Memory)又はROM(Read Only Memory)等を含むメモリ部32、ディスク27用のディスクドライブ33、及びハードディスクドライブ(HDD)34を含む。
なお、コンピュータシステム20は、図2及び図3に示す構成のものに限定されず、各種周知の要素を付加してもよく、又は代替的に用いてもよい。
図4は、検査プログラム生成装置100の構成を示す図である。検査プログラム生成装置100は、制御装置110及び通信部130を含む。
制御装置110は、主制御部111、画像取得部112、画像生成部113、画像取得部114、画像生成部115、判定結果取得部116、ランク付け部117、学習処理部118、DNN119(Deep Neural Network)、判定結果取得部120、及びメモリ121を有する。
主制御部111、画像取得部112、画像生成部113、画像取得部114、画像生成部115、判定結果取得部116、ランク付け部117、学習処理部118、DNN119、判定結果取得部120は、制御装置110が実行するプログラムの機能(ファンクション)を機能ブロックとして示したものである。また、メモリ121は、検査プログラム生成装置100のメモリ部32及びHDD34(図3参照)を機能的に表したものである。
ここで、前提条件として、検査装置10(図1参照)の検査部11が合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像があり、検査装置10のメモリ12に格納されていることとする。判定済ペア画像は、ランク1のペア画像であり、判定済ペア画像の合格画像及び不合格画像は、ランク1の合格画像及び不合格画像である。
主制御部111は、制御装置110の処理を統括する処理部であり、画像取得部112、画像生成部113、画像取得部114、画像生成部115、判定結果取得部116、ランク付け部117、学習処理部118、DNN119、判定結果取得部120が行う処理以外の処理を実行する。
画像取得部112は、第1画像取得部の一例であり、検査装置10(図1参照)の検査部11が合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像を取得する。複数の判定済ペア画像の画像数(ペア数)は、例えば、40ペア(40個の合格画像及び40個の不合格画像)である。
画像生成部113は、第2画像生成部の一例であり、複数の判定済ペア画像の合格画像及び不合格画像に対して疑似画像生成処理を行い、疑似画像生成処理が行われた合格画像及び不合格画像を含む複数の疑似ペア画像1を生成する。疑似ペア画像1は、第2疑似ペア画像の一例である。
画像生成部113が行う疑似画像生成処理は、第2疑似画像生成処理の一例であり、例えば変分オートエンコーダ(Variational Auto Encoder (VAE)法とGAN(Generative Adversarial Network:敵対的生成ネットワーク)とを利用した2段階の処理を行う。
画像生成部113は、判定済ペア画像の合格画像及び不合格画像に対して、変分オートエンコーダ法による画像処理を行い、この画像処理で得る合格画像及び不合格画像をGANに学習させて画像処理を行わせることで、疑似ペア画像1を生成する。
画像生成部113が行う疑似画像生成処理は、判定済ペア画像の合格画像及び不合格画像に対する変更が比較的少ないため、判定済ペア画像の合格画像及び不合格画像に非常に似ているが、厳密には異なる。
このように画像生成部113が行う疑似画像生成処理は、後述する画像生成部115が行う疑似画像生成処理よりも判定済ペア画像に対する画像の変更度合が低い疑似画像を生成する処理である。このため、画像生成部113が生成する疑似ペア画像1は、画像生成部115が生成する疑似ペア画像2よりも、判定済ペア画像に類似した画像である。
画像生成部113が生成する疑似ペア画像1は、ランク2のペア画像であり、疑似ペア画像1の合格画像及び不合格画像は、ランク2の合格画像及び不合格画像である。
画像取得部114は、第2画像取得部の一例であり、検査装置10の検査部11に疑似ペア画像1の合格画像及び不合格画像について合否を判定させ、合否が正しく判定された疑似ペア画像1を取得する。なお、検査装置10の検査部11によって合否が正しく判定されなかった疑似ペア画像1の合格画像及び不合格画像は、画像取得部114によって取得されずに廃棄される。
画像生成部115は、第1画像生成部の一例であり、複数の判定済ペア画像の合格画像及び不合格画像に対して第1疑似画像生成処理を行った合格画像及び不合格画像を含む疑似ペア画像2を生成する。疑似ペア画像2は、第1疑似ペア画像の一例である。
画像生成部115が行う疑似画像生成処理は、第1疑似画像生成処理の一例であり、一例として画像生成部113と同様に変分オートエンコーダ法とGANとを利用した2段階の処理を行う。
画像生成部115は、判定済ペア画像の合格画像及び不合格画像に対して、変分オートエンコーダ法による画像処理を行い、この画像処理で得る合格画像及び不合格画像をGANに学習させて画像処理を行わせることで、疑似ペア画像2を生成する。
このように画像生成部115が行う疑似画像生成処理は、画像生成部113が行う疑似画像生成処理よりも判定済ペア画像に対する画像の変更度合が高い疑似画像を生成する処理である。このため、画像生成部115が生成する疑似ペア画像2は、画像生成部113が生成する疑似ペア画像1よりも、判定済ペア画像に類似していない(変更度合が高い)画像である。これは、一例として、変分オートエンコーダ法におけるパラメータの値が画像生成部113が行う処理とは異なるからである。
画像生成部115によって生成される疑似ペア画像2の合格画像及び不合格画像は、検査装置10の検査部11によって合否が判定される。
また、検査装置10の検査部11によって合否が判定された合格画像及び不合格画像を含む疑似ペア画像2は、ランク付け部117によってランク付けが行われ、ランク3~6のいずれかに分類される。ランク3~6の疑似ペア画像2に含まれる合格画像及び不合格画像は、それぞれ、ランク3~6の合格画像及び不合格画像である。
判定結果取得部116は、第1判定結果取得部の一例であり、画像生成部115によって生成される疑似ペア画像2の合格画像及び不合格画像について検査装置10の検査部11に合否を判定させ、合否の判定結果を取得する。
ランク付け部117は、画像生成部115によって生成された疑似ペア画像2の合格画像及び不合格画像について検査装置10の検査部11が合否を判定した判定結果に基づいて、判定の正否に応じてランク付けを行う。ランク付けは、合否が判定された疑似ペア画像2のペア毎に行われる。ランク付け部117は、判定の正否に応じて、疑似ペア画像2の合格画像及び不合格画像をランク3~6のいずれかにランク付けする。
なお、ランク1、2のペア画像と合格画像及び不合格画像とについては、ランク付け部117によるランク付けは行われずに、ランク1、2として取り扱われる。
ランク付け部117は、疑似ペア画像2の合格画像及び不合格画像の両方が正しく判定されている場合には、ランク3(上から3番目のランク)に分類する。
また、ランク付け部117は、疑似ペア画像2の合格画像が不合格画像として誤って判定され、不合格画像が不合格画像として正しく判定されている場合には、ランク4(上から4番目のランク)に分類する。
また、ランク付け部117は、疑似ペア画像2の合格画像が合格画像として正しく判定され、不合格画像が合格画像として誤って判定されている場合には、ランク5(上から5番目のランク)に分類する。
また、ランク付け部117は、疑似ペア画像2の合格画像が不合格画像として誤って判定され、不合格画像が合格画像として誤って判定されている場合には、ランク6(最下位のランク)に分類する。ランク6は、疑似ペア画像2の合格画像及び不合格画像の両方が誤って判定されている場合である。
ランク3~6のうち、ランク4~6は、疑似ペア画像2の合格画像又は不合格画像についての合否が、検査装置10の検査部11によって誤判定された場合のランクである。
学習処理部118は、ランク1の判定済ペア画像と、ランク2の疑似ペア画像1と、ランク3~6の疑似ペア画像2とを用いた機械学習をDNN119に行わせることによって、DNN119の判定精度が向上するようにDNN119のパラメータの最適化を行う。学習処理部118がDNN119に行わせる機械学習は、第2機械学習の一例である。
学習処理部118は、DNN119に機械学習を行わせる際に、各ランクの画像を所定数ずつ用いる。所定数は、ランク毎に異なっていてもよい。ランク2の疑似ペア画像1の所定数は、第2所定数の一例であり、ランク3~6の各ランクの疑似ペア画像2の所定数は、第1所定数の一例である。
また、ランク6の疑似ペア画像2の所定数は、第3所定数の一例であり、ランク4又は5の疑似ペア画像2の所定数は、第4所定数の一例である。ランク3の疑似ペア画像2の所定数は、第5所定数の一例である。
DNN119は、深層ニューラルネットワーク(Deep Neural Network: DNN)である。DNN119は、ペア画像の合格画像及び不合格画像が入力されると、ペア画像の合格画像及び不合格画像の合否を検査部11に判定させることが適切であるかどうかを判定する事前検査プログラムで表される数学モデルを実現している。事前検査プログラムは、第2検査プログラムの一例である。 事前検査プログラムは、未知のペア画像の合格画像及び不合格画像の合否を検査部11に判定させることが適切であるかどうかを事前に判定するプログラムである。未知のペア画像とは、検査部11が合否の判定を行っていない合格画像及び不合格画像を含む画像ペアである。
DNN119は、学習処理部118によって入力される、ランク1の判定済ペア画像と、ランク2の疑似ペア画像1と、ランク3~6の疑似ペア画像2とを用いた機械学習を行う。この結果、DNN119のパラメータが最適化され、DNN119は、事前検査プログラムによって、検査部11が行う検査に適しているかどうかを約90%の高い精度で判定可能な状態になる。
DNN119は、機械学習を終えて事前検査プログラムが最適化された状態で、未知のペア画像の合格画像及び不合格画像を読み込む(未知のペア画像の合格画像及び不合格画像が入力される)と、検査部11が行う検査に適したペア画像であるか(適切なペア画像であるか)、又は、適していないペア画像であるか(不適切なペア画像であるか)を約90%の高い精度で判定し、判定結果を出力する。
検査部11が行う検査に適切なペア画像であるとは、検査部11が合格判定又は不合格判定を行うことができるペア画像であることを表す。また、検査部11が行う検査に不適切なペア画像であるとは、検査部11が合格判定又は不合格判定を行うことが困難なペア画像であることを表す。
具体的には、DNN119は、未知のペア画像の合格画像及び不合格画像が入力されると、未知のペア画像の合格画像及び不合格画像がランク1~6のいずれに相当するかを判定することによって、検査部11が行う検査に適切なペア画像であるかどうかを判定する。
ここでは、一例として、DNN119は、入力された未知のペア画像の合格画像及び不合格画像がランク1~5に相当すると、検査部11が行う検査に適切なペア画像であると判定し、入力された未知のペア画像の合格画像及び不合格画像がランク6に相当すると、検査部11が行う検査に不適切なペア画像であると判定することとする。
検査部11が未知のペア画像の合格画像及び不合格画像の合否を判定する際の精度には限りがあり、また、検査部11は未知のペア画像を入力してから合否の判定を行うまでに下準備等で時間が掛かる。このような事情があるので、DNN119で事前に適切なペア画像であるかどうかを判定することによって検査装置10及び検査部11の運用の効率化を図るために、検査プログラム生成装置100は、DNN119のパラメータの最適化を行う。検査プログラム生成装置100は、DNN119のパラメータの最適化を行うことにより、最適化された状態の事前検査プログラムを生成する。
判定結果取得部120は、第2判定結果取得部の一例であり、DNN119が出力する判定結果を取得する。より具体的には、判定結果取得部120は、事前検査プログラムが生成されたDNN119によって、未知のペア画像の合格画像及び不合格画像の合否を検査部11に判定させることが適切かどうかが判定された判定結果を取得する。
メモリ121は、制御装置110が上述のような処理を行うために必要なデータ及びプログラム等を格納する。このプログラムには、コンピュータシステム20(図2参照)に検査プログラム生成装置100としての機能を持たせる検査プログラム生成プログラムが含まれる。
通信部130は、ネットワーク50を介して検査装置10と通信を行う。通信部130は、図2の通信モジュール25に対応する。
図5は、ランク1~6のペア画像の一例を示す図である。各ランクのペア画像は、左側が合格画像であり、右側が不合格画像である。各ペア画像は、合格画像及び不合格画像を1つずつ含む。また、合格画像と不合格画像を区別するために、一例として各画像にフラグを設定すればよい。合格画像のフラグを"1"に設定し、不合格画像のフラグを"0"に設定すればよい。
図5に示すランク1~6のペア画像は、実際のランク1~6のペア画像を2値化してデフォルメした画像である。このため、図5では、ランク2の疑似ペア画像1と、ランク3~6の各ランクの疑似ペア画像とは、ランク1のペア画像(判定済ペア画像)に対する類似度合が低くなっている。
一例として示すランク1~6のペア画像は、配線基板に形成される配線パターンの画像である。各画像の下には、検査装置10の検査部11による合否の判定結果を示す。ここでは、検査装置10の検査部11の判定結果を、各画像に対する合格判定又は不合格判定として示す。各画像についての検査部11による合否の判定結果を表すデータは、合格画像と不合格画像を区別するためのフラグとともに、各画像のID(Identifier)と関連付けられる。このような画像を識別するデータについては、図6を用いて後述する。
上述したように、ランク1の合格画像と不合格画像は、合格品のリアル画像と不合格品のリアル画像であり、判定済ペア画像の合格画像及び不合格画像である。このため、図5に示すように、ランク1の合格画像は綺麗な配線パターンを表しており、不合格画像は約左半分が欠けた配線パターンを表している。
検査装置10の検査部11は、ランク1の合格画像に対して合格判定を行い、ランク1の不合格画像に対して不合格判定を行う。すなわち、検査装置10の検査部11は、ランク1の合格画像と不合格画像をともに正しく判定する。
また、図5に示すランク2の合格画像と不合格画像は、それぞれ、ランク1の合格画像と不合格画像に対して、変分オートエンコーダ法とGANによる画像処理を利用した疑似画像生成処理を行った疑似ペア画像1の合格画像と不合格画像である。
ランク2の合格画像と不合格画像を生成するために、画像生成部113は、変分オートエンコーダ法によって、ランク1の合格画像と不合格画像を100%及び0%の比率で混合した混合合格画像と、ランク1の合格画像と不合格画像を0%及び100%の比率で混合した混合不合格画像とを作成する。このため、これらの混合合格画像及び混合不合格画像は、それぞれ、ランク1の合格画像と不合格画像(判定済ペア画像の合格画像及び不合格画像)そのものである。
そして、画像生成部113は、100%及び0%の比率で混合した混合合格画像と、0%及び100%の比率で混合した混合不合格画像とをGANに学習させて画像処理を行うことで、疑似ペア画像1の合格画像と不合格画像(ランク2の合格画像と不合格画像)を生成する。
複数のランク1の合格画像と不合格画像を用いれば、複数の混合合格画像及び混合不合格画像を生成することができる。少なくともランク1の合格画像と不合格画像と同一数の混合合格画像及び混合不合格画像を得ることができる。
そして、複数の混合合格画像及び混合不合格画像をGANに学習させることで、さらに多くの疑似ペア画像1の合格画像と不合格画像(ランク2の合格画像と不合格画像)を生成することができる。
このようにして生成されるランク2の合格画像と不合格画像は、ランク1の合格画像と不合格画像に非常に良く似た画像になる。
ランク2の合格画像及び不合格画像については、検査装置10の検査部11の判定結果は、それぞれ合格判定及び不合格判定である。すなわち、検査装置10の検査部11は、ランク2の合格画像と不合格画像をともに正しく判定する。
また、ランク3~6の合格画像と不合格画像は、ランク1の合格画像と不合格画像に対して、変分オートエンコーダ法とGANによる画像処理を利用した疑似画像生成処理を行った疑似ペア画像1の合格画像と不合格画像である。ランク3~6の合格画像と不合格画像を生成する処理は、ランク2の合格画像と不合格画像を生成する処理とは、変分オートエンコーダ法におけるランク1の合格画像と不合格画像を混合する割合が異なる。混合する割合は、変分オートエンコーダ法におけるパラメータである。
ランク3~6の合格画像と不合格画像を生成するために、画像生成部115は、変分オートエンコーダ法によって、ランク1の合格画像及び不合格画像をそれぞれ80%及び20%の比率で混合した混合合格画像と、ランク1の合格画像と不合格画像をそれぞれ20%及び80%の比率で混合した混合不合格画像とを作成する。
そして、画像生成部115は、80%及び20%の比率で混合した混合合格画像と、20%及び80%の比率で混合した混合不合格画像とをGANに学習させて画像処理を行うことで、疑似ペア画像2の合格画像及び不合格画像(ランク3~6のいずれかの合格画像と不合格画像)を生成する。
複数のランク1の合格画像と不合格画像を用いれば、複数の混合合格画像及び混合不合格画像を生成することができる。少なくともランク1の合格画像と不合格画像と同一数の混合合格画像及び混合不合格画像を得ることができる。
そして、複数の混合合格画像及び混合不合格画像をGANに学習させることで、さらに多くの疑似ペア画像2の合格画像と不合格画像(ランク3~6のいずれかの合格画像と不合格画像)を生成することができる。
画像生成部115によって生成された疑似ペア画像2は、ランク付け部117によってランク3~6のいずれかに分類される。
図5に示すランク3の合格画像と不合格画像についての検査装置10の検査部11の判定結果は、それぞれ合格判定及び不合格判定であり、ともに正しく判定されている。ランク3の合格画像と不合格画像は、ランク2の合格画像と不合格画像よりもランク1の合格画像と不合格画像に似ていないが、合格画像は配線パターンの輪郭が比較的はっきりしており、検査部11による合格の判定は正しい。また、不合格画像は配線パターンが欠けており、検査部11による不合格の判定は正しい。
また、図5に示すランク4の合格画像及び不合格画像についての検査装置10の検査部11の判定結果は、ともに不合格判定である。すなわち、検査部11は、合格画像を不合格画像として誤って判定し、不合格画像を不合格画像として正しく判定している。
ランク4の合格画像と不合格画像は、ランク2の合格画像と不合格画像よりもランク1の合格画像と不合格画像に似ていないが、合格画像は配線パターンの輪郭が比較的はっきりしているため、検査部11による不合格判定は誤りである。また、不合格画像は配線パターンが欠けており、検査部11による不合格の判定は正しい。
このように、合格画像に対して不合格判定を行うことは、過剰に不合格判定を行う過剰判定である。過剰判定が生じると、合格品が不合格品として扱われて歩留まりが低下するおそれがあるため、過剰判定が行われる確率は低いことが好ましい。
また、図5に示すランク5の合格画像及び不合格画像についての検査装置10の検査部11の判定結果は、ともに合格判定である。すなわち、検査部11は、合格画像を合格画像として正しく判定し、不合格画像を合格画像として誤って判定している。
ランク5の合格画像と不合格画像は、ランク2の合格画像と不合格画像よりもランク1の合格画像と不合格画像に似ていないが、合格画像は配線パターンの輪郭が比較的はっきりしているため、検査部11による合格の判定は正しい。また、不合格画像は配線パターンの右端が基準よりも細いため、検査部11による合格判定は誤りである。
このように、不合格画像に対して合格判定を行うことは、不合格画像を見逃す見逃し判定である。見逃し判定が生じると、不合格品が出荷されるおそれがあるため、見逃し判定が行われる確率は低いことが好ましい。
図5に示すランク6の合格画像と不合格画像についての検査装置10の検査部11の判定結果は、それぞれ不合格判定及び合格判定であり、ともに誤って判定されている。ランク6の合格画像と不合格画像は、ランク2の合格画像と不合格画像よりもランク1の合格画像と不合格画像に似ていないが、合格画像は配線パターンの輪郭が比較的はっきりしているため不合格判定は誤りである。また、不合格画像は配線パターンの右端が基準より細くなっており、検査部11による合格判定は誤りである。ランク6の合格画像と不合格画像については、合格画像に対して不合格判定を行う過剰判定と、不合格画像に対して合格判定を行う見逃し判定との両方が生じていることになる。
図6は、検査プログラム生成装置100が取り扱う画像識別データを示す図である。図6に示す画像識別データは、合格画像及び不合格画像の各々に割り振られ、判定済ペア画像、疑似ペア画像1、疑似ペア画像2、未知のペア画像の合格画像及び不合格画像について共通である。画像識別データは、メモリ121に格納される。
画像識別データは、ペア画像ID(Identifier)、画像ID、第1合格画像フラグ、第2合格画像フラグ、ランク、判定結果の項目を含む。
ペア画像IDは、ペア画像としてのIDであり、判定済ペア画像、疑似ペア画像1、疑似ペア画像2、未知のペア画像に割り振られる。判定済ペア画像、疑似ペア画像1、疑似ペア画像2、未知のペア画像のペア画像IDは、互いに識別可能であり、ペア画像IDによって、判定済ペア画像、疑似ペア画像1、疑似ペア画像2、未知のペア画像のいずれであるかを識別可能である。
画像IDは、各ペア画像に含まれる合格画像及び不合格画像の各々に割り振られるIDである。このため、1つのペア画像に含まれる合格画像及び不合格画像は、それぞれ図6に示す画像識別データを有する。
第1合格画像フラグは、人間が行った検査に合格した量産品の合格画像である場合に"1"に設定され、人間が行った検査に合格しなかった量産品の不合格画像である場合に"0"に設定され、人間による検査が行われていない場合には、データが設定されない("-"になる)。第1合格画像フラグは、ランク1の判定済ペア画像に含まれる合格画像及び不合格画像について"1"及び"0"にそれぞれ設定され、ランク2の疑似ペア画像1とランク3~6の疑似ペア画像2とに含まれる合格画像及び不合格画像については、データが設定されない("-"になる)。
第2合格画像フラグは、検査部11が行った検査に合格した量産品の合格画像である場合に"1"に設定され、検査部11が行った検査に合格しなかった量産品の不合格画像である場合に"0"に設定され、検査部11による検査が行われていない場合には、データが設定されない("-"になる)。第2合格画像フラグは、ランク1~6のペア画像に含まれる合格画像及び不合格画像について"1"又は"0"にそれぞれ設定される。
ランクは、ランク1~6を表す。判定済ペア画像についてはランク1に設定され、疑似ペア画像1についてはランク2に設定され、疑似ペア画像2についてはランク付け部117によって分類されたランク(ランク3~6のいずれ)に設定される。
判定結果は、判定済ペア画像、疑似ペア画像1、疑似ペア画像2の合格画像及び不合格画像についての検査部11による合否の判定結果を表し、合格判定の場合は"1"に設定され、不合格判定の場合は"0"に設定される。
図6に示す画像識別データは、一例として、判定済ペア画像の合格画像についての画像識別データである。なお、未知のペア画像の場合は、ペア画像IDと画像IDのみを有することになる。
図7は、検査部11による画像の評価とDNN119の学習用及び評価用の画像とに関する条件を示す図である。図7には、ランク1~6の合格画像及び不合格画像についての画像種別、検査部11による評価用の画像数、検査部11の判定結果、DNN119の判定結果、DNN119の学習用のペア画像数、及びDNN119の評価用のペア画像数を示す。
画像種別は、リアル画像、疑似ペア画像1、又は、疑似ペア画像2のいずれであるかを表す。検査部11による評価用の画像数は、各ランクのペア画像を検査部11に入力して合否を判定する評価を行う際の合格画像及び不合格画像の画像数を表す。検査部11の判定結果は、検査部11による評価(合否判定)の結果を表す。
DNN119の判定結果は、DNN119に未知のペア画像の合格画像及び不合格画像が入力された場合に、DNN119が出力する判定結果を示す。上述したように、ここでは一例として、DNN119は、未知のペア画像の合格画像及び不合格画像がランク1~5に相当する場合に適切と判定し、ランク6に相当する場合に不適切と判定するように設定されている。なお、このような分け方に限られるものではなく、ランク5と6を不適切と判定してもよいし、ランク4~6を不適切と判定してもよいし、ランク4と6を不適切と判定してもよいし、ランク3~6を不適切と判定してもよい。
また、ここでは、DNN119の出力が2段階(適切又は不適切)である形態について説明するが、3段階以上であってもよく、6段階であってもよい。
DNN119の学習用のペア画像数は、DNN119に機械学習を行わせる際の各ランクのペア画像の数を表す。DNN119の評価用のペア画像数は、DNN119の学習が終了した後に、事前検査プログラムを評価する際に入力する各ランクのペア画像の数を表す。
ランク1の合格画像及び不合格画像の画像種別はリアル画像であり、検査部11が合否判定による評価を行う際の合格画像及び不合格画像の画像数は、一例として、それぞれ20個である。また、検査部11によるランク1の合格画像及び不合格画像についての合否の判定結果は、それぞれ、合格判定及び不合格判定である。DNN119の判定結果は適切であり、DNN119の学習用及び評価用のペア画像の数は、それぞれ、225ペアと25ペアである。
ランク2の合格画像及び不合格画像の画像種別は疑似ペア画像1であり、検査部11が合否判定による評価を行う際の合格画像及び不合格画像の画像数は、一例として、ともに45個である。また、検査部11によるランク2の合格画像及び不合格画像についての合否の判定結果は、それぞれ、合格判定及び不合格判定である。
また、DNN119の判定結果は適切であり、DNN119の学習用及び評価用のペア画像の数は、それぞれ、400ペアと25ペアである。
ランク3の合格画像及び不合格画像の画像種別は疑似ペア画像2であり、検査部11によるランク3の合格画像及び不合格画像についての合否の判定結果は、それぞれ、合格判定及び不合格判定である。た、DNN119の判定結果は適切であり、DNN119の学習用及び評価用のペア画像の数は、それぞれ、400ペアと25ペアである。
また、検査部11が合否判定による評価を行う際のランク3~6の疑似ペア画像2の合格画像及び不合格画像の画像数は、ともに500個である。これは、ランク3~6の分類が行われていない状態において、検査部11が合否判定による評価を行うランク3~6のいずれかに相当し得る疑似ペア画像2の合格画像及び不合格画像の画像数が、ともに500個であることを意味する。
500ペアの疑似ペア画像2は、DNN119の学習用及び評価用のランク3~6の疑似ペア画像2を得るために用いられる疑似ペア画像2である。
ランク4の合格画像及び不合格画像の画像種別は疑似ペア画像2であり、検査部11によるランク4の合格画像及び不合格画像についての合否の判定結果は、ともに不合格判定である。また、DNN119の判定結果は適切であり、DNN119の学習用及び評価用のペア画像の数は、それぞれ、400ペアと25ペアである。
ランク5の合格画像及び不合格画像の画像種別は疑似ペア画像2であり、検査部11によるランク5の合格画像及び不合格画像についての合否の判定結果は、ともに合格判定である。また、DNN119の判定結果は適切であり、DNN119の学習用及び評価用のペア画像の数は、それぞれ、400ペアと25ペアである。
ランク6の合格画像及び不合格画像の画像種別は疑似ペア画像2であり、検査部11によるランク6の合格画像及び不合格画像についての合否の判定結果は、それぞれ、不合格判定及び合格判定である。また、DNN119の判定結果は不適切であり、DNN119の学習用及び評価用のペア画像の数は、それぞれ、1600ペアと25ペアである。
このように、検査部11が合否判定による評価を行う際の合格画像及び不合格画像の画像数は、ランク1の合格画像及び不合格画像が最も少ない。ランク1の合格画像及び不合格画像はリアル画像であり、検査部11の合否が正しく行われる可能性が極めて高いため、DNN119の学習用及び評価用のランク1の合格画像及び不合格画像を得るためには、20個ずつあれば足りるからである。
また、検査部11が合否判定による評価を行う際の合格画像及び不合格画像の画像数は、ランク2の合格画像及び不合格画像では、45個ずつに設定されている。ランク2の合格画像及び不合格画像は、ランク1の合格画像及び不合格画像に非常に似ており、検査部11の合否が正しく行われる可能性が高いため、DNN119の学習用及び評価用のランク2の合格画像及び不合格画像を得るためには、ランク1の2倍程度の画像数で足りるからである。
また、検査部11が合否判定による評価を行う際の合格画像及び不合格画像の画像数は、ランク3~6のいずれかに相当し得る疑似ペア画像2の合格画像及び不合格画像の画像数が最も多い。DNN119の学習及び評価には、ランク3~6の各々について所定数以上の疑似ペア画像2の合格画像及び不合格画像を用いるため、画像数がそれなりに多いことが好ましいからである。このため、500個に設定されている。
また、ランク1の合格画像及び不合格画像についてのDNN119の学習用のペア画像数は最も少なく設定されている。これは、ランク1の合格画像及び不合格画像はリアル画像であるため、比較的少ない画像数で足りるからである。
また、ランク2~5の合格画像及び不合格画像についてのDNN119の学習用のペア画像数は2番目に少なく設定されている。ランク2~5の合格画像及び不合格画像は、ランク1の合格画像及び不合格画像に対する変更分を含むので、DNN119がランク2~5の合格画像及び不合格画像を学習するのに十分な画像数を確保するために、ランク1よりも学習用の画像数を増やしてある。
また、ランク6の合格画像及び不合格画像についてのDNN119の学習用のペア画像数は、最も多くなるように設定されている。ランク6については、合格画像及び不合格画像の両方を誤判定するケースであるため、DNN119がランク6の合格画像及び不合格画像を学習するのに十分な画像数を確保するために、ランク2~5よりも学習用の画像数を増やしてある。
また、ランク1~6の合格画像及び不合格画像についてのDNN119の評価用のペア画像数はすべて同一である。これは、同一数のランク1~6の合格画像及び不合格画像をDNN119で評価するためである。
図8は、検査部11による疑似ペア画像1の合格画像と不合格画像の判定結果の分布を示す図である。図8に示す判定結果は、検査部11が実際に判定を行った結果である。
図8において、横軸はサンプル番号であり、合格画像の判定結果を白丸(○)のマーカで示し、不合格画像の判定結果を黒丸(●)のマーカで示す。サンプル番号が約40以下は不合格画像の判定結果であり、サンプル番号が約40以上は合格画像の判定結果である。また、縦軸は検査部11の判定値であり、閾値以上が合格であり、閾値未満が不合格である。
図8に示すように、検査部11は、すべての合格画像を合格と判定しており、すべての不合格画像を不合格と判定している。このように、検査部11による疑似ペア画像1の合格画像と不合格画像の判定精度は非常に高い。
図9は、検査部11による疑似ペア画像2の合格画像と不合格画像の判定結果の分布を示す図である。横軸、縦軸、及びマーカの意味は、図8と同様であり、図9に示す判定結果は、検査部11が実際に判定を行った結果である。図9には、図8よりも多くのサンプルについての判定結果を示す。
図9に示すように、集合A~Dが得られた。集合Aは、検査部11が合格画像を合格と正しく判定したサンプルの集合である。集合Bは、検査部11が合格画像を不合格と誤って判定した過剰判定のサンプルの集合である。集合Cは、検査部11が不合格画像を不合格と正しく判定したサンプルの集合である。集合Dは、検査部11が不合格画像を合格と誤って判定した見逃し判定のサンプルの集合である。
集合AとCは、ランク3~6の疑似ペア画像2の合格画像と不合格画像を検査部11がそれぞれ正しく判定したサンプルの集合であり、集合BとDは、ランク3~6の疑似ペア画像2の合格画像と不合格画像を検査部11がそれぞれ誤って判定したサンプルの集合である。集合AとCに比べると、誤判定が行われた集合BとDのサンプル数は少ない。
集合A~Dのうち、集合BとDは、リアル画像の合格画像と不合格画像では得難い過剰判定と見逃し判定のサンプルの集合である。このような集合BとDに属する判定結果をDNN119の機械学習に用いれば、誤判定を減らすことができ、DNN119の判定精度を向上させることができる。
このため、検査プログラム生成装置100は、判定済ペア画像(ランク1)に基づいて、ランク3~6の疑似ペア画像2を生成し、ランク3~6の疑似ペア画像2を教師データとしてDNN119に入力して、DNN119に機械学習を行わせている。
また、検査プログラム生成装置100は、さらにランク2の疑似ペア画像2を教師データとしてDNN119に入力して、DNN119に機械学習を行わせている。ランク2の疑似ペア画像2を用いるのは、主にサンプル数を増やすためである。
図10及び図11は、検査プログラム生成装置100の制御装置110が実施する処理を表すフローチャートを示す図である。
処理の前提条件として、検査装置10(図1参照)の検査部11が合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像がメモリ12に格納されていることとする。また、DNN119の機械学習が終わった時点で適切なペア画像であるか、又は、不適切なペア画像であるかを判定するための1又は複数の未知のペア画像がメモリ121に格納されていることとする。
画像取得部112は、検査装置10から判定済ペア画像を取得する(ステップS1)。主制御部111が通信部130を介して検査装置10からネットワーク50を介して判定済ペア画像を受信し、受信した判定済ペア画像を画像取得部112が取得する。
主制御部111は、画像取得部112が取得した判定済ペア画像を所定の分配比率で学習用の判定済ペア画像と、評価用の判定済ペア画像とに分け、ペア画像を生成してメモリ121に格納する(ステップS2)。
例えば、検査装置10から20ペアの判定済ペア画像を取得した場合には、所定の分配比率は、一例として15ペアと5ペアである。主制御部111は、15ペアの判定済ペア画像に含まれる15個ずつの合格画像及び不合格画像から、225ペア(15個×15個の組み合わせで得る225ペア)の学習用の判定済ペア画像を作成するとともに、5ペアの判定済ペア画像に含まれる5個ずつの合格画像及び不合格画像から、25ペア(5個×5個の組み合わせで得る25ペア)の評価用の判定済ペア画像を作成し、メモリ121に格納する。
画像生成部113は、複数の判定済ペア画像の合格画像及び不合格画像に対して疑似画像生成処理を行い、疑似画像生成処理が行われた合格画像及び不合格画像を含む複数の疑似ペア画像1を生成する(ステップS3)。複数の判定済ペア画像のペア数は、一例として20ペアである。
例えば、画像生成部113は、複数の判定済ペア画像に対して疑似画像生成処理を行うことにより、45個ずつの疑似画像生成処理が行われた合格画像及び不合格画像を含む45ペアの疑似ペア画像1を生成する。
画像取得部114は、検査装置10の検査部11に45ペアの疑似ペア画像1の合格画像及び不合格画像について合否を判定させる(ステップS4)。
画像取得部114は、主制御部111に通信部130を介して検査装置10に複数の疑似ペア画像1を送信させ、検査装置10の検査部11に疑似ペア画像1の合格画像及び不合格画像について合否を判定させる。
画像取得部114は、検査部11によって合否が正しく判定された疑似ペア画像1を取得する(ステップS5)。より具体的には、画像取得部114は、検査装置10で合否が判定された合格画像及び不合格画像を含む複数の疑似ペア画像1と、合否の判定結果とを主制御部111に受信させる。合否の判定結果は、画像識別データ(図6参照)に登録される。
そして、画像取得部114は、受信された複数の疑似ペア画像1のうち、検査装置10で合否が正しく判定された合格画像及び不合格画像を含む疑似ペア画像1を取得する。
疑似ペア画像1に含まれる2つの画像のいずれが合格画像であるかは画像識別データの第2合格画像フラグの値で判別できるため、合否の判定結果と照合して一致していれば正しく判定されており、一致していなければ誤って判定されていることになる。
なお、疑似ペア画像1は、判定済ペア画像の合格画像及び不合格画像に非常に似ているため、ここではすべての疑似ペア画像1の合格画像及び不合格画像の合否が正しく判定されることを想定している。
このように、疑似ペア画像1に含まれる合格画像及び不合格画像と、合否の判定結果とを照合して一致した合格画像及び不合格画像のペアを取得すれば、画像取得部114は、検査装置10の検査部11で合否が正しく判定された疑似ペア画像1を取得することができる。
主制御部111は、所定のペア数の疑似ペア画像1が取得できたかどうかを判定する(ステップS6)。所定のペア数の疑似ペア画像1には、所定のペア数と同一数の合格画像及び不合格画像が含まれる。所定のペア数の疑似ペア画像1に含まれる合格画像及び不合格画像の数は、第2所定数の一例である。
主制御部111は、ステップS6で所定のペア数の疑似ペア画像1が取得できた(S6:YES)と判定すると、画像取得部114が取得した疑似ペア画像1を所定の分配比率で学習用の疑似ペア画像1と、評価用の疑似ペア画像1とに分けてメモリ121に格納する(ステップS7)。
例えば、画像取得部114によって45ペアの疑似ペア画像1が取得された場合には、所定の分配比率は、一例として20ペアと25ペアである。主制御部111は、20ペアの疑似ペア画像1に含まれる20個ずつの合格画像及び不合格画像から、400ペア(20個×20個の組み合わせで得る400ペア)の学習用の疑似ペア画像1を作成してメモリ121に格納する。また、主制御部111は、25ペアの疑似ペア画像1を25ペアの評価用の疑似ペア画像1としてメモリ121に格納する。
なお、主制御部111は、ステップS6で所定のペア数の疑似ペア画像1が取得できていない(S6:NO)と判定すると、フローをステップS3にリターンする。
画像生成部115は、複数の判定済ペア画像の合格画像及び不合格画像に対して疑似画像生成処理を行った合格画像及び不合格画像を含む疑似ペア画像2を生成する(ステップS8)。ここでは、一例として、500個ずつの合格画像及び不合格画像を含む500ペアの疑似ペア画像2が生成される。
判定結果取得部116は、検査装置10の検査部11にステップS8で生成された疑似ペア画像2の合格画像及び不合格画像について合否を判定させ、合否の判定結果を取得する(ステップS9)。合否の判定結果は、画像識別データ(図6参照)に登録される。
ランク付け部117は、ステップS9で取得された判定結果の正否に基づいて、ステップS8で生成された疑似ペア画像2のランク付けを行う(ステップS10)。この結果、疑似ペア画像2がランク3~6のいずれかにランク付けされる。ランクは、画像識別データ(図6参照)に登録される。
主制御部111は、ランク3~6の各々について、所定のペア数の疑似ペア画像2が取得できたかどうかを判定する(ステップS11)。ランク3~5については45ペアであり、ランク6については65ペアである。
主制御部111は、ステップS11において各ランクについて所定のペア数の疑似ペア画像2が取得できた(S11:YES)と判定すると、ステップS12において次のような処理を行う(ステップS12)。
ステップS12において、主制御部111は、ランク付け部117によってランク分けされた疑似ペア画像2をランク毎に所定の分配比率で学習用の疑似ペア画像2と、評価用の疑似ペア画像2とに分け、学習用の疑似ペア画像2については、疑似ペア画像2に含まれる合格画像と不合格画像とを組み合わせて、ペア数を所定数に増やしてメモリ121に格納する。評価用の疑似ペア画像2は、メモリ121にそのまま格納される。
例えば、ランク3~5については45ペアの疑似ペア画像2を所定の分配比率に従って学習用の20ペアと評価用の25ペアに分配する。また、学習用の20ペアの疑似ペア画像2に含まれる20個ずつの合格画像及び不合格画像から、400ペア(20個×20個の組み合わせで得る400ペア)の学習用の疑似ペア画像2を作成してメモリ121に格納する。評価用の25ペアの疑似ペア画像2については、そのままメモリ121に格納する。
また、ランク6については65ペアの疑似ペア画像2を所定の分配比率に従って学習用の40ペアと評価用の25ペアに分配する。また、学習用の40ペアの疑似ペア画像2に含まれる40個ずつの合格画像及び不合格画像から、1600ペア(40個×40個の組み合わせで得る1600ペア)の学習用の疑似ペア画像2を作成してメモリ121に格納する。評価用の25ペアの疑似ペア画像2については、そのままメモリ121に格納する。
なお、主制御部111は、ステップS11において各ランクについて所定のペア数の疑似ペア画像2が取得できていない(S11:NO)と判定すると、フローをステップS8にリターンする。この結果、ステップS8において新たな500ペアの疑似ペア画像2が生成される。
ステップS11で所定のペア数の疑似ペア画像2が取得できていないと判定されるのは、例えば、ランク3~6のうちのいずれかのランクの疑似ペア画像2が、所定のペア数未満であった場合である。
次いで、学習処理部118は、メモリ121からランク1の学習用の判定済ペア画像、ランク2の学習用の疑似ペア画像1、及びランク3~6の学習用の疑似ペア画像2を読み出し、DNN119に入力して機械学習を行わせることによって、DNN119のパラメータの最適化を行う(ステップS13)。この処理により、事前検査プログラムの判定精度が向上する。
次いで、学習処理部118は、メモリ121からランク1の評価用の判定済ペア画像、ランク2の評価用の疑似ペア画像1、及びランク3~6の評価用の疑似ペア画像2を読み出し、DNN119に入力して判定結果を入手し、DNN119を評価する(ステップS14)。ランク1~5のペア画像を入力してDNN119が適切であると判定すれば、DNN119の判定結果は妥当である。また、ランク6のペア画像を入力してDNN119が適切ではないと判定すれば、DNN119の判定結果は妥当である。これ以外の場合は、DNN119の判定結果は妥当ではない。
学習処理部118は、DNN119の判定結果が妥当である確率が所定の閾値以上であるかどうかを判定する(ステップS15)。所定の閾値は、一例として、約90%である。
学習処理部118がDNN119の判定結果が妥当である確率が所定の閾値以上ではない(S15:NO)と判定すると、主制御部111はフローをステップS3にリターンする。
また、学習処理部118は、DNN119の判定結果が妥当である確率が所定の閾値以上である(S15:YES)と判定すると、所定の未知のペア画像の合格画像及び不合格画像をDNN119に入力する(ステップS16)。なお、このときに、DNN119に入力する画像のフォーマットを変換する必要があれば、所定の未知のペア画像の合格画像及び不合格画像のフォーマットをDNN119用のフォーマットに変換してからDNN119に入力すればよい。
判定結果取得部120は、DNN119の判定結果を取得する(ステップS17)。判定結果は、未知のペア画像が検査部11の検査に適切なペア画像であるか、又は、不適切なペア画像であるかを表す。
主制御部111は、DNN119に入力する未知のペア画像が他にあるかどうかを判定する(ステップS18)。
主制御部111は、未知のペア画像が他にある(S18:YES)と判定すると、フローをステップS16にリターンする。
主制御部111は、未知のペア画像が他にない(S18:NO)と判定すると、一連の処理を終了する(エンド)。
以上のように、検査プログラム生成装置100は、リアル画像の合格画像及び不合格画像を含む判定済ペア画像(ランク1)から、ランク2の疑似ペア画像1と、ランク3~6の疑似ペア画像2とを生成する。ランク2の疑似ペア画像1と、ランク3~6の疑似ペア画像2とは、判定済ペア画像に対して疑似画像生成処理を行うことによって生成され、ランク2の疑似ペア画像1よりも、ランク3~6の疑似ペア画像2の方が判定済ペア画像からの変更度合が大きい。
このようなランク2の疑似ペア画像1と、ランク3~6の疑似ペア画像2とは、疑似画像生成処理によって多数生成することができる。また、ランク2の疑似ペア画像1、及び、ランク3~6の疑似ペア画像2の合格画像及び不合格画像について、検査部11によって合否がどのように判定されたかを表す判定結果が画像識別データ(図6参照)に登録されている。
このため、ランク2の疑似ペア画像1、及び、ランク3~6の疑似ペア画像2は、DNN119に所定の量産品についての未知の合格画像及び不合格画像がランク1~6のうちのいずれに相当するかを判定する手法を機械学習で学ばせるための教師データとして用いることができる。
そして、DNN119に未知の合格画像及び不合格画像を入力すれば、DNN119は、未知のペア画像の合格画像及び不合格画像の合否を検査部11に判定させることが適切であるかどうかを判定することができる。DNN119は、未知の合格画像及び不合格画像がランク1~5に相当すると判定すれば適切であると判定し、ランク6に相当すると判定すれば不適切であると判定する。
したがって、未知のペア画像の合格画像及び不合格画像の合否を検査部11に判定させることが適切であるかどうかを判定できるDNN119(事前検査プログラム)を得ることができる、検査プログラム生成装置100(情報処理装置)、情報処理プログラム、及び、情報処理方法を提供することができる。
また、検査部11は検査に時間が掛かるため、DNN119で未知のペア画像の合格画像及び不合格画像が検査部11による検査に適切であるかどうかを予め判定することによって、検査部11の運用の効率化を図ることができる。
なお、以上では配線パターンの合格画像と不合格画像を含むペア画像を用いて説明したが、配線パターンに限られるものではなく、量産される製品(量産品)の合格画像と不合格画像を含むペア画像であれば、どのようなペア画像であってもよい。
また、以上では、ランク2の疑似ペア画像1を用いて機械学習を行う形態について説明したが、ランク2の疑似ペア画像1を用いなくてもよい。
また、以上では、ランク3~6の疑似ペア画像2を用いて機械学習を行う形態について説明したが、疑似ペア画像2については、ランク3~6のすべてを用いなくてもよい。ランク3~6のうち、最も重要度が高いのは、合格画像及び不合格画像がともに誤判定されるランク6である。このため、疑似ペア画像2については、ランク6のみを用いてもよい。
また、ランク4(過剰判定)とランク5(見逃し判定)については、いずれか一方でもよい。例えば、ランク4と5のうちどちらかに生じ難い傾向がある場合は、生じにくい傾向を示すランクを用いなくてもよい。また、製品の種類等に応じてどちらか一方を選択しても良い。
また、ランク3を用いずに、例えば、ランク4~6を用いるようにしてもよい。ランク4~6は、合格画像及び不合格画像のうちの少なくとも一方が誤判定だからである。
また、以上では、ランク2の疑似ペア画像1とランク3~6の疑似ペア画像2とを生成するための疑似画像生成処理が変分オートエンコーダ法による処理と、GANを利用した処理とを含む形態について説明した。
しかしながら、疑似画像生成処理は、変分オートエンコーダ法による処理と、GANを利用した処理とを含む処理に限られるものではない。例えば、変分オートエンコーダ法による処理の代わりに、合格画像と不合格画像とを任意の割合で混合する処理を行ってもよいし、合格画像と不合格画像との平均画像を求める平均化処理を行ってもよい。平均化処理の場合には、例えば、4枚の合格画像と1枚の不合格画像との平均を取れば、合格画像及び不合格画像が80:20の平均画像を生成することができる。
また、GANを利用した処理の代わりに、疑似画像を作る処理として、ノイズを重畳する画像処理、画像を平行移動、回転、スムージング(平滑化)、拡大、又は縮小等する処理を用いてもよい。
また、以上では、ランク2の合格画像と不合格画像を生成するために、変分オートエンコーダ法でランク1の合格画像と不合格画像を100%及び0%の比率で混合した混合合格画像と、ランク1の合格画像と不合格画像を0%及び100%の比率で混合した混合不合格画像とを作成する形態について説明した。これは、実質的に変分オートエンコーダ法による処理を行っていないことに相当する。
しかしながら、ランク2の合格画像と不合格画像を生成するための合格画像及び不合格画像の混合比は100%及び0%に限らず、合格画像と不合格画像を混合してもよい。
また、以上では、ランク3~6の合格画像と不合格画像を生成するために、変分オートエンコーダ法で、ランク1の合格画像及び不合格画像をそれぞれ80%及び20%の比率で混合した混合合格画像と、ランク1の合格画像と不合格画像をそれぞれ20%及び80%の比率で混合した混合不合格画像とを作成する形態について説明した。
しかしながら、ランク3~6の合格画像と不合格画像を生成するための混合比率は80%:20%と、20%:80%に限らず、混合比を適宜変更してもよい。
以上、本発明の例示的な実施の形態の情報処理装置、情報処理プログラム、及び、情報処理方法について説明したが、本発明は、具体的に開示された実施の形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
10 検査装置
11 検査部
100 検査プログラム生成装置
110 制御装置
111 主制御部
112 画像取得部
113 画像生成部
114 画像取得部
115 画像生成部
116 判定結果取得部
117 ランク付け部
118 学習処理部
119 DNN
120 判定結果取得部
121 メモリ
130 通信部

Claims (14)

  1. 第1機械学習済みの第1検査プログラムが合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像を取得する第1画像取得部と、
    前記判定済ペア画像の合格画像及び不合格画像に対して第1疑似画像生成処理を行った合格画像及び不合格画像を含む第1疑似ペア画像を生成する第1画像生成部と、
    前記第1疑似ペア画像の合格画像及び不合格画像について前記第1検査プログラムが合否を判定した判定結果を取得する判定結果取得部と、
    前記判定結果に基づいて、前記第1検査プログラムが合否を判定した第1疑似ペア画像をペア毎に、前記判定の正否に応じてランク付けするランク付け部と、
    ペア画像の合格画像及び不合格画像が入力されると、当該ペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であるかどうかを判定する第2検査プログラムで表される数学モデルと、
    前記判定済ペア画像と、前記ランク付けされた第1疑似ペア画像とを入力とする第2機械学習を前記数学モデルに行わせる学習処理部と
    を含み、
    前記第1画像生成部は、前記ランク付けされた第1疑似ペア画像の数が第1所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部は、前記判定済ペア画像と、前記第1所定数以上の前記ランク付けされた第1疑似ペア画像とを入力とする前記第2機械学習を前記数学モデルに行わせることにより、未知のペア画像の合格画像及び不合格画像を前記数学モデルに入力すると、当該未知のペア画像の合格画像及び不合格画像が所定のランク以上である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であると前記数学モデルが判定し、前記所定のランク未満である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが不適切であると前記数学モデルが判定するように前記数学モデルを学習させる、情報処理装置。
  2. 前記判定済ペア画像の合格画像及び不合格画像に対して前記第1疑似画像生成処理よりも画像の変更度合が低い第2疑似画像生成処理を行った合格画像及び不合格画像を含む第2疑似ペア画像を生成する第2画像生成部と、
    前記第1検査プログラムが前記第2疑似ペア画像の合格画像及び不合格画像について合否を正しく判定した第2疑似ペア画像を取得する第2画像取得部と
    をさらに含み、
    前記第2画像生成部は、前記第2画像取得部によって取得された第2疑似ペア画像の数が第2所定数以上になるまで前記第2疑似ペア画像の生成を行い、
    前記学習処理部は、前記第2機械学習として、前記判定済ペア画像と、前記第1所定数以上の前記ランク付けされた第1疑似ペア画像と、前記第2所定数以上の前記第2画像取得部によって取得された第2疑似ペア画像とを入力とする第2機械学習を前記数学モデルに行わせる、請求項1記載の情報処理装置。
  3. 前記判定の正否に応じたランク付けは、前記第1疑似画像生成処理が行われた前記第1疑似ペア画像の合格画像又は不合格画像についての合否を前記第1検査プログラムが誤判定した第1疑似ペア画像についてのランクであり、
    前記第1画像生成部は、前記ランク毎に合否が誤判定された第1疑似ペア画像の数が前記ランク毎の所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部が前記第2機械学習に用いる前記第1所定数以上の前記ランク付けされた第1疑似ペア画像は、前記ランク毎の所定数以上の第1疑似ペア画像である、請求項1又は2記載の情報処理装置。
  4. 前記ランク毎の所定数は、前記第1疑似画像生成処理が行われた合格画像及び不合格画像のいずれか一方の合否が誤判定された第1疑似ペア画像についての所定数よりも、前記第1疑似画像生成処理が行われた合格画像及び不合格画像の両方の合否が誤判定された第1疑似ペア画像についての所定数の方が多い、請求項3記載の情報処理装置。
  5. 前記所定のランクは、前記第1疑似画像生成処理が行われた合格画像及び不合格画像の両方の合否が誤判定された第1疑似ペア画像についてのランク、前記第1疑似画像生成処理が行われた合格画像及び不合格画像のいずれか一方の合否が誤判定された第1疑似ペア画像についてのランク、及び、前記第1疑似画像生成処理が行われた合格画像及び不合格画像のいずれか他方の合否が誤判定された第1疑似ペア画像についてのランクのうちのいずれかのランクである、請求項4記載の情報処理装置。
  6. 前記判定の正否に応じたランク付けは、さらに、前記第1疑似画像生成処理が行われた前記第1疑似ペア画像の合格画像又は不合格画像についての合否を前記第1検査プログラムが正しく判定した第1疑似ペア画像についてのランクを含み、
    前記第1画像生成部は、前記ランク毎に合否が誤判定された第1疑似ペア画像の数が前記ランク毎の所定数以上になるとともに、前記合否が正しく判定された第1疑似ペア画像の数が当該第1疑似ペア画像についての所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部が前記第2機械学習に用いる前記第1所定数以上の前記ランク付けされた第1疑似ペア画像は、前記ランク毎の所定数以上の第1疑似ペア画像と、前記合否が正しく判定された第1疑似ペア画像についての所定数以上の第1疑似ペア画像とである、請求項3又は4記載の情報処理装置。
  7. 前記第1画像生成部は、前記ランク付けされた第1疑似ペア画像のうち、前記第1疑似ペア画像の合格画像及び不合格画像の両方の合否が誤判定された第1疑似ペア画像の数が第3所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部が前記第2機械学習に用いる前記第1所定数以上の前記ランク付けされた第1疑似ペア画像は、前記第3所定数以上の前記両方の合否が誤判定された第1疑似ペア画像を含む、請求項1又は2記載の情報処理装置。
  8. 前記第1画像生成部は、さらに、前記ランク付けされた第1疑似ペア画像のうち、前記第1疑似ペア画像の合格画像及び不合格画像のいずれか一方の合否を前記第1検査プログラムが誤判定した第1疑似ペア画像の数が第4所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部が前記第2機械学習に用いる前記第1所定数以上の前記ランク付けされた第1疑似ペア画像は、前記第3所定数以上の前記両方の合否が誤判定された第1疑似ペア画像と、前記第4所定数以上の前記いずれか一方の合否が誤判定された第1疑似ペア画像とを含む、請求項7記載の情報処理装置。
  9. 前記所定のランクは、前記第1疑似ペア画像の合格画像及び不合格画像の両方の合否が誤判定された第1疑似ペア画像についてのランク、前記第1疑似ペア画像の合格画像及び不合格画像のいずれか一方の合否を前記第1検査プログラムが誤判定した第1疑似ペア画像についてのランク、及び、前記第1疑似ペア画像の合格画像及び不合格画像のいずれか他方の合否を前記第1検査プログラムが誤判定した第1疑似ペア画像についてのランクのうちのいずれかのランクである、請求項8記載の情報処理装置。
  10. 前記第1画像生成部は、さらに、前記ランク付けされた第1疑似ペア画像のうち、前記第1疑似ペア画像の合格画像及び不合格画像の両方の合否を前記第1検査プログラムが正しく判定した第1疑似ペア画像の数が第5所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部が前記第2機械学習に用いる前記第1所定数以上の前記ランク付けされた第1疑似ペア画像は、前記第3所定数以上の前記両方の合否が誤判定された第1疑似ペア画像と、前記第4所定数以上の前記いずれか一方の合否が誤判定された第1疑似ペア画像と、前記第5所定数以上の前記両方の合否が正しく判定された第1疑似ペア画像とである、請求項8又は9記載の情報処理装置。
  11. 前記第1画像生成部は、さらに、前記ランク付けされた第1疑似ペア画像のうち、前記第1疑似ペア画像の合格画像及び不合格画像の両方の合否を前記第1検査プログラムが正しく判定した第1疑似ペア画像の数が第5所定数以上になるまで前記第1疑似ペア画像の生成を行い、
    前記学習処理部が前記第2機械学習に用いる前記第1所定数以上の前記ランク付けされた第1疑似ペア画像は、前記第3所定数以上の前記両方の合否が誤判定された第1疑似ペア画像と、前記第5所定数以上の前記両方の合否が正しく判定された第1疑似ペア画像とを含む、請求項7記載の情報処理装置。
  12. 前記所定のランクは、前記第1疑似ペア画像の合格画像及び不合格画像の両方の合否が誤判定された第1疑似ペア画像についてのランクである、請求項11記載の情報処理装置。
  13. 第1機械学習済みの第1検査プログラムが合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像を取得することと、
    前記判定済ペア画像の合格画像及び不合格画像に対して第1疑似画像生成処理を行った合格画像及び不合格画像を含む第1疑似ペア画像を生成することと、
    前記第1疑似ペア画像の合格画像及び不合格画像について前記第1検査プログラムが合否を判定した判定結果を取得することと、
    前記判定結果に基づいて、前記第1検査プログラムが合否を判定した第1疑似ペア画像をペア毎に、前記判定の正否に応じてランク付けすることと、
    前記判定済ペア画像と、前記ランク付けされた第1疑似ペア画像とを入力とする第2機械学習を、ペア画像の合格画像及び不合格画像が入力されると、当該ペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であるかどうかを判定する第2検査プログラムで表される数学モデルに行わせることと
    を含む処理であって、
    前記第1疑似ペア画像を生成することは、前記ランク付けされた第1疑似ペア画像の数が第1所定数以上になるまで前記第1疑似ペア画像を生成することであり、
    前記第2機械学習を前記数学モデルに行わせることは、前記判定済ペア画像と、前記第1所定数以上の前記ランク付けされた第1疑似ペア画像とを入力とする前記第2機械学習を前記数学モデルに行わせることにより、未知のペア画像の合格画像及び不合格画像を前記数学モデルに入力すると、当該未知のペア画像の合格画像及び不合格画像が所定のランク以上である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であると前記数学モデルが判定し、前記所定のランク未満である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが不適切であると前記数学モデルが判定するように前記数学モデルを学習させることである、処理をコンピュータに実行させる、情報処理プログラム。
  14. 第1機械学習済みの第1検査プログラムが合否を正しく判定した合格画像及び不合格画像を含む複数の判定済ペア画像を取得することと、
    前記判定済ペア画像の合格画像及び不合格画像に対して第1疑似画像生成処理を行った合格画像及び不合格画像を含む第1疑似ペア画像を生成することと、
    前記第1疑似ペア画像の合格画像及び不合格画像について前記第1検査プログラムが合否を判定した判定結果を取得することと、
    前記判定結果に基づいて、前記第1検査プログラムが合否を判定した第1疑似ペア画像をペア毎に、前記判定の正否に応じてランク付けすることと、
    前記判定済ペア画像と、前記ランク付けされた第1疑似ペア画像とを入力とする第2機械学習を、ペア画像の合格画像及び不合格画像が入力されると、当該ペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であるかどうかを判定する第2検査プログラムで表される数学モデルに行わせることと
    を含み、
    前記第1疑似ペア画像を生成することは、前記ランク付けされた第1疑似ペア画像の数が第1所定数以上になるまで前記第1疑似ペア画像を生成することであり、
    前記第2機械学習を前記数学モデルに行わせることは、前記判定済ペア画像と、前記第1所定数以上の前記ランク付けされた第1疑似ペア画像とを入力とする前記第2機械学習を前記数学モデルに行わせることにより、未知のペア画像の合格画像及び不合格画像を前記数学モデルに入力すると、当該未知のペア画像の合格画像及び不合格画像が所定のランク以上である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが適切であると前記数学モデルが判定し、前記所定のランク未満である場合に当該未知のペア画像の合格画像及び不合格画像の合否を前記第1検査プログラムに判定させることが不適切であると前記数学モデルが判定するように前記数学モデルを学習させることである、情報処理方法。
JP2021541361A 2019-08-19 2019-08-19 情報処理装置、情報処理プログラム、及び、情報処理方法 Active JP7197021B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/032302 WO2021033239A1 (ja) 2019-08-19 2019-08-19 情報処理装置、情報処理プログラム、及び、情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2021033239A1 JPWO2021033239A1 (ja) 2021-02-25
JP7197021B2 true JP7197021B2 (ja) 2022-12-27

Family

ID=74659882

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021541361A Active JP7197021B2 (ja) 2019-08-19 2019-08-19 情報処理装置、情報処理プログラム、及び、情報処理方法

Country Status (4)

Country Link
US (1) US20220108433A1 (ja)
JP (1) JP7197021B2 (ja)
CN (1) CN114096989A (ja)
WO (1) WO2021033239A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7354338B1 (ja) 2022-03-30 2023-10-02 本田技研工業株式会社 疑似不良品データ生成方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009539181A (ja) 2006-05-31 2009-11-12 マイクロソフト コーポレーション 手書き文字認識改善用コンバイナ
WO2018092747A1 (ja) 2016-11-15 2018-05-24 株式会社Preferred Networks 学習済モデル生成方法、学習済モデル生成装置、信号データ判別方法、信号データ判別装置及び信号データ判別プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2542118B (en) * 2015-09-04 2021-05-19 Toshiba Europe Ltd A method, apparatus, system, and computer readable medium for detecting change to a structure
JP6585995B2 (ja) * 2015-11-06 2019-10-02 クラリオン株式会社 画像処理システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009539181A (ja) 2006-05-31 2009-11-12 マイクロソフト コーポレーション 手書き文字認識改善用コンバイナ
WO2018092747A1 (ja) 2016-11-15 2018-05-24 株式会社Preferred Networks 学習済モデル生成方法、学習済モデル生成装置、信号データ判別方法、信号データ判別装置及び信号データ判別プログラム

Also Published As

Publication number Publication date
JPWO2021033239A1 (ja) 2021-02-25
CN114096989A (zh) 2022-02-25
WO2021033239A1 (ja) 2021-02-25
US20220108433A1 (en) 2022-04-07

Similar Documents

Publication Publication Date Title
JP6924413B2 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
Perez-Ortiz et al. A practical guide and software for analysing pairwise comparison experiments
US8129990B2 (en) Image processing apparatus and computer program product
CN110543892A (zh) 一种基于多层随机森林的零部件识别方法
CN105574550A (zh) 一种车辆识别方法及装置
US20210065367A1 (en) Automatic abnormal cell recognition method based on image splicing
CN105608441B (zh) 一种车型识别方法及系统
CN101915769A (zh) 一种印刷电路板中带电阻元件的自动光学检测方法
CN109983482A (zh) 已学习模型生成方法、已学习模型生成装置、信号数据判别方法、信号数据判别装置以及信号数据判别程序
CN111753873A (zh) 一种图像检测方法和装置
CN113870371A (zh) 基于生成对抗网络的图片颜色变换装置、方法和存储介质
JP7197021B2 (ja) 情報処理装置、情報処理プログラム、及び、情報処理方法
Prudêncio et al. Analysis of instance hardness in machine learning using item response theory
Guo et al. Open-eye: An open platform to study human performance on identifying ai-synthesized faces
CN111414930B (zh) 深度学习模型训练方法及装置、电子设备及存储介质
Shao Testing object detection for autonomous driving systems via 3d reconstruction
Wang et al. Local defect detection and print quality assessment
CN110147798A (zh) 一种可用于网络信息检测的语义相似度学习方法
CN114898131B (zh) 一种基于自然引导和数据增强的违禁物品检测方法及系统
CN109145554A (zh) 一种基于支持向量机的击键特征异常用户识别方法及系统
EP0463242B1 (en) Method of processing pattern data on the basis of ranked amplitude values, apparatus for performing the method
CN113128556B (zh) 基于变异分析的深度学习测试用例排序方法
CN113537253A (zh) 一种红外图像目标检测方法、装置、计算设备及存储介质
US10902584B2 (en) Detection of surface irregularities in coins
CN112132239A (zh) 一种训练方法、装置、设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221128

R150 Certificate of patent or registration of utility model

Ref document number: 7197021

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150