JP7362937B2 - 敵対的生成ネットワークを用いた生産条件生成システム、及びその生産条件生成方法並びに生産条件生成プログラム - Google Patents

Description

本開示は、敵対的生成ネットワークを用いた生産条件生成システム、及びその生産条件生成方法並びに生産条件生成プログラムに関するものである。

生産ラインでは、工業製品などの部品等の目的物を生産している。生産ラインでは複数の工程を有しており、それぞれの工程で加工等の処理がされることによって、所望の目的物が生産される。

国際公開第２０１９／１７６２３５号

しかしながら、生産ラインでは、生産された目的物が不適合品（不良品）とならないように各工程のパラメータを設定する必要があり、解析が困難である。

各工程のパラメータを設定する方法として、不適合の予測と、特徴量エンジニアリングの２つのアプローチが考えられる。
不適合の予測では、ＡＩ等のモデルを用いて、各工程のパラメータを入力してその結果良品となるか不良品となるかを判定する。しかし、このような方法だと、パラメータと製造結果の相関関係がブラックボックス化してしまう。すなわち、良品を製造するために各工程のパラメータを効率的に設定することが困難となる可能性がある。

特徴量エンジニアリングでは、良品と不良品の境界面を方程式として表し、該方程式が示す境界線に基づいて各工程のパラメータを設定する。しかし、方程式が複雑化すると該方程式に基づいて各パラメータを設定することが困難となり、方程式が簡単化しても精度が得られない可能性がある。

このため、効率的に良品を生産できるように各工程を制御することが求められている。

本開示は、このような事情に鑑みてなされたものであって、不良品の生産を抑制することのできる敵対的生成ネットワークを用いた生産条件生成システム、及びその生産条件生成方法並びに生産条件生成プログラムを提供することを目的とする。

本開示の第１態様は、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成部と、前記生成部により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータであるか否かを判定する識別部と、前記生成部により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測部と、前記生成部におけるニューラルネットワークの学習を行う場合に、前記識別部により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測部により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御部と、を備える敵対的生成ネットワークを用いた生産条件生成システムである。

本開示の第２態様は、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成工程と、前記生成工程により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータか否かを判定する識別工程と、前記生成工程により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測工程と、前記生成工程におけるニューラルネットワークの学習を行う場合に、前記識別工程により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測工程により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御工程と、を有する敵対的生成ネットワークを用いた生産条件生成方法である。

本開示の第３態様は、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成処理と、前記生成処理により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータか否かを判定する識別処理と、前記生成処理により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測処理と、前記生成処理におけるニューラルネットワークの学習を行う場合に、前記識別処理により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測処理により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御処理と、をコンピュータに実行させるための敵対的生成ネットワークを用いた生産条件生成プログラムである。

本開示によれば、不良品の生産を抑制することができるという効果を奏する。

本開示の一実施形態に係る生産ラインの一例を示す図である。 本開示の一実施形態に係る生産条件生成システムの概略構成を示す図である。 本開示の一実施形態に係るジェネレータの入出力状態の一例を示す図である。 本開示の一実施形態に係るディスクリミネータの入出力状態の一例を示す図である。 本開示の一実施形態に係るプレディクタの入出力状態の一例を示す図である。 ニューロンのモデルの一例を示す模式図である。 ニューラルネットワークの一例を示す模式図である。 本開示の一実施形態に係るＧ学習モードにおける生産条件生成システムの例を示す図である。 本開示の一実施形態に係るＤ学習モードにおける生産条件生成システムの例を示す図である。 本開示の一実施形態に係る生産条件生成システムによる処理の一例を示すフローチャートである。 本開示の一実施形態に係るジェネレータの学習処理の一例を示すフローチャートである。 本開示の一実施形態に係るジェネレータの使用方法の一例を示す図である。 本開示の一実施形態に係る学習制御部のハードウェア構成の一例を示した図である。

以下に、本開示に係る敵対的生成ネットワークを用いた生産条件生成システム、及びその生産条件生成方法並びに生産条件生成プログラムの一実施形態について、図面を参照して説明する。

本実施形態に係る生産条件生成システム１は、主に生産ラインに適用される。生産ラインでは、複数の工程を所定の順序で実行して目的物（例えば工業製品や部品等）を生産する。複数の工程によって目的物が生産される場合であれば、生産ラインに限定されず適用することが可能である。図１は、生産ラインの一例である。図１では化成処理プロセスを示しており、第１工程において化成処理を行い、第２処理において湯洗を行い、第３工程において乾燥を行う。図１は生産ラインの一例であり、本実施形態の生産条件生成システム１は図１の生産ラインに限定されず適用することができる。

生産ラインの各工程では、それぞれの処理を適切に行うために制御パラメータが設定される。制御パラメータとは、各工程を制御するためのパラメータであり、所望の動作をさせるための条件（生産条件）である。図１の例では、第１工程では、制御パラメータは化成処理液のｐＨ、マスキングの有無、及び処理時間となる。第２工程では、制御パラメータは湯洗槽の湯量、湯洗温度、及び処理時間となる。第３工程では、制御パラメータは乾燥室の温度、風向、及び乾燥時間となる。すなわち、制御パラメータを調整することによって目的物に対する処理を制御する。各工程において適切に制御パラメータが設定されていないと、最終的に生産される目的物が不良品となる可能性があるため、生産条件生成システム１では、より確実に良品が生産できるように工程の生産条件を演算する。

生産条件（工程のパラメータ）としては、環境パラメータを含めることとしてもよい。環境パラメータとは、環境要因である（環境依存性がある）パラメータである。環境パラメータは、制御パラメータと異なり、自由に設定することができず、各工程が行われる環境によって決まるパラメータである。例えば、環境パラメータは、温度や湿度、気圧、天候、設備の累積使用時間等である。環境パラメータとしては、上記の少なくともいずれか１つを用いることとしてもよい。

本実施形態では、生産ライン（生産現場）として、第１工程、第２工程、第３工程、及び第４工程を行う場合を一例として説明する。そして、生産条件として、制御パラメータ及び環境パラメータを用いる場合について説明する。環境パラメータを考慮しないこととしてもよい。

図２は、本開示の一実施形態に係る生産条件生成システム１の概略構成を示す図である。図２に示すように、本実施形態に係る生産条件生成システム１は、ジェネレータ（生成部）２と、ディスクリミネータ（識別部）４と、プレディクタ（予測部）３と、学習制御部５とを主な構成として備えている。すなわち、生産条件生成システム１は、ジェネレータ２とディスクリミネータ４とを用いる敵対的生成ネットワークである。敵対的生成ネットワーク（Ｇｅｎｅｒａｔｉｖｅ Ａｄｖｅｒｓａｒｉａｌ Ｎｅｔｗｏｒｋｓ：ＧＡＮ）とは、教師なし学習の一種であり、互に競合するニューラルネットワークによって構成される人工知能アルゴリズムである。ジェネレータ２、ディスクリミネータ４、プレディクタ３は、ニューラルネットワークにより構成されている。

ジェネレータ（Ｇｅｎｅｒａｔｏｒ）２は、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータ及び環境パラメータを入力として、入力されていない工程の制御パラメータを出力する。すなわち、ジェネレータ２には、一部の工程に対応したパラメータが入力され、その他の工程のパラメータが出力される。図３はジェネレータ２の入出力状態の一例を示す図である。図３に示すように、ジェネレータ２には、第１工程及び第２工程（一部の工程）の制御パラメータ及び環境パラメータが入力される。そして、ジェネレータ２は、第３工程及び第４工程（その他の工程）の制御パラメータ（予測値）を出力する。ジェネレータ２で、図３に示すように、入力された工程の制御パラメータ及び環境パラメータが出力側にも表れる。

ジェネレータ２に入力される一部の工程については、予め設定可能であり、図３の場合に限定されない。

生産ラインにおける各工程は、実施済の工程（完了した工程）と、予測対象の工程（未完了の工程）とに予め分けられ、実施済の工程として想定された工程の制御パラメータ及び環境パラメータがジェネレータ２へ入力される。図３の例では、第１工程と第２工程とが実施済の工程として想定されており、第３工程と第４工程とが予測対象の工程となる。すなわち、ジェネレータ２は、学習後では、完了した工程のパラメータを入力すると、良品を製造するための残りの工程（未完了の工程）のパラメータを出力することが可能となる。

そしてさらに、ジェネレータ２の入力には、出力対象の工程の環境パラメータの見込み値が入力されることが好ましい。図３の例では、出力対象となっている工程である第３工程及び第４工程の環境パラメータの見込み値が入力される。見込み値とは、出力対象の工程が実施される環境に対応した環境パラメータの想定値である。見込み値は、作業員によって適当に値が設定されてもよいし、コンピュータ等によって演算した予測値を用いることとしてもよい。出力対象の工程の環境パラメータが入力されることによって、ジェネレータ２は、出力対象の工程の制御パラメータをより正確に出力することが可能となる。図３のように、入力された第３工程及び第４工程の環境パラメータの見込み値は、出力側にも表れる。

さらに、ジェネレータ２の入力には、計測することができず目的物の生産に影響を与えるノイズパラメータを含むこととすることがより好ましい。図３ではノイズパラメータについても入力される場合を示している。ノイズパラメータについては入力に用いないこととしてもよい。

ノイズパラメータとは、測定が不可能であったり、ランダムに発生するパラメータであり、生産された目的物の品質に影響を及ぼすものとして予め設定される。測定が不可能とは、物理的に測定が不可能な場合や、物理的には測定が可能であるが測定器を設けておらず測定ができない場合も含む。具体的には、ノイズパラメータは、作業員の熟練度及び体調の少なくともいずれか１つを定量的に表したパラメータである。ノイズパラメータが入力されることによって、環境パラメータ等だけでは再現できない影響を加味することが可能となる。ノイズパラメータとしては、部品表面の測定できない細かな疵や、公差内の部品形状のばらつきを定量的に表すこととしてもよい。

図３の例では、ノイズパラメータ及び環境パラメータ（見込み値）とを１本のノードでニューロンへ入力しているが、入力される次元によって多次元入力としてもよい。例えば、ベクトル入力としてもよい。他のノードの次元も限定されない。

ディスクリミネータ（Ｄｉｓｃｒｉｍｉｎａｔｏｒ）４は、ジェネレータ２により出力された制御パラメータを含む各工程の制御パラメータを入力として、入力された制御パラメータが実際に設定可能なパラメータであるか否かを判定する。具体的には、ディスクリミネータ４には、目的物を生産するための複数の工程の全ての工程の制御パラメータ（及び環境パラメータ）が入力される。ディスクリミネータ４の入力は、ジェネレータ２へ入力された工程のパラメータ及びジェネレータ２から出力された工程のパラメータが入力されることとなる。

図４はディスクリミネータ４の入出力状態の一例を示す図である。図４に示すように、ディスクリミネータ４には、第１工程及び第２工程の制御パラメータ及び環境パラメータ（ジェネレータ２の入力と等しい）が入力される。そしてさらに、ディスクリミネータ４には、第３工程及び第４工程の制御パラメータ（ジェネレータ２から出力された予測値）と、第３工程及び第４工程の環境パラメータ（ジェネレータ２の入力の見込み値と等しい）が入力される。

そして、ディスクリミネータ４は、各工程のパラメータの入力に基づいて、入力された各工程のパラメータが、各工程において実際に設定可能なパラメータの値となっているか否か（現実的か非現実的か）を判定する。実際に設定可能とは、各工程における装置の仕様等に対して設定することが可能なパラメータ値であることである。本実施形態では、実際に設定可能なパラメータとは、過去に設定された実績のあるパラメータであることとして説明する。実際に設定可能なパラメータを、各工程の装置仕様に応じて設定することとしてもよい。

ディスクリミネータ４は、入力された各工程のパラメータにおいて、１つでも非現実なパラメータがある場合に、偽を出力する。そして、ディスクリミネータ４は、全てのパラメータが現実的である場合に、真を出力する。すなわち、ディスクリミネータ４では、真偽判定を行っている。

ディスクリミネータ４は、ジェネレータ２に対して敵対的な関係にあり、ジェネレータ２で非現実なパラメータが出力されないように抑える役割を担っている。

プレディクタ（Ｐｒｅｄｉｃｔｏｒ）３は、ジェネレータ２により出力された制御パラメータを含む各工程の制御パラメータを入力として、入力された各制御パラメータにより生産された目的物が所定の品質条件を満たす良品となるか否かを予測する。プレディクタ３の入力は、ディスクリミネータ４の入力と同じである。すなわち、プレディクタ３へは、ジェネレータ２へ入力された工程のパラメータ及びジェネレータ２から出力された工程のパラメータが入力されることとなる。

図５はプレディクタ３の入出力状態の一例を示す図である。図５に示すように、プレディクタ３には、第１工程及び第２工程の制御パラメータ及び環境パラメータ（ジェネレータ２の入力と等しい）が入力される。そしてさらに、プレディクタ３には、第３工程及び第４工程の制御パラメータ（ジェネレータ２から出力された予測値）と、第３工程及び第４工程の環境パラメータ（ジェネレータ２の入力の見込み値と等しい）が入力される。

そして、プレディクタ３は、各工程のパラメータの入力に基づいて、入力された各工程のパラメータに基づいて生産を行った場合に、生産された目的物が良品となるか不良品となるかを予測する。良品とは、目的物の品質に対して予め設定された条件（品質条件）を満たす品質の良い目的物を示す。品質条件については、生産する目的物に応じて予め設定される。このように、プレディクタ３では良否判定を行っている。

プレディクタ３は、ジェネレータ２に対して敵対的な関係にあり、ジェネレータ２で不良品となる制御パラメータが出力されないように抑える役割を担っている。

プレディクタ３は、教師あり学習により得た予測モデルである。具体的には、プレディクタ３は、各工程の制御パラメータ（及び環境パラメータ）と、生産された目的物の良否判定結果とが対応付けられた情報を教師データとして機械学習された予測モデルである。プレディクタ３の学習の詳細については後述する。

プレディクタ３の学習は、ジェネレータ２やディスクリミネータ４の学習を行う前に行われる。すなわち、敵対的生成ネットワークによるジェネレータ２やディスクリミネータ４の学習は、学習済のプレディクタ３を用いて行われる。

プレディクタ３については、入力された各工程のパラメータに基づいて目的物の良否判定を行うことができれば、機械学習された予測モデル以外であっても適用することができる。

上記のジェネレータ２、ディスクリミネータ４、プレディクタ３は、ニューラルネットワークにより構成されている。ニューラルネットワークは、たとえば図６に示すようなニューロンのモデルを模したニューラルネットワークで構成される。図６は、ニューロンのモデルの一例を示す模式図である。図６に示すように、ニューロンは、複数の入力ｘ（入力ｘ１、ｘ２、ｘ３）に対する出力ｙを出力するものである。各入力ｘ１～ｘ３には、各入力ｘに対応する重みｗ（ｗ１、ｗ２、ｗ３）が掛けられる。これにより、ニューロンは、出力ｙを出力する。θはバイアスである。

図６のようなニューロンを組み合わせると、例えば図７のニューラルネットワークとなる。図７は、ニューロンを組み合わせた３層の重みを有するニューラルネットワークの例を示している。図７は、Ｄ１～Ｄ３の３層の重みを有するニューラルネットワークを示す模式図である。図７に示すように、ニューラルネットワークの左側から複数の入力ｘ（入力ｘ１～ｘ３）が入力され、右側から結果（ｙ１～ｙ３）が出力される。

具体的には、入力ｘ１～入力ｘ３は、３つのニューロンＮ１１～Ｎ１３の各々に対して対応する重みが掛けられて入力される。図７では、入力に掛けられる重みを、まとめてｗ１と標記している。ニューロンＮ１１～Ｎ１３は、それぞれ、ｚ１１～ｚ１３を出力する。ｚ１１～ｚ１３は、まとめて特徴ベクトルｚ１と標記され、入力ベクトルの特徴量を抽出したベクトルとみなすことができる。この特徴ベクトルｚ１は、重みｗ１と重みｗ２との間の特徴ベクトルである。

ｚ１１～ｚ１３は、２つのニューロンＮ２１、Ｎ２２の各々に対して対応する重みが掛けられて入力される。図７では、特徴ベクトルに掛けられる重みは、まとめてｗ２と標記している。ニューロンＮ２１、Ｎ２２は、それぞれ、ｚ２１、ｚ２２を出力する。図７では、ｚ２１及びｚ２２をまとめて特徴ベクトルｚ２と標記している。この特徴ベクトルｚ２は、重みｗ２と重みｗ３との間の特徴ベクトルである。

特徴ベクトルｚ２１、ｚ２２は、３つのニューロンＮ３１～Ｎ３３の各々に対して対応する重みが掛けられて入力される。図７では、特徴ベクトルに掛けられるそれぞれの重みは、まとめてｗ３と標記している。そして、ニューロンＮ３１～Ｎ３３は、それぞれ、結果ｙ１～結果ｙ３を出力する。

重みｗ１～ｗ３は、誤差逆伝搬法（バックプロパゲーション）により学習可能なものである。誤差の情報は、右側（出力側）から入り左側（入力側）に流れる。誤差逆伝搬法は、各ニューロンについて、入力ｘが入力されたときの出力ｙと真の出力ｙとの差分を小さくするように、それぞれの重みを調整（学習）する手法である。このため、入力を入れることで、出力を得ることができる。

ニューラルネットワークは、３層以上にさらに層を増やすことも可能である（ディープラーニング）。オートエンコーダにより次元圧縮を行うこととしてもよい。

各ニューラルネットワークでは、入力層と出力層のノード数を、ジェネレータ２の入力の次元数に応じて動的に変更できるようなネットワークとしてもよい。

学習制御部５は、ジェネレータ２におけるニューラルネットワークの学習を行う場合に、ディスクリミネータ４により制御パラメータが実際に設定可能なパラメータであると判定され、プレディクタ３により目的物が良品と予測されるように、ニューラルネットワークを学習させる。

学習制御部５は、ジェネレータ２とディスクリミネータ４とをそれぞれ学習させる。ジェネレータ２の学習と、ディスクリミネータ４の学習とはそれぞれ異なるタイミングで実行される。ジェネレータ２を学習するモードをＧ学習モードとし、ディスクリミネータ４を学習するモードをＤ学習モードとして説明を行う。

Ｇ学習モードにおいて、学習制御部５は、ディスクリミネータ４により制御パラメータが実際に設定可能な（現実的な）パラメータであると判定され、プレディクタ３により目的物が良品と予測されるように、ジェネレータ２を学習する。すなわち、ジェネレータ２は、ディスクリミネータ４だけでなく、プレディクタ３も用いて学習が行われる。

Ｇ学習モードでは、図８に示すように、ディスクリミネータ４をパラメータ固定とする。すなわち、ディスクリミネータ４におけるニューラルネットワークの重みは変更されない。プレディクタ３についても学習済のものを使用するためパラメータ固定となる。

図８のような状態において、ジェネレータ２の入力側に、ランダム生成された各パラメータの値（でたらめな値）を入力する。ランダム生成された値は、乱数を用いることができる。例えば、ランダム生成された値は、ジェネレータ２の入力側の各パラメータにおいて実際に設定された（現実的な）値（実際に設定可能な値を含んでもよい）のデータ群を用いて生成される。具体的には、該データ群における平均値と標準偏差を元にした正規分布に従って発生させた乱数を、ランダム生成された値として用いることができる。環境パラメータについては、実際に測定された（現実的な）値の平均値と標準偏差を元にした正規分布に従って発生させた乱数を、ランダム生成された値として用いることができる。すなわち、ジェネレータ２は、乱数であるが現実的な値が高確率で入力されることとなる。分布はパラメータの性質に応じて正規分布以外を用いることも可能である。このようにすると、ジェネレータ２から、ランダム入力に対応した出力対象の工程の各制御パラメータが出力される。そして、ジェネレータ２の出力を、ディスクリミネータ４へ入力する。そうすると、ディスクリミネータ４では、入力に対して真偽判定結果が出力される。そして、ディスクリミネータ４からの出力が真（現実的なパラメータである）と出力されるように、ジェネレータ２を学習する。このような学習により、ジェネレータ２は、入力に対して現実的なパラメータを出力できるように学習される。つまり、ジェネレータ２は、入力された一部の工程のパラメータに基づいて、出力されるその他の工程のパラメータが現実的な値となるように学習される。

そしてさらに、図８に示すように、ジェネレータ２の出力を、プレディクタ３へ入力する。そうすると、プレディクタ３では、入力に対して良否判定結果が出力される。そして、プレディクタ３からの出力が良品と出力されるように、ジェネレータ２を学習する。このような学習により、ジェネレータ２は、入力に対して、目的物が良品となるようなパラメータを出力できるように学習される。つまり、ジェネレータ２は、入力された一部の工程のパラメータに基づいて、最終的に目的物が良品となるようなその他の工程のパラメータ値を出力するように学習がされる。

ジェネレータ２の学習について、具体的には、ジェネレータ誤差を小さくする方向にジェネレータ２のニューラルネットワークが学習される。ジェネレータ２の出力に基づくプレディクタ３の出力が不良である場合に誤差をα１とし、ジェネレータ２の出力に基づくディスクリミネータ４の出力が偽である場合に誤差をα２とする。すなわち、ジェネレータ誤差は、α１＋α２として表すことができる。このジェネレータ誤差を小さくするようにジェネレータ２の学習を行う。具体的には、ジェネレータ誤差が小さくなるように誤差逆伝搬によってジェネレータ２が学習される。ジェネレータ誤差には、ロス関数が適用されてもよい。

このように、ジェネレータ２は、ディスクリミネータ４及びプレディクタ３の両方と敵対して学習が行われる。

Ｄ学習モードにおいて、学習制御部５は、ランダム生成された入力に対してジェネレータ２で生成した制御パラメータを含む各工程の制御パラメータが入力された場合に、設定可能なパラメータでないと判定し、設定可能なパラメータとして設定された各工程の制御パラメータが入力された場合に、設定可能なパラメータであると判定するように、ディスクリミネータ４を学習する。すなわち、ディスクリミネータ４は、ジェネレータ２を用いて学習が行われる。

Ｄ学習モードでは、図９に示すように、ジェネレータ２をパラメータ固定とする。すなわち、ジェネレータ２におけるニューラルネットワークの重みは変更されない。ディスクリミネータ４の学習においては、プレディクタ３は参照されない。

図９のような状態において、ディスクリミネータ４の入力側に、真データを入力する。真データは、現実的なパラメータ（設定可能なパラメータ）として予め用意された各工程のパラメータである。具体的には、真データは、各工程のパラメータとして実際に設定されたことのあるパラメータである。そして、ディスクリミネータ４は、真データが入力された場合には、真（現実的なパラメータである）と出力されるように学習がされる。

一方で、ディスクリミネータ４の入力を切り替えて、ランダム生成された入力に基づくジェネレータ２の出力を入力する。具体的には、ジェネレータ２の出力を含む各工程の制御パラメータがディスクリミネータ４へ入力される。そして、ディスクリミネータ４は、ジェネレータ２からの出力が入力された場合には、偽（非現実的なパラメータである）と出力されるように学習がされる。

このようにディスクリミネータ４の学習が行われることで、真データ（現実的なデータ）が入力されると真を出力し、ジェネレータ２の出力が入力されると偽を出力するように学習がされる。学習が進んでいかないと、ジェネレータ２からは正しいデータが出力されない。このため、ディスクリミネータ４がジェネレータ２の出力が入力されると偽を出力するように学習がされることで、真でないデータに入力に対応して偽を出力することができるようになる。このようにＤ学習モードでは、ジェネレータ２は正しい出力をしていないと仮定してディスクリミネータ４の学習が行われる。

ディスクリミネータ４の学習について、具体的にはディスクリミネータ誤差を小さくする方向にディスクリミネータ４のニューラルネットワークが学習される。真データを入力したときにディスクリミネータ４の出力が偽である場合に誤差をβ１とし、ジェネレータ２からの出力を入力した場合にディスクリミネータ４の出力が真である場合に誤差をβ２とする。すなわち、ジェネレータ誤差は、β１＋β２として表すことができる。このディスクリミネータ誤差を小さくするようにディスクリミネータ４の学習を行う。具体的には、ディスクリミネータ誤差が小さくなるように誤差逆伝搬によってディスクリミネータ４が学習される。ディスクリミネータ誤差には、ロス関数が適用されてもよい。

そして、学習制御部５では、Ｇ学習モードとＤ学習モードとを切り替えて、繰り返し実行する。そうすると、学習初期の段階ではジェネレータ２はでたらめな値を出力するが、ディスクリミネータ４の成長に伴ってジェネレータ２が成長し、また、ジェネレータ２の成長に伴ってディスクリミネータ４が成長して、互に学習し合う。このため、ジェネレータ２は、目的物が良品となり、かつ現実的なパラメータを出力することができるようになる。

次に、上述の生産条件生成システム１による処理の流れ一例について図１０を参照して説明する。図１０は、本実施形態に係る生産条件生成システム１による処理の一例を示すフローチャートである。

まず、ジェネレータ２において、第１工程及び第２工程の制御パラメータ及び環境パラメータに対応して各値が入力され、第３工程及び第４工程の制御パラメータを出力する（Ｓ１０１）。ジェネレータ２は、ノイズパラメータが入力されることとしてもよい。

次に、第１工程及び第２工程の制御パラメータ及び環境パラメータ、ジェネレータ２から出力された第３工程及び第４工程の制御パラメータ、及び第３工程及び第４工程の環境パラメータの見込み値がディスクリミネータ４へ入力され、各工程のパラメータの値が実際に設定可能な値であるか否かを判定する（Ｓ１０２）。すなわち、Ｓ１０２では真偽判定処理を行う。

Ｓ１０２と平行して、第１工程及び第２工程の制御パラメータ及び環境パラメータ、ジェネレータ２から出力された第３工程及び第４工程の制御パラメータ、及び第３工程及び第４工程の環境パラメータの見込み値がプレディクタ３へ入力され、各工程が入力されたパラメータの値によって実行された場合に目的物が良品となるか否かが実際に設定可能な値であるか否かを判定する（Ｓ１０３）。すなわち、Ｓ１０３では良否判定処理を行う。

次に、上述のジェネレータ２の学習処理の一例について図１１を参照して説明する。図１１は、本実施形態に係るジェネレータ２の学習処理の一例を示すフローチャートである。

まず、ジェネレータ２へランダム生成された値を、入力側の各ノードへ入力する（Ｓ２０１）。具体的には、第１工程及び第２工程の制御パラメータ及び環境パラメータ、及び第３工程及び第４工程の環境パラメータ（見込み値）のそれぞれに対応する各値がランダム生成されて入力される。ジェネレータ２は、ノイズパラメータに対応したランダム生成された値が入力されることとしてもよい。

次に、ジェネレータ２から出力された第３工程及び第４工程の制御パラメータがディスクリミネータ４へ入力される（Ｓ２０２）。ディスクリミネータ４へは、ジェネレータ２へも入力された第１工程及び第２工程の制御パラメータ及び環境パラメータ、及び第３工程及び第４工程の環境パラメータ（見込み値）が入力される。

次に、ディスクリミネータ４から真偽判定結果が出力される（Ｓ２０３）。

Ｓ２０２と並列して、ジェネレータ２から出力された第３工程及び第４工程の制御パラメータがプレディクタ３へ入力される（Ｓ２０４）。プレディクタ３へは、ジェネレータ２へも入力された第１工程及び第２工程の制御パラメータ及び環境パラメータ、及び第３工程及び第４工程の環境パラメータ（見込み値）が入力される。

そして、プレディクタ３から良否判定結果が出力される（Ｓ２０５）。

次に、ディスクリミネータ４の真偽判定結果、及びプレディクタ３の良否判定結果に基づいて、ジェネレータ誤差を算出する（Ｓ２０６）。

ジェネレータ誤差に基づいて、ジェネレータ２の学習を行う（Ｓ２０７）。

次に、プレディクタ３の学習について説明する。
本実施形態では、機械学習（教師あり学習）を適用する場合について説明するが、他の機械学習の方式（例えば強化学習など）を利用してもよいし、ルールベースを利用することとしてもよく、プレディクタ３における判定方法については限定されない。教師あり学習とは、教師データ（正解情報が結びついているデータセット）によってデータの特徴をモデル化する学習方法である。教師データは、例えば、生産ラインにおいて収集された実績データに基づいて作成される。

教師あり学習では、入力と結果（ラベル）のデータの組を機械学習装置に与えることで、データセットにおける特徴を学習し、入力から結果を推定する予測モデルを生成する。すなわち、予測モデルによって、学習させたデータセットにおける関係性を帰納的に獲得することができる。機械学習は、ニューラルネットワークやＳＶＭなどのアルゴリズムを用いて実現することができる。

プレディクタ３は、教師あり学習により機械学習されたモデルである。教師データは、各工程の制御パラメータ（及び環境パラメータ）と、この各制御パラメータに基づいて生産された目的物の良否判定結果（良品か不良品か）とが対応付けられたデータである。すなわち、入力が各工程の制御パラメータ（及び環境パラメータ）であり、対応した出力（正解データ）が良否判定結果となる。各工程の制御パラメータ（及び環境パラメータ）は、目的物の生産のための条件であるため、目的物の良否判定結果に影響する。すなわち、各工程の制御パラメータ（及び環境パラメータ）と、良否判定結果とは互いに相関関係を有している。このため、プレディクタ３は、学習モードにおいて、該教師データに基づいて教師あり学習が行われ、各ニューロンの重みが適切に調整される（機械学習）。

このような教師データを用いて学習が行われることによって、プレディクタ３は、予測モードにおいて、入力（各工程のパラメータ）に基づいて、良否判定結果を出力することができる。具体的には、プレディクタ３は、ジェネレータ２により出力された制御パラメータを含む各工程のパラメータを入力として、良否判定結果を出力する。

次に、ジェネレータ２を用いて未実施の工程の制御パラメータを出力する場合について説明する。
上記のように学習が行われることによって、ジェネレータ２は、一部の工程のパラメータに基づいて、その他の工程のパラメータを出力することが可能となる。そして、ジェネレータ２の出力は、実際に設定可能な値であり、かつ目的物が良品となるような値となる。

すなわち、学習後において、ジェネレータ２に実施済である該一部の工程の制御パラメータの実際の値が入力されることによって、該一部の工程以外（未実施）の工程の制御パラメータの予測値が出力される。具体的には、図１２に示すように、第１工程及び第２工程が実施された後に、第１工程及び第２工程の制御パラメータ及び環境パラメータの実施値（実施された値）をジェネレータ２へ入力することによって、未実施の第３工程及び第４工程の制御パラメータが出力される。ノイズパラメータは、第３工程及び第４工程における見込み値が入力されることが好ましい。

このため、出力された未実施の第３工程の制御パラメータを用いて実際に第３工程を実施する。この時に、第３工程の制御パラメータと環境パラメータの実施値を得ることができる。

そして、第１工程、第２工程、及び第３工程の制御パラメータ及び環境パラメータの実施値をジェネレータ２へ入力することによって、未実施の第４工程の制御パラメータが出力される。そして、出力された未実施の第４工程の制御パラメータを用いて実際に第４工程を実施する。

このように学習済のジェネレータ２を用いることによって、実施済の工程情報に基づいて、目的物が良品となると予測され、実際に設定可能な、未実施の工程の制御パラメータを得ることができる。このため、良品となる目的物をより安定的に生産することが可能となる。

図１３は、本実施形態に係る生産条件生成システム１のハードウェア構成の一例を示した図である。
図１３に示すように、生産条件生成システム１は、コンピュータシステム（計算機システム）であり、例えば、ＣＰＵ１１と、ＣＰＵ１１が実行するプログラム等を記憶するためのＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）１２と、各プログラム実行時のワーク領域として機能するＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）１３と、大容量記憶装置としてのハードディスクドライブ（ＨＤＤ）１４と、ネットワーク等に接続するための通信部１５とを備えている。大容量記憶装置としては、ソリッドステートドライブ（ＳＳＤ）を用いることとしてもよい。これら各部は、バス１８を介して接続されている。

生産条件生成システム１は、キーボードやマウス等からなる入力部や、データを表示する液晶表示装置等からなる表示部などを備えていてもよい。

ＣＰＵ１１が実行するプログラム等を記憶するための記憶媒体は、ＲＯＭ１２に限られない。例えば、磁気ディスク、光磁気ディスク、半導体メモリ等の他の補助記憶装置であってもよい。

後述の各種機能を実現するための一連の処理の過程は、プログラムの形式でハードディスクドライブ１４等に記録されており、このプログラムをＣＰＵ１１がＲＡＭ１３等に読み出して、情報の加工・演算処理を実行することにより、後述の各種機能が実現される。プログラムは、ＲＯＭ１２やその他の記憶媒体に予めインストールしておく形態や、コンピュータ読み取り可能な記憶媒体に記憶された状態で提供される形態、有線又は無線による通信手段を介して配信される形態等が適用されてもよい。コンピュータ読み取り可能な記憶媒体とは、磁気ディスク、光磁気ディスク、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、半導体メモリ等である。

以上説明したように、本実施形態に係る敵対的生成ネットワークを用いた生産条件生成システム、及びその生産条件生成方法並びに生産条件生成プログラムによれば、一部の工程の制御パラメータによってその他の工程の制御パラメータを出力するジェネレータ２と、ジェネレータ２の出力を含む各工程の制御パラメータに基づいて実際に設定可能なパラメータであるか否かの判定行うディスクリミネータ４と、ジェネレータ２の出力を含む各工程の制御パラメータに基づいて目的物の良品予測を行うプレディクタ３とを用いて敵対的生成ネットワークが構成されている。そして、ニューラルネットワークにより構成されるジェネレータ２の学習は、ディスクリミネータ４及びプレディクタ３の両方の出力に基づいて行われる。具体的には、ディスクリミネータ４により実際に設定可能なパラメータであると判定され、プレディクタ３により目的物が良品と予測されるように、ジェネレータ２が学習される。これによって、ジェネレータ２は、実際に設定可能であり、かつ、良品となるような制御パラメータを生成することができるようになり、目的物を生産するためにより適切な制御パラメータを出力することが可能となる。

敵対的生成ネットワークを用いてディスクリミネータ４の学習を行う場合には、ジェネレータ２においてランダム生成された入力（でたらめな入力）に基づいて生成された制御パラメータがディスクリミネータ４へ入力された場合には、設定可能なパラメータでないと判定（偽判定）するように学習が行われる。一方で、設定可能なパラメータとして設定された制御パラメータがディスクリミネータ４へ入力された場合には、設定可能なパラメータであると判定（真判定）するように学習が行われる。このため、ディスクリミネータ４は真偽判定が行うことができるように学習される。そして、ジェネレータ２の学習と、ディスクリミネータ４の学習とはそれぞれ異なるタイミングで実行されるため、それぞれのタイミングでジェネレータ２とディスクリミネータ４とが学習されて互いに敵対的に訓練される。

学習後のジェネレータ２を用いることによって、制御パラメータの実施値の入力に基づいてその他の工程の制御パラメータの予測値を出力することができる。特に学習後であるため、入力された制御パラメータの実施値に応じて、実際に設定可能であり、かつ、良品となるような制御パラメータの予測値が出力されることとなる。

本開示は、上述の実施形態のみに限定されるものではなく、発明の要旨を逸脱しない範囲において、種々変形実施が可能である。

以上説明した各実施形態に記載の敵対的生成ネットワークを用いた生産条件生成システム、及びその生産条件生成方法並びに生産条件生成プログラムは例えば以下のように把握される。
本開示に係る敵対的生成ネットワークを用いた生産条件生成システム（１）は、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成部（２）と、前記生成部（２）により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータであるか否かを判定する識別部（４）と、前記生成部（２）により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測部（３）と、前記生成部（２）におけるニューラルネットワークの学習を行う場合に、前記識別部（４）により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測部（３）により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御部（５）と、を備える。

本開示に係る生産条件生成システム（１）によれば、一部の工程の制御パラメータによってその他の工程の制御パラメータを出力する生成部（２）と、生成部（２）の出力を含む各工程の制御パラメータに基づいて実際に設定可能なパラメータであるか否かの判定行う識別部（４）と、生成部（２）の出力を含む各工程の制御パラメータに基づいて目的物の良品予測を行う予測部（３）とを用いて敵対的生成ネットワークが構成されている。そして、ニューラルネットワークにより構成される生成部（２）の学習は、識別部（４）及び予測部（３）の両方の出力に基づいて行われる。具体的には、識別部（４）により実際に設定可能なパラメータであると判定され、予測部（３）により目的物が良品と予測されるように、生成部（２）が学習される。これによって、生成部（２）は、実際に設定可能であり、かつ、良品となるような制御パラメータを生成することができるようになり、目的物を生産するためにより適切な制御パラメータを出力することが可能となる。

本開示に係る生産条件生成システム（１）は、前記学習制御部（５）は、前記識別部（４）の学習を行う場合に、ランダム生成された入力に対して前記生成部（２）で生成した前記制御パラメータを含む各前記工程の前記制御パラメータが入力された場合に、設定可能なパラメータでないと判定し、設定可能なパラメータとして設定された各前記工程の前記制御パラメータが入力された場合に、設定可能なパラメータであると判定するように前記識別部（４）を学習させ、前記生成部（２）の学習と、前記識別部（４）の学習とはそれぞれ異なるタイミングで実行することとしてもよい。

本開示に係る生産条件生成システム（１）によれば、敵対的生成ネットワークを用いて識別部（４）の学習を行う場合には、生成部（２）においてランダム生成された入力（でたらめな入力）に基づいて生成された制御パラメータが識別部（４）へ入力された場合には、設定可能なパラメータでないと判定（偽判定）するように学習が行われる。一方で、設定可能なパラメータとして設定された制御パラメータが識別部（４）へ入力された場合には、設定可能なパラメータであると判定（真判定）するように学習が行われる。このため、識別部（４）は真偽判定が行うことができるように学習される。そして、生成部（２）の学習と、識別部（４）の学習とはそれぞれ異なるタイミングで実行されるため、それぞれのタイミングで生成部（２）と識別部（４）とが学習されて互いに敵対的に訓練される。

本開示に係る生産条件生成システム（１）は、前記生成部（２）の入力は、環境要因である環境パラメータを含むこととしてもよい。

本開示に係る生産条件生成システム（１）によれば、入力として制御パラメータだけでなく環境要因である環境パラメータも含まれることで、生成部（２）で出力される制御パラメータの精度を向上させることができる。

本開示に係る生産条件生成システム（１）は、前記生成部（２）の入力は、計測することができず前記目的物の生産に影響を与えるノイズパラメータを含むこととしてもよい。

本開示に係る生産条件生成システム（１）によれば、入力として制御パラメータだけでなく、計測することができず目的物の生産に影響を与えるノイズパラメータも含まれることで、生成部（２）で出力される制御パラメータの精度を向上させることができる。

本開示に係る生産条件生成システム（１）は、前記ノイズパラメータは、作業員の熟練度及び体調の少なくともいずれか１つを定量的に表したパラメータであることとしてもよい。

本開示に係る生産条件生成システム（１）によれば、ノイズパラメータとして作業員の熟練度及び体調の少なくともいずれか１つを用いることで、生成部（２）で出力される制御パラメータの精度を向上させることができる。

本開示に係る生産条件生成システム（１）は、前記予測部（３）は、各前記工程の前記制御パラメータと、生産された前記目的物の良否判定結果とが対応付けられた情報を教師データとして機械学習された予測モデルであることとしてもよい。

本開示に係る生産条件生成システム（１）によれば、予測部（３）は制御パラメータと良否判定結果とが対応付けられた教師データにより機械学習された予測モデルであるため、生成部（２）により出力された制御パラメータを含む入力から、目的物が良品となるか否かを予測することができる。

本開示に係る生産条件生成システム（１）は、前記生成部（２）は、学習後において、実施された前記一部の工程の前記制御パラメータの値が入力されることによって、前記一部の工程以外の工程の前記制御パラメータの予測値を出力することとしてもよい。

本開示に係る生産条件生成システム（１）によれば、学習後の生成部（２）を用いることによって、実施された制御パラメータの値の入力に基づいてその他の工程の制御パラメータの予測値を出力することができる。特に学習後であるため、入力された制御パラメータの値に応じて、実際に設定可能であり、かつ、良品となるような制御パラメータの予測値が出力されることとなる。

本開示に係る生産条件生成方法は、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成工程と、前記生成工程により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータか否かを判定する識別工程と、前記生成工程により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測工程と、前記生成工程におけるニューラルネットワークの学習を行う場合に、前記識別工程により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測工程により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御工程と、を有する。

本開示に係る生産条件生成プログラムは、目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成処理と、前記生成処理により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータか否かを判定する識別処理と、前記生成処理により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測処理と、前記生成処理におけるニューラルネットワークの学習を行う場合に、前記識別処理により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測処理により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御処理と、をコンピュータに実行させる。

１ ：生産条件生成システム
２ ：ジェネレータ（生成部）
３ ：プレディクタ（予測部）
４ ：ディスクリミネータ（識別部）
５ ：学習制御部
１１ ：ＣＰＵ
１２ ：ＲＯＭ
１３ ：ＲＡＭ
１４ ：ハードディスクドライブ
１５ ：通信部
１８ ：バス

Claims (9)

1. 目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成部と、
   前記生成部により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータであるか否かを判定する識別部と、
   前記生成部により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測部と、
   前記生成部におけるニューラルネットワークの学習を行う場合に、前記識別部により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測部により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御部と、
   を備える敵対的生成ネットワークを用いた生産条件生成システム。
2. 前記学習制御部は、前記識別部の学習を行う場合に、ランダム生成された入力に対して前記生成部で生成した前記制御パラメータを含む各前記工程の前記制御パラメータが入力された場合に、設定可能なパラメータでないと判定し、設定可能なパラメータとして設定された各前記工程の前記制御パラメータが入力された場合に、設定可能なパラメータであると判定するように前記識別部を学習させ、前記生成部の学習と、前記識別部の学習とはそれぞれ異なるタイミングで実行する請求項１に記載の敵対的生成ネットワークを用いた生産条件生成システム。
3. 前記生成部の入力は、環境要因である環境パラメータを含む請求項１または２に記載の敵対的生成ネットワークを用いた生産条件生成システム。
4. 前記生成部の入力は、計測することができず前記目的物の生産に影響を与えるノイズパラメータを含む請求項１から３のいずれか１項に記載の敵対的生成ネットワークを用いた生産条件生成システム。
5. 前記ノイズパラメータは、作業員の熟練度及び体調の少なくともいずれか１つを定量的に表したパラメータである請求項４に記載の敵対的生成ネットワークを用いた生産条件生成システム。
6. 前記予測部は、各前記工程の前記制御パラメータと、生産された前記目的物の良否判定結果とが対応付けられた情報を教師データとして機械学習された予測モデルである請求項１から５のいずれか１項に記載の敵対的生成ネットワークを用いた生産条件生成システム。
7. 前記生成部は、学習後において、実施された前記一部の工程の前記制御パラメータの値が入力されることによって、前記一部の工程以外の工程の前記制御パラメータの予測値を出力する請求項１から６のいずれか１項に記載の敵対的生成ネットワークを用いた生産条件生成システム。
8. 目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成工程と、
   前記生成工程により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータか否かを判定する識別工程と、
   前記生成工程により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測工程と、
   前記生成工程におけるニューラルネットワークの学習を行う場合に、前記識別工程により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測工程により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御工程と、
   を有する敵対的生成ネットワークを用いた生産条件生成方法。
9. 目的物を生産するための複数の工程のうちの一部の工程の制御パラメータを入力として、入力されていない工程の制御パラメータを出力する生成処理と、
   前記生成処理により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された前記制御パラメータが実際に設定可能なパラメータか否かを判定する識別処理と、
   前記生成処理により出力された前記制御パラメータを含む各前記工程の前記制御パラメータを入力として、入力された各前記制御パラメータにより生産された前記目的物が所定の品質条件を満たす良品となるか否かを予測する予測処理と、
   前記生成処理におけるニューラルネットワークの学習を行う場合に、前記識別処理により前記制御パラメータが実際に設定可能なパラメータであると判定され、前記予測処理により前記目的物が良品と予測されるように、前記ニューラルネットワークを学習させる学習制御処理と、
   をコンピュータに実行させるための敵対的生成ネットワークを用いた生産条件生成プログラム。

Images