JP2019087101A - 予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム - Google Patents

予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム Download PDF

Info

Publication number
JP2019087101A
JP2019087101A JP2017215730A JP2017215730A JP2019087101A JP 2019087101 A JP2019087101 A JP 2019087101A JP 2017215730 A JP2017215730 A JP 2017215730A JP 2017215730 A JP2017215730 A JP 2017215730A JP 2019087101 A JP2019087101 A JP 2019087101A
Authority
JP
Japan
Prior art keywords
prediction model
data
prediction
evaluation
new
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017215730A
Other languages
English (en)
Other versions
JP6896590B2 (ja
Inventor
佑介 政井
Yusuke Masai
佑介 政井
佐藤 新
Arata Sato
新 佐藤
絢也 駒崎
Junya Komazaki
絢也 駒崎
立志 近藤
Tateshi Kondo
立志 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Heavy Industries Aero Engines Ltd
NTT Data Group Corp
Original Assignee
NTT Data Corp
Mitsubishi Heavy Industries Aero Engines Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Data Corp, Mitsubishi Heavy Industries Aero Engines Ltd filed Critical NTT Data Corp
Priority to JP2017215730A priority Critical patent/JP6896590B2/ja
Publication of JP2019087101A publication Critical patent/JP2019087101A/ja
Application granted granted Critical
Publication of JP6896590B2 publication Critical patent/JP6896590B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減する予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラムを提供すること。【解決手段】予知モデル維持システム10は、制御部11を含む。制御部11は、学習データ作成部14と、新規予知モデル作成部15と、評価データ作成部16と、運用予知モデル選定部17と、を含む。学習データ作成部14は、新規予知モデルを作成するために用いる学習データを作成する。新規予知モデル作成部15は、学習データを用いて、新規予知モデルを作成する。評価データ作成部16は、予知モデルと新規予知モデルとを評価するために用いる評価データを作成する。運用予知モデル選定部17は、評価データを用いて、予知モデルと新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する。【選択図】図3

Description

本発明は、予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラムに関する。
予知モデルを用いて、工程における所定の条件に基づいて、その工程が行われた後に所定の要件を満たすか否かを予知する方法が知られている。例えば、多変量解析プログラムを介して作成したモデルを用いて、プラズマ処理装置の装置状態及びプラズマ処理装置による処理結果を予知する方法が知られている(例えば、特許文献1参照)。
特開2004−039805号公報
ここで、工程に関する変更、すなわち、工程を実行する装置または設備の劣化、修理、及び設計変更、並びに工程自体の改善を含む変更等といった工程の変更、工程が実行される材料の変更、及び工程を実行する環境の変化等により、同じ予知モデルを用いた予知の精度が劣化してしまうという問題があった。そこで、特許文献1では、モデルを用いて求められる検出データの残差に基づいて新しいモデルを作成することで、この問題に対して対応を試みている。
しかしながら、特許文献1の方法では、新しいモデルが前のモデルよりも予知の精度が上回らない可能性があるので、予知の精度が劣化してしまうという問題に十分に対応できない可能性がある。
本発明は、上記に鑑みてなされたものであって、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減する予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、予知モデル維持システムは、所定の条件に基づいて所定の要件を満たすか否かを予知する予知モデルの予知確率を維持する予知モデル維持システムであって、制御部を含み、前記制御部は、新規予知モデルを作成するために用いる学習データを作成する学習データ作成部と、前記学習データ作成部が作成した前記学習データを用いて、前記新規予知モデルを作成する新規予知モデル作成部と、前記予知モデルと前記新規予知モデルとを評価するために用いる評価データを作成する評価データ作成部と、前記評価データ作成部が作成した前記評価データを用いて、前記予知モデルと前記新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する運用予知モデル選定部と、を含むことを特徴とする。
この構成によれば、新たに作成した新規予知モデルと、元々使用していた予知モデルとを評価して、評価の高い方を運用予知モデルに選定するため、元々使用していた予知モデルよりも予知の精度が劣化したものを新たに用いてしまうことがないので、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
この構成において、前記予知モデルの前記予知確率が劣化しているか否かを検知するために用いる劣化検知データを作成する劣化検知データ作成部と、前記劣化検知データ作成部が作成した前記劣化検知データを用いて、前記予知モデルの前記予知確率が低下しているか否かを判定する劣化検知判定部と、をさらに含み、前記学習データ作成部は、前記劣化検知判定部が前記予知モデルの前記予知確率が低下していると判定した場合、前記学習データを作成することが好ましい。この構成によれば、現在使用している予知モデルが劣化していると判定される場合にのみ、新たに新規予知モデルを作成することとするため、効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
これらの構成において、前記運用予知モデル選定部は、前記評価の高い方が評価の閾値以上である場合、前記評価の高い方を運用予知モデルに選定し、前記評価の高い方が評価の閾値未満である場合、いずれも運用予知モデルに選定しないことが好ましい。この構成によれば、閾値未満の評価の予知モデルを運用予知モデルに選定しないため、予知の精度が低い予知モデルを用いてしまうことによる工程への悪影響を低減することができる。
これらの構成において、所定の条件は、工程における設備データに基づいて定められ、所定の要件は、前記工程を経た商品の品質データが所定の範囲内にあることである、ことが好ましい。この構成によれば、工程の管理及び評価に一般的に用いられる設備データ及び品質データを好適に用いることができるため、効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
これらの構成において、前記予知モデル及び前記新規予知モデルは、所定の要件を満たさない可能性がある場合に、アラートを出すように設定されていることが好ましい。この構成によれば、アラートにより、所定の要件を満たさない可能性がある場合である旨を注意喚起することができるため、工程において所定の要件を満たさない場合を見逃してしまう可能性を十分に低減することができる。
これらの構成において、前記学習データ作成部は、前記評価データ作成部が前記評価データの作成に用いるデータよりも時系列で過去に取得したデータを用いて前記学習データを作成することが好ましい。この構成によれば、時系列でより過去に取得したデータを用いて作成した学習データに基づいて作成した新規予知モデルが、時系列でより未来に取得したデータを用いて作成した評価データにおいても十分な精度で予知が可能か否かを評価するので、実質的に学習データにおいても評価データにおいても十分な予知の精度を有する新規予知モデルを作成することができる。このため、効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
学習データ作成部が、評価データ作成部が評価データの作成に用いるデータよりも時系列で過去に取得したデータを用いて学習データを作成する構成において、前記学習データ作成部は、前記評価データ作成部が前記評価データの作成に用いるデータよりも同じ量または多い量のデータを用いて前記学習データを作成することが好ましい。この構成によれば、新規予知モデルが十分な予知の精度を有すると考えられるデータのうち、より多くの比率のデータを新規予知モデルの作成に用いることができる。このため、より効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
学習データ作成部が、評価データ作成部が評価データの作成に用いるデータよりも同じ量または多い量のデータを用いて学習データを作成する構成において、前記学習データ作成部は、前記評価データ作成部が作成する1種類の前記評価データに対して、複数種類の量のデータを用いて複数種類の前記学習データを作成し、前記新規予知モデル作成部は、複数種類の前記学習データを用いて、複数種類の前記新規予知モデルを作成することが好ましい。この構成によれば、1度に複数種類の学習データを作成し、複数種類の新規予知モデルを作成することができる。このため、学習データの作成に用いたデータが取得された間に工程に関する変更があった場合に、より現在の工程に適切な新規予知モデルを作成することができるので、工程に関する変更に伴って予知の精度が劣化してしまうことをさらに十分に低減することができる。
上述した課題を解決し、目的を達成するために、予知モデル維持方法は、所定の要件を満たすか否かを予知する予知モデルの予知確率を維持する予知モデル維持方法であって、新規予知モデルを作成するために用いる学習データを作成する学習データ作成ステップと、前記学習データ作成ステップで作成した前記学習データを用いて、前記新規予知モデルを作成する新規予知モデル作成ステップと、前記予知モデルと前記新規予知モデルとを評価するために用いる評価データを作成する評価データ作成ステップと、前記評価データ作成ステップで作成した前記評価データを用いて、前記予知モデルと前記新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する運用予知モデル選定ステップと、を有することを特徴とする。
この構成によれば、新たに作成した新規予知モデルと、元々使用していた予知モデルとを評価して、評価の高い方を運用予知モデルに選定するため、元々使用していた予知モデルよりも予知の精度が劣化したものを新たに用いてしまうことがないので、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
上述した課題を解決し、目的を達成するために、予知モデル維持プログラムは、所定の条件に基づいて所定の要件を満たすか否かを予知する予知モデルの予知確率を維持するための予知モデル維持方法をコンピュータに実行させる予知モデル維持プログラムであって、前記コンピュータに、新規予知モデルを作成するために用いる学習データを作成する学習データ作成ステップと、前記学習データ作成ステップで作成した前記学習データを用いて、前記新規予知モデルを作成する新規予知モデル作成ステップと、前記予知モデルと前記新規予知モデルとを評価するために用いる評価データを作成する評価データ作成ステップと、前記評価データ作成ステップで作成した前記評価データを用いて、前記予知モデルと前記新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する運用予知モデル選定ステップと、を実行させることを特徴とする。
この構成によれば、新たに作成した新規予知モデルと、元々使用していた予知モデルとを評価して、評価の高い方を運用予知モデルに選定するため、元々使用していた予知モデルよりも予知の精度が劣化したものを新たに用いてしまうことがないので、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
本発明によれば、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減する予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラムを提供することができる。
図1は、本発明の実施形態に係る予知モデル維持システムで用いられる予知モデルの性質を説明する説明図である。 図2は、本発明の実施形態に係る予知モデル維持システムで用いられる予知モデルの品質を説明する説明図である。 図3は、本発明の実施形態に係る予知モデル維持システムの概略構成図である。 図4は、本発明の実施形態に係る予知モデル維持方法のフローチャートである。 図5は、図4の劣化検知データ作成ステップの詳細を説明する説明図である。 図6は、図4の劣化検知判定ステップで判定を受ける予知モデルの一例を説明する説明図である。 図7は、図4の劣化検知判定ステップにおけるデータ処理の一例を説明する説明図である。 図8は、図4の劣化検知判定ステップにおける判定基準の一例を説明する説明図である。 図9は、図4の劣化検知判定ステップにおける判定結果の一例を説明する説明図である。 図10は、図4の学習データ作成ステップの詳細を説明する説明図である。 図11は、図4の新規予知モデル作成ステップにおける予知ルールの抽出の一例を説明する説明図である。 図12は、図4の新規予知モデル作成ステップにおける予知ルールの評価の一例を説明する説明図である。 図13は、図4の評価データ作成ステップの詳細を説明する説明図である。 図14は、図4の運用予知モデル選定ステップにおいて評価する予知モデル及び新規予知モデルの一例を説明する説明図である。 図15は、図4の運用予知モデル選定ステップにおける予知モデル及び新規予知モデルの評価の一例を説明する説明図である。 図16は、図4の運用予知モデル選定ステップにおける予知モデル及び新規予知モデルの評価の比較の一例を説明する説明図である。 図17は、図4の運用予知モデル選定ステップにおいて選定された運用予知モデルの一例を説明する説明図である。
以下に、本発明に係る実施形態を図面に基づいて詳細に説明する。なお、この実施形態によりこの発明が限定されるものではない。また、実施形態における構成要素には、当業者が置換可能かつ容易なもの、あるいは実質的に同一のものが含まれる。さらに、以下に記載した構成要素は適宜組み合わせることが可能である。
[実施形態]
図1は、本発明の実施形態に係る予知モデル維持システム10(図3参照)で用いられる予知モデル1の性質を説明する説明図である。予知モデル1は、図1に示すように、所定の工程において所定の条件を満たす設備データ21(図3参照)及び品質データ22(図3参照)が入力されると、この工程を経た商品の品質データ22(図3参照)が望ましい所定の範囲内にある、すなわち所定の要件を満たす可能性が高いと予知し、所定の要件を満たす可能性が高い旨の出力をする。一方で、予知モデル1は、図1に示すように、所定の工程において所定の条件を満たさない設備データ21(図3参照)及び品質データ22(図3参照)が入力されると、この工程を経た商品の品質データ22(図3参照)が望ましい所定の範囲内にない、すなわち所定の要件を満たさない可能性が高いと予知し、所定の要件を満たさない可能性が高い旨の出力をする。予知モデル1は、設備データ21(図3参照)及び品質データ22(図3参照)を説明変数とし、品質データ22(図3参照)を目的変数として、作成されたものである。品質データ22(図3参照)は、説明変数にも、目的変数にもなり得るデータである。
図2は、本発明の実施形態に係る予知モデル維持システム10(図3参照)で用いられる予知モデル1の品質を説明する説明図である。予知モデル1は、図2の破線L2に示すように、予知モデル1の予知の精度を示すモデル品質が、その初期値がQであり、時間経過に伴い、予知モデル1を運用している工程に関する変更、すなわち、工程を実行する装置または設備の劣化、修理、及び設計変更、並びに工程自体の改善を含む変更等といった工程の変更、工程が実行される材料の変更、及び工程を実行する環境の変化等が生じて、次第に低下する傾向を有する。ここで、モデル品質としては、例えば、予知モデル1の予知確率が用いられ、この場合、Qは、工程の性質等に応じて、85%、90%、95%等に定められる。
そこで、予知モデル1は、本発明の実施形態に係る予知モデル維持システム10(図3参照)を用いることにより所定の時間ごとに改定することで、図2の実線L1に示すように、予知モデル1の予知の精度を示すモデル品質が、所定の閾値であるQ未満とならないように、維持することができる。すなわち、本発明の実施形態に係る予知モデル維持システム10(図3参照)は、予知モデル1を所定の時間ごとに改定することで、予知モデル1の予知の精度を示すモデル品質が、所定の閾値であるQ未満とならないように、維持することができるものである。Qは、モデル品質として予知モデル1の予知確率が用いられる場合、工程の性質等に応じて、80%、85%等に定められる。
ここで、予知モデル1を用いる工程は、航空機エンジンに用いられるタービン動翼の各製造工程が挙げられるが、これに限定されず、一定以上の量産数を有しており、取得できる設備データ21(図3参照)及び品質データ22(図3参照)が統計的に優位となる程度に十分な量を取得できる工程であれば、いかなる工程に用いられてもよい。ここで、予知モデル1を用いる工程は、工程全体に対して細かく分離したものであることが好ましく、この場合、設備データ21(図3参照)と品質データ22(図3参照)との相関関係が明確になるため、各工程で用いられる予知モデル1のモデル品質を高く維持することができる。
予知モデル1は、一定水準以上の予知精度を持つ予知ルールの集合である形態が例示される。予知ルールは、設備データ21(図3参照)及び品質データ22(図3参照)を説明変数とし、品質データ22(図3参照)を目的変数として、分析処理をすることで、作成されるものである。ここで、分析処理は、決定木分析、サポートベクターマシン(Support Vector Machine、SVM)による分析、判別分析、ロジスティック回帰分析及びマハラノビス・タグチメソッド(Mahalanobis Taguchi Method、MT法)による分析のうちいずれかの分析方法に基づく処理が例示される。本実施形態では、予知モデル1が決定木分析に基づく分析処理がされて作成された事例を主として詳細な説明をするが、本発明はこれに限定されず、予知モデル1が上で例示したものを含むいかなる分析処理がされて作成されたものについても、好適に用いることができる。
図3は、本発明の実施形態に係る予知モデル維持システム10の概略構成図である。予知モデル維持システム10は、図3に示すように、制御部11を含む。制御部11は、図3に示すように、劣化検知データ作成部12と、劣化検知判定部13と、学習データ作成部14と、新規予知モデル作成部15と、評価データ作成部16と、運用予知モデル選定部17と、を含む。制御部11と、データベース20と、予知部30とは、互いに情報通信可能に電気的に接続されている。
データベース20は、例えばRAM、ROM及びフラッシュメモリー等の記憶装置であり、図3に示すように、設備データ21と、品質データ22と、を格納している。設備データ21は、工程の環境に関する履歴のデータ等であり、温度や圧力など、工程の管理のために取得される種々の物理量が例示される。品質データ22は、この工程を経た商品の品質に関するデータ等であり、サイズや形状、強度など、商品の品質の管理のために取得される種々の物理量が例示される。品質データ22は、品質データ22に含まれる種々の物理量が望ましい所定の範囲内にあるか否かの情報も、これらの種々の物理量に合わせて含まれている。設備データ21及び品質データ22は、いずれもシリアル番号に基づく形でトレースされており、互いに関連付けて、データベース20に保存される。具体的には、シリアル番号がXXXの設備データ21の時の工程を経て製造された商品の品質は、シリアル番号が同じXXXの品質データ22となっている。
データベース20は、図3に示すように、予知モデル維持システム10における制御部11と情報通信可能に電気的に接続されている。データベース20は、制御部11からの要求に応じて、設備データ21及び品質データ22を送信する。データベース20は、図3に示すように、予知部30と情報通信可能に電気的に接続されている。データベース20は、予知部30からの要求に応じて、設備データ21を送信する。
データベース20は、図示しない工程の設備と情報通信可能に電気的に接続されていることが好ましく、この場合、この工程の設備から設備データ21をリアルタイムに取得して蓄積することができる。また、データベース20は、図示しない品質管理の設備と情報通信可能に電気的に接続されていることが好ましく、この場合、この品質管理の設備から品質データ22をリアルタイムに取得して蓄積することができる。データベース20は、図示しない工程の設備及び品質管理の設備と情報通信可能に電気的に接続されていなくてもよく、この場合には、別の方法で適宜、設備データ21及び品質データ22が概ねリアルタイムに更新されることが好ましい。
予知部30は、図3に示すように、予知モデル維持システム10における制御部11と情報通信可能に電気的に接続されており、予知に用いる予知モデル1を制御部11から受信する。予知部30は、図3に示すように、データベース20と情報通信可能に電気的に接続されており、予知に用いる設備データ21をデータベース20から受信する。なお、予知部30は、設備データ21をデータベース20から取得する形態に限定されず、図示しない工程の設備から直接取得してもよい。
予知部30は、予知モデル1を用いて、データベース20から受信した設備データ21に基づいて得られる可能性のある品質データ22を予測する。予知部30は、予知モデル1を用いて、この予測した品質データ22が所定の条件を満たすか否かを判定し、この判定結果を予知結果として種々の方法により出力する。
予知部30は、図3に示すように、アラート部32を含む。予知部30は、本実施形態では、予測した品質データ22が所定の条件を満たさない場合にのみ、その旨の予知結果を、アラート部32にアラートを出すよう指令を出すことで出力する。アラート部32は、予知部30が予知モデル1を用いて、工程を経た商品の品質データ22が望ましい所定の範囲内にない、すなわち所定の要件を満たさない可能性が高いと予知した場合に、アラートを出す。アラート部32は、音によるアラートを出す音報知器、点灯または点滅した光によるアラートを出す光報知器、音および光によるアラートを出す複合報知器等が例示される。アラート部32は、予知部30が複数の工程についてそれぞれの予知モデル1を運用している場合、所定の要件を満たさない可能性が高いと予知したことに起因する予知モデル1に応じて、アラートの種類を変えることができる。この場合、アラート部32は、アラートの種類により、どの工程にどのような状況が生じたかを出力することができる。
予知部30は、記憶部と、処理部と、を備える。予知部30は、コンピュータが例示される。記憶部は、例えばRAM、ROM及びフラッシュメモリー等の記憶装置を有し、処理部により処理されるソフトウェア・プログラム及びこのソフトウェア・プログラムにより参照されるデータ等を記憶する。また、記憶部は、処理部が処理結果等を一時的に記憶する記憶領域としても機能する。処理部は、記憶部からソフトウェア・プログラム等を読み出して処理することで、ソフトウェア・プログラムの内容に応じた機能、具体的には、制御部11から受信した予知モデル1を用いて、データベース20から受信した設備データ21に基づいて得られる可能性のある品質データ22を予測し、予測した品質データ22が所定の条件を満たすか否かを予知するという予知部30の機能を発揮する。
劣化検知データ作成部12は、予知モデル1のモデル品質としての予知確率が劣化しているか否かを検知するために用いるデータである劣化検知データを作成する。劣化検知データ作成部12は、具体的には、劣化検知データを作成するタイミングまでの一定期間内に取得した設備データ21及び品質データ22を採用し、採用した設備データ21及び品質データ22に基づいて、劣化検知データを作成する。
劣化検知判定部13は、劣化検知データ作成部12が作成した劣化検知データを用いて、予知モデル1の予知確率が低下しているか否かを判定する。劣化検知判定部13は、具体的には、まず、設備データ21において、予知モデル1に採用されている予知ルールごとに、所定の条件を満たさない確率である傾向の変化の有無を判定する。劣化検知判定部13は、次に、予知モデル1の所定の条件を満たさない設備データ21と関連付けられた品質データ22において、予知モデル1に採用されている予知ルールごとに、所定の要件を満たさない確率である精度の変化の有無を判定する。劣化検知判定部13は、その後に、全ての予知ルールにおいて傾向の変化が無い、または、精度の変化が無いと判定された場合のみ、予知モデル1の予知確率が低下していないと判定し、それ以外の場合には、予知モデル1の予知確率が低下していると判定する、すなわち、劣化を検知する。
学習データ作成部14は、新規予知モデルを作成するために用いる学習データを作成する。ここで、新規予知モデルは、予知モデル1とは異なるモデルとなることが一般的であるが、予知モデル1と同一のモデルとなってもよい。学習データ作成部14は、劣化検知判定部13が予知モデル1の予知確率が低下していると判定した場合のみ、学習データを作成することとしてもよいし、劣化検知判定部13による予知モデル1の予知確率が低下しているか否かの判定に関わらず、学習データを作成することとしてもよい。学習データ作成部14は、具体的には、学習データを作成するタイミングよりも時系列で一定期間以上過去に取得した設備データ21及び品質データ22を採用し、採用した設備データ21及び品質データ22に基づいて、学習データを作成する。なお、学習データを作成するタイミングまでの一定期間内に取得される設備データ21及び品質データ22は、後述する評価データ作成部16による評価データの作成に用いられる。学習データ作成部14は、この評価データに用いられる設備データ21及び品質データ22よりも同じ量または多い量の設備データ21及び品質データ22を用いて、学習データを作成することが好ましい。また、学習データ作成部14は、1度の学習データの作成において、複数種類の量の設備データ21及び品質データ22を用いて複数種類の学習データを作成することが好ましい。
新規予知モデル作成部15は、学習データ作成部14が作成した学習データを用いて、新規予知モデルを作成する。新規予知モデル作成部15は、具体的には、まず、新規予知モデルに採用する可能性のある予知ルールを抽出する。新規予知モデル作成部15は、次に、抽出した予知ルールごとに、所定の条件を満たさない確率である傾向を算出する。新規予知モデル作成部15は、その次に、抽出した予知ルールごとに、所定の条件を満たさない設備データ21と関連付けられた品質データ22において、所定の要件を満たさない確率である精度を算出する。新規予知モデル作成部15は、その後に、傾向の値が高く、精度の値が高い予知ルールを、新規予知モデルに採用する予知ルールに決定する。新規予知モデル作成部15は、そのさらに後に、新規予知モデルに採用することを決定した予知ルールがある場合、これらの予知ルールを組み合わせることで、1種類または複数種類の新規予知モデルを作成する。新規予知モデル作成部15は、学習データ作成部14が複数種類の学習データを作成した場合、各種類の学習データを用いて、複数種類の新規予知モデルを作成することが好ましい。
評価データ作成部16は、予知モデル1と新規予知モデル作成部15が作成した新規予知モデルとを評価するために用いる評価データを作成する。評価データ作成部16は、具体的には、学習データに採用した設備データ21及び品質データ22よりも時系列で未来に取得した設備データ21及び品質データ22を採用し、採用した設備データ21及び品質データ22に基づいて、評価データを作成する。評価データ作成部16は、詳細には、評価データを作成するタイミングまでの一定期間内に取得した設備データ21及び品質データ22を、評価データの作成に用いる。評価データ作成部16は、学習データ作成部14が作成する学習データに用いられる設備データ21及び品質データ22よりも同じ量または少ない量の設備データ21及び品質データ22を用いて、評価データを作成することが好ましい。
運用予知モデル選定部17は、評価データ作成部16が作成した評価データを用いて、予知モデル1と新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する。運用予知モデル選定部17は、具体的には、まず、予知モデル1と、新規予知モデル作成部15が作成した新規予知モデルと、に対して、評価データ作成部16が作成した評価データを用いて、予知確率を算出する。運用予知モデル選定部17は、次に、算出した予知確率が最も高い予知モデル1または新規予知モデルを、新たに予知部30が運用する運用予知モデルに選択する。
運用予知モデル選定部17は、評価の高い方の予知モデル1または新規予知モデルが評価の閾値以上である場合、評価の高い方の予知モデル1または新規予知モデルを運用予知モデルに選定し、評価の高い方の予知モデル1または新規予知モデルが評価の閾値未満である場合、いずれの予知モデル1または新規予知モデルも運用予知モデルに選定しないこととしてもよい。運用予知モデル選定部17は、具体的には、算出した予知確率のうち最も高い予知確率が図2に示す所定の閾値Q以上である場合、評価の高い方の予知モデル1または新規予知モデルを運用予知モデルに選定し、算出した予知確率のうち最も高い予知確率が所定の閾値Q未満である場合、いずれの予知モデル1または新規予知モデルも運用予知モデルに選定しないこととする。
なお、運用予知モデル選定部17によって運用予知モデルが選定されていない状態では、適宜、新たに、学習データ作成部14による学習データの作成、新規予知モデル作成部15による新規予知モデルの作成、評価データ作成部16による評価データの作成、及び、運用予知モデル選定部17による新規予知モデルの評価及び選定が、順次行われる。
制御部11は、記憶部と、処理部と、を備える。制御部11は、コンピュータが例示される。記憶部は、例えばRAM、ROM及びフラッシュメモリー等の記憶装置を有し、処理部により処理されるソフトウェア・プログラム及びこのソフトウェア・プログラムにより参照されるデータ等を記憶する。また、記憶部は、処理部が処理結果等を一時的に記憶する記憶領域としても機能する。処理部は、記憶部からソフトウェア・プログラム等を読み出して処理することで、ソフトウェア・プログラムの内容に応じた機能、具体的には、劣化検知データ作成部12、劣化検知判定部13、学習データ作成部14、新規予知モデル作成部15、評価データ作成部16、及び、運用予知モデル選定部17の各機能を含む制御部11の機能を発揮し、本発明の実施形態に係る予知モデル維持方法を実行する。処理部が記憶部から読み出して処理するソフトウェア・プログラムは、本発明の実施形態に係る予知モデル維持プログラムである。
なお、本実施形態では、予知部30の記憶部及び処理部と、制御部11の記憶部及び処理部とがそれぞれ別々に設けられているが、これに限定されることなく、これらの記憶部及び処理部が一体化されていてもよい。すなわち、本実施形態では、予知部30に例示されるコンピュータと、制御部11に例示されるコンピュータとがそれぞれ別々に設けられているが、これに限定されることなく、これらのコンピュータが一体化されていてもよい。
以上のような構成を有する実施形態に係る予知モデル維持システム10の作用について以下に説明する。図4は、本発明の実施形態に係る予知モデル維持方法のフローチャートである。実施形態に係る予知モデル維持方法は、実施形態に係る予知モデル維持システム10によって実行される処理方法である。実施形態に係る予知モデル維持方法について、図4を用いて説明する。実施形態に係る予知モデル維持方法は、図4に示すように、劣化検知データ作成ステップS11と、劣化検知判定ステップS12と、学習データ作成ステップS13と、新規予知モデル作成ステップS14と、評価データ作成ステップS15と、運用予知モデル選定ステップS16と、を有する。
劣化検知データ作成ステップS11は、劣化検知データ作成部12が、予知モデル1のモデル品質としての予知確率が劣化しているか否かを検知するために用いるデータである劣化検知データを作成するステップである。図5は、図4の劣化検知データ作成ステップS11の詳細を説明する説明図である。劣化検知データ作成ステップS11では、具体的には、図5に示すように、一定時間ごとに設けられた劣化を検知するタイミングである検知タイミングt11,t12,t13,t14,t15ごとに処理を実行する。なお、本実施形態では検知タイミングt11,t12,t13,t14,t15の間隔を一定時間としたが、これに限定されず、検知タイミングt11,t12,t13,t14,t15を所定の定刻としてもよいし、一定量の設備データ21及び品質データ22を取得するたびごととしてもよい。
劣化検知データ作成ステップS11では、例えば、図5に示すように、劣化検知データ作成部12が、検知タイミングt15において、検知タイミングt15までの一定期間内に取得した設備データ21及び品質データ22を採用し、採用した設備データ21及び品質データ22に基づいて、劣化検知データD15を作成する。劣化検知データ作成ステップS11では、同様に、図5に示すように、劣化検知データ作成部12が、それぞれ、検知タイミングt11,t12,t13,t14,t16,t17,t18において、検知タイミングt11,t12,t13,t14,t16,t17,t18までの一定期間内に取得した設備データ21及び品質データ22を採用して、採用した設備データ21及び品質データ22に基づいて、劣化検知データD11,D12,D13,D14,D16,D17,D18を作成する。
劣化検知判定ステップS12は、劣化検知判定部13が、劣化検知データ作成ステップS11で作成した劣化検知データを用いて、予知モデル1の予知確率が低下しているか否かを判定するステップである。図6は、図4の劣化検知判定ステップS12で判定を受ける予知モデル1の一例を説明する説明図である。予知モデル1は、図6に示すように、決定木分析によって作成されたものであり、決定木分析による4種類の予知ルールのうち、第2番目の予知ルールと第3番目の予知ルールとが採用されているモデルが例示されている。
図7は、図4の劣化検知判定ステップS12におけるデータ処理の一例を説明する説明図である。劣化検知判定ステップS12では、劣化検知判定部13が、まず、予知モデル1を作成した際の学習データ及び評価データを用いて、予知モデル1に含まれる予知ルールごとに、図7に示すように、ルール出現数、ルール正解数、ルール正解率、ルール出現率の4つの数値を求める。劣化検知判定ステップS12では、劣化検知判定部13が、次に、劣化検知データ作成ステップS11で作成した劣化検知データを用いて、予知モデル1に含まれる予知ルールごとに、図7に示すように、ルール出現数、ルール正解数、ルール正解率、ルール出現率の4つの数値を求める。ここで、図6に示す予知モデル1では、第2番目の予知ルールと第3番目の予知ルールとが採用されており、また、図7では、第1番目の予知ルールに関してのみ図示されているが、劣化検知判定ステップS12では、劣化検知判定部13が、第2番目の予知ルールと第3番目の予知ルールとそれぞれ対になる第1番目の予知ルールと第4番目の予知ルールとについても、それぞれの数値を求める処理を行う。
ここで、ルール出現数は、設備データ21において、当該予知ルールによって定められた所定の条件を満たさない回数である。ルール正解数は、品質データ22において、当該ルールによって定められた所定の要件を満たさない回数である。ルール正解率は、ルール出現数に対するルール正解数の割合であり、すなわち、設備データ21に基づいて所定の条件を満たさないと判定したもののうち、品質データ22に基づいて所定の要件を満たさないと判定された割合であり、予知ルールの検知の精度の指標である。ルール出現率は、設備データ21の総数に対するルール出現数の割合であり、すなわち、工程の全体に対して設備データ21に基づいて所定の条件を満たさないと判定する割合であり、予知ルールの傾向の指標である。
劣化検知判定ステップS12では、劣化検知判定部13が、予知モデル1の作成時と予知モデル1の劣化検知時との2種類のデータを用いて予知ルールごとのルール出現数、ルール正解数、ルール正解率、ルール出現率の4つの数値を求めた後、予知ルールごとのルール正解率及びルール出現率のそれぞれについて、予知モデル1の作成時と予知モデル1の劣化検知時との間で有意の変化が見られるか否かを判定する。劣化検知判定ステップS12では、具体的には、劣化検知判定部13が、図7に示すように、予知ルールごとのルール正解率及びルール出現率のそれぞれについて、検定統計量を算出し、有意水準を例えば5%として有意の変化が見られるか否かを判定する。
劣化検知判定ステップS12では、劣化検知判定部13が、ある予知ルールにおいてルール正解率について下側に有意の変化が見られると判定した場合、当該予知ルールの検知の精度が下振れしたと判定する。劣化検知判定ステップS12では、劣化検知判定部13が、ある予知ルールにおいてルール正解率について上側に有意の変化が見られると判定した場合、当該予知ルールの検知の精度が上振れしたと判定する。劣化検知判定ステップS12では、劣化検知判定部13が、ある予知ルールにおいてルール正解率について有意の変化が見られないと判定した場合、当該予知ルールの検知の精度が変化なしであると判定する。
劣化検知判定ステップS12では、劣化検知判定部13が、ある予知ルールにおいてルール出現率について有意の変化が見られると判定した場合、当該予知ルールの傾向が変化したと判定する。劣化検知判定ステップS12では、劣化検知判定部13が、ある予知ルールにおいてルール出現率について有意の変化が見られないと判定した場合、当該予知ルールの傾向が変化なしであると判定する。
図8は、図4の劣化検知判定ステップS12における判定基準の一例を説明する説明図である。劣化検知判定ステップS12では、劣化検知判定部13が、図8に示すように、ある予知ルールにおいて検知の精度が下振れまたは上振れしたと判定した場合、当該ルールにおいて傾向が変化したと判定した場合でも変化なしであると判定した場合でも、当該予知ルールが劣化したと判定する。劣化検知判定ステップS12では、劣化検知判定部13が、図8に示すように、ある予知ルールにおいて検知の精度が変化なしであると判定した場合、かつ、当該ルールにおいて傾向が変化したと判定した場合、当該予知ルールが劣化したと判定する。劣化検知判定ステップS12では、劣化検知判定部13が、図8に示すように、ある予知ルールにおいて検知の精度が変化なしであると判定した場合、かつ、当該ルールにおいて傾向が変化なしであると判定した場合、当該予知ルールが劣化していないと判定する。
ここで、ある予知ルールにおいて検知の精度が変化なしであると判定した場合、かつ、当該ルールにおいて傾向が変化なしであると判定した場合を除き、仮に当該予知ルールにおいて検知の精度が上振れしたと判定した場合であっても、当該ルールが劣化したと判定する理由は、当該ルールの精度または傾向の少なくともいずれかに変化がある場合、予知モデル1を運用している工程に有意の変更があったとみなすことができるため、予知モデル1の改定をすることが好ましい可能性が高いと考えられるからである。
図9は、図4の劣化検知判定ステップS12における判定結果の一例を説明する説明図である。劣化検知判定ステップS12では、劣化検知判定部13が、図9に示すように、第1番目の予知ルールについて、検知の精度が変化なしであると判定し、かつ、傾向が変化なしであると判定しているので、劣化していないと判定している。劣化検知判定ステップS12では、劣化検知判定部13が、図9に示すように、第2番目の予知ルールについて、検知の精度が上振れしたと判定し、かつ、傾向が変化したと判定しているので、劣化したと判定している。劣化検知判定ステップS12では、劣化検知判定部13が、図9に示すように、第3番目の予知ルールについて、検知の精度が下振れしたと判定し、かつ、傾向が変化したと判定しているので、劣化したと判定している。劣化検知判定ステップS12では、劣化検知判定部13が、図9に示すように、第4番目の予知ルールについて、検知の精度が上振れしたと判定し、かつ、傾向が変化したと判定しているので、劣化したと判定している。このように、劣化検知判定ステップS12では、劣化検知判定部13が、図9に示すように、第1番目の予知ルールについては劣化していないと判定し、第2番目から第4番目の各予知ルールについては劣化したと判定しているので、第2番目の予知ルールと第3番目の予知ルールとが採用されている予知モデルが劣化したと検知する。
以上のように、劣化検知判定ステップS12では、劣化検知判定部13が、全ての予知ルールにおいて傾向の変化が無く、かつ、精度の変化が無いと判定された場合のみ、予知モデル1の予知確率が低下していないと判定し、それ以外の場合には、予知モデル1の予知確率が低下していると判定する、すなわち、劣化を検知する。
劣化検知データ作成ステップS11及び劣化検知判定ステップS12は、本実施形態では実行しているが、これに限定されず、合わせて省略することもできる。劣化検知データ作成ステップS11及び劣化検知判定ステップS12を実行する場合、劣化検知判定ステップS12において予知モデル1の予知確率が低下していると判定した場合のみ、学習データ作成ステップS13、新規予知モデル作成ステップS14、評価データ作成ステップS15及び運用予知モデル選定ステップS16を実行する形態が好ましい形態として例示される。一方、劣化検知データ作成ステップS11及び劣化検知判定ステップS12を実行しない場合、予知モデル1の予知確率が低下しているか否かに関わらず、学習データ作成ステップS13、新規予知モデル作成ステップS14、評価データ作成ステップS15及び運用予知モデル選定ステップS16を実行する形態が例示される。
また、予知部30がいずれの予知モデル1も運用していない場合、劣化検知判定ステップS12で判定する予知モデル1がないので、劣化検知データ作成ステップS11及び劣化検知判定ステップS12が省略され、予知モデル維持方法における処理が、最初から学習データ作成ステップS13に移行する。
学習データ作成ステップS13は、学習データ作成部14が、新規予知モデルを作成するために用いる学習データを作成するステップである。図10は、図4の学習データ作成ステップS13の詳細を説明する説明図である。学習データ作成ステップS13では、具体的には、図10に示すように、一定時間ごとに設けられた学習データを作成するタイミングでもある検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33ごとに処理を実行する。なお、本実施形態では検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33の間隔を一定時間としたが、これに限定されず、検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33を所定の定刻としてもよいし、一定量の設備データ21及び品質データ22を取得するたびごととしてもよい。
学習データ作成ステップS13では、例えば、図10に示すように、学習データ作成部14が、検知タイミングt25において、検知タイミングt23と検知タイミングt24との中間から検知タイミングt25までの一定期間内に取得した設備データ21及び品質データ22よりも時系列で過去に取得した設備データ21及び品質データ22を採用し、採用した設備データ21及び品質データ22に基づいて、第1の学習データL_N1,・・・,L_Nnを作成する。
なお、検知タイミングt25までの一定期間内に取得した設備データ21及び品質データ22は、追って説明する評価データ作成ステップS15において第1の評価データを作成する上で採用されるものである。学習データ作成ステップS13では、追って説明する評価データ作成ステップS15において作成される第1の評価データよりも同じ量または多い量の設備データ21及び品質データ22を用いて、第1の学習データを作成することが好ましい。
例えば、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングt25において、検知タイミングt22から検知タイミングt23と検知タイミングt24との中間までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第1の学習データL_N1を作成する。また、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングt25において、検知タイミングt21よりも前のタイミングから検知タイミングt23と検知タイミングt24との中間までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第1の学習データL_Nnを作成する。このように、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングまでの一定期間内に取得した設備データ21及び品質データ22よりも時系列における過去の時間帯において、採用する設備データ21及び品質データ22を取得した期間を、複数種類に設定することで、この設定に応じた複数種類の学習データを作成することができる。
また、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングt31において、検知タイミングt28から検知タイミングt29と検知タイミングt30との中間までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第2の学習データL_N1を作成する。また、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングt31において、検知タイミングt26と検知タイミングt27との間から検知タイミングt29と検知タイミングt30との中間までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第2の学習データL_Nnを作成する。
また、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングt32において、検知タイミングt29から検知タイミングt30と検知タイミングt31との中間までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第3の学習データL_N1を作成する。また、学習データ作成ステップS13では、図10に示すように、学習データ作成部14が、検知タイミングt32において、検知タイミングt27と検知タイミングt28との間から検知タイミングt30と検知タイミングt31との中間までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第3の学習データL_Nnを作成する。
このように、学習データ作成ステップS13では、検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33ごとに、採用する設備データ21及び品質データ22を取得した期間の設定に応じた複数種類の学習データを作成することができる。
新規予知モデル作成ステップS14は、新規予知モデル作成部15が、学習データ作成ステップS13で作成した学習データを用いて、新規予知モデルを作成するステップである。図11は、図4の新規予知モデル作成ステップS14における予知ルールの抽出の一例を説明する説明図である。新規予知モデル作成ステップS14では、具体的には、まず、新規予知モデル作成部15が、図11に示すように、新規予知モデルに採用する可能性のある予知ルールを抽出する。新規予知モデル作成ステップS14では、新規予知モデル作成部15が、図11に示すように、決定木分析により、学習データL_N1を分析して新たに4種類以上の予知ルールを抽出している。
図12は、図4の新規予知モデル作成ステップS14における予知ルールの評価の一例を説明する説明図である。新規予知モデル作成ステップS14では、次に、新規予知モデル作成部15が、図12に示すように、抽出した予知ルールごとに、ルール出現数、ルール正解数、ルール正解率、ルール出現率の4つの数値を算出する。なお、図12では、ルール出現率の記載を省略している。
新規予知モデル作成ステップS14では、次に、新規予知モデル作成部15が、図12に示すように、抽出したルールのうち、ルール正解率が閾値未満のものを新規予知モデルに採用する可能性のある予知ルールから除外し、これに加えて、ルール正解数が閾値未満のものをさらに除外してもよい。新規予知モデル作成ステップS14では、新規予知モデル作成部15が、図12に示すように、ルール正解数が閾値の10個未満である第4番目の予知ルールと、ルール正解率が閾値の10%未満である第1番目の予知ルールとを、新規予知モデルに採用する可能性のある予知ルールから除外している。そして、新規予知モデル作成ステップS14では、新規予知モデル作成部15が、図12に示すように、除外されなかった第2番目の予知ルールと第3番目の予知ルールとを、新規予知モデルに採用することを決定する。
ここで、ルール正解率が閾値未満のものを新規予知モデルに採用する可能性のある予知ルールから除外する理由は、ルール正解数が十分に高い場合であっても、予知確率を下げる割合が高いと考えられるからである。また、ルール正解数が閾値未満のものを、新規予知モデルに採用する可能性のある予知ルールから除外することが好ましい理由は、ルール正解数が閾値未満のものは、ルール正解率が十分に高い場合であっても、予知に寄与しない割合が高いと考えられるからである。
その後、新規予知モデル作成ステップS14では、新規予知モデル作成部15が、新規モデルに採用することを決定した第2番目の予知ルールと第3番目の予知ルールとを組み合わせることで、1種類または複数種類の新規予知モデルを作成する。新規予知モデル作成ステップS14では、学習データ作成ステップS13で複数種類の学習データを作成した場合、各種類の学習データを用いて、複数種類の新規予知モデルを作成する。
評価データ作成ステップS15は、評価データ作成部16が、予知モデル1と新規予知モデル作成ステップS14で作成した新規予知モデルとを評価するために用いる評価データを作成するステップである。図13は、図4の評価データ作成ステップS15の詳細を説明する説明図である。評価データ作成ステップS15では、具体的には、図13に示すように、一定時間ごとに設けられた評価データを作成するタイミングでもある検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33ごとに処理を実行する。なお、検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33については、学習データ作成ステップS13の説明の項目で記載したものと同様である。
評価データ作成ステップS15では、例えば、図13に示すように、評価データ作成部16が、検知タイミングt25において、検知タイミングt23と検知タイミングt24との中間から検知タイミングt25までの一定期間内に取得したT_N個の設備データ21及び品質データ22に基づいて、第1の評価データを作成する。
評価データ作成ステップS15では、学習データ作成ステップS13において作成される第1の学習データよりも同じ量または少ない量の設備データ21及び品質データ22を用いて、第1の評価データを作成することが好ましい。
例えば、評価データ作成ステップS15では、図13に示すように、評価データ作成部16が、検知タイミングt25において、検知タイミングt23と検知タイミングt24との中間から検知タイミングt25までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第1の評価データを作成する。また、評価データ作成ステップS15では、図13に示すように、評価データ作成部16が、検知タイミングt31において、検知タイミングt29と検知タイミングt30との中間から検知タイミングt31までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第2の評価データを作成する。また、評価データ作成ステップS15では、図13に示すように、評価データ作成部16が、検知タイミングt32において、検知タイミングt30と検知タイミングt31との中間から検知タイミングt32までに取得した設備データ21及び品質データ22を採用し、この採用した設備データ21及び品質データ22に基づいて、第3の評価データを作成する。
このように、評価データ作成ステップS15では、検知タイミングt21,t22,t23,t24,t25,t26,t27,t28,t29,t30,t31,t32,t33ごとに、採用する設備データ21及び品質データ22を取得した期間の設定に応じた各1種類の評価データを作成することができる。
なお、評価データ作成ステップS15は、学習データ作成ステップS13及び新規予知モデル作成ステップS14の後に行われなくてもよく、例えば、学習データ作成ステップS13及び新規予知モデル作成ステップS14の前に行われてもよいし、学習データ作成ステップS13と並行して行われてもよい。
運用予知モデル選定ステップS16は、運用予知モデル選定部17が、評価データ作成ステップS15で作成した評価データを用いて、予知モデル1と新規予知モデル作成ステップS14で作成した新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定するステップである。図14は、図4の運用予知モデル選定ステップS16において評価する予知モデル1及び新規予知モデルの一例を説明する説明図である。運用予知モデル選定ステップS16では、具体的には、運用予知モデル選定部17が、図14に示すように、1番目に図示されている予知モデル1と、2番目以降に図示されている新規予知モデル作成ステップS14で作成した複数の新規予知モデルとのそれぞれに対し、評価データ作成ステップS15で作成した評価データを使用する。
図15は、図4の運用予知モデル選定ステップS16における予知モデル1及び新規予知モデルの評価の一例を説明する説明図である。運用予知モデル選定ステップS16では、次に、運用予知モデル選定部17が、図15に示すように、予知モデル1と新規予知モデル作成ステップS14で作成した複数の新規予知モデルとのそれぞれについて、評価データ作成ステップS15で作成した評価データを用いて、予知モデル1及び複数の新規予知モデルにそれぞれ含まれる予知ルールごとに、ルール出現数、ルール正解数、ルール正解率、ルール出現率の4つの数値を算出する。運用予知モデル選定ステップS16では、そして、運用予知モデル選定部17が、図15に示すように、予知モデル1と新規予知モデル作成ステップS14で作成した複数の新規予知モデルとのそれぞれについて、モデル全体のルール出現数、ルール正解数、ルール正解率、ルール出現率の4つの数値を算出する。なお、図15では、図12と同様に、ルール出現率の記載を省略している。
図16は、図4の運用予知モデル選定ステップS16における予知モデル1及び新規予知モデルの評価の比較の一例を説明する説明図である。運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図16に示すように、予知モデル1と新規予知モデル作成ステップS14で作成した複数の新規予知モデルとのそれぞれのモデル全体のルール正解率、すなわち予知確率を比較し、最もこのモデル全体のルール正解率が高いものを、新たに予知部30が運用する予知モデルの最有力候補に選択する。
ここで、運用予知モデル選定ステップS16では、運用予知モデル選定部17が、最有力候補に選択した予知モデルの予知確率が図2に示す所定の閾値Q以上である場合、この最有力候補の予知モデルを運用予知モデルに選定して予知部30に運用させることとし、最有力候補に選択した予知モデルの予知確率が所定の閾値Q未満である場合、この最有力候補の予知モデルを運用予知モデルに選定しないで予知部30にいかなる予知モデルをも運用させないこととすることができる。
図17は、図4の運用予知モデル選定ステップS16において選定された運用予知モデルの一例を説明する説明図である。運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図17に示すように、検知タイミングt41において、第1の学習データ及び第1の評価データに基づいて作成された新規予知モデル1の予知確率が所定の閾値Q未満であるために、新規予知モデル1を運用予知モデルに選定していない。運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図17に示すように、検知タイミングt42において、第2−Aの学習データ及び第2−Aの評価データに基づいて作成された新規予知モデル2−Aの予知確率が、第2−Bの学習データ及び第2−Bの評価データに基づいて作成された新規予知モデル2−Bの予知確率よりも高く、所定の閾値Q以上であるために、新規予知モデル2−Aを運用予知モデルに選定している。これにより、検知タイミングt42より前では、いかなる予知モデルも運用予知モデルに選定されていない状態となっており、検知タイミングt42において、新規予知モデル2−Aが運用予知モデルに選定されている状態に切り替わっている。
運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図17に示すように、検知タイミングt43において、検知タイミングt42において運用予知モデルに選定されている予知モデル2−Aが、第3−Aの学習データ及び第3−Aの評価データに基づいて作成された新規予知モデル3−Aの予知確率と、第3−Bの学習データ及び第3−Bの評価データに基づいて作成された新規予知モデル3−Bの予知確率とのいずれよりも高く、依然として所定の閾値Q以上を維持しているために、引き続き予知モデル2−Aを運用予知モデルに選定している。
運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図17に示すように、検知タイミングt44において、検知タイミングt42において運用予知モデルに選定されている予知モデル2−Aが、第4−Aの学習データ及び第4−Aの評価データに基づいて作成された新規予知モデル4−Aの予知確率と、第4−Bの学習データ及び第4−Bの評価データに基づいて作成された新規予知モデル4−Bの予知確率と、所定の閾値Qと、のいずれかよりも下回ったために、予知モデル2−Aを運用予知モデルから除外している。また、運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図17に示すように、検知タイミングt44において、新規予知モデル4−A及び新規予知モデル4−Bについても、その予知確率が、予知モデル2−Aの予知確率または所定の閾値Qよりも下回っているために、運用予知モデルに選定していない。これにより、検知タイミングt42から検知タイミングt44までは予知モデル2−Aが運用予知モデルに選定されている状態となっており、検知タイミングt44において、いかなる予知モデルも運用予知モデルに選定されていない状態に切り替わっている。
運用予知モデル選定ステップS16では、運用予知モデル選定部17が、図17に示すように、検知タイミングt45において、第5−Bの学習データ及び第5−Bの評価データに基づいて作成された新規予知モデル5−Bの予知確率が、第5−Aの学習データ及び第5−Aの評価データに基づいて作成された新規予知モデル5−Aの予知確率よりも高く、所定の閾値Q以上であるために、新規予知モデル5−Bを運用予知モデルに選定している。これにより、検知タイミングt45より前では、いかなる予知モデルも運用予知モデルに選定されていない状態となっており、検知タイミングt45において、新規予知モデル5−Bが運用予知モデルに選定されている状態に切り替わっている。
このように、実施形態に係る予知モデル維持システム10によって実行される実施形態に係る予知モデル維持方法は、所定の時間ごとに、現状の工程において予知確率が所定の閾値Q以上である予知モデルがあることが確認できた場合にはその予知モデルを予知部30に運用させ、現状の工程において予知確率が所定の閾値Q以上である予知モデルがないことが確認できた場合にはいかなる予知モデルをも予知部30に運用させないという状態を維持することができる。このため、実施形態に係る予知モデル維持システム10によって実行される実施形態に係る予知モデル維持方法は、所定の閾値Qを下回った予知モデルを使用し続けないようにすることができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、以上のような構成を有するので、新たに作成した新規予知モデルと、元々使用していた予知モデルとを評価して、評価の高い方を運用予知モデルに選定する。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、元々使用していた予知モデルよりも予知の精度が劣化したものを新たに用いてしまうことがないので、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、さらに、予知モデルの予知確率が劣化しているか否かを検知するために用いる劣化検知データを作成し、作成した劣化検知データを用いて、予知モデルの予知確率が低下しているか否かを判定し、予知モデルの予知確率が低下していると判定した場合、学習データを作成するものとしている。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、現在使用している予知モデルが劣化していると判定される場合にのみ、新たに新規予知モデルを作成することとするため、効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、評価の高い方が評価の閾値以上である場合、評価の高い方を運用予知モデルに選定し、評価の高い方が評価の閾値未満である場合、いずれも運用予知モデルに選定しないものとしている。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、閾値未満の評価の予知モデルを運用予知モデルに選定しないため、予知の精度が低い予知モデルを用いてしまうことによる工程への悪影響を低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、所定の条件が工程における設備データに基づいて定められ、所定の要件が工程を経た商品の品質データが所定の範囲内にあることであるとしている。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、工程の管理及び評価に一般的に用いられる設備データ及び品質データを好適に用いることができるため、効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、所定の要件を満たさない可能性がある場合に、アラートを出すように設定している。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、アラートにより、所定の要件を満たさない可能性がある場合である旨を注意喚起することができるため、工程において所定の要件を満たさない場合を見逃してしまう可能性を十分に低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、評価データの作成に用いるデータよりも時系列で過去に取得したデータを用いて学習データを作成している。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、時系列でより過去に取得したデータを用いて作成した学習データに基づいて作成した新規予知モデルが、時系列でより未来に取得したデータを用いて作成した評価データにおいても十分な精度で予知が可能か否かを評価するので、実質的に学習データにおいても評価データにおいても十分な予知の精度を有する新規予知モデルを作成することができる。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、さらに、評価データの作成に用いるデータよりも同じ量または多い量のデータを用いて学習データを作成している。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、新規予知モデルが十分な予知の精度を有すると考えられるデータのうち、より多くの比率のデータを新規予知モデルの作成に用いることができる。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、より効率よく、工程に関する変更に伴って予知の精度が劣化してしまうことを十分に低減することができる。
実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、さらに、1種類の評価データに対して、複数種類の量のデータを用いて複数種類の学習データを作成し、複数種類の学習データを用いて、複数種類の新規予知モデルを作成している。このため、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、1度に複数種類の学習データを作成し、複数種類の新規予知モデルを作成することができる。これにより、実施形態に係る予知モデル維持システム10、実施形態に係る予知モデル維持方法及び実施形態に係る予知モデル維持プログラムは、学習データの作成に用いたデータが取得された間に工程に関する変更があった場合に、より現在の工程に適切な新規予知モデルを作成することができるので、工程に関する変更に伴って予知の精度が劣化してしまうことをさらに十分に低減することができる。
1 予知モデル
10 予知モデル維持システム
11 制御部
12 劣化検知データ作成部
13 劣化検知判定部
14 学習データ作成部
15 新規予知モデル作成部
16 評価データ作成部
17 運用予知モデル選定部
20 データベース
21 設備データ
22 品質データ
30 予知部
32 アラート部

Claims (10)

  1. 所定の条件に基づいて所定の要件を満たすか否かを予知する予知モデルの予知確率を維持する予知モデル維持システムであって、
    制御部を含み、
    前記制御部は、
    新規予知モデルを作成するために用いる学習データを作成する学習データ作成部と、
    前記学習データ作成部が作成した前記学習データを用いて、前記新規予知モデルを作成する新規予知モデル作成部と、
    前記予知モデルと前記新規予知モデルとを評価するために用いる評価データを作成する評価データ作成部と、
    前記評価データ作成部が作成した前記評価データを用いて、前記予知モデルと前記新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する運用予知モデル選定部と、
    を含むことを特徴とする予知モデル維持システム。
  2. 前記予知モデルの前記予知確率が劣化しているか否かを検知するために用いる劣化検知データを作成する劣化検知データ作成部と、
    前記劣化検知データ作成部が作成した前記劣化検知データを用いて、前記予知モデルの前記予知確率が低下しているか否かを判定する劣化検知判定部と、
    をさらに含み、
    前記学習データ作成部は、前記劣化検知判定部が前記予知モデルの前記予知確率が低下していると判定した場合、前記学習データを作成することを特徴とする請求項1に記載の予知モデル維持システム。
  3. 前記運用予知モデル選定部は、前記評価の高い方が評価の閾値以上である場合、前記評価の高い方を運用予知モデルに選定し、前記評価の高い方が評価の閾値未満である場合、いずれも運用予知モデルに選定しないことを特徴とする請求項1または請求項2に記載の予知モデル維持システム。
  4. 所定の条件は、工程における設備データに基づいて定められ、
    所定の要件は、前記工程を経た商品の品質データが所定の範囲内にあることである、ことを特徴とする請求項1から請求項3のいずれか1項に記載の予知モデル維持システム。
  5. 前記予知モデル及び前記新規予知モデルは、所定の要件を満たさない可能性がある場合に、アラートを出すように設定されていることを特徴とする請求項1から請求項4のいずれか1項に記載の予知モデル維持システム。
  6. 前記学習データ作成部は、前記評価データ作成部が前記評価データの作成に用いるデータよりも時系列で過去に取得したデータを用いて前記学習データを作成することを特徴とする請求項1から請求項5のいずれか1項に記載の予知モデル維持システム。
  7. 前記学習データ作成部は、前記評価データ作成部が前記評価データの作成に用いるデータよりも同じ量または多い量のデータを用いて前記学習データを作成することを特徴とする請求項6に記載の予知モデル維持システム。
  8. 前記学習データ作成部は、前記評価データ作成部が作成する1種類の前記評価データに対して、複数種類の量のデータを用いて複数種類の前記学習データを作成し、
    前記新規予知モデル作成部は、複数種類の前記学習データを用いて、複数種類の前記新規予知モデルを作成することを特徴とする請求項7に記載の予知モデル維持システム。
  9. 所定の要件を満たすか否かを予知する予知モデルの予知確率を維持する予知モデル維持方法であって、
    新規予知モデルを作成するために用いる学習データを作成する学習データ作成ステップと、
    前記学習データ作成ステップで作成した前記学習データを用いて、前記新規予知モデルを作成する新規予知モデル作成ステップと、
    前記予知モデルと前記新規予知モデルとを評価するために用いる評価データを作成する評価データ作成ステップと、
    前記評価データ作成ステップで作成した前記評価データを用いて、前記予知モデルと前記新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する運用予知モデル選定ステップと、
    を有することを特徴とする予知モデル維持方法。
  10. 所定の条件に基づいて所定の要件を満たすか否かを予知する予知モデルの予知確率を維持するための予知モデル維持方法をコンピュータに実行させる予知モデル維持プログラムであって、
    前記コンピュータに、
    新規予知モデルを作成するために用いる学習データを作成する学習データ作成ステップと、
    前記学習データ作成ステップで作成した前記学習データを用いて、前記新規予知モデルを作成する新規予知モデル作成ステップと、
    前記予知モデルと前記新規予知モデルとを評価するために用いる評価データを作成する評価データ作成ステップと、
    前記評価データ作成ステップで作成した前記評価データを用いて、前記予知モデルと前記新規予知モデルとを評価し、評価の高い方を運用予知モデルに選定する運用予知モデル選定ステップと、
    を実行させることを特徴とする予知モデル維持プログラム。
JP2017215730A 2017-11-08 2017-11-08 予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム Active JP6896590B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017215730A JP6896590B2 (ja) 2017-11-08 2017-11-08 予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017215730A JP6896590B2 (ja) 2017-11-08 2017-11-08 予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム

Publications (2)

Publication Number Publication Date
JP2019087101A true JP2019087101A (ja) 2019-06-06
JP6896590B2 JP6896590B2 (ja) 2021-06-30

Family

ID=66764225

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017215730A Active JP6896590B2 (ja) 2017-11-08 2017-11-08 予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム

Country Status (1)

Country Link
JP (1) JP6896590B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021022311A (ja) * 2019-07-30 2021-02-18 株式会社リコー 異常検知装置、異常検知システムおよびプログラム
JP2021060940A (ja) * 2019-10-09 2021-04-15 株式会社日立製作所 運用支援システム及び方法
JP2022060512A (ja) * 2019-10-09 2022-04-14 株式会社日立製作所 運用支援システム及び方法
JP2022535069A (ja) * 2019-08-09 2022-08-04 エルジー エナジー ソリューション リミテッド 製造設備品質に対する定量化診断法
JP2022144282A (ja) * 2021-03-18 2022-10-03 ヤフー株式会社 情報処理装置、情報処理方法および情報処理プログラム
JP7419035B2 (ja) 2019-11-22 2024-01-22 キヤノン株式会社 学習モデル管理システム、学習モデル管理方法、およびプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001236337A (ja) * 2000-02-22 2001-08-31 Fuji Electric Co Ltd ニューラルネットワークによる予測装置
JP2002287803A (ja) * 2001-03-27 2002-10-04 Denso Corp 製品の製造プロセスにおける特性調整方法
JP2006024195A (ja) * 2004-06-03 2006-01-26 National Cheng Kung Univ 生産工程の品質予測システムおよびその方法
US20090106178A1 (en) * 2007-10-23 2009-04-23 Sas Institute Inc. Computer-Implemented Systems And Methods For Updating Predictive Models
JP2009187175A (ja) * 2008-02-05 2009-08-20 Fuji Electric Systems Co Ltd バッチプロセスデータの解析装置およびそれを用いた異常検出/品質推定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001236337A (ja) * 2000-02-22 2001-08-31 Fuji Electric Co Ltd ニューラルネットワークによる予測装置
JP2002287803A (ja) * 2001-03-27 2002-10-04 Denso Corp 製品の製造プロセスにおける特性調整方法
JP2006024195A (ja) * 2004-06-03 2006-01-26 National Cheng Kung Univ 生産工程の品質予測システムおよびその方法
US20090106178A1 (en) * 2007-10-23 2009-04-23 Sas Institute Inc. Computer-Implemented Systems And Methods For Updating Predictive Models
JP2009187175A (ja) * 2008-02-05 2009-08-20 Fuji Electric Systems Co Ltd バッチプロセスデータの解析装置およびそれを用いた異常検出/品質推定装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021022311A (ja) * 2019-07-30 2021-02-18 株式会社リコー 異常検知装置、異常検知システムおよびプログラム
JP2022535069A (ja) * 2019-08-09 2022-08-04 エルジー エナジー ソリューション リミテッド 製造設備品質に対する定量化診断法
JP7334275B2 (ja) 2019-08-09 2023-08-28 エルジー エナジー ソリューション リミテッド 製造設備品質に対する定量化診断法
JP2021060940A (ja) * 2019-10-09 2021-04-15 株式会社日立製作所 運用支援システム及び方法
JP7032366B2 (ja) 2019-10-09 2022-03-08 株式会社日立製作所 運用支援システム及び方法
JP2022060512A (ja) * 2019-10-09 2022-04-14 株式会社日立製作所 運用支援システム及び方法
JP7307215B2 (ja) 2019-10-09 2023-07-11 株式会社日立製作所 運用支援システム及び方法
US11720820B2 (en) 2019-10-09 2023-08-08 Hitachi, Ltd. Operational support system and method
JP7419035B2 (ja) 2019-11-22 2024-01-22 キヤノン株式会社 学習モデル管理システム、学習モデル管理方法、およびプログラム
JP2022144282A (ja) * 2021-03-18 2022-10-03 ヤフー株式会社 情報処理装置、情報処理方法および情報処理プログラム
JP7326364B2 (ja) 2021-03-18 2023-08-15 ヤフー株式会社 情報処理装置、情報処理方法および情報処理プログラム

Also Published As

Publication number Publication date
JP6896590B2 (ja) 2021-06-30

Similar Documents

Publication Publication Date Title
JP2019087101A (ja) 予知モデル維持システム、予知モデル維持方法及び予知モデル維持プログラム
CN109242135B (zh) 一种模型运营方法、装置、及业务服务器
CN110275814A (zh) 一种业务系统的监控方法及装置
KR20190069696A (ko) 장비 고장 예측 장치 및 방법
CN109120451B (zh) 基于物联网的设备评估方法、设备及计算机可读存储介质
JP6333868B2 (ja) セル制御装置、及び製造セルにおける複数の製造機械の稼働状況を管理する生産システム
US10776706B2 (en) Cost-driven system and method for predictive equipment failure detection
US20180268258A1 (en) Automated decision making using staged machine learning
CN104076809B (zh) 数据处理装置以及数据处理方法
WO2020164740A1 (en) Methods and systems for automatically selecting a model for time series prediction of a data stream
US11396825B2 (en) Turbine diagnostic feature selection system
US20210166181A1 (en) Equipment management method, device, system and storage medium
CN111178537B (zh) 一种特征提取模型训练方法及设备
CN104144643A (zh) 动作判定装置、动作判定系统和动作判定方法
CN109410502A (zh) 火灾预警方法及装置
US20210357805A1 (en) Machine learning with an intelligent continuous learning service in a big data environment
KR101901654B1 (ko) 전후방향 동향 통합 시계열 예측 시스템, 방법, 및 상기 방법을 실행시키기 위한 컴퓨터 판독 가능한 프로그램을 기록한 기록 매체
CN111340269B (zh) 用于流程工业过程的实时优化方法
WO2022093271A1 (en) Automated real-time detection, prediction and prevention of rare failures in industrial system with unlabeled sensor data
CN109918280B (zh) 一种伺服系统的健康管理方法和装置
US20230034769A1 (en) Method for an Intelligent Alarm Management in Industrial Processes
US20220027708A1 (en) Arithmetic apparatus, action determination method, and non-transitory computer readable medium storing control program
US11741394B2 (en) Information processing method, information processing apparatus, and abnormality determination system
Tidriri et al. Data-driven decision-making methodology for prognostic and health management of wind turbines
KR101462232B1 (ko) 유전자 알고리즘을 이용한 함정 운용 기준 산정 방법 및 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201014

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20201014

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210511

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210609

R150 Certificate of patent or registration of utility model

Ref document number: 6896590

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350