JP2021157654A - 機械学習装置、学習モデルの生成方法及びプログラム - Google Patents
機械学習装置、学習モデルの生成方法及びプログラム Download PDFInfo
- Publication number
- JP2021157654A JP2021157654A JP2020059007A JP2020059007A JP2021157654A JP 2021157654 A JP2021157654 A JP 2021157654A JP 2020059007 A JP2020059007 A JP 2020059007A JP 2020059007 A JP2020059007 A JP 2020059007A JP 2021157654 A JP2021157654 A JP 2021157654A
- Authority
- JP
- Japan
- Prior art keywords
- data
- learning model
- machine learning
- unit
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010801 machine learning Methods 0.000 title claims abstract description 178
- 238000000034 method Methods 0.000 title claims description 16
- 238000013500 data storage Methods 0.000 claims abstract description 42
- 238000013480 data collection Methods 0.000 claims abstract description 33
- 238000013450 outlier detection Methods 0.000 description 16
- 238000004364 calculation method Methods 0.000 description 11
- 238000001514 detection method Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 239000003921 oil Substances 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 239000010720 hydraulic oil Substances 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
Description
また、新たに収集されたデータが膨大であると相当のランニングコストが発生するという問題もあった。
つまり、選定されたデータに基づいて、機械学習に用いられる既存の学習モデルを生成し、選定されたデータに基づいて、機械学習により新規の学習モデルを生成する。
そのため、例えば、偏りのない厳選されたデータにより、更新に用いる学習モデルを生成するため、機械学習における精度を向上させることができる。また、偏りのない厳選されたデータにより、機械学習により新規の学習モデルを生成するため、学習モデルの更新に関わるランニングコストを低減することができる。
つまり、分布生成部が生成する分布が既存の分布に対して、設定された閾値以上に変化した場合には、対象体の状態に変化が起きたことが想定される。このような状況で、従前の学習モデルを用いて、機械学習を実行しても精度の低下を招いてしまうことが想定される。
そのため、分布生成部が生成する分布と、既存の学習モデルを生成した際のデータ群の分布と比較し、比較結果が類似しないと判定した場合には、データ格納部に格納されたデータ群を、学習モデルを更新するためのデータ群として選定して新たな学習モデルを生成し、既存の学習モデルを生成した学習モデルに更新することにより機械学習の精度を向上させることができる。また、偏りのない厳選されたデータにより、更新に用いる学習モデルを生成するため、学習モデルの更新に関わるランニングコストを低減することができる。
つまり、データ選定部は、外れ値を検出するアルゴリズムを用いた機械学習を行い、所定のデータ収集期間内にデータ格納部に格納された格納データのうち、既存の学習モデルを生成した際のデータに対する外れ値を検出し、その外れ値を含むデータを、学習モデルを更新するためのデータとして選定するため、結果的に、既存の学習モデルを生成した際のデータの分布に対して、所定以上外れたデータを新たな学習モデルを生成するためのデータとして選定することができる。
そのため、外れ値を検出するアルゴリズムを用いた機械学習を行ったデータ群を選定して新たな学習モデルを生成し、既存の学習モデルを生成した学習モデルに更新することにより機械学習の精度を向上させることができる。また、厳選されたデータにより、更新に用いる学習モデルを生成するため、学習モデルの更新に関わるランニングコストを低減することができる。
つまり、学習モデル生成部において生成された機械学習に用いられる新規の学習モデルを用いた機械学習の精度が、既存の機械学習に用いられる学習モデルを用いた機械学習の精度よりも低いときには、アルゴリズムが最適化されていないと判断し、更に、機械学習に用いられるアルゴリズムも変更する。
そのため、学習モデルを更新しても機械学習の精度が従前の精度よりも低い場合には、更に、アルゴリズムも変更することから、機械学習の精度を向上させることができる。また、ランニングコストに影響の大きい更新用の学習モデルの生成を厳選されたデータにより実行するため、学習モデルの更新に関わるランニングコストを低減することができる。
そのため、例えば、偏りのない厳選されたデータにより、更新に用いる学習モデルを生成するため、機械学習における精度を向上させることができる。
そのため、例えば、偏りのない厳選されたデータにより、更新に用いる学習モデルを生成するため、機械学習における精度を向上させることができる。
以下、図1から図5を用いて、本実施形態に係る機械学習装置40について説明する。
なお、以下では、機械学習装置40が用いられるシステムとして、故障予兆検出システム1を例示して説明する。
図1を用いて、本実施形態に係る機械学習装置40が用いられる故障予兆検出システム1の構成について説明する。なお、機械学習装置40が用いられる故障予兆検出システム1は、機器内の作動油の油状態から機器の故障予兆情報を検出するシステムである。
ここで、故障予兆判定部30は、相関関係を有するパラメータの値を入力し、機械学習を実行して機器100の故障予兆情報を出力する。
故障予兆判定部30は、図2に示すように、故障予兆判定アルゴリズム31と、学習モデル格納部32と、制御部33と、情報記憶部34と、を含んで構成されている。
また、制御部33は、機械学習装置40から更新する学習モデルを受け取ると、学習モデル格納部32にアクセスして、既に格納されている学習モデルを更新する学習モデルに書き換える処理を行う。
機械学習装置40は、図3に示すように、データ収集部41と、データ格納部42と、分布生成部43と、データ選定部44と、学習モデル生成部45と、更新部46と、を含んで構成されている。
なお、他のシステムに機械学習装置40が用いられる場合には、データ収集部41が独自に、データを収集するようにしてもよい。
図4および図5を用いて、本実施形態に係る機械学習装置40の処理について説明する。
以上、説明したように、本実施形態における機械学習装置40においては、データ選定部44は、収集したデータを格納するデータ格納部42に格納されたデータのうち、故障予兆判定部30における機械学習に用いられる既存の学習モデルを更新するためのデータを選定する。また、学習モデル生成部45は、選定されたデータに基づいて、機械学習により新規の学習モデルを生成する。さらに、更新部46は、既存の学習モデルを学習モデル生成部45において生成された新規の学習モデルに更新する。
つまり、選定されたデータに基づいて、機械学習に用いられる既存の学習モデルを生成し、選定されたデータに基づいて、機械学習により新規の学習モデルを生成する。
そのため、例えば、偏りのない厳選されたデータにより、更新に用いる学習モデルを生成するため、機械学習における精度を向上させることができる。また、偏りのない厳選されたデータにより、機械学習により新規の学習モデルを生成するため、学習モデルの更新に関わるランニングコストを低減することができる。
つまり、分布生成部43が生成する分布と、既存の学習モデルを生成した際のデータ群の分布とを比較し、比較結果が類似しない場合には、対象体の状態に変化が起きたことが想定される。このような状況で、従前の学習モデルを用いて、機械学習を実行しても精度の低下を招いてしまうことが想定される。
そのため、分布生成部43が生成する分布と、既存の学習モデルを生成した際のデータ群の分布と比較し、比較結果が類似しないと判定した場合には、データ格納部42に格納されたデータ群を、学習モデルを更新するためのデータ群として選定して、新たな学習モデルを生成し、既存の学習モデルを生成した学習モデルに更新することにより機械学習の精度を向上させることができる。また、偏りのない厳選されたデータにより、更新に用いる学習モデルを生成するため、学習モデルの更新に関わるランニングコストを低減することができる。
以下、図6から図9を用いて、本実施形態に係る機械学習装置40Aについて説明する。
図6を用いて、本実施形態に係る機械学習装置40Aの構成について説明する。
なお、第1の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。
図7に示すように、外れ値検出部47は、外れ値検出アルゴリズム47Aと、学習モデル格納部47Bと、を含んで構成されている。
なお、外れ値検出アルゴリズム47Aを用いた機械学習を実行すると、図9において「★」印のようなデータも検出するが、このようなデータについては、その目的等に応じて、適宜、除外等の処理をしてもよい。
図8、図9を用いて、本実施形態に係る機械学習装置40Aの処理について説明する。
以上、説明したように、本実施形態における機械学習装置40Aにおいては、データ選定部44Aは、所定のデータ収集期間内にデータ格納部42に格納された格納データのうち、既存の学習モデルを生成した際のデータに対する外れ値を検出し、その外れ値を含むデータを、学習モデルを更新するためのデータとして選定する。
つまり、データ選定部44Aは、外れ値を検出するアルゴリズムを用いた機械学習を行い、所定のデータ収集期間内にデータ格納部42に格納された格納データのうち、既存の学習モデルを生成した際のデータに対する外れ値を検出し、その外れ値を含むデータを、学習モデルを更新するためのデータとして選定するため、結果的に、既存の学習モデルを生成した際のデータの分布に対して、所定以上外れたデータを新たな学習モデルを生成するためのデータとして選定することができる。
そのため、外れ値を検出するアルゴリズムを用いた機械学習を行ったデータ群を選定して新たな学習モデルを生成し、既存の学習モデルを生成した学習モデルに更新することにより機械学習の精度を向上させることができる。また、厳選されたデータにより、更新に用いる学習モデルを生成するため、学習モデルの更新に関わるランニングコストを低減することができる。
なお、本実施形態においては、外れ値を検出するアルゴリズムを用いた機械学習を行うことを例示したが、例えば、3σ法等のように、機械学習を用いない外れ値検出法を用いて処理を行ってもよい。
以下、図10、図11を用いて、本実施形態に係る機械学習装置40Bについて説明する。
図10を用いて、本実施形態に係る機械学習装置40Bの構成について説明する。
なお、第1の実施形態および第2の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。
図11を用いて、本実施形態に係る機械学習装置40Bの処理について説明する。
以上、説明したように、本実施形態における機械学習装置40Bにおいては、精度判定部49は、既存の学習モデルの精度と新規の学習モデルの精度とを比較する。更新部46Aは、学習モデル生成部45において生成された新規の学習モデルの精度が、既存の学習モデルの精度よりも低いときには、機械学習に用いられるアルゴリズムを変更する。
つまり、学習モデル生成部45において生成された機械学習に用いられる新規の学習モデルを用いた機械学習の精度が、既存の機械学習に用いられる学習モデルを用いた機械学習の精度よりも低いときには、ハイパーパラメータを更新して評価した上、改善が見られない場合には、アルゴリズムも変更する。また、アルゴリズムとしては、例えば、SVMやDNNを例示できるが、これらのアルゴリズム単体で評価を行う以外に、複数のアルゴリズムを混合して評価するアンサンブル学習により評価を行うようにしてもよい。
そのため、学習モデルを更新しても機械学習の精度が従前の精度よりも低い場合には、更に、アルゴリズムも変更することから、機械学習の精度を向上させることができる。また、ランニングコストに影響の大きい更新用の学習モデルの生成を厳選されたデータにより実行するため、学習モデルの更新に関わるランニングコストを低減することができる。また、ハイパーパラメータを更新して評価した上、改善が見られない場合には、アルゴリズムも変更するため、アルゴリズムが同一であってもハイパーパラメータのチューニング精度が向上することを期待できる場合もある。
10;油状態センサ
20;パラメータ算出部
30;故障予兆判定部
31;故障予兆判定アルゴリズム
32;学習モデル格納部
33;制御部
34;情報記憶部
40;機械学習装置
40A;機械学習装置
40B;機械学習装置
41;データ収集部
42;データ格納部
43;分布生成部
44;データ選定部
44A;データ選定部
45;学習モデル生成部
46;更新部
46A;更新部
47;外れ値検出部
47A;外れ値検出アルゴリズム
47B;学習モデル格納部
48;アルゴリズム格納部
49;精度判定部
100;機器
Claims (6)
- 機械学習を実行するためのデータを収集するデータ収集部と、
該収集したデータを格納するデータ格納部と、
該データ格納部に格納されたデータのうち機械学習に用いられる既存の学習モデルを更新するためのデータを選定するデータ選定部と、
該選定されたデータに基づいて、前記機械学習により新規の学習モデルを生成する学習モデル生成部と、
前記既存の学習モデルを前記学習モデル生成部において生成された前記新規の学習モデルに更新する更新部と、
を備えたことを特徴とする機械学習装置。 - 前記データ格納部に格納された所定のデータ収集期間内のデータ群についての分布を生成する分布生成部を備え、
前記データ選定部は、前記分布生成部が生成する前記分布と、前記既存の学習モデルを生成した際のデータ群の分布とを比較し、比較結果が類似しないと判定した場合に、前記データ格納部に格納されたデータ群を、前記学習モデルを更新するための前記データ群として選定することを特徴とする請求項1に記載の機械学習装置。 - 前記データ選定部は、所定のデータ収集期間内に前記データ格納部に格納された格納データのうち、前記既存の学習モデルを生成した際のデータに対する外れ値を検出し、当該外れ値を含むデータを、前記学習モデルを更新するためのデータとして選定することを特徴とする請求項1に記載の機械学習装置。
- 前記既存の学習モデルの精度と前記新規の学習モデルの精度とを比較する精度判定部を備え、
前記更新部は、前記学習モデル生成部において生成された前記新規の学習モデルの精度が、前記既存の学習モデルの精度よりも低いときには、前記機械学習に用いられるアルゴリズムを変更することを特徴とする請求項1から3のいずれか1項に記載の機械学習装置。 - 機械学習を実行するためのデータを収集する第1の工程と、
該収集したデータのうち機械学習に用いられる既存の学習モデルを更新するためのデータを選定する第2の工程と、
該選定されたデータに基づいて、前記機械学習により新規の学習モデルを生成する第3の工程と、
を備えたことを特徴とする学習モデルの生成方法。 - 機械学習を実行するためのデータを収集する第1の工程と、
該収集したデータのうち機械学習に用いられる既存の学習モデルを更新するためのデータを選定する第2の工程と、
該選定されたデータに基づいて、前記機械学習により新規の学習モデルを生成する第3の工程と、
前記既存の学習モデルを前記新規の学習モデルに更新する第4の工程と、
をコンピュータに実行させるためのプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020059007A JP2021157654A (ja) | 2020-03-27 | 2020-03-27 | 機械学習装置、学習モデルの生成方法及びプログラム |
CN202180023864.3A CN115315711A (zh) | 2020-03-27 | 2021-03-26 | 机器学习装置、学习模型的生成方法及程序 |
US17/914,024 US20230126258A1 (en) | 2020-03-27 | 2021-03-26 | Machine learning device, method for generating learning models, and program |
EP21775782.2A EP4131090A4 (en) | 2020-03-27 | 2021-03-26 | AUTOMATIC LEARNING DEVICE, LEARNING MODEL GENERATION METHOD AND PROGRAM |
PCT/JP2021/012928 WO2021193931A1 (ja) | 2020-03-27 | 2021-03-26 | 機械学習装置、学習モデルの生成方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020059007A JP2021157654A (ja) | 2020-03-27 | 2020-03-27 | 機械学習装置、学習モデルの生成方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021157654A true JP2021157654A (ja) | 2021-10-07 |
Family
ID=77892286
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020059007A Pending JP2021157654A (ja) | 2020-03-27 | 2020-03-27 | 機械学習装置、学習モデルの生成方法及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230126258A1 (ja) |
EP (1) | EP4131090A4 (ja) |
JP (1) | JP2021157654A (ja) |
CN (1) | CN115315711A (ja) |
WO (1) | WO2021193931A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11907032B2 (en) * | 2021-06-21 | 2024-02-20 | Microsoft Technology Licensing, Llc | Generating fan control signal for computing device |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109214559A (zh) * | 2018-08-17 | 2019-01-15 | 安吉汽车物流股份有限公司 | 物流业务的预测方法及装置、可读存储介质 |
WO2019176354A1 (ja) * | 2018-03-13 | 2019-09-19 | 住友電気工業株式会社 | 学習用データ収集方法、学習用データ収集装置、異変検知システム及びコンピュータプログラム |
US20190378044A1 (en) * | 2013-12-23 | 2019-12-12 | Groupon, Inc. | Processing dynamic data within an adaptive oracle-trained learning system using curated training data for incremental re-training of a predictive model |
JP2020024633A (ja) * | 2018-08-08 | 2020-02-13 | 株式会社デンソー | 訓練データ評価装置、訓練データ評価方法、およびプログラム |
-
2020
- 2020-03-27 JP JP2020059007A patent/JP2021157654A/ja active Pending
-
2021
- 2021-03-26 US US17/914,024 patent/US20230126258A1/en active Pending
- 2021-03-26 EP EP21775782.2A patent/EP4131090A4/en active Pending
- 2021-03-26 WO PCT/JP2021/012928 patent/WO2021193931A1/ja active Application Filing
- 2021-03-26 CN CN202180023864.3A patent/CN115315711A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190378044A1 (en) * | 2013-12-23 | 2019-12-12 | Groupon, Inc. | Processing dynamic data within an adaptive oracle-trained learning system using curated training data for incremental re-training of a predictive model |
WO2019176354A1 (ja) * | 2018-03-13 | 2019-09-19 | 住友電気工業株式会社 | 学習用データ収集方法、学習用データ収集装置、異変検知システム及びコンピュータプログラム |
JP2020024633A (ja) * | 2018-08-08 | 2020-02-13 | 株式会社デンソー | 訓練データ評価装置、訓練データ評価方法、およびプログラム |
CN109214559A (zh) * | 2018-08-17 | 2019-01-15 | 安吉汽车物流股份有限公司 | 物流业务的预测方法及装置、可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115315711A (zh) | 2022-11-08 |
WO2021193931A1 (ja) | 2021-09-30 |
EP4131090A4 (en) | 2024-04-10 |
US20230126258A1 (en) | 2023-04-27 |
EP4131090A1 (en) | 2023-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Sahu et al. | Predicting software bugs of newly and large datasets through a unified neuro-fuzzy approach: Reliability perspective | |
Linares-Vásquez et al. | On using machine learning to automatically classify software applications into domain categories | |
US10133614B2 (en) | Anomaly classification, analytics and resolution based on annotated event logs | |
White et al. | Qos prediction for reliable service composition in iot | |
CN103513983A (zh) | 用于预测性警报阈值确定工具的方法和系统 | |
US20180174072A1 (en) | Method and system for predicting future states of a datacenter | |
KR102330423B1 (ko) | 이미지 인식 딥러닝 알고리즘을 이용한 온라인 부도 예측 시스템 | |
Yang et al. | Incremental optimization mechanism for constructing a decision tree in data stream mining | |
JP7481902B2 (ja) | 管理計算機、管理プログラム、及び管理方法 | |
Ye et al. | Hydrologic time series anomaly detection based on flink | |
WO2021193931A1 (ja) | 機械学習装置、学習モデルの生成方法及びプログラム | |
CN116051118B (zh) | 行为时序模型的分析方法及装置 | |
JP2022531480A (ja) | 訪問予測 | |
Shetty et al. | A Weighted Ensemble of VAR and LSTM for Multivariate Forecasting of Cloud Resource Usage | |
KR102480518B1 (ko) | 신용평가 모델 업데이트 또는 교체 방법 및 장치 | |
JP2020201870A (ja) | ハイパーパラメータ管理装置、ハイパーパラメータ管理方法及びハイパーパラメータ管理プログラム製品 | |
Mahgoub et al. | Benchmarking concept drift detectors for online machine learning | |
JP2011008782A (ja) | 特定のクエリに関する不確定かつ不整合オントロジの推論方式および装置 | |
CN114124564A (zh) | 一种仿冒网站检测方法、装置、电子设备及存储介质 | |
US20220164659A1 (en) | Deep Learning Error Minimizing System for Real-Time Generation of Big Data Analysis Models for Mobile App Users and Controlling Method for the Same | |
CN115349129A (zh) | 生成具有不确定性区间的性能预测 | |
Jaber et al. | RETRACTED ARTICLE: AHI: a hybrid machine learning model for complex industrial information systems | |
US20190236410A1 (en) | Bootstrapping recommendation systems from passive data | |
CN115622894B (zh) | 基于历史数据概率分析的动态网络拓扑预测方法与系统 | |
Zhang et al. | Time-Variant Reliability-Based Optimization with Double-Loop Kriging Surrogates |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231017 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20231218 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240216 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240604 |