JP7363889B2 - 学習装置、学習方法、コンピュータプログラム及び記録媒体 - Google Patents

学習装置、学習方法、コンピュータプログラム及び記録媒体 Download PDF

Info

Publication number
JP7363889B2
JP7363889B2 JP2021506243A JP2021506243A JP7363889B2 JP 7363889 B2 JP7363889 B2 JP 7363889B2 JP 2021506243 A JP2021506243 A JP 2021506243A JP 2021506243 A JP2021506243 A JP 2021506243A JP 7363889 B2 JP7363889 B2 JP 7363889B2
Authority
JP
Japan
Prior art keywords
data
period
normal
learning
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021506243A
Other languages
English (en)
Other versions
JPWO2020189132A1 (ja
Inventor
洋平 飯澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020189132A1 publication Critical patent/JPWO2020189132A1/ja
Application granted granted Critical
Publication of JP7363889B2 publication Critical patent/JP7363889B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2148Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Description

本発明は、学習装置、学習方法、コンピュータプログラム及び記録媒体の技術分野に関する。
例えばディープラーニングに代表される機械学習の技術の進展により、例えば機器に取り付けられたセンサから出力される時系列数値データ(以降、適宜“時系列データ”と称する)に基づいて、該機器の異常を自動検出することに対するニーズが増えてきている。
ところで、機械学習の技術では、高い精度を出すためには大量の教師データが必要である。機械学習により、上述した機器の異常を自動検出する学習モデルを構築するためには、教師データとしての、正常状態を示す時系列データ(以降、適宜“正常データ”と称する)と、異常状態を示す時系列データ(以降、適宜“異常データ”と称する)との両方を十分に収集する必要がある。しかしながら、実際には、機器の故障等に起因する異常データは、正常データに比べて非常に少ない。このため、上記学習モデルを構築するために十分な量の異常データを収集することが困難であるという技術的問題点がある。この問題点に対して、正常データのみを用いた機械学習により、正常データにより示される時系列パターンである正常パターンを学習させた後、学習された正常パターンに対する時系列データの逸脱度から異常を検出する技術が提案されている(特許文献1参照)。その他関連する技術として、特許文献2乃至7が挙げられる。
特開2018-124937号公報 国際公開第2017/94267号 国際公開第2014/132611号 特開2018-148350号公報 特開2017-91278号公報 特開2017-10111号公報 特開2004-94437号公報
正常データのみを用いた機械学習により構築される学習モデルは精度が比較的低くなることが多い。なぜなら、様々な正常パターンを示す正常データを、網羅的且つ大量に収集することが実際には難しいからである。人手により、既に収集された正常データを分析して、不足している正常パターンを特定し、該特定された正常パターンを示す正常データを収集することは、膨大な時間やコストがかかり得策ではない。
本発明は、上記問題点に鑑みてなされたものであり、機械学習に不足している正常パターンを検出することができる学習装置、学習方法、コンピュータプログラム及び記録媒体を提供することを課題とする。
本発明の学習装置の一の態様は、時系列数値データを入力データとして機械学習を行う学習装置であって、前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに対応する時系列数値データを予測して出力する学習モデルを生成する生成手段と、前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に対応する第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得する第1取得手段と、異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に対応する第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得する第2取得手段と、前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する検出手段と、を備える。
本発明の学習方法の一態様は、時系列数値データを入力データとして機械学習を行う学習装置における学習方法であって、前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに対応する時系列数値データを予測して出力する学習モデルを生成する生成工程と、前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に対応する第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得する第1取得工程と、異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に対応する第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得する第2取得工程と、前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する検出工程と、を含む。
本発明のコンピュータプログラムの一の態様は、コンピュータに、上述した学習方法の一の態様を実行させる。
本発明の記録媒体の一の態様は、上述したコンピュータプログラムの一の態様が記録された記録媒体である。
上述した学習装置、学習方法、コンピュータプログラム及び記録媒体のそれぞれの一の態様によれば、機械学習に不足している正常パターンを検出することができる。
実施形態に係る学習装置のハードウェア構成を示すブロック図である。 実施形態に係るCPU内で実現される機能ブロックを示すブロック図である。 学習及び検証の概念を示す概念図である。 実施形態に係る学習動作を示すフローチャートである。 実施形態に係る検証動作を示すフローチャートである。 不足データの検出方法の概念を示す概念図である。 変形例に係るCPU内で実現される機能ブロックを示すブロック図である。 変形例に係る検証動作を示すフローチャートである。
学習装置、学習方法、コンピュータプログラム及び記録媒体の実施形態を図面に基づいて説明する。以下では、教師データとしての正常データに不足している正常パターンを有する正常データ(以降、適宜“不足データ”と称する)を検出する学習装置1を用いて、学習装置、学習方法、コンピュータプログラム及び記録媒体の実施形態について説明する。
(構成)
先ず、実施形態に係る学習装置1のハードウェア構成について図1を参照して説明する。図1は、実施形態に係る学習装置1のハードウェア構成を示すブロック図である。
図1において、学習装置1は、CPU(Central Processing Unit)11、RAM(Random Access Memory)12、ROM(Read Only Memory)13、記憶装置14、入力装置15及び出力装置16を備えている。CPU11、RAM12、ROM13、記憶装置14、入力装置15及び出力装置16は、データバス17を介して相互に接続されている。
CPU11は、コンピュータプログラムを読み込む。例えば、CPU11は、RAM12、ROM13及び記憶装置14のうちの少なくとも一つが記憶しているコンピュータプログラムを読み込んでもよい。例えば、CPU11は、コンピュータで読み取り可能な記録媒体が記憶しているコンピュータプログラムを、図示しない記録媒体読み取り装置を用いて読み込んでもよい。CPU11は、ネットワークインタフェースを介して、学習装置1の外部に配置される不図示の装置からコンピュータプログラムを取得してもよい(つまり、読み込んでもよい)。CPU11は、読み込んだコンピュータプログラムを実行することで、RAM12、記憶装置14、入力装置15及び出力装置16を制御する。当該実施形態では特に、CPU11が読み込んだコンピュータプログラムを実行すると、CPU11内には、不足データを検出するための論理的な機能ブロックが実現される。つまり、CPU11は、不足データを検出するためのコントローラとして機能可能である。尚、CPU11内で実現される機能ブロックの構成については、後に図2を参照しながら詳述する。
RAM12は、CPU11が実行するコンピュータプログラムを一時的に記憶する。RAM12は、CPU11がコンピュータプログラムを実行している際にCPU11が一時的に使用するデータを一時的に記憶する。RAM12は、例えば、D-RAM(Dynamic RAM)であってもよい。
ROM13は、CPU11が実行するコンピュータプログラムを記憶する。ROM13は、その他に固定的なデータを記憶していてもよい。ROM13は、例えば、P-ROM(Programmable ROM)であってもよい。
記憶装置14は、学習装置1が長期的に保存するデータを記憶する。記憶装置14は、CPU11の一時記憶装置として動作してもよい。記憶装置14は、例えば、ハードディスク装置、光磁気ディスク装置、SSD(Solid State Drive)及びディスクアレイ装置のうちの少なくとも一つを含んでいてもよい。
入力装置15は、学習装置1のユーザからの入力指示を受け取る装置である。入力装置15は、例えば、キーボード、マウス及びタッチパネルのうちの少なくとも一つを含んでいてもよい。
出力装置16は、学習装置1に関する情報を外部に対して出力する装置である。例えば、出力装置16は、学習装置1に関する情報を表示可能な表示装置であってもよい。
次に、CPU11内で実現される機能ブロックの構成について図2を参照して説明する。図2は、CPU11内で実現される機能ブロックを示すブロック図である。
図2に示すように、CPU11内には、不足データを検出するための論理的な機能ブロックとして、外れ度計算部111と、不足データ検出部112とが実現される。外れ度計算部111は、正常データを教師データとして、機械学習により学習モデルを構築(生成)する。その後、外れ度計算部111は、機械学習に用いられた正常データとは異なる検証用の正常データを用いて上記学習モデルを検証した結果を、正常データ外れ度として記憶装置14に保存する。外れ度計算部111は更に、異常データを用いて上記学習モデルを検証した結果を、異常データ外れ度として記憶装置14に保存する。不足データ検出部112は、正常データ外れ度及び異常データ外れ度に基づいて不足データを検出する。
(動作)
次に、外れ度計算部111における機械学習について図3及び図4を参照して説明する。ここで、図3に示す時系列データの実測値は、上述の正常データの一例に相当するものとする。外れ度計算部111は、例えば図3に示す時系列データの実測値のうち第1の時間区間の時系列データを読み込み、該第1の時間区間に続く第2の時間区間の時系列データを予測(再現)して出力する学習モデルを構築する。このとき、予測された第2の時間区間の時系列データと、時系列データの実測値うち第2の時間区間の時系列データ(教師データに相当)とが比較されることによって、学習モデルの精度向上が図られる。
図4のフローチャートにおいては、外れ度計算部111は、先ず、記憶装置14に保存されている正常データのうち学習用の正常データを取得する(ステップS101)。次に、外れ度計算部111は、ステップS101の処理において取得された学習用の正常データから、学習モデルに入力される第1の時間区間の時系列データと、教師データとなる第2の時間区間の時系列データとの組を複数生成する(図3参照)。その後、外れ度計算部111は、該生成された複数の時系列データの組を用いた機械学習を行い、学習モデルを構築する(ステップS102)。
学習モデルを構築する具体的な方法としては、例えば、ディープラーニングにおけるオートエンコーダ等の入力を再現可能な方法、再帰型ニューラルネットワーク等の時系列データから時系列データを出力可能な方法、が挙げられる。尚、学習用の正常データが、センサ出力としての時系列データである場合であって、複数のセンサ各々から出力された複数の時系列データが存在する場合、外れ度計算部111は、該複数の時系列データを用いて一の学習モデルを構築してもよいし、センサ毎に学習モデルを構築してもよい。「外れ度計算部111」は、後述する付記における「生成手段」の一例に相当する。
次に、上述の如く構築された学習モデルの検証について図3及び図5を参照して説明する。図3に示す時系列データの実測値が、検証用の正常データの一例に相当するものとして、該正常データを用いた学習モデルの検証について説明する。外れ度計算部111は、例えば図3に示す時系列データの実測値のうち第1の時間区間の時系列データを、学習モデルに入力して、該学習モデルにより予測された、該第1の時間区間に続く第2の時間区間の時系列データである予測時系列データを取得する。その後、外れ度計算部111は、予測時系列データと、時系列データの実測値のうち第2の時間区間の時系列データとの差分を予測差分として計算する。
外れ度計算部111は、第2の時間区間の時系列データの実測値からの予測時系列データの外れ度合い(言い換えれば、ずれの程度)を示す指標である外れ度を、予測差分に基づいて計算する。検証用の正常データを用いた学習モデルの検証時に計算された外れ度が、正常データ外れ度として記憶装置14に保存される。
異常データを用いた学習モデルの検証時にも、上述した工程と同様の工程により外れ度が計算される。異常データを用いた学習モデルの検証時に計算された外れ度が、異常データ外れ度として記憶装置14に保存される。
尚、検証用の正常データに係る「第1の時間区間」及び「第2の時間区間」が、夫々、後述する付記における「第1期間」及び「第2期間」の一例に相当する。異常データに係る「第1の時間区間」及び「第2の時間区間」が、夫々、後述する付記における「第3期間」及び「第4期間」の一例に相当する。
外れ度は、例えば予測差分の絶対値の平均値として表されてもよいし、予測差分をベクトルとしたときの該ベクトルが線形結合として表されたものであってもよい。或いは、外れ度は、予測差分をベクトルとしたときのユークリッド距離やマハラノビス距離で表されてもよい。いずれにしても、外れ度は、実測値からのずれの大きさを数値で表現するものであればよい。
不足データ検出部112は、異常データ外れ度により示される外れ度を基準として、該基準よりも大きな外れ度を示す正常データ外れ度を特定する。不足データ検出部112は、該特定された正常データ外れ度の基となった正常データ(即ち、特定された正常データ外れ度の基となった予測差分が計算されたときに用いられた正常データ)により示される正常パターンから不足データを検出する。
図5のフローチャートにおいては、外れ度計算部111は、先ず、記憶装置14に保存されている正常データのうち検証用の正常データと、異常データとを取得する(ステップS201)。次に、外れ度計算部111は、ステップS201の処理において取得された検証用の正常データ及び異常データ各々から、学習モデルに入力される第1の時間区間の時系列データと、第2の時間区間の時系列データとの組を複数生成する(図3参照)。
その後、外れ度計算部111は、検証用の正常データのうち第1の時間区間の時系列データを学習モデルに入力して、該学習モデルにより予測された予測時系列データを取得する。外れ度計算部111は、予測時系列データと、検証用の正常データのうち第2の時間区間の時系列データとの差分を予測差分として計算する。外れ度計算部111は、該計算された予測差分に基づいて正常データ外れ度を計算する。同様に、外れ度計算部111は、異常データのうち第1の時間区間の時系列データを学習モデルに入力して、該学習モデルにより予測された予測時系列データを取得する。外れ度計算部111は、予測時系列データと、異常データのうち第2の時間区間の時系列データとの差分を予測差分として計算する。外れ度計算部111は、該計算された予測差分に基づいて異常データ外れ度を計算する(ステップS202)。
不足データ検出部112は、異常データ外れ度により示される外れ度を基準として、該基準よりも大きな外れ度を示す正常データ外れ度を特定する。不足データ検出部112は、該特定された正常データ外れ度に基づいて不足データを検出する(ステップS203)。「外れ度計算部111」は、後述する付記における「第1取得手段」及び「第2取得手段」の一例に相当し、「不足データ検出部112」は、後述する付記における「検出手段」の一例に相当する。
ここで、不足データの検出概念について図6を参照して説明を加える。図6は、センサ1及びセンサ2各々から出力された時系列データに基づく正常データ及び異常データを用いて計算された外れ度を図示したものである。センサ1及びセンサ2の対象は相互に関連しており、ある時刻に生じた一のイベントによって、センサ1及びセンサ2各々から出力される時系列データが影響を受けるものとする。ここでは、外れ度が、予測差分をベクトルとしたときのマハラノビス距離で表されている。予測差分が小さいデータ(即ち、正常データ及び異常データ)ほど、原点Oの近くにプロットされる。異常データ外れ度(図6のバツ印参照)の最小値を基準とした場合、破線円C1で囲われた正常データ外れ度は、該基準より外れ度が小さいので、学習モデルが構築される際に十分な機械学習が行われた正常パターンを有する正常データであると言える。他方、破線円C2で囲われた正常データ外れ度は、上記基準より外れ度が大きいので、学習モデルが構築される際の機械学習が不十分な正常パターンを有する正常データであると言える。
機械学習が十分であれば、学習モデルにより予測される予測時系列データは、時系列データの実測値に近いので、予測差分は比較的小さくなり、結果として外れ度も比較的小さくなる。他方で、機械学習が不十分であれば、学習モデルにより予測される予測時系列データは、時系列データの実測値から比較的大きくずれるので、予測差分は比較的大きくなり、結果として外れ度も比較的大きくなる。当該学習装置1では、学習用の正常データを用いた機械学習により(即ち、正常データだけを用いた機械学習により)学習モデルが構築される。このため、機械学習に用いられない異常データを用いた学習モデルの検証時に計算された異常データ外れ度は、当然ながら比較的大きくなる。従って、異常データ外れ度よりも大きな外れ度となる正常データは、機械学習が十分ではないと言える。
尚、異常データ外れ度の最小値が基準とされなくてもよく、例えば、異常データ外れ度の平均値、中央値又は最大値等が基準とされてよい。或いは、異常データ外れ度の最小値と、該最小値より小さい複数の正常データ外れ度のうちの正常データ外れ度の最大値との中間の値が基準とされてもよい。
(技術的効果)
当該学習装置1によれば、機械学習に不足している正常パターンを有する正常データ(即ち、不足データ)を自動的に検出することができる。このため、検出された不足データに相当する学習用の正常データを追加すれば、学習モデルの精度を比較的容易に向上させることができる。この結果、機械学習に用いる異常データを十分には収集できない場合であっても、正常データだけを用いて比較的精度の良い学習モデルを構築することができる。加えて、人手により、既に収集された正常データを分析して、不足データを特定する必要がないので、学習モデルを構築するための工数を大幅に低減することができる。
ここで、不足データを検出するために用いられる学習モデルと、時系列データに基づいて、対象機器の異常を自動検出するために用いられる学習モデルとは、同一であってもよいし、互いに異なっていてもよい。いずれにしても、上記検出された不足データに相当する学習用の正常データを追加して再学習を行えば、対象機器の異常を自動検出するために用いられる学習モデルの精度を向上させることができる。この結果、該再学習された学習モデルを用いて対象機器の異常を精度よく検出することができる。
<変形例>
(1)図7に示すように、CPU11内には、外れ度計算部111及び不足データ検出部112に加えて、ユーザ提示部113が実現されてよい。ユーザ提示部113は、図8に示すように、ステップS203の処理の後、該ステップS203の処理において検出された不足データが当該学習装置1のユーザに提示されるように出力装置16(図1参照)を制御してよい。このとき、例えば図5に示すような画像が、ユーザに提示されてよい。
尚、対象が相互に関連するセンサの数が4以上で、ユークリッド距離やマハラノビス距離により外れ度が表される場合は、次元数が4以上になってしまうので、例えば2次元や3次元のグラフが複数個提示されることが望ましい。複数のセンサの対象が相互に関連しない場合(例えば、一のセンサの対象に生じたイベントによって、該一のセンサとは異なる他のセンサから出力される時系列データが影響を受けない場合)には、1次元のグラフが複数個提示されてよい。「ユーザ提示部113」は、後述する付記における「提示手段」の一例に相当する。
(2)上述した実施形態では、時系列データのうち第1の時間区間の時系列データから、第1の時間区間に続く第2の時間区間の時系列データを予測する学習モデルが構築されたが、これに限られるものではない。例えば、入力された時系列データに係る時間区間と同一の時間区間の時系列データを予測する学習モデルが構築されてもよい。
<付記>
以上説明した実施形態に関して、更に以下の付記を開示する。
(付記1)
付記1に記載の学習装置は、時系列数値データを入力データとして機械学習を行う学習装置であって、前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに対応する時系列数値データを予測して出力する学習モデルを生成する生成手段と、前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に対応する第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得する第1取得手段と、異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に対応する第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得する第2取得手段と、前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する検出手段と、を備えることを特徴とする学習装置である。
(付記2)
付記2に記載の学習装置は、前記検出された不足している時系列パターンを提示する提示手段を備えることを特徴とする付記1に記載の学習装置である。
(付記3)
付記3に記載の学習方法は、時系列数値データを入力データとして機械学習を行う学習装置における学習方法であって、前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに対応する時系列数値データを予測して出力する学習モデルを生成する生成工程と、前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に対応する第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得する第1取得工程と、異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に対応する第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得する第2取得工程と、前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する検出工程と、を含むことを特徴とする学習方法である。
(付記4)
付記4に記載のコンピュータプログラムは、コンピュータに、付記3に記載の学習方法を実行させるコンピュータプログラムである。
(付記5)
付記5に記載の記録媒体は、付記4に記載のコンピュータプログラムが記録された記録媒体である。
本発明は、請求の範囲及び明細書全体から読み取るこのできる発明の要旨又は思想に反しない範囲で適宜変更可能であり、そのような変更を伴う学習装置、学習方法、コンピュータプログラム及び記録媒体もまた本発明の技術思想に含まれる。
この出願は、2019年3月19日に出願された日本出願特願2019-051063を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1…学習装置、111…外れ度計算部、112…不足データ検出部、113…ユーザ提示部

Claims (4)

  1. 時系列数値データを入力データとして機械学習を行う学習装置であって、
    前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに続く時系列数値データを予測して出力する学習モデルを生成する生成手段と、
    前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に続く第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得する第1取得手段と、
    異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に続く第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得する第2取得手段と、
    前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する検出手段と、
    を備えることを特徴とする学習装置。
  2. 前記検出された不足している時系列パターンを提示する提示手段を備えることを特徴とする請求項1に記載の学習装置。
  3. 時系列数値データを入力データとして機械学習を行う学習方法であって、
    学習装置が、前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに続く時系列数値データを予測して出力する学習モデルを生成し、
    前記学習装置が、前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に続く第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得し、
    前記学習装置が、異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に続く第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得し、
    前記学習装置が、前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する、
    ことを特徴とする学習方法。
  4. コンピュータに、
    時系列数値データを入力データとして機械学習を行う学習方法であって、
    前記入力データとしての正常状態を示す時系列数値データである正常データを用いて前記機械学習を行うことにより、入力された時系列数値データに続く時系列数値データを予測して出力する学習モデルを生成する生成工程と、
    前記正常データのうち第1期間の正常データを前記学習モデルに入力することにより、前記学習モデルにより予測された正常データである前記第1期間に続く第2期間の予測正常データと、前記正常データのうち前記第2期間の正常データとを比較して、前記第2期間の正常データと前記予測正常データとのずれの程度を示す第1の外れ度を取得する第1取得工程と、
    異常状態を示す時系列数値データである異常データのうち第3期間の異常データを前記学習モデルに入力することにより、前記学習モデルにより予測された異常データである前記第3期間に続く第4期間の予測異常データと、前記異常データのうち前記第4期間の異常データとを比較して、前記第4期間の異常データと前記予測異常データとのずれの程度を示す第2の外れ度を取得する第2取得工程と、
    前記第1の外れ度及び前記第2の外れ度に基づいて、前記正常データに係る正常状態を示す時系列パターンのうち、不足している時系列パターンを検出する検出工程と、
    を含む学習方法を実行させるコンピュータプログラム。
JP2021506243A 2019-03-19 2020-02-17 学習装置、学習方法、コンピュータプログラム及び記録媒体 Active JP7363889B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019051063 2019-03-19
JP2019051063 2019-03-19
PCT/JP2020/006039 WO2020189132A1 (ja) 2019-03-19 2020-02-17 学習装置、学習方法、コンピュータプログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JPWO2020189132A1 JPWO2020189132A1 (ja) 2020-09-24
JP7363889B2 true JP7363889B2 (ja) 2023-10-18

Family

ID=72520167

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021506243A Active JP7363889B2 (ja) 2019-03-19 2020-02-17 学習装置、学習方法、コンピュータプログラム及び記録媒体

Country Status (3)

Country Link
US (1) US20220188570A1 (ja)
JP (1) JP7363889B2 (ja)
WO (1) WO2020189132A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022136708A (ja) * 2021-03-08 2022-09-21 富士通株式会社 情報処理方法、および情報処理プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MALHOTRA, Pankaj ほか,Long Short Term Memory Networks for Anomaly Detection in Time Series,Proceedings of the 23rd European Symposium on Artificial Neural Networks,European Symposium on Artificial Neural Networks,2015年,pp. 89-94,[retrieved on 2020.03.31], Retrieved from the Internet: <URL: https://www.elen.ucl.ac.be/Proceedings/esann/esannpdf/es2015-56.pdf>
塚田 峰登 ほか,FPGAを用いたオンライン逐次学習による教師無し異常検知のための高効率化と安定化手法,電子情報通信学会技術研究報告,日本,一般社団法人電子情報通信学会,2018年07月23日,Vol. 118, No. 165,pp. 217-222(CPSY2018-30),ISSN 2432-6380

Also Published As

Publication number Publication date
JPWO2020189132A1 (ja) 2020-09-24
US20220188570A1 (en) 2022-06-16
WO2020189132A1 (ja) 2020-09-24

Similar Documents

Publication Publication Date Title
JP6562883B2 (ja) 特性値推定装置および特性値推定方法
US11551111B2 (en) Detection and use of anomalies in an industrial environment
JP6237774B2 (ja) 情報処理システム、情報処理方法及びプログラム
WO2019160003A1 (ja) モデル学習装置、モデル学習方法、プログラム
CN109416408A (zh) 震中距估计装置、震中距估计方法以及计算机可读记录介质
Wootton et al. Structural health monitoring of a footbridge using Echo State Networks and NARMAX
TWI557674B (zh) 品質管理裝置及其管理方法
JP7363889B2 (ja) 学習装置、学習方法、コンピュータプログラム及び記録媒体
WO2016084326A1 (ja) 情報処理システム、情報処理方法、及び、記録媒体
JP2020071845A (ja) 異常検知装置、異常検知方法および異常検知プログラム
JP2019105871A (ja) 異常候補抽出プログラム、異常候補抽出方法および異常候補抽出装置
de Moraes et al. Data-driven failure prediction in brittle materials: A phase field-based machine learning framework
JP2020052460A (ja) 異常検出システム、及び異常検出プログラム
WO2019220609A1 (ja) 異常検出装置、異常検出方法及びプログラム
JP7212292B2 (ja) 学習装置、学習方法および学習プログラム
JP7152938B2 (ja) 機械学習モデル構築装置および機械学習モデル構築方法
KR102124425B1 (ko) 시계열 데이터 예측 모델 평가 방법 및 장치
KR102546340B1 (ko) 노이즈 필터를 이용한 이상치 탐지 방법 및 장치
JP7433648B2 (ja) 異常検出方法
US10692256B2 (en) Visualization method, visualization device, and recording medium
JP2021174125A (ja) 情報処理装置および情報処理方法
EP2734997A2 (en) A method and system for detecting boundary of coarticulated units from isolated speech
JP7040065B2 (ja) 検出プログラム、検出方法および検出装置
Mahzoon et al. Social skill acquisition model through face-to-face interaction: local contingency for open-ended development
JP4894618B2 (ja) 設計分析装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210818

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221202

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230628

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230918

R151 Written notification of patent or utility model registration

Ref document number: 7363889

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151