JPWO2017094267A1 - 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法 - Google Patents

異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法 Download PDF

Info

Publication number
JPWO2017094267A1
JPWO2017094267A1 JP2017553636A JP2017553636A JPWO2017094267A1 JP WO2017094267 A1 JPWO2017094267 A1 JP WO2017094267A1 JP 2017553636 A JP2017553636 A JP 2017553636A JP 2017553636 A JP2017553636 A JP 2017553636A JP WO2017094267 A1 JPWO2017094267 A1 JP WO2017094267A1
Authority
JP
Japan
Prior art keywords
data
latent variable
model
abnormality detection
input data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017553636A
Other languages
English (en)
Other versions
JP6740247B2 (ja
Inventor
大輔 岡野原
大輔 岡野原
健太 大野
健太 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Preferred Networks Inc
Original Assignee
Preferred Networks Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Preferred Networks Inc filed Critical Preferred Networks Inc
Publication of JPWO2017094267A1 publication Critical patent/JPWO2017094267A1/ja
Application granted granted Critical
Publication of JP6740247B2 publication Critical patent/JP6740247B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/90—Identifying an image sensor based on its output data

Abstract

【課題】新しい機械や未知の故障の場合でも、高度な専門知識または豊富な経験を必要とせずに、効率的にセンサの選択を行う方法またはシステムが求められる。【解決手段】異常検出システム１は、潜在変数モデルと同時確率モデルとを格納する格納部１０と、センサが出力するセンサデータを取得する取得部１１と、格納部１０によって格納された潜在変数モデルと同時確率モデルとに基づいて、取得部１１によって取得されたセンサデータの尤度を測定する測定部１２と、測定部１２によって測定されたセンサデータの尤度に基づいて、当該センサデータが正常であるか又は異常であるかを判定する判定部１３と、センサが出力するセンサデータに基づいて潜在変数モデルと同時確率モデルとを学習する学習部１４と、を備える。

Description

本発明は、異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法に関する。
従来、機械の故障判定及び故障原因の特定は、機械の正常稼働時のセンサデータと過去の故障時のセンサデータを比較することによって行われていた（例えば、下記特許文献１の図１３の故障判定の処理ルーチンを示したフローチャートを参照）。この判定のとき、センサデータを正確且つ効率的に比較するためには、当該センサデータの発信源であるセンサを正確且つ効率的に選択することによって、高精度且つ効率的に故障原因の分類を行うことができる。
しかし、選択するセンサの数が多い場合、適当なセンサを選択するために、膨大な工数が必要となる。また、適当なセンサを選択するためには、機械に取り付けられているセンサ１つ１つの知識や対象機械の機械的な特性に対する知識が必要であった。
特開２０１２−０９８９０１号公報
今日の高度な制御を伴う機械などは、複数のセンサによって制御管理されている。例えば、自動車には、１台当たり１００種類以上のセンサが取り付けられている。また、新しい機械や未知の故障の場合、たとえ高度な専門知識と豊富な経験を有する特定の者であっても、対応することができなかった。そのため、高度な専門知識または豊富な経験を必要とせずに、効率的にセンサの選択を行う方法またはシステムが求められる。
更に、効率的にセンサの選択を行えたとしても、対処が必要な事象におけるノイズ、エラー、故障を含め、センサのデータの定義は複雑である。その上、適用するアプリケーションによっても、対処が必要な事象の定義が異なるため、センサのデータを検出する汎用的な手段が求められる。
また、センサデータを検出する手段は、センサデータやアプリケーション毎に異常値スコア関数の設計が必要である。したがって、センサデータやアプリケーションの数が増える度に異常値スコア関数を設計する必要があり、特徴設計中で異常検知に重要な情報を見逃す恐れもあった。
また、データやアプリケーションセンサデータ周波数領域において、事象がそもそも稀な事象であり複合的な要因が重なる場合、モデル、ルール、又は、閾値設計が非常に困難であったので、より汎化性、適応性の高いシステムが求められる。
本発明では、前述の従来技術における課題を解決するため、例えば、電力、水道、ガス、交通、通信、医療、金融、サービスなどの社会インフラを支える情報システムから出力される様々なセンサデータやアプリケーションデータを学習し、起こり得る事象の正常異常を判定（予測を含む）する異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法を提供する。
本発明の異常検出システムは、予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段と、異常検出対象の入力データを取得する取得手段と、前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論するエンコーダと、前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成するデコーダと、前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定手段と、を備えることを特徴とする。
また、本発明の異常検出システムは、前記判定手段は、前記エンコーダ及びデコーダでの処理過程で得られるパラメータによって演算した尤度に基づいて、入力データと復元データのずれ量を判定するようにしたことを特徴とする。
また、本発明の異常検出システムは、前記判定手段は、入力データと復元データの各次元ごとの成分のずれを演算して求め、何れかの次元において大きな乖離がある場合に異常であると判定するようにしたことを特徴とする。
また、本発明の異常検出システムは、正常データからなる訓練データに基づいて潜在変数モデルと同時確率モデルとを学習する学習手段をさらに備えることを特徴とする。
また、本発明の異常検出システムは、前記測定手段は、ＶＡＥ、ＡＡＥ、ＬＶＡＥ、ＡＤＧＭの何れかによって前記エンコーダ及びデコーダを構築したことを特徴とする。
ところで、本発明は、上記のように異常検出システムの発明として記述できる他に、以下のようにそれぞれ異常検出方法及び異常検出プログラムの発明としても記述することができる。これはカテゴリが異なるだけで、実質的に同一の発明であり、同様の作用及び効果を奏する。また、本発明は、上記の異常検出システム、異常検出方法及び異常検出プログラムにおいて用いる学習済モデル生成方法の発明としても記述することができる。
本発明に係る異常検出方法は、予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段を備える異常検出システムにより実行される異常検出方法であって、異常検出対象の入力データを取得する取得ステップと、前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論する推論ステップと、前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成する生成ステップと、前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定ステップと、を含むことを特徴とする。
本発明に係る異常検出プログラムは、コンピュータを、予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段と、異常検出対象の入力データを取得する取得手段と、前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論するエンコーダと、前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成するデコーダと、前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定手段、として機能させることを特徴とする。
本発明に係る学習済モデル生成方法は、入力データについて異常検出を行うための潜在変数モデルと同時確率モデルとからなる学習済モデル生成方法であって、正常なデータからなる少なくとも１以上の訓練データを取得する訓練データ取得ステップと、前記潜在変数モデルに基づいて、前記訓練データから潜在変数を推論する推論ステップと、前記同時確率モデルに基づいて、前記潜在変数から復元データを生成する生成ステップと、前記訓練データと復元データのずれを演算するずれ演算ステップと、前記ずれに基づいて前記潜在変数モデルと同時確率モデルのパラメータを更新するパラメータ更新ステップと、を含むことを特徴とする。
本発明によれば、従来よりも簡単に故障原因を分類するために有効と考えられるセンサを選択することができる。例えば、機械知識を必要としなくとも故障原因を分類するために有効と考えられるセンサの選択が可能となる。
本発明によれば、機器の状態を適切に異常判定へ反映させて、異常判定の誤報を減らすことができる。また、機器稼働データの変動要因に応じて従来よりも早期の異常判定が可能になる。それによって、保守員や運転員に対して適切な対応行動を提示することができる。
本発明によれば、正常と診断されるセンサデータを用いて、学習データを更新することにより、外れ値の影響を抑制できる。また、経年劣化に追従することができる。
本発明の実施形態に係る異常検出システムの機能ブロック図である。 本発明の実施形態に係る異常検出システムのハードウェア構成を示す図である。 本発明の実施形態に係る異常検出システムで実行される処理（異常検出方法）を示すフローチャートである。 本発明の実施形態に係る異常検出システムの実施例で実行される処理（異常検出方法）を示すフローチャートである。 ＶＡＥを利用した本発明の実施形態に係る異常検出システムを示す図（その１）である。 ＶＡＥを利用した本発明の実施形態に係る異常検出システムを示す図（その２）である。 ＶＡＥを利用した本発明の実施形態に係る異常検出システムで実行される処理（異常検出方法）を示すフローチャートである。 ＡＡＥを利用した本発明の実施例２に係る異常検出システムを表した概念図である。 ＬＶＡＥを利用した本発明の実施例３に係る異常検出システムを表した概念図である。 ＡＤＧＭを利用した本発明の実施例４に係る異常検出システムを表した概念図である。
以下、図面とともに異常検出システム、異常検出方法及び異常検出プログラムの好適な実施形態について詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。
図１は、本発明の実施形態に係る異常検出システム１の機能ブロック図である。図１に示す通り、異常検出システム１は、格納部１０（格納手段）、取得部１１（取得手段）、測定部１２（測定手段）、判定部１３（判定手段）及び学習部１４（学習手段）を含んで構成される。
格納部１０は、潜在変数モデルと同時確率モデルとを格納する。格納部１０は例えばデータベースである。取得部１１は、センサが出力するセンサデータを取得する。測定部１２は、格納部１０によって格納された潜在変数モデルと同時確率モデルとに基づいて、取得部１１によって取得されたセンサデータの尤度を測定する。判定部１３は、測定部１２によって測定されたセンサデータの尤度に基づいて、当該センサデータが正常であるか又は異常であるかを判定する。学習部１４は、センサが出力するセンサデータに基づいて潜在変数モデルと同時確率モデルとを学習する。
測定部１２は、取得部１１によって取得されたセンサデータについて、格納部１０によって格納された潜在変数モデルに基づいて当該センサデータの次元よりも低い次元に変換し、格納部１０によって格納された同時確率モデルに基づいて元の次元に変換することで尤度を測定してもよい。また、測定部１２は、変分自己符号化器を利用して尤度を測定してもよい。学習部１４は、センサが出力する正常時のセンサデータのみに基づいて潜在変数モデルと同時確率モデルとを学習してもよい。
異常検出システム１は、ＣＰＵ等のハードウェアから構成されているものである。図２は、異常検出システム１のハードウェア構成の一例を示す図である。図１に示される異常検出システム１は、物理的には、図２に示すように、ＣＰＵ１００、主記憶装置であるＲＡＭ１０１及びＲＯＭ１０２、ディスプレイ等の入出力装置１０３、通信モジュール１０４、及び補助記憶装置１０５などを含むコンピュータシステムとして構成されている。
図１に示す異常検出システム１の各機能ブロックの機能は、図２に示すＣＰＵ１００、ＲＡＭ１０１等のハードウェア上に所定のコンピュータソフトウェアを読み込ませることにより、ＣＰＵ１００の制御のもとで入出力装置１０３、通信モジュール１０４、及び補助記憶装置１０５を動作させるとともに、ＲＡＭ１０１におけるデータの読み出し及び書き込みを行うことで実現される。
［異常検出システム１が含む工程］
異常検出システム１は、３つの工程を含む（図３）。
工程１；潜在変数モデルと同時確率モデルを同時に学習する工程（学習部１４により実現される）。
工程２；前記学習された潜在変数モデルと同時確率モデルを利用して、テスト用データ尤度ｐ（ｘ）を測定する工程（取得部１１及び測定部１２により実現される）。
工程３；前記尤度ｐ（ｘ）に関する情報を用いて正常か異常かを判定する工程（判定部１３により実現される）。
［１．工程１について］
工程１は、潜在変数モデルと同時確率モデルを同時に学習する工程である。
かかる工程１では、観測変数ｘから潜在変数ｚへ条件付き確率ｐ（ｚ｜ｘ）、及び、潜在変数から観測変数へ条件付き確率ｐ（ｘ｜ｚ）を学習する。
前記条件付き確率ｐ（ｚ｜ｘ）及び条件付き確率ｐ（ｘ｜ｚ）の学習をするとき、ニューラルネットを利用してもよい。ニューラルネットを利用することによって、観測したデータ数によらず、パラメータ数に対して線形で学習することができる。
潜在変数モデルとは、前記条件付き確率ｐ（ｚ｜ｘ）を、例えばニューラルネットを用いて、モデル化したものである。潜在変数モデルは格納部１０によって格納される。
同時確率は、ｐ（ｘ，ｚ）で、又は、ｐ（ｚ）・ｐ（ｘ｜ｚ）で表される。そして同時確率モデルは、例えばニューラルネットを用いて、同時確率を独立にモデル化したものである。同時確率モデルは格納部１０によって格納される。
ニューラルネットは、その構成を特に限定しない。例えば、全結合層、非線形関数（ｓｉｇｍｏｉｄ，ｒｅｌｕ）、バッチ正規化層、ドロップアウト層を含んでもよい。
入力データ（センサが出力するセンサデータ）は取得部１１によってセンサなどから取得される。入力データは、特に限定しない。入力データは、例えば、多次元配列、テンソルなどである。取得部で取得する入力データは、センサからのセンサデータに限られず、異常検出の対象となるデータであれば様々なデータが対象となり得る。
入力データｘがｎ次元ベクトルのとき、各値は、例えば、連続値、離散値などである。また、複数の入力データがあるときは、多次元配列又はテンソルに拡張することができる。
センサの具体例としては、ロボットに搭載されているカメラ、３次元加速度センサ、アクチュエータ、温度センサ、湿度センサなどが挙げられる。センサデータの具体例としては、カメラからの画像データ、３次元加速度センサからの位置・速度・加速度情報、アクチュエータにかかる電流・電圧量、もしくはそれらを適当な時間的にウィンドウ幅で区切ったもの、もしくはその一つ一つを周波数分解したものなどが挙げられる。
工程１から工程３において、ＳＶＭ，又はＬＯＦを利用して正常か異常かを判定してもよいし、変分自己符号化器（Ｖａｒｉａｔｉｏｎａｌ ＡｕｔｏＥｎｃｏｄｅｒ；以後、ＶＡＥと言う）を利用して正常か異常かを判定してもよい。特に、ＶＡＥを利用することがより好ましい（図５〜７）。
このとき、工程１においてＶＡＥを利用して、潜在変数モデル、すなわち観測変数ｘから潜在変数ｚへの条件付確率ｐ（ｚ｜ｘ）を学習するとき、その学習器をエンコーダと呼ぶ。一方、潜在変数ｚから観測変数ｘへの条件付確率ｐ（ｘ｜ｚ）を学習するとき、その学習器をデコーダと呼ぶ。
エンコーダの入力は、センサデータであり、機器のテストを行うことで得られたものである（適当な時間間隔でのサンプリングが一定時間与えられている）。なお、テストは、連続的もしくは周期的に複数回行われる。デコーダの出力は、センサデータの各次元の異常度、尤度で表されている。
ＶＡＥは、ＳＶＭ又はＬＯＦよりも、確率値を容易に出すことができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、異なる物理量をもつセンサの場合でも、異常スコアを比較することがより容易になる。
また、ＶＡＥは、ＳＶＭ又はＬＯＦよりも、データ表現の非線形な変換を容易に行うことができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、より複雑なデータ表現の分布を作成することができる。
また、ＶＡＥは、ＳＶＭ又はＬＯＦよりも、入力データの各次元について異常スコアを出すことができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、異常事象の原因となる入力データソースの特定が容易である。
また、ＶＡＥは、ＳＶＭ又はＬＯＦよりも、類似度をより高速に学習することができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、マニュアルでデータ間の類似度を設計する必要がなくなる。
例えば、ＶＡＥを利用するときは、下記の通りである。
ｐ（ｚ）〜Ｎ（０，Ｉ）
ｐ（ｘ｜ｚ）〜Ｎ（μ（ｚ），σ（ｚ））
Ｎ（μ，σ）は、平均μ，分散σからなる正規分布である。
μ（ｚ），σ（ｚ）は、ニューラルネットからの出力である。
異常検出システム１では、エンコーダ及びデコーダでの条件付き確率ｐ（ｚ｜ｘ）及びｐ（ｘ｜ｚ）の学習の際に、損失関数を最小化する。ここでいう、損失関数は、例えば、負の対数尤度−ｌｏｇｐ（ｘ）などを利用することができる。
−ｌｏｇｐ（ｘ）＝−ｌｏｇΠｐ（ｘ＿ｉ）＝−Σｌｏｇ∫ｐ（ｘ＿ｉ｜ｚ）ｐ（ｚ）ｄｚ
ｚによる積分をするとき、変分下限は下記の数式で算出される。変分下限は、正の対数尤度ｌｏｇｐ（ｘ）＝ｌｏｇΠｐ（ｘ＿ｉ）を下限値から評価する。
−ｌｏｇΠｐ（ｘ＿ｉ）＝−Σ＿ｉｌｏｇ∫ｐ（ｘ＿ｉ｜ｚ；θ）ｐ（ｚ）ｄｚ
＜＝−Σ＿ｉｑ（ｚ｜ｘ；ξ）∫ｌｏｇｐ（ｘ＿ｉ｜ｚ；θ）ｐ（ｚ）／ｑ（ｚ｜ｘ＿ｉ；ξ）ｄｚ
＝Σ＿ｉＥ＿｛ｑ（ｚ｜ｘ＿ｉ；ξ）｝［ｐ（ｘ＿ｉ｜ｚ；θ）］−ＫＬ（ｐ（ｚ）｜｜ｑ（ｚ｜ｘ＿ｉ；ξ））
ここで、Ｅ＿｛ｑ（ｚ｜ｘ＿ｉ；ξ）｝［・］は、ｑ（ｚ｜ｘ＿ｉ；ξ）についての期待値である。ＫＬ（ｐ｜｜ｑ）は、分布ｐ，ｑのＫＬ距離である。
上記の変分下限を最大化するために、θ，ξを最適化する。このとき、逆誤差伝搬法によって、学習速度を高速化することができる。例えば、Ｒｅｐａｒａｍｅｔｅｒｉｚａｔｉｏｎ Ｔｒｉｃｋを使うことができる。
［２．工程２について］
工程２は、前記学習された潜在変数モデルと同時確率モデルを利用して、テスト用データ尤度ｐ（ｘ）を測定する工程である。
［３．工程３について］
工程３は、前記尤度ｐ（ｘ）に関する情報を用いて正常か異常かを判定する工程である。
かかる工程３では、前記テスト用データ尤度ｐ（ｘ）が閾値より小さいか否か、前記テスト用データ尤度ｐ（ｘ）のｎ次微分が閾値より小さいか否か、又は、それらの組み合わせ、の情報を用いて正常か異常かを判定する。
例えば、あるセンサデータが示す値について正常か異常かを判定するとき、ｘ→ｚ→ｘ’と変換した際、ｘ’とｘの差を測ることで正常か異常を判定することができる。
センサは、その対象、その個数を特に限定しない。例えば、時間毎、周波数毎の強さでもよいまた、センサは、異なる機器に対するものでも良い。
［実施例１］
前述の通り、異常検出システム１は、繰り返し動作において外乱確率分布が正常時と異常時で変わるとき、正常時データで確率モデルＰを学習して、Ｐによる観測データｘ、尤度ｐ（ｘ）変化を異常予測する。
以下、本発明の実施形態の一例として、５つの手順を実行するシステムを示す。以下、異常検出システム１の手順１から手順５について説明する（図４）。
［手順１について］
手順１（取得部１１により実現）では、入力データに対しての前処理を行う。たとえばスペクトラム変換をしてもよい。
［手順２について］
手順２（学習部１４により実現）では、正常状態にあるデータ群を訓練データとして入力し、入力データを復元するように確率モデルＰを学習する。例えば、スペクトラムを並べたベクトルを入力ｘとすることができる。
次元数が数千次元のとき、高次元なベクトルの確率モデル推定は困難であった。そこで、異常検出システム１では、確率モデルの推定に、ディープラーニングを利用する。例えば、次の潜在変数モデルになる。なお、下記の数式の「：＝」は、「定義する」なる意味を示す。
ｐ（ｘ；θ）：＝∫ｐ（ｘ，ｚ；θ）ｄｚ ｐ（ｘ，ｚ；θ）：＝ｐ（ｘ｜ｚ；θ）ｐ（ｚ）
ｚをＮ（０，Ｉ）から生成し、次にｚからｘをＮ（μ（ｚ；θ），σ（ｚ；θ））から生成する。但しμ（ｚ；θ），σ（ｚ；θ）パラメータθにより特徴付けられたニューラルネットを利用する。そして、訓練データＸの対数尤度Σｌｏｇｐ（ｘ；θ）を最大にするようにθを最適化する。
当該θの最適化は、対数尤度の和の計算があるため困難であった。
ｐ（ｘ；θ）：＝∫ｐ（ｘ｜ｚ；θ）ｐ（ｚ）ｄｚ
そこで、異常検出システム１では、次の変分下限を利用する。
ｌｏｇｐ（ｘ；θ）：＝ｌｏｇ∫ｐ（ｘ，ｚ；θ）ｄｚ
＝ｌｏｇ∫ｐ（ｘ，ｚ；θ）ｑ（ｚ｜ｘ；φ）／ｑ（ｚ｜ｘ；φ）ｄｚ
＞＝∫ｑ（ｚ｜ｘ；φ）ｌｏｇｐ（ｘ，ｚ；θ）／ｑ（ｚ｜ｘ；φ）ｄｚ
＝Ｅｑ（ｚ｜ｘ；φ）［ｌｏｇｐ（ｘ，ｚ；θ）／ｑ（ｚ｜ｘ；φ）］
＝Ｌ（θ，φ）
ここでいうφは、同時確率モデルを生成するニューラルネットを特徴づけるパラメータを意味する。また、ｑ（ｚ，ｘ）は、そのニューラルネットによって定義される確率分布を意味する。そして、ｑ（ｚ｜ｘ）は、その確率分布ｑ（ｚ，ｘ）で計算したｚで条件付けられたｘの条件付き確率を意味する。
このとき、Ｌ（θ，φ）を最大化するために、変分自己符号化器（Ｖａｒｉａｔｉｏｎａｌ ＡｕｔｏＥｎｃｏｄｅｒ；以後、ＶＡＥと言う）を利用することによって、θ及びφを同時に最適化する。
Ｌ（θ，φ）＝Ｅｑ（ｚ｜ｘ；φ）［ｌｏｇｐ（ｘ，ｚ；θ）／ｑ（ｚ｜ｘ；φ）］
具体的には、確率的勾配降下法を利用することによって、Ｌ（θ，φ）最大化パラメータθ及びφについて勾配ｄＬ／ｄθ及びｄＬ／ｄφを求め、θ及びφを同時に最適化する。
勾配ｄＬ／ｄφをモンテカルロ法で推定する場合、分散が大きくなり得る。そこで、変数変換トリック（ｒｅｐａｒａｍｅｔｅｒｉｚａｔｉｏｎ ｔｒｉｃｋとも言う）を利用することによって、勾配ｄＬ／ｄφをより速く推定することができる。
エンコーダでのｑ（ｚ｜ｘ；φ）、およびデコーダでのｐ（ｘ｜ｚ；θ）の学習には、ニューラルネットワークを利用する。
［手順３について］
手順３（測定部１２により実現）では、学習済みのエンコーダおよびデコーダを用意し、異常検知を行う判定データに対して、それを入力として、Ｐによる尤度ｐ（ｘ）を計算する。尤度ｐ（ｘ）というのは、判定データ入力に対して学習済みエンコーダおよびデコーダの出力結果との各次元の異常度に相関のあるものである。
［手順４について］
手順４（測定部１２又は判定部１３により実現）では、尤度ｐ（ｘ）をスコアＳ（ｘ）に変換して平滑化する。たとえば変換処理は、対数などがある。
スコアＳ（ｘ）値がバンピーな場合は、平滑化を行ったものを出力としてもよい。例えば、Ｌｏｃａｌｌｙ Ｗｅｉｇｈｔｅｄ Ｓｃａｔｔｅｒｐｌｏｔ Ｓｍｏｏｔｈｉｎｇを利用することができる。
但し、上記の平滑化方法によって変化の立ち上がりが遅くなるときは、変化の立ち上がりがより早い平滑化方法を採用することができる。
［手順５について］
手順５（判定部１３により実現）では、Ｓ（ｘ）が閾値を超えたとき、異常と判定する。
［作用］
異常検出システム１は、潜在変数モデルと同時確率モデルの学習を同時に行う。故に、異常検出システム１は、特徴設計を必要としない。尚、前記潜在変数モデルと同時確率モデルのモデル化にニューラルネットを利用してもよい。
異常検出システム１は、前記潜在変数モデルと同時確率モデルの学習を同時に行う工程における入力データが多次元配列又はテンソルであることを特徴とする。故に、異常検出システム１は、データやアプリケーションに対する事前知識が不要である。
異常検出システム１は、ｎ個のセンサからなり、ｎ個の同時確率モデルを学習する。故に、異常検出システム１によれば、センサの数が増えた場合でも、同時確率モデルを学習することによって対応することができる。具体的には、ｎ個のセンサ間の相関を考慮し異常を検出することができる。
異常検出システム１は、条件付き確率ｐ（ｚ｜ｘ）及び条件付き確率ｐ（ｘ｜ｚ）の学習をするとき、ニューラルネットを利用する。故に、異常検出システム１によれば、観測したセンサデータの数によらず、パラメータ数に対して線形で学習することができる。
また、異常検出システム１によれば、例えば多数の機械に備わる多数センサから発信されるセンサデータ、例えば画像データを含む高次元のセンサデータ、又は、それらの組み合わせを含むセンサデータを統合的に扱うことができる。よって、より高い効率且つ高い処理速度で異常検出することができる。
異常検出システム１は、潜在変数モデルを学習するとき、ＳＶＭ、ＬＯＦ、又は、ＶＡＥを利用する。故に、異常検出システム１は、入力データ表現を非線形に変換することができる。特に、ＶＡＥを利用するとき、入力データのパラメータ数に限らず非線形な変換をすることができる。
異常検出システム１は、ＶＡＥを利用するとき、センサデータから類似度を学習することができる。故に、異常検出システム１は、センサデータ間の類似度の設計をマニュアルで設計する必要がない。
異常検出システム１は、ＶＡＥを利用するとき、センサデータの次元を落とすことによって、センサデータの基礎となる特徴を獲得することができる。故に、異常検出システム１は、より広い範囲のデータ表現の変換をすることができる。
異常検出システム１は、ＶＡＥを利用するとき、データのパラメータ数に限らず、線形の計算時間でデータ表現の変換をすることができる。よって、異常検出システム１は、データ表現の変換を高効率に行うことができる。
異常検出システム１では、複数の異なる場所にある機器は、通信手段を用いて通信することで構成されてもよい。センサデータを通信手段によって他の演算装置に送り、その演算装置で学習及び異常検知の判定を行うことができる。
例えば、異常検出システム１による判定結果を分析して判断されるアクションに対応する通知や所定の制御を行わせる出力処理をすることができる。
また、異常検出システム１は、各工程の場所を限定しない。例えば、センサ設置と学習工程の実施を異なる場所で行うことができる。また、異常検出、又は、異常判定の場所を限定しない。同じ場所でも異なる場所でも行うことができる。
［実施例２］
前記実施例１における異常検出システム１は、機械学習のモデルとしてＶＡＥを利用した場合を主として説明を行ったが、この実施例２においては、機械学習のモデルとして、ＡＡＥ（Adversarial AutoEncoder：敵対的自己符号化器）を利用する場合について説明を行う。
図８は、ＡＡＥを利用した本発明の実施例２に係る異常検出システムを表した概念図である。異常検出システムにＡＡＥを利用する場合、この図８に示すように、エンコーダ（Encoder）及びデコーダ（Decoder）の学習に加えて、識別器（Discriminator）の学習も行うことが特徴である。
ＡＡＥの学習処理の流れについて説明する。ＡＡＥの学習は、エンコーダ（Encoder）及びデコーダ（Decoder）の学習を行う復元段階（Reconstruction phase）と、識別器（Discriminator）の学習を行う正則化段階（Regularization phase）との２段階で行われる。復元段階の学習は、先ず、正常データである訓練データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ〜を生成する。入力データの表現ｚを推論するのが潜在変数モデルであり、表現ｚから復元データｘ〜を生成するのが同時確率モデルである。次に、訓練データｘと復元データｘ〜を比較して再構成誤差（Reconstruction error）を計算する。そして、再構成誤差を参照して復元損失（Reconstruction loss）を減らすようにエンコーダ及びデコーダのパラメータを、例えば、確率的勾配降下法によって更新する。
正則化段階の学習は、識別器の学習を行うが、その際に、識別器に入力する入力データの表現ｚ０の推論を行うエンコーダについても合わせて学習を行うようになっている。先ず、正常データである訓練データｘをエンコーダに入力して潜在変数モデルに基づいて入力データの表現ｚ０を推論し、他方で、サンプル生成器（Sampler）からサンプリングして偽の表現ｚ１を生成する。好適な学習のためにｚ０及びｚ１はそれぞれ複数用意することが望ましい。ｚ０とｚ１に基づいて、識別器に入力する訓練データ（ｚ０，０）、（ｚ１，１）を作成する。ここで、０又は１はそれぞれ訓練データが正常データに基づく表現ｚ０であるか偽の表現ｚ１なのかを表す正解ラベルである。識別器において、訓練データ（ｚ０，０）、（ｚ１，１）を用いて、正常データに基づく表現ｚ０と偽の表現ｚ１を識別するように学習を行う。具体的には、識別器は、サンプル生成器（Sampler）からサンプリングされた偽の訓練データ（ｚ１，１）から正常データに基づく訓練データ（ｚ０，０）を区別するために、先ず、識別器のパラメータを更新する。次いで、識別器は、識別器における識別のためのネットワークを混乱させるように、エンコーダのパラメータを更新する。学習された識別器は、入力が本物のデータである確率（入力が事前分布のサンプルである確率）を出力する。このように、識別器において正常データと偽データを区別する処理において正則化誤差（Regularization error）を得て、この正則化誤差を用いて識別器のみならず、エンコーダのパラメータも更新して学習するようにすることで、エンコーダにおける推論の精度を高めるとともに識別器の識別精度を高める。
ＡＡＥを用いた異常検出処理の流れについて説明する。十分に学習を行った学習済モデルを用意する。異常検出対象のデータを学習済モデルのエンコーダに入力して、異常検出対象のデータの表現の推論を行い、デコーダにおいて表現から復元データの生成を行う。得られた復元データと入力した異常検出対象のデータを比較して、両者のずれから異常を検出する。また、異常検出対象のデータの表現を識別器に入力することで、正常データに基づく表現か偽の表現かを識別させることもできる。
以上のように、ＡＡＥを用いた異常検出システムによれば、潜在変数モデル及び同時確率モデルを予め正常なデータに基づいて学習し、同時に、識別器についても学習を行い、識別器の出力を用いて識別器のみならず、エンコーダ及びデコーダもまとめて学習するようにしたので、高精度の異常検出が可能となる。また、ＡＡＥでは、サンプリングができれば複雑な分布を利用できるため、デコーダの表現力が高まり、生成の精度が高くなることが期待される。
［実施例３］
この実施例３においては、機械学習のモデルとして、ＬＶＡＥ（Ladder Variational AutoEncoder：はしご型変分自己符号化器）を利用する場合について説明を行う。
図９は、ＬＶＡＥを利用した本発明の実施例３に係る異常検出システムを表した概念図である。異常検出システムにＬＶＡＥを利用する場合、この図９に示すように、エンコーダ（Encoder）とデコーダ（Decoder）の学習を行うが、このデコーダが表現ｚから復元データを生成する過程でエンコーダのパラメータを利用することが特徴である。
ＬＶＡＥの学習処理の流れについて説明する。ＬＶＡＥの学習は、正常データである訓練データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ〜を生成する点は、実施例１、２と同様である。詳しくは、図９の通り、入力データｘから各階層を経てｄ１→ｄ２→ｄ３という順に階層毎の結果を得て最終的に表現ｚ３を生成するのが潜在変数モデルであり、表現ｚ３から各階層を経てｚ３→ｚ２→ｚ１という順に階層毎の結果を得て最終的に復元データｘ〜を生成するのが同時確率モデルである。階層数は一例であり、これに限定されるものではない。
デコーダにおいてｚ３→ｚ２→ｚ１という順序を経て復元データｘ〜を生成する際に、エンコーダにおけるｄ３から得られる平均μ〜 ３と分散σ〜 ３をｚ３のサンプリングに利用する。なお、ｚ３のサンプリングの際にノイズε３を加えることで、確率関数的な部分があっても誤差逆伝播を可能としている。同様に、エンコーダにおけるｄ２から得られる平均μ〜 ２と分散σ〜 ２をｚ２のサンプリングに用いる平均μ２及び分散σ２を求めるために利用する。同様に、エンコーダにおけるｄ１から得られる平均μ〜 １と分散σ〜 １をｚ１のサンプリングに用いる平均μ１及び分散σ１を求めるために利用する。このように、デコーダの各層において、エンコーダの対応する層におけるパラメータを利用してデコーダの処理を行う。このようにしてデコーダにおいて生成した復元データｘ〜を訓練データｘと比較してその差分を計算し、差分がなくなるようにエンコーダ及びデコーダの各層のパラメータを更新する。以降も、訓練データｘと復元データｘ〜が一致するように学習を繰り返す。
ＬＶＡＥを用いた異常検出処理の流れについて説明する。十分に学習を行った学習済モデルを用意する。異常検出対象のデータを学習済モデルのエンコーダに入力して、異常検出対象のデータの表現の推論を行い、デコーダにおいて表現から復元データの生成を行う。得られた復元データと入力した異常検出対象のデータを比較して、両者のずれから異常を検出する。
以上のように、ＬＶＡＥを用いた異常検出システムによれば、デコーダの各層においてエンコーダの対応する層におけるパラメータを利用してデコーダの処理を行う構成となっているため、デコーダがモデリングする確率分布をエンコーダを通じてデータ依存的に修正することで、複数のサンプリングが入る複雑なモデルであっても適切に学習を行うことが可能となる。
［実施例４］
この実施例４においては、機械学習のモデルとして、ＡＤＧＭ（Auxiliary Deep Generative Model：補助深層生成モデル）を利用する場合について説明を行う。
図１０は、ＡＤＧＭを利用した本発明の実施例４に係る異常検出システムを表した概念図である。この図１０において、実線の矢印はサンプリング処理を表し、破線の矢印はデータのコピーを表し、一点鎖線の矢印は損失Ｌの計算を表している。異常検出システムにＡＤＧＭを利用する場合、この図１０に示すように、エンコーダ（Encoder）とデコーダ（Decoder）の学習を行うが、このＡＤＧＭは、実施例１のＶＡＥの概念に補助変数ａを加えて拡張したものである。ＡＤＧＭにおいて、入力データｘ、潜在変数ｚ、補助変数ａが与えられたとき、図１０の矢印の計算の流れが適当なニューラルネットワークで表現されているときには、確率分布ｑ（ｚ｜ａ，ｘ）、ｑ（ａ｜ｘ）、ｐ（ａ｜ｘ，ｚ）、ｐ（ｘ｜ｚ）を全て計算可能である。なお、ｐ（ｚ）は、所与の確率分布（例えば、標準正規分布）であるものとする。
ＡＤＧＭの学習処理の流れについて説明する。ＡＤＧＭの学習は、正常データである訓練データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ〜を生成する点は、実施例１乃至３と同様である。この実施例４では、さらに、訓練データｘと表現ｚを用いて補助変数ａを推論し、表現ｚと復元データｘ〜からも補助変数ａを推論する処理を行う。そして、損失（誤差関数）Ｌの値を以下の式で求める。
Ｌ＝ｌｏｇ［ｐ（ｘ〜｜ｚ）］＋ｌｏｇ［ｐ（ａ｜ｘ〜，ｚ）／ｑ（ａ｜ｘ）］＋ｌｏｇ［ｐ（ｚ）／ｑ（ｚ｜ａ，ｘ）］
この損失Ｌの値が十分に小さくなるように、学習を繰り返す。なお、損失Ｌの計算における対数尤度ｐ（ｘ）の計算は直接行うことが難しいので、変分下限を最大化することによって求める。
ＡＤＧＭを用いた異常検出処理の流れについて説明する。十分に学習を行った学習済モデルを用意する。異常検出対象のデータを学習済モデルのエンコーダに入力して、異常検出対象のデータの表現の推論を行い、デコーダにおいて表現から復元データの生成を行う。得られた復元データと入力した異常検出対象のデータを比較して、両者のずれから異常を検出する。
以上のように、ＡＤＧＭを用いた異常検出システムによれば、エンコーダ及びデコーダにおける処理に補助変数ａを導入して、補助変数ａを推論する処理も同時に行っていくようにしたので、デコーダが複雑な確率分布をモデリングできるようになり、生成の精度が高くなることが期待される。
［異常検出の方法について］
前記実施例１においては、異常検出の方法として、尤度に基づいてセンサデータが正常であるか又は異常であるかを判定するものとして説明しており、この判定の方法は、実施例２乃至４においても採用することが可能である。また、実施例１乃至４の何れにおいても、尤度の計算は行わずに、入力データｘと復元データｘ〜とのずれを計算してずれの量に応じて異常か正常かを検出するようにしてもよい。具体的には、入力データｘと復元データｘ〜の各次元ごとに成分のずれを、例えば（ｘｉ−ｘｉ 〜）２などの演算を行って求め、いずれかの次元において大きな乖離がある場合に異常であると判定するようにしてもよい。
［学習時及び異常検出時の工夫１］
前記実施例１乃至４において、潜在変数ｚ、表現ｚ、補助変数ａ等の推論などは、確率的な関数からサンプリングによってそれぞれ値を得ているが、それぞれ１回だけサンプリングを行って潜在変数ｚ、表現ｚ、補助変数ａ等を得て損失Ｌの計算を行うものとして説明を行っていた。しかし、これに限らず、複数回サンプリングを行って、得られた値毎に損失Ｌを計算してその平均をとるようにしてもよい。このように、複数回のサンプリングを行うようにすることで、サンプリングの片寄りを吸収できるため、学習の効率化や異常検出精度の向上が期待できる。
［学習時及び異常検出時の工夫２］
前記実施例１乃至４においては、学習過程及び異常検出過程の何れにおいても、入力データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ〜を生成し、入力データｘと復元データｘ〜とを比較して異常検出を行うようにしていた。しかし、この場合、得られた復元データｘ〜が、十分に正常データの値と近づいていない場合があった。そこで、１回の推論、生成のプロセスで得られた復元データｘ〜をさらにエンコーダに入力するようにしてもよい。例えば、入力データｘから復元データｘ０ 〜を生成し、復元データｘ０ 〜から復元データｘ１ 〜を生成し、復元データｘ１ 〜から復元データｘ２ 〜を生成するというように、得られた出力を再度エンコーダに入力するという処理を繰り返すことで、正常データの値に近い復元データを得ることが可能となる。この場合に、１回の推論、生成のプロセスごとに損失Ｌを計算して、損失Ｌの和をとるようにしてもよいし、複数回処理を繰り返して最終的に得られた復元データ（上記の例では、復元データｘ２ 〜）を入力データｘと比較して損失Ｌを計算するようにしてもよい。このように、複数回の推論、生成のプロセスを繰り返した後に損失Ｌを計算するようにすることで、学習の効率化や異常検出精度の向上が期待できる。
［他の実施形態］
異常検出システム１は、機械や電子機器の故障予兆システムに使用することができる。本実施形態に係る故障予知システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の予測だけでなく、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。
また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。
例えば、工場内にある複数の産業機械やロボットの故障予知システムに使用することができるまた、電力などインフラ設備の異常予知システムに使用することができる。また、航空機や自動車などの複数の部品の異常予知システムに使用することができる。
異常検出システム１は、消耗品や部品の交換時期の予知システムに使用することができる。本実施形態に係る予知システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の予測だけでなく、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。
また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。
例えば、航空機や自動車などのエンジンオイルなど含む消耗品の交換時期の予測及び通知に使用することができる。また、工作機械のドリル歯などの消耗品の交換時期の予測及び通知に使用することができる。
異常検出システム１は、汎用監視制御システムに使用することができる。本実施形態に係る監視制御システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。
また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。
例えば、ホームセキュリティ監視システムに使用することができる。また、ビルなどの建築物、公共施設、園芸などの監視システムに使用することができる。
異常検出システム１は、ネットワークのセキュリティ監視システムに使用することができる。本実施形態に係る監視システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。
また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。
異常検出システム１は、医療画像診断システムに使用することができる。本実施形態に係る画像診断システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。
また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。
例えば、ガンの早期発見や早期治療のためにＣＴやＮＭＲによる画像認識技術が利用されている。従来は、それらの画像を医師の高度な専門性と豊富な経験を有する医師の判断によって、それらの画像から異常や現象を見つけ出していた。しかし、本システムを使用することによって、より高精度且つ高速に異常な現象（正常な組織画像のパターンと異なる異常な組織画像）を検出することができる。
異常検出システム１は、再生医療における細胞製剤の品質管理に使用することができる。本実施形態に係る画像診断システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。
また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。
例えば、多能性幹細胞から各組織の幹細胞、前駆細胞、分化細胞に分化誘導する際、分化効率の不均一による最終産物である細胞製剤の不均一性が課題となっている。そこで、異常検出システム１を使用することによって、より高精度且つ高速に、正常な細胞画像のパターンと異なる異常な細胞画像が検出することができる。
以上の異常検出システム１の各実施例で説明した構成は、あくまで一例である異常検出システム１は、技術思想を逸脱しない範囲内で適宜変更が可能である。また、それぞれの実施例で説明した構成は、互いに矛盾しない限り、組み合わせて用いても良い。
以上、異常検出システム１は、１つ又は複数のコンピュータ装置で実現可能であり、各機能は、プログラムとして構成することができる。例えば、図２に示す補助記憶装置１０５に格納され、ＣＰＵ１００等の制御部が補助記憶装置１０５に格納された監視制御システムの機能毎のプログラムをＲＡＭ１０１に読み出し、ＲＡＭ１０１に読み出された該プログラムを制御部が実行し、１つ又は複数のコンピュータに本実施形態の各機能ブロックを動作させることができる。すなわち、本実施形態の監視制御スシステムの機能毎のプログラムがインストールされた１つ又は複数のコンピュータは、単独で又は連携して各機能を遂行するコンピュータ装置（システム）として動作することが可能である。
また、上記プログラムは、コンピュータ読取可能な記録媒体に記録された状態で、コンピュータに提供することも可能であるコンピュータ読取可能な記録媒体としては、ＣＤ−ＲＯＭ等の光ディスク、ＤＶＤ−ＲＯＭ等の相変化型光ディスク、ＭＯ（Ｍａｇｎｅｔ Ｏｐｔｉｃａｌ）やＭＤ（Ｍｉｎｉ Ｄｉｓｋ）などの光磁気ディスク、フロッピー（登録商標）ディスクやリムーバブルハードディスクなどの磁気ディスク、コンパクトフラッシュ（登録商標）、スマートメディア、ＳＤメモリカード、メモリスティック等のメモリカードが挙げられる。また、本発明の目的のために特別に設計されて構成された集積回路（ＩＣチップ等）等のハードウェア装置も記録媒体として含まれる。
なお、本発明の実施形態を説明したが、当該実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
１ 異常検出システム
１０ 格納部
１１ 取得部
１２ 測定部
１３ 判定部
１４ 学習部

Claims (8)

  1. 予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段と、
    異常検出対象の入力データを取得する取得手段と、
    前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論するエンコーダと、
    前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成するデコーダと、
    前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定手段と、
    を備える異常検出システム。
  2. 前記判定手段は、前記エンコーダ及びデコーダでの処理過程で得られるパラメータによって演算した尤度に基づいて、入力データと復元データのずれ量を判定するようにした、請求項１に記載の異常検出システム。
  3. 前記判定手段は、入力データと復元データの各次元ごとの成分のずれを演算して求め、何れかの次元において大きな乖離がある場合に異常であると判定するようにした、請求項１に記載の異常検出システム。
  4. 正常データからなる訓練データに基づいて潜在変数モデルと同時確率モデルとを学習する学習手段をさらに備える、請求項１〜３の何れかに記載の異常検出システム。
  5. 前記測定手段は、ＶＡＥ、ＡＡＥ、ＬＶＡＥ、ＡＤＧＭの何れかによって前記エンコーダ及びデコーダを構築した、請求項１〜４の何れかに記載の異常検出システム。
  6. 予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段を備える異常検出システムにより実行される異常検出方法であって、
    異常検出対象の入力データを取得する取得ステップと、
    前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論する推論ステップと、
    前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成する生成ステップと、
    前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定ステップと、
    を含む異常検出方法。
  7. コンピュータを、
    予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段と、
    異常検出対象の入力データを取得する取得手段と、
    前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論するエンコーダと、
    前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成するデコーダと、
    前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定手段、
    として機能させる異常検出プログラム。
  8. 入力データについて異常検出を行うための潜在変数モデルと同時確率モデルとからなる学習済モデルの生成方法であって、
    正常なデータからなる少なくとも１以上の訓練データを取得する訓練データ取得ステップと、
    前記潜在変数モデルに基づいて、前記訓練データから潜在変数を推論する推論ステップと、
    前記同時確率モデルに基づいて、前記潜在変数から復元データを生成する生成ステップと、
    前記訓練データと復元データのずれを演算するずれ演算ステップと、
    前記ずれに基づいて前記潜在変数モデルと同時確率モデルのパラメータを更新するパラメータ更新ステップと
    を含む学習済モデル生成方法。
JP2017553636A 2015-12-01 2016-12-01 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法 Active JP6740247B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015234923 2015-12-01
JP2015234923 2015-12-01
PCT/JP2016/005043 WO2017094267A1 (ja) 2015-12-01 2016-12-01 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020077546A Division JP7167084B2 (ja) 2015-12-01 2020-04-24 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

Publications (2)

Publication Number Publication Date
JPWO2017094267A1 true JPWO2017094267A1 (ja) 2018-10-11
JP6740247B2 JP6740247B2 (ja) 2020-08-12

Family

ID=58796725

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2017553636A Active JP6740247B2 (ja) 2015-12-01 2016-12-01 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
JP2020077546A Active JP7167084B2 (ja) 2015-12-01 2020-04-24 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
JP2022001272A Pending JP2022037241A (ja) 2015-12-01 2022-01-06 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2020077546A Active JP7167084B2 (ja) 2015-12-01 2020-04-24 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
JP2022001272A Pending JP2022037241A (ja) 2015-12-01 2022-01-06 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

Country Status (5)

Country Link
US (3) US10831577B2 (ja)
EP (1) EP3385889A4 (ja)
JP (3) JP6740247B2 (ja)
CN (1) CN108431834A (ja)
WO (1) WO2017094267A1 (ja)

Families Citing this family (105)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017094267A1 (ja) 2015-12-01 2017-06-08 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
GB201718756D0 (en) * 2017-11-13 2017-12-27 Cambridge Bio-Augmentation Systems Ltd Neural interface
US11291532B2 (en) * 2016-07-27 2022-04-05 James R. Glidewell Dental Ceramics, Inc. Dental CAD automation using deep learning
JP6840953B2 (ja) * 2016-08-09 2021-03-10 株式会社リコー 診断装置、学習装置および診断システム
EP3566182A1 (en) * 2017-02-06 2019-11-13 Deepmind Technologies Limited Memory augmented generative temporal models
EP3605405A4 (en) * 2017-03-21 2020-12-02 Preferred Networks, Inc. SERVER DEVICE, TRAINED MODEL DELIVERY PROGRAM, TRAINED MODEL DELIVERY PROCESS, AND DRIVEN MODEL DELIVERY SYSTEM
US11694072B2 (en) * 2017-05-19 2023-07-04 Nvidia Corporation Machine learning technique for automatic modeling of multiple-valued outputs
JP6767312B2 (ja) * 2017-06-12 2020-10-14 日本電信電話株式会社 検知システム、検知方法及び検知プログラム
CN110799995A (zh) * 2017-06-29 2020-02-14 首选网络株式会社 数据识别器训练方法、数据识别器训练装置、程序及训练方法
JP6853148B2 (ja) * 2017-09-07 2021-03-31 日本電信電話株式会社 検知装置、検知方法及び検知プログラム
EP3457333A1 (en) * 2017-09-14 2019-03-20 Siemens Aktiengesellschaft Method for generating at least one recommendation
CN109521725A (zh) * 2017-09-20 2019-03-26 西门子公司 检测异常数据的方法、装置和设备以及机器可读介质
JP7325557B2 (ja) * 2017-09-27 2023-08-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 異常診断方法および異常診断装置
JP6881207B2 (ja) * 2017-10-10 2021-06-02 日本電信電話株式会社 学習装置、プログラム
WO2019073923A1 (ja) * 2017-10-10 2019-04-18 国立大学法人岐阜大学 異常品判定方法
CN109685087B9 (zh) * 2017-10-18 2023-02-03 富士通株式会社 信息处理方法和装置以及信息检测方法
US11615343B2 (en) 2017-11-02 2023-03-28 Nippon Telegraph And Telephone Corporation Anomaly detection apparatus, anomaly detection method, and program
CN111937008A (zh) 2017-11-13 2020-11-13 生物医疗有限公司 神经接口
JP6835704B2 (ja) * 2017-12-04 2021-02-24 日本電信電話株式会社 検知システム、学習方法及び学習プログラム
JP6893483B2 (ja) * 2018-02-09 2021-06-23 株式会社デンソーアイティーラボラトリ 情報推定装置及び情報推定方法
KR101967339B1 (ko) * 2018-03-06 2019-04-09 단국대학교 산학협력단 심층학습 기반의 ａｄａｓ 센서 고장 진단 및 백업을 위한 장치 및 방법
JP7006396B2 (ja) * 2018-03-12 2022-01-24 株式会社リコー 保守システム、保守サーバ、保守方法
JP7106902B2 (ja) * 2018-03-13 2022-07-27 富士通株式会社 学習プログラム、学習方法および学習装置
WO2019203946A1 (en) * 2018-04-17 2019-10-24 Hrl Laboratories, Llc Programming model for a bayesian neuromorphic compiler
JP7002404B2 (ja) * 2018-05-15 2022-01-20 株式会社日立製作所 データから潜在因子を発見するニューラルネットワーク
JP6767434B2 (ja) * 2018-06-20 2020-10-14 日本電信電話株式会社 評価装置及び評価方法
JP7119631B2 (ja) * 2018-06-20 2022-08-17 日本電信電話株式会社 検知装置、検知方法および検知プログラム
JP7056406B2 (ja) * 2018-06-22 2022-04-19 日本電信電話株式会社 センサノード及びデータセンタとして機能する装置、センサネットワーク、通信方法及びプログラム
JP7007243B2 (ja) * 2018-07-04 2022-01-24 株式会社日立製作所 異常検知システム
US20210327456A1 (en) * 2018-08-10 2021-10-21 Nippon Telegraph And Telephone Corporation Anomaly detection apparatus, probability distribution learning apparatus, autoencoder learning apparatus, data transformation apparatus, and program
JP7106391B2 (ja) * 2018-08-22 2022-07-26 株式会社Ye Digital 画像判定方法、画像判定装置および画像判定プログラム
JP7056465B2 (ja) * 2018-08-23 2022-04-19 株式会社明電舎 異常予兆検出システム
DE102018120577A1 (de) * 2018-08-23 2020-02-27 Vorwerk & Co. Interholding Gmbh Sich selbsttätig innerhalb einer Umgebung fortbewegendes Bodenbearbeitungsgerät
EP3620983B1 (en) * 2018-09-05 2023-10-25 Sartorius Stedim Data Analytics AB Computer-implemented method, computer program product and system for data analysis
US11593660B2 (en) * 2018-09-18 2023-02-28 Insilico Medicine Ip Limited Subset conditioning using variational autoencoder with a learnable tensor train induced prior
CN109086876B (zh) * 2018-09-21 2022-07-22 广州发展集团股份有限公司 设备的运行状态检测方法、装置、计算机设备和存储介质
US10754310B2 (en) 2018-10-18 2020-08-25 International Business Machines Corporation Incorporating change diagnosis using probabilistic tensor regression model for improving processing of materials
CN111124793A (zh) * 2018-11-01 2020-05-08 中国移动通信集团浙江有限公司 磁盘阵列控制器性能异常检测方法及系统
JP6867358B2 (ja) * 2018-11-13 2021-04-28 ファナック株式会社 状態判定装置及び状態判定方法
SG11202105647UA (en) * 2018-11-29 2021-06-29 January Inc Systems, methods, and devices for biophysical modeling and response prediction
US11664108B2 (en) 2018-11-29 2023-05-30 January, Inc. Systems, methods, and devices for biophysical modeling and response prediction
CN109635422B (zh) * 2018-12-07 2023-08-25 深圳前海微众银行股份有限公司 联合建模方法、装置、设备以及计算机可读存储介质
KR102279983B1 (ko) * 2018-12-28 2021-07-21 성균관대학교산학협력단 딥러닝 알고리즘을 이용한 비지도 방식의 네트워크 침입 탐지 방법 및 이를 실행하기 위한 프로그램이 기록된 기록매체
RU2739866C2 (ru) * 2018-12-28 2020-12-29 Акционерное общество "Лаборатория Касперского" Способ обнаружения совместимых средств для систем с аномалиями
US11935652B1 (en) * 2019-02-20 2024-03-19 Verily Life Sciences Llc Health status change detection using anomaly detection in latent spaces
JP6723401B1 (ja) * 2019-02-27 2020-07-15 レノボ・シンガポール・プライベート・リミテッド 電子機器、制御方法、及びプログラム
JP7308476B2 (ja) * 2019-02-28 2023-07-14 国立大学法人 奈良先端科学技術大学院大学 情報処理装置、情報処理方法、および情報処理プログラム
CN109871002B (zh) * 2019-03-06 2020-08-25 东方证券股份有限公司 基于张量标签学习的并发异常状态识别与定位系统
US11715016B2 (en) 2019-03-15 2023-08-01 International Business Machines Corporation Adversarial input generation using variational autoencoder
JP7136329B2 (ja) * 2019-03-27 2022-09-13 日本電気株式会社 異常検知装置、制御方法、及びプログラム
CN109978379B (zh) * 2019-03-28 2021-08-24 北京百度网讯科技有限公司 时序数据异常检测方法、装置、计算机设备和存储介质
JP6737487B1 (ja) * 2019-05-20 2020-08-12 株式会社アルム 画像処理装置、画像処理システム、および画像処理プログラム
US11604934B2 (en) * 2019-05-29 2023-03-14 Nec Corporation Failure prediction using gradient-based sensor identification
JP2020201871A (ja) * 2019-06-13 2020-12-17 ファナック株式会社 診断装置
JP2021015573A (ja) * 2019-07-16 2021-02-12 ファナック株式会社 異常判定装置及び異常判定システム
CN110473084A (zh) * 2019-07-17 2019-11-19 中国银行股份有限公司 一种异常检测方法和装置
JP6935551B2 (ja) * 2019-07-18 2021-09-15 株式会社日立製作所 データセットにおける異常の根本原因を検出する方法およびシステム
US11586194B2 (en) 2019-08-12 2023-02-21 Micron Technology, Inc. Storage and access of neural network models of automotive predictive maintenance
US11748626B2 (en) 2019-08-12 2023-09-05 Micron Technology, Inc. Storage devices with neural network accelerators for automotive predictive maintenance
US11635893B2 (en) 2019-08-12 2023-04-25 Micron Technology, Inc. Communications between processors and storage devices in automotive predictive maintenance implemented via artificial neural networks
US11586943B2 (en) 2019-08-12 2023-02-21 Micron Technology, Inc. Storage and access of neural network inputs in automotive predictive maintenance
US11853863B2 (en) 2019-08-12 2023-12-26 Micron Technology, Inc. Predictive maintenance of automotive tires
US11775816B2 (en) 2019-08-12 2023-10-03 Micron Technology, Inc. Storage and access of neural network outputs in automotive predictive maintenance
US11702086B2 (en) 2019-08-21 2023-07-18 Micron Technology, Inc. Intelligent recording of errant vehicle behaviors
US11498388B2 (en) 2019-08-21 2022-11-15 Micron Technology, Inc. Intelligent climate control in vehicles
JP7068246B2 (ja) * 2019-08-26 2022-05-16 株式会社東芝 異常判定装置、および、異常判定方法
KR20220051369A (ko) * 2019-08-30 2022-04-26 캐논 가부시끼가이샤 정보 처리 장치, 정보 처리 방법, 정보 처리 시스템 및 프로그램
US11650746B2 (en) 2019-09-05 2023-05-16 Micron Technology, Inc. Intelligent write-amplification reduction for data storage devices configured on autonomous vehicles
US11693562B2 (en) 2019-09-05 2023-07-04 Micron Technology, Inc. Bandwidth optimization for different types of operations scheduled in a data storage device
KR20210033774A (ko) 2019-09-19 2021-03-29 삼성전자주식회사 이미지 분석 방법 및 이를 수행하는 전자 장치
CN112540842A (zh) * 2019-09-20 2021-03-23 北京国双科技有限公司 动态调整系统资源的方法及装置
JP7382791B2 (ja) * 2019-10-30 2023-11-17 株式会社日立製作所 異常判定装置、車両支援システム
US11019087B1 (en) * 2019-11-19 2021-05-25 Ehsan Adeli Computer vision-based intelligent anomaly detection using synthetic and simulated data-system and method
JP2021082126A (ja) * 2019-11-21 2021-05-27 三菱重工業株式会社 異常検出装置、異常検出方法およびプログラム
CN110992354B (zh) * 2019-12-13 2022-04-12 华中科技大学 基于引入自动记忆机制对抗自编码器的异常区域检测方法
US11224359B2 (en) * 2019-12-17 2022-01-18 Robert Bosch Gmbh Repetitive human activities abnormal motion detection
US11250648B2 (en) 2019-12-18 2022-02-15 Micron Technology, Inc. Predictive maintenance of automotive transmission
US20210216876A1 (en) * 2020-01-15 2021-07-15 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for auto-encoder behavior modelling of vehicle components
US11709625B2 (en) 2020-02-14 2023-07-25 Micron Technology, Inc. Optimization of power usage of data storage devices
US11531339B2 (en) * 2020-02-14 2022-12-20 Micron Technology, Inc. Monitoring of drive by wire sensors in vehicles
US20230091197A1 (en) * 2020-02-27 2023-03-23 Siemens Healthcare Diagnostics Inc. Automatic sensor trace validation using machine learning
JP6979477B2 (ja) * 2020-03-10 2021-12-15 エヌ・ティ・ティ・アドバンステクノロジ株式会社 状態判定装置、状態判定方法及びコンピュータプログラム
JP7333284B2 (ja) * 2020-03-16 2023-08-24 株式会社日立製作所 保守支援システム及び保守支援方法
EP4163841A1 (en) * 2020-06-09 2023-04-12 Preferred Networks, Inc. Estimation device, training device, estimation method, training method, and program
JPWO2021250868A1 (ja) * 2020-06-11 2021-12-16
CN111726350B (zh) * 2020-06-16 2022-07-05 桂林电子科技大学 基于vae和bpnn的内部威胁检测方法
CN111865947B (zh) * 2020-07-08 2021-07-20 浙江大学 一种基于迁移学习的电力终端异常数据生成方法
JPWO2022024245A1 (ja) * 2020-07-29 2022-02-03
EP3719711A3 (en) * 2020-07-30 2021-03-03 Institutul Roman De Stiinta Si Tehnologie Method of detecting anomalous data, machine computing unit, computer program
CN111654695A (zh) * 2020-07-30 2020-09-11 重庆盛泰光电有限公司 摄像头模组检测数据管理系统
KR20220019560A (ko) * 2020-08-10 2022-02-17 삼성전자주식회사 네트워크 모니터링 장치 및 방법
CN111898701B (zh) * 2020-08-13 2023-07-25 网易（杭州）网络有限公司 模型训练、帧图像生成、插帧方法、装置、设备及介质
KR102466716B1 (ko) * 2020-08-18 2022-11-11 연세대학교 산학협력단 특징 벡터 분산에 기반한 손실 함수를 통한 이상 탐지 장치 및 방법
TWI747452B (zh) * 2020-08-20 2021-11-21 慧景科技股份有限公司 以人工智慧進行案場異常偵測之智能監控之系統、方法及儲存媒體
CN112036305B (zh) * 2020-08-31 2023-06-23 微特技术有限公司 一种基于自编码模型的起重机异常事件检测方法
CN112286169B (zh) * 2020-10-20 2022-02-01 浙江钱江机器人有限公司 一种工业机器人故障检测方法
WO2022176196A1 (ja) * 2021-02-22 2022-08-25 日本電信電話株式会社 学習装置、学習方法、およびプログラム
CN117015775A (zh) * 2021-03-17 2023-11-07 维萨国际服务协会 具有交互分类的可解释系统
JPWO2022259661A1 (ja) * 2021-06-09 2022-12-15
CN113722176A (zh) * 2021-07-30 2021-11-30 银清科技有限公司 一种自适应的异常性能指标确定方法及装置
JPWO2023021690A1 (ja) * 2021-08-20 2023-02-23
KR102539448B1 (ko) * 2021-11-09 2023-06-05 주식회사 스피랩 딥러닝 기반 IIoT 설비 이상탐지 방법
TWI809622B (zh) * 2021-12-24 2023-07-21 臥龍智慧環境有限公司 用於診斷系統問題的系統和方法
CN114553756B (zh) * 2022-01-27 2023-06-13 烽火通信科技股份有限公司 基于联合生成对抗网络的设备故障检测方法与电子设备
JP2024027788A (ja) * 2022-08-19 2024-03-01 国立研究開発法人産業技術総合研究所 電流波形分析装置及び電流波形分析方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007326654A (ja) * 2006-06-06 2007-12-20 Konica Minolta Medical & Graphic Inc 搬送装置、画像読取装置及び画像記録装置
JP2009276334A (ja) * 2008-05-15 2009-11-26 Yec:Kk 異音ピツクアップツール
JP2015210750A (ja) * 2014-04-30 2015-11-24 インターナショナル・ビジネス・マシーンズ・コーポレーションＩｎｔｅｒｎａｔｉｏｎａｌ Ｂｕｓｉｎｅｓｓ Ｍａｃｈｉｎｅｓ Ｃｏｒｐｏｒａｔｉｏｎ 検出装置、検出方法、およびプログラム

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH076831B2 (ja) 1988-02-04 1995-01-30 石川島播磨重工業株式会社 設備診断方法
US5331550A (en) 1991-03-05 1994-07-19 E. I. Du Pont De Nemours And Company Application of neural networks as an aid in medical diagnosis and general anomaly detection
US5465321A (en) * 1993-04-07 1995-11-07 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Hidden markov models for fault detection in dynamic systems
US7650210B2 (en) * 1995-06-07 2010-01-19 Automotive Technologies International, Inc. Remote vehicle diagnostic management
JP3619025B2 (ja) * 1998-09-18 2005-02-09 キヤノン株式会社 符号化方法及び符号化装置
AU2002220049A1 (en) * 2000-12-04 2002-06-18 Rensselaer Polytechnic Institute Fault detection and prediction for management of computer networks
US8126833B2 (en) * 2008-09-11 2012-02-28 Behavioral Recognition Systems, Inc. Detecting anomalous events using a long-term memory in a video analysis system
US8209080B2 (en) * 2009-04-27 2012-06-26 Toyota Motor Engineering & Manufacturing North America, Inc. System for determining most probable cause of a problem in a plant
EP2369529A1 (en) * 2010-03-24 2011-09-28 Alcatel Lucent A method of detecting anomalies in a message exchange, corresponding computer program product, and data storage device therefor
JP2012098901A (ja) 2010-11-02 2012-05-24 Hitachi Ltd 環境監視システム
WO2013059906A1 (en) * 2011-10-28 2013-05-02 Research In Motion Limited Electronic device management using interdomain profile-based inferences
US9043261B2 (en) * 2012-05-31 2015-05-26 Nec Corporation Latent variable model estimation apparatus, and method
US9170872B2 (en) * 2013-01-16 2015-10-27 Nike, Inc. Reset supervisor
US9177550B2 (en) * 2013-03-06 2015-11-03 Microsoft Technology Licensing, Llc Conservatively adapting a deep neural network in a recognition system
US10867597B2 (en) * 2013-09-02 2020-12-15 Microsoft Technology Licensing, Llc Assignment of semantic labels to a sequence of words using neural network architectures
CN103729444B (zh) * 2013-12-30 2017-07-18 清华大学 一种基于设备监测数据间潜在关系的异常数据检测方法
US9324022B2 (en) * 2014-03-04 2016-04-26 Signal/Sense, Inc. Classifying data with deep learning neural records incrementally refined through expert input
US20150278441A1 (en) * 2014-03-25 2015-10-01 Nec Laboratories America, Inc. High-order semi-Restricted Boltzmann Machines and Deep Models for accurate peptide-MHC binding prediction
CN104113544B (zh) * 2014-07-18 2017-10-31 重庆大学 基于模糊隐条件随机场模型的网络入侵检测方法及系统
CN104503420B (zh) * 2014-09-19 2017-02-15 北京化工大学 一种基于新型fde‑elm和时延efsm的非线性过程工业故障预测方法
US11836746B2 (en) * 2014-12-02 2023-12-05 Fair Isaac Corporation Auto-encoder enhanced self-diagnostic components for model monitoring
JP2016177682A (ja) * 2015-03-20 2016-10-06 株式会社東芝 設備評価装置、設備評価方法、コンピュータプログラム
US10044371B2 (en) * 2015-08-28 2018-08-07 Qualcomm Incorporated Systems and methods for repair rate control for large erasure coded data storage
WO2017094267A1 (ja) 2015-12-01 2017-06-08 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法
US10388274B1 (en) * 2016-03-31 2019-08-20 Amazon Technologies, Inc. Confidence checking for speech processing and query answering

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007326654A (ja) * 2006-06-06 2007-12-20 Konica Minolta Medical & Graphic Inc 搬送装置、画像読取装置及び画像記録装置
JP2009276334A (ja) * 2008-05-15 2009-11-26 Yec:Kk 異音ピツクアップツール
JP2015210750A (ja) * 2014-04-30 2015-11-24 インターナショナル・ビジネス・マシーンズ・コーポレーションＩｎｔｅｒｎａｔｉｏｎａｌ Ｂｕｓｉｎｅｓｓ Ｍａｃｈｉｎｅｓ Ｃｏｒｐｏｒａｔｉｏｎ 検出装置、検出方法、およびプログラム

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
前田 新一: "コントラスティブダイバージェンス法とその周辺", 人工知能, vol. 29, no. 4, JPN6017004835, 1 July 2014 (2014-07-01), JP, pages 366 - 380, ISSN: 0004141060 *
櫻田 麻由，外１名: "オートエンコーダを用いた次元削減による宇宙機の異常検知", ２０１４年度 人工知能学会全国大会（第２８回）論文集［ＣＤ−ＲＯＭ］, JPN6017004833, 12 May 2014 (2014-05-12), pages 1 - 3, ISSN: 0004203216 *
門出 康孝，外４名: "ヒトの尿データへのＤｅｅｐ Ｌｅａｒｎｉｎｇ適用による肺がん判定の試行と標的物質の探索", 第１０６回 知識ベースシステム研究会資料 （ＳＩＧ−ＫＢＳ−Ｂ５０２）, JPN6017004837, 8 November 2015 (2015-11-08), JP, pages 36 - 41, ISSN: 0004141061 *

Also Published As

Publication number Publication date
EP3385889A4 (en) 2019-07-10
JP6740247B2 (ja) 2020-08-12
US11334407B2 (en) 2022-05-17
JP2022037241A (ja) 2022-03-08
EP3385889A1 (en) 2018-10-10
JP2020119605A (ja) 2020-08-06
JP7167084B2 (ja) 2022-11-08
WO2017094267A1 (ja) 2017-06-08
US20210011791A1 (en) 2021-01-14
US11921566B2 (en) 2024-03-05
CN108431834A (zh) 2018-08-21
US20180365089A1 (en) 2018-12-20
US10831577B2 (en) 2020-11-10
US20220237060A1 (en) 2022-07-28

Similar Documents

Publication Publication Date Title
US11921566B2 (en) Abnormality detection system, abnormality detection method, abnormality detection program, and method for generating learned model
JP7223839B2 (ja) 異常検出および／または予知保全のためのコンピュータ実装方法、コンピュータプログラム製品およびシステム
Khelif et al. Direct remaining useful life estimation based on support vector regression
Pan et al. Remaining useful life estimation using an inverse Gaussian degradation model
JP2021064370A (ja) デジタル・ツイン・シミュレーション・データを利用した時系列データに基づく、大規模な産業用監視システム向けの半教師あり深層異常検出のための方法およびシステム
Chehade et al. Sensor fusion via statistical hypothesis testing for prognosis and degradation analysis
Baraldi et al. Reconstruction of missing data in multidimensional time series by fuzzy similarity
Yu Machine health prognostics using the Bayesian-inference-based probabilistic indication and high-order particle filtering framework
Chen et al. A health index construction framework for prognostics based on feature fusion and constrained optimization
WO2013188326A9 (en) Discriminative hidden kalman filters for classification of streaming sensor data in condition monitoring
Zhao et al. Probabilistic remaining useful life prediction based on deep convolutional neural network
Qin et al. Remaining useful life prediction for rotating machinery based on optimal degradation indicator
Wang et al. Adaptive prognosis of centrifugal pump under variable operating conditions
Kannan et al. Nominal features-based class specific learning model for fault diagnosis in industrial applications
Chen et al. A deep learning feature fusion based health index construction method for prognostics using multiobjective optimization
Anis et al. Optimal RUL estimation: A state-of-art digital twin application
Zhou et al. Aero-engine prognosis strategy based on multi-scale feature fusion and multi-task parallel learning
JP2019105871A (ja) 異常候補抽出プログラム、異常候補抽出方法および異常候補抽出装置
Qian et al. Soft sensing model visualization: Fine-tuning neural network from what model learned
Ding et al. A zero-shot soft sensor modeling approach using adversarial learning for robustness against sensor fault
Zhu et al. Auto-starting semisupervised-learning-based identification of synchrophasor data anomalies
Song et al. Building local models for flexible degradation modeling and Prognostics
Xu et al. A novel imbalanced fault diagnosis method based on area identification conditional generative adversarial networks
Kafunah Uncertainty-Aware Fault Diagnosis for Safety-Related Industrial Systems
El Bouharrouti et al. Multi-Rate Vibration Signal Analysis for Bearing Fault Detection in Induction Machines Using Supervised Learning Classifiers

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190725

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190725

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190725

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191224

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200204

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200424

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200424

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200507

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200508

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200722

R150 Certificate of patent or registration of utility model

Ref document number: 6740247

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250