JP6068468B2

JP6068468B2 - 予測及び予知のための逐次的カーネル回帰モデリング方法

Info

Publication number: JP6068468B2
Application number: JP2014521649A
Authority: JP
Inventors: ハーゾッグ，ジェームズ・ピー
Original assignee: スマートシグナル・コーポレーション
Priority date: 2011-07-19
Filing date: 2012-07-09
Publication date: 2017-01-25
Anticipated expiration: 2032-07-09
Also published as: JP2014524095A; WO2013012583A1; BR112014001004A2; CA2841437A1; AU2012284459A1; KR20140041766A; CN103842924A; US20130024416A1; US9256224B2; AU2012284459B2; CN103842924B; US20160110651A1

Description

本書に開示の内容は、一般的に云えば、機械、システム又はプロセスのようなオブジェクトの予測的状態監視及び予知(prognostic)のために用いられるカーネル回帰モデリングの分野に関し、より詳しく云えば、監視対象のオブジェクトの評価を提供するためにパラメータの測定値を分析するための多変量モデルを使用することに関するものである。

カーネル回帰は、データ集合(set) 内の値同士の間の非線形関数又は関係を決定するために使用されるモデリングの一形式であって、機械又はシステムを監視して機械又はシステムの状態を決定するために使用される。

カーネル回帰モデリングの既知の１つの形式は、米国特許第５７６４５０９号及び同第６１８１９７５号に開示されている類似性に基づくモデリング（ＳＢＭ）である。ＳＢＭの場合、複数のセンサ信号により、機械、システム等の監視対象のオブジェクトの物理的に相関したパラメータを測定して、センサ・データを供給する。パラメータ・データは、センサ信号に基づくものであるか否かに拘わらず、信号から又は他の計算されたデータからの実際値又はカレント（current ：現在）値を含むことがある。パラメータ・データは、次いで、経験的モデルによって処理されて、それらの値の推定を行う。これらの推定値は、次いで、実際値又はカレント値と比較されて、監視対象のシステムに障害が存在するかどうか決定する。

より具体的に述べると、上記モデルは、既知の様々な動作状態を表している複数の選択された歴史的パターンのセンサ値より成る基準ライブラリを使用して推定値を生成する。このようなパターンはまた、ベクトル、スナップショット又はオブザベーションとも呼ばれており、或る時点における監視対象の機械の状態を表す複数のセンサ又は他の入力データからの値を含む。基準ライブラリからの基準ベクトルの場合、これらのベクトルは、通常、監視対象の機械の正常な動作を表す。モデルは、カレント時点からのベクトルを、基準ライブラリの既知の状態からの多数の選択された習得(learned) ベクトルと比較して、システムのカレント状態を推定する。一般的に云えば、カレント・ベクトルが基準ライブラリからの複数の選択されたベクトルより成るマトリクスと比較されて、重みベクトルを形成する。更なる段階で、重みベクトルは該マトリクスと乗算されて、複数の推定値より成るベクトルを算出する。その推定値ベクトルは、次いで、カレント・ベクトルと比較される。これらのベクトルにおける推定値及び実際の値が充分に類似していない場合、これは、監視対象のオブジェクトに障害が存在していると示すことができる。

しかしながら、このカーネル回帰手法は、センサ信号内の時間領域情報を積極的に使用していず、その代わりに、推定値を計算するとき相異なり且つばらばらの同時生起のパターン内のデータを取り扱っている。例えば、各カレント・ベクトルが基準ライブラリの複数のベクトルと個別に比較されるので、カレント・ベクトルが基準ライブラリのベクトルと比較される順序には差異がなく、各カレント・ベクトルはそれ自身の対応する推定値ベクトルを受け取る。

或る既知のモデルは、カーネル回帰モデリング構成内に時間領域情報を捕獲している。例えば、複合信号分解手法は、時間変化信号（時間につれて変化する信号）を、米国特許第６９５７１７２号及び同第７４０９３２０号に開示されているように周波数成分に、或いは、米国特許第７０８５６７５号に開示されているようにスペクトル特徴に変換する。これらの成分又は特徴は、経験的モデリング・エンジンに個別の入力として供給され、この結果、単一の複合信号が、同時に生じる複数の周波数値より成るパターン又はベクトルによって表される。経験的モデリング・エンジンは、抽出された成分入力（カレント又は実際のベクトル）を期待値と比較して、実際の信号について、又は時間変化信号を発生するシステムの状態について、より多くの情報を導き出す。これらの方法は、音響又は振動信号のような単一の周期的信号に対処するように設計されている。複合信号についてのシステムの場合でも、時間領域情報は、カレント・ベクトルについての推定値を算出するとき重要ではない。と云うのは、入力ベクトルが表す時間周期に関係なく、各カレント・ベクトルが、基準又は予想ベクトルを持つベクトル・マトリクスと比較されるからである。

一面において、オブジェクトの将来の動作状態を決定するための方法が提供され、該方法は、オブジェクトの正常動作状態を示す基準データを得る段階と、複数の入力パターン・アレイを得る段階を含む。各入力パターン・アレイは複数の入力ベクトルを持ち、また各入力ベクトルは時点を表し、且つオブジェクトのカレント状態を示す複数のパラメータを表す複数の入力値を持つ。少なくとも１つのプロセッサが、入力パターン・アレイ及び基準データを使用して入力値と基準データとの間の類似性測度(similarity measure)を決定する計算に基づいて、複数の推定値を生成する。これらの推定値は、推定値マトリクスの形であって、複数の仮想又は推測推定値より成る少なくとも１つの推定値ベクトルを含み、且つ入力ベクトルによって表されていない少なくとも１つの時点を表す。これらの推測推定値は、オブジェクトの将来の状態を決定するために使用される。

別の面では、オブジェクトの将来の動作状態を決定するための監視システムが提供され、該システムは、オブジェクトの正常動作状態を示す基準データを受け取り且つ複数の入力パターン・アレイを受け取るように構成された経験的モデル・モジュールを持ち、各入力パターン・アレイは複数の入力ベクトルを持つ。各入力ベクトルは、時点を表し、且つオブジェクトのカレント状態を示す複数のパラメータを表す複数の入力値を持つ。経験的モデルはまた、入力パターン・アレイ及び基準データを使用して入力値と基準データとの間の類似性測度を決定する計算に基づいて、複数の推定値を生成するように構成される。これらの推定値は、複数の推測推定値の複数の推定値ベクトルを含む推定値マトリクスの形式であり、各推定値マトリクスは、複数の入力ベクトルによって表されていない少なくとも１つの時点を表す。予知モジュールが、複数の推測推定値を使用してオブジェクトの将来の状態を決定するように構成される。

図１は、監視システムの一例の配置構成を示すブロック図である。図２は、監視システムのための基本的プロセスを示す流れ図である。図３は、自己連想(autoassociative) 類似性に基づくモデリング方程式の概略図である。図４は、推測類似性に基づくモデリング方程式の一形式の概略図である。図５は、推測類似性に基づくモデリング方程式の別の形式の概略図である。図６は、自己連想逐次的類似性に基づくモデリング方程式の概略図である。図７は、被モデル化(modeled) センサ次元で外挿(extrapolate) する推測逐次的類似性に基づくモデリング方程式の一形式の概略図である。図８は、被モデル化センサ次元で外挿する推測逐次的類似性に基づくモデリング方程式の別の形式の概略図である。図９は、時間次元で外挿する推測逐次的類似性に基づくモデリング方程式の概略図である。図１０は、時間次元で外挿する推測逐次的類似性に基づくモデリング方程式の概略図である。図１１は、時間次元及びセンサ次元で外挿する推測逐次的類似性に基づくモデリング方程式の概略図である。

カーネル回帰モデル、具体的に述べると、類似性に基づくモデルにおける推定値の正確さが、該モデルに時間領域情報を取り入れることによって実質的に改善できることが判明した。例えば、本発明による監視システム及び方法の１つの技術的効果は、工業プロセス、システム、機械などのオブジェクトを監視する多数の周期的及び非周期的センサ信号から時間領域情報を取得することによって推定値データを生成することである。本発明によるシステム技術的効果はまた、以下に詳しく説明するように、ベクトル対ベクトル演算からマトリクス対マトリクス（又はアレイ対アレイ）演算へカーネル回帰モデリングのコア（芯）における基本的非線形数学を拡張する経験的モデルを機能させることである。監視システム及び方法の別の代替の技術的効果は、推定値を生成するために使用される基準データが監視対象のオブジェクトの正常動作を表すデータであるか、又は障害を示すオブジェクトからのデータにより良く一致する障害モード・データであるかに拘わらず、監視対象のオブジェクトの将来の状態を決定するために将来の時点についての仮想又は推測推定値を生成することである。

図１について説明すると、時間領域情報を取り入れる監視システム１０は、１つ以上のモジュールの形式のコンピュータ・プログラムで具現することができ、且つ１つ以上のコンピュータ１００上で１つ以上のプロセッサ１０２によって実行することができる。コンピュータ１００は、永久的か又は一時的かに拘わらずセンサ・データ及び／又はコンピュータ・プログラムを保持するための内部又は外部の１つ以上の記憶装置１０４を持つことができる。一形式では、独立型コンピュータが、計測器搭載機械、プロセス、又は生物を含む他のオブジェクトに設けたセンサからのセンサ・データ、測定パラメータ（温度、圧力など）を受け取る専用のプログラムを実行する。監視対象のオブジェクトは、特に限定しているものではないが、数例を挙げると、工場内の１台以上の機械、１台以上の乗り物、又はジェット・エンジンのような乗り物上の特定の機械であってよい。センサ・データは、有線又は無線により、例えば、コンピュータ・ネットワーク又はインターネットを介して、データ収集するコンピュータ又はデータベースへ伝送することができる。１つ以上のプロセッサを持つ１台のコンピュータにより、全てのモジュールについての監視タスクを遂行することができ、或いは各タスク又はモジュールが、該モジュールを遂行するそれ自身のコンピュータ又はプロセッサを持つことができる。従って、処理を単一の場所で実行することができること、或いは、処理を、全て有線又は無線ネットワークで接続された多数の異なる場所で実行することができることが理解されよう。

図２について説明すると、監視システム１０によって遂行されるプロセス（３００）において、システムは、前に述べたような監視対象のオブジェクト１６上のセンサ１２からデータ又は信号を受け取る。このデータは、モデル１４によって使用するために入力ベクトル３２に配列される。ここで、用語「入力」、「実際の」及び「カレント」は相互に交換して使用することができ、また用語「ベクトル」、「スナップショット」及び「オブザベーション」は相互に交換して使用することができる。入力ベクトル（又は、例えば、実際のスナップショット）は、監視対象の機械のある一時点における状態を表す。

それに加えて、又はその代わりに、入力ベクトル３２は計算データを含むことができ、その計算データは、センサ・データ（又生のデータ）に基づいて計算されたものでもそうでないものでもよい。これは、例えば、平均圧力又は圧力降下を含むことができる。入力ベクトル３２はまた、オブジェクト１６上のセンサによって表されていない他の変数を表す値を持つことができる。これは、例えば、センサ・データを受け取った一日の平均周囲温度などであってよい。

モデル１４は、ベクトル３２の形式でデータを得て（３０２）、これらの入力ベクトルを入力アレイ又はマトリクスの中に配列する（３０４）。しかしながら、モデル１４自身が、入力データからベクトル３２を形成することができ、或いはデータをベクトル及びアレイに編成する収集又は入力コンピュータ又はプロセッサからベクトルを受け取ることができることが理解されよう。このように、入力データは、コンピュータ１００によって、コンピュータ１００の場所の近くの別のコンピュータによって、又はオブジェクト１６の近くのような別の場所にある別のコンピュータによって、ベクトル３２に配列することができる。

モデル１４はまた、基準ライブラリ１８から基準ベクトル又はマトリクスの形式の（マトリクスＨとも呼ばれる）基準データを得る（３０６）。ライブラリ１８は、システムにおける全ての歴史的基準ベクトルを含むことができる。モデル１４は次いで、基準データ及び入力アレイを使用して、結果的に推定値マトリクス又はアレイの形式で推定値を生成する（３１０）。推定値マトリクスは差計算モジュール２０に供給され、該モジュールは推定値マトリクス内の推定値と入力アレイ内の対応する入力値との間の差（又は、残差）を決定する（３１２）。これらの残差は、次いで、警報又は分析管理モジュール（又は、単に警報モジュール）２２によって使用されて、障害が存在するかどうか決定する（３１４）。

破線で示されているように、監視システム１０はまた、局在化モジュール２８を持つことができ、該モジュールは、各入力アレイ内のベクトルと比較するための部分集合又はマトリクスＤ(t) （これは、以下、習得逐次的パターン・マトリクスの３次元コレクションと呼ばれる（図６参照））を形成する（３０８）ために用いられる基準ライブラリからのデータを変更する。さもなければ、基準データのマトリクスＤ(t) は、以下に詳しく説明するようの全ての入力マトリクスについて同じに留まることができる。また、監視システムは適応モジュール３０を含むことができ、該モジュールは、ライブラリ内のデータを更新するために、又は或る事象が生じたとき、例えば、モデルが以前に経験したことのない機械の新しい正常状態を示すデータを受け取ったときに、基準ライブラリに入力ベクトルを連続的に入れる。これについては、後で詳しく説明する。

警報モジュール２２は警報と共に残差をインターフェース又は出力モジュール２４に直接供給して、ユーザーが彼ら自身の診断用分析を遂行できるようにし、或いは診断モジュール２６を設けることにより、障害の原因の正確な性質を分析して、診断の結論及び深刻さの程度を、出力モジュール２４を介してユーザーへ報告することができる。

出力モジュール２４は、これらの結果を表示する機構（例えば、コンピュータ画面、ＰＤＡ画面、プリントアウト、又はウェブ・サーバ）、これらの結果を保存する機構（例えば、照会能力を持つデータベース、フラット・ファイル、ＸＭＬファイル）、及び／又はこれらの結果を遠隔の場所へ又は他のコンピュータ・プログラムへ通信するための機構（例えば、ソフトウエア・インターフェース、ＸＭＬデータグラム、イーメイル・データ・パケット、非同期メッセージ、同期メッセージ、ＦＴＰファイル、サービス、パイプ伝送指令など）を含むことができる。

経験的モデル１４のより詳しい説明には、カーネル回帰の或る程度の知識が必要である。カーネル回帰のようなパターン認識手法では、或るパターンは、ベクトルとしてグループ化された（前に述べたような）入力データで構成される。各ベクトルのためのデータは、共通の時点で１つの機器から収集される。しかしながら、以下により詳しく説明するように、既存のカーネル回帰法に関連した同時生起のセンサ値のパターン（ベクトル）は、相次ぐ時点からの逐次的パターン、又は相次ぐ時点からパターンに適用される時間依存関数（例えば、フィルタ、時間導関数など）からの出力のような、時間的に関係付けられた情報により増強される。従って、伝統的なカーネル回帰法によって処理される個々のパターン（ベクトル）が、アレイを形成する複数のパターンの時間的に関係付けられたシーケンス（又は、簡単にはパターン・アレイ又はパターン・マトリクス）と置き換えられる。

カーネル回帰、放射基底関数、及び類似性に基づくモデリングを含む、全てのカーネルに基づくモデリング手法は、下記の方程式によって記述することができる。

ここで、センサ信号又はセンサ値推定値のベクトルｘ_ｅｓｔは、カーネル関数Ｋの計算結果の重み付き和（加重和）として生成され、カーネル関数Ｋは、センサ測定値の入力ベクトルｘ_ｎｅｗを、センサ・データｘ_ｉのＬ個の習得パターンと比較する。ｘ_ｉは、（オブザベーション、パターン、スナップショット、又は事例(exemplar)とも呼ばれる）ベクトルの形式の基準又は習得データで形成される。カーネル関数の計算結果は重みｃ_ｉに従って組み合わされ、重みｃ_ｉは、ベクトルの形式であってよく、且つ多数の方法で決定することができる。上記の形式は、「自己連想(autoassociative) 」形式であり、その場合、全ての推定された出力信号がまた入力信号によって表される。言い換えると、各入力値について、推定センサ値が計算される。これは「推測(in ferential) 」形式と対照的であり、推測形式では、或る推定出力値が既存の入力値を表していず、代わりに入力から推測される。

この場合、ｙ_ｅｓｔは、他のパラメータの入力ベクトルｘ_ｎｅｗとそれらのパラメータのＬ個の習得事例ｘ_ｉとのカーネルに基づく比較から得られた推測センサ推定値である。各習得事例ｘ_ｉは、推定すべきパラメータの別の事例ベクトルｙ_ｉと関連しており、これらは、カーネルＫ及びベクトルｃ_ｉ（それらは少なくとも部分的にｙ_ｉの関数である）に従って重み付き態様で組み合わされて、出力ｙ_ｅｓｔを予想する。同様な態様で、２つ以上のセンサを同時に推測することができる。

カーネルに基づく推定器(kernel-based estimator)に共通のものは、カーネル関数であり、またカーネル結果及びベクトルｃ_ｉに基づいた、事例を具現する事例の一次結合（例えば、事例又はベクトルのマトリクス）からの結果の生成である。カーネル関数Ｋは、一般化された内積であるが、一形式では、その絶対値が、ｘ_ｎｅｗ及びｘ_ｉが同一であるときに最大になる更なる特性を持つ。

本発明の一実施形態によれば、モデルを提供するために使用することのできるカーネルに基づく推定器は、カーネル回帰であり、ナダラヤ−ワトソン(Nadaraya-Watson) カーネル回帰形式によって例証される。

推測形式では、推測パラメータの多変量推定値ｙ_ｅｓｔは、各々が各ｘ_ｉに関連しているそれぞれの習得ベクトルｙ_ｉに従って一次結合された、パラメータ測定値の入力ベクトルｘ_ｎｅｗとＬ個の習得事例ｘ_ｉとについてのカーネルＫオペレータの結果を、カーネルの結果の和によって正規化することにより、生成される。ｙ_ｉは、Ｘにおけるパラメータの習得測定値に関連した（例えば、それと同時に測定された）Ｙにおけるパラメータについての習得測定値のＬ個の集合を表す。一例として、Ｘは複数の圧力測定値を有することができ、他方、Ｙは共通のシステムからの対応する複数の温度測定値を表すことができる。換言すると、圧力測定値は重みを計算するために用いることができ、該重みは、次いで、ｙ_ｅｓｔについて推定温度測定値又はセンサ値を計算するために、ｙ_ｉ（欠落したパラメータの以前の値を持つ基準ベクトル）と共に計算に使用される。

カーネル回帰の自己連想形式では、パラメータの多変量推定値ｘ_ｅｓｔが、それらのパラメータｘ_ｉの習得測定値の（例えば、以下に述べる事例のマトリクスＤの形式の）正規化一次結合に、習得オブザベーションｘ_ｉに対する入力ベクトルｘ_ｎｅｗについてのカーネル演算結果を乗算することによって生成される。

本例についてのカーネル回帰では、上記の方程式（１）及び（２）からのｃ_ｉが、カーネル比較値の和で正規化された習得事例で形成される。推定値ベクトルｙ_ｅｓｔ又はｘ_ｅｓｔは、一集合の推定パラメータを有し、これらは、一例によれば、実際の測定値（ｘ_ｎｅｗ又はｙ_ｎｅｗ（これは推測の場合にはモデルへの入力ではない））との差をとって、残差を提供する。

カーネル回帰の特定の例では、類似性に基づくモデル（ＳＢＭ）を本発明に従ったモデルとして使用することができる。ナダラヤ−ワトソン・カーネル回帰は、一集合の（多分にノイズの多い）習得事例が与えられている場合に平滑化推定値である推定値を提供するが、これに対して、ＳＢＭは、あたかも入力ベクトルが習得事例の１つと全く同じであるかのように、習得事例がたまたま入力であるときに習得事例に適合する内挿推定値を提供する。これは、パラメータの偏差を検出する際に有利である、と云うのは、これらの信号中のノイズが或る程度までオーバーフィットし（モデルを作った事例上にノイズが同様に存在していた場合）、従ってナダラヤ−ワトソン・カーネル回帰方式に比べて残差から幾分かノイズを除去するからである。ＳＢＭは、カーネル関数Ｋをオペレータ（「丸の中に×を入れた記号」で表されていて、以下、［テンソル積記号］と記す）と書き直し、また習得事例ｘｉの集合を、（行(row) を形成するｘｉの要素及びその列(column)を形成するｘｉオブザベーションを持つ）マトリクスＤと同等と見なすことによって、カーネルに基づく推定器の一形式として理解することができる。そこで、

この場合、Ｄは転置されており、その結果、Ｄ中の各オブザベーションｘ_ｉ毎に１つずつ、カーネル値の列ベクトルが生じる。同様に、全ての事例の互いとの比較を、下記のように表すことができる。

次いで、自己連想形式のＳＢＭは、下式に従って推定値ベクトルを生成する。

ここで、ｘ_ｅｓｔは推定値ベクトルであり、ｘ_ｎｅｗは入力オブザベーションであり、またＤは、パラメータの習得した模範的なオブザベーションの集合（又は部分集合）を有する習得ベクトル・マトリクスである。類似性オペレータ又はカーネルは、符号［テンソル積記号］で表され、各々のオペランドからの任意の２つのベクトルの比較のための類似性スコアを提供する一般的な属性を持つ。従って、第１の項（Ｄ^Ｔ［テンソル積記号］Ｄ）は、上記の方程式（６）に示されているようにＤの中のオブザベーションの数に等しい大きさの正方マトリクスの値を生じる。項（Ｄ^Ｔ［テンソル積記号］ｘ_ｎｅｗ）は、方程式（５）に示されているようにＤ中の各ベクトルについて１つの類似値を持つ、類似値のベクトルを生成する。この類似性オペレータについては後でより詳しく説明する。方程式は図３に概略表示されていて、方程式の各成分が、矩形の箱によって表されているようなベクトルによってどのように形成されるかを示している。この例では、各ベクトルはパラメータ１〜５についてセンサ値を含んでいる（とは云え、これはまた、前に述べたように他の非センサ値を含むことも可能である）。ここで、数字１〜５は、どのパラメータが示されているかを表していて、センサ値そのものを表しているものではないことが理解されよう。従って、センサ値自体は、方程式の異なる部分について異なっている（例えば、パラメータ１についての値は、ｘ_ｎｅｗ内のものと、Ｄ内のものと、ｘ_ｅｓｔ内のものでは異なることがある）。

また、方程式（７）では、一群の入力ベクトルの間の時間領域情報が、推定値を生成するために無視されていることが理解されよう。換言すると、方程式（７）は単一の入力ベクトルｘ_ｎｅｗを使用することによって推定値ベクトルを生成しているので、推定値ベクトルを生成するために一群の入力ベクトルの内のどのベクトルを分析するのかの順序は余り重要でない。もしプロセス中に後で、例えば障害が存在するかどうかを決定し又は障害の特定の種類を診断するために（逐次的のような）時間に関連した順序が必要となった場合、推定値を生成した後でベクトルを所望通りに順序付けることができる。

推定値は更に、次の方程式に従って、それをデータの起源と無関係にすることによって改善することができ、この場合、推定値は、類似性オペレータから生成された「重み」の和によって除算することによって、正規化される。

類似性に基づくモデリングの推測形式では、推測パラメータ・ベクトルｙ_ｅｓｔは、次式に従って習得オブザベーション及び入力から推定される。

ここで、Ｄinは、ｘ_ｉｎ中の実際のセンサ値（又はパラメータ）と同じ数の行を持ち、またＤout は、推測パラメータ又はセンサを含むパラメータの全数と同じ数の行を持つ。方程式（９）は、図４上に概略表示されて、ベクトル、入力値（１〜５）、及び結果として生じる推測値（６〜７）の位置を示している。

一形式では、習得事例のマトリクスＤa は、入力ベクトルｘ_ｉｎ中のセンサ値にマッピングする行及び推測センサにマッピングする行の両方を含む集合体マトリクスとして理解することができる。

重みの和を用いて前のように正規化すると、

ここで、Ｄout を習得事例の完全(full)マトリクスＤa と置き換えることによって、類似性に基づくモデリングは、入力センサ（自己連想形式）及び推測センサ（推測形式）についての推定値を同時に計算することができることに留意されたい。

図５を参照して説明すると、方程式（１２）は、入力値及び推測値の両方のために基準値を持つマトリクスＤa を使用する。この結果、代表的な入力値及び推測値の両方を持つ推定値ベクトルが得られる。

上記と同様な更に別のカーネルに基づくモデリング手法は、放射基底関数の手法である。神経構造に基づいて、放射基底関数は、神経回路網の特別な形式で、受容野を使用し、ここで、各基底関数が、入力ベクトルのｎ次元空間内に受容野を形成し、且つ神経回路網内の隠れ層ノードによって表される。受容野は上述のカーネルの形式を持ち、この場合、受容野の「中心」は、特定の隠れユニットが表す事例である。事例と同じ数の隠れユニット受容野がある。多変量入力オブザベーションが入力層に入り、入力層は隠れ層と完全に接続されている。従って、各隠れユニットが完全な多変量入力オブザベーションを受け取って、受容野の「中心」と一致したときに最大であり且つ（上述のＳＢＭと同様に）それらが次第に大きく異なるにつれて減少する結果を生じる。受容野ノードの隠れ層の出力は（方程式（１）で前に述べたように）重みｃ_ｉに従って組み合わされる。

前に述べたように、カーネルは様々な可能なカーネルから選択することができ、また一形式では、そのカーネルによって戻される全ての値の内の最大の絶対値を持つ２つの同じベクトルの比較のための値（又は類似性スコア）を戻すように選択される。いくつかの例を提供するが、それらは本発明の範囲を制限することを意味していない。以下は、任意の２つのベクトルｘ_ａ及びｘ_ｂの比較のために本発明に従って使用することができるカーネル／類似性オペレータのいくつかの例である。

方程式（１３）〜（１５）では、２つのベクトルのベクトル差又は「ノルム」が用いられており、一般に、これは２ノルムであるが、また１ノルム又はｐノルムとすることができる。パラメータｈは一般に定数であり、しばしばカーネルの「帯域幅」と呼ばれ、各事例が有意な結果をそれを介して戻す「フィールド」の大きさに影響を及ぼす。累乗λも用いることができるが、これは１に等しく設定することができる。各事例ｘ_ｉについて異なるｈ及びλを用いることが可能である。一方式では、ベクトル差又はノルムを採用するカーネルを使用するとき、測定されたデータは先ず、０〜１の範囲（又は、他の選択された範囲）に正規化すべきであり、例えば、そのために、例えば、センサ・データ集合の内の最小の読取り値を、全てのセンサ値に加算し又はそれから減算し、次いで全ての結果を該センサについての範囲によって除算する。この代わりに、データは、１に（又は或る他の定数）に設定された標準偏差を持つゼロを中心にした平均データへ変換することによって、正規化することができる。更にまた、本発明に従ったカーネル／類似性オペレータはまた、オブザベーションの要素の項で定義することができ、すなわち、類似性はベクトルの各次元で決定され、それらの個別の要素の類似性が全体のベクトル類似性を与えるように或る態様で組み合わされる。典型的には、これは、任意の２つのベクトルｘ及びｙのカーネル比較のために要素の類似性を平均するように単純にすることができる。

次いで、本発明に従って使用することのできる要素の類似性オペレータは、制限なく、下式を含む。

帯域幅ｈは、前に示されているもののような要素カーネル(elemental kernel)の場合に選択して、オブザベーション・ベクトルのｍ番目のパラメータの予想範囲の或る種の測度とすることができる。これは、例えば、全ての事例にわたってパラメータの最大値と最小値との間の差を見つけることによって、決定することが可能である。この代わりに、それは、事例又は基準ベクトル内に存在するデータに拘わらず領域知識を用いて設定することができる。更にまた、差関数を使用するベクトル及び要素カーネルの両方に関して、差を帯域幅で除算した値が１よりも大きい場合、それを１に等しく設定し、その結果、例えば、方程式(１４)、(１５)、(１８)及び(１９)についてゼロのカーネル値を得ることができることに留意されたい。また、カーネル又は類似性オペレータは、１、ｈ、λなどの代わりに、異なる定数を加算又は乗算することによって修正できることが容易に理解されよう。また、例えば、以下のような三角関数も使用することができる。

一形式では、類似性オペレータ又はカーネルは、一般に、２つの同一次元を持つベクトルの比較のための類似性スコアを提供し、類似性スコアは、
１）各端に境界を有するスカラー範囲内にあり、
２）２つのベクトルが同一である場合、境界の端の１つで１の値（又は、他の選択された値）を持ち、
３）スカラー範囲にわたって単調に変化し、また
４）２つのベクトルが同一になるように近づくにつれて増大する絶対値を持つ。

モデリングのための上記の方法の全ては、前述のカーネルに基づく方式を使用し、且つ事例の基準ライブラリを使用する。それらの事例（オブザベーション又は基準ベクトルとも呼ばれる）は、被モデル化システムの「正常(normal)」な挙動を表す。随意選択により、利用可能な基準データを下方選択(down-select) することにより、事例のライブラリとして作用する特有の部分集合を提供することができ、この場合、カーネルに基づくモデルを「トレーニング(training)」するための多数の手法を採用することができる。この場合、下方選択されたライブラリ自体が、上記の方程式に用いられるマトリクスＤを形成することができる。或るトレーニング方法によれば、少なくともそれらのオブザベーションが、全ての利用可能な基準オブザベーションにわたって所与のパラメータについて最高又は最低の値を持つライブラリ内に含まれる。これは、追加のオブザベーションのランダムな選択で補い、又はデータの散乱又はクラスタ化を忠実に表すように行われる選択で補うことができる。この代わりに、基準データをクラスタ化し、またクラスタの代表的な「セントロイド」を新しい人工的に生成された事例として形成し、次いでライブラリを形成することができる。オブザベーションを選択して事例のライブラリを構成するための様々な手法が当該分野で知られている。従って、このケースのための少なくとも一般的な項では、マトリクスＤは、ライブラリが変更される（すなわち、ライブラリが更新されるときのような）場合を除いて、全ての入力ベクトルｘ_ｉｎについて方程式（７）において全く同じに留まる。

経験的カーネルに基づくモデルの推測及び自己連想形式の両方についての代替構成では、マトリクスＤは、入力オブザベーションの品質、及び習得オブザベーションの大きな集合、すなわち基準集合からの引き出しに基づいて、「オン・ザ・フライ(on-the-fly)」でモデルを生成することができるように、各入力ベクトルｘｉｎについて再構成することができる。この一例が米国特許第７４０３８６９号に記載されている。このプロセスは局在化と呼ばれている。従って、推測及び自己連想形式のカーネルに基づくモデリングは、入力オブザベーションに基づいて、基準オブザベーションの相対的に大きな集合から選択された習得オブザベーションｘ_ｉの集合（マトリクスＤ）を用いて実施することができる。カーネルに基づくモデルは、１回のパスでトレーニングされて、素速く更新することができるので、この種の局在化に例外的によく適している。有利なことに、大集合の候補事例について引き出すが、推定値を生成する目的のために各々の新しい入力オブザベーションにより部分集合を選択することによって、モデリング計算の速度を低減し、且つモデルの頑丈さを改善すると共に、モデル化されるシステムの動特性を依然として充分に特徴付けることができる。

監視システム１０について、局在化モジュール２８は、類似性オペレータ自体の適用を含めて、コレクションＤ(t) のために局在化マトリクス・メンバーシップを構成するために、様々な判断基準を使用することができる。しかしながら、一般に、監視プロセスの一部としてモデルによって推定されるべきパラメータ又は導出された特徴の集合を有する入力オブザベーション３２は、局在化モジュール２８へ供給され、局在化モジュール２８は、基準ライブラリ１８の形式の大量の事例オブザベーションにアクセスして、モデルを構築するためにそれらの事例オブザベーションの部分集合を選択する。局在化モジュール２８は、ライブラリ１８から、入力オブザベーション３２に関連する事例を選択し、それらは、ライブラリの大きさよりも遙かに小さい集合とすることができる。例えば、基準ライブラリ１８は、モデル化されるパラメータによって表されるシステムの正常な動特性を特徴付ける１０００００個の事例オブザベーションを有することがあるが、他方、局在化モジュール２８は、入力オブザベーション３２に応答して局在化モデルを構築するために数十個のオブザベーションのみを選択することがある。選択された事例オブザベーションは次いで、現在の局在化モデル１４へ供給される。ベクトルに基づくシステムでは、これらのオブザベーションは、カーネルに基づく推定器のために習得事例ｘ_ｉの集合（また、上記のＳＢＭに関連してＤとして示されている）を有する。次いで、推定値オブザベーションｘ_ｅｓｔが、前に述べたように対応して生成される。監視システム１０のために、選択された習得事例の各々は、時点ｔ_ｐにおけるベクトルを表すことができ、そこで、以下に述べるコレクションＤ(t) を形成するためにｔ_ｐにおいて各ベクトルについて逐次的パターン・マトリクスが構築される。次の入力オブザベーション３２が監視システム１０へ供給されると、上記プロセスは繰り返され、その際、新しい入力オブザベーションに基づいて、ライブラリ１８から新しい且つ可能性として異なる部分集合の事例が選択される。

一方式によれば、入力オブザベーション３２は、クラスタリング手法に基づいて、基準ライブラリ１８の習得オブザベーションと比較することができる。従って、ライブラリ１８内の事例オブザベーションは、ベクトルをクラスタ化するための既知の多数の手法の内の何れかを使用してクラスタ化され、また局在化モジュール２８は、入力オブザベーション３２に最も近いクラスタを識別して、局在化モデル１４へ供給される局在化オブザベーションである該クラスタ内のメンバー事例を選択する。適当なクラスタリング方法は、ｋ平均及びファジーｃ平均クラスタリング、又は自己編成マップ神経回路網を含む。

別の方式よれば、カーネルを使用して、入力オブザベーション３２をライブラリ１８内の各事例と比較して、入力オブザベーションに対して基準オブザベーションのランク付けを行う類似値を生成することができる。次いで、それらの内の或る上位部分を局在化コレクションＤ(t) 内に含ませることができる。この局在化態様の更なる改良として、全ての基準オブザベーションのランク付けリスト内のオブザベーションは、それらの構成要素の１つが、入力ベクトル内の対応する値を「括弧」で括る値を与える範囲まで、局在化コレクションＤ(t) 内に含ませる。例えば、入力ベクトル内の値が、１つの基準オブザベーション内の値によって高い方と低い方の両側で括弧で括られるまで、ランク付けリストを検索する。これらの「括弧で括る」オブザベーションは、ライブラリ１８内の他のオブザベーションが入力に対して類似性がより高い場合でも、局在化コレクションＤ(t) 内に含まれる。検索は、入力ベクトル内の全ての入力値が括弧で囲まれるまで、又はコレクションＤ(t) に含ませる逐次的パターン・マトリクスを構築するためのベクトルのユーザー選択可能な最大限界に達するまで、又は含めるための類似性閾値を超える程に充分に入力に対する類似性が高い基準オブザベーションがもはやなくなるまで、続けられる。

局在化コレクションＤ(t) のメンバーシップを決定する際に他の修正が考えられる。例えば、上記のクラスタリング選択法及び類似性選択法の両方において、クラスタ化される又は類似性のためにカーネルと比較されるベクトルを構成するために使用される要素すなわちパラメータの集合は、モデル及び推定値を生成するために使用されるものと同一でないことがあるが、その代わりに、部分集合、又はパラメータの部分的にオーバーラップする集合であってよい。前に述べたように、コレクションＤ(t) を生成するために、システム１０及びモデル１４のための追加の段階が遂行される。具体的に述べると、いったんコレクションＤ(t) に含ませるためのベクトル（一次ベクトルｔ_ｐと呼ぶ）が選択されると、各一次ベクトルについて（将来であるか過去であるかに関係なく）他の時間的に関連したベクトルが選択されて、一次ベクトルについて且つコレクションＤ(t) 内に含まれる習得逐次的パターン・マトリクスを形成する。時間的に関連したベクトルを選ぶプロセスを、以下に説明する。モジュール２８による局在化が、以下に詳しく説明する習得逐次的パターン・マトリクスの複数の３次元コレクションの何れかに適用できることが理解されよう。

次に、本書に記載の監視システム１０のための一方式によって、時間領域情報をモデル１４に取り入れることについて説明すると、２つのベクトルの類似性を比較するように作用する上記のカーネル関数は、２つの同一次元のアレイについて作用する拡張カーネル関数Ｋと置き換えられる。

ここで、Ｘnew は入力パターン・アレイであり、またＸi は習得パターン・アレイである。パターン・アレイ又はパターン・マトリクスは、一シーケンスの時間的に関連したベクトルで構成され、その構成ベクトルの各々は相異なる時点からのセンサ測定値を含む。パターン・アレイ内のベクトルの１つを、一次ベクトルと呼び、またそのデータが導出される時点を、カレント一次時点ｔ_ｐと呼ぶ。他のベクトルには、系統的な態様で一次時点に関係するそれぞれの時点が関連する。

一形式では、一次時点は、パターン・アレイ内の一シーケンスの時間順序の点（又は、それらの時点を表す時間順序のベクトル）より成る時点の内の最も最近の時点である。一方式によって、その他の時点は等間隔であって、それらの時点の間に一様な時間間隔を与える時間ステップΔｔの整数倍だけ一次時点より前に来る。所与の数のサンプルｎ_ｌｂについて、それらの時点は、順序付けしたシーケンス（ｔ_ｐ−ｎ_ｌｂΔｔ，ｔ_ｐ−（ｎ_ｌｂ−１）Δｔ，．．．，ｔ_ｐ−２Δｔ，ｔ_ｐ−Δｔ，ｔ_ｐ）を形成する。時点のシーケンスはルック・バック(look-back) パターン・アレイを画成する。

図６に示されているように、一次ベクトルｔ_ｐは各パターン・アレイの最も右側の列として位置決めされ、また他の（ｎ_ｌｂ）データ・ベクトルは、一次ベクトルｔ_ｐの左側に配置された列ベクトルである。パターン・アレイの行は、被モデル化センサからの時間変化信号の短いセグメントに対応する。

ルック・バック・パターン・アレイを使用することによって、方程式（２０）の拡張カーネル関数は実時間システム監視に適用することができる。入力パターン・アレイＸnew 内の一次ベクトルｔ_ｐ（時点ｔ_ｐにおけるベクトルを意味する）は、カレント時点からのシステム・データを含み、またアレイの残りは、過去の最近の時点からのデータ・ベクトルで構成される。従って、入力パターン・アレイは、伝統的なカーネル法によって使用されている（たとえ静的であっても）カレントのベクトルを含むばかりでなく、被監視システムの進行している動的挙動を表す一シーケンスのベクトルも含む。システムの時間が進むにつれて、新しい一次ベクトルがアレイの最も右側の位置に現れることを除いて、先行するアレイと同じデータの多くを含む新しい入力パターン・アレイが形成され、且つ最も古いベクトルが最も左側の位置から落とされる。従って、単一の時点を表す単一のベクトルが複数の入力パターン・アレイＸnew において用いられ、またベクトルが順々に用いられると仮定すると、これらのベクトルは、アレイ内にあるベクトルと同じ数の時点に使用される。この態様では、入力パターン・アレイは、時間につれてのパターンの移動窓を記述する。ここでは、移動窓は、窓が時間軸に沿って又は一シーケンスの時間順序のセンサ値ベクトルに沿って動くにつれて、集合内のベクトルが変わっていくように、時間的順序に並べられた固定数のベクトルの集合又は群を意味する。

上記方程式（２１）で定義されたパターン・アレイは、ｎ_ｌｂ＊Δｔに等しい時間窓にわたって存在するｎ_ｌｂ個のデータ・ベクトルを含む。これらのデータ・ベクトルは、この例では時間的に等間隔である。換言すると、各入力パターン・アレイ又はマトリクスが、該入力パターン・アレイＸnew 内の入力ベクトルによって表される時点の相互の間の一様な時間間隔によってのみ定義される。

代替形態では、カーネルを使用することにより、相異なる長さの時間にわたって存在するパターン・アレイを比較することができる。パターン・アレイが１つの時間ステップΔｔ_１（例えば、１秒間隔）で隔たった時点からのデータを含んでいる場合で、且つ別のパターン・アレイの時点が第２の時間ステップΔｔ_２（例えば、１０秒間隔）で異なっている場合、これらのパターン・アレイは、異なる持続時間を表す２つのパターン・アレイがあるように、２つの相異なる時間窓ｎ_ｌｂ＊Δｔ_１及びｎ_ｌｂ＊Δｔ_２にわたって存在する。一形式では、１つのパターン・アレイが別のパターン・アレイにおけるよりもベクトル（又は時点）間の時間間隔が異なることがあっても、これらのパターン・アレイが同じ数のベクトルを含んでいる限り、２つのパターン・アレイ内の同じ位置（例えば、最も右側の位置と最も右側の位置、右から２番目の位置と右から２番目の位置、及び最も左側の位置と最も左側の位置）からのベクトルを整合させるカーネル関数は、変化する時間スケールにわたって作用することが可能である。従って、一例では、マトリクスは、時間間隔の間隔がスペクトル時間信号中のピークの高調波（１／ｆ）に対応することができるように、異なる間隔の時点の間に延在することができる。また、パターン・アレイによってカバーされる時間周期又は持続時間におけるこの差は、習得パターン・アレイと入力パターン・アレイとの間に、又は入力パターン・アレイから入力パターン・アレイまでに、又は習得パターン・アレイから習得パターン・アレイまでに、又は入力パターン・アレイ内の各ベクトルが習得パターン・アレイ内の対応する習得事例を持つ限り（又は換言すると、習得及び入力マトリクスの両方が同じ数のベクトルを持っている限り）これらの内の任意の組合せで使用し得ることが理解されよう。

別の例によれば、カーネルを使用することにより、それらのパターン・ベクトルが時間的に等間隔でないパターン・アレイを比較することができる。パターン・ベクトルの間隔を一定の時間間隔又は時間ステップとする代わりに、時間ステップをパターン・アレイ内の位置によって変えることができる。（アレイの右側近くに配置された）最も最近のベクトルについて小さい時間ステップを用い且つ（アレイの左側近くに配置された）相対的に古いベクトルに相対的に大きい時間ステップを用いることによって、カーネル関数は最も最近の変化に注意を集中させながら、より遠い過去における変化からの幾分かの効果を保持する。

再び図１について説明すると、カーネル関数（方程式（２１））による分析の前に、フィルタ・モジュール１０６によってパターン・アレイについて追加のフィルタリング段階を遂行することができる。フィルタリングが使用されるとき、フィルタリングは基準ベクトル及び入力ベクトルの両方について遂行して、推定値を生成するために用いられるべき２つの結果の信号値の間に実質的な意図的でない不整合が生じないようにする。フィルタリング段階では、時間変化センサ・セグメント（パターン・アレイの行）の各々が、フィルタリング・アルゴリズムによって処理されて、セグメント内のデータを平滑化するか又はデータから統計的特徴を計算する。移動窓平均化、立方スプライン・フィルタリング、又はサビツキイ−ゴレイ(Savitsky-Golay)フィルタリングのような、平滑化アルゴリズムは、オリジナル（原）信号における重要な傾向を捕捉し、また該信号中のノイズを低減する。平滑化アルゴリズムは入力信号中の要素の各々について平滑化した値を生じるので、それはセンサ・データのオリジナルのパターン・アレイと同じ次元を持つパターン・アレイを生成する。この代わりに、フィルタリング段階は、１つ以上の特徴抽出アルゴリズムを適用して、各信号中のデータの統計的特徴を計算するように構成することができる。このような特徴は、平均、分散、又は信号データの時間導関数を含むことができる。同じ数の特徴抽出アルゴリズムがパターン・アレイ内のデータに適用される限り、オリジナルのパターン・アレイ内のデータ・ベクトルの数は変わることができる。

前に述べたように、モデル化されるシステムからの経時的情報を表すためにパターン・アレイを使用する多数の方法がある。これらの方法は、限定するものではないが、等間隔の時点からのデータ・ベクトルのシーケンス、パターン・アレイが変化する持続時間を持つように異なる時間期間にわたって存在するデータ・ベクトルのシーケンス、及びそれらのデータ・ベクトルが時間的に等間隔ではないシーケンスを含む。入力パターン・アレイは、基準パターン・アレイとは異なる間隔を持つことができ、或いは同じ間隔であってよい。更に、パターン・シーケンスは、平滑化又は特徴抽出アルゴリズムによってフィルタリングすることができる。パターン・アレイの形式、又はフィルタリング・アルゴリズムによって生成されたアレイの形式についての唯一の制約は、拡張カーネル関数（方程式（２０））によって処理される２つのアレイが同一次元を持つこと（すなわち、同じ数の行及び列を持つこと）である。

上述のベクトルに基づくカーネル関数と同様に、拡張カーネル関数はスカラー値又は類似性測度を戻すが、ここでは、スカラー値は、２つのベクトルよりはむしろ２つのアレイの間の類似性を表す。拡張カーネル関数は、前に列挙したベクトルに基づくカーネル関数と同じ特性を表示する類似性スコアを生成する。すなわち、類似性スコアはスカラーであり、その範囲は境界があって、２つのアレイが同一であるとき境界の１つについて１の値（又は、他の選択された値）を持ち、またその範囲にわたって単調に変化し、またその絶対値は、２つのアレイが同一になるように近づくにつれて増大する。更に、拡張カーネル関数は、２つのアレイの整合する時間的成分について作用する。これは、例えば２つのルック・バック・パターン・アレイの場合、拡張カーネル関数が基準及び入力パターン・アレイのそれぞれからの２つの一次ベクトルの間にｔ_ｐの間に類似性を見つけ、次いで一次ベクトルの左側の２つのデータ・ベクトル（−１）について等々、アレイ内の先行するベクトルにわたって類似性を見つけることを意味する。

拡張カーネル関数の一例は、米国特許第６９５２６６２号に記載された類似性オペレータに基づくものである。Ｘnew 及びＸi が２つの同一次元のパターン・アレイであり、ｎ_ｓｅｎｓセンサ（又はパラメータ）からのデータを含み、且つｎ_ｌｂ個の逐次的時点にわたって存在すると仮定すると、拡張カーネル関数は次のように表される。

ここで、ρ及びλは定数である。方程式（２２）中の時間依存関数θ(t) は、パターン・アレイの時間的要素について作用し、２つのアレイ内の同じ時点ベクトルからのデータを整合させる。この時間的データ整合を達成する１つの手段は、所与のセンサｊについて時間的データの重み付き平均を使用することである。

所与のセンサｊについてのデータ要素間の類似性（ｓ_ｊ，ｋ）は、一センサについての正常動作データの範囲ｒａｎｇｅ_ｊによって正規化されたデータ要素の絶対差として定義される。従って、所与のセンサのデータについての時間依存類似性関数θ(t) は、下式の通りである。

方程式（２２）及び（２４）を組み合わせると、２つのパターン・アレイについての拡張カーネル関数が生成される。

拡張カーネル関数の別の例は、米国特許第７３７３２８３号に記載された類似性オペレータに基づくものである。再び、Ｘnew 及びＸi が２つの同一次元のパターン・アレイであって、ｎ_ｓｅｎｓセンサ（又はパラメータ）からのデータを含み、且つｎ_ｌｂ個の逐次的時点にわたって存在すると仮定すると、第２の拡張カーネル関数は次のように表される。

この拡張カーネル関数は方程式（２３）及び（２４）によって定義されるのと同じ時間依存関数θ(t) を利用して、２つのパターン・マトリクス内の所与のセンサの時間的データを比較する。

図６について説明すると、２つの拡張カーネル関数（方程式（２５）及び（２７））は、被モデル化センサからの情報を集めるやり方においてのみ異なり、第１の方程式はカーネル関数の要素の形式を表し、また第２の方程式はカーネル関数の（１ノルムのような）ベクトル差形式を表す。両方の方程式は、２つのアレイＸnew 及びＸi 内の時間変化信号のセグメントの間の差を考慮するために重み付き平均を利用する。詳しく述べると、例えば、両方の方程式（２５）及び（２７）の場合、各逐次的習得パターン・マトリクスａ〜ｇについて、絶対差が各対応する対の習得及び入力値について計算される。これらの値は、（イ）同じセンサ（又はパラメータ）と、（ロ）（両方の値が一次時点ｔ_ｐからであるような）パターン・アレイの同じ時点か又は（両方の値がパターン・アレイ内の右から２番目にあるベクトル上にあるときのような）アレイ内の他のベクトルに対して同じ位置の何れかとを表しているときに対応する。各対の習得及び入力値からの絶対差は、重み付き平均を介して組み合わされ、その結果として特定のセンサについての単一の平均値を生じる。これは、パターン・マトリクスａ〜ｇ及びパターン・アレイＸnew によって表された各センサ又はパラメータ（１〜５）について繰り返されて、重み付き平均段階において各センサ／パラメータについて結果として１つの平均スカラーがあるようにする。

次いで、第１の拡張カーネル関数（方程式（２５））において、重み付き平均段階からの結果が、全てのセンサにわたって平均されて、アレイ対アレイ比較のためのスカラー値を生じる。最後に、このスカラー値は、前に述べたように類似性スコアの特性に付着する値へ変換されて、それが例えば０（ゼロ）から１の範囲内入るようにする（１は同一を意味する）。このプロセスは、３次元コレクションＤ(t) 内の各習得逐次的パターン・マトリクスａ〜ｇについて繰り返される。第２の拡張カーネル関数（方程式（２７））において、重み付き平均段階からの結果が、各センサについて１つずつ、直ちに類似性スコアに変換される。次いで、類似性スコアのこのベクトルは、３次元コレクションＤ(t) 内の各習得逐次的パターン・マトリクスａ〜ｇについて該関数によって単一の類似性スコアが戻されるように、平均化される。

類似性に基づくモデリングに関連して使用されるとき、上述の拡張カーネル関数はまた、一般性を喪失することなく、拡張類似性オペレータと呼ぶことができる。上記の方程式（Ｓ（Ｘnew ，Ｘi ））で使用された表記法もまた、伝統的な類似性オペレータ符号（Ｘnew ［テンソル積記号］Ｘi ）を用いて表すことができる。

上記の他のベクトルに基づくカーネル関数（例えば、方程式（１３）〜（２０））の拡張したものは、２つの逐次的パターン・アレイ内の同じ時点からの時間的データを整合させるために重み付き平均を使用することによって、構成することができる。例えば、Ｘnew 及びＸi が２つの同一次元のパターン・アレイであって、ｎ_ｓｅｎｓセンサからのデータを含み、且つｎ_ｌｂ個の逐次的時点にわたって存在すると仮定すると、方程式（１６）の拡張カーネル関数は、方程式（１７）の要素の類似性オペレータを用いて、次のように表される。

より最近のデータがそれより古いデータよりも大きく重み付けされるように重みを選択することができるので、パターン・アレイ内の時間変化信号のセグメント間の差を考慮するように重み付き平均（方程式（２２））が使用される。従って、一次時点ｔ_ｐからのデータには、典型的には、最も大きい重みが与えられ、それより前の時点からのデータ（方程式（２１））には次第に小さくなる重みが与えられる。一次時点に対して時間につれて線形に又は指数関数的に減少するように重みを定義するために多数の方法を利用することができる。

ここで、時間変化信号の２つのセグメント内の逐次的時点からのデータを整合させるために様々な他の時間依存関数θ(t) を用い得ることが理解されよう。このような方法は、限定するものではないが、他の重み付きノルム（２ノルム及びｐノルム）及び最大、最小、又はメジアン差を含む。関数について要求される全ては、２つのシーケンスが同一である場合に最小（０の値）になり且つシーケンスがより多く異なるにつれて値が増大するスカラー値を戻すことである。

自己連想形式のＳＢＭ（方程式（７））において逐次的パターン・アレイの概念を拡張類似性オペレータ（例えば、方程式（２５）又は（２７））と組み合わせるため、ベクトルに基づく習得ベクトル・マトリクスＤの概念が拡張される。上述の標準的な形式のＳＢＭでは、習得ベクトル・マトリクスは、正常動作の期間中の様々な時点から選択された習得事例（ベクトル）の集合で構成される。これらのベクトルが選択される時点が一次時点を表すと仮定すると、各習得ベクトルは、各一次時点よりも前にある（先行する）一シーケンス（一連）の時点からのデータを収集することによって、習得逐次的パターン・マトリクスに拡大することができる。この態様では、習得ベクトル・マトリクスＤは習得逐次的パターン・マトリクスＤ(t) のコレクションに拡大される。この習得パターン・マトリクスのコレクションは３次元マトリクスを形成し、それらの次元の内、第１の次元は被モデル化センサ又はパラメータを表し、第２の次元は様々な一次時点からの習得事例（ベクトル）を表し、また第３の次元は一次時点に対する時間を表す。

ベクトルに基づく形式のＳＢＭで使用される習得ベクトル・マトリクスを構成するために用いられる上述のトレーニング方法は、逐次的パターン形式のＳＢＭによって必要とされる習得逐次的パターン・マトリクスＤ(t) の３次元コレクションを生成するために利用することができる。これを達成するには、逐次的パターン・マトリクスを構成するために先行する一シーケンスの時点からの基準ベクトルによりトレーニング・アルゴリズムによって選択された各基準ベクトルを増強する。習得パターン・マトリクスのコレクションは、トレーニング・アルゴリズムによって選択された各基準ベクトルについて１つずつ、被モデル化システムの「正常」な挙動を表す事例の基準ライブラリ１８から引き出される。時間推測(time-inferential)形式の逐次的ＳＢＭ（以下に説明する）が使用される場合、後続の時点からの追加のベクトルが各逐次的パターン・マトリクスに付け加えられる。

ベクトルに基づく形式のＳＢＭのために使用されるトレーニング方法は、基準データに固有の時間領域情報に関係なく、正常動作期間中の様々な時点からの事例（ベクトル）を選択する。逐次的パターン・アレイ形式のＳＢＭでは、その時間領域情報は、選択された事例の各々を、一次時点に直ぐ先行し且つ（場合により）引き続いて起こる一シーケンスの時点からのデータ・ベクトルで増強することによって、供給される。時間領域情報を考慮しながら、逐次的習得パターン・マトリクスのコレクションＤ(t) を構築して局在化するための代替プロセスでは、各入力パターン・アレイは、該入力パターン・アレイ内のものと等しい数（すなわち、ｎ_ｌｂ＋１）の全てのシーケンスの基準ベクトルと比較することができる。この比較は、拡張形式の類似性オペレータ（例えば、方程式（２５）又は（２７））を使用することによって行って、入力パターン・アレイと最も類似している基準ベクトルのシーケンスを識別する。それらの識別されたシーケンスの内の各シーケンスの基準ベクトルは、コレクションＤ(t) 内に１つの逐次的習得パターン・マトリクスをそれぞれ形成する。選択プロセスがどのようなものであっても、トレーニング方法は、互いに極めて接近した一次時点からの事例を選択することが可能である。直ぐ近くの一次時点からの２つの事例が選択されたとき、対応する逐次的パターン・マトリクスはデータ・ベクトルを共通に含むことができる。

図６について説明すると、方程式（７）が、入力パターン・アレイＸnew 及び習得逐次的パターン・マトリクスＤ(t) の３次元コレクションを含んで示されている。入力パターン・アレイＸnew はまた、Ｄ(t) 内の習得パターン・マトリクスとは対照的に、カレントの時点を表すベクトルｔ_ｐを含んでいるので、カレント又は実際のパターン・アレイ又はマトリクスと呼ぶことができる。図示の例では、入力パターン・アレイＸnew は４つのベクトルを含み、ベクトルｔ_ｐは該アレイ内の最後の（最も右側の）ベクトルである。他のベクトルには、簡単化のために、ｔ_ｐより前の時間間隔の数を表すために−３乃至−１のように番号を付している。従って、図６上のベクトル−３は、（ｔ_ｐ−ｎ_ｌｂΔｔ）と同じことを表しており、ここで、ｎ_ｌｂ＝３であることが理解されよう。図６に示されているように、習得逐次的パターン・マトリクスのコレクションの３つの次元（被モデル化センサ、一次時点、及びパターン・シーケンス）が次のように表現されている。すなわち、番号１乃至５は、５つの被モデル化センサからのデータを表し、また４つの列（ベクトル）の番号は、４つの逐次的時点を表し、また７つの層の矩形は、各々、逐次的パターン・マトリクスａ〜ｇを表し、その各々は、様々な正常動作期間から選択された一次時点ｔ_ｐを持つ。習得逐次的パターン・マトリクスＤ(t) の３次元コレクションは、７つの逐次的パターン・マトリクスａ〜ｇを含む。従って、各逐次的パターン・マトリクスａ〜ｇは、５つのセンサ及び４つの逐次的時点からのデータを有し、且つ入力パターン・マトリクスＸnew と同じ次元を持つ。比較のため、２次元マトリクスＤ（図３）を持つ従来のベクトルに基づく方程式と習得逐次的パターン・マトリクスＤ(t) の３次元コレクション（図６）との間の違いを視覚化する別の方法は、従来の２次元アレイが、３次元コレクションＤ(t) からｔ_ｐベクトルのみを含むように７つの逐次的パターン・アレイａ〜ｇを横切って切断する単一のマトリクスによって形成されているに過ぎないことである。

図６中の最も右側の括弧の中で、拡張類似性オペレータ（テンソル積記号）は、前に説明したように、入力パターン・アレイＸnew と７つの習得逐次的パターン・マトリクスａ〜ｇとの間の類似性を計算する。図６の例では、方程式（２５）又は（２７）からの重み付き平均段階を用いて、モデルは、逐次的パターン・マトリクスａ内のセンサ１についての時間変化信号を、入力パターン・アレイＸnew 内のセンサ１についての時間変化信号と比較して、センサ１について単一の平均値を求める。これをセンサ２〜５について繰り返して、各センサについて１つの平均値を得る。次いで、これらのスカラー値（又は方程式（２７）の場合の類似性スコア）を平均化して、逐次的パターン・マトリクスａについての単一の類似性測度を決定する。次いで、この処理を各逐次的パターン・マトリクスｂ〜ｇについて繰り返して、７つの類似性スコア（各習得逐次的パターン・マトリクスａ〜ｇについて１つの類似性スコア）を含む類似性ベクトルを戻す。

中間の括弧内の演算では、コレクションＤ(t) 内の一対の習得逐次的パターン・マトリクスａ〜ｇの各組合せについて１つずつ、類似値の７×７の正方類似性マトリクスを生じる。結果の類似性マトリクスの反転に類似性ベクトルを乗算することにより、７つの要素を含む重みベクトルを生じる。最終の段階で、重みベクトルにコレクションＤ(t) を乗算することにより、推定値マトリクスＸest を生じる。一形式では、推定値マトリクスＸest は、入力パターン・アレイ内の入力ベクトルによって表される期間の各々に対応する推定値ベクトルを持つように、入力パターン・アレイＸnew と同じ大きさである。図６の例では、推定値マトリクスＸest は、カレント時点ｔ_ｐについて、またルック・バック窓で形成されたかのように３つの先行する時点−１〜−３の各々について、推定値ベクトルを持つ。推定値マトリクスＸest の利用については、後で更に詳しく説明する。また、カレント又は一次ベクトルと共に又はそれを含まずに、一緒にグループ化した先行するベクトルは、本書の何れかでルック・バック窓と呼ばれることがあり、また、カレント又は一次ベクトルと共に又はそれを含まずに、一緒にグループ化した後続のベクトルは、以下に説明するルック・アヘッド(look-ahead)窓と呼ぶことができることに留意されたい。

逐次的パターン・マトリクスを拡張類似性オペレータと共に利用する推測形式のＳＢＭ（方程式（９））に対する拡張は容易に明らかである。ベクトルに基づく形式の推測モデリングに類似して、習得逐次的パターン・マトリクスＤa(t)の３次元コレクションは、入力パターン・アレイＸin中のセンサ値にマッピングする習得逐次的パターン・マトリクスａ〜ｇ及び推測センサＤout(t)にマッピングする逐次的パターン・マトリクスを含む集合体マトリクスとして理解することができる。図７について説明すると、方程式（９）が、入力パターン・アレイＸin、及び５つの入力センサ１〜５について７つの習得逐次的パターン・マトリクスａ〜ｇを持つ習得逐次的パターン・マトリクスＤin(t) の３次元コレクションで図示されている。集合体マトリクスＤa(t)は、方程式（１０）に定義された２次元集合体マトリクスを３次元に拡張したものであることが理解されよう。図７と図６とを比較すると、両図の括弧内のマトリクスは、それらの表示の仕方を除いて同じである。従って、推測モデルについての重みベクトルの計算は、自己連想モデルについて上述したものと同じ態様で行うことができる。次いで、図４と同様に、マトリクスＤout(t)が習得逐次的パターン・マトリクスの３次元コレクションとされることを除いて、重みベクトルが、図７において推測センサについての習得逐次的パターン・アレイに乗算され、従ってこの段階では、推測センサのみを表す推定値マトリクスＹest を形成する。ベクトルに基づく形式の推測モデリングについて前に述べたように、重みベクトルはまた、Ｄin(t) 及びＤout(t)の両方を含む習得逐次的パターン・マトリクスＤa(t)の完全３次元コレクションに乗算することができ、これにより入力及び推測センサの両方についての推定値マトリクスを生成する（図８に示す）。

推測モデリングは、そのデータが入力データ・ストリームに含まれていないセンサについて推定値の計算を可能にする。その理由は、これらのセンサについての基準データが習得逐次的パターン・マトリクスＤa(t)又はＤout(t)の３次元コレクションの中に含まれているからである。概念的には、推測モデルは、被モデル化センサの次元に沿って外挿を行う。また、時間次元で外挿を行う推測モデルを生成することも可能である。これは、一次時点及び方程式（２１）のルック・バック窓の概念を再考することによって理解できよう。ルック・バック窓内の時点は一次時点よりも先行しており、これは、それらが一次時点に対して過去に存在することを意味する。また、ルック・アヘッド窓を定義することができ、これは、一次時点より後に続く時点で構成される。ルック・アヘッド窓内の時点は、一次時点に対して将来に存在する。一次時点よりも先行する所与の数（ｎ_ｌｂ）の時点と一次時点の後に続く所与の数（ｎ_ｌａ）の時点とで構成された順序付けした時点のシーケンス（ｔ_ｐ−ｎ_ｌｂΔｔ，ｔ_ｐ−（ｎ_ｌｂ−１）Δｔ，．．．，ｔ_ｐ−２Δｔ，ｔ_ｐ−Δｔ，ｔ_ｐ，ｔ_ｐ＋Δｔ，ｔ_ｐ＋２Δｔ，．．．，ｔ_ｐ＋（ｎ_ｌａ−１）Δｔ，ｔ_ｐ＋ｎ_ｌａΔｔ）を考慮する。時点のシーケンスは、ルック・バック及びルック・アヘッド・データの両方を含むパターン・アレイを規定する。

図９について説明すると、時間次元への外挿を支持する推測形式のＳＢＭ（方程式（９））に対する拡張は、習得逐次的パターン・マトリクスＤa(t)の３次元コレクションが、ルック・バック及びルック・アヘッド・データの両方を含む逐次的パターン・マトリクスａ〜ｇで生成される場合に、得られる。入力パターン・アレイＸinがカレント時点及び先行する時点からのみのデータを含む（将来の時点からのデータは未だ存在しない）ので、習得逐次的パターン・マトリクスＤa(t)のコレクションは、時間次元に沿って分離された２つの部分マトリクスで構成された集合体マトリクスである。これらの部分マトリクスの内の第１の部分マトリクスＤlb(t) は、様々な一次時点からのデータ及びルック・バック時点からのデータを含む。第２の部分マトリクスＤla(t) は、ルック・アヘッド時点からのデータを含む。方程式（９）が、５つの入力センサの入力パターン・アレイＸin及び時点ｔ_ｐ〜−３の間に３つの時間間隔のルック・バック窓で図示されている。ルック・バック部分又は部分マトリクスＤlb(t) は、５つの入力センサ（１〜５）、各々がそれ自身の逐次的パターン・マトリクスａ〜ｇ上にある７つの一次時点、及び各逐次的パターン・マトリクスａ〜ｇ上の４つのルック・バック時点又は基準ベクトルｔ_ｐ〜−３からのデータを含む習得逐次的パターン・マトリクスの３次元コレクションである。ルック・アヘッド部分又は部分マトリクスＤla(t) は、５つの入力センサ（１〜５）、各々がそれ自身の一次時点を持つ７つの習得逐次的パターン・マトリクスａ〜ｇ、及び２つの将来の又は後続の時点又はベクトル＋１及び＋２からのデータを含む習得逐次的パターン・マトリクスの３次元コレクションである。２組の括弧内での演算によって生成された、その結果の重みベクトルが、習得逐次的パターン・マトリクスＤla(t) のルック・アヘッド・コレクションと乗算されて、時間において外挿した推定値マトリクスＹlaを生じる。この例では、２つの外挿後の推定値ベクトル＋１及び＋２が推定値マトリクスＹlaについて計算されて、将来への１つ及び２つの時間ステップΔｔである時点を表す。ベクトルに基づく方程式（図５）に関して前に述べたように、重みベクトルはまた、Ｄla(t) 及びＤlb(t) の両方を含む習得逐次的パターン・マトリクスＤa(t)の完全コレクションと乗算して、過去、カレント及び将来の時点についての推定値データを含む推定値マトリクスＸＹel（図１０に示す）内の推定値マトリクスＸlb及びＹlaを生成することができる。

図９及び１０に示されたものと図７及び８に示されたものとを比較すると、全ての４つの図の括弧内のマトリクス計算は同一である。これは、時間次元を外挿する推測モデルについての重みベクトルの計算が、被モデル化センサの次元に沿って外挿する推測モデルについてのものと同一であることを意味する。２つの形式の推測モデリングは、習得逐次的パターン・マトリクスの完全コレクション内に含まれるデータのみが異なる。一次時点に対して将来に存在する時点についてのデータを含むモデルは、将来に外挿する。入力データ・ストリーム内に存在しないセンサについてのデータを含むモデルは、それらのセンサに外挿する。図１１について説明すると、時間次元及び被モデル化センサ次元の両方に外挿する推測モデルが示されている。その習得逐次的パターン・マトリクスＤa(t)の３次元コレクションは、被モデル化センサ次元及び時間次元に沿って分離された４つの部分マトリクスで構成された集合体マトリクスである。その部分マトリクスは、入力センサのルック・バック窓についてのデータＤlb(t) 、入力センサのルック・アヘッド窓についてのデータＤla(t) 、出力（推測）センサのルック・バック窓についてのデータＤlbout(t)、及び出力（推測）センサのルック・アヘッド窓についてのデータＤlaout(t)を含む。計算により、入力及び出力（推測）センサの両方について過去、カレント（現在）及び将来の時点についての推定値データを含む推定値マトリクスＸＹe2（図１０に示す）内の推定値マトリクスＸlb及びＹlaを生成する。

上述の逐次的パターン・アレイを持つ様々な形式のカーネル回帰モデリングの各々は、モデル推定値データの推定値マトリクスを作成する。一例では、推定値マトリクスＸest は、各入力パターン・アレイＸnew （図６）について形成される。上述の様々な例から理解されるように、カレント時点に対応する推定値ベクトルに加えて、推定値マトリクスは、ルック・バック及び／又はルック・アヘッド窓内の各々の時点についてのベクトルを含む。推定値マトリクス内の逐次的ベクトルの数は、モデリング方程式（自己連想又は推測）の形式と、ルック・バック窓内の時点ｎ_ｌｂの数及びルック・アヘッド窓内の時点ｎ_ｌａの数とに依存する。システムの時間が進むにすれて、時間軸に沿った各々の固定の時点では、入力パターン・アレイが該時点に近づき、通過し、離れていくにつれて、多数の推定値ベクトルを累積する。固定の一時点について計算される推定値ベクトルの合計数は、モデルによって分析される逐次的パターン・マトリクス内の逐次的パターン（ベクトル）の合計数に等しい。センサ次元に沿って外挿する自己連想モデル又は推測モデルの場合、この合計数はｎ_ｌｂ＋１によって与えられ、ルック・バック窓内の各パターンについての推定値ベクトル及び一次（カレント）時点についての推定値ベクトルに対応する。時間次元に沿って外挿する推測モデルの場合には、この合計数はｎ_ｌｂ＋１＋ｎ_ｌａによって与えられ、ルック・バック窓及びルック・アヘッド窓内の各パターンについての推定値ベクトル及び一次（カレント）時点についての推定値ベクトルに対応する。

固定の一時点について多数の推定値ベクトルが計算されるので、状態監視又は診断のためのアルゴリズムを供給するために逐次的カーネル回帰モデルを利用することは、これらのアルゴリズムの多くが、一時点について単一の推定値ベクトルのみが存在することを期待しているという事実によって複雑になる。多数の推定値ベクトルを処理する最も簡単な方法は、単純に、推定値マトリクス内の多数のベクトルの全てではなくより少ない数のベクトルをモデル推定値のソースとして指定して、他のベクトルを無視することである。一形式では、診断分析のために、各推定値マトリクスから推定値ベクトルを１つだけ選択する。典型的には、これは、多数の推定値マトリクスにわたって見ながら任意の固定の一時点について選択される推定値マトリクス内の推定値ベクトルが、該時点がカレント時点（ｔ_ｉ＝ｔ_ｃｕｒ）になったとき、換言すると、最も最近の時点（例えば、図６〜図８の推定値マトリクス内のｔ_ｐ）になったときに生成された推定値ベクトルであることを意味する。入力パターン窓がｔ_ｉを通り過ぎて動いて、ｔ_ｉが新しいカレント時点に対してルック・バック窓の一部になったとき、ｔ_ｉについて計算された新しい推定値データは無視される。換言すると、推定値マトリクス内のカレント・ベクトルｔ_ｐに対して古い又は先行するベクトルは無視される。

多数のベクトル内の情報を利用しながら、多数の推定値マトリクスにわたって固定の各時点について単一の推定値ベクトルを作成又は選択するために、他のより複雑な方法を使用することができる。このような方法は、限定するものではないが、平均、重み付き平均、他の重み付きノルム（２ノルム及びｐノルム）、最大又は最小又はメジアン値、等々を含む。診断分析のために選ばれる推定値ベクトルはまた、その対応するベクトルに対して最大の類似性を持つベクトルとすることができ、重みベクトルを決定するために用いられるのと同様な類似性方程式を使用してもよい。また、これらの方法は、多数の推定値マトリクスにわたる固定の単一の時点よりはむしろ推定値マトリクス内の多数の逐次的時点を表すために各推定値マトリクスについて単一の推定値ベクトルを提供するように適用できることが理解されよう。

時間次元で外挿を行う推測モデルの場合、予知モジュール３４（図１）は、将来推定値マトリクスＸlaを使用することにより、資産の残存有効寿命の計算のような予知アルゴリズムを供給する（又は、別のやり方で記述して、監視対象のオブジェクトの将来の状態又は動作状態を決定する）ことができる。これは、被モデル化センサの外挿推定値のシーケンスが、被モデル化センサの将来の挙動を予測する傾向線であると云う事実に基づいている。システムの時間が進むにつれて、且つ新しい一次ベクトルを含む新しい入力パターン・アレイが形成されるにつれて、新しい将来推定値マトリクスが計算される。上述の他のカーネル回帰モデルと同様に、新しい推定値マトリクスは実質的に以前のマトリクスにオーバーラップし、これは、各時点において各センサについて多数の推定値が作成されることを意味する。

また他のカーネル回帰モデルと同様に、推測時間外挿モデルは、固定の一時点において計算された多数の推定値を、センサの傾向を示すのに適した単一の値まで減らすように考案された様々な方法を使用することができる。最も簡単な方法は、最も最近に計算された推定値マトリクスを選択して、ルック・アヘッド窓内の各々の時点における推定値データを供給することである。具体的に述べると、将来における固定の一時点ｔｉについて、ルック・アヘッド・パターン窓がそれに達したとき、ｔ_ｉ＝ｔ_ｃｕｒ＋ｎ_ｌａ＊Δｔ、それについて推定値ベクトルが生成される。ルック・アヘッド窓が該固定の時点を通過するとき各々の後続の時間ステップで、推定値ベクトルが計算され、これは最後のベクトルと置き換えられる。従って、全ての推定値ベクトルを用いて１つの傾向線が構築され、また推定値ベクトルによって表される各時点（又は固定の時点）についての結果は、推定値マトリクスを構築するために使用されるルック・アヘッド窓を通過したときのベクトルに対応するより最近の推定値によって絶えず更新される。

簡単であることに加えて、この方式は、最も最近に計算された推定値マトリクスのみが使用されるので、動的な変化に素速く反応するセンサ傾向を作成する。傾向線内の推定値データは各々の後続の時間ステップ毎に置き換えられるので、傾向はランダムな変動の影響を受け易い。これは、固定の一時点における傾向値が相次ぐ時間ステップの合間に劇的に変化する可能性があることを意味している。平均、重み付き平均、又は重み付きノルムのような、他のより複雑な方法は、多数の推定値マトリクスにわたって固定の一時点において計算された推定値の２つ以上又は全てを利用して、それについての単一の推定値を生成する。これらの方法によって作成された傾向線は、より滑らかであるが、急速な動的な変化に対して応答し難くなる。予想されるシステムの挙動を表す傾向線を生成するように設計されている上記の方法に加えて、起こり得る挙動の範囲を示す他の傾向線を生成することができる。例えば、各将来時点における最大推定値同士を接続する傾向線を、最小推定値同士を接続する傾向線と結合して、モデルによって生成された結果の範囲を定めることができる。

再び図１について説明すると、前に述べたように、完全推定値マトリクスＸest 又は単一の代表的な推定値ベクトルが、差計算エンジン２０へ送られる。差計算エンジンは、推定値マトリクスを入力パターン・アレイ（Ｘin又はＸnew）から減算し、又は代表的な推定値ベクトルをカレント時点の入力ベクトルから減算する。具体的に述べると、推定値マトリクスからの各々の選択された推定値が、入力パターン・アレイからの対応する入力値から減算される。この残差ベクトルのアレイ又は単一の代表的な残差ベクトルが、次いで、警報モジュール２２へ供給される。警報モジュール２２は、残差データに統計的試験を適用して、推定値及び入力データが統計的に異なっているかどうか決定する。警報モジュール２２は、障害の決定を行うために様々な試験の内のいずれかを遂行する。これは、１つ以上の残差値を用いて規則論理を評価するための規則エンジンを含むことができる。規則は、単純な一変量閾値測定値から、多変量及び／又は時系列論理までの、通常使用されている様々な規則の内のいずれであってもよい。更にまた、幾つかの規則の出力は、例えば、単純な閾値規則を窓付きの警報計数規則（ｙ個のオブザベーションにおけるｘ個の閾値警報）に供給するときのように、他の規則への入力とすることができる。更にまた、統計的手法を残差データについて用いて、それら自身が規則に対する入力となり得る他の測度及び信号を導出することができる。当該分野に公知の多種多様な手法、例えば、限定するものではないが、移動窓統計手法（平均、メジアン、標準偏差、最大、最小、歪み度、尖度など）、統計的仮説検定（例えば、逐次確率比検定（ＳＰＲＴ））、傾向作成、及び統計的プロセス制御（例えば、ＣＵＳＵＭ、Ｓチャート）を含む手法から、適用可能な統計的分析を選択することができる。

警報モジュール２２は、推定値及び入力データの間に差があれば、それがトレーニング中の遭遇しなかった正常動作状態に起因するものであることを決定することができる。この場合、新しい動作状態を表すセンサ・データが、随意選択による適応モジュール３０に供給される。適応モジュール３０は、例えば、ライブラリ１８を介して、該データをモデル１４の習得(learning)に取り入れる。更に、適応モジュール３０は、随意選択により、データ及び／又は残差分析結果についてそれ自身の自動試験を遂行して、どの入力ベクトル又は入力アレイをモデル１４の更新のために使用すべきかを決定することができる。

モデルを適応させるプロセスは、新しい動作状態を表すセンサ・データを、それによりオリジナルのカーネルに基づくモデルが「トレーニング」されたライブラリ内の基準データＨの集合に、追加する段階を有する。最も簡単な実施形態では、全ての基準データがモデル事例として使用され、従ってモデルを適応させることは、新しいセンサ・データをモデルの事例集合に追加することを意味する。逐次的カーネル回帰モデルが設計によってオブザベーション・ベクトルのシーケンスについて動作するので、基準データに追加された新しい動作データは、一シーケンスのオブザベーション・ベクトルで構成しなければならない。任意の適応事象中に追加されるベクトルの最小数は、モデルによって分析される逐次的パターン（ベクトル）の合計数に等しい。前に述べたように、この合計数は、センサ次元に沿って外挿を行う自己連想モデル又は推測モデルの場合はｎ_ｌｂ＋１、又は時間次元に沿って外挿を行う推測モデルの場合はｎ_ｌｂ＋１＋ｎ_ｌａで与えられる。トレーニング方法が、習得逐次的パターン・マトリクスＤ(t) の３次元コレクションを形成するために上述したようなシステム動特性の「代表」として記憶された部分集合へ基準オブザベーションを下方選択するように用いられている場合、新しいシーケンスのオブザベーション・ベクトル（又は、換言すると、入力パターン・アレイ全体）がオリジナルの基準データ集合に追加され、また下方選択手法は、新しい代表的事例集合を導出するために適用され、該集合は新しいオブザベーションの代表を含むべきである。また、下方選択手法を再実行することなく、習得パターン・アレイの下方選択された集合に新しいシーケンスを単に追加することも可能である。更にまた、その場合、モデルから幾つかの習得パターン・アレイを除去して、それらを新しいデータと効果的に置き換えて、モデルが管理可能なサイズに保たれるようにすることは有用であろう。古い習得パターン・アレイを除去する判断基準は、新しい一次時点におけるオブザベーションを古い一次時点におけるオブザベーションと比較して、新しい逐次的パターン・アレイの最も類似するそれらの逐次的パターン・アレイを置き換える上述の方程式を用いたクラスタリング及び類似性決定を含むことができる。

これまで、本発明では、正常動作の期間からの代表的データによりトレーニングされる逐次的カーネル回帰モデルを記述した。このようなモデルがシステム障害を検出及び診断するために使用できることを示した。更に、本発明の時間推測形式では、システムの挙動を将来にまで外挿することができるモデルを生成する。しかし、モデルが正常動作データによってのみトレーニングされるので、障害が進行しているときのそれらのの有用性は、システムの挙動が正常性からだんだん離れるつれて制限される。

障害の進展中に診断及び及び予知を改善するために、障害状態中に収集されたデータ（又は障害モード基準データ）によりトレーニングされた別の逐次的カーネル回帰モデルを利用することができる。これらの障害モデルは、障害がシステム内で進展していることの表示があった後にのみ作動される。障害の表示は、正常なシステムのデータによってトレーニングされた逐次的モデルによって、又は、限定するものでないが、ベクトルに基づくカーネル回帰モデル（例えば、ＳＢＭ）、神経回路網、ｋ平均クラスタリング・モデル、及び規則の基づく障害検出モデルを含む他の多数の手段によって、供給することができる。障害モデルは、監視されている資産についての既知の障害事象の完全な過渡的な履歴によりトレーニングされる。これらの障害事象は、実際の資産についてより早い期間から生じたことがある必要はなく、またそれらは、監視されている資産を実質的に等価な他の機械について生じた障害事象に由来するものであってよい。障害履歴は、障害が最初に表示され時点から、システム故障又はシステム運転停止のような事象の最終状態まで収集された全てのシステム・データで構成される。

当業者には、上記の様々な実施形態に対する修正を様々な態様で為し得ることが理解されよう。また他の変形も行うことができ、これらは本発明の範囲及び精神に含まれる。本発明は「特許請求の範囲」の欄に詳しく記載してある。本発明の精神及び範囲は、本願の教示に精通している当業者に明らかであるように、実施形態に対するこのような修正及び変更を包含するものである。

１０監視システム
１２センサ
２０差計算モジュール
３２入力ベクトル
１００コンピュータ
１０４記憶装置
１０６フィルタ・モジュール
３００プロセス

Claims

オブジェクトの将来の動作状態を決定するための方法であって、
オブジェクトの正常動作状態を示す基準データを得る段階と、
入力パターン・アレイを得る段階であって、各入力パターン・アレイは複数の入力ベクトルを持ち、また各入力ベクトルは時点を表し、且つオブジェクトのカレント状態を示す複数のパラメータを表す入力値を持っている、当該段階と、
少なくとも１つのプロセッサによって、入力パターン・アレイ及び基準データを使用して入力値と基準データとの間の類似性測度を決定する計算に基づいて、複数の推定値を生成する段階であって、これらの推定値は、複数の推測推定値より成る少なくとも１つの推定値ベクトルを含む推定値マトリクスの形式であり、各推定値マトリクスは、複数の入力ベクトルによって表されていない少なくとも１つの時点を表している、当該段階と、
これらの推測推定値を用いて、オブジェクトの将来の状態を決定する段階と、
を有する方法。
前記複数の推定値マトリクスは、複数の入力ベクトルによって表されていない複数の時点を表す複数の推定値ベクトルを含んでいるだけである、請求項１記載の方法。
前記複数の推定値マトリクスは、複数の入力ベクトルによって表された同じ時点を表す少なくとも１つの推定値ベクトルと複数の入力ベクトルによって表されていない時点を表す少なくとも１つの推定値ベクトルとを含んでいる、請求項１に記載の方法。
前記複数の推定値マトリクスは、オブジェクトの状態を示し且つ入力値によって表されていない複数のパラメータを表す複数の推定値を含んでいる、請求項１乃至３のいずれかに記載の方法。
各推定値マトリクスは、カレント時点と、複数の入力ベクトルによって表されていない複数の時点であって、該カレント時点に対して後続の時点である当該複数の時点とを表している、請求項１に記載の方法。
複数の推定値を生成する段階は、複数の類似性測度を用いることによって複数の重み値を生成し、該複数の重み値を基準データと共に計算に用いて推定値マトリクスを生成する段階を有している、請求項１乃至５のいずれかに記載の方法。
前記複数の重み値は重みベクトルの形式であり、
前記重み値と共に計算に用いられる前記基準データは、入力パターン・アレイによって表されていない時点を表す基準値を有しており、
前記複数の重み値と共に計算に用いられる前記基準データは、一次カレント時点を表し、また複数の入力パターン・アレイによって表されていない複数の時点は、カレント時点に対して後続の時点である、請求項６記載の方法。
前記複数の重み値と共に計算に用いられる前記基準データは、複数の習得逐次的パターン・マトリクスの３次元コレクションの形式であり、各習得逐次的パターン・マトリクスは複数の基準値の複数の基準ベクトルを有し、各基準ベクトルは習得逐次的パターン・マトリクス内の異なる時点を表しており、
各習得逐次的パターン・マトリクスは、一次カレント時点と、該一次カレント時点に対して後続の時点を表している複数の時点とを有している、請求項６記載の方法。
前記同じ時点は複数の推定値マトリクス内に表されている、請求項３に記載の方法。
複数の推測推定値を用いる前記段階は、オブジェクトの状態を決定するために用いるための複数の推測推定値を更新するように最も最近の推定値マトリクスを用いる段階を有している、請求項１乃至９のいずれかに記載の方法。
複数の推測推定値を用いる前記段階は、複数の推定値マトリクスにわたる単一の時点を表す単一の推定値ベクトルのための複数の値を供給する段階を有しており、
前記単一の推定値ベクトルは、単一の時点における全ての推定値ベクトルの平均、重み付き平均、又は重み付きノルムを決定することによって生成される、請求項１乃至１０のいずれかに記載の方法。
複数の推測推定値を用いる前記段階は、各推定値マトリクスを表す単一の推定値ベクトルのための複数の値を供給する段階を有しており、
前記単一の推定値ベクトルは、推定値マトリクス内の複数の推定値ベクトルの平均、重み付き平均、又は重み付きノルムを取ることによって生成される、請求項１乃至１１のいずれかに記載の方法。
複数の推測推定値を用いる前記段階は、オブジェクトの予想挙動を示すために複数の推測推定値によって表される少なくとも１つのパラメータについての傾向線を形成する段階を有しており、
各々の新しい推定値マトリクスにより新しい傾向線を形成する段階と、
オブジェクトの予想挙動の範囲を画成するために複数の境界傾向線を形成する段階と、
複数の時点における複数の最大推測推定値により上側境界傾向線を形成し、且つ複数の時点における複数の最小推測推定値により下側境界傾向線を形成する段階を有している請求項１乃至１２のいずれかに記載の方法