JP2009266223A - 診断アルゴリズムのベンチマーク検査方法 - Google Patents
診断アルゴリズムのベンチマーク検査方法 Download PDFInfo
- Publication number
- JP2009266223A JP2009266223A JP2009099115A JP2009099115A JP2009266223A JP 2009266223 A JP2009266223 A JP 2009266223A JP 2009099115 A JP2009099115 A JP 2009099115A JP 2009099115 A JP2009099115 A JP 2009099115A JP 2009266223 A JP2009266223 A JP 2009266223A
- Authority
- JP
- Japan
- Prior art keywords
- data
- parameters
- threshold
- parameter
- sensitivity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0259—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
- G05B23/0297—Reconfiguration of monitoring system, e.g. use of virtual sensors; change monitoring method as a response to monitoring results
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Complex Calculations (AREA)
- Debugging And Monitoring (AREA)
- Test And Diagnosis Of Digital Computers (AREA)
Abstract
【課題】個々の用途に最良の診断アルゴリズムとなるように、ベンチマーク検査を行う。
【解決手段】コンピュータ・システム10は、データの集合を記憶している大容量記憶装置14と、中央演算装置(CPU)12とを備えている。中央演算装置12は、正規化成果エントロピ比パラメータを求め、性能パラメータ・ベクトルを決定して、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定め、複数の閾値パラメータ及び複数のデータ・パラメータを摂動させて、閾値感度パラメータ及びデータ感度パラメータを求める。これにより、診断アルゴリズムは、所定の判断基準に基づいて格付けを行い、弱いアルゴリズムを排除してロバスト性が高いアルゴリズムを選択し展開することができる。
【選択図】図1
【解決手段】コンピュータ・システム10は、データの集合を記憶している大容量記憶装置14と、中央演算装置(CPU)12とを備えている。中央演算装置12は、正規化成果エントロピ比パラメータを求め、性能パラメータ・ベクトルを決定して、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定め、複数の閾値パラメータ及び複数のデータ・パラメータを摂動させて、閾値感度パラメータ及びデータ感度パラメータを求める。これにより、診断アルゴリズムは、所定の判断基準に基づいて格付けを行い、弱いアルゴリズムを排除してロバスト性が高いアルゴリズムを選択し展開することができる。
【選択図】図1
Description
本発明は、障害診断に関し、より詳細には、診断アルゴリズムのベンチマーク検査を行い、予め指定した判断基準に関してアルゴリズムの格付けを行う方法、システム、及びコンピュータ・プログラム製品に関する。
障害とは、機械又はシステムの異常状態を指し、部品、構造体、又はシステム全体の機能不全又は誤動作を含む。障害の発生には、多数の要因が関連しており、一方、これらの要因は多数の徴候と関係がある。障害診断学(diagnostics)又は障害診断(diagnosis)は、障害、要因、及び徴候の関係についての研究である。障害診断は、電気通信システム、半導体製造機器、又は人体のような、システムの振る舞いを予測及び制御するために用いることもできる。
障害診断には、種々の方法を採用することができる。これらには、時系列分析、ファジー理論方法、ニューラル・ネットワーク、事例に基づく推論、確率推論、そして上述の方法の組み合わせ、等の方法を含む。以上の手法を代表する診断アルゴリズムは、障害診断のための種々の用途において利用されている。
障害診断は、例えば、コスト意識が高い航空業界において、かなりの重要視されている。航空機用の特定の診断アルゴリズムは、コスト効果の観点から、それ自体が有益であることを証明しなければならない。その結果、技術者等の要員は、多くの診断アルゴリズム候補の中から最良の診断アルゴリズムを選択するという、困難なことが多い問題に直面する。魅力的なアルゴリズム解決策は多数あるが、実用的な用途は設計資源によって制限される。技術者は多くの中から数個を選出する必要がある。
したがって、種々の診断アルゴリズム同士間でベンチマーク検査を行うことによって、個々の用途に対して最良の診断アルゴリズムを選択することができるシステム、方法、及びコンピュータ・プログラム生産物を実現することが望ましい。最良の診断アルゴリズムを選択する際、見えないデータや場面を正しく一般化できずロバストでないアルゴリズムを排除することができるメカニズムを実現することが望ましい。更に、本発明のその他の望ましい特徴や特性は、以下に続く本発明の詳細な説明及び添付した特許請求の範囲を、添付図面及びこの発明の背景と関連付けて検討することによって、明らかとなるであろう。
一実施形態では、一例に過ぎないが、特定の用途について診断アルゴリズムのベンチマーク検査を行う方法を提供する。正規化成果エントロピ比パラメータを求める。性能パラメータ・ベクトルが、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定めるように、決定される。複数の閾値パラメータ及び複数のデータ・パラメータを摂動させて、閾値感度パラメータ及びデータ感度パラメータを求める。
別の実施形態では、この場合も一例に過ぎないが、特定の用途のための複数の診断アルゴリズムのベンチマーク検査を行うコンピュータ・システムを提供する。記憶装置が、データ集合を格納し読み出す。プロセッサが、記憶装置に接続されている。プロセッサは、正規化成果エントロピ比パラメータを得て、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定めるために、性能パラメータ・ベクトルを決定し、閾値感度パラメータ及びデータ感度パラメータを求めるために、複数の閾値パラメータ及び複数のデータ・パラメータを摂動させるように構成されている。
更に別の実施形態では、この場合も一例に過ぎないが、特定の用途のための複数の診断アルゴリズムのベンチマーク検査を行うコンピュータ・プログラム製品を提供する。コンピュータ・プログラム製品は、コンピュータ読み取り可能プログラム・コード部分が内部に格納されているコンピュータ読み取り可能記憶媒体を備えている。コンピュータ読み取り可能プログラム・コード部分は、正規化成果エントロピ比パラメータを求めるように構成されている第1実行可能部分と、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定めるために、性能パラメータ・ベクトルを決定する第2実行可能部分と、閾値感度パラメータ及びデータ感度パラメータを求めるために、複数の閾値パラメータ及び複数のデータ・パラメータを摂動させる第3実行可能部分とを備えている。
図1は、本発明に関連するコンピュータ環境10の一例を示している。
コンピュータ環境10は、コンピュータ命令又はスクリプトの一部を実行することができる中央演算装置(CPU)12を含む。CPU12は、ハード・ディスク・ドライブ(HDD)又は同様の構成機器のような大容量記憶装置に接続されている。また、CPU12は、不揮発性メモリ、例えば、1つ以上のEEPROM(電気的消去可能プログラム可能リード・オンリ・メモリ)、1つ以上のフラッシュPROM(プログラム可能リード・オンリ・メモリ)、バッテリ・バックアップRAM、これらの組み合わせ等のような、メモリ16にも接続されている。
コンピュータ環境10は、コンピュータ命令又はスクリプトの一部を実行することができる中央演算装置(CPU)12を含む。CPU12は、ハード・ディスク・ドライブ(HDD)又は同様の構成機器のような大容量記憶装置に接続されている。また、CPU12は、不揮発性メモリ、例えば、1つ以上のEEPROM(電気的消去可能プログラム可能リード・オンリ・メモリ)、1つ以上のフラッシュPROM(プログラム可能リード・オンリ・メモリ)、バッテリ・バックアップRAM、これらの組み合わせ等のような、メモリ16にも接続されている。
CPU12は、通信ポート18を通じて、イーサネットLAN(ローカル・エリア・ネットワーク)又はWAN(ワイド・エリア・ネットワーク)のような通信ネットワーク20に接続されている。通信ネットワークは、IEEE802.xx、WiMAX、又は同等の規格等の、1つ以上の無線仕様と互換性のある無線構成機器を含むことができる。さらに、遠隔コンピュータ・システム22及び24が通信ネットワーク20に接続されている。当業者には明らかであろうが、以下で説明するプロセス及びスクリプトを含むコンピュータ・プログラムの一部は、コンピュータ環境10の一部、コンピュータ・システム22及び24、又はそれ以外の場所でも実行することができる。コンピュータ環境10の一部は、以下に記載する方法(methodologies)にしたがって種々の診断アルゴリズムを評価するために用いることもできる。例えば、大容量記憶装置14又はメモリ16は、特定のデータ集合を格納することができ、CPU12が特定の診断アルゴリズムを用いてこのデータ集合を処理する。
図示する実施形態例を含む、診断アルゴリズムを評価するための以下の手法は、2つの判断基準、すなわち非再発設計コスト、及び再発設計コストに基づくと言うことができる。これら2つの判断基準の各々に対応するコスト・メトリック(cost metrics)を定義することができる。開発データは大コスト要素となる可能性があり、非再発設計コストに直接マッピングすることができる。コスト・メトリックは、選択されたアルゴリズムがどのように開発データを用いたかを検出するように、定義される。チューニング可能パラメータは、一旦展開したアルゴリズムをチューニングする際の設計時間に対応し、したがって再発設計コストと見なすことができる。コスト・メトリックは、選択されたチューニング可能パラメータに対して、選択されたアルゴリズムが如何なる感度であるかを測定するように、定義することができる。これらのコスト・メトリックは、アルゴリズムのロバスト性に関して測定することができ、これによって、選択されたアルゴリズムを維持することに伴うコストを反映することができる。以下に記載する実施形態例は、これらのメトリックを計算し、アルゴリズム内部に関する最小限の仮定を行うための種々の手順を例示する。これらの実施形態によって、ユーザはインハウス・アルゴリズム及びサード・パーティ製アルゴリズムの双方を評価することが可能になる。
更に説明するように、個々の診断アルゴリズムが開発又は確認データ集合に対してどのように振る舞うかの指標を与えるために、性能パラメータを用いることができる。これらの性能パラメータを用いると、データ及び/又は閾値/チューニング可能パラメータに関する、アルゴリズムの感度又はロバスト性を定義して求めることができる。この感度値は、感度パラメータ又はメトリックと呼ぶ。以下の説明全体を通じて、データの変化に対する診断アルゴリズムの振る舞い(パフォーマンス)の感度を記述する用語を、「データ感度」と称する。すなわち、データ感度とは、データ変化に対する振る舞いの相対的変化を記述するものである。閾値/チューニング可能パラメータの変化を記述する用語を「閾値感度」と称する。すなわち、閾値感度は、パラメータ変化に対する相対的な振る舞いの変化を記述するものである。
以下の方法論は、多くの学習又はパターン分類アルゴリズムにも適用可能である。以下の方法論を学習アルゴリズムの一群に適用することにより、予め指定された判断基準に関して、アルゴリズムを格付けすることが可能になる。このようにして、例えば、振る舞いが劣るアルゴリズムを排除することができる。
暫定的な事項として、以下の実施形態例の種々の状況に対する適用可能性を広げるために、多数の技術的仮定を行う。診断アルゴリズムは、トリプレット(A、D、T)であると仮定する。ここで、「A」は設計者が選択/開発した任意のデータ主導型学習アルゴリズム(data driven learning algorithm)であり、「D」は、設計者が用いる開発又は訓練データであり、「T」はアルゴリズムAに対する閾値又はチューニング可能パラメータである。Tは、AをDに合わせるために機能的・発見的に選択することができ、又は最適化手順によって求めることができ、あるいは、これら双方によって求めてもよい。アルゴリズムAは、データ主導型であり、単純なパターン分類アルゴリズムでも、複雑な混合アルゴリズムであってもよい。
多くの診断用途では、誤分類割合(PMC)メトリック、真陽性率メトリック、及び偽陽性率メトリックが慣例的に用いられている。これらのメトリックは、例えば、2つのクラスを有する障害検出事例(二進分類問題)にとって有用となる。多数の障害を有する一般的な場面では、混同行列(confusion matrix)が慣例的に用いられている。しかしながら、混同行列を用いてアルゴリズムの振る舞いを比較することは困難である場合がある。受信機運用特性(ROC)曲線及び関連する変形も、種々のアルゴリズムの比較を実証するために広く用いられているが、多クラス分類問題や、複数の閾値/チューニング可能パラメータに依存するアルゴリズムを扱う場合、ROC曲線では、近似が大雑把で低精度となる可能性がある。
以上に鑑み、混同行列を表す要約パラメータを定義することは有用である。したがって、以下の説明全体において、正規化成果エントロピ比(NPER:Normalized Product Entropy Ratio)と呼ばれる代表的メトリックを定義する。全体でMクラスの多クラス分類問題を考慮し、混同行列(CM)は、その要素CM(i,j)が、実際にはクラスiに属する検査/クロス確認データが、FDDアルゴリズムによってクラスjに属すると判断される割合を示すものとする。ここで、1≦i、j≦Mである。正規化成果エントロピ比を定義するために、真陽性率(TPR)、真陰性率(TNR)、陽性予測値(PPV)、及び陰性予測値(NPV)の以下のような定義が必要となる。ただし、Xは関心対象のクラスであり、{1,2,・・・,M}の要素である。
TPR(X)
=Pr(X=クラスが真である場合に、アルゴリズムによって与えられる特定クラス) (1)
TNR(X)
=1-Pr(X=クラスが真でない場合に、アルゴリズムによって与えられる特定クラス)(2)
PPV(X)
=Pr(X=分類器がその特定クラスを選択した場合に、クラスが真である) (3)
NPV(X)
=1-Pr(X=分類器がその特定クラスを選択しない場合に、クラスが真である) (4)
=Pr(X=クラスが真である場合に、アルゴリズムによって与えられる特定クラス) (1)
TNR(X)
=1-Pr(X=クラスが真でない場合に、アルゴリズムによって与えられる特定クラス)(2)
PPV(X)
=Pr(X=分類器がその特定クラスを選択した場合に、クラスが真である) (3)
NPV(X)
=1-Pr(X=分類器がその特定クラスを選択しない場合に、クラスが真である) (4)
クラスXに対するProductRate(X)を次のように定義する。ただし、X=Aの場合(at X=A)とする。
ProductRate(at X=A)=min{TPR(A), TNR(A), PPV(A), NPV(A)}
各パラメータがProductRateThresholdよりも大きい場合
=0 その他の場合
(5)
クラスXに対する正規化成果率(NPR)を次のように定義する。ただし、ΣはXについての加算を表す。
NormalizedProduceRate(at X=A)=ProductRate(at X=A)/ΣProductRate(X)
ΣProductRate(X)>0の場合
=0 その他の場合
(6)
正規化成果エントロピ(NPE)を次のように定義する。ただし、ΣはXについての加算を表す。
NormalizedProductEntropy=ΣNPR(X)*log(NPR(X)-1) (7)
最後に、正規化成果エントロピ比(NPER)を次のように定義する。
NormalizedProductEntropyRatio=NPE/log(M) (8)
なお、最高の分類器(golden classifier)に対して、NPER=1である。
ProductRate(at X=A)=min{TPR(A), TNR(A), PPV(A), NPV(A)}
各パラメータがProductRateThresholdよりも大きい場合
=0 その他の場合
(5)
クラスXに対する正規化成果率(NPR)を次のように定義する。ただし、ΣはXについての加算を表す。
NormalizedProduceRate(at X=A)=ProductRate(at X=A)/ΣProductRate(X)
ΣProductRate(X)>0の場合
=0 その他の場合
(6)
正規化成果エントロピ(NPE)を次のように定義する。ただし、ΣはXについての加算を表す。
NormalizedProductEntropy=ΣNPR(X)*log(NPR(X)-1) (7)
最後に、正規化成果エントロピ比(NPER)を次のように定義する。
NormalizedProductEntropyRatio=NPE/log(M) (8)
なお、最高の分類器(golden classifier)に対して、NPER=1である。
NPERの重要性及びこれが提供する情報は、ProductRate関数自体をどのように定義するかによって、そして、変数TPR、TNR、PPV及びNPVの各々に対する下限がどこかに大きく依存する。これらの下限は、クラス毎にも異なる可能性がある。したがって、全てのクラスに等しい重みを与えつつ、全てのクラスにわたって全ての変数に対して同じ値を下限として用いるとよく、あるいは用途に応じて、変数毎及びクラス毎に下限を個別設定できるようにするとよい。
ProductRate関数は、アルゴリズムが用途の最小限の要件を満たしているか否かチェックするフィルタと見なすこともできる。NormalizeProductRate関数は、クラス全域にわたってProductRateを正規化し、等蓋然性(equiprobableness)、即ち、NormalizedProductrEntropyを測定可能にする。NormalizedProductrEntropyは、アルゴリズムが、用途の要件を満たすことに加えて、クラスの各々を隔離できるか否かを示す。最後に、NPERは、[0、1]以内に留まるように拡縮する。感度パラメータを定義できるようにするために、性能パラメータ・ベクトルPを[PMC、NPER]に固定するとよい。
以上の性能パラメータ・ベクトルPに基づいて、閾値、及びデータに付加されるノイズ(ガウス)に関する(A、D、T)の感度、閾値感度パラメータ、ならびにデータ感度パラメータを定義することができる。
以上の性能パラメータ・ベクトルPに基づいて、閾値、及びデータに付加されるノイズ(ガウス)に関する(A、D、T)の感度、閾値感度パラメータ、ならびにデータ感度パラメータを定義することができる。
Aを診断アルゴリズムとし、Tを閾値パラメータとし、PA(D、T)は、データD、閾値T、及びアルゴリズムAによって得られた性能パラメータ・ベクトルとする。また、T0を元の閾値パラメータのベクトルとし、T1を摂動閾値パラメータのベクトルとする(成分の各々は、ランダムに殆ど1つの端数(fraction)fによって摂動されると仮定する)と、学習アルゴリズムの閾値に対する感度、つまり、閾値感度パラメータは次のように定義される。
閾値感度=ΔPA/ΔT (9)
ここで、ΔPAは、性能ベクトルの差のノルム、ΔTは元の閾値ベクトルと摂動閾値ベクトルとの差のノルムである。このメトリックは、T0の近隣における関数の平滑性を判定するために用いられる。理想的には、閾値パラメータは、プラトー(plateau)即ち底面が広いトラフ(trough)又はバレー(valley)から選択される。加えて、閾値パラメータの選択は、個々の診断アルゴリズムの一般化能力にも関係する。
閾値感度=ΔPA/ΔT (9)
ここで、ΔPAは、性能ベクトルの差のノルム、ΔTは元の閾値ベクトルと摂動閾値ベクトルとの差のノルムである。このメトリックは、T0の近隣における関数の平滑性を判定するために用いられる。理想的には、閾値パラメータは、プラトー(plateau)即ち底面が広いトラフ(trough)又はバレー(valley)から選択される。加えて、閾値パラメータの選択は、個々の診断アルゴリズムの一般化能力にも関係する。
データ感度パラメータを分析するには、所定のスケールに基づいてノイズを導入する。即ち、変数毎にデータからスケールを決定し、この範囲のある割合を、対応する変数に対するノイズとして付加する。スケールは、センサの測定範囲に基づいて決定するとよい。例えば、変数毎にノイズとしてスケールのkパーセントを付加すると仮定する。これにより、次のように表される。
DataSensitivity=ΔPA/(k*0.01) (10)
ここで、ΔPAは性能パラメータ・ベクトルの差のノルムであり、kはスケールに基づいて付加されたノイズの割合である。このメトリックは、データを多少摂動させた後に関数が帯域(円筒)内に残留するか否か判定するために利用される。一実施形態では、数回のモンテ・カルロ試行を実施し、最大(最悪時の)値を、閾値感度よびデータ感動双方の推定値として取り込む。これは、任意の方向における関数の不連続性を容認できない場合もあるからである。
DataSensitivity=ΔPA/(k*0.01) (10)
ここで、ΔPAは性能パラメータ・ベクトルの差のノルムであり、kはスケールに基づいて付加されたノイズの割合である。このメトリックは、データを多少摂動させた後に関数が帯域(円筒)内に残留するか否か判定するために利用される。一実施形態では、数回のモンテ・カルロ試行を実施し、最大(最悪時の)値を、閾値感度よびデータ感動双方の推定値として取り込む。これは、任意の方向における関数の不連続性を容認できない場合もあるからである。
閾値を摂動させる(perturb)ために、診断アルゴリズムの種々の閾値パラメータに対応する成分を有するベクトル(閾値パラメータ・ベクトル)としてTを定義する。T’を求めるために導入する摂動の近似摂動としてfを定義する。tiをTのi番目の成分とし、ti’を、ti’=ti*(1−f)+ti*2*rによって与えられるT’のi番目の成分とする。ここで、rは0と1との間のランダム数である。また、ti’は、ti*(1−f)とti*(1+f)との間のランダム数であり、fが近似端数(approximate fraction)となる理由がこれである。
データを摂動させるために、k%のスケールに基づいて均一のランダム・ノイズを付加することにより、摂動させるデータ行列をDとする。Dの変数毎に範囲を決定する。範囲のk%をnf(ノイズ端数)とする。Dにおけるこの変数のインスタンス毎に、[−nf、+nf]間の1つのランダム数が加算される。これを全ての変数について繰り返し、摂動データ行列を求める。
図2は、上述の説明にしたがって診断アルゴリズムを評価する方法30の一例を示す。方法30は、診断アルゴリズムを表す種々のベクトル、及び前述の種々の関数の代表的パラメータを評価するための連続手法を例示する。上述したように、方法30の種々の部分は、コンピュータ又はコンピュータ・システム、あるいはしかるべく構成したプロセッサによって実行することができる。更に、方法30の種々の部分は、コンピュータ命令の形態をなし、コンピュータ・プログラム製品として具体化することができる。
方法30は、開始すると(ステップ32)、診断アルゴリズムに基づいて混同行列(CM)を評価し、診断アルゴリズムから、TPR、TNR、PPV、及びNPV変数を評価する(ステップ34)。次いで、NPEパラメータを定める(ステップ36)。NPEパラメータから、NPERを定める(ステップ38)。
図示する実施形態では、NPEパラメータを用いてNPERを評価したならば(ステップ44)、次にそれに応じて性能パラメータ・ベクトルを決定する(ステップ46)。
図示する実施形態では、NPEパラメータを用いてNPERを評価したならば(ステップ44)、次にそれに応じて性能パラメータ・ベクトルを決定する(ステップ46)。
そして、閾値パラメータ・ベクトルを定める(ステップ48)。閾値を摂動させることによって、摂動閾値パラメータ・ベクトルを求める(ステップ50)。次いで、閾値感度パラメータを求める(ステップ52)。
前述の閾値分析と同時に、データ行列を定める(ステップ54)。所定のスケールに応じて、ランダム・ノイズをデータ行列に付加する(ステップ56)。データ行列における変数の各インスタンスにノイズを付加して、摂動データ行列を求める(ステップ58)。データ行列及び摂動データ行列パラメータを用いて、データ感度パラメータを求める(ステップ60)。
前述の閾値分析と同時に、データ行列を定める(ステップ54)。所定のスケールに応じて、ランダム・ノイズをデータ行列に付加する(ステップ56)。データ行列における変数の各インスタンスにノイズを付加して、摂動データ行列を求める(ステップ58)。データ行列及び摂動データ行列パラメータを用いて、データ感度パラメータを求める(ステップ60)。
分類器毎に閾値感度パラメータ及びデータ感度パラメータを求めたならば、種々のパラメータ(メトリック)の分析を行うことができる。NPERパラメータ(ステップ62)、そして閾値感度パラメータ(ステップ64)及びデータ感度パラメータ(ステップ66)を、個々の分類器について試験する。この分析から、予め指定されている判断基準に関して、アルゴリズムを格付けすることができる(ステップ68)。例えば、性能が劣るアルゴリズムは、この後の考慮から破棄することができる。これにより、方法30は終了する(ステップ70)。
実世界のデータ集合を用いて、方法30の種々の用途の内の2つの例について、以下に検討する。以下の例では、各診断アルゴリズムが、関連のある訓練アルゴリズム及び関連のある検査アルゴリズムへのインターフェースを提供すると仮定する。また、アルゴリズムの内部が入手可能である必要はないと仮定し、最後に、検査アルゴリズムがクラスの各々に事後確率推定値を与えると仮定する。
第1の例は、インドのテルグ語の母音言語データから成るデータ集合を利用する。第2の例は、航空機用ガス・タービン・エンジンのデータを利用する。インドのテルグ語の母音データ集合は、特徴として3つのフォルマント周波数を構成し、複雑な判断境界を有する6つの重複する母音クラスを構成し、合計で871パターンから成る。ガス・タービン・エンジン・データは、スナップショット・データである。ガス・タービン・エンジン・データは、ファン速度(N1)、高圧軸速度割合(N2)、補正排気ガス温度(EGT)、及び補正燃料流量(FW)等に対応する7つの特徴から成る。これら補正値は、多項式モデルをデータ前処理ステップとして用いることによって得られる。データは、4つのクラスを備えており、その1つが正常時(nominal)に対応し、その他の3つは障害(HPタービン劣化、ブリード・バンド漏れ、突然のEGTセンサ障害)に対応する。合計で6770のパターンがある。
種々のパターン分類アルゴリズム、即ち、ガウス分布による最尤分類器(MLCG:Maximum Likelihood Classifier with Gaussian distribution)、線形主要成分分析に基づく分類器(LPCA: Liner Principal Component Analysis based classifier)、非パラメータ・ベイズ分類器(NPBC: Non Parametric Bayesian Classifier)、k−最近傍分類器(k-Nearest Classifier)、及び分類/診断用ガウス・カーネルを用いたサポート・ベクトル・マシン(SVMG: Support Vector Machine with Gaussian Kernel)が考えられる。各分類器の出力に対して、ソフトマックス変換を適用して、事後確率推定値を求める。前述の例の各々において、数回のモンテ・カルロ・シミュレーションを行う。各シミュレーションにおいて、性能及び感度パラメータの5重クロス確認推定値(five fold cross validation estimate)を求める。最良のアルゴリズムを選択するために、ファジー最大/最小判断基準(Fuzzy Min-Max criterion)を用いる。
言語データ集合の分析結果を、図3の表72に示す。ProductRateに対する閾値を0.65に選択し、分類器の各々について選択したパラメータについては、(1)LPCAが98%異形を保持し、クラスの各々に対する事後確率を求めるために、最小再生誤差を用い、(2)NPBCは3の帯域幅を用い、SVMは、C=1.5及びs=2.5のガウス・カーネルを用い、(3)k−NN−3はk=3を用い、(4)k−NN−5はk=5を用いる。この場合、ファジー最大/最小判断基準の分析により、k−NN−5を最良の診断アルゴリズムと選択する。
ガス・タービン・データ集合の分析結果を、図4の表74に示す。このデータ集合では、ProductRateの閾値に対する理想的な選択は約0.95であるが、例示を明確にするために、これよりも厳格さが緩い0.85を選択する。分類器の各々について選択したパラメータについては、(1)LPCAが98%分散(variance)を保持し、クラスの各々に対する事後確率を求めるために、最小再生誤差を用い、(2)NPBCは5の帯域幅を用い、(3)k−NN−3はk=3を用い、(4)k−NN−10はk=10を用いる。この場合、ファジー最大/最小判断基準の分析により、ガウス分布による最尤分類器(MLCG)を最良の診断アルゴリズムと選択する。
以上の説明では、診断アルゴリズムのチューニング可能パラメータ及び開発データに対する性能パラメータの感度分析を行うための包括的枠組みを規定し、感度メトリックを再発設計コスト及び非再発設計コストにそれぞれ関連付けた。前述の分析を実行した後に、特定の診断アルゴリズムに的を絞ることは、多数の相反する目的、即ち、PMC、閾値感度、及びデータ感度の最小化、ならびにNPERの最大化を同時に最適化しようとする多目的最適化問題(MOP)であると考えることができる。
これらのメトリックは、ユーザが、弱い診断アルゴリズムを除去することによって技術的フィージビリティ段階のゲートから出て、技術的準備レベルでの設計フィージビリティについてこれらよりも優れた診断アルゴリズムを検討にかけるために取り上げるのに役立つ。図5には、種々のアルゴリズムのプロット76が示されており、X軸上に閾値感度、Y軸上にデータ感度を表している。k−NN−3、MLCG、及びLPCAで示す点を通過する太い曲線は、パレート最適集合(パレート前線)における非優勢点を表す。この曲線よりも上にあるアルゴリズムの各々は、除去即ち排除することができる。
特定の診断アルゴリズムに的が絞られると、該アルゴリズムがそのタスクを実行し続けることが通常期待される。しかしながら、監視メカニズムを実施して、特に時間に照らし合わせて、あらゆる性能劣化を報告し、アルゴリズムを保持するか又は交換することも有用な場合がある。これまで説明してきた方法論は、特定の診断アルゴリズムを保持する又は交換するときを知らせるためのベンチマーク検査ツールとして用いることができる。
本明細書全体を通じて、「一実施形態」、「実施形態」又は同様の言語に言及する場合、当該実施形態と関連付けて記載した特定の特徴、構造、又は特性が、本発明の少なくとも1つの実施形態に含まれることを意味する。つまり、本明細書全体を通じて、「一実施形態において」、「実施形態において」、そして同様の言語が現れるときは、必ずしもそうとは限らないが、全て同じ実施形態に言及する。
更に、記載した本発明の特徴、構造、又は特性は、1つ以上の実施形態において、適した仕方であればいかようにでも組み合わせることもできる。以下の記載では、プログラミング、ソフトウェア・モジュール、ユーザ選択、ネットワーク・トランザクション、データベース・クエリ、データベース構造、ハードウェア・モジュール、ハードウェア回路、ハードウェア・チップの例というように、多数の具体的な詳細を提供し、本発明の実施形態の完全な理解が得られるようにした。しかしながら、本発明は、これら具体的な詳細の1つ以上がなくても、又は他の方法、構成要素、素材等を用いても実用化可能であることは、当業者には認められよう。他方、周知の構造、素材、動作等は、本発明の態様を曖昧にするのを回避するために、図示も説明もしていない。
以上、本発明の1つ以上の実施形態について詳細に例示したが、これらの実施形態に対する修正や改造は、特許請求の範囲に明記する本発明の技術的範囲から逸脱することなく行うことができることは、当業者には明らかであろう。
更に、記載した本発明の特徴、構造、又は特性は、1つ以上の実施形態において、適した仕方であればいかようにでも組み合わせることもできる。以下の記載では、プログラミング、ソフトウェア・モジュール、ユーザ選択、ネットワーク・トランザクション、データベース・クエリ、データベース構造、ハードウェア・モジュール、ハードウェア回路、ハードウェア・チップの例というように、多数の具体的な詳細を提供し、本発明の実施形態の完全な理解が得られるようにした。しかしながら、本発明は、これら具体的な詳細の1つ以上がなくても、又は他の方法、構成要素、素材等を用いても実用化可能であることは、当業者には認められよう。他方、周知の構造、素材、動作等は、本発明の態様を曖昧にするのを回避するために、図示も説明もしていない。
以上、本発明の1つ以上の実施形態について詳細に例示したが、これらの実施形態に対する修正や改造は、特許請求の範囲に明記する本発明の技術的範囲から逸脱することなく行うことができることは、当業者には明らかであろう。
Claims (2)
- 特定の用途のための複数の診断アルゴリズムのベンチマーク検査を行う方法であって、
正規化成果エントロピ比パラメータを求めるステップと、
性能パラメータ・ベクトルを決定して、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定めるステップと、
前記複数の閾値パラメータ及び前記複数のデータ・パラメータを摂動させて、閾値感度パラメータ及びデータ感度パラメータを求めるステップと
を備えていることを特徴とする方法。 - 特定の用途のための複数の診断アルゴリズムのベンチマーク検査を行うコンピュータ・システムであって、
データの集合を記憶し、読み出す記憶装置と、
前記記憶装置に結合されているプロセッサであって、
正規化成果エントロピ比パラメータを求め、
性能パラメータ・ベクトルを決定して、複数の閾値パラメータ及び複数のデータ・パラメータを含む複数の感度パラメータを定め、
前記複数の閾値パラメータ及び前記複数のデータ・パラメータを摂動させて、閾値感度パラメータ及びデータ感度パラメータを求める
ように構成されているプロセッサと
を備えていることを特徴とするコンピュータ・システム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/104,039 US7991580B2 (en) | 2008-04-16 | 2008-04-16 | Benchmarking diagnostic algorithms |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009266223A true JP2009266223A (ja) | 2009-11-12 |
Family
ID=41051137
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009099115A Withdrawn JP2009266223A (ja) | 2008-04-16 | 2009-04-15 | 診断アルゴリズムのベンチマーク検査方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7991580B2 (ja) |
EP (1) | EP2128767A2 (ja) |
JP (1) | JP2009266223A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220112650A (ko) * | 2021-02-04 | 2022-08-11 | 주식회사 그린베이스 | 재활용 배터리 평가 시스템 및 방법 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI365416B (en) * | 2007-02-16 | 2012-06-01 | Ind Tech Res Inst | Method of emotion recognition and learning new identification information |
US8965762B2 (en) | 2007-02-16 | 2015-02-24 | Industrial Technology Research Institute | Bimodal emotion recognition method and system utilizing a support vector machine |
US8983170B2 (en) * | 2008-01-18 | 2015-03-17 | Mitek Systems, Inc. | Systems and methods for developing and verifying image processing standards for mobile deposit |
US9842331B2 (en) | 2008-01-18 | 2017-12-12 | Mitek Systems, Inc. | Systems and methods for mobile image capture and processing of checks |
FR2927435B1 (fr) * | 2008-02-08 | 2010-02-12 | Airbus France | Procede et dispositif ameliores pour les operations de diagnostic et de maintenance d'aeronefs |
US9208393B2 (en) | 2010-05-12 | 2015-12-08 | Mitek Systems, Inc. | Mobile image quality assurance in mobile document image processing applications |
US10891475B2 (en) | 2010-05-12 | 2021-01-12 | Mitek Systems, Inc. | Systems and methods for enrollment and identity management using mobile imaging |
US9224098B2 (en) * | 2014-01-10 | 2015-12-29 | Optibrium Ltd. | Sensitivity analysis tool for multi-parameter selection |
US10699195B2 (en) * | 2017-12-15 | 2020-06-30 | Uber Technologies, Inc. | Training of artificial neural networks using safe mutations based on output gradients |
CN109460005B (zh) * | 2018-11-01 | 2021-08-13 | 上海理工大学 | 基于gru深度神经网络的动态工业过程故障诊断方法 |
CN116215293B (zh) * | 2023-05-08 | 2023-07-04 | 广东电网有限责任公司佛山供电局 | 一种电动汽车充电桩运行状态预测方法及装置 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4970725A (en) * | 1989-03-14 | 1990-11-13 | Westinghouse Electric Corp. | Automated system testability assessment method |
US5130936A (en) * | 1990-09-14 | 1992-07-14 | Arinc Research Corporation | Method and apparatus for diagnostic testing including a neural network for determining testing sufficiency |
US5544308A (en) * | 1994-08-02 | 1996-08-06 | Giordano Automation Corp. | Method for automating the development and execution of diagnostic reasoning software in products and processes |
EP0794495A3 (en) * | 1996-03-08 | 1998-07-22 | Hewlett-Packard Company | Automated analysis of a model-based diagnostic system |
US6009246A (en) * | 1997-01-13 | 1999-12-28 | International Business Machines Corporation | Method and system for evaluating intrusive repair for plurality of devices |
US6167352A (en) * | 1997-06-26 | 2000-12-26 | Agilent Technologies, Inc. | Model-based diagnostic system with automated procedures for next test selection |
WO1999054703A2 (de) * | 1998-04-17 | 1999-10-28 | Siemens Aktiengesellschaft | Akustisches diagnosesystem und -verfahren |
US6532426B1 (en) * | 1999-09-17 | 2003-03-11 | The Boeing Company | System and method for analyzing different scenarios for operating and designing equipment |
US6405108B1 (en) * | 1999-10-28 | 2002-06-11 | General Electric Company | Process and system for developing predictive diagnostics algorithms in a machine |
US6591182B1 (en) * | 2000-02-29 | 2003-07-08 | General Electric Company | Decision making process and manual for diagnostic trend analysis |
US6765593B2 (en) * | 2001-01-24 | 2004-07-20 | International Business Machines Corporation | Method and system for evaluating serviceability of a computer system |
US7065471B2 (en) * | 2001-06-18 | 2006-06-20 | Hitachi, Ltd. | Method and system for diagnosing state of gas turbine |
US7050950B2 (en) * | 2001-11-08 | 2006-05-23 | General Electric Company | System, method and computer product for incremental improvement of algorithm performance during algorithm development |
US7139676B2 (en) * | 2002-01-18 | 2006-11-21 | Agilent Technologies, Inc | Revising a test suite using diagnostic efficacy evaluation |
US6751536B1 (en) * | 2002-12-04 | 2004-06-15 | The Boeing Company | Diagnostic system and method for enabling multistage decision optimization for aircraft preflight dispatch |
US7031878B2 (en) * | 2002-12-16 | 2006-04-18 | General Electric Company | Systems and methods for diagnosing the cause of trend shifts in performance data |
US7177785B2 (en) * | 2003-08-22 | 2007-02-13 | Honeywell International, Inc. | Systems and methods for improved aircraft performance predictions |
US7260501B2 (en) * | 2004-04-21 | 2007-08-21 | University Of Connecticut | Intelligent model-based diagnostics for system monitoring, diagnosis and maintenance |
US7050922B1 (en) * | 2005-01-14 | 2006-05-23 | Agilent Technologies, Inc. | Method for optimizing test order, and machine-readable media storing sequences of instructions to perform same |
-
2008
- 2008-04-16 US US12/104,039 patent/US7991580B2/en active Active
-
2009
- 2009-04-01 EP EP09157134A patent/EP2128767A2/en not_active Withdrawn
- 2009-04-15 JP JP2009099115A patent/JP2009266223A/ja not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220112650A (ko) * | 2021-02-04 | 2022-08-11 | 주식회사 그린베이스 | 재활용 배터리 평가 시스템 및 방법 |
KR102431909B1 (ko) * | 2021-02-04 | 2022-08-12 | 주식회사 그린베이스 | 재활용 배터리 평가 시스템 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
US7991580B2 (en) | 2011-08-02 |
EP2128767A2 (en) | 2009-12-02 |
US20090265134A1 (en) | 2009-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009266223A (ja) | 診断アルゴリズムのベンチマーク検査方法 | |
Asadi et al. | Lipschitz continuity in model-based reinforcement learning | |
Fang et al. | Multistream sensor fusion-based prognostics model for systems with single failure modes | |
Coble et al. | Identifying optimal prognostic parameters from data: a genetic algorithms approach | |
US9379951B2 (en) | Method and apparatus for detection of anomalies in integrated parameter systems | |
KR101609017B1 (ko) | 툴 성능 저하 및 미스매치의 검출을 위한 방법 및 시스템 | |
RU2635435C2 (ru) | Система для контроля узла компонентов оборудования | |
US8712929B1 (en) | Dynamic data filtering system and method | |
US20100131800A1 (en) | Diagnostic device | |
US8560279B2 (en) | Method of determining the influence of a variable in a phenomenon | |
CN111291783A (zh) | 一种燃气调压设备的智能化故障诊断方法、系统、终端及存储介质 | |
Zhao et al. | Probabilistic remaining useful life prediction based on deep convolutional neural network | |
KR20190008515A (ko) | 개선된 sax 기법 및 rtc 기법을 이용한 공정 모니터링 장치 및 방법 | |
CN115204248A (zh) | 用于保护网络物理系统的系统、方法及计算机可读介质 | |
Loboda et al. | A benchmarking analysis of a data-driven gas turbine diagnostic approach | |
JP2021184139A (ja) | 管理計算機、管理プログラム、及び管理方法 | |
CN115358291A (zh) | 一种变压器故障诊断方法、介质及系统 | |
Wang et al. | An integrated deep learning-based data fusion and degradation modeling method for improving prognostics | |
Koskoletos et al. | Evaluation of aircraft engine diagnostic methods through ProDiMES | |
Zhou et al. | Parsimonious kernel recursive least squares algorithm for aero-engine health diagnosis | |
Zhang et al. | Guided probabilistic reinforcement learning for sampling-efficient maintenance scheduling of multi-component system | |
US11334053B2 (en) | Failure prediction model generating apparatus and method thereof | |
KR20210105196A (ko) | 플랜트 고장 예지 장치 및 방법 | |
Zhou et al. | A tradeoff between false discovery and true positive proportions for sparse high-dimensional logistic regression | |
Gu et al. | Improved similarity-based residual life prediction method based on grey Markov model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20120703 |