JP2001504618A - テクニカルシステムにおける影響量の依存性のニューラルモデリング方法 - Google Patents

Abstract

(57)【要約】 本発明は、テクニカルシステムの影響量のモデリングの際の複雑性を低減させ得る方法であり、この場合全ての影響量の確率密度がニューラルモデルによって次のような形態でモデリングされる。すなわちそれが関与している限り各影響量が他の全ての影響量の依存性においてモデリングされるような形態でモデリングされる。ニューラルモデルの学習のためのデータは、例えば実際のテクニカルシステムに基づいて定められる。本発明による方法の利点は、多数の未知数のもとでも信頼性の高い予測が可能なことであり、あるいは多大なコストと時間をかけてしか測定量を検出することができなかったテクニカルシステムにおいて本発明を適用することによりこの測定量検出のためのセンサを省くことができることである。

Description

【発明の詳細な説明】 テクニカルシステムにおける影響量の依存性のニューラルモデリング方法 従来の技術 本発明は、テクニカルシステムにおける影響量の依存性のニューラルモデリン グ方法に関する。この場合テクニカルシステムの動作のもとで、これらの種々異 なる特性量は、既知のものと未知のものがある。 例えば化学的反応プロセスや製造プロセスなどの技術的プロセスのもとでは次 のような問題が頻繁に生じる。すなわちこれらのプロセスの個々の影響量の検出 において、多くの困難性が伴い、技術的にも非常に複雑で、多大な時間的コスト をかけなければその検出は非常に難しいという問題である。個々の適用ケースに おいては、既知の特性量と未知の特性量がケースバイケースで変化することもあ り得る。それ故に、いずれにせよ個々の影響量のうちのどれが未知であるのかを 、テクニカルシステムの既知の影響量に基づいて検出ないし予測、算出すること が望まれている。これに対しては個々の特性量とそれらの依存性を相互に適切な 手法でモデリングする必要がある。この場合離散的な特性量に対する一般的なモ デルは、影響量の共通の確率を示し、連続的な特性量に対する一般的なモデルは 、共通の確率密度か又は両者の混合形態（離散的特性量も連続的特性量も存在し ている場合）を示す。共通の確率密度の離散的モデリングは、特に連続的な変数 の場合には非常に難しくほとんど実行不可能である。この理由から、技術的プロ セスの影響量を表す個々の変数毎に共通の確率密度を制約的確率密度に基づいて モデリングすることが試みられる。この場合には、個々の影響量の逆行的依存性 が、各変数に基づく確率としてモデリングされる。所定の影響量が直接影響しな い場合には、つまり所定の非依存性が存在する場合には、これを問題の複雑性の 簡易化のために利用することができる。そのようなモデリングにおける問題の複 雑性を低減させるための例は、ベイズネットを用いた共通の確率密度のモデリン グである。このべイズネットとは特殊な密度評価である。この場合個々の変数の 間で制約的非依存性と依存性が方向付けされたグラフによって示される（公知文 献“Fnn V Jensen:,An Introduction to Bayesian Networks,Springer-Ve rlagNew York,Inc.,P1-29(1996)”参照）。この場合共通の確率密度は、制約的 密度の積として属性分配される。個々の変数の間で制約的非依存性が生じている 場合には、個々の要因が簡易化され、共通の確率も制約的確率モデルの量によっ て表される。１つの変数に対する予測モデル、すなわち１つの変数ないし場合に よっては他の全ての変数の制約的確率は、一般に以下の式に よる係数から算出可能である。 しかしながらそのようなベイズネットを用いた問題のモデリングの手法は、多 数の未知変数のもとでは欠点を有している。ベイズネットの方向付けされたグラ フを用いた問題のモデリングと表記によっては、個々の制約的確率に対しその検 出前提として、そのつどの変数の親のみに対して既に与えられた変数が低減され る。それにより、多数の変数の検出の際にはギブスサンプリングを用いて制約的 確率が検出されなければならない問題が生じる。これはベイズネットの表記に対 しては必要がない。この場合特に問題となるのは、制約的確率の既存の変数に関 する依存性（これは所定のものとして受入れられる）が反転した場合である。な ぜなら依存性の反転のもと（この場合は１つの変数、影響する変数の所定の値が 正規分布している）では、反転分布が非常に複雑になり得るからである。 本発明の課題は、ベイズネットを用いたモデリングの欠点は有していない技術 系の影響量の依存性のさらなるニューラルモデリング方法を提供することである 。 前記課題は、請求項１の特徴部分に記載された本発明によって解決される。 本発明のさらに別の実施例は従属請求項に記載され る。 本発明による方法は特に次のような利点を有する。すなわち問題の表記と制約 的確率のニューラルモデリングに対して正確にそれぞれの制約的確率が適用され ることである。これは後にギブスサンプリングを用いた多数の影響量の検索の際 にも適用可能である。これにより、複雑化される算術的な変形が節約される。 特に有利には、本発明の方法によるニューラルモデルの学習の際に、所定の変 数としてそのつどの制約的確率密度のマルコフブランケットの変数のみが与えら れる（公知文献“Judea Pearl:,Probabilistic easoning In Intelligent Systems,Morgan Kaufmann Publishers,Inc.,San Francisco,California,P96- 97(1988）参照”。それにより信頼性を損なうことなく冗長性の回避が可能であ り、初期特性量の迅速な計算能力が与えられる。 本発明による方法のもとでは有利には、他のニューラルモデリング手法のもと でも影響量の依存性がニューラルネットワークのニューロン重み付けの逆追従に よって検出可能である。 本発明の方法によれば有利には、未知の多数の影響量が既知の影響量に基づい て標準ギブスサンプリングを用いて評価され得る。 また本発明の方法によれば有利には、全ての制約的確率をモデリングするため に、時間的にゆとりがあり 計算コストを抑えるべき場合には、唯１つのニューラルネットが用いられるだけ でよい。 特に有利には、１つのニューラルネットを有する個々の各ニューラルモデルが 別個のプロセッサでモデリングされ得る。それにより可及的に迅速にかつ多くの 結果を短時間で得ることができる。 さらに本発明の方法によれば有利には、テクニカルシステムの例えば設定、検 出又は制御すべき影響量が手間をかけずにテクニカルシステム自体にて測定され 得る。 本発明によるニューラルモデリング方法は有利には、影響量としての離散的変 数のみならず連続的な変数に対しても適するものである。 実施例 次に本発明を図面に基づき以下の明細書で詳細に説明する。図面には一例とし て１つのテクニカルシステムＴＰが示されており、これは例えば構成要素Ａ，Ｂ ，Ｃ，Ｄの化学的反応をシンボル化したものである。例えば構成要素Ａは常時付 加される。そのため濃度ＫＡが存在しており、またこれは構成要素Ｂ，Ｃにも分 化する。構成要素Ｂ，Ｃも濃度ＫＢ、ＫＣで存在している。ＡからＣへの移行は 、符号１０で表されており、ＡからＢへの移行は符号３０で表されている。例え ばこの反応は時間に依存して行われてもよい。要素ＣとＢは１つの要素Ｄに対し て反応している。これはプ ロセスにおいて例えば沈殿によって抽出される。これらは矢印２０と４０で表さ れている。ここにおいて個々の濃度ＫＡ，ＫＢ，ＫＣ，ＫＤに対し確率分布のみ が得られるのならば、本発明の方法によればまず全テクニカルシステムが例えば １つの化学的反応において初期の期間監視され、個々の濃度に対する測定値が収 集される。このケースでは共通の確率密度ｐ（Ａ，Ｂ，Ｃ，Ｄ）が望まれるであ ろう。本発明の方法によれば、この問題の複雑性が次のことによって低減される 。すなわち個々の要素毎に制約的確率がニューラルモデルとしてモデリングされ る。このモデルは、実際のシステムから取り出されるデータに基づいて学習可能 である。これに対して例えば目下の問題のもとで制約的確率密度ｐ（Ａ｜Ｂ，Ｃ ，Ｄ）、ｐ（Ｂ｜Ａ，Ｃ，Ｄ）、ｐ（Ｃ｜Ａ，Ｂ，Ｄ），ｐ（Ｄ｜Ａ，Ｂ，Ｄ） がモデリングされる。制約的確率のモデリングのための本発明による方法によれ ば、所定の変数としてマルコフブランケットだけが考慮されるだけでよいので、 制約的確率密度はｐ（Ａ）〜ｐ（Ａ｜Ｂ，Ｃ）、及びｐ（Ｄ）〜ｐ（Ｄ｜Ｂ，Ｃ ）に対し簡易化される。 前述の問題の際に、ＣとＤの値が得られない場合には、これらの値に対するモ デルを介して反復的に到達するためにギブスサンプリングがモデリングされた制 約的確率密度を用いて全ての要素に対して実施される。この場合はこの問題が１ つの例であることに注意し なければならない。本発明による方法は、例えば技術的プロセスにおいて所定の 特性量が得られ、システムの正確な特性の判定のために他の特性量が予測される 診断方法のもとでも非常に良好に使用することができる。ベイズネットを用いた モデリングに対して本発明による方法は次のような利点を有している。すなわち 最も簡単な適用ケースで、他の全ての変数からの１つの変数の予測が著しく簡単 になる利点を有している。その他にも直接のモデリングによって、多数の他のモ デルからの予測モデルの導出よりも正確な予測モデルが予期できる。さらに本発 明による方法は、推進モデルの学習がベイズネットの個々のモデルの学習と同じ ように可能である利点を提供する。しかしながら構造学習は著しく簡単である。 なぜなら変数の順序、すなわちベイズネットの矢印の方向が学習されなくてもよ いからである。 本発明による方法の適用に対するさらなる例として、形成プロセスが挙げられ る。このプロセスでは、生成される各ユニット毎に定められる変数が存在し、複 数の検査からの診断結果に基づいた診断の決定が用いられる。技術的プロセスで は例えば技術的プロセスの影響量として、与えられた種々の化学薬品、温度、最 終生成物の活性度、強度、並びに所定の副産物の濃度が存在する。これらの値の 幾つか、例えば所定の副産物の濃度などは、測定コストがかかり、そのため当該 プロセスの経過がもはや正常に機能しないと思われる場合に限ってまれにその測 定が行われる。この場合の目的は、本発明による方法の使用のもとで、欠けてい る変数を測定可能な変数から予測することであってもよい。これは操作者又は自 動的な方法シーケンスにプロセス制御のためのより良好な判定基準を与えるため である。さらなる目的は特性量の測定の有無と測定すべき特性量の判断を得るた めの自動的な提案であってもよい。またさらにはプロセスの異常を識別したり場 合によってはアラームをトリガすることでもよい。 自動車における診断の例では、例えば種々異なる自動車毎に車両イグニッショ ンキーユニットにおける個別の検査からの診断結果が存在する。例えば自動車に おいては作業時間の節約のために、問題となる検査の一部のみが実施される。こ のような場合に本発明による方法を投入する意義は、所定の欠陥の示唆に対する 確率を検出したり、さらなる診断のための検査の際に予測される結果に関する確 率を提示することであってもよい。この場合のさらなる目的は、さらなる有意義 な診断ステップを提案することであってもよい。この手法は、診断結果を得るた めの技術データのあらゆる方式に対して適用することが可能である。

【手続補正書】特許法第１８４条の８第１項 【提出日】平成１０年８月１９日（１９９８．８．１９） 【補正内容】 からは、ベイズネットの適用下でのテクニカルシステムのモデリングが公知であ る。 しかしながらそのようなベイズネットを用いた問題のモデリングの手法は、多 数の未知変数のもとでは欠点を有している。ベイズネットの方向付けされたグラ フを用いた問題のモデリングと表記によっては、個々の制約的確率に対しその検 出前提として、そのつどの変数の親のみに対して既に与えられた変数が低減され る。それにより、多数の変数の検出の際にはギブスサンプリングを用いて制約的 確率が検出されなければならない問題が生じる。これはベイズネットの表記に対 しては必要がない。この場合特に問題となるのは、制約的確率の既存の変数に関 する依存性（これは所定のものとして受入れられる）が反転した場合である。な ぜなら依存性の反転のもと（この場合は１つの変数、影響する変数の所定の値が 正規分布している）では、反転分布が非常に複雑になり得るからである。 プロセスの経過がもはや正常に機能しないと思われる場合に限ってまれにその測 定が行われる。この場合の目的は、本発明による方法の使用のもとで、欠けてい る変数を測定可能な変数から予測することであってもよい。これは操作者又は自 動的な方法シーケンスにプロセス制御のためのより良好な判定基準を与えるため である。さらなる目的は特性量の測定の有無と測定すべき特性量の判断を得るた めの自動的な提案であってもよい。またさらにはプロセスの異常を識別したり場 合によってはアラームをトリガすることでもよい。 自動車における診断の例では、例えば種々異なる自動車毎に車両イグニッシヨ ンキーユニットにおける個別の検査からの診断結果が存在する。例えば自動車に おいては作業時間の節約のために、問題となる検査の一部のみが実施される。こ のような場合に本発明による方法を投入する意義は、所定の欠陥の示唆に対する 確率を検出したり、さらなる診断のための検査の際に予測される結果に関する確 率を提示することであってもよい。この場合のさらなる目的は、さらなる有意義 な診断ステップを提案することであってもよい。この手法は、診断結果を得るた めの技術データのあらゆる方式に対して適用することが可能である。 請求の範囲 2. 相互に依存する少なくとも２つの影響量からそれらの依存性を検出し、制 約的な確率又は制約的な確率密度のニューラルモデルを、これに依存する影響量 の根底にし、この影響量をマルコフブランケットを用いて学習させる、請求項１ 記載の方法。 3. 影響量の相互依存性を、ニューラルモデルの個々のニューロンにおけるニ ューロン重み付けの入力方向への逆追従によって検出する、請求項２記載の方法 。 4. 少なくとも２つの未知の影響量の検出のために、得られた全てのニューラ ルモデルから供給される値を用いてギブスサンプリングが実施される、請求項１ 〜３いずれか１項記載の方法。 5. 制約的な全ての確率又は制約的な全ての確率密度のシミュレーションのた めに１つのニューラルネットのみが用いられ、その際モデリングすべき制約的確 率又は制約的確率密度毎に、そのつどのモデルに必要な目下のニューロン重み付 けがニューラルネットにおいて設定される、請求項１〜４いずれか１項記載の方 法。 6. ニューラルモデル毎に１つのニューラルネットが制約的確率又は制約的確 率密度のシミュレーションに用いられる、請求項１〜４いずれか１項記載の方法 。 7. 良好でない又は技術的に非常に困難な測定すベき影響量を、テクニカルシ ステムの作動のもとでモデリングだけ行い測定はしない、請求項１〜６いずれか １項記載の方法。 8. 離散的な影響量をモデリングする、請求項１〜７いずれか１項記載の方法 。 9. 連続的な影響量をモデリングする、請求項１〜７いずれか１項記載の方法 。 【手続補正書】特許法第１８４条の８第１項 【提出日】平成１０年１２月２３日（１９９８．１２．２３） 【補正内容】 明細書 テクニカルシステムにおける影響量の依存性のニューラルモデリング方法 従来の技術 本発明は、テクニカルシステムにおける影響量の依存性のニューラルモデリン グ方法に関する。この場合テクニカルシステムの動作のもとで、これらの種々異 なる特性量は、既知のものと未知のものがある。 例えば化学的反応プロセスや製造プロセスなどの技術的プロセスのもとでは次 のような問題が頻繁に生じる。すなわちこれらのプロセスの個々の影響量の検出 において、多くの困難性が伴い、技術的にも非常に複雑で、多大な時間的コスト をかけなければその検出は非常に難しいという問題である。個々の適用ケースに おいては、既知の特性量と未知の特性量がケースバイケースで変化することもあ り得る。それ故に、いずれにせよ個々の影響量のうちのどれが未知であるのかを 、テクニカルシステムの既知の影響量に基づいて検出ないし予測、算出すること が望まれている。これに対しては個々の特性量とそれらの依存性を相互に適切な 手法でモデリングする必要がある。この場合離散的な特性量に対する一般的なモ デルは、影響量の共通の確率を示し、連続的な特性量に対する一般的なモデルは 本発明の課題は、ベイズネットを用いたモデリングの欠点を有さない、テクニ カルシステムにおける影響量の依存性のニューラルモデリング方法及び装置を提 供することである。 前記課題は、請求項１の特徴部分に記載の本発明による方法及び請求項１０の 特徴部分に記載の本発明による装置によって解決される。 本発明のさらに別の実施例は従属請求項に記載される。 請求の範囲 1. テクニカルシステムにおける影響量の依存性のニューラルモデリング方法 において、 ａ）モデリングすべき全ての影響量を検出によって確定し、 ｂ）モデリングすべき全ての影響量に対してニューラルモデルを次のように学習 させ、すなわち各影響量がその影響量の制約的確率ないし制約的確率密度を最大 でも、他のモデリングすべき全ての影響量に依存して、ニューラルモデルとして 得られるように学習させ、該ニューラルモデルの学習に対してはテクニカルシス テムに基づいて測定された及び/又は評価された影響量の値が用いられ、 ｃ）未知の影響量を、ニューラルモデルの少なくとも１つの使用のもとで他の影 響量に基づいて検出することを特徴とする、テクニカルシステムにおける影響量 の依存性のニューラルモデリング方法。 10． ａ）モデリングすべき全ての影響量を検出によって確定し、 ｂ）モデリングすべき全ての影響量に対してニューラルモデルを次のように学習 させ、すなわち各影響量がその影響量の制約的確率ないし制約的確率密度を最大 でも、他のモデリングすべき全ての影響量に依存して、ニューラルモデルとして 得られるように学習させ、 該ニューラルモデルの学習に対してはテクニカルシステムに基づいて測定された 及び/又は評価された影響量の値が用いられ、 ｃ）未知の影響量を、ニューラルモデルの少なくとも１つの使用のもとで他の影 響量に基づいて検出する方法ステップが実施可能であるように方向付けされた少 なくとも１つのプロセッサが、少なくとも１つの影響量の検出のために設けられ ていることを特徴とする、テクニカルシステムにおける影響量の検出のための装 置。

Claims (1)

1. 【特許請求の範囲】 1. テクニカルシステムにおける影響量の依存性のニューラルモデリング方法 において、 ａ）モデリングすべき全ての影響量を確定し、 ｂ）全ての影響量に対してニューラルモデルを次のように学習させ、すなわち各 影響量がその影響量の制約的確率を、他の残っているモデリングすべき最大でも 全ての影響量に依存して、ニューラルモデルとして得るように学習させ、該ニュ ーラルモデルの学習に対してはテクニカルシステムに基づいて測定された及び/ 又は評価された影響量の値が用いられ、 ｃ）検出すべき未知の影響量を、ニューラルモデルの少なくとも１つの使用のも とで他の影響量に基づいて検出することを特徴とする、テクニカルシステムにお ける影響量の依存性のニューラルモデリング方法。 2. 相互に依存する少なくとも２つの影響量からそれらの依存性を検出し、制 約的な確率のニューラルモデルを、これに依存する影響量の根底にし、この影響 量をマルコフブランケットを用いて学習させる、請求項１記載の方法。 3. 影響量の相互依存性を、ニューラルモデルの個々のニューロンにおけるニ ューロン重み付けの入力方向への逆追従によって検出する、請求項２記載の方法 。 4. 少なくとも２つの未知の影響量の検出のために、得られた全てのニューラ ルモデルから供給される値を用いてギブスサンプリングが実施される、請求項１ 〜３いずれか１項記載の方法。 5. 制約的な全ての確率密度のシミュレーションのために１つのニューラルネ ットのみが用いられ、その際モデリングすべき制約的確率密度毎に、そのつどの モデルに必要な目下のニューロン重み付けがニューラルネットにおいて設定され る、請求項１〜４いずれか１項記載の方法。 6. ニューラルモデル毎に１つのニューラルネットが制約的確率密度のシミュ レーションに用いられる、請求項１〜４いずれか１項記載の方法。 7. 良好でない又は技術的に非常に困難な測定すべき影響量を、テクニカルシ ステムの作動のもとでモデリングだけ行い測定はしない、請求項１〜６いずれか １項記載の方法。 8. 離散的な影響量をモデリングする、請求項１〜７いずれか１項記載の方法 。 9. 連続的な影響量をモデリングする、請求項１〜７いずれか１項記載の方法 。 10． 測定手段に代わって少なくとも１つの影響量を検出するために、この影 響量を前記請求項１〜９に記載の方法に基づいてモデリングする手段が設けられ ていることを特徴とする、テクニカルシステムにおけ る影響量の検出のための装置。