JP2862153B2 - 規則ベースコンピュータシステム、該規則ベースコンピュータシステムによって実行される規則を呼出す方法、及び該規則ベースコンピュータシステムによって実行される増分機能学習方法 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は“人工知能”として知ら
れるコンピュータ援用情報及び知識処理の分野に関し、
具体的には安全保護監査のような時間ベース表現を使用
する領域に適用可能な帰納学習エンジンのための記号規
則呼出しに関する。

【０００２】

【発明の背景】“人工知能”はディジタルコンピュータ
を使用して人間の知能挙動の性能を真似る方法及び装置
の開発を目指すものである。人工知能の重要な目標は経
験から学習する能力をコンピュータに与えることであっ
て、これは知能挙動の中の最も顕著な特色の１つであ
る。コンピュータはこの能力によって人間が説明しにく
い複雑な概念を学習し、また環境変化に順応することが
できる。さらに、コンピュータのこのような学習能力に
よって人間は、過保護なコンピュータに特定の機能を遂
行させるために要する知識を与える単調な仕事から解放
される。 最新の知識ベースシステムは、知識を取得す
るために“演繹”推論技術を使用している。この技術で
は、一般的な原理（または規則ベースシステムの場合に
は規則）をエキスパートから取得して知識ベース内に記
憶する。このようにして取得した知識は一般に発見的で
ある。つまり、この知識は、特定の定義域のエキスパー
トが彼等自身の経験を通して開発した事実及び経験的結
合即ちパターンを表す。

【０００３】演繹知識ベースシステムは、それらが含む
知識の量、種類及び精度によって必然的に制限される。
即ち、演繹知識ベースシステムは、典型的にはシステム
が含んでいる知識の定義域内の環境についてのみ使用可
能である。もしシステムが予期していない環境とか、そ
の定義域外の環境に遭遇すると、システムは援助を提供
できなくなる。さらに、この型の発見的知識は、それを
検証し更新することが困難であるために実用が制限され
ることが屡々である。 従って、コンピュータがエキス
パートから知識を取得するのではなく、またはこのよう
な取得の外に、知識を直接取得することが望ましい。知
識を直接取得する一方法は、特定の定義域内の例からそ
の定義域内の知識を推論する“帰納”推論技術を使用す
ることである。帰納学習システムは、定義域の例として
与えられる情報から一般化された記述またはパターン
（規則ベースシステムの場合には規則）を生成する。こ
れらの例はその定義域における実際の操作から、または
模擬モデルから収集したデータであってよい。

【０００４】知識取得には、時間ベースプロセスの観察
から時間ベース記号パターン（または規則）を増分（イ
ンクリメンタル）取得するという特殊な問題がある。時
間ベースプロセスの観察は、特定時点におけるプロセス
の状態を一組の属性によって表す“事象”の形を取るこ
とができる。“エピソード”は、時間的に発生する事象
の順序からなる。

【０００５】時間ベースプロセスに適用される帰納学習
の目標は、プロセスの特徴を表すための、または爾後の
事象を予測するために使用可能な、パターン（記号規則
の形で表される）を発見することである。即ち、各規則
は、発生しそうな次の事象を合理的な精度で予測する順
次パターンを記述することができる。 順次パターンの
特徴を表す簡単な規則の例を以下に示す。 ｅ1 −ｅ2
−ｅ3 →（ｅ4 ＝９５％；ｅ5 ＝５％）この規則は、も
し事象ｅ1 に事象ｅ2 が後続し、事象ｅ2 に事象ｅ3 が
後続するものとすれば、それまでの観察から、ｅ4 が９
５％の確率で後続するであろうこと、またｅ5 が後続す
る確率は５％であろうことを示している。 以下に示す
のは、事象の順序から一組の仮説（即ち、記号規則の形
で表されるパターン）を生成する簡易例である。各文字
がエピソード内のある事象を表すものとして、Ａ Ｂ
Ｃ Ｓ Ｔ Ｓ Ｔ Ａ Ｂ Ｃ Ａ Ｂ Ｃなるエピ
ソードから規則を発見するものとすれば、以下のような
仮説を生成することができる。

【０００６】ｈ1 ：Ａ−Ｂ→（Ｃ＝１００％） ｈ2 ：Ｃ→（Ｓ＝５０％；Ａ＝５０％） ｈ3 ：Ｓ→（Ｔ＝１００％） ｈ4 ：Ｔ→（Ａ＝５０％；Ｓ＝５０％） 仮説ｈ1 、ｈ2 、ｈ3 、ｈ4 は、プロセス内に何が起こ
りつつあるのかを明らかにする代替の説明とみることが
できる。

【０００７】増分帰納学習では、維持されている規則は
新しい事象が発生すると動的に変更される。先行事象か
ら取得した知識を使用するので、増分的に学習する能力
が重要である。この能力がなければ、新しい事象または
エピソードが発生する度にスクラッチからある概念を学
習しなければならないから、学習プロセスが極めて非効
率的になる。

【０００８】規則ベース内に最終的に質の高い規則だけ
を残すように仮説を生成し、変更すべきである。質の高
い規則または仮説は、特に、（１）高レベルの確信と
（２）高精度の予測及び構文上の複雑さの特性を有して
いる。 高レベルの確信は、できる限り多くのデータ点
をカバーする規則によって達成される。つまり、新しい
データ点もしくは順序内の事象に対して規則を試験し、
有効性を検証する回数が多い程、確信レベルが高くなる
のである。これらの規則は、高頻度で繰り返す型のパタ
ーンを表す。

【０００９】予測の精度は、既知のデータ点と規則とを
突き合わせた時の予測のでたらめさの程度を表す“エン
トロピ”の形で表現される。規則のエントロピは［数
１］によって定義される。

【数１】 ここで、数１において、ｐｉは規則に指定された条件の
下で事象ｉが発生する確率である。図１は、エントロピ
値を最小にし、カバー範囲を最大にすることによって、
如何に“良い”質のパターンが見出されるかを示す。
“良い”パターンは、“−”によって表される、従って
極めて低いエントロピを有する１つの型のデータ点をカ
バーまたは説明する。これは全ての“−”データ点を説
明するから、最大のカバー範囲をも有する。一方“悪
い”パターンはその予測のでたらめさの程度が高く、従
って高いエントロピを有している。これはほぼ同数の
“−”及び“＋”データ点をカバーするから、その予測
の有効性には限界がある。 定義によれば、右側（即ち
生じ得る結果の集合）の確率分布がばらついている規則
は低いエントロピを有する。例えば以下に示す例では、
ばらついた確率分布を有する規則ｒ１のエントロピは、
規則ｒ２のエントロピよりも遥かに低い。 ｒ１：ｅ１
−ｅ２→（ｅ３＝９５％；ｅ４＝２％；ｅ５＝３％）
ｒ２：ｅ６−ｅ７→（ｅ８＝３０％；ｅ９＝３０％；ｅ
１０＝４０％）低エントロピの一組の生じ得る結果の中
の１つが真実に近いらしいことを学習できるから、理論
的にはエントロピを下げると情報が増加する。従って増
分帰納学習のプロセス全体を、表面的にはランダムなデ
ータから可能な限り多くの情報を抽出するための試みと
見ることができる。

【００１０】図２は増分帰納学習システムの簡易ブロッ
ク線図である。新たに発生した事象が帰納学習エンジン
１０へ入力される。帰納学習エンジン１０はディジタル
コンピュータ上で作動するコンピュータプログラム内に
実現される。規則ベース１２は上例のような形の記号規
則を含み、ディジタルコンピュータのメモリ内に記憶さ
れている。帰納学習エンジン１０は規則ベース１２内に
規則を維持し、新しい事象に応答して動的にそれを変更
する。

【００１１】帰納学習エンジン１０は、規則ベース１２
内の規則を評価し変更するために、特定の定義域に適用
可能なある背景知識１４をも使用できる。背景知識１４
は、例えば始めのデータ内には存在しない新しい属性を
生成する建設的な帰納規則を含むことができる。また背
景知識１４は、尤もらしい仮説を生成する際に帰納学習
エンジンを援助することができる定義域のモデルを含む
ことができる。 図２に示す型の帰納学習エンジンは１
９８８年のイリノイ大学コンピュータ科学部門のＫ．チ
ェンの博士論文「一時的知識を取得する帰納エンジン」
に記述されている。

【００１２】帰納学習エンジンが遂行する機能の１つ
は、規則ベース１２内の規則の中で、新しい事象によっ
て影響を受け、また新しい事象によって改善される確率
が最も高い規則はどれかを決定することである。これは
“規則呼出し”として知られている。従来、新しい事象
を含む事象の順序の特徴を最も良く表すのはどの規則か
を決定するために、規則ベース内の全ての規則を呼出す
ことが行われてきた。しかし大きい規則ベースでは、特
にリアルタイム応用の場合には、全ての規則を呼出すこ
とは非実際的である。規則呼出しは規則対事象パターン
突き合わせを含むが、これはコンピュータ資源に関して
は不経済なプロセスである。 代替として、例えば質が
“最良”の若干数の規則だけを選択するような所定の基
準に基づいて、規則ベース内の規則の部分集合を呼出す
ことができる。しかしこの技術でさえも、部分集合内の
全ての規則に対して不経済な規則対事象パターン突き合
わせを遂行しなければならないことが欠点である。一般
に規則ベースの質を維持するためには、部分集合内の規
則の数を十分に大きくしなければならないが、そのため
にリアルタイム処理が困難乃至は不可能になる。

【００１３】

【発明の概要】従って本発明の目的は、規則の質を保存
しながら不経済な規則対事象パターン突き合わせを最小
にすることによって、帰納学習エンジン内の規則呼出し
メカニズムを改良することである。この目的は、仮説と
して試験される規則を、それらの情報内容または“質”
値に従って先ずランク付けすることによって達成され
る。次に、遥かに良い仮説が既に存在している場合には
その仮説を無視することによって、新しい事象の特徴を
表すための規則対事象パターン突き合わせプロセスの効
率を高める。つまり、同一の事象の順序の特徴を表すの
に、他の仮説と競争的な仮説が不経済なパターン突き合
わせプロセス内に入ることを阻止するのである。しかし
類似の質値を有する仮説は保持され、さらなる事象によ
って曖昧さが除かれるのを待つ。同様に無視された仮説
は、そのエピソードの他の部分においてはパターン突き
合わせプロセスに入ることが許される。これは、最終的
には“良い”に転ずるかも知れない仮説が失われる可能
性を低下させることになる。 詳述すれば、本発明によ
る規則呼出し方法は、各々が対応付けられた質値を有し
且つ時間に関係付けられた事象の順序の特徴を表す複数
の規則を使用する規則ベースコンピュータシステム内で
実施される。本方法はコンピュータシステムによって実
行される、規則を質値の降順に選択する段階と、事象の
順序の特徴を表す他のどの規則の質値より所定量だけ小
さくない質値を有し且つ事象の順序の特徴を表す規則を
見出す段階と、各事象にその事象を含む順序の特徴を表
すことが見出された規則を用いてタグを付ける段階とを
備えている。 本方法の好ましい実施例では、見出し段
階は、順序内のある事象が既に規則の１つを用いてタグ
を付けられているか否かを決定する副段階と、もしその
事象がまだタグを付けられていなければ、選択された１
つの規則がその事象を含む順序の特徴を表すか否かを試
験する副段階とを含む。さらに見出し段階は、既にタグ
を付けられているある事象について、その事象にタグを
付けた規則の質が上記選択された１つの規則の質より所
定量だけ大きいか否かを決定する副段階と、その事象に
タグを付けた規則の質が上記選択された規則の質より所
定量だけ大きくなければ、上記選択された１つの規則が
その事象を含む順序の特徴を表しているか否かを試験す
る副段階をも含む。

【００１４】同様に、各々が対応付けられた質値を有し
且つ時間に関係付けられた事象の順序の特徴を表す複数
の規則を使用する本発明による規則ベースコンピュータ
装置は、事象の順序の特徴を表す規則の集合を記憶する
記憶手段と、この記憶手段に結合され、集合内のどの規
則がこの順序の特徴を最も良く表しているかを決定する
規則呼出し手段とを具備する。この規則呼出し手段は、
集合内の規則に質値の降順にランク付けするランク付け
手段と、このランク付け手段に結合され、集合内の次の
規則が事象の順序の特徴を表しているか否かをランク順
に決定するパターン突き合わせ手段と、このパターン突
き合わせ手段に結合され、各事象にその事象を含む事象
の順序の特徴を表していることがパターン突き合わせ手
段によって決定された規則を用いてタグを付けるタグ付
け手段と、ランク付け手段とパターン突き合わせ手段と
に結合され、低めにランク付けされた規則の質値と、あ
る事象にタグを付け高めにランク付けされた規則の質値
とを比較し、高めにランク付けされた規則の質値が低め
にランク付けされた規則の質値よりある所定量だけ大き
くなければ、パターン突き合わせ手段へ入力するための
次の規則として低めにランク付けされた規則を選択する
コンパレータ手段とを具備する。本発明の好ましい実施
例においては、装置はさらに、記憶手段に結合され且つ
規則呼出し手段に応答して事象の順序の特徴を表す新し
い規則を生成する規則生成手段をも含む。

【００１５】以上に加えて本発明は、コンピュータプロ
グラム論理を記録し、コンピュータが読み取り可能な媒
体を有するコンピュータプログラムプロダクト内で実施
することができる。本発明による方法及び装置は、どの
規則が事象の順序の特徴を最も良く表しているかを規則
の質を使用して決定することによって、帰納学習エンジ
ンの効率を高める。この情報を使用して規則対事象パタ
ーン突き合わせプロセスを減らすことによって、良質の
規則の集合に向かう収束を著しく劣化させることなく、
帰納学習エンジンの性能を大幅に改善することができ
る。このような劣化は、より新しい事象に対しては良質
の規則に転ずるかも知れない低質の規則を保存すること
によって阻止されるのである。

【００１６】以上の一般的な説明も、以下の詳細な説明
も単なる例示に過ぎず、本発明を制約するものではない
ことを理解されたい。以下に添付図面に基づいて本発明
の実施例を説明する。

【００１７】

【実施例】図３は、図２の帰納学習エンジン１０の基本
要素のブロック線図である。帰納学習エンジン１０は３
つの基本部分、即ち規則呼出し部分２０、規則生成部分
２２、及び規則評価部分２４を含む。規則呼出し部分２
０は、入力として、新しい事象と規則ベース内の規則と
を受ける。規則呼出し部分２０は、後述するように、規
則ベース１２内のどの規則が新しい事象を含む事象の順
序の特徴を最も良く表し、且つこの新しい事象によって
さらに改善される最大の可能性を有しているかを決定す
る。 規則呼出し部分２０から呼出された規則（または
仮説）は、規則生成部分２２において新しい事象をカバ
ーする満足すべき規則が見出されるまで一組のリファイ
ンメントオペレータ２４を使用して変更される。最も簡
単に言えば、規則リファインメント手段は、（１）仮説
が過度に特殊化されると（例えば仮説が若干の正の例を
カバーしなくなると）その仮説をより一般化させ、
（２）規則が過度に一般化されると（例えば仮説が負の
例をカバーすると）その規則をより特殊化させることに
よって、仮説を変更する。

【００１８】規則評価部分２６は、規則生成部分２２か
らの変更済仮説を評価して、これらの新しい仮説が予め
定義された若干の基準を満足するか否かを決定する。こ
れらの基準は、規則のエントロピと、確信レベルと、規
則の構文上の複雑さとに基づく規則の質を含んでいてよ
い。例えば右側内の同一事象を説明するために、左側に
より少ない条件を有する規則のようなより簡単な規則の
方が、より複雑な規則よりも好ましい。これらの基準を
満足する仮説が規則ベース１２へ戻される。規則呼出し
部分２０は、どの規則が新しい事象を含む事象の順序の
特徴を最も良く表すかを決定するために、規則と事象と
の間のパターン突き合わせを必要とする。このプロセス
は必然的に、ある規則の左側及び右側内の条件と順序内
の事象とを突き合わせて、その規則が新しい事象を含む
順序をカバーするか否かを決定することを伴う。もし規
則の左側の条件が先行事象順序によって満足されたこと
をパターン突き合わせプロセスが決定すれば、その新し
い事象は、規則の右側も満足したか否かに依存して、規
則の正または負の例として分類される。もし順序内の事
象が規則の左側の条件を部分的に満足しているにも拘ら
ず、右側とも一致していれば、その規則は更なる変更を
必要としよう。そうでなければ、この事象の順序は結局
はこの規則と一致せず、従ってこの規則には無関係であ
る。帰納学習エンジンの処理速度を増加させるために、
本発明による規則呼出し部分２０は、（１）規則ベース
から入手した仮説を、質値の降順に従ってランク付け、
（２）その事象にその事象をカバーする仮説を用いてタ
グを付け、（３）もしあるエピソード内のある事象が遥
かに良い仮説によってカバーされていたならば、不経済
な規則対事象パターン突き合わせプロセスを阻止するこ
とによってそのエピソードの実効長を縮小させることに
よって、不経済な規則対事象パターン突き合わせプロセ
スを縮小乃至は排除する。

【００１９】詳述すれば、新しい事象を含む順序の特徴
を表すために使用される規則ベース１２からの規則は、
最良の仮説が質値の降順に最初に検討されるようにラン
ク付けされる。規則または仮説の質値は、少なくとも部
分的に、エントロピで表現することができる予測の精度
と、その規則の過去の有効性を表す確信レベルとによっ
て決定される。

【００２０】仮説は、構文上の複雑さ、普遍性、及び重
要度のような他の基準に基づいてランク付けすることも
できる。複雑さに関して言えば、他のすべての要因が同
じであるとして、より簡単な規則の方がより複雑な規則
よりも好ましい。普遍性については、より普遍的な規則
はより大きい説明力を有し、従ってより特殊化された規
則よりも好ましい。また重要な事象の特徴を表すか、ま
たは予測する若干の型の規則に、あるレベルの重要度を
割り当ててもよい。 これらの全ての基準は、所与の仮
説の関数“Ｑ”内で重みを付け、組み合わせることがで
きる。特定の重み及び組み合わせは、このシステムを使
用する定義域と、このシステムが達成しようとしている
目標とに依存しよう。関数“Ｑ”は一般に、少なくとも
エントロピのある組み合わせと、仮説の確信レベルとを
含むであろう。

【００２１】事象の順序からなる新しいエピソードを処
理するに当たって、本発明による規則呼出し部分２０
は、規則対事象パターン突き合わせによってその事象を
カバーすることが決定された仮説を用いて順序内の事象
にタグを付ける。もしある事象が少なくとも１つの仮説
を用いてタグが付けられ、従ってその仮説によってカバ
ーされていれば、爾後の、質が遥かに低い仮説は不経済
なパターン突き合わせプロセスから除外される。

【００２２】質が遥かに低い仮説を考慮から除外しつ
つ、これらのタグを使用してエピソードの実効長を縮小
させるメカニズムを“順序縮小”と呼ぶ。図４にエピソ
ードを幾つかの仮説に亙って縮小する簡易例を示す。エ
ピソードＥは８つの事象ｅ1 、ｅ2 、ｅ3 、ｅ4 、ｅ5
、ｅ6 、ｅ7 及びｅ8 からなる。仮説ｈ1 、ｈ2 、ｈ3
及びｈ4 は次のようにランク付けされている。

【００２３】 Ｑ（ｈ１）＞＞Ｑ（ｈ２）＞Ｑ（ｈ３）＞＞Ｑ（ｈ４） ここでＱ（ｈｉ）は、仮説ｈｉの質を表す。従って、規
則対事象パターン突き合わせは、ｈ１、ｈ２、ｈ３及び
ｈ４の順番に行われる。図４に示すように、第１の仮説
ｈ１は、エピソード内の８事象の中の３事象をカバーす
る。即ち、事象ｅ１、ｅ２及びｅ７は、仮説ｈ１でタグ
が付けられる。試験は、Ｑ（ｈ１）がＱ（ｈ２）よりも
実質的に大きいということを決定して、事象ｅ１、ｅ２
及びｅ７は、このエピソードから実効的に除去され、こ
のエピソードの実効長は、僅か５になる。実質的に低い
質を有する仮説ｈ３及びｈ４も、それらが仮説の質試験
に基づきｈ１に対して低質なので、事象ｅ１、ｅ２及び
ｅ７に対する考慮から除外され、不経済な規則対事象パ
ターン突き合わせプロセスにエンターしない。

【００２４】仮説ｈ２は、２つの事象ｅ３及びｅ４もカ
バーして、実効エピソード長を３に縮小する。この例に
おいて、Ｑ（ｈ２）がＱ（ｈ３）よりも実質的に大きく
ないものとすれば、仮説ｈ３は、同じ事象ｅ３、ｅ４、
ｅ５、ｅ６及びｅ８に対するパターン突き合わせにエン
ターする。図４に示すように、仮説ｈ３がｅ３をカバー
するならば、ｅ３は、ｈ３と同様にｈ２でもタグが付け
られる。また、図示するように、ｅ８は、ｈ３でタグが
付けられて、実効エピソード長を２に縮小する。仮説の
質試験に基づきｈ３よりも遥かに劣る仮説ｈ４は、残っ
た事象の１つｅ４だけをカバーし、４つの現存仮説によ
って事象ｅ６を未説明のままにする。

【００２５】呼出された仮説、即ち新しい事象を含む事
象の順序の特徴を表していると決定されたかまたは現存
仮説によっては説明されない事象の質に対して最良であ
る仮説は、帰納学習エンジン１０の規則生成部分２２へ
入力される。使用される帰納学習戦略により、呼出され
た規則は、新しい事象をカバーすべき満足な規則が見出
されるまで一組のリファインメントオペレータ２４を用
いて変更されうる。

【００２６】図５は、本発明の１実施例による帰納学習
エンジンの規則呼出し部分の動作の順序の流れ図であ
る。最初の段階３０において規則呼出し部分は、エピソ
ード内の新しい事象の説明について試験される仮説の形
の規則を、規則ベースから入手する。選択された規則
は、規則ベース内の全ての規則であっても、または部分
的に質もしくは他の基準のある尺度に基づいている規則
の部分集合であっても差し支えない。

【００２７】段階３２において規則呼出し部分は、選択
された仮説を、少なくとも部分的に仮説の質に基づく所
定の関数Ｑに従ってランク付けする。爾後の諸段階にお
ける規則対事象パターン突き合わせは、高めにランク付
けされた仮説が最初に処理されるように、ランクの降順
に行われる。段階３４は第１制御ループの最初の段階で
あり、この段階では段階３２において決定された次のラ
ンクの仮説ｈi を入手する。各仮説は、所与のエピソー
ドの全ての事象に対して一時に１つ処理することが好ま
しい。同様に、段階３６は第２制御ループの最初の段階
であり、この段階では順序内の次の事象ｅj をエピソー
ドから入手する。

【００２８】段階３８及び４０において規則呼出し部分
は、現仮説ｈi 及び現事象ｅi を規則対事象パターン突
き合わせプロセスへ入力するか否かを決定する。これ
は、先ず段階３８において、事象ｅj が既に他の仮説ｈ
e を用いてタグを付けられ、その仮説がその事象をカバ
ーしているか否かを決定することによって達成される。
もし否ならば、段階４２において仮説ｈj 及び事象ｅj
はパターン突き合わせ手段へ入力され、ｈj がｅj をカ
バーするか否かが判定される。 しかしもし事象ｅj が
他の仮説ｈe を用いてタグ付けされていれば、段階４０
において２つの仮説ｈe 及びｈi のＱ関数が比較され
る。もしＱ（ｈe ）がＱ（ｈi ）より遥かに大きけれ
ば、即ちもしＱ（ｈe ）がＱ（ｈi ）より所定の差Ｄだ
け大きければ、仮説ｈi は事象ｅj に関するそれ以後の
考慮から排除される。そうでなければ、仮説ｈi 及び事
象ｅj は段階４２においてパターン突き合わせ手段へ入
力される。

【００２９】段階４２においてパターン突き合わせ手段
は、現仮説ｈi が現事象ｅj をカバーするか否かを決定
する。もしカバーすれば段階４４において、仮説ｈi を
用いて事象ｅj にタグが付けられ、事象ｅj が仮説ｈi
によってカバーされたことを示す。次いで段階４６は、
段階４２における規則対事象パターン突き合わせが成功
であったか否かに依存して、現仮説ｈi のＱ関数を他の
仮説との比較に使用するために更新する。例えば、エン
トロピによって表される仮説の予測精度と、それまでに
仮説が呼出された回数によって表される確信レベルの両
方が、パターン突き合わせプロセスの結果として変更さ
れよう。 現仮説ｈi に関連して処理すべき事象がエピ
ソード内にそれ以上存在しなければ、段階４８において
第２制御ループから出る。未だ存在していれば、プログ
ラム制御は段階３６に戻されてエピソード内の次の事象
を入手して、処理を続行する。

【００３０】同様に、段階５０において規則ベースから
選択された群に試験すべき仮説がそれ以上存在しないこ
とが判定されると、第１制御ループから出て新しいエピ
ソードの縮小が完了する。未だ存在していれば、プログ
ラム制御は段階３４に戻されて次の仮説を入手し、その
仮説についてのエピソードの処理を続行する。最後に段
階５２において、帰納学習エンジン１０の規則生成部分
２２へ入力するために、Ｑ関数に従って仮説を再順序付
ける。 本発明による規則呼出しメカニズムは、大量の
データから順次パターンを発見するために使用される増
分帰納学習のどのようなシステムにも適用可能である。
また本発明自体は、順序トランザクション処理、製造品
質制御、回路網診断、適応利用者インタフェース、銀行
会計処理監査のような領域、または傾向もしくはパター
ンの発見が重要な他の領域に適用可能である。 現在本
発明の使用が企図されている１つの特定領域は、コンピ
ュータ安全の領域である。帰納学習エンジンは、例えば
コンピュータシステムの種々の利用者の活動の順序を記
述する利用者プロファイルを表す規則を生成するために
使用することができる。これらの利用者プロファイルを
使用して、システムへの無許可侵入、または適合利用者
による不正活動を検出することができる。例えばコンピ
ュータ安全の領域においては、事象は、システム監査証
跡内の安全記録、または通常はコンピュータのオペレー
ティングシステムに組み込まれ、命令インタプリタによ
って翻訳される対応命令パラメタ及び修飾子を含むシェ
ルコマンドであることができる。監査証跡またはコンピ
ュータ利用者の命令順序内に順次パターンが存在してい
るものとすれば、帰納学習エンジンを使用して利用者プ
ロファイルを表す規則を増分的に生成することができ
る。次いでこれらの規則を使用して、利用者の確立済挙
動プロファイルから逸脱した異常な活動を検出したり、
または利用者の確立済プロファイル内での正当に認めら
れていない活動を暴露することができる。これらの規則
は、繰り返される事象の順序が僅かな規則に圧縮される
ような安全監査証跡の簡易化された視点をも提供するこ
とができる。

【００３１】帰納学習エンジンの効率を大幅に向上させ
ることによって本発明の規則呼出しメカニズムは、規則
の質を著しく劣化させることなくリアルタイムでコンピ
ュータ安全のための規則を生成することができる。規則
呼出しを案内するために規則の質を使用することによっ
て、遥かに良い説明が既に存在する場合には、これらの
仮説を無視するようにして規則対事象パターン突き合わ
せプロセスを実質的に排除することができる。

【００３２】当業者ならば、本発明の範囲から逸脱する
ことなく帰納学習エンジンのための規則呼出しメカニズ
ムに種々の変更を施したり、上述の本発明の説明から別
の実施例を考案できよう。従って以上の説明は単なる例
示に過ぎないことを理解されたい。

【００３３】

【数１】

【図面の簡単な説明】

【図１】“質”の“良い”パターンと“悪い”パターン
との差を示す図。

【図２】増分帰納学習のためのシステムの概要ブロック
線図。

【図３】帰納学習エンジンの概要ブロック線図。

【図４】本発明によるエピソードの順序縮小の例。

【図５】本発明による規則呼出し方法において遂行され
る諸段階の流れ図。

───────────────────────────────────────────────────── フロントページの続き (72)発明者 カイフー チェン アメリカ合衆国 マサチューセッツ州 01464シャーリー ルーネンバーグ ロ ード 2243 (72)発明者 マシュー ウィルソン アメリカ合衆国 イリノイ州 61883 ウェストヴィル ムーア ストリート 218 (72)発明者 マイケル ピー ヴァーディイェン アメリカ合衆国 マサチューセッツ州 01581ウェストボロ ウィンザー リッ ジ ドライヴ 505 (72)発明者 グレゴリー ビー アブルゼース アメリカ合衆国 マサチューセッツ州 01754メイナード ハワード ロード 20

Claims (2)

(57)【特許請求の範囲】
1. 【請求項１】 時間に関係付けられた事象のシーケンス
   の特徴を表わす規則を採り入れる規則ベースコンピュー
   タシステムにおいて、各該規則は、条件の集合及び対応
   付けられた質値を有しており、該コンピュータシステム
   によって実行される該規則を呼出す方法であって、減少
   する質値の順に前記規則を選択し、前記規則の条件を前
   記事象と一致させることによって事象のシーケンスの特
   徴を表しかつ前記事象のシーケンスの特徴を表わす前記
   規則のうちそれまでに見出された他の規則の質よりも所
   定の量だけ小さくない質値を有する前記規則を前記選択
   された順で見出し、事象を含むシーケンスの特徴を表わ
   す前記見出された規則で該事象のそれぞれにタグを付
   け、前記シーケンスの事象が前記規則の一つでそれまで
   にタグを付けられたかどうかを決定し、もしその事象が
   それまでにタグを付けられていなければ、前記規則の選
   択されたものがその事象を含む前記シーケンスの特徴を
   表わすかどうかを試験し、それまでにタグが付けられた
   ある事象について、その事象にタグを付けたある規則の
   質が前記選択された規則の質よりも所定の量だけ大きい
   かどうかを決定し、もしその事象にタグを付けた規則の
   質が前記選択された規則の質よりも所定の量だけ大きく
   なければ、前記選択された規則がその事象を含むシーケ
   ンスの特徴を表わすかどうかを試験し、試験される選択
   された規則の質値を更新する段階を備えることを特徴と
   する方法。
2. 【請求項２】 時間に関係付けられた事象のシーケンス
   の特徴を表わす規則を採り入れる規則ベースコンピュー
   タシステムにおいて、各該規則は、条件の集合及び対応
   付けられた質値を有しており、該コンピュータシステム
   によって実行される該規則を呼出す方法であって、減少
   する質値により前記規則をランク付けし、前記ランク付
   けされた順に前記規則を選択し、事象のシーケンスの中
   で当該事象の一つを選択し、前記選択された規則が、前
   記選択された事象を含む、該事象のシーケンスの特徴を
   表わすべくそれまでに決定された他の規則の質値よりも
   所定の量だけ小さくない質値を有する前記規則のそれぞ
   れについて、前記選択された規則の条件を前記事象と一
   致させることによって、前記事象の選択された一つを含
   んでいる、事象のシーケンスの特徴を表すかどうかを決
   定し、前記事象の選択されたものを含む事象のシーケン
   スの特徴を表わすべく決定された前記選択された規則の
   それぞれで前記事象の選択された一つにタグを付け、前
   記シーケンスの事象が前記規則の一つでそれまでにタグ
   を付けられたかどうかを決定し、もしその事象がそれま
   でにタグを付けられていなければ、前記規則の選択され
   たものがその事象を含む前記シーケンスの特徴を表わす
   かどうかを試験し、それまでにタグが付けられたある事
   象について、その事象にタグを付けたある規則の質が前
   記選択された規則の質よりも所定の量だけ大きいかどう
   かを決定し、もしその事象にタグを付けた規則の質が前
   記選択された規則の質よりも所定の量だけ大きくなけれ
   ば、前記選択された規則がその事象を含むシーケンスの
   特徴を表わすかどうかを試験し、試験される選択された
   規則の質値を更新する段階を備えることを特徴とする方
   法。