JPH064292A

JPH064292A - 判断規則生成装置

Info

Publication number: JPH064292A
Application number: JP4160958A
Authority: JP
Inventors: Masaru Araki; 大荒木
Original assignee: Toshiba Corp
Current assignee: Toshiba Corp
Priority date: 1992-06-19
Filing date: 1992-06-19
Publication date: 1994-01-14

Abstract

(57)【要約】【目的】大量の訓練事例から、曖昧性を加味した表現を
持つ判断規則が帰納学習できるようにする。【構成】処理ノード取り出し回路６によって未処理ノー
ドスタック１３から取り出されたノードが分岐ノードで
ある場合、区間分割回路８は、そのノードに属する訓練
事例群の中で平均値以上の確信度を持つ事例だけを用い
て境界値を検出することで区間分割を行い、テスト属性
選択回路９は、そのノードでテストに使用する属性とし
て、個々の事例が持つ確信度を考慮した情報利得が最大
となるものを選ぶ。ファジィノード分割回路１０は、こ
の選ばれた属性の値によってそのノードに属する訓練事
例集合をファジィ集合として分割して新たなノードを作
成し、その際、連続値型の属性が選ばれているならば、
メンバーシップ関数を用いて確信度を再計算して新たな
ノードに伝搬する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、各種製造業における不
良診断や機器診断、プラントにおける異常診断、各種サ
ービス業における意思決定、医療分野における診断な
ど、いわゆる分類型問題に該当する諸分野において、過
去に蓄積された判断事例あるいは、マニュアルとして用
意されている判断事例集などの情報から、判断知識とし
ての判断規則を自動生成する判断規則生成装置に関す
る。

【０００２】

【従来の技術】近年の人工知能の研究においては、分類
型問題における判断規則を、大量に与えた訓練事例から
自動的に獲得する機械学習の技術が広く研究されてい
る。

【０００３】この種の技術の１つとして、事例が持つ種
々の特徴量を表現する属性と、それに対して与えられた
分類結果とを１つの訓練事例として、多数の訓練事例か
ら属性と分類結果との間の一般的な規則を見つけだし
て、判断規則（分類規則）を生成する帰納的な学習手法
が知られている。

【０００４】このような帰納的な学習手法における判断
規則の表現形式の１つに決定木がある。決定木は、与え
られた事例を分類するための手続きを表現したものであ
り、分類結果がラベル付けされた末端ノードの群と、与
えられた事例が持つ１つの属性の値をテストする分岐ノ
ードの群で構成される。分岐ノードには、値を調べるべ
き属性がラベル付けされ、テストされた属性が取り得る
各々の値に応じて、それ以降の分類手続きを表現するサ
ブツリーが連結される。決定木を用いた分類は、決定木
のトップの分岐ノード（ルートノード）からトップダウ
ン的に木を解釈することで行われる。ここで、決定木の
形式で表現される判断規則の機械学習技術による生成例
について説明する。

【０００５】例えば、「動脈硬化疾患の判断知識」を学
習するための訓練事例を用意することを考える。訓練事
例は、過去に発症した患者の「年齢」、「眼底所見」、
「心電図所見」、「最大血圧」、「最小血圧」、「大動
脈脈波速度」、および「血清総コレステロール」という
７つの属性と、分類結果である「疾患」で表現すること
を考える。図１１に学習に使用する訓練事例の一例を示
す。

【０００６】このような訓練事例に対して、例えば「田
中幸吉／淵一博監訳、人工知能ハンドブック、第３巻
（1984年）、共立出版株式会社発行、第529 頁」に記載
のＩＤ3 アルゴリズムを用いれば、図１１に示したよう
な大量の訓練事例から、属性の値を評価して特定の分類
結果を判定する手続きを表現する決定木を学習すること
ができる。

【０００７】図１２はＩＤ3 アルゴリズムによって生成
された決定木の一例を示す。この図１２に示す決定木
は、動脈硬化疾患の判断規則（分類規則）を示してお
り、まず「最小血圧」の値で判断が別れる。「最小血
圧」が 95 mmHg以下であれば次は「最大血圧」で判断す
る。幾つかの属性を調べることで動脈硬化疾患のいずれ
であるかを決定できる。

【０００８】このように、従来から知られている機械学
習技術により、図１１に示したような大量の訓練事例か
ら、属性と分類結果との間の一般的な対応関係を導き出
し、図１２に示すような決定木の形で判断規則を自動生
成することができる。この図１２に示されるような決定
木は、個々の分岐ノードにおいて択一的な判断しか行え
ないために、結論は常に唯一つしか得られないものであ
った。

【０００９】ところで、一般に図１１で挙げた例のよう
に数値で事例が表現されるような領域では、訓練事例自
身にもばらつきやノイズが含まれている可能性が高まる
ことが予想される。この場合には、学習結果によって発
見された、例えば図１２において「最小血圧」が 95 mm
Hg以下の場合の「脳出血」判断のための「129.0 mmHg＜
最大血圧≦131.0 mmHg」といった境界値（連続値型属性
の境界値）は、絶対的な境界ではなく、判断の一目安に
過ぎない。

【００１０】しかしながら、図１２に示されるような決
定木では、発見された境界値を基準として択一的に且つ
トップダウンに判断を進め、結論は常に唯一つしか得ら
れないため、境界値近傍の値が事例に現れた場合には、
誤った判断を行う可能性が高くなる虞があった。

【００１１】

【発明が解決しようとする課題】上記したように、大量
の訓練事例から判断規則を帰納学習する知識獲得装置の
従来の技術で生成される決定木では、個々の分岐ノード
において曖昧性を持たない択一的な判断しか行えず、し
たがって結論は常に唯一つしか得られなかった。このた
め従来は、比較的上位の分岐ノードで連続値型属性に対
して判断を行う際に、学習段階で発見された判断の境界
値の近傍の値が事例に現れた場合に、誤った判断を行う
可能性が高くなるという問題があった。

【００１２】本発明は、このような事情を考慮してなさ
れたもので、その目的とするところは、大量の訓練事例
から、曖昧性を加味した表現を持つ判断規則を帰納学習
することができ、これにより判断（分類）性能の向上が
図れる判断規則生成装置を提供することにある。

【００１３】本発明の他の目的は、最終的な判断結果と
して、解の確からしさが数値で表現され、第２候補、第
３候補、…の如く、複数の解が列挙できるような推論が
行える判断規則を帰納学習できる判断規則生成装置を提
供することにある。

【００１４】

【課題を解決するための手段】本発明は、上記課題を解
決するために、

【００１５】連続値型の複数の属性、およびそれに対し
て与えられた離散多値の分類結果を１つの組とした訓練
事例を多数集めた訓練事例群から、複数の分岐ノードと
末端ノードよりなる、未知データに対する判断規則を生
成する判断規則生成装置において、

【００１６】上記各訓練事例に、その事例自体の確から
しさを連続値で示す確信度を予めあるいは前記判断規則
の生成開始に際して付与する手段と、分岐ノードに属す
る訓練事例群をもとに、各属性毎に、判断規則を構成す
る上で分類能力の高い境界値を検出することにより区間
分割を行う区間分割手段と、分岐ノードに属する訓練事
例群を対象として、各属性毎に、個々の事例が持つ確信
度の要素を含む情報利得を計算し、この情報利得が最大
となる属性を、同ノードでのテストに使用する属性とし
て選択するテスト属性選択手段と、このテスト属性選択
手段によって選択された属性についての上記分割された
各区間に対応して生成されるメンバーシップ関数を用い
て、分岐ノードに属する個々の訓練事例の確信度を再計
算することにより、分岐ノードに属する訓練事例群をフ
ァジィ集合に分割して、その再計算後の確信度が伝搬さ
れた、新たな分岐ノードまたは末端ノードとなり得る複
数のノードを生成するファジィノード分割手段とを設け
たことを特徴とするものである。

【００１７】また本発明は、上記の区間分割を、訓練事
例群のうち確信度が予め定められた基準を満たす事例、
あるいは前記訓練事例群からその構成事例数に応じた数
だけランダムに選択される事例を用いて行うようにした
ことも特徴とする。

【００１８】更に本発明は、末端ノードに伝搬した訓練
事例群が持つ確信度をもとに、個々の分類結果に対する
帰属度判断定数を計算する帰属度判断定数計算手段を更
に設けたことも特徴とする。

【００１９】

【作用】上記の構成においては、処理対象ノードが分岐
ノードの場合、同ノードに属する訓練事例群をもとに、
連続値型の各属性毎に、判断規則を構成する上で分類能
力の高い境界値を検出することにより区間分割が行われ
る。この際、訓練事例群のうち確信度が例えば平均値以
上の事例、あるいはランダムに選択される例えば半数の
事例を用いて区間分割を行うことにより、計算量の低減
と、分類能力の向上を図ることが可能となる。離散値型
の属性については、離散値自体が区間とされる。

【００２０】また処理対象ノードが分岐ノードの場合
は、同ノードに属する訓練事例群を対象として、各属性
毎に、個々の事例が持つ確信度を考慮した情報利得が計
算され、この情報利得が最大となる属性が、同ノードで
のテスト（判断）に使用する属性として、テスト属性選
択手段により選択される。

【００２１】するとファジィ分割手段が起動され、テス
ト属性選択手段によって選択された属性についての各区
間に対応して生成されるメンバーシップ関数を用いて、
その分岐ノードに属する個々の訓練事例の確信度を再計
算することにより、同ノードに属する訓練事例群がファ
ジィ集合に分割される（選択された属性が連続値型の場
合）。この結果、その再計算後の確信度が伝搬された新
たな複数（区間数分）のノードが生成される。生成され
たノードが分岐ノードであれば、同ノードについて、上
記の区間分割、テスト属性の選択、ファジィ集合分割が
行われ、末端ノードであれば、上位ノードから同ノード
に伝搬した訓練事例群が持つ確信度をもとに、個々の分
類結果に対する帰属度判断定数、例えば末端ノードに属
する個々の訓練事例が持つ確信度の合計に対して、同一
の分類結果を有する訓練事例が持つ確信度の合計が占め
る割合が求められ、その末端ノードにラベル付けされ
る。

【００２２】このように、上記の構成によれば、大量の
訓練事例から、曖昧性を加味した表現を持つ判断規則を
帰納学習することができる。この判断規則では、分岐ノ
ードにおいて連続値型の属性によって判断（テスト）を
行う際に、境界値近傍での判断が必要な場合には曖昧な
処理を行い、更に、最終的な判断結果は解の確からしさ
が確信度として明示的に表現され、第２候補、第３候補
…というように、複数の解が列挙できるような推論が可
能となる。

【００２３】

【実施例】以下、本発明を適用した一実施例につき図面
を参照して説明する。図１は本発明の一実施例に係るフ
ァジィ決定木生成装置の構成を示すブロック図である。

【００２４】本装置への入力情報は、訓練事例群１と、
学習制御パラメータ２である。訓練事例群１は、図１１
に示したような形式の訓練事例のデータの集合である。
また学習制御パラメータ２は、ある処理ノードを分岐ノ
ードとして更に展開するか、末端ノードとしてそれ以上
の展開を止めるかを判断するための指標である最小占有
率ＭＯＲと最小事例数ＭＳＮの２種のパラメータからな
る。次に本装置からの出力情報（出力結果）は、判断規
則としてのファジィ決定木３である。このファジィ決定
木３の表現形式については後述する。

【００２５】図１において符号４で示されるファジィ決
定木生成装置は、初期ノード生成回路５、処理ノード取
り出し回路６、ノード評価回路７、区間分割回路８、テ
スト属性選択回路９、ファジィノード分割回路１０、帰
属度判断定数計算回路１１、およびファジィ決定木出力
回路１２から構成される。このファジィ決定木生成装置
４は、内部データとして処理が終了していないノードを
格納するための未処理ノードスタック１３と、処理が終
了したノードを格納するための処理済ノードスタック１
４とを持つ。図２は図１のファジィ決定木生成装置４の
処理手順を示すフローチャートである。

【００２６】以下、ファジィ決定木生成装置４の動作
を、図１１に示す多数の訓練事例からなる訓練事例群１
と、ＭＯＲ＝0.6 ，ＭＳＮ＝10.0の学習制御パラメータ
２とが与えられた場合を例に、図２のフローチャートを
適宜参照して説明する。

【００２７】まず、ステップＳ１で初期ノード生成回路
５は、訓練事例群１に含まれている全ての訓練事例にそ
の事例自体に対する確からしさ（事例が持つ分類結果の
確からしさ）を示す初期確信度「1.0 」を割り当てて、
訓練事例全体を含んだノードＮ₀を未処理ノードスタッ
ク１３に積む。この段階での未処理ノードスタック１３
の状況を図３に示す。この図３では、未処理ノードスタ
ック１３に積まれたノードＮ₀に、訓練事例群１として
与えられた図１１に示す訓練事例群が、通し番号（α）
と確信度（β）の２つの要素によって、（α，β）の表
現形式で示されている。この確信度は、基本的には解
（この例では、「疾患」という分類結果）の確からしさ
を「0.0 」から「1.0 」の範囲の数値で表現するための
もので、図３の状態では、全て初期確信度「1.0 」であ
り、対応する事例が持つ分類結果の確からしさが100 ％
であることを示す。

【００２８】ステップＳ１が終了すると、初期ノード生
成回路５から処理ノード取り出し回路６に制御が渡され
る。処理ノード取り出し回路６は、未処理ノードスタッ
ク１３からの先頭ノード取り出しを実行し（ステップＳ
２）、未処理ノードが存在しないならば、後述するよう
にファジィ決定木出力回路１２に制御が渡されてステッ
プＳ１１が実行される。これに対し、図３に示すように
未処理ノードが存在する本実施例では、処理ノード取り
出し回路６は未処理ノードスタック１３からノードＮ₀
を取り出して、ノード評価回路７に制御を渡す。

【００２９】ノード評価回路７は、初期ノード生成回路
５により取り出されたノード（Ｎ₀）に属する訓練事例
集合Ｓに対して、個々の事例が持つ確信度の合計｜Ｓ｜
と、分類結果ck（k=1,2,…,p）毎の占有率、即ち同一の
分類結果ckを有する事例が持つ確信度の合計の占有率Ｐ
_S,ckをそれぞれ計算する（ステップＳ３）。図１１に示
す訓練事例の例では、分類結果ckは脳出血、心筋梗塞と
いう２種（ｐ＝２）の「疾患」である。この分類結果ck
に対する占有率Ｐ_S,ckは、次式により計算される。Ｐ_S,ck＝｜Ｓ_ck｜／｜Ｓ｜ ……（１）但し、｜Ｓ_ck｜は、訓練集合Ｓで分類結果ckを有する訓
練事例が持つ確信度の合計である。

【００３０】ノード評価回路７はステップＳ３を終了す
ると、取り出されたノード（Ｎ₀）が末端ノードである
か否か（分岐ノードであるか）を、学習制御パラメータ
２とステップＳ３で求めた各占有率Ｐ_S,ckおよび確信度
の合計｜Ｓ｜とをもとに判定する（ステップＳ４）。即
ちノード評価回路７は、Ｐ_S,ckの最大値＞最小占有率ＭＯＲ ……（２）または、｜Ｓ｜＜最小事例数ＭＳＮ ……（３）

【００３１】の少なくとも一方の条件が満たされている
ならば、取り出されたノードは末端ノードであると判定
し、帰属度判断定数計算回路１１に制御を渡す。これに
対し、上記式（２）および式（３）のいずれの条件も満
たされていないならば、ノード評価回路７は取り出され
たノードは分岐ノードであると判定し、区間分割回路８
に制御を渡す。

【００３２】ノードＮ₀に対する計算では、｜Ｓ｜の値
は「20.0」となり、Ｐ_S,ckの値は、ckが脳出血のもので
「0.50」、ckが心筋梗塞のもので「0.50」となる。この
場合、上記式（２）および式（３）は共に満たされない
ため、区間分割回路８に制御が渡されて、ステップＳ５
が実行される。

【００３３】区間分割回路８はステップＳ５において、
上記取り出されたノード（Ｎ₀）に属する訓練事例集合
Ｓの中で、確信度が基準値より多い事例だけを用い、各
々の連続値型の属性（最大血圧、最小血圧など連続する
値を取り得る属性）Ａ_iに対して、決定木を構成する上
で分類能力の高い境界値を検出することにより区間分割
を行う。この連続値型の属性Ａ_iに対する区間分割の詳
細は次の通りである。なお、離散値型の属性について
は、各離散値それ自体がそれぞれ区間とされる。

【００３４】まず本実施例では、上記基準値の尺度とし
て、例えば「訓練事例集合Ｓの確信度の平均値以上の確
信度を持つ事例」という規範を用いる。ノードＮ₀に対
する評価では、全ての事例が確信度「1.0 」であるので
全ての事例が用いられるが、通常は訓練事例集合Ｓの一
部であるＳ′を用いて区間分割が行われる。

【００３５】さて、訓練事例集合Ｓ′をある連続値型の
属性Ａ_iに対して区間分割を行う方法として、従来から
種々の方法が知られている。ここでは、種々の方法のう
ち、情報利得が最大になる境界値をとる方法を採用す
る。この方法では、Ｓ′を属性Ａ_iのある値γを境界値
として２つの訓練事例集合Ｓ1 ′とＳ2 ′に分割したと
きに、次式（４）によって計算される情報利得Ｇ
（Ｓ′）が最大になるような境界値γ_maxを検出するこ
とによって、この境界値γ_maxで区分される２つの区間
ｖ_ij（j=1,2 ）が得られる。区間ｖ_ijは、区間の下限値
をａ、区間の上限値をｂとすると、［ａ，ｂ］で表現さ
れる。

【００３６】

【数１】

【００３７】上記式（４）において、Ｉ（Ｓ′）は訓練
事例集合Ｓ′の現在の状態を表すエントロピーを示し、
Ｅ（Ａ_i，Ｓ′）は訓練事例集合Ｓ′をＳ1 ′とＳ2 ′
に分割したときに得られるエントロピーの期待値を示
す。またＩ（Ｓ′）−Ｅ（Ａ_i，Ｓ′）、即ち情報利得
Ｇ（Ｓ′）は、訓練事例集合Ｓ′をＳ1 ′とＳ2 ′に分
割することにより、エントロピーがどれだけ減るか（情
報利得がどれだけ増えるか）を示すもので、属性Ａ_iの
値を知ることによって得られる相互情報量を意味する。

【００３８】さて本実施例では、上記式（４）で示され
る情報利得の計算に必要な｜Ｓ｜，｜Ｐ_S,ck｜（＝｜Ｓ
_ck｜／｜Ｓ｜）（便宜上Ｓ′に代えてＳで表現してい
る）として、従来から知られているように、訓練事例集
合Ｓに属する事例の総数，この総数｜Ｓ｜に対して分類
結果ckを有する事例の個数が占める割合を用ている。即
ち、式（４）で示される情報利得の計算に用いる｜Ｓ
｜，｜Ｐ_S,ck｜は、前記したステップＳ３でノード評価
回路７がノード判定のための計算に使用した｜Ｓ｜，｜
Ｐ_S,ck｜のような、訓練事例集合Ｓの個々の訓練事例が
持つ確信度の合計，この合計値｜Ｓ｜に対して同一の分
類結果CKを有する訓練事例が持つ確信度の合計｜Ｓ_ck｜
の占める割合とは異なる点に注意されたい。

【００３９】このように、式（４）で示される情報利得
の計算に、従来から知られている、確信度の要素を含ま
ない｜Ｓ｜，｜Ｐ_S,ck｜を適用した場合、もし訓練事例
集合全体を用いて区間分割を行うならば、その結果は各
ノードで常に同一となる不具合がある。そこで本実施例
では、上記したように、訓練事例集合のうち「訓練事例
集合Ｓの確信度の平均値以上の確信度を持つ事例」だけ
を用いて区間分割を行うことで、より分類能力の高い区
間が検出できるようにしている。

【００４０】なお、式（４）で示される情報利得の計算
に、ノード評価回路７が使用したような確信度の要素を
含む｜Ｓ｜，｜Ｐ_S,ck｜を適用することも可能である。
この場合には、訓練事例集合全体を用いて区間分割を行
うようにしてもよい。但し、訓練事例集合全体を用いて
区間分割を行うと、計算量が増大するため、本実施例の
ように、訓練事例集合のうち「訓練事例集合Ｓの確信度
の平均値以上の確信度を持つ事例」だけを用いることが
好ましい。

【００４１】さて、上記式（４）によって計算される情
報利得Ｇ（Ｓ′）が最大になるような境界値γ_maxを検
出して属性Ａ_iに対する２つの区間ｖ_ij（＝［ａ，
ｂ］）を得ると、その段階での２つの訓練事例集合Ｓ1
′とＳ2 ′における属性Ａ_iの値の平均値がそれぞれ
求められる。本実施例では、この平均値を区間ｖ_ijの中
心ｍとする。

【００４２】以上の区間分割により、ノードＮ₀の例で
は、「年齢」という属性Ａ_iに対して、［−∞，54.
5］，［54.5，∞］という２つの区間と、それぞれの区
間の中心「52.3」，「54.8」とが求められる。また、
「最大血圧」に対しては、［−∞，153.0 ］，［153.0
，∞］という２つの区間と、それぞれの区間の中心「1
48.6」，「166.8 」とが求められる。また、「最小血
圧」に対しては、［−∞，93.0］，［93.0，∞］という
２つの区間と、それぞれの区間の中心「91.4」，「97.
2」とが求められる。また、「大動脈脈波速度」に対し
ては、［−∞，8.2 ］，［8.2 ，∞］という２つの区間
と、それぞれの区間の中心「7.82」，「8.24」とが求め
られる。更に、「血清総コレステロール」に対しては、
［−∞，191.0 ］，［191.0 ，∞］という２つの区間
と、それぞれの区間の中心「182.3 」，「197.7 」とが
求められる。

【００４３】区間分割回路８は上記した連続値型の属性
Ａ_iに対する区間分割を行うと、同じステップＳ５にお
いて、その連続値型の属性Ａ_iの区間ｖ_ijに対するメン
バーシップ関数Ｍ_ijを生成する。このＭ_ijは曖昧な判断
を決定木内部で行うことを可能とするために用いられる
もので、その生成法について、以下に詳述する。

【００４４】まず、属性Ａ_iの区間ｖ_ij＝［ａ，ｂ］に
対してある数値データｘが属す程度、即ちｘの帰属度を
算出するために、区間ｖ_ijの境界値ａ，ｂと区間ｖ_ijの
中心値（区間内の属性Ａ_iの属性値の中心値）ｍとから
ｘの帰属度を判断する関数ＧＯＦ_ij（ｘ）を定義する。
この関数ＧＯＦ_ij（ｘ）は、区間内部では帰属度が大き
く、境界値近傍で曖昧性が強調される形となるように、
例えば次式（５）のように定義される。

【００４５】

【数２】

【００４６】この式（５）で定義される関数ＧＯＦ
_ij（ｘ）は、図７に示す特性を持つ。式（５）中のκは
定数であり、境界値近傍での帰属の曖昧度を制御するパ
ラメータとなる。以下の例では、κ＝10.0とする。

【００４７】ここで、属性Ａ_iがｎ個の「ａ＜ｘ≦ｂ」
型の区間ｖ_ik(k=1,2, …,n) を持っているとすると、Ａ
_iはｎ個の関数ＧＯＦ_ik（ｘ）を持つことになる。そこ
で本実施例では、連続値型の属性Ａ_iの区間ｖ_ijに対す
る数値データｘの帰属度を、ＧＯＦ_ij（ｘ）をｎ個のＧ
ＯＦ_ik（ｘ）(k=1,2, …,n) の総和で正規化した値とす
る。この帰属度を算出するための計算式が次式（６）に
示すメンバーシップ関数Ｍ_ij（ｘ）であり、ステップ５
において区間分割回路８により生成される。なお本実施
例においては、ｎ＝２である。

【００４８】

【数３】

【００４９】区間分割回路８はステップＳ５を終了する
とテスト属性選択回路９に制御を渡す。テスト属性選択
回路９は、上記取り出されたノード（ステップＳ４で分
岐ノードであると判定され、ステップＳ５で区間分割が
行われたノード）に属する訓練事例集合Ｓの属性Ａ_iに
対する情報利得Ｇ（Ａ_i，Ｓ）を各属性毎に計算し、Ｇ
（Ａ_i，Ｓ）が最大となる属性Ａ_maxを、そのノードで
テストに使用する属性として選び出す（ステップＳ
６）。この情報利得Ｇ（Ａ_i，Ｓ）は、個々の事例が持
つ確信度を考慮して、例えば次式（７）に従って算出さ
れる。

【００５０】

【数４】

【００５１】上記式（７）において、｜Ｓ｜は訓練事例
集合Ｓの個々の訓練事例が持つ確信度の合計、｜Ｓ_ck｜
は訓練事例集合Ｓで同一の分類結果CKを有する訓練事例
が持つ確信度の合計、Ｐ_S,ckは｜Ｓ｜に対する｜Ｓ_ck｜
の割合、即ち分類結果ckを有する事例の確信度の合計の
占有率である。

【００５２】次に、｜Ｓ_ij｜は属性Ａ_iが連続値型の属
性（図１１の例では、「年齢」、最大血圧」等）である
か、離散値型の属性（図１１の例では、「眼底所見」、
「心電図所見」）であるかにより異なる。

【００５３】属性Ａ_iが連続値型の属性の場合、｜Ｓ_ij
｜は、訓練事例集合Ｓの個々の訓練事例の確信度ｃｆ
を、属性Ａ_iの区間ｖ_ijに対するメンバーシップ関数Ｍ
_ijを利用して再計算した確信度の合計である。この再計
算後の確信度をｃｆ′とすると、ｃｆ′は次式（８）に
従って算出される。ｃｆ′＝ｃｆ×Ｍ_ij（ｘ） ……（８）

【００５４】一方、属性Ａ_iが離散値型の属性の場合
は、｜Ｓ_ij｜は、訓練事例集合Ｓ中でその属性Ａ_iの値
が区間ｖ_ijに属する訓練事例が持つ確信度の合計であ
る。Ｐ_S,vijは｜Ｓ｜に対する｜Ｓ_ij｜の割合、即ち属
性Ａ_iの値が区間ｖ_ijに属する事例の確信度の合計の占
有率である。さて、ノードＮ₀に対する上記式（７）に
従う計算では、各々の属性に対する情報利得Ｇ（Ａ_i，
Ｓ）は、次のように求められる。情報利得Ｇ（年齢）＝ 0.109 情報利得Ｇ（眼底所見）＝ 0.031 情報利得Ｇ（心電図所見）＝ 0.077 情報利得Ｇ（最大血圧）＝ 0.111 情報利得Ｇ（最小血圧）＝ 0.099 情報利得Ｇ（大動脈脈波速度）＝ 0.036 情報利得Ｇ（血清総コレステロール）＝ 0.022

【００５５】したがってノードＮ₀の例では、テスト属
性選択回路９はステップＳ６において、最大の情報利得
を持つ属性「最大血圧」をノード（分岐ノード）Ｎ₀で
テストに使用する属性として選択する。

【００５６】この属性「最大血圧」に対して、前記した
ように［−∞，153.0 ］，［153.0，∞］という２つの
区間と、それぞれの区間の中心「148.6 」，「166.8 」
が求められている。この「最大血圧」の各区間［−∞，
153.0 ］，［153.0 ，∞］に対して上記式（５）および
式（６）に従って生成されるメンバーシップ関数Ｍ
_ij（ｘ）を図８に示す。

【００５７】テスト属性選択回路９はステップＳ６を終
了すると、ファジィノード分割回路１０に制御を渡す。
ファジィノード分割回路１０は、テスト属性選択回路９
によって選択された属性（ノードでテストに使用する属
性）が連続値型の属性である場合には、その属性につい
てのｎ個（ここではｎ＝２）のメンバーシップ関数（式
（６）参照）に従い、訓練事例集合Ｓをｎ個のファジィ
集合に分割して、新しいｎ個のノードを作成する（ステ
ップＳ７）。このとき、ファジィノード分割回路１０
は、前記式（８）を用いて事例の確信度を再計算する。
連続値型の属性がテストに使用する属性として選択され
ている場合には、ファジィノード分割回路１０は、前記
式（８）を用いて事例の確信度を再計算する。

【００５８】この例では、連続値型の属性「最大血圧」
に従い、図８に示したメンバーシップ関数により式
（８）を用いて事例の確信度の再計算を行いながら、ノ
ードＮ₀の訓練事例集合Ｓをファジィ集合に分割する処
理が実行され、２つのノードＮ₁とＮ₂が作成される。

【００５９】なお、テスト属性選択回路９によって選択
された属性が離散値型の属性の場合には、ファジィノー
ド分割回路１０は、その属性について区間分割回路８に
より求められた区間毎に訓練事例集合Ｓを分割する。

【００６０】ファジィノード分割回路１０は、ステップ
Ｓ７の分割処理により、新たなノードを作成すると、そ
れらのノードを未処理ノードスタック１３に積むと共
に、それまで処理対象となっていたノードを、新たなノ
ードの上位であることを明示して処理済ノードスタック
１４に積む（ステップＳ８）。

【００６１】したがって、この例では、２つの新しいノ
ードＮ₁とＮ₂が未処理ノードスタック１３に積まれ、
ノードＮ₀が処理済ノードスタック１４に積まれること
になる。この状況を図４に示す。図４の状態では、ノー
ドＮ₁とＮ₂に属する訓練事例は、各々確信度が式
（８）に従って再計算されている。またノードＮ₀には
下位にノードＮ₁とＮ₂がつながれていることが示され
ている。

【００６２】ファジィノード分割回路１０は、ステップ
Ｓ８を終了すると、処理ノード取り出し回路６に制御を
戻す。これにより、ステップＳ８からステップＳ２に戻
る。このステップＳ２において処理ノード取り出し回路
６は、未処理ノードスタック１３からの先頭ノード取り
出しを実行する。図４の状態では、ノードＮ₁が未処理
ノードスタック１３から取り出され、このノードＮ₁を
対象として処理が行われる。

【００６３】ノードＮ₁に対する処理では、まずステッ
プＳ３において各分類結果ck毎の占有率Ｐ_S,ckが求めら
れ、分類結果ck＝心筋梗塞についてのＰ_S,ckの値が「0.
70」であり、ＭＯＲ（＝0.6 ）より大きいことから、即
ち式（２）を満たすことから、ステップＳ４においてノ
ード評価回路７により、ノードＮ₁が末端ノードである
と判定される。この場合、ノードＮ₀の場合と異なり、
ステップＳ４からステップＳ９に進む。

【００６４】ステップＳ９では、帰属度判断定数計算回
路１１が動作し、末端ノード（と判定されたノード）に
伝搬した訓練事例群が持つ確信度をもとに、個々の分類
結果に対する帰属度判断定数を計算する。この帰属度判
断定数は、式（７）により計算される_PS,ckの値であ
る。ノードＮ₁の例では、分類結果「脳出血」，「心筋
梗塞」に対する帰属度判断定数は、それぞれ「0.30」，
「0.70」となる。これを、「脳出血：0.30」，「心筋梗
塞：0.70」のように表す。

【００６５】帰属度判断定数計算回路１１は、ステップ
Ｓ９を終了すると、処理対象ノード（ここではＮ₁）を
処理済ノードスタック１４に積む（ステップＳ１０）。
このノードＮ1 が処理済ノードスタック１４に積まれた
状況を図５に示す。

【００６６】ステップＳ１０が終了するとステップＳ２
に戻り、処理ノード取り出し回路６によって、未処理ノ
ードスタック１３からその時点における先頭ノードの取
り出しが行われる。図５の状態では、ノードＮ2 が未処
理ノードスタック１３から取り出される。

【００６７】以下、ステップＳ３，Ｓ４，Ｓ５，Ｓ６，
Ｓ７，Ｓ８，Ｓ２またはステップＳ３，Ｓ４，Ｓ９，Ｓ
１０，Ｓ２の処理が繰り返され、ステップＳ２で未処理
ノードスタック１３中に未処理ノードが存在しないこと
が検出されたならば、ステップＳ１１に進む。この未処
理ノードが存在しなくなった場合の未処理ノードスタッ
ク１３および処理済ノードスタック１４の状況を図６に
示す。

【００６８】さて、ステップＳ１１では、ファジィ決定
木出力回路１２が動作する。ファジィ決定木出力回路１
２は、処理済ノードスタック１４に積まれているノード
からノードの上下関係を整理して、ファジィ決定木３に
変換して出力する。

【００６９】図６の状態では、処理済ノードスタック１
４にはノードＮ₀，Ｎ₁，Ｎ₂，Ｎ₃，Ｎ₄が積まれて
おり、これら５つのノードＮ₀〜Ｎ₄から図９に示すフ
ァジィ決定木（３）がファジィ決定木出力回路１２によ
り出力される。次に、このようにして出力された図９に
示すファジィ決定木（３）を用いて実際に診断を行う例
について説明する。

【００７０】例えば、「年齢＝56，眼底所見＝正常，心
電図所見＝正常，最大血圧＝154 ，最小血圧＝94，大動
脈脈波速度＝7.9 ，血清総コレステロール＝173 」とい
う事例を入力して診断を行うものとする。事例は、初期
確信度を付加して与える。この初期確信度は通常は「1.
0 」（最大値）でよい。

【００７１】分岐ノードでは、各々の属性Ａ_iの区間ｖ
_ijに対するメンバーシップ関数Ｍ_ij（ｘ）を用いて、前
記式（８）により事例が持つ確信度ｃｆをｃｆ′に更新
して（連続値型の属性についてのみ）各々の下位ノード
に伝搬する。

【００７２】この結果、分岐ノードでは、一般に複数の
下位ノードに事例が伝搬することになる。これが、従来
の決定木と大きく異なる点である。最終的には、与えら
れた事例は確信度付きで複数の末端ノードに伝搬する。

【００７３】各末端ノードでは、到達した事例が持つ確
信度（更新されながら伝搬された確信度）と帰属度判断
定数とを掛け合わせた値が分類結果に対する確信度とな
る。最終的に、これらの確信度を同一の分類結果に属す
る値毎でまとめた合計値で判断（ここでは診断）を行
う。

【００７４】上記の例の場合には、図１０に示すように
ファジィ決定木（３）の内部を事例が伝搬する。末端ノ
ードでの確信度の合計を計算すると、「脳出血：0.565
4］，「心筋梗塞：0.4346」が結論として得られる。こ
のように、本実施例装置にて生成されるファジィ決定木
（３）では、従来の決定木のような択一的な判断（上記
の例であれば脳出血または心筋梗塞のいずれであるかの
判断）は行われず、確信度が付加された結論が複数出力
される。以上に本発明の実施例につき説明したが、本発
明は前記実施例に限定されるものではない。

【００７５】例えば前記実施例では、医療分野における
診断に適用する判断規則（決定木）を生成する場合につ
いて説明したが、各種製造業における不良診断や機器診
断、プラントにおける異常診断、各種サービス業におけ
る意思決定など、いわゆる分類型問題に該当する諸分野
において、過去に蓄積された判断事例あるいは、マニュ
アルとして用意されている判断事例集などの情報から、
判断知識としての判断規則を生成する場合にも同様に実
施可能である。

【００７６】また、前記実施例では、訓練事例群１に含
まれている全ての訓練事例に、ステップＳ１において初
期ノード生成回路５が初期確信度「1.0 」を割り当てる
としたが、訓練事例群１中の個々の訓練事例に初期確信
度が予め与えられている（付加されている）としてもよ
い。この確信度は「1.0 」である必要はない。この方式
を適用した場合、図３では、未処理ノードスタック１３
に積まれたノードＮ₀に、各々固有の確信度を持つ訓練
事例が格納されることになる。このように訓練事例群１
の中で初期確信度が与えられた場合には、この確信度は
訓練事例自身が持つ曖昧度を示すものとなる。また例え
ば、ある訓練事例に対して、解がＡである確信度が80％
で、解がＢである確信度が20％であれば、分類結果と初
期確信度が異なる２つの訓練事例によって表現すること
も可能である。

【００７７】また、前記実施例では、未処理ノードスタ
ック１３から取り出されたノードが末端ノードであるか
分岐ノードであるかを、（ステップＳ４においてノード
評価回路７が）式（２）あるいは式（３）によって判定
するものとしたが、ノード判定基準はこれに限るもので
はない。例えば、現在のノードが最上位のノードから何
段目に相当するかを判定して、一定段数以上の枝を持つ
決定木を生成しないように制御することも可能である。
また例えば、刊行物「小長谷明彦：遺伝子情報処理と記
述長最小（ＭＤＬ）基準，第５回人工知能学会全国大会
予稿集，頁93-96(1991) ，社団法人人工知能学会」に
記載のＭＤＬ基準を式（２）あるいは式（３）の代わり
に用いるなど、種々の変形実施が可能である。

【００７８】前記実施例では、区間分割回路８はステッ
プＳ５において、処理対象となるノードに属する訓練事
例集合Ｓの中で、確信度が基準値より多い事例だけを用
い、各々の連続値型の属性に対して、決定木を構成する
上で分類能力の高い境界値を検出することにより区間分
割を行っている。このように、前記実施例では、訓練事
例集合Ｓから区間分割に用いる事例を選ぶための基準値
の尺度として「訓練事例集合Ｓの確信度の平均値以上の
確信度を持つ事例」という規範を適用しているが、事例
の選択方法として、例えば「訓練事例集合Ｓからランダ
ムに半数を取り出す」などの変形実施が可能である。

【００７９】また、区間分割回路８が訓練事例集合Ｓ′
をある連続値型の属性Ａ_iに対して区間分割するのに、
例えば、刊行物「荒木大，小島昌一：決定木学習にお
ける数値データの区間分割，第５回人工知能学会全国大
会予稿集，頁157-160(1991)，社団法人人工知能学
会」に記載の方法を適用するなどの変形実施が可能であ
る。この場合には、前記実施例の方法では２区間の区間
分割しか実行できなかったが一般に図１２に現れるよう
な２区間以上の区間分割が可能となる。

【００８０】また、前記実施例では、ステップＳ６にお
いてテスト属性選択回路９は、属性Ａ_iに対する情報利
得Ｇ（Ａ_i，Ｓ）を式（７）によって算出したが、これ
を次式（９）に示すような補正項を加えた式に変更し、
情報利得Ｇ（Ａ_i，Ｓ）に代えて情報利得ＧＲ（Ａ_i，
Ｓ）を用いるなどの変形実施も可能である。

【００８１】

【数５】

【００８２】上記式（９）において、ｑは訓練事例集合
Ｓにおける属性Ａ_iの数（種類数）、Ｒａｎｇｅ
（Ａ_i）はｑ個の属性集合｛Ａ₁，Ａ₂，…，Ａ_q）に
対して各々の属性Ａ_iが取り得る属性値の集合である。
またＩＶ（Ａ_i，Ｓ）は補正項であり、この補正項を含
む上記式（９）に従って情報利得ＧＲ（Ａ_i，Ｓ）を算
出することにより、Ｒａｎｇｅ（Ａ_i）が大きい属性ほ
どＧＲ（Ａ_i，Ｓ）が大きくなる特性を補正することが
できる。

【００８３】また、前記実施例では、連続数値型の属性
Ａ_iの区間ｖ_ijに対して生成するメンバーシップ関数Ｍ
_ijは式（５），（６）に従って計算するとしたが、台形
型の分布を持つ他の関数に変更するなど種々の変形実施
が可能である。このメンバーシップ関数Ｍ_ijの生成は、
区間分割回路８以外の回路、例えばテスト属性選択回路
９または専用の回路で行われるものであってもよい。

【００８４】また、前記実施例では、離散値型の属性に
対しては事例の確信度の再計算は行わないとしたが、予
めメンバーシップ関数を外部から与えておき、この関数
を用いて式（８）に従い事例の確信度を再計算するよう
にすることも可能である。この場合、式（７）に従って
情報利得Ｇ（Ａ_i，Ｓ）を求める際に必要な｜Ｓ_ij｜
は、テスト属性選択回路９により、離散値型の属性につ
いても連続数値型の属性と同様に計算される。即ち、テ
スト属性選択回路９はステップＳ６において、全ての属
性に対し、｜Ｓ_ij｜の値を、訓練事例集合Ｓの個々の訓
練事例の確信度ｃｆについて属性Ａ_iの区間ｖ_ijに対す
るメンバーシップ関数Ｍ_ijを利用して式（８）に従って
再計算した確信度の合計により算出する。また、ファジ
ィノード分割回路はステップＳ７において、全ての属性
に対して、式（８）に従って事例の確信度を再計算す
る。

【００８５】また、前記実施例では、ステップＳ１１に
おいてファジィ決定木出力回路１２は、処理済ノードス
タック１４に積まれたノードから上下関係を整理して、
ファジィ決定木３に変換して出力するとしたが、最終的
な判断規則の出力形式は、決定木の形式に限定されるも
のではない。即ち、ＩＦ−ＴＨＥＮルール、決定リス
ト、Ｃ言語あるいはＦＯＲＴＲＡＮといった何等かのプ
ログラミング言語によるソースコードなど、曖昧性を加
味した判断を実行できる何等かの推論モジュールの知識
ベースを構成する記述言語のフォーマットに従った形式
で出力されるように種々変形実施が可能である。

【００８６】

【発明の効果】以上詳述したように本発明によれば、大
量の訓練事例から未知データに対する判断規則を生成す
る判断規則生成装置において、各訓練事例に、その事例
自体の確からしさを連続値で示す確信度を付与し、処理
対象ノードが分岐ノードである場合には、同ノードに属
する訓練事例群をもとに、連続値型の各属性毎に、判断
規則を構成する上で分類能力の高い境界値を検出するこ
とにより区間分割を行うと共に、同ノードに属する訓練
事例群を対象として、各属性毎に、個々の事例が持つ確
信度を考慮した情報利得を計算し、この情報利得が最大
となる属性を、同ノードでのテストに使用する属性とし
て選択し、この選択した属性が連続値型である場合には
その属性についての各区間に対応して生成されるメンバ
ーシップ関数を用いて、同ノードに属する個々の訓練事
例の確信度を再計算することにより、同ノードに属する
訓練事例群をファジィ集合に分割し、その再計算後の確
信度が伝搬された新たな複数のノードを生成する構成と
したので、大量の訓練事例から、曖昧性を加味した表現
を持つ判断規則を帰納学習することができ、これにより
判断（分類）性能が向上する。

【００８７】また、本発明によれば、生成される判断規
則を利用して、分岐ノードにおいて連続値型の属性によ
って判断を行う際に、境界値近傍での判断が必要な場合
には曖昧な処理を行い、更に、最終的な判断結果は解の
確からしさが確信度として明示的に表現され、第２候
補、第３候補…というように、複数の解が列挙できるよ
うな推論が行える。

【図面の簡単な説明】

【図１】本発明の一実施例に係るファジィ決定木生成装
置の構成を示すブロック図。

【図２】図１の装置の処理手順を示すフローチャート。

【図３】同実施例において、未処理ノードスタック１３
にノードＮ0 が積まれた際の、未処理ノードスタック１
３と処理済ノードスタック１４の状態を模式的に示す
図。

【図４】同実施例において、ノードＮ0 に対する処理が
終了した際の、未処理ノードスタック１３と処理済ノー
ドスタック１４の状態を模式的に示す図。

【図５】同実施例において、ノードＮ1 に対する処理が
終了した際の、未処理ノードスタック１３と処理済ノー
ドスタック１４の状態を模式的に示す図。

【図６】同実施例において、ノードＮ2 に対する処理が
終了した際の、未処理ノードスタック１３と処理済ノー
ドスタック１４の状態を模式的に示す図。

【図７】同実施例において属性の区間に対する帰属度を
判断するのに用いられる関数ＧＯＦ_ij（ｘ）の特性を示
す図。

【図８】図１の装置で生成されたメンバーシップ関数Ｍ
_ij（ｘ）の一例を示す図。

【図９】図１の装置から出力されたファジィ決定木の一
例を示す図。

【図１０】図９に示すファジィ決定木を用いて診断を実
行した際に、事例がファジィ決定木の内部を伝搬する様
子を模式的に示す図。

【図１１】学習に使用する訓練事例の一例を示す図。

【図１２】周知のＩＤ3 アルゴリズムによって生成され
た決定木の一例を示す図。

【符号の説明】

１…訓練事例群、２…学習制御パラメータ、３…ファジ
ィ決定木、４…ファジィ決定木生成装置、５…初期ノー
ド生成回路、６…処理ノード取り出し回路、７…ノード
評価回路、８…区間分割回路、９…テスト属性選択回
路、１０…ファジィノード分割回路、１１…帰属度判断
定数計算回路、１２…ファジィ決定木出力回路、１３…
未処理ノードスタック、１４…処理済ノードスタック。

Claims

【特許請求の範囲】

【請求項１】連続値型の複数の属性、およびそれに対
して与えられた離散多値の分類結果を１つの組とした訓
練事例を多数集めた訓練事例群から、複数の分岐ノード
と末端ノードよりなる、未知データに対する判断規則を
生成する判断規則生成装置において、前記各訓練事例に、その事例自体の確からしさを連続値
で示す確信度を予めあるいは前記判断規則の生成開始に
際して付与する手段と、前記分岐ノードに属する訓練事例群をもとに、各属性毎
に、前記判断規則を構成する上で分類能力の高い境界値
を検出することにより区間分割を行う区間分割手段と、前記分岐ノードに属する訓練事例群を対象として、各属
性毎に、個々の事例が持つ確信度の要素を含む情報利得
を計算し、この情報利得が最大となる属性を、同ノード
でのテストに使用する属性として選択するテスト属性選
択手段と、このテスト属性選択手段によって選択された属性につい
ての、前記区間分割手段により分割された各区間に対応
して生成される区間判定を曖昧に行うためのメンバーシ
ップ関数を用いて、前記分岐ノードに属する個々の訓練
事例の確信度を再計算することにより、前記分岐ノード
に属する訓練事例群をファジィ集合に分割して、その再
計算後の確信度が伝搬された、新たな分岐ノードまたは
末端ノードとなり得る複数のノードを生成するファジィ
ノード分割手段と、を具備することを特徴とする判断規則生成装置。
【請求項２】前記区間分割手段は、前記訓練事例群の
うち確信度が予め定められた基準を満たす事例、あるい
は前記訓練事例群からその構成事例数に応じた数だけラ
ンダムに選択される事例を用いて前記区間分割を行うこ
とを特徴とする請求項１記載の判断規則生成装置。
【請求項３】連続値型の属性および離散値型の属性か
らなる複数の属性、およびそれに対して与えられた離散
多値の分類結果を１つの組とした訓練事例を多数集めた
訓練事例群から、複数の分岐ノードと末端ノードよりな
る、未知データに対する判断規則を生成する判断規則生
成装置において、前記各訓練事例に、その事例自体の確からしさを連続値
で示す確信度を予めあるいは前記判断規則の生成開始に
際して付与する手段と、前記分岐ノードに属する訓練事例群をもとに、各属性毎
に、連続値型の属性については、前記判断規則を構成す
る上で分類能力の高い境界値を検出することにより区間
分割を行い、離散値型の属性については、離散値を区間
とする区間分割を行う区間分割手段と、前記分岐ノードに属する訓練事例群を対象として、各属
性毎に、個々の事例が持つ確信度の要素を含む情報利得
を計算し、この情報利得が最大となる属性を、同ノード
でのテストに使用する属性として選択するテスト属性選
択手段と、このテスト属性選択手段によって選択された属性が連続
値型の場合には、その属性についての、前記区間分割手
段により分割された各区間に対応して生成される区間判
定を曖昧に行うためのメンバーシップ関数を用いて、前
記分岐ノードに属する個々の訓練事例の確信度を再計算
することにより、前記分岐ノードに属する訓練事例群を
ファジィ集合に分割して、その再計算後の確信度が伝搬
された、新たな分岐ノードまたは末端ノードとなり得る
複数のノードを生成し、離散値型の場合には、その属性
についての前記区間分割手段により分割された各区間を
単位に前記分岐ノードに属する訓練事例群を分割して、
新たな分岐ノードまたは末端ノードとなり得る複数のノ
ードを生成するファジィノード分割手段と、を具備することを特徴とする判断規則生成装置。
【請求項４】連続値型の属性および離散値型の属性か
らなる複数の属性、およびそれに対して与えられた離散
多値の分類結果を１つの組とした訓練事例を多数集めた
訓練事例群から、複数の分岐ノードと末端ノードよりな
る、未知データに対する判断規則を生成する判断規則生
成装置において、前記各訓練事例に、その事例自体の確からしさを連続値
で示す確信度を予めあるいは前記判断規則の生成開始に
際して付与する手段と、前記分岐ノードに属する訓練事例群をもとに、各属性毎
に、連続値型の属性については、前記判断規則を構成す
る上で分類能力の高い境界値を検出することにより区間
分割を行い、離散値型の属性については、離散値を区間
とする区間分割を行う区間分割手段と、前記分岐ノードに属する訓練事例群を対象として、各属
性毎に、個々の事例が持つ確信度の要素を含む情報利得
を計算し、この情報利得が最大となる属性を、同ノード
でのテストに使用する属性として選択するテスト属性選
択手段と、このテスト属性選択手段によって選択された属性が連続
値型の場合には、その属性についての、前記区間分割手
段により分割された各区間に対応して生成される区間判
定を曖昧に行うためのメンバーシップ関数を用い、離散
値型の場合には、その属性についての、前記区間分割手
段により分割された各区間に対応して予め用意されるメ
ンバーシップ関数を用い、前記分岐ノードに属する個々
の訓練事例の確信度を再計算することにより、前記分岐
ノードに属する訓練事例群をファジィ集合に分割して、
その再計算後の確信度が伝搬された、新たな分岐ノード
または末端ノードとなり得る複数のノードを生成するフ
ァジィノード分割手段と、を具備することを特徴とする判断規則生成装置。
【請求項５】前記区間分割手段は、前記連続値型の属
性については、前記訓練事例群のうち確信度が予め定め
られた基準を満たす事例、あるいは前記訓練事例群から
その構成事例数に応じた数だけランダムに選択される事
例を用いて前記区間分割を行うことを特徴とする請求項
３または請求項４記載の判断規則生成装置。
【請求項６】前記末端ノードに伝搬した訓練事例群が
持つ確信度をもとに、個々の分類結果に対する帰属度判
断定数を計算する帰属度判断定数計算手段を更に具備す
ることを特徴とする請求項１乃至請求項５のいずれかに
記載の判断規則生成装置。
【請求項７】前記帰属度判断定数計算手段は、前記末
端ノードに属する個々の訓練事例が持つ確信度の合計に
対して、同一の分類結果を有する訓練事例が持つ確信度
の合計が占める割合を、前記帰属度判断定数として求め
ることを特徴とする請求項６記載の判断規則生成装置。