JPH08221439A - テキストファイルの自動分類方法 - Google Patents

Abstract

(57)【要約】 【目的】 テキストファイルの特徴ベクトルを生成しこ
れをニューラルネットワークの入力層に入力して該ネッ
トワークの結合リンクを特徴ベクトルに適合するように
修正する学習をし、その後、分類対象であるテキストフ
ァイルを分類する方法であって従来より処理時間の短い
方法を提供する。 【構成】 予め複数の基本単語を用意する。テキストフ
ァイルから単語を抽出し該抽出される単語群における基
本単語に当たる単語の出現回数を基本単語ごとに計数し
た結果に基づいて、特徴ベクトルを生成する。結合リン
クの修正は、学習前の出力層に用意されている出力ノー
ドのうち前記特徴ベクトルに対する距離が最も近い出力
ノードを決定し、その距離に応じて、その出力ノードの
特徴ベクトルに対する距離が近づくよう結合リンクを修
正する処理または、新たな出力ノードを追加生成する処
理のいずれかを実施することにより行なう。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は、テキストファイルデ
ータをデータベースに自動的に分類し登録する方法に関
するものである。

【０００２】

【従来の技術】例えば文献Ｉ（信学技報DE94-27,pp.59-
66,1994 ）には、自己組織化マップと呼ばれる教師なし
競合学習を行うニューラルネットワークを用いたテキス
トファイルの自動分類方法が開示されている。このテキ
ストファイルの自動分類方法では、先ず、テキストファ
イルからその特徴ベクトルを生成し、該特徴ベクトルを
入力層、出力層および結合リンクを具えるニューラルネ
ットワークの当該入力層に入力し、前記結合リンクを前
記特徴ベクトルに適合するように修正する学習がなされ
る。その際特徴ベクトルは、テキストファイルから単語
を切り出し、該切り出した単語の種類ごとの出現回数に
比例したベクトル表現の形で、生成されている（文献Ｉ
の第61頁右欄）。また、学習はいわゆるＳＯＭ法と称さ
れる方法、すなわち、前記出力層に用意されている出力
ノードのうちの前記特徴ベクトルに対する距離が一番近
い出力ノードを勝者ノードとし、かつ、該勝者ノードお
よびその近傍の出力ノードそれぞれの前記特徴ベクトル
に対する距離が近づくように前記結合リンクを修正する
方法、でなされている（文献Ｉの第60頁右欄〜第61頁左
欄）。学習が終えた後は、分類対象であるテキストファ
イルからその特徴ベクトルを生成し、該特徴ベクトルを
前記学習後のニューラルネットワークの入力層に入力し
て該学習後のニューラルネットワークの出力層における
出力ノードのうちの前記特徴ベクトルに対する距離が一
番近い出力ノード（勝者ノード）を求め、該勝者ノード
を前記分類対象であるテキストファイルの分類先として
いる。

【０００３】

【発明が解決しようとする課題】しかしながら、上述し
た従来のテキストファイルの自動分類方法では、特徴ベ
クトルを生成する際、テキストファイルから抽出される
単語の全ての種類についてその出現回数を計数しこれに
基づいて特徴ベクトルを生成するので、ニューラルネッ
トワークの入力層の入力ノード数はテキストファイルか
ら抽出される単語の種類数と同じ数、必要となる。ここ
で、出力層に用意されている出力ノードのうちの前記特
徴ベクトルに対する距離が一番近い出力ノード（勝者ノ
ード）を決めるためには、下記の（１）式を実行し、か
つ、Distance_j が最小値となった出力ノードを選ぶ必要
がある（文献Ｉの第60頁右欄下部に記載の式（下記の
（１）式と同様な内容の式）参照））。

【０００４】 Distance_j ＝Σ_i=1 ^m（INPUT_i−weight_ij）² ・・・（１） ただし、（１）式中、Distance_j は計算対象としている
出力ノードの特徴ベクトルに対する距離（求めようとし
ている距離）、ｍは入力ノード数、ｉは計算対象として
いる入力ノード、ｊは計算対象としている出力ノード、
INPUT_iは計算対象としている入力ノードのデータ（ｉ番
目の単語の出現回数に関連するデータであり特徴ベクト
ルである）、weight_ijは入力ノードｉと出力ノードｊと
の間の結合の強さを示す荷重値（結合リンクを構成する
もの）である。なお、Σ_i=1 ^mとは、ｉを１からｍまで順
次に変えて計算をする意味である。

【０００５】したがって、この従来のテキストファイル
の分類方法では、勝者ノードを決めるための時間は入力
ノード数ｍに依存するため、勝者ノードを決めるための
時間が長時間になる場合があるという問題点があった。

【０００６】また、この従来のテキストファイルの分類
方法では、予めテキストファイルを分類するクラスを考
慮して複数の出力ノードを用意しておき（文献Ｉの第60
頁第24行）その中から勝者ノードを上記（１）式を用い
る方法で決める構成であったため、勝者ノードを決める
ための時間は出力ノードの数にも依存してしまう。

【０００７】また、この従来のテキストファイルの分類
方法では、学習は、勝者ノードおよびその近傍の出力ノ
ードそれぞれの前記特徴ベクトルに対する距離が近づく
ように結合リンクを修正することで、行なわれていた。
従って、図９（Ａ）に示した様にテキストファイルを分
類すべき複数のクラスＡ〜Ｅが複雑に入り組んでいる場
合、誤分類を起こし易い出力ノードが出来上がり易いと
いう問題点があった。これについて詳細に説明する。出
力ノードが例えば４×４の場合でこれら出力ノードが、
テキストファイルを分類すべき複数のクラスＡ〜Ｅが複
雑に入り組んでいる図９（Ａ）に示したような集合に対
し、クラスＢの当たりに位置していたとする（図１０
（Ｂ）参照）。このとき、クラスＡに分類されるべきテ
キストファイルが入力されると、４×４の出力ノードの
うちのクラスＡに最も近い出力ノードＮ₄₄が勝者ノード
となるので、この勝者ノードＮ₄₄およびその近傍の出力
ノードはクラスＡに近づくように修正される。このた
め、特に出力ノードＮ₃₄やＮ₄₃は、クラスＡ側に引っ張
られ結局クラスＡとクラスＢの間に位置する様になる
（図１０（Ｃ）参照）。そしてこれら出力ノードＮ₃₄や
Ｎ₄₃は学習中は出力ノードＮ₄₄と出力ノードＮ₃₃に引っ
張られることを繰り返すので結果としてクラスをカバー
することにならない出力ノードとなってしまう危険が高
い。またこのようなクラス間に位置する出力ノードは、
クラスＡに分類されるテキストファイルとクラスＢに分
類されるテキストファイルとを混ぜてしまう危険すなわ
ち誤分類を招く原因となる。

【０００８】

【課題を解決するための手段】そこで、この発明によれ
ば、テキストファイルからその特徴ベクトルを生成し、
該特徴ベクトルを入力層、出力層および結合リンクを具
えるニューラルネットワークの当該入力層に入力し、前
記結合リンクを前記特徴ベクトルに適合するように修正
する学習をし、その後、分類対象であるテキストファイ
ルからその特徴ベクトルを生成し、該特徴ベクトルを前
記学習後のニューラルネットワークの入力層に入力し、
該学習後のニュラルネットワークの出力層における前記
特徴ベクトルに対する距離が近い出力ノードを勝者ノー
ドとして該勝者ノードを前記分類対象であるテキストフ
ァイルの分類先とする、テキストファイルの自動分類方
法において、少なくとも前記学習段階における特徴ベク
トルは、予め複数の基本単語を用意しておき、一方、前
記テキストファイルから単語を抽出し、該抽出される単
語群における前記基本単語に当たる単語の出現回数を基
本単語ごとに計数した結果に基づいて、生成し、結合リ
ンクの前記修正は、学習前の出力層に用意されている出
力ノードのうち前記生成された特徴ベクトルに対する距
離が最も近い出力ノードを決定し、該決定された出力ノ
ードの前記特徴ベクトルに対する距離に応じて、（ａ）
少なくとも該決定された出力ノードの前記特徴ベクトル
に対する距離が近づくよう前記結合リンクを修正する処
理または、（ｂ）新たな出力ノードを追加生成する処理
のいずれかを実施することにより行なうことを特徴とす
る。

【０００９】なお、この発明の実施に当たり、前記分類
対象のテキストファイルからのその特徴ベクトルの生成
も、前記学習段階での特徴ベクトルの生成方法により行
なうのが好適である。こうすると、テキストファイルの
分類作業時に行なう特徴ベクトルの生成時間も従来に比
べ短縮でき、テキストファイルの自動分類の時間短縮が
一層図れるからである。

【００１０】また、この発明の実施に当たり、学習前の
出力層に用意されている前記出力ノードを１つとしてお
くのが好適である。こうすると、学習作業が開始された
当初において勝者ノード決定に用いる出力ノード数を少
なく出来るので、その分、勝者ノード決定の時間短縮が
図れるからである。

【００１１】

【作用】この発明の構成によれば、テキストファイルか
ら特徴ベクトルを生成するに必要な任意の単語のみを基
本単語として用意できる。このため、ニューラルネット
ワークの入力層における入力ノード数ｍを必要最低限と
できる。

【００１２】また、結合リンクの修正を行なう際に決定
される勝者ノードの特徴ベクトルに対する距離があまり
に離れている場合は、追加の出力ノードを生成するの
で、学習前の出力層に用意される出力ノードを少なくと
も１つとしておき、必要に応じ出力ノードを徐々に追加
出来る。これは、特徴ベクトルに対してより適切な結合
を示す出力ノードを徐々に生成できることを意味する。

【００１３】また、結合リンクの前記修正において前記
（ａ）の処理を行なう場合、決定された前記出力ノード
についてのみ特徴ベクトルに対する距離が近づくよう前
記結合リンクを修正する構成では、勝者ノードの近傍の
出力ノードが勝者ノードに引かれることを防止出来る。

【００１４】

【実施例】以下、図面を参照してこの発明の実施例につ
いて説明する。ただし、いずれの図もこれらの発明を理
解出来る程度に概略的に示してある。また、説明に用い
る各図において同様な構成成分については同一の番号を
付して示し、その重複する説明を省略することもある。

【００１５】図１〜図８はこの発明のテキストファイル
の自動分類方法（以下、分類方法と略称することもあ
る。）の実施例の説明図である。なお、この実施例では
分類対象とするテキストファイルの集合がコンピュータ
関連のテキストファイルである場合を説明する。図１
は、このようなテキストファイルの集合に含まれる１つ
のテキストファイル１０の例を示している。また、図２
および図３はこの発明の自動分類方法をテキストファイ
ル１０について実施した際のデータの流れを模式的に示
した図である。ただし、これら図２および図３では、分
類方法の実施に用いたシステムも併せて示してある。さ
らに、データは図面下方から上方に向かって流れていく
よう図示している。また、図４および図５はこの発明の
分類方法における学習作業のための処理手順の説明図、
図６および図７はこの学習作業における結合リンクの修
正の様子の説明図、図８はこの発明の分類方法における
分類作業のための処理手順の説明図である。

【００１６】１．システムの説明 先ず、この発明の分類方法の実施に用いたシステムにつ
いて説明する。このシステムは、図２および図３に示し
た様に、テキストデータベース１１と、特徴ベクトル生
成部１３と、ニューラルネットワーク１５と、クラス記
録ファイル１７と、過重結合値記録ファイル１９とを具
えている。特徴ベクトル生成部１３は、この場合は、基
本単語記録ファイル１３ａ、テキストベクトル化部１３
ｂおよび正規化部１３ｃで構成してある。なお、図２、
図３において、１１ｘはテキストデータベースから１つ
のテキストファイル１０が取り出される様子、１３ｘは
正規化する前の特徴ベクトル（ここではテキストベクト
ルと称する。）の様子、１３ｙは正規化した後のテキス
トベクトル（この実施例ではこれを特徴ベクトルとす
る。）の様子をそれぞれ模式的に示したものである。

【００１７】ここで、テキストデータベース１１はテキ
ストファイルを蓄積する機能を有するものであり、テキ
ストデータを加工したり変形したりする能力は持たない
ものである。また、これに限られないが、この実施例で
は蓄積するテキストファイル数が５１２個とされたテキ
ストデータベースとしている。

【００１８】また、基本単語記録ファイル１３ａは、予
め定めた複数の単語を記録しているファイルであり、テ
キストファイルをテキストベクトル化するためのチェッ
クリストの役割を果たすものである。この基本単語記録
ファイル１３ａのデータフォーマットは例えば後述の別
表１のＡ欄に示したものとできる。なお、この実施例の
場合の基本単語記録ファイル１３ａは、テキストデータ
ベース１１に蓄積されている５１２個のテキストファイ
ル中に出現する単語のうち最高出現（頻出）単語と最低
（頻出）単語とを除いた単語であって２文字以上の１０
０６個の単語を選択して記録したファイルとしている。
この実施例の場合の基本単語の一部を下記に列挙した。

【００１９】ラスターイメージ、ラディウス、ラディウ
スロケット、リスタート、リスト、リセット、リムーバ
ブル、レーザプリンタ、レーザープリンター、レーザー
ライター、レーザライタ、ＭｉｃｒｏＬｉｎｅ、レベ
ル、レポートレンダリング、プリント、マッキントッシ
ュ。

【００２０】なお、基本単語の決定において最高出現単
語や最低出現単語が複数あった場合、すなわち出現回数
がＮ回の単語がｐ個あったり、出現回数が１回の単語が
ｑ個あった場合これらｐ＋ｑ個の各単語はいずれも基本
単語とされない。また、もちろん、基本単語の選択のし
方は上述の例に限られない。

【００２１】また、テキストベクトル化部１３ｂは、テ
キストファイル１１ｘから自動的に単語を切り出してこ
れを上記基本単語記録ファイルに照らし、テキストファ
イル中に出現する基本単語の数を基本単語ごとに計数す
るものである。このテキストベクトル部１３ｂで作成さ
れるテキストベクトルのイメージは、例えば図２の１３
ｘに示した様なものとなる。すなわち、横軸に基本単語
をとり縦軸にこの基本単語のテキストファイル中での出
現回数（頻出度数）をとって表せるものとなる。

【００２２】また、正規化部１３ｃはテキストベクトル
化部１３ｂで作成されたテキストベクトルを正規化する
ものである。この正規化されたテキストベクトルをこの
実施例ではテキストファイルの特徴ベクトル（入力パタ
ーンと言うこともある）とする。この正規化部１３ｃで
作成される特徴ベクトルのイメージは、図３の１３ｙに
示した様なものとなる。すなわち、横軸に基本単語をと
り縦軸にこの基本単語のテキストファイル中での出現回
数（頻出度数）を正規化した値をとって表せるものとな
る。なお、正規化の方法は特に限定されず、任意の方法
で行なえる（詳細は後述する）。また、テキストベクト
ル化部１３ｂで作成されたテキストベクトルを、場合に
よってはそのままテキストファイルの特徴ベクトルとし
て用いる得ることもある。

【００２３】また、ニューラルネットワーク１５は、入
力層１５ａ、出力層１５ｂおよび結合リンク１５ｃで構
成されたものである。ただし、入力層１５ａを構成する
ノード（入力ノード）１５ａａの数は固定とされこの場
合は基本単語数と同じ１００６個とされ、また、出力層
１５ｂを構成するノード（出力ノード）１５ｂａの数は
初期状態において１つとされその後の学習段階において
問題に応じ増えるものとしてある。出力ノード１５ｂａ
が、学習の結果、１つのクラスを意味することになる。

【００２４】また、クラス記録ファイル１７は、この発
明の分類方法によりテキストファイルを自動分類する際
にテキストファイルがどのクラスに属するかを記録する
ためのファイルである。このクラス記録ファイル１７の
データフォーマットは例えば後述の別表１のＢ欄に示し
たものとできる。このクラス記録ファイル１７でのデー
タ数はクラスタリングされるテキストファイル数に等し
い。

【００２５】また、結合荷重値記録ファイル１９は、結
合リンクを構成するため各入力ノードおよび各出力ノー
ド間の結合荷重値を記録するものであり、学習動作にお
いて修正がされるものである。この結合荷重値記録ファ
イル１９のデータフォーマットは例えば後述の別表１の
Ｃ欄に示したものとできる。

【００２６】２．分類方法の説明 ２−１．学習動作 この発明の分類方法における学習動作は次の様に行なわ
れる。これを図１〜図７を参照して説明する。

【００２７】先ず、ニューラルネットワーク１５におけ
る結合リンク１５ｃ（図２参照）の荷重値（結合リンク
値ともいう。）を初期化する（図４のステップＳ１）。

【００２８】次に、テキストデータベース１１よりテキ
ストファイルを１つ取り出す（図４のステップＳ２）。

【００２９】次に、このテキストファイルの特徴ベクト
ルの生成がなされる（図４のステップＳ３、Ｓ４）。こ
のため、このテキストファイル中の単語を切り出し、そ
してこの単語の出現回数を計数し、そして基本単語名を
次元として出現回数を要素とするベクトルで表現される
テキストベクトルを、先ず生成する（図４のステップＳ
３）。この生成されるテキストベクトルは、そのイメー
ジが例えば既に説明した図２の１３ｘのようなものとな
る。そして、データとしては、各基本単語に対し出現回
数を示す数字が並ぶ例えば｛０１３０００４００・・・
１００｝のようなものとなる。つまり、テキストベクト
ルの第ｎ要素が基本単語記録ファイルの第ｎ要素に対応
している。そして、テキストベクトルの第ｎの要素がｋ
個であるとは、基本単語記録ファイルの第ｎ要素の単語
がテキストファイル中にｋ回出現していることを示して
いる。次に、このテキストベクトルの正規化を行なって
特徴ベクトルINPUT_iを生成する（図４のステップＳ
４）。なおこの実施例の場合のテキストベクトルの正規
化は、各基本単語の出現回数input_iを全ての基本単語の
出現回数の総数Σ_i=1 ^minput_iでそれぞれ除することでお
こなっている。

【００３０】このようにして得た特徴ベクトル（（入力
パターン）とも言う。）INPUT_iを、次に、ニューラルネ
ットワーク１５の入力層１５ａに入力する（図４のステ
ップＳ５）。この際、基本単語ごとの入力ノード１５ａ
ａに、特徴ベクトルにおける対応するデータが入力され
る様に、特徴ベクトルINPUT_iを入力層１５ａに入力す
る。

【００３１】次に、出力層１５ｂに用意されている出力
ノードと、この入力された特徴ベクトルINPUT_iとの距離
Distance_j を全ての出力ノードについて計算する（図４
のステップＳ６）。ここでは、従来同様に下記の（１）
式に従いDistance_j を求める。

【００３２】 Distance_j ＝Σ_i=1 ^m（INPUT_i−weight_ij）² ・・・（１） なお、（１）式中、の各記号はすでに説明した通りであ
るが、例えばweight_ijはより具体的に説明すれば、図３
中の各入力ノード１５ａａおよび各出力ノード１５ｂａ
それぞれを結合する程度を示す荷重値である。

【００３３】次に、出力層１５ｂに用意されている出力
ノードのうちの、特徴ベクトルに対する距離が一番近い
出力ノード（勝者ノード）を決める（図５のステップＳ
７）。ここでは、（１）式により求めたDistance_j が最
小値となった出力ノードを勝者ノードwinner's Distanc
e としている。なお、この実施例では初期状態の出力ノ
ード数が１であるので、最初はこの１つの出力ノードが
必ず勝者ノードとなる。しかし、本発明では勝者ノード
について以下の処理がなされるので問題とならない。

【００３４】すなわち、勝者ノードの特徴ベクトルに対
する距離winner's Distance が、所定の閾値ｄに対しど
ういう関係かを判定し（図５のステップＳ８）、その結
果に応じ次の何れかの処理をする。

【００３５】先ず、winner's Distance ＜ｄの場合（こ
の場合を活性状態と称する。）は出力ノードを増やすこ
となくこの勝者ノードの特徴ベクトルに対する距離が近
づくように結合リンクを修正する（ステップＳ９）。具
体的には、特徴ベクトルINPUT_i、現在の荷重値weight
(t)_iWjおよびゲインＲ(t) を用いてこの勝者ノードの新
たな荷重値weight(t+1)_iWjを求め、これをこの出力ノー
ドの荷重値とすることにより結合リンクを処理する。こ
こで、ゲインＲ(t) は、０≦Ｒ(t) ≦１の範囲で例えば
ユーザが予め決める値である。図６（Ａ）および（Ｂ）
はこの活性状態での処理を模式的に示した図である。た
だし、ここでは出力ノードＡと出力ノードＢの２つの出
力ノードが用意されている場合でかつ特徴ベクトルINPU
T_iに対し出力ノードＢが勝者ノードとなっている例を示
している。勝者ノードを決定した時点での出力ノードＢ
と特徴ベクトルINPUT_iとの距離Ｄ_B がＤ_B ＜ｄであった
ので（図６（Ａ））、weight(t+1)_iWjを新たに求める処
理を施すことにより、出力ノードＢを特徴ベクトルによ
り一層近づけている（図６（Ｂ））。なお、この活性状
態の処理においては、勝者ノードおよびその近傍の出力
ノードそれぞれの特徴ベクトルに対する距離を近づける
ようにしても良いが、図９を用いて説明したクラス間の
領域に出力ノードが位置する危険を防止する意味から
は、この実施例の様に、勝者ノードについてのみ特徴ベ
クトルに対する距離を近づける処理を行うのが良い。

【００３６】一方、winner's Distance ≧ｄの場合（こ
の場合を非活性状態と称する。）は新たな出力ノード
（勝者ノードの子ノード）を追加生成する（図５のステ
ップＳ１０におけるｓｊ＝ｓｊ＋１の処理）。またこの
際、追加生成された出力ノードの特徴ベクトルに対する
距離を近づける処理を行なう。具体的には、追加生成さ
れた出力ノードの荷重値weight(t+1)_isjを、特徴ベクト
ルINPUT_i、勝者ノードの荷重値weight(t)_iWjおよびゲイ
ンＲ(t) を用いて求めることにより、結合リンクを修正
する。図７（Ａ）および（Ｂ）はこの非活性状態での処
理を模式的に示した図である。ただし、ここでも図６の
場合と同様、出力ノードＡと出力ノードＢの２つの出力
ノードが用意されている場合でかつ特徴ベクトルINPUT_i
に対し出力ノードＢが勝者ノードとなっている例を示し
ている。勝者ノードを決定した時点での出力ノードＢと
特徴ベクトルINPUT_iとの距離Ｄ_B がＤ_B ≧ｔであったの
で（図７（Ａ））、新たな出力ノードとして勝者ノード
（出力ノードＢ）の子ノードＮを追加生成すると共にこ
のノードＮの距離を特徴ベクトルINPUT_iに近づけてい
る。従来技術では図６を用いて説明した処理しか行なわ
なかったが、この発明では、winner's Distance の所定
値ｄに対する大小関係により新たな出力ノードを追加生
成する処理もなされるのである。なお、この図６および
図７を用いて説明した一連の処理は例えば文献II（アイイー
イーイー トランサ゛クション オン ニューラル ネットワークス(IEEE Transaction o
n Neural Networks),pp.561-575,Vol.5,No4,1994 ）に
開示されている。

【００３７】ステップＳ２からステップＳ１０までの一
連の処理を各学習データ（この場合はテキストデータベ
ースに蓄積してある全テキストファイル）に対し施す
（図５のステップＳ１１）。さらに指定学習回数に達す
るまでステップＳ２からステップＳ１１までの一連の処
理をゲインＲ(t) を減少させながら繰り返す。なお、指
定学習回数はユーザにより決められる任意の数である。
ここまでの処理で学習作業が終了する。その後は、テキ
ストファイルの分類作業の処理（図８参照）を行なう。
これについて次に説明する。

【００３８】２−２．分類動作 学習動作が終了した後はテキストファイルの分類動作を
行なう。このため先ず、分類対象のテキストデータを用
意する（図８のステップＳ８１）。ここでは、分類対象
の多数のテキストファイルをテキストデータベース１１
（図１参照）に蓄積する。

【００３９】次に、テキストデータベースより分類対象
のテキストファイルを取り出す（図８のステップＳ８
２）。

【００４０】次に、このテキストファイルの特徴ベクト
ルの生成を行なう（図８のステップＳ８３、Ｓ８４）。
この実施例では、図４のステップ３およびステップ４を
用いて説明した手順により特徴ベクトルINPUT_iを生成す
る。

【００４１】このようにして得た特徴ベクトル（（入力
パターン）とも言う。）INPUT_iを、次に、上記学習後の
ニューラルネットワークの入力層に入力する（図８のス
テップＳ８５）。この場合も、学習作業時と同様、基本
単語ごとの入力ノードに、特徴ベクトルにおける対応す
るデータが入力される様に、特徴ベクトルINPUT_iを入力
層に入力する。

【００４２】次に、上記学習後のニューラルネットワー
クにおける出力層の各出力ノードと特徴ベクトルINPUT_i
との距離Distance_j を全ての出力ノードについて計算す
る（図８のステップＳ８６）。ここではこれを学習作業
時において説明した方法で求める。

【００４３】次に、学習後のニューラルネットワークに
おける出力層に用意されている出力ノードのうちの、特
徴ベクトルに対する距離が一番近い出力ノード（勝者ノ
ード）を決める（図８のステップＳ８７）。そして、こ
の勝者ノードをこのテキストファイルの分類先のクラス
とすると共に、後述の別表１のＢ欄に示したクラス記録
ファイルの文献名の項目にこのテキストファイル名を、
また同じくノード番号の項目に勝者ノード番号をそれぞ
れ登録する（図８のステップＳ８８）。

【００４４】ステップＳ８２からステップＳ８８までの
各処理を各テキストデータ（テキストファイル）に対し
て施す（図８のステップＳ８９）。これによりテキスト
ファイルの自動分類作業が行なえる。

【００４５】この発明の分類方法によれば、従来はテキ
ストファイル分類時に必要とされていたインデックスが
不要となる上に分類が自動で行なえる。そのため、人手
に頼ることのない分類が可能となる。又これまで、大量
のテキストファイルを分類する場合には、複数人のイン
デクサによるインデキシングが必要であったが、これに
はインデクサーに依存したインデックス付けになってし
まうなどの問題もあった。この自動分類方法により、そ
の問題を解決することが可能となる。然も、特徴ベクト
ルの生成に用いる単語をテキストファイル中に出現する
全単語ではなく特徴抽出に必要な基本単語に絞ったの
で、勝者ノードの決定作業時間を短縮できる。さらに、
出力ノードは初期状態において例えば１つとできその後
の問題に応じ追加生成するのでこの点でも勝者ノードの
決定作業時間を短縮出来る。このため、テキストファイ
ルの自動分類作業での学習時間を従来より短縮出来る。
これについて具体的な実験結果を以下に示す。下記の様
な実験条件で実験をした際の学習時間は、実施例が約
２．５日、比較例が約１０日であった。このようにこの
例の場合では、実施例の学習時間は比較例のそれの１／
４にできることが分かった。

【００４６】 データ数（テキストファイル数）： ５０１文献 基本単語数 ：１００６ 入力ノード数 ：１００６ 特徴ベクトル ：基本単語の出現回数を正規化する ニューラルネットワーク構造 ：実施例（入力ノードが１００６、出力ノ ードが初期状態で１） 比較例（入力ノードが１００６、出力ノ ードが初１００） 学習回数 ：実施例、比較例共に９０００回 また、この発明の分類方法では、従来方法に比べテキス
トファイルを的確に分類できるものであることが分かっ
た。その理由はまだ定かではないが、勝者ノードの特徴
ベクトルに対する距離に基づいて新たな出力ノードを追
加生成するのでテキストファイルの分類により一層適し
た出力ノードが用意出来ることと、実施例の様に勝者ノ
ードのみについて距離の修正を行うことの双方または一
方によると考えられる。

【００４７】上述においてはこの発明のテキストファイ
ルの自動分類方法の実施例について説明したがこの発明
は上述の実施例に限られない。たとえば、上述の実施例
では特徴ベクトルを生成する際のテキストベクトルの正
規化は、各基本単語の出現回数input_iを全ての基本単語
の出現回数の総数Σ_i=1 ^minput_iでそれぞれ除することで
おこなっている。しかし、たとえば、各基本単語の出現
回数input_iを全ての基本単語のうちの最大の出現回数で
それぞれ除することでおこなっても良い。

【００４８】

【表１】

【００４９】

【発明の効果】上述した説明から明らかなように、この
発明のテキストファイルの自動分類方法によれば、テキ
ストファイルの特徴ベクトルを生成し、該特徴ベクトル
を入力層、出力層および結合リンクを具えるニューラル
ネットワークの当該入力層に入力し、前記結合リンクを
前記特徴ベクトルに適合するように修正する学習をし、
その後、分類対象であるテキストファイルを分類するに
当たり、特徴ベクトルは、それに必要な複数の基本単語
を用意しておきテキストファイルから単語を抽出し、該
抽出される単語群における前記基本単語に当たる単語の
出現回数を基本単語ごとに計数した結果に基づいて、生
成する。このため、ニューラルネットワークの入力層に
おける入力ノード数ｍを必要最小限とできる。従って、
勝者ノードの決定時間の短縮が測れる。また、結合リン
クの修正は、学習前の出力層に用意されている出力ノー
ドのうち前記生成された特徴ベクトルに対する距離が最
も近い出力ノードを決定し、該決定された出力ノードの
前記特徴ベクトルに対する距離に応じて、上記（ａ）ま
たは（ｂ）のいずれかの処理を実施することにより行な
う。したがって、学習前の出力層に用意される出力ノー
ドを少なくとも１つとしておき、必要に応じ出力ノード
を徐々に追加できるので、この点でも、勝者ノードの決
定時間の短縮が測れる。また、特徴ベクトルに対してよ
り適切な結合を示す出力ノードを徐々に生成できるの
で、テキストファイルの的確な分類が行ない易い。

【００５０】また、特に、結合リンクの前記修正におい
て前記（ａ）の処理を行なう場合、決定された前記出力
ノードについてのみ特徴ベクトルに対する距離が近づく
よう前記結合リンクを修正する構成では、勝者ノードの
近傍の出力ノードが勝者ノードに引かれることを防止出
来るので、クラス間に出力ノードが位置することを防止
出来る。

【図面の簡単な説明】

【図１】実施例の説明図（その１）であり、テキストフ
ァイルの一例を示した図である。

【図２】実施例の説明図（その２）であり、この発明の
自動分類方法をテキストファイル１０について実施した
際のデータの流れを模式的に示した図である。

【図３】実施例の説明図（その３）であり、この発明の
自動分類方法をテキストファイル１０について実施した
際のデータの流れを模式的に示した図２に続く図であ
る。

【図４】実施例の説明図（その４）であり、学習作業の
ための処理手順の説明図である。

【図５】実施例の説明図（その５）であり、学習作業の
ための処理手順の図４に続く説明図である。

【図６】実施例の説明図（その６）であり、学習作業に
おける結合リンクの修正の様子の説明図である。

【図７】実施例の説明図（その７）であり、学習作業に
おける結合リンクの修正の様子の図６に続く説明図であ
る。

【図８】実施例の説明図（その８）であり、分類作業の
ための処理手順の説明図である。

【図９】従来技術の課題の１つの説明図である。

【符号の説明】

１０：テキストファイル １３ｙ：特徴ベクトル １５：ニューラルネットワーク １５ａ：入力層 １５ｂ：出力層 １５ｃ：結合リンク １５ａａ：入力ノード １５ｂａ：出力ノード

───────────────────────────────────────────────────── フロントページの続き (72)発明者 羽生田 博美 東京都港区虎ノ門１丁目７番12号 沖電気 工業株式会社内 (72)発明者 木下 哲男 東京都港区虎ノ門１丁目７番12号 沖電気 工業株式会社内

Claims (5)

【特許請求の範囲】
1. 【請求項１】 テキストファイルからその特徴ベクトル
   を生成し、該特徴ベクトルを入力層、出力層および結合
   リンクを具えるニューラルネットワークの当該入力層に
   入力し、前記結合リンクを前記入力された特徴ベクトル
   に適合するように修正する学習をし、その後、分類対象
   であるテキストファイルからその特徴ベクトルを生成
   し、該特徴ベクトルを前記学習後のニューラルネットワ
   ークの入力層に入力し、該学習後のニュラルネットワー
   クの出力層における前記特徴ベクトルに対する距離が近
   い出力ノードを勝者ノードとして該勝者ノードを前記分
   類対象であるテキストファイルの分類先とする、テキス
   トファイルの自動分類方法において、 少なくとも前記学習段階における特徴ベクトルは、予め
   複数の基本単語を用意しておき、一方、前記テキストフ
   ァイルから単語を抽出し、該抽出される単語群における
   前記基本単語に当たる単語の出現回数を基本単語ごとに
   計数した結果に基づいて、生成し、 結合リンクの前記修正は、学習前の出力層に用意されて
   いる出力ノードのうち前記生成された特徴ベクトルに対
   する距離が最も近い出力ノードを決定し、該決定された
   出力ノードの前記特徴ベクトルに対する距離に応じて、
   （ａ）少なくとも該決定された出力ノードの前記特徴ベ
   クトルに対する距離が近づくよう前記結合リンクを修正
   する処理または、（ｂ）新たな出力ノードを追加生成す
   る処理のいずれかを実施することにより行なうことを特
   徴とするテキストファイルの自動分類方法。
2. 【請求項２】 請求項１に記載のテキストファイルの自
   動分類方法において、 前記決定された出力ノードの前記特徴ベクトルに対する
   距離が予め定めた値より小さい場合前記（ａ）の処理を
   実施し、そうでない場合前記（ｂ）の処理を実施するこ
   とを特徴とするテキストファイルの自動分類方法。
3. 【請求項３】 請求項１に記載のテキストファイルの自
   動分類方法において、 前記分類対象のテキストファイルからのその特徴ベクト
   ルの生成も、請求項１に記載の生成方法で行なうことを
   特徴とするテキストファイルの自動分類方法。
4. 【請求項４】 請求項１に記載のテキストファイルの自
   動分類方法において、 学習前の出力層に用意されている前記出力ノードを１つ
   としておくことを特徴とするテキストファイルの自動分
   類方法。
5. 【請求項５】 請求項１に記載のテキストファイルの自
   動分類方法において、 結合リンクの前記修正において前記（ａ）の処理を行な
   う場合、決定された前記出力ノードについてのみ特徴ベ
   クトルに対する距離が近づくよう前記結合リンクを修正
   することを特徴とするテキストファイルの自動分類方
   法。