JPH0934861A - クラスタ分類装置 - Google Patents

Abstract

(57)【要約】 【目的】 性能が良くなるようにアルゴリズムを終了さ
せる条件が明確であり、ノイズに強く、クラスタの数、
位置、分布の形等の前知識を用いずに、理論的な識別限
界のＢａｙｅｓの分類に近いクラスタ分類ができるクラ
スタ分類装置。 【構成】 自己組織化特徴マッピングを用いて入力デー
タに対するプロトタイプ群からなるマップ３１を作成す
るマップ作成部１１と、そのマップ３１からクラスタの
集積度を表す量の分布図を作成し、その分布図からマッ
プを分割するマップ解析部１２と、そのマップにより入
力データを分類するラベル付け部とからなるクラスタ分
類装置において、分布図の形状の変化を計算する分布形
状変化計算部１４１を備え、計算された変化量が予め定
めた基準量以下になったときに自己組織化特徴マッピン
グを終了するようする。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、クラスタ分類装置
に関し、特に、複数個のデータをその類似性によってク
ラスタとしてまとめることにより複数個のクラスタに分
類する装置に関するものである。

【０００２】

【従来の技術】複数個のデータをその類似性により複数
個のクラスタに分類する方法としては、代表的には最尤
推定法がある。この方法は、クラスタ数が既知で、それ
ぞれのクラスタの大まかな位置が分かっている場合に用
いることができる。まず、それぞれのクラスタ内のデー
タの分布を例えば正規分布等と仮定し、平均、分散等の
パラメータを近似的に計算する。次に、あるデータがそ
のクラスタに所属する確率（この場合は正規分布）から
識別関数を定義する。そして、パラメータから求められ
る識別関数の大小によりデータをクラスタに割り当てる
ことによってクラスタ分類を行う。

【０００３】クラスタ数が既知で、分布の形を仮定しな
い方法としては、Ｋ−ｍｅａｎｓ法、ＬＢＧ法がある。
これは、分類の良さに関する評価基準を定義し、１）各
クラスタの代表点の選出、２）その代表点を基にしたク
ラスタ分類、と言う操作を逐次繰り返すことにより評価
基準を最適化し、クラスタ分類を行う方法であり、非階
層的方法と呼ばれる。

【０００４】クラスタ数が未知で、分布の形も仮定でき
ない場合、すなわち、データに関する前知識が全然ない
場合は、階層的方法がある。これは、データ間及びクラ
スタ間に何らかの距離を定義して、それを基にデータを
逐次的に統合・分割し、クラスタ分類を行うものであ
る。

【０００５】また、データを自己組織化特徴マッピング
ニューラルネットワーク（以下、ＳＯＭと略記する。）
に入力し、２次元のマップ上の素子にデータを割り当
て、その素子に対応するデータの数からクラスタ分けを
する手法が提案されている（Xuegong Zhang,Yanda Li,"
SELF-ORGANIZING MAP AS A NEW METHOD FOR CLUSTERING
AND DATA ANALYSIS",Proceedings of the Internationa
l Joint Conference onNeural Networks,vol.3,pp.2448
-2451,1993) 。

【０００６】

【発明が解決しようとする課題】上記のように、データ
をクラスタリングする従来の方法は、クラスタの数や位
置、分布の形を仮定しているものがほとんどである。と
ころが、一般的にクラスタ分類を行う場合、分類前はク
ラスタの数や分布の形は未知であることが多い。例え
ば、画像の領域分割を行うために特徴ベクトルをクラス
タ分類しようとした場合、分類前にクラスタの数や分布
の形状は未知である。

【０００７】前述の、最尤推定法やＫ−ｍｅａｎｓ法、
ＬＢＧ法は、クラスタの数、位置、分布の形状を仮定し
て行う方法であり、この場合、その仮定を間違えたり、
初期値としての与え方が不適当な場合、本来クラスタを
構成しているのにクラスタ分類されなかったり（過統
合）、１つのクラスタとされるべきものが複数のクラス
タに分類されたり（過分割）、本来所属すべきクラスタ
に分類されなかったり（誤分類）して、適正な結果は得
られなくなる。クラスタの数を順次変化させてそれぞれ
の場合を調べる方法が、特開平５−２０５０５８号に開
示されているが、分類処理をクラスタの数だけ繰り返さ
なければならず、アルゴリズムが複雑になる。かつ、そ
の場合、クラスタの数を正しく推定したとしても、その
位置、分布の仮定を間違えると、誤分類を生じ、適正な
分類はできない。

【０００８】また、従来のクラスタの数や分布の形状を
仮定しない階層的手法には、以下の問題点がある。 Ａ−１）分割・統合処理の手順、及び、アルゴリズムの
初期状態の設定によって結果が大きく変化する。 Ａ−２）統合されない（すなわち、クラスタ分類されな
い）データが残ってしまうことがある。 Ａ−３）処理の経過、結果を表すことが難しく、何時処
理を終了するかを明確に判断できないため、過統合、過
分割が起こりやすい。

【０００９】前述のデータをＳＯＭに入力し、２次元の
マップ上の素子にデータを割り当て、その素子に対応す
るデータの数からクラスタ分けをする方法では、処理の
経過、結果を表示することができる。その手法のねらい
と問題点について簡単に述べる。この手法では、入力デ
ータから、その位相を反映したプロトタイプの集合を作
成する。２次元のマップ上の素子は、それぞれそのプロ
トタイプを持ち、入力データはその何れかの素子と対応
するようになっている。このとき、クラスタ内のデータ
はクラスタ外に比べて多いと言う性質から、素子に対応
する入力データの数を比較すれば、クラスタ中心付近の
データに対応する素子の場合は、対応するデータ数は多
くなり、クラスタ中心から外れたデータに対応する素子
の場合は、対応するデータ数は少なくなるはずである。
よって、素子に対応するデータ数の比較を行うことによ
りクラスタを見つけることができる。ＳＯＭで重みの更
新を繰り返して、入力データの位相が良くマップに反映
されるようになると、クラスタ中心のデータ付近に反応
する素子数はクラスタ外に比べて相対的に多くなる。こ
れを分解能が上がると言う。このとき、各素子に対応し
た入力データ数（勝利数Ｖ）は相対的に均等化してしま
い、クラスタ中心とクラスタ外での差が小さくなる。こ
のため、ヒストグラムを明確に作成できないことがあ
る。

【００１０】また、この方法はアルゴリズムの終了条件
が明確でないため、早く打ち切りすぎて性能を悪くした
り、過剰に進行させて処理時間を長くさせることがあ
る。

【００１１】また、データにノイズがある場合、特に、
クラスタ間にノイズデータが存在すると、素子に対応す
るデータ数のヒストグラムが乱れるため、解析がし難い
と言う欠点がある。

【００１２】ところで、クラスタ分類装置の分類の性能
はより高いことが望ましい。分類の性能は、＜平均や分
散等が異なるある確率分布によって出現する複数のクラ
スタのデータをいかに誤分類を少なくして分離できるか
＞で示すことができる。ここで、最も誤分類の割合が少
ない場合に分類の性能が最も高く、このときを理論的に
Ｂａｙｅｓ分類（Bayes Classifier）と呼ぶ。

【００１３】Ｂａｙｅｓ分類について簡単に説明する。
ｘ（ｘ∈Ｒⁿ ：Ｒⁿ はｎ次元ユークリッド空間）を入力
ベクトル、Ｃ_i （ｉ＝１，２，…，Ｋ）をｘが所属する
クラスタ、ｐ（ｘ｜Ｃ_i ）をクラスタＣ_i 内でのｘの確
率密度関数（条件付き確率密度）、Ｐ（Ｃ_i ）をクラス
タＣ_i に属するｘが入力される確率（先験確率）とす
る。このとき、事後確率Ｐ（Ｃ_i ｜ｘ）は、Ｂａｙｅｓ
の公式により、次の式（１）のように書ける。

【００１４】 Ｐ（Ｃ_i ｜ｘ）＝Ｐ（Ｃ_i ）ｐ（ｘ｜Ｃ_i ）／ｐ（ｘ）， 事後確率Ｐ（Ｃ_i ｜ｘ）は、入力ベクトルｘを取り出し
たときにそれがクラスタＣ_i に属している確率と言うこ
とができる。ある入力ベクトルｘを取り出したとき、Ｐ
（Ｃ_i ｜ｘ）（ｉ＝１，２，３，…，Ｋ）の内で、最大
のＰ（Ｃ_i ｜ｘ）を与えるクラスタＣ_i をその入力ベク
トルに与えるようにすれば、誤分類率が最小になる。こ
の分類基準で分類を行う方法が、Ｂａｙｅｓ分類であ
る。

【００１５】なお、クラスタ分類装置の分類の性能を上
げる方法としては、コホーネンのＬｅａｒｎｉｎｇ Ｖ
ｅｃｔｏｒ Ｑｕａｎｔｉｚａｔｉｏｎ（以下、ＬＶＱ
と表記する。）がある（T.Kohonen,"Self-Organization
and Associative Memory",Third Edition,Springer-Ve
rlag,Berlin,1989）。ところが、この手法は、そのデー
タの所属するクラスタが何であるかを与える、いわゆる
＜教師付き学習＞の方法である。よって、ＬＶＱはＢ−
１）＜クラスタの数、位置、分布の形等の前知識なしに
過統合や過分割のない適性なクラスタ分類ができる＞と
言う条件を満たさない。

【００１６】以上の課題を整理すると、本発明のクラス
タ分類装置に求められる条件は、以下の通りである。 Ｂ−１）クラスタの数、位置、分布の形等の前知識なし
に過統合や過分割のない適性なクラスタ分類ができる。 Ｂ−２）処理の手順に依存しないクラスタ分類ができ
る。 Ｂ−３）処理の経過や結果を視覚的に見ることができ
る。 Ｂ−４）ヒストグラムが明確に生成される。 Ｂ−５）性能が良くなるようにアルゴリズムを終了させ
る条件が明確である。 Ｂ−６）ノイズに強い。 Ｂ−７）クラスタの数、位置、分布の形等の前知識を用
いずに、理論的な識別限界のＢａｙｅｓの分類に近いク
ラスタ分類ができる。

【００１７】本発明はこのような状況に鑑みてなされた
ものであり、その目的は、上記のＢ−１）〜Ｂ−７）の
条件を満たし、クラスタの数、位置、分布の形等の前知
識なしに過統合や過分割のない適性なクラスタ分類がで
き、処理の手順に依存しないクラスタ分類ができ、処理
の経過や結果を視覚的に見ることができ、ヒストグラム
が明確に生成され、性能が良くなるようにアルゴリズム
を終了させる条件が明確であり、ノイズに強く、しか
も、クラスタの数、位置、分布の形等の前知識を用いず
に、理論的な識別限界のＢａｙｅｓの分類に近いクラス
タ分類ができるクラスタ分類装置を提供することにあ
る。

【００１８】

【課題を解決するための手段】上記目的を達成する本発
明の第１のクラスタ分類装置は、自己組織化特徴マッピ
ングを用いて入力データに対するプロトタイプ群からな
るマップを作成するマップ作成部と、そのマップからク
ラスタの集積度を表す量の分布図を作成し、その分布図
からマップを分割するマップ解析部と、そのマップによ
り入力データを分類するラベル付け部とからなるクラス
タ分類装置において、分布図の形状の変化を計算する分
布形状変化計算部を備え、計算された変化量が予め定め
た基準量以下になったときに自己組織化特徴マッピング
を終了するようにしたことを特徴とするものである。

【００１９】本発明の第２のクラスタ分類装置は、自己
組織化特徴マッピングを用いて入力データに対するプロ
トタイプ群からなるマップを作成するマップ作成部と、
そのマップからクラスタの集積度を表す量の分布図を作
成し、その分布図からマップを分割するマップ解析部
と、そのマップにより入力データを分類するラベル付け
部からなるクラスタ分類装置において、プロトタイプ群
からの距離が一定の値以上の入力データを判別するデー
タ判別部を具備し、前記分布図作成の際にプロトタイプ
群からの距離が一定の値以上と判別された入力データに
対する前記のクラスタの集積度を表す量を除外すること
を特徴とするものである。

【００２０】本発明の第３のクラスタ分類装置は、自己
組織化特徴マッピングを用いて入力データに対するプロ
トタイプ群からなるマップを作成するマップ作成部と、
そのマップからクラスタの集積度を表す量の分布図を作
成し、その分布図からマップを分割するマップ解析部
と、そのマップにより入力データを分類するラベル付け
部からなるクラスタ分類装置において、プロトタイプ群
の結合が前記のクラスタの集積度に応じて切断可能に構
成されていることを特徴とするものである。

【００２１】以下、上記のような構成を採用する理由と
作用について説明する。まず、基本となる本発明の構成
の概略とその作用を、図１のブロック図と、クラスタ分
類の過程を簡単に示す図２〜図７を用いて説明し、本発
明が上記Ｂ−１）〜４）の条件を満たすことを示す。

【００２２】まず、本発明の構成の基本部分を示すと、
図１に示したように、入力データを入力してマップを作
成するマップ作成部１１と、作成されたマップからある
分布を作成し、その分布を分割することによりマップの
分割を行うマップ解析部１２と、入力データとその分割
されたマップから入力データのラベル付けを行うラベル
付け部１３とからなっている。

【００２３】この構成のクラスタ分類装置の作用を示す
１例として、２次元のデータを３つのクラスタに分類す
ることを考える。もちろん、クラスタ分類前は、クラス
タ数や分布の形状は未知である。

【００２４】まず、マップ作成部１１について説明す
る。マップ作成部１１はデータ入力部１１１とマップ部
１１２から構成される。データ入力部１１１において、
図２のような３つのクラスタ２１Ａ、２１Ｂ、２１Ｃに
属するベクトルからなる入力データ群２１を入力する。

【００２５】次に、マップ部１１２で、入力データ群２
１を用いて、図３のマップ３１を作成する。マップ３１
は、複数個（ｋ個と置く。）の素子群３２によって構成
される。入力データ群２１のそれぞれのデータは、素子
群３２の何れかの素子に対応するようにする。具体的な
対応方法を述べる。まず、入力データ群２１に対するプ
ロトタイプ群３３を素子数個（ｋ個）だけ作成する。そ
して、各素子にそれぞれプロトタイプ群３３の１つを割
り当てる。そして、入力データ群２１の各々に対しその
入力データと最も類似しているプロトタイプを持つ素子
を対応させればよい。そのとき、入力データ群２１の
中、類似しているデータはそれぞれマップ３１上で近い
素子に対応し、類似していないデータはそれぞれマップ
３１上で遠い素子に対応するように、素子にプロトタイ
プを割り当てる。つまり、入力データ群２１の各データ
間の位相情報をマップ３１に反映させるのである。

【００２６】このようにして、入力データ群２１から、
クラスタ２１Ａに属するベクトルに対応する素子群３２
Ａと、クラスタ２１Ｂに属するベクトルに対応する素子
群３２Ｂと、クラスタ２１Ｃに属するベクトルに対応す
る素子群３２Ｃからなるマップ３１が作成される。な
お、図３では、マップ３１として１次元に並んだ素子の
配列を用いたが、２次元に並んだ配列にしてもかまわな
い。以下では、説明を簡単にするために、１次元の配列
を用いることにする。

【００２７】図３において、注意しなくてはならないの
は、クラスタ２１Ａ、２１Ｂ、２１Ｃの記号は説明の便
宜上付けたものであり、入力データ群２１は、クラスタ
分類前に全くラベル付けされていないことである。も
し、クラスタ分類前にいくつかの入力データがラベル付
けされている場合は、ラベル付けされていないデータに
対して、マップ作成後に簡単にクラスタ分類ができる。
この方法を述べておく。１）あるラベル（例えばＡ）の
クラスタ２１Ａに属するデータに対応するマップ３１上
の素子を選び、その素子にラベルＡを与える。２）１）
の操作を２１Ｂ、２１Ｃのクラスタに属するデータに対
しても行い、マップ３１上の素子群にそれぞれＡ、Ｂ、
Ｃのラベルの何れかを与える。３）ラベル付けしていな
い入力データ群２１に対応するマップ上の素子を見つ
け、その素子のラベルをそのデータのラベルとする。
１）から３）の操作を行うことにより、全ての入力デー
タをラベル付けでき、クラスタ分類が終了する。マップ
３１によると、上記の１）の操作が終了しているように
も思われるが、入力データ群２１は全くラベル付けされ
ていないので、マップ３１のどこにクラスタが存在して
いるかはまだ不明である。よって、マップ３１上のどこ
にクラスタが存在するかを見つけるために、マップを解
析しなくてはならない。

【００２８】そこで、マップ上のどこにクラスタが存在
するかを見つけるために、マップ作成部１１で作成され
たマップ３１をマップ解析部１２で解析する。以下、マ
ップ解析部１２について説明する。マップ解析部１２
は、２つの部分で構成される。まず、各素子に対しクラ
スタの集積度に関する量を計算し、各素子に対する分布
を作成する分布作成部１２１と、その分布の山と谷の情
報からマップの分割を行う分布分割部１２２である。以
下にそれぞれの作用を詳しく説明する。

【００２９】まず、分布作成部１２１におけるクラスタ
の集積度を示す量としては、以下のような量があげられ
る。 Ｃ−１）マップ３１上の素子群３２の各素子に対応する
入力データ群の数。

【００３０】Ｃ−２）マップ３１上のある１つの素子に
割り当てられたプロトタイプと、その素子のマップ３１
上で隣接する素子に割り当てられたプロトタイプとの類
似性。

【００３１】クラスタは、データ群の空間において類似
しているデータが集まったものである。この性質を用い
て、上記のＣ−１）、Ｃ−２）の量がクラスタの集積度
を示す理由を説明する。クラスタ内のデータは、クラス
タ外に比べて多いと言う性質から、素子に対応する入力
データの数を比較すれば、クラスタ中心付近のデータに
対応する素子の場合は対応するデータ数は多くなり、ク
ラスタ中心から外れたデータに対応する素子の場合は対
応するデータ数は少なくなるはずである。よって、Ｃ−
１）の量を用いれば、図４（ａ）のように、山の部分が
クラスタを示すヒストグラムが作成される。以下、この
量を勝利数Ｖとも表記する。

【００３２】次に、Ｃ−２）の量について説明する。前
述のように、マップ上で隣接する素子のそれぞれのプロ
トタイプは、入力データ空間でも類似している。また、
クラスタ内のデータは類似していると言う類似性から、
そのプロトタイプの類似度はクラスタ内では高く、クラ
スタ外では低いと言える。この２つのことから、マップ
上で隣接するそれぞれの素子のプロトタイプ同士を比較
することにより、その類似度から、その素子の対応する
入力データがクラスタ中心かクラスタ外かを区別できる
ことが分かる。具体的に述べると、マップ上で隣接する
それぞれの素子のプロトタイプ同士の類似度が高けれ
ば、その素子はクラスタ中心付近のデータに対応する素
子であり、逆にマップ上で隣接するそれぞれの素子のプ
ロトタイプ同士の類似度が低ければ、その素子はクラス
タ中心から外れたデータに対応する素子である。類似度
として、例えば２次元ベクトルデータの場合、そのユー
クリッド距離を選べば、距離が大きければ類似度は低
く、距離が小さければ類似度は高くなる。このとき、Ｃ
−２）の量を用いてヒストグラムを作成すれば、図４
（ｂ）のように、山から山までがクラスタを表すように
なる。以下、この量を隣接素子間の類似度ｄＭとも表記
する。

【００３３】なお、勝利数Ｖと隣接素子間の類似度ｄＭ
の定義から、Ｖ／ｄＭの量もクラスタの集積度を表すこ
とが分かる。このときは、谷から谷までの山の部分がク
ラスタを表す。何れの量を用いても、クラスタの集積度
を表すヒストグラムを作成できるが、勝利数Ｖのみでは
問題点を生じることがある。このことについては後述す
る。

【００３４】分布作成部１２１で作成したクラスタの位
置を示すヒストグラムは、続いて、分布分割部１２２で
クラスタ毎に分割される。図４（ａ）のようにＣ−１）
の勝利数Ｖを用いたヒストグラムは、山の部分がクラス
タを表していることから、分布分割部１２２では、図５
（ａ）の破線で示すように分割される。同様に、図４
（ｂ）のようにＣ−２）の隣接素子間の類似度ｄＭを用
いたヒストグラムは、山から山の部分がクラスタを表し
ていることから、分布分割部１２２では、図５（ｂ）の
破線で示すように分割される。図５（ａ）、（ｂ）何れ
の場合も、同じ分割部分内の素子に対応する入力データ
群は同じクラスタに属していることになる。よって、１
つの分割部分が１つのクラスタと対応していることにな
る。すなわち、分割部分の数がクラスタの数であり、こ
の例の場合は、３つのクラスタが存在することが確認で
きる。

【００３５】以上の分布作成部１２１と分布分割部１２
２からなるマップ解析部１２によって、マップ作成部１
１で作られたマップ３１は分割されて、いくつかの部分
に分けられる。そして、各部分をクラスタと対応付ける
ことにより、どこにクラスタが存在しているかが明確に
なり、かつ、クラスタの数も判明することになる。この
分割されたマップをマップ５１とする。

【００３６】マップ解析部１２によってクラスタ毎に分
割されたマップ５１は、図１に示すように、ラベル付け
部１３に送られる。ラベル付け部１３は、マップの分割
部分にラベルを付けるマップラベル部１３１とラベル付
けするデータを入力するデータ入力部１３２と、その入
力データにラベルを付けるデータラベル部１３３によっ
て構成される。

【００３７】マップラベル部１３１では、まず、マップ
の分割部分にそれぞれラベル付けを行う。図６に示すよ
うに、マップには３つの分割部分が存在し、それぞれに
Ａ、Ｂ、Ｃと言うラベルを与えてマップ６１とする。次
に、入力データ群２１を再びデータ入力部１３２によっ
て入力し、その入力データ群２１のラベル付けを行う。
ラベル付けには、その入力データ群２１と、分割とラベ
ル付けをしたマップ６１を用いる。具体的には、入力デ
ータ群２１に対応するマップ６１上の素子を見つけ、そ
の素子のラベルをそのデータのラベルとすればよい。全
ての入力データ群２１に対するラベル付けが終了すれ
ば、図６に示すように、入力データ群２１がＡ、Ｂ、Ｃ
の３つのクラスタに分類されたことになる。図６では、
Ａ、Ｂ、Ｃそれぞれのクラスタに所属するデータを丸で
囲んでいる。ここで、この丸は説明の便宜上、データの
あるところを囲むために付けたもので、厳密な分離境界
線を示しているわけではない。なお、前述のように、図
２の入力データは予めラベル付けされておらず、ラベル
付け部１３で初めてラベル付けされることに注意する。
ここで、便宜上、図２のラベルと図６のラベルは一致さ
せてある。

【００３８】以上が、本発明のクラスタ分類装置の作用
の概略であり、図２のデータ群２１が、図６のようにラ
ベルＡ、Ｂ、Ｃの３つのクラスタに分類されたことにな
る。本作用では、クラスタの数、位置、分布の形等の前
知識を必要としていないことは明らかであり、本発明の
クラスタ分類装置に求められる条件のＢ−１）を満たし
ている。続いて、Ｂ−２）＜処理の手順に依存しないク
ラスタ分類ができる＞ことと、Ｂ−３）＜処理の経過や
結果を視覚的に見ることができる＞ことと、Ｂ−４）＜
ヒストグラムが明確に生成される＞と言う条件を本発明
が満たすことを示す。そのために、マップ作成部１２に
ついてさらに詳しく説明する。

【００３９】前述のように、マップ作成部１２では、デ
ータ群のプロトタイプを作成し、入力データの位相を反
映するように、そのプロトタイプをマップの素子に割り
当てることを行う。プロトタイプの作成は、ベクトル量
子化法を用いれば可能だが、入力データの位相を反映す
るようにそのプロトタイプをマップの素子に割り当てる
ことはできない。プロトタイプの作成と入力データの位
相を反映するためのプロトタイプの割り当てを同時に行
う方法は、コホーネンによる自己組織化特徴マッピング
（以下、ＳＯＭと表記する。）のアルゴリズムがある
（T.Kohonen,"Self-Organization and Associative Mem
ory",Third Edition,Springer-Verlag,Berlin,1989）。
以下、ＳＯＭについて説明する。

【００４０】ＳＯＭは、図７に模式的に示すように、２
次元に並ぶ素子群の層ＭＬ（以下、マップ層ＭＬと表記
する。）と、データを入力する入力層ＩＬから構成され
る。このマップ層ＭＬは、図７では２次元に並ぶ素子を
示したが、１次元に並ぶ素子を用いてもよい。入力層Ｉ
Ｌは、マップ層ＭＬの全ての素子と結合しており、入力
データをマップ層ＭＬの全ての素子に与えることができ
る。入力データは、スカラーでもベクトルでもかまわな
いが、ここでは一般的に、ベクトルｘ（ｎ次元）と置
く。マップ層ＭＬの素子ｉ（ｉはマップ上の順番とし、
全素子数をｋ個とする。）は、全て重みベクトルｍ_i
(ｎ次元）を持つことにする。ＳＯＭのアルゴリズム
は、入力ベクトルｘと各素子の重みベクトルｍ_i との類
似性から更新すべき重みベクトルを決定する＜類似性マ
ッチング＞と、その重みベクトルｍ_i を入力ベクトルｘ
の方に近付ける＜更新＞とに分けられる。そして、両者
の作用を繰り返すことにより、入力ベクトルｘの分布を
反映する重みベクトルｍ_i （１≦ｉ≦ｋ）が生成する。
＜類似性マッチング＞と＜更新＞の具体的な表式を以下
に示す。

【００４１】＜類似性マッチング＞ ＜更新＞ ｍ_i （ｔ＋１）＝ｍ_i （ｔ）＋α（ｔ）｛ｘ（ｔ）−ｍ_i （ｔ）｝ｉ∈Ｎ_c ｍ_i （ｔ＋１）＝ｍ_i （ｔ） その他 ・・・（３） ここで、｜ｘ−ｍ_i ｜はｘとｍ_i のユークリッド距離、
Ｃはその距離が最も小さかった素子（勝利素子）、Ｎ_c
はその勝利素子Ｃのマップ層ＭＬでの近傍、α（ｔ）は
正の定数、ｔは時刻を示す。更新を繰り返しながら、Ｎ
_c とα（ｔ）の大きさは徐々に小さくする。また、α
（ｔ）は勝利素子Ｃから離れるに従い、小さくなるよう
に選ぶこともできる。

【００４２】入力ベクトルｘの集合からランダムにｘを
選んで逐次入力し、重みベクトルｍ_i の更新を繰り返す
ことにより、入力ベクトルｘの分布を反映する重みベク
トルｍ_i （１≦ｉ≦ｋ）が生成する。すなわち、重みベ
クトルｍ_i （１≦ｉ≦ｋ）が入力ベクトルｘの分布のプ
ロトタイプになっている。そして、ある素子の重みベク
トルを入力ベクトルに近付けるように更新するとき、マ
ップ上のその素子の近傍の素子も同様に更新するので、
マップ上で隣接する素子同志は、それぞれ、入力ベクト
ルの空間上でも近いベクトルに対応するようになる。よ
って、ＳＯＭアルゴリズムは、入力データ空間の位相を
反映したプロトタイプの集合を作成することができる。
ＳＯＭアルゴリズムには、次のような特長がある。

【００４３】Ｄ−１）重みベクトルｍ_i （１≦ｉ≦ｋ）
の初期状態によらず、適正なマップが作成できる。 Ｄ−２）入力ベクトルｘの入力順によらず、適正なマッ
プが作成できる。 Ｄ−３）マップが１次元か２次元であるので、入力デー
タの位相を視覚的に見ることができる。 Ｄ−４）＜類似性マッチング＞と＜更新＞と言う単純な
操作の繰り返しなので、アルゴリズムが簡単である。

【００４４】ここで、適正なマップとは、プロトタイプ
の集合が入力データの位相をよく反映しているものを言
う。Ｄ−１）、Ｄ−２）の特長は、本発明のクラスタ分
類装置に求められる、Ｂ−２）＜処理の手順に依存しな
いクラスタ分類ができる＞と言う条件を満たすものであ
る。そして、Ｄ−３）の特長は、Ｂ−３）＜処理の経過
や結果を視覚的に見ることができる＞と言う条件を満た
すものである。

【００４５】ＳＯＭアルゴリズムのこのような有効性よ
り、マップ作成部１１では、このＳＯＭアルゴリズムを
採用する。すなわち、マップ作成部１１のデータ入力部
１１１をＳＯＭの入力層ＩＬ、マップ部１１２をＳＯＭ
のマップ層ＭＬとする。この構成により、入力データの
位相を反映するプロトタイプの集合を作成し、そのプロ
トタイプを持つ素子からなる１次元か２次元のマップを
作成する。このマップ作成部１１を具備した本発明のク
ラスタ分類装置は、前述のように、Ｂ−２）、Ｂ−３）
の条件を満たすことが可能である。

【００４６】なお、ＳＯＭにおいて１次元のマップを用
いた場合は、分布作成部１２１で作成されるヒストグラ
ムは通常よく知られている１次元のヒストグラムである
が、ＳＯＭにおいて２次元のマップを用いた場合は、２
次元のヒストグラムを作成することになる。この場合
も、２次元上の山あるいは谷を分割してクラスタを分類
すると言う概念は変わらない。本発明では、ＳＯＭの次
元は１次元でも２次元でも構わないが、前述したよう
に、今後も表示を容易にするために１次元のマップを利
用した場合を説明する。

【００４７】次に、本発明のクラスタ分類装置がＢ−
４）＜ヒストグラムが明確に生成される＞と言う条件を
満たすことを示す。まず、この条件の具体的な意味につ
いて述べる。前述のように、マップ解析部１２では、マ
ップ作成部１１で作成したマップ３１を用いて、各素子
に対しクラスタの集積度に関する量を計算し、各素子に
対する分布を作成する。クラスタの集積度を示す量とし
ては、Ｃ−１）＜勝利数Ｖ＞、Ｃ−２）＜隣接素子間の
類似度ｄＭ＞及びそれらを組み合わせた量があげられる
が、Ｃ−１）＜勝利数Ｖ＞のヒストグラムでは、ＳＯＭ
アルゴリズムで重みの更新を繰り返して行くにつれて、
問題を生じることを示す。

【００４８】ＳＯＭで重みの更新を繰り返して、入力デ
ータの位相がよくマップに反映されるようになると、ク
ラスタ中心のデータ付近に反応する素子数はクラスタ外
に比べて相対的に多くなる。これを分解能が上がると言
う。このとき、各素子に対応した入力データ数（勝利数
Ｖ）は相対的に均等化してしまい、クラスタ中心とクラ
スタ外での差が小さくなる。このため、素子に対応する
データ数の比較を用いたクラスタ分類がし難くなってし
まう。つまり、勝利数Ｖのヒストグラムを用いて、マッ
プの分割をする場合、ＳＯＭアルゴリズムの進行段階を
早く打ち切らないと、はっきりしたクラスタ分類ができ
ないと言う問題がある。その上、アルゴリズムの進行段
階を早く打ち切ると、素子に対するデータの対応関係が
不正確で誤分類を生じる。上記の従来の技術項、及び、
発明が解決しようとする課題の項で述べたデータを自己
組織化特徴マッピングニューラルネットワークに入力
し、２次元のマップ上の素子にデータを割り当て、その
素子に対応するデータの数からクラスタ分けをする手法
は、この勝利数Ｖの２次元のヒストグラムを用いた方法
である。

【００４９】以上から、Ｂ−４）＜ヒストグラムが明確
に生成される＞の条件を満たすためには、マップ解析部
１２の分布作成部１２１で作成するヒストグラムでは、
明確な分割ができる量を選ぶ必要がある。

【００５０】前述したように、分布作成部１２１におけ
るクラスタの集積度としては、隣接素子間の類似度ｄＭ
がある。このｄＭがアルゴリズムの進行の段階によら
ず、明確な分割ができる量であることを以下に示す。ｄ
Ｍを用いたマップの分割方法では、マップ上で隣接する
それぞれの素子のプロトタイプ同士の類似度が高けれ
ば、その素子はクラスタ中心付近のデータに対応する素
子であり、逆にマップ上で隣接するそれぞれの素子のプ
ロトタイプ同士の類似度が低ければ、その素子はクラス
タ中心から外れたデータに対応する素子であるとする。
ＳＯＭが進行すると分割し難くなる勝利数Ｖと異なり、
隣接素子間の類似度ｄＭは、ＳＯＭを進行させる程、ク
ラスタ中心では類似のデータに反応する素子数がより多
くなり、クラスタ外ではより少なくなるため、ｄＭのク
ラスタ内外での差は相対的により大きくなる。よって、
クラスタ分割がより容易になる。このようなｄＭの有効
性から、ｄＭのみか、ＶとｄＭを組み合わせたＶ／ｄＭ
を用いれば、明確なヒストグラムが作成でき、Ｂ−４）
の条件を満たすことができる。

【００５１】以上、本発明がＢ−１）〜Ｂ−４）の条件
を満たすように入力データをクラスタ分類する概念につ
いて説明した。続いて、主に分類性能を向上することに
相当するＢ−５）〜Ｂ−７）の条件を本発明が満たすこ
とを説明する。まず、本発明がＢ−５）＜性能が良くな
るようにアルゴリズムを終了させる条件が明確である＞
と言う条件を満たす理由について説明する。ＳＯＭで
は、重みの更新を繰り返して入力データの位相をマップ
に反映される。近傍Ｎ_c を小さくし、学習定数αも小さ
くしながら、更新を十分繰り返せば、マップはほとんど
変わらないので、ＳＯＭを終了してよい。ただし、終了
時間が明確でないと、早く打ち切りすぎて学習が不十分
であったり、余計な時間をかけて非効率になったりする
問題がある。

【００５２】終了条件として、ＳＯＭにおいて入力デー
タの位相がマップに反映されたか否かを判別するため
に、式（４）で表されるような入力データとそれに対応
するプロトタイプの距離の平均ｍｅａｎ ｄを調べるこ
とがよく行われる。 ここで、ｘ_i はｉ番目の入力データ、ｍ_ciはｘ_i に最も
近い重みベクトル、Ｎ_X は入力データの数である。

【００５３】入力データの位相がマップに反映されるに
つれ、プロトタイプは入力データに近付いて行くので、
この量は小さくなって行くはずである。プロトタイプの
更新回数と、この値の関係は、例えば図８の太線のよう
になる。ある値より小さくなるかある小さな値に収束し
た時点（図８では、Ａ点）でデータの位相がマップに反
映されたと判断し、学習を終了する。

【００５４】ところが、本発明において、このような基
準では、問題が生じる。本発明によりヒストグラムの分
割を行うとき、明確に山と谷が形成されていることが望
ましい。ところが、ｍｅａｎ ｄが収束した直後は、丁
度プロトタイプがクラスタを捉える出した時点に相当す
るため、ヒストグラムの形状がまだ明確でないことが多
い。ヒストグラムの形状が明確になるのは、ｍｅａｎ
ｄが収束してから暫く学習をさせた時点である。この時
点をシミュレーションによって求めると、更新によりヒ
ストグラム形状が余り変わらなくなる時点に相当する。

【００５５】そこで、ヒストグラムの形状変化を調べな
がら、ＳＯＭの学習を行い、形状が余り変化しなくなっ
た時点で学習を終了すれば、明確なヒストグラムを得る
ことができる。図８を用いて説明すると、形状の変化を
表す量をｃｈａｎｇｅ ｋとして、更新回数とｃｈａｎ
ｇｅ ｋの関係は、例えば図８の細線のようになり、Ｂ
点でＳＯＭを終了すればよいことになる。

【００５６】以上のような作用を持つようにするには、
図１のマップ作成部１１とマップ解析部１２の間を例え
ば図９のような構成にすればよい。すなわち、マップ部
１１２で作成中のマップ３１を用いて分布作成部１２１
でヒストグラムを作成し、そのヒストグラムの形状の変
化を分布形状変化計算部１４１で計算し、求めた変化量
が予め定めた基準量以下になったときにＳＯＭを終了
し、変化量が予め定めた基準量より大きい限り続けて学
習させるように、マップ部１１２にフィードバックする
ようにすればよい。なお、分布作成部１２１で計算する
クラスタの集積度を表す量は、前述したＶ／ｄＭやｄＭ
はもちろん、Ｖのみやその他のクラスタの集積度を表す
任意の量であっても構わない。

【００５７】以上のように、分布図の形状の変化を計算
して自己組織化特徴マッピングを終了する作用を持つ本
発明は、Ｂ−６）＜性能が良くなるようにアルゴリズム
を終了させる条件が明確である＞と言う条件を満たす。

【００５８】次に、本発明がＢ−６）＜ノイズに強い＞
と言う条件を満たす理由について説明する。図１０のよ
うな２次元ベクトルのクラスタを考える。そして、クラ
スタから外れた位置に図で白丸で表されるようなノイズ
があったとする。このときの１次元のＳＯＭのプロトタ
イプは、例えば図１０の黒丸のように配置される。ここ
で、隣接素子間のプロトタイプを太線で結んである。

【００５９】ＳＯＭは、各プロトタイプ間にそれぞれが
類似になろうとする引力があるので、クラスタから外れ
た位置にノイズがあっても、プロトタイプがノイズによ
って大きく移動するようなことはない。ところが、マッ
プ解析部１２の分布作成部１２１でクラスタの集積度を
表すものとしてあげたＣ−１）＜勝利数Ｖ＞はノイズの
影響を受けやすい。なぜなら、各素子に対応したデータ
数を示す勝利数Ｖを求めるとき、クラスタ外でどんなに
素子から離れているデータも、図中の矢印のように加算
してしまうからである。すなわち、図１０の分布から勝
利数Ｖのヒストグラムを作成した場合、図１１（ａ）の
ようにノイズに対応する小さな山が形成され、明確なヒ
ストグラム分割ができ難くなる。

【００６０】そこで、分布作成部１２１でヒストグラム
を作成する場合、ノイズデータの情報は除去するように
すればよい。ノイズデータかどうかは、プロトタイプと
データ間の距離を計算し、予め設定した閾値より大きけ
ればノイズと判断する。詳しく説明すると、ヒストグラ
ムで使用するＶを求めるために勝利素子を決定する際
に、プロトタイプと入力データ間の距離が予め設定した
閾値より大きければ勝利数Ｖに加算しなければよい。こ
のようにすれば、クラスタ外のデータに対応する素子の
勝利数Ｖは強制的に小さくなるので、図１１（ｂ）のよ
うな明確なヒストグラムが作成されることになる。な
お、分布作成部１２１で計算するクラスタの集積度を表
す量は、前述したＶ／ｄＭ、Ｖやその他のクラスタの集
積度を表す任意の量であっても構わない。

【００６１】以上のような作用を持つようにするには、
マップ解析部１２は、例えば、図１２のような構成にす
ればよい。すなわち、マップ３１と入力データを用い
て、プロトタイプ群からの距離が閾値以上の入力データ
を除去するデータ判別部１２０と、ノイズデータが除去
された入力データとマップ３１を用いてヒストグラムを
作成する分布作成部１２１と、そのヒストグラムを分割
する分布分割部１２２とからなる。以上のように、マッ
プ解析部１２において、プロトタイプ群からの距離が一
定の閾値以上の入力データを判別する作用を持つ本発明
は、Ｂ−６）＜ノイズに強い＞と言う条件を満たす。

【００６２】次に、本発明がＢ−７）＜クラスタの数、
位置、分布の形等の前知識を用いずに、理論的な識別限
界のＢａｙｅｓの分類に近いクラスタ分類ができる＞と
言う条件を満たす理由について説明する。図１３のよう
な２次元ベクトルのクラスタを考える。図１３中の細線
がＢａｙｅｓ境界である。ところで、ＳＯＭには、各プ
ロトタイプ間にそれぞれが類似になろうとする引力があ
る。定性的に説明すると、このことは、１次元のＳＯＭ
においてプロトタイプを結んだ紐（図中の太い破線）が
紐の長さを短くして滑らかに繋がろうとすることに相当
している。このため、図１３に示すように、クラスタ境
界において紐が曲がり、ＳＯＭによって分けられた境界
（図中の太線）が理想的なＢａｙｅｓ境界（図中の細
線）からずれていることがある。特に、図１３のように
クラスタ形状が等方的でない場合にずれやすい。このこ
とを解決する本発明は、マップ解析部１２を例えば図１
４のような構成にすればよい。以下、図１４のマップ解
析部１２について説明する。

【００６３】マップ解析部１２は、分布作成部１２１
と、分布分割部１２２と、プロトタイプ再更新部１２３
とから構成される。まず、分布作成部１２１では、前述
のようにＳＯＭからクラスタの集積度を表す量を計算
し、図４のようなヒストグラムを作成する。次に、分布
分割部１２２で、図５のようにヒストグラムを分割す
る。この素子をプロトタイプとした場合は、図１３の太
い破線のようにクラスタ境界において紐が曲がることが
ある。そこで、続いて、プロトタイプ再更新部１２３
で、境界が理想的なＢａｙｅｓ境界に近づくように、プ
ロトタイプを適当な位置に移動させる。

【００６４】具体的には、ＳＯＭを再び用いてプロトタ
イプを更新する。このとき、前記のＳＯＭにおける近傍
Ｎ_c の範囲を同一クラスタ内に限定するようにすればよ
い。すなわち、図５の分割部分において、同一クラスタ
内にはプロトタイプの近傍の概念があるが、異なるクラ
スタ間には近傍の概念をなくすのである。定性的に説明
すると、図１３に示した紐をクラスタ境界で切ることを
意味している。クラスタ内では引力のためプロトタイプ
は繋がっているが、クラスタ間には引力がないので自由
に移動できる。よって、図１５のようにプロトタイプ
（図中の太い破線）が配置され、境界（図中の太線）が
Ｂａｙｅｓ境界（図中の細線）に近付く。なお、分布作
成部１２１で計算するクラスタの集積度を表す量は、前
述したＶ／ｄＭやｄＭは勿論、Ｖのみやその他のクラス
タの集積度を表す任意の量であっても構わない。

【００６５】以上のように、プロトタイプの結合をクラ
スタの集積度に応じて切断を含んで可変とする本発明
は、Ｂ−７）＜クラスタの数、位置、分布の形等の前知
識を用いずに、理論的な識別限界のＢａｙｅｓの分類に
近いクラスタ分類ができる＞という条件を満たすことが
できる。

【００６６】以上、本発明のクラスタ分類装置の構成と
作用を説明した。本発明のクラスタ分類装置は次のＢ−
１）〜７）の条件を満たす。 Ｂ−１）クラスタの数、位置、分布の形等の前知識なし
に過統合や過分割のない適性なクラスタ分類ができる。 Ｂ−２）処理の手順に依存しないクラスタ分類ができ
る。 Ｂ−３）処理の経過や結果を視覚的に見ることができ
る。 Ｂ−４）ヒストグラムが明確に生成される。 Ｂ−５）性能が良くなるようにアルゴリズムを終了させ
る条件が明確である。 Ｂ−６）ノイズに強い。 Ｂ−７）クラスタの数、位置、分布の形等の前知識を用
いずに、理論的な識別限界のＢａｙｅｓの分類に近いク
ラスタ分類ができる。

【００６７】

【発明の実施の形態】次に、上記の本発明のクラスタ分
類装置のいくつかの実施例について説明する。まず、本
発明の第１実施例を説明する。本実施例では、特に本発
明がＢ−５）＜性能が良くなるようにアルゴリズムを終
了させる条件が明確である＞の条件を満たしていること
を示す。マップ部１１２のマップ３１の素子の数を３０
として１次元に配列した。また、分布形状変化計算部１
４１でヒストグラム成分を成分とするベクトルＨを考
え、次の式（５）で示される変化量を分布形状変化量と
した。

【００６８】 ｃｈａｎｇｅ ｋ（ｔ）＝｜Ｈ（ｔ）−Ｈ（ｔ−１）｜／｜Ｈ（ｔ）｜ Ｈ（ｔ）＝（ｈ₁ ，ｈ₂ ，，，ｈ_n ） ・・・（５） ここで、ｈ₁ ，，，ｈ_n はヒストグラム成分、ｎは成分
数（本実施例では、３０に相当する。）、ｔは更新回数
である。図１６に前記のｍｅａｎ ｄとｃｈａｎｇｅ
ｋの更新回数に対する変化の１例を示す。Ａ点がｍｅａ
ｎ ｄが収束した時刻、Ｂ点がｃｈａｎｇｅ ｋが収束
した時刻を示す。それぞれ、白丸がｍｅａｎ ｄ、黒丸
がｃｈａｎｇｅ ｋを表す。図１７（ａ）、（ｂ）は、
それぞれＡ点、Ｂ点での分布作成部１２１で作成された
ヒストグラムを示す。ただし、クラスタの集積度を表す
量はＶ／ｄＭとして選んだ。Ｂ点のヒストグラムの方が
Ａ点より明確になっていることが分かる。よって、ｃｈ
ａｎｇｅ ｋを計算し、収束した時刻（Ｂ点）でＳＯＭ
を終了させることにより、明確なヒストグラムが作成で
きることが分かる。このことは、Ｂ−５）＜性能が良く
なるようにアルゴリズムを終了させる条件が明確である
＞の条件を満たしていることを示している。

【００６９】なお、ＳＯＭではマップの素子が両側で繋
がるリング状にしても、切り離した紐状にしてもよい。
両者は、素子の重みの更新の際の近傍の概念が異なる。
リング状の場合は、マップの両側を近傍として繋ぐこと
に相当し、紐状の場合はマップの両側を近傍としないこ
とに相当する。リング状の場合は、マップの両側で入力
データの位相関係の反映が歪む＜Ｂｏｒｄｅｒ Ｅｆｆ
ｅｃｔｓ＞（T.Kohonen,"Things You Haven't Heard ab
out the Self-Organizing Map",Proc.IEEE Int. Conf.
on Neural Network,vol.3,pp.1147-1156,1993 ）を除く
ことができる。紐状の場合は、ヒストグラムを表示する
とき、両側が山谷の途中になることがないので、解析が
しやすい。図１７のヒストグラムは紐状の場合を示し
た。また、ＳＯＭが２次元である場合にはヒストグラム
も２次元になるが、そのときも２次元のヒストグラム成
分を成分とするベクトルＨを考えれば、全く同様にでき
る。また、（５）式では、ｃｈａｎｇｅ ｋをベクトル
Ｈで規格化してあるが、これは大きさを限定することに
より、データ変動を滑らかにするためである。また、ヒ
ストグラム成分も規格化して、Ｈ／｜Ｈ｜を新たなベク
トルＨとして選んでもデータ変動を滑らかにすることが
できる。

【００７０】次に、本発明の第２実施例について説明す
る。本実施例では、特に本発明がＢ−６）＜ノイズに強
い＞という条件を満たしていることを示す。データ判別
部１２０では、次の（６）式で示すＴＨより大きいデー
タを判別して除去することにした。

【００７１】 ＴＨ＝ＭＡＸ ＩＮＰＵＴ×Ｒ ・・・（６） ここで、ＭＡＸ ＩＮＰＵＴは入力データの大きさの最
大値、Ｒ（０＜Ｒ＜１）は取り除くデータ数の大小を決
める定数である。Ｒを小さくすることは、多くのノイズ
を除去することに相当する。本実施例では、ＭＡＸ Ｉ
ＮＰＵＴは２５０、Ｒは０．４と選んだ。図１８に示し
たような２次元ベクトルデータをクラスタ分類した。図
１８では、矢印で示した付近のデータがノイズである。
この場合の分布作成部１２１で作成されたＶ／ｄＭのヒ
ストグラムを図１９に示す。図１９（ａ）はデータを除
去しない場合であり、図１９（ｂ）はデータ判別部１２
０で除去した場合である。

【００７２】図１９（ｂ）の方が明確なヒストグラムが
作成され、クラスタ数が３と判明しやすいことが分か
る。したがって、本実施例がＢ−６）＜ノイズに強い＞
の条件を満たしていることを示している。

【００７３】なお、このデータ判別部１２０は、マップ
解析部１２でヒストグラムを作成するときに使うことが
有効である。これとは別に、マップ作成部１１でＳＯＭ
を用いてマップを作成するときにデータを除去すること
も考えられるが、ＳＯＭのプロトタイプが入力データへ
近づくことを制限することになるので、適当な位相保存
写像が行われ難くなることがある。よって、データ判別
部１２０は、ＳＯＭで学習するときよりも、マップ解析
部１２でヒストグラムを作成するときに使うことが有効
である。また、ＳＯＭが２次元である場合には、ヒスト
グラムも２次元になるが、そのときも全く同様にできる
ことは明らかである。

【００７４】次に、本発明の第３実施例について説明す
る。本実施例では、特に本発明がＢ−７）＜クラスタの
数、位置、分布の形等の前知識を用いずに、理論的な識
別限界のＢａｙｅｓの分類に近いクラスタ分類ができる
＞という条件を満たしていることを示す。本実施例で
は、マップ解析部１２のプロトタイプ再更新部１２３に
おいて、分布分割部１２２で分割された素子内のみが近
傍概念を持つようなＳＯＭを行い、プロトタイプを更新
する。図２０（ａ）、（ｂ）、（ｃ）に示すような２次
元ベクトルに対し、本実施例を用いてクラスタ分類を行
った。表１にプロトタイプ再更新部１２３でプロトタイ
プの再更新を行った場合と行わない場合の誤分類数をを
示した。この誤分類数は、Ｂａｙｅｓ分類を正当な分類
として、それに対し間違えて認識した数とした。当然こ
の数が少ない方が性能が良い分類が行われていることに
なる。

【００７５】 表１によると、プロトタイプ再更新部１２３でプロトタ
イプの再更新を行った本実施例の方が誤分類率が減少
し、性能が良いことが分かる。よって、このことは、本
実施例がＢ−６）＜クラスタの数、位置、分布の形等の
前知識を用いずに、理論的な識別限界のＢａｙｅｓの分
類に近いクラスタ分類ができる＞の条件を満たしている
ことを示している。また、ＳＯＭが２次元である場合に
は、ヒストグラムも２次元になるが、そのときも同一ク
ラスタに属する２次元状のマップ内に近傍概念を持つよ
うにするだけで、全く同様にできる。

【００７６】以上の実施例では、表示を容易にするため
に何れも入力データが２次元の場合を取り扱ったが、デ
ータ入力部１１１、１３２とマップ部１１２のプロトタ
イプ３３の次元数を変えることにより、入力データは多
次元ベクトルにもスカラーにもすることができる。

【００７７】また、本発明の入力データとしては、任意
の大きさのスカラー、ベクトルを選んでよい。すなわ
ち、ＳＯＭアルゴリズムは、Ｄ−１）＜重みベクトルｍ
_i （１≦ｉ≦ｋ）の初期状態によらず、適正なマップが
作成できる＞という特徴があるので、データを予め規格
化したり、データの特徴（クラスタ数、クラスタ位置
等）を知る必要がない。よって、画像情報、音声情報、
通信信号、時系列データ等、あらゆる入力データに対し
て適用できる。

【００７８】

【発明の効果】以上述べたように、本発明によると、以
下のＢ−１）〜Ｂ−７）の条件を満たすクラスタ分類装
置を提供することができる。 Ｂ−１）クラスタの数、位置、分布の形等の前知識なし
に過統合や過分割のない適性なクラスタ分類ができる。 Ｂ−２）処理の手順に依存しないクラスタ分類ができ
る。 Ｂ−３）処理の経過や結果を視覚的に見ることができ
る。 Ｂ−４）ヒストグラムが明確に生成される。 Ｂ−５）性能が良くなるようにアルゴリズムを終了させ
る条件が明確である。 Ｂ−６）ノイズに強い。 Ｂ−７）クラスタの数、位置、分布の形等の前知識を用
いずに、理論的な識別限界のＢａｙｅｓの分類に近いク
ラスタ分類ができる。

【図面の簡単な説明】

【図１】本発明の構成の概略を示す図である。

【図２】本発明でクラスタ分類するデータの例を示す図
である。

【図３】マップ作成部で作成するマップを示す図であ
る。

【図４】分布作成部で作成する分布を示す図である。

【図５】分布分割部で分割する分布とマップを示す図で
ある。

【図６】ラベル付け部でラベル付けしたマップとデータ
を示す図である。

【図７】ＳＯＭの構造を模式的に示す図である。

【図８】ｍｅａｎ ｄとｃｈａｎｇｅ ｋの更新回数に
対する変化を示す図である。

【図９】本発明のマップ作成部とマップ解析部と分布形
状変化計算部の関係を示す図である。

【図１０】本発明でクラスタ分類するノイズを含む入力
データを示す図である。

【図１１】分布作成部で作成するノイズデータを除去し
ない場合とノイズデータを除去した場合の勝利数の分布
図である。

【図１２】本発明のマップ解析部の構成を示す図であ
る。

【図１３】２次元データに対するＢａｙｅｓ境界とプロ
トタイプの更新をしない場合のプロトタイプによる境界
を示す図である。

【図１４】本発明のマップ解析部の別の構成を示す図で
ある。

【図１５】２次元データに対するＢａｙｅｓ境界とプロ
トタイプの更新をする場合のプロトタイプによる境界を
示す図である。

【図１６】本発明の第１実施例のｍｅａｎ ｄとｃｈａ
ｎｇｅ ｋの更新回数に対する変化を示す図である。

【図１７】第１実施例でｍｅａｎ ｄを基準にした場合
とｃｈａｎｇｅ ｋを基準にした場合の分布作成部で作
成するＶ／ｄＭの分布図である。

【図１８】本発明の第２実施例で分類するクラスタを示
す図である。

【図１９】第２実施例でノイズデータを除去しない場合
と除去した場合の分布作成部で作成するＶ／ｄＭの分布
図である。

【図２０】本発明の第３実施例で分類するクラスタを示
す図である。

【符号の説明】

１１…マップ作成部 １２…マップ解析部 １３…ラベル付け部 ２１…入力データ群 ２１Ａ、２１Ｂ、２１Ｃ…クラスタ ３１…マップ ３２…素子群 ３２Ａ、３２Ｂ、３２Ｃ…素子群 ３３…プロトタイプ群 ５１…分割されたマップ ６１…ラベル付けをしたマップ １１１…データ入力部 １１２…マップ部 １２０…データ判別部 １２１…分布作成部 １２２…分布分割部 １２３…プロトタイプ再更新部 １３１…マップラベル部 １３２…データ入力部 １３３…データラベル部 １４１…分布形状変化計算部 ＭＬ…マップ層 ＩＬ…入力層

Claims (3)

【特許請求の範囲】
1. 【請求項１】 自己組織化特徴マッピングを用いて入力
   データに対するプロトタイプ群からなるマップを作成す
   るマップ作成部と、そのマップからクラスタの集積度を
   表す量の分布図を作成し、その分布図からマップを分割
   するマップ解析部と、そのマップにより入力データを分
   類するラベル付け部とからなるクラスタ分類装置におい
   て、分布図の形状の変化を計算する分布形状変化計算部
   を備え、計算された変化量が予め定めた基準量以下にな
   ったときに自己組織化特徴マッピングを終了するように
   したことを特徴とするクラスタ分類装置。
2. 【請求項２】 自己組織化特徴マッピングを用いて入力
   データに対するプロトタイプ群からなるマップを作成す
   るマップ作成部と、そのマップからクラスタの集積度を
   表す量の分布図を作成し、その分布図からマップを分割
   するマップ解析部と、そのマップにより入力データを分
   類するラベル付け部からなるクラスタ分類装置におい
   て、プロトタイプ群からの距離が一定の値以上の入力デ
   ータを判別するデータ判別部を具備し、前記分布図作成
   の際にプロトタイプ群からの距離が一定の値以上と判別
   された入力データに対する前記のクラスタの集積度を表
   す量を除外することを特徴とするクラスタ分類装置。
3. 【請求項３】 自己組織化特徴マッピングを用いて入力
   データに対するプロトタイプ群からなるマップを作成す
   るマップ作成部と、そのマップからクラスタの集積度を
   表す量の分布図を作成し、その分布図からマップを分割
   するマップ解析部と、そのマップにより入力データを分
   類するラベル付け部からなるクラスタ分類装置におい
   て、プロトタイプ群の結合が前記のクラスタの集積度に
   応じて切断可能に構成されていることを特徴とするクラ
   スタ分類装置。