JPH06274635A

JPH06274635A - クラスタリング処理装置

Info

Publication number: JPH06274635A
Application number: JP8685893A
Authority: JP
Inventors: Hiroyuki Ando; 啓之安藤; Tomohiko Sato; 友彦佐藤
Original assignee: Azbil Corp
Current assignee: Azbil Corp
Priority date: 1993-03-23
Filing date: 1993-03-23
Publication date: 1994-09-30
Anticipated expiration: 2014-09-06
Also published as: JP2946449B2

Abstract

(57)【要約】【目的】入力するデータの分布に合わせて初期クラス
タを自動生成できるようにすることを目的とする。【構成】初期クラスタ広がり幅決定部１０は、データ
入力部１を介して、クラスタリング処理をするデータ群
より１０個のデータを任意抽出し、これら各データ間の
抽出した順に差分の絶対値を求める。ついで、この差分
の絶対値を降べきの順に並び変えて、となり同士の値の
差の絶対値を算出し、これらの中の最大値の半分を初期
クラスタ広がり幅αとして、クラスタリングパラメータ
記憶部８に記憶する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は、データ群の分布に合
わせてクラスタを生成するクラスタリング処理装置に関
し、クラスタリングするときの初期クラスタ広がり幅を
自動で設定するクラスタリング処理装置に関する。

【０００２】

【従来の技術】得られた事例（データ）から情報処理動
作を獲得するようなシステムでは、獲得できるデータの
量に比較して入力データは非常に広い範囲にわたり、そ
の量も多い。ここで、入力データを分類し、その分類し
た状態でデータを獲得するようにすれば、獲得するデー
タ量を減少させることが可能になる。このように、入力
したデータを分類する方法として、クラスタリングがあ
る。クラスタリングは入力データの中で似たもの同士を
併合していくつかのグループすなわちクラスタにまとめ
ていくものである。クラスタリングによる分類は、集合
を形成する各データの類似の度合いを測定して数量化
し、類似の程度が高いデータを同一のグループ（クラス
タ）に集めることによりなされる。

【０００３】図６は、上述したように入力データをクラ
スタリングする装置である従来のクラスタリング処理装
置の構成を示す構成図である。同図において、１はデー
タ入力部、２は入力したデータについて新規にクラスタ
を生成するか否かを判定するクラスタ生成判定部、３は
入力データのクラスタを新規に生成するクラスタ生成
部、４は入力データに基づいてクラスタの調節を行うク
ラスタ調節部、５は入力データに基づいて複数のクラス
タどうしを融合すべきか否かを判定するクラスタ融合判
定部、６は複数のクラスタどうしを融合するクラスタ融
合部である。また、７はクラスタを新規に生成する場合
或いはクラスタの調節や融合する場合に必要とするパラ
メータやクラスタリング情報が記憶される記憶部であ
り、クラスタリング用パラメータ記憶部８及びクラスタ
リング情報記憶部９から構成される。

【０００４】図７は、このようなクラスタリング処理装
置における処理状況を示す説明図であり、例えばある時
点までの入力データ群が図７（ａ）に示すような状況に
ある場合は、そのクラスタリング結果は図７（ｃ）に示
すようになされる。その後、時間の経過とともに入力デ
ータ群の特徴が図７（ｂ）に示すような状況に徐々に変
化すると、これに伴い、図７（ｃ）のクラスタの調節・
融合、あるいは図７（ｃ）のクラスタに新たなクラスタ
を生成し、その結果、図７（ｅ）に示すようにクラスタ
リングする。即ち本装置は、時間とともに増加していく
入力データ群に対応したクラスタを生成するものであ
り、逐次入力されるデータにしたがってクラスタの生
成，調節及び融合を行うことができる。

【０００５】図６に示すクラスタリング処理装置では、
まずデータ入力部１を介して入力されたデータ（信号）
が、クラスタ生成判定部２で新規にクラスタを生成する
か、それとも既に生成されているクラスタに帰属させる
かが判定される。この入力したデータの各クラスタへの
帰属度等を演算する場合のものさしとして、一般には、
式（１）に示すユークリッド距離及び式（２）に示すマ
ハラノビス距離とがある。

【０００６】

【数１】

【０００７】

【数２】

【０００８】ここで式（２）において、σｘ² ，σｙ²
は分散値を示し、それぞれ式（３），（４）で示され
る。なおｎはデータ数，μは平均値である。

【０００９】

【数３】

【００１０】

【数４】

【００１１】このマハラノビス距離は、確率または統計
等で利用される正規分布を求める場合に用いられ、した
がって演算が複雑かつ演算時間が長くなる。このため、
迅速な処理が要求されるオンライン処理では不向きであ
る。このクラスタリング処理装置では、オンライン処理
を可能とするため、入力した信号のクラスタへの帰属度
等を演算する場合、四則演算のみのユークリッド距離を
用いて演算時間を短縮すると共に、メモリ容量の増加を
抑制するようにしている。

【００１２】ここで、入力データの各クラスタへの帰属
度を定義するための分布として、ファジィ制御のメンバ
ーシップ関数としてよく利用される三角形の分布を用い
る。図８に示すように、一次元における三角形分布は、
分布の広がりαをパラメータとして有し、中心座標μの
位置を帰属度「１」として定義する。なお、多次元の場
合は各軸方向に独立して同様な分布を与える。次に一次
元におけるクラスタリング処理のアルゴリズムについ
て、図８の三角形分布を用いその概要を説明する。

【００１３】上記三角形分布において、既に生成されて
いるクラスタの領域を，とし、その周辺の領域を
，として各領域に分割する。ここで、Ｘは入力デー
タ、μはクラスタの中心位置、αはクラスタの中心から
の広がりを示している。なお、Ｋ１はクラスタの拡大す
る範囲に関するパラメータ、Ｋ２は縮小する範囲に関す
るパラメータであり、それぞれクラスタリング用パラメ
ータ記憶部８（図６）に記憶されている。データ入力部
１において入力されたデータＸが、領域の範囲に該当
している場合は、クラスタ生成部３において新規にクラ
スタが生成される。また、入力されたデータＸが、領域
の範囲に該当している場合は、クラスタ調節部４にお
いてクラスタの広がりに対し拡大処理を行う。また、入
力されたデータＸが、領域の範囲に該当している場合
は、クラスタの広がりを変更しない。また、入力された
データＸが、領域（クラスタの中心部）の範囲に該当
している場合は、クラスタ調節部４においてクラスタの
広がりに対し縮小処理を行う。なお、入力されたデータ
Ｘが、領域〜の範囲に該当している場合にはクラス
タの中心位置も変更される。

【００１４】次に、クラスタ生成部３におけるクラスタ
の生成アルゴリズムについて説明する。上記したよう
に、データ入力部１において入力されたデータＸが領域
の範囲に該当し帰属するクラスタが存在しない場合
や、クラスタが未だ生成されていない場合は、その入力
データを中心位置μとした図９に示すような帰属度分布
を有するクラスタを生成し、クラスタリング情報記憶部
９へ記憶する。この場合、帰属度Ｆ（ｘ）は、式（５）
で与えられ、その最大値は「１」である。なお、αはク
ラスタの初期広がりを示すパラメータであり、クラスタ
リング用パラメータ記憶部８に記憶されている。

【００１５】

【数５】

【００１６】次に、クラスタ調節部４における調節アル
ゴリズムについて図１０を用いて説明する。図１０
（ａ）に示すように、入力されたデータＸが領域の範
囲に該当している場合には、クラスタ調節部４において
図１０（ｂ）に示すようなクラスタの広がりに対して拡
大調節が行われる。この場合、クラスタ調節部４は、ま
ずクラスタの広がりαnew については式（６）に基づい
て演算する。

【００１７】

【数６】

【００１８】次に、拡大されたクラスタの新たな中心位
置μnew を、それぞれ式（７），（８）に基づいて演算
し、この結果をクラスタリング情報としてクラスタリン
グ情報記憶部９へ記憶する。

【００１９】

【数７】

【００２０】

【数８】

【００２１】次に、図１０（ｃ），（ｄ）は、クラスタ
の縮小調節を示す図である。上記したように、入力され
たデータＸが、領域（クラスタの中心部）の範囲に該
当している場合、クラスタ調節部４は、図１０（ｄ）に
示すようにクラスタの縮小調節を行うが、まずその中心
位置μnew を、式（９）に基づいて演算する。なお、式
（９）中のＮｏｌｄは、この時までにクラスタに入力さ
れたデータの数を示し、またｎは入力されたデータＸが
帰属すべきクラスタの数の逆数を示している。

【００２２】

【数９】

【００２３】次に、クラスタリング用パラメータ記憶部
８に記憶されている縮小に関するパラメータをＫ３とす
ると、クラスタの広がりαnew を、式（１０）に基づい
て演算する。

【００２４】

【数１０】

【００２５】なお、入力データＸが領域の範囲に該当
している場合は、クラスタの広がりについては変更せ
ず、式（９）に基づいて中心位置のみが変更される。次
に、クラスタ融合部６における融合アルゴリズムについ
て説明する。帰属すべきクラスタが複数あり、各クラス
タをペアとし、そのペア毎の共通部分の各軸における交
点の最小帰属度を各クラスタペアの帰属度として、その
最大帰属度が予め設定されたしきい値ＴＨを超えたとク
ラスタ融合判定部５が判定した場合、クラスタ融合部６
は、以下のアルゴリズムにより選ばれたクラスタのペア
を融合する。即ち、この場合新しいクラスタの広がりα
new が元のクラスタの広がりαoldを全て包含できるよ
うにクラスタの広がりを再定義する。しかし、このまま
ではクラスタの領域が拡大する一方となるため、クラス
タの端部があまり重要ではないと仮定して、以下の式
（１１）に基づいてデータ数Ｎ（new）を演算する。さ
らに式（１２），（１３）に基づいて中心位置μ（ne
w），クラスタの広がりα（new）を各軸について独立
に演算する。

【００２６】

【数１１】

【００２７】

【数１２】

【００２８】

【数１３】

【００２９】図１１は、２つのクラスタＡ，Ｂを融合す
る場合の状況を示す図である。即ち同図（ａ）に示すよ
うに、入力データＸがクラスタＡ，Ｂの領域の共通領域
の範囲にあり、かつこの共通領域の各軸における交点の
最小帰属度がしきい値ＴＨを超えていると判定される場
合は、クラスタＡ，Ｂの融合が行われ、図１１（ｂ）に
示すようなクラスタＣとして生成される。この場合、ク
ラスタＡ，Ｂのデータ数をＮＡ，ＮＢとすると、融合さ
れたクラスタＣのデータ数ＮＣは、式（１４）に基づい
て演算される。

【００３０】

【数１４】

【００３１】また、融合されたクラスタＣの中心位置μ
Ｃ及び広がりαＣは、それぞれ式（１５），（１６）に
基づいて演算される。

【００３２】

【数１５】

【００３３】

【数１６】

【００３４】なお、入力データＸがクラスタＡ，Ｂの領
域の共通領域の範囲内にあっても、図１１（ｃ）のよう
に共通領域の各軸における交点の最小帰属度がしきい値
ＴＨを超えていなければ、クラスタＡ，Ｂの融合を行わ
ない。

【００３５】ここで、このクラスタリング処理装置を色
画像処理装置に対応させた例を以下に示す。色画像処理
装置は、映像を撮影しているカラービデオカメラなどか
ら得られるＲＧＢ信号をＩｒｇ空間に変換し、カラー画
像の入力データをこの空間内のｒｇ変面上にｒとｇで示
されるベクトルの分布として形成するものである。な
お、Ｉｒｇ空間は、各信号Ｒ，Ｇ，Ｂの和である強度Ｉ
と、Ｒ（赤）信号を強度Ｉで割ったｒと、Ｇ（緑）信号
を強度Ｉで割ったｇとからなるものである。この色画像
処理装置により得られる、図１２に示すような、ｒｇ平
面に形成された基準入力画像のカラーデータの分布を、
クラスタリング処理装置によりクラスタリングして基準
クラスタを形成することにより、ある画像が基準の画像
と同じかどうかの判断が可能となる。

【００３６】すなわち、まず、基準画像をカメラにより
取り込み、色画像処理装置により変換された基準画像デ
ータの分布をクラスタリング処理装置でクラスタリング
して、基準クラスタとして設定する。次に、認識対象の
画像をカメラにより取り込んだときには、色画像処理装
置により変換された認識画像データの分布状態が、基準
クラスタと何処まで一致しているかにより、認識対象の
画像の基準画像に対する一致度を求めることができる。

【００３７】

【発明が解決しようとする課題】従来は、以上のように
構成されていたので、以下に示すような問題があった。
まず、前述した色画像処理装置によって得られた基準画
像のデータの分布のクラスタリングをする場合、このデ
ータの分布を人間がみてクラスタの広がり幅の初期値α
を決定するので、このために労力を要するという問題が
あった。そして、クラスタリングするデータの次元が４
を越えるような場合、クラスタの広がり幅の初期値αを
人間が決定するということはほとんど不可能である。

【００３８】また、生成されるクラスタの広がりは、１
つのパラメータ（α、α_new ）によって決定され、初期
クラスタが正方形であったので、クラスタリングするデ
ータ群の分布によっては、適切な初期クラスタを与えて
いないという問題があった。例えば、色画像処理装置に
よって得られた基準画像のデータの分布が、図１２
（ａ）に示すような状態の場合は、全ての分布の状態が
ｒｇ平面でｒ方向ｇ方向におおよそ均一に分布している
ので、初期クラスタが正方形であってもあまり問題はな
い。しかし、色画像処理装置によって得られた基準画像
のデータの分布が、図１２（ｂ）に示されるような状態
であった場合、基準画像のデータのすべての分布の状態
が、ｒ軸方向により広がっているので、初期クラスタが
正方形であると、この分布状態に適合したクラスタの生
成に時間がかかるという問題があった。

【００３９】また、従来では、初期クラスタが正方形で
あったため、前述の説明の色画像処理装置のデータでは
分布を示す平面の横軸方向と縦軸方向との値、すなわち
入力するデータを示す各次元の値を正規化する必要があ
った。

【００４０】この発明は、以上のような問題点を解消す
るために成されたものであり、入力するデータの分布に
合わせて初期クラスタを自動生成できるようにすること
を目的とする。

【００４１】

【課題を解決するための手段】この発明のクラスタリン
グ処理装置は、クラスタリングするデータ群より３個以
上のデータを順次任意抽出し、抽出したデータとこのデ
ータの次に抽出するデータとの差の絶対値を算出し、差
の絶対値を降べきの順に並べて、この順にとなり同氏の
差の絶対値を算出し、この算出した値の中の最大値を用
いて新たに生成するクラスタの大きさを決定する初期ク
ラスタ広がり決定手段を有することを特徴とする。

【００４２】

【作用】得られたデータより新たにクラスタを生成する
とき、このクラスタの大きさがクラスタリングするデー
タ群の分布の状態に適合したものとなる。

【００４３】

【実施例】以下この発明の１実施例を図を参照して説明
する。図１は、この発明のクラスタリング処理装置の構
成を示す構成図である。同図において、１０はデータ入
力部１において入力されたデータが帰属するクラスタが
存在しない場合や、クラスタが未だ生成されていない場
合に生成する初期クラスタの広がり幅を、入力したデー
タの状態により自動で決定する初期クラスタ広がり幅決
定部であり、他は図６と同様である。

【００４４】次に、このクラスタリング装置の初期クラ
スタ広がり幅決定部１０の動作を説明する。まず、デー
タ入力部１を介して、クラスタリング処理をするデータ
群より１０個のデータを任意抽出し、これら各データ間
の抽出した順に差分の絶対値を求める。ここで、任意抽
出したデータが抽出した順に「３」，「２５」，
「５」，「２７」，「７」，「１」，「４」，「３
２」，「３４」，「８」であった場合について説明す
る。

【００４５】これら任意抽出したデータの抽出した順に
差を取っていくと、この差分の絶対値は、「２２」，
「２０」，「２１」，「２０」，「６」，「３」，「２
８」，「３」，「２６」となる。次いで、求めた差分の
絶対値を降べきの順に並び変えて「２８」，「２６」，
「２２」，「２１」，「２０」，「２０」，「６」，
「３」，「３」とし、再びこれらの順にとなり同士の値
の差分の絶対値を取り、この中の最大値である「１４」
の１／２を初期クラスタ広がり幅とする。この場合、初
期クラスタ広がり幅αは「７」となる。そして、このよ
うにして得られた初期クラスタ広がり幅αを、クラスタ
リング用パラメータ記憶部８に記憶し、この値を用いて
クラスタ生成部３は初期クラスタを生成する。

【００４６】この初期クラスタ広がり幅決定部１０によ
り、前述の色画像処理装置によりｒｇ平面に形成された
基準入力画像のカラー分布を示すデータのクラスタリン
グのための初期クラスタ広がり幅αを決定する場合、ｒ
とｇに対して前述したように初期クラスタ広がり幅を決
定する。このことにより、全ての分布の状態がｒｇ平面
でｒ方向ｇ方向におおよそ均一に分布している図２
（ａ）の場合は、従来と同様に正方形の初期クラスタ２
１が生成され、基準画像のデータのすべての分布の状態
がｒ軸方向により広がっている図２（ｂ）の場合は、従
来とは異なり横に長い長方形の初期クラスタ２２を生成
する。このように、この発明のクラスタリング処理装置
によれば、実際に分布に適合した初期クラスタを生成す
るようになるので、クラスタリング処理が早くなる。

【００４７】ここで、クラスタリングするデータ群が、
図３に示すように、２つの領域に分かれて分布している
状態を考える。ここでは、次元が１つの場合について説
明する。この場合、前述のようにデータ群の中よりデー
タを任意抽出すると、領域３１中のデータと領域３２中
のデータとが、おおよそこの分布に近い状態で抽出され
るはずである。この抽出したデータを抽出した順に差を
取っていくと、その絶対値の中には、図３に示す距離
ａ，距離ｂ，距離ｃ，距離ｄに近い値のものがあると考
えられる。従って、これらの抽出データの差を大きい順
に並べて、その順に差の絶対値を取っていった場合、こ
れらの中の最大値Ｄは、大きい順に並べた距離ｄ，距離
ｃ，距離ａ，距離ｂの順に差の絶対値を取った中の最大
値Ｌに近い値となる。

【００４８】ここで、クラスタリングするデータ群の分
布状態が、図３に示すように、領域３１と領域３２とが
それぞれの領域の大きさより充分離れている場合、その
距離ｃと距離ａとの差が最大値Ｌである。この最大値Ｌ
の半分を初期クラスタの幅αとすれば、領域３１内の最
大値データＸで初期クラスタ３３を生成しても、このク
ラスタ３３が領域３２にかかることはない。従って、最
大値Ｌより小さい値である最大値Ｄの半分の値を初期ク
ラスタの幅αとし、同様に領域３１の最大値データでこ
の幅αの初期クラスタを生成しても、この初期クラスタ
が領域３２にかかることはない。

【００４９】実施例２．ところで、上記実施例では、ク
ラスタリング処理するデータが時間の経過とともに変化
しない場合について説明したが、この発明のクラスタリ
ング装置の適用範囲はこれに限るものではない。初期ク
ラスタ広がり幅決定部１０が所定の時間間隔で初期クラ
スタ広がり幅αを定期的に生成するようにすれば、クラ
スタリング処理するデータが時間の経過とともに変化す
るデータに対しても、実際に分布に適合した初期クラス
タが生成できるようになる。

【００５０】データが随時発生している状態では、図
４，図５に示すように、データの分布は時間とともに変
化する。図４は、ある時刻における実際の分布４１が時
間経過とともにより分散した分布４２に変化した状態を
示す分布図であり、図５は実際の分布５１が時間経過と
ともにより集約した分布に変化した状態を示す分布図で
ある。

【００５１】図４に示すように分布が変化するデータを
クラスタリングする場合、従来のように初期クラスタ４
３が固定されていると、図４（ｂ）に示すように、分布
４２に対しては小さいクラスタを多数生成しまうように
なる。このように、図４（ｂ）に示すような状態のクラ
スタを生成しても、従来の技術の欄で説明したように、
クラスタ同士が融合を繰り返していき、結果として、図
４（ａ）に示すようなクラスタを生成する場合もある
が、これではクラスタリング処理に時間がかかってしま
う。また、初期クラスタの大きさが実際の分布と大きく
異なる場合は、小さいクラスタが多数できたままになっ
てしまう。一方、この実施例２のクラスタリング処理装
置のように、その時のデータの分布状態に合わせて初期
クラスタ広がり幅αを設定すれば、図４（ａ）に示すよ
うに、分布４２に対して適切なクラスタ４４を生成する
ようになる。

【００５２】つぎに、図５に示すように初期分布５１が
分布５２へ変化するデータをクラスタリングする場合、
従来のように初期クラスタ５３が固定されていると、図
５（ｂ）に示すように、分布５２に対しては大きいクラ
スタを多数生成しまうようになる。そして、結果とし
て、分布５２は３つの領域から形成されているにもかか
わらず、１つのクラスタを生成してしまう場合がある。
これに対して、この実施例２のクラスタリング処理装置
のように、その時のデータの分布状態に合わせて初期ク
ラスタ広がり幅αを設定すれば、図５（ａ）に示すよう
に、分布５２に対して適切なクラスタ５４を生成するよ
うになる。このように、時間経過とともに分布が変化を
していくようなデータ群をクラスタリング処理する場
合、従来では実際の分布に適さないクラスタを生成して
しまう場合があるが、この実施例２のクラスタリング処
理装置では、実際のデータの分布状態を反映した適切な
クラスタリング処理を行う。

【００５３】

【発明の効果】以上説明したように、この発明によれ
ば、クラスタリング処理をするデータ群のデータの次元
が多数存在しても、新たにクラスタを生成するときのク
ラスタ（初期クラスタ）の大きさを、人間の感覚に頼ら
ずに決定できるという効果がある。従来では、データの
次元が４以上になると、クラスタリングするデータ群の
分布に適合した初期クラスタの大きさの決定は不可能で
あったが、この発明により可能となる。また、入力する
データの次元が多数あっても、それらを正規化する必要
がないという効果がある。

【００５４】そして、クラスタリングするデータ群の分
布に適合した大きさの初期クラスタを生成できるという
効果がある。従って、クラスタリング処理の結果がデー
タ群の分布の状態を正確に反映したものとなり、また、
クラスタリング処理をするデータ群が時間とともに分布
が変化するものであっても、その分布状態を正確に反映
したクラスタリング処理が可能となる。

【図面の簡単な説明】

【図１】この発明の１実施例であるクラスタリング処理
装置の構成を示す構成図である。

【図２】図１のクラスタリング処理装置でクラスタリン
グ処理をする色画像処理装置により得られた基準画像の
データの分布の状態と、生成される初期クラスタの状態
を示す分布図である。

【図３】初期クラスタ広がり幅決定部１０の動作の基本
概念を説明するための説明図である。

【図４】時間の経過とともに分布の状態が変化するデー
タ群を示す分布図である。

【図５】時間の経過とともに分布の状態が変化するデー
タ群を示す分布図である。

【図６】従来のクラスタリング処理装置の一例を示す構
成図である。

【図７】図６のクラスタリング装置のクラスタリング処
理の状況を示す図である。

【図８】図６のクラスタリング装置のクラスタリング処
理アルゴリズムの概要を説明するための分布図である。

【図９】図６のクラスタリング装置のクラスタ生成アル
ゴリズムを説明するための説明図である。

【図１０】図６のクラスタリング装置のクラスタの拡大
調節及び縮小調節のアルゴリズムを説明するための説明
図である。

【図１１】図６のクラスタリング装置のクラスタ融合ア
ルゴリズムを説明するための説明図である。

【図１２】図６のクラスタリング装置でクラスタリング
処理をする色画像処理装置により得られた基準画像のデ
ータの分布の状態を示す分布図である。

【符号の説明】１データ入力部２クラスタ生成判定部３クラスタ生成部４クラスタ調節部５クラスタ融合判定部６クラスタ融合部７記憶部８クラスタリング用パラメータ記憶部９クラスタリング情報記憶部１０初期クラスタ広がり幅決定部

Claims

【特許請求の範囲】

【請求項１】得られたデータがすでにあるクラスタに
入らない場合は新たにクラスタを生成し、順次得られる
データによりその特徴に従ってクラスタリング処理をす
るクラスタリング処理装置において、クラスタリングするデータ群より３個以上のデータを順
次任意抽出し、抽出したデータとこのデータの次に抽出
するデータとの差の絶対値を算出し、前記差の絶対値を
降べきの順に並べて、この順にとなり同士の差の絶対値
を算出し、この算出した値の中の最大値を用いて新たに
生成する前記クラスタの大きさを決定する初期クラスタ
広がり決定手段を有することを特徴とするクラスタリン
グ処理装置。