JP4599509B2

JP4599509B2 - 自己進化型パターン認識システム

Info

Publication number: JP4599509B2
Application number: JP2004261281A
Authority: JP
Inventors: 谷哲也保
Original assignee: RIKEN Institute of Physical and Chemical Research
Current assignee: RIKEN Institute of Physical and Chemical Research
Priority date: 2004-09-08
Filing date: 2004-09-08
Publication date: 2010-12-15
Anticipated expiration: 2024-09-08
Also published as: JP2006079279A

Description

本発明は、センサー等から入力された様々な入力データに対してパターン認識の処理を行うパターン認識システムに係り、とりわけ、システム構成を自己進化的に発展させることによりパターン認識の処理を高い認識率でかつ効率的に行うことができる自己進化型（self-evolutionary）パターン認識システムに関する。

パターン認識システムは一般に、入力データの特徴を抽出する特徴抽出部と、特徴抽出部により得られた特徴データに基づいてパターン認識の処理を行うパターン認識部とを備えている。

このうち、特徴抽出部は、センサー等から入力された入力データから当該入力データの特徴を抽出するものである。特徴抽出部で行われる具体的な処理としては、サンプリング処理、周波数帯域分割処理及び帯域分割データ再構成処理等が挙げられる。なお、このような特徴抽出部での処理は、各種のパラメータ（例えば、サンプリング処理に関してはサンプリング周期、周波数帯域分割処理に関しては帯域分割数及び帯域幅、帯域分割データ再構成処理に関してはフレーム数及び関数）に従って行われるが、これらのパラメータは通常、パターン認識の処理の対象となる入力データの種類等に応じて予め定められた一定値（固定値）として与えられる。

一方、パターン認識部は、特徴抽出部により行われた各種の処理の結果得られた特徴データに基づいてパターン認識の処理を行うものである。パターン認識部で行われる具体的な処理としては、人工ニューラルネットワーク構造等を利用した処理が挙げられる。なお、このような人工ニューラルネットワーク構造としては各種のものが提案されているが、本発明者は既に、構成の柔軟性及び学習の容易性に優れた新しい人工ニューラルネットワーク構造を備えた自己組織化カーネルメモリ（ＳＯＫＭ：self-organising kernel memory）を提案している（特願２００４−３８５０４号参照）。

上記特願２００４−３８５０４号に記載された自己組織化カーネルメモリは、それが備える人工ニューラルネットワーク構造において、ラジアル基底関数等の核関数に従って入力ベクトルとセントロイドベクトルとの類似度に応じた発火の強さを出力する複数のニューロンを含む。このような自己組織化カーネルメモリにおいて、それが備える人工ニューラルネットワーク構造の構築又は学習は、与えられた条件下でニューロンが自己増殖的に順次追加されることにより、また、Ｈｅｂｂの法則に基づく自己組織化アルゴリズムに従ってそれらの複数のニューロンが相互に結合されることにより行われる。なお、このような自己組織化カーネルメモリの利点としては、（１）構成に柔軟性がある（人工ニューラルネットワーク構造のネットワーク形態を自在にとることができる）、（２）学習が容易に行える（必要であればニューロンの消去（記憶内容の忘却）が簡単に行える）、（３）多重入力（multi-domain input）を一括的にかつ統合的に扱うことができ、しかも、異なる入力ベクトルに基づいて構成されたユニット間で相互結合するような連想記憶（associative memory）を実現することができる、といったものがある。

なお、この種の自己組織型の人工ニューラルネットワーク構造としては、他に、福島邦彦により提案されたｎｅｏｃｏｇｎｉｔｒｏｎ（脳の視覚系（visual cortex）の構造を模した階層型自己組織化ニューラルネットワークモデル）（非特許文献１）が唯一存在しているが、このｎｅｏｃｏｇｎｉｔｒｏｎとの比較においても、上記特願２００４−３８５０４号で提案した自己組織化カーネルメモリは、上記（１）〜（３）の利点を有している。

上述したように、従来のパターン認識システムにおいて、パターン認識部が自己組織化カーネルメモリとして構成されている場合には、与えられた入力データ等に応じてパターン認識部の構成が柔軟に変化することとなる。しかしながら、パターン認識システムにおいてパターン認識部の構成が変化すると、このような構成の変化に伴って、パターン認識部とその前段に設けられた特徴抽出部との間で処理の条件の関係が崩れてしまうことがあり得る。また、パターン認識部の前段に設けられた特徴抽出部は、パターン認識の処理の対象となる入力データの種類等に応じてそのパラメータを予め定めておく必要があるが、このようなパラメータの設定を人手により精度良く行うことは非常に困難である。
Fukushima, K.: Cognitron: a self-organizing multilayered neural network. Biol. Cybernetics 20, 121-136, 1975.

本発明はこのような点を考慮してなされたものであり、特徴抽出部での処理及びパターン認識部での処理を統括的に制御してシステム構成を自己進化的に発展させることにより、パターン認識の処理を高い認識率でかつ効率的に行うことができる自己進化型パターン認識システムを提供することを目的とする。

本発明は、入力データの特徴を抽出して特徴データを出力する特徴抽出部と、前記特徴抽出部から出力された特徴データに基づいてパターン認識の処理を行うパターン認識部と、前記パターン認識部により得られたパターン認識結果に基づいて前記特徴抽出部を再構成する強化学習部とを備えたことを特徴とする自己進化型パターン認識システムを提供する。

なお、本発明において、前記特徴抽出部は、入力データを所定のサンプリング周期で離散化するサンプリング部と、このサンプリング部により得られたサンプリングデータを周波数領域で所定の帯域分割数及び所定の帯域幅に帯域分割する周波数帯域分割部と、この周波数帯域分割部により得られた各帯域の帯域分割データを所定のフレーム数単位で所定の関数に従って変換する帯域分割データ変換部とを有し、前記強化学習部は、前記パターン認識部により得られたパターン認識結果に基づいて、前記特徴抽出部での処理に必要とされる前記サンプリング周期、前記帯域分割数、前記帯域幅、前記フレーム数及び前記関数のうちの少なくとも一つのパラメータを調整することが好ましい。

また、本発明において、前記パターン認識部は、核関数に従って入力ベクトルとテンプレートベクトルとの類似度に応じた発火の強さを出力する複数のニューロンを含む自己組織化ニューラルネットワーク構造を有することが好ましい。ここで、前記各ニューロンで用いられる前記核関数はラジアル基底関数を含むことが好ましい。

さらに、本発明において、前記強化学習部は、前記パターン認識部により得られたパターン認識結果に基づいて前記特徴抽出部とともに前記パターン認識部を再構成することが好ましい。ここで、前記強化学習部は、前記パターン認識部の前記自己組織化ニューラルネットワーク構造に含まれる複数のサブネットワーク構造に対して競合的な学習を行わせることにより前記パターン認識部を再構成することが好ましい。

本発明によれば、パターン認識部により得られたパターン認識結果に基づいて強化学習部により特徴抽出部（及び必要に応じてパターン認識部）を再構成するようにしているので、特徴抽出部での処理及びパターン認識部での処理を統括的に制御しながらシステム構成を自己進化的に発展させることが可能となり、パターン認識の処理を高い認識率でかつ効率的に行うことができる。

発明を実施するための形態

以下、図面を参照して本発明の実施の形態について説明する。

まず、図１により、本発明の一実施の形態に係る自己進化型パターン認識システムの全体構成について説明する。

図１に示すように、本実施の形態に係る自己進化型パターン認識システム１は、センサから入力された生データ（raw data）である入力データｘ（以下、下線付きの英字はベクトルを表す）の特徴を抽出して特徴データを出力する特徴抽出部（feature extraction unit）１０と、特徴抽出部１０から出力された特徴データに基づいてパターン認識の処理を行うパターン認識部（pattern recognizing unit）２０と、パターン認識部２０により得られたパターン認識結果に基づいて特徴抽出部１０及びパターン認識部２０を再構成する強化学習部（reinforcement learning unit）３０とを備えている。

このうち、特徴抽出部１０は、入力データｘを所定のサンプリング周期で離散化（サンリング）するサンプリング部（sampling part）１１と、サンプリング部１１により得られたサンプリングデータ（離散化信号）を周波数領域で所定の帯域分割数及び所定の帯域幅に帯域分割する周波数帯域分割部（subband encoding part）１２と、周波数帯域分割部１２により得られた各帯域の帯域分割データ（帯域信号列）を所定のフレーム数単位で所定の関数に従って変換して、パターン認識部２０に入力される符号化データ（encoded data）を生成する帯域分割データ変換部（subband encoding data reconstructing part）１３とを有する。

パターン認識部２０は、自己組織化カーネルメモリー（ＳＯＫＭ：self-organising kernel memory）として構成されるものであり、人工ニューラルネットワーク構造として、核関数に従って入力ベクトルとセントロイドベクトルとの類似度に応じた発火の強さを出力する複数のニューロンを含む自己組織化ニューラルネットワーク構造を備えている。なお、ここでいう核関数（カーネル関数）とは、ある２つのベクトルの関係を出力する関数をいう（文献（N. Cristianini and J. S. Taylor, "An Introduction to Support Vector Machines, Cambridge Univ. Press, 2000.）参照）。このような核関数としては任意のものを用いることができるが、２つのベクトルの相互関係を距離で表してその度合いをスカラー形式で出力するようなラジアル基底関数が好ましく用いられる。

強化学習部３０は、比較器（comparator）３１を有し、パターン認識部２０により得られたパターン認識結果と目標値（target response）とに基づいて誤差信号（error signal）を求めるとともに、この求められた誤差信号を特徴抽出部１０及びパターン認識部２０にフィードバックさせることにより、特徴抽出部１０及びパターン認識部２０を再構成する。なお、ここでいう強化学習とは、パターン認識部２０により得られるパターン認識結果がより良い状態となるよう特徴抽出部１０及びパターン認識部２０を再構成することをいい、狭い意味での強化学習には限定されない。具体的には、強化学習部３０は、パターン認識部２０により得られたパターン認識結果に基づいて、特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）での処理に必要とされるサンプリング周期、帯域分割数、帯域幅、フレーム数及び関数のうちの少なくとも一つのパラメータを調整する。また、強化学習部３０は、パターン認識部２０により得られたパターン認識結果に基づいて、パターン認識部２０の自己組織化ニューラルネットワーク構造に含まれる複数のサブネットワーク構造に対して競合的な学習（competitive learning）を行わせる。なお、ここでいう競合的な学習は、サブネットワーク構造単位で進化等を行わせるものであり、この点で、ニューロン単位で進化等を行わせる一般的な意味での競合的な学習とは異なる。また、ここでいう競合的な学習は、結果の悪い方のサブネットワーク構造を重点的に進化させるものであり、この点でも、結果の良い方のニューロンを重点的に進化させる一般的な意味での競合的な学習とは異なる。

次に、図１により、このような構成からなる自己進化型パターン認識システム１の作用について説明する。

図１に示す自己進化型パターン認識システム１において、センサから入力された入力データｘが特徴抽出部１０に入力される。ここで、入力データｘとしては、人間の五感を構成する知覚である視覚（visual）、聴覚（auditory）、嗅覚（olfactory）、味覚（gustatory）及び触覚（somatosensory）に関する信号の他、脳波（ＥＥＧ，ＭＥＧ，ｆＭＲＩ，ＰＥＴ，ＳＱＵＩＤ等）や心電図（electrocardiogram）、筋電図（electromyogram)等の生体信号、又は、地震波（seismic wave）やレーダー波等といった自然現象から生じる信号といった任意の信号が挙げられる。

このようにして入力データｘが特徴抽出部１０に入力されると、まず、サンプリング部１１において、入力データｘがサンプリング周期Ｔで離散化される。ここで、サンプリング部１１は、サンプリング周期Ｔが可変である点を除いて、既存の技術により実現することができる。

次いで、周波数帯域分割部１２において、サンプリング部１１により離散化されたサンプリングデータ（離散信号）が周波数領域で帯域分割数Ｎ及び帯域幅Ｗ_ｉに帯域分割される。なお、最近の脳科学の見地から、このような周波数領域での帯域分割処理が、人間の五感を構成する知覚のうち視覚、聴覚及び嗅覚を発揮するための前処理として行われているということが明らかになってきている。

ここで、周波数帯域分割部１２は、一連の分析フィルター列（analysis filter bank）を用いる手法により実現することができる（文献（Crochiere, R. E. and Rabiner, L. R.: Multirate Digital Signal Processing'', Englewood Cliffs, Prentice-Hall:NJ, 1983.）参照）。具体的には、このようなフィルター列は、図１に示すように、所定の帯域幅Ｗ_１，Ｗ_２，…，Ｗ_Ｎを持つバンドパスフィルター１〜Ｎとして実現することができる。なお、一般的には、一定（固定）の帯域幅を持つ複数のバンドパスフィルターを用いて入力データの全ての周波数をカバーするように構成されることが多いが、ここでは、バンドパスフィルターの数（帯域分割数Ｎ）、帯域幅Ｗ_１，Ｗ_２，…，Ｗ_Ｎ及び及びそれに関連するフィルター設計のためのパラメータは可変であるものとする。

次いで、帯域分割データ変換部１３において、周波数帯域分割部１２により帯域分割された各帯域の帯域分割データ（帯域信号列）がある期間Ｍにおける各帯域の全体を含むような形で束ねられて符号化される。すなわち、帯域分割データ変換部１３において、周波数帯域分割部１２により帯域分割された各帯域の帯域分割データ（帯域信号列）がフレーム数Ｍ単位で関数ｆ（・）に従って変換される。

具体的には、周波数帯域分割部１２で得られた時間ｎ（ｎ：離散時間）分の（又は１フレーム分の）帯域信号列を
ｘ（ｎ）＝［ｘ_１（ｎ），ｘ_２（ｎ），…，ｘ_Ｎ（ｎ）］^Ｔ … （１）
と定義すると、後段のパターン認識部２０に入力される符号化データは、次式（２）のように、サイズがＮ×Ｍの行列形式で表現される。

Ｙ（ｎ）＝［ｙ（ｎ），ｙ（ｎ−１），…，ｙ（ｎ−Ｍ＋１）］ … （２）
ｙ（ｎ）＝［ｙ_１（ｎ），ｙ_２（ｎ），…，ｙ_Ｎ（ｎ）］
ｙ_ｉ（ｎ）＝ｆ（ｘ_ｉ（ｎ））（ｉ＝１，２，…，Ｎ）
ここで、関数ｆ（・）は、後段のパターン認識部２０での処理が効率的に行われるように必要に応じて各フレームデータに対して適用されるものであり、例えばローパスフィルターのように各フレームデータを更に圧縮するような関数や、各フレームデータの波形を平滑化するような関数、各フレームデータの正規化を行ってパターン空間の均一性を保つような関数等が適用される。ここで、関数ｆ（・）内のパラメータは可変である。なお、パターン認識部２０が自己組織化カーネルメモリーとして構成される場合には、他の人工ニューラルネットワーク構造の場合と同様に少なくともデータの正規化は行われることが望ましい。

また、フレーム数Ｍは、例えば脳神経学や心理学の見地から短期記憶（short-term memory）の許容範囲に従って固定とすることも可能であるが、ここでは可変であるものとする。

その後、このようにして特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）で順次処理されることにより得られた符号化データがパターン認識部２０に入力される。

ここで、パターン認識部２０は、自己組織化カーネルメモリー（ＳＯＫＭ）として構成されており、特徴抽出部１０から入力された符号化データに基づいて人工ニューラルネットワーク構造が構築又は学習される。具体的には、パターン認識部２０において、人工ニューラルネットワーク構造の構築又は学習は、与えられた条件下でニューロンが自己増殖的に順次追加されることにより、また、Ｈｅｂｂの法則に基づく自己組織化アルゴリズムに従ってそれらの複数のニューロンが相互に結合されることにより行われる。そして、このような人工ニューラルネットワーク構造の構築又は学習の過程でパターン認識部２０内には幾つかのサブネットワーク構造（Ｓｕｂ−ＳＯＫＭｓ）が自己発生的に形成され、これらのサブネットワーク構造（Ｓｕｂ−ＳＯＫＭｓ）に基づいて最終的にパターン認識結果が出力される。なお、ここで用いられる人工ニューラルネットワーク構造の構築又は学習方法は、本出願人が先に出願した特願２００４−３８５０４号等に記載されたものと同一であるので、詳細な説明は省略する。

なお、このようにしてパターン認識部２０から出力されたパターン認識結果は強化学習部３０に入力される。強化学習部３０においては、比較器３１により、パターン認識部２０から出力されたパターン認識結果と目標値とに基づいて誤差信号を求めるとともに、この求められた誤差信号を特徴抽出部１０及びパターン認識部２０に指令信号としてフィードバックさせることにより、特徴抽出部１０及びパターン認識部２０を再構成する。ここで、強化学習部３０の比較器３１に与えられる目標値は、システムの外側から（例えば人手を介して）与えられる他、システムの内部で自動的に定義されて与えられるようにしてもよい。なお、この後者の例としては、人工心システム内（ＡＭＳ： artificial mind system）における他の心理学的モジュールとの連携に基づいて与えられる場合（文献（Hoya, T.: Artificial Mind System - Kernel Memory Approach. Springer-Verlag:Heidelberg, to appear. 2005.）参照）や、パターン認識とは別の用途のために構成された自己組織型カーネルメモリーの出力等に基づいて与えられる場合等が挙げられる。

すなわち、強化学習部３０においては、パターン認識部２０から出力されたパターン認識結果と目標値とに基づいて与えられた誤差信号により、特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）及びパターン認識部２０の全てが再構成される。なお、強化学習部３０により行われる特徴抽出部１０及びパターン認識部２０の再構成は、システムの外側又は内部で与えられた目標値に基づいて行われるものであり、広義には強化学習（reinforcement learning）とも呼ばれるものである（文献（川人光男、脳の計算理論、産業図書、１９９６．）参照）。

以下、強化学習部３０により行われる特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）及びパターン認識部２０の再構成の手法について説明する。

まず、上述したように、特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）において、その各部での処理に必要とされるパラメータ（(i)サンプリング周期Ｔ、(ii)帯域分割数Ｎ、(iii)帯域幅Ｗ_ｉ（及びそれに関連するフィルター設計のためのパラメータ）、(iv)帯域信号列のフレーム数Ｍ、(v)（必要であれば）関数ｆ（・）内のパラメータ）の全てが可変であるものとする。また、パターン認識部２０は、それが備える人工ニューラルネットワーク構造の構築又は学習によりその構成が変化するものとする。

そして、特徴抽出部１０は、その初期の状態において、各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）での処理に必要とされる上記(i)〜(v)のパラメータが次のような初期パラメータ値に設定される。なおここでは、特徴抽出部１０が聴覚系の特徴抽出器として用いられる場合を例に挙げて説明する。

すなわち、初期パラメータ値の設定は、人間の聴覚に関して工学的によく知られている知識に基づいてパラメータの自由度（degrees of freedom）を少なくするという観点で行われる。これは、本実施の形態に係る自己進化型パターン認識システム１においては、パラメータの自由度が比較的高くなるので、初期パラメータ値の設定を適切に行わない場合には、特徴抽出部１０の各部における自己進化に費やされる時間（最終的に良いパターン認識結果を得るために必要とされる再構成のための時間）が多大になってしまうからである。

一般に、人間の可聴周波数は２０Ｈｚ〜２０ｋＨｚ程度と考えられている。また、音声認識の処理においては、低・中域周波数域（２００Ｈｚ〜３２００Ｈｚ）の周波数軸を間引きするようなメル尺度（mel-scale）を用いる方が固定の周波数軸を用いるよりも認識率や符号化された音声信号の復元率（decoding rate）が高まることも知られている（文献（Deller, J. R,, Proakis, J. G., and Hansen, J. H. L.: Discrete-Time Processing of Speech Signals. Macmillan:New York, 1993.）参照）。これらの知見に基づき、まず、特徴抽出部１０のサンプリング部１１及び周波数帯域分割部１２における３つのパラメータ（(i)サンプリング周期Ｔ、(ii)帯域分割数Ｎ、(iii)帯域幅Ｗ_ｉ（及びそれに関連するフィルター設計のためのパラメータ））の初期値が定められる。

次に、特徴抽出部１０の帯域分割データ変換部１３におけるパラメータ（(iv)帯域信号列のフレーム数Ｍ）の初期値については、神経心理学で得られている知見（短期記憶の保持時間（retention time）及びサンプリング周期Ｔ）により定められる。

以上により、上記(i)〜(iv)の４つのパラメータが定められると、パターン認識部２０の人工ニューラルネットワーク構造内に含まれる各ニューロンに保持されるテンプレートベクトル（又は行列）のサイズも一意に定められる。

また、特徴抽出部１０の帯域分割データ変換部１３における他のパラメータ（(v)関数ｆ（・）内のパラメータ）の初期値についても、ある程度一意に定められる。すなわち、パターン認識部２０が自己組織化カーネルメモリーとして構成される場合には、関数ｆ（・）として一般的に正規化関数及び平滑化関数等が用いられることとなるが、正規化関数としては単一の正規化関数（データの正規化も少なくとも−１から１の範囲で行われれば十分である）を用いればよく、また、平滑化関数のパラメータも学術的知見から得た情報に基づいて定められる。

なお、以上においては、特徴抽出部１０が聴覚系の特徴抽出器として用いられる場合の
初期パラメータ値の設定の仕方について説明したが、特徴抽出部１０が視覚系及び嗅覚系等の特徴抽出器として用いられる場合にも、同様にして、学術的知見から得た情報に基づいて上記(i)〜(v)のパラメータの初期値の範囲を限定することができる。

一方、パターン認識部２０は、その初期の状態において、Ｈｅｂｂの法則に基づく自己組織化アルゴリズムに従って幾つかのサブネットワーク構造（Ｓｕｂ−ＳＯＫＭｓ）が既に自己発生的に形成されているものとする。

この状態で、強化学習部３０の比較器３１により、パターン認識部２０から出力されたパターン認識結果と目標値とに基づいて誤差信号が求められると、この求められた誤差信号が特徴抽出部１０に対して指令信号としてフィードバックされ、例えば、強化学習部３０から出力される誤差信号が０に近付くよう、特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）での処理に必要とされる上記(i)〜(v)のパラメータが更新される。具体的には例えば、上記(i)〜(v)のパラメータの更新の仕方として次のような方法を用いることができる。すなわち、上記(i)〜(v)のパラメータのうちのいずれかに該当する変数をａとしたときに、
ａ＝ａ_ｍｉｎ（ａ＜ａ_ｍｉｎならば）
＝ａ_ｍａｘ（ａ＞ａ_ｍａｘならば） … （３）
＝ａ＋Δａ（それ以外）
を満足するように各パラメーターの許容範囲内で各パラメータを漸次的に更新することが好ましい。なお、上式（３）において、ａ_ｍｉｎおよびａ_ｍａｘはそれぞれ自己進化型パターン認識システム１に依存した閾値（最小値及び最大値）であり、Δａは増減値である。

これにより、パターン認識部２０におけるパターン認識率の向上と、特徴抽出部１０におけるサンプリング処理や周波数帯域分割処理等の効率化とのバランスを保ちながら、特徴抽出部１０が自己進化的に再構成される。

ここで、特徴抽出部１０の周波数帯域分割部１２での処理に必要とされる上記(ii)、(iii)のパラメータを例に挙げると、これらのパラメータについては上述したように音声学的な見地からメル尺度を考慮することが好ましいことが分かっているが、上述した手法により、帯域幅Ｗ_ｉを可変にしたバンドパスフィルターから成る分析フィルター列を用いて周波数帯域分割部１２のパラメータを調整した場合には、これらのパラメータの初期値にかかわらず、結果的にメル尺度と同じような尺度で表現され得る。なお、入力データｘとして用いられる上記の他の知覚情報または他の信号情報に対しても一様にメル尺度を用いた場合が良いのかどうかはまだ学術的にも明らかになっていないが、いずれにせよ、特徴抽出部１０の周波数帯域分割部１２は、他の各部（特徴抽出部１０のサンプリング部１１及び帯域分割データ変換部1３、及びパターン認識部２０）と同様に、与えられた入力データｘに従って再構成されるので、パラメータが最適な値となるように特段人手を介さずにその調整が行われる。

ここで、特徴抽出部１０の各部（サンプリング部１１、周波数帯域分割部１２及び帯域分割データ変換部１３）での処理に必要とされる上記(i)〜(v)のパラメータのうちシステム全体に最も大きく影響すると考えられるパラメータは(i)であり、(ii)、(iii)、…の順でその寄与率が下がり、上記(v)のパラメータはパターン認識部２０の人工ニューラルネットワーク構造内に含まれる各ニューロンにのみ直接影響を与えると考えられる。以上を考慮すると、自己進化型パターン認識システム１のシステム構成をより効率的に発展させるためには、パターン認識部２０から出力されたパターン認識結果に基づいて特徴抽出部１０を再構成する際に、例えば、ある期間ｑ_１，ｑ_２，…，ｑ_５（ｑ_１＜ｑ_２＜…＜ｑ_５）内にパラメータを(v)、(iv)、．．．、(i)の順で変化させていくことが好ましいと考えられる。しかしながら、この手法はあくまでも一例であって、他の任意の手法をとることができることはいうまでもない。

一方、強化学習部３０の比較器３１により求められた誤差信号は、パターン認識部２０に対しても指令信号としてフィードバックされ、パターン認識部２０の自己組織化ニューラルネットワーク構造に含まれる複数のサブネットワーク構造に対して競合的な学習が行われる。具体的には、パターン認識部２０において、パターン認識部２０の自己組織化ニューラルネットワーク構造に含まれる複数のサブネットワーク構造のうちパターン認識結果の劣るサブネットワーク構造を重点的に進化させる一方で、パターン認識結果の勝るサブネットワーク構造をそのままの状態に保つようにする。

今、簡単のために、図２に示すように、パターン認識部２０において、２つのサブネットワーク構造（Ｓｕｂ−ＳＯＫＭｓ）２１，２２が形成される場合を例に挙げて説明する。なおこの場合、特徴抽出部１０における初期パラメータ値は上述したようにして設定されているものとする。また、パターン認識部２０内のサブネットワーク構造２１，２２も、上述したようにしてＨｅｂｂの法則に基づく自己組織化アルゴリズムに従って既に自己発生的に形成されているものとする。

まず、図３に示すように、ある過去の期間ｐ_１にサブネットワーク構造（Ｓｕｂ−ＳＯＫＭＡ）２１が形成され、また、ある期間ｐ_２にサブネットワーク構造（Ｓｕｂ−ＳＯＫＭＢ）２２が形成されるものと仮定する。

この場合、強化学習部３０においては、比較器３１に含まれる第１比較器（Ｃ_１）３１ａ，３１ｂにより、ある期間ｐ_３内にサブネットワーク構造２１，２２から出力されたパターン認識結果と目標値との誤差、及び各サブネットワーク構造２１，２２内の全てのニューロンの発火率の統計をとる。そして、第１比較器（Ｃ_１）３１ａ，３１ｂにより得られた誤差を第２比較器（Ｃ_２）３１ｃにより比較し、例えばサブネットワーク構造２１のパターン認識結果がサブネットワーク構造２２のパターン認識結果よりも劣る場合には、次の期間ｐ_４において、サブネットワーク構造２１を重点的に進化させる一方で、サブネットワーク構造２２をそのままの状態に保つようにする。そして、期間ｐ_３と同様に、次の期間ｐ_５において、サブネットワーク構造２１，２２から出力されたパターン認識結果について、それらのパターン認識結果と目標値との誤差及び各サブネットワーク構造２１，２２内の全てのニューロンの発火率の統計をとり、次の期間ｐ_６にサブネットワーク構造２１，２２のうちのいずれを重点的に進化させるのかを決定する。なお、各期間ｐ_３，ｐ_５，…内においてサブネットワーク構造２１，２２内のニューロンの発火率の統計に基づいて、与えられた環境下でサブネットワーク構造２１，２２のいずれかが十分に機能していないと判断される場合（例えば、２つの期間ｐ_３，ｐ_５内において発火したサブネットワーク構造２１，２２内のニューロンの数がある閾値を下回る場合）には、サブネットワーク構造２１，２２のうちのいずれかを最終的に自動的に消去又は消滅（extinction）させるようにしてもよい。

なお、以上においては、単一入力（一種類の入力データｘが入力される状況）下でパターン認識部２０内に２つのサブネットワーク構造２１，２２が形成される場合を例に挙げて説明したが、多重入力（多種類の入力データｘ _１，ｘ _２，…，ｘ _Ｎが入力される状況）下で３つ以上のサブネットワーク構造が形成されるような場合にも一般化できることはいうまでもない。

なお、以上においては、パターン認識部２０内に形成されるサブネットワーク構造２１，２２から独立した形で特徴抽出部１０が形成されているが、これに限らず、図４に示すように、パターン認識部２０内に形成されるサブネットワーク構造２１，２２に対応する形で特徴抽出部１０Ａ，１０Ｂが形成されていてもよい。なお、特徴抽出部１０Ａ，１０Ｂは、互いに異なったパラメータの組み合わせを持ち、互いに独立して動作する。ここで、特徴抽出部１０Ａ，１０Ｂは、パターン認識部２０内に形成される各サブネットワーク構造２１，２２の再構成に連動して再構成される。具体的には、第１比較器（Ｃ_１）３１ａ，３１ｂにより得られた誤差を第２比較器（Ｃ_２）３１ｃにより比較し、例えばサブネットワーク構造２１のパターン認識結果がサブネットワーク構造２２のパターン認識結果よりも劣る場合に、サブネットワーク構造２１及びそれに対応する特徴抽出部１０Ａを重点的に進化させる一方で、サブネットワーク構造２２及びそれに対応する特徴抽出部１０Ｂをそのままの状態に保つようにするとよい（なおこの場合でも、場合によっては特徴抽出部１０Ｂ内の幾つかのパラメータは変化させてもよい）。また、サブネットワーク構造２１，２２内のニューロンの発火率の統計に基づいて、与えられた環境下でサブネットワーク構造２１，２２のいずれかが十分に機能していないと判断される場合には、サブネットワーク構造２１，２２のうちのいずれかを消去又は消滅させるとともに、それに対応する特徴抽出部１０Ａ又は１０Ｂを自動的に消去又は消滅させるようにするとよい。

このように本実施の形態によれば、パターン認識部２０により得られたパターン認識結果に基づいて強化学習部３０により特徴抽出部１０及びパターン認識部２０を再構成するようにしているので、特徴抽出部１０での処理及びパターン認識部２０での処理を統括的に制御しながらシステム構成を自己進化的に発展させることが可能となり、パターン認識の処理を高い認識率でかつ効率的に行うことができる。

本発明の一実施の形態に係る自己進化型パターン認識システムの全体構成を示すブロック図。図１に示す自己進化型パターン認識システムで行われるシステムの再構成（競合的な学習）の一態様を説明するための図。図２に示す態様における競合的な学習の流れを示すタイムチャート。図１に示す自己進化型パターン認識システムで行われるシステムの再構成（競合的な学習）の他の態様を説明するための図。

符号の説明

１自己進化型パターン認識システム
１０，１０Ａ，１０Ｂ特徴抽出部
１１サンプリング部
１２周波数帯域分割部
１３帯域分割データ変換部
２０パターン認識部
２１，２２サブネットワーク構造
３０強化学習部
３１，３１ａ，３１ｂ，３１ｃ比較器

Claims

入力データを所定のサンプリング周期で離散化するサンプリング部と、このサンプリング部により得られたサンプリングデータを周波数領域で所定の帯域分割数及び所定の帯域幅に帯域分割する周波数帯域分割部と、この周波数帯域分割部により得られた各帯域の帯域分割データをそれぞれ正規化関数、平滑化関数のいずれかの関数に従って変換し、各帯域の変換された帯域分割データを所定のフレーム数単位で束ねた符号化データを生成する帯域分割データ変換部とを有する特徴抽出部と、
核関数に従って入力ベクトルとテンプレートベクトルとの類似度に応じた発火の強さを出力する複数のニューロンを含む自己組織化ニューラルネットワーク構造を有し、前記特徴抽出部の前記帯域分割データ変換部により生成された前記符号化データに基づきパターン認識の処理を行うパターン認識部と、
前記パターン認識部により得られたパターン認識結果と予め定められた目標値との誤差信号を求め、前記誤差信号がゼロに近づくように、前記特徴抽出部での処理に必要とされる前記サンプリング周期、前記帯域分割数、前記帯域幅、前記フレーム数及び前記関数のうちの少なくとも一つのパラメータを当該パラメータの最大値と最小値の間で予め定められた値だけ増減する学習を行う強化学習部とを備えたことを特徴とする自己進化型パターン認識システム。
請求項１に記載の自己進化型パターン認識システムにおいて、
前記各ニューロンで用いられる前記核関数はラジアル基底関数を含むことを特徴とする、自己進化型パターン認識システム。
請求項１に記載の自己進化型パターン認識システムにおいて、
前記パターン認識部の前記自己組織化ニューラルネットワーク構造は複数のサブネットワーク構造を有し、前記強化学習部は、前記自己組織化ニューラルネットワーク構造に含まれる複数のサブネットワーク構造に対して競合的な学習を行わせることにより前記学習を行うことを特徴とする自己進化型パターン認識システム。
請求項３に記載の自己進化型パターン認識システムにおいて、
前記強化学習部は、前記誤差信号が他のサブネットワーク構造に比べて大きいサブネットワーク構造に学習を行わせ、前記他のサブネットワーク構造には学習を行わせないことを特徴とする自己進化型パターン認識システム。
請求項３に記載の自己進化型パターン認識システムにおいて、
前記強化学習部は、予め定められた期間内に発火したニューロンの数が閾値を下回ったサブネットワーク構造を消去することを特徴とする自己進化型パターン認識システム。