JP2001142867A

JP2001142867A - 学習型認識判断装置

Info

Publication number: JP2001142867A
Application number: JP32712099A
Authority: JP
Inventors: Masato Minami; 正人南; Toshiyuki Koda; 敏行香田
Original assignee: Matsushita Electric Industrial Co Ltd
Current assignee: Panasonic Holdings Corp
Priority date: 1999-11-17
Filing date: 1999-11-17
Publication date: 2001-05-25

Abstract

(57)【要約】【課題】学習型認識判断装置のネットワーク構造を、
入力データに適応して変化させて、認識性能を向上させ
る。【構成】入力パターンを、第１の単位認識ユニットに
入力し、第２の単位認識ユニットから類似度を出力す
る。第１の単位認識ユニットの量子化範囲数が所定数に
なるまで、量子化範囲分割モードで、入力データ分布に
適応させて量子化範囲を分割する学習を行う。その後、
教師信号と類似度出力値との誤差に基づいて、第２の単
位認識ユニットの重み係数を変更する学習を行う。量子
化範囲を分割して適応的にネットワーク構造を変更して
から重み係数を変更することにより、入力データ分布に
適合したネットワーク構造を自己組織的に構築でき、認
識性能が向上する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、学習型認識判断装
置に関し、特に、適応的にネットワーク構造を変更して
入力パターンの認識判断を行う学習型認識判断装置に関
する。

【０００２】

【従来の技術】従来の、認識判断機構を学習により構築
する学習機械としては、例えばD.E.Rumelhart, G.E.Hin
tonおよびR.J.Williamsによる“Learning Representati
ons byBack-Propagating Errors,” Nature, vol.323,
pp.533-536, Oct.9, 1986）に開示されているものがあ
る。図13は、従来の学習機械の構成を示す機能ブロック
図である。

【０００３】図１３において、重み係数更新部202は、
出力信号算出部201で得られた出力信号をもとにして、
出力信号算出部201の重み係数の値を更新する手段であ
る。教師信号発生部203は、入力信号に対する望ましい
出力信号を発生する手段である。誤差信号算出部204
は、出力信号と教師信号との誤差を計算する手段であ
る。重み変更量算出部205は、誤差をもとに重み係数の
変更量を計算する手段である。出力信号算出部201は、
図１４に示すように、階層構造を有する演算装置であ
る。

【０００４】図１４において、多入力一出力信号処理部
211は、複数の入力信号の重み付き加算値を閾値処理す
る手段である。入力部212は、出力信号算出部201の入力
部である。このような出力信号算出部201を構成する多
入力一出力信号処理部211の構成を具体的に示したもの
が図１５である。

【０００５】図１５において、入力部221は、多入力一
出力信号処理部211の入力部である。メモリ222は、入力
部221からの複数入力を重み付ける重み係数を格納する
メモリである。乗算器223は、メモリ222の重み係数と入
力部221からの入力を各々掛け合わせる乗算器である。
加算器224は、乗算器223の各々の出力を足し合わせる加
算器である。しきい値処理部225は、加算器224の出力を
一定範囲の値に制限する手段である。しきい値処理部22
5の入出力特性を図１６に示す。

【０００６】例えば、出力を（０，１）の範囲に制限す
るしきい値処理部225の入出力特性は、下記の（１）式ｆ(Ｉ)＝１／(１＋exp(−Ｉ＋θ)) ・・・（１）で数式的に表現できる。ここで、Ｉは、しきい値処理部
225の入力である。なお、しきい値処理部225の入出力特
性としては、（１）式以外のしきい値関数で表されるも
のでもよい。

【０００７】以上のように構成された従来の学習機械の
動作を説明する。出力信号算出部201の入力部212に入力
信号が入力されると、各多入力一出力信号処理部211
は、入力部221からの入力とメモリ222に記憶されている
重み係数（接続の度合）とを、乗算器223により掛け合
わせる。乗算器223の各々の出力の総和を加算器224で計
算した後、しきい値処理部225で（0,1）の値に変換し、
その値を上層（次段の層）の多入力一出力信号処理部21
1へ出力する。つまり、図１５に示す多入力一出力信号
処理部211は、入力部221への入力値をＩ_j（下層のｊ番
目の多入力一出力信号処理部211の出力）とし、メモリ2
22に格納されている重み係数をｗ_ij（ｉ番目の多入力一
出力信号処理部211と下層のｊ番目の多入力一出力信号
処理部211との結合重み）とすれば、下記の（２）式Ｏ_i＝ｆ(Σ_jｗ_ij×Ｉ_j) ・・・（２）を計算していることになる。ここで、Σ_iは、ｉ番目の
多入力一出力信号処理部211に接続される重み係数に関
する総和である。

【０００８】学習動作を説明する。出力信号算出部201
の入力部212から入力される信号に応じて、教師信号発
生部203が、入力信号に対する望ましい出力信号を、教
師信号Ｔ_i（“０”または“１”）として発生する。誤
差信号算出部204において、出力信号算出部201から出力
される実際の出力信号Ｏ_iと、教師信号との誤差(Ｔ_i−
Ｏ _i)が計算され、重み変更量算出部205に出力される。
重み変更量算出部205は、出力信号Ｏ_iと教師信号との誤
差(Ｔ_i−Ｏ_i)から、最上位層における多入力一出力信号
処理部211の二乗誤差を、下記（３）式Ｅ＝0.5×Σ_i(Ｔ_i−Ｏ_i)² ・・・（３）で算出する。二乗誤差Ｅをもとに、出力信号算出部201
のメモリ222に記憶されている重み係数の変更量△ｗ_ij
を、下記の（４）式 Δｗ_ij＝−ε×δＥ／δｗ_ij＋α×Δｗ'_ij ・・・（４）に基づいて計算し、重み係数を変更する。ここで、Σ_i
は、出力信号算出部における最上位層の全ての多入力一
出力信号処理部211に関する総和である。εは、学習レ
ートと呼ばれる正の定数である。αは、加速パラメータ
と呼ばれる正の定数である。△ｗ'_ijは、前回の学習に
おける重み係数の変更量である。

【０００９】以上のようにして、重みの更新を繰り返す
ことにより、誤差を小さくして行く。誤差が十分小さく
なると、出力信号が望ましい値に十分近くなったものと
して、学習を終了する。この時点で、この学習機械は、
入力される特徴データを認識判断し、その結果を出力す
ることが出来る認識判断装置となっている。

【００１０】

【発明が解決しようとする課題】しかし、従来の学習型
認識判断装置においては、ネットワークの構成は、最初
に定義して設計した固定状態から変更することはでき
ず、学習認識能力も最初の設計によって決ってしまう。
ネットワークの設計手法も確立されておらず、実際の設
計は、経験と勘による試行錯誤に頼らざるを得ない。し
たがって、学習型認識判断装置の学習認識能力を、入力
データに対して最適なものにできず、入力データに応じ
て適応的に対処することもできないという問題があっ
た。

【００１１】本発明は、上記従来の問題を解決して、学
習型認識判断装置において、入力データに対して学習を
行なうのみではなく、ネットワークの構造を、入力信号
に応じて適応的に自動的に変更して、入力信号に適応し
たネットワークを自己組織的に構築することを目的とす
る。

【００１２】

【課題を解決するための手段】上記の課題を解決するた
めに、本発明では、量子化範囲に基づいて入力パターン
信号に対するカテゴリ類似度信号を出力する類似度算出
部と、カテゴリ類似度信号に基づいて入力パターン信号
の属するカテゴリを識別するカテゴリ識別部と、教師信
号を発生する教師信号発生部と、教師信号とカテゴリ類
似度信号との誤差を算出する第１の誤差算出部と、誤差
に基づいて重み係数変更の有無を判定する第１の学習判
定部とを具備する学習型認識判断装置に、量子化範囲の
総数が閾値を超えるまで量子化範囲分割モード信号を出
力し閾値を超えてからは重み係数変更モード信号を出力
する第１の学習モード選択部を備え、類似度算出部に、
量子化範囲分割モード信号に応じて量子化範囲を分割す
る量子化範囲分割部と、重み係数変更モード信号に応じ
て重み係数の値を変更する重み係数変更手段とを備えた
構成とした。

【００１３】このように構成したことにより、学習用入
力信号の統計的特徴に応じて量子化範囲を分割し、選択
出力経路を増加し、重み係数記憶部と乗算器を複製し
て、ネットワ−ク構造を入力データ分布に適合したもの
にしてから、入力データに対して重み係数の変更による
学習を行なって、認識性能を向上させることができる。

【００１４】また、類似パターンの集合から成るカテゴ
リ群を代表する複数個の群参照用パターン信号を記憶し
た群辞書と、群辞書を参照して入力パターン信号の群帰
属度を計算するファジイ大分類部と、群帰属度の大きい
方から少なくとも１つの群帰属度を選択する群選択部
と、重み係数記憶部を有し入力パターン信号がカテゴリ
群内に含まれる各カテゴリに類似する度合である群内類
似度を計算する複数個の細分類部と、群内類似度を群選
択部からの群帰属度により重み付けする識別信号荷重部
と、識別信号荷重部の出力をカテゴリ毎に加算して最終
出力を算出する最終出力算出部と、最終出力から入力パ
ターン信号のカテゴリを識別するカテゴリ識別部と、入
力パターン信号に対応する教師信号を発生する教師信号
発生部と、教師信号と最終出力との誤差を算出する第２
の誤差算出部と、重み係数を変更するか否かを誤差に基
づいて判定する第２の学習判定部と、各々の細分類部に
属するカテゴリ情報を記憶したカテゴリ情報記憶部と、
誤差と群選択部からの群帰属度との積をカテゴリ情報を
参照して対応する細分類部に出力する細分類部誤差算出
部とを具備する学習型認識判断装置に、全ての細分類部
の量子化範囲の総数が閾値を超えるまで量子化範囲分割
モード信号を出力し閾値を超えてからは重み係数変更モ
ード信号を出力する第２の学習モード選択部を備え、細
分類部に、量子化範囲分割モード信号に応じて量子化範
囲を分割する量子化範囲分割部と、重み係数変更モード
信号に応じて重み係数記憶部の重み係数を変更する手段
とを備えた構成とした。

【００１５】このように構成したことにより、入力デー
タの分布が広い細分類部においては、量子化範囲の分割
数が多くなり、入力データの分布が狭い細分類部におい
ては、量子化範囲の分割数が少なくなるため、各々の細
分類部に対する入力データの分布に適応して量子化範囲
が分割されて、認識性能が向上する。

【００１６】

【発明の実施の形態】以下、本発明の実施の形態につい
て、図１〜図１２を参照しながら詳細に説明する。一般
に、学習型認識判断装置に入力するパターン信号として
は、音声等の時系列パターン、文字・画像等の空間パタ
ーン等などがあるが、本発明においては、いずれのパタ
ーン信号でも構わない。

【００１７】（第１の実施の形態）本発明の第１の実施
の形態は、入力パターン信号のカテゴリを識別するとと
もに、量子化範囲の個数が所定数になるまで量子化範囲
を分割する学習を行い、量子化範囲の個数が所定数を超
えたら、教師信号との誤差に基づいて重み係数を更新す
る学習を行う学習型認識判断装置である。

【００１８】図１は、本発明の第１の実施の形態におけ
る学習型認識判断装置の機能ブロック図である。図１に
おいて、類似度算出部１は、入力パターン信号の各カテ
ゴリへの類似度を計算する手段である。第１の単位認識
ユニット２は、入力パターン信号に応じて選択された出
力経路に信号を流す手段である。第２の単位認識ユニッ
ト３は、第１の単位認識ユニット２で選択された出力経
路から出力された信号を各々重み付けして統合し、対応
するカテゴリの類似度を表す信号として出力する手段で
ある。カテゴリ識別部４は、複数の第２の単位認識ユニ
ット３から出力されたカテゴリ毎の類似度を表す信号の
大きさに基づいて、入力パターン信号が識別されたカテ
ゴリを決定する手段である。第１の学習モード選択部５
は、全ての第１の単位認識ユニット２の量子化範囲の分
割個数(出力経路の個数)によって、量子化範囲分割モー
ドまたは重み係数変更モードを選択する手段である。量
子化範囲分割モードの場合は、入力パターン信号の分布
に応じて、第１の単位認識ユニット２の量子化範囲の分
割を実行し、重み係数変更モードの場合は、第１の学習
判定部８で重み係数変更を実行すべきと判定された場合
に、第１の誤差算出部７で計算された誤差の大きさに基
づいて、第２の単位認識ユニット３の重み係数を変更す
る。

【００１９】教師信号発生部６は、入力パターン信号が
識別されるべきカテゴリに対応して、各々の第２の単位
認識ユニット３の出力の目標値である教師信号を発生す
る手段である。第１の誤差算出部７は、各々の第２の単
位認識ユニット３の出力値と教師信号発生部６から出力
された教師信号との誤差を計算する手段である。第１の
学習判定部８は、第１の誤差算出部７から出力された誤
差の大きさに基づいて、第２の単位認識ユニット３の重
み係数の変更の実行・不実行を判定する手段である。

【００２０】図２は、本発明の第１の実施の形態におけ
る学習型認識判断装置の第１の単位認識ユニットの機能
ブロック図である。図２において、信号入力経路11は、
入力パターン信号を入力する経路である。信号制御部12
は、記憶している単一または複数の量子化範囲の中で、
信号入力経路11から入力した信号が属する量子化範囲を
選択し、選択された量子化範囲および隣接する量子化範
囲に対応する選択出力経路13に信号を流す手段である。
選択出力経路13は、信号制御部12で記憶している量子化
範囲と同数の経路が存在し、各々の選択出力経路と量子
化範囲が一対一に対応し、入力信号によって選択された
量子化範囲に対応する選択出力経路に信号を出力する手
段である。構造記憶部14は、信号制御部12で選択された
量子化範囲に対応する統計量を入力信号によって更新し
記憶する手段である。

【００２１】図３は、本発明の第１の実施の形態におけ
る学習型認識判断装置の第２の単位認識ユニットの機能
ブロック図である。重み係数記憶部21は、各々の第２の
単位認識ユニット３で、全ての第１の単位認識ユニット
２の選択出力経路13と同数存在し、一対一に対応するメ
モリである。乗算器22は、第１の単位認識ユニット２の
選択出力経路13から出力された信号と、第２の単位認識
ユニット３の重み係数記憶部21に記憶された重み係数を
乗算する手段である。加算器23は、第２の単位認識ユニ
ット３の全ての乗算器22から出力された信号を加算する
手段である。乗算器24は、学習判定部８で重み係数の変
更実行が判定された場合に、学習判定部８から出力され
た各々の第２の単位認識ユニット３の誤差と、第１の単
位認識ユニット２の選択出力経路13を流れる信号とを乗
算する手段である。

【００２２】図４は、本発明の第１の実施の形態におけ
る学習型認識判断装置の量子化範囲の分割に伴う選択出
力経路の増加と第２の単位認識ユニットの構成の変化を
示す図である。図５は、本発明の第１の実施の形態にお
ける学習型認識判断装置の量子化範囲分割方法の概念図
である。図６は、本発明の第１の実施の形態における学
習型認識判断装置の入力パターン信号に対応する量子化
範囲選択方法と隣接範囲信号発生方法の概念図である。
図１１は、本発明の第１の実施の形態における学習型認
識判断装置の動作フロー図である。

【００２３】上記のように構成された本発明の第１の実
施の形態における学習型認識判断装置の動作を、図１〜
図６の機能ブロック図と図１１のフロー図を用いて説明
する。最初に、図１，２に示すように、（５）式Ｘ＝(ｘ₁,ｘ₂,・・・,ｘ_n) ・・・（５）に示す入力パターン信号Ｘを、第１の単位認識ユニット
２毎に分割して、信号入力経路11を経由して、信号制御
部12に入力する（図１１の101）。以下の説明では、第
１の単位認識ユニット２の数を３とし、入力パターン信
号の次元数を６とし、各々の第１の単位認識ユニット２
に入力する次元数、すなわち信号入力経路の本数を２
(＝６÷３)とする。なお、信号制御部12に入力される信
号は、スカラーでもベクトルでも構わない。

【００２４】第１層目を構成する各々の第１の単位認識
ユニット２では、図２に示す信号制御部12において、入
力パターン信号の属する量子化範囲を選択する（図１１
の102）。第１の学習モード選択部５で、量子化範囲分
割モードが選択されている場合は、構造記憶部14に記憶
されている各々の量子化範囲に対応する統計量を更新す
る。第１の学習モード選択部５で、重み係数変更モード
が選択されている場合は、量子化範囲に対応する選択出
力経路13に信号を出力する。

【００２５】例えば、２次元空間内で入力パターン信号
が図５に示すように入力されたとき、信号制御部12で
は、第１の量子化範囲として網かけの長方形の領域が選
択される。図５，６の実線で囲まれた各々の長方形の領
域が量子化範囲であり、一個の量子化範囲に一本の選択
出力経路が対応する。

【００２６】量子化範囲分割モードについて説明する。
図１，２，４を参照して、第１の学習モード選択部５で
量子化範囲分割モードが選択されている場合における、
量子化範囲分割方法の一例を説明する。なお、初期状態
では、第１の学習モード選択部５では必ず量子化範囲分
割モードを選択する。初期状態では、各々の第１の単位
認識ユニットの信号制御部12に記憶される量子化範囲は
１個であり、分割を繰り返した結果、図５，６に示す量
子化範囲が設定されたものとする。

【００２７】図２に示す信号制御部12に入力された入力
パターン信号に応じて、構造記憶部14に記憶されている
対応する量子化範囲の統計量を更新し記憶する（図１１
の103）。統計量の例としては、各々の量子化範囲に属
する入力データの次元毎の平均値、分散、入力回数があ
る。

【００２８】量子化範囲番号ｉの次元ｍにおける過去の
平均をＡ_im0、分散をσ_im0、入力回数をｎ_im0とする
と、入力パターン信号Ｘの入力により、平均Ａ_im、分散
σ_im、入力回数ｎ_imが、式（６）〜式（８）Ａ_im＝(ｎ_im0・Ａ_im0＋ｘ_m)／(ｎ_im0＋１) ・・・（６） σ_im＝(ｎ_im0・σ_im0＋｜ｘ_m−Ａ_im｜)／(ｎ_im0＋１) ・・・（７）ｎ_im＝ｎ_im0＋１・・・（８）で更新される。なお、初期状態では、Ａ_imは、量子化範
囲番号ｉに対応する量子化範囲の次元ｍの最大値と最小
値を加算して２で割った値を採用し、σ_im＝ｎ_im＝０に
設定する。

【００２９】次に、図２に示す構造記憶部14に記憶され
ている入力パターン信号の統計量に応じて、量子化範囲
分割部15で量子化範囲の分割を行う。量子化範囲分割と
同時に、選択出力経路13の本数を１本増加させて、分割
後の量子化範囲に対応させ、図４に示すように、分割対
象の量子化範囲に対応する第２の単位認識ユニット３の
重み係数記憶部21、乗算器22、乗算器24を複製し、新た
に増加した選択出力経路13に接続する（図１１の10
4）。

【００３０】量子化範囲分割の方法としては、入力パタ
ーン信号を次々に入力させながら分割する方法と、全て
の入力パターン信号の入力後に、全ての量子化範囲の分
割を行う方法がある。入力パターン信号を次々に入力さ
せながら量子化範囲を分割させる場合では、分散σ_imが
予め定められた閾値より大きくなった場合に、図５に示
すように、量子化範囲を次元ｍで平均値Ａ_imを境界値と
して分割する。分割後の量子化範囲に対応する平均値と
分散と入力回数は、初期値に設定する。

【００３１】また、全ての入力パターン信号を入力した
後に量子化範囲の分割を行う場合では、以下の[手順１]
〜[手順３]に示す方法で量子化範囲の分割を実行する。 [手順１]：全ての量子化範囲の各次元の平均値、分散、
入力回数を計算する。 [手順２]：分散σ_imが最大になる量子化範囲ｉの次元ｍ
から分割を行う。 [手順３]：[手順１]に戻る（ただし、[手順１]では分割
された量子化範囲のみの統計量を計算）。

【００３２】同時に、第１の学習モード選択部５では、
全ての第１の単位認識ユニット２の量子化範囲の個数を
記憶し、量子化範囲の個数が予め定められた閾値に到達
した場合は、信号制御部12に重み係数変更モード信号を
伝えて、量子化範囲の分割を終了する（図１１の10
5）。

【００３３】重み係数変更モードについて説明する。図
２，３を参照して、重み係数変更モードの場合におけ
る、選択出力経路の選択、および出力の強さの決定方法
の一例を説明する。図２に示す信号制御部12に入力され
た入力パターン信号に対応する量子化範囲を選択し、出
力経路13中の選択された量子化範囲に対応する経路に、
強さ“１”の信号を出力する。なお、信号の強さは
“１”以外でも構わず、固定値であれば良いが、次に説
明する第２の量子化範囲に対応する経路への信号の強さ
も、その固定値に合わせて変化させる必要がある。

【００３４】次に、図６に示すように、入力パターン信
号から、第１の量子化範囲の境界値よりも僅かに外側の
値を持つ第１〜第４の隣接範囲信号を発生し、各々の隣
接範囲信号に対応する第２の量子化範囲を求める。

【００３５】次に、第１の量子化範囲と、第２の量子化
範囲と、信号入力部から入力された入力パターン信号か
ら、選択出力経路13の各々の第２の量子化範囲に対応す
る経路に信号を送出する。信号の強さの決定方法の一例
を以下に示す。

【００３６】入力パターン信号を(１)式のＸとし、選択
出力経路13中の第１の量子化範囲に対応する経路に出力
する信号の強さを“１”としたとき、第１の量子化範囲
と対象の第２の量子化範囲が隣接する次元ｋにおいて、
入力パターン信号の成分ｘ_kと、第１の量子化範囲の中
心Ａ_k1と、第２の量子化範囲の中心Ａ_k2とから、（９）
式 (信号の強さ)＝(ｘ_k−Ａ_k1)／(Ａ_k1−Ａ_k2) ・・・(９) で、距離の比例計算を用いて信号の強さを求める。この
方法を全ての次元について適用して、信号の強さを算出
する。

【００３７】次に、図３に示す第２の単位認識ユニット
３では、前層の第１の単位認識ユニット２の選択出力経
路13から出力された信号を入力し、入力信号に対応する
重み係数記憶部21に記憶されている重み係数を、乗算器
22で乗算する（図１１の106）。そして、全ての乗算器2
2から出力された信号を加算器23で加算して出力する
（図１１の107）。

【００３８】次に、図１に示すカテゴリ識別部４におい
て、類似度算出部１から出力されたカテゴリ類似度ｒ_s
（ｓ番目の第２の単位認識ユニットからの出力）の中で
最大のカテゴリを認識結果として出力する。なお、最大
のカテゴリ類似度が低い、または２番目に大きいカテゴ
リ類似度との差が小さい場合は、カテゴリ以外に、リジ
ェクト信号を出すようにしても良い（図１１の108）。

【００３９】次に、教師信号発生部６において、入力パ
ターン信号が識別されるべきカテゴリに基づいて、カテ
ゴリ類似度の目標値ｔ_s(１≦ｓ≦Ｎｃ)を設定する。例
えば、入力パターン信号が識別されるべきカテゴリ番号
がｐのとき、ｔ_p＝“8000”とし、それ以外のｔ_s＝
“０”と設定する。

【００４０】次に、第１の誤差算出部７において、教師
信号発生部６から出力されたカテゴリ類似度の目標値ｔ
_sから類似度算出部１で算出されたカテゴリ類似度ｒ_sを
カテゴリ毎に減算して得られた誤差ｅ_s(１≦ｓ≦Ｎｃ)
を算出する（図１１の109）。

【００４１】次に、第１の学習判定部８において、第１
の誤差算出部７から出力されたカテゴリ毎の誤差ｅ_sの
大きさに基づいて、図３に示す重み係数記憶部21に記憶
された重み係数を変更するか否かを判定する。判定基準
の例としては、ｅ_sの絶対値の最大値が予め定められた
閾値以上の場合には、重み係数を変更すると判定し、閾
値未満の場合は、重み係数を変更しないと判定するとい
う方法がある。重み係数を変更すると判定された場合
は、誤差ｅ_sを出力する。

【００４２】次に、第２の単位認識ユニット３の重み係
数記憶部21に記憶された重み係数を変更する方法を説明
する。ｓ番目の第２の単位認識ユニット３では、学習判
定部８から出力された誤差ｅ_s(１≦ｓ≦Ｎｃ：Ｎｃはカ
テゴリの数)を入力し、各々の選択出力経路13に流れる
信号と誤差ｅ_sとを乗算器24で乗算する。乗算器24から
の出力値に、予め定められた定数を重み付けする。その
値を、重み係数記憶部21に記憶された重み係数に加算し
て、重み係数を変更する。これを全ての第２の単位認識
ユニット３について実行する（図１１の110）。

【００４３】上記のように、本発明の第1の実施の形態
では、学習型認識判断装置を、入力パターン信号のカテ
ゴリを識別するとともに、量子化範囲の個数が所定数に
なるまで量子化範囲を分割する学習を行い、量子化範囲
の個数が所定数を超えたら、教師信号との誤差に基づい
て重み係数を更新する学習を行う構成としたので、入力
データの分布に基づき量子化範囲を分割して適応的にネ
ットワーク構造を変更してから重み係数変更を開始する
ことにより、ネットワーク構造が入力データ分布に適合
したものになり、認識性能が向上する。

【００４４】(第２の実施の形態)本発明の第２の実施の
形態は、細分類部の量子化範囲の総数に基づいて量子化
範囲を分割する学習を行い、量子化範囲の個数が所定数
を超えたら、教師信号との誤差に基づいて重み係数を更
新する学習を行う学習型認識判断装置である。

【００４５】図７は、本発明の第２の実施の形態におけ
る学習型認識判断装置の機能ブロック図である。図７に
おいて、群辞書31は、入力パターンの類似パターンの集
合から成るカテゴリ群を代表する群参照用パターン信号
が複数個記憶されている辞書である。ファジイ大分類部
32は、群辞書31に記憶されている群参照用パターン信号
を用いて、入力パターン信号が各カテゴリ群に属する度
合である群帰属度を計算する手段である。群選択部33
は、ファジイ大分類部32で計算された群帰属度につい
て、大きい方から少なくとも１つの群帰属度を選択する
手段である。細分類部34は、入力パターン信号がカテゴ
リ群内に含まれる各カテゴリに類似する度合である群内
類似度を計算する手段である。第１の実施の形態におけ
る類似度算出部１と同一の構成を持つ。

【００４６】第２の学習モード選択部35は、全ての細分
類部34における全ての第１の単位認識ユニット２の量子
化範囲分割数に基づいて、量子化範囲分割モードまたは
重み係数変更モードのいずれかを選択する手段である。
識別信号荷重部36は、細分類部34で得られた群内類似度
と群選択部33で選択された群帰属度とを乗算する乗算器
37で構成されている演算部である。最終出力算出部38
は、識別信号荷重部36から出力された群帰属度で重み付
けされた群内類似度をカテゴリ毎に統合し、カテゴリ毎
の類似度を算出する手段である。カテゴリ識別部39は、
最終出力算出部10から出力されたカテゴリ毎の類似度に
基づいて、入力パターン信号のカテゴリの識別を行う手
段である。

【００４７】教師信号発生部40は、入力パターン信号の
カテゴリに基づいて、カテゴリ毎の類似度の目標値であ
る教師信号を出力する手段である。第２の誤差算出部41
は、教師信号発生部40から出力された教師信号と最終出
力算出部38から出力されたカテゴリ毎の類似度との誤差
を計算する手段である。第２の学習判定部42は、第２の
誤差算出部41から出力されたカテゴリ毎の誤差の大きさ
に基づいて、重み係数記憶部21に記憶された重み係数の
変更の実行・不実行を判定し、実行判定の場合は、第２
の誤差算出部で計算された誤差を出力する手段である。
カテゴリ情報記憶部43は、各細分類部34に属するカテゴ
リ情報を記憶するメモリである。細分類部誤差算出部44
は、第２の学習判定部42において重み係数の変更実行と
判定された場合に、群選択部33で選択された群帰属度に
対応する細分類部34の各々に関して、第２の学習判定部
42から出力されたカテゴリ毎の誤差の中で、カテゴリ情
報記憶部43に記憶されたカテゴリの誤差を選択し、選択
されたカテゴリの誤差と群帰属度を乗算して、細分類部
34に出力する手段である。

【００４８】図８は、ファジイ大分類部32の構成を示す
機能ブロック図である。図８において、入力部51は、入
力文字パターン信号を入力する手段である。距離計算部
52は、群辞書31の全ての群参照用パターン信号と入力文
字パターン信号との距離を計算する手段である。割算器
53は、距離計算部52の出力の逆数を計算する手段であ
る。加算器54は、各々の割算器53の出力の総和を求める
手段である。乗算器55は、加算器54の出力と距離計算部
52の出力を乗算する手段である。割算器56は、乗算器55
の出力の逆数を計算する手段である。

【００４９】図９は、本発明の第２の実施の形態におけ
る学習型認識判断装置の第１の単位認識ユニット２の構
成を示す機能ブロック図である。図２に示した構成との
違いは、第１の学習モード選択部５の代わりに、第２の
学習モード選択部35を配置したことである。図１０は、
本発明の第２の実施の形態における学習型認識判断装置
の第２の単位認識ユニット３の構成を示す機能ブロック
図である。図３に示した構成との違いは、学習判定部８
の代わりに、細分類部誤差算出部44を配置したことであ
る。図１２は、本発明の第２の実施の形態における学習
型認識判断装置の動作フロー図である。

【００５０】上記のように構成された本発明の第２の実
施の形態における学習型認識判断装置の動作を、図７〜
図１０の機能ブロック図と図１２のフロー図を用いて説
明する。最初に、ファジイ大分類部32における群帰属度
の算出方法を説明する。

【００５１】図７に示すように、入力パターン信号Ｘ
は、ファジイ大分類部32に入力される。図８に示すよう
に、ファジイ大分類部32では、入力部51から入力パター
ン信号Ｘを入力し、ｒ個の距離計算部52へＸを出力す
る。各々の距離計算部52は、群辞書31に記憶されている
各カテゴリ群を代表する群参照用パターン信号Ｖ_i(１≦
ｉ≦ｒ：ｒは群参照用パターン信号の数、すなわち、カ
テゴリ群数)を読み出し、（10）式ｄ_i＝‖Ｘ−Ｖ_i‖^2/(f-1) (１≦ｉ≦ｒ) ・・・(10) （但し、ｆはｆ＞１を満たす実数とする）でＸとＶ_iの
距離ｄ_iを計算し、各々対応する割算器53および乗算器5
5へ出力する（図１２の121）。

【００５２】各々の割算器53は、距離ｄ_iの逆数を計算
し、加算器54へ出力する（図１２の122）。加算器54
は、全ての割算器53の出力の総和を計算し、ｒ個の乗算
器55へ出力する（図１２の123）。各々の乗算器55で
は、対応する距離計算部52と加算器54の出力を乗算し、
対応する割算器56に出力する。各々の割算器56では、対
応する乗算器55の出力の逆数を計算する。最終的にファ
ジイ大分類部32では、各割算器56の結果が、入力パター
ン信号Ｘに対する各カテゴリ群の群帰属度μ_i(１≦ｉ≦
ｒ)として、群選択部33に出力される（図１２の124）。
つまり、各カテゴリ群の群帰属度μ_i(１≦ｉ≦ｒ)は、
（11）式 μ_i＝１／(Σ_k=1 ^r(ｄ_i／ｄ_k)) ・・・(11) で表すことができる。

【００５３】なお、群辞書31に記憶されている各カテゴ
リ群を代表する群参照用パターン信号は、予め、従来の
クラスタリング手法、例えば、電子情報通信学会編、長
尾真著「パターン情報処理」(コロナ社)に示されている
Ｋ平均アルゴリズム、およびIsodataアルゴリズムや、
Y.Linde, A.Buzo, and R.M.Grayによる“An Algorithmf
or Vector Quantizer Design” IEEE Trans. Commun.,
COM-28, 1, pp.84-95,Jan.1980に示されているＬＢＧア
ルゴリズムを用いて設計される。

【００５４】以下、Ｋ平均アルゴリズムを用いて群辞書
31を設計する方法について簡単に説明する。 [１]認識対象の群辞書設計用のパターン信号の集合か
ら、ｒ個(但し、ｒは予め定められたカテゴリ群数)のパ
ターン信号を適当に選び、これらをｒ個の群参照用パタ
ーン信号Ｖ_i(１≦ｉ≦ｒ)とする。 [２]全ての群辞書設計用のパターン信号Ｘについて、そ
れぞれ、（12）式ｄ_i＝‖Ｘ−Ｖ_i‖ ・・・(12) に示される距離ｄを最小にするＶ_iを決める。このと
き、Ｘはカテゴリ群Ｓ_i(１≦ｉ≦ｒ)に属するものとす
る。 [３]各Ｓ_iに属するパターン信号Ｘの平均値を求め、こ
れをＶ_i1とする。 [４]Ｖ_i＝Ｖ_i1が全てのｉについて成立すれば、このと
きの群参照用パターン信号Ｖ_iを群辞書31に記憶する。
そうでなければ、Ｖ_i1を新たな群参照用パターン信号Ｖ
_iとして、［２］に戻る。

【００５５】このようにして、群参照用パターン信号を
設計することによって、全てのパターン信号は、いくつ
かの類似したパターン信号の部分集合(カテゴリ群)に分
割することができる。なお、Isodataアルゴリズム、お
よびＬＢＧアルゴリズムも、このＫ平均アルゴリズムと
基本的には、ほぼ同じ手法である。

【００５６】図７に示す群選択部33では、ファジイ大分
類部32で得られた群帰属度の大きい順に、複数個のカテ
ゴリ群を選ぶ(選択された群帰属度以外は“０”とする)
（図１２の125）。なお、カテゴリ群の選択方法として
は、ある閾値以上の群帰属度をもつカテゴリ群を選択す
る方法でもよい。

【００５７】図９に示すように、各々の細分類部34にお
ける第１の単位認識ユニット２の信号制御部12の量子化
範囲分割方法は、第１の実施の形態と同様である（図１
２の126）。ただし、第１の学習モード選択部５の代わ
りに設けた第２の学習モード選択部35における量子化範
囲分割／重み係数変更のモード切り替えの基準は、全て
の細分類部の第１の単位認識ユニット２の信号制御部12
に記憶された量子化範囲の総数とする。

【００５８】第２の学習モード選択部35から重み係数変
更モードが出力された場合は、以下の動作を実行する。
まず、選択された細分類部34において、第１の実施の形
態の類似度算出部１の動作と同様に、入力パターン信号
を入力し、カテゴリ類似度を出力する（図１２の12
7）。

【００５９】図７に示す識別信号荷重部36において、選
択された細分類部34のカテゴリ類似度と、対応する群帰
属度とを乗算器37で乗算する。乗算後の値を、重み付け
カテゴリ類似度とする。そして、細分類部毎の重み付け
カテゴリ類似度を、最終出力算出部38において、カテゴ
リ毎に統合して最終出力を得る（図１２の128）。

【００６０】第２の誤差算出部41において、第１の実施
の形態における第１の誤差算出部７と同様の動作によ
り、教師信号発生部40から出力された教師信号と、最終
出力算出部38から出力された最終出力との誤差を算出す
る（図１２の129）。

【００６１】第２の学習判定部42において、第１の実施
の形態における第１の学習判定部８と同様の基準によ
り、第２の誤差算出部41から出力された誤差の大きさに
基づいて、重み係数記憶部21に記憶された重み係数を変
更するか否かを判定する（図１２の130）。

【００６２】細分類部誤差算出部44において、第２の学
習判定部42での判定結果が、重み係数変更の場合は、群
選択部33で選択された群帰属度に対応する細分類部につ
いて、第２の学習判定部42から出力されたカテゴリ毎の
誤差の中で、カテゴリ情報記憶部43に記憶された細分類
部34に属するカテゴリの誤差のみを選択し（図１２の13
1）、帰属度を乗算した後に、細分類部34に入力する
（図１２の132）。

【００６３】図１０に示す重み係数記憶部21に記憶され
た重み係数の変更方法は、第１の実施の形態と同様であ
る（図１２の133）。ただし、第１の実施の形態におけ
る学習判定部８の代わりに、細分類部誤差算出部44から
出力された細分類部単位の誤差を入力する。

【００６４】上記のように、本発明の第２の実施の形態
では、学習型認識判断装置を、細分類部の量子化範囲の
総数に基づいて量子化範囲を分割する学習を行い、量子
化範囲の個数が所定数を超えたら、教師信号との誤差に
基づいて重み係数を更新する学習を行う構成としたの
で、入力データの分布が広い細分類部においては、量子
化範囲の個数が多くなり、入力データの分布が狭い細分
類部においては、量子化範囲の個数が少なくなるため、
各々の細分類部に対する入力データの分布の広がりに適
応して量子化範囲が分割されて、認識性能が向上する。

【００６５】

【発明の効果】以上の説明から明らかなように、本発明
では、量子化範囲に基づいて入力パターン信号に対する
カテゴリ類似度信号を出力する類似度算出部と、カテゴ
リ類似度信号に基づいて入力パターン信号の属するカテ
ゴリを識別するカテゴリ識別部と、教師信号を発生する
教師信号発生部と、教師信号とカテゴリ類似度信号との
誤差を算出する第１の誤差算出部と、誤差に基づいて重
み係数変更の有無を判定する第１の学習判定部とを具備
する学習型認識判断装置に、量子化範囲の総数が閾値を
超えるまで量子化範囲分割モード信号を出力し閾値を超
えてからは重み係数変更モード信号を出力する第１の学
習モード選択部を備え、類似度算出部に、量子化範囲分
割モード信号に応じて量子化範囲を分割する量子化範囲
分割部と、重み係数変更モード信号に応じて重み係数の
値を変更する重み係数変更手段とを備えた構成としたの
で、量子化範囲を分割して適応的にネットワーク構造を
変更してから重み係数を変更することにより、入力デー
タ分布に適合したネットワーク構造を自己組織的に構築
でき、認識性能が向上するという効果が得られる。

【００６６】また、類似パターンの集合から成るカテゴ
リ群を代表する複数個の群参照用パターン信号を記憶し
た群辞書と、群辞書を参照して入力パターン信号の群帰
属度を計算するファジイ大分類部と、群帰属度の大きい
方から少なくとも１つの群帰属度を選択する群選択部
と、重み係数記憶部を有し入力パターン信号がカテゴリ
群内に含まれる各カテゴリに類似する度合である群内類
似度を計算する複数個の細分類部と、群内類似度を前記
群選択部からの群帰属度により重み付けする識別信号荷
重部と、識別信号荷重部の出力をカテゴリ毎に加算して
最終出力を算出する最終出力算出部と、最終出力から入
力パターン信号のカテゴリを識別するカテゴリ識別部
と、入力パターン信号に対応する教師信号を発生する教
師信号発生部と、教師信号と前記最終出力との誤差を算
出する第２の誤差算出部と、重み係数を変更するか否か
を誤差に基づいて判定する第２の学習判定部と、各々の
細分類部に属するカテゴリ情報を記憶したカテゴリ情報
記憶部と、誤差と群選択部からの群帰属度との積をカテ
ゴリ情報を参照して対応する細分類部に出力する細分類
部誤差算出部とを具備する学習型認識判断装置に、全て
の細分類部の量子化範囲の総数が閾値を超えるまで量子
化範囲分割モード信号を出力し閾値を超えてからは重み
係数変更モード信号を出力する第２の学習モード選択部
を備え、細分類部に、量子化範囲分割モード信号に応じ
て量子化範囲を分割する量子化範囲分割部と、重み係数
変更モード信号に応じて重み係数記憶部の重み係数を変
更する手段とを備えた構成としたので、入力データの分
布が広い細分類部においては、量子化範囲の個数が多く
なり、入力データの分布が狭い細分類部においては、量
子化範囲の個数が少なくなるため、各々の細分類部に対
する入力データの分布の広がりに適応した量子化範囲の
分割ができ、認識性能が向上するという効果が得られ
る。

【図面の簡単な説明】

【図１】本発明の第１の実施の形態における学習型認識
判断装置の機能ブロック図、

【図２】本発明の第１の実施の形態における学習型認識
判断装置の第１の単位認識ユニットの機能ブロック図、

【図３】本発明の第１の実施の形態における学習型認識
判断装置の第２の単位認識ユニットの機能ブロック図、

【図４】本発明の第１の実施の形態における学習型認識
判断装置の量子化範囲の分割に伴う選択出力経路の増加
と第２の単位認識ユニットの構成の変化を示す図、

【図５】本発明の第１の実施の形態における学習型認識
判断装置の量子化範囲分割方法の概念図、

【図６】本発明の第１の実施の形態における学習型認識
判断装置の入力パターン信号に対応する量子化範囲選択
方法と隣接範囲信号発生方法の概念図、

【図７】本発明の第２の実施の形態における学習型認識
判断装置の機能ブロック図、

【図８】本発明の第２の実施の形態における学習型認識
判断装置のファジイ大分類部の機能ブロック図、

【図９】本発明の第２の実施の形態における学習型認識
判断装置の第１の単位認識ユニットの機能ブロック図、

【図１０】本発明の第２の実施の形態における学習型認
識判断装置の第２の単位認識ユニットの機能ブロック
図、

【図１１】本発明の第１の実施の形態における学習型認
識判断装置の動作フロー図、

【図１２】本発明の第２の実施の形態における学習型認
識判断装置の動作フロー図、

【図１３】従来の学習型認識判断装置の機能ブロック
図、

【図１４】従来の学習型認識判断装置における出力信号
算出部の構成図、

【図１５】従来の学習型認識判断装置における多入力一
出力信号処理部の構成図、

【図１６】従来の学習型認識判断装置におけるしきい値
処理部の入出力関係図である。

【符号の説明】

１類似度算出部２第１の単位認識ユニット３第２の単位認識ユニット４カテゴリ識別部５第１の学習モード選択部６教師信号発生部７第１の誤差算出部８第１の学習判定部 11 信号入力経路 12 信号制御部 13 信号出力経路 14 構造記憶部 15 量子化範囲分割部 21 重み係数記憶部 22 乗算器 23 加算器 24 乗算器 31 群辞書 32 ファジイ大分類部 33 群選択部 34 細分類部 35 第２の学習モード選択部 36 識別信号荷重部 37 乗算器 38 最終出力算出部 39 カテゴリ識別部 40 教師信号発生部 41 第２の誤差算出部 42 第２の学習判定部 43 カテゴリ情報記憶部 44 細分類部誤差算出部 51 入力部 52 距離計算部 53 割算器 54 加算器 55 乗算器 56 割算器

Claims

【特許請求の範囲】

【請求項１】量子化範囲に基づいて入力パターン信号
に対するカテゴリ類似度信号を出力する類似度算出部
と、前記カテゴリ類似度信号に基づいて入力パターン信
号の属するカテゴリを識別するカテゴリ識別部と、教師
信号を発生する教師信号発生部と、前記教師信号と前記
カテゴリ類似度信号との誤差を算出する第１の誤差算出
部と、前記誤差に基づいて重み係数変更の有無を判定す
る第１の学習判定部とを具備する学習型認識判断装置に
おいて、前記量子化範囲の総数が閾値を超えるまで量子
化範囲分割モード信号を出力し閾値を超えてからは重み
係数変更モード信号を出力する第１の学習モード選択部
を備え、前記類似度算出部に、前記量子化範囲分割モー
ド信号に応じて量子化範囲を分割する量子化範囲分割部
と、前記重み係数変更モード信号に応じて重み係数の値
を変更する重み係数変更手段とを備えたことを特徴とす
る学習型認識判断装置。
【請求項２】前記類似度算出部は、入力パターン信号
を分割入力する入力層を構成する第１の単位認識ユニッ
トと、カテゴリの類似度信号を出力する出力層を構成す
る第２の単位認識ユニットとを備え、前記第１の単位認
識ユニットは、信号入力経路と、選択出力経路と、前記
量子化範囲分割部と、信号制御部と、全ての量子化範囲
を記憶し前記入力信号の属する量子化範囲に対応する統
計量を更新し記憶する構造記憶部とを備え、前記第２の
単位認識ユニットは、前段の全ての第１の単位認識ユニ
ットにおける選択出力経路と同数の重み係数記憶部と、
各々の選択出力経路を流れる信号と前記選択出力経路に
対応する重み係数記憶部に記憶された重み係数の値とを
乗算する乗算器と、全ての前記乗算器から出力された信
号を加算してカテゴリ類似度信号として出力する加算器
と、前記重み係数変更手段とを備え、前記重み係数変更
手段は、前記第１の学習モード選択部から重み係数変更
モード信号が出力された場合に、前記第１の誤差算出部
から出力されたカテゴリ毎の誤差および各々の選択出力
経路から第２の単位認識ユニットに入力された信号の強
度に基づいて、第２の単位認識ユニットの重み係数記憶
部に記憶された重み係数の値を変更する手段とを備え、
前記信号制御部は、前記信号入力経路から入力された信
号の属する量子化範囲を選択する手段と、前記第１の学
習モード選択部から重み係数変更モード信号が出力され
た場合に、選択された量子化範囲に対応する選択出力経
路に強度固定の信号を出力する手段と、選択された量子
化範囲に隣接する量子化範囲に対応する選択出力経路に
前記入力信号と前記隣接する量子化範囲との距離に応じ
て強度を設定した信号を出力する手段とを備え、前記量
子化範囲分割部は、前記第１の学習モード選択部から量
子化範囲分割モード信号が出力された場合に、前記信号
制御部で選択された量子化範囲に対応する統計量に基づ
いて量子化範囲を二分割する手段と、選択出力経路を新
規作成する手段と、分割前の量子化範囲に対応する選択
出力経路に接続される第２の単位認識ユニットの重み係
数記憶部と乗算器を複製する手段と、前記新規作成され
た選択出力経路に接続する手段と、分割後の量子化範囲
と選択出力経路とを対応付ける手段とを備えることを特
徴とする請求項１記載の学習型認識判断装置。
【請求項３】類似パターンの集合から成るカテゴリ群
を代表する複数個の群参照用パターン信号を記憶した群
辞書と、前記群辞書を参照して入力パターン信号の群帰
属度を計算するファジイ大分類部と、前記群帰属度の大
きい方から少なくとも１つの群帰属度を選択する群選択
部と、重み係数記憶部を有し入力パターン信号がカテゴ
リ群内に含まれる各カテゴリに類似する度合である群内
類似度を計算する複数個の細分類部と、前記群内類似度
を前記群選択部からの群帰属度により重み付けする識別
信号荷重部と、前記識別信号荷重部の出力をカテゴリ毎
に加算して最終出力を算出する最終出力算出部と、前記
最終出力から入力パターン信号のカテゴリを識別するカ
テゴリ識別部と、入力パターン信号に対応する教師信号
を発生する教師信号発生部と、前記教師信号と前記最終
出力との誤差を算出する第２の誤差算出部と、重み係数
を変更するか否かを前記誤差に基づいて判定する第２の
学習判定部と、各々の細分類部に属するカテゴリ情報を
記憶したカテゴリ情報記憶部と、前記誤差と前記群選択
部からの群帰属度との積を前記カテゴリ情報を参照して
対応する細分類部に出力する細分類部誤差算出部とを具
備する学習型認識判断装置において、全ての細分類部の
量子化範囲の総数が閾値を超えるまで量子化範囲分割モ
ード信号を出力し閾値を超えてからは重み係数変更モー
ド信号を出力する第２の学習モード選択部を備え、前記
細分類部に、前記量子化範囲分割モード信号に応じて量
子化範囲を分割する量子化範囲分割部と、前記重み係数
変更モード信号に応じて前記重み係数記憶部の重み係数
を変更する手段とを備えたことを特徴とする学習型認識
判断装置。
【請求項４】前記細分類部誤差算出部は、前記第２の
学習判定部において学習実行と判定された場合に、前記
群選択部で選択された群帰属度に対応する細分類部毎
に、前記第２の誤差算出部から出力されるカテゴリ毎の
誤差から、前記カテゴリ情報記憶部に記憶された前記細
分類部に属するカテゴリのみの誤差を選択する手段と、
選択されたカテゴリの誤差に群帰属度を乗算して前記細
分類部に出力する手段とを備え、前記細分類部は、入力
パターン信号を分割入力する入力層を構成する単一また
は複数の第１の単位認識ユニットと、カテゴリの類似度
信号を出力する出力層を構成する単一または複数の第２
の単位認識ユニットとを備え、前記第１の単位認識ユニ
ットは、単一または複数の信号入力経路と、単一または
複数の選択出力経路と、量子化範囲分割部と、信号制御
部と、全ての量子化範囲を記憶し、前記入力信号の属す
る量子化範囲に対応する統計量を更新し記憶する構造記
憶部とを備え、前記第２の単位認識ユニットは、前段の
全ての第１の単位認識ユニットにおける選択出力経路と
同数の重み係数記憶部と、各々の選択出力経路を流れる
信号と前記選択出力経路に対応する重み係数記憶部に記
憶された重み係数の値とを乗算する乗算器と、全ての前
記乗算器から出力された信号を加算してカテゴリ類似度
信号として出力する加算器と、前記第２の学習モード選
択部において重み係数変更モードが出力された場合に、
前記細分類部誤差算出部から出力されたカテゴリ毎の誤
差および前記第２の単位認識ユニットに入力された信号
の強度に基づいて、第２の単位認識ユニットの重み係数
記憶部に記憶された重み係数の値を変更する手段とを備
え、前記信号制御部は、前記信号入力経路から入力され
た信号の属する量子化範囲を選択する手段と、前記第２
の学習モード選択部から重み係数変更モード信号が出力
された場合に、選択された量子化範囲に対応する選択出
力経路に強度固定の信号を出力する手段と、選択された
量子化範囲に隣接する量子化範囲に対応する選択出力経
路に入力信号と隣接する量子化範囲との距離に応じて強
度を設定した信号を出力する手段とを備え、前記量子化
範囲分割部は、前記第２の学習モード選択部から量子化
範囲分割モード信号が出力された場合に、前記信号制御
部で選択された量子化範囲に対応する統計量に基づいて
前記量子化範囲を二分割する手段と、選択出力経路を新
規作成する手段と、分割前の量子化範囲に対応する選択
出力経路に接続される第２の単位認識ユニットの重み係
数記憶部と乗算器を複製する手段と、前記新規作成され
た選択出力経路に接続する手段と、分割後の量子化範囲
と選択出力経路とを対応付ける手段とを備えることを特
徴とする請求項４記載の学習型認識判断装置。
【請求項５】（１）複数の入力単位に分割した入力デ
ータの属する量子化範囲に対応する入力データ統計量を
更新する処理を学習用全入力パターンについて行い、（２）前記入力データ統計量に基づいて量子化範囲を二
分割する処理を量子化範囲の個数が閾値を超えるまで行
い、（３）分割した入力データの属する量子化範囲に対応す
る重み係数と、前記量子化範囲に隣接する量子化範囲に
対応する重み係数と、前記分割した入力データと前記隣
接する量子化範囲との距離とに基づいて識別カテゴリを
決定し、（４）入力データに対応する教師信号と識別カテゴリと
の誤差を出力単位毎に算出し、前記誤差の大きさに基づ
いて重み係数の変更の実行・不実行を判定し、（５）重み係数の変更を実行すべきと判定された場合
は、出力単位毎の誤差および前記距離に応じて、選択し
た量子化範囲に対応する重み係数の値と隣接する量子化
範囲に対応する重み係数の値を変更することを特徴とす
る学習型認識判断方法。
【請求項６】（１）類似データの集合から成るカテゴ
リ群を代表する群参照用データと入力データに基づい
て、入力データが各カテゴリ群に属する度合である群帰
属度を計算し、群帰属度の大きい方から少なくとも１つ
の群帰属度を選択し、選択された群帰属度に対応する細
分類単位の記憶内容を用いて、選択された細分類単位毎
に、入力データを入力単位毎に分割して、分割入力デー
タの属する量子化範囲を選択し、選択量子化範囲に対応
する入力データ統計量を更新する処理を、学習用全入力
パターンについて行い、（２）前記入力データ統計量が予め定められた閾値を越
える場合は、選択された量子化範囲を二分割し、分割前
の重み係数を複製して新たな記憶領域に記憶する処理
を、全ての細分類単位の量子化範囲の合計個数が閾値以
上になるまで行い、（３）前記選択量子化範囲および前記選択量子化範囲に
隣接する量子化範囲に対応する全ての重み係数を選択
し、出力単位毎に、前記選択量子化範囲に対応する重み
係数の値と、前記選択量子化範囲に隣接する量子化範囲
に対応する重み係数と前記分割入力データとの距離から
算出される係数を乗算した値の全てを加算した値を群内
類似度とし、（４）前記群内類似度を前記群帰属度により重み付け
し、前記群帰属度で重み付けされた群内類似度を加算し
て最終出力を算出し、前記最終出力に基づいて前記入力
データのカテゴリ識別を行い、（５）教師信号と前記最終出力との誤差の大きさに基づ
いて、重み係数変更の実行・不実行を判定し、（６）重み係数変更を実行すべきと判定された場合は、
選択された群帰属度に対応する細分類単位に対して、前
記細分類単位に属するカテゴリ情報に基づいて、カテゴ
リ毎の誤差と前記細分類単位の出力単位との対応付けを
行い、対応付け後の各々のカテゴリ毎の誤差に前記選択
された群帰属度を乗算した値を細分類誤差とし、細分類
誤差に応じて、前記選択量子化範囲に対応する重み係数
の値を変更し、前記細分類誤差、および前記選択量子化
範囲に隣接する量子化範囲と前記分割入力データとの距
離から算出された係数に応じて、前記隣接する量子化範
囲に対応する重み係数の値を変更することを特徴とする
学習型認識判断方法。
【請求項７】請求項５または６記載の学習型認識判断
方法をコンピュータに実行させるためのプログラムを記
録したことを特徴とするコンピュータ読み取り可能な記
録媒体。