JPS6273391A - パタ−ン認識学習装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔発明の技術分野〕 本発明は、特定カテゴリの入力パターンから、認識処理
に用いる為の上記特定カテゴリの標塾パターンを部局に
精度良く得ることのできるパターン認識学習装置に関す
る。

〔発明の技術的背景とその問題点〕

音巾や文字等のパターンを入力し、その入力パターンを
認識して情報入力するパターン認識装置が種々開発され
ている。

この種のパターン認識装置では、入力パターンと標準パ
ターンとを照合し、入力パターンとマツチングのとれた
標準パターンのカテゴリをその認識結果として求めてい
る。この為、その認識率の向上を図る上で、標準パター
ンの学習が、必要となる。

ところで従来一般的には、標票パターンの新規登録を学
習と称し、その学習時に入力されるカテゴリの知られて
いる複数のパターンを、認識対象とするパターンと同様
な形式でメモリに登録し、これをそのカテゴリの標準パ
ターンとしている。

このような標準パターンの登録によれば、この登録され
たパターンと入力パターンとのマツチングによって認識
処理が行われるから、時間的に同時期に発生されたパタ
ーンを随時参照することができる。しかし、このように
して登録される標準パターンは、認識対象の統計的分布
があまり考慮されていない。これ故、一般的には入力パ
ターンの変動が少ないパターン認識についてのみ利用さ
れている。

これ逸こ対して、マハラノビスの汎距離による認識法や
、調合類似度法等のパターンの統計的分布を考慮した認
識法かある。ところがこのような認識法にあっては、パ
ターンの統計的変動を考慮してその標準パターンを作成
する為、そのサンプルパターンを多く収集することが大
変である。しかも、そのサンプルパターンを統計的に分
析することも非常に大変である。

このように、この種のパターン認識法にあっては、その
標準パターンの学習が非常に困難である為、予めその学
習を別の計算機等を用いて行い、これによって求められ
た標章パターンをパターン認識装置に組込むようにして
いる。

即ち、調合類似度法等では、認識対象パターンの統計的
分布を考慮してその標章パターンが作成されている。従
って単に学習入力パターンを標錦パターンとして登録す
るものに比較して、その認識性能が格段に高い。しかし
、統計的分布を考慮して標章パターンを作成するには、
例えばＫＬ展開等の手法を用いることが必要であり、容
すではない。

また上記ＫＬ展開の手法として、ヤコビ法やハウス・ホ
ルダー・スツルム法が知られているが、上記ヤコビ法を
用いた場合、計算手順は比較釣部＋１’ｌであるが、そ
の計算量が膨大であると云う欠点がある。また上記ハウ
ス・ホルダー・スツルム法を用いるには、計算手順がｔ
隻雑であり、その装置化が難しいと云う欠点がある。

このような理由により、従来では専らパターン認識装置
とは別の計算機等によって凛僧パターンを求めているの
が実状である。

〔発明の目的〕

本発明はこのような事情を考慮してなされたもので、そ
の］」的とするところは、認識性能の高い（ネ準パター
ンを効率の良い学習処理によって簡易に得ることかでき
るパターン認識学習装置を提供することにある。

〔発明のＩＩ！Ｅ要〕

本発明は、特定カテゴリの入力パターンの共分散行列を
求め、ＫＬ展開によってその固付値と固釘ベクトルを求
めて上記特定カテゴリの［Ｌ：＄パターンを作成するに
際し、上記ＫＬ展開をべき乗法を基本として実行するよ
うにしたものである。

〔発明の効果〕

かくして本発明によれば、べき乗法を基本とするＫ　Ｌ
展開によって入力パターンの共分散行列の固ｑ値と固釘
ベクトルとを求めるので、その固−ｑ値と固ｑベクトル
とが絶対値の大きいものから順に出現することになる。

この結果、少数のパターンから、そのパターンの統計的
変動を反映した標準パターンを簡易に求めることが可能
となる。しかも、パターン認識を複合類似度法、または
混合類似度法により実行する計算回路をそのまま用いて
」二連したＫＬ展開を実行すことが可能となり、標章パ
ターンの学習を簡易に、且つ高速に行って、認識性能の
高い標章パターンを求めることがｒｉＪ能となる。従っ
て、入力パターンに対する統計的分布を十分に反映した
標章パターンを得ることができる等の多大なる効果が奏
せられる。

〔発明の実施例〕

以下、図面を参照して本発明の一実施例につき説明する
。

第１図は音声認識装置に適用した実施例装置の概略構成
図である。

音白入力部ｌから入力される音声信号は、電気信号に変
換されて特徴抽出部２に導かれる。この特徴抽出部２は
、例えば１６チヤンネルのバンド・バス・フィルタ群か
らなり、１６チヤンネルのバンド・バス・フィルタ出力
を母音認識用の音響パラメータとして出力している。ま
た特徴抽出部２は、上記１６チヤンネルのバンド・バス
・フィルタ出力を隣接する　２チヤンネル毎にまとめ、
８チヤンネルの子音認識用音響パラメータとして出力し
ている。

尚、特徴抽出部２は、ケプストラム係数や相関分析によ
って求められる種々のパラメータの一部、またはその複
数の組合せとして上記音響パラメータを求めるものであ
っても良い。

このようにして求められた入力音声パターンの音響パラ
メータは、セグメント化処理部３に導かれ、例えば各単
音節毎に切出される。この単音節の切出しは、入力音声
のパワーの変化を調べる等して行われる。

そして母音については、母音部のうちの１フレームを切
出し、これを母音認識用パターン、および母音学習用パ
ターンとしている。従って母音部１電用パターン、およ
び母音学習用パターンは、１６チヤンネルのハンド・バ
ス・フィルタ出力からなる１６次元の母音パターンとな
る。

また子＆については、子音から母音への渡りの部分を含
む８フレームを切出し、これを子音認識用パターン、お
よび子音学習用パターンとしている。従って子音認識用
パターン、および子音学習用パターンは、前述した８チ
ヤンネルのバンド・バス・フィルタ出力を時間方向に８
点サンプリングしたものとなるから、６４次元の子音パ
ターンとなる。

このようにして求められた母音パターン、および子音パ
ターンに対する認識処理が、認識処理部４にて標準パタ
ーン・メモリ部５に格納された標章パターンを用いて行
われる。

このパターンの認識処理は、上記入力パターンのベクト
ルをｆ１カテゴリノについての標章パタ一部を（φｎ　
　　）としたとき、次式に示す混合類似度法による計算
を実行することにより行われる。

この計算は、上記標準パターン（φｎ（、ｆ’）。

の＆ｎ面のベクトルと上記入力パターンのベクトルｆと
の内積を求め、これにその固有値で決定さくｌり れる係数ａｎ　　　　を掛けることによって行われ（ｉ
） る。尚、上記係数ａｎ　　　　は正負の値を取り、負の
場合には他のカテゴリとの差が強調される。

また」１記係数ａｎ　　　が正の値だけをとる場合には
、１（全類似度法と同じである。

このような混合類似度計算を全てのカテゴリの各標準パ
ターンとの間で行い、その混合類似度値Ｓ”）［ｒ］を
最大とする標準パターンのカテゴリを認識結果として求
めることによって、入力音白パターンが認識される。

このようにして求められた入力パターンに対する認識結
果が、認識結果表示部８に表示される。

−ガ、１−述した認識処理に供される入力音声パターン
は、学習用パターンとして学習パターン・メモリ部６に
順次格納される。また学習用として入力されたカテゴリ
か知られているパターンも、−に述した処理が施されて
学習パターン・メモリ部６に格納される。この結果、学
習パターン・メモリ部６には、同一のカテゴリに関する
前記母音パターン、および子音パターンがそれぞれ？ｊ
２ｉ個づつ格納される。そして、学習パターン・メモリ
部６に必要な数の学習用パターンが格納されたとき、こ
れらのパターンを用いて学習処理部７による学習か行わ
れる。

この学習処理部７は、例えば第２図に示すようにマイク
ロプロセッサ部７ａと、後述する専用ハードウェア部７
ｂとからなる。そしてマイクロプロセッサ部７ａと専用
ハードウェア部７ｂとにその演算処理を割当て、１高速
に学習処理を行うものとなっている。

つまり、パターンの学習を行う為の共分散行列を求める
処理、およびＫＬ展開処理において必要な、多くの＃４
和演算処理を専用ハードウェア部７ｂにより、高速に行
うものとなっている。

この学習処理は、■母音パターンおよび子音パターンか
ら、その共分散行列を求める処理、■およびその共分散
行列に対する固有値と固有ベクトルとを求める処理とに
大別される。この固有値と固有ベクトルとを、その固有
値の大きいものからＮ測水める処理は、一般にＫＬ展開
と称される。

この学習処理について説明すると、先ず入力音声パター
ンの共分散行列には、その学習パターンを縦ベクトルＳ
ｍとしたとき、次のようにして求められる。

尚、この学習パターン５Ｉ１１は、子音パターンの場合
、６４次元の縦ベクトルとして与えられる。また母音パ
ターンの場合には、１６次元の縦ベクトルとして与えら
れる。

しかして」］コ分散行列には、ｍ個の学習パターンにつ
いて、その縦ベクトル５ｌｌｌｌと、この縦ベクトルを
転置した横ベクトル５ｌｌｌとを掛合わせて作成された
行列の各成分を、上記Ｍ個の学習パターンに亙って平均
化して求められる。従って共分散行列の要素数は、上記
ベクトルの要素数の２乗となる。

尚、このような処理によって、そのカテゴリのパターン
分布を反映した共分散行列を得るには、ある程度の量の
学習パターンを必要とする。これ故、前述したように前
記学習パターン・メモリ部Ｇに所定数の学習パターンを
予め蓄積しておくことが８嘗となる。

しかし、少数の学習パターンによっても、逐次計算によ
って共分散行列を求め、その共分散行列を次第にパター
ン分布を反映した形に改良するには、次のような計算処
理を行うようにすれば良い。

即ち、 Ｋ−（１−ｗ）Ｋ’　　＋ｗＳｎ　　−Ｓｎ　ｔなる演
算処理を行うようにすれば良い。但し、上式において、
Ｗは共分散行列の更新時における重み係数である。この
市み係数Ｗは、正負の値をとり、正ｔらば共分散行列の
入力パターンに対する類似度を大きくする作用を呈し、
逆に負の場合には−１−記碩似度を小さくする作用を呈
する。またに′は、Ｓｎなる学習パターンを学習する前
の共分散行列を示し、このＳｎなる学習パターンの学習
によって更新されｔ；共分散行列がＫとなる。

この共分散行列の更新処理は、複数の学習パターンを用
いて反復的に良数回繰返して行われることは云うまでも
ない。

しかる後、」−述した如く求められた共分散行列にλ・
１して、その固有値と同町ベクトルを求める処理か行わ
れる。この固宜値と固有ベクトルとに基いて、前述した
混合類似度計算に用いられる標準パターンか次のように
して作成される。

この標章パターンは、上記共分散行列をＫＬ展開するこ
とによって行われるが、本装置ｇでは、特にへき乗法に
よるＫＬ展開によって、その標準パターンを求めるよう
にしている。

今、共分散行列Ｋが、固有値λｌ、λ２．〜λｎを持ち
、これに対応する固有ベクトルξ１．ξ２．〜ξｎを持
つものとする。

この場合、その任意ベクトルＵＯは、上記固有ベクトル
ξ１．ξ２．〜ξｎの線形結合として、として表される
。

しかして、 ＫＣｌ−λｉ　ξｉ なる関係が成立することから、 となる。　　　　　　　１“１ ここて １　λｌ　１　〉　１　λ２１　〉　　・・・　　〉　
ｌ　λ「　１　〉・・・　〉１λｎ１ １λｉ　／λｌ　　ｌ　＜ｌ　　（＋＝２．３．〜ｎ）
であるから、Ｓが十分大きくなると」二式の第２項ｓ＋
１ は０″に収束する。故に、（Ｋ　　　ｕｏ　）と（Ｋｓ
ｕｏ）との比か固有値λ１となる。また」二足（Ｋ”ｕ
ｏ）は固自゛ペクト牛ξｌに比例する。

尚、」二連した計算処理をそのまま実行すると、その計
算途中でスケールアウトする可能性が高い。

そこでＵＯをｆ′ｒ：意のベクトル、例えば単位ベクト
ルとし、 ｖｓ＋Ｉ　　−Ｋｕｓ ｕｓ＋１−ｖｓ＋ｌ／ｂｓ＋ｌ　　　　　（ｓＪ、１．
２．＝１とする。ここてｂ　ｓ＋１はベクトルｖ　ｓ＋
１の絶対値か最大の要素である。

このとき、 ｕｓ＋Ｉ　−ｖｓ＋Ｉ　／　ｂｓ＋１−Ｋ　ｕｓ　／　
ｂｓ＋１＝Ｋｖｓ　／　（ｂｓ＋１　−ｂｓ　）となる
ので、これから λ　ｌ”＝ｂｓ＋１　　　　、　　　ξ　１？ｕｓ＋１
それぞれ求めることが可能となる。

しかしてこのようにしてその絶対値か最大の固ｑ値λ１
と固有ベクトルξｌとを求めたら、その絶対値が次に大
きい固有値λ２と固有ベク；・ルξ２とを求める。

ここで に’　　−に−λｌ　ξ１　ξｌｔ を考えると、 ξｌ　　ｔ　Ｅｉ＝ｏ　　　（１＝２．３．〜ｎ）より
、 Ｋ′　ξＩ　　−ＫＥＩ　　−λｌ　ξ１　ξｌ　１　
ξｌ−λ　１　ξ　１−　λ　１　ξ１−０１く　′　
　ξ　ｌ　　−Ｋ　　ξ　ｉ　　−λ　ｌ　　ξ　ｉ　
　ξ　１１　　　ξ　１−　λ　ｉ　ξｉ　　　（ｉ≠
１　） となるので、」二足に′は １λ２１〉　・・・　〉１λｒｌ＞ ・・・　〉１λｎ　１〉０ なる固ｑ値を持つことがわかる。尚、ここではξｊは正
規化されているものとしている。

このような処理は、前記共分散行列を に’　　−に−λｌ　ξ・ξ１ のように変換したに′に対して、上述した処理を繰返し
実行することにより達せられる。この処理によって、順
次絶対値の大きい固を値と、それに対応する固有ベクト
ルとを、固有値の大きいものから順に求めることが可能
となる。

しかしてこの処理は、次のようにして実行することがで
きる。第３図は上述した計算アルゴリズムの具体例を示
すものである。

尚、ここでは固を値の絶対値の大きいものから順に求め
ているので混合類似度法による標準パターンを求めるの
に都合が良いが、負の同町値を削除すれば、？Ｓｊ合類
似度法による標準パターンを効果的に求めることも可能
となる。

次に第３図に示すＫＬ展開の流れについて説明する。

このＫ　Ｌ展開の処理は、前述したマイクロプロセッサ
部７ａと専用ハードウェア部７ｂとにより、その処理機
能を分↑ｕして行われる。

ここでは先ず前記マイクロプロセッサ部７ａにて、同町
値最大の固有ベクトルを求めるので、面数の初期値を“
１″とする（ステップａ）。この面数の設定は、面数か
所定数になるまで演算処理を行う為の川明設定である。

しかる後、専用ハードウェア部７ｂにて演算処理の川明
反復回数の設定を行う（ステップｂ）。この反復回数の
設定は、共分散行列とベクトルとの掛算を上記面数を“
２”ずつ増やしながら繰返し実行しても、その収束条件
が満されないとき、上記面数が最大の反復回数に達した
ことを判定して、その処理を打切る為に行われる。

尚、収束のチェックは、上記掛算を２回行って双ノｊの
ベクトル、およびベクトルのよその絶対値の最大値を使
って行うので、その反復回数は２回すつｊＣｌ・える。

またこの掛算を１回ずつ行い、前回のベクトルおよびベ
クトル要素の最大値を使って毎回収束チェックを行うよ
うにしても良い。

しかる後、次のステップＣにおける積和演算を行う為の
初期ベクトルとして、例えば の如き１１１位ベクトルを初期設定する。

このような初期設定が完了した時点で、前記専用ハード
・ウェア部７ｂにより、共分散行列にとベクトルξ１と
の掛算を行い、ベクトルξ２を求める（ステップＣ）。

しかし、ここで求められるベクトルξ２は、ベクトルξ
ｌが１６ビツト、共分散行列Ｋが１５ビツトに制限され
ていることから、３５ビツト以内に収まるようになって
いる。つまり次のステップｅての共分散行列にとベクト
ルξ２との乗算を行う為に、Ｉ−記ベクトルξ２を１６
ビツトに納めることが必要であり、次のような処理を施
している（ステップｄ）。

即ち先ず、３５ビツトで示されるベクトルξ２の上位１
６ビツトを取出し、該ベクトルξ２の各要素のうちで絶
対値が最大となる要素を調べる。その要素の最大値を用
いて、後述する第４図に示すシフタ１９を用いて、その
絶対値の最大値λ２が、例えば “５３６１１７０！ｉｌｌ”以下となるようにし、その
結果をＡＬＵ２４に導くようにする。

一方、λ２が零または正の場合には λ２　／３２７８７　＋１ なる値を、また上記λ２が負の場合には、λ２　／３２
７８７−１ なる値を求め、この値で前述したベクトルξｉの各要素
をＡＬＵ２４にて割算ししている。このような処理によ
って前記ベクトルξ２の各要素の最大値がほぼ“３２７
６７−　　（３２７６７以下）になるように正規化処理
される。尚、λ２は、回付値に比例するので、このλ２
から回付値を得ることも可能である。しかし、混合類似
度や複合類似度にあっては、トロ！Ｌの比率が問題とな
るだけなので、回付値そのものを求める必要はない。

このような正規化処理を経て、前述したステップＣと同
様にして共分散行列にとベクトルξ２との掛算を行い、
ベクトルξｌを求める（ステップｅ）。そして前記ステ
ップｄにおける処理と同様にして、ベクトルξｌの絶対
値の最大の要素を求め、これをλ１とした後、上記ξｌ
を正規化処理する（ステップｆ）。

しかして次に前記ベクトルξ１．ξ２の収束の程度をチ
ェックしくステップｇ）、収束条件が満される場合には
、共分散行列にとベクトルξとの掛算処理を終了し、次
のステップＩに移行する。また、ベクトルξ１７ξ２が
十分に収束していない場合には、その反復制限回数のチ
ェックを行い（ステップｈ）、前述したステップＣから
の処理を繰返す。

尚、上記ベクトルξ１．ξ２の収束のチェックは、具体
的には次のようにして行われる。

即ち、λ２の前回の値をλ２　″としたとき、これらの
値の差の絶対値とλ２の絶対値に基づく所定の閾値とを
比較して行われる。そして１λ２−λ２゛１≧１λ２１
／β あるとき、これをベクトルξが収束していないと判定し
、 １λ２−λ２−１＜ｌλ２１／β である場合には、収束条件を満していると判定する。但
し、上記βは係数である。

しかしてこの第１の収束条件が満されたとき、次の収束
条件に対するチェックが行われる。この第２の収束条件
のチェックは、ベクトルξ２とベクトルξ２の各要素毎
の差の絶対値の和をＳＡとして求める。そしてこのＳＡ
の値とλ２の絶対値に基づく所定の閾値とを比較し、 ＳＡ≧１λ２１／γ 場合には収束せず、また ＳＡ＜ｌλ２１／γ 場合に収束していると判定する。但し、γは係数である
。

このような２段階の収束条件チェックによって、前記ベ
クトルξｌ、ξ２の収束が判定される。

以」二の一連の処理によってベクトルξ［、ξ２の収束
か確認されると、ベクトルξ１のノルムが計算される（
ステップｉ）。このノルムの計算は、先ず なる演算を行ってノルムの２乗を求め、このノルムの２
乗値の平方根を求めることによって達せられる。このよ
うにして求めたノルムの値を用いて前記ベクトルξＩを
正規化し、そのノルムが各面で等しくなるようにする。

このようにして求められたベクトルが、混合類似度法、
あるいは複合類似度法における辞書となる。

しかる後、前記共分散行列Ｋから上記ベクトルその後、
マイクロプロセッサ部７ａに戻って、前記共分散行列に
の要素中の最大値を求め、その値を用いて該共分散行列
Ｋを正規化処理して、その固有値と固有ベクトルとを求
める（ステップｋ）。

この処理は、共分散行列にの要素の最大値をＭＡＸＫと
して ｌ５ＣＡＬ−３２７６７／ＭＡＸＫ　　（整数）を計算
し、共分散行列Ｋに上記ｌ５ＣＡＬの値を掛算する、つ
まり （Ｋ）−（Ｋ）＊　ｌ５ＣＡＬ を計算することによって達せられる。尚、上記“３２７
Ｇ７’なる値は、１６ビツトで表現される正の最大の値
であるが、求めようとする固有ベクトルの値によっては
、１５ビツトで正の最大となる“１６３８３“、或いは
それ以下の値を用い、共分散行列を制限するようにして
も良い。

しかる後、ここで求められた固有値と同町ベクトルが、
所定の面数に達しているか否かが判定され（ステップ得
る）、所定の面数に達していない場合には、前述したス
テップｂからの処理を繰返すことになる。

以上のようにして、そのＫＬ展開処理が、マイクロプロ
セッサ部７ａと専用ハードウェア部７ｂの処理機能を使
い分けて高速に実行される。

つまり、このＫＬ展開にあっては、共分散行列にと固釘
ベクトルξとの乗算計算口が非常に多い。

例えばベクトルξの次元が６４次元のパターンであり、
その反復繰返し数を５０回、求める開角゛値および同町
ベクトルの数を７とすると、 Ｂ４Ｘ　ｆｉ４Ｘ　６４Ｘ　５０Ｘ　７−９１．７５０
．４００回もの、膨大な乗算処理と加算処理が必要とな
る。

このような乗算処理と加算処理とを専用ハードウェア部
７ｂにて実行することにより、マイクロプロセッサ部７
ａの処理負担を大幅に軽減し、その処理速度の高速化が
図られている。

尚、このような専用ハードウェア部７ｂは、前記認識処
理部４における認識処理計算回路と兼用することができ
る。換言すれば、前記認識処理部４における認識処理計
算回路を利用して共分散行列の計算、および共分散行列
のＫＬＪＪｉｔ開処理を行うことか可能である。従って
、装置構成がＬＭ　２１＃化することがない。

さて、第４図は上述した専用ハードウェア部７ｂの構成
例を示すものである。

この専用ハードウェア部７ｂは、５つのメモリ１１゜１
２、　　＋３．　１４．１５．１段目のセレクタ１６．
　１７．１段目の積和回路Ｉ８、シフタエ９、係数レジ
スタ２０１２段口のセレクタ２１．２２．２段目の積和
回路２３、そしてＡ　Ｌ　Ｕ　２４、レジスタ群２５に
よって構成される。

この専用ハードウェア部７ｂは、前述したＫＬ展開処理
における基本演算処理を実行するもので、その基本演算
は次のＧつの動作からなる。

先ず第１の動作は、 つまり混合類似度Ｓｉの２乗和を計算する処理である。

この計算処理は、メモリ１１に格納されたＳｌの内容を
順次セレクタ１６．１７を介して第１の積和回路１８に
入力し、そのパラメータ１をインクリメントシなからＳ
ｉの相互掛算をｎ回繰返し計算することによって行われ
る。この積和回路１８にて計算された値は、シフタ１９
を介してＡ　Ｌ　Ｕ　２４に与えられる。

また第２の動作は、 つまりＳｉの和の２乗を２Ｉ！ｌは整数）で割算する処
理である。

この処理は、メモリ１１に格納されたＳｉの内容をセレ
クタ１６を介して積和回路１８に入力すると共に、メモ
リ１３に格納されている整数ノの値、例えば（１）をセ
レクタ１７を介して積和回路１８に入力する。そして積
和回路１８にて、これらの間の積和演算をパラメータｉ
の制御の元でｎ回繰返し実行し、その計算！１１１果を
前記シフタ１９を介してＡＬＵ２４に取込むことにより
行われる。

第３の動作は、 つまりベクトルＳｉとベクトルφＩ、ｊの積和の２乗和
を求め、史にｊをパラメータとしてその和を計算する処
理からなる。

この処理は、メモリ１１に格納されたベクトルＳｉをセ
レクタ１７を介して積和回路１８に入力し、且つメモリ
１２に格納されたベクトルφｉ、ｊをセレクタ１８を介
して積和回路１８に入力する。そしてメモリ１１．１２
に対するアドレスを制御してパラメータｉをインクリメ
ントし、その積和ＩｒｊＪ算をｎ回繰返す。これによっ
て求められた値をセレクタ２１゜２２をそれぞれ介して
第２の積和回路２３に入力する。

そして、以上の処理をメモリ１２におけるパラメータｊ
を更新しながらｍ回繰返して実行し、その演算結果を第
２の積和回路２３に得、これを前記ＡＬＵ２４に格納し
て終了する。

第４の動作は、行列にとベクトルξ１との積を求める処
理である。

このα理は、メモリ１３に格納された行列にの内容をセ
レクタＸ６を介して積和回路１８に読出し、またメモリ
１４に格納されたベクトルξ１の内容をセレクタ１７を
介して積和回路［８に読出すことによって行われる。こ
の積和演算は、例えば行列にの要素の１つを読出し、ベ
クトルξｌの要素を順に読出し、てその積和処理を行っ
てベクトルξ２の要素の］つを求め、これをメモリ１５
に格納する。その後、前記行列にの次の要素を読出し、
ベクトルξ１の要素を順に読出してその積和処理を行っ
てベクトルξ２の次の要素を求める。この処理を上記行
列にの各要素について、０回に亙って繰返し実行してベ
クトルξ２を前記メモリ１５に求めて終了する。

更に第５の動作は、ベクトルξ１とＳとの積を求める処
理からなる。

この処理は、メモリ１１に格納されたＳの内容をセレク
タ１６を介して積和回路１８に順次導き、メモリ１４に
格納されたベクトルξ１の内容を積和回路１８に順次導
くことによって行われる。この場合にも、メモリＩＩ、
　１４のアドレス制御を行い、各要素について繰返し演
算処理する。そしてその積和演算結果をシフタ１９を通
してＡＬＵ２４に格納して、この処理が終了する。

最後の第６の処理は、 なる演算式で示される処理である。この処理は、縦ベク
トルξ１と横ベクトルＳとの積と、ベクトルにとの和を
求めるものであり、先ず前記メモリ１３に格納されたベ
クトルにの内容をセレクタ２１を介して第２の積和回路
２３にプリロードしてから行われる。しかる後、メモリ
１４に格納されたベクトルξ１の内容をセレクタ１７を
介して積和回路１８に導き、メモリ１１に格納されたベ
クトルＳの内容をセレクタ１６を介して順に積和回路１
８に導く。この処理も、各要素について繰返し実行する
。

そして、その積和演算の結果を前記シフタ１９からセレ
クタ２２を通して第２の積和回路２３に導き、また係数
レジスタ２０に格納された演算係数αをセレクタ２１を
介して積和囲路２３に導く。そして上記係数αの下で、
該積和回路２３にプリロードされている前記ベクトルに
の内容と積和処理する。

即ち、前記各メモリ１１．１３．１４の各アドレスをそ
れぞれ制御しながら、上述した積和処理を繰返し実行す
る。具体的には、メモリ１４のアドレスを（０）から（
ｎ−１）まで変化される都度、メモリ１１のアドレスを
順にインクリメントし、該メモリ１ｉのアドレスが（ｎ
−１）に達するまで繰返し計算処理する。尚、このとき
メモリ１３のアドレスは、（０）から（ｎ　２−１）ま
で変化される。

以上６つの動作によって、前述した学習におけるＫＬ展
開の演算が実行されることになる。

尚、第４図において、レジスタ群２５は、セレクタ１６
．　１７．２１．２２の切替え、シフタ１９のシフト量
、メモリのアドレス管理情報等を格納し、これを図示し
ない演算制御部に与えるものである。

以Ｉ一本装置の（１４成と、その動作につき説明したよ
うに、本装置によれば入力パターンの学習を簡易に、Ｒ
つ高速に実行することができる。しかも、そのサンプル
パターンの統計的分布を考慮した標準パターンを、高精
度に得ることができる。

しかも実施例に示すように、ＫＬ展開に必要な膨大な瓜
の積和演算を専用のハードウェア回路によって効率良く
、高速に実行することができる。

その上、上記ハードウェア回路は、入力パターンの認識
処理にそのまま用いることができるものである。

従って、パターン認識学習装置自体の全体構成の簡素化
を図ることができ、その低価格化を図ることが可能とな
る等の実用上多大なる効果が奏せられる。

尚、本発明は上述した実施例に限定されるものではなく
、その要旨を逸脱しない範囲で種々変形して実施できる
ことは云うまでもない。

【図面の簡単な説明】

第１図は本発明の一実施例装置の概略構成図、第２図は
学習処理部の構成例を示す図、第３図はＪＩミ分散行列
のＫＬ展開処理の流れを示す図、第４図はＫＬ展開処理
に用いられるハードウェア回路の構成例を示す図である
。 ｌ・・・音声入力部、２・・・特徴抽出部、３・・・セ
グメント化処理部、４・・認識処理部、５・・・標準パ
ターンメモリ部、６・・・学習パターンメモリ部、７・
・・学習処理部、８・・・認識結果表示部、１１．１２
．１３．１４゜１５・・メモリ、１６．　１７．　２１
．　２２・・・セレクタ、１８．　２３・・・積和回路
、１９・・・シフタ、２０・・・係数レジスタ、２４・
・・ＡＬＵ、２５・・・レジスタ群。 出願人代理人　弁理士　鈴江武彦 第１図 ！２図 第３図 第４図

Claims (4)

【特許請求の範囲】
1. （１）　入力パターンを標準パターンと照合して認識処
   理すると共に、特定カテゴリのパターンを入力して該特
   定カテゴリの標準パターンを学習するパターン認識学習
   装置において、 上記標準パターンの学習をべき乗法を用いたＫＬ展開に
   より行うことを特徴とするパターン認識学習装置。
2. （２）　標準パターンを用いた入力パターンの認識処理
   は、複合類似度法または混合類似度法によって行われる
   ものである特許請求の範囲第１項記載のパターン認識学
   習装置。
3. （３）　標準パターンの学習は、特定カテゴリの複数の
   入力パターンに対する共分散行列を求め、この共分散行
   列をＫＬ展開して上記特定カテゴリの標準パターンを得
   るものである特許請求の範囲第１項記載のパターン認識
   学習装置。
4. （４）　共分散行列の計算、およびＫＬ展開に必要な積
   和演算は、専用のハードウェア回路にて実行するもので
   ある特許請求の範囲第１項記載のパターン認識学習装置
   。