JP2932496B2 - パターン認識装置および標準パターン作成装置 - Google Patents

Description

【発明の詳細な説明】 （産業上の利用分野） 本発明は、音声などのように特徴ベクトルの系列とし
て表わされた入力パターンの属するカテゴリを決定（認
識）するためのパターン認識装置と、そのパターン認識
装置で用いる各カテゴリの標準パターンを自動学習によ
って作成するための標準パターン作成装置の改良に関す
る。

（従来の技術） 従来から状態モデルの連鎖で表わされる標準パターン
モデルを用いて、特徴ベクトルの系列として表わされた
入力パターンを認識するパターン認識法として、隠れマ
ルコフモデルによる統計的パターン認識法が良く知られ
ている。隠れマルコフモデルの構造および学習アルゴリ
ズムの詳細に関しては、社団法人電子情報通信学会編
「確率モデルによる音声認識（中川聖一著）」に解説さ
れている。

隠れマルコフモデルにおいては、認識対象の各カテゴ
リの標準パターンモデルは複数の状態モデルの連鎖で表
わされ、各状態モデルは入力された特徴ベクトルを受理
する事後確率分布を有し、各状態モデル間は状態遷移確
率で結ばれている。入力パターンと各カテゴリの類似度
はこれらの事後確率分布と状態遷移確率から算出される
尤度で与えられる。さらに隠れマルコフモデルでは学習
用のデータから各状態モデルの事後確率分布と状態遷移
確率を自動的に作成する学習アルゴリズムの存在が知ら
れている。

（発明が解決しようとする課題） 隠れマルコフモデルは扱うパターンの特徴ベクトル系
列がマルコフ性を有することが前提になっているため
に、状態モデルの事後確率分布を近接した状態モデルに
依存した形式に拡張することが困難であり、複雑なパタ
ーン系列を扱う際の記述能力に限界があり、満足なモデ
ルではなかった。

また状態モデル間の状態遷移に基づいて認識・学習を
行なうので、処理の並列性が低く、将来の並列ハードウ
ェアによる高速化は困難であった。このように、従来の
パターン認識技術には、記述能力および処理の並列性に
関し解決すべき課題があった。

本発明の目的は、各状態モデルの処理を近接する状態
モデルに依存した形式に拡張することが容易で、マルコ
フ性を有しないようなパターン系列もモデル化（記述）
する能力を有し、かつ並列性の高いパターン認識装置
と、そのモデルの全パラメータを学習によって自動的に
決定することを可能にする標準パターン作成装置を提供
することにある。

（課題を解決するための手段） 本発明のパターン認識装置は、特徴ベクトルの系列と
して表わされた入力パターンの属するカテゴリを認識す
るに際して、認識対象カテゴリ毎に複数の状態モデルか
ら構成される標準パターンを格納する標準パターン格納
部と、入力パターンの各特徴ベクトルと各カテゴリの各
状態モデルとの組み合せで指定される展開状態モデルの
各々に対して、各展開状態モデルの出力値の初期値を設
定する出力値初期設定部と、前記特徴ベクトルと前記状
態モデルとの類似度を算出する状態類似度算出部と、全
展開状態モデルの中から出力値を更新する任意の展開状
態モデルを１つ選出する選出部と、前記選出部で選出さ
れた展開状態モデルに対して、前記類似度と該展開状態
モデルと同一カテゴリに属する該展開状態モデル以外の
展開状態モデルの出力値から、該展開状態モデルの出力
値を再決定し更新する出力値更新部と、全展開状態モデ
ルの出力値から各カテゴリの標準パターンに対する入力
パターンの類似度を算出するカテゴリ類似度算出部と、
あらかじめ定められた出力値更新終了条件を満足してい
なければ、選出部へ制御を戻し、該条件を満足していれ
ば次の認識結果判定部へ制御を進める出力値更新制御部
と、この出力値更新制御部で前記条件が満足されている
と判断されたとき、前記カテゴリ類似度算出部の出力で
ある前記入力パターンと各カテゴリの標準パターンとの
類似度を用いて、入力パターンの属するカテゴリを判定
する認識結果判定部から構成されることを特徴とする。

各カテゴリの標準パターンを作成する標準パターン作
成装置は、カテゴリの標準パターン作成用として、その
属するカテゴリが既知である学習用入力パターンを格納
する学習用入力パターン格納部と、各カテゴリの標準パ
ターンを格納する標準パターン格納部と、各カテゴリの
標準パターンの初期値を前記標準パターン格納部に設定
・格納する標準パターン初期値設定部と、前記学習用入
力パターンの各特徴ベクトルと各カテゴリの各状態モデ
ルとの組み合せで指定される展開状態モデルの各々に対
して、各展開状態モデルの出力値の初期値を設定する出
力値初期設定部と、前記特徴ベクトルと前記状態モデル
との類似度を算出する状態類似度算出部と、全展開状態
モデルの中から出力値を更新する任意の展開状態モデル
を１つ選出する選出部と、前記選出部で選出された展開
状態モデルに対して、前記類似度と該展開状態モデルと
同一カテゴリに属する該展開状態モデル以外の展開状態
モデルの出力値から、該展開状態モデルの出力値を再決
定し更新する出力値更新部と、全展開状態モデルの出力
値から各カテゴリの標準パターンに対する前記学習用入
力パターンの類似度を算出するカテゴリ類似度算出部
と、あらかじめ定められた出力値更新終了条件を満足し
ていなければ、前記選出部へ制御を戻し、満足していれ
ば次の標準パターン修正部へ制御を進める出力値更新制
御部と、前記カテゴリ類似度算出部の出力である前記学
習用入力パターンと各カテゴリの標準パターンとの類似
度を用いて、学習用入力パターンとカテゴリの標準パタ
ーンが同一カテゴリの場合には、類似度を増加させる方
向に、カテゴリが異なる場合には類似度が減少する方向
に前記標準パターン格納部に格納された標準パターンを
修正更新する標準パターン修正部と、あらかじめ定めら
れた標準パターン修正終了条件を満足していなければ前
記出力値初期設定部へ処理を戻し、満足していれば全体
の処理を終了させる標準パターン修正制御部から構成さ
れることを特徴とする。

（作用） 本発明のパターン認識装置は、各認識対象カテゴの標
準パターンとして、複数の状態モデルの集まり（連鎖）
で表わされた標準パターンモデルを用いており、入力パ
ターンが提示されると、各カテゴリの標準パターンモデ
ルと照合を行ない、その結果得られるカテゴリ類似度を
基にして、入力パターンの属するカテゴリを決定する。

カテゴリの標準パターンモデルを構成する各状態モデ
ルは多入力１出力の素子で、入力は特徴ベクトルと近接
する他の状態モデルの出力値である。特徴ベクトルの系
列で表わされた入力パターンが提示されたときに、ある
カテゴリの標準パターンモデルと入力パターン系列の照
合（カテゴリ類似度の決定）を行なう様子は次の通りで
ある。

第３図は横軸ｉに入力パターンの特徴ベクトル系列
を、縦軸ｊにカテゴリの標準パターンの状態モデルをと
った２次元ｉ−ｊ平面を表わしている。この平面の各格
子点（i,j）上に状態モデルを配置する。ｊが等しい格
子点上には同じ状態モデルが置かれる。このように２次
元的に展開された状態モデルを展開状態モデルと呼ぶ。
（i,j）で指定される各展開状態モデルは、対応するｉ
軸上の特徴ベクトルとｊ軸上の状態モデルとの間の類似
度（ここで類似度とは、状態モデルが特徴ベクトルを受
理する程度を表わす量である）を算出し、その類似度と
近接する他の展開状態モデルの出力値を用いて、自分の
出力値を更新（変更）する。あらかじめ定められた終了
条件が満足されるまで、各展開状態モデルは独自のタイ
ミングで、その出力値を更新していく。

カテゴリ類似度は上記の２次元平面上の全格子点の展
開状態モデルの出力値の組に対して定義されている。パ
ターン認識装置は出力値更新の終了条件が満足された時
点でのカテゴリ類似度を用いて、入力パターンの属する
カテゴリを決定（認識）する。

ここで本発明のパターン認識装置の要件は、入力パタ
ーンと状態モデルの集合で表わされた標準パターンモデ
ルの照合過程を、２次元平面に展開された展開状態モデ
ルの集合の緩和過程で表わし、その２次元平面上での全
展開応対モデルの出力値でカテゴリ類似度を与え、緩和
の結果得られるカテゴリ類似度を認識に用いた点であ
る。

以下に本発明のパターン認識装置の動作について詳細
に説明する。入力パターンの特徴ベクトル系列（長さ
Ｉ）を （１） ａ（１），…,a（ｉ），…,a（Ｉ）とし、認識
対象カテゴリ数をＣ、カテゴリｃ（ｃ＝１〜Ｃ）の標準
パターンの状態数をJcとする。このときカテゴリｃの展
開状態モデルは第３図に示したようにｉ（ｉ＝１〜Ｉ）
とｊ＝（１〜Jc）で表わされるｉ−ｊ平面の格子点に対
応し、座標（c,i,j）で特定することができる。

展開状態モデル（c,i,j）における入力特徴ベクトル
ａ（ｉ）とカテゴリｃの状態ｊとの類似度をｄ（c,i,
j）とし、同一カテゴリｃで（c,i,j）以外の展開状態モ
デル（c,m,n）の出力値の集合を｛ｙ（c,m,n）｝で表わ
したときに、展開状態モデル（c,i,j）の出力値ｙ（c,
i,j）は、次式で与えられる。

（２） ｄ（c,i,j） ＝Ｄ［ａ（ｉ），｛ｂ（c,j）｝］， （３） ｙ（c,i,j） ＝Ｆ［ｄ（c,i,j），｛ｙ（c,m, ｎ）｝，｛ｗ（c,j）｝］． ここでＤ［ ］,F［ ］はすべての（c,i,j）に共通な
関数で、｛ｂ（c,j）｝と｛ｗ（c,j）｝は各々カテゴリ
ｃの状態ｊにおけるＤ［ ］とＦ［ ］を特徴づけるパ
ラメータの集合である（関数形の具体例に関しては後述
する）。また、カテゴリ内の全展開状態モデルの出力値
から次式に従って、入力パターン系列とカテゴリｃの標
準パターンモデルの間のカテゴリ類似度が計算される。

（４） ｅ（ｃ） ＝Ｅ［ｄ（c,i,j），｛ｙ（c,i, ｊ）｝，｛ｗ（c,j）｝］． 入力パターン系列が与えられらときの全体の処理の流れ
は次のようになる。

各展開状態モデルの出力初期値ｙ（c,i,j）を適当な
値（例えば乱数など）に設定する。

式（２）に従って類似度ｄ（c,i,j）を算出する。

全展開状態モデルの集合｛（c,i,j）｝の中から適当
に（例えば乱数などにより）ただ一つの展開状態モデル
（c,i,j）を選び出す。

選ばれた展開状態モデル（c,i,j）の出力値ｙ（c,i,
j）を式（３）に従って再計算（更新）する。

入力パターン系列とカテゴリｃの標準パターンとのカ
テゴリ類似度ｅ（ｃ）を式（４）に従って計算する。

処理〜をあらかじめ定められた出力値更新終了条
件が満足されたと判断されるまで繰り返し実行する。

全認識対象カテゴリの中でカテゴリ類似度が最大にな
るカテゴリを認識結果として出力する。

次に本発明の標準パターン作成装置の動作について説
明する。標準パターン作成の基本的な戦略は、学習用の
入力パターンを用いて、入力パターンの属するカテゴリ
と標準パターンのカテゴリが同じ場合には大きなカテゴ
リ類似度を与え、異なる場合は小さなカテゴリ類似度を
与えるような標準パターンを自動作成することにある。

そこで、カテゴリが既知の学習用入力パターンを上記
のパターン認識装置に入力して得られたカテゴリ類似度
ｅ（１）…ｅ（Ｃ）を、入力パターンの属するカテゴリ
と標準パターンのカテゴリが同じ場合には増加させるよ
うに、異なる場合は減少させるように、標準パターンの
状態モデルを特徴づけるパラメータ｛ｗ（c,j）｝を修
正する。即ち、入力パターンの属するカテゴリと標準パ
ターンのカテゴリが同じ場合には｛ｗ（c,j）｝を次式
のように修正する。

（５） ｗ（c,j）→ｗ（c,j）＋Δ（c,j）， （６） Δ（c,j）＝εθE/θｗ（c,j）． ここでεは充分小さい正の定数で、Ｅはカテゴリ類似度
を与える関数（式（４）参照）である。また、カテゴリ
が異なるときは式（７）の代わりに次式を用いる。

（７） Δ（c,j）＝−εθE/θｗ（c,j）． このような修正を行なったときのカテゴリ類似度の変化
は、εが充分小さいとすれば次式で与えられる。

（８） Ｅ［ｗ（c,j）＋Δ（c,j）］〜 Ｅ［ｗ（c,j）＋Δ（c,j）θE/w（c,j） よって修正量に式（７）を用いた場合（同一カテゴリ）
は （９） Ｅ［ｗ（c,j）＋Δ（c,j） ≧Ｅ［ｗ（c,j）］ となり、カテゴリ類似度は増加し、式（７）を用いた場
合（異なるカテゴリ）には （10） Ｅ［ｗ（c,j）＋Δ（c,j）］ ≦Ｅ［ｗ（c,j）］ となり、カテゴリ類似度は減少する。

結局、各カテゴリの標準パターンのパラメータ｛ｗ
（c,j）｝の初期値を（乱数などを用いて）適当な値に
設定して、上述のパラメータ逐次修正を繰り返し行なえ
ば、学習用入力パターンを適切に分類・識別できるよう
なカテゴリ類似度を与える標準パターンのパラメータが
得られる。

本発明のパターン認識装置およびパターン作成装置の
基本的な動作は以上の通りであるが、つぎに展開状態モ
デル出力値更新関数Ｆ［ ］およびカテゴリ類似度Ｅ
［ ］の実際上特に有効と考えられる具体形を与える。

カテゴリ類似度関数Ｅ［ ］はｙ（c,i,j）の２次元
形式とする。

（11） ｅ（ｃ）＝1/2Σｙ（c,i,j） ｗ（c,i,j,m,n）ｙ（c,m, ｎ）−Σθ（c,j）ｄ（c,i,j） ｙ（c,i,j） ここで、ｗ（c,i,j,m,n）とθ（c,j）はカテゴリの標準
パターンを特徴づけるパラメータで、上式の和はi,j,m,
nに関する和でｉ≠m,j≠ｎとする。またｗ（c,i,j,m,
n）は第４図に示すように２つの展開状態モデル（c,i,
j）と（c,m,n）のあいだの関係を表わす係数で、（i,
j）と（m,n）の入れ換えに関して対称で、さらにｉとｍ
に対する依存性をその差ｉ−ｍにだけ依存するように関
数形を限定する。

（12） ｗ（c,i,j,m,n）＝ｗ（c,i,n|i−m|）． ｗ（c,j,n|i−m|）＝ｗ（c,n,j|i−m|）． このようなカテゴリ類似度を用いて、さらに展開状態
モデルの出力値を更新する際に、部分和ｘ（c,i,j） （13） ｘ（c,i,j）＝Σｗ（c,i,j,m,n）ｙ（c,m,n） ＋θ（c,j）ｄ（c,i,j） が正またはゼロのとき出力値ｙ（c,i,j）を1.0に、負の
とき0.0にするような、更新規則（関数Ｆ［ ］）を用
いる。

（14） ｙ（c,i,j）＝1.0 when ｘ（c,i,j）≧０ 0.0 when ｘ（c,i,j）＜0. ところで、上記の式（13），（14）で表わされるような
動作を実現する装置として、ニューラルネットワークの
モデルの一つであるところのホップフィールド・ネット
ワーク（Hopfieldnetwork）が知られている。（ホップ
フィールド・ネットワークに関してはジェイ・ジェイ・
ホップフィールド（J.J.Hopfield）が論文誌「プロシー
ディングス・オブ・ナチュラル・アカデミー・オブ・サ
イエンス・ユーエスエー（Proc,Nat1.AcadSc.USAS」の1
982年第79巻2554頁から2558頁に発表した論文「ニュー
トラル・ネットワークス・アンド・フィジカル・システ
ムス・ウィズ・エマージェント・コレクティブ・コンピ
ュテーショナル・アビリティース（Neural networks an
d physical systems with emergent collective comput
ational abilities）」に詳しい。）即ち、本発明の展
開状態モデルをニューロンモデルで表わせば、本発明の
展開状態モデルと入力パターン系列の照合を行なう過程
は、ホップフィールド・ネットワークで実現することが
できる。ホップフィールドによって示されているよう
に、出力値更新規則式（13），（14）に従って装置を動
作させると展開状態モデルの出力値の集合｛ｙ（c,i,
j）｝は、自動的に式（11）で与えられるカテゴリ類似
度ｅ（ｃ）の極値を与える｛ｙ（c,i,j）｝に収束す
る。

また、式（14）の規則の代わりに確率Ｐ（c,i,j） （15） Ｐ（c,i,j）＝1/（１＋exp （−ｘ（c,i,j）/T）） （Ｔはパラメータ） を用いて、確率的に展開状態モデルの出力値ｙ（c,i,
j）を更新すると、本発明のパターン認識装置のパター
ン照合過程の動作はボルツマンマシンによって実現する
ことが可能である。即ち、確率Ｐでｙ（c,i,j）を1.0に
して、確率１−Ｐで0.0にする。この確率的動作規則に
したがって装置を動作させると展開状態モデルの出力値
の集合｛ｙ（c,i,j）｝は、自動的に式（11）で与えら
れるカテゴリ類似度ｅ（ｃ）の最大値を与える｛ｙ（c,
i,j）｝に収束することが示されている（この証明も含
めてボルツマンマシンに関してはエス・ギーマンとディ
・ギーマンが論文誌「アイトリプルイー・トランザクシ
ョンズ・オン・パターン・アナリシス・アンド・マシン
・インテリジェンス（IEEE Transaction on Pattern an
alysis and machine intelligence）」の1984年第６巻7
21頁から741頁に発表した論文「ストキャスティック・
リラクセーション、ギブス・ディストリビューション、
アンド・ザ・ベイジアン・リストレーション・オブ・イ
メージズ（Stochastic Relaxation,Gibbs Distribution
s,and the Bayesian Restoration of Images）」に詳し
い）。

本発明の目的は（発明が解決しようとする課題）の項
にも述べたように、各状態モデルの処理を近接する状態
モデルに依存した形式に拡張することが容易で、マルコ
フ性を有しないようなパターン系列をモデル化（記述）
する能力を有し、かつ並列性の高いパターン認識装置
と、そのモデルの全パラメータを学習によって自動的に
決定することを可能にする標準パターン作成装置を提供
することにあった。式（３）および（13），（14）より
明らかなように本発明の状態モデルの処理は、明白に近
接する状態モデルに依存しているので、マルコフ性を有
しないような複雑なパターン系列をモデル化することも
可能である。また、パターン照合過程が２次元平面に展
開された展開状態モデルの緩和過程で実現されているの
で、処理は各展開状態モデルのレベルまで完全に並列的
である。さらに本発明の標準パターン作成装置によれ
ば、学習パターンの識別を最適に行えるような標準パタ
ーンを自動的に作成することができる。

（実施例） 第１図は本発明のパターン認識装置を実現した一実施
例を示したブロック図である。

標準パターン格納部１は、認識対象カテゴリ毎に複数
の状態モデルから構成される標準パターン（の状態モデ
ルを特徴づけるパラメータ）｛ｗ（c,j）｝を格納して
いる。

状態類似度算出部２は、特徴ベクトルの系列として表
わされた入力パターンが与えられると、標準パターン格
納部１に格納されたパラメータを用いて、その入力特徴
ベクトルａ（ｉ）とカテゴリｃの状態モデルｊの間の類
似度ｄ（c,i,j）を式（２）に従ってすべて（ｃ＝１〜
C,i＝１〜I,j＝１〜Jc）計算する。

出力値初期設定部３は、入力パターンが与えられると
１回だけですべての展開状態モデル｛ｙ（c,i,j）｝の
初期値を適当な値に（乱数などを用いて）初期設定す
る。

選出部４はすべての展開状態モデル｛（c,i,j）｝の
中から（乱数などを用いて）ただ一つの展開状態モデル
（c,i,j）を選出し、出力値更新部５に伝える。

出力値更新部５は選出部４によって選出された展開状
態モデル（c,i,j）の出力値ｙ（c,i,j）を、標準パター
ン格納部に格納されたパラメータ｛ｗ（c,j）｝と、状
態類似度算出部２で算出された類似度ｄ（c,i,j）｝
と、他の展開状態モデルの出力値｛ｙ（c,i,j）｝を用
いて、式（３）に従って更新する。

カテゴリ類似度算出部６は、出力値更新部５によって
更新された全展開状態モデルの出力値｛ｙ（c,i,j）｝
と、標準パターン格納部１に格納された各カテゴリの標
準パターン｛ｗ（c,i,j）｝と、状態類似度算出部２で
算出された類似度｛ｄ（c,i,j）｝を用いて、入力パタ
ーンと各カテゴリの標準パターンの間の類似度｛ｅ
（ｃ）｝を算出する。

出力値更新制御部７は、あらかじめ定められた出力値
更新終了条件を満足していなければ、選出部４と出力値
更新部５とカテゴリ類似度算出部６を再起動し、該条件
を満足していれば認識結果判定部８を起動する。出力値
更新制御部７が用いる終了判定条件としては、上記の出
力値更新部５の再起動の回数があらかじめ定めておいた
上限回数を上回った場合に終了判定条件を満足したと判
定する「再起動の回数による条件」や、上記のカテゴリ
類似度算出部６のｎ回目の再起動によって再計算される
カテゴリ類似度｛ｅ（c,n）｝と、その一回前に計算さ
れたカテゴリ類似度｛ｅ（c,n−１）｝の間の変化量Δ （18） Δ＝Σ［ｅ（c,n）−（c,n−１）］^２ （和Σはカテゴリｃに関する和、ｃ＝１〜ｃ） があらかじめ定めておいた下限値δを下回った場合に終
了判定条件を満足したと判定する「カテゴリ類似度の変
化量による条件」や、これらの終了判定条件の組み合わ
せなどを用いる。

認識結果判定部８は出力値更新制御部７によって終了
条件を満足したと判定されると起動されて、カテゴリ類
似度算出部６の出力である入力パターンと各カテゴリの
標準パターンの間の類似度｛ｅ（ｃ）｝を用いて、最大
の類似度を与えるカテゴリを入力パターンの属するカテ
ゴリと判定する。

第２図は本発明の標準パターン作成装置を実現した一
実施例を示したブロック図である。

学習用入力パターン格納部９は、その属するカテゴリ
が既知の入力パターンを複数格納している。

標準パターン格納部１は、認識対象カテゴリ毎に複数
の状態モデルから構成される標準パターン（の状態モデ
ルを特徴づけるパラメータ）｛ｗ（c,j）｝を格納す
る。

標準パターン初期値設定部10は、各カテゴリの標準パ
ターン｛ｗ（c,j）｝の初期値を乱数などを用いて適当
な値に初期設定する。

状態類似度算出部２は、特徴ベクトルの系列として表
わされた学習用入力パターンの一つが学習用入力パター
ン格納部９から与えられると、標準パターン格納部１に
格納されたパラメータ｛ｗ（c,j）｝を用いて、その特
徴ベクトルａ（ｉ）とカテゴリｃの状態モデルｊの間の
類似度ｄ（c,i,j）を式（２）に従ってすべて（ｃ＝１
〜C,i＝１〜I,j＝１〜Jc）計算する。

出力値初期設定部３は、新しい学習用入力パターンが
与えられると１回だけすべての展開状態モデル｛ｙ（c,
i,j）｝の初期値を適当な値に（乱数などを用いて）初
期設定する。

選出部４はすべての展開状態モデル｛ｙ（c,i,j）｝
の中から（乱数などを用いて）ただ一つの展開状態モデ
ル（c,i,j）を選出し、出力値更新部５に伝える。

出力値更新部５は選出部４によって選出された展開状
態モデル（c,i,j）の出力値ｙ（c,i,j）を、標準パター
ン格納部１に格納されたパラメータ｛ｗ（c,j）｝と、
状態類似度算出部２で算出された類似度｛ｄ（c,i,
j）｝と、他の展開状態モデルの出力値｛ｙ（c,i,j）｝
を用いて、式（３）に従って更新する。

カテゴリ類似度算出部６は、出力値更新部５によって
更新された全展開状態モデルの出力値｛ｙ（c,i,j）｝
と、標準パターン格納部１に格納された各カテゴリの標
準パターン｛ｗ（c,j）｝と、状態類似度算出部２で算
出された類似度｛ｄ（c,i,j）｝を用いて、入力パター
ンと各カテゴリの標準パターンの間の類似度｛ｅ
（ｃ）｝を式（４）に従って算出する。

出力値更新制御部７は、あらかじめ定められた出力値
更新終了条件を満足してなければ、選出部４と出力値更
新部５とカテゴリ類似度算出部６を再起動し、満足して
いれば標準パターン修正部11を起動する。

標準パターン修正部11は、カテゴリ類似度算出部６の
出力である学習用入力パターンと各カテゴリの標準パタ
ーンの類似度｛ｅ（ｃ）｝を用いて、学習用入力パター
ンとカテゴリの標準パターンが同一カテゴリの場合に
は、類似度を増加させる方向に、カテゴリが異なる場合
には類似度が減少する方向に標準パターン格納部１に格
納された標準パターン｛ｗ（c,j）｝を修正更新する。

標準パターン修正制御部12は、あらかじめ定められた
標準パターン修正終了条件を満足していなければ出力値
初期設定部３と選出部４と出力値更新部５とカテゴリ類
似度算出部６と出力値更新制御部７を再起動し、満足し
ていれば全体の処理を終了させる。

（発明の効果） 以上述べたように、本発明のパターン認識装置によれ
ば、隠れマルコフモデルを用いた認識装置では困難であ
った、各状態モデルの処理を近接する状態モデルに依存
した形式に拡張することが容易に可能で、柔軟なパター
ン系列のモデル化（記述）能力を有するパターン認識装
置を提供することができる。また本発明のパターン認識
装置は隠れマルコフモデルを用いた認識装置に比べて、
その処理が高度に並列的であるので、将来の高速な並列
プロセッサの能力を有効に生かすことができると考えら
れる。

加えて本発明によれば、学習用のデータを用いて、上
記パターン認識装置の全パラメータを学習によって最適
に自動決定することを可能にする標準パターン作成装置
を提供することができる。

【図面の簡単な説明】

第１図は本発明のパターン認識装置の一実施例を示すブ
ロック図である。第２図は本発明の標準パターン作成装
置の一実施例を示すブロック図である。第３図は展開状
態モデルの配置を示す図である。第４図は標準パターン
を特徴づけるパラメータを表わす図である。 １……標準パターン格納部、２……状態類似度算出部、
３……出力値初期設定部、４……選出部、５……出力値
更新部、６……カテゴリ類似度算出部、７……出力値更
新制御部、８……認識結果判定部、９……学習用入力パ
ターン格納部、10……標準パターン初期値設定部、11…
…標準パターン修正部、12……標準パターン修正制御
部。

Claims (6)

(57)【特許請求の範囲】
1. 【請求項１】特徴ベクトルの系列として表わされた入力
   パターンの属するカテゴリを認識するに際して、認識対
   象カテゴリ毎に複数の状態モデルから構成される標準パ
   ターンを格納する標準パターン格納部と、入力パターン
   の各特徴ベクトルと各カテゴリの各状態モデルとの組み
   合せで指定される展開状態モデルの各々に対して、各展
   開状態モデルの出力値の初期値を設定する出力値初期設
   定部と、前記特徴ベクトルと前記状態モデルとの類似度
   を算出する状態類似度算出部と、全展開状態モデルの中
   から出力値を更新する任意の展開状態モデルを１つ選出
   する選出部と、前記選出部で選出された展開状態モデル
   に対して、前記類似度と該展開状態モデルと同一カテゴ
   リに属する該展開状態モデル以外の展開状態モデルの出
   力値から、該展開状態モデルの出力値を再決定し更新す
   る出力値更新部と、全展開状態モデルの出力値から各カ
   テゴリの標準パターンに対する入力パターンの類似度を
   算出するカテゴリ類似度算出部と、あらかじめ定められ
   た出力値更新終了条件を満足していなければ選出部へ制
   御を戻し、該条件を満足していれば次へ制御を進める出
   力値更新制御部と、この出力値更新制御部で前記条件が
   満足されていると判断されたとき、前記カテゴリ類似度
   算出部の出力である前記入力パターンと各カテゴリの標
   準パターンとの類似度を用いて、入力パターンの属する
   カテゴリを判定する認識結果判定部から構成されること
   を特徴とするパターン認識装置。
2. 【請求項２】前記出力値更新部が、前記状態類似度算出
   部の出力する該展開状態モデルに対する類似度と、該展
   開状態モデルと同一カテゴリに属する該展開状態モデル
   以外の展開状態モデルの出力値の荷重和と、該カテゴリ
   の該状態の有する閾値との比較を行ない、あらかじめ定
   められた閾値論理に従って、該展開状態モデルの出力値
   を再決定し更新することを特徴とする請求項１記載のパ
   ターン認識装置。
3. 【請求項３】前記出力値更新部が、前記状態類似度算出
   部の出力する該展開状態モデルに対する類似度と、該展
   開状態モデルと同一カテゴリに属する該展開状態モデル
   以外の展開状態モデルの出力値の荷重和と、該カテゴリ
   の該状態の有する閾値との比較を行ない、あらかじめ定
   められた確率論理に従って、該展開状態モデルの出力値
   を再決定し更新することを特徴とする請求項１記載のパ
   ターン認識装置。
4. 【請求項４】請求項１記載のパターン認識装置の各カテ
   ゴリの標準パターンを作成するに際して、カテゴリの標
   準パターン作成用として、その属するカテゴリが既知で
   ある学習用入力パターンを格納する学習用入力パターン
   格納部と、各カテゴリの標準パターンを格納する標準パ
   ターン格納部と、各カテゴリの標準パターンの初期値を
   前記標準パターン格納部に設定・格納する標準パターン
   初期値設定部と、前記学習用入力パターンの各特徴ベク
   トルと各カテゴリの各状態モデルとの組み合せで指定さ
   れる展開状態モデルの各々に対して、各展開状態モデル
   の出力値の初期値を設定する出力値初期設定部と、前記
   特徴ベクトルと前記状態モデルとの類似度を算出する状
   態類似度算出部と、全展開状態モデルの中から出力値を
   更新する任意の展開状態モデルを１つ選出する選出部
   と、前記選出部で選出された展開状態モデルに対して、
   前記類似度と該展開状態モデルと同一カテゴリに属する
   該展開状態モデル以外の展開状態モデルの出力値から、
   該展開状態モデルの出力値を再決定し更新する出力値更
   新部と、全展開状態モデルの出力値から各カテゴリの標
   準パターンに対する前記学習用入力パターンの類似度を
   算出するカテゴリ類似度算出部と、あらかじめ定められ
   た出力値更新終了条件を満足していなければ、前記選出
   部へ制御を戻し、満足していれば次の標準パターン修正
   部へ制御を進める出力値更新制御部と、前記カテゴリ類
   似度算出部の出力である前記学習用入力パターンと各カ
   テゴリの標準パターンとの類似度を用いて、学習用入力
   パターンとカテゴリの標準パターンが同一カテゴリの場
   合には、類似度を増加させる方向に、カテゴリが異なる
   場合には類似度が減少する方向に前記標準パターン格納
   部に格納された標準パターンを修正更新する標準パター
   ン修正部と、あらかじめ定められた標準パターン修正終
   了条件を満足していなければ前記出力値初期設定部へ処
   理を戻し、満足していれば全体の処理を終了させる標準
   パターン修正制御部から構成されることを特徴とする標
   準パターン作成装置。
5. 【請求項５】出力値更新部が、前記状態類似度算出部の
   出力する該展開状態モデルに対する類似度と、該展開状
   態モデルと同一カテゴリに属する該展開状態モデル以外
   の展開状態モデルの出力値の荷重和と、該カテゴリの該
   状態の有する閾値との比較を行ない、あらかじめ定めら
   れた閾値論理に従って、該展開状態モデルの出力値を再
   決定し更新することを特徴とする請求項４記載の標準パ
   ターン作成装置。
6. 【請求項６】出力値更新部が、前記状態類似度算出部の
   出力する該展開状態モデルに対する類似度と、該展開状
   態モデルと同一カテゴリに属する該展開状態モデル以外
   の展開状態モデルの出力値の荷重和と、該カテゴリの該
   状態の有する閾値との比較を行ない、あらかじめ定めら
   れた確率論理に従って、該展開状態モデルの出力値を再
   決定し更新することを特徴とする請求項４記載の標準パ
   ターン作成装置。