JPH10508392A - トリー構成確率密度に基づくパターン認識の方法及びシステム - Google Patents

Abstract

(57)【要約】 この方法及びシステムを用いて、音声のような連続するする物理量から取り出した時間順次するによりパターン（２０）を認識する。本システムは物理量をアクセスし入力観測ベクトル列を発生させる入力手段（３０）を具える。入力観測ベクトルは入力パターンを表す。基準パターンデータベース（４０）を用いて基準ユニット列で構成される基準パターンを記憶する。各基準ユニットは関連する基準確率密度により表される。トリービィルダ（６０）各基準ユニットについて関連する基準確率密度の組をトリー構造として表す。各非リーフノードはクラスタ確率密度に対応し、このクラスタ確率密度は非リーフノードよりも下位のブランチのリーフノードに対応する全ての基準確率密度から取り出す。ロキャライザ（５０）を用いて、入力パターンに対応する認識された基準パターンを基準パターンデータベース（４０）に記憶されている基準パターン中に配置する。

Description

【発明の詳細な説明】 トリー構成確率密度に基づくパターン認識の方法及びシステム 本発明は、物理量をアクセスし、この物理量から入力パターンを表す一連の入 力観測ベクトルを発生させ、 複数の基準パターン中に入力パターンと対応する認識された基準パターンを配 置し、少なくとも１個の基準パターンを一連の基準ユニットとし、各基準ユニッ トを基準確率密度の組中の少なくとも１個の関連する基準確率密度で表し、 基準確率密度の選択をトリー構造として表し、このトリー構造において各リー フノードが基準確率密度に対応すると共に非リーフノードがクラスタ確率密度に 対応し、クラスタ確率密度は前記非リーフノードのブランチのリーフノードに対 応する基準確率密度から取り出され、 前記トリー構造について、対応するクラスタ確率密度が前記入力観測ベクトル より複数のリーフノードを選択し、 選択されたリーフノードに対応する各基準確率密度について前記入力観測ベク する方法に関するものである。 また、本発明は、連続する物理量から取り出した時間順次する入力パターンを 認識するシステムであって、 回帰的に物理量をアクセスし、入力パターンを表す入力観測ベクトル列を発生 させる入力手段と、 基準確率密度の組を少なくともＬ＝３の階層レベルを有するトリー構造として 表すトリービィルダであって、前記トリー構造においてトリーのレベル１の各リ ーフノードが基準確率密度に対応し、各非リーフノードがクラスタ確率密度に対 応し、このクラスタ確率密度が非リーフノードよりも下位のブランチのリーフノ ードに対応する全ての基準確率密度から取り出されるトリービィルダと、 複数の基準パターンを記憶する基準パターンデータベースであって、少なくと も１個の基準パターンが基準ユニット列とされ、各基準ユニットが基準確率密度 の組の少なくとも１個の関連する基準確率密度により表され、前記基準確率密度 の選択がトリー構造として記憶される基準パターンデータベースと、 前記認識された入力パターンに対応する認識された基準パターンを前記基準パ ターンデータベースに記憶されている基準パターン中に配置するロキャライザと 、 認識されたパターンを出力する出力手段とを具え、 するクラスタ確率密度が最適のクラスタ尤度を与える多数のノードを選択すると 共に、トリーの順次下位のレベルにおいて各選択されたノードをルートノードと して用いることにより選択されたノードがリーフノードとなるまでノード選択を 繰り返すことにより、前記基準パターンデータベースに記憶されているトリー構 造を検索し、 選択されたリーフノードに対応する各基準確率密度について、前記入力観測ベク 前記基準パターンの基準ユニットを表す全ての基準確率密度について計算され た観測尤度を組み合わせることにより、各基準パターンについてパターン類似ス コアを計算し、 前記認識されたパターンを、パターン類似スコアの最適度が計算された基準パ ターンとして配置する入力パターン認識システムに関するものである。 音声や画像のような連続する物理量から取り出された時間順次する入力パター ンの認識の重要性が増大している。特に、音声認識は電話音声認識遠隔通信（種 々の自動化されたサービィス）、オヒイス及びビジネスシステム（データエント リ）、製造（製造工程における手を使わない監視）、医療（リポートの注釈の添 付）、ゲーム（音声入力）、自動車製造の音声制御及び不具者により用いられる 音声制御のような分野において広く用いられている。連続する音声認識の場合、 Ｌ．Ｒａｂｉｎｅｒ著、「ア チュトリアル オン ハイデン マルコフ モデ ルス アンド セレクテッド アプリケーションズ イン スピーチ リコグニ ション」，プリシーディングス オブ ＩＥＥＥ，第７７巻，Ｎｏ２ １９８９ 年２月の第１図に示すように、以下の信号処理工程が通常用いられている。 特徴分析：音声入力信号をスペクトル及び／又は時間分析して特徴の代表ベク えば、６．６７ｋＨｚのレートでサンプルされる）され、例えば予備強調を適用 することにより予備処理される。順次のサンプルは、例えば３２ｍ秒の音声信号 に対応するフレームにグループ化される。順次のフレームは例えば１６ｍ秒で部 分的にオーバラップしている。しばしば、リニア プレディクティブ コーディ ング（ＬＰＣ）スペクトラル分析方法が用いられて各フレームについて特徴の代 ４、３２又は６３個の成分（特徴空間ディメンション）を有することができる。 ユニット整合システム：観測ベクトルは音声認識ユニットの目録に整合される。 種々の形態の音声認識ユニットを用いることができる。あるシステムは、単音、 二重音声又は音節、及びフェネン（ｆｅｎｅｎｅ）及びフェノン（ｆｅｎｏｎｅ ）のような派生的なユニットのような言語学的に基準化されたサブワードユニッ トを用いている。別のシステムは、ワード全体又はワードのグループをユニット として用いている。音声信号を確率的にモデル化するため所謂ハイデン マルコ フ モデル（ＨＭＭ）が広く用いられている。このモデルを用いると、各ユニッ トは、パラメータが音声データの連鎖する組から評価されるＨＭＭにより特徴化 される。例えば１００００から６００００ワードを含む大きな語彙音声認識シス テムの場合、より多くのユニットについてＨＭＭを適切にトレーニングするため に多数のトレーニングデータが必要であるので、制限された組の例えば４０個の サブワードユニットが通常用いられている。ユニット整合システムは観測ベクト ルを全ての音声認識ユニットのシーケンスに整合させ、ベクトルとシーケンスと の間の尤度を発生させている。例えば以下のようにして整合に制約を課すことが できる。 ・辞書的なデコーディング：サブワードユニットを用いる場合、発音語彙は、い かなるワードがサブワードユニットにより構成されるかを表示する。ユニット整 合システムにより検討したサブワードユニットの取りうるシーケンス辞書のシー ケンスに合わせる。 ・構文法分析：ユニット整合システムに制約を課し、検討した配列が、ワードを 構成し（辞書的デコーディング）ワードがワード文法により特定される適切な順 序にある音声ユニットに対応する配列となるようにする。 離散的なマルコフプロセスは、いかなる時においてもＮ個の識別される状態に ある組のシステムについて説明している。このシステムは、規則的な時間で状態 と関連する確率の組により状態を変更している。離散的なマルコフプロセスの特 別な形態が上記文献の第２図に示されている。この所謂左右モデルにおいて、状 態は左から右に続いている（又は同一にとどまる）。この方法は、信号の特性が 時間に対して変化する音声をモデル化するため広く用いられている。モデル状態 は音を表すものとして観測することができる。サブワードユニットとしてのモデ ルの状態の数は、例えば５又は６個とすることができる。この場合、平均的には 状態は観測期間に対応する。上記第２図のモデルの場合状態は同一にとどまるこ とができ、これはゆっくり話すことと関連する。或いは、状態をスキップするこ とができ、これは速く話すことと関連する（第２図において、平均速度の２倍） 。離散的なマルコフプロセスの出力は各時間瞬時の状態の組であり、各状態は観 測可能な事象に対応している。音声認識システムの場合、離散的なマルコフプロ セスのの概念は、観測が状態の確率関数となる場合まで拡張される。これにより 二重確率処理が生ずる。状態変化の確率処理は隠れており（隠れたマルコフモデ ル、ＨＭＭ）、観測順序を発生する確率処理だけを経て観測される。 音声の場合、観測は連続する信号を表す。この観測は、例えば３２から２５６ 個のベクトルから成る有限のアルファベットから選択される個別の記号に量子化 することができる。この場合、モデルの各状態について個別の確率密度を用いる ことができる。量子化と関連する劣化を回避するため、多くの音声認識システム は連続する混合密度を用いている。一般的に、この密度はガアウシアン密度（正 規分布）又はラプラシアン密度のような対数へこみ密度又は楕円対称密度から取 り出される。トレーニング中、トレーニングデータ（トレーニング観測シーケン ス）は初期モデルを用いて複数の状態にセグメント化される。これにより、各状 態に対してトレーニング観測ベクトル又は基準ベクトルと称される一組の観測が 与えられる。次に、各状態についての基準ベクトルがクラスタ化される。システ ムの複雑さ及びトレーニングデータの量に応じて、各状態について例えば３２か ら１２０個の要素クラスタが発生する。。各要素クラスタは基準確率密度と称す るそれ自身の確率密度を有する。状態についての混合密度は、状態についての基 準確率密度の重み付けされた和となる。 音声信号（観測シーケンス）から単一の音声認識ユニット（例えば、ワード又 はサブワードユニット）を認識するため、観測シーケンスを発生した各音声認識 ユニットについて尤度を計算する。最大尤度を有する音声認識を選択する。より 多くの観測シーケンスを認識するため、レベルを利用した試みが用いられる。第 １のレベルからスタートして前述した尤度を計算する。モデルの最後の状態に到 達した時より高いレベルに切り換え、残りの観測について同一の処理を繰り返す 。最後の観測が処理されると、最大尤度を有する経路が選択されこの経路を戻っ て含まれている音声認識ユニットのシーケンスが決定される。 尤度計算は、各状態においてその状態の各基準確率密度についての観測（特徴 ベクトル）の尤度を計算することを含んでいる。特に、例えば４０個のサブワー ドユニット、サブワード当たり５個の状態並びに状態当たり６４個のクラスタを 有する連続する観測密度ＨＭＭを用いる多くの語彙音声認識システムにおいて、 上記計算は例えば３２個の次元ベクトルについて１２８００個の尤度計算を含ん でいる。これらの計算は各観測ベクトルについて繰り返される。従って、この尤 度計算は、計算量全体の５０〜７５％を占めてしまう。 トリー構造を用いトリー検索を利用して基準確率密度を構築することにより尤 度計算に必要な時間の割合を低減することは、欧州特許出願公開第６２７ ７２ ６号から既知である。トリーの最下位レベル（レベル１）においてリーフノード の各々が実際の基準確率密度に対応する。前述したように、基準確率密度は基準 ベクトルの要素クラスタを表す。トリーのレベル２において、各非リーフノード はクラスタ確率密度に対応し、このクラスタ確率密度は非リーフノードよりも下 位のブランチのリーフノードに対応する全ての基準確率密度から取り出される。 このようなレベルとして２個の非リーフノードは基準ベクトルのクラスタを表す 。この階層的なクラスタ化は、トリーの最上位において１個の非リーフノード（ ルートノード）が全ての基準ベクトルを表すまで、順次高くなるレベルについて 繰り返す。パターン認識中に、各入力観測ベクトルについてトリー検索をルート ノードから１レベル下位のレベルから開始する。このレベルの各ノードについて 、対応するクラスタ確率密度を用いて観測ベクトルの尤度を計算する。最大の尤 度を有する１個又はそれ以上のノードを選択する。これらのノードについて同一 の処理を１レベル下位までで繰り返す。このようにして、最終的に対応する基準 確率密度を用いて観測ベクトルの尤度が計算された多数のノードを選択される。 選択されなかった各リーフノードについて、その尤度が最後に選択した親ノード の尤度により近似される。 本発明の目的は、冒頭部で述べた形式の方法及びシステムを改善することにあ る。 この目的を達成するため、本発明の方法は、各基準ユニットと関連する基準確 率密度を個別のトリー構造として表し、 前記配置が、各トリー構造について前記検索を行うことにより各個別のトリー 構造のリーフノードを選択することを含むことを特徴とする。 全ての基準ベクトルを１個のトリーに組み込む代わりに、各基準ユニット毎に 複数の個別のトリーを構築する。その結果、Ｎ１個の基準パターン（例えば、Ｈ ＭＭ）が存在し各々がＮ２個の基準ユニット（状態）を有する場合、Ｎ１×Ｎ２ 個のトリーが構築され各観測ベクトルについて検索が行われる。既知のシステム において基準確率密度の比較的少ない部分集合が選択された場合、素子クラスタ の対応する組は近い観測ベクトルである基準ベクトル（音声）により支配される 。本発明者は、選択されるのに十分近くないが尤度計算にある程度関連する基準 ベクトルの多数のグループを確立した。これは、１個の観測ベクトルについてこ のグループの基準ベクトルが極めて良好に整合していないが、この基準が表す基 準パターンが観測ベクトルの全体のシーケンスについて極めて良好に整合するこ とを意味する。従って、このグループの基準ベクトル間で識別できることが重要 である。既知のシステムにおいては、このグループの全ての基準ベクトルについ てその尤度は、尤度が計算された基準ベクトルの最下位のブランチの尤度により 近似されている。これは、同一の選択されなかったブランチの基準ベクトルによ り表される同様な音声を識別することができず、認識の低下が生じてしまう。本 発明者は、より正確な認識を行うためには別の識別方法が必要であるとの結論に 達した。これは、複数のトリーを用いることにより達成される。パターン全体を 認識する場合、各観測ベクトルについてＨＭＭ状態に整合させる観測の尤度を計 算する必要がある（及び全体の尤度は蓄積する必要がある）。これは、各状態に ついて少なくとも１個の基準確率密度が含まれる必要がある（好ましくは、この 基準確率密度がその状態についての最高の尤度を与える）ことを意味する。既知 のシステムにおいてこれを達成するためには、選択された集合を比較的大きくす る必要がある。本発明では、各状態毎に個別のトリーを用い、各状態に少なくと も１個の代表的な基準確率密度を含ませる。この結果、高精度の認識を行うため に必要な選択されたリーフの組が相当減少する。これにより、最大尤度計算に必 要な処理時間が短くなる。 本発明の別の形態として、本発明の方法は、トリー構造の非リーフノードを通 る検索が、トリー構造の少なくとも１個のレベルにおいて、前記クラスタ尤度の 最適値が計算される非リーフノードを通り、前記クラスタ尤度が前記最適のクラ スタ尤度の予め定めた範囲内にある非リーフノードを通る経路が形成されている 経路を検索することを含むことを特徴とする。トリーの各レベルにおいて、最高 の尤度を有する部分集合（観測ベクトルに最も近い）を決定する。別の部分集合 が最高の尤度と同様な尤度を有している場合（すなわち、最高の尤度と他の部分 集合の尤度との間の差異が閾値以下の場合、この別の部分集合についてさらに計 算する。このようにして、トリーのレベル１で最終的に選択された基準確率密度 の数がダイナミックに決定される。これは、ある観測ベクトルについて少ない数 の基準確率密度が比較的高い尤度を与える場合部分集合が小さくなる利点がある 。その場合、観測ベクトルに整合する少ない数の良好な候補だけが存在する場合 、一般的な認識が高速になる。一方、ある観測ベクトルについて多数の基準確率 密度が同様な比較的高い尤度を与える場合、部分集合が大きくなる。そのため、 観測ベクトルと整合する多数の良好な候補が存在する場合、一般的な認識一層識 別性が高くなり、精度が高くなる。 本発明の別の形態として、本発明の方法は、トリー構造を、各非リーフノード が４個のノードの最大よりも階層的に１レベル上位にされ、少なくとも１個の非 リーフノードが階層的に４個のノードよりも１レベル上位にされている四進トリ ーとしたことを特徴とする。原理的に、トリーの各非リーフノードに多数のブラ ンチを有するトリー構造を用いる場合、認識精度は改善される。この場合、クラ スタへの分割は一層正確になり選択されるべき正しいクラスタへの的中が一層高 くなる。一方、計算量は、ブランチの量が増大すると増大し、認識の性能が低下 する。本発明者は、典型的な大きな語彙音声認識システムについて４層トリーが 精度と性能との間で良好なバランスを発揮することを確立した。 本発明の別の形態として、本発明の方法は、非リーフノードを介するトリー構 造の検索を、トリー構造の同一のブランチ内の同一のレベルの一群の非リーフノ ードについて行い、 選択した非リーフノードの対について、２個の対応するクラスタ確率密度と前 記入力観測ベクトルとの間のクラスタ比較スコアを計算し、前記クラスタ確率密 度のスコアが２個の対応するクラスタ確率密度のいずれかが入力観測ベクトルｏ の最高の尤度を与えるかを指示し、 前記群の全ての非リーフノードについてクラスタ比較スコアが計算されるまで 、前記最高の尤度を指示する前に計算されたクラスタ比較スコアについての非リ ーフノード及びクラスタ比較スコアがまだ計算されていない前記群の非リーフノ ードについクラスタ比較スコアを計算し続け、 前記クラスタ比較スコアが最高の尤度を指示する非リーフノードを通る経路を 前記検索に含ませることを特徴とする。 本発明の別の形態として、本発明の方法は、既知の入力パターンを表す一連の トレーニング観測ベクトルから前記確率密度が取り出され、前記基準確率密度の 組をトレーニング構造として表す工程が、前記トレーニング観測ベクトルをクラ スタの体系的な組にクラスタ化すること、及び各クラスタについてクラスタ確率 密度を計算することを含む方法において、 前記一連のトレーニング観測ベクトルを、対応する基準パターン及び対応する 基準ユニット列にセグメント化し、 反復し、 各基準ユニットについて、対応するトレーニング観測ベクトルをクラスタの体 系的な組にクラスタ化して、各々が個別の基準ユニットに対応する独立したトレ ーニング構造を形成し、 前記基準ユニット列に基いて前記トレーニング観測ベクトル列を時間整合させ 、 各トレーニング観測ベクトルについて、予め定めた最適基準に基づいて最も類 似する対応する基準ユニットを決定し、 最適なクラスタ尤度を有するクラスタについて対応する基準ユニットのトレー ニング構造を検索することにより、前記クラスタに各トレーニング観測ベクトル を割り当てることを特徴とする。 トレーニング期間中にクラスタ化を行い、密度パラメータを評価すると共にト レーニング観測ベクトルを基準ユニットに割り当てる。これらの操作は反復する ように行う。本発明では、このようにして各基準ユニットについて個別のトレー ニングを構築する。本発明者は、トリー構築作業を反復処理お一体化することに よりパターン認識の精度を改善することを確立した。さらに、トレーニング観測 ベクトルは反復中に基準ユニットに再割当てされ、従って適切なクラスタに再割 当てされるので、トリーの部分構築を利用して最適なクラスタを決定することに よりシステムのトレーニングに必要な時間が大幅に減少することが判明した。 本発明の目的を達成するため、本発明のシステムは、トリービィルダが、各基 準ユニットについて関連する基準確率密度を個別のトリー構造として表すものと して想定され、 前記基準パターンデータベースが、各基準ユニットについて前記個別のトリー 構造をさらに記憶し、 前記配置が、各個別のトリー構造についての検索を行うことにより各個別のト リー構造のリーフノードを選択することを含むことを特徴とする。 以下図面を参照して本発明を詳細に説明する。 以下添付図面に基づき本発明を説明する。 図１は連続する音声認識に通常用いられる処理工程を示す。 図２は左右離散的なマルコフ処理の一例を示す。 図３は本発明によるシステムの一実施例のブロック線図である。 図４はトリー構成された確率密度を示す。 図５は４個のリーフを有する二進トリーの２次元セル境界を示す。 図６は反復連鎖処理のフロー線図を示す。 図３は、音声又は画像のような連続する物理量から取り出した時間順次する入 力パターン２０を認識する本発明によるシステム１０のブロック線図を示す。入 力手段３０は物理量を繰り返しアクセスする。音声の場合、これは、６．６７ｋ Ｈｚ又は１６ｋＨｚのような規則的な時間期間で物理量をサンプリングすること 及びサンプルをディジタル化することを含む。この入力手段３０は例えば音声信 号の３２ｍ秒に対応する連続的なサンプル群を処理して特徴の代表ベクトル（入 ベクトルの時間シーケンスが発生する。典型的には、入力手段３０はマイクロホ ン、Ａ／Ｄ変換器及びディジタル シグナル プロセッサ（ＤＳＰ）のようなプ ロセッサを用いて構成することができる。選択的に、入力手段３０は、音声が受 信された時だけサンプリングを行う音声検出器で構成することができる。入力信 号をサンプリングしディジタル化する変形例として、音声信号をディジタル化さ れた形態でメモリに記憶し又は通信ネットワークを介してディジタルで供給する ことができる。基準パターンデータベース４０用いて基準パターンを記憶する。 この基準パターンデータベース４０はハードディスク、ＲＯＭ又はＹＡＭのよう なメモリに一体化されたデータベースとして又は個別のデータファイルとして記 憶することができる。前述したように、音声認識ユニットは音声を認識する基準 パターンとして用いる。各基準パターンは一連の基準ユニットを含むことができ る。各基準ユニットは少なくとも１個の基準確率密度により代表される。ハイデ ン マルコフ モデルに基づくパターン認識を用いれば、各基準パターンはハイ デン マルコフ モデルによりモデル化され、このモデルの状態は基準ユニット に対応する。連続観測密度を用いることにより、基準確率密度は通常ガウシアン 密度又はラプラシアン密度となる。勿論、ハイデン マルコフ モデルを用いて 言葉の前又は言葉の間に生ずる無音のパターンのような鮮明な時間順次挙動を有 しない特別なパターンをモデル化することは既知である。本発明の目的のために は、このようなパターンを別個に表すものではない。このようなパターンを本発 明のシステムにいかにして一体化するかは当業者にとって明らかなる。 このシステム１０はさらに、基準ユニットに対応する基準確率密度をトリー構 造として構成するトリービィルダ６０も具える。これは各基準ユニット毎に繰り 返す。このトリー構造は基準パターンデータベース４０に記憶する。トリー構造 の各リーフのノードは基準確率密度に対応する。このトリー構造の詳細及びその 構築は後述することにする。トリービィルダはＤＳＰ又はマイクロプロセッサを 用いて構成することができる。有益なものとし、トリーはシステムのトレーニン グ中に予め構築する。 このシステムはさらに、入力パターンに対応する基準パターンを基準パターン データベースに配置するロキャライザ５０も具える。ロキャライザ５０はＤＳＰ 又はマイクロプロセッサを用いて構成することができる。配置された基準パター ンは認識された基準パターンとして参照される。ロキャライザ５０は、最下位の トリーレベルにおいて多数のリーフノードが選択されるまで基準ユニットに対応 するトリー構造を各観測ベクトル毎にサーチすることにより配置を行うことがで きる。選択されたリーフノードについて、ロキャライザ５０は、この基準ユニッ トに観測ベクトルがいかに良好に整合するかを決定する。この決定は、各選択さ れたリーフノードについて、基準確率密度を用いてこのリーフノードにどれが対 応しているを決定して観測ベクトルについての観測の尤度を計算することを含む 。各基準ユニットについて、ある観測ベクトルについて計算された観測尤度を組 み合わせて基準ユニット類似スコアを与える。各基準パターンについて、基準ユ ニットの基準パターンに対応する基準ユニット類似スコアを組み合わせてパター ン類似スコアを形成する。これは、順次の観測ベクトルについて繰り返す。パタ ーン類似スコアについて最高尤度のような最良のものが計算された基準パターン を認識されたパターンとして配置する。この説明は基準確率密度の配置及び観測 可能性の計算に焦点を合わせている。この分野において、この鍵となる要素が、 ハイデン マルコフ モデルのような他の技術との関連においてどのように用い て連続する物理量から取り出された時間順次パターンを認識できるかは良好に理 解される。この分野において、レベル化された試みのような技術を用いて基準パ ターンよりも大きな観測ベクトルシーケンスを有するパターンをいかにして認識 するかも良好に理解される。例えば、サブワードユニットを基準パターンとして いかに用いてワード又は文章全体を認識するかは既知である。発音語義及び文法 のような別の拘束がどのようにパターン認識に課されるかも良好に理解される。 発音語義のような別の情報は基準パターンデータベースを記憶するために用いた メモリと同一のメモリを用いて記憶することができる。 出力手段７０を用いて認識されたパターンを出力する。この出力手段は、認識 されたパターンをスクリーン上にテキストフォーマットとして表示し、認識され たパターンをメモリに記憶し、又は認識されたパターンをコマンドのような入力 して用いて次の処理動作を行うような種々の形態をとることができる ハイデン マルコフ モデルを用いる場合、各ハイデン マルコフ モデル及 ここで、ｗ_kはｋ番目の観測混合密度（クラスタ）の重みであり、Ｎは状態に対 するクラスタの番号である。簡単にするため、状態インデックスｓは上記式中に 表示されていない。音声認識装置は通常ラプラシァン又はガウシャン確率密度を 用いてクラスタの確率分布をモデル化する。Ｌ_r基準を用いると、以下のように 規定されている。 ここで、ラプラシァン確率密度のためにＬ₁基準を用い、ガウシャン確率密度の ためにＬ₂基準を用い、確率について取り得る式として次式が与えられる。 れるようにする。Ｌ_r基準以外の他の距離測定を用いることもできる。上記式に 対して種々の形態のもの又は展開したものが既知である。一例として、以下の３ 個の型式の多重変形ガウシャン密度が与えられる。 この式において、ｓはハイデン マルコフ モデル状態に対するインデックスで あり、ｋはこの状態内の密度（基準ベクトル）に対するインデックスである。 スケーリングを用いて、項がプロセッサの精度範囲以下となるのを防止し密度 変数によるベクトルを正規化することができる。有益なものとして、ダイアゴナ ル共変マトリックスをこれらが結合されるように用いれば（状態依存共変マトリ ックスＫ_s,k＝Ｋ_s、又はグランド共変マトリックスＫ_s,k＝Ｋとなるように） ことになる。スケーリングはこの技術分野において周知である。有益なものとし て、基準ベクトルは予めスケール化され、観測ベクトルは実際の確率計算が開始 する前に１回スケール化されるだけである。 密度の性質により、確率の和は最大値により、すなわち最も確率に寄与する密 度により近似することができる。これは、入力パターンに対応する基準パターン の配置における重要な工程は、最も近い観測ベクトルである基準ベクトルを見い 出すことである（最も近い隣接する検索）。ここで、‘距離’は尤度の負の対数 として規定される。 負の対数をとることにより、この式は以下のようになる。 多重変数ガウシャン密度の場合、この式は以下のようになる。 トリー構造 例えば４０個のサブワードユニットを用いる場合、サブワードユニット当たり の５個の状態及び状態当たりの６４個の要素クラスタ（各々が関連する基準確率 により表わされる）は、例えば３２個の次元ベクトルを含む１２８００個の尤度 計算を意味する。これらの計算は各観測毎に繰り返す。全ての尤度を計算する代 わりに、トリー構造を用いて尤度が全て計算される基準確率密度の部分集合を選 択する。トリー構造は各状態毎に構築する。本例では、これは２００個（４０× ５）のトリーを含み、各トリーは状態において混合密度を形成する６４個の基準 確率密度をそれぞれ有する。Ｎ個の要素クラス及び関連する基準確率密度（例え ば、Ｎは３２，６４，１２８又は２５６とする）はこの機能ベクトル空間をＮ個 のセルに分割する（実際には、密度変数が多数変化する場合、Ｎ個以上のセルが 存在することがある。式はこれをそれとなく処理する。）後で詳細に説明するよ うに、基準確率密度はトレーニング観測ベクトルから取り出される。基準確率密 度は複数のトレーニング観測ベクトル及び１個だけのトレーニング観測ベクトル の要素クラスタを表わす。トレーニング観測ベクトルが１個だけしか含まれない 場合、これは要素クラスタと称する。 Ｎ個のセルはＬレベルを有するＢ項トリー構造に構築する。Ｂは各ノードにお ける最大数のブランチを示す。有益なこととして、Ｎ^Lの場合、完全に平衡した トリーが用いられる。実際には、トレーニング中あるクラスタ及び関連する確率 密度陳腐化したものとするおそれがある。結果として、トリーのあるリーフ又は ブランチはこのトリーから除去される。トップレベルＬにおいて、ルートフード はセルの全体の集合を表わす。これらのセルはＢ個の部分集合（クラスタとも称 する）に分割され、各部分集合はＮ／Ｂ個のセル（又は、ＮがＢの累乗でない場 合、それ以下）を有する。各クラスタはレベルＬ−１の中間ノード（リーフノー ドではない）により表される。その順序でこれらクラスタの各々は再びＢ個の部 分集合（あるブランチが陳腐化した場合それ以下）に分割され、各部分集合はレ ベルＬ−２の中間ノードにより表される。この部分集合への分割は、トレーニン グ観測ベクトルの１個の要素クラスタを表す最低レベル（レベル１）になるまで 繰り返す。各要素クラスタと関連するものは、トレーニング観測ベクトルから取 り出された基準確率密度である。ガウシアン密度を用いれば、各基準確率密度は を用いる）。トリーのレベル２又はこれよりも高いレベルのノードに対応するク ラスタはクラスタ確率密度と関連する。このクラスタ確率密度は全ての要素クラ スタを表し、これら要素クラスタはノードの下のブランチに存在する。このよう に、クラスタ確率密度は要素クラスタと関連する基準確率密度から取り出すこと ができる。 度の混合を示す。トリーのレベル１のリーフノードｄ₁₆....ｄ₃₁の各々は基準確 率密度及び関連する要素クラスタに対応する。レベル２の中間ノードｄ₈...ｄ₁₅ はそれぞれ２個のサブクラスタを有するクラスタを表す。一例として、ノードｄ₈ ノードｄ₁₆及びｄ₁₇の親ノードである。このノードｄ₈はｄ₁₆及びｄ₁₇により表 される２個のクラスタのトレーニング観測ベクトルをを有するクラスタを表す。 のクラスタ確率密度はｄ₁₆及びｄ₁₇により表される２個の基準確率密度から取り 出される。同様に、ｄ₄はｄ₈及びｄ₉により表される２個のトレーニング観測ベ クトルをを有するクラスタを表し、従って、ｄ₄はｄ₁₆、ｄ₁₇、ｄ₁₈及びｄ₁₉に より表される４個のクラスタのトレーニング観測ベクトルをを有するクラスタ は、以下の方法で重み付けされた平均を計算することにより基準確率密度の平均 ここで、Ｍ₁は、ノードｄ_iにより表わされる部分集合中の基準ベクトルの数で は以下の式で与えられる。 トリーの構築 各状態について、確率密度の混合を音響トレーニング中に決定する。トレーニ ングデータ（トレーニング観測ベクトル又は基準ベクトル）の初期設定を用いて いかにして適切なモデルを構成するか（例えば、基準ユニットのシーケンスを決 定する）及びパターン認識用の観測ベクトルを如何にして形成するかは周知であ る。各クラスタは平均ベクトル及び分散により表わされるクラスタ確率密度と関 連する。また、トレーニングを利用してすでにトレーニングされたシステムをど のように改善するかも既知である。典型的なものとして、周知のｋ手段クラスタ 法を用いてトレーニング観測ベクトルを集合させる。Ｌ．ラビナ“ファンダメン タルズ オブ スピーチ リコグニション”プレンティス ホール、セクション ３．４．４を参照されたい。有益なことに、このクラスタ法は、クラスタ形成を 記憶することにより（各クラスタ毎に、１レベル低いどの子クラスを含むか）ト リー構造を構築するように構成されている。このように、トレーニング中に各状 態についてトリー構造が構築される。一例として、二進トリー構造は以下のよう にして構成することができる。 クトルの平均である。 び分散）を決定することにより、上記密度を２個の密度に分割する。ここで ３．各トレーニング観測ベクトルについて、２個の密度のうちいずれの密度がト レーニング観測ベクトルに類似しているかを決定し、この密度にトレーニング観 測ベクトルを割り当てている。このようにして、２個のクラスタが形成される。 ４．２個のクラスの密度（重心及び分散を再計算する。） ５．繰り返し：顕著な改善に達しない場合又は予め定めた数の反復を行なった場 合のような停止基準に達するまで工程３及び４を繰り返す。 ６．繰り返し：所望の数のトリーレベルに到達するまで、トリー中の１レベル低 い各クラスタについて工程２〜５を繰り返す。 工程６おいて、２個のクラスタ間で決定された境界をより低いレベルに維持する ことにより（トリーのブランチに割り当てられたベクトルが、１レベル低いサブ クラスタの形成中に再割当てされない）、二進トリーが構成される。このトリー レベルを除外することにより、４元トリーのような２の累乗のブランチ因子を有 する別のトリー構造を構成することができる。工程２の分割を適切に変化させる ことにより別のブランチ因子を有するトリーをどのようにして構成するかは明ら かである。クラスタ化の説明はプールされた共変マトリックスに集中する。別の 共変マトリックスを有する密度を用いていかにしてクラスタ化するかは周知であ る。トリー検索 トリー検索は、ルートノードよりも低いレベル（レベルＬ−１）で開始し、レ ベル１の少なくとも１個の基準確率密度（及び対応する要素クラスタ）が配置さ れるまで行う。レベルＬ−１の非リーフノードについて、非リーフノードにより 非リーフノードに対応するクラスタ確率密度を用いて計算する。一例として、密 率密度を表す平均ベクトルをとる。最も大きな尤度が得られたブランチを選択さ れるまで検索する。或いは、規定された基準に基いて１個以上のブランチを選択 することができる。選択されたブランチの１レベル低いものついて同一の処理を 繰り返す。このようにして、トリーの２個のレベルにおいて少なくとも１個の基 準確率密度の部分集合が配置される。配置された部分集合について、観測ベクト 、実際のパターン認識の場合、計算された尤度は維持され、基準パターン毎に組 み合わされると共に次の観測ベクトルについて計算された尤度と結合される。検 索中トリーのトップレベルは用いられないので、このトリーは少なくとも３個の レベルを有する。全体がバランスしたトリーについてこの検索手法を用いれば、 検査するためにＬ＝ｌｏｇ_B（Ｎ）の全部が必要となり、各トリーレベルについ てＢ尤度計算が必要となる。トリーの各レベルにおいて１個のブランチが選択さ れれば、選択されたブランチはトリーを通過するための付加的なオーバヘッドと 共にＢｌｏｇ_B（Ｎ）計算全体を与える。これは、全てのＮ個のセルの尤度を計 算することに匹敵する。トリー検索の欠点は、観測ベクトルについて最も高い尤 度を与える基準確率密度が常時配置されることが保証されないことである（平均 的中割合は１００％以下である）。これを図５に示し、図５は４個のリーフ（ｄ₄ 〜ｄ₇）を有する二進トリーについてのセル境界の２次元例を与える。この図５ は、トップレベル（レベル３）及びレベル２でのクラスタ化の結果として達成さ れたセル境界を示す。このクラスタ化は、太いラインにより示すセル境界により 分離された４個のセルを与える。セルへの最良の分割はトップレベル境界から部 分的に偏位した細いラインにより示される（このトリーの第２レベルでの割当て は正確である）。 この方法をフィリップス タイムテーブル 情報システムＡＩＳで試験した。 この話者独立認識システムは４０個のハイデン マルコフ モデルを用い。これ らのモデルは６個の状態を用いて文脈に依存しない音素をそれぞれモデル化する 。連続混合密度を用いる。認識辞書は１８５０個のエントリを有する。トレーニ ング及び試験はドイツ語の実生活の連鎖スケジュール照合で構成する（電話回線 で記録した自然発声）。このシステムは７．３時間の音声（そのうち４７％は無 音としてラベル化されている）を表す８７９３個の発声について照準した。この 試験は全体とし７０７８個発声語になる２２７８個の発声（１．５時間の音声） で構成され、その２２４個は用語の範囲外である。以下のテーブルは、６４個の リーフを有するトリー（６分割）を用いて達成された結果を示す。４０個のハイ デン マルコフ モデル全部を用いて４０個のサブワードユニットをモデル化し た。各モデルは６個の状態を有する。６個の状態について、３個の異なる混合を 用い、２個の順次の状態は同一の状態を占める（状態１及び２、状態３及び４、 状態５及び６）。各混合は６４個の密度で構成される。付加的に、１個の状態だ けを有する特別のモデルを用いて無音をモデル化した。これは、原理的に（４０ ×３＋１）×６４＝７７４４個の密度を与える。トレーニング中数個の密度は廃 語として識別され、トリーから一掃され実際には全体として約７６００個の密度 を用いた。このテーブルは、二進トリーを与えるＢ＝２から平坦なトリーを与え るＢ＝６４の範囲の種々のブランチィング因子について達成された結果を示し、 これは有効な全体の検索である。トリー中の各レベルにおいて１個のブランチだ けを選択した。 このテーブルにおいて、Ｎ_effはこのモデルの各状態について平均的に計算され た距離の数を示す。勿論、トレーニング中に数個の基準ベクトルが一掃されたの で、Ｎ_effは平均として全トリーの数よりも僅かに小さくなり、それぞれ１２、 １２、１６、２０及び６４である。この的中確率は、全検索及びトリー検索が同 一の基準ベクトルを観測ベクトルに最も近いものとして配置する時間割合を示す 。ワート エラー レート（ＷＥＲ）は発声された語のが正しく認識されなかっ た時間割合を示す。これは、置換（ある語を別の語として誤って認識すること） 、挿入（長い語を短い語の列と誤って識別すること）及び削除（短い語の列を長 い語として誤って識別すること）を含む。 種々の形式のトリーについて、以下の計算作業が必要である。 結果として、二進トリーに必要な計算作業は四進トリーについて必要な計算作業 と同一である。前記テーブルは、四進トリーが二進トリーよりも良好な結果を与 えることを示している（四進トリーはブランチィングレベルが低く、全体として より長い距離の計算が生じ、より高い精度の結果が与えられる）。従って、四進 トリー構造を用いることが有益である。勿論、より多くのブランチを有するトリ ー構造を用いることにより、一層良好な結果が与えられる。一方、計算の増大に より、多くのブランチの代わりにより多くのノードを有する四進トリーを用いる のが有益である。これを以下のテーブルに図示する。 このテーブルは、より多くの密度を用いることにより一層良好な結果（ワード エラー レートがより低くなる）が得られることを示す。四進トリー（Ｂ＝４） を用いる１２８個及び２５６個のノードについての結果をＢ＝８で６４個のノー ドを有するトリーを用いることにより得られた結果（前記テーブル）と比較する ことにより、より多くの密度を用いる四進トリーはより少ないか又は同一の計算 作業で一層良好な結果が得られること明らかである。 このテーブルは、密度の数が少なくなると的中確率が低くなることも示してい る。的中確率は、トリーの数個又は全てのレベルにおいて丁度１個のブランチを 選択することにより改善することができる。これを実行する１の方法は、例えば 四進トリーにおいて各レベルにおいて２個のブランチを選択することである。６ ４個のリーフを有する四進トリーの場合、この方法は各レベルで１個だけのブラ ンチが選択された場合の１２個の計算に匹敵する２８個の計算を必要とする。ト リーのあるレベルにおいて４個のブランチのうちの１個のブランチが観測ベクト ルについて他の３個のブランチドよりも高い尤度を与える場合、最も高い尤度を 与える基準確率密度がそのブランチの一員であると想定する。他方において、１ 個以上のブランチのグループが観測ベクトルについて同様な又はより高い尤度を 与える場合、ブランチを１個だけを選択することは誤った決定をするおそれがあ る。 従って、別の実施例においては閾値Ｔを用いる。トリーの各レベルにおいて、 最も高い尤度を与えるクラスタ確率密度を有するノード選択する。最良のノード の対数尤度と第２の最良のノードとの間の差異が閾値Ｔよりも低い場合、第２の 最良のノードをさらに検索する。この方法は、以下のテーブルに示すように、種 々のＴ値について試験した。 このテーブルは、６４個のリーフを有するトリー及び２５６個のリーフを有する トリーについての結果を示す。各トリーについて、第１の行は全検索を用いる（ 閾値を用いない）結果を示す。Ｔ＝０のこの行は各レベルにおいてブランチが１ 個だけ選択された場合の結果を与える。より高い閾値の場合、モデル（Ｎ_EFF） の各状態について実際に計算された距離の数により表されるように、あるレベル において２個のブランチが選択されたときの尤度は増大する。特に、２５６個の リーフのような大きなトリーの場合、精度が低下することなく性能が顕著に増大 する。当業者は、このシステムについて最も適切な閾値を選択することができる 。必要な場合、この閾値機構を用いて２個以上のブランチを選択することができ る。 中間レベルにおいて、観測のクラスタ尤度は、リーフノードにより表される基 準確率密度についてだけ実行される実際の尤度計算については実際には用いられ ない。中間レベルにおいて、どのクラスタ確率密度が観測ベクトルに対して最高 の尤度を与えるかを知ることだけが必要であり、実際の尤度がどれであるかは必 要ではない。 ユークリッド基準（Ｌ₂−基準）を用いるガウシャン密度の場合、主としてベ クトルスカラ積の計算（内積又はドット積とも称する）簡単な計算を用いてどの クラスタ確率密度が最高の尤度を与えるかを決定することができる。ガウシャン 密度当たり単一のスカラー拡散だけを有するガウシャン密度を用いることにより 、 Ｋ_s,k＝Ｉ・σ_s,k ² 式（ａ）は以下の式となる。 規定することにより、 この式において、最初の４つの項は例えばトレーニング中に１回で計算すること ができる。５番目の項について、第１の因子も１度で計算することができる。第 要があり、全ての基準ベクトルについて用いることができる。最後の項はベクト ルスカラー積であり、各観測ベクトル及び各基準ベクトルについて計算する必要 に対してクラスタ確率密度２よりも高い尤度を与えるが決定される。次に、この 最高の尤度を与えたクラスタ確率密度をクラスタ確率密度３と比較する。トリー のこのレベルの全てのクラスタ確率密度が試験されるまで、これを繰り返えす。 計算についてクラスタ確率密度が選択される順序は重要ではない。ガウシャン密 度についての共変マトリックスが全ての混合密度に対して結合される場合、すな わち、ｓをハイデン マルコフ モデルの状態とし、ｋがこの状態の密度を示す 場合に、共変マトリックスＫ_s,k＝Ｋ_sとなる場合、同様な技術を適用することが できる。この結果、トリーの異なるブランチにより表わされるクラスタ間の境界 は起平面となる。式（ａ）は以下のようになる。 規定することにより、 以下のようになる。 一般的には、 及びＫ^-1は対称マトリックであるので、これにより この式において、項１，３及び４は例えばトレーニング中に１度で計算すること ことを意味する。トレーニング中のトリーの検索 トレーニング中にハイデン マルコフ モデルの未知のパラメータが評価され る。これは、基準ユニット（状態）の未知のシケンス及び未知のモデルパラメー タ（混合密度パラメータ）の評価を含む。図６は典型的なトレーニングプロセス を示す。音声認識に用いられる音響分析の同一の工程を用いてトレーニング発声 をトレーニング観測ベクトルの時間シーケンスに変換する。反復処理において、 状態及びモデルパラメータに対するトレーニング観測ベクトルの時間整合を改善 する。反復の各ループにおいて、その瞬時に構成されたモデルを用いてトレーニ ング観測ベクトルを時間整合させるし。この処理をいかに行うかは既知であり、 例えばビッタビアルゴリズムを用いて処理することができる。このビッタビアル ゴリズムは観測ベクトルの所定のシーケンスに対する最良の状態シーケンスを決 定する。時間整合の結果として、各トレーニング観測ベクトルは状態及びその混 合密度に割り当てられる。次に、各混合密度の観測ベクトル集めて（クラスタ化 ）密度の再評価に用いる。上述したｋ手段クラスタ化法をこのために用いること ができる。明らかなように、時間整合により数個の観測ベクトルは別の状態及び 混合密度に割当てられる。同時にトリーのあるレベルが構築されるので（クラス タ化の一部として）、再割当てが既に行われたクラスタ化及びトリーの構築に影 響を与える。トリーのトップレベルでの取消からクラスタ化を再開始する代わり に、上述したトリー検索を用いてトレーニング観測ベクトルのクラスタへの予備 割当てを行うことが有益である。これは、１回多い反復レベルとしクラスタ化処 理と一体化することができる。一例として、二進トリー構造を以下のようにして 構築する（以下の処理は各状態について並列して行う）。 のトレーニング観測ベクトルの平均である。 ２．各トレーニング観測ベクトルについて最適な状態を決定することにより、こ のシステムをについて時間整合を行う。 ３．混合密度を再計算する。 ４．反復、顕著な改善がされず又は予め定めた回数の反復が行われた場合のよう な停止基準に達するまで工程２及び３を繰り返す。 定することにより、混合密度を２個の混合密度（１レベル下位）に分割する る（２個の新しい密度の変数は元の密度から複写する）。 ６．各観測ベクトルについての２個の混合密度のどちらがこのベクトルに近いか を決定し、この観測ベクトルにその密度を割り当てる。このようにして２個のク ラスタが形成される。 ７．２個のクラスタの混合密度（重心及び拡散）を再計算する。 ８．反復、顕著な改善がされず又は予め定めた回数の反復が行われた場合のよう な停止基準に達するまで工程６及び７を繰り返す。 ９．各トレーニング観測ベクトルについて最適な状態を決定することにより、こ のシステムを時間整合させる。 １０．トリー検索アルゴリズムを用いて各トレーニングベクトルを現在構築され ようとするトレーニングレベルのクラスタに割り当てる。 １１．現在のトリーレベルから上向きに開始して全ての混合密度を再計算する。 １２．反復、顕著な改善がされず又は予め定めた回数の反復が行われた場合のよ うな停止基準に達するまで工程１０及び１１を繰り返す。 １３．反復、顕著な改善がされず又は予め定めた回数の反復が行われた場合のよ うな停止基準に達するまで工程９を繰り返す。 １４．所望のトリーレベルの数に到達するまで、現在最下位のレベル（安定して いる）の各混合密度について工程５を繰り返す。 図６の反復の開始点のように、これらトレーニングセンテンス（観測順序）の各 々は、可能な場合には線形に又は古いモデルを用いて複数の状態に手動で又は自 動的にセグメント化することができる。 トレーニング中にトリー検索を用いることにより、このシステムのトレーニン グに必要な時間が大幅に減少する。２９０００個の密度の最大分解能で動作する ＡＩＳシステムにおいて、トレーニング時間が１０８時間から２５時間に減少し た。勿論、これは認識低下につながる。以下のテーブルは、高い分解能のシステ ムよりも影響を受ける低い分解能のシステム（トリー当たり１６個のリーフ、全 部で１９００個の密度）の場合相対損失が約２％であることを示している。

Claims (1)

1. 【特許請求の範囲】 １．物理量をアクセスし、この物理量から入力パターンを表す一連の入力観測ベ クトルを発生させ、 複数の基準パターン中に入力パターンと対応する認識された基準パターンを 配置し、少なくとも１個の基準パターンを一連の基準ユニットとし、各基準ユニ ットを基準確率密度の組中の少なくとも１個の関連する基準確率密度で表し、 基準確率密度の選択をトリー構造として表し、このトリー構造において各リ ーフノードが基準確率密度に対応すると共に非リーフノードがクラスタ確率密度 に対応し、クラスタ確率密度は前記非リーフノードのブランチのリーフノードに 対応する基準確率密度から取り出され、 前記トリー構造について、対応するクラスタ確率密度が前記入力観測ベクト とにより複数のリーフノードを選択し、 選択されたリーフノードに対応する各基準確率密度について前記入力観測ベ 認識するに当たり、 各基準ユニットと関連する基準確率密度を個別のトリー構造として表し、 前記配置が、各トリー構造について前記検索を行うことにより各個別のトリ ー構造のリーフノードを選択することを含むことを特徴とする方法。 ２．請求項１に記載の方法において、前記トリー構造の非リーフノードを通る検 索が、トリー構造の少なくとも１個のレベルにおいて、前記クラスタ尤度の最適 値が計算される非リーフノードを通り、前記クラスタ尤度が前記最適のクラスタ 尤度の予め定めた範囲内にある非リーフノードを通る経路が形成されている経路 を検索することを含むことを特徴とする方法。 ３．請求項１又は２に記載の方法において、前記トリー構造を、各非リーフノー ドが４個のノードの最大よりも階層的に１レベル上位にされ、少なくとも１個 の非リーフノードが階層的に４個のノードよりも１レベル上位にされている四進 トリーとしたことを特徴とする方法。 ４．請求項１、２又は３に記載の方法において、前記非リーフノードを介するト リー構造の検索を、トリー構造の同一のブランチ内の同一のレベルの一群の非リ ーフノードについて行い、 選択した非リーフノードの対について、２個の対応するクラスタ確率密度と 前記入力観測ベクトルとの間のクラスタ比較スコアを計算し、前記クラスタ確率 密度のスコアが２個の対応するクラスタ確率密度のいずれが入力観測ベクト 前記群の全ての非リーフノードについてクラスタ比較スコアが計算されるま で、前記最高の尤度を指示する前に計算されたクラスタ比較スコアについての非 リーフノード及びクラスタ比較スコアがまだ計算されていない前記群の非リーフ ノードについクラスタ比較スコアを計算し続け、 前記クラスタ比較スコアが最高の尤度を指示する非リーフノードを通る経路 を前記検索に含ませることを特徴とする方法。 ５．既知の入力パターンを表す一連のトレーニング観測ベクトルから前記確率密 度が取り出され、前記基準確率密度の組をトレーニング構造として表す工程が、 前記トレーニング観測ベクトルをクラスタの体系的な組にクラスタ化すること、 及び各クラスタについてクラスタ確率密度を計算することを含む請求項１、２、 ３、４又は５に記載の方法において、 前記一連のトレーニング観測ベクトルを、対応する基準パターン及び対応す る基準ユニット列にセグメント化し、 反復し、 各基準ユニットについて、対応するトレーニング観測ベクトルをクラスタの 体系的な組にクラスタ化して、各々が個別の基準ユニットに対応する独立したト レーニング構造を形成し、 前記基準ユニット列に基いて前記トレーニング観測ベクトル列を時間整合さ せ、 各トレーニング観測ベクトルについて、予め定めた最適基準に基づいて最も 類似する対応する基準ユニットを決定し、 最適なクラスタ尤度を有するクラスタについて対応する基準ユニットのトレ ーニング構造を検索することにより、前記クラスタに各トレーニング観測ベクト ルを割り当てることを特徴とする方法。 ６．連続する物理量から取り出した時間順次する入力パターンを認識するシステ ムであって、 物理量をアクセスし、入力パターンを表す入力観測ベクトル列を発生させる 入力手段と、 基準確率の組から基準確率密度の選択をトリー構造として表すトリービィル ダであって、前記トリー構造において各リーフノードが基準確率密度に対応し、 各非リーフノードがクラスタ確率密度に対応し、このクラスタ確率密度が非リー フノードよりも下位のブランチのリーフノードに対応する全ての基準確率密度か ら取り出されるトリービィルダと、 複数の機器状態パターンを記憶する基準パターンデータベースであって、少 なくとも１個の基準パターンが基準ユニット列とされ、各基準ユニットが基準確 率密度の組の少なくとも１個の関連する基準確率密度により表され、前記基準確 率密度の選択がトリー構造として記憶される基準パターンデータベースと、 前記認識された入力パターンに対応する認識された基準パターンを前記基準 パターンデータベースに記憶されている基準パターン中に配置するロキャライ タ尤度を与える非リーフノードを経て前記トリー構造を検索することにより複数 のリーフノードを選択する選択手段と、 選択したリーフノードに対応する活基準確率密度について前記入力観測ベク 前記認識されたパターンを出力する出力手段とを具える時間順次する入力パ ターンを認識するシステムにおいて、 前記トリービィルダが、各基準ユニットについて関連する基準確率密度を個 別のトリー構造として表すものとして想定され、 前記基準パターンデータベースが、各基準ユニットについて前記個別のトリ ー構造をさらに記憶し、 前記配置が、各個別のトリー構造についての検索を行うことにより各個別の トリー構造のリーフノードを選択することを含むことを特徴とする時間順次する 入力パターンを認識するシステム。 ７．請求項６に記載のシステムにおいて、前記トリー構造の非リーフノードを通 る検索が、トリー構造の少なくとも１個のレベルにおいて、前記クラスタ尤度の 最適値が計算される非リーフノードを通り、前記クラスタ尤度が前記最適のクラ スタ尤度の予め定めた範囲内にある非リーフノードを通る経路が形成されている 経路を検索することを含むことを特徴とするシステム。 ８．請求項６又は７に記載のシステムにおいて、前記トリー構造を、各非リーフ ノードが階層的に４個のノードの最大よりも上位の１個レベルにされ、少なくと も１個の非リーフノードが階層的に４個のノードよりも上位の１個のレベルにさ れている四進トリーとしたことを特徴とする方法。 ９．請求項６、７又は８に記載のシステムにおいて、前記非リーフノードを通る トリー構造の検索を、トリー構造の同一のブランチ内の同一のレベルの一群の非 リーフノードについて行い、 選択した非リーフノードの対について、２個の対応するクラスタ確率密度と 前記入力観測ベクトルとの間のクラスタ比較スコアを計算し、前記クラスタ確率 密度のスコアが２個の対応するクラスタ確率密度のいずれが入力観測ベクト 前記群の全ての非リーフノードについてクラスタ比較スコアが計算されるま で、前記最高の尤度を指示する以前に計算されたクラスタ比較スコアについての 非リーフノード及びクラスタ比較スコアがまだ計算されていない前記群の非リー フノードについクラスタ比較スコアを計算し続け、 前記クラスタ比較スコアが最高の尤度を指示する非リーフノードを通る経路 を前記検索に含ませることを特徴とするシステム。 １０．前記確率密度が既知の入力パターンを表すトレーニング観測ベクトル列か ら取り出され、前記基準確率密度の組をトレーニング構造として表す工程が、 前記トレーニング観測ベクトルをクラスタの階層的な組にクラスタ化すること、 及び各クラスタについてクラスタ確率密度を計算することを含む請求項６、７、 ８、又は９に記載のシステムにおいて、 前記トレーニング観測ベクトル列を、対応する基準パターン及び対応する基 準ユニットの列にセグメント化し、 反復し、 各基準ユニットについて、対応するトレーニング観測ベクトルをクラスタの 階層的な組にクラスタ化して、各々が個別の基準ユニットに対応する独立したト レーニング構造を形成し、 前記基準ユニット列に基いて前記トレーニング観測ベクトル列を時間整合さ せ、 各トレーニング観測ベクトルについて、予め定めた最適基準に基づいて最も 類似する対応する基準ユニットを決定し、 最適なクラスタ尤度を有するクラスタについて対応する基準ユニットのトレ ーニング構造を検索することにより、前記クラスタに各トレーニング観測ベクト ルを割り当てることを特徴とするシステム。