JPH0695691A - 時系列信号処理装置 - Google Patents

Abstract

(57)【要約】 【目的】 ＨＭＭに基づく時系列パターンの処理装置で
あって、精度を落とさずに演算量を削減する。 【構成】 連続確率分布ＨＭＭ作成手段と、パターン集
合を形成するベクトル集合をファジィクラスタリングす
るクラスタリング手段１０３と、各々の訓練パターンが
前記連続確率分布型ＨＭＭから発生するとして求められ
た前記各々の訓練パターンに対応する状態系列の確率密
度と、前記各々の訓練パターンを構成する各ベクトルの
各クラスタへの帰属度からクラスタＣ_mの前記ＨＭＭの
状態ｉにおける発生確率ｂ_i(Ｃ_m)を求めるクラスタ発生
確率算出手段１１０とを備え、前記連続確率分布ＨＭＭ
をＦＶＱＨＭＭに変換する構成である。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】音声認識等のパターン認識に適用
可能な新しいＨＭＭ（Ｈｉｄｄｅｎ Ｍａｒｋｏｖ Ｍ
ｏｄｅｌ）のパラメータの推定方法、該ＨＭＭを用いた
パターンの認識方法、及び装置に関する。

【０００２】

【従来の技術】本発明は一般の時系列信号に適用可能な
ものであるが、説明の便宜のために、以下、音声認識を
例に説明する。

【０００３】先ずＨＭＭ（Ｈｉｄｄｅｎ Ｍａｒｋｏｖ
Ｍｏｄｅｌ）を用いた音声認識装置について説明す
る。

【０００４】（図２）は、ＨＭＭを用いた音声認識装置
のブロック図である。２０１は音声分析部であって、入
力音声信号をフィルタバンク、フーリエ変換、ＬＰＣ分
析等の周知の方法により、一定時間間隔（フレームと呼
ぶ）例えば１０msec毎に特徴ベクトルに変換する。従っ
て、入力音声信号は特徴ベクトルの系列 Ｙ＝(ｙ(１),
ｙ(２),・・・,ｙ(Ｔ))に変換される。Ｔはフレーム数であ
る。２０２はコードブックと呼ばれるもので、ラベル付
けされた代表ベクトルを保持している。２０３はベクト
ル量子化部であって、前記ベクトル系列Ｙのそれぞれの
ベクトルをそれに最も近い前記コードブックに登録され
ている代表ベクトルに対応するラベルに置き換えるもの
である。２０４はＨＭＭ作成部であって、訓練データか
ら認識語彙たる各単語に対応するＨＭＭを作成するもの
である。即ち、単語ｗに対応するＨＭＭを作るには、先
ず、ＨＭＭの構造（状態数やそれら状態の間に許される
遷移規則）を適当に定め、然る後に前記の如くして単語
ｗを多数回発声して得られたラベル系列から、それらラ
ベル系列の発生確率が出来るだけ高くなるように、前記
モデルにおける状態遷移確率や状態の遷移に伴って発生
するラベルの発生確率を求めるものである。２０５はＨ
ＭＭ記憶部であって、このようにして得られたＨＭＭを
各単語毎に記憶するものである。２０６は尤度計算部で
あって、認識すべき未知入力音声のラベル系列に対し、
前記ＨＭＭ記憶部２０５に記憶されているそれぞれのモ
デルのそのラベル系列に対する尤度を計算するものであ
る。２０７は比較判定部であって尤度計算部２０６で得
られた前記それぞれのモデルの尤度の最大値を与えるモ
デルに対応する単語を認識結果として判定するものであ
る。ＨＭＭによる認識は具体的には次のようにして行わ
れる。即ち、未知入力に対して得られたラベル系列をＯ
＝(ｏ(１),ｏ(２),・・・,ｏ(Ｔ))、単語ｗに対応したモデ
ルをλ^wとし、モデルλ^wにより発生される長さＴの任意
の状態系列をＸ＝(ｘ(１),ｘ(２),・・・,ｘ(Ｔ))とすると
き、λ^wのラベル系列Ｏに対する尤度は 〔厳密解〕

【０００５】

【数１】

【０００６】〔近似解〕

【０００７】

【数２】

【０００８】または、対数をとって

【０００９】

【数３】

【００１０】で定義される。ここで、Ｐ(ｘ,ｙ|λ^w)
は、モデルλ^wにおけるｘ,ｙの同時確率である。

【００１１】従って、例えば、（数１）を用いれば

【００１２】

【数４】

【００１３】とするとき、ｗ^が認識結果となる。（数
２），（数３）を用いるときも同様である。

【００１４】Ｐ(Ｏ,Ｘ|λ) は次のようにして求められ
る。いま、ＨＭＭλの状態ｑ_i(ｉ＝１〜Ｉ)に対して、
状態ｑ_i毎に、ラベルｏの発生確率ｂ_i(ｏ)と状態ｑ_i(ｉ
＝１〜Ｉ)から状態ｑ_j(ｊ＝１〜Ｉ＋１)への遷移確率ａ
_ijが与えられているとき、状態系列Ｘ＝(ｘ(１),ｘ
(２),・・・,ｘ(Ｔ＋１))とラベル系列Ｏ＝(ｏ(１),ｏ
(２),・・・,ｏ(Ｔ))のＨＭＭλから発生する同時確率は

【００１５】

【数５】

【００１６】と定義出来る。ここでπ_x(1)は状態ｘ(１)
の初期確率である。また、ｘ(Ｔ＋１)＝Ｉ＋１は最終状
態であって、如何なるラベルも発生しないとする。

【００１７】この例では入力の特徴ベクトルｙをラベル
に変換したが、各状態におけるラベルの発生確率の代り
に特徴ベクトルｙをそのまま用い、各状態において特徴
ベクトルｙの確率密度関数を与える方法もある。このと
きは（数５）における前記ラベルｏの状態ｑ_iにおける
発生確率ｂ_i(ｏ) の代わりに特徴ベクトルｙの確率密度
ｂ_i(ｙ)を用いることになる（以後、ｚがラベルのとき
はｂ_i(ｚ)はｚが状態ｉにおいて生じる確率、ｚがベク
トルのときはｂ_i(ｚ)はｚの確率密度を意味するものと
する）。このときは、前記（数１）（数２）（数３）は
次のようになる。 〔厳密解〕

【００１８】

【数６】

【００１９】〔近似解〕

【００２０】

【数７】

【００２１】または、対数をとれば次式が得られる。

【００２２】

【数８】

【００２３】以上、何れの方式を用いるにしても最終的
な認識結果は、それぞれの単語ｗに対してＨＭＭλ^wを
ｗ＝１〜Ｗ について準備しておけば、入力音声信号Ｙ
に対して

【００２４】

【数９】

【００２５】あるいは

【００２６】

【数１０】

【００２７】がＹの認識結果となる。勿論、ここでのＹ
は前記それぞれ方法に応じて、入力されたラベル系列、
特徴ベクトル系列等である。

【００２８】

【発明が解決しようとする課題】前記従来例において、
入力特徴ベクトルをラベルに変換するものを離散確率分
布ＨＭＭ、入力特徴ベクトルをそのまま用いるものを連
続確率分布ＨＭＭと呼ぶことにする。このとき、これら
両者の特徴は次のようである。

【００２９】離散確率分布ＨＭＭは、入力ラベル系列に
対するモデルの尤度の計算において、各状態での各ラベ
ルの発生度合ｂ_i(Ｃ_m)はラベルに関連して予め記憶され
ている記憶装置から読み出すことで実行できるから計算
量が非常に少ないと言う利点がある反面、量子化に伴う
誤差のため、認識精度が悪くなると言う欠点がある。こ
れを避けるためにラベル数（クラスタ数）を多くする必
要があるが、その増加に伴ってモデルを学習するために
必要な学習パターン数が膨大になる。ここで、学習パタ
ーン数が不十分な場合は、前記ｂ_i(Ｃ_m)が頻繁に０にな
ることがあり、正しい推定が出来なくなる。例えば、次
のようなことが生じる。

【００３０】コードブックの作成は、認識すべき全ての
単語について多数の話者の発声音声を特徴ベクトル系列
に変換し、この特徴ベクトルの集合をクラスタリング
し、それぞれのクラスタにラベリングすることによって
行われる。それぞれのクラスタは、セントロイドと呼ば
れるそのクラスタの代表ベクトルを持ち、通常これは各
々のクラスタに分類されたベクトルの期待値である。コ
ードブックは、これらセントロイドを前記ラベルで検索
可能な形で記憶したものである。

【００３１】いま、前記認識語彙の中に、例えば「大
阪」と言う単語があって、これに対応するモデルを作る
場合を考える。多数話者が発声した単語「大阪」に対応
する音声サンプルが特徴ベクトル列に変換され、各々の
特徴ベクトルが前記セントロイドと比較され、最近隣の
セントロイドに対応するラベルがその特徴ベクトルの量
子化されたものとなる。このようにして、前記「大阪」
に対する各々の音声サンプルは、ラベル系列に変換され
る。得られたラベル系列から、それらラベル系列に対す
る尤度が最大になるようにＨＭＭのパラメータを推定す
ることにより、単語「大阪」に対応するモデルが出来上
がる。この推定には周知のBaum-Welch法等が用いられ得
る。

【００３２】この場合、前記コードブックにあるラベル
の中で、単語「大阪」に対応する学習ラベル系列の中に
は含まれていないものが有り得る。この含まれていない
ラベルの発生確率は学習の過程で“０”と推定されてし
まう。従って、認識の時に発声される「大阪」と言う単
語が変換されたラベル系列の中に、前記「大阪」のモデ
ルの作成に用いたラベル系列には含まれていないラベル
が存在することは十分有り得る。この場合は、この認識
時に発声された「大阪」のラベル系列が前記「大阪」の
モデルから発生する確率は“０”になってしまう。しか
し、このような場合でも、ラベルとしては異なっていて
も、ラベルに変換される前の特徴ベクトルの段階ではモ
デルの学習に用いた音声サンプルとかなり近く、ベクト
ルの段階で見れば十分「大阪」と認識されても良い場合
がある。もともと同じ単語を発声しているのであるから
ベクトルのレベルでは似通っているにも関わらず、ラベ
ルのレベルでは僅かの差で全く異なったラベルに変換さ
れてしまうということは十分起こり得るのであって、こ
のようなことが認識精度に悪影響を及ぼすことは容易に
想像がつく。クラスタ数が増加する程、訓練データ数が
少ない程このような問題は頻繁に生じることになる。

【００３３】この欠点を除去するためには、訓練集合に
は現れてこない（含まれていない）ラベルに対して、平
滑化や補完を行う等の工夫が必要となる。「結び」と呼
ばれる概念を用いてパラメータ数を減少させる工夫をは
じめとして、０確率が推定される場合はそれを０にせず
に微小量に置き換えたり、ファジイベクトル量子化等の
ようにクラスタの境界をぼかしたりする方法等、平滑化
や補完を行う方法が種々提案されているが、何れも上記
問題を根本的に解決するものではない。また、場合に応
じて経験的に決めなければならない要素があって、それ
らの要素を決める理論的な指標はない。

【００３４】一方、連続確率分布ＨＭＭは、分布形状は
正規分布等と予め関数の形で与えておき、学習データか
らこの関数を規定するパラメータを推定するものであ
る。従って、推定すべきパラメータ数は少なく、前記離
散型のものに比べて少ない学習パターンで精度良くパラ
メータの推定が出来、平滑化や補完を考える必要もなく
なり、一般に離散型よりも高い認識率の得られることが
報告されている。

【００３５】因に、離散型と連続型とで（図３）のよう
な４状態３ループのＨＭＭにおけるパラメータ数を比較
すれば例えば次のようになる。離散型の場合は用いられ
るラベルの種類を２５６とすれば、ラベルの発生確率は
２５６×３=７６８、遷移確率は６の計８７４が１モデ
ル当り必要である。連続型の場合は１０次元の正規分布
とすれば、平均ベクトルは１０×３=３０、分散共分散
行列は５５×３=１６５（∵対称行列）、遷移確率は６
の計２０１となり、推定すべきパラメータの値は、連続
型は離散型の１／４以下となる。

【００３６】ところが、連続型は認識精度の点で優れて
いるが計算量は離散型に比べて非常に多くなるという問
題がある。即ち、入力特徴ベクトルｙ(ｔ)が、状態ｉで
平均ベクトルμ_i、分散共分散行列Σ_iの正規分布をする
とするき、状態ｉにおけるｙ(ｔ)の発生確率（密度）の
計算には(ｙ(ｔ)−μ_i)^TΣ_i ^-1(ｙ(ｔ)−μ_i)なる計算を
必要とし、例えば、１０次元の連続型のＨＭＭでは、こ
の計算だけでも１１０回のかけ算が必要であり、１つの
モデルに対しては、これの（状態数×入力フレーム数）
倍になる。従って、入力フレーム数が５０フレームの場
合で前記モデルを想定すれば、１つのモデル当り必要と
される(ｙ(ｔ)−μ_i)^TΣ_i ^-1(ｙ(ｔ)−μ_i)の計算におけ
る掛算の回数は、１１０×３×５０＝１６５００とな
り、単語数が５００であるとさらにこれが５００倍され
る。即ち、その場合はこの部分の掛け算のみで８２５万
回が必要となる。

【００３７】離散型の場合は、ベクトル量子化の計算を
完了すれば、前記のようにラベルに従って記憶装置から
そのラベルの発生確率を読み出すのみでよい。また、ｙ
(ｔ)をベクトル量子化するのに必要な計算は、前記の例
では、２５６個の代表ベクトルとｙ(ｔ)との距離あるい
は類似度の計算である。距離を(ユークリッド距離)²と
する場合は、ｙ(ｔ)をラベル付けするのに必要な計算
は、１０回の引算と１０回の掛算と１０回の足算の２５
６倍である。従って５０フレームでは、掛算のみで考え
れば、１０×２５６×５０＝１２８０００回と言うこと
になる。もし、バイナリサーチと呼ばれる方法でベクト
ル量子化する場合は、前記２５６は２log₂２５６＝１６
でおきかえて、１０×１６×５０＝８０００回と言うこ
とになる。

【００３８】以上のように離散型とすることにより計算
量が著しく減少し、連続型の場合は認識単語数が増える
と計算量もそれに比例して増大するが、離散型の場合
は、入力音声信号を一旦ベクトル量子化するときのみこ
の計算が必要なのであって、認識単語数が増えてもこの
計算量は不変である。

【００３９】このように、離散型の場合は計算量は少な
いが認識精度的に問題があり、連続型の場合は認識精度
はよいが計算量に問題がある。

【００４０】

【課題を解決するための手段】訓練ベクトルをファジィ
クラスタリングするクラスタリング手段と、連続確率分
布ＨＭＭを作成する連続確率分布ＨＭＭ作成手段と、該
ＨＭＭの各状態における前記各クラスタの発生確率を算
出するクラスタ発生確率算出手段とを備え、該クラスタ
発生確率算出手段は、前記連続確率分布ＨＭＭから発生
する時点ｔに状態ｉを通る状態系列の訓練パターンｒに
対する条件確率を荷重係数とし、該訓練パターンｒの時
点ｔにおけるベクトルのクラスタＣ_mへの帰属度の、
ｒ，ｔの取り得る全範囲にわたる荷重平均を算出する荷
重平均算出手段を含み、該荷重平均を状態ｉにおけるク
ラスタＣ_mの発生確率とする構成である。

【００４１】

【作用】訓練ベクトルをファジィクラスタリングし、別
途作成された連続確率分布ＨＭＭからＨＭＭの各状態に
おける前記各クラスタの発生確率を算出するものであっ
て、前記連続確率分布ＨＭＭから発生する時点ｔに状態
ｉを通る状態系列の訓練パターンｒに対する条件確率を
荷重係数とし、該訓練パターンｒの時点ｔにおけるベク
トルのクラスタＣ_mへの帰属度の、ｒ，ｔの取り得る全
範囲にわたる荷重平均を算出し、得られた値を状態ｉに
おけるクラスタＣ_mの発生確率とするものである。

【００４２】

【実施例】ここで、以後用いるべき記号の定義をまとめ
ておく。簡単のために、誤解を生じない限り、状態
ｑ_i，ｑ_j等は単にｉ，ｊ等と表記することにする。ま
た、モデルの学習は１つの単語について行う場合を述べ
ることとし、モデル間で区別する必要のある場合は、モ
デルに対応する番号をパラメータの右肩に添字として付
加することとし、通常はこれを省くものとする。

【００４３】[ａ_ij]：遷移マトリクス ａ_ij：状態ｉから状態ｊへの遷移確率 ｒ：作成すべきモデルに対する訓練パターン番号(ｒ＝
１,・・・,Ｒ) ｙ^(r)(ｔ)：訓練パターンｒの第ｔフレームにおける観
測ベクトル ｏ^(r)(ｔ)：訓練パターンｒの第ｔフレームにおける観
測ラベル Ｃ_m：クラスタ名（ｍ＝１,・・・,Ｍ） ｃ_m：クラスタＣ_mのセントロイド ｂ_i(ｙ^(r)(ｔ))：訓練パターンｒのフレームｔの観測ベ
クトルｙ^(r)(ｔ)の状態ｉにおける確率密度（ｂ_i(ｃ_m)
は状態ｉにおけるクラスタｍのセントロイドに対する確
率密度） ｂ_i(ｏ^(r)(ｔ))：訓練パターンｒのフレームｔの観測ラ
ベルｏ^(r)(ｔ)の状態ｉにおける確率（ｂ_i(Ｃ_m)は状態
ｉにおけるクラスタＣ_mの発生確率） ｙ^(r)＝(ｙ^(r)(１),ｙ^(r)(２),・・・,ｙ^(r)(Ｔ^(r)))：訓
練パターンｒのベクトル系列(ただし、ｒ＝１,２,・・・,
Ｒ) Ｏ^(r)＝(ｏ^(r)(１),ｏ^(r)(２),・・・,ｏ^(r)(Ｔ^(r)))：単
語ｗに対する第ｒ番のラベル系列(ただし、ｒ＝１,２,・
・・,Ｒ) Ｘ^(r)＝(ｘ^(r)(１),ｘ^(r)(２),・・・,ｘ^(r)(Ｔ^(r)),ｘ^(r)
(Ｔ^(r)＋１))：X^(r)またはＯ^(r)に対応する状態系列 ｘ^(r)(ｔ)：単語ｗに対する第ｒ番の訓練パターンの第
ｔフレームにおける状態 Ｔ^(r)：単語ｗに対する第ｒ番の訓練パターンのフレー
ム数 μ_i：ｂ_i(ｙ)の平均ベクトル Σ_i：ｂ_i(ｙ)の分散共分散行列 λ_i＝［π_i, {ａ_ij}_{j=1,・・・,I+1}，μ_i, Σ_i］：状態ｉ
のパラメータの集合（連続確率分布ＨＭＭの場合） λ_i＝［π_i, {ａ_ij}_{j=1,・・・,I+1}，{ｂ
_i(Ｃ_m)}_{m=1,・・・,M}］：状態ｉのパラメータの集合（ファ
ジィＶＱＨＭＭの場合） λ＝{λ_i}_{i=1,・・・,I}：全パラメータの集合(λをパラメ
ータとするモデルをモデルλとも呼ぶ) Ｐ(Ｙ|λ)：観測ベクトル系列Ｙがモデルλから発生す
る確率密度 Ｐ(Ｏ|λ)：観測ラベル系列Ｏがモデルλから発生する
確率 π_i：状態ｉがｔ＝１で生じる確率（初期確率） 先ず、連続確率分布ＨＭＭを学習する方法について述べ
る。

【００４４】問題は、準備されたｒ＝１〜Ｒの訓練パタ
ーンに対して、尤度関数Ｐ(Ｙ⁽¹⁾,Ｙ⁽²⁾,・・・,Ｙ^(R)|λ)
を最大にするパラメータλを推定することである。

【００４５】Ｙ^(r)が互いに独立であるとすれば

【００４６】

【数１１】

【００４７】で与えられる。ここで、次の補助関数Q
(λ,λ')を定義する。

【００４８】

【数１２】

【００４９】このとき、次のことが言える。「Ｑ(λ,
λ')≧Ｑ(λ,λ)なら、Ｐ(Ｙ⁽¹⁾,…,Ｙ^(R)|λ')≧Ｐ(Ｙ
⁽¹⁾,…,Ｙ^(R)|λ)であって、等号はλ'＝λの時に成り
立つ。」故に、

【００５０】

【数１３】

【００５１】を求めることが出来れば、λ^*→λとして
（数１３）を繰り返し適用することによって、λはＰ
(Ｙ⁽¹⁾,…,Ｙ^(R)|λ)の停留点、即ち、Ｐ(Ｙ⁽¹⁾,…,Ｙ
^(R)|λ)の極大値または鞍点を与える点に収束すること
になり、Ｐ(Ｙ⁽¹⁾,…,Ｙ^(R)|λ)の変化率が予め定めた
閾値以下になるまでこの操作を繰り返すことにより局所
最適解が得られる。

【００５２】次にＱ(λ,λ')を用いてパラメータを推定
する方法について説明する。（数１２）を変形すれば、
次式が得られる。

【００５３】

【数１４】

【００５４】前述の説明から、Ｑ(λ,λ')をλ'の関数
と見なしてＱ(λ,λ')＞Ｑ(λ,λ)なるλ'を見出せば、
それはλの更新されたものとなり、Ｐ(Ｙ⁽¹⁾,・・・,Ｙ^(R)
|λ)はλ'に関しては一定値となるから、これを取り除
いて

【００５５】

【数１５】

【００５６】とするとき、Ｑ'(λ,λ')＞Ｑ'(λ,λ)な
るλ'を見出すことと同様である。ここで

【００５７】

【数１６】

【００５８】とおけば、（数１５）はさらに次のように
なる。

【００５９】

【数１７】

【００６０】右辺第１項からπ_i'についてＱ'(λ,λ')
を最大化すればπ_iの再推定値π_i ^*は

【００６１】

【数１８】

【００６２】右辺第２項からａ_ij'についてＱ'(λ,λ')
を最大化すればａ_ijの再推定値ａ_ij ^*は

【００６３】

【数１９】

【００６４】右辺第３項からμ_i'，Σ_i'についてＱ'
(λ,λ')最大化すれば、μ_i，Σ_i各々の再推定値μ_i ^*，
Σ_i ^*は

【００６５】

【数２０】

【００６６】

【数２１】

【００６７】ここで、ξ^(r) _ij(ｔ)，γ^(r) _i(ｔ)は次の
ように計算される。

【００６８】

【数２２】

【００６９】とおけば、

【００７０】

【数２３】

【００７１】であって、

【００７２】

【数２４】

【００７３】

【数２５】

【００７４】なる漸化式が成り立つから、α^(r) ₁(０)＝
１としてパラメータλに適当な初期値を与え、ｔ＝１〜
Ｔ^(r)＋１，ｊ＝１〜Ｉ＋１について（数２４）に従っ
てα^(r) _j(ｔ)を、β^(r) _I+1(Ｔ^(r)＋１)＝１としてｔ＝
Ｔ^(r)〜１、ｉ＝Ｉ〜１について（数２５）に従ってβ
^(r) _i(ｔ)をそれぞれ順次計算して行けば、（数２３）が
計算できる。

【００７５】パラメータ推定の実際の計算手順は次のよ
うになる。 （１）Ｌ₁＝∞ （２）ｉ＝１〜Ｉについて λ_i=｛π_i，[a_ij]_{j=1,・・・,I+1}，μ_i，Σ_i｝に適当な初
期値を与える。 （３）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^(r)＋１, ｉ＝１〜Ｉ＋
１について α^(r) _i(ｔ)をλ＝{λ_i}として（数２４）に従って計算
する。 （４）ｒ＝１〜Ｒ, ｔ＝Ｔ^(r)〜１, ｉ＝Ｉ〜１につい
てβ^(r) _i(ｔ)を（数２５）に従って計算する。 （５）ｒ＝１〜Ｒ，ｉ,ｊ＝１〜Ｉ＋１，ｔ＝１〜Ｔ^(r)
＋１について ξ^(r) _ij(ｔ)，γ^(r) _i(ｔ)をλ＝{λ_i}としてそれぞれ
（数２３）に従って計算する。 （６）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１について π_i,ａ_ij,μ_i,Σ_iの再推定値を（数１８）〜（数２１）
に従って計算する。 （７）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１について ａ_ij＝ａ_ij ^*, μ_i＝μ_i ^*, Σ_i＝Σ_i ^*なる代入を行うこ
とによって、更新されたパラメータ集合λ＝{λ_i}を得
る。 （８）step（７）で得たパラメータ集合λに対して

【００７６】

【数２６】

【００７７】を計算する。ここで、α^(r) _I+1(Ｔ^(r)＋
１)の値はステップ（３）と同様の計算により漸化的に
求めるものであり、途中で得られるｒ，ｉ，ｔの個々に
対するαの値は次の繰り返し計算に用いるため記憶して
おく。 （９）|Ｌ₁−Ｌ₂|／Ｌ₁＜εならば終了。そうでなけれ
ばＬ₁＝Ｌ₂とおいてステップ（４）へ戻る。

【００７８】前記ステップ（９）におけるεは収束の幅
を決める適当に小さな正の数であって、その値は状況に
よって実用的な値が選ばれる。

【００７９】以上のようにして、連続確率分布ＨＭＭが
得られるが、前述のごとき欠点を有している。次に、前
記連続確率分布ＨＭＭを基にしてファジィクラスタリン
グ（ファジィベクトル量子化）によるＨＭＭ（ＦＶＱＨ
ＭＭ）を作成する本発明を説明する。

【００８０】先ず、ファジィクラスタリングについて説
明する。表記の簡単のために、学習に用いる全ての単語
音声を構成するベクトルについて通し番号をつけ、ｙ₁,
・・・,ｙ_Nとし、ｙ_nのクラスタＣ_mへの帰属度（メンバシ
ップ関数）をｕ_nmとする。通常のクラスタリング法で
は、あるベクトルｙ_nがクラスタＣ_mに属している（ｕ_nm
＝１）か、属していないか（ｕ_nm＝０）だけを認めるの
に対して、ファジィクラスタリング法では、ｙ_nがいく
つかのクラスタに異なる度合で帰属することを認めると
言うものである。

【００８１】具体的な方法の１つは、各クラスタＣ_mの
セントロイド（中心ベクトル、平均ベクトル）をｃ
_m（ｍ＝1，・・・,Ｍ)とし、ｙ_nとセントロイドｃ_mの非類
似度をｄ_{n m}＝ｄ(ｙ_n,ｃ_m)とするとき、

【００８２】

【数２７】

【００８３】を最小にするｕ_nmとｃ_mを見出すものがあ
る。目的関数Ｊをc_mとｕ_nmに関して偏微分し、条件

【００８４】

【数２８】

【００８５】を用いれば、Ｊを局所的に最小化するため
の必要条件が次の（数２９）（数３０）のように示され
る。

【００８６】

【数２９】

【００８７】

【数３０】

【００８８】ここで、Ｆはいわゆるファジィネスを表
し、１＜Ｆである。Ｆ→∞のときは、ｍ＝１,・・・,Ｍに
ついて、ｕ_nm→１／Ｍになり、Ｆ→１のときは、

【００８９】

【数３１】

【００９０】であるから、

【００９１】

【数３２】

【００９２】となる。即ち、Ｆが増加するにつれてｙ_n
が何れのクラスタに属するかと言うことの曖昧性が増大
し、Ｆが１に近づくにつれて、ｙ_nの属するクラスタを
一意に決定するいわゆるハードクラスタリングに近づ
く。

【００９３】ファジィクラスタリングの実際の手順は次
のようになる。 （１）訓練ベクトル集合を適当にＣ₁,・・・,Ｃ_Mに分割
し、初期クラスタとする。 （２）各クラスタの平均ベクトルｃ_mを（数２９）に従
って求める。 （３）ｙ_n≠ｃ_mのとき、（数３０）によってステップ
（２）の結果を用いてｕ_nmを更新する。ｙ_n＝ｃ_mのとき
は、ｍ＝ｎのときｕ_nm＝１，ｍ≠ｎのときｕ_nm＝０とお
く。 （４）収束条件を満足すれば処理を終了、そうでなけれ
ばステップ（２）へ戻る。

【００９４】ステップ（４）における収束条件として
は、上記繰り返し計算において、更新される前のｕ_nmと
更新された後のｕ_nmとの変化量をｅ_nmとするとき、ｅ_nm
²のｍ，ｎに関する総和が予め定めた収束判定値ε以下
になった場合を収束、それに達しない場合を非収束とす
る等が考えられる。

【００９５】本発明においては、状態ｉにおけるベクト
ルｙ(ｔ)の確率密度ω_i(ｙ(ｔ))を

【００９６】

【数３３】

【００９７】によって定義するものである。ただし、ｂ
_i(Ｃ_m)は状態ｉにおいてクラスタＣ_mの発生する確率で
あって、次のようにして推定される。

【００９８】

【数３４】

【００９９】上記Ｑ'(λ,λ')をｂ_i(Ｃ_m)'について最大
化する。Lagrangeの未定乗数をθとすれば、

【０１００】

【数３５】

【０１０１】であって、両辺をｂ_i(Ｃ_m)'倍してｍにつ
いて総和をとれば、

【０１０２】

【数３６】

【０１０３】これを（数３５）に代入してｂ_i(Ｃ_m)の推
定式が次のように求められる。

【０１０４】

【数３７】

【０１０５】通常のファジィＶＱによるＨＭＭは（数３
７）におけるγ^(r) _i(ｔ)を再推定されたｂ_i(Ｃ_m)を用い
て計算するものであるが、本発明では、γ^(r) _i(ｔ)は連
続確率分布ＨＭＭとして求めたものをそのまま用いるも
のである。従って、（数３７）の計算は１回行うのみで
ある。即ち、本発明によるパラメータの推定のステップ
は、前記連続確率分布ＨＭＭの作成後、（数３７）によ
りｉ＝１〜Ｉ、ｍ＝１〜Ｍについてｂ_i(Ｃ_m)を計算する
ことになる。従って、本発明モデルでは、パラメータ集
合は［π_i，{ａ_ij}_{j=1,2,・・・,I+1}，{ｂ_i(Ｃ_m)}
_{m=1,2,・・・,M}］_{i=1,2,・・・ ,I}となる。認識時の尤度計算に
おいては、連続確率分布ＨＭＭの尤度計算におけるｂ
_i(ｙ(ｔ))を（数３３）で定義されるω_i(ｙ(ｔ))に置き
換えることになる。

【０１０６】（図１）は、本発明のＨＭＭ作成装置の一
実施例である。以下図面に従って説明する。

【０１０７】１０１は特徴抽出部であって、周知の方法
によって、単語ｗ（=1,…,Ｗ）に対応するモデル作成の
ために準備された訓練単語ｒ＝１〜Ｒ^wの音声信号を特
徴ベクトルの系列Ｙ^w(r)＝(ｙ^w(r)(１),ｙ^w(r)(２),…,
ｙ^w(r)(Ｔ^(r)))に変換するものである。

【０１０８】１０２は単語パターン記憶部であって、モ
デルλ^w（ｗ＝１,・・・,Ｗ）を作成するための訓練用単語
全てを前記特徴ベクトル系列の形でＲ¹＋Ｒ²＋…＋Ｒ^w
＋…＋Ｒ^W個記憶するものである。

【０１０９】１０３はファジィクラスタリング部であっ
て、（数２９）（数３０）に従って、前記訓練パターン
を構成している全ベクトルをファジィクラスタリングし
て、クラスタＣ_mのセントロイドｃ_mをｍ＝１,・・・,Ｍに
ついて算出するものである。即ち

【０１１０】

【数３８】

【０１１１】個の特徴ベクトル集合をＭ個のクラスタに
ファジィクラスタリングするものである。

【０１１２】１０４は１０３で求められたセントロイド
を記憶するものである。１０５はバッファメモリであっ
て、単語パターン記憶部１０２からモデルを作成すべき
単語ｗの訓練パターンとして記憶されているＲ^wのパタ
ーンを読みだし、一時的に記憶するものである。

【０１１３】１０６はパラメータ推定部であって、前記
モデルλ^wを作成するステップ（１）〜（９）を実行
し、単語ｗに対応する連続確率分布ＨＭＭを推定するも
のである。

【０１１４】１０７は第１のパラメータ記憶部であっ
て、前記ステップ（６）で得られたパラメータの再推定
値を必要がなくなるまで一時的に記憶するものである。
パラメータ推定部１０６はこのパラメータ記憶部１０７
の値を用いて再推定を行うものである。

【０１１５】１０８は状態系列発生確率記憶部であっ
て、（数２３）によって、パラメータ推定部１０６でパ
ラメータ推定の際に計算される、時点ｔで状態ｉをとる
状態系列の、観測系列Ｙ^w(r)に対する条件付き確率密度
γ^w(r) _i(ｔ)をｒ，ｔで参照可能な形で記憶するもので
ある。

【０１１６】１０９はベクトル帰属度算出部であって、
ファジィクラスタリング部１０３で求められたｙ
^w(r)(ｔ)の各クラスタへの帰属度Ｕ^w(r)(ｔ)＝(ｕ(ｙ
^w(r)(ｔ),Ｃ_m）,・・・,ｕ(ｙ^w(r)(ｔ),Ｃ_M))^Tをｒ，ｔの
組合せで参照可能な形で記憶するものである。Ｕ
^w(r)(ｔ)をｙ^w(r)(ｔ)の帰属度ベクトルと呼ぶことにす
る。

【０１１７】１１０はクラスタ発生確率計算部であっ
て、前記状態系列発生確率記憶部１０８から読みだした
γ^w(r) _i(ｔ)とベクトル帰属度算出部１０９から読み出
したＵ^w(r)(ｔ)とから（数３７）に従ってｍ＝１,・・・,
Ｍ、ｉ＝１,・・・,Ｉについて、ｂ_i(Ｃ_m)を算出するもの
である。

【０１１８】１１１は単語ｗ＝１〜Ｗに対応するパラメ
ータを記憶する第２のパラメータ記憶部であって、前記
それぞれの単語ｗ＝１〜Ｗに対応するパラメータが、
（パラメータ記憶部１）〜（パラメータ記憶部Ｗ）の各
々に記憶される。即ち、単語ｗのパラメータの推定結
果、状態ｉにおける初期確率π^w _i、遷移確率ａ^w _ijは、
第１のパラメータ記憶部１０７の内容を、状態ｉにおけ
るクラスタｍの発生確率ｂ^w _i(Ｃ_m)は、クラスタ発生確
率算出部１１０で計算された結果をパラメータ記憶部ｗ
にｉ，ｊで参照可能な形で記憶する。

【０１１９】以上のようにして、ＦＳＶＱＨＭＭが作成
される。次に、以上のようなモデルを用いて実際の入力
音声を認識する方法及び装置について説明する。

【０１２０】（図４）は認識装置のブロック図である。
以下、本図に従って説明する。４０１は特徴抽出部であ
って、（図１）１０１と全く同様の構成・機能を有する
ものである。

【０１２１】４０２はセントロイド記憶部であって、
（図１）のＨＭＭ作成装置のセントロイド記憶部１０４
と同様のものであって、各クラスタのセントロイドが記
憶されている。

【０１２２】４０３はベクトル帰属度算出部であって、
特徴抽出部４０１の出力の特徴ベクトルｙ(ｔ)とセント
ロイド記憶部に記憶されている前記それぞれのクラスタ
の代表ベクトルｃ_m（ｍ＝１,…,Ｍ）から、（数３０）
に従ってｙ(ｔ)のクラスタＣ_mに対する帰属度ｕ(ｙ
(ｔ),Ｃ_m)（ｍ＝１,・・・,Ｍ）を算出し、ｙ(ｔ)を帰属度
ベクトル（ｕ(ｙ(ｔ),Ｃ₁),・・・,ｕ(ｙ(ｔ),Ｃ_M)）^Tに変
換するものである。

【０１２３】４０４はパラメータ記憶部であって、（図
１）１１１と全く同様の構成・機能を有するものであっ
て、パラメータ記憶部ｗには、単語ｗ（=１,・・・,Ｗ）に
対応するモデルのパラメータが記憶されている。

【０１２４】４０５は尤度計算部であって、ベクトル帰
属度算出部４０２の出力に得られる帰属度ベクトル列に
対する各モデルの尤度をパラメータ記憶部４０４の内容
を用いて計算するものである。パラメータ記憶部ｗは単
語ｗに対応するモデルのパラメータが記憶されている。
尤度計算部ｗではパラメータ記憶部ｗの内容が用いられ
る。尤度の計算は、モデルｗ、状態ｉにおけるｙ(ｔ)の
発生確率ω^w _i(ｙ(ｔ))を、（数３３）から

【０１２５】

【数３９】

【０１２６】で与え、（数５）におけるｂ_i(ｙ(ｔ))を
ω^w _i(ｙ(ｔ))、ａ_ijをａ^w _ijとして、（数１）（数２）
（数３）等の何れかを用いて実行される。（数１）を計
算する場合は、（数２６）におけるＹ^(r)に対する

【０１２７】

【数４０】

【０１２８】の計算と全く同様に、入力パターンＹに対
するモデルｗのα^w _I+1(Ｔ＋１)を計算することになる。
ＴはＹのフレーム数である。

【０１２９】（数２）（数３）を用いる場合は、周知の
Viterbi法によって尤度を求めることが出来る。認識の
際に最もよく用いられる（数３）を用いる場合は、本発
明では次のようになる。 （１）初期値設定 単語ｗのモデルの状態ｉの初期確率をπ^w _iとし、ｉ＝
１,・・・,Ｉについて（数４０）を実行

【０１３０】

【数４１】

【０１３１】（２）漸化式の計算 ｔ＝２,・・・,Ｔ，ｊ＝１,・・・,Ｉについて（数４１）を実
行

【０１３２】

【数４２】

【０１３３】（３）尤度決定

【０１３４】

【数４３】

【０１３５】ステップ（３）におけるφ^w _I+1(Ｔ＋１)が
Ｙに対するモデルｗ（単語ｗ）の尤度である。（図４）
では、尤度計算部はモデル毎に持つように描いてある
が、１つの尤度計算部を切り替えて用いても良いのは勿
論のことである。

【０１３６】４０６は比較判定部であって、尤度計算部
４０５に含まれる尤度計算部１,・・・，Ｗの何れの出力が
最大であるかを比較判定し、それに対応する単語を認識
結果として出力するもので、（数４）と同様に

【０１３７】

【数４４】

【０１３８】を実行し、認識結果ｗ^が得られる。

【０１３９】

【発明の効果】以上のように、本発明は、連続確率密度
分布ＨＭＭを先ず作成し、パターン集合を形成するベク
トルの集合をファジィクラスタリングし、クラスタＣ_m
の前記ＨＭＭの状態ｉにおける発生確率ｂ_i(Ｃ_m)を連続
確率分布型ＨＭＭとして求められた状態系列の確率密度
を用いて求め、ＦＶＱＨＭＭに変換するものである。従
って、本発明により、離散型ＨＭＭにおける欠点である
訓練データの不足やその偏りによる推定誤差を解消し、
認識時には、離散型ＨＭＭのもつ計算量が少ないという
利点を活かしたモデルの実現が可能となった。また、ク
ラスタリングをファジィクラスタリングとすることによ
りクラスタ数を減少でき、推定精度を向上させることが
出来る。

【０１４０】なお、本実施例においては、単語を認識す
るとして述べたが、単語を音韻や音節等に置き換えても
勿論よく、また、音声以外のパターンにも適用出来るも
のである。さらに、本実施例では特徴ベクトルの分布
は、各状態において単一の正規分布に従うとして説明し
たが、いわゆる混合分布を用いることにより、より精密
なクラスタの発生確率を得ることも勿論可能である。

【図面の簡単な説明】

【図１】本発明によるＨＭＭのパラメータ推定を行う装
置の一実施例を示すブロック図

【図２】ＨＭＭを用いた音声認識装置の従来例を説明す
るブロック図

【図３】ＨＭＭの構成図

【図４】本発明の原理により構成されたＨＭＭを用いた
音声認識装置の一実施例を示すブロック図

【符号の説明】

１０１ 特徴抽出部 １０２ 単語パターン記憶部 １０３ ファジィクラスタリング部 １０４ セントロイド記憶部 １０５ バッファメモリ １０６ パラメータ推定部 １０７ パラメータ記憶部 １０８ 状態系列発生確率記憶部 １０９ ベクトル帰属度算出部 １１０ クラスタ発生確率算出部 １１１ パラメータ記憶部

Claims (5)

【特許請求の範囲】
1. 【請求項１】訓練ベクトルをファジィクラスタリングす
   るクラスタリング手段と、連続確率分布ＨＭＭを作成す
   る連続確率分布ＨＭＭ作成手段と、該ＨＭＭの各状態に
   おける前記各クラスタの発生確率を算出するクラスタ発
   生確率算出手段とを備え、該クラスタ発生確率算出手段
   は、前記連続確率分布ＨＭＭから発生する時点ｔに状態
   ｉを通る状態系列の訓練パターンｒに対する条件付確率
   密度を荷重係数とし、該訓練パターンｒの時点ｔにおけ
   るベクトルのクラスタＣ_mへの帰属度の、ｒ，ｔの取り
   得る全範囲にわたる荷重平均を算出する荷重平均算出手
   段を含み、該荷重平均を状態ｉにおけるクラスタＣ_mの
   発生確率とすることを特徴とするファジィベクトル量子
   化ＨＭＭ作成装置。
2. 【請求項２】請求項１記載のＨＭＭ作成装置によって得
   られた状態遷移確率を記憶する状態遷移確率記憶手段
   と、各状態における各クラスタの発生確率を記憶するク
   ラスタ発生確率記憶手段とを備えたことを特徴とするＨ
   ＭＭ記憶装置。
3. 【請求項３】入力パターンを構成する特徴ベクトル系列
   の各ベクトルの請求項１記載の各クラスタに属する帰属
   度を計算するベクトル帰属度算出手段と、請求項２記載
   のＨＭＭ記憶装置とを含み、該ＨＭＭ記憶装置に記憶さ
   れているパラメータで記述されるＨＭＭの、前記入力パ
   ターンに対する尤度を計算する尤度計算手段とを備えた
   ことを特徴とする尤度計算装置。
4. 【請求項４】認識すべき入力信号に対して、認識単位毎
   に請求項３記載の尤度計算を行う尤度計算装置と、該尤
   度の値から前記入力信号が前記認識単位の何れであるか
   を判定する比較判定手段とを備えたことを特徴とする認
   識装置。
5. 【請求項５】請求項２記載の発生確率記憶手段に記憶さ
   れている状態ｉでのクラスタＣ_mの発生確率ｂ_i(Ｃ_m)の
   対数値log ｂ_i(Ｃ_m)の、請求項３記載のベクトル帰属度
   算出手段により求められた観測ベクトルｙ(ｔ)の各クラ
   スタへの帰属度による荷重平均を前記ｙ(ｔ)の状態ｉに
   おける発生確率の対数値とする観測ベクトル発生確率算
   出手段を含むことを特徴とする請求項３記載の尤度計算
   装置。