JPH05333898A

JPH05333898A - 時系列信号処理装置

Info

Publication number: JPH05333898A
Application number: JP4142399A
Authority: JP
Inventors: Hidekazu Tsuboka; 英一坪香
Original assignee: Matsushita Electric Industrial Co Ltd
Current assignee: Panasonic Holdings Corp
Priority date: 1992-06-03
Filing date: 1992-06-03
Publication date: 1993-12-17
Anticipated expiration: 2013-09-10
Also published as: US5638489A; JP2795058B2; US5608841A; US5608840A

Abstract

(57)【要約】【目的】ＨＭＭに基づく時系列パターンの処理装置で
あって、精度を落とさずに演算量を削減する。【構成】ＨＭＭの各状態における観測ベクトルの発生
確率の対数値を、該状態における各クラスタの発生確率
の対数値の荷重和とするものであって、該荷重和は前記
入力ベクトルの前記クラスタに対する帰属度に関連した
量を荷重係数とする。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】音声認識等のパターン認識に適用
可能な新しいＨＭＭ(Hidden Markov Model、隠れマルコ
フモデル）、そのパラメータの推定方法、該ＨＭＭを用
いたパターンの認識方法、及び装置に関する。

【０００２】

【従来の技術】本発明は一般の時系列信号に適用可能な
ものであるが、説明の便宜のために、以下、音声認識を
例に説明する。

【０００３】先ずＨＭＭを用いた音声認識装置について
説明する。（図２）は、ＨＭＭを用いた音声認識装置の
ブロック図である。２０１は音声分析部であって、入力
音声信号をフィルタバンク、フーリエ変換、ＬＰＣ分析
等の周知の方法により、一定時間間隔（フレームと呼
ぶ）例えば１０msec毎に特徴ベクトルに変換する。従っ
て、入力音声信号は特徴ベクトルの系列Ｙ＝(ｙ(１)，
ｙ(２),・・・,ｙ(Ｔ))に変換される。Ｔはフレーム数であ
る。２０２はコードブックと呼ばれるもので、ラベル付
けされた代表ベクトルを保持している。２０３はベクト
ル量子化部であって、前記ベクトル系列Ｙのそれぞれの
ベクトルをそれに最も近い前記コードブックに登録され
ている代表ベクトルに対応するラベルに置き換えるもの
である。２０４はＨＭＭ作成部であって、訓練データか
ら認識語彙たる各単語に対応するＨＭＭを作成するもの
である。即ち、単語ｗに対応するＨＭＭを作るには、先
ず、ＨＭＭの構造（状態数やそれら状態の間に許される
遷移規則）を適当に定め、然る後に前記の如くして単語
ｗを多数回発声して得られたラベル系列から、それらラ
ベル系列の発生確率が出来るだけ高くなるように、前記
モデルにおける状態遷移確率や状態の遷移に伴って発生
するラベルの発生確率を求めるものである。２０５はＨ
ＭＭ記憶部であって、このようにして得られたＨＭＭを
各単語毎に記憶するものである。２０６は尤度計算部で
あって、認識すべき未知入力音声のラベル系列に対し、
前記ＨＭＭ記憶部２０５に記憶されているそれぞれのモ
デルの前記ラベル系列に対する尤度を計算するものであ
る。２０７は比較判定部であって尤度計算部２０６で得
られた前記それぞれのモデルの尤度の最大値を与えるモ
デルに対応する単語を認識結果として判定するものであ
る。

【０００４】（図３）は離散確率分布型ＨＭＭの一例で
ある。状態ｑ_iから状態ｑ_jへの遷移確率ａ_ijと、状態ｑ
_iにおけるラベルＣ_mの発生確率ｂ_i(Ｃ_m)が定義されてい
る。観測されたラベル系列の、このＨＭＭから発生する
確率は、Forward-Backward法やViterbi法により求めら
れる。

【０００５】ＨＭＭによる認識は具体的には次のように
して行われる。即ち、未知入力に対して得られたラベル
系列をＯ＝(ｏ(１),ｏ(２),・・・,ｏ(Ｔ))、単語ｗに対応
したモデルをλ^wとし、モデルλ^wにより発生される長さ
Ｔの任意の状態系列をＸ＝(ｘ(１),ｘ(２),・・・,ｘ(Ｔ))
とするとき、λ^wのラベル系列Ｏに対する尤度は〔厳密解〕

【０００６】

【数１】

【０００７】〔近似解〕

【０００８】

【数２】

【０００９】または、対数をとって

【００１０】

【数３】

【００１１】等で定義される。ここで、Ｐ(ｘ,ｙ|λ^w)
は、モデルλ^wにおけるｘ,ｙの同時確率である。

【００１２】従って、例えば、（数１）を用いれば

【００１３】

【数４】

【００１４】とするとき、ｗ^が認識結果となる。（数
２），（数３）を用いるときも同様である。

【００１５】Ｐ(Ｏ,Ｘ|λ) は次のようにして求められ
る。いま、ＨＭＭλの状態ｑ_i(ｉ＝１〜Ｉ)毎に、ラベ
ルｏの発生確率ｂ_i(ｏ)と状態ｑ_i(ｉ＝１〜Ｉ)から状態
ｑ_j(ｊ＝１〜Ｉ＋１)への遷移確率ａ_ijが与えられてい
るとき、状態系列Ｘ＝(ｘ(１),ｘ(２),・・・,ｘ(Ｔ＋１))
とラベル系列Ｏ＝(ｏ(１),ｏ(２),・・・,ｏ(Ｔ))のＨＭＭ
λから発生する同時確率は

【００１６】

【数５】

【００１７】と定義出来る。ここでπ_x(1)は状態ｘ(１)
の初期確率である。また、ｘ(Ｔ＋１)＝Ｉ＋１は最終状
態であって、如何なるラベルも発生しないとする。

【００１８】この例では入力の特徴ベクトルｙ(ｔ)をラ
ベルｏ(ｔ)に変換したが、各状態におけるラベルの発生
確率の代りに特徴ベクトルｙ(ｔ)をそのまま用い、各状
態において特徴ベクトルｙ(ｔ)の確率密度関数を与える
方法もある。このときは（数５）における前記ラベルｏ
(ｔ)の状態ｑ_iにおける発生確率ｂ_i(ｏ(ｔ))の代わり
に特徴ベクトルｙ(ｔ)の確率密度ｂ_i(ｙ(ｔ))を用いる
ことになる（以後、ｚがラベルのときはｂ_i(ｚ)はｚが
状態ｉにおいて生じる確率、ｚがベクトルのときはｂ
_i(ｚ)は状態ｉにおけるｚの確率密度を意味するものと
する）。このときは、前記（数１）（数２）（数３）は
次のようになる。〔厳密解〕

【００１９】

【数６】

【００２０】〔近似解〕

【００２１】

【数７】

【００２２】または、対数をとれば次式が得られる。

【００２３】

【数８】

【００２４】以上、何れの方式を用いるにしても最終的
な認識結果は、それぞれの単語ｗに対してＨＭＭλ^wを
ｗ＝１〜Ｗについて準備しておけば、入力音声信号Ｙ
に対して最大の尤度を与えるλ^wに対応するｗが認識結
果となる。

【００２５】

【発明が解決しようとする課題】前記従来例において、
入力特徴ベクトルをラベルに変換するものを離散確率分
布ＨＭＭ、入力特徴ベクトルをそのまま用いるものを連
続確率分布ＨＭＭと呼ぶことにする。このとき、これら
両者の特徴は次のようである。

【００２６】離散確率分布ＨＭＭは、入力ラベル系列に
対するモデルの尤度の計算において、各状態でのラベル
Ｃ_m（ｍ＝１,・・・,Ｍ）の発生確率ｂ_i(Ｃ_m)はラベルに関
連して予め記憶されている記憶装置から読み出すことで
実行できるから計算量が非常に少ないと言う利点がある
反面、量子化に伴う誤差のため、認識精度が悪くなると
言う欠点がある。これを避けるためにラベル数（クラス
タ数）Ｍを多くする必要があるが、その増加に伴ってモ
デルを学習するために必要な学習パターン数が膨大にな
る。学習パターン数が不十分な場合は、前記ｂ_i(Ｃ_m)が
頻繁に０になることがあり、正しい推定が出来なくな
る。例えば、次のようなことが生じる。

【００２７】コードブックの作成は、認識すべき全ての
単語について多数の話者の発声音声を特徴ベクトル系列
に変換し、この特徴ベクトルの集合をクラスタリング
し、それぞれのクラスタにラベリングすることによって
行われる。それぞれのクラスタは、セントロイドと呼ば
れるそのクラスタの代表ベクトルを持ち、通常これは各
々のクラスタに分類されたベクトルの期待値である。コ
ードブックは、これらセントロイドを前記ラベルで検索
可能な形で記憶したものである。

【００２８】いま、前記認識語彙の中に、例えば「大
阪」と言う単語があって、これに対応するモデルを作る
場合を考える。多数話者が発声した単語「大阪」に対応
する音声サンプルが特徴ベクトル列に変換され、各々の
特徴ベクトルが前記セントロイドと比較され、最近隣の
セントロイドがその特徴ベクトルの量子化されたものと
なり、それに対応するラベルがその特徴ベクトルの符号
化出力となる。このようにして、前記「大阪」に対する
各々の音声サンプルは、ラベル系列に変換される。得ら
れたラベル系列から、それらラベル系列に対する尤度が
最大になるようにＨＭＭのパラメータを推定することに
より、単語「大阪」に対応するモデルが出来上がる。こ
の推定には周知のBaum-Welch法等が用いられ得る。

【００２９】この場合、前記コードブックにあるラベル
の中には、単語「大阪」に対応する学習ラベル系列の中
には含まれていないラベルが有り得る。このような場合
は、この含まれていないラベルの発生確率は「大阪」に
対応するモデルにおいては学習の過程で“０”と推定さ
れてしまう。従って、認識の時に発声される「大阪」と
言う単語が変換されたラベル系列の中に、たまたま前記
「大阪」のモデルの作成に用いたラベル系列には含まれ
ていないラベルが存在することは十分有り得ることであ
り、その場合は、この認識時に発声された「大阪」のラ
ベル系列が前記「大阪」のモデルから発生する確率は
“０”になってしまう。ところが、このような場合で
も、ラベルとしては異なっていても、ラベルに変換され
る前の特徴ベクトルの段階ではモデルの学習に用いた音
声サンプルとかなり近く、ベクトルの段階で見れば十分
「大阪」と認識されても良い場合がある。もともと同じ
単語を発声しているのであるからベクトルのレベルでは
似通っているにも関わらず、ラベルのレベルでは僅かの
差で全く異なったラベルに変換されてしまうということ
は十分起こり得るのであって、このようなことが認識精
度に悪影響を及ぼすことは容易に想像がつく。クラスタ
数Ｍが増加する程、訓練データ数が少ない程このような
問題は頻繁に生じることになる。

【００３０】この欠点を除去するためには、訓練集合に
は現れてこない（含まれていない）ラベルに対して、平
滑化や補完を行う等の工夫が必要となる。「結び」と呼
ばれる概念を用いてパラメータ数を減少させる工夫をは
じめとして、０確率が推定される場合はそれを０にせず
に微小量に置き換えたり、ファジイベクトル量子化等の
ようにクラスタの境界をぼかしたりする方法等、平滑化
や補完を行う方法が種々提案されている。中でもファジ
ィベクトル量子化に基づくＨＭＭは、ヒューリスティッ
クな要素が少なく、理論的にもすっきりしていて、アル
ゴリズミックに実現できる方法であるが、従来提案され
ているものは数学的な意味で近似的なものであった。

【００３１】

【課題を解決するための手段】訓練ベクトル集合をクラ
スタリングして得られた各クラスタの発生確率を記憶す
るクラスタ発生確率記憶手段と、入力ベクトルの前記各
クラスタに対する帰属度ベクトルを算出する帰属度ベク
トル算出手段と、前記各クラスタ発生確率の対数値の、
前記入力ベクトルに対する前記帰属度による、荷重和を
算出する荷重和算出手段とを備え、該荷重和を前記入力
ベクトルの発生確率の対数値とすることを特徴とする構
成である。

【００３２】

【作用】クラスタ発生確率記憶手段により訓練ベクトル
集合をクラスタリングして得られた各クラスタの発生確
率を記憶し、帰属度ベクトル算出手段により入力ベクト
ルの前記各クラスタに対する帰属度ベクトルを算出し、
荷重和算出手段により前記各クラスタ発生確率の対数値
の、前記入力ベクトルに対する前記帰属度による荷重和
を算出し、該荷重和を前記入力ベクトルの発生確率の対
数値とするものである。

【００３３】

【実施例】ここで、以後用いるべき記号の定義をまとめ
ておく。簡単のために、誤解を生じない限り、状態
ｑ_i，ｑ_j等は単にｉ，ｊ等と表記することにする。ま
た、モデルの学習は１つの単語について行う場合を述べ
ることとし、モデル間で区別する必要のある場合は、モ
デルに対応する番号をパラメータの右肩に添字として付
加することとし、通常はこれを省くものとする。

【００３４】ｉ＝１,２,・・・,Ｉ＋１：第ｉ番の状態 [ａ_ij]：遷移マトリクスａ_ij：状態ｉから状態ｊへの遷移確率ｒ：作成すべきモデルに対する訓練パターン番号(ｒ＝
１,・・・,Ｒ) ｙ^(r)(ｔ)：訓練パターンｒの第ｔフレームにおける観
測ベクトルｏ^(r)(ｔ)：訓練パターンｒの第ｔフレームにおける観
測ラベルｂ_i(ｙ^(r)(ｔ))：訓練パターンｒのフレームｔの観測ベ
クトルｙ^(r)(ｔ)の状態ｉにおける確率密度Ｙ^(r)＝(ｙ^(r)(１),ｙ^(r)(２),・・・,ｙ^(r)(Ｔ^(r)))：訓
練パターンｒのベクトル系列(ただし、ｒ＝１,２,・・・,
Ｒ) Ｏ^(r)＝(ｏ^(r)(１),ｏ^(r)(２),・・・,ｏ^(r)(Ｔ^(r)))：訓
練パターンｒのラベル系列(ただし、ｒ＝１,２,・・・,Ｒ) Ｘ^(r)＝(ｘ^(r)(１),ｘ^(r)(２),・・・,ｘ^(r)(Ｔ^(r)),ｘ^(r)
(Ｔ^(r)＋１))：X^(r)またはＯ^(r)に対応する状態系列ｘ^(r)(ｔ)：単語ｗに対する第ｒ番の訓練パターンの第
ｔフレームにおける状態Ｔ^(r)：単語ｗに対する第ｒ番の訓練パターンのフレー
ム数 λ_i＝［{ａ_ij}_{j=1,・・・,I+1}，{ｂ_i(Ｃ_m)}_{m=1,・・・,M}]：状
態ｉのパラメータの集合Ｓ_m：第ｍクラスターに含まれるベクトル集合Ｃ_m：第ｍ番のクラスター名（ラベル）ｃ_m：Ｃ_m従ってＳ_mのセントロイド（Ｓ_mの重心ベクト
ル）ｂ_i(Ｃ_m)：訓練パターンｒのフレームｔの観測ラベルＣ
_mの状態ｉにおける発生確率 λ＝{λ_i}：全パラメータの集合(λをパラメータとする
モデルをモデルλとも呼ぶ) Ｐ(Ｙ|λ)：観測ベクトル系列Ｙがモデルλから発生す
る確率密度Ｐ(Ｏ|λ)：観測ラベル系列Ｏがモデルλから発生する
確率 π_i：状態ｉがｔ＝１で生じる確率先ず、離散確率分布ＨＭＭを学習する方法について述べ
る。

【００３５】離散確率分布ＨＭＭでは、ベクトル系列か
らなる訓練パターンを構成する各ベクトルはベクトル量
子化（Ｖector Ｑuantize）され、ラベル系列に変換さ
れるそこで、先ず、ＶＱについて簡単に説明する。

【００３６】（１）コードブックの作成取り扱うべき信号の多数の訓練集合から特徴抽出を行
い、特徴ベクトル集合を得（前記訓練パターンを構成す
るベクトル等）、この特徴ベクトル集合をクラスタリン
グし、Ｍ個のクラスタＳ₁,・・・,Ｓ_Mと各々のクラスタの
重心ベクトル（セントロイド）ｃ₁,・・・,ｃ_Mを得、ｍ＝
１,・・・,Ｍについて、ｍにより参照可能な形でｃ_mを記憶
する。これをコードブックという。

【００３７】（２）ベクトル量子化・符号化符号化すべきベクトルｙをベクトルｃ₁,・・・,ｃ_Mの何れ
かで近似することをベクトル量子化と言い、ｙがｃ_mに
量子化されたとき、ｙをラベルＣ_mに置き換えることを
ｙをＣ_mに符号化すると言う。ベクトル系列ｙ(１),・・・,
ｙ(Ｔ)は通常次のような方法でラベル系列ｏ(１),・・・,
ｏ(Ｔ)に変換される。

【００３８】符号化すべき信号から（１）で行ったのと
同様の方法により特徴抽出を行い、特徴ベクトル列ｙ
(１),ｙ(２),・・・,ｙ(Ｔ)を得たとする。ｙ(ｔ)とｃ_mと
の距離をｄ(ｙ(ｔ),ｃ_m)とするとき、

【００３９】

【数９】

【００４０】をｙ(ｔ)の符号化出力であるとする（ｏ
(ｔ)∈｛１,２,・・・,Ｍ｝）。ｄ(ｙ(ｔ),ｃ_m)としては、
ユークリッドノルム等が用いられる。

【００４１】前記クラスタリングには、フルサーチクラ
スタリング、バイナリーツリークラスタリング等の方法
があり、それぞれについて種々の方法が考えられてい
る。例えば、フルサーチクラスタリングの一つとして、
次のようにして行うものがある。訓練ベクトル集合を
ｖ₁,ｖ₂,・・・,ｖ_Nとする。

【００４２】（１）任意にＭ個のベクトルｃ₁,・・・,ｃ_M
を定める。（２）ｍ＝１,・・・,Ｍについて

【００４３】

【数１０】

【００４４】を計算する。（３）ｍ＝１,・・・,Ｍについて、クラスタＳ_mのセントロ
イドを求め、各々を各クラスタの新たなセントロイドと
してｃ_mを更新する。即ち、

【００４５】

【数１１】

【００４６】ただし、本式において、|Ｓ_m|はＳ_mの要素
数を意味するものとする。（４）収束条件を検査し、それが満たされていれば完了
し、満たされていない場合はステップ（２）に戻る。

【００４７】収束条件としては、ａ）歪の減少率がそれ
に関して設けた閾値ε以下になった場合、ｂ）ステップ
（２）〜（４）の繰り返しの回数がそれに関して設けた
制限Ｉに到達した場合等が採用される。ａ）については
例えば次のように実行され得る。即ち、ステップ（２）
〜ステップ（４）の第ｉ番の繰り返しにおいて得られる
歪量

【００４８】

【数１２】

【００４９】を定義し、予め定めた小さな数εに対して ε＞｜Ｄ(ｉ−１)−Ｄ(ｉ)｜／Ｄ(ｉ) となれば、収束したと見なす等である。

【００５０】以上説明したクラスタリングは、後に説明
するファジィクラスタリングがソフトクラスタリングと
呼ばれるのに対してハードクラスタリングと呼ばれるこ
とがある。

【００５１】離散ＨＭＭ作成の問題は、ある認識単位
（単語等）に対し、準備されたｒ＝１〜Ｒの訓練パター
ンから尤度関数Ｐ(Ｏ⁽¹⁾,Ｏ⁽²⁾,・・・,Ｏ^(R)|λ)を最大に
する前記ＨＭＭを規定するパラメータλを推定すること
である。

【００５２】Ｏ^(r)が互いに独立であるとすれば、前記
尤度関数は

【００５３】

【数１３】

【００５４】で与えられる。ここで、次の補助関数Ｑ
(λ,λ')を定義する。

【００５５】

【数１４】

【００５６】このとき、次のことが言える。「Ｑ(λ,
λ')≧Ｑ(λ,λ)なら、Ｐ(Ｏ⁽¹⁾,…,Ｏ^(R)|λ')≧Ｐ(Ｏ
⁽¹⁾,…,Ｏ^(R)|λ)であって、等号はλ'＝λの時に成り
立つ。」故に、

【００５７】

【数１５】

【００５８】を求めることが出来れば、λ^*→λとして
（数１５）を繰り返し適用することによって、λはＰ
(Ｏ⁽¹⁾,…,Ｏ^(R)|λ)の停留点、即ち、Ｐ(Ｏ⁽¹⁾,…,Ｏ
^(R)|λ)の極大値または鞍点を与える点に収束すること
になる。Ｐ(Ｏ⁽¹⁾,…,Ｏ^(R)|λ)の変化率が予め定めた
閾値以下になるまでこの操作を繰り返すことにより局所
最適解が得られる。

【００５９】このＱ(λ,λ')を用いてパラメータを推定
する方法について説明する。（数１４）を変形すれば、
次式が得られる。

【００６０】

【数１６】

【００６１】前述の説明から、Ｑ(λ,λ')をλ'の関数
と見なしてＱ(λ,λ')＞Ｑ(λ,λ)なるλ'を見出せば、
それはλの更新されたものとなるが、Ｐ(Ｏ⁽¹⁾,・・・,Ｏ
^(R)|λ)はλ'に関しては一定値となるから、これを取り
除いて

【００６２】

【数１７】

【００６３】とするとき、前記求むべきλ'を見出すこ
とはＱ'(λ,λ')＞Ｑ'(λ,λ)なるλを見出すことと同
様である。

【００６４】ここで

【００６５】

【数１８】

【００６６】

【数１９】

【００６７】ここで、δ(ｉ,ｊ)はいわゆるクロネッカ
ーのデルタで、ｉ＝ｊのときδ(ｉ,ｊ)＝１、ｉ≠ｊの
ときδ(ｉ,ｊ)＝０である。各パラメータの再推定値はL
agrangeの未定乗数法によって導かれる。

【００６８】右辺第１項からπ_i'について

【００６９】

【数２０】

【００７０】の条件のもとで最大化すればπ_iの再推定
値π_i ^*は

【００７１】

【数２１】

【００７２】右辺第２項からａ_ij'について

【００７３】

【数２２】

【００７４】なる条件のもとで最大化すればａ_ijの再推
定値ａ_ij ^*は

【００７５】

【数２３】

【００７６】右辺第３項からｂ_i(Ｃ_m)'について

【００７７】

【数２４】

【００７８】の条件のもとに最大化すれば、ｂ_i(Ｃ_m)の
再推定値ｂ_i(Ｃ_m)^*は

【００７９】

【数２５】

【００８０】ここで、ξ^(r) _ij(ｔ)，γ^(r) _i(ｔ)は次の
ように計算される。即ち、

【００８１】

【数２６】

【００８２】とおけば、

【００８３】

【数２７】

【００８４】であって、

【００８５】

【数２８】

【００８６】

【数２９】

【００８７】なる漸化式が成り立つから、α^(r) ₁(０)＝
１としてパラメータλに適当な初期値を与え、ｔ＝１〜
Ｔ^(r)＋１，ｊ＝１〜Ｉ＋１について（数２８）に従っ
てα^(r) _j(ｔ)を、β^(r) _I+1(Ｔ^(r)＋１)＝１としてｔ＝
Ｔ^(r)＋１〜１、ｉ＝Ｉ〜１について（数２９）に従っ
てβ^(r) _i(ｔ)をそれぞれ順次計算して行けば、（数２
７）が計算できる。

【００８８】パラメータ推定の実際の計算手順は次のよ
うになる。（１）Ｌ₁＝∞ （２）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝１〜Ｍについ
て λ_i＝［{π_i}_{i=1,・・・,I}，{a_ij}_{j=1,・・・,I+1}，{ｂ
_i(Ｃ_m)}_{m=1,・・・,M}］に適当な初期値を与える。

【００８９】（３）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^(r), ｉ＝
１〜Ｉ，ｊ＝１〜Ｉ＋１について（数２８）（数２９）に従ってα^(r) _i(ｔ)，β^(r) _i(ｔ)
を（数２７）に従ってξ^(r) _ij(ｔ)，γ^(r) _i(ｔ)を求め
る。

【００９０】（４）Ｉ＝１〜Ｉについて（数２１）に従ってπ_iの再推定値π_i ^*を求める。

【００９１】（５）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１につい
て（数２３）に従ってａ_ijの再推定値ａ_ij ^*を求める。

【００９２】（６）ｉ＝１〜Ｉ，ｍ＝１〜Ｍについて（数２５）に従ってｂ_i(Ｃ_m)の再推定値ｂ_i(Ｃ_m)^*を求
める。

【００９３】（７）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝
１〜Ｍについて π_i＝π_i ^*，ａ_ij＝ａ_ij ^*, ｂ_i(Ｃ_m)＝ｂ_i(Ｃ_m)^*なる代
入を行うことによって、再推定されたパラメータ集合λ
＝{λ_i}を得る。

【００９４】（８）step（７）で得たパラメータ集合λ
に対して

【００９５】

【数３０】

【００９６】を計算する。（９）|Ｌ₁−Ｌ₂|／Ｌ₁＞εならば、Ｌ₂＝Ｌ₁とおいて
ステップ（４）へ、そうでなければ終了。

【００９７】前記ステップ（９）におけるεは収束の幅
を決める適当に小さな正の数であって、その値は状況に
よって実用的な値が選ばれる。

【００９８】以上のようにして、離散確率分布ＨＭＭが
得られるが、前述のごとき欠点を有している。次に、前
記離散確率分布ＨＭＭを基にしてファジィクラスタリン
グ（ファジィベクトル量子化）によるＨＭＭ（ＦＶＱＨ
ＭＭ）を説明する。

【００９９】先ず、ファジィクラスタリングについて説
明する。表記の簡単のために、学習に用いる全ての単語
音声を構成するベクトルについて通し番号をつけ、ｙ₁,
・・・,ｙ_Nとし、ｙ_nのクラスタＳ_mへの帰属度（メンバシ
ップ値）をｕ_mnとする。通常のクラスタリング法では、
あるベクトルｙ_nがクラスタＳ_mに属している（ｕ_mn＝
１）か、属していないか（ｕ_mn＝０）だけを認めるのに
対して、ファジィクラスタリング法では、ｙ_nがいくつ
かのクラスタに異なる度合で帰属することを認めると言
うものである。

【０１００】具体的な方法の１つに、各クラスタＳ_mの
セントロイド（中心ベクトル、平均ベクトル）をｃ
_m（ｍ＝1,・・・,Ｍ)とし、ｙ_nとセントロイドｃ_mの非類似
度をｄ_mn＝ｄ(ｙ_n,ｃ_m)とするとき、

【０１０１】

【数３１】

【０１０２】を最小にするｕ_mnとｃ_mを見出すものがあ
る。目的関数Ｊをｃ_mとｕ_mnに関して偏微分し、条件

【０１０３】

【数３２】

【０１０４】を用いれば、Ｊを局所的に最小化するため
の必要条件が次の（数３０）（数３１）のように示され
る。

【０１０５】

【数３３】

【０１０６】

【数３４】

【０１０７】ここで、Ｆはいわゆるファジィネスを表
し、１＜Ｆである。Ｆ→∞のときは、ｍ＝１,・・・,Ｍに
ついて、ｕ_mn→１／Ｍになり、Ｆ→１のときは、

【０１０８】

【数３５】

【０１０９】であるから、

【０１１０】

【数３６】

【０１１１】となる。即ち、Ｆが増加するにつれてｙ_n
が何れのクラスタに属するかと言うことの曖昧性が増大
し、Ｆが１に近づくにつれて、ｙ_nの属するクラスタを
一意に決定するいわゆるハードクラスタリングに近づ
く。

【０１１２】ファジィクラスタリングの実際の手順は次
のようになる。（１）訓練ベクトル集合を適当にＳ₁,・・・,Ｓ_Mに分割
し、初期クラスタとする。

【０１１３】ｕ_mnを適当に初期化する。（２）各クラスタの平均ベクトルｃ_mを（数３０）に従
って求める。

【０１１４】（３）ｙ_n≠ｃ_mのとき、（数３１）によっ
てステップ（２）の結果を用いてｕ_mnを更新する。ｙ_n
＝ｃ_mのときは、ｍ＝ｎのときｕ_mn＝１，ｍ≠ｎのとき
ｕ_mn＝０とおく。

【０１１５】（４）収束条件を満足すれば処理を終了、
そうでなければステップ（２）へ戻る。

【０１１６】ステップ（４）における収束条件として
は、上記繰り返し計算において、繰り返し回数をｋとし
て更新される前のＪをＪ(ｋ)、更新された後のＪをＪ
(ｋ＋１)とするとき、|Ｊ(ｋ)−Ｊ(ｋ＋１)|／Ｊ(ｋ＋
１)が予め定めた収束判定値ε以下になった場合、ある
いは、適当に定めた繰り返し回数の上限をＫとしてｋ＝
Ｋとなったときを収束、何れにも達しない場合を非収束
とする等が考えられる。

【０１１７】以上の結果を用いてＦＶＱＨＭＭを構成す
る従来法は次のようなものであった。即ち、状態ｉにお
けるｙ^(r)(ｔ)の生起確率をω_i(ｙ^(r)(ｔ))とすると
き、

【０１１８】

【数３７】

【０１１９】とおき、（数２７）〜（数２９）における
ｂ_i(ｏ^(r)(ｔ))をω_i(ｙ^(r)(ｔ))で置き換え、（数２
５）を

【０１２０】

【数３８】

【０１２１】に置き換えたものである。この方法の問題
点は、結果的に

【０１２２】

【数３９】

【０１２３】という近似を行っていることである。即
ち、後に述べるように（数３７）の定義のもとに（数３
８）を導くには、（数３９）でなければならない。とこ
ろが一般に凸関数の性質から

【０１２４】

【数４０】

【０１２５】であって、等号が成立するのは、（１）は
あるｍについてｕ(ｙ^(r)(ｔ),Ｃ_m)＝１、その他のｍに
ついてはｕ(ｙ^(r)(ｔ),Ｃ_m)＝０の場合、（２）ｂ
_i(Ｃ_m)がｍに関わらずすべて等しい場合の何れかであ
る。従って、上の近似が良くなるのは前記Ｆが１に近
い、即ち、クラスタリングが前記ハードクラスタリング
に近い場合か、クラスタ数が少なくて、ｂ_i(Ｃ_m)の値が
ｍに関してあまり変動が無い場合に限られる。

【０１２６】本発明は以上の欠点を廃して、数学的に矛
盾の無いＦＶＱＨＭＭを提供するものである。即ち前記
ω_i(ｙ^(r)(ｔ))を次式で定義するものである。

【０１２７】

【数４１】

【０１２８】このようにおけば、（数１９）の右辺第３
項（Ｑ₃とおく）は、

【０１２９】

【数４２】

【０１３０】の代わりにlog ω_i(ｙ^(r)(ｔ))を代入した
ものとなり

【０１３１】

【数４３】

【０１３２】となる。即ち、（数４１）のように定義す
ることにより、ハードクラスタリングにおけるδ(ｏ^(r)
(ｔ),Ｃ_m)をｕ(ｙ^(r)(ｔ),Ｃ_m)に置き代えたことにな
る。このとき、前記説明から

【０１３３】

【数４４】

【０１３４】が言えるから、本発明によるファジィクラ
スタリングは、ハードクラスタリングの自然な拡張とな
っていることがわかる。

【０１３５】ｂ_i(Ｃ_m)の再推定値はＱ₃をｂ_i(Ｃ_m)'に関
して

【０１３６】

【数４５】

【０１３７】の条件のもとで最大化することにより得ら
れる。この手順を少し詳しく述べれば次のようになる。

【０１３８】Lagrangeの未定乗数をθとすれば、

【０１３９】

【数４６】

【０１４０】である。両辺をｂ_i(Ｃ_m)'倍し、ｍについ
て総和をとる。ｕ(ｏ^(r)(ｔ),Ｃ_m)のｍに関する総和は
１であるということにに注意すれば、

【０１４１】

【数４７】

【０１４２】となる。（数４７）を（数４６）に代入し
て整理すれば、

【０１４３】

【数４８】

【０１４４】が得られる。これは、（数３８）と同じ形
をしているものであるが、（数４１）のようにω_i(ｙ
^(r)(ｔ))を定義することによって導かれるべきものであ
り、（数３７）の定義からは導くことは出来ない。この
意味で、ω_i(ｙ(ｔ))を（数３７）で定義し、ｂ_i(Ｃ_m)
の再推定値を（数３８）で与えている従来例は（数３
９）の近似を行っていることになる。

【０１４５】本実施例では、観測ベクトルｙ(ｔ)から算
出されるクラスタＣ_mに対する荷重係数（帰属度）ｕ(ｙ
^(r)(ｔ),Ｃ_m)はファジィクラスタリングにおけるメンバ
シップ値として説明したが、例えば、クラスタＣ_mにお
けるｙ(ｔ)の条件付確率（密度）や前記メンバシップ値
のｎ乗（ｎは整数）等場合に応じて種々の定義が考えら
れる。この場合は、一般に、ｕ(ｙ^(r)(ｔ),Ｃ_m)のｍに
関する総和は１ではなく、この条件を考慮しなければ、
（数４８）は（数４９）のようになるのは明かである。

【０１４６】

【数４９】

【０１４７】他のパラメータの推定式は、ハードクラス
タリングの場合と同様であって、得られる結果も表記的
には（数２１）（数２３）と全く同じである。但し、
α，βの計算式（数２８）（数２９）が（数５０）のよ
うに変更され、（数２７）におけるξの計算式は（数５
１）のように変更される。

【０１４８】

【数５０】

【０１４９】

【数５１】

【０１５０】本発明による１つの単語に対するＨＭＭの
パラメータ推定の実際の計算手順は次のようになる。た
だし、全単語に対する訓練パターン集合から、既に、フ
ァジィクラスタリングは行われており、各クラスタＣ₁,
・・・,Ｃ_Mのセントロイドｃ₁,・・・,ｃ_Mは算出済みであると
する。

【０１５１】（１）Ｌ₁＝∞ （２）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝１〜Ｍについ
て λ_i＝［{π_i}_{i=1,・・・,I}，{a_ij}_{j=1,・・・,I+1}，{ｂ
_i(Ｃ_m)}_{m=1,・・・,M}］に適当な初期値を与える。

【０１５２】（３）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^(r)，ｍ＝
１,・・・,Ｍについてｕ(ｙ^(r)(ｔ),Ｃ_m）を求める。

【０１５３】（４）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^(r)，ｉ＝
１〜Ｉ＋１について（数４１）に従ってω_i(ｙ^(r)(ｔ))を求める。

【０１５４】（５）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^r, ｉ＝１
〜Ｉ，ｊ＝１〜Ｉ＋１について α^(r) _i(ｔ)，β^(r) _i(ｔ)を（数５０），ξ^(r) _ij(ｔ)，
γ^(r) _i(ｔ)を（数５２）に従って計算する。

【０１５５】（６）ｉ＝１〜Ｉについて（数２１）に従ってπ_iの再推定値π_i ^*を求める。

【０１５６】（７）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１につい
て（数２３）に従ってａ_ijの再推定値ａ_ij ^*を求める。

【０１５７】（８）ｉ＝１〜Ｉ，ｍ＝１〜Ｍについて（数４９）に従ってｂ_i(Ｃ_m)の再推定値ｂ_i(Ｃ_m)^*を求
める。

【０１５８】（９）ｉ＝１〜Ｉ，ｊ＝１〜Ｉ＋１，ｍ＝
１〜Ｍについて π_i＝π_i ^*，ａ_ij＝ａ_ij ^*，ｂ_i(Ｃ_m)＝ｂ_i(Ｃ_m)^*なる代
入を行うことによって、再推定されたパラメータ集合λ
＝{λ_i}を得る。

【０１５９】（１０）step（９）で得たパラメータ集合
λに対して

【０１６０】

【数５２】

【０１６１】を計算する。（９）|Ｌ₁−Ｌ₂|／Ｌ₁＞εならば、Ｌ₂＝Ｌ₁とおいて
ステップ（４）へ、そうでなければ終了。

【０１６２】（図１）は、本発明のＨＭＭ作成装置の一
実施例である。以下図面に従って説明する。

【０１６３】１０１は特徴抽出部であって、周知の方法
によって、単語ｗ（=1,…,Ｗ）に対応するモデル作成の
ために準備された訓練単語ｒ＝１〜Ｒ^wの音声信号を特
徴ベクトルの系列Ｙ^w(r)＝(ｙ^w(r)(１),ｙ^w(r)(２),…,
ｙ^w(r)(Ｔ^(r)))に変換するものである。

【０１６４】１０２は単語パターン記憶部であって、モ
デルλ^wを作成するための学習用単語を前記特徴ベクト
ル系列の形でＲ^w個記憶するものである。

【０１６５】１０３はファジィクラスタリング部であっ
て、訓練ベクトル集合から（数３２）（数３３）に従っ
てファジィクラスタリングするものである。

【０１６６】１０４はセントロイド記憶部であって、前
記ファジィクラスタリングの結果得られた各クラスタの
セントロイドが記憶される。このセントロイドは入力ベ
クトルの各クラスタに対する帰属度を算出するのに用い
られる。

【０１６７】１０５はバッファメモリであって、単語パ
ターン記憶部１０２に記憶されているｗに対する単語パ
ターンをＲ^w個取り出して一時的に記憶するものであ
る。

【０１６８】１０６はベクトル帰属度算出・記憶部であ
って、セントロイド記憶部１０４に記憶されているセン
トロイドからバッファメモリ１０５の出力ベクトルの各
クラスタに対する帰属度を（数３６）に従って算出する
ものである。

【０１６９】１０７はパラメータ推定部であって、前記
モデルλ^wを作成するステップ（１）〜（１０）を実行
し、単語ｗに対応するモデルλ^wを推定するものであ
る。

【０１７０】１０８は第１のパラメータ記憶部であっ
て、前記ステップ（９）で得られたパラメータの再推定
値を一次的に記憶するものである。パラメータ推定部１
０７はこのパラメータ記憶部１０８の値を用いて再推定
を行うものである。

【０１７１】１０９は単語ｗ＝１〜Ｗに対応するパラメ
ータを記憶する第２のパラメータ記憶部であって、前記
それぞれの単語ｗ＝１,・・・,Ｗに対応するパラメータ
が、パラメータ記憶部１,・・・,パラメータ記憶部Ｗにそ
れぞれ記憶される。即ち、それぞれの単語の各状態に対
応する遷移確率は、第１のパラメータ記憶部１０８から
読み出され、ｗ,ｉ,ｊで参照可能な形で記憶される。

【０１７２】以上のようにして、ＦＶＱＨＭＭが作成さ
れる。次に、以上のようなモデルを用いて実際の入力音
声を認識する方法及び装置について説明する。

【０１７３】（図４）はその認識装置のブロック図であ
る。以下、本図に従って説明する。４０１は特徴抽出部
であって、（図１）１０１と全く同様の構成・機能を有
するものである。

【０１７４】４０２はセントロイド記憶部であって、
（図１）のＨＭＭ作成装置のセントロイド記憶部に記憶
されている各クラスタのセントロイドが記憶されてい
る。

【０１７５】４０３はベクトル帰属度算出部であって、
特徴抽出部４０１の出力の特徴ベクトルｙ(ｔ)とセント
ロイド記憶部４０３に記憶されている前記それぞれのク
ラスタの代表ベクトルｃ_m（ｍ＝１,…,Ｍ）から、ｙ
(ｔ)をファジィベクトル量子化するものである。即ち、
（数３３）からｙ(ｔ)のクラスタＣ_mに対する帰属度ｕ
(ｙ(ｔ),Ｃ_m)（ｍ＝１,・・・,Ｍ）を算出する。即ち、ｙ
(ｔ)は帰属度ベクトル（ｕ(ｙ(ｔ),Ｃ₁),・・・,ｕ(ｙ
(ｔ),Ｃ_M))^Tに変換される。

【０１７６】４０４はパラメータ記憶部であって、（図
１）１０９と全く同様の構成・機能を有するものであっ
て、パラメータ記憶部ｗには、単語ｗ（=１,・・・,Ｗ）に
対応するモデルのパラメータ、π^w _i，ａ^w _ij，ｂ^w _i(Ｃ_m)
が記憶されている。

【０１７７】４０５は尤度計算部であって、ベクトル帰
属度算出部４０３の出力に得られる帰属度ベクトル列に
対する各モデルの尤度をパラメータ記憶部４０４の内容
を用いて計算するものである。即ち、尤度計算部ｗでは
パラメータ記憶部ｗの内容が用いられる。尤度の計算
は、モデルλ^wの状態ｉにおけるｙ(ｔ)の発生度合ω
^w _i(ｙ(ｔ))を（数４１）に準じて

【０１７８】

【数５３】

【０１７９】で与え、（数５）におけるｂ_i(ｏ(ｔ))を
ω^w _i(ｙ(ｔ))、ａ_ijをａ^w _ijとして、（数１）（数２）
（数３）等の何れかを用いて実行される。（数１）を計
算する場合は、（数２６）におけるＹ^(r)に対する

【０１８０】

【数５４】

【０１８１】の計算と全く同様に、入力パターンＹに対
するα^w _I+1(Ｔ＋１)を計算することになる。ＴはＹのフ
レーム数である。

【０１８２】（数２）（数３）を用いる場合は、周知の
Viterbi法によって尤度を求めることが出来る。漸化式
計算が足し算で済み、演算の途中でアンダーフロー等の
生じる心配の無い（数３）を用いる場合が普通であるの
で、ここでも、（数３）を用いる場合について説明す
る。

【０１８３】（１）初期値設定単語ｗの状態ｉの初期確率をπ^w _iとし、ｉ＝１,・・・,Ｉ
について（数５５）を実行

【０１８４】

【数５５】

【０１８５】（２）漸化式の計算ｔ＝２,・・・,Ｔ，ｊ＝１,・・・,Ｉについて（数５６）を実
行

【０１８６】

【数５６】

【０１８７】ステップ（３）におけるφ^w _I+1(Ｔ＋１)が
Ｙに対するモデルｗ（単語ｗ）の尤度である。

【０１８８】４０６は比較判定部であって、尤度計算部
４０５に含まれる尤度計算部１,・・・，Ｗの何れの出力が
最大であるかを比較判定し、それに対応する単語を認識
結果として出力する。即ち、

【０１８９】

【数５７】

【０１９０】を見出すものであって、これは（数４）に
相当する計算である。

【０１９１】

【発明の効果】以上のように、本発明は、学習に用いた
パターン集合を形成するベクトルの集合をファジィクラ
スタリングし、クラスタＣ_mの前記ＨＭＭの状態ｉにお
けるクラスタＣ_mの発生確率ｂ_i(Ｃ_m)と、入力ベクトル
ｙ(ｔ)の各クラスタへの帰属度とからｙ(ｔ)の状態ｉに
おける発生確率を算出するものであって、該発生確率の
対数値を前記ｂ_i(Ｃ_m)の対数値の前記帰属度の荷重和ま
たは荷重平均で表すところに特徴がある。このようにす
ることによって、離散型ＨＭＭにおける欠点である訓練
データの不足やその偏りによる推定誤差を解消し、離散
型ＨＭＭのもつ計算量が少ないというＦＶＱＨＭＭが本
来有している利点をもつモデルを、数学的に矛盾の無い
形で実現することが可能となった。

【０１９２】なお、本実施例においては、単語を認識す
るとして述べたが、単語を音韻や音節等に置き換えても
勿論よく、また、本発明は音声以外のパターンにも適用
出来るものである。

【図面の簡単な説明】

【図１】本発明によるＨＭＭのパラメータ推定を行う装
置の一実施例を示すブロック図

【図２】ＨＭＭを用いた音声認識装置の従来例を説明す
るブロック図

【図３】離散確率分布型ＨＭＭの構成を示すＨＭＭの構
成図

【図４】本発明の原理により構成されたＨＭＭを用いた
音声認識装置の一実施例を示すブロック図

【符号の説明】

１０１特徴抽出部１０２単語パターン記憶部１０３ファジィクラスタリング部１０４セントロイド記憶部１０５バッファメモリ１０６ベクトル帰属度・算出記憶部１０７パラメータ推定部１０８パラメータ記憶部１０９パラメータ記憶部

Claims

【特許請求の範囲】

【請求項１】訓練ベクトル集合をクラスタリングして得
られた各クラスタの発生確率を記憶するクラスタ発生確
率記憶手段と、入力ベクトルの前記各クラスタに対する
帰属度ベクトルを算出する帰属度ベクトル算出手段と、
前記各クラスタ発生確率の対数値の、前記入力ベクトル
に対する前記帰属度による、荷重和を算出する荷重和算
出手段とを備え、該荷重和を前記入力ベクトルの発生確
率または確率密度の対数値とすることを特徴とする時系
列信号処理装置。
【請求項２】請求項１記載の時系列信号処理装置により
得られるベクトルの発生確率に基づき、モデル化すべき
ベクトル系列からなるパターン集合の発生確率が最大に
なるように、該モデルのパラメータを推定するパラメー
タ推定手段を含むことを特徴とする隠れマルコフモデル
作成装置。
【請求項３】請求項１記載の時系列信号処理装置により
得られるベクトルの発生確率に基づき、モデル化すべき
ベクトル系列からなるパターン集合の発生確率が最大に
なるように、該モデルのパラメータを推定し、そのパラ
メータを記憶するモデルパラメータ記憶手段を備えたこ
とを特徴とする隠れマルコフモデル記憶装置。
【請求項４】請求項３記載のモデルパラメータ記憶手段
に記憶されている隠れマルコフモデルの、入力ベクトル
系列に対する尤度を算出することを特徴とする尤度計算
装置。
【請求項５】請求項３記載のモデルパラメータ記憶手段
を認識単位毎に設け、入力ベクトル系列に対する前記モ
デル毎の尤度を計算する請求項４記載の尤度計算手段
と、該尤度計算手段によって得られた前記モデル毎の尤
度を比較し、その最大値を与えるモデルに対応した認識
単位を認識結果とすることを特徴とする認識装置。