JPH0854893A - 帰属度算出装置およびｈｍｍ装置 - Google Patents
帰属度算出装置およびｈｍｍ装置Info
- Publication number
- JPH0854893A JPH0854893A JP6187472A JP18747294A JPH0854893A JP H0854893 A JPH0854893 A JP H0854893A JP 6187472 A JP6187472 A JP 6187472A JP 18747294 A JP18747294 A JP 18747294A JP H0854893 A JPH0854893 A JP H0854893A
- Authority
- JP
- Japan
- Prior art keywords
- degree
- cluster
- occurrence
- observation vector
- hmm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
(57)【要約】
【目的】 特徴ベクトルの各クラスタへの帰属度を現実
の世界に最も良く適合した形で算出する手段の実現。 【構成】 クラスタ数をＭ、観測ベクトルをｙとすると
き、階層型ニューラルネットワークからなり、その入力
層のユニットのそれぞれをｙの各要素に対応させ、出力
層の第ｍ番のユニットの出力をｙのクラスタｍ（＝
１,...,Ｍ）への帰属度あるいはクラスタｍのｙに対す
る事後確率（以後、これも含めて帰属度と呼ぶ）とな
す。
の世界に最も良く適合した形で算出する手段の実現。 【構成】 クラスタ数をＭ、観測ベクトルをｙとすると
き、階層型ニューラルネットワークからなり、その入力
層のユニットのそれぞれをｙの各要素に対応させ、出力
層の第ｍ番のユニットの出力をｙのクラスタｍ（＝
１,...,Ｍ）への帰属度あるいはクラスタｍのｙに対す
る事後確率（以後、これも含めて帰属度と呼ぶ）とな
す。
Description
【０００１】
【産業上の利用分野】本発明は音声認識装置に関するも
のである。
のである。
【０００２】
【従来の技術】ＨＭＭ（Hidden Markov Model）が音声
認識の分野で盛んに用いられるようになってきた。その
中の１つにファジィベクトル量子化に基づくＨＭＭ（Ｆ
ＶＱ／ＨＭＭ）がある。電子情報通信学会技術報告ＳＰ
９３−２７（１９９３年６月）には相乗型と相加型のＦ
ＶＱ／ＨＭＭが記載されており、特に相乗型ＦＶＱ／Ｈ
ＭＭは優れた性能を示すものとして注目に値する。
認識の分野で盛んに用いられるようになってきた。その
中の１つにファジィベクトル量子化に基づくＨＭＭ（Ｆ
ＶＱ／ＨＭＭ）がある。電子情報通信学会技術報告ＳＰ
９３−２７（１９９３年６月）には相乗型と相加型のＦ
ＶＱ／ＨＭＭが記載されており、特に相乗型ＦＶＱ／Ｈ
ＭＭは優れた性能を示すものとして注目に値する。
【０００３】（図１）（ａ）はＦＶＱ／ＨＭＭの一般的
な原理を説明するブロック図である。
な原理を説明するブロック図である。
【０００４】１００は特徴抽出部であって、認識すべき
入力音声は、例えば、１０msec毎に特徴ベクトルに変換
される。特徴量としては、例えばケプストラムおよびそ
の回帰係数等が最近では良く用いられる。
入力音声は、例えば、１０msec毎に特徴ベクトルに変換
される。特徴量としては、例えばケプストラムおよびそ
の回帰係数等が最近では良く用いられる。
【０００５】１０１はベクトル量子化部であって、前記
特徴ベクトルは帰属度ベクトルに変換される。１０２は
コードブックであって前記ベクトル量子化は、このコー
ドブックの情報に基づいて行われる。
特徴ベクトルは帰属度ベクトルに変換される。１０２は
コードブックであって前記ベクトル量子化は、このコー
ドブックの情報に基づいて行われる。
【０００６】コードブック１０２はコードブック作成用
の訓練ベクトル集合をＭのクラスタにクラスタリング
し、各クラスタにラベル付けし、前記各クラスタの代表
ベクトルをそのラベルで検索可能な形で記憶したもので
ある。ここで、前記訓練ベクトル集合は、予めコードブ
ック作成のために発声された種々の音声を、前記特徴抽
出部１００を用いて、もしくはそれと同様な動作をする
特徴抽出手段を用いて、別途特徴ベクトルに変換したも
のからなる。前記代表ベクトルは、通常は前記各クラス
タの平均ベクトルである。
の訓練ベクトル集合をＭのクラスタにクラスタリング
し、各クラスタにラベル付けし、前記各クラスタの代表
ベクトルをそのラベルで検索可能な形で記憶したもので
ある。ここで、前記訓練ベクトル集合は、予めコードブ
ック作成のために発声された種々の音声を、前記特徴抽
出部１００を用いて、もしくはそれと同様な動作をする
特徴抽出手段を用いて、別途特徴ベクトルに変換したも
のからなる。前記代表ベクトルは、通常は前記各クラス
タの平均ベクトルである。
【０００７】前記帰属度ベクトルは、各時点における特
徴ベクトルの前記各クラスタに対する帰属度を要素とす
るベクトルであって、時点ｔにおける特徴ベクトルをｙ
t、前記クラスタをＣ1,...,ＣMとし、ｙtのＣmに対する
帰属度をｕtmとすれば、ｙtが変換された帰属度ベクト
ルはｕt＝(ｕt1,...,ｕtM)Tとなる。以後本願において
はベクトルは縦ベクトルとし、Ｔは転置を表すこととす
る。ここに、ｕtmの定義としては種々考えられるが、Ｃ
mの代表ベクトルをμm、ｙtとμmのユークリッド距離を
ｄtm＝{(ｙt−μm)T(ｙt−μm)}1/2とするとき、例えば
徴ベクトルの前記各クラスタに対する帰属度を要素とす
るベクトルであって、時点ｔにおける特徴ベクトルをｙ
t、前記クラスタをＣ1,...,ＣMとし、ｙtのＣmに対する
帰属度をｕtmとすれば、ｙtが変換された帰属度ベクト
ルはｕt＝(ｕt1,...,ｕtM)Tとなる。以後本願において
はベクトルは縦ベクトルとし、Ｔは転置を表すこととす
る。ここに、ｕtmの定義としては種々考えられるが、Ｃ
mの代表ベクトルをμm、ｙtとμmのユークリッド距離を
ｄtm＝{(ｙt−μm)T(ｙt−μm)}1/2とするとき、例えば
【０００８】
【数１】
【０００９】と定義できる（J. G. Bezdek:“Pattern R
ecognition with Fuzzy ObjectiveFunction Algorith
m", Plenum Press, New York (1981).）。
ecognition with Fuzzy ObjectiveFunction Algorith
m", Plenum Press, New York (1981).）。
【００１０】計算量の削減のために、実際には、前記帰
属度は、全てのクラスタについて計算されるものではな
く、ｄtmが最小のクラスタからｋ番目に小さいクラスタ
について計算される。即ち、前記帰属度ベクトルｕtを
形成する要素は、帰属度の大きいクラスタの上位ｋ（k-
nearest neighbor）に関しては（数１）で計算された値
であり、他は０とされる。
属度は、全てのクラスタについて計算されるものではな
く、ｄtmが最小のクラスタからｋ番目に小さいクラスタ
について計算される。即ち、前記帰属度ベクトルｕtを
形成する要素は、帰属度の大きいクラスタの上位ｋ（k-
nearest neighbor）に関しては（数１）で計算された値
であり、他は０とされる。
【００１１】１０３はＨＭＭ記憶部であって、認識すべ
き単語や音節等の各認識単位ｗ＝１,...,Ｗに対応した
ＨＭＭを記憶したものである。１０４は尤度計算部であ
って、前記ベクトル量子化部の出力に得られる帰属度ベ
クトル系列から、前記各ＨＭＭの入力音声に対する尤
度、即ち、前記特徴ベクトルの系列ｙ1,...,ｙTが前記
各ＨＭＭから発生する度合を計算するものである。
き単語や音節等の各認識単位ｗ＝１,...,Ｗに対応した
ＨＭＭを記憶したものである。１０４は尤度計算部であ
って、前記ベクトル量子化部の出力に得られる帰属度ベ
クトル系列から、前記各ＨＭＭの入力音声に対する尤
度、即ち、前記特徴ベクトルの系列ｙ1,...,ｙTが前記
各ＨＭＭから発生する度合を計算するものである。
【００１２】１０５は判定部であって、
【００１３】
【数２】
【００１４】を計算し、ｗ*を認識結果とするものであ
る。（図１）（ｂ）はＨＭＭの原理を説明する説明図で
ある。ｑ1,...,ｑJ+1は状態、ａijは状態ｉから状態ｊ
への遷移確率、ωi(ｙt)は状態ｉにおけるｙtの発生度
合である。これらの記号を用いれば、特徴ベクトルの系
列ｙ1,...,ｙTがこのＨＭＭから発生する度合Ｌは（数
３）のようになる。ただし、Ｘ＝(ｘ1,ｘ2,...,ｘT+1＝
ｑJ+1)は状態系列であって、最終状態Ｊ＋１を仮定し、
時点Ｔ＋１で状態Ｊ＋１に到達するものとし、状態Ｊ＋
１においてはベクトルは発生しないとする。また、πi
はｔ＝１で状態ｉである確率、λは当該ＨＭＭのパラメ
ータ集合である。
る。（図１）（ｂ）はＨＭＭの原理を説明する説明図で
ある。ｑ1,...,ｑJ+1は状態、ａijは状態ｉから状態ｊ
への遷移確率、ωi(ｙt)は状態ｉにおけるｙtの発生度
合である。これらの記号を用いれば、特徴ベクトルの系
列ｙ1,...,ｙTがこのＨＭＭから発生する度合Ｌは（数
３）のようになる。ただし、Ｘ＝(ｘ1,ｘ2,...,ｘT+1＝
ｑJ+1)は状態系列であって、最終状態Ｊ＋１を仮定し、
時点Ｔ＋１で状態Ｊ＋１に到達するものとし、状態Ｊ＋
１においてはベクトルは発生しないとする。また、πi
はｔ＝１で状態ｉである確率、λは当該ＨＭＭのパラメ
ータ集合である。
【００１５】
【数３】
【００１６】尤度計算部１０４は、認識単位ｗに対応す
る尤度Ｌwをｗ＝１,...,Ｗについて（数３）に従って計
算するものであるが、前記ωi(ｙt)の定義の仕方によっ
て種々のＨＭＭが定義される。ここで問題としているＦ
ＶＱ／ＨＭＭはωi(ｙt)を原理的には次のように定義し
たものである。 （１）相乗型ＦＶＱ／ＨＭＭの場合
る尤度Ｌwをｗ＝１,...,Ｗについて（数３）に従って計
算するものであるが、前記ωi(ｙt)の定義の仕方によっ
て種々のＨＭＭが定義される。ここで問題としているＦ
ＶＱ／ＨＭＭはωi(ｙt)を原理的には次のように定義し
たものである。 （１）相乗型ＦＶＱ／ＨＭＭの場合
【００１７】
【数４】
【００１８】相乗型という呼称は（数４）後者の表現か
ら来ている。 （２）相加型ＦＶＱ／ＨＭＭ
ら来ている。 （２）相加型ＦＶＱ／ＨＭＭ
【００１９】
【数５】
【００２０】相加型という呼称は（数５）の表現から来
ている。ここで、ｂimは状態ｉにおけるクラスタｍの発
生確率、ｕtmはｙtのクラスタｍへの帰属度である。前
記のように実際には（数４）あるいは（数５）における
加算あるいは乗算は帰属度の上位Ｋクラスタのみで行わ
れるものであり、この場合は、（数４）（数５）は（数
６）（数７）のようになる。ただし、ｈ(ｋ)はｙ tがｋ
番目に帰属度の高いクラスタである。
ている。ここで、ｂimは状態ｉにおけるクラスタｍの発
生確率、ｕtmはｙtのクラスタｍへの帰属度である。前
記のように実際には（数４）あるいは（数５）における
加算あるいは乗算は帰属度の上位Ｋクラスタのみで行わ
れるものであり、この場合は、（数４）（数５）は（数
６）（数７）のようになる。ただし、ｈ(ｋ)はｙ tがｋ
番目に帰属度の高いクラスタである。
【００２１】
【数６】
【００２２】
【数７】
【００２３】実際の尤度計算は、（数３）をそのまま計
算するのではなく、Viterbi法がよく用いられ、対数化
して加算の形で用いられるのが普通である。即ち、
算するのではなく、Viterbi法がよく用いられ、対数化
して加算の形で用いられるのが普通である。即ち、
【００２４】
【数８】
【００２５】を計算し、Ｌ'を尤度とする。（数８）は
動的計画法によって効率的に計算することができる。即
ち、
動的計画法によって効率的に計算することができる。即
ち、
【００２６】
【数９】
【００２７】をφi(１)＝log πiとして、ｔ＝２,...,
Ｔ＋１、ｉ＝１,...,Ｊ＋１について漸化的に計算し、
Ｔ＋１、ｉ＝１,...,Ｊ＋１について漸化的に計算し、
【００２８】
【数１０】
【００２９】として求められる。認識結果としては、Ｌ
を用いてもＬ'を用いても大差がないということから、
認識においてはViterbi法を用いるのが一般的である。
なお、（数９）の漸化式の計算においてはlog ωj(ｙt)
の計算が必要であるが、相乗型の場合は、ｂimの代わり
にlog ｂimを記憶しておけば、（数６）前半の式を用い
ることにより、log ωj(ｙt)の計算は積和のみで済むか
ら、計算量的にも相乗型を用いるのが最も有利である。
を用いてもＬ'を用いても大差がないということから、
認識においてはViterbi法を用いるのが一般的である。
なお、（数９）の漸化式の計算においてはlog ωj(ｙt)
の計算が必要であるが、相乗型の場合は、ｂimの代わり
にlog ｂimを記憶しておけば、（数６）前半の式を用い
ることにより、log ωj(ｙt)の計算は積和のみで済むか
ら、計算量的にも相乗型を用いるのが最も有利である。
【００３０】
【発明が解決しようとする課題】前記従来例において
は、帰属度ｕtmは（数１）により計算している。これ
は、ファジィクラスタリングにおける目的関数
は、帰属度ｕtmは（数１）により計算している。これ
は、ファジィクラスタリングにおける目的関数
【００３１】
【数１１】
【００３２】を
【００３３】
【数１２】
【００３４】の条件のもとで最小化すると言う基準によ
り導かれたものである。然るに、（数１１）は、天下り
的に与えられたものであって、理論的あるいは実験的に
導かれたものではなく、実際の世界におけるモデルとし
て必ずしも最適であるとは言えない。
り導かれたものである。然るに、（数１１）は、天下り
的に与えられたものであって、理論的あるいは実験的に
導かれたものではなく、実際の世界におけるモデルとし
て必ずしも最適であるとは言えない。
【００３５】
【課題を解決するための手段】クラスタ数をＭ、観測ベ
クトルをｙとするとき、階層型ニューラルネットワーク
からなり、その入力層のユニットのそれぞれをｙの各要
素に対応させ、出力層の第ｍ番のユニットの出力をｙの
クラスタｍ（＝１,...,Ｍ）への帰属度あるいはクラス
タｍのｙに対する事後確率（以後、これも含めて帰属度
と呼ぶ）となしたことを特徴とする帰属度算出手段。
クトルをｙとするとき、階層型ニューラルネットワーク
からなり、その入力層のユニットのそれぞれをｙの各要
素に対応させ、出力層の第ｍ番のユニットの出力をｙの
クラスタｍ（＝１,...,Ｍ）への帰属度あるいはクラス
タｍのｙに対する事後確率（以後、これも含めて帰属度
と呼ぶ）となしたことを特徴とする帰属度算出手段。
【００３６】
【作用】クラスタ数をＭ、観測ベクトルをｙとすると
き、階層型ニューラルネットワークの入力層のユニット
のそれぞれをｙの各要素に対応させ、出力層の第ｍ番の
ユニットの出力をｙのクラスタｍ（＝１,...,Ｍ）への
帰属度あるいはクラスタｍのｙに対する事後確率（以
後、これも含めて帰属度と呼ぶ）となす。
き、階層型ニューラルネットワークの入力層のユニット
のそれぞれをｙの各要素に対応させ、出力層の第ｍ番の
ユニットの出力をｙのクラスタｍ（＝１,...,Ｍ）への
帰属度あるいはクラスタｍのｙに対する事後確率（以
後、これも含めて帰属度と呼ぶ）となす。
【００３７】
【実施例】前記文献において、Ｃmをクラスタｍとする
とき、ｕtmは事後確率Ｐ(Ｃm|ｙt)であると解釈でき、
ＦＶＱ／ＨＭＭはクラスタの事後確率を帰属度で定義し
たものであると解釈できることが述べられている。然ら
ば、この考え方を敷衍して、ｙtに対するＣmの事後確率
を別途何等かの方法で求めることが出来れば、これをＦ
ＶＱ／ＨＭＭの帰属度として用いることが出来るはずで
ある。
とき、ｕtmは事後確率Ｐ(Ｃm|ｙt)であると解釈でき、
ＦＶＱ／ＨＭＭはクラスタの事後確率を帰属度で定義し
たものであると解釈できることが述べられている。然ら
ば、この考え方を敷衍して、ｙtに対するＣmの事後確率
を別途何等かの方法で求めることが出来れば、これをＦ
ＶＱ／ＨＭＭの帰属度として用いることが出来るはずで
ある。
【００３８】一方、階層型ニューラルネットワークを、
入力層の各ユニットを識別すべき特徴ベクトルの要素の
それぞれに対応させ、出力層の第ｍユニットをクラスタ
ｍに対応させた構成とし、学習用ベクトル集合を用い
て、入力層に順次与えられるベクトルに対して、そのベ
クトルが帰属すべきクラスタに対応する出力層のユニッ
トの出力が１、他のユニットの出力が０になるように学
習しておけば、未知入力ｙtが入力されたときに第ｍユ
ニットの出力に得られる出力は、Ｐ(Ｃm|ｙt)に相当す
るという知見がある（栗田多喜夫："情報量基準による
３層ニューラルネットの隠れ層のユニット数の決定
法"，電子情報通信学会論分誌D-II，Vol.J73-D-II，No.
11，pp.1872-1878(1990年11月)）。本願発明はこの事実
を利用するものである。
入力層の各ユニットを識別すべき特徴ベクトルの要素の
それぞれに対応させ、出力層の第ｍユニットをクラスタ
ｍに対応させた構成とし、学習用ベクトル集合を用い
て、入力層に順次与えられるベクトルに対して、そのベ
クトルが帰属すべきクラスタに対応する出力層のユニッ
トの出力が１、他のユニットの出力が０になるように学
習しておけば、未知入力ｙtが入力されたときに第ｍユ
ニットの出力に得られる出力は、Ｐ(Ｃm|ｙt)に相当す
るという知見がある（栗田多喜夫："情報量基準による
３層ニューラルネットの隠れ層のユニット数の決定
法"，電子情報通信学会論分誌D-II，Vol.J73-D-II，No.
11，pp.1872-1878(1990年11月)）。本願発明はこの事実
を利用するものである。
【００３９】従って、モデル作成の手順は次のようにな
る。 (1)コードブックの作成 訓練ベクトル集合をクラスタリングしてＭ個のクラスタ
に分ける。各クラスタにはラベル１,...,Ｍが振られ、
そのラベルによって各クラスタのセントロイド、即ち、
各クラスタの代表ベクトルが検索可能な形で記憶され
る。具体的にはL.B.Gアルゴリズム等が用いられる。 (2)ニューラルネットワークの学習 ここで用いるべきニューラルネットワークは（図３）に
示す。本例は３層の場合である。それぞれ入力層、中間
層、出力層等と呼ばれる。○はユニットと呼ばれるもの
で、入出力特性は、入力層では１、中間層では１／{１
＋exp(−θ)}、出力層では１または１／{１＋exp(−
θ)}とする場合が多い。ここで、θは入力レベルであ
る。１／{１＋exp(−θ)}はシグモイド関数と呼ばれ
る。第ｕ層の第ｋユニットと第ｕ＋１層の第ｊユニット
の間は、重みｗu k u+1 jで結合され、第ｕ層の第ｋユニッ
トの出力をｏu kとすれば、第ｕ＋１層の第ｊユニットの
入力はｉ u+1 j＝Σk ｏu kｗu k u+1 jである。
る。 (1)コードブックの作成 訓練ベクトル集合をクラスタリングしてＭ個のクラスタ
に分ける。各クラスタにはラベル１,...,Ｍが振られ、
そのラベルによって各クラスタのセントロイド、即ち、
各クラスタの代表ベクトルが検索可能な形で記憶され
る。具体的にはL.B.Gアルゴリズム等が用いられる。 (2)ニューラルネットワークの学習 ここで用いるべきニューラルネットワークは（図３）に
示す。本例は３層の場合である。それぞれ入力層、中間
層、出力層等と呼ばれる。○はユニットと呼ばれるもの
で、入出力特性は、入力層では１、中間層では１／{１
＋exp(−θ)}、出力層では１または１／{１＋exp(−
θ)}とする場合が多い。ここで、θは入力レベルであ
る。１／{１＋exp(−θ)}はシグモイド関数と呼ばれ
る。第ｕ層の第ｋユニットと第ｕ＋１層の第ｊユニット
の間は、重みｗu k u+1 jで結合され、第ｕ層の第ｋユニッ
トの出力をｏu kとすれば、第ｕ＋１層の第ｊユニットの
入力はｉ u+1 j＝Σk ｏu kｗu k u+1 jである。
【００４０】ニューラルネットワークの学習は、学習用
入力ベクトルに対して所望の出力を教師信号として与え
ることにより、これら重み係数を決定することである。
これは実際の出力と所望の出力との２乗誤差を最小化す
る値として、繰り返し計算により求められる。本発明に
おいては具体的には次のようにして行う。
入力ベクトルに対して所望の出力を教師信号として与え
ることにより、これら重み係数を決定することである。
これは実際の出力と所望の出力との２乗誤差を最小化す
る値として、繰り返し計算により求められる。本発明に
おいては具体的には次のようにして行う。
【００４１】出力層の第ｋユニットの出力をｏU kとする
とき、上記クラスタリングにおいて、ｙn∈Ｃmの学習ベ
クトルに対して、ｏU k＝１（ｋ＝ｍ）、ｏU k＝０（ｋ≠
ｍ）となるように学習する。ただし、ｎ＝１,...,Ｎは
訓練ベクトルに付された通し番号である。このとき最小
化すべき目的関数は（数１３）のようになる。ただし、
δkmはクロネッカーのδであって、ｋ＝ｍのときはδkm
＝１、ｋ≠ｍのときはδkm＝０である。
とき、上記クラスタリングにおいて、ｙn∈Ｃmの学習ベ
クトルに対して、ｏU k＝１（ｋ＝ｍ）、ｏU k＝０（ｋ≠
ｍ）となるように学習する。ただし、ｎ＝１,...,Ｎは
訓練ベクトルに付された通し番号である。このとき最小
化すべき目的関数は（数１３）のようになる。ただし、
δkmはクロネッカーのδであって、ｋ＝ｍのときはδkm
＝１、ｋ≠ｍのときはδkm＝０である。
【００４２】
【数１３】
【００４３】（数１３）の最小化はバックプロパゲーシ
ョンと呼ばれる周知の方法によって計算される（省
略）。 (3)ＨＭＭの学習 ＨＭＭの学習は、初期確率πi、状態遷移確率ａij、ク
ラスタの発生確率ｂimを学習データ（単語などの認識単
位に対応して得られた特徴ベクトル系列の集合）から推
定することであって、Baum-Welchと呼ばれる周知の方法
によって行われ得る（省略）。この場合、本願発明の従
来のモデルと異なるところは（数４）〜（数７）におけ
るｕtmの計算を入力ｙtに対する前記ニューラルネット
ワークの出力とする点である。
ョンと呼ばれる周知の方法によって計算される（省
略）。 (3)ＨＭＭの学習 ＨＭＭの学習は、初期確率πi、状態遷移確率ａij、ク
ラスタの発生確率ｂimを学習データ（単語などの認識単
位に対応して得られた特徴ベクトル系列の集合）から推
定することであって、Baum-Welchと呼ばれる周知の方法
によって行われ得る（省略）。この場合、本願発明の従
来のモデルと異なるところは（数４）〜（数７）におけ
るｕtmの計算を入力ｙtに対する前記ニューラルネット
ワークの出力とする点である。
【００４４】単語１,...,Ｗを認識する場合は、単語
１,...,Ｗに対応した発声音声から学習用特徴ベクトル
系列群を得る。
１,...,Ｗに対応した発声音声から学習用特徴ベクトル
系列群を得る。
【００４５】認識の手順は次のようになる。 (1)尤度の計算 入力された音声に対するＨＭＭの尤度の計算法を説明す
る。（図２）は本発明による尤度計算装置の一実施例で
ある。尤度を計算すべきＨＭＭは上記のごとくして既に
計算され、ＨＭＭ記憶部２０４に記憶されている。２０
０は音声入力端子であって、認識すべき音声が入力され
る。２０１は特徴抽出部であって、例えば、１０msec毎
（フレームと呼ばれる）に特徴ベクトルｙtに変換され
る。ｔはフレーム番号である。特徴量としては、ＬＰＣ
やケプストラム等周知のものが用いられ、ｙtはこれら
の特徴量を要素とする通常１０数次元のベクトルであ
る。２０２は帰属度計算部であって、前述のごとく階層
型のニューラルネットワークで構成されており、ｙtの
各クラスタへの帰属度（ｙtに対する各クラスタの事後
確率）ｕtm＝Ｐ(Ｃm|ｙt)が計算される。２０３は尤度
計算部であって、前記帰属度に基づいて（数９）が計算
される。２０５は計算された尤度の出力端子である。 (2)認識 （図４）は本発明による音声認識装置の一実施例であ
る。２０６はＨＭＭ記憶部であって、認識単位１,...,
Ｗに対応したモデル、即ち、ＨＭＭ １,ＨＭＭ ２,...,
ＨＭＭ Ｗが記憶されている。２００〜２０３は（図
２）における同じ番号を付したブロックと同じ働きをす
るブロックである。ただし、２０３では帰属度計算部２
０３の出力に対してるＨＭＭ １,ＨＭＭ ２,..., ＨＭ
Ｍ Ｗすべてのモデルの尤度が計算される。２０７は判
定部であって、認識単位ｗに対する尤度をＬwとすると
き、（数２）を計算するものである。２０８は認識結果
ｗ*を出力する端子である。
る。（図２）は本発明による尤度計算装置の一実施例で
ある。尤度を計算すべきＨＭＭは上記のごとくして既に
計算され、ＨＭＭ記憶部２０４に記憶されている。２０
０は音声入力端子であって、認識すべき音声が入力され
る。２０１は特徴抽出部であって、例えば、１０msec毎
（フレームと呼ばれる）に特徴ベクトルｙtに変換され
る。ｔはフレーム番号である。特徴量としては、ＬＰＣ
やケプストラム等周知のものが用いられ、ｙtはこれら
の特徴量を要素とする通常１０数次元のベクトルであ
る。２０２は帰属度計算部であって、前述のごとく階層
型のニューラルネットワークで構成されており、ｙtの
各クラスタへの帰属度（ｙtに対する各クラスタの事後
確率）ｕtm＝Ｐ(Ｃm|ｙt)が計算される。２０３は尤度
計算部であって、前記帰属度に基づいて（数９）が計算
される。２０５は計算された尤度の出力端子である。 (2)認識 （図４）は本発明による音声認識装置の一実施例であ
る。２０６はＨＭＭ記憶部であって、認識単位１,...,
Ｗに対応したモデル、即ち、ＨＭＭ １,ＨＭＭ ２,...,
ＨＭＭ Ｗが記憶されている。２００〜２０３は（図
２）における同じ番号を付したブロックと同じ働きをす
るブロックである。ただし、２０３では帰属度計算部２
０３の出力に対してるＨＭＭ １,ＨＭＭ ２,..., ＨＭ
Ｍ Ｗすべてのモデルの尤度が計算される。２０７は判
定部であって、認識単位ｗに対する尤度をＬwとすると
き、（数２）を計算するものである。２０８は認識結果
ｗ*を出力する端子である。
【００４６】
【発明の効果】以上のようにして、実際のデータからク
ラスタの事後確率を計算するニューラルネットワークを
直接学習するようにしたので、より現実に近い形でｙt
に対する各クラスタの事後確率を得ることが出来、認識
率の向上が期待される。
ラスタの事後確率を計算するニューラルネットワークを
直接学習するようにしたので、より現実に近い形でｙt
に対する各クラスタの事後確率を得ることが出来、認識
率の向上が期待される。
【図１】従来のＦＶＱ／ＨＭＭの一実施例を示すブロッ
ク図
ク図
【図２】本発明による尤度計算の一実施例を示すブロッ
ク図
ク図
【図３】本発明による音声認識装置の一実施例を示す図
【図４】本発明による音声認識装置の一実施例を示すブ
ロック図
ロック図
１００ 特徴抽出部 １０１ ベクトル量子化部 １０２ コードブック １０３ ＨＭＭ記憶部 １０４ 尤度算出部 １０５ 判定部
Claims (15)
- 【請求項１】クラスタ数をＭ、観測ベクトルをｙとする
とき、階層型ニューラルネットワークからなり、その入
力層のユニットのそれぞれをｙの各要素に対応させ、出
力層の第ｍ番のユニットの出力をｙのクラスタｍ（＝
１,...,Ｍ）への帰属度あるいはクラスタｍのｙに対す
る事後確率（以後、これも含めて帰属度と呼ぶ）となし
たことを特徴とする帰属度算出装置。 - 【請求項２】クラスタｍ（＝１,...,Ｍ）の発生確率を
ｂm、観測ベクトルをｙ、ｙのクラスタｍへの帰属度を
ｕmとするとき、ｙの発生度合（ｙの観測される度合）
をｂmとｕmの関数として算出するものであって、ｕmは
請求項１記載の帰属度算出手段によって算出されること
を特徴とする観測ベクトル発生度合算出装置。 - 【請求項３】発生度合の対数値が、ｂmの対数値の、ｕm
を重みとする重み付き算術平均として算出することを特
徴とする請求項２記載の観測ベクトル発生度合算出装
置。 - 【請求項４】発生度合が、ｕmを重みとする、ｂmの重み
付き幾何平均として算出することを特徴とする請求項２
記載の観測ベクトル発生度合算出装置。 - 【請求項５】発生度合が、ｕmを重みとする、ｂmの重み
付き算術平均として算出することを特徴とする請求項２
記載の観測ベクトル発生度合算出装置。 - 【請求項６】隠れマルコフモデル（ＨＭＭ：Hidden Mar
kov Model）からなり、状態ｉにおけるクラスタｍ（＝
１,...,Ｍ）の発生確率をｂim、時点ｔにおける観測ベ
クトルをｙt、ｙtのクラスタｍへの帰属度をｕtmとする
とき、状態ｉにおけるｙtの発生度合（ｙtの観測される
度合）をｂimとｕtmの関数として算出する観測ベクトル
発生度合算出手段と、観測ベクトル系列ｙ1,ｙ2,...,ｙ
Tが前記ＨＭＭから発生する度合を前記観測ベクトル発
生度合算出手段の算出結果を用いて計算する観測ベクト
ル系列発生度合算出手段とを備え、ｕtmは、クラスタ数
をＭ、観測ベクトルをｙとするとき、階層型ニューラル
ネットワークからなり、その入力層のユニットのそれぞ
れをｙの各要素に対応させ、出力層の第ｍ番のユニット
の出力をｙのクラスタｍ（＝１,...,Ｍ）への帰属度と
なしたことを特徴とする帰属度算出装置（請求項１記載
の帰属度算出装置）によって算出されることを特徴とす
る尤度計算装置。 - 【請求項７】認識単位１,...,Ｗに対応したＷ個のＨＭ
Ｍと、隠れマルコフモデルｗの状態ｉにおけるクラスタ
ｍ（＝１,...,Ｍ）の発生確率をｂw im、時点ｔにおける
観測ベクトルをｙt、ｙtのクラスタｍへの帰属度をｕtm
とするとき、ＨＭＭ ｗの状態ｉにおけるｙtの発生度合
（ｙtの観測される度合）をｂw imとｕtmの関数として算
出する観測ベクトル発生度合算出手段と、観測ベクトル
系列ｙ1,ｙ2,...,ｙTがＨＭＭ ｗから発生する度合Ｌw
を前記観測ベクトル発生度合算出手段の算出結果を用い
てｗ＝１,...,Ｗについて計算する観測ベクトル系列発
生度合算出手段と、Ｌ1,...,ＬWのうちで最大となるｗ
を算出しそのｗを認識結果と判定する認識結果判定手段
とを備え、ｕtmは、クラスタ数をＭ、観測ベクトルをｙ
とするとき、階層型ニューラルネットワークからなり、
その入力層のユニットのそれぞれをｙの各要素に対応さ
せ、出力層の第ｍ番のユニットの出力をｙのクラスタｍ
（＝１,...,Ｍ）への帰属度となしたことを特徴とする
帰属度算出装置（請求項１記載の帰属度算出装置）によ
って算出されることを特徴とする認識装置。 - 【請求項８】発生度合の対数値が、ｂmの対数値の、ｕm
を重みとする重み付き算術平均として算出することを特
徴とする請求項７記載の認識装置。 - 【請求項９】発生度合が、ｕmを重みとする、ｂmの重み
付き幾何平均として算出することを特徴とする請求項７
記載の認識装置。 - 【請求項１０】発生度合が、ｕmを重みとする、ｂmの重
み付き算術平均として算出することを特徴とする請求項
７記載の認識装置。 - 【請求項１１】認識単位ｗのＨＭＭの状態ｉにおけるク
ラスタｍ（＝１,...,Ｍ）の発生確率をｂw im、時点ｔに
おける観測ベクトルをｙt、ｙtのクラスタｍへの帰属度
をｕtmとするとき、状態ｉにおけるｙtの発生度合（ｙt
の観測される度合）をｂw imとｕtmの関数として算出す
る観測ベクトル発生度合算出手段と、観測ベクトル系列
ｙ1,ｙ2,...,ｙTが前記ＨＭＭから発生する度合を前記
観測ベクトル発生度合算出手段の算出結果を用いて計算
する観測ベクトル系列発生度合算出手段と、認識単位ｗ
に対応するＨＭＭを認識単位ｗに対して準備された複数
の学習用観測ベクトル系列の、前記観測ベクトル系列発
生度合算出手段によって算出された発生度合を最大とな
すようにＨＭＭ ｗのパラメータを学習するパラメータ
学習手段とを備え、ｕtmは、クラスタ数をＭ、観測ベク
トルをｙとするとき、階層型ニューラルネットワークか
らなり、その入力層のユニットのそれぞれをｙの各要素
に対応させ、出力層の第ｍ番のユニットの出力をｙのク
ラスタｍ（＝１,...,Ｍ）への帰属度となしたことを特
徴とする帰属度算出装置（請求項１記載の帰属度算出装
置）によって算出されることを特徴とするＨＭＭ作成装
置。 - 【請求項１２】発生度合の対数値が、ｂmの対数値の、
ｕmを重みとする重み付き算術平均として算出すること
を特徴とする請求項１１に記載のＨＭＭ作成装置。 - 【請求項１３】発生度合が、ｕmを重みとする、ｂmの重
み付き幾何平均として算出することを特徴とする請求項
１１記載のＨＭＭ作成装置。 - 【請求項１４】発生度合が、ｕmを重みとする、ｂmの重
み付き算術平均として算出することを特徴とする請求項
１１記載のＨＭＭ作成装置。 - 【請求項１５】学習ベクトルの集合をクラスタリングす
るクラスタリング手段と、第ｍのクラスタに属する学習
ベクトルを入力とするとき、出力層の第ｍユニットの出
力を１、他の出力層のユニットの出力を０として重み係
数を学習することを特徴とする請求項１記載の帰属度算
出装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP18747294A JP3427500B2 (ja) | 1994-08-09 | 1994-08-09 | 帰属度算出装置およびｈｍｍ装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP18747294A JP3427500B2 (ja) | 1994-08-09 | 1994-08-09 | 帰属度算出装置およびｈｍｍ装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH0854893A true JPH0854893A (ja) | 1996-02-27 |
| JP3427500B2 JP3427500B2 (ja) | 2003-07-14 |
Family
ID=16206685
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP18747294A Expired - Fee Related JP3427500B2 (ja) | 1994-08-09 | 1994-08-09 | 帰属度算出装置およびｈｍｍ装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3427500B2 (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN100359507C (zh) * | 2002-06-28 | 2008-01-02 | 三星电子株式会社 | 用于执行观察概率计算的装置和方法 |
| JP2016156870A (ja) * | 2015-02-23 | 2016-09-01 | 日本電信電話株式会社 | 言語識別モデル学習装置、言語識別装置、言語識別モデル学習方法、言語識別方法、プログラム、および記録媒体 |
| WO2017149722A1 (ja) * | 2016-03-03 | 2017-09-08 | 三菱電機株式会社 | 演算装置および演算方法 |
-
1994
- 1994-08-09 JP JP18747294A patent/JP3427500B2/ja not_active Expired - Fee Related
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN100359507C (zh) * | 2002-06-28 | 2008-01-02 | 三星电子株式会社 | 用于执行观察概率计算的装置和方法 |
| JP2016156870A (ja) * | 2015-02-23 | 2016-09-01 | 日本電信電話株式会社 | 言語識別モデル学習装置、言語識別装置、言語識別モデル学習方法、言語識別方法、プログラム、および記録媒体 |
| WO2017149722A1 (ja) * | 2016-03-03 | 2017-09-08 | 三菱電機株式会社 | 演算装置および演算方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP3427500B2 (ja) | 2003-07-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2795058B2 (ja) | 時系列信号処理装置 | |
| US6434522B1 (en) | Combined quantized and continuous feature vector HMM approach to speech recognition | |
| US6490555B1 (en) | Discriminatively trained mixture models in continuous speech recognition | |
| JP3003276B2 (ja) | 信号解析装置 | |
| JP2002500779A (ja) | 識別訓練されたモデルを用いる音声認識システム | |
| Franco et al. | Context-dependent connectionist probability estimation in a hybrid hidden Markov model-neural net speech recognition system | |
| US5794190A (en) | Speech pattern recognition using pattern recognizers and classifiers | |
| Chien | Online hierarchical transformation of hidden Markov models for speech recognition | |
| Mohamed et al. | HMM/ANN hybrid model for continuous Malayalam speech recognition | |
| Fritsch et al. | Context-dependent hybrid HME/HMM speech recognition using polyphone clustering decision trees | |
| Zavaliagkos et al. | A hybrid continuous speech recognition system using segmental neural nets with hidden Markov models | |
| Kumar et al. | Comparative analysis of different feature extraction and classifier techniques for speaker identification systems: A review | |
| Wolfertstetter et al. | Structured Markov models for speech recognition | |
| Rigoll et al. | A new hybrid system based on MMI-neural networks for the RM speech recognition task | |
| JPH0854893A (ja) | 帰属度算出装置およびｈｍｍ装置 | |
| Hazen et al. | Using aggregation to improve the performance of mixture Gaussian acoustic models | |
| Neukirchen et al. | A continuous density interpretation of discrete HMM systems and MMI-neural networks | |
| EP0802523A2 (en) | Standard pattern production system employing information criterion | |
| Cook et al. | Utterance clustering for large vocabulary continuous speech recognition. | |
| Willett et al. | Hybrid NN/HMM-based speech recognition with a discriminant neural feature extraction | |
| Rojas et al. | Statistics and neural networks | |
| Rigoll et al. | Large vocabulary speaker-independent continuous speech recognition with a new hybrid system based on MMI-neural networks. | |
| Sharma et al. | Speech recognition using sub-word neural tree network models and multiple classifier fusion | |
| JP2961797B2 (ja) | 音声認識装置 | |
| JP2836968B2 (ja) | 信号解析装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |