JPH07334187A - 音声認識装置 - Google Patents
音声認識装置Info
- Publication number
- JPH07334187A JPH07334187A JP6129985A JP12998594A JPH07334187A JP H07334187 A JPH07334187 A JP H07334187A JP 6129985 A JP6129985 A JP 6129985A JP 12998594 A JP12998594 A JP 12998594A JP H07334187 A JPH07334187 A JP H07334187A
- Authority
- JP
- Japan
- Prior art keywords
- probability
- internal state
- calculating means
- feature vector
- hmm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
- G10L15/142—Hidden Markov Models [HMMs]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
(57)【要約】
【目的】 膨大なパラメータを必要とせず、余分な計算
も必要とせず、かつ発見法的でない統計理論に裏付けら
れた最適な認識・学習法に基づく音声認識装置を提案す
る。 【構成】 入力された音声を一定の時間間隔で分析し、
特徴ベクトルを抽出し、各認識対象カテゴリの標準パタ
ーンモデルの尤度値を算出して認識を行う音声認識装置
において、各認識対象カテゴリ毎に用意した、内部状態
番号を出力記号とする第一の隠れマルコフモデルが内部
状態番号を出力する確率を計算する第一の確率計算手段
と、内部状態番号間の遷移確率と内部状態番号毎の特徴
ベクトル出力確率分布を有する第二の隠れマルコフモデ
ルが特徴ベクトルを出力する確率を計算する第二の確率
計算手段と、第一および第二の確率計算手段の出力を用
いて、各認識対象カテゴリの標準パターンモデルの尤度
値を計算する尤度値計算手段を有することを特徴とす
る。
も必要とせず、かつ発見法的でない統計理論に裏付けら
れた最適な認識・学習法に基づく音声認識装置を提案す
る。 【構成】 入力された音声を一定の時間間隔で分析し、
特徴ベクトルを抽出し、各認識対象カテゴリの標準パタ
ーンモデルの尤度値を算出して認識を行う音声認識装置
において、各認識対象カテゴリ毎に用意した、内部状態
番号を出力記号とする第一の隠れマルコフモデルが内部
状態番号を出力する確率を計算する第一の確率計算手段
と、内部状態番号間の遷移確率と内部状態番号毎の特徴
ベクトル出力確率分布を有する第二の隠れマルコフモデ
ルが特徴ベクトルを出力する確率を計算する第二の確率
計算手段と、第一および第二の確率計算手段の出力を用
いて、各認識対象カテゴリの標準パターンモデルの尤度
値を計算する尤度値計算手段を有することを特徴とす
る。
Description
【０００１】
【産業上の利用分野】本発明は特徴ベクトルの時系列で
表された音声信号を自動認識するための音声認識装置に
関するものである。
表された音声信号を自動認識するための音声認識装置に
関するものである。
【０００２】
【従来の技術】音声認識の標準パターンモデルとして隠
れマルコフモデル（ＨＭＭ）が広く使われている。ＨＭ
Ｍについては文献１「書名：確率モデルによる音声認
識、著者：中川聖一、出版元：電子情報通信学会」に詳
しく解説されている。しかしＨＭＭでは異なる状態の出
力確率分布は互いに独立で相関を持たないため、状態遷
移部分においてＨＭＭがモデル化する音声パターンに不
可避的な不連続が生じてしまい、識別性能を低下させる
一因となっていた。図１はその様子を示している。図で
は各状態の出力確率分布としてガウス分布を用いた場合
を示した。その場合、ＨＭＭの表す音声パターンはガウ
ス分布の平均ベクトルのまわりに統計的に分布するが、
状態１から２への遷移、および状態２から３への遷移の
境界において、平均ベクトルに不連続があり、出力され
る音声パターンにもその不連続が現れてしまう。この問
題に対処するために、これまでに各状態に複数の出力確
率分布を対応させ、どの出力確率分布を使用するかを定
める係数を一時刻前に使用した出力確率分布に依存させ
る方法が提案されている（従来法１、文献２「著者：有
木、題名：二段階遷移混合分布型ＨＭＭ、書名：日本音
響学会講演論文集Ｉ、８５ページ、平成４年１０
月」）。このような相関を導入することにより、平均ベ
クトルの大きく異なる出力確率分布が連続して用いられ
ることを抑制することができ、先に指摘したＨＭＭの問
題点を除くことができる。しかし従来法１では必要な係
数の数が膨大になり、大量の音声データなしには学習が
困難で非実用的であった。また半連続型ＨＭＭの出力確
率分布の重み係数を、ベクトル量子化（ＶＱ）した入力
音声の符号列の連鎖確率（バイグラム）を用いて一時刻
前に使用した出力確率分布に依存させる方法も提案され
ている（従来法２、文献３「著者：高橋他、題名：半連
続型Ｂｉｇｒａｍ制約ＨＭＭの連続音声による評価、書
名：日本音響学会講演論文集Ｉ、１６１ページ、平成４
年１０月」）。しかし半連続型ＨＭＭの計算に加えて入
力音声をベクトル量子化し、重み係数を再計算する余分
な計算が必要になり、またその計算式も発見法的で統計
理論に基づいた最適な計算が行われていなかった。
れマルコフモデル（ＨＭＭ）が広く使われている。ＨＭ
Ｍについては文献１「書名：確率モデルによる音声認
識、著者：中川聖一、出版元：電子情報通信学会」に詳
しく解説されている。しかしＨＭＭでは異なる状態の出
力確率分布は互いに独立で相関を持たないため、状態遷
移部分においてＨＭＭがモデル化する音声パターンに不
可避的な不連続が生じてしまい、識別性能を低下させる
一因となっていた。図１はその様子を示している。図で
は各状態の出力確率分布としてガウス分布を用いた場合
を示した。その場合、ＨＭＭの表す音声パターンはガウ
ス分布の平均ベクトルのまわりに統計的に分布するが、
状態１から２への遷移、および状態２から３への遷移の
境界において、平均ベクトルに不連続があり、出力され
る音声パターンにもその不連続が現れてしまう。この問
題に対処するために、これまでに各状態に複数の出力確
率分布を対応させ、どの出力確率分布を使用するかを定
める係数を一時刻前に使用した出力確率分布に依存させ
る方法が提案されている（従来法１、文献２「著者：有
木、題名：二段階遷移混合分布型ＨＭＭ、書名：日本音
響学会講演論文集Ｉ、８５ページ、平成４年１０
月」）。このような相関を導入することにより、平均ベ
クトルの大きく異なる出力確率分布が連続して用いられ
ることを抑制することができ、先に指摘したＨＭＭの問
題点を除くことができる。しかし従来法１では必要な係
数の数が膨大になり、大量の音声データなしには学習が
困難で非実用的であった。また半連続型ＨＭＭの出力確
率分布の重み係数を、ベクトル量子化（ＶＱ）した入力
音声の符号列の連鎖確率（バイグラム）を用いて一時刻
前に使用した出力確率分布に依存させる方法も提案され
ている（従来法２、文献３「著者：高橋他、題名：半連
続型Ｂｉｇｒａｍ制約ＨＭＭの連続音声による評価、書
名：日本音響学会講演論文集Ｉ、１６１ページ、平成４
年１０月」）。しかし半連続型ＨＭＭの計算に加えて入
力音声をベクトル量子化し、重み係数を再計算する余分
な計算が必要になり、またその計算式も発見法的で統計
理論に基づいた最適な計算が行われていなかった。
【０００３】
【発明が解決しようとする課題】ＨＭＭにおいて状態遷
移境界で標準パターンに不連続が生じる問題点を解決す
る新しい音声認識装置を提案する。同じ問題点を解決す
るために「従来法１」と「従来法２」が知られている
が、本発明は「従来法１」のように膨大なパラメータを
必要とせず、また「従来法２」のように余分な計算も必
要とせず、かつ発見法的でない統計理論に裏付けられた
最適な認識・学習法に基づく音声認識装置を提案する。
移境界で標準パターンに不連続が生じる問題点を解決す
る新しい音声認識装置を提案する。同じ問題点を解決す
るために「従来法１」と「従来法２」が知られている
が、本発明は「従来法１」のように膨大なパラメータを
必要とせず、また「従来法２」のように余分な計算も必
要とせず、かつ発見法的でない統計理論に裏付けられた
最適な認識・学習法に基づく音声認識装置を提案する。
【０００４】
【課題を解決するための手段】本発明の音声認識装置
は、入力された音声を一定の時間間隔で分析し、特徴ベ
クトルを抽出し、各認識対象カテゴリの標準パターンモ
デルの尤度値を算出して認識を行う音声認識装置におい
て、各認識対象カテゴリ毎に用意した、内部状態番号を
出力記号とする第一の隠れマルコフモデルが内部状態番
号を出力する確率を計算する第一の確率計算手段と、内
部状態番号間の遷移確率と内部状態番号毎の特徴ベクト
ル出力確率分布を有する第二の隠れマルコフモデルが特
徴ベクトルを出力する確率を計算する第二の確率計算手
段と、第一および第二の確率計算手段の出力を用いて、
各認識対象カテゴリの標準パターンモデルの尤度値を計
算する尤度値計算手段を有することを特徴とする。
は、入力された音声を一定の時間間隔で分析し、特徴ベ
クトルを抽出し、各認識対象カテゴリの標準パターンモ
デルの尤度値を算出して認識を行う音声認識装置におい
て、各認識対象カテゴリ毎に用意した、内部状態番号を
出力記号とする第一の隠れマルコフモデルが内部状態番
号を出力する確率を計算する第一の確率計算手段と、内
部状態番号間の遷移確率と内部状態番号毎の特徴ベクト
ル出力確率分布を有する第二の隠れマルコフモデルが特
徴ベクトルを出力する確率を計算する第二の確率計算手
段と、第一および第二の確率計算手段の出力を用いて、
各認識対象カテゴリの標準パターンモデルの尤度値を計
算する尤度値計算手段を有することを特徴とする。
【０００５】また、本発明の音声認識装置は、前記尤度
値計算手段において、入力音声特徴ベクトル時系列の時
間軸上の各時刻と、各認識対象カテゴリの第一の隠れマ
ルコフモデルの各状態において、最大の尤度値を与える
内部状態番号のみを残して尤度値計算処理を進めること
を特徴とする。
値計算手段において、入力音声特徴ベクトル時系列の時
間軸上の各時刻と、各認識対象カテゴリの第一の隠れマ
ルコフモデルの各状態において、最大の尤度値を与える
内部状態番号のみを残して尤度値計算処理を進めること
を特徴とする。
【０００６】
【作用】音声認識の認識対象カテゴリは、音韻や音節、
単語、文などがあるが、以下では単語の場合について詳
しく説明するが、他の場合についても同様である。
単語、文などがあるが、以下では単語の場合について詳
しく説明するが、他の場合についても同様である。
【０００７】単語を確率変数Ｗ、入力音声（長さＴの特
徴ベクトル時系列）を確率変数Ｏ＝Ｏ1 …Ｏt …ＯT 、
内部状態番号の時系列を確率変数Ｓ＝Ｓ1 …Ｓt …ＳT
とすると、単語Ｗの事後確率Ｐ（Ｗ｜Ｏ）は次式で与え
られる。
徴ベクトル時系列）を確率変数Ｏ＝Ｏ1 …Ｏt …ＯT 、
内部状態番号の時系列を確率変数Ｓ＝Ｓ1 …Ｓt …ＳT
とすると、単語Ｗの事後確率Ｐ（Ｗ｜Ｏ）は次式で与え
られる。
【０００８】
【数１】
【０００９】上式において和の記号は内部状態番号のす
べての可能な時系列Ｓに関する総和を表している。本発
明においては内部状態番号が１からＫまでのＫ個の整数
値のどれかを取りうるものとする。下の式で変数ｓk が
内部状態番号を表す変数である。
べての可能な時系列Ｓに関する総和を表している。本発
明においては内部状態番号が１からＫまでのＫ個の整数
値のどれかを取りうるものとする。下の式で変数ｓk が
内部状態番号を表す変数である。
【００１０】
【数２】
【００１１】単語Ｗにおいて内部状態番号列
【００１２】
【数３】
【００１３】が用いられる確率
【００１４】
【数４】
【００１５】は、可能な内部状態番号｛１，…，Ｋ｝を
出力記号とする離散ＨＭＭで表現することができる。以
下において、このＨＭＭを第一のＨＭＭの意味でＨＭＭ
−１と呼ぶ。単語ＷのＨＭＭ−１の状態数をＮ個とする
と、
出力記号とする離散ＨＭＭで表現することができる。以
下において、このＨＭＭを第一のＨＭＭの意味でＨＭＭ
−１と呼ぶ。単語ＷのＨＭＭ−１の状態数をＮ個とする
と、
【００１６】
【数５】
【００１７】ここで、ａmn (1) は状態ｍから状態ｎへの
遷移確率、ｂnk (1) は状態ｎにおいて出力記号ｓk を出
力する出力確率である。内部状態番号列
遷移確率、ｂnk (1) は状態ｎにおいて出力記号ｓk を出
力する出力確率である。内部状態番号列
【００１８】
【数６】
【００１９】から入力音声特徴ベクトル列Ｏ＝ｏ1 …ｏ
t …ｏT が生成される確率
t …ｏT が生成される確率
【００２０】
【数７】
【００２１】は内部状態番号｛１，…，Ｋ｝を状態とす
る第二のＨＭＭで表現することができる（ＨＭＭ−
２）。以下ではＨＭＭ−１の状態と区別するためにＨＭ
Ｍ−２の状態を「内部状態」と呼ぶことにする。
る第二のＨＭＭで表現することができる（ＨＭＭ−
２）。以下ではＨＭＭ−１の状態と区別するためにＨＭ
Ｍ−２の状態を「内部状態」と呼ぶことにする。
【００２２】
【数８】
【００２３】ここでａjk (2) は内部状態ｊから内部状態
ｋへの遷移確率、ｂk (2) （ｏt ）は内部状態ｋにおい
て特徴ベクトルｏt を出力する出力確率である。以上を
まとめると
ｋへの遷移確率、ｂk (2) （ｏt ）は内部状態ｋにおい
て特徴ベクトルｏt を出力する出力確率である。以上を
まとめると
【００２４】
【数９】
【００２５】時刻ｔに状態ｎ、内部状態ｋに到達し、特
徴ベクトルｏt を出力する前向き確率を次式で定義す
る。
徴ベクトルｏt を出力する前向き確率を次式で定義す
る。
【００２６】
【数１０】
【００２７】同様に時刻ｔ＋１に観測量ｏt+1 を出力し
て、時刻ｔに状態ｎ、内部状態ｋに到達する後ろ向き確
率も定義することができる。
て、時刻ｔに状態ｎ、内部状態ｋに到達する後ろ向き確
率も定義することができる。
【００２８】
【数１１】
【００２９】結局、確率Ｐ（Ｏ｜Ｗ）を求めるには、時
間ｔ、状態ｎ、内部状態ｋの３次元で指定されるトレリ
ス上で前向き確率の漸化式計算を行えばよいことがわか
る。従来のＨＭＭでは時間ｔと状態ｎの２次元で指定さ
れるトレリス上でＯ（Ｔ・Ｎ）個の格子点の計算が必要
であったが、本方式では上の定式化通り計算する場合は
Ｏ（Ｔ・Ｎ・Ｋ）個の格子点の計算が必要になる（近似
法については後述）。
間ｔ、状態ｎ、内部状態ｋの３次元で指定されるトレリ
ス上で前向き確率の漸化式計算を行えばよいことがわか
る。従来のＨＭＭでは時間ｔと状態ｎの２次元で指定さ
れるトレリス上でＯ（Ｔ・Ｎ）個の格子点の計算が必要
であったが、本方式では上の定式化通り計算する場合は
Ｏ（Ｔ・Ｎ・Ｋ）個の格子点の計算が必要になる（近似
法については後述）。
【００３０】遷移確率や出力確率の学習による推定は、
３次元トレリス上で形式的に従来のＨＭＭと同じ再推定
式を適用することによって可能である。以下に結果のみ
を示す。
３次元トレリス上で形式的に従来のＨＭＭと同じ再推定
式を適用することによって可能である。以下に結果のみ
を示す。
【００３１】
【数１２】
【００３２】上式においてμk とΣk は内部状態ｋにお
ける特徴ベクトルの出力確率をガウス分布で表したとき
の平均ベクトルと分散行列である。
ける特徴ベクトルの出力確率をガウス分布で表したとき
の平均ベクトルと分散行列である。
【００３３】本発明による尤度の式（６）において以下
の書き換えを行う。
の書き換えを行う。
【００３４】
【数１３】
【００３５】この式を半連続ＨＭＭと比較すると、係数
λnk,jは状態ｎにおいて第ｋ番目の出力確率ｂ
k (2) （Ｏ）が用いられる混合係数と考えることができ
る。ただし本発明では、その混合係数が前フレームにお
いて何番目（添字でｊで指定）の出力確率が用いられた
かに依存している（マルコフ的相関をもつ）ことにな
る。この依存性がないと近似すれば（λnk,j＝λnk）、
本発明は従来用いられている半連続ＨＭＭに一致する。
半連続ＨＭＭについては文献４「著者：Ｘ．Ｄ．Ｈｕａ
ｎｇ他、題名：Ｓｅｍｉ−ｃｏｎｔｉｎｕｏｕｓ Ｈｉ
ｄｄｅｎ Ｍａｒｋｏｖ Ｍｏｄｅｌｓ ｆｏｒ Ｓｐ
ｅｅｃｈ Ｓｉｇｎａｌｓ、書名：ＣｏｍｐｕｔｅｒＳ
ｐｅｅｃｈ ａｎｄ Ｌａｎｇｕａｇｅ、１９８９年第
３巻２３９ページ」に詳しく記されている。
λnk,jは状態ｎにおいて第ｋ番目の出力確率ｂ
k (2) （Ｏ）が用いられる混合係数と考えることができ
る。ただし本発明では、その混合係数が前フレームにお
いて何番目（添字でｊで指定）の出力確率が用いられた
かに依存している（マルコフ的相関をもつ）ことにな
る。この依存性がないと近似すれば（λnk,j＝λnk）、
本発明は従来用いられている半連続ＨＭＭに一致する。
半連続ＨＭＭについては文献４「著者：Ｘ．Ｄ．Ｈｕａ
ｎｇ他、題名：Ｓｅｍｉ−ｃｏｎｔｉｎｕｏｕｓ Ｈｉ
ｄｄｅｎ Ｍａｒｋｏｖ Ｍｏｄｅｌｓ ｆｏｒ Ｓｐ
ｅｅｃｈ Ｓｉｇｎａｌｓ、書名：ＣｏｍｐｕｔｅｒＳ
ｐｅｅｃｈ ａｎｄ Ｌａｎｇｕａｇｅ、１９８９年第
３巻２３９ページ」に詳しく記されている。
【００３６】混合分布型ＨＭＭにおいて混合係数に前フ
レームとのマルコフ的な相関を導入する方法については
二段階遷移混合分布型ＨＭＭとして定式化されている
（従来法１）。この場合の尤度の表式は次式のように与
えられる。
レームとのマルコフ的な相関を導入する方法については
二段階遷移混合分布型ＨＭＭとして定式化されている
（従来法１）。この場合の尤度の表式は次式のように与
えられる。
【００３７】
【数１４】
【００３８】本発明との第一の相違点は特徴ベクトルの
出力確率ｂnk（Ｏ）が状態ｎと内部状態ｋの両方に依存
している点である（本発明では内部状態ｋのみに依存す
る）。これは出力確率パラメータ数の大幅な増加を招
く。
出力確率ｂnk（Ｏ）が状態ｎと内部状態ｋの両方に依存
している点である（本発明では内部状態ｋのみに依存す
る）。これは出力確率パラメータ数の大幅な増加を招
く。
【００３９】第二の相違点は従来法１では混合係数λ
nk,jのパラメータ数はＮ・Ｋ・Ｋ個となる。ところが式
（１６）から明らかなように、本発明では混合係数λ
nk,jが出力確率ｂnk (1) と遷移確率ａjk (2) の積に分解
されているため、パラメータ数はＮ・Ｋ＋Ｋ・Ｋ個に削
減された。例えば状態数がＮ＝２10個、内部状態数がＫ
＝２8 個の場合には、従来法１で６４００万個、本発明
では３２万個となり、パラメータ数を１／２００に削減
できることになる。本発明のパラメータ数は半連続ＨＭ
Ｍと同じオーダーである。
nk,jのパラメータ数はＮ・Ｋ・Ｋ個となる。ところが式
（１６）から明らかなように、本発明では混合係数λ
nk,jが出力確率ｂnk (1) と遷移確率ａjk (2) の積に分解
されているため、パラメータ数はＮ・Ｋ＋Ｋ・Ｋ個に削
減された。例えば状態数がＮ＝２10個、内部状態数がＫ
＝２8 個の場合には、従来法１で６４００万個、本発明
では３２万個となり、パラメータ数を１／２００に削減
できることになる。本発明のパラメータ数は半連続ＨＭ
Ｍと同じオーダーである。
【００４０】他にベクトル量子化（ＶＱ）によって得ら
れる符号（ＶＱコード）の連接確率（バイグラム）を用
いて、半連続ＨＭＭの混合係数にフレーム相関を導入す
る発見法的な方式が提案されている（従来法２）。この
方式では半連続ＨＭＭの状態ｎにおける第ｋ番目の出力
確率（内部状態ｋ）の混合係数をλnk、学習データにお
けるＶＱコードの連接確率（ＶＱコードｊの次にＶＱコ
ードｋが続く確率、バイグラム）をａjkとすると、認識
時には次式で定義されるような変換を行って計算される
新しい混合係数
れる符号（ＶＱコード）の連接確率（バイグラム）を用
いて、半連続ＨＭＭの混合係数にフレーム相関を導入す
る発見法的な方式が提案されている（従来法２）。この
方式では半連続ＨＭＭの状態ｎにおける第ｋ番目の出力
確率（内部状態ｋ）の混合係数をλnk、学習データにお
けるＶＱコードの連接確率（ＶＱコードｊの次にＶＱコ
ードｋが続く確率、バイグラム）をａjkとすると、認識
時には次式で定義されるような変換を行って計算される
新しい混合係数
【００４１】
【外１】
【００４２】を用いる。
【００４３】
【数１５】
【００４４】この方式では認識時にベクトル量子化（Ｖ
Ｑ）処理と上式による混合係数の再計算が必要になる。
本発明ではこのような余分な計算は生じない。また半連
続ＨＭＭとＶＱコードの連接確率という異質のものを組
み合わせたため、上の計算式は統計理論に基づく最適な
計算式ではなく、発見法的なものにとどまっている。
Ｑ）処理と上式による混合係数の再計算が必要になる。
本発明ではこのような余分な計算は生じない。また半連
続ＨＭＭとＶＱコードの連接確率という異質のものを組
み合わせたため、上の計算式は統計理論に基づく最適な
計算式ではなく、発見法的なものにとどまっている。
【００４５】以上を図２（従来法１）、図３（従来法
２）、図４（本発明）にまとめて図示した。比較すれ
ば、パラメータ数（必要な記憶領域）や計算手順の違い
がわかる。
２）、図４（本発明）にまとめて図示した。比較すれ
ば、パラメータ数（必要な記憶領域）や計算手順の違い
がわかる。
【００４６】本発明では式（７）からわかるように、確
率Ｐ（Ｏ｜Ｗ）を求めるには時間ｔ、状態ｎ、内部状態
ｋの３次元で指定されるトレリス上で前向き確率の漸化
式計算を行う。従来のＨＭＭでは時間ｔと状態ｎの２次
元で指定されるトレリス上でＯ（Ｔ・Ｎ）個の格子点の
計算が必要であったが、本方式ではＯ（Ｔ・Ｎ・Ｋ）個
の格子点の計算が必要になる。この演算量・記憶量を削
減するため以下のような準最適近似を用いる（請求項２
に対応）。
率Ｐ（Ｏ｜Ｗ）を求めるには時間ｔ、状態ｎ、内部状態
ｋの３次元で指定されるトレリス上で前向き確率の漸化
式計算を行う。従来のＨＭＭでは時間ｔと状態ｎの２次
元で指定されるトレリス上でＯ（Ｔ・Ｎ）個の格子点の
計算が必要であったが、本方式ではＯ（Ｔ・Ｎ・Ｋ）個
の格子点の計算が必要になる。この演算量・記憶量を削
減するため以下のような準最適近似を用いる（請求項２
に対応）。
【００４７】時間ｔ、状態ｎで指定される２次元トレリ
ス上で内部状態ｋについて総和をとった前向き確率を次
式で定義する。
ス上で内部状態ｋについて総和をとった前向き確率を次
式で定義する。
【００４８】
【数１６】
【００４９】以上の定義のもとに次の近似を導入する。
【００５０】
【数１７】
【００５１】これは最大確率を与える内部状態
【００５２】
【外２】
【００５３】以外の内部状態における前向き確率が十分
小さいとする近似に相当する。この近似を用いると２次
元トレリス上での前向き確率の漸化式が得られる。
小さいとする近似に相当する。この近似を用いると２次
元トレリス上での前向き確率の漸化式が得られる。
【００５４】
【数１８】
【００５５】以上をまとめると２次元トレリス上での準
最適漸化式計算アルゴリズムが次のように得られる。
最適漸化式計算アルゴリズムが次のように得られる。
【００５６】
【数１９】
【００５７】時間（フレーム）同期に漸化式計算を行う
場合、各フレームにおいては前向き確率
場合、各フレームにおいては前向き確率
【００５８】
【外３】
【００５９】と最適内部状態
【００６０】
【外４】
【００６１】のみを記憶すればよく、演算量・記憶量共
に半連続ＨＭＭと同程度に削減される。
に半連続ＨＭＭと同程度に削減される。
【００６２】
【実施例】図５は本発明を実施した単語音声認識装置の
ブロック図である。マイクロホン１０より入力された音
声信号は分析部２０によって標本化、デジタル化されて
から高速フーリエ変換などによって特徴ベクトルに変換
されマイクロプロセッサ３０に送られる。このマイクロ
プロセッサにはメモリとしてＨＭＭ−１パラメータ記憶
部４０と、ＨＭＭ−２パラメータ記憶部５０と、ワーク
メモリ６０が接続されている。
ブロック図である。マイクロホン１０より入力された音
声信号は分析部２０によって標本化、デジタル化されて
から高速フーリエ変換などによって特徴ベクトルに変換
されマイクロプロセッサ３０に送られる。このマイクロ
プロセッサにはメモリとしてＨＭＭ−１パラメータ記憶
部４０と、ＨＭＭ−２パラメータ記憶部５０と、ワーク
メモリ６０が接続されている。
【００６３】ＨＭＭ−１パラメータ記憶部４０には各単
語ｗの第一のＨＭＭパラメータとして、状態ｍから状態
ｎへの遷移確率ａmn (1) （ｍ，ｎ＝１…Ｎw ）と状態ｎ
において出力記号ｓk を出力する確率ｂnk (1) （ｋ＝１
…Ｋ）が記憶されている。ＨＭＭ−２パラメータ記憶部
５０にはすべての単語に共通の第二のＨＭＭのパラメー
タとして内部状態ｊから内部状態ｋへの遷移確率ａjk
(2) （ｊ，ｋ＝１…Ｋ）と内部状態ｋにおいて特徴ベク
トルｏt を出力する出力確率ｂk (2) （ｏt ）を表す分
布関数のパラメータ（ガウス分布の場合は平均ベクトル
と分散行列）が記憶されている。ワークメモリ６０は各
認識対象単語の標準パターンモデルによる尤度値を計算
する際に、出力確率や前向き確率を一時記憶しておくた
めの作業エリアである。これらのＨＭＭ−１パラメータ
記憶部４０、ＨＭＭ−２パラメータ記憶部５０、ワーク
メモリ６０はマイクロプロセッサの主記憶内にあって区
別されるメモリエリアとして定義されてもよい。
語ｗの第一のＨＭＭパラメータとして、状態ｍから状態
ｎへの遷移確率ａmn (1) （ｍ，ｎ＝１…Ｎw ）と状態ｎ
において出力記号ｓk を出力する確率ｂnk (1) （ｋ＝１
…Ｋ）が記憶されている。ＨＭＭ−２パラメータ記憶部
５０にはすべての単語に共通の第二のＨＭＭのパラメー
タとして内部状態ｊから内部状態ｋへの遷移確率ａjk
(2) （ｊ，ｋ＝１…Ｋ）と内部状態ｋにおいて特徴ベク
トルｏt を出力する出力確率ｂk (2) （ｏt ）を表す分
布関数のパラメータ（ガウス分布の場合は平均ベクトル
と分散行列）が記憶されている。ワークメモリ６０は各
認識対象単語の標準パターンモデルによる尤度値を計算
する際に、出力確率や前向き確率を一時記憶しておくた
めの作業エリアである。これらのＨＭＭ−１パラメータ
記憶部４０、ＨＭＭ−２パラメータ記憶部５０、ワーク
メモリ６０はマイクロプロセッサの主記憶内にあって区
別されるメモリエリアとして定義されてもよい。
【００６４】認識処理はマイクロプロセッサ３０のプロ
グラムによって実行される。以下、入力信号の特徴ベク
トルｏt が入力される毎に図６のフローチャートに示す
処理がマイクロプロセッサ３０によって実行される。図
中の１０１のブロックではＨＭＭ−２パラメータ記憶部
５０に記憶された出力確率分布のパラメータに基づい
て、内部状態ｋにおいて特徴ベクトルｏt を出力する出
力確率ｂk (2) （ｏt ）が算出され、ワークメモリ７０
上の変数Ｂとして格納される。また前向き確率を計算す
るためのワークメモリ７０上の配列変数Ａ（ｗ，ｔ，
ｎ，ｋ）がクリアされる。１０２のブロックでは状態
ｍ、内部状態ｊから状態ｎ、内部状態ｋへ遷移して特徴
ベクトルｏt を出力した場合の前向き確率への寄与がＨ
ＭＭ−１パラメータ記憶部とＨＭＭ−２パラメータ記憶
部に記憶されたパラメータとワークメモリ７０上の変数
から算出され、配列変数Ａ（ｗ，ｔ，ｎ，ｋ）に加算さ
れる。
グラムによって実行される。以下、入力信号の特徴ベク
トルｏt が入力される毎に図６のフローチャートに示す
処理がマイクロプロセッサ３０によって実行される。図
中の１０１のブロックではＨＭＭ−２パラメータ記憶部
５０に記憶された出力確率分布のパラメータに基づい
て、内部状態ｋにおいて特徴ベクトルｏt を出力する出
力確率ｂk (2) （ｏt ）が算出され、ワークメモリ７０
上の変数Ｂとして格納される。また前向き確率を計算す
るためのワークメモリ７０上の配列変数Ａ（ｗ，ｔ，
ｎ，ｋ）がクリアされる。１０２のブロックでは状態
ｍ、内部状態ｊから状態ｎ、内部状態ｋへ遷移して特徴
ベクトルｏt を出力した場合の前向き確率への寄与がＨ
ＭＭ−１パラメータ記憶部とＨＭＭ−２パラメータ記憶
部に記憶されたパラメータとワークメモリ７０上の変数
から算出され、配列変数Ａ（ｗ，ｔ，ｎ，ｋ）に加算さ
れる。
【００６５】以上の処理が終了すると、入力信号の時刻
が１時刻増加され、次の特徴ベクトルｏt の入力を待っ
て同様の処理が行われる。入力信号が終了して最後の特
徴ベクトルｏT が処理された後、マイクロプロセッサ３
０の内部では次のような処理が行われる。ワークメモリ
７０に記憶されている各単語ｗ毎の前向き確率Ａ（ｗ，
Ｔ，ｎ，ｋ）は各単語の標準パターンモデルが入力信号
を出力する単語出力確率（尤度値）を与えている。これ
らを順次比較することによって最大値を求め、これに対
応する単語
が１時刻増加され、次の特徴ベクトルｏt の入力を待っ
て同様の処理が行われる。入力信号が終了して最後の特
徴ベクトルｏT が処理された後、マイクロプロセッサ３
０の内部では次のような処理が行われる。ワークメモリ
７０に記憶されている各単語ｗ毎の前向き確率Ａ（ｗ，
Ｔ，ｎ，ｋ）は各単語の標準パターンモデルが入力信号
を出力する単語出力確率（尤度値）を与えている。これ
らを順次比較することによって最大値を求め、これに対
応する単語
【００６６】
【外５】
【００６７】を認識結果として出力する。
【００６８】このプログラムにおいてワークメモリ７０
に格納する配列変数Ａ（ｗ，ｔ，ｎ，ｋ）はすべての時
刻ｔについて保存する必要はなく、ある時刻ｔにおいて
は時刻ｔと時刻ｔ−１の分のみを保存してあればよい。
よって配列変数の格納領域の大きさは２・Ｗ・Ｎ・Ｋで
ある。
に格納する配列変数Ａ（ｗ，ｔ，ｎ，ｋ）はすべての時
刻ｔについて保存する必要はなく、ある時刻ｔにおいて
は時刻ｔと時刻ｔ−１の分のみを保存してあればよい。
よって配列変数の格納領域の大きさは２・Ｗ・Ｎ・Ｋで
ある。
【００６９】格納領域の大きさは請求項２の方式に従え
ばさらに削減することができる。その場合のフローチャ
ートを図７に示す。計算に必要な配列変数はｋ
max （ｔ，ｎ）とＡ（ｗ，ｔ，ｎ）である。どちらもあ
る時刻ｔにおいては時刻ｔと時刻ｔ−１の分のみを保存
してあればよいので、必要な格納領域の大きさは２・Ｎ
＋２・Ｗ・Ｎとなり、約１／Ｋに削減された。また演算
量についても図６と図７を比べると、図７では、変数ｊ
に関する繰り返し計算がなくなった分だけ削減されてい
ることがわかる。
ばさらに削減することができる。その場合のフローチャ
ートを図７に示す。計算に必要な配列変数はｋ
max （ｔ，ｎ）とＡ（ｗ，ｔ，ｎ）である。どちらもあ
る時刻ｔにおいては時刻ｔと時刻ｔ−１の分のみを保存
してあればよいので、必要な格納領域の大きさは２・Ｎ
＋２・Ｗ・Ｎとなり、約１／Ｋに削減された。また演算
量についても図６と図７を比べると、図７では、変数ｊ
に関する繰り返し計算がなくなった分だけ削減されてい
ることがわかる。
【００７０】
【発明の効果】以上述べたように、本発明によって従来
法１に比べて大幅に少ないパラメータ数で、従来法２に
比べてベクトル量子化や係数の発見法的な再計算なし
に、ＨＭＭの状態遷移境界における不連続の問題を解決
して高精度な信号のモデル化を行い、低コストかつ高性
能な音声認識装置の実現が可能となった。
法１に比べて大幅に少ないパラメータ数で、従来法２に
比べてベクトル量子化や係数の発見法的な再計算なし
に、ＨＭＭの状態遷移境界における不連続の問題を解決
して高精度な信号のモデル化を行い、低コストかつ高性
能な音声認識装置の実現が可能となった。
【図１】従来法を説明するための図
【図２】従来法１を示すブロック図
【図３】従来法２を示すブロック図
【図４】本発明の一実施例を示すブロック図
【図５】本発明を実現するための装置構成図
【図６】本発明の要部の処理を示すフローチャート
【図７】本発明の要部の処理を示すフローチャート
１０ マイクロホン ２０ 分析部 ３０ マイクロプロセッサ ４０ ＨＭＭ−１パラメータ記憶部 ５０ ＨＭＭ−２パラメータ記憶部 ６０ ワークメモリ
Claims (2)
- 【請求項１】入力された音声を一定の時間間隔で分析
し、特徴ベクトルを抽出し、各認識対象カテゴリの標準
パターンモデルの尤度値を算出して認識を行う音声認識
装置において、各認識対象カテゴリ毎に用意した、内部
状態番号を出力記号とする第一の隠れマルコフモデルが
内部状態番号を出力する確率を計算する第一の確率計算
手段と、内部状態番号間の遷移確率と内部状態番号毎の
特徴ベクトル出力確率分布を有する第二の隠れマルコフ
モデルが特徴ベクトルを出力する確率を計算する第二の
確率計算手段と、第一および第二の確率計算手段の出力
を用いて、各認識対象カテゴリの標準パターンモデルの
尤度値を計算する尤度値計算手段を有することを特徴と
する音声認識装置。 - 【請求項２】前記尤度値計算手段において、入力音声特
徴ベクトル時系列の時間軸上の各時刻と、各認識対象カ
テゴリの第一の隠れマルコフモデルの各状態において、
最大の尤度値を与える内部状態番号のみを残して尤度値
計算処理を進めることを特徴とする請求項１記載の音声
認識装置。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6129985A JP2654539B2 (ja) | 1994-06-13 | 1994-06-13 | 音声認識装置 |
| US08/483,321 US5737488A (en) | 1994-06-13 | 1995-06-07 | Speech recognizer |
| CA002151330A CA2151330C (en) | 1994-06-13 | 1995-06-08 | A speech recognizer |
| DE69514573T DE69514573T2 (de) | 1994-06-13 | 1995-06-13 | Vorrichtung zur Spracherkennung |
| EP95109134A EP0688012B1 (en) | 1994-06-13 | 1995-06-13 | A speech recognizer |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6129985A JP2654539B2 (ja) | 1994-06-13 | 1994-06-13 | 音声認識装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH07334187A true JPH07334187A (ja) | 1995-12-22 |
| JP2654539B2 JP2654539B2 (ja) | 1997-09-17 |
Family
ID=15023311
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6129985A Expired - Fee Related JP2654539B2 (ja) | 1994-06-13 | 1994-06-13 | 音声認識装置 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US5737488A (ja) |
| EP (1) | EP0688012B1 (ja) |
| JP (1) | JP2654539B2 (ja) |
| CA (1) | CA2151330C (ja) |
| DE (1) | DE69514573T2 (ja) |
Families Citing this family (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE59902946D1 (de) * | 1998-05-11 | 2002-11-07 | Siemens Ag | Verfahren und anordnung zur einführung zeitlicher abhängigkeit in hidden-markov-modellen für die spracherkennung |
| US6594392B2 (en) * | 1999-05-17 | 2003-07-15 | Intel Corporation | Pattern recognition based on piecewise linear probability density function |
| US6611825B1 (en) * | 1999-06-09 | 2003-08-26 | The Boeing Company | Method and system for text mining using multidimensional subspaces |
| US6701305B1 (en) | 1999-06-09 | 2004-03-02 | The Boeing Company | Methods, apparatus and computer program products for information retrieval and document classification utilizing a multidimensional subspace |
| US6837790B1 (en) | 2000-07-26 | 2005-01-04 | Igt | Gaming device with moving screen simulation |
| KR100464428B1 (ko) * | 2002-08-12 | 2005-01-03 | 삼성전자주식회사 | 음성 인식 장치 |
| NL1026254C2 (nl) | 2003-06-17 | 2005-05-02 | E Van Zanten Holding B V | Samenstel omvattende een plantvoet en een transportsysteem, alsmede plantvoet bestemd voor een dergelijk samenstel. |
| TWI454955B (zh) * | 2006-12-29 | 2014-10-01 | Nuance Communications Inc | 使用模型檔產生動畫的方法及電腦可讀取的訊號承載媒體 |
| JP5243375B2 (ja) * | 2009-09-09 | 2013-07-24 | 日本光電工業株式会社 | 生体信号処理装置及び医療装置制御方法 |
| US8515734B2 (en) * | 2010-02-08 | 2013-08-20 | Adacel Systems, Inc. | Integrated language model, related systems and methods |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5268990A (en) * | 1991-01-31 | 1993-12-07 | Sri International | Method for recognizing speech using linguistically-motivated hidden Markov models |
| US5241619A (en) * | 1991-06-25 | 1993-08-31 | Bolt Beranek And Newman Inc. | Word dependent N-best search method |
| US5199077A (en) * | 1991-09-19 | 1993-03-30 | Xerox Corporation | Wordspotting for voice editing and indexing |
-
1994
- 1994-06-13 JP JP6129985A patent/JP2654539B2/ja not_active Expired - Fee Related
-
1995
- 1995-06-07 US US08/483,321 patent/US5737488A/en not_active Expired - Fee Related
- 1995-06-08 CA CA002151330A patent/CA2151330C/en not_active Expired - Fee Related
- 1995-06-13 EP EP95109134A patent/EP0688012B1/en not_active Expired - Lifetime
- 1995-06-13 DE DE69514573T patent/DE69514573T2/de not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2654539B2 (ja) | 1997-09-17 |
| EP0688012B1 (en) | 2000-01-19 |
| US5737488A (en) | 1998-04-07 |
| CA2151330C (en) | 2000-08-15 |
| DE69514573T2 (de) | 2000-07-06 |
| DE69514573D1 (de) | 2000-02-24 |
| EP0688012A3 (en) | 1996-02-07 |
| EP0688012A2 (en) | 1995-12-20 |
| CA2151330A1 (en) | 1995-12-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6041299A (en) | Apparatus for calculating a posterior probability of phoneme symbol, and speech recognition apparatus | |
| EP0706171B1 (en) | Speech recognition method and apparatus | |
| JP3412496B2 (ja) | 話者適応化装置と音声認識装置 | |
| EP0831461B1 (en) | Scheme for model adaptation in pattern recognition based on taylor expansion | |
| CA1256562A (en) | Speech recognition method | |
| US4852173A (en) | Design and construction of a binary-tree system for language modelling | |
| US5596679A (en) | Method and system for identifying spoken sounds in continuous speech by comparing classifier outputs | |
| EP0755046B1 (en) | Speech recogniser using a hierarchically structured dictionary | |
| EP0617827B1 (en) | Composite expert | |
| US20050228666A1 (en) | Method, apparatus, and system for building context dependent models for a large vocabulary continuous speech recognition (lvcsr) system | |
| JPH02238496A (ja) | 音声認識装置 | |
| JPH05257492A (ja) | 音声認識方式 | |
| US5734793A (en) | System for recognizing spoken sounds from continuous speech and method of using same | |
| EP1557823A2 (en) | Method of setting posterior probability parameters for a switching state space model and method of speech recognition | |
| JP2654539B2 (ja) | 音声認識装置 | |
| Zavaliagkos et al. | A hybrid continuous speech recognition system using segmental neural nets with hidden Markov models | |
| JPH11338491A (ja) | 固有声に基いた最尤法を含む話者と環境適合化 | |
| EP0606913A2 (en) | Method and system for recognizing pattern | |
| JPH11143486A (ja) | 話者適応装置および方法 | |
| JP2905674B2 (ja) | 不特定話者連続音声認識方法 | |
| JP2982689B2 (ja) | 情報量基準を用いた標準パターン作成方式 | |
| JP3029803B2 (ja) | 音声認識のための単語モデル生成装置及び音声認識装置 | |
| Gopalakrishnan et al. | A channel-bank-based phone detection strategy | |
| KR0170317B1 (ko) | 관찰벡터의 디스토션 확률밀도를 가진 은닉마코프 모델을 이용한 음성인식 방법 | |
| Hu et al. | A neural network based nonlinear feature transformation for speech recognition. |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 19970401 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090530 Year of fee payment: 12 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100530 Year of fee payment: 13 |
|
| LAPS | Cancellation because of no payment of annual fees |