JP3316352B2 - 音声認識方法 - Google Patents
音声認識方法Info
- Publication number
- JP3316352B2 JP3316352B2 JP24972095A JP24972095A JP3316352B2 JP 3316352 B2 JP3316352 B2 JP 3316352B2 JP 24972095 A JP24972095 A JP 24972095A JP 24972095 A JP24972095 A JP 24972095A JP 3316352 B2 JP3316352 B2 JP 3316352B2
- Authority
- JP
- Japan
- Prior art keywords
- state
- probability
- transition
- hmm
- appearance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Description
【０００１】
【発明の属する技術分野】本発明は、音声認識の分野で
用いられている統計的認識手法であるＨｉｄｄｅｎ Ｍ
ａｒｋｏｖ Ｍｏｄｅｌ（以下、「ＨＭＭ」という。）
を用いた音声認識方法に関する。
用いられている統計的認識手法であるＨｉｄｄｅｎ Ｍ
ａｒｋｏｖ Ｍｏｄｅｌ（以下、「ＨＭＭ」という。）
を用いた音声認識方法に関する。
【０００２】
【従来の技術】近年、ＨＭＭを用いた音声認識方法の開
発が盛んに行われている。このＨＭＭは大量の音声デー
タから得られる音声の統計的特徴をモデル化したもので
あり、このＨＭＭは、（１）発声の揺らぎを分布という
形で統計的に処理できる、（２）話者による発声時間長
の違いを吸収できる、といった利点を備えている。
発が盛んに行われている。このＨＭＭは大量の音声デー
タから得られる音声の統計的特徴をモデル化したもので
あり、このＨＭＭは、（１）発声の揺らぎを分布という
形で統計的に処理できる、（２）話者による発声時間長
の違いを吸収できる、といった利点を備えている。
【０００３】以下に、従来のＨＭＭを用いた音声認識方
法を実現する音声認識装置の例を図５乃至図７に基づい
て説明する。
法を実現する音声認識装置の例を図５乃至図７に基づい
て説明する。
【０００４】図５は、従来のＨＭＭを用いた音声認識方
法を実現する音声認識装置の概略構成図である。
法を実現する音声認識装置の概略構成図である。
【０００５】以下に音素ＨＭＭを用いて単語の音声認識
を行なう場合を例に挙げ、処理の概要を説明する。
を行なう場合を例に挙げ、処理の概要を説明する。
【０００６】一般的に、単語はそれより小さい単位、例
えば音素が繋ぎ合わさって成立しているように、音素単
位でＨＭＭを作成しておくと、その音素ＨＭＭの連結に
より任意の単語に対する単語認識を行なうことができ
る。
えば音素が繋ぎ合わさって成立しているように、音素単
位でＨＭＭを作成しておくと、その音素ＨＭＭの連結に
より任意の単語に対する単語認識を行なうことができ
る。
【０００７】例えば、辞書に登録されている認識対象が
「うちけす（Ｕ／ＣＨ／Ｉ／Ｋ／Ｅ／Ｓ／Ｕ）」、「う
ちあわせ（Ｕ／ＣＨ／Ｉ／Ａ／Ｗ／Ａ／Ｓ／Ｅ）」及び
「うる（Ｕ／Ｒ／Ｕ）」の３単語である場合、作成する
必要がある音素ＨＭＭは辞書中に出現する「Ｕ／ＣＨ／
Ｉ／Ｋ／Ｅ／Ｓ／Ａ／Ｗ／Ｒ」の９種類のみでよい。
「うちけす（Ｕ／ＣＨ／Ｉ／Ｋ／Ｅ／Ｓ／Ｕ）」、「う
ちあわせ（Ｕ／ＣＨ／Ｉ／Ａ／Ｗ／Ａ／Ｓ／Ｅ）」及び
「うる（Ｕ／Ｒ／Ｕ）」の３単語である場合、作成する
必要がある音素ＨＭＭは辞書中に出現する「Ｕ／ＣＨ／
Ｉ／Ｋ／Ｅ／Ｓ／Ａ／Ｗ／Ｒ」の９種類のみでよい。
【０００８】したがって、音声認識装置は、該音素ＨＭ
Ｍを連結することにより辞書内に存在する単語に対応す
る単語ＨＭＭを作成し、入力音声（単語）と近いものを
確率的ゆう度（確からしさ）として得ることができるよ
うな構成をとっている。
Ｍを連結することにより辞書内に存在する単語に対応す
る単語ＨＭＭを作成し、入力音声（単語）と近いものを
確率的ゆう度（確からしさ）として得ることができるよ
うな構成をとっている。
【０００９】このように、予め話者の音声情報を学習し
て音素ＨＭＭを作成しておき、該音素ＨＭＭをＨＭＭ記
憶部１に記憶しておき、ＨＭＭ連結部４−２において、
辞書データ記憶部５に記憶されている認識対象に対応す
る様に音素ＨＭＭを連結し、生起確率Ｐ計算部４−１に
おいて生起確率を計算することにより、入力音声が単語
の場合であっても認識することが可能になる。
て音素ＨＭＭを作成しておき、該音素ＨＭＭをＨＭＭ記
憶部１に記憶しておき、ＨＭＭ連結部４−２において、
辞書データ記憶部５に記憶されている認識対象に対応す
る様に音素ＨＭＭを連結し、生起確率Ｐ計算部４−１に
おいて生起確率を計算することにより、入力音声が単語
の場合であっても認識することが可能になる。
【００１０】また、ＨＭＭ記憶部１に記憶される音素Ｈ
ＭＭは図６に示すように、複数の状態と、状態から状態
への遷移方向を規定するアーク（図中の矢印）とから構
成される。
ＭＭは図６に示すように、複数の状態と、状態から状態
への遷移方向を規定するアーク（図中の矢印）とから構
成される。
【００１１】また、図６のaij,bij (i = 1, 2, 3, 4、
j = 1, 2, 3, 4)は、状態iから状態jに遷移するアーク
に関する遷移確率および出現確率を表している。本ＨＭ
Ｍは、４個の状態と３つのループしたアークをもつこと
から４状態３ループのＨＭＭと呼ばれるものである。
j = 1, 2, 3, 4)は、状態iから状態jに遷移するアーク
に関する遷移確率および出現確率を表している。本ＨＭ
Ｍは、４個の状態と３つのループしたアークをもつこと
から４状態３ループのＨＭＭと呼ばれるものである。
【００１２】実際の認識は、生起確率Ｐ計算部４−１に
おいて、数１の漸化式により前向き確率α（ｊ，ｔ）を
計算することにより、最終的な認識ゆう度Ｐが数２のよ
うに求められる。
おいて、数１の漸化式により前向き確率α（ｊ，ｔ）を
計算することにより、最終的な認識ゆう度Ｐが数２のよ
うに求められる。
【００１３】
【数１】
【００１４】ここで、Ｔは観測ベクトル（ｖt）の時間
長である。
長である。
【００１５】
【数２】
【００１６】然し乍ら、図６に示した４状態３ループの
ＨＭＭは最小３フレームの入力パラメータとマッチング
してしまう場合がある。例えば、分析周期が５msecの場
合、５msecx３フレームの１５msecの区間でマッチング
が行なわれ、非常に短い区間でＨＭＭと入力との不適当
なマッチングを行ってしまい、これが挿入誤りとなり認
識率低下の原因となっていた。
ＨＭＭは最小３フレームの入力パラメータとマッチング
してしまう場合がある。例えば、分析周期が５msecの場
合、５msecx３フレームの１５msecの区間でマッチング
が行なわれ、非常に短い区間でＨＭＭと入力との不適当
なマッチングを行ってしまい、これが挿入誤りとなり認
識率低下の原因となっていた。
【００１７】上記の挿入誤りの問題点を回避するため、
状態数の多いＨＭＭを用いて音声認識を行う方法がある
が、本方法では状態数の増加に伴い、遷移確率及び出現
確率といった学習時に推定すべきＨＭＭのパラメータ数
が増加し、かかる多くのパラメータを十分な精度で推定
するために大量の音声データが必要になるという新たな
問題を生じている。
状態数の多いＨＭＭを用いて音声認識を行う方法がある
が、本方法では状態数の増加に伴い、遷移確率及び出現
確率といった学習時に推定すべきＨＭＭのパラメータ数
が増加し、かかる多くのパラメータを十分な精度で推定
するために大量の音声データが必要になるという新たな
問題を生じている。
【００１８】一方、不適当なマッチングを避ける手段と
して、状態数を増やすのではなく、音素の標準的な長さ
の情報に基づき、ＨＭＭと入力音声とのマッチング範囲
を制御する継続時間長制御法が特公平５−８１９１９号
公報において開示されている。
して、状態数を増やすのではなく、音素の標準的な長さ
の情報に基づき、ＨＭＭと入力音声とのマッチング範囲
を制御する継続時間長制御法が特公平５−８１９１９号
公報において開示されている。
【００１９】同公報に開示されている方法を用いて音声
認識を行うための概略構成図を図７に示す。同公報にお
いて開示されている方法は、継続時間長制御パラメータ
記憶部６−１に記憶された負荷係数ｐ(m)τおよびＰ
(si)τを、生起確率Ｐ計算部６−２における生起確率Ｐ
の計算処理時にペナルティーとして与えることにより実
現されるものである。
認識を行うための概略構成図を図７に示す。同公報にお
いて開示されている方法は、継続時間長制御パラメータ
記憶部６−１に記憶された負荷係数ｐ(m)τおよびＰ
(si)τを、生起確率Ｐ計算部６−２における生起確率Ｐ
の計算処理時にペナルティーとして与えることにより実
現されるものである。
【００２０】ＨＭＭ連結部６−３は音素や音韻を単位と
したＨＭＭにより単語や文章を認識する場合に必要にな
るものであり、ＨＭＭ連結部４−２と同一機能を有する
ものである。
したＨＭＭにより単語や文章を認識する場合に必要にな
るものであり、ＨＭＭ連結部４−２と同一機能を有する
ものである。
【００２１】以下に、生起確率Ｐ計算部６−２で行われ
る処理について説明する。
る処理について説明する。
【００２２】ＨＭＭ全体の継続時間長制御法は、音韻に
よる負荷係数ｐ(m)τを周知のトレリスアルゴリズム
によって求める生起確率Ｐにかけることにより音韻長の
情報を確率値に反映させるものである。またＨＭＭの状
態ごとの継続時間長制御法は、各状態ごとの継続時間長
に対する負荷係数Ｐ(si)τを使用し、数３に従い前向き
確率を計算することにより音韻長の情報を確率値に反映
させるものである。
よる負荷係数ｐ(m)τを周知のトレリスアルゴリズム
によって求める生起確率Ｐにかけることにより音韻長の
情報を確率値に反映させるものである。またＨＭＭの状
態ごとの継続時間長制御法は、各状態ごとの継続時間長
に対する負荷係数Ｐ(si)τを使用し、数３に従い前向き
確率を計算することにより音韻長の情報を確率値に反映
させるものである。
【００２３】また、最終的な認識ゆう度Ｐは継続時間長
制御を用いない場合と同様に数２により求められる。
制御を用いない場合と同様に数２により求められる。
【００２４】
【数３】
【００２５】ここで、Ｗsは、重み付け定数である。
【００２６】
【発明が解決しようとする課題】然し乍ら、挿入誤りの
問題点を回避するために状態数の多いＨＭＭを用いて音
声認識を行う方法では状態数の増加に伴い、学習時に推
定すべきＨＭＭのパラメータ数が増加し、かかる多くの
パラメータを十分な精度で推定するために大量の音声デ
ータが必要になるという問題点があった。
問題点を回避するために状態数の多いＨＭＭを用いて音
声認識を行う方法では状態数の増加に伴い、学習時に推
定すべきＨＭＭのパラメータ数が増加し、かかる多くの
パラメータを十分な精度で推定するために大量の音声デ
ータが必要になるという問題点があった。
【００２７】また、継続時間長制御を行なう場合は、数
１に示した周知の前向き確率α（ｊ，ｔ）の演算が、継
続時間によるペナルティーを与える処理により数３に示
した演算となり、演算量が極端に増大してしまうといっ
た問題点があった。
１に示した周知の前向き確率α（ｊ，ｔ）の演算が、継
続時間によるペナルティーを与える処理により数３に示
した演算となり、演算量が極端に増大してしまうといっ
た問題点があった。
【００２８】
【課題を解決するための手段】本発明は上述の問題点に
鑑み為されたものであり、複数の状態をもち、該状態が
遷移を規定する状態遷移確率により接続されるＨＭＭに
おいて、上記状態遷移確率により接続された２状態間に
新たな状態を内挿する状態内挿部をもち、該状態内挿部
において状態を内挿したＨＭＭを用いて音声認識を行う
ものであって、上記状態内挿部を状態Nと状態Mの間に状
態Xを内挿する場合は、状態Nから状態Xへの遷移に関す
る遷移確率ANXと出現確率BNXを、状態Nから状態Mの遷移
確率aNMと出現確率bNMとする第一ステップと、状態Xか
ら状態Mへの遷移に関する遷移確率AXMと出現確率B
XMを、状態Mから状態Mの遷移確率aMMと出現確率bMMとす
る第二ステップと、からなることを特徴とする。
鑑み為されたものであり、複数の状態をもち、該状態が
遷移を規定する状態遷移確率により接続されるＨＭＭに
おいて、上記状態遷移確率により接続された２状態間に
新たな状態を内挿する状態内挿部をもち、該状態内挿部
において状態を内挿したＨＭＭを用いて音声認識を行う
ものであって、上記状態内挿部を状態Nと状態Mの間に状
態Xを内挿する場合は、状態Nから状態Xへの遷移に関す
る遷移確率ANXと出現確率BNXを、状態Nから状態Mの遷移
確率aNMと出現確率bNMとする第一ステップと、状態Xか
ら状態Mへの遷移に関する遷移確率AXMと出現確率B
XMを、状態Mから状態Mの遷移確率aMMと出現確率bMMとす
る第二ステップと、からなることを特徴とする。
【００２９】本発明は、複数の状態をもち、該状態が遷
移を規定する状態遷移確率により接続されるＨＭＭにお
いて、上記状態遷移確率により接続された２状態間に新
たな状態を内挿する状態内挿部をもち、該状態内挿部に
おいて状態を内挿したＨＭＭを用いて音声認識を行うも
のであって、上記状態内挿部で状態Nと状態Mの間に状態
Xを内挿する場合は、内挿した状態Xの自己ループの遷移
確率Axxと出現確率Bxxを、状態Nの自己ループの遷移確
率aNNと出現確率bNNとする第一ステップと、状態Nから
状態Xへの遷移に関する遷移確率ANXと出現確率BNXを、
状態Nの自己ループの遷移確率aNNと出現確率bNNとする
第二ステップと、状態Xから状態Mへの遷移に関するアー
クの遷移確率AXMと出現確率BXMを、状態Nから状態Mへの
遷移確率aNMと出現確率bNMとする第三ステップと、から
なることを特徴とする。
移を規定する状態遷移確率により接続されるＨＭＭにお
いて、上記状態遷移確率により接続された２状態間に新
たな状態を内挿する状態内挿部をもち、該状態内挿部に
おいて状態を内挿したＨＭＭを用いて音声認識を行うも
のであって、上記状態内挿部で状態Nと状態Mの間に状態
Xを内挿する場合は、内挿した状態Xの自己ループの遷移
確率Axxと出現確率Bxxを、状態Nの自己ループの遷移確
率aNNと出現確率bNNとする第一ステップと、状態Nから
状態Xへの遷移に関する遷移確率ANXと出現確率BNXを、
状態Nの自己ループの遷移確率aNNと出現確率bNNとする
第二ステップと、状態Xから状態Mへの遷移に関するアー
クの遷移確率AXMと出現確率BXMを、状態Nから状態Mへの
遷移確率aNMと出現確率bNMとする第三ステップと、から
なることを特徴とする。
【００３０】
【００３１】
【００３２】
【００３３】本発明は上記出現確率Bxxは出現確率bNN及
び出現確率bNMに基づいて求められる値であることを特
徴とする。
び出現確率bNMに基づいて求められる値であることを特
徴とする。
【００３４】本発明は上記出現確率bNMと上記出現確率b
NNが複数の分布から構成されるものである場合は、出現
確率bNNに含まれる各分布と近い出現確率bNMに含まれる
分布から出現確率Bxxが求められることを特徴とする。
NNが複数の分布から構成されるものである場合は、出現
確率bNNに含まれる各分布と近い出現確率bNMに含まれる
分布から出現確率Bxxが求められることを特徴とする。
【００３５】本発明は上記出現確率Bxxは出現確率bNM及
び出現確率bMMからに基づいて求められる値であること
を特徴とする。
び出現確率bMMからに基づいて求められる値であること
を特徴とする。
【００３６】本発明は上記出現確率bNMと上記出現確率b
MMが複数の分布から構成されるものである場合は、出現
確率bNMに含まれる各分布と近い出現確率bMMに含まれる
分布から出現確率Bxxが求められることを特徴とする。
MMが複数の分布から構成されるものである場合は、出現
確率bNMに含まれる各分布と近い出現確率bMMに含まれる
分布から出現確率Bxxが求められることを特徴とする。
【００３７】
【発明の実施の形態】本発明の実施の形態の一例を図１
乃至図４に基づいて説明する。
乃至図４に基づいて説明する。
【００３８】図１は、本発明に係わる音声認識装置の概
略構成図である。
略構成図である。
【００３９】ＨＭＭ記憶部１には、予め学習しておいた
音素ＨＭＭが記憶されている。
音素ＨＭＭが記憶されている。
【００４０】状態内挿部２は、ＨＭＭ記憶部１に記憶さ
れている音素ＨＭＭの状態を内挿することにより状態内
挿ＨＭＭを作成する。
れている音素ＨＭＭの状態を内挿することにより状態内
挿ＨＭＭを作成する。
【００４１】状態内挿ＨＭＭ記憶部３では該状態内挿Ｈ
ＭＭを記憶する。
ＭＭを記憶する。
【００４２】ＨＭＭ連結部４−２は、状態内挿ＨＭＭ記
憶部３に記憶された状態内挿ＨＭＭを辞書データ記憶部
５に記憶されている認識対象語彙に対応する様に連結す
る。
憶部３に記憶された状態内挿ＨＭＭを辞書データ記憶部
５に記憶されている認識対象語彙に対応する様に連結す
る。
【００４３】生起確率Ｐ計算部４−１では、連結したＨ
ＭＭを用いて、数１の漸化式により前向き確率α（ｊ，
ｔ）を計算し、最終的な認識ゆう度Ｐを数２に従い計算
する。
ＭＭを用いて、数１の漸化式により前向き確率α（ｊ，
ｔ）を計算し、最終的な認識ゆう度Ｐを数２に従い計算
する。
【００４４】以下に、本発明の代表的な構成要件である
状態内挿部２の機能について説明する。
状態内挿部２の機能について説明する。
【００４５】本発明の第一の実施の形態の例を以下に示
す。
す。
【００４６】ＨＭＭ記憶部１に記憶されているＨＭＭの
構造が図２(a)である場合について説明する。
構造が図２(a)である場合について説明する。
【００４７】図中のAij,Bij (i = 1, 2, 3, 4、 j = 1,
2, 3, 4)は、状態iから状態jに遷移するアークに関す
る遷移確率および出現確率の符号を表す。
2, 3, 4)は、状態iから状態jに遷移するアークに関す
る遷移確率および出現確率の符号を表す。
【００４８】具体的には、A11=a11、A12=a12、A22=
a22、A23=a23、A33=a33、A34=a34、B11=b11、B12=b12、
B22=b22、B23=b23、B33=b33、B34=b34、である。
a22、A23=a23、A33=a33、A34=a34、B11=b11、B12=b12、
B22=b22、B23=b23、B33=b33、B34=b34、である。
【００４９】ここで、aij、bij、(i = 1, 2, 3, 4、 j
= 1, 2, 3, 4)は、Aij,Bijの実際の値を表す。
= 1, 2, 3, 4)は、Aij,Bijの実際の値を表す。
【００５０】本発明は、挿入誤りによる音声認識率の低
下を防ぐためにＨＭＭの状態を内挿することにより、挿
入誤りを減少させるものである。
下を防ぐためにＨＭＭの状態を内挿することにより、挿
入誤りを減少させるものである。
【００５１】第一の実施の形態では、図２(a)の４状態
３ループを５状態４ループにする場合を示す。一般的な
５状態４ループのＨＭＭは図２(b)に示されるものであ
る。
３ループを５状態４ループにする場合を示す。一般的な
５状態４ループのＨＭＭは図２(b)に示されるものであ
る。
【００５２】第一の実施の形態では、図２(a)の状態２
と状態３の間に新しく状態Xを内挿し図２(b)のＨＭＭを
作成する一例を示す。
と状態３の間に新しく状態Xを内挿し図２(b)のＨＭＭを
作成する一例を示す。
【００５３】具体的には、第一の実施の形態の場合、状
態２と状態３の間に状態を内挿するので、内挿した状態
Xの自己ループの遷移確率Axxと出現確率Bxxを、内挿し
た状態の１つ前の状態である状態２の自己ループの遷移
確率a22と出現確率b22とする。更に、状態２から状態X
への遷移に関する遷移確率A2xと出現確率B2xを状態２の
自己ループの遷移確率a22と出現確率b22とする。また、
状態Xから状態３への遷移に関するアークの遷移確率Ax3
と出現確率Bx3を、状態２から状態３への遷移確率a23と
出現確率b23とする。ＨＭＭ全体の遷移確率と出現確率
は、以下の様になる。
態２と状態３の間に状態を内挿するので、内挿した状態
Xの自己ループの遷移確率Axxと出現確率Bxxを、内挿し
た状態の１つ前の状態である状態２の自己ループの遷移
確率a22と出現確率b22とする。更に、状態２から状態X
への遷移に関する遷移確率A2xと出現確率B2xを状態２の
自己ループの遷移確率a22と出現確率b22とする。また、
状態Xから状態３への遷移に関するアークの遷移確率Ax3
と出現確率Bx3を、状態２から状態３への遷移確率a23と
出現確率b23とする。ＨＭＭ全体の遷移確率と出現確率
は、以下の様になる。
【００５４】A11=a11、A12=a12、A22=a22、A2x=a22、A
xx=a22、Ax3=a23、A33=a33、A34=a34、B11=a11、B12=b
12、B22=b22、B2x=b22、Bxx=b22、Bx3=b23、B33=b33、B
34=b34。
xx=a22、Ax3=a23、A33=a33、A34=a34、B11=a11、B12=b
12、B22=b22、B2x=b22、Bxx=b22、Bx3=b23、B33=b33、B
34=b34。
【００５５】ここで、B2xとBxxはB22と同じb22という値
であるので、計算結果は共通に使用できる。
であるので、計算結果は共通に使用できる。
【００５６】この様に状態を内挿したＨＭＭを図２(c)
に示す。
に示す。
【００５７】以上の手順により、状態の内挿を行なう。
【００５８】第一の実施の形態により状態の内挿を行っ
たＨＭＭに対する最終的な認識ゆう度Ｐは、数１の漸化
式により前向き確率α（ｊ，ｔ）を計算することによ
り、数２により得られる。
たＨＭＭに対する最終的な認識ゆう度Ｐは、数１の漸化
式により前向き確率α（ｊ，ｔ）を計算することによ
り、数２により得られる。
【００５９】第一の実施の形態では、１つの状態の内挿
について述べたが、複数の状態の内挿を行なう場合も、
同様の手順で実現できる。
について述べたが、複数の状態の内挿を行なう場合も、
同様の手順で実現できる。
【００６０】また、出現確率Bxxは出現確率b22と出現確
率b23から計算される値を用いてもよい。
率b23から計算される値を用いてもよい。
【００６１】例えば、出現確率がガウス分布のような確
率密度関数ｂ＝Ｎ｛μ，Σ｝で与えられるとき、出現確
率b22＝Ｎ｛μ22，Σ22｝と出現確率b23＝Ｎ｛μ23，Σ
23｝から、出現確率Bxx＝Ｎ｛μXX，Σxx｝を求める。
例えば、Bxx＝Ｎ｛μXX，Σxx｝は、数４に従い計算す
る。
率密度関数ｂ＝Ｎ｛μ，Σ｝で与えられるとき、出現確
率b22＝Ｎ｛μ22，Σ22｝と出現確率b23＝Ｎ｛μ23，Σ
23｝から、出現確率Bxx＝Ｎ｛μXX，Σxx｝を求める。
例えば、Bxx＝Ｎ｛μXX，Σxx｝は、数４に従い計算す
る。
【００６２】
【数４】
【００６３】更に、出現確率b22と出現確率b23が複数の
分布から構成されるものである場合は、出現確率b22に
含まれる各分布と近い出現確率b23に含まれる分布から
出現確率Bxxを計算してもよい。
分布から構成されるものである場合は、出現確率b22に
含まれる各分布と近い出現確率b23に含まれる分布から
出現確率Bxxを計算してもよい。
【００６４】例えば、出現確率が混合ガウス分布のよう
な出現確率b22＝｛α1，α2，α3｝、出現確率b23＝
｛β1，β2，β3｝で与えられる場合の一例を示す。
な出現確率b22＝｛α1，α2，α3｝、出現確率b23＝
｛β1，β2，β3｝で与えられる場合の一例を示す。
【００６５】ここで、α1，α2，α3はそれぞれＮ｛μ1
22，Σ1 22｝,Ｎ｛μ2 22，Σ2 22｝,Ｎ｛μ3 22，Σ3 22｝
で表されるものである。同様にβ1，β2，β3はそれぞ
れＮ｛μ1 23，Σ1 23｝,Ｎ｛μ2 23，Σ2 23｝,Ｎ
｛μ3 23，Σ3 23｝で表されるものである。
22，Σ1 22｝,Ｎ｛μ2 22，Σ2 22｝,Ｎ｛μ3 22，Σ3 22｝
で表されるものである。同様にβ1，β2，β3はそれぞ
れＮ｛μ1 23，Σ1 23｝,Ｎ｛μ2 23，Σ2 23｝,Ｎ
｛μ3 23，Σ3 23｝で表されるものである。
【００６６】まず、α1と最も類似した分布を出現確率b
23中から選ぶ。β2が選ばれたとすればα1とβ2から新
しい分布γ1を計算する。次に、α2と最も類似した分布
を出現確率b23中から選び、α2と該被選択分布とから新
しい分布γ2を計算する。次に、α3と最も類似した分布
を出現確率b23中から選び、α3と該被選択分布とから新
しい分布γ3を計算する。計算したかかる新しい分布に
より出現確率BxxをBx x＝｛γ1，γ2，γ3｝とする。
23中から選ぶ。β2が選ばれたとすればα1とβ2から新
しい分布γ1を計算する。次に、α2と最も類似した分布
を出現確率b23中から選び、α2と該被選択分布とから新
しい分布γ2を計算する。次に、α3と最も類似した分布
を出現確率b23中から選び、α3と該被選択分布とから新
しい分布γ3を計算する。計算したかかる新しい分布に
より出現確率BxxをBx x＝｛γ1，γ2，γ3｝とする。
【００６７】一方、出現確率Bxxは出現確率b23と出現確
率b33から計算される値を用いてもよい。
率b33から計算される値を用いてもよい。
【００６８】例えば、出現確率がガウス分布のような確
率密度関数ｂ＝Ｎ｛μ，Σ｝で与えられるとき、出現確
率b23＝Ｎ｛μ23，Σ23｝と出現確率b33＝Ｎ｛μ33，Σ
33｝から、上記と同様の手順で出現確率Bxx＝Ｎ
｛μXX，Σxx｝を求める。
率密度関数ｂ＝Ｎ｛μ，Σ｝で与えられるとき、出現確
率b23＝Ｎ｛μ23，Σ23｝と出現確率b33＝Ｎ｛μ33，Σ
33｝から、上記と同様の手順で出現確率Bxx＝Ｎ
｛μXX，Σxx｝を求める。
【００６９】また、出現確率b23と出現確率b33が複数の
分布から構成されるものである場合は、出現確率b23に
含まれる各分布と近い出現確率b33に含まれる分布から
上記と同様の手順で出現確率Bxxを計算してもよい。
分布から構成されるものである場合は、出現確率b23に
含まれる各分布と近い出現確率b33に含まれる分布から
上記と同様の手順で出現確率Bxxを計算してもよい。
【００７０】本発明の第二の実施の形態の例を以下に示
す。
す。
【００７１】ＨＭＭ記憶部１に記憶されているＨＭＭの
構造が図３(a)である場合について説明する。
構造が図３(a)である場合について説明する。
【００７２】第二の実施の形態では、図３(a)の４状態
３ループを５状態３ループ場合を示す。かかる５状態３
ループのＨＭＭは図３(b)に示されるものである。
３ループを５状態３ループ場合を示す。かかる５状態３
ループのＨＭＭは図３(b)に示されるものである。
【００７３】第二の実施の形態では、図３(a)の状態１
と状態２の間に新しく状態Xを内挿し図３(b)のＨＭＭを
作成する一例を示す。ここで述べる内挿は、状態２の自
己ループのアークに関する遷移確率と、出現確率の展開
である。
と状態２の間に新しく状態Xを内挿し図３(b)のＨＭＭを
作成する一例を示す。ここで述べる内挿は、状態２の自
己ループのアークに関する遷移確率と、出現確率の展開
である。
【００７４】具体的には、第二の実施の形態の場合、状
態１と状態２の間に状態Xを内挿するので、状態１から
状態Xへの遷移に関する遷移確率A1xと出現確率B1xを、
状態１から状態２の遷移確率a12と出現確率b12とする。
態１と状態２の間に状態Xを内挿するので、状態１から
状態Xへの遷移に関する遷移確率A1xと出現確率B1xを、
状態１から状態２の遷移確率a12と出現確率b12とする。
【００７５】更に、状態Xから状態２への遷移に関する
遷移確率Ax2と出現確率Bx2を、状態２から状態２の遷移
確率a22と出現確率b22とする。
遷移確率Ax2と出現確率Bx2を、状態２から状態２の遷移
確率a22と出現確率b22とする。
【００７６】つまり、ＨＭＭ全体の遷移確率と出現確率
は、以下の様になる。
は、以下の様になる。
【００７７】A11=a11、A1x=a12、Ax2=a22、A22=a22、A
23=a23、A33=a33、A34=a34、B11=b11、B1x=b12、Bx2=b
22、B22=b22、B23=b23、B33=b33、B34=b34。
23=a23、A33=a33、A34=a34、B11=b11、B1x=b12、Bx2=b
22、B22=b22、B23=b23、B33=b33、B34=b34。
【００７８】以上の手順により、状態の内挿を行なう。
【００７９】第二の実施の形態により状態の内挿を行っ
たＨＭＭに対する最終的な認識ゆう度Ｐは、数１の漸化
式により前向き確率α（ｊ，ｔ）を計算することによ
り、数２により得られる。
たＨＭＭに対する最終的な認識ゆう度Ｐは、数１の漸化
式により前向き確率α（ｊ，ｔ）を計算することによ
り、数２により得られる。
【００８０】第二の実施の形態では、１つの状態の内挿
について述べたが、複数の状態の内挿を行なう場合も、
同様の手順で実現できる。
について述べたが、複数の状態の内挿を行なう場合も、
同様の手順で実現できる。
【００８１】本発明の第三の実施の形態の例を以下に示
す。
す。
【００８２】ＨＭＭ記憶部１に記憶されているＨＭＭの
構造が図４(a)である場合について説明する。
構造が図４(a)である場合について説明する。
【００８３】第三の実施の形態では、図４(a)の４状態
３ループを５状態３ループにする場合を示す。かかる５
状態３ループのＨＭＭは図４(b)に示されるものであ
る。
３ループを５状態３ループにする場合を示す。かかる５
状態３ループのＨＭＭは図４(b)に示されるものであ
る。
【００８４】第三の実施の形態では、図４(a)の状態２
と状態３の間に新しく状態Xを内挿し図４(b)のＨＭＭを
作成する一例を示す。ここで述べる内挿は、状態２の自
己ループのアークに関する遷移確率と、出現確率の展開
である。
と状態３の間に新しく状態Xを内挿し図４(b)のＨＭＭを
作成する一例を示す。ここで述べる内挿は、状態２の自
己ループのアークに関する遷移確率と、出現確率の展開
である。
【００８５】具体的には、第三の実施の形態の場合、状
態２と状態３の間に状態を内挿するので、状態２から状
態Xへの遷移に関する遷移確率A2xと出現確率B2xを、内
挿した状態の１つ前の状態である状態２の自己ループの
遷移確率a22と出現確率b22とする。
態２と状態３の間に状態を内挿するので、状態２から状
態Xへの遷移に関する遷移確率A2xと出現確率B2xを、内
挿した状態の１つ前の状態である状態２の自己ループの
遷移確率a22と出現確率b22とする。
【００８６】また、状態Xから状態３への遷移に関する
アークの遷移確率Ax3と出現確率Bx3を、状態２から状態
３への遷移確率a23と出現確率b23とする。
アークの遷移確率Ax3と出現確率Bx3を、状態２から状態
３への遷移確率a23と出現確率b23とする。
【００８７】ＨＭＭ全体の遷移確率と出現確率は、以下
の様になる。
の様になる。
【００８８】A11=a11、A12=a12、A22=a22、A2x=a22、A
x3=a23、A33=a33、A34=a34、B11=b11、B12=b12、B22=b
22、B2x=b22、Bx3=b23、B33=b33、B34=b34。
x3=a23、A33=a33、A34=a34、B11=b11、B12=b12、B22=b
22、B2x=b22、Bx3=b23、B33=b33、B34=b34。
【００８９】この様に状態を内挿したＨＭＭを図４(c)
に示す。
に示す。
【００９０】以上の手順により、状態の内挿を行なう。
【００９１】第三の実施の形態により状態の内挿を行っ
たＨＭＭに対する最終的な認識ゆう度Ｐは、数１の漸化
式により前向き確率α（ｊ，ｔ）を計算することによ
り、数２により得られる。
たＨＭＭに対する最終的な認識ゆう度Ｐは、数１の漸化
式により前向き確率α（ｊ，ｔ）を計算することによ
り、数２により得られる。
【００９２】第三の実施の形態では、１つの状態の内挿
について述べたが、複数の状態の内挿を行なう場合も同
様の手順で実現できる。
について述べたが、複数の状態の内挿を行なう場合も同
様の手順で実現できる。
【００９３】以下に本発明の効果を実験により示す。
【００９４】初期ＨＭＭには、日本音響学会連続音声デ
ータベースの男性話者30名の音声資料の一部から作成し
た不特定話者ＨＭＭを用いた。
ータベースの男性話者30名の音声資料の一部から作成し
た不特定話者ＨＭＭを用いた。
【００９５】評価は、電子協日本語共通音声データに含
まれる男性話者5名の地名100単語を用いた。分析条件
は、サンプリング周波数12kHz、ハミング窓長21.3ms、1
6次LPC分析、フレーム周期5msである。特徴量には、16
次LPCケプストラム、16次Δケプストラム、Δ対数パワ
ーの33次元ベクトルを用いた。ＨＭＭ記憶部１に記憶さ
れたＨＭＭは4状態3ループ、対角共分散行列の混合ガウ
ス分布型であり、各状態の混合数は4、各状態からのア
ークはタイドアークとした。
まれる男性話者5名の地名100単語を用いた。分析条件
は、サンプリング周波数12kHz、ハミング窓長21.3ms、1
6次LPC分析、フレーム周期5msである。特徴量には、16
次LPCケプストラム、16次Δケプストラム、Δ対数パワ
ーの33次元ベクトルを用いた。ＨＭＭ記憶部１に記憶さ
れたＨＭＭは4状態3ループ、対角共分散行列の混合ガウ
ス分布型であり、各状態の混合数は4、各状態からのア
ークはタイドアークとした。
【００９６】ＨＭＭ数は39種とした。
【００９７】状態内挿部２における状態内挿の方法は、
上記の第一の実施の形態を用いて、状態１と状態２の間
に１つ、状態２と状態３の間に２つ、状態３と状態４の
間に１つとした。認識結果を表１に示す。状態の内挿を
行なうことにより認識率が向上しており、本発明の有効
性が分かる。
上記の第一の実施の形態を用いて、状態１と状態２の間
に１つ、状態２と状態３の間に２つ、状態３と状態４の
間に１つとした。認識結果を表１に示す。状態の内挿を
行なうことにより認識率が向上しており、本発明の有効
性が分かる。
【００９８】
【表１】
【００９９】
【発明の効果】以上の説明から明らかなように、本発明
によれば、ＨＭＭの学習のための音声データ量の増加を
招かずに、任意の数に状態数を増加できるという効果を
奏する。
によれば、ＨＭＭの学習のための音声データ量の増加を
招かずに、任意の数に状態数を増加できるという効果を
奏する。
【０１００】また、従来例に示したような特別な音素や
音韻の継続時間長制御を行なう必要がなく、周知のトレ
リス演算やビタビ演算のみで音声認識時のＨＭＭの挿入
誤りを減らすことができるという効果を奏する。
音韻の継続時間長制御を行なう必要がなく、周知のトレ
リス演算やビタビ演算のみで音声認識時のＨＭＭの挿入
誤りを減らすことができるという効果を奏する。
【０１０１】周知のトレリス演算やビタビ演算のみで認
識できるということは、従来例のような継続時間長制御
よりも演算量が少なくてすむという効果を奏する。
識できるということは、従来例のような継続時間長制御
よりも演算量が少なくてすむという効果を奏する。
【０１０２】更に、ＨＭＭを作成した後に、再学習無し
に任意の状態数のＨＭＭを実現できるため、最適なＨＭ
Ｍの状態数を簡単に設定できるという効果を奏する。
に任意の状態数のＨＭＭを実現できるため、最適なＨＭ
Ｍの状態数を簡単に設定できるという効果を奏する。
【０１０３】状態の内挿とともに出現確率の補間を行う
ため、モデルを高精度化できるという効果を奏する。
ため、モデルを高精度化できるという効果を奏する。
【図１】本発明の概略構成図である。
【図２】本発明の第一の実施の形態の説明図である。
【図３】本発明の第二の実施の形態の説明図である。
【図４】本発明の第三の実施の形態の説明図である。
【図５】従来の音声認識装置の概略構成図である。
【図６】ＨＭＭの概略図である。
【図７】従来の継続時間長制御を有する音声認識装置の
概略構成図である。
概略構成図である。
１・・・・・・・・モデル記憶部 ２・・・・・・・・状態内挿部 ３・・・・・・・・状態内挿ＨＭＭ記憶部 ４・・・・・・・・認識部 ４−１・・・・生起確率Ｐ計算部 ４−２・・・・ＨＭＭ連結部 ５・・・・・・・・辞書データ記憶部 ６・・・・・・・・認識部 ６−１・・・・継続時間長制御パラメータ記憶部 ６−２・・・・生起確率Ｐ計算部 ６−３・・・・ＨＭＭ連結部
Claims (4)
- 【請求項１】 複数の状態をもち、該状態が遷移を規定
する状態遷移確率により接続されるＨＭＭにおいて、上
記状態遷移確率により接続された２状態間に新たな状態
を内挿する状態内挿部をもち、該状態内挿部において状
態を内挿したＨＭＭを用いて音声認識を行う音声認識方
法において、 上記状態内挿部を状態Nと状態Mの間に状態Xを内挿する
場合は、状態Nから状態Xへの遷移に関する遷移確率ANX
と出現確率BNXを、状態Nから状態Mの遷移確率aNMと出現
確率bNMとする第一ステップと、状態Xから状態Mへの遷
移に関する遷移確率AXMと出現確率BXMを、状態Mから状
態Mの遷移確率aMMと出現確率bMMとする第二ステップ
と、からなることを特徴とする音声認識方法。 - 【請求項２】複数の状態をもち、該状態が遷移を規定す
る状態遷移確率により接続されるＨＭＭにおいて、上記
状態遷移確率により接続された２状態間に新たな状態を
内挿する状態内挿部をもち、該状態内挿部において状態
を内挿したＨＭＭを用いて音声認識を行う音声認識方法
において、 上記状態内挿部で状態Nと状態Mの間に状態Xを内挿する
場合は、内挿した状態Xの自己ループの遷移確率AXXと出
現確率BXXを、状態Nの自己ループの遷移確率aNNと出現
確率bNNとする第一ステップと、状態Nから状態Xへの遷
移に関する遷移確率ANXと出現確率BNXを、状態Nの自己
ループの遷移確率aNNと出現確率bNNとする第二ステップ
と、状態Xから状態Mへの遷移に関するアークの遷移確率
AXMと出現確率BXMを、状態Nから状態Mへの遷移確率aNM
と出現確率bNMとする第三ステップと、からなることを
特徴とする音声認識方法。 - 【請求項３】 請求項２において、上記出現確率BXXは出
現確率bNN及び出現確率bNMに基づいて求められる値であ
ることを特徴とする音声認識方法。 - 【請求項４】 請求項２において、上記出現確率BXXは出
現確率bNM及び出現確率bMMに基づいて求められる値であ
ることを特徴とする音声認識方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP24972095A JP3316352B2 (ja) | 1995-09-27 | 1995-09-27 | 音声認識方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP24972095A JP3316352B2 (ja) | 1995-09-27 | 1995-09-27 | 音声認識方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH0990980A JPH0990980A (ja) | 1997-04-04 |
| JP3316352B2 true JP3316352B2 (ja) | 2002-08-19 |
Family
ID=17197202
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP24972095A Expired - Fee Related JP3316352B2 (ja) | 1995-09-27 | 1995-09-27 | 音声認識方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3316352B2 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018047966A1 (ja) * | 2016-09-12 | 2018-03-15 | 日本電気株式会社 | 波形分離装置、方法、プログラム |
-
1995
- 1995-09-27 JP JP24972095A patent/JP3316352B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JPH0990980A (ja) | 1997-04-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8301445B2 (en) | Speech recognition based on a multilingual acoustic model | |
| JP2733955B2 (ja) | 適応型音声認識装置 | |
| US5787396A (en) | Speech recognition method | |
| Lee et al. | Improved acoustic modeling for large vocabulary continuous speech recognition | |
| US6490555B1 (en) | Discriminatively trained mixture models in continuous speech recognition | |
| EP1465154B1 (en) | Method of speech recognition using variational inference with switching state space models | |
| EP0903730B1 (en) | Search and rescoring method for a speech recognition system | |
| US7133827B1 (en) | Training speech recognition word models from word samples synthesized by Monte Carlo techniques | |
| Boite et al. | A new approach towards keyword spotting. | |
| JP3535292B2 (ja) | 音声認識システム | |
| Steinbiss et al. | The Philips research system for continuous-speech recognition | |
| JP2002358097A (ja) | 音声認識装置 | |
| Roucos et al. | A stochastic segment model for phoneme-based continuous speech recognition | |
| JPH11184491A (ja) | 音声認識装置 | |
| Rabiner et al. | Hidden Markov models for speech recognition—strengths and limitations | |
| JP3316352B2 (ja) | 音声認識方法 | |
| JP2886118B2 (ja) | 隠れマルコフモデルの学習装置及び音声認識装置 | |
| JP2001255887A (ja) | 音声認識装置、音声認識方法及び音声認識方法を記録した媒体 | |
| JP3532248B2 (ja) | 学習音声パタンモデル使用音声認識装置 | |
| JP3368989B2 (ja) | 音声認識方法 | |
| JP3406672B2 (ja) | 話者適応化装置 | |
| JPH10143190A (ja) | 音声認識装置 | |
| JPH05224692A (ja) | 連続音声認識方式 | |
| JP2002055691A (ja) | 音声認識方法 | |
| JP3285048B2 (ja) | 不特定話者用音声認識装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |