JP2845019B2 - 類似度演算装置 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は音声信号の認識を行う
音声認識装置に関するものである。

【０００２】

【従来の技術】図６は例えば中川聖一著「確率モデルに
よる音声認識」（電子情報通信学会発行、Ｐ４４〜Ｐ４
６）に示された従来の類似度演算装置の内容を示す構成
図であり、２１は音声信号をフレーム毎に音響分析しパ
タンに変換する音響分析手段、２２はマルコフモデルを
表現する出力確率と遷移確率のモデルパラメータを記憶
しているモデルパラメータ記憶手段、２３はこのモデル
パラメータを用いて状態遷移の際に音響ベクトルを出力
する確率である出力確率を演算し出力する出力確率演算
手段である。

【０００３】２４は状態遷移系列に対する上記出力確率
と上記遷移確率の乗積である生起確率をモデルの評価値
として、状態毎のこの生起確率を保持しており、上記生
起確率を最大化する最適状態遷移系列をヴィタビ（Ｖｉ
ｔｅｒｂｉ）演算により求め、その系列に対する出力確
率と遷移確率の乗積をパタン類似度として出力するヴィ
タビ演算手段、２５は入力信号、２６は音響ベクトル、
２７は出力確率のモデルパラメータ、２８は遷移確率、
２９は出力確率、３０はパタン類似度である。

【０００４】以下図７に示す様に音声の音響的特徴をＪ
個の状態からなるマルコフ過程で表現したモデルに対す
る、同じく図７に示す音響ベクトルｙtの時系列である
パタンの類似度を演算する場合を一例として従来の類似
度演算装置の説明を行う。

【０００５】図７において、ｔはフレーム番号、Ｔはパ
タンのフレーム長、ｊは状態番号、Ｊは状態系列の長
さ、ｙtはパタンのフレームｔの音響ベクトル、ｆ(ｊ,
ｔ)は状態jのフレームｔにおける生起確率、ａijは状態
ｉから状態ｊへ遷移する際の遷移確率、ｂj(yt)は状態j
における音響ベクトルytに対する出力確率、Ｄ1、Ｄ2、
Ｄ3はそれぞれのパスの確率値である。状態ｊ−１から
状態jへ遷移する際の出力確率は状態ｊから状態ｊへ遷
移する際の出力確率と等しく、ｂｊ（ｙｔ）であるとす
る。

【０００６】図６において音声信号２５が入力され、音
響分析手段２１において音響分析されて音響ベクトル２
６が出力される。出力確率演算手段２３ではモデルパラ
メータ記憶手段２２に記憶されている出力確率のモデル
パラメータ２７を用いて音響ベクトル２６の出力確率２
９を演算し出力する。ヴィタビ演算手段２４ではモデル
パラメータ記憶手段２２に記憶されている遷移確率２８
と出力確率２９を用いてヴィタビ演算を行いパタン類似
度３０を出力する。

【０００７】以下このヴィタビ演算手段の動作について
更に説明を行う。図８はヴィタビ演算手段の動作を説明
する流れ図である。図８においてｆ(ｊ,ｔ)は状態ｊの
フレームｔにおける生起確率を保持する状態情報であ
り、残りの記号は図７において既に説明したものと同じ
である。なお、ステップ２０５におけるｍａｘ（Ｄ1,Ｄ
2,Ｄ3）は数値Ｄ1，Ｄ2，Ｄ3のうち最大のものを表す。

【０００８】図８において処理はｓｔａｒｔ２０１より
始まりｅｎｄ２１１で終了する。生起確率は図９に示す
様に記憶されており、ステップ２０２において状態０と
フレーム０に関連する生起確率を図９に示すように初期
化する。全ての状態、全てのフレームに関して２０５の
ヴィタビ演算が実行される。最後に最終状態Ｊのフレー
ムＴにおける生起確率ｆ(Ｊ,Ｔ)がパタン類似度として
出力される。

【０００９】

【発明が解決しようとする課題】従来の類似度演算装置
は以上のように構成されており、状態ｊにｎフレームの
間留まる確率は、

【００１０】

【数１】

【００１１】であり、ｎとともに指数関数的に減少する
ため、音声の定常区間でも対応する状態に長く留まるこ
とは難しく実際の音声と整合しないという問題があっ
た。

【００１２】またこれの改良策として例えば中川聖一著
「確率モデルによる音声認識」（電子情報通信学会発
行、Ｐ７４からＰ７５）に示された継続時間長制御付き
ヴィタビアルゴリズムがあるが、このアルゴリズムでは
遷移先の状態のとり得る継続時間長を全て最適状態遷移
系列候補として演算を行わねばならず、極めて多くの演
算量とかなり大きな生起確率の記憶量を必要とするとい
う問題があった。

【００１３】

【課題を解決するための手段】この発明による類似度演
算装置は従来の類似度演算装置の構成に加え、同一状態
に留まる継続時間長の分析により表される確率を状態の
継続時間長尤度として記憶している継続時間長尤度記憶
手段を備え、ヴィタビ演算手段を自己遷移する時は状態
遷移系列に対する上記出力確率により、異なる状態に遷
移する時は状態遷移系列に対する上記出力確率と状態遷
移する際の遷移元の状態の上記継続時間長尤度の乗積に
より生起確率を決定し、この決定された生起確率をモデ
ルの評価値として、状態毎にこの生起確率と継続時間長
を保存しており、状態遷移に応じて各状態の継続時間長
を更新しながら、上記生起確率を最大化する最適状態遷
移系列をヴィタビ演算により求め、その系列に対する出
力確率と継続時間長尤度の乗積をパタン類似度として出
力する構成としたものである。

【００１４】

【作用】この発明における類似度演算装置は、すでに継
続時間長が確定している遷移元の状態の継続時間長尤度
を用いて継続時間長制御を行うため、遷移先の状態の継
続時間長尤度を用いて継続時間長制御を行う従来型のヴ
ィタビアルゴリズムに比べ演算量が少なく、一方継続時
間長尤度の働きにより実際の音声との整合性の高い類似
度が求められ従来型の継続時間長制御ヴィタビアルゴリ
ズムに近い性能を有し、また従来の継続時間長制御より
少ない記憶量で演算可能である。

【００１５】

【実施例】

実施例１．以下、この発明による一実施例を図１につい
て説明する。図１において１は音声信号をフレーム毎に
音響分析しパタンに変換する音響分析手段、２はマルコ
フモデルを表現する出力確率と遷移確率のモデルパラメ
ータを記憶しているモデルパラメータ記憶手段、３はこ
のモデルパラメータを用いて状態遷移の際に音響ベクト
ルを出力する確率である出力確率を演算し出力する出力
確率演算手段である。

【００１６】４は初期状態から各状態に至る各部分状態
系列に対する上記生起確率を最大化する最適状態遷移系
列をヴィタビ演算により求め、その系列に対する生起確
率をもって状態情報記憶手段５の生起確率を更新すると
ともに状態遷移の有無を出力する状態選択手段、５は初
期状態から始まり最終状態に終わる状態系列の各状態の
生起確率と継続時間長を一組の状態情報として保持する
状態情報記憶手段である。

【００１７】６は上記状態選択手段４における状態遷移
に応じて上記状態情報記憶手段５の各状態の継続時間長
を更新する継続時間長計測手段、７は同一状態に留まる
継続時間長の分布により表される確率を状態の継続時間
長尤度として記憶している継続時間長尤度記憶手段、８
は上記状態情報記憶手段５に記憶されている最終状態の
生起確率に最終状態の継続時間長に対する継続時間長尤
度を乗じてパタンの類似度として出力する類似度出力手
段である。

【００１８】９は音声信号、１０は音響ベクトル、１１
は出力確率のモデルパラメータ、１２は遷移確率、１３
は出力確率、１４は状態情報、１５は生起確率、１６は
状態遷移情報、１７ａ、１７ｂは継続時間長尤度、１８
は最終状態の状態情報、１９はパタン類似度である。

【００１９】従来の技術の説明と同じく図７に示すよう
に音声の音響的特徴をＪ個の状態からなるマルコフ過程
で表現したモデルに対する、図７に示す音響ベクトルｙ
tのＴフレームの時系列であるパタンの類似度を演算す
る場合を一例としてこの実施例による類似度演算装置の
説明を行う。

【００２０】図１において、音声信号９が入力され音響
分析手段１によって音響分析され、音響ベクトル１０が
出力される。出力確率演算手段３では予めモデルパラメ
ータ記憶手段２に記憶されている出力確率のモデルパラ
メータ１１を用いて出力確率の演算を行い出力確率１３
を出力する。以下、状態選択手段４、状態情報記憶手段
５、継続時間長尤度記憶手段７、類似度出力手段８の動
作を図２に示すこの発明による類似度演算装置の動作の
流れ図を用いて説明する。

【００２１】図２の記号について説明する。図８と同じ
記号の説明は省略する。図２において、τ(ｊ,ｔ)は状
態ｊのフレームｔにおける継続時間長、ｄ(ｊ,τ)は状
態ｊの継続時間長τの継続時間長尤度、ｍ(ｊ)は継続時
間長尤度記憶手段７の状態ｊの継続時間長の最大値であ
る。継続時間長尤度と生起確率に対しある重みで乗じた
場合最も効果が大きいことが分かっており継続時間長尤
度は生起確率に対してこの適当な重みが既に加えられて
いるものとする。

【００２２】まずステップ１０２において従来例と同様
に図９に示すように状態情報記憶手段５の生起確率を初
期化する。ステップ１０４から１１５までをＴ回繰り返
し、ステップ１０５から１１３までをＪ回繰り返す。

【００２３】ステップ１０５から１０８において状態選
択手段４は３つのパスより確率最大となる遷移を選択し
状態情報記憶手段５の生起確率を更新するとともに状態
遷移情報１６を出力し、これにより継続時間長計測手段
６は継続時間長を計測して継続時間長を更新する。

【００２４】まずステップ１０５において出力確率１３
と遷移確率１２及び継続時間長尤度１７ａを用い３つの
パスのそれぞれの確率値Ｄ1,Ｄ2,Ｄ3を演算する。この
時ステップ１０５中のパス２とパス３は異なる状態への
状態遷移を生じるため、遷移元の状態の継続時間長に対
する継続時間長尤度を乗ずる。

【００２５】次にステップ１０６において継続時間長τ
(ｊ,ｔ)が状態毎に規定された最大値ｍ(ｊ)をこえた場
合にはステップ１０７においてＤ1の値を０としてステ
ップ１０８においてパス１が選択されないように制御す
る。これにより継続時間長尤度記憶手段６に有限の領域
を用いた場合この領域外を参照することによる障害を防
止することが可能となる。

【００２６】ステップ１０８ではＤ1とＤ2とＤ3を比較
して生起確率最大となるパスを選択しその値をもって状
態情報記憶手段の生起確率ｆ(ｊ,ｔ)を更新し、状態遷
移の有無を状態遷移情報１０９として出力する。

【００２７】ステップ１０９から１１１では継続時間長
計測手段６において各状態の継続時間長が更新される。
まず１０９において状態遷移情報１６を用い状態遷移の
有無を調べ、パス１が選択され状態遷移が生じなかった
場合はステップ１１０において状態ｊの継続時間長を１
増加し、パス２またはパス３が選択され状態遷移が生じ
た場合はステップ１１１において状態ｊの継続時間長を
０に戻す。

【００２８】最後にステップ１１６において状態情報記
憶手段５の最終状態ＪのフレームＴにおける状態情報を
用い、最終状態の生起確率に最終状態の継続時間長尤度
１７ｂを乗じてパタン類似度として出力する。

【００２９】上記の説明では生起確率と継続時間長の状
態情報としてフレームｆと状態ｊに関する２次元の領域
を用いて類似度の演算を行ったが、これらは状態ｊに関
する１次元の領域を繰り返し用いて演算することも可能
であり、小さな領域を用いて同じ性能を有する類似度演
算装置を実現することができる。

【００３０】実施例２．継続時間長制御を用いる場合、
遷移確率を取り除くことによる性能劣化は小さい。ここ
では遷移確率を用いず、かつパス１とパス３のみの遷移
を用い、加えて状態情報として状態ｊに関する１次元の
領域を繰り返し用いて演算を行う場合の実施例を説明す
る。

【００３１】この実施例２の類似度演算装置の構成図と
しては実施例１で示した図１と同様である。図３がこの
実施例の類似度演算装置の動作を説明する流れ図であ
る。図３の記号について説明する。図８と同じ記号の説
明は省略する。図３において、ｆ(ｊ)は状態ｊにおける
生起確率τ(ｊ)は状態ｊにおける継続時間長、ｄ(ｊ,
τ)は状態ｊの継続時間長τの継続時間長尤度、ｍ(ｊ)
は継続時間長尤度記憶手段の状態ｊの継続時間長の最大
値である。

【００３２】処理はｓｔａｒｔ１２１から始まりｅｎｄ
１３６で終了する。状態情報記憶手段５は図４に示すよ
うな構成であり、ステップ１２２において図４に示され
るように初期化される。初期化後ステップ１２４から１
３４をＴ回繰り返し、ステップ１２５から１３２までを
Ｊ回演算を繰り返す。

【００３３】状態選択手段４と継続時間長計測手段５で
はステップ１２５から１３０において生起確率を演算
し、状態情報記憶手段５の生起確率と継続時間長を更新
する。ステップ１２５において遷移元の継続時間長尤度
を乗じている。全ての繰り返し演算が終了した後、ステ
ップ１３５において最終状態Ｊの状態情報を用い、パタ
ン類似度を演算して出力する。

【００３４】実施例３．この発明による類似度演算装置
の別の実施例を説明する。ここでは遷移確率を用いず、
図２のステップ１０５におけるパス３であるナル遷移を
除き、また状態情報として状態ｊに関する１次元の領域
を繰り返し用いて演算を行う場合による動作を説明す
る。

【００３５】図５がこの実施例の類似度演算装置の動作
を説明する流れ図である。記号はこれまでに説明してき
たものと同じである。全体の動作のなかで生起確率に出
力確率を加算する演算が、実施例２の動作を表す図３に
おけるステップ１３０の位置から図５におけるステップ
１４５の位置に変わっていることによりパスの違いが生
じている。残りの動作は図３と等価でありここでは詳し
い説明は省略する。

【００３６】また継続時間長尤度記憶手段７を、各状態
毎のある規定の値に満たない継続時間長に対する継続時
間長尤度として小さな確率値を記憶し、各状態の別のあ
る規定の値を越える継続時間長に対する継続時間長尤度
として小さな確率値を記憶する構成とすることにより、
各状態毎に許容できる継続時間長の最小値と最大値を設
定するｍｉｎ−ｍａｘ制御が可能である。

【００３７】以上の類似度演算装置の説明は全て確率値
を用いて行っているが、スケーリングを避けるため一般
にはｌｏｇ化確率値を用いてヴィタビ演算が行われるも
のであり、その場合でもこの発明は同様な効果を得られ
る。

【００３８】

【発明の効果】以上のようにこの発明による類似度演算
装置は、同一状態に留まる継続時間長の分布により表さ
れる確率を状態の継続時間長尤度として記憶している継
続時間長尤度記憶手段を備え、ヴィタビ演算手段を状態
遷移系列に対する上記出力確率と上記遷移確率及び状態
遷移する際の遷移元の状態の上記継続時間長尤度の３者
の乗積である生起確率をモデルの評価値として、状態毎
にこの生起確率と継続時間長を保持しており、状態遷移
に応じて各状態の継続時間長を更新しながら、上記生起
確率を最大化する最適状態遷移系列をヴィタビ演算によ
り求め、その系列に対する出力確率と遷移確率及び継続
時間長尤度の３者の乗積をパタン類似度として出力する
構成としたため、すでに継続時間長が確定している遷移
元の状態の継続時間長尤度を用いて継続時間長制御を行
うため、遷移先の状態の継続時間長尤度を用いて継続時
間長制御を行う従来型のヴィタビアルゴリズムに比べ演
算量が少なく、一方継続時間長尤度の働きにより実際の
音声との整合性の高い類似度が求められ従来型の継続時
間長制御ヴィタビアルゴリズムに近い性能を有し、また
従来の継続時間長制御より少ない記憶量で演算可能な類
似度演算装置が得られる効果がある。

【図面の簡単な説明】

【図１】この発明の実施例１の類似度演算装置を示す構
成図である。

【図２】この発明の実施例１の類似度演算装置の動作を
示す流れ図である。

【図３】この発明の実施例２の類似度演算装置の動作を
示す流れ図である。

【図４】この発明の実施例２の類似度演算装置の状態情
報記憶手段の構成を示す説明図である。

【図５】この発明の実施例３の類似度演算装置の動作を
示す流れ図である。

【図６】従来の類似度演算装置を示す構成図である。

【図７】マルコフモデルとパタンを説明する説明図であ
る。

【図８】従来の類似度演算装置の動作を示す流れ図であ
る

【図９】従来の類似度演算装置の状態情報記憶手段の構
成を示す説明図である。

【符号の説明】

１ 音声分析手段 ２ モデルパラメータ記憶手段 ３ 出力確率演算手段 ４ 状態選択手段 ５ 状態情報記憶手段 ６ 継続時間長計測手段 ７ 継続時間長尤度記憶手段 ８ 類似度出力手段 ９ 音声信号 １０ 音響ベクトル １１ 出力確率のモデルパラメータ １２ 遷移確率 １３ 出力確率 １４ 状態情報 １５ 生起確率 １６ 状態遷移情報 １７ａ、１７ｂ 状態継続時間長尤度 １８ 最終状態の状態情報 １９ パタン類似度

Claims (2)

(57)【特許請求の範囲】
1. 【請求項１】 特定の音声の音響的特徴をマルコフ過程
   で表現したモデルに対し、入力される音響ベクトルの時
   系列であるパタンを最大確率で出力する最適状態遷移系
   列をヴィタビアルゴリズムを用いて推定し、その系列が
   パタンで出力する確率を演算する類似度演算装置におい
   て、音声信号をフレーム毎に音響分析しパタンに変換す
   る音響分析手段と、マルコフモデルを表現する出力確率
   と遷移確率のモデルパラメータを記憶しているモデルパ
   ラメータ記憶手段と、このモデルパラメータを用いて状
   態遷移の際に音響分析手段で変換されたパタンを出力す
   る確率である出力確率を演算し出力する確率演算手段
   と、同一状態に留まる継続時間長の分析により表される
   確率を状態の継続時間長尤度として記憶している継続時
   間長尤度記憶手段と、自己遷移する時は状態遷移系列に
   対する上記出力確率により、異なる状態に遷移する時は
   状態遷移系列に対する上記出力確率と状態遷移する際の
   遷移元の状態の上記継続時間長尤度の乗積により生起確
   率を決定し、この決定された生起確率をモデルの評価値
   として、状態毎にこの生起確率と継続時間長を保存して
   おり、状態遷移に応じて各状態の継続時間長を更新しな
   がら、上記生起確率を最大化する最適状態遷移系列をヴ
   ィタビ演算により求め、その系列に対する出力確率と継
   続時間長尤度の乗積をパタン類似度として出力するヴィ
   タビ演算手段を備えることを特徴とする類似度演算装
   置。
2. 【請求項２】 上記ヴィタビ演算手段を、初期状態から
   始まり最終状態に終わる状態系列の各状態の生起確率と
   継続時間長を一組の状態情報として保持する状態情報記
   憶手段と、初期状態から各状態に至る各部分状態系列に
   対する上記生起確率を最大化する最適状態遷移系列をヴ
   ィタビ演算により求め、その系列に対する生起確率をも
   って上記状態情報記憶手段の生起確率を更新するととも
   に状態遷移の有無を出力する状態選択手段と、状態選択
   手段における状態遷移に応じて上記状態情報手段の各状
   態の継続時間長を更新する継続時間長計測手段と、上記
   状態情報記憶手段に記憶されている最終状態の生起確率
   に最終状態の継続時間長に対する継続時間長尤度を乗じ
   てパタンの類似度として出力する類似度出力手段からな
   る構成とすることを特徴とする請求項１記載の類似度演
   算装置。