JP2938866B1 - 統計的言語モデル生成装置及び音声認識装置 - Google Patents

Abstract

【要約】 【課題】 遷移確率の予測精度及び信頼性を改善可能な
統計的言語モデルを生成し、統計的言語モデルを用いて
より高い音声認識率で音声認識する。 【解決手段】 学習用テキストデータ全体をクラスタリ
ング処理部４０によって自動的にクラスタリングしてク
ラスタ毎のテキストデータをメモリ２１に記憶し、言語
モデル生成部４２によりＭＡＰ推定法を用いて各クラス
タ毎の統計的言語モデルを生成してメモリ３２に記憶す
る。一方、学習用テキストデータ全体に対して統計的言
語モデルを生成してメモリ３１に記憶する。単語照合部
４による単語仮説の生成の後、単語仮説絞込部６ａはメ
モリ３１内の統計的言語モデルを用いて単語仮説の絞込
処理を実行した後、言語モデル選択部８はメモリ３２内
の各クラスタの統計的言語モデルのうちで文生成確率が
最大のモデルを選択して、単語仮説絞込部６ｂは選択さ
れたモデルを用いて再度の絞込処理を行って認識結果を
出力する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、学習用テキストデ
ータに基づいて統計的言語モデルを生成する統計的言語
モデル生成装置、及び上記統計的言語モデルを用いて、
入力される発声音声文の音声信号を音声認識する音声認
識装置に関する。

【０００２】

【従来の技術】近年、連続音声認識装置において、その
性能を高めるために言語モデルを用いる方法が研究され
ている。これは、言語モデルを用いて、次単語を予測し
探索空間を削減することにより、認識率の向上及び計算
時間の削減の効果を狙ったものである。最近盛んに用い
られている言語モデルとしてＮ−ｇｒａｍ（Ｎ−グラ
ム；ここで、Ｎは２以上の自然数である。）がある。こ
れは、大規模なテキストデータを学習し、直前のＮ−１
個の単語から次の単語への遷移確率を統計的に与えるも
のである。複数Ｌ個の単語列ｗ₁ ^L＝ｗ₁，ｗ₂，…，ｗ_L
の生成確率Ｐ（ｗ₁ ^L）は次式で表される。

【０００３】

【数１】

【０００４】ここで、ｗ_tは単語列ｗ₁ ^Lのうちｔ番目の
１つの単語を表し、ｗ_i ^jはｉ番目からｊ番目の単語列を
表わす。上記数１において、確率Ｐ（ｗ_t｜
ｗ_t+1-N ^t-1）は、Ｎ個の単語からなる単語列ｗ_t+1-N ^t-1
が発声された後に単語ｗ_tが発声される確率であり、以
下同様に、確率Ｐ（Ａ｜Ｂ）は単語又は単語列Ｂが発声
された後に単語Ａが発声される確率を意味する。また、
数１における「Π」はｔ＝１からＬまでの確率Ｐ（ｗ_t
｜ｗ_t+1-N ^t-1）の積を意味し、以下同様である。

【０００５】ところで、近年、上記統計的言語モデルＮ
−ｇｒａｍを用いて連続音声認識の性能を向上させる手
法が盛んに提案されている（例えば、従来技術文献１
「Ｌ．Ｒ．Ｂａｈｌ ｅｔ ａｌ．，“Ａ Ｍａｘｉｍ
ｕｍ ＬｉｋｅｌｉｈｏｏｄＡｐｐｒｏａｃｈ ｔｏ
Ｃｏｎｔｉｎｕｏｕｓ Ｓｐｅｅｃｈ Ｒｅｃｏｇｎｉ
ｔｉｏｎ”，ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏ
ｎ ＰａｔｔｅｒｎＡｎａｌｙｓｉｓ ａｎｄ Ｍａｃ
ｈｉｎｅ Ｉｎｔｅｌｌｉｇｅｎｃｅ，ｐｐ．１７９−
１９０，１９８３年」及び従来技術文献２「清水ほか，
“単語グラフを用いた自由発話音声認識”，電子情報通
信学会技術報告，ＳＰ９５−８８，ｐｐ．４９−５４，
平成７年」参照。）。

【０００６】しかしながら、Ｎ−ｇｒａｍはパラメータ
数が多く、それぞれの値を正確に求めるためには、莫大
な量のテキストデータが必要とされる。この問題を解決
する方法として、学習用テキストデータに出現しない単
語遷移に対しても遷移確率を与える平滑化の手法（例え
ば、従来技術文献３「Ｆ．Ｊｅｌｉｎｅｋ ｅｔ ａ
ｌ．，“Ｉｎｔｅｒｐｏｌａｔｅｄ ｅｓｔｉｍａｔｉ
ｏｎ ｏｆ Ｍａｒｋｏｖ Ｓｏｕｒｃｅ Ｐａｒａｍ
ｅｔｅｒｓ ｆｒｏｍ Ｓｐａｒｓｅ Ｄａｔａ”，Ｐ
ｒｏｃｅｅｄｉｎｇｓ ｏｆ Ｗｏｒｋｓｈｏｐ Ｐａ
ｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ ｉｎ Ｐｒａｃ
ｔｉｃｅ，ｐｐ．３８１−３８７，１９８０年」、従来
技術文献４「Ｓ．Ｍ．Ｋａｔｚ ｅｔ ａｌ．，“Ｅｓ
ｔｉｍａｔｉｏｎ ｏｆ Ｐｒｏｂａｂｉｌｉｔｉｅｓ
ｆｒｏｍ Ｓｐａｒｓｅ Ｄａｔａ ｆｏｒ ｔｈｅ
Ｌａｎｇｕａｇｅ ｍｏｄｅｌ Ｃｏｍｐｏｎｅｎｔ
ｏｆ ａ Ｓｐｅｅｃｈ Ｒｅｃｏｇｎｉｚｅｒ”，
ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ａｃｏｕ
ｓｔｉｃｓ，Ｓｐｅｅｃｈ，ａｎｄ ＳｉｇｎａｌＰｒ
ｏｃｅｓｓｉｎｇ，ｐｐ．４００−４０１，１９８７
年」及び従来技術文献５「川端ほか，“二項事後分布に
基づくＮ−ｇｒａｍ言語モデルのＢａｃｋ−ｏｆｆ平滑
化”，電子情報通信学会技術報告、ＳＰ９５−９３，ｐ
ｐ１−６，平成７年」参照。）や、クラス分類、可変長
Ｎ−ｇｒａｍ等パラメータの数を減少させる手法（例え
ば、従来技術文献６「Ｐ．Ｆ．Ｂｒｏｗｎ ｅｔ ａ
ｌ．，“Ｃｌａｓｓ−Ｂａｓｅｄ ｎ−ｇｒａｍ ｍｏ
ｄｅｌｓ ｏｆ ｎａｔｕｒａｌｌａｎｇｕａｇｅ”，
Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃ
ｓ，Ｖｏｌ．１８，Ｎｏ．４，ｐｐ．４６７−４７９，
１９９２年」、従来技術文献７「Ｔ．Ｒ．Ｎｉｅｓｌｅ
ｒ ｅｔ ａｌ．，“Ａ Ｖａｒｉａｂｌｅ−Ｌｅｎｇ
ｔｈ Ｃａｔｅｇｏｒｙ−Ｂａｓｅｄ Ｎ−ｇｒａｍ
Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ”，Ｐｒｏｃｅｅｄｉｎ
ｇｓ ｏｆ ＩＣＡＳＳＰ ’９６，Ｖｏｌ．１，ｐ
ｐ．１６４−１６７，１９９６年」及び従来技術文献８
「政瀧ほか，“連続音声認識のための可変長連鎖統計言
語モデル”，電子情報通信学会技術報告，ＳＰ９５−７
３，ｐｐ．１−６，平成７年」参照。）等が数多く提案
されている。しかしながら、これらの手法を用いても、
精度の良い言語モデルを構築するためには、相当量のデ
ータを用いる必要があると考えられる。

【０００７】現在、実用化に向けて研究が行われている
連続音声認識システムは、ホテル予約・スケジューリン
グ等、タスクを限定し、システムのパフォーマンスの向
上させている物が多い。しかしながら、タスク毎に大量
の言語データを集めるのは困難である。特に、日本語の
場合は、英語等のように単語の区切りが明確ではなく、
通常人間が手作業で単語の切り出し・形態素解析の作業
を行うため、大量のデータを集めるのはさらに困難であ
る。しかしながら、データ量を増やすために、他のタス
クのデータを用いるた場合、言語的特徴はタスク毎に異
なるため、単純にデータを混合しても目的のタスク特有
の言語特徴を効果的に表現することはできないと考えら
れる。

【０００８】これらの問題を解決する手段として、言語
モデルのタスク適応を考えられている。すなわち、目的
のタスク以外のデータも含めた大量のデータを学習する
ことによりデータ量の問題を解決し、得られたモデルの
言語特徴を目的のタスクに適応させる方法である。タス
ク適応の手法として、従来提案されているものには大量
のデータで作成したＮ−ｇｒａｍと、目的タスクのデー
タで作成したＮ−ｇｒａｍとを重みづけにより混合する
方法（例えば、従来技術文献９「伊藤ほか，“小量テキ
ストによる言語モデルのタスク適応の検討”，日本音響
学会講演論文集，１−３−１９，ｐｐ．３７−３８，平
成８年９月」及び従来技術文献１０，「坂本ほか，“音
声認識における統計的言語モデルの選択の効果”，日本
音響学会講演論文集，１−Ｑ−２４，ｐｐ．１５７−１
５８，平成６年３月」参照。）がある。

【０００９】例えば、従来技術文献９の手法を用いた第
１の従来例のタスク適応化処理は、小量テキストに重み
をかけて大量テキストと混合するものであり、次の手順
によって言語モデルを作成する。 （ａ）小量テキストを、重み付きで大量テキストに加え
る。重み係数をｗとすると、小量テキスト中でｍ回出現
した単語は、大量テキスト中で（ｗ・ｍ）回出現した単
語と同等に扱われることになる。 （ｂ）このようにしてできたテキストの中で、出現頻度
が一定回数未満の単語を、未知語を表す記号に置き換え
る。すなわち、語彙の制限を行う。 （ｃ）テキストから統計を取り，Ｎ−ｇｒａｍモデルを
構築する。

【００１０】しかしながら、第１の従来例のタスク適応
化処理においては、重み係数ｗは１つのみしか使用して
いないので、言語モデルにおける遷移確率の予測精度は
いまだ比較的低く、当該言語モデルを用いて音声認識を
したときの音声認識率は比較的低いという問題点があっ
た。

【００１１】この第１の従来例の問題点を解決するため
に、本発明者は、特開平１０−１９８３９５号の特許出
願（以下、第２の従来例という。）において、特定のタ
スクのＮ−ｇｒａｍ言語モデルの精度を向上させるた
め、ＭＡＰ推定（最大事後確率推定）によるタスク適応
の手法を提案している。

【００１２】

【発明が解決しようとする課題】しかしながら、第２の
従来例の手法は単語列毎にタスク間のＮ−ｇｒａｍ遷移
確率の平均、及び分散を用いてパラメータ推定を行うた
め、テキスト全体があらかじめ複数のタスクに分割され
ている必要があり、単一のタスクのデータには適用でき
ないという問題点があった。また、データ量が比較的多
いタスクにおいては、タスク適応の効果が小さいという
問題があった。

【００１３】本発明の目的は以上の問題点を解決し、各
タスクに対する適応効果が大きく、従来例に比較して遷
移確率の予測精度及び信頼性を改善することができる統
計的言語モデルを生成することができる統計的言語モデ
ル生成装置、及び、当該統計的言語モデルを用いて従来
例に比較して高い音声認識率で音声認識することができ
る音声認識装置を提供することにある。

【００１４】

【課題を解決するための手段】本発明に係る請求項１記
載の統計的言語モデル生成装置は、複数のクラスタの統
計的言語モデルを記憶する記憶手段と、所定の複数の発
声音声文を含む学習用テキストデータに基づいて各発声
音声文に対する統計的言語モデルを生成して、各発声音
声文が各クラスタに対応するように、上記生成した統計
的言語モデルを上記記憶手段に記憶する初期化手段と、
上記学習用テキストデータの各発声音声文について、各
クラスタにおける統計的言語モデルの文生成確率を計算
して最大の文生成確率を有するクラスタを選択してその
発声音声文を所属させるように上記記憶手段に記憶する
クラスタ選択手段と、発声音声文が属するクラスタが変
化したときに、各クラスタ毎に、上記クラスタ選択手段
によって選択された発声音声文を用いて上記記憶手段に
記憶された各統計的言語モデルを更新して、各クラスタ
に対応した統計的言語モデルを生成するモデル変更手段
と、上記複数の発声音声文に属するクラスタが１文も変
化しなくなるまで、上記クラスタ選択手段の処理と、上
記モデル変更手段の処理を繰り返す制御手段とを備えた
ことを特徴とする。

【００１５】また、請求項２記載の統計的言語モデル生
成装置は、請求項１記載の統計的言語モデル生成装置に
おいて、さらに、上記記憶手段に記憶された各クラスタ
毎のテキストデータに基づいて、最尤推定法を用いて各
クラスタ毎に単語のＮ−ｇｒａｍ（Ｎは２以上の自然数
である。）の遷移確率を演算する第１の演算手段と、上
記第１の演算手段によって演算された各クラスタ毎の単
語のＮ−ｇｒａｍの遷移確率の出現分布を事前知識の所
定の確率分布と仮定し、各クラスタ毎の確率分布の加重
平均及び加重分散を演算した後、演算された加重平均と
加重分散に基づいて事前知識の確率分布のパラメータを
演算する第２の演算手段と、上記第２の演算手段によっ
て演算された事前知識の確率分布のパラメータと、上記
学習用テキストデータうちの特定クラスタのテキストデ
ータの事後知識における処理対象の単語列の直前の単語
列の出現回数と、処理対象の単語列の出現回数とに基づ
いて、各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を
計算することにより、各クラスタ毎の単語のＮ−ｇｒａ
ｍの遷移確率を含む統計的言語モデルを生成する第３の
演算手段とを備えたことを特徴とする。

【００１６】さらに、請求項３記載の統計的言語モデル
生成装置は、請求項２記載の統計的言語モデル生成装置
において、さらに、上記第３の演算手段によって演算さ
れた各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率に基
づいて，所定の平滑化処理を実行し、処理後の各クラス
タ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語
モデルを生成する第１の生成手段を備えたことを特徴と
する。

【００１７】またさらに、請求項４記載の統計的言語モ
デル生成装置は、請求項３記載の統計的言語モデル生成
装置において、さらに、上記学習用テキストデータに基
づいて、最尤推定法を用いて単語のＮ−ｇｒａｍ（Ｎは
２以上の自然数である。）の遷移確率を演算して、上記
単語のＮ−ｇｒａｍの遷移確率を含む別の統計的言語モ
デルを生成する第２の生成手段を備えたことを特徴とす
る。

【００１８】本発明に係る請求項５記載の音声認識装置
は、入力される発声音声文の音声信号に基づいて、所定
の統計的言語モデルを用いて音声認識する音声認識装置
において、請求項４記載の統計的言語モデル生成装置
と、上記第２の生成手段によって生成された別の統計的
言語モデルを用いて、入力される発声音声文の音声信号
を音声認識して第１の認識仮説を出力する第１の音声認
識手段と、上記第１の音声認識手段から出力される第１
の認識仮説に応答して、上記第１の生成手段によって生
成された各クラスタ毎の統計的言語モデルを用いて、入
力される発声音声文の音声信号を音声認識して、文生成
確率が最大のクラスタの統計的言語モデル生成装置を選
択するモデル選択手段と、上記モデル選択手段によって
選択されたクラスタの統計的言語モデルを用いて、上記
第１の音声認識手段から出力される第１の認識仮説に対
して絞込処理を行って第２の認識仮説を生成して認識結
果として出力する第２の音声認識手段とを備えたことを
特徴とする。

【００１９】

【発明の実施の形態】以下、図面を参照して本発明に係
る実施形態について説明する。

【００２０】図１に本発明に係る一実施形態の連続音声
認識装置のブロック図を示す。本実施形態の連続音声認
識装置は、図１において、特に、クラスタリング処理部
４０と、２つの言語モデル生成部４１，４２と、２つの
単語仮説絞込部６ａ，６ｂを備えたことを特徴としてい
る。本実施形態では、上述した第２の従来例の問題点を
解決するためには、同一タスクの文でも、さまざまな内
容の文が存在し、タスクという尺度よりも、文毎の内容
で分類した方が言語的特徴がより明確になる考えられ
る。本実施形態では、これらの問題を解決し、さらに精
度の高いＮ−ｇｒａｍ言語モデルを得るため、学習用テ
キストデータメモリ２０内のテキストデータのコーパス
全体をクラスタリング処理部４０によって自動的にクラ
スタリングし、言語モデル生成部４２において、ＭＡＰ
推定を用いてそれぞれのクラスタ毎にＮ−ｇｒａｍ言語
モデルを構築する。また、精度を向上させるため、従来
の単語Ｎ−ｇｒａｍに代り、可変長Ｎ−ｇｒａｍ（品詞
と可変長単語列の複合Ｎ−ｇｒａｍ）を用いる。

【００２１】すなわち、本実施形態の連続音声認識装置
は、言語モデルの学習に用いるテキストコーパスをクラ
スタリングし、クラスタ毎の言語特徴を明確にさせ、言
語モデルの精度を向上させる。しかしながら、入力され
た音声の発話文が属するクラスタをあらかじめ知ること
は不可能である。このため、まず最初に、入力音声をコ
ーパス全体で作成した言語モデルで認識を行い、次に、
認識結果からクラスタ別の言語モデルを１つのみ選択し
再度認識を行う、という２段階の認識を行う。

【００２２】中間認識結果Ｗからクラスタ別の言語モデ
ルＬＭｃの選択は、次式のように確率が最も高いものを
選択することにより行う。

【００２３】

【数２】

【００２４】上記式は、Ｂａｙｅｓ則を用いると、次式
のように表される。

【００２５】

【数３】

【００２６】ここで、Ｐ（ＬＭｋ）は、言語モデルＬＭ
ｋの事前確率である。この確率は前発話の内容等より求
めることができるが、本実施形態ではこの確率に関して
は考慮しない。従って、次の式によりクラスタ言語モデ
ルを選択する。

【００２７】

【数４】

【００２８】すなわち、Ｋ個のクラスタのそれぞれのモ
デルＬＭｋで認識結果文Ｗに対する生成確率Ｐ（Ｗ｜Ｌ
Ｍｋ）（１≦ｋ≦Ｋ）を求め、確率の最も高いクラスタ
モデルＬＭｃを選択する。この選択処理は、言語モデル
選択部８により行われる。

【００２９】次いで、クラスタリング処理部４０による
コーパスのクラスタリングについて説明する。コーパス
を自動クラスタリングするために、公知のＫ−ｍｅａｎ
ｓ法に類似した方法を用いた。Ｋ−ｍｅａｎｓ法は、サ
ンプルを距離が最も近いクラスタ中心に所属させる形で
クラスタリングを行う手法である。この手法を文のクラ
スタリングに適用するため、次の２点で通常の方法と異
なる。 （１）クラスタ中心ベクトルをそのクラスタに属する文
で生成される言語モデルとする。 （２）距離尺度に文の生成確率Ｐ（Ｗ｜ＬＭｋ）を用い
る。

【００３０】これらは、前述した認識結果からクラスタ
モデルの選択で用いる手法と同一であり、妥当な方法で
あると考える。以下に、クラスタリングの手順を示す。 ＜ステップＳＳ１＞クラスタモデルの初期化：クラスタ
数をＫとし、適当な手法によりコーパスからＫ文を選択
して全クラスタに１文ずつ配置し、クラスタ毎の言語モ
デルＬＭ１、ＬＭ２、…、ＬＭＫを作成する。 ＜ステップＳＳ２＞クラスタの選択：コーパスの全文に
ついて、各クラスタにおける言語モデルの文生成確率を
求め、最も確率の高いクラスタを選択し、その文を所属
させる。 ＜ステップＳＳ３＞クラスタモデルの変更：各クラスタ
毎に、ステップＳＳ２で選択した文を用いて言語モデル
ＬＭ１、ＬＭ２、…、ＬＭＫを更新する。 ＜ステップＳＳ４＞終了条件：文の属するクラスタが１
文も変化しない場合、クラスタリングを終了する。それ
以外の場合は、ステップＳＳ２及びＳＳ３の処理を繰り
返す。ただし、ある程度の回数を繰り返してもクラスタ
リングが収束しない場合は強制終了させる。

【００３１】次いで、ＭＡＰ推定によるＮ−ｇｒａｍの
適応について説明する。クラスタリングを行うことによ
り、クラスタ毎の言語的特徴は明確になるものの、クラ
スタ毎のデータ量は減少するため、Ｎ−ｇｒａｍのパラ
メータ推定の精度が低下することが考えられる。このた
め、第２の従来例で開示されたＭＡＰ推定を用いた適応
の手法を用い、パラメータ推定の精度を向上させる。

【００３２】まず、ＭＡＰ推定法による遷移確率の算出
について述べる。通常、Ｎ−ｇｒａｍの遷移確率は、Ｍ
Ｌ（Ｍａｘｉｍｕｍ Ｌｉｋｅｌｉｈｏｏｄ；最尤）推
定法により算出される。最尤推定法は、観測したサンプ
ル値（すなわち、テキストデータの単語）ｘに対して、
遷移確率ｐが決まったときに単語ｘとなる尤度関数ｆ
（ｘ｜ｐ）を最大にさせる値として、Ｎ−ｇｒａｍ遷移
確率ｐ_MLが次式で定められる。

【００３３】

【数５】

【００３４】ここで、関数ａｒｇｍａｘは、ｐを変化し
たときに関数の引数が最大となるときのｐの値を示す関
数である。議論を簡単にするため、単語ｗ_kからｗ_lへの
ｂｉｇｒａｍの遷移確率ｐ（ｗ_l｜ｗ_k）について考え、
また、以下のような変数の定義を行う。 （ａ）Ｎ：学習用テキストデータ中の単語ｗ_kの出現回
数。 （ｂ）ｎ：学習用テキストデータ中の単語列ｗ_kｗ_lの出
現回数。 （ｃ）ｐ：単語ｗ_kからｗ_lへの遷移確率。

【００３５】このとき尤度関数ｆ（ｘ｜ｐ）は、単語ｗ
_kがＮ回観測され、次に単語ｗ_lに続く回数がｎ回で、そ
れ以外の単語に続く回数が（Ｎ−ｎ）回であるから、次
式を得ることができる。

【００３６】

【数６】ｆ（ｐ）＝ｐⁿ（１−ｐ）^N-n

【００３７】ｆ（ｐ）の最大化条件ｄｌｏｇｆ（ｐ）／
ｄｐ＝０を解くことにより、Ｎ−ｇｒａｍの遷移確率は
次式のように計算される。

【００３８】

【数７】ｐ_ML＝ｎ／Ｎ

【００３９】従って、もし単語列ｗ_kｗ_lが観測データ上
で出現しない場合、ｎ＝０であるから、遷移確率は０と
推定されてしまう。これに対して、ＭＡＰ（Ｍａｘｉｍ
ｕｍＡ−ｐｏｓｔｅｒｉｏｒｉ Ｐｒｏｂａｂｉｌｉｔ
ｙ；最大事後確率）推定においては、最尤推定法を用い
て、観測したサンプル値ｘに対して、遷移確率ｐが決定
される事後確率関数ｈ（ｐ｜ｘ）を最大化する値とし
て、Ｎ−ｇｒａｍの遷移確率が次式で求められる。

【００４０】

【数８】

【００４１】ここで、Ｂａｙｅｓ則を用いると、上記数
８は次式のように変形される。

【００４２】

【数９】

【００４３】ここで、ｇ（ｐ）は、各クラスタのテキス
トデータに基づいて予め決定される、Ｎ−ｇｒａｍの遷
移確率ｐの事前分布である。すなわち、ＭＡＰ推定法を
用いると、Ｎ−ｇｒａｍの遷移確率はある事前知識より
得られる分布ｇ（ｐ）に従う変数とし、この事前分布と
実際に観測されたサンプル値とを用いて、実際の遷移確
率が推定される。このため、観測データで出現しない単
語遷移に対しても、事前知識により０でない遷移確率を
与えることができる。

【００４４】次いで、ｂｉｇｒａｍを例にとり、ＭＡＰ
推定法によりＮ−ｇｒａｍの遷移確率を求める方法を示
す。ただし、変数の定義は上述と同じものを用いる。ま
ず、遷移確率ｐの事前分布としてベータ分布（ａｐα^-1
（１−ｐ）β^-1，ここで、α及びβはベータ分布の正の
パラメータであり、ａは正規化のための正の定数であ
る。）を用いる。なお、０≦ｐ≦１である。ベータ分布
を用いる理由は次の２点である。 （ａ）ベータ分布は２項分布の自然共役事前分布で、Ｍ
ＡＰ推定によるパラメータの解が求まりやすい。 （ｂ）ベータ分布のパラメータα，βを変化させること
により、様々な形状の分布を表すことができる。 ここで、ベータ分布は、連続変数の確率分布の一種であ
り、ガンマ関数をもとにして構成されるベータ関数が表
示に含まれる。なお、本実施形態においては、ベータ分
布を用いるが、本発明はこれに限らず、ベータ分布に代
えて、ディリクレ分布を用いてもよい。ディリクレ分布
は、ベータ分布を多変量分布に拡張したものであり、多
項分布の自然共役事前分布である。

【００４５】上記数９のＭＡＰ推定法の定義に従うと、
遷移確率ｐ_MAPは、尤度関数ｆ（ｐ）と事前分布ｇ
（ｐ）とを用いて次式のように求められる。

【００４６】

【数１０】

【００４７】ここで、関数Ｌ（ｐ）が最大となるための
条件ｄｌｏｇＬ（ｐ）／ｄｐ＝０をｐについて解くと、
単語のｂｉｇｒａｍの遷移確率ｐ_MAPは次式のように求
まる。

【００４８】

【数１１】ｐ_MAP＝（ｎ＋α−１）／（Ｎ＋α＋β−
２）

【００４９】ここで、パラメータα及びβは、事前分布
であるベータ分布のパラメータであるが、これらは、次
式のように求めることができる。なお、ベータ分布の平
均μ及び分散σ²は以下の式となることが知られている
（例えば、従来技術文献５参照。）。

【００５０】

【数１２】μ＝α／（α＋β） σ²＝（αβ）／｛（α＋β）²（α＋β＋１）｝

【００５１】これらの式をα，α＋βについて解くと、
次式が得られる。

【００５２】

【数１３】α＝｛μ²（１−μ）｝／σ²−μ α＋β＝｛μ（１−μ）｝／σ²−１

【００５３】以上より、観測テキストデータから頻度を
計算することにより得られるパラメータＮ，ｎ、及び事
前分布の平均μ及び分散σ²により、上記数１１及び数
１３を用いて、単語のｂｉｇｒａｍの遷移確率を求める
ことができる。

【００５４】これまでの議論は、単語のｂｉｇｒａｍに
ついてのみの議論であったが、一般に、ＭＡＰ推定法に
よるＮ−ｇｒａｍの遷移確率ｐ（ｗ_n｜ｗ₁ ^n-1）は、直
前の単語ｗ_kを直前の単語列ｗ₁ ^n-1と置き換え、パラメ
ータＮ及びｎを次のように定義すれば、同じ議論が通用
することは明らかである。 （ａ）Ｎ：学習用テキストデータ中の単語列ｗ₁ ^n-1の出
現回数（ｃ（ｗ₁ ^n-1））、すなわち、処理対象の単語列
の直前の単語列の出現回数である。 （ｂ）ｎ：学習用テキストデータ中の単語列ｗ₁ ⁿの出現
回数（ｃ（ｗ₁ ⁿ））、すなわち、処理対象の単語列の出
現回数である。

【００５５】次いで、ＭＡＰ推定法を用いたクラスタ適
応化処理について述べる。上述のＭＡＰ推定法によるＮ
−ｇｒａｍをクラスタ適応化に応用するために、図３に
示すように、複数のクラスタより構成される大量のテキ
ストデータから構成される不特定のタスクのテキストデ
ータに基づくＮ−ｇｒａｍを事前知識とし、目的の特定
クラスタｉのテキストデータ２１−ｉを事後知識とみな
す。不特定のクラスタのＮ−ｇｒａｍを事前知識とみな
したとき、その事前分布は、各クラスタにおけるＮ−ｇ
ｒａｍ遷移確率の分布と考えることができる。ただし、
各クラスタにおけるＮ−ｇｒａｍ遷移確率は最尤推定法
により求められる。この事前分布をベータ分布と仮定し
てＭＡＰ推定法の事前分布として用いる。このとき、事
前分布の加重平均μ、及び加重分散σ²は次式で求めら
れる。

【００５６】

【数１４】

【数１５】

【００５７】ここで、ｃ_i（ｗ₁ ^n-1）はクラスタｉにお
いて単語列ｗ₁ ^n-1の出現頻度であり、ｐ_i（ｗ_n｜
ｗ₁ ^n-1）はクラスタｉにおける単語列ｗ₁ ^n-1からｗ_nへ
の遷移確率である。また、事後知識を目的のクラスタの
テキストデータとすると、前述のパラメータＮ及びｎは
次のように表される。 （ａ）Ｎ：目的の特定クラスタｉのテキストデータ２１
−ｉ中の単語列ｗ₁ ^n-1の出現頻度、すなわち、処理対象
の単語列の直前の単語列の出現回数である。 （ｂ）ｎ：目的の特定クラスタｉのテキストデータ２１
−ｉ中の単語列ｗ₁ ⁿの出現頻度、すなわち、処理対象の
単語列の出現回数である。 以上の加重平均μ，加重分散σ²，パラメータｎ及びＮ
を上述の数１０及び数１２に代入することにより、ＭＡ
Ｐ推定法によるタスク適応後のＮ−ｇｒａｍ遷移確率が
得られる。

【００５８】さらに、Ｂａｃｋ−ｏｆｆ平滑化法による
遷移確率の平滑化について述べる。上記でＭＡＰ推定法
によるタスク適応の基本原理を述べたが、実際に言語モ
デルとして使用するには、２つの問題がある。１つは、
平滑化の問題である。不特定タスクの大量のテキストデ
ータを用いても、出現しない単語列が存在し、ＭＡＰ推
定法を用いても、Ｎ−ｇｒａｍの遷移確率が０となって
しまう。従って、平滑化処理によりテキストに出現しな
い単語組に対しても、０でない遷移確率を与える必要が
ある。もう１つの問題は、本発明に係るタスク適応化処
理は、全ての遷移確率を独立に求める手法であるため、
遷移確率の和が１になるとは限らない。連続音声認識等
に適用する際は、問題とはならないが、パープレキシテ
ィで評価する際は、１に正規化されていないと、正しい
評価ができない。従って、近年盛んに用いられているＢ
ａｃｋ−Ｏｆｆ平滑化法（例えば、従来技術文献４参
照。）を拡張して、これらの問題を解決する方法を述べ
る。

【００５９】単語列ｗ₁ ⁿが不特定のクラスタのテキスト
データ２１−ｋに含まれる場合は、上記のタスク適応化
処理により、遷移確率ｐ_MAP（ｗ_n｜ｗ₁ ^n-1）を求め、チ
ューリング（Ｔｕｒｉｎｇ）推定法により、確率ｐ_MAP
（ｗ_n｜ｗ₁ ^n-1）を軽減する。ただし、軽減係数は不特
定のクラスタのテキストデータ３１の頻度（ｃ
_I（ｗ₁ ⁿ））を用いて計算する。当該軽減により生じた
確率の余剰分をｗ₁ ⁿが不特定のクラスタのテキストデー
タ３１に含まれない単語連鎖に対して、（ｎ−１）−ｇ
ｒａｍの遷移確率に比例して配分する。以上をまとめる
と、クラスタ適応化されたＮ−ｇｒａｍの平滑化後の遷
移確率Ｐｓ（ｗ_n｜ｗ₁ ^n-1）は次式で表される。

【００６０】

【数１６】 Ｐｓ（ｗ_n｜ｗ₁ ^n-1） ＝Ｐｈ（ｗ_n｜ｗ₁ ^n-1），ｃ_I（ｗ₁ ^n-1）＞０のとき ＝α(ｗ₁ ^n-1)Ｐｓ(ｗ_n｜ｗ₂ ^n-1),ｃ_I(ｗ₁ ^n-1)＝０,ｃ_I(ｗ₂ ^n-1)＞０のとき ＝Ｐｓ（ｗ_n｜ｗ₂ ^n-1），ｃ_I（ｗ₁ ^n-1）＝０，ｃ_I（ｗ₂ ^n-1）＝０のとき

【００６１】上記の数１６において、Ｐｈはクラスタ適
応化により得られる確率に軽減係数をかけたものであ
り、次式で与えられる。

【００６２】

【数１７】Ｐｈ（ｗ_n｜ｗ₁ ^n-1）＝｛ｃ_I（ｗ₁ ⁿ）＋１｝
／｛ｃ_I（ｗ₁ ⁿ）｝×｛ｎｃ_I（ｗ₁ ⁿ）＋１｝／｛ｎ
_ci（ｗ₁ ⁿ）｝・ｐ_MAP（ｗ₁ ⁿ）

【００６３】ここで、ｎ_cは、不特定のクラスタのテキ
ストデータ３１中にｃ回出現する単語列の種類数（異な
り）であり、また、数１６で、α（ｗ₁ ^n-1）は正規化の
ための係数であり、次のように求められる。

【００６４】

【数１８】α（ｗ₁ ^n-1）＝Ａａ／Ａｂ ここで、

【００６５】以上のＢａｃｋ−ｏｆｆ平滑化法を応用し
た手法を用いることにより、学習データ上に出現しない
単語連鎖に対しても確率値を与えることができる。ま
た、遷移確率ｐ_MAPが正規化されていなくても、上記数
１８においてαを求める際に正規化の計算を行うため、
遷移確率の和は自動的に１になる。

【００６６】従って、本実施形態で用いるＭＡＰ推定法
によるＮ−ｇｒａｍの適応手法について要約すると、以
下の通りとなる。ＭＡＰ推定法による単語列ｈから次単
語ｗへの単語Ｎ−ｇｒａｍの遷移確率Ｐ（ｗ｜ｈ）は次
式により与えられる。

【００６７】

【数１９】Ｐ（ｗ｜ｈ）＝｛Ｎ（ｈ，ｗ）＋α−１｝／
（Ｎ（ｈ）＋α＋β−２）

【００６８】ここで、Ｎ（＃）はそのクラスタでの単語
（列）＃の出現頻度である。また、α及びβは事前分布
として用いるベータ分布（ａｐα^-1（１−ｐ）β^-1，
ａ）のパラメータであり、次式により求められる。

【００６９】

【数２０】α＝｛μ²（1―μ）／σ²｝−μ

【数２１】α＋β＝｛μ（１−μ）／σ²｝−１

【００７０】上式のμ及びσ²は、クラスタ毎の遷移確
率Ｐ（ｗ｜ｈ）の分布の平均及び分散である。また、本
実施形態で用いる可変長Ｎ−ｇｒａｍは、クラスＮ−ｇ
ｒａｍを基本としたモデルであり、遷移確率はＰ（ｗｓ
｜ｃ（ｗｓ））・Ｐ（ｃ（ｗｓ）｜ｃ（ｈ））として与
えられる。ただし、ｗｓは可変長の単語列で、ｃ（＃）
は単語（列）＃の属するクラスである。Ｐ（ｃ（ｗｓ）
｜ｃ（ｈ））はクラス間の遷移確率であり、上記数１９
と同様に与えることができる。また、Ｐ（ｗｓ｜ｃ（ｗ
ｓ））はその単語の属するクラスから単語の出現確率で
あり、ＭＡＰ推定により次式で与えられる。

【００７１】

【数２２】Ｐ（ｗｓ｜ｃ（ｗｓ））＝｛Ｎ（ｗｓ）＋α
−１｝／｛Ｎ（ｃ（ｗｓ））＋α＋β−２｝

【００７２】また、公知のＢａｃｋ−ｏｆｆ平滑化法を
用い、コーパス上に出現しなかった単語遷移に対して確
率を与えるとともに、遷移確率の和が１になるよう確率
の正規化を行う。

【００７３】図４は、図１のクラスタリング処理部４０
によって実行されるクラスタリング処理を示すフローチ
ャートである。図４において、まず、ステップＳ１にお
いて学習用テキストデータメモリ２０からＫ個の発声音
声文をランダムに選択し、ステップＳ２において、上記
選択した発声音声文を、学習用テキストデータメモリ２
１の各メモリ２１−１乃至２１−Ｋに、クラスタ１から
クラスタＭへの順番に１文ずつ書き込む。次いで、ステ
ップＳ３において学習用テキストデータメモリ２１の各
クラスタのテキストデータを読み出し、ステップＳ４に
おいて上記読み出した各クラスタのテキストデータか
ら、各クラスタ毎に統計的言語モデルを生成する。ここ
で、生成された統計的言語モデルはクラスタリング処理
部４０の内部メモリ又は統計的言語モデルメモリ３２に
記憶される。

【００７４】さらに、ステップＳ５において学習用テキ
ストデータメモリ２０から１文ずつ読み出し、ステップ
Ｓ６においてステップＳ４で生成した各統計的言語モデ
ルに対して、ステップＳ５で読み出した文の生成確率を
計算し、確率の最も高いクラスタＣを選択し、ステップ
Ｓ７においてステップＳ５で読み出した文を、学習用テ
キストデータメモリ２１のメモリ２１−ＣにクラスタＣ
として書き込む。そして、ステップＳ８においてステッ
プＳ５で読み出した文は最後の文か否かが判断され、Ｎ
Ｏであるときは、次の文を処理するために、ステップＳ
５に戻る。一方、ステップＳ８でＹＥＳのときは、ステ
ップＳ９において、ステップＳ６で選択されたクラスタ
Ｃが１文でも変化したか否かが判断され、ＹＥＳのとき
は再度クラスタリング処理を実行するために、ステップ
Ｓ３に戻る。ステップＳ９でＮＯであるときは、当該ク
ラスタリング処理を終了する。

【００７５】図５は、図１の言語モデル生成部４１によ
って実行される言語モデル生成処理を示すフローチャー
トである。図５において、まず、ステップＳ１１におい
て学習用テキストデータメモリ２０からコーパスのテキ
ストデータを読み出し、ステップＳ１２において読み出
したテキストデータに基づいて最尤推定法を用いて単語
ｂｉｇｒａｍの遷移確率を数６を用いて計算する。次い
で、ステップＳ１３において計算された単語ｂｉｇｒａ
ｍの遷移確率を含む統計的言語モデルを生成して、統計
的言語モデルメモリ３１に記憶して当該言語モデル生成
処理を終了する。

【００７６】図６は、図１の言語モデル生成部４２によ
って実行される言語モデル生成処理を示すフローチャー
トである。図６において、まず、ステップＳ２１におい
て学習用テキストデータメモリ２０から各クラスタｋの
テキストデータ２１−ｋ（ｋ＝１，２，…，Ｋ）を読み
出す。次いで、ステップＳ２２において、読み出した各
クラスタｋのテキストデータ２１−ｋに基づいて最尤推
定法を用いて各クラスタｋ毎に単語ｂｉｇｒａｍの遷移
確率を数６を用いて計算し、ステップＳ２３において各
クラスタｋの単語ｂｉｇｒａｍの遷移確率の出現頻度分
布をベータ分布と仮定し、ベータ分布の加重平均μ及び
加重分散σ²を数１３及び数１４を用いて計算した後こ
れらに基づいて数１２を用いてパラメータα及びβを計
算する。さらに、ステップＳ２４において事前知識のパ
ラメータα及びβと、特定クラスタのテキストデータ２
１−ｉの事後知識のパラメータＮ及びｎとに基づいて数
１０を用いて各クラスタｋ毎の単語ｂｉｇｒａｍの遷移
確率ｐを計算する。ここで、上記ステップＳ２１からＳ
２４までの処理は、すべてのクラスタｋ＝１，２，…，
Ｋについて実行される。さらに、ステップＳ２５におい
て各クラスタｋ毎の単語ｂｉｇｒａｍの遷移確率ｐに基
づいてＢａｃｋ−ｏｆｆ平滑化処理を実行し、処理後の
各クラスタｋ毎の単語ｂｉｇｒａｍの遷移確率を含む統
計的言語モデルを生成して、クラスタ適応化された統計
的言語モデルメモリ３２に記憶して、当該言語モデル生
成処理を終了する。

【００７７】次いで、図１に示す連続音声認識装置の構
成及び動作について説明する。図１において、単語照合
部４に接続された音素隠れマルコフモデル（以下、隠れ
マルコフモデルをＨＭＭという。）メモリ１１内の音素
ＨＭＭは、各状態を含んで表され、各状態はそれぞれ以
下の情報を有する。 （ａ）状態番号、（ｂ）受理可能なコンテキストクラ
ス、（ｃ）先行状態、及び後続状態のリスト、（ｄ）出
力確率密度分布のパラメータ、及び（ｅ）自己遷移確率
及び後続状態への遷移確率。 なお、本実施形態において用いる音素ＨＭＭは、各分布
がどの話者に由来するかを特定する必要があるため、所
定の話者混合ＨＭＭを変換して生成する。ここで、出力
確率密度関数は３４次元の対角共分散行列をもつ混合ガ
ウス分布である。また、単語照合部４に接続された単語
辞書メモリ１２内の単語辞書は、音素ＨＭＭメモリ１１
内の音素ＨＭＭの各単語毎にシンボルで表した読みを示
すシンボル列を格納する。

【００７８】図１において、話者の発声音声はマイクロ
ホン１に入力されて音声信号に変換された後、特徴抽出
部２に入力される。特徴抽出部２は、入力された音声信
号をＡ／Ｄ変換した後、例えばＬＰＣ分析を実行し、対
数パワー、１６次ケプストラム係数、Δ対数パワー及び
１６次Δケプストラム係数を含む３４次元の特徴パラメ
ータを抽出する。抽出された特徴パラメータの時系列は
バッファメモリ３を介して単語照合部４に入力される。

【００７９】単語照合部４は、ワン−パス・ビタビ復号
化法を用いて、バッファメモリ３を介して入力される特
徴パラメータのデータに基づいて、音素ＨＭＭ１１と単
語辞書１２とを用いて単語仮説を検出し尤度を計算して
出力する。ここで、単語照合部４は、各時刻の各ＨＭＭ
の状態毎に、単語内の尤度と発声開始からの尤度を計算
する。尤度は、単語の識別番号、単語の開始時刻、先行
単語の違い毎に個別にもつ。また、計算処理量の削減の
ために、音素ＨＭＭ１１及び単語辞書１２とに基づいて
計算される総尤度のうちの低い尤度のグリッド仮説を削
減する。単語照合部４は、その結果の単語仮説と尤度の
情報を発声開始時刻からの時間情報（具体的には、例え
ばフレーム番号）とともにバッファメモリ５を介して単
語仮説絞込部６ａに出力する。

【００８０】単語仮説絞込部６ａは、単語照合部４から
バッファメモリ５を介して出力される単語仮説に基づい
て、統計的言語モデルメモリ３２内の統計的言語モデル
を参照して、終了時刻が等しく開始時刻が異なる同一の
単語の単語仮説に対して、当該単語の先頭音素環境毎
に、発声開始時刻から当該単語の終了時刻に至る計算さ
れた総尤度のうちの最も高い尤度を有する１つの単語仮
説で代表させるように単語仮説の絞り込みを行った後、
絞り込み後のすべての単語仮説の単語列のうち、最大の
総尤度を有する仮説の単語列を認識結果としてバッファ
メモリ７を介して言語モデル選択部８に出力する。本実
施形態においては、好ましくは、処理すべき当該単語の
先頭音素環境とは、当該単語より先行する単語仮説の最
終音素と、当該単語の単語仮説の最初の２つの音素とを
含む３つの音素並びをいう。

【００８１】単語仮説絞込部６ａの処理においては、例
えば、図２に示すように、（ｉ−１）番目の単語Ｗ_i-1
の次に、音素列ａ₁，ａ₂，…，ａ_nからなるｉ番目の単
語Ｗ_iがくるときに、単語Ｗ_i-1の単語仮説として６つの
仮説Ｗａ，Ｗｂ，Ｗｃ，Ｗｄ，Ｗｅ，Ｗｆが存在してい
る。ここで、前者３つの単語仮説Ｗａ，Ｗｂ，Ｗｃの最
終音素は／ｘ／であるとし、後者３つの単語仮説Ｗｄ，
Ｗｅ，Ｗｆの最終音素は／ｙ／であるとする。終了時刻
ｔ_eと先頭音素環境が等しい仮説（図２では先頭音素環
境が“ｘ／ａ₁／ａ₂”である上から３つの単語仮説）の
うち総尤度が最も高い仮説（例えば、図２において１番
上の仮説）以外を削除する。なお、上から４番めの仮説
は先頭音素環境が違うため、すなわち、先行する単語仮
説の最終音素がｘではなくｙであるので、上から４番め
の仮説を削除しない。すなわち、先行する単語仮説の最
終音素毎に１つのみ仮説を残す。図２の例では、最終音
素／ｘ／に対して１つの仮説を残し、最終音素／ｙ／に
対して１つの仮説を残す。

【００８２】次いで、言語モデル選択部８は、上述のよ
うに、数４に従ってクラスタの統計的言語モデルを統計
的言語モデルメモリ３２から選択し、すなわち、Ｋ個の
クラスタのそれぞれのモデルＬＭｋで認識結果文Ｗに対
する生成確率Ｐ（Ｗ｜ＬＭｋ）（１≦ｋ≦Ｋ）を求め、
確率の最も高いクラスタモデルＬＭｃを選択して、その
選択情報を単語仮説絞込部６ｂに出力する。これに応答
して、単語仮説絞込部６ｂは、単語仮説絞込部６ａによ
って絞り込まれた単語仮説に対して、再度、統計的言語
モデルメモリ３２で選択された統計的言語モデルを用い
て、単語仮説絞込部６ａと同様の処理を実行して、単語
仮説の絞込処理を実行して、処理後の例えば最尤の絞り
込んだ単語仮説（ここで、ｎ−ｂｅｓｔでもよい。）を
認識結果として出力する。

【００８３】以上の実施形態においては、当該単語の先
頭音素環境とは、当該単語より先行する単語仮説の最終
音素と、当該単語の単語仮説の最初の２つの音素とを含
む３つの音素並びとして定義されているが、本発明はこ
れに限らず、先行する単語仮説の最終音素と、最終音素
と連続する先行する単語仮説の少なくとも１つの音素と
を含む先行単語仮説の音素列と、当該単語の単語仮説の
最初の音素を含む音素列とを含む音素並びとしてもよ
い。

【００８４】以上の実施形態において、特徴抽出部２
と、単語照合部４と、単語仮説絞込部６ａ，６ｂと、ク
ラスタリング処理部４０と、言語モデル生成部４１，４
２とは、例えば、デジタル電子計算機などのコンピュー
タで構成され、バッファメモリ３，５と、音素ＨＭＭメ
モリ１１と、単語辞書メモリ１２と、学習用テキストデ
ータメモリ２０，２１と、統計的言語モデルメモリ３
１，３２とは、例えばハードデイスクメモリなどの記憶
装置で構成される。

【００８５】以上実施形態においては、単語照合部４と
単語仮説絞込部６ａ，６ｂとを用いて音声認識を行って
いるが、本発明はこれに限らず、例えば、音素ＨＭＭ１
１を参照する音素照合部と、例えばＯｎｅ Ｐａｓｓ
ＤＰアルゴリズムを用いて統計的言語モデルを参照して
単語の音声認識を行う音声認識部とで構成してもよい。
ただし、本実施形態の場合、統計的言語モデルメモリ３
１を参照して音声認識する第１の音声認識部と、統計的
言語モデルメモリ３２内で言語モデル選択部８によって
選択された１つのクラスタの統計的言語モデルを参照し
て音声認識する第２の音声認識部とを備えることにな
る。

【００８６】

【実施例】本発明者は、本実施形態で用いるタスク適応
化された統計的言語モデルの性能を確認するため、評価
実験を行った。実験で用いたデータは、本特許出願人が
所有する自然発話データベース（例えば、従来技術文献
１１「Ｔ．Ｍｏｒｉｍｏｔｏ ｅｔ ａｌ．，“Ａ Ｓ
ｐｅｅｃｈ ａｎｄ Ｌａｎｇｕａｇｅ Ｄａｔａｂａ
ｓｅ ｆｏｒ Ｓｐｅｅｃｈ Ｔｒａｎｓｌａｔｉｏｎ
Ｒｅｓｅａｒｃｈ”，ＩＣＳＬＰ，ｐｐ．１７９１−
１７９４，１９９４年」参照。）であり、本データベー
スのサイズは、１，３３２対話、３２，０７４文、５９
７，６２６単語で、語彙は７、２２１語である。このう
ち評価用として「ホテルの部屋の予約」タスクから４０
対話、１１６６文、１８、３８１単語を選択し、残りの
データを言語モデルの学習に使用した。

【００８７】最初にテストセットパープレキシティによ
り評価を行った。可変長Ｎ−ｇｒａｍは活用形及び活用
型を含む１５８品詞による初期クラスから、５００クラ
ス分離を行ったモデルを使用した。クラスタ数４、８、
１６、３２、６４の時のクラスタモデルと、データベー
ス全体で作成したモデル（クラスタ数１）とのパープレ
キシティの比較を表１に示す。

【００８８】

【表１】 パープレキシティによる比較 ―――――――――――――――――――――――――――――――――― 全体モデル クラスタモデル（クラスタ数） ４ ８ １６ ３２ ６４ ―――――――――――――――――――――――――――――――――― １４．２１ １３．００ １２．３３ １１．４４ １０．４４ ９．７２ ――――――――――――――――――――――――――――――――――

【００８９】ここで、パープレキシティとは以下のよう
に定義される。例えば、複数ｎ個の単語からなる長い単
語列ｗ₁ ⁿ＝ｗ₁ｗ₂…ｗ_nがあるときのエントロピーＨ
（ｎ）は次式で表される。

【００９０】

【数２３】 Ｈ（ｎ）＝−（１／ｎ）・ｌｏｇ₂Ｐ（ｗ₁ ⁿ）

【００９１】ここで、Ｐ（ｗ₁ ⁿ）は単語列ｗ₁ ⁿの生成確
率であり、パープレキシティＰＰ（ｎ）は次式で表され
る。

【００９２】

【数２４】ＰＰ（ｎ）＝２^Ｈ（ｎ）

【００９３】上記表１より、クラスタ数に比例してパー
プレキシティが減少しており、クラスタ毎の言語的特徴
がよりできたと考えられる。クラスタ数が６４の時は、
全体モデルよりもパープレキシティが約３２％減少し
た。また、評価に用いた「ホテルの部屋の予約」タスク
のデータは、データ量が多いために第２の従来例では、
タスク適応の効果は、単語ｂｉｇｒａｍで５％程度と小
さかったが、本実施形態に係る装置では、文の内容毎に
適応モデルを作成するため、大きな精度向上が得られた
と考えられる。計算量の都合のため、クラスタ数は最大
６４としたが、さらにクラスタ数を増加させることによ
り、パープレキシティは減少すると考えられる。ただ
し、クラスタ数を多くしすぎると各クラスタのデータ量
が少なくなりすぎ、パラメータ推定が困難になるため、
限界はあると考えられる。

【００９４】次に、連続音声認識に適用した際の認識率
によって評価を行った。音響モデルにはＭＬ−ＳＳＳ法
（従来技術文献１２「Ｍ．Ｏｓｔｅｎｄｏｒｆ ｅｔ
ａｌ．，”ＨＭＭ ｔｏｐｏｌｏｇｙ ｄｅｓｉｇｎ
ｕｓｉｎｇ ｍａｘｉｍｕｍｌｉｋｅｌｉｈｏｏｄ ｓ
ｕｃｃｅｓｓｉｖｅ ｓｔａｔｅ ｓｐｌｉｔｔｉｎ
ｇ”，Ｃｏｍｐｕｔｅｒ Ｓｐｅｅｃｈ ａｎｄ ｌａ
ｎｇｕａｇｅ，Ｎｏ．１１，ｐｐ．１７−４１，１９９
７年」参照。）によるＨＭＭ網（８０１状態５混合分
布）の不特定話者モデルを用い、単語グラフサーチ法
（従来技術文献１３「清水ほか，”単語グラフを用いた
自由発話音声認識”，電子情報通信学会研究報告，ＳＰ
９５−８８，ｐｐ．４９−５４，１９９５年１２月」参
照。）により認識解の探索を行った。言語モデルは、コ
ーパス全体で作成したモデルとクラスタ数４、１６、６
４のクラスタモデルとを比較した。表２に単語認識率
（Ａｃｃｕｒａｃｙ）（％）及び文認識率（％）を示
す。

【００９５】

【表２】 連続音声認識における性能比較 ―――――――――――――――――――――――――――――――――― 認識率の種類 全体モデル クラスタモデル（クラスタ数） ４ １６ ６４ ―――――――――――――――――――――――――――――――――― 単語認識率 ７７．６６ ７８．６９ ７９．０６ ７８．５４ ―――――――――――――――――――――――――――――――――― 文認識率 ３３．４３ ３５．８２ ３６．１２ ３７．３１ ――――――――――――――――――――――――――――――――――

【００９６】上記表２より、単語認識率はクラスタ数１
６の時に全体モデルより約１．４％向上（改善率約６
％）し、文認識率はクラスタ数６４の時に最大約３．９
％向上（改善率約６％）し、連続音声認識における有効
性を確認した。クラスタ数６４の時の単語認識率はクラ
スタ数４、１６の時よりも低下しているが、これは、誤
認識が生じた際にクラスタモデルの選択が正しく行われ
ないことが原因と考えられる。

【００９７】以上説明したように、本実施形態によれ
ば、コーパスの各文をクラスタリングし、それぞれのク
ラスタ毎にＭＡＰ推定によるＮ−ｇｒａｍ型の言語モデ
ルを作成することにより言語特徴をより効果的に表現で
きる手法を開示している。実験の結果、パープレキシテ
ィは最大約３２％減少し、また、連続音声認識に適用し
た際、単語認識率及び文認識率共に最大約６％改善し、
本手法の有効性を確認した。すなわち、本実施形態によ
れば、少量のテキストデータを用いて、従来例に比較し
て、より高い遷移確率の予測精度及び信頼性を有する統
計的言語モデルを生成することができるとともに、タス
ク選択を自動的に行うことができ、選択された統計的言
語モデルを用いて音声認識することにより、従来例に比
較してより高い音声認識率で連続的に音声認識すること
ができる。

【００９８】以上の実施形態において、統計的言語モデ
ルは、Ｎ−ｇｒａｍの言語モデルを含むが、ここで、Ｎ
は２及び３に限らず、４以上の自然数であってもよい。

【００９９】

【発明の効果】以上詳述したように本発明に係る請求項
１記載の統計的言語モデル生成装置によれば、複数のク
ラスタの統計的言語モデルを記憶する記憶手段と、所定
の複数の発声音声文を含む学習用テキストデータに基づ
いて各発声音声文に対する統計的言語モデルを生成し
て、各発声音声文が各クラスタに対応するように、上記
生成した統計的言語モデルを上記記憶手段に記憶する初
期化手段と、上記学習用テキストデータの各発声音声文
について、各クラスタにおける統計的言語モデルの文生
成確率を計算して最大の文生成確率を有するクラスタを
選択してその発声音声文を所属させるように上記記憶手
段に記憶するクラスタ選択手段と、発声音声文が属する
クラスタが変化したときに、各クラスタ毎に、上記クラ
スタ選択手段によって選択された発声音声文を用いて上
記記憶手段に記憶された各統計的言語モデルを更新し
て、各クラスタに対応した統計的言語モデルを生成する
モデル変更手段と、上記複数の発声音声文に属するクラ
スタが１文も変化しなくなるまで、上記クラスタ選択手
段の処理と、上記モデル変更手段の処理を繰り返す制御
手段とを備える。従って、少量のテキストデータを用い
て、従来例に比較して、より高い遷移確率の予測精度及
び信頼性を有する統計的言語モデルを生成することがで
きる。

【０１００】また、請求項２記載の統計的言語モデル生
成装置によれば、請求項１記載の統計的言語モデル生成
装置において、さらに、上記記憶手段に記憶された各ク
ラスタ毎のテキストデータに基づいて、最尤推定法を用
いて各クラスタ毎に単語のＮ−ｇｒａｍ（Ｎは２以上の
自然数である。）の遷移確率を演算する第１の演算手段
と、上記第１の演算手段によって演算された各クラスタ
毎の単語のＮ−ｇｒａｍの遷移確率の出現分布を事前知
識の所定の確率分布と仮定し、各クラスタ毎の確率分布
の加重平均及び加重分散を演算した後、演算された加重
平均と加重分散に基づいて事前知識の確率分布のパラメ
ータを演算する第２の演算手段と、上記第２の演算手段
によって演算された事前知識の確率分布のパラメータ
と、上記学習用テキストデータうちの特定クラスタのテ
キストデータの事後知識における処理対象の単語列の直
前の単語列の出現回数と、処理対象の単語列の出現回数
とに基づいて、各クラスタ毎の単語のＮ−ｇｒａｍの遷
移確率を計算することにより、各クラスタ毎の単語のＮ
−ｇｒａｍの遷移確率を含む統計的言語モデルを生成す
る第３の演算手段とを備える。従って、少量のテキスト
データを用いて、従来例に比較して、より高い遷移確率
の予測精度及び信頼性を有する統計的言語モデルを生成
することができる。

【０１０１】さらに、請求項３記載の統計的言語モデル
生成装置によれば、請求項２記載の統計的言語モデル生
成装置において、さらに、上記第３の演算手段によって
演算された各クラスタ毎の単語のＮ−ｇｒａｍの遷移確
率に基づいて，所定の平滑化処理を実行し、処理後の各
クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計
的言語モデルを生成する第１の生成手段を備える。従っ
て、少量のテキストデータを用いて、従来例に比較し
て、より高い遷移確率の予測精度及び信頼性を有する統
計的言語モデルを生成することができる。

【０１０２】またさらに、請求項４記載の統計的言語モ
デル生成装置によれば、請求項３記載の統計的言語モデ
ル生成装置において、さらに、上記学習用テキストデー
タに基づいて、最尤推定法を用いて単語のＮ−ｇｒａｍ
（Ｎは２以上の自然数である。）の遷移確率を演算し
て、上記単語のＮ−ｇｒａｍの遷移確率を含む別の統計
的言語モデルを生成する第２の生成手段を備える。従っ
て、少量のテキストデータを用いて、従来例に比較し
て、より高い遷移確率の予測精度及び信頼性を有する統
計的言語モデルを生成することができる。

【０１０３】本発明に係る請求項５記載の音声認識装置
によれば、入力される発声音声文の音声信号に基づい
て、所定の統計的言語モデルを用いて音声認識する音声
認識装置において、請求項４記載の統計的言語モデル生
成装置と、上記第２の生成手段によって生成された別の
統計的言語モデルを用いて、入力される発声音声文の音
声信号を音声認識して第１の認識仮説を出力する第１の
音声認識手段と、上記第１の音声認識手段から出力され
る第１の認識仮説に応答して、上記第１の生成手段によ
って生成された各クラスタ毎の統計的言語モデルを用い
て、入力される発声音声文の音声信号を音声認識して、
文生成確率が最大のクラスタの統計的言語モデル生成装
置を選択するモデル選択手段と、上記モデル選択手段に
よって選択されたクラスタの統計的言語モデルを用い
て、上記第１の音声認識手段から出力される第１の認識
仮説に対して絞込処理を行って第２の認識仮説を生成し
て認識結果として出力する第２の音声認識手段とを備え
る。従って、少量のテキストデータを用いて、従来例に
比較して、より高い遷移確率の予測精度及び信頼性を有
する統計的言語モデルを生成することができるととも
に、タスク選択を自動的に行うことができ、選択された
統計的言語モデルを用いて音声認識することにより、従
来例に比較してより高い音声認識率で連続的に音声認識
することができる。

【図面の簡単な説明】

【図１】 本発明に係る一実施形態である連続音声認識
装置のブロック図である。

【図２】 図１の連続音声認識装置における単語仮説絞
込部６ａ及び６ｂの処理を示すタイミングチャートであ
る。

【図３】 図１の言語モデル生成部４２の処理を示すブ
ロック図である。

【図４】 図１のクラスタリング処理部４０によって実
行されるクラスタリング処理を示すフローチャートであ
る。

【図５】 図１の言語モデル生成部４１によって実行さ
れる言語モデル生成処理を示すフローチャートである。

【図６】 図１の言語モデル生成部４２によって実行さ
れる言語モデル生成処理を示すフローチャートである。

【符号の説明】

１…マイクロホン、 ２…特徴抽出部、 ３，５，７…バッファメモリ、 ４…単語照合部、 ６ａ，６ｂ…単語仮説絞込部、 ８…言語モデル選択部、 １１…音素ＨＭＭメモリ、 １２…単語辞書メモリ、 ２０，２１…学習用テキストデータメモリ、 ２１−ｋ…各クラスタのテキストデータメモリ、 ３１，３２…統計的言語モデルメモリ、 ３２−ｋ…各クラスタの統計的言語モデルメモリ、 ４１，４２…言語モデル生成部。

フロントページの続き (56)参考文献 特開 平６−27985（ＪＰ，Ａ) (58)調査した分野(Int.Cl.⁶，ＤＢ名) G10L 3/00 - 9/20 ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims (5)

(57)【特許請求の範囲】
1. 【請求項１】 複数のクラスタの統計的言語モデルを記
   憶する記憶手段と、 所定の複数の発声音声文を含む学習用テキストデータに
   基づいて各発声音声文に対する統計的言語モデルを生成
   して、各発声音声文が各クラスタに対応するように、上
   記生成した統計的言語モデルを上記記憶手段に記憶する
   初期化手段と、 上記学習用テキストデータの各発声音声文について、各
   クラスタにおける統計的言語モデルの文生成確率を計算
   して最大の文生成確率を有するクラスタを選択してその
   発声音声文を所属させるように上記記憶手段に記憶する
   クラスタ選択手段と、 発声音声文が属するクラスタが変化したときに、各クラ
   スタ毎に、上記クラスタ選択手段によって選択された発
   声音声文を用いて上記記憶手段に記憶された各統計的言
   語モデルを更新して、各クラスタに対応した統計的言語
   モデルを生成するモデル変更手段と、 上記複数の発声音声文に属するクラスタが１文も変化し
   なくなるまで、上記クラスタ選択手段の処理と、上記モ
   デル変更手段の処理を繰り返す制御手段とを備えたこと
   を特徴とする統計的言語モデル生成装置。
2. 【請求項２】 請求項１記載の統計的言語モデル生成装
   置において、上記統計的言語モデル生成装置はさらに、 上記記憶手段に記憶された各クラスタ毎のテキストデー
   タに基づいて、最尤推定法を用いて各クラスタ毎に単語
   のＮ−ｇｒａｍ（Ｎは２以上の自然数である。）の遷移
   確率を演算する第１の演算手段と、 上記第１の演算手段によって演算された各クラスタ毎の
   単語のＮ−ｇｒａｍの遷移確率の出現分布を事前知識の
   所定の確率分布と仮定し、各クラスタ毎の確率分布の加
   重平均及び加重分散を演算した後、演算された加重平均
   と加重分散に基づいて事前知識の確率分布のパラメータ
   を演算する第２の演算手段と、 上記第２の演算手段によって演算された事前知識の確率
   分布のパラメータと、上記学習用テキストデータうちの
   特定クラスタのテキストデータの事後知識における処理
   対象の単語列の直前の単語列の出現回数と、処理対象の
   単語列の出現回数とに基づいて、各クラスタ毎の単語の
   Ｎ−ｇｒａｍの遷移確率を計算することにより、各クラ
   スタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言
   語モデルを生成する第３の演算手段とを備えたことを特
   徴とする統計的言語モデル生成装置。
3. 【請求項３】 請求項２記載の統計的言語モデル生成装
   置において、上記統計的言語モデル生成装置はさらに、 上記第３の演算手段によって演算された各クラスタ毎の
   単語のＮ−ｇｒａｍの遷移確率に基づいて，所定の平滑
   化処理を実行し、処理後の各クラスタ毎の単語のＮ−ｇ
   ｒａｍの遷移確率を含む統計的言語モデルを生成する第
   １の生成手段を備えたことを特徴とする統計的言語モデ
   ル生成装置。
4. 【請求項４】 請求項３記載の統計的言語モデル生成装
   置において、上記統計的言語モデル生成装置はさらに、 上記学習用テキストデータに基づいて、最尤推定法を用
   いて単語のＮ−ｇｒａｍ（Ｎは２以上の自然数であ
   る。）の遷移確率を演算して、上記単語のＮ−ｇｒａｍ
   の遷移確率を含む別の統計的言語モデルを生成する第２
   の生成手段を備えたことを特徴とする統計的言語モデル
   生成装置。
5. 【請求項５】 入力される発声音声文の音声信号に基づ
   いて、所定の統計的言語モデルを用いて音声認識する音
   声認識装置において、 請求項４記載の統計的言語モデル生成装置と、 上記第２の生成手段によって生成された別の統計的言語
   モデルを用いて、入力される発声音声文の音声信号を音
   声認識して第１の認識仮説を出力する第１の音声認識手
   段と、 上記第１の音声認識手段から出力される第１の認識仮説
   に応答して、上記第１の生成手段によって生成された各
   クラスタ毎の統計的言語モデルを用いて、入力される発
   声音声文の音声信号を音声認識して、文生成確率が最大
   のクラスタの統計的言語モデル生成装置を選択するモデ
   ル選択手段と、 上記モデル選択手段によって選択されたクラスタの統計
   的言語モデルを用いて、上記第１の音声認識手段から出
   力される第１の認識仮説に対して絞込処理を行って第２
   の認識仮説を生成して認識結果として出力する第２の音
   声認識手段とを備えたことを特徴とする音声認識装置。