JP2014089247A - 識別的言語モデル学習装置、識別的言語モデル学習方法、プログラム - Google Patents

Abstract

【課題】人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習する識別的言語モデル学習装置を提供する。
【解決手段】音声データを記憶する音声データベースと、音声データを取得して音声認識を実行し、一つの音声データに対して複数の認識結果文を生成する音声認識システム部と、認識結果文の単語誤り率の推定値を計算する単語誤り率推定部と、認識結果文と、各認識結果文に対応する単語誤り率の推定値とを対にして記憶する学習データ記憶部と、一つの音声データに対する複数の認識結果文のうち、単語誤り率の推定値が最小となる認識結果文を推定正解文とし、それ以外の認識結果文を不正解文として、推定正解文と、不正解文とを学習データとして用いて識別的言語モデルを生成する識別的言語モデル学習部とを備える。
【選択図】図３

Description

本発明は自動音声認識において教師なし学習により識別的言語モデルを学習する識別的言語モデル学習装置、識別的言語モデル学習方法、プログラムに関する。

言語モデルは自然言語処理全般に使用される基本技術である。音声認識では、言語モデルはある文の文らしさ（自然言語らしさ）の推定に用いられる。すなわち、言語モデルは入力音声に対してある音声認識結果候補文が正解であるか不正解であるか、を推定するのに使用される。

このような目的に使用される言語モデルの一つとして、識別的言語モデルが知られている。識別的言語モデルは、正解文と不正解文を多数用い、これらの識別が適切に行われることを学習基準として生成した言語モデルである。識別的言語モデルの学習基準は、音声認識における言語モデルの用途（音声認識結果候補文が正解であるか不正解であるか、を推定する）に一致しているため、音声認識システムにおいて識別的言語モデルを利用することで、高精度な音声認識結果を得ることができる。

音声認識のための識別的言語モデルの学習方法として、非特許文献１が知られている。図１、図２を参照して非特許文献１に開示された識別的言語モデル学習装置について説明する。図１は、非特許文献１の識別的言語モデル学習装置１０００の構成を示すブロック図である。図２は、非特許文献１の識別的言語モデル学習装置１０００の動作を示すフローチャートである。図１に示すように非特許文献１の識別的言語モデル学習装置１０００は、音声データベース１と、音声認識システム部２と、認識結果文記憶部３と、識別的言語モデル学習部４と、識別的言語モデル記憶部５と、正解文記憶部６とを備える。音声データベース１には、学習に必要なサンプル数の音声データが予め格納されている。音声認識システム部２は、識別的言語モデルを使用していないものとする。

まず、人手で音声データベース１に格納された各音声データから正解文（正解の認識結果文）を書き起こし、正解文記憶部６に当該正解文を記憶する（Ｓ０）。次に、音声認識システム部２は、音声データベース１に記憶された音声データを取得して音声認識を実行し、１つの音声データに対して、複数の音声認識結果（複数の認識結果文）を生成し、音声データ毎の複数の認識結果文の集合を認識結果文記憶部３に格納する（Ｓ２）。次に、識別的言語モデル学習部４は、正解文記憶部６に記憶された正解文（上述の人手で書き起こした正解文）と認識結果文記憶部３に記憶された音声データ毎の複数の認識結果文とを用いて識別的言語モデルを生成する（Ｓ４）。このとき、人手で書かれた正解文を正解とし、音声認識システムにより自動生成した認識結果文を不正解文とすると、正解文と不正解文との言語的差異が大きいため適切な学習が行われない場合があることが知られている。そこで、識別的言語モデル学習部４は、各音声データに対する認識結果文のうち当該音声データに対する正解文に最も近い認識結果文を代用正解文とし、残りを不正解文として、これらを学習データとして用い、パーセプトロンアルゴリズム等の既存の学習アルゴリズムにより識別的言語モデルを生成する（Ｓ４）。正解文との近さ（距離）は、単語誤り率（正解文中の単語数に占める認識結果文中の誤認識単語数の割合）で測られる。このようにして生成された識別的言語モデルは、識別的言語モデルを使用する音声認識システム９０００などに使用される。

また、各認識結果文について求めた単語誤り率を重みとして学習に利用することにより、より高精度なモデルを獲得する方法（例えばＭｉｎｉｍｕｍ Ｅｒｒｏｒ Ｒａｔｅ Ｔｒａｉｎｉｎｇ（ＭＥＲＴ）、非特許文献２）が知られている。

非特許文献１、および非特許文献２の処理のフロー（図２参照）を要約すると以下のとおりとなる。
ステップＳ０：音声データベースを用意し、当該音声データベースの各音声データを人手で書き起こして正解文を生成する。
ステップＳ２：音声データベースから音声データを取得して、識別的言語モデルを使用しない音声認識システムにより各音声データに対して複数の認識結果文を生成する。
ステップＳ４：人手で書き起こした正解文と、認識結果文とを用いて各認識結果文に対して単語誤り率を算出し、当該単語誤り率を利用して識別的言語モデルを生成する。

Brian Roark, Murat Saraclar, Michael Collins, "Discriminative n-gram language modeling," Computer Speech and Language, Vol. 21, pp. 373-392, 2007. 大庭隆伸, 堀貴明, 中村篤"ラウンドロビンデュエル識別法の提案と誤り訂正言語モデルによる評価"，日本音響学会論文講演集, 1-9-11, (2010.9).

人手で音声データを書き起こした正解文を作成すること(上記ステップＳ０)はコストが高く識別的言語モデルの導入を妨げる要因となっている。そこで、本発明ではこの人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習する識別的言語モデル学習装置を提供することを目的とする。

本発明の識別的言語モデル学習装置は、音声データベースと、音声認識システム部と、単語誤り率推定部と、学習データ記憶部と、識別的言語モデル学習部とを備える。

音声データベースは、音声データを記憶する。音声認識システム部は、音声データを取得して音声認識を実行し、一つの音声データに対して複数の認識結果文を生成する。単語誤り率推定部は、認識結果文の単語誤り率の推定値を計算する。学習データ記憶部は、認識結果文と、各認識結果文に対応する単語誤り率の推定値とを対にして記憶する。識別的言語モデル学習部は、一つの音声データに対する複数の認識結果文のうち、単語誤り率の推定値が最小となる認識結果文を推定正解文とし、それ以外の認識結果文を不正解文として、推定正解文と、不正解文とを学習データとして用いて識別的言語モデルを生成する。

本発明の識別的言語モデル学習装置によれば、人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習することができる。

非特許文献１の識別的言語モデル学習装置の構成を示すブロック図。 非特許文献１の識別的言語モデル学習装置の動作を示すフローチャート。 実施例１〜４の識別的言語モデル学習装置の構成を示すブロック図。 実施例１〜４の識別的言語モデル学習装置の動作を示すフローチャート。 実施例１の単語誤り率推定部の構成を示すブロック図。 実施例１の単語アライメントネットワーク取得部の構成を示すブロック図。 実施例１の単語誤り率推定部の動作を示すフローチャート。 実施例１の単語コンフュージョンネットワーク生成部が生成する単語コンフュージョンネットワークを例示する図。 実施例１の単語アライメントネットワーク取得部が行う単語コンフュージョンネットワークから単語アライメントネットワークへの変換例を示す図。 実施例２の単語誤り率推定部の構成を示すブロック図。 実施例２の単語誤り率推定部の動作を示すフローチャート。 実施例２のＮ−ｂｅｓｔ単語アライメント結果シンボル列取得部が行う単語アライメントネットワークをＮ−ｂｅｓｔ単語アライメント結果シンボル列に変換する処理について示す図。 実施例３の単語誤り率推定部の構成を示すブロック図。 実施例３の単語コンフュージョンネットワーク生成部の構成を示すブロック図。 実施例３の単語誤り率推定部の動作を示すフローチャート。 実施例３の認識結果単語確率的分類部が行うＮ−ｂｅｓｔ認識結果単語列中の各単語に対して確率的単語分類結果を付与する処理について示す図。 実施例４の単語誤り率推定部の構成を示すブロック図。 実施例４の単語誤り率推定部の動作を示すフローチャート。 実施例４の認識結果単語分類確定部が行う認識結果単語の分類を確定する処理を例示する図。

以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。

非特許文献１のような従来技術では、学習アルゴリズムを適用する際は、真の正解文の代わりに最も正解に近い認識結果文、すなわち単語誤り率が最小である文を代用正解文として用いるのが通例である。つまり、真の正解文（人手による書き起こし文）は上述のステップＳ４の単語誤り率の算出のためだけに用いられる。このことから、各認識結果文のうち、正解に最も近いと思われる文が推定できれば、真の正解文（人手による書き起こし文）は必ずしも必要がないと言える。識別的言語モデルの導入にあたり、ステップＳ０は人の手を介するためコストが極めて高い。本発明の目的は、ステップＳ０におけるコストの削減にある。

以下、図３、４を参照して本発明の実施例１〜４の識別的言語モデル学習装置の概要を説明する。図３は実施例１〜４の識別的言語モデル学習装置４０００〜７０００の構成を示すブロック図である。図４は実施例１〜４の識別的言語モデル学習装置４０００〜７０００の動作を示すフローチャートである。本発明の基本的なアイデアはステップＳ０の人手による書き起こし作業を廃し、ステップＳ４で算出される単語誤り率を推定値で代用することにある。

図３に示すように、実施例１〜４の識別的言語モデル学習装置４０００〜７０００は、音声データベース１と、音声認識システム部２と、認識結果文記憶部３と、単語誤り率推定部４００、５００、６００、７００の何れかと、学習データ記憶部７と、識別的言語モデル学習部８と、識別的言語モデル記憶部５とを備える。以下、実施例１の識別的言語モデル学習装置４０００は単語誤り率推定部４００を備えるものとし、実施例２の識別的言語モデル学習装置５０００は単語誤り率推定部５００を備えるものとし、実施例３の識別的言語モデル学習装置６０００は単語誤り率推定部６００を備えるものとし、実施例４の識別的言語モデル学習装置７０００は単語誤り率推定部７００を備えるものとする。

前述したように、音声認識システム部２は、音声データの各々について音声認識処理を行い、音声データ毎の複数の認識結果文の集合を認識結果文記憶部３に格納する（Ｓ２）。このとき、一つの音声データに対してそれぞれＮ個ずつ（Ｎは２以上の整数）の認識結果文が生成されるものとする。単語誤り率推定部４００〜７００は、識別的言語モデルを使用しない音声認識システム部２により生成したＮ個の認識結果文それぞれについて、単語誤り率の推定値（単語誤り率推定値）を計算し出力する（Ｓ４００、Ｓ５００、Ｓ６００、Ｓ７００）。単語誤り率推定部４００〜７００で行われる処理の詳細については後述する。単語誤り率推定部４００〜７００は、学習データ記憶部７に、各音声データに対するＮ個の認識結果文と、各認識結果文に対応する単語誤り率推定値とを対にして記憶する（Ｓ４００、Ｓ５００、Ｓ６００、Ｓ７００）。識別的言語モデル学習部８は、一つの音声データに対する複数の認識結果文（Ｎ個）のうち、単語誤り率の推定値が最小となる認識結果文を推定正解文とし、それ以外の認識結果文を不正解文として、推定正解文と、不正解文とを学習データとして用いて識別的言語モデルを生成する（Ｓ８）。人手で作成した正解文に対する単語誤り率の代わりに、単語誤り率推定値を用いる点を除いては、従来技術と同じである。

本発明の識別的言語モデル学習装置４０００〜７０００の動作を要約すると、以下の通りである。
ステップＳ２：音声データを取得してＮ個の認識結果文を生成、記憶する。
ステップＳ４００〜Ｓ７００：各認識結果単語文の単語誤り率を推定し、単語誤り率推定値を各認識結果文と対にして記憶する。
ステップＳ８：単語誤り率推定値が最小のものを推定正解文とし、推定正解文と不正解文を学習データとして用いて識別的言語モデルを生成する。

以上により、人手で書き起こした正解文を用いることなく、識別的言語モデルを生成することが可能となる。よって、人手による正解文の書き起こし作業の手間を削減することができる。なお、本発明の意図からすれば、単語誤り率の推定値は、各文の学習における重要さ（重み）もしくはどれを正解文として代用するかを決定するための指標に過ぎないことは明らかである。つまり、文字や音素等の単語以外の要素の誤り率を推定する装置で代用する構成としても良い。

＜単語正解率、単語正解精度＞
以下、単語正解率、単語正解精度について説明する。単語誤り率の推定値は、一般的には１００―（単語正解率）（％）、または１００−（単語正解精度）（％）として定義することができる。音声認識は人間が発した音声を計算機により単語列（テキスト）に変換する技術である。音声認識の精度は正解単語列と認識結果単語列のアライメントをＤＰマッチングにより取ることで計算できる。単語列のアライメントとは、二つの単語列が与えられたときに、それらが最も適合（一致、マッチ）するように照合を行った結果のことを言う。認識結果単語は以下の４種類に分類される。１．正解Ｃ（Ｃｏｒｒｅｃｔ）、２．置換誤りＳ（正解単語を他の単語に置き換えて誤る間違い；Ｓｕｂｓｔｉｔｕｔｉｏｎ＿ｅｒｒｏｒ）、３．挿入誤りＩ（本来単語がない箇所に単語が挿入される誤り；Ｉｎｓｅｒｔｉｏｎ＿ｅｒｒｏｒ）、４．削除誤りＤ（本来単語がある箇所に単語がない誤り；Ｄｅｌｅｔｉｏｎ＿ｅｒｒｏｒ）。ここで、正解単語列中の単語数を＃Ｎ、認識結果単語列中の正解単語数を＃Ｃ、置換誤り単語数を＃Ｓ、挿入誤り単語数を＃Ｉ、削除誤り単語数を＃Ｄとすると、音声認識精度は以下のように２種類の尺度で表わされる。

ここで、＃Ｎ＝＃Ｃ＋＃Ｓ＋＃Ｄである。式（１）の単語正解率と式（２）の単語正解精度の違いは、挿入誤りを考慮するか否かであり、挿入誤りを考慮する分だけ、単語正解率よりも単語正解精度の方が厳しい尺度である。図１の例では、＃Ｎ＝１３、＃Ｃ＝１０、＃Ｓ＝２、＃Ｉ＝１、＃Ｄ＝１であるので、

となる。単語正解率と単語正解精度のどちらを使用するべきかは、どのような音声認識応用システムを構築するかによるが、通常は単語正解精度が使用されることが多い。

＜単語誤り率推定部４００＞
以下、図５、図６、図７、図８を参照して、実施例１の単語誤り率推定部４００で行われる処理の詳細について説明する。図５は本実施例の単語誤り率推定部４００の構成を示すブロック図である。図６は本実施例の単語アライメントネットワーク取得部４０の構成を示すブロック図である。図７は本実施例の単語誤り率推定部４００の動作を示すフローチャートである。図８は本実施例の単語コンフュージョンネットワーク生成部３０が生成する単語コンフュージョンネットワークを例示する図である。

図５に示すとおり、本実施例の単語誤り率推定部４００は、単語コンフュージョンネットワーク生成部３０、単語アライメントネットワーク取得部４０、確率的認識精度計算部５０を備える。図６に示すとおり、単語アライメントネットワーク取得部４０はＮ−ｂｅｓｔ認識結果単語列取得手段４１、正解確率計算手段４２、置換誤り確率計算手段４３、挿入誤り確率計算手段４４、削除誤り確率計算手段４５を備える。本実施例および以下の実施例における単語誤り率推定部は、例えばＲＯＭ、ＲＡＭ、ＣＰＵ等で構成されるコンピュータに所定のプログラムが読み込まれて、ＣＰＵがそのプログラムを実行することで実現されるものである。

単語コンフュージョンネットワーク生成部３０は、入力端子２に入力されるＮ個の認識結果文を用いて、例えば図８に示す単語コンフュージョンネットワークと呼ばれる複数の認識結果単語列をコンパクトに確率的に表現した形式で得る（Ｓ３０）。なお、単語コンフュージョンネットワーク生成部３０は、単語ラティスを生成するものとし、生成された単語ラティスから単語コンフュージョンネットワークを生成することとしてもよい。単語コンフュージョンネットワークの取得方法は、例えば、参考非特許文献１に詳述されている。

単語コンフュージョンネットワークは、セグメント毎に何れかの認識結果単語が存在する確率、および何れの認識結果単語も存在しない確率（以下、εの存在確率という）を表す。例えば図８の単語コンフュージョンネットワークは、七つのセグメント（区間）で構成されている。各セグメントにはそのセグメントに認識結果として存在し得る複数の単語がアーク（弧）として記述されている。セグメント境界では各アークはノード（節）で束ねられている。例えば図８では、三番目のセグメントには、定額／大学／対外／εという四つの単語が認識結果として存在し得る（競合、対立している）ことを示している。ただしεはこのセグメントには認識結果単語は存在しないということを示すため、正味では三つの認識結果単語が存在し得ることになる。一番目のセグメントから七番目のセグメントまで、εも含めて、存在し得る単語の数を乗算していくと、２×３×４×２×２×１×２＝１９２となり、これが図８の単語コンフュージョンネットワークが表現し得る認識結果単語列の種類数となる。この種類数はＮとは必ずしも等しくならない。一般的には種類数はＮよりも大きな値となる。各セグメント中の各単語には確率値が付与されており、これらの値は各単語がそのセグメント中に存在し得る確率を表している。これらは加算すると１となる。例えば、三番目のセグメントでは、ｐ（定額）＋ｐ（大学）＋ｐ（対外）＋ｐ（ε）＝０．４＋０．３＋０．２＋０．１＝１となる。ここで、ある入力音声を音声認識して得られる単語コンフュージョンネットワーク中のセグメント数をＪ、ｊ番目のセグメントをＱ_ｊ（ｊ＝１，２，…，Ｊ）、Ｑ_ｊ中に存在し得る単語をＷ_ｊ，ｋ（ｋ＝１，２，…，Ｋ_ｊ）、それらの存在確率をｐ（Ｗ_ｊ，ｋ）とする。すると、この単語コンフュージョンネットワークで表わされる認識結果単語列の種類数は、

となる。また、以下が成り立つ。

次に、単語アライメントネットワーク取得部４０は単語コンフュージョンネットワーク生成部３０から出力された単語コンフュージョンネットワークを単語アライメントネットワークに変換する（Ｓ４０）。

ここで、Ｎ個の認識結果文の各セグメントに存在する単語（εを含む）をＮ−ｂｅｓｔ認識結果単語と呼ぶこととする。本発明において、単語アライメントネットワークは、いずれかのＮ−ｂｅｓｔ認識結果単語の存在確率をその単語が属するセグメントにおける正解確率とし、当該Ｎ−ｂｅｓｔ認識結果単語以外のε以外の単語の存在確率の合計を当該セグメントにおける置換誤り確率とし、当該セグメントにおけるεの存在確率を当該セグメントにおける挿入誤り確率とし、いずれかのＮ−ｂｅｓｔ認識結果単語であるεについては、当該εが属するセグメントにおけるその他の正味の単語の存在確率の合計を当該セグメントにおける削除誤り確率として、セグメント毎に、正解／置換誤り／挿入誤り／削除誤り確率を示したものとする。

ここで、単語アライメントネットワーク取得部４０の処理の詳細を図６に示した各構成手段の動作に細分化して説明すると、まず、Ｎ−ｂｅｓｔ認識結果単語列取得部４１は、単語コンフュージョンネットワークからＮ−ｂｅｓｔ認識結果単語列を取得する（ＳＳ４１）。

単語コンフュージョンネットワーク中の各セグメントのＮ−ｂｅｓｔ認識結果単語を連結して、上述したＮ個の認識結果文を再現したものをＮ−ｂｅｓｔ認識結果単語列という。以下、図８の単語コンフュージョンネットワークにおいて太いアークで連結して示した“私＿ε＿定額＿に＿行く＿予定＿ε”はＮ−ｂｅｓｔ認識結果単語列（認識結果文）の一つであるものとして代表させる。

以下、得られたＮ−ｂｅｓｔ認識結果単語が正味の単語であるか、εであるかによって処理が分岐する。Ｎ−ｂｅｓｔ認識結果単語がεでない正味の単語である場合、正解確率計算手段４２は、当該εでないＮ−ｂｅｓｔ認識結果単語を、セグメントｊにおける正解単語を表す単語アライメント結果シンボルＣ_ｊ（ｊはセグメント番号、以降も同じ）に変え、当該Ｎ−ｂｅｓｔ認識結果単語の存在確率を正解確率であるｐ（Ｃ_ｊ）として付与する（ＳＳ４２）。ここで、εでないＮ−ｂｅｓｔ認識結果単語が実は正解単語ではなく、これに競合、対立する認識結果単語（εでない）が正解単語であるとすると、前述のＮ−ｂｅｓｔ認識結果単語は置換誤り（Ｓｕｂｓｔｉｔｕｔｉｏｎ＿ｅｒｒｏｒ）となる。よって、置換誤り確率計算手段４３は、対立する認識結果単語（εでない）を一つに束ねて置換誤りを表す単語アライメント結果シンボルＳ_ｊとし、置換誤り確率ｐ（Ｓ_ｊ）を、εでない対立候補の存在確率の和として付与する（ＳＳ４３）。最後に、前述のεでないＮ−ｂｅｓｔ認識結果単語が、実は正解単語ではなく、ε（単語なし）が正しいとすると、前述のεでないＮ−ｂｅｓｔ認識結果単語は挿入誤り（Ｉｎｓｅｒｔｉｏｎ＿ｅｒｒｏｒ）となる。よってこのεを挿入誤りを表す単語アライメント結果シンボルＩ_ｊに変え、挿入誤り確率ｐ（Ｉ_ｊ）をｐ（ε）として付与する（ＳＳ４４）。

一方、Ｎ−ｂｅｓｔ認識結果単語がεである場合、このεと競合（対立）する認識結果単語が存在する場合には、εすなわち「単語なし」が実は正しくなく、このセグメントに他のεでない対立候補が存在するのが正しいとすると、このεは削除誤り（Ｄｅｌｅｔｉｏｎ＿ｅｒｒｏｒ）となる。よって他のεでない対立候補を一つに束ねて削除誤りを表す単語アライメント結果シンボルＤ_ｊとし、削除誤り確率ｐ（Ｄ_ｊ）を、εでない対立候補の存在確率の和として付与する（ＳＳ４５）。

これら単語アライメントネットワーク取得部４０で実行される単語コンフュージョンネットワークから単語アライメントネットワークへの変換手順について、図８、９を参照してさらに具体的に説明する。図９は単語コンフュージョンネットワークから単語アライメントネットワークへの変換例を示す図である。前述したように、変換手順は、Ｎ−ｂｅｓｔ認識結果単語がεでない正味の単語であるか（図８、９ではセグメント１、３、４、５、６）、εであるか（図８、９ではセグメント２、７）で、大きく二つに分かれる。

まず、セグメントにおけるＮ−ｂｅｓｔ認識結果単語がεでない正味の単語である場合について変換手順を説明する。ここでは、セグメント３を例に説明する。セグメント３では、４つの単語、定額／大学／対外／ε、が、それぞれ存在確率、ｐ（定額）＝０．４、ｐ（大学）＝０．３、ｐ（対外）＝０．２、ｐ（ε）＝０．１で競合している。ここで、Ｎ−ｂｅｓｔ認識結果単語列“私＿ε＿定額＿に＿行く＿予定＿ε”について考えた場合、セグメント３のＮ−ｂｅｓｔ認識結果単語は「定額」である。よって、まず正解確率計算手段４２は、「定額」を正解単語を表す単語アライメント結果シンボルＣ_３（３はセグメント番号、以降も同じ）に変え、その確率ｐ（Ｃ_３）＝０．４を付与する（ＳＳ４２）。次に「定額」と競合するεでない正味の単語を見ると「大学」と「対外」の２単語である。ここで「定額」が実は正解単語ではなく、「大学」あるいは「対外」が正解単語であるとすると、「定額」は置換誤り（Ｓｕｂｓｔｉｔｕｔｉｏｎ＿ｅｒｒｏｒ）となる。よって置換誤り確率計算手段４３は、「大学」と「対外」を一つに束ねて置換誤りを表す単語アライメント結果シンボルＳ_３とし、その確率をｐ（Ｓ_３）＝ｐ（大学）＋ｐ（対外）＝０．３＋０．２＝０．５とする（ＳＳ４３）。すなわち、正解と思われる単語「定額」が実は置換誤りである確率はｐ（Ｓ_３）＝０．５である。最後にεがｐ（ε）＝０．１で残る。上記したように、εはそのセグメントには単語がないことを表す。よって「定額」が実は正解単語ではなく、ε（単語なし）が正しいとすると、「定額」は挿入誤り（Ｉｎｓｅｒｔｉｏｎ＿ｅｒｒｏｒ）となる。よって挿入誤り確率計算手段４４は、このεを挿入誤りを表す単語アライメント結果シンボルＩ_３に変え、その確率はｐ（Ｉ_３）＝ｐ（ε）＝０．１とする（ＳＳ４４）。すなわち、正解と思われる単語「定額」が実は挿入誤りである確率はｐ（Ｉ_３）＝０．１である。以上のような変換処理を行った結果をまとめると、セグメント３のＮ−ｂｅｓｔ認識結果単語「定額」が正解である確率はｐ（Ｃ_３）＝０．４、置換誤りである確率はｐ（Ｓ_３）＝０．５、挿入誤りである確率はｐ（Ｉ_３）＝０．１となる。

次に、Ｎ−ｂｅｓｔ認識結果単語がεである場合について変換手順を説明する。ここでは、セグメント２を例に説明する。セグメント２では、ε／は／が、が、それぞれ存在確率、ｐ（ε）＝０．４、ｐ（は）＝０．３、ｐ（が）＝０．３で競合している。Ｎ−ｂｅｓｔ認識結果単語列“私＿ε＿定額＿に＿行く＿予定＿ε”について考えた場合、セグメント２のＮ−ｂｅｓｔ認識結果単語はε（単語なし）である。εについては変換処理は行わない。次に、このεと競合する単語をみると「は」と「が」の２単語である。ここでεすなわち「単語なし」が実は正しくなく、このセグメントに「は」あるいは「が」が存在するのが正しいとすると、このεは削除誤り（Ｄｅｌｅｔｉｏｎ＿ｅｒｒｏｒ）となる。よって削除誤り確率計算手段４５は、「は」と「が」を一つに束ねて削除誤りを表す単語アライメント結果シンボルＤ_２（２はセグメント番号、以降も同じ）とし、その確率をｐ（Ｄ_２）＝ｐ（は）＋ｐ（が）＝０．３＋０．３＝０．６とする（ＳＳ４５）。すなわち、ε（単語なし）が正しいと思われるセグメント２が実は削除誤りである確率はｐ（Ｄ_２）＝０．６である。単語アライメントネットワーク取得部４０では、上記のような処理により、単語コンフュージョンネットワーク生成部３０から出力された単語コンフュージョンネットワークを単語アライメントネットワークに変換する。

確率的認識精度計算部５０は、単語アライメントネットワーク取得部４０から出力された単語アライメントネットワークを入力として音声認識精度を計算しそれを出力する（Ｓ５０）。通常、認識精度は、上記したように、正解単語列中の単語数＃Ｎ、正解単語数＃Ｃ、置換誤り単語数＃Ｓ、挿入誤り単語数＃Ｉ、削除誤り単語数＃Ｄを、０以上の整数として数え上げて、式（１）または式（２）により計算するが、確率的認識精度計算部５０では、単語アライメントネットワーク上の各セグメント中の各単語アライメント結果シンボルの確率値を加算することで計算する。ここで、ある単語アライメントネットワーク中のセグメント数をＪ、ｊ番目のセグメントをＱ_ｊ（ｊ＝１，２，…，Ｊ）、Ｑ_ｊ中に存在し得る単語アライメント結果シンボルをＡ_ｊ（Ａ＝Ｃ／Ｓ／Ｉ／Ｄ）、その存在確率をｐ（Ａ_ｊ）とする。このとき、正解単語数の推定値Ｅ（＃Ｃ）、置換誤り単語数の推定値Ｅ（＃Ｓ）、挿入誤り単語数の推定値Ｅ（＃Ｉ）、削除誤り単語数の推定値Ｅ（＃Ｄ）、正解単語列中の単語数の推定値Ｅ（＃Ｎ）は、それぞれ以下のように求めることができる。

０以上の整数である＃Ｃ、＃Ｓ、＃Ｄ、＃Ｉとは異なり、これらＥ（＃Ｃ）、Ｅ（＃Ｓ）、Ｅ（＃Ｉ）、Ｅ（＃Ｄ）、Ｅ（＃Ｎ）は、小数点以下の数値を取りうる。これらを用いて単語正解率と単語正解精度は以下のように求められる。

例えば、図９の単語アライメントネットワークの場合、

であるので、

と推定される。単語誤り率の推定値＝１００―（単語正解率）（％）、または単語誤り率の推定値＝１００−（単語正解精度）（％）として定義できるため、上述の例では、単語誤り率の推定値＝１００−６４．８１＝３５．１９（％）、または、単語誤り率の推定値＝１００−５７．４１＝４２．５９（％）である。

以上のように、本実施例の識別的言語モデル学習装置４０００によれば、単語誤り率推定部４００が、Ｎ−ｂｅｓｔ認識結果単語列中の各単語の分類（正解／置換誤り／挿入誤り／削除誤り）を確率的に推定し、それらに基づいて得た単語正解率、または単語正解精度に基づいて、単語誤り率の推定値を算出し、識別的言語モデル学習部８が、単語誤り率の推定値が最小となる推定正解文とその他の不正解文とを用いて識別的言語モデルを生成するため、人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習することが可能となる。

＜単語誤り率推定部５００＞
次に、図１０、図１１、図１２を参照して、実施例１の単語誤り率推定部４００の変形版である実施例２に係る単語誤り率推定部について詳細に説明する。図１０は本実施例の単語誤り率推定部５００の構成を示すブロック図である。図１１は本実施例の単語誤り率推定部５００の動作を示すフローチャートである。図１２は本実施例のＮ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０が行う単語アライメントネットワークをＮ−ｂｅｓｔ単語アライメント結果シンボル列に変換する処理について示す図である。図１０に示すとおり、本実施例の単語誤り率推定部５００は、単語コンフュージョンネットワーク生成部３０、単語アライメントネットワーク取得部４０、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０、認識精度計算部７０を備える。本実施例の単語誤り率推定部５００が備える単語コンフュージョンネットワーク生成部３０、単語アライメントネットワーク取得部４０は、実施例１の単語誤り率推定部４００が備える同一番号の各構成部と同じ動作をする。従って、単語アライメントネットワーク取得部４０にて単語アライメントネットワークを取得するまでの処理は実施例１と同じであるため、説明を割愛する。本実施例においては、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０が、単語アライメントネットワークをＮ−ｂｅｓｔ単語アライメント結果シンボル列に変換する（Ｓ６０）。

Ｎ−ｂｅｓｔ単語アライメント結果シンボル列とは、単語アライメントネットワークにおいて、何れかのセグメントにおける最大確率が正解確率である場合にシンボルＣ、何れかのセグメントにおける最大確率が置換誤り確率である場合にシンボルＳを、何れかのセグメントにおける最大確率が挿入誤り確率である場合にシンボルＩを、何れかのセグメントにおける最大確率が削除誤り確率である場合にシンボルＤを、セグメント毎に付与して連結したものである。

図１２にＮ−ｂｅｓｔ単語アライメント結果シンボル列への変換処理を示す。この変換処理は、上記した単語コンフュージョンネットワークからＮ−ｂｅｓｔ認識結果単語列を得る処理と同じで、単語アライメントネットワーク上の各セグメント中で最高の存在確率を持つ単語アライメント結果シンボル（太いアークで示されている）を連結していく。図１２の場合、この変換処理により、“ＣＤＳＣＣＣε”というＮ−ｂｅｓｔ単語アライメント結果シンボル列を得ることができる。ここで、Ｎ−ｂｅｓｔ単語アライメント結果シンボルＣの個数を正解単語数の推定値Ｅ（＃Ｃ）、Ｎ−ｂｅｓｔ単語アライメント結果シンボルＳの個数を置換誤り単語数の推定値Ｅ（＃Ｓ）、Ｎ−ｂｅｓｔ単語アライメント結果シンボルＤの個数を削除誤り単語数の推定値Ｅ（＃Ｄ）、Ｎ−ｂｅｓｔ単語アライメント結果シンボルＣ、Ｓ、Ｄの個数の和を認識結果単語数の推定値Ｅ（＃Ｎ）と書くことができる。従って、Ｅ（＃Ｃ）、Ｅ（＃Ｓ）、Ｅ（＃Ｄ）、Ｅ（＃Ｎ）は、０以上の整数として数え上げることができ、Ｅ（＃Ｃ）＝４、Ｅ（＃Ｓ）＝１、Ｅ（＃Ｄ）＝１、Ｅ（＃Ｎ）＝Ｅ（＃Ｃ）＋Ｅ（＃Ｓ）＋Ｅ（＃Ｄ）＝４＋１＋１＝６となる。ただし、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列には挿入誤りを表す単語アライメント結果シンボルＩが含まれないため、認識結果単語列中の挿入誤り単語数の推定値Ｅ（＃Ｉ）は得られない。しかし、ここで、音声認識においては挿入誤り数と削除誤り数が同じような値になることが多いという参考非特許文献２の知見に基づけば、Ｅ（＃Ｉ）＝Ｅ（＃Ｄ）と推定することは可能である。よって、認識精度計算部７０において、

に従い、単語正解率＝（（６−１−１）／６）×１００＝（４／６）×１００≒６６．６７［％］、単語正解精度＝（（６−１−１−１）／６）×１００＝（４−１／６）×１００≒５０．００［％］と計算できる。従ってこの場合、単語誤り率の推定値＝１００−６６．６７＝３３．３３（％）、または、単語誤り率の推定値＝１００−５０．００＝５０．００（％）である。

以上のように、本実施例の識別的言語モデル学習装置５０００によれば、単語誤り率推定部５００が、Ｎ−ｂｅｓｔ認識結果単語列中の各単語の分類（正解／置換誤り／削除誤り）を確率的に推定し、それらに基づいて得た単語正解率、または単語正解精度に基づいて、単語誤り率の推定値を算出し、識別的言語モデル学習部８が、単語誤り率の推定値が最小となる推定正解文とその他の不正解文とを用いて識別的言語モデルを生成するため、人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習することが可能となる。

＜単語誤り率推定部６００＞
以下、図１３、図１４、図１５、図１６を参照して、実施例３に係る単語誤り率推定部について詳細に説明する。図１３は本実施例の単語誤り率推定部６００の構成を示すブロック図である。図１４は本実施例の単語コンフュージョンネットワーク生成部６３０の構成を示すブロック図である。図１５は本実施例の単語誤り率推定部６００の動作を示すフローチャートである。図１６はＮ−ｂｅｓｔ認識結果単語列中の各単語に対して確率的単語分類結果を付与する処理について示す図である。

図１３に示すとおり、本実施例の単語誤り率推定部６００は、単語コンフュージョンネットワーク生成部６３０、単語アライメントネットワーク取得部４０、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０、Ｎ−ｂｅｓｔ認識結果単語列取得部８０、単語特徴量ベクトル作成部９０、単語関連情報記憶部１００、認識結果単語確率的分類モデル記憶部１１０、認識結果単語確率的分類部１２０、確率的認識精度計算部１３０を備える。図１４に示すとおり、単語コンフュージョンネットワーク生成部６３０は、単語ラティス生成手段６３１、単語コンフュージョンネットワーク生成手段３２、対立候補情報生成手段６３２を備える。本実施例の単語誤り率推定部６００が備える単語アライメントネットワーク取得部４０、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０は、実施例２の音声認識精度推定装置５００が備える同一番号の各構成部と同じ動作をする。従って、単語アライメントネットワーク取得部４０、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０における処理は実施例２と同じであるため、説明を割愛する。

まず単語コンフュージョンネットワーク生成部６３０は、入力端子２に入力される認識結果文を単語ラティス、および単語コンフュージョンネットワークの形式に変換する。単語コンフュージョンネットワーク生成部６３０は、これらに加えて後述する対立候補情報を生成し、生成した単語ラティスと、単語コンフュージョンネットワークと、対立候補情報とを出力する（Ｓ６３０）。

より詳細には、単語ラティス生成手段６３１は、単語ラティスを生成する（ＳＳ６３１）。単語コンフュージョンネットワーク生成手段３２は、生成された単語ラティスから単語コンフュージョンネットワークを生成する（ＳＳ３２）。次に、対立候補情報生成手段６３２は、単語ラティス及び単語コンフュージョンネットワークから対立候補情報を生成する（ＳＳ６３２）。

単語ラティスは複数の認識結果単語列の表現形式であり、これを変換して単語コンフュージョンネットワークが生成される。単語ラティスを単語コンフュージョンネットワークに変換する手順は、例えば、参考非特許文献１に詳述されている。単語コンフュージョンネットワークの方が単語ラティスよりも効率よくコンパクトに複数の認識結果単語列を表現するが、単語ラティスには単語コンフュージョンネットワークには保存されていない情報、例えば、認識結果単語の音響尤度や言語尤度などが記録されている。対立候補情報とは、ある認識結果単語を認識中（探索処理実行中）に、対立候補の単語はいくつあったかを示す情報のことである。

次に、実施例２同様にステップＳ４０、Ｓ６０が実行されてそれぞれ単語アライメントネットワーク、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列を生成する（Ｓ４０、Ｓ６０）。次に、単語コンフュージョンネットワーク生成部６３０から出力された単語コンフュージョンネットワークを入力として、Ｎ−ｂｅｓｔ認識結果単語列取得部８０は、Ｎ−ｂｅｓｔ認識結果単語列を取得する（Ｓ８０）。Ｎ−ｂｅｓｔ認識結果単語列を取得する処理については上述したとおりであり、例えば、図８の単語コンフュージョンネットワークからは、“私ε定額に行く予定ε”、というＮ−ｂｅｓｔ認識結果単語列（認識結果文）の一つを得ることができる。単語特徴量ベクトル作成部９０は、Ｎ−ｂｅｓｔ認識結果単語列中のεでない正味の各単語に対して、単語コンフュージョンネットワークから得られる情報（存在確率、競合単語の数）、単語ラティスから得られる情報（音響尤度、言語尤度）、対立候補情報、単語アライメントネットワークから得られる情報（単語アライメント結果シンボルＡ_ｊ（Ａ＝Ｃ／Ｓ／Ｉ／Ｄ）の存在確率ｐ（Ａ_ｊ））、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列から得られる情報（単語アライメント結果シンボル）を取得する。また同時に単語関連情報記憶部１００から、認識結果単語に対する情報（単語関連情報）を取得する。単語関連情報は認識結果単語の品詞情報などを表す。これらの情報は単語関連情報記憶部１００から抽出する。単語特徴量ベクトル作成部９０は、これらの入力情報を並べて、単語特徴量ベクトルを作成する（Ｓ９０）。単語特徴量ベクトルの作成に際し、入力情報はどんな順序で並べても構わないが、一度順序を決めた後はそれを変えないようにする。認識結果単語確率的分類部１２０は、単語特徴量ベクトル作成部９０で作成されたＮ−ｂｅｓｔ認識結果単語列中のεでない正味の各単語の単語特徴量ベクトルを入力として、認識結果単語確率的分類モデル記憶部１１０に記憶された認識結果単語確率的分類モデル（モデルパラメータ）を用いて、Ｎ−ｂｅｓｔ認識結果単語列中のεでない正味の各単語を確率的に単語アライメント結果シンボルに分類し、各シンボルに対し確率を付与する（Ｓ１２０）。このように、セグメント毎に単語アライメント結果シンボルと各シンボルの確率とを対にして表記した結果を確率的単語分類結果と呼ぶ。

別の表現をすれば、Ｎ−ｂｅｓｔ認識結果単語列中のε以外の各単語の単語特徴量ベクトルと、予め学習された認識結果単語確率的分類モデル（モデルパラメータ）とを用いて、Ｎ−ｂｅｓｔ認識結果単語列中のε以外の各単語が正解である確率、置換誤りである確率、挿入誤りである確率をセグメント毎に表記した結果を確率的単語分類結果ということができる。

すなわち、例えばＮ−ｂｅｓｔ認識結果単語列中のεでない正味のｊ番目のＮ−ｂｅｓｔ認識結果単語に対して、それが正解である確率ｐ（Ｃ_ｊ）、置換誤りである確率ｐ（Ｓ_ｊ）、挿入誤りである確率ｐ（Ｉ_ｊ）を付与する。ここで、ｐ（Ｃ_ｊ）＋ｐ（Ｓ_ｊ）＋ｐ（Ｉ_ｊ）＝１である。この処理の様子を図１６に示す。認識結果単語確率的分類モデルは、例えば、参考非特許文献３に詳述されている条件付確率場（Ｃｏｎｄｉｔｉｏｎａｌ＿Ｒａｎｄｏｍ＿Ｆｉｅｌｄｓ：ＣＲＦ）などであり、学習データを用いてＮ−ｂｅｓｔ認識結果単語列中のε以外の各単語の単語特徴量ベクトル（当該単語の単語特徴量ベクトルだけでなく当該単語の前後数単語の単語特徴量ベクトルが用いられることもある）と、当該単語が正解である確率、置換誤りである確率、及び、挿入誤りである確率の関係を予め学習しておく。続く確率的認識精度計算部１３０では、実施例１の確率的認識精度計算部５０と同様に、確率的単語分類結果を用いて音声認識精度を計算し、計算した単語誤り率推定値を出力する（Ｓ１３０）。

Ｎ−ｂｅｓｔ認識結果単語列中の正解単語数の推定値Ｅ（＃Ｃ）、置換誤り単語数の推定値Ｅ（＃Ｓ）、挿入誤り単語数の推定値Ｅ（＃Ｉ）は、それぞれ、式（５）、式（６）、式（７）で計算できる。図１６の例の場合、Ｅ（＃Ｃ）＝３．３、Ｅ（＃Ｓ）＝１．１、Ｅ（＃Ｉ）＝０．６となる。認識結果単語確率的分類部１２０では、Ｎ−ｂｅｓｔ認識結果単語列中のεでない正味の単語のみ確率的に分類するため、削除誤りである確率ｐ（Ｄ_ｊ）が算出できない。そこで正解単語列中の単語数の推定値Ｅ（＃Ｎ）を次式のように求める。

図１６の例の場合、Ｅ（＃Ｎ）＝３．３＋１．１＝４．４となる。あるいは参考非特許文献２に記載されているように、音声認識においては一般に挿入誤り数と削除誤り数が同じような値になることが多いという知見に基づけば、Ｅ（＃Ｎ）は次式のように求められる。

図１６の例の場合、Ｅ（＃Ｎ）＝３．３＋１．１＋０．６＝５．０となる。単語正解率及び単語正解精度は式（１０）及び式（１１）で計算できる。図１６の例で、式（１２）のようにＥ（＃Ｎ）を計算すると、単語正解率＝（３．３／４．４）×１００＝７５．００［％］、単語正解精度＝（（３．３−０．６）／４．４）×１００＝６１．３６［％］となる。また式（１３）のようにＥ（＃Ｎ）を計算すると、単語正解率（３．３／５．０）×１００＝６６．００［％］、単語正解精度（（３．３−０．６）／５．０）×１００＝５４．００［％］となる。式（１２）で計算した場合、単語誤り率の推定値＝１００−７５．００＝２５．００（％）、または、単語誤り率の推定値＝１００−６１．３６＝３８．６４（％）である。式（１３）で計算した場合、単語誤り率の推定値＝１００−６６．００＝３４．００（％）、または、単語誤り率の推定値＝１００−５４．００＝４６．００（％）である。

なお、本実施例においては、単語特徴量ベクトル作成部９０において、単語コンフュージョンネットワークから得られる情報、単語ラティスから得られる情報、対立候補情報、単語アライメントネットワークから得られる情報、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列から得られる情報、及び単語関連情報を入力情報として、これらを並べることにより単語特徴量ベクトルを生成することとしたが、これに限られず、単語特徴量ベクトル作成部９０において、単語コンフュージョンネットワーク生成部６３０から取得する何れの情報を用いて単語特徴量ベクトルを生成しても良い。この場合、認識結果単語確率的分類モデル記憶部１１０には、上記入力情報のバリエーションに合わせて予め学習した認識結果単語確率的分類モデルを記憶しておく。そして、認識結果単語確率的分類部１２０は、単語特徴量ベクトル作成部９０で作成されたＮ−ｂｅｓｔ認識結果単語列中のεでない各単語の単語特徴量ベクトルを入力として、認識結果単語確率的分類モデル記憶部１１０に記憶された認識結果単語確率的分類モデルを用いて、Ｎ−ｂｅｓｔ認識結果単語列中のεでない正味の各単語を確率的に単語アライメント結果シンボルに分類し、各シンボルに対し確率を付与することとすればよい。

以上のように、本実施例の識別的言語モデル学習装置６０００によれば、単語誤り率推定部６００が、認識結果単語列中の各単語の分類（正解／置換誤り／挿入誤り／削除誤り）を確率的に推定し、それらに基づいて得た単語正解率、または単語正解精度に基づいて、単語誤り率の推定値を算出し、識別的言語モデル学習部８が、単語誤り率の推定値が最小となる推定正解文とその他の不正解文とを用いて識別的言語モデルを生成するため、人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習することが可能となる。

また、本単語誤り率推定部６００では、従来の音声認識精度推定装置で使用されていた発話特徴量ベクトルよりもより詳細な単語単位の特徴量ベクトルを用いるので、より高精度な認識精度推定が可能になる。

＜単語誤り率推定部７００＞
次に、図１７、図１８、図１９を参照して、実施例３の単語誤り率推定部６００の変形版である実施例４に係る単語誤り率推定部について詳細に説明する。図１７は本実施例の単語誤り率推定部７００の構成を示すブロック図である。図１８は本実施例の単語誤り率推定部７００の動作を示すフローチャートである。図１９は本実施例の認識結果単語分類確定部１４０が行う認識結果単語の分類を確定する処理を例示する図である。

実施例４の単語誤り率推定部７００は、単語コンフュージョンネットワーク生成部６３０、単語アライメントネットワーク取得部４０、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０、Ｎ−ｂｅｓｔ認識結果単語列取得部８０、単語特徴量ベクトル作成部９０、単語関連情報記憶部１００、認識結果単語確率的分類モデル記憶部１１０、認識結果単語確率的分類部１２０、認識結果単語分類確定部１４０、認識精度計算部１５０を備える。本実施例の単語誤り率推定部７００が備える単語コンフュージョンネットワーク生成部６３０、単語アライメントネットワーク取得部４０、Ｎ−ｂｅｓｔ単語アライメント結果シンボル列取得部６０、Ｎ−ｂｅｓｔ認識結果単語列取得部８０、単語特徴量ベクトル作成部９０、単語関連情報記憶部１００、認識結果単語確率的分類モデル記憶部１１０、認識結果単語確率的分類部１２０は、実施例３の単語誤り率推定部６００が備える同一番号の各構成部と同じ動作をする。従って、認識結果単語確率的分類部１２０にて認識結果単語を単語アライメント結果シンボルに分類して確率を付与するまでの処理（ステップＳ１２０まで）は、実施例３と同じである。

認識結果単語分類確定部１４０では認識結果単語の確率的分類を基に認識結果単語の単語アライメント結果シンボルを確定する（Ｓ１４０）。すなわち、認識結果単語に付与されている、正解である確率ｐ（Ｃ_ｊ）、置換誤りである確率ｐ（Ｓ_ｊ）、挿入誤りである確率ｐ（Ｉ_ｊ）を比較し、最高の確率を与える単語アライメント結果シンボルに認識結果単語の分類を確定する。この処理の様子を図１９に示す。図１９の例では、Ｎ−ｂｅｓｔ認識結果単語列の確定した単語アライメント結果シンボル列は、“ＣＳＩＣＣ”となる。これよりＮ−ｂｅｓｔ認識結果単語列中の正解単語数の推定値Ｅ（＃Ｃ）、置換誤り単語数の推定値Ｅ（＃Ｓ）、挿入誤り単語数の推定値Ｅ（＃Ｉ）は、０以上の整数として数え上げることができる。図１９の例では、Ｅ（＃Ｃ）＝３、Ｅ（＃Ｓ）＝１、Ｅ（＃Ｉ）＝１となる。実施例３と同様に、確定した単語アライメント結果シンボル列中には削除誤りＤは出現しない。よって、正解単語列中の単語数の推定値は、式（１２）に従いＥ（＃Ｎ）＝Ｅ（＃Ｃ）＋Ｅ（＃Ｓ）として求めるか、式（１３）に従いＥ（＃Ｎ）＝Ｅ（＃Ｃ）＋Ｅ（＃Ｓ）＋Ｅ（＃Ｉ）として求める。図１９の例で、式（１２）に従うと、Ｅ（＃Ｎ）＝３＋１＝４となり、式（１３）に従うと、Ｅ（＃Ｎ）＝３＋１＋１＝５となる。単語正解率及び単語正解精度は式（１０）及び式（１１）で計算できる。図１９の例で、式（１２）のようにＥ（＃Ｎ）を計算すると、単語正解率（３／４）×１００＝７５．００［％］、単語正解精度＝（（３−１）／４）×１００＝５０．００［％］となる。また式（１３）のようにＥ（＃Ｎ）を計算すると、単語正解率＝（３／５）×１００＝６０．００［％］、単語正解精度＝（（３−１）／５）×１００＝４０．００［％］となる。式（１２）で計算した場合、単語誤り率の推定値＝１００−７５．００＝２５．００（％）、または、単語誤り率の推定値＝１００−５０．００＝５０．００（％）である。式（１３）で計算した場合、単語誤り率の推定値＝１００−６０．００＝４０．００（％）、または、単語誤り率の推定値＝１００−４０．００＝６０．００（％）である。

以上のように、本実施例の識別的言語モデル学習装置７０００によれば、単語誤り率推定部７００が、認識結果単語列中の各単語の分類（正解／置換誤り／挿入誤り）を確率的に推定し、それらに基づいて得た単語正解率、または単語正解精度に基づいて、単語誤り率の推定値を算出し、識別的言語モデル学習部８が、単語誤り率の推定値が最小となる推定正解文とその他の不正解文とを用いて識別的言語モデルを生成するため、人手で音声を書き起こす作業を割愛し、音声データのみから識別的言語モデルを学習することが可能となる。

また、本単語誤り率推定部７００では、従来の音声認識精度推定装置で使用されていた発話特徴量ベクトルよりもより詳細な単語単位の特徴量ベクトルを用いるので、より高精度な認識精度推定が可能になる。

また、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。

また、上述の構成をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。

また、このプログラムの流通は、例えば、そのプログラムを記録したＤＶＤ、ＣＤ−ＲＯＭ等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるＡＳＰ（Application Service Provider）型のサービスによって、上述の処理を実行する構成としてもよい。

なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの（コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等）を含むものとする。また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
（参考非特許文献１）L. Mangu, E. Brill and A. Stolcke, “Finding consensus in speech recognition: word error minimization and other applications of confusion networks,” Computer Speech and Language, vol. 14, pp. 373-400, 2000.
（参考非特許文献２）L. Zhou, Y. Shi, D. Zhang and A. Sears, "Discovering cues to error detection in speech recognition output: a user-centered approach,"Journal of Management Information Systems," Spring 2006, vol. 22, no. 4, pp. 237-270.
（参考非特許文献３）J. Lafferty, A. McCallum and F. Pereira, “Conditional random fields: probabilistic models for segmenting and labeling sequence data,”Proc. ICML, pp. 282-289, 2001.

Claims (3)

1. 音声データを記憶する音声データベースと、
   音声データを取得して音声認識を実行し、一つの音声データに対して複数の認識結果文を生成する音声認識システム部と、
   前記認識結果文の単語誤り率の推定値を計算する単語誤り率推定部と、
   前記認識結果文と、各認識結果文に対応する単語誤り率の推定値とを対にして記憶する学習データ記憶部と、
   前記一つの音声データに対する複数の認識結果文のうち、前記単語誤り率の推定値が最小となる認識結果文を推定正解文とし、それ以外の認識結果文を不正解文として、前記推定正解文と、前記不正解文とを学習データとして用いて識別的言語モデルを生成する識別的言語モデル学習部と、
   を備える識別的言語モデル学習装置。
2. 音声データを取得して音声認識を実行し、一つの音声データに対して複数の認識結果文を生成する音声認識ステップと、
   前記認識結果文の単語誤り率の推定値を計算する単語誤り率推定ステップと、
   前記一つの音声データに対する複数の認識結果文のうち、前記単語誤り率の推定値が最小となる認識結果文を推定正解文とし、それ以外の認識結果文を不正解文として、前記推定正解文と、前記不正解文とを学習データとして用いて識別的言語モデルを生成する識別的言語モデル学習ステップと、
   を有する識別的言語モデル学習方法。
3. 請求項２に記載された識別的言語モデル学習方法の各ステップをコンピュータに実行させるためのプログラム。

Images