JP2001188558A - 音声認識装置、方法、コンピュータ・システム及び記憶媒体 - Google Patents

Abstract

(57)【要約】 【課題】従来より認識率の高い音声認識装置及び方法を
提供すること。 【解決手段】本願発明では、単語を冗長語とそれ以外の
通常の単語にわけ、予測される単語、条件となる先行単
語いずれにおいても、この２つを区別して予測を行うこ
とにより冗長語周辺部における単語予測の精度を向上さ
せる。そのために、アナログ音声入力信号をデジタル信
号に変換処理を行う音響処理手段と、音の特徴を学習し
た音響モデルを記憶した記憶手段と、予め冗長語と冗長
語以外の通常の単語（通常単語）とを含む文章に基づい
て学習した第１の言語モデルと、冗長語を無視して通常
単語のみの文章に基づいて学習した第２の言語モデル
と、の両方の言語モデルを有する辞書を記憶した記憶手
段と、前記デジタル信号について前記音響モデル及び前
記辞書を用いて確率を計算して最も確率の高い語を入力
された音声として認識する手段と、を有する音声認識装
置を提供する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、音声認識装置およびそ
の方法に関するものであり、より具体的には、人の自然
な発話を認識して文章化し、冗長語（disfluency）と呼
ばれる無意味な単語を自動的に除去してテキストデータ
を作成する音声認識装置およびその方法に関するもので
ある。

【０００２】

【従来の技術】音響モデルと言語モデルを用いて音声認
識を行う統計的方法は知られており、例えば、「A Maxi
mum Likelihood Approach to Continuous Speech Recog
nition（L.R. Bahl他，IEEE Trans. Vol. PAMI-5, No.
2, 1983, March）」や「単語を認識単位とした日本語の
大語彙連続音認識（西村他、情報処理学会論文誌、第４
０巻、第４号、１９９９年４月）」がそのような方法に
ついて記述している。その概略について説明すると、生
成された文章Ｗが発話され、それが音響処理部において
音響処理されて得られた信号からその特徴Ｘが抽出さ
れ、そのＸ及びＷを用いて、以下の式

【数１】 に従って最適と考えられる認識結果Ｗ’が出力され、文
章が構成される。つまり、単語列Ｗが発声されたときの
当該特徴量（Ｘ）の出現確率Ｐ（Ｘ｜Ｗ）とＷ自身の出
現確率（Ｐ（Ｗ））の積が最大（ａｒｇｍａｘ）となる
単語列Ｗ’が認識結果として選択される。

【０００３】ここで前者の確率Ｐ（Ｘ｜Ｗ）を求めるた
めに音響モデルが用いられ、その確率の高い単語が認識
の候補として選択される。一方、後者の確率Ｐ（Ｗ）を
近似するためによく用いられるものが言語モデルであ
り、具体的にはＮ−ｇｒａｍモデルである。これはＮ個
の連続した単語組の出現確率から文全体、すなわち単語
列Ｗの出現確率を近似する方法であり、次式のように定
式化される。

【数２】

【０００４】かかる式では、次の単語w[n]の出現確率が
直前のＮ−１個の単語にのみ影響を受けるという仮定を
行う。Ｎの値はさまざまなものが考えられるが、その有
効性と必要とする学習データのバランスからＮ＝３がよ
く用いられ、本式もＮ＝３の場合を記述している。以
下、ｎ個の語からなる文章Ｗのｎ番目の語をw[n]のよう
に表現することとすると、ここでは当該Ｎ−１個（つま
り２個）という条件の元での単語w[n]の出現確率、つま
りP(w[n]|w[n-2]w[n-1])の積として単語列Ｗの出現確率
が計算される。ここで、かかる式において、｜の左（W
[n]）は認識の対象となる単語を示し、｜の右（w[n-2]w
[n-1]）はその条件となる２つ前、１つ前の単語を示
す。さまざまな単語w[n]についてのそれぞれの出現確率
P(w[n]|w[n-2]w[n-1])はあらかじめ用意されたテキスト
データより学習しておき、辞書としてデータベース化し
て保存しておく。例えば、文の先頭に「単語」という語
が出現する確率は0.0021、その後に「検索」が続く確率
は0.001等のようにして保存されている。

【０００５】さて、あらかじめ用意された原稿があるよ
うな場合については、上述したＮ−ｇｒａｍモデルで十
分であるが、音声認識の適用分野でそのような場合はむ
しろまれであり、実際はより自然な発話を認識すること
が応用上重要である。その場合には、内容・意味をもつ
通常の単語だけではなく、「アノー」「ソノー」といっ
た間投詞的表現や「エー」「アー」といった無意味な単
語が発声される。これらは不要語や冗長語と呼ばれる
が、それらに対応したＮ−ｇｒａｍモデルを作成し、そ
れらが自動的に除去されることが望ましい。

【０００６】従来、このために提案されたＮ−ｇｒａｍ
モデルの拡張は「透過単語」という概念を導入したもの
であった。たとえば「単語Ｎ−ｇｒａｍモデルを用いた
音声認識システムにおける未知語・冗長語の処理（甲斐
他、情報処理学会論文誌、第４０巻、４号、１９９９年
４月）」や「放送音声の書き起こしに関する検討（西
村、伊東、音響学会秋季全国大会、１９９８年）」には
その方法が記述されている。たとえば前者では「冗長語
は文節間において比較的自由に出現するものであり、連
接制約であるＮ−ｇｒａｍが有効に働くとは考えられな
い」という仮定を元に学習時、認識時いずれにおいて
も、冗長語の存在を無視して確率計算が行なわれる。た
とえば、w[n-1]を冗長語だとするとw[n]の出現確率は P(w[n]|w[n-2]w[n-1]) から計算されるべきところを、w[n-1]を無視し、P(w[n]
|w[n-3]w[n-2])として推定する。このように無視され
る、つまりスキップされる単語である冗長語を「透過単
語」と呼ぶ。このモデルにおいては、それ自身、つまり
冗長語は冗長語以外の単語（通常単語）の各々の間に等
しい確率で出現するとして確率の計算が行われる。

【０００７】しかしながら、この冗長語が実際に何ら情
報をもっておらず、通常単語間に自由に出現するものか
否かについて、英語ではその仮定を否定する報告があ
る。たとえば「Statistical Language Modeling for Sp
eech Disfluencies（A. Stolcke, E. Shriberg, Proc.
of ICASSP96）」では、冗長語に対しても通常のＮ−ｇ
ｒａｍを適用した結果、冗長語に後続する単語の予測精
度が、透過単語モデルより向上したことが記述されてい
る。だが先の透過単語の説明で明らかなように、経験
上、冗長語のもつ性質が通常単語と異なり、単純な順序
列としてモデル化することが最適ではないことも知られ
ている。

【０００８】一方、現在一般に用いられている、ディク
テーション用音声認識システムでは、異なる２つ以上の
言語モデルを補間するという方法が用いられることが多
い。これは本来ベースとなる汎用の言語モデルでは、コ
ンピュータ、スポーツといった分野固有の文に対して十
分対応できない場合、その分野固有のテキストから学習
した特定分野言語モデルを汎用のそれと組み合わせる手
法であり、以下のように確率計算が行われる。 Pr(w[n]|w[n-2],w[n-1])=λP1(w[n]|w[n-2],w[n-1])+(1
-λ)P2(w[n]|w[n-2],w[n-1]) ただし、P1は汎用言語モデルを示し、P2は特定分野言語
モデルを示す。ここでλは補間係数であり、実験により
最適な値に設定することとされている。

【０００９】

【発明が解決しようとする課題】本願発明は、従来より
認識率の高い音声認識装置及び音声認識方法を提供する
ことを目的とする。

【００１０】さらに、本願発明は、冗長語周辺部におけ
る単語予測の精度を向上させることを目的とする。

【００１１】

【課題を解決するための手段】本願発明では、単語を冗
長語とそれ以外の通常の単語にわけ、予測される単語、
条件となる先行単語いずれにおいても、この２つを区別
し、それぞれについて上述の補間法を冗長語を含む単語
列に適用することによって冗長語周辺部における単語予
測の精度を向上させる。

【００１２】より具体的には、アナログ音声入力信号を
デジタル信号に変換処理を行う音響処理手段と、音の特
徴を学習した音響モデルを記憶した記憶手段と、予め冗
長語と冗長語以外の通常の単語（通常単語）とを含む文
章に基づいて学習した第１の言語モデルと、冗長語を無
視して通常単語のみの文章に基づいて学習した第２の言
語モデルと、の両方の言語モデルを有する辞書を記憶し
た記憶手段と、前記デジタル信号について前記音響モデ
ル及び前記辞書を用いて確率を計算して最も確率の高い
語を入力された音声として認識する手段と、を有する音
声認識装置を提供する。

【００１３】また、アナログ入力手段と、前記アナログ
音声をデジタル信号に変換処理する手段と、音の特徴を
学習した音響モデルを記憶した記憶手段と、予め冗長語
と冗長語以外の通常の単語（通常単語）とを含む文章に
基づいて学習した第１の言語モデルと、冗長語を無視し
て通常単語のみの文章に基づいて学習した第２の言語モ
デルと、の両方の言語モデルを有する辞書を記憶した記
憶手段と、前記デジタル信号について前記音響モデル及
び前記辞書を用いて確率を計算して最も確率の高い語を
入力された音声として認識する手段と、前記認識された
結果を表示する表示装置とを有するコンピュータ・シス
テムを提供する。

【００１４】さらに、アナログ音声入力信号をデジタル
信号に変換処理し、予め冗長語と冗長語以外の通常の単
語（通常単語）とを含む文章に基づいて学習した第１の
言語モデルと、冗長語を無視して通常単語のみの文章に
基づいて学習した第２の言語モデルと、の両方の言語モ
デルを有する辞書を記憶し、前記デジタル信号について
音響モデルと前記辞書を用いて確率を計算して最も確率
の高い語を入力された音声として認識する音声認識方法
を提供する。

【００１５】さらに、アナログ音声を入力し、前記アナ
ログ音声をデジタル信号に変換処理し、予め冗長語と冗
長語以外の通常の単語（通常単語）とを含む文章に基づ
いて学習した第１の言語モデルと、冗長語を無視して通
常単語のみの文章に基づいて学習した第２の言語モデル
と、の両方の言語モデルを有する辞書を記憶し、前記デ
ジタル信号について音響モデル及び前記辞書を用いて確
率を計算して最も確率の高い語を入力された音声として
認識し、前記認識された結果を表示する音声認識方法を
提供する。

【００１６】さらに、コンピュータ・プログラムを有す
るコンピュータ読みとり可能な記憶媒体であって、前記
記憶媒体は、音響モデルと、冗長語と冗長語以外の通常
の単語（通常単語）とを含む文章に基づいて学習した第
１の言語モデルと、冗長語を無視して通常単語のみの文
章に基づいて学習した第２の言語モデルと、の両方の言
語モデルを有する辞書を記憶し、さらに前記コンピュー
タ・プログラムは、コンピュータに入力されたアナログ
音声入力信号が変換されたデジタル信号について前記辞
書を用いて確率を計算して最も確率の高い語を入力され
た音声として認識させるものである記憶媒体を提供す
る。

【００１７】さらに、冗長語と冗長語以外の通常の単語
（通常単語）とを含む文章に基づいて学習した第１の言
語モデルと、冗長語を無視して通常単語のみの文章に基
づいて学習した第２の言語モデルと、の両方の言語モデ
ルを有する辞書を記憶した記憶媒体を提供する。

【００１８】さらに、冗長語と冗長語以外の通常の単語
（通常単語）とを含む文章について音声認識をするため
の装置であって、認識の対象となる入力された語が通常
単語かどうか判断する手段と、通常単語であると判断さ
れた場合、さらに入力された語を認識するために必要な
条件となる語が通常単語のみからなるかどうかを判断す
る手段と、条件となる語が通常単語のみでなく冗長語も
含むと判断された場合、冗長語と冗長語以外の通常の単
語（通常単語）とを含む文章に基づいて学習した第１の
言語モデルと、冗長語を無視して通常単語のみの文章に
基づいて学習した第２の言語モデルと、の両方の言語モ
デルを有する辞書を用いて確率を計算して最も確率の高
い語を入力された音声として認識させる手段と、を有す
る音声認識装置を提供する。

【００１９】さらに、冗長語と冗長語以外の通常の単語
（通常単語）とを含む文章について音声認識をするため
の方法であって、認識の対象となる入力された語が通常
単語かどうか判断するステップと、通常単語であると判
断された場合、さらに入力された語を認識するために必
要な条件となる語が通常単語のみからなるかどうかを判
断するステップと、条件となる語が通常単語のみでなく
冗長語も含むと判断された場合、冗長語と冗長語以外の
通常の単語（通常単語）とを含む文章に基づいて学習し
た第１の言語モデルと、冗長語を無視して通常単語のみ
の文章に基づいて学習した第２の言語モデルと、の両方
の言語モデルを有する辞書を用いて確率を計算して最も
確率の高い語を入力された音声として認識させるステッ
プと、を有する音声認識方法を提供する。

【００２０】さらに、冗長語と冗長語以外の通常の単語
（通常単語）とを含む文章について音声認識をするため
のコンピュータ・プログラムを有するコンピュータ読み
とり可能な記憶媒体であって、前記コンピュータ・プロ
グラムは、コンピュータに認識の対象となる入力された
語が通常単語かどうか判断する手順と、通常単語である
と判断された場合、さらに入力された語を認識するため
に必要な条件となる語が通常単語のみからなるかどうか
を判断する手順と、条件となる語が通常単語のみでなく
冗長語も含むと判断された場合、冗長語と冗長語以外の
通常の単語（通常単語）とを含む文章に基づいて学習し
た第１の言語モデルと、冗長語を無視して通常単語のみ
の文章に基づいて学習した第２の言語モデルと、の両方
の言語モデルを有する辞書を用いて確率を計算して最も
確率の高い語を入力された音声として認識させる手順
と、を実行させるものである記憶媒体を提供する。

【００２１】さらに、アナログ音声入力信号をデジタル
信号に変換処理を行う音響処理装置と、音の特徴を学習
した音響モデルを記憶した第１の記憶装置と、予め冗長
語と冗長語以外の通常の単語（通常単語）とを含む文章
に基づいて学習した第１の言語モデルと、冗長語を無視
して通常単語のみの文章に基づいて学習した第２の言語
モデルと、の両方の言語モデルを有する辞書を記憶した
第２の記憶装置と、前記音響処理装置及び前記第１及び
第２の記憶装置に接続され、前記デジタル信号について
前記音響モデル及び前記辞書を用いて確率を計算して最
も確率の高い語を入力された音声として認識する装置
と、を有する音声認識装置を提供する。

【００２２】さらに、アナログ音声の入力装置と、前記
入力装置に接続され、前記アナログ音声をデジタル信号
に変換処理する変換装置と、音の特徴を学習した音響モ
デルを記憶した第１の記憶装置と、予め冗長語と冗長語
以外の通常の単語（通常単語）とを含む文章に基づいて
学習した第１の言語モデルと、冗長語を無視して通常単
語のみの文章に基づいて学習した第２の言語モデルと、
の両方の言語モデルを有する辞書を記憶した第２の記憶
装置と、前記変換装置及び前記第１及び第２の記憶装置
に接続され、前記デジタル信号について前記音響モデル
及び前記辞書を用いて確率を計算して最も確率の高い語
を入力された音声として認識する装置と、前記認識され
た結果を表示する表示装置とを有するコンピュータ・シ
ステムを提供する。

【００２３】

【発明の実施の形態】図１は、本願発明の構成を示すブ
ロック図である。ブロック１０１において生成された文
章（すなわち真の文章）Ｗは、Ｓとして発話される（１
０２）。一般にこの文章生成及び発話は発話者によって
なされる。発話されたＳは、文章Ｗだけでなく、「アノ
ー」「エート」等の冗長語を含む音である。この入力さ
れた音声であるＳは、音声認識手段１１０中の音響処理
部１１１によって信号Ｘに変換されて記憶される。この
変換された信号Ｘは、言語復号部１１２において、音の
特徴を学習した音響モデル１１３と、後述する学習によ
り予め作成された言語モデルについての辞書１１４を用
いて、真の文章だけでなく冗長語を含むものから必要な
言語を抽出して認識結果Ｗ’とする。このような一連の
動作を音にエンコードされたデータから必要なデータを
デコード（復号）するともいう。そして、認識された結
果の文章を表示する（１２０）。

【００２４】次に、本願発明の実施される装置の典型的
なシステムの一例について図２に示す。発話者が発話し
た音声はマイク２１０からアナログ信号として入力さ
れ、コンピュータ装置２２０のサウンドカード２２１に
よりデジタル信号に変換処理され、メモリ２２２に記憶
される。なお、このような機能を奏するものであれば、
ハードウェアとして実現されていても、ソフトウェアと
して実現されていてもいずれでも良い。さらに、音響モ
デル及び後述する学習により作成された言語モデルを含
む辞書もメモリに記憶されている。これらの変換され記
憶された信号及び辞書からＣＰＵ２２３は言語の復号を
行い、認識された結果を表示装置２３０に表示する。な
お、マイクはコンピュータ装置や表示装置と一体化され
ていることもある。また、表示装置による結果の表示は
ＣＲＴや液晶などディスプレイだけでなく、印刷装置に
より紙に印刷されるような場合もある。

【００２５】図１のブロック図と図２のシステムとの対
応を考えると、一例として、マイク、サウンドカード及
びメモリにより音響処理部の前段部が実現され、また音
響モデルと辞書（言語モデル）はメモリ上に記憶され、
音響処理部の後段部と言語復号はＣＰＵを用いて行われ
（音響処理部の処理は単なるデジタル信号への変換だけ
でなく、特徴Ｘの抽出などのためにＣＰＵが必要とな
る）、文章の表示は表示装置において行われる。ただ
し、これらの関係は固定的なものではない。例えば変換
された信号を記憶するメモリと辞書を有するメモリは物
理的に異なるものとすることもできる。ただし、このよ
うな場合もそれらを一体としてメモリとして考えること
も可能である。

【００２６】上述の通り、本発明は単語を冗長語とそれ
以外の通常の単語（通常単語）にわけ、予測される単
語、条件となる先行単語いずれにおいても、この２つを
区別し、さらにこの補間法を冗長語を含む単語列に適用
することによって、冗長語周辺部における単語予測の精
度を向上させようとするものであるが、その具体的な内
容について以下により詳細に述べる。

【００２７】冗長語のもつ性質の特殊性は、その情報が
後続単語の予測に寄与する程度が不明確な点にある。す
なわち、冗長語を無視して、それ以前の通常単語から予
測する方がよいというのが従来技術で述べた透過単語モ
デルの考え方である。これに対して、通常のＮ−ｇｒａ
ｍモデルは、後続単語の予測に最も役にたつのは、それ
に隣接する単語であるという考え方に基づいている。そ
こで、この２つの方法で複数の言語モデルを作成し、そ
れらのモデルを補間して予測を行う。具体的には以下の
過程をへて確率の学習・計算を行う。以下簡単のためす
べてＮ＝３（３−ｇｒａｍ）とする。

【００２８】まず、予め準備されたテキストデータに基
づいて、学習により図３に示すような辞書３００を生成
する。具体的には、以下のようにして２つのモデルに基
づく辞書が生成される。なお、いずれの場合において
も、冗長語が連続する場合には、たとえば連続する冗長
語列を１つの冗長語に置き換えて学習すればよい。

【００２９】１．各通常単語について、冗長語を除去し
た通常単語のみからなる学習テキストテータを用いて３
−ｇｒａｍの確率を学習する。つまり上述の透過単語モ
デルの考え方による言語モデルである。これをモデルＵ
（３１０）とする。

【００３０】２．冗長語を含むテキストについて学習を
行う。この場合、さらに以下の２つの場合がある。ここ
でwfilは冗長語を表す。 （１）予測の対象となる語が冗長語wfilである場合の３
−ｇｒａｍ確率、すなわちP(wfil|w[n-2],w[n-1])を学
習する。ここで、例えば条件のうちw[n-1]が通常単語、
w[n-2]が冗長語というような可能性があるが、その場合
にはw[n-2]をとばし、w[n-3]を条件部に用いP(wfil|w[n
-1],w[n-3])とする。つまり、この場合条件に冗長語は
含まないようにする。 （２）予測の対象となる語が通常単語であり、その直前
が冗長語である場合、その冗長語のみを条件とする２−
ｇｒａｍ確率P(w[n]|wfil)を学習する。つまり、通常単
語の直前が冗長語である場合の確率である。以上のよう
に、条件部、予測対象のそれぞれにおいて冗長語と通常
単語を分けた確率を学習することが本学習の基本であ
る。この２．（１）、（２）をあわせてモデルＤ（３２
０）とする。

【００３１】このように学習により生成された辞書を用
いて、図４に示すようなフローチャートに従って認識の
ための確率計算を行う。以下、かかる図４について説明
する。

【００３２】まず、音響処理部によって変換された音声
信号について音響モデルを用いた計算の結果に基づいて
認識候補として単語を選択する（４００）。ここで、例
えば認識候補としての単語は数百個程度に絞られる。次
に、候補となる単語が通常単語であるか、冗長語である
かが判断される（４１０）。本発明では、対象単語が冗
長語であるか通常単語であるかによって異なる確率計算
を行うからである。

【００３３】候補の単語が通常単語w[n]である場合、条
件部w[n-2]w[n-1]も通常単語のみからなるかどうかが判
断され（４２０）、条件部w[n-2]w[n-1]も通常単語のみ
からなる場合は、モデルＵのP(w[n]|w[n-2],w[n-1])か
らw[n]の予測、つまり確率計算を行う（４３０）。

【００３４】認識対象の単語が通常単語w[n]であるが、
条件部に冗長語が存在すると判断された場合は、モデル
ＵとモデルＤの両方の辞書を用いて確率計算が行われる
（４４０）。

【００３５】このブロック４４０について、本実施例に
ついてより詳細に説明すれば、認識対象の単語が通常単
語w[n]であるが、条件部に冗長語が存在するかどうかが
判断され（５１０）、直前の単語w[n-1]が冗長語の場合
は、それをとばして最も近接した通常単語まで遡りそれ
を条件としたモデルＵの確率と、直前が冗長語であった
という条件のモデルＤの確率を補間してw[n]の確率計算
を行う（５２０）。つまり当該確率Prは以下の式により
求められる。 Pr=λPU(w[n]|w[n-2],w[n-1])+(1-λ)PD(w[n]|wfil) ここで、PU : モデルＵによる確率、PD : モデルＤによ
る確率を示す。また、補間係数λは予め実験により最適
な値に決定する。例えば、補間係数の決定は、実験にお
いて補間係数λを０から１まで０．１刻みで変化させ、
冗長語を含むモデル文章について最も認識率が高くなる
ような値を採用する。

【００３６】認識対象の単語が冗長語w[n]である場合、
条件部w[n-2],w[n-1]に冗長語が存在するにはそれをと
ばして（５３０）、最も近接した通常単語w[n-i], w[n-
j]まで遡り、それを条件部とするモデルＤ、PD(w[n]|w
[n-i],w[n-j])により確率計算を行う（５４０）。

【００３７】以上の結果に基づいて、言語モデルによる
予測される語の確率を求める（４６０）。この場合、最
も確率の高い語を認識語として表示させるようにしても
良いし、あるいはこの予測結果からさらに候補語を百語
程度に絞り込み、再度音響モデルによる確率計算を詳細
に行い認識結果を算出しても良い。

【００３８】このように、本発明においては、確率計算
において、予測対象、条件のいずれにおいても、冗長語
である場合と、そうではない場合を分離し、それらを別
々に学習しておくこと、そして確率計算時においては、
その２つのモデルを補間して通常単語・冗長語の影響が
より適した割合で考慮されることになる。

【００３９】なお、本発明においては、補間係数λを適
切な値に設定することが、その効果に大きく影響する。
その値に影響を与える要素としては、不要語の出現率、
学習コーパスの量など多くのものがあり、理論的考察が
困難なため、実験により、言語モデルがどの程度有効に
働いているかという値を求め、それを基準として決定す
ることが多い。

【００４０】言語モデルの有効性は一般にパープレキシ
ティという統計量が用いられる。その定義の詳細はたと
えば、「音声・音情報のディジタル信号処理」（鹿野他
著、昭晃堂、１９９７年）に記述があるが、直感的には
全認識対象語彙（たとえば６万語）が言語モデルを使用
することにより、何単語程度の対象語彙と等価にまで減
少したかを意味し、より小さい値の方がよい。

【００４１】たとえばテレビの講演を書き起こした約10
0万単語からなるコーパスの場合、λは0.2が最適であっ
た。そこでパープレキシティを求めた結果、透過単語モ
デルは225.0であるのに対して、本発明によるモデルで
はは195.1であり、約13%の改善であることがわかった。
当業者であれば理解されるところであるが、この分野に
おける改良案には不要語に限らず多くのものがあるが、
その中でこの値は大きいものである。

【００４２】以上の例の他、冗長語予測においても条件
部において、直前単語が冗長語、すなわち冗長語が連続
する場合に、その条件付き確率と補間することなど、さ
まざまな組み合わせが考えられる。

【００４３】例えば、上述の例では、モデルＤについ
て、対象語の直前が冗長語の場合についてのみ学習を行
わせたが、例えばその対象語の２語前が冗長語の場合
（３−ｇｒａｍモデル）等の確率もさらに加味して補間
する方法もある。

【００４４】さらに、本発明においては前述のように、
音響処理部によって変換された音声信号について、まず
先に音響モデルを用いた計算の結果に基づいて認識候補
として単語を選択してある程度絞り込んだ上でそれらに
言語モデルを適用して確率を求めて総合判定を行い認識
の最終結果を得るが（図６（ａ））、逆にまず先に認識
された語の履歴に基づいて言語モデルを適用して候補と
なる語をある程度絞り込んだ上でそれらに音響モデルを
適用して認識を行う方法も考えられる（図６（ｂ））。

【００４５】

【発明の効果】本願発明により、従来より認識率の高い
音声認識装置及び音声認識方法を提供するが可能とな
り、さらに、冗長語周辺部における単語予測の精度を向
上させることが可能となる。

【図面の簡単な説明】

【図１】本発明の構成を示すブロック図である。

【図２】本発明の実施されるコンピュータ・システムの
一例を示す図である。

【図３】本発明に用いられる辞書についての図である。

【図４】本発明の処理の流れを示すフローチャートであ
る。

【図５】本発明の処理の流れを示すフローチャートであ
る。

【図６】音声認識処理の流れを示すフローチャートであ
る。

【符号の説明】

１１０ 音声認識手段 ２１０ マイク ２２０ コンピュータ装置 ２２１ サウンドカード ２２２ メモリ ２２３ ＣＰＵ ２３０ 表示装置

───────────────────────────────────────────────────── フロントページの続き (72)発明者 伊東 信泰 神奈川県大和市下鶴間1623番地14 日本ア イ・ビー・エム株式会社 東京基礎研究所 内 (72)発明者 西村 雅史 神奈川県大和市下鶴間1623番地14 日本ア イ・ビー・エム株式会社 東京基礎研究所 内 Ｆターム(参考） 5D015 HH23 LL05

Claims (29)

【特許請求の範囲】
1. 【請求項１】アナログ音声入力信号をデジタル信号に変
   換処理を行う音響処理手段と、 音の特徴を学習した音響モデルを記憶した記憶手段と、 予め冗長語と冗長語以外の通常の単語（通常単語）とを
   含む文章に基づいて学習した第１の言語モデルと、冗長
   語を無視して通常単語のみの文章に基づいて学習した第
   ２の言語モデルと、の両方の言語モデルを有する辞書を
   記憶した記憶手段と、 前記デジタル信号について前記音響モデル及び前記辞書
   を用いて確率を計算して最も確率の高い語を入力された
   音声として認識する手段と、 を有する音声認識装置。
2. 【請求項２】前記第１及び第２の言語モデルはＮ−ｇｒ
   ａｍモデルである請求項１記載の音声認識装置。
3. 【請求項３】アナログ音声の入力手段と、 前記アナログ音声をデジタル信号に変換処理する手段
   と、 音の特徴を学習した音響モデルを記憶した記憶手段と、 予め冗長語と冗長語以外の通常の単語（通常単語）とを
   含む文章に基づいて学習した第１の言語モデルと、冗長
   語を無視して通常単語のみの文章に基づいて学習した第
   ２の言語モデルと、の両方の言語モデルを有する辞書を
   記憶した記憶手段と、 前記デジタル信号について前記音響モデル及び前記辞書
   を用いて確率を計算して最も確率の高い語を入力された
   音声として認識する手段と、 前記認識された結果を表示する表示装置とを有するコン
   ピュータ・システム。
4. 【請求項４】前記第１及び第２の言語モデルはＮ−ｇｒ
   ａｍモデルである請求項３記載の音コンピュータ・シス
   テム。
5. 【請求項５】アナログ音声入力信号をデジタル信号に変
   換処理し、 予め冗長語と冗長語以外の通常の単語（通常単語）とを
   含む文章に基づいて学習した第１の言語モデルと、冗長
   語を無視して通常単語のみの文章に基づいて学習した第
   ２の言語モデルと、の両方の言語モデルを有する辞書を
   記憶し、 前記デジタル信号について音響モデルと前記辞書を用い
   て確率を計算して最も確率の高い語を入力された音声と
   して認識する音声認識方法。
6. 【請求項６】前記第１及び第２の言語モデルはＮ−ｇｒ
   ａｍモデルである請求項５記載の音声認識方法。
7. 【請求項７】アナログ音声を入力し、 前記アナログ音声をデジタル信号に変換処理し、 予め冗長語と冗長語以外の通常の単語（通常単語）とを
   含む文章に基づいて学習した第１の言語モデルと、冗長
   語を無視して通常単語のみの文章に基づいて学習した第
   ２の言語モデルと、の両方の言語モデルを有する辞書を
   記憶し、 前記デジタル信号について音響モデル及び前記辞書を用
   いて確率を計算して最も確率の高い語を入力された音声
   として認識し、 前記認識された結果を表示する音声認識方法。
8. 【請求項８】前記第１及び第２の言語モデルはＮ−ｇｒ
   ａｍモデルである請求項７記載の音声認識方法。
9. 【請求項９】コンピュータ・プログラムを有するコンピ
   ュータ読みとり可能な記憶媒体であって、前記記憶媒体
   は、 音響モデルと、 冗長語と冗長語以外の通常の単語（通常単語）とを含む
   文章に基づいて学習した第１の言語モデルと、冗長語を
   無視して通常単語のみの文章に基づいて学習した第２の
   言語モデルと、の両方の言語モデルを有する辞書を記憶
   し、さらに前記コンピュータ・プログラムは、コンピュ
   ータに入力されたアナログ音声入力信号が変換されたデ
   ジタル信号について前記辞書を用いて確率を計算して最
   も確率の高い語を入力された音声として認識させるもの
   である記憶媒体。
10. 【請求項１０】前記第１及び第２の言語モデルはＮ−ｇ
    ｒａｍモデルである請求項９記載の記憶媒体。
11. 【請求項１１】冗長語と冗長語以外の通常の単語（通常
    単語）とを含む文章に基づいて学習した第１の言語モデ
    ルと、冗長語を無視して通常単語のみの文章に基づいて
    学習した第２の言語モデルと、の両方の言語モデルを有
    する辞書を記憶した記憶媒体。
12. 【請求項１２】前記第１及び第２の言語モデルはＮ−ｇ
    ｒａｍモデルである請求項１１記載の記憶媒体。
13. 【請求項１３】冗長語と冗長語以外の通常の単語（通常
    単語）とを含む文章について音声認識をするための装置
    であって、（１）認識の対象となる入力された語が通常
    単語かどうか判断する手段と、（２）前記（１）で通常
    単語であると判断された場合、さらに入力された語を認
    識するために必要な条件となる語が通常単語のみからな
    るかどうかを判断する手段と、（３）前記（２）で条件
    となる語が通常単語のみでなく冗長語も含むと判断され
    た場合、冗長語と冗長語以外の通常の単語（通常単語）
    とを含む文章に基づいて学習した第１の言語モデルと、
    冗長語を無視して通常単語のみの文章に基づいて学習し
    た第２の言語モデルと、の両方の言語モデルを有する辞
    書を用いて確率を計算して最も確率の高い語を入力され
    た音声として認識させる手段と、を有する音声認識装
    置。
14. 【請求項１４】前記装置はさらに、（１−１）前記
    （１）で、対象となる語が通常単語でないと判断された
    場合、第１の言語モデルに基づいて確率を計算する手段
    を有する請求項１３記載の音声認識装置。
15. 【請求項１５】前記装置はさらに、（２−１）前記
    （２）で条件となる語が通常単語のみからなると判断さ
    れた場合、第２の言語モデルに基づいて確率を計算する
    手段を有する請求項１３又は１４記載の音声認識装置。
16. 【請求項１６】前記（３）はさらに、（３−１）対象と
    なる語の直前が冗長語かどうかを判断する手段と、（３
    −２）前記（３−１）で、直前が冗長語であると判断さ
    れた場合、第１の言語モデルと第２の言語モデルから確
    率を計算する手段と、を有する請求項１３ないし１５の
    いずれか記載の音声認識装置。
17. 【請求項１７】前記装置はさらに、（３−１−２）前記
    （３−１）で、直前の語が冗長語でないと判断された場
    合、第２のモデルから確率を計算する手段を有する請求
    項１３ないし１６のいずれか記載の音声認識装置。
18. 【請求項１８】冗長語と冗長語以外の通常の単語（通常
    単語）とを含む文章について音声認識をするための方法
    であって、（１）認識の対象となる入力された語が通常
    単語かどうか判断するステップと、（２）前記ステップ
    （１）で通常単語であると判断された場合、さらに入力
    された語を認識するために必要な条件となる語が通常単
    語のみからなるかどうかを判断するステップと、（３）
    前記ステップ（２）で条件となる語が通常単語のみでな
    く冗長語も含むと判断された場合、冗長語と冗長語以外
    の通常の単語（通常単語）とを含む文章に基づいて学習
    した第１の言語モデルと、冗長語を無視して通常単語の
    みの文章に基づいて学習した第２の言語モデルと、の両
    方の言語モデルを有する辞書を用いて確率を計算して最
    も確率の高い語を入力された音声として認識させるステ
    ップと、を有する音声認識方法。
19. 【請求項１９】前記方法はさらに、（１−１）前記ステ
    ップ（１）で、対象となる語が通常単語でないと判断さ
    れた場合、第１の言語モデルに基づいて確率を計算する
    ステップを有する請求項１８記載の音声認識方法。
20. 【請求項２０】前記方法はさらに、（２−１）前記ステ
    ップ（２）で条件となる語が通常単語のみからなると判
    断された場合、第２の言語モデルに基づいて確率を計算
    するステップを有する請求項１８または１９記載の音声
    認識方法。
21. 【請求項２１】前記ステップ（３）はさらに、（３−
    １）対象となる語の直前が冗長語かどうかを判断するス
    テップと、（３−２）前記ステップ（３−１）で、直前
    が冗長語であると判断された場合、第１の言語モデルと
    第２の言語モデルから確率を計算するステップと、を有
    する請求項１８ないし２０のいずれか記載の音声認識方
    法。
22. 【請求項２２】前記方法はさらに、（３−１−２）前記
    ステップ（３−１）で、直前の語が冗長語でないと判断
    された場合、第２のモデルから確率を計算するステップ
    を有する請求項１８ないし２１のいずれか記載の音声認
    識方法。
23. 【請求項２３】冗長語と冗長語以外の通常の単語（通常
    単語）とを含む文章について音声認識をするためのコン
    ピュータ・プログラムを有するコンピュータ読みとり可
    能な記憶媒体であって、前記コンピュータ・プログラム
    は、コンピュータに（１）認識の対象となる入力された
    語が通常単語かどうか判断する手順と、（２）前記手順
    （１）で通常単語であると判断された場合、さらに入力
    された語を認識するために必要な条件となる語が通常単
    語のみからなるかどうかを判断する手順と、（３）前記
    手順（２）で条件となる語が通常単語のみでなく冗長語
    も含むと判断された場合、冗長語と冗長語以外の通常の
    単語（通常単語）とを含む文章に基づいて学習した第１
    の言語モデルと、冗長語を無視して通常単語のみの文章
    に基づいて学習した第２の言語モデルと、の両方の言語
    モデルを有する辞書を用いて確率を計算して最も確率の
    高い語を入力された音声として認識させる手順と、を実
    行させるものである記憶媒体。
24. 【請求項２４】前記プログラムはさらにコンピュータ
    に、（１−１）前記手順（１）で、対象となる語が通常
    単語でないと判断された場合、第１の言語モデルに基づ
    いて確率を計算する手順を実行させるものである請求項
    ２３記載の記憶媒体。
25. 【請求項２５】前記プログラムはさらにコンピュータ
    に、、（２−１）前記手順（２）で条件となる語が通常
    単語のみからなると判断された場合、第２の言語モデル
    に基づいて確率を計算する手順を実行させるものである
    請求項２３または２４記載の記憶媒体。
26. 【請求項２６】前記プログラムはさらにコンピュータ
    に、、（３−１）対象となる語の直前が冗長語かどうか
    を判断する手順と、（３−２）前記手順（３−１）で、
    直前が冗長語であると判断された場合、第１の言語モデ
    ルと第２の言語モデルから確率を計算する手順と、を実
    行させるものである請求項２３ないし２５のいずれか記
    載の記憶媒体。
27. 【請求項２７】前記プログラムはさらにコンピュータ
    に、（３−１−２）前記手順（３−１）で、直前の語が
    冗長語でないと判断された場合、第２のモデルから確率
    を計算する手順を実行させるものである請求項２３ない
    し２６のいずれか記載の記憶媒体。
28. 【請求項２８】アナログ音声入力信号をデジタル信号に
    変換処理を行う音響処理装置と、 音の特徴を学習した音響モデルを記憶した第１の記憶装
    置と、 予め冗長語と冗長語以外の通常の単語（通常単語）とを
    含む文章に基づいて学習した第１の言語モデルと、冗長
    語を無視して通常単語のみの文章に基づいて学習した第
    ２の言語モデルと、の両方の言語モデルを有する辞書を
    記憶した第２の記憶装置と、 前記音響処理装置及び前記第１及び第２の記憶装置に接
    続され、前記デジタル信号について前記音響モデル及び
    前記辞書を用いて確率を計算して最も確率の高い語を入
    力された音声として認識する装置と、 を有する音声認識装置。
29. 【請求項２９】アナログ音声の入力装置と、 前記入力装置に接続され、前記アナログ音声をデジタル
    信号に変換処理する変換装置と、 音の特徴を学習した音響モデルを記憶した第１の記憶装
    置と、 予め冗長語と冗長語以外の通常の単語（通常単語）とを
    含む文章に基づいて学習した第１の言語モデルと、冗長
    語を無視して通常単語のみの文章に基づいて学習した第
    ２の言語モデルと、の両方の言語モデルを有する辞書を
    記憶した第２の記憶装置と、 前記変換装置及び前記第１及び第２の記憶装置に接続さ
    れ、前記デジタル信号について前記音響モデル及び前記
    辞書を用いて確率を計算して最も確率の高い語を入力さ
    れた音声として認識する装置と、 前記認識された結果を表示する表示装置とを有するコン
    ピュータ・システム。