JPS62246097A - 音声認識のための単語マルコフ・モデル合成装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 この発明の説明はつぎのとおり行う。

Ａ、産業上の利用分野 Ｂ、従来技術 Ｃ１発明が解決しようとする問題点 り０問題点を解決するための手段 Ｅ、実施例 Ｅｌ、音声認識システムの環境 Ｅｌｌ、一般説明 Ｅｌ２．音声学的ベースフォームの構築Ｅ１３．フィー
ニーム・ベースフォームの構築Ｅ１４．単語モデルのト
レーニング Ｅ２．発声されない単語のベースフォームの合成Ｆ０発
明の効果 Ａ、産業上の利用分野 本発明は、一般に音声認識に関するものであり、具体的
には、所定の単語モデルを既知の他の単語モデルから合
成することに関するものである。

Ｂ、従来技術 ある種の音声認識方法では、語常中の単語を単語モデル
で表わしている。この単語モデルを噴語のベースフォー
ムと呼ぶことがある。たとえばＩＢＭＣ株）では、実験
的音声認識装置で各単語をマルコフ・モデルのシーケン
スとして表わしている。各シーケンスがそれ自体マルコ
フ・モデルであることに留意すべきである。

単語モデルを、音声入力に応答して生成された８力と一
緒に使うことにより、音声入力が語嚢中の語と突き合わ
される。

ある方法では一組のモデルが定義される。語曇中のすべ
ての単語のベースフォームが、定義済みの一組のモデル
のうちから選んだ複数のモデルから構築される。

しかし、別の方法では単語を複数のベースフォームで表
わすが、それも根拠があると思われる。

この場合、各ベースフォームをそれぞれ対応する一組の
モデルのうちから選んだモデルから構築する。すなわち
、第１のモデル群に含まれるモデルから構築されたベー
スフォームをある目的で音声認識装置に使用し、第２の
モデル群に含まれるモデルから構築されたベースフォー
ムを別の目的に使用することができる。さらに、音響の
突き合せその他の目的を実施する過程で、いくつかのベ
ースフォームを一緒に使用することもできる。

大部分の大語當（たとえば５ｏｏｏ語以上）音声認識シ
ステムでは、単語のベースフォームを。

音声認識装置の各ユーザに合わせて修正する。すなわち
、各ベースフォームに関連するある種の変数の値を決定
するために、ユーザが既知の単語からなる（トレーニン
グ用）テキストを発声する。

普通、各単語ベースフォームは、トレーニング中に生成
されたデータから直接にその変数が設定される。単語を
（それぞれのモデル群に含まれるモデルから構築された
）多重ベースフォームで表わす場合、すべての単語ベー
スフォームを「トレーニング」するのに、すなわちその
変数値を設定するのに充分なデータをもたらすのに、長
いトレーニング期間が必要であった。

トレーニング期間が長くかかるのは望ましくない。した
がって、ある語食中のすべての語について多重ベースフ
ォームを構築するのに充分なデータを生成しなければな
らないことは、克服すべき問題であると考えられるよう
になった。

さらに、場合によっては、第２のモデル群に含まれるモ
デルから構築されたベースフォームが。

既に存在しているか、または第１のモデル群のモデルか
ら構築されたベースフォームと比較して容易に形成でき
るものであることがある。さらに。

音声認識体系で必要なベースフォームが、第２のモデル
群のベースフォームではなくて、第１のモデル群のうち
から選んだモデルのベースフォームであることもある。

従来は、第２群のベースフォームが知られているか否か
にかかわらず、第１のモデル群からすべてのベースフォ
ームを構築するには、そのためのトレーニング・データ
が必要であった。

Ｃ０発明が解決しようとする問題点 したがって、トレーニング期間中に発声されなかった単
語のベースフォームを合成する手法を提供することが１
本発明の目的である。

Ｄ１問題点を解決するための手段 具体的に言うと、本発明では、既知のある種の単語が、
それぞれ（ａ）第１のモデル群に含まれる単語モデルか
ら構築されたベースフォームと、（ｂ）第２のモデル群
に含まれる単語モデルから構築されたベースフォームで
表わされるものと仮定する。また、既知の単語ではこの
２つのベースフォームを互いに位置合わせすることがで
きるものと仮定する。さらに、他の単語は、第２のモデ
ル群に含まれるモデルから構築されたベースフォームで
初めから表わされており、またはすぐに表わせるものと
仮定する。本発明は、トレーニング期間後にかかる他の
単語に対する（第１のモデル群のうちから選んだモデル
から構築された）ベースフォームを合成するための手法
を教示するものである。

すなわち、トレーニング中に生成されたベースフオーム
から、第１のモデル群のモデルと所与の文脈中の第２の
モデル群の所与の各モデルとの間で相関を行なう。所与
の文脈中の所与のモデルが、トレーニング中に発声され
なかった「新」単語中に現われると、それに対応する「
新」単語の切片が、第１のモデル群中の相関されたモデ
ルで現わされる。「新」単語の各切片を第１のモデル群
の相関されたモデルで表わし、「新」単語の連続する切
片に対する相関されたモデルを連結することによって、
第１のモデル群に含まれるモデルから構築されたベース
フオームが合成される。

本発明は、上記のことによって、それ以上のトレーニン
グを必要とせずに、既知のベースフオームにもとづいて
第１のモデル群に含まれるモデルから構築されたある種
のベースフオームを合成するという目的を達成する。

また１本発明は、各ベースフオームを独立にトレーニン
グせずに、同じ語に対する異なるベースフオームを生成
するという目的を達成する。

また、本発明は、場合によっては、生成または形成する
のは容易かもしれないが計算上の効率が低いと思われる
ベースフオームから、音声認識計算で使用するのが好ま
しいモデルのベースフオームを導き出すという目的をも
実現する。

さらに、語常中の単語については音声学に基づく第２の
モデル群のベースフオームが既に知られているかまたは
すぐに決定できるが、音響処理装置の出力に関係するモ
デルのベースフオームを使うと、認識の精度または速度
あるいはその両者が向上する場合、本発明は、トレーニ
ングの必要なしにある種の単語の出力に関係するモデル
のベースフオームを合成するための手法を提供する。

Ｅ、実施例 Ｅｌ、音声認識システムの環境 Ｅｌｌ、一般説明 第１図に、音声認識システム１００ｏの一般的ブロック
図を示す。システム１０００は、スタック・デコーダ１
００２と、それに接続されている音響処理装置１００４
．音響マツチング要素１００６（好ましくはアレイ処理
装置）、および言語モデル処理装置１０１０を含んでい
る。言語モデル処理送置１０１０は、何らかの好ましく
は文派上の基準にもとづいて単語の尤度を決定する。音
響マツチング技術と言語モデルについては、様々な論文
に記載されている。たとえば、下記の論文で、音声認識
の様々な側面とモデル化法が考察されており、ここにそ
れらの論文を引用する。し、ＲｏＢａｈｌ、　Ｆ、Ｊｅ
ｌｉｎｅｋ、　Ｒ，Ｌ、Ｍａｒｃｅｒの、”ｃｏｎｔｉ
ｎｕｏｕｓＳｐｅｅｃｈ　Ｒｅｃｏｇｎｉｔｉｏｎ　ｂ
ｙ　５ｔａｔｉｓｔｉｃａｌ　Ｍｅｔｈｏｄｓ”、Ｐｒ
ｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　ＩＥＥＥ、　Ｖｏ
ｌ、　６４、ＰＰ、　５３２〜５５６、（１９７６）；
　“Ａ　ＭａｘｉｍｕｍＬｉｋｅｌｉｈｏｏｄ　Ａｐｐ
ｒｏａｃｈ　ｔｏ　Ｃｏｎｔｉｎｕｏｕｓ　Ｓｐｅｅｃ
ｈＲｅｃｏｇｎｉｔｉｏｎ”　、　ＩＥＥＥ　Ｔｒａｎ
ｓａｃｔｉｏｎｓ　ｏｎ　ｐａｔｔｅｒｎＡｎａｌｙｓ
ｉｓ　　ａｎｄ　　Ｍａｃｈｉｎｅ　　Ｉｎｔｅｌｌｉ
ｇｅｎｃｅ、　　　Ｖｏｌ、ＰＡＭＩ−５、Ｎｏ、２．
１９８３年３月。

音響処理袋！ｉ！１００４は、音声波形を出力ストリン
グに変換するように設計されている。音声は、処理装置
１００４により１選択された諸特徴に対応するベクトル
成分をもつベクトル「空間」によって特徴づけられる。

従来、かかる特徴には、音声スペクトルの様々な周波数
におけるエネルギ振幅が含まれていた。音響処理装置１
００４は、複数の原型ベクトルを記憶する。各原型ベク
トルは。

各成分毎に所定の値をもつ、音声信号入力が、音響処理
装置１００４に入るが、これは継続する時間間隔に分割
する二とが好ましい、各時間間隔には、かかる間隔中の
各種の特徴の値にもとづいて出力ベクトルを割り当てる
。各時間間隔の出力ベクトルを各原型ベクトルと比較し
、各原型ベクトルについて距離測定を行なう。距離測定
は１通常のベクトル距離測定法で行なうことができる。

次に各時間間隔を、特定の原型ベクトルまたはその他の
何らかの出力に関係する関数と関連づける。

たとえば、各原型ベクトルを、ラベルまたは記号で識別
することができる。それを「フィーニーム（ｆｅｎｅｍ
ａ）　Ｊと呼ぶ。これはフロント・エンド・プロセッサ
（ＦＥ）で得られる微小音系に由来する名称である。か
かる場合、音響処理装置１００４は、各時間間隔ごとに
フィーニームを出力する。

したがって、ある音声入力に対して、音響処理装置１１
００４はフィーニームのストリングを生成する。あるア
ルファベット中に２００個程度の異なるフィーニーム（
またはラベル）があることが好ましい。その場合、各時
間間隔について、２００個のフィーニームのうちの１つ
が選択される。

特定の種類の音響処理装置が特開昭６１−１２６６００
号公報に記載されている。この公開公報の発明では、ベ
クトル成分に対して選択された特徴が１人の耳の独自の
モデルから導き出される。

各ベクトル成分は、各周波数帯域の推定神経発火率に対
応する。

音響処理装置１００４から出たフィーニームは、スタッ
ク・デコーダ１００２に入る。スタック・デコーダ１０
０２は、１本または複数本の見込みのある単語経路を定
義し、見込みのある次の単語を使って見込みのある各単
語経路を拡張する。見込みのある単語経路と見込みのあ
る次の昨語は、部分的に、音響処理袋［！１００４で生
成されるラベルにもとづいて決定される。ある新規な型
式のスタック・デコーダが、特願昭６１−３２０４９号
明細書に開示されている。

見込みのある次の単語、あるいはもっと具体的にいえば
、ある経路上で次にくる公算が比較的大きい候補語のリ
ストを決定する際、音響処理装置１００４からきたフィ
ーニームが、音響マツチング要素１００６に送られる。

各種の型式の音響マツチングが、特願昭６０−２５５２
０５号明細書に記載されている。

音響マツチング要素１００６は、単語モデルにもとづい
て動作する。具体的にいうと、直前に引用した特許出願
に記載されているように、音響マツチングは、単語を確
率的有限状態マシンのシーケンスとして特徴づけること
によって実施される。

この有限状態マシンをマルコフ・モデルとも呼ぶ。

一般に、各マルコフ・モデルがそれぞれある音声カテゴ
リに対応しているような１組のマルコフ・モデルがある
。たとえば、各マルコフ・モデルを。

国際音声字冊のある要素に対応させることができる。音
声文字ＡＡＯはそれに対応する音声マルコフ・モデルを
もつことになり、ＡＥＯ，ＡＥＩもそうであり以下ＺＸ
まで同様に続く。

音声学的マルコフ・モデルを用いる場合、各単語は、ま
ず音声学的要素列によって定義される。

その語の音声学的要素に対応する音声学的モデルを連結
して、語の音声学的ベースフォームが構築される。

各音声学的マルコフ・モデルは、第２図に示すような構
造で表わすのが好ましい、具体的に言うと、第２図の音
声学的マルコフ・モデルは、（ａ）７つの状態８１〜Ｓ
７；　　（ｂ）１３の遷移ｔｒ１〜ｔｒ１３；（ｃ）各
遷移の確率Ｐ　（ｔｒｉ）　〜Ｐ　（ｔｒ１３〕　（図
にはＰ（ｔｒｉ）だけを示しである）；（ｄ）遷移ｔｒ
ｉ〜ｔｒｉｏでのラベル出力確率を含んでいる。各ラベ
ル出力確率は、音声学的マルコフ・モデルの所与の遷移
で所与のラベルが生成される尤度に対応する。この尤度
はトレーニング期間中に決定される。たとえば、規定さ
れた音声学的要素列に対応する既知のテキストの発声に
もとづいて、特定の音声学的モデル（たとえばＡＡＯの
音声モデル）に対する遷移ｔｒｉでラベル１が生成され
る尤度が決定され、Ｐｉ　（１）として識別される。遷
移ｔｒ３でラベル２００が生成される尤度も決定され、
Ｐ３　（２００）として識別される。

同様にトレーニング・データにもとづいて、各音声学的
モデルについて各遷移ｔｒｉ〜ｔｒｉｏでの各ラベルの
ラベル出力確率が決定され、識別される。

遷移ｔｒｌｌ〜ｔｒ１３は、空遷移である。空白遷移で
はラベルは生成されない。したがって、それにはラベル
出力確率は割り当てられない。

すべての遷移ｔｒｉ〜ｔｒ１３の遷移確率も、トレーニ
ング中に生成されたデータから、周知のフォワード・バ
ックワード・アルゴリズムを適用して導き出される。

簡単な説明として、第２図はＡＡＯなとの音声要素を示
し、ＡＡＯ音の発声が状態Ｓ１から状態Ｓ７に向って種
々の経路をとり得る様子を示す。

遷移ｔｒｌｌに従うなら、ＡＡＯ音声要素はラベルを生
成しない。その代りに、状態Ｓ１から状態Ｓ２または状
態Ｓ４に向う経路に従うこともできる。

このどちらかの経路をとる場合は、ラベルが生成される
。これらの代替経路を第３図に示す。

第３図で、水平軸はラベルが生成される時間間隔を表わ
す。実線は、ラベル間隔中にモデル内で起こり得る遷移
を示す。点線は、従うことのできる空遷移を示す。

第４図に、開始時間１０から始まる連続するラベル間隔
でのマルコフ音声学的モデルを描いた格子を示す。時間
ｔｏは、音響処理袋［７１００４によってストリング中
の最初のラベルが生成される時間に対応する。ｔｏが状
態Ｓ１に対応するとして、例として、最終状態Ｓ７に至
る様々な経路を図示しである。ある経路では、状態Ｓ１
から状態Ｓ２に至り、そこから状ｊｌｌｓ３に至る。す
なわち２つの非空遷移に従う、状態Ｓ３から状態Ｓ７へ
は、ラベルが生成されない経路と、非空遷移に従う経路
とがある。あるラベル列について、１つまたは複数の音
声学的モデルの遷移に沿った様々な経路があることが認
められる。

音声学的マルコフ単語モデルを第５図に示す。

第５図（ａ）に、”　Ｔ　ＨＥ　”の語を、そのある発
音にもとづいて、順に並んだ３つの音声要素として示す
。この音声要素は、ＤＨ，ＵＨＩ、およびＸｘである。

第５図（ｂ）では、ＤＨ，ＵＨＩ、およびＸＸに対する
音声学的マルコフ・モデルを連結して１語”　Ｔ　ＨＥ
　”の音声学的単語ベースフォームを形成する。

第４図のような格子を、ある音声久方（たとえば、単語
”ＴＨＥ”）に応じて生成されるすべてのラベルを含む
ように拡張することができる。拡張格子では、状態間の
遷移には確率が割り当てられ、またラベル出力確率も遷
移に割り当てられることに留意すべきである。

単語の尤度を評価する過程には、どの単語モデルが、時
間ｔｏ、ｔ１等々で（音声久方に応じて音響処理装置１
００４によって）レベルが生成される尤度が最大である
かを決定することが含まれる。音響マツチング要素をど
のように使って星語の尤度を決定するかの詳細な説明は
、音響マツチング要素に関する前述の特許出願に記され
ている。

音声学的ベースフォームを構築するのに使われる音声学
的モデルの他に、音響マツチング要素にはフィーニーム
型マルコフ・モデルも使われてきた。具体的にいうと、
第２図のような比較的複雑な音声モデルの代りに、フィ
ーニームにもとづく１組のマルコフ・モデルが使われて
きた。フィーニーム型マルコフ・モデルを第６図に示す
。フィーニーム型マルコフ・モデルは、２つの状ｆｉｓ
１゜８２と３つの遷移を含む簡単な構造であることが認
められる。１つの非空遷移はＳｌから８２へ延び、第２
の非空遷移は状態ｓ１から自分自身に戻る自己ループと
なっている。空遷移は状態ｓ１がら状態Ｓ２へ延びてい
る。この３つの遷移には。

それぞれ確率が割り当てられ、２つの非空遷移それぞれ
に、トレーニング期間中に生成されたデータから導き出
されたラベル出力確率がある。フィーニーム型モデルに
もとづく格子を第７図に示す。

第８図では、単語のフィーニーム型ベースフォームを形
成する場合のように、複数のフィーニーム型マルコフ・
モデルが連結されている。

第８図の表記法について簡単に考察する。ＦＰ２００は
、通常２００個の異なるフィーニームを含むフィーニー
ム・アルファベット（フィーニーム集合）の２００００
番目ィーニームに対応するフィーニーム型音声を指す。

同様に、ＦＰＩＯはフィーニーム・アルファベットの１
０番目のフィーニームに対応する。ＦＰ２００．ＦＰＩ
Ｏ等々を連結すると、単語のフィーニーム型ベースフォ
ームとなる６各フイーニームは１通常０．０１秒継続し
１通常の発音された語の長さはフィーニーム数でいうと
平均８０〜１００である。さらに、各フィーニーム型モ
デルは平均約１つのフィーニームを生成するため、通常
のフィーニーム型ベースフォームの長さはフィーニーム
型モデル的８０−１００個である。ＦＰ２００の第２の
遷移の確率を、Ｐ　（ｔｒ２　　　　　）　テ表わす。

ＦＰ２００のモデルがその第２遷移でラベル１を生成す
る確率はＰ’　Ｆ２００　（１）ｉ？表わす。ＦＰ２０
０モデルは、実際には２００００番目ィーニームを生成
するようにスキューすることもできる。だが、発音の変
動のために、ＦＰ２００モデルが他のフィーニームを生
成する確率もある。

下記の２節では、それぞれ音声学的マルコフ・モデルと
フィーニーム型マルコフ・モデルから単語ベースフオー
ムを構築するための方法の概要を説明する。この２種の
ベースフオームを検討すると、音声学的ベースフオーム
の方がそれに含まれる連結されたモデルの数が少ないが
、音声学的モデルで必要な計算は、フィーニーム型モデ
ルで必要な計算よりも著しく多いことが認められる。ま
た、音声学的ベースフオームは音声学者の手で規定され
るが、フィーニーム型基本形式は、Ｅ１３節に引用する
特許出願に記載されているように音声学者の手を煩わさ
ずに自動的に構築されてきた。

Ｅ１２．音声学的ベースフオームの構築各単語ごとに、
音声学的サウンド列があり、そのそれぞれがそれに対応
する音声学的モデル（音声学的゛′単単音ママシンも呼
ぶ）を有する。好ましくは、各非空遷移で、各フィーニ
ームの生成に何らかの確率が付随している（フィーニー
ム・アルファベットを第１表に示す）。各種の音声学的
単音マシンにおける遷移確率およびフィーニーム確率は
、トレーニング中に、既知の音声が少くとも１度発声さ
れたときに生成されるフィーニーム・ストリングを記録
し、周知のフォワード・バックワード・アルゴリズムを
適用することによって。

決定される。

第」４ ００１　　ＡＡＩＩ　　　０２９　　ＢＩ２−　　０５
７　　ＥＨ（００２ＡＡ１２　　０３０　　ＢＩ３−　
　０５８　　ＥＨＩ００３　　ＡＡ１３　　０３１　　
ＢＩ３−　　０５９　　ＥＨＩ００４　　ＡＡ１４　　
０３２　　ＢＩ５−　　０６０　　ＥＨＩ００５　　Ａ
Ａ１５　　０３３　　ＢＩ６−　　０６１　　ＥＨＩ０
０６　　ＡＥＩＩ　　　０３４　　ＢＩ７−　　０６２
　　ＥＨＩ００７　　ＡＥ１２　　０３５　　ＢＩ８−
　　１２６　　ＲＸＩ００８　　ＡＥ１３　　０３６　
　ＢＩ９−　　１２７　５ＨＩ００９　　ＡＥ１４　　
０３７　　ＤＨＩ−１２８ＳＨ；０１０　　ＡＦ１５　
　０３８　　ＤＨ２−１２９５ＸＩ０１１　　Ａｗｌｌ
　　　０３９　　ＤＱＩ−１３０５ＸＳ０１２　　Ａｖ
１２　　０４０　　ＢＯ２−１３１５Ｘ３０１３　　Ａ
Ｖ１３　　０４１　　ＢＯ３−１３２ＳＸ＜０１４　　
ＡＸＩＩ　　　０４２　　ＢＯ４−１３３５ＸＥ０１５
　　ＡＸ１２　　０４３　　ＤＸＩ−１３４５ＸＥ０１
６　　ＡＸ１３　　０４４　　ＤＸ２−　　１３５　　
ＳＸ’ｒ０１７　　ＡＸ１４　　０４５　　ＩＩ！Ｅ０
１　　１３６　　Ｔｌ（］０１８ＡＸ１５０４６ＥＥＯ
２１３７ＴＨコ０１９　　ＡＸ１６　　０４７　　ＥＥ
ＩＩ　　　１３８　　ＴＨ；０２０　　ＡＸ１７　　０
４８　　ＥＨ１１１３９ＴＨ７１０２１ＢＱＩ−０４９
ＥＨ１１１４０Ｔｌ（３０２２ＢＯ２−０５０ＥＨ１１
１４１ＴＱＩ０２３　　ＢＯ３−０５１ＥＨ１１１４２
ＴＱ：０２４　　ＢＯ２−０５２ＥＨ１１１４３ＴＸ；
０２５　　ＢＸＩ−０５３ＥＨ１１１４４ＴＸＩ０２６
　　ＢＸＩＯ０５４ＥＨ１１１４５ＴＸ：２　　１４８
　　ＴＸ５−　　１７６　　ＸＸｌ１１　　　１４９　
　ＴＸ６−　　　１７７　　ＸＸ１２２　　１５０　　
ｔｌＨＯｌ　　　１７８　　ＸＸ１３３　　１５１　　
ＵＨＯ２１７９ＸＸ１４４　　１５２　　［８１１１８
０ＸＸ１５５　　１５３　　ＵＨ１２１８１ＸＸ１６−
　　１５４　　ＵＨ１３１８２ＸＸ１７−　　１５５　
　ＬＩＨ１４１８３ＸＸ１８−　　１５６　　ＵＵＩＩ
　　　１８４　　ＸＸ１９−　　１５７　　ＵＵ１２　
　１８５　　ＸＸ２−−　　１５８　　ＵＸＧＩ　　　
１８６　　ＸＸ２０−　　１５９　　ＵＸＧ２　　１８
７　　ＸＸ２ｌ−１６０υＸｌｌ　　　１８８　　ＸＸ
２２−　　１６１　　ＵＸ１２　　１８９　　ＸＸ２３
−　　１６２　　ＵＸ１３　　１９０　　ＸＸ２４−　
　１６３　　ＶＸＩ−１９１ＸＸ３−−　　１６４　　
ＶＸ２−　　１９２　　ＸＸ４−−　　１６５　　ＶＸ
３−　　１９３　　ＸＸ５−−　　１６６　　ＶＸ４−
　　１９４　　ＸＸ６−−　　　１６７　　ＷＸＩ−１
９５ＸＸ７−−　　　　１６８　　リＸ２−　　　１９
６　　ＸＸ８−−　　　１６９　　ＷＸ３−　　　１９
７　　ＸＸ９−、＋　　　　１７０　　ＷＸ４−　　　
１９８　２Ｘ１−−　　１７１　　ＷＸ５−　　１９９
　　ＸＸ２−−　１７２　リＸ６−　　２００　　ＸＸ
３−’−１７３ＷＸ７− 例として、音ＤＨの統計のサンプルを第２表に示す。近
似的に、第２図の単音マシンの遷移ｔｒｉ、ｔｒ２．ｔ
ｒ８に対するラベル出力確率分布を１つの分布で表わし
、遷移ｔｒ３、ｔｒ４．ｔｒ５．ｔｒ９を１つの分布で
表わし、遷移ｔｒ６、ｔｒ７．ｔｒｌｏを１つの分布で
表わす。これを、弧（すなわち遷移）をそれぞれの欄４
．５．または６に割り当てる形で、第２表に示す。第２
表は各遷移の確率および、あるラベル（すなわちフィー
ニーム）が音声学的要素（すなわち「音Ｊ　）ＤＨの始
め、中間、または終りで生成される確率を示したもので
ある。たとえば音ＤＨでは、状態Ｓ１から状態Ｓ２への
遷移の確率は０．０７２４３とカウントされる。状態Ｓ
１から状態Ｓ４への遷移の確率は０．９２７５７である
（この場合は、この２つだけが初期状態からの可能な遷
移であり、その合計が１となる）。ラベル出力確率につ
いては、音ＤＨは、その終りの部分、すなわち第２表の
第６１１ｉでフィーニームＡＥ１３（第１表参照）を生
成する確率が０゜０９１である。また第２表では、各ノ
ード（または状態）にカウントが関連している。ノード
・カウントは、トレーニング中に音がそれに対応する状
態になった回数を示すものである。各音声学的モデル、
または音声学的単音マシンごとに第２表のような統計が
見出される。

音声学的単音マシンを単語ベースフオームのシーケンス
に配列する過程は、通常音声学者の手で実施され、通常
は自動的には行なわれない。

； Ｉ　　　ぐり １デ　　　〇 ジーデζ） ＰＯ −ｏ　ｕ３　　ロ Ｅ１３．フィーニーム・ベースフォームの構築各遷移に
関連する確率、および第６図に示したようなあるフィー
ニーム・モデルの遷移で各ラベルに関連する確率は、ト
レーニング期間中に、音声学的ベースフォームで音声学
的モデルをトレーニングする場合と類似のやり方で決定
される。

フィーニーム型単語ベースフオームは、フィーニーム型
単音を連結して構築される。その１つの方法が、１９８
５年２月１日出願の米国特許出願Ｓ、Ｎ、６９７１７４
号に記載されている。単語のフィーニーム・ベースフォ
ームは、当該の単語の複数回の発声から成長させること
が好ましい。

このことは、米国特許出願Ｓ、Ｎ、０６／７３８９３３
号に記載されている。この開示を、本発明の充分な開示
に必要な範囲でここに引用する。簡単に言うと、複数回
の発声から語の基本形式を成長させる１つの方法は、下
記の各ステップを含むものである。

（ａ）単語セグメントの複数回の発声を、それぞれフィ
ーニーム・ストリングに変形する。

（ｂ）　−ｆｆｉのフィーニーム型マルコフ・モデル単
音マシンを定義する。

（ｃ）多重フィーニーム・ストリングを生成するのに最
良の１つの単音マシンＰ１を決定する。

（ｄ）多重フィーニーム・ストリングを生成するための
、ＰＩＦ２またはＰ２Ｐ１の形の最良の二音ベースフオ
ームを決定する。

（ｅ）各フィーニーム・ストリングに対して、最良の二
音ベースフオームを位置合せする。

（ｆ）各フィーニーム・ストリングを、二音ベースフオ
ームの第１の単音マシンに対応する左部分と、二音ベー
スフオームの第２の単音マシンに対応スる右部分に分割
する。

（ｇ）各左部分を左サブストリングと名づけ、各右部分
を右サブストリングと名づける。

（ｈ）複数回の発声に対応する一組のフィーニーム・ス
トリングと同じやり方で一組の左サブストリングを処理
するが、さらに単音ベースフォームの方が最良の二音ベ
ースフオームよりも所定のサブストリングを生成する確
率が高いとき、そのサブストリングの再分割を禁止する
ステップを含む。

（ｊ）複数回の発声に対応する一組のフィーニーム・ス
トリングと同じやり方で一組の右サブストリングを処理
するが、さらに単音ベースフオームの方が最良の二音ベ
ースフオームよりも所定のサブストリングを生成する確
率が高いとき、そのサブストリングの再分割を禁止する
ステップを含む。

（ｋ）分割されなかった単一の単音をそれらに対応する
フィーニーム・サブストリングの順序と同じ順序で連結
する。

ベースフォーム・モデルは、既知の発声を音響処理装置
に声を出して入力することにより、さらにそこでそれに
応じたラベルのストリングを生成させることによって、
トレーニング（または統計で充填）される、既知の発声
と生成されたラベルにもとづいて、上記に引用した諸論
文で考察されているフォワード・バックワード・アルゴ
リズムによって１語モデルの統計が導き出される。

第７図に、フィーニーム型単音に対応する格子を示す。

この格子は、音声学的モデル体系に関係する第４図の格
子に比べて、ずっと簡単である。

音声学的ベースフォームとフィーニーム・ベースフォー
ムとは、どちらも音響マツチング要素中で、また他の音
声認識の目的に使用できる。

Ｅ１４．単語モデルのトレーニング 良好なトレーニングの方法は、　Ｌ、Ｒ，Ｂａｈｌ、　
Ｐ、Ｆ。

Ｂｒｏｗｎ、　Ｐ、Ｖ、Ｄｅｓｏｕｚａ、およびＲ，Ｌ
、Ｍｅｒｃｅｒが発明し。

ＩＢＭＣ株）に譲渡された。″音声認識システムで使用
されるマルコフ・モデルのトレーニングの改良（Ｉｍｐ
ｒｏｖｉｎｇ　ｔｈｅ　Ｔｒａｉｎｉｎｇ　ｏｆ　Ｍａ
ｒｋｏｖＭｏｄｅｌｓ　Ｕｓｅｄ　ｉｎ　ａ　５ｐｅｅ
ｃｈ　Ｒｅｃｏｇｎｉｔｉｏｎ　Ｓｙｓｔｅｍ）”と題
する同時係属の米国特許出願で教示されている。この開
示をここに引用する。この開示では。

トレーニングは、他の単語に関連する確率に比べて正し
い単語の確率を向上させる形で、各単語のベースフォー
ムの統計を決定することを含んでいる。他の方法のよう
にラベルにスクリプトが与えられる確率を最大にするの
ではなく、発声された単語の正しいスクリプトにラベル
出力が与えられる確率と他の（正しくない）スクリプト
の確率との差を最大にするというのが、その考え方であ
る。

かかる方法によると、（語常中の各単語が少なくも１つ
の確率的有限状態モデルのあるベースフォー１１で表わ
され、かつ各確率的有限状態モデルが遷移確率項目と出
力確率項目を有する、コミュニケートされた音声入力に
応答して出力のアルファベットのうちから選択された出
力から語常中のある単語をデコードするためのシステム
において）既知の単語のコミュニケートに応答して生成
される出力が既知の単語のベースフオームによって生成
される尤度が、生成される出力が他の少くとも１つの単
語のベースフオームによって生成されろ尤度に比べて高
くなるように、記憶済みの確率項目の値の少くとも一部
分をバイアスさせるステップを含む、確率項目の値を決
定する方法が提供される。

各単語（または語のはっきりした発音、これを“語紮素
″と呼ぶ）は、列になった１つまたは複数の確率的有限
状態マシン（またはモデル）で表わすことが好ましい。

各マシンは、−組の音声のうちのあるパ音声″に対応す
る。各音声は、音声的要素、ラベル（またはフィーニー
ム）、あるいはマルコフ・モデルまたは類似のモデルを
指定できる他の何らかの事前に定義された音声の特性と
相関する。

トレーニング・スクリプトは１通常一連の既知の語から
構成される。

ここに記載するトレーニング方法によれば、確率項目に
付随する確率値は、下記のようにして評価される。

各確率項目について、推定値０′が設定される。

推定値０′とトレーニング中に生成されたラベルが与え
られているものとすると、′単一カウント″と呼ばれる
値が決定される。“１単一カウント″は、一般に訓練デ
ータにもとづいて、ある事象が発生する（予想）回数に
関係する。゛単一カウント″のある特定の定義は、（ａ
）あるラベルのストリングＹ、（ｂ）定義された推定値
Ｏ′、および（ｃ）特定の時間ｔが与えられているもの
として、上記の単一カウントは１周知のフォワード・バ
ックワード・アルゴリズム、またはバウム・ヴエルヒ・
アルゴリズムを適用して決定する。

上記の定義によれば、単一カウントは、次式で表わすこ
とができる。

Ｐｒ（Ｓ、、ｔ、ｌＹ、ｏ、τ） ｌ 各時間ｔで特定のＳ、、τ、、Ｙ、０′に対すＪす る単一カウントを合計すると、それに対応する遷移確率
項目について、′遷移累積カウント″が決定される。遷
移累積カウントは確率の和なので、その値は１を越える
こともある。各遷移確率について、それぞれの遷移確率
項目を記憶しておくことが好ましい。所与の遷移から得
られたこの累積カウントを、状態Ｓ、から取り得るすべ
ての遷移の累積カウントの和で割って、それぞれの遷移
確率項目に対する現在の確率値が決定される。現在の確
率値は、その当該の遷移確率項目に関連させて記憶して
おくことが好ましい。

ラベル出力確率項目に関して、単一カウントを再度合計
する。これらの各確率項目について、対応する生成され
たそのストリング中のラベルがラベル出力確率項目に対
応するラベルとなるすべてＯ′に対する単一カウントを
合計する。この場合の合計は、′ラベル出力累積カウン
ト”であり。

それに対応するラベル出力確率項目と関連させて記憶し
ておくことが好ましい、この累積カウントベてのラベル
時間にわたる単一カウントの合計で割って、それぞれの
ラベル出力確率項目に対する現在の確率値を決定する。

上記に引用した特許出願の方法によれば、発声された既
知の単語のトレーニング・スクリプト、各確率項目の初
期確率値、トレーニング中に発声された各語に対する候
補語のリストが規定される。

候補語のリストは、迅速近似音響マツチングなどの手順
によって定義される。発音された既知のどの単語につい
ても、正しい″既知の単語と″正しくない”単語がある
（正しくない単語とは、誤まって既知の単語として復号
される尤度が最高であることが好ましい）。

確率項目の現在の確率値は、まず正しい単語のベースフ
ォームまたは正しくない単語のベースフォームによる各
確率項目の″プラス・カウント値″とパマイナス・カウ
ント値″を計算して決定する。

このプラス・カウント値を（各確率項目ごとに）対応す
る確率項目の累積値に加え１次にその累積値からマイナ
ス・カウント値を差し引く。

プラス・カウント値は１周知のフォワード・バックワー
ド・アルゴリズムを適用し、好ましくはそれから得られ
る統計をスケーリングすることによって、正しい（すな
わち既知の）単語のベースフォームで各確率項目ごとに
計算する。プラス・カウント値を加えると、カウント値
（およびそれから導かれる確率項目）がストリングＹに
近づく方向にバイアスされ、Ｙが、相対的に正しい単語
モデルである尤度がより高い出力にみえるようになる。

所与の確率項目のマイナスのカラン１−値は、正しくな
い単語が発音されてラベルのストリングを生成した場合
のように、フォワード・バックワード・アルゴリズムを
適用して計算する。既知の語の１回の発音から導かれた
マイナス・カウント値を、（プラス・カウント値と足す
前または後で）それに対応する累積カウントの最近の値
から差し引く。この減算によって、正しくない語のベー
スフォームで確率項目を計算するのに使われた累積カウ
ントが、ストリングＹから離れる方向にバイアスされる
。

これらの調整された累積カウントにもとづいて、復号精
度が高まるように、カウントに対する確率値および確率
値がｉｓａされる。

語當中の各単語ごとに上記のステップに従って、復号精
度が高まるように、カウントに対する記憶値および確率
値が調整される。

上記に考察した方法は、音声を語鴬中の認識された単語
に復号する際の精度を向上させるために他の方法で決定
されたカウント値を改善するのに役立つ。

Ｅ２．発声されない単語のベースフォームの合成第９図
において、本発明の一般的方法が図示されている。ステ
ップ２００２で、トレーニング・テキスト中の単語が音
声学的ベースフオームで表わされる。具体的に言うと、
トレーニング期間中に発声される各単語が、通常は音声
学者の手で、国際音標文字で定義される音声学的要素の
列として特徴づけられる。各音声学的要素が、それに対
応する音声学的モデルで表わされる。したがって。

各単語について、先にＥ１２段で説明したようなそれに
対応する音声学的モデルの列がある。この列が音声学的
ベースフォームを表わす。

先にＥ１３段で説明したように、単語は一連のフィーニ
ーム・モデルから構築されるフィーニーム・ベースフォ
ームでも表わすことができる。ステップ２０ｏ４で、ト
レーニング・テキスト中の単語が、フィーニーム・ベー
スフォームで表わされる。

フィーニームは、′出力に関係″することが認められる
。すなわち、フィーニームは、音響処理装置、たとえば
処理装置１００４によって生成される出力である。した
がって、フィーニーム型モデルは、′出力に関係するモ
デル″である。この点に関して、さらに代りに他の出力
に関係するモデルを使うこともできることに留意すべき
である。

たとえば、′出力に関係するモデル”を、簡単な出力ベ
クトル、または音響処理装置が出力としてもたらす音声
の他の選択可能な特徴的出力にもとづいて定義すること
もできる。

トレーニング・テキスト中で発生する音声学的モデルは
、様々な音声学的モデルの文脈中で発生する。現在説明
している実施例では、パ音声学的モデルの文脈”は、主
題となる音声学的モデルの直前の音声学的モデルおよび
直後の音声学的モデルによって定義される。すなわち、
ある音声の列について、位１！！ｐｉにある主題の音声
学的モデルの文脈が、位置Ｐ（ｉ−１）とＰ　（ｉ＋１
）にある音声学的モデルによって決定される。特定の主
題の音声学的モデルは、複数の文脈のどの中ででも発生
し得る。−組の音声学的要素（本出願での考察では、沈
黙に対応する要素を１つ含む）中に７０個の音声学的要
素があるものと仮定すると。

（沈黙でない）任意の音声学的モデルの前に７０個の音
声学的モデルのうちのどれでもくることができ、またそ
の後にも７０個の音声学的モデルのうちのどれでもくる
ことができると考えられる。

したがって、所与の音声学的モデルに対して、７０Ｘ７
０＝４９００の文脈が可能である。

本発明の１つの実施例によれば、各音声学的モデルに対
する多数の可能な文脈のそれぞれに、記憶装置内のある
位置が割り当てられる。

しかし、下記で考察する良好な実施例では、選択された
文脈だけが記憶装置に入る。どちらの場合でも、その−
組の音声学的モデルのうちのｍ番目の音声学的モデルｎ
ｍについて、複数の文脈が識別できる。記憶装置内では
、音声学的モデルとその文脈は、ステップ２００６でｎ
ｍ、ｃとして記録される。

トレーニング・テキスト中の発声されたすべての単語に
対して、フィーニーム型単語ベースフオームと音声学的
単語ベースフオームとがあることが好ましい。ステップ
２００８で、周知のビタービ位置合せ手順が適用される
。すなわち所与の単語の音声学的ベースフオームによる
連続する各音声学的モデルが５所与の単語のフィーニー
ム・ベースフオームによる対応するフィーニーム型モデ
ルの列と相関される。ビタービ位置合せ手順は、上記に
引用したＦ、ＪｅＬｉｎｅｋの論文に詳細に記載されて
いる。

所与の文脈中の音声学的モデルが１回だけ発声される場
合は、それに対して１つのフィーニーム・モデルの列が
位置合せされる６しかし、本実施例で選んだように、所
与の文脈中の音声学的モデルがトレーニング期間中に何
度か発声される場合、同じ音声学的モデルに対して異な
るフィーニーム・モデルの列が位置合せされる公算があ
る。同じ文脈中の同じ音声学的モデルの発声に異なる列
が対応するのは１発音が異なるためである。すなわち、
音響処理装置（第１図の）１００４によって発音が異な
るものとして解釈されて、異なるラベル出力（すなわち
フィーニーム）が生成され、したがって異なるフィーニ
ーム・ストリングが生成される。

複数回の発声から異なるフィーニーム・ストリングが生
じることを補償するため、平均または合成フィーニーム
・ベースフオームが構築される。

複数の発声から合成フィーニーム・ベースフオームを構
築する方法は、８１４段およびそこに引用した後の方の
特許出願をみるとすぐに理解できる。

文脈化された音声学的モデル（ｎｒｎ、　ｃ）が１回発
生されようと何度か発声されようと、それぞれのフィー
ニーム型モデルのストリングがＩＩｍ。

Ｃに関連づけられる。フィーニーム・ストリングをテキ
スト中の当該の音声学的モデル（ｒＩｍ、ｃ）と関連づ
ける過程は、ステップ２０１０で行なわれる。

上段で指摘したように、各音声学的モデルが可能なあら
ゆる文脈中で発声される場合、各音声学的モデルについ
て４９００の項目が記憶されることになる。７０個の音
声学的モデルでは、記憶装置中に４９００Ｘ７０＝３４
３０００の項目ができることになる。下段で指摘するよ
うに、項目数がこのように多いため、トレーニングに要
する時間が増加するが、これは通常の音声認識環境では
望ましいことではない。

したがって、好ましいモードは、可能な各文脈とそれに
関連するフィーニーム型モデル・ストリングを与えるの
ではなく、可能な３４３０００通りの組合せの一部だけ
についてフィーニーム型モデルをもたらすものである。

選択された文脈のみが訓練期間中に発声され、それに対
するフィーニーム型モデル列のみがそれと関連づけられ
る。文脈化された音声学的モデル（ｒＩｍ、ｃ）と関連
するフィーニーム型モデル・ストリングが、テーブル項
目として記憶される（ステップ２０１２参照）。

トレーニング期間中に発声されなかった“新″単語のフ
ィーニーム・ベースフオームを構築するには、ステップ
２０１４．２０１６．２０１８を実行する。ステップ２
０１４で、新単語が、それぞれ定義された文脈中の音声
学的モデルのストリングとして表わされる。次に、各新
単語の音声学的モデル（ｎ’　ｍ、ｃ）が、文脈化され
た記憶済みの音声学的モデル（ｒＩｍ、ｃ）と相関され
る。

３４３０００通りの文脈の組合せがすべて項目が記憶さ
れている場合、１対１の相関がある。選択された項目だ
けが記憶されている場合、ステップ２０１４の相関は下
段でより詳しく考察するように、密接マツチング過程で
ある。

ステップ２０１６で、各新単語の音声学的モデル（ｎ’
　ｍ、ｃ）が相関された音声学的モデルｎｍ、ｃと関連
するフィーニーム・ストリングで表わされる。

各新単語の音声学的モデル（ｒＩｍ、ｃ）ごとに上記の
手順を実施し、その結果得られた様々なフィーニーム・
ストリングがステップ２０１８で連結されて、その新単
語のフィーニーム・ベースフォームが与えられる。

フィーニーム・ベースフォームを（第９図の各ステップ
で必要とされるような）音声学的要素のサイズの切片に
分解する具体的な方法が、第１０図に示しである。

第１０図で、最初の単語（Ｉ←１）が取り上げられる（
ステップ２１００）。最初の単語の音声学的ベースフオ
ームＦＢＩが知られており、トレーニング中に、１つま
たは複数のフィーニーム・ベースフォームＦＢＩが生成
される。最初の単語の各フィーニーム・ベースフォーム
に関して、音声学的ベースフオームに周知のビタービ位
置合せ手順が適用される（ステップ２１０２）。ステッ
プ２１０４で、最初のフィーニーム要素ｊ←１が取り上
げられる。その単語に対して複数のフィーニーム・ベー
スフォームがある場合、ステップ２１０６で、ｊ番目の
音声学的要素に対する単一の代表的なフィーニーム・ス
トリングを決定することが必要である（ステップ２１０
８参照）。１つのフィーニーム・ベースフォームから形
成されたものであれ複数のフィーニーム・ベースフォー
ムから形成されたものであれ、ｊ番目の音声学的要素に
対応する単語の切片（Ｐｊ）に、フィーニーム・ストリ
ングＦ　（Ｐｊ）が関連づけられる。Ｆ（Ｐｊ）は１、
当該のフィーニーム型モデル・ストリングに対応する数
字または他の識別子で表わすことが好ましい。これは、
ステップ２１１ｏで実行される。ステップ２１１２でｊ
の値が増分される６ｊが音声学的ベースフォーム中の音
声学的要素の数を上回った場合（ステップ２１１４）。

ステップ２１１６にもとづいて次の単語が選択され、ス
テップ２１０２から手順が再開される。ｊが音声学的要
素の数を越えない場合は、音声学的ベースフォーム中の
次の音声学的要素についてステップ２１０６〜２１１４
が繰り返される。

第１１図に音声学的要素のストリングとして表わされた
サンプル語“ＣＡＴ”を示す。これは。

標準的国際標音文字に含まれる記号をコンピュータに可
読な形で表わしたものであるや本開示では、単語”　Ｃ
Ａ　Ｔ”が訓練期間中に発声されず、またＣＡ　Ｔ”の
フィーニーム・ベースフォームを探索しているものと仮
定する。下段で、単語“’ＣＡＴ　ＩＴのフィーニーム
・ベースフォームが本発明にもとづいてどのように合成
されるかについて考察する。

単語“ＣＡＴ”中の各音声学的要素に対して。

第２図に示した一組のモデルのような、それに対応する
音声学的モデルがある。様々な遷移およびラベル出力に
割り当てられる確率が、８１４段で概略を述べたように
、トレーニング期間中に生成される統計から導き出され
る。

第１２図は、４欄を含む記憶テーブルの一部分を示した
ものである。最初の欄は、■ｍと名づけられる主題の音
声学的要素である。ただし、ｍは（７０個の音声学的要
素のアルファベット中の）１〜７０である。各音声学的
要素に対して、識別済みの文脈が複数個ある。本実施例
では１位置Ｐｉにある音声学的要素の文脈は、前の位置
Ｐ（ｉ−１）にある音声学的要素と次の位［Ｐ（ｉ＋１
）にある音声学的要素にもとづいている。第２欄は。

主題の音声学的要素の前にある記憶済み音声学的要素で
ある。第３欄は、主題の音声学的要素の後にくる記憶済
み音声学的要素である。

“ＣＡＴ”の音声学的要素ＡＥＩを例にとると。

最初の文脈はＡＡＯ−ＡＥ　１−ＡＡＯと名づけること
かできる。この場合、ＡＥｌの前と後にフィーニーム・
アルファベットの最初の音声学的要素がくる。第２の文
脈は、ＡＡＯ−ＡＥｌ−ＡＥＯとして示される。ＡＥＩ
の前に最初の音声学的要素があり、またＡＥＩの後に第
２の音声学的要素がくる。前にくる音声学的要素として
ＡＡＯを含む様々の文脈をリストした後、後にくる音声
学的要素としてＡＥＯを含む文脈をリストしである。

このリストは、ＡＥｌを主題の（中間の）音声学的要素
とする様々な３要素の組合せを含んでいる。

ＡＥＩに対応する音声学的要素のリスト項目を検討する
と、（破線で囲んだ）ある文脈ｎｍ、ｃは、その前にあ
る音声学的要素がＫＱ、その後にくる音声的要素がＴＸ
である。この文脈は、語”　ＣＡ　Ｔ　”中に見られる
文脈と一致する。トレーニング中に得られたデータにも
とづいて、ＫＱ−ＡＥＩ−ＴＸの文脈に、ｆと名づけた
フィーニーム・ストリングが関連づけられる。上段で指
摘したように、ストリングｆは、トレーニング中にＫＱ
−ＡＥｌ−ＴＸ文脈が１回発声された結果であることも
何度か発声された結果であることもある。

ストリングｆは、ＫＱ−ＡＥ　１−ＴＸ文脈中で発生す
る音声学的要素ＡＥＩに対応する。

単語“ＣＡ　Ｔ　”のフィーニーム・ベースフオームを
形成する際、ｆストリングが、単語”　ＣＡ　Ｔ　”の
音声学的要素ＡＥＩに対応する切片に関連づけられる。

単語”　ＣＡ　Ｔ　”中の他の音声学的要素に対して。

それに対応するフィーニーム・モデル・ストリングが導
き出される。すなわち、Ｓ　Ｉ　ＬＥＮＣＥ−ＫＱ−Ａ
ＥＩに関連するフィーニーム・モデル・ストリングが記
録される。また、ＡＥｌとＴＱに狭まれたＴＸに対する
フィーニーム・モデル・ストリングが記録され、以下同
様である。単語パＣＡ　Ｔ　”中の音声学的要素に対し
て導き出された様々なフィーニーム・モデル・ストリン
グが、その単語中でそれぞれの音声学的要素が発生する
順に連結される。連結されたフィーニーム・モデル・ス
トリングが、単語”　ＣＡ　Ｔ　”に対する合成された
フィーニーム・ベースフオームとなる。

この良好な実施例では、それに関連するフィーニーム・
モデル・ストリングが記憶されていない″新単語”の文
脈中で、ある音声学的要素が発生することがある。音声
学的モデル・ストリングと３要素の音声学的文脈の間の
省略された対応リストが使用できるようにするため、第
１３図の方法を使用する。

第１３図によれば、各″新″単語は音声学的要素のスト
リングとして表わされ、各音声学的要素は″新″単語の
ある切片を表わす。次に客語の切片に対応する音声学的
要素が、その文脈ＩＴ’　ｍ、Ｃ中で識別される。ステ
ップ２４００の最初の単語の切片ｉ←１から出発して２
ステツプ２４０２で１位置ＰｉにあるＨ’　ｍ、ｃが、
関連するフィーニーム・モデル・ストリングを有する文
脈化された音声学的要素（ｒＩｍ、ｃ）に完全に対応す
るかどうか判断が下される。イエスの場合、関連するフ
ィーニーム・モデル・ストリングの全体が、ステップ２
４ｏ４でフィーニーム・ベースフォームに含められる。

ステップ２４０４　（および下記の各ステップ）で使用
する表記法は、簡単な説明のためのものである。２重の
垂線は、連結演算子を表わす。その右側にある“切片”
が、以前に構築されたベースフォームのその部分にタグ
として付加される。連結演算子の右側にある“切片”は
、３つのパラメータを含んでいる。一番左のパラメータ
は、現在行なわれている判断を示す。次のパラメータは
。

関連するフィーニーム・ストリング中の始めのフィーニ
ーム・モデルを示す。最後のパラメータは、連結に含ま
れるべき関連するフィーニーム・モデル中の最後のフィ
ーニーム・モデルを示す、したがって“切片（ｇｌ、１
、Ｑ（ｇｉ））”は、（ステップ２４０２の）ｇ１判断
に関連する最初から最後までのフィーニーム・モデルを
指す、すなわち。

ｇｌの判断が″イエス″であれば、パ新”単語の主題の
音声学的要素ｎ’　ｍ、ｃが（同じ３要素の音声学的文
脈をもつ）記憶済みのｒＩｍ、ｃと一致し、かつそれに
関連する（モデル１から始まりモデルＱ　（ｇｌ）で終
わる）フィーニーム・モデル・ストリングがあることを
示す。ステップ２４０４でｇｌの判断がイエスであれば
、そのフィーニーム・モデル・ストリングの全体が、“
新単語″の以前の切片に対して構築されたベースフォー
ムにタグとして付加される。ステップ２４０４の後、ス
テップ２４０６で次の単語の切片が検査される。

″新″単語中の音声学的要素ＩＴｍ、ｃが、それと同じ
３要素の音声学的文脈を有する記憶済みのある音声学的
要素に写像されない場合、類似する２要素の音声学的文
脈があるかどうか判断が下される。ステップ１４１０で
、″新″単語の音声学的要素とその前の音声学的要素が
、判断ｇ２で取り上げられる。類似する先行要素−主題
要素の文脈が記憶リスト中にあるいずれかの３要素の文
脈に含まれている場合、そのフィーニーム・モデル・ス
トリングが検索される。次にステップ２４１２でフィー
ニーム・モデル・ストリングの前半が抽出され、構築中
のフィーニーム・ベースフォーム（ｂｓｆ）に連結され
る。

主題の音声学的要素とその後にくる音声学的要素が記憶
済みのそれに対応する文脈を有するかどうか判断を下す
ために、同様の検査が実施される。

これは、ｇ４判断と呼ばれ、ステップ２４１４で実施さ
れる。この判断では、リスト中に、その最後の２つの音
声学的要素が、取り上げられている“新″単語の切片中
の主題の音声学的要素およびその後の音声学的要素と同
じである３要素の文脈が含まれているかどうかが示され
る。含まれている場合、フィーニーム・モデル・ストリ
ングの後半（最初の音素的モデルは省１１８）が、構築
中のベースフォーム（ｂｓｆ）にタグとして付加される
（ステップ２４１６参照）。そうでない場合は、ステッ
プ２４１８で、ステップ２４２０にもとづいて決定され
たフィーニーム・ストリングの後半部分が、構築中のベ
ースフォーム（ｂｓｆ）に連結される。

ステップ２４２０で、取り上げられている３６新”単語
切片中のものと同じ音声学的要素Ｐ　（ｉ−１）Ｐｉを
有する音声学的要素の文脈が記憶されていないかどうか
判断が下される。記憶されていない場合、主題の音声学
的要素（すなわち、取り上げられている“新”単語切片
のＰｉ位置にある音声学的要素）を含む、任意の記憶済
みの音声学的文脈が、その関連するフィーニーム・モデ
ル・ストリングとして記録される（複数のストリングが
記録されている場合、１つのストリングを任意に選択で
きる）、ステップ２４２２で、記録されたフィーニーム
・モデル・ストリングの半分が、構築中のベースフォー
ムに連結される。ステップ２４２２の次に、ステップ２
４１４に進む。

ステップ２４０４，２４１６で、ベースフォームの前に
構築された部分にフィーニーム・モデル・ストリングが
加えられた後、″１新新単語のすべての切片が取り上げ
られるまで、次の切片が取り上げられる。これは、ステ
ップ２４０６と２４２４で実施される。各切片について
導き出された音声学的モデルは、連結されて新”単語の
フィーニーム・モデルのベースフォームとなる。

本発明によれば、音声学的要素の文脈にもとづくフィー
ニーム型単語ベースフォームの合成が。

フィーニーム・ベースフォームをトレーニングしていな
いすべての単語またはその一部分に使用できる。（それ
ぞれ既知のフィーニーム・ベースフォームを有する）２
つの単語が結合されて単一の単語を形成する場合には、
それぞれのベースフォームが結合されてその単一の単語
の複合ベースフォームとなる。たとえば、語ＨＯＵＳＥ
とＢＯＡＴを結合して単一語ＨＯＵＳＥＢＯＡＴを形成
すると仮定する。単一語ＨＯＵＳＥＢＯＡＴのフィーニ
ーム・ベースフォームは、単に単ＩＨＯＵ　ＳＥのフィ
ーニーム・ベースフォームと単語Ｂ　ＯＡＴのフィーニ
ーム・ベースフォームを結合することにより形成される
。したがって、音声学的文脈法をかかる語に使ってもよ
いが、必ずしもそうする必要ではない。

本発明をその良好な実施例に関して説明してきたが１本
発明の範囲から外れることなく形状および細部に様々な
変更を加えられることは、当業者なら理解できるはずで
ある。たとえば、依拠する音声学的文脈が上記の３要素
文脈でなくてもよい。

隣接する２つの要素の代りに、最高位の文脈が任意の数
ｎ個（１≦ｎ）の隣接する音声学的要素を含むこともで
きる。また１文脈中の音声学的諸要素は位置が隣接して
いる必要はなく、１個または複数の音声学的要素で分離
されていてもよい。

さらに、音声学的マルコフ・モデルとフィーニーム・マ
ルコフ・モデルに関して説明してきたが。

本発明では他の型式のモデルの使用も企図されている。

すなわち１本発明は、単語を第１のモデル群に含まれる
モデルのベースフォームと第２のモデル群に含まれるモ
デルのベースフォームによって表わすことができ、その
２つのベースフォームを位置合せすることができる場合
、一般に適用されることを予定している。

さらに１本特許出願で使用する゛単語”は、広義の意味
で使用し、辞書の単語、語堂素（すなわち上記のように
辞書の単語の特定の発音）、および（音節など）認識す
べき音声を定義するのに使用できる単語の部分を指すこ
とに留意すべきである。

また、希望する場合、第１３図の方法を変えることもで
きる。たとえば、フィーニーム・モデル“ストリングの
、構築中のベースフォームの事前しこ存在するフィーニ
ーム・モデルに連結される部分を、半分ではない値にし
てもよい。

さらに、フィーニーム・ベースフォームを、いくつかの
方法で音声学的要素サイズの単語切片に分割できること
に留意すべきである。上記の（合成されたベースフォー
ムで重なり合う音素列が生じてもよい）Ｎグラム合成法
以外に、最長最良合成も使用できる。後者の方法では、
（ａ）利用される切片の数が最小となり、かつ（ｂ）使
用される最長の切片の長さが最となるように、音声シー
ケンスが分割される。

たとえば、最長最良体系では１諸量中の可能なすべての
単音声ストリング群に対応する可能なすべてのフィーニ
ーム型切片を計算することができる。次に、判定基準関
数を下記のように定義できる。

ｆ　＝　Ｑ、”＋　Ｑ、”＋　（１３２−−・・Ｑｎま
ただし、Ｑ□＝音声列Ｑの長さ；Ｑ２＝音声列２つの長
さ；以下同様である。したがって、ＱＬ＋Ｑ２・・・・
・・・・・＋１ｎ＝Ｌ＝所期の新しい語に対応する音声
列の長さ。

次にｆが最大となるような１ｆｆｉの切片を選ぶ。

これは理想的な場合１次式に対応するはずであることに
留意すること。

Ｑ　１＝　Ｌ　　Ｑ　ｚ　＝　Ｑ　３・・・・・・、＝
φこの場合には、拘束条件Ｑ、＋Ｑ２・・・・・・＋Ｑ
ｎ＝Ｌのもとでｆが最大になる。

本発明は、ＩＢＭ３０８４計算機で、Ｎグラム合成法と
最長最良法の両者を具体化したＰＬ／１言語で実施され
た。どちらの場合にも、有用なフィーニーム・ベースフ
ォームが合成された。

合成されたベースフォームは、認識タスクで少くともそ
れに対応する音声学的ベースフォームと同程度の性能を
もたらす。たとえば、標準タスクでの音声学的エラー発
生率が４％の場合、すべての音声学的ベースフォームを
合成されたフィーニーム・ベースフォームで置き換える
と、エラー発生率は４％より下がるはずである。

本発明は、最も頻繁に発生する２０００語のベースフォ
ームを記録し、それほど頻用されない３ｏｏＯ語を合成
することにより、トレーニング時間が少くとも１５０％
（２／３に）節約できた。

Ｆ１発明の詳細 な説明したように１本発明によれば、トレーニング期間
後に、第１のモデル群に含まれるモデルから構築された
、かかる他の単語に対するベースフォームを合成するた
めの手法が提供される。

【図面の簡単な説明】

第１図は１本発明を適用できる音声認識システムの概略
図、第２図は、音声学的マルコフ・モデルを示す概略図
、第３図は、第２図の音声学的マルコフ・モデルに対す
るラベル間隔を示す格子またはトレリス構造を示す概略
図、第４図は、音声処理装置で生成されたラベルのスト
リング中の最初のラベルから始まるいくっがのラベル出
カ間隔にわたって測定した。第３図と同様の格子または
トレリス構造を示す概略図、第５図は、単語ＬＩＴＨＥ
　”の所定の発音の音声学的表現と、単語ｒｔＴＨＥ　
”の音声学的ベースフオームを形成する、３つの連結さ
れた音声学的マルコフ・モデルとを示す図、第６図は、
フィーニーム・マルコフ・モデルを示す図、第７図′は
、フィーニーム・マルコフ・モデルに対応する数ラベル
出力間隔の間の格子またはトレリス構造を示す説明図、
第８図は、単語を形成するように連結されたフィーニー
ム・マルコフ・モデルを示す図、第９図は、本発明の方
法を一般的に示した構成図、第１０図は、フィーニーム
・ベースフオームをどのように分割して音声学的要素の
サイズに対応する切片に分割するのかを示す流れ図、第
１１図は、単ｉ”ＣＡＴ”を音声学的に表現した図、第
１２図は、各フィーニーム・ストリングと所与の文脈中
のそれに対応する音声学的モデルの関連を示す記憶テー
ブルの説明図、第１３図は、第１２図のリストに可能な
音声学的文脈のすべてではなくてそのいくつかが示され
ている、フィーニーム・ベースフオームの合成を示す流
れ図である。 出願人　　インターナショナル・ビジネス・マシーンズ
・コーポレーション 復代理人　　弁理人　　澤　　１）　俊　　夫（外１名
） シＦｒ　閣

Claims (1)

1. 【特許請求の範囲】 第１の組のモデルの連鎖で表わされる第１の単語ベース
   フォームを、第２の組のモデルの連鎖で表わされる第２
   の単語ベースフォームから合成する、下記の手段（ａ）
   〜（ｂ）を有する音声認識のため単語ベースフォーム合
   成装置。 （ａ）第２の組のモデルの各々に対応する第１の組のモ
   デルの連鎖を文脈ごとに記憶する記憶手段。 （ｂ）単語の第２の単語ベースフォームをなす第２の組
   のモデルの各々と各々の文脈とを判別する手段。 （ｃ）判別された第２の組のモデルの種類と文脈とに基
   づいて対応する第１の組のモデルの連鎖を上記記憶手段
   から取り出す手段。 （ｄ）取り出された第１の組のモデルの連鎖を結合して
   第１の単語ベースフォームを生成する手段。