JPH0934486A - 音声認識方法、情報形成方法、音声認識装置および記録媒体 - Google Patents

Abstract

(57)【要約】 【課題】 認識率を劣化させることなく、認識結果を得
るための認識対象ワードの検索を高速化する。 【解決手段】 各認識対象ワードＷ₁〜Ｗ₁₀ に対応した
音声データから求められるスコアの期待値あるいは平均
値をもとに、スコアの高い順に全認識対象ワードＷ₁〜
Ｗ₁₀ を順序付けたときの順位をワード間の相関値とし
て用いて、認識対象ワードＷ₁〜Ｗ₁₀ を階層構造あるい
は重複を許す木構造に構造化しておき、この階層構造に
構造化された辞書を用いて、未知の入力音声信号に対し
てスコア計算を行う。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、音声認識方法、情
報形成方法、音声認識装置および記録媒体に関し、入力
音声信号に対して、与えられた辞書の中から対応する語
をひとつまたは複数選び出すような音声認識方法、装
置、音声認識用の辞書が記録された記録媒体および辞書
を形成するための情報形成方法に関するものである。

【０００２】

【従来の技術】入力された音声信号から言語情報を取り
出すための音声認識の分野においては、与えられた辞書
の中から入力に対応したワードを選び出すという問題が
頻繁に発生する。

【０００３】例えば、地名に対する音声認識の場合、対
象候補ワードとなる地名それぞれに対して、標準パター
ンを作成しておき、入力音声信号を分析して得られる特
徴量パターンと全標準パターンとのマッチングをとるこ
と、すなわち距離計算を行なうことで最も類似したもの
を選び出すということを行なう。これは隠れマルコフモ
デル（Hidden Markov Model：ＨＭＭ ）という確率モデ
ルを用いた場合も同様で、やはり各地名に対応したＨＭ
Ｍを作成しておき、入力音声信号に対して、その生起確
率が最も大きくなるモデルを選び出すということが必要
になる。

【０００４】一般に、音声認識においては、対象となる
ワードと入力音声信号とのマッチングをとるために距離
計算を行なったり、あるいは各ワードの確率モデルを用
いて生起確率を計算したりするなどして、全ワードに対
してスコアづけを行ない、そのスコアに基づいて、最も
スコアの高いものを認識結果として選択するということ
を行なう。

【０００５】例えば、上記ＨＭＭ（隠れマルコフモデ
ル）においては、認識対象ワードそれぞれに対して確率
モデルを予め作成しておき、未知の入力音声信号を分析
して得られる特徴量から生起確率を求め、これをもとに
全ワードに対してスコア付けを行い、最もスコアの高い
ものを認識結果として選択する。

【０００６】ここで、スコアが高いとは、距離などの場
合は距離が小さいことに対応し、生起確率などの場合は
その確率が大きいことに対応するなど、その評価値に対
応させた表現として用いるものとする。

【０００７】

【発明が解決しようとする課題】ところで、小語彙の認
識システムの場合には、全ての対象候補に対して上述の
ようなスコア計算を行なっても、その処理量はあまり問
題になることはない。

【０００８】しかし、中語彙や大語彙の認識を行なう場
合には、対象となる認識辞書の全てのワードに対してス
コア計算をする、いわゆる全探索を行うことは、演算量
の増大につながり、その結果、応答時間の遅延をもたら
すという問題を引き起こすことになる。

【０００９】この問題を解決するため、全ワードに対す
るスコア計算を行なう前に、簡単な評価式を用いて予備
選択を行ない、その結果から精密にスコア計算を行なう
べき対象ワードを絞り込む方法や、予め対象となる認識
ワードを木構造にクラス分けしておき、その構造に従っ
て探索していくことで認識ワードを制限する方法などが
ある。

【００１０】一般に、現在の音声認識では、精密なスコ
ア計算、例えばマッチングや確率計算を行なっても認識
がなかなか難しいのが現状であり、前者の方法のよう
に、簡単な評価による予備選択を行なった場合、絞り込
みの段階で本来残すべきワードを除外してしまい、認識
率の低下を引き起こすという問題が生じる虞がある。さ
らに、簡単な評価式といっても、全ワードに対して行な
えば、相当な演算量になってしまうという欠点もある。

【００１１】これに対して、後者の木構造にクラス分け
しておく方法としては、一般の探索問題においては、対
象候補を二値木（バイナリーツリー）に構造化してお
き、その二値木をたどることによって探索を行なう、と
いう二値木探索と呼ばれる手法が広く用いられている。
しかし、このような構造化を用いる手法では、予め決定
しておいた探索木をもとに探索範囲を制限する、すなわ
ち局所的な探索をするわけであるから、どのように構造
化し、その構造を用いてどのように探索するかが重要で
あり、全探索に比べて、歪みをできるだけ増加させず
に、すなわち認識率をできるだけ低下させずに、演算量
を低減させることが要求される。

【００１２】その意味では、二値木探索は、演算量の大
幅な削減が得られるかわりに歪みを増大させてしまうと
いう問題が発生しやすく、特に、音声認識においては、
これは認識率の低下を意味し、大きな問題となる。

【００１３】また、上記ＨＭＭを用いた音声認識は、認
識対象ワードそれぞれに対して確率モデルを予め作成し
ておき、未知入力音声信号を分析して得られる特徴量か
ら生起確率を求め、これをもとに全ワードに対してスコ
ア付けを行い、最もスコアの高いものを認識結果として
選択するものである。このＨＭＭを用いた音声認識で
は、スコア計算過程において、途中結果を用いて枝苅り
を行なうことで、演算量を削減するビームサーチ法とい
う演算量の削減方法がある。しかし、これもやはりスコ
アの途中結果で制限をかけるために、本来残すべきワー
ドを除去してしまい、ひいては歪みを増大させ、認識率
の低下を招いてしまうという問題を引き起こしてしま
う。

【００１４】なお、音声認識に限らず、このような探索
問題では、探索を高速化するために必要となる探索木な
どが占める記憶容量の大きさも重要な問題となる。

【００１５】本発明は、このような実情に鑑みてなされ
たものであり、演算量を低減しながら認識率の劣化を防
止し得るような音声認識方法、情報形成方法、音声認識
装置、および記録媒体の提供を目的とする。

【００１６】また、本発明は、スコア計算を行う音声認
識対象ワードの数を制限して演算量を低減し、音声認識
の高速化が図れるとともに、必要とされる記憶容量の増
大も少なくて済み、しかも探索による歪みの増大や認識
率の低下を招くことがないような音声認識方法、情報形
成方法、音声認識装置、および記録媒体の提供を目的と
する。

【００１７】さらに、本発明の他の目的は、スコア計算
を行う音声認識対象ワードを制限するための階層構造化
に用いられる相関値を、音声データを用いずに計算でき
るようにすることである。

【００１８】

【課題を解決するための手段】本発明は、上述した課題
を解決するため、複数の音声認識対象ワードが与えら
れ、未知の入力音声信号に対して、予め求めておいたパ
ラメータを用いて、上記音声認識対象ワードにスコア付
けを行なうことで、対応する音声認識対象ワードを抽出
し認識する際に、上記各音声認識対象ワード間の相関値
を用いて上記各音声認識対象ワードを予め重複を許す木
構造に構造化しておき、この木構造を用いて、上記未知
の入力音声信号に対してスコア計算を行なう音声認識対
象ワードを限定することを特徴とする。

【００１９】ここで、上記複数の音声認識対象ワードに
対する確率モデルを用意し、上記未知の入力音声信号に
対して、上記各確率モデルの生起確率を計算し、その生
起確率に従って、対応する音声認識対象ワードを抽出し
認識するようにし、上記各音声認識対象ワードに対応す
る確率モデルの状態遷移確率をもとに状態遷移系列を決
定し、その状態遷移に対応する出力シンボル確率をもと
にシンボル系列を決定し、得られたシンボル系列の生起
確率を上記各音声認識対象ワードに対応するモデルに対
して計算し、この生起確率に基づく音声認識対象ワード
間の相関値を用いて上記各音声認識対象ワードを階層構
造に構造化しておくことが好ましい。

【００２０】また、本発明に係る情報形成方法は、複数
のパターン認識対象が与えられ、未知の入力信号に対し
て、予め求めておいたパラメータを用いて、上記パター
ン認識対象にスコア付けを行なうことで、対応するパタ
ーン認識対象ワードを抽出し認識するパターン認識方法
に用いられるパターン認識対象の情報を形成する際に、
上記各パターン認識対象間の相関値をもとに、相互に相
関値が小さくなるパターン認識対象どうしをグループ化
して行き、各グループの代表となるパターン認識対象を
選び出すことで、代表のパターン認識対象とそれに属す
るパターン認識対象の集合という関係にグループ化する
工程と、上記グループ化の過程で、各グループの代表に
選ばれなかったパターン認識対象に関しては、さらに、
上記相関値が小さく、かつ、いずれかのグループの代表
となっているパターン認識対象に対して、その代表のパ
ターン認識対象のグループにも属するようにする工程
と、上記グループ化と上記グループへの追加を行うこと
で得られた代表のパターン認識対象に対して新たにグル
ープ化とグループへの追加を行なう工程とを有し、これ
らの工程を任意の回数繰り返すことで、階層構造に構造
化することを特徴としている。

【００２１】さらに、上記階層構造に構造化された音声
認識対象ワード等のパターン認識対象の情報を記録媒体
に記録しておくことができる。

【００２２】なお、上記パターン認識対象としては、上
記音声認識対象ワード以外に、図形認識や文字認識のよ
うな画像情報におけるパターン認識の対象にも適用でき
るものである。

【００２３】このように、音声認識対象ワード（一般的
にはパターン認識対象、以下同様）を予め階層構造ある
いは重複を許す木構造に構造化しておき、その構造に従
って検索することで音声認識対象ワードの数を制限し、
演算量を低減する。しかも、新たなワード間の相関値の
定義と、その相関値に基づく認識ワードの構造化方法に
よって、局所的な探索であっても、スコアの高くなるこ
とが期待されるワードは探索範囲に含まれるようにな
り、最終的に歪みをほとんど増大させることがなく、認
識率の低下を防止できる。

【００２４】また、ワード間の相関値を、ＨＭＭ（隠れ
マルコフモデル）のような確率モデルのパラメータから
計算するようにすることで、認識辞書に対応する実音声
データを大量に必要とすることを回避できる。

【００２５】

【発明の実施の形態】以下、本発明に係る好ましい実施
の形態について、図面を参照しながら詳細に説明する。
本発明の実施の形態においては、音声認識を例として取
り上げているが、この他、映像や画像あるいは文字等の
各種パターン認識に本発明を適用することも容易であ
る。

【００２６】第１の実施の形態 以下の本発明の第１の実施の形態の説明においては、ま
ず音声認識に関して簡単に説明し、その音声認識を高速
化するための方式として、音声認識対象ワード（以下単
にワードともいう）間の相関値の定義、その相関値を用
いたワードの構造化の方法、およびその構造を用いた認
識手法に関して説明する。次に、記憶容量、および演算
量の見積りを行なった後、シミュレーション結果を説明
し、その有効性を説明する。

【００２７】＜音声認識＞音声認識に用いられる装置
は、一般的に図１に示すように、入力部１１、音響分析
部１２、認識部１３、パラメータ記憶部１４、出力部１
５から構成されることが多い。

【００２８】入力部１１は、マイクなどの音声信号を入
力する装置とその入力信号を増幅するアンプ、およびデ
ジタル信号に変換するＡＤ変換器などによって構成され
る。そして、入力信号を、例えば１２ｋHzでサンプリン
グした後、音響分析部１２へ送信する。

【００２９】音響分析部１２では、入力された音声信号
から認識に必要な特徴量の抽出を行なう。例えば、単純
な信号のエネルギや零交差（ゼロクロス）数、ピッチな
どの抽出を行なったり、線形予測分析（ＬＰＣ）、高速
フーリエ変換（ＦＦＴ）、バンドパスフィルター（ＢＰ
Ｆ）、さらにはWavlet変換などによって周波数分析を行
なったりする。そして、例えば帯域分割されたエネルギ
ーなどを要素とするベクトル時系列として、特徴量の抽
出を行なったりする。また、その特徴量の変化量とし
て、例えば差分データも特徴量の一つとして同時に抽出
することもある。こうして得られた特徴量に対し、カル
ーネンレーブ（ＫＬ）変換や、ニューラルネットワーク
などの適当な写像を施すことで、分離度の大きな特徴量
にさらに変換する場合もある。また、ベクトル量子化な
どにより、特徴量ベクトルを圧縮し、量子化された特徴
量に変換する場合もある。

【００３０】このように、音響分析部１２では、認識に
必要な特徴量の時系列を入力された音声信号から抽出
し、これを認識部１３に送信する。

【００３１】認識部１３では、予め学習用の音声データ
を音響分析して得られる特徴量をもとに作成しておいた
パラメータ記憶部１４のパラメータを用いて、未知音声
データに対する認識処理を行なう。ここで、認識とは、
入力された音声信号に対して、与えられた認識辞書の中
から、入力に対応したワードを選び出すことである。こ
の認識手法としては、主なものとして、ＤＰマッチン
グ、ニューラルネットワーク、ＨＭＭ（隠れマルコフモ
デル）などを用いたものが使われる。

【００３２】ＤＰマッチングは、各音声信号を分析して
得られる特徴量からテンプレートと呼ばれる標準パター
ンを予めパラメータとして求めておき、未知音声の特徴
量と比較して最も近いと判定されるものを見つけるとい
う方式である。発話速度の変動を吸収するため、ダイナ
ミックタイムワーピング（dynamic time warping）と呼
ばれる手法により、テンプレートとの歪みを最小化する
ように時間軸の伸縮を行なう方法がよく用いられる。

【００３３】ニューラルネットワークは、人間の脳の構
造を模倣するネットワークモデルによって認識を行なお
うとするもので、学習過程により予めパスの重み係数を
パラメータとして決定しておき、そのネットワークに未
知音声の特徴量を入力して得られる出力をもとに、辞書
内の各ワードとの距離を求め、認識ワードを決定しよう
とするものである。

【００３４】また、ＨＭＭは、確率モデルにより認識を
行なおうとするもので、予め状態遷移モデルに対して、
その遷移確率と出力シンボル確率を学習データをもとに
決定しておき、未知音声の特徴量に対する各モデルの生
起確率から認識ワードの決定を行なおうとする方式であ
る。このＨＭＭについては、本発明の第２の実施の形態
として後で詳述する。

【００３５】以上述べたように、一般に、認識処理とし
ては、学習過程として、予め学習用データから決定され
たパラメータ、すなわちテンプレートや、ネットワーク
モデルの重み係数、確率モデルの統計的パラメータなど
を求めておき、これをパラメータ記憶部１４に記憶して
おく。

【００３６】そして、認識過程では、入力された未知音
声信号を音響分析した後、与えられた辞書の中のワード
それぞれに対して、その認識手法に応じた距離や生起確
率などのスコア付けを行ない、そのスコアが最も高いも
の、あるいは上位複数個、を認識結果として選び出すと
いうことを行なう。そして、得られた認識結果を出力部
１５に送信する。

【００３７】出力部１５では、送信されてきた認識結果
を画面に表示したり、音として出力したり、さらには、
その認識結果を用いて、他の装置を動作させたりなどの
指令を行なう。

【００３８】＜ワード間の相関値＞上述したような音声
認識の処理において、認識部１３のスコア計算は、入力
された未知音声信号に対して、与えられた辞書、すなわ
ち音声認識対象ワードの集合内の全ワードとの間で計算
される。小語彙の認識であれば、その処理量はあまり問
題にならない。しかし、中語彙や大語彙の認識では、非
常に重要な問題となる。

【００３９】そこで、認識対象ワードを予め階層構造あ
るいは重複を許す木構造に構造化しておき、その構造を
用いることで、スコア計算を行なうワード数を削減する
ことが、本発明の目的である。これを簡単に示したのが
図２である。

【００４０】すなわち、図２において、全ての音声認識
対象ワードの分布空間２０内において、各ワードＷ間の
関係を用いてその分布構造を予め求めておけば、ある入
力２１とワードＷの分布構造との関係から、その入力２
１に対し、スコア計算を行なう必要のあるワードの集合
２２（すなわち上位でスコアを競い合うもの）と、必要
のないワードすなわちスコアが高くなりそうもないもの
と、を決定することができるようになる。そして、スコ
ア計算の必要のないワードを削除する、すなわちスコア
の計算対象から外すことにより、認識部の処理量あるい
は演算量を低減させようとするものである。

【００４１】このような目的にあったワードの分布構造
を決定するためには、ワード間の関係を知るための距離
尺度のようなものが必要となる。

【００４２】一般に、音声認識において、各ワードに対
応したモデル、すなわちテンプレートやネットワークモ
デル、確率モデルなどを作成し、学習過程においてその
モデルのパラメータを決定し、認識過程においてそのモ
デルを用いたスコア計算、すなわち距離計算や確率計算
を行なうわけであるから、その意味では実音声信号とワ
ードとの距離尺度は、実音声信号を音響分析して得られ
る特徴量とワードに対応したモデルとから計算されるス
コアによって定義されていると考えられる。

【００４３】ところで、音声認識で用いられるスコア
は、話者の違いや、発話速度、環境の変化などによっ
て、大きく変動する傾向が見られる。例えば、同じよう
に発声された二つの音声信号に対して、同じモデルでス
コア計算を行なった場合、そのスコアに差異が生じるこ
とは珍しくない。また、同じように発声した二つの音声
信号に対して、異なる二つのモデルを用いてスコア計算
をした場合、一方の音声信号については、片方のモデル
に対するスコアの方が高く、もう一方の音声信号につい
ては、もう片方のモデルの方がスコアが高いという現象
（順序が入れ代わる現象）もしばしば見られる。

【００４４】そこで、この変動を吸収するため、それぞ
れの認識手法において用いられるスコアの期待値によっ
て、ワード間の相関値を定義することを考える。

【００４５】まず、認識対象ワードをＷ_i （１＜ｉ＜
Ｎ）と表し、各ワードＷ_i に対応する実音声信号の集合
をＸ_i ＝｛Ｘ_i ¹，Ｘ_i ²，Ｘ_i ³，・・・｝とする。ここ
で、Ｎは認識対象ワード数、すなわち辞書に含まれるワ
ード数とする。

【００４６】そして、ある音声信号Ｘ_j ^kを音響分析して
得られる特徴量と、学習によって既にパラメータが決定
されているワードＷ_i に対応したモデルとの間で計算さ
れるスコア、例えば、ＤＰマッチングにおけるテンプレ
ートとの距離や、ＨＭＭにおける生起確率など、をＳ
（Ｘ_j ^k,Ｗ_i）と記述することにする。

【００４７】ただし、このスコアは

【００４８】

【数１】

【００４９】のように正規化してあるものとする。この
（１）式で、Ｓ_org（Ｘ_j ^k,Ｗ_i） は正規化前のスコア、
Ｓ（Ｘ_j ^k,Ｗ_i）は正規化されたスコアである。

【００５０】今、ワードＷ₁ に対応するある音声信号Ｘ
₁ ¹を用いれば、各ワードに対してスコアＳ（Ｘ₁ ¹,Ｗ_i）
を求めることができる。同様に、音声信号Ｘ₁ ²を用いて
スコアＳ（Ｘ₁ ²,Ｗ_i）が求まる。以下同様にすれば、Ｗ
₁ に対応する音声信号の集合Ｘ₁ ＝｛Ｘ₁ ¹，Ｘ₁ ²，
Ｘ₁ ³，・・・｝を用いてスコアがそれぞれ計算できる。
そこで、この音声信号の集合Ｘ₁ に対して各ワードごと
に求まるスコアの期待値、例えば平均値をＳｅ（Ｘ₁，
Ｗ_i）と表すことにすれば、

【００５１】

【数２】

【００５２】のように計算することができる。ここで、
ＫはＷ₁ に対応する音声信号のデータ数であり、十分大
きいものとする。

【００５３】同じようにして、ワードＷ_j に対応する音
声信号の集合Ｘ_j ＝｛Ｘ_j ¹，Ｘ_j ²，Ｘ_j ³，・・・｝と各
ワードとの間で、スコアの期待値を次式のように求める
ことができる。

【００５４】

【数３】

【００５５】もし、認識性能がある程度保証された音声
認識の方式を用いるならば、ワードＷ₁ に対応した音声
信号の集合Ｘ₁ に対しては、上記（３）式で求まるスコ
アの期待値の中で、Ｓ_e（Ｘ₁,Ｗ₁）が最も高くなること
が期待できる。同様に、ワードＷ_j に対応した音声信号
の集合Ｘ_j に対しては、（３）式で求まるスコアの期待
値の中で、Ｓ_e（Ｘ_j,Ｗ_j）が最も高くなることが期待で
きる。そして、Ｘ_j に対してスコアの期待値Ｓ_e（Ｘ_j,
Ｗ_i）が高いＷ_i というのは、未知音声信号Ｘ_j ^kに対し
てもスコアＳ（Ｘ_j ^k,Ｗ_i）が高くなることが期待でき、
逆に、Ｘ_j に対するスコアの期待値Ｓ_e（Ｘ_j,Ｗ_i）が低
いＷ_i というのは、未知音声信号Ｘ_j ^kに対してもスコア
Ｓ（Ｘ_j ^k,Ｗ_i）が低くなることが期待できる。

【００５６】そこで、上記（３）式によって求まるスコ
アの期待値Ｓ_e（Ｘ_j,Ｗ_i）をワードＷ_j に対するワード
Ｗ_i の距離尺度Ｄ（Ｗ_j，Ｗ_i）としてとらえる。

【００５７】

【数４】

【００５８】ただし、この（４）式の距離尺度Ｄ
（Ｗ_j，Ｗ_i）は、スコアＳ（Ｘ_j ^k,Ｗ_i）としてテンプレ
ートとの距離などを用いる場合には、小さければ小さい
ほどＷ_j に対してＷ_i が近いことを意味し、ＨＭＭなど
の生起確率を用いる場合には、逆に大きければ大きいほ
どＷ_j に対してＷ_i が近いことを意味する。

【００５９】このとき、距離尺度Ｄ（Ｗ₁，Ｗ_i）にもと
づいて、ワードＷ₁ に対してワードＷ_i （ｉ＝１，２，
・・・，Ｎ）を近い順に並べることができる。同様に、
ワードＷ₂，Ｗ₃，・・・，Ｗ_N に対しても、ワードＷ_i
（ｉ＝１，２，・・・，Ｎ）を近い順に並べることがで
きる。

【００６０】そこで、その順位、つまりＷ_j に対して近
い順にワードＷ_i を並べたときの順位を、ワードＷ_j に
対するワードＷ_i の相関値Ｒ（Ｗ_j，Ｗ_i）として定義す
る。例えば、一番近いものは１、二番目に近いものは
２、以下同様にして、最も遠いものはＮとする。

【００６１】なお、上記（４）式のの距離尺度Ｄ
（Ｗ_j，Ｗ_i）が同じになり、順位が同じとなるようなも
のがある場合は、これに無理矢理順序をつけることはせ
ず、ともに同じ相関値を設定するものとする。例えば、
３位のものが二つある場合は、ともに３を設定する。

【００６２】以上のようにして定義された相関値Ｒ（Ｗ
_j，Ｗ_i）は、１からＮまでの整数値をとることになり、
小さいほど相関が高く、大きいほど相関が低いと見なす
ことができる。すなわち、相関が高いあるいは相関値Ｒ
（Ｗ_j，Ｗ_i）が小さいとは、ワードＷ_j に対応した未知
音声信号Ｘ_j ^kに対してワードＷ_i のモデルから求まるス
コアＳ（Ｘ_j ^k,Ｗ_i）が高くなることが期待できることを
意味し、相関が低いあるいは相関値Ｒ（Ｗ_j，Ｗ_i）が大
きいとは、ワードＷ_j に対応した未知音声信号Ｘ_j ^kに対
してワードＷ_i のモデルから求まるスコアＳ（Ｘ_j ^k,
Ｗ_i）が低くなることが期待できることを意味する。こ
こで、Ｒ（Ｗ_j，Ｗ_i）とＲ（Ｗ_i，Ｗ_j）は、定義からわ
かるように、必ずしも同じになるとは限らないというこ
とは注意が必要である。

【００６３】次に、このような相関値をもとに、目的と
する音声認識対象ワードを構造化する方法について説明
する。

【００６４】＜認識対象ワードの構造化＞音声認識対象
ワードの構造化の方法に関して述べる前に、どのように
構造化すべきかについて簡単に説明する。

【００６５】基本的には、音声認識対象ワードを代表ワ
ードとそれに属するワードとに分離し、実際に認識を行
なう場合には、入力音声信号に対して、まず代表ワード
の中だけで認識処理を行なう。これは、図２における全
認識対象ワードの分布空間２０において、どのあたりに
入力されたかを調べることにあたる。この認識処理の結
果により、さらに認識処理を行なうべきワードを限定
し、最終的には、代表ワードとある一部のワードに対す
る認識処理、すなわち局所的な探索だけで認識結果を求
めようとすることになる。

【００６６】例えば、図３に示されるような関係、すな
わち代表ワード３１としての例えば５つのワードＷ₁ 、
Ｗ₅ 、Ｗ₇ 、Ｗ₁₀と、それに属するワード３２としての
例えば６つのワードＷ₂ 、Ｗ₃ 、Ｗ₄ 、Ｗ₆ 、Ｗ₈ 、Ｗ
₉ との間の従属関係が得られた場合、先ず、代表ワード
だけで認識処理を行ない、その結果をもとに、ある判定
基準に基づいて、次に認識処理を行なうべきワードを選
び出すことになる。例えば代表ワードＷ₇ に属するワー
ドが選び出されたとすれば、結局は、代表ワード３１と
なる５つのワードＷ₁ 、Ｗ₅ 、Ｗ₇ 、Ｗ₁₀と、ワードＷ
₇ に属するワードＷ₆ 、Ｗ₈ 、Ｗ₉ に対してだけ認識処
理を行ない、その中から最もスコアの高いものが選ばれ
ることになる。

【００６７】したがって、全探索で正解が得られる、す
なわち入力音声信号に対応するワードのスコアが最も高
くなるようなら、代表ワードに対応する入力音声信号に
対しては必ず正解が得られることになる。

【００６８】これに対して、代表ワード以外のワードに
対応する入力音声信号に対しては、先ず、代表ワードの
中だけで認識処理を行なった場合、当然、正解は得られ
るはずはない。しかし、代表ワードに対するスコアづけ
を行なえば、その中でスコアの高いもの、すなわち相関
が高いと思われるもの、を抽出することができる。

【００６９】そこで、正解となるワードにとって相関の
高い、すなわち相関値の小さいワードが代表ワードの中
に含まれており、かつ、その代表に属するワードの中に
その正解となるワードが含まれているならば、代表ワー
ドの中でスコアの高いものを求め、それに属するワード
を抽出し、その中でさらに認識処理を行なうことで、最
終的に正解が得られることが期待できる。

【００７０】以上の考えに基づいて、認識対象ワードを
構造化する方法について、図４を参照しながら説明す
る。

【００７１】手順１．グループ化（ステップＳ４１） 相関値Ｒ（Ｗ_j，Ｗ_i）とＲ（Ｗ_i，Ｗ_j）が共に小さいワ
ードＷ_i とＷ_j とは、どちらのワードに対応した入力音
声信号Ｘに対しても、スコアＳ（Ｘ,Ｗ_i），Ｓ（Ｘ,
Ｗ_j）が高くなることが期待できることから、この二つ
をグループ化する。この際、どちらか一方を代表ワード
とし、他方をその属するワードとする。また、グループ
化されないワードに関しては、自分自身を代表ワードと
し、単一グループとする。

【００７２】手順２．グループへの追加（ステップＳ４
２） いずれかのグループに属してしまい、代表ワードになら
なかったＷ_j に関しては、さらに、Ｒ（Ｗ_j，Ｗ_i）が小
さいＷ_i の中で代表ワードに選ばれたＷ_i のグループに
も属するようにする。これは、代表に選ばれなかったＷ
_j の属するグループとして、Ｗ_j に対して相関の高いＷ
_i が代表ワードとなっているものを、できる限り多くし
ておくために行なわれる処理である。

【００７３】手順３．階層化 上記グループ化およびグループへの追加を一まとまりの
ステップとしてグループ分けを行ない、同様にして各グ
ループの代表ワードに対して改めてグループ分けを行な
い、さらにその代表ワードに対してグループ分けを行な
うということを繰り返し、階層構造の探索木を作成す
る。つまり、上記グループ化およびグループへの追加の
処理によって、ある階層において、相関のあるワードが
グループ化され、各グループに対する代表がひとつ選ば
れることになる。そして、その代表ワードが、その上の
階層の構成要素となるわけである。

【００７４】図４のフローチャートにおいては、先ず、
ステップＳ４１で上記グループ化を行い、ステップＳ４
２で上記グループへの追加を行い、ステップＳ４３で上
記代表ワードを選び出す。この選び出された代表ワード
に対して、再びステップＳ１のグループ化とステップＳ
２のグループへの追加を行い、これを繰り返していき、
階層構造に構造化していくわけである。

【００７５】図５はこのようなグループ分けの具体例を
示している。まず、図５のＡに示す与えられた音声認識
対象ワードＷ_i （ｉ＝１，２，・・・，１０）に対し
て、上記各ステップＳ４１、Ｓ４２により図５のＢに示
すようなグループ分けが行なわれ、上記ステップＳ４３
により代表ワードＷ₁ 、Ｗ₅ 、Ｗ₇ 、Ｗ₁₀が選び出され
る。次に、この代表ワードに対して、同様に上記各ステ
ップＳ４１、Ｓ４２の処理を行ない、図５のＣに示すよ
うなグループ分けがなされ、ステップＳ４３により代表
ワードＷ₁ 、Ｗ₇ が選び出される。そして、最終的に図
６に示すような探索木が得られることになる。

【００７６】次に、上記の構造化に関して、具体例を述
べる。

【００７７】グループ化について 手順１．まず、各ワードＷ_i に対応したグループＧ_i を
つくり、そのグループの要素数をｎ(Ｇ_i) で表すことに
する。

【００７８】初期状態は、 Ｇ_i＝｛Ｗ_i｝， ｎ(Ｇ_i)＝１ ・・・ （５） とし、各グループＧ_i の代表ワードをＷ_i とする。 手順２．各ワードＷ_j に対して、相関値Ｒ（Ｗ_j，Ｗ_i）
（ただしｉ＝１，２，・・・，Ｎ）を求める。 手順３．ｉ＝１ 手順４．ｊ＝ｉ＋１ 手順５．Ｒ（Ｗ_j，Ｗ_i）≦ｒ、かつＲ（Ｗ_i，Ｗ_j）≦ｒ
となる場合、この（ｉ，ｊ）に対して以下を行なう。そ
れ以外の場合は次の手順６．へ。 (1) ｎ(Ｇ_i)≧１ かつ ｎ(Ｇ_j)≦１の場合、下記の処理
(I) を実行。 (2) ｎ(Ｇ_i)≦１ かつ ｎ(Ｇ_j)≧１の場合、下記の処理
(II)を実行。 (3) ｎ(Ｇ_i)＞１ かつ ｎ(Ｇ_j)＜１の場合、グループＧ
_i に含まれるＷ_i 以外の要素と、グループＧ_j に含まれ
るＷ_j 以外の要素が同じであれば、下記の処理(I)(また
は、処理(II))を実行。ただし、処理(I),(II)とは次の
ような処理である。 処理(I):グループＧ_iにワードＷ_jが既に属していれば何
も行なわず、属していなければ、グループＧ_iにワード
Ｗ_jを追加し、ｎ(Ｇ_i)は１増加し、ｎ(Ｇ_i)＝０とす
る。 処理(II):グループＧ_jにワードＷ_iが既に属していれば
何も行なわず、属していなければ、グループＧ_jにワー
ドＷ_iを追加し、ｎ(Ｇ_i)は１増加し、ｎ(Ｇ_i)＝０とす
る。 手順６．ｊを１増加させ、ｊ≦Ｎならば上記手順５．へ
戻り、ｊ＞Ｎならば次の手順７．へ。 手順７．ｉを１増加させ、ｉ≦Ｎ−１ならば上記手順
４．へ戻り、ｉ＞Ｎ−１ならば終了する。

【００７９】上記のグループ化の方法に関して、図７の
フローチャートを参照しながら簡単に説明する。

【００８０】ステップＳ７１でグループの初期化を行な
い、ステップＳ７２で相関値を求め、ステップＳ７３に
おいて、上記手順３．〜手順７．に相当する処理、すな
わち異なるＷ_i とＷ_j に対して、相関値をもとにグルー
プ化を行なっていく。その判定基準としては、上記手順
５．の処理におけるような Ｒ（Ｗ_j，Ｗ_i）≦ｒ かつ Ｒ（Ｗ_i，Ｗ_j）≦ｒ ・・・（６） を用いる。ここで、ｒは、１よりは大きく認識対象ワー
ド数Ｎよりは（十分）小さな整数（例えば、２から１０
くらい）を設定する。すなわち、相関値Ｒ（Ｗ_j，Ｗ_i）
とＲ（Ｗ_i，Ｗ_j）が共に小さくなるようなＷ_i ，Ｗ_j に
対してグループ化を行なっていくわけである。

【００８１】そして、そのようなＷ_i とＷ_j とが見つか
った場合には、基本的には上記手順５．に示す(1),(2)
の場合のように、まだ代表ワードになっていない方を、
既に代表ワードになっている方のグループに属させるよ
うにする。すなわち上記処理(I) または処理(II)を行
う。例えば、Ｇ₁ ＝｛Ｗ₁ ，Ｗ₂ ｝，Ｇ₃ ＝｛Ｗ₃ ｝の
場合に、Ｗ₁ とＷ₃ の間で上記（６）式が成り立てば、
Ｇ₁ ＝｛Ｗ₁ ，Ｗ₂ ，Ｗ₃ ｝に変更し、Ｇ₃ は空集合に
すればよい。

【００８２】ただし、どちらのグループにも、既に代表
ワード以外に属する要素が存在する場合、すなわち上記
手順５．の(3) の場合には、その代表ワード以外の要素
が同じ時のみ、上記処理(I)(または処理(II)) を実行す
る。例えば、Ｇ₅ ＝｛Ｗ₁ ，Ｗ₅ ｝，Ｇ₇ ＝｛Ｗ₂ ，Ｗ
₇ ｝の場合に、Ｗ₅ とＷ₇ に対して上記（６）式が成り
立っても、グループ化は行なわないが、Ｇ₅ ＝｛Ｗ₁ ，
Ｗ₂ ，Ｗ₅ ｝，Ｇ₇ ＝｛Ｗ₁ ，Ｗ₂ ，Ｗ₇ ｝の場合に、
Ｗ₅ とＷ₇ に対して（６）式が成り立てば、Ｇ₅ ＝｛Ｗ
₁ ，Ｗ₂ ，Ｗ₅ ，Ｗ₇ ｝に変更し、Ｇ₇ は空集合にする
ことになる。逆に、Ｇ₅ を空集合にし、Ｇ₇ ＝｛Ｗ₁ ，
Ｗ₂ ，Ｗ₅ ，Ｗ₇ ｝と変更してもよい。

【００８３】また、ｎ(Ｇ_i)＝１かつｎ(Ｇ_j)＝１の場合
に、Ｗ_i とＷ_j に対して上記（６）式が成り立つような
ときは、上記処理(I) と処理(II)のどちらを実行しても
よい。

【００８４】なお、判定条件の上記（６）式におけるｒ
は、小さければ小さいほど、グループ化が行なわれる条
件が厳しくなる。その意味では、最初ｒ＝２に設定し
て、上記手順１．から手順７．の処理を行ない、次にｒ
＝３に設定して、上記手順３．から手順７．の処理を行
ない、同様にしてｒを１ずつ増加させながら、ｒ≦ｒ_a
を満たす間、上記手順３．から手順７．の処理を繰り返
すようにすることで、最も相関のあるワードどうしがま
ずグループ化されてから、次に相関のあるもの、その次
に相関のあるものという風に、順にグループ化されてい
くことになり、代表に選ばれないワードにとっては、よ
り相関の強いワードが初期の段階で代表ワードになって
くれるという点で、効果のある構造化が得られるように
なる。ここで、ｒ_a には、２よりは大きく認識対象ワー
ド数Ｎよりは十分小さな整数（例えば、３から１０くら
い）を設定するものとする。

【００８５】これを図８に示す。図８の各ステップＳ８
１、Ｓ８２、Ｓ８３は、それぞれ上記図７の各ステップ
Ｓ７１、Ｓ７２、Ｓ７３に対応するが、上記手順３．か
ら手順７．の処理に相当するステップＳ８３について
は、ｒを１ずつ増加させながらｒ≦ｒ_a を満たす間、処
理を繰り返すようにしている。

【００８６】さらにまた、判定条件の上記（６）式の代
わりに、 Ｒ（Ｗ_j，Ｗ_i）≦ｒ_j かつ Ｒ（Ｗ_i，Ｗ_j）≦ｒ_i ・・・ （７） のようにＷ_j にはそれに応じたｒ_j を設定するように
し、例えば、 ｒ_j＝ｎ(Ｇ_j)＋ｒ−１ （ｊ＝１，２，・・・，Ｎ） ・・・ （８） のように、ｎ(Ｇ_j) に応じて変動させるような方法も考
えられる。この場合、最初はｒ＝２、すなわちｒ_j ＝２
に設定して、上記手順１．から手順７．の処理を行な
い、得られた各グループの要素数に従って、ｒ＝３とし
て上記（８）式によりｒ_j を設定し直し、上記手順３．
から手順７．の処理を行ない、同様にして、ｒを１ずつ
増加させるとともに、グループの要素数に応じて上記
（８）式によってｒ_j を設定し直しながら、ｒ≦ｒ_a を
満たす間、上記手順３．から手順７．の処理を繰り返す
ようにする。このようにすることで、本来非常に相関の
あるＷ_iとＷ_j がグループ化されないような状況、特
に、Ｗ_j にとってさらに相関のあるＷ_k が多数存在して
いたために、相関値Ｒ（Ｗ_j，Ｗ_i）が少し大きくなって
しまい、Ｗ_i とＷ_j がグループ化されないような状況を
緩和することができる。

【００８７】例えば、Ｗ₅ に対して、Ｒ（Ｗ₅，Ｗ₁）＝
２であったとしても、Ｗ₁ に対して、Ｒ（Ｗ₁，Ｗ₃）＝
２，Ｒ（Ｗ₁，Ｗ₈）＝３，Ｒ（Ｗ₁，Ｗ₅）＝４であるよ
うな場合、ｒ≧４として上記（６）式の判定を行なわな
ければ、Ｗ₁ とＷ₅ はグループ化されない。しかし、も
し、Ｇ₁ ＝｛Ｗ₁ ，Ｗ₃ ，Ｗ₈ ｝のようにグループ化さ
れた後に、ｒ＝２として上記（７）式の判定を行なえ
ば、Ｗ₁ とＷ₅ はグループ化されることになる。これ
は、上記（８）式により、ｒ₁ ＝５，ｒ₅ ＝３となるか
らである。

【００８８】したがって、さらに効率的に構造化が行な
えるようになる。ここで、ｒ_a には、前と同様、２より
は大きく認識対象ワード数Ｎよりは十分小さな整数（例
えば、３から１０くらい）を設定するものとする。

【００８９】グループへの追加について 手順１．ｊ＝１ 手順２．Ｗ_j が代表ワードでない場合、すなわちｎ
(Ｇ_j)＝０ の場合、以下を行なう。それ以外の場合は、
次の手順３．へ。 (a) ｉ＝１ (b) Ｗ_i が代表ワードの場合、すなわちｎ(Ｇ_i)＞０ の
場合、以下を行なう。それ以外の場合は、（ｃ）へ。Ｒ
（Ｗ_j，Ｗ_i）≦ｒ_b の場合、下記の処理(III)を実行。 (c) ｉを１増加させ、ｉ≦Ｎならば（ｂ）へ戻り、ｉ＞
Ｎならば次の手順３．へ。ただし、処理(III)とは次の
ような処理である。 処理(III):グループＧ_iにワードＷ_jが既に属していれば
何も行なわず、属していなければ、グループＧ_iにワー
ドＷ_jを追加し、ｎ(Ｇ_i)を１増加させる。 手順３．ｊを１増加させ、ｊ≦Ｎならば上記手順２．へ
戻り、ｊ＞Ｎならば終了。

【００９０】上記のグループへの追加に関して、簡単に
説明を加えると、まず、前記のグループ化によって、代
表ワードとそれに属するワードに分離されることにな
る。そして、認識過程では、この代表ワードだけで、ま
ず認識処理を行ない、その結果から、さらに認識処理の
必要なワードを選び出すことが行なわれる。

【００９１】つまり、代表に選ばれなかったワードにと
っては、相関の強いワードができるかぎり代表ワードに
含まれており、かつその代表ワードのグループに属して
いることが重要になるといえる。

【００９２】そこで、上記の手順１．，手順２．，手順
３．の処理を通して、代表ワードに選ばれてないワード
Ｗ_j に着目し、代表に選ばれているＷ_i の中で相関の強
いワード、すなわち Ｒ（Ｗ_j，Ｗ_i）≦ｒ_b （９） を満たすＷ_i を探しだし、対応するグループＧ_i にＷ_j
がまだ属していない場合は、そのグループの要素として
Ｗ_j を追加するわけである。

【００９３】なお、上記（９）式のｒ_b は、２よりは大
きく認識対象ワード数Ｎよりは小さな整数（例えば、３
から２０くらい）を設定するものとする。ただし、認識
性能を劣化させないためには、前述のグループ化におけ
る（６）式のｒや（７）式のｒ_i ，ｒ_j はあまり大きく
しない方が良い、すなわち判定条件を厳しくした方が良
いのに対して、上記（９）式のｒ_b はできるだけ大きめ
に設定する方が良いと言える。

【００９４】なぜなら、代表ワードに選ばれないワード
に関しては、認識過程において、認識処理（スコア計
算）が行なわれる対象ワード内に含まれない危険性があ
り、その意味では、グループ化を行なう際に、相関のあ
まり強くないワードどうしはグループ化を、すなわち片
方を代表ワードとし、もう片方をそれに属するワードと
することを、しない方が良いといえる。したがって、上
記（６）式のｒや（７）式のｒ_i ，ｒ_j はあまり大きく
しない方が良い。

【００９５】これに対して、一旦グループ化が行なわれ
た後、代表ワードに選ばれかったワードは、できるだけ
多くのグループに属している方が、認識過程において、
認識処理（スコア計算）が行なわれる対象ワード内に含
まれる確度が高くなり、その意味では、上記（９）式の
ｒ_b はできるだけ大きい方が良いわけである。特に、そ
のワードにとって相関の高いワードが代表となっている
グループに含まれることは、より効果が期待できるわけ
である。

【００９６】しかし、上記（９）式のｒ_b を大きくする
ことは、認識過程における探索範囲の拡大、すなわちス
コア計算が行なわれるワード数が大きくなることにつな
がり、本来の目的である、認識過程の処理量（演算量）
を縮小したいという意味ではあまり大きくし過ぎてはい
けない。したがって、結局ｒ_b としては、上記（６）式
のｒや上記（７）式のｒ_i ，ｒ_j よりは少し大き目くら
いに設定するのが好ましい。

【００９７】階層化について 手順１．全認識対象ワード｛Ｗ_i ：ｉ＝１，２，・・
・，Ｎ｝に対し、Ｗ_i をＷ_i ⁰などと表記することにす
る。また、Ｎ⁰ ＝Ｎとする。 手順２．ｍ＝１ 手順３．ワード｛Ｗ_i ^m-1：ｉ＝１，２，・・・，
Ｎ^m-1 ｝に対して、前述のグループ化とグループへの追
加の処理を１ステップとするグループ分けを行なう。得
られた代表ワードを｛Ｗ_i ^m：ｉ＝１，２，・・・，
Ｎ^m ｝と表すことにする。ただし、Ｎ^m は得られた代表
ワードの数である。 手順４．ｍを１増加させ、ｍ≦Ｍならば手順３．へ戻
り、ｍ＞Ｍならば終了。

【００９８】上記の階層化に関して、上記図４を参照し
ながら簡単に説明する。まず、ｍ＝１ における上記手
順３．の処理は、全認識対象ワードに対して、前述のス
テップＳ４１でのグループ化と、ステップＳ４２でのグ
ループへの追加を行なうことにあたり、最初に行なうス
テップＳ４１のグループ化によって、相関の強いものど
うしがグループ化され、その従属関係が決定されること
になる。

【００９９】次に、ｍ＝２とし、ｍ＝１において得られ
た代表ワードに対するグループ分けを行なうわけである
が、やはり最初に行なうグループ化によって、相関の強
いものどうしがグループ化され、その従属関係が決定さ
れることになる。

【０１００】以後、同様にｍ＞Ｍとなるまで、同じよう
にグループ分けを行っていき、図６に示されるような階
層構造の探索木が得られることになるわけであるが、そ
の作成過程を考えれば、ある階層のワードには、相互に
相関の強いワードが代表ワードとしてその上の階層に存
在し、パスがつながっていることが期待できる。つま
り、最も下の階層、すなわち全認識対象ワードの集合、
にあるワードにとって、相互に相関の強いワードへのパ
スが上の階層へとつながっていくことが期待できる。

【０１０１】例えば、図９に示されるように、ワードＷ
₁ とＷ₅ の間に上記（６）式あるいは（７）式のような
関係が成立し、Ｗ₁ が代表ワード、Ｗ₅ がＷ₁ に属する
ワードになったとする。さらに、ワードＷ₁ とＷ₉ がと
もに代表として選ばれた後、再度グループ化を行なった
結果、ワードＷ₁ とＷ₉ の間に、上記（６）式あるいは
（７）式ような関係が成立し、Ｗ₉ が代表ワード、Ｗ₁
がＷ₉ に属するワードになったとする。この場合、ワー
ドＷ₅ とＷ₉ の相関も強いことが期待できるわけであ
る。

【０１０２】しかしながら、最も下の階層のワードにと
って、上の階層へのパスをたどっていって得られるワー
ドとの相関の強さは、上の階層へ行けば行くほど、弱く
なることが予想される。したがって、もし得られた探索
木をもとに、認識処理をすべきワードを制限するものと
した場合、あまり上の階層のワードから最も下のワード
に対する制限をかけるのは、歪みの増大、すなわち認識
率の低下を招くことが予想され、好ましくないといえ
る。その意味からすれば、上記のような階層化によって
得られる探索木の最上位の階層Ｍは、あまり大きくし過
ぎない方が良い。

【０１０３】なお、Ｗ_i ^mを第ｍ階層のワードと呼ぶこと
にする。例えば、認識対象ワードの集合は第０階層のワ
ードであり、そこから選ばれた代表ワードの集合は第１
階層のワードと呼ぶことにする。

【０１０４】＜認識手法＞つづいて、上記認識対象ワー
ドを上述したように階層構造に構造化することによって
得られる探索木を用いた認識手法に関して述べる。

【０１０５】この音声認識には、図１に代わって、図１
０のような構成が用いられる。

【０１０６】ここで、入力部１０１、音響分析部１０
２、パラメータ記憶部１０４、出力部１０５に関して
は、その動作は前述した図１の各部１１、１２、１４、
１５とそれぞれ同じである。

【０１０７】すなわち、入力部１０１から入力された音
声信号が、音響分析部１０２で音響分析され、得られた
特徴量が認識部１０３へ送られる。

【０１０８】学習過程では、学習用の音声データをもと
に、認識処理に用いられるパラメータが決定され、その
パラメータがパラメータ記憶部１０４に記憶される。そ
して新たに、前述した認識対象ワードの構造化を、実音
声データを用いて行ない、得られた探索木を探索木記憶
部１０６に記憶する。すなわち、各認識対象ワードに対
応した実音声データに対して、認識部１０３におけるス
コア計算を行ない、前述の構造化の方法に基づいて探索
木を作成し、探索木記憶部１０６に記憶する。

【０１０９】認識過程においては、入力部１０１より入
力された未知音声信号に対して、音響分析部１０２にお
いて音響分析を行ない、得られた特徴量が認識部１０３
へ送られる。そして、以下のような認識処理を行なう。

【０１１０】手順１．第Ｍ階層のワードに対してスコア
計算を行ない、最もスコアの高いものから上位ｐ個を選
び出す。 手順２．ｍ＝Ｍとする。 手順３．第ｍ階層において選ばれた最もスコアの高いも
のから上位ｐ個のワードに対して、探索木記憶部１０６
の探索木をもとに、そのワードに属する第ｍ−１階層の
ワードを抽出する。そして、それらのワードに対して、
再びスコア計算を行ない、最もスコアの高いものから上
位ｐ個を選び出す。 手順４．ｍを１減少させ、ｍ＞０ならば３へ戻り、ｍ＝
０ならば次の手順５．へ。 手順５．第０階層において抽出されたワードの中から、
最もスコアの高いもの、あるいは上位複数個、を選び出
す。そして、上記手順５．において選び出された最もス
コアの高いワード、あるいは上位複数個を、出力部１０
５へ送信する。

【０１１１】出力部１０５では、送信されてきた認識結
果を画面に表示したり、音として出力したり、さらに
は、その認識結果を用いて、他の装置を動作させたりな
どの指令を行なう。上記手順１．の処理を初期探索とい
い、上記手順２．から手順４．までの処理を構造探索と
呼ぶ。

【０１１２】ここで、図１１は、上記認識処理の概要を
説明するためのフローチャートである。この図１１の最
初のステップＳ１１１において、初期探索として、上記
第Ｍ階層の探索を行い、その後、処理ルーチン１１２に
より、第Ｍ−１階層の探索から第０階層の探索までの構
造探索を行う。この処理ルーチン１１２において、ステ
ップＳ１１３では第ｍ階層のワードを抽出し、この抽出
されたワードに対して、ステップＳ１１４でスコア計算
が既に行われているか否かを判別し、ＮＯのときはステ
ップＳ１１５に進んでスコア計算を行った後、ステップ
Ｓ１１６に進み、ＹＥＳのときは直接ステップＳ１１６
に進んでいる。ステップＳ１１６では、計算されたスコ
アの高いものから上位ｐ個を選び出している。

【０１１３】上記初期探索は、認識過程において最初に
行なう最上位階層の代表ワードに対するスコア計算にあ
たり、構造探索は、探索木をもとに、一つ上の階層の探
索で選び出されたｐ個の代表ワードに属するワードに対
してスコア計算を行なっていく処理にあたる。また、以
上のような構造探索においては、代表ワードとして既に
スコア計算をしたものや、抽出した二つ以上のグループ
に重複して含まれているものがあるため、一旦スコア計
算を行なったワードに関しては、そのスコアを記憶して
おき、同じワードに対するスコア計算の重複を避けるよ
うにするものとする。

【０１１４】＜記憶容量の見積り＞以上のような探索木
を用いた認識処理において、探索木に必要な記憶容量の
見積りをしておく。全ワード数をＮとする。グループ化
によって、ある階層のワードがそのワード数の約２分の
１のグループに縮退し、かつ各グループの平均要素数が
１０ワードになると仮定すれば、階層ｍのワード数は （１／２）^mＮ （１０） で与えられ、各ワードから一つ下の階層のワードへの従
属関係として平均１０本の探索木のパスを記憶しなけれ
ばならず、したがって、第１階層から第Ｍ階層までの全
ワードに対しては、

【０１１５】

【数５】

【０１１６】のパスを記憶する必要があることになる。
ここで、Ｍは探索木の最上位階層である。したがって、
記憶容量としては、Ｍを十分大きくしたとしても、

【０１１７】

【数６】

【０１１８】のパス情報を記憶すればよいことになる。

【０１１９】なお、この値は認識対象となるワードのセ
ットに大きく依存したものであり、上記（６）式のｒ
や、上記（９）式のｒ_b によっても大きく変動すること
から、ひとつの目安として示したものである。

【０１２０】＜演算量の見積り＞次に、探索木を用いた
認識処理における、演算量の見積りをしておく。前述し
た記憶容量の見積りにおいて想定するような探索木が得
られたとする。つまり、全ワード数をＮとし、各階層に
おいて約２分の１のグループに縮退し、かつ各グループ
の平均要素数が１０ワードであるとすれば、認識におけ
る初期探索のワード数は （１／２）^MＮ （１３） 構造探索のワード数は、

【０１２１】

【数７】

【０１２２】で与えられることになる。ただし、Ｍは認
識時の初期探索を行なう階層、ｐは第ｍ階層で抽出する
スコアの高いワード数とする。

【０１２３】参考として、1000ワードと4000ワードの認
識において、 ｐ＝10 の場合のスコア計算すべきワード
数、すなわち初期探索のワード数と構造探索のワード数
を見積もったのが次の表１, 表２である。

【０１２４】

【表１】

【０１２５】

【表２】

【０１２６】それぞれ、初期探索の階層Ｍに対する初期
探索のワード数と構造探索のワード数、およびその合
計、すなわち最終的にスコア計算を行なうワード数を示
している。ここで、Ｍ＝０は全探索に対応しているもの
とする。構造化による演算量の削減としては、表１に示
す1000ワードの認識の場合、第６階層を初期探索の階層
とすれば、初期探索 250ワード、構造探索 200ワード、
合計 450ワードのスコア計算を行なうことになり、約６
割減になるものと思われる。また、表２に示す4000ワー
ドの場合、第４階層を初期探索の階層とすれば、初期探
索 250ワード、構造探索 400ワード、合計 650ワードの
スコア計算を行なうことになり、約８割減になるものと
思われる。しかも、代表ワードとして既にスコア計算し
たものや、抽出した二つ以上のグループに重複して含ま
れるものなど、同じワードに対するスコア計算の重複は
避けることから、さらに演算量を削減できることが期待
できる。

【０１２７】なお、このような探索木を用いた認識処理
を行なう場合には、スコア計算と別に、構造探索におい
てスコア計算すべきワードを抽出するための処理などが
加わるが、この演算量は、スコア計算にかかる演算量に
比べれば十分小さなものになると考え、考慮に入れてい
ない。

【０１２８】＜シミュレーション結果＞実際に、９３８
個の単語認識を、全探索と本発明の構造化を用いた探索
とで比較した結果について述べる。ただし、構造化の方
法としては、グループ化を行なうために上記（７）式を
用い、ｒを２から８まで増加させながら、上記（８）式
でｒ_j を変動させてグループ化を行なった。また、グル
ープへの追加を行なうために上記（９）式においてｒ_b
＝２０を用いた。そして、Ｍ＝２階層の構造化を行なっ
た。その結果、初期探索のワード数が１５０個となる２
階層の探索木で、各階層のあるワードからその下の階層
のワードへのパスとしては、平均１２本つながっている
ようなものが得られた。

【０１２９】まず、全探索による認識では、認識率が９
８．７％、スコア計算を行なったワード数が９３８個で
あった。これに対して、各階層でスコアの高いワードを
ｐ＝８個抽出するような構造化を用いた認識処理を行な
った結果、認識率は９６．６％とわずかの劣化しか見せ
ず、スコア計算を行なったワード数は、初期探索に１５
０個、構造探索に平均１３５個、合計２８５個（平均）
となった。つまり、全探索に比べ、計算量を約７割低減
することが可能となったことがわかる。

【０１３０】以上示したように、本発明の上述した第１
の実施の形態によれば、認識対象ワードを予め木構造に
構造化しておき、その構造に従って探索することで認識
ワードを制限でき、演算量を大幅に低減することが可能
となる。しかも、新たなワード間の相関値Ｒ（Ｗ_j，
Ｗ_i）の定義と、その相関値に基づく認識ワードの構造
化方法によって、局所的な探索であっても、スコアの高
くなることが期待されるワードは探索範囲に含まれるよ
うになり、最終的に、歪みをほとんど増大させることは
ない。つまり、認識率をほとんど劣化させることはな
い。さらに、余分に必要な記憶容量もワード数に対して
その約１０倍程度パス情報を持っておけばよいだけであ
り、比較的小さなものとなる。

【０１３１】第２の実施の形態 次に、本発明の第２の実施の形態として、本発明をＨＭ
Ｍ（隠れマルコフモデル）を用いた音声認識に適用した
場合の例について説明する。

【０１３２】これは、上述した第１の実施の形態におい
て、相関値を計算するために音声データを用いる必要が
あった点を改良し、音声データを用いずにＨＭＭのパラ
メータから直接計算できるようにしたものである。もち
ろん、上述した実施の形態と同様、歪みの増大による認
識率の低下をほとんど招くことなく、演算量を大幅に低
減することを可能とする。しかも、余分に必要とされる
記憶容量も比較的小さなものとなる。

【０１３３】以下、ＨＭＭを用いた音声認識に関して簡
単に説明し、その音声認識を高速化するための方式とし
て、ワード間の相関値の定義、その相関値を用いた認識
ワードの構造化の方法、およびその構造を用いた認識手
法に関して述べる。

【０１３４】＜ＨＭＭを用いた音声認識＞認識すべきワ
ードをＷ₁,Ｗ₂,・・・,Ｗ_pとする。今、観測された音声
信号の特徴パラメータがＹであったとき、ＹがワードＷ
_i である確率は、Ｐ(Ｗ_i｜Ｙ) で与えられる。したがっ
て、Ｐ(Ｗ_i｜Ｙ) （ｉ＝１,２,・・・,ｐ） の中で最大
の確率を与えるＷ_i をＹの属するワード、すなわちワー
ドＷ_i が発声されたものと判定すればよい。ここで、ベ
イズ（Bayes） の定理より、 Ｐ(Ｗ_i｜Ｙ)＝Ｐ(Ｗ_i)Ｐ(Ｙ｜Ｗ_i)／Ｐ(Ｙ) （１５） が成り立ち、分母のＰ(Ｙ)はＷ_i には関係ないことか
ら、分子のＰ(Ｗ_i)Ｐ(Ｙ｜Ｗ_i)（ｉ＝１,２,・・・,
ｐ） を最大にするＷ_i を求めれば良いことがわかる。
Ｐ(Ｗ_i) はワードＷ_i が発声される事前確率であり、Ｐ
(Ｙ｜Ｗ_i) はワードＷ_iが発声されたときに、特徴パラ
メータＹが得られる確率である。

【０１３５】ＨＭＭ法とは、（１）式を最大にするＷ_i
を、確率モデル（ＨＭＭ）によって推定する手法であ
る。

【０１３６】ＨＭＭ（Hidden Markov Model ：隠れマル
コフモデル）は、非決定有限状態オートマトンとして定
義され、図１２に示すように、いくつかの状態Ｓ₁,Ｓ₂,
・・・,Ｓ_N（状態数Ｎ）と、その状態間の遷移を表すパ
スから構成される。そして、各状態の遷移過程はマルコ
フ過程とし、状態が遷移するときに出力シンボルをひと
つ発生するものとする。

【０１３７】なお、音声認識では、図１３に示されるよ
うな自己遷移と次の状態への遷移のみを許すような、初
期状態と最終状態を持つレフトツーライト(left-to-rig
ht)モデルが用いられることが多い。

【０１３８】ＨＭＭ法のうち、離散型ＨＭＭ法では、音
声の特徴ベクトルを例えばベクトル量子化することなど
により得られるシンボル系列Ｙ＝ｙ₁・ｙ₂・・・ｙ
_T （Ｔは観測系列の長さ）が各モデルで生起する確率
（事後確率）を計算し、その確率が最も大きいモデルを
認識結果とすることになる。

【０１３９】＜ＨＭＭの定式化＞ここで、ワードＷに対
応した離散型ＨＭＭは次のように定式化される。

【０１４０】Ｓ：状態の有限集合（Ｎは状態数） Ｓ＝｛Ｓ₁,Ｓ₂,・・・,Ｓ_N｝ （１６） Ｖ：出力シンボルの集合（Ｍは出力シンボル数） Ｖ＝｛ｖ₁,ｖ₂,・・・,ｖ_M｝ （１７） Ａ：状態遷移確率の集合（ａ_ijは状態Ｓ_iから状態Ｓ_jへ
の遷移確率）

【０１４１】

【数８】

【０１４２】Ｂ：状態遷移時の出力確率の集合（ｂ
_ij(ｖ_k) は状態Ｓ_iから状態Ｓ_jへの遷移の際にシンボル
ｖ_k を出力する確率）

【０１４３】

【数９】

【０１４４】π：初期状態確率の集合（π_i は初期状態
がＳ_i である確率）

【０１４５】

【数１０】

【０１４６】このようにして定義されたＨＭＭから、シ
ンボル系列Ｙ＝ｙ₁・ｙ₂・・・ｙ_Tが次のようにして生
起される。

【０１４７】手順１．初期状態確率πに従って、初期状
態ｘ₀＝Ｓ_iを選ぶ。 手順２．ｔ＝０とする。 手順３．状態遷移確率ａ_ijに従って、状態ｘ_t＝Ｓ_iから
状態ｘ_t+1＝Ｓ_jへの遷移を選択する。 手順４．出力シンボル確率ｂ_ij(ｖ_k) に従って、状態Ｓ
_iから状態Ｓ_jに遷移するときに出力されるシンボルｙ_t
＝ｖ_kを選択する。 手順５．ｔ＜Ｔならば、ｔ＝ｔ＋１とし、手順３．へ戻
る。それ以外は終了。

【０１４８】ただし、状態遷移の時刻をｔ＝０,１,２,
・・・ とし、時刻ｔにおいて遷移した状態をｘ_t とし
た。

【０１４９】以上のように、ＨＭＭを定義するには、
Ｎ，Ｍの指定、出力シンボルの集合、確率Ａ，Ｂ，πが
必要であり、これを簡単に表記するため、 λ＝｛Ａ，Ｂ，π｝ （２１） と表すことにする。つまり、ワード一つ一つにモデルが
決定されることになる。

【０１５０】＜ＨＭＭの確率計算＞音声認識において
は、前に述べたように初期状態と最終状態を一つとする
left-to-right モデルを用いることが多く、以下では初
期状態と最終状態をＳ_i，Ｓ_Nに限定したモデルを考え
る。

【０１５１】モデルλが、シンボル系列ｙ₁・ｙ₂・・・
ｙ_T を出力して、時刻ｔに状態Ｓ_iに達する前方予測確
率をα_i(t)とすると、上述したモデルのシンボル出力の
定義から、次の漸化式

【０１５２】

【数１１】

【０１５３】によってα_i(t)を計算することができる。
ここで、上式のｊに関するサンメーションは、与えられ
たモデルにおいて、状態Ｓ_j から状態Ｓ_i への遷移が許
されている場合のみとられるものとする。

【０１５４】以上をもとに、モデルλがシンボル系列Ｙ
＝ｙ₁・ｙ₂・・・ｙ_T を出力する確率Ｐ(Ｙ｜λ)は、 Ｐ(Ｙ｜λ) ＝α_N(Ｔ) （２４） で求まることになる。そして、ＨＭＭ法を用いた音声認
識では、音声から生成されたシンボル系列Ｙ＝ｙ₁・ｙ₂
・・・ｙ_T に対して、上式から計算される確率Ｐ(Ｙ｜
λ)を最大にするモデルλが認識結果とされる。

【０１５５】また、Ｐ(Ｙ｜λ)を求める別の方法とし
て、ビタビ(Viterbi) アルゴリズムを用いた計算方法と
いうものがある。これを簡単に説明すると、上記（２
３）式のα_i(ｔ) の代わりに

【０１５６】

【数１２】

【０１５７】によって、時刻ｔに状態Ｓ_i である確率~
α_i(ｔ)を計算する。ここで、上記（２５）式のｊに関
する｛｝の最大値とは、与えられたモデルにおいて、状
態Ｓ_j から状態Ｓ_i への遷移が許されているものに関し
てのみ考えるものとする。このような~α_i(ｔ)をもと
に、

【０１５８】

【数１３】

【０１５９】を求めるというものである。

【０１６０】ここで、上記（２５）式によって決まる状
態遷移系列として、最終状態がＳ_Nとなるものは唯一に
決まり、これを最適パスと呼ぶ。この最適パスは Viter
biアルゴリズムの上記（２５）式の計算において、その
際に遷移してきた前状態を記憶しておくようにし、最終
状態まで計算し終ったら、そこから前状態をたどってい
けば得られる。

【０１６１】また、log Ｐ(Ｙ｜λ)を求めるようにすれ
ば、乗算が加算の演算で置き換えられ、計算効率がよく
なる。

【０１６２】＜ＨＭＭのパラメータ推定＞次に、シンボ
ル系列Ｙ＝ｙ₁・ｙ₂・・・ｙ_T に対して、確率Ｐ(Ｙ｜
λ)を最大にするモデルのパラメータとしての遷移確率
Ａ＝｛α_ij｝、出力確率Ｂ＝｛ｂ_ij(ｖ_k)｝ の推定方法
について述べる。

【０１６３】なお、最初の推定時における遷移確率｛α
_ij｝、出力確率｛ｂ_ij(ｖ_k)｝ には、所定の初期値が用
いられる。

【０１６４】まず、モデルの学習では、学習用のシンボ
ル系列Ｙから、上述した前方予測確率α_i(t)が求められ
るとともに、時刻ｔにおいて状態Ｓ_i に存在し、以後、
シンボル系列ｙ_t+1・ｙ_t+2・・・ｙ_T を出力する後方予
測確率β_i(t)が次式によって求められる。

【０１６５】手順１．ｔ＝Ｔのとき β_i(T)＝０ （ｉ＝１，２，・・・，Ｎ−１） β_N(T)＝１ （２７） 手順２．ｔ＝Ｔ−１，Ｔ−２，・・・，０のとき、

【０１６６】

【数１４】

【０１６７】ここで、上記（２８）式のｊに関するサン
メーションは、与えられたモデルにおいて、状態Ｓ_i か
ら状態Ｓ_j への遷移が許されている場合のみとられるも
のとする。

【０１６８】このとき、出力シンボル系列Ｙ＝ｙ₁・ｙ₂
・・・ｙ_T に対して、状態Ｓ_i から状態Ｓ_j への遷移が
時刻ｔに生じる確率をγ_ij(ｔ)と記せば、

【０１６９】

【数１５】

【０１７０】で与えられることになる。そして、次式に
従ってモデルのパラメータとしての遷移確率ａ_ij、出力
確率ｂ_ij(ｖ_k) が更新、すなわち学習される。

【０１７１】

【数１６】

【０１７２】なお、上式において ^を付したａ_ij、また
はｂ_ij(ｖ_k) は、更新、すなわち再推定した遷移確率ま
たは出力確率をそれぞれ意味する。また、上式のｈに関
するサンメーションは、状態Ｓ_i から状態Ｓ_j への遷移
が許されている場合のみとられる。さらに、ｔ：ｙ_t＝
ｖ_kに関するサンメーションは、時刻ｔにおいて、ｖ_kな
るシンボルｙ_t が生起される場合についてのみとられ
る。

【０１７３】上式に従って、遷移確率ａ_ij、出力確率ｂ
_ij(ｖ_k) が更新、すなわち再推定されることにより、そ
れぞれは、局所的に最適な値へ収束する。

【０１７４】なお、上述のようにして遷移確率ａ_ij、出
力確率ｂ_ij(ｖ_k) を更新、すなわち再推定する方法は、
Baum-Welchの再推定法 と呼ばれる。

【０１７５】ここで上記(３０)、(３１)式で計算される
遷移確率ａ_ij、出力確率ｂ_ij(ｖ_k)は、ある学習用のシ
ンボル系列１つに対してだけであり、これにより学習が
行なわれたモデルは、ある１つのシンボル系列を高い確
率で出力するようになる。しかしながら、音声には調音
結合や話者によるばらつきがあり、単一のシンボル系列
のみ高い確率で出力するモデルでは、このばらつきに対
処することができない。

【０１７６】そこで、いくつかのシンボル系列を高い確
率で出力するように、モデルλの学習を行なう必要があ
る。これには、例えばＱ種類のシンボル系列のｑ番目の
シンボル系列をＹ^q＝ｙ₁ ^q・ｙ₂ ^q・・・ｙ_T ^q としたと
き、各シンボル系列Ｙ^q (ｑ=1,2,...,Q)が観測される確
率Ｐ(Ｙ^q｜λ) の積が最大になるように、モデルλの学
習を行なえばよい。

【０１７７】これは、上述したBaum-Welchの再推定法を
多重系列に拡張することにより次のように再帰的に求め
ることができる。すなわち、Ｙ^q によるα_i(t),β_i(t),
γ_ij(t) をそれぞれ α_i ^q(t),β_i ^q(t),γ_ij ^q(t) とすれ
ば、

【０１７８】

【数１７】

【０１７９】のように計算される。

【０１８０】次に、上記(３３), (３４)式で計算される
遷移確率ａ_ij、出力確率ｂ_ij(ｖ_k)は、モデルの学習を
個別に行なっていることに他ならない。過去、ＨＭＭ法
は、単語認識に適用されるときが多く、従って単語に対
応するモデルの学習を、上述したように個別に行なうだ
けで問題はなかった。

【０１８１】しかしながら、最近では、意味のある音声
(例えば、単語や文など)の認識を、音韻(音素)に対応す
るモデルを連結したものを用いて行なうのが一般的にな
り、このため、モデルの連結学習を行なう必要が生じて
きた。

【０１８２】モデルの連結学習では、例えば予め用意し
た単語辞書に登録されている単語に基づき、音韻または
音素モデルどうしを連結し、それを単語モデルとみなし
て、単語の学習用のシンボル系列として用意されたシン
ボル系列Ｙ^q に対する学習が行なわれる。

【０１８３】すなわちち、Ｗ個の音韻または音素モデル
の学習を個別に行なった場合において、そのうちのｗ番
目のモデル（すなわちモデルｗ）のパラメータ、すなわ
ち遷移確率、出力確率それぞれをａ_ij ^w、ｂ_ij ^w(ｖ_k) と
表し、そのモデルｗに音韻あるいは音素モデルを連結し
たモデル（すなわち連結モデル）の状態をＳ_m またはＳ
_n で表す。さらに、連結モデルの状態が、Ｓ_m からＳ_n
へ遷移する場合において、状態Ｓm がモデルｗに属する
状態であることを（ｍ→ｎ）∈ｗと表すと、上記式(３
３),(３４) を変形した次式に従って、モデルｗの遷移
確率ａ_ij、出力確率ｂ_ij(ｖ_k) が更新、すなわち再推定
される。

【０１８４】

【数１８】

【０１８５】ここで、連結モデルがモデルｗを複数使用
して構成されている場合、すなわち連結モデルが、例え
ば３状態Ｓ₁,Ｓ₂,Ｓ₃ からなるモデルｗを２回使用して
構成されている場合、連結モデルは、Ｓ₁,Ｓ₂,Ｓ₃,Ｓ₁,
Ｓ₂,Ｓ₃ の６状態を有することになる。従って、この場
合、モデルｗの状態Ｓ₁,Ｓ₂,Ｓ₃ のうちの、例えば先頭
の状態Ｓ₁ は、連結モデルの状態Ｓ₁,Ｓ₂,Ｓ₃,Ｓ₁,Ｓ₂,
Ｓ₃ の先頭の状態、および先頭から４番目の状態と同一
であり、このように連結モデルの複数の状態ｍがモデル
ｗの１つの状態Ｓ_i と同一であるときがある。

【０１８６】上記(３５),(３６) 式において、ｍ≡ｉ、
ｎ≡ｊに関するサンメーション（総和）は、上述したよ
うに、連結モデルの状態Ｓ_m またはＳ_n が、モデルｗの
状態Ｓ_i またはＳ_j とそれぞれ同一である場合について
とられる。さらに、ｍ≡ｉに関するサンメーションは、
連結モデルの状態Ｓ_m がモデルｗの状態Ｓ_i と同一であ
る場合についてとられる。

【０１８７】また、ｈ：（ｍ→ｈ）∈ｗに関するサンメ
ーションは、連結モデルの状態Ｓ_mから状態Ｓ_h への遷
移が許されている場合に、連結モデルの状態Ｓ_m が、モ
デルｗに属するときのみとられる。

【０１８８】さらに、上記(３５),(３６) 式において、
モデルｗの後続にモデルが連結されており、連結モデル
のある状態Ｓ_m がモデルｗの最終状態（Ｓ_m＝Ｓ_N）とな
った場合、状態Ｓ_m からの遷移先である状態Ｓ_n は、モ
デルｗの直後に連結したモデルの初期状態となるものと
する。

【０１８９】次に、以上説明した離散ＨＭＭ法を用いて
音声認識が行なわれる場合には、まず学習用に用意され
た学習系列Ｙを用い、上述した(３３)，(３４)式または
(３５)，(３６)式に従ってモデルの学習、すなわち連結
学習が行なわれ、モデルλの遷移確率ａ_ijおよび出力確
率ｂ_ij(ｖ_k) が求められる。以下の説明においては、上
記(３５),(３６) 式におけるａ_ij ^w、ｂ_ij ^w(ｖ_k) は、上
記(３３),(３４) 式における場合と同様にそれぞれ
ａ_ij、ｂ_ij(ｖ_k) と記載する。

【０１９０】そして、認識時において、音声から、シン
ボル系列Ｙが観測された場合には、モデルλがそのシン
ボル系列を出力すなわち生起する確率Ｐ(Ｙ｜λ)が、上
記（２３）式に従って計算される。

【０１９１】以上の処理が、モデルλ以外のモデルに対
しても行なわれ、前述したように、確率Ｐ(Ｙ｜λ)が最
も大きいモデルが認識結果とされることになる。

【０１９２】ところで、離散型ＨＭＭでは、上述したよ
うに、音声の特徴ベクトルを例えばベクトル量子化処理
することなどにより得られるシンボルが、学習および認
識に用いられる。したがって、シンボルは量子化誤差を
含むので、その結果音声の認識率が劣化する問題があっ
た。

【０１９３】そこで、離散的な確率分布である、シンボ
ルｖ_k に関する出力確率ｂ_ij(ｖ_k)を連続確率分布に変
更した混合連続ＨＭＭ法が知られている。

【０１９４】混合連続ＨＭＭ法では、ＨＭＭが連続確率
密度分布、すなわち連続分布をもち、離散ＨＭＭ法にお
ける出力確率ｂ_ij(ｖ_k) をＬ個の連続分布の混合で近似
するようになされている。即ち、モデルλが音声の特徴
ベクトルｙを生起する出力確率ｂ_ij(ｖ_k) が、次式によ
って計算される。

【０１９５】

【数１９】

【０１９６】ただし、ｃ_ijl は分岐確率（branch proba
bility）で、ｌ（ｌ＝1,2,...,L） 番目の出現確率を表
し、ｂ_ijl(ｙ) は分岐密度（branch density）で、ｌ番
目の確率密度分布を表す。また、これらには、次のよう
な条件が成り立つ。

【０１９７】

【数２０】

【０１９８】なお、確率密度分布ｂ_ijl(ｙ) としては、
通常、ガウス分布（正規分布）が仮定される。そこで、
確率密度分布ｂ_ijl(ｙ) が、その共分散行列Σ_ijl と、
平均値μ_ijl とをパラメータとするｎ次元正規分布に従
うと仮定すると、ｌ番目の確率密度分布ｂ_ijl(ｙ) は、
次式で与えられる。

【０１９９】

【数２１】

【０２００】ここで、上記（４０）式において、右肩の
Ｔ，−１は、それぞれ転置、逆行列を表す。また、｜Σ
ijl｜ は共分散行列Σ_ijl の行列式を表す。

【０２０１】この場合、上述したBaum-Welchの再推定法
によれば、次式に従って、出現確率ｃ_ijl 、並びに確率
密度分布ｂ_ijl(ｙ) の共分散行列Σ_ijl および平均値μ
_ijlを求める、すなわち再推定することができる。な
お、遷移確率ａ_ijは、上述した(３５)式、または(３３)
式に従って求めることができる。

【０２０２】

【数２２】

【０２０３】ここで、上式において ^を付したｃ_ijl,Σ
_ijl,μ_ijl は更新された出現確率、共分散行列、平均値
をそれぞれ意味する。

【０２０４】また、Ｐ(Ｙ,ｈ_t＝ｌ｜λ) は、モデルλ
によって、音声の特徴ベクトルｙの系列Ｙ＝ｙ₁・ｙ₂・
・・ｙ_T が出力される場合において、時刻ｔに特徴ベク
トルｙ_t がｌ番目の分布から出力される確率を意味す
る。ｈ_t＝ｌ は、特徴ベクトルｙ_t がｌ番目に出力され
ることを示す確率変数である。

【０２０５】以上のように出力確率ｂ_ij(ｙ)をＬ個の連
続分布の混合で近似する混合連続ＨＭＭ法に基づいて学
習がなされたモデルを用いて音声を認識する場合には、
離散型ＨＭＭ法における場合と同様に、音声から観測
(抽出)された特徴ベクトル系列をモデルλが出力あるい
は生起する確率Ｐ(Ｙ｜λ)が上記(２３),(２４) 式また
は、(２５),(２６)式によって計算される。

【０２０６】さらに、この確率Ｐが、モデルλ以外のモ
デルに対しても行なわれ、前述したように、確率Ｐを最
も大きくするモデルが認識結果とされる。

【０２０７】また、上述の推定方法の代わりに、次のよ
うな手法が用いられることもある。訓練サンプル集合
｛ｙ^q｝ の各々に対して、ビタビ（Viterbi） アルゴリ
ズムによって最適状態遷移系列を求め、状態Ｓ_i から状
態Ｓ_j への遷移時の出力ベクトル集合｛ｙ_ij｝を求め
る。これをクラスタリング手法によってＬ個のクラスに
分類し、各々のクラスのベクトル集合を標本集団とみな
し、ガウス分布を推定する。分岐確率はクラス内のベク
トル数を全体に対する比によって求める。この操作をパ
ラメータが収束するまで繰り返すというものである。

【０２０８】次に、上記ＨＭＭを用いた場合のワード間
の相関値を説明する。

【０２０９】＜音声認識＞上述したようなＨＭＭを用い
た音声認識装置の構成は、前述した図１、あるいは図１
０に示すようなものとなり、構成および作用も同様であ
る。

【０２１０】ただし、図１の音響分析部１２で入力され
た音声信号から認識に必要な特徴量の抽出を行なった
り、得られた特徴量に対し、ＫＬ変換や、ニューラルネ
ットワークなどの適当な写像を施すことで、分離度の大
きな特徴量にさらに変換して、認識部１３に送信するわ
けであるが、離散ＨＭＭを用いる場合には、さらにベク
トル量子化を行なった後、認識部１３に送信するように
している。

【０２１１】また、認識部１３では、予め学習用の音声
データを音響分析して得られる特徴量をもとに推定して
おいたモデルのパラメータを用いて、未知音声データに
対する認識処理を行なう。つまり、学習過程として、予
め学習用データから決定されるＨＭＭの遷移確率ａ_ijお
よび出力確率ｂ_ij(ｖ_k) （ただし連続ＨＭＭの場合はｂ
_ij(ｙ) ）を求めておき、これをパラメータ記憶部１４
に記憶しておく。そして、認識過程では、入力された未
知音声信号を音響分析して得られる特徴量に対し、与え
られた辞書の中の各ワードに対応するモデルそれぞれの
生起確率を求め、その確率（スコア）が最も高いもの、
あるいは上位複数個、を認識結果として選び出すという
ことを行なう。そして、得られた認識結果を出力部１５
に送信する。出力部１５では、送信されてきた認識結果
を画面に表示したり、音として出力したり、さらには、
その認識結果を用いて、他の装置を動作させたりなどの
指令を行なう。

【０２１２】以上のような音声認識の処理の中で、認識
部１３の確率（スコア）計算は、入力された未知音声信
号に対して、与えられた辞書、すなわち認識対象ワード
の集合の内の全ワードとの間で計算される。小語彙の認
識であれば、その処理量はあまり問題にならない。しか
し、中語彙や大語彙の認識では、非常に重要な問題とな
る。

【０２１３】これを解決するため、前述したように認識
対象ワードを予め構造化しておき、その構造を用いるこ
とで、スコア計算を行なうワード数を削減することが本
発明の実施の形態における目的であり、これを簡単に示
したのが上記図２である。このように、スコア計算の必
要のないワードを削除することにより、認識部の処理量
すなわち演算量を低減させようとするものでる。

【０２１４】このような目的にあったワードの分布構造
を決定するためには、ワード間の関係を知るための距離
尺度のようなものが必要となる。

【０２１５】本発明の上記第１の実施の形態において
は、実音声信号から求まる各モデルの生起確率（スコ
ア）の期待値により、ワード間の相関値を定義した。こ
の定義されたワード間の相関値に基づいて、認識対象ワ
ードを構造化するわけであるが、この方式を用いる場
合、上記（４）式からワード間の距離尺度を計算するた
めに、認識対象ワードに対応した実音声データが必要に
なり、中語彙や大語彙の認識システムを作成する上で
は、これが大きな問題となる。

【０２１６】そこで、本発明の第２の実施の形態におい
ては、上記（４）式に代わる新たなワード間の距離尺度
を導入するものである。

【０２１７】＜ＨＭＭのモデルのパラメータを用いたワ
ード間の相関値＞上記ＨＭＭの定式化の項目において述
べたように、モデルλ＝｛Ａ，Ｂ，π｝が与えられたと
き、そのモデルのパラメータに従って、シンボル系列Ｙ
＝ｙ₁・ｙ₂・・・ｙ_T を生起することができる。例え
ば、離散ＨＭＭを用いた場合、 手順１．初期状態確率πに従って、初期状態ｘ₀＝Ｓ_iを
選ぶ。 手順２．ｔ＝０とする。 手順３．状態遷移確率ａ_ijに従って、状態ｘ_t＝Ｓ_iから
状態ｘ_t+1＝Ｓ_jへの遷移を選択する。 手順４．出力シンボル確率ｂ_ij(ｖ_k) に従って、状態Ｓ
_iから状態Ｓ_jに遷移するときに出力されるシンボルｙ_t
＝ｖ_kを選択する。 手順５．ｔ＜Ｔならばｔ＝ｔ＋１とし手順３．へ戻る。
それ以外は終了。 のようにして生成できる。

【０２１８】連続ＨＭＭを用いた場合は、上記手順４．
の代わりに、上記（３７）式で与えられる出力シンボル
確率ｂ_ij(ｙ)に従ってシンボルｙ_t を決定すればよい。
ただし、状態遷移の時刻をｔ＝0,1,2,... とし、時刻ｔ
において遷移した状態をｘ_tとする。

【０２１９】特に、上記図１３に示されるようなleft-t
o-right モデルの場合は、初期状態と最終状態をＳ₁,Ｓ
_N に限定できる。そこで、遷移確率ａ_ijに従って、各状
態で自己遷移する回数の期待値を求めることで、状態遷
移系列Ｘ＝ｘ₀,ｘ₁,...,ｘ_Tが一つ決定される。

【０２２０】ここで、状態Ｓ_i でｎ回自己遷移した後、
状態Ｓ_i に遷移する確率は、 ａ_ii ⁿａ_ij＝ａ_ii ⁿ（１−ａ_ii） （４４） で与えられるから、ｎの期待値は

【０２２１】

【数２３】

【０２２２】を計算すれば求まる。これを計算すると、 Ｅ[ｎ]＝ａ_ii／（１−ａ_ii） （４６） が得られる。

【０２２３】以下これを証明する。先ず、

【０２２４】

【数２４】

【０２２５】とおく。この(４７)式にａ_iiをかけて、

【０２２６】

【数２５】

【０２２７】上記(４７)式から(４８)式を引いて、

【０２２８】

【数２６】

【０２２９】よって、上記(４７)式より、 Ｅ[ｎ]＝ａ_ii／（１−ａ_ii） （５０） すなわち、上記（４６）式が得られる。

【０２３０】したがって、例えばａ_ii＝０．５の場合は
上記Ｅ[ｎ]＝１、ａ_ii＝０．８の場合は上記Ｅ[ｎ]＝４
などが求められることになる。ここで上記(４６)式は、
ａ_iiが１に近づくと急激に増大するため、Ｅ[ｎ]に ０≦Ｅ[ｎ]≦３ （５１） のような上限下限を設け、例えば、

【０２３１】

【数２７】

【０２３２】のような近似を行なうことも考えられる。

【０２３３】以上に基づき、状態Ｓ_i で自己遷移する回
数の期待値が求まり、それをつなげれば状態遷移系列が
一つ決定される。そして、その状態遷移に従って、出力
確率ｂ_ij(ｖ_k) が最も高いシンボルｖ_k を出力させれ
ば、対応するシンボル系列を得ることが可能となる。

【０２３４】例えば、 a₁₁＝0.5, a₁₂＝0.5、 a₂₂＝0.8, a₂₃＝0.2、 a₃₃＝0.3,... （５３） のような遷移確率が与えられた場合、上記のようにして
決定される状態遷移系列は、もし上記(５２)式を用いる
ならば、 Ｓ₁,Ｓ₁,Ｓ₂,Ｓ₂,Ｓ₂,Ｓ₂,Ｓ₃,... （５４） となる。つまり、最初のＳ₁ は初期状態であり、次のＳ
₁ はａ₁₁＝０．５から決まる１回の自己遷移によるもの
である。そして、次にＳ₂ に遷移し、ａ₂₂＝０．８より
Ｓ₂ で３回の自己遷移を行なう。その後、Ｓ₃ に遷移
し、というふうにして、状態遷移系列が決定されたもの
である。

【０２３５】そして、上記(５４)式の状態遷移系列に従
って、 b₁₁(v_k),b₁₁(v_k),b₁₂(v_k),b₂₂(v_k),b₂₂(v_k),b₂₂(v_k),b₂₂(v_k),b₂₃(v_k),... （５５） をそれぞれ最大にするシンボルｖ_k の系列を得ることが
できる。もし、連続ＨＭＭを用いる場合には、上記(５
５)式のｂ_ij(ｖ_k) の代わりに、上記(３７)式で与えら
れる出力確率を用いて、 b₁₁(y),b₁₁(y),b₁₂(y),b₂₂(y),b₂₂(y),b₂₂(y),b₂₂(y),b₂₃(y),... (５６) をそれぞれ最大にするシンボルｙの系列を求めればよ
い。特に、分岐密度ｂ_ijl(y) が上記(４０)式のような
正規分布に従うような場合には、分岐確率ｃ_ijl の最も
高いｌに対する分岐密度ｂ_ijl(y)の平均値μ_ijl を求め
るシンボルｙとすることなどが考えられる。

【０２３６】以上のようにして、あるワードＷ_j に対応
するモデルλ_j＝｛Ａ_j,Ｂ_j,π_j｝からシンボル系列Ｚi
がひとつ得られることになる。このとき、モデルλ_i に
対するＺ_j の生起確率Ｐ(Ｚ_j｜λ_i) が上記(２３),(２
４)式、または、上記(２５),(２６)式によって計算され
る。そして、Ｚ_j の生成方法を考えると、モデルλ_jに
対する生起確率Ｐ(Ｚ_j｜λ_j)は非常に高いものとなるこ
とが期待できる。

【０２３７】ここで、もしＨＭＭを用いることによっ
て、各ワードに対応した良いモデルλ_i 、すなわち、対
応する音声信号を音響分析して得られるシンボル系列の
生起確率が高くなるようなモデルが得られるならば、上
記のような方法によって、モデルからシンボル系列を生
成した場合、対応するワードを発声した音声信号を音響
分析して得られるシンボル系列と類似した特性を持つこ
とが期待できる。

【０２３８】すなわち、認識対象ワードＷ_j に対応する
モデルをλ_j （１＜ｊ＜ｐ）とした場合、 特性１．モデルλ_j から生成したシンボル系列Ｚ_j に対
して、生起確率Ｐ(Ｚ_j｜λ_i)の最も高くなるモデルλ_i
は、λ_j である。 特性２．ワードＷ_j に対応する実音声信号を音響分析し
て得られるシンボル系列Ｙ_j に対し、生起確率Ｐ(Ｙ_j｜
λ_i)が高くなるモデルλ_i を用いて、λ_j から上記の方
法で生成したシンボル系列Ｚ_j の生起確率Ｐ(Ｚ_j｜λ_i)
を計算すれば同様に高くなる。 特性３．ワードＷ_j に対応する実音声信号を音響分析し
て得られるシンボル系列Ｙ_j に対し、生起確率Ｐ(Ｙ_j｜
λ_i)が低くなるモデルλ_i を用いて、λ_j から上記の方
法で生成したシンボル系列Ｚ_j の生起確率Ｐ(Ｚ_j｜λ_i)
を計算すれば同様に低くなる。 のような特性を持つことが期待できる。

【０２３９】そこで、上記のようにして求まるシンボル
系列を用いることで、上記第１の実施の形態に代わるワ
ード間の相関値を定義することが可能となる。

【０２４０】各認識対象ワードＷ_j （１＜ｊ＜ｐ）に対
応したモデルをλ_j とする。そして、そのモデルから上
記のような方法により生成されるシンボル系列をＺ_j と
する。このとき、λ_i から求まるＺ_j の生起確率を、ワ
ードＷ_j に対するワードＷ_iの距離尺度Ｄ(Ｗ_j,Ｗ_i) と
して定義する。

【０２４１】 Ｄ(Ｗ_j,Ｗ_i)≡Ｐ(Ｚ_j｜λ_i) （i=1,2,...,p） （５７） ただし、生起確率Ｐ(Ｚ_j｜λ_i)は

【０２４２】

【数２８】

【０２４３】のように正規化するものとする。

【０２４４】そして、この距離尺度Ｄ(Ｗ_j,Ｗ_i) をもと
に、ワード間の相関値を上記第１の実施の形態と同様に
定義する。

【０２４５】すなわち、ワードＷ₁ に対してワードＷ_i
（i=1,2,...,p） を近い順、すなわち距離尺度Ｄ(Ｗ₁,
Ｗ_i) の大きい順に並べる。同様に、ワードＷ₂,
Ｗ₃,...,Ｗ_pに対しても、ワードＷ_i （i=1,2,...,p）
を近い順に並べる。

【０２４６】そして、その順位、つまりＷ_j に対して近
い順にワードＷ_i を並べたときの順位をワードＷ_j に対
するワードＷ_i の相関値Ｒ(Ｗ_j,Ｗ_i) として定義する。
すなわち、例えば、一番近いものは１、二番目に近いも
のは２、以下同様にして、最も遠いものはｐとする。そ
の結果、この相関値は１からｐまでの整数値をとること
になり、小さいほど相関が高く、大きいほど相関が低い
と見なすことができるようになる。

【０２４７】ここで、相関が高い、すなわち相関値Ｒ
(Ｗ_j,Ｗ_i) が小さいとは、ワードＷ_jに対応した未知音
声信号Ｘ_j ^kを音響分析して得られる特徴量Ｙ_j ^kに対して
ワードＷ_i のモデルλ_i から求まる生起確率Ｐ(Ｙ_j ^k｜
λ_i) が高くなることが期待できることを意味し、相関
が低い、すなわち相関値Ｒ(Ｗ_j,Ｗ_i) が大きいとは、特
徴量Ｙ_j ^kに対してモデルλ_i から求まる生起確率Ｐ(Ｙ_j
^k｜λ_i) が低くなることが期待できることを意味する。

【０２４８】なお、以上の処理をまとめたのが、図１４
である。簡単に説明すると、まずステップＳ１４１にお
いて、各ワードＷ_j に対応するモデルλ_j の遷移確率か
ら、状態遷移系列Ｘ_j を決定する。そして、それに従っ
て、ステップＳ１４２において、出力確率をもとにシン
ボル系列Ｚ_j を決定する。次のステップＳ１４３におい
て、各Ｚ_j に対するモデルλ_i の生起確率から距離尺度
Ｄ(Ｗ_j,Ｗ_i) を求め、ステップＳ１４４に進んで、それ
に基づき、各Ｗ_j に対して、Ｗ_i （１≦ｉ≦ｐ）を近い
順に順序付ける。そして、その順位をもとに、ステップ
Ｓ１４５において相関値Ｒ(Ｗ_j,Ｗ_i) を計算する。

【０２４９】ここで、ステップＳ１４４の順序付けにお
いて、順位が同じとなるようなものがある場合には、と
もに同じ相関値を設定するものとする。

【０２５０】また、上記のように、ステップＳ１４１に
おいて、上記(４６)式、または上記(５２)式を用いて状
態遷移系列を決定したり、ステップＳ１４２において、
出力確率の最も大きなシンボル系列を求めたりする代わ
りに、乱数を発生させ、遷移確率と出力確率に従って、
状態を遷移させながらシンボル系列を生成する方法も考
えられる。この場合は、モデルλ_j からいくつものシン
ボル系列を生成することが可能となるので、これを
Ｚ_j ¹, Ｚ_j ², Ｚ_j ³,...とし、上記(５９)式の代わりに、

【０２５１】

【数２９】

【０２５２】によって、ワードＷ_j に対するワードＷ_i
の距離尺度Ｄ(Ｗ_j,Ｗ_i) を定義することになる。

【０２５３】以上のようにしてワードの相関値を定義す
ることで、認識対象ワードに対応するモデルだけから、
相関値を計算することが可能となり、認識対象ワードに
対応する実音声信号のデータを必ずしも用意する必要が
なくなる。特に、音韻(音素)モデルを連結することで、
各認識対象ワードに対応するモデルを構成するような場
合で、各音素モデルを学習するのに、認識対象ワードに
対応する実音声信号データを用いないような場合には、
その効果が期待できる。

【０２５４】＜認識対象ワードの構造化＞上述したよう
な手法で求められた相関値に基づいて、認識対象ワード
を構造化する方法は、前述した第１の実施の形態と同様
であるため、説明を省略する。

【０２５５】ただし、前述したスコアＳ（Ｘ,Ｗ_i）と
は、音声信号Ｘを音響分析して得られる特徴量Ｙのモデ
ルλ_i に対する生起確率Ｐ(Ｙ｜λ_i) のことである。

【０２５６】また、認識手法、記憶容量の見積り、及び
演算量の見積りについても、前述した第１の実施の形態
と同様であるため、説明を省略する。

【０２５７】＜シミュレーション結果＞実際に、３２６
５個の単語認識を、全探索と本発明の構造化を用いた探
索とで比較した結果について述べる。ただし、構造化の
方法としては、ワード間の距離尺度に上記(５７)式を用
いて相関値を計算し、上記認識対象ワードの構造化の項
で述べた構造化の方法を用いた。その結果、初期探索の
ワード数が２３１個となる４階層の探索木で、各階層の
あるワードからその下の階層のワードへのパスとして
は、平均１１本つながっているようなものが得られた。

【０２５８】この探索木を用いて、ある階層で抽出する
スコアの高いワード数をｎ＝１５として認識処理を行な
ってみた。まず、全探索による認識処理の場合、認識率
は９０．２％、スコア計算を行なったワード数は３２６
５個であった。これに対して、上記のような探索木を用
いた認識処理の場合、認識率は８９．９％とわずかの劣
化しか見せず、スコア計算を行なったワード数は、初期
探索に２３１個、構造探索に平均２７６個、合計５０８
個（平均）となった。つまり、全探索に比べ、計算量を
約８割低減することが可能となったことがわかる。

【０２５９】このような本発明の第２の実施の形態によ
れば、前述した本発明の第１の実施の形態と同様に、認
識ワードを制限して演算量を大幅に低減でき、局所的な
探索であってもスコアの高くなることが期待されるワー
ドは探索範囲に含まれるようになり、最終的に歪みをほ
とんど増大させることがなく、認識率の低下を防止でき
る。

【０２６０】さらに、本発明の第２の実施の形態によれ
ば、音声認識対象ワードに対する確率モデルとしてのＨ
ＭＭ（隠れマルコフモデル）を用意し、このモデルのパ
ラメータとしての上記遷移確率ａ_ijおよび出力確率ｂ_ij
(ｖ_k) （連続ＨＭＭの場合はｂ_ij(ｙ)）から、ワード間
の相関値Ｒ（Ｗ_j,Ｗ_i） を計算できるようにしたこと
で、認識辞書に対応する実音声データを大量に必要とす
ることがなくなり、探索木を効率的に求めることが可能
となる。

【０２６１】なお、本発明は、上述した実施の形態のみ
に限定されるものではなく、例えば、音声認識方法や装
置に適用する他に、音声認識用の辞書の形成方法、音声
認識用の辞書が記録された記録媒体等にも容易に適用で
きる。また、音声認識以外に、図形認識や文字認識等に
本発明を適用することもできる。

【０２６２】

【発明の効果】本発明によれば、音声認識対象ワードを
予め階層構造あるいは重複を許す木構造に構造化してお
き、その構造に従って探索することで認識ワードを制限
でき、演算量を大幅に低減することが可能となる。しか
も、あらたなワード間の相関値の定義と、その相関値に
基づく認識ワードの構造化方法によって、局所的な探索
であっても、スコアの高くなることが期待されるワード
は探索範囲に含まれるようになり、最終的に、歪みをほ
とんど増大させることはない。すなわち、認識率をほと
んど劣化させることはない。さらに、余分に必要な記憶
容量もワード数に対してその約１０倍程度パス情報を持
っておけばよいだけであり、比較的小さなものとなる。

【０２６３】このような本発明は、音声認識以外に、図
形認識や文字認識等にも適用でき、この場合には、音声
認識対象ワードは一般的にパターン認識対象となり、こ
れらのパターン認識対象を階層構造あるいは重複を許す
木構造に階層化しておくことになる。

【０２６４】また、音声認識対象ワードあるいはパター
ン認識対象に対する確率モデルとしてのＨＭＭ（隠れマ
ルコフモデル）を用意し、このモデルのパラメータから
ワード間の相関値を計算できるようにしたことで、認識
辞書に対応する実音声データのような実データを大量に
必要とすることがなくなり、探索木を効率的に求めるこ
とが可能となる。

【図面の簡単な説明】

【図１】一般的な音声認識のシステムの構成を概略的に
示すブロック図である。

【図２】構造化を用いた認識の概念を説明するためのワ
ード分布を示す図である。

【図３】代表ワードとその属するワードの関係の例を示
す図である。

【図４】認識対象ワードを階層構造に構造化する方法を
説明するためのフローチャートである。

【図５】階層構造に構造化していく過程の概念を説明す
るための図である。

【図６】本発明の構造化によって得られる階層構造及び
探索木の例を示す図である。

【図７】グループ化に関する基本的な方法を説明するた
めのフローチャートである。

【図８】グループ化の方法を改良した方法を説明するた
めのフローチャートである。

【図９】相関の強いワード関係を説明するための図であ
る。

【図１０】本発明の実施の形態が適用される音声認識シ
ステムの構成の一例を示すブロック図である。

【図１１】本発明に係る実施の形態により階層構造化さ
れた探索木を用いた認識方法を説明するためのフローチ
ャートである。

【図１２】隠れマルコフモデル（ＨＭＭ）の一般的な状
態遷移モデルを示す図である。

【図１３】ＨＭＭのレフトツーライト（left-to-right
）モデルを示す図である。

【図１４】ワード間の相関値の計算過程を説明するため
のフローチャートである。

【符号の説明】

１、１０１ 入力部 ２、１０２ 音響分析部 ３、１０３ 認識部 ４、１０４ パラメータ記憶部 ５、１０５ 出力部 １０６ 探索木記憶部

Claims (20)

【特許請求の範囲】
1. 【請求項１】 複数の音声認識対象ワードが与えられ、
   未知の入力音声信号に対して、予め求めておいたパラメ
   ータを用いて、上記音声認識対象ワードにスコア付けを
   行なうことで、対応する音声認識対象ワードを抽出し認
   識する音声認識方法において、 上記各音声認識対象ワード間の相関値を用いて上記各音
   声認識対象ワードを予め階層構造に構造化しておき、こ
   の階層構造に構造化された音声認識対象ワードの辞書を
   用いて、上記未知の入力音声信号に対してスコア計算を
   行なう音声認識対象ワードを限定することを特徴とする
   音声認識方法。
2. 【請求項２】 上記各音声認識対象ワード間の相関値と
   して、 各認識対象ワードに対応した音声データから求まるスコ
   アの期待値に基づく値をもとにスコアの高い順に全認識
   対象ワードを順序付けたときの順位を用いることを特徴
   とする請求項１記載の音声認識方法。
3. 【請求項３】 上記階層構造に構造化された音声認識対
   象ワードの辞書を用い、未知音声信号に対する認識処理
   を行なう際に、 上記階層構造のある適当な階層の音声認識対象ワードに
   対するスコア計算と、そこから決定されるスコアの高い
   ワードに属する一つ下の階層のワードに対するスコア計
   算と、さらにそこから決定されるスコアの高いワードに
   属するもう一つ下の階層のワードに対するスコア計算
   と、以下同様に最下位の階層に至るまでワードの抽出と
   スコア計算とを行なっていき、最終的には、それらのス
   コア計算を行なったワードの中から、少なくともスコア
   の最も高いものを選び出すことを特徴とする請求項１記
   載の音声認識方法。
4. 【請求項４】 上記スコア計算を一旦行なったワードに
   関しては、そのスコアを記憶しておき、以後スコア計算
   が必要な場合には、記憶されたスコアを用いるようにす
   ることで、重複したスコア計算を行なわないようにする
   ことを特徴とする請求項３記載の音声認識方法。
5. 【請求項５】 上記複数の音声認識対象ワードに対する
   確率モデルを用意し、上記未知の入力音声信号に対し
   て、上記各確率モデルの生起確率を計算し、その生起確
   率に従って、対応する音声認識対象ワードを抽出し認識
   する音声認識方法であって、 上記各音声認識対象ワードに対応する確率モデルの状態
   遷移確率をもとに状態遷移系列を決定し、その状態遷移
   に対応する出力シンボル確率をもとにシンボル系列を決
   定し、得られたシンボル系列の生起確率を上記各音声認
   識対象ワードに対応するモデルに対して計算し、この生
   起確率に基づく音声認識対象ワード間の相関値を用いて
   上記各音声認識対象ワードを階層構造に構造化しておく
   ことを特徴とする請求項３記載の音声認識方法。
6. 【請求項６】 上記各音声認識対象ワードに対応する上
   記確率モデルの状態遷移確率をもとに状態遷移系列を複
   数決定し、それぞれの状態遷移系列から、その状態遷移
   に対応する出力シンボル確率をもとにシンボル系列を決
   定し、得られた複数のシンボル系列の生起確率を各ワー
   ドに対応するモデルに対して計算し、それらの生起確率
   を各ワードに対応するモデルに対して計算し、それらの
   生起確率の期待値の高い順に全音声認識対象ワードを順
   序付け、その順位をワード間の上記相関値として用いる
   ことを特徴とする請求項５記載の音声認識方法。
7. 【請求項７】 複数のパターン認識対象が与えられ、未
   知の入力信号に対して、予め求めておいたパラメータを
   用いて、上記パターン認識対象にスコア付けを行なうこ
   とで、対応するパターン認識対象ワードを抽出し認識す
   るパターン認識方法に用いられるパターン認識対象の情
   報を形成する情報形成方法において、 上記各パターン認識対象間の相関値をもとに、相互に相
   関値が小さくなるパターン認識対象どうしをグループ化
   して行き、各グループの代表となるパターン認識対象を
   選び出すことで、代表のパターン認識対象とそれに属す
   るパターン認識対象の集合という関係にグループ化する
   工程と、 上記グループ化の過程で、各グループの代表に選ばれな
   かったパターン認識対象に関しては、さらに、上記相関
   値が小さく、かつ、いずれかのグループの代表となって
   いるパターン認識対象に対して、その代表のパターン認
   識対象のグループにも属するようにする工程と、 上記グループ化と上記グループへの追加を行うことで得
   られた代表のパターン認識対象に対して新たにグループ
   化とグループへの追加を行なう工程とを有し、 これらの工程を任意の回数繰り返すことで、階層構造に
   構造化することを特徴とする情報形成方法。
8. 【請求項８】 上記相互に相関値が小さくなるパターン
   認識対象をグループ化する際に、その相関値ができるだ
   け小さいものどうしからグループ化を行なっていくこと
   を特徴とする請求項７記載の情報形成方法。
9. 【請求項９】 上記相関値が小さいかどうかの判定条件
   を、そのグループ化の状況に応じて、各パターン認識対
   象ごとに緩くしたり厳しくしたりすることを特徴とする
   請求項７記載の情報形成方法。
10. 【請求項１０】 上記パターン認識は音声認識であり、
    パターン認識対象は音声認識対象ワードであることを特
    徴とする請求項７記載の情報形成方法。
11. 【請求項１１】 複数の音声認識対象ワードが与えら
    れ、未知の入力音声信号に対して、予め求めておいたパ
    ラメータを用いて、上記音声認識対象ワードにスコア付
    けを行なうことで、対応する音声認識対象ワードを抽出
    し認識する音声認識装置において、 上記各音声認識対象ワード間の相関値を用いて上記各音
    声認識対象ワードを予め階層構造に構造化しておき、こ
    の階層構造に構造化された音声認識対象ワードの辞書を
    用いて、上記未知の入力音声信号に対してスコア計算を
    行なう音声認識対象ワードを限定することを特徴とする
    音声認識装置。
12. 【請求項１２】 上記各音声認識対象ワード間の相関値
    として、 各認識対象ワードに対応した音声データから求まるスコ
    アの期待値に基づく値をもとにスコアの高い順に全認識
    対象ワードを順序付けたときの順位を用いることを特徴
    とする請求項１１記載の音声認識装置。
13. 【請求項１３】 上記階層構造に構造化された音声認識
    対象ワードの辞書を用い、未知音声信号に対する認識処
    理を行なう際に、 上記階層構造のある適当な階層の音声認識対象ワードに
    対するスコア計算と、そこから決定されるスコアの高い
    ワードに属する一つ下の階層のワードに対するスコア計
    算と、さらにそこから決定されるスコアの高いワードに
    属するもう一つ下の階層のワードに対するスコア計算
    と、以下同様に最下位の階層に至るまでワードの抽出と
    スコア計算とを行なっていき、最終的には、それらのス
    コア計算を行なったワードの中から、少なくともスコア
    の最も高いものを選び出すことを特徴とする請求項１１
    記載の音声認識装置。
14. 【請求項１４】 上記スコア計算を一旦行なったワード
    に関しては、そのスコアを記憶しておき、以後スコア計
    算が必要な場合には、記憶されたスコアを用いるように
    することで、重複したスコア計算を行なわないようにす
    ることを特徴とする請求項１３記載の音声認識装置。
15. 【請求項１５】 上記複数の音声認識対象ワードに対す
    る確率モデルを用意し、上記未知の入力音声信号に対し
    て、上記各確率モデルの生起確率を計算し、その生起確
    率に従って、対応する音声認識対象ワードを抽出し認識
    する音声認識装置であって、 上記各音声認識対象ワードに対応する確率モデルの状態
    遷移確率をもとに状態遷移系列を決定し、その状態遷移
    に対応する出力シンボル確率をもとにシンボル系列を決
    定し、得られたシンボル系列の生起確率を上記各音声認
    識対象ワードに対応するモデルに対して計算し、この生
    起確率に基づく音声認識対象ワード間の相関値を用いて
    上記各音声認識対象ワードを階層構造に構造化しておく
    ことを特徴とする請求項１３記載の音声認識装置。
16. 【請求項１６】 上記各音声認識対象ワードに対応する
    上記確率モデルの状態遷移確率をもとに状態遷移系列を
    複数決定し、それぞれの状態遷移系列から、その状態遷
    移に対応する出力シンボル確率をもとにシンボル系列を
    決定し、得られた複数のシンボル系列の生起確率を各ワ
    ードに対応するモデルに対して計算し、それらの生起確
    率を各ワードに対応するモデルに対して計算し、それら
    の生起確率の期待値の高い順に全音声認識対象ワードを
    順序付け、その順位をワード間の上記相関値として用い
    ることを特徴とする請求項１５記載の音声認識装置。
17. 【請求項１７】 複数のパターン認識対象が与えられ、
    未知の入力信号に対して、予め求めておいたパラメータ
    を用いて、上記パターン認識対象にスコア付けを行なう
    ことで、対応するパターン認識対象ワードを抽出し認識
    するパターン認識方法に用いられるパターン認識対象の
    情報が記録される記録媒体において、 上記各パターン認識対象間の相関値をもとに、相互に相
    関値が小さくなるパターン認識対象どうしをグループ化
    して行き、各グループの代表となるパターン認識対象を
    選び出すことで、代表のパターン認識対象とそれに属す
    るパターン認識対象の集合という関係にグループ化し、 上記グループ化の過程で、各グループの代表に選ばれな
    かったパターン認識対象に関しては、さらに、上記相関
    値が小さく、かつ、いずれかのグループの代表となって
    いるパターン認識対象に対して、その代表のパターン認
    識対象のグループにも属するようにし、 上記グループ化と上記グループへの追加を行うことで得
    られた代表のパターン認識対象に対して新たにグループ
    化とグループへの追加を行ない、 これらの工程を任意の回数繰り返すことで、階層構造に
    構造化されたパターン認識対象の情報が記録されること
    を特徴とする記録媒体。
18. 【請求項１８】 上記相互に相関値が小さくなるパター
    ン認識対象をグループ化する際に、その相関値ができる
    だけ小さいものどうしからグループ化を行なっていくこ
    とを特徴とする請求項１７記載の記録媒体。
19. 【請求項１９】 上記相関値が小さいかどうかの判定条
    件を、そのグループ化の状況に応じて、各パターン認識
    対象ごとに緩くしたり厳しくしたりすることを特徴とす
    る請求項１７記載の記録媒体。
20. 【請求項２０】 上記パターン認識は音声認識であり、
    パターン認識対象は音声認識対象ワードであることを特
    徴とする請求項１７記載の記録媒体。