JPH03243996A - 音声認識装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、音声を認識する音声認識装置において、ベク
トル量子化法を用いた認識手法の改良に関するものであ
る。

〔従来の技術〕

従来、音声認識を少ない計算量とメモリ量により実現す
る方法として、ベクトル量子化法を用いたものが存在し
た。たとえば、電子通信学会論文誌’８２／８　Ｖｏｌ
、Ｊ６５−Ｄ　Ｎｏ、８の第１０４１頁から１０４８頁
に「擬音韻標準バタンによる大語い単語音声認識」と題
して発表されている論文（以下、文献１と称す）に示さ
れている方法がある。以下、説明を簡単にするため、特
定話者の単語を単位とした認識の場合について述べる。

複数の話者に対する場合や単語以外の認識単位に適用す
る場合も同様に行うことができる。

音声パターンは特徴ベクトルの時系列で表されていると
する。標準パターンを作成する場合、学習用音声として
、認識対象となる単語の音声パターンを用意する。まず
、学習用音声中の全特徴ベクトルを少ない数で代表する
特徴ベクトルの集合をクラスタリング法を用いて求める
。このクラスタリング法には、例えば電子情報通信学会
編、牛用を一部「確率モデルによる音声認識」　（以下
、文献２と称す）の第２７頁に述べられているようなＬ
ＢＧアルゴリズム゛を用いることができる。これらの代
表特徴ベクトルをコードベクトルとし、このコードベク
トルの集合をコードブックとする。

認識対象となる単語の音声パターンは、このコードブッ
クを用いてベクトル量子化し標準パターンを作成する。

すなわち、各特徴ベクトルを最も距離が近いコードベク
トルを表すコードで置き換える。その結果得られた、コ
ード列で表されたパターンを標準パターンとして保持す
る。

一般に、コードベクトルの数は、全認識対象の音声パタ
ーンを構成する特徴ベクトルの数と比べてかなり小さい
。このため、特徴ベクトルの時系列で標準パターンを表
す場合と比べて、大幅に少ないメモリ量で標準パターン
を表すことができる。

認識法として、文献１に述べられているようなりＰマツ
チング法を用いる場合、ベクトル量子化を用いない方式
では、入力された音声パターンの特徴ベクトルと標準パ
ターンを構成する全ての特徴ベクトルとの間の距離を計
算する必要がある。

一方、ベクトル量子化を用いた方式では、まず各コード
ベクトルと入力された音声パターンの特徴ベクトルとの
間の距離が計算され、テーブルに保持される。ＤＰマツ
チング処理時に、標準パターンとの間の距離の値が、必
要に応じて対応するテーブルから読み出される。これに
より、ベクトル量子化を用いた方式では、標準パターン
を構成する全ての特徴ベクトルとの間の距離を計算する
代わりに、各コードベクトルとの間の距離のみを計算す
ればよいので、距離計算量を大幅に少なくすることがで
きる。

〔発明が解決しようとする課題〕

ベクトル量子化法を用いた音声認識において、最初に少
数の単語を登録する場合、それら少数の単語の音声パタ
ーンを用いてコードブックが作られ、さらに、そのコー
ドブックを用いて標準パターンが作られる。この状態か
ら単語を新たに追加して登録する場合、すでに作られて
いるコードブックを用いて追加された単語をベクトル量
子化し標準パターンを作成することになる。このとき、
追加登録された単語−中に、最初に登録された単語中に
存在しない音素がある場合は、その音素に対応するコー
ドベクトルがコードブック中に無いため、全く異なる特
徴ベクトルに同一コードが対応されるおそれがある。こ
の場合、ベクトル、量子化による特徴ベクトルの歪が大
きくなるため、認識誤りが生じやすくなるという問題が
あった。

これを防ぐために、登録された単語のベクトル量子化前
の音声パターンを全て保存しておき、単語を追加登録す
る場合、保存されている音声パターンと追加された音声
パターンを用いてコードブックをつくり直すという方法
がある。しかし、この方法では音声パターンを保存して
おくため、多くのメモリが必要であるという問題があっ
た。

本発明の目的は、ベクトル量子化を用いた音声認識にお
いて、メモリ量を増やすことなしに、新たに単語を追加
登録した場合も精度の良い標準パターンを作成できるよ
うにして、認識性能の高い音声認識装置を提供すること
にある。

〔課題を解決するための手段〕

第１の発明は、特徴ベクトルの時系列で表される音声パ
ターンの集合をベクトル量子化して標準パターンとして
保持し、この標準パターンを用いて入力された音声パタ
ーンを認識する音声認識装置において、 前記音声パターンの集合からベクトル量子化のためのコ
ードブックを作成するコードブック作成部と、 前記コードブックを保持するコードブック記憶部と、 前記コードブックを構成するコードベクトルに対応する
前記音声パターンの集合中の特徴ベクトルの数であるコ
ード出現度数を保持するコード出現度数記憶部と、 前記コードブックを用いて前記音声パターンの集合をベ
クトル量子化しコード列で表される標準パターンを作成
する標準パターン作成部と、前記標準パターンを保持す
る標準パターン記憶部と、 前記コードブックと前記標準パターンを用いて入力され
た音声パターンを認識する認識部とを有し、 標準パターンを増やすために音声パターンを追加入力し
た際に、前記コードブック作成部は、追加入力された音
声パターンを構成する特徴ベクトルと、前記コードブッ
クを構成するコードベクトルを前記コード出現度数に応
じた値で重みを付けたものから新しいコードブックを作
成し、前記標準パターン作成部は、既に保持されている
標準パターンに対しては新しいコードブックに古いコー
ドブックを対応づけることにより得られたコードに標準
パターンを変換し、追加入力された音声パターンに対し
ては新しいコードブックを用いてベクトル量子化するこ
とにより標準パターンを作成することを特徴とする。

第２の発明は、第１の発明において、標準パターンを増
やすために音声パターンを追加入力し、追加入力された
音声パターンを構成する特徴ベクトルと、前記コードブ
ックを構成するコードベクトルを前記コード出現度数に
応じた値で重み付けたものから新しいコードブックを作
成する際に、前記コード出現度数が予め定められた基準
より大きいコードベクトルを判定するコード出現度数判
定部をさらに有し、 前記コードブック作成部は、前記コード出現度数判定部
により基準より大きいと判定されたコードベクトルに対
しては変更せずに新しいコードベクトルを作成すること
を特徴とする。

第３の発明は、第１または第２の発明において、標準パ
ターンの一部に新しく入力された音声パターンを入れ換
える際に、除かれる標準パターン中で用いられているコ
ードブックの数を前記コード出現度数から除くコード計
数部をさらに有し、前記コードブック作成部は、新しく
入力された音声パターンを構成する特徴ベクトルと、前
記コードブックを構成するコードベクトルを求められた
前記コード出現度数に応じた値で重みを付けたものとか
ら新しいコードブックを作成することを特徴とする。

〔作用］ 本発明は、ベクトル量子化を用いた音声認識において、
単語を追加登録する場合、予め登録されている音声と追
加登録された音声双方を精度良く表せるコードブックを
用意することにより、高性能な音声認識を実現するもの
である。

学習用音声パターンは、特徴ベクトルｘ　（ｉ）の時系
列で表される。単語Ｗの学習用音声パターンをＸ１ｖ−
（ｘｗ（ｉ）　；　ｉ　＝　１−Ｎｗ）とする。認識対
象単語の音声パターンの集合（Ｘｌ、ｌ；Ｗ＝１・・・
Ｗ）を用いて、コードベクトルｃ　（ｊ）の集合である
コードブックＣ＝　（ｃ（ｊ）；　ｊ＝１・・・Ｍ）を
作成する。

このコードブックＣは、例えば文献２に示されているよ
うなＬＢＧアルゴリズムを用いて求めることができる。

このコードブックを求める際に、コードベクトルｃ（ｊ
）によって代表される特徴ベクトルの集合Ｓ、に含まれ
る特徴ベクトルの数を求め、この数をコード出現度数ｋ
（ｊ）とする。このコード出現度数ｋ（ｊ）を、コード
ベクトルｃ（ｊ）と対応付けて保持しておく。

続いて、学習用音声パターンＸ１．ｌをコードブックＣ
を用いてベクトル量子化する。すなわち、特徴ベクトル
ｘ−（ｉ）に対して、最もベクトル間距離ｄ　（ｘ、（
ｉ）、　　ｃ（ｍ））が小さくなるコーＶヘクＩ−）Ｌ
ｔＣ（ホ）の番号（コード）ｍを求め、学習用音声パタ
ーンをコード列Ｂｗ　−（ｍｗ（ｉ）　；　ｉ　＝　１
−Ｎ　）に変換する。このコード列Ｂ。を、標準パター
ンとして保持しておく。

入力された音声パターンＡを認識する場合は、このコー
ドブックＣと標準パターンＢ。を用いて、文献１に述べ
られているようなりＰマ、ンチングによる方法で認識す
る。

ここで、認識対象単語を（ｗ、；ｗ−Ｗ＋１・・・Ｗ２
）だけ追加する場合を考える。この時、これらの単語に
対する音声パターンの集合（Ｘ、；ｗ＝Ｗ＋１・・・Ｗ
２）を用いて、コードブックＣを作り替える。既に作ら
れているコードブックＣ中のコードベクトルｃ（ｊ）と
追加された音声パターンの集合（Ｘ、；ｗ＝Ｗ＋１・・
・Ｗ２）中の特徴ベクトルｘ、（ｉ）から、新しいコー
ドブックＣ７を作成する。

これは文献２に示されているようなＬＢＧアルゴリズム
を用いて実現できる。この時、求められた特徴ベクトル
の集合Ｓｊの代表ベクトルであるセントロイドベクトル
Ｓ、は、集合の要素である特徴ベクトルの平均ベクトル
とする。ここでは、平均ベクトルを求める際に、コード
ベクトルｃ　（ｊ）についてはコード出現度数ｋ（ｊ）
に応じた重みを付加する。集合Ｓ、に含まれるコードベ
クトルを（ｃ（ｊ）；ｊ＝１・・・Ｐ）、特徴ベクトル
を（Ｘ　（ｉ）　；ｉ＝１・・・Ｑ）とすると、セント
ロイドベクトルＳｊ　は、 ・　・　・（１） となる。ここでｆ　（ｋ）は重みを調整するための関数
である。ここでは、 ｆ　（ｋ）　＝ｋ　　　　　　　　　　　・・・（２）
なる関数を用いるとする。既に登録されている標準パタ
ーンに使われているコードベクトルを優先するため、コ
ード出現度数に対する重みを大きくしたい場合は、たと
えば、 ｆ　（ｋ）＝ｋ”　　　　　　　　　　　・・・（３）
なる関数を用いればよい。

新しい標準パターンを作るときは、まず、コードブック
Ｃ中のコードベクトルｃ　（ｊ）に最も距離が小さい、
新しいコードブック０１％中のコードベクトルｃｎ（ｇ
（ｊ））を選び出す。選び出された、コードｊに対応す
る新しいコードブックのコードをｇＵ）とする。既に登
録されている標準パターン（Ｂ　ｈ　；　ｗ　＝　１・
・・Ｗ）に関しては、コード列Ｂｗ　＝　（ｍｗ（ｉ）
　；　ｉ　＝　１　・・・Ｎ）を置き換え、Ｂ８＝　（
ｇ　（ｍｗ（ｉ））　　；　ｉ　＝　１−Ｎ）とする。

また、追加された認識対象単語（ｗ；ｗ＝Ｗ−１−１・
・・Ｗ２）に対しては、新しいコードブックＣ，。

を用いてベクトル量子化し、コード列Ｂ、＝（ｍｗ（１
）；　ｉ＝１・・・Ｎ）に変換する。求められたコード
列を標準パターンとする。

認識対象単語を追加した場合、既に登録されている標準
パターンは既にベクトル量子化されているため、これを
コードブックＣを用いて特徴ベクトル列に戻し、さらに
新しいコードブックＣ７を用いてベクトル量子化すると
、量子化誤差、が累積されて標準パターンの精度が低下
してしまう。これを防ぐためには、標準パターンの量子
化に用いたコードベクトルは、認識対象単語が追加され
てもなるべく動かないようにすればよい。このとき、コ
ード出現度数ｋ（ｊ）が多いコードベクトル程、動かし
た際に標準パターンの精度低下に及ぼす影響が大きい。

そこで、第２の発明では、コード出現度数ｋ　Ｕ）が比
較的大きいコードベクトルｃ　（ｊ）に関しては、単語
を追加登録した場合もコードベクトルを動かさないよう
にする。たとえば、コード出現度数ｋ　（ｊ）の上位ｎ
個に対するコードベクトルはクラスタリング中に変更し
ないとする。この方法として、たとえば、文献２に述べ
られているようなＬＢＧアルゴリズムを用いる場合、ま
ず、コードブックの初期値としてコードブックＣを用い
る。続いて、コードベクトルｃ　（ｊ）に対応する特徴
ベクトルの集合５（ｊ）を求め、（１）式に従ってセン
トロイドベクトルを求め、新しいコードベクトルＣイ（
ｊ）を作成する。このとき、コード出現度数ｋ（ｊ）の
上位ｎ個に対するコードベクトルｃ　（ｊ）は変更せず
に、ｃＪ）＝　ｃ　（ｊ）とする。変更しないコードベ
クトルの選び方としては、この他にもたとえば、コード
出現度数が予め定められた数に以上の場合は変更しない
とする方法等を用いることができる。

また、認識対象単語を変更する場合は、新しく追加され
る単語と共に、標準パターン中から除かれる単語が存在
する。このとき、除かれた単語に特有な特徴ベクトルが
ある場合は、このような特徴ベクトルを表現するための
コードベクトルがコードブック中に残ってしまう。コー
ドブック中のコードベクトルの数は限られているが、こ
のように、標準パターンを表現するために必要ないコー
ドベクトルがコードブック中に存在すると、標準パター
ンのベクトル量子化の精度が低下する。

そこで、第３の発明では、認識対象単語を除く場合は、
その標準パターンに含まれるコードの数だけコード出現
度数ｋ（ｊ）から除いて、コードブックを作成する。こ
れにより、必要ないコードに関しては、コード出現度数
が少なくなるか、または０になるため、実際の標準パタ
ーンに則したコードブックを作成することができる。

〔実施例〕

本発明による音声認識装置の実施例について図面を参照
して説明する。

第１図は第１の発明による一′実施例を示す構成図であ
る。

この音声認識装置は、学習用音声パターンを保持する学
習用音声パターン記憶部１と、音声パターンの集合から
ベクトル量子化のためのコードブックを作成するコード
ブック作成部２と、コードブックを保持するコードブッ
ク記憶部３と、コードブックを構成するコードベクトル
に対応する音声パターンの集合中の特徴ベクトルの数で
あるコード出現度数を保持する出現度数記憶部４と、コ
ードブックを用いて音声パターンの集合をベクトル量子
化しコード列で表される標準パターンを作成する標準パ
ターン作成部５と、標準パターンを保持する標準パター
ン記憶部６と、コードブックと標準パターンを用いて入
力された音声パターンを認識する認識部７とを有してい
る。

以上の構成の音声認識装置において、まず標準パターン
を登録する場合について説明する。入力された学習用音
声パターンＸは、学習用音声パターン記憶部１に保持さ
れる。コードブック作成部２では、学習用音声パターン
記憶部ｌに保持されている学習用音声パターンＸと、コ
ードブック記憶部３の中に保持されているコードブック
Ｃを用いて新しいコードブックＣ，，を作成する。コー
ド出現度数記憶部４中にはコード出現度数ｋが保持され
ている。コード出現度数には初期値として全て０の値が
保持されている。コードブックは文献２に述べられてい
るようなＬＢＧアルゴリズムを用いて作成する。このア
ルゴリズムを実行する中で、代表ベクトルＳは、コード
出現度数ｋを用いて（１）式に従って求める。求められ
た新しいコードブックＣ７およびコード出現度数には、
それぞれコードブック記憶部３とコード出現度数記憶部
４中に保持される。

標準パターン作成部５では、まずコードブック記憶部３
中に保持されているコードブックＣと新しく作られたコ
ードブックＣ，，中のコードベクトル間の対応テーブル
が作成される。このテーブルに従って標準パターン記憶
部６中に保持されている標準パターンＢが変換される。

続いて、コードブック記憶部３の中の新しいコードブッ
クＣ，，を用いて、学習用音声パターン記憶部１中の学
習用音声パターンＸがベクトル量子化され、標準パター
ンＢとして標準パターン記憶部６中に保持される。標準
パターンを追加登録する際も、上に述べた処理が行われ
る。

認識時には、入力された音声パターンＸが認識部７にて
、コードブック記憶部３中のコードブックＣｆｉと標準
パターン記憶部６中の標準パターンＢを用いて、文献１
に述べられているような方法で認識され、認識結果が出
力される。

第２図は、第２の発明による一実施例を示す構成図であ
る。

この音声認識装置は、標準パターンを増やすために音声
パターンを追加入力し、追加入力された音声パターンを
構成する特徴ベクトルと、コードブックを構成するコー
ドベクトルをコード出現度数に応じた値で重みを付けた
ものから新しいコードブックを作成する際に、コード出
現度数が予め定められた基準より大きいコードベクトル
を判定する出現度数判定部１０を有し、コードブック作
成部２は、コード出現度数判定部１０で基準より大きい
と判定されたコードベクトルに対しては変更せずに新し
いコードベクトルを作成する。その他の構成は第１図の
音声認識装置と同じである。

この音声認識装置では、学習用音声パターン記憶部ｌに
保持されている学習用音声パターンＸを基に、コードブ
ック作成部２で新しいコードブックを作成する際に、ま
ず、コード出現度数判定部１０では、コード出現度数記
憶部４からコード出現度数ｋを読み出し、コード出現度
数ｋが大きい順に上位ｎ個のコードを選び出す。コード
ブック作成部２では、この選び出された上位ｎ個のコー
ドは変更しないようにしてコードブックを作成する。

第３図は、第３の発明による一実施例を示す構成図であ
る。

この音声認識装置は、標準パターンの一部を新しく入力
された音声パターンと入れ換える際に、除かれる標準パ
ターン中で用いられているコードブックの数をコード出
現度数から除くコード計数部１１を有し、コードブック
作成部２は新しく入力された音声パターンを構成する特
徴ベクトルと、コードブックを構成するコードベクトル
を求められたコード出現度数に応じた値で重みを付けた
ものとから新しいコードブックを作成する。その他の構
成は第１図の音声認識装置と同じである。

この音声認識装置では、認識対象単語を標準パターンか
ら除く場合、まず標準パターン記憶部６中から該当する
標準パターンを取り除くと共に、除かれる標準パターン
中に含まれているコードの数をコード計数部１１におい
てコード毎に集計する。

続いて、コード出現度数記憶部４に保持されているコー
ド出現度数ｋから集計されたコード数を減算する。以降
は、既に述べた標準パターン作成処理に従う。

〔発明の効果〕

本発明によれば、ベクトル量子化を用いた音声認識にお
いて、認識語案を変更しても精度の高い標準パターンが
得られるようにすることにより高性能の音声認識装置を
実現することができる。

【図面の簡単な説明】

第１図は、第１の発明による実施例を示す構成図、 第２図は、第２の発明による実施例を示す構成図、 第３図は第３の発明による実施例を示す構成図である。 ｌ・・・・・学習用音声パターン記憶部２・・・・・コ
ードブック作成部 ３・・・・・コードブック記憶部 ４・・・・・コード出現度数記憶部 ５・・・・・標準パターン作成部 ６・・・・・標準パターン記憶部 ７・・・・・認識部 ＩＯ・・・・・コード出現度数判定部 １１・・・・・コード計数部

Claims (3)

【特許請求の範囲】
1. （１）特徴ベクトルの時系列で表される音声パターンの
   集合をベクトル量子化して標準パターンとして保持し、
   この標準パターンを用いて入力された音声パターンを認
   識する音声認識装置において、前記音声パターンの集合
   からベクトル量子化のためのコードブックを作成するコ
   ードブック作成部と、 前記コードブックを保持するコードブック記憶部と、 前記コードブックを構成するコードベクトルに対応する
   前記音声パターンの集合中の特徴ベクトルの数であるコ
   ード出現度数を保持するコード出現度数記憶部と、 前記コードブックを用いて前記音声パターンの集合をベ
   クトル量子化しコード列で表される標準パターンを作成
   する標準パターン作成部と、前記標準パターンを保持す
   る標準パターン記憶部と、 前記コードブックと前記標準パターンを用いて入力され
   た音声パターンを認識する認識部とを有し、 標準パターンを増やすために音声パターンを追加入力し
   た際に、前記コードブック作成部は、追加入力された音
   声パターンを構成する特徴ベクトルと、前記コードブッ
   クを構成するコードベクトルを前記コード出現度数に応
   じた値で重みを付けたものから新しいコードブックを作
   成し、前記標準パターン作成部は、既に保持されている
   標準パターンに対しては新しいコードブックに古いコー
   ドブックを対応づけることにより得られたコードに標準
   パターンを変換し、追加入力された音声パターンに対し
   ては新しいコードブックを用いてベクトル量子化するこ
   とにより標準パターンを作成することを特徴とする音声
   認識装置。
2. （２）標準パターンを増やすために音声パターンを追加
   入力し、追加入力された音声パターンを構成する特徴ベ
   クトルと、前記コードブックを構成するコードベクトル
   を前記コード出現度数に応じた値で重み付けたものから
   新しいコードブックを作成する際に、前記コード出現度
   数が予め定められた基準より大きいコードベクトルを判
   定するコード出現度数判定部をさらに有し、 前記コードブック作成部は、前記コード出現度数判定部
   により基準より大きいと判定されたコードベクトルに対
   しては変更せずに新しいコードベクトルを作成すること
   を特徴とする請求項１記載の音声認識装置。
3. （３）標準パターンの一部に新しく入力された音声パタ
   ーンを入れ換える際に、除かれる標準パターン中で用い
   られているコードブックの数を前記コード出現度数から
   除くコード計数部をさらに有し、 前記コードブック作成部は、新しく入力された音声パタ
   ーンを構成する特徴ベクトルと、前記コードブックを構
   成するコードベクトルを求められた前記コード出現度数
   に応じた値で重みを付けたものとから新しいコードブッ
   クを作成することを特徴とする請求項１または２記載の
   音声認識装置。