JPH0415694A - 単語認識システム - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 ［産業上の利用分野］ 本発明は単語認識システムに間する。

［従来の技術］ 本出願人は、ニューラルネットワークを用いた単語認識
システムを提案している。この単語認識システムにあっ
ては、ニューラルネットワークの出力パターンに対し一
定のしきい値θを設け、例えばニューラルネットワーク
の１つの出力二二ットの出力値か０以上の値をとり、他
の出力ユニッｌ〜の出力値の全てか（１−Ｏ）以下の値
をとる場合に、今回の入力単語は出力値か０以上である
出力ユニットに対応する登録単語と同一単語であるもの
と認識する。

［発明か解決しようとする課題］ 然しなから、ニューラルネットワークの出力パターンは
必ずしも上述の如くにならず、００以上の出力値を示す
出力ユニットか複数個あるパターン、或いは■全ての出
力ユニットの出力値が（１−４９）以下の値をとるパタ
ーン等の出現をみることかある。そして、このような出
力パターンについては、単語認識か困難ないし不能とな
るのである。

本発明は、全登録単語を学習対象として構築されたニュ
ーラルネットワークの出力パターンか入力単語を特定で
きないパターンである場合にも、正確に単語認識を行な
うことを目的とする。

［課題を解決するための手段］ 請求項１に記載の本発明は、ニューラルネットワークを
用いた単語認識システムにおいて、全登録単語を学習対
象として構築した全単語用ニューラルネットワークと、
音素列の並びか類似パターンであることに基づいて、全
登録単語をクルーフ分けした各クループ毎の登録単語を
学習対象として構築した各グループ用ニューラルネット
ワークとを用い、入力単語について、全単語用ニューラ
ルネットワークによる認識を行ない、該全単語用ニュー
ラルネットワークの出力パターンか入力単語を特定でき
ないパターンである時、更に、該全単語用ニューラルネ
ットワークにおける最大出力値の出力ユニットに対応す
る登録単語を含むクループの、グループ用ニューラルネ
ットワークによる認識を行なうようにしたものである。

請求項２に記載の本発明は、前記ニューラルネットワー
クへの入力として、 ■音声の周波数特性の時間的変化、 ■音声の平均的な線形予測係数、 ■音声の平均的なＰＡＲＣＯＲ係数、 ■音声の平均的な周波数特性、及びピッチ周波数、 ■高域強調を施された音声波形の平均的な周波数特性、
並びに ■音声の平均的な周波数特性 のうちの１つ以上を使用するようにしたしのである。

［作用］ 請求項１に記載の本発明によれば、下記■の作用効果か
ある。

■全登録単語を学習対象として構築した全単語用ニュー
ラルネットワークと、類似単語にてクループ化された登
録単語を学習対象として構築した各クループ用ニューラ
ルネットワークとを用いることにより、単語認識率を向
上てきる。これにより、全登録単語を学習対象として構
築されたニューラルネットワークの出力パターンか入力
単語を特定できないパターンである場合にも、正確に単
語認識を行なうことかできる。

請求項２に記載の本発明によれば、下記■の作用かある
。

■ニューラルネットワークへの入力として、請求項１に
記載の■〜■の各要素のうちの１つ以上を用いるから、
入力を得るための前処理か単純となり、この前処理に要
する時間か短くて足りるため、単語認識システムを複雑
な処理装置によることなく容易に実時間処理てきる。

［実施例コ 第１図は全単語用ニューラルネットワークの学習系統を
示すブロック図、第２図はグループ用ニューラルネット
ワークの学習系統を示すブロック図、第３図は単語認識
系統を示すブロック図、第４図は単語認識系統を示す流
れ図である。

（Ａ）先ず、全単語用ニューラルネットワークの学習系
統について説明する（第１図参照）。

この系統は、音声入力部１１．前処理部１２、全単語用
ニューラルネットワーク１３にて構成される。

以下、前処理部１２、全単語用ニューラルネットワーク
１３の構成について説明する。

（１）前処理部 前処理部１２（ｊ、入力音声に簡単な前処理を施し、上
記全単語用ニューラルネットワーク１３、後述するクル
ープ用ニューラルネットワークＪ４への入力データを作
成する。

前処理部１２の具体的構成を例示すれば以下の如くであ
る。

即ち、前処理部１２としては、ローパスフィルタ、バン
ドパスフィルタ、平均化回路の結合からなるものを用い
ることかてきる。

■入力音声の音声信号の高域の雑音成分を、ローパスフ
ィルタにてカットする。そして、この入力音声を８つの
ブロックに時間的に等分割する。

■音声波形を、複数（ｎ個）チャンネルのバントパスフ
ィルタに通し、各ブロック即ち各一定時間毎の周波数特
性を得る。

この時、ノ〜ントバスフィルタの出力信号は、平均化回
路にて、各ブロック毎、即ち各一定時間て平均化される
。

以上の前処理により、「音声の一定時間内における平均
的な周波数特性の時間的変化」か得られる。

（２）全単語用ニューラルネットワーク全単語用ニュー
ラルネットワーク１３は、入力音声が全登録単語のいず
れであるかを判定する。

全単語用ニューラルネットワーク１３の具体的構成を例
示すれば、以下の如くである。

■構造 全単語用ニューラルネットワーク１３は例えば３層パー
セブトロン型であり、入カニニット数は前処理部１２の
８ブロツク、ｎチャンネルに対応する８ｎ個、出力ユニ
ット数は登録単語と同数個である。

■学習 目標値は、登録単語について対応する出力ユニットの出
力値を　１、その他の出力値を０とする。

（ａ）登録単語の音声に前処理部１２による前処理を施
し、全単話用ニューラルネットワーク１３に入力する。

目標値に近づくように全単語用ニューラルネットワーク
１３の重みと変換関数を修正する。

（ａ）を目標値と出力ユニットの出力値の誤差が、十分
に小さな値（例えば、Ｉ　Ｘ　１０−’）になるまで繰
り返す。

ｆＢ）次に、グループ用ニューラルネットワークの学習
系統について説明する（第２図参照）。

この系統は、音声入力部１１、前処理部１２、複数のグ
ループ用ニューラルネットワーク１４にて構成される。

以下、グループ用ニューラルネットワーク１４の構成に
ついて説明する。前処理部１２は、前述（Ａ）の前処理
部１２と同一である。

各クループ用ニューラルネットワーク１４は、予めグル
ープ分けした各グループ毎に対応して設けられ、入力音
声か各グループ内の登録単語のいずれであるかを判定す
る。尚、各グループは、全登録単語を音素列の並びか類
似パターンである単語の組錘にクループ化して構成した
ものである。

クループ用ニューラルネットワーク１４の具体的構成を
例示すれば、以下の如くである。

■構造 グループ用ニューラルネットワーク１４は例えは３層バ
ーセプトロン型であり、入カニニット数は前処理部１２
の８フロツク、ｎチャンネルに対応する８０個、出力ユ
ニット数は当該クループを構成する登録単語数と同数個
である。

■学習 目標値は、当該グループを構成する登録単語について対
応する出力ユニットの出力値を１、その他の出力値を０
とする。

（ａ）当該クループを構成する登録単語の音声に前処理
部１２による前処理を施し、グループ用ニューラルネッ
トワーク１４に入力する。目標値に近づくようにグルー
プ用ニューラルネットワーク１４の重みと変換関数を修
正する。

（ａ）を目標値と出力ユニットの出力値の誤差か、十分
に小さな値（例えば、Ｉ　Ｘ　１０−’）になるまて繰
り返す。

（Ｃ）次に、本発明による単語認識系統について説明す
る（第３図、第４図参照）。

単語認識システム１０は、音声入力部１１、前処理部１
２、全単語用ニューラルネットワーク１３、グループ用
ニューラルネットワーク１４、及び、第１判定部２１、
グループ記憶部２２、ネットワーク選択部２３、最終判
定部２４にて構成される。この時、全単語用ニューラル
ネットワーク１３は前述（Ａ）にて構築され、グループ
用ニューラルネットワーク１４は前述（Ｂ）にて構築さ
れたものである。

単語認識システム１０は、下記（１）〜（３）のアルゴ
リズムにより単語認識する。

（１）入力音声に対し、全単語用ニューラルネットワー
ク１３による認識を行なう。第１判定部２１により、全
単語用ニューラルネットワーク１３の出力パターンをし
きい値判定して単語認識し、入力単語を特定する。

（２）上記（１）において、全単語用ニューラルネット
ワーク１３の出力パターンが入力単語を特定できないパ
ターンである時、グループ記憶部２２、ネットワーク選
択部２３を用いて、該全単語用ニューラルネットワーク
１３における最大出力値の出力ユニットに対応する登録
単語を含むクループのグループ用ニューラルネットワー
ク１４を選択する。

（３）前記（１）の入力音声に対し、上記（２）により
選択されたクループ用ニューラルネットワーク１４によ
る認識を行なう。最終判定部２４により、グループ用ニ
ューラルネットワーク１４の出力パターンをしきい値判
定して単語認識し、入力単語を特定する。

以下、上記単語認識システム１０の具体的実施結果につ
いて説明する。

■登録単語として、４７都道府県名を用い、各音声単語
試料に前処理を施し、１２８次元（８ブロツク×１６チ
ヤンネル）の特徴ベクトルを得る。これをニューラルネ
ットワークへの入力として、全単語用ニューラルネット
ワーク１３を構築する。

■全登録単語を音素列の並びが類似パターンであること
に基づいてグループ分けした各クループの登録単語毎に
グループ化したグループ用ニューラルネットワーク１４
を構築する。

クループ１　／Ｔｏｋｕｓｈｉｍａ／と／Ｋａｇｏｓｈ
ｉｍａ／グループ２　／Ｎｉｉｇａｔａ／と／Ｙａｍａ
ｇａｔａ／グループ３　／Ｓｈｉｇａ／と／Ｃｈｉｂａ
／等■全単語用ニューラルネットワーク１３、及びグル
ープ用ニューラルネットワーク１４を用い、前記アルゴ
リズムに従って単語認識を行なう。

従来の全登録単語を対象としたニューラルネットワーク
のみの場合では、出力ユニット値か０〜１の範囲で、 ■入力音声／Ｔｏｋｕｓｈｉａａ／に対し、出力ユニッ
）　／Ｔｏｋｕｓｈｉｍａ／の出力値が０．５６、出力
ユニット／Ｋａｇｏｓｈｉｍａ／の出力値は０．７１■
入力音声／Ｎｉｉｇａｔａ／に対し、出力ユニッ）　／
Ｎｉｉｇａｔａ／の出力値は０．０７、出力ユニット／
Ｙａｍａｇａｔａ／の出力値は０．１７■入力音声／Ｓ
ｈｉｇａ／に対し、出力ユニット／Ｓｈｉｇａ／の出力
値は０，１９、出力ユニット／Ｃｈｉｂａ／の出力値は
０．４９ 等となり、単語の認識が困難であった。

これに対し、本発明の単語認識システム１０によれば、
全単語用ニューラルネットワーク１３に加え、クループ
用ニューラルネットワーク１４を用いることにより、上
述の各登録単語を正確に認識することか可能となった。

又、前述の前処理部１２により、入力音声を前処理して
作成されるニューラルネットワークへの入力としては、 ■音声の周波数特性の時間的変化、 ■音声の平均的な線形予測係数、 ■音声の平均的なＰＡＲＣＯＲ係数、 ■音声の平均的な周波数特性、及びピッチ周波数、 ■高域強調を施された音声波形の平均的な周波数特性、
並びに ■音声の平均的な周波数特性 のうちの１つ以上を使用てきる。

そして、上記■の要素は「音声の一定時間内における平
均的な周波数特性の時間的変化」、上記■の要素は「音
声の一定時間内における平均的な線形予測係数の時間的
変化」、上記■の要素は「音声の一定時間内における平
均的なＰＡＲＣＯＲ係数の時間的変化」、上記■の要素
は「音声の一定時間内における平均的な周波数特性、及
びピッチ周波数の時間的変化」、上記■の要素は、「高
域強調を施された音声波形の一定時間内における平均的
な周波数特性の時間的変化」として用いることができる
。

尚、上記■の線形予測係数は、以下の如く定義される。

即ち、音声波形のサンプル値（χ、）の間には、一般に
高い近接相関かあることが知られている。

そこで次のような線形予測か可能であると仮定する。

線形予測値　　χｔ；−Σα五χｔ−１　　・・・（１
）線形予測誤差　ε、＝χ、−χｔ　　・・・（２）こ
こて、χｔ：時刻ｔにおける音声波形のサンプル値、（
α、）　（１＝　１．−・・、ｐ）：　（１次の）線形
予測係数 さて、本発明の実施においては、線形予測誤差ε（の２
乗平均値か最小となるように線形予測係数（α、）を求
める。

具体的には　（ε　）２を求め、その時間平均を（εｔ
）２と表わして、θ（εｔ）”／ａαｔ＝０．ｉ＝１．
２．・・・、ｐとおくことによって、次の式から（α、
）が求められる。

又、上記■のＰＡＲＣＯＲ係数は以下の如く定義される
。

即ち、［ｋ、］（ｎ＝１．・・・、ｐ）を（１次の）Ｐ
ＡＲＣＯＲ係数（偏自己相関係数）とする時、ＰＡＲＣ
ＯＲ係数ｋ　ｎ、、は、線形予測による前向き残差ε、
（ｆ）と後向き残差ε、−１゜。８．ｉｂ１間の正規化
相関係数として、次の式によって定義される。

ε　ｔ　　　−ε　１−（口◆ｌ］ ここで、ε、　（ｆ）　：χ、−Σ　α１χＬ−ｒ　＋
（α、）：前向き予測係数、 εｔ−＋ｎ◆１）２　χｔ　−（ｎ◆１）　−Σβｊ・
χｔ−Ｊ　　・（βｊ）：後向き予測係数 又、上記■の音声のピッチ周波数とは、声帯波の繰り返
し周期（ピッチ周期）の逆数である。

尚、ニューラルネットワークへの入力として、個人差が
ある声帯の基本的なパラメータであるピッチ周波数を付
加したから、特に大人／小人、男性／女性間の話者の認
識率を向上することかてきる。

又、上記■の高域強調とは、音声波形のスペクトルの平
均的な傾きを補償して、低域にエネルギか集中すること
を防止することである。然るに、音声波形のスペクトル
の平均的な傾きは話者に共通のものであり、話者の認識
には無関係である。

ところが、このスペクトルの平均的な傾きか補償されて
いない音声波形をそのままニューラルネットワークへ入
力する場合には、ニューラルネットワークか学習する時
にスペクトルの平均的な傾きの特徴の方を抽出してしま
い、話者の認識に必要なスペクトルの山と谷を抽出する
のに時間がかかる。これに対し、ニューラルネットワー
クへの入力を高域強調する場合には、話者に共通て、認
識には無関係てありなから、学習に影響を及ばずスペク
トルの平均的な傾きを補償てきるため、学習速度か速く
なるのである。

上記実施例によれば、下記■、■の作用効果かある。

■全登録単語を学習対象として構築した全単語用ニュー
ラルネットワーク１３と、類似単語にてグループ化され
た登録単語を学習対象として構築した各グループ用ニュ
ーラルネットワーク１４とを用いることにより、単語認
識率を向上てきる。

これにより、全登録単語を学習対象として構築されたニ
ューラルネットワークの出力パターンか入力単語を特定
できないパターンである場合にも、正確に単語認識を行
なうことができる。

■ニューラルネットワーク１３．１４への入力として、
「音声の一定時間内における平均的な周波数特性の時間
的変化」等、前述■〜■の各要素のうちの１つ以上を用
いるから、入力を得るための前処理か単純となり、この
前処理に要する時間か短くて足りるため、単語認識シス
テム１０を複雑な処理装置によることなく容易に実時間
処理できる。

［発明の効果コ 以上のように本発明によれば、全登録単語を学習対象と
して構築されたニューラルネットワークの出力パターン
か入力単語を特定できないパターンである場合にも、正
確に単語認識を行なうことかできる。

【図面の簡単な説明】

第１図は全単語用ニューラルネットワークの学習系統を
示すブロック図、第２図はグループ用ニューラルネット
ワークの学習系統を示すブロック図、第３図は単語認識
系統を示すブロック図、第４図は単語認識系統を示す流
れ図である。 １０・・・単語認識システム、 １１・・・音声入力部、 １２・・・前処理部、 １３・・・全単語用ニューラルネットワーク、１４・・
・クループ用ニューラルネットワーク、２ｊ・・・第１
判定部、 ２２・・・グループ記憶部、 ２３・・・ネットワーク選択部、 ２４・・・最終判定部。 特許出願人　積水化学工業株式会社 代表者　廣　１）　馨

Claims (2)

【特許請求の範囲】
1. （１）ニューラルネットワークを用いた単語認識システ
   ムにおいて、全登録単語を学習対象として構築した全単
   語用ニューラルネットワークと、音素列の並びが類似パ
   ターンであることに基づいて、全登録単語をグループ分
   けした各グループ毎の登録単語を学習対象として構築し
   た各グループ用ニューラルネットワークとを用い、入力
   単語について、全単語用ニューラルネットワークによる
   認識を行ない、該全単語用ニューラルネットワークの出
   力パターンが入力単語を特定できないパターンである時
   、更に、該全単語用ニューラルネットワークにおける最
   大出力値の出力ユニットに対応する登録単語を含むグル
   ープの、グループ用ニューラルネットワークによる認識
   を行なうことを特徴とする単語認識システム。
2. （２）前記ニューラルネットワークへの入力として、 ［１］音声の周波数特性の時間的変化、 ［２］音声の平均的な線形予測係数、 ［３］音声の平均的なＰＡＲＣＯＲ係数、 ［４］音声の平均的な周波数特性、及びピッチ周波数、 ［５］高域強調を施された音声波形の平均的な周波数特
   性、並びに ［６］音声の平均的な周波数特性 のうちの１つ以上を使用する請求項１に記載の単語認識
   システム。