JPH0415695A - 単語認識システム - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 ［産業上の利用分野］ 本発明は単語認識システムに関する。

［従来の技術］ 本出願人は、ニューラルネットワークを用いた単語認識
システムを提案している。この単語認識システムにあっ
ては、ニューラルネットワークの出カバターンに対し一
定のしきい値θを設け、例えばニューラルネットワーク
の１つの出力ユニットの出力値か０以上の値をとり、他
の出力ユニットの出力値の全てか（１−ｆ：ｌ）以下の
値をとる場合に、今回の人力単語は出力値か０以上であ
る出力ユニットに対応する登録単語と同一単語であるも
のと認識する。

［発明が解決しようとする課題］ 然しなから、ニューラルネットワークの出カバターンは
必ずしも上述の如くにならず、００以上の出力値を示す
出力ユニットか複数個あるパターン、或いは■全ての出
力ユニットの出力値か（１−θ）以下の値をとるパター
ン等の出現をみることがある。そして、このような出カ
バターンについては、単語認識か困難ないし不能となる
のである。

本発明は、全登録単語を学習対象として構築されたニュ
ーラルネットワークの出力パターンが入力単語を特定て
きないパターンである場合にも、正確に単語認識を行な
うことを目的とする。

［課趙を解決するための手段コ 請求項１に記載の本発明は、ニューラルネットワークを
用いた単語認識システムにおいて、全登録単語を学習対
象として構築した全単語用ニューラルネットワークと、
全単語用ニューラルネットワークを構成する各出力ユニ
ットの出力値か互いに一定の類似関係にありしきい値判
定てきないことに基づいて、全登録単語をグループ分け
した各グループ毎の登録単語を学習対象として構築した
各グループ用ニューラルネットワークとを用い、入力単
語について、全単語用ニューラルネットワークによる認
識を行ない、該全単語用ニューラルネットワークの出カ
バターンが入力単語を特定てきないパターンである時、
更に、該全単語用ニューラルネットワークにおける最大
出力値の出力ユニットに対応する登録単語を含むグルー
プの、グループ用ニューラルネットワークによる認識を
行なうようにしたものである 請求項２に記載の本発明は、前記ニューラルネットワー
クへの入力として、 ■音声の周波数特性の時間的変化、 ■音声の平均的な線形予測係数、 ■音声の平均的なＰＡＲＣＯＲ係数、 ■音声の平均的な周波数特性、及びピッチ周波数、 ■高域強調を施された音声波形の平均的な周波数特性、
並びに ■音声の平均的な周波数特性 のうちの１つ以上を使用するようにしたものである。

［作用］ 請求項１に記載の本発明によれば、下記■の作用効果か
ある。

■全登録単語を学習対象として構築した全単語用ニュー
ラルネットワークと、類似単語にてグループ化された登
録単語を学習対象として構築した各グループ用ニューラ
ルネットワークとを用いることにより、単語認識率を向
上できる。これにより、全登録単語を学習対象として構
築されたニューラルネットワークの出力パターンが入力
単語を特定できないパターンである場合にも、正確に単
語認識を行なうことがてきる。

請求項２に記載の本発明によれば５下記■の作用かある
。

■ニューラルネットワークへの入力として、請求項１に
記載の■〜■の各要素のうちの１つ以上を用いるから、
入力を得るための前処理か単純となり、この前処理に要
する時間か短くて足りるため、単語認識システムを複雑
な処理装置によることなく容易に実時間処理てきる。

「実施例コ 第１図は全単語用ニューラルネットワークの学習系統を
示すブロック図、第２図はグループ用ニューラルネット
ワークの学習系統を示すブロック図、第３図は単語認識
系統を示すブロック図、第４図は単語認識系統を示す流
れ図である。

（Ａ）先ず、全単語用ニューラルネットワークの学習系
統について説明する（第１図参照）。

この系統は、音声入力部１１、前処理部１２、全単語用
ニューラルネットワーク１３にて構成される。

以下、前処理部１２、全単語用ニューラルネットワーク
１３の構成について説明する。

（１）前処理部 前処理部１２は、入力音声に簡単な前処理を施し、上記
全単語用ニューラルネットワーク１３、後述するグルー
プ用ニューラルネットワーク１４への入力データを作成
する。

前処理部１２の具体的構成を例示すれば以下の如くであ
る。

即ち、前処理部１２としては、ローパスフィルタ、バン
トパスフィルタ、平均化回路の結合からなるものを用い
ることかできる。

■入力音声の音声信号の高域の雑音成分を、ローパスフ
ィルタにてカットする。そして、この入力音声を８つの
ブロックに時間的に等分割する。

■音声波形を、複数（ｎ個）チャンネルのバンドパスフ
ィルタに通し、各ブロック即ち各一定時間毎の周波数特
性を得る。

この時、バントパスフィルタの出力信号は、平均化回路
にて、各ブロック毎、即ち各一定時間で平均化される。

以上の前処理により、「音声の一定時間内における平均
的な周波数特性の時間的変化」か得られる。

（２）全単語用ニューラルネットワーク全単語用ニュー
ラルネットワーク１３は、入力音声が全登録単語のいず
れであるかを判定する。

全単語用ニューラルネットワーク１３の具体的構成を例
示すれば、以下の如くである。

■構造 全単語用ニューラルネットワーク１３は例えば３層バー
セブトロン型てあり、入カニニット数は前処理部１２の
８ブロツク、ｎチャンネルに対応する８ｎ個、出力ユニ
ット数は登録単語と同数個である。

■学習 目標値は、登録単語について対応する出力ユニットの出
力値を　１、その他の出力値を０とする。

（ａ）登録単語の音声に前処理部１２による前処理を施
し、全単語用ニューラルネットワーク１３に入力する。

目標値に近づくように全単語用ニューラルネットワーク
１３の重みと変換関数を修正する。

（ａ）を目標値と出力ユニットの出力値の誤差が、十分
に小さな値（例えば、Ｉ　Ｘ　１０−’）になるまで繰
り返す。

（Ｂ）次に、グループ用ニューラルネットワークの学習
系統について説明する（第２図参照）。

この系統は、音声入力部１１、前処理部１２、全単語用
ニューラルネットワーク１３、グループ用ニューラルネ
ットワーク１４、判定部１５、学習パターン記憶部１６
にて構成される。

以下、グループ用ニューラルネットワーク１４、判定部
１５、学習パターン記憶部１６の構成について説明する
。前処理部１２は、前述（Ａ）の前処理部１２と同一て
あり、全単語用ニューラルネットワーク１３は前述（Ａ
）にて構築済のものを用いる。

各グループ用ニューラルネットワーク１４は、予めグル
ープ分けした各グループ毎に対応して設けられ、入力音
声が各グループ内の登録単語のいずれであるかを判定す
る。尚、各グループは、「全単語用ニューラルネットワ
ーツク１３を構成する各出力ユニットの出力値か互いに
一定の類似関係にありしきい値判定できない単語の組」
毎にグループ化して構成したものである。そして、各グ
ループを構成することとなる単語の入力音声は、判定部
１５の判定結果に基づき上述の如くにグループ化されて
学習パターン記憶部１６に記憶され、グループ用ニュー
ラルネットワーク１４の学習のために供される。尚、学
習パターン記憶部１６はグループ記憶部１６Ａを付帯的
に備えている。

ここで、上述の「全単語用ニューラルネットワーク１３
の各出力ユニットの出力値が互いに一定の類似関係にあ
りしきい値判定できない単語の組」とは、■出カバター
ンの中でしきい値０以上の値をとるユニットか複数個あ
り、或いは全てのユニットが（１−θ）以下の値をとる
ためにしきい値判定できない状況下て、■例えば最大出
力値の出力ユニットに対応する単語、及び、該最大出力
値から一定の差をなす範囲内に出力値がある出力ユニッ
トに対応する単語（又は該最大出力値と一定の比率をな
す範囲内に出力値がある出力ユニットに対応する単語）
からなる単語の組をいう。

グループ用ニューラルネットワーク１４の具体的構成を
例示すれば、以下の如くである。

■構造 グループ用ニューラルネットワーク１４は例えば３層バ
ーセブトロン型てあり、入カニニット数は前処理部１２
の８ブロツク、ｎチャンネルに対応する８ｎ個、出力ユ
ニット数は当該グループを構成する登録単語数と同数個
である。

■学習 目標値は、当該グループを構成する登録単語について対
応する出力ユニットの出力値を１、その他の出力値を０
とする。

（ａ）当該グループを構成する登録単語の音声に前処理
部１２による前処理を施し、グループ用ニューラルネッ
トワーク１４に入力する。目標値に近づくようにグルー
プ用ニューラルネットワーク１４の重みと変換関数を修
正する。

（ａ）を目標値と出力ユニットの出力値の誤差が、十分
に小さな値（例えば、Ｉ　Ｘ　１０−’）になるまで繰
り返す。

（Ｃ）次に、本発明による単語認識系統について説明す
る（第３図、第４図参照）。

単語認識システム１０は、音声入力部１１、前処理部１
２、全単語用ニューラルネットワーク１３、グループ用
ニューラルネットワーク１４、及び、第１判定部２１、
グループ記憶部２２、ネットワーク選択部２３、最終判
定部２４にて構成される。この時、全単語用ニューラル
ネットワーク１３は前述（Ａ）にて構築され、グループ
用ニューラルネットワーク１４は前述（Ｂ）にて構築さ
れたものである。

単語認識システム１０は、下記（１）〜（３）のアルゴ
リズムにより単語認識する。

（］）入力音声に対し、全単語用ニューラルネットワー
ク１３による認識を行なう。第１判定部２１により、全
単語用ニューラルネットワーク１３の化カバターンをし
きい値判定して単語認識し、入力単語を特定する。

（２）上記（１）において、全単語用ニューラルネット
ワーク１３の化カバターンか入力単語を特定できないパ
ターンである時、グループ記憶部２２、ネットワーク選
択部２３を用いて、該全単語用ニューラルネットワーク
１３における最大出力値の出力ユニットに対応する登録
単語を含むグループのグループ用ニューラルネットワー
ク１４を選択する。

（３）前記（１）の入力音声に対し、上記（２）により
選択されたグループ用ニューラルネットワーク１４によ
る認識を行なう。最終判定部２４により、グループ用ニ
ューラルネットワーク１４の化カバターンをしきい値判
定して単語認識し、入力単語を特定する。

以下、上、記単語認識システム１０の具体的実施結果に
ついて説明する。

■登録単語として、４７都道府県名を用い、各音声単語
試料に前処理を施し、１２８次元（８ブロツク×１６チ
ヤンネル）の特徴ベクトルを得る。これをニューラルネ
ットワークの入力として、全単語用ニューラルネットワ
ーク】３を構築する。

■全単語用ニューラルネットワーク】３を構成する各出
力ユニットの出力値が互いに一定の類似関係にあり、し
きい値判定できないことに基づいてグループ分けした各
グループの登録単語毎にグループ化したグループ用ニュ
ーラルネットワーク１４を構築する。

グル−プ１　／Ｔｏｋｕｓｈｉｍａ／と／Ｋａｇｏｓｈ
ｉｍａ／グループ２　／Ｎｉｉｇａｔａ／と／Ｙａｍａ
ｇａｔａ／グループ３　／Ｓｈｉｇａ／と／Ｃｈｉｂａ
／等■全単語用ニューラルネットワーク１３、及びグル
ープ用ニューラルネットワーク１４を用い、前記アルゴ
リズムに従って単語認識を行なう。

従来の全登録単語を対象としたニューラルネットワーク
のみの場合ては、化カニニット値か０〜１の範囲で、 ■入力音声／Ｔｏｋｕｓｈｉ■ａ／に対し、出力ユニッ
）　／Ｔｏｋｕｓｈｉｉ＋ａ／の出力値か０．５６、出
力ユニット／にａｇｏｓｈｉｍａ／の出力値は０．７１
■入力音声／Ｎｉｉｇａｔａ／に対し、出力ユニッ）　
／Ｎｉｉｇａｔａ／の出力値は０．０７、出力ユニット
／Ｙａｍａｇａｔａ／の出力値は０．１７■入力音声／
Ｓｈｉｇａ／に対し、出力ユニット／Ｓｈｉｇａ／の出
力値は０．１９、出力ユニット／Ｃｈｉｂａ／の出力値
は０．４９ 等となり、単語の認識か困難であった。

これに対し、本発明の単語認識システム１０によれば、
全単語用ニューラルネットワーク１３に加え、グループ
用ニューラルネットワーク１４を用いることにより、上
述の各登録単語を正確に認識することか可能となった。

又、前述の前処理部１２により、入力音声を前処理して
作成されるニューラルネットワークへの入力としては、 ■音声の周波数特性の時間的変化、 ■音声の平均的な線形予測係数、 ■音声の平均的なＰＡＲＣＯＲ係数、 ■音声の平均的な周波数特性、及びピッチ周波数、 ■高域強調を施された音声波形の平均的な周波数特性、
並びに ■音声の平均的な周波数特性 のうちの１つ以上を使用てきる。

そして、上記■の要素は「音声の一定時間内における平
均的な周波数特性の時間的変化」、上記■の要素は「音
声の一定時間内における平均的な線形予測係数の時間的
変化」、上記■の要素は「音声の一定時間内における平
均的なＰＡＲＣＯＲ係数の時間的変化」、上記■の要素
は「音声の一定時間内における平均的な周波数特性、及
びピッチ周波数の時間的変化」、上記■の要素は、「高
域強調を施された音声波形の一定時間内における平均的
な周波数特性の時間的変化」として用いることかできる
。

尚、上記■の線形予測係数は、以下の如く定義される。

即ち、音声波形のサンプル値（χ。）の間には、一般に
高い近接相関かあることが知られている。

そこで次のような線形予測か可能であると仮定する。

線形予測値　　χ（＝−Σαムχ、−１　　・・・（１
）線形予測誤差　ε（＝χ、−χえ　　・・・（２）こ
こで、χｔ：時刻ｔにおける音声波形のサンプル値、（
α、＋（１＝１．・・・、ｐ）＝　（９次の）線形予測
係数 さて、本発明の実施においては、線形予測誤差εｔの２
乗平均値が最小となるように線形予測係数（α１）を求
める。

具体的には　（ε　）２を求め、その時間平均を＝１．
２．・・・、ｐとおくことによって、次の式から（α１
）が求められる。

Σ’（！　Ｉｖｌｌ−ｉｌ　　＝Ｑ、　Ｊ＝１　＋　　
２　＋　”’＋　　ｐ””　（３）又、上記■のＰＡＲ
ＣＯＲ係数は以下の如く定義される。

即ち、［ｋｎ］（ｎ＝１．・・・、ｐ）を（９次の）Ｐ
ＡＲＣＯＲ係数（偏自己相関係数）とする時、ＰＡＲＣ
ＯＲ係数ｋ。。１は、線形予測による前向き残差ε　（
ｆ）と後向き残差ε、−１゜や、、　＋ｂ１間の正規化
相関係数として、次の式によって定義される。

・・・（４） ここて、εｔ（ｆ）　＝χｔ−Σ　α直χｔ−ム、（α
１）　：前向き予測係数、 εｔ−＋ｎ条１）＝χｔ　−（ｎ　（１１）　　　Ｆ、
ｌＰＪ　・χｔ−ｊ　。

（βｄ：ｆ＆向き予測係数 又、上記■の音声のピッチ周波数とは、声帯波の繰り返
し周期（ピッチ周期）の逆数である。

尚、ニューラルネットワークへの入力として、個人差が
ある声帯の基本的なパラメータであるピッチ周波数を付
加したから、特に大人／小人、男性／女性間の話者の認
識率を向上することかできる。

又、上記■の高域強調とは、音声波形のスペクトルの平
均的な傾きを補償して、低域にエネルギか集中すること
を防止することである。然るに、音声波形のスペクトル
の平均的な傾きは話者に共通のものであり、話者の認識
には無関係である。

ところが、このスペクトルの平均的な傾きが補償されて
いない音声波形をそのままニューラルネットワークへ入
力する場合には、ニューラルネットワークが学習する時
にスペクトルの平均的な傾きの特徴の方を抽出してしま
い、話者の認識に必要なスペクトルの山と谷を抽出する
のに時間がかかる。これに対し、ニューラルネットワー
クへの入力を高域強調する場合には、話者に共通で、認
識には無間係てありながら、学習に影響を及ばずスペク
トルの平均的な傾きを補償てきるため、学習速度か速く
なるのである。

上記実施例によれば、下記■、■の作用効果かある。

■全登録単語を学習対象として構築した全単語用ニュー
ラルネットワーク１３と、類似単語にてグループ化され
た登録単語を学習対象として構築した各グループ用ニュ
ーラルネットワーク１４とを用いることにより、単語認
識率を向上できる。

これにより、全登録単語を学習対象として構築されたニ
ューラルネットワークの出カバターンが入力単語を特定
できないパターンである場合にも、正確に単語認識を行
なうことかてきる。

■ニューラルネットワーク１３．１４への入力として、
「音声の一定時間内における平均的な周波数特性の時間
的変化」等、前述■〜■の各要素のうちの１つ以上を用
いるから、入力を得るための前処理か単純となり、この
前処理に要する時間が短くて足りるため、単語認識シス
テム１０を複雑な処理装置によることなく容易に実時間
処理できるや ［発明の効果コ 以上のように本発明によれば、全登録単語を学習対象と
して構築されたニューラルネットワークの出力パターン
が入力単語を特定てきないパターンである場合にも、正
確に単語認識を行なうことかてきる。

【図面の簡単な説明】

第１図は全単語用ニューラルネットワークの学習系統を
示すブロック図、第２図はグループ用ニューラルネット
ワークの学習系統を示すブロック図、第３図は単語認識
系統を示すブロック図、第４図は単語認識系統を示す流
れ図である。 工０・・・単語認識システム、 １１・・・音声入力部、 １２・・・前処理部、 １３・・・全単語用ニューラルネットワーク、１４・・
・グループ用ニューラルネットワーク、２１・・・第１
判定部、 ２２・・・グループ記憶部、 ２３・・・ネットワーク選択部、 ２４・・・最終判定部。 特許出願人　積水化学工業株式会社 代表者　廣　１）　馨

Claims (2)

【特許請求の範囲】
1. （１）ニューラルネットワークを用いた単語認識システ
   ムにおいて、全登録単語を学習対象として構築した全単
   語用ニューラルネットワークと、全単語用ニューラルネ
   ットワークを構成する各出力ユニットの出力値が互いに
   一定の類似関係にありしきい値判定できないことに基づ
   いて、全登録単語をグループ分けした各グループ毎の登
   録単語を学習対象として構築した各グループ用ニューラ
   ルネットワークとを用い、入力単語について、全単語用
   ニューラルネットワークによる認識を行ない、該全単語
   用ニューラルネットワークの出力パターンが入力単語を
   特定できないパターンである時、更に、該全単語用ニュ
   ーラルネットワークにおける最大出力値の出力ユニット
   に対応する登録単語を含むグループの、グループ用ニュ
   ーラルネットワークによる認識を行なうことを特徴とす
   る単語認識システム。
2. （２）前記ニューラルネットワークへの入力として、 ［１］音声の周波数特性の時間的変化、 ［２］音声の平均的な線形予測係数、 ［３］音声の平均的なＰＡＲＣＯＲ係数、 ［４］音声の平均的な周波数特性、及びピッチ周波数、 ［５］高域強調を施された音声波形の平均的な周波数特
   性、並びに ［６］音声の平均的な周波数特性 のうちの１つ以上を使用する請求項１に記載の単語認識
   システム。