JPH0696048A - ニューラルネットを用いた認識装置 - Google Patents

Abstract

(57)【要約】 【目的】 本発明は、学習時と認識時の演算処理におけ
る精度を夫々異ならしめ、認識時の演算処理精度を学習
時のそれより低くすることによって、認識時の演算処理
を高速化、簡素化することが可能なニューラルネットを
用いた認識装置を提供することを目的とする。 【構成】 本発明は学習パターンを入力する入力ユニッ
ト、及び該入力ユニットに情報伝達経路にて結合された
出力ユニットからなるニューラルネットワークと、上記
出力ユニットの出力理想値である教師信号に基づいて上
記ニューラルネットワークのユニット間の結合状態を、
演算処理精度の高い学習演算手段にて決定するネットワ
ーク学習部と、該ネットワーク学習部によって決定され
た上記ユニット間の結合状態に基づいて、認識すべきパ
ターンの認識を、上記学習演算手段の演算処理精度より
低い精度の認識演算手段にて行なう認識部と、を具備す
る。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、音声、文字等をニュー
ラルネットワークを用いて認識する認識装置に関する。

【０００２】

【従来の技術】ニューラルネットワークを用いた音声認
識装置が、日本音響学会平成２年度秋季研究発表会講演
論文集「ニューラルネットを用いた不特定話者数字単語
音声認識の検討」（平成２年９月、講演番号２−Ｐ−１
４）に開示されており、その音声認識装置のブロック図
を図５に示す。

【０００３】同図において、１は入力された学習デー
タ、又は識別データの音声を分析し、その音声の特徴パ
ラメータを抽出する音声分析部、２は音声分析部１で抽
出された特徴パラメータを用いて、浮動小数点演算方式
によって音声パターンを作成するパターン作成部、３は
パターン作成部２で作成された音声パターンを学習パタ
ーンとして複数のカテゴリ毎に分けて蓄積する学習パタ
ーン蓄積部、４はニューラルネットワークのユニット間
の結合の有無、即ちニューラルネットワークの形状を記
憶しているユニット間結合情報記憶部、５はユニット間
結合情報記憶部４に記憶されたユニット間結合の結合係
数を記憶する結合係数記憶部、６はユニット間結合情報
記憶部４及び結合係数記憶部５に記憶された情報を用い
てニューラルネットモデルに基づく演算を浮動小数点演
算方式で演算を行うニューラルネット演算部である。

【０００４】７はパターン作成部２を、学習時には学習
パターン蓄積部３に、また認識時にはニューラルネット
演算部６に接続する第１スイッチ、８は学習パターン蓄
積部３からニューラルネット演算部６に送信される音声
パターンの属するカテゴリに応じた教師信号を発生する
教師信号発生部、９は教師信号発生部８の教師信号とニ
ューラルネット演算部６の出力値との誤差を演算する誤
差演算部、１０は誤差演算部９で演算された誤差を基に
して、誤差逆伝搬（Error Back Propagation）法によっ
て結合係数記憶部５に記憶された結合係数を変更・修正
する学習演算部であり、誤差演算部９、及び学習演算部
１０からネットワーク学習部が構成されており、誤差演
算部９、及び学習演算部１０はいずれも浮動小数点演算
方式を用いて演算を行なう。

【０００５】１１は認識判定部、１２はニューラルネッ
ト演算部６を学習時には誤差演算部９に、また認識時に
は認識判定部１１に接続する第２スイッチである。

【０００６】図６は階層型ニューラルネットワークを示
したものであり、これは図５におけるユニット間結合情
報記憶部４、結合係数記憶部５及びニューラルネット演
算部６によって構成されている。

【０００７】１３ａは入力層、１３ｂは中間層、１３ｃ
は出力層であり、夫々Ｉ個、Ｊ個、Ｋ個のユニットより
構成されている。上下方向に隣接する各層を構成する夫
々のユニットは図示した通り、情報伝達経路によって接
続されており、その情報伝達経路の結合係数は、学習に
よって修正され乍ら、最終的にある一定の値に決定され
る。

【０００８】入力層１３ａを構成するユニットの個数
は、入力されるパラメータの数に、また出力層１３ｃを
構成するユニットの個数は、認識すべきカテゴリの数に
夫々一致する。

【０００９】ここで、具体的に各層のユニットの個数を
述べると、入力される音声は、周波数帯域を１６分割、
時間を８分割してパターン化するようにしているので、
入力層１３ａのユニット数Ｉ＝１６×８＝１２８であ
る。

【００１０】また、認識すべきカテゴリは１５単語であ
るので、出力層１３ｃのユニット数Ｋ＝１５であり、更
に中間層１３ｂのユニット数Ｊは、約５０とする。

【００１１】上述の如き構成において、学習パターン蓄
積部３における学習パターンの蓄積並びにニューラルネ
ットワークの学習について説明する。尚、その学習パタ
ーンとして、一桁の数字音声「れい」、「いち」、
「に」、「さん」、「し」、「ご」、「ろく」、「し
ち」、「はち」、「く」及びこれらの読み替えである
「ぜろ」、「まる」、「よん」、「なな」、「きゅう」
の計１５単語を例に挙げる。

【００１２】まず、第１スイッチ７を操作し、パターン
作成部２を学習パターン蓄積部３に接続する。この後、
一桁数字音声「れい」を音声分析部１に入力する。音声
分析部１では、その音声「れい」がマイクロフォン、テ
ープレコーダ等のアナログ出力であれば、Ａ／Ｄ変換し
たうえで、例えば１００〜６０００Ｈｚの周波数帯域を
１６分割し、夫々の周波数帯域における大きさ、即ち１
６個の周波数成分を５ミリ秒毎に抽出すると共に、必要
に応じてパワー情報等も抽出する。

【００１３】パターン作成部２では、音声分析部１で抽
出された周波数成分及びパワー情報に基づいて、入力音
声「れい」の開始時刻及び終了時刻を判定して音声区間
を決定し、その音声区間を８分割し、各区間における５
ミリ秒毎に抽出された周波数成分の平均を各周波数成分
毎に算出する。即ち、１つの入力音声に対して、１６×
８個のデータからなる音声パターンが作成される。

【００１４】パターン作成部２で作成された音声パター
ンは、第１スイッチ７を経由して、学習パターン蓄積部
３に送られ、「れい」に対応するカテゴリの学習パター
ンとして蓄積される。

【００１５】以下、上述と同様に「いち」、「に」、・・
・・・、「きゅう」の１４個の学習パターンがカテゴリ毎
に学習パターン蓄積部３に蓄積される。

【００１６】学習パターン蓄積部３に学習パターンが蓄
積されると、第２スイッチ１２を操作し、ニューラルネ
ット演算部６の出力層１３ｃを誤差演算部９に接続す
る。学習パターン蓄積部３から「れい」のカテゴリに属
する１個の学習パターンが、ニューラルネット演算部６
の入力層１３ａに入力されると共に、学習パターン蓄積
部３から数字音声「れい」が属するカテゴリｃの番号
（但し、１≦ｃ≦Ｋ、ｃは整数、上述の例の場合Ｋ＝１
５である。）が教師信号発生部８に送られる。

【００１７】ニューラルネット演算部６では、ユニット
間結合情報記憶部４に記憶されているネットワーク形状
と、これに対応付けて結合係数記憶部５に記憶されてい
るユニット間結合係数とを用いて、入力層１３ａに入力
された学習パターンに対して、ニューラルネット演算部
６内部で演算を行ない、その結果を出力層１３ｃのＫ個
のユニットから出力値Ｏk（ｋ＝１、２、・・・・・・、Ｋ）
（以下、Ｏkという。）を出力する。

【００１８】教師信号発生部８では、学習パターン蓄積
部３から送られてきたカテゴリｃに応じた教師信号Ｔk
（ｋ＝１、２、・・・・・・、Ｋ）（以下、Ｔkという。）を
発生させて、誤差演算部９に送る。

【００１９】一方、誤差演算部９では、教師信号発生部
８の教師信号Ｔkとニューラルネット演算部６の出力値
Ｏkとの誤差、即ち、 Ｅk＝Ｔk−Ｏk （ｋ＝１、２、・・・・・・、Ｋ） ・・・（１） を演算する。

【００２０】学習演算部１０は、式（１）に示される誤
差Ｅkが最小になるように、ユニット間結合情報記憶部
４に記憶されているネットワーク形状を参照し乍ら、結
合係数記憶部５に記憶されているユニット間結合係数を
誤差逆伝搬法に基づいて変更する。

【００２１】この操作を繰り返すことによって、結合係
数記憶部５に記憶されているユニット間結合係数を徐々
に変化させ、最適解に近付ける。

【００２２】尚、実際には、最適解を求めることは困難
であるので、学習を十分繰り返すことで準最適解を求
め、この準最適解であっても実用上は問題はない。

【００２３】そこで、学習を終えたニューラルネットワ
ークを用いて、音声認識の動作を行なうに際しては、第
１、第２スイッチ７、１２を操作し、パターン作成部２
をニューラルネット演算部６に、またニューラルネット
演算部６の出力層１３ｃを認識判定部１１に接続するこ
とによって、音声認識の動作が可能になる。

【００２４】斯して、音声分析部１に音声が入力される
と、上述の如く学習パターンの蓄積動作と同様な手順に
従ってパターン作成部２にて、音声パターンが作成され
ると、その音声パターンは、ニューラルネット演算部６
に送られ、最終的に決定された結合係数に基づいてニュ
ーラルネット演算部６にて演算が行われ、その出力結果
が出力層１３ｃから出力される。その出力値をＯkとす
ると、認識判定部１１では、出力値Ｏkの最大値を検出
し、そのときのｋの値に応じた信号を認識結果として図
示しない外部出力装置に出力する。

【００２５】上述の構成にあっては、音声、又は文字の
パターンをニューラルネットに学習させる場合、種々の
変形パターンを考慮して一つのカテゴリに対して複数の
学習パターンを準備し、夫々のパターンを繰り返し入力
することが行われている。即ち、延べ百万個の学習パタ
ーンを繰り返し入力しながら、結合係数記憶部５に記憶
されているユニット間結合係数を徐々に変化させて、最
適な、或るいは準最適な解を求めている。

【００２６】従って、学習時のニューラルネット演算部
６での演算は、高速で、且つ高い精度が要求されるた
め、従来は、例えばミニコンピュータ、ワークステーシ
ョン等の高速演算処理が可能なコンピュータ上で、３２
ビットの浮動小数点演算を行っていた。

【００２７】一方、認識時には、入力される一つの音声
に対して一つの音声パターンが作成されるだけであるの
で、比較的安価な信号処理プロセッサにて実時間内で十
分処理することができ、しかも学習時に要求されるほど
の演算精度は必要ない。

【００２８】しかしながら、学習時、又は認識時に第１
スイッチ７、第２スイッチ１２にて切り換えを行い、ネ
ットワーク学習部、認識部との切り換え行っているもの
の、ニューラルネット演算部６は学習時も、認識時も同
じ処理を行うように構成されているため、認識時におい
てはニューラルネット演算部６の３２ビットの浮動小数
点演算の機能は、過剰な機能であると共に、却って演算
処理速度を遅くする原因となっていた。

【００２９】

【発明が解決しようとする課題】本発明は、上述の問題
に鑑み成されたものであり、学習時と認識時の演算処理
における精度を夫々異ならしめ、認識時の演算処理精度
を学習時のそれより低くすることによって、認識時の演
算処理を高速化、簡素化することが可能なニューラルネ
ットを用いた認識装置を提供することを目的とする。

【００３０】

【課題を解決するための手段】本発明は、学習パターン
を入力する入力ユニット、及び該入力ユニットに情報伝
達経路にて結合された出力ユニットからなるニューラル
ネットワークと、上記出力ユニットの出力理想値である
教師信号に基づいて上記ニューラルネットワークのユニ
ット間の結合状態を、演算処理精度の高い学習演算手段
にて決定するネットワーク学習部と、該ネットワーク学
習部によって決定された上記ユニット間の結合状態に基
づいて、認識すべきパターンの認識を、上記学習演算手
段の演算処理精度より低い精度の認識演算手段にて行な
う認識部と、を具備することを特徴とする。

【００３１】

【作用】ニューラルネットの学習時には、演算処理精度
の高い学習演算手段を用い、認識時には、該学習演算手
段の演算処理精度より低い精度の認識演算手段を用い
る。

【００３２】

【実施例】本発明の第１の実施例を図１乃至図３に示
す。尚、従来と同一機能を有する構成については同一番
号を付す。

【００３３】第１の実施例が図５の従来技術の構成と異
なる主な点は、学習部側整数変換部１４ａ、認識部側整
数変換部１４ｂ、整数化結合係数記憶部１５、及びニュ
ーラルネット整数演算部１６を具備する点である。そこ
で、これらの構成を順次説明する。

【００３４】１４ａは結合係数記憶部５に記憶されてい
る浮動小数点からなるユニット間の結合係数に定数Ｍを
掛けて整数に変換する学習部側整数変換部、１４ｂはパ
ターン作成部２で作成される浮動小数点からなる音声パ
ターンに定数Ｎを掛けて整数に変換する認識部側整数変
換部、１５は学習部側整数変換部１４ａで整数化された
ユニット間結合係数を記憶する整数化結合係数記憶部、
１６はニューラルネット整数演算部であり、ユニット間
結合情報記憶部４に記憶されているネットワーク形状の
情報と整数化結合係数記憶部１５に記憶された整数化さ
れたユニット間結合係数とを用いて、ニューラルネット
モデルに基づいて整数方式による演算を行う。尚、認識
部は、認識判定部１１、認識部側整数変換部１４ｂ、及
びニューラルネット整数演算部１６から構成されてい
る。

【００３５】次に、第１の実施例の動作について説明す
る。尚、学習時の動作については従来と同じであるので
省略し、それ以降の動作について述べることとする。

【００３６】学習の終了後、結合係数記憶部５に記憶さ
れたユニット間結合係数は学習部側整数変換部１４ａに
送られ、定数Ｍが掛けられ、浮動小数点のユニット間結
合係数が整数に変換され、整数化結合係数記憶部１５に
格納される。

【００３７】この後、第１スイッチ７を操作し、パター
ン作成部２を認識部側整数変換部１４ｂに接続すること
で、認識動作が可能になり、以下に、その認識時の動作
について説明する。

【００３８】音声分析部１に音声が入力されると、学習
パターンの蓄積動作と同様な手順に従ってパターン作成
部２にて音声パターンが作成される。作成された音声パ
ターンは学習部側整数変換部１４ｂに送られ、定数Ｎが
掛けられて、浮動小数点の学習パターンデータが整数に
変換され、その後ニューラルネット整数演算部１６に送
られる。ニューラルネット整数演算部１６では、ユニッ
ト間結合情報記憶部４に記憶されているネットワーク形
状の情報と整数化結合係数記憶部１５に格納された整数
化されたユニット間結合係数とを用いて、ニューラルネ
ットモデルに基づいた整数による演算が行われ、その出
力結果が出力層１３ｃから出力される。

【００３９】尚、各ユニットの入力と出力の間には、si
gmoid等の関数が用いられているが、これは関数をテー
ブル化することで容易に整数演算に対応することができ
る。認識判定部１１では、従来と同様に出力値Ｏkの最
大値を検出し、そのときのｋの値に応じた信号を認識結
果として図示しない外部出力装置に出力する。

【００４０】ところで、学習部側整数変換部１４ａ、及
び認識部側整数変換部１４ｂで用いる定数Ｍ、Ｎである
が、これはパターン作成部２にて作成される音声パター
ン、及び学習の結果、結合係数記憶部５に蓄積されるユ
ニット間結合係数の値に応じて適宜決まるものである。

【００４１】図２、及び図３は、「従来の技術」に記載
された文献「ニューラルネットを用いた不特定話者数字
単語音声認識の検討」で用いられている実験条件を用
い、浮動小数点を整数に変換した場合の認識性能を調べ
るため、定数Ｍ、Ｎをそれぞれ種々に変化させて認識率
を測定した結果である。図２ではＮ＝２５６に固定した
ときのＭの変化に対する認識率、図３ではＭ＝１０２４
に固定したときのＮの変化に対する認識率を示してい
る。なお、浮動小数点のまま認識させたときの認識率
は、９８．３％である。

【００４２】これらから明らかなように、広範囲のＭ、
Ｎの値に対して安定した認識率が得られると共に、その
認識率は浮動小数点のまま認識させたときの認識率と比
較しても、認識率の低下はみられず、本発明が非常に有
効であることが明らかにされた。

【００４３】従って、パターン作成部２にて作成される
音声パターン、及び学習の結果、結合係数記憶部５に蓄
積されるユニット間結合係数の値がある程度想定できれ
ば、定数Ｍ、Ｎの値は実用上なんら不都合のない程度に
容易に決めることができることが確認された。

【００４４】次に、本発明の第２の実施例を図４に基づ
いて説明し、第１の実施例と同じ機能を有する構成につ
いては、同一番号を付す。

【００４５】第２の実施例が第１の実施例の構成と異な
る主な点は、認識部側整数変換部１４ｂの代わりにこれ
と同等の機能を有する整数パターン作成部１９を設け、
また整数化結合係数記憶部１５の代わりにこれと同等の
機能を有するＲＯＭライター１７、及びＲＯＭ１８を設
けることである。そこで、これらの構成を順次説明す
る。

【００４６】１７はユニット間結合情報記憶部４に記憶
されたネットワーク形状の情報と、学習部側整数変換部
１４ａで整数に変換されたユニット間結合係数とを、Ｒ
ＯＭ（読み出し専用メモリ）に書き込むためのＲＯＭラ
イター、１８はＲＯＭライター１７でネットワーク形状
の情報、及びユニット間結合係数が書き込まれたＲＯＭ
であり、このＲＯＭ１８は、必ずしもＲＯＭライター１
７と結合されている必要はなく、いったん情報が書き込
まれれば、ＲＯＭライター１７から離されて装着される
ように成すこともできる。

【００４７】１９は整数パターン作成部であり、入力音
声に対し整数値の音声パターンを出力し、この整数値の
音声パターンは、図１の実施例における認識部側整数変
換部１４ｂの出力と同等のものであるが、浮動小数点の
音声パターンを整数変換する必要はなく、特性の同じア
ナログのバンドパスフィルタにより得られる周波数成分
出力を１６ビットのＡ／Ｄ変換器によってデジタル化
し、整数値の音声パターンを得ることも可能である。

【００４８】２０は、音声分析部１を、学習時にはパタ
ーン作成部２に、認識時には整数パターン作成部１９に
接続するための第３スイッチである。なお、この第３ス
イッチ２０は、学習終了後はジャンパーや半田付けなど
を用い、直接音声分析部１を整数パターン作成部１９に
結合させてもよい。

【００４９】以下に、第２の実施例における学習動作、
及び認識動作について説明する。

【００５０】まず、第３スイッチ２０を操作して音声分
析部１をパターン作成部２に接続し、従来と同じ手順で
ニューラルネットの学習を行う。学習が終了すると、学
習の結果得られた結合係数記憶部５内のユニット間結合
係数は、整数変換部１４ａで浮動小数点から整数に変換
されＲＯＭライター１７によって、またユニット間結合
情報記憶部４に記憶されたネットワーク形状の情報は、
ＲＯＭライター１７によって、ＲＯＭ１８に書き込まれ
る。

【００５１】次に第３スイッチ２０を操作して、音声分
析部１を整数パターン作成部１９に接続し、認識処理を
可能にする。音声が入力されると、音声分析部１にて分
析された結果を用いて整数パターン作成部１９にて整数
値の音声パターンが作成され、ニューラルネット整数演
算部１６に送付される。ニューラルネット整数演算部１
６では、ＲＯＭ１８に書き込まれたネットワーク形状の
情報と整数化されたユニット間結合係数を用い、入力さ
れた音声に対する認識処理を行い、その出力結果が出力
層１３ｃから出力される。認識判定部１１では、従来と
同様に出力値Ｏkの最大値を検出し、そのときのｋの値
に応じた信号を認識結果として図示しない外部出力装置
に出力する。

【００５２】尚、ＲＯＭ１８は容易に大量の複製が可能
なので、図４の点線で囲まれた部分だけを製造すること
で、認識専用装置を作ることも可能である。

【００５３】また、上述のニューラルネット整数演算部
１６で行っている整数演算は、固定小数点演算といわれ
ているものを含んでいる。すなわち、整数演算と固定小
数点演算は実体は同じであり、小数点が何ビット目に位
置すると見なすかの違いだけである。

【００５４】更に、以上の説明ではネットワーク学習部
における演算を浮動小数点演算方式で、認識部における
演算を整数演算方式で行う場合を述べたが、学習を６４
ビットの浮動小数点演算方式で、認識を３２ビットの浮
動小数点演算方式で行うことも可能である。

【００５５】

【発明の効果】本発明によれば、ネットワーク学習部に
て精度の高い演算を行った結果に基づいて、認識部の認
識演算手段にて上記ネットワーク学習部の精度より低い
精度の演算を行うことによって、認識に要する演算処理
時間を従来より短縮することができ、認識部をネットワ
ーク学習部から分離した場合には、その認識部の演算回
路を簡素化することができる。

【００５６】更に、認識部の認識演算手段が、ネットワ
ーク学習部の精度より低い精度であったとしても、本発
明の認識率は従来のそれと比較しても遜色はない。

【図面の簡単な説明】

【図１】本発明の第１の実施例のニューラルネットを用
いた認識装置のブロック図

【図２】本発明の第１の実施例のニューラルネットを用
いた認識装置における認識率と定数Ｍとの関係を示す図

【図３】本発明の第１の実施例のニューラルネットを用
いた認識装置における認識率と定数Ｎとの関係を示す図

【図４】本発明の第２の実施例のニューラルネットを用
いた認識装置のブロック図

【図５】従来のニューラルネットを用いた認識装置のブ
ロック図

【図６】ニューラルネットワークの模式図

【符号の説明】 １ 音声分析部 ２ パターン作成部 ３ 学習パターン作成部 ４ ユニット間結合情報記憶部 ５ 結合係数記憶部 ６ ニューラルネット演算部 ８ 教師信号発生部 ９ 誤差演算部 １０ 学習演算部 １１ 認識判定部 １４ａ 学習部側整数変換部 １４ｂ 認識部側整数変換部 １５ 整数化結合係数記憶部 １６ ニューラルネット整数演算部 １７ ＲＯＭライター １８ ＲＯＭ １９ 整数パターン作成部

Claims (3)

【特許請求の範囲】
1. 【請求項１】 学習パターンを入力する入力ユニット、
   及び該入力ユニットに情報伝達経路にて結合された出力
   ユニットからなるニューラルネットワークと、上記出力
   ユニットの出力理想値である教師信号に基づいて上記ニ
   ューラルネットワークのユニット間の結合状態を学習演
   算手段にて決定するネットワーク学習部と、該ネットワ
   ーク学習部によって決定された上記ユニット間の結合状
   態を示す情報に基づいて、認識すべきパターンの認識を
   認識演算手段にて行なう認識部と、を具備するニューラ
   ルネットを用いた認識装置であって、 上記ネットワーク学習部の具備する学習演算手段は、精
   度の高い演算手段によって構成され、また上記認識部の
   具備する認識演算手段は、上記学習演算手段の精度より
   低い精度の演算手段によって構成されていることを特徴
   とするニューラルネットを用いた認識装置。
2. 【請求項２】 上記学習演算手段は、浮動小数点演算を
   行なうと共に、上記認識演算手段は、整数演算を行なう
   ことを特徴とする請求項１記載のニューラルネットを用
   いた認識装置。
3. 【請求項３】 上記認識部は、認識時に少なくともネッ
   トワーク学習部から分離可能であることを特徴とする請
   求項１、又は２記載のニューラルネットを用いた認識装
   置