JPH0215718A - 神経回路網モデルを用いた雑音除去装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 ［産業上の利用分野］ この発明は神経回路網モデルを用いた雑音除去装置に関
し、特に、神経回路網モデルを用いて、通信、情報処理
および音声認識などの分野において雑音除去やノイズリ
ダクションをするような雑音除去装置に関する。

［従来の技術］ 従来より、雑音除去システムを構築するにあたり、雑音
除去の方式は、雑音にｌり染された信号の例と、信号成
分のみの例から両者の情報をいわば直感的に読取り、そ
の違いに基づいて雑音除去するように構成されている。

たとえば、スペクトラムの振幅に着目したものとして、
Ｓ、Ｆ、Ｂｏ１１’５ｕｐｐｒｅｓｓｉｏｎ　　ｏｆ　
　Ａｃｏｕｓｔｉｅ　　Ｎｏ１ｓｅ　　ｉｎ　　５ｐｅ
ｅｃｈ　　Ｕｓｉｎｇ　　５ｐｅｃｔｒａｌ　　５ｕｂ
ｔｒａｃｔｉｏｎ、　　　ＩＥＥＥ　　Ｔｒａｎｓ、　
　　ｏｎ　　Ａｃ。

ｕｓｔｉｃｓ、　　　５ｐｅｅｃｈ　　ａｎｄ　　Ｓｉ
ｇｎａｌ　　Ｐｒｏｃｅｓｓｉｎｇ、、ｖｏｌ、ＡＳＳ
Ｐ−２９１）Ｉ）　　１１３−１２０．Ａｐｒｉ１１９
７９がある。

このスペクトラムサブトラクション方式は、雑音のスペ
クトラム振幅が明瞭なピークを持たず、全周波数帯域に
広がっている場合は、信号のスペクトラム振幅の山の部
分は、もともとエネルギが大きいため、信号のスペクト
ラムの谷に比較してあまり雑音の影響を受けない。しか
も、人間の聴覚では、スペクトラム振幅の山の部分の方
が重要な意味を持つ。このようなことを考えて、雑音に
汚染された信号のスペクトラムの振幅から、推定した雑
音のスペクトラム振幅を引き去ることで雑音除去が行な
われる。

［発明が解決しようとする課題］ 一般に、雑音に汚染された信号または信号成分のみの信
号は、共に非常に大量の情報を有し、また両者の違いも
複雑多枝、広範囲にわたり、そのすべてを人間が読取る
ことは不可能に近い。たとえば、雑音に汚染された信号
と信号成分のみの信号の位相情報について考えてみると
、明らかに両者を区別する情報があるにもかかわらず、
大変に複雑であるために、従来技術のアプローチでは、
その情報を雑音除去に利用することが困難である。

つまり、雑音を除去するには、雑音に汚染された信号と
信号成分のみの信号との情報を可能な限り利用すること
が望ましいにもかかわらず、従来の直感的なアプローチ
では、そのごく一部を利用していたにすぎなかった。す
なわち、雑音除去には、雑音に汚染された信号と信号成
分のみの信号との間の情報を可能な限り利用することが
望ましいにもかかわらず、従来技術はそのうちのわずか
な情報を利用していたにすぎなかった。

それゆえに、この発明の主たる目的は、神経回路網モデ
ルを雑音に汚染された信号の空間から信号成分のみの信
号の空間への写像モデルとして用い、雑音に汚染された
信号と信号成分のみの信号との間の情報を可能な限り利
用できる高性能な押杆回路網モデルを用いた雑音除去装
置を提供することである。

［課題を解決するための手段］ この発明は雑音に汚染された信号からその信号成分のみ
を抽出する雑音除去装置であって、隠れ層を少なくとも
１層以上設けかつ波形そのものを入出力とする神経回路
網モデルを雑音除去に用いるように構成したものである
。

［作用］ 神経回路網モデルは、原理的に入力空間と出力空間の任
意の連続写像を実現することが知られており、しかも例
を提示することで、その写像が自動的に神経回路網モデ
ルの内部に作り上げられるいくつかの学習アルゴリズム
がある。したがって、人力空間として雑音に汚染された
信号の空間を考え、それに対応する信号成分のみの空間
を出力空間として、神経回路網モデルにいくつかの入出
力の対応例を提示することにより、神経回路網モデルは
自動的に雑音に汚染された信号と信号成分のみの信号と
の間の情報に基づいて写像を実現する。

原理的に入力空間と出力空間の任意の連続写像を実現で
きるので、入出力の対応例が統計的に十分あれば、雑音
に汚染された信号と信号成分のみの信号との間の情報を
可能な限り利用することができる。

［発明の実施例］ 第１図はこの発明の一実施例の全体構成を示す概略ブロ
ック図であり、第２図は第１図に示した神経回路網モデ
ルの具体的なブロック図である。

まず、＠１図および第２図を参照して、この発明の一実
施例の構成について説明する。教師信号はＡ／Ｄ変換器
１に入力され、入力信号はＡ／Ｄ変換器２に入力され、
それぞれディジタル信号に変換されて神経回路網モデル
３に与えられる。ここで、入力信号は雑音を抑圧すべき
、雑音に汚れたアナログ信号の例であり、教師信号は入
力信号に対応する雑音のないアナログ信号である。ディ
ジタル信号に変換された教師信号は神経回路網モデル３
の出力ディジタル信号の参照信号となる。

神経回路網モデル３の出力にはスイッチ４が接続されて
いて、このスイッチ４はａ側に切換えられると学習モー
ドとなり、ｂ側に切換えられると雑音抑圧モードになる
。学習モードとは、神経回路網モデル３が雑音抑圧の写
像を学習するモードであり、人力信号と教師信号が必要
とされる。神経回路網モデル３はこの人力信号に基づい
て、自身の動作原理に従って出力ディジタル信号を計算
する。そして、神経回路網モデル３は自身の出力信号と
、参照信号としての教師信号との２乗誤差が最小となる
ように自分のパラメータを調節し、この２乗誤差が十分
に少なくなるまで学習モードが繰返される。

一方、雑音抑制モードは、実際にシステムが雑音を抑圧
するモードであり、入力信号のみが必要とされる。神経
回路網モデル３はディジタル化された入力信号に基づい
て、自身の動作原理に従って、予め学習しである自身の
パラメータを使って出力信号を計算する。システムは予
め十分に学習していれば、この出力信号は十分に雑音の
抑圧された信号となっている。このディジタル信号はＤ
／Ａ変換器５によってアナログ信号に変換されて出力さ
れる。

次に、第２図を参照して、神経回路網モデル３の構成と
動作について説明する。まず、雑音抑圧モードでの動作
について述べる。ディジタル化された入力信号は遅延回
路ＤＬ１と乗算器Ｍｌ、　Ｍ３に与えられる。遅延回路
ＤＬＩは入力信号を１単位時間だけ遅延して乗算器Ｍ２
．Ｍ４に与える。

一方、パラメータコントロール装置３１はスカラーパラ
メータを各乗算器Ｍ１〜Ｍ４に与える。

乗算器Ｍｌ、Ｍ３は入力信号とスカラーパラメータとの
積を計算し、乗算器Ｍ２．Ｍ４は１単位時間だけ前の入
力信号とスカラーパラメータとの積を計算する。乗算器
Ｍｌ、Ｍ２の計算結果は非線形ユニットＮ１に与えられ
、乗算器Ｍ３．Ｍ４の計算結果は非線形ユニットＮ２に
与えられる。

これらの非線形ユニッ）Ｎｌ、Ｎ２は隠れ層を構成して
いる。非線形ユニットＮｌ、Ｎ２はそれぞれ関数１／　
（１＋ｅｘｐ　（−ｘ））の計算を行なうためのテーブ
ルルックアップ（図示せず）を含む。そして、非線形ユ
ニットＮｌ、Ｎ２はまず自身へのすべての入力値と自身
が有しているしきい値の和を計算し、この和をテーブル
ルックアップを参照して関数１／　（１＋ｅｘｐ　（＝
ｘ））の出力に変形する。

非線形ユニットＮ１の計算結果は乗算器Ｍ５゜Ｍ７に与
えられ、非線形ユニットＮ２の計算結果はＭ６．Ｍ８に
与えられる。パラメータコントロール装置３１から与え
られるスカラーパラメータと非線形ユニットＮｌ、Ｎ２
の計算結果とを乗算し、非線形ユニットＮ３．Ｎ４に与
える。これらの非線形ユニットＮ３．Ｎ４は隠れ層を構
成している。非線形ユニットＮ３．Ｎ４は前述の非線形
ユニットＮｌ、Ｎ２と同様の計算を行ない、その結果を
乗算器Ｍ９〜Ｍ１２に与える。乗算器Ｍ９〜Ｍ１２は前
述の乗算器Ｍ１〜Ｍ４．Ｍ５〜Ｍ８と同様の計算を行な
って、その計算結果を線形ユニッ１−Ｌｌ、Ｌ２に与え
る。線形ユニットＬ１は自身へのすべての入力値と自身
が持つしきい値の和を計算し、この和を遅延回路ＤＬ２
を介して線形ユニットＬ２に出力する。線形ユニットＬ
２は自身へのすべての入力値と自身が持つしきい値の和
を計算し、その出力が神経回路網モデル３の出力となる
。

次に、学習モードについて説明する。学習モードでは、
まず神経回路網モデル３は上述の操作によってモデルの
出力を１１算する。このディジタル出力信号はパラメー
タコントロール装置３１に与えられる。パラメータコン
トロール装置３１では、現在のモデル出力信号とそれに
対応する教師信号との差の２乗および１単位時間だけ前
のモデル出力信号とそれに対応する１単位時間前の教師
信号との差の２乗を計算し、その２つの和を神経回路網
モデル３の誤差とする。

神経回路網モデル３の出力計算の説明かられかるように
、この誤差はパラメータコントロール装置３１が乗算器
Ｍ１〜Ｍ１２のそれぞれに供給するスカラーパラメータ
の関数になっている。パラメータコントロール装置３１
は誤差が小さくなるように、供給すべきそれぞれのスカ
ラーパラメータを調整する。より具体的には、ｇｒａｄ
ｉｅｎｔ　　ｄｅｓｃｅｎｔ数値計算法を用いる。つま
り、パラメータコントロール装置３１はそれぞれの乗算
器Ｍ１〜Ｍ１２に供給するスカラーパラメータについて
のそれぞれの誤差の偏微分を差分法を使ってディジタル
的に計算する。そして、神経回路網モデル３の出力を計
算するのに使ったそれぞれのスカラーパラメータの値に
、偏微分値にあるマイナスの定数（たとえば、−０，２
）を乗じた値を加えて、新たなスカラーパラメータの値
とする。

神経回路網モデル３は誤差の値が予め与えられた値より
も小さくなるまでこの動作を繰返す。

第３Ａ図〜第６Ｂ図はこの発明による雑音除去装置の実
験結果を示す図である。この実験では隠れ層を２つ角″
し、それぞれの隠れ層が６０個の非線形ユニットをＨす
る神経回路網モデルを用いた。

第３Ａ図は男性話者が“イキオイ”と発音し、その音声
にコンピュータルームノイズが混入したときのスペクト
ル図であり、そのようなノイズが混入した音声をこの発
明による雑音除去装置で学習し、雑音を除去すると、第
３Ｂ図に示すようなスペクトルが得られた。この第３Ａ
図とｍ３Ｂ図とを対比すれば明らかなように、雑音成分
の大部分が除去されていることが明らかである。

第４Ａ図は男性話者が“カクリツ“と発音し、その音声
にコンピュータルームノイズが混入したときのスペクト
ル図である。この場合、“カクリツ“は学習（１１語に
入っていない。このような場合でも、第４Ｂ図に示すよ
うに、大部分の雑音を除去することかできた。

第５Ａ図は女性話者が“イキオイ”と発音し、その音声
にホワイトノイズが混入したときのスペクトル図である
。但し、この場合女性音声およびホワイトノイズは学習
データに含まれていないが、“イキオイ“の言葉自体は
学習単語として入っている。この例においても、第５Ｂ
図に示すように、大部分の雑音を除去することができた
。

第６Ａ図は女性話者が“カメラ“と発音し、その音声に
ホワイトノイズが混入したときのスペクトル図である。

この場合、“カメラ″の言葉や女性話者およびホワイト
ノイズについてすべて学習していないという最も厳しい
条件である。このような例においても、第６Ｂ図に示す
ように、大部分の雑音を除去することができた。

［発明の効果］ 以上のように、この発明によれば、神経回路網モデルを
雑音に汚染された信号の空間から信号成分のみの信号の
空間への写像モデルとして用い、雑音に汚染された信号
と信号成分のみの信号との間の情報に基づいて、高性能
な雑音除去装置を実現することができる。

【図面の簡単な説明】

第１図はこの発明の一実施例の概略ブロック図である。 第２図は第１図に示した神経回路網モデルの具体的なブ
ロック図である。第３Ａ図、第３Ｂ図、第４Ａ図、第４
Ｂ図、第５Ａ図、第５Ｂ図。 第６Ａ図および第６Ｂ図はこの発明による雑音除去装置
の実験結果を示すスペクトル図である。 図において、１，２はＡ／Ｄ変換器、３は神経回路網モ
デル、４はスイッチ、５はＤ／Ａ変換器、３１はパラメ
ータコントロール装置、ＤＬＩ、ＤＬ２は遅延回路、Ｍ
１〜Ｍ１２は乗算回路、Ｎ１〜Ｎ４は非線形ユニット、
Ｌ１〜Ｌ２は線形ユニットを示す。 デジクル入カイｇ号 第２図 デジタル神経回路網モデル出力 特許出願人　株式会社エイ・ティ・アール手 続 １市 ［ 書 ６゜ 補正の対象 昭和６３年ＩＯ月２６１１ 図面の第３Ａ図ないし第６Ｂ図 ７゜ 補正の内ｄ 図面の第’３　Ａ図ないし第６Ｂ図を別紙のとおり補正
する。 ２、発明の名称 以上 神経回路網モデルを用いた雑音除去装置３、補正をする
乙 １【件との関係 特、−′１出ｌりｆ１人 住 所 京都府＃１１楽／Ｆｌｕｌ貿１（町人字乾谷小字−平谷
５番地名 称 株式会′ｆ１．エイ・ティ・ア ル自動翻訳電話研究所 代表８　再検 明 ４、代 理 人 佳 所 大阪市北区南森町２−」 １番２０号 住友銀行南森町ビル 昭ｆｌｌｂ’３年９月２７０

Claims (1)

1. 【特許請求の範囲】 雑音に汚染された信号からこの信号成分のみを抽出する
   雑音除去装置であって、 隠れ層を少なくとも１層設け、かつ波形そのものを入出
   力とする神経回路網モデルを雑音除去に用いるようにし
   たことを特徴とする、神経回路網モデルを用いた雑音除
   去装置。