JPH08123485A

JPH08123485A - 雑音除去装置

Info

Publication number: JPH08123485A
Application number: JP6264949A
Authority: JP
Inventors: Kazuo Ishii; 和夫石井; Masao Watari; 雅男渡; Miyuki Tanaka; 幸田中; Yasuhiko Kato; 靖彦加藤; Hiroaki Ogawa; 浩明小川; Masanori Omote; 雅則表; Kazuo Watanabe; 一夫渡辺; Katsuki Minamino; 活樹南野; Hitoshi Honda; 等本田
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 1994-10-28
Filing date: 1994-10-28
Publication date: 1996-05-17

Abstract

(57)【要約】【目的】音声に含まれる雑音を充分に除去することが
できるようにする。【構成】写像部２において、音声信号が、第ｍ成分が
Ｌ_m個の関数ｇ_m ^k（Ｘ）と係数ｃ_m ^kとの積の線形和で表
される関数ｆ_m（Ｘ）によって変換される。関数ｆ
_m（Ｘ）は、学習データとして雑音を含む音声信号を用
いるとともに、教師ベクトルとして雑音を含まない音声
信号を用いて学習を行うことにより求められている。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、例えば音声信号や、音
声から抽出された特徴パラメータなどのデータから雑音
成分を除去する雑音除去装置に関する。

【０００２】

【従来の技術】従来、波形レベルで雑音除去を行う方法
としては、例えばニューラルネットワークを用いた、例
えば特開平５−１９３３７号公報に開示されたものなど
がある。また、周波数スペクトル上で推定した雑音の振
幅スペクトルを、入力された音声の振幅スペクトルから
差し引くことにより雑音除去を行う方法としては、例え
ばS.F.Boll "Suppression of Acoustic Noise in Speec
h Using Spectral Subtraction," IEEE Trans. on ASS
P, vol 29,pp113-120,April,1979などに記載されている
スペクトラムサブトラクション法がなどある。

【０００３】

【発明が解決しようとする課題】ところで、ニューラル
ネットワークを用いた方法では、一般的に、バックプロ
パゲーションアルゴリズムによって学習を行うが、この
場合、初期値の与え方によっては最小値（グローバルミ
ニマム）に対応した最適解が求まらず、極小値（ローカ
ルミニマム）に陥る課題があった。そのため、充分な雑
音除去を行うことができない場合があった。さらに、所
望の写像を得るためには、中間層の層数と素子数を変更
することしか自由度はなく、中間層を幾つ設ければ十分
であるのかがわかりにくかった。

【０００４】また、スペクトラムサブトラクション法で
は、推定雑音の誤差や位相情報の欠落による誤差があ
り、これを改善するためには、雑音の振幅スペクトル
を、入力された音声の振幅スペクトルから単に差し引く
だけでなく、修正が必要であるが、この修正は、直感的
に決められていた。その結果、充分な雑音除去を行うこ
とができない場合があった。

【０００５】本発明は、このような状況に鑑みてなされ
たものであり、学習によって、最小値（グローバルミニ
マム）に対応した最適解が求まるようにし、充分な雑音
除去を行うことができるようにするものである。

【０００６】

【課題を解決するための手段】本発明の雑音除去装置
は、データＸに含まれる雑音成分を除去する雑音除去装
置であって、データＸを、第ｍ成分が、Ｌ_m個の関数ｇ_m
^k（Ｘ）と係数ｃ_m ^kとの積の線形和

【数２】で表される関数ｆ_m（Ｘ）によって変換する変換手段
（例えば、図１乃至図３に示す写像部２など）を備える
ことを特徴とする。

【０００７】データＸは、音声信号とすることができ
る。また、データＸは、音声から抽出された特徴ベクト
ルとすることができる。さらに、データＸは、音声から
抽出された特徴ベクトル、および非音声区間から推定さ
れた雑音の特徴ベクトルとすることができる。

【０００８】

【作用】上記構成の雑音除去装置においては、データＸ
が、第ｍ成分がＬ_m個の関数ｇ_m ^k（Ｘ）と係数ｃ_m ^kとの
積の線形和で表される関数ｆ_m（Ｘ）によって変換され
る。従って、学習において、最小値（グローバルミニマ
ム）に対応した最適解が求まるので、充分な雑音除去が
可能となる。

【０００９】

【実施例】図１は、本発明の雑音除去装置の第１実施例
の構成を示すブロック図である。入力バッファ１は、音
声信号（ディジタル信号）が入力されると、それを一時
記憶するようになされている。そして、記憶した音声信
号を、Ｓサンプル（例えば、６４サンプルなど）を１フ
レームとして切り出し、写像部２に出力するようになさ
れている。写像部２では、１フレーム単位の音声信号に
対し、所定の変換処理が施され、これにより雑音が除去
されて、出力フレームバッファ３に供給されるようにな
されている。出力フレームバッファ３は、写像部２から
の音声信号を一時記憶し、所定のタイミングで出力する
ようになされている。

【００１０】次に、写像部２における変換処理について
説明するが、その前に、その前提となる技術であるＧＧ
Ｍ（Guaranteed Global minimum Mapping）変換につい
て説明する。ＧＧＭ変換は、次のような写像Ｆにしたが
った変換処理である。

【００１１】即ち、写像Ｆは、Ｎ次元ベクトル空間Ω_N
上のベクトルＸ（＝（ｘ₀，ｘ₁，ｘ₂，・・・，
ｘ_N-1））をＭ次元ベクトル空間Ω_M上のベクトルに変換
するもので、その第ｍ成分の関数ｆ_m（Ｘ）は、Ｌ_m個の
関数ｇ_m ^k（Ｘ）と、所定の係数ｃ_m ^kとの線形和として、
次式で示すように定義される（但し、ｍ＝０，１，２，
・・・，Ｍ−１：ｋ＝０，１，２，・・・，Ｌ_m−
１）。

【００１２】

【数３】

【００１３】関数ｇ_m ^k（Ｘ）としては、Ｎ変数関数空間
の完備（完全）な関数系が採用される。これは、ヒルベ
ルトの関数解析における公知の定理「任意の関数は、完
備な関数系の線形結合で表現することができる」から、
関数ｇ_m ^k（Ｘ）として、上述のようにＮ変数関数空間の
完備な関数系を採用し、かつその個数Ｌ_mを必要な数と
すれば、原理的には、任意の連続写像を、関数ｇ
_m ^k（Ｘ）によって表現することができるからである。な
お、関数ｇ_m ^k（Ｘ）としては、例えば単項式が採用され
る。

【００１４】このことは、いわゆる階層型ニューラルネ
ットワークが、その中間層のニューロン素子の数を制限
しなければ、即ちその数を充分大きくすれば、原理的に
は、任意の連続写像を表現することができることに対応
する。

【００１５】関数ｇ_m ^k（Ｘ）を所定のものに選択、設定
すれば、その後は、学習を行うことにより、係数ｃ_m ^kを
設定することができ、その結果、所望する関数ｆ
_m（Ｘ）、即ち写像Ｆが得られることになる。

【００１６】そして、この係数ｃ_m ^kを決定するに際し、
次式で定義されるような評価関数Ｊが採用される。

【００１７】

【数４】

【００１８】但し、Ｓ_q（＝（ｓ₀ ^q，ｓ₁ ^q，ｓ₂ ^q，・・
・，ｓ_N-1 ^q））は、Ｑ個のカテゴリＣ_qに分類されてい
るＮ次元ベクトル空間Ω_Nの学習サンプルであり（但
し、ｑ＝０，１，２，・・・，Ｑ−１）、またＴ^q（＝
（ｔ₀ ^q，ｔ₁ ^q，ｔ₂ ^q，・・・，ｔ_M _-1 ^q））は、Ｑ個のカ
テゴリＣ_qそれぞれに対するＭ次元ベクトル空間Ω_M上の
Ｑ個の教師ベクトル（教師ベクトルの集合）である。ま
た、Ｅ｛Ｘ∈Ｓ_q｝｛｝は、｛｝内において、学習サン
プル（の集合）Ｓ_qの全要素にわたって期待値を求める
ことを意味する。従って、評価関数Ｊは、学習サンプル
に対する写像出力と教師ベクトルとの自乗誤差のアンサ
ンブル平均を意味している。

【００１９】よって、学習サンプルに対する写像出力
が、教師ベクトルとなるような写像を得るには、評価関
数Ｊを最小にする係数ｃ_m ^kを求めれば良い。

【００２０】そこで、式（１）を式（２）に代入する
と、次式が得られる。

【００２１】

【数５】

【００２２】ここで、

【数６】とおくと、式（３）は、次にようになる。

【００２３】

【数７】

【００２４】そして、評価関数Ｊの極値を求めるため、

【数８】とし、これを、式（４）から計算すると、次のようにな
る。

【００２５】

【数９】

【００２６】この式（５）は、各ｍに関し、Ｌ_m個の未
知数（係数）ｃ_m ^kに関する連立１次方程式となる。

【００２７】式（５）は、

【数１０】とすると、次のような簡潔な形になる。

【００２８】

【数１１】

【００２９】式（６）（式（５））は、１次方程式であ
るから、不定あるいは不能となる特殊な場合を除き、一
意に解が得られる。

【００３０】このことは、式（２）で表される評価関数
Ｊを最小にする係数ｃ_m ^kが、式（６）（式（５））の方
程式を解くことにより求めることができることを意味す
る。従って、この場合、評価関数Ｊが、極小値（ローカ
ルミニマム）となる場合の係数ｃ_m ^kが求められてしまう
ような問題が、式（６）（式（５））の方程式が不定あ
るいは不能となるような特殊な場合を除いて、本質的に
存在しないことになる。

【００３１】これは、式（６）（式（５））の方程式を
解く代わりに、式（４）で表された評価関数Ｊに、最急
降下法を適用しても、いわゆる初期値問題に煩わされる
ことなく、一意に解（係数）ｃ_m ^kが得られることを意味
する。

【００３２】そして、このように、解が一意に決まると
いう特性によれば、ニューラルネットワークにおけるよ
うな準最適解を求めるために、初期値を変更して繰り返
し学習をせずに済むことになる。さらに、式（１）に示
すように写像を表現するようにしたため、係数ｃ_m ^kの値
の自由度と、関数ｇ_m ^k（Ｘ）として、どのような関数を
採用するのかの自由度があることになる（即ち、大きく
は、自由度が２種類となる）。

【００３３】このため同程度の規模で考えれば、写像の
潜在的表現能力は、式（１）に示すように写像を表現す
る場合の方が、ニューラルネットワークより大きくな
る。これは、ニューラルネットワークの場合には、規模
が固定されれば、残る表現の自由度は、結合重み係数の
値の取り得る自由度だけとなるからである。

【００３４】以上のように、式（１）で表現される写
像、即ちＧＧＭ変換によれば、イ）誤差最小（グローバルミニマム）が保証され、ロ）初期値問題が存在しないため、繰り返し学習が不要
で、学習の高速化が可能となるという本質的解決と、ハ）関数ｇ_m ^k（Ｘ）の選択の自由度があるため、所望の
写像を決定する場合に、同程度の規模のニューラルネッ
トワークと比較して近似能力が高くなるという改善とを
実現することができる。

【００３５】図１の写像部２は、以上のようなＧＧＭ変
換におけるカテゴリの概念を取り払った、いわば写像近
似装置として構成され、ＧＧＭ変換を応用した、次のよ
うな近似写像Ｆにしたがった変換処理を行うようになさ
れている。

【００３６】即ち、上述したＧＧＭ変換における場合と
同様に、Ｎ次元ベクトル空間Ω_NからＭ次元ベクトル空
間Ω_Mへの写像Ｆ：Ω_N→Ω_Mに対して、Ｎ次元ベクトル
空間Ω_N上の学習データ（学習サンプル）Ｘ∈Ｓ（Ｓは
学習データの集合を意味する）に対する、Ｍ次元ベクト
ル空間Ω_M上の教師ベクトルＴ（Ｘ）＝（ｔ₀（Ｘ），ｔ
₁（Ｘ），・・・，ｔ_M-1（Ｘ））を与え、Ｎ次元ベクト
ル空間Ω_NからＭ次元ベクトル空間Ω_Mへの写像Ｔを求め
るべきターゲット写像として、写像Ｆの第ｍ成分のＸ
（＝（ｘ₀，ｘ₁，・・・，ｘ_N-1））の関数ｆ_m（Ｘ）
を、Ｌ_m個の関数ｇ_m ^k（Ｘ）と係数ｃ_m ^kとの積の線形和

【数１２】で表現し、かつ

【数１３】で定義された評価関数（誤差関数）Ｊを採用し、評価関
数Ｊの最小値に対応した係数ｃ_m ^kを求めることで写像Ｔ
を近似した近似写像Ｆが得られるが、写像部２では、こ
の近似写像Ｆにしたがった変換処理が行われる。

【００３７】評価関数Ｊを最小にする係数ｃ_m ^kは、次の
ようにして求めることができる。即ち、式（７）を式
（８）式に代入すると、次式が得られる。

【００３８】

【数１４】

【００３９】ここで、

【数１５】とおくと、式（９）は、次にようになる。

【００４０】

【数１６】

【００４１】そして、評価関数Ｊの極値を求めるため、

【数１７】とし、これを、式（１０）から計算すると、次のように
なる。

【００４２】

【数１８】

【００４３】この式（１１）は、式（６）（式（５））
における場合と同様に、各ｍに関し、Ｌ_m個の未知数
（係数）ｃ_m ^kに関する連立１次方程式となる。

【００４４】従って、この場合も、上述したＧＧＭ変換
における場合と同様に、式（１１）が不定あるいは不能
となる特殊な場合を除き、一意に解が得られ、式（８）
で表される評価関数Ｊを最小にする係数ｃ_m ^kが、方程式
（１１）を解くことで求まることになる。

【００４５】以上のように、カテゴリを考えたＧＧＭ変
換における場合と同様の方法で写像Ｔの近似写像Ｆが決
定されるため、この近似写像Ｆにしたがった変換におい
ても、ＧＧＭ変換の利点はそのまま活きることになる。

【００４６】次に、図１の雑音除去装置の動作について
説明する。まず学習時においては、音声信号をｓ、雑音
信号をｎとしたとき、入力信号Ｘ＝ｓ＋ｎに対して教師
信号（教師ベクトル）Ｔ（Ｘ）＝ｓを、入力フレームバ
ッファ１を介して写像部２に与える。この条件のもとで
学習することによって、Ｆ_m（Ｘ）（式（７））とし
て、雑音が付加された音声信号（ｓ＋ｎ）を、雑音がな
い音声信号（ｓ）に変換する写像を近似したものが得ら
れる。

【００４７】なお、実際には、例えば雑音を含まない音
声信号ｓと雑音信号ｎを用意し、ｓ＋ｎの信号を作成し
て入力データ（学習データ）Ｘとする。上述したよう
に、入力データＸは、入力フレームバッファ１を介する
ことにより、フレーム単位で写像部２に供給される。そ
して、そのフレームに対応する教師ベクトルとして音声
信号ｓを与える。

【００４８】また、関数Ｆ_m（Ｘ）を構成する関数系ｇ_m
^k（Ｘ）としては、例えば５次までの単項式を採用し、
例えば定数項１および各入力変数だけからなる１次から
５次までの項を３２１項と、各入力データＸの成分の相
関を計算し、相関の強いものを５０組選択した結果得ら
れる２００項を用いる。この関数系について、大量の学
習データを用いて、式（１１）式を解くことによって係
数ｃ_m ^kを決定する。

【００４９】次に、雑音除去時においては、雑音を含む
音声信号が、入力フレームバッファ１を介することによ
り、１フレーム単位とされて、写像部２に出力される。
写像部２では、１フレーム単位の音声信号に対し、式
（７）にしたがい、近似写像Ｆによる変換処理が施さ
れ、これにより音声信号に含まれる雑音が除去される。
この信号は、出力フレームバッファ３に供給され、そこ
では、１フレーム単位とされた信号がつなぎ合わされて
出力される。

【００５０】次に、図２は、本発明の雑音除去装置の第
２実施例の構成を示すブロック図である。なお、図中、
図１における場合と対応する部分については、同一の符
号を付してある。

【００５１】分析部１１は、音声信号（ディジタル信
号）が入力されると、それを音響分析し、音声の特徴パ
ラメータ（特徴ベクトル）を抽出するようになされてい
る。即ち、分析部１１は、音声信号が入力されると、そ
の音声信号から１フレーム分のデータを切り出し、その
データに基づいてＮ次元の音声の特徴ベクトル（特徴パ
ラメータ）を算出するようになされている。なお、分析
部１１には、例えば音声信号をＦＦＴさせることによ
り、特徴ベクトルとして、振幅スペクトルを算出させた
り、またＬＰＣケプストラム係数などを算出させたりす
ることができる。また、分析部１１には、複数のバンド
バスフィルタでなるフィルタバンクを内臓させ、音声信
号の各帯域ごとのパワーを、特徴ベクトルとして求めさ
せるようにすることもできる。

【００５２】学習時においては、音声信号に雑音を付加
した信号ｓ＋ｎ、または音声信号ｓそのものが、分析部
１１を介することにより、それぞれ学習データとしての
特徴ベクトル、または教師ベクトルとしての特徴ベクト
ルとされ、これが写像部２に供給されて、近似写像Ｆ
（式（７））が決定される。

【００５３】雑音除去時においては、分析部４で雑音を
含む音声信号が、１フレームごとに分析され、その結果
得られる特徴ベクトルが写像部２に出力される。写像部
２では、特徴ベクトルに対し、学習によって決定された
係数ｃ_m ^kで構成される近似写像Ｆによる変換処理が施さ
れ、これにより特徴ベクトルに含まれる雑音成分が除去
されて出力される。

【００５４】次に、図３は、本発明の雑音除去装置の第
３実施例の構成を示すブロック図である。なお、図中、
図１における場合と対応する部分については、同一の符
号を付してある。また、この雑音除去装置では、前述し
たスペクトラムサブトラクション法による処理結果に相
当する処理結果が、近似写像Ｆによる変換処理により得
られるようになされている。

【００５５】音声信号（ディジタル信号）は、分析部２
１および音声区間検出部２２に供給される。分析部６で
は、音声信号がＦＦＴされ、これにより音声の特徴ベク
トル（特徴パラメータ）としてのＮ次の振幅スペクトル
データが求められる。また、音声区間検出部７では、音
声信号のパワー情報などが求められ、そのパワー情報に
基づいて、音声区間と非音声区間とが検出される。振幅
スペクトルデータおよび音声区間か非音声区間かの検出
結果（以下、区間検出結果という）は、平均化処理部２
３に出力される。さらに、振幅スペクトルデータは、写
像部２にも供給される。

【００５６】平均化処理部２３では、区間検出結果が非
音声区間であるとき、そのうちの所定の数Ｋのフレーム
におけるＮ次の振幅スペクトルデータの平均値が算出さ
れ、これが推定雑音スペクトルデータとされる。この推
定雑音スペクトルデータは、写像部２に供給される。

【００５７】学習時には、分析部２１からは、雑音を含
む音声のＮ次の振幅スペクトルデータがフレーム単位で
出力され、平均化処理部２３からは、非音声区間で推定
されたＮ次の推定雑音スペクトルデータが出力される。
従って、写像部２には、Ｎ次の振幅スペクトルデータお
よびＮ次の推定雑音スペクトルデータの計２Ｎ次のデー
タが学習データとして入力される。

【００５８】さらに、分析部２１からは、上述の雑音を
含む音声のＮ次の振幅スペクトルデータに対応する雑音
を含まない音声のＮ次の振幅スペクトルデータもフレー
ム単位で出力され、これは、写像部２に対し、教師ベク
トルとして供給される。

【００５９】写像部２では、以上の学習データおよび教
師ベクトルを用いて学習が行われ、近似写像Ｆ（式
（７））が決定される。

【００６０】雑音除去時においては、写像部２に対し、
分析部２１から、雑音を含む音声のフレーム単位のＮ次
の振幅スペクトルデータと、平均化処理部２３から、Ｎ
次の推定雑音スペクトルデータが供給され、写像部２で
は、これらを合わせた２Ｎ次のデータに対し、学習によ
り得られた近似写像Ｆによる変換処理が施され、これに
より、雑音が除去され、推定雑音の誤差や位相情報の欠
落による誤差も修正された振幅スペクトルデータが出力
される。

【００６１】以上のように、近似写像Ｆを用いる場合に
は、ローカルミニマムに陥ることなしに学習を行うこと
ができるので、雑音を含むデータから、充分に雑音成分
を除去することが可能となる。

【００６２】なお、本発明は、例えば音声認識や、通
信、情報処理などの分野に適用可能である。

【００６３】

【発明の効果】以上の如く、本発明の雑音除去装置によ
れば、学習において、最小値（グローバルミニマム）に
対応した最適解が求まるので、充分な雑音除去が可能と
なる。

【図面の簡単な説明】

【図１】本発明の雑音除去装置の第１実施例の構成を示
すブロック図である。

【図２】本発明の雑音除去装置の第２実施例の構成を示
すブロック図である。

【図３】本発明の雑音除去装置の第３実施例の構成を示
すブロック図である。

【符号の説明】

１入力フレームバッファ２写像部３出力フレームバッファ１１，２１分析部２２音声区間検出部２３平均化処理部

───────────────────────────────────────────────────── フロントページの続き (72)発明者加藤靖彦東京都品川区北品川６丁目７番35号ソニー株式会社内 (72)発明者小川浩明東京都品川区北品川６丁目７番35号ソニー株式会社内 (72)発明者表雅則東京都品川区北品川６丁目７番35号ソニー株式会社内 (72)発明者渡辺一夫東京都品川区北品川６丁目７番35号ソニー株式会社内 (72)発明者南野活樹東京都品川区北品川６丁目７番35号ソニー株式会社内 (72)発明者本田等東京都品川区北品川６丁目７番35号ソニー株式会社内

Claims

【特許請求の範囲】

【請求項１】データＸに含まれる雑音成分を除去する
雑音除去装置であって、前記データＸを、第ｍ成分が、Ｌ_m個の関数ｇ_m ^k（Ｘ）
と係数ｃ_m ^kとの積の線形和【数１】で表される関数ｆ_m（Ｘ）によって変換する変換手段を
備えることを特徴とする雑音除去装置。
【請求項２】前記データＸは、音声信号でなることを
特徴とする請求項１に記載の雑音除去装置。
【請求項３】前記データＸは、音声から抽出された特
徴ベクトルでなることを特徴とする請求項１に記載の雑
音除去装置。
【請求項４】前記データＸは、音声から抽出された特
徴ベクトル、および非音声区間から推定された雑音の特
徴ベクトルでなることを特徴とする請求項１に記載の雑
音除去装置。