JP2000242624A - 信号分離装置 - Google Patents

Abstract

(57)【要約】 【課題】 原信号の確率分布が未知である場合や変化す
る場合であっても、正しく観測信号から原信号を分離抽
出する。 【解決手段】 統計的独立な原信号ｓ_1k，ｓ_2kが混合過
程Ａにより混合され、センサ部１６ａ，１６ｂによって
観測信号ｘ_1k，ｘ_2kがそれぞれ観測される。信号分離部
１８では、観測信号ｘ_1k，ｘ_2kを各成分とする観測信号
ベクトルに信号分離行列Ｗを掛け、推定信号ｓ_1k’，ｓ
_2k’を各成分とする推定信号ベクトルを生成する。推定
信号ｓ_1k’，ｓ_2k’は、非線形関数演算部３０ａ，３０
ｂにて非線形関数ｇ₁，ｇ₂に代入演算され、中間信号ｙ
_1k，ｙ_2kに変換される。分離行列更新部２０では、結合
エントロピーＨ（ｙ₁，ｙ₂）を最大化するよう信号分離
行列Ｗを更新する。この際、非線形関数更新部２８では
非線形関数ｇ₁，ｇ₂の形状を周辺エントロピーＨ
（ｙ₁），Ｈ（ｙ₂）を最大化するよう適宜更新する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は信号分離装置に関
し、特にブラインド信号分離（ＢＳＳ：blind signal s
eparation）又は独立成分解析（ＩＣＡ：Independent c
omponent analysis）と呼ばれる信号処理技術に関す
る。

【０００２】

【従来の技術】近年、ブラインド信号分離と呼ばれる新
しい信号処理技術が注目されており、通信や画像処理な
ど、幅広い分野での応用が期待されている。

【０００３】かかる技術の実際の適用場面としては、例
えば次のようなものが挙げられる。すなわち、複数の信
号源（例えば音源）において互いに統計的独立な信号
（本明細書では「原信号」という）が発生しており、そ
れらが混合した信号が複数のセンサ（例えばマイク）に
よって観測される（本明細書ではセンサによって観測さ
れる信号を「混合信号」又は「観測信号」という）。こ
うした場面で、原信号の混合過程Ａ（Ａは一般的なオペ
レータ）が既知であれば、観測信号にその逆変換Ａ^-1を
施すことにより原信号が得られるのは勿論である。ブラ
インド信号分離は、こうした場面で、原信号及びその混
合過程Ａの双方が未知であっても、原信号が互いに統計
的独立であるという条件から、混合過程Ａ、逆変換
Ａ^-1、及び原信号を同定しようとするものである。な
お、ブラインド信号分離は、観測信号から互いに統計的
独立な原信号を再現するという意味で、独立成分解析と
も呼ばれる。

【０００４】図９は、かかるブラインド信号分離の考え
方を取り入れた信号分離装置の一構成例を示す図であ
る。同図では一点鎖線の左側に外界が、右側に装置内部
が描かれている。

【０００５】同図に示すように、外界ではスピーカ１０
２ａ，１０２ｂから統計的独立な音声信号ｓ₁，ｓ₂が発
生しており、それが混合過程Ａ（符号１０４）にて混合
され、マイク１０６ａ，１０６ｂにより観測される。マ
イク１０６ａ，１０６ｂで観測された観測信号ｘ₁，ｘ₂
は信号分離部１０８に入力され、そこで次式（１）に示
す行列演算が行われ、推定信号ｓ₁’，ｓ₂’が算出され
る。

【０００６】

【数１】 ここで、Ｗは混合過程Ａの逆変換に相当する２行２列の
行列であり、本明細書では信号分離行列と呼ぶことにす
る。信号分離行列Ｗは装置の起動時には例えば単位行列
が設定されるが、その後、学習部１１１により随時混合
過程Ａの逆変換に近づくよう更新される。

【０００７】かかる学習部１１１での処理方針は次の通
りである。

【０００８】まず、信号分離行列Ｗを混合過程Ａの逆変
換に近づけるためには、推定信号ｓ₁’，ｓ₂’が互いに
統計的独立となるよう、換言すれば推定信号ｓ₁’，
ｓ₂’の相互情報量Ｉ（ｓ₁’，ｓ₂’）を最小化するよ
う信号分離行列Ｗを更新しなければならない。相互情報
量Ｉ（ｓ₁’，ｓ₂’）は、いわば「推定信号ｓ₁’を知
ることによりもたらされる推定信号ｓ₂’の曖昧さの減
少量」であり、次式（２）により表される。

【０００９】

【数２】 ここで、Ｈ（ｓ₁’）及びＨ（ｓ₂’）は周辺エントロピ
ーであり、連続量αの周辺エントロピーＨ（α）が次式
（３）により定義される。また、Ｈ（ｓ₁’，ｓ₂’）は
結合エントロピーであり、連続量α，βの結合エントロ
ピーＨ（α，β）は次式（４）により定義される。これ
ら式（３）及び（４）において、ｐ（・）はいずれも確
率密度関数である。周辺エントロピーＨ（α）は、いわ
ば「『αが起こる』事の曖昧さ」を表す。一方、結合エ
ントロピーＨ（α，β）は、いわば「『αとβが同時に
起こる』事の曖昧さ」を表す。

【００１０】

【数３】 ところが、学習部１１１にて相互情報量Ｉ（ｓ₁’，
ｓ₂’）を直接に取り扱うことは困難である。このた
め、次式（５）及び（６）により得られる中間信号
ｙ₁，ｙ₂を導入し、該中間信号ｙ₁，ｙ₂の相互情報量Ｉ
（ｙ₁，ｙ₂）を最小化するよう信号分離行列Ｗを更新す
ることを考える。この技術は、例えば Anthony J.Bell
and Terrence J.Sejnowski, "An Information-Maximiza
tion Approach to Blind Separation and Blind Deconv
olution", Neural Computation 7. pp.1129-1159, 1995
に開示されている。

【００１１】

【数４】 同式（５）及び（６）において、関数ｇ₁，ｇ₂は値域を
［０，１］とする単調増加関数であり、周辺エントロピ
ーＨ（ｙ₁），Ｈ（ｙ₂）を最大化するよう形状が決定さ
れるものである。関数ｇ₁，ｇ₂の値域を［０，１］に限
定すれば、式（３）より、次式（７）及び（８）を数学
的に導くことができる。このため、周辺エントロピーＨ
（ｙ₁），Ｈ（ｙ₂）を最大化する関数ｇ₁，ｇ₂とは、そ
れぞれ確率密度関数ｐ（ｓ₁’），ｐ（ｓ₂’）を積分し
て得られることになる。

【００１２】

【数５】 ところで、結合エントロピーＨ（ｙ₁，ｙ₂）については
次式（９）が、相互情報量Ｉ（ｙ₁，ｙ₂）については次
式（１０）が、それぞれ成立する。

【００１３】

【数６】 このため、周辺エントロピーＨ（ｙ₁），Ｈ（ｙ₂）を最
大化（０にする）よう関数ｇ₁，ｇ₂の形状を決定してお
けば、これら式（９）及び（１０）より、中間信号
ｙ₁，ｙ₂の結合エントロピーＨ（ｙ₁，ｙ₂）を最大化す
ることで、相互情報量Ｉ（ｙ₁，ｙ₂）を最小化すること
ができるようになる。

【００１４】信号分離装置１００の学習部１１１では、
上記事情を考慮して、関数演算部１１２ａ，１１２ｂを
設け、推定信号ｓ₁’，ｓ₂’に関数ｇ₁，ｇ₂を施して中
間信号ｙ₁，ｙ₂を生成するようにしている。そして、分
離行列更新部１１０では、結合エントロピーＨ（ｙ₁，
ｙ₂）を最大化するよう、信号分離部１０８に保持され
る信号分離行列Ｗを更新している。こうして、信号分離
装置１００によれば、中間信号ｙ₁，ｙ₂を導入して周辺
エントロピーＨ（ｙ₁），Ｈ（ｙ₂）を一旦最大化し、さ
らに結合エントロピーＨ（ｙ₁，ｙ₂）を最大化するよう
信号分離行列Ｗを更新することで、推定信号ｓ₁’，
ｓ₂’が互いに統計的独立となるようにできる。

【００１５】

【発明が解決しようとする課題】信号分離装置１００の
関数演算部１１２ａ，１１２ｂに設定される関数ｇ₁，
ｇ₂は、上述したように、確率密度関数ｐ（ｓ₁’）、ｐ
（ｓ₂’）を積分して得られるものではあるが、実際に
は原信号ｓ₁，ｓ₂は未知であり、その確率分布を予め知
ることは困難である。このため従来は、原信号ｓ₁，ｓ₂
の確率分布を例えばガウス型と仮定し、関数ｇ₁，ｇ₂と
してシグモイド型の関数形状を設定するほかなかった。

【００１６】しかしながら、このような仮定は必ずしも
適切であるとは限らず、原信号の種類（音声信号、画像
信号、生体信号など）によっては設定した関数ｇ₁，ｇ₂
で周辺エントロピーＨ（ｙ₁），Ｈ（ｙ₂）が十分に最大
化されない場合もあった。この場合、分離行列更新部１
１０による信号分離行列Ｗの更新は適切なものとはなら
ず、その結果、観測信号ｘ₁，ｘ₂から原信号ｓ₁，ｓ₂を
十分な精度で分離抽出することはできなくなってしま
う。

【００１７】また、前記信号分離装置１００では信号分
離部１０８による信号分離の最中などに原信号ｓ₁，ｓ₂
の確率分布が変化した場合、もはや、元の関数ｇ₁，ｇ₂
では周辺エントロピーＨ（ｙ₁），Ｈ（ｙ₂）が十分に最
大化されなくなってしまう。

【００１８】本発明は上記課題に鑑みてなされたもので
あって、その目的は、原信号の確率分布が未知である場
合や変化する場合であっても、正しく観測信号から原信
号を分離抽出することのできる信号分離装置を提供する
ことにある。

【００１９】

【課題を解決するための手段】上記課題を解決するため
に、本発明に係る信号分離装置は、それぞれがＮ個の統
計的独立な原信号ｓ_p（ｐ＝１〜Ｎ）を混合してなる観
測信号ｘ_q（ｑ＝１〜Ｍ；Ｍ≧Ｎ）を検出するＭ個の信
号検出手段と、観測信号ｘ_qを成分とする観測信号ベク
トルに信号分離行列を乗算して推定信号ｓ_r’（ｒ＝１
〜Ｎ）を成分とする推定信号ベクトルを生成する信号分
離手段と、前記推定信号ｓ_r’が互いに統計的独立とな
るよう前記信号分離行列を更新する学習手段と、を含む
信号分離装置において、前記学習手段は、１変数の非線
形関数ｇ_r（ｒ＝１〜Ｎ）に、対応する推定信号ｓ_r’を
代入して得られるＮ個の中間信号ｙ_r（ｒ＝１〜Ｎ）の
結合エントロピーＨ（ｙ₁，ｙ₂，…，ｙ_N）を最大化す
るよう、前記分離行列を更新する行列更新手段と、前記
中間信号ｙ_r（ｒ＝１〜Ｎ）の周辺エントロピーＨ
（ｙ_r）を最大化するよう、推定信号ｓ_r’の値に基づい
て前記非線形関数ｇ_rの関数形状を更新する関数更新手
段と、を含むことを特徴とする。

【００２０】本発明によれば、中間信号ｙ_rの周辺エン
トロピーＨ（ｙ_r）を最大化するよう関数更新手段が非
線形関数ｇ_rの関数形状を更新するため、原信号ｓ_pの確
率分布が未知である場合や変化する場合であっても、正
しく観測信号ｘ_qから原信号ｓ_pを分離抽出した推定信号
ｓ_r’を出力することができる。

【００２１】また、本発明に係る信号分離装置の一態様
では、前記関数更新手段は、入力層と競合学習層とを備
えたニューラルネットワークと、前記入力層のユニット
に推定信号ｓ_r’の値を順次入力する手段と、前記競合
学習層のユニットと前記入力層のユニットとの間のシナ
プス結合の重みを、前記推定信号ｓ_r’の値に応じて更
新する手段と、を含み、前記非線形関数ｇ_rの関数形状
は、前記シナプス結合の重みとして間接的に保持され、
更新されることを特徴とする。

【００２２】本発明によれば、ニューラルネットワーク
の汎化能力を用いて比較的少数の推定信号ｓ_r’から連
続関数たる非線形関数ｇ_rの形状を適切に更新すること
ができる。

【００２３】

【発明の実施の形態】以下、本発明の好適な実施の形態
について図面に基づき詳細に説明する。

【００２４】図１は、本発明の実施の形態に係る信号分
離装置の全体構成を示す図である。同図中、縦に引かれ
た一点鎖線よりも左側は外界を表し、右側は装置を表し
ている。この信号分離装置１０は、信号を検出する二つ
のセンサ部１６ａ，１６ｂと、センサ部１６ａ，１６ｂ
の出力である観測信号ｘ_1k，ｘ_2kを成分とする観測信号
ベクトルに信号分離行列Ｗを乗算して推定信号ｓ_1k’，
ｓ_2k’を成分とする推定信号ベクトルを算出する信号分
離部１８と、信号分離行列Ｗを更新する学習部１１と、
を含んで構成されている。そして、外界に設置された二
つの信号源１２ａ，１２ｂから互いに独立に発生する原
信号ｓ_1k，ｓ_2kは、混合過程Ａ（符号１４）により混合
され、その混合信号がセンサ部１６ａ，１６ｂにより観
測される。ここでは、信号源１２としてスピーカを、セ
ンサ部１６としてマイクを、取り扱う信号として音声信
号をそれぞれ想定するが、その他、本信号分離装置１０
では画像信号、通信信号、生体信号などの分離も同様に
行うことができ、その場合はセンサ部１６としてＣＣＤ
カメラ、受信機、生体センサなどを用いればよい。な
お、各信号に付されたｋは時間順を表す添字である。

【００２５】学習部１１は、分離行列更新部２０、観測
信号記憶部２２、推定信号記憶部２４、制御部２６、非
線形関数更新部２８ａ，２８ｂ、非線形関数演算部３０
ａ，３０ｂを含んで構成されている。観測信号記憶部２
２はＲＡＭを含んで構成されており、センサ部１６から
出力される観測信号ｘ_1k，ｘ_2kを、制御部２６によるア
ドレス指定に従って順次記憶する。ここでの記憶内容は
分離行列更新部２０での処理に用いられる。推定信号記
憶部２４もＲＡＭを含んで構成されており、信号分離部
１８から出力される推定信号ｓ_1k’，ｓ_2k’を、制御部
２６によるアドレス指定に従って順次記憶する。ここで
の記憶内容は非線形関数更新部２８での処理、及び非線
形関数演算部３０での演算対象として用いられる。

【００２６】非線形関数演算部３０ａは図示しないＲＡ
Ｍ上に非線形関数ｇ₁の形状を保持しており、制御部２
６から指示されるタイミングで推定信号記憶部２４に記
憶されている推定信号ｓ_1k’を読み込み、それを非線形
関数ｇ₁に代入演算して中間信号ｙ_1kに変換し、分離行
列更新部２０に供給する。非線形関数演算部３０ｂも同
様であり、図示しないＲＡＭ上に非線形関数ｇ₂の形状
を保持しており、推定信号ｓ_2k’を非線形関数ｇ₂に代
入演算して中間信号ｙ_2kを生成し、それを分離行列更新
部２０に供給する。

【００２７】非線形関数更新部２８は対応する非線形関
数演算部３０に保持される非線形関数ｇ₁又はｇ₂の形状
を推定信号記憶部２４に記憶されている推定信号ｓ_1k’
又はｓ_2k’に基づいて更新する。具体的には、非線形関
数更新部２８は自己組織化機能を有する相互結合型ニュ
ーラルネットワーク（以下、「自己組織化マップ」とい
う）を含んで構成されている。

【００２８】図２は、かかる自己組織化マップを示す概
念図である。同図に示す自己組織化マップ４１は、入力
層ユニット（ニューロンモデル）４２と、競合学習層４
０上に一次元配置されたＮ個のユニットＵ₀〜Ｕ_Nとを有
しており、入力層ユニット４２と各ユニットＵ_nとの間
は重みω_nでシナプス結合している。入力層ユニット４
２には推定信号記憶部２４に記憶された推定信号ｓ_1k’
又はｓ_2k’が順次入力されるようになっており、その入
力に対し、競合学習層４０上の勝者ユニット（最大反応
ニューロンモデル）が選ばれ、当該勝者ユニット及びそ
の近傍ユニットについてのシナプス結合の重みωが所定
学習則に従って更新される。

【００２９】図３は、自己組織化マップにおけるユニッ
トＵ₀〜Ｕ_Nの自己組織化を説明する図である。同図
（ａ）は、信号分離部１８から出力される推定信号
ｓ_1k’又はｓ_2k’（ここではｓ_1k’を考えることにす
る）の時間的推移を示している。同図（ａ）に示される
黒点は、ここで着目しているサンプル点である。同図
（ｂ）は、推定信号ｓ_1k’の確率密度分布を示してい
る。同図（ｃ）は、図２に既に示した自己組織化マップ
４１を示している。さらに、同図（ｄ）は、自己組織化
マップ４１の学習が十分に進んだ後の、シナプス結合の
重みωの値を示している。これらの図に示されるよう
に、一定期間の推定信号ｓ_1k’を自己組織化マップ４１
に入力すれば、同図（ｄ）に示される各ユニットＵ₀〜
Ｕ_Nのシナプス結合の重みωは、同図（ｂ）に示される
確率密度分布を反映したものとなる。具体的には、学習
後、同図（ｂ）における確率密度に対応して、シナプス
結合の重みωの分布に粗密が現れる。このように、学習
後の自己組織化マップ４１ではシナプス結合の重みωが
推定信号ｓ_1k’やｓ_2k’の確率密度分布を反映したもの
となっているため、これに基づき、確率密度関数ｐ（ｓ
₁’），ｐ（ｓ₂’）の形状を得ることができる。また、
それら確率密度関数ｐ（ｓ₁’），ｐ（ｓ₂’）を積分す
ることにより、非線形関数ｇ₁，ｇ₂を得ることもでき
る。すなわち、自己組織化マップ４１では、シナプス結
合の重みωを介して、確率密度関数ｐ（ｓ₁’），ｐ
（ｓ₂’）や、非線形関数ｇ₁，ｇ₂の形状を、いわば間
接的に保持することができる。こうした自己組織化マッ
プ４１の機能を利用して、非線形関数更新部２８では推
定信号ｓ_1k’，ｓ_2k’に基づき非線形関数ｇ₁，ｇ₂の更
新を行っている。

【００３０】再び図１に戻る。分離行列更新部２０に
は、中間信号ｙ_1k，ｙ_2k及び観測信号ｘ_1k，ｘ_2kが入力
される。分離行列更新部２０では、これらの値を所定の
行列更新式に代入し、それに基づいて信号分離部１８に
保持される信号分離行列Ｗを更新する。制御部２６は観
測信号記憶部２２、推定信号記憶部２４への書き込みア
ドレス指定や、非線形関数更新部２８、非線形関数演算
部３０への読み込みタイミング指示の他、装置各部の制
御を行う。

【００３１】以上の構成を有する信号分離装置１０で
は、制御部２６による切り替え制御により、学習モード
動作と信号分離モード動作とを選択的に行うようになっ
ている。すなわち、学習モードでは装置全体が機能して
信号分離部１８に保持される信号分離行列Ｗが随時更新
されるが、信号分離モードでは学習部１１が休眠状態と
なり、学習済みの信号分離行列Ｗを用いて信号分離が行
われる。

【００３２】ここで、以上の構成を有する信号分離装置
１０の動作について説明する。図４は、本発明の実施の
形態に係る信号分離装置１０の学習モードでの動作を説
明するフロー図である。

【００３３】同図に示すように、学習モードでは、まず
制御部２６が信号分離行列Ｗの初期化を行う（Ｓ１０
１）。この初期化では、例えば信号分離行列Ｗを単位行
列に設定する。或いは、例えば各行列要素に乱数を与え
るようにしてもよい。次に、非線形関数更新部２８で
は、そこに内蔵する自己組織化マップ４１において、ユ
ニットＵ₀〜Ｕ_N及び入力層ユニット４２の準備と、ユニ
ットＵ₀〜Ｕ_Nの初期配置とを行う（Ｓ１０２）。具体的
には、入力層に入力層ユニット４２を用意するととも
に、競合学習層４０にＮ個のユニットＵ₀〜Ｕ_Nを用意す
る。そして、各ユニットＵ₀〜Ｕ_Nのシナプス結合の重み
ω_n（ｎ＝０〜Ｎ）を初期化し、それらユニットＵ₀〜Ｕ
_Nの初期配置を行う。重みω_nの初期値としては例えば、

【数７】 のように、各ユニットＵ₀〜Ｕ_Nを等間隔に配置するもの
を選べばよい。

【００３４】次に、制御部２６は、図示しないメモリに
格納された変数ｉ及び変数ｊの値を０に初期化する（Ｓ
１０３，Ｓ１０４）。ここで変数ｉは、信号分離行列Ｗ
及び非線形関数ｇ₁，ｇ₂の更新回数を表す。また変数ｊ
は、観測信号記憶部２２及び推定信号記憶部２４に格納
済みの信号対の数を表す。

【００３５】その後、信号分離装置１０では各センサ部
１６にて信号が観測され、時刻ｋでの観測値として観測
信号ｘ_1k，ｘ_2kが出力される（Ｓ１０５）。制御部２６
では、それら信号対を観測信号記憶部２２のｊ番地に書
き込む（Ｓ１０６）。また、観測信号ｘ_1k，ｘ_2kは信号
分離部１８にも入力され、そこで次式（１２）に従っ
て、時刻ｋにおける推定信号ｓ_1k’，ｓ_2k’を成分とす
る推定信号ベクトルが算出され、出力される（Ｓ１０
７）。

【００３６】

【数８】 そして、制御部２６では、信号分離部１８から出力され
る推定信号ｓ_1k’，ｓ_2k’を推定信号記憶部２４のｊ番
地に書き込む（Ｓ１０８）。その後、制御部２６では、
変数ｊが設定値Ｊに達していないか判断し（Ｓ１０
９）、達していなければ変数ｊの値をインクリメントし
（Ｓ１１０）、再びセンサ部１６により観測信号ｘ_1k，
ｘ_2kを取得する（Ｓ１０５）。

【００３７】一方、Ｓ１０９にて変数ｊが設定値Ｊに達
していると判断されれば、次に制御部２６では、変数ｉ
が設定値Ｉに達しているかを判断する（Ｓ１１１）。そ
して、設定値に達していなければ、非線形関数更新部２
８により非線形関数ｇ₁，ｇ₂の更新を行い（Ｓ１１
２）、さらに分離行列更新部２０により信号分離行列Ｗ
の更新を行う（Ｓ１１３）。これらＳ１１２，Ｓ１１３
での処理は、後に詳述する。その後、制御部２６は変数
ｉの値をインクリメントし、再び変数ｊの値を０に戻し
（Ｓ１０４）、新たにセンサ部１６により観測信号
ｘ_1k，ｘ_2kを取得する（Ｓ１０５）。一方、Ｓ１１１で
変数ｉが設定値Ｉに達していると判断された場合には、
学習が終了したと判断し、学習モードでの処理を終了す
る。

【００３８】図５は、図４のＳ１１２での処理を詳細に
説明するフロー図であり、非線形関数更新部２８での処
理を示している。以下、非線形関数更新部２８ａの処理
について説明するが、非線形関数更新部２８ｂの処理も
同様である。

【００３９】非線形関数更新処理では、まず、図示しな
いメモリに変数ｍを０として記憶するとともに（Ｓ２０
１）、変数ｊを０として記憶する（Ｓ２０２）。ここで
変数ｍは、自己組織化マップ４１の学習繰り返し回数を
表す。また変数ｊは、非線形関数更新部２８ａに読み込
もうとする推定信号ｓ_1k’の、推定信号記憶部２４にお
ける番地を表す。

【００４０】その後、非線形関数更新部２８ａは推定信
号記憶部２４からｊ番地に記憶されている推定信号
ｓ_1k’を読み出し、それを内部に設けられた自己組織化
マップ４１に入力する（Ｓ２０３）。自己組織化マップ
４１では、推定信号ｓ_1k’の入力に対し、競合学習層４
０上のユニットＵ０〜Ｕ_Nから一つの勝者ユニットが決
定される（Ｓ２０４）。これは、例えば入力層ユニット
４２とのユークリッド距離が最も小さな値をとる、ユニ
ットＵ₀〜Ｕ_Nの一つが選ばれる。その他、推定信号
ｓ_1k’とシナプス結合の重みωとの積（内積）が最も小
さな値をとる、ユニットＵ₀〜Ｕ_Nの一つを選んでもよ
い。次に、非線形関数更新部２８ａでは、勝者ユニット
の近傍ユニットを決定する（Ｓ２０５）。例えば勝者ユ
ニットがユニットＵ_nであれば、ユニットＵ_n-1とユニッ
トＵ_n+1を近傍ユニットに決定すればよい。その後、こ
うして決定した勝者ユニット及び近傍ユニットについ
て、シナプス結合の重み（重みベクトル）を、例えばヘ
ブ則などの各種更新式に従って更新する（Ｓ２０６）。
そして、変数ｊが設定値Ｊに等しくなるまで（Ｓ２０
７）、変数ｊの値を一つづつインクリメントしつつ（Ｓ
２０８）、推定信号ｓ_1k’を自己組織化マップ４１に入
力しつづける（Ｓ２０３〜Ｓ２０６）。

【００４１】そして、変数ｊが設定値Ｊに等しくなった
場合、変数ｍが設定値Ｍに等しいか否かを判断する（Ｓ
２０９）。そして、変数ｍが設定値Ｍに等しくなけれ
ば、変数ｍの値を１だけインクリメントして（Ｓ２１
０）、再び変数ｊの値を０に初期化して（Ｓ２０２）、
推定信号ｓ_1k’の自己組織化マップ４１への入力を繰り
返す（Ｓ２０３〜Ｓ２０７）。

【００４２】一方、Ｓ２０９にて変数ｍが設定値Ｍに等
しいと判断されれば、競合学習層４０上のすべてのユニ
ットＵ₀〜Ｕ_Nに対して与えられたシナプス結合の重みω
₀〜ω_Nに基づき、非線形関数ｇ₁を生成する。そして、
それを非線形関数演算部３０ａに供給し（Ｓ２１１）、
非線形関数更新処理を終了する。

【００４３】図６は、シナプス結合の重みω₀〜ω_Nに基
づいて非線形関数ｇ₁を生成する手順の一例を説明する
図であり、同図上段は、自己組織化マップ４１における
シナプス結合の重みω₀〜ω_Nの分布を表しており、同図
中段は、それに基づき得られる非線形関数ｇ₁の一階微
分ｇ₁’（ｓ₁’）（＝ｐ（ｓ₁’））を表している。ま
た同図下段は、非線形関数ｇ₁（ｓ₁’）を表している。

【００４４】上述したように、自己組織化マップ４１に
おいては、シナプス結合の重みω₀〜ω_Nの分布が、推定
信号ｓ₁’の確率密度関数ｐ（ｓ₁’）を反映したのもと
なっている。また、式（８）より、周辺エントロピーＨ
（ｙ₁）を最大化する非線形関数ｇ₁は、その一階微分が
推定信号ｓ₁’の確率密度関数ｐ（ｓ₁’）に等しい。こ
のため、同図中段では、横軸の量である推定信号ｓ₁’
の値が隣り合うシナプス結合の重みωの平均値であり、
縦軸の量である関数ｇ₁’の値が、それら重みωの差の
逆数に係数ｃを掛けたものである点を、すべてのシナプ
ス結合の重みω₀〜ω_Nについてプロットしている。そし
て、それらの点を直線で結んだものを関数ｇ₁’として
いる。ここで、係数ｃは関数ｇ₁’と横軸とに囲まれる
領域の面積が１となるように定められる。また、同図下
段は、同図中段のグラフを積分して得られるものであ
る。ここで、Ｓ_uは区間［（ω_u-1＋ω_u）／２，（ω_u＋
ω_u+1）／２］における、ｇ₁’（ｓ₁’）とｓ₁’軸とに
挟まれた領域の面積である。ただし、Ｓ₀＝ｃ／（ω₁−
ω₀）とする。非線形関数更新部２８ａでは、同図下段
の各黒点を補間して非線形関数ｇ₁を生成し、それを非
線形関数演算部３０ａに供給している。

【００４５】非線形関数更新部２８ａでは、以上のよう
にして中間信号ｙ₁の周辺エントロピーＨ（ｙ₁）を最大
化するよう非線形関数ｇ₁の形状を決定している。非線
形関数更新部２８ｂも同様にして、中間信号ｙ₂の周辺
エントロピーＨ（ｙ₂）を最大化するよう非線形関数ｇ₂
の形状を決定している。そして、これらの決定は原信号
ｓ₁，ｓ₂の確率密度分布が未知である場合にも可能であ
り、また、信号分離行列Ｗの更新の最中に変化した場合
であっても、適応的に周辺エントロピーＨ（ｙ₁），Ｈ
（ｙ₂）を最大化するよう非線形関数ｇ₁，ｇ₂の形状を
随時更新することができる。

【００４６】なお、図５のＳ２０３〜Ｓ２０７で行われ
る自己組織化マップ４１の学習工程としては、以上説明
したものに限らず、各ユニットＵ₀〜Ｕ_NがＪ個の推定信
号ｓ_1k’又はｓ_2k’に対して等確率に勝者ユニットに選
ばれるよう競合学習層４０上のユニットＵ₀〜Ｕ_Nを再配
置してゆくものであれば、どのような学習工程を用いて
もよい。例えば、 Duane Desieno, "Adding a Conscien
ce to Competitive Learning", Proc. Int. Conf. on N
eural Networks, I pp.117-124, IEEE Press,New York
1988 に開示されたアルゴリズムでは、各ユニットＵ₀〜
Ｕ_Nにつき最近勝者ユニットに選ばれた割合を時々刻々
トレースしてゆき、その１ユニット当たりの勝者ユニッ
トに選ばれる割合の期待値に、その割合が近づくよう勝
者ユニットを選んでゆく。このため、このアルゴリズム
を図５のＳ２０３〜Ｓ２０７に適用することにより、推
定信号ｓ₁’又はｓ₂’の確率密度をより正確に自己組織
化マップ４１にて近似することができるようになる。

【００４７】次に信号分離行列Ｗの更新処理を説明す
る。図７は、図４のＳ１１３での処理を詳細に説明する
フロー図である。同図に示すように、信号分離行列Ｗの
更新処理では、まず制御部２６が変数ｊの値を０に初期
化する（Ｓ３０１）。ここで変数ｊは、推定信号記憶部
２４の読み出し番地を表す。次に、制御部２６は、推定
信号記憶部２４のｊ番地に記憶されている推定信号
ｓ_1k’及びｓ_2k’を読み出し、それを非線形関数演算部
３０にそれぞれ供給する（Ｓ３０２）。これを受け、非
線形関数演算部３０では入力された推定信号ｓ_1k’又は
ｓ_2k’を非線形関数ｇ₁又はｇ₂に代入し、その値である
中間信号ｙ_1k，ｙ_2kを分離行列更新部２０に供給する。

【００４８】その後、分離行列更新部２０では、観測信
号記憶部２２のｊ番地から観測信号ｘ_1k，ｘ_2kを読み出
し、それらを中間信号ｙ_1k，ｙ_2kとともに、次式（１
３）に示される自然勾配法の更新式に代入し、信号分離
行列Ｗを更新する。

【００４９】

【数９】 ここで、Ｗ_newは更新後の信号分離行列Ｗであり、Ｗ_old
は更新前の既に信号分離部１８に格納されている信号分
離行列Ｗである。また、ｌは学習率を、Ｉは単位行列を
それぞれ表している。また、Ｅ［・］は期待値演算を、
Ｔは転置を表している。

【００５０】なお、ｙ₁’，ｙ₂’は中間信号ｙ₁，ｙ₂の
一階微分を表し、ｙ₁’’，ｙ₂’’は二階微分を表す。
これらの値は直前に供給された中間信号ｙ₁，ｙ₂の値だ
けからは求められず、前回及び前々回に供給された中間
信号ｙ₁，ｙ₂の値を用いて求めることができる。このた
め、変数ｊが０又は１の場合、図７のＳ３０３の処理は
スキップされる。

【００５１】なお、Ｓ３０３で用いる更新式は式（１
３）に限定されるものではなく、次式（１４）に示され
る確率勾配法の更新式、或いは次式（１５）に示される
勾配法の更新式を用いてもよい。

【００５２】

【数１０】 信号分離行列Ｗの更新を終えると、変数ｊが設定値Ｊに
等しくなるまで（Ｓ３０４）、変数ｊをインクリメント
し（Ｓ３０５）、再び推定信号記憶部からデータを読み
出し、信号分離行列Ｗの更新を繰り返す（Ｓ３０２，Ｓ
３０３）。そして、変数ｊが設定値Ｊに等しくなると、
分離行列更新処理を終了する。

【００５３】以上が信号分離装置１０の学習モードでの
全動作である。最後に、信号分離装置１０の信号分離モ
ードでの動作について説明する。図８は、本発明の実施
の形態に係る信号分離装置１０の信号分離モードにおけ
る動作を説明するフロー図である。同図に示すように、
このモードでは、まず信号分離部１８の図示しないメモ
リに用意された変数ｒが０に初期化される（Ｓ４０
１）。この変数ｒは、信号分離を行う回数を表してい
る。次に、信号分離部１８は、センサ部１６から現時刻
における観測信号ｘ_1k，ｘ_2kを受け取る（Ｓ４０２）。
この信号値は既に示した式（１２）に代入され、推定信
号ｓ_1k’，ｓ_2k’を出力する（Ｓ４０３）。そして、変
数ｒが設定値Ｒよりも小さければ（Ｓ４０４）、変数ｒ
をインクリメントして（Ｓ４０５）、再び次の時刻での
観測信号ｘ_1k，ｘ_2kをセンサ部１６から受け取る（Ｓ４
０２）。そして、変数ｒが設定値Ｒに等しくなれば（Ｓ
４０４）、信号分離処理を終了する。

【００５４】以上説明した信号分離装置１０によれば、
原信号ｓ₁，ｓ₂の確率密度分布が未知である場合であっ
ても、推定信号ｓ₁’，ｓ₂’に基づき、中間信号ｙ₁，
ｙ₂の周辺エントロピーＨ（ｙ₁），Ｈ（ｙ₂）を最大化
するよう非線形関数ｇ₁，ｇ₂の形状を設定することがで
きる。このため、原信号ｓ₁，ｓ₂の確率分布が不明であ
る場合にも、正しく信号分離行列Ｗを更新することがで
きる。また、こうして更新された信号分離行列Ｗを用い
て信号分離を行えば、観測信号ｘ₁，ｘ₂から正しく独立
成分を分離することができる。

【００５５】なお、以上説明した信号分離装置１０は種
々の変形実施が可能である。例えば、以上では信号源１
２とセンサ部１６とが共に２つである場合について説明
したが、センサ部１６の数が信号源１２の数よりも多け
れば、信号分離行列Ｗの行数及び列数をそれに応じて増
やすことにより、同様に信号分離できる。

【００５６】また、以上の説明では非線形関数演算部３
０にて非線形関数ｇ₁，ｇ２の形状を保持し、中間信号
ｙ₁，ｙ₂を分離行列更新部２０に供給するようにした
が、分離行列更新部２０にて必要な情報は中間信号
ｙ₁，ｙ₂の一階微分及び二階微分であることから、非線
形関数演算部３０にて非線形関数ｇ₁，ｇ₂の一階微分及
び二階微分の形状を保持しておき、分離行列更新部２０
には中間信号ｙ₁，ｙ₂の一階微分及び二階微分の値を直
接に供給するようにしてもよい。こうすれば、微積分処
理を繰り替えることにより発生する誤差を押さえること
ができるとともに、図７のＳ３０３の処理をスキップす
るという例外処理を避けることができる。

【００５７】また、以上の説明ではセンサ部１６から出
力される観測信号ｘ_1k，ｘ_2kを観測信号記憶部２２に記
憶しておき、それを後に分離行列更新部２０に供給した
が、観測信号ｘ_1k，ｘ_2kの値は推定信号記憶部２４に記
憶された推定信号ｓ_1k’，ｓ_2k’を成分とする推定信号
ベクトルに信号分離行列Ｗの逆行列を乗算しても得られ
る。このため、推定信号記憶部２４から出力される推定
信号ｓ_1k’，ｓ_2k’を分離行列更新部２０にも供給すれ
ば、観測信号記憶部２２を特に設けなくてもよい。

【００５８】また、以上では原信号ｓ₁，ｓ₂が瞬時混合
した場合のみ説明したが、畳み込み混合した場合も、本
発明を同様に適用することができる。

【００５９】さらに、以上の説明した信号分離装置１０
では、学習モードでの動作と信号分離モードでの動作と
が選択的に行われるようにしたが、その他、信号分離モ
ードの動作と並行して学習モードの動作を常に、或いは
一定周期で行うようにすれば、原信号ｓ₁，ｓ₂の確率密
度に変化が現れた場合にも、それに追随して正確に、原
信号ｓ₁，ｓ₂を観測信号ｘ₁，ｘ₂から分離することがで
きるようになる。

【図面の簡単な説明】

【図１】 本発明の実施の形態に係る信号分離装置の構
成を示す図である。

【図２】 非線形関数更新部に含まれる自己組織化マッ
プを模式的に示す図である。

【図３】 自己組織化マップにより推定信号の確率密度
分布が記録される様子を説明する図である。

【図４】 本発明の実施の形態に係る信号分離装置の学
習モードでの動作を説明するフロー図である。

【図５】 非線形関数更新部の処理を説明するフロー図
である。

【図６】 自己組織化マップから非線形関数を生成する
手順を説明する図である。

【図７】 分離行列更新部の処理を説明するフロー図で
ある。

【図８】 本発明の実施の形態に係る信号分離装置の信
号分離モードでの動作を説明するフロー図である。

【図９】 従来技術に係る信号分離装置の一構成例を示
す図である。

【符号の説明】

１０ 信号分離装置、１１ 学習部、１２ 信号源（ス
ピーカ）、１４ 混合過程、１６ センサ部、１８ 信
号分離部、２０ 分離行列更新部、２２ 観測信号記憶
部、２４ 推定信号記憶部、２６ 制御部、２８ 非線
形関数更新部、３０ 非線形関数演算部、４０ 競合学
習層、４１ 自己組織化マップ、４２入力層ユニット。

Claims (2)

【特許請求の範囲】
1. 【請求項１】 それぞれがＮ個の統計的独立な原信号ｓ
   _p（ｐ＝１〜Ｎ）を混合してなる観測信号ｘ_q（ｑ＝１〜
   Ｍ；Ｍ≧Ｎ）を検出するＭ個の信号検出手段と、 観測信号ｘ_qを成分とする観測信号ベクトルに信号分離
   行列を乗算して推定信号ｓ_r’（ｒ＝１〜Ｎ）を成分と
   する推定信号ベクトルを生成する信号分離手段と、 前記推定信号ｓ_r’が互いに統計的独立となるよう前記
   信号分離行列を更新する学習手段と、 を含む信号分離装置において、 前記学習手段は、 １変数の非線形関数ｇ_r（ｒ＝１〜Ｎ）に、対応する推
   定信号ｓ_r’を代入して得られるＮ個の中間信号ｙ_r（ｒ
   ＝１〜Ｎ）の結合エントロピーＨ（ｙ₁，ｙ₂，…，
   ｙ_N）を最大化するよう、前記分離行列を更新する行列
   更新手段と、 前記中間信号ｙ_r（ｒ＝１〜Ｎ）の周辺エントロピーＨ
   （ｙ_r）を最大化するよう、推定信号ｓ_r’の値に基づい
   て前記非線形関数ｇ_rの関数形状を更新する関数更新手
   段と、 を含むことを特徴とする信号分離装置。
2. 【請求項２】 請求項１に記載の信号分離装置におい
   て、 前記関数更新手段は、 入力層と競合学習層とを備えたニューラルネットワーク
   と、 前記入力層のユニットに推定信号ｓ_r’の値を順次入力
   する手段と、 前記競合学習層のユニットと前記入力層のユニットとの
   間のシナプス結合の重みを、前記推定信号ｓ_r’の値に
   応じて更新する手段と、を含み、 前記非線形関数ｇ_rの関数形状は、前記シナプス結合の
   重みとして間接的に保持され、更新されることを特徴と
   する信号分離装置。