JP3931237B2 - ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体 - Google Patents

ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体 Download PDF

Info

Publication number
JP3931237B2
JP3931237B2 JP2003315144A JP2003315144A JP3931237B2 JP 3931237 B2 JP3931237 B2 JP 3931237B2 JP 2003315144 A JP2003315144 A JP 2003315144A JP 2003315144 A JP2003315144 A JP 2003315144A JP 3931237 B2 JP3931237 B2 JP 3931237B2
Authority
JP
Japan
Prior art keywords
signal
matrix
signal separation
mixed
source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003315144A
Other languages
English (en)
Other versions
JP2005084860A (ja
Inventor
聡 前川
学 小谷
朋哉 奥村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Information and Communications Technology
Original Assignee
National Institute of Information and Communications Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Information and Communications Technology filed Critical National Institute of Information and Communications Technology
Priority to JP2003315144A priority Critical patent/JP3931237B2/ja
Priority to US10/790,241 priority patent/US7010514B2/en
Priority to CA002460260A priority patent/CA2460260A1/en
Publication of JP2005084860A publication Critical patent/JP2005084860A/ja
Application granted granted Critical
Publication of JP3931237B2 publication Critical patent/JP3931237B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2134Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on separation criteria, e.g. independent component analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Complex Calculations (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Filters That Use Time-Delay Elements (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

本発明は、ブラインド信号分離技術に関し、特に、源信号が時間遅れで混合された信号から源信号を分離するブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体に関する。
ブラインド信号分離問題において、特に時間遅れで混合される信号を分離する方法としてブラインドデコンボリューション法がある。Zhangらは、複数の独立信号が時空間的に混合された観測信号に対して統計的独立性の尺度として出力信号に対するKLダイバージェンス(Kullback−Leibler divergence)を利用し、これを最小化するように線形フィルタを学習する方法を提案することで、多チャンネルブラインド信号分離を行っている(例えば、非特許文献1参照)。
一方、観測信号数よりも独立信号が多い場合の信号に対して過完備基底を用いた学習アルゴリズムを用いる方法がある。Olshausenらは入力信号と推定されたモデルとの間の自乗誤差、及び出力のスパース性により構成される評価関数を定義し、これを最小化するように学習を行うスパースコーディングネットワークを提案している(例えば、非特許文献2、3、4参照)。また、Lewickiらは最尤推定法に基づいて入力データの事後確率を最大化することでブラインド信号分離を行っている(例えば、非特許文献5、6、7参照)。
ここで、Lewickiらによって提案された学習アルゴリズムの概要について述べる。n次元の独立信号である源信号s={s1 ,…,sn }がm次元の混合信号x={x1 ,…,xm }に混合される時、以下のように定式化できる。
x=As (1)
式(1)において、Aはm行n列の行列(基底行列)である。基底行列Aの各列を基底関数とみなすと、sの各要素は、各基底関数の係数(基底係数)となっている。さらにm≦nであることを前提としており、混合信号xは過完備基底の線形和として表されるとみなすことができる。ここでの目的は、混合信号xの情報のみからそれを構成するのに最適な基底行列Aと源信号sとを推定することである。ここで推定される最適な基底行列Aが、源信号sを混合して混合信号xとする混合行列である。
以下では,確率論的観点からそれらの解を得る推定方法について述べる。まず、基底係数の推定について説明する。基底が過完備であることにより式(1)をみたすsは一意的に定まらない。そこで、sの事後確率P(s|x,A)を最大化することにより最適なsを得る方法を用いる。その方法は以下の線形計画問題を解くことに帰着される。
min cT |s|, subject to As=x (2)
ここで、c=(1,…,1),線形計画法の目的関数はcT |s|=Σk |sk |である。これは、As=xという条件下で事前確率分布P(s)を最大化することと等価である。P(s)にはスパース性を示す分布としてラプラス分布、
Figure 0003931237
を仮定している。θは分散を決定するパラメータである。
次に、データの構造に最も適合する基底を見い出すための学習アルゴリズムの導出について考える。ここではあるデータxに対する対数事後確率、
Figure 0003931237
を尤度関数とみなし、これを最大化するAを求めるという最尤推定法に基づき、最適な基底を導出する。導関数
Figure 0003931237
がゼロとなるような最尤推定値Aを勾配法によって学習することで探索する。しかし、P(x|A)を求めるための式(3)の積分計算は一般的には困難であり、その値を具体的に求めることはできない。よって、P(x|A)を鞍部点法により^sの周りで展開することで得られる近似式を用いると、
Figure 0003931237
となる。ここで、
Figure 0003931237
である。σはノイズ(x−As)の標準偏差を表す。なお、^sは式(2)における解である。学習則はlogP(x|A)のAに関する導関数により得ることができる。
Figure 0003931237
とすると、学習則は以下の式で与えられる(例えば、非特許文献5参照)。
Figure 0003931237
ここで、
Figure 0003931237
である。
以上により求めた学習則△Aを利用して基底行列Aを以下の手順により学習により修正していく。なお、学習則△Aによる修正は、修正直前の基底行列Aの各要素毎に行われる。
(1)混合信号xを入力信号とし、入力信号xと基底行列Aから式(2)の線形計画法によりsを求める。なお、式(2)の線形計画法の計算に用いられるソフトの一例が、下記の非特許文献8に記載されている(非特許文献8参照)。
(2)上記(1)の手順で求めたsにより式(6)の△Aを計算し、以下の式により基底行列Aを修正する。
new =Aold +η△A (7)
new 、Aold はそれぞれ修正前と修正後の基底行列を表す。ηは学習率である。
(3)上記(1)、(2)の手順を基底行列Aが収束するまで繰り返す。基底行列Aの収束値が混合行列として算出される。また、基底行列Aが収束値をとるときの式(2)における解^sが推定された源信号である。
L.-Q.Zhang,A.Cichocki and S.Amari,"Multichannel blind deconvolution of non-minimum phase systems using information backpropagation ",Neural Information Processing(INCONIP'99),pp.210-216,(1999). B.A.Olshausen and D.J.Field,"Sparse coding with an overcomplete basis set:A strategy employed by V1? ",Vision Research,Vol.37,No.23,pp.3311-3325,(1997). B.A.Olshausen and D.J.Field,"Wavelet-like receptive fields emerge from a network that learns sparse codes for natural images.",Nature,Vol.381,pp.607-609,(1996). B.A.Olshausen and D.J.Field,"Natural image statistics and efficient coding.",Network,Vol.7,pp.333-339,(1996). M.S.Lewicki and T.J.Sejnowski,"Learning overcomplete representations.",Neural Computation,Vol.12,pp.337-365,(1998). T.W.Lee,M.S.Lewicki,M.Girolami and T.J.Sejnowski, "Blind source separation of more sources than mixtures using overcomplete representations",IEEE Signal Processing Letters,6(4),pp.87-90,(1999). M.S.Lewicki and T.J.Sejnowski,"Learning nonlinear overcomplete representations for efficient coding."Advances in Neural and Information Processing Systems 10,pp.556-562.(1997). ftp://ftp.ics.ele.tue.nl/pub/lp solve/
しかし、上記従来技術のうち、ブラインドデコンボリューション法のアルゴリズムでは線形フィルタを使用するため、混合信号数以上の独立信号を抽出できないという制約がある。
また、前述したLewickiらによって提案された過完備な基底を用いた信号分離アルゴリズムでは、混合信号数以上の独立信号を得ることができるが、源信号が時間遅れで混合された信号(時空間的に混合された信号)を扱うことは困難であるという問題がある。以下にその理由を述べる。
例えば、正弦波の時系列信号を考える。正弦波においては、位相の異なる2つの基底関数(例えば、sinθとcosθ)を用意しさえすれば、それらの線形結合によって、任意の位相の正弦波を表現することが可能である。このことは、位相の異なる正弦波が、サンプリング点数に依らずに2次元の平面上に乗っていることを示す。
しかし、一般的な信号波形の場合には、このような少ない次元に収まることはまれである。例えば、デルタ関数のような信号波形を考えると、時間の経過によって、全てのサンプリング点で作られる空間を覆い尽くし、時間のずれを少数の異なる基底の線形結合で表現することは不可能となることが分かる。このようなことは、非周期波形については、いつでも当てはまる。
以上のことから、時空間的に混合された信号を扱うためには、全ての時間のずれに対応した基底を用意する必要性がある。すなわち、サンプリング点数×基底の種類という膨大な数の基底が必要となる。この場合、同種の信号波形に対する各基底は単に時間がずれた信号であり、相似形となるべきである。
Lewickiらによって提案された過完備基底を用いた信号分離アルゴリズムをそのまま適用した場合、このような膨大な数の基底が学習によって抽出される可能性は排除できないが、非常に困難であることが容易に想像できる。
本発明は、上記従来技術の問題点を解決し、源信号が時空間的に混合された混合信号から混合信号数以上の源信号を分離することができるブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体の提供を目的とする。
図2に示すように、入力信号を構成する成分の時間による移動を捉えるために、各基底において形状は同じであるが位相の異なる基底を全位相において用意する。このように、基底を時間次元において展開することによって、解析の対象となる入力信号に含まれる成分がどのような位相であろうとも、それを基底によって的確に捉えることができる。従って基底に位相対称性(時間対称性)を考慮することにより、時間的に変化する信号の性質や特徴を正確に捉えることができ、信号の解析がより正確に行えるようになる利点がある。
よって、本発明は、前述した課題を解決するため、基底に位相対称性(時間対称性)を導入することにより,過完備基底を対象とした上記Lewickiらのアルゴリズム(非特許文献5参照)に信号の時間遅れによる混合を考慮できるようにし、源信号が時空間的に混合された混合信号から混合信号数以上の源信号を分離することを可能とする。
次に、本発明の原理について説明する。本発明では、まず、時空間混合信号の定式化を行う。n個の信号源から時系列信号s(t)={s1 (t),…,sn (t)}が発生するものとする。各時系列信号sj (t)(1≦j≦n)は、お互いに時空間的に独立で同一分布に従い発生するものと仮定する。これらの信号が時空間的に混合(コンボリューション)されることでm個の信号x(t)={x1 (t),…,xm (t)}が得られるとき、それを式で表すと以下のようになる。
Figure 0003931237
ここで、1≦i≦m、Aijはコンボリューションのフィルタを表している。図3にコンボリューションの様子をネットワークモデルにより示す。図3に示すように、例えば、x(t)の構成要素であるxi (t)は、源信号s(t)の構成要素であるs1 (t),…sj (t),…sn (t)にそれぞれフィルタAi1,…Aij,…Ainを適用することによって生成される。
本発明では、式(8)で表される時空間混合信号を、前述したLewickiらの学習アルゴリズムに適用するために、前述した式(1)で示す行列によるモデルx=Asのように、基底の線形和として表現する。
まず、説明の簡単化のため、m=1、n=1の場合について述べる。すなわち、一つの源信号が一つの混合信号としてコンボリューションされた時空間混合信号の場合について考える。なお、ここではA11、x1 ,s1 の添字を省略している。式(8)より、
Figure 0003931237
となる。ここで無限に続く時系列信号x(t)の中で連続する任意の(2q+1)点,[x(−q),…,x(0),…,x(q)]を式(11)を利用して形式的に行列で表現すると、下記の式(12),式(13)のように表される。式(13)の行列は、式(12)における行列Aを表す。また、フィルタA(τ)の長さは2q+1とし、τ<−q,τ>qの範囲での値は0とする。
すなわちA(t)=[…,0,0,A(−q),…,A(0),…,A(q),0,0,…]である。
Figure 0003931237
Figure 0003931237
ここで、式(13)の行列Aの各列に注目すると、各列の要素は一点ずつずれているものの、皆同じフィルタから構成されている。これら各列をそれぞれ一つの基底関数とみなすと、各基底は位相対称性(時間対称性)を持っているので、例えば図4に示すモデルに示すように、時空間混合信号x(t)は基底の線形和として表現できていることを意味する。
このように位相対称性(時間対称性)を持つフィルタを基底として考慮することで,時間遅れで混合された信号を基底の線形和として表現することが可能となる。
ここで、式(13)のように、あるフィルタAij(τ)=[Aij(−q),…,Aij(0),…,Aij(q)]の位相を一点ずつシフトしたものを列に持つ行列を本発明では小行列Aijと定義する。
式(12)、式(13)では一つの源信号s(t)が時間遅れで混合されているだけであるが、n個の源信号{s1 ,…,sn }が時空間的にm個の信号{x1 ,…,xm }に混合される場合、それを行列により定式化すると、混合信号の線形モデルは
Figure 0003931237
の形で表現される。ここでは、xi (t)=[xi (−q),…,xi (0),…,xi (q)](1≦i≦m)、sj (t)=[sj (−2q),…,sj (0),…,sj (2q)](1≦j≦n)とする。{x1 ,…,xm }はm個の各混合信号、{s1 ,…,sn }はn個の各源信号を表す。
式(14)に含まれる複数の行列及びベクトルを組み合わせた式を一つにまとめることで、x=Asといった演算式の形に定式化する。この演算式における行列Aは基底行列であり、基底行列Aを構成する各小行列{Aij}は基底小行列である。上記演算式をLewickiらの過完備基底における学習アルゴリズムに適用する。ここで、基底行列Aは、
Figure 0003931237
で表され、基底行列Aを構成するm×n個の各小行列(基底小行列){Aij}は、
Figure 0003931237
で表される。
入力信号である時空間混合信号xi (t)には、図3よりn個のフィルタ成分{Ai1,Ai2,…,Ain}が含まれることにより、本発明による学習を行うことで、上記基底行列A中のn個の基底小行列{Aij}(1≦j≦n)それぞれにフィルタ成分{Ai1,Ai2,…,Ain}のいずれかが、位相がシフトされた状態で抽出できることが期待される。
ここで、過完備な基底行列に対する学習は、通常は式(6)によって行われるが、基底行列Aを構成するm×n個の各基底小行列{Aij}内の各列は、それぞれ一つのベクトルAij(t)=[Aij(−q),…,Aij(0),…,Aij(q)]により構成されること、すなわち基底小行列{Aij}の各列が位相対称性を持つことを前提としている。
本発明による学習を行列の要素全てに対して行うと基底小行列{Aij}の各列の形状は異なったものとなってしまい、基底の位相対称性(時間対称性)は崩れてしまう。
そこで、本発明においては、基底行列Aを学習により修正している間も常に基底小行列{Aij}の各列が位相対称性を保つようにするために、以下の手順によって基底行列Aの学習を行い、この学習を通じて最適な基底行列Aである混合行列および源信号を推定する。
(1)時空間混合信号xi (t)を入力し、式(14)に示すように、各基底が位相対称性を有する基底小行列{Aij}(1≦i≦m、1≦j≦n)が集合した基底行列Aとsj (t)との演算式に定式化する。
ただし、xi (t)=[xi (−q),…,xi (0),…,xi (q)](1≦i≦m)、sj (t)=[sj (−2q),…,sj (0),…,sj (2q)](1≦j≦n)である。
(2)基底行列Aに含まれるm×n個の各基底小行列{Aij}の第(q+1)列目、つまり真ん中の列の位置にあるベクトル(基底)に対して学習による修正を行い、この学習後の基底を2q+1点のベクトル[^Aij(−q),…,^Aij(0),…,^Aij(q)]とする。
具体的には、上述した式(7)において、学習則△Aによる基底行列Aの修正を、基底行列Aを構成する各基底小行列{Aij}の真ん中の列のベクトル(基底)に対して行う。
(3)上記学習後の基底に基づいて、各基底小行列を式(13)の形に構成し直す。つまり、上記(1)の学習後のベクトル(基底)の位相を順次ずらすことで位相の異なる複数のベクトル(基底)を生成し、学習後の基底と、学習後の基底に基づいて生成された位相の異なる基底から構成される新しい基底小行列{^Aij}を形成する。
(4)各基底小行列{^Aij}を式(14)の形で並べることにより、基底行列Aを構成し直す。これにより得られる基底行列Aを学習された基底行列とみなす。
(5)入力する時空間混合信号を変えて、基底行列Aが十分収束するまで上記(1)〜(4)の手順を繰り返す。そして、基底行列Aの収束値を混合行列として算出するとともに、源信号を推定する。推定された源信号 *j (t)(1≦j≦n)は、基底行列Aが収束値となった時の前述した式(2)における解^sである。
上記のように、本発明は、位相対称性を持つフィルタを基底として考慮することで、時間遅れで混合された信号を基底の線形和として表現し、その上でLewickiらの学習アルゴリズムを適用する。
すなわち、本発明は、複数の源信号が時空間的に混合されてなる混合信号から混合前の源信号を分離する信号分離システムであって、前記混合信号を入力する信号入力手段と、前記入力された混合信号を格納する信号格納手段と、前記信号格納手段に格納された混合信号を抽出し、抽出された混合信号から前記源信号を分離する信号分離手段とを備え、前記信号分離手段が、前記混合信号を示す行列をx、前記源信号を示す行列をsとしたときに、時間軸のシフトに対する対称性を有する基底からなる複数の小行列で構成される基底行列Aを用いて、x=Asという演算式を定式化し、行列cをc=(1,...1)で示される行列とし、また、c T |s|=Σ k |s k |としたときに、線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する。
また、本発明は、前記のブラインド信号分離システムにおいて、前記信号分離手段行列xに対する対数事後確率をlogP(x|A)、∇=∂/∂Aとしたときに、学習則ΔAを、計算式ΔA=AA T ∇logP(x|A)を用いて算出し、前記基底行列Aを構成する複数の小行列の真ん中の列の位置にある基底を前記算出された学習則ΔAを用いて修正し、前記修正された基底に基づいて、前記修正された基底の位相と異なる位相を持つ複数の基底を生成し、前記修正された基底と前記生成された異なる位相を持つ複数の基底とから構成される新たな小行列を生成する。
また、前記信号分離手段が、前記生成された新たな小行列を用いて、前記基底行列Aを更新し、前記更新された基底行列Aに基づいて、前記線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する。
また、本発明は、複数の源信号が時空間的に混合されてなる混合信号から混合前の源信号を分離する信号分離システムにおける信号分離方法であって、前記信号分離システムが備える信号入力手段が、混合信号を入力し、前記信号分離システムが備える信号格納手段が、前記入力された混合信号を格納し、前記信号分離システムが備える信号分離手段が、前記信号格納手段に格納された混合信号を抽出し、抽出された混合信号から前記源信号を分離し、前記信号分離システムが備える信号分離手段が、さらに、前記混合信号を示す行列をx、前記源信号を示す行列をsとしたときに、時間軸のシフトに対する対称性を有する基底からなる複数の小行列で構成される基底行列Aを用いて、x=Asという演算式を定式化し、行列cをc=(1,...1)で示される行列とし、また、c T |s|=Σ k |s k |としたときに、線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する。
また、本発明は、前記のブラインド信号分離方法において、前記信号分離システムが備える信号分離手段が、行列xに対する対数事後確率をlogP(x|A)、∇=∂/∂Aとしたときに、学習則ΔAを、計算式ΔA=AA T ∇logP(x|A)を用いて算出し、前記基底行列Aを構成する複数の小行列の真ん中の列の位置にある基底を前記算出された学習則ΔAを用いて修正し、前記修正された基底に基づいて、前記修正された基底の位相と異なる位相を持つ複数の基底を生成し、前記修正された基底と前記生成された異なる位相を持つ複数の基底とから構成される新たな小行列を生成する。
前記信号分離システムが備える信号分離手段が、前記生成された新たな小行列を用いて、前記基底行列Aを更新し、前記更新された基底行列Aに基づいて、前記線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する。
また、本発明は、前記のブラインド信号分離方法をコンピュータに実行させるためのブラインド信号分離プログラムである。
また、本発明は、前記のブラインド信号分離方法をコンピュータに実行させるためのブラインド信号分離プログラムを記録した記録媒体である。
本発明によれば、源信号が時空間的に混合された混合信号から混合信号数以上の源信号を分離することが可能となる。
本発明では、源信号が時空間的に混合された混合信号から混合信号数以上の源信号を分離するという目的を、混合信号を基底行列と各源信号との演算式に定式化した上で、すなわち基底の線形和に変換した上で、過完備基底による学習アルゴリズムを適用することによって実現した。
図1は本発明の実施例1に係るシステムの構成を示す図である。1はブラインド信号分離システム、11は源信号が時空間的に混合された混合信号が入力される信号入力部、12は入力された混合信号が格納される信号格納部、13は信号格納部12から混合信号を抽出して、抽出された混合信号に基づいて、混合行列を算出するとともに、源信号を推定して分離する信号分離部、14は算出された混合行列、推定された源信号を出力する出力部である。
信号分離部13内において、131は混合信号を基底行列と各源信号との演算式に定式化する定式化部、132はLewickiらによって提案された過完備基底に基づく学習アルゴリズムを適用する学習アルゴリズム適用部、133は混合行列を算出する混合行列算出部、134は源信号を推定する源信号推定部である。
すなわち、本発明では、例えば、信号入力部11に混合信号を入力し、信号格納部12に格納する。そして、信号分離部13内の定式化部131が信号格納部12に格納された混合信号を抽出し、抽出された混合信号を基底行列と各源信号との演算式に定式化する。
そして、学習アルゴリズム適用部132が、Lewickiらによって提案された過完備基底に基づく学習アルゴリズムを適用し、混合行列算出部133が混合行列を算出し、源信号推定部134が源信号を推定し、出力部14が、算出された混合行列、推定された源信号を出力する。
ここでは、予め3つの源信号を時空間的に混合させて2つの混合信号を作成しておき、この混合信号から本発明のブラインド信号分離システム1を用いて源信号を分離する例を示すことを通じて、本発明の実施例1を具体的に説明する。例えば、図5に示すように、3個の源信号が、A11〜A23のフィルタの適用により、混合信号x1 (t)、x2 (t)となっている場合を想定する。
本発明の実施例1では、式(14)におけるA11〜Amnの基底小行列の大きさは、全て63×125に設定して実験を行った。すなわち、63次元ベクトルの2個の入力混合信号(x1 (t)、x2 (t))を用意することで、3個の125次元ベクトルが出力信号として得られる。また、学習中の出力信号の標準偏差を1に正規化するため、パラメータはθ=√2に設定した。
源信号には母数60のポアソン分布に従った間隔で発生する10000点のインパルス信号列を三つ用意し([sj (1),…,sj (10000)](1≦j≦3))、これらを源信号として用いた。振幅値は[−1,1]の範囲の一様乱数により決定している。各源信号の最初の1000点を図6の上段、中段および下段に示す。縦軸は振幅値、横軸は時間を示している。
次に入力データとなる混合信号には、図6に示す3個の源信号を式(8)により時空間的にコンボリューションすることで作成した。コンボリューションに使用したフィルタを図7に示す。縦軸は振幅値、横軸は時間を表す。
ここでは図7(A)をフィルタA11(t),図7(B)をフィルタA12,図7(C)をフィルタA13,図7(D)をフィルタA21, 図7(E)をフィルタA22,図7(F)をフィルタA23とする。
また、コンボリューションにより得られた二つの混合信号x1 (t),x2 (t)の最初の1000点を図8に示す。縦軸は振幅値、横軸は時間を表し、上段をx1 (t)、下段をx2 (t)とする。
また、基底の初期値には[−1,1]の範囲で発生させた63点の一様乱数ベクトルにガウス分布型の窓関数を掛けたものを利用する。これはパワーを中心に集中させることで、フィルタ成分がなるべく中心付近に抽出されることを意図したものである。これらの位相を一点ずつシフトさせることで得られる125個の基底関数から63×125の基底小行列{Aij}を形成する。これを2×3種類用意して式(14)のように並べることで基底行列Aの初期値とする。
図9は、本発明の実施例1におけるブラインド信号分離処理フローの一例を示す図である。まず、源信号が時空間的に混合された混合信号を入力する(ステップS1)。例えば、図8に示す二つの混合信号x1 (t)、x2 (t)の中から同一時間空間で連続する63点をランダムに抜き出し、それぞれ入力データ[x1 (−31),…,x1 (31)]、[x2 (−31),…,x2 (31)]とし、ブラインド信号分離システム1の信号入力部11に入力する。
次に、入力された混合信号(x1 (t)、x2 (t))を時間対称性を有する基底からなる複数の小行列から構成される基底行列を用いた演算式として定式化する(ステップS2)。例えば、上述したように、63×125の基底小行列{Aij}(1≦i≦2、1≦j≦3)を形成し、これを2×3種類集合させて基底行列Aの初期値とし、入力された混合信号(x1 (t)、x2 (t))を式(14)に示す演算式の形式に定式化する。具体的には、図10に示す演算式に定式化する。
ここで、基底小行列{Aij}は、例えば、図11に示される構成を有する行列である。また、例えば、図10に示す演算式中の源信号sj (1≦j≦3)は、図12に示すような構成を有する。
次に、学習アルゴリズムを適用する(ステップS3)。例えば、以下のようにしてLewickiらによって提案された過完備基底に基づく学習アルゴリズムを適用する。
(1)図10に示す演算式を用いて、式(2)の線形計画法により、3個の出力信号s1 (t)、s2 (t)、s3 (t)を得る。本発明の実施例1においては、例えば線形計画法の計算にはフリーソフトのlp_sloveを使用する(非特許文献8参照)。
(2)(1)の手順で得られた出力信号から式(6)を用いて学習則△Aを計算する。
(3)式(7)を用いて、基底を修正する。このとき、前述したように、修正前の基底行列Aを構成する各基底小行列{Aij}(1≦i≦2、1≦j≦3)の真ん中の列に位置する基底について修正を行う。すなわち、図13に示す各基底小行列{Aij}の真ん中の列の位置にある点線で囲んだ基底についてのみ修正を行う。
(4)修正後の基底に基づいて、各小行列を式(13)の形に構成し直す。つまり、修正後の上記真ん中の列の位置にある基底と、この基底の位相を順次ずらした複数のベクトル列(基底)から構成される新しい小行列{^Aij}を生成する。
(5)生成された各小行列{^Aij}を式(14)の形で並べ、図14の点線部に示す基底行列に構成する。これにより得られる基底行列Aを学習された基底行列とする。
次に、基底行列Aが十分収束したかを判定する(ステップS4)。基底行列Aが十分収束していない場合は、入力する時空間混合信号を変えて、基底行列Aが十分収束するまで上記ステップ1からステップ3を繰り返す。
本発明の実施例1においては、例えば、ステップ1からステップ3を70000回繰り返す。式(7)における学習率ηは、入力1回目から3000回目までは0.0005、入力3001回目から20000回目までは0.00025、20001回目から40000回目までは0.00005、40001回目以降は0.00001に設定した。
基底行列Aが十分収束した場合は、基底行列Aの収束値を混合行列として算出するとともに、源信号を推定する(ステップS5)。本発明の実施例1では、源信号は、基底行列Aが収束値となった時の前述した式(2)における解として推定され、その結果、3個の源信号( *j (t)(1≦j≦3))が推定される。最後に、算出された混合行列、推定された源信号を出力して(ステップS6)、処理を終了する。
本発明の実施例1において算出された混合行列の基底を図15に示す。図15(A)は算出された混合行列を構成する基底小行列A11の真ん中の列を、図15(B)は基底小行列A12の真ん中の列を、図15(C)は基底小行列A13の真ん中の列を、図15(D)は基底小行列A21の真ん中の列を、図15(E)は基底小行列A22の真ん中の列を、図15(F)は基底小行列A23の真ん中の列を抜き出したものである。縦軸は振幅値、横軸は時間を表す。これらは源信号をコンボリューションしたときに使用されたフィルタを推定したものである。
上記基底小行列A11〜A23が集合して構成される混合行列と入力混合信号とから推定される源信号( *1 (t)、 *2 (t)、 *3 (t))がどれだけ正しく推定できているかどうか確認する。
本発明の実施例1を通じて推定された三つの源信号(推定信号)を図16に示す。縦軸は振幅値、横軸は時間を表す。図16の上段、中段、下段の信号をそれぞれ推定信号1( *1 (t))、推定信号2( *2 (t))、推定信号3( *3 (t))としたとき、データ作成時の源信号s1 (t)、s2 (t)、s3 (t)と推定された源信号(推定信号)との相関係数を図17に示す。図17に示すように、推定信号1は源信号s2 (t)、推定信号2は源信号s1 (t)、推定信号3は源信号s3 (t)とそれぞれ相関が高いことがわかる。
この結果、源信号をほぼ推定することができたので、本発明のブラインド信号分離システム1は、実際に多チャンネルのブラインド信号分離が可能であることが確認できた。
本発明の実施例1では、過完備な基底による学習アルゴリズムにおいて、基底に位相対称性を導入することによって、時空間混合信号を線形モデルとして表現し、過完備基底によるブラインド信号分離を実現する方法を提案した。また、計算機実験により、時空間混合された信号に対してコンボリューションにおけるフィルタ、及び混合信号数より多くの源信号を推定することができた。
なお、提案した方法ではノイズが存在しないことを前提としているので、実際に実データを扱う時は式(2)における目的関数にノイズを考慮した項を加える、または自乗誤差を最小化するOlshausenらのアルゴリズムを適用するなどの措置をとる必要がある。
源信号が時空間的に混合された混合信号から混合信号数以上の源信号を分離するという用途に適用でき、例えば、筋電図信号や音声信号から源信号を分離するという用途に適用できる。
本発明の実施例1に係るシステムの構成を示す図である。 入力信号と基底を示す図である。 コンボリューションの様子を表すネットワークモデルを示す図である。 時空間混合信号x(t)を基底の線形和として表す図である。 源信号へのフィルタの適用を示す図である。 源信号を示す図である。 コンボリューションに使用したフィルタを示す図である。 時空間混合信号を示す図である。 ブラインド信号分離処理フローの一例を示す図である。 混合信号を定式化した演算式を示す図である。 基底小行列Aijを示す図である。 源信号sj のデータ構成を示す図である。 修正の対象となる基底を示す図である。 学習された基底行列を示す図である。 学習によって得られた基底を示す図である。 推定された源信号を示す図である。 データ作成時の源信号と推定された源信号との相関係数を示す図である。
符号の説明
1 ブラインド信号分離システム
11 信号入力部
12 信号格納部
13 信号分離部
14 出力部
131 定式化部
132 学習アルゴリズム適用部
133 混合行列算出部
134 源信号推定部

Claims (6)

  1. 複数の源信号が時空間的に混合されてなる混合信号から混合前の源信号を分離する信号分離システムであって、
    前記混合信号を入力する信号入力手段と、
    前記入力された混合信号を格納する信号格納手段と、
    前記信号格納手段に格納された混合信号を抽出し、抽出された混合信号から前記源信号を分離する信号分離手段とを備え、
    前記信号分離手段が、
    前記混合信号を示す行列をx、前記源信号を示す行列をsとしたときに、時間軸のシフトに対する対称性を有する基底からなる複数の小行列で構成される基底行列Aを用いて、x=Asという演算式を定式化し
    行列cをc=(1,...1)で示される行列とし、また、c T |s|=Σ k |s k |としたときに、線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する
    ことを特徴とするブラインド信号分離システム。
  2. 請求項1に記載のブラインド信号分離システムにおいて、
    前記信号分離手段が、
    行列xに対する対数事後確率をlogP(x|A)、∇=∂/∂Aとしたときに、学習則ΔAを、計算式
    ΔA=AA T ∇logP(x|A)
    を用いて算出し、
    前記基底行列Aを構成する複数の小行列の真ん中の列の位置にある基底を前記算出された学習則ΔAを用いて修正し、
    前記修正された基底に基づいて、前記修正された基底の位相と異なる位相を持つ複数の基底を生成し、前記修正された基底と前記生成された異なる位相を持つ複数の基底とから構成される新たな小行列を生成し、
    前記生成された新たな小行列を用いて、前記基底行列Aを更新し、
    前記更新された基底行列Aに基づいて、前記線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する
    ことを特徴とするブラインド信号分離システム。
  3. 複数の源信号が時空間的に混合されてなる混合信号から混合前の源信号を分離する信号分離システムにおける信号分離方法であって、
    前記信号分離システムが備える信号入力手段が、混合信号を入力し、
    前記信号分離システムが備える信号格納手段が、前記入力された混合信号を格納し、
    前記信号分離システムが備える信号分離手段が、前記信号格納手段に格納された混合信号を抽出し、抽出された混合信号から前記源信号を分離し、
    前記信号分離システムが備える信号分離手段が、さらに、
    前記混合信号を示す行列をx、前記源信号を示す行列をsとしたときに、時間軸のシフトに対する対称性を有する基底からなる複数の小行列で構成される基底行列Aを用いて、x=Asという演算式を定式化し、
    行列cをc=(1,...1)で示される行列とし、また、c T |s|=Σ k |s k |としたときに、線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する
    ことを特徴とするブラインド信号分離方法。
  4. 請求項に記載のブラインド信号分離方法において、
    前記信号分離システムが備える信号分離手段が、
    行列xに対する対数事後確率をlogP(x|A)、∇=∂/∂Aとしたときに、学習則ΔAを、計算式
    ΔA=AA T ∇logP(x|A)
    を用いて算出し、
    前記基底行列Aを構成する複数の小行列の真ん中の列の位置にある基底を前記算出された学習則ΔAを用いて修正し、
    前記修正された基底に基づいて、前記修正された基底の位相と異なる位相を持つ複数の基底を生成し、前記修正された基底と前記生成された異なる位相を持つ複数の基底とから構成される新たな小行列を生成し、
    前記生成された新たな小行列を用いて、前記基底行列Aを更新し、
    前記更新された基底行列Aに基づいて、前記線形計画法を用いて、前記定式化した演算式x=Asを条件としてc T |s|を最小化するsを、前記源信号を示す行列として決定する
    ことを特徴とするブラインド信号分離方法。
  5. 請求項3または請求項4に記載のブラインド信号分離方法をコンピュータに実行させるためのブラインド信号分離プログラム。
  6. 請求項3または請求項4に記載のブラインド信号分離方法をコンピュータに実行させるためのブラインド信号分離プログラムを記録した記録媒体。
JP2003315144A 2003-09-08 2003-09-08 ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体 Expired - Lifetime JP3931237B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2003315144A JP3931237B2 (ja) 2003-09-08 2003-09-08 ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体
US10/790,241 US7010514B2 (en) 2003-09-08 2004-03-02 Blind signal separation system and method, blind signal separation program and recording medium thereof
CA002460260A CA2460260A1 (en) 2003-09-08 2004-03-08 Blind signal separation system and method, blind signal separation program and recording medium thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003315144A JP3931237B2 (ja) 2003-09-08 2003-09-08 ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体

Publications (2)

Publication Number Publication Date
JP2005084860A JP2005084860A (ja) 2005-03-31
JP3931237B2 true JP3931237B2 (ja) 2007-06-13

Family

ID=34225196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003315144A Expired - Lifetime JP3931237B2 (ja) 2003-09-08 2003-09-08 ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体

Country Status (3)

Country Link
US (1) US7010514B2 (ja)
JP (1) JP3931237B2 (ja)
CA (1) CA2460260A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7454333B2 (en) * 2004-09-13 2008-11-18 Mitsubishi Electric Research Lab, Inc. Separating multiple audio signals recorded as a single mixed signal
WO2006120829A1 (ja) * 2005-05-13 2006-11-16 Matsushita Electric Industrial Co., Ltd. 混合音分離装置
US20070299657A1 (en) * 2006-06-21 2007-12-27 Kang George S Method and apparatus for monitoring multichannel voice transmissions
US20080228470A1 (en) * 2007-02-21 2008-09-18 Atsuo Hiroe Signal separating device, signal separating method, and computer program
JP5213173B2 (ja) * 2008-09-29 2013-06-19 国立大学法人山口大学 スパースコーディングを用いた組織性状判別
WO2010058230A2 (en) * 2008-11-24 2010-05-27 Institut Rudjer Boskovic Method of and system for blind extraction of more than two pure components out of spectroscopic or spectrometric measurements of only two mixtures by means of sparse component analysis
EP2476008B1 (en) * 2009-09-10 2015-04-29 Rudjer Boskovic Institute Underdetermined blind extraction of components from mixtures in 1d and 2d nmr spectroscopy and mass spectrometry by means of combined sparse component analysis and detection of single component points
JP2015064602A (ja) * 2014-12-04 2015-04-09 株式会社東芝 音響信号処理装置、音響信号処理方法および音響信号処理プログラム
CN109478427A (zh) 2016-07-13 2019-03-15 皇家飞利浦有限公司 中央信号分离系统
WO2019229199A1 (en) * 2018-06-01 2019-12-05 Sony Corporation Adaptive remixing of audio content

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6424960B1 (en) * 1999-10-14 2002-07-23 The Salk Institute For Biological Studies Unsupervised adaptation and classification of multiple classes and sources in blind signal separation
US7085711B2 (en) * 2000-11-09 2006-08-01 Hrl Laboratories, Llc Method and apparatus for blind separation of an overcomplete set mixed signals

Also Published As

Publication number Publication date
CA2460260A1 (en) 2005-03-08
US20050055388A1 (en) 2005-03-10
US7010514B2 (en) 2006-03-07
JP2005084860A (ja) 2005-03-31

Similar Documents

Publication Publication Date Title
Tan et al. Nonlinear blind source separation using higher order statistics and a genetic algorithm
JP5509488B2 (ja) 形状を認識する方法および形状を認識する方法を実施するシステム
Rubinstein et al. Dictionaries for sparse representation modeling
JP3931237B2 (ja) ブラインド信号分離システム、ブラインド信号分離方法、ブラインド信号分離プログラムおよびその記録媒体
DeTar Quark gluon plasma in numerical simulations of lattice QCD
Ahmed et al. Compressive multiplexing of correlated signals
CN110874636B (zh) 一种神经网络模型压缩方法、装置和计算机设备
Chen et al. Signal recovery on graphs: Random versus experimentally designed sampling
Rössler Runge–Kutta methods for Itô stochastic differential equations with scalar noise
Yu et al. Modeling spatial extremes via ensemble-of-trees of pairwise copulas
Eamaz et al. UNO: Unlimited sampling meets one-bit quantization
Razaviyayn et al. Dictionary learning for sparse representation: Complexity and algorithms
Ferreira Iterative and noniterative recovery of missing samples for 1-D band-limited signals
Varadi et al. Searching for signal in noise by random-lag singular spectrum analysis
Barthélemy et al. Sparse approximations for quaternionic signals
Attias 3 ICA, graphical models, and variational methods H. Attias
Solazzi et al. Spline neural networks for blind separation of post-nonlinear-linear mixtures
Brajović et al. Sparse signal recovery based on concentration measures and genetic algorithm
Ma et al. Review of ICA based fixed-point algorithm for blind separation of mixed images
Bronstein et al. Blind deconvolution with relative Newton method
Waheed Blind signal separation using an adaptive weibull distribution
Deligne et al. An EM algorithm for convolutive independent component analysis
Chiu Exploring the Use of Experimental Design Techniques for Hyperparameter Optimization in Convolutional Neural Networks
Rhioui et al. Quadratic MIMO contrast functions for blind source separation in a convolutive context
Mishra et al. Compressed Sensing: Progresses and Challenges

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060529

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070206

R150 Certificate of patent or registration of utility model

Ref document number: 3931237

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term