JP4430820B2 - 適応状態空間信号の分離、弁別、回復用アーキテクチャ、及び、動的環境における使用へのそれらの適用 - Google Patents
適応状態空間信号の分離、弁別、回復用アーキテクチャ、及び、動的環境における使用へのそれらの適用 Download PDFInfo
- Publication number
- JP4430820B2 JP4430820B2 JP2000555363A JP2000555363A JP4430820B2 JP 4430820 B2 JP4430820 B2 JP 4430820B2 JP 2000555363 A JP2000555363 A JP 2000555363A JP 2000555363 A JP2000555363 A JP 2000555363A JP 4430820 B2 JP4430820 B2 JP 4430820B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- signals
- function
- output
- separating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000926 separation method Methods 0.000 title claims abstract description 57
- 230000003044 adaptive effect Effects 0.000 title abstract description 28
- 238000011084 recovery Methods 0.000 title abstract description 27
- 238000000034 method Methods 0.000 claims abstract description 93
- 238000012545 processing Methods 0.000 claims abstract description 26
- 239000011159 matrix material Substances 0.000 claims description 61
- 239000013598 vector Substances 0.000 claims description 45
- 238000004458 analytical method Methods 0.000 claims description 5
- 230000004044 response Effects 0.000 claims description 5
- 230000009466 transformation Effects 0.000 claims description 5
- 230000017105 transposition Effects 0.000 claims description 3
- 230000036962 time dependent Effects 0.000 claims description 2
- 230000006870 function Effects 0.000 abstract description 62
- 239000000203 mixture Substances 0.000 abstract description 27
- 238000004422 calculation algorithm Methods 0.000 abstract description 20
- 238000009472 formulation Methods 0.000 abstract description 14
- 230000006978 adaptation Effects 0.000 abstract description 10
- 238000013528 artificial neural network Methods 0.000 abstract description 7
- 238000011161 development Methods 0.000 abstract description 4
- 238000004377 microelectronic Methods 0.000 abstract description 3
- 238000004891 communication Methods 0.000 abstract description 2
- 230000010267 cellular communication Effects 0.000 abstract 1
- 230000003068 static effect Effects 0.000 description 15
- 238000004364 calculation method Methods 0.000 description 14
- 230000008569 process Effects 0.000 description 12
- 238000012546 transfer Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000001914 filtration Methods 0.000 description 10
- 238000005259 measurement Methods 0.000 description 10
- 235000019800 disodium phosphate Nutrition 0.000 description 9
- 230000004913 activation Effects 0.000 description 6
- 230000003111 delayed effect Effects 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000005094 computer simulation Methods 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000013178 mathematical model Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000002087 whitening effect Effects 0.000 description 2
- OVSKIKFHRZPJSS-UHFFFAOYSA-N 2,4-D Chemical compound OC(=O)COC1=CC=C(Cl)C=C1Cl OVSKIKFHRZPJSS-UHFFFAOYSA-N 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 241000136406 Comones Species 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000012888 cubic function Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008450 motivation Effects 0.000 description 1
- 238000005312 nonlinear dynamic Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000005309 stochastic process Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0272—Voice signal separating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2134—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on separation criteria, e.g. independent component analysis
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
- H03H21/00—Adaptive networks
- H03H21/0012—Digital adaptive filters
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
- H03H21/00—Adaptive networks
- H03H21/0012—Digital adaptive filters
- H03H21/0025—Particular filtering methods
- H03H2021/0034—Blind source separation
- H03H2021/004—Blind source separation using state space representation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Filters That Use Time-Delay Elements (AREA)
- Communication Control (AREA)
- Radar Systems Or Details Thereof (AREA)
- Complex Calculations (AREA)
- Noise Elimination (AREA)
Description
発明の背景
発明の属する技術分野
本発明は一組の混合信号の多重測定値を処理することによって原信号情報または内容を回復するシステムに関する。更に詳細には、本発明は、受信した信号混合体の測定値から幾つかの原信号を回復する適応システムに関する。本発明によって解決される問題およびこの問題を解決する従来の方法を最もよく理解するためには次の問題陳述が有用である。添付図1に関して、N個の独立した信号s1(t),...,sN(t)を考察することとする。これらの信号は、独立した話し手または音声、音響、音楽、無線を基調とするか、または光を基調とする無線伝送、電子または光通信信号、静止画像、ビデオ、等々の任意の1つ又はこれらの組合わせ体を表すことができる。これらの信号は、それを貫いて伝播する媒体または環境内において天然又は合成混合によって遅延し、相互に重複することがあり得る。従って、遅延して重複した信号の受信に際して、一組の適当なアルゴリズム及びそれらを適用するための適当な手順を用いて独立した信号源を順調に分離するアーキテクチャ、フレームワーク、または、デバイスが望まれる。
【0002】
関連技術の考察
独立した供給源の回復および分離は古典的であるが困難な信号処理問題である。この問題は、多くの実際的状況下において信号源と混合媒体両方の多くの関連特性が未知であるという事実によって複雑化される。
【0003】
主要な2つのカテゴリに属する方法が用いられる、即ち、
1.神経細胞的に奮起させられた適応アルゴリズム(例えば、米国特許第5,383,164、及び、5,315,532号)、および、
2.従来の離散型信号処理(例えば米国特許第5,208,786、及び、5.539,832号)である。
【0004】
神経細胞的に奮起させられた適応アーキテクチャ及びアルゴリズムは元来J.Herault、及び、C.Juttenによって提案された現在ではHerault−Jutten(またはRI)アルゴリズムと呼ばれる方法に従う。CMOS集積性に対するこれら方法のこの種の集合の適合性は認識されている。ただし、標準HJアルゴリズムは、主として特殊情況において機能することが実証されている提案済み適応法則と共にせいぜい発見的である。HJアルゴリズムに関連した従来の研究による理論と解析は、実験的シミュレーションにおいて遭遇する成功を支援または保証するために未だ充分でない。HeraultとJuttenは、これらの解析的欠陥を認識し、解決されるべき追加問題について記述している。彼らが提案するアルゴリズムは線形媒体および濾波(フィルタリング)または一切遅延なしであると仮定する。詳細には、原信号は、未知ではあるが一定の係数のマトリックスを介して媒体によって転送されるものと仮定される。要約すれば、Herault−Jutten方法は(i)全階数(ランク)に亙る線形静的混合環境に拘束され、(ii)マトリックスの逆機能を必要とし、(iii)信号遅延の存在を考慮しない。ただし、多くの実用的な応用において、濾波および相対的遅延が発生する。従って、従来の研究は、多くの実用的な状況および実世界での適用において、信号を順調に分離することに失敗している。
【0005】
信号分離を対象とする従来型信号処理方法は殆どの場合に、伝統的なディジタル信号処理方法の趣旨において離散型分域(ドメイン)から発生し、信号の統計的性質を利用する。この種の信号分離方法は、殆どの場合に離散型信号変換およびフィルタ/変換関数反転を含む計算を用いる。混合した信号の分離を達成するためには、一組のキュムラントの形における信号の統計的性質が用いられ、この場合、これらのキュムラントはゼロに近付くように数学的に強制される。これは、信号を回復し、かつ相互に分離する伝達関数のパラメータに関して探索するこれらアルゴリズム族の核心を構成する。全ての可能なキュムラントについて計算することは実用的でなく、リアルタイム実行にとっては多くの時間を消費し過ぎる。
【0006】
これらの方法の詳細は次に示すカテゴリに含まれる。
【0007】
1.信号分離のための神経細胞的に励起されるアーキテクチャ及びアルゴリズム
信号分離のために神経細胞的に励起される適応方法のこれらの集合は、信号ベクトルM(t)を生成するために、「統計上独立した」信号ベクトルS(t)=[s1(t),...,SN(t)]Tが混合されるものと仮定する。ベクトルM(t)はセンサ(例えば、マイクロホン、等々)によって受け取られる。
混合環境は一般(静的または動的)演算子によって表されるものとする。即ち、
【数1】
識が存在しない場合に、混合プロセスを逆にするために使用できる幾つかの公式
カテゴリ、即ち、静的および動的にグループ化する。用いられる適応基準の性質に関して追加的弁別、例えば、情報最大化、高次数キュムラントの最小化、等々が可能である。
【0008】
1.1 静的問題
静的問題は一定非特異マトリックスによる混合に限定される。「統計上独立した」信号ベクトルS(t)=[s1(t)、...、、sN(t)」Tは信号ベクトルM(t)を生成するために混合されるものと仮定する。詳細には、混合演算子は、次式のように定マトリックスAによって表されるものとする。即ち、
M(t) = AS(t) 式(2)
図2において、混合および分離環境のモデル化およびプロセスを概説する2つのアーキテクチャを示す。図2(a)におけるアーキテクチャは、定混合マトリックスAの逆を必ず計算する。この場合、Aが可逆であることを必要とし、即ち、A-1が存在する。
【0009】
図2(b)における代替アーキテクチャは、収束に関して、マトリックスDの対角外エレメントが精確にマトリックスAの対角外エレメントであるという拘束条件を課さない。ただし、この場合、マトリックスAの対角エレメントは「1.0」に等しいことに拘束される。Dの対角エレメントをゼロに設定することにより、混合マトリックスでない場合であってさえも、混合プロセスは可逆であると必然的に結論される。
【0010】
両方の場合に、S(t)は未知の供給源の集合であり、M(t)は混合体集合であり、U(t)はS(t)を推定する分離された信号の集合であり、Y(t)は不混合プロセスのパラメータを更新するために用いられる制御信号の集合である。図2に示すように、されたように、重み更新は出力U(t)の関数を利用する。
【0011】
第1の場合に、我々は不混合マトリックスにWのラベルを付け、第2の場合に、我々はそれにDをラベル付けする。Dがゼロ対角エントリを持つことに注意されたい。これらの2つのマトリックスのエントリの更新は、信号分離、弁別、または、回復に使用される判定基準、例えば、情報最大化、更に高次キュムラント等によって定義される。
【0012】
一例として、次式の場合において、
U(t) = WM(t) 式(3)
可能性のある重み更新法則は
【数2】
であり得る。ここに、ηは十分に小さく、gは奇関数であり、Mh混合体の集合であり、Uはソース信号を推定する出力の集合であり、下付きのTは行列の転置を表し、−Tは行列の逆転置を表す。関数g()は、次式で表される上記ダイアグラムと関係のあり得る更新において追加的役割を果たすことに注意されたい。
Y(t) = g(U(t)) 式(5)
【0013】
式(3)におけるWのエントリを更新するために式(4)が用いられる。これは反復的更新手順であるので、生成体WAが単位マトリックス又は単位マトリックスの順列にほぼ等しいようにWのエントリは収斂する。
【0014】
他方、第2の場合においては、Dマトリックスエントリdijの更新に関して潜在的に有用な法則は総称的に次式で表される
【数3】
立方関数が含まれ、g(.)に関しては、双曲線正接関数が含まれる。この手順を使用するときは、連続する各ステップ及びサンプルポイントにおいて次に示す式(7)からのU(t)に関して計算的に解が得られる:
U(t) = 〔1+D〕-1M(t) 式(7)
この計算は、特に高次元のDに関して潜在的に重い負担である。
【0015】
1.2 動的問題
動的混合モデルは更に現実的な混合環境を記述し、この種環境モデルを定義し、このフレームワーク内において、原信号を回復するための更新法則を開発する。
【0016】
動的問題において、マトリックスAはもはや定マトリックスではない。静的な一例のフィードバック構造に関して、ここに、次に示す高速動的方程式の一方程式としてU(t)1=[1+D]-1M(t)であるような式(7)を検討する方が簡単である。
τU(t) = −U(t)−DU(t)+M(t) 式(8)
これは、随意に推測することにより、式(8)における微分方程式を初期化することによって計算を容易にする。ただし、式(8)と式(6)によって定義されるような更新手順の間のタイムスケール分離を保証することが重要である。これ
って保証可能である。
【0017】
M(t)の次元度がNであると我々が仮定すれば、動的信号分離アルゴリズムを定義する一組の微分方程式は次のように現される
i=1,...,Nに対して
【数4】
これはN個の微分方程式を列挙する。更に、マトリックスDのエントリに関する適応プロセスは、例えば、式(6)における関数f()及びg()の評価のような多重判定基準によって定義され得る。図3はフィードバック構成における動的モデルの説明図である。
【0018】
現行の方法は、今までに定義されたアーキテクチャ内における適応判定基準の適用に関する手順については殆ど概説しない。2つの暗示的手順について次のように記述されている。
【0019】
第1は、信号分離関数の適用、適用手順、および、これらの点の各々が実際的かつ物理的にアクセス可能であるかどうかには無関係に、データの随意点に対する判定基準である。従って、適応分離手順は適用関数および個別にかつ瞬間的に測定された混合信号の各エレメントに対する判定基準に適用され、その後で適切なパラメータ更新が行われる。
【0020】
式(3)を使用する手順の第2のタイプを図2(a)に示す。この場合、判定基準は全体データ集合 または全データ集合から選定されたデータポイントへ適用される。従って、関連適応プロセスはサンプル毎に進行しないが、一定静的混合マトリックスが適用される全データ集合を利用する。この方法が第1の方法より幾分堅固であるが、それは、リアルタイム信号分離には本質的に適しないオフラインの方法である。更に、静的定マトリックスの仮定が正しくないときには、不混合プロセスの精度が問題になる。
【0021】
1.3.フィードフォワード状態空間
アーキテクチャを図7に示す。n次元ソース信号ベクトルをsとし、m次元測定ベクトルをMとする。混合環境は線形時間非依存(LTI)状態空間によって記述される。
【数5】
【数6】
【0022】
第1の質問は次のようである:原信号を回復するパラメータマトリックスA、B、C、Dは存在するか。解答が後続する。
【0023】
回復問題への解決の存在:
我々は、ネットワークパラメータが次の値に設定されれば(または適応スキームを介して達成すれば)、(適応)動的ネットワークが混合環境に対抗し得ることを表明する。
【数7】
【数8】
【数9】
【数10】
ここに、[D]は次の値と同等である
【数11】
【数12】
【数13】
マトリックスA*、B*、及び、C*は、非特異状態等価変換Tによる族値をとり得る。我々は、実現性の観点からネットワークアーキテクチャを「正準備」または単純にするためにTを使用する。この公式化は、実際にFIRフィルタに限定される公式化を文献において一般化する、即ち、主として2次元ソース及び2つの測定値関する一般化を一般的なn次元ソースおよびm次元測定値に一般化する。このモデル化はFIR濾波モデルを含み、Aが非ゼロであるならば、IIR濾波まで拡張することに注意されたい。
【0024】
このフィードフォワード形式は適応ネットワークに関して実行可能であるが、我々は、その適用性を限定する、即ち、マトリックスA*が(漸近的に)安定しているような混合環境パラメータでなくてはならないことを注記する。即ち、安定した混合環境に関しては、次に示す
【数14】
適応ネットワークの複合マトリックスは(漸近的に)安定でなければならず、即ち、複素平面の左半分内に固有値に持つ。許容可能な混合環境に或る等級の適用性を除外する限定条件をこの必要条件が課することは明白である。
【0025】
2.伝達関数に基づく信号分離技法
信号分離および混合の伝達関数による表現はこの技法を動的環境モデルおよび方法にす。
【0026】
従って、現行方法は、図4に示すように2つの混合体測定値を処理することによって2つの信号を分離する構造を定義する。
【0027】
伝達関数分域内の分離関数に関する他のアーキテクチャは、結果的に、実用的な方法および装置の設計および実施に対して障害となる3つの重大な欠点をもつ。第1に、表現されたこの公式化は、問題の次元性が2を超過する更に高い次元に分離手順を一般化する可能性を排除する。換言すれば、2つ以上の混合体および2つ以上のソースが所在する場合、分離方法の実用的な形式化は存在しない。他の技法を直接参照すれば、ゼロに等しくなくてはならない結果として得られる積マトリックスのエントリの1つを各スカラ方程式が定義するようにマトリックス乗算項が表現されている技法を解明できる。対角マトリックスの置換も同様に許容されるので、方程式の多重集合が生成される。2混合体問題は、それぞれの対が2つの積項を持つ2対(合計4個)の方程式に帰着する。方程式の個数は更に増大する。N次元の場合の特定の順列に関して方程式の個数を記述するために必要な方程式の個数は、性格には(N2−N)に等しい。2次元の問題に関して、この値は2である。
【0028】
第2に、伝達関数に関する逆転手順は特別であり、これを教示する手順説明は存在しない。この場合、次元性の衝撃(インパクト)は決定的役割を果たす。結果として得られるアーキテクチャは、混合環境の伝達成分の積に依存する次数を持つ伝達成分を持つことをネットワークに必要とさせることがこの方法から明白である。従って、固定した次数を持つネットワークアーキテクチャは設計し得ない。
【0029】
第3に、公式化が時間分域内に無く、随意の初期条件によって初期化不可能なので、初期状態は定義できない。従って、この方法はリアルタイムまたはオンライン信号分離には適当でない。
【0030】
発明の概要
本発明は複数の入力信号を複数の出力信号に分離する信号処理システムについて記述する。この場合、入力信号は複数のソースと関連した複数のソース信号の関数によって構成され、出力信号はソース信号またはソース信号の関数を予測する。本システムは、入力信号を検出するための複数のセンサ、信号分離方法を定義および計算するアーキテクチャプロセッサ、出力信号を計算するために信号分離アーキテクチャの限界を決定する信号分離方法、及び、信号分離方法またはアーキテクチャに基づいて出力信号を計算する出力プロセッサを有する。
【0031】
発明の実施の形態
本発明は、種々の媒体を介して伝送される混合された信号を回復および分離することを意図するものであり、ここに、信号の分離は(i)当該媒体またはチャネルの信号搬送容量、(ii)受信した信号の品質、または(iii)これら両者を実質的に向上させるような高品質であるものとする。媒体またはチャネルにはワイヤ、ケーブル、繊維光学、無線または光を基調とする周波数または帯域、ならびに、固体、液体、気体粒子または真空の組合わせ体が含まれるものとする。
【0032】
また、本発明は、媒体またはチャネルを介して混合された信号を分離することを意図するものであり、ここに、高水準信号分離は、現在入手可能であるか、または、現水準の科学技法によって製造可能なハードウェアによって達成される。
【0033】
本発明のシステムは、日付に拘束されない範囲の情況に対処するために、ここに記述されているすでに存在する方法よりも優れた一般化された1組のフレームワークを導入する。詳細には、図8に示すフィードバック状態空間アーキテクチャ及びその連続的および離散的表現について記述される。更に、本アーキテクチャは、ディジタル信号処理の技術分野における当業者によって一般に使用されるFIRおよびIIR両形式における1組の適応フィルタに写像(マッピング)される。更に、本発明のアーキテクチャに関係するパラメータの適応計算に関する多くの機能および手順について概説される。アーキテクチャ及びパラメータの適応計算に関する手順は、両者共、オンライン実時間(リアルタイム)信号分離、弁別、および回復(リカバリ)を達成するために設計されている。他の多くの技法に実質的に関係のある欠点の大部分、すなわち、混合における複数の又は個数不明の信号、ノイズ生成、混合条件の変化、信号の強度および品質の変動、および、ある種の非線形現象は本発明の公式化によって処理される。本発明の方法は、新規な2組のアーキテクチャ及びフレームワーク、ならびに、多様なパラメータ適応基準および混合体から信号を分離および回復するように設計された手順を含むように問題の公式化を拡張することによって他の方法の欠点を克服する。
【0034】
はじめに
本発明は、動的環境において盲目(blind)信号分離および回復(または、たたみ込み解除)を扱うフレームワークを提示する。元の研究はHeraultとJuttenとConionの研究によって動機づけられた。最近の研究結果の大部分は、主として、HeraultとJuttenとKuilbackによって報告された結果の解析的基礎を確立することに集中している。幾人かの研究者は、応用数学、統計信号処理、システム理論、動的システム、及び、ニューラルネットワークを含む多数の解析ツールを使用した。また、環境を更に一般的な動的システムに一般化する試みも行われている。
【0035】
幾つかの理論的結果および公式化は動的環境における信号の盲目分離および回復を扱う。我々は、混合環境、したがって信号分離および回復を実施するために用いられる適応デットワークを表すために状態空間動的モデルについて考察する。我々は、離散ならびに連続タイムチャネルに容易かつ直接的に適応させられる動的モデルを用いる。呈示された環境モデル及び適応ネットワークは、混合環境が(状態)フィードバックおよび記憶を含む場合を考慮する。状態/出力のフィードバックは、フィードフォワードがFIR公式化に対応する離散的時間の場合における無限インパルス応答(IIR)濾波に対応する。
【0036】
我々の方法の強調点はネットワークアーキテクチャおよび効率的実行を指向した改良され収束アルゴリズムの開発である。白色化を保証し、かつ出力ユニット共分散の仮定条件を除去するためには、(非線形)相互情報/エントロピ関数の改良された近似が用いられる。改良された拡張は線形項ならびに他の方法の拡張では全て欠如する更に高位の項を含む奇数多項式をネットワーク出力内に生成する。ただし、混合環境が定マトリックスによって表される静的な場合のみを扱った研究もあることに注意されたい。具体的には、FIRフィルタに関する公式化は静的マトリックス混合問題に変換された。
【0037】
方法の概要
図9(a)は本発明の方法のプロセス流れ図を示す。これは、(1)サンプル入手、(2)サンプルの前処理、(3)状態の現在値または適応パラメータを用いた出力計算、(4)適応パラメータの計算、(5)内部状態の計算、および、出力の記憶、及び/又は、提示を含む。
【0038】
サンプル入手は、例えばマイクロホンのような多重センサを介して記録された多重チャネルデータの入手を含む。この種データは、音響の混合トラックのような、前記多重センサまたはそれらの混合体の以前に記録された出力から得られることもある。データは、リアルタイム又はほぼリアルタイムタイムプロセス用にオンラインでサンプル採取されるか、または、例えば、テープ、ハードディスクドライブ等々の記憶媒体または記録媒体から読み戻され得る。
【0039】
サンプルの前処理には 入手したサンプルの操作のための種々の処理技法が含まれる。これらの処理技法には、限定されることなく、各種周波数フィルタの適用、例えば、低、高、またはバンドパスフィルタ、または、ノッチフィルタ、例えば2つ又はそれ以上の個数のセンサの重み付け合計のような現行または以前のサンプルのセンサ出力間の線形または非線形操作、緩衝作用、ランダム、疑似ランダム、または決定論的選択および緩衝作用、サンプル採取されたデータ又はサンプル採取されたデータの関数のウインドウイング、および、サンプリングされたデータの各種線形および非線形変換が含まれる。
【0040】
出力の計算は早期に計算された状態およびパラメータを使用する。このステップは、適応パラメータ計算の後、または、内部状態計算の後、または、両方の場合まで遅延させることも可能である。更に、代替案として、出力は1つのサンプルセットにつき2度計算することも可能である。
【0041】
適応パラメータの計算は、適応パラメータに課せられた拘束条件を定義する関数の値を計算するためにその関数の導関数を使用する方法または多重方法を含んでも差し支えない。1つ又は複数のこの種の拘束条件を使用できる。特に適応パラメータの計算のための種々の方法および基準については本発明において概説される。
【0042】
内部状態の計算は、適応パラメータの現行または利用可能な値と共にアーキテクチャの構造の呼び出しに関連する。内部状態は、状態ベクトル、状態スカラ、時間表現されたこれらのサンプル、またはそれらの導関数の形であっても差し支えない。特定アーキテクチャは状態の個数を定義する。
【0043】
動的アーキテクチャ
動的モデルは更に現実的な環境を包括および記述する。状態空間技法のフィードフォワード及びフィードバック両アーキテクチャは実行可能である。フィードフォワード線形状態空間アーキテクチャは既に示したとおりである。この記述全体を通じて、我々は、混合環境として信号を混合するための数学モデルに言及し、他方、我々は、(適応)ネットワークとしての信号回復のための数学モデルに言及する。
【0044】
本発明の方法は定マトリックスを越えて更に現実的なモデルを含むように環境を拡張し、かつ有効な更新法則を開発する。決定的第1ステップは、フィードバックの包含と初期条件の変動に起因してFIRフィルタおよび伝達関数よりも更に一般的である状態空間の動的線形システムを包含することである。更に、これらのモデルは非線形モデルへの直接拡張に役立つ。この研究の別の動機づけは、アナログ又は混合モードの超小形電子としての最終的な実装を可能化することである。
【0045】
公式化は、動的線形システムの適当な実現によって環境が表される場合におけるフィードバック動的構造を扱う。
【0046】
フィードフォワード線形構造
フィードフォワード状態空間アーキテクチャについては序説において記述し、図7に示したとをりである。
【0047】
フィードバック線形構造
先駆者としてのフィードフォワードよりも更に効果的なアーキテクチャはいわゆる(出力)フィードバックネットワークアーキテクチャである。図8参照。このアーキテクチャは、ネットワークパラメータに関する拘束条件を軽減する。また、このアーキテクチャは、フィードバックである故に、エラー及び妨害に対する堅固さ、安定性、および、増大された帯域幅などのフィードバックシステムの知られている幾つかの魅力的な特質を受け継いでいる。これらの利益については、以下の方程式から明白になるはずである。
【0048】
回復問題解法の存在
yがsに比例する解へ(順列マトリックスを介して)収斂するならば、すなわち、y=Psであれば、次に示す(適応)ネットワークのパラメータマトリックスは、元の信号を回復する解を構成する:
【数15】
ネットワークのアーキテクチャにおいてフィードバックを持つという望ましい予定特質に加えて、我々は、信号の分離/回復に関する簡潔な解決方法も達成する。この場合にはアーキテクチャはネットワークに追加的な拘束条件を導入しない。ネットワークの順方向経路におけるHは一般に最も簡単な場合におけるマトリックス、または、動的モデルの伝達関数を表すことがあり得ることに注意されたい。更に、m=nである場合、Hは恒等マトリックスであるように選択可能である。
【0049】
この段階においては、手順のエレメント及びその利点は明白である。アーキテクチャ開発手順の更なる一般化は非最小位相混合環境についても説明できる。これらのステップは前述の手順の直接的な応用であり、したがって、詳細に説明しない。
【0050】
重要な一般化はアーキテクチャの一部分として明白に非直線性を含むことである。1つのモデルは測定可変数M(t)の静的写像として非直線性を含むはずである。結局、適応ネットワークはその入力段階において補償機能をもつ非直線性を含む必要がある。従って、更なる処理に先立つ測定に対抗するために入力は「逆型」非直線性を含まなければならない。このタイプの混合環境は、衛星プラットホームを含む無線応用例において遭遇する。
【0051】
この適切な方法によって定義される動的アーキテクチャは盲目信号分離への解決策が存在することを保証する。さて、我々は、ネットワークがその可能な解決方法の1つに収斂することを可能にする適切な適応手順/アルゴリズムを定義する次のステップへ進むこととする。従って、収斂の後で、ネットワークは信号処理/回復に関する変数を保持するかずである。
【0052】
離散状態空間表現、及び、離散時間IIRおよびFIRフィルタに関する特殊化
性能測度/汎関数
ランダムベクトルyの相互情報はその構成成分間の依存性の測度であり、次のように定義される。
連続問題において:
【数16】
離散問題において:
【数17】
【0053】
離散問題の近似:
【数18】
ここに、py(y)はランダムベクトルyの確率密度関数(pdf)であるが、pyj(yj)は出力ベクトルyのj番目の成分の確率密度である。汎関数L(y)は常に非負であり、ランダムベクトルyの成分が統計上独立していさえすればゼロである。この重要な測度は信号ベクトルの成分間の依存性の程度を定義する。従って、統計的独立性(の程度)を特徴付ける適切な汎関数を表す。L(y)はエントロピに関して表現可能である。
【数19】
ここに、H(y):=−E〔ln fy〕はyのエントロピであり、E[.]は期待値を示す。
【0054】
一般非線形離散時間非停留動的問題:
環境モデル
次に示す非線形離散時間動的(順方向)処理モデルとして環境をモデル化することとする
【数20】
ここに、s(k)は原ソースのn次元ベクトルであり、m(k)は測定値のm次元ベクトルであり、Xp(k)はNp次元状態ベクトルである。ベクトル(またはマトリックス)w1 *は動的方程式の定数/パラメータを表し、w2 *は「出力」方程式の定数/パラメータを表す。関数fp(.)およびgp(.)は微分可能である。微分方程式の解の存在および一意性は、初期条件Xp(t0)および所与の波形ベクトルs(k)の各集合に関して満足されるものと仮定される。
【0055】
プロセシングネットワーク
(プロセシング)ネットワークは動的(フォワード)ネットワーク又は動的フィードバックネットワークによって表現可能であるものとする。
フィードフォワードネットワークを次に示す。
【数21】
ここに、kはインデックスであり、m(k)はm次元測定値であり、y(k)はr次元出力ベクトルであり、X(k)はN次元状態ベクトルである。(NとNpは異なり得ることに注意されたい。)ベクトル(またはマトリックス)w1は動的方程式のパラメータを表し、w2は「出力」方程式のパラメータを表す。関数f(.)およびg(.)は微分可能である。微分方程式の解の存在および一意性は、初期条件X(t0)および所与の測定波形ベクトルm(k)の各集合に関して満足されるものと仮定される。
【0056】
離散時間動的ネットワークに関する更新法則:一般非線形の場合
さてここで、原信号を回復するために動的環境に関する更新法則が開発される。ここに、環境は線形動的システムとしてモデル化される。従って、ネットワークも線形動的システムとして同様にモデル化される。
【0057】
ネットワークはフィードフォワード動的システムである。この場合、性能インデックスは次のように定義され
【数22】
次に示す離散時間非線形動的ネットワークに従属する
【数23】
この形の一般非線形時間依存離散時間動的モデルは任意のサイズおよび任意の個数の層を備えた多層再帰およびフィードフォワードニューラルネットワークの両特殊アーキテクチャを含むことに気付く。この一般的な場合について論じることは数学的には更にコンパクトであるが、フィードフォワード及び再帰(フィードバック)モデルに向かうその直接的かつ簡潔な特殊化が強く注目される。
【0058】
次に、最適化されるように補強されたコスト関数は次のようになる
【数24】
したがって、ハミルトニアンは次のように定義される
【数25】
結果的に、最適性に関する十分条件は次のように表される:
【数26】
境界条件は次のとおりである:即ち、状態方程式である第1方程式は初期条件を使用するが、補状態方程式である第2方程式はゼロに等しい最終条件を使用する。パラメータ方程式は、無作為に或いは所与集合から選択可能な小さいノルムを持つ初期値を使用する。
【0059】
一般離散線形動的問題:
環境
【数27】
フィードフォワードネットワーク
【数28】
第1質問は次のとおりである:原信号を回復するプロセシングネットワークのパラメータマトリックスは存在するか。解答はイエスであり、パラメータの明確な解は次のとおりである。
【0060】
回復問題への解の存在:
線形動的問題に関する更新法則
【数29】
【0061】
IIRおよびFIRフィルタへの特殊化
ネットワークの一般離散時間線形力学は次のように与えられる:
【数30】
ここに、m(k)は測定値のm次元ベクトルであり、y(k)は(処理された)出力のn次元ベクトルであり、およびX(k)は(mL)次元状態である(この場合における測定値の濾波済みバージョンを表す)。Lm-次元の状態ベクトルX1,X2,...,XLで構成される状態ベクトルは次のようになる。即ち:
【数31】
【0062】
特殊問題
マトリックスAおよびBが「制御可能な正準形式」である場合について考察することとする。我々はAおよびBブロックマトリックスを次にように表す:
【数32】
ここに、各ブロックサブマトリックスA1jは対角マトリックスに簡素化可能であり、各Iは適当な次元のブロック恒等マトリックスである。
次に:
【数33】
このモデルは測定値ベクトルm(k)のIIR濾波構造を表す。ブロックマトリックスA1jがゼロである場合には、モデルはFIRフィルタの特殊な場合に還元される。
【数34】
これらの方程式は有名なFIR形式に書き直し可能でる。
【数35】
この最後の方程式は、実測信号m(k)およびXj(k)で表されるその遅延バージョンを出力y(k)に関係づける。
【0063】
特殊正準表現問題
マトリックスAおよびBは、「制御可能な正準形式」すなわち形式Iフォーマットにおいて最も良好に表現される。この場合、Bは定数であり、Aは、IIRネットワーク問題におけるパラメータとしての第1ブロック行のみを有する。この場合には、マトリックスBに関する更新方程式は用いられない。他方、マトリックスAに関しては、第1ブロック行のみが更新される。従って、マトリックスAに関する更新法則は次のように限定される
【数36】
マトリックスAの形式に注意すれば、補状態方程式は次のように拡張できる:
【数37】
従って、Aにおけるブロックサブマトリックスに関する更新法則は次のようである:
【数38】
[D]-Tは、Dマトリックスの疑似逆行列転置を表す。マトリックスCおよびDに関する更新法則は次のように作成される:
【数39】
ここに、Iは、追加ゼロ行(n>rである場合)または追加列(n<rである場合)によって補強されたr×r恒等マトリックスによって構成されるマトリックスである。「固有勾配(natural gradient)」の観点から、この場合における代替更新法則は次のとおりである:
【数40】
Cマトリックスに関する更新方程式は、各ブロックマトリックスに関して次のように表される:
【数41】
内部状態を除去することによって状態空間を減少させるには、次に示す条件が成立する静的環境にシステムを還元すればよい:
【数42】
離散表記法において、これは次のように定義される:
【数43】
2つのタイプの(離散)ネットワークの静的混合信号の分離に関して記述した。これらは、分離された信号y(k)が次のように定義されるフィードフォワードネットワーク
【数44】
および、y(k)が次のように定義されるフィードバックネットワークである。
【数45】
これらに関して提案される離散更新法則は次のとおりである:
フィードフォワードネットワークの場合
【数46】
および、フィードバックネットワークの場合
【数47】
時間窓平均によって置き換え可能である。
注記:更新において、多重重み付けを使用しても差し支えない。次の「動的」FIRモデルは類似の更新法則修正例を示すことができる。
【0064】
環境モデル
単一遅延の場合FIRにおいて、混合サンプルm(k)は次の方程式によって定義される:
【数48】
分離フィードフォワードネットワークモデル
このネットワークは、次の方程式によって定義される近似ソース信号y(k)を生成する
【数49】
マトリックスW0からWLに関する更新法則は次のように使用される
【数50】
又は
【数51】
又は
【数52】
特定の更新は、次に示すようにWに変化率△Wを加えるか、
【数53】
または、それらの導関数から変数値を算定するための別の周知の積分法によって簡単に実施可能である。
【0065】
連続時間モデル
本発明は、特に、盲目分離、弁別、および、混合信号の回復のための技法に関して、一組の更新法則および相互情報の連携最小限化および非線形ニューラルネットワーク出力エントロピ関数の情報最大限化を導入する。本発明のシステムは、原信号に著しく最小限度の仮定を設定し、混信環境を変更して、一緒に混合された幾つかの未知信号の適応盲目分離および回復を操作可能化する。
【0066】
前節においては、離散時間モデルが開発された。本節においては、主として、連続時間微分演算を扱うこととする。これらの連続システム微分演算は、連続時間モデルを補足するために既に記述された離散型の場合の微分演算に相当する。本発明の内容における連続時間微分演算と離散時間微分演算はそれらの大部分が相互に類似していることが指摘される。当該技術分野における当業者によれば、一方の分域の更新法則はもう一方の分域の更新法則に変換可能である。
【0067】
性能測度/汎関数
ランダムベクトルyの相互情報はその成分間の依存性の測度であり、次のように定義される:
連続問題においては:
【数54】
離散問題においては:
【数55】
【0068】
離散問題の近似
【数56】
ここに、py(y)はランダムベクトルyの確率密度関数(pdf)であり、他方、py1(yj)は出力ベクトルyのj番目の成分の確率密度である。汎関数L(y)は常に非負であり、ランダムベクトルyの成分が統計上独立していさえすればゼロである。この重要な測度は信号ベクトルの成分間の依存度を定義する。したがって、それは、統計上の独立性(の程度)を特徴付ける適切な汎関数を表す。L(y)はエントロピに関して表現され得る。
【数57】
ここに、H(y):=−E〔ln fy〕はyのエントロピであり、E[.]は期待値を表す。
【0069】
更新法則の微分演算
ニューラルネットワークの線形フィードフォワード構造が下に示すようであるものと想定する。
【表1】
次に、(ランダムベクトル)出力の確率密度関数と混合入力変数は、ランダムベクトルyの相互情報がその成分間の独立性の測定度であり、次のように定義可能であるような関係をもつ。
【数58】
したがって、
【数59】
は次のように表現され得る。
【数60】
Wの関数としてL(y)を最適化する(実際には最小限化する)には、限界のエントロピのみの知識(または近似)が必要とされる。仮説によれば、この種の情報は利用可能でありえず、L(y)を最小限化するためには、これらの量に近似することが必要である。ComonおよびAmari等は、限界エントロピに近似するために、それぞれEdgeworth及びpdfのCharlier−Gram拡大を使用した。
近似は次式を生成する:
【数61】
微分演算は次の勾配更新法則へ導く
【数62】
ここに、関数近似は異なる関数fa(y)に導く。我々の研究はCharlier−Gram拡大を仮定し、以前よりも更に高位の近似を含む。我々の場合には、関数fa(y)は次のように与えられる
【数63】
一例として、均一ランダムノイズ及びサイン関数が未知のソースとして適用される場合には、以前の2つの方程式によって定義されるアルゴリズムは収斂する。既に
【数64】
として定義された更新法則を表現するためには固有勾配を次のように使用可能である。
【数65】
この場合、この種のアルゴリズムが様々な信号に関して収斂することがシミュレーションによって示される。ただし、ランダム波形およびサイン波形が用いられると、上記は収斂しない。これらの結果は、或る種の非線形関数が用いられる場合にも適用される。従って、この場合、両関数は同様の効果を持つ。
【0070】
連続動的環境に関するパラメータ更新技法
我々は、更に現実的な環境を考察し、それらのモデルを定義し、原信号を回復するために更新法則を適用する。我々の公式化において、環境は線形動的システムとしてモデル化される。従って、ネットワークも線形動的システムとしてモデル化される。
【0071】
ここで、原信号を回復するために動的環境に関して更新法則が開発される。この場合、環境は線形動的システムとしてモデル化される。従って、ネットワークも線形動的システムとしてモデル化される。
【0072】
フィードフォワード問題: ネットワークは図7に示すようにフィードフォワード動的システムである。この場合、性能インデックスは次のように定義される
【数66】
ここに、イタリック字体のLはラグラジアンであり、次のように定義される
【数67】
ここに、(t)は、次式で定義される随伴状態方程式である
【数68】
し、wはパラメータマトリックスCおよびDの列で構成されたベクトルである。正準現実化が用いられ、Bは定数であることに注意されたい。マトリックスAは、正準表現においてNパラメータのみを持ち得る。ここに、Nは状態ベクトルXの次元である。総称的にwpで表されるパラメータ、A、C、Dは一般勾配降下形式を用いて更新される。
【数69】
従って、
【数70】
として定義される性能インデックスを使用し、マトリックスC及びDは次式に従って更新される
【数71】
ここに、fa(.)は双曲正弦関数およびシグモイド関数の逆数を含む様々な非線形拡大奇関数によって与えられる。
特定の計算/近似において、関数は次式で与えられる
【数72】
fa(y)に関する前述の方程式を用いる際の本質的特徴を要約して次に示す:
1.解析的に導出され、正当化されること。
2.yに線形項を含み、それによって、信号白色化に必要な2次統計量を作動可能化すること。
3.出力信号y内の4次累積統計量から生じる更に高次の項を含むこと。
4.出力信号が完全共分散を持つと仮定しないこと。
【0073】
fa(y)に関する関数は前述の特性によって日付が規定された文献に用いられる関数のみを表す。したがって、この関数は解析的に導出された他の関数の限界を超過する。
【0074】
既に定義済みのfa(y)に関する関数が用いられるならば、コンピュータシミュレーションによって、アルゴリズムの収斂が確認される。
フィードバックアーキテクチャ
図8の(出力)フィードバックアーキテクチャは、次の(正準)状態空間表現を用いて実現されるように簡素化可能である。
環境
【数73】
ネットワーク
【数74】
ここに、各Xiはソース信号と同じ次元の環境の状態ベクトルを表し、各Xjは出力信号と同じ次元のネットワークの状態を表す。簡易化するために、我々は、環境とネットワーク両方において状態ベクトルの個数Lが同じであると仮定した。
【0075】
さて、性能インデックス
【数75】
を使用することとし、マトリックスC及びDは次式に従って更新される
【数76】
特殊な用途においては、或る特定の場合に機能することが実証されている更に簡単な更新法則が適合可能である:
【数77】
実施されたコンピュータシミュレーションによって、上記2つの方程式の機能が実演された。
【0076】
単純なFIR濾波における状態はソースの単純な遅延を表し、他方、ネットワークにおける状態はフィードバックされた出力信号における遅延を表すことが明白なはずである。ただし、これは、実際の物理的応用において発生する信号遅延の単純な考察結果を意味する。従って、フレームワークはIIR濾波および連続時間物理的効果の遅延を含む任意の遅延が考察可能であるので、フレームワークは更に一般的である。
【0077】
観察
情報最大化への接続
非線形起動関数によって後続される重みマトリックスを用いると、非線形ネットワークの出力ベクトルのエントロピに関して平均された相互情報を書き直すことが出来る。これは、上記の解析的技法を情報最大化技法と連結するはずである。接続を理解するために、我々は次のように考察を継続する。
【数78】
を使用し、相互情報判定基準を次のように表現し直すことができる。
【数79】
ここにおいて、次式は、
【数80】
出力ベクトル成分へ適用された非線形(起動)関数をヤコビアンとして表すことを理解できる。従って、重みマトリックスの線形写像に続いて起動関数非直線数を挿入すれば、式
【数81】
は次式に等しくされる
【数82】
この最後のステップにおいて、非線形起動関数のベクトル出力の未知接合確率関数を表すために同一記号fを用いても差し支えないことに注意されたい。
【0078】
従って、この段階において、
【数83】
の最小化が
【数84】
の最小化に等価であることを表明し得る。定義により、
【数85】
量の最小化が非線形起動関数の出力のエントロピ関数の最大化に等しいことが観察される。用いられた非線形起動関数は、その導関数が限界確率分布に必ず等しくなるように構成されることに注意されたい。従って、他の考察によって追求された解析的な方法の間の正確な結合関係がここで確立される。これは、次式が重みマトリックスに依存しないと仮定する以前に設定された一般的に無効の仮定を回避する
【数86】
【0079】
公式化問題の核心は限界確率密度関数への近似の決定にあることに注意されたい。この種の近似は、解析的手段によって正当化された処理済み信号の統計的特質に依拠することを必要とする。
【0080】
確率論的更新対決定論的更新
次に示す2つの要点に注意されたい。即ち、第1点は、公式化では確率汎関数が用いられるが、更新法則の最終的な実施においては、出力変数yの決定論的関数のみが使用されることであり、第2点は、
【数87】
または
【数88】
の更新法則はオンラインで適用されることである。これとは対照的に、既に述べた更新法則は、ウィンドウを用いて適用され、当該更新法則における確率論的プロセスをエミュレートするためにランダム出力サンプルが選択される。
【0081】
アーキテクチャ及び更新法則の実施
1次動的ネットワークへのHJネットワークの実用的な拡大の直接的なハードウェア実装は、実験的結果と共に、既に報告されている。直接的実装は回復ネットワークの最も迅速な実行に関するアーキテクチャ及びアルゴリズムの効果的な実装手段を表す。
【0082】
別のパラダイムはDSPアーキテクチャを含む。ここで考察される信号分離アルゴリズム族のエミュレーションに基づくDSPに関しては、最良プロセッサアーキテクチャと数値的表現の間で、例えば、浮動小数点か固定小数点かについて、トレードオフが行われる。高度に集積化された解決策(例えば、ワンチップ構成)を達成するには、既に設計されているデバイスから、又は、新規設計による標準シリコンセルライブラリからのDSPコアの埋め込みを必要とする。
【0083】
DSPアセンブラ及びリンカに前置されるコンパイラは高水準言語コード化アルゴリズムシミュレーション環境からDSPエミュレーションへの直接的なブリッジを形成する。更に、多くの計算環境と、例えば各種プロセッサ用C/C++ライブラリ及びコンパイラのようなDSPエミュレーション環境との間には同様の直接リンクが存在する。
【0084】
プログラマブルロジックは、関連開発プロセスの必須部分であっても差し支えない。プログラマブルDSPコア(カスタムチップへの統合用に設計されたDSPプロセッサ)は、システムを多様化し、かつシステムコスト、スペース、及び、電力消費を節減するために、カスタムロジックとの集積化が可能である。
【図面の簡単な説明】
【図1】 信号の分離、識別、及び、回復問題の概略表現を示す図である。
【図2】 マトリックスAによる静的混合の場合における信号の分離および回復ネットワークのアーキテクチャを示す図である。U(t)は、原ソース信号s(t)に近似する出力である。Y(t)は、混合プロセスのパラメータの更新に使用される値、即ち、図(a)におけるW及び図(b)におけるDである。
【図2(a)】 信号分離用静的ニューラルネットワーク構造を示す図である。U(t)はS(t)に近似する。Y(t)は、ネットワークの重み更新に使用される。
【図2(b)】 代替信号分離用静的ニューラルネットワーク構造を示す図である。U(t)はS(t)に近似する。Y(t)は、フィードバックネットワークの重み更新に使用される。
【図3】 フィードバック動的混合および分離モデルの場合における信号分離および回復ネットワークのアーキテクチャを示す図である。U(t)はS(t)に近似する。関数gはフィードバックネットワークの重み更新のために使われる判定基準を定義する。
【図4(a)】 信号混合および2つの信号システム分離に関する従来の伝達関数表現を示す図である。2つの信号U1びU2はS1及びS2に近似する。Gは、Hとしてモデル化された混合プロセスを逆にする。
【図4(b)】 方法を単に2次元で示す図である。計算手順は、更に高い次元の信号の場合においては実用的でも拡張可能でもない。更に、混合環境の伝達関数分域への拡張も信号の時間分域特性は除去済みである。これは、方程式の集合からの初期条件の除外も引き起こす。
【図5】 状態空間時間分域(ステートスペースタイムドメイン)に関する混合モデルを示す図である。
【図5(a)】 一般フレームワークを示す図である。
【図5(b)】
【図6】 状態空間時間分域アーキテクチャに関する信号分離モデルを示す図である。
【図6(a)】 一般モデル及びアーキテクチャを示す図である。
【図6(b)】 特殊な場合において、パラメータ更新手順を示す図(a)における矢印なしのモデルのみを示す図である。
【図7】 フィードフォワード状態空間アーキテクチャを示す図である。
【図8】 フィードバック状態空間アーキテクチャを示す図である。
【図9(a)】 本発明の方法の流れ図である。
【図9(b)】 DSP実装アーキテクチャを示す図である。A/Dはアナログからデジタルへの変換を意味し、D/Aはデジタルからアナログへの変換を意味する。以下に示すように、DSP内部には様々な関数ユニットが含まれ得る。適用の性質、混合物体の個数、所要精度、等々に応じて異なる構成が可能である。
【図10】 本発明の信号分離および回復手順に基づくオーディオ適用例を示す図である。オーディオ信号は、マイクロホン配列体のエレメントによって変換された電気信号である。マイクロホン配列体の各エレメントは環境内音響の異なるバージョン(または混合体)を受け取る。適用の性質、混合体の個数、所要精度、および他の関連判定基準に応じてマイクロホンの種々異なる配置構成が設計可能である。何等かの信号状態および濾波作用に従って、これらの混合信号はアナログフォーマットからデジタルフォーマットへ変換され、それによって、記憶および処理が可能である。本システムのディジタル信号プロセッサは本発明の信号分離および回復手順用に手順に従ってプログラムされる。DSP内には、各種の数学および論理演算、デジタル表現、データ記憶、および、最適性能を達成するための検索手段のための様々な関数ユニットを含み得る。図に示す回路および構造は、全システムを1つの単一チップ上に実現する方向に向かって更に集積され得る。
Claims (30)
- 複数の入力信号Mを複数の出力信号Yに弁別する音響信号弁別システムであって、前記入力信号が媒体によって既に影響された複数のソース信号の関数によって構成され、前記ソース信号が複数のソースと関連し、前記出力信号が前記ソース信号を推定しており、前記システムが、信号分離アーキテクチャの複数のパラメータを定義しかつ計算するアーキテクチャプロセッサを有し、前記アーキテクチャが、
ここで、Xiは環境の状態ベクトルを表し、Lは状態ベクトルの数であり、Ai,Bi,Ci及びDは環境を記述するパラメータマトリックであり、Ai,Biは状態更新マトリックスであり、Ci及びDは
ここで、Iは、パフォーマンスインデックスであり、γ及びηは定数であり、faは、非線形奇関数であり、上付き文字Tは、転置を示している、前記システム。 - 前記入力信号を検出するための複数のセンサと、前記信号分離アーキテクチャに基づいて前記出力信号を計算するための出力プロセッサと、を更に含む請求項1記載の音響信号分別システム。
- faが、双曲線関数からなる請求項1又は2に記載の音響信号弁別システム。
- faが、シグモイド関数の逆数からなる請求項1又は請求項2に記載の音響信号弁別システム。
- 前記入力信号が受信され、かつデバイスに記憶される請求項1乃至5のいずれか一項に記載の音響信号弁別システム。
- 前記音響信号弁別システムが、前記信号分離アーキテクチャの前記パラメータマトリックスのパラメータを計算する更新プロセッサも含む請求項1乃至6のいずれか一項に記載の音響信号弁別システム。
- 前記音響信号弁別システムが、前記入力信号の関数を計算するための入力信号プロセッサも含む請求項1乃至7のいずれか一項記載の音響信号弁別システム。
- 音響信号弁別システムが、前記出力信号の関数を計算するための出力信号プロセッサを含む請求項1乃至7のいずれか一項記載の音響信号弁別システム。
- 前記信号分離アーキテクチャの前記パラメータマトリックスのパラメータが、前記入力信号プロセッサ及び前記出力信号プロセッサの内のいずれか、或いは前記両方のプロセッサからのデータに基づいて計算される請求項8又は9に記載の音響信号弁別システム。
- 前記複数のセンサが、方向性応答パターンを有するセンサ配列体として配置されている請求項2又は請求項2に従属する請求項3乃至10のいずれか一項に記載の音響信号弁別システム。
- 前記センサ配列体の方向性応答パターンが、前記入力信号に信号処理を施すことにより、修正することができる請求項11に記載の音響信号弁別システム。
- 前記入力信号の数と前記出力信号の数とが等しくない請求項1乃至12のいずれか一項に記載の信号処理システム。
- 少なくとも1つの出力信号が、少なくとも2つのソース信号の関数である請求項1乃至13のいずれか一項に記載の信号処理システム。
- 少なくとも2つの出力信号が、同一ソース信号の関数である請求項1乃至14のいずれか一項に記載の信号処理システム。
- 前記フィードバック状態空間表現が少なくとも部分的に有限インパルス応答(FIR)フィルタに写像される請求項1乃至15のいずれか一項に記載の信号処理システム。
- 前記状態空間表現が少なくとも部分的に無限インパルス応答(IIR)フィルタに写像される請求項1乃至16のいずれか一項に記載の信号処理システム。
- 前記状態空間表現が非線形時間依存形関数に一般化される請求項1乃至17のいずれか一項に記載の信号処理システム。
- 複数のソース信号を分離する方法であって、
複数の入力信号Mを受信するステップと、
複数の出力信号Yを計算するステップとであって、該出力信号はソース信号を推定しており、前記出力信号は信号分離アーキテクチャのパラメータに基づいているステップと、
前記複数の出力信号を提供するステップと、を含み、
前記信号分離アーキテクチャが、
ここで、Xiは環境の状態ベクトルを表し、Lは状態ベクトルの数であり、Ai,Bi,Ci及びDは環境を記述するパラメータマトリックであり、Ai,Biは状態更新マトリックスであり、Ci及びDは
ここで、Iは、パフォーマンスインデックスであり、γ及びηは定数であり、faは、非線形奇関数であり、上付き文字Tは、転置を示している、前記方法。 - faが、双曲線関数からなる請求項19に記載の複数のソース信号を分離する方法。
- faが、シグモイド関数の逆数からなる請求項19に記載の複数のソース信号を分離する方法。
- 前記入力信号を記憶するステップを更に含む請求項19乃至22のいずれか一項に記載の複数のソース信号を分離する方法。
- 前記出力信号を記憶するステップを更に含む請求項19乃至23のいずれか一項に記載の複数のソース信号を分離する方法。
- 前記入力信号の変換または分析を計算することを更に請求項19乃至24のいずれか一項に記載の複数のソース信号を分離する方法。
- 前記出力信号の変換または分析を計算することを更に請求項19乃至25のいずれか一項に記載の複数のソース信号を分離する方法。
- 前記アーキテクチャが、前記方法の実行中に変更される請求項19乃至26記載のいずれか一項に記載の複数のソース信号を分離する方法。
- パラメータを初期化するために、ゼロ又は無作為な数の組が使用される請求項19乃至27のいずれか一項に記載の複数のソース信号を分離する方法。
- 別の方法によって事前に計算されたパラメータを使用するステップを更に含む請求項19乃至28のいずれか一項に記載の複数のソース信号を分離する方法。
- 事前に終了した方法によって計算されたパラメータを使用するステップを更に含む請求項19乃至29のいずれか一項に記載の複数のソース信号を分離する方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US8975098P | 1998-06-18 | 1998-06-18 | |
US60/089,750 | 1998-06-18 | ||
PCT/US1999/013550 WO1999066638A1 (en) | 1998-06-18 | 1999-06-16 | Adaptive state space signal separation, discrimination and recovery architectures and their adaptations for use in dynamic environments |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002518925A JP2002518925A (ja) | 2002-06-25 |
JP2002518925A5 JP2002518925A5 (ja) | 2009-11-19 |
JP4430820B2 true JP4430820B2 (ja) | 2010-03-10 |
Family
ID=22219411
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000555363A Expired - Fee Related JP4430820B2 (ja) | 1998-06-18 | 1999-06-16 | 適応状態空間信号の分離、弁別、回復用アーキテクチャ、及び、動的環境における使用へのそれらの適用 |
Country Status (11)
Country | Link |
---|---|
EP (1) | EP1088394B1 (ja) |
JP (1) | JP4430820B2 (ja) |
KR (1) | KR20010052961A (ja) |
CN (1) | CN1238969C (ja) |
AT (1) | ATE257985T1 (ja) |
AU (1) | AU762864B2 (ja) |
CA (1) | CA2334861A1 (ja) |
DE (1) | DE69914197T2 (ja) |
DK (1) | DK1088394T3 (ja) |
HK (1) | HK1035448A1 (ja) |
WO (1) | WO1999066638A1 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ATE247340T1 (de) | 1997-06-18 | 2003-08-15 | Clarity L L C | Verfahren und gerät zur blindseparierung von signalen |
US6278377B1 (en) | 1999-08-25 | 2001-08-21 | Donnelly Corporation | Indicator for vehicle accessory |
US6691073B1 (en) | 1998-06-18 | 2004-02-10 | Clarity Technologies Inc. | Adaptive state space signal separation, discrimination and recovery |
US6768515B1 (en) | 1999-03-05 | 2004-07-27 | Clarity Technologies, Inc. | Two architectures for integrated realization of sensing and processing in a single device |
US6735482B1 (en) | 1999-03-05 | 2004-05-11 | Clarity Technologies Inc. | Integrated sensing and processing |
US7120261B1 (en) | 1999-11-19 | 2006-10-10 | Gentex Corporation | Vehicle accessory microphone |
US6882734B2 (en) | 2001-02-14 | 2005-04-19 | Gentex Corporation | Vehicle accessory microphone |
EP1230739B1 (en) | 1999-11-19 | 2016-05-25 | Gentex Corporation | Vehicle accessory microphone |
GB2363557A (en) * | 2000-06-16 | 2001-12-19 | At & T Lab Cambridge Ltd | Method of extracting a signal from a contaminated signal |
US7366564B2 (en) | 2002-08-23 | 2008-04-29 | The United States Of America As Represented By The Secretary Of The Navy | Nonlinear blind demixing of single pixel underlying radiation sources and digital spectrum local thermometer |
GB0517046D0 (en) * | 2005-08-19 | 2005-09-28 | Univ Plymouth Entpr | Method and apparatus for configuring a communication channel |
CN103236264B (zh) * | 2013-05-03 | 2015-07-29 | 湖北文理学院 | 一种用于声源分离的编解码方法 |
CN103903632A (zh) * | 2014-04-02 | 2014-07-02 | 重庆邮电大学 | 一种多声源环境下的基于听觉中枢系统的语音分离方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5383164A (en) * | 1993-06-10 | 1995-01-17 | The Salk Institute For Biological Studies | Adaptive system for broadband multisignal discrimination in a channel with reverberation |
ATE247340T1 (de) * | 1997-06-18 | 2003-08-15 | Clarity L L C | Verfahren und gerät zur blindseparierung von signalen |
-
1999
- 1999-06-16 DE DE69914197T patent/DE69914197T2/de not_active Expired - Lifetime
- 1999-06-16 DK DK99928697T patent/DK1088394T3/da active
- 1999-06-16 AT AT99928697T patent/ATE257985T1/de not_active IP Right Cessation
- 1999-06-16 WO PCT/US1999/013550 patent/WO1999066638A1/en not_active Application Discontinuation
- 1999-06-16 KR KR1020007014346A patent/KR20010052961A/ko not_active Application Discontinuation
- 1999-06-16 CA CA002334861A patent/CA2334861A1/en not_active Abandoned
- 1999-06-16 EP EP99928697A patent/EP1088394B1/en not_active Expired - Lifetime
- 1999-06-16 JP JP2000555363A patent/JP4430820B2/ja not_active Expired - Fee Related
- 1999-06-16 CN CNB998076155A patent/CN1238969C/zh not_active Expired - Fee Related
- 1999-06-16 AU AU45700/99A patent/AU762864B2/en not_active Ceased
-
2001
- 2001-08-28 HK HK01106080A patent/HK1035448A1/xx not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
EP1088394A1 (en) | 2001-04-04 |
CA2334861A1 (en) | 1999-12-23 |
HK1035448A1 (en) | 2001-11-23 |
DE69914197D1 (de) | 2004-02-19 |
AU762864B2 (en) | 2003-07-10 |
ATE257985T1 (de) | 2004-01-15 |
WO1999066638A1 (en) | 1999-12-23 |
CN1238969C (zh) | 2006-01-25 |
KR20010052961A (ko) | 2001-06-25 |
EP1088394B1 (en) | 2004-01-14 |
DK1088394T3 (da) | 2004-05-10 |
DE69914197T2 (de) | 2004-11-11 |
JP2002518925A (ja) | 2002-06-25 |
AU4570099A (en) | 2000-01-05 |
CN1306694A (zh) | 2001-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6691073B1 (en) | Adaptive state space signal separation, discrimination and recovery | |
Lee et al. | Blind source separation of real world signals | |
Zaknich | Principles of adaptive filters and self-learning systems | |
Amari | Natural gradient works efficiently in learning | |
JP4430820B2 (ja) | 適応状態空間信号の分離、弁別、回復用アーキテクチャ、及び、動的環境における使用へのそれらの適用 | |
Tan et al. | Nonlinear blind source separation using higher order statistics and a genetic algorithm | |
Shi | Blind signal processing | |
JP2007526511A (ja) | 周波数領域で多重経路多チャネル混合信号のブラインド分離のための方法及びその装置 | |
JP2009037597A (ja) | 入力画像をフィルタリングして出力画像を作成する方法 | |
Buchner et al. | A generalization of a class of blind source separation algorithms for convolutive mixtures | |
Ribeiro et al. | Identification of separable systems using trilinear filtering | |
JP2002189476A (ja) | 独立成分分析を用いた能動騒音除去方法 | |
KR100454886B1 (ko) | 독립 성분 분석을 이용한 여파기 적응 알고리즘의 필터뱅크 접근 방법 | |
JP2023545820A (ja) | フィルタバンク領域でオーディオサンプルを処理するための生成ニューラルネットワークモデル | |
Sole et al. | Parametric approach to blind deconvolution of nonlinear channels | |
JP2003524792A (ja) | 音声認識システムと方法 | |
Back et al. | Nonlinear system identification using discrete Laguerre functions | |
Lee et al. | A contextual blind separation of delayed and convolved sources | |
Attias | 3 ICA, graphical models, and variational methods H. Attias | |
Waheed et al. | Blind source recovery: A framework in the state space | |
Salam et al. | The state space framework for blind dynamic signal extraction and recovery | |
Deville | Analysis of the convergence properties of self-normalized source separation neural networks | |
Salam et al. | Blind signal separation and recovery in dynamic environments | |
JP2020030373A (ja) | 音源強調装置、音源強調学習装置、音源強調方法、プログラム | |
Bronstein et al. | Blind deconvolution with relative Newton method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060614 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090629 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090928 |
|
A524 | Written submission of copy of amendment under article 19 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A524 Effective date: 20090928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091203 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091218 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121225 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |