KR20010052961A - 적응성 상태 공간 신호 분리, 식별 그리고 복구 구조들과역학 환경들에 이용하기위한 그 적용들 - Google Patents

적응성 상태 공간 신호 분리, 식별 그리고 복구 구조들과역학 환경들에 이용하기위한 그 적용들 Download PDF

Info

Publication number
KR20010052961A
KR20010052961A KR1020007014346A KR20007014346A KR20010052961A KR 20010052961 A KR20010052961 A KR 20010052961A KR 1020007014346 A KR1020007014346 A KR 1020007014346A KR 20007014346 A KR20007014346 A KR 20007014346A KR 20010052961 A KR20010052961 A KR 20010052961A
Authority
KR
South Korea
Prior art keywords
signals
signal
signal processing
processing system
output signals
Prior art date
Application number
KR1020007014346A
Other languages
English (en)
Inventor
얼튼감제
살람페티엠.
Original Assignee
클라리티 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 클라리티 엘엘씨 filed Critical 클라리티 엘엘씨
Publication of KR20010052961A publication Critical patent/KR20010052961A/ko

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0272—Voice signal separating
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
    • H03H21/00—Adaptive networks
    • H03H21/0012—Digital adaptive filters
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2134—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on separation criteria, e.g. independent component analysis
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
    • H03H21/00—Adaptive networks
    • H03H21/0012—Digital adaptive filters
    • H03H21/0025—Particular filtering methods
    • H03H2021/0034—Blind source separation
    • H03H2021/004—Blind source separation using state space representation

Abstract

본 발명은 혼합된 신호들의 맹목 분리 및 복구를 위한 통계적인 신호 처리, 신경형태(neuromorphic) 시스템들, 그리고 미세전자 수행 기법들의 집합을 통합한 것이다. 수신된 원래 신호들의 혼합들과 함수들의 집합을 처리하여 원래 신호들을 분리, 식별, 그리고 복구하기위한 구조들, 구성들, 알고리즘들, 그리고 디바이스들의 집합이 설명된다. 언급된 구조들, 구성들, 알고리즘들, 그리고 디바이스들의 적응 특성은 수신되고, 측정되고, 기록되고, 또는 저장된 신호들 혹은 그 함수들의 처리를 기반으로 한다. 상기 신호 혼합에서 원래 신호 내용의 분리 및 복구를 달성하기위해서 단독 또는 다른 기준들과 연결되어 사용될 수 있는 다수의 기준들이 있다. 상기 구성은 미세전자 회로들의 디지탈 영역 및 아날로그 영역에서 수행할 수 있는 이산-시간 및 연속-시간 공식들 모두를 수용한다. 본 발명은 다중-소스 맹복 신호 분리/복구에 대한 적응성 갱신 법칙들을 이용하는 역학 구조들의 개발 및 공식화에 초점을 맞춘다. 본 발명의 시스템은 상기 원래 신호들에 대한 최소한의 가정 만으로 변화하는 간섭 환경들에서 혼합된 몇몇 미지의신호들을 적응성 맹목 분리 및 복구하도록 한다. 본 발명의 시스템은 멀티플렉스되지 않은 매질 공유, 적응성 간섭 배제, 음향 센서들, 음향 진단들, 의학적 진단 및 사용, 연설, 음성, 언어 식별 및 처리, 유선 및 무선 변조 통신 신호 수신기들, 그리고 셀방식 통신들에 대한 실질적인 적용성을 가진다. 본 발명은 갱신 법칙들의 집합을 소개하고, 비선형 신경 네트워크의 출력 엔트로피의 공통정보 최소화와 정보 최대화를 연결하며, 특히 혼합된 신호들의 맹목 분리, 식별 그리고 복구에 대한 기법들에 관한 것이다. 본 발명은 상기 원래 신호들에 대한 최소한의 가정 만으로 변화하는 간섭 환경들에서 혼합된 몇몇 미지의신호들에 대한 적응성 맹목 분리 및 복구 허용을 추구한다.

Description

적응성 상태 공간 신호 분리, 식별 그리고 복구 구조들과 역학 환경들에 이용하기위한 그 적용들{ADAPTIVE STATE SPACE SIGNAL SEPERATION, DISCRIMINATION AND RECOVERY ARCHITECTURES AND THEIR ADAPTATIONS FOR USE IN DYNAMIC ENVIRONMENTS}
독립 소스들의 복구 및 분리는 고전적이지만 난해한 신호 처리 문제이다. 문제점은 많은 실제 상황들과 그들에 관한 상기 신호 소스들과 상기 혼합 매질의 많은 관련 특성들을 모른다는 사실에 의해 복잡해진다.
두가지 주된 범주의 방법들이 사용된다.
1. 신경 추측 적응성 알고리즘(Neurally inspired adaptive algorithms)(즉, 미국 특허 제 5,383,164호와 제 5,315,532호).
2. 전통적 이산 신호 처리(즉, 미국 특허 제 5,208,786호와 제 5,539,832호).
신경 추측 적응성 알고리즘은 이제 해럴트-쥬튼(Herault-Jutten)(또는 HJ)알고리즘이라 불리는 제이. 해럴트와 씨. 쥬튼에 의해 제안된 방법을 따른다. CMOS 집적에 대한 이러한 방법들 집합의 적합성이 인정되었다. 그러나, 상기 표준 HJ알고리즘은 제안된 적용 규칙들에서 제일 적당하다는 것을 보인 것으로 주로 특정 환경들에서 동작하는 것을 보인 것이다. 상기 HJ알고리즘에 속하는 종래 기술의 이론과 분석은 아직 실질적인 상황들에서 성공할 수 있다는 것을 보증하거나 충분히 지원하지는 못한다. 해럴트와 쥬튼은 이러한 분석적인 결핍들을 인정하고, 해결해야할 부가적인 문제로 기술하였다. 그들이 제안한 알고리즘은 선형 매질과 필터링 또는 지연이 없다고 가정한다. 특히, 원래 신호들은 미지의 것이지만 상수 계수(constant coefficient)들인 행렬을 통한 매질에 의해 전송 된다고 가정된다. 요약하자면, 상기 해럴트-쥬튼 방법은 (i) 모든 행렬 계수(rank)와 선형 정적(static) 혼합 환경들로 제한되고, (ii) 역행렬 조작이 필요하며, 그리고 (iii) 신호 지연들의 존재를 고려하지 않았다. 그러나, 많은 실제적인 적용에 있어서 필터링과 그에 따른 지연들이 발생한다. 따라서, 이러한 기존의 작업은 많은 실질적인 상황들과 실제 환경의 적용들에서 신호들을 성공적으로 분리하는데 실패했다.
전통적인 신호 처리는 신호 분리를 전통적인 디지털 신호 처리 방법들의 사상인 이산 영역(discrete domain)에서 시작하고 신호들의 통계적인 특성들을 이용한다. 이러한 신호 분리 방법들은 대부분 이산 신호 변환들과 필터/변환 함수에 대한 역함수를 포함하는 연산들을 적용한다. 누적 적률(cumulant) 집합의 형태를 가지는 상기 신호들의 통계적인 특성들은 이러한 누적 적률들이 수학적으로 영에 근접하는 곳에서 혼합된 신호들의 분리를 달성하기위해 사용된다. 이는 변환 함수들의 파라메터(parameter)들을 검색하는 알고리즘 계열들(family)의 요점(crux)을 구성하며, 상기 신호들을 복구하고 서로 분리한다. 반면에, 가능한 모든 누적 적률들의 연산은 비효율적이며 실시간 적용에 대해서는 시간 소모가 너무 많다.
이러한 방법들의 특성들을 다음의 범주들에서 부연설명한다.
1. 신호 분리를 위한 신경 추측 구조들과 알고리즘들
신호 분리에 대한 이러한 한 집합의 신경 추측 적응성 접근법들은 "통계적으로 독립적인" 신호 벡터 S(t) = [s1(t),..., sN(t)]T가 상기 신호 벡터 M(t)를 만들기 위해 혼합된다고 가정한다. 상기 벡터 M(t)는 센서들(예들들어 마이크로폰들, 안테나, 등등)로부터 수신된다.
상기 혼합된 환경을 일반적(통계나 역학) 연산자로 나타내기로 하자. 그러면,
상기 혼합 과정을 역으로 하는데 사용될 수 있는 몇가지 공식들이 있는데, 즉, 자연이나 상기 혼합 연산자의 내용이나 상기 원래 소스 S(t)에 대한 경험적 지식이 존재하지 않기 때문에 연산자는 "맹목(blind)" 함수로 둔다. 우리는 이러한 것들을 두가지 범주로 묶는데, 통계와 역학이다. 고차 누적 적률들의 정보 최대화, 최소화등과 같은 적용되는 적응 기준의 특성으로 부가적으로 구별될 수 있다.
1.1 통계의 경우
통계의 경우는 상수 비특이 행렬(nonsingular matrix)로 혼합된다는 제한이 있다. 상기 "통계적으로 독립적인" 신호 벡터 S(t) = [s1(t),..., sN(t)]T가 상기 신호 벡터 M(t)를 만들기 위해 혼합된다고 가정한다. 특히, 혼합 연산자는 상수 행렬 A로 나타내어진다고 하면, 이는 다음과 같다.
도 2에서, 두개의 구성들은 도시한 바와 같이 상기 혼합된 모델링을 대략 그린 것이다. 상기 도 2(A)의 구성은 상기 상수 행렬 A의 역을 계산한 것으로 상기 A의 역, 즉 A-1이 존재해야 한다.
도 2(b)의 대안적인 구조는 상기 행렬 D의 떨어진 대각 요소들에 대한 수렴(convergence)이 상기 행렬 A의 떨어진 대각 요소들에 대한 것들과 완전히 같기 때문에 이러한 제한에 영향을 받지 않는다. 그러나, 이러한 경우, 상기 행렬 A의 대각 요소들은 "1,0"과 동등한 것으로 제한된다. D의 대각 요소들을 0으로 설정하는 것으로, 상기 혼합 처리는 만일 상기 혼합 행렬은 그렇지 않더라도 역행렬이 존재한다고 결론지을 수 있다.
두가지 경우 모두에서, S(t)는 미지의 소스 집합이고, M(t)은 혼합물의 집합이며, U(t)는 S(t)를 추정(estimate)하는 분리된 신호들의 집합이고, 그리고 Y(t)는 혼합되지 않은 처리의 파라메터들을 갱신하는데 사용되는 제어 신호의 집합이다. 도 2에 도시된 바와 같이, 가중치(weight) 갱신은 출력 U(t)의 함수를 이용한다.
상기 제 1의 경우, 혼합되지 않은 행렬을 W라 하고, 제 2의 경우, 이를 D라 했다. 상기 D는 대각 요소들이 0이다. 상기 두 행렬들의 상기 요소들의 갱신은 신호 분리, 식별 또는 복구 즉, 높은 차수의 누적 적률들의 정보 최대화, 최소화 등에 사용되는 기준들로 정의된다.
예를 들어서, 가능한 가중치 갱신 방법은,
인 경우,
일 수 있다.
여기서 η는 충분히 작고, g는 우함수이며, M은 행렬들의 집합이고, U는 상기 소스 신호들을 추정하는 출력들의 집합이다. 아래첨자 T는 변환을 나타내고, -T는 역변환을 나타낸다. 상기 함수 g()는 다음과 같은 상기 다이어그램에 연관될 수 있는 상기 갱신의 부가적인 역할을 수행한다는 것을 유의한다.
수학식 4는 수학식 3의 W 요소들을 갱신하는데 사용된다. 비록 이는 반복적인 갱신 절차이지만, W의 요소들은 수렴하고, 그래서 상기 산출 WA는 단위 행렬(identity matrix) 또는 상기 단위 행렬의 치환과 거의 동일하다.
반면에, 제 2경우에서는, 상기 D 행렬 요소들 dij의 갱신에 유용한 법칙은 일반적으로 다음과 같이 서술할 수 있다.
여기서, 상기 η는 충분히 작다. 실질적으로, f(.)에 대한 유용한 함수들은 3차 함수를 포함하고, g(.)는 하이퍼볼릭 탄젠트 함수를 포함한다. 이런 절차를 이용하는 경우, 하기 수학식 7을 통해 연속적인 각 단계들과 표본 위치에서 U(t)를 계산해 낼 수 있다.
이러한 연산은 잠재적으로 큰 부담이 되며, 고차원 D에서는 특히 심하다.
1.2 역학의 경우
역학 혼합 모델은 더 실제적인 혼합 환경을 고려하며, 이러한 환경 모델들을 정의하고 이러한 구성 내에서 원래 신호들을 복구하기위한 갱신 법칙을 개발할 수 있다.
역학의 경우에서, 상기 행렬 A는 더이상 상수 행렬이 아니다. 정적 예제의 궤환 구조를 참조하면, 고속 역학식의 식으로써 U(t)=[I+D]-1M(t)인 수학식 7을 더 쉽게 볼 수 있다.
이는 무작위 추측으로부터 수학식 8의 미분 방정식을 초기화하는 것으로 연산을 용이하게 한다. 한편, 수학식 8과 수학식 6으로 정의된 것과 같은 상기 갱신 절차 간의 시간 정도(scale)들의 분리를 보증하는 것이 중요하다. 이는 수학식 6의 η과 수학식 8의 τ을 충분히 작게 하는 것으로 보증될 수 있다.
만일 상기 M(t)의 차수가 N이라고 하면, 상기 역학 신호 분리 알고리즘을 정의하는 미분 방정식들의 집합은 다음과 같이 쓰여질 수 있다.
여기서 i=1,...,N
이는 N개의 미분 방정식들을 열거한다. 부가적으로, 상기 행렬 D의 요소들에 대한 상기 적응 처리는, 예를들어 수학식 6의 상기 함수들 f()와 g()의 방정식과 같이 복수의 기준들로 정의될 수 있다. 도 3은 궤환 구성의 역학 모델을 그림으로 나타낸 것이다.
현재 방법들은 지금까지 정의된 구조들 내의 적응 기준 적용에 대한 절차의 방법으로 다소간 설명한다. 두가지 함축된 절차들을 특기하면 다음과 같다.
첫번째는 상기 신호 분리 함수들, 적응 절차들과 데이터의 임의 위치에 대한 기준-이러한 각 위치들이 실질적으로 그리고 물리적으로 허용되는 가는 논외로 하고-에 대한 적용이다. 그래서, 상기 적응성 분리 절차는 적절한 파라메터 갱신이 완료된 후 적응 함수들과 개별적이고 동시적으로 측정된 혼합 신호들의 각 요소에 대한 기준을 적용한다.
두번째 종류의 절차는 도 2(a)에서 수학식 3으로 설명된다. 이러한 경우, 상기 기준은 모든 데이터 집합 또는 상기 전체 데이터 집합에서 선택된 데이터 지점들에 적용된다. 그래서, 상기 연관된 적응 처리는 표본 당 진행되지 않고, 상수, 정적 혼합 행렬이 적용된다고 가정되는 모든 데이터 집합에 이용된다. 비록, 이러한 방법이 상기 제 1방법에 비해 다소간 더 확실해 보일 수는 있어도, 이는 본질적으로 오프라인 방법이며 실시간 신호 분리에는 적합하지 않다. 또한, 정적 상수 행렬이 부정확하다고 가정한 경우, 분리 처리의 정확성이 손상된다.
1.3 피드포워드(feedforward) 상태 공간
구조는 도 7에 도시된다. n차 소스 신호 벡터를 s, 그리고 m차 측정 벡터를 M이라 한다. 상기 혼합 환경은 다음의 선형 시불변(Linear Time-Invariant:LTI) 상태 공간으로 설명될 수 있다.
상기 파라메터 행렬,,그리고들은 차수가 호환된다. 이러한 식은 연속-시간 및 이산-시간 역학들 모두를 포괄한다. 상기 상태상의 점은 연속-시간 역학들에 대한 도함수(derivative)를 의미하는 한편, 이산-시간 역학에 대해서는 "선행(advance)"의 의미이다. 상기 혼합 환경은 (점근적으로(asymptotically))안정하다고 여겨지며, 즉, 상기 행렬는 왼쪽 절반 복소수 평면의 고유치를 가진다. 상기 (적응성) 네트워크는 다음의 형식이 되도록 작성된다.
여기서 y는 n차 출력, X는 내부 상태, 그리고 파라메터 행렬들은 호환되는 차수들이다. 간단히 하면, X가와 동일한 차수를 가진다고 가정한다. 도 7은 이러한 구성으로부터 피드포워드를 설명한다.
복구 문제점에 대한 기존의 해법들
만일 상기 네트워크 파라메터들이 (적응성 구성을 통해 얻어지는) 다음의 값들로 설정되면, (적응성) 역학 네트워크는 상기 혼합 환경을 반대로 동작 시킬 수 있다.
여기서 [D]는 다음과 같다.
: m=n 인 경우 D의 역행렬,
; 만일 m＞n인 경우 의사 역행렬, 그리고
; 만일 m＜n인 경우 의사 역행렬.
행렬 A*, B*, 그리고 C*는 비특이 상태-동등 변환 T 이기 때문에 같은 값들의 계열로 간주될 수 있다. T는 상기 네트워크 구조 "정규화(canonical)" 또는 현실화의 관점에서 간단히 표현하기 위해서 사용된다. 이러한 공식화(formulation)는 논문에서 상기 공식화가 일반화 되어질 수 있고, 이는 FIR 필터들, 2차 소스들 및 두개의 측정들에 대한 우세한 정도(predominantly), 일반적인 n차 소스들, 그리고 m차 측정들로 제한된다. 이러한 모델링은 FIR 필터링 모델을 포함하고, 만일 A가 0이 아니라면(nonzero) IIR 필터링으로 확장된다는 것을 유의한다.
상기 적응성 네트워크에 대한 상기 피드포워드 형태가 가시적이면, 그 적응성에 대한 제한, 즉, 상기 혼합 환경의 파라메터가 존재해야만 하고, 그래서 상기 행렬 A*는 (점근적으로) 안정하다. 다시 말해서, 안정한 혼합 환경에 있어서, 상기 적응성 네트워크의 합성 행렬
는 (점근적으로) 안정해야 하며, 즉, 왼쪽 절반의 복소수 평면에 고유치를 가져야 한다. 이러한 요구는 상기 허용될 수 있는 혼합 환경에 제한 조건을 주어 어떠한 계열의 적용에 배타적일 수 있다는 것이 명백하다!
2. 단일 분리 접근(approach to single separation)을 기반으로 하는 전달 함수(transfer function)
전달 함수로 혼합되고 분리되는 신호의 표현이 이러한 역학 환경 및 모델에 대한 접근을 만든다.
그래서, 현재 방법들은 두개의 합성 측정들을 처리하는 것으로 두개의 신호들을 분리하기 위한 구조를 정의하며, 이는 도 4에 예시된다.
상기 전달 함수 영역의 상기 분리 함수들에 대한 다른 구조들은 설계ㅡ 실용 방법 및 제품에 대한 적용, 3가지 모두가 심각한 부족 현상을 보인다. 먼저, 표현된 바와 같은 이러한 공식화는 더 높은 차수에 대해서는 분리 절차를 일반화 할 수 없고, 문제점들의 차수는 2차 이상이다. 다시 말해서, 두개의 혼합들과 두개의 소스들 이상의 경우 분리 방법의 실용적 공식화는 존재하지 않는다. 이는 다른 접근법에 직접적으로 관계되는데, 여기서 행렬 곱셈 조건들이 기술되고, 그래서 각 스칼라 식은 0과 같아져야하는 결과 행렬의 요소들 중 하나를 정의한다. 대각 행렬의 순열들도 허용되기 때문에, 식들의 곱셈 집합들이 생성된다. 두가지 혼합 문제점에 대해서, 이는 두쌍(총 4개)식들이 산출되고 각각은 두개의 적 항(product term)들을 가진다. 그 이상은 식들의 수가 증가한다. 정확하게, N차의 특정 순열에 대한 식들의 수를 설명하기위해 필요한 식들의 수는 (N2-N)이다. 2차 문제에서 그 값은 2이다.
둘째로, 상기 전달 함수에 대한 역 순서는 임시적이며, 방법 또는 학설이 없다. 차수의 영향은 여기서 중요한 역할을 한다. 상기 방법에서, 결과 구조가 혼합 환경의 전달 요소들의 적(product)들에 독립적인 차수(order)의 전달 요소들을 필요로 하는 네트워크가 만들어지는 것이 분명하다. 그래서, 고정된 차수의 네트워크 구조를 설계할 수 없다.
세째로, 초기 조건은 상기 식이 시간 영역이 아니기 때문에 정의될 수 없고, 임의의 초기 조건으로 초기화 될 수 없다. 그래서, 상기 방법은 실시간 또는 온라인 신호 분리에는 적합하지 않다.
본 발명은 혼합된 신호들 집합의 다중 측정들을 처리함으로써 원래 신호 정보 또는 내용을 복구하는 시스템에 속한 것이다. 특히, 본 발명은 수신된 혼합 신호들에서 몇개의 원래 신호들을 복구하기위한 적응성 시스템들에 속한다. 본 발명에 의해 해결되는 문제점들을 가장 잘 이해하기위해서, 그리고 이러한 문제점들을 해결하기위한 기존의 접근방법들을 이해하기위해서, 다음과 같이 문제점들을 나열하는 것이 도움이 될 것이다. 첨부된 도 1을 참조하면, N개의 독립된 신호들이 s1(t),...,그리고 sN(t)이라고 가정한다. 이러한 신호들은 독립적인 스피커들 또는 말들, 음향들, 음악, 무선-기반 또는 광-기반 무선 전송들, 전자 또는 광 통신 신호들, 사진들, 비디오들 등 중 어떠한 것을 나타내거나 그 조합들을 나타낸다. 이러한 신호들은 지연될 수 있고 그들이 전달되는 자연 환경 또는 인조 합성 매질(medium) 환경의 수단에 의해 서로 중첩될 수 있다. 결과적으로 상기 지연되거나 중첩된 신호들을 수신하여 전달 알고리즘들의 집합을 이용하거나 그 적용에 대한 절차들을 이용하여 상기 독립적인 신호 소스(source)들을 성공적으로 분리하는 구조(architecture), 구성(framework) 또는 디바이스가 필요하다.
도 1은 신호 분리, 식별 그리고 복구 문제를 나타낸다.
도 2는 행렬 A로 정적 혼합된 경우 신호 분리 및 복구 네트워크의 구조이다. U(t)는 원래 소스 신호들 s(t)에 유사한 출력이다. Y(t)는 혼합되지 않는 처리들의 파라메터들 즉, (a)의 W와 (b)의 D를 갱신하는 데 사용되는 값들을 포함한다.
도 2(a)는 신호 분리를 위한 정적 신경 네트워크 구조이다. U(t)는 S(t)와 유사하다. Y(t)는 상기 네트워크의 가중치 갱신에 사용된다.
도 2(b)는 신호 분리를 위한 대안적인 정적 신경 네트워크 구조이다. U(t)는 S(t)와 유사하다. Y(t)는 상기 네트워크의 가중치 갱신에 사용된다.
도 3은 궤환 역학 혼합과 분리 모델들의 경우 신호 분리와 복구 네트워크 구조이다. U(t)는 S(t)와 유사하다. 함수 g는 상기 궤환 네트워크의 가중치 갱신에 사용되는 기준을 정의한다.
도 4의 (a)는 2 신호 시스템에대한 신호 혼합 및 분리를 설명하기위한 일반적인 전송 함수이다. 상기 2신호들 U1과 U2는 거의 S1과 S2와 같다. G는 상기 혼합 처리 모델된 H로 역변환한다. (b)의 방법은 2차만을 설명한다. 상기 연산 절차는 실용적이지도 않고, 더 높은 차수 신호들의 경우 확장성도 없다. 또한, 전송 함수 영역에 대한 상기 혼합 환경의 확장 역시 상기 신호의 시간 영역 특성을 소멸시킨다. 이 또한 상기 식들의 집합에서 초기 조건들의 배타성을 유발한다.
도 5는 상태공간 시간 영역 구조에 대한 두가지 혼합 모델들이다. (a)는 일반적인 구성이다. (b)는와가 고정되는 특별한 경우, 일반적인 신호 처리와의 관계이다. 두가지 모델은 많은 종류의 분리 구조들에 적용된다.
도 6은 상태 공간 시간 영역 구조에 대한 신호 분리 모델이다. (a)는 일반적인 모델과 구조이다. (b)는 특별한 경우로, 도시된 이러한 모델은 파라메터 갱신 절차들을 묘사하는 (a)의 화살표들이 없다.
도 7은 피드포워드 상태 구조이다.
도 8은 궤환 상태 공간 구조이다.
도 9의 (a)는 본 발명의 방법에 대한 순서도이다. (b)는 DSP 수행 구조이다. A/D는 아날로그를 디지털로 변환하는 것을 나타내고, D/A는 디지털을 아날로그로 변환하는 것을 나타낸다. 상기 DSP의 내부들은 다음에 보인 것들과 같은 다양한 함수 유닛들을 포함할 수 있다. 응용의 특성, 행렬들의 수, 원하는 정밀도 등에 따라 다른 구조들을 가질 수 있다.
도 10은 본 발명의 신호 분리 및 복구를 기반으로 하는 음향(audio) 응용이다. 음향 신호들은 마이크로폰 배열들의 소자들에 의해 전기적 신호들로 변환된다. 상기 마이크로폰 배열의 각 소자들은 환경으로 부터 다른 종류(version)(또는 혼합)의 음향들을 수신한다. 마이크로 폰 소자들의 다른 배열들은 응용의 특성, 행렬들의 수, 원하는 정밀도, 그리고 다흔 관련 기준에 따라 설계될 수 있다. 약간의 신호 조절과 필터링이 후속하고, 이러한 신호들의 혼합은 아날로그 형태에서 디지털 형태로 변환되고, 이들은 저장되고 처리된다. 상기 시스템의 디지털 신호 처리기는 본 발명의 신호 분리 및 복구 절차에 대한 절차들을 따라 프로그램된다. 상기 DSP의 내부들은 다양한 산술, 논리 연산들, 그리고 디지털 표시, 데이터 저장 및 최적 성능을 달성하는 수단의 검색을 포함할 수 있다. 도시된 회로들과 구조들은 단일 칩 상에서 모든 시스템을 구현하기위해 집적될 수 있다.
본 발명은 다수의 출력 신호들에서 다수의 출력 신호들을 분리하는 신호 처리 시스템을 설명하며, 상기 입력 신호들은 다수의 소스들과 결합된 다수의 소스 신호들의 합성된 함수로 되어 있고, 상기 출력 신호들은 상기 소스 신호들 또는 소스 신호들의 함수들을 추정한다. 상기 시스템은 입력 신호들을 검출하기위한 다수의 센서들, 신호 분리 방법을 정의 및 연산하기위한 구조 처리기, 출력 신호들을 연산하기위한 신호 분리 구조를 정하는 신호 분리 방법, 그리고 상기 신호 분리 방법 또는 구조를 기반으로 상기 출력 신호들을 연산하기위한 출력 처리기를 포함한다.
본 발명은 다양한 매질을 통해 전달되는 혼합된 신호들을 복구 및 분리하기위한 것으로, 여기서 상기 신호들의 분리는 그 질이 높아지면 실질적으로 (i)상기 매질 또는 채널(channel)의 신호 전송 용량,(ii) 수신되는 신호의 질, 또는 (iii) 둘 모두가 증가한다. 상기 매질 또는 채널들은 배선들, 캐이블들, 관섬유들, 무선 또는 광 기반 주파수들 또는 대역들의 조합은 물론이고 고체, 액체, 기체 입자들, 또는 진공을 포함한다.
본 발명은 매질 또는 채널을 지나는 혼합된 신호들을 현재 이용 가능하거나 현존하는 기술로 생산 가능한 하드웨어로 달성되는 높은 품질의 신호 분리로 분리하기 위한 것이다.
본 발명의 시스템은 데이터로 지시되지 않는(unaddressed) 환경의 범위를 극복하기위해 상기 설명된 현존하는 접근법보다 뛰어난 일반화된 구성들 집합을 소개한다. 특히, 도 8에 도신된 궤환 상태 공간 구조와 그 연속 및 이산 실시(rendition)들이 설명된다. 또한, 상기 구조는 FIR 및 IR 형태 모두의 적응성 필터들의 집합에 대응(mapped)되며, 이는 디지털 신호 처리업계의 당업자에게 일반적인 방법이다. 부가적으로, 본 발명의 구조들에 대한 파라메터들의 적응성 연산에 대한 많은 함수들과 절차들이 약술될 것이다. 상기 파라메터들의 적응성 연산에 대한 구조들과 절차들 모두는 온-라인 실시간 신호 분리, 식별 그리고 복구를 달성하기 위해 설계된다. 많은 다른 기법들의 실제적인 부족함들은 즉, 본 발명의 공식들로 지시되는 다중 또는 혼합에서 미지의 신호수, 잡음 생성, 혼합 조건들의 변경, 다양한 신호들의 세기 및 품질, 그리고 어떠한 비직선성 현상들에 대한 계산 오류이다. 본 발명의 방법은 다양한 파라메터 적용 기준과 혼합에서 신호들을 분리 및 복구하기위해 설계된 절차들은 물론이고, 구조들 및 구성들의 새로운 두개 집합들을 포함하는 것으로 상기 문제의 공식을 확장하는 것으로 다른 방법들의 부족한 부분들을 극복한다.
소개
본 발명은 역학 환경들에서 미지의 신호에 대한 분리 및 복구(또는 재-콘볼루션(re-donvolution))를 실시하는 구성을 제공한다. 상기 원래 작업은 해럴트와 쥬튼 및 일반적인 작업에서 도출된 것이다. 대부분의 근래 결과들은 해럴트, 쥬튼 및 컬백(Kullback)에 의해 보고된 결과를 분석적 토대로 설정하는 것에 가장 초점을 맞춘다. 몇몇 연구자들은 적용되는 수학식들, 통계적 신호 처리들, 시스템 이론, 역학 시스템들 그리고 신경 네트워크들을 포함하는 분석 도구를 이용해 왔다.
몇몇 이론적인 결과들과 공식들이 역학 환경에서 미지의 신호들의 분리 및 복구를 설명한다. 혼합 환경을 나타내는 상태 공간 역학 모델들과 그 결과 상기 신호 분리 및 복구를 수행하는 데 사용되는 적응 네트워크를 고려한다. 연속적인 시간 채널들은 물론이고 이산적인 시간 채널들에 쉽고, 직접적으로 적용되는 역학 모델들을 적용한다. 상기 제공된 환경 모델과 상기 적응성 네트워크는 상기 혼합 환경이 (상태) 궤환과 메모리를 포함하는 경우를 허용한다. 상기 상태/출력의 궤환은 상기 이산-시간에서 상기 유한 임펄스 응답(IIR) 필터링에 해당하고, 상기 피드포워드는 상기 FIR 공식에 해당한다.
본 발명의 강조사항은 효율적인 이식의 관점으로 본 상기 네트워크 구조와 개선된 수렴 알고리즘들의 개발이다. 백지 상태(whitening)를 보증하고, 출력 유닛 공분산(coveriance)의 가정을 제거하기 위해서 (비선형)공통 정보/엔트로피 (mutual information /entropy) 함수의 개선된 근사치가 사용된다. 상기 개선된 확장 절차들과 네트워크의 기수 다항식은 고차 항들을 포함하는 선형 항을 출력하며, 이 모두는 다른 방법의 확장에는 없는 것이다. 그러나, 어떠한 연구에서는 혼합 환경이 상수 행렬로 표현되는 정적 경우에만 언급되어 있다는 것에 유의해야 한다. 특히, FIR 필터에 대한 공식 역시 정적 행렬 혼합 문제로 변환된다.
방법 요약
도 9(a)는 본 발명의 방법에 대한 흐름 다이어그램을 보인다. 이는 (1)표본들의 획득, (2)상기 표본들의 전-처리, (3)상기 상태들 또는 적응성 파라메터들의 현재 값을 이용한 연산 출력, (4)연산 적응성 파라메터들, (5)내부적 상태 연산 및 저장 그리고/또는 출력들의 표시를 포함한다.
표본들의 획득은 예를들어 마이크로 폰들과 같은 다수의 센서들을 통해 저장된 다수의 채널 데이터 획득을 포함한다. 이러한 데이터는 상기 다수의 센서들 또는 예를들어 혼합된 음향들의 음역(track)들과 같은 그 혼합들의 기 저장된 출력들에서 얻을 수 있다. 데이터는 실시간으로 온라인 또는 실시간 처리기에서 채집될 수 있거나, 예를들어 테이프, 하드 디스크 드라이브 등과 같은 저장 또는 기록 매체로부터 불러올 수 있다.
상기 표본들의 전처리는 상기 획득된 표본들의 처리를 위한 다양한 처리 기법들을 포함하며, 다양한 데이터의 유효 표본 비율의 표본화, 예를들어 저역, 고역 또는 대역 통과 필터들 또는 노치(natch) 필터들과 같은 다양한 주파수 필터들의 적용, 예를들어 두개 이상의 센서들의 가중치 합산, 버퍼링, 무작위, 의사무작위 또는 결정론적인 선택과 버퍼링과 같은 현재 또는 이전 표본들의 센서 출력들 간의 선형 또는 비선형 조작들, 표본된 데이터 또는 표본된 데이터의 함수들을 윈도우에 위치시킴(windowing), 그리고 상기 표본된 데이터의 선형 및 비선형 변환들을 포함하지만, 이로써 제한되지는 않는다.
출력들의 연산은 이전에 연산된 상태들과 파라메터들을 이용한다. 적응성 파라메터들의 연산 또는 상기 내부적 상태들의 연산, 또는 둘 다가 종료될때 까지의 이 단계 역시 지연될 수 있다. 또한, 대안적으로 각 표본 집합에 대해 출력이 두번씩 연산될 수 있다.
적응성 파라메터들의 연산은 함수의 값을 연산하는 함수의 도함수들을 사용하는 방법 또는 다수의 방법들을 포함할 수 있고, 상기 함수는 상기 적응성 파라메터들 상에 부가된 제한들을 정의한다. 하나 이상의 이러한 제한들이 이용될 수 있다. 적응성 파라메터들의 특정한 연산을 위한 다양한 방법들과 기준들이 본 발명에서 약술된다.
내부적 상태들의 연산은 적응성 파라메터들의 가용 값들 또는 현재 값들에 따르는 상기 구조의 구성의 실시를 포함한다. 상기 내부적 상태들은 상태 벡터, 스칼라 상태들, 시간 내 그 표본들, 또는 그 도함수들의 형태일 수 있다. 상기 특정 구조는 상태들의 수를 정의한다.
역학 구조들
역학 모델들은 더 실질적인 환경들을 포괄하고, 설명한다. 상기 상태 공간 접근의 피드포워드 및 궤환 구조들 모두가 실시될 수 있다. 피드포워드 선형 상태 공간 구조는 상기 나열되었다. 본 설명에서, 혼합 환경으로 신호 혼합에 대한 수학적 모델을 선호하지만, (적응성) 네트워크로써는 상기 신호 복구에 대한 수학적 모델을 선호한다.
본 발명의 방법은 상수 행렬의 넘어선 좀더 실질적인 모델들을 포함하고, 성공적인 갱신 법칙들을 개발하도록 상기 환경을 확장한다. 중요한 제 1단계는 FIR 필터들보다 더 일반적인 상기 상태 공간의 역학 선형 시스템들과 초기 조건들의 다양성과 궤환을 포괄하는 전달 함수들을 포함하는 것이다. 또한, 이러한 모델들은 비선형 모델들로의 직접 확장에 적합하다. 이러한 연구의 다른 동기는 아날로그 또는 혼합 모드 미세전자에 대한 결과적인 적용을 가능하게 하는 것이다.
상기 공식은 궤환 역학 구조를 설명하는데, 여기서 상기 환경은 역학적 선형 시스템의 적절한 실제화(realization)로 나타내어진다.
피드포워드 선형 구조:
상기 피드포워드 상태 공간 구조는 소개 부분과 도 7에 설명되었다.
궤환 선형 구조:
그 피드포워드 전구체(precursor)보다 더 효율적인 구조는 (출력)궤환 네트워크 구조라 불린다. 도 8 참조. 이러한 구조는 상기 네트워크 파라메터들의 제한 조건들이 더 작아지도록 한다. 또한, 궤환 때문에, 궤환 시스템들의 몇가지 알려진 매력적인 특성들을 계승하는데, 이는 오류들 및 간섭들에 대한 강함과, 안정성 그리고 증가된 밴드폭을 포함한다. 이러한 획득들은 다음의 수학식들로부터 명백해질 수 있다.
복구 문제들에 대한 해법들의 존재
만일 y가 s에 대한 해답 비례항(순열(permutation) 행렬 P를 통해)에 수렴한다면, 즉, y=Ps라면, 상기 (적응성)네크워크의 후속 파라메터 행렬들은 상기 원래 신호들을 복구하는 해법들을 구성한다.
상기 네트워크의 구조에서 궤환을 가지는 기대되고 원하는 특성들에 부가하여, 신호들의 분리/복구에 대한 해법들의 단순성도 달성할 수 있다. 이러한 경우, 상기 구조는 상기 네트워크에 대한 부가적인 제한들을 도입하지 않는다. 상기 네트워크 전방 통로(forward path)의 H는 일반적으로 가장 간단한 경우의 행렬 또는 역학 모델의 전달 함수를 나타낼 수 있다는 것을 유의한다. 또한, m=n인 경우, H는 단위행렬로 선택될 수 있다.
상기 절차의 요소들과 그 이점들이 이제 명백하다. 상기 구조들을 개발하기위한 절차들에 대한 더 많은 일반화는 최소화가 아닌(non-minumum) 상 혼합(phase mixing) 환경들로 설명된다. 이러한 단계들은 상기 절차의 간단한 적용이고, 그래서 설명하지 않는다.
중요한 일반화는 상기 구조의 일부로써 비선형성을 포함하는 것이 명백하다. 어떠한 모델은 측정 변수 M(t)에 정적 대응으로써 비선형성을 포함한다. 이러한 경우, 상기 적응성 네트워크는 그 입력 단계(stage)에서 비선형성 보상을 포함해야 한다. 그래서, 상기 입력은 후속 처리 이전에 상기 측정의 반대동작을 하는 "역-형태(inverse type)" 비선형성을 반드시 포함해야 한다. 이러한 형태의 혼합 환경은 위성 플렛폼(satellite platform)들을 포함하는 무선 응용들에서 볼 수 있다.
이러한 적당한 방법으로 정의된 역학 구조는 맹목 신호 분리에 대한 해답이 존재하지 않는다는 것을 보증한다. 적당한 적응성 절차/알고리즘을 정의하는 그 다음 단계는 네트워크가 그 가능한 해답들 중 하나에 수렴한다는 것을 보증한다. 결과적으로, 수렴한 다음, 상기 네트워크는 신호 처리/복구에 대한 상기 변수를 유지한다.
이산-시간 IIR과 FIR 필터들에 대한 이산 상태 공간 표현 및 특수화(specialization)
성능 측정/함수
무작위 벡터 y의 공통 정보는 그 요소들 간에 종속적인 측정이고, 이는 다음과 같이 정의된다.
연속적인 경우:
불연속 적인 경우:
이산에 대한 근접의 경우:
여기서 py(y)는 무작위 벡터 y의 확률 밀도 함수(pdf)이고, pyj(yj)는 출력 벡터 y의 j번째 요소에 대한 확률 밀도이다. 상기 함수 L(y)는 항상 음이 아니고, 상기 무작위 벡터 y의 요소가 통계적으로 독립인 경우나 오직 그러한 경우에만 0이된다. 이러한 중요한 측정은 단일 벡터의 요소들 간의 종속성 정도를 정의한다. 그래서, 이는 통계적인 독립(의 정도)을 특정짓기위한 적절한 함수를 나타낸다. L(y)는 엔트로피의 항으로 나타내어질 수 있다.
여기서 H(y) := -E[lnfy],는 y의 엔트로피이고, E[.]는 원하는 값을 나타낸다.
일반적인 비선형 이산 시간 정체되지 않는 역학(non-stationary dynamic)의 경우:
환경 모델
환경을 다음의 비선형 이산-시간 역학(포워드) 처리 모델로 모델한다.
여기서 s(k)는 원래 신호들의 n-차 벡터이고, m(k)는 측정들의 m-차 벡터이며, Xp(k)는 Np차 상태 벡터이다. 상기 벡터(또는 행렬) w1 *이 역학식 상수/파라메터를 타나내고, w2 *는 "출력" 식의 상수/파라메터를 나타낸다. 함수들 fp(.)와 gp(.)는 미분방정식일 수 있다. 상기 미분 방정식의 해답의 존재 및 유일성은 각 초기조건들 Xp(t0) 집합과 주어진 파형 벡터 s(k)에 대해 만족된다.
처리 네트워크들
상기 (처리) 네트워크는 역학 (포워드)네트워크 또는 역학 궤환 네트워크로 나타내어질 수 있다.
상기 피드포워드 네트워크는,
이고, 여기서 k는 지표이고, m(k)는 m-차 측정이며, y(k)는 r-차 출력 벡터이고, X(k)는 N-차 상태 벡터이다.(N과 Np는 상이할 수 있다는 것에 유의한다.) 상기 벡터(또는 행렬)w1은 상기 역학 식의 파라메터들을 나타내며, w2는 "출력" 식의 파라메터를 나타낸다. 상기 함수들 f(.)과 g(.)은 미분방정식일 수 있다. 상기 미분 방정식의 해답의 존재 및 유일성은 각 초기조건들 X(t0) 집합과 주어진 측정 파형 벡터 m(k)에 대해 만족된다.
이산-시간 역학 네트워크에 대한 갱신 법칙: 일반적인 비직선성의 경우
갱신 법칙은 상기 원래 신호들을 복구하기 위해 이제 역학 환경들에 대해서 개발된다. 여기서 상기 환경은 선형 역학 시스템으로 모델된다. 결과적으로, 상기 네트워크 역시 선형 역학 시스템으로 모델된다.
상기 네트워크는 피드포워드 역학 시스템이다. 이러한 경우, 성능 표지,
는 이산-시간 비선형 역학 네트워크에 관한 것으로 정의된다.
이러한 형태의 일반적인 비선형 시간 변화 이산 역학 모델은 다층으로 된 궤환의 특정 구조들과, 임의의 크기 및 임의의 수를 가진 층들로 된 피드포워드되는 신경 네트워크들 모두를 포함한다. 이는 더 작고, 이러한 일반적인 경우를 논의하기에 더 수학적이지만, 피드포워드 및 순환(궤환) 모델들에 대한 방향 및 직선적 특수화는 특히 두드러진다.
그래서, 최적화를 위해서 증가된 비용 함수는 다음과 같아진다.
그 다음, 해밀터니안(Hamiltonian)은 다음과 같이 정의된다.
결과적으로, 최적화를 위한 상기 충분한 조건들은 다음과 같다.
상기 경계조건들은 다음을 따른다. 제 1항, 상태항은 초기 조건을 이용하고, 제 2항, 부가-상태항은 0이 되는 최종 조건을 이용한다. 상기 파라메터 식들은 주어진 깁합에서 선택되거나 무작위로 선택된 작은 놈(norm)을 초기 값으로 이용한다.
일반적인 이산 선형 역학 경우:
환경
피드포워드 네트워크
상기 제 1식은 다음을 다른다. 원래 신호들을 복구하는 처리 네트워크의 파라메터 행렬들이 존재하는가? 그 답이 예라면, 상기 파라메터들의 명백한 해답들은 다음에 주어진다.
복구 문제들에 대한 해답의 존재:
선형 역학의 경우에 대한 갱신 법칙
IIR과 FIR필터들에 대한 특수화
상기 네트워크의 일반적인 이산-시간 선형 역학들은 다음과 같이 주어진다.
X(k+1)=AX(k)+Bm(k)
y(k)=CX(k)+Dm(k)
여기서 m(k)는 측정들의 m-차 벡터이고, y(k)는 (처리된)출력들의 n-차 벡터이며, 그리고 X(k)는 (mL)차 상태들이다(이러한 경우 필터링된 상기 측정들을 타나냄). 상기 상태 벡터는 L m-차 상태 벡터들인 X1,X2,... XL로 볼 수 있다. 즉, 다음과 같다.
특별한 경우:
상기 행렬들과 A와 B가 "제어할 수 있는 정준형(cananical form)"인 경우를 가정한다. 상기 A와 B블록 행렬들을 다음과 같이 나타낸다.
, 그리고
여기서, 각 블록 하부-행렬 Aij는 대각 행렬로, 각 I는 적절한 차수를 가지는 블록 단위 행렬로 간단화 할 수 있다.
그러면,
...
이러한 모델은 상기 측정 벡터 m(k)의 IIR 필터링 구조를 나타낸다. 상기 블록 행렬들 A1이 0인 경우, 상기 모델은 상기 특별한 경우의 FIR필터로 줄어든다.
X1(k+1)=m(k)
X2(k+1)=X1(k)
...
XL(k+1)=XL-1(k)
상기 식들은 공지된 FIR형태로 다시 쓰여질 수 있는데, 이는 다음과 같다.
X1(k)=m(k-1)
X2(k)=X1(k-1)=m(k-2)
...
XL(k)=XL-1(k-1)=m(k-L)
이러한 마지막 식은 측정된 신호 m(k)와 Xj(k)로 나타내어지는 그 지연된 상태는 상기 출력 y(k)와 연괸된다.
특별한 정규(canonical) 표시의 경우:
상기 행렬들 A와 B는 "제어할 수 있는 정준형들" 또는 I형애 포멧에서 가장 잘 나타내어진다. 상기 B는 상수이고 A는 상기 IIR 네트워크 경우의 파라메터로서 제 1블록의 열(row)들 만을 가진다. 그러한 경우, 상기 행렬 B에 대한 갱신 식은 사용되지 않는다. 상기 행렬 A에 있어서, 상기 제 1블록의 열들 만이 갱신된다. 그래서 상기 행렬 A에 대한 상기 갱신 법칙은 다음의 식으로 제한된다.
상기 행렬 A의 형태는 없으며, 부가-상태 식들은 다음의 식들과 같이 확장된다.
:
그래서, A의 상기 블록 하부-행렬들에 대한 상기 갱신 법칙은 다음과 같다.
상기 [D]-T는 상기 D 행렬의 의사-역변환을 나타낸다. 상기 행렬들 D와 C에 대한 갱신 법칙들은 다음과 같이 부연설명된다.
여기서 I는 부가적인 0 열(만일 n＞r인 경우) 또는 부가적인 영 행(만일 n＜r인 경우)에 의해 r×r 단위 행렬로 구성되는 행렬이다. "자연적인 기울기(natural gradient)"를 고려해서 보면, 이러한 경우의 갱신 법칙은 다음과 같다.
상기 C행렬에 대해서, 상기 갱신 식들은 다음과 같이 각 블록 행렬에 대해 씌여질 수 있다.
만일 상기 내부적인 상태를 제거하는 것으로 상기 상태 공간을 줄이면, 통계적 환경에 대한 시스템을 다음과 같이 줄일 수 있다.
m(t)=S(t)
이산에 대해서는 다음과 같이 정의된다.
m(k)=S(k)
두 종류들의 (이산)네트워크들은 통계적으로 혼합된 신호들의 분리에 대해 설명된다. 이들은 피드포워드 네트워크이며, 상기 분리된 신호들 y(k)는
y(k)=WM(k)
이고, 궤환 네트워크에서 y(k)는 다음과 같이 정의된다.
y(k)=m(k)-Dy(k)
y(k)=(I+D)-1m(k)
이들에 대한 이산 갱신 법칙들은 다음과 같다.
피드포워드 네트워크의 경우,
WT+1= WT+μ{-f(y(k)) gT(y(k)) +I}
이고, 궤환 네트워크의 경우,
DI+1=DI+μ{f(y(k))gT(y(k))-I}
여기서, (I)는 상기 f(y(k))gT(y(k)) 행렬의 대각들의 시간 윈도우된 평균들로 대치될 수 있다.
주의: 상기 갱신에 있어 다수의 가중치들을 사용할 수 있다. 다음의 "역학" FIR 모델들은 아날로그 갱신 법칙 변경들을 예시적으로 보일 수 있다.
환경 모델:
FIR에서, 단일 지연의 경우, 상기 혼합된 표본들 m(k)은 다음의식으로 정의된다.
분리 피드포워드 네트워크 모델
상기 네트워크는 다음으로 정의되는 유사한 소스 신호들 y(k)를 생성한다.
행렬들 W0에서 WL에대한 갱신 법칙의 사용은 다음을 따른다.
W0= μ0{∝I - f(y(k))g(y(k))T}
W1= -μ1{f(y(k))g(y(k-1))}T
또는,
W1= -μ12{f(y(k))g(y(k-1))T+γf(y(k-1))g(y(k))T
........
또는,
특정한 갱신은,
WI+1=WI+W
로써, W를W로 그 비율을 변화 시키도록W를 추가하는 것으로 간단히 실시될 수 있거나, 그 도함수들로부터 변수들의 값들을 연산 하기위한 알려진 다른 적분 방법에 의해서 실시될 수 있다.
연속 시간 모델들
본 발명은 갱신 법칙들의 집합과 공통 정보의 최소화의 연결들을 소개하고, 특히 혼합된 신호들의 맹목 분리, 식별 그리고 복구에 대한 기법들에 관해서, 비선형 신경 네트워크의 출력 엔트로피 함수에 대한 정보 최대화를 소개한다. 본 발명의 시스템은 워래 신호들에 대한 아주 작은 가정(assumption)으로 환경들의 간섭을 변화 시키는 함께 혼합된 미지의 신호들에 대한 적응성 맹목 분리 및 복구를 가능하게 한다.
앞의 절(section)에서, 이산 시간 모델들이 개발되었다. 본 절은 연속 시간 파생(derivation)들을 주로 취급한다. 이러한 연속적인 시스템 파생물들은 상기 이산적인 경우에서와 대등라고, 여기서는 연속 시간 모델들을 보완하여 설명한다. 큰 부분에 대한 본 발명의 내용 중 연속 시간 및 이산 시간 파생물들은 서로 아날로그라는 것에 유의한다. 한 영역의 갱신 법칙은 당 업자들에 의해 다른 영역의 갱신 법칙으로 변환될 수 있다.
성능 측정/함수
무작위 벡터 y의 공통 정보는 그 요소들 간의 종속성을 측정하고, 다음과 같이 정의된다.
연속적인 경우:
이산적인 경우:
이산의 근사치 경우:
여기서 Py(y)는 상기 무작위 함수 y에 대한 확률(probability) 밀도 함수(pdf)이고, Pyj(yj)는 출력 벡터 y의 j번째 요소의 확률 밀도이다. 상기 함수 L(y)는 항상 음이 아니며 상기 무작위 벡터 y의 요소들이 통계적으로 독립적이거나 구러한 경우에만 0이 된다. 중요한 측정은 상기 신호 벡터의 요소들 간 종속적인 정보를 정의한다. 그래서, 이는 통계적인 독립성(의 정도)를 특정하기위한 적절한 함수를 나타낸다. L(y)는 엔트로피의 항들로 나타내어질 수 있다.
여기서 H(y):=-E[lnfy] 이고, 이는 y의 엔트로피이며, E[.]는 원하는 값들을 의미한다.
갱신 법칙의 파생
신경 네트워크의 선형 피드포워드 구조가 다음에 도시하는 것과 같다고 가정한다.
그러면, 상기 (무작위 벡터)출력의 확률 밀도 함수들과 혼합된 입력 변수들은, 상기 무작위 벡터 y의 공통 정보가 그 요소들 간에서 독립적인 측정인 것과 연관되며, 이는 다음과 같이 정의될 수 있다.
그래서,은 다음과 같이 씌여질 수 있다.
W의 함수로써 L(y)를 최적화 하기 위해서(실질적으로, 최소화), 상기 한계(marginal) 엔트로피들의 인식(또는 근사)이 요구된다. 이러한 정보는 유효하지 않고, 그리고 그로 인해서 L(y)를 최소화 하기위해 이러한 양들을 가설에 의해서 근사화할 필요가 있다. 코몬(Comon)과 아마리(Amari) 등은 한계 엔트로피들을 근사화 하기위해 상기 pdf들의 찰리어-그램(Charlier-Gram) 확장과 에지워스(Edgeworth)를 개별적으로 사용했다. 그 근사값은 다음을 생성한다.
L(y):=(M,y,W)
상기 파생물들은 다음의 기울기 갱신 법칙을 유도한다.
상기 함수 근사치는 미분 함수 fa(y)를 유도한다. 본 연구는 찰리어-그램 확장을 가정하고 이전에 사용된 것보다 더 높은 근접들을 포함한다. 본 경우, 상기 함수 fa(y)는 다음과 같이 주어진다.
예를 들어서, 상기 알고리즘은 균일한(uniform) 무작위 잡음과 사인 함수가 미지의 소스들로 적용되는 경우 이전의 두 식들의 수렴에 의해 정의된다. 이전에 다음과 같이 정의되는 갱신 법칙으로 표현하기 위해서 자연 기울기(natural gradient)를 사용할 수 있다.
이러한 경우, 시뮬레이션(simulation)들은 알고리즘이 다양한 신호들에 수렴한다는 것을 보인다. 한편, 만일 무작위 또는 사인 파형이 사용되면 실패한다. 이러한 결과는 어떠한 비선형 함수들이 사용되는 경우에도 적용된다. 그래서, 이러한 경우, 두가지 함수들은 유사한 효과들을 가진다.
연속 역학 환경들에 대한 파라메터 갱신 기법들
더 현실적인 환경들을 고려하여, 그 모델들을 정의하고, 원래 신호들을 복구하기위해 상기 갱신 법칙을 적용한다. 본 공식에서, 상기 환경은 선형 역학 시스템으로 모델된다. 결과적으로, 상기 네트워크 역시 선형 역학 시스템으로 모델된다.
이제, 원래 신호들을 복구하기 위해서 상기 갱신 법칙이 역학 환경들에 대해 개발된다. 여기서, 상기 환경은 선형 역학 시스템으로 모델된다. 결과적으로, 상기 네트워크 역시 선형 역학 시스템으로 모델된다.
피드포워드 경우:
상기 네트워크는 도 7에서와 같이 피드포워드 역학 시스템이다. 이러한 경우, 상기 성능 표지(index)는 다음과 같이 정의할 수 있다.
여기서 L은 라그랑지안(Lagrangian)이고, 이는 다음과 같이 정의된다.
여기서 λ(t)는 다음으로 정의되는 인접 상태 방정식이다.
함수 ø는 종속 I(y)의 측정에 대한 확대된 경우임을 나타낼 수 있고, w는 마라메터 행렬들 C와 D의 열로 구성된 벡터이다. 정칙으로 나타내면, 상기 행렬 A는 N-파라메터들 만을 가질 수 있고, N은 상기 상태 벡터 X의 차수이다. 일반적으로 wp로 나타내어지는 상기 파라메터들 A, C, 그리고 D은 다음과 같은 일반적인 기울기 하락 형태(gradient descent form)를 이용하여 갱신될 수 있을 것이다.
그래서, 다음과 같이 정의된 상기 성능 지표를 이용하여,
상기 행렬 C와 D는 다음에 따라 갱신된다.
여기서 fa(.)는 다양한 비선형 확장성 기함수들에 의해 주어질 수 있으며, 이는 하이퍼볼릭 사인과 곡선 함수(sigmiodal function)의 역을 포함한다.
어떠한 특정 연산/근사에 있어서, 상기 함수는 다음과 같이 주어진다.
fa(y)에 대한 상기 다항식을 이용하는 것에 있어서 그 필수적인 특징들은 다음과 같이 요약된다.
1. 이는 분석적으로 파생되고 정당화된다.
2. 이는 y에 선형 항을 포함하고, 그래서 신호 표백하에 대해 필요한 2차 통계의 수행을 가능하게 한다.
3. 이는 상기 출력 신호 y에서 4차 누적한 통계들로부터 발산되는 고차 항들을 포함한다.
4. 이는 상기 출력이 단일 공분산을 가진다고 가정하지 않는다.
fa(y)에 대한 함수는 상기 문헌에서 상기 특징들을 나타내도록 사용된 함수 만으로 표현된다. 그래서, 이러한 함수는 다른 분석적으로 파생된 함수들의 한계를 넘어선다.
컴퓨터 시뮬레이션들은 만일 상기 정의된 fa(y)에 대한 함수가 이용된다면 상기 알고리즘이 수렴한다는것을 보증한다.
궤환 구조
도 8의 상기 (출력)궤환 구조는 다음의 (정칙) 상태-공간 표현을 따라 간단히 실현될 수 있다.
환경:
네트워크:
y = M - Z
여기서 각 Xi는 상기 원래 신호들과 같은 차원 환경에 대한 상태 벡터를 나타내며, 각 Xi는 상기 출력 신호와 같은 차원 네트워크의 상태를 나타낸다. 간단히하면, 환경과 네트워크 모두에서 상기 상태 벡터들의 수(L)가 같다고 가정한다.
이제, 상기 성능 표지는 다음과 같고,
상기 행렬들 Ci와 Di는 다음을 따라 갱신된다.
특정한 경우들에서 연구를 통해 입증된 더 간단한 갱신 법칙은 특별한 적용들을 만족시킬 수 있다.
수행된 컴퓨터 시뮬레이션들은 상기 두 식들의 성능을 보여주었다.
상기 FIR 필터링에서, 상기 상태들은 소스들의 간단한 지연들을 나타내며, 반면에 상기 네트워크의 상기 상태들은 상기 궤환 출력 신호들에서 지연을 나타낸다는 것이 명백해야 한다. 한편, 이러한 관점은 실질적인 물리적 응용들에서 발생하는 신호 지연의 간단한 고려이다. 그래서, 이러한 IIR 필터링과 연속-시간 물리적 효과들을 포함하는 변덕스런 지연들을 고려함으로써, 상기 구성은 더 일반적이다.
관찰들
정보 최대화에 대한 관계
활성 함수 비선형성에 따르는 가중치 행렬로 비선형 네트워크의 상기 출력 벡터의 엔트로피 항의 평균된 공통 정보를 다시 쓸 수 있다. 이러한 관점은 상기 정보-최대화 접근과 상기 대략적인 분석 접근을 연결한다. 상기 연결을 보기 위해서, 이제 다음과 같이 처리한다.을 이용해서, 공통 정보 기준을 다음과 같이 다시 표현 할 수 있다.
상기 출력 벡터에 적용되는 비선형(활성화) 함수의 자코비안(Jacobian)으로 이제 다음의 표현을 볼 수 있다.
그래서, 만일 상기 가중치 행렬의 선형 대응에 따라서 활성화 함수 비선형성을 삽입하면,
에 대한 표현을 I(y)=E[lnfy(u)]로 표시할 수 있다.
마지막 단계에서, 동일한 기호 f를 상기 비선형 활성화 함수의 상기 벡터 출력에 대한 미지의 결합 확률 함수를 나타내도록 사용하는 자유를 가진다는 것의 유념한다.
그래서 이제 다음 식의 최소화는 I(y)=E[lnfy(u)]의 최소화와 동일하다고 선언할 수 있다.
상기 양을 최소화 하는 I(y)=E[lnfy(u)]는 정의에 의해서, 상기 비선형 활성화 함수에 대한 출력 엔트로피 함수의 최대화와 동일하다. 상기 사용된 비선형 활성화 함수가 구성되므로 그 파생은 상기 한계 확률 분포와 동일할 필요가 있다는 것을 유의한다. 그래서 이는 여기서 다른 논의들과 함께 수행되는 분석적 접근 간 정확한 연결을 설정한다. 이는 이전에,
H(y|e)
가 가중치 행렬에 종속적이지 않다고 가정된 일반적으로 무효한 가정을 우회한다.
상기 공식에서 문제가 되는 요점은 상기 한계 확률 밀도 함수에 대한 근사치를 결정하는 것이다. 이러한 근사치는 상기 처리된 신호들의 통계적인 특성들에 의존하며 분석적 수단으로 정당화 될 필요가 있다.
확률론적인 갱신 대 결정론적 갱신
두가지 사항을 주의해야 하는데, 하나는 상기 공식이 확률론적 함수를 적용하지만, 상기 갱신 법칙의 점진적인 수행에서 상기 출력 변수 y는 결정론적인 한수들만 사용된다는 것이다. 다른 하나는 W=η[W-T-fa(y)MT] 또는 W=η[L-fa(y)yT]W의 상기 갱신 법칙은 온라인으로 적용된다. 대조적으로, 이전에 설명된 상기 갱신 법칙은 윈도우를 이용하고, 상기 갱신 법칙의 확률론적 처리를 모방(emulate)하도록 무작위 출력 표본들을 선택하면서 적용된다.
구조들과 갱신 법칙들의 수행
상기 HJ 네트워크에서 1차 역학 네트워크로의 실제적인 확장에 대한 직접 하드웨어 수행(Direct hardware implementation)은 실험적인 결과들로 이미 보고되었다. 직접 수행들은 상기 복구 네트워크의 가장 빠른 실행에 대한 구조들 및 알고리즘들의 효율적인 수행 수단을 나타낸다.
다른 예는 DSP 구조를 포함한다. DSP를 기반으로 하는 신호 분리 알고리즘의 모방은 여기서 함께 논의되며, 이는 가장 좋은 처리기의, 예들들어 고정 소숫점 연산 또는 부동 소숫점 연산과 같은 숫자 표시 방법들과 구조를 식별하는 특정 적용에 있어서의 절충에 이른다. 고밀도로 집적된 적용시스템(solution)(예를들어, 단일 칩)은 기-설계된 디바이스 또는 표준 실리콘 셀 라이브러리에서 설계되는 것들 중 하나인 DSP코어를 내장한다.
상기 DSP 어셈블러와 링커에 대한 컴파일러 프론트 엔드(font-end)는 DSP 모방에대한 고 수준 언어 코드된 알고리즘 시뮬레이션 환경과 직접적인 관계를 형성한다. 부가적으로, 예를들어 C/C++ 라이브러리와 다양한 처리기들에 대한 컴파일러와 같은 유사한 직접 연결은 많은 연산 환경들과 DSP 모방 환경들 간에 존재한다.
프로그램할 수 있는 로직은 상기 연관된 개발 공정의 집적된 부분일 수 있다. 프로그램 가능한 DSP코어(주문형 칩에 내장되기위해 설계된 DSP 처리기)는 시스템을 차별화 하는 주문형 로직과 함께 집적될 수 있고, 시스템 가격, 공간 그리고 전력 소모를 줄일 수 있다.

Claims (48)

  1. 다수의 입력 신호들을 다수의 출력 신호들로 분리하기위한 신호 처리 시스템에 있어서, 상기 입력 신호들은 다수의 소스들과 결합된 다수의 소스 신호들의 함수로 구성되며, 상기 출력 신호들은 상기 소스 신호들 또는 소스 신호들의 함수들을 추정하고, 상기 시스템은,
    입력 신호들을 검출하기 위한 다수의 센서들과,
    신호 분리 방법을 정의하고 연산하기 위한 구조 처리기와, 상기 신호 분리 방법은 상기 출력 신호들에 대한 신호 분리 구조의 한계를 정하며, 그리고
    상기 신호 분리 방법 또는 기법을 기반으로 상기 출력 신호들을 연산하기 위한 출력 처리기를 포함하여 이루어지는 것을 특징으로 하는 신호 처리 시스템.
  2. 제 1항에 있어서, 상기 입력 신호들은 디바이스에 수신되고 저장되는 것을 특징으로 하는 신호 처리 시스템.
  3. 제 1항에 있어서, 상기 신호 분리 구조는 가변 파라메터들을 가지는 것을 특징으로 하는 신호 처리 시스템.
  4. 제 3항에 있어서, 상기 신호 처리 시스템은 상기 신호 분리 구조의 가변 파라메터들을 연산하는 갱신 처리기 역시 포함하는 것을 특징으로 하는 신호 처리 시스템.
  5. 제 1항에 있어서, 상기 신호 처리 시스템은 상기 신호 분리 구조의 시변 파라메터들의 연산을 위한 갱신 처리기 역시 포함하는 것을 특징으로 하는 신호 처리 시스템.
  6. 제 1 -5항 중 어떠한 하나 이상의 항에 있어서, 상기 신호 처리 시스템은 상기 입력 신호들의 함수들을 연산하기위한 입력 신호 처리기를 포함하는 것을 특징으로 하는 신호 처리 시스템.
  7. 제 1 -6항 중 어떠한 하나 이상의 항에 있어서, 상기 신호 처리 시스템은 상기 출력 신호들의 함수들을 연산하기위한 입력 신호 처리기를 포함하는 것을 특징으로 하는 신호 처리 시스템.
  8. 제 7항에 있어서, 상기 신호 분리 구조의 가변 파라메터들은 상기 입력 또는 출력 신호 처리기 중 하나, 혹은 모두로부터의 데이터를 기반으로 연산되는 것을 특징으로 하는 신호 처리 시스템.
  9. 제 1 -8항 중 어떠한 한 항에 있어서, 상기 다수의 센서들은 지향성 응답 패턴을 가지는 센서 배열로 배치되는 것을 특징으로 하는 신호 처리 시스템.
  10. 제 9항에 있어서, 상기 센서 배열의 지향성 응답 패턴은 상기 입력 신호들에 대해 신호 처리를 수행하는 것으로 변경될 수 있는 것을 특징으로 하는 신호 처리 시스템.
  11. 제 1 -10항 중 어떠한 한 항에 있어서, 상기 입력 신호들의 양과 상기 출력 신호들의 양은 동일하지 않은 것을 특징으로 하는 신호 처리 시스템.
  12. 제 1 -11항 중 어떠한 한 항에 있어서, 적어도 하나의 출력 신호는 적어도 두개의 소스 신호들의 함수인 것을 특징으로 하는 신호 처리 시스템.
  13. 제 1 -12항 중 어떠한 한 항에 있어서, 적어도 두개의 출력 신호는 동일한 소스 신호의 함수인 것을 특징으로 하는 신호 처리 시스템.
  14. 제 1 -13항 중 어떠한 한 항에 있어서, 상기 출력 신호들의 연산은 상기 시스템의 다양한 내부 상태 또한 기반으로 하는 것을 특징으로 하는 신호 처리 시스템.
  15. 제 1 -14항 중 어떠한 한 항에 있어서, 상기 출력 신호들의 연산은 상기 입력 신호들, 상기 줄력신호들, 이전에 수신한 입력 신호들, 그리고 이전에 연산된 출력 신호들 중 적어도 하나 또한 기반으로 하는 것을 특징으로 하는 신호 처리 시스템.
  16. 제 1 -15항 중 어떠한 한 항에 있어서, 상기 신호 분리 구조는 상기 입력 신호들과 상기 출력 신호들 간의 관계 설정을 나타내는 궤환 상태 공간 표현에 의해 정의되는 것을 특징으로 하는 신호 처리 시스템.
  17. 제 16항에 있어서, 상기 출력 신호들의 연산은 하나 이상의 상기 상태 공간 구조의 현재 및 이전 상태들 또한 기반으로 하는 것을 특징으로 하는 신호 처리 시스템.
  18. 제 16 -17항 중 어떠한 한 항에 있어서, 상기 궤환 상태 공간 표현은 유한 임펄스 응답(FIR) 필터 상에 대응되는 것을 특징으로 하는 신호 처리 시스템.
  19. 제 16 -17항 중 어떠한 한 항에 있어서, 상기 상태 공간 표현은 무한 임펄스 응답(IIR) 필터 상에 대응되는 것을 특징으로 하는 신호 처리 시스템.
  20. 제 16 -19항들에 있어서, 상기 상태 공간 표현은 비선형 시변 함수에 대해 일반화 되는 것을 특징으로 하는 신호 처리 시스템.
  21. 신호 분리 구조의 다수 파라메터들을 연산하는 방법에 있어서, 상기 구조는 다수의 입력 신호들과 다수의 출력 신호들 간의 관계를 정의하며, 이는,
    다수의 입력 신호들을 수신하는 단계와,
    상기 신호 분이 구조의 파라메터들을 연산하는 단계와,
    다수의 출력 신호들을 연산하는 단계와, 그리고
    다수의 출력 신호들을 제공하는 단계를 포함하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  22. 제 21항에 있어서, 상기 방법은 상기 입력 신호들을 저장하기위한 수단을 포함하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  23. 제 21항에 있어서, 상기 방법은 상기 출력 신호들을 저장하기위한 수단을 포함하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  24. 제 21항에 있어서, 상기 방법은 상기 입력 신호들의 변환 또는 분석을 연산하는 수단을 포함하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  25. 제 21항에 있어서, 상기 방법은 상기 출력 신호들의 변환 또는 분석을 연산하는 수단을 포함하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  26. 제 21 -25항 중 어떠한 한 항에 있어서, 상기 신호 분리 구조는 상기 입력 신호들과 상기 출력 신호들 간의 관계를 설정하는 궤환 상태 공간 표현으로 정의되는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  27. 제 26항에 있어서, 상기 신호 분리 구조의 파라메터들은 다수의 2차 배열들(행렬)로 정리되는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  28. 제 26항에 있어서, 상기 신호 분리 구조 파라메터들의 변화율은 다수의 2차 배열들(행렬)로 정리되는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  29. 제 27 -28항 중 어떠한 한 항에 있어서, 상기 신호 분리 구조의 상기 파라메터들의 집합 또는 상기 파라메터들의 변화율을 포함하는 상기 2차 배열들 중 적어도 하나는 일차 배열로 정리된 입력 신호들, 내부 상태들, 그리고 출력 신호들 중 어느 한 집합의 함수들 외적의 함수들이고, 일차 배열로 정리된 입력 신호들, 내부 상태들, 그리고 출력 신호들 중 어느 한 집단의 함수인 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  30. 제 29항에 있어서, 상기 배열의 차수는 3차 이상인 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  31. 제 30항에 있어서, 다수의 외적을 얻기위해 곱해진 일차원 배열들의 수는 3개 이상인 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  32. 제 21 -31항들에 있어서, 상기 다수의 방법들이 동시에 겹칠 수 있는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  33. 제 21 -31항들에 있어서, 상기 구조는 상기 방법의 실행 동안 변경되는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  34. 제 32 -33항들에 있어서, 상기 방법들 중 적어도 하나는 0들 또는 숫자들의 무작위 집합을 상기 파라메터들을 초기화하기위해 사용하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  35. 제 32 -33항에 있어서, 상기 방법들 중 적어도 하나는 이전에 다른 방법으로 연산된 파라메터들을 동시에 겹쳐서 사용하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  36. 제 32 -33항에 있어서, 상기 방법들 중 적어도 하나는 이전에 종료된 방법들로 연산된 파라메터들을 사용하는 것을 특징으로 하는 신호 분리 구조의 다수 파라메터들 연산 방법.
  37. 다수의 신호들을 다수의 출력 신호들로 식별하기위한 음향 신호 식별 시스템에 있어서, 상기 입력 신호들은 매질에 의해 영향 받은 다수의 소스 신호들의 함수로 구성되고, 상기 소스 신호들은 다수의 소스들과 결합되며, 상기 출력 신호들은 상기 소스 신호들 또는 소스 신호들의 함수들을 추정하고, 상기 시스템은,
    입력 신호들을 검출하기 위한 다수의 음향 센서들과, 상기 입력 신호들은 상기 소스 신호들 집합의 함수들 집합으로 구성되며,
    신호 분리 구조의 다수 파라메터들을 정의하고 연산하기 위한 구조 처리기와, 상기 구조는 다수의 입력 신호들과 다수의 출력 신호들 간의 관계를 정의하며, 그리고
    상기 음향 신호 분리 방법을 기반으로 상기 출력 신호들을 연산하기 위한 출력 처리기를 포함하여 이루어지는 것을 특징으로 하는 음향 신호 식별 시스템.
  38. 제 37항에 있어서, 상기 입력 신호들은 디바이스에 수신되고 저장되는 것을 특징으로 하는 음향 신호 식별 시스템.
  39. 제 37항에 있어서, 상기 신호 분리 구조는 적어도 하나의 가변 파레메터들을 가지는 것을 특징으로 하는 음향 신호 식별 시스템.
  40. 제 39항에 있어서, 상기 신호 처리 시스템은 상기 신호 분리 구조의 가변 파라메터들을 연산하는 갱신 처리기 역시 포함하는 것을 특징으로 하는 음향 신호 식별 시스템.
  41. 제 37 -40항 중 어떠한 하나 이상의 항에 있어서, 상기 신호 처리 시스템은 상기 입력 신호들의 함수들을 연산하기위한 입력 신호 처리기를 포함하는 것을 특징으로 하는 음향 신호 식별 시스템.
  42. 제 37 -41항 중 어떠한 하나 이상의 항에 있어서, 상기 신호 처리 시스템은 상기 출력 신호들의 함수들을 연산하기위한 입력 신호 처리기를 포함하는 것을 특징으로 하는 음향 신호 식별 시스템.
  43. 제 42항에 있어서, 상기 신호 분리 구조의 가변 파라메터들은 상기 입력 또는 출력 신호 처리기 중 하나, 혹은 모두로부터의 데이터를 기반으로 연산되는 것을 특징으로 하는 음향 신호 식별 시스템.
  44. 제 43항에 있어서, 상기 다수의 음향 센서들은 음향 센서 배열로 배치되고, 상기 음향 센서 배열은 상기 지향성 응답 패턴을 가지는 것을 특징으로 하는 음향 신호 식별 시스템.
  45. 제 43항에 있어서, 상기 음향 센서 배열의 지향성 응답 패턴은 상기 음향 센서 배열의 상기 음향 센서들에 의해 검출된 신호들을 수행하는 것으로 변경될 수 있는 것을 특징으로 하는 음향 신호 식별 시스템.
  46. 제 43항에 있어서, 상기 입력 신호들의 양과 상기 출력 신호들의 양은 동일하지 않은 것을 특징으로 하는 음향 신호 식별 시스템.
  47. 제 43항에 있어서, 적어도 하나의 출력 신호는 적어도 두개의 소스 신호들의 함수인 것을 특징으로 하는 음향 신호 식별 시스템.
  48. 제 43항에 있어서, 적어도 두개의 출력 신호는 동일한 소스 신호의 함수인 것을 특징으로 하는 음향 신호 식별 시스템.
KR1020007014346A 1998-06-18 1999-06-16 적응성 상태 공간 신호 분리, 식별 그리고 복구 구조들과역학 환경들에 이용하기위한 그 적용들 KR20010052961A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US8975098P 1998-06-18 1998-06-18
US60/089,750 1998-06-18
PCT/US1999/013550 WO1999066638A1 (en) 1998-06-18 1999-06-16 Adaptive state space signal separation, discrimination and recovery architectures and their adaptations for use in dynamic environments

Publications (1)

Publication Number Publication Date
KR20010052961A true KR20010052961A (ko) 2001-06-25

Family

ID=22219411

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020007014346A KR20010052961A (ko) 1998-06-18 1999-06-16 적응성 상태 공간 신호 분리, 식별 그리고 복구 구조들과역학 환경들에 이용하기위한 그 적용들

Country Status (11)

Country Link
EP (1) EP1088394B1 (ko)
JP (1) JP4430820B2 (ko)
KR (1) KR20010052961A (ko)
CN (1) CN1238969C (ko)
AT (1) ATE257985T1 (ko)
AU (1) AU762864B2 (ko)
CA (1) CA2334861A1 (ko)
DE (1) DE69914197T2 (ko)
DK (1) DK1088394T3 (ko)
HK (1) HK1035448A1 (ko)
WO (1) WO1999066638A1 (ko)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4477148B2 (ja) 1997-06-18 2010-06-09 クラリティー リミテッド ライアビリティ カンパニー ブラインド信号分離方法及び装置
US6278377B1 (en) 1999-08-25 2001-08-21 Donnelly Corporation Indicator for vehicle accessory
US6691073B1 (en) 1998-06-18 2004-02-10 Clarity Technologies Inc. Adaptive state space signal separation, discrimination and recovery
US6735482B1 (en) 1999-03-05 2004-05-11 Clarity Technologies Inc. Integrated sensing and processing
US6768515B1 (en) 1999-03-05 2004-07-27 Clarity Technologies, Inc. Two architectures for integrated realization of sensing and processing in a single device
US7120261B1 (en) 1999-11-19 2006-10-10 Gentex Corporation Vehicle accessory microphone
KR100864703B1 (ko) 1999-11-19 2008-10-23 젠텍스 코포레이션 차량 보조 장치 용 마이크로폰
GB2363557A (en) 2000-06-16 2001-12-19 At & T Lab Cambridge Ltd Method of extracting a signal from a contaminated signal
AU2002250080A1 (en) 2001-02-14 2002-08-28 Gentex Corporation Vehicle accessory microphone
US7366564B2 (en) 2002-08-23 2008-04-29 The United States Of America As Represented By The Secretary Of The Navy Nonlinear blind demixing of single pixel underlying radiation sources and digital spectrum local thermometer
GB0517046D0 (en) * 2005-08-19 2005-09-28 Univ Plymouth Entpr Method and apparatus for configuring a communication channel
CN103236264B (zh) * 2013-05-03 2015-07-29 湖北文理学院 一种用于声源分离的编解码方法
CN103903632A (zh) * 2014-04-02 2014-07-02 重庆邮电大学 一种多声源环境下的基于听觉中枢系统的语音分离方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5383164A (en) * 1993-06-10 1995-01-17 The Salk Institute For Biological Studies Adaptive system for broadband multisignal discrimination in a channel with reverberation
JP4477148B2 (ja) * 1997-06-18 2010-06-09 クラリティー リミテッド ライアビリティ カンパニー ブラインド信号分離方法及び装置

Also Published As

Publication number Publication date
JP2002518925A (ja) 2002-06-25
HK1035448A1 (en) 2001-11-23
EP1088394A1 (en) 2001-04-04
AU762864B2 (en) 2003-07-10
AU4570099A (en) 2000-01-05
DE69914197T2 (de) 2004-11-11
CA2334861A1 (en) 1999-12-23
CN1238969C (zh) 2006-01-25
ATE257985T1 (de) 2004-01-15
WO1999066638A1 (en) 1999-12-23
CN1306694A (zh) 2001-08-01
JP4430820B2 (ja) 2010-03-10
DK1088394T3 (da) 2004-05-10
EP1088394B1 (en) 2004-01-14
DE69914197D1 (de) 2004-02-19

Similar Documents

Publication Publication Date Title
US6691073B1 (en) Adaptive state space signal separation, discrimination and recovery
JP4477148B2 (ja) ブラインド信号分離方法及び装置
Hyvarinen A family of fixed-point algorithms for independent component analysis
Ogunfunmi Adaptive nonlinear system identification: The Volterra and Wiener model approaches
Marple Fast algorithms for linear prediction and system identification filters with linear phase
KR20010052961A (ko) 적응성 상태 공간 신호 분리, 식별 그리고 복구 구조들과역학 환경들에 이용하기위한 그 적용들
Carayannis et al. Fast recursive algorithms for a class of linear equations
Nehorai et al. Adaptive pole estimation
JP4952979B2 (ja) 信号分離装置、信号分離方法、ならびに、プログラム
US20140114650A1 (en) Method for Transforming Non-Stationary Signals Using a Dynamic Model
JP4402879B2 (ja) 信号を抽出する方法
Buchner et al. A generalization of a class of blind source separation algorithms for convolutive mixtures
JP2023545820A (ja) フィルタバンク領域でオーディオサンプルを処理するための生成ニューラルネットワークモデル
KR100454886B1 (ko) 독립 성분 분석을 이용한 여파기 적응 알고리즘의 필터뱅크 접근 방법
JP2003524792A (ja) 音声認識システムと方法
JPWO2006106713A1 (ja) 最悪値誤差尺度を最小化する信号近似システム
Mertzios Parallel modeling and structure of nonlinear Volterra discrete systems
Clark et al. Block adaptive filtering
Deville Analysis of the convergence properties of self-normalized source separation neural networks
JP2020030373A (ja) 音源強調装置、音源強調学習装置、音源強調方法、プログラム
Ma et al. A unified algebraic transformation approach for parallel recursive and adaptive filtering and SVD algorithms
Oppenheim et al. S. Hamid Nawab
Fertig et al. Dual forms for constrained adaptive filtering
Gusev et al. Theory of adaptive filtration: tutorial
Li et al. STAR recursive least square lattice adaptive filters

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid