KR102170342B1 - 스트리밍 데이터의 압축된 감지를 위한 방법 및 그것을 수행하는 장치 - Google Patents

Abstract

스트리밍 데이터를 감지하는 컴퓨터 구현 방법은 입력 데이터 스트림에 관한 적어도 하나의 이전의 측정을 획득하기 위해 중첩하는 윈도우잉을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하는 단계; 및 후속하는 측정을 획득하기 위해 상기 적어도 하나의 이전의 측정을 채용하는 단계를 포함한다.

Description

스트리밍 데이터의 압축된 감지를 위한 방법 및 그것을 수행하는 장치{METHOD FOR COMPRESSED SENSING OF STREAMING DATA AND APPARATUS FOR PERFORMING THE SAME}

본 발명은 스트리밍 데이터의 압축된 감지를 위한 방법 및 그것을 수행하는 수단에 지향된다. 특히, 일부 실시형태들은 스트리밍 데이터에 대한 압축된 감지를 수행하는 회귀적 알고리즘을 채용하는 스트리밍 데이터의 압축된 감지의 방법, 및 스트리밍 데이터의 압축된 감지를 위한 방법을 수행할 수 있는 장치 또는 시스템 또는 컴퓨터 프로그램 제품을 포함한다.

신호 프로세싱의 분야에서, 관심의 신호들은 적절하게 선택된 정규직교 기저 (orthonormal basis) 에서의 수개의 계수들을 사용하여 성기게 (sparsely) 표현될 수 있다. 전형적으로, 푸리에 기저는 이미지들과 같은 구분적 연속 신호들에 대한 대역제한된 신호들 또는 웨이블릿 베이스들에 대해 사용된다. 각각의 베이스들에서의 계수들의 작은 수는 그러한 신호들을 표현하기에 충분하지만, 나이퀴스트/샤논 샘플링 정리는 신호 대역폭의 적어도 두 배인 샘플링 레이트를 제안한다. 그러한 샘플링 레이트는 나이퀴스트 레이트로서 본 기술에서 알려져 있다. 다수의 경우들에서, 표시된 샘플링 레이트는 계수들의 충분한 수보다 훨씬 더 높다.

최근에, 압축된 감지 (Compressed Sensing: CS) 프레임워크가 그들의 대역폭을 따르지 않고, 오히려 그들의 정보 컨텐츠를 따라, 즉 신호의 자유도들의 수에 따라 신호들을 샘플링할 목적으로 도입되었다. 샘플리을 위한 이러한 패러다임은 일부 주어진 기저에서 성긴 표현을 갖는 신호들에 대한 고전적 샘플링 이론에 비해 더 낮은 샘플링 레이트를 제안한다. 천문학 및 생의학 촬상에서 자연적으로 발생하는 통상의 신호들은 이러한 모델에 적합하다.

본 발명은 그의 실시형태들 중 하나에 따라, 입력 데이터 스트림에 관한 적어도 하나의 이전의 측정을 획득하기 위해 중첩하는 윈도우잉을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하는 것, 및 후속하는 측정을 획득하기 위해 상기 적어도 하나의 이전의 측정을 채용하는 것을 포함하는, 스트리밍 데이터를 감지하는 컴퓨터 구현 방법을 제안한다.

본 발명의 다른 실시형태에 따르면, 복수의 모듈들을 포함하는, 스트리밍 데이터를 감지하는 시스템이 제안되며, 각 모듈은 입력 데이터 스트림에 관한 적어도 하나의 이전의 측정을 획득하기 위해 중첩하는 윈도우잉을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하는 것, 및 후속하는 측정을 획득하기 위해 상기 적어도 하나의 이전의 측정을 채용하는 것을 위한 컴퓨터 실행가능 명령들을 갖는 컴퓨터 판독가능 매체를 포함한다.

본 발명의 또 다른 실시형태에 따르면, 스트리밍 데이터를 감지하기 위한 컴퓨터 프로그램을 기록한 컴퓨터 판독가능 저장 매체가 제안되고, 그 컴퓨터 프로그램은 입력 데이터 스트림에 관한 적어도 하나의 이전의 측정을 획득하기 위해 중첩하는 윈도우잉을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하는 것, 및 후속하는 측정을 획득하기 위해 상기 적어도 하나의 이전의 측정을 채용하는 것을 할 수 있는 알고리즘을 포함한다.

본 발명의 또 다른 실시형태에 따르면, 입력 데이터 스트림에 관한 적어도 하나의 이전의 측정을 획득하기 위해 중첩하는 윈도우잉을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하도록 배열된 회귀적 샘플러, 및 후속하는 측정을 획득하기 위해 상기 적어도 하나의 이전의 측정을 채용하는 유닛을 포함하는, 스트리밍 데이터의 압축된 감지를 수행하는 장치가 제안된다.

본 발명의 하나의 실시형태에 따르면, 스트리밍 데이터의 감지는 스트리밍 데이터의 압축된 감지이고, 스트리밍 데이터를 감지하는 방법은 샘플링을 수행하는 회귀적 스킴을 채용한다. 후속하는 측정을 획득하기 위해 적어도 하나의 이전의 측정을 채용하는 단계는 회귀적 추정을 통해 회귀적 샘플링의 단계 동안 샘플링된 데이터의 입력 스트림을 프로세싱하는 것을 포함한다.

본 발명의 다른 실시형태에 따르면, 본 발명에 의해 제안된 방법 및 수단은 이전의 추정 획득 단계 동안 획득된 이전의 추정에 관한 데이트 스트림에 관한 정보를 입력하는 것을 수반하며, 이전의 추정 획득 단계는 회귀적 샘플링 단계 이전에 있다. 방법은 데이터 스트림 서포트 검출 단계 동안 획득된 정보에 기초하여 카운트 추정을 수행하는 것 및 상기 회귀적 추정 단계 동안 획득된 데이터에 기초하여 데이터 스트림 서포트 세트에 대해 최소 제곱들 추정 (LSE) 값을 계산하는 것을 더 포함한다. 또, 방법은 본 발명의 또 다른 실시형태에 따라 평균화 단계를 포함하며, 여기서 계산된 최소 제곱들 추정 값, 카운트 추정 값, 및 평균화된 값을 계산하기 위한 이전의 추정은 평균화된 값을 획득하기 위해 평균화된다. 평균화된 값은 스트리밍 데이터에 대한 새로운 추정을 획득하기 위해 채용된다.

본 발명의 또 다른 실시형태에 따르면, 본 발명에 의해 제안된 방법은 스트리밍 데이터의 압축된 감지의 계산적 복잡성을 분석하고 스트리밍 데이터를 감지하는 방법의 에러 정도를 추정하는 단계를 더 포함한다. 방법은 또한 새로운 윈도우를 디코딩하기 위해 반복적 최적화 알고리듬에서 수렴을 획득하는 단계를 더 포함하고, 그 획득하는 단계는 이전의 윈도우에 관한 신호 추정 및 윈도우잉을 중첩하는 단계에 의 해 채용된 중첩하는 윈도우 구조를 레버리징하는 것을 포함한다. 방법은 복수의 윈도우들로부터 획득된 신호 추정들을 평균화하는 것, 서포트 세트 검출을 수행하는 것, 및 신호 진폭 추정을 포함한다. 높은 측정 노이즈의 존재 하에서의 강건한 서포트 추정을 위한 보우팅 스킴은 본 발명에 따라 당연히 적용될 수도 있다.

본 발명의 다른 목적들 및 이점들은 포함된 도면들과 함께 취해진 다음의 설명으로부터 인정될 것이다.
도 1 은 본 발명의 하나의 실시형태에 따른 스트리밍 데이터를 감지하는 방법의 블록도이다.
도 2 는 회귀적 압축된 감지를 위한 평균 프로세싱 시간 대 단일의 시간 윈도우를 통한 '원시적 접근법' 을 나타낸다.
도 3 은 LASSO 를 사용하여 서포트 세트 추정의 결과들을 나타낸다.
도 4 는 a) 평균화된 추정들, b) 디바이어싱된 그리고 평균화된 추정들 및 c) 보우팅 및 평균화에 의해 획득된 추정들에 대한 에러 플롯들을 나타낸다.
도 5 는 평균화된 LASSO 추정 및 스트리밍 데이터에 대한 '보우팅 및 평균화' 에 대한 에러 플롯들을 나타낸다.

본 발명을 실시하는 최근에 생각된 최선의 모드의 다음의 설명은 제한하는 의미로 취해지지 않고, 본 발명의 일반 원리들을 설명할 목적으로만 행해진다. 본 발명의 범위는 청구범위를 참조하여 결정되어야 한다.

압축된 감지의 분야에서의 많은 진보가 행해졌지만, 스트리밍 데이터에 대한 압축된 감지를 수행하는 회귀적 알고리즘은 다루어지지 않은채 남아있다. 연속적인 윈도우잉을 통해 입력 스트림에 대해 압축된 감지를 적용함으로써 노이지 샘플들로부터의 신호 추정의 계산적 복잡성 및 안정성은 본 기술에서 아직 다루어지지 않았다.

본 기술에서 통상의 지식을 가진자에 의해 인정될 바와 같이, 본 발명의 양태들은 시스템, 방법 또는 컴퓨터 프로그램 제품으로서 구현될 수도 있다. 이에 따라, 본 발명의 양태들은 "회로", "모듈" 또는 "시스템" 으로서 여기에서 모두 일반적으로 지칭될 수도 있는 전체적으로 하드웨어 실시형태, 전체적으로 소프트웨어 실시형태 (펌웨어, 상주 소프트웨어, 마이크로-코드 등 포함), 또는 소프트웨어 및 하드웨어 양태들을 결합한 실시형태의 형태를 취할 수도 있다. 더욱이, 본 발명의 양태들은 그것에 기록된 컴퓨터 판도가능 프로그램 코드를 갖는 하나 이상의 컴퓨터 판독가능 매체/매체들 (즉, 데이터 저장 매체/매체들) 에 수록된 컴퓨터 프로그램 제품의 형태를 취할 수도 있다.

하나 이상의 컴퓨터 판독가능 매체/매체들의 임의의 조합이 사용될 수도 있다. 컴퓨터 판독가능 매체는 컴퓨터 판독가능 저장 매체 또는 컴퓨터 판독가능 신호 매체일 수도 있다. 컴퓨터 판독가능 저장 매체는, 예를 들어 전자적, 자기적, 광학적, 전자기적, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스, 또는 상술한 것의 임의의 적합한 조합일 수도 있지만, 이들에 제한되지 않는다. 컴퓨터 판독가능 저장 매체의 더 구체적인 예들 (비포괄적인 리스트) 은 다음을 포함할 것이다: 휴대용 컴퓨터 디스켓, 하드 디스크, 랜던 액세스 메모리 (RAM), 리드 온리 메모리 (ROM), 소거가능 프로그램가능 리드 온리 메모리 (EPROM 또는 플래시 메모리), 광 섬유, 휴대용 컴팩트 디스크 리드 온리 메몰 (CD-ROM), 광학적 저장 디바이스, 자기적 저장 디바이스, 또는 상술한 것의 임의의 적합한 조합. 본 문서의 콘텍스트에서, 컴퓨터 판독가능 저장 매체, 즉 데이터 저장 매체는 명령 실행 시스템, 장치 또는 디바이스에 의하거나 관련하여 사용할 프로그램을 포함하거나 저장할 수 있는 임의의 유형의 매체일 수도 있다.

컴퓨터 판독가능 신호 매체는 예를 들어 기저대역에서 또는 반송파의 부분으로서, 그안에 수록된 컴퓨터 판독가능 프로그램 코드를 갖는 전파된 데이터 신호를 포함할 수도 있다. 그러한 전파된 신호는 전자기적, 광학적, 또는 이들의 임의의 적합한 조합을 포함하지만, 이들에 제한되지 않는 임의의 다양한 형태들을 취할 수도 있다. 컴퓨터 판독가능 신호 매체는 컴퓨터 판독가능 저장 매체가 아니고 명령 실행 시스템, 장치 또는 디바이스에 의하거나 관련하여 사용할 프로그램을 통신, 전파, 전송할 수 있는 임의의 컴퓨터 판독가능 매체일 수도 있다.

컴퓨터 판독가능 매체에 수록된 프로그램 코드는 무선, 유선, 광섬유 케이블, RF 등 또는 상술한 것의 임의의 적합한 조합을 포함하지만 이들에 제한되지 않는 임의의 적절한 매체를 사용하여 송신될 수도 있다.

본 발명의 양태들에 대한 동작들을 수행하는 컴퓨터 프로그램 코드는 자바, 스몰토크, C++ 등과 같은 객체 지향 프로그래밍 언어 및 "C" 프로그래밍 언어 또는 유사한 프로그래밍 언어들과 같은 종래의 절차적 프로그래밍 언어들을 포함하는 하나 이상의 프로그래밍 언어들의 임의의 조 합으로 기록될 수도 있다. 프로그램 코드는 전체적으로 사용자 컴퓨터 상에서, 부분적으로 사용자 컴퓨터 상에서, 스탠드-얼론 소프트웨어 패키지로서, 부분적으로 사용자 컴퓨터 상에서 그리고 부분적으로 원격 컴퓨터 상에서, 또는 전체적으로 원격 컴퓨터 또는 서버 상에서 실행될 수도 있다. 후자의 시나리오에서, 원격 컴퓨터는 로컬 영역 네트워크 (LAN) 또는 광역 네트워크 (WAN) 를 포함하는 임의의 타입의 네트워크를 통해 사용자의 컴퓨터에 연결될 수도 있으며, 그 연결은 (예를 들어, 인터넷 서비스 제공자를 사용하여 인터넷을 통해) 외부 컴퓨터에 행해질 수도 있다.

본 발명의 양태들은 본 발명의 실시형태들에 따라 방법들, 장치 (시스템들) 및 컴퓨터 프로그램 제품들의 플로우챠트 도시들 및/또는 블록도들을 참조하여 이하에 기술된다. 플로우챠트 도시들 및/또는 블록도들의 각 블록, 및 플로우챠트 도시들 및/또는 블록도들에서의 블록들의 조합들은 컴퓨터 프로그램 명령들에 의해 구현될 수 있다는 것이 이해될 것이다. 이들 컴퓨터 프로그램 명령들은 컴퓨터 또는 다른 프로그램가능 데이터 프로세싱 장치의 프로세서를 통해 실행될 때, 플로우챠트 및/또는 블록도 블록 또는 블록들에서 특정된 기능들/액션들을 구현하는 수단을 생성하는 머신을 생성하기 위해 범용 컴퓨터, 특수 목적 컴퓨터, 또는 다른 프로그램가능 데이터 프로세싱 장치의 프로세서에 제공될 수도 있다.

컴퓨터, 다른 프로그램가능 데이터 프로세싱 장치, 또는 다른 디바이스들에게 특정의 방식으로 기능하도록 지시할 수 있는 이들 컴퓨터 프로그램 명령들은 또한 컴퓨터 판독가능 매체에 저장될 수도 있다. 컴퓨터 프로그램 명령들은 또한 컴퓨터 또는 다른 프로그램가능 장치 상에서 실행하는 명령들이 플로우챠트 및/또는 블록도 블록 또는 블록들에서 특정된 기능들/액션들을 구현하는 프로세스들을 제공하도록 컴퓨터 구현 프로세스를 제공하기 위해 일련의 동작 단계들이 컴퓨터, 다른 프로그램가능 장치, 또는 다른 디바이스들 상에서 수행되게 하기 위해 컴퓨터, 다른 프로그램가능 데이터 프로세싱 장치, 또는 다른 디바이스들 상으로 로딩될 수도 있다.

다음의 설명 전체에 걸쳐, 대문자 볼드체 글자들은 행렬들 (예를 들어, A) 을 나타내고, 볼드체 소문자 글자들은 벡터들 (예를 들어, x) 을 나타낸다.

다음에서, x_i 는 벡터 x 의 i 번째 엔트리를 나타내기 위해 사용되고, a_i 는 행렬 A 의 i 번째 열을 나타내기 위해 사용된다.

입력 스트림의 i 번째 윈도우와 같은 i 번째 샘플 벡터, 또는 i 번째 샘플링 행렬은 위첨자에 의해 표시된다 (예를 들어, x⁽ⁱ⁾ 또는 A⁽ⁱ⁾).

2 개의 벡터들 a 및 b 사이의 내적은 다음과 같이 표시된다:

|S| 는 세트 S 의 카디널리티 (cardinality) 에 대한 표시이다.

E_x[.] 는 조건부 기대값 E_x[.] = E[.|x] 를 나타낸다.

압축된 감지의 분야에서, 벡터들 또는 행렬들을 특징짓기 위해 자주 사용되는 용어들은 "k-스파시티 (sparsity)", "상호 코히어런스", "제한된 이소메트리 특성" 및 "일반 k-스파스 모델" 이다. 다음에서, 상기 용어들은 본 문서를 통해 그들의 의도된 의미를 설명하기 위해 간단히 설명된다.

벡터 x ∈ Rⁿ 의 경우, 그것의 서포트는 supp(x):={i:x_i≠0} 으로서 정의된다.

동일한 벡터 x ∈ Rⁿ 인 경우, 그것의 의사 놈 l₀ 는 다음으로 정의되고,

여기서 x₀ 는 서포트의 카디널리티이다.

벡터 x 는

≤ k 인 경우 및 그 경우에만 스파스하다.

통상적으로, k << n 이고, n 은 행렬 A 의 열들의 수이다.

예시적으로, x = [0 0 0 3 0 - 1 0 0 5 0] 이면, x ∈ R¹⁰ 이고,

= 3 이며, x 는 3 스파스하다.

행렬 A ∈ R^mxn 인 경우, 상호 코히어런스는 다음과 같이 행렬 A 의 임의의 2 개의 상이한 열들 사이의 최대 정규화된 내적으로서 정의된다:

행렬 A ∈ R^mxn 인 경우, 그리고 0 < k < n 이 주어진 경우, 행렬 A 은,

이도록, δ_k ∈ [0,1] 이 존재하는 경우 제한된 이소메트리 특성 (RIP) 를 만족하는 것으로 말하여 진다.

이러한 조건은 모든 x ∈ Rⁿ k-스파스 벡터들에 대해 유효해야 하고, 여기서 δ_k 는 충분히 작을 필요가 있다.

가우시안, 베르누이, DFT 행렬들로부터 랜덤으로 선택된 행들과 같은 랜덤 행렬들은 그들이 높은 확률로 제한된 이소메트리 특성을 만족하기 때문에 문헌에서 압축된 감지를 위한 행렬들로서 사용되어 왔다고 알려져 있다. 제한된 이소메트리 특성을 만족시키는 행렬들의 예들은 다음과 같다:

a) m-차원 단위 구로부터 샘플링된 n 개의 랜덤 벡터들,

b) 랜덤으로 균일하게 n 차원 푸리에 행렬로부터 m 개의 행들을 선택함으로써 획득된 랜덤 부분 푸리에 행렬들,

c) A_i,j~N(0,1/m) 을 갖는 랜덤 가우시안 행렬들,

d) 동일한 확률로

인 랜덤 베르누이 행렬들.

마지막 2 개의 케이스들의 경우, 행렬 A 는

이상인 확률을 갖는 임의의

에 대해 규정된 δ_k 를 만족시키며, 여기서 c₁ 및 c₂ 는 δ_k 에만 종속하는 상수들이다.

본 문서를 통해 채용되는 다른 추가의 용어들은 다음에서 정의된다:

"회귀적으로" 는 자기 유사 방식으로 아이템들을 반복함으로써 절차가 수행되는 것을 나타내기 위해 채용된다. 수학 및 컴퓨터 과학에서, 그 용어는 정의되고 있는 함수가 그것 자신의 정의 내에 적용되는 함수들을 정의하는 방법을 지칭한다. 구체적으로, 이것은 일부 인스턴스들의 경우 다른 인스턴스들을 참조할 수도 있는 유한 표현을 사용하지만, 참조들의 무한 체인 또는 루프가 발생할 수 없는 그러한 방식으로, 무한 수의 인스턴스들 (함수 값들) 을 정의한다. 그 용어는 또한 자기 유사 방식으로 객체들을 반복하는 프로세스를 더 일반적으로 기술하기 위해 사용된다. 회귀 (recursion) 는 절차의 단계들 중 하나가 절차 자체를 호출하는 것을 수반하는 경우 절차가 통과하는 프로세스이다. 회귀를 통과하는 절차는 "회귀적" 이라고 말해진다.

신호 프로세싱에서, (다포다이제이션 함수 또는 테이퍼링 함수로서도 알려져 있는) 윈도우 함수는 일부 선택된 구간 밖에서 제로 값을 갖는 수학적 함수이다. 예를 들어, 구간 내에서는 일정하고 그 밖에서 제로인 함수는 그의 그래픽 표현의 형상을 기술하는 직사각형 윈도우로 불린다. 다른 함수 또는 파형/데이터-시퀀스가 윈도우 함수에 의해 승산되는 경우, 그 곱은 또한 그 구간 밖에서 제로 값을 갖는다: 남겨진 모두는 그들이 중첩하는 부분, "윈도우를 통한 뷰" 이다. 윈도우 함수들의 적용들은 스펙트럼 분석, 필터 설계 및 빔포밍을 포함한다. 통상의 적용들에서, 사용되는 윈도우 함수들은, 비록 직사각형, 삼각형 또는 다른 함수들이 사용될 수 있지만, 음이 아닌 부드러운 "종-형상" 곡선들이다. 윈도우 함수들의 더 일반적인 정의는, 그의 인수 (argument) 에 의해 곱해진 윈도의 곱이 스퀘어 적분가능 (square integrable) 한 한, 그것들이 구간 밖에서 동일하게 제로일 것을 요구하지 않으며, 구체적으로, 그 함수는 충분히 빠르게 제로를 향해 간다. 변환될 데이터 세트의 길이가 원하는 주파수 해상도를 제공하기 위해 필요한 것보다 큰 경우, 공통의 실시는 그것을 더 작은 세트들로 서브 분할하고 그들을 개별적으로 윈도우잉하는 것이다. 윈도우의 에지들에서의 "손실" 을 완화하기 위해, 개개의 세트들은 에서 중첩할 수도 있다.

x 가 선형 벡터 x ∈ Rⁿ 이고, y ∈ R^m 가 획득된 샘플들의 벡터

y = Ax (1)

이며, A ∈ R^mxn 가 샘플링 (감지) 행렬인 경우, 본 발명은 m << n 인 경우 x 를 복원하는 방법 및 수단을 제안한다. 식 (1) 로 표시된 시스템은 미결정된 선형 시스템이다. 압축된 감지에 따르면, 주요 결과는 x 가 k-스파스이고 k < c_m/log(n/k) 인 경우, 이러한 미결정된 선형 시스템에 대한 솔루션이 가능하다는 것이다.

아래에 진술된 문제 P₀ 는 측정 y 를 야기하는 가장 스파스한 벡터 x 를 발견하기 위해 풀어져야 한다. 이러한 문제는 A 의 열들의 모든 서브 세트들에 대한 검색을 요구하는 비결정론적 다항-시간 하드 또는 NP-하드이다. 그것이 본 기술로부터 알려져 있기 때문에, 문제 H 는 H 로 다항 시간 터링 감축가능한 (Turing-reducible) (즉, L ≤ _TH) NP-완전 문제 L 이 존재하는 경우 및 그 경우만 NP-하드이다. 즉, L 은 H 에 대한 오라클을 갖는 오라클 머신에 의해 다항 시간에서 풀어질 수 있다.

문제 P₀ 는 다음과 같이 진술된다:

minimize

subject to Ax = y

문제 P₀ 는 일반적으로 NP-하드이므로, 이러한 문제는 다루기 쉬운 방법들에 의해 "근사화"되어야 한다. 2 개의 컨벡스 (convex) 최적화 문제들이 선형 측정들로부터 스파스한 벡터들을 복원하기 위해 사용된다.

제 1 최적화 문제는 "기저 추구" 로서 지칭되고, 여기서 문제 P₀ 를 푸는 것은 l₁ 최소화 문제 BP 를 푸는 것과 등가이다:

minimize

subject to Ax = y

모든 k-스파스한 벡터들 x 에 대해, A 가

를 갖는 제한된 이소메트리 특성 (RIP) 을 만족시키는 경우, 상술된 문제는 P₀ 와 등가이다. 최적화 문제 (BP) 는 기저 추구로 지칭된다. (BP) 가 선형 문제로서 재구성될 수 있디 때문에, (BP) 를 푸는 것은 큰 인스턴스들에 대해 일반적으로 다루기 쉽지 않은 문제 (P₀) 를 푸는 것과 대조적으로 예를 들어 내부 포인트 방법들을 통해 더 계산적으로 효율적이다.

제 2 최적화 문제는 LASSO (Least Absolute Selection and Shrinkage Operator) 로서 지칭된다. 노이즈의 존재하에서, 측정 모델 y = Ax 는:

y = Ax + w (2)

가 되고, 여기서 w ∈ R^m 는 부가적인 측정 노이즈를 나타낸다.

이러한 설정에서, 기저 추구의 변형, 즉 통계학 문헌에서 LASSO 로서 가장 잘 알려져 있는 기저 추구 디노이징 (denoising) (BPDN) 이 적용될 수도 있다:

minimize

subject to

(3)

여기서,

∈ R⁺ 가 측정들에서의 부가적인 노이즈를 적절하게 설명하기 위해 선택된다.

본 기술에서 알려져 있는 바와 같이, 이원성에 의해, 그 문제는 등가적으로 제약없는 최적화 문제로서 포스팅될 수 있다:

minimize

(4)

여기서 λ 는 스파시티와 재구성 에러 사이의 트레이드-오프를 제어하는 정규화 파라미터이다.

스트리밍 데이터에 대한 압축된 감지를 수행하기 위한 회귀적 스킴을 개발하는데 유용한 정리는, A 가

를 갖는 제한된 이소메트리 특성 (RIP) 을 만족시키는 경우 식 (3) 에 대한 해 x_* 는:

의 공식을 고수한다고 진술하는 LASSO 의 에러에 관한 정리이고, 여기서

는 모델 미스매치를 나타내고,

는 노이즈를 나타낸다. C₀ 및 C₁ 은 상수들이고, 여기서 x_k 는 최대 k 성분들을 제외한 모두가 0 으로 설정된 벡터 x 이다. 즉, x_k 는 최고 크기를 갖는 x 의 k-다수 엘리먼트들을 보존함으로써 획득된 벡터이다.

특히, x 가 k-스파스하고

인 경우,

이다.

그 정리는 복구 에러가 2 개의 항들의 합에 의해 상위 바운딩된다: 첫째는 모델 미스매치로 인한 에러이고, 둘째는 측정 노이즈 분산에 비례한다.

키는 m ≥ C_klog(n/k) 인 경우 이소메트리 상수에 대한 가정이 단위 구로부터 샘플링된 랜덤 벡터들, 랜덤 가우시안 행렬들 및 랜덤 베르누이 행렬들로부터 획득된 행렬들에 의해 높은 확률로 만족되다는 것이며, 여기서, C 는 각 인스턴스에 의존하는 상수이다.

본 기술에서, LASSO 의 에러는 거의 이상적인 서포트 검출을 위해 사용될 수 있다는 것이 보여진다. 거의 이상적인 서포트 검출에 대한 결과 특징을 진술하기 위해, 일반 k-스파스 모델이 정의된다.

x ∈ Rⁿ 가 k-스파스한 신호를 나타내고, Ix := supp(x) 가 그것의 서포트 세트인 경우, 신호 x 는 만일:

1) x 의 서포트 I_x ⊂ {1, 2, ..., n} 가 램덤으로 균일하게 선택되고, |I_x| = k 이며, 및

2) Ix 에 대해 컨디셔닝될 때, 넌 제로들의 부호들은 동일하게 -1 및 1 이기 쉽다면

일반 k-스파스한 모델에 의해 생성되는 것으로 말하여 진다.

k-스파스한 신호의 서포트 세트는 다음과 같이 검출될 수도 있다:

상수 c1 > 0 에 대해

이라고 가정할 때, x 는 일반 k-스파스 모델로부터 생성되고, 상수 c2 에 대해

이다.

만일, Ix := supp(x) 에 대해,

이면,

w~N(0, σ²I) 경우의 측정들을 위한 λ=

을 선택함으로써 획득된 LASSO 추정은:

확률 적어도

로

supp

= supp(x)

sgn

= sgn(x_i) for i ∈ I_x

를 따른다.

엘리먼트들 A_i,j~N(0, 1/m) 을 갖는 샘플링 행렬의 경우, 오퍼레이터 놈은

~

이고, 따라서 그 정리에서의 스파시티 조건은 다음과 같다:

이러한 부등식이 만족되기 위해, m 에 대한 값은 m = c₁klogn 일 필요가 있다.

더욱이, 랜덤 가우시안 행렬들

의 경우, 코히어런스에 대한 조건은 m > O(log³ n) 인 경우 만족된다.

경계들을 결합할 때, m 은 m ≥ min{O(klog n), O(log³ n)} 일 것이 요구된다.

직교 매칭 추구 (OMP) 는 노이즈리스 (noiseless) 측정 y = Ax 로부터 스파스 벡터들 x 를 복원하는 것을 목적으로 하는 그리디 (greedy) 알고리즘이다. 그 알고리즘은 이미 선택된 열들의 선형 스팬 (span) 에 투영함으로써 y 를 근사화하는 것의 레지듀얼 에러를 최소화하는 열을 반복적으로 선택함으로써 A 의 열들의 서브세트를 출력한다. OMP 는 측정 행렬 A 의 상호 코히어런스가

을 만족시키는 경우 노이즈리스 측정들로부터 k-스파스 신호들을 복원한다.

넌-스무스 (non-smooth) 컨벡스 최적화에 대한 근위 (proximal) 알고리즘들에 의해 영감을 받아, LASSO 에 대해 개발된 알고리즘들이 존재한다: ISTA 는 근위 그레디언트 방법이고, FISTA 는 가속화된 근위 그레디언트 방법이며, SALSA 는 승수들 (multipliers) 의 대안적인 다이렉션 방법의 적용이다.

G(x) 는 식 (4) 에서의 LASSO 의 목적 함수이고 x* = arg minG(x) 인 G(x_t) - G(x*) 로서 정의된 에러의 경우, 그 에러는 ISTA 에 대해 1/t, FISTA 에 대해 1/t² 그리고 SALSA 에 대해 1/t² 으로서 쇠퇴하고, 여기서 t 는 반속들의 수이다. 넌-스무스 컨벡스 최적화에 대한 뉴톤-타입 방법이 본 기술에서 또한 알려져 있으며, 여기서 수렴 레이트는 1=t² 보다 더 나쁘지 않고, 국부적으로 이차 (quadratic) 이다.

관심의 신호는, 스트리밍 데이터를 다루는 경우인 것처럼, 무한 수열, {x_i}_i=0,1,...이다. 그러한 관심의 신호의 경우, 스트리밍 신호로부터 취해진 i 번째 윈도우는 다음과 같이 정의된다:

x⁽ⁱ⁾ 가 스파스한 것으로서 알려진 경우, 위에서 조사된 툴들은 각 윈도우 내의 신호 부분, 따라서 데이터 스트림을 복원하기 위해 적용가능하다. 그러나, 수반된 동작들은 비용이 많이 들고, 효율적인 온라인 구현이 불확실하다.

따라서, 본 발명에 따르면, 스트리밍 데이터를 효율적으로 샘플링하고 복원하는 방법이 제안된다. 그러한 방법은 회귀적 압축된 감지 방법이고, 그것이 이하에 상세히 기술될 것이다. 본 문서에서 더욱 상세히 제시되는 바와 같이, 본 발명의 방법은 샘플링 및 추정 부분들 양자 모두에서의 낮은 복잡성을 나타내고, 이것은 그것의 알고리즘들을 효율적인 온라인 구현에 적합하게 만든다.

무한 수열 {x_i}_{i=0, 1,...} 은 {x_i} 로 표시되고, 길이 n 의 i 번째 윈도우는 x⁽ⁱ⁾ ∈ Rⁿ 으로 표시된다.

R 내의 입력을 갖는 동적 모델은 다음과 같이 표현된다:

본 발명의 방법은 형태

y⁽ⁱ⁾ = A⁽ⁱ⁾x⁽ⁱ⁾ (7)

의 연속적인 측정들 y⁽ⁱ⁾ 을 사용하여 추정들 {

} 을 제공하는 강건한 저복잡성 슬라이딩-윈도우 알고리즘의 설계를 허용하며, 여기서 {A⁽ⁱ⁾} 는 측정 행렬들의 시퀀스이다. 강건한 저복잡성 슬라이딩-윈도우 알고리즘의 설계는 {x_i} 가 각 윈도우 내에서 충분히 스파스한 경우, 즉, 각 i 에 대해

(여기서, k << n) 인 경우 또는 이러한 조건이 충분히 높은 확률로 지켜지는 경우 가능하다.

A⁽ⁱ⁾ 가

을 갖는 제한 이소메트리 특성을 만족시키는 경우, 본 문서에서 이전에 검토된 방법들이 {x⁽ⁱ⁾} 을 점진적으로 추정하기 위해 적용될 수도 있다. 그러한 알고리즘을 온라인으로 실행하는 것은 비용이 많이들고, 따라서, 기껏해야 애드-혹으로서 자격이 주어질 수도 있는 그러한 방법에 대한 대안을 설계하는 것이 바람직하다.

본 발명에 따르면, 연속하는 윈도우들 사이의 신호 중첩이 레버리지되어, 회귀적 샘플링 (인코딩 단계) 및 회귀적 추정 (디코딩 단계) 를 다음과 같이 구성한다:

회귀적 샘플링의 단계에 관하여: 각각의 y(i) 에 대한 행렬 곱셈을 피하기 위해, A(i) 는 y(i) 가 최소 계산 오버헤드로 y(i+1) 를 컴퓨팅하는데 있어서 재사용될 수 있도록 설계된다:

y⁽ⁱ⁺¹⁾ = f(y⁽ⁱ⁾, x_i+n, x_i).

회귀적 추정의 단계에 관하여: 반복적 최적화 스킴의 수렴의 속도를 높이기 위해,

의 추정 절차의 시작 포인트

를 도출하기 위해 이전의 윈도우

에 대응하는 추정을 이용한다:

다음에서, 회귀적 샘플링 및 회귀적 추정의 양 단계들은 더욱 상세히 기술될 것이다.

회귀적 샘플링의 단계에 관하여, 최소 계산적 오버헤드를 특색으로 삼는 회귀적 샘플링 스킴이 제안되다. 제 1 반복, t = 0 에서, 이전의 추정은 존재하지 않고, 따라서, 컴퓨팅되는 것은,

y⁽⁰⁾ = A⁽⁰⁾x⁽⁰⁾ 이다.

감지 행렬들 A⁽ⁱ⁾ 의 시퀀스는 회귀적으로:

로서 선택되며, 여기서 a_l ⁽ⁱ⁾ 는 A⁽ⁱ⁾ 의 l 번째 열이고, P 는 치환 행렬:

이다.

다음의 레마 (lemma) 는 이러한 인코딩 스킴의 성공을 보장한다: A⁽⁰⁾ 가 상수 δ_k 로 주어진 k 에 대한 제한적 이소메트리 특성을 만족시키는 경우, 위에서 식 (8) 에서 정의된 바와 같은 A⁽ⁱ⁾ 는 동일한 k 및 δ_k 에 대해 제한적 이소메트리 특성을 마찬가지로 만족시킨다.

A⁽ⁱ⁾ = A⁽⁰⁾Pⁱ 이고, A⁽ⁱ⁾ 는 A⁽⁰⁾ 의 열들을 재순서화함으로써 획득된다는 것이 식 (8) 로부터 따라온다. 정의에 의해, 제한적 이소메트리 특성은

에만 의존하고, x 의 엔트리들의 치환들, 등가적으로 A⁽⁰⁾ 의 열들의 치환들에 민감하지 않다.

A⁽ⁱ⁾ 의 특정의 회귀적 선택이 주어지면, y⁽ⁱ⁺¹⁾ 는,

로서 컴퓨팅된다.

관심의 신호가 노이즈를 포함하는 경우, 노이지 측정들은,

y⁽ⁱ⁾ = b⁽ⁱ⁾ + w⁽ⁱ⁾ 여기서 b⁽ⁱ⁾ = A⁽ⁱ⁾x⁽ⁱ⁾

로서 표현된다.

따라서,

이다.

y⁽ⁱ⁺¹⁾ 에 대한 식에서 b⁽ⁱ⁺¹⁾ 의 값을 치환함으로써, 획득되는 것은 다음과 같다:

z⁽ⁱ⁾:= w⁽ⁱ⁾ - w^(i-1) 을 정의함으로써, z⁽ⁱ⁾ 및 z⁽ⁱ⁺¹⁾ 은 {w⁽ⁱ⁾} 가 독립적인 증분 프로세스인 경우에 독립적이다.

식 (8) 에서 주어진 샘플링 행렬들 {A⁽ⁱ⁾}_{i=0, 1,...} 의 특정의 선택은 조건

A⁽ⁱ⁾x⁽ⁱ⁾ = A⁽⁰⁾Pⁱx⁽ⁱ⁾

를 만족시킨다.

v⁽ⁱ⁾ 를 v⁽ⁱ⁾:= P⁽ⁱ⁾x⁽ⁱ⁾ 로서 정의함으로써, 회귀적 샘플링은 동일한 측정 행렬 A⁽⁰⁾ 을 사용함으로써 v⁽ⁱ⁾ 를 인코딩하는 것으로 보여질 수 있다. 식 (6) 에서 주어진 x⁽ⁱ⁾ 의 특정의 구조로, v⁽ⁱ⁾ 및 v^(i-1) 의 모든 엔트리들은 v⁽ⁱ⁾ _{i- 1} 을 제외하고 동일하다.

관심의 신호의 재귀적 추정의 경우,

에 대한 추정은 추정

을 레버리지함으로써 발견된다.

반복적 알고리즘에서, 수렴 속도는 최적의 해에 대한 시작 포인트의 거리에 의존한다. 가속화된 수렴을 달성하기 위해, 윈도우들 사이의 중첩이 레버리지되고 다음의 시작 포인트가 사용되며:

여기서, j=2,..., n-1 에 대한

는 이전의 윈도우에 기초한 최적의 해의 부분이다. 이것은 최적화 문헌에서 "웜 스타트 (warm start)" 로서 지칭된다. 이와 같이 시작 포인트를 선택함으로써, 수렴을 위해 반복들의 기대되는 수가 감소된다. 이것은 실제로 정량적 결과들이 구체적으로 논의되는 본 문서의 이후의 부분에서 설명될 것이다.

다음에서, 관심의 스파스 신호들은 그들이 주어진 정규직교 기저는 것으로 논의된다.

이제까지 본 문서에서, 주어진 n ∈ Z⁺ 에 대해, 수열 {x_i} 로부터 획득된 길이 n 의 윈도우들 x⁽ⁱ⁾ 은 스파시티 제약

, ∀i 을 만족시킨다는 것이 암시적으로 가정되었다. 일반적으로, x⁽ⁱ⁾ 가 자신이 스파스한 것이 아니고, 적절하게 선택된 기저에서 스파스하게 표현될 수 있다는 것이 사실일 것이다.

x⁽ⁱ⁾ ∈ Rⁿ 은 x⁽ⁱ⁾ = Φα⁽ⁱ⁾ 로서 주어진 정규직교 기저 Φ 에서 스파스하게 표현가능하고, 여기서 α⁽ⁱ⁾ 는 스파스하다.

사이즈 n 의 윈도우들에 대한 전체 수열 {x_i} 에 대한 공통 기저를 가정하면, 획득되는 것은 다음과 같다:

y⁽ⁱ⁾ = A⁽ⁱ⁾x⁽ⁱ⁾ = A⁽ⁱ⁾Φα⁽ⁱ⁾.

이어지는 압축된 감지 추정의 경우, A⁽ⁱ⁾Φ 는 제한된 이소메트리 특성을 만족시킬 필요가 있다. 제한된 이소메트리 특성은 랜덤 행렬 A⁽ⁱ⁾ 과 임의의 고정된 행렬의 곱 (product) 에 대해 높은 확률로 만족된다. 이 경우, 스파시티 기저 α⁽ⁱ⁾ 에서 신호를 복원하는 LASSO 문제는,

minimize

로서 표현되며, 여기서 입력 신호는 x⁽ⁱ⁾ = Φα⁽ⁱ⁾ 에 의해 주어진다.

풀어질 필요가 있는 문제는, E[α⁽ⁱ⁺¹⁾|α⁽ⁱ⁾] 로서, 회귀적 추정에서 가속화된 수렴에 대한 양호한 초기 추정을 갖도록 α⁽ⁱ⁾ 에 기초하여 α⁽ⁱ⁺¹⁾ 에 대해 회귀적 업데이트를 발견하는 방법이다.

식 (6) 을 사용하여, 획득되는 것은:

이며, 여기서 0_n-1 은 0 으로 설정된 모든 엘리먼트들을 갖는 길이 n-1 의 벡터이다.

x⁽ⁱ⁾ = Φα⁽ⁱ⁾ 이므로, 그것은 다음과 같이 획득된다:

이전의 식에서 양쪽을 Ψ=Φ^-1 에 의해 좌측에 곱하면, 그것은 다음에 따르며:

여기서,

:= P^T 는 식 (9) 에서 주어진 치환 행렬이고,

및

는 각각 정규직교 기저 Φ 의 제 1 행 및 최종 행이다.

효율적인 업데이트 규칙이 그러한 기저에 대해 도출될 수 있기 때문에, 푸리에 기저는 Φ 에 대해 특정의 관심이 있다.

Φ 가 엔트리들

Φ_i,j = ω^(i-1)(j-1)/

을 갖는 n x n 역 이산 푸리에 변환 (IDFT) 행렬이며, 여기서

인 경우, 그러한 케이스에서:

이며, 여기서 Ψ 은 (Ω_n)_i,j = ω^-(i-1) 를 갖는 n x n 대각 행렬이고, Ψ = Φ^-1 은 정규직교 푸리에 기저이다.

이러한 특정의 케이스에서, 시간 도메인에서의 순환 시프트 (circular shift) 는, ΨΠ = Ω_nΨ 및 ΨΦ = I 로서, 푸리에 도메인에서 복소 지수함수들에 의한 곱셈에 대응하기 때문에, 식 (11) 은 식 (12) 로 단순화한다.

상기한 것으로부터, α⁽ⁱ⁾ 에 기초하여 α⁽ⁱ⁺¹⁾ 을 계산하는 것을 위한 치환들의 수가 일반적으로 O(n²) 이지만, 푸리에 기저에 대해, α⁽ⁱ⁾ 에 곱하는 행렬이 다이어고날 (diagonal) 이기 때문에 그것은 O(n) 이다.

상술된 바와 같이, 노이즈의 존재 하에서, E[α⁽ⁱ⁺¹⁾|α⁽ⁱ⁾] 의 추정은 가속화된 수렴을 달성하기 위해 웜 스타트에 대한 반복적 LASSO 솔버 (solver) 에서의 시작 포인트로서 사용된다.

에러 분산을 개선시키는 하나의 방법은 연속적인 윈도우들로부터 획득된 추정들을 평균화함으로써이다. 추정들

를 사용하여, 평균 추정

은 스트리밍 신호의 i 번째 엔트리, 즉 x_i 에 대해 다음과 같이 정의되며:

여기서, 우리는 i ≥ n-1 에 대해 n 다수 추정들을 평균화하고, i < n-1 에 대해 i+1 다수 추정들을 평균화한다.

표시상의 간단성을 위해 i ≥ n-1 을 고려하면, 또한 획득되는 것은:

이고, 여기서 (a) 는 x² 에 적용된 젠센의 부등식으로부터 따라온다. 그 부등식은 재구성 에러가 추정들을 평균화함으로써 낮아질 수 있다는 것을 암시한다.

다음에서, 재구성 에러 |

|² 의 기대된 l₂-놈은 식을 전개하고

을 사용함으로써 분석된다.

표시상의 편의를 위해, i ≥ n-1 인 경우가 고려되며, i < n-1 인 경우는 유사하다.

결과의 등식은 추정기의 소위 바이어스-분산 분해이다. 윈도우 길이가 증가됨에 따라, 제 2 항이 제로로 접근하고 재구성 에러는 LASSO 의 바이어스의 제곱으로 점근적으로 수렴한다.

다음에서, 본 발명에 따라 제안된 알고리즘이 논의될 것이다.

일반적으로, LASSO (Least Absolute Selection and Shrinkage Operator) 는 그것이 R^m -> Rⁿ 으로 맵핑하기 때문에 (여기서 m ≤ n), 바이어싱된 추정기를 산출한다. 윈도우들 사이의 중첩들이 LASSO 추정들을 직접 평균화함으로써 이용되는 경우, 재구성 에러는 바이어스로 인해 제로로 가지 않는다. 한편, LSE (least squares estimation) 는 과도하게 결정된 (overdetermined) 시스템에 대한 바이어싱되지 않은 추정기이다; 본 문서에서 위에서 보여준 바와 같이, LASSO 는 LSE 가 후속적으로 적용될 수 있는 신호의 서포트 세트를 추정하기 위해 사용될 수 있다. 이들 관찰들에 기초하여, 2-단계 추정 절차가 추정 에러를 감소시키기 위해 샘플링된 신호를 복원하기 위해 제안된다. 먼저, LASSO 추정들

이 획득되고, 이것은 그 후 디바이어싱 알고리즘에 대한 입력으로서 사용된다. 디바이어싱의 경우, LSE 가

를 획득하기 위해 LASSO 추정의 서포트 세트에 대해 수행되며, 그것은

이고 서포트가 올바르게 식별되는 경우 신호의 진정한 넌-제로들의 바이어스되지 않은 추정기를 제공한다. 후속적으로, 연속적인 윈도우들에 대해 획득된 디바이어싱된 추정들이 평균화된다. 그 방법의 블록도 및 그 알고리즘의 의사코드가 각각 이하의 첨부된 도면들 및 알고리즘 1 에서 도시될 수 있다.

알고리즘 1 회귀적 압축된 감지:

입력: A⁽⁰⁾ ∈ R^mxn, {x}, λ≥ 0

출력: 추정 {

}

1. 서포트 선택 카운트들: {ν} <- {0}, 신호 추정: {

} <- {0}

2. for i=0, 1, 2, ... do

3. x⁽ⁱ⁾ <- (x_ix_{i + 1}...x_{i +n- 1})^T

4. y⁽ⁱ⁾ <- A⁽ⁱ⁾x⁽ⁱ⁾ + w⁽ⁱ⁾ ▶ 인코딩

5.

6. I <- sup p(

) ▷ 서포트 추정

7. ν_{I +i} <- ν_{I +1} + 1 ▷ 서포트에서의 선택의 카운트를 증가

8.

서포트 세트에 대해 LSE

9.

제로 크로싱된 오퍼레이터들이 각각 엘리먼트 기반 곱셈 및 제산을 나타내는 평균 추정들을 업데이트

10. A⁽ⁱ⁾ <- A^(i-1)P ▷ 회귀적 샘플링의 경우

11. 종료

본 발명의 하나의 실시형태에 따른 스트리밍 데이터를 감지하는 방법의 블록도가 도 1 에 표현된다. 이러한 실시형태에 따른 방법은 적어도 이전의 측정을 획득하기 위해 윈도우잉을 중첩하는 단계, 및 후속하는 측정을 획득하기 위해 상기 이전의 측정을 채용하는 단계를 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하는 단계를 포함한다. 더욱 구체적으로는, 방법은 데이터의 입력 스트림의 회귀적 샘플링 (102) 의 단계를 포함한다. 회귀적 샘플링 (102) 의 단계 동안 샘플링된 데이터는 회귀적 추정 단계 (104) 를 통해 프로세싱된다. 회귀적 샘플링에 대해 이전에 이전의 추정 획득 단계 (116) 동안 획득된 이전의 추정에 관한 정보는 회귀적 추정 단계 (104) 동안 마찬가지로 귀속된다. 회귀적 추정 단계 (104) 동안 획득된 데이터는 회귀적 샘플링 알고리즘의 단계 6 과 관련하여 상술된 바와 같이, 서포트 검출 (106) 의 단계 동안 이용된다. 서포트 검출 단계의 결과로서 프로세싱된 정보는 도 1 의 단계 (110) 에서 도시된 바와 같이 그리고 회귀적 샘플링 알고리즘의 단계 7 에 대응하는 것으로서 카운트 추정을 위해 사용될 것이다. 단계 (106) 에서 획득된 정보는 회귀적 샘플링 알고리즘의 단계 8 과 관련하여 상술된 바와 같이, 서포트 세트에 대해 LSE 를 계산하는 단계 (108) 동안 이용된다. 후속적으로 추정 카운트 및 서포트 세트에 대한 LSE 는 회귀적 샘플링 알고리즘의 단계 9 와 관련하여 상술된 바와 같이, 단계 (112) 에서 평균화된다. 방법의 실시형태에 따르면, 단계 (116) 동안 획득된 이전의 추정은 단계 (112) 에서 마찬가지로 평균화된다. 새로운 추정이 회귀적 샘플링 알고리즘의 단계 (10) 과 관련하여 상술된 바와 같이, 단계 (114) 에서 획득된다.

하나의 그러한 실시형태에 따른 방법은 방법의 계산적 복잡성 및 추정 에러를 마찬가지로 분석할 수 있다.

더욱 구체적으로는, 다음에서 방법의 복잡성 및 에러 분산이 분석되고, 더 강건한 서포트 검출을 위한 보우팅 알고리즘이 도입된다.

방법의 하나의 실시형태를 표현하는 도 1 의 블록도는 연속적인 윈도우들 사이의 가변 중첩을 표현하는 방법으로 확장될 수도 있다.

고려되는 것은 0 < τ ≤ n 중첩들로 반복하는 윈도우잉을 통해 감지가 수행되는 일반화이다,

A ∈ R^mxn 이 샘플링 행렬을 표시하는 경우, i 는 윈도우 인덱스를 표시하고, η_i 는 샘플링 효율, 즉 시간 (n+i) 까지 취해진 총 샘플들 대 감지된 엔트리들의 수의 비이다. 하나의 윈도우에 대해, 샘플링 행렬이 A ∈ R^mxn 이므로, 샘플링 효율은 m/n 이다.

i 번째 윈도우의 끝까지, n+(i-1)_τ 개의 엘리먼트들이 im 샘플들을 취한 동안 복원되었다. 점근적 샘플링 효율은 다음과 같다:

대신에 인코딩이 랭크-τ 업그레이드를 사용하여, 즉 샘플링 행렬을 τ 회 순환 시프팅함으로써 획득된 행렬을 사용함으로써 en 인코딩에서 사용되는 경우, 점근적 샘플링 효율은 다음과 같이 된다:

추가의 경우에, 회귀적 샘플링 접근법은 각각의 시간 인스턴스에 대해 하나의 샘플을 취하는 것과 점근적으로 등가이다. 그러한 접근법의 이익은 노이즈 억제에 있다. 중첩하는 윈도우들을 취함으로써, 각 엘리먼트는 최소

다수 횟수로 감지되고, 이리하여 배수를 사용하는 협조 (collaborative) 디코딩이 추정 정확성을 증가시키기 위해 사용될 수 있다.

신호 서포트 추정에 대한 LASSO 의 적용은 본 문서에서 조기에 논의되었다. 또한 본 문서에서, 높은 측정 노이즈에서 더 강건한 서포트 검출을 위해 연속적인 윈도우들에 대해 추정된 서포트를 이용하는 방법이 도입된다. 신호 크기들이 노이즈 레벨 위에 있기에 충분히 높지 않는 경우, 상술된 서포트 검출 메카니즘은 넌제로 위치들 (위 음성) 을 미싱 (missing) 하거나 거짓 서포트 (위 양성) 를 검출할 수도 있다. 따라서, 본 문서에서 조기에 논의된 서포트 검출 정리는 성공 확률을 감소시키는 희생으로 더 낮은 최소 넌제로 값들에 대한 서포트를 검출하기 위해 더 작은 정규화 상수 (λ) 를 사용할 수 있을 것이다. 위치가 서포트로서 검출될 필요가 있는 최소 회수에 대한 임계값을 도입함으로써, 위 양성들이 모든 i 에 대해 세트 {0,..., n-1}＼supp(x⁽ⁱ⁾) 상에 랜덤으로 분포되는 것을 가정하면, 우리는 낮은 신호대 잡음 레짐 (regime) 에서 위 양성들을 감소시킬 수 있다.

'보우팅 (voting) 머신' 을 도입함으로써, 보우팅을 갖는 획득된 2 단계 알고리즘은 도 1 의 서포트 검출 블록 (106) 내에서 표현될 수도 있다. 그 2 단계 알고리즘은,

로서 LASSO 를 풂으로써 작동한다.

ξ₁ 이 > 0 로서 설정되는 경우,

의 절대값이 ξ₁ 보다 큰 인덱스들이 x⁽ⁱ⁾ 의 서포트를 추정하기 위해 구해진다; i 번째 윈도우에서

보우트들을 포함하는 수열은 {v_i} 로서 정의되고, 인덱스 i 가 최소 제곱 추정 (LSE) 에서 사용되는 횟수는 {L_i} 으로서 정의된다. 알고리즘의 시작에서, {v_i} 및 {L_i} 은 제로로 설정된다. 각 윈도우에 대해, 세트 내에 있는 위치들에 대한 보우트들이 추가되고, 그 세트는

로서 S_t ⁽ⁱ⁾ 에 의해 표시되며, 여기서 아래 첨자 S_t ⁽ⁱ⁾ + i 는 윈도우 내의 인덱스들을 스트리밍 데이터 상의 글로벌 인덱스들로 변환하기 위해 사용된다. 보우트들 {v_i} 의 수에 대한 임계값 ξ₂∈ Z⁺ 를 적용함으로써, 넌-제로들로서 수락되도록 다수회 충분히 보우팅되었던 인덱스들이 발견되고, 그들은 다음으로 저장된다:

임계값 ξ₂ 은 |S_g ⁽ⁱ⁾| < m 이도록 선택되어, LSE 에 대한 과도하게 결정된 시스템을 산출한다. 과도하게 결정된 최소 제곱 문제는 이들 인덱스들에 기초하여 풀어지며,

여기서,

는 세트 S_g ⁽ⁱ⁾ 에 의해 인덱싱된 A⁽ⁱ⁾ 의 열들을 추출함으로써 획득된 행렬이다. 그 후 최소 제곱 추정들의 평균화를 수행하기 위해, 복원들의 수가,

로서 LSE 절차에서 사용된 엔트리들에 대해 증분된다.

벡터

는

내에 있고, 벡터 x'∈ Rⁿ 은 S_g ⁽ⁱ⁾ 에 의해 인덱싱된 엘리먼트들을

로서 최소 제곱 추정으로 설정하고 모든 다른 인덱스들은 0 으로 설정함으로써 생성된다. 그 후, 평균 추정들은 다음으로서 업데이트된다:

하나의 실시형태에 따른 방법의 추정 에러 분산 및 계산적 복잡성은 다음에서 분석된다.

2 단계 RCS 방법의 추정 에러 분산의 분석이 행해지기 전에, 다음의 레마가 도입된다:

레마 5.1: 식 (4) 에서의 LASSO 에 대한 해를

에 의해 표시하고, 그것의 서포트 세트를

에 의해 표시하며, 열들 A_I 에 제한된 최소 제곱 해를,

에 의해 표시하면, 다음의 식이 만족된다;

선택된 서포트와는 독립적으로, 다음이 LASSO 추정의 서포트에 적용된 LASSO 추정 및 최소 제곱에 대해 유지되며:

여기서,

이다. LASSO 의 최적성 조건들은:

을 산출하며,

여기서, sgn(v) 는 벡터들로 확장된 부호 함수이다. 정규 방정식들은

로 판독된다.

따라서:

이며, 여기서 (a) 는 식 (15) 로부터 따라오고, (b) 는

로부터 따라오며, (c) 는

이므로 따라온다.

노이즈가 서포트 검출에 관계없이 상관되지 않는다는 것, 즉,

i ≠ j 에 대해

여기서 Ai 는 서포트 검출이 i 번째 윈도우에서 성공하는 이벤트를 표시한다,

다음의 정리는 제안된 2 단계 알고리즘의 재구성 에러 분산에 대한 상위 경계를 제공한다.

제안된 알고리즘에 대한 에러 분산에 관한 정리에 따르면, 서포트 검출과 관련하여 위에서 논의된 조건들 하에서 그리고 노이즈가 고정된 k 및 n 에 대한 서프트 검출에 관계없이 상관되지 않는다는 가정하에서, 다음의 조건은 유효하다:

여기서,

상술된 정리의 유효성을 입증하기 위해, 다음의 3 가지 조건들이 만족될 필요가 있다:

제 1 조건은:

m x k 행렬 A 에 대해 m, 및 k 가 주어지고, k ≤ m 며, 여기서 A_i,j~N(0,1/m) 인 경우, 특이값들 s₁(A)≥...≥s_k(A) 은 조건:

을 만족시킨다는 것이다.

제 2 조건은:

이다.

합집합 경계에 의해,

는 Lasso 추정으로서 정의된다. 그것은 Lasso,

의 서포트에 적용된 최소 제곱들에 의해 획득된다.

LASSO 추정이

으로서 정의되고, 그 추정은:

으로서, LASSO,

의 서포트에 적용된 최소 제곱들에 의해 획득되며,

여기서

이다.

모든 n 개의 연속적인 윈도우들 내의 서포트가 올바르게 검출되는 이벤트에서,

, 정규 최소 제곱 추정은 다음과 같다:

행렬

은

의 특이값들이 높은 확률로 넌제로이기 때문에 가역적이다.

표준 LSE 로부터,

이다.

A₀ ^{n -1}:=A₀∪...A_{n -1} 이 주어지는 경우, n 회 추정되는 신호에서의 제 1 엔트리인 v_n-1 = x_n-1 과 같은 임의의 고정된 엔트리의 경우:

m~k log(n/k)

m 에 대한 이러한 값은 거의 1/n 으로서 감소하며, 이리하여 재구성 분산은 서포트 검출이 연속적인 윈도우들에서 성공하는 경우에 제로로 간다.

세 번째로, 이전의 케이스의 보수에서 발생하는 것을 아는 것이 중요하다,

및

에 대해, 위의 레마는:

을 산출한다.

따라서:

이다.

삼각 부등식을 사용하여, 우리는 진정한 신호와 서포트 세트 상의 LSE 추정 사이의 차이의 '2-놈에 대한 상위 경계를 얻는다:

이들 결과들을 결합함으로써, 획득되는 것은 다음과 같다:

위의 식은 A₀ ⁿ 및 (A₀ ⁿ)^c 에 대한 확률들을 사용하고, v,

, 및

가 x,

, 및

와 각각 교환될 수 있다는 것을 유의하여, 부등식 (17) 을 치환함으로써 획득된다.

다음에서, 회귀적 압축된 감지 알고리즘의 계산적 복잡성이 분석될 것이다.

i 가 윈도우 인덱스이고, A⁽ⁱ⁾ ∈ R^mxn 은 샘플링 행렬이며, τ 는 슬라이딩 스텝, 연속하는 윈도우들 사이의 슬라이딩 슬롯들의 수를 나타내는 경우, i 번째 윈도우의 끝까지 n+(i-1)τ 개의 엔트리들이 복원되었다.

제 1 윈도우는 A⁽⁰⁾x⁽⁰⁾ 에 의해 샘플링된다. 이것은 가산들 및 승산들과 같은 O(mn) 기본 연산들을 요구한다. 초기의 윈도우 후에, 윈도우의 샘플링

은 복잡성 O(mτ) 을 갖는 랭크 τ 업데이트를 갖는 회귀적 샘플링에 의해 달성된다. 따라서, i 번째 윈도우의 끝까지, 샘플링의 총 복잡성은 회귀적 샘플링에 대한 O(mτ) 의 평균 복잡성에 대해, O(mn)+O(mτ)i 이다.

계산적 복잡성에 대한 다른 기여는 반복적 솔버 (solver) 에서 기인한다. 기대되는 복잡성은 각 반복에서의 연산들의 수 곱하기 수렴을 위한 반복들의 기대된 수로서 계산될 수 있는 반복적 솔버의 탓으로 돌린다. 전자는 특정의 알고리즘에 의존하는 반면, 후자는 다음과 같이 회귀적 추정을 사용하는 케이스에 구속되는, 시작 포인트에서 최적의 해까지의 거리의 함수이다:

을 사용할 때

시작 포인트로서, 획득되는 것은 다음과 같다:

위에서 행해진 진술의 유효성은 다음과 같이 증명된다:

놈을 취하고 삼각 부등식을 사용하는 것은 다음을 산출한다:

Lasso 의 에러를 제공하는 정리를 고려하여, 획득되는 것은 다음과 같다:

각 반복의 정확한 계산적 복잡성은 알고리즘에 의존한다. 최소로, LASSO 에 대한 반복적 솔버는 O(mn) 연산들을 요구하는 반복에서의 추정 및 샘플링 행렬의 곱을 요구한다. FISTA 에서와 같이, 비용 함수가 서브리니어하게 쇠퇴하는 알고리즘에서,

도록하는 (x* 는 최적 해이다)

를 획득하기 위해 요구되는 반복들의 수는

에 비례하고, 여기서 x[0] 은 알고리즘의 시작 포인트이다. 이러한 경계로부터, 반복들의 평균 수는 최적 포인트로부터 알고리즘의 시작 포인트의 유클리디안 거리에 비례한다는 것을 알 수 있다.

수열, {x_i}_{i=0, 1,...}의 경우, 여기서

이고, 모든 i 에 대해

이고, C > 0 은 상수인 경우, 서브리니어하게 비용 함수가 쇠퇴하는 알고리즘들의 수렴에 대한 반복들의 기대된 수는 노이즈리스 측정들에 대해

이고 i.i.d. 측정 노이즈에 대해

이다.

상기 진술은 x⁽ⁱ⁾ 가 k-스파스하기 때문에 사실이며, 항들

및

은 식 (18) 에 따라 드롭된다.

|x_i| ≤ C 에 의해,

이 획득된다.

노이지 측정들로, 항

은 노이즈 레벨에 관련된다. 노이즈가 분포 N (0,σ²I) 를 가지기 때문에, 높은 확률로

따라서 LASSO 에서의 에러와 관계된 정리에 의한 조건들 어드밴스에 의해

~O(

) 이다. 식 (18) 에서의 이러한 결과를 사용하여, 반복들의 기대된 수는 노이지 케이스에서

이다.

위의 분석에서, 평균 복잡성은 회귀적 샘플링에 대해 O(mτ) 이고 최적화 알고리즘 (최소로) 에 대해 O(mn) 이다. 입력 스트림의 각 성분을 복원하고 엘리먼트들을 배제시키지 않는 경우, τ ≤ n 이며, 따라서 반복적 최적화의 복잡성은 평균 복잡성에 우세하다.

그 조건을 사용함으로써, 조건

을 만족시키는 단위 구로부터 샘플링된 램덤 벡터들, 랜덤 가우시안 행렬들 및 랜덤 베르누이 행렬들에 대해

이다. 다음의 표 1 은 k 에 대한 여러 스파시티 클래스들에 대한 평균 계산적 복잡성을 보여준다.

k	계산적 복잡성
O(l)	O(nlogn)
O(logn)	O(nlogn·log(n/logn))
O( )	O(n3/ 2logn)
O(n)	O(n2)

실험적 결과들

시뮬레이션들에서 사용된 데이터는 랜덤 모델로부터 생성된다:

달리 진술되지 않는 한 p = 0.05.

측정 모델은

이고, 샘플링 행렬은

A(0) ∈ R^mxn

여기서, m 은 하나의 윈도우에서 넌제로 엔트리들의 기대된 수의 6 배, 즉 m = 6pn 이고, 여기서 n 은 윈도우 길이와 동일하다.

LASSO 를 풀기 위해 FISTA, 즉 가속화된 근위 그레디언트 방법을 사용하는 동안 주어진 윈도우를 추정하기 위해 요구된 평균 시간을 비교함으로써 RCS 에 의해 달성된 속도 이득인 것이 실험적으로 도시된다. RCS 는 소위 '원시적 접근법' 에 대해 비교되고, 여기서 샘플링은 각 윈도우에서 행렬 곱셈에 의해 행해지고 FISTA 는 모든 제로 벡터로부터 시작된다. 하나의 윈도우를 복원하기 위해 요구되는 평균 시간은 각각의 경우에 도 2 에 도시된다. 도 2 에서 관찰될 수도 있는 바와 같이, RCS 에 대한 평균 프로세싱 시간은 다른 방법들에 의해 요구된 프로세싱 시간 아래에 있다.

LASSO 를 사용하는 서포트 추정에 대한 실험들의 결과가 여기에 논의된다. 측정들에서, x ∈ R⁶⁰⁰⁰,

, A ∈ R^mx6000 가 A_i,j~N(0,1/m) 을 갖는 가우시안 분포에 의해 생성되고, w 는 σ= 0.1 을 갖는다. LASSO 정리에서 제안된 바와 같이, 이들 파라미터들에 대해, LASSO 는

으로 풀어지고, x 의 넌제로 진폭들은 U([-3.34, -4:34] U [3.34, 4.34]) 로부터 샘플링함으로써

을 만족시킨다.

시뮬레이션들에서, 취해진 샘플들의 수는 신호 m 으로부터 변화되고, 서포트 추정의 정확성은 검출 레이트 = |검출된 서포트 ∩ 진정한 서포트 대|/|진정한 서포트| 및 위양성 레이트 = |검출된 서포트＼진정한 서포트|/|진정한 서포트| 를 사용하여 연구되며, 여기서 |.| 는 세트의 카디널리티를 나타내고, ＼ 는 세트 차이 연산자이다. 이러한 정의로, 위양성 레이트가 1 보다 클 수 있다는 것을 유의하라.

서포트 검출에 대한 2 가지 방법들이 비교된다. 첫 번째 방법은 LASSO 를 풀고 서포트로서 넌-제로 위치들을 취하는 것에 의하며, 두 번째 방법은 추정의 절대 크기가 임계값보다 큰 위치들을 취하는 것에 의한다. 도 3 은 m 의 각 값에 대해 입력 신호를 20 회 랜덤으로 생성하고 결과의 검출 레이트들 및 위양성들을 평균화함으로써 획득되는, 2 개의 방법들에 대한 결과의 곡선들을 보여준다. 도면으로부터 알 수 있는 바와 같이, 검출 레이트는 양 방법들에서 유사하게 거동하지만, 위양성들은 결과의 LASSO 추정들에 대한 임계값을 적절히 조정함으로써 상당히 감소될 수 있다.

도 3 에서 구체적으로 도시되는 것은 LASSO 를 사용하는 서포트 세트 추정이다: n = 6000, σ= 0.1, min |x_i| ≥ 3.34, 임계값 ξ₁ = 0.01, 0.10 및 1.00. 원 표시들은 검출 레이트를 도시하고, 정사각형 표시들은 위양성 레이트를 도시한다.

위에서 상세히 논의된 바와 같이, LASSO 방법은 바이어싱되지 않은 추정기를 산출하기 위해 보우팅 전략 및 최소 제곱 추정과 함께 사용될 수 있다. 도 4 는 a) 단일의 LASSO 추정들, b) 평균화된 추정들, c) 보우팅 전략, 및 d) 디바이어싱 및 평균화의 성능의 비교를 도시한다.

도면은 고정된 x ∈ Rⁿ 를 사용하고 상관되지 않은 노이즈를 갖는 측정들을 취함으로써 획득된다. 에러는 평균화된 추정에 대해 제로로 감소하지 않고, 이것은 본 문서에서 조기에 설명된 바와 같이 바이어싱된 추정기인 LASSO 에 기인한다. 구체적으로, 도 4 는 a) 평균화된 추정들, b) 디바이어싱되고 평균화된 추정들, 및 c) 보우팅 및 평균화에 의해 획득된 추정들에 대한 에러 플롯들의 표현이다.

이제 도 5 를 참조하면, 그 도면은 스트리밍 데이터에 대한 평균화된 LASSO 추정 및 '보우팅 및 평균화' 에 대한 에러 플롯들을 도시한다.

도 5 는 스트리밍 데이터에 대한 평균화된 LASSO 추정들 및 '보우팅 및 평균화' 알고리즘으로 획득된 윈도우 재구성 에러 사이의 비교를 도시한다. 데이터는 엔트리가 p = 0.05 를 갖는 서포트로서 선택되고 그것의 진폭이 독립적으로 그려지고 균일한 분포

로부터 동일하게 분포되어, 서포트 검출 정리의 조건들을 만족시키는 경우에 랜덤으로 생성되며, 여기서 n = 400, m = 5np = 100 그리고 샘플링 행렬은 가우시안이다. 측정들은

로 악영향을 받으며, 여기서 σ= 0.05, 보우팅 알고리즘은 ξ₁ = 0.5 및 ξ₂ = 20 을 사용한다. 알 수 있는 바와 같이, 보우팅은 LSE 에서의 엔트리를 사용하기 위해 수집될 ξ₂ 보우트들을 대기하는 것에 기인한 점프들을 보여주는 재구성 에러를 제공한다. 그러나, 위치가 서포트의 부분으로서 수락된 후에, 에러는 LASSO 추정들을 단순히 평균화하는 것보다 더 낮은 값들로 즉시 드롭된다는 것을 또한 알 수 있다.

따라서, 하나의 실시형태에 따라 제안되는 것은 스트리밍 데이터에 대한 압축된 감지에 적절한 회귀적 샘플링 및 반복적 복구를 위한 효율적인 방법이다. 방법은 노이즈의 존재하에서 추정 분산 감소를 달성하면서 신호의 추정들에 대한 더 빠른 수렴 속도를 획득하는데 있어서 연속적인 프로세싱 윈도우들 사이의 신호 중첩들을 레버리지한다.

또한, 다른 실시형태에 따르면, LASSO 에 기초하여 신호의 바이어싱되지 않은 추정기를 근사화하는 2 단계 추정 절차가 제안되며, 여기서 a) 서포트 검출은 LASSO 를 풂으로써 수행되고, b) 신호 추정은 추정된 서프트 세트에 대한 정규 최소 제곱을 풂으로써 획득된다. 알고리즘의 계산적 복잡성은 O(mn) 이고, 여기서 m 은 취해진 샘플들의 수이고 n 은 윈도우 길이이다. 수렴 시간은 스트리밍 데이터에 대한 온라인 구현에 대해 적절하도록 실험들에 의해 도시된다.

따라서, 요약하자면, 실시형태들은 스트리밍 데이터에 대한 압축된 감지를 수행하기 위한 회귀적 스킴을 수행하는 것을 수반하는 스트리밍 데이터의 압축된 감지를 위한 방법을 포함하며, 그것은 마찬가지로 그 방법의 계산적 복잡성 및 추정 에러를 분석할 수 있다. 하나의 실시형태에 따르면, 데이터의 입력 스트림은 다음의 측정을 획득하는데 있어서 이전의 측정을 이용하면서 중합하는 윈도우잉을 통해 회귀적으로 샘플링된다. 중첩하는 윈도우 구조를 레버리징하여, 이전의 윈도우로부터의 신호 추정이, 새로운 윈도우를 디코딩하기 위해 반복적 최적화 알고리즘에서의 더 빠른 수렴을 달성하기 위해 이용된다. 추정 정확성은 다수의 윈도우들로부터 획득된 신호 추정들을 평균화함으로써 강화된다. 추정기의 바이어스를 제거하기 위해, 2 단계 추정 절차가 서포트 세트 검출 및 신호 진폭 추정을 포함하는 하나의 실시형태에 따라 제안된다. 더욱이, 하나의 실시형태는 높은 측정 노이즈의 존재 하에서 강건한 서포트 추정에 대한 보우팅 스킴을 포함한다.

스트리밍 데이터의 압축된 감지에 대한 하나의 실시형태에 따른 수단을 채용하는 동안 획득된 시뮬레이션 결과들은, 신호 크기들 및 노이즈 레벨에 대한 온건한 조건들 하에서 상당히 더 낮은 재구성 에러를 획득하면서, 데이터의 스트림에 대한 전통적인 압축된 감지를 적용하는 것에 대해 10 배의 속도 상승을 보여준다.

다른 실시형태에 따르면, 스트리밍 데이터를 감지하는 수단이 마찬가지로 제안된다. 스트리밍 데이터를 감지하는 상기 수단은 데이터의 입력 스트림을 회귀적으로 샘플링하는 수단, 및 후속적인 측정을 획득하기 위해 이전의 측정들을 채용하는 수단을 포함한다. 데이터의 입력 스트림을 회귀적으로 샘플링하는 수단은 적어도 이전의 측정을 획득하기 위해 윈도우잉을 중첩하는 단계들을 사용할 수 있다.

하나의 실시형태는 울트라 광대역 신호들로 레인징하는 것을 포함한다. 예를 들어, 디바이스는 규칙적으로 송신된 스파이크들에 대한 리턴 펄스들을 연속적을 모니터할 수도 있다 (방출된 신호는 주기성이다). 일반적으로, 디바이스는 부가된 다수의 에코들에 더하여 메인 에코를 수신한다. 디바이스가 이동 중인 경우, 다수의 에코들이 그렇듯이, 메인 에코는 하나의 주기로부터 다른 주기로 약간 변화한다. 이것은 주기성 신호가 아니고, 단지 거의 주기성 신호이며, 슬라이딩 윈도우 알고리즘은 자연적으로 이들 시프팅 에코들을 추적할 것이다. 그러한 실시형태들에서, 음향 센서로부터의 에코 데이터는 이에 따라 레인지 데이터로 변환된다.

다른 예에서, 생의학적 샘플 데이터는 상술된 방법들 및 시스템들에 따라 변환될 수도 있다. 예를 들어, 인간 신체로부터 전기 신호들을 수신하도록 구성된 하나 이상의 전기 센서들로부터의 샘플들은 심전계 또는 뇌파계 신호들을 재구성하기 위해 여기에 개시된 실시형태들에 따라 프로세싱될 수도 있다. 일부 실시형태들에서, 재구성된 신호는 하나 이상의 진단 조건들의 시그너쳐 특징에 매칭될 수도 있다.

다른 예에서, 카메라, 광전, 또는 다른 화소 어레이 센서 (예를 들어, 가시광 또는 적외광을 수신하도록 구성됨) 로부터의 샘플 데이터는 여기에 개시된 바와 같이 프로세싱될 수도 있다. 예를 들어, 그러한 기법들을 사용하여 장치는 전력 효율을 향상시키거나 센서의 효과적인 민감도를 증가시킬 수 있을 수도 있다.

다른 실시형태들에서, 온도, 풍속, 풍향, 강수와 같은 환경 센서 데이터가 여기에 기술된 바와 같이 프로세싱될 수도 있다.

본 발명의 수단은 소프트웨어 수단, 하드웨어 수단 또는 이들의 조합으로서 구현될 수도 있다.

상술된 시스템들 및 방법들은 예를 들어 무선 모뎀 또는 그러한 모뎀을 통합하는 유선 디바이스에서 구현될 수 있다.

실시형태에 따라, 여기에 기술된 임의의 방법들의 소정의 액션들 또는 이벤트들은 상이한 시퀀스로 수행될 수 있고, 부가되거나, 병합되거나 모두 함께 생략될 수도 있다 (모든 기술된 액션들 또는 이벤트들이 방법의 실시에 반드시 필요하지는 않다). 게다가, 소정의 실시형태들에서, 액션들 또는 이벤트들은 순차적으로라기 보다 예를 들어, 멀티 스레디드 프로세싱, 인터럽트 프로세싱 또는 다수의 프로세서들을 통해 동시적으로 수행될 수도 있다.

또한, 통상의 기술자는 여기의 개시된 방법들, 시스템들 및 장치들과 관련하여 기술된 여러 예시적인 로직컬 블록들, 모듈들, 회로들 및 알고리즘 단계들은 전자 하드웨어, 프로세서에 의해 실행되는 컴퓨터 소프트웨어, 또는 양자의 조합들로서 구현될 수도 있다는 것을 인정할 것이다. 하드웨어 및 소프트웨어의 이러한 상호교환가능성을 명확히 도시하기 위해, 여러 도시된 컴포넌트들, 블록들, 모듈들, 회로들 및 단계들은 일반적으로 그들의 기능성에 의해 상술되었다. 그러한 기능성이 하드웨어로서 또는 소프트웨어로서 구현되는지 여부는 특정의 애플리케이션 및 전체 시스템에 부과된 설계 제약들에 달려있다. 통상의 기술자들은 각각의 특정의 애플리케이션에 대해 다양한 방식들로 기술된 기능성을 구현할 수도 있지만, 그러한 구현 결정들은 본 개시의 범위로부터 일탈을 야기하는 것으로서 해석되지 않아야 한다.

게다가, 여기에 개시된 실시형태들은 범용 프로세서, 디지털 신호 프로세서 (DSP), 주문형 반도체 (ASIC), 필드 프로그램가능 게이트 어레이 (FPGA) 또는 다른 프로그램가능 로직 디바이스, 이산 게이트 또는 트랜지스터 로직, 이산 하드웨어 컴포넌트들, 또는 여기에 기술된 기능들을 수행하도록 설계된 이들의 임의의 조합과 같은 전자 디바이스 또는 회로로 구현되거나 수행될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안적으로, 프로세서는 임의의 종래의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 또한 컴퓨팅 디바이스들의 조합, 예를 들어, DSP 와 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 결합한 하나 이상의 마이크로프로세서들, 또는 임의의 다른 그러한 구성으로서 구현될 수도 있다.

여기에 개시된 실시형태들과 연관하여 기술된 방법 또는 알고리즘의 단계들은 하드웨어로 직접, 프로세서에 의해 실행되는 소프트웨어 모듈로, 또는 이들 둘의 조합으로 구현될 수도 있다. 소프트웨어 모듈은 RAM 메모리, 플래시 메모리, ROM 메모리, EPROM 메모리, EEPROM 메모리, 레지스터들, 하드 디스크, 착탈가능 디스크, CD-ROM, 또는 본 기술분에서 알려진 임의의 다른 형태의 저장 매체에 상주할 수도 있다. 예시적인 저장 매체는 프로세서가 그 저장 매체로부터 정보를 판독하고, 그 저장 매체로 정보를 기입할 수 있도록 프로세서에 커플링된다. 대안적으로, 저장 매체는 프로세서에 통합될 수도 있다. 프로세서 및 저장 매체는 ASIC 에 상주할 수도 있다. ASIC 은 사용자 단말기에 상주할 수도 있다. 대안적으로, 프로세서 및 저장 매체는 사용자 단말기 내의 이산 컴포넌트들로서 상주할 수도 있다.

구체적으로, 본 발명의 실시형태에 따르면, 스트리밍 데이터의 압축된 감지를 수행하는 장치는, 입력 데이터 스트림에 관한 적어도 하나의 이전의 측정을 획득하기 위해 중첩하는 윈도우잉을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하기 위해 배열된 회귀적 샘플러, 및 후속하는 측정을 획득하기 위해 상기 적어도 하나의 이전의 측정을 채용하는 유닛을 포함한다.

본 발명의 하나의 실시형태에 따라 제안된 장치는 감지를 수행하는 회귀적 스킴에 기초하는 회귀적 샘플러를 포함한다. 본 발명의 스트리밍 데이터의 압축된 감지를 수행하는 장치는 또한 회귀적 추정을 통해 회귀적 샘플링의 단계 동안 샘플링된 데이터의 입력 스트림을 프로세싱하는 프로세싱 유닛을 포함한다.

본 발명에 따르면, 스트리밍 데이터의 압축된 감지를 수행하는 장치는 또한 이전의 추정 획득 단계 동안 획득된 이전의 추정의 데이터 스트림에 관한 입력하는 정보를 전달하는 저장 수단을 포함한다. 또한, 본 발명의 스트리밍 데이터의 압축된 감지를 수행하는 장치는 데이터 스트림 서포트 검출 단계 동안 획득된 정보에 기초하여 카운트 추정을 수행하도록 배열된 카운터를 포함한다. 또한, 본 발명의 장치는 또한 상기 회귀적 추정 단계 동안 획득된 데이터에 기초하여 데이터 스트림 서포트 세트에 대한 최소 제곱 추정 (LSE) 을 계산하는 계산기를 포함한다. 평균화된 값을 획득하기 위해 평균화된 값을 계산하기 위해 계산된 최소 제곱 추정 값, 카운트 추정 값, 및 이전의 추정을 평균화하기 위한 프로세싱 유닛이 본 발명의 하나의 실시형태에 따라 제안된 장치에 의해 마찬가지로 포함된다. 스트리밍 데이터를 감지하는 방법의 에러 정도를 추정하는 추정기는 마찬가지로 본 발명에 따라 제안된 장치에 의해 포함되는 것으로 생각된다. 또, 복수의 윈도우들로부터 획득된 신호 추정들을 평균화하기 위한 프로세싱 유닛이 마찬가지로 본 발명에 의해 제안된 장치에 의해 포함될 수도 있다.

여러 예들이 기술되었다. 이들 및 다른 예들은 다음의 청구범위의 범위 내에 있다.

Claims (27)

1. 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법으로서,
   적어도 부분적으로,
   데이터의 입력 스트림에서 중첩 윈도우들에 대한 감지 행렬들 A 의 시퀀스를 회귀적으로 선택하는 단계로서, (i+2) 번째 중첩 윈도우에 대한 감지 행렬 A⁽ⁱ⁺¹⁾ 은 다음 식에 의해 정의되고: A⁽ⁱ⁺¹⁾ = [a₂ ⁽ⁱ⁾, a₃ ⁽ⁱ⁾,..., a_n ⁽ⁱ⁾, a_l ⁽ⁱ⁾], 여기서 a_L ⁽ⁱ⁾ 는 감지 행렬 A⁽ⁱ⁾ 의 L 번째 열이고, n 은 각각의 중첩 윈도우의 길이이며, i 는 0 이상인, 상기 회귀적으로 선택하는 단계; 및
   다음의 식을 사용하여 (i+2) 번째 중첩 윈도우에 대한 측정 y⁽ⁱ⁺¹⁾ 을 획득하는 단계로서: y⁽ⁱ⁺¹⁾ = y⁽ⁱ⁾ + (x_i+n - x_i)a_l ⁽ⁱ⁾, 여기서 i 는 0 이상이고, (i+1) 번째 중첩 윈도우에 대응하는 데이터의 입력 스트림의 신호 x⁽ⁱ⁾ 는 다음의 식에 의해 정의되며: x⁽ⁱ⁾ = [x_i x_i+1 ... x_i+n-1]^T, 초기 중첩 윈도우에 대한 측정 y⁽⁰⁾ 는 다음 식에 의해 정의되는: y⁽⁰⁾ = A⁽⁰⁾x⁽⁰⁾, 상기 측정 y⁽ⁱ⁺¹⁾ 을 획득하는 단계
   에 의해 연속적인 중첩 윈도우들을 사용하여 데이터의 입력 스트림을 회귀적으로 샘플링하는 단계를 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
2. 제 1 항에 있어서,
   상기 측정 y⁽ⁱ⁺¹⁾ 을 획득하는 단계는 상기 감지 행렬들 A 중 하나를 수반하는 각각의 y⁽ⁱ⁾ 에 대한 행렬 곱셈을 수행함 없이 수행되는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
3. 제 1 항에 있어서,
   상기 측정 y⁽ⁱ⁺¹⁾ 을 획득하는 단계는, 회귀적 추정을 통해 회귀적으로 샘플링하는 단계 동안 샘플링된 데이터의 상기 입력 스트림을 프로세싱하는 단계를 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
4. 제 3 항에 있어서,
   상기 데이터의 입력 스트림에 관한 정보를 수신하는 단계를 더 포함하고,
   상기 정보는 이전의 중첩 윈도우에 관한 신호 추정 획득 단계 동안 획득된 이전의 중첩 윈도우에 관한 신호 추정에 관계되고,
   상기 이전의 중첩 윈도우에 관한 신호 추정 획득 단계는 상기 회귀적으로 샘플링하는 단계 이전에 수행되는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
5. 제 3 항에 있어서,
   데이터 스트림 서포트를 검출하는 단계; 및
   상기 데이터 스트림 서포트 검출 단계 동안 획득된 정보에 기초하여 카운트 추정을 수행하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
6. 제 5 항에 있어서,
   상기 회귀적 추정 단계 동안 획득된 데이터에 기초하여 데이터 스트림 서포트 세트에 대한 최소 제곱 추정 (LSE) 값을 계산하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
7. 제 6 항에 있어서,
   평균화된 값을 계산하기 위해 상기 계산된 최소 제곱 추정 값, 카운트 추정 값, 및 이전의 중첩 윈도우에 관한 신호 추정을 평균화하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
8. 제 7 항에 있어서,
   상기 스트리밍 데이터에 대해 후속하는 추정을 획득하기 위해 상기 평균화된 값을 채용하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
9. 제 1 항에 있어서,
   스트리밍 데이터에 대한 상기 압축된 감지의 계산적 복잡성을 분석하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
10. 제 9 항에 있어서,
    스트리밍 데이터에 대한 압축된 감지를 수행하는 상기 방법의 에러 정도를 추정하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
11. 제 1 항에 있어서,
    새로운 윈도우를 디코딩하기 위해 반복적 최적화 알고리즘에서의 수렴을 획득하는 단계를 더 포함하고,
    상기 반복적 최적화 알고리즘에서의 수렴을 획득하는 단계는 상기 연속적인 중첩 윈도우들을 사용하는 단계에 의해 채용된 중첩 윈도우 구조 및 이전의 중첩 윈도우에 관한 신호 추정을 이용하는 단계를 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
12. 제 1 항에 있어서,
    연속적인 중첩 윈도우들로부터 획득된 신호 추정들을 평균화하는 단계를 더 포함하고,
    스트리밍 데이터의 압축된 감지를 수행하는 것은: 서포트 세트 검출을 수행하는 것, 및 신호 진폭 추정을 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
13. 제 1 항에 있어서,
    측정 노이즈의 존재하에서 신호 서포트 추정을 위해 보우팅 스킴 (voting scheme) 을 적용하는 단계를 더 포함하는, 스트리밍 데이터에 대한 압축된 감지를 수행하는 방법.
14. 스트리밍 데이터를 감지하기 위한 컴퓨터 프로그램을 기록한 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 컴퓨터 프로그램은 제 1 항 내지 제 13 항 중 어느 한 항에 따른 방법을 수행할 수 있는 알고리즘을 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
15. 스트리밍 데이터에 대한 압축된 감지를 수행하는 장치로서,
    센서 데이터의 입력 스트림으로부터의 데이터를 저장하도록 구성된 메모리; 및
    프로세서를 포함하고,
    상기 프로세서는,
    적어도 부분적으로,
    데이터의 입력 스트림에서 중첩 윈도우들에 대한 감지 행렬들 A 의 시퀀스를 회귀적으로 선택하는 것으로서, (i+2) 번째 중첩 윈도우에 대한 감지 행렬 A⁽ⁱ⁺¹⁾ 은 다음 식에 의해 정의되고: A⁽ⁱ⁺¹⁾ = [a₂ ⁽ⁱ⁾, a₃ ⁽ⁱ⁾,..., a_n ⁽ⁱ⁾, a_l ⁽ⁱ⁾], 여기서 a_L ⁽ⁱ⁾ 는 감지 행렬 A⁽ⁱ⁾ 의 L 번째 열이고, n 은 각각의 중첩 윈도우의 길이이며, i 는 0 이상인, 상기 회귀적으로 선택하는 것; 및
    다음의 식을 사용하여 (i+2) 번째 중첩 윈도우에 대한 측정 y⁽ⁱ⁺¹⁾ 을 획득하는 것으로서: y⁽ⁱ⁺¹⁾ = y⁽ⁱ⁾ + (x_i+n - x_i)a_l ⁽ⁱ⁾, 여기서 i 는 0 이상이고, (i+1) 번째 중첩 윈도우에 대응하는 데이터의 입력 스트림의 신호 x⁽ⁱ⁾ 는 다음의 식에 의해 정의되며: x⁽ⁱ⁾ = [x_i x_i+1 ... x_i+n-1]^T, 초기 중첩 윈도우에 대한 측정 y⁽⁰⁾ 는 다음 식에 의해 정의되는: y⁽⁰⁾ = A⁽⁰⁾x⁽⁰⁾, 상기 측정 y⁽ⁱ⁺¹⁾ 을 획득하는 것
    에 의해 연속적인 중첩 윈도우들을 사용하여 센서 데이터의 입력 스트림을 회귀적으로 샘플링하도록 구성된, 스트리밍 데이터에 대한 압축된 감지를 수행하는 장치.
16. 삭제
17. 삭제
18. 삭제
19. 삭제
20. 삭제
21. 삭제
22. 삭제
23. 삭제
24. 삭제
25. 삭제
26. 삭제
27. 삭제

Images