KR20130122779A - 희소 신호를 측정하고 복원하기 위한 방법 및 장치 - Google Patents

희소 신호를 측정하고 복원하기 위한 방법 및 장치 Download PDF

Info

Publication number
KR20130122779A
KR20130122779A KR1020137021028A KR20137021028A KR20130122779A KR 20130122779 A KR20130122779 A KR 20130122779A KR 1020137021028 A KR1020137021028 A KR 1020137021028A KR 20137021028 A KR20137021028 A KR 20137021028A KR 20130122779 A KR20130122779 A KR 20130122779A
Authority
KR
South Korea
Prior art keywords
dimension
measurement
sparse signal
matrix
vector
Prior art date
Application number
KR1020137021028A
Other languages
English (en)
Other versions
KR101503201B1 (ko
Inventor
케잉 우
시아오용 구오
Original Assignee
알까뗄 루슨트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 알까뗄 루슨트 filed Critical 알까뗄 루슨트
Publication of KR20130122779A publication Critical patent/KR20130122779A/ko
Application granted granted Critical
Publication of KR101503201B1 publication Critical patent/KR101503201B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3059—Digital compression and data reduction techniques where the original information is represented by a subset or similar information, e.g. lossy compression
    • H03M7/3062—Compressive sampling or sensing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computing Systems (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Complex Calculations (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

본 발명은 두 종류의 새로운 압축 센싱 기술을 제공한다. 제1 기술 솔루션에서, 최대 가능성(ML) 로컬 검출을 이용하는 반복 복원 알고리즘 및 순열 기반 멀티-디멘전 센싱 행렬이 제안되어 있으며, 이것은 희소 신호의 디지털 성질을 충분히 이용할 수 있다. 제2 기술 솔루션에서, 순열 기반 멀티-디멘전 측정 행렬을 포함하는 희소 측정 행렬 및 각 반복에서 단순한 로컬 복원을 설계하기 위해 측정 심볼의 특징을 충분히 이용하는 반복 복원 알고리즘이 제안되어 있다. 제2 기술 솔루션은 선형 디코딩 복잡도 및 더 낮은 바운드의 스케치 길이를 동시에 경험적으로 달성할 수 있다.

Description

희소 신호를 측정하고 복원하기 위한 방법 및 장치{METHOD AND APPARATUS FOR MEASURING AND RECOVERING SPARSE SIGNALS}
본 출원은 압축 센싱(compressive sensing; CS) 기술에 관한 것이다.
압축 센싱(CS)은 최근에 개발된 기술이다. 자연 및 인공 신호 대부분이 희소한 또는 거의 희소한 특성을 갖는다는 사실을 고려하면, 압축 센싱 기술은 압축 이미징, 압축 샘플링, 신호 프로세싱, 데이터 스트림 컴퓨팅, 및 조합 그룹 테스팅 등과 같은 다양한 영역에서의 응용예를 발견할 수 있다. 압축 센싱의 기본적인 생각은 길이 N을 갖는 희소 신호 x(신호가 논-제로 요소보다 훨씬 더 많은 제로 요소를 포함한다면 희소하다고 지칭됨)는 길이 M의 선형 측정 y=Ax로부터 정확하게 복원될 수 있고, 여기서 A는 MxN 측정 행렬이며, M<<N이다.
재구성은 측정 벡터를 설명하는
Figure pct00001
를 최소화함으로써 수행될 수 있다. 이러한 최소 문제가 NP 곤란(NP hard)함에 따라, 준최적(sub-optimal) 알고리즘이 고찰되었다. 계산적으로 가능한 희소 신호 복원 알고리즘의 대부분의 클래스는, 볼록 이완법(convex relaxation) - 이 볼록 이완법은
Figure pct00002
최소화 문제를 p가 종종 1로서 선택되는
Figure pct00003
최소화 문제에 의해 근사시키고 이 문제를 볼록 최적화를 이용하여 해결함 -; MP(matching pursuit) - 이 MP는 최대 품질 향상을 제공하는 하나 이상의 성분을 연속적으로 식별함으로써 희소해(sparse solution)를 반복적으로 정제(refine)함 -; 및 베이지안 프레임워크(Bayesian framework) - 이 베이지안 프레임워크는 신호 벡터에 대한 희소성을 선호하는 선험 분포(priori distribution)를 가정하고, 고찰은 통합하여 초대의 사후 추정량(posteriori estimator)을 사용함 - 을 포함한다. 실제로 이들의 상대적으로 양호한 성능에도 불구하고, 이들은 연속값을 갖는 신호들에 대해서 가장 적절하다. 디지털 값을 갖는 희소 신호에 대해, 예를 들면, 모노크롬 이미지를 다룰 때, 이들 알고리즘은 그들이, 적절히 이용된다면, 복원 정확도를 상당히 향상시킬 수 있는 소스의 디지털 성질을 이용할 수 없기 때문에 덜 충분하다.
따라서, 신호의 디지털 성질을 완전히 이용할 수 있는 새로운 압축 센싱 기술이 필요하다.
부가하여, 대부분의 응용예에서, 측정 행렬 A는 희소, 즉, 각 열에 논-제로 엔트리보다 훨씬 더 많은 제로를 포함하는 것이 바람직하다. 희소 측정 행렬의 이점은 인코딩 및 디코딩시에 계산 복잡도가 낮고, 신호에 대해 업데이트를 용이하게 증분시킬 수 있으며, 저장소가 적게 필요하다는 것이다. 대부분의 연구는 희소 측정 행렬을 갖는 CS에 전념하였지만, 그들 대부분은 동일 시간에 선형 디코딩 복잡도 및 성능 바운드(bound)를 달성하는데 실패하였다. 기존 알고리즘의 전형적인 예는 MP와 볼록 최적화를 포함한다. MP 유형의 알고리즘은 선형 복원 복잡도를 갖는 스케치 길이의 더 낮은 바운드를 점근적(asymptotically)으로 달성할 수 있다. 그러나, 수치 결과는 이러한 유형의 알고리즘에 필요한 경험적 스케치 길이는 항상 점근적 바운드보다 더 높다는 것을 보여 주었다. 한편, 볼록 최적화 유형의 알고리즘은 점근적으로 그리고 경험적으로 양자 모두의 스케치 길이의 더 낮은 바운드를 달성할 수 있는데, 이는 실질적으로 측정 수와 관련하여 이점이 있다는 것을 나타낸다. 예를 들면, 논-제로 요소의 수가 K=50이고 신호 길이 N=20000이면, MP는 약 2000번의 측정이 필요하지만, 볼록 최적화는 단지 약 450번의 측정이 필요하다. 볼록 최적화 유형의 알고리즘의 한가지 주요한 단점은 복원 복잡도가 더 높다는 것이고, 이것은 신호 길이 N을 갖는 다항식에서 O(N3)으로 늘어나게 된다.
따라서, 희소 측정 행렬을 이용하여 선형 디코딩 복잡도 및 더 낮은 바운드의 스케치 길이를 경험적으로 달성할 수 있는 새로운 압축 센싱 기술이 필요하다.
전술한 두 개의 관심사를 해결하기 위해, 두 개의 기술적 솔루션을 제공하는 것으로 하나는 희소 신호의 디지털 성질을 완전히 이용할 수 있는 새로운 압축 센싱 기술을 제공하는 것이고, 다른 하나는 희소 측정 행렬을 이용하여 선형 디코딩 복잡도 및 더 낮은 바운드의 스케치 길이를 경험적으로 달성할 수 있는 새로운 압축 센싱 기술을 제공하는 것이다.
이에 기초하여, 본 발명의 제1 양상에서는 디지털 희소 신호를 프로세싱하는 방법이 제공된다. 이 방법은, MxN 측정 행렬 A를 이용하여 길이 N인 희소 신호 벡터 x={xi}에 대한 선형 측정을 수행하여 길이 M인 측정 벡터 y를 구하는 단계 - 상기 측정 행렬 A는,
Figure pct00004
로 정의되고,
여기서,
Figure pct00005
는 d=1~D에 대한 측정 행렬 A의 서브-행렬이고,
Figure pct00006
는 NxN 랜덤 순열 행렬이고,
Figure pct00007
는,
Figure pct00008
로 정의되는 JxN 행렬이며,
여기서, M<<N, J*L=N, 희소 신호 벡터 x에서의 각각의 엔트리 xi는 유한 집합
Figure pct00009
- q=1~Q-1에 대해 Xq는 0이 아닌 숫자(non-zero figure)이고, Q는 유한 집합의 크기임 - 으로부터 취해지고, 동일한 순열 행렬로부터 생성된 측정 심볼은 일 디멘전으로 지칭되고, D는 총 디멘전 수임 - 를 포함한다.
이롭게도, 이 방법은, D 최대 가능성 검출기를 이용하여 D 디멘전에 대해 최대 가능성 검출을 각각 수행하는 단계 - 여기서, d번째 최대 가능성 검출기는 d번째 디멘전에 대한 최대 가능성 검출을 수행하기 위해 사용됨 - ; 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 단계를 반복하는 단계; 최종 반복에서 상기 D번째 최대 가능성 검출기의 출력에 기초하여 상기 희소 신호 벡터에서의 소스 심볼을 추정하는 단계를 더 포함한다.
본 발명의 제1 양상에서의 측정 행렬 A는 각각의 디멘전에서 간단한 최대 가능성 검출을 가능하게 하고, 이것은 희소 신호의 디지털 성질을 완전히 이용하고 각각의 디멘전에 대해 계산적으로 가능한 국부적 최적 검출을 제공한다. 측정 행렬의 멀티-디멘전 구조는 디멘전들 간의 반복 정보 교환을 가능하게 하여 가장 글로벌한 최적 추정 결과를 얻을 수 있게 한다.
더욱이, 본 발명의 제1 양상에서의 측정 행렬 A는 희귀한데, 즉, 각 열에서 0이 아닌 엔트리보다 훨씬 더 많은 제로(zero) 엔트리를 포함한다. 측정 행렬의 희소성은, 인코딩 및 복원 모두에서 계산 복잡도를 낮게 하고, 신호에 대한 증분적 갱신을 용이하게 하고 저장소가 적게 요구되는 등의 몇가지 매력적인 특성이 있다. 이러한 이점은 본 발명의 제1 양상에서의 기술적인 솔루션이 희소 디지털 신호를 갖는 압축 센싱에 대한 잠재적이고 실질적인 솔루션을 가능하게 한다.
본 발명의 제2 양상에서, 아날로그 희소 신호를 프로세싱하기 위한 방법이 제공된다. 이 방법은, MxN 측정 행렬 A를 이용하여 길이 N인 K-희소 신호 벡터 x에 대한 선형 측정을 수행하여 길이 M인 측정 벡터 y를 구하는 단계 - 상기 측정 행렬 A는,
Figure pct00010
로 정의되고,
여기서,
Figure pct00011
는 d=1~D에 대한 측정 행렬 A의 서브-행렬이고,
Figure pct00012
는 NxN 랜덤 순열 행렬이고,
Figure pct00013
는,
Figure pct00014
로 정의되는 JxN 행렬이며,
여기서, M<<N, J*L=N, 동일한 순열 행렬로부터 생성된 측정 심볼은 일 디멘전으로 지칭되고, D는 총 디멘전 수임 -;
를 포함한다.
이롭게도, 이 방법은,
i. d=1~D, j=1~J일 때
Figure pct00015
의 각 요소
Figure pct00016
에 대해,
Figure pct00017
가 0과 동일한지를 판단하는 단계 - 여기서
Figure pct00018
는
Figure pct00019
로서 초기화되고,
Figure pct00020
는
Figure pct00021
의 d번째 디멘전에서 j번째 요소임 -;
ii. l=1~L에 대해,
Figure pct00022
가 0과 동일하면,
Figure pct00023
를 설정하는 단계 - 여기서
Figure pct00024
는 d번째 순열 버전에서의 xi의 인덱스이고,
Figure pct00025
는
Figure pct00026
의 역 연산자임 -;
를 더 포함하고,
상기 방법은,
u. i=1~N에 대해, 상기 희소 신호 벡터 x에서의 각각의 소스 심볼 xi에 대해, 다음의 수학식이 만족되는지 여부를 판단하는 단계
Figure pct00027
;
v. (dm, dn)의 쌍에 대해 만족되면,
Figure pct00028
을 설정하는 단계 - 여기서
Figure pct00029
이고
Figure pct00030
임 -;
를 더 포함하고,
상기 방법은 상기 단계 후에,
p. 공식
Figure pct00031
에 따라, 상기 측정 벡터 y로부터 상기 복원된 희소 신호를 차감함으로써
Figure pct00032
를 갱신하는 단계 - 여기서,
Figure pct00033
는 복원된 희소 신호 벡터를 나타내고, 이 신호 벡터에서 미복원 심볼은 0으로 설정됨 -;
q. 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 단계들을 반복하는 단계
를 더 포함한다.
본 발명의 제2 양상에서의 측정 행렬 A의 특별 구조는, 후술하는 바와 같이, 각각의 반복에서 매우 간단한 복원 알고리즘을 설계하는데 이용될 수 있는 측정 심볼의 몇몇 흥미로운 특징을 유도한다. 반복 프로세스는, 복원하기에 더 용이한 심볼부터 시작하여, 이미 복원된 심볼의 분포를 소거하여 다른 심볼의 복원을 용이하게 단계별로 소스 신호를 복원하는데 사용된다. 그러한 검출 및 소거 동작을 반복함으로써, 거의 글로벌 최적 솔루션이 얻어질 수 있다. 필요한 복잡도는 소스 신호 길이 N에만 단지 선형적으로 증가한다. 멀티 디멘전 구조 및 랜덤 순열 행렬은, 제안된 기술의 양호한 성능에 중요한 각각의 측정이 모든 소스 심볼에 대한 몇몇 유용한 정보를 (직접적으로 또는 간접적으로) 통계적으로 제공한다.
더욱이, 본 발명의 제2 양상에서의 기술적 솔루션은 경험적 스케치 길이의 낮은 바운드 및 선형 복잡도를 동시에 달성할 수 있다. 양호한 경험적 성능 및 낮은 복잡도는 희소 측정 행렬을 갖는 압축 센싱에 대해 양호하고 실질적인 대체 솔루션을 가능하게 한다.
부가하여, 본 발명의 일 실시예에 따라, 희소 신호를 측정하고 복원하기 위한 장치로서, MxN 측정 행렬 A를 이용하여 길이 N인 희소 신호 벡터 x={xi}에 대한 선형 측정을 수행하여 길이 M인 측정 벡터 y를 구하는 측정 수단 - 상기 측정 행렬 A는,
Figure pct00034
로 정의되고,
여기서,
Figure pct00035
는 d=1~D에 대한 측정 행렬 A의 서브-행렬이고,
Figure pct00036
는 NxN 랜덤 순열 행렬이고,
Figure pct00037
는,
Figure pct00038
로 정의되는 JxN 행렬이며,
여기서, M<<N, J*L=N, 동일한 순열 행렬로부터 생성된 측정 심볼은 일 디멘전으로 지칭되고, D는 총 디멘전 수임 -;
상기 길이 M인 측정 벡터 y로부터 길이 N인 희소 신호 벡터 x={xi}를 복원하기 위한 복원 수단을 포함하는 장치가 제공된다.
본 발명은 첨부 도면을 참조하여 단지 예로서 보다 상세하게 설명된다.
도 1은 일 실시예에 따른 디지털 희소 신호를 프로세싱하는 플로우차트를 도시한다.
도 2는 도 1에 사용된 상호작용 알고리즘의 원리를 도시한다.
도 3(a)는 도 1의 실시예와 p1=0.1인 종래의 두 개의 기술 간의 레이트-왜곡(rate-distortion) 성능의 비교를 도시한다.
도 3(b)는 도 1의 실시예와 p1=0.05인 종래의 두 개의 기술 간의 레이트-왜곡 성능의 비교를 도시한다.
도 4는 또 다른 실시예에 따른 아날로그 희소 신호를 프로세싱하는 플로우차트를 도시한다.
도 5는 도 4의 실시예의 측정 수 M 및 Klog2(N/K) 간의 관계를 도시한다.
도 6(a)는 복원 실패 확률과 p1=0.1을 갖는 도 4의 실시예의 α간의 관계를 도시한다.
도 6(b)는 복원 실패 확률과 p1=0.05를 갖는 도 4의 실시예의 α간의 관계를 도시한다.
상기 도면들에 걸쳐, 유사한 참조 부호는 유사하거나 대응하는 특징 또는 기능을 지칭한다는 것이 이해될 것이다.
이후, 본 발명의 상기 제1 양상의 기술적 솔루션과 본 발명의 제2 양상의 기술적 솔루션이 보다 상세히 각각 설명될 것이다.
도 1은 일 실시예에 따른 디지털 희소 신호를 프로세싱하는 플로우차트를 도시한다.
단계 S11에서, MxN 측정 행렬 A를 이용하여 길이 N인 디지털 희소 신호 벡터 x에 대해 선형 측정(즉, 인코딩)이 수행하여 길이 M인 측정 벡터 y를 구하며, 여기서, M<<N이다.
독립적이고 동일하게 분포된 (i.i.d.) 엔트리를 갖는 디지털 희소 신호 벡터 x={xi}를 고려하자. 희소 신호 벡터 x의 각 엔트리 xi의 값은 유한 집합
Figure pct00039
- q=1~Q-1에 대해 Xq는 0이 아닌 숫자(non-zero figure)이고, Q는 유한집합의 크기임 - 으로부터 취해진다. 각각의 엔트리 xi는 "0"인 확률 p0 및 Xq인 확률 pq(q=1~Q-1)를 갖는다고 가정하자. x가 희소하기 때문에,
Figure pct00040
압축 센싱의 이론에 기초하여, x는 아래와 같이 측정 벡터 y로부터 복원될 수 있다.
Figure pct00041
여기서, n은 제로 평균 및
Figure pct00042
을 갖는 길이 M인 잡음 벡터이다.
이 실시예에서, 측정 행렬 A는 다음과 같이 설계된다:
Figure pct00043
여기서,
Figure pct00044
(d=1~D)는 측정 행렬 A의 서브-행렬이고,
Figure pct00045
는 NxN 랜덤 순열 행렬이고,
Figure pct00046
는,
Figure pct00047
여기서, J*L=N, 동일한 순열 행렬로부터 생성된 측정 심볼은 일 디멘전으로 지칭되고, D는 총 디멘전 수이다. 순열 행렬
Figure pct00048
는 D 디멘전에 대해 독립적이고 랜덤하게 생성된다.
Figure pct00049
의 0이 아닌 엔트리는 가우스 랜덤 변수이다.
인코딩 프로세스는 다음과 같이 구현될 수 있다. 디지털 희소 신호 벡터 x의 소스 심볼은 독립적으로 정렬된(permutated) D 타임즈(D times)이다. 모든 정렬된 버전은 J=N/L 그룹으로 분할되고, 각각의 그룹은 L개의 심볼을 포함한다. d번째 정렬된 버전의 j번째 그룹의 심볼은 A d의 j번째 행의 대응하는 0이 아닌 엔트리에 의해 가중된 다음 선형적으로 중첩되어 이 디멘전에서 j번째 측정 심볼을 생성한다. 총 측정 수 M은 그룹 수 L, 디멘전 번호 D, 및 N에 의해 M=ND/L로서 결정된다.
인코딩 후, 양자화 프로세스를 적용하여 측정 심볼을 양자화한다. 양자화 에러는 수학식 1의 잡음 젝터 n으로 표현된다. S는 양자화 레벨의 수를 정의하고, pquan(s)는 측정 심볼이 레벨-S로 양자화되는 확률이라고 하자. 하나의 양자화된 측정을 나타내는데 필요한 비트 수는 수학식 4와 같다.
Figure pct00050
따라서, x를 나타내는데 필요한 총 비트수는 B= bM = bND /L이고, 소스 심볼당 필요한 평균 비트수는 수학식 5와 같다.
Figure pct00051
소스 심볼당 평균 비트수는 D, L, 및 S의 선택을 통해 조정될 수 있다.
수학식 3에서의
Figure pct00052
의 구조는 우리로 하여금 각 디멘전에서의 L개의 심볼의 각 그룹에 대해 최대 가능성 검출(ML)의 사용을 가능하게 한다. L에 대해 최소 값을 선택함으로써 ML 검출의 계산 복잡도가 제어될 수 있다. ML 검출은 소스 신호의 디지털 성질을 완전히 이용할 수 있고, 각각의 디멘전에 대해 국부적으로 최적의 솔루션을 제공할 수 있다. 멀티-디멘전 구조는 디멘전들 간의 반복적인 정보 교환을 가능하게 하여 거의 글로벌 최적 추정을 달성할 수 있게 한다. 상이한 디멘전에서의 독립적인 랜덤 순열 행렬은, 통계적으로 각각의 측정이, 하나의 디멘전에서의 상이한 측정에 기여하는 심볼이 함께 그룹화될 수 있고, 다른 디멘전에서의 동일한 측정에 기여할 수 있음에 따라, 디지털 희소 신호 벡터 x의 모든 심볼에 대해 몇몇의 유용한 정보를 (직접적으로 또는 간접적으로) 제공할 수 있다는 것을 보장한다. 이것은 관련된 L 심볼에 대한 하나의 측정에 의해 제공되는 정보가 이들 L개의 심볼이 다른 디멘전에서 다른 심볼과 그룹화되는 경우 다른 심볼의 검출에 도움을 줄 수 있다는 것을 의미한다. 그러한 특성은 반복 복원 알고리즘에서 완전히 이용되어, 제안된 기술의 잡은-저항(noise-resistance) 능력을 상당히 향상시킬 수 있다.
이에 기초하여, 단계 S12에서, D 최대 가능성 검출기를 사용하여 D 디멘전에 대한 최대 가능성 검출을 각각 수행한다. 즉, 각각의 최대 가능성 검출기는, 도 2에 도시된 바와 같이, 하나의 디멘전의 검출을 담당한다. 도 2는 반복 알고리즘의 원리를 도시하는 것으로, 여기서, "DET-d"는 d번째 디멘전의 로컬 검출기이고, "T"는 하나의 반복의 지연을 정의하고, "/"는 분할 동작을 정의한다.
각각의 로컬 검출기 내에서, ML 검출은 자신의 잡음 측정 심볼 및 사전 정보에 기초하여 L개의 심볼의 각 그룹에 대해 수행된다. 각 검출기의 출력은 디지털 희소 신호 벡터 x에서의 소스 심볼의 사후 정보이고, 이것은 다음 반복에서 다른 디멘전 내의 로컬 검출을 세정하는데 사용된다.
도 2에 포함되어 있는 변수는 다음과 같다.
Figure pct00053
: d번째 디멘전에서 Xq(q=0~Q-1)인 xi의 사전 확률.
Figure pct00054
: d번째 디멘전에서 Xq(q=0~Q-1)인 xi의 사후 확률.
Figure pct00055
: d번째 디멘전에서 Xq(q=0~Q-1)인 xi의 외적 확률.
사전 확률은 제1 반복에서 i=1~N이고 q=0~Q-1에 대해
Figure pct00056
로서 초기화되고, 외적 확률은 제1 반복에서
Figure pct00057
에 대해
Figure pct00058
로서 초기화된다.
Figure pct00059
로 정의되는 d번째 디멘전에서 특정 측정-j를 고려하자.
Figure pct00060
을
Figure pct00061
에 기여하는 L 개의 소스 심보의 인덱스라고 하자.
Figure pct00062
의 값은 순열 행렬
Figure pct00063
에 의해 결정된다. 이들 L개의 심볼의 사후 확률은 ML 검출을 이용하여, l=1-L에 대해, 다음의 수학식 6으로서 계산된다.
Figure pct00064
수학식 6의 합은 모든 가능한 벡터
Figure pct00065
에 걸쳐있고, l번째 요소는 Xq에 고정된다. 외적 확률은 사후 확률로부터 사전 확률을 추출함으로써 계산된다.
Figure pct00066
d번째 디멘전에서 생성된 사후 확률은 (mod(d,D)+1)번째 디멘전에서 사후 확률을 갱신하기 위해 수학식 8과 같이 사용된다.
Figure pct00067
Figure pct00068
는 이전 반복에서의 (mod(d,D)+1)번째 디멘전에서 생성되고, 따라서, (mod(d,D)+1)번째 디멘전에서 다시 계산되는 것이 방지되어야 하며, 이것이 반복 검출의 기본 규칙이다. 이것은 수학식 8에서의 분할 동작에 의해 실현된다.
다음에, 단계 S13에서, 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 절차를 반복한다.
미리 정해진 조건은, 예를 들면,
- 고정된 수의 반복에 도달;
- 두 개의 연속 반복에서 D번째 최대 가능성 검출기에서 생성된 사후 확률들 간의 차가 미리 정의된 임계치 아래에 있음
중 임의의 것을 포함한다.
마지막으로, 단계 S14에서, 디지털 희소 신호 벡터 x의 소스 심볼 {xi}은 최종 반복에서 D번째 최대 가능성 검출기의 출력에 기초하여 추정된다.
예를 들면, 소스 심볼 {xi}에 대해 경판정(hard decisions)이 다음의 수학식 9로서 이루어진다.
Figure pct00069
여기서,
Figure pct00070
본 실시예에서 상기 제안된 반복 알고리즘의 복잡도는
Figure pct00071
이고, 이것은 L이 N보다 상당히 작고 N으로 성장하지 않음에 따라 최적 솔루션
Figure pct00072
의 것보다 상당히 낮다. L이 작을수록 고정된 D에 대해 더 큰 측정 수 M을 초래할 것이라는 것을 유의하자. 다음에, D 및 L의 값을 조정함으로써, 계산 복잡도와 측정 수 간의 상이한 트레이드오프가 달성될 수 있다.
다음의 텍스트에서, 상기 제안된 기술의 솔루션의 성능은 수치 값을 사용하여 도시된다.
Figure pct00073
을 갖는 디지털 희소 신호 벡터 x의 이진 소스 신호를 고려하자. x의 엔트리는 "0"("1")이고 p0>>p1인 확률 p0(p1)을 갖는 i.i.d. 변수가 있다. 측정 행렬 A는 제로-평균 및 단위 분산을 갖는 0이 아닌 엔티티 i.i.d. 가우스 랜덤 변수를 이용하여 수학식 2 및 3에 따라 생성된다. 측정 행렬 A는 각 행이 단위 표준(unit norm)을 갖도록 정규화된다. 양자화 레벨은 다음의 양자화 규칙에 따라 S=5로 고정되고, 여기서
Figure pct00074
는 양자화 후의 x의 값을 나타낸다.
Figure pct00075
디지털 희소 신호 벡터 x에 대해, (양자화 전에) 수학식 2 및 3에서 정의된 측정 행렬 A를 이용하여 생성된 선형 측정 심볼은 "0"인 큰 확률을 갖는다는 것을 유의하자. 제로 측정 심볼이 나타나면, 우리는 그와 관련된 모든 L개의 소스 심볼이 제로라는 높은 정확도를 갖는 것으로 결정할 수 있고, 이것은 반복 복원 알고리즘에서 다른 소스 심볼의 검출에 매우 도움이 될 것이다. 따라서, 수학식(20)에서 "0"에 대한 특정 양자화 레벨을 이용하여 다른 값들로부터 구별한다. 우리는 몬테 카를로 시뮬레이션을 이용하여 확률
Figure pct00076
을 얻고, 수학식 5에 따라 소스 심볼당 필요한 평균 비트 수
Figure pct00077
를 계산한다.
도 3(a) 및 도 3(b)는 랜덤 가우스 센싱 행렬, 라소 알고리즘 및 베이지언 프레임워크에 각각 기초하여 상기 제안된 기술 솔루션과 종래의 두 개의 기술 간의 레이트-왜곡 성능의 비교를 도시한다. 무손실 복원을 위해 소스 심볼당 필요한 최소 비트 수 또는 참조를 위해 도시되어 있다.
여기서, p1=0.1 및 0.05로 설정하고, 반복 회수는 5로 고정한다. 확률
Figure pct00078
이 표 1에 리스트된다.
Figure pct00079
<양자화 후의
Figure pct00080
의 확률>
표 1로부터, 소스 심볼당 필요한 평균 비트 수
Figure pct00081
가 계산될 수 있다. D를 1에서 4까지 조정하고 L을 10에서 12까지 조정하여, 0.14에서 1까지의 상이한
Figure pct00082
의 값을 얻는다.
Figure pct00083
로 정의된 왜곡은 다음과 같이 정의되며, N에 의해 정규화된
Figure pct00084
에의 부정확한 엔트리의 평균 수와 동일하다.
Figure pct00085
참조를 위해, 도 3에 엔트로피 코딩을 통해 무손실 압축을 위해 소스 심볼당 필요한 최소 비트 수가 도시되어 있다. 두 개의 종래의 접근법의 레이트-왜곡 성능 또한 포함되는데, 이것은 랜덤 가우스 센싱 행렬에 기초하고, 신호 복원을 위해 볼록 이완법(상세를 위해 [R. Gribonval 및 M. Nielsen의 "Highly sparse representations from dictionaries are unique and independent of the sparseness measure", Aalborg Univ., Aalborg, Denmark, Tech. Rep., Oct. 2003.], 및 [J. A. Tropp의 "Just relax: Convex programming methods for identifying sparse signals in noise", IEEE Trans. Inf. Theory, vol. 52, no. 3, pp. 1030-1051, Mar. 2006.]를 참조), 및 Bayesian framework (상세를 위해 [S. Ji, Y. Xue 및 L. Carin의 "Bayesian compressive sensing," IEEE Trans. Signal Processing, vol. 56, no. 6, pp. 2346-2356, June 2008.], 및 [M. E. Tipping의 "Sparse Bayesian learning and the relevance vector machine," Journal of Machine Learning Research, vol. 1, pp. 211-244, Sept. 2001.]을 참조)을 각각 이용한다. 볼록 이완화를 위해, 우리는 라소 알고리즘(Lasso algorithm)을 사용한다(상세를 위해 [M. J. Wainwright의 "Sharp thresholds for high-dimensional and noisy sparsity recovery using 11-constrained quadratic programming (Lasso)", IEEE Trans, on Inform. Theory, vol. 55, pp. 2183-2202, May 2009.], 및 [R. Tibshirani의 "Regression shrinkage and selection via the lasso," Journal of the Royal Statistical Society, Series B, pp. 267-288, 1996.] 를 참조). 베이지안 프레임워크 기초 알고리즘에 대해, 논문 {S. Ji, Y. Xue 및 L. Carin의 "Bayesian compressive sensing," IEEE Trans. Signal Processing, vol. 56, no. 6, pp. 2346-2356, June 2008.'}에 도입된 기술이 사용된다. 종래의 접근법 모두 "0"으로 지정된 양자화 레벨을 제거하는 것을 제외하고는 수학식 11에서와 유사한 양자화 규칙을 사용하며, 이 경우 각각의 측정은 "0"일 때와 매우 상이하다. 종래의 접근법에 대한 확률
Figure pct00086
또한 표 1에 리스트되어 있다. 도 3으로부터, 제안된 기술은 랜덤 센싱 행렬 및 볼록 이완화/베이지언 프레임워크에 기초하는 종래의 접근법보다 매우 양호한 레이트-왜곡 성능을 달성할 수 있다.
도 4는 또 다른 실시예에 따라 아날로그 희소 신호를 프로세싱하는 플로우차트를 도시한다.
단계 S41에서, MxN 측정 행렬 A를 이용하여 길이 N인 K-희소 신호 벡터 x에 대해 선형 측정(즉, 인코딩)이 수행되어 길이 M인 측정 벡터 y를 구하고, 여기서, K<<N, M<<N, K-희소 신호 벡터
Figure pct00087
, 측정 벡터
Figure pct00088
이다.
압축 센싱의 이론에 기초하여, x는 아래와 같이 측정 벡터 y로부터 복원될 수 있다.
Figure pct00089
이 실시예에서, 측정 행렬 A는 다음과 같이 설계된다:
Figure pct00090
여기서,
Figure pct00091
(d=1~D)는 측정 행렬 A의 서브-행렬이고,
Figure pct00092
는 NxN 랜덤 순열 행렬이고,
Figure pct00093
는,
Figure pct00094
여기서, J*L=N, 동일한 순열 행렬로부터 생성된 측정 심볼은 일 디멘전으로 지칭되고, D는 총 디멘전 수이다. 명확하게, 이 방식에서 생성되는 측정 행렬 A는 단지 열당 D개의 0이 아닌 엔트리를 가지면서 희소하다.
인코딩 프로세스는 다음과 같이 구현될 수 있다. 디지털 희소 신호 벡터 x의 소스 심볼은 독립적으로 정렬된(permutated) D 타임즈(D times)이다. 모든 정렬된 버전은 J=N/L 그룹으로 분할되고, 각각의 그룹은 L개의 심볼을 포함한다. d번째 정렬된 버전의 j번째 그룹의 심볼은 A d의 j번째 행의 대응하는 0이 아닌 엔트리에 의해 가중된 다음 선형적으로 중첩되어 이 디멘전에서 j번째 측정을 생성한다.
Figure pct00095
에 의해 d번째 디멘전의 j번째 측정 심볼을 정의한다.
Figure pct00096
여기서,
Figure pct00097
는 x의 d번째 정렬된 버전이다.
Figure pct00098
를 d번째 정렬된 버전의 xi의 인덱스로 하고
Figure pct00099
는 역 동작이라 하면, 다음을 얻게 된다.
Figure pct00100
희소 신호 벡터 x의 모든 소스 심볼 xi는 각각의 한 디멘전에서 D 측정과 연관된다. 총 측정 수(즉, 스케치 길이) M은 그룹 길이 L, 디멘전 수 D, 및 소스 신호 길이 N에 의해 M=ND/L로서 결정된다.
수학식 16으로부터, 측정 행렬 A는 각 열에 단지 D개의 0이 아닌 요소를 갖는다. 또한, 단지 x의 0이 아닌 요소만이 인코딩 시에 합 및 곱 동작을 가져온다. 따라서, 제안된 기술의 인코딩 복잡도는 약 DK 곱 및 DK 합이다.
수학식 15의
Figure pct00101
의 블록 대각 구조 및 D 디멘전에서의 랜덤 순열 행렬은 측정 심볼의 다음의 특징을 야기하고, 이것은 신호 복원에 매우 유용하다. 논의의 편의를 위해, 측정 심볼의 정도를 그와 연관된 0이 아닌 소스 심볼의 수로서 정의한다. 수학식 16으로부터, 각각의 측정 심볼
Figure pct00102
은 단지 L개의 소스 심볼
Figure pct00103
과 연관되고, 따라서, 다음의 두 개의 이슈가 발생하는데 상대적으로 큰 확률을 갖는다는 것을 검증하는 것이 용이하다.
이슈(issue)-1: 측정 심볼이 어느 정도의(a degree of) 0을 갖는다.
이슈-2: 0이 아닌 소스 심볼에 대해, 그와 연관된 측정 중 적어도 두 개는 어느 정도 1을 갖는다(D≥2).
상기 두 개의 이슈의 확률은 다음과 같이 계산될 수 있다. p1=K/N이고 p0=1-p1이라 하고, p1 및 p0는 0이 아닌(non-zero) 소스 심볼의 확률 및 제로(zero)인 소스 심볼의 확률을 각각 나타낸다. 그러면, 이슈-1 및 이슈-2의 확률은 대략 다음과 같이 계산될 수 있다.
Figure pct00105
K<<N일 때, 두 개의 확률은 L 및 D에 대해 적절한 값을 선택함으로써 상대적으로 크게 될 수 있다는 것을 쉽게 알 수 있다. 예를 들면, K=100, N=1000, L=10, 및 D=4일 때,
Figure pct00106
이고
Figure pct00107
이슈-1의 경우에, 측정 심볼은 제로이다. 또한, 측정 심볼이 하나 이상의 0이 아닌 소스 심볼과 연관되어 있는 경우, 이들 0이 아닌 심볼은 서로를 완전히 소거할 것 같지 않고(수학식 16 참조), 따라서, 측정 심볼은 확률을 0이 아닌 1에 가깝게 한다. 따라서, 제로 측정 심볼이 나타나면, 그와 연관된 모든 소스 심볼은 제로라는 것이 유도될 수 있다.
이슈-2의 경우에, 0이 아닌 소스 심볼의 두 개의 1-디그리(degree) 측정은 다음과 연관되어 있다. 0이 아닌 소스 심볼 xi는 디멘전 d1 및 d2에서 두 개의 1-디그리를 갖는다고 가정하자. m=1 및 2에 대해
Figure pct00108
및
Figure pct00109
를 정의한다. 이들 두 개의 1-디그리 측정의 다음의 관계를 갖는다.
Figure pct00110
명백하게, xi의 값은 수학식 20으로부터 계산될 수 있다.
전술한 이슈 1 및 2의 논의에 근거하여, 단계 S42에서,
Figure pct00111
의 각 요소
Figure pct00112
에 대해,
Figure pct00113
가 0과 동일한지 판정되고;
Figure pct00114
가 0과 동일하면, l=1~L에 대해
Figure pct00115
를 설정하고, 여기서
Figure pct00116
는
Figure pct00117
로서 초기화된다; 그리고,
i=1~N인 희소 신호벡터 x의 각 소스 심볼 xi에 대해, 다음의 수학식이 만족되는지 판정된다.
Figure pct00118
그리고, (dm,dn)의 쌍에 대해 만족되면,
Figure pct00119
를 설정한다.
다음에, 단계 S43에서,
Figure pct00120
는 다음의 수학식에 의해 측정 벡터 y로부터 복원된 희소 시호를 차감함으로써 개시된다.
Figure pct00121
여기서,
Figure pct00122
는 복원된 희소 시호 벡터를 나타내고, 이 벡터에서 미복원 심볼은 0으로 설정된다.
그러한 간섭 소거 동작은 두 방식에서 다른 심볼들의 복원에 도움을 줄 것이다. 첫 번째로, 측정 심볼이 복원된 하나의 연관된 소스 심볼을 제외하고 모두 갖는다면, (간섭 소거 후에) 측정으로부터 단지 미복원 소스 심볼이 직접적으로 추정될 수 있다. 두 번째로, 0이 아닌 소스 심볼이 y로부터 차감되면, 그와 연관된 측정의 디그리는 1만큼 감소된다. 이것은
Figure pct00123
에 이슈 1 및 2의 새로운 경우를 도입할 수 있고, 따라서, 상기 두 개의 규칙을 다시 적용하여
Figure pct00124
로부터 더 많은 소스 심볼을 재생성할 수 있다. 이것은 x를 귀납적으로 복원하기 위해 간섭 소거와 함께 반복 프로세스를 사용할 동기를 부여하게 된다.
다음에, 단계 S44에서, 상기 단계 S42 및 S43이 미리 정해진 조건이 만족될 때까지 복수의 반복에 대해 반복된다.
미리 정해진 조건은 예를 들면,
- 고정된 수의 반복에 도달;
- 상기 희소 신호 벡터에서의 모든 소스 심볼의 성공적인 복원;
-
Figure pct00125
- 여기서,
Figure pct00126
및
Figure pct00127
는 한번의 반복 전후의
Figure pct00128
를 나타냄 -
중 임의의 것을 포함한다.
이 실시예에서 상기 제안된 반복 알고리즘의 복잡도는 O(N)이다.
다음의 텍스트에서, 상기 제안된 기술의 솔루션의 성능이 수치 결과를 이용하여 설명된다. 0이 아닌 요소로서 가우스 랜덤 변수를 이용하여 희소 소스 신호 X를 고려하자. 측정 행렬 A는 0이 아닌 엔트리로서 가우스 랜덤 변수를 이용하여 수학식 14 및 15에 따라 생성된다. 시뮬레이션에서, p1=K/N=0.1 및 0.05로 설정하고, 디멘전 수 D=4. 그룹 길이 L을 조정하여 상이한 스케치 길이 M을 얻는다. 반복 복원 프로세스는 다음의 세 가지 조건 중 하나가 만족되는 경우 종료된다: a) T=20 반복이 고찰되고; b) 모든 소스 심볼이 성공적으로 복원되었고; c)
Figure pct00129
- 여기서,
Figure pct00130
및
Figure pct00131
는 한 번의 반복 전후의
Figure pct00132
의 버전임 -. 평균 반복 횟수는 M/N에 따라 Tave=6~10.
도 5는 측정 회수 M과 Klog2(N/K) 간의 관계를 도시한다. 이 도면의 목적은 제안된 기술이 더 낮은 바운드의 스케치 길이 O(Klog2(N/K))를 달성할 수 있다는 것을 보여주기 위한 것이다. 도 5에 도시된 바와 같이, 상기 제안된 기술 솔루션에 대해, 요구되는 측정 횟수 M은 신호 길이 N과 함께 선형으로 증가한다. 여기서, N은 1000 내지 10000으로 설정하고, M은 0.01보다 크지 않은 복원 실패 확률을 보장하도록 선택된다. 복원 실패는
Figure pct00133
일때 발생한다는 것을 유의하고, 여기서,
Figure pct00134
은 최종 반복 후의
Figure pct00135
를 정의한다. 도 5는 제안된 기술적 솔루션이 약 0.6~0.8의 매우 작은 α값을 갖는 더 낮은 바운드의
Figure pct00136
의 스케치 길이를 경험적으로 달성할 수 있다는 것을 명확하게 보여준다.
도 6(a) 및 도 6(b)는 복원 실패 확률과 상기 제안된 기술 솔루션에 대한 α(즉, 스케치 길이) 사이의 관계를 도시한다. 여기서, N=4000으로 고정하고 α를 0.5~1.2로 변경하자. 비교를 위해, 도 6에 l1 매직 및 베이지언 프레임워크에 기초하는 기존 복원 알고리즘의 복원 실패 확률도 도시되어 있다. 알 수 있는 바와 같이, 동일한 복원 정확도를 달성하기 위해, 상기 제안된 기술 솔루션은 l1 매직 및 베이지언 프레임워크보다 훨씬 더 적은 측정을 요구한다. 그러한 양호한 스케치 길이는 선형 복잡도로 달성된다. 양호한 경험적 성능 및 선형 복원 복잡도는 제안된 기술이 희소 행렬을 이용하는 압축 센싱에 대해 잠재적이고 매력적인 솔루션이라는 것을 가능하게 한다.
본 발명의 기술적 솔루션은 방법의 관점에서 상기에 설명되었고, 이후, 본 발명의 기술적 솔루션이 장치의 관점에서 더 설명될 것이다.
본 발명의 일 실시예에 따라, 희소 신호를 측정하고 복원하기 위한 장치 또한 제공된다. 이 장치는, MxN 측정 행렬 A를 이용하여 길이 N인 희소 신호 벡터 x={xi}에 대한 선형 측정을 수행하여 길이 M인 측정 벡터 y를 구하는 측정 수단 - 상기 측정 행렬 A는,
Figure pct00137
로 정의되고,
여기서,
Figure pct00138
는 d=1~D에 대한 측정 행렬 A의 서브-행렬이고,
Figure pct00139
는 NxN 랜덤 순열 행렬이고,
Figure pct00140
는,
Figure pct00141
로 정의되는 JxN 행렬이며,
여기서, M<<N, J*L=N, 동일한 순열 행렬로부터 생성된 측정 심볼은 일 디멘전으로 지칭되고, D는 총 디멘전 수임 -; 및
상기 길이 M인 측정 벡터 y로부터 길이 N인 희소 신호 벡터 x={xi}를 복원하기 위한 복원 수단을 포함한다.
이롭게도, 희소 신호가 디지털 희소 신호이고 희소 신호 벡터 x에서의 각각의 엔트리 xi는 유한 집합
Figure pct00142
- q=1~Q-1에 대해, Xq는 0이 아닌 숫자이고, Q는 유한 집합의 크기임 - 으로부터 취해지는 경우, 상기 복원 수단은: D 최대 가능성 검출기를 포함하고, D 디멘전에 대해 최대 가능성 검출을 각각 수행하기 위한 검출 수단 - 상기 d번째 최대 가능성 검출기는 d번째 디멘전에 대한 최대 가능성 검출을 수행하기 위해 사용되고, 상기 검출 수단은 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 검출을 반복함 - ; 및 최종 반복에서 상기 D번째 최대 가능성 검출기의 출력에 기초하여 상기 희소 신호 벡터에서의 소스 심볼을 추정하기 위한 추정 수단을 포함한다.
특히, d번째 디멘전에 대해, 상기 검출 수단에서의 d번째 최대 가능성 검출기는, d번째 디멘전의 측정 심볼 및 d번째 디멘전에서의 사전 정보에 기초하여 최대 가능성 검출을 수행하여, 상기 희소 신호 벡터에서의 소스 심볼의 사후 정보를 생성하는데 사용되고, 상기 d번째 디멘전에서 생성된 사후 정보는 (mod(d,D)+1)번째 디멘전에서 사전 정보를 갱신하기 위해 사용된다.
바람직하게, d번째 디멘전에서의 사후 정보
Figure pct00143
는, 다음의 수학식
Figure pct00144
에 의해 (mod(d,D)+1)번째 디멘전에서의 사전 정보
Figure pct00145
를 갱신하기 위해 사용되고, 여기서,
Figure pct00146
는 이전 반복에서의 (mod(d,D)+1)번째 디멘전에서 생성되고, q=0~Q-1에 대해 (mod(d,D)+1)번째 디멘전에서 Xq가되는 xi의 외적 확률을 나타내고,
Figure pct00147
는 제1 반복에서 1로서 초기화되고 다음 반복에서
Figure pct00148
이다.
미리 정해진 조건은, 예를 들면,
- 고정된 수의 반복에 도달;
- 두 개의 연속 반복에서 D번째 최대 가능성 검출기에서 생성된 사후 확률들 간의 차가 미리 정의된 임계치 아래에 있음
중 임의의 것을 포함한다.
이롭게도, 희소 신호가 아날로그 희소 신호인 경우, 복원 수단은,
d=1~D, j=1~J일 때
Figure pct00149
의 각 요소
Figure pct00150
에 대해,
Figure pct00151
가 0과 동일한지를 판단하고 - 여기서
Figure pct00152
는
Figure pct00153
로서 초기화되고,
Figure pct00154
는
Figure pct00155
의 d번째 디멘전에서 j번째 요소임 -,
l=1~L에 대해,
Figure pct00156
가 0과 동일하면,
Figure pct00157
를 설정하고 - 여기서
Figure pct00158
는 d번째 순열 버전에서의 xi의 인덱스이고,
Figure pct00159
는
Figure pct00160
의 역 연산자임 -,
i=1~N에 대해, 상기 희소 신호 벡터 x에서의 각각의 소스 심볼 xi에 대해, 다음의 수학식이 만족되는지 여부를 판단하고
Figure pct00161
;
(dm, dn)의 쌍에 대해 만족되면,
Figure pct00162
을 설정하기 위한 판단 수단 - 여기서
Figure pct00163
이고
Figure pct00164
임 -; 및
공식
Figure pct00165
에 따라, 상기 측정 벡터 y로부터 상기 복원된 희소 신호를 차감함으로써
Figure pct00166
를 갱신하기 위한 갱신 수단 - 여기서,
Figure pct00167
는 복원된 희소 신호 벡터를 나타내고, 이 신호 벡터에서 미복원 심볼은 0으로 설정되고, 상기 갱신 수단은 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 판정들을 반복함 - 를 포함한다.
미리 정해진 조건은, 예를 들면,
- 고정된 수의 반복에 도달;
- 상기 희소 신호 벡터에서의 모든 소스 심볼의 성공적인 복원;
-
Figure pct00168
- 여기서,
Figure pct00169
및
Figure pct00170
는 한번의 반복 전후의
Figure pct00171
를 나타냄 -
중 임의의 것을 포함한다.
상기 설명된 실시예는 본 발명을 제한하기 보다는 설명을 위해 주어진 것이라는 것을 유의하고, 본 발명의 사상 및 범위를 벗어나지 않고 수정 및 변경이 가해질 수 있다는 것을 당업자는 용이하게 이해할 수 있다. 그러한 수정 및 변경은 본 발명의 범위 및 첨부된 청구범위 내에서 고려된다. 본 발명의 보호 범위는 첨부된 청구범위에 의해 정의된다. 부가하여, 청구범위 내의 임의의 참조 번호는 청구범위를 제한하는 것으로 해석되어서는 안된다. 동사 "포함하는"의 사용 및 그의 활용은 청구범위 진술된 것들 이외의 구성요소 또는 단계의 존재를 배제하지 않는다. 구성 요소 또는 단계에 앞서는 부정관사 "a 또는 an"는 그러한 복수의 구성요소 또는 단계의 존재를 배제하지 않는다.

Claims (14)

  1. 희소 신호(sparse signal)를 측정하고 복원하는 방법으로서,
    a. MxN 측정 행렬 A를 이용하여 길이 N인 희소 신호 벡터 x={xi}에 대한 선형 측정을 수행하여 길이 M인 측정 벡터 y를 구하는 단계 - 상기 측정 행렬 A는,
    Figure pct00172
    로 정의되고,
    Figure pct00173
    는 d=1~D에 대한 측정 행렬 A의 서브-행렬이고,
    Figure pct00174
    는 NxN 랜덤 순열 행렬이고,
    Figure pct00175
    는,
    Figure pct00176
    로 정의되는 JxN 행렬이며,
    M<<N이고, J*L=N이며, 동일한 순열 행렬로부터 생성된 측정 심볼은 하나의 디멘전으로 지칭되고, D는 총 디멘전 수임 -;
    b. 상기 길이 M인 측정 벡터 y로부터 상기 길이 N인 희소 신호 벡터 x={xi}를 복원하는 단계를 포함하는
    방법.
  2. 제1항에 있어서,
    상기 희소 신호는 디지털 희소 신호이고 상기 희소 신호 벡터 x에서의 각각의 엔트리 xi는 유한 집합
    Figure pct00177
    - q=1~Q-1에 대해 Xq는 0이 아닌 숫자(non-zero figure)이고, Q는 상기 유한 집합의 크기임 - 으로부터 취해지고,
    상기 단계 b는:
    b1. D 최대 가능성 검출기(D maximum likelihood detector)를 이용하여 D 디멘전에 대해 최대 가능성 검출을 각각 수행하는 단계 - d번째 최대 가능성 검출기는 d번째 디멘전에 대한 최대 가능성 검출을 수행하기 위해 사용됨 - 와,
    b2. 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 단계 b1을 반복하는 단계와,
    b3. 최종 반복에서 D번째 최대 가능성 검출기의 출력에 기초하여 상기 희소 신호 벡터에서의 소스 심볼을 추정하는 단계를 포함하는
    방법.
  3. 제2항에 있어서,
    상기 단계 b1은, 상기 d번째 디멘전에 대해, 상기 d번째 디멘전의 측정 심볼 및 상기 d번째 디멘전에서의 사전 정보에 기초하여 최대 가능성 검출을 수행하여, 상기 희소 신호 벡터에서의 소스 심볼의 사후 정보를 생성하는 단계를 포함하고, 상기 d번째 디멘전에서 생성된 사후 정보는 (mod(d,D)+1)번째 디멘전에서 사전 정보를 갱신하기 위해 사용되는
    방법.
  4. 제3항에 있어서,
    상기 d번째 디멘전에서의 사후 정보
    Figure pct00178
    는, 수학식
    Figure pct00179
    에 의해 (mod(d,D)+1)번째 디멘전에서의 사전 정보
    Figure pct00180
    를 갱신하기 위해 사용되고,
    Figure pct00181
    는 이전 반복에서의 (mod(d,D)+1)번째 디멘전에서 생성되고 q=0~Q-1에 대해 (mod(d,D)+1)번째 디멘전에서 Xq가 되는 xi의 외적 확률을 나타내며,
    Figure pct00182
    는 제1 반복에서 1로서 초기화되고 다음 반복에서
    Figure pct00183
    로서 갱신되는
    방법.
  5. 제1항에 있어서,
    상기 희소 신호가 아날로그 희소 신호인 경우, 상기 방법 b는,
    i. d=1~D, j=1~J일 때
    Figure pct00184
    의 각 요소
    Figure pct00185
    에 대해,
    Figure pct00186
    가 0과 동일한지를 판단하는 단계 -
    Figure pct00187
    는
    Figure pct00188
    로서 초기화되고,
    Figure pct00189
    는
    Figure pct00190
    의 d번째 디멘전에서 j번째 요소임 - 와,
    ii. l=1~L에 대해,
    Figure pct00191
    가 0과 동일하면,
    Figure pct00192
    를 설정하는 단계 -
    Figure pct00193
    는 d번째 순열 버전에서의 xi의 인덱스이고,
    Figure pct00194
    는
    Figure pct00195
    의 역 연산자임 -를 포함하고,
    상기 방법은,
    u. i=1~N에 대해, 상기 희소 신호 벡터 x에서의 각각의 소스 심볼 xi에 대해, 다음의 수학식이 만족되는지 여부를 판단하는 단계
    Figure pct00196
    와,
    v. (dm, dn)의 쌍에 대해 만족되면,
    Figure pct00197
    을 설정하는 단계 -
    Figure pct00198
    이고
    Figure pct00199
    임 -를 더 포함하고,
    상기 방법은 상기 단계들 이후에,
    p. 공식
    Figure pct00200
    에 따라, 상기 측정 벡터 y로부터 상기 복원된 희소 신호를 차감함으로써
    Figure pct00201
    를 갱신하는 단계 -
    Figure pct00202
    는 상기 복원된 희소 신호 벡터를 나타내고, 상기 복원된 희소 신호 벡터에서 미복원 심볼은 0으로 설정됨 - 와,
    q. 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 단계들을 반복하는 단계를 더 포함하는
    방법.
  6. 제2항에 있어서,
    상기 미리 정해진 조건은,
    고정된 수의 반복이 도달했다는 것과,
    두 개의 연속 반복에서 상기 D번째 최대 가능성 검출기에서 생성된 사후 확률들 간의 차가 미리 정의된 임계치 아래에 있는 것 중 임의의 것을 포함하는
    방법.
  7. 제5항에 있어서,
    상기 미리 정해진 조건은,
    고정된 수의 반복이 도달했다는 것과,
    상기 희소 신호 벡터에서의 모든 소스 심볼의 성공적인 복원과,
    Figure pct00203
    -
    Figure pct00204
    및
    Figure pct00205
    는 한번의 반복 이전 및 이후의
    Figure pct00206
    를 나타냄 - 중 임의의 것을 포함하는
    방법.
  8. 희소 신호를 측정하고 복원하기 위한 장치로서,
    MxN 측정 행렬 A를 이용하여 길이 N인 희소 신호 벡터 x={xi}에 대한 선형 측정을 수행하여 길이 M인 측정 벡터 y를 구하는 측정 수단 - 상기 측정 행렬 A는,
    Figure pct00207
    로 정의되고,
    Figure pct00208
    는 d=1~D에 대한 측정 행렬 A의 서브-행렬이고,
    Figure pct00209
    는 NxN 랜덤 순열 행렬이고,
    Figure pct00210
    는,
    Figure pct00211
    로 정의되는 JxN 행렬이며,
    M<<N이고, J*L=N이며, 동일한 순열 행렬로부터 생성된 측정 심볼은 하나의 디멘전으로 지칭되고, D는 총 디멘전 수임 - 과,
    상기 길이 M인 측정 벡터 y로부터 상기 길이 N인 희소 신호 벡터 x={xi}를 복원하기 위한 복원 수단을 포함하는
    장치.
  9. 제8항에 있어서,
    상기 희소 신호는 디지털 희소 신호이고 상기 희소 신호 벡터 x에서의 각각의 엔트리 xi는 유한 집합
    Figure pct00212
    - q=1~Q-1에 대해 Xq는 0이 아닌 숫자이고, Q는 상기 유한 집합의 크기임 - 으로부터 취해지고,
    상기 복원 수단은:
    D 최대 가능성 검출기를 포함하고, D 디멘전에 대해 최대 가능성 검출을 각각 수행하기 위한 검출 수단 - d번째 최대 가능성 검출기는 d번째 디멘전에 대한 최대 가능성 검출을 수행하기 위해 사용되고, 상기 검출 수단은 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 검출을 반복함 - 과,
    최종 반복에서 D번째 최대 가능성 검출기의 출력에 기초하여 상기 희소 신호 벡터에서의 소스 심볼을 추정하기 위한 추정 수단을 포함하는
    장치.
  10. 제9항에 있어서,
    상기 d번째 디멘전에 대해, 상기 검출 수단에서의 상기 d번째 최대 가능성 검출기는, 상기 d번째 디멘전의 측정 심볼 및 상기 d번째 디멘전에서의 사전 정보에 기초하여 최대 가능성 검출을 수행하여, 상기 희소 신호 벡터에서의 소스 심볼의 사후 정보를 생성하는데 사용되고, 상기 d번째 디멘전에서 생성된 사후 정보는 (mod(d,D)+1)번째 디멘전에서 사전 정보를 갱신하기 위해 사용되는
    장치.
  11. 제10항에 있어서,
    상기 d번째 디멘전에서의 사후 정보
    Figure pct00213
    는, 다음의 수학식
    Figure pct00214
    에 의해 (mod(d,D)+1)번째 디멘전에서의 사전 정보
    Figure pct00215
    를 갱신하기 위해 사용되고,
    Figure pct00216
    는 이전 반복에서의 (mod(d,D)+1)번째 디멘전에서 생성되고 q=0~Q-1에 대해 (mod(d,D)+1)번째 디멘전에서 Xq가 되는 xi의 외적 확률을 나타내며,
    Figure pct00217
    는 제1 반복에서 1로서 초기화되고 다음 반복에서
    Figure pct00218
    로서 갱신되는
    장치.
  12. 제8항에 있어서,
    상기 희소 신호가 아날로그 희소 신호인 경우, 상기 복원 수단은,
    d=1~D, j=1~J일 때
    Figure pct00219
    의 각 요소
    Figure pct00220
    에 대해,
    Figure pct00221
    가 0과 동일한지를 판단하고 -
    Figure pct00222
    는
    Figure pct00223
    로서 초기화되고,
    Figure pct00224
    는
    Figure pct00225
    의 d번째 디멘전에서 j번째 요소임 -,
    l=1~L에 대해,
    Figure pct00226
    가 0과 동일하면,
    Figure pct00227
    를 설정하고 -
    Figure pct00228
    는 d번째 순열 버전에서의 xi의 인덱스이고,
    Figure pct00229
    는
    Figure pct00230
    의 역 연산자임 -,
    i=1~N에 대해, 상기 희소 신호 벡터 x에서의 각각의 소스 심볼 xi에 대해, 다음의 수학식이 만족되는지 여부를 판단하고
    Figure pct00231
    ,
    (dm, dn)의 쌍에 대해 만족되면,
    Figure pct00232
    을 설정하기 위한 판단 수단 -
    Figure pct00233
    이고
    Figure pct00234
    임 - 과,
    공식
    Figure pct00235
    에 따라, 상기 측정 벡터 y로부터 상기 복원된 희소 신호를 차감함으로써
    Figure pct00236
    를 갱신하기 위한 갱신 수단 -
    Figure pct00237
    는 상기 복원된 희소 신호 벡터를 나타내고, 상기 복원된 희소 신호 벡터에서 미복원 심볼은 0으로 설정되고, 상기 갱신 수단은 미리 정해진 조건이 만족될 때까지 복수의 반복을 위해 상기 판정들을 반복함 - 를 포함하는
    장치.
  13. 제9항에 있어서,
    상기 미리 정해진 조건은,
    고정된 수의 반복이 도달했다는 것과,
    두 개의 연속 반복에서 생성된 사후 확률들 간의 차가 미리 정의된 임계치 아래에 있는 것 중 임의의 것을 포함하는
    장치.
  14. 제12항에 있어서,
    상기 미리 정해진 조건은,
    고정된 수의 반복이 도달했다는 것과,
    상기 희소 신호 벡터에서의 모든 소스 심볼의 성공적인 복원과,
    Figure pct00238
    -
    Figure pct00239
    및
    Figure pct00240
    는 한번의 반복 이전 및 이후의
    Figure pct00241
    를 나타냄 - 중 임의의 것을 포함하는
    장치.
KR1020137021028A 2011-01-10 2011-01-10 희소 신호를 측정하고 복원하기 위한 방법 및 장치 KR101503201B1 (ko)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2011/070158 WO2012094804A1 (en) 2011-01-10 2011-01-10 Method and apparatus for measuring and recovering sparse signals

Publications (2)

Publication Number Publication Date
KR20130122779A true KR20130122779A (ko) 2013-11-08
KR101503201B1 KR101503201B1 (ko) 2015-03-16

Family

ID=46506748

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020137021028A KR101503201B1 (ko) 2011-01-10 2011-01-10 희소 신호를 측정하고 복원하기 위한 방법 및 장치

Country Status (6)

Country Link
US (1) US9256578B2 (ko)
EP (1) EP2664069A4 (ko)
JP (1) JP5693750B2 (ko)
KR (1) KR101503201B1 (ko)
CN (1) CN103250352B (ko)
WO (1) WO2012094804A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015072613A1 (ko) * 2013-11-18 2015-05-21 경상대학교 산학협력단 병렬 직교 매칭 퍼슛 기법을 이용하여 성긴 신호를 복원하는 장치 및 방법
WO2019074157A1 (ko) * 2017-10-11 2019-04-18 서울대학교산학협력단 시분할 이중통신 시스템에서 상향링크 전송 방법 및 장치
KR102156849B1 (ko) * 2019-06-27 2020-09-16 국방과학연구소 Lista를 이용하여 희소 신호를 복원하는 방법 및 이를 위한 기록매체

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101284569B1 (ko) * 2012-06-05 2013-07-11 광주과학기술원 유한체의 희소 신호 복구 방법 및 장치
US20140280426A1 (en) 2013-03-13 2014-09-18 International Business Machines Corporation Information retrieval using sparse matrix sketching
US10728298B2 (en) * 2013-09-12 2020-07-28 Qualcomm Incorporated Method for compressed sensing of streaming data and apparatus for performing the same
EP3039565B1 (en) * 2013-10-21 2019-03-20 Huawei Technologies Co., Ltd. Method for recovering a sparse communication signal from a receive signal
WO2015100559A1 (zh) * 2013-12-30 2015-07-09 华为技术有限公司 一种信号处理方法和装置
US9436974B2 (en) 2014-02-24 2016-09-06 Vencore Labs, Inc. Method and apparatus to recover scene data using re-sampling compressive sensing
CN104270156B (zh) * 2014-06-12 2017-05-31 湘潭大学 压缩感知中追踪缩减补偿机制测量矩阵构造方法
CN107592115B (zh) * 2017-09-12 2020-09-08 西北工业大学 一种基于非均匀范数约束的稀疏信号恢复方法
CN108962265B (zh) * 2018-05-22 2020-08-25 西华大学 一种基于叠加序列的语音信号压缩存储与重构方法
CN109412602B (zh) * 2018-09-29 2021-03-19 清华大学 基于低比特量化观测值的分布式稀疏信号检测方法及装置
CN109586728B (zh) * 2018-12-11 2022-10-25 哈尔滨工业大学 基于稀疏贝叶斯的调制宽带转换器框架下信号盲重构方法
CN110730002B (zh) * 2019-09-26 2023-06-16 上海交通大学 一种复信号测量矩阵与稀疏支持恢复联合设计方法
CN111475768B (zh) * 2020-03-11 2023-07-25 重庆邮电大学 一种基于低相干单位范数紧框架的观测矩阵构造方法
CN112422133B (zh) * 2020-10-30 2022-10-21 暨南大学 一种减法匹配追踪的二值稀疏信号恢复方法及其应用
CN112737595B (zh) * 2020-12-28 2023-10-24 南京航空航天大学 一种基于fpga的可逆投影压缩感知方法
CN113242043A (zh) * 2021-06-02 2021-08-10 中山迈雷特智能装备有限公司 一种电主轴测量数据远程传输中的数据压缩方法
CN114047509A (zh) * 2021-11-11 2022-02-15 西安电子科技大学昆山创新研究院 基于cd-asp算法的mimo雷达超分辨成像算法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070122041A1 (en) * 2005-11-29 2007-05-31 Baback Moghaddam Spectral method for sparse linear discriminant analysis
US7345603B1 (en) * 2006-11-07 2008-03-18 L3 Communications Integrated Systems, L.P. Method and apparatus for compressed sensing using analog projection
KR100936375B1 (ko) * 2007-12-18 2010-01-12 경희대학교 산학협력단 압축 센싱을 위한 효과적인 투영법
KR101565608B1 (ko) 2008-09-04 2015-11-03 코닌클리케 필립스 엔.브이. 분산 스펙트럼 감지
TW201022959A (en) 2008-10-30 2010-06-16 Ibm Method, device, computer program and computer program product for determining a representation of a signal
US20100246920A1 (en) 2009-03-31 2010-09-30 Iowa State University Research Foundation, Inc. Recursive sparse reconstruction
CN101640541A (zh) * 2009-09-04 2010-02-03 西安电子科技大学 一种稀疏信号的重构方法
US8219360B2 (en) * 2009-10-30 2012-07-10 Mitsubishi Electric Research Laboratories, Inc. Method for reconstructing sparse signals from sign measurements using greedy search
CN101742313B (zh) * 2009-12-10 2011-09-07 北京邮电大学 基于压缩感知技术的分布式信源编码的方法
US8204718B2 (en) * 2009-12-29 2012-06-19 Mitsubishi Electric Research Laboratories, Inc. Method for reconstructing sparse streaming signals using greedy search
CN101895297B (zh) * 2010-07-30 2012-12-26 哈尔滨工业大学 一种面向压缩感知的块稀疏信号重构方法
CN101908889B (zh) 2010-07-30 2013-03-20 哈尔滨工业大学 一种块稀疏度未知的稀疏信号压缩感知重构方法
EP2424117A3 (en) * 2010-08-24 2013-01-02 Her Majesty the Queen in Right of Canada, as represented by the Minister of Industry, through The Communications Research Centre Canada Sparse data compression
KR101995709B1 (ko) * 2012-11-05 2019-10-01 한국전자통신연구원 입력신호의 성김 정보를 이용한 동적 압축 센싱의 신호 압축 장치 및 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015072613A1 (ko) * 2013-11-18 2015-05-21 경상대학교 산학협력단 병렬 직교 매칭 퍼슛 기법을 이용하여 성긴 신호를 복원하는 장치 및 방법
WO2019074157A1 (ko) * 2017-10-11 2019-04-18 서울대학교산학협력단 시분할 이중통신 시스템에서 상향링크 전송 방법 및 장치
US11233626B2 (en) 2017-10-11 2022-01-25 Seoul National University R&Db Foundation Uplink transmission method and device in time-division duplex communication system
KR102156849B1 (ko) * 2019-06-27 2020-09-16 국방과학연구소 Lista를 이용하여 희소 신호를 복원하는 방법 및 이를 위한 기록매체

Also Published As

Publication number Publication date
KR101503201B1 (ko) 2015-03-16
US20130289942A1 (en) 2013-10-31
EP2664069A4 (en) 2016-03-02
CN103250352A (zh) 2013-08-14
WO2012094804A1 (en) 2012-07-19
JP5693750B2 (ja) 2015-04-01
US9256578B2 (en) 2016-02-09
JP2014505415A (ja) 2014-02-27
EP2664069A1 (en) 2013-11-20
CN103250352B (zh) 2016-01-27

Similar Documents

Publication Publication Date Title
KR20130122779A (ko) 희소 신호를 측정하고 복원하기 위한 방법 및 장치
Babu et al. DCT based Enhanced Tchebichef Moment using Huffman Encoding Algorithm (ETMH)
US20110052087A1 (en) Method and system for coding images
JP5705106B2 (ja) ユークリッド空間リード−マラー符号の軟判定復号を実行する方法
US8219890B2 (en) Denoising and error correction for finite input, general output channel
CN112398484A (zh) 一种编码方法及相关设备
JP2009005343A (ja) 通信路を介して受信されるシンボルの系列を誤り訂正符号の符号語に復号する方法およびシステム
Lai et al. Fault-tolerant preparation of stabilizer states for quantum Calderbank-Shor-Steane codes by classical error-correcting codes
Dumer et al. Distance verification for classical and quantum LDPC codes
Pham et al. Sublinear compressive sensing reconstruction via belief propagation decoding
TWI538416B (zh) 算術寫碼方法和解碼方法，算術寫碼器及算術解碼器
Al-Hashemi et al. A new lossless image compression technique based on Bose, Chandhuri and Hocquengham (BCH) codes
CN106664099B (zh) 使用统计特性编码脉冲矢量的方法
Kung et al. On belief propagation decoding of quantum codes with quaternary reliability statistics
JP5713986B2 (ja) 符号化装置、方法、プログラム及び記録媒体
JP2008504748A (ja) 誤り訂正符号化による離散普遍雑音除去（ｄｉｓｃｒｅｔｅｕｎｉｖｅｒｓａｌｄｅｎｏｉｓｉｎｇ）
Aziz et al. Sparse signals reconstruction via adaptive iterative greedy algorithm
Wu et al. Compressive sensing of digital sparse signals
Moghadam et al. Complex sparse projections for compressed sensing
Vaezi et al. Distributed lossy source coding using real-number codes
Severo et al. Your dataset is a multiset and you should compress it like one
CN115378582B (zh) 一种连续变量量子密钥分发残余误码消除的方法与系统
JP5345563B2 (ja) 解探索装置、解探索方法および解探索プログラム
CN115348010A (zh) 一种适用于连续变量量子密钥分发残余误码消除的方法与系统
Ravuri et al. Performance evaluation of compressive sensing matching pursuit backtracking iterative hard thresholding algorithm for improving reconstruction

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20180302

Year of fee payment: 4