KR100810521B1 - 일차 마코프 잡음 환경에 알맞은 국소 최적 검파기 - Google Patents

Abstract

이제까지 국소 최적 검파를 다룬 연구들에서는 대부분 관측을 독립이라 두었다. 그런데 독립 관측 모형에서 얻은 검파기는 의존성 잡음 성분이 있는 현대 고속 통신 시스템에서 성능이 떨어질 수 있다.

이 발명은 곱셈꼴 잡음과 일차 마코프 덧셈꼴 잡음이 일어나는 환경에서 약한 신호를 검파할 때 알맞은 국소 최적 검파기에 대한 것이다.

제안한 국소 최적 검파기의 점근 성능과 유한 표본 크기 성능을 얻어보면 일차 마코프 잡음 환경에서 성능을 가장 좋게 하기 위해 간섭끼리의 의존성을 생각하여 검파기를 꾸며야 함을 알 수 있다.

국소 최적, 1차 마코프 잡음 환경, 신호 검파

Description

일차 마코프 잡음 환경에 알맞은 국소 최적 검파기 {Locally Optimum Detectors in First-Order Markov Environment}

도 1은 분포가 같은 일차 마코프 정규 환경에서 ARE _{LO 0, LO 1}을 어림한 값과 정확한 값이다.

도 2는 분포가 같은 일차 마코프 미들턴 A급 환경에서 A=0.5일 때 ARE _{LO 0, LO 1}을 어림한 값이다.

도 3은 분포가 같은 일차 마코프 정규 환경에서 n=30일 때 T _{LO 0}과 T _{LO 1}의 검파 확률이다.

도 4는 분포가 같은 일차 마코프 정규 환경에서 ARE _{LO 2, LO 3}이다.

도 5는 분포가 같은 일차 마코프 정규 환경에서 r _w =0.6일 때, T _{LO 2}, T_LO3, T _{LO 4}, T _{LO 5}의 검파 확률이다.

대부분 신호 검파 문제에서는 표본화된 잡음 성분이 통계적으로 독립이라고 둔다. 그런데, 이산 시간 신호 검파 문제에서 표본화율이 높아지면 잡음을 독립이라 두는 것은 알맞지 않을 때가 많다. 독립 잡음에 가장 알맞은 검파기는 의존성 환경에서 동작하는 실제 신호 검파 시스템에서 바라는 성능을 내기 어려우며, 이를 푸는 것이 현대 고속 데이터 통신 시스템에서 점점 더 중요해지고 있다.

이러한 상황을 다루고자 잡음 성분들의 의존성을 고려한 여러 의존성 관측 모형들을 여러 사람들이 연구하였다. 이제까지 다룬 의존성 잡음 모형의 대표적인 보기로는 φ-혼합, m-의존성, 변환 잡음 모형 등이 있다. 이들 의존성 잡음 모형 가운데에서 일반적인 의존성 모형은 일차 마코프 모형인데, 통신 시스템에서 자주 볼 수 있는 환경이 바로 이 일차 마코프 꼴이라고 알려져 있다.

한편, 저전력 통신 시스템에 대한 관심이 늘어가면서, 약한 신호 검파의 중요성이 커지고 있으며, 따라서, 신호대잡음비가 낮을 때 성능이 뛰어난 검파기를 생각하는 것이 바람직하다. 이런 검파기를 얻는 방법 가운데 하나로, 국소 최적 검파기준을 생각할 수 있다. 국소 최적 검파기준은 검파기 얼개가 간단하고 신호 세기가 클 때도 꽤 좋은 성능을 지니므로, 많은 사람들이 널리 연구해 왔다. 다만, 이제까지 연구들은 대부분 통계적으로 독립인 표본을 쓰는 국소 최적 검파기만을 다뤘다.

이 발명에서는 의존성 관측 모형과 국소 최적 검파의 필요성을 바탕으로 일차 마코프 잡음 환경에서 알려진 신호와 확률 신호의 국소 최적 검파기의 검정 통계량을 제공하고자 한다.

신호와 잡음을 단순히 더하는 덧셈꼴 잡음 관측 모형은 검파, 추정, 여파, 복원과 같이 여러 신호처리 분야에 가장 널리 쓰인다. 하지만, 어떤 상황에서는 덧셈꼴 잡음이 아닌 잡음 모형이 필요하다. 보기를 들어, 무선 시스템에서 여러길을 거친 지연 신호 효과는 곱셈꼴 잡음으로 모형화하는 것이 알맞으며, 이때 마코프 과정을 쓸 수 있다.

신호 검파에서 이산 시간 관측 {X _i }이 곱셈꼴 잡음 {M _i }과 덧셈꼴 잡음 {W _i }의 영향을 받는다고 두자. 그러면 {X _i }을 다음과 같이 쓸 수 있다.

[수학식 1]

X _i = θe _i M _i ＋W _i i=1,2,…,n.

수학식 1에서, θ는 신호 세기, {e _i }는 알려진 신호를 나타내고 n은 한 표본의 관측 개수이다. 덧셈꼴 잡음 성분 {W _i }는 곱셈꼴 잡음 성분 {M _i }와 독립이고, 평균이 0인 일차 마코프 과정이라 둔다.

한편, W _i 와 M _i 의 확률밀도 함수는 각각 f _Wi (·)와 f _Mi (·)로 쓰고, W =(W ₁, W ₂, …, W _n )의 결합 확률밀도 함수와 M =(M ₁, M ₂, …, M _n )의 결합 확률밀도 함수는 각각 f _W ( w )와 f _M ( m )으로 쓴다. 여기서 w =(w ₁,w ₂, …, w _n )이고 m =(m ₁, m ₂, …, m _n )이다. 마코프 과정 {W _i }에서 W _{i -1}가 주어졌을 때 W _i 의 전이 확률밀도 함수, 곧, 조건부 확률 밀도 함수는 f

_i (w _i ｜w _{i -1})=f _i (w _i ｜w _{i -1})로 쓴다. 이때,

_i 는 i=2, …, n일 때 W _i ｜W _{i -1}을 나타내고

₁=W ₁이며, f

₁(w ₁｜w ₀)=f _{W 1}(w ₁)이다. 한편, 확률밀도 함수 f _M 과 {f _i }는 충분히 부드러워서 미분과 적분 순서를 바꾸는 것과 같은 몇 가지 수학 연산을 할 수 있도록 정규 조건을 만족시킨다고 둔다.

이제, 검파 문제는 귀무가설

[수학식 2]

H: φ _X (x｜θ), θ=0

와 대립가설

[수학식 3]

K: φ _X (x｜θ), θ＞0

가운데 하나를 고르는 가설검정 문제가 된다. 여기서,

[수학식 4]

는 관측 벡터 X =(X ₁, X ₂,…, X _n )의 결합 확률밀도 함수이고, 대립가설 K에서 θ는 모르는 것으로 둔다. 수학식 4에서 x =(x ₁, x ₂, …, x _n ), y _i (θ)=x _i -θe _i m _i, f

₁(x ₁｜x ₀)=f _{W 1}(x ₁), d m =dm ₁ dm ₂…dm _n 이고, θ=0으로 두면 귀무가설에서 X의 확률밀도 함수를 다음과 같이 얻을 수 있다.

[수학식 5]

일반화된 네이만-피어슨 정리를 바탕으로 얻을 수 있는 국소 최적 검파기는 오경보 확률이 같은 모든 검파기 가운데 원점에서 (θ=0) 검정력 함수 기울기가 가장 크고, 따라서, 국소 최적 검파기의 검정력은 구간 (0, θ _M )에서 다른 검파기들의 검정력보다 작지 않다. 이때, θ _M 은 검파기마다 다르다. 문헌 (I. Song, J. Bae, and S. Y. Kim, Advanced Theory of Signal Detection, Springer-Verlag, 2002.)에 따르면 국소 최적 검정 통계량은 일반적으로 다음과 같이 얻을 수 있다.

[수학식 6]

여기서, v는 수학식 6을 0으로 만들지 아니 하는 가장 작은 자연수이다.

곱셈꼴 잡음 성분의 평균 {E{M _i }}가 모두 0이 아닐 때를 먼저 생각하면 수학식 4를 써서

을 계산하여, 수학식 6을 바탕으로 알려진 신호{e _i }를 검파하는 국소 최적 검파기의 검정 통계량 아래와 같이 얻을 수 있다.

[수학식 7]

여기서,

[수학식 8]

α _i = e _i E{M _i }

이고

[수학식 9]

g _{A, i} (x, y, z)= ▽ _y Q _{i , i +1}(y, z｜x, y)

=

_{10, i} (y｜x)+

_{01, i} (z｜y), i= 1, 2,…, n

는 국소 최적 검파기의 얼개를 정의하는 국소 최적 비선형성이다. 한편, 연산자

[수학식 10]

은 변수 a에 대한 편미분을 나타내고, p,q=0,1,2일 때

[수학식 11]

Q _{i , j} (x, y｜z, w) = ln{f _i (x｜z)f _i (y｜w)}

이고

[수학식 12]

이며, x ₀=x _{n +1}=0이고, e ₀=e _{n +1}=0이다.

수학식 7에서 검정 통계량 T _{LO 0}(x)는 곱셈꼴 잡음 성분 {M _i }의 통계적 특성(곧, 전달 신호들의 평균 {α _i })과 덧셈꼴 잡음 성분 {W _i }의 통계적 특성 (곧, 국소 최적 비선형성 {g _{A , i} })에 의존한다. 검정 통계량 T _{LO 0}(x)가 곱셈꼴 잡음 성분의 통계적 특성에 얼마나 의존하는 지는 덧셈꼴 잡음 성분의 통계적 특성에 얼마나 의존하는지와 확실히 다르다. 구체적으로는, T _{LO 0}(x)는 곱셈꼴 잡음 성분의 평균에만 의존하고, 덧셈꼴 잡음 성분(특정 통계량이 아니라)의 분포에 의존한다. 바꾸어 말하면, 곱셈꼴 잡음 성분의 평균 가운데 적어도 하나가 0이 아닐 때에는, 덧셈꼴 잡음 성분들이 곱셈꼴 잡음 성분보다 국소 최적 검파기의 검정 통계량에 더 영향을 미친다고 할 수 있다.

한편, 덧셈꼴 잡음 성분이 독립이면, q≥1일 때

이고,

이다. 따라서, 검정 통계량은 다음과 같다.

[수학식 13]

여기서,

[수학식 14]

는 문헌 (I. Song, J. Bae, and S. Y. Kim, Advanced Theory of Signal Detection, Springer-Verlag, 2002.)의 독립이고 분포가 같은 잡음에서 정의된 국소 최적 비선형성 g _LO (x)이다.

수학식 7과 수학식 13을 견주어 보면 검정 통계량 T _{LO 1}(x)는 기억 없는 선형조합으로 매개 변수 α _i 를 오직 관측 x_i의 함수와 곱하지만, T _{LO 0}(x)는 α _i 를 너비가 셋인 창을 이동하며 (시간 또는 공간) 가리킴 수 i에서 얻은 관측 {x _{i -1},x _i ,x _{i +1}}의 함수와 곱한다는 것을 알 수 있다.

알려진 신호를 검파하는 국소 최적 검정 통계량을 얻으려면 대부분 일차 미분으로 충분하다고 알려져 있나, 곱셈꼴 잡음 성분의 평균이 모두 0이면 검정 통계량 T _{LO 0}(x)는 0이고, 따라서, 수학식 6에서 v=2일 때 국소 최적 검파기의 검정 통계량을 다시 얻어야 한다.

문헌 (J. Lee, Locally Optimum Detection under First-Order Markov Noise Environment, PhD. Diss., Korea Advanced Inst. Science, Techn., Daejeon, 2006.)에서 얻은 결과를 수학식 6에 써서 곱셈꼴 잡음 성분의 평균이 모두 0일 때 국소 최적 검파기의 검정 통계량을 얻으면 아래와 같다.

[수학식 15]

여기서, i=1,2,…,n일 때

[수학식 16]

[수학식 17]

이고,

[수학식 18]

K _M (i,j)=e _i e _j E{M _i M _j }

은 전송 신호 e _i M _i 와 e _j M _j 사이의 상관이다.

검정 통계량 T _{LO 0}(x)와 마찬가지로, 곱셈꼴 잡음 성분의 평균이 모두 0일 때 얻은 검정 통계량 T _{LO 2}(x)는 곱셈꼴 잡음 성분 {M _i }와 덧셈꼴 잡음 성분 {W _i }의 통계 적 특성에 의존한다. 특히, 검정 통계량 T _{LO 2}(x)를 얻으려면 곱셈꼴 잡음 성분의 이차 특성과 덧셈꼴 잡음 성분의 전이 확률밀도 함수들의 일차 미분과 이차 미분이 필요하다. 검정 통계량 T _{LO 2}(x)는 신호 세기 {e _i }와 전송 신호들 사이의 상관 K _M (i,j)를 통해 곱셈꼴 잡음 성분 {M _i }의 통계적 특성에 의존하고, 비선형성 {g _A,i ,h _A,i ,h _D,i }으로 나타나는 덧셈꼴 잡음 성분 사이의 의존성 때문에 인접한 관측 사이에 통계적 의존성이 생긴다.

한편, 검정 통계량 T _{LO 2}(x)는 x에서 이어진 세 관측을 동시에 사용한다. 수학식 15의 첫째와 둘째 덧셈(g _A,i 와 h _A,i 를 포함하는 항들)은 검정 통계량 T _{LO 2}(x)가 곱셈꼴 잡음의 영향을 나타내는 상관 {K _M (i,j)}을 선형 조합하고자 크기가 3인 창을 쓰며, 덧셈꼴 잡음 성분의 영향을 고려하고자 국소 최적 비선형성 {g _A,i , h _A,i }를 쓴다는 것을 나타낸다. 검정 통계량 T _{LO 2}(x)에서 덧셈꼴 잡음의 마코프 성질은 수학식 15의 셋째 덧셈항(h _D,i 가 포함된 항)에 나타난다. 여기서, 비선형성 h _D,i 는 이어진 두 관측 x _i , x _{i +1}과 이어진 두 성분 e _i M _i 와 e _{i +1} M _{i +1} 사이의 상관 K _M (i,i+1)을 곱하여 계산한다. 줄여 말하면, 셋째 항은 곱셈꼴 잡음 성분이 마코프가 아니더라도, 어느 정도 일차 마코프 성질을 보이며, 결과적으로 덧셈꼴 잡음이 일차 마코프 성질을 나타낼 때 국소 최적 검정 통계량에 영향을 미치게 된다.

이제, 덧셈꼴 잡음 성분 {W _i }가 독립 확률 과정이면, 검정 통계량

[수학식 19]

을 얻는다. 이는 q≥1 일 때

_{pq , i} (x｜y)=0,

_{10, i} (x｜y)=g _{1, i} (x)이고

_{20, i} (x｜y)=g _{2, i} (x)이기 때문이며, 여기서,

[수학식 20]

이다. 독립 덧셈꼴 잡음에서 얻은 검정 통계량 T _{LO 3}(x)는 덧셈꼴 잡음 성분의 전이 분포 정보를 필요로 하지 않는다. 그러나, 여전히 곱셈꼴 잡음 성분의 상관에 의존한다. 이때, {e _i M _i }을 확률 신호로 본다면, 검정 통계량 T _{LO 3}(x)는 문헌 (I. Song, J. Bae, and S. Y. Kim, Advanced Theory of Signal Detection, Springer-Verlag, 2002.)의 독립 잡음 환경에서 확률 신호의 검정 통계량과 같음을 쉽게 알 수 있다.

한편, 곱셈꼴 잡음 성분 {M _i }가 독립 확률 과정일 때는 수학식 15에서

[수학식 21]

을 얻을 수 있으며, 여기서, σ ² _M,i =E{M ² _i }는 곱셈꼴 잡음 M _i 의 분산이다. 검정 통계량 T _{LO 4}(x)는 곱셈꼴 잡음의 기대값이 모두 0일 때의 검정 통계량이지만 겹덧셈 없이 홑덧셈만으로 나타난다. 곧, T _{LO 4}(x)의 얼개는 평균이 0이 아닌 때 얻은 T _{LO 2}(x)의 얼개와 비슷하다. 검정 통계량 T _{LO 4}(x)는 기본적으로 전송 신호의 분산 {e ² _i σ ² _M,i }을 알려진 신호로 두고, 덧셈꼴 잡음의 전이 확률밀도 함수의 일차 미분뿐만 아니라 이차 미분에서 얻어진 비선형성을 써서 검파하는 것으로 볼 수 있다.

끝으로, 덧셈꼴 잡음 성분 {W _i }와 곱셈꼴 잡음 성분 {M _i }가 모두 독립 확률 과정이면, T _{LO 2}(x), T _{LO 3}(x) 또는 T _{LO 4}(x)에서

[수학식 22]

를 얻는다. 수학식 22에서 K _M (i, i)를 기대값이 0인 확률 신호의 i째 성분 분산 (또는 이차 적률) K _S (i, i)로 바꾸면, 기대값이 0이고 독립인 확률 신호를 검파할 수 있는 검정 통계량을 얻는다.

지금까지는 수학식 1에서 {e _i }가 알려진 신호 성분일 때 국소 최적 검파를 다루었다. 수학식 1에서 유도한 결과인 수학식 7, 13, 15, 19, 21, 22는 확률 신호를 검파하는 국소 최적 검정 통계량을 얻을 때 편리하게 쓰일 수 있다. 형식적으 로, 확률 신호 모형

[수학식 23]

X _i = θS _i M _i +W _i i=1,2,…,n

의 국소 최적 검정 통계량은 수학식 6을 써서 유도할 수 있다. 그 대신 앞에서 얻은 결과들을 쓰면, 새로운 결과를 유도를 할 때 많은 작업을 줄일 수 있다.

특히, 수학식 23에서 확률 신호를 검파하는 국소 최적 검정 통계량은 검정 통계량 T _{LO 0}(x)와 T _{LO 2}(x)에서 몇 몇 변수를 적절히 바꾸어 얻을 수 있다. 보기를 들어,

[수학식 24]

은 수학식 23에서 확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0이 아닐 때, 수학식 7에서 α _i 를 E{S _i M _i }로 바꿔 얻은 확률 신호를 검파하는 국소 최적 검정 통계량이다.

이와 비슷하게, 수학식 23에서 매개 변수 {E{S _i M _i }}가 모두 0일 때, 수학식 15에서 K _M 을 K _SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량을 다음과 같이 얻는다.

[수학식 25]

수학식 25에서,

[수학식 26]

K _SM (i,j)=E{S _i M _i S _j M _j }

는 S _i M _i 와 S _j M _j 곱의 상관 (또는 공분산) 이고, S _{n +1}=0, M _{n +1}=0이다.

전이 확률밀도 함수가 주어졌을 때 국소 최적 검정 통계량 T_LO0(x), T_LO2(x)와 이를 이루는 국소 최적 비선형성 g _{A , i} , h _{A , i} , h _{D , i} 을 살펴보자. 먼저, 아래 조건부 정규 확률밀도 함수를 생각하자.

[수학식 27]

여기서, r은 X와 Y의 상관 계수를 나타내고, m _B 와 σ ² _B 은 각각 확률 변수 B의 평균과 분산을 나타낸다. 잘 알려져 있듯이 수학식 27에서 보인 조건부 확률밀도 함수 f _{Y ｜ X} (y｜x)에서, X=x일 때 Y의 조건부 평균은 E{Y｜X}=m _Y +r

(x-m _X )이고, 조건 부 분산은 V{Y｜X}=σ ² _Y (1-r ²)이다.

이제,

_i 의 전이 확률밀도 함수 f _i (y｜x)가 수학식 27에서 보인 조건부 정규 확률밀도 함수와 같다고 하고 i=1,2,…,n일 때 r=r _i 라 두면, 표 1과 2를 얻는다. 이 표에 나온 결과에서 g _{A , i} (x,y,z)=x _{1, i} y-x _{2, i} x-x _{2, i +1} z, h _{A , i} (x,y,z)=-x _{1, i} , h _{D , i} (x,y)=x _{2, i +1}을 얻는데, 여기서, x _{1, i} = (1-r ² _i r ² _{i +1})/σ ² _i (1-r ² _i )(1-r ² _{i +1}) 이고 x _{2, i} =r _i /σ _{i -1} σ _i (1-r ² _i )이며, σ ² _i 은 W _i 의 분산을 나타내고, σ ² ₀=1, r _{n +1}=0이다. 한편, 정규 환경에서 덧셈꼴 잡음 성분이 독립이면 r _i =0이므로 g _{A , i} (x,y,z) ∝ y를 얻는데, 이는 수학식 9에서 정의된 비선형성 g _{A , i} 가 수학식 14에서 정의된 g _{1, i} 을 제대로 일반화한 것임을 간접적으로나마 확인하는 것이다.

[표 1]

정규 덧셈꼴 잡음 환경에서 일차 국소 최적 비선형성

[표 2]

정규 덧셈꼴 잡음 환경에서 이차 국소 최적 비선형성

이제, 표 1과 2를 바탕으로 검정 통계량 T_LO0(x)을 써 보면 아래와 같다.

[수학식 28]

수학식 28은, 앞에서 일반적으로 말한 바와는 달리, 정규 마코프 환경에서는 검정 통계량 T _{LO 0}(x)가 너비 3인 창을 쓰지 아니 한다는 것을 말한다.

곱셈꼴 잡음 성분의 평균이 모두 0이면, 비슷한 방법으로 다음을 얻는다.

[수학식 29]

정규 환경에서 h _{A , i} (x,y,z)와 h _{D , i} (x,y)가 상수이므로, 이 항들을 포함한 비선형성은 검파에 아무런 역할을 하지 않는다. 따라서, 검정 통계량 T _{LO 2}(x)에서 없애도 국소 최적 검파기의 검파 성능에 영향을 미치지 않으며, 수학식 29는 이 항들 없이 쓴 것이다. 일반적으로 lnf _i (y｜x)가 다항식이고 (x,y)의 최고차가 2일 때, 비 선형성 h _{A , i} (x,y,z)와 h _{D , i} (x,y)는 상수이다.

이제 덧셈꼴 잡음 성분 {W _i }가 분포가 같고 그 분포가 일차 마코프 정규 (줄여서, 일마정) 분포와 일차 마코프 미들턴 A급 (줄여서, 일마미) 분포일 때, (상대적인) 검파기의 성능 특성을 살피고 견주어 보고자 한다. 한편, 수학식 7, 13, 15, 19, 21, 22에서 알 수 있듯이 국소 최적 검파기는 곱셈꼴 잡음 성분 {M_i}의 일차와 이차 특성에만 의존하므로, {M _i }의 분포를 따로 생각하지 않고 다만 일차와 이차 적률만 생각한다.

비정규 잡음 모형의 하나로 널리 쓰이는 미들턴 A급 확률밀도 함수는 문헌(P. A. Delaney, "Signal detection in multivariate Class-A interference," IEEE Trans. Commun., vol. 43, pp. 365-373, Feb.-Apr. 1995.)에 따르면

[수학식 30]

이고, 그 전이 확률밀도 함수는 아래와 같다.

[수학식 31]

여기서, A는 겹침 가리킴 수이고,

²는 평균 세기이며, r=E{XY}는 상관 계수 이고,

[수학식 32]

이며,

[수학식 33]

이다. 수학식 30에 보인 확률밀도 함수 f _X (x)는 평균은 0이고, 분산은 {(1-e ^-A )/A+γ}

²/(1+γ)이다. 여기서, γ는 정규 요소이고, 겹침 가리킴 수 A와 정규 요소 γ는 0보다 작지 않은데, 문헌 (D. Middleton, "Procedures for determining the parameters of the first-order canonical models of Class A and Class B electromagnetic interference," IEEE Trans. Electromagn. Compact., vol. 21, pp. 190-208, Aug. 1979.)에 따르면 실제 관측 자료에서는 겹침 가리킴 수 A와 정규 요소 r의 값이 각각 10^-4에서 0.5, 10^-5에서 0.1사이라고 알려져 있다. 확률밀도 함수 수학식 30은 정규 혼합 확률밀도 함수이고 ε-혼합 확률밀도 함수의 한 가지이다.

표본 크기가 충분히 클 때, 검파기의 점근 성능을 얻어 견주어 보면 보통 닫힌 꼴로 결과를 얻을 수 있다. 문헌 (I. Song, J. Bae, and S. Y. Kim, Advanced Theory of Signal Detection, Springer-Verlag, 2002.)에 따르면 점근 상대 효율은 두 검파기의 점근 성능을 견줄 때 널리 쓰이는데, 점근 성능을 견주어 보는 것은 특히 약한 신호를 검파하는 문제에 쓸모가 있다.

검파기 D ₁에 대한 검파기 D ₂의 점근 상대 효율은 아래와 같이 나타낼 수 있다.

[수학식 34]

여기서,

[수학식 35]

을 검파기 D_i의 효능이라 부른다. 수학식 35에서 T _{i , n} (X)는 표본 크기가 n일 때 검파기 D_i의 검정 통계량을 나타내고, E ₁{T _{i , n} (X)}와 V ₀{T _{i , n} (X)}는 각각 T _{i , n} (X)의 대립가설에서의 기대값과 귀무가설에서의 분산이며, i=1,2일 때

[수학식 36]

이다. 한편, 수학식 6을 바탕으로

임을 알 수 있다. 검파기 D ₁이 검파기 D ₂ 보다 적은 관측을 쓰면 (곧, 성능이 더 나으면) ARE _1,2＞1이다.

한편, 표본의 크기가 유한할 때에는, 검파기들의 유한 표본 크기 성능을 얻어 서로 견주고자 한다. 유한 표본 크기 성능 비교는 점근 성능 비교보다 실제로 쓸모있는데, 이는 실제 검파기에서 쓰는 표본은 크기가 유한하기 때문이다. 다만, 표본 크기가 작을 때에도 유한 표본 크기 성능을 닫힌 꼴로 나타내기는 매우 어렵다.

이 발명에서는 정규 잡음 환경에서 모의 실험하여 검파기들의 유한 표본 크기 성능을 얻고 견주어 본다. 이때, 표본 크기 n을 30, 오경보 확률 P _fa 을 10^-3으로 두고 검파 확률을 얻는다. 한편, 오경보 확률 P _fa =10^-3을 만족시키는 검파기 문턱값은 10⁷번 거듭 모의 실험하여 얻었고, 검파 확률은 모든 신호세기마다 10⁶번 거듭 모의 실험하여 얻었다.

먼저 검정 통계량 T _{LO 0}(X)를 쓰는 검파기의 효능을 얻으면 다음과 같다.

[수학식 37]

ξ _{LO 0}=[I _10,10]₀₀+2[I _10,01]₀₁+[I _01,01]₁₁.

여기서,

[수학식 38]

이고, u, v, s, t=0,1,2,10,01,20,11,02이고 i, j, k, l=1,2,…,n일 때

[수학식 39]

는 일반화된 피셔 정보 함수이며, dx=dx ₁ dx ₂…dx _n이다. 수학식 12, 14, 20에 보인 국소 최적 비선형성의 뜻매김을 살펴보면, 수학식 39에서 u, v, s, t=0,1,2일 때,

_{2, i} (x｜y)=g _{2, i} (x),

_{1, i} (x｜y)=g _{1, i} (x),

_{0, i} (x _i ｜x _{i -1})=1로 볼 수 있다. 한편, 검정 통계량 T _{LO 1}(X)를 바탕으로 하는 검파기의 효능은 아래와 같다

[수학식 40]

여기서,

[수학식 41]

이다.

이제, f

_i (·｜·)는 평균이 0이고 분산은 1인 조건부 정규 확률밀도 함수이고 f _Wi (·)는 표준 정규 확률밀도 함수인 일마정 환경을 생각하자. 이때, 덧셈꼴 잡음 성분 W_i와 W_i-1의 상관 계수를 r _w =E{W _i W _{i -1}}로 나타내면 표 3을 얻을 수 있다.

[표 3]

분포가 같은 일마정 환경에서 I _{u , v , s , t , i , j , k , l} 의 값

이 표의 결과와 수학식 34, 37, 40에서 T _LO1에 대한 T _LO0의 점근 상대 효율을 얻으면 다음과 같다.

[수학식 42]

여기서,

[수학식 43]

이고,

[수학식 44]

이며, l〈0일 때 α_l=0이고, 0⁰=1이다. 수학식 42에 쓰였듯 β ₀(r)=1+rβ ₁(r)임은 새겨둘만하다. 한편,

는 전송 신호열 {αi}와 이것을 k만큼 움직인 열 사이의 정규화한 상관인 바, {α _i }의 k차 유사성을 나타낸다. 여기서, β ₀(0)=1이고, 슈바르츠 부등식에서 │β1(0)│〈1이다. 수학식 42에서 ARE _LO0,_LO1은 r _W의 부호와 크기 뿐 아니라 매개 변수 β ₁(r _W)을 거쳐 전송 신호열 {α _i}에도 의존함을 알 수 있다. 이는 관측 모형인 수학식 1에서 덧셈꼴 잡음을 일차 마코프라고 두었기 때문이다.

전송 신호열 {a _i}가 주어지면, 수학식 42를 써서 ARE _LO0 , _LO1 을 해석 적분으로 계산할 수 있다. 보기를 들어, {a _i }가 {1} _∞,

_∞,

_∞,{2,0,0,0}_∞ 일 때, ARE _LO0,_LO1은 각각 1,

,

,

이며, 이를 도 1에 보였다. 여기서, {c ₁,c ₂,…,c _k } _n 은 길이가 n이고 주기가 k인 열을 나타낸다. 한편, 일반적으로 ARE _LO0 , _LO1 을 계산하기는 쉽지 않다. 다행히, 표본 크기 n이 100보다 크면, 점 근 상대 효율을 유한 표본 상대 효율로 어림할 수 있음을 도 1에서 알 수 있다. 도 1에서 ARE _LO0 , _LO1 은 │rw│에 따라 커지는 것을 볼 수 있다. 이는 │rw│가 커질수록, 덧셈꼴 잡음의 마코프 성질이 더 크게 영향을 미치기 때문이다.

이제, 일마미 환경을 생각하자. 이때, fw_i(·│·)는 수학식 31에 보인 조건부 확률밀도 함수이고, fw_i(·)는 수학식 30에 보인 확률밀도 함수이며 ζ²=1이고, A=0.5이다. 분포가 같은 일마정 환경에서와 마찬가지로, 분포가 같은 일마미 환경에서도 ARE _LO0 , _LO1 을 n=100에서 어림하였다. 한편, i,j,k,l=1,2,…,n일 때 I_{1,1,0,0, i,j,k,l} 은 해석적으로 적분할 수 없지만 다행히, 등비 수열을 써서 어림할 수 있다. 보기를 들어 표 4에 보인 바처럼, A=0.5이고 r=0.01인 일마미 환경에서 │r _W │=0.9, 0.6, 0.3일 때 α를 각각 0.753, 0.486, 0.239라 두면, I _{1,1,0,0, i,j,k,l} 은 첫 항이 I _{1,1,0,0, i,j,k,l} 이고, 공비가 {sgn(r _W )α}이며, │i-j│값만큼 공비를 곱하는 등비 수열로 어림할 수 있다. 이를 식으로 나타내면, I _{1,1,0,0, i,j,k,l}

{sgn(r _W )α}^{│ i-j │} I _{1,1,0,0, i,j,k,l} 과 같다. 도 2에 보였듯 ARE _LO0 , _LO1 을 어림한 값은 모두 1보다 크고, │rw│가 커지면 같이 커진다. 일마미 환경에서는 r _W =0이 {W _i }가 독립임을 뜻하지 아니 하기 때문에, r _W =0일 때에도 일반적으로 ARE _LO0 , _LO1 은 1보다 크다. 이는 관측 모형 수 학식 1에서 T _LO0 이 T _LO1 보다 더 나은 성능을 보임을 뜻한다.

[표 4]

A=0.5이고 r=0.01인 일마미 환경에서 I _{1,1,0,0, i,j,k,l} 을 수치 적분으로 얻은 값과 (N) 등비 수열로 어림한 값 (A)

[표 5]

A=0.5이고 r=0.1인 일마미 환경에서 I _{1,1,0,0, i,j,k,l} 을 수치 적분으로 얻은 값과 (N) 등비 수열로 어림한 값 (A)

관측 모형 수학식 1에서 n=30일 때, T _LO0 과 T _LO1 의 검파 확률을 얻어 도 3에 보였다. 이때 덧셈꼴 잡음 성분 {W _i }는 분포가 같고, i=1,2,…,30일 때, E{W _i ²}=1이고 E{W _i W _{i -1}}=r_W인 일마정 잡음이라 두었다. 한편, 곱셈꼴 잡음 성분 {M _i }는 i,j=1,2,…,30일 때,

이고 │r _M │〈1인 정규 분포를 따른다고 두었으며, e _i =1로 두었다. 그러면,

을 얻는다.

도 3에서 다음을 알 수 있다. 먼저, T _LO0 의 검파 확률이 T _LO1 의 검파 확률보다 높다. 또한, 신호가 약할 때에 r _W 가 같더라도 r _M 이 커질수록 T _LO0 과 T _LO1 의 검파 확률은 커진다. 이는 표본 크기가 유한할 때 r _M 이 크면 '느린 감쇄'와 비슷한 환경이 되고, r _M 이 작으면 '빠른 감쇄'와 비슷한 환경이 되기 때문이다. 덧붙여, 신호 세기가 작은 곳에서는, 신호 세기가 같으면 │r _W │가 커질수록 T _LO0 과 T _LO1 의 검파 확률 차이가 커진다.

검정 통계량 T _LO2 (X)을 쓰는 검파기의 효능은 아래와 같다.

[수학식 45]

여기서,

[수학식 46]

[수학식 47]

이고

[수학식 48]

이다.

한편, 검정 통계량 T _LO3 (X)를 바탕으로 하는 검파기의 효능은 아래와 같다.

[수학식 49]

여기서,

[수학식 50]

[수학식 51]

[수학식 52]

이고

[수학식 53]

이다.

분포가 같은 일마정 환경을 생각하면 수학식 45와 49에서 아래를 얻을 수 있 다.

[수학식 54]

[수학식 55]

위 수학식 54와 55를 바탕으로 ARE _LO2 , _LO3 을 얻어 도 4에 보였다. 도 4에서 │r _W │가 커지면, ARE _LO2 , _LO3 또한 커짐을 볼 수 있다. 한편, 쉽게 예상할 수 있는 바와 같이 r _M r _W 의 부호와 알려진 신호 {e _i }를 따라 ARE _LO2 , _LO3 의 값이 달라진다. 보기를 들어, i=1,2,…,n일 때에는 e _i =1이면 ARE _LO2 , _LO3 은 r _M r _W 〉0일 때 가장 값이 크다. 한편, i=1,2,…,n일 때에는 e _i =(-1) ⁱ 이면 ARE _LO2 , _LO3 은 r _M r _W 〈0일 때 가장 값이 크다. 특히, i=1,2,…,n일 때 r _M =ρ, e _i =1에서 얻은 ARE _LO2,LO3 은, i=1,2,…,n일 때 r _M =-ρ, e _i =(-1) ⁱ 에서 얻은 ARE _LO2,LO3 과 그 값이 같다. 한편, r _W =0이면 T _LO2 와 T _LO3 이 같기 때문에 ARE _LO2,LO3 은 1이다. 끝으로, 여기서는 보이지 않았지만, ARE _LO2,LO4 와 ARE _LO2,LO5 도 ARE _LO2,LO3 과 비슷하게 얻을 수 있다.

도 5에 n=30이고 r _W =0.6일 때, T _LO2 , T _LO3 , T _LO4 , T _LO5 의 검파 확률을 보였다. 먼저, 신호가 약할 때 T _LO2 는 나머지 세 검파기보다 검파 확률이 더 높다. 또한, 신호가 작을 때 T _LO2 와 T _LO5 의 성능은 r _M 이 커질수록 그 차이가 줄어든다. 이는 r _M 이 커지면 '느린 감쇄'와 비슷한 환경이 되기 때문이다.

이 발명에서는 곱셈꼴 잡음의 평균 가운데 적어도 하나가 0이 아닐 때, 관측 벡터의 결합 확률밀도 함수를 일차 미분하여 국소 최적 검파기 T _LO0 을 얻었다. 곱셈꼴 잡음의 평균이 모두 0일 때에는, 관측 벡터의 결합 확률밀도 함수를 이차 미분하여 국소 최적 검파기 T_LO2를 얻었다. 국소 최적 검정 통계량은 곱셈꼴 잡음의 평균 또는 상관에 의존하나 곱셈꼴 잡음의 다른 통계량에는 의존하지 않았다. 그리고, 덧셈꼴 잡음 성분의 분포에 의존할 뿐 다른 특정한 통계량에는 의존하지 않았다. 제안한 검파기들은 일차 마코프 잡음 환경에서 약한 신호 검파에 최적이었다.

Claims (16)

1. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파 방법의 검정 통계량이 하기의 수학식 7로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   여기서,

   α_i=e _i E{M _i }

   이고

   

   는 국소 최적 검파기의 얼개를 정의하는 국소 최적 비선형성이며,

   

   은 변수 α에 대한 편미분을 나타내고, p,q=0,1,2일 때

   

   이고

   

   이며, x₀=x_n+1=0이고, e ₀=e _n+1=0이다.
2. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파 방법의 검정 통계량이 하기의 수학식 15로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   여기서, i=1,2,…,n일 때

   

   이고,

   K _M (i,j)=e _i e _j E{M _i M _j }

   은 전송 신호 e _i M _i 와 e _j M _j 사이의 상관이다.
3. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파 방법의 검정 통계량이 하기의 수학식 19로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   (수학식 19)

   여기서,

   
4. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파 방법의 검정 통계량이 하기의 수학식 21로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   (수학식 21)

   여기서, o ² _M,i =E{M ² _i}는 곱셈꼴 잡음 M _i 의 분산이다.
5. 제1항에 있어서,

   확률 신호 모형

   X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

   에서, 확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0이 아닐 때, 수학식 7에서 α _i 를 E{S _i M _i }로 바꿔 얻은 확률 신호를 검파하는 국소 최적 검정 통계량은 하기의 수학식 24로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   
6. 제2항에 있어서,

   확률 신호 모형

   X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

   에서,

   확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0일 때, 수학식 15에서 K _M 을 K _SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량이 하기의 수학식 25로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   여기서,

   K _SM (i,j)=E{S _i M _i S _j M _j }

   는 S _i M _i 와 S _j M _j 곱의 상관 (또는 공분산) 이고, S _{n + 1} =0, M _{n + 1} =0이다.
7. 제4항에 있어서,

   확률 신호 모형

   X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

   에서,

   확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0일 때, 수학식 21에서 K _M 을 K _SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량이 하기의 수학식으로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   여기서,

   K _SM (i,j)=E{S _i M _i S _j M _j }

   는 S _i M _i 와 S _j M _j 곱의 상관 (또는 공분산) 이고, S _{n + 1} =0, M _{n + 1} =0이다.
8. 제3항에 있어서,

   확률 신호 모형

   X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

   에서,

   확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0일 때, 수학식 19에서 K _M 을 K _SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량이 하기의 수학식으로 나타나는 것을 특징으로 하는 국소 최적 검파 방법.

   

   여기서,

   K _SM (i,j)=E{S _i M _i S _j M _j }

   는 S _i M _i 와 S _j M _j 곱의 상관 (또는 공분산) 이고, S _{n + 1} =0, M _{n + 1} =0이다.
9. 일차 마코프 잡음 환경에서 알려진 신호{e_i}를 검파하는 국소 최적 검파기의 검정 통계량이 하기의 수학식 7로 나타나는 것을 특징으로 하는 국소 최적 검파기.

   

   α _i =e _i E{M _i }

   이고

   

   는 국소 최적 검파기의 얼개를 정의하는 국소 최적 비선형성이며,

   

   은 변수 α에 대한 편미분을 나타내고, p,q=0,1,2일 때

   

   이고

   

   이며, x ₀ =x _{n +1}=0이고, e ₀ =e _{n +1}=0이다.
10. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파기의 검정 통계량이 하기의 수학식 15로 나타나는 것을 특징으로 하는 국소 최적 검파기.

    

    여기서, i=1,2,…,n일 때

    

    이고,

    K _M (i,j)=e _i e _i {M _i M _j }

    은 전송 신호 e _i M _i 와 e _j M _j 사이의 상관이다.
11. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파기의 검정 통계량이 하기의 수학식 19로 나타나는 것을 특징으로 하는 국소 최적 검파기.

    

    (수학식 19)

    여기서,

    
12. 일차 마코프 잡음 환경에서 알려진 신호{e _i }를 검파하는 국소 최적 검파기의 검정 통계량이 하기의 수학식 21로 나타나는 것을 특징으로 하는 국소 최적 검파 기.

    

    (수학식 21)

    여기서, o ² _M ,_i=E{M ² _i }는 곱셈꼴 잡음 M _i 의 분산이다.
13. 제9항에 있어서,

    확률 신호 모형

    X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

    에서, 확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0이 아닐 때, 수학식 7에서 α _i 를 E{S _i M _i }로 바꿔 얻은 확률 신호를 검파하는 국소 최적 검정 통계량은 하기의 수학식 24로 나타나는 것을 특징으로 하는 국소 최적 검파기.

    
14. 제10항에 있어서,

    확률 신호 모형

    X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

    에서,

    확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0일 때, 수학식 15에서 K _M 을 K _SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량이 하기의 수학식 25로 나타나는 것을 특징으로 하는 국소 최적 검파기.

    

    여기서,

    K _SM (i,j)=E{S _i M _i S _j M _j }

    는 S _i M _i 와 S _j M _j 곱의 상관 (또는 공분산) 이고, S _{n +1}=0, M _{n +1}=0이다.
15. 제12항에 있어서,

    확률 신호 모형

    X _i = θS _i M _i + W _i i=1,2,…,n (수학식 23)

    에서,

    확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S _i M _i }}가 모두 0일 때, 수학식 21에서 K _M 을 K _SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량이 하기의 수학식으로 나타나는 것을 특징으로 하는 국소 최적 검파기.

    

    여기서,

    K _SM (i,j)=E{S _i M _i S _j M _j }

    는 S _i M _i 와 S _j M _j 곱의 상관 (또는 공분산) 이고, S _{n +1}=0, M _{n +1}=0이다.
16. 제11항에 있어서,

    확률 신호 모형

    X _i= θS _iM _i + W_i i=1,2,…,n (수학식 23)

    에서,

    확률 신호와 곱셈꼴 잡음 성분을 곱한 값의 평균 {E{S_iM_i }}가 모두 0일 때, 수학식 19에서 K_M 을 K_SM 으로 바꿔 확률 신호를 검파하는 국소 최적 검정 통계량이 하기의 수학식으로 나타나는 것을 특징으로 하는 국소 최적 검파기.

    

    여기서,

    K_SM (i,j)=E{S_iM_iS_jM_j }

    는 S_iM_i 와 S_jM_j 곱의 상관 (또는 공분산) 이고, S_{n +1}=0, M_{n +1}=0이다.

Images