KR101096769B1

KR101096769B1 - Ｄｔｖ 방송 시스템 환경에서 동일 채널 중계기를 위한 다중 레벨 상관 ｌｍｓ 기반의 채널 등화 방법 및 장치

Info

Publication number: KR101096769B1
Application number: KR1020090135174A
Authority: KR
Inventors: 김정곤; 이제경
Original assignee: 한국산업기술대학교산학협력단
Priority date: 2009-12-31
Filing date: 2009-12-31
Publication date: 2011-12-21
Also published as: KR20110078382A

Abstract

본 발명은 궤환 신호의 효율적 제거 여부를 확인하기 위한 LMS(Least Mean Square) 기반의 DFE(Decision Feedback Equalizer)와 상관 LMS 등의 알고리즘 분석을 통해, 이와 연동할 수 있는 다중레벨의 상관 LMS 기법을 토대로, 효율적으로 궤환신호에 의한 에러 전파를 감소시키는 동시에, 수신 성능을 향상시킬 수 있는 채널 등화 방법 및 등화기 구조에 관한 것이다. 본 발명의 일면에 따른, 제1 탭수의 지연기를 갖는 피드포워드 LMS 필터, 제2 탭수의 지연기를 갖는 피드백 LMS 필터, 및 비터비 트렐리스 디코더를 이용하여 상기 디코더의 출력 신호에 대한 에러를 제거하기 위한 결정 궤환 등화 방식의 채널 등화 방법에서, 입력 신호에 대한 상기 피드포워드 LMS 필터의 처리로 생성되는 제1 필터 통과 신호와 상기 디코더의 출력 신호에 대한 상기 피드백 LMS 필터의 처리로 생성되는 제2 필터 통과 신호의 합산 신호에서 상기 디코더의 출력 신호를 감산한 신호가 에러 신호이며, 상기 입력 신호와 상기 에러 신호의 상관도값을 계산하고, 상기 상관도값을 소정 최대 상관도 값으로 나누어 0과 1사이의 정규화값을 산출하는 단계, 및 상기 정규화값이 복수 구간 중 어느 구간에 해당하는지 여부를 판단하여, 해당 레벨에 대한 스텝 사이즈를 결정하고, 상기 스텝 사이즈에 따라 상기 피드포워드 LMS 필터와 상기 피드백 LMS 필터의 각 탭에 대한 탭 계수를 업데이트하는 단계를 포함한다.

DTV, DFE, LMS, VSS LMS, Correlation LMS

Description

ＤＴＶ 방송 시스템 환경에서 동일 채널 중계기를 위한 다중 레벨 상관 ＬＭＳ 기반의 채널 등화 방법 및 장치{Channel Equalization Method and Apparatus Based on Multi-Level Correlation LMS Algorithm for Single Frequency Network Repeater in Digital TV Broadcasting System Environment}

본 발명은 채널 등화 방법 및 장치에 관한 것으로서, 궤환 신호의 효율적 제거 여부를 확인하기 위한 LMS (Least Mean Square) 기반의 DFE (Decision Feedback Equalizer)와 상관 LMS 등의 알고리즘 분석을 통해, 이와 연동할 수 있는 다중레벨의 상관 LMS 기법을 토대로, 효율적으로 궤환신호에 의한 에러 전파를 감소 시키는 동시에, 수신 성능을 향상 시킬 수 있는 채널 등화 방법 및 등화기 구조에 관한 것이다.

현재 지상파 TV 방송은 주파수 사용의 비효율성 및 서비스 지역의 제한과 서비스 영역 내에서 존재하는 음영지역 등의 문제가 아직까지 완전한 지상파 디지털 방송으로의 전환에 있어 걸림돌로 작용하고 있다. 이러한 문제점을 해결하기 위해서는 제한된 방송 주파수의 이용 효율을 높일 뿐만 아니라, 방송영역 내에서 안정적인 전파 세기를 보장할 수 있는 디지털 동일 채널 중계기(Digital On-Channel Repeater, DOCR)를 도입하여 단일 주파수 망(Single Frequency Network : SFN) 구성이 가능해지면, 같은 주파수를 재사용 할 수 없는 기존의 복수 주파수망(Multiple Frequency Network : MFN)에 비해 매우 효율적으로 주파수를 관리 할 수 있다.

그러나, 기존의 동일 채널 중계기로 단일 주파수 망을 구성할 경우 중계기는 수신신호를 단순히 증폭시켜 재전송 하므로 주 송신기와 중계기 사이의 전송 채널에 의해 야기된 잡음 및 다중경로에 의한 왜곡된 신호가 그대로 증폭되는 단점을 가지고 있으며 결국 출력 신호의 품질에 문제가 발생하였다. 이러한 출력 신호의 품질이 떨어지는 문제점을 보안하기 위하여 이러한 단일 주파수망을 구성하는 등화형 동일 채널 중계기 (Equalization Digital On Cha- nnel Repeater : EDOCR) 기반의 등화기가 개발되고 있다. 등화형 동일 채널 중계기를 사용하는 경우에, 복수개의 동일채널중계기를 이용하여 한정된 자원인 주파수를 효율적으로 사용 가능하며, 송신기의 교체나 추가장비 없이 송신기 신호를 같은 주파수로 재생중계가 가능하다.

하지만, 등화형 동일 채널 중계기에 있어서도 여전히 주 송신기의 송신신호와 중계기의 재전송 신호가 동일한 주파수를 사용하므로 EDOCR의 출력신호가 다시 입력으로 들어오는 궤환신호 문제가 발생한다. 이로 인해 중계기의 재전송 안테나의 출력이 송/수신 안테나의 이격(Isolation) 수준 정도로 제한되는 문제점을 가지고 있다. 현재 지상파 DTV를 위한 궤환신호 제거에 대한 연구는 부족한 실정이어서 앞으로 보다 더 나은 궤환신호 제거 기술에 대한 개발 및 연구가 절대적으로 필요 하다. 이러한 단점을 해결하기 위한 방법으로 궤환신호 제거기에 대한 연구가 진행되고 있다.

등화기는 송신신호가 다중 경로 채널을 통과함으로써 발생되는 인접 심불 간섭(Inter-Symbol Interference: ISI)에 의한 신호 왜곡을 보상하기 위해 사용되며, 단일 방송파 시스템에서는 수신 성능에 민감한 영향을 미치는 중요한 블록이다. 이하, ATSC 8VSB DTV EDOCR 시스템에 적용되고 있는 등화기 구조 및 등화 알고리즘에 대해 살펴본다. ATSC는Advanced Television System Community 규격을 의미하고, 8VSB는 8Vestigial Side Band(잔류 측파대)를 의미한다.

도 1은 DTV 시스템의 일반적인 EDOCR 중계기의 구성도이다. 단일 반송파 시스템인 ATSC 방식 DTV 시스템에서 사용되는 등화기는 ATSC A/53 표준에 명시된 바와 같이, 결정궤환등화기(Decision Feedback Equalizer : DFE) 구조를 채택하고 있으며, 동작 알고리즘은 최소평균자승법(Least Mean Squar : LMS)을 사용한다. 또한, 등화기의 동작에 따라 알고리즘은 결정 지향 (Decision Directed) 알고리즘과 블라인드 (Blind) 알고리즘을 선택사항으로 두고 있다. A/53에는 등화기 업데이트에 요구되는 에러를 추정하기 위해 판정 사용을 명시하고 있다.

도 1과 같은 EDOCR이 가지는 시스템 구성의 특징들은 다음과 같다. EDOCR은 FEC(Forward Error Control) 복호 및 부호화부를 사용하지 않기 때문에 DOCR(Digital On Channel Repeater) 입력 신호와 출력신호가 다른 문제, 즉 모호성 문제를 가지지 않는다. EDOCR은 복조부를 사용하기 때문에 수신 신호의 선택성이 우수하다. 즉, 인접 채널 제거 능력이 우수하다. EDOCR은 TBD(Trellis Back Depth) 가 1인 트렐리스 복호기를 판정 장치(Decision Device)로 가지는 블라인드(Blind) DFE (Decision Feedback Equalizer)를 사용한다. 또한, DOCR 송/수신 안테나의 낮은 분리도로 인해 야기된 피드백 신호를 제거할 수 있기 때문에, DOCR 송신출력을 높일 수 있다. EDOCR은 재변조부를 사용하기 때문에 송신 신호의 RF Spectrum Mask 규격을 만족한다. EDOCR은 상대적으로 간단한 구조와 시간 지연을 줄이기 위한 알고리즘으로 인해 낮은 시스템 지연(5.5㎲)을 가진다.

도 2는 비터비 디코더를 사용하는 블라인드(Blind) DFE 구조를 설명하기 위한 도면이다. EDOCR에서는 TBD(Trellis Back Depth)가 1인 트렐리스 복호기를 판정 장치(Decision Device)로 가지는 블라인드 DFE를 사용한다. 이러한 블라인드 DFE는 주송신기와 DOCR 사이의 전송로에 의해 야기된 잡음 및 다중경로 신호를 제거할 수 있기 때문에, DOCR 출력 신호 품질을 입력 신호 보다 우수하게 만든다.

블라인드 모드에서는 LMS(Least Mean Square), CMA(Constant Modulus Algorithm), SAG(Stop-And-Go) 알고리즘 등의 여러 가지 블라인드 알고리즘이 사용될 수 있으며, 현재 DTV 등화기 알고리즘으로 적용되고 있는 가장 널리 사용되고 LMS의 등화 알고리즘을 바탕으로 비터비(Viterbi) 디코더와 DFE가 연동되어 등화기 출력신호에서 판정되는 신호의 에러 확률을 최소화시키는 등화 방법이다.

비터비 디코더 출력을 이용한 신호 검출은 LMS의 등화 알고리즘 공식으로 업데이트 함에 있어서 에러에 대한 정확한 추정값을 제공하며, 또한 잘못 결정된 신호가 DFE의 FBF(Feed Back Filter)를 통과함으로써 발생되는 에러 전파 현상을 최소화 할 수 있다.

DTV 시스템의 성능을 분석하기 위하여 도 3과 같은 브라질 채널 모델이 사용될 수 있다. 도 3에는 브라질 채널의 각 모델에 따른 주경로와 다중 경로의 수신 신호의 상대적 전력크기(㏈)와 지연시간(μs)을 나타내었다.

브라질 A채널은 주경로에 비해 수신 신호의 전력 크기가 작고, 지연이 짧은 다중 경로를 실외 안테나로 수신 하였을 때의 크기와 지연 값을 나타낸다. 가장 큰 다중경로 신호의 크기가 주경로에 비해 -13㏈ 이하이고, 6 μs 이하의 지연값을 가지므로 양호한 채널환경이다. 실내외 중간 지점 수신 환경인 브라질 C 채널은 주경로와 크기가 비슷하고, 지연이 짧은 다중 경로들로 이루어졌으며, 프리고스트도 존재한다. 실내 안테나 수신 환경인 D 채널은 프리고스트 신호가 많고, 주경로와 수신 신호 크기가 비슷한 다중 경로가 브라질 A 채널과 유사한 지연 값을 가지며 수신된다. SFN 채널 환경인 브라질 E 채널은 크기가 같은 3개의 신호를 지연 값만 다르게 수신하는 경우로 3개의 송신기 중간 지점에서 수신하는 환경이다.

이하 기존의 몇가지 등화 알고리즘을 알아본다.

도 4는 일반적인 LMS 알고리즘을 설명하기 위한 도면이다. LMS 알고리즘은 디지털 여파기(Digital Filter)의 출력(output)과 요구된 신호(Desired Signal)와의 오차를 최소화 하는 방향의 가중치(w0, w1,..wN)를 구해줌으로써 자승 에러(Squared Error)를 최소화 시키는 것이다.

W(n)(w0, w1,..wN)는 LMS 알고리즘의 수렴 특성을 결정하는 스텝 크기(N) 만큼의 개수를 가진다. 즉, 스텝 크기가 크면 등화기의 수렴 속도가 향상되는 반면에 평균 자승 오차(MSE)가 증가 하며, 스텝 크기가 작으면 MSE는 낮으나 등화기의 수 렴속도가 느려지는 Trade-off 관계가 성립한다. 이와 같은 일반적인 LMS 알고리즘은 필터 계수를 갱신하는데 있어서 단일의 스텝 사이즈를 이용하므로 시변 채널 환경에서 채널계수를 추정하고 따라가는데 어려움이 있다.

한편, VSS(Variable Step Size: 가변 스텝 사이즈) LMS 알고리즘의 구조는 기존의 LMS 알고리즘 구조와 유사하며, 수렴속도와 수렴 오차를 결정하는 핵심 인자인 μ에 의해 수렴 상태가 결정된다. μ가 적으면 수렴 속도는 느리나 안정된 수렴을 하고 μ가 크면 안정되지는 않지만 빠른 수렴을 한다. 수렴의 초기 상태는 오차의 기울기 범위가 크고, 최적의 상태로 가까워질수록 오차의 기울기는 작다. 그러므로 수렴의 초기에는 μ값을 크게 잡아 빠른 수렴을 하고, 나중으로 갈수록 μ값을 작게 하여 안정된 수렴향상 효과를 기대할 수 있는 알고리즘이 바로 VSS 알고리즘이다.

VSS LMS는 오차신호의 제곱을 이용하여 반복될 때 마다 업데이트 된 파라미터 α와 γ에 의해 μ값을 변화시키는 것으로 [수학식 1]이 계산된 후 [수학식 2], [수학식 3]와 같이 다음 반복될 때 필요한 적용 상수가 결정된다.

[수학식 1]

[수학식 2]

[수학식 3]

여기서 초기값 μ₀은 대개 최대값 μ_max을 사용한다. μ_k 값은 항상 양수이고 추정 오차의 제곱과 파라미터 α와 γ에 의해서 결정된다. 일반적으로 α는 0.97이고 γ는 4.8×10-4 이다. VSS LMS 알고리즘은 제곱오차 값이 클 때는 μ를 최대로 하여 빠른 수렴을 하고 제곱오차 값이 적으면 μ를 최소로 하여 급격한 분포로 적응상수 값을 변화시키는 알고리즘이다. 그러나, 이 알고리즘은 적절한 α와 γ를 선택, μ의 최대값과 최소값을 결정해야 하며 [수학식 2], [수학식 3]에서처럼 각 반복 할 때 마다 μ값을 비교해야 하는 등 알고리즘을 수행하는데 다소 복잡한 과정이 필요하며 필터계수 수정 후 다음 적응상수를 계산해야 하므로 전체 계산량이 증가하게 되는 단점이 있다. 그러나 결정된 범위 내에서 안정적으로 빠르게 수렴 할 수 있다는 장점이 있다.

본 발명은 상술한 문제점을 해결하기 위한 것으로서, 본 발명의 목적은, LMS (Least Mean Square) 기반의 DFE (Decision Feedback Equalizer)와 상관 LMS와 연동할 수 있는 다중레벨의 상관 LMS 기법을 토대로, 효율적으로 궤환신호에 의한 에러 전파를 감소 시키는 동시에, 수신 성능을 향상 시킬 수 있는 채널 등화 방법 및 등화기 구조를 제공하는 데 있다.

먼저, 본 발명의 특징을 요약하면, 상기의 목적을 달성하기 위한 본 발명의 일면에 따른, 제1 탭수의 지연기를 갖는 피드포워드 LMS 필터, 제2 탭수의 지연기를 갖는 피드백 LMS 필터, 및 비터비 트렐리스 디코더를 이용하여 상기 디코더의 출력 신호에 대한 에러를 제거하기 위한 결정 궤환 등화 방식의 채널 등화 방법에서, 입력 신호에 대한 상기 피드포워드 LMS 필터의 처리로 생성되는 제1 필터 통과 신호와 상기 디코더의 출력 신호에 대한 상기 피드백 LMS 필터의 처리로 생성되는 제2 필터 통과 신호의 합산 신호에서 상기 디코더의 출력 신호를 감산한 신호가 에러 신호이며, 상기 입력 신호와 상기 에러 신호의 상관도값을 계산하고, 상기 상관도값을 소정 최대 상관도 값으로 나누어 0과 1사이의 정규화값을 산출하는 단계; 및 상기 정규화값이 복수 구간 중 어느 구간에 해당하는지 여부를 판단하여, 해당 레벨에 대한 스텝 사이즈를 결정하고, 상기 스텝 사이즈에 따라 상기 피드포워드 LMS 필터와 상기 피드백 LMS 필터의 각 탭에 대한 탭 계수를 업데이트하는 단계를 포함한다.

상기 복수 구간은 상기 스텝 사이즈를 소정 범위에서 변화시킬 때 0과 1사이의 정규화값에 대한 MSE의 두개의 교차 지점(T1, T2)을 기초로 한 0~T1, T1~T2, 및 T2~1 로 이루어지는 3개의 구간을 포함한다.

상기 0~T1 구간에서 상기 스텝 사이즈를 소정 최소값으로 결정하고, 상기 T1~T2 구간에서 상기 스텝 사이즈를 소정 중간값으로 결정하고, 상기 T2~1 구간에서 상기 스텝 사이즈를 소정 최대값으로 결정할 수 있다.

상기 상관도값의 계산은, 자연수 N개의 샘플링 심볼에 대하여 수학식

에 따라 계산되고, 여기서, X는 입력 신호이고 e는 에러 신호이며, k는 상기 범위의 자연수이다.

상기 입력 신호는 ATSC 8VSB 기반의 방송 신호일 수 있다.

그리고, 본 발명의 다른 일면에 따른, 결정 궤환 등화 방식의 채널 등화기는, 제1 탭수의 지연기를 이용하여 입력 신호에 대하여 LMS 방식으로 제1 필터 통과 신호를 생성하는 피드포워드 필터; 제2 탭수의 지연기를 이용하여 출력 신호에 대하여 LMS 방식으로 제2 필터 통과 신호를 생성하는 피드백 필터; 상기 제1 필터 통과 신호와 제2 필터 통과 신호를 합산하여 필터 통과 신호를 출력하는 합산기; 상기 필터 통과 신호를 디코딩하여 상기 출력 신호를 생성하는 비터비 트렐리스 디코더; 상기 필터 통과 신호에서 상기 출력 신호를 감산하여 에러 신호를 출력하는 감산기; 및 상기 입력 신호와 상기 에러 신호의 상관도값을 계산하고, 상기 상관도값을 소정 최대 상관도 값으로 나누어 0과 1사이의 정규화값을 산출하며, 상기 정규화값이 복수 구간 중 어느 구간에 해당하는지 여부를 판단하여, 해당 레벨에 대한 스텝 사이즈를 결정하고, 상기 스텝 사이즈에 따라 상기 피드포워드 필터와 상 기 피드백 필터의 각 탭에 대한 탭 계수를 업데이트하는 스텝 사이즈 제어부를 포함한다.

상기 스텝 사이즈 제어부는, 상기 스텝 사이즈를 소정 범위에서 변화시킬 때 0과 1사이의 정규화값에 대한 MSE의 두개의 교차 지점(T1, T2)을 구하고, 0~T1, T1~T2, 및 T2~1 로 이루어지는 3개의 상기 복수 구간을 기초로 상기 스텝 사이즈를 결정한다.

상기 스텝 사이즈 제어부는, 상기 0~T1 구간에서 상기 스텝 사이즈를 소정 최소값으로 결정하고, 상기 T1~T2 구간에서 상기 스텝 사이즈를 소정 중간값으로 결정하고, 상기 T2~1 구간에서 상기 스텝 사이즈를 소정 최대값으로 결정한다.

상기 결정 궤환 등화 방식의 채널 등화기는 동일 채널 중계기에 이용될 수 있다.

본 발명에 따른 채널 등화 방법 및 장치에 따르면, 다중레벨의 상관 LMS 기법을 토대로, 효율적으로 궤환신호에 의한 에러 전파를 감소 시키는 동시에, 수신 성능을 향상 시킬 수 있다.

또한, DTV 방송시스템에서 동작 수신 SNR 값인 15 ~ 25dB 까지의 범위에서의 BER와 같은 비트 에러 오류 정정 성능을 유지하는데 필요한 신호대 잡음비가 약 2~5 dB 정도 감소 했고, MSE를 통한 수렴속도 측면에서도 필요 시간을 감소시킬 수 있다.

또한, DTV 방송시스템의 동일채널 중계기의 궤환신호를 효과적으로 제거하는 방식을 다른 관련된 방송시스템인 DMB(Digital Multimedia Broadcasting) 또는 이동 셀룰러 네트워크인 와이브로나 IMT-advanced 시스템에도 유사하게 적용하여, 동일 채널 중계기 사용 환경에서는 비슷한 성능개선을 이룰 수 있다.

본 발명과 본 발명의 동작상의 이점 및 본 발명의 실시에 의하여 달성되는 목적을 충분히 이해하기 위해서는 본 발명의 바람직한 실시 예를 예시하는 첨부 도면 및 첨부 도면에 기재된 내용을 참조하여야만 한다.

이하, 첨부한 도면을 참조하여 본 발명의 바람직한 실시예를 설명함으로써, 본 발명을 상세히 설명한다.

먼저, 각각의 필터 계수에 최적의 스텝사이즈를 적용 및 보완하기 위하여 입력신호와 오차 신호의 추정된 상관관계를 이용하여 스텝사이즈의 값을 변화시키는 상관(Correlation) LMS 알고리즘을 설명한다. 여기서 추정된 상관이라고 한 이유는 각각의 다른 신호를 X, Y 라 했을 때, 상관이라 함은 기준(Reference) 신호가 되는 X와 이러한 입력 신호에 잡음이 섞인 신호 Y의 상관관계이다. 그러므로 초기상태의 입력신호 x와 에러 신호 e는 큰 상관도를 가진다. 그러나, 적응과정이 진행됨에 따라서 오차신호에서 잡음신호성분은 점점 제거되고 따라서 입력신호와 오차신호의 상관은 점점 0으로 수렴하게 된다. 이를 이용하여 가변 스텝사이즈를 결정해주어 스텝사이즈의 크기를 적절히 조절할 수 있다. 즉, 입력신호와 오차신호의 상관도에 따른 변화에 따라 스텝사이즈의 변화를 가져올 수 있다. N개의 샘플링 심볼에 대한 상관도에 대한 식을 정리하면 [수학식 4]와 같다.

[수학식 4]

본 발명에서는 간섭 제거 시스템으로서 기존의 LMS 알고리즘을 사용하는 비터비 트렐리스 디코더 DFE 방식의 에러신호와 위와 같은 상관도를 이용한 LMS에서 에러신호의 상관도를 이용하여, 스탭 사이즈를 업데이트하여 필터의 계수 값을 갱신하는 기법에 관하여 설명한다.

먼저, 그 개요를 설명한다. DFE 알고리즘은 선형 등화기에 비해 적은 탭 수를 가지고 빠른 수렴 속도로 채널 왜곡을 보상하는 장점이 있다. 그러나 에러 전파 현상과 같은 단점이 있어 열악한 실내 수신 환경에서는 많은 성능 열화가 있다.

도 5는 본 발명에 적용되는 DFE(결정 궤환 등화기) 기본 구조를 설명하기 위한 도면이다. 도 5와 같이, DFE는 피드포워드 필터(FFF: Feed Forward Filter), 비터비 트렐리스 디코더(Viterbi Trellis Decoder), 및 피드백 필터(FFF: Feed Back Filter)를 포함한다.

여기서, 수신 신호 V, 피드포워드 필터의 출력 신호 I^{^} _j, 결정 추정된 신호 I^~ _j의 관계는 [수학식 5]와 같다. 여기서, f_k는 피드포워드 필터의 탭 계수로서 피드포워드 필터의 탭 개수는 K1+1개 이고, b_k는 피드백 필터의 탭 계수로서 피드백 필터의 탭 개수는 K2이다. 수신 신호가 피드포워드 필터의 K1개의 샘플 지연기에 의하여 순차 지연되며, 지연전 신호와 각 지연된 신호에 각 탭 계수를 곱한 후 모두 합산하여 피드포워드 필터의 출력 신호 I^{^} _j가 생성된다. 비터비 트렐리스 디코더는 피드포워드 필터의 출력 신호와 피드백 필터의 출력 신호의 합을 이용한 디코딩으로부터 결정 추정된 신호 I^~ _j를 생성할 수 있다. 결정 추정된 신호 I^~ _j가 피드백 필터의 K2개의 샘플 지연기에 의하여 순차 지연되며, 각 지연된 신호에 각 탭 계수를 곱한 후 모두 합산하여 피드백 필터의 출력 신호가 생성된다.

이러한 DFE(결정 궤환 등화기) 구조에서는 피드백 필터에 입력되는 추정 신호 I^~ _j의 정확성이 등화기 성능을 좌우한다.

[수학식 5]

이와 같이, DFE는 입력 신호가 들어오는 FFF 부분과 FFF 출력 신호에 대해 판정기(디코더)를 통해 결정된 심볼(I^~ _j)을 입력으로 하는 FBF로 구성되어 있다. DFE는 FBF를 사용하여 현재의 심볼 시간을 기준으로 과거에 송신된 신호가 통과함으로써 발생되는 ISI(Inter Symbol Interference)를 제거할 수 있으며, 신호가 채널의 널(Null) 상태에서 통과할 때 발생되는 왜곡에 강인한 장점을 가지고 있다.

하지만, DFE의 FBF에 입력되는 결정신호에 오류가 있을 경우에는 한 심볼의 에러가 FBF의 탭 개수만큼의 다른 심볼에 영향을 주는 에러 전파(Error Propagation) 현상이 발생하여 등화기 출력(I^~ _j)의 SNR(Signal-to-Noise Ratio)을 감소시키는 단점이 있다. 즉, 잡음에 의해서 잘못 추정된 신호가 피드백 필터에 입력되면 에러 전파현상이 일어나 채널 왜곡을 보상하지 못한다. 채널의 상황이 열악할수록 에러 전파가 쉽게 발생하여 성능에 큰 영향을 미친다.

따라서, 이하, 다중레벨의 상관 LMS 기법을 토대로, 효율적으로 궤환(피드백) 신호에 의한 에러 전파를 감소시키는 동시에, 수신 성능을 향상시킬 수 있는 등화기 구조를 설명한다.

도 6은 본 발명의 일실시예에 따른 DFE(결정 궤환 등화기)(600)의 블록도이다.

도 6을 참조하면, 본 발명의 일실시예에 따른 DFE(결정 궤환 등화기)(600)는 피드포워드 필터(FFF: Feed Forward Filter)(610), 합산기(611), 비터비 트렐리스 디코더(Viterbi Trellis Decoder)(620), 감산기(621), 피드백 필터(FFF: Feed Back Filter)(630), 스텝 사이즈 제어부(step size control unit)(640)를 포함한다. 도 8에서, 피드포워드 필터(610), 비터비 트렐리스 디코더(620) 및 피드백 필터(630)는 도 5에서 설명한 피드포워드 필터, 비터비 트렐리스 디코더 및 피드백 필터와 유사한 구성을 갖는다.

도 6에서, x(n)은 입력 신호, y(n)은 필터 통과 신호로서, 피드포워드 필터(610)와 피드백 필터(630)의 출력 신호를 합산기(611)에 의하여 합산한 신호이 다. 비터비 트렐리스 디코더(620)는 필터 통과 신호 y(n)을 비터비 트렐리스 디코딩하여 DFE(결정 궤환 등화기)(600)의 출력 신호에 해당하는 d(n)을 생성한다.

감산기(621)는 필터 통과 신호 y(n)에서 비터비 트렐리스 디코더(620)의 출력 신호 d(n)을 감산하여 에러 신호 e(n)을 생성하며, 스텝 사이즈 제어부(640)는 입력 신호 x(n), 비터비 트렐리스 디코더(620)의 출력 신호 d(n)와 에러 신호 e(n)로부터 다중 레벨의 상관 LMS 방식에 기초하여 피드포워드 필터(610) 및 피드백 필터(630) 각각의 스텝 사이즈 μ를 결정하여 해당 탭 계수 W(n+1)를 출력한다. 예를 들어, 스텝 사이즈 제어부(640)는 피드포워드 필터(610)와 피드백 필터(630)의 각 업데이트되는 탭 계수 W(n+1) = W(n) + 2μe(n) x(n)가 되도록, 스텝 사이즈 μ를 결정하여 각 필터(610/630)의 가중치 요소인 탭 계수(f_k/b_k)를 업데이트 한다.

피드포워드 필터(610)는 스텝 사이즈 제어부(640)에서 결정한 스텝 사이즈의 각 탭 계수에 따라 필터 출력 신호를 생성한다. 예를 들어, 입력 신호 x(n)가 피드포워드 필터(610)의 K1개(예를 들어, ATSC A/53 표준에 명시된 64탭 중 결정된 스텝 사이즈 만큼의 개수)의 샘플 지연기에 의하여 순차 지연되며, 지연전 신호와 각 지연된 신호에 각 탭 계수를 곱한 후 모두 합산하여 피드포워드 필터(610)의 출력 신호가 생성될 수 있다. 또한, 피드백 필터(630)는 스텝 사이즈 제어부(640)에서 결정한 스텝 사이즈의 각 탭 계수에 따라 필터 출력 신호를 생성한다. 예를 들어, 비터비 트렐리스 디코더(620)의 출력 신호 d(n)가 피드백 필터(630)의 K2개(예를 들어, ATSC A/53 표준에 명시된 192탭 중 결정된 스텝 사이즈 만큼의 개수)의 샘플 지연기에 의하여 순차 지연되며, 각 지연된 신호에 스텝 사이즈 제어부(640)에서 결정한 스텝 사이즈의 각 탭 계수를 곱한 후 모두 합산하여 피드백 필터(630)의 출력 신호가 생성될 수 있다.

한편, ATSC A/53 표준문서에서 등화기 업테이트에 요구되는 ISI 처리 및 요구 성능 목표를 만족시키기 위해 제안된 등화기 탭보다 긴 탭이 이용될 수 있다. 그러나, 긴 탭으로 이어지는 시간지연에 대한 문제점을 가지고 있다. 이는 실제 등화기의 수렴속도 성능 저하로 이어지는 중계 수신장치 및 수신기에 영향을 줄 수 있다.

본 발명에서는 기존의 DFE의 FFF와 FBF의 탭 개수를 각각 표준안에 준하는 탭 개수로 고정하고 이에 따른 오차 신호와 상관 추정 기법을 이용한 LMS 방식으로 적은 탭 수로도 빠른 오차 추정으로 시간지연 및 수렴 속도 성능을 높힐 수 있도록 하였다. 본 발명에서는 스텝 사이즈 제어부(640)에서 [수학식 4]를 이용하여 입력 신호 x(n)와 에러 신호 e(n)의 상관도를 계산하여 그 상관도의 값을 0과 1사이의 값으로 정규화(Normalization) 시킨 다음 상관도에 따라 스텝 사이즈 μ 가 변할 수 있도록 하였다.

스텝 사이즈의 제한 이유는 환경변화에 따른 에러 추정을 위해 정확한 가중치 값(탭 계수)을 업데이트를 시켜주어야 하기 때문이다. 이는 얼마나 기준 입력 신호 x(n)과 출력 신호 d(n)와의 오차를 파악하여 빠르게 수렴 하느냐에 따라 궤환 신호를 제거하는 중계기의 성능을 높일 수 있기 때문이다.

도 7은 상관도 변화에 대한 0.0004 < μ < 0.003 사이의 MSE 결과 그래프이 다. 도 8은 상관도 변화에 대한 0.008 < μ < 0.07 사이의 MSE 결과 그래프이다. 스텝 사이즈는 정규화 분포도에 따라 적절한 크기를 찾아야 하는데, 가변 채널 환경에 따라 적절한 스텝 사이즈를 찾기 위해서 모의 실험을 통해 스텝 사이즈 크기를 0.0000001 ~ 0.1 까지 10-1 씩 크기를 줄여가며 실험을 통하여 분석한 결과 수렴성능과 발산하는 스텝사이즈 크기에 대해 분석하였으며, 그 실험 결과 0.0004 < μ < 0.07 범위 밖의 스텝사이즈 크기에서는 발산하는 결과를 보였으며 정규화 분포 내에서 스텝 사이즈의 0.001(도 9참조)과 0.01(도 10 참조) 크기에서 안정된 수렴 성능을 나타내었다.

한편, 채널 환경에 따른 변화에 능동적으로 대처를 위해서는 정확한 채널추정과 빠른 추정으로 입력 신호 x(n)와 필터 통과 신호 d(n)의 오차가 없어짐에 따라 실제 등화기의 성능 여부를 판단할 수 있게 된다. 실제로 본 모의 실험에서는 그런 채널상황에 대해 적절한 스텝 사이즈의 변화로 탭의 가중치(Weight Factor)(탭 계수)를 갱신해주기 위해 정규화 분포도 값에 따른 상관도에 대해 스텝 사이즈를 조절 해주기 위해 정규화(Normalization)까지의 구간을 정해 주어 각각의 정규화 값에 따라 스텝 사이즈의 크기를 조절할 수 있도록 하였다.

이에 대한 분석을 위해 기존의 방식 DFE(LMS)와 VSS LMS 방식 그리고, 상관도를 이용한 본 발명의 상관도 LMS 방식에 대하여 각각의 수렴 속도를 기준으로 하여 분석하였으며 구간별은 스텝 사이즈 0.001 ~ 0.01 사이의 스텝 사이즈 크기로 정해준다. 위와 같은 스텝폭 결정 과정을 통해 구했으며, 이후 분석에 이 값들을 적용하였다.

먼저, 스텝사이즈 0.001 ~ 0.01 에서의 MSE 값을 각각의 스텝 사이즈 마다의 평균을 내어 변화하는 수렴 성능의 차이를 나타내었으며, 제안한 방식을 여러 채널환경에 따라서 각각 이를 분석하였다. 채널환경은 AWGN, 브라질 채널 모델 A 그리고 브라질 채널 모델 D를 적용하여 분석하였으며 도 9는 AWGN 채널환경에서 MSE의 결과 그래프이다.

도 9와 같이, 채널환경이 AWGN 인 정규화 분포에서의 스텝 사이즈 크기에 따라 어느 한 포인트에서 수렴 성능의 차이가 있음을 볼 수 있다. 즉, 상관도를 이용한 정규화 분포에서 정규화 포인트 T1 = 0.45 과 T2 = 0.54 의 두 교차 지점을 기준으로 스텝 사이즈의 크기에 따라 수렴성능이 교차되고 있다. 도 9의 에러 신호 e(n)에 대한 제안한 방식에 대해 정규화 구간 0 ~ T1 구간에서는 T1 지점을 기준으로 10-18 정도에 에러 수렴 성능을 보이고 있는 0.001의 스텝사이즈 크기가 가장 우수하며, T1 ~ T2 사이에서는 약 10-22 정도에 에러 수렴 성능을 보이고 있는 0.004의 스텝사이즈 크기가 가장 우수한 것으로 나타났다.

또한, 도 9에서, T2 ~ 1 사이의 정규화 구간에서는 T2의 포인트를 기준으로 수렴 성능에 대해서 약 10-20 정도의 에러 수렴 성능을 가지는 0.01의 스텝사이즈의 크기가 다른 스텝사이즈 보다 수렴 성능의 우수함을 가질 수 있다. 이는 상관도 분석 결과에 따라 적응적으로 스텝사이즈를 변화시킴으로써, 전체 성능개선을 이룰 수 있음을 알 수 있다. AWGN의 채널환경을 고려한 최적화된 구간을 선택해 줌으로써 스텝사이즈를 통한 빠른 에러 추정 및 에러 수렴 성능이 향상될 수 있음을 알 수 있다.

도 10은 채널환경 브라질 채널모델 A에서 스텝사이즈의 변화에 따른 에러 수렴 성능에 대한 결과 그래프이다. 도 11은 브라질 채널모델 D 에서 스텝사이즈의 변화에 따른 에러 수렴 성능에 대한 결과 그래프이다. 도 10 및 도 11과 같이, 브라질 채널모델 A 와 브라질 채널모델 D의 채널환경에서도, 앞서 나타낸 도 9의 경우와 마찬가지로 정규화 분포에서의 스텝사이즈 크기가 최적화 될 수 있는 값들이 존재함을 알 수 있다. 이는 곧 입력신호 x(n)와 에러신호 e(n)의 오차도 값은 채널환경에 적응적인 스텝 사이즈의 크기 변화로 수렴성능을 높힐 수 있다는 것을 의미한다. 특히, T1과 T2의 정규화 포인트의 위치는 채널환경에 따라 변화하는 것을 볼 수 있으나, 공통적으로 3개의 구간으로 나누어져서 적용 할 수 있음을 알 수 있다.

이하, 도 12의 흐름도를 참조하여 본 발명의 일실시예에 따른 DFE(결정 궤환 등화기)(600)의 스텝 사이즈 제어부(640) 관련 동작을 좀 더 자세히 살펴본다.

먼저, 도 1과 같은 중계기의 송신 안테나에서 출력한 신호 d(n)가 수신 안테나로 궤환되어 기준 입력 신호에 소정 간섭 신호가 섞인 입력 신호 x(n)가 수신되면(S11), 도 5와 같은 일반적인 LMS 방식의 DFE를 동작시켜, 즉, 도 6에서 스텝 사이즈 제어부(640)를 동작시키지 않고 나머지만 동작시켜(S12), 해당 출력신호에 대한 에러 신호 e(n)의 크기를 측정하고(S13), 에러 신호 e(n)=0 인 경우에는 궤환신호가 제거가 되었으므로 송신측으로 보내 변조, 주파수 상향 조정, 파워 증폭, 및 채널 필터링을 거쳐 송신 안테나로 전송할 수 있다.

그러나, e(n)≠0인 경우에는 궤환신호가 제거되지 않았으므로 탭의 계수를 업데이트 해주어야 한다(S15). 즉, 가변 채널 환경에서의 궤환신호를 정확히 추정 하여 제거하기 위해서 탭 계수를 업데이트 해주어야 한다. 채널환경에 따른 출력신호 d(n)에 대한 에러 신호 e(n) 간의 상관 LMS 알고리즘을 이용한 적응적인 스텝 사이즈 크기를 조절하기 위해, 스텝 사이즈 제어부(640)는 업데이트되는 탭 계수 W(n+1) = W(n) + 2μe(n) x(n)가 되도록, 스텝 사이즈 μ를 결정하여 각 필터(610/630)의 가중치 요소인 탭 계수를 업데이트 한다.

스텝 사이즈 제어부(640)는 감산부에서 추출한 에러 신호 e(n)에 따라(S16), [수학식 4]에 기초하여 입력 신호 x(n)와 에러 신호 e(n)에 대한 상관도 R_XY를 계산하고(S17), 계산된 상관도 R_XY를 소정 최대 상관도 값 R_XY(max)으로 나누어 주어 0 ~ 1 사이의 값으로 정규화시킨다(S18). 이에 따라 스텝 사이즈 제어부(640)는 도 9내지 도 11과 같이 모의 실험을 통해 도출된 상관도 변화에 따른 정규화 구간 0 ~ T1, T1 ~ T2, T2 ~ 1 의 각각에 구간에 정해진 스텝사이즈 크기를 결정할 수 있다. 에러 수렴 성능 분석결과를 바탕으로 각 채널환경에 따른 T1, T2 값은 다르게 설정된다.

예를 들어, 스텝 사이즈 제어부(640)는 계산된 상관도 정규화값 R_XY/R_XY(max)가 정규화 구간 0 ~ T1에 있는 경우에는(S19) 스텝 사이즈 μ를 소정 최소값 μ_min으로 하여 탭 계수를 업데이트한다(S20). 피드포워드 필터(610) 및 피드백 필터(630) 각각의 스텝 사이즈 μ를 결정하여 각 필터의 탭 계수를 갱신하는 것이다.

또한, 유사한 방식으로 스텝 사이즈 제어부(640)는 계산된 상관도 정규화값 R_XY/R_XY(max)가 정규화 구간 T1 ~ T2에 있는 경우에는(S21) 스텝 사이즈 μ를 소정 중간값 μmed으로 하여 탭 계수를 업데이트한다(S22). 그리고, 스텝 사이즈 제어부(640)는 계산된 상관도 정규화값 R_XY/R_XY(max)가 정규화 구간 T2 ~ 1 에 있는 경우에는(S23) 스텝 사이즈 μ를 소정 최대값 μ_max으로 하여 탭 계수를 업데이트한다(S24).

이와 같이 스텝 사이즈 μ를 변화시켜 업데이트된 탭 계수가 다시 상관 LMS 알고리즘에 따른 DFE에 적용되어 에러 신호의 크기를 측정하고 다시 e(n)=0인 경우와 e(n)≠0인 경우에 따라, e(n)=0 이 되기 위한 탭의 계수를 갱신해 주기 위한 절차를 다시 반복하게 된다. 이는 궤한신호의 변화에 따라 빠르게 에러신호 e(n)를 제거하므로써 입력신호에 대한 정확한 출력신호를 얻을 수 있다.

이하, 본 발명에 따른 DFE(결정 궤환 등화기)(600)이 궤환신호 등과 같은 에러 전파 현상에 강인함을 보이기 위해 모의 실험한 결과를 설명한다.

모의 실험은 도 3의 브라질 채널 모델과 AWGN에서 수행 되었다. 실험 결과를 위해 100,000개의 심볼을 이용해 이를 100번 반복하여 발생시켜 이에 대한 평균 통계적인 데이터를 얻었다. 모의 실험은 기존의 LMS방식을 기반으로 한 비터비 디코더 DFE 알고리즘과 VSS(Variable Step Size) LMS 알고리즘, 그리고 비터비 디코더 DFE 알고리즘과 연동하여 상관도를 이용하여 다중 레벨로 스텝 사이즈를 변화시키도록 하는 본 발명의 적응적 상관(Adaptive Correlation) LMS 알고리즘의 세가지 방법으로 실험을 수행하고 성능비교를 하였다. 8-VSB DTV에서는 보통 SNR이 15 ~ 25dB이하인 경우의 성능이 중요하다. 그 이유는 SNR이 25dB 보다 큰 경우는 DFE 다음 단에 있는 Trellis Decoder가 대부분의 심볼 에러를 정정하기 때문이다. 따라서 DTV 수신 가능한 15dB에서 25dB 사이의 SER 결과만 보기로 하겠다.

도 13은 AWGN 채널환경에서의 SER(Symbol Error Rate) 모의 실험 결과 그래프이고, 도 14는 AWGN 채널환경에서의 MSE(Mean Square Error) 모의 실험 결과 그래프이다. 여기서는 기존의 LMS방식을 기반으로 한 비터비 디코더 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 비터비 디코더 DFE 알고리즘과 연동하여 상관도를 이용한 Adaptive Correlation LMS 알고리즘에서의 SER 성능을 비교분석 하였다. 도 13 및 도 14과 같이, AWGN 채널(다중경로가 없는 이상적인 채널) 하에서의 등화기 출력에서, 각각의 등화기 알고리즘의 초기 스텝사이즈 크기는 0.001로 맞추어 주었다. 이는 채널환경이 양호한 상태의 모델 적용으로 모의 실험을 통한 정확한 궤환신호 및 잡음의 영향을 확실히 제거 할 수 있는 성능 변화를 보기 위함이다. 제안 방식의 알고리즘은 SER = 10-4 기준으로 VSS LMS 및 DFE(LMS) 에 비해서 2dB 정도의 SNR 이득을 보여주고 있다.

도 15는 브라질 채널모델 A 에서의 SER 모의 실험 결과 그래프이고, 도 16은 브라질 채널모델 A 에서의 MSE 모의 실험 결과 그래프이다. 여기서는 AWGN과 같은 채널 환경에서와는 다르게 지연과 신호크기에 대한 변화가 있는 다중 경로(Mutli-Path)의 영향 요소가 존재하는 채널 환경에서 분석에 대한 결과이다. 도 15 및 도 16과 같이, 브라질 A 채널에 대한 기존의 LMS방식의 DFE 알고리즘과 VSS LMS 알고리즘과 제안한 Adaptive Correlation LMS 알고리즘에서의 SNR이 15dB와 25dB사이의 변화를 가질 때, 수렴후의 SER를 비교 및 수렴성능과 속도에 대한 결과를 제시하여 분석을 하였다. 기존의 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 Adaptive Correaltion LMS 알고리즘의 SNR변화에 따른 SER 분석 결과 그래프를 나타내는 도 15에서와 같이, 기존의 VSS LMS 알고리즘과 제안한 알고리즘의 신호대 잡음비는 SER = 10-4 기준으로 제안방식이 VSS LMS 에 비해서 1.7 dB, DFE (LMS) 방식에 비해서는 2.3dB 정도의 SNR 이득이 있으며, 도 16의 MSE 결과로 볼 때 제안한 알고리즘은 약 350번째에서 -25dB로 수렴하고 같은 기존의 VSS LMS 알고리즘의 약 650번째에서 수렴 속도와 -23dB의 잡음 신호 제거 후 수렴 성능을 보이고 있다. 본 결과를 볼 때 이는 제안한 알고리즘의 성능이 약 400샘플 정도의 빠른 수렴성능을 보이고 있으며 잡음신호 제거 성능역시 기존의 알고리즘 보다 제안한 알고리즘이 더 우수함을 알 수 있다.

도 17은 기존의 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 Adaptive Correaltion LMS 알고리즘의 SNR/SER 분석 결과 그래프이다. 도 18은 기존의 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 Adaptive Correaltion LMS 알고리즘의 SNR/MSE 분석 결과 그래프이다. 기존의 LMS 방식의 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 알고리즘의 신호대 잡음비는 SER = 10-4 기준으로 VSS LMS 알고리즘과 제안한 알고리즘의 신호대 잡음비 2.8dB 정도의 이득이 발생하며 DFE(LMS)에 비해서는 4.5dB정도의 이득이 발생함을 알 수 있다. 도 18의 MSE의 결과로 볼 때 제안한 알고리즘은 약 760번째에서 -25dB로 잡음 신호 제거하여 수렴하는 반면, VSS LMS 알고리즘은 약 1200번째에서 수렴 속도와 -23dB의 수렴성능을 보이고 있 다. 본 결과를 볼 때 이는 이는 제안한 알고리즘의 성능이 600샘플 정도의 빠른 수렴성능을 보이고 있어 빠른 수렴 속도와 잡음 신호 제거 성능이 더 우수함을 알 수 있다.

이상에서 기술한 바와 같이, 본 발명에서는 8VSB 기반의 DTV 방송시스템에서 동일 채널 중계기에 적용 가능한 등화기 알고리즘에 대해 분석하고, 이를 통해 궤환신호에 의한 에러 전파를 감소 시키는 동시에, 수신 성능을 향상 시킬 수 있는 있는 등화기 구조를 제안하였다. LMS 기반의 DFE와 상관도를 이용한 LMS의 알고리즘 분석을 통해 이와 연동할 수 있는 다중레벨의 상관 LMS 기법을 제안하고, 궤환 신호의 효율적 제거 여부를 확인하기 위하여 모의 실험을 통해 기존 방식들과 비교를 통해 효율적으로 에러전파 현상을 크게 감소 시키는 것을 확인할 수 있었다. 또한, 제안한 알고리즘 방식을 기존의 방식들과 비교해 본 결과 기존의 궤환 신호 제거 등화기 DFE와 VSS LMS 알고리즘 보다 제안한 등화기 알고리즘의 요구 신호대 잡음비가 약 2 ~ 5dB 정도 감소 했음을 알 수 있었으며, 모의 실험 결과를 바탕으로 T1과 T2에 따른 스텝사이즈를 적절하게 조절을 하게 되면 에러 수렴 성능이나 SNR 변화에 따른 SER 성능부분이 기존의 방식보다 우수하게 됨을 증명할 수 있었다.

또한, Multi-Path 환경을 고려한 실내?외 수신 환경에서의 성능평가를 위해 브라질 A 채널과 D 채널을 도입하여 실내?외 환경에서의 결과를 비교하였는데, 기존의 궤환 신호 제거 등화기 DFE와 VSS LMS 알고리즘 보다 제안한 등화기 알고리즘이 같은 에러율을 달성하는데 필요한 신호대 잡음비 수치가 감소했음을 알 수 있다.

본 발명에서 제안한 알고리즘 구조는 DTV 방송의 수신 성능 개선을 위하여 등화 구조로써 제안한 것이다. 앞으로 본 발명에서 도출된 제안방식을 실제 채널환경을 고려한 8-VSB DTV 시스템에 적용할 경우 기존의 비터비 디코더 방식의 DFE 등화기 성능 열화에 대한 부분을 제안한 알고리즘의 방식으로 극복 할 수 있을 것이다.

이상에서와 같이 도면과 명세서에서 최적 실시예가 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.

도 1은 DTV 시스템의 일반적인 EDOCR 중계기의 구성도이다.

도 2는 비터비 디코더를 사용하는 블라인드(Blind) DFE 구조를 설명하기 위한 도면이다.

도 3은 브라질 채널의 각 모델에 따른 주경로와 다중 경로의 수신 신호의 상대적 전력크기와 지연시간을 나타낸다.

도 4는 일반적인 LMS 알고리즘을 설명하기 위한 도면이다.

도 5는 본 발명에 적용되는 DFE(결정 궤환 등화기) 기본 구조를 설명하기 위한 도면이다.

도 6은 본 발명의 일실시예에 따른 DFE(결정 궤환 등화기)의 블록도이다.

도 7은 상관도 변화에 대한 0.0004 < μ < 0.003 사이의 MSE 결과 그래프이다.

도 8은 상관도 변화에 대한 0.008 < μ < 0.07 사이의 MSE 결과 그래프이다.

도 9는 AWGN 채널환경에서 MSE의 결과 그래프이다.

도 10은 채널환경 브라질 채널모델 A에서 스텝사이즈의 변화에 따른 에러 수렴 성능에 대한 결과 그래프이다.

도 11은 브라질 채널모델 D 에서 스텝사이즈의 변화에 따른 에러 수렴 성능에 대한 결과 그래프이다.

도 12는 본 발명의 일실시예에 따른 DFE(결정 궤환 등화기)의 스텝 사이즈 제어부 관련 동작을 설명하기 위한 흐름도이다.

도 13은 AWGN 채널환경에서의 SER(Symbol Error Rate) 모의 실험 결과 그래프이다.

도 14는 AWGN 채널환경에서의 MSE(Mean Square Error) 모의 실험 결과 그래프이다.

도 15는 브라질 채널모델 A 에서의 SER 모의 실험 결과 그래프이다.

도 16은 브라질 채널모델 A 에서의 MSE 모의 실험 결과 그래프이다.

도 17은 기존의 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 Adaptive Correaltion LMS 알고리즘의 SNR/SER 분석 결과 그래프이다.

도 18은 기존의 DFE 알고리즘과 VSS LMS 알고리즘 그리고 제안한 Adaptive Correaltion LMS 알고리즘의 SNR/MSE 분석 결과 그래프이다.

Claims

제1 탭수의 지연기를 갖는 피드포워드 LMS(Least Mean Square) 필터, 제2 탭수의 지연기를 갖는 피드백 LMS 필터, 및 비터비 트렐리스 디코더를 이용하여 상기 디코더의 출력 신호에 대한 에러를 제거하기 위한 결정 궤환 등화 방식의 채널 등화 방법에 있어서,

입력 신호에 대한 상기 피드포워드 LMS 필터의 처리로 생성되는 제1 필터 통과 신호와 상기 디코더의 출력 신호에 대한 상기 피드백 LMS 필터의 처리로 생성되는 제2 필터 통과 신호의 합산 신호에서 상기 디코더의 출력 신호를 감산한 신호가 에러 신호이며,

상기 입력 신호와 상기 에러 신호의 상관도값을 계산하고, 상기 상관도값을 소정 최대 상관도 값으로 나누어 0과 1사이의 정규화값을 산출하는 단계; 및

상기 정규화값이 복수 구간 중 어느 구간에 해당하는지 여부를 판단하여, 해당 레벨에 대한 스텝 사이즈를 결정하고, 상기 스텝 사이즈에 따라 상기 피드포워드 LMS 필터와 상기 피드백 LMS 필터의 각 탭에 대한 탭 계수를 업데이트하는 단계를 포함하고,

상기 복수 구간은 상기 스텝 사이즈를 소정 범위에서 변화시킬 때 0과 1사이의 상기 정규화값에 대한 MSE(Mean Square Error)의 수렴 성능이 교차하는 MSE 교차 지점들(T1, T2)을 구하여 설정한 0~T1, T1~T2, 및 T2~1 로 이루어지는 3개의 구간을 포함하는 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화 방법.
제1항에 있어서,

상기 교차 지점(T1, T2)은 채널 환경에 따라 다르게 설정되는 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화 방법.
제1항에 있어서,

상기 0~T1 구간에서 상기 스텝 사이즈를 소정 최소값으로 결정하고,

상기 T1~T2 구간에서 상기 스텝 사이즈를 소정 중간값으로 결정하고,

상기 T2~1 구간에서 상기 스텝 사이즈를 소정 최대값으로 결정하는 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화 방법.
제1항에 있어서, 상기 상관도값의 계산은,

자연수 N개의 샘플링 심볼에 대하여 수학식

에 따라 계산되고,

여기서, X는 입력 신호이고 e는 에러 신호이며, k는 상기 범위의 자연수인 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화 방법.
제1항에 있어서,

상기 입력 신호는 ATSC 8VSB 기반의 방송 신호인 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화 방법.
제1 탭수의 지연기를 이용하여 입력 신호에 대하여 LMS(Least Mean Square) 방식으로 제1 필터 통과 신호를 생성하는 피드포워드 필터;

제2 탭수의 지연기를 이용하여 출력 신호에 대하여 LMS 방식으로 제2 필터 통과 신호를 생성하는 피드백 필터;

상기 제1 필터 통과 신호와 제2 필터 통과 신호를 합산하여 필터 통과 신호를 출력하는 합산기;

상기 필터 통과 신호를 디코딩하여 상기 출력 신호를 생성하는 비터비 트렐리스 디코더;

상기 필터 통과 신호에서 상기 출력 신호를 감산하여 에러 신호를 출력하는 감산기; 및

상기 입력 신호와 상기 에러 신호의 상관도값을 계산하고, 상기 상관도값을 소정 최대 상관도 값으로 나누어 0과 1사이의 정규화값을 산출하며, 상기 정규화값이 복수 구간 중 어느 구간에 해당하는지 여부를 판단하여, 해당 레벨에 대한 스텝 사이즈를 결정하고, 상기 스텝 사이즈에 따라 상기 피드포워드 필터와 상기 피드백 필터의 각 탭에 대한 탭 계수를 업데이트하는 스텝 사이즈 제어부를 포함하고,

상기 스텝 사이즈 제어부는, 상기 스텝 사이즈를 소정 범위에서 변화시킬 때 0과 1사이의 상기 정규화값에 대한 MSE(Mean Square Error)의 수렴 성능이 교차하는 MSE 교차 지점들(T1, T2)을 구하여 설정한 0~T1, T1~T2, 및 T2~1 로 이루어지는 3개의 구간을 포함하는 상기 복수 구간을 기초로 상기 스텝 사이즈를 결정하는 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화기.
제6항에 있어서,

상기 교차 지점(T1, T2)은 채널 환경에 따라 다르게 설정된 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화기.
제6항에 있어서, 상기 스텝 사이즈 제어부는,

상기 0~T1 구간에서 상기 스텝 사이즈를 소정 최소값으로 결정하고,

상기 T1~T2 구간에서 상기 스텝 사이즈를 소정 중간값으로 결정하고,

상기 T2~1 구간에서 상기 스텝 사이즈를 소정 최대값으로 결정하는 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화기.
제6항에 있어서,

동일 채널 중계기에 이용되는 것을 특징으로 하는 결정 궤환 등화 방식의 채널 등화기.