KR100613107B1

KR100613107B1 - 벡터양자화(ｖｑ) 코드북을 최적화하는 방법과 채널 ｑａｍ신호를 최적화하는 방법, 그리고 ｖｑ코드북 및 ｑａｍ신호를 동시에 최적화하는 방법

Info

Publication number: KR100613107B1
Application number: KR1019990037951A
Authority: KR
Inventors: 한종기
Original assignee: 삼성전자주식회사
Priority date: 1999-09-07
Filing date: 1999-09-07
Publication date: 2006-08-17
Anticipated expiration: 2019-09-07
Also published as: KR20010026584A

Abstract

본 발명은 채널잡음에 강한 통신을 하기 위한 코드북 및 채널신호를 최적화하고 또한 코드북 최적화 및 채널신호 최적화를 교대로 반복 수행함으로써 동시에 최적화하는 방법에 관한 것으로, 특히 AWGN채널 노이즈 환경에서 소스 코드북인 VQ코드북의 활용과 채널신호인 QAM신호의 활용 및 이 두가지를 동시에 최적화함으로써 노이즈의 영향을 최소화하면서 영상 통신을 가능하게 하는 효과가 있다.

영상통신, 직교진폭변조(QAM), COVQ

Description

벡터양자화(ＶＱ) 코드북을 최적화하는 방법과 채널 ＱＡＭ신호를 최적화하는 방법, 그리고 ＶＱ코드북 및 ＱＡＭ신호를 동시에 최적화하는 방법{Methods of optimizing VQ codebook and channel QAM signal, and Methods of joint optimization of VQ codebook and channel QAM signal}

도 1은 종래 VQ코드북과 QAM을 이용한 통신시스템의 예를 보여주는 도면,

도 2는 기존방식의 QAM모듈레이션신호의 배치를 보여주는 도면,

도 3은 도 1의 하드 디시젼 검출부의 동작을 설명하기 위한 도면,

도 4는 본 발명에 적용된 AWGN채널에 의해 채널전송변조신호가 변환하는 것을 보여주는 도면,

도 5는 노말 VQ코드북을 사용할때, QAM최적화기술의 성능을 보여주는 도면,

도 6은 전체 왜곡을 최소화하기 위한 모듈레이션신호의 최적화기술의 성능을 보여주는 도면,

도 7은 바둑판 배열의 QAM을 사용할때 COVQ코드북 최적화 기술의 성능을 보여주는 도면,

도 8은 QAM신호와 VQ신호의 동시 최적화과정의 성능을 보여주는 도면.

본 발명은 채널잡음에 강한 통신을 하기 위한 코드북 및 채널신호를 최적화하는 방법에 관한 것으로, 특히 AWGN채널 노이즈 환경에서 노이즈의 영향을 최소화하면서 영상 통신을 가능하게 하기 위한 소스 코드북인 VQ코드북의 최적화와 채널신호인 QAM신호의 최적화 및 이 두 가지를 동시에 최적화하는 방법에 관한 것이다.

근래에 들어, 정보화사회의 통신기기의 발달로 인해 현대인들의 통신기기에 대한 욕구수준은 날로 높아가고 있다. 그 궁극적인 목표는 "언제 어디서나 양질의 서비스를 빨리 이용하고 싶다"로 표현될 수 있다. 이러한 목표에 접근하기 위해서는 휴대용 통신 단말의 성능을 "빠른 전송속도"측면과 "채널 노이즈에 영향이 없는 서비스"측면으로 발전시켜야 한다.

따라서, 빠른 전송을 위해서는 영상압축을 사용해야 하며, 압축율이 높고 우수한 성능을 보인다고 알려진 벡터양자화(VQ; Vector Quantization)기술을 사용한다. 또한, 빠른 전송을 위해서 추가의 비트률이 증가하는 채널코딩기법을 사용하지 않고 양질의 서비스가 가능하도록 시스템의 각 모듈을 최적화한다.

또한, 채널노이즈에 영향이 없는 서비스를 위해서 채널 적응 VQ코드북 및 채널 QAM신호를 최적화한다.

벡터양자화(VQ)기술과 직교진폭변조(QAM; Quadrature Amplitude Modulation) 기술은 기존의 많은 통신 시스템에서 사용되는 기술이다. 채널-최적화 벡터양자화(Channel-Optimized VQ; COVQ)기술도 기존에 사용되는 기술이다.

도 1은 VQ와 QAM을 이용한 통신시스템의 예를 보여주는 도면이다.

도 1에 보여진 바와같은 영상 또는 음성 전송시스템에서, 벡터양자화(VQ) 엔코더(11)는 k차원의 소스벡터 Y _l 을 코드벡터 X_i로 양자화한다. 이때, 벡터양자화(VQ) 코드북(12)은 Y _l 을 대신하기 위해 선택된 코드벡터 X_i를 벡터양자화(VQ) 엔코더(11)로 출력한다. 모듈레이션부(13)는 채널을 통해 X_i신호를 전송하기 위해 X_i신호를 모듈레이션하고, 모듈레이션신호 S_i를 전송한다. 이 때, 코드벡터 X_i는 S_i에 매핑된다. 여기서, S_i는 QAM신호 집합 중 한 개의 신호이다. QAM신호 세트 S는 {S₀, S₁, S₂, …, S_N-1}이며, 도 2에 보여진 바와 같다. 가산부(14)는 모듈레이션신호 S_i에 채널잡음 G를 가산한다. 따라서, 채널잡음 G가 전송신호 S_i에 영향을 가해, 가산부(14)의 출력단에서는 전송신호 S_i가 오염된 신호 Z_r로 변형되어 출력된다. 하드 디시젼 검출부(hard decision detector; γ)(15)는 오염되어 수신되는 Z_r이 어느 2차원 집합 R_i, i={0,1,…, N-1}에 속하는지를 판별한다. 그리고, 하드 디시젼 검출부(15)는 판별된 R_j의 중심신호 S_j를 수신신호 Z_r에 매핑하고, S_j신호를 출력한다. 디모듈레이션부(16)는 수신신호로 판별된 S_j를 VQ디코더(17)로 출력한다. VQ디코더(17)는 S_j에 해당하는 X_j를 VQ코드북(18)에서 선택하여 신호 S_j를 Y _l 대신 X_j로 복원한다.

이러한 일련의 동작으로 발생하는 에러들에는 Y _l 이 X_i로 변하는 양자화에러와 X_i가 X_j로 변하는 채널에러가 있다.

위와 같은 구성을 갖는 종래의 통신시스템의 동작을 도 1을 참조하여 설명하겠다.

도 1에서, k차원의 벡터공간을 Ω_i,(i=0,...N-1)로 나눈다. 각 Ω_i의 중심에 있는 k차원의 벡터는 코드벡터 X_i이다. 이런 코드벡터의 집합인 코드북을 C = {X₀, X₁, …, X_N-1}로 표현한다. 예를 들어, 입력신호 벡터 Y _l 이 Ω ₄에 속한다면 VQ엔코더(11)는 X₄를 VQ코드북(12)에서 선택한다. 모듈레이션부(13)는 선택된 X₄를 채널을 통해 보낼수 없으므로, 채널에 전송하기 적합한 모듈레이션신호를 보낸다. 즉, X₄에 할당된 채널신호 S₄를 보낸다. 기존방식의 QAM모듈레이션신호의 배치는 도 2에 보여진 바와같다. 도 2에 보여진 바와같이, 신호들이 2차원 영역에서 바둑판 배열로 존재한다. 잡음에 감염된 수신신호 Z_r로부터 채널신호를 찾아내는 과정은 하드 디시젼 검출부(15)가 수행한다. 이는 도 3에 보여진 바와 같으며, 하드 디시젼 검출부(15)는 오염되어 수신되는 Z_r이 어느 2차원 집합 Ri, i={0,1,…, N-1}에 속하는지를 판별한다. 이 때, R_i는 채널신호(S_i; 2차원 신호임)가 존재하는 2차원 평면을 오버랩없이 나눈집합들이다. 각각의 R_i중심에는 모듈레이션신호 S_i가 존재하며 이런 신호들이 QAM 신호 세트 S를 구성한다. 즉, 하드 디시젼 검출부(15)는 수신신호 Z_r이 R_i(i=0,1,…,N-1) 중 어느 R_i에 속하는 신호인지를 판별한다. 수 신된 2차원 신호 Z_r이 어느 S_i(i=0,1,…N-1)와 가장 가까운 거리에 있는가를 선택하는 것이다. 이 때, 결정된 R_j의 중심신호 S_j를 복원신호로 결정한다. 즉, S_i신호가 채널을 통해 전송되었으나 S_j가 전송되었다고 판별하게 된다. 이는 수학식 1에 보여진다.

이 과정을 통해 송신된 S_i와 다른 S_j가 선택될 수 있으며, 그 영향은 채널잡음 G 때문이다.

신호수신에 따른 전체왜곡은 양자화왜곡(Y_l--->X_i)과 채널왜곡(S_i-->S _j)으로 나누어질 수 있다. 이 중 잡음 G로 인해 발생되는 것은 채널왜곡이다. 이 두 왜곡에 의해 발생하는 전체 왜곡 D(C,S)을 수학식 2에 나타내었다.

여기서, P(X_j｜X_i)는 전이확률(transition probabilities)이고, N은 코드북의 크기이며, d(Y_l,X_j)는 ｜Y_l-X_j｜²이다.

X_i와 S_i가 1대 1로 대응되어 있기 때문에 P(X_j｜X_i) = P(S_j｜S_i) 라 할 수 있 다. 이 사실을 고려하면 수학식 2의 전체 왜곡은 수학식 3으로 표현할 수 있다.

통신시스템을 최적화시키기 위해서는 수학식 3에 보여진 전체왜곡 D(C,S)를 최소화해야 한다. 수학식 3에서 차원 k 및 N은 고정되어 있으므로, D(C,S)를 최소화하기 위한 코드북 C 및 모듈레이션신호셋트 S를 제작해야 한다.

그래서, 채널최적화 벡터 양자화(COVQ)방법은 채널에러에 강인한 벡터 양자화 코드북 개발기술로서 여러 논문에서 언급되고 제안되었다. 하지만, 이들 COVQ에 대한 최적화 기술들의 대부분이 2원 대칭 채널(Binary Symmetric Channel)에 대한 것들이며 최적화된 QAM신호를 사용한 AWGN채널에서 사용된 경우는 없다. 그 이유는 비정규 배열을 구성하는 최적 QAM시스템에서는 에러발생확률 P(S_j｜S_i)가 계산되기 어렵기 때문이다.

또한, 직교진폭변조(QAM)방법은 빠른 전송속도를 요구하는 통신시스템에서 자주 사용되는 모듈레이션방법이다. 기존의 기술들에서는 도 2에 보여진 바둑판 배열(Squared)QAM신호를 사용한다. 또, 이를 개선한 여러 QAM신호 최적화방법들이 있는데, 이 기술들에서는 소스 코드북의 특성을 고려하지 않고 최적화하거나 소스 코드북의 특성을 고려하면서 왜곡함수의 기울기를 구해 접근하는 뉴톤의 최적화방법을 사용한다. 이러한 종래의 방법들은 상술한 두 기술을 최적화할때 각각 독립적으로 최적화하였다.

본 발명은 상술한 방법과는 다르게 AWGN채널을 통해 QAM신호를 사용하여 전송하는 경우, VQ코드북을 최적화하는 방법, 각 QAM신호에 대응되는 VQ코드벡터들을 첨가하여 QAM신호를 최적화하는 방법 및 VQ코드북 최적화와 QAM신호최적화를 교대로 적용시켜 반복적으로 동시에 최적화하는 방법을 제공하는 데 그 발명의 목적이 있다.

위와 같은 목적을 달성하기 위한 본 발명의 특징은, 영상통신시스템에서 AWGN채널에 대한 직교진폭변조(QAM)신호 세트를 최적화하는 방법에 있어서, (1) 전송된 채널신호 S_i의 채널잡음 G에 의한 N개의 왜곡값을 구하는 단계; (2) 단계 1에서 구해진 왜곡값들 중 가장 작은 값을 선택하여 채널잡음에 의해 S_i가 변환되어 생성된 신호 Z_r이 속해야 할 소정의 2차원 집단 R_j를 정하는 단계; (3) 새롭게 구성되는 R_j의 중심점을 찾아 그 중심점을 전송되는 채널신호 S_j로 정하는 단계; 및 (4) 단계 2와 3을 반복적으로 수행하는 단계를 포함한다.

위와 같은 목적을 달성하기 위한 본 발명의 다른 특징은, 영상통신시스템에서 QAM전송방식에 적합한 COVQ코드북을 최적화하는 방법에 있어서, (1) 훈련벡터(Y _l )와 관련된 N개의 왜곡값들을 구하는 단계; (2) 단계 1에서 구해진 왜곡값들 중 최소값을 선택하여 훈련벡터(Y _l )가 속하는, 벡터공간을 나눈 집합(Ω_i)을 결정하는 단계; (3) 단계 2에서 결정된 집합의 중심점을 새로운 코드벡터로 정하는 단계; (4) 모든 훈련벡터에 대해 단계 2및 3을 반복 수행하는 단계를 포함한다.

위와 같은 목적을 달성하기 위한 본 발명의 또 다른 특징은 영상통신시스템에서 벡터양자화 코드북과 채널 직교진폭변조(QAM)신호를 동시에 최적화하는 방법에 있어서, (Ⅰ) 전송된 채널신호(S_i)의 채널잡음(G)에 의한 N개의 왜곡값들을 구하여, 변환된 신호(Z_r)가 속해야할 소정의 2차원 집단(R_j)을 정하고, 새롭게 구성된 2차원집단(R_j)의 중심점을 찾아 그 중심점을 전송된 채널(S_j)로 새롭게 정함으로써 직교진폭변조(QAM)신호 세트를 최적화하는 QAM신호 최적화단계; (Ⅱ) 코드북을 제작하기 위한 각 훈련벡터(Y _l )가 벡터공간을 나눈 어느 집합(Ω_i)에 속하는지를 결정하여, 특정한 한 개의 훈련벡터(Y _l )가 각 집합에 속했을 때 이 훈련벡터와 관련된 N개의 왜곡값들을 구하여 주어진 QAM신호세트에 대해서 COVQ코드북을 제작하고, 모든 훈련벡터가 속하는 집합(Ω_i)을 결정하면, 결정된 집합의 중심점을 새로운 코드벡터로 정하여 COVQ코드북의 최적화를 이루는 단계; 및 (Ⅲ) 단계 Ⅰ 및 Ⅱ를 교대로 반복 수행하는 단계를 포함한다.

이하, 첨부한 도면들을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하겠다.

먼저, QAM신호의 AWGN채널에 대한 최적화방법에 대해 설명하겠다.

도 4는 AWGN채널에 의해 채널전송변조신호가 변환하는 것을 보여주는 도면이 다.

도 4 및 수학식 4에 보여진 바와 같이, 전송된 채널신호 S_i는 채널잡음 G때문에 Z_r로 변한다.

만약, 수신된 Z_r이 임의의 2차원 집단 R_j에 속한다면 P(S_j｜S_i)는 다음 수학식 5로 표현된다.

수학식 5는 R_j에 속하는 모든 Z_r에 대해서 다음 수학식 6에 보여진 확률을 모두 합산한다는 의미이다.

여기서, 2N₀는 백색가우시안잡음(white Gaussian noise)의 한측(one-sided) 공간밀도이다.

따라서, 수학식 3에 보여진 전체 왜곡 D(C, S)는 다음 수학식 7로 표현할 수 있다.

여기서, QAM신호를 최적화 한다는 의미는, S_i의 위치를 최적화 한다는 의미를 말한다. 이것은 R_i를 최적화하는 것과도 같으며, R_i를 최적화한다는 것은 R_i에 속하는 Z_r들을 정한다는 것이다. 이는 특정한 Z_r이 어느 R_i에 속하는가를 정하는 것이기도 하다. 따라서, Z_r이 R₁에 속했을때의 전체왜곡 D(C, S)값을 구하고, 또 Z_r이 R₂에 속했을때의 D(C, S)의 값을 구하는 등의 작업을 수행한다. 즉, Z_r이 R_j(j=0,1,…, N-1)에 속했을때의 각각의 D(C,S)값을 구한다. 그 각각의 표현은 다음 수학식 8에 보여진다.

여기서,W(i,j)는 다음 수학식 9로 표현된다.

이렇게 하여 구해진 N개의 왜곡값들 중 제일 작은 값을 선택하면 주어진 Z_r이 속해야할 R_j가 정해지는 것이다. 이 과정은 다음 수학식 10에 보여진 바와 같다.

이러한 수학식 10의 작업을 모든 Z_r에 대해서 수행한다.

통상적으로 사용하는 Z_r의 갯수는 수십만 개 이상을 사용한다. 도 2에서 보여진 2차원 QAM신호공간에서 균일하고 랜덤하게 수십만개의 Z_r을 추출하여 사용한다. 그래서, 수학식 10의 과정을 통과하여 새롭게 구성된 R_j(j=0,1,…,N-1)의 중심점을 찾아 그 중심점을 S_j(j=0,1,…,N-1)로 새롭게 정한다. 이 과정을 수학식 11에 표현하였다.

여기서, E[d(Z_r,y)｜Z_r∈R_j]는 Z_r이 R_j에 속할 때, 수신신호 Z_r과 신호벡터 y사이의 조건적 평균제곱거리를 나타낸다. 수학식 10과 수학식 11의 과정을 반복함으로써 QAM신호 세트를 최적화할 수 있다. 그 과정을 표 1에 보여준다.

Ｏ-ＱＡＭ(최적화된 ＱＡＭ)

단계 1 초기 벡터양자화(ＶＱ) 코드북과 종래 ＱＡＭ 신호들을 설계. 단계 2 반복횟수 iter = 1, 전체왜곡 D(C,S)⁽⁰⁾ = ∞. 단계 3 소정의 2차원 집단 Rj 최적화(Optimize), j=0, 1, …, N-1. 단계 4 최적의 전송된 채널 Sj 계산, j=0, 1, …, N-1. 단계 5 만약

라면 iter = iter + 1 및 단계 3으로 진행. 단계 6 중지(Stop).

상술한 QAM신호의 최적화과정은 QAM의 각 변조신호에 대응되는 VQ코드벡터들의 상관관계, 코드벡터들의 비슷함의 정도, 코드벡터들의 발생빈도를 적용하여 QAM신호를 최적화한다.

다음으로, QAM전송방식에 적합한 COVQ 코드북 최적화기술을 설명하겠다. AWGN채널 환경에서 사용되는 고정된 QAM신호에 대해 COVQ코드북을 최적화한다는 것은 코드벡터 X_i(i=0,1,…N-1)를 최적화한다는 의미이며, k차원의 공간을 나눈 집합 Ω_i (i=0,1,…,N-1)를 최적화한다는 의미이다. 이것은 또한 각 훈련벡터 Y _l (l=0,1,…,M-1)가 어느 집합 Ω_i에 속하는지를 결정한다는 의미이기도 하다.

그래서, 특정한 한 개의 Y _l 이 각 Ω_i (i=0,1,…,N-1)에 속했을 때 Y _l 과 관련된 왜곡값을 각각 구한다. 그러면, 총 N개의 왜곡값이 계산된다. 수학식 12에 계산식을 표현하였다.

여기서, 파티션넘버(partition number) i^*는

를 최소화하기 위해 선택되어진다.

수학식 12에서 P(S_j｜S_i)가

로 계산됨으로써 비정규배열을 구성하는 QAM신호 집합에 대해서 COVQ코드북 제작을 수행할 수 있다. 이 N개의 왜곡값중 최소값을 선택하여 Y _l 이 어느 집합 Ω_i에 속할 때 왜곡이 최소가 되는지를 결정한다. 이 과정은 다음 수학식 13에 보여진 바와 같다.

여기서, M은 훈련벡터의 개수를 나타낸다.

모든 훈련벡터(traning vector) Y _l , (l=0,1,…,M-1)에 대해서 수학식 12와 수학식 13과정을 수행하면, Y _l 이 속하는 왜곡이 최소가 되는 집합 Ω_i(l=0, 1, …,N-1)이 결정된다. 결정된 Ω_i의 중심점이 새로운 코드벡터 X_i가 된다. 이 과정은 다음 수학식 14에 보여진다.

수학식 13 및 수학식 14를 반복 수행함으로써 COVQ코드북의 최적화가 이루어진다. 표 2는 전술한 COVQ코드북을 최적화하는 과정을 보여준다.

채널-최적화된 벡터양자화(ＣＯＶＱ)

단계 1 초기 벡터양자화(VQ) 코드북과 종래 QAM신호들 설계. 단계 2 반복횟수 iter = 1, 전체왜곡 D(C,S)⁽⁰⁾ = ∞. 단계 3 집합 Ω_i최적화(Optimize), i=0, 1, …, N-1. 단계 4 최적의 코드벡터 X_j 계산, j=0, 1, …, N-1. 단계 5 만약

라면 iter = iter + 1 및 단계 3으로 진행. 단계 6 중지(Stop).

표 3은 본 발명의 QAM과 COVQ코드북을 동시에 최적화하는 방법을 설명하기 위한 것이다. QAM신호와 COVQ코드북을 동시에 최적화하기 위해서, QAM신호의 최적화와 COVQ코드북 벡터의 최적화를 교대로 반복수행한다.

동시 최적화 알고리즘(Joint Optimization Algorithm)

단계 1 초기 벡터양자화(VQ) 코드북과 종래 QAM 신호들을 설계. 단계 2 반복회수 iter = 1, 전체왜곡 D(C,S)(0) = ∞. 단계 3 Ｏ-ＱＡＭ를 사용하여 변조신호 배열 최적화(Optimize). 단계 4 ＣＯＶＱ를 사용하여 벡터양자화(VQ) 코드북 설계. 단계 5 만약

라면 iter = iter + 1 및 단계 3으로 진행. 단계 6 중지(Stop).

상술한 최적화방법에 의해 전송된 영상의 화질(PSNR)을 판별하였다. 채널의 노이즈정도를 CSNR로 설정하고, 이 노이즈에 감염되어 수신되고 복원된 영상의 화질을 평가하여 그 PSNR을 성능 그래프로 나타내었다.

그래서, 도 5는 노말(Normal) VQ코드북(Codebook)을 사용할때, QAM최적화기술의 성능을 보여주는 도면이고, 도 6은 CSNR이 20dB일 때 전체 왜곡 D(C,S)를 최소화하기 위한 모듈레이션신호의 최적화기술의 성능을 보여주는 도면이다.

그리고, 도 7은 바둑판(Square) 배열의 QAM을 사용할때 COVQ코드북 최적화 기술의 성능을 나타낸 도면이고, 도 8은 QAM신호와 VQ신호의 동시 최적화(Joint Optimization)기술의 성능을 나타낸다.

상술한 바와같이, 본 발명은 AWGN채널 노이즈 환경에서 소스 코드북인 VQ코드북의 활용과 채널신호인 QAM신호의 활용 및 이 두 가지를 동시에 최적화하여 노이즈의 영향을 최소화하면서 영상 통신을 가능하게 하는 효과가 있다.

Claims

영상통신시스템에서 AWGN채널에 대한 직교진폭변조(QAM)신호 세트를 최적화하는 방법에 있어서,

(1) 전송된 채널신호 S_i의 채널잡음 G에 의한 N개의 왜곡값을 구하는 단계;

(2) 단계 1에서 구해진 왜곡값들 중 가장 작은 값을 선택하여 채널잡음에 의해 S_i가 변환되어 생성된 신호 Z_r이 속해야 할 소정의 2차원 집단 R_j를 정하는 단계;

(3) 새롭게 구성되는 R_j의 중심점을 찾아 그 중심점을 전송되는 채널신호 S_j로 정하는 단계; 및

(4) 단계 2와 3을 반복적으로 수행하는 단계를 포함하여, QAM신호 세트를 최적화하는 방법.
제 1항에 있어서, QAM의 각 변조신호에 대응되는 VQ코드벡터들의 상관관계, 코드벡터들의 비슷함의 정도, 코드벡터들의 발생빈도를 적용하여 QAM신호를 최적화하는 것을 특징으로 하는, QAM신호 세트를 최적화하는 방법.
제 1항에 있어서, 상기 단계 1은 변환된 신호 Z_r이 소정의 2차원 집단 R_j에 속했을 때 N개의 왜곡값을 구하는 것을 특징으로 하는 QAM신호 세트를 최적화하는 방법.
영상통신시스템에서 QAM전송방식에 적합한 COVQ코드북을 최적화하는 방법에 있어서,

(1) 훈련벡터(Y _l )와 관련된 N개의 왜곡값들을 구하는 단계;

(2) 단계 1에서 구해진 왜곡값들 중 최소값을 선택하여 훈련벡터(Y _l )가 속하는, 벡터공간을 나눈 집합(Ω_i)을 결정하는 단계;

(3) 단계 2에서 결정된 집합의 중심점을 새로운 코드벡터로 정하는 단계;

(4) 모든 훈련벡터에 대해 단계 2및 3을 반복 수행하는 단계를 포함하여, COVQ코드북을 최적화하는 방법.
제 4항에 있어서, 상기 단계 1은 특정한 한 개의 훈련벡터가 각 집합(Ω_i)에 속했을 때 왜곡값들을 구하는 것을 특징으로 하는, COVQ코드북을 최적화하는 방법.
제 4항에 있어서, 상기 단계 2는 상기 N개의 왜곡값들 중 최소값을 선택하여 훈련벡터(Y _l )가 왜곡이 최소가 되는 집합(Ω_i)을 선택하여 코드북을 제작하는 것을 특징으로 하는, COVQ코드북을 최적화하는 방법.
영상통신시스템에서, 벡터양자화 코드북과 채널 직교진폭변조(QAM)신호를 동시에 최적화하는 방법에 있어서,

(Ⅰ) 전송된 채널신호(S_i)의 채널잡음(G)에 의한 N개의 왜곡값들을 구하여, 변환된 신호(Z_r)가 속해야할 소정의 2차원 집단(R_j)을 정하고, 새롭게 구성된 2차원집단(R_j)의 중심점을 찾아 그 중심점을 전송된 채널(S_j)로 새롭게 정함으로써 직교진폭변조(QAM)신호 세트를 최적화하는 QAM신호 최적화단계;

(Ⅱ) 코드북을 제작하기 위한 각 훈련벡터(Y _l )가 벡터공간을 나눈 어느 집합(Ω_i)에 속하는지를 결정하여, 특정한 한 개의 훈련벡터(Y _l )가 각 집합에 속했을 때 이 훈련벡터와 관련된 N개의 왜곡값들을 구하여 주어진 QAM신호세트에 대해서 COVQ코드북을 제작하고, 모든 훈련벡터가 속하는 집합(Ω_i)을 결정하면, 결정된 집합의 중심점을 새로운 코드벡터로 정하여 COVQ코드북의 최적화를 이루는 단계; 및

(Ⅲ) 단계 Ⅰ의 QAM신호 최적화 및 단계 Ⅱ의 COVQ코드북 벡터 최적화를 교대로 반복 수행하여 QAM신호와 COVQ코드북 동시 최적화하는 단계를 포함하는 벡터양자화 코드북과 채널 직교진폭변조(QAM)신호를 동시에(Joint) 최적화는 방법.
제 7항에 있어서, 상기 단계 Ⅰ는 N개의 왜곡값들 중 가장 작은 값을 선택하여 변환된 신호 Z_r이 속해야 할 2차원 집단(R_j)를 선택하는 것을 특징으로 하는, 벡터양자화 코드북과 채널 직교진폭변조신호를 동시에(Joint) 최적화하는 방법.
제 7항에 있어서, 상기 단계 Ⅱ는 상기 N개의 왜곡값들 중 최소값을 선택하여 훈련벡터(Y _l )가 왜곡이 최소가 되는 집합(Ω_i)을 선택하여 코드북을 제작하는 것을 특징으로 하는, 벡터양자화 코드북과 채널 직교진폭변조신호를 동시에(Joint) 최적화하는 방법.
제 7항에 있어서, 상기 단계 Ⅰ는 QAM의 각 변조신호에 대응되는 VQ코드벡터들의 상관관계, 코드벡터들의 비슷함의 정도, 코드벡터들의 발생빈도를 적용하여 QAM신호를 최적화하는 것을 특징으로 하는, 벡터양자화 코드북과 채널 직교진폭변조신호를 동시에(Joint) 최적화하는 방법.
제 7항에 있어서, 상기 단계 Ⅲ은

(1) 벡터양자화(VQ) 코드북과 복합 직교진폭변조(QAM)신호들을 초기 제작하는 단계;

(2) 상기 단계 Ⅰ의 QAM최적화단계를 수행하여 모듈레이션신호배열을 최적화하는 단계;

(3) 상기 단계 Ⅱ의 COVQ코드북의 최적화단계를 수행하여 VQ코드북을 제작하는 단계; 및

(4) 단계 2와 단계 3을 반복 수행하는 단계를 포함하는 것을 특징으로 하는, 벡터양자화 코드북과 채널 직교진폭변조신호를 동시에(Joint) 최적화하는 방법.