KR100590184B1 - 채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법 - Google Patents

채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법 Download PDF

Info

Publication number
KR100590184B1
KR100590184B1 KR1019990027233A KR19990027233A KR100590184B1 KR 100590184 B1 KR100590184 B1 KR 100590184B1 KR 1019990027233 A KR1019990027233 A KR 1019990027233A KR 19990027233 A KR19990027233 A KR 19990027233A KR 100590184 B1 KR100590184 B1 KR 100590184B1
Authority
KR
South Korea
Prior art keywords
vector
representative
vectors
codebook
channel
Prior art date
Application number
KR1019990027233A
Other languages
English (en)
Other versions
KR20010009068A (ko
Inventor
한종기
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1019990027233A priority Critical patent/KR100590184B1/ko
Publication of KR20010009068A publication Critical patent/KR20010009068A/ko
Application granted granted Critical
Publication of KR100590184B1 publication Critical patent/KR100590184B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/94—Vector quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164—Feedback from the receiver or from the transmission channel
    • H04N19/166—Feedback from the receiver or from the transmission channel concerning the amount of transmission errors, e.g. bit error rate [BER]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

입력하는 신호정보벡터를 채널잡음에 강인한 최적의 대표벡터로 양자화하기 위한 채널적응벡터양자화(COVQ)에 사용되는 코드북의 구현방법은, (1) 전술한 대표벡터에 대응하는 인덱스벡터의 해밍거리(Hamming Distance)마다의 비트에러발생확률을 누적한 확률과, 전술한 각 해밍거리에 대응하는 다른 대표벡터들의 누적값 및 그 대표벡터들의 제곱의 누적값을, 각 대표벡터마다 미리 산출하는 단계; 및 (2) 제 (1)단계에서 각각 산출된 값들과 상기 개별 신호정보벡터의 값을 이용하여, 각 신호정보벡터가 속하는 집합 및 각 집합마다의 대표벡터를 결정하는 단계를 포함한다. 그리고, 제 (2)단계에 의해 재구성된 코드북에 의한 채널왜곡의 정도가 소정 허용오차범위내로 될 때까지, 제 (2)단계에 의해 재구성된 코드북에 기초하여 제 (1)단계 및 제 (2)단계를 반복적으로 수행한다. 이로써, 본 발명은 종래의 코드북구현방법에 비해, 전술의 코드북구현을 위한 알고리즘의 복잡도를 현저하게 감소시켜 빠른 시간내에 효율적으로 채널잡음에 강인한 최적의 벡터양자화용 코드북을 구현할 수 있게 하는 효과를 제공한다.

Description

채널적응벡터양자화(ＣＯＶＱ)를 위한 코드북의 구현방법{A method for designing codebook in channel-optimized vector quantization}
도 1은 벡터양자화를 이용한 통신시스템을 개략적으로 보여주는 도면,
도 2는 종래의 방식에 따른, 채널적응벡터양자화용 코드북의 구현방법을 설명하기 위한 개념도,
도 3은 본 발명에 따른, 채널적응벡터양자화용 코드북의 구현방법을 설명하기 위한 개념도,
도 4a는 종래의 방법에 따라 채널적응벡터양자화용 코드북을 구현하는데 필요한 CPU시간을 측정한 그래프,
도 4b는 본 발명의 방법에 따라 채널적응벡터양자화용 코드북을 구현하는데 필요한 CPU시간을 측정한 그래프
본 발명은 채널적응벡터양자화(COVQ)를 위한 코드북을 구현하는 방법에 관한 것으로서, 특히 그 코드북구현을 위한 알고리즘의 연산복잡도를 현저하게 감소시켜 빠른 시간내에 채널잡음에 강인한 최적의 채널적응벡터양자화용 코드북을 실질적으 로 구현할 수 있게 하는 코드북구현방법에 관한 것이다.
일반적으로, 스칼라양자화에 대비되는 벡터양자화(VQ; Vector Quantization)는 신호샘플들 또는 그 신호 파라메타들의 k차원 영역을 그에 대응하는 대표벡터로 양자화한다. 따라서, 벡터양자화방식은 소스코딩(source coding)의 데이터압축율이 매우 높아 낮은 비트율(low bit rates)의 소스코딩에 효율적이다. 이러한 벡터양자화방식을 이용한 화상통신시스템을 도 1을 참조하여 개략적으로 설명한다.
도 1을 참조하면, k차원의 신호샘플들 또는 신호파라메타들로 된 화상정보벡터(Y l )가 벡터양자화부호기로 입력된다. 벡터양자화부호기(VQ-Encoder)는 입력하는 화상정보벡터와 상관성이 가장 큰 대표벡터(X i )를 벡터양자화코드북(VQ code book)으로부터 추정하여, 그 대표벡터(X i )에 대응하는 인덱스벡터(I(X i ))를 채널로 전송한다. 한편, 전송채널이 무선 또는 이동용 신호채널일때 그 채널잡음의 영향은 크게 작용한다. 따라서, 송신기로부터 전송된 인덱스벡터(I(X i ))가 전송채널의 가산잡음(G)에 오염되면 다른 인덱스벡터(I(X j ))로 변형되어 수신기의 벡터양자화복호기(VQ-Decoder)로 입력된다. 이로 인해, 대표벡터들 및 이를 각각 지정하는 인덱스벡터들로 된 코드북을 벡터양자화부호기와 동일하게 갖는 벡터양자화복호기는, 송신측의 대표벡터(X i )와는 다른 대표벡터(X j )를 복원한다. 이에 따라 전송채널의 잡음에 의해 신호의 왜곡(distortion)이 발생하여 화질이 열화된다.
한편, 이 분야에서 공지된 채널적응벡터양자화(COVQ; Channel-Optimized Vector Quantization)는 채널잡음에 의해 인덱스벡터가 변형되는 경우에도, 그 변형된 인덱스벡터에 의해 복원되는 대표벡터와 변형되기 이전의 대표벡터와의 상관성이 크게 되도록 미리 코드북을 구현하는 기술이다. 따라서, 채널적응벡터양자화방식은 채널잡음에 의해 대표벡터의 인덱스벡터가 변형되더라도 복원되는 대표벡터의 왜곡을 최소화할 수 있게 한다. 이러한 종래의 채널적응벡터양자화용 코드북의 구현방법을, 도 2를 참조하여 설명한다.
도 2를 참조하면 채널적응벡터양자화에 사용되는 코드북을 구현하기 위한 알고리즘을 구성하는 제 1단계에서는, 입력되는 신호정보벡터들인 M개의 각 실험벡터(trainning vector;Y l )가 코드북의 사이즈 N에 대응하는 N개의 집합들(
Figure 111999007560457-pat00001
)중 어느 집합에 속하는지를 결정한다. 제 2단계는 제 1단계에서 결정된 각 집합의 중심벡터를 구해 대표벡터(X i )로 결정한다. 그리고, 제 2단계에서 결정된 대표벡터로 이루어진 코드북에 의한 전술의 채널왜곡이 최소화될 때까지, 제 2단계에서 결정된 집합들 및 각 집합의 대표벡터에 근거하여 전술의 제 1 및 2단계를 반복적으로 수행함으로써, 채널잡음에 최적화된 벡터양자화용 코드북을 구현한다.
이러한 채널적응벡터양자화용 코드북을 구현하기 위한 알고리즘을 보다 구체적으로 살펴보면, 채널적응벡터양자화를 적용하고자 하는 화상통신시스템의 용도에 따라 전술의 M개의 실험벡터들 및 코드북의 사이즈 N을 결정한다. 이어서, M개의 각 실험벡터들을 N개의 집합들로 분류하고, 각 집합의 대표벡터를 임의로(randomly) 결정함으로써 채널적응벡터양자화용 코드북을 구현하기 위한 초 기화단계를 완료한다.
초기화단계가 완료되면, 아래의 수학식 1에 근거하여 전술의 제 1단계를 수행한다.
Figure 111999007560457-pat00002
여기서, P(X j ｜X i )는 대표벡터(X i )가 비트에러(bit-error)에 의해 다른 대표벡터(X j )로 변형될 확률(probability)을 나타낸다. 즉, 이는 벡터양자화부호기에서 양자화된 대표벡터(X i )가 채널잡음의 영향(channel noise effect)으로 벡터양자화복호기에서 대표벡터(X j )로 변형되어 복원될 확률과 같다. d(Y l ,X j )는 벡터양자화되기 이전의 실험벡터(Y l )와, 그 실험벡터가 양자화 및 채널전송되어 복원되는 대표벡터(X j )와의 왜곡(Distortion)의 정도를 의미하며, 그 오차제곱｜Y l - X j ｜2으로 나타낸다. 그리고, 대표벡터들을 구분하는 매개변수들(i,j)은 "0≤i,j≤N-1"의 범위를 갖는다.
수학식 1에 따른 제 1단계를 세부적으로 살펴보면, 첫번째로 개별적인 각 실험벡터(Y l )에 대해서 d(Y l ,X j )를 계산한다. 이때,j∈{0,1,…,N-1}인 대표벡터(X j )에 대해서 계산해야 하므로 N번의 d(Y l ,X j )값 계산이 수행된다. 두번째로, 전술의 N차원데이터와 다른 N차원의 데이터 P(X j ｜X i ),j∈{0,1,…,N-1}가 곱해진다. 세번째 로, 전술의 두번째의 곱셈을 i∈{0,1,…,N-1}인 대표벡터(X i )마다 수행해서 N개의 곱셈결과를 얻는다. 네번째로, 전술한 세번째 곱셈결과들중 최소의 곱셈결과를 갖는 "i"를 판별하여, 현재 선택되어진 개별 실험벡터(Y l )가, 판별된 " i"에 대응하는 집합(
Figure 111999007560457-pat00003
)에 속하는 것으로 결정한다.
한편, 지금까지는 M개의 실험벡터들중 하나의 실험벡터가 N개의 집합들중 어느 집합에 속하는지를 결정하였다. 따라서, 전술의 첫번째 내지 네번째 단계들을 M개의 각 실험벡터마다 반복적으로 수행함으로써, 개별적인 M개의 실험벡터들 모두를 N개의 집합들중의 하나로 각각 분류한다.
전술한 제 1단계에서 M개의 실험벡터들 모두가 N개의 집합들중의 하나로 각각 분류되면, 분류된 각 집합마다, 아래의 수학식 2에 근거하여 해당 집합의 무게중심벡터를 산출하며, 이를 해당 집합의 대표벡터로 결정한다.
Figure 111999007560457-pat00004
수학식 2를 살펴보면, N개의 집합들중의 특정 집합에서, 그 집합에 속하는 실험벡터들중의 각 실험벡터와 임의의 무게중심벡터"y"와의 평균제곱오차가 최소로 되게 하는 "y"를 결정하여, 이를 해당 개별집합(
Figure 111999007560457-pat00005
)의 대표벡터(X i )로 결정한다. 그리고 이러한 개별집합의 대표벡터의 결정을, i∈{0,1,…,N-1}인 N개의 집합들(
Figure 111999007560457-pat00006
)마다에 대하여 반복적으로 수행한다.
전술한 제 1 및 2단계로 이루어진 알고리즘에 의해, 임의로 배정하여 구성된 초기화시의 코드북으로부터 채널잡음을 고려한 첫번째의 채널적응벡터양자화용 코드북이 재구성된다. 그리고, 이렇게 재구성된 코드북에 근거하여, 전술의 제 1단계 및 2단계를, 채널왜곡이 소정 허용오차범위내로 될 때까지 반복적으로 수행함으로써, 채널잡음에 의한 영향을 줄이기 위한 채널적응벡터양자화(COVQ)용 코드북이 구현될 수 있다.
하지만, 채널적응벡터양자화용 코드북을 구현하기 위한 종래의 알고리즘은 전술한 바와 같이 대단히 복잡하여 그 코드북 구현을 위한 시스템의 CPU에 커다란 부하가 걸리며, 이에 따라 최적의 코드북구현에 막대한 시간을 소요하게 된다.
구체적으로, 전술한 알고리즘은 주로 수학식 1의 연산에 그 복잡도가 집중되어 있다. 수학식 1의 연산과정을 간략하게 살펴보면, "
Figure 111999007560457-pat00007
"의 연산복잡도를 갖는다. 여기서, "
Figure 111999007560457-pat00008
"는 제 1단계 및 제 2단계로 이루어지는 알고리즘의 반복횟수를, "M"은 실험벡터(Y l )의 갯수를, "O"는 복잡도(order of complexity)함수를, "N"은 코드북의 크기를 각각 나타낸다. 그리고, COVQ 코드북을 구현하기 위한 전술의 알고리즘은 전술한 제 1단계 및 2단계를 통상 수만회이상 반복적으로 행해야만 채널잡음에 강인한 코드북을 얻을 수 있다. 또한, 전술의 알고리즘 복잡도공식에서 살펴보면, 그 복잡도는 주로
Figure 111999007560457-pat00009
항에 집중되어 있음을 알 수 있다.
이상에서 살펴본 바와 같이, 종래의 채널적응벡터양자화용 코드북을 구현하기 위한 알고리즘은 그 계산상의 복잡도가 대단히 크며, 이로 인해 매우 긴 계산시간이 소요된다. 따라서, 코드북의 크기(N)가 커질수록 그 연산복잡도가 현저하게 증가하므로, 실제로는 그 시스템의 연산부하를 줄이기 위해 전술의 반복횟수를 최적의 코드북구현에 필요한 바람직한 횟수보다 줄여서 코드북을 제작하는 것이 종래의 방식이었다. 이에 따라 구현된 코드북은 채널잡음에 강인한 최적의 벡터양자화를 수행할 수 없게되는 문제점을 초래하고 있다.
전술한 문제점들을 해결하기 위한 본 발명의 목적은, 채널적응벡터양자화용 코드북을 구현하기 위한 알고리즘의 복잡도를 현저하게 줄임으로써, 실질적으로 채널잡음에 강인한 최적의 벡터양자화용 코드북을 빠르고 효율적으로 구현할 수 있는 방법을 제공함에 있다.
전술한 목적을 달성하기 위한 본 발명의, 채널적응벡터양자화를 위한 코드북의 구현방법은, 입력하는 신호정보벡터를 채널잡음에 적응적인 대표벡터로 양자화하는 채널적응벡터양자화(COVQ)에 사용되는 코드북의 구현방법에 있어서, (1) 상기 대표벡터에 대응하는 인덱스벡터의 해밍거리(Hamming Distance)마다의 비트에러발생확률을 누적한 확률과, 상기 각 해밍거리에 대응하는 다른 대표벡터들의 누적값 및 그 대표벡터들의 제곱의 누적값을 각 대표벡터마다 미리 산출하는 단계; 및 (2) 제 (1)단계에서 각각 산출된 값들과 상기 개별 신호정보벡터의 값을 이용하여, 입력하는 각 신호정보벡터가 속하는 집합 및 각 집합마다의 대표벡터를 결정하는 단 계를 포함한다. 그리고, 제 (2)단계에 의해 재구성된 코드북에 의한 채널왜곡의 정도가 소정 허용오차범위내로 될 때까지, 제 (2)단계에 의해 재구성된 코드북에 기초하여 제 (1)단계 및 제 (2)단계를 반복적으로 수행한다.
여기서, 본 발명의 신호정보벡터가 화상(image)정보벡터만으로 한정되지 않음은, 이 기술분야의 당업자에게 자명하다.
이하, 첨부한 도면들을 참조하여 본 발명에 따른 바람직한 일실시예를 상세하게 설명한다.
먼저, 도 1의 벡터양자화방식이 적용된 통신시스템에서, 벡터양자화부호기(VQ-Encoder)는 입력하는 각 신호정보벡터(Y l )를 대응하는 대표벡터(X i )로 벡터양자화하고,그 대표벡터(X i )의 이름표에 해당하는 인덱스벡터(index vector;I(X i ))를 코드북에서 찾아 채널로 전송한다. 따라서, 채널잡음(channel noise;G)에 의해 그 인덱스벡터가 오염되는 경우, 비트에러가 발생하여 변형된 인덱스벡터(I(X j ))가 수신기의 벡터양자화복호기(VQ-Decoder)로 입력된다. 따라서, 벡터양자화복호기는 변형된 인덱스벡터(I(X j ))가 지시하는 변형된 대표벡터(X j )를 코드북으로부터 복원하게 된다. 특히 수학식 1에서, 특정 대표벡터(X i )가 다른 대표벡터(X j )로 변형될 확률을 나타내는 "P(X j ｜X i )"는, 전술의 통신시스템의 설명에 근거하여, 특정 인덱스벡터(I(X i )가 다른 인덱스벡터(I(X j )로 변형될 확률인 "(I(X j )｜I(X i ))"와 동일하다. 한편, K비트수를 갖는 소정 부호어에 "0≤r ≤K"의 범위를 갖는 r비트수의 에러가 발생할 확률(P E (r) )은 "
Figure 111999007560457-pat00010
"로 됨이 디지털신호처리분야의 당업자에게는 알려져 있다. 여기서, "
Figure 111999007560457-pat00011
"는 2진부호어중 1비트가 에러에 감염될 확률을 나타낸다. 그러므로, K비트수를 갖는 인덱스벡터(I(X i ))에 r비트수의 에러가 발생하여 인덱스벡터(I(X j ))로 변형될 확률(PE (r))은 "
Figure 111999007560457-pat00012
"로 표현할 수 있다. 이를 정리하면, 다음의 수학식 3과 같다.
Figure 111999007560457-pat00013
한편, 수학식 1에서의 항(term), "
Figure 111999007560457-pat00014
"에 수학식 3을 대입하면, 다음의 수학식 4a로 된다.
Figure 111999007560457-pat00015
여기서,
Figure 111999007560457-pat00016
로 정의된다. 그리고, 그 물리적인 의미는 특정대표벡터(X i )의 인덱스벡터(I(X i ))와 "0≤n≤N-1"의 범위를 갖는 대표벡터들(X n )에 대응하는 인덱스벡터들(I(X n ))간에 "0≤r≤K"인 해밍거리 r을 갖는 경우마다에 대응하는 전술의 인덱스벡터들(I(X n ))을 구분하는 매개변수 n의 집합을 나타낸다. 여기서, K비트수를 갖는 두 인덱스벡터간의 해밍거리란 디지털신호처리분야의 당업자에게 잘 알려진 기술내용이므로 설명을 생략한다.
특히, 수학식 4a에서 등호를 기준한 좌우의 항들을 살펴보면, 좌측의 종래의 항,
Figure 111999007560457-pat00017
이 수학식 3에 의해 치환됨과 동시에 그에 관련하는 변수들도 달라짐으로써, 그 연산되는 물리적인 의미가 달라진다.
즉, 종래에는 매개변수"j"가 "O≤j≤N-1"인 범위에서, 현재의 실험벡터(Y l )에 대응하는 대표벡터(X i )가 다른 대표벡터들(X j )로 될 확률(P(X j ｜X i ))에, 그 벡터의 변형에 따른 왜곡의 정도(d(Y l ,X j ))를 곱하며, "0≤j≤N-1"의 각각마다에 대하여 구해진 곱셈결과를 누적한다. 반면에, 본 발명의 기술적 사상에 근거하여 치환된 우측항에서는, 먼저 현재의 대표벡터(X i )에 대응하는 K비트수의 인덱스벡터(I(X i ))에 r비트수의 에러가 발생할 확률(PE (r))을 구하며, 이를 "0≤r≤K"의 각각마다 구한다. 다음으로, 대표벡터들에 대응하는 인덱스벡터들중에서, 현재의 인덱스벡터(I(X i ))와 해밍거리가 r인 경우의 다른 인덱스벡터들(I(X j ))만을 추출하며, 추출된 인덱스벡터들이 지정하는 대표벡터들만에 대하여 (d(Y l ,X j ))를 구하며, 이를 "0≤r ≤K"의 각각에 대하여 구한다. 그리고, "0≤r≤K"의 각각에서 구해진 (PE (r)) 및 (d(Y l ,X j ))의 대응하는 r의 값끼리 곱하여 누적한다.
한편, "
Figure 111999007560457-pat00018
"의 값을 가지므로, 이를 수학식 4a의 등호우측항에 대입하고 관련변수별로 전개하면, 다음의 수학식 4b로 된다.
Figure 111999007560457-pat00019
특히, 수학식 4b에서 등호우측의 첫째항 "
Figure 111999007560457-pat00020
"은 K비트수를 갖는 인덱스벡터(I(X i ))에 r비트수의 에러가 발생하여 인덱스벡터(I(X j ))로 변형될 확률(PE (r))을 "0≤r≤K"인 각각의 경우마다 누적한 값을, Y l t 는 Y l 의 트랜스포즈(transpose)벡터를 각각 나타낸다. 그리고, 다음항들인 "
Figure 111999007560457-pat00021
"은 전술한 "
Figure 111999007560457-pat00022
"의 조건을 만족하는 인덱스벡터들에 대응하는 대표벡터들의 집합에만 관련되는 항들로 전개됨을 알 수 있다.
한편, "
Figure 111999007560457-pat00023
"로, "
Figure 111999007560457-pat00024
"로, 그리고 "
Figure 111999007560457-pat00025
"로, 각각 실험벡터(Y l )들과 독립적인 관계를 갖도록 정의하면, 수학식 4b의 등호우측항들은 다음의 수학식 4c로 된다. 여기서, "C i "는 상수값을 갖게 된다.
Figure 111999007560457-pat00026
수학식 4c를 살펴보면, 우측항들은 실험벡터와 그에 독립적인 A i ,B i ,C i 로 분해될 수 있음을 알 수 있다.
전술한 수학식 4a 내지 수학식 4c를 정리하면, 다음의 수학식 4d로 된다.
Figure 111999007560457-pat00027
수학식 4d를 이용하면, 전술한 수학식 1은 다음의 수학식 5로 표현된다.
Figure 111999007560457-pat00028
여기서, 수학식 5는 수학식 1의 곱셈연산이 "A i "항과 "2Y l t B i "항의 뺄셈연산으로 치환되어 있고, 특히 A n 및 B n 는 개별실험벡터(Y l )들에 독립적이므로, 종래의 방법과는 달리 개별실험벡터(Y l )들과는 상관없이 수학식 5를 연산하기 이전에 미리 계산할 수 있음을 특징으로 한다.
본 발명은 제안되는 기술적 사상에 기초한 수학식 5에 근거하여, 채널적응벡터양자화(COVQ)용 코드북의 구현을 위한 전술의 제 1단계, 즉 M개의 개별실험벡터(Y l )들이 코드북사이즈에 대응하는 N개의 집합들중의 어느 집합에 속하는지를 각각 결정한다. 특히, 수학식 5에 따른 알고리즘의 연산복잡도는 종래에 비해 현저하게 감소됨을 후술한다. 그리고, 분류된 각 집합의 대표벡터를 구하는 제 2단계는 종래의 수학식 2에 근거한다. 이에 따라, 전체적으로 그 알고리즘의 계산 복잡도가 현저하게 감소하게 된다. 본 발명은 전술한 수학식 5 및 수학식 2로 이루어지는 과정을, 채널잡음에 최적화된 COVQ용 코드북이 구현될 때까지 반복적으로 수행한다.
이제 수학식 5 및 도 3을 참조하여 채널적응벡터양자화용 코드북의 구현방법의 바람직한 일실시예를 상세하게 설명한다.
먼저 전술한 종래의 방법과 동일하게, M개의 실험벡터들, 코드북의 사이즈 N, 실험벡터들의 랜덤한 집합분류, 및 각 집합의 대표벡터를 임의로 결정하는 초기화단계를 수행한다.
다음으로, 전술의 초기화단계에 의해 임의로 코드북이 구성되면, 본 발명에 따른 수학식 5에 근거하여 M개의 실험벡터들 각각을 N개의 집합들중의 하나로 각각 분류한다. 보다 구체적으로는, 전술의 A i 및 B i 는 개별실험벡터들(Y l )과는 독립적이므로, 초기화시에 결정된 N개의 인덱스벡터들 및 그 대표벡터들(X j ,j∈{0,1,…,N-1})을 사용하여 A i 및 B i 를 N개의 "i∈{0,1,…,N-1}마다 미리 계산한다. 그리고, 계산된 A i 및 B i 를 N개의 "i∈{0,1,…,N-1}"마다 구분하여 저장한다.
다음으로, M개의 실험벡터(Y l )들중 특정실험벡터에 대하여, 저장된 N개의 A i 및 B i 마다 수학식 5에 따른 N개의 "A i - 2Y l t B i "를 산출하며, 이들중 최소의 값을 갖는 "i"를 판별하여, 해당 실험벡터(Y l )가 판별된 "i"에 대응하는 집합(
Figure 111999007560457-pat00029
)에 속하는 것으로 결정한다. 그리고, 이러한 개별실험벡터의 집합분류를 M개의 실험벡터 모두에 대하여 행한다.
이로써, 수학식 5에 근거한 전술의 제 1단계에 의해, 각 실험벡터의 집합분류가 간단하게 완료되면, 분류된 각 집합의 새로운 대표벡터를 수학식 2에 근거하여 전술한 방식으로 결정한다.
이어서, 수학식 5 및 수학식 2에 근거한 단계들을 포함하는 과정에 의해 재구성된 코드북에 의한 채널왜곡의 정도(
Figure 111999007560457-pat00030
)와, 초기화시에 구성된 코드북의 채널왜곡의 정도(
Figure 111999007560457-pat00031
)간의 차이가, 채널잡음을 고려한 벡터양자화가 최적이 되도록 하는 허용오차범위내로 되지 않으면, 첫번째 과정에 의하여 재구성된 코드북에 근거하여 전술의 초기화직후단계로 되돌아가 이후의 단계들을, 채널잡음에 강인한 최적의 코드북이 구현될 때까지(즉, 전술한 허용오차범위내로 될때까지) 반복적으로 행한다.
다음으로, 전술한 본 발명의 채널적응벡터양자화를 위한 코드북의 구현방법에 따른 효과를 살펴본다.
먼저 수학식 5에 근거한 제 1단계 알고리즘의 복잡도 개선효과를 살펴보기 위해, 수학식 5의 연산순서를 간략하게 분석하면
Figure 111999007560457-pat00032
의 복잡도를 갖는다. 여기서, 일반적으로 'M >> 50N'인 관계에 있으므로, 종래 수학식 1의 복잡도인 "
Figure 111999007560457-pat00033
"에 비해, 본 발명에 따른 수학식 5의 전술한 복잡도는 1회의 반복(
Figure 111999007560457-pat00034
= 1)동안 (1/N)배 정도로 감소한다. 그러므로, 반복횟수가 증가할수록 그리고 코드북사이즈가 커질수록 그 복잡도는 종래의 방식에 비해 현저하게 감소한다. 이를 검증하기 위하여, 1회의 알고리즘 반복동안에 수학식 1 및 수학식 5 각각을 구현하는데 필요한 벡터곱의 횟수를, 코드북사이즈(N)을 가변시키면서 측정한 결과를, 아래의 표 4에 나타낸다.
코드북 사이즈 N 종래의 방식 본 발명의 방식
알고리즘의 1회반복시에 필요한 벡터곱의 횟수 32 328,728,576 9,962,496
64 1,294,991,360 19,927,040
128 5,140,119,552 39,862,272
256 20,480,786,432 79,757,312
실험결과에 따른 표 4를 참조하면, 동일한 코드북 사이즈에서 본 발명에 따른 방식은 종래의 방식에 비해 (1/N)배 정도로 감소된 벡터곱의 횟수를 필요로 한다. 그리고, 코드북사이즈(N)가 증가할수록 기존의 방법보다 월등하게 적은 수의 벡터곱을 필요로 함을 알 수 있다.
다음으로, 채널적응벡터양자화용 코드북을 구현하는데 소요되는 CPU의 시간의 감소정도를 검증하기 위하여, 종래의 방식 및 본 발명의 방식에 따른 실험측정치를 각각 나타낸 도 4a 및 도 4b를 참조하여 비교한다. 도 4a 및 도 4b에서, 가 로축은 각 알고리즘의 반복횟수(
Figure 111999007560457-pat00035
)를, 세로축은 각 알고리즘을 구현하는데 소요되는 CPU시간을 (1/60)sec 단위로 각각 나타낸다. 여기서, 세로축의 CPU시간은 지수함수표현으로 나타낸다. 일례로, "2e+06"은 "2 ×106=2000000"과 같다. 그래프상에 구분되게 나타낸 각 직선들은 코드북사이즈(N)가 32, 64, 128, 256인 경우에 각각 대응한다. 종래의 방식에 따른 도 4a의 실험치에 대비된 본 발명에 따른 도 4b의 실험치를 살펴보면, 동일한 코드북사이즈에서도, 그리고 알고리즘의 반복횟수가 증가할수록 그 알고리즘을 구현하는 시스템의 CPU소요시간이 현저하게 감소함을 알 수 있다. 일례로, 코드북사이즈 N = 256이고, 실험벡터들의 수 M = 311,296일 때, 알고리즘을 100회 반복할동안, 기존의 방법에 따른 CPU소요시간은 15,628,716[1/60 sec]가 소요되는 반면, 본 발명에 따른 CPU소요시간은 205,846[1/60 sec]만 소요되는 것으로 측정되었다. 그러므로, 종래의 방법에 대한 본 발명의 방법에 따른 CPU소요시간은 1.32% 밖에 되지 않음을 알 수 있다. 따라서, 본 발명에 따른 채널적응코드북의 구현방법은 종래의 방법에 비해, 현저하게 감소된 시간만으로 채널잡음에 강인한 최적의 코드북을 구현가능케 함을 알 수 있다. 그리고, 이러한 효과는 코드북사이즈가 커질수록 종래의 방식에 비해 현저하게 증가한다. 그러므로, 본 발명은 채널잡음에 강인한 최적의 벡터양자화 코드북을 실질적으로 구현할 수 있게 한다.
전술한 바와 같이, 본 발명은 채널적응벡터양자화용 코드북을 구현하는 방법 에 있어서, 종래의 방식에 비해 그 알고리즘의 연산복잡도를 현저하게 감소시킨다. 이에 따라 본 발명은 현저하게 감소된 시간으로 채널잡음에 강인한 최적의 벡터양자화용 코드북을 실질적으로 구현할 수 있게 한다. 부가하여, 이렇게 구현된 코드북을 벡터양자화방식이 적용된 통신시스템(예를 들면, 휴대용화상정보단말기, 원거리화상정보단말기 등)에 채용함에 따라 채널잡음효과에 의한 양자화정보의 왜곡을 효과적으로 방지할 수 있게한다.

Claims (5)

  1. 입력하는 신호정보벡터를 채널잡음에 강인한 대표벡터로 양자화하는 채널적응벡터양자화(COVQ)에 사용되는 코드북의 구현방법에 있어서,
    (1) 상기 대표벡터에 대응하는 인덱스벡터의 해밍거리(Hamming Distance)마다의 비트에러발생확률을 누적한 확률과, 상기 각 해밍거리에 대응하는 상기 대표벡터가 비트에러에 의해 변형된 다른 대표벡터들의 누적값 및 그 대표벡터들의 제곱의 누적값을, 각 대표벡터마다 미리 산출하는 단계; 및
    (2) 제 (1)단계에서 각각 산출된 값들과 상기 개별 신호정보벡터의 값을 이용하여, 각 신호정보벡터가 속하는 N개의 집합들 및 각 집합마다의 대표벡터를 결정하는 단계를 포함하는 코드북의 구현방법.
  2. 제 1항에 있어서, 상기 제 (1)단계는
    (1a) 상기 입력되는 신호정보벡터들에 대응하는 M개의 실험벡터(trainning vector;Y l )들이 개별적으로 속하는 N개의 집합들(
    Figure 112006005392885-pat00036
    )과 각 집합의 대표벡터(Xi) 및 그 인덱스벡터(I(Xi))를 임의로 결정하는 초기화단계; 및
    (1b) 결정된 K비트수의 인덱스벡터의 해밍거리(r)마다의 비트에러발생확률을 누적한 확률과, 결정된 N개의 대표벡터마다 상기 각 해밍거리에 대응하는 상기 대표벡터가 비트에러에 의해 변형된 N개의 다른 대표벡터들을 누적한 값 및 그 대표벡터들의 제곱을 누적한 값을, 각각 산출하는 단계를 구비하며,
    상기 매개변수들(i,l)은 0≤i≤N-1, 0≤l≤M-1의 범위를 갖는 코드북의 구현방법.
  3. 제 2항에 있어서, 상기 제 (2)단계는
    (2a) 제 (1b)단계에서 각각 산출된, 상기 누적된 확률과 상기 대표벡터들의 제곱의 누적값을 곱한 제 1연산치(Ai), 및 상기 누적된 확률과 상기 대표벡터들의 누적값을 곱한 제 2연산치(Bi)를, 상기 N개의 대표벡터마다 구하는 단계;
    (2b) 현재 선택된 개별실험벡터(Y l )에 대응하는 다음의 수학식,"Ai- 2Y l tBi"의 값을, 제 (2a)단계에서 구해진 N개의 대표벡터마다의 Ai 및 Bi에 대하여 각각 구하고, 그중 최소의 값을 갖는 i에 대응하는 집합에 현재의 실험벡터가 속하는 것으로, 상기 M개의 실험벡터 모두에 대하여 개별적으로 결정하는 단계; 및
    (2c) 상기 결정된 각 집합의 중심벡터를 구해 해당 집합의 대표벡터로 결정하는 단계를 포함하는 코드북의 구현방법.
  4. 제 3항에서 있어서, 상기 제 (2a)단계에서 상기 제 1연산치(Ai) 및 제 2연산치(Bi)는 다음의 수학식들을 이용하여 구하며,
    Figure 111999007560457-pat00037
    , 및
    Figure 111999007560457-pat00038
    ,
    여기서, P E (r) 는 K비트수를 갖는 인덱스벡터에서 r비트수의 에러가 발생할 확 률을,Qi r는 현재 선택된 대표벡터(Xi)의 인덱스벡터(I(Xi))에 대하여 해밍거리 r을 갖는 다른 인덱스벡터들에 대응하는 대표벡터들의 매개변수(j)의 집합을, Xj는 현재 선택된 대표벡터(Xi)에 대해 상기 집합Qi r에 속하는 다른 대표벡터들을 각각 나타내는 코드북의 구현방법.
  5. 제 3항에 있어서, 제 (2b) 및 (2c)단계에서 결정되는 집합-대표벡터의 배정관계에 의해 재구성되는 코드북에 의한 채널왜곡정도가 소정 허용오차범위내로 될 때까지, 상기 재구성된 코드북에 근거하여 제 (1b) 내지 (2c)단계를 반복적으로 행하는 코드북의 구현방법.
KR1019990027233A 1999-07-07 1999-07-07 채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법 KR100590184B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1019990027233A KR100590184B1 (ko) 1999-07-07 1999-07-07 채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1019990027233A KR100590184B1 (ko) 1999-07-07 1999-07-07 채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법

Publications (2)

Publication Number Publication Date
KR20010009068A KR20010009068A (ko) 2001-02-05
KR100590184B1 true KR100590184B1 (ko) 2006-06-14

Family

ID=19599899

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1019990027233A KR100590184B1 (ko) 1999-07-07 1999-07-07 채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법

Country Status (1)

Country Link
KR (1) KR100590184B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100608251B1 (ko) * 1999-09-07 2006-08-03 삼성전자주식회사 Ｖｑ 코드북의 코드벡터와 채널 ｑａｍ신호를 최적으로 매핑하는 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05333897A (ja) * 1992-06-01 1993-12-17 Oki Electric Ind Co Ltd 隠れマルコフモデルと音声信号との類似度計算方法
KR970078039A (ko) * 1996-05-06 1997-12-12 김광호 다차원 벡터 양자화방법 및 역양자화방법
KR19980078532A (ko) * 1997-04-29 1998-11-16 윤종용 시간축 상호관계를 이용한 음석인식 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05333897A (ja) * 1992-06-01 1993-12-17 Oki Electric Ind Co Ltd 隠れマルコフモデルと音声信号との類似度計算方法
KR970078039A (ko) * 1996-05-06 1997-12-12 김광호 다차원 벡터 양자화방법 및 역양자화방법
KR19980078532A (ko) * 1997-04-29 1998-11-16 윤종용 시간축 상호관계를 이용한 음석인식 방법

Also Published As

Publication number Publication date
KR20010009068A (ko) 2001-02-05

Similar Documents

Publication Publication Date Title
US20220272345A1 (en) Image encoding and decoding, video encoding and decoding: methods, systems and training methods
US7003039B2 (en) Dictionary generation method for video and image compression
US10382789B2 (en) Systems and methods for digital media compression and recompression
CN110248190B (zh) 一种基于压缩感知的多层残差系数图像编码方法
CN107666370A (zh) 编码方法和设备
CN110753225A (zh) 一种视频压缩方法、装置及终端设备
US20230075514A1 (en) Concept for a representation of neural network parameters
CN103905149A (zh) 码本设计方法、通信设备以及码本训练方法
US9672838B2 (en) Method for coding pulse vectors using statistical properties
CN113467949B (zh) 边缘计算环境下用于分布式dnn训练的梯度压缩方法
Leinonen et al. Rate-distortion performance of lossy compressed sensing of sparse sources
Forchhammer et al. Optimal context quantization in lossless compression of image data sequences
CN114298280A (zh) 一种数据处理、网络训练方法、电子设备及存储介质
CN106664099B (zh) 使用统计特性编码脉冲矢量的方法
Sitaram et al. Efficient codebooks for vector quantization image compression with an adaptive tree search algorithm
KR100590184B1 (ko) 채널적응벡터양자화(ｃｏｖｑ)를 위한 코드북의 구현방법
US6539366B1 (en) Codec with genetic adaptation
Jin et al. Insights into the stable recovery of sparse solutions in overcomplete representations using network information theory
US20240078411A1 (en) Information processing system, encoding device, decoding device, model learning device, information processing method, encoding method, decoding method, model learning method, and program storage medium
US20080291993A1 (en) Method for joint scalar quantization and a method for adaptively adjusting scalar quantization level
US20160049159A1 (en) Method for coding pulse vectors using statistical properties
Zhou et al. Towards theoretically-founded learning-based denoising
CN117375770B (zh) 一种信道编码识别方法和装置
Roucos et al. A variable-order Markov chain for coding of speech spectra
RU2288547C1 (ru) Способ сжатия и восстановления сообщений

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee