KR101116170B1

KR101116170B1 - Vector quantization method of data signal and record media recorded for realizing the same

Info

Publication number: KR101116170B1
Application number: KR1020100034699A
Authority: KR
Inventors: 김무영; 임종욱; 노명훈
Original assignee: 세종대학교산학협력단
Priority date: 2010-04-15
Filing date: 2010-04-15
Publication date: 2012-03-06
Also published as: KR20110115282A

Abstract

벡터 양자화 방법 및 이를 구현하기 위한 프로그램을 기록한 기록매체가 제공된다. 벡터 양자화 방법은, (a) 입력 값과 코드 벡터 값의 차이에 기초한 왜곡 척도를 설정하는 단계, (b) 상기 설정된 왜곡 척도에 기초하여, 보로노이 영역을 결정하는 단계, 및 (c) 상기 왜곡 척도 및 상기 보로노이 영역에 기초하여, 상기 코드 벡터를 갱신하는 단계를 포함하며, 상기 왜곡 척도에는 보로노이 영역의 크기에 따른 가중치가 부가된다.Provided are a recording medium on which a vector quantization method and a program for implementing the same are recorded. The vector quantization method includes (a) setting a distortion measure based on a difference between an input value and a code vector value, (b) determining a Voronoi region based on the set distortion measure, and (c) the distortion Updating the code vector based on the scale and the Voronoi region, the weight being added to the distortion scale according to the size of the Voronoi region.

Description

VECTOR QUANTIZATION METHOD OF DATA SIGNAL AND RECORD MEDIA RECORDED FOR REALIZING THE SAME

본 발명은 벡터 양자화 방법 및 이를 구현하기 위한 프로그램을 기록한 기록매체에 관한 것으로서, 보다 상세하게는, 왜곡 척도를 설정함에 있어, 셀 크기에 따라 상이한 가중치를 부가하는 벡터 양자화 방법 및 이를 구현하기 위한 프로그램을 기록한 기록매체에 관한 것이다.The present invention relates to a vector quantization method and a recording medium on which a program for implementing the same is recorded. More particularly, in setting a distortion measure, a vector quantization method for adding different weights according to a cell size and a program for implementing the same The present invention relates to a recording medium having recorded thereon.

오디오 신호나 비디오 신호의 디지털 압축 부호화의 처리 과정에서, 입력 신호의 다수의 샘플 값으로 이루어진 벡터는, 낮은 부호화 레이트의 부호화 품질을 보장하기 위해 미리 정해진 벡터 코드북(vector codebook)에 따라 양자화될 수 있다.In the processing of digital compression encoding of an audio signal or a video signal, a vector consisting of a plurality of sample values of an input signal may be quantized according to a predetermined vector codebook to ensure encoding quality of a low encoding rate. .

벡터 양자화(vector quantization) 과정에서 입력 신호는 K(K=1,2,3,...)개의 연속하는 샘플 값을 각각 갖는 하나 이상의 그룹에 삽입될 수 있다. 또한, 샘플 값을 갖는 그룹은 K-차원의 유클리드 공간 내에 벡터를 형성할 수 있으며, 이러한 각각의 벡터가 양자화될 수 있다. 벡터 양자화는 계산량(calculation load)과 저장량(storage load)에 따라 복잡하게 연산되며, 이러한 벡터 양자화의 복잡도는 벡터 차원이 증가함에 따라 지수적으로 증가하게 된다. 또한, 손실 데이터 압축 기술과 같이, 벡터 양자화는 양자화 왜곡(quantization distortion)뿐만 아니라, 부호화 레이트 문제점을 포함하고 있다.In the vector quantization process, an input signal may be inserted into one or more groups each having K (K = 1, 2, 3, ...) consecutive sample values. In addition, groups with sample values may form vectors in the K-dimensional Euclidean space, each of which may be quantized. Vector quantization is calculated in complexity according to calculation load and storage load, and the complexity of vector quantization increases exponentially as the vector dimension increases. In addition, like lossy data compression techniques, vector quantization includes not only quantization distortion, but also coding rate problems.

일반적으로, 데이터를 압축 및 전송하는데 사용하는 양자화 방식은 고정 비트율(fixed-rate)을 사용하는 RCQ(resolution-constrained quantization) 방식과 가변 비트율(variable-rate)을 사용하는 ECQ(entropy-constrained quantization) 방식이 있다. RCQ는 전송하는 각 심볼의 비트율을 고정시켜 평균 왜곡을 최소화 시키는 양자화 방식이고, 이에 각 보로노이 영역(Voronoi region)의 크기는 데이터 포인트의 분포에 따라 서로 다른 크기를 가지게 된다. 반면 가변 비트율을 사용하는 ECQ는 전체 평균 왜곡을 제한하여 평균 왜곡을 최소화하는 방식이고 이상적인 ECQ 방식은 lattice quantizer와 같은 uniform quantization과 허프만 코딩과 같은 무손실 압축 방법의 결합이라고 알려져 있다. 따라서 ECQ 방식을 사용할 경우에는 각 보로노이 영역은 크기가 일정하게 되고 데이터 포인트의 분포가 높은 심볼에 적은 비트수를 할당하여 양자화하게 된다.In general, quantization schemes used to compress and transmit data include resolution-constrained quantization (RCQ) schemes using fixed-rate and entropy-constrained quantization (ECQ) schemes using variable-rate. There is a way. RCQ is a quantization method that minimizes the average distortion by fixing the bit rate of each symbol to be transmitted, so that the size of each Voronoi region has a different size depending on the distribution of data points. On the other hand, ECQ using variable bit rate is known to minimize average distortion by limiting the overall average distortion, and the ideal ECQ scheme is known as a combination of uniform quantization such as lattice quantizer and lossless compression scheme such as Huffman coding. Therefore, when the ECQ method is used, each Voronoi region is quantized by allocating a small number of bits to a symbol having a constant size and having a high data point distribution.

그러나, RCQ와 ECQ 방식은 모두 불균형한 코딩 방식으로서, RCQ의 경우에는 발생 확률이 낮은 영역인 보로노이 영역의 크기가 큰 부분에서 이상 신호 왜곡(outliers in distortion)을 초래하게 되고, ECQ의 경우에는 발생 확률이 낮은 보로노이 셀에서 이상 비트율 할당(outliers in rate allocation)을 초래하게 된다. 특히, RCQ에서 나타나게 되는 이상 신호 왜곡은 평균 왜곡(mean distortion)과 상반되는 개념으로 비록 그 발생 확률은 낮지만 인간의 심리 청각 특성상 해당 시스템의 심각한 성능 저하를 야기하게 되며, ECQ에서 나타나는 이상 비트율 할당은 평균 비트율(average rate)과 상반되는 개념으로써 패킷망의 폭주(congestion) 현상을 발생시켜 심각한 네트워크 효율 저하를 야기하게 된다.However, both the RCQ and ECQ schemes are unbalanced coding schemes. In the case of RCQ, outliers in distortion are caused in a large portion of the Voronoi region, which is a low-probability region. This results in outliers in rate allocation in low-probability Voronoi cells. In particular, the abnormal signal distortion that appears in RCQ is the opposite of mean distortion, although the probability of occurrence is low, but due to the psychological and hearing characteristics of humans, it causes severe performance degradation of the system. Is a concept opposite to the average bit rate, which causes congestion in the packet network, causing severe network efficiency degradation.

이에, 데이터를 양자화하여 압축함에 있어서, 최적의 코드북을 형성함으로써 이상 신호 왜곡을 효과적으로 감소시키는 데이터 양자화 기술이 강력히 요구되고 있다.Accordingly, in quantizing and compressing data, there is a strong demand for a data quantization technique that effectively reduces abnormal signal distortion by forming an optimal codebook.

본 발명의 일부 실시예는 크기가 작은 셀에 대해 왜곡 척도를 설정함에 있어 패널티(penalty)를 부가하여 최적의 코드북을 찾을 수 있는 벡터 양자화 방법 및 이를 구현하기 위한 프로그램을 기록한 기록매체를 제공한다.Some embodiments of the present invention provide a vector quantization method capable of finding an optimal codebook by adding a penalty in setting a distortion measure for a small cell, and a recording medium recording a program for implementing the same.

또한, 본 발명의 일 실시예는 셀 사이즈에 따라 왜곡 척도에 유동적인 가중치를 적용할 수 있는 벡터 양자화 방법 및 이를 구현하기 위한 프로그램을 기록한 기록매체를 제공한다.In addition, an embodiment of the present invention provides a vector quantization method that can apply a flexible weight to the distortion measure according to the cell size and a recording medium recording a program for implementing the same.

상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 제 1 측면은 (a) 입력 값과 코드 벡터 값의 차이에 기초한 왜곡 척도를 설정하는 단계, (b) 상기 설정된 왜곡 척도에 기초하여, 보로노이 영역을 결정하는 단계, 및 (c) 상기 왜곡 척도 및 상기 보로노이 영역에 기초하여, 상기 코드 벡터를 갱신하는 단계를 포함하며, 상기 왜곡 척도에는 보로노이 영역의 크기에 따른 가중치가 부가되는 것인 벡터 양자화 방법을 제공할 수 있다.As a technical means for achieving the above technical problem, the first aspect of the present invention is (a) setting a distortion measure based on the difference between the input value and the code vector value, (b) based on the set distortion measure, Determining a Voronoi region, and (c) updating the code vector based on the distortion measure and the Voronoi region, wherein the weight is added to the distortion measure according to the size of the Voronoi region. It can provide a vector quantization method.

또한, 본 발명의 제 2 측면은, 입력 값과 코드 벡터 값의 차이에 기초한 왜곡 척도를 결정하는 기능, 상기 왜곡 척도에 보로노이 영역의 크기에 따라 상이한 가중치를 부가하는 기능, 상기 가중치가 부가된 왜곡 척도에 기초하여, 보로노이 영역을 결정하는 기능, 상기 가중치가 부가된 왜곡 척도 및 상기 결정된 보로노이 영역에 기초하여, 상기 코드 벡터를 갱신하는 기능 및 상기 갱신된 코드 벡터에 기초하여, 입력 신호를 양자화하는 기능을 실행시키는 프로그램을 기록한 컴퓨터로 판독 가능한 기록매체를 제공할 수 있다.In addition, a second aspect of the present invention provides a function of determining a distortion measure based on a difference between an input value and a code vector value, adding a different weight to the distortion measure according to the size of a Voronoi region, and adding the weight. An input signal based on a function of determining a Voronoi region based on a distortion measure, a function of updating the code vector based on the weighted distortion measure and the determined Voronoi region, and based on the updated code vector A computer-readable recording medium having recorded thereon a program for executing the function of quantizing the present invention can be provided.

전술한 본 발명의 과제 해결 수단에 의하면, 왜곡 척도를 산출하는데 있어서, 셀의 크기가 일정 크기 이하인 셀에 대하여, 패널티(penalty)를 가중시킴으로써, 양자화 과정에서 발생하는 이상 왜곡 발생 현상을 효과적으로 감소시킨다.According to the above-described problem solving means of the present invention, in calculating the distortion measure, by adding a penalty to a cell whose cell size is equal to or less than a certain size, the phenomenon of abnormal distortion occurring in the quantization process is effectively reduced. .

또한, 전술한 본 발명의 과제 해결 수단에 의하면, 왜곡 척도를 산출하는데 있어서, 셀의 크기에 따라, 가중치를 유동적으로 부가함으로써, 양자화 과정에서 발생하는 이상 왜곡 발생 현상을 효과적으로 조절할 수 있다.In addition, according to the above-described problem solving means of the present invention, by calculating the distortion measure according to the size of the cell, the weight is added flexibly, it is possible to effectively control the phenomenon of abnormal distortion occurring during the quantization process.

도 1은 본 발명의 일 실시예에 따른 벡터 양자화 방법의 세부 흐름도이다.
도 2는 본 발명의 일 실시예에 따른 왜곡 척도 설정에 이용되는 가중치 함수의 일례를 도시한 그래프이다.
도 3은 종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우에 결정되는 코드 벡터 및 보로노이 영역을 서로 비교하여 도시한 도면이다.
도 4는 종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우의 왜곡 PDF와 CDF 값을 비교하여 도시한 그래프이다.
도 5는 종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우의 양자화 성능을 비교한 테이블이다.
도 6은 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우, 왜곡 척도의 설정에 있어서의 λ 값에 따른 코드북의 크기를 도시한 그래프이다.1 is a detailed flowchart of a vector quantization method according to an embodiment of the present invention.
2 is a graph illustrating an example of a weight function used for setting a distortion measure according to an embodiment of the present invention.
3 is a diagram illustrating a comparison between a code vector and a Voronoi region determined by a conventional RCQ method and a vector quantization method according to an embodiment of the present invention.
4 is a graph illustrating a comparison of the distortion PDF and the CDF values in the conventional RCQ method and in the vector quantization method according to an embodiment of the present invention.
5 is a table comparing quantization performance in the case of the conventional RCQ method and the vector quantization method according to an embodiment of the present invention.
FIG. 6 is a graph showing the size of a codebook according to a lambda value in setting a distortion measure when the vector quantization method according to an embodiment of the present invention is performed.

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다. DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification, when a part is "connected" to another part, this includes not only "directly connected" but also "electrically connected" with another element in between. . In addition, when a part is said to "include" a certain component, which means that it may further include other components, except to exclude other components unless otherwise stated.

이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.

먼저, 본 발명의 일 실시예에 따른 벡터 양자화의 기초가 되는 High-rate 이론에 대하여 설명한다.First, the high-rate theory that is the basis of vector quantization according to an embodiment of the present invention will be described.

본 명세서에서, 입력신호

는 probability density function(PDF)에 의해 생성되는 랜덤 벡터를 의미하며 k는 입력 신호의 차원을 의미한다. 또한, 양자화 과정 중 인코딩 과정에서 이용되는 함수 Q는 k차원의 입력신호

를 N 개의 코드 벡터(centroids) 중 한 개로 맵핑시키는 함수이다. 이 경우, i 번째 코드 벡터(centroid)

의 보로노이 영역(Voronoi region)

는 아래 수학식 1과 같이 정의될 수 있다.
In the present specification, the input signal

Denotes a random vector generated by a probability density function (PDF), and k denotes a dimension of an input signal. In addition, the function Q used in the encoding process during the quantization process is a k-dimensional input signal.

Is a function that maps to one of N code vectors (centroids). In this case, the i th code vector (centroid)

Voronoi region

May be defined as in Equation 1 below.

또한, r 차승 평균 왜곡 척도(mean r-th power distortion measure)는 수학식 2와 같이 설정될 수 있으며, 주어진 왜곡 척도에 대해서 최적의 보로노이 영역은 수학식 3과 같이 설정될 수 있다.
In addition, the mean r-th power distortion measure may be set as in Equation 2, and the optimal Voronoi region may be set as in Equation 3 for a given distortion measure.

본 발명의 일 실시예에 따른 벡터 양자화 방법에서는, r차승 왜곡 척도를 산출하는데 있어서, 셀의 크기에 따라 차별하여 가중치를 부여함으로써, 일반적인 RCQ(Resolution-Constrained Quantization) 방식을 이용할 경우에 발생하는 이상 신호 왜곡 발생을 감소시키게 된다. 본 발명의 일 실시예에 따라 왜곡 척도를 산출하는 구체적인 방법에 대하여는 후술하기로 한다.
In the vector quantization method according to an embodiment of the present invention, in calculating the r-distortion distortion measure, weights are discriminated according to the size of a cell, so that an abnormality occurs when a general solution-constrained quantization (RCQ) method is used. This reduces the occurrence of signal distortion. A detailed method of calculating the distortion measure according to an embodiment of the present invention will be described later.

High-rate 이론은 양자화 비트수가 충분하며, 각 보로노이 영역 내의 데이터 PDF는 일정한 값을 가짐을 가정하며, 입력신호

가 i 번째 보로노이 영역 내에 포함되어 있을 확률은 수학식 4와 같이 산출될 수 있다.
The high-rate theory assumes that the number of quantization bits is sufficient, and that the data PDF in each Voronoi region has a constant value.

The probability that is included in the i-th Voronoi region may be calculated as in Equation 4.

따라서, i 번째 셀의 평균 왜곡은 수학식 5와 같이 산출될 수 있다.
Therefore, the average distortion of the i-th cell may be calculated as shown in Equation 5.

여기서,

와

는 각각 i 번째 보로노이 영역의 체적과 양자화 계수를 의미하며,

에서

로 설정될 수 있다.here,

Wow

Denote the volume and quantization coefficient of the i th Voronoi region, respectively,

in

It can be set to.

또한, 이에 기초하여, 전체 셀에 대한 평균 왜곡은 수학식 6과 같이 산출될 수 있다.
Also, based on this, the average distortion of all the cells may be calculated as in Equation 6.

여기서

는 centroid density function(cdf)이다.here

Is the centroid density function (cdf).

본 발명의 일 실시예에 따른 벡터 양자화 방법은 RCQ 방식으로 수행될 수 있으며, 이러한 RCQ 방식에서는 고정된 비트율을 사용하기 때문에 코드 벡터(centroid)의 총 숫자가 N으로 고정되므로, 다음 수학식 7과 같은 제약을 가질 수 있다.
The vector quantization method according to an embodiment of the present invention may be performed by the RCQ method, and since the total number of the code vectors (centroid) is fixed to N because the RCQ method uses a fixed bit rate, the following equation (7) It can have the same constraint.

또한, 수학식 7을 수학식 6에 대입하여 오일러-라그랑제 방정식(Euler-Lagrange equation)을 계산하면 수학식 8과 같은 최적 cdf를 산출할 수 있다.
In addition, by substituting Equation 7 into Equation 6, the Euler-Lagrange equation may be calculated to obtain an optimal cdf as shown in Equation 8.

또한, 수학식 6 및 수학식 8에 기초하여 최적의 평균 왜곡을 수학식 9와 같이 산출할 수 있다. 여기서 R은 양자화 시 필요한 비트수를 나타낸다.
In addition, based on Equations 6 and 8, an optimal average distortion may be calculated as in Equation 9. Where R represents the number of bits required for quantization.

상기와 같은 방법으로 산출되는 왜곡 값은 보로노이 영역 및 코드 벡터를 검증하고 결정하는데 이용될 수 있다.The distortion value calculated in the above manner may be used to verify and determine the Voronoi region and the code vector.

이하, 도 1을 참조하여 본 발명의 일 실시예에 따른 벡터 양자화 방법에 대하여 설명하기로 한다.Hereinafter, a vector quantization method according to an embodiment of the present invention will be described with reference to FIG. 1.

도 1은 본 발명의 일 실시예에 따른 벡터 양자화 방법의 세부 흐름도이다.1 is a detailed flowchart of a vector quantization method according to an embodiment of the present invention.

단계 S100은 코드 벡터 생성에 사용되는 값들을 초기화하는 단계이다.Step S100 is to initialize values used to generate a code vector.

단계 S100에서는 코드 벡터의 생성에 사용되는 각종 변수 및 코드북을 초기화할 수 있으며, 미리 정해진 값으로 설정된 기본 코드북을 수신하여 이용할 수도 있다. 예를 들어,

와 같은 코드 북을 초기화하고,

과 같이, 코드 벡터의 생성 및 갱신에 사용되는 각종 변수 값을 초기화할 수 있다. 여기서, t는 코드 벡터를 생성하는 회수를 나타내는 변수(iteration 변수)로서 t번째 생성된 코드 벡터를

로 표시할 수 있다. 또한,

는 전체 평균 왜곡 값의 초기 값,

는 i번째 셀(보로노이 영역)의 평균 왜곡 값의 초기 값을 의미한다.In operation S100, various variables and codebooks used for generating a code vector may be initialized, and a basic codebook set to a predetermined value may be received and used. E.g,

Initialize a codebook such as

As such, various variable values used to generate and update code vectors can be initialized. Here, t is a variable (iteration variable) indicating the number of times to generate the code vector, the t-th generated code vector

As shown in FIG. Also,

Is the initial value of the overall mean distortion value,

Denotes an initial value of the average distortion value of the i-th cell (the Voronoi region).

또한, 단계 S100에서는 코드 벡터의 생성에 이용되는 왜곡 척도에 가중치를 부여하는 함수를 설정한다.Further, in step S100, a function for assigning a weight to a distortion measure used for generating a code vector is set.

일반적인 RCQ 방식에서는 왜곡 척도를

와 같이 설정하지만, 본 발명의 일 실시예에서는 일반적인 왜곡 척도 함수에 가중치 함수

를 부가하여

와 같이 왜곡 척도를 설정할 수 있다.
In general RCQ, the distortion measure

However, in one embodiment of the present invention, a weight function is added to a general distortion measure function.

By adding

The distortion scale can be set as follows.

여기서, 가중치 함수

를, 예를 들어, 아래 수학식 10과 같이 설정할 수 있으나, 이에 제한되는 것은 아니다.
Where the weight function

For example, but may be set as in Equation 10 below, but is not limited thereto.

또한, λ는 왜곡 척도에 가중치 함수를 가하는 정도를 조절하는 변수이다.In addition, λ is a variable that controls the degree of applying the weight function to the distortion measure.

따라서, 본 발명의 일 실시예에서는, 왜곡 척도를 산출하는데 있어서, 셀의 크기 또는 최대 왜곡의 값이 일정 크기 이하인 셀에 대하여, 패널티(penalty) 값을 유동적으로 가중시킬 수 있으며, 이를 통하여, 일반적인 RCQ(Resolution-Constrained Quantization) 방식을 이용할 경우에 발생 확률이 낮은 외곽 부분의 보로노이 영역에서 발생하는 이상 왜곡 발생 현상을 효과적으로 감소시킬 수 있다. 또한, 가중치 함수를 부가하는 정도를 조절함으로써, 이상 신호 왜곡 발생을 감소시킴과 동시에 코드북의 크기를 유동적으로 조절할 수 있다.
Therefore, in one embodiment of the present invention, in calculating the distortion measure, a penalty value may be fluidly weighted for a cell whose size or maximum distortion value is equal to or less than a predetermined size. In the case of using resolution-constrained quantization (RCQ) method, anomalous distortion occurring in the Voronoi region of the outer portion with low probability of occurrence can be effectively reduced. In addition, by adjusting the degree of adding the weight function, the occurrence of abnormal signal distortion can be reduced and the size of the codebook can be flexibly adjusted.

단계 S102는 보로노이 영역을 결정하는 단계이다. 단계 S102에서는, 앞서 정의된 초기 값들을 이용하여 현 단계에서의 보로노이 영역을 결정할 수 있다.Step S102 is a step of determining the Voronoi region. In step S102, the Voronoi region in the current step may be determined using the initial values defined above.

또한, 단계 S102에서는 설정된 왜곡 척도에 기초하여, 예를 들어, 아래 수학식 11과 같이 보로노이 영역을 결정할 수 있다.
In addition, in step S102, the Voronoi region may be determined based on the set distortion scale, as shown in Equation 11 below.

단계 S104는 코드 벡터를 생성하는 단계이다.Step S104 is a step of generating a code vector.

단계 S104에서는 설정된 왜곡 척도 및 결정된 보로노이 영역에 기초하여, 코드 벡터를 생성할 수 있다. 예를 들어, 결정된 보로노이 영역 별로, 보로노이 영역 내의 코드 벡터 중에서 왜곡 척도 값이 최소인 코드 벡터를 수학식 12와 같이 선택할 수 있다.
In operation S104, a code vector may be generated based on the set distortion measure and the determined Voronoi region. For example, for each of the determined Voronoi regions, a code vector having a minimum distortion measure value among the code vectors within the Voronoi region may be selected as shown in Equation 12.

단계 S106은 생성된 코드 벡터 및 보로노이 영역에 기초하여, 전체 평균 왜곡을 산출하는 단계이다. 단계 S106에서는 전체 평균 왜곡 값을 아래 수학식 13과 같이 산출할 수 있다.
Step S106 is a step of calculating the overall average distortion based on the generated code vector and the Voronoi region. In step S106, the total average distortion value may be calculated as in Equation 13 below.

단계 S108은 셀별 최대 왜곡 값을 산출하는 단계이다.Step S108 is a step of calculating the maximum distortion value for each cell.

단계 S108에서는 생성된 코드 벡터 및 보로노이 영역에 기초하여, 수학식 14와 같이, 셀별 최대 왜곡 값을 아래 수학식 14와 같이 산출할 수 있다.
In operation S108, based on the generated code vector and the Voronoi region, the maximum distortion value for each cell may be calculated as shown in Equation 14 as shown in Equation 14 below.

단계 S110은 산출된 전체 평균 왜곡 값에 기초하여, 생성된 코드 벡터의 유효성을 검증하는 단계이다. 단계 S110에서는 이전 단계(t-1 단계)의 전체 평균 왜곡과 현 단계(t 단계)의 전체 평균 왜곡 값에 기초하여, 아래 수학식 15와 같은 조건을 만족하는지 여부를 판단하여, 생성된 코드 벡터의 유효성을 검증할 수 있다.
Step S110 is a step of validating the generated code vector based on the calculated total average distortion value. In step S110, based on the total average distortion value of the previous step (t-1 step) and the total average distortion value of the current step (t step), it is determined whether the condition as shown in Equation 15 below is satisfied, and the generated code vector Can be validated.

단계 S110에서 판단된 결과, 생성된 코드 벡터가 유효하지 않은 경우에는, 단계 S102 내지 단계 S110을 반복하여 수행하여, 이상적인 코드 벡터를 생성할 수 있다. 이 경우, 이전 단계에서 결정된 보로노이 영역 및 코드 벡터 값이, 반복되는 단계 S102 내지 단계 S110에서 이용될 수 있다.As a result of the determination in step S110, if the generated code vector is not valid, steps S102 to S110 may be repeatedly performed to generate an ideal code vector. In this case, the Voronoi region and code vector values determined in the previous step can be used in steps S102 to S110 which are repeated.

또한, 미리 설정된 문턱 값

은, 예를 들어, 0.0005를 사용할 수 있으나, 이에 제한되지 않는다.
In addition, the preset threshold

For example, 0.0005 may be used, but is not limited thereto.

이하, 도 2를 참조하여 본 발명의 일 실시예에 따른 왜곡 척도의 설정에 이용되는 가중치 함수에 대하여 설명하기로 한다.Hereinafter, a weight function used for setting a distortion measure according to an embodiment of the present invention will be described with reference to FIG. 2.

도 2는 본 발명의 일 실시예에 따른 왜곡 척도 설정에 이용되는 가중치 함수의 일례를 도시한 그래프이다.2 is a graph illustrating an example of a weight function used for setting a distortion measure according to an embodiment of the present invention.

도 2에 도시된 바와 같이, 본 발명의 일 실시예에 따른 벡터 양자화 방법에서 왜곡 척도를 설정함에 있어서, 일정 크기 이하의 셀에 대하여는 왜곡 값의 계산에 가중치를 부여할 수 있다. 예를 들어, 최대 왜곡 값이 미리 설정된 값 보다 작은 셀에 대하여는 최대 왜곡 값의 크기에 반비례하도록 가중치를 부여할 수 있으며, 미리 설정된 값보다 큰 셀에 대하여는 최대 왜곡 값의 크기에 비례하도록 가중치를 부여할 수 있다.As shown in FIG. 2, in setting the distortion measure in the vector quantization method according to an embodiment of the present invention, weights may be weighted for calculation of distortion values for cells having a predetermined size or less. For example, a cell whose maximum distortion value is smaller than a preset value may be weighted in inverse proportion to the magnitude of the maximum distortion value, and a cell that is larger than the preset value is weighted to be proportional to the magnitude of the maximum distortion value. can do.

본 발명의 일 실시예에서는 최대 왜곡 값의 크기를 기준으로 하여 왜곡 값의 계산 시에 가중치를 부여하는 것으로 설명하였지만, 이에 제한되지 않고, 셀의 크기, 셀의 평균 왜곡의 크기 등에 기초하여 가중치를 부여할 수도 있다.In an embodiment of the present invention, the weight is given when the distortion value is calculated based on the size of the maximum distortion value. However, the weight is not limited thereto. You can also grant.

최대 왜곡 값이 일정 크기 이하인 셀에 대하여 왜곡 값의 가중치를 부가하는 경우 셀 전체 평균 왜곡의 증가를 어느 정도 발생시키지만, 일정 크기 이하의 작은 셀에서 발생되는 왜곡은 인간의 지각 특성에 의해 인지되지 않기 때문에, 실질적으로 왜곡 발생으로 인하여 압축 성능에 영향을 미치지는 않게 된다. 나아가, 이를 통하여, 데이터 포인트의 발생 확률이 낮은 외곽 부분에 대하여는 조밀하게 셀을 형성할 수 있기 때문에, 보다 효과적으로 이상 신호 왜곡의 발생을 감소시킬 수 있게 된다. 또한, 이러한 이상 신호 왜곡의 감소로 인하여 최종적으로 신호의 지각 품질(perceptual quality)을 향상시킬 수 있게 된다.When the weight of the distortion value is added to a cell whose maximum distortion value is less than or equal to a certain size, an increase in the average distortion of the entire cell occurs to some extent, but the distortion generated in a cell smaller than or equal to the predetermined size is not recognized by human perceptual characteristics. Therefore, the distortion does not substantially affect the compression performance. Furthermore, since the cells can be densely formed in the outer part where the probability of occurrence of the data point is low, it is possible to more effectively reduce the occurrence of abnormal signal distortion. In addition, it is possible to finally improve the perceptual quality of the signal due to the reduction of the abnormal signal distortion.

즉, 본 발명의 일 실시예에서는, 일반적인 왜곡 척도 함수에 가중치 함수를 부가함에 있어서, 미리 설정된 값 보다 작은 셀에 대하여는 최대 왜곡 값의 크기에 반비례하도록 가중치 함수를 부가함으로써, 소정의 크기 이하의 셀에 대하여 왜곡을 추가하여 입력 데이터의 발생 확률이 높은 부분에서 코드 벡터를 결정할 경우에 강제로 최소 왜곡의 코드 벡터를 선택하는 대신에, 외곽의 코드 벡터를 선택하게 함으로써 입력 벡터를 외곽으로 퍼지게 강요하게 된다. 따라서, 외곽 부분에서도 코드 벡터를 생성하게 되어 이상 신호 왜곡을 감소시킬 수 있게 된다.
That is, in one embodiment of the present invention, in adding a weight function to a general distortion measure function, a cell having a predetermined size or less is added by adding a weight function to a cell smaller than a preset value in inverse proportion to the magnitude of the maximum distortion value. In order to determine the code vector at the portion where the input data has a high probability of occurrence, instead of forcing the selection of the code vector with the least distortion, forcing the input vector to be spread out by selecting the outer code vector. do. Therefore, the code vector is also generated in the outer part, thereby reducing the abnormal signal distortion.

이하, 도 3 내지 도 5를 참조하여, 본 발명의 일 실시예에 따른 벡터 양자화에 의할 경우의 이상 신호 왜곡 감소 효과에 대하여 설명하기로 한다.Hereinafter, the effect of reducing abnormal signal distortion in the case of the vector quantization according to an embodiment of the present invention will be described with reference to FIGS. 3 to 5.

도 3은 종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우의 코드 벡터 및 보로노이 영역을 서로 비교하여 도시한 도면이다.FIG. 3 is a diagram illustrating a comparison between a code vector and a Voronoi region according to the conventional RCQ method and the vector quantization method according to an embodiment of the present invention.

도 3에서는, 입력 데이터로는 N(0,1) 분포를 가지는 2차원 가우시안 데이터를 사용하였으며, 2차원의 가우시안 데이터를 8비트로 양자화하였다. 또한, 수학식 15에서의 문턱 값(

)을 0.0005로 설정하였다.In FIG. 3, two-dimensional Gaussian data having an N (0,1) distribution is used as input data, and two-dimensional Gaussian data is quantized to 8 bits. In addition, the threshold value (

) Is set to 0.0005.

종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 의할 경우의 코드 벡터(centroid)의 분포 및 그에 따른 보로노이 영역을 비교해보면, 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우에는 종래의 RCQ 방법에 비해 코드 벡터(centroid)들이 바깥 부분으로 퍼지는 것을 알 수 있으며, 그에 따라 보로노이 영역들이 안 쪽 작은 셀부터 외곽의 큰 셀에 이르기까지 셀 크기가 커지면서 바깥 부분으로 퍼지는 것을 확인할 수 있다.Comparing the distribution of the code vector (centroid) and the Voronoi region according to the conventional RCQ method and the one embodiment of the present invention, the vector quantization method according to the embodiment of the present invention In this case, it can be seen that the code vectors (centroids) spread to the outer portion as compared to the conventional RCQ method. As a result, the Voronoi regions spread to the outer portion as the cell size increases from the inner small cell to the outer large cell. You can see that.

즉, 본 발명의 일 실시예에 따르면, 보다 외곽인 부분에서도 보로노이 영역을 형성시킬 수 있으며, 외곽 부분에 존재하는 보로노이 영역의 크기를 감소시킬 수 있기 때문에 종래의 RCQ 방법에서 야기되었던 이상 신호 왜곡 현상을 감소시킬 수 있다.
That is, according to an embodiment of the present invention, since the Voronoi region can be formed even in the outer portion, and the size of the Voronoi region existing in the outer portion can be reduced, the abnormal signal caused by the conventional RCQ method. Distortion can be reduced.

도 4는 종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우의 왜곡 PDF와 CDF 값을 비교하여 도시한 그래프이다.4 is a graph illustrating a comparison of the distortion PDF and the CDF values in the conventional RCQ method and in the vector quantization method according to an embodiment of the present invention.

종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우의 왜곡 분포를 비교하여 보면, 도 4에 도시된 바와 같이, 본 발명의 일 실시예에 의할 경우에는 왜곡 PDF은, 종래의 RCQ 방법에 비해, 왜곡이 작은 영역에서는 적은 분포를 가지며 왜곡이 큰 영역에서 상대적으로 비중이 커지는 것을 확인 할 수 있다. 이를 통하여, 본 발명의 일 실시예에 의할 경우에 종래의 RCQ 방법에 비해, 보로노이 영역이 큰 부분에서의 분포가 높다는 것을 확인할 수 있다. 또한, CDF 값이 커지는 지점에서부터 본 발명의 일 실시예에 의할 경우가 종래의 RCQ 방법에 비하여 이상 신호 왜곡을 감소시킬 수 있는 것으로 해석할 수 있다.
Comparing the distortion distribution in the case of the conventional RCQ method with the vector quantization method according to the embodiment of the present invention, as shown in FIG. 4, in the case of the embodiment of the present invention Compared to the conventional RCQ method, it is confirmed that the distortion PDF has a smaller distribution in a region where the distortion is small and a relatively high specific gravity in the region where the distortion is large. Through this, when the embodiment of the present invention, it can be confirmed that the distribution in the large portion of the Voronoi region, compared to the conventional RCQ method. In addition, it can be interpreted that the abnormal signal distortion can be reduced in the case of the embodiment of the present invention from the point where the CDF value is increased as compared with the conventional RCQ method.

도 5는 종래의 RCQ 방법에 의할 경우와 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우의 양자화 성능을 비교한 테이블이다.5 is a table comparing quantization performance in the case of the conventional RCQ method and the vector quantization method according to an embodiment of the present invention.

도 5에서 양자화 성능을 비교하는 척도로는 평균 왜곡과 이상 신호 왜곡이 전체 왜곡에서 차지하는 비율을 구한 값을 사용하였다. 또한, 도 5에서는 λ 값을 0.0129으로 설정하였다. 제시된 결과와 같이 평균 왜곡의 관점에서는 본 발명의 일 실시예에 의할 경우에 종래의 RCQ 방법에 비하여, 평균 왜곡 값이 0.002 정도 증가하는 것을 확인 할 수 있다. 그러나, 이러한 평균 왜곡 값의 증가는 인간 인지 특성상 인지할 수 없는 영역에서의 왜곡 증가에 불과하므로, 데이터 신호의 압축 성능에는 영향을 미치지 않음은 앞서 설명한 바와 같다. 나아가, 도 5에서는 본 발명의 일 실시예에 의할 경우에, 전체 왜곡 중 이상 신호 왜곡을 제외한 왜곡의 분포가 종래의 RCQ 방법에 비하여 높은 것을 확인 할 수 있으며, 이를 통하여 본 발명의 일 실시예에 의할 경우에 종래의 RCQ 방법에 비해 이상 신호 왜곡을 보다 감소시킬 수 있음을 확인할 수 있다.
As a measure for comparing quantization performance in FIG. 5, a value obtained by calculating a ratio of average distortion and abnormal signal distortion to total distortion is used. 5, the lambda value was set to 0.0129. As shown in the results, it can be seen from the viewpoint of the average distortion that the average distortion value increases by about 0.002 compared to the conventional RCQ method in accordance with an embodiment of the present invention. However, since the increase of the average distortion value is only an increase in distortion in an area that is not recognizable due to human cognitive characteristics, as described above, it does not affect the compression performance of the data signal. Furthermore, in FIG. 5, according to an embodiment of the present invention, it can be seen that the distribution of distortion except for abnormal signal distortion among all distortions is higher than that of the conventional RCQ method, and through this, an embodiment of the present invention. In this case, it can be seen that the abnormal signal distortion can be reduced more than the conventional RCQ method.

도 6은 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우, 왜곡 척도의 설정에 있어서의 λ 값에 따른 코드북의 크기를 도시한 그래프이다.FIG. 6 is a graph showing the size of a codebook according to a lambda value in setting a distortion measure when the vector quantization method according to an embodiment of the present invention is performed.

도 6에서와 같이, 본 발명의 일 실시예에 따른 벡터 양자화 방법에 의할 경우, 왜곡 척도의 설정에 있어서, 가중치 함수를 부가하는 정도를 조절하는 변수인 λ의 크기가 증가할 경우에 생성되는 코드북의 크기가 대체로 감소하는 것을 확인 할 수 있다. 따라서, 본 발명의 일 실시예에서는 가중치 함수를 부가하는 정도를 조절하여, 이상 신호 왜곡 발생을 감소시킴과 동시에 코드북의 크기를 유동적으로 조절할 수 있음을 알 수 있다.
As shown in FIG. 6, in the vector quantization method according to an embodiment of the present invention, in the setting of the distortion measure, generated when the magnitude of λ, which is a variable for adjusting the degree of adding the weight function, increases. You can see that the codebook is generally reduced in size. Accordingly, it can be seen that in one embodiment of the present invention, by adjusting the degree of adding the weight function, the occurrence of abnormal signal distortion can be reduced and the size of the codebook can be flexibly adjusted.

본 발명의 일 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다. One embodiment of the present invention can also be implemented in the form of a recording medium containing instructions executable by a computer, such as a program module executed by the computer. Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media. In addition, computer readable media may include both computer storage media and communication media. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data. Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The foregoing description of the present invention is intended for illustration, and it will be understood by those skilled in the art that the present invention may be easily modified in other specific forms without changing the technical spirit or essential features of the present invention. will be. It is therefore to be understood that the above-described embodiments are illustrative in all aspects and not restrictive. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is shown by the following claims rather than the above description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included in the scope of the present invention. do.

Claims

In the method of vector quantizing a data signal,
(a) setting a distortion measure based on the difference between the input value and the code vector value,
(b) determining a Voronoi region based on the set distortion measure, and
(c) updating the code vector based on the distortion measure and the Voronoi region
Including;
The distortion measure is a vector quantization method is added to the weight according to the size of the Voronoi region.

The method of claim 1,
(d) calculating an overall mean distortion according to the quantization of the input value, based on the updated code vector, and
(e) calculating a maximum distortion for each Voronoi region
More,
Based on the total average distortion value, it is determined whether the steps (b) and (c) are to be repeated, and when the steps (b) and (c) are repeated, the calculated maximum distortion value and the Based on the updated code vector value, re-determining the Voronoi region and updating the updated code vector.

The method of claim 1,
In the step (a), a weight is inversely proportional to the size of the cell for the Voronoi region having a size smaller than the preset value, and weighted to be proportional to the size of the cell for the Voronoi region having a size larger than the preset value. The vector quantization method.

The method of claim 1,
In the step (a), weights are assigned such that the maximum distortion value is inversely proportional to the magnitude of the maximum distortion value, and the maximum distortion value is greater for the Voronoi region in which the maximum distortion value is larger than the preset value. Weighting to be proportional to the magnitude of the vector quantization method.

The method of claim 4, wherein
The distortion measure is a r-d average mean distortion measure value (

) In the weight function (

) And the r-order average distortion measure value is added to the weight function (

The degree to which) is added is adjusted and added.

The method of claim 1,
In step (a),
Initializing a per-cell maximum distortion value, an overall average distortion value, an iteration variable, and a code vector,
In the step (a),
Setting a distortion measure based on the initialized code vector value.

The method of claim 1,
In step (b), for each of the determined Voronoi regions, a code vector having the minimum distortion measure value is selected from among the code vectors within the Voronoi region.

The ability to determine a distortion measure based on the difference between the input value and the code vector value,
Adding different weights to the distortion measure according to the size of the Voronoi region;
Determining a Voronoi region based on the weighted distortion measure;
Updating the code vector based on the weighted distortion measure and the determined Voronoi region; and
A function of quantizing an input signal based on the updated code vector
A computer-readable recording medium having recorded thereon a program for executing the program.

The method of claim 8,
A function of calculating an overall average distortion according to quantization of the input signal based on the updated code vector,
Calculating a maximum distortion for each of the determined Voronoi regions;
Determining whether to update the Voronoi region and the code vector based on the total average distortion value;
Re-determining the Voronoi region based on the calculated maximum distortion value and the updated code vector value, and
Updating the updated code vector based on the re-determined Voronoi region, the calculated maximum distortion value and the updated code vector value
A computer-readable recording medium having recorded thereon a program that further executes the program.

The method of claim 8,
The function of adding a weight to the distortion measure,
A program in which a weight is inversely proportional to a cell size is added to a Voronoi region having a size smaller than a preset value, and a weight is added to be proportional to the size of the cell for a Voronoi region having a size larger than a preset value. Recorded computer-readable recording medium.

The method of claim 10,
The function of adding a weight to the distortion measure,
rOrder Mean Distortion Scale Value (

) In the weight function (

A computer-readable recording medium for recording a program, which is added by adjusting the degree of application.

The method of claim 8,
It additionally performs the function of initializing the maximum distortion value per cell, total average distortion value, iteration variable (iteration variable) and code vector,
And the distortion measure is determined based on the initialized code vector value.

The method of claim 8,
And the function of updating the code vector selects, for each of the determined Voronoi regions, a code vector having the smallest distortion measure value from among the code vectors in the Voronoi region.