JPH0727400B2 - Learning type vector quantizer - Google Patents
Learning type vector quantizerInfo
- Publication number
- JPH0727400B2 JPH0727400B2 JP63108145A JP10814588A JPH0727400B2 JP H0727400 B2 JPH0727400 B2 JP H0727400B2 JP 63108145 A JP63108145 A JP 63108145A JP 10814588 A JP10814588 A JP 10814588A JP H0727400 B2 JPH0727400 B2 JP H0727400B2
- Authority
- JP
- Japan
- Prior art keywords
- vector
- codebook
- quantized representative
- input
- quantization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/008—Vector quantisation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の詳細な説明】 〔産業上の利用分野〕 この発明は、デイジタル信号を高能率符号化するベクト
ル量子化器に関するものである。Description: TECHNICAL FIELD The present invention relates to a vector quantizer for highly efficient coding of digital signals.
第４図は例えば電子通信学会技術報告IT85-61に示され
た従来のベクトル量子化器の構成を示すブロック図であ
り、図において、（１）は入力ベクトル（101）をベク
トル量子化し、当該量子化代表ベクトルのインデックス
を符号化データ（105）として出力するベクトル量子化
符号化器、（２）は複数個の前記量子化代表ベクトル
（102）を記憶するコードブック、（５）は符号化デー
タ（105）として与えられた前記インデックスに対応す
る前記量子化代表ベクトルを復号ベクトル（106）とし
て再生するベクトル量子化復号化器である。FIG. 4 is a block diagram showing the configuration of a conventional vector quantizer shown in, for example, the Technical Report IT85-61 of the Institute of Electronics and Communication Engineers, where (1) vector-quantizes an input vector (101), A vector quantization encoder that outputs the index of the quantized representative vector as encoded data (105), (2) a codebook that stores a plurality of quantized representative vectors (102), and (5) an encoding The vector quantization decoder reproduces the quantized representative vector corresponding to the index given as data (105) as a decoded vector (106).
次に動作について説明する。ｋ次元入力ベクトル（10
1）X＝〔X1,X2,…,Xk〕とし、コードブック（２）に記
憶されている量子化代表ベクトルyｉ＝〔y1,y2,…,yk〕
のセットを〔Ｙ〕＝〔y 1,y 2,…,y N〕（102）とする。ベ
クトル量子化符号化器（１）では、次式により定義され
る入力ベクトルX（101）とのひずみdiが最小となる量子
化代表ベクトルYｉが決定される。Next, the operation will be described. k-dimensional input vector (10
1) X = [X 1 , X 2 , ..., X k ], and the quantization representative vector y i = [y 1 , y 2 , ..., y k ] stored in the codebook (2).
The set of [Y] = [ y 1 , y 2 , ..., Y N ] (102). In the vector quantization encoder (1), the quantization representative vector Y i that minimizes the distortion di with the input vector X (101) defined by the following equation is determined.
符号化データ（105）として、該量子化代表ベクトルYｉ
を識別するためのインデックスｉが出力され、伝送され
る。 As the encoded data (105), the quantized representative vector Y i
The index i for identifying is output and transmitted.
ベクトル量子化復号化器（５）では、入力される符号化
データ（105）により与えられるインデックスｉに対応
する量子化代表ベクトルYｉコードブック（２）から読
出され、復号ベクトル （106）が再生される。 ＝Yｉ 上記ベクトル量子化過程で、量子化代表ベクトル探索時
の演算の高速化のために、以下に示す木探索手法が用い
られる。第５図は２進木状に配列された量子化代表ベク
トルの例である。上位のベクトルが下位のベクトルの代
表ベクトルとなるように予め設計されている。In the vector quantization decoder (5), the input coding
Corresponds to index i given by data (105)
Quantization vectorYRead from i-code book (2)
Issued and decoded vector (106) is reproduced. =Yi In the vector quantization process above, when searching for a quantized representative vector
The tree search method shown below is used to speed up the calculation of
To be Figure 5 shows the quantized representative vectors arranged in a binary tree.
This is an example of Toru. The upper vector is the lower vector
It is designed in advance to be a table vector.
各段において、入力ベクトルXとのひずみが小さくなる
方のベクトルを２つのうちから１つの選択する操作を最
上位から最下位まで順次実行し、最終的な量子化代表ベ
クトルを決定する。２進木の場合、各ノードからの分枝
の方向に従って‘0'または‘1'が割当てられており、最
下位の量子化代表ベクトルに至るまでの経路を表す２進
数列が該量子化代表ベクトルのインデックスｉに対応す
る。In each stage, an operation of selecting one of the two vectors having a smaller distortion with respect to the input vector X is sequentially executed from the highest rank to the lowest rank to determine a final quantized representative vector. In the case of a binary tree, "0" or "1" is assigned according to the branching direction from each node, and the binary sequence representing the path to the lowest quantized representative vector is the quantized representative. Corresponds to the vector index i.
従来のベクトル量子化器は以上のように構成されている
ので、ベクトルの次元数が高い場合、予めコードブック
内に記憶されている有限個の量子化代表ベクトルを、全
ての情報源入力ベクトルに対して完全に最適化すること
が困難で、特異な入力ベクトルにおいて生じる過度の量
子化誤差を軽減することが課題であった。Since the conventional vector quantizer is configured as described above, when the number of dimensions of the vector is high, a finite number of quantized representative vectors stored in the codebook in advance are used as all the information source input vectors. On the other hand, it is difficult to completely optimize it, and it has been a problem to reduce the excessive quantization error that occurs in a singular input vector.
この発明は上記のような課題を解決するためになされた
もので、特異な入力ベクトルに対しても量子化誤差を十
分小さくできるベクトル量子化器を得ることを目的とす
る。The present invention has been made to solve the above problems, and an object thereof is to obtain a vector quantizer capable of sufficiently reducing the quantization error even for a peculiar input vector.
この発明に係るベクトル量子化器は、複数個の標準的な
量子化代表ベクトルからなる第１のコードブックと、最
小ひずみに基づき抽出された特異な入力ベクトルを新し
い量子化代表ベクトルとして順次記憶することにより自
己生成される第２のコードブックとを有し、前記特異な
入力ベクトルを伝送するとともに、前記第１、第２のコ
ードブックをそれぞれ木状に構成したものである。A vector quantizer according to the present invention sequentially stores a first codebook including a plurality of standard quantized representative vectors and a peculiar input vector extracted based on the minimum distortion as a new quantized representative vector. And a second codebook that is self-generated by transmitting the unique input vector, and the first and second codebooks are each configured in a tree shape.
この発明におけるベクトル量子化器は、最小ひずみが設
定されたひずみしきい値よりも大きいときは、そのとき
の入力ベクトルが伝送されるとともに新しい量子化代表
ベクトルとして前記第２のコードブックに記憶され、以
後のベクトル量子化処理に利用される。また、前記第
１、第２のコードブックを木状に構成することにより、
探索のための演算が高速に実行される。In the vector quantizer according to the present invention, when the minimum distortion is larger than the set distortion threshold value, the input vector at that time is transmitted and stored in the second codebook as a new quantized representative vector. , Used for the subsequent vector quantization processing. Further, by configuring the first and second codebooks in a tree shape,
The search operation is executed at high speed.
以下、この発明の一実施例について説明する。第１図に
おいて、（２）は従来のものと同様に構成される第１の
コードブック、（３）は随時書込み読出し可能な第２の
コードブック、（４）は送出すべき符号化データを選択
するセレクタである。他の部分は従来のものと同一でよ
い。An embodiment of the present invention will be described below. In FIG. 1, (2) is a first codebook configured similarly to the conventional one, (3) is a second codebook that can be written and read at any time, and (4) is encoded data to be transmitted. It is a selector to select. Other parts may be the same as conventional ones.
次に動作について説明する。入力ベクトルX（101）はベ
クトル量子化符号化器（１）において第１のコードブッ
ク（２）を用いて従来と同様の処理を通して最小ひずみ
を与える量子化代表ベクトルYｉのインデックスｉ（10
3）に変換され、該インデックス（103）はセレクタ
（４）に入力される。符号化開始時点では第２のコード
ブックはクリアされているので、前記量子化代表ベクト
ルYｉは第１のコードブックの中から選択される。ここ
で、前記最小ひずみdiと任意に設定されたひずみしきい
値Ｔとの大小比較が行われ、比較結果に従って以下の２
通りの処理が振り分けられる。処理を識別するためのセ
レクト信号（104）はセレクタ（４）に供給され、伝送
される。Next, the operation will be described. The input vector X (101) is the index i (10) of the quantized representative vector Y i that gives the minimum distortion through the same processing as in the past using the first codebook (2) in the vector quantization encoder (1).
3) and the index (103) is input to the selector (4). Since the second codebook has been cleared at the start of encoding, the quantized representative vector Y i is selected from the first codebook. Here, the minimum strain di and the strain threshold T set arbitrarily are compared in size, and the following 2
Street processing is distributed. The select signal (104) for identifying the process is supplied to the selector (4) and transmitted.
処理I:di＜Ｔのとき セレクト信号（104）を‘0'にセットする。Process I: When di <T, the select signal (104) is set to "0".
セレクタ（４）から符号化データ（105）として前記イ
ンデックスｉ（103）が出力され、伝送される。The index i (103) is output from the selector (4) as encoded data (105) and transmitted.
処理II:di＞Ｔのとき セレクト信号（104）を‘1'にセットする。Process II: When di> T Set the select signal (104) to "1".
入力ベクトルX（101）を符号化データ（105）としてセ
レクタ（104）を通して出力し、伝送するとともに、該
入力ベクトルX（101）を第２のコードブック（３）の所
定のアドレスに書込む。The input vector X (101) is output as encoded data (105) through the selector (104) and transmitted, and the input vector X (101) is written into a predetermined address of the second codebook (3).
上記処理をくり返し実行していくことにより、最小ひず
みdiがひずみしきい値Ｔを越えたときの入力ベクトルが
順次第２のコードブックに蓄積され、第１のコードブッ
クと属性の異なるコードブックが自己生成される。By repeating the above process, the input vectors when the minimum strain di exceeds the strain threshold T are sequentially accumulated in the second codebook, and the codebooks having different attributes from those of the first codebook are generated. Self-generated.
また、前記処理Ｉの場合、量子化代表ベクトルYｉが第
１および第２のコードブックのどちらに属するかを示す
１ビットのプレフィックスが前記インデックスｉの先頭
に付加される。Further, in the case of the process I, a 1-bit prefix indicating which one of the first and second codebooks the quantized representative vector Y i belongs to is added to the head of the index i.
前記第２のコードブックがオーバフローするのを防ぐた
め、前記入力ベクトルX（101）を書込むアドレスは、ゼ
ロ番地から最大番地までをくり返し巡回するように制御
される。In order to prevent the second codebook from overflowing, the address to write the input vector X (101) is controlled so as to repeatedly cycle from the zero address to the maximum address.
上記処理において、量子化代表ベクトルYｉの探索を高
速に実行するために木探索が用いられる。木探索におけ
る第１、および第２のコードブック構成例を第２図に示
す。第１のコードブックを従来のものと同様に２進木構
成とし、第２のコードブックは４個のクラスに分割され
た２階層の構成とする。該４個のクラスに対応する上位
の量子化代表ベクトルはそれぞれ第１のコードブックの
第２段めの４個の量子化代表ベクトルと同一に設定され
ており、各クラスの下位には４個ずつの量子化代表ベク
トルが記憶される。したがって第２のコードブックにお
ける16個の量子化代表ベクトルの探索は、４進２段の木
探索により実行される。上記処理IIを実行する際、前記
入力ベクトルX（101）が前記第１または第２のコードブ
ックから選択された最小ひずみを与える量子化代表ベク
トルYｉのインデックスｉの上位２ビットにより示され
るクラスに対応する所定のアドレス上に書込まれる。該
インデックスの上位２ビットは前記入力ベクトルX（10
1）とともに伝送される。In the above process, the tree search is used to execute the search for the quantized representative vector Y i at high speed. FIG. 2 shows the first and second codebook configuration examples in the tree search. The first codebook has a binary tree structure as in the conventional one, and the second codebook has a two-layer structure divided into four classes. The upper quantized representative vectors corresponding to the four classes are set to be the same as the four quantized representative vectors in the second stage of the first codebook, and the lower quantized representative vectors of each class are four. Each quantized representative vector is stored. Therefore, the search for the 16 quantized representative vectors in the second codebook is performed by a quaternary two-stage tree search. When performing the above processing II, the class represented by the upper 2 bits of the index i of the quantized representative vector Y i that gives the minimum distortion in which the input vector X (101) is selected from the first or second codebook. Is written on a predetermined address corresponding to. The upper 2 bits of the index are the input vector X (10
1) is transmitted with.
上記実施例では量子化代表ベクトルを決定する際の評価
値として、入力ベクトルとの二乗ひずみが用いられた
が、例えば第３図に示すように入力ベクトルを平均値分
離した後、平均ゼロ、大きさ１に正規化された量子化代
表ベクトルとの内積を計算し、平均ゼロの入力ベクトル
との内積が最大となる量子化代表ベクトルを探索する内
積ベクトル量子化に対して前記第２のコードブックを適
用し、前記実施例と同様の効果を奏することは容易に実
現できる。この場合、前記分離された平均値および、前
記最大内積値にて与えられる入力ベクトルのゲイン成分
は独立に伝送される。また、前記セレクト信号は伝送さ
れず、前記処理IIを実行するときは、特殊符号を割当て
られたゲインが伝送される。In the above embodiment, the square distortion with the input vector is used as the evaluation value when determining the quantized representative vector. For example, as shown in FIG. The second codebook for the inner product vector quantization, in which the inner product with the quantized representative vector normalized to 1 is calculated, and the quantized representative vector having the maximum inner product with the input vector of zero mean is searched for. It is possible to easily achieve the same effects as those of the above-described embodiment by applying the above. In this case, the separated average value and the gain component of the input vector given by the maximum inner product value are transmitted independently. Further, the select signal is not transmitted, and when the processing II is executed, the gain assigned with the special code is transmitted.
以上にように、この発明によればベクトル量子化時の最
小ひずみに基づき抽出される入力ベクトルを伝送すると
ともに、該入力ベクトルを新しい量子化代表ベクトルと
して順次記憶する随時書込み読出し可能なコードブック
と従来のコードブックとを併用し、木探索により最小ひ
ずみを与える量子化代表ベクトルを決定するように構成
したので、量子化誤差が軽減され、また、探索のための
演算を高速に実行できる。As described above, according to the present invention, an input vector extracted on the basis of the minimum distortion at the time of vector quantization is transmitted, and a codebook capable of writing and reading at any time, which sequentially stores the input vector as a new quantized representative vector, Since it is configured to determine the quantized representative vector that gives the minimum distortion by the tree search in combination with the conventional codebook, the quantization error is reduced, and the search operation can be executed at high speed.
第１図はこの発明の一実施例によるベクトル量子化器の
構成を示すブロック図、第２図はこの発明の一実施例に
よるベクトル量子化器に用いられるコードブックの構成
例を示す図、第３図はこの発明の他の実施例を示すブロ
ック図、第４図は従来のベクトル量子化器の構成を示す
ブロック図、第５図は従来のベクトル量子化器に用いら
れるコードブックの構成例を示す図である。 図中、（１）はベクトル量子化符号化器、（２）は第１
のコードブック、（３）は第２のコードブック、（４）
はセレクタ、（５）はベクトル量子化復号化器である。 なお、図中、同一符号は同一、又は相当部分を示す。FIG. 1 is a block diagram showing the configuration of a vector quantizer according to an embodiment of the present invention, and FIG. 2 is a diagram showing an example of the configuration of a codebook used in the vector quantizer according to an embodiment of the present invention. FIG. 3 is a block diagram showing another embodiment of the present invention, FIG. 4 is a block diagram showing a configuration of a conventional vector quantizer, and FIG. 5 is a configuration example of a codebook used in the conventional vector quantizer. FIG. In the figure, (1) is the vector quantization encoder, (2) is the first
Codebook, (3) is the second codebook, (4)
Is a selector, and (5) is a vector quantization decoder. In the drawings, the same reference numerals indicate the same or corresponding parts.
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 昭59−77730（ＪＰ，Ａ) 特開 昭61−194921（ＪＰ，Ａ) 特開 昭62−139415（ＪＰ，Ａ) 特開 昭62−222726（ＪＰ，Ａ) 特開 昭63−49800（ＪＰ，Ａ) 特開 平１−259626（ＪＰ，Ａ) ─────────────────────────────────────────────────── ─── Continuation of the front page (56) Reference JP-A-59-77730 (JP, A) JP-A-61-194921 (JP, A) JP-A-62-139415 (JP, A) JP-A-62- 222726 (JP, A) JP 63-49800 (JP, A) JP 1-259626 (JP, A)
Claims (1)
ル量子化器において、木構造に配列された複数個の量子
化代表ベクトルからなる固定のコードブックの途中の階
層に複数個の随時書込み読出し可能なダイナミックコー
ドブックを付加し、木探索ベクトル量子化時の最小ひず
みがある値よりも大きい場合に、当該入力ベクトルを新
しい量子化代表ベクトルとして所定の前記ダイナミック
コードブックに順次蓄えると同時に、過去に蓄えられた
古い量子化代表ベクトルを消去していくことにより学習
機能を有するコードブックを形成し、送受信側の前記ダ
イナミックコードブックの内容を一致させるために前記
入力ベクトルおよび前記所定のダイナミックコードブッ
クの識別情報を伝送し、かつ前記形成されるコードブッ
クを併用してベクトル量子化を高速に実行する手段を用
いることを特徴とするベクトル量子化器。1. A vector quantizer for high-efficiency coding of a digital signal, wherein a plurality of quantized representative vectors arranged in a tree structure can be written and read at any time in a middle layer of a fixed codebook. A dynamic codebook is added, and when the minimum distortion at the time of tree search vector quantization is larger than a certain value, the input vector is sequentially stored in the predetermined dynamic codebook as a new quantized representative vector and at the same time in the past. A codebook having a learning function is formed by deleting the stored old quantized representative vector, and in order to match the contents of the dynamic codebook on the transmitting and receiving sides, the input vector and the predetermined dynamic codebook Transmits identification information and uses Vector quantizer which is characterized by using means for performing Le quantizes the high speed.
Priority Applications (14)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP63108145A JPH0727400B2 (en) | 1988-04-28 | 1988-04-28 | Learning type vector quantizer |
| US07/316,020 US5194950A (en) | 1988-02-29 | 1989-02-27 | Vector quantizer |
| KR1019890002319A KR910009092B1 (en) | 1988-02-29 | 1989-02-27 | Vector quantum cooling and decoding apparatus |
| CA000592194A CA1333420C (en) | 1988-02-29 | 1989-02-27 | Vector quantizer |
| EP95107769A EP0669766A3 (en) | 1988-02-29 | 1989-02-28 | Vector quantizer. |
| EP95107770A EP0669767A3 (en) | 1988-02-29 | 1989-02-28 | Vector quantizer. |
| DE68929054T DE68929054D1 (en) | 1988-02-29 | 1989-02-28 | Vector quantifier |
| EP89103456A EP0331094B1 (en) | 1988-02-29 | 1989-02-28 | Multimedia data transmission system |
| EP19940107739 EP0615346A3 (en) | 1988-02-29 | 1989-02-28 | Vector quantizer. |
| DE68926864T DE68926864T2 (en) | 1988-02-29 | 1989-02-28 | Transmission system for multimedia data |
| EP95107771A EP0669768B1 (en) | 1988-02-29 | 1989-02-28 | Vector quantizer |
| US08/015,657 US5291286A (en) | 1988-02-29 | 1993-02-09 | Multimedia data transmission system |
| CA000616915A CA1338223C (en) | 1988-02-29 | 1994-09-14 | Vector quantizer |
| CA000616916A CA1338224C (en) | 1988-02-29 | 1994-09-14 | Vector quantizer |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP63108145A JPH0727400B2 (en) | 1988-04-28 | 1988-04-28 | Learning type vector quantizer |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH01277300A JPH01277300A (en) | 1989-11-07 |
| JPH0727400B2 true JPH0727400B2 (en) | 1995-03-29 |
Family
ID=14477080
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP63108145A Expired - Lifetime JPH0727400B2 (en) | 1988-02-29 | 1988-04-28 | Learning type vector quantizer |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0727400B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE3853161T2 (en) * | 1988-10-19 | 1995-08-17 | Ibm | Vector quantization encoder. |
| US5612747A (en) * | 1995-03-08 | 1997-03-18 | Lucent Technologies Inc. | Method and apparatus for vector quantization caching in a real time video coder |
-
1988
- 1988-04-28 JP JP63108145A patent/JPH0727400B2/en not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| JPH01277300A (en) | 1989-11-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2949066B2 (en) | Compression method, decompression method, parallel context modeler, parallel entropy coder, parallel entropy decoder, image compression device and image decompression device | |
| JPH07283739A (en) | Method and device to compress and extend data of short block | |
| US6741191B2 (en) | Huffman decoding method and apparatus | |
| CN113409803B (en) | Voice signal processing method, device, storage medium and equipment | |
| US20100079312A1 (en) | Apparatus and method of lossless coding and decoding | |
| CN114328898A (en) | Text abstract generating method and device, equipment, medium and product thereof | |
| JP2956473B2 (en) | Vector quantizer | |
| CN114640354A (en) | Data compression method and device, electronic equipment and computer readable storage medium | |
| CN112652299B (en) | Quantification method and device of time series speech recognition deep learning model | |
| CN115687625B (en) | Text classification method, device, equipment and medium | |
| JP3932244B2 (en) | Image encoding / decoding method and apparatus, and recording medium recording the program | |
| JPH0727400B2 (en) | Learning type vector quantizer | |
| JP3277425B2 (en) | Digital signal encoding method, encoding table generation method, encoding apparatus, and encoding method | |
| JP2000059774A (en) | Video encoding controller | |
| CN109299260B (en) | Data classification method, device and computer readable storage medium | |
| KR0169662B1 (en) | A classified pts vq encoder | |
| JP2606583B2 (en) | Vector image coding device | |
| Kamal | Iteration free fractal image compression for color images using vector quantization, genetic algorithm and simulated annealing | |
| CN116894457B (en) | Network weight access method of deep learning model | |
| JP2633683B2 (en) | Vector quantizer | |
| JP3056339B2 (en) | Code Bit Allocation Method for Reference Vector in Vector Quantization | |
| CN118820541A (en) | Information identification method, system and related equipment | |
| JP2690031B2 (en) | Gain shape vector quantization method | |
| KR20210030886A (en) | Encoding method and decoding method for audio signal using dynamic model parameter, audio encoding apparatus and audio decoding apparatus | |
| CN116661752A (en) | Compiling optimization method and device based on neural network model and electronic equipment |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080329 Year of fee payment: 13 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090329 Year of fee payment: 14 |
|
| EXPY | Cancellation because of completion of term | ||
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090329 Year of fee payment: 14 |