JP2011522497A

JP2011522497A - How to count vectors in a regular point network

Info

Publication number: JP2011522497A
Application number: JP2011512165A
Authority: JP
Inventors: アントニーニ，マルク; フォンテール，レオナルドイド
Original assignee: サントルナシオナルドゥラルシェルシェサイアンティフィク（セエヌエールエス）; ユニベルシテドゥニースソフィアアンティポリ
Priority date: 2008-06-02
Filing date: 2009-05-27
Publication date: 2011-07-28
Anticipated expiration: 2029-05-27
Also published as: FR2931964A1; EP2289172A2; CN102084595A; WO2009156606A3; CA2725809A1; EP2289172B1; KR20110033154A; WO2009156606A2; JP5580295B2; CN102084595B; US8745110B2; US20110131433A1; WO2009156606A8; KR101577848B1

Abstract

【選択図】無し

[Selection figure] None

Description

本発明は、デジタルデータの圧縮、検索、比較又は解凍などのアプリケーションのためのデジタルデータ処理の技術分野に関する。本発明は、オーディオビジュアルデータの処理、より一般的には、全てのタイプのデジタルデータの処理に関する。本発明の目的は、処理時間を削減し、コンピューティングパワー、メモリの容量に関する情報処理リソースの必要性を削減することである。 The present invention relates to the technical field of digital data processing for applications such as digital data compression, retrieval, comparison or decompression. The present invention relates to the processing of audiovisual data, and more generally to the processing of all types of digital data. An object of the present invention is to reduce processing time and reduce the need for information processing resources related to computing power and memory capacity.

アプリケーションは、全てではないが、表示に大量のデータを必要とする画像処理に関係する。記憶に必要なサイズと伝送時間を削減するためには、ビデオ情報を抽出処理し、コード化して、情報圧縮を行う。このコード化された情報は、コード化のパフォーマンスに有害なリダンダンシーを避け、周波数と空間に関して、最適な再構成可能な状態にする必要がある。そのために、ウェーブレット変換技術が知られている。その座標は、ベクトルラティスを構成するもので、ベクトル量子化が行われる。 Applications are related to image processing that requires a large amount of data for display, if not all. In order to reduce the size and transmission time required for storage, video information is extracted, coded, and information is compressed. This coded information needs to be optimally reconfigurable in terms of frequency and space, avoiding redundancy that is detrimental to coding performance. For this purpose, a wavelet transform technique is known. The coordinates constitute a vector lattice, and vector quantization is performed.

ベクトル量子化（ＶＱ）の原理は、各サンプルを個別にコード化する代わりに、ベクトルを形成するサンプルのシーケンスをコード化することである。コード化は、ベクトルによりシーケンスを近似することによって行われる。通常"コードブック"と呼ばれるカタログに属するベクトルを使ってコード化する。コードブックの各ベクトルには、インデックスが付けられる。コード化する時に、それを表わすために使用するのは、コード化するサンプルシーケンスに最も近いベクトルのインデックスである。 The principle of vector quantization (VQ) is to encode a sequence of samples that form a vector, instead of encoding each sample individually. Coding is done by approximating the sequence with a vector. It is coded using a vector belonging to a catalog usually called "codebook". Each vector in the codebook is indexed. When coding, it uses the index of the vector closest to the sample sequence to be coded to represent it.

公知の解決法では、各ベクトルを決定すること、それをメモリに記憶させること、更に、ベクトル全体に対し処理することが、必要である。ベクトルの基底(base)は、数ギガバイトを必要とする可能性がある。同様に大きい基底の計算には長時間が必要である。本発明の目的は、これらの欠点を回避する、カウント方法とインデキシング方法を提供することである。 In the known solution, it is necessary to determine each vector, store it in memory, and further process the entire vector. A vector base may require several gigabytes. Similarly, computation of large bases requires a long time. The object of the present invention is to provide a counting method and an indexing method which avoid these drawbacks.

従来技術
従来技術として、国際特許出願WO9933185が公知である。このコード化方法は、予め決められた順序で、量子化ベクトルと同一の成分を有するベクトル（リーダー(代表)ベクトル：vecteur leader）を決定するステップと、前記リーダーベクトルと同一成分を持ち、前記グループにおいて予め決められた順序で並べられているベクトルにより形成された前記グループにおける量子化されたベクトルのオーダー(ordre)又はランク(rang)のレベルを決定するステップからなる。前記方法は、一方では前記決められたリーダーベクトルを表わすインデックスから、他方、前記ランクを表わすインデックスから一つのコードを形成する。 As a conventional technique prior art, International Patent Application WO9933185 is known. The encoding method includes a step of determining a vector having the same component as a quantized vector (a leader (representative) vector: vecteur leader) in a predetermined order, and having the same component as the leader vector, and the group Determining the order of the quantized vectors in the group formed by the vectors arranged in a predetermined order in. The method forms a code on the one hand from the index representing the determined leader vector and on the other hand from the index representing the rank.

圧縮のためのベクトル量子化の設計における重大な問題は、規則的点ラティス（le reseau regulier de points）（量子化辞書を形成する）におけるベクトルのカウントとインデキシングの問題である。本発明は、このために、一般ガウス分布のソース（source：例えば、ウェーブレット係数など）のケースで、これら問題を解決するための解決法を提供する。 A significant problem in the design of vector quantization for compression is the problem of vector counting and indexing in a regular point lattice (forming the quantization dictionary). The present invention therefore provides a solution to solve these problems in the case of a general Gaussian distribution source.

代数的ベクトル量子化（La quantification vectorielle algebrique）：
量子化については、数十年に亘って研究されてきた。これら研究は、今日、レート歪理論に関して、多くの成果をもたらしている。特に、ベクトル量子化（QV）は、固定長のコード化が要求される場合には、スカラ量子化（QS）に比べて多くの利点を持っていることが証明された。また、シャノンは、n次元ベクトル量子化が十分に大きい場合は、QVのパフォーマンスは最適な理論的パフォーマンスに近いことを証明した。 La quantification vectorielle algebrique:
Quantization has been studied for decades. These studies have yielded many achievements regarding rate distortion theory today. In particular, vector quantization (QV) has proven to have many advantages over scalar quantization (QS) when fixed-length coding is required. Shannon also proved that QV performance is close to optimal theoretical performance when n-dimensional vector quantization is large enough.

しかし、高度に複雑な計算を犠牲にして、ＱＶを、最適なパフォーマンスに近づけようとすることに注意しなければならない；この複雑さは、ベクトルの次元と共に、指数関数的に増加する。通常、ＱＶは、ソース（学習シーケンス）を表わす統計データから構成される非構造化辞書（dictionnaire non structure）を使って実行される。この場合において、複雑さと辞書のサイズによる記憶容量は、圧縮アプリケーションに対して阻害的要因となる。 However, it should be noted that at the expense of highly complex calculations, the QV tries to approach optimal performance; this complexity increases exponentially with the vector dimensions. Usually, QV is performed using a non-structured dictionary (dictionnaire non structure) composed of statistical data representing a source (learning sequence). In this case, the storage capacity depending on the complexity and the size of the dictionary becomes an impeding factor for the compression application.

また、辞書のロバスト性(robustesse)の問題がある。辞書は、与えられたトレーニングシーケンス用に最適化されているので、トレーニングシーケンス以外の画像に対し、パフォーマンスが低い。これら問題を克服するための解決法は、代数的ベクトル量子化（QVA）、又は、点の規則的ラティス（reseaux reguliers）に対しベクトル量子化等の構造化されたｎ次元のQVを使用することである。辞書のベクトルは構造化された規則的ラティスに属するようになっているので、QVAのパフォーマンスは一般的に非構造化QAのパフォーマンスより低い。 There is also a problem of robustness of the dictionary. Because the dictionary is optimized for a given training sequence, the performance is low for images other than the training sequence. A solution to overcome these problems is to use structured n-dimensional QV such as algebraic vector quantization (QVA) or vector quantization for regular lattice of points (reseaux reguliers) It is. Since dictionary vectors belong to structured regular lattices, QVA performance is generally lower than unstructured QA performance.

しかし、ほとんどのアプリケーションでは、この小さな欠点は、QVAに対しては、辞書を作成される、又は、記憶される必要はないということ、及び、コード化の複雑さが軽減されるということによって埋め合わされる。 However, for most applications, this small drawback is filled by the fact that a dictionary does not need to be created or stored for QVA, and the coding complexity is reduced. Combined.

規則的点ラティスによる量子化は、一様なスカラ量子化の一般化と見なすことができる。非構造化ＱＶの場合のように、本書では、用語ＱＶＡは、ベクトル量子化を意味するように、又は、ベクトル量子化器（quantificateur vectoriel）を意味するように、使用される。ＱＶＡは、分割ゲイン及び形状と、ベクトルの係数の間で、空間依存性を考慮に入れる。ソース分布がどのようなものであろうと、ＱＶＡはＱＳより常に効率が良い。 Quantization with a regular point lattice can be viewed as a generalization of uniform scalar quantization. As in the case of unstructured QV, in this document the term QVA is used to mean vector quantization or to denote a vector quantizer. QVA takes into account the spatial dependence between the division gain and shape and the coefficients of the vectors. Whatever the source distribution, QVA is always more efficient than QS.

空間R^ｎの内の規則的ラティスは、基本的なラティスである線形独立ベクトルの集合の全ての組み合わせによって構成されている。これは、ラティスの基底(base)を形成する。｛y│y = u₁a₁ + u₂a₂ + … u_na_n｝。但し、係数ｕ_ｉは整数である。空間の分割は、規則的であって、選択された基底ベクトルのみに依存する。各基底は、異なる点の規則的なラティスを定義する。 A regular lattice in the space R ⁿ is composed of all combinations of sets of linear independent vectors that are basic lattices. This forms the base of the lattice. {Y | y = u ₁ a ₁ + u ₂ a ₂ +... U _n a _n }. However, the coefficient u _i is an integer. The division of space is regular and depends only on the selected basis vectors. Each basis defines a regular lattice of different points.

ＱＶＡを使うと、一般化Lloydアルゴリズムに基づくアルゴリズムを使って設計された、１つのＱＶに関する計算コストと記憶に関するコストを大幅に削減できる可能性がある。確かに、量子化ベクトルのような規則的ラティスベクトルを使用すると、辞書の構築操作を削減できる：辞書は、選択したラティス構造により暗黙的に構築される。
Conway と Sloaneの論文「Fast quantizing and decoding algorithms for lattice quantizers and codes」（IEEE Trans . On Information Theory, vol. 28, no.2 , pp.227-232 mars 1982）には、n次元ベクトルのみに依存する丸め込み操作（operations d'arrondis）を単純に使う高速なアルゴリズムについて説明されている。 1979年、Gershoは、（高フローに対し）１つのレート歪み性能（performances debit-distorsion）は、ほぼ最適である、と予想した。 With QVA, the computational and storage costs for one QV, designed using an algorithm based on the generalized Lloyd algorithm, can be significantly reduced. Certainly, using regular lattice vectors, such as quantization vectors, can reduce the construction of the dictionary: the dictionary is implicitly constructed with the chosen lattice structure.
Conway and Sloane's paper "Fast quantizing and decoding algorithms for lattice quantizers and codes" (IEEE Trans. On Information Theory, vol. 28, no.2, pp.227-232 mars 1982) depends only on n-dimensional vectors. It describes a fast algorithm that simply uses operations d'arrondis. In 1979, Gersho expected that one performance distortion (for high flow) performance was almost optimal.

しかしながら、ＱＶＡは数学的に低フローに対し最適化されていない。しかし、このような量子化要素（quantificateurs）によりもたらされる複雑さを低減させることにより、大きい次元のベクトルを使用することができ、与えられたフローの実験のパフォーマンスを向上させる。エントロピーコーダ（un codeur entropique）とＱＶＡとを組み合わせて、レート歪みについての良好な性能を得ることができる。これにより、ウェーブレット分野における、ＱＶＡの研究に対するモーティベーションが高まった。ＱＡに対する多くの研究がガウシアン、ラプラシアンソース（sources Gaussienne et Laplacienne）に対して行われた。しかし、１より小さい減衰パラメータをもつ一般ガウシアンタイプのソースの場合は、レート歪に関して、キュービックラティスＺ^ｎは、ラティスＥ_８、Leechラティスと比べると性能が良いことが証明された。この結果は、ウェーブレット変換とＱＶＡとを組合せる我々の研究に刺激を与えた。 However, QVA is not mathematically optimized for low flow. However, by reducing the complexity introduced by such quantitiveurs, large dimensional vectors can be used, improving the performance of a given flow experiment. Combining uncodeur entropique and QVA can provide good performance for rate distortion. This increased motivation for QVA research in the wavelet field. Many studies on QA have been conducted on the Gaussian and Laplacian sources (sources Gaussienne et Laplacienne). However, in the case of a general Gaussian type source having an attenuation parameter smaller than 1, it has been proved that the cubic lattice Z ⁿ performs better than the lattice E ₈ and the Leech lattice in terms of rate distortion. This result has stimulated our study of combining wavelet transform and QVA.

国際特許出願WO9933185International patent application WO9933185

「Fast quantizing and decoding algorithms for lattice quantizers and codes」（IEEE Trans . On Information Theory, Conway、Sloane、 vol. 28, no.2 , pp.227-232 mars 1982）“Fast quantizing and decoding algorithms for lattice quantizers and codes” (IEEE Trans. On Information Theory, Conway, Sloane, vol. 28, no.2, pp.227-232 mars 1982)

本発明により処理される課題
ＱＶＡによる量子化が複雑である場合には、辞書の規則的幾何学的構造のために、その実装はすぐには行われない。漸近モデルの場合、過負荷ノイズは無視される。可変長符号化と無限大の辞書の使用を想定しているからである。これは、計算と記憶の観点から、具体的な複数の問題を提起する。特に、計算と記憶に関してである。これら二つの基本的な問題は、ＱＶＡの設計において、重要である。 Issues addressed by the present invention When the quantization by QVA is complex, due to the regular geometric structure of the dictionary, its implementation is not immediate. For the asymptotic model, overload noise is ignored. This is because variable length coding and the use of an infinite dictionary are assumed. This raises several specific problems from a computational and storage perspective. Especially with regard to computation and storage. These two basic issues are important in the design of QVA.

ａ）インデキシング
インデキシングは、各量子化ベクトルに対して、インデックスを、割り当てることであり、量子化とは別の操作である。一旦コード化されると、インデックスは、デコーダーまでチャネルを介して送信される。この操作は圧縮チェーンにおいて基本的である。それは、ビットレートを決定し、曖昧さのないベクトル復号化を可能にする。公知の方法によると、一般的にメモリについては極めて安価になるが、計算については、かなり複雑になる（再帰的アルゴリズム）。又は、特別な場合（ラティスタイプ又は特別のトランケーション）にだけ動作するものである。本発明は、一般化ガウス形分布に対しインデキシングすることを可能にし、一般的なアプローチに関するもので、メモリコスト/計算コストの妥協を実現する。第１特許はこの課題に対する解決法を提案する。 a) Indexing Indexing is to assign an index to each quantization vector, and is an operation different from quantization. Once encoded, the index is transmitted over the channel to the decoder. This operation is fundamental in the compression chain. It determines the bit rate and allows unambiguous vector decoding. According to known methods, the memory is generally very cheap, but the computation is quite complicated (recursive algorithm). Or it works only in special cases (lattice type or special truncation). The present invention allows indexing to generalized Gaussian distributions and relates to a general approach, realizing a memory / computation cost compromise. The first patent proposes a solution to this problem.

b）カウント
インデックス法は、通常、ラティス数の増大に基づいている。したがって、ソースの分布に依存する、ｎ次元面（又はボリューム内）のラティスベクトルをカウントできなければならない。カウントについての従来のアプローチは、生成された級数の使用に基づいている。この手順で、関数Nuが導入された。それらを使うと、ピラミッド上で（即ち、ラプラス分布の場合）カウントすることが可能になる。 b) The count index method is usually based on increasing the number of lattices. Therefore, it must be possible to count lattice vectors in an n-dimensional plane (or in a volume) depending on the source distribution. The traditional approach to counting is based on the use of generated series. In this procedure, the function Nu was introduced. Using them, it is possible to count on the pyramid (ie in the case of Laplace distribution).

本発明は、特に、メモリコスト/計算コストの間の良好な妥協をもたらす、一般化ガウス分布上のカウントステップに関する。本発明の第二の発明は、この課題を解決するものである。発明は、主として、カウントとインデキシング、及び、画像又はビデオの圧縮アプリケーションにおけるＱＶＡの実装を対象とする。これら2つのアプローチ及びQVAは、オーディオ信号（サウンド、音声、音楽）の圧縮のために使用される。 The invention particularly relates to a counting step on a generalized Gaussian distribution that provides a good compromise between memory cost / computation cost. The second invention of the present invention solves this problem. The invention is primarily directed to the implementation of QVA in counting and indexing and image or video compression applications. These two approaches and QVA are used for compression of audio signals (sound, speech, music).

従って、本発明は、広い意味で、次元（dimension）ｄのr_δ ^p _dに等しく、その座標がｋより小さいか、kに等しいノルムｌ_ｐのリーダーベクトル（vecteurs leaders）の数の推定方法に関する。r_δ ^p _dは関数Ｔ（ｘ_i）の結果（計算結果）の総和により決定される。但し、ｉは１とｄの間の値をとる変数である。前記関数Ｔ（ｘ_i）は、少なくとも前記リーダーベクトルの一部分（partie）に対し、精度ファクタδ（un facteur de precision delta）による冪乗ｐの座標ｘiの商(division)を出力し（retouner）、前記商は、一番近い整数に丸み込まれる（例えば、四捨五入される）。本方法はリーダーベクトルを決定するステップを含んでいない。 Accordingly, the present invention is, in a broad sense, equal to r _[delta] ^p _d dimension (dimension The) d, or the coordinates smaller than k, on the number of estimation methods k equal norm l _p of the leader vector (vecteurs leaders) . r _δ ^p _d is determined by the sum of the results (calculation results) of the function T (x _i ). However, i is a variable that takes a value between 1 and d. The function T (x _i ) outputs a quotient (division) of the coordinate xi of the power p with an accuracy factor δ (un facteur de precision delta) for at least a part of the leader vector, The quotient is rounded to the nearest integer (eg, rounded). The method does not include the step of determining a leader vector.

本発明は、また、データ圧縮のフローの推定のため、又は、リーダーベクトルのインデキシングのための、推定法のアプリケーションに関するものである。 The invention also relates to the application of an estimation method for estimation of the flow of data compression or for indexing of leader vectors.

本発明の理解は、図面を参照して、非制限的な実施例を読むことにより、深めることができる。 A better understanding of the present invention can be obtained by reading the non-limiting examples with reference to the drawings.

A comparison of the usual method and the proposed method for p = 1, δ = 1, B = 4 with respect to the required memory capacity is shown.

付属資料１，２は、本発明の実施に関するアルゴリズムとカウント方法の２つの実施例を示す。 Annexes 1 and 2 show two examples of algorithms and counting methods for the implementation of the present invention.

ラティスベクトルのインデキシングは、ラティスの量子化アプリケーションにおける重要な問題である。本発明は、ラティスリーダーベクトルとパーティション理論を使って、この問題に対するソリューションを与えるものである。一般化ガウス分布のソースに対して、それを使うことができ、それを使うと、プロダクトコードを使うことができる。また、それを使うと、高次元のベクトルのインデキシングが可能になる。 Lattice vector indexing is an important issue in lattice quantization applications. The present invention uses a lattice leader vector and partition theory to provide a solution to this problem. You can use it for generalized Gaussian sources, and you can use the product code. Using it also allows high-dimensional vector indexing.

ベクトルの次元がかなり高い場合は、ベクトル量子化（ＱＶ）を使うと、最適理論のパフォーマスを得ることができる。しかし、残念なことではあるが、ＬＢＧ等の、最適に構造化（non structuree optimale）されていないＱＶ計算の複雑さは、次元が高くなるにつれ、指数関数的に高まる。加えて、記憶容量が極めて重要になる。次元に関する問題を解決するためには、ラティスベクトル量子化（ＬＶＱ）のような拘束型ＱＶ（QV contrainte）を使用すればよい。 If the dimensions of the vector are fairly high, optimal quantization performance can be obtained using vector quantization (QV). Unfortunately, however, the complexity of non-structured optimally QV calculations, such as LBG, increases exponentially as dimensions increase. In addition, storage capacity becomes extremely important. In order to solve the problem related to dimensions, a constrained QV (QV contrainte) such as lattice vector quantization (LVQ) may be used.

ＬＶＱアプローチによると、コードベクトルが空間に規則的に分布している一つの構造化辞書を設計することになる。その結果、空間におけるベクトルの位置を最適化する代わりに、ラティスベクトルをインデキシングして、分布の形状に応じてソースを適合させることができる。大半の実データのソースに対して、プロダクトコードを使って、これを効率的に実行することができ、対称的ユニモーダルソース分布（des distributions de sources unimodales symetriques）に対して、レート-歪を最適な値に導くことができる。 According to the LVQ approach, one structured dictionary in which code vectors are regularly distributed in space is designed. As a result, instead of optimizing the position of the vector in space, the lattice vector can be indexed to adapt the source according to the shape of the distribution. For most real data sources, this can be done efficiently using the product code, and rate-distortion is optimal for symmetric unimodal source distributions (des distributions de sources unimodales symetriques) Can lead to different values.

ソースの分布に応じて、これらの分布を、同一形状を持つ同心超曲面（hypersurface concentrique）の集合として解釈することができる。それぞれの面のノルム（半径）に対応する第１インデックス（prefixe）を割り当て、同一面に属するベクトルのカウントに対応する第２単一インデックス（suffixe）を割り当て、ラティスコードワードにインデックスを付与することができる。 Depending on the source distribution, these distributions can be interpreted as a set of hypersurface concentriques having the same shape. Assign a first index (prefixe) corresponding to the norm (radius) of each face, assign a second single index (suffixe) corresponding to the count of vectors belonging to the same face, and index the lattice codeword Can do.

大量のデータソース(例えば、特に、ウェーブレット変換によって得られた、画像の係数と音声サブバンド等）は、一般化ガウス分布によってモデル化することができる。この分布のファミリーは、一変数(univariee)確率変数に対して、１つのシェープファクタp（ＧＧ（p））によってパラメータ化される。分布（ＧＧ（ｐ））を持つソースの興味深い性質は、ノルム１ｐのエンベロープが一定確率面に対応していることである。
これは、効率的なプロダクトコードの開発につながる。 A large amount of data sources (eg, image coefficients, audio subbands, etc., especially obtained by wavelet transforms) can be modeled by a generalized Gaussian distribution. This family of distributions is parameterized by one shape factor p (GG (p)) for a univariee random variable. An interesting property of the source with distribution (GG (p)) is that the envelope of norm 1p corresponds to a constant probability surface.
This leads to efficient product code development.

prefixeの計算が簡単である場合でも、suffixeは、超曲面（hypersurface）上のラティスベクトルのカウント及びインデキシングが必要である。また、空間の次元が増大すると、インデキシング及びカウント操作が非常に複雑になる。その理由は、次の表に示されるように、１つのエンベロープ上に存在するベクトルの数が、ノルムと共に大きく増加するからである。表には、一つのラティスＺ^ｎと複数の次元とノルム値に関して、１つのノルム１_１の場合における、１つの与えられた超曲面のベクトルの数と、このハイパーピラミッド（cardinality）の上にあるラティスベクトルの全数との比較が記載されている。 Even if the calculation of prefixe is simple, suffixe needs to count and index lattice vectors on the hypersurface. Also, as the space dimension increases, the indexing and counting operations become very complex. This is because, as shown in the following table, the number of vectors existing on one envelope greatly increases with the norm. The table is above this hyperpyramid (cardinality) and the number of vectors for a given hypersurface in the case of one norm 1 ₁ for one lattice Z ⁿ , multiple dimensions and norm values. A comparison with the total number of lattice vectors is described.

文献では、サフィックスのインデキシングは、通常異なる２つの技術に基づいて行われている。 In the literature, suffix indexing is usually based on two different techniques.

最初のアプローチは、超曲面上にあるベクトルの全数（cardinalite:基数）を考慮して、１つのインデックスを割り当てることである。第２のアプローチは、リーダーベクトルの概念を使って、ラティスの対称性を利用することである。ノルムlｐのエンベロープの(複数)リーダーは、ラティスの(複数)ベクトルに対応している。そのベクトルを基にして、前記の対応するエンベロープに存在する他の全てのラティスベクトルは、それら座標の置換（permutation）、符号変化により、得ることができる。これら２つのアプローチは、isotropicソースに対し、同様のレート−歪パフォーマスを示す。 The first approach is to assign one index, taking into account the total number of vectors (cardinalite) on the hypersurface. The second approach is to take advantage of lattice symmetry using the concept of leader vectors. The norm lp envelope (s) corresponds to the lattice (s) vector. Based on that vector, all other lattice vectors present in the corresponding envelope can be obtained by permutation of their coordinates, sign change. These two approaches show similar rate-distortion performance for isotropic sources.

しかしながら、ラティスのインデキシングについての多くの研究は、ラプラス分布又はガウス分布に対する解法を提案している。これら分布は、それぞれ、形状パラメータｐ＝１、ｐ＝２を持つGG(ｐ)の特別なケースである。ｐ＝0.5という特別なケースに対する解法を提案する研究者もいる。しかし、このカウント方法では、プロダクトコードを構成することはできず、実際には、インデキシングの方法も極めて複雑である。特に、高次元、大きいノルムをもつｐ≠0.5、１又は２の場合は複雑である。 However, many studies on lattice indexing have proposed solutions to Laplace or Gaussian distributions. These distributions are special cases of GG (p) with shape parameters p = 1 and p = 2, respectively. Some researchers have proposed a solution for the special case of p = 0.5. However, with this counting method, the product code cannot be constructed, and in fact, the indexing method is extremely complicated. In particular, the case of p ≠ 0.5, 1 or 2 with a high dimension and a large norm is complicated.

本発明は、0＜p≦2を持つエンベロープＧＧ（ｐ）の上にあるラティスベクトルＺ^ｎに対する新規な代替案を提案する。提案する解決法は、ベクトルに基礎を置いて、分割理論を使う。
分割理論（la theorie des partitions）を使うと、前記複雑性、必要な記憶容量の問題を解決でき、リーダーベクトルを生成し、ベクトルにインデックスを付与することができる。
本発明は、リーダーのインデキシング、他のものの間のフローの推定等のアプリケーションのために、半径ｒ、次元ｄ、より大きい座標（coordonnee plus forte）ｋのエンベロープ上のリーダー数をカウントする経済的なカウントアルゴリズムをここに提案する。 The present invention proposes a new alternative to the lattice vector Z ⁿ over the envelope GG (p) with 0 <p ≦ 2. The proposed solution uses partition theory based on vectors.
Using la theorie des partitions, the complexity and required storage capacity problems can be solved, leader vectors can be generated and the vectors can be indexed.
The present invention counts the number of readers on an envelope of radius r, dimension d, larger coordinates (coordonnee plus forte) k for applications such as reader indexing, estimation of flow between others, etc. A counting algorithm is proposed here.

以下の説明において、最初の部分では、ＬＶＱの原則を示して、インデキシング/カウントの問題について説明する。次の部分では、形状パラメータｐがどのようなものであろうとも、極めて大きいコードブックLVQをカウントするための効率的な解法を提案する。次に、提案されたアプローチの、メモリコストについて説明する。 In the following description, in the first part, the principle of LVQ will be shown to explain the indexing / counting problem. In the next part, we propose an efficient solution for counting very large codebook LVQ whatever the shape parameter p is. Next, the memory cost of the proposed approach will be described.

２．ラティスベクトルのインデキシング
２．１ラティスの定義
Ｒ^ｎにおけるラティスΛは、線形独立ベクトルａ_ｉ（ラティスの基底）の集合の全部の組合せで、次のように構成される。
Λ = ｛x│x = u₁a₁ + u₂a₂ + … u_na_n｝（１）
但し、ｕ_ｉは整数である。空間分割は、規則的で、選ばれた基底ベクトルａ_ｉεＲ^ｍ（ｍ≧ｎ）に一意的に従属している。基底ベクトルの各集合は、異なるラティスを定義することに注意すべきである。 2. Lattice Vector Indexing 2.1 Definition of Lattice Lattice Λ in R ⁿ is composed of all combinations of sets of linearly independent vectors a _i (lattice basis) and is constructed as follows.
Λ = {x│x = u ₁ a ₁ + u ₂ a ₂ +… u _n a _n } (1)
However, u _i is an integer. The space division is regular and is uniquely dependent on the chosen basis vector a _i εR ^m (m ≧ n). Note that each set of basis vectors defines a different lattice.

１つのラティスの各ベクトルｖは、一定ノルムｌｐを持つベクトルを含む表面又は超平面（hypersurface)に属していると見なすことができ、次式で与えられる。： Each vector v of a lattice can be considered to belong to a surface or hypersurface containing a vector with a constant norm lp and is given by: :

プロダクトコード（code produit）を使って、指定したラティスのベクトルをコード化することができる。ソースベクトルの分布がラプラシアン分布であるならば、適切なプロダクトコードは、“１つのベクトルのノルム１_１に対応するprefixe”及び“問題とするノルム１_１に等しい１つの半径を持つハイパーピラミッド上の位置に対応するsuffixe”から構成されていることは、明らかである。一定のノルムｌ_１の超曲面は、ハイパーピラミッドと呼ばれる。
１つの超曲面の上のベクトルの位置は、カウントアルゴリズム（algorithme de denombrement）を使って取得することができる。このようなプロダクトコードは、デコーディングの一意性（unicite）を保証する。 A product code (code produit) can be used to code a specified lattice vector. If the distribution of the source vectors is a Laplacian distribution, then the appropriate product code is “on the hyperpyramid with one radius equal to norm 1 ₁ in question” and “prefixe corresponding to norm 1 ₁ of one vector” It is clear that it consists of a suffix ”corresponding to the position. A constant norm l ₁ hypersurface is called a hyperpyramid.
The position of the vector on one hypersurface can be obtained using a counting algorithm (algorithme de denombrement). Such a product code ensures decoding uniqueness.

形状パラメータが１に等しい又は１より小さい、一般化ガウス分布を持つソースの場合、Ｄ_４、Ｅ_８上の立方体的ラティスＺ_ｎ又はLeechラティスの優位性が証明されている[12]。従って、本書の残りの部分では、立方体的ラティスＺ^ｎに基づく１つのＬＶＱの設計を中心に説明する。 Shape parameter is equal or less than 1 to 1, for a source with a generalized Gaussian distribution, D _4, cubic manner lattice superiority of Z _n or Leech lattice on E ₈ has been demonstrated [12]. Therefore, the rest of this document will focus on the design of one LVQ based on cubic lattice Z ⁿ .

２．２全カウント数に基づくインデキシング
ガウス分布又はラプラシアン分布について、及び、全カウントの原理に基づく種々のラティスについて、複数のカウント方法が、これまで提案されてきた。特に、ソースがラプラシアン分布の場合、ラティスＺ^ｎに関して、ノルム１_１のハイパーピラミッド上にあるラティスのベクトルの全数を計算するための再帰的公式（formule recursive）が知られている。
カウントのこの公式は、０と２の間の形状ファクタｐを使って、ソースの一般化ガウス分布に拡張されている。これら解法を使うと、tranctureノルム１ｐの内部に存在するベクトルの数を計算することができる。
しかしながら、これら解法は、インデックスをラティスＺ^ｎに割り当てるアルゴリズムを提示するものではない。
また、この解法は、超曲面上にあるベクトルの数を決定するものではない。このため、プロダクトコードを使用することは困難である。 2.2 Indexing based on total count
Several counting methods have been proposed so far for Gaussian or Laplacian distributions and for various lattices based on the principle of total counts. In particular, if the source is a Laplacian distribution, with respect to the lattice Z ^n, the recursive formula (formule recursive) for calculating the total number of lattice vectors in norm 1 ₁ on the hyper pyramid is known.
This formula for counting has been extended to a generalized Gaussian distribution of the source using a form factor p between 0 and 2. Using these solutions, it is possible to calculate the number of vectors present within the trancture norm 1p.
However, these solutions are not intended to provide an algorithm that assigns an index to lattice Z ^n.
Also, this solution does not determine the number of vectors on the hypersurface. For this reason, it is difficult to use the product code.

従来の研究の中で提案されているアルゴリズムは、０＜ｐ≦２に対するプロダクトコードスキームに基づいて、ベクトル（複数）にインデックスを付与するものである。それは、一般化シータ級数（series theta）に基づいて[４]、ラティス幾何学を使うものである。ｐ＝１または２については、この級数の展開は比較的に単純である。これに対し、ｐがそれ以外の値である場合、この級数は極めて複雑になる。クローズドフォーム（forme fermee）が生成されず、公式（mathematiques formelles）を使用することができないからである。提案された解法によれば、種々の次元及び高次元について、可能なノルム値を決定する必要があるが、一般的には、これを所定時間内に実行することはできない。 The algorithm proposed in the previous work is to index the vector (s) based on the product code scheme for 0 <p ≦ 2. It uses lattice geometry based on a generalized theta series [4]. For p = 1 or 2, the expansion of this series is relatively simple. On the other hand, when p is any other value, this series becomes extremely complicated. This is because closed forms (forme fermee) are not generated and the formula (mathematiques formelles) cannot be used. According to the proposed solution, it is necessary to determine possible norm values for various dimensions and higher dimensions, but generally this cannot be performed within a predetermined time.

また、実施する際に、特に、高次元に対して（前記表を参照）、超曲面の基数（cardinalite)は、急速にnon-tractableな値（扱いにくい値）に達するので、エンベロープの基数に基づくインデキシング技術は、急速にコンピュータの計算精度（precision informatique）を越えてしまう。 Also, when implementing, especially for higher dimensions (see the table above), the cardinalite of the hypersurface quickly reaches a non-tractable value (an unwieldy value), so the envelope cardinality The indexing technology based on it quickly exceeds the precision informatique of computers.

２．３ベクトル（リーダー）に基づくインデキシング
リーダーに基づく方法は、ラティスの対称性を利用する。その方法は、一定ノルムのエンベロープに対する効率的なインデキシングアルゴリズムを使う。ラティスベクトルの全数に基づいてインデックスを割り当てるのではなく、リーダーと呼ばれる、少ない数のベクトルに基づいて割り当てるものである。
ラティスの対称性は、様々であるので、個別に処理される。対称性がない場合には、これは、全カウント法と比べると、より効率的なソースのインデキシング方法である。
また、コード化アルゴリズムにより管理されるインデックスは、エンベロープの基数よりもっと小さい。これを使うと、全カウントに基づく方法ではインデックスを付与できないベクトルに対して、２進数精度（precision binaire)で、インデックスを付与することができる。 2.3 Indexing based on vectors (leaders)
Leader based methods take advantage of lattice symmetry. The method uses an efficient indexing algorithm for constant norm envelopes. Rather than assigning an index based on the total number of lattice vectors, the assignment is based on a small number of vectors called leaders.
The symmetry of the lattice varies and is handled separately. In the absence of symmetry, this is a more efficient source indexing method compared to the full count method.
Also, the index managed by the encoding algorithm is much smaller than the envelope radix. Using this, it is possible to assign an index with a precision binaire to a vector that cannot be indexed by the method based on the total count.

プロダクトコードのアーキテクチャでは、ラティスの対称性を別にして、suffixeインデックスは、リーダーの数が少ないインデックスを含んでいる。前記suffixeインデックスに基づいて、超曲面の全ての他のベクトルを割り当てることができる。ラティスＺ^ｎに関して、対称性は、２つの基本的な操作に対応している:即ち、ベクトル座標の“符号変化（changements de signe）”と“置換（permutation）”である。
第１の操作は、ベクトルが存在する一つの象限の変化に対応している。例えば、２次元のベクトル（７，−３）が第４象限にあるとする。これに対し、ベクトル（−７、−３）は第３象限にある。これらベクトルはｙ軸に対して対称である。
第２の操作は、象限内の対称性に対応する。例えば、ベクトル（−７、３）と（−３，７）は、２つ共に第２象限にあり、同象限の２等分線に対して、対称である。
この場合、“これらベクトルは、これらベクトルのリーダーであるベクトル（３，７）の置換及び符号変化から生成されること”が分かる。ベクトル（３，７）は、これらベクトルのリーダーベクトルである。全ての置換と符号変化を使って、リーダー（３，７）は８つのベクトルを代表することができる。
この比は、超曲面の次元と共に急速に大きくなる（表１参照）。 In the product code architecture, apart from lattice symmetry, the suffix index includes an index with a small number of readers. All other vectors of the hypersurface can be assigned based on the suffix index. With respect to lattice Z ⁿ , symmetry corresponds to two basic operations: “changes de signe” and “permutation” of vector coordinates.
The first operation corresponds to a change in one quadrant in which a vector exists. For example, assume that a two-dimensional vector (7, -3) is in the fourth quadrant. On the other hand, the vector (-7, -3) is in the third quadrant. These vectors are symmetric about the y axis.
The second operation corresponds to symmetry within the quadrant. For example, the vectors (−7, 3) and (−3, 7) are both in the second quadrant and are symmetric with respect to the bisector of the same quadrant.
In this case, it can be seen that “these vectors are generated from the permutation and sign change of the vector (3, 7) which is the leader of these vectors”. The vector (3, 7) is a leader vector of these vectors. With all permutations and sign changes, the leader (3, 7) can represent 8 vectors.
This ratio increases rapidly with the dimension of the hypersurface (see Table 1).

従って、このインデキシング方法は、超曲面上の全ベクトルに直接インデックスを付与する代わりに、各ベクトルに対し、３つのインデックスのセットを割り当てる：即ち、１つは、リーダーに対応するものであり、他の２つは、リーダーの置換および符号変化に対応するものである。置換と符号のインデックスの計算方法の詳細については、[５]を参照のこと。 Thus, this indexing method assigns three sets of indices to each vector instead of directly indexing all the vectors on the hypersurface: one corresponds to the leader and the other The two correspond to leader replacement and sign change. See [5] for details on how to calculate the permutation and sign index.

３．カウント方法の提案
本発明は、リーダーをカウントする方法を提案する。カウントアルゴリズムの使用を理解するために、リーダーのインデキシングに関する非限定的な実施例を示す。まず、ノルム１_１に対するインデキシングについて説明する。次に、ノルムｌ_ｐのより一般的なケースについて例を挙げて説明する。
その後、セクション3.3で、本発明について詳述する。 3. Proposal of counting method
The present invention proposes a method for counting readers. To understand the use of the counting algorithm, a non-limiting example of reader indexing is presented. It will be described first indexing for norm _{1 1.} It will now be described by way of example for a more general case of the norm l _p.
Thereafter, Section 3.3 details the present invention.

3.1 ノルムｌ₁に関するリーダーのインデキシング
3.1.1 原理
本発明が提案するカウントアルゴリズムを適用する、リーダーのインデキシング方法は、逆辞書順序（ordre lexicographique inverse）で全リーダーを分類する分類に基づく。また、インデックスを付与しなければならないリーダーに先行するベクトルの数に応じて、インデックスを割り当てる。この場合、インデキシングは、もはやリソースを大量消費する１つのサーチアルゴリズム、又は、直接アドレッシングによるものではなく、むしろ、低コストのカウントアルゴリズムによるものである。これは、それらに関する明らかな知識に依存するものではなく、むしろ、リーダーの量に依存するもので、このようにすれば、変換表を作成しなくてもよくなる。 3.1 Leader indexing for norm l ₁
3.1.1 Principle
The reader indexing method applying the counting algorithm proposed by the present invention is based on a classification that classifies all readers in an ordinal lexicographique inverse. Also, an index is assigned according to the number of vectors preceding the leader that must be indexed. In this case, the indexing is no longer a resource intensive single search algorithm or direct addressing, but rather a low cost counting algorithm. This does not depend on obvious knowledge about them, but rather on the amount of leaders, so that a conversion table need not be created.

半径rのハイパーピラミッドは、全てのベクトルv = (v₁, v₂, …, v_d)から構成されている。但し、||ｖ||_１＝ｒである。上述したように、リーダーは、超曲面の基本ベクトルである。置換と符号変化操作によって、そこから、同超曲面上にある他のベクトルを導き出す。確かに、リーダーは、（または降順）昇順でソートされる正の座標を持つベクトルである。したがって、ノルムｒ、次元dのベクトルは、次の条件を満足するベクトルである。： The hyperpyramid of radius r is composed of all vectors v = (v ₁ , v ₂ ,..., V _d ). However, || v || ₁ = r. As described above, the leader is a basic vector of a hypersurface. From this, other vectors on the hypersurface are derived by replacement and sign change operations. Indeed, the leader is a vector with positive coordinates sorted in ascending order (or descending order). Therefore, the vector of norm r and dimension d satisfies the following condition. :

３．１．２分割理論との関係
ノルムｌ₁の場合、セクション3.1.1で説明した条件は数論の分割理論（theorie des partitions）に関連していることに注意しなければならない。確かに、数論では、正の整数rの分割は、正の整数の和（部分（part）とも呼ばれる）としてrを記述する方法である。ｒの別の分割数は、次の分割関数P（ｒ）で与えられる： 3.1.2 Relation to Partition Theory
Note that for the norm l ₁ , the conditions described in section 3.1.1 relate to theorie des partitions. Certainly, in number theory, the division of a positive integer r is a way to describe r as a sum of positive integers (also called a part). Another number of divisions for r is given by the following division function P (r):

これは、級数ｑ[10、16、17]と呼ばれるオイラー関数の逆数（reciproque）に相当する。数学の進歩は、関数Ｐ(ｒ)の表現法を導き、計算の迅速化を可能にしている。 This corresponds to the reciproque of the Euler function called series q [10, 16, 17]. Advances in mathematics have led to the expression of the function P (r), enabling faster computation.

たとえば、ｒ＝５に関して、上記式（2）によって，Ｐ（5）＝７となる。確かに、数５の可能な全分割は、(5)、(1,4)、（2、3）、（1、1、3）、（1、2、2）、（1、1、1、1、1）である。５次元ベクトルとして、これらの分割を書き換えると、（0、0、0、0、5）、（0、0、0、1、4）、（0、0、0、2、3）、（ 0、0、1、1、3）、（0、0、1、2、2）、（0、1、1、1、2）と（1、1、1、1、1）となる。これらが、まさに、ノルムｒ＝５とｄ＝５のハイパーピラミッドのリーダーと対応していることが分かる。つまり、セクション3.1.1の２つの要件を満たすノルムｒ＝５とｄ＝５のハイパーピラミッドにおける唯一のベクトル（複数）である。 For example, for r = 5, P (5) = 7 by the above equation (2). Indeed, all possible divisions of number 5 are (5), (1,4), (2, 3), (1, 1, 3), (1, 2, 2), (1, 1, 1 1, 1). When these divisions are rewritten as a five-dimensional vector, (0, 0, 0, 0, 5), (0, 0, 0, 1, 4), (0, 0, 0, 2, 3), (0 , 0, 1, 1, 3), (0, 0, 1, 2, 2), (0, 1, 1, 1, 2) and (1, 1, 1, 1, 1). It can be seen that these correspond exactly to the hyperpyramid leaders with norms r = 5 and d = 5. That is, it is the only vector (s) in the hyperpyramid with norms r = 5 and d = 5 that satisfy the two requirements of section 3.1.1.

しかし、ｄ次元のラティスにおいて、ｒに等しいノルム11のエンベロープは重要である。但し、ｒ≠ｄとする。この場合、関数q（r、d）[10、18]を使うことができる。この関数は、ｄ以下の部分(部分)を持つｒの分割数を計算するものである（分割理論において、これは、部分の数は問わないが、ｄより大きい要素を持たない、ｒの分割数を計算することと同じことである）。
したがって、ノルムｒ＝５と次元ｄ=３のハイパーピラミッドに対して、ｑ（５，３）＝５である。即ち、５つのリーダーは次のとおりである。：（0、0、5）（0、1、4）、（0、2、3）、（1、1、3）、（1、2、2）。 However, in d-dimensional lattices, the norm 11 envelope equal to r is important. However, r ≠ d. In this case, the function q (r, d) [10, 18] can be used. This function calculates the number of divisions of r that have parts (parts) less than or equal to d (in the theory of division, this does not matter how many parts, but does not have elements greater than d, the division of r Equivalent to calculating a number).
Therefore, q (5,3) = 5 for a hyperpyramid of norm r = 5 and dimension d = 3. That is, the five leaders are as follows. : (0, 0, 5) (0, 1, 4), (0, 2, 3), (1, 1, 3), (1, 2, 2).

関数ｑ（ｒ、ｄ）は、次の漸化式から計算することができる。
ｑ(ｒ,ｄ) = ｑ(ｒ, ｄ−1) + ｑ(ｒ−ｄ, d) (3)
但し、ｑ（ｒ、ｄ）＝Ｐ（ｒ）で、ｄ≧ｒ、ｑ（１、ｄ）＝１、及び、ｑ（ｒ、0）＝0。 The function q (r, d) can be calculated from the following recurrence formula.
q (r, d) = q (r, d-1) + q (r-d, d) (3)
However, q (r, d) = P (r), d ≧ r, q (1, d) = 1, and q (r, 0) = 0.

３.１．３関数q（r、d）を使用して、リーダーにインデックスを付与する
以下に説明するように、式（3）が与えられたハイパーピラミッドの上のリーダーの全数を与えるのみならず、同式は、変換テーブルを使うことなく、リーダーに対し唯一の一群のインデックスを割り当てるのに使うことができる。
インデックスアルゴリズムの原理を説明するために、次のようにハイパーピラミッドのリーダーが、次のように逆辞書式順序で分類されていると仮定する。 3.1.3 Indexing leaders using the function q (r, d) As explained below, if equation (3) only gives the total number of leaders on a given hyperpyramid Rather, this equation can be used to assign a single set of indexes to a reader without using a translation table.
To illustrate the principle of the index algorithm, assume that the hyperpyramid leaders are classified in reverse lexicographic order as follows:

したがって、リーダー1のインデックスは、これに先行するリーダーの数に対応している。上記例では、リーダー（0、...、1、1、ｒ_ｎ−２）にはインデックス３が割り当てられる。 Therefore, the index of leader 1 corresponds to the number of leaders preceding it. In the above example, the leader _{(0, ..., 1,1, r} n -2) index 3 is assigned to.

第１命題（proposition）では、リーダーのインデキシングアルゴリズムが記述されている。 In the first proposition, the reader's indexing algorithm is described.

第１命題
ｖ＝（ｖ₁、ｖ₂、…、ｖ_ｎ）は、一定ノルムｌ₁の１つのエンベロープ上の１つのリーダーベクトルｌ＝（ｘ_１、ｘ_２、…、ｘ_ｎ）を持つラティスベクトルＺ^ｎであるとする。リーダーのインデックスＩ_１は次式で与えられる。： The first proposition v = (v ₁ , v ₂ ,..., V _n ) is a lattice with one leader vector l = (x ₁ , x ₂ ,..., X _n ) on one envelope of constant norm l _1. ^Let it be a vector Z ⁿ . The leader index I ₁ is given by: :

それら全てをリスト化せずに、第１グループのリーダーの数をカウントするために、分割関数ｑ（ｒ、ｄ）が使われる。なぜなら、ｎ番目の座標がｇ_ｎに等しいリーダーの数は、次の注（remarque）を使って簡単に計算することができるからである。 A split function q (r, d) is used to count the number of leaders in the first group without listing them all. This is because the number of leaders whose _nth coordinate is equal to gn can be easily calculated using the following remarque.

注（Remarque）：
ノルムｒ_ｎ、次元ｎのリーダー（その最大座標がｇ_ｎに等しい）の数の計算は、数r_n-g_n（但し、ｇ_ｎより大きい部分がなく、ｎ−1部分より小さい）の分割数を、計算することに等しい。 Note (Remarque):
The calculation of the number of norm r _n , leader of dimension n (whose maximum coordinate is equal to g _n ) is the division of the number r _n -g _n (but no part greater than g _{n and} less than n-1 part) The number is equal to calculating.

ほとんどの場合、q(r_n-g_n,n-1)を適用して、分割数をカウントすることができる。しかし、このアプローチは、r_n-g_n<g_nの場合しか正しくない。この場合、r_n-g_nの全ての分割はｇ_ｎより大きい部分を持っていないと暗黙に仮定されている。しかしながら、一般的な場合、r_n-g_n<g_nは保証されない場合（例えば、ノルムｒ_ｎ＝２０、次元ｎ＝５、最大部分が７のベクトルの数は、ｑ（20-7、５-１）＝ｑ（13、4）を導く場合（但し20−7≪７ではない））、q(r_n-g_n, n-1)の計算は、真(valide)のベクトルの数について誤った値を算出する。r_n-g_n の複数の分割がg_nより大きい部分を持つこともあるからである（この場合セクション３．１.１の条件２が満たされていない）。 In most cases, q (r _n -g _n , n-1) can be applied to count the number of divisions. However, this approach is only correct if r _n -g _n <g _n . In this case, it is implicitly assumed that all partitions of r _n -g _n have no portion greater than g _n . However, in the general case, where r _n −g _n <g _n is not guaranteed (eg, norm r _n = 20, dimension n = 5, the number of vectors with a maximum of 7 is q (20−7, 5 -1) = q (13, 4) is derived (but not 20-7 << 7)), q (r _n -g _n , n-1) is calculated for the number of valid vectors. Calculate an incorrect value. This is because a plurality of divisions of r _n -g _n may have a part larger than g _n (in this case, the condition 2 in section 3.1.1 is not satisfied).

結果を追加次元（dimensions additionnelles）に拡張することにより、最大座標がｘ_ｎに等しいベクトルであって、１に先行するベクトルの数は、次式で与えられる。 By extending the result to dimensions additionnelles, the number of vectors whose maximum coordinate is equal to _xn and precedes 1 is given by:

式（5）、（6）を組合せて、一般式を導き、１より前に位置するリーダーベクトルの全数を計算し、従って、１のインデックスＩ_Ｉを計算することができる（式（４））。 Combining Equations (5) and (6), the general equation is derived, and the total number of leader vectors located before 1 can be calculated, and therefore the index I _I of 1 can be calculated (Equation (4)) .

但し、ｊ＝０に対し、ｘｎ＋１＝＋∞ However, for j = 0, xn + 1 = + ∞

一つのベクトルのノルムｌ_ｐは、精度δを持つことが知られており、次式で得られる。 The norm l _p of one vector is known to have accuracy δ, and is obtained by the following equation.

第２命題：
ベクトルν = (v₁, v₂, …, v_n)を、一定ノルムｌｐの一つのエンベロープの上にある１つのリーダーベクトル1 = (x₁, x₂, …, x_n)を持つ１つのラティスベクトルＺ^ｎであるとする。リーダーベクトルＩ_１のインデックスは次式により与えられる。 Second proposition:
The vector ν = (v ₁ , v ₂ ,…, v _n ) is a single vector with one leader vector 1 = (x ₁ , x ₂ ,…, x _n ) on one envelope of constant norm lp ^Let it be a lattice vector Z ⁿ . The index of leader vector I ₁ is given by:

メモリ容量は、主として、エンベロープのノルムと次元に依存していることに留意すべきである。ベクトルの数がＢの選択を決定する。 It should be noted that the memory capacity mainly depends on the norm and dimension of the envelope. The number of vectors determines the choice of B.

必要とするメモリ容量が非常に低いこと及び全てのベクトルを知る必要がないという事実があるので、64, 128, 256, 512のように大きい次元のラティスベクトルに対しても、インデキシングすることができる。従前の研究においては、実際のアプリケーションでは、次元が１６に制限されていた。 Due to the fact that the amount of memory required is very low and it is not necessary to know all the vectors, it is possible to index even large dimensional lattice vectors such as 64, 128, 256, 512 . In previous studies, the actual application was limited to 16 dimensions.

Claims

The application of the estimation method according to any one of claims 1 to 3 for flow estimation in a frame of data compression.

The application of the estimation method according to any one of claims 1 to 3, for estimating a flow for indexing a leader vector.