CN103794219A - 一种基于m码字分裂的矢量量化码本生成方法 - Google Patents

Abstract

本发明公开了一种基于M码字分裂的矢量量化码本生成方法，该方法是在每次迭代前的码本初始化阶段，根据目标码本大小，自适应地选取分裂码字数为2、4或5，在一个码字分裂为4个或5个码字时，其中两对码字的增量部分具有正交特性，在一个码字分裂为5个码字时，原码字将保留在新码字中；在最后一次码字分裂前，若需要生成的新码字数量不足，则选取码本中的若干个码字使用二分法进行码字补偿，使最后一次分裂得到的总码字数达到目标码本大小。本发明在不改变码本量化性能的同时缩短了码本生成时间，适用于图像压缩、模式识别、视频编码等领域，特别适用于语音编码领域。

Description

一种基于M码字分裂的矢量量化码本生成方法

技术领域

本发明涉及码本生成方法研究领域，特别涉及一种基于M码字分裂的矢量量化码本生成方法。

背景技术

随着计算机和大规模集成电路的发展，数字信号的分析和处理已广泛应用于图像压缩、模式识别、语音编码、视频编码等领域。数字信号，特别是数字音频信号与数字图像信号，虽然具有抗干扰能力强、无噪声积累、便于加密等优点，但是在数字通信中由于其庞大的数据量也会导致高码率问题，影响传输速率的同时增加设备存储和处理负担。数据压缩成为解决此问题的关键技术。

量化是数据压缩的常用技术，量化方法可分为两种：标量量化和矢量量化。标量量化是指每次量化一个采样，所有采样采用特性相同的量化器，采样间量化彼此无关。矢量量化是把k个(k≥2)标量数据构成k维空间R^k中的一个矢量，然后在矢量空间中进行整体量化。矢量量化属于一种有效的有损压缩技术，具有压缩比大、编解码简单等优点。

矢量量化的理论基础是Shannon的率失真定理，其基本原理是使用码本中与输入矢量之间失真误差最小码字的索引代替输入矢量进行存储或传输，在解码端进行简单的查表操作对矢量进行重构。矢量量化主要包括三大关键技术，即码本生成算法、码字搜索算法以及码字索引分配算法，其中最重要是码本生成算法，它是设计矢量量化器成功与否的关键。20世纪80年代初，Linde等人提出了LBG(Linde-Buzo-Gray)算法，用于解决矢量量化器的码本生成问题。

传统LBG算法包括码本初始化和聚类迭代两个过程。算法使用二分法(即按2的幂)对码本进行分裂初始化，初始化后进入聚类迭代，每次迭代使用最小失真准则，对训练样本重新分类，使每次迭代后的平均失真度减小。它是一个由初始码本寻找最佳码本的过程。LBG算法简单且容易实施，现有的矢量量化算法绝大多数使用LBG算法生成矢量码本。但使用传统LBG算法生成码本存在两个问题：一是对初始码本的选取会影响码本性能以及算法的收敛速度。二是计算量大，码本生成时间长。

发明内容

本发明的主要目的在于克服现有技术的缺点与不足，提供一种基于M码字分裂的矢量量化码本生成方法，该方法克服了因迭代次数过多和收敛速度过慢导致的生成码本时效性不足问题，比常规的LBG矢量码本生成方法可以更快地生成码本，而不降低码本的量化性能。

本发明的目的通过以下技术方案实现：一种基于M码字分裂的矢量量化码本生成方法，对码本进行分裂初始化时，根据目标码本大小，自适应地选取分裂码字数为2、4或5，在一个码字分裂为4个或5个码字时，其中两对码字的增量部分具有正交特性，在一个码字分裂为5个码字时，原码字将保留在新码字中；在最后一次码字分裂前，若需要生成的新码字数量不足，则选取码本中的若干个码字使用二分法进行码字补偿，使最后一次分裂得到的总码字数达到目标码本大小。

具体包括以下步骤：

（1）给定目标码本大小N、迭代计算停止门限θ以及训练样本集，计算所有训练样本集的中心，将此中心作为第一个码字

，即初始码本；

（2）根据目标码本大小N，确定各次分裂码字数M，总分裂次数I以及最后一次分裂前的码字补偿个数δ;

（3）对码本进行M分裂初始化；

（4）按最近邻原则对训练样本集进行量化分类，划分胞腔，根据得到的胞腔更新码字；

（5）计算码本的平均失真度和相对失真度，判断相对失真度是否符合迭代计算停止门限θ，如果是，进入步骤（6），否则，重新进行步骤（4）；

（6）判断当前码字数是否等于目标码本大小N，如果是，则结束退出；否则执行步骤（3）。

具体的，所述步骤（3）中，对码本进行分裂初始化，当一个码字X分裂为M个新码字Y_i(i=1,…,M,M=2,4,5)时，第1、2个码字分布在原矢量方向上，而第3、4个码字的坐标点分布在与原矢量正交的一个平面上，且关于原始矢量点对称，设x₁和x₂分别为码字X的一对相邻的奇偶维分量，ε为分裂尺度控制系数，Y_i为分裂的第i个码字，对码字的奇偶维分量在正交方向上进行分裂，则：

当M=2时，Y₁=X+ΔX，Y₂=X-ΔX，其中ΔX=(εx₁,εx₂)；

当M=4时，Y_1,2=X±ΔX，Y_3,4=X±Δ′X，其中ΔX=(εx₁,εx₂)，Δ′X=(-εx₂,εx₁)，其中ΔX·Δ′X=0，满足正交性；

当M=5时，X分裂为5个码字，除包含M=4所分裂的4个码字外，保留原码字作为第5个码字。

更进一步的，对于一个k维的矢量，当k为偶数时，通过相邻的奇偶维分量成对或隔位元素成对来构建码字分裂所需要的矢量增量ΔX和Δ′X，使之满足ΔX·Δ′X=0；如果k为奇数，则选出矢量ΔX中的绝对值最小的元素Δx_i，该元素不参加Δ′X构建的元素对配置，从而保证ΔX·Δ′X=|Δx_i|²达到最小，使得ΔX和Δ′X接近正交。

更进一步的，当码本进行最后一次分裂前，若最后一次分裂前的码字补偿个数δ不等于0，则对码本进行码字补偿，码字补偿方法如下：设置另一分裂控制系数ε′，把码本中归属训练样本最多的δ个码字进行二分，从而得到补偿码字，然后进入最后一次的分裂初始化。

优选的，所述第一个码字y10为所有训练样本集的中心，作为固定码字始终保留在码本中，每次通过选取不同的矢量元素对进行正交分裂，M=2或者M=4时，由

代替分裂出的任意一个码字。参与后续聚类迭代，但不参与迭代过程中的码字更新，通过选取不同的矢量元素对构建上述ΔX和Δ′X，使得

每次分裂出的新码字与前面分裂产生的码字不同。

优选的，所述步骤（4）中，按最近邻原则对训练样本集进行量化分类所使用平方失真度公式为：

$d(x,y_l)={\left|\right|x-y_l\left|\right|}^2=\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{(x_j-y_{l,j})}^2;$

式中：‖·‖— 范数，x_j为样本矢量的第j维分量，y_l,j为第l个码字的第j维分量。

优选的，所述步骤（5）中，码本的平均失真度计算公式是：

$D^{\left(n\right)}=E\left[d(x,y_l)\right]=\underset{l=1}{\overset{N_t}{\mathrm{\Σ}}}{p}_{l}E\left[d(x,y_l)\right|x\∈S_l^{\left(n\right)}];$

相对失真度计算公式是：

${\tilde{D}}^{\left(n\right)}=\left|\frac{D^{(n-1)}-D^{\left(n\right)}}{D^{\left(n\right)}}\right|;$

其中， N_t为当前码本大小，i为分裂次数，D⁽ⁿ⁾为第i次分裂中的第n次迭代的平均失真度，p_l为第l个码字的概率，

为第n次迭代的第l个码字所对应的胞腔或第l个码字的归属样本点。

本发明与现有技术相比，具有如下优点和有益效果：

1、本发明矢量码本生成过程中的码字分裂不局限于二分法，而是根据目标码本大小，在码本初始化阶段，自适应地选取分裂码字数M为2，4或5，从而该方法比常规的LBG矢量码本生成方法可以更快地生成码本，而不降低码本量化性能。

2、本发明创新地提出在码本初始化阶段，在一个码字分裂为4个或5个码字时，其中两对码字的增量部分具有正交特性，使分裂的新码字更好地表示矢量空间。同时提出码字补偿策略，通过增加每次码字分裂个数，减少训练过程总迭代次数，从而在不改变码本量化性能的前提下缩短码本生成时间。

3、本发明可用于图像压缩、模式识别、语音编码、视频编码等领域，特别是低速率语音编码领域。

附图说明

图1是本实施例方法流程示意图。

图2（a）是本实施例中分裂码字数M=2时的分裂方法示意图。

图2（b）是本实施例中分裂码字数M=4时的分裂方法示意图。

图2（c）是本实施例中分裂码字数M=5时的分裂方法示意图。

图3是本实施例中平均谱失真度与训练序列矢量个数关系示意图。

图4是本实施例中平均谱失真度与分裂次数关系示意图。

图5是传统方法与本实施例所述方法时间比较图。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。

实施例1

如图1所示，本实施例基于M码字分裂的矢量量化码本生成方法，该方法的基本原理是：码本生成时间t_M-LBG主要由i次分裂的迭代时间t_M-split叠加而成。其中第i次分裂的迭代时间t_M-split(i)主要由失真度计算时间t_distort(i)，失真度比较计算时间t_com(i)和码字更新计算时间t_up(i)三部分组成。码本生成时间公式可表示如下：

$t_{M-\mathrm{LBG}}=\underset{i=1}{\overset{{\log }_{M}N}{\mathrm{\Σ}}}{t}_{M-\mathrm{split}}\left(i\right)---\left(1\right)$

t_M-split(i)=t_distort(i)+t_com(i)+t_up(i)                      (2)

t_M-split(i)=m(i)Mⁱnt_d+m(i)(Mⁱ-1)nt_c+Mⁱt_up                  (3)

根据公式(1)和公式(3)可以看出，通过增大码本初始化时的分裂码字数M，减少分裂次数log_MN，同时使用一种合理的分裂方式使每次分裂的迭代次数m(i)达到最小，便能有效缩短码本的生成时间t_M-LBG。例如：假定目标码本容量为N=1024，采用传统的LBG方法进行码字二分(分裂码字数M=2)，分裂序列为：1，2，4，8，16，32，64，128，256，512，1024，……，然而分裂码字数M=4，分裂序列为：1，4，16，64，256，1024，此时若第i次分裂的迭代次数m(i)变化较小，则能有效省去原序列中2，8，32，128，512迭代所占用的时间。

本实施例假定需生成一个目标码本大小为N=512，维数k=10的线谱对(Linear Spectrum Pair, LSP)码本。

步骤一，给定线谱对LSP训练样本集TS={x_r|r=1,2,…,m}，实例中训练序列的最大矢量个数为m=100000。维数k=10，即10维的LSP训练样本集可通过10阶LPC参数转化得到。迭代计算停止门限置为θ=0.005，分裂控制系数置为ε=0.005，给定目标码本大小N=512。

步骤二，通过计算训练样本集所有LSP矢量各维均值得到训练样本集的中心，将此中心作为第一个码字，即初始码本。

步骤三，确定分裂方案。

根据给定的目标码本N=512结合下表1确定分裂方案，分裂码字数M=5、总分裂次数I=4、最后一次分裂前的码字补偿个数δ=3。

表1 分裂方案

在上表中，注1表示：当N=32时，前2次分裂码字数为M=4，第3次分裂码字数为M=2。注2表示：当N=128时，前2次分裂码字数为M=5，第3次分裂码字数为M=4。注3表示：当N=512时，前3次分裂码字数为M=5，第4次分裂码字数为M=4。注4表示：当N=2048时，前5次分裂码字数为M=4，第6次分裂码字数为M=2。

步骤四，对码本进行M分裂初始化。

当一个码字分裂为M(M=2,4,5)个新码字时，第1、2个码字分布在原矢量方向上，而第3、4个码字的坐标点分布在与原矢量正交的一个平面上，且关于原始矢量点对称，保证新码字具有更好的空间代表性。假设x₁和x₂分别为此码字的一对相邻的奇偶维分量（也可以是其他方式选择的矢量元素对），ε为分裂尺度控制系数，对码字的奇偶维分量在正交方向上进行分裂，如图2（a）、（b）、（c）所示，当M=2时， Y₁=X+ΔX，Y₂=X-ΔX，其中ΔX=(εx₁,εx₂)；当M=4时，Y_1,2=X±ΔX，Y_3,4=X±Δ′X，其中ΔX=(εx₁,εx₂)，Δ′X=(-εx₂,εx₁)，显然ΔX·Δ′X=0，满足正交性；当M=5时，X分裂为5个码字：除包含M=4所分裂的4个码字外，保留原码字作为第5个码字。对于一个k维的矢量，当k为偶数时，通过相邻的奇偶维分量配对或隔位元素配对，例如相邻的奇配对，偶元素配对，总能构建码字分裂所需要的矢量增量ΔX和Δ′X，使之满足ΔX·Δ′X=0；如果k为奇数，则选出矢量ΔX中的绝对值最小的元素Δx_i，该元素不参与配对，这样可以保证ΔX·Δ′X=|Δx_i|²达到最小，使得ΔX和Δ′X接近正交。

本实施例中，选择分裂码字数M=5，根据上述确定的方案对码字进行分裂初始化处理，具体如下：

第1次码字数量先从1分裂为5，第2次码字数量从5分裂为25，第3次码字数量从25分裂为125，每次把码本

中待分裂的码字

分裂为5个码字：

和

其中

表示第i-1次分裂的聚类结束后得到的第l个码字的奇数分量；

表示第i-1次分裂的聚类结束后得到的第l个码字的偶数分量；

表示第i-1次分裂的聚类结束后得到的第l个码字中绝对值最小的分量。

前3次分裂，

作为固定码字始终保留在码本中，每次分裂通过选取不同的矢量元素对进行正交分裂，分裂出的新码字与前面分裂产生的码字不同。

第4次分裂初始化前，最后一次分裂前的码字补偿个数δ为3，不等于0，,所以需对码本进行码字补偿，补偿的方法如下：设置一分裂控制系数ε′，ε′=2ε，计算当前码本中归属样本点数最多的3个码字，采用二分法把当前码本码字数补偿为128，然后作最后一次分裂初始化，把

分裂为4个码字：

和

其中，对于此时第一个码字

的分裂，将代替由其分裂出的任意一个码字，即可把

分裂为：

和

由于k=10为偶数，正交分裂通过相邻的奇偶维分量配对完成。

步骤五，按最近邻原则对训练样本集使用平方失真度进行量化分类，划分胞腔，公式如下：

$d(x,y_l)={\left|\right|x-y_l\left|\right|}^2=\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{(x_j-y_{l,j})}^2$

式中：‖·‖— 范数。

步骤六，根据得到的胞腔更新码字，其中不更新

。

步骤七，计算码本的平均失真度和相对失真度：

码本的平均失真度计算公式是：

$D^{\left(n\right)}=E\left[d(x,y_l)\right]=\underset{l=1}{\overset{N_t}{\mathrm{\Σ}}}{p}_{l}E\left[d(x,y_l)\right|x\∈S_l^{\left(n\right)}];$

相对失真度计算公式是：

${\tilde{D}}^{\left(n\right)}=\left|\frac{D^{(n-1)}-D^{\left(n\right)}}{D^{\left(n\right)}}\right|.$

步骤八，若

则执行下一步骤，否则，回到步骤五。

步骤九，若码本大小等于目标码本大小N=512，算法结束。否则，回到步骤四，继续通过码本初始化对码字进行分裂。

本实施例通过平均谱失真度(Average Spectrum Distortion, ASD)和码本生成时间两项指标来衡量所提供方法的性能。

生成码本平均谱失真度随训练序列矢量个数增加的变化情况如图3所示，从图3可以看出，当训练序列为100000个时，码本平均谱失真度收敛于2.5dB左右；码本生成过程的平均谱失真度随分裂次数的变化情况如图4所示，从图中可以看出，平均失真度随着码字数的增加而迅速减少，符合此方法的预期。

图5给出了本发明去传统方法的时间比较情况，从时间图可以看出，生成N=512的10维LSP码本，本实施例所述的方法在执行时间上比传统方法减少了近20%。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (6)

1.一种基于M码字分裂的矢量量化码本生成方法，其特征在于，对码本进行分裂初始化时，根据目标码本大小，自适应地选取分裂码字数为2、4或5，在一个码字分裂为4个或5个码字时，其中两对码字的增量部分具有正交特性，在一个码字分裂为5个码字时，原码字将保留在新码字中；在最后一次码字分裂前，若需要生成的新码字数量不足，则选取码本中的若干个码字使用二分法进行码字补偿，使最后一次分裂得到的总码字数达到目标码本大小。

2.根据权利要求1所述的基于M码字分裂的矢量量化码本生成方法，其特征在于，包括以下步骤：

（1）给定目标码本大小N、迭代计算停止门限θ以及训练样本集，计算所有训练样本集的中心，将此中心作为第一个码字，即初始码本；

（2）根据目标码本大小N，确定总分裂次数I，各次分裂码字数M以及最后一次分裂前的码字补偿个数δ；

（3）对码本进行M分裂初始化；

（4）按最近邻原则对训练样本集进行量化分类，划分胞腔，根据得到的胞腔更新码字；

（5）计算码本的平均失真度和相对失真度，判断相对失真度是否符合迭代计算停止门限θ，如果是，进入步骤（6），否则，重新进行步骤（4）；

（6）判断当前码字数是否等于目标码本大小N，如果是，则结束退出；否则执行步骤（3）。

3.根据权利要求2所述的基于M码字分裂的矢量量化码本生成方法，其特征在于，所述步骤（3）中，对码本进行分裂初始化，当一个码字X分裂为M个新码字Y_i(i=1,…,M,M=2,4,5)时，第1、2个码字分布在原矢量方向上，而第3、4个码字的坐标点分布在与原矢量正交的一个平面上，且关于原始矢量点对称，设x₁和x₂分别为码字X的一对相邻的奇偶维分量，ε为分裂尺度控制系数，Y_i为分裂的第i个码字，对码字的奇偶维分量在正交方向上进行分裂，则：

当M=2时，Y₁=X+ΔX，Y₂=X-ΔX，其中ΔX=(εx₁,εx₂)；

当M=4时，Y_1,2=X±ΔX，Y_3,4=X±Δ′X，其中ΔX=(εx₁,εx₂)，Δ′X=(-εx₂,εx₁)，其中ΔX·Δ′X=0，满足正交性；

当M=5时，X分裂为5个码字，除包含M=4所分裂的4个码字外，保留原码字作为第5个码字。

4.根据权利要求3所述的基于M码字分裂的矢量量化码本生成方法，其特征在于，对于一个k维的矢量，当k为偶数时，通过相邻的奇偶维分量成对或隔位元素成对来构建码字分裂所需要的矢量增量ΔX和Δ′X，使之满足ΔX·Δ′X=0；如果k为奇数，则选出矢量ΔX中的绝对值最小的元素Δx_i，该元素不参加Δ′X构建的元素对配置，从而保证ΔX·Δ′X=|Δx_i|²达到最小，使得ΔX和Δ′X接近正交。

5.根据权利要求3所述的基于M码字分裂的矢量量化码本生成方法，其特征在于，当码本进行最后一次分裂前，若最后一次分裂前的码字补偿个数δ不等于0，则对码本进行码字补偿，码字补偿方法如下：设置另一分裂控制系数ε′，把码本中归属训练样本最多的δ个码字进行二分，从而得到补偿码字，然后进入最后一次的分裂初始化。

6.根据权利要求2所述的基于M码字分裂的矢量量化码本生成方法，其特征在于，所述为所有训练样本集的中心，作为固定码字始终保留在码本中，每次通过选取不同的矢量元素对进行正交分裂，M=2或者M=4时，由

代替分裂出的任意一个码字。

Images