CN1703089A - 一种数字信号的二值算术编码方法 - Google Patents

Abstract

本发明属于信号处理中的算术编码领域，涉及图像/视频编码中算术编码方法。本发明提出的数字信号的二值算术编码方法，其特征在于：设计了新的小概率符号的概率值的量化方案，同时量化编码区间，利用移位和相加技术在不损失编码效率的条件下使乘法的近似计算的复杂度尽可能小。本发明同时适于直接计算和查表两种方法。能够取得和现有编码器基本相当的编码效率，同时在实现上更为灵活，可以实现复杂度较低的编码器。

Description

一种数字信号的二值算术编码方法

技术领域

本发明涉及图像/视频信号等数字信号编码中的二值算术编码，并涉及相关的计算机实现方法，本发明属于信号处理中编解码领域。

背景技术

信息论之父C.E.Shannon第一次用数学语言阐明了概率与信息冗余度的关系。在1948年发表的论文“A Mathematical Theory of Communication”中，Shannon指出，任何信息都存在冗余，冗余大小与信息中每个符号(数字、字母或单词)的出现概率或者说不确定性有关。Shannon借鉴了热力学的概念，把信息中排除了冗余后的平均信息量称为“信息熵”，并给出了计算信息熵的数学表达式。从本质上讲，数据压缩的目的就是要消除信息中的冗余，而信息熵及相关的定理恰恰用数学手段精确地描述了信息冗余的程度。Shannon指出理想情况下(考虑最小平均码长)，概率为p的符号编码输出为-lg p bits。如果我们能够对信源编码过程中出现的每个符号建立准确的概率模型，用算术编码就可以实现对概率为p的符号编码输出非常接近理论最优值-lg p bits。

算术编码的基本思想是用[0，1)中的实数来编码信源。实数的长度和信源字符序列的概率有关。算术编码过程中要用到两个基本的参数：各符号的概率估计值和当前区间。编码的具体方法是：

1)定义当前区间为[0，1)。

2)编码每个符号重复如下过程：

a.把当前区间分割成若干子区间，各个子区间的长度正比于各个可能输入的符号的概率估计值；

b.把对应实际出现的符号的子区间定义为新的当前区间；

3)处理完信源序列后，选择一个可以唯一确定当前区间的实数输出。

二值算术编码的编码循环(coding iteration)过程如下：输入符号为0或者1，LPS(Least Probable Symbol：指示0，1中概率估计值较小的那一个符号)出现的概率p_LPS∈[0，0.5]。当前子区间下界为Low_i，子区间长度为Range_i，则循环计算过程为：

1.计算小概率符号的概率值PLPS；2.计算小概率符号LPS和大概率符号MPS对应的编码区间RLPS和RMPS：RLPS＝Rangei×PLPSRMPS＝Rangei-RLPS3.计算新的区间：如果当前输入符号是LPS：：Rangei+1←RLPSLowi+1←Lowi+RLPS如果当前输入符号是MPS：Rangei+1←RMPS4.更新小概率符号的概率值PLPS；5.输出比特并重正化编码区间Range。

算术编码最重要的优点在于它的灵活性。实际信源(如运动图像序列)在不同时间，不同位置，不同条件(如RDO on/off，QP)下所表现出来的的数据统计特点差别很大。而算术编码的机制很容易做到自适应统计特性的变化。而且算术编码中编码过程和概率建模过程是分开的。一个算术编码器(Arithmetic Coding Engine)可以和任何概率估计模型(contextmodel)结合使用。为了得到好的压缩效果，很多情况下需要建立复杂的概率模型，这些模型在编码过程中可能是自适应模型，而且压缩一个文件时可能会用到很多独立的模型(multi-context models)，这时算术编码器有其他变长码所无法企及的优势。虽然算术编码具有很好的灵活性，但是建模过程在处理时间和存储量上消耗巨大，尤其是针对多符号(multi-symbol)的信源。算术编码另一个优点在于它的压缩效率接近最优理论值，即信源的熵。Huffman码在大多数情况下也非常接近理论最优。而当某个符号的概率之非常接近1时(heavily skewed)，算术编码比Huffman码在压缩效率上有明显优势，因为Huffman码给每个字符只能分配整数个比特。而这种分布极不平衡的概率在二值图像中是很常见的现象，在多符号(multi-symbol)二值化(用二值算术编码)时也会出现。

但是算术编码最大的缺陷在于它实现的速度很慢。现有的算术编码方案过程中，都需要计算RLPS的值。没有作近似处理的算术编码器处理一个符号至少需要1次乘法，有时甚至需要2次乘法2次除法。而且，概率模型的读取和更新操作都在处理时间和存储量上消耗巨大。而Huffman和Ziv-Lempel码的处理速度都要快得多。

理论上R_LPS＝Range×P_LPS，计算的精度直接影响编码的效率，但是保留高的精度会导致复杂度的增加和实现的困难，目前已实用的算术编码方案都用某种近似计算方法代替复杂度高的乘法计算。目前很多关于算术编码的研究都力求找到一种近似方法，可以提高速度但不会过多影响编码效率。比较常见的方法是用量化近似值代替精确值，用简单操作(如加减，移位)取代乘法运算，以及用查表的方法替代复杂运算。

在国际视频编码标准H.264中采纳的CABAC编码方法是将Range均匀量化成4层，将[0，0.5]中的R_LPS由疏至密取64个固定的量化点，预计算好Range×P_LPS存入一张256bytes的表里，这样rLPS的计算完全由查表代替。

在国际视频编码标准JPEG/JBIG中的Q-coder系列编码方法是将Range直接量化为1层，R_LPS≈P_LPS，将[0，0.5]中的P_LPS由疏至密取30个固定的量化点。虽然计算复杂度上来看Q-coder小于CABAC，但是其代价是精度的损失。

由于概率估计过程是一个随机过程，P_LPS本身估计得到的精度是有限的。所以在计算R_LPS时保留P_LPS估计值过高的精度并没有意义。我们提出一种新的小概率设定方案和新的二值算术编码的乘法运算方法，在复杂度和精度之间寻找一个好的平衡点，实现低复杂度高效的AC编码器。

发明内容

本发明的目的在于提出一种二值算术编码方法其程序框图参见图1。

本发明的特征在于：所述方法是指包括图像信号，声音信号，雷达信号，微波信号在内的各种数字信号的二值算术编码方法，该方法是在计算机上实现的，它的步骤依次为：

步骤一：设定小概率符号LPS各个状态的概率即P_LPS，它的取值在[0，0，5]之间，把区间[0，0.5]由疏至密划分成K个子区间，K取值正整数，依次是[2^-2，2^-1]，[2^-3，2^-2]，…[2^-k-1，2^-k]，[2^-K，2^-K+1]，[0，2^-K]，k∈{1，2，...K}，每个子区间里面均匀置N个量化点，N＝2ⁿ，n取值{0，1，...，L-1}，L为正整数，这样[0，0，5]之间取值的p_LPS共有K×N个量化值，也就是K×N个状态值即state；

步骤二：计算小概率符号LPS和大概率符号MPS对应的编码区间R_LPS和R_MPS：

   R_LPS＝Range_i×P_LPS

   R_MPS＝Range_i-R_LPS

其中，Range_i为编第i个符号时的编码区间大小。当i＝0时的Range是M个比特大小精度的设定值；

步骤三：计算新的编码区间Range_i+1：

如果当前输入符号是小概率符号LPS，则：

Range_i+1←R_LPS

Low_i+1←Low_i+R_LPS

如果当前输入符号是大概率符号MPS：

Range_i+1←R_MPS

其中Low_i是当前编码区间的下界，Low_i+1是新的区间的下界；

步骤四：根据步骤三的结果更新小概率符号的概率状态值state，使得state代表的小概率值P_LPS能够跟踪于实际的小概率符号的概率值；

步骤五：重正化编码区间Range，即在Range的值随编码的进行变得小于设定的下限阈值的时候使Range的值扩大一倍以防止产生计算误差。

本发明的特征又在于：所述方法是指包括图像信号，声音信号，雷达信号，微波信号在内的各种数字信号的二值算术编码方法，该方法是在计算机上实现的，它的步骤依次为：

步骤一：事先设定小概率符号LPS的各个状态的概率值。

步骤二：计算概率符号LPS和大概率符号MPS对应的编码区间R_LPS和R_MPS：

方法是将编码区间即Range的值进行量化以用于小概率符号对应的编码区间即R_LPS的计算，即计算R_LPS时保留编码区间M减去B比特的精度即range_l：

   R_LPS＝range_l_i×P_LPS

   R_MPS＝range_l_i-R_LPS

其中，当i＝0时的Range是M个比特大小精度的设定值，range_l_i为编第i个符号时的编码区间Range右移B比特即量化后的大小，B为设定的比特数减少值。

步骤三：计算新的编码区间Range_i+1：

如果当前输入符号是小概率符号LPS，则：

Range_i+1←R_LPS

Low_i+1←Low_i+R_LPS

如果当前输入符号是大概率符号MPS：

Range_i+1←R_MPS

其中Low_i是当前编码区间的下界，Low_i+1是新的区间的下界；

步骤四：根据步骤三的结果更新小概率符号的概率状态值state，使得state代表的小概率值P_LPS能够跟踪于实际的小概率符号的概率值；

步骤五：重正化编码区间Range，即在Range的值随编码的进行变得小于设定的下限阈值的时候使Range的值扩大一倍以防止产生计算误差。

本发明的特征还在于，所述方法是指包括图像信号，声音信号，雷达信号，微波信号在内的各种数字信号的二值算术编码方法，该方法是在计算机上实现的，它的步骤依次为：

步骤一：设定小概率符号LPS的概率即P_LPS，它的取值在[0，0，5]之间，把[0，0.5]由疏至密划分成K个子区间，K取值正整数，依次是[2^-2，2^-1]，[2^-3，2^-2]，…[2^-k-1，2^-k]，[2^-K，2^-K+1]，[0，2^-K]，k∈{1，2，...K}，每个子区间里面均匀置N个量化点，N＝2ⁿ，n取值{0，1，...，L-1}，L为正整数，这样[0，0，5]之间取值的p_LPS共有K×N个量化值，也就是K×N个状态值即state；

步骤二：计算概率符号LPS和大概率符号MPS对应的编码区间R_LPS和R_MPS：

方法是用移位和相加运算，即使用下面两次左移的运算得到：

      R_LPS≈range_l＜＜(B-k)+[range_l_i＜＜(B-k-L)]·i..........(1)

          ＝range_l＜＜(B-k)+(range_l·i)＜＜(B-k-L)..........(2)

   R_MPS＝range_l_i-R_LPS

其中，将编码区间即Range的值进行量化以用于小概率符号对应的编码区间即R_LPS的计算，即计算R_LPS时保留编码区间M减去B比特的精度即range_l，当i＝0时的Range是M个比特大小精度的设定值，range_l_i为编第i个符号时的编码区间Range右移B比特即量化后的大小，B为设定的比特数减少值，“＜＜”为左移运算；

步骤三：计算新的编码区间Range_i+1：

如果当前输入符号是小概率符号LPS，则：

Range_i+1←R_LPS

Low_i+1←Low_i+R_LPS

如果当前输入符号是大概率符号MPS：

Range_i+1←R_MPS

其中Low_i是当前编码区间的下界，Low_i+1是新的区间的下界；

步骤四：根据步骤三的结果更新小概率符号的概率状态值state，使得state代表的小概率值P_LPS能够跟踪于实际的小概率符号的概率值；

步骤五：重正化编码区间Range，即在Range的值随编码的进行变得小于设定的域值的时候使Range的值扩大一倍以防止产生计算误差。

所述的range_l的取值有2^M-B种情况，其中M为所述的设定Range的初试值的比特数，B为所述的设定的Range减少比特数，所述的range_l·i乘法计算结果用预先存储的对应于的2^M-B·N种情况的结果的表得到，即R_LPS＝range_1＜＜(B-k)+(Table[index_range][index_i])＜＜(B-k-L)，其中的index_range∈[0，2^M-B)，index_i∈[0，N)，所述的k的值由下式计算：k＝state/K，用以表示的指示区间号，所述的i由下式计算：i＝L-state mod L，用于表示区间中状态点的位置；所述的计算区间指示值k的实现方式，其中所述的k可以由state右移

位得到，即 所述的计算区间状态点i由下式得到：i＝L-state&(L-1)，其中&表示“与”运算。

本发明的优点在于在不损失编码效率的条件下使近似计算R_LPS的复杂度尽可能小，且同时适于直接计算和查表两种方法，能够取得和现有编码器基本相当的编码效率，同时在实现上更为灵活，可以实现复杂度较低的编码器。

附图说明

图1：本发明的程序流程框图

具体实施方式

1)第一个方面，我们提出了二值算术编码中一种小概率值取点和计算小概率符号对应区间R_LPS的方法：

a)P_LPS的量化：

i.在(0，0.5]区间内，按照2^-k-1取点划分为K个子区间，k，K为正整数，k＝1，2，3，……K；

ii.在这k个子区间中，各平均选取N＝2^L个点。即在第k个区间中的第i个点对应的小概率符号的概率值为：

                P(k_i)＝2^-k-1+2^-k-1×2^-L×i

b)Range的量化：

按照下式的方法，Range在初试计算时采用M比特的精度表示，但在计算R_LPS时，保留M-B比特的精度。

                       range_l＝Range＞＞B

c)R_LPS的计算：

由于所有的概率点的选取是以2的负整数倍为单位划分的，所以乘法运算R_LPS＝Range×P_LPS就可以由移位来完成，于是按照下式的方法，我们根据当前的小概率符号的概率点得到当前的R_LPS：

    R_LPS＝[range_l＜＜(B-k-2)]+[range_l＜＜(B-k-2-L)]×i

其中：

b：编码区间Range的省略精度比特数；

k：根据当前的state得到的小概率点所在区间段的指示值；

k＝2+state/K

i：根据当前的state得到的小概率点在所在区间中的位置的指示值：

i＝state％L

state：当前小概率符号所在的自适应概率状态值，state∈[0，M×N)；

这样，我们就得到二值算术编码中的R_LPS。

2)第二个方面，我们提供了一种计算上述方法相应的实现方式：

R_LPS由下式计算：

              R_LPS＝[range_l＜＜(B-k)]+[(range_l×i)＜＜(B-k-L)]

其中：

b：编码区间Range的省略精度比特数；

k：根据当前的state得到的小概率点所在区间段的指示值；

i＝3-state&0x07

i：根据当前的state得到的小概率点在所在区间中的位置的指示值：

i＝L-state&L

state：当前小概率符号所在的自适应概率状态值，state∈[0，M×N)；

这样根据range_1的精度，i的取值最多只有M-B种情况，我们将range_l×i的值存在表中，可省去唯一的少数比特的乘法运算。

实现方式示例：

a)P_LPS的量化：

i.在(0，0.5]区间内，按照2^-k-1取点划分为K＝8个子区间，

在这8个子区间中，每个各平均选取N＝2⁴＝8个点。

即这N×K＝64个点的概率值分布为：

概率点状态  区间k  位置i    概率值P(LPS)state
				0	1	7	0.5000
1	1	6	0.46875
				2	1	5	0.43750
3	1	4	0.40625
				4	1	3	0.37500
5	1	2	0.34375
				6	1	1	0.31250
7	1	0	0.28125
				8	2	7	0.25000
9	2	6	0.23438
				10	2	5	0.21875
11	2	4	0.20313
				12	2	3	0.18750
13	2	2	0.17188
				14	2	1	0.15625
15	2	0	0.14063
				16	3	7	0.12500
17	3	6	0.10938
				……	……	……	……

b)Range的量化：

按照下式的方法，Range在初试计算时采用9比特的精度表示，但在计算R_LPS时，保留3比特的精度：range_l＝Range＞＞6

c)R_LPS的计算：

由于所有的概率点的选取是以2的整数倍为单位划分的，所以乘法运算R_LPS＝Range×P_LPS就可以由移位来完成，于是按照下式的方法，我们根据当前的小概率符号的概率点状态值即state得到当前的R_LPS：

              由上述计算知：B＝6；L＝3；则：

        R_LPS＝[range_l＜＜(6-k-2)]+[range_l＜＜(6-k-2-3)]×i

即：R_LPS＝[range_l＜＜(4-k)]+[range_l＜＜(1-k)]×i。

其中：k＝state＞＞3；i＝3-state&0x07

由于Range为3bite精度，且在算术编码中重正化编码区间Range时我们保证其值不小于2⁸，则Range的最高比特位始终为1，所以range_l实际上只有100，101，110，111四种情况，我们将这四种情况下的range_l和一共K×N＝8×8＝64个区间概率点位置指示值i的乘积写入一张4×64的表中，就能够使用快速查表的方法解决[range_l＜＜(1-k)]×i的乘法问题。

Claims (8)

1.一种数字信号的二值算术编码方法，其特征在于，所述方法是指包括图像信号，声音信号，雷达信号，微波信号在内的各种数字信号的二值算术编码方法，该方法是在计算机上实现的，它的步骤依次为：

步骤一：设定小概率符号LPS各个状态的概率即P_LPS，它的取值在[0，0，5]之间，把区间[0，0.5]由疏至密划分成K个子区间，K取值正整数，依次是[2^-2，2^-1]，[2^-3，2^-2]，...[2^-k-1，2^-k]，[2^-K，2^-K+1]，[0，2^-K]，k∈{1，2，...K}，每个子区间里面均匀置N个量化点，N＝2ⁿ，n取值{0，1，...，L-1}，L为正整数，这样[0，0，5]之间取值的p_LPS共有K×N个量化值，也就是K×N个状态值即state；

步骤二：计算小概率符号LPS和大概率符号MPS对应的编码区间R_LPS和R_MPS：

    R_LPS＝Range_i×P_LPS

    R_MPS＝Range_i-R_LPS

其中，Range_i为编第i个符号时的编码区间大小。当i＝0时的Range是M个比特大小精度的设定值；

步骤三：计算新的编码区间Range_i+1：

如果当前输入符号是小概率符号LPS，则：

Range_i+1←R_LPS

Low_i+1←Low_i+R_LPS

如果当前输入符号是大概率符号MPS：

Range_i+1←R_MPS

其中Low_i是当前编码区间的下界，Low_i+1是新的区间的下界；

步骤四：根据步骤三的结果更新小概率符号的概率状态值state，使得state代表的小概率值P_LPS能够跟踪于实际的小概率符号的概率值；

步骤五：重正化编码区间Range，即在Range的值随编码的进行变得小于设定的下限阈值的时候使Range的值扩大一倍以防止产生计算误差。

2.一种数字信号的二值算术编码方法，其特征在于，所述方法是指包括图像信号，声音信号，雷达信号，微波信号在内的各种数字信号的二值算术编码方法，该方法是在计算机上实现的，它的步骤依次为：

步骤一：事先设定小概率符号LPS的各个状态的概率值；

步骤二：计算概率符号LPS和大概率符号MPS对应的编码区间R_LPS和R_MPS：

方法是将编码区间即Range的值进行量化以用于小概率符号对应的编码区间即R_LPS的计算，即计算R_LPS时保留编码区间M减去B比特的精度即range_l：

R_LPS＝range_l_i×P_LPS

R_MPS＝range_l_i-R_LPS

其中，当i＝0时的Range是M个比特大小精度的设定值，range_l_i为编第i个符号时的编码区间Range右移B比特即量化后的大小，B为设定的比特数减少值；

步骤三：计算新的编码区间Range_i+1：

如果当前输入符号是小概率符号LPS，则：

Range_i+1←R_LPS

Low_i+1←Low_i+R_LPS

如果当前输入符号是大概率符号MPS：

Range_i+1←R_MPS

其中Low_i是当前编码区间的下界，Low_i+1是新的区间的下界；

步骤四：根据步骤三的结果更新小概率符号的概率状态值state，使得state代表的小概率值P_LPS能够跟踪于实际的小概率符号的概率值；

步骤五：重正化编码区间Range，即在Range的值随编码的进行变得小于设定的下限阈值的时候使Range的值扩大一倍以防止产生计算误差。

3.一种数字信号的二值算术编码方法，其特征在于，所述方法是指包括图像信号，声音信号，雷达信号，微波信号在内的各种数字信号的二值算术编码方法，该方法是在计算机上实现的，它的步骤依次为：

步骤一：设定小概率符号LPS的概率即P_LPS，它的取值在[0，0，5]之间，把[0，0.5]由疏至密划分成K个子区间，K取值正整数，依次是[2^-2，2^-1]，[2^-3，2^-2]，...[2^-k-1，2^-k]，[2^-K，2^-K+1]，[0，2^-K]，k∈{1，2，...K}，每个子区间里面均匀置N个量化点，N＝2ⁿ，n取值{0，1，...，L-1}，L为正整数，这样[0，0，5]之间取值的p_LPS共有K×N个量化值，也就是K×N个状态值即state；

步骤二：计算概率符号LPS和大概率符号MPS对应的编码区间R_LPS和R_MPS：方法是用移位和相加运算，即使用下面两次左移的运算得到：

    R_LPS≈range_l＜＜(B-k)+[range_l_i＜＜(B-k-L)]·i..........(1)

    ＝range_l＜＜(B-k)+(range_l·i)＜＜(B-k-L)..........(2)

    R_MPS＝range_l_i-R_LPS

其中，将编码区间即Range的值进行量化以用于小概率符号对应的编码区间即R_LPS的计算，即计算R_LPS时保留编码区间M减去B比特的精度即range_l，当i＝0时的Range是M个比特大小精度的设定值，range_l_i为编第i个符号时的编码区间Range右移B比特即量化后的大小，B为设定的比特数减少值，“＜＜”为左移运算；

步骤三：计算新的编码区间Range_i+1：

如果当前输入符号是小概率符号LPS，则：

Range_i+1←R_LPS

Low_i+1←Low_i+R_LPS

如果当前输入符号是大概率符号MPS：

Range_i+1←R_MPS

其中Low_i是当前编码区间的下界，Low_i+1是新的区间的下界；

步骤四：根据步骤三的结果更新小概率符号的概率状态值state，使得state代表的小概率值P_LPS能够跟踪于实际的小概率符号的概率值；

步骤五：重正化编码区间Range，即在Range的值随编码的进行变得小于设定的域值的时候使Range的值扩大一倍以防止产生计算误差。

4.根据权利要求3所述的一种数字信号的二值算术编码方法，其特征在于所述的range_l的取值有2^M-B种情况，其中M为所述的设定Range的初试值的比特数，B为所述的设定的Range减少比特数，所述的range_l·i乘法计算结果用预先存储的对应于的2^M-B·N种情况所得到的结果的表得到，即：

R_LPS＝range_1＜＜(B-k)+(Table[index_range][index_i])＜＜(B-k-L)，其中的index_range∈[0，2^M-B)，nddex_i∈[0，N)。

5.根据权利要求3所述的一种数字信号的二值算术编码方法，其特征在于，所述的k的值由下式计算：k＝state/K，用以表示的指示区间号。

6.根据权利要求3所述的一种数字信号的二值算术编码方法，其特征在于所述的i由下式计算：i＝L-state mod L，用于表示区间中状态点的位置。

7.根据权利要求5所述的一种数字信号的二值算术编码方法，其特征在于，所述的计算区间指示值k的实现方式，其中所述的k可以由state右移 位得到，即

8.根据权利要求6所述的一种数字信号的二值算术编码方法，其特征在于，所述的计算区间状态点i由下式得到：i＝L-state&(L-1)，其中&表示“与”运算。

Images