CN102186087B - 用于二进制算术编码可并行的非零系数上下文建模方法 - Google Patents

Abstract

用于二进制算术编码可并行的非零系数上下文建模方法，它涉及视频编码的上下文建模技术。它为解决现有二进制算术编码在对非零系数进行上下文建模过程中存在对上下文产生数据的依赖关系，使编码系统的数据吞吐率降低的问题而提出。一：定义变换量化块中系数、非零系数的个数；二：对非零系数二值化得到bin序列，三：以非零系数的位置信息和该变换量化块中非零系数的个数为第一上下文进行上下文建模；四：计算绝对值为abs(L_i)的非零系数在第一上下文下取值的概率分布；五：对L_i的绝对值减1进行二值化，六：利用等概率分布进行上下文建模。它可使不同的非零系数的上下文建模过程同时进行，实现了编码过程中多个上下文建模并行执行。

Description

用于二进制算术编码可并行的非零系数上下文建模方法

技术领域

本发明涉及视频编码的上下文建模技术。

背景技术

随着人们对视频质量要求的提高，高清和超高清视频等新视频应用形式应运而生。在这种高分辨率高质量视频欣赏应用中高码率码流必须实时解码以保证视频的实时播放。

二进制算术编码以其高效的编码效率和低复杂性，而倍受青睐。

现有的二进制算术编码主要包括国际视频编码标准H.264/AVC中的上下文自适应二进制算术编码CABAC和我国视频编码标准AVS中基于上下文的二进制算术编码CBAC两种编码方式，它们的编码框架如图1所示。从图1中可以看出二进制算术编码器编码的对象实质是非零系数二值化后的bin，因此编码过程中的上下文建模过程实质就是要对非零系数二值化后的bin进行上下文建模。

采用上述两种编码方式的熵编码器的编码过程包括：

第一步：二值化：即把非二值(取值不是0，1)的编码元素唯一地映射为一个二进制序列，这个二进制序列被称为bin string，所述这个bin string中的每一个二进制值被称为一个bin；但如果编码元素是二进制数据，则这一执行步骤可以省略；

第二步：上下文建模：为经过上步得到的二值化的bin或者直接获得的二值化的bin选择一个上下文模型，通过这个上下文模型来估计这个bin取值的概率分布，即该bin等于0或者等于1的概率；

第三步：算术编码：利用已经估计出来的bin取值的概率分布，对该bin进行编码，输出相应的码流。

在上下文自适应二进制算术编码CABAC中，非零系数二值化后的bin的上下文模型的公式如公式一和公式二所示：

${\mathrm{\χ}}_{\mathrm{AbsCoeff}}(i,\mathrm{bin}\_\mathrm{index}=0)=\left\{\begin{array}{cc}4,& \mathrm{ifNumLgt}1\left(i\right)>0\\ \max (3,\mathrm{NumT}1\left(i\right)),& \mathrm{otherwise}\end{array}\right.$ 公式一

χ_AbsCoeff(i，bin_index)＝5+max(4，NumLgt1(i))

                                                            公式二

     1≤bin_idex≤13

其中NumT1(i)表示相对于当前位置i已经编码或解码出来的绝对值等于1的非零系数的个数，NumLgt1(i)表示相对于当前位置i已经编码或解码出来的绝对值大于1的非零系数的个数；

在基于上下文的二进制算术编码CBAC中，非零系数二值化后的bin的第一上下文模型公式如公式三所示：

C_P(L，R)(L^i-1)＝Lmax    公式三

式中Lmax表示相对于当前位置i已经编码或解码出来的非零系数中绝对值最大的值。

通过上述上下文自适应二进制算术编码CABAC和基于上下文的二进制算术编码CBAC的非零系数的上下文模型公式，可以看出它们都能够对变换量化后的系数进行高效的编码，但是在上述两种上下文模型中，在对当前要编码的非零系数的上下文的选择时均需要依赖先前已经编码或解码出来的非零系数的值，这样就导致了上述两种编码方式在上下文建模过程中需要对上下文产生数据依赖关系，降低了它们的数据吞吐率，使得解码器在解码高码率视频流时要花费更多的时钟周期，有时甚至不能解码高码率视频。

发明内容

本发明为了解决现有二进制算术编码在对非零系数进行上下文建模过程中存在对上下文产生数据的依赖关系，使编码系统的数据吞吐率降低的问题，而提出的适用于二进制算术编码可并行的非零系数上下文建模方法。

用于二进制算术编码可并行的非零系数上下文建模方法，它由如下步骤完成：

步骤一：定义当前变换量化块中系数的个数为B，非零系数的个数为N，所述N个非零系数分别用L_i来表示，其中i的取值范围为0≤i≤N-1，非零系数L_i对应在变换量化块中所处的子带位置用P_i来表示，定义C[P_i][N][k]为一个计数器，参数C[P_i][N][k]表示当变换量化块中非零系数的个数为N，子带位置为P_i时，绝对值等于k的非零系数出现的次数，即当变换量化块中的非零系数的个数为N时，在子带位置P_i处，绝对值等于k的非零系数出现了C[P_i][N][k]次；

步骤二：对非零系数L_i二值化得到bin序列，序列中每一个bin用bin index来标识，定义bin index用i来表示；

步骤三：以非零系数的位置信息P_i和该变换量化块中非零系数的个数N为第一上下文，利用公式四来对非零系数L_i的绝对值进行上下文建模；

C_L(P_i，N)＝P_i+(N-1)×B    公式四

式中参数C_L(P_i，N)表示第一上下文状态的索引；

步骤四：设定参数C[P_i][N][abs(L_i)]的初始值为0，在所有的典型视频序列中，对每一个0≤P_i≤B-1的P_i和每一个1≤N≤B的N，并且绝对值为abs(L_i)的非零系数利用公式五来进行计数；

C[P_i][N][abs(L_i)]＝C[P_i][N][abs(L_i)]+1      公式五

然后，利用上式得到的C[P_i][N][abs(L_i)]通过公式六来计算绝对值为abs(L_i)的非零系数在第一上下文下取值的概率分布P(abs(L_i)＝l_i|P_i，N)，

$P(\mathrm{abs}\left(L_i\right)=l_i|P_i,N)=\frac{C\left[P_i\right]\left[N\right]\left[l_i\right]}{\underset{\mathrm{abs}\left(L_i\right)}{\mathrm{\Σ}}C\left[P_i\right]\left[N\right]\left[\mathrm{abs}\left(L_i\right)\right]}$ 公式六

以每一个非零系数L_i的位置信息和该非零系数所处的变换量化块中非零系数的个数N为上下文，同时根据步骤三得到非零系数L_i的绝对值在第一上下文下取值的概率分布P(L_i＝l_i|C_L(P_i，N))，简记为

由于0≤P_i≤B-1，1≤N≤B通过公式四得到第一上下文的状态0≤C_L(P_i，N)≤B²-1共有B²个上下文状态，利用公式七计算两个在不同的P_i和N下条件概率分布间的距离，

$D(P_0,N_0,P_1,N_1)=\underset{l\∈L(P_0,N_0)\∪L(P_1,N_1)}{\mathrm{\Σ}}{(P(\mathrm{abs}\left(L\right)=l|P_0,N_0)-P(\mathrm{abs}\left(L\right)=l|P_1,N_1))}^2$ 公式七

采用k均值聚类的方法，即k-means聚类方法，把上述上下文状态分为4类，处在同一类的条件概率分布利用公式八进行合并，

$P(L=l|C_L(P,N))=\frac{C\left[P_0\right]\left[N_0\right]\left[l\right]+C\left[P_1\right]\left[N_1\right]\left[l\right]}{\underset{\mathrm{abs}\left(L\right)}{\mathrm{\Σ}}\left(C\right[P_0\left]\right[N_0\left]\right[\mathrm{abs}\left(L\right)]+C[P_1\left]\right[N_1\left]\right[\mathrm{abs}\left(L\right)\left]\right)}$ 公式八

其中L(P₀，N₀)，L(P₁，N₁)分别表示在P₀，N₀和P₁，N₁的条件下，abs(L)取值的集合；将上下文C_L(P_i，N)的个数合并为4个，即：

f：C_L(P_i，N)→{0，1，2，3}    公式九

步骤五：利用截断一元码和0阶指数哥伦布码的组合来对abs(L_i)-1，即L_i的绝对值减1进行二值化，设x＝abs(L_i)-1，截断一元码的截断值为S，指数哥伦布码的阶数为k，其中S＝14，k＝0：如果0≤x＜S则Bin String由x个1，最后外加一个0组成，即

如果x＝S则Bin String由x个1构成，即

如果x＞S，Bin String的前缀部分由S个1构成，即

后缀部分由x-S的k阶指数哥伦布码表示；

步骤六：利用位置信息P_i和非零系数的个数N，得到非零系数L_i的取值的概率分布

然后利用步骤五所述的二值化方法得到bin的索引j，并利用公式十和公式十一计算二值化后的bin的概率分布，用(P_LPS(j)，V_MPS(j))来表示所述二值化后的bin的概率分布，其中参数P_LPS(j)表示在bin索引等于j时，其低概率字符(概率小于0.5的字符)的概率，V_MPS(j)表示在bin索引为j时，其高概率字符(概率大于0.5的字符)的取值；

$P_{\mathrm{LPS}}\left(j\right)=\min (\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\Σ}}}{P}_{C_L}(L=k+1)},1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\Σ}}}{P}_{C_L}(L=k+1)}),0\≤j\≤\mathrm{ctx}\_\mathrm{num}$ 公式十

$V_{\mathrm{MPS}}\left(j\right)=\left\{\begin{array}{cc}1,& \frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}<1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\\ 0,& \frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\&GreaterEqual;1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\end{array}\right.,0\&le;j\&le;\mathrm{ctx}\_\mathrm{num}$

公式十一

式中参数ctx_num表示对bin进行分割的阈值，利用等概率分布对j＞ctx_num的bin进行上下文建模。

本方法以当前要编码的非零系数在变换量化后得到的系数块中的位置和该系数块中非零系数的个数为上下文，来统计计算得到该非零系数二值化后得到的bin的取值的概率分布。所以，当前要编码的非零系数的上下文仅和它自己的位置信息和整个系数块中非零系数的总数有关，而与其他的非零系数无关，这样不同的非零系数的上下文建模过程可以同时进行，解决了传统编码方法上下文建模过程需要对上下文数据产生依赖关系，从而降低整个编码系统的数据吞吐率的问题，实现了编码过程中多个上下文建模并行执行。

附图说明

图1为现有二进制算术编码框架示意图；A为输入符号，B为非二进制符号，C为二进制符号串，D为二进制符号，E为更新上下文模型，F为输出码流；图2为本申请所述二进制算术编码框架示意图；a为码流，b表示从码流中读入一些个比特，并解码出来一个bin；c表示对significant_map和last_significant_map的上下文建模过程；d表示对非零系数level的上下文建模过程；t表示时间周期；图3为本发明所述建模方法采用Foremanqcif实验的结果示意图，虚线为CABAC，实线为Proposed；图4为本发明所述建模方法采用Newsqcif实验的结果示意图，虚线为CABAC，实线为Proposed；图5为本发明所述建模方法采用Pariscif实验的结果示意图，虚线为CABAC，实线为Proposed；图6为本发明所述建模方法采用Tempetecif实验的结果示意图，虚线为CABAC，实线为Proposed。

具体实施方式

具体实施方式一：适用于二进制算术编码可并行的非零系数上下文建模方法，本实施方式由如下步骤完成：

1、用于二进制算术编码可并行的非零系数上下文建模方法，其特征在于它由如下步骤完成：

步骤一：定义当前变换量化块中系数的个数为B，非零系数的个数为N，所述N个非零系数分别用L_i来表示，其中i的取值范围为0≤i≤N-1，非零系数L_i对应在变换量化块中所处的子带位置用P_i来表示，定义C[P_i][N][k]为一个计数器，表示的含义是：当变换量化块中非零系数的个数为N，子带位置为P_i时，绝对值等于k的非零系数出现的次数，即当变换量化块中的非零系数的个数为N时，在子带位置P_i处，绝对值等于k的非零系数出现了C[P_i][N][k]次；在一个变换量化块中，设该块中的非零系数L的个数为N，处在位置P处的非零系数L会有很多取值，如L可以取值为1，-1，2，-2等。所以为了计算在N，P条件下非零系数L取值的概率分布，需要知道在(N，P)条件下，非零系数L各种取值出现的次数；比如要计算在(N，P)的条件下，L的绝对值为1的概率，则需要知道在(N，P)条件下，绝对值等于1的非零系数L出现了多少次，绝对值等于2的非零系数L出现了多少次，以及绝对值等于3的非零系数L出现了多少次等等。这样计算在(N，P)的条件下，绝对值等于1的概率，可以用下式计算；

$p(L=1|P,N)=\frac{C\left[P\right]\left[N\right]\left[1\right]}{\underset{l}{\mathrm{\&Sigma;}}C\left[P\right]\left[N\right]\left[l\right]}$

步骤二：对非零系数L_i二值化得到bin序列，序列中每一个bin用bin index来标识，定义bin index用j来表示；

步骤三：以非零系数的位置信息P_i和该变换量化块中非零系数的个数N为第一上下文，利用公式四来对非零系数L_i的绝对值进行上下文建模；

C_L(P_i，N)＝P_i+(N-1)×B    公式四

式中参数C_L(P_i，N)表示第一上下文状态的索引；

步骤四：设定参数C[P_i][N][abs(L_i)]的初始值为0，在所有的典型视频序列中，对每一个0≤P_i≤B-1的P_i和每一个1≤N≤B的N，并且绝对值为abs(L_i)的非零系数利用公式五来进行计数；

C[P_i][N][abs(L_i)]＝C[P_i][N][abs(L_i)]+1          公式五

然后，利用上式得到的C[P_i][N][abs(L_i)]通过公式六来计算绝对值为abs(L_i)的非零系数在第一上下文下取值的概率分布P(abs(L_i)＝l_i|P_i，N)，

$P(\mathrm{abs}\left(L_i\right)=l_i|P_i,N)=\frac{C\left[P_i\right]\left[N\right]\left[l_i\right]}{\underset{\mathrm{abs}\left(L_i\right)}{\mathrm{\&Sigma;}}C\left[P_i\right]\left[N\right]\left[\mathrm{abs}\left(L_i\right)\right]}$ 公式六

以每一个非零系数L_i的位置信息和该非零系数所处的变换量化块中非零系数的个数N为上下文，同时根据步骤三得到非零系数L_i的绝对值在第一上下文下取值的概率分布P(L_i＝l_i|C_L(P_i，N))，简记为

由于0≤P_i≤B-1，1≤N≤B通过公式四得到第一上下文的状态0≤C_L(P_i，N)≤B²-1共有B²个上下文状态，利用公式七计算两个在不同的P_i和N下条件概率分布间的距离，

$D(P_0,N_0,P_1,N_1)=\underset{l\&Element;L(P_0,N_0)\&cup;L(P_1,N_1)}{\mathrm{\&Sigma;}}{(P(\mathrm{abs}\left(L\right)=l|P_0,N_0)-P(\mathrm{abs}\left(L\right)=l|P_1,N_1))}^2$ 公式七

采用k均值聚类的方法，即k-means聚类方法，把上述上下文状态分为4类，处在同一类的条件概率分布利用公式八进行合并，

$P(L_i=l|C_L(P,N))=\frac{C\left[P_0\right]\left[N_0\right]\left[l\right]+C\left[P_1\right]\left[N_1\right]\left[l\right]}{\underset{\mathrm{abs}\left(L_i\right)}{\mathrm{\&Sigma;}}\left(C\right[P_0\left]\right[N_0\left]\right[\mathrm{abs}\left(L\right)]+C[P_1\left]\right[N_1\left]\right[\mathrm{abs}\left(L\right)\left]\right)}$ 公式八

其中L(P₀，N₀)，L(P₁，N₁)分别表示在P₀，N₀和P₁，N₁的条件下，abs(L)取值的集合；将上下文C_L(P_i，N)的个数合并为4个，即：

f：C_L(P_i，N)→{0，1，2，3}        公式九

步骤五：利用截断一元码和0阶指数哥伦布码的组合来对abs(L_i)-1，即L_i的绝对值减1进行二值化，设x＝abs(L_i)-1，截断一元码的截断值为S，指数哥伦布码的阶数为k，其中S＝14，k＝0：如果0≤x＜S则Bin String由x个1，最后外加一个0组成，即

如果x＝S则Bin String由x个1构成，即

如果x＞S，Bin String的前缀部分由S个1构成，即

后缀部分由x-S的k阶指数哥伦布码表示；

UEG0二值化过程如表1所示：

表1

步骤六：利用位置信息P_i和非零系数的个数N，得到非零系数L_i的取值的概率分布

然后利用步骤五所述的二值化方法得到bin的索引j，并利用公式十和公式十一计算二值化后的bin的概率分布，用(P_LPS(j)，V_MPS(j))来表示所述二值化后的bin的概率分布，其中参数P_LPS(j)表示在bin索引等于j时，其低概率字符(概率小于0.5的字符)的概率，V_MPS(j)表示在bin索引为j时，其高概率字符(概率大于0.5的字符)的取值；

$P_{\mathrm{LPS}}\left(j\right)=\min (\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)},1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}),0\&le;j\&le;\mathrm{ctx}\_\mathrm{num}$ 公式十

$V_{\mathrm{MPS}}\left(j\right)=\left\{\begin{array}{cc}1,& \frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}<1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\\ 0,& \frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\&GreaterEqual;1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\end{array}\right.,0\&le;j\&le;\mathrm{ctx}\_\mathrm{num}$

公式十一

式中参数ctx_num表示对bin进行分割的阈值，利用等概率分布对j＞ctx_num的bin进行上下文建模。通过上述步骤的描述，得知每个bin索引处的bin取值只能是0和1，因此在步骤六中，可以计算出，bin索引为j处的0和1的概率。bin索引为j处的0的概率可以用以下公式来计算：

$P_0\left(j\right)=\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}$ 公式十二

因此，bin索引为j处的1的概率是：

$P_1\left(j\right)=1-P_0\left(j\right)=1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}$ 公式十三

所以，如果P₀(j)≥0.5，则0是高概率字符，1是低概率字符；否则就是1是高概率字符，0是低概率字符。

经过上述六个步骤，我们可以得到每一个非零系数的bin的条件概率表(P_LPS[C_L(P，N)][j]，V_MPS[C_L(P，N)][j])，这样编码或解码时对bin进行建模的过程可以描述如下：给出非零系数的位置P_i，该非零系数所处的系数块中非零系数的个数N利用公式九可以得到C_L(P，N)的值，利用C_L(P，N)和步骤五的二值化方法得到的待编码或解码bin的索引j，就可以通过查表(P_LPS[C_L(P，N)][j]，V_MPS[C_L(P，N)][j])，得到该bin取值的概率分布(P_LPS(j)，V_MPS(j))。通过上述描述的建模公式可以发现，非零系数间的依赖关系被打破了，因此理论上可以同时对一个系数块中的N个非零系数进行建模，实现了并行建模。在实现中，编码一个变换量化块，需要编码的编码元素包括，significant_map，last_significant_map，和非零系数level；significant_map定义如下：如果变换量化块中处于扫描位置i处的系数为coeff[i]，则若coeff[i]等于0，则significant_map[i]的取值为0，否则significant_map[i]的取值为1。当significant_map[i]等于1时，若coeff[i]是该变换量化块中的最后一个非零系数，则last_significant_map[i]等于1，否则等于0。因此，significant_map表示当前系数是否是非零系数，last_significant_map表示当前非零系数是否是最后一个非零系数。

在实现中，我们对significant_map和last_significant_map采用的是和CABAC相同的上下文建模过程，如图2所示：

x_SIG(coeff[i])＝x_LAST(coeff[i])＝i    公式十四

即采用当前系数的扫描位置对significant_map和last_significant_map进行建模。所以，在我们的实现中，把上下文建模过程和算术编码过程并行执行。

采用本申请所述方法与原始方法的差距比较如表2所示；BD-PSNR表示峰值信噪比的变化量；BD-BitRate表示比特率的变化量。BD-PSNR列参数中的负号表示PSNR下降，BD-BitRate列参数中的负号表示比特率增加。通过表2可以得到我们的方法在比特率平均上比CABAC增加了0.1125％，这样的增加是在允许范围之内的。

	BD-PSNR	BD-Bit Rate[％]
			Foremanqcif	-0.005	0.112
Newsqcif	0.012	-0.173
			Pariscif	-0.007	0.128
Tempetecif	-0.022	0.383
			Average	-0.0055	-0.1125

表2

以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明所提交的权利要求书确定的专利保护范围。

Claims (1)

1.用于二进制算术编码可并行的非零系数上下文建模方法，其特征在于它由如下步骤完成：

步骤一：定义当前变换量化块中系数的个数为B，非零系数的个数为N，所述N个非零系数分别用L_i来表示，其中i的取值范围为0≤i≤N-1，非零系数L_i对应在变换量化块中所处的子带位置用P_i来表示，定义C[P_i][N][k]为一个计数器，参数C[P_i][N][k]表示当变换量化块中非零系数的个数为N，子带位置为P_i时，绝对值等于k的非零系数出现的次数；

步骤二：对非零系数L_i二值化得到bin序列，序列中每一个bin的索引用bin index来标识，定义bin index用j来表示；

步骤三：以非零系数的位置信息P_i和该变换量化块中非零系数的个数N为第一上下文，利用公式四来对非零系数L_i的绝对值进行上下文建模；

C_L(P_i，N)＝P_i+(N-1)×B    公式四

式中参数C_L(P_i，N)表示第一上下文状态的索引；

步骤四：设定参数C[P_i][N][abs(L_i)]的初始值为0，在所有的典型视频序列中，对每一个满足条件0≤P_i≤B-1的P_i和每一个满足条件1≤N≤B的N、并且绝对值为abs(L_i)的非零系数利用公式五来进行计数；

C[P_i][N][abs(L_i)]＝C[P_i][N][abs(L_i)]+1    公式五

然后，利用上式得到的C[P_i][N][abs(L_i)]通过公式六来计算绝对值为abs(L_i)的非零系数在第一上下文下取值的概率分布P(abs(L_i)＝l_i|P_i，N)’

$P(\mathrm{abs}\left(L_i\right)=l_i|P_i,N)=\frac{C\left[P_i\right]\left[N\right]\left[l_i\right]}{\underset{\mathrm{abs}\left(L_i\right)}{\mathrm{\&Sigma;}}C\left[P_i\right]\left[N\right]\left[\mathrm{abs}\left(L_i\right)\right]}$ 公式六

以每一个非零系数L_i的位置信息和该非零系数所处的变换量化块中非零系数的个数N为上下文，同时根据步骤三得到非零系数L_i的绝对值在第一上下文下取值的概率分布P(L_i＝l_i|C_L(P_i，N))，简记为

利用公式七计算两个在不同的P_i和N下条件概率分布间的距离，

$D(P_0,N_0,P_1,N_1)=\underset{l\&Element;L(P_0,N_0)\&cup;L(P_1,N_1)}{\mathrm{\&Sigma;}}{(P(\mathrm{abs}\left(L\right)=l|P_0,N_0)-P(\mathrm{abs}\left(L\right)=l|P_1,N_1))}^2$ 公式七

采用k均值聚类的方法，即k-means聚类方法，把上述上下文状态分为4类，处在同一类的条件概率分布利用公式八进行合并，

$P(L=l|{C_L}^{\&prime;}(P,N))=\frac{C\left[P_0\right]\left[N_0\right]\left[l\right]+C\left[P_1\right]\left[N_1\right]\left[l\right]}{\underset{\mathrm{abs}\left(L_i\right)}{\mathrm{\&Sigma;}}\left(C\right[P_0\left]\right[N_0\left]\right[\mathrm{abs}\left(L\right)]+C[P_1\left]\right[N_1\left]\right[\mathrm{abs}\left(L\right)\left]\right)}$ 公式八

其中L(P₀，N₀)，L(P₁，N₁)分别表示在P₀，N₀和P₁，N₁的条件下abs(L)取值的集合；

将上下文C_L(P_i，N)的个数合并为4个，即：

f：C_L(P_i，N)→{0，1，2，3}    公式九

步骤五：利用截断一元码和0阶指数哥伦布码的组合来对abs(L_i)-1进行二值化，所述abs(L_i)-1表示L_i的绝对值减1，设x＝abs(L_i)-1，截断一元码的截断值为S，指数哥伦布码的阶数为k，其中S＝14，k＝0：如果0≤x＜S则Bin String由x个1，最后外加一个0组成，即

如果x＝S则Bin String由x个1构成，即

如果x＞S，Bin String的前缀部分由S个1构成，即

后缀部分由x-S的k阶指数哥伦布码表示；

步骤六：利用位置信息P_i和非零系数的个数N，得到非零系数L_i的取值的概率分布

然后利用步骤五所述的二值化方法得到bin的索引j，并利用公式十和公式十一计算二值化后的bin的概率分布，用(P_LPS(j)，V_MPS(j))来表示所述二值化后的bin的概率分布，其中参数P_LPS(j)表示在bin索引等于j时，概率小于0.5的低概率字符的概率，V_MPS(j)表示在bin索引为j时，概率大于0.5的高概率字符的取值；

$P_{\mathrm{LPS}}\left(j\right)=\min (\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)},1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}),0\&le;j\&le;\mathrm{ctx}\_\mathrm{num}$ 公式十

$V_{\mathrm{MPS}}\left(j\right)=\left\{\begin{array}{cc}1,& \frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}<1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\\ 0,& \frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\&GreaterEqual;1-\frac{P_{C_L}(L=j+1)}{1-\underset{k=0}{\overset{j-1}{\mathrm{\&Sigma;}}}{P}_{C_L}(L=k+1)}\end{array}\right.,0\&le;j\&le;\mathrm{ctx}\_\mathrm{num}$

公式十一

式中参数ctx_num表示对bin进行分割的阈值，利用等概率分布对j＞ctx_num的bin进行上下文建模。

Images