CN1230054A - 自适应概率估计方法、自适应编码方法及自适应解码方法 - Google Patents

Abstract

一种自适应概率估计方法,克服了现有方法中得不到所需估计概率精度或必须进行除法运算,存在着运算负载大的问题。从基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数,通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值,从由上述概率阈值划分的概率区间中不使用除法运算选择对应于估计出现概率的给定指标。

Description

自适应概率估计方法、自适应 编码方法及自适应解码方法

本发明涉及数据信号的编码，特别是熵编码中的自适应概率估计方法、自适应编码方法及自适应解码方法。

作为对于不保证信号源性质是恒定的数据信号进行高效率编码的方法，自适应编码是已知的。自适应编码能够一边学习编码或解码对象数据的出现趋势一边应用编码或解码，来抑制效率的降低。

图11为《IBM研究与发展杂志》1988年11月第32卷第6期第717-774页，W.B.Pennebaker等人著“Q编码器-自适应二进制算术编码器”(W.B.Pennebaker et al.，“Q-Coder adaptive binary arithmeticcoder”，IBM Journal of Research and Development，Vol，32，No.6，Nov.1988，pp717-774)中所示自适应编码装置及自适应解码装置的概略结构图。在该图中，由下列部分构成：概率估计装置30，估计编码对象数据的出现概率，运算当时出现概率高的数据值，即预测值；模型化装置33，具有在编码中对输入数据信号进行分析作为上下文进行分类的功能，或者，在输入多进制数据信号的情况下，变换成进行编码的二进制数据信号串的功能；模型化装置34，具有在解码中反过来对输出数据信号进行分析作为上下文进行分类的功能，或者，在输出多进制数据信号的情况下，从已解码的二进制数据信号串进行反变换的功能；符号判定装置38，从二进制数据及预测值变换成表示编码对象数据值一致/不一致的二进制符号；数据判定装置39，从已解码的二进制符号及预测值变换成二进制数据；熵编码装置31及熵解码装置32，基于所估计的概率进行编码或解码。

模型化装置33、34是独立的，但是，作为在概率估计装置30中所含的结构、还有，在概率估计装置30中所含具有数据与符号的变换/反变换功能的结构，在其它一般文献中有时也使用。

如前所述，模型化装置33、34起到例如在编码中对输入数据信号进行分析作为上下文进行分类的功能，或者，在输入多进制数据信号的情况下，变换成进行编码的二进制信号串的功能；在解码中反过来对输出数据信号进行分析作为上下文进行分类的功能，或者，在输出多进制数据信号的情况下，从已解码的二进制数据信号串进行反变换的功能等，但是，在对二进制信号源进行输入输出的情况下，不需要进行上述数据信号与二进制数据信号串的变换或反变换，照原样进行处理即可。

还有，由于依据后述状态转换的概率估计以状态为单位来进行，故状态号码存储装置35中存储的状态号码成为用于选择Qc存储装置37的估计概率值的指标。熵编码装置31及熵解码装置32中，应用能够以高效率进行压缩的编码之一，即算术编码及算术解码。对图11中所示的上下文的状态号码存储装置35及预测值存储装置36、把状态号码作为指标，对于作为编码参数之一的状态的典型概率值的Qc存储装置37、从二进制数据及预测值变换成应该编码的二进制符号的符号判定装置38、从已解码的二进制符号及预测值变换成二进制数据的数据判定装置39为上述引例及《ITU-建议T.82》1993年第iv-ix页及第23-25页，“信息技术-图象及音频信息的编码表示-先进的双电平图象压缩”(ITU-T Recommendation T.82，“Information technology-CodedRepresentation of Picture and Audio Information-ProgressiveBi-level Image Compression”，PP.iv-ix and pp.23-45，1993)中所述的图及流程图中所示的结构元件。

简单地说明有关熵编码装置31的算术编码原理。图12示出对二进制符号001(序列长度为3)进行了算术编码之例。在算术编码中，把编码对象符号序列映射到实数直线上的有效区中，但是，对于出现了的符号重复进行下述处理，即把对于当前有效区的该出现概率的部分区作为新的有效区。如果使得对于出现概率之比分割成两个区的配置在编码器与解码器中一致，则采用固定及替换中的任一种方法都没有关系。在图12中，把符号“0”配置于高位，把符号“1”配置于低位。首先，对第1符号“0”进行编码，但是，以符号“0”、“1”的出现概率为Pe、Qe(＝1-Pe)之比对有效区进行分割，把新的有效区定为分配给符号“0”的高位区。对于第2符号“0”、第3符号“1”也是同样，以符号“0”，“1”的出现概率为Pe、Qe之比来分割有效区，对已分配给出现符号的区进行更新。

有效区的起始值为1.0，把0以上不到1的小数值作为码，该码的初始值为0.0。然后，把直到最终符号(在这里，为第3符号)为止的编码结束的瞬间的有效区内小数点以下的坐标作为码来输出。在本例中，把码作为最终有效区的下限值0.10110，但是，如果处于(不含上限的)区内，就把坐标末尾的码位“0”舍去成为有效位数最小的坐标，这时，通过选择0.11000能够节约码长。在算术解码中，作为来自有效区下限值的位移来得到码，与编码相同地进行区分割，把对应于包含该位移值的部分区的符号作为解码对象符号。可以预先确定为，通过在编码结束时把坐标末尾的码位“0”舍去，在解码时码位不够的情况下补充码位“0”。在图12中，对于序列的各出现符号的出现概率Pe、Qe，有时取为在作为模型化装置33中的数据信号分析结果的上下文不同时、或者，即使上下文相同在学习过程中也不同的概率值。

如果把当前有效区的宽度定为A，把当前有效区的下限值定为C，把符号“1”、“0”的出现概率定为Qe、Pe，则图12中所说明的区分割处理及分配处理如下述那样由下式来表示：

符号“1”出现：A←A×Qe、C←C

符号“0”出现：A←A×Pe、C←C+A×Qe

在这里，从绝对的小数点来看，区宽A由于与出现概率进行乘法运算而渐渐变小，相反地有效位数变大，因此，用寄存器来构成实际上是困难的。

因此，在算术编码中进行归一化处理，把即使进行乘法运算也不受影响的小数高位的位转出到整数部中，使小数有效位数保持恒定。在该处理中，如果在区宽A更新后变成比恒定值小了，则通过与有效区下限值C同时乘以2的幂，设想假想的小数点，来保证区宽在恒定值以上。恒定值通常为0.5。

由于存在着进位波及到通过对下限位C进行加法运算而在归一化处理中转出的整数部，故需要加以控制，但因与本发明技术并无直接关系，故在这里不示出其细节了。

通过利用归一化处理把有效区宽A保持在恒定值以上，如果假定可以把其值视为大体上是1，则不需要区宽A更新以后的乘法运算了，成为可以只用Qc来表示对符号“1”的区宽了：

符号“1”出现：A←Qe、C←C

符号“0”出现：A←A-Qe(←Pe)、C←C+Qe

在该文献的算术编码中，在符号“1”的出现概率Qe的估计中使用了学习，但是，该算术编码依据图13中所示的状态转换模型。状态转换在进行归一化处理时同时进行，已编码或已解码的符号是“0”还是“1”确定转换目的地的状态。在初始状态时，两个符号的出现概率为0.5。可以设计成，如果状态转换时的出现符号为“0”，则Qe转换成更小的状态；如果状态转换时的出现符号为“1”，则Qe转换成更大的状态。按照应用该状态转换的方法，结果是，把出现概率Qe作为典型状态的概率值来使用。

还有，在美国专利(1991年6月18日，USP 5025258号)中，示出了从数据(或符号)的出现次数来计算出现概率的方法。例如，在二进制符号“0”、“1”的情况下，如果计数分别的累积出现次数为N0、N1则符号“1”的出现概率即现有实施例1中说明了的Qe以下式来表示：

Qe＝N1/(N0+N1)

通过把这样计算的出现概率或其修正值应用于现有实施例1中所说明的算术编码的区计算中，能够得到更高的编码效率。

在本例中，在累积出现次数的计数值N0、N1中，如果限制其有效精度，则需要用于位溢出对策的控制，但因与本发明技术并无直接关系，故在这里不示出其细节了。

再者，算术编码装置31及算术解码装置32的细节，除了上述文献及上述美国专利之外，在《IEEE议事录》1981年6月COM(通信)第29卷第6期第858-867页，Langdon Rissanen著“利用算术编码来压缩黑白图象”(Langdon Rissanen，“Compression of Black-White Imageswith Arithmetic Coding”，IEEE Transaction，Vol.COM-29，No.6，June1981，pp 858-867)、美国专利(1986年12月30日，USP 4633490号)、《ACM通信》1987年6月第30卷第6期第520-540页，Witten，Neal，Clearg著“用于数据压缩的算术编码”(witten，Neal，Cleary，“Arithmetic Coding for Data Compression”，Communications of theACM，Vol.30，No.6，June 1987，pp520-540)等中，已为众所周知的技术。

在现有的自适应概率估计方法中，在由概率估计装置进行的估计出现概率的学习依据状态转换的情况下，由于概率估计与作为本来独立的熵编码装置的归一化处理同步地进行，故可设想存在着朝向数据信号源性质变化的跟随性偶然受到支配而得不到所需估计概率精度的问题。

还有，在现有的自适应概率估计方法中，在从数据或符号的累积出现次数来估计出现概率的情况下，在为了计算概率而应用除法运算和算术编码的情况下，为了计算分配的区宽必须进行乘法运算，存在着运算负载大的问题。

本发明是为了解决上述那样的问题而进行的，其目的在于以较小的运算负载对出现概率确定用于选择更正确的编码参数的指标。

本发明第1方面中所述的自适应概率估计方法，为了从基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数，通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值，不使用除法运算，从由上述概率阈值划分的概率区间中选择对应于估计出现概率的给定指标。

本发明第2方面中所述的自适应概率估计方法，作为根据估计出现概率而成为指标分类边界的概率阈值，设定由2的幂表示的值。

本发明第3方面中所述的自适应概率估计方法，作为根据上述估计出现概率而成为所述指标分类边界的概率阈值，设定由2的幂表示的值、以及作为由2的幂表示的两个相邻的上述阈值的中间值而得到的值。

本发明第4方面中所述的自适应概率估计方法，作为根据上述估计出现概率而成为所述指标分类边界的概率阈值，设定由2的幂表示的值、以及对于由2的幂表示的两个相邻的上述阈值所定义的概率区间进行递推等分而得到的值。

本发明第5方面中所述的自适应概率估计方法，对于由根据上述估计出现概率而成为上述指标分类边界的上述概率阈值划分的概率区间，设定根据作为两端点的两个概率阈值预先计算的最佳概率典型值，得到根据上述指标进行编码的上述概率典型值。

本发明第6方面中所述的自适应编码方法，根据基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数，在使用这种自适应概率估计方法进行编码的自适应编码方法中。

在上述自适应概率估计方法中，通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值，不使用除法运算，从由上述概率阈值划分的概率区间中选择对应于估计出现概率的给定指标。

本发明第7方面中所述的自适应解码方法，根据基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数，在使用这种自适应概率估计方法进行解码的自适应解码方法中，

在上述自适应概率估计方法中，通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值，不使用除法运算，从由上述概率阈值划分的概率区间中选择对应于估计出现概率的给定指标。

附图的简单说明：

图1为应用了本发明的编码装置的结构框图；

图2为本发明的符号计数装置的详细结构框图；

图3为示出应用了本发明的编码装置处理流程的流程图；

图4为示出实施例1中所述的典型概率值选择装置中的概率阈值及典型概率值的图；

图5为示出实施例1中所述的典型概率值选择顺序的处理流程的流程图；

图6为示出实施例2中所述的典型概率值选择装置中的概率阈值及典型概率值的图；

图7为示出实施例2中所述的典型概率值选择程序的处理流程的流程图；

图8为应用了本发明的解码装置的结构框图；

图9为示出应用了本发明的解码装置处理流程的流程图；

图10为示出对本发明的概率区间的典型概率值进行修正的处理流程的流程图；

图11为现有编码装置及解码装置的结构框图；

图12为算术编码的概念图；以及

图13为说明现有编码装置及解码装置的概率估计的状态转换图。

实施例1

下面，示出在本发明的自适应概率估计方法中应用了算术编码的情况下的基本考虑方法。

图1为示出在本发明中应用算术编码的情况下的编码装置结构的框图。为了易于说明起见，示出对二进制数据进行编码之例。正如在现有例中示出了的那样，在算术编码中，把编码对象数据与预测值相比较，当一致时，判定为出现概率高的符号、即优势符号(MPS)，当不一致时，判定为出现概率低的符号、即劣势符号(LPS)，来进行编码。

符号判定装置10是进行输入数据是MPS还是LPS的判断的判定装置。

符号计数装置11是在对LPS累积出现次数及总符号累积出现次数进行计数的同时，存储预测值的计数装置。

概率估计装置12是根据LPS累积出现次数及总符号累积出现次数来估计LPS出现概率的估计装置。

编码装置13是应用算术编码，通过重复使用LPS出现概率对区进行分割，选择对应于出现了的各符号(MPS或LPS)的区，来输出对符号序列的码的编码装置。

符号计数装置11还具有图2中所示的结构。

总符号计数装置14对总符号数的累积出现次数进行计数。

LPS判定装置15判定输入符号是不是LPS，如果是LPS则送至后述的LPS计数装置16，进行计数。

LPS计数装置16对LPS的累积出现次数进行计数。

预测值存储装置17存储预测值，当LPS计数值超过总符号计数值的1/2时使预测值翻转，LPS计数值与MPS计数值(即从总符号计数值中减掉LPS计数值的值)进行交换。

基于上述结构，图3中示出应用了本发明自适应概率估计方法的算术编码的程序。

首先，参照由预测值存储装置17存储的预测值，利用符号判定装置10判定输入的编码数据是MPS还是LPS(步骤102)。

其次，参照LPS计数值及总符号计数值，利用概率估计装置12(细节后述)从预先准备了多个的典型概率值中选择一个(步骤103、106)。

使用由概率估计装置12选择的典型概率值，利用编码装置13对由符号判定装置10判定的MPS或LPS进行编码(步骤104、107)。

在编码结束后，利用符号计数装置11更新LPS计数值及总符号计数值。符号判定结果为MPS时，增加总符号计数值(步骤105)。符号判定结果为LPS时，增加LPS计数值及总符号计数值(步骤108)。进而，当LPS计数值变成比总符号计数值的1/2大时，把预测值翻转(步骤109，110)。此时，由于LPS计数值变成比MPS计数值(从总符号计数值中减掉LPS计数值)大，故如果把MPS计数值作为LPS计数值更新(步骤111)，则LPS计数值总是保持为总符号计数值的1/2以下。

下面，说明有关典型概率值选择程序。

图4示出概率阈值(T0、T1、T2)、以及当选择由概率阈值划分的概率区间时的典型概率值(A0、A1、A2、A3)。在这里，作为一例，把概率阈值设定为由2的幂表示的值。各典型概率值可在成为概率区间边界的两个概率阈值的范围内任意设定。在本例中，把典型概率值设定于作为各个概率区间两端点的两个概率阈值的中点上。表1用二进制小数低位三位的二进制表示示出概率阈值。

                        表1

概率阈值	二进制表示	位配置
					b0	b1	b2
		T0＝1/4	0.0100	1				0	0
T1＝1/8	0.0010				0	1	0
		T2＝1/16	0.0001	0				0	1

因为概率阈值由2的幂来设定，故LPS出现概率与概率阈值的大小关系的判定，可以通过把LPS计数值移位后与总符号计数值相比较来进行。

图5示出概率估计程序。

首先，把进行参照的LPS计数值及总符号计数值，分别存储到寄存器L及寄存器N中(步骤113)。

其次，进行与概率阈值T0的比较。

把寄存器L左移2位(步骤114)后，与寄存器N相比较(步骤115)。

如果比较结果为L≥N(LPS出现概率≥T0)，则立即确定概率区间，作为典型概率值选择A0(步骤116)。

如果比较结果为L＜N，则继续进行与概率阈值T1的比较。

把寄存器L左移1位(步骤117)后，与寄存器N相比较(步骤118)。

如果比较结果为L≥N(LPS出现概率≥T1)，则立即确定概率区间，作为典型概率值选择A1(步骤119)。

如果比较结果为L＜N，则与概率阈值T1时同样继续进行与概率阈值T2的比较(步骤120、121)。

如果比较结果为L≥N(LPS出现概率≥T2)，则确定概率区间，作为典型概率值选择A2(步骤122)。

如果比较结果为L＜N(LPS出现概率＜T2)，则确定概率区间，作为典型概率值选择A3(步骤123)。

通过这样把概率阈值设定为由2的幂表示的值，能够不使用除法运算，减轻运算负载，可以高速地对于由该概率阈值划分的概率区间的典型概率值进行选择。

实施例2

由于在本发明中应用算术编码的情况下的编码装置的结构及程序与实施例1相同，故省略其说明。

下面，说明有关典型概率值选择程序。

图6示出概率阈值(T0、T1、…T7)、以及当选择由概率阈值划分的概率区间时的典型概率值(A0、A1、…A8)。在这里，作为一例，把概率阈值设定为由2的幂表示的值、以及对于由2的幂表示的两个上述阈值之间进行递推二等分而得到的值。例如，把1/2与1/4之间四等分(二等分×2次)，在二进制表示精度的限制下，成为在1/4与1/8、1/8与1/16之间二等分。典型概率值可以在成为边界的两个概率阈值的范围内任意地设定。在本例中，把典型概率值设定于作为各个概率区间两端点的两个概率阈值的中点上。表2用二进制小数低位四位的二进制表示出概率阈值。

                                  表2

概率阈值	二进制表示	位配置
						b0	b1	b2	b3
		T0＝7/16	0.01110	1	1					1	0
T1＝3/8	0.01100					1	1	0	0
		T2＝5/16	0.01010	1	0					1	0
T3＝1/4	0.01000					1	0	0	0
		T4＝3/16	0.00110	0	1					1	0
T5＝1/8	0.00100					0	1	0	0
		T6＝3/32	0.00011	0	0					1	1
T7＝1/16	0.00010					0	0	1	0

在以二进制表示LPS出现概率时，LPS出现概率与概率阈值的大小关系的判定，通过从高位位到低位位的顺序(从b0到b3的顺序)重复各位是1还是0的判定来进行。各位是1还是0的判定可以通过以适当顺序把移位运算与减法运算(从LPS计数值中减掉总符号计数值)组合起来，对LPS计数值实施后，与总符号计数值相比较来进行。

图7示出概率估计程序。

首先，把进行参照的LPS计数值及总符号计数值，分别存储到寄存器L及寄存器N中(步骤124)。

其次，判定LPS出现概率的b0位。

把寄存器L左移2位(步骤125)后，与寄存器N相比较(步骤126)。

在比较结果为L≥N(LPS出现概率的b0位为1，步骤126中为“是”)、且不确定概率区间(步骤127中为“否”)的情况下，从寄存器L中减掉寄存器N(把LPS出现概率的b0位定为0，步骤128)，转移到下面的b1位的判定处理。

在比较结果为L＜N(LPS出现概率的b0位为0，步骤126中为“否”)、且不确定概率区间(步骤129中为“否”)的情况下，转移到下面的b1位的判定处理。

进而，判定LPS出现概率的b1位。

把寄存器L左移1位(步骤131)后，与寄存器N相比较(步骤126)。b1位是1还是0的判定与b0位的判定程序相同。下面，与b1的判定程序同样，进行b2、b3的判定。

这样，顺序地判定LPS出现概率的各位，在确定了概率区间的瞬间(步骤127中为“是”，步骤129中为“是”)停止判定处理，选择与该概率区间对应的给定典型概率值(步骤130)。

作为具体例，以寄存器L＝21，寄存器N＝60加以说明。

首先，当把寄存器L左移两位后(L＝84)与寄存器N比较时，L≥N，LPS出现概率的b0位为1。

其次，当从寄存器L中减掉寄存器N(L＝24)，把寄存器L左移1位后(L＝48)与寄存器N比较时，L＜N，LPS出现概率的b1位为0。

进而，当把寄存器L左移1位后(L＝96)与寄存器N比较时，L≥N，LPS出现概率的b2位为1。

在该瞬间，确定概率区间，作为典型概率值选择A2。

通过这样把概率阈值设定为由2的幂表示的值、以及对于由2的幂表示的两个值之间进行递推等分而得到的值，能够不使用除法运算，减轻运算负载，可以高速地对于由该概率阈值划分的概率区间的典型概率值进行选择。

实施例3

本实施例3是对应于实施例1编码装置的解码装置。

下面，示出在本发明的自适应概率估计方法中应用了算术解码的情况下的基本考虑方法。

图8为示出在本发明中应用算术解码的情况下的解码装置结构的框图。

该图中，由于符号计数装置11及概率估计装置12与实施例1中的编码装置相同，故省略其说明。

解码装置20使用LPS出现概率对区进行分割，判定对应于输入码的分割区是对应于哪一个符号的区，输出该符号。

数据判定装置21根据预测值判定与作为已解码的二进制符号的MPS或LPS对应的二进制数据，并将其输出。

基于上述结构，图9中示出应用了本发明自适应概率估计方法的算术解码的程序。

首先，参照LPS计数值及总符号计数值，利用概率估计装置12从预先准备了多个的典型概率值中选择一个(步骤201)。

其次，使用由概率估计装置12选择的典型概率值，利用解码装置20对MPS或LPS进行解码(步骤202)。

解码结果为MPS时，利用数据判定装置21输出由预测值存储装置17存储的预测值(步骤204)。

解码结果为LPS时，利用数据判定装置21输出把预测值存储装置17存储的预测值翻转了的信号(非预测值)(步骤206)。

在数据的输出结束后，利用符号计数装置11更新LPS计数值及总符号计数值(与编码装置相同，步骤205、207、208、209、210)。

本实施例的典型概率值选择程序与实施形态1中所述的方法相同。

与实施例1相同，通过把概率阈值设定为由2的幂表示的值，能够不使用除法运算，减轻运算负载，可以高速地对于由该概率阈值划分的概率区间的典型概率值进行选择。

实施例4

本实施例4是对应于实施例2编码装置的解码装置。

本发明中，由于在应用算术解码的情况下的解码装置的结构及程序与实施例3相同，典型概率值选择程序与实施例2相同，故省略其说明。

与实施例2相同，通过把概率阈值设定为由2的幂表示的值、以及对于由2的幂表示的两个值之间进行递推等分而得到的值，能够不使用除法运算，减轻运算负载，可以高速地对于由该概率阈值划分的概率区间的典型概率值进行选择。

实施例5

在本实施例中，说明有关以位于概率区间两端的两个概率阈值为基础来确定作为编码参数之一的典型概率值的方法。在这里，以上述概率阈值上的编码效率为基准。编码效率一般描绘出这样的曲线，在概率区间的中央附近高，随着偏离中央、即在概率阈值附近变低(向上凸起)。在算术编码中，除了使用乘法运算的理想情况之外，如果与通过归一化使有效区宽为0.5以上不到1.0(仅初始值为1.0)相反固定地分配部分区宽，则其结果是由于其误差产生了编码效率的降低，但是，可以说，为了在实现上简单而不得不允许。此时，希望至少要进行该概率区间典型概率值的修正。如果设想数据信号的出现概率则由于作为求出编码效率的一个变量的熵(分母)因该被设想的概率而成为恒定值，故如果只比较效率的大小就可以只用作为另一个变量的码长(分子)了。

图10示出求出典型概率校正值的程序之一例。首先，设定概率区间的概率阈值(步骤301)。其次，作为临时典型概率值例如初始值，确定为概率阈值的中点(步骤302)，然后分别求出在两个概率阈值中的码长(步骤303)，把该码长之差的绝对值与允许误差e相比较(步骤304)。如果码长之差大(“否”)，则重新设定临时典型概率值。由于如果改变临时典型概率值则两个概率阈值中的码长也改变，故重新设定临时典型概率值重复进行从步骤302到步骤304，如果码长之差小(“是”)，则作为典型概率修正值设定例如编码效率曲线的顶点、即取得最大编码效率的概率值(步骤305)。用相同的程序对全部概率区间这样来设定典型概率修正值，也可以代替典型概率值。

如上所述，为了从符号的累积出现次数来估计编码对象符号的出现概率需要除法运算，成为在硬件中装置的电路规模变大以及在软件中处理的运算负载变大的问题。

上述各实施例是预先准备多个典型出现概率值，基于符号累积出现次数从上述多个典型概率值中选择一个作为编码对象符号的估计出现概率的编码方式，对于成为典型概率值分类边界的概率阈值的设定，可考虑例如设定为2的幂之值、或者，还有设定为2的幂以及对于由2的幂表示的两个上述幂值之间进行递推分割而得到的值，基于上述符号的累积出现次数，通过进行移位运算、减法运算、比较来选择对应于由该概率阈值划分的概率区间的典型概率值，通过采用这样的结构，在根据符号的累积出现次数对编码对象符号的出来概率进行估计的编码方式中，能够不使用除法运算，减轻运算负载，可高速地取得上述估计出现概率。

在概率估计中，虽然未使用状态转换，但是，可以把各概率区间视为一个状态。在实施例中，通过概率区间的判定确定了典型概率值，但是，这不使用除法运算、减轻了运算负载、从出现概率中高速地得到对于视为状态的概率区间的所谓状态号码的指标，结果是，以该指标为基础得到作为编码参数之一的典型概率值。所得到的指标不仅确定了典型概率，同时，易于兼用为确定其它编码参数用的指标。

在本发明中，减轻了等价于使用状态转换时乘法运算的削减、以及使用累积出现次数时除法运算的削减的运算负载，还有，由于根据累积出现次数来估计出现概率，故虽然在使用乘法运算时即使朝向信息源变化的跟随性变差了，可是，对于状态转换来说与估计精度提高的同时编码效率也提高了。由于概率估计装置的学习与作为本来独立的熵编码装置的归一化处理同步地进行，故可设想朝向数据信号源性质变化的跟随性偶然受到支配的情况，不使用状态转换这一点使得独立性更加提高，提高了所需估计概率的精度。

还有，从编码效率的观点来看，通过设定典型概率值使得在效率成为最低的概率区间两端的概率阈值处效率相等，能够取得对概率区间进行了修正的更为合适的典型概率值。

应用了本发明的编码装置及解码装置分别是单体、或者作为具备两者的装置来实现，都没有关系。还有，编码装置输出的码依据无线或有线的通信，或者通过盘、或磁带、或以存储器为主的半导体等的存储记录媒体，或者以电、磁、光学方式向解码装置进行传送都没有问题。

本发明的自适应概率估计方法因为由上述那样的处理来实现，故能以更小的运算负载来确定用于对出现概率选择更正确的编码参数的指标。

Claims (7)

1.一种自适应概率估计方法，从基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数，其特征在于：

通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值，从由上述概率阈值划分的概率区间中不使用除法运算选择对应于估计出现概率的给定指标。

2.根据权利要求1所述的自适应概率估计方法，其特征在于，作为根据上述估计出现概率而成为上述指标分类边界的概率阈值，设定由2的幂表示的值。

3.根据权利要求1所述的自适应概率估计方法，其特征在于，作为根据上述估计出现概率而成为上述指标分类边界的概率阈值，设定由2的幂表示的值、以及

作为由2的幂表示的两个相邻的上述阈值的中间值而得到的值。

4.根据权利要求1所述的自适应概率估计方法，其特征在于，作为根据上述估计出现概率而成为上述指标分类边界的概率阈值，设定由2的幂表示的值、以及

对于由2的幂表示的两个相邻的上述阈值所定义的概率区间进行递推等分而得到的值。

5.根据权利要求1所述的自适应概率估计方法，其特征在于，对于由根据上述估计出现概率而成为上述指标分类边界的上述概率阈值划分的概率区间，设定根据作为两端点的两个概率阈值预先计算的最佳概率典型值；

得到根据上述指标进行编码的上述概率典型值。

6.一种自适应编码方法，使用如下自适应概率估计方法进行编码：从基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数，其特征在于，

在上述自适应概率估计方法中，通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值，从由上述概率阈值划分的概率区间中不使用除法运算，选择对应于估计出现概率的给定指标。

7.一种自适应解码方法，使用如下自适应概率估计方法进行解码：从基于符号各自的累积出现次数所估计的编码对象符号出现概率的大小而得到分类指标来选择编码参数，其特征在于，

在上述自适应概率估计方法中，通过以少量的运算负载可以判定的位配置来设定成为对应于上述指标的概率区间分类边界的概率阈值，从由上述概率阈值划分的概率区间中不使用除法运算选择对应于估计出现概率的给定指标。

Images