CN106341689B - 一种avs2量化模块和反量化模块的优化方法及系统 - Google Patents
一种avs2量化模块和反量化模块的优化方法及系统 Download PDFInfo
- Publication number
- CN106341689B CN106341689B CN201610809156.3A CN201610809156A CN106341689B CN 106341689 B CN106341689 B CN 106341689B CN 201610809156 A CN201610809156 A CN 201610809156A CN 106341689 B CN106341689 B CN 106341689B
- Authority
- CN
- China
- Prior art keywords
- quantization
- expressed
- threshold
- coefficient
- quantization parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
- H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
Abstract
本发明公开了一种AVS2量化模块和反量化模块的优化方法及系统，该量化模块的优化方法包括利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。该反量化模块的优化方法包括对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。通过采用本发明的优化方法及系统，能够节省大量复杂的算术运算，从而有效地提高编码效率。本发明作为一种AVS2量化模块和反量化模块的优化方法及系统可广泛应用于AVS2编解码领域中。
Description
技术领域
本发明涉及音视频编解码技术，尤其涉及一种AVS2量化模块和反量化模块的优化方法及系统。
背景技术
AVS2是继AVS之后我国自主研发的新一代音视频编码标准，是《信息技术高效多媒体编码》标准的简称。它的目标是：在主流技术可以实现的条件下，当重建视频的主观质量一致时，AVS2对高清或更高分辨率视频编码效率至少要比AVS1的最好性能提高1倍。在主流的编码配置下，效率要高于最新的国际标准HEVC/H.265。AVS2与最新的国际编码标准HEVC/H.265对于常规视频的编码效率相当，比国际标准H.264/AVC以及第一代国家标准AVSl的编码效率提高近1倍；而对于监控等场景类视频，AVS2的压缩效率则是H.264/AVC的4倍。因此，作为我国制定的第二代具有自主知识产权的音视频编解码标准，AVS2直接影响着我国在国际视频领域的核心竞争力，关系着未来我国在信息领域的战略部署，对于我国信息化产业的快速发展具有重大意义。然而，由于引入了很多最新的视频编码技术，编码计算复杂度也明显增加，目前AVS2的编码速度还远远达不到实时编码。可见，为了能更好地推广和普及AVS2，则必须对AVS2的编码速度进行提高，使其逐步实现实时编码。
根据AVS2标准可知，量化模块和反量化模块的具体操作是对当前变换块的每一个系数使用该标准定义的方法求出相应的量化系数和变换系数。而由于每个预测模式之后都会对预测残差系数进行变换量化以及反量化反变换操作，因此量化反量化时对每个系数都进行复杂的算术运算则将会消耗大量的时间，从而大大降低AVS2的编解码速度。
发明内容
为了解决上述技术问题，本发明的目的是提供一种AVS2量化模块的量化优化方法及系统。
本发明的另一目的是提供一种AVS2反量化模块的反量化优化方法及系统。
本发明所采用的第一技术方案是：一种AVS2量化模块的优化方法，该方法包括：
计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；
计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；
利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。
进一步，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其具体包括：
当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；
当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；
当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。
进一步，所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
Shift＝30-SampleBitDepth-uiBitSize
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数；Shift表示为偏移量；SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。
本发明所采用的第二技术方案是：一种AVS2量化模块的优化系统，该系统包括：
第一计算模块，用于计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；
第二计算模块，用于计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；
第一判断处理模块，用于利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。
进一步，所述根据判断结果从而对变换系数进行相对应的量化处理，其具体包括：
当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；
当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；
当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。
进一步，所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
Shift＝30-SampleBitDepth-uiBitSize
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数；Shift表示为偏移量；SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。
本发明所采用的第三技术方案是：一种AVS2反量化模块的优化方法，该方法包括：
根据量化参数、编码精度和变换块的大小，从三维数组中查找出基准值，所述三维数组中所存储的数据为在量化参数、编码精度和变换块的大小的不同取值下，量化系数为1时所对应的反量化结果；
对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。
进一步，所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：
Coeff[i]＝QuantCoeff[i]×BaseValue
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。
进一步，所述反量化公式为：
Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift
Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表，SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。
本发明所采用的第四技术方案是：一种AVS2反量化模块的优化系统，该系统包括：
查找模块，用于根据量化参数、编码精度和变换块的大小，从三维数组中查找出基准值，所述三维数组中所存储的数据为在量化参数、编码精度和变换块的大小的不同取值下，量化系数为1时所对应的反量化结果；
第二判断处理模块，用于对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。
本发明的有益效果是：通过使用本发明的AVS2量化模块的优化方法及系统，能够预先得到量化结果为0、1、-1时变换系数的阈值，并且利用该阈值对变换系数的判断，从而可将相对应的变换系数直接分别置为0、1、-1，这样在量化过程中，则无需采用量化公式对每一个变换系数均进行量化操作计算，能节省大量复杂的算术运算，从而有效地提高编码效率。
本发明的另一有益效果是：通过使用本发明的AVS2反量化模块的优化方法及系统，则对值为0的量化系数不做操作，以及仅需要将量化系数为1时反量化可能得到的所有取值按照一定形成进行存储，那么对于量化系数中占绝大部分的1、-1这两个量化系数的反量化结果，便可以直接通过查找表得到取值，不再需要进行复杂的运算，这样在反量化过程中，则无需采用反量化公式对每一个量化系数均进行反量化操作计算，能节省大量复杂的算术运算，从而有效地提高编码效率。
附图说明
下面结合附图对本发明的具体实施方式作进一步说明：
图1是本发明一种AVS2量化模块的优化方法的步骤流程图；
图2是本发明一种AVS2量化模块的优化系统的结构框图；
图3是本发明一种AVS2量化模块的优化方法的一具体实施例步骤流程图；
图4是本发明一种AVS2反量化模块的优化方法的步骤流程图；
图5是本发明一种AVS2反量化模块的优化系统的结构框图
图6是本发明一种AVS2反量化模块的优化方法的一具体实施例步骤流程图。
具体实施方式
如图1所示，一种AVS2量化模块的优化方法，该方法包括：
计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；
计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；
利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。所述量化后的值为0时变换系数的阈值，其具体是指，变换系数经量化后刚好变为1时的阈值(threshold0)；所述量化后的值为1时变换系数的阈值，其具体是指，变换系数经量化后刚好变为2时的阈值(threshold1)。
作为本实施例方法的优选实施方式，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其具体包括：
当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；
当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；
当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。
优选地，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其还包括：
当变换块中的所有变换系数的绝对值均小于第一阈值时，则表示该变换块为全零变换块，这样则不需要执行接下来的步骤，可以直接跳过量化、反量化及反变换模块。
作为本实施例方法的优选实施方式，所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
Shift＝30-SampleBitDepth-uiBitSize
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数，对于I图像，f取值10/31，而对于B、P、F图像，f取值10/62；Shift表示为偏移量；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。
如图2所示，一种AVS2量化模块的优化系统，该系统包括：
第一计算模块，用于计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；
第二计算模块，用于计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；
第一判断处理模块，用于利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。
作为本实施例系统的优选实施方式，所述根据判断结果从而对变换系数进行相对应的量化处理，其具体包括：
当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；
当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；
当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。
作为本实施例系统的优选实施方式，所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
Shift＝30-SampleBitDepth-uiBitSize
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数，对于I图像，f取值10/31，而对于B、P、F图像，f取值10/62；Shift表示为偏移量；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。
本发明AVS2量化模块的优化方法的一具体实施例
变换系数经量化操作后值映射为0、1和-1的占绝大部分，尤其是高频部分的变换系数，经过量化操作之后，其量化结果几乎都变为0，因此，本发明的AVS2量化模块优化方法则利用这一特点来对量化结果进行提前判定，以达到AVS2量化模块节省繁琐复杂的量化运算，提高编码效率的目的。
本发明AVS2量化模块优化方法，其包括对量化结果进行提前判定的步骤，其具体为：
预先求出变换系数经量化后刚好变为1时的阈值0(threshold0)，及刚好变为2时的阈值1(threshold1)，那么变换系数只要值低于threshold0的，其量化结果，即量化的值，必然是0，而变换系数的值在threshold0和threshold1之间的，其量化结果必然是1或者-1，这样便可以省去大量复杂的算术运算，直接得出最终量化结果。并且，在量化之前，还可以根据这一特点进行全零变换块的提前判定，若判定出当前变换块的所有变换系数量化后值全为0，即所有变换系数的值均小于threshold0，那么当前变换块就是全零变换块，其经量化反量化和反变换操作后仍为全零变换块，这样对于全零变换块而言，则可以省去其之后的量化、反量化和反变换的过程，从而有效地提高编码效率。
根据上述可得，如图3所示，本发明的AVS2量化模块的优化方法具体包括：
S101、当对一个变换块进行量化时，首先把相关参数，如QP所对应的量化表QuantTable(QP)、编码精度SampleBitDepth、变换块的大小uiBitSize等带入量化公式中，然后分别求出当量化后的值，即量化结果，为0时变换系数的阈值(threshold0)以及量化后的值为1时变换系数的阈值(threshold1)；
令i＝0，按照光栅扫描顺序依次处理各个变换系数；
S102、求出当前变换系数Coeff[i]的绝对值，并与threshold0进行比较，若|Coeff[i]|小于threshold0时，则判断变换块的所有变换系数的绝对值是否均小于threshold0，若是，则说明该变换块为全零变换块，这样则不需要执行接下来的步骤，可以直接跳过量化、反量化及反变换模块；
反之，则令i＝0，执行步骤S103；
S103、求出当前变换系数Coeff[i]的绝对值，并与threshold0进行比较，若|Coeff[i]|大于等于threshold0，则执行步骤S104；
反之，则使该当前变换系数Coeff[i]所对应的量化结果QuantCoeff[i]置为0，即令QuantCoeff[i]＝0，然后，执行步骤S106；
S104、若|Coeff[i]|大于等于threshold1，则执行步骤S105；
反之，则判断Coeff[i]是否为正数，若Coeff[i]为正，则使该当前变换系数Coeff[i]所对应的量化结果QuantCoeff[i]置为1，即令QuantCoeff[i]＝1，反之，则使该当前变换系数Coeff[i]所对应的量化结果QuantCoeff[i]置为-1，即令QuantCoeff[i]＝-1；然后，执行步骤S106；
S105、利用量化公式对当前变换系数Coeff[i]进行量化计算，从而计算得出当前变换系数所对应的量化结果QuantCoeff[i]，然后，执行步骤S106；
所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
其中，Shift＝30-SampleBitDepth-uiBitSize
S106、判断当前变换块是否仍存有变换系数没有完成量化操作，若是，则i++，然后返回重新执行步骤S103，从而对下一个变换系数进行量化处理；反之，则量化模块完成量化处理。
如图4所示，一种AVS2反量化模块的优化方法，该方法包括：
根据量化参数QP、编码精度SampleBitDepth和变换块的大小uiBitSize，从三维数组中查找出基准值，所述三维数组中所存储的数据为在QP、SampleBitDepth和uiBitSize的不同取值下，量化系数为1时所对应的反量化结果；
对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。
作为本实施例方法的优选实施方式，所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：
Coeff[i]＝QuantCoeff[i]×BaseValue
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。
作为本实施例方法的优选实施方式，所述反量化公式为：
Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift
Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。
如图5所示，一种AVS2反量化模块的优化系统，该系统包括：
查找模块，用于根据量化参数QP、编码精度SampleBitDepth和变换块的大小uiBitSize，从三维数组中查找出基准值，所述三维数组中所存储的数据为在QP、SampleBitDepth和uiBitSize的不同取值下，量化系数为1时所对应的反量化结果；
第二判断处理模块，用于对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。
作为本实施例系统的优选实施方式，所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：
Coeff[i]＝QuantCoeff[i]×BaseValue
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。
作为本实施例系统的优选实施方式，所述反量化公式为：
Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift
Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。
本发明AVS2反量化模块的优化方法的一具体实施例
变换系数经量化操作后值映射为0、1和-1的占绝大部分，尤其是高频部分的变换系数，经过量化操作之后，其量化结果几乎都变为0，因此，本发明的AVS2反量化模块优化方法则利用这一特点来对反量化结果进行提前判定，以达到AVS2反量化模块节省繁琐复杂的量化运算，提高编码效率的目的。
本发明AVS2反量化模块的优化方法，其包括对反量化结果进行提前判定的步骤，其具体为：
由AVS2标准和反量化公式可知，对于反量化公式中的变量，QP共有80种取值，SampleBitDepth共有2种取值，uiBitSize共有5种取值，也就是说对于一个量化系数，经过反量化得到的变换系数最多只有80×2×5＝800种可能，而根据之前的量化优化部分可知，量化后得到的绝大部分量化系数都为0,1和-1，0经过反量化后得到的值必然也是0，而对于1和-1经过实验分析得出，这两个量化系数，经反量化后对应得到的变换系数成正比例关系。也就是说，假如量化系数1经过反量化得到的变换系数为A，那么量化系数-1经过反量化得到的变换系数就为-A。因此，只要将量化系数为1时反量化可能得到的800种取值按照一定形式进行存储，那么对于量化系数中占绝大部分的1，-1这两个个取值，便可以直接通过查找表得到取值，这样则不再需要进行复杂的算术运算，大大提高了效率。
根据上述可得，如图6所示，本发明的AVS2反量化模块的优化方法具体包括：
S201、当对一个变换块进行反量化时，首先根据QP、SampleBitDepth和uiBitSize的值，在三维数组de_quantation[2][5][80]中查找出基准值BaseValue，所述三维数组中所存储的数据为在QP、SampleBitDepth和uiBitSize的不同取值下，量化系数为1时所对应的反量化结果；所以，对于所述的基准值BaseValue，其为QP、SampleBitDepth和uiBitSize的值在确定的情况下，从所述三维数组中查找出相对应的量化系数为1时所对应的反量化结果；
令i＝0，然后按照ZigZag扫描顺序依次处理各量化系数；
S202、判断当前量化系数QuantCoeff[i]是否为0，若是，则直接执行步骤S204，而不需要进行接下来的操作，因为在反量化后存储变换系数Coeff[i]的数组使用的仍然是之前存储QuantCoeff[i]的数组，原来数组中该位置就是0，因此不需要重复赋值0；
反之，则执行步骤S203；
S203、判断当前量化系数QuantCoeff[i]的绝对值是否小于2，若是，则利用查出的基准值对当前量化系数QuantCoeff[i]进行反量化计算，求出Coeff[i]的值，即反量化结果；
反之，则利用反量化公式对当前量化系数QuantCoeff[i]进行反量化计算，求出Coeff[i]的值，即反量化结果；
S204、判断当前变换块是否仍存有量化系数没有完成反量化操作，若是，则i++，然后返回重新执行步骤S202，从而对下一个量化系数进行反量化处理；反之，则反量化模块完成反量化处理。
上述步骤S203中，所述利用查出的基准值对当前量化系数QuantCoeff[i]进行反量化计算，其所采用的反量化计算公式为：
Coeff[i]＝QuantCoeff[i]×BaseValue
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。
上述步骤S203中，所述利用反量化公式对绝对值大于等于2的量化系数进行反量化计算，其所采用的反量化公式为：
Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift
Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。
以上是对本发明的较佳实施进行了具体说明，但本发明创造并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。
Claims (8)
1.一种AVS2量化模块的优化方法，其特征在于：该方法包括：
计算第一阈值，所述第一阈值为变换系数经量化后变为1时的阈值；
计算第二阈值，所述第二阈值为变换系数经量化后变为2时的阈值；
利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理；
其中，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其具体包括：
当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；
当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；
当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。
2.根据权利要求1所述一种AVS2量化模块的优化方法，其特征在于：所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
Shift＝30-SampleBitDepth-uiBitSize
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数；Shift表示为偏移量；SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。
3.一种AVS2量化模块的优化系统，其特征在于：该系统包括：
第一计算模块，用于计算第一阈值，所述第一阈值为变换系数经量化后变为1时的阈值；
第二计算模块，用于计算第二阈值，所述第二阈值为变换系数经量化后变为2时的阈值；
第一判断处理模块，用于利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理；
其中，所述根据判断结果从而对变换系数进行相对应的量化处理，其具体包括：
当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；
当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；
当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。
4.根据权利要求3所述一种AVS2量化模块的优化系统，其特征在于：所述量化公式具体为：
QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift
Shift＝30-SampleBitDepth-uiBitSize
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数；Shift表示为偏移量；SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。
5.一种AVS2反量化模块的优化方法，其特征在于：该方法包括：
根据量化参数、编码精度和变换块的大小，从三维数组中查找出基准值，所述三维数组中所存储的数据为在量化参数、编码精度和变换块的大小的不同取值下，量化系数为1时所对应的反量化结果；
对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。
6.根据权利要求5所述一种AVS2反量化模块的优化方法，其特征在于：所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：
Coeff[i]＝QuantCoeff[i]×BaseValue
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。
7.根据权利要求5或6所述一种AVS2反量化模块的优化方法，其特征在于：所述反量化公式为：
Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift
Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15
其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表，SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。
8.一种AVS2反量化模块的优化系统，其特征在于：该系统包括：
查找模块，用于根据量化参数、编码精度和变换块的大小，从三维数组中查找出基准值，所述三维数组中所存储的数据为在量化参数、编码精度和变换块的大小的不同取值下，量化系数为1时所对应的反量化结果；
第二判断处理模块，用于对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201610809156.3A CN106341689B (zh) | 2016-09-07 | 2016-09-07 | 一种avs2量化模块和反量化模块的优化方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201610809156.3A CN106341689B (zh) | 2016-09-07 | 2016-09-07 | 一种avs2量化模块和反量化模块的优化方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN106341689A CN106341689A (zh) | 2017-01-18 |
| CN106341689B true CN106341689B (zh) | 2019-04-23 |
Family
ID=57823913
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201610809156.3A Active CN106341689B (zh) | 2016-09-07 | 2016-09-07 | 一种avs2量化模块和反量化模块的优化方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN106341689B (zh) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109690673B (zh) * | 2017-01-20 | 2021-06-08 | 华为技术有限公司 | 量化器与量化方法 |
| WO2020007848A1 (en) * | 2018-07-02 | 2020-01-09 | Telefonaktiebolaget Lm Ericsson (Publ) | Bilateral high frequency boost |
| CN109089116A (zh) * | 2018-09-26 | 2018-12-25 | 深圳市网心科技有限公司 | 一种Skip类型宏块的判定方法、装置、设备及介质 |
| CN109788289B (zh) * | 2019-02-26 | 2021-01-01 | 北京大学深圳研究生院 | 一种反量化方法、系统、设备及计算机可读介质 |
| CN112987769B (zh) * | 2021-02-22 | 2022-07-05 | 武汉科技大学 | 四足机器人在变刚度地形稳定过渡的腿部主动调节方法 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH03238563A (ja) * | 1990-02-15 | 1991-10-24 | Fujitsu Ltd | 画像データ符号化及び復元方法並びに装置 |
| CN1175853A (zh) * | 1996-06-26 | 1998-03-11 | 三星电子株式会社 | 利用量化活动度控制比特产生数量的图像编码方法和装置 |
| CN1409558A (zh) * | 2001-09-18 | 2003-04-09 | 微软公司 | 图像和视频编码用的改进的块变换和量化 |
| CN1489391A (zh) * | 2002-10-09 | 2004-04-14 | 中国科学院计算技术研究所 | 用于视频编码的新型空间预测方法及其装置 |
| CN1870755A (zh) * | 2005-05-27 | 2006-11-29 | 汤姆森许可贸易公司 | 用于在基于块的视频编码器中控制编码器输出比特率的方法和对应的视频编码器设备 |
| CN101193304A (zh) * | 2007-09-14 | 2008-06-04 | 四川虹微技术有限公司 | 一种视频编码快速变换量化的实现方法 |
| WO2010032296A1 (ja) * | 2008-09-17 | 2010-03-25 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
| CN102045562A (zh) * | 2009-10-09 | 2011-05-04 | 索尼公司 | 编码设备、解码设备、信息处理系统、编码方法和程序 |
| JP2011221689A (ja) * | 2010-04-07 | 2011-11-04 | Sony Corp | 学習装置、学習方法、認識装置、認識方法、およびプログラム |
| CN103096090A (zh) * | 2013-02-20 | 2013-05-08 | 广州柯维新数码科技有限公司 | 一种用于视频压缩中的编码块划分的方法 |
| CN103945220A (zh) * | 2014-02-24 | 2014-07-23 | 西南交通大学 | 一种用于高效视频编码hevc的量化优化方法 |
| CN105812804A (zh) * | 2014-12-30 | 2016-07-27 | 浙江大华技术股份有限公司 | 一种确定rdoq过程中最优量化值的方法及装置 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7062445B2 (en) * | 2001-01-26 | 2006-06-13 | Microsoft Corporation | Quantization loop with heuristic approach |
| JP2011024066A (ja) * | 2009-07-17 | 2011-02-03 | Sony Corp | 画像処理装置および方法 |
-
2016
- 2016-09-07 CN CN201610809156.3A patent/CN106341689B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH03238563A (ja) * | 1990-02-15 | 1991-10-24 | Fujitsu Ltd | 画像データ符号化及び復元方法並びに装置 |
| CN1175853A (zh) * | 1996-06-26 | 1998-03-11 | 三星电子株式会社 | 利用量化活动度控制比特产生数量的图像编码方法和装置 |
| CN1409558A (zh) * | 2001-09-18 | 2003-04-09 | 微软公司 | 图像和视频编码用的改进的块变换和量化 |
| CN1489391A (zh) * | 2002-10-09 | 2004-04-14 | 中国科学院计算技术研究所 | 用于视频编码的新型空间预测方法及其装置 |
| CN1870755A (zh) * | 2005-05-27 | 2006-11-29 | 汤姆森许可贸易公司 | 用于在基于块的视频编码器中控制编码器输出比特率的方法和对应的视频编码器设备 |
| CN101193304A (zh) * | 2007-09-14 | 2008-06-04 | 四川虹微技术有限公司 | 一种视频编码快速变换量化的实现方法 |
| WO2010032296A1 (ja) * | 2008-09-17 | 2010-03-25 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
| CN102045562A (zh) * | 2009-10-09 | 2011-05-04 | 索尼公司 | 编码设备、解码设备、信息处理系统、编码方法和程序 |
| JP2011221689A (ja) * | 2010-04-07 | 2011-11-04 | Sony Corp | 学習装置、学習方法、認識装置、認識方法、およびプログラム |
| CN103096090A (zh) * | 2013-02-20 | 2013-05-08 | 广州柯维新数码科技有限公司 | 一种用于视频压缩中的编码块划分的方法 |
| CN103945220A (zh) * | 2014-02-24 | 2014-07-23 | 西南交通大学 | 一种用于高效视频编码hevc的量化优化方法 |
| CN105812804A (zh) * | 2014-12-30 | 2016-07-27 | 浙江大华技术股份有限公司 | 一种确定rdoq过程中最优量化值的方法及装置 |
Non-Patent Citations (2)
| Title |
|---|
| Early all-zero blocks detecting method for video coding;钟国韵等;《Journal of Southeast University》;20110930;全文 |
| 率失真最优自适应量化及其系数阈值的设定;赵慧民等;《中山大学学报》;20040531;全文 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN106341689A (zh) | 2017-01-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106341689B (zh) | 一种avs2量化模块和反量化模块的优化方法及系统 | |
| CN107801024B (zh) | 一种用于帧内预测的边界滤波方法 | |
| CN106170093B (zh) | 一种帧内预测性能提升编码方法 | |
| CN103813178B (zh) | 一种基于编码单元深度时空相关性的快速hevc编码方法 | |
| CN103327325A (zh) | 基于hevc标准的帧内预测模式快速自适应选择方法 | |
| CN101383972A (zh) | 基于空间预测与变换的遥感图像压缩方法 | |
| CN106131554A (zh) | 基于主要边缘方向的hevc快速样点自适应补偿方法 | |
| US10652541B2 (en) | Method and device for encoding video data | |
| US20240031576A1 (en) | Method and apparatus for video predictive coding | |
| US20240098255A1 (en) | Video picture component prediction method and apparatus, and computer storage medium | |
| CN116112694B (zh) | 一种应用于模型训练的视频数据编码方法及系统 | |
| CN105100799A (zh) | 一种减少hevc编码器中帧内编码时延的方法 | |
| CN106658024A (zh) | 一种快速的视频编码方法 | |
| CN100452881C (zh) | 一种基于合并处理的反量化方法及其装置 | |
| WO2022227082A1 (zh) | 块划分方法、编码器、解码器以及计算机存储介质 | |
| CN101115198A (zh) | 多核心平台的视频解码器功率监控方法与装置 | |
| CN112954350A (zh) | 一种基于帧分类的视频后处理优化方法及装置 | |
| CN103139557B (zh) | 一种视频编码中的运动估计方法及系统 | |
| CN107343199B (zh) | 用于hevc中样点的快速自适应补偿方法 | |
| CN106817583B (zh) | 一种hevc sao计算方法和装置 | |
| CN113242426B (zh) | 一种视频编解码方法、设备和存储介质 | |
| WO2020207451A1 (zh) | 一种h.265编码方法和装置 | |
| CN115174908B (zh) | 视频编码的变换量化方法、装置、设备以及存储介质 | |
| CN109803147B (zh) | 基于视频纹理特征的变换处理方法及装置 | |
| CN112689145B (zh) | 一种vvc帧内编码的快速帧内模式选择方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |