CN109510984B

CN109510984B - 一种压缩编码量化方法

Info

Publication number: CN109510984B
Application number: CN201811261720.8A
Authority: CN
Inventors: 田林海; 岳庆冬; 李雯
Original assignee: Heyu Health Technology Co ltd
Current assignee: Heyu Health Technology Co ltd
Priority date: 2018-10-26
Filing date: 2018-10-26
Publication date: 2021-02-05
Anticipated expiration: 2038-10-26
Also published as: CN109510984A

Abstract

本发明涉及一种压缩编码量化方法，包括以下步骤：(a)设置量化宏块；(b)获取所述宏块中各像素的预测残差和第一量化参数；(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；(d)比较所述SAD1对应的第一量化方法和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。本发明实施例，在两种量化方法中选择最合适的量化方法，减少带宽压缩量化过程中的图像损失，减少传输数据量。

Description

一种压缩编码量化方法

技术领域

本发明属于压缩编码领域，具体涉及一种压缩编码量化方法。

背景技术

带宽压缩属于低复杂度低倍率压缩，因此空域量化在其中较为常用。为了节省传输量化参数的bit，往往对于1个MB中所有像素采用相同量化参数。这样存在以下缺点：1.对跨纹理边界的MB，由于人眼主观特性，对不同纹理采用相同QP，不但会造成主观损失，而且不能节约编码比特数；2.MB中，预测残差大小不一，对所有像素点采用相同QP，会扩大的原始像素和重建像素之间的差异损失。若采用像素级量化，虽然可以避免以上问题，但是由于每个像素都要传输一个量化参数，会导致大量的附加bit，起不到压缩的效果。若对预测残差直接量化，则对量化产生的损失，没有根据损失的位置和损失的大小分布，进行进一步处理，最终不能进一步降低量化损失。

发明内容

为了解决现有技术中存在的上述问题，本发明提供了一种压缩编码量化方法。本发明要解决的技术问题通过以下技术方案实现：

本发明实施例提供了一种带宽压缩量化方法，包括以下步骤：

(a)设置量化宏块；

(b)获取所述宏块中各像素的预测残差和第一量化参数；

(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；

(d)比较所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1对应的第一量化方法完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。

在本发明的一个实施例中，步骤(c)包括：

(c1)采用所述第一量化方法，根据所述预测残差和所述第一量化参数计算所述SAD1；

(c2)采用所述第二量化方法，根据所述预测残差和所述第一量化参数计算所述SAD2。在本发明的一个实施例中，步骤(c1)包括：

(c11)根据所述预测残差和所述第一量化参数获得第一量化残差；

(c12)根据所述第一量化残差和所述第一量化参数获得第一反量化残差；

(c13)根据所述第一反量化残差和所述预测残差获得残差损失；

(c14)根据所述残差损失获取所述预设模板；

(c15)根据所述预设模板以及所述残差损失获得补偿模板、第二反量化残差以及所述SAD1。

在本发明的一个实施例中，所述预设模板由波动系数和波动状态确定。

在本发明的一个实施例中，步骤(c15)包括：

(x1)根据所述预设模板以及所述残差损失获得所述补偿模板；

(x2)根据所述补偿模板、所述第一量化参数、所述第一量化残差获得所述第二反量化残差；

(x3)根据所述第二反量化残差和所述预测残差计算所述SAD1。

在本发明的一个实施例中，设置十六组所述预设模板计算所述补偿模板。

在本发明的一个实施例中，步骤(c2)包括：

(c21)根据所述预测残差获得残差分布类型；

(c22)根据所述第一量化参数确定所述第一量化参数的最大值、最小值以及差异值；

(c23)根据所述残差分布类型、所述最大值、所述最小值以及所述差异值构建量化矩阵并计算所述宏块的各像素的第二量化参数；

(c24)根据所述量化矩阵对所述预测残差进行量化，得到所述宏块中各像素的第二量化残差和第三反量化残差；

(c25)根据所述第三反量化残差以及所述预测残差计算SAD2。

在本发明的一个实施例中，步骤(c21)包括：

(y1)根据所述预测残差获得残差分布系数；

(y2)根据所述残差分布系数获得所述残差分布类型。

在本发明的一个实施例中，所述残差分布类型包括：递弱型、递强型、强弱强型、弱弱弱型、波浪1型、波浪2型以及普通型。

与现有技术相比，本发明的有益效果：

1.本发明通过对两种不同的量化方法进行比较，选择合适的量化模式，压缩编码量化带来的损失。

2.本发明通过将选择的量化模式以及对应的附加标志位固定存储在压缩端和解码端，写入码流时，只需要将量化模式以及对应的附加标志位写入码流，这样可以方便传递，减少传输比特数。

附图说明

图1为本发明实施例提供的一种压缩编码量化方法的流程示意图。

具体实施方式

下面结合具体实施例对本发明做进一步详细的描述，但本发明的实施方式不限于此。

实施例一

请参见图1，图1为本发明实施例提供的一种压缩编码量化方法的流程示意图。

一种压缩编码量化方法，包括以下步骤：

(a)设置量化宏块；

(b)获取所述宏块中各像素的预测残差和第一量化参数；

在一个具体实施例中，采用所述第一量化方法计算所述SAD1；采用所述第二量化方法计算所述SAD2，比较所述SAD1和所述SAD2的大小，将最小的值所对应的量化方法作为最终的量化模式完成压缩编码量化。

本发明实施例，通过两种量化方法分别计算SAD1和SAD2的大小，选择合适的量化模式，提高了压缩编码量化过程中的图像损失、减少了传输数据量。

实施例二

请再次参见图1。本实施例在上述实施例的基础上，重点对一种压缩编码量化方法进行详细描述。

(S100)设置量化宏块。

设置量化单元为宏块MB，即一个所述宏块MB采用统一的第一量化参数QP，所述第一量化参数QP由码率控制给出。

在一个具体实施例中，取QP为2。

设置所述宏块MB的大小为8*1。

(S101)获取所述宏块MB中各像素点的预测残差。

在一个具体实施例中，所述宏块MB中所有像素点的预测残差Res为{12，13，15，18，20，23，15，10}。

(S102)根据所述预测残差和所述第一量化参数获得第一量化残差。

所述第一量化残差的计算公式为：

Resqp_1i＝Res_i>>QP

式中，Resqp_1i为所述第一量化残差；Res_i为各像素的所述预测残差，0≤i≤7；QP为所述第一量化参数，>>QP表示除以2^QP。

计算可得，所述第一量化残差为{3，3，3，4，5，5，3，2}

(S103)根据所述第一量化残差和所述第一量化参数获得第一反量化残差。

所述第一反量化残差的计算公式为：

invResqp_1i＝(Resqp_1i＜＜QP)+(1＜＜QP)/2

式中，invResqp_1i为所述第一反量化残差；Resqp_1i为所述第一量化残差，0≤i≤7；QP为所述第一量化参数，>>QP表示除以2^QP，<<QP表示乘以2^QP。

计算可得，所述第一反量化残差为{14，14，14，18，22，22，14，10}。

(S104)根据所述第一反量化残差和所述预测残差获得残差损失。

所述残差损失的计算公式为：

Lossres_i＝invResqp_1i-Res_i

式中，Lossres_i为所述残差损失；invResqp_1i为所述第一反量化残差；Res_i为各像素的预测残差，0≤i≤7。

计算可得，所述残差损失为{2，1，-1，0，2，-1，-1，0}。

(S105)根据所述残差损失设置预设模板。

为了进一步降低量化引起的差异，通过设置所述预设模板对所述残差损失Lossres_i进行处理。所述预设模板由波动系数k和波动状态(c1、c2……cn-1)来确定。

在一个具体实施例中，所述波动系数k的公式为：

式中，Lossres_i为所述残差损失；pixnum_none0为所述宏块MB内非0的预测残差数量；abs表示求绝对值，round表示四舍五入。

计算可得，k＝1。

在一个具体实施例中，所述波动状态用公式进行表达，所述波动状态满足：

c_i＝(Lossres_i＞0)？1:((Lossres_i＜0)？-1:0)

式中，若Lossres_i﹥0，则取c_i为1；若Lossres_i﹤0，则取c_i为1；若Lossres_i＝0，则取c_i为0。

在一个具体实施例中，将16组所述预设模板的所述波动状态用表格来表达。如表1所示。

表1 16组预设模板的波动状态

(S106)根据所述预设模板以及所述残差损失获得补偿模板、第二反量化残差以及所述SAD1。

在一个具体实施例中，设置16组所述预设模板计算所述补偿模板。

将16组所述预设模板分别带入SAD公式中，比较SAD的大小，最小值对应的所述预设模板作为所述补偿模板。

式中，所述Lossres_i为残差损失；c_i为所述波动状态0≤i≤7；k为所述波动系数。

其中，所述第二反量化残差的公式为：

invResqp_2i＝(Resqp_1i<<QP)+(1<<QP)/2+c_i*k

所述SAD1的计算公式为：

其中，Res_i为所述宏块MB中第i位像素的所述预测残差，invResqp_2i为所述宏块MB中第i位像素的所述第二反量化残差，m×n表示所述量化矩阵的大小，ABS表示取绝对值。

(S200)根据所述量化宏块的大小获取量化矩阵的大小。

将所述待量化的宏块MB平铺到一维进行计算。

在一个具体实施例中，若所述宏块MB为8*4，则将所述宏块MB从2维平铺到1维后为32*1，且平铺顺序可设定。

设平铺后所述宏块MB中像素的数量为n，此处，n为4的倍数，可设置所述量化矩阵的大小和所述宏块MB的大小相同，也可设置所述量化矩阵的大小和所述宏块MB的大小不同。

(S201)根据所述宏块中所有像素的预测残差获得残差分布类型。

在一个具体实施例中，所述残差分布类型包括：递弱型、递强型、强弱强型、弱弱弱型、普通型。

所述残差分布类型由残差分布系数来决定。

在一个具体实施例中，将所述残差分布系数记为Grad_j，其中，j为1到4的整数，所述残差分布系数Grad_j满足：

其中，r_i为所述宏块MB中第i位的像素的所述预测残差的绝对值，i为0到n-1的整数。

分别判断Grad_j是否满足如下条件：

若Grad₁＞a₁，则所述残差分布类型属于递弱型；

若Grad₂＞a₂，则所述残差分布类型属于递强型；

若Grad₃＞a₃，则所述残差分布类型属于弱强弱型；

若Grad₄＞a₄，则所述残差分布类型属于强弱强型；

如果以上条件都不满足，则所述残差分布类型属于普通型。

若根据上述公式计算出来的所述残差分布类型出现多种类型同时存在的情况，则取Grad_j最大的值所对应的类型为所述残差分布类型。

在一个具体实施例中，a_j为设定阈值，j为1到4的整数；

在一个具体实施例中，a₁＝a₂＝a₃＝a₄＝1.5；a_j也可根据实际情况设置为其它值。

在一个具体实施例中，当n＝8时，

若Grad₁>a₁,则所述残差分布类型属于递弱型。

若Grad₂>a₂,则所述残差分布类型属于递强型。

若Grad₃>a₃,则所述残差分布类型属于弱强弱型。

若Grad₄>a₄,则所述残差分布类型属于强弱强型。

若上述四种情况均不满足，则所述残差分布类型为普通型；若上述四种情况同时满足两种或者两种以上，则取Grad_j最大的值所对应的类型为所述残差分布类型。

(S202)获取所述宏块的第一量化参数，根据所述第一量化参数确定所述第一量化参数的最大值、最小值以及差异值。

所述最大值MAXQP、所述最小值MINQP、所述差异值DIFQP分别满足：

式中，bitdepth为原始像素的比特深度。

(S203)根据所述残差分布类型、所述最大值、所述最小值以及所述差异值构建量化矩阵并计算所述宏块的每个像素的第二量化参数。

计算所述宏块MB中按从左到右顺序的每个像素的所述第二量化参数QP_i，i为像素序号，i为0到n-1的整数。

在一个具体实施例中，当n＝8时，

若所述残差分布类型为递弱型，则QP_i满足:

若所述残差分布类型为递强型,则QP_i满足:

若所述残差分布类型为弱强弱型,则QP_i满足:

若残差分布类型为强弱强型,则QP_i满足:

若残差分布类型为普通型则QP_i满足:

QP_i＝QP，0≤i≤7

最终求得量化矩阵为：QP_matrix＝QP_i，0≤i≤7。

在一个具体实施例中，当n＝16时，

若所述残差分布类型为递弱型，则QP_i满足:

若所述残差分布类型为递强型,则QP_i满足:

若所述残差分布类型为弱强弱型,则QP_i满足:

若残差分布类型为强弱强型,则QP_i满足:

若残差分布类型为波浪1型，则QP_i满足:

若残差分布类型为波浪1型，则QP_i满足:

需要说明的是，当n＝16时，上述六组公式中的weighti针对不同的类型，可人工设定不同的数值。

若所述残差分布类型为普通型，则QP_i满足：

QP_i＝QP，0≤i≤15

最终求得量化矩阵为：QP_matrix＝QP_i，0≤i≤15。

(S204)根据所述量化矩阵对所述宏块中各像素的所述预测残差进行量化，得到所述各像素的第二量化残差和第三反量化残差。

对于各像素的所述预测残差，采用先补偿后量化的办法，所述第二量化残差的公式为：

Resqp_2i＝(Res_i+(1＜＜QP_i)/2)＞＞QP_i

其中，Resqp_2i为所述宏块MB中第i个像素的第二量化残差；Res_i为所述宏块MB中第i个像素的预测残差；＜＜QP_i表示乘以2^QPi，＞＞QP_i表示除以2^QPi。

所述第三反量化残差公式为：

invResqp_3i＝(Resqp_2i＜＜QP_i)-(1＜＜QPi₎/2)

(S205)根据所述第三反量化残差以及所述预测残差计算SAD2。所述SAD2的计算公式为：

其中，Res_i为所述宏块MB中第i位像素的所述预测残差，invResqp_3i为所述宏块MB中第i位像素的所述第三反量化残差，m×n表示所述量化矩阵的大小，ABS表示取绝对值。

(S300)比较所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，则取所述SAD1对应的量化方法为最终的量化模式，完成所述编码压缩量化，反之则取所述SAD2对应的量化方法为最终的量化模式，完成所述编码压缩量化。

(S400)将最终采用的所述量化模式以及其余附加标识写入码流，使解码端能够正确识别所要进行的量化模式，从而完成带宽压缩的矩阵量化。

若最后选用的是SAD1所对应的量化方法，则将所述SAD1对应的量化方法标识为0，所述补偿模板标识为1，将所述第一量化残差、所述SAD1对应的量化方法的标识号、所述补偿模板的标识号写入码流，使解码端能够正确识别所要进行的量化模式，完成所述带宽压缩的矩阵量化。

若最后选用的是SAD2所对应的量化方法，则将所述SAD2对应的量化方法标识为1，将所述残差分布类型分别进行标识，将递弱型标识为0、递强型标识为1、弱强弱型标识为2、强弱强型标识为3、波浪1型标识为4、波浪2型标识为5、普通型标识为6，将所述第二量化残差、所述SAD1对应的量化方法的标识号、相应的残差分布类型的标识号写入码流，使解码端能够正确识别所要进行的量化模式以及对应的残差分布类型，完成所述带宽压缩的矩阵量化。

本发明实施例，通过这种方法，可以达到以下有益效果：

1.本发明通过采用量化矩阵对宏块MB进行量化，能够对宏块MB的不同纹理区域的量化进行区别处理，这种矩阵量化方法不但可以实现像素级量化，而且仅需要传送量化矩阵的序号，节省了大量的比特数。

2.本发明通过对两种不同的量化方法进行比较，选择合适的量化模式，使编码压缩量化图像损失最少。

以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。