CN109561306B - 一种带宽压缩量化方法 - Google Patents

一种带宽压缩量化方法 Download PDF

Info

Publication number
CN109561306B
CN109561306B CN201811260570.9A CN201811260570A CN109561306B CN 109561306 B CN109561306 B CN 109561306B CN 201811260570 A CN201811260570 A CN 201811260570A CN 109561306 B CN109561306 B CN 109561306B
Authority
CN
China
Prior art keywords
residual
quantization
compensation
pixel
calculating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811260570.9A
Other languages
English (en)
Other versions
CN109561306A (zh
Inventor
冉文方
李雯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Jiuwu Zunyi Information Technology Co.,Ltd.
Original Assignee
Shanghai Jiuwu Zunyi Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Jiuwu Zunyi Information Technology Co ltd filed Critical Shanghai Jiuwu Zunyi Information Technology Co ltd
Priority to CN201811260570.9A priority Critical patent/CN109561306B/zh
Publication of CN109561306A publication Critical patent/CN109561306A/zh
Application granted granted Critical
Publication of CN109561306B publication Critical patent/CN109561306B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明涉及一种带宽压缩量化方法,包括以下步骤:(a)设置宏块;(b)通过第一量化方法对所述宏块进行量化并计算SAD1;(c)通过第二量化方法对所述宏块进行量化并计算SAD2;(d)选择所述SAD1和所述SAD2中最小值所对应的量化方法对所述宏块进行量化以完成所述带宽压缩量化。本发明实施例,在两种量化方法中选择最合适的量化方法,减少带宽压缩量化过程中的图像损失,减少传输数据量。

Description

一种带宽压缩量化方法
技术领域
本发明属于压缩编码领域,具体涉及一种带宽压缩量化方法。
背景技术
数字化后的视频数据量十分巨大,不便于传输和存储。单纯用扩大存储容量、增加通信信道贷款的办法是不现实的。而数据压缩是个行之有效的方法,通过数据压缩手段把信息的数据量压下来,以压缩编码的形式存储和传输,即紧缩节约了存储空间,又提高了通信信道的传输效率。视频压缩编码的目的,是在保证重建图像质量一定的前提下,以尽量少的比特数来表征视频信息。
带宽和我们日常行驶的马路一样,越宽的马路能够通行的汽车数量越多,而越宽的带宽它的数据吞吐量也越大。然而在实际使用过程中广域网的带宽资源通常都是宝贵的,几乎所有企业内部员工都会抱怨网络访问速度的缓慢,因此带宽资源是要节约使用的。不过在网络带宽不能扩展的情况下要想在同一时间传输更多的有用数据就需要使用广域网加速中的“带宽压缩技术”了。所谓带宽压缩技术就是通过压缩技术将传统数据包变小后进行传输,这样同等时间实际传输的数据包将比压缩之前的数据包量多,从而实现了提高广域网传输速度的目的。常用的带宽压缩技术主要有以下两大类。
(1)基于字典流的传统压缩技术:
第一类是基于字典流的传统压缩技术,在此类技术中,每一端的设备都构建通用模式字典,然后以短标识符替代它们。因此从理论上说带宽可节省近90%,但未经压缩且未经加密的数据通常占到50%左右。然而字典流压缩技术的缺点是它对硬件资源配置要求比较高,这就增加了带宽压缩的成本。
(2)通过缓存信息提高传输速度:
第二类压缩技术认为,在一般的网络中,大部分的数据(如文件)通常是来回传输的,修改幅度很小。因此在任一端使用硬盘来保存这些数据,只传输发生变化的信息(或变量),最多可将网络备份等带宽密集型任务和其他文件密集型任务的带宽减少99%。这种技术的最大特点就是对没有发生变化的数据不进行传输,当然这需要在原始数据包上做好标识,标记好哪一部分因为是未变化的数据而不传输。但是这种方式需要硬盘来保存不发生变化的数据,特别是当某数据分段比较多的时候,如果只有一到两个数据段出现变化,其他数据段都需要进行标记,标记所花数据积累起来很可能超过了原始数据。这样提速目的就无法实现了。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种带宽压缩量化方法。本发明要解决的技术问题通过以下技术方案实现:
本发明实施例提供了一种带宽压缩量化方法,包括以下步骤:
(a)设置宏块;
(b)通过第一量化方法对所述宏块进行量化并计算SAD1;
(c)通过第二量化方法对所述宏块进行量化并计算SAD2;
(d)选择所述SAD1和所述SAD2中最小值所对应的量化方法对所述宏块进行量化以完成所述带宽压缩量化。
在本发明的一个实施例中,步骤(b)包括:
(b1)计算所述宏块的预测残差分布系数;
(b2)根据所述预测残差分布系数确定残差分布类型;
(b3)计算基准量化参数QPB
(b4)根据所述基准量化参数QPB计算所述基准量化参数QPB的最大值MAXQP、最小值MINQP、最大值与最小值的差异值DIFQP;
(b5)根据所述残差分布类型、所述最小值MINQP以及所述差异值DIFQP构建量化矩阵;
(b6)根据所述量化矩阵对所述宏块中各像素的预测残差进行量化,得到所述各像素的第一量化残差;
(b7)根据所述第一量化残差计算所述各像素的第一反量化残差以完成所述SAD1的计算。
在本发明的一个实施例中,所述量化矩阵的大小和所述宏块MB的大小相同。
在本发明的一个实施例中,所述残差分布类型包括:递弱型、递强型、强弱强型、弱弱弱型、普通型。
在本发明的一个实施例中,步骤(c)包括:
(c1)获取所述宏块中各像素的预测残差、量化模板、第一补偿模板、第二补偿模板;
(c2)根据所述预测残差、所述量化模板、所述第一补偿模板、第二补偿模板计算第二量化残差、第一率失真优化和第二率失真优化;
(c3)根据所述第一率失真优化和所述第二率失真优化设置补偿标识;
(c4)根据所述补偿标识计算所述SAD2。
在本发明的一个实施例中,步骤(c2)包括:
(c21)根据所述预测残差、所述量化模板、所述第一补偿模板计算所述第二量化残差、第二反量化残差和第三反量化残差;
(c22)根据所述第三反量化残差、所述预测残差获得所述第一残差损失;
(c23)根据所述第二量化残差和所述第一残差损失计算所述第一率失真优化;
(c24)根据所述第一残差损失、所述第三反量化残差、所述第二补偿模板计算第四反量化残差;
(c25)根据所述第四反量化残差、所述预测残差、所述第二量化残差计算所述第二率失真优化。
在本发明的一个实施例中,步骤(c3)包括:
比较所述第一率失真优化和所述第二率失真优化的大小,若所述第一率失真优化小于等于所述第二率失真优化,则设置补偿标识为不进行第二补偿处理;否则设置所述补偿标识为进行第二补偿处理。
在本发明的一个实施例中,步骤(c4)包括:
根据所述补偿标识进行量化和反量化,计算所述SAD2。
在本发明的一个实施例中,选择所述SAD1和所述SAD2中最小值所对应的量化方法为最终的量化模式之后还包括:
将所述最终的量化方法以及对应的附加标志位写入码流。
与现有技术相比,本发明的有益效果:
1.本发明通过对两种不同的量化方法进行比较,选择合适的量化模式,使带宽压缩的矩阵量化图像损失最少。
2.本发明通过将选择的量化模式以及对应的附加标志位固定存储在压缩端和解码端,写入码流时,只需要将量化模式以及对应的附加标志位写入码流,这样可以方便传递,减少传输比特数。
附图说明
图1为本发明实施例提供的一种带宽压缩量化方法的流程示意图。
具体实施方式
下面结合具体实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
实施例一
请参见图1,图1为本发明实施例提供的一种带宽压缩量化方法的流程示意图。
一种带宽压缩量化方法,包括以下步骤:
(a)设置宏块;
(b)通过第一量化方法对所述宏块进行量化并计算SAD1;
(c)通过第二量化方法对所述宏块进行量化并计算SAD2;
(d)选择所述SAD1和所述SAD2中最小值所对应的量化方法对所述宏块进行量化以完成所述带宽压缩量化。
本发明实施例,通过两种量化方法分别计算SAD1和SAD2的大小,选择合适的量化模式,提高了量化过程的图像损失、减少了传输数据量。
实施例二
本实施例在上述实施例的基础上,重点对一种带宽压缩量化方法进行详细描述。
(S10)设置宏块。
获取待量化的所述宏块MB,将所述宏块MB平铺到一维,即若MB为8*4,平铺到一维后为32*1,且平铺顺序可设定。
设平铺后所述宏块MB中像素数量的大小为n,此处,n为4的倍数,则可设置所述量化矩阵的大小和所述宏块MB的大小相同,为n*1,也可以设置所述量化矩阵的大小和所述宏块MB的大小不同。
(S20)通过第一量化方法对所述宏块进行量化并计算SAD1。
(S201)计算所述宏块的预测残差分布系数。
将所述残差分布系数记为Gradj,其中,j为1到4的整数,所述残差分布系数Gradj满足:
Figure BDA0001843798220000061
其中,ri为所述宏块MB中第i位的像素的所述预测残差的绝对值,i为0到n-1的整数。
(S202)根据所述预测残差分布系数确定残差分布类型。
所述残差分布类型包括:递弱型、递强型、强弱强型、弱弱弱型、普通型。
分别判断Gradj是否满足如下条件:
如果Grad1>a1,残差分布类型属于递弱型;
如果Grad2>a2,残差分布类型属于递强型;
如果Grad3>a3,残差分布类型属于弱强弱型;
如果Grad4>a4,残差分布类型属于强弱强型;
如果以上条件都不满足,则残差分布类型属于普通型,其中,aj=1.5,j为1到4的整数;aj也可根据实际情况设置为其它值。
其中,Grad1、Grad2、Grad3、Grad4需同时判断,只需满足一个条件即可得出残差分布类型,若同时满足几个条件,则判断残差分布类型不属于普通型,此时,判断所述残差分布类型属于max{Gradj,其中满足Gradj>aj,j为1到4的整数}对应的类型。
(S203)计算基准量化参数QPB
所述基准量化参数QPB由码率计算得出。
(S204)根据所述基准量化参数QPB计算所述基准量化参数QPB的最大值MAXQP、最小值MINQP、最大值与最小值的差异值DIFQP。
所述最大值MAXQP、所述最小值MINQP、所述差异值DIFQP分别满足:
Figure BDA0001843798220000071
(S205)根据所述残差分布类型、所述最小值MINQP以及所述差异值DIFQP构建量化矩阵。
计算所述宏块MB中按从左到右顺序的每个像素点的量化参数QPi,QPi为所述宏块MB中第i位的量化参数,i为0到n-1的整数。其中,
若残差分布类型为递弱型,则QPi满足:
Figure BDA0001843798220000081
若残差分布类型为递强型,则QPi满足:
Figure BDA0001843798220000082
若残差分布类型为弱强弱型,则QPi满足:
Figure BDA0001843798220000083
若残差分布类型为强弱强型,则QPi满足:
Figure BDA0001843798220000084
若残差分布类型为普通型则QPi满足:
QPi=QPB,0≤i≤n-1
最终求得量化矩阵为:QPmatrix=QPi,0≤i≤n-1。
(S206)根据所述量化矩阵对所述宏块中各像素的预测残差进行量化,得到所述各像素的第一量化残差。
对于各像素的预测残差,采用先补偿后量化的办法,具体满足如下公式:
Resqpi=(Resi+(1<<QPi)/2)>>QPi
其中,Resqpi为所述宏块MB中第i个像素的第一量化残差;Resi为所述宏块MB中第i个像素的预测残差;<<QPi表示乘以2QPi,>>QPi表示除以2QPi
(S207)根据所述第一量化残差计算所述各像素的第一反量化残差以完成所述SAD1的计算。
所述第一反量化残差满足如下公式:
IQRes1i=(Resqpi<<QPi)-(1<<QPi)/2)
所述SAD1满足:
Figure BDA0001843798220000091
其中,Resi为所述宏块第i位像素的所述预测残差,IQRes1i为所述宏块第i位像素的所述第一反量化残差,m×n表示量化矩阵的大小,ABS表示取绝对值。
(S30)通过第二量化方法对所述宏块进行量化并计算SAD2。
(S301)获取所述宏块中各像素的预测残差、量化模板、第一补偿模板、第二补偿模板。
所述第一补偿模板CT1满足:
CT1={n0,n1,ni,...,nm}
其中,ni为所述第一补偿模板CT1中第i位像素的第一补偿参数。
所述第二补偿模板CT2满足:
CT2={c0,c1,ci,…,cm}
其中,ci=0或1或-1,m=量化单元长度,ci为所述第二补偿模板CT2中第i位像素的第二补偿参数。
(S302)根据所述预测残差、所述量化模板、所述第一补偿模板、第二补偿模板计算第二量化残差、第一率失真优化和第二率失真优化。
其中,步骤(S302)还包括以下步骤:
(S3021)根据所述预测残差、所述量化模板、所述第一补偿模板计算所述第二量化残差、第二反量化残差和第三反量化残差。
其中,步骤(S3021)还包括以下几个步骤:
(a1)根据所述预测残差、所述量化模板获得所述第二量化残差。
所述第二量化残差满足:
Figure BDA0001843798220000101
其中,Resqp2i为第i位像素的所述第二量化残差,Resi为第i位像素的所述预测残差,QPi为第i位像素的所述量化参数。
(a2)根据所述第二量化残差、所述量化模板获得所述第二反量化残差。
所述第二反量化残差满足:
Figure BDA0001843798220000102
其中,IQRes2i为第i位像素的所述第二反量化残差;Resqp2i为第i位像素的所述第二量化残差。
(a3)根据所述第二反量化残差、所述第一补偿模板获得所述第三反量化残差。
所述第三反量化残差满足:
IQRes3i=IQRes2i+ni
其中,IQRes3i为第i位像素的所述第三反量化残差,ni为所述第一补偿模板中第i位像素的第一补偿参数。
(S3022)根据所述第三反量化残差、所述预测残差获得所述第一残差损失。
所述第一残差损失满足:
LOSS1i=IQRes3i-Resi
其中,LOSS1i为第i位像素的所述第一残差损失。
(S3023)根据所述第二量化残差和所述第一残差损失计算所述第一率失真优化。所述第一率失真优化的计算公式为:
Figure BDA0001843798220000111
其中,RDO1为所述第一率失真优化,pixnum为量化单元的长度,a1和a2为权重参数。
(S3024)根据所述第一残差损失、所述第三反量化残差、所述第二补偿模板计算所述第四反量化残差。
其中,步骤(S3024)还包括以下步骤:
(b1)根据所述第一残差损失获得波动系数;
所述波动系数满足:
Figure BDA0001843798220000112
其中,LOSS1i为第i位像素的所述第一残差损失,pixnumnone0为所述第一残差损失内非0的数量,round表示四舍五入运算符。
(b2)根据所述第三反量化残差、所述波动系数、所述第二补偿模板得到所述第四反量化残差;
所述第四反量化残差满足:
IQRes4i=IQRes3i+k×ci
其中,IQRes4i为第i位像素的所述第四反量化残差,k为所述波动系数,ci为所述第二补偿模板的第i位像素的所述第二补偿参数。
(S3025)根据所述第四反量化残差、所述预测残差、所述第二量化残差计算所述第二率失真优化。
其中,步骤(S3025)还包括以下步骤:
(c1)根据所述第四反量化残差和所述预测残差获得所述第二残差损失;
所述第二残差损失满足:
LOSS2i=IQRes4i-Resi
其中,LOSS2i为第i位像素的第二残差损失。
(c2)根据所述第二量化残差和所述第二残差损失获得所述第二率失真优化。
所述第二率失真优化满足:
Figure BDA0001843798220000121
其中,RDO1为所述第二率失真优化,pixnum为量化单元的长度,a1和a2为权重参数。
(S303)根据所述第一率失真优化和所述第二率失真优化设置补偿标识。
比较所述第一率失真优化和所述第二率失真优化的大小,若所述第一率失真优化小于等于所述第二率失真优化,则设置补偿标识为不进行第二补偿处理;否则设置所述补偿标识为进行第二补偿处理。
(S304)根据所述补偿标识计算所述SAD2。
根据所述补偿标识进行量化和反量化,计算所述SAD2。
若需要进行第二补偿处理,则计算所述第四反量化残差。
则所述SAD2满足:
Figure BDA0001843798220000131
其中,Resi为第i位像素的所述预测残差,IQRes4i为所述宏块第i位像素的所述第四反量化残差,m×n表示所述量化矩阵的大小,ABS表示取绝对值。
若不需要进行第二补偿处理,则计算所述第三反量化残差。
则所述SAD2满足:
Figure BDA0001843798220000132
其中,Resi为第i位像素的所述预测残差,IQRes3i为所述宏块第i位像素的所述第三反量化残差,m×n表示所述量化矩阵的大小,ABS表示取绝对值。
(S40)选择所述SAD1和所述SAD2中最小值所对应的量化方法对所述宏块进行量化以完成所述带宽压缩量化。
(S50)将最终采用的所述量化方法以及其余附加标识写入码流,使解码端能够正确识别所要进行的量化模式,从而完成带宽压缩量化。
若最后选用的是SAD1所对应的量化方法,则将所述SAD1对应的量化方法标识为0,将所述残差分布类型分别进行标识,将递弱型标识为0、递强型标识为1、弱强弱型标识为2、强弱强型标识为3、普通型标识为4,将所述第一量化残差、所述SAD1对应的量化方法的标识号、相应的残差分布类型的标识号写入码流,使解码端能够正确识别所要进行的量化方法以及对应的残差分布类型,完成所述带宽压缩量化。
若最后选用的是SAD2所对应的量化方法,则将所述SAD2对应的量方法标识为1,将进行第二补偿处理标识为1,将不进行第二补偿处理标识为0,将所述第二量化残差、所述SAD2对应的量化方法的标识号、进行第二补偿处理或者不进行第二补偿处理的标识号写入码流,使解码端能够正确识别所要进行的量化模式以及对应的补偿标识,完成所述带宽压缩量化。
本发明实施例,通过这种方法,可以达到以下有益效果:
1.本发明通过采用量化矩阵对宏块MB进行量化,能够对宏块MB的不同纹理区域的量化进行区别处理,这种矩阵量化方法不但可以实现像素级量化,而且仅需要传送量化矩阵的序号,节省了大量的比特数。
2.本发明通过对两种不同的量化方法进行比较,选择合适的量化模式,使带宽压缩的矩阵量化图像损失最少。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (6)

1.一种带宽压缩量化方法,其特征在于,包括以下步骤:
(a)设置宏块;
(b)通过第一量化方法对所述宏块进行量化并计算SAD1,步骤(b)包括:
(b1)计算所述宏块的预测残差分布系数,将所述残差分布系数记为Gradj,其中,j为1到4的整数,所述残差分布系数Gradj满足:
Figure FDA0002821474640000011
其中,ri为所述宏块MB中第i位的像素的预测残差的绝对值,i为0到n-1的整数,n为平铺后所述宏块MB中像素数量的大小,且n为4的倍数;
(b2)根据所述预测残差分布系数确定残差分布类型,所述残差分布类型包括:递弱型、递强型、强弱强型、弱弱弱型、普通型,分别判断Gradj是否满足如下条件:
如果Grad1>a1,所述残差分布类型属于递弱型;
如果Grad2>a2,所述残差分布类型属于递强型;
如果Grad3>a3,所述残差分布类型属于弱强弱型;
如果Grad4>a4,所述残差分布类型属于强弱强型;
如果以上条件都不满足,则所述残差分布类型属于普通型,其中,aj=1.5,j为1到4的整数,其中,Grad1、Grad2、Grad3、Grad4需同时判断,只需满足一个条件即可得出所述残差分布类型,若同时满足几个条件,则判断所述残差分布类型不属于普通型,判断所述残差分布类型属于max{Gradj,其中满足Gradj>aj,j为1到4的整数}对应的类型;
(b3)计算基准量化参数QPB,所述基准量化参数QPB由码率计算得出;
(b4)根据所述基准量化参数QPB计算所述基准量化参数QPB的最大值MAXQP、最小值MINQP、最大值与最小值的差异值DIFQP,所述最大值MAXQP、所述最小值MINQP、所述差异值DIFQP分别满足:
Figure FDA0002821474640000021
其中,bitdep为原始像素的比特深度,QP为量化参数;
(b5)根据所述残差分布类型、所述最小值MINQP以及所述差异值DIFQP构建量化矩阵,计算所述宏块MB中按从左到右顺序的每个像素点的量化参数QPi,QPi为所述宏块MB中第i位的量化参数,i为0到n-1的整数,其中,
若所述残差分布类型为递弱型,则QPi满足:
Figure FDA0002821474640000022
若所述残差分布类型为递强型,则QPi满足:
Figure FDA0002821474640000023
若所述残差分布类型为弱强弱型,则QPi满足:
Figure FDA0002821474640000031
若所述残差分布类型为强弱强型,则QPi满足:
Figure FDA0002821474640000032
若所述残差分布类型为普通型,则QPi满足:
QPi=QPB,0≤i≤n-1
最终求得量化矩阵为:QPmatrix=QPi,0≤i≤n-1;
(b6)根据所述量化矩阵对所述宏块中各像素的预测残差进行量化,得到所述各像素的第一量化残差;
(b7)根据所述第一量化残差计算所述各像素的第一反量化残差以完成所述SAD1的计算;
(c)通过第二量化方法对所述宏块进行量化并计算SAD2;
(d)选择所述SAD1和所述SAD2中最小值所对应的量化方法对所述宏块进行量化以完成所述带宽压缩量化。
2.根据权利要求1所述的带宽压缩量化方法,其特征在于,所述量化矩阵的大小和所述宏块MB的大小相同。
3.根据权利要求1所述的带宽压缩量化方法,其特征在于,步骤(c)包括:
(c1)获取所述宏块中各像素的预测残差、量化模板、第一补偿模板、第二补偿模板,所述第一补偿模板CT1满足:
CT1={n0,n1,ni,…,nm}
其中,ni为所述第一补偿模板CT1中第i位像素的第一补偿参数;
所述第二补偿模板CT2满足:
CT2={c0,c1,ci,…,cm}
其中,ci=0或1或-1,m=量化单元长度,ci为所述第二补偿模板CT2中第i位像素的第二补偿参数;
(c2)根据所述预测残差、所述量化模板、所述第一补偿模板、第二补偿模板计算第二量化残差、第一率失真优化和第二率失真优化,
其中,步骤(c2)还包括以下步骤:
(c21)根据所述预测残差、所述量化模板、所述第一补偿模板计算所述第二量化残差、第二反量化残差和第三反量化残差;
其中,步骤(c21)还包括以下几个步骤:
根据所述预测残差、所述量化模板获得所述第二量化残差,
所述第二量化残差满足:
Figure FDA0002821474640000041
其中,Resqp2i为第i位像素的所述第二量化残差,Resi为第i位像素的所述预测残差,QPi为第i位像素的所述量化参数;
根据所述第二量化残差、所述量化模板获得所述第二反量化残差,
所述第二反量化残差满足:
Figure FDA0002821474640000042
其中,IQRes2i为第i位像素的所述第二反量化残差;Resqp2i为第i位像素的所述第二量化残差;
根据所述第二反量化残差、所述第一补偿模板获得所述第三反量化残差,
所述第三反量化残差满足:
IQRes3i=IQRes2i+ni
其中,IQRes3i为第i位像素的所述第三反量化残差,ni为所述第一补偿模板中第i位像素的第一补偿参数;
根据所述第三反量化残差、所述预测残差获得第一残差损失,
所述第一残差损失满足:
LOSS1i=IQRes3i-Resi
其中,LOSS1i为第i位像素的所述第一残差损失;
(c23)根据所述第二量化残差和所述第一残差损失计算所述第一率失真优化,所述第一率失真优化的计算公式为:
Figure FDA0002821474640000051
其中,RDO1为所述第一率失真优化,pixnum为量化单元的长度,a1和a2为权重参数,abs为取绝对值;
(c24)根据所述第一残差损失、所述第三反量化残差、所述第二补偿模板计算第四反量化残差;
其中,步骤(c24)还包括以下步骤:
根据所述第一残差损失获得波动系数,所述波动系数满足:
Figure FDA0002821474640000052
其中,LOSS1i为第i位像素的所述第一残差损失,pixnumnone0为所述第一残差损失内非0的数量,round表示四舍五入运算符;
根据所述第三反量化残差、所述波动系数、所述第二补偿模板得到所述第四反量化残差,所述第四反量化残差满足:
IQRes4i=IQRes3i+k×ci
其中,IQRes4i为第i位像素的所述第四反量化残差,k为所述波动系数,ci为所述第二补偿模板的第i位像素的所述第二补偿参数;
(c25)根据所述第四反量化残差、所述预测残差、所述第二量化残差计算所述第二率失真优化;
其中,步骤(c25)还包括以下步骤:
根据所述第四反量化残差和所述预测残差获得第二残差损失,所述第二残差损失满足:
LOSS2i=IQRes4i-Resi
其中,LOSS2i为第i位像素的第二残差损失;
根据所述第二量化残差和所述第二残差损失获得所述第二率失真优化,所述第二率失真优化满足:
Figure FDA0002821474640000061
其中,RDO1为所述第二率失真优化,pixnum为量化单元的长度,a1和a2为权重参数;
(c3)根据所述第一率失真优化和所述第二率失真优化设置补偿标识;
(c4)根据所述补偿标识计算所述SAD2。
4.根据权利要求3所述的带宽压缩量化方法,其特征在于,步骤(c3)包括:
比较所述第一率失真优化和所述第二率失真优化的大小,若所述第一率失真优化小于等于所述第二率失真优化,则设置补偿标识为不进行第二补偿处理;否则设置所述补偿标识为进行第二补偿处理;
若需要进行第二补偿处理,则计算所述第四反量化残差,
则所述SAD2满足:
Figure FDA0002821474640000071
其中,Resi为第i位像素的所述预测残差,IQRes4i为所述宏块第i位像素的所述第四反量化残差,m×n表示所述量化矩阵的大小,ABS表示取绝对值;
若不需要进行第二补偿处理,则计算所述第三反量化残差,
则所述SAD2满足:
Figure FDA0002821474640000072
其中,Resi为第i位像素的所述预测残差,IQRes3i为所述宏块第i位像素的所述第三反量化残差,m×n表示所述量化矩阵的大小,ABS表示取绝对值。
5.根据权利要求3所述的带宽压缩量化方法,其特征在于,步骤(c4)包括:
根据所述补偿标识进行量化和反量化,计算所述SAD2。
6.根据权利要求1所述的带宽压缩量化方法,其特征在于,选择所述SAD1和所述SAD2中最小值所对应的量化方法为最终的量化模式之后还包括:
将所述最终的量化方法以及对应的附加标志位写入码流。
CN201811260570.9A 2018-10-26 2018-10-26 一种带宽压缩量化方法 Active CN109561306B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811260570.9A CN109561306B (zh) 2018-10-26 2018-10-26 一种带宽压缩量化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811260570.9A CN109561306B (zh) 2018-10-26 2018-10-26 一种带宽压缩量化方法

Publications (2)

Publication Number Publication Date
CN109561306A CN109561306A (zh) 2019-04-02
CN109561306B true CN109561306B (zh) 2021-08-06

Family

ID=65865524

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811260570.9A Active CN109561306B (zh) 2018-10-26 2018-10-26 一种带宽压缩量化方法

Country Status (1)

Country Link
CN (1) CN109561306B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101039432A (zh) * 2006-03-16 2007-09-19 华为技术有限公司 在编码过程中实现自适应量化的方法及装置
EP1549074A4 (en) * 2002-07-22 2009-04-15 Inst Computing Tech Cn Academy COMBINED BIT RATE CONTROL METHOD AND DEVICE WITH FLOW-DISTORTION OPTIMIZATION
US7876819B2 (en) * 2005-09-22 2011-01-25 Qualcomm Incorporated Two pass rate control techniques for video coding using rate-distortion characteristics
CN102972023A (zh) * 2011-07-13 2013-03-13 松下电器产业株式会社 图像压缩装置、图像解压缩装置以及图像处理装置
CN102970536A (zh) * 2012-11-15 2013-03-13 上海交通大学 一种改进的带有预测残差调整的视频编码方法
CN106101703A (zh) * 2016-06-20 2016-11-09 杭州比特瑞旺电脑有限公司 一种面向数字kvm切换器的屏幕视频压缩方法
CN106658006A (zh) * 2017-01-12 2017-05-10 武汉轻工大学 一种率失真性能近似最优的jpeg‑ls图像近无损压缩的码率控制方法
WO2018010852A1 (en) * 2016-07-15 2018-01-18 Gurulogic Microsystems Oy Encoders, decoders and methods employing quantization

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2015261734A1 (en) * 2015-11-30 2017-06-15 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding video data according to local luminance intensity

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1549074A4 (en) * 2002-07-22 2009-04-15 Inst Computing Tech Cn Academy COMBINED BIT RATE CONTROL METHOD AND DEVICE WITH FLOW-DISTORTION OPTIMIZATION
US7876819B2 (en) * 2005-09-22 2011-01-25 Qualcomm Incorporated Two pass rate control techniques for video coding using rate-distortion characteristics
CN101039432A (zh) * 2006-03-16 2007-09-19 华为技术有限公司 在编码过程中实现自适应量化的方法及装置
CN102972023A (zh) * 2011-07-13 2013-03-13 松下电器产业株式会社 图像压缩装置、图像解压缩装置以及图像处理装置
CN102970536A (zh) * 2012-11-15 2013-03-13 上海交通大学 一种改进的带有预测残差调整的视频编码方法
CN106101703A (zh) * 2016-06-20 2016-11-09 杭州比特瑞旺电脑有限公司 一种面向数字kvm切换器的屏幕视频压缩方法
WO2018010852A1 (en) * 2016-07-15 2018-01-18 Gurulogic Microsystems Oy Encoders, decoders and methods employing quantization
CN106658006A (zh) * 2017-01-12 2017-05-10 武汉轻工大学 一种率失真性能近似最优的jpeg‑ls图像近无损压缩的码率控制方法

Also Published As

Publication number Publication date
CN109561306A (zh) 2019-04-02

Similar Documents

Publication Publication Date Title
JP5606591B2 (ja) ビデオ圧縮方法
CA2397090C (en) A method for encoding images using the classes of neighbouring blocks to determine the prediction method, and an image encoder
CN101019437B (zh) 基于帧内预测方向的h.264空间错误隐藏
CN102300094B (zh) 一种视频编码方法
CN110225343B (zh) 一种视频编码的码率控制方法及装置
WO2018095890A1 (en) Methods and apparatuses for encoding and decoding video based on perceptual metric classification
CN101755464A (zh) 基于行的视频码率控制和压缩
Pan et al. Frame-level Bit Allocation Optimization Based on<? brk?> Video Content Characteristics for HEVC
CN110149515B (zh) 数据传输方法及装置
Wennersten et al. Bilateral filtering for video coding
CN107343202A (zh) 基于附加码率的无反馈分布式视频编解码方法及移动终端
CN112715029A (zh) Ai编码设备及其操作方法和ai解码设备及其操作方法
CN109561306B (zh) 一种带宽压缩量化方法
CN110365985A (zh) 图像处理方法及装置
EP1523195A2 (en) Method and apparatus for decoding digital image data
WO2019135294A1 (ja) 符号化方法、復号方法、符号化装置、復号装置、符号化プログラム及び復号プログラム
CN109274968A (zh) 视频压缩自适应量化与反量化方法
CN112887714B (zh) 一种视频编码比特资源重分配方法
CN115022636A (zh) 率失真优化量化方法及装置
CN109618155B (zh) 压缩编码方法
Pan et al. Complexity-scalable transform coding using variable complexity algorithms
JP3892835B2 (ja) 階層画像符号化方法,階層画像符号化装置,階層画像符号化プログラムおよびそのプログラムを記録した記録媒体
CN109257602B (zh) 自适应量化方法
CN109510984B (zh) 一种压缩编码量化方法
CN109600609A (zh) 带宽压缩矩阵量化和反量化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20210716

Address after: 201100 room 2208, No.2, Lane 58, Shenjian East Road, Minhang District, Shanghai

Applicant after: Shanghai Jiuwu Zunyi Information Technology Co.,Ltd.

Address before: 710065 Xi'an new hi tech Zone, Shaanxi, No. 86 Gaoxin Road, No. second, 1 units, 22 stories, 12202 rooms, 51, B block.

Applicant before: Xi'an Cresun Innovation Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant