CN101938654A - 一种变换系数的优化量化方法及装置 - Google Patents
一种变换系数的优化量化方法及装置 Download PDFInfo
- Publication number
- CN101938654A CN101938654A CN 201010256106 CN201010256106A CN101938654A CN 101938654 A CN101938654 A CN 101938654A CN 201010256106 CN201010256106 CN 201010256106 CN 201010256106 A CN201010256106 A CN 201010256106A CN 101938654 A CN101938654 A CN 101938654A
- Authority
- CN
- China
- Prior art keywords
- candidate
- quantized value
- coefficient
- unit
- conversion coefficient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 106
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000004364 calculation method Methods 0.000 claims abstract description 63
- 238000005457 optimization Methods 0.000 claims abstract description 53
- 238000011002 quantification Methods 0.000 claims abstract description 22
- 230000009466 transformation Effects 0.000 claims description 80
- 238000013139 quantization Methods 0.000 claims description 58
- 239000011159 matrix material Substances 0.000 claims description 39
- 210000004027 cell Anatomy 0.000 claims description 20
- 102000008297 Nuclear Matrix-Associated Proteins Human genes 0.000 claims description 8
- 108010035916 Nuclear Matrix-Associated Proteins Proteins 0.000 claims description 8
- 210000000299 nuclear matrix Anatomy 0.000 claims description 8
- 238000010606 normalization Methods 0.000 abstract 1
- 230000006870 function Effects 0.000 description 11
- 238000000205 computational method Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明公开了一种变换系数的优化量化方法及装置,对包含有Z个非零变换系数的Z1×Z2大小的变换系数块按如下步骤进行优化量化:(1)对每个非零变换系数生成若干候选量化值;(2)对M个非零变换系数的候选量化值之组合计算相应的编码代价,并选取使编码代价最小的候选量化值之组合作为该M个非零变换系数的优化量化值;计算相应的编码代价包括计算编码失真和计算编码比特数,所述计算编码失真包括对变换系数以及候选量化值经过反量化后恢复的变换系数值进行去非归一化处理;(3)滑动Q个非零变换系数执行上述(2)操作,直到该变换系数块中所有变换系数得到优化量化值为止。采用本发明,能提高优化量化的编码效率。
Description
技术领域
本发明属于视频压缩编码技术领域,而且,更具体的,涉及一种变换系数的优化量化方法及装置。
背景技术
在各种图像、视频有损编解码技术中,如JPEG,MPEG-2,H.264/AVC,AVS等,量化是获得图像、视频有损压缩编码效率的重要手段。但量化也会引入编码失真,造成质量的失真。如何在高压缩率的视频编码情况下,尽可能的减少图像质量失真是一个研究的热点。
率失真优化理论就是选择能够达到码率与失真度的最佳平衡的编码模式。
目前大部分图像、视频编码都是先对变换系数进行量化,即在变换域中进行量化,然后对量化后的系数进行熵编码,来实现压缩编码。量化过程也可以使用率失真优化方法,进行最优量化后系数的选择,使得量化后系数的码率与失真度达到最佳平衡。由于一个变换系数块中量化后系数的熵编码是联合进行的,而且对编码失真是时空域度量的,所以其优化量化过程一般为:
1、对变换系数块按照一定的扫描顺序排列为一维的变换系数序列;
2、对一维的变换系数序列中的每个变换系数生成若干候选量化值,其中值为零的变换系数的候选量化值就是零,该变换系数的优化量化值也是零;
3、值不为零的变换系数一般称为非零变换系数,对当前非零变换系数的每个候选量化值计算相应的变换系数块的编码代价,并选取使编码代价最小的候选量化值作为该系数的优化量化值;
3.1估算编码失真:由变换系数的量化失真估算像素域的编码失真,即直接计算量化之前的变换系数与经过量化与反量化后恢复的反量化后变换系数之间的失真作为编码失真。
3.2估算编码比特数:估算候选量化值所对应的编码比特数,包括编码非零变换系数幅度值的比特数和值为零的系数的个数等语法元素的比特数。
3.3计算编码代价:使用拉格朗日函数由估算的编码失真和估算的编码比特数计算编码代价。
4、按照扫描顺序依次对每个非零系数执行上述3操作,直到该变换系数块的所有变换系数得到优化量化值为止。
但是,近年在一些编码系统中引入了非归一化的变换,如AVS标准中使用的预缩放整数变换PIT技术。这时,直接在变换域计算变换系数的编码失真不能准确反映实际的编码失真;而如果将量化后的变换系数经过反量化、反变换、预测补偿后恢复到像素域,再计算编码失真,则计算复杂度相当高。
另外在使用二维熵编码的编码系统中,非零变换系数的选取不同的候选量化值会引起周围游程-幅值编码(run,level)中run的值的变化和(run,level)总个数的变化从而导致整个变换系数块的编码比特数的变化,也会引起编码码表选择的变化从而导致整个变换系数块的编码比特数变化,因此多个非零变换系数的优化量化是相互关联的。必须解决优化量化过程的复杂度与编码效率的问题。
发明内容
为克服现有技术上述缺陷,本发明旨在提出一种变换系数的优化量化方法及装置,具体为:
一种变换系数优化量化的方法,其特征在于对包含有Z个非零变换系数的Z1×Z2大小的变换系数块按如下步骤进行优化量化:
(1)对每个非零变换系数生成若干候选量化值;
(2)对M个非零变换系数的候选量化值之组合计算相应的编码代价,并选取使编码代价最小的候选量化值之组合作为该M个非零变换系数的优化量化值;所述计算相应的编码代价包括计算编码失真和计算编码比特数;所述计算编码失真包括对变换系数以及候选量化值经过反量化后恢复的变换系数值进行去非归一化处理;
(3)滑动Q个非零变换系数执行上述(2)操作,直到该变换系数块中所有变换系数得到优化量化值为止;
其中:Z<=Z1×Z2,1≤M≤Z,1≤Q≤M。
所述对变换系数以及候选量化值经过反量化后恢复的变换系数值进行去非归一化处理是指将变换系数以及候选量化值经过反量化后恢复的变换系数值分别乘以去非归一化加权矩阵中对应位置的加权值,所述去非归一化加权矩阵与反变换矩阵相关联。
所述计算M个非零变换系数的候选量化值组合对应的编码比特数包括根据变换系数的候选量化值组合生成对应的(run,level)串,并计算(run,level)串的编码比特数。
所述计算(run,level)串的编码比特数,包括对每个(run,level)根据上下文选择码表。
本发明还提出一种变换系数的优化量化装置,该装置包括计算编码失真单元,所述计算编码失真单元的输入为变换系数块和每个非零变换系数的候选量化值,输出为候选量化值组合对应的编码失真;所述计算编码失真单元包括去非归一化处理单元。
所述去非归一化处理单元对输入信号进行去非归一化处理,即去非归一化处理单元的输出为去非归一化处理单元的输入乘以去非归一化加权矩阵中对应位置的加权值。
所述的变换系数的优化量化装置还包括计算编码比特数单元,所述计算编码比特数单元的输入为变换系数优化量化值存储单元的输出、变换系数量化值预测单元的输出、候选量化值生成单元的输出;所述计算编码比特数单元的输出为候选量化值组合对应的编码比特数;所述计算编码比特数单元包括(run,level)串生成单元,码表切换单元,计算(run,level)串比特数单元。
所述(run,level)串生成单元是由变换系数量化值预测单元的输出、候选量化值生成单元的输出、以及变换系数优化量化值存储单元的输出生成候选量化值组合对应的(run,level)串;所述码表切换单元根据变换系数优化量化值存储单元的输出、变换系数量化值预测单元的输出以及候选量化值生成单元的输出信息,依次为每个(run,level)选择二维熵编码码表。
采用本发明有益效果在于:
本发明旨在通过在变换域进行处理,以较低复杂度直接对非归一化变换的变换系数进行优化量化。本发明还考虑到多个非零变换系数的优化量化的相互关联性,提出了一种对变换系数块中M个非零变换系数联合优化量化的方法,在一定的复杂度情况下提高了优化量化的编码效率。
附图说明
图1为本发明一种变换系数优化量化的装置实施例的原理框图。
具体实施方式
下面,结合附图和实施例对本发明进行详细的说明。实施例以使用C2D-VLC的熵编码方法的AVS编码系统作为实施系统。但这并不是说本发明的应用范围限定在使用C2D-VLC熵编码方法的视频编码系统。本发明同样适用于采用其他熵编码方法的视频编码系统。
实施例一:
对于Z1×Z2大小的变换系数块按照一定的扫描顺序,如zig-zag扫描顺序、或zig-zag扫描顺序的倒序、或量化后变换系数熵编码的顺序、或其它预先定义的顺序,排列为一维的变换系数序列该变换系数块的优化量化方法按变换系数序列的顺序进行,其中值为零的变换系数的优化量化值就是零,而对于值不为零的变换系数即非零变换系数则按照上述的一定的扫描顺序排列为一维的非零变换系数序列c1,c2,......cz,使用一个宽度为M的联合优化窗进行M(1≤M≤Z)个非零变换系数联合优化量化,每次滑动Q(1≤Q≤M)个非零变换系数,此例以M=1,Q=1,即每个非零变换系数单独进行优化量化为例,具体包括:
1非零变换系数生成若干候选量化值:每个非零变换系数cn(n=1~Z)生成Kn个候选量化值其中Kn为大于等于1的整数。可按多种方式生成候选量化值。例如,假设当前的量化步长为Qstep,则令level_double=|cn|÷Qstep。用lint表示level_double的整数部分,用lfl表示level_double的小数部分,则对cn可以按如下规则生成候选量化值:
2.1计算编码失真D,例如:
wi为去非归一化加权矩阵W中位置与ci在变换系数块中的位置相同的元素即W中与ci对应位置的加权值,为由ci的候选量化值经过反量化后恢复的变换系数值,反量化方法通常在各种图像、视频编解码标准中都有明确定义;err(A,B)是表征A和B之间失真的函数,例如err(A,B)=|A-B|;去非归一化加权矩阵W与非归一化反变换矩阵相关,具体如下:
不失一般性,对于反变换是二维可分离变换,反变换过程可以用垂直和水平变换核矩阵ITv和ITh描述为:
Y=ITv×CoeffM×ITh
其中,CoeffM为量化后的变换系数块,Y为反变换后的变换系数块,)
则:W=(||ITv||×||ITh||)
其中, 其中
以AVS-P2标准中使用的8x8反变换为例,
得到
去非归一化加权矩阵还可以由其它近似于上述W矩阵中系数之间的比例关系的其它矩阵代替。
对于反变换是二维不可分离的变换,也可用类似上面所述的方法通过
计算反变换矩阵的模而导出,具体不再赘述。
2.2计算编码比特数R
当前的待量化的非零变换系数为ci,假设对于ci生成的候选量化值为 即Ki=3。在计算编码比特数R时需要用到整个块所有系数的量化值,对于值为零的变换系数,认为其优化量化值为零;对于ci-1,ci-2......c1,使用已经确定好的优化量化值对于cz×z,cz×z-1......ci+1这一部分还未确定量化值的系数,使用预测量化值作为计算R时的量化值。按照下述方法进行计算:
其中f为0到1之间的常数。
此例中,3个候选量化值对应3个变换系数量化序列:
Seq1:
Seq2:
Seq3:
根据每个序列生成相应的(run,level)串,计算每个相应的(run,level)串编码比特数:
其中,Num_of_run_level是(run,level)串中(run,level)的个数,rn为编码第n个(run,level)所需要的比特数,rother是编码其他一些标志信息比如E0B,模式信息等所需要的比特数。每个rn的计算需要根据上下文选择码表,计算编码第n个(run,level)所需要的比特数编码比特数。码表的选择按图像、视频标准中规定的方法,此处不再累述。
2.3计算编码代价J
变换系数块的编码代价J的计算方法有很多,本实施例根据率失真理论
以拉格朗日率失真函数计算编码代价:
J(li,k cand)=D(li,k cand)+λ*R(li,k cand)
的编码比特数,λ为拉格朗日系数,是个经验值,由统计得到。
3依次对每个非零变换系数执行上述2的操作,直到该变换系数块所有变换系数得到优化量化值为止。
实施例二:
对于Z1×Z2大小的变换系数块按照一定的扫描顺序,如zig-zag扫描顺序、或zig-zag扫描顺序的倒序、或量化后变换系数熵编码的顺序、或其它预先定义的顺序,排列为一维的变换系数序列该变换系数块的优化量化方法按变换系数序列的顺序进行,其中值为零的变换系数的优化量化值就是零,而对于值不为零的变换系数即非零变换系数则按照上述的一定的扫描顺序排列为一维的非零变换系数序列c1,c2,......cz,使用一个宽度为M的联合优化窗进行M(1≤M≤Z)个非零变换系数联合优化量化,每次滑动Q(1≤Q≤M)个非零变换系数,此例以M=2,Q=1,即2个非零变换系数进行优化量化为例,具体如下文所述:
1非零变换系数生成若干候选量化值:每个非零变换系数cn(n=1~Z)生成Kn个候选量化值其中Kn为大于等于1的整数。可按多种方式生成候选量化值。例如,假设当前的量化步长为Qstep,则令level_double=|cn|÷Qstep。用lint表示level_double的整数部分,用lfl表示level_double的小数部分,则对cn可以按如下规则生成候选量化值:
2.1计算编码失真D,例如:
wi为去非归一化加权矩阵W中位置与与ci在变换系数块中的位置相同的元素即W中与ci对应位置的加权值,为由ci的候选量化值经过反量化后恢复的变换系数值,反量化方法通常在各种图像、视频编解码标准中都有明确定义;err(A,B)是表征A和B之间失真的函数,例如err(A,B)=(A-B)2;去非归一化加权矩阵W与非归一化反变换矩阵相关,具体如下:
不失一般性,反变换是二维可分离变换,反变换过程可以用垂直和水平变换核矩阵ITv和ITh描述为:
Y=ITv×CoeffM×ITh
其中,CoeffM为量化后的变换系数块,Y为反变换后的变换系数块,
则:W=(||ITv||×||ITh||)
其中, 其中
以AVS-P2标准中使用的4x4反变换为例:
则
去非归一化加权矩阵还可以由其它近似于上述W矩阵中系数之间的比例关系的其它矩阵代替。例如以w00归一并取近似2位小数则得到以下去非归一化加权矩阵W:
对于反变换是二维不可分离的变换,也可用类似上面所述的方法通过计算反变换矩阵的模而导出,具体不再赘述。
2.2计算编码比特数R
当前的待量化的非零变换系数为ci,ci-1。假设对于ci生成的候选量化值为 即Ki=3;对于ci-1生成的候选量化值为 即Ki-1=2。在计算编码比特数R时需要用到整个块所有系数的量化值,对于值为零的变换系数,认为其优化量化值为零;对于ci-2,ci-3......c1使用已经确定好的优化量化值对于cz×z,cz×z-1......ci+1这一部分还未确定量化值的系数,可以使用预测量化值作为计算R时的量化值。按照下述方法进行计算:
其中f为0到1之间的常数。
此例中,6种候选量化值组合对应6个变换系数量化序列:
Seq1:
Seq2:
Seq3:
Seq4:
Seq5:
Seq6:
根据每个序列生成相应的(run,level)串,计算相应的(run,level)串编码比特数:
其中rn为编码第n个(run,level)所需要的比特数,Num_of_run_level与当前候选组合相关,rother是编码其他一些标志信息比如E0B,模式信息等所需要的比特数。每个rn的计算需要根据上下文选择码表,计算编码第n个(run,level)所需要的比特数编码比特数。码表的选择按图像、视频标准中规定的方法,此处不再累述。
2.3计算编码代价J:
变换系数块的编码代价J的计算方法有很多,例如根据率失真理论以拉格朗日率失真函数计算编码代价:
3滑动Q个非零变换系数重复执行上述2操作,直到该变换系数块所有变换系数得到优化量化值为止。
此例中Q=1,因此所述滑动Q个非零变换系数重复执行上述2操作即i=i+Q=i+1后重复执行上述2操作。
实施例三:
对于Z1×Z2大小的变换系数块按照一定的扫描顺序,如zig-zag扫描顺序、或zig-zag扫描顺序的倒序、或量化后变换系数熵编码的顺序、或其它预先定义的顺序,排列为一维的变换系数序列该变换系数块的优化量化方法按变换系数序列的顺序进行,其中值为零的变换系数的优化量化值就是零,而对于值不为零的变换系数即非零变换系数则按照上述的一定的扫描顺序排列为一维的非零变换系数序列c1,c2,......cz,使用一个宽度为M的联合优化窗进行M(1≤M≤Z)个非零变换系数联合优化量化,每次滑动Q(1≤Q≤M)个非零变换系数,此例中M=3,Q=3,即3个非零变换系数进行联合优化量化,如下文所述,具体包括:
1非零变换系数生成若干候选量化值:每个非零变换系数cn(n=1~Z)生成Kn个候选量化值其中Kn为大于等于1的整数。可按多种方式生成候选量化值。例如,假设当前的量化步长为Qstep,则令level_double=|cn|÷Qstep。用lint表示level_double的整数部分,用lfl表示level_double的小数部分,则对cn可以按如下规则生成候选量化值:
2对非零变换系数ci-2的候选量化值(g=1~Ki-2)、ci-1的候选量化值(h=1~Ki-1)以及ci的候选量化值(k=1~Ki)的组合计算相应的编码代价J,并选取使编码代价J最小的候选量化值组合作为变换系数ci-2,ci-1,ci的优化量化值。
2.1当前块的编码失真D的计算,例如:
wi为去非归一化加权矩阵W中位置与与ci在变换系数块中的位置相同的元素即W中与ci对应位置的加权值,为由ci的候选量化值经过反量化后恢复的变换系数值,反量化方法通常在各种图像、视频编解码标准中都有明确定义;err(A,B)是表征A和B之间失真的函数,例如err(A,B)=(A-B)2;去非归一化加权矩阵W与非归一化反变换矩阵相关,具体如下:
不失一般性,反变换是二维可分离变换,反变换过程可以用垂直和水平变换核矩阵ITv和ITh描述为:
Y=ITv×CoeffM×ITh
其中,CoeffM为量化后的变换系数块,Y为反变换后的变换系数块,
则:W=(||ITv||×||ITh||)
其中, 其中
以AVS-P2标准中使用的4x4反变换为例:
得到
去非归一化加权矩阵还可以由其它近似于上述W矩阵中系数之间的比例关系的其它矩阵代替。
对于反变换是二维不可分离的变换,也可用类似上面所述的方法通过计算反变换矩阵的模而导出,具体不再赘述。
2.2计算编码比特数R
当前的待量化的非零变换系数为ci,ci-1,ci-2。假设对于ci生成的候选量化值为 即Ki=3;对于ci-1生成的候选量化值为 即Ki-1=2;对于ci-2生成的候选量化值为 即Ki-2=3。在计算编码比特数R时需要用到整个块所有系数的量化值,对于值为零的变换系数,认为其优化量化值为零;对于ci-3,ci-4......c1使用已经确定好的优化量化值对于cz×z,cz×z-1......ci+1这一部分还未确定量化值的系数,可以使用预测量化值作为计算J时的量化值。按照下述方法进行计算:
其中f为0到1之间的常数。
根据每个序列生成相应的(run,level)串,计算每个序列相应的(run,level)串的编码比特数:
其中rn为编码第n个(run,level)所需要的比特数,Num_of_run_level与当前候选组合相关,rother是编码其他一些标志信息比如E0B,模式信息等所需要的比特数。每个rn的计算需要根据上下文选择码表,计算编码第n个(run,level)所需要的比特数编码比特数。码表的选择按图像、视频标准中规定的方法,此处不再累述。
2.3计算编码代价J
变换系数块的编码代价J的计算方法有很多,例如根据率失真理论以拉格朗日率失真函数计算编码代价:
3滑动Q个非零变换系数重复执行上述2操作,直到该变换系数块所有变换系数得到优化量化值为止。
此例中Q=3,因此滑动Q个非零变换系数重复执行上述2操作即i=i+Q=i+3后重复执行上述2操作。
实施例四:
一种变换系数的优化量化装置。其结构如图1所示。该装置包括候选量化值生成单元,变换系数量化值预测单元,变换系数优化量化值存储单元,计算编码失真单元,计算编码比特数单元,计算编码代价单元,以及优化量化值选择单元。
(1)变换系数块信息输入候选量化值生成单元,候选量化值生成单元对每个值为零的变换系数生成的候选量化值即为零,而对每个非零变换系数cn(n=1~Z)生成Kn个候选量化值其中Kn为大于等于1的整数。具体候选值的生成方法如实施例一~实施例三中所述。
其中f为0到1之间的常数,cn为输入的的变换系数块中的变换系数,Qstep为量化步长。
(3)变换系数优化量化值存储单元的输入端接优化量化值选择单元的输出端,变换系数优化量化值存储单元存储已经经过优化量化的变换系数的优化量化值lopt,其中对于值为零的变换系数,其优化量化值为零;对于值不为零的变换系数即非零变换系数,其优化量化值由优化量化值选择单元提供。
(4)计算编码失真单元输入端接变换系数块以及候选量化值生成单元的输出端,输出M个非零变换系数ci,ci-1,......,ci-M+1的候选量化值组合[(k=1~Ki),(h=1~Ki-1),……,(f=1~Ki-M+1)]所对应的编码失真:
wi为去非归一化加权矩阵W中位置与ci在变换系数块中的位置相同的元素即W中与ci对应位置的加权值;为由ci的候选量化值经过反量化后恢复的变换系数;err(A,B)是表征A和B之间失真的函数。该计算编码失真单元包括反量化单元,去非归一化处理单元,err(A,B)函数计算单元。其中:
4.1反量化单元输入为候选量化值生成单元的输出,反量化单元为每一个非零变换系数的每一个候选量化值生成对应的经过反量化后恢复的变换系数值。反量化方法按图像、视频编解码标准定义。
4.2去非归一化处理单元输入为经过反量化后恢复的变换系数值或变换系数块,去非归一化处理单元对输入信号进行去非归一化处理,即将输入信号乘以去非归一化加权矩阵,得到去非归一化处理单元的输出。其中去非归一化加权矩阵与反变换矩阵相关联,不失一般性,对于反变换是二维可分离变换,反变换过程可以用垂直和水平变换核矩阵ITv和ITh描述为:
Y=ITv×CoeffM×ITh
其中,CoeffM为量化后的变换系数块,Y为反变换后的变换系数块,
则:W=(||ITv||×||ITh||)
其中, 其中
对于反变换是二维不可分离的变换,也可用类似上面所述的方法通过计算反变换矩阵的模而导出,具体不再赘述。
4.3.err(A,B)函数计算单元的输入为去非归一化处理单元的输出,err(A,B)函数计算单元计算经过去归一化处理的变换系数A和经过去归一化处理的变换系数B之间的编码失真,err(A,B)函数具体如实施例一~实施例三中所述。
(5)计算编码比特数单元的输入端接候选量化值生成单元的输出端、变换系数量化值预测单元的输出端、以及变换系数优化量化值存储单元的输出端,输出非零变换系数ci,ci-1,......,ci-M+1的候选量化值组合[(k=1~Ki),(h=1~Ki-1),……,(s=1~Ki-M+1)]对应的编码比特数:
计算编码比特数单元包括(run,level)串生成单元,码表切换单元,二维熵编码码表存储单元,计算(run,level)串比特数单元,计算其他标志信息比特数单元。其中:
5.1(run,level)串生成单元由变换系数量化值预测单元的输出、候选量化值生成单元的输出、以及变换系数优化量化值存储单元的输出生成候选量化值组合对应的(run,level)串。
5.2二维熵编码码表存储单元存储所有编码变换系数所需要的二维熵编码码表;
5.3码表切换单元根据变换系数优化量化值存储单元的输出、变换系数量化值预测单元的输出以及候选量化值生成单元的输出信息,依次为每个(run,level)选择二维熵编码码表,码表的选择按图像、视频标准中规定的方法,此处不再累述;
5.4计算(run,level)串比特数单元根据码表切换单元选择的、存储在二维熵编码码表存储单元的、每个(run,level)对应的二维熵编码码表,计算(run,level)串比特数其中rn为编码第n个(run,level)所需要的比特数。
5.5计算其他标志信息比特数单元计算编码其他一些标志信息比如E0B,模式信息等所需要的比特数rother。
5.6计算(run,level)串比特数单元输出与计算其他标志信息比特数单元相加的结果就是计算编码比特数单元的输出
(6)计算编码代价单元的输入端接计算失真单元的输出端和计算编码比特数单元的输出端,使用拉格朗日函数由计算失真单元的输出和计算编码比特数单元的输出计算编码代价,输出每个候选量化值组合对应的编码代价:
(7)优化量化值选择单元的输入端接计算编码代价的输出端,优化量化值选择单元选取使编码代价最小的候选量化值组合作为该M个非零变换系数系数的优化量化值。
Claims (10)
1.一种变换系数优化量化的方法,其特征在于对包含有Z个非零变换系数的Z1×Z2大小的变换系数块按如下步骤进行优化量化:
(1)对每个非零变换系数生成若干候选量化值;
(2)对M个非零变换系数的候选量化值之组合计算相应的编码代价,并选取使编码代价最小的候选量化值之组合作为该M个非零变换系数的优化量化值;所述计算相应的编码代价包括计算编码失真和计算编码比特数;所述计算编码失真包括对变换系数以及候选量化值经过反量化后恢复的变换系数值进行去非归一化处理;
(3)滑动Q个非零变换系数执行上述(2)操作,直到该变换系数块中所有变换系数得到优化量化值为止;
其中:Z<=Z1×Z2,1≤M≤Z,1≤Q≤M。
2.如权利要求1所述的变换系数优化量化的方法,其特征在于:所述对变换系数以及候选量化值经过反量化后恢复的变换系数值进行去非归一化处理是指将变换系数以及候选量化值经过反量化后恢复的变换系数值分别乘以去非归一化加权矩阵中对应位置的加权值,所述去非归一化加权矩阵与反变换矩阵相关联。
4.如权利要求1或2或3所述的变换系数优化量化的方法,其特征在于:所述计算M个非零变换系数的候选量化值组合对应的编码比特数包括根据变换系数的候选量化值组合生成对应的(run,level)串,并计算(run,level)串的编码比特数。
5.如权利要求4所述的变换系数优化量化的方法,其特征在于:所述计算(run,level)串的编码比特数,包括对每个(run,level)根据上下文选择码表。
6.一种变换系数的优化量化装置,其特征在于:包括计算编码失真单元,所述计算编码失真单元的输入为变换系数块和每个非零变换系数的候选量化值,输出为候选量化值组合对应的编码失真;所述计算编码失真单元包括去非归一化处理单元。
7.如权利要求6所述的变换系数的优化量化装置,其特征在于:所述去非归一化处理单元对输入信号进行去非归一化处理,即去非归一化处理单元的输出为去非归一化处理单元的输入乘以去非归一化加权矩阵中对应位置的加权值。
9.如权利要求6或7或8所述的变换系数的优化量化装置,其特征还在于:还包括计算编码比特数单元,所述计算编码比特数单元的输入为变换系数优化量化值存储单元的输出、变换系数量化值预测单元的输出、候选量化值生成单元的输出;所述计算编码比特数单元的输出为候选量化值组合对应的编码比特数;所述计算编码比特数单元包括(run,level)串生成单元,码表切换单元,计算(run,level)串比特数单元。
10.如权利要求9所述的变换系数的优化量化装置,其特征在于:所述(run,level)串生成单元是由变换系数量化值预测单元的输出、候选量化值生成单元的输出、以及变换系数优化量化值存储单元的输出生成候选量化值组合对应的(run,level)串;所述码表切换单元根据变换系数优化量化值存储单元的输出、变换系数量化值预测单元的输出以及候选量化值生成单元的输出信息,依次为每个(run,level)选择二维熵编码码表。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201010256106 CN101938654B (zh) | 2010-08-17 | 2010-08-17 | 一种变换系数的优化量化方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201010256106 CN101938654B (zh) | 2010-08-17 | 2010-08-17 | 一种变换系数的优化量化方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101938654A true CN101938654A (zh) | 2011-01-05 |
CN101938654B CN101938654B (zh) | 2013-04-10 |
Family
ID=43391753
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 201010256106 Active CN101938654B (zh) | 2010-08-17 | 2010-08-17 | 一种变换系数的优化量化方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101938654B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104244010A (zh) * | 2013-06-14 | 2014-12-24 | 浙江大学 | 提高数字信号变换性能的方法及数字信号变换方法和装置 |
CN104935924A (zh) * | 2011-06-30 | 2015-09-23 | 三星电子株式会社 | 用于对视频进行解码的方法 |
CN105898299A (zh) * | 2015-12-14 | 2016-08-24 | 乐视云计算有限公司 | 基于变换块大小的自适应量化方法及装置 |
CN107517384A (zh) * | 2011-06-16 | 2017-12-26 | Ge视频压缩有限责任公司 | 支持模式切换的熵编码 |
CN110546952A (zh) * | 2017-03-21 | 2019-12-06 | Lg电子株式会社 | 图像编码系统中的变换方法和用于该变换方法的设备 |
CN110944179A (zh) * | 2018-11-18 | 2020-03-31 | 北京达佳互联信息技术有限公司 | 一种视频数据解码方法及装置 |
CN111741302A (zh) * | 2020-08-07 | 2020-10-02 | 腾讯科技(深圳)有限公司 | 数据处理方法、装置、计算机可读介质及电子设备 |
CN113573056A (zh) * | 2021-05-25 | 2021-10-29 | 杭州博雅鸿图视频技术有限公司 | 一种率失真优化量化的方法、装置、存储介质及终端 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1471319A (zh) * | 2002-07-22 | 2004-01-28 | 中国科学院计算技术研究所 | 结合率失真优化的码率控制的方法及其装置 |
CN1575546A (zh) * | 2001-08-30 | 2005-02-02 | 诺基亚有限公司 | 变换及后续量化的实现 |
CN1589015A (zh) * | 2004-08-06 | 2005-03-02 | 浙江大学 | 视频或图像压缩中准能量守恒变换的方法和装置 |
US20070036223A1 (en) * | 2005-08-12 | 2007-02-15 | Microsoft Corporation | Efficient coding and decoding of transform blocks |
CN101014128A (zh) * | 2007-02-02 | 2007-08-08 | 清华大学 | H.264/avc视频编码中速率和失真的快速估计方法 |
CN101389031A (zh) * | 2007-09-14 | 2009-03-18 | 浙江大学 | 一种对变换系数的处理方法及装置 |
CN101521819A (zh) * | 2008-02-27 | 2009-09-02 | 深圳市融合视讯科技有限公司 | 一种在视频图像压缩中对率失真进行优化的方法 |
CN101795412A (zh) * | 2004-07-14 | 2010-08-04 | 喷流数据有限公司 | 用于数据压缩优化的方法和系统 |
-
2010
- 2010-08-17 CN CN 201010256106 patent/CN101938654B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1575546A (zh) * | 2001-08-30 | 2005-02-02 | 诺基亚有限公司 | 变换及后续量化的实现 |
CN1471319A (zh) * | 2002-07-22 | 2004-01-28 | 中国科学院计算技术研究所 | 结合率失真优化的码率控制的方法及其装置 |
CN101795412A (zh) * | 2004-07-14 | 2010-08-04 | 喷流数据有限公司 | 用于数据压缩优化的方法和系统 |
CN1589015A (zh) * | 2004-08-06 | 2005-03-02 | 浙江大学 | 视频或图像压缩中准能量守恒变换的方法和装置 |
US20070036223A1 (en) * | 2005-08-12 | 2007-02-15 | Microsoft Corporation | Efficient coding and decoding of transform blocks |
CN101014128A (zh) * | 2007-02-02 | 2007-08-08 | 清华大学 | H.264/avc视频编码中速率和失真的快速估计方法 |
CN101389031A (zh) * | 2007-09-14 | 2009-03-18 | 浙江大学 | 一种对变换系数的处理方法及装置 |
CN101521819A (zh) * | 2008-02-27 | 2009-09-02 | 深圳市融合视讯科技有限公司 | 一种在视频图像压缩中对率失真进行优化的方法 |
Non-Patent Citations (1)
Title |
---|
《信号处理》 20031231 蒋文军等 基于率失真优化的递进UTCQ编码 540-545 1-10 第19卷, 第6期 * |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107517384B (zh) * | 2011-06-16 | 2020-06-30 | Ge视频压缩有限责任公司 | 解码器、编码器、解码方法、编码方法以及存储介质 |
CN107517384A (zh) * | 2011-06-16 | 2017-12-26 | Ge视频压缩有限责任公司 | 支持模式切换的熵编码 |
US9888242B2 (en) | 2011-06-30 | 2018-02-06 | Samsung Electronics Co., Ltd. | Video encoding method with bit depth adjustment for fixed-point conversion and apparatus therefor, and video decoding method and apparatus therefor |
CN104935924A (zh) * | 2011-06-30 | 2015-09-23 | 三星电子株式会社 | 用于对视频进行解码的方法 |
CN104244010A (zh) * | 2013-06-14 | 2014-12-24 | 浙江大学 | 提高数字信号变换性能的方法及数字信号变换方法和装置 |
CN108200439A (zh) * | 2013-06-14 | 2018-06-22 | 浙江大学 | 提高数字信号变换性能的方法及数字信号变换方法和装置 |
US10511860B2 (en) | 2013-06-14 | 2019-12-17 | Samsung Electronics Co., Ltd. | Signal transforming method and device |
CN108200439B (zh) * | 2013-06-14 | 2020-08-21 | 浙江大学 | 提高数字信号变换性能的方法及数字信号变换方法和装置 |
CN105898299A (zh) * | 2015-12-14 | 2016-08-24 | 乐视云计算有限公司 | 基于变换块大小的自适应量化方法及装置 |
CN110546952A (zh) * | 2017-03-21 | 2019-12-06 | Lg电子株式会社 | 图像编码系统中的变换方法和用于该变换方法的设备 |
CN110944179A (zh) * | 2018-11-18 | 2020-03-31 | 北京达佳互联信息技术有限公司 | 一种视频数据解码方法及装置 |
CN110944179B (zh) * | 2018-11-18 | 2022-01-25 | 北京达佳互联信息技术有限公司 | 一种视频数据解码方法及装置 |
CN111741302A (zh) * | 2020-08-07 | 2020-10-02 | 腾讯科技(深圳)有限公司 | 数据处理方法、装置、计算机可读介质及电子设备 |
CN113573056A (zh) * | 2021-05-25 | 2021-10-29 | 杭州博雅鸿图视频技术有限公司 | 一种率失真优化量化的方法、装置、存储介质及终端 |
Also Published As
Publication number | Publication date |
---|---|
CN101938654B (zh) | 2013-04-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101938654A (zh) | 一种变换系数的优化量化方法及装置 | |
CN104581161B (zh) | 通过使用大型变换单元编码和解码图像的方法和设备 | |
CN101911702B (zh) | 针对支持cabac的视频编码过程而量化视频块的系数的方法和装置 | |
CN105791867B (zh) | 基于边界自适应变换的优化视频数据编码方法 | |
CN104735454B (zh) | 通过使用大变换单元对图像进行编码和解码的方法和设备 | |
CN101867811B (zh) | 图像编码装置和图像编码方法 | |
CN102334337A (zh) | 选择性使用离散正余弦转换的编解码装置和方法 | |
CN101496406B (zh) | 图像编码/解码方法和设备 | |
CN101540912B (zh) | 对编码视频数据选择编码类型和预测模式 | |
CN102740077B (zh) | 基于h.264/avc标准的帧内预测模式选择方法 | |
CN103782598A (zh) | 用于无损编码的快速编码方法 | |
CN103329522A (zh) | 用于使用字典编码视频的方法 | |
CN101785318B (zh) | 图像处理装置和图像处理方法 | |
CN102893604A (zh) | 用于视频的数据压缩 | |
CN101945280A (zh) | 对编码视频数据选择编码类型和预测模式 | |
CN102932642B (zh) | 一种帧间编码快速模式选择方法 | |
CN101971632A (zh) | 自适应滤波 | |
CN104247422A (zh) | 用于改进帧内预测的新的角度表 | |
CN104506875A (zh) | 用于高分辨率运动图像的编码/解码方法 | |
CN101222635A (zh) | 帧内预测方法 | |
CN103188494A (zh) | 跳过离散余弦变换对深度图像编码/解码的设备和方法 | |
CN102752596A (zh) | 一种率失真优化方法 | |
KR20120009693A (ko) | 다중 예측 필터를 이용하는 경쟁기반 인트라 예측 부호화/복호화 장치 및 방법 | |
CN103024392A (zh) | 基于二维哈达玛变换的帧内模式预测方法及装置 | |
CN103299638B (zh) | 自适应扫描装置及其扫描方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |