CN100592795C

CN100592795C - 一种视频编码标准中的整数变换基优选方法

Info

Publication number: CN100592795C
Application number: CN 200710169047
Authority: CN
Inventors: 胡瑞敏; 王中元; 高尚; 韩镇
Original assignee: Wuhan University WHU
Current assignee: Wuhan University WHU
Priority date: 2007-12-27
Filing date: 2007-12-27
Publication date: 2010-02-24
Anticipated expiration: 2027-12-27
Also published as: CN101198059A

Abstract

本发明属于视频编码领域，特别涉及一种视频编码标准中的整数变换基优选方法，其特征在于包括以下步骤：步骤1，依据DCT变换系数矩阵C，求解其对应整数变换矩阵I的表达式，其中C的系数标记为c_k，I的系数标记为i_k，k＝0～N；步骤2，将i_k归一化，求得标定系数j_k，k＝0～N；步骤3，采用搜索方法搜索求解i_k以组成变换基，搜索时依循以下4个约束条件，II^T矩阵中对角线以外的元素均满足取值为0；限制搜索求解i_k时的搜索步长为1/2；标定系数j_k需满足门限要求，门限数值取决于期望搜索得到的变换基数目；所取整数变换矩阵I中系数i_k的最大幅度为15；步骤4，将搜索得到的变换基尺度化到整数，得到矩阵C对应的整数变换基。采用本发明可以全面快速地得到高质量的整数变换基。

Description

一种视频编码标准中的整数变换基优选方法

技术领域

本发明属于视频编码领域，特别涉及一种视频编码标准中的整数变换基优选方法。

背景技术

新一代视频编码标准H.264是由国际电信联合会(ITU)与国际标准组织(ISO)的联合视频小组(JVT)负责开发，面向实际应用的最新发展的标准。其目标是基于高的视频分辨率，提高图像质量，并能够覆盖所有低带宽和高带宽的应用。H.264是在ITU-T增强型多媒体通信标准H.26L基础上推出的能够为ITU-T和ISO/IEC共同使用的单一的新一代视频编码标准，并且在技术上同MPEG标准形成体系。

H.264与先前的标准相似，对残差数据采用基于块的变换编码，变换编码可以去除原始图像的空间冗余，使图像能量集中在一小部分系数上，提高压缩比，增强抗干扰能力。而H.264采用的变换是近似DCT的无乘法整数变换，又称整数DCT变换。需要注意的是，此处的变换已经不是真正的DCT，仍然称其为DCT变换只是为了说它是由DCT推导而来，且为了和另一个变换(Hadamard变换)相区别。H.264的整数DCT变换中只有整数运算，消除了浮点运算，减少了运算量，并且精确的整数排除了编码器和解码器反变换之间的误差匹配问题。

整数变换基不是唯一的，国际上一些大公司都提出了自己的整数变换基，并申请了专利保护，为我国自有的音视频标准建立带来障碍。而且从技术层面上看，尽管这些现有整数变换基具有很好的变换特性，但一般都是通过试探的办法发现的，发现的过程带有偶然性，效率极低而且不全面。

发明内容

本发明的目的在于解决现有整数变换基获取方法的不足，提出规律性的整数变换基优选方法。

本发明提供的整数变换基优选方法包括以下步骤：

步骤1，依据DCT变换系数矩阵C，求解其对应整数变换矩阵I的表达式，其中C的系数标记为c_k，I的系数标记为i_k，k＝0～N；

步骤2，将i_k归一化，求得标定系数j_k，k＝0～N；

步骤3，采用搜索方法搜索求解i_k以组成变换基，搜索时依循以下4个约束条件，

II^T矩阵中对角线以外的元素均满足取值为0，所述II^T矩阵由整数变换矩阵I乘以其转置矩阵取得；

限制搜索求解i_k时的搜索步长为1/2；

标定系数j_k需满足

Σ_{k = 0}^{N} | j_{k} - c_{k} | < T_{f}, k = 0,1, . . ., N,

T_f表示门限，所述T_f的数值取0.03；

所取整数变换矩阵I中系数i_k的最大幅度为15；

步骤4，将搜索得到的变换基尺度化到整数，得到DCT变换系数矩阵C对应的整数变换基。

而且，进一步严格搜索的约束条件，标定系数j_k需满足

Σ_{k = 0}^{N} | j_{k} - c_{k} | * f_{k} < T_{f}, k = 0,1, . . ., N,

其中加权系数

f_{k} = \frac{c_{k}}{Σ_{j = 0}^{j = N} c_{j}}, k = 0,1 . . . N .

本发明通过分析整数DCT变换的原理，指出了整数变换矩阵应该满足的四个约束条件，然后以满足正交性约束为出发点，导出了整数变换矩阵元素之间的数量关系，并辅以另外三个约束条件，采用搜索方法寻找整数变换基。采用本发明的技术方案方法，只需经过几十步的搜索后，就可找出所有可用整数变换基，效率高且全面。本发明不仅有利于提高实际应用视频标准时的通信质量，对于我国制定有自主知识产权的视频压缩标准具有重要意义。

具体实施方式

本发明提供的整数变换基优选方法包括以下步骤：

步骤1，依据DCT变换系数矩阵C，求解其对应整数变换矩阵I的表达式，其中C的系数标记为c_k，I的系数标记为i_k，k＝0～N；DCT变换系数矩阵C一般包含M×M个元素，M＝4、8、16…；N表示系数矩阵中数值不同的系数的个数，数值根据具体情况而定；

步骤2，将i_k归一化，求得标定系数j_k，k＝0～N；

(a)II^T矩阵中对角线以外的元素均满足取值为0，所述II^T矩阵由整数变换矩阵I乘以其转置矩阵取得；

(b)限制搜索求解i_k时的搜索步长为1/2；

(c)标定系数j_k需满足

Σ_{k = 0}^{N} | j_{k} - c_{k} | < T_{f}, k = 0,1, . . ., N,

T_f表示门限，门限数值取决于期望搜索得到的变换基数目；

(d)所取整数变换矩阵I中系数i_k的最大幅度为15；

步骤4，将搜索得到的变换基尺度化到整数，得到DCT变换系数矩阵C对应的整数变换基。由于整数变换运算只允许出现整数类型的加、减、乘和移位等算术运算，所以搜索得到的系数i_k除整数外，还可以出现0.5这样的值(0.5意味着右移1位的运算)。具体实施时可以通过搜索过程中获得的标定系数j_k构成归一化矩阵，通过修改归一化矩阵，变换基都可以尺度化到整数。

整数变换矩阵的4个基本特性为：①能归一化成正交矩阵；②变换运算可全部用移位运算实现；③归一化后的正交矩阵同原始的DCT变换矩阵系数相近；④整数变换矩阵系数不是很大，变换运算能用16位精度表示。本发明根据上述4个原则，设计整数变换矩阵的优选方法，将4个基本特性转换为搜索变换基的约束条件，在高效搜索下全面得到合适的整数变换基。其中约束条件(a)对应特性①；约束条件(b)对应特性②；约束条件(c)对应特性③；约束条件(d)对应特性④。由于特性①为基础，搜索时应当以满足正交性约束为出发点，导出了整数变换矩阵I内元素之间的数量关系，然后辅以另外三个约束条件采用搜索方法寻找变换基。由于给出了充分的优选约束条件，几十步搜索内就可以找到一定系数c_k所对应的全部优选整数变换基。

具体实施时门限T_f数值取决于期望搜索得到的变换基数目，可以增大其数值，以降低变换基质量为代价而得到更多候选的变换基，本发明建议优选实施例采用0.03.考虑特性③的同时，还可以考虑幅度较大的系数对变换后的能量贡献较大，进一步严格搜索约束条件(c)标定系数j_k需满足为

Σ_{k = 0}^{N} | j_{k} - c_{k} | * f_{k} < T_{f}, k = 0,1, . . ., N,

其中加权系数

f_{k} = \frac{c_{k}}{Σ_{j = 0}^{j = N} c_{j}}, k = 0,1 . . . N .

经加权系数修正后，求取得到的整数变换基更精确。

以8x8整数变换矩阵的求解为实施例，其生成过程如下：

8x8DCT变换系数矩阵为

系数共有7种取值：0.353553、0.490393、0.415735、0.277785、0.097545、0.461940、0.191342，依次记为：c₀、c₁、c₂、c₃、c₄、c₅、c₆。令其对应的整数DCT变换矩阵系数分别为：i₀、i₁、i₂、i₃、i₄、i₅、i₆，则整数矩阵I可写为

为了满足正交性，考虑

其中，

a＝8i₀ ²

b＝2(i₁ ²+i₂ ²+i₃ ²+i₄ ²)

c＝4(i₅ ²+i₆ ²)

d＝i₃(i₁+i₄)-i₂(i₁-i₄)

将系数i₀、i₁、i₂、i₃、i₄、i₅、i₆归一化得到标定系数j₀、j₁、j₂、j₃、j₄、j₅、j₆，也即，

J_{k} = \{\begin{matrix} \frac{l_{k}}{\sqrt{a}} & k = 0 \\ \frac{l_{k}}{\sqrt{b}} & k = 1,2,3,4 \\ \frac{l_{k}}{\sqrt{c}} & k = 5,6 \end{matrix}

依据上述求解步骤(a)有d＝0，即i₃(i₁+i₄)＝i₂(i₁-i₄)；依据条件(b)限制寻找整数变换基时的搜索步长为1/2；依据条件(d)限制整数变换矩阵中的系数最大幅度为15；依据求解步骤(c)得到归一化系数j_k需满足不等式

Σ_{k = 0}^{6} | j_{k} - c_{k} | * f_{k} < T_{f}, k = 0,1, . . ., 6,

其中，加权系数

f_{k} = \frac{c_{k}}{Σ_{j = 0}^{j = 6} c_{j}}, k = 0,1 . . . 6,

搜索门限T_f在本发明实施例中取0.03。依据上述4个约束条件，用搜索方法求解得到整数变换基。

对于i₀，从上文变换基的生成原理可以看出，无论i₀取何值，归一化后的系数j₀总是为c0，因此，理论上i₀可以取任何整数值，但为了计算的方便，实施例取i₀为1。对于i₁、i₂、i₃、i₄，按照同原始DCT系数的偏差从小到大的顺序挑选的一组变换基，列于表1。j₀、j₁、j₂、j₃为对应标定后基。同理，对于i₅、i₆，可得到如表2所示的一组变换基。

表1 8x8整数变换基(i₁~i₄)

其中，4号基被AVS参考软件所用，而5号基正好是JVT参考软件中用到的整数变换基。

表2 8x8整数变换基(i₅、i₆)

4x4整数变换的基也可以用类似的方法计算，DCT系数0.653282、0.270598对应的整数变换系数见表3。

表3 4x4整数变换基

JVT参考软件和AVS参考软件都用到其中的6号基。这种吻合足可证明本发明所提供方法的可靠性。

以上各表中提供的候选变换基群属于现有技术中尚未得到的，由于其对于视频编解码质量影响重大，具有重要的市场价值，对于我国在国际视频编码标准方面占据优势地位具有重要意义，本发明特别提出要求保护。

Claims

1.一种视频编码标准中的整数变换基优选方法，其特征在于包括以下步骤：

步骤2，将i_k归一化，求得标定系数j_k，k＝0～N；

步骤3，采用搜索方法搜索求解i_k以构成变换基，搜索时按照以下4个约束条件，

限制搜索求解i_k时的搜索步长为1/2；

标定系数j_k需满足

Σ_{k = 0}^{N} | j_{k} - c_{k} | < T_{f}

k＝0，1，...，N，T_f表示门限，所述T_f的数值取0.03；

所取整数变换矩阵I中系数i_k的最大幅度为15；

2.如权利要求1所述的整数变换基优选方法，其特征在于：进一步严格搜索的约束条件，标定系数j_k需满足

Σ_{k = 0}^{N} | j_{k} - c_{k} | * f_{k} < T_{f}

k＝0，1，...，N，其中加权系数

f_{k} = \frac{c_{k}}{Σ_{j = 0}^{j = N} c_{j}}

k＝0，1...N。