CN100440978C - 一种视频图像编码方法 - Google Patents

Abstract

一种视频编码方法，该方法先对图像进行宏块预测和补偿处理，然后对预测差值进行4×4 DCT-like整数变换处理，再对变换系数分别进行量化和熵编码处理。该方法采用了一种新的4×4 DCT-like整数变换方法和相应的逆变换、量化、逆量化方法，该变换方法的计算复杂度较低，变换过程只涉及到加法和乘法运算，变换性能非常接近于4×4 DCT，从而具有类似于DCT的较好的去相关性能，可以得到较好的视频压缩效果。

Description

一种视频图像编码方法

技术领域

本发明涉及视频处理领域，具体地说，是一种视频图像编码方法。

技术背景

目前，视频领域的技术突飞猛进，关于视频编码的技术方案很多，但由于余弦变换具有较好的去相关性能，并且易于快速实现，因此，在视频编码领域得到了非常广泛的应用，现有的视频压缩标准MPEG-1、MPEG-2、MPEG-4(Part 2)、H.261、H.263都是基于8×8 DCT变换的，其一般的处理框架示意图如图1所示。

H.263的编码压缩框架如图2所示，其中的“T”指的就是图像数据或预测差值数据的8×8 DCT变换。

余弦变换的一般表示方式为：

$F\left(u\right)=\sqrt{\frac{2}{n}}C\left(u\right)\underset{x=0}{\overset{n-1}{\mathrm{\Σ}}}f\left(x\right)\cos \frac{(2x+1)\mathrm{u\π}}{2n},$ u＝0，…，n

其中：

由于DCT变换要进行复杂的浮点运算，在IDCT中还存在由于失配而造成的精度不高问题，因此，一些专家分别提出了一些变换性能接近于DCT变换的整数变换方法，以降低计算复杂度，提高变换精度。

在文献1[Antti Hallapuro，Marta Karczewicz，”Low ComplexityTransform and Quantization-Part I：Basic Implementation”，ISO/IECJTC1/SC29/WG11 and ITU-T SG16 Q.6 Document JVT-B038，January 2002.]给出了一种2D 4×4 DCT-like整数变换方法，其变换矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 2& 1& -1& -2\\ 1& -1& -1& 1\\ 1& -2& 2& -1\end{array}\right]$

还给出了相应的逆变换、量化和逆量化方法。该变换矩阵元素简单，变换计算处理中只有加法和移位操作，硬件实现容易，该方法已被应用于视频压缩标准H.264&MPEG-4(Part 10)中，其编码框图如图3所示。

文献[1]所给出的2D 4×4 DCT-like整数变换方法，虽然其变换性能比较接近于DCT变换，但其变换结果与DCT相比相差较大，从而会降低变换性能及压缩效率。

发明内容

本发明的目的就是给出了一种基于4×4 DCT-like整数变换的视频图像编码方法，为此，本发明采用如下技术方案：

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right]$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right];$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈2.5,$ $a=\frac{1}{2},$ $c=2\sqrt{\frac{1}{58}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 5& 2& -2& -5\\ 1& -1& -1& 1\\ 2& -5& 5& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0657& 0.25& 0.0657\\ 0.0657& 0.0172& 0.0657& 0.0172\\ 0.25& 0.0657& 0.25& 0.0657\\ 0.0657& 0.0172& 0.0657& 0.0172\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值 $\frac{b}{c}\≈0.5,$ $a=\frac{1}{2},$ $c=\sqrt{\frac{2}{5}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& 2& -2& -1\\ 1& -1& -1& 1\\ 2& -1& 1& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.1581& 0.25& 0.1581\\ 0.1581& 0.1000& 0.1581& 0.1000\\ 0.25& 0.1581& 0.25& 0.1581\\ 0.1581& 0.1000& 0.1581& 0.1000\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值 $\frac{b}{c}\≈1.5,$ $a=\frac{1}{2},$ $c=2\sqrt{\frac{1}{26}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 3& 2& -2& -3\\ 1& -1& -1& 1\\ 2& -3& 3& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0981& 0.25& 0.0981\\ 0.0981& 0.0385& 0.0981& 0.0385\\ 0.25& 0.0981& 0.25& 0.0981\\ 0.0981& 0.0385& 0.0981& 0.0385\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈2.4,$ $a=\frac{1}{2},$ $c=\frac{5}{13}\sqrt{\frac{1}{2}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 12& 5& -5& -12\\ 1& -1& -1& 1\\ 5& -12& 12& -5\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0272& 0.25& 0.0272\\ 0.0272& 0.0030& 0.0272& 0.0030\\ 0.25& 0.0272& 0.25& 0.0272\\ 0.0272& 0.0030& 0.0272& 0.0030\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4 × 4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$ 表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈2.6,$ $a=\frac{1}{2},$ $c=\frac{5}{2}\sqrt{\frac{1}{97}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 13& 5& -5& -13\\ 1& -1& -1& 1\\ 5& -13& 13& -5\end{array}\right],$

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{5}& a^2& \frac{\mathrm{ac}}{5}\\ \frac{\mathrm{ac}}{5}& \frac{c^2}{25}& \frac{\mathrm{ac}}{5}& \frac{c^2}{25}\\ a^2& \frac{\mathrm{ac}}{5}& a^2& \frac{\mathrm{ac}}{5}\\ \frac{\mathrm{ac}}{5}& \frac{c^2}{25}& \frac{\mathrm{ac}}{5}& \frac{c^2}{25}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0254& 0.25& 0.0254\\ 0.0254& 0.0026& 0.0254& 0.0026\\ 0.25& 0.0254& 0.25& 0.0254\\ 0.0254& 0.0026& 0.0254& 0.0026\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$

$a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈3.0,$ $a=\frac{1}{2},$ $c=\frac{1}{2}\sqrt{\frac{1}{5}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 3& 1& -1& -3\\ 1& -1& -1& 1\\ 1& -3& 3& -1\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.1118& 0.25& 0.1118\\ 0.1118& 0.0500& 0.1118& 0.0500\\ 0.25& 0.1118& 0.25& 0.1118\\ 0.1118& 0.0500& 0.1118& 0.0500\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈3.5,$ $a=\frac{1}{2},$ $c=2\sqrt{\frac{1}{106}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 7& 2& -2& -7\\ 1& -1& -1& 1\\ 2& -7& 7& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0486& 0.25& 0.0486\\ 0.0486& 0.0094& 0.0486& 0.0094\\ 0.25& 0.0486& 0.25& 0.0486\\ 0.0486& 0.0094& 0.0486& 0.0094\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1.$

一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\begin{array}{c}\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],\end{array}$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\begin{array}{}\end{array}\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈4.0,$ $a=\frac{1}{2},$ $c=\sqrt{\frac{1}{34}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 4& 1& -1& -4\\ 1& -1& -1& 1\\ 1& -4& 4& -1\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0857& 0.25& 0.0857\\ 0.0857& 0.0294& 0.0857& 0.0294\\ 0.25& 0.0857& 0.25& 0.0857\\ 0.0857& 0.0294& 0.0857& 0.0294\end{array}\right);$

所述的视频图像编码方法但将上面所给出的矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即将矩阵C改变为：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ \·\·\·\·\·\·\·\·\·\·\·\·\·\·\·\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left(\mathrm{CX}{C}^T\right)\⊗E=\left(C_{1}X{C_1}^T\right)\⊗E_1$

将所述的相乘处理并入到量化和逆量化处理过程中。

本发明所给出的整数变换方法在计算性能上与现有技术相当，变换过程只涉及到加法和乘法运算，但更接近于DCT的变换性能，从而具有类似于DCT的较好的去相关性能，具有更优的变换性能，可以得到更好的视频压缩效果。

附图说明

图1是基于DCT的视频编码框架示意图；

图2是现有技术中H.263视频编码示意图；

图3是H.264&MPEG-4(Part 10)视频编码框架示意图；

图4是本发明对视频图像进行编码处理的示意图；

图5是本发明对视频图像进行编码处理的流程图。

具体实施方式

下面结合说明书附图来说明本发明的具体实施方式。

如图4及图5所示，是本发明对视频图像进行编码处理的示意图及流程图，从图中可以看出，本发明主要包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿，对P帧图像进行帧间运动估计及运动补偿；

变换器对输入预测差值数据进行变换处理；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出。

对于变换器对输入预测差值数据进行变换处理的步骤和逆变换器对逆量化后系数进行逆变换处理的步骤，本发明中，采用一种新的变换方法和相应的逆变换方法，提出一种新的2D 4×4 DCT-like整数变换方法和相应的量化方法，下面具体介绍一下：其中X为4×4图像数据矩阵或预测差值数据矩阵，Y为相应的4×4变换系数矩阵，T表示矩阵的转置。

我们知道，2D 4×4正向DCT变换方法为：

$Y=\mathrm{AX}{A}^T=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right]---\left(1\right)$

2D 4×4逆向DCT变换方法为：

X＝A^TYA

其中A为变换矩阵， $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right).$

可以将(1)式改写为：

$Y=\mathrm{BCX}{C}^{T}B$

$=\left[\begin{array}{cccc}a& 0& 0& 0\\ 0& c& 0& 0\\ 0& 0& a& 0\\ 0& 0& 0& c\end{array}\right]\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& \frac{b}{c}& 1& 1\\ 1& 1& -1& -\frac{b}{c}\\ 1& -1& -1& \frac{b}{c}\\ 1& -\frac{b}{c}& 1& -1\end{array}\right]\left[\begin{array}{cccc}a& 0& 0& 0\\ 0& c& 0& 0\\ 0& 0& a& 0\\ 0& 0& 0& c\end{array}\right]---\left(2\right)$

$=\left(\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& \frac{b}{c}& 1& 1\\ 1& 1& -1& -\frac{b}{c}\\ 1& -1& -1& \frac{b}{c}\\ 1& -\frac{b}{c}& 1& -1\end{array}\right]\right)\⊗\left[\begin{array}{cccc}{a}^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\\ a^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\end{array}\right]$

其中

表示两个矩阵对应位置的元素相乘。

在文献[1]中，将 $\frac{c}{b}=\sqrt{2}-1=0.41421...$ 近似取为

再由A^TA＝I可得： $b=\sqrt{\frac{2}{5}},$ $c=\sqrt{\frac{1}{10}},$ 从而得到了如下变换方法：

正向变换：

$Y=\left[\begin{array}{cccc}a& 0& 0& 0\\ 0& b& 0& 0\\ 0& 0& a& 0\\ 0& 0& 0& b\end{array}\right]\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& \frac{1}{2}& -\frac{1}{2}& -1\\ 1& -1& -1& 1\\ \frac{1}{2}& -1& 1& -\frac{1}{2}\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& 1& 1& \frac{1}{2}\\ 1& \frac{1}{2}& -1& -1\\ 1& -\frac{1}{2}& -1& 1\\ 1& -1& 1& -\frac{1}{2}\end{array}\right]\left[\begin{array}{cccc}a& 0& 0& 0\\ 0& b& 0& 0\\ 0& 0& a& 0\\ 0& 0& 0& b\end{array}\right]$

$=\left(\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& \frac{1}{2}& -\frac{1}{2}& -1\\ 1& -1& -1& 1\\ \frac{1}{2}& -1& 1& -\frac{1}{2}\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& 1& 1& \frac{1}{2}\\ 1& \frac{1}{2}& -1& -1\\ 1& -\frac{1}{2}& -1& 1\\ 1& -1& 1& -\frac{1}{2}\end{array}\right]\right)\⊗\left[\begin{array}{cccc}{a}^2& \mathrm{ab}& a^2& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{ab}& b^2\\ a^2& \mathrm{ab}& a^2& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{ab}& b^2\end{array}\right]$

$=\left(\left[\begin{array}{cccc}1& 1& 1& 1\\ 2& 1& -1& -2\\ 1& -1& -1& 1\\ 1& -2& 2& -1\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& 2& 1& 1\\ 1& 1& -1& -2\\ 1& -1& -1& 2\\ 1& -2& 1& -1\end{array}\right]\right)\⊗\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right]---\left(3\right)$

逆向变换：

$X=\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& \frac{1}{2}& -\frac{1}{2}& -1\\ 1& -1& -1& 1\\ \frac{1}{2}& -1& 1& -\frac{1}{2}\end{array}\right](\left[\begin{array}{cccc}{y}_{00}& y_{01}& y_{02}& y_{03}\\ y_{10}& y_{11}& y_{12}& y_{13}\\ y_{20}& y_{21}& y_{22}& y_{23}\\ y_{30}& y_{31}& y_{32}& y_{33}\end{array}\right]\⊗\left[\begin{array}{cccc}{a}^2& \mathrm{ab}& a^2& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{ab}& b^2\\ a^2& \mathrm{ab}& a^2& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{ab}& b^2\end{array}\right])\left[\begin{array}{cccc}1& 1& 1& \frac{1}{2}\\ 1& \frac{1}{2}& -1& -1\\ 1& -\frac{1}{2}& -1& 1\\ 1& -1& 1& -\frac{1}{2}\end{array}\right]---\left(4\right)$

由于 $\frac{b}{c}=\sqrt{2}+1=2.41421...,$ 比较(2)、(3)式可以看出，(3)式中的整数变换相当于取 $\frac{b}{c}\≈2,$ 显然过于粗糙，为了进一步提高变换精度，使变换性能更接近于DCT，本专利取 $\frac{b}{c}\≈\frac{5}{2}=2.5,$ 再由A^TA＝I可得： $b=5\sqrt{\frac{1}{58}},$ $c=2\sqrt{\frac{1}{58}},$ 因此，由(2)可得如下变换方法：

正向变换：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

$=\left(\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{5}{2}& 1& -1& -\frac{5}{2}\\ 1& -1& -1& 1\\ 1& -\frac{5}{2}& \frac{5}{2}& -1\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& \frac{5}{2}& 1& 1\\ 1& 1& -1& -\frac{5}{2}\\ 1& -1& -1& \frac{5}{2}\\ 1& -\frac{5}{2}& 1& -1\end{array}\right]\right)\⊗\left[\begin{array}{cccc}{a}^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\\ a^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\end{array}\right]$

$=\left(\left[\begin{array}{cccc}1& 1& 1& 1\\ 5& 2& -2& -5\\ 1& -1& -1& 1\\ 2& -5& 5& -2\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& 5& 1& 2\\ 1& 2& -1& -5\\ 1& -2& -1& 5\\ 1& -5& 1& -2\end{array}\right]\right)\⊗\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right]$

(5)

逆向变换：

$X=C^T(Y\⊗E)C$

$=\left[\begin{array}{cccc}1& 5& 1& 2\\ 1& 2& -1& -5\\ 1& -2& -1& 5\\ 1& -5& 1& -2\end{array}\right](\left[\begin{array}{cccc}{y}_{00}& y_{01}& y_{02}& y_{03}\\ y_{10}& y_{11}& y_{12}& y_{13}\\ y_{20}& y_{21}& y_{22}& y_{23}\\ y_{30}& y_{31}& y_{32}& y_{33}\end{array}\right]\⊗\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right])\left[\begin{array}{cccc}1& 1& 1& 1\\ 5& 2& -2& -5\\ 1& -1& -1& 1\\ 2& -5& 5& -2\end{array}\right]$

(6)

由于 $a=\frac{1}{2}$ 和 $c=2\sqrt{\frac{1}{58}},$ 则：

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0657& 0.25& 0.0657\\ 0.0657& 0.0172& 0.0657& 0.0172\\ 0.25& 0.0657& 0.25& 0.0657\\ 0.0657& 0.0172& 0.0657& 0.0172\end{array}\right)$

其相乘处理可以并入到对变换系数的量化处理过程中。

下面通过两个典型的例子来进行比较说明。

例1：4×4图像为 $X_1=\left(\begin{array}{cccc}5& 11& 8& 10\\ 9& 8& 4& 12\\ 1& 10& 11& 4\\ 19& 6& 15& 7\end{array}\right),$ 则：

其DCT变换结果为 $Y_{10}=\left(\begin{array}{cccc}35.0000& -0.0793& -1.5000& 1.1152\\ -3.2992& -4.7678& 0.4427& -9.0104\\ 5.5000& 3.0286& 2.0000& 4.6987\\ -4.0454& -3.0104& -9.3837& -1.2322\end{array}\right),$

由(3)式计算的结果为 $Y_{11}=\left(\begin{array}{cccc}35.0000& -0.1581& -1.5000& 1.1068\\ -3.0042& -3.9000& 1.1068& -9.2000\\ 5.5000& 2.6879& 2.0000& 4.9015\\ -4.2691& -3.2000& -9.3287& -2.1000\end{array}\right),$

与DCT的误差为 $Y_{10}-Y_{11}=\left(\begin{array}{cccc}0.0000& 0.0789& 0.0000& 0.0084\\ -0.2951& -0.8678& -0.6641& 0.1896\\ 0.0000& 0.3407& 0.0000& -0.2029\\ 0.2237& 0.1896& -0.0550& 0.8678\end{array}\right),$

由(5)式计算的结果为 $Y_{12}=\left(\begin{array}{cccc}35.0000& -0.0657& -1.5000& 1.1161\\ -3.3483& -4.9138& 0.3283& -8.9655\\ 5.5000& 3.0857& 2.0000& 4.6614\\ -4.0048& -2.9655& -9.3884& -1.0862\end{array}\right),$

与DCT的误差为 $Y_{10}-Y_{12}=\left(\begin{array}{cccc}0.0000& -0.0136& 0.0000& -0.0009\\ 0.0491& 0.1460& 0.1144& -0.0449\\ 0.0000& -0.0571& 0.0000& 0.0373\\ -0.0405& -0.0449& 0.0047& -0.1460\end{array}\right)$

例2：4×4图像为 $X_2=\left(\begin{array}{cccc}164& 149& 88& 87\\ 147& 94& 90& 102\\ 95& 92& 116& 119\\ 111& 112& 140& 150\end{array}\right),$ 则：

其DCT变换结果为 $Y_{20}=\left(\begin{array}{cccc}464.0000& 21.0307& 23.5000& 3.7363\\ -6.6777& 79.4871& 9.6158& -17.3744\\ 36.5000& 12.7237& -12.0000& -15.0119\\ -6.9755& -7.3744& -18.5953& -7.4871\end{array}\right),$

由(3)式计算的结果为 $Y_{21}=\left(\begin{array}{cccc}464.0000& 20.7129& 23.5000& 5.2178\\ -6.1664& 80.8000& 10.9099& -11.1000\\ 36.5000& 13.7559& -12.0000& -14.0721\\ -7.4314& -1.1000& -17.8669& -8.8000\end{array}\right),$

与DCT的误差为 $Y_{20}-Y_{21}=\left(\begin{array}{cccc}0.0000& 0.3178& 0.0000& -1.4814\\ -0.5113& -1.3129& -1.2940& -6.2744\\ 0.0000& -1.0322& 0.0000& -0.9397\\ 0.4558& -6.2744& -0.7284& 1.3129\end{array}\right),$

由(5)式计算的结果为 $Y_{22}=\left(\begin{array}{cccc}464.0000& 21.0747& 23.5000& 3.4796\\ -6.7623& 79.1724& 9.3884& -18.4310\\ 36.5000& 12.5398& -12.0000& -15.1659\\ -6.8936& -8.4310& -18.7112& -7.1724\end{array}\right),$

与DCT的误差为 $Y_{20}-Y_{22}=\left(\begin{array}{cccc}0.0000& -0.0440& 0.0000& 0.2567\\ 0.0846& 0.3147& 0.2274& 1.0567\\ 0.0000& 0.1840& 0.0000& 0.1540\\ -0.0819& 1.0567& 0.1159& -0.3147\end{array}\right)$

本发明的基本思想如上所述，但可以将

取为[0，6]中的其它值，从而得到相应的变换矩阵。例如：

(1)取 $\frac{b}{c}=0.5,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& 2& -2& -1\\ 1& -1& -1& 1\\ 2& -1& 1& -2\end{array}\right]$

$a=\frac{1}{2},$ $b=\sqrt{\frac{1}{10}},$ $c=\sqrt{\frac{2}{5}},$

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.1581& 0.25& 0.1581\\ 0.1581& 0.1000& 0.1581& 0.1000\\ 0.25& 0.1581& 0.25& 0.1581\\ 0.1581& 0.1000& 0.1581& 0.1000\end{array}\right)$

(2)取 $\frac{b}{c}=1.5,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 3& 2& -2& -3\\ 1& -1& -1& 1\\ 2& -3& 3& -2\end{array}\right]$

$a=\frac{1}{2},$ $b=3\sqrt{\frac{1}{26}},$ $c=2\sqrt{\frac{1}{26}},$

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0981& 0.25& 0.0981\\ 0.0981& 0.0385& 0.0981& 0.0385\\ 0.25& 0.0981& 0.25& 0.0981\\ 0.0981& 0.0385& 0.0981& 0.0385\end{array}\right)$

(3)取 $\frac{b}{c}=2.4,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 12& 5& -5& -12\\ 1& -1& -1& 1\\ 5& -12& 12& -5\end{array}\right]$

$a=\frac{1}{2},$ $b=\frac{12}{13}\sqrt{\frac{1}{2}},$ $c=\frac{5}{13}\sqrt{\frac{1}{2}},$

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{5}& a^2& \frac{\mathrm{ac}}{5}\\ \frac{\mathrm{ac}}{5}& \frac{c^2}{25}& \frac{\mathrm{ac}}{5}& \frac{c^2}{25}\\ a^2& \frac{\mathrm{ac}}{5}& a^2& \frac{\mathrm{ac}}{5}\\ \frac{\mathrm{ac}}{5}& \frac{c^2}{25}& \frac{\mathrm{ac}}{5}& \frac{c^2}{25}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0272& 0.25& 0.0272\\ 0.0272& 0.0030& 0.0272& 0.0030\\ 0.25& 0.0272& 0.25& 0.0272\\ 0.0272& 0.0030& 0.0272& 0.0030\end{array}\right).$

(4)取 $\frac{b}{c}=2.6,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 13& 5& -5& -13\\ 1& -1& -1& 1\\ 5& -13& 13& -5\end{array}\right]$

$a=\frac{1}{2},$ $b=\frac{13}{2}\sqrt{\frac{1}{97}},$ $c=\frac{5}{2}\sqrt{\frac{1}{97}},$

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{5}& a^2& \frac{\mathrm{ac}}{5}\\ \frac{\mathrm{ac}}{5}& \frac{c^2}{25}& \frac{\mathrm{ac}}{5}& \frac{c^2}{25}\\ a^2& \frac{\mathrm{ac}}{5}& a^2& \frac{\mathrm{ac}}{5}\\ \frac{\mathrm{ac}}{5}& \frac{c^2}{25}& \frac{\mathrm{ac}}{5}& \frac{c^2}{25}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0254& 0.25& 0.0254\\ 0.0254& 0.0026& 0.0254& 0.0026\\ 0.25& 0.0254& 0.25& 0.0254\\ 0.0254& 0.0026& 0.0254& 0.0026\end{array}\right).$

(5)取 $\frac{b}{c}=3.0,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 3& 1& -1& -3\\ 1& -1& -1& 1\\ 1& -3& 3& -1\end{array}\right]$

$a=\frac{1}{2},$ $b=\frac{3}{2}\sqrt{\frac{1}{5}},$ $c=\frac{1}{2}\sqrt{\frac{1}{5}},$

$E=\left[\begin{array}{cccc}{a}^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\\ a^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.1118& 0.25& 0.1118\\ 0.1118& 0.0500& 0.1118& 0.0500\\ 0.25& 0.1118& 0.25& 0.1118\\ 0.1118& 0.0500& 0.1118& 0.0500\end{array}\right)$

(6)取 $\frac{b}{c}=3.5,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 7& 2& -2& -7\\ 1& -1& -1& 1\\ 2& -7& 7& -2\end{array}\right]$

$a=\frac{1}{2},$ $b=7\sqrt{\frac{1}{106}},$ $c=2\sqrt{\frac{1}{106}},$

$E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0486& 0.25& 0.0486\\ 0.0486& 0.0094& 0.0486& 0.0094\\ 0.25& 0.0486& 0.25& 0.0486\\ 0.0486& 0.0094& 0.0486& 0.0094\end{array}\right)$

(7)取 $\frac{b}{c}=4.0,$ 则得到如下变换矩阵和E矩阵为：

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 4& 1& -1& -4\\ 1& -1& -1& 1\\ 1& -4& 4& -1\end{array}\right]$

$a=\frac{1}{2},$ $b=4\sqrt{\frac{1}{34}},$ $c=\sqrt{\frac{1}{34}},$

$E=\left[\begin{array}{cccc}{a}^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\\ a^2& \mathrm{ac}& a^2& \mathrm{ac}\\ \mathrm{ac}& c^2& \mathrm{ac}& c^2\end{array}\right]\≈\left(\begin{array}{cccc}0.25& 0.0857& 0.25& 0.0857\\ 0.0857& 0.0294& 0.0857& 0.0294\\ 0.25& 0.0857& 0.25& 0.0857\\ 0.0857& 0.0294& 0.0857& 0.0294\end{array}\right)$

对比(3)、(4)与(5)、(6)，并通过以上例子可以看出，本专利所述DCT-like整数变换方法的计算性能与文献[1]所述方法相当，但更为接近于DCT的变换性能。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。

Claims (16)

1、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈2.5,$ $a=\frac{1}{2},$ $c=2\sqrt{\frac{1}{58}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 5& 2& -2& -5\\ 1& -1& -1& 1\\ 2& -5& 5& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0657& 0.25& 0.0657\\ 0.0657& 0.0172& 0.0657& 0.0172\\ 0.25& 0.0657& 0.25& 0.0657\\ 0.0657& 0.0172& 0.0657& 0.0172\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

2、如权利要求1所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

3、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈0.5,$ $a=\frac{1}{2},$ $c=\sqrt{\frac{2}{5}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& 2& -2& -1\\ 1& -1& -1& 1\\ 2& -1& 1& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.1581& 0.25& 0.1581\\ 0.1581& 0.1000& 0.1581& 0.1000\\ 0.25& 0.1581& 0.25& 0.1581\\ 0.1581& 0.1000& 0.1581& 0.1000\end{array}\right),$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

4、如权利要求3所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

5、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈1.5,$ $a=\frac{1}{2},$ $c=2\sqrt{\frac{1}{26}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 3& 2& -2& -3\\ 1& -1& -1& 1\\ 2& -3& 3& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0981& 0.25& 0.0981\\ 0.0981& 0.0385& 0.0981& 0.0385\\ 0.25& 0.0981& 0.25& 0.0981\\ 0.0981& 0.0385& 0.0981& 0.0385\end{array}\right)$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

6、如权利要求5所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

7、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈2.4,$ $a=\frac{1}{2},$ $c=\frac{5}{13}\sqrt{\frac{1}{2}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 12& 5& -5& -12\\ 1& -1& -1& 1\\ 5& -12& 12& -5\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0272& 0.25& 0.0272\\ 0.0272& 0.0030& 0.0272& 0.0030\\ 0.25& 0.0272& 0.25& 0.0272\\ 0.0272& 0.0030& 0.0272& 0.0030\end{array}\right);$

其中，但将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

8、如权利要求7所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

9、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈2.6,$ $a=\frac{1}{2},$ $c=\frac{5}{2}\sqrt{\frac{1}{97}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 13& 5& -5& -13\\ 1& -1& -1& 1\\ 5& -13& 13& -5\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0254& 0.25& 0.0254\\ 0.0254& 0.0026& 0.0254& 0.0026\\ 0.25& 0.0254& 0.25& 0.0254\\ 0.0254& 0.0026& 0.0254& 0.0026\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

10、如权利要求9所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

11、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$ 表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈3.0,$ $a=\frac{1}{2},$ $c=\frac{1}{2}\sqrt{\frac{1}{5}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 3& 1& -1& -3\\ 1& -1& -1& 1\\ 1& -3& 3& -1\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.1118& 0.25& 0.1118\\ 0.1118& 0.0500& 0.1118& 0.0500\\ 0.25& 0.1118& 0.25& 0.1118\\ 0.1118& 0.0500& 0.1118& 0.0500\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

12、如权利要求11所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

13、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈3.5,$ $a=\frac{1}{2},$ $c=2\sqrt{\frac{1}{106}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 7& 2& -2& -7\\ 1& -1& -1& 1\\ 2& -7& 7& -2\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0486& 0.25& 0.0486\\ 0.0486& 0.0094& 0.0486& 0.0094\\ 0.25& 0.0486& 0.25& 0.0486\\ 0.0486& 0.0094& 0.0486& 0.0094\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

14、如权利要求13所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

15、一种视频图像编码方法，包括以下步骤：

将输入视频图像分割成16×16宏块，并对I帧图像进行帧内像素预测和补偿处理，对P帧图像进行帧间运动估计及运动补偿处理；

变换器对输入预测差值数据进行变换处理，Y＝AXA^T；

对变换系数进行量化及熵编码处理，并将编码码流传递给接收端；

接收端对编码码流进行熵解码及逆量化处理；

逆变换器对逆量化后系数进行逆变换处理，X＝A^TYA；

对逆变换处理后的图像数据进行帧内像素补偿或帧间运动补偿，并将解码后的视频图像输出；

Y为相应的变换系数矩阵，X为图像数据矩阵或预测差值数据矩阵，A为变换矩阵，A^T表示矩阵A的转置矩阵； $A=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]$ $A^T=\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$ $a=\frac{1}{2},$ $b=\sqrt{\frac{1}{2}}\cos \left(\frac{\mathrm{\π}}{8}\right),$ $c=\sqrt{\frac{1}{2}}\cos \left(\frac{3\mathrm{\π}}{8}\right);$

其特征在于于所述变换器对输入预测差值数据进行变换处理的步骤，采用2D 4×4 DCT-like整数变换方法对视频图像进行变换处理，其变换计算采用如下公式：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E$

所述逆变换器对逆量化后系数进行逆变换处理的步骤，采用2D 4×4IDCT-like逆变换方法对视频图像进行逆变换处理，其逆变换采用如下公式：

$X=C^T(Y\⊗E)C$

其中C^T表示矩阵C的转置矩阵， $C=\left[\begin{array}{cccc}1& 1& 1& 1\\ \frac{b}{c}& 1& -1& -\frac{b}{c}\\ 1& -1& -1& 1\\ 1& -\frac{b}{c}& \frac{b}{c}& -1\end{array}\right],$

表示两个矩阵对应位置的元素相乘，E为一个伸缩矩阵， $E=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\\ a^2& \frac{\mathrm{ac}}{2}& a^2& \frac{\mathrm{ac}}{2}\\ \frac{\mathrm{ac}}{2}& \frac{c^2}{4}& \frac{\mathrm{ac}}{2}& \frac{c^2}{4}\end{array}\right],$ 在方法实施过程中，做如下取值： $\frac{b}{c}\≈4.0,$ $a=\frac{1}{2},$ $c=\sqrt{\frac{1}{34}},$

$C=\left[\begin{array}{cccc}1& 1& 1& 1\\ 4& 1& -1& -4\\ 1& -1& -1& 1\\ 1& -4& 4& -1\end{array}\right],$

$E\≈\left(\begin{array}{cccc}0.25& 0.0857& 0.25& 0.0857\\ 0.0857& 0.0294& 0.0857& 0.0294\\ 0.25& 0.0857& 0.25& 0.0857\\ 0.0857& 0.0294& 0.0857& 0.0294\end{array}\right);$

其中，将矩阵C的第一行和第三行元素分别乘以一个正整数k，而第二和第四行元素不变，即：

$C_1=\left[\begin{array}{c}\begin{array}{cccc}k& k& k& k\end{array}\\ ...............\\ \begin{array}{cccc}k& -k& -k& k\end{array}\\ ...............\end{array}\right],$ k为正整数；

矩阵E相应地改变为：

$E_1=E\⊗\left[\begin{array}{cccc}\frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\\ \frac{1}{k^2}& \frac{1}{k}& \frac{1}{k^2}& \frac{1}{k}\\ \frac{1}{k}& 1& \frac{1}{k}& 1\end{array}\right]$

而实际变换结果Y不改变，即：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=\left(C_1{{\mathrm{XC}}_1}^T\right)\⊗E_1.$

16、如权利要求15所述的视频图像编码方法，其特征在于，将所述的

相乘处理并入到量化和逆量化处理过程中。

Images