CN1306818C - 一种用于编码处理的8输入/输出的整数变换/反变换方法 - Google Patents

Abstract

本发明公开了一种用于编码处理的8输入/输出的整数变换和反变换的方法，所述整数变换的方法包括：接收预测模块输出的图像参数X＝(x₁，x₂，......，x₈)’；对通用的变换矩阵进行特别设定，得到变换矩阵T；对变换矩阵T进行分解，使每个分解后的矩阵便于将矩阵的乘法运算转化为加法和移位运算；利用上述矩阵分解的结果，对Y＝TX进行快速计算矩阵，得到了变换的结果Y＝(y1，y2，......，y8)’，即频域系数，代表了输入图像各个频段的信号强度。本发明将变换矩阵分解成若干个只含有1或2的幂次的数的简单矩阵，可以通过加法和移位操作实现，易于硬件设计，降低硬件设计成本。本发明在降低复杂度的同时，还保证了高效的编码效率。

Description

一种用于编码处理的8输入/输出的整数变换/反变换方法

技术领域

本发明涉及数字图像处理技术，尤其是涉及到图像编解码技术中的整数变换，具体涉及一种用于编码处理的8输入/输出的整数变换/反变换方法。

背景技术

包括高清晰度数字电视、高密度激光视盘、宽带网络、无线宽带多媒体通信等这些与信息家电、通信设备、多媒体设备相关的产业，其共性技术是以数字视音频编解码技术为主要内容的多媒体信息处理技术。高效的视频编解码技术是实现高质量、低成本多媒体数据存储与传输关键。近年来，广播、通信、计算机网络的发展，对于视频编码与处理技术也提出了越来越高的要求。目前常用的编码方法有预测编码、正交变换编码、向量量化编码等等，这些方法都是基于信号处理理论的，通常也称为第一代编码技术。现在比较流行的图像编码国际标准都是基于这种编码理论，采用的是基于图像块匹配的运动补偿策略、离散余弦变换和量化相结合的编码方法。

一个完整的视频编码系统通常包括：预测、变换、量化和信息熵编码等四个主要模块。预测模块的主要功能是利用已经编码并重建的图像对当前要编码的图像进行预测(帧间预测)，或者利用图像中已经编码并重建的图像块(或宏块)对当前要编码的图像块(或宏块)进行预测(帧内预测)；变换模块的主要功能是将输入的图像块变换到另外一个空间，使输入信号的能量尽可能地集中在低频变换系数上，进而降低图像块内元素之间的相关性，有利于压缩；量化模块的主要功能是将变换的系数映射到一个有利于编码的有限元素集上；信息熵编码模块的主要功能是根据统计规律，将量化后的变换系数用变长码表示。类似地，视频解码系统包含相似的模块，主要是将输入的码流通过熵解码、反量化、反变换等过程重建解码图像。除了上述模块，视频编解码系统中通常还包含一些辅助的编码工具，这些工具同样也会对整个系统的编码性能(压缩比)做出贡献。

显而易见，变换/反变换是视频编解码系统的重要组成部分，变换/反变换的降相关的效果将直接影响编码器的编码性能。目前，先进的视音频编解码技术通常以标准的形式存在。目前典型的视音频压缩标准有国际标准化组织(ISO)下设的运动图像专家组(Moving Picture Expert Group，简称MPEG)推出的MPEG系列国际标准，国际电信联盟(ITU)提出的H.26x系列视频压缩推荐。在这些视频编码标准中，常用的变换有离散余弦变换(DCT)、小波变换等。DCT变换和小波变换都具有很好的编码压缩效果，但是由于需要浮点乘法和加法的运算，所以复杂度比较高。近来的研究发现，可以使用变换系数全部为整数的变换，只要与量化部分配合得当，在编码效率不降低的情况下，仍可以大大降低运算复杂度。

ISO和ITU建立的联合视频工作组(Joint Video Team，简称JVT)制定的AVC(Advanced Video Coding)视频编码标准是新一代的视频编码标准，它采用了一系列新型的编码技术，比现存的任何一种编码标准的压缩效率都要高的多。AVC标准在ISO中的正式名称是MPEG-4标准的第十部分，在ITU中的正式名称是H.264标准。AVC标准采用了一种4输入/输出的整数变换，如下面的矩阵变换所示。由于系数非常简单，只需用加法和移位就可以实现，4×4的二维变换总共只需要16次移位，64次加法。

$Y=\left[\begin{array}{cccc}1& 1& 1& 1\\ 2& 1& -1& -2\\ 1& -1& -1& 1\\ 1& -2& 2& -1\end{array}\right]\left[\begin{array}{cccc}{x}_{00}& x_{01}& x_{02}& x_{03}\\ x_{10}& x_{11}& x_{12}& x_{13}\\ x_{20}& x_{21}& x_{22}& x_{23}\\ x_{30}& x_{31}& x_{32}& x_{33}\end{array}\right]\left[\begin{array}{cccc}1& 2& 1& 1\\ 1& 1& -1& -2\\ 1& -1& -1& 2\\ 1& -2& 1& -1\end{array}\right]$

简言之，整数变换具有以下特点：

算法简单明了，易于硬件设计；运算结果精度高且不会溢出，运算速度快。传统的DCT变换在具有不同运算精度的装置中实现时，可以得到不同的变换结果，因此在进行视频编码时会形成正变换与反变换的不匹配。而整数变换编码可以与量化过程紧密结合，在数据不溢出的前提下得到最大精度的计算结果。

因此，在设计视频编解码器中采用整数变换已成为一种必然趋势。目前已经有一些整数正交变换用于视频编码中，但仍然可以设计更加高效的新的整数变换。例如，尽管AVC标准采用的4输入/输出的整数变换十分简单，但是在应用到8×8的输入块时，只能先把8×8的块划分为4个4×4的子块，然后再分别作4输入/输出的整数变换，因此无法通过变换直接去除块内所有元素的相关性，编码效率不理想。特别是在处理高清晰度数字视频时，由于图像的分辨率很高，因此每一个4×4块内的细节(即包含的内容)很少。在这种情况下，采用最小输入为8×8的块进行运动补偿预测也可以获得很高的预测精度，而采用最小输入为4×4的块则会浪费相当多的比特用于编码运动矢量和模式等附加信息。在中国正在制定的数字音视频编解码标准(AVS标准)中，面向高清晰度数字视频编码，采用的最小输入块就是8×8的。如前所述，4输入/输出的整数变换在输入块为8×8时，编码效果并不理想，尽管在AVC标准制定过程中，也曾经出现过8输入/输出的整数变换，但该变换计算时需要整数乘法，而整数乘法的复杂度远高于整数的加减法和移位等操作。因此其运算复杂度较高，有待改进。

发明内容

本发明要解决的技术问题是，面向高清晰度数字视频编解码等应用，提出一种用于编码处理的8输入/输出的整数变换/反变换方法及其装置，本发明在降低复杂度的同时，还可以保证高效的编码效率。

本发明所述用于编码处理的8输入/输出的整数变换方法：包括如下的步骤：

第一步，接收预测模块输出的图像参数X＝(x₁，x₂，......，x₈)’；

第二步，对通用的变换矩阵

$W=\left[\begin{array}{c}z4,z4,z4,z4,z4,z4,z4,z4\\ z1,z3,z5,z7,-z7,-z5,-z3,-z1\\ z2,z6,-z6,-z2,-z2,-z6,z6,z2\\ z5,z7,-z1,-z3,z3,z1,-z7,-z5\\ z4,-z4,-z4,z4,z4,-z4,-z4,z4\\ z3,-z1,-z7,z5,-z5,z7,z1,-z3\\ z6,-z2,z2,-z6,-z6,z2,-z2,z6\\ z7,-z5,z3,-z1,z1,-z3,z5,-z7\end{array}\right],$ 令W中系数满足：z1∶z3∶z5∶z7＝5∶4∶3∶1，得到：

$T=\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ 5b& 4b& 3b& b& -b& -3b& -4b& -5b\\ \mathrm{cd}& \mathrm{ce}& -\mathrm{ce}& -\mathrm{cd}& -\mathrm{cd}& -\mathrm{ce}& \mathrm{cd}& \mathrm{cd}\\ 3b& b& -5b& -4b& 4b& 5b& -b& -3b\\ a& -a& -a& a& a& -a& -a& a\\ 4b& -5b& -b& 3b& -3b& b& 5b& -4b\\ \mathrm{ce}& -\mathrm{cd}& \mathrm{cd}& -\mathrm{ce}& -\mathrm{ce}& \mathrm{cd}& -\mathrm{cd}& \mathrm{ce}\\ b& -3b& 4b& -5b& 5b& -4b& 3b& -b\end{array}\right],$ 其中，a，b，c，d，e为整数；

第三步，对变换矩阵T进行分解，使每个分解后的矩阵便于将矩阵的乘法运算转化为加法和移位运算；

第四步，利用上述矩阵分解的结果，进行快速计算矩阵Y＝TX，得到了变换的结果Y＝(y1，y2，......，y8)’，即频域系数，代表了输入图像各个频段的信号强度。

本发明所述用于编码处理的8输入/输出的整数反变换方法，包括如下的步骤：

第一步，接收反量化后的系数Y＝(y₁，y₂，......，y₈)’；

第二步，由整数正变换的变换矩阵 $T=\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ 5b& 4b& 3b& b& -b& -3b& -4b& -5b\\ \mathrm{cd}& \mathrm{ce}& -\mathrm{ce}& -\mathrm{cd}& -\mathrm{cd}& -\mathrm{ce}& \mathrm{ce}& \mathrm{cd}\\ 3b& b& -5b& -4b& 4b& 5b& -b& -3b\\ a& -a& -a& a& a& -a& -a& a\\ 4b& -5b& -b& 3b& -3b& b& 5b& -4b\\ \mathrm{ce}& -\mathrm{cd}& \mathrm{cd}& -\mathrm{ce}& -\mathrm{ce}& \mathrm{cd}& -\mathrm{cd}& \mathrm{ce}\\ b& -3b& 4b& -5b& 5b& -4b& 3b& -b\end{array}\right],$

得到其反变换矩阵为T’；

第三步，对反变换矩阵为T’进行分解，使每个分解后的矩阵便于将矩阵的乘法运算转化为加法和移位运算；

第四步，利用上述矩阵分解的结果，进行快速计算矩阵X＝T’Y，得到变换的结果为：X＝(x1，x2，......，x8)’，表示重构的图像或重构的残差图像。

本发明具有如下特点：

该变换/反变换方法中，由于将变换矩阵分解成若干个只含有1或2的幂次的数的简单矩阵，因此整数变换可以通过加法和移位操作实现，易于硬件设计，降低硬件设计成本。

该变换与反变换的运算精度高且不会溢出，不存在正变换与反变换的不匹配的现象。

该变换/反变换符合高清晰度数字视频的统计特性，降相关效果好。

简言之，本发明在降低复杂度的同时，还可以保证高效的编码效率。

附图说明

图1是按蝶形算法分解的满足本发明规定系数关系的整数变换的正变换快速算法的计算框图；

图2是按蝶形算法分解的满足本发明规定系数关系的整数变换的反变换快速算法的计算示意图；

图3是G4的快速算法的实现示意图；

图4是G4’的快速算法的实现示意图；

图5是采用本发明所述整数变换方法的视频编解码系统结构图。

具体实施方式

下面结合附图详细说明本发明所述整数正变换方法和正变换方法。

如下式所示，W可以看作一种8×8整数变换的通式。其中z1，z2，......z7为整数。对于输入X＝(x1，x2，......，x8)’，变换的输出Y＝WX。对于反变换来说，变换矩阵为W’，即对于输入Y＝(y1，y2，......，y8)’，变换的输出X＝W’Y。

$W=\left[\begin{array}{c}z4,z4,z4,z4,z4,z4,z4,z4\\ z1,z3,z5,z7,-z7,-z5,-z3,-z1\\ z2,z6,-z6,-z2,-z2,-z6,z6,z2\\ z5,z7,-z1,-z3,z3,z1,-z7,-z5\\ z4,-z4,-z4,z4,z4,-z4,-z4,z4\\ z3,-z1,-z7,z5,-z5,z7,z1,-z3\\ z6,-z2,z2,-z6,-z6,z2,-z2,z6\\ z7,-z5,z3,-z1,z1,-z3,z5,-z7\end{array}\right]$

本发明采用符合一定规律的数字组合实现8输入/输出整数变换和反变换，其关键是令W中系数满足：z1∶z3∶z5∶z7＝5∶4∶3∶1。即变换矩阵T可以写作如下的形式：

$T=\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ 5b& 4b& 3b& b& -b& -3b& -4b& -5b\\ \mathrm{cd}& \mathrm{ce}& -\mathrm{ce}& -\mathrm{cd}& -\mathrm{cd}& -\mathrm{ce}& \mathrm{cd}& \mathrm{cd}\\ 3b& b& -5b& -4b& 4b& 5b& -b& -3b\\ a& -a& -a& a& a& -a& -a& a\\ 4b& -5b& -b& 3b& -3b& b& 5b& -4b\\ \mathrm{ce}& -\mathrm{cd}& \mathrm{cd}& -\mathrm{ce}& -\mathrm{ce}& \mathrm{cd}& -\mathrm{cd}& \mathrm{ce}\\ b& -3b& 4b& -5b& 5b& -4b& 3b& -b\end{array}\right]$

反变换矩阵为T’。

其中a，b，c，d，e为整数。这样做的好处是，z1，z3，z5，z7满足一定比例，即保证了变换的压缩效果，又可进一步实施有效的快速算法。另外a，b，c相当于是可以从T中提取出来的比例因子，乘以a，b，c可以合并到量化中进行。

为了提高变换效率，从而提高编解码的效率，主要是从应用DCT的蝶形算法入手，因此需要对变换矩阵进行分解，以便采用快速算法。

T分解为：

T＝PKB，

其中

B＝B1B2B3，其中P，B1，B2，B3如下：

$P=\left[\begin{array}{cccccccc}a& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& b& 0& 0& 0\\ 0& 0& c& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& b& 0& 0\\ 0& a& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& b& 0\\ 0& 0& 0& c& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& b\end{array}\right]$

$B1=\left[\begin{array}{cccccccc}1& 1& 0& 0& 0& 0& 0& 0\\ 1& -1& 0& 0& 0& 0& 0& 0\\ 0& 0& 1& 0& 0& 0& 0& 0\\ 0& 0& 0& 1& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right]$ $B2=\left[\begin{array}{cccccccc}1& 0& 0& 1& 0& 0& 0& 0\\ 0& 1& 1& 0& 0& 0& 0& 0\\ 1& 0& 0& -1& 0& 0& 0& 0\\ 0& 1& -1& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right],$ $B3=\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 1\\ 0& 1& 0& 0& 0& 0& 1& 0\\ 0& 0& 1& 0& 0& 1& 0& 0\\ 0& 0& 0& 1& 1& 0& 0& 0\\ 1& 0& 0& 0& 0& 0& 0& -1\\ 0& 1& 0& 0& 0& 0& -1& 0\\ 0& 0& 1& 0& 0& -1& 0& 0\\ 0& 0& 0& 1& -1& 0& 0& 0\end{array}\right]$

，这样可得：

$K=\left[\begin{array}{cccc}{G}_1& & & \\ & G_1& & \\ & & G_2& \\ & & & G_4\end{array}\right]$

其中，

G1＝[1]，

$G_2=\left[\begin{array}{cc}d& e\\ e& -d\end{array}\right]$ $G_4=\left[\begin{array}{cccc}5& 4& 3& 1\\ 3& 1& -5& -4\\ 4& -5& -1& 3\\ 1& -3& 4& -5\end{array}\right]$

以上是T的分解过程，当然，还可有多种等价的矩阵分解形式。

对G4可进一步分解如下：

G4＝g4+g3*g2*g1；

即计算G4X可以转化为计算：g4X+g3*g2*g1 X

其中：

$g_1=\left[\begin{array}{cccc}1& 0& 1& 0\\ 0& 1& 0& 0\\ 1& 0& -1& 0\\ 0& 0& 0& 1\\ 0& -1& 0& -1\\ 0& 0& 1& 0\\ 0& 1& 0& -1\\ 1& 0& 0& 0\end{array}\right],$ $g_2=\left[\begin{array}{cc}1000& 0000\\ 1100& 0000\\ 0010& 0000\\ 001-1& 0000\\ 0000& 1000\\ 0000& 1100\\ 0000& 0010\\ 0000& 001-1\end{array}\right],$ $g_3=\left[\begin{array}{cc}0410& 0000\\ -1004& 0000\\ 0000& 100-4\\ 0000& 0410\end{array}\right]$

$g_4=\left[\begin{array}{cccc}0& 0& 0& 1\\ 0& 1& 0& 0\\ 0& 0& -1& 0\\ 1& 0& 0& 0\end{array}\right]$

图1给出的按蝶形算法分解的满足本发明规定系数关系的整数变换的正变换快速算法的计算框图；左侧为输入X，右侧的输出为Y。结合图1，可以看出：

1.首先经过8点的蝶形算法，计算出4个和与4个差。

2.第1步的4个差经过G4模块的处理后，再乘以b就得到了输出Y2，Y4，Y6，Y8。

3.第1步的4个和经过4点的蝶形算法，计算出2个和与2个差。

4.第3步的2个差经过G2模块的处理后，再乘以c就得到了输出Y3，Y7。

5.第3步的2个和经过2点的蝶形算法，计算出1个和与1个差。分别乘以a就得到了输出Y1，Y5。

6、对其中G4的计算，按照图3进行。

本发明中，对G4的快速算法如图3，其中乘4的操作实际上就是左移2位，可以看出：输出一为：

out1＝(input1+input3+input2)*4+(input1-input3+input4)。

下面说明本发明整数反变换方法的矩阵形式。

反变换的快速算法可以由正变换推得，反变换矩阵为T’，T’可分解成：

T’＝B’K’P’，

B’＝B3’B2’B1’，

由K的定义可得：

$K^{\′}=\left[\begin{array}{cccc}{G_1}^{\′}& & & \\ & {G_1}^{\′}& & \\ & & {G_2}^{\′}& \\ & & & {G_4}^{\′}\end{array}\right],$

由G1，G2的定义可知：

G1’＝G1，G2’＝G2，

由G4的定义可得：

${G_4}^{\′}=\left[\begin{array}{cccc}5& 3& 4& 1\\ 4& 1& -5& -3\\ 3& -5& -1& 4\\ 1& -4& 3& -5\end{array}\right]$

G4’可分解为：G4’＝4*h1+h2*h1，其中：

$h_1=\left[\begin{array}{cccc}1& 1& 1& 0\\ 1& 0& -1& -1\\ 1& -1& 0& 1\\ 0& -1& 1& -1\end{array}\right]$ $h_2=\left[\begin{array}{cccc}0& 0& 1& 0\\ 0& 0& 0& -1\\ -1& 0& 0& 0\\ 0& 1& 0& 0\end{array}\right]$

即计算G4’Y可以转化为分两步计算：

V＝h1Y

G4’Y＝4*V+h2*V

其中的乘4实际上就是左移两位。

本发明所述整数反变换的方法的数据流图形式描述，采用蝶形算法分解见图2，左侧为输入Y，右侧的输出为X。

1.首先Y1与Y5分别乘以a，然后经过2点的蝶形算法，计算出和与差。

2.Y3，Y7分别乘以b，然后经过G2’模块的处理后，输出的两个值与第一步输出的两个值经过4点的蝶形算法，计算出2个和与2个差。

3.Y2，Y4，Y6，Y8分别乘以c，然后经过G4’模块的处理后，输出的4个值与第二步输出的4个值经过8点的蝶形算法，计算出4个和与4个差。

4.第三步的输出就是X1，X2，......，X8。

其中G4’的计算可按图4进行。图4中，

out1＝(input1+input2+input3)*4+(input1-input2+input4)。

如图5所示，基于本发明的变换/反变换方法的思路，可以通过硬件模块实现一般的视频编解码系统中的用于视频编码器中变换装置和反变换装置。

具体说明如下：

编码部分，估计当前图像与缓存中已经解码图像的运动，并根据运动信息获得预测图像，减当前输入图像得到运动补偿的残差图像；

将得到的残差图像输入到变换模块，采用本发明方法，获得变换系数；

对变换系数进行量化；

采用信息熵编码器输出量化后的变换系数，获得压缩后的比特流。

解码部分，利用信息熵解码器将输入的比特流转换为量化后的变换系数；

利用反量化模块，获得重构的变换系数；

将变换系数输入到反变换模块，采用本发明方法，获得重建的误差图像；

根据运动信息和缓存中已经解码的图像获得预测图像，加重建的误差图像，获得重建的解码图像。

最后所应说明的是：以上实施例仅用以说明而非限制本发明的技术方案，尽管参照上述实施例对本发明进行了详细说明，本领域的普通技术人员应当理解：依然可对本发明进行修改或者等同替换，而不脱离本发明的精神和范围的任何修改或局部替换，其均应涵盖在本发明的权利要求范围当中。

Claims (6)

1、一种用于编码处理的8输入/输出的整数变换方法，其特征在于，包括如下步骤：

第一步，接收预测模块输出的图像参数X＝(x₁，x₂，......，x₈)’；

第二步，对通用的变换矩阵

$W=\left[\begin{array}{cccccccc}z4,& z4,& z4,& z4,& z4,& z4,& z4,& z4\\ z1,& z3,& z5,& z7,& -z7,& -z5,& -z3,& -z1\\ z2,& z6,& -z6,& -z2,& -z2,& -z6,& z6,& z2\\ z5,& z7,& -z1,& -z3,& z3,& z1,& -z7,& -z5\\ z4,& -z4,& -z4,& z4,& z4,& -z4,& -z4,& z4\\ z3,& -z1,& -z7,& z5,& -z5,& z7,& z1,& -z3\\ z6,& -z2,& z2,& -z6,& -z6,& z2,& -z2,& z6\\ z7,& -z5,& z3,& -z1,& z1,& -z3,& z5,& -z7\end{array}\right],$ 令W中系数满足：z1∶z3∶z5∶z7＝5∶4∶3∶1，得到：

$T=\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ 5b& 4b& 3b& b& -b& -3b& -4b& -5b\\ \mathrm{cd}& \mathrm{ce}& -\mathrm{ce}& -\mathrm{cd}& -\mathrm{cd}& -\mathrm{ce}& \mathrm{ce}& \mathrm{cd}\\ 3b& b& -5b& -4b& 4b& 5b& -b& -3b\\ a& -a& -a& a& a& -a& -a& a\\ 4b& -5b& -b& -3b& -3b& b& 5b& -4b\\ \mathrm{ce}& -\mathrm{cd}& \mathrm{cd}& -\mathrm{ce}& -\mathrm{ce}& \mathrm{cd}& -\mathrm{cd}& \mathrm{ce}\\ b& -3b& 4b& -5b& 5b& -4b& 3b& -b\end{array}\right],$ 其中，a，b，c，d，e为整数；

第三步，对变换矩阵T进行分解，使每个分解后的矩阵便于将矩阵的乘法运算转化为加法和移位运算；

第四步，利用上述矩阵分解的结果，进行快速计算矩阵Y＝TX，得到了变换的结果Y＝(y1，y2，......，y8)’，即频域系数，代表了输入图像各个频段的信号强度。

2、根据权利要求1所述的用于编码处理的8输入/输出的整数变换方法，其特征在于，所述第三步对变换矩阵T进行分解，包括：

令T＝PKB，B＝B1B2B3，其中，

$P=\left[\begin{array}{cccccccc}a& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& b& 0& 0& 0\\ 0& 0& c& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& b& 0& 0\\ 0& a& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& b& 0\\ 0& 0& 0& c& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& b\end{array}\right],$

$B1=\left[\begin{array}{cccccccc}1& 1& 0& 0& 0& 0& 0& 0\\ 1& -1& 0& 0& 0& 0& 0& 0\\ 0& 0& 1& 0& 0& 0& 0& 0\\ 0& 0& 0& 1& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right],$ $B2=\left[\begin{array}{cccccccc}1& 0& 0& 1& 0& 0& 0& 0\\ 0& 1& 1& 0& 0& 0& 0& 0\\ 1& 0& 0& -1& 0& 0& 0& 0\\ 0& 1& -1& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right],$ $B3=\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 1\\ 0& 1& 0& 0& 0& 0& 1& 0\\ 0& 0& 1& 0& 0& 1& 0& 0\\ 0& 0& 0& 1& 1& 0& 0& 0\\ 1& 0& 0& 0& 0& 0& 0& -1\\ 0& 1& 0& 0& 0& 0& -1& 0\\ 0& 0& 1& 0& 0& -1& 0& 0\\ 0& 0& 0& 1& -1& 0& 0& 0\end{array}\right];$

由此可得：

$K=\left[\begin{array}{cccc}{G}_1& & & \\ & G_1& & \\ & & G_2& \\ & & & G_4\end{array}\right];$

其中，

G1＝[1]， $G_2=\left[\begin{array}{cc}d& e\\ e& -d\end{array}\right],$ $G_4=\left[\begin{array}{cccc}5& 4& 3& 1\\ 3& 1& -5& -4\\ 4& -5& -1& 3\\ 1& -3& 4& -5\end{array}\right];$

G₄可进一步分解如下：

令G4＝g₄+g₃*g₂*g₁，其中，

$g_1=\left[\begin{array}{cccc}1& 0& 1& 0\\ 0& 1& 0& 0\\ 1& 0& -1& 0\\ 0& 0& 0& 1\\ 0& -1& 0& -1\\ 0& 0& 1& 0\\ 0& 1& 0& -1\\ 1& 0& 0& 0\end{array}\right],$ $g_2=\left[\begin{array}{cc}1000& 0000\\ 1100& 0000\\ 0010& 0000\\ 001-1& 0000\\ 0000& 1000\\ 0000& 1100\\ 0000& 0010\\ 0000& 001-1\end{array}\right],$ $g_3=\left[\begin{array}{cc}0410& 0000\\ -1004& 0000\\ 0000& 100-4\\ 0000& 0410\end{array}\right],$ $g_4=\left[\begin{array}{cccc}0& 0& 0& 1\\ 0& 1& 0& 0\\ 0& 0& -1& 0\\ 1& 0& 0& 0\end{array}\right].$

3、根据权利要求2所述的用于编码处理的8输入/输出的整数变换方法，其特征在于，其中包括：计算G4X转化为计算g4X+g3*g2*g1X；即用矩阵g1，g2，g3依次左乘X，即依次计算g1X，g2(g1X)，g3(g2(g1X))，再加上用g4左乘X。

4、一种用于编码处理的8输入/输出的整数反变换方法，其特征在于，包括如下步骤：

第一步，接收反量化后的系数Y＝(y₁，y₂，......，y₈)’；

第二步，由整数正变换的变换矩阵 $T=\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ 5b& 4b& 3b& b& -b& -3b& -4b& -5b\\ \mathrm{cd}& \mathrm{ce}& -\mathrm{ce}& -\mathrm{cd}& -\mathrm{cd}& -\mathrm{ce}& \mathrm{ce}& \mathrm{cd}\\ 3b& b& -5b& -4b& 4b& 5b& -b& -3b\\ a& -a& -a& a& a& -a& -a& a\\ 4b& -5b& -b& 3b& -3b& b& 5b& -4b\\ \mathrm{ce}& -\mathrm{cd}& \mathrm{cd}& -\mathrm{ce}& -\mathrm{ce}& \mathrm{cd}& -\mathrm{cd}& \mathrm{ce}\\ b& -3b& 4b& -5b& 5b& -4b& 3b& -b\end{array}\right],$

得到其反变换矩阵为T’；

第三步，对反变换矩阵为T’进行分解，使每个分解后的矩阵便于将矩阵的乘法运算转化为加法和移位运算；

第四步，利用上述矩阵分解的结果，进行快速计算矩阵X＝T’Y，得到变换的结果为：X＝(x1，x2，......，x8)’，表示重构的图像或重构的残差图像。

5、根据权利要求4所述的用于编码处理的8输入/输出的整数反变换方法，其特征在于，所述第三步对反变换矩阵为T’进行分解，包括：

令T’＝B’K’P’，B’＝B3’B2’B1’，

可得：

$K^{\′}=\left[\begin{array}{cccc}{G_1}^{\′}& & & \\ & {G_1}^{\′}& & \\ & & {G_2}^{\′}& \\ & & & {G_4}^{\′}\end{array}\right],$

根据转置矩阵的特点可知：

G1’＝G1，G2’＝G2；

由G4的定义可得：

${G_4}^{\′}=\left[\begin{array}{cccc}5& 3& 4& 1\\ 4& 1& -5& -3\\ 3& -5& -1& 4\\ 1& -4& 3& -5\end{array}\right]$

G4’可进一步分解为：G4’＝4*h1+h2*h1

其中：

$h_1=\left[\begin{array}{cccc}1& 1& 1& 0\\ 1& 0& -1& -1\\ 1& -1& 0& 1\\ 0& -1& 1& -1\end{array}\right],$ $h_2=\left[\begin{array}{cccc}0& 0& 1& 0\\ 0& 0& 0& -1\\ -1& 0& 0& 0\\ 0& 1& 0& 0\end{array}\right],$

6、根据权利要求5所述的用于编码处理的8输入/输出的整数反变换方法，其特征在于，计算G4’Y可以转化为分两步计算，即：

先用矩阵h1左乘Y，得到，V＝h1Y；

再计算：G4’Y＝4*V+h2*V，其中的乘4就是左移两位。

Images