CN100392982C - 变换及后续量化的实现 - Google Patents

Abstract

本发明涉及相继要应用到数字数据上以压缩该数字数据的DCT近似法和量化。为改善变换，建议简化预定变换矩阵以便在应用到数字数据上时所需运算较少。另外，构成无理数的简化变换矩阵的元素用有理数来近似。通过扩展预定量化以对用有理数来近似简化变换矩阵的元素进行补偿，从而使这些措施得到补偿。如果简化变换矩阵和扩展量化用作实现的基础，则可相应实现高质量的快速变换。相应地，对压缩数字数据的解压缩中采用的IDCT的近似法也可得到简化。

Description

变换及后续量化的实现

发明领域

本发明涉及数字数据的处理。更具体地说，它涉及实现离散余弦变换(DCT)近似法和量化的方法，所述变换和所述量化相继要应用到数字数据，具体说是数字图像数据上，以便压缩该数字数据。它同样涉及实现反量化和反离散余弦变换(IDCT)近似法的方法，其中，为了将数字数据解压缩，所述量化要接着所述反变换应用到压缩数字数据上。最后，本发明涉及分别适于执行所述压缩和所述解压缩的编码器和解码器。

发明背景

已知现代技术中顺序使用DCT和量化来压缩数字数据，例如为了实现有效传输该数字数据。具体地说，数字图像数据的压缩一般通过使用DCT及随后对通过DCT获得的DCT系数进行量化而实现。

在一维数字数据的DCT中，将具有预定编号的源值的相应序列变换成变换系数。在视频编码中，源值可以是例如像素值或预测误差值。每个所得的变换系数代表源数据中存在的一定频率范围。值f()到系数F()的DCT定义如下：

$F\left(i\right)=\sqrt{\frac{2}{N}}C\left(i\right)\underset{x=0}{\overset{N-1}{\mathrm{\Σ}}}f\left(x\right)\cos \left(\frac{(2x+1)\mathrm{i\π}}{2N}\right),i=\mathrm{0,1},...,N-1$

$C\left(k\right)=\left\{\begin{array}{c}\frac{1}{\sqrt{2}},k=0\\ 1,k\≠0\end{array}\right.$

在此等式中，N是一个源值序列中源值的预定编号。

为实现压缩，图像数据通常以二维数字数据块形式提供。对于此类数据，DCT定义如下：

$F(i,j)=\frac{2}{N}C\left(i\right)C\left(j\right)\underset{x=0}{\overset{N-1}{\mathrm{\Σ}}}\underset{y=0}{\overset{N-1}{\mathrm{\Σ}}}f(x,y)\cos \left(\frac{(2x+1)\mathrm{i\π}}{2N}\right)\cos \left(\frac{(2y+1)\mathrm{j\π}}{2N}\right),i=j=\mathrm{0,1},...,N-1$

$C\left(k\right)=\left\{\begin{array}{c}\frac{1}{\sqrt{2}},k=0\\ 1,k\≠0\end{array}\right.$

DCT是可分解的运算。这意味着二维DCT可通过两个连续的一维DCT运算来进行计算。由于一维DCT的复杂性与N相关，而二维DCT的复杂性与N²相关，因此，最好使用一维DCT运算。对于具有N*N大小的图像数据，所有DCT运算的总的复杂性与快速DCT的N³或N²log(N)相关。因此，还涉及许多非普通乘法运算的大变换的计算十分复杂。此外，额外要求的比特精度会增加字宽。由于复杂性原因，DCT每次通常只对小的数值块执行，例如4×4或8×8数值块，这种数值块可以用具有值f()的矩阵形式表示。图1显示了所述4×4矩阵1的DCT。

首先，将矩阵1的每行单独变换成一次变换矩阵2。在所示矩阵1中，每行的单独变换由包括相应行所有值的双向箭头表示。随后，将一次变换矩阵2的每列单独变换成包括变换系数F()的最终变换矩阵3。在所示矩阵2中，每列的单独变换由包括相应列所有值的双向箭头表示。

上述等式定义的DCT也可写成矩阵形式。为此，首先将F(i)写成更合适的形式

$F\left(i\right)=\underset{x=0}{\overset{N-1}{\mathrm{\Σ}}}f\left(x\right)A(i,x),i=\mathrm{0,1},...,N-1$

$A(i,x)=\sqrt{\frac{2}{N}}C\left(i\right)\cos \left(\frac{(2x+1)\mathrm{i\π}}{2N}\right)$

矩阵A是DCT基本函数矩阵。随后可通过以下等式计算二维DCT：

Y＝AXA^T，

其中，矩阵X表示源值矩阵，矩阵Y表示DCT中产生的变换系数。矩阵的指数T表示矩阵的转置。

在DCT后，通过对DCT系数进行量化实现实际的压缩。量化是用依赖于量化参数qp的量化值除去变换系数来实现的：

Y′(i，j)＝Y(i，j)/Q(qp)(i，j)，

其中，Q(qp)是量化矩阵，Y′(i，j)由量化系数组成。最简单的量化形式是均匀量化，其中，用常数填充量化矩阵，例如：

Q(qp)(i，j)＝qp

量化系数构成了压缩数字数据，在经过编码和可能的进一步处理步骤后，它具有例如具有便于传输所述数据的形式。

当要在存储和/或传输后再现压缩数据时，首先要将它再次解压缩。

解压缩是逆向执行压缩期间执行的运算。因此，第一步是通过将量化系数乘以量化矩阵值，将所述量化系数Y′(i，j)反量化：

Y(i，j)＝Y′(i，j)Q(qp)(i，j)

接着，第二步是通过反向离散余弦变换(IDCT)对经过反量化但仍是变换系数的Y(i，j)执行反变换：

X＝A^TYA，

其中，矩阵Y在DCT中表示变换系数，矩阵X表示重新得到的源值矩阵。

如果对所有计算采用无限精度，则X将精确地包含原像素值。但实际上，至少在量化和反变换后将系数转换为整数值。因此，无法完全重建原像素。压缩率越高，则与原像素的偏差就越大。

如果直接实现上述DCT和IDCT，则每次转换需要执行几次乘法、加法和/或减法。然而，这些运算一方面需要大量的处理器时间，另一方面，相对于某些体系结构中的电路区，乘法是代价很高的运算。为能够传送例如高质量的运动图像，需要处理转换过程，使得所需乘法步骤较少，而又不会降低通过解压缩重新得到的数据质量。

由于DCT在许多图像编码标准中还是核心运算，因此，它已得到广泛运用，并且文献中已描述了所述问题的各种解决方案。这些解决方案一般特征是“蝶形运算”和/或将算子矩阵的一些计算组合到DCT过程最后的量化步骤中。

例如，美国专利5523847描述了用于彩色图像压缩的一种数字图像处理器。为减少DCT中非普通乘法运算的次数，该文档中提出以某种降低非普通乘法次数的方式分解变换矩阵，非普通乘法是非2次幂的乘法或除法。普通乘法可通过比特移位实现，因此，称之为“普通”。更具体地说，变换矩阵通过分解成对角因子矩阵和比例因子矩阵(scaled factor)，这样，对角因子矩阵可被吸收到以后的量化步骤中，比例因子矩阵可与具有最少非普通乘法次数的数据矢量相乘。另外，建议用有理数乘法来近似其余的非普通乘法运算，这是因为计算随后可只通过加法、减法和移位操作来实现。然而，这导致在DCT过程中出现这样一个问题，即，由于采用了近似法，精确的反变换可能就不存在了。因此，重复DCT-IDCT过程可能导致图像质量严重降低。例如，当图像在采用了DCT压缩的通信链路上多次传输时，就可能出现这种情况。

Gisle Bjontegaard的“H.26L测试模型长期编号7(TML-7)草案0”(“H.26L Test Model Long Term Number 7(TML-7)draft0”，ITU Video Coding Experts Group，13th Meeting，Austin，Texas，USA 2-4April，2001)文档中介绍了另一种方法。此文档描述了一种DCT解决方案，该解决方案构成用于ITU-T建议H.26L的压缩方法的当前测试模型。

根据该文档，可使用与4×4DCT具有基本相同编码属性的整数变换，而不使用DCT。在整数变换中，通过四个对带预定加权系数的像素求和的线性等式分别从四个源数据像素得到四个变换系数。变换之后或之前是量化/反量化过程，该过程执行正常的量化/反量化。此外，需要进行归一化，这是因为传输具有归一化分布的数据比传输随机数据更有效。由于变换不包含归一化，因此，量化/反量化还执行归一化，它是在反变换后最终通过移位完成的。量化/反量化使用32个不同质量的参数(QP)值，这些值排列方式为：一个QP到下一QP之间的步长大约增加12％。这种方法的缺点是需要32位算术和大量运算次数。

另一文档源于引用的TML-7文档：“用于H.26L、处理DCT变换和量化的16位体系结构”(“A 16-bit architecture for H.26L，treatingDCT transforms and quantization”，Document VCEG_M16，VideoCoding Experts Group(VCEG)13th meeting，Austin，USA，2-4April，2001，by Jie Liang，Trac Tran，and Pankaj Topiwala)。此VCEG-M16文档主要是研究4×4变换，提出了用于H.26L标准的4点快速近似法，并命名为binDCT。此binDCT可只用加法和右移运算实现。所提出的解决方案可实现为完全可逆的，以便实现无损编码。

所提出的binDCT是基于周知的以Chen-Wang平面旋转为基础的DCT矩阵分解。对于binDCT的16位实现，移位方案用于得到DCT的快速近似。每个采用的提升(lifting)步骤是双正交变换，并且其逆也具有简单的提升结构。这意味着要执行逆提升步骤，要减去正向变换时增加的内容。这样，即使在提升步骤中浮点乘法结果舍入为整数，但只要对正向变换和反变换均应用相同的过程，则仍可以完美地重建原信号。

为了得到快速实现，进一步用k/2m格式的有理数近似浮点提升系数(其中k和m是整数)，这可以只通过移位运算和加法运算来实现。为进一步降低基于提升(lifting-based)的快速DCT的复杂性，应用比例提升结构来表示平面旋转。可在量化阶段吸收比例因子。

VCEG-M16文档所提出的解决方案只需要假定源值是9位值的16位运算，并且比TML-7文档的解决方案需要较少的运算。更具体地说，对于四个数据值的一维DCT，它需要10次加法和5次移位。

以下给出了与图像数据压缩相关的其它文档的实例，但只简单论及其内容：

2001年2月13日授予的美国专利6189021建议在六阶段DCT快速算法的固有乘法阶段对两个一维DCT运算之一采用一组比例加权系数，从而可以省略所述一维DCT运算中另一运算的DCT快速算法的相应阶段。

1992年7月7日授予的美国专利5129015利用了类似于DCT、但采用了较简单的算术而无需乘法运算来压缩静止图像的方法。

1996年11月5日授予的美国专利5572236涉及用于彩色图像压缩的数字图像处理器，它通过重新安排DCT过程，使非普通乘法合并成一个过程步骤，从而使DCT过程中的非普通乘法次数降到最少。

2001年5月3日公开的PCT申请WO 01/31906涉及称为局部零树编码的基于变换的图像压缩框架。

发明概述

本发明目的是减少常规DCT和IDCT所需的运算，同时消除执行非普通乘法的必要性。本发明的另一目的是提供已知方法的替代方法，这种方法比常规DCT或IDCT需要较少的运算。本发明还有一个目的是保证解压缩后数字数据具有高质量。

就数字数据压缩而言，本发明的目的通过一种方法来实现，该方法包括在第一步骤中简化预定的变换矩阵，以便在应用到数字数据上时所需运算较少。在第二步骤中，用有理数来近似构成无理数的简化变换矩阵的元素。在第三步骤中，扩展的预定量化以补偿用有理数来近似简化变换矩阵的元素。例如，扩展的预定量化可包括在预定变换矩阵简化中除去的运算，然后对所包括的运算加以调整，以对用有理数来近似简化变换矩阵的元素进行补偿。随后可将采用近似元素和扩展量化的简化变换矩阵作为实现将要施加到待压缩数字数据上的变换和量化序列。

就压缩数字数据的解压缩而言，本发明的目的可通过一种方法来实现，在该方法中，根据用于压缩的建议方法中的预定变换矩阵处理预定的反变换矩阵。另外，根据用于压缩的建议方法中的预定量化扩展来扩展预定的反量化。然后可以将所得的扩展反量化和所得的含近似元素的简化反变换矩阵用作将要应用到压缩数字数据上以实现解压缩的反量化和反变换序列的基础。

最后，本发明的目的通过编码器和解码器来实现，所述编码器包括近似DCT的相应变换器和相应的量化装置；所述解码器包括相应的反量化装置和近似IDCT的相应的变换器。

本发明基于如下思想：如果一方面将各种运算从变换矩阵中提取出来并融入量化过程中，另一方面用所述有理数近似不构成有理数的剩余项，则可大大减少DCT所需的运算次数。但是，为确保能够正确执行解压缩，还建议在移到量化过程中的运算中对近似进行补偿。

本发明的优点在于，和例如TML-7和VCEG-M16相比，由于它能够降低所需运算次数并因此节省处理器时间，从而实现了快速变换计算。本发明仍然取得了很接近VCEG-M16文档中解决方案的质量。而且因为本发明通过对所执行的近似运算加以补偿，从而将变换运算的反属性纳入了考虑，因此可避免处理数据的质量下降，特别是在低比特率的情况下。因此，比之于例如美国专利5523847，本发明的另一优点是取得了更佳的反变换精度。

从所附属权利要求书中可明白本发明的优选实施例。

简化预定变换矩阵以便在应用到数字数据上时所需运算较少的建议步骤最好包括将预定的变换矩阵分解成两个因子矩阵，一个是构成对角矩阵的因子，另一个是构成简化变换矩阵的因子矩阵。对角矩阵然后包括从简化变换矩阵中除去的运算。

有利地是，近似简化变换矩阵剩余项的有理数由分母为2ⁿ的分数给出，其中n是整数。此类有理数尤其适用于二进制算术，这是因为除以或乘以2ⁿ的乘法或除法可通过比特移位运算实现。因此，采用所提出的近似法，可避免DCT中的所有乘法。

于是，对于给定的变换矩阵如4×4DCT矩阵，以及为近似简化矩阵中剩余项的选定的有理数，可为每个为对一维或二维数字数据值进行变换而必须执行的一维变换确定一组只包括加法、减法和比特移位的等式。

对量化步骤中近似的调整最好确保所加变换具有反变换。这可通过确保A^TA＝I来实现，其中，在这种情况下，矩阵A是这样一个矩阵，从其中提取的所有运算在对剩余项作近似及对提取的运算中的近似作补偿后将被重新包括在简化变换矩阵中。这确保可以很好的质量完成对IDCT的近似。

对于给定的变换矩阵，例如4×4DCT矩阵，以及为近似简化矩阵中的剩余项而选定的有理数，则也可以以普通的方式来计算对提取的运算中特定值必须作的调整。

然而，在诸如8×8变换的更大变换中，可能还必需调整对简化矩阵的近似，这是因为在优化实现中近似DCT变换系数可导致不完整的正反向变换对，从而导致像素值“溢出”到非邻近像素，即2个像素外的像素。这会使图像模糊。通过正确选择近似值，从单位矩阵正反向变换得到的矩阵的非对角元素会变零。在非常大的矩阵中，可能无法充分调整近似值。在此类情况下，可调整近似值以产生最小平方意义上的最优结果。此外，需要采用优化来将解限制到Dirichlet集上，即某些有理数。

对于所提出的量化步骤，最好是通过将预定的量化系数序列乘以为简化变换矩阵而从变换矩阵提取的矩阵来确定量化矩阵。所提取的矩阵包括从预定变换矩阵中提取的运算，并可加以调整，以对用有理数来近似简化变换矩阵中的剩余项进行补偿。

所提出的方法可以同样用于一维和二维变换。对于要应用到二维数字数据上的二维变换，对预定的变换矩阵和简化变换矩阵转置执行简化和近似。随后，这两个矩阵用作实现变换的基础。在这种情况下扩展的量化包括从两个所述矩阵中除去的运算，这些运算可加以调整以补偿在两个所述矩阵中的近似值。

所给出的优选实施例不仅可用于根据本发明的用于实现变换和量化的方法，而且可以相应的方式用于实现反变换和反量化的方法，用于根据本发明的编码器和解码器。

实际上，如果变换的算子矩阵是单位矩阵，象DCT变换矩阵，则为变换计算的变换矩阵通常可以以转置形式用于反变换，而无需执行任何单独的计算。这种情况下，扩展量化中包括的运算同样可同时用于扩展预定反量化。

本发明可用于任何用途的任何种类的数字数据压缩，例如，可用于诸如GSM(全球移动通信系统)或UMTS(通用移动电信系统)的移动通信系统中。

例如，本发明可实现为MPEG编解码器的一部分。

通过与附图相结合的如下详细说明，可明白本发明的其它目的和特性。但要理解，附图只用于说明而不是限制本发明，至于本发明的限制条件，则应参考所附权利要求书。

附图简述

下面，本发明将参照附图作更详细的说明，附图中：

图1显示了应用到4×4值矩阵上的DCT；以及

图2以图示方式显示了根据本发明实施例的，用于压缩和解压缩数字数据的编码器和解码器的方框图。

本发明详细说明

图1在上面已经做了描述。

图2的方框图包括可实施本发明的示例系统的部件。在图2的左侧显示了编码器4。编码器4是能够提供和发送视频数据的第一单元的一部分，例如，移动通信系统中用户设备的一部分。编码器4包括连接在其输入和输出之间的DCT变换器41、量化装置42和加法装置43。在图2的右侧显示了解码器5。解码器5是能够接收和显示视频数据的第二单元的一部分，例如，同样是移动通信系统中用户设备的一部分。解码器5包括连接在其输入和输出之间的装置53、反量化装置52和IDCT变换器51。

如果要从第一单元将视频数据发送到第二单元，例如，经通信网络，则将视频数据作为数字数据提供给第一单元的编码器4。在编码器4中，数字数据首先由DCT变换器41进行变换，然后由量化装置42进行量化。量化后，数据还要由附加处理装置43做进一步处理。此处理包括可能在进一步压缩之前将量化数据进行编码以便传输，但这与本发明无关，因此在本文档中并涉及。

处理过的数据随后从包括编码器4的第一单元发送到包括解码器5的第二单元。第二单元接收数据，并将其转发给解码器5。在解码器5中，第一步是在装置53中执行某种处理，该处理是编码器4的方框43中处理的逆处理。因此，该处理(本文档中未涉及)可包括解码，随后可能是解压缩的第一步。处理过的数据随后由反量化装置52进行反量化，并且还要通过IDCT变换器51进行IDCT。由IDCT 51提供的重新获得的视频信号由解码器5输出，以便由第二单元显示给用户。

现在将推导出图2所示编码器4的DCT变换器41和量化装置42的根据本发明的实施例。对于源于本发明背景中所述的DCT和量化的本实施例，假定将要对输入数字数据进行压缩以获得包括4×4个数值的数字数据块。可同样说明由图2所示解码器5的反量化装置52和IDCT变换器51执行相应解压缩的根据本发明的实施例。

要注意的是，在给出的等式中，同一分母可用于不同矩阵的不同等式中。对于每个等式，至少在应用于另一种矩阵之前采用了对应的分母，将标出各矩阵的种类。

根据用于DCT的上述等式：Y＝AXA^T，4×4正向DCT变换可计算如下：

$Y={\mathrm{AXA}}^T=\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right]\·\left[\begin{array}{cccc}{x}_{11}& x_{12}& x_{13}& x_{14}\\ x_{21}& x_{22}& x_{23}& x_{24}\\ x_{31}& x_{32}& x_{33}& x_{34}\\ x_{41}& x_{42}& x_{43}& x_{44}\end{array}\right]\·\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$

其中，Y是期望的变换矩阵，X是包含4×4源值X_ij(i，j＝1-4)的矩阵，以及A是4×4DCT变换矩阵。矩阵A的值a、b和c可从上述A(i，x)的定义轻松获得：

a＝1/2

$b=\sqrt{1/2}.\cos (\mathrm{\π}/8)$

$c=\sqrt{1/2}.\cos (3\mathrm{\π}/8)$

在用于正向DCT的等式中，矩阵A可加以分解，得到对角矩阵B和简化变换矩阵C。可以对A的转置形式A^T执行相应的分解。如果d还可表示为d＝c/b，则正向DCT可写为：

$Y=\mathrm{BCX}{C}^{T}B=$

$\left[\begin{array}{cccc}a& 0& 0& 0\\ 0& b& 0& 0\\ 0& 0& a& 0\\ 0& 0& 0& b\end{array}\right]\·\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& d& -d& -1\\ 1& -1& -1& 1\\ d& -1& 1& -d\end{array}\right]\·\left[\begin{array}{cccc}{x}_{11}& x_{12}& x_{13}& x_{14}\\ x_{21}& x_{22}& x_{23}& x_{24}\\ x_{31}& x_{32}& x_{33}& x_{34}\\ x_{41}& x_{42}& x_{43}& x_{44}\end{array}\right]\·\left[\begin{array}{cccc}1& 1& 1& d\\ 1& d& -1& -1\\ 1& -d& -1& 1\\ 1& -1& 1& -d\end{array}\right]\·\left[\begin{array}{cccc}a& 0& 0& 0\\ 0& b& 0& 0\\ 0& 0& a& 0\\ 0& 0& 0& b\end{array}\right]$

由于B是对角矩阵，因此，上述等式可写为

$Y=D\⊗\left({\mathrm{CXC}}^T\right)\⊗D^T=$

$\left[\begin{array}{cccc}a& a& a& a\\ b& b& b& b\\ a& a& a& a\\ b& b& b& b\end{array}\right]\⊗\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& d& -d& -1\\ 1& -1& -1& 1\\ d& -1& 1& -d\end{array}\right]\·\left[\begin{array}{cccc}{x}_{11}& x_{12}& x_{13}& x_{14}\\ x_{21}& x_{22}& x_{23}& x_{24}\\ x_{31}& x_{32}& x_{33}& x_{34}\\ x_{41}& x_{42}& x_{43}& x_{44}\end{array}\right]\·\left[\begin{array}{cccc}1& 1& 1& d\\ 1& d& -1& -1\\ 1& -d& -1& 1\\ 1& -1& 1& -d\end{array}\right]\·\left[\begin{array}{cccc}a& b& a& b\\ a& b& a& b\\ a& b& a& b\\ a& b& a& b\end{array}\right]$

其中，

表示相应的两个矩阵按项(entry-wize)相乘，而不是整个矩阵相乘。

在将组合D及其转置形式D^T合并成E后，最终的DCT为：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=$

$\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& d& -d& -1\\ 1& -1& -1& 1\\ d& -1& 1& -d\end{array}\right]\·\left[\begin{array}{cccc}{x}_{11}& x_{12}& x_{13}& x_{14}\\ x_{21}& x_{22}& x_{23}& x_{24}\\ x_{31}& x_{32}& x_{33}& x_{34}\\ x_{41}& x_{42}& x_{43}& x_{44}\end{array}\right]\·\left[\begin{array}{cccc}1& 1& 1& d\\ 1& d& -1& -1\\ 1& -d& -1& 1\\ 1& -1& 1& -d\end{array}\right]\·\left[\begin{array}{cccc}{a}^2& \mathrm{ab}& a^2& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{ab}& b^2\\ a^2& \mathrm{ab}& a^2& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{ab}& b^2\end{array}\right]=$

$Y_C\⊗E$

下一步，将系数d转换成可由分母为2ⁿ的有理分数表示的定点格式。考虑八个小数位时的d值为0.41421356。d的两个可能定点近似值为3/8＝0.375和7/16＝0.4375，这两个值均可通过相同次数的加法和移位运算来实现。诸如13/32、27/64和53/128等更精确的近似值需要更多的加法和移位，但实际上并不能显著改善取得的压缩效果。。因此，将比3/8更接近d的7/16选为d的定点格式。

在将系数d转换到定点表示法后，b必须调整为使变换具有反变换。反变换存在的条件由以下等式给出：

A^TA＝I

在d来近似后对已从因子B和C重组的矩阵A求上述等式的解时，调整后的b的条件为：

$b=\sqrt{\frac{0.5}{1+d^2}}.$

矩阵E因此可通过用此新值替代系数b的旧值而进行调整。

现在，可在提取了矩阵E的编码器4的DCT变换器41中实现简化的DCT。也就是说，实现是基于等式Y_C＝CXC^T，其中，矩阵C包括近似的系数d，从而产生修改后的DCT系数Y_C。矩阵E将与随后的量化步骤相结合，以下将对此加以解释。

简化DCT的实际实现可取决于特定的变换器体系结构，其中，总运算量少或根本无乘法可能是最重要的。

现在将提出可在简化DCT变换器的实现中采用的三组不同的等式。等式适合执行基于上述简化DCT变换矩阵C的4点一维简化DCT。在矩阵C中，将系数d选择为d＝7/16。在每组等式中，X[i]，i＝0-3构成了要进行变换的四个值的序列，并且Y[i]，i＝0-3构成了四个变换值的序列，其中，e和f是辅助变量。

所提出的第一组等式为：

e＝X[0]+X[3]

f＝X[1]+X[2]

Y[0]＝e+f

Y[2]＝e-f

e＝X[0]-X[3]

f＝X[1]-X[2]

Y[1]＝e+7×f/16

Y[3]＝7×e/16-f

这组等式中的两次除法实际上是比特移位操作。这组等式因此需要执行8次加法、2次乘法和2次移位，总共12次运算。

所提出的第二组等式为：

e＝X[0]+X[3]

f＝X[1]+X[2]

Y[0]＝e+f

Y[2]＝e-f

e＝X[0]-X[3]

f＝X[1]-X[2]

Y[1]＝e+(f-f/8)/2

Y[3]＝(e-e/8)/2-f

第二组等式只使用加法和移位，并产生与第一组等式相同的结果。同样，除法实际上是比特移位操作。这组等式需要执行10次加法和4次移位，总共14次运算。运算的次数大于第一组等式，但如果乘法是代价很高的运算，则相应的复杂性仍然更低。另外，乘法的结果要求更大的动态范围。

所提出的第三组等式为：

e＝X[0]+X[3]

f＝X[1]+X[2]

Y[0]＝e+f

Y[2]＝e-f

e＝X[0]-X[3]

f＝X[1]-X[2]

Y[1]＝16×e+7×f

Y[3]＝7×e-16×f

第三组等式可使用加法和乘法，或者加法和移位。它需要执行8次加法和4次乘法，或者10次加法和4次移位，总共分别为12次或14次运算。这组等式与第一组和第二组等式产生的结果不同。Y[1]和Y[3]的结果比其它两组等式的结果大16倍，因此，结果的动态范围需要也大得多。然而，在本发明的一些实施例中，由于特定实施例中移位的复杂性或者由于结果的精确度会稍微降低，因此，不将结果向低位移可能会有利。由于采用第三组等式时，一些结果会大16倍，因此，矩阵E中的值“ab”和“b²”分别除以16和16²。

所给定的任何一组等式可通过应用到要变换的各组值而用来对二维数据进行变换。

简化的变换之后是自适应量化步骤。量化的实现取决于所用的DCT。在上述TML-7文档中，使用了均匀量化。在快速DCT中，由于一些DCT乘法与量化乘法相结合，因此，必须使用非均匀量化。文档VCEG-M16的上述binDCT还将除法用于量化，且只需要16位运算。但是，除法通常是较慢的运算。因此，在所给出的实施例中，量化装置42中实现了仅使用乘法的均匀量化。

如上所述，可使用除法执行量化，这样

Y′(i，j)＝Y(i，j)/Q(qp)(i，j)。

由于除法是高成本运算，可使用乘法代替。为此，量化矩阵R计算为

R(qp)(i，j)＝1.0/Q(qp)(i，j)，

在此之后，可使用乘法执行量化：

Y′(i，j)＝Y(i，j)R(qp)(i，j)。

在文档TML-7所提出的量化中，量化系数大致如下所示。也可使用其它系数。

a(qp)＝

2.5000，2.8061，3.1498，3.5354，3.9684，4.4543，4.9998，

5.1620，6.2992，7.0706，7.9364，8.9082，9.9990，11.2234，

12.5978，14.1404，15.8720，17.8155，19.9971，22.4458，

25.1944，28.2795，31.7424，35.6293，39.9922，44.8894，

50.3863，56.5562，63.4817，71.2552，79.9806，89.7745。

为了能够吸收在量化中从DCT提取的矩阵E，用于量化参数qp的量化矩阵R计算为：

R(qp)(i，j)＝E(i，j)/a(qp)

最终的量化系数Y′(i，j)现在可根据在简化DCT中通过以下等式得到的变换系数Y_C(i，j)来确定：

Y′(i，j)＝Y_C(i，j).R(qp)(i，j)±f，

其中，根据TML-7文档，f是帧内块的1/3和帧间块的1/6，并且具有相同的标记Y_C(i，j)。帧内块是仅依据当前图像内的值编码的宏块，而帧间块是还依据其它图像内的值编码的宏块。每个宏块由几个子块组成，例如，所给出的示例4×4数值块，这些数值块单独进行DCT变换和量化。

但是，首先量化要更改为只使用定点值。为此，R和f的值在量化前要与2ⁿ相乘并将结果舍入为整数值，从而转换为定点值。n是用于定点值的小数位数。通过选择n＝17，R的系数可用16位表示，因此量化中只需要16位乘法。更具体地说，需要产生32位结果的16位乘法。

随后，可根据以下等式在编码器4的量化装置42中实现定点量化：

Y′(i，j)＝(Y_C(i，j).R(qp)(i，j)±f)/2ⁿ，

其中，R和f只包括定点值。Y′(i，j)的值由量化装置42输出为所需的压缩数字图像数据。

对于图2所示解码器5中的压缩数字图像数据的解压缩，以对应于编码器4的量化装置42和DCT变换器41的方式实现反量化装置52和IDCT变换器53。基本IDCT从基本DCT计算为：

X＝A^TYA，

其中，矩阵X包含所需的重新获得的源值，矩阵A是原DCT变换矩阵，并且矩阵Y包含如本发明背景中所述通过解压缩获得的反量化值。

根据此等式，反变换可对应于正向变换利用提取的矩阵E用公式表示为：

$X=C^T(Y\⊗E)C$

其中，矩阵C和C^T与用于编码器4的方框41中的简化的DCT矩阵C和C^T相对应。

此等式的矩阵E可在IDCT前的反量化步骤中吸收。

这可以类似于在量化中吸收矩阵E那样实现。反量化系数是量化系数的相反值。

包括矩阵E的量化参数qp反量化矩阵Q可计算为：

Q(qp)(i，j)＝E(i，j).a(qp)

压缩系数Y′(i，j)因此可根据以下等式反量化为反量化系数X′(i，j)：

X′(i，j)＝Y′(i，j).Q(qp)(i，j)

在此等式中，X′(i，j)对应于以上反变换等式 $X=C^T(Y\⊗E)C$ 中的项 $Y\⊗E.$

在使用定点数时，Q的值在反量化前通过与2ⁿ相乘并将结果舍入为整数值而转换为定点值。通过为反量化选择n＝5，反量化中的所有计算可只使用16位运算完成。随后，根据以下等式在解码器5反量化装置52中实现定点反量化：

X′(i，j)＝Y(i，j).Q(qp)(i，j)，

其中，Q仅包含定点数。在反量化后，X′(i，j)的值应通过2ⁿ进行归一化，但归一化会延迟到最终IDCT完成后进行，以便取得更好的精度。

随后可根据以下等式，在解码器5的IDCT变换器51中实现简化的反变换：

X＝C^TX′C

之后，X的定点值根据以下等式转换为整数值：

X(i，j)＝(X(i，j)+2^n-1)/2ⁿ，

其中，通过简单的算法比特移位来实现除以2ⁿ。

IDCT变换器51的实际实现可包括一组等式，这组等式只包括加法、减法和移位，对应于针对DCT变换器41给出的那些等式。

根据本发明的另一实施例，8×8DCT和IDCT可如下所示实现。根据DCT等式，Y＝AXA^T，8×8正向DCT变换可计算如下：

$Y={\mathrm{AXA}}^T=\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ b& c& d& e& -e& -d& -c& -b\\ f& g& -g& -f& -f& -g& g& f\\ c& -e& -b& -d& d& b& e& -c\\ a& -a& -a& a& a& -a& -a& a\\ d& -b& e& c& -c& -e& b& -d\\ g& -f& f& -g& -g& f& -f& g\\ e& -d& c& -b& b& -c& d& -e\end{array}\right]\·X\·A^T,$

其中，Y是期望的变换矩阵；X是如上述4×4实施例中那样包含8×8源值X_ij(i，j＝1-8)的矩阵；A是8×8DCT变换矩阵，在等式的右侧处于写入打开状态；以及A^T是A的转置。矩阵A中的值a、b、c、d、e、f和g可根据A(i，x)的上述定义轻松获得：

$a=1/\left(2\sqrt{2}\right)$

b＝1/2.cos(π/16)

c＝1/2.cos(3π/16)

d＝1/2.cos(5π/16)

e＝1/2.cos(7π/16)

f＝1/2.cos(π/8)

g＝1/2.cos(3π/8)

在正向DCT的等式中，矩阵A可进行分解，得到对角矩阵B和简化变换矩阵C。可以对A的转置形式A^T执行对应的分解。如果我们使用符号x_y＝x/y，正向DCT可写为：

$Y=\mathrm{BCX}{C}^{T}B=$

$\left[\begin{array}{cccccccc}a& 0& 0& 0& 0& 0& 0& 0\\ 0& b& 0& 0& 0& 0& 0& 0\\ 0& 0& f& 0& 0& 0& 0& 0\\ 0& 0& 0& b& 0& 0& 0& 0\\ 0& 0& 0& 0& a& 0& 0& 0\\ 0& 0& 0& 0& 0& b& 0& 0\\ 0& 0& 0& 0& 0& 0& f& 0\\ 0& 0& 0& 0& 0& 0& 0& b\end{array}\right]\·\left[\begin{array}{cccccccc}1& 1& 1& 1& 1& 1& 1& 1\\ 1& c_b& d_b& e_b& -e_b& -d_b& -c_b& -1\\ 1& g_f& {-g}_f& -1& -1& -g_f& g_f& 1\\ c_b& -e_b& -1& -d_b& d_b& 1& e_b& -c_b\\ 1& -1& -1& 1& 1& -1& -1& 1\\ d_b& -1& e_b& c_b& -c_b& -e_b& 1& -d_b\\ g_f& -1& 1& -g_f& -g_f& 1& -1& g_f\\ e_b& -d_b& c_b& -1& 1& -c_b& d_b& -e_b\end{array}\right]\·X\·C^T\·B$

由于B是对角矩阵，因此，在4×4的情况下，上述等式可写为

$Y=D\⊗\left({\mathrm{CXC}}^T\right)\⊗D^T=$

$\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ b& b& b& b& b& b& b& b\\ f& f& f& f& f& f& f& f\\ b& b& b& b& b& b& b& b\\ a& a& a& a& a& a& a& a\\ b& b& b& b& b& b& b& b\\ f& f& f& f& f& f& f& f\\ b& b& b& b& b& b& b& b\end{array}\right]\⊗\left({\mathrm{CXC}}^T\right)\⊗\left[\begin{array}{cccccccc}a& b& f& b& a& b& f& b\\ a& b& f& b& a& b& f& b\\ a& b& f& b& a& b& f& b\\ a& \text{b}& f& b& \text{a}& b& f& \text{b}\\ a& b& f& b& a& b& f& b\\ a& b& f& b& a& b& f& b\\ a& b& f& b& a& b& f& b\\ a& b& f& b& a& b& f& b\end{array}\right]$

其中，

用于表示两个相应的矩阵按项相乘，而不是整个矩阵相乘。

在将D及其转置形式D^T合并成E后，最终的DCT为：

$Y=\left({\mathrm{CXC}}^T\right)\⊗E=$

$(\left[\begin{array}{cccccccc}1& 1& 1& 1& 1& 1& 1& 1\\ 1& c_b& d_b& e_b& -e_b& -d_b& -c_b& -1\\ 1& g_f& -g_f& -1& -1& -g_f& g_f& 1\\ c_b& -e_b& -1& -d_b& d_b& 1& e_b& -c_b\\ 1& -1& -1& 1& 1& -1& -1& 1\\ d_b& -1& e_b& c_b& -c_b& -e_b& 1& -d_b\\ g_f& -1& 1& -g_f& -g_f& 1& -1& g_f\\ e_b& -d_b& c_b& -1& 1& -c_b& d_b& -e_b\end{array}\right]\·X\·C^T)\⊗\left[\begin{array}{cccccccc}{a}^2& \mathrm{ab}& \mathrm{af}& \mathrm{ab}& a^2& \mathrm{ab}& \mathrm{af}& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{bf}& b^2& \mathrm{ab}& b^2& \mathrm{af}& b^2\\ \mathrm{af}& \mathrm{bf}& f^2& \mathrm{bf}& \mathrm{af}& \mathrm{bf}& f^2& \mathrm{bf}\\ \mathrm{ab}& b^2& \mathrm{bf}& b^2& \mathrm{ab}& b^2& \mathrm{bf}& b^2\\ a^2& \mathrm{ab}& \mathrm{af}& \mathrm{ab}& a^2& \mathrm{ab}& \mathrm{af}& \mathrm{ab}\\ \mathrm{ab}& b^2& \mathrm{bf}& b^2& \mathrm{ab}& b^2& \mathrm{bf}& b^2\\ \mathrm{af}& \mathrm{bf}& f^2& \mathrm{bf}& \mathrm{af}& \mathrm{bf}& f^2& \mathrm{bf}\\ \mathrm{ab}& b^2& \mathrm{bf}& b^2& \mathrm{ab}& b^2& \mathrm{bf}& b^2\end{array}\right]=$

$Y_C\⊗E$

下一步，系数c_b、d_b、e_b和g_f会转换成可由分母为2ⁿ的有理分数表示的定点格式。接近的近似值为c_b＝7/8、d_b＝9/16、e_b＝3/16和g_f＝7/16。

在将系数c_b、d_b、e_b和g_f转换成定点表示后，要调整b和f，使变换具有反变换。反变换存在的条件再次由以下等式给出：

A^TA＝I。

在c_b、d_b、e_b和g_f来近似后为已从因子B和C重组的矩阵A求上述等式的解时，调整后的b和f的条件为：

$b=\frac{1}{\sqrt{2}}\frac{1}{\sqrt{1+c_b^2+d_b^2+e_b^2}},$

$f=\frac{1}{2}\frac{1}{\sqrt{1+g_f^2}}$

矩阵E因此可通过用这些新值代替系数b和f的旧值而加以调整。

但是，要满足条件A^TA＝I，c_b、d_b和e_b必须选择不同的值，否则，乘积A^TA以非零非对角元素为特征。8×8情况下的必要条件为：

d_b-c_b+e_b(d_b+c_b)＝0，

此式可以通过选择c_b＝15/16、d_b＝9/16和e_b＝1/4来满足。

现在，简化DCT同样可以在提取了矩阵E的编码器4的DCT变换器41中实现。也就是说，实现基于等式Y_C＝CXC^T，其中，矩阵C包括近似的系数c_b、d_b、e_b和g_f，从而得到修改后的DCT系数矩阵Y_C。矩阵E将与后续量化步骤相结合，这类似于上述4×4DCT的情况。

根据本发明的第三实施例，可通过优选变换中的分数，为条件A^TA＝I调整近似值。要这样选择分数，使矩阵A^TA的非对角元素在实现意义上尽可能接近于零。优化解限于Dirichlet集合，即某些有理数。

根据本发明的第四实施例，通过优选变换中的分数，为条件A^TA＝I调整快速DCT算法的近似值。

至此，通过对本发明实施例的说明，阐明了用于压缩数字数据的有效的替代实现方案。所述实现方案可以以比已知实现方案更精确或更快或者二者兼备的方式来实现。

因此，虽然已说明并指出了应用到优选实施例上的本发明的根本创新特征，但应理解，本领域的技术人员可在不脱离本发明的精神的情况下对所述设备和方法的形式和细节作各种省略、替代和更改。例如，已明确表示，以实质相同的方式执行实质上相同的功能以实现相同的结果的元素和/或方法步骤的所有组合均在本发明范围之内。而且，应认识到，本发明的任何公开形式或实施例显示和/或描述的结构和/或元素和/或方法步骤可以作为通用的设计选择包括在任何其它公开的或描述的或建议的形式或实施例中。因此，本发明范围仅受所附权利要求书限定。

Claims (44)

1.一种用于实现离散余弦变换和量化操作的近似的方法，所述方法包括：

-将所述离散余弦变换矩阵分解成矩阵的乘积，其中至少一个矩阵是对角矩阵，并且其中至少一个矩阵是简化变换矩阵；

-利用有理数来近似构成无理数的所述简化变换矩阵的元素；

-调整预定的量化系数集合，以补偿所述利用有理数对所述简化

变换矩阵的元素的近似。

2.如权利要求1所述的方法，其中调整量化系数集合的值，以确保近似的离散余弦变换具有反变换。

3.如权利要求1或2所述的方法，其中所述有理数可利用分母等于2ⁿ的分数来表示，其中n是整数。

4.如权利要求3所述的方法，其中在所述变换实现中，通过比特移位来实现除法。

5.如权利要求3所述的方法，其中近似的离散余弦变换仅利用加法、减法和比特移位运算来实现。

6.如权利要求3所述的方法，其中所述离散余弦变换矩阵是以下形式的4×4矩阵：

$\left[\begin{array}{cccc}a& a& a& a\\ b& c& -c& -b\\ a& -a& -a& a\\ c& -b& b& -c\end{array}\right],$

其中a＝1/2， $b=\sqrt{1/2}\·\cos (\mathrm{\π}/8),$ $c=\sqrt{1/2}\·\cos (3\mathrm{\π}/8),$ 其中“c”在所述矩阵中根据等式d＝c/b来替换，并且其中所述离散余弦变换矩阵通过分解为包括对角值(a，b，a，b)的对角矩阵和仅包括具有“1”和“d”的绝对值的元素的简化变换矩阵而得以简化，所述对角矩阵将用于调整所述预定量化。

7.如权利要求6所述的方法，其中在所述简化变换矩阵中，所述值“d”用有理数7/16来近似。

8.如权利要求6所述的方法，其中在所述简化变换矩阵中，所述值“d”用有理数来近似，并且在所述对角矩阵中，所述值“b”被调整为 $b=\sqrt{\frac{0.5}{1+d^2}},$ 在所述等式中“d”是所述有理数。

9.如权利要求6所述的方法，其中在所述简化变换矩阵中，所述值“d”用有理数7/16来近似，并且其中所述变换是分别利用如下等式对四个值X[0]、X[1]、X[2]、X[3]进行一维序列变换而实现的：

e＝X[0]+X[3]，

f＝X[1]+X[2]，

Y[0]＝e+f，

Y[2]＝e-f，

e＝X[0]-X[3]，

f＝X[1]-X[2]，

Y[1]＝e+(f-f/8)/2，以及

Y[3]＝(e-e/8)/2-f，

其中Y[0]、Y[1]、Y[2]、Y[3]是四个变换值的一维序列，并且其中e和f是辅助变量。

10.如权利要求3所述的方法，其中所述预定变换矩阵是具有以下形式的8×8矩阵：

$\left[\begin{array}{cccccccc}a& a& a& a& a& a& a& a\\ b& c& d& e& -e& -d& -c& -b\\ f& g& -g& -f& -f& -g& g& f\\ c& -e& -b& -d& d& b& e& -c\\ a& -a& -a& a& a& -a& -a& a\\ d& -b& e& c& -c& -e& b& -d\\ g& -f& f& -g& -g& f& -f& g\\ e& -d& c& -b& b& -c& d& -e\end{array}\right]$

其中 $a=1/\left(2\sqrt{2}\right)$ ，b＝1/2·cos(π/16)，c＝1/2·cos(3π/16)，d＝1/2·cos(5π/16)，e＝1/2·cos(7π/16)，f＝1/2·cos(π/8)，g＝1/2·cos(3π/8)，其中“c”在所述矩阵中根据等式c_b＝c/b来替换，其中“d”在所述矩阵中根据等式d_b＝d/b来替换，其中“e”  在所述矩阵中根据等式e_b＝e/b来替换，其中“g”在所述矩阵中根据等式g_f＝g/f来替换，并且其中所述预定变换矩阵通过将所述预定变换矩阵分解为对角矩阵和简化变换矩阵而被简化，其中所述对角矩阵包括对角值{a，b，f，b，a，b，f，b}，而所述简化变换矩阵仅包括具有“l”、“c_b”、“d_b”、“e_b”和“g_f”的绝对值的元素，所述对角矩阵将用于扩展所述预定量化。

11.如权利要求10所述的方法，其中在所述简化变换矩阵中，所述值“c_b”用有理数15/16来近似，所述值“d_b”用有理数9/16来近似，所述值“e_b”用有理数1/4来近似，并且所述值“g_f”用有理数7/16来近似。

12.如权利要求10所述的方法，其中在所述简化变换矩阵中，所述值“c_b”、“d_b”、“e_b”和“g_f”用有理数来近似，并且其中在所述对角矩阵中，所述值“b”和“f”被调整为 $b=\frac{1}{\sqrt{2}}\frac{1}{\sqrt{1+c_b^2+d_b^2+e_b^2}}$ 和 $f=\frac{1}{2}\frac{1}{\sqrt{1+g_f^2}},$ 值“c_b”、“d_b”、“e_b”和“g_f”在所述等式中是所述有理数。

13.如权利要求3所述的方法，其中对于将被应用到二维数字数据上的二维变换，将具有所述近似元素的所述简化变换矩阵和具有所述近似元素的所述简化变换矩阵的转置用作实现所述变换的基础，所述扩展量化包括从所述矩阵中除去的运算，所述运算被调整，以补偿所述矩阵中的所述近似。

14.如权利要求3所述的方法，其中为了量化，通过将量化系数的预定序列与为了简化所述预定变换矩阵而从所述预定变换矩阵中提取的矩阵相乘来确定量化矩阵，所述提取的矩阵包括从所述预定变换矩阵除去的所述运算，并且调整所述提取的矩阵，以补偿所述利用有理数对所述简化变换矩阵的元素的近似。

15.一种用于实现反离散余弦变换的反量化和近似的方法，所述方法包括：

-将所述反离散余弦变换矩阵分解成矩阵的乘积，其中至少一个矩阵是对角矩阵，并且其中至少一个矩阵是简化反变换矩阵；

-  利用有理数来近似构成无理数的所述简化反变换矩阵的元素；

-调整预定的反量化系数集合，以补偿所述利用有理数对所述简化反变换矩阵的元素的近似。

16.如权利要求15所述的方法，其中为了反量化，通过将反量化系数的预定序列与为了简化所述预定反变换矩阵而从所述预定反变换矩阵提取的矩阵相乘来确定反量化矩阵，所述提取的矩阵包括从所述预定反变换矩阵除去的所述运算，并且调整所述提取的矩阵，以补偿所述利用有理数对所述简化反变换矩阵的元素的近似。

17.如权利要求15所述的方法，其中调整所述量化系数集合的值的近似，以确保得到的反变换对应于一个变换。

18.如权利要求15或17所述的方法，其中所述有理数可利用分母等于2ⁿ的分数来表示，其中n是整数。

19.如权利要求18所述的方法，其中在所述反变换实现中，通过比特移位来实现除法。

20.如权利要求18所述的方法，其中近似的反离散余弦变换仅利用加法、减法和比特移位运算来实现。

21.如权利要求18所述的方法，其中所述预定反变换矩阵是以下形式的4×4矩阵：

$\left[\begin{array}{cccc}a& b& a& c\\ a& c& -a& -b\\ a& -c& -a& b\\ a& -b& a& -c\end{array}\right],$

其中a＝1/2， $b=\sqrt{1/2}\·\cos (\mathrm{\π}/8),$ $c=\sqrt{1/2}\·\cos (3\mathrm{\π}/8),$ 其中“c”在所述矩阵中根据等式d＝c/b来替换，并且其中所述预定反变换矩阵通过将所述预定反变换矩阵分解为对角矩阵和简化反变换矩阵而得以简化，其中所述对角矩阵包含对角值[a，b，a，b]，而所述简化反变换矩阵仅包括具有“l”和“d”的绝对值的元素，所述对角矩阵将用于扩展所述预定去量化。

22.如权利要求21所述的方法，其中在所述简化反变换矩阵中，所述值“d”用有理数7/16来近似。

23.如权利要求21所述的方法，其中在所述简化反变换矩阵中，所述值“d”用有理数来近似，并且其中在所述对角矩阵中，所述值“b”被调整为 $b=\sqrt{\frac{0.5}{1+d^2}},$ “d”在所述等式中是所述有理数。

24.如权利要求21所述的方法，其中在所述简化反变换矩阵中，所述值“d”用有理数7/16来近似，并且其中所述反变换是分别利用如下等式对四个值X[0]、X[1]、X[2]、X[3]的一维序列变换而实现的：

e＝X[0]+X[3]，

f＝X[1]+X[2]，

Y[0]＝e+f，

Y[2]＝e-f，

e＝X[0]-X[3]，

f＝X[1]-X[2]，

Y[1]＝e+(f-f/8)/2，以及

Y[3]＝(e-e/8)/2-f，

其中Y[0]、Y[1]、Y[2]、Y[3]是四个变换值的一维序列，并且其中e和f是辅助变量。

25.如权利要求18所述的方法，其中所述预定反变换矩阵是具有以下形式的8×8矩阵：

$\left[\begin{array}{cccccccc}a& b& f& c& a& d& g& e\\ a& c& g& -e& -a& -b& -f& -d\\ a& d& -g& -b& -a& e& f& c\\ a& e& -f& -d& a& c& -g& -b\\ a& -e& -f& d& a& -c& -g& b\\ a& -d& -g& b& -a& -e& f& -c\\ a& -c& g& e& -a& b& -f& d\\ a& -b& f& -c& a& -d& g& -e\end{array}\right]$

其中 $a=1/\left(2\sqrt{2}\right)$ ，b＝1/2·cos(π/16)，c＝1/2·cos(3π/16)，d＝1/2·cos(5π/16)，e＝1/2·cos(7π/16)，f＝1/2·cos(π/8)，g＝1/2·cos(3π/8)，其中“c”在所述矩阵中根据等式c_b＝c/b来替换，其中“d”在所述矩阵中根据等式d_b＝d/b来替换，其中“e”  在所述矩阵中根据等式e_b＝e/b来替换，其中“g”  在所述矩阵中根据等式g_f＝g/f来替换，并且其中所述预定反变换矩阵通过将所述预定反变换矩阵分解为对角矩阵和简化反变换矩阵而得以简化，其中所述对角矩阵包括对角值{a，b，f，b，a，b，f，b}，而所述简化反变换矩阵仅包括具有“l”、“c_b”、“d_b”、“e_b”和“g_f”的绝对值的元素，所述对角矩阵将用于扩展所述预定反量化。

26.如权利要求25所述的方法，其中在所述简化反变换矩阵中，所述值“c_b”用有理数15/16来近似，所述值“d_b”用有理数9/16来近似，所述值“e_b”用有理数1/4来近似，并且所述值“g_f”用有理数7/16来近似。

27.如权利要求25所述的方法，其中在所述简化反变换矩阵中，所述值“c_b”、“d_b”、“e_b”和“g_f”用有理数来近似，并且其中在所述对角矩阵中，所述值“b”和“f”被调整为 $b=\frac{1}{\sqrt{2}}\frac{1}{\sqrt{1+c_b^2+d_b^2+e_b^2}}$ 和 $f=\frac{1}{2}\frac{1}{\sqrt{1+g_f^2}},$ 值“c_b”、“d_b”、“e_b”和“g_f”在所述等式中是所述有理数。

28.如权利要求18所述的方法，其中对于将被应用到二维反量化数字数据上的二维反变换，将具有所述近似元素的所述简化反变换矩阵和具有所述近似元素的所述简化反变换矩阵的转置用作实现所述反变换的基础，所述扩展反量化包括从所述矩阵中除去的运算，这些运算被调整，以补偿所述矩阵中的所述近似。

29.一种用于压缩数字数据的编码器，包括：

-变换器，用于通过对数字数据应用简化变换来变换所述数字数据，所述简化变换是通过近似离散余弦变换矩阵以要求较少运算而获得的，并且其中简化变换仅利用加法、减法和比特移位运算来实现；以及

-量化装置，耦合到所述变换器的输出，用于利用扩展量化来量化所述变换的数字数据，所述扩展量化补偿对所述简化变换矩阵的元素的所述近似。

30.如权利要求29所述的编码器，其中所述简化变换是通过包括下列步骤的方法获得的：

-将离散余弦变换矩阵分解成矩阵的乘积，其中至少一个矩阵是对角矩阵，并且其中至少一个矩阵是简化变换矩阵；

-利用有理数来近似构成无理数的所述简化变换矩阵的元素；和将量化装置配置为调整预定的量化系数集合，以补偿所述利用有理数对所述简化变换矩阵的元素的近似。

31.如权利要求30所述的编码器，其中调整所述量化系数集合的值，以确保近似的离散余弦变换具有反变换。

32.如权利要求30所述的编码器，其中所述有理数利用分母等于2ⁿ的分数来表示，其中n是整数。

33.一种解码器，包括：

-用于利用扩展反量化将压缩的数字数据反量化的反量化装置；以及

-变换器，耦合到所述反量化装置的输出，用于通过应用简化反变换矩阵来对反量化的数字数据进行变换，所述简化反变换矩阵是通过近似反离散余弦变换矩阵以便在应用到数字数据上时要求较少运算而获得的，并且其中简化变换仅利用加法、减法和比特移位运算来实现；

-其中由所述反量化装置施加的所述扩展反量化补偿对所述简化反变换矩阵的元素的所述近似。

34.如权利要求33所述的解码器，其中所述简化反变换通过包括下列步骤的方法来获得：

-将所述反离散余弦变换矩阵分解成矩阵的乘积，其中至少一个矩阵是对角矩阵，并且其中至少一个矩阵是简化反变换矩阵；

-利用有理数来近似构成无理数的所述简化反变换矩阵的元素；和

-将反量化装置配置为调整预定的反量化系数集合，以补偿所述利用有理数对所述简化反变换矩阵的元素的近似。

35.如权利要求33所述的解码器，其中调整反量化系数集合的值，以确保近似的离散余弦变换具有反变换。

36.如权利要求33所述的解码器，其中所述有理数利用分母等于2ⁿ的分数来表示，其中n是整数。

37.一种编码方法，该方法包括：

-对一组源值应用一组表示近似的离散余弦变换的方程式，以获得相应的一组近似变换系数，所述近似的离散余弦变换利用包括整数和有理数的矩阵来表示，选择所述有理数，以近似离散余弦变换，并且利用分母等于2ⁿ的分数来表示所述有理数，其中n是整数；

-利用扩展量化将所述变换的数字数据量化，所述扩展量化补偿对所述简化变换矩阵的元素的所述近似。

38.如权利要求37所述的方法，其中简化变换仅利用加法、减法和比特移位运算来实现。

39.如权利要求37所述的方法，其中简化变换是通过包括下列步骤的方法获得的：

-将离散余弦变换矩阵分解成矩阵的乘积，其中至少一个矩阵是对角矩阵，并且其中至少一个矩阵是简化变换矩阵；

-利用有理数来近似构成无理数的所述简化变换矩阵的元素；和

-将量化装置配置为调整预定的量化系数集合，以补偿所述利用有理数对所述简化变换矩阵的元素的近似。

40.如权利要求37所述的方法，其中调整量化系数集合的值，以确保近似的离散余弦变换具有反变换。

41.一种解码方法，该方法包括：

-利用扩展反量化，将压缩的数字数据反量化；和

-对反量化的数字数据应用表示近似的反离散余弦变换的一组方程式，所述近似的反离散余弦变换利用包括整数和有理数的矩阵来表示，所述有理数被选择，以近似反离散余弦变换，并且所述有理数利用分母等于2ⁿ的分数来表示，其中n是整数；

-其中通过所述反量化装置应用的所述扩展反量化补偿对所述简化反变换矩阵的元素的所述近似。

42.如权利要求41所述的方法，其中简化反变换仅利用加法、减法和比特移位运算来实现。

43.如权利要求41所述的方法，其中简化反变换通过包括下列步骤的方法来获得：

-将所述反离散余弦变换矩阵分解成矩阵的乘积，其中至少一个矩阵是对角矩阵，并且其中至少一个矩阵是简化反变换矩阵；

-利用有理数来近似构成无理数的所述简化反变换矩阵的元素；和

-反量化装置被配置为调整预定的反量化系数集合，以补偿所述利用有理数对所述简化反变换矩阵的元素的近似。

44.如权利要求41所述的方法，其中调整反量化系数集合的值，以确保近似的离散余弦变换具有反变换。

Images