CN101073075B - 用于改进的逆变换计算的方法和设备 - Google Patents

Abstract

提供一种用于根据在MPEG视频编码中所使用的DCT编码数据来确定表示输出值所需的位的数量的方法，该输出值是在对所述变换编码数据执行逆变换后而获得的。所述方法包括：获得在所述变换编码数据内系数值的和(204)；并且将该和与预定阈值进行比较(206)。作为所述比较的结果，处理器决定在解码所述变换编码数据时应该执行多个预定实施中的哪个逆变换实施(208，210)。例如，如果该和小于阈值，那么可以使用比9位例程更加经济的8位处理例程。

Description

用于改进的逆变换计算的方法和设备

本发明涉及一种用于实现有效逆变换计算的方法和相关设备，并且具体地涉及在使用离散余弦逆变换(IDCT)的MPEG(运动图象专家组)视频处理中使用所述方法。

MPEG视频解码的核心是使用二维8×8离散余弦变换(DCT)。

MPEG解码包括多个部分，例如可变长度解码、IQ/IDCT阶段和运动重建阶段。以两种方式来使用IQ和IDCT阶段，一种方式是以所谓的“内部”宏块，其中通过IDCT的输出来直接描述输出图像值，另一种方式是以“非内部”或“中间”宏块，其中通过将IDCT的输出添加到运动重建上来将该IDCT输出用作校正项。

逆量化(IQ)阶段使位流中编码的值变成准备输入到DCT逆变换的值。

已经公开了多种快速计算DCT(在编码期间使用)和逆DCT(在解码期间使用)的方法。然而，这些描述了快速计算结果的数学方法，而本专利申请描述一种考虑了如在MPEG视频流中发现的IDCT输入和输出数据的特定特征的方法。

在内部帧中，IDCT的输出范围是0到255，该输出范围等于图像中像素值的输出范围。这能够以8位无符号二进制数的形式来保存。

在非内部帧中，IDCT的输出范围是-256到255，其必须以至少9位有符号二进制数的形式来保存。然而，在实际中发现，大于99％的IDCT输出值处于-128到127的较小范围内。这能够以8位的形式来保存。具有该范围的输出值的IDCT具有以下优点，即在诸如TriMedia

之类的媒体处理器和在诸如Pentium

和Athlon

系列之类的具有媒体扩展的标准处理器上，存在快速允许在较长字中处理多个8位值的优化指令。本发明人已经认识到，如果能够提前预测是否能够处理变换系数的块而没有任何超过0-255范围的结果，那么将有可能在大量的时间使用所述经济的处理。

因此，本发明的目的是在逆变换和类似的操作中能够优化处理器的使用，并且特别是设计一种能够非常简单地预测所有的输出值是否能够用8位表示的测试。该测试应该需要很少的CPU工作，以使所实现的处理的经济性未被进行所述测试的工作所抵消。

本发明提供一种根据变换编码数据来确定表示输出值所需的位的数量的方法，该输出值将作为对所述变换编码数据执行逆变换的结果而获得，所述方法包括以下步骤：获得所述变换编码数据内系数值的和；并且将该和与预定阈值进行比较。

所述方法进一步可以包括以下步骤：作为所述比较的结果，决定在解码所述变换编码数据时应该执行多个预定实施中的哪个逆变换实施。

所述变换编码数据可以是离散余弦变换(DCT)编码数据，例如作为MPEG-1或MPEG-2编码视频数据的一部分。

该测试可以用于确定所述输出值是能以8位来表示还是需要9位表示。在这种情况下，所述逆变换实施可以包括一个或一些具有允许有效处理在较长字中多个8位值的优化指令的逆变换实施。

当系数值是双极性时，所述和可以是系数的绝对值。可以从正在讨论的变换的数学定义中确定合适的阈值水平。

在优选的实施例中，输入由8×8离散余弦变换构成。在该情况下能够示出的是，如果所述和比小于或等于528的预定值小，那么输出将能够以8位表示。在实际的实施中，优选的是将该预定值设置为低于528，例如524，以允许IDCT实施中的误差。在不损失本发明的最大益处的情况下，阈值优选地可以处于500到528的范围内。如果将阈值设置得太低，那么唯一的结果是将以不大有效的代码来处理块，所述块是可以通过更有效的代码来处理的。相反，如果将阈值设置得太高，可能将导致错误的输出或溢出错误。

在本发明的另一方面中，提供适合于执行上述的方法的步骤的设备。

在本发明的又一方面中，提供一种记录载体，其中记录有用于使可编程处理器执行上述方法的步骤的程序指令。

现在将仅通过举例并参考附图来描述本发明的实施例，其中：

图1示出MPEG解码器的框图；

图2是根据本发明的实施例的逆变换过程的方法的流程图；

图3示出总和超过阈值的DCT系数的块的多个实例；以及

图4示出总和低于阈值的DCT系数的块的多个实例。

图1示出如在本发明的实施例中使用的MPEG解码器。该解码器由以下功能构成：可变长度解码器(VLD)110，逆量化器112，离散余弦逆变换(IDCT)过程114，运动缓冲器116，求和过程118以及图像排序过程120。通过适当编程例如来自于Trimedia的可用的处理器之类的专用微处理器来实现在本例中的解码器，尽管如引言中所述的那样能够使用其它处理器。也有可能提供专用硬件以执行这些功能中的一个或多个。

传统上，MPEG编码视频(通常通过缓冲器(未示出))被输入VLD110并且被解码成量化的DCT系数，然后逆量化器112对该DCT系数进行逆量化。然后将DCT系数输入IDCT过程114，该IDCT过程114对所述系数执行数字余弦逆变换，从而输出空间像素数据。如果是内部帧的话，这被直接发送到图像排序过程120。如果不是内部帧，那么存在由运动缓冲器116和求和过程118提供的运动补偿。该描述仅涉及IDCT过程114，并且将不进一步讨论解码器的其它功能。

非内部IDCT的输出应该被夹(clip)在-256到255的范围中，这是MPEG规范的结论，其迫使每一输出值被夹在该范围内。然而，为了使用在媒体处理器上可用的特殊操作来实施最佳IDCT过程114，理想的是发现到IDCT的哪些输入值的决产生在能够由8位有符号值(-128到127)表示的范围内的输出值。

描述了一种简单的测试，其确保发现需要9位范围的所有IDCT决，尽管大多数IDCT是以较短的8位版本处理的。该测试计算IDCT过程的输入系数的绝对值的和。如果该和大于或等于预定值，那么进行IDCT的全9位实施。如果该和小于预定值，那么使用最佳的8位版本。

对于MPEG标准IDCT而言，如以下所示的那样，本发明人确定了该预定数字为508。在这些等式中，f(x，y)表示在像素的块中位置(x，y)处的期望输出值，F(u，v)表示在从逆量化器112接收到的DCT系数的相应块内位置(u，v)处的系数值。如MPEG2中使用的二维逆DCT的公式是：

$f(x,y)=\frac{2}{N}\underset{u=0}{\overset{N-1}{\mathrm{\Σ}}}\underset{v=0}{\overset{N-1}{\mathrm{\Σ}}}C\left(u\right)C\left(v\right)F(u,v)\cos \frac{(2x+1)\mathrm{u\π}}{2N}\cos \frac{(2y+1)\mathrm{v\π}}{2N}$

其中x，y＝0，1，2，...N-1

以及

能够看出这表示所有系数的加权和。对于8×8情况而言，这能够被重写为：

$f(x,y)=\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\Σ}}}\underset{v=0}{\overset{7}{\mathrm{\Σ}}}C\left(u\right)C\left(v\right)F(u,v)\cos \frac{(2x+1)\mathrm{u\π}}{2N}\cos \frac{(2y+1)\mathrm{v\π}}{2N}$

或者

$f(x,y)=\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\Σ}}}\underset{v=0}{\overset{7}{\mathrm{\Σ}}}X(u,v,x,y)F(u,v)$

其中

$X(u,v,x,y)=C\left(u\right)C\left(v\right)\cos \frac{(2x+1)\mathrm{u\π}}{2N}\cos \frac{(2y+1)\mathrm{v\π}}{2N}$

能够看出X(u，v)总是处于-1到1的范围内，因为它所有的因子处于该范围内。

因此已知的是，X(u，v)的绝对值小于或等于1。采用绝对值于是有：

$\mathrm{abs}\left(f(x,y)\right)=\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\Σ}}}\underset{v=0}{\overset{7}{\mathrm{\Σ}}}\mathrm{abs}\left(X(u,v,x,y)\right)\mathrm{abs}\left(F(u,v)\right)$

这意味着：

$\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{7}{\mathrm{\&Sigma;}}}\mathrm{abs}\left(X(u,v,x,y)\right)\mathrm{abs}\left(F(u,v)\right)<\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{7}{\mathrm{\&Sigma;}}}\mathrm{abs}\left(F(u,v)\right)$

即

$\mathrm{abs}\left(f(x,y)\right)<\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{7}{\mathrm{\&Sigma;}}}\mathrm{abs}\left(F(u,v)\right)$

因此，如果输入系数的绝对值的和小于某一值的四倍，那么实际的输出值也必须小于该指定值。

对于8位夹住测试而言，需要输出的绝对值小于127。因此，考虑四分之一的整个缩放比例(scaling)，我们知道如果绝对值的和小于508，那么输出能够以8位来表示。

进一步观察能够发现，X(u，v，x，y)处于-(cos(π/16))²到+(cos(π/16))²的范围内，其大约为-0.9619到0.9619。这意味着能够扩展所述范围：

$\frac{1}{4}\underset{u=0}{\overset{7}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{7}{\mathrm{\&Sigma;}}}\mathrm{abs}\left(X(u,v,x,y)\right)\mathrm{abs}\left(F(u,v)\right)\&le;\frac{{\left(\cos \left(\frac{\mathrm{\&pi;}}{16}\right)\right)}^2}{4}\underset{u=0}{\overset{7}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{7}{\mathrm{\&Sigma;}}}\mathrm{abs}\left(F(u,v)\right)$

i.e.

$\mathrm{abs}\left(f(x,y)\right)\&le;\frac{{\left(\cos \left(\frac{\mathrm{\&pi;}}{16}\right)\right)}^2}{4}\underset{u=0}{\overset{7}{\mathrm{\&Sigma;}}}\underset{v=0}{\overset{7}{\mathrm{\&Sigma;}}}\mathrm{abs}\left(F(u,v)\right)$

因此，为了确保任何输出系数的绝对值小于或等于127，输入的绝对值的和必须小于528(即127乘以4，除以(cos(π/16))²)。

然而应该注意到，这假设了一种理想的IDCT实施。因此，为了允许误差值，在实际中使用较为安全的大约为524的阈值。

图2示出说明上述方法的流程图。步骤202表示获取所有系数值的初始步骤。在步骤204，获得这些系数的绝对值的和。在步骤206，将所述和与阈值进行比较。如果所述和大于阈值，那么在步骤208进行全9位IDCT实施。然而，如果该和小于阈值，那么在步骤210使用优化的8位IDCT实施。最后，在步骤212计算输出值。

图3和图4示出DCT系数决和它们的绝对值的相应和的多个实例。图3示出的实例是和高于阈值极限，并且因此将需要9位IDCT实施。图4示出的实例是和低于阈值，并因此能够使用优化的8位实施。

应该注意到，上述描述仅给出了实例，并且在不脱离本发明的精神和范围的情况下可以设想其它实例和实施例。特别是，尽管给出了具有8位系数的8×8DCT的实例，但是能够设想到可以利用其它大小和类型的变换来使用该方法，本领域的技术人员现在能够使用上述公开来导出合适的阈值。还应该注意到，本发明可以应用在正向变换步骤中，而不仅仅应用在逆向变换步骤以确定任何输出值是否超过某一值。

Claims (12)

1.一种在视频解码中执行离散余弦逆变换IDCT实施的方法，所述方法包括以下步骤：获得在视频解码中使用的离散余弦变换DCT编码数据内的经逆量化的DCT系数的绝对值的和(204)；将该和与预定阈值进行比较(206)；作为所述比较的结果，决定在解码所述DCT编码数据时应该执行两个位数不同的预定IDCT实施中的哪个IDCT实施(208，210)；以及执行所决定的IDCT实施，以输出输出值；

其中，当所述和大于或等于所述预定阈值时，执行9位IDCT实施，而当所述和小于所述预定阈值时，执行8位IDCT实施。

2.如权利要求1所述的方法，其中所述DCT编码数据是MPEG-1或MPEG-2编码视频数据。

3.如权利要求1所述的方法，其中所述DCT编码数据是8×8离散余弦变换编码数据。

4.如权利要求3所述的方法，其中所述方法用于确定所述输出值是能够以8位来表示还是需要9位的表示。

5.如权利要求3所述的方法，其中8位IDCT实施包括用于在较长字中处理多个8位值的指令。

6.如权利要求3所述的方法，其中所述预定阈值处于500到528的范围内。

7.一种用于在视频解码中执行离散余弦逆变换IDCT实施的设备，所述设备包括：用于获得在视频解码中使用的离散余弦变换DCT编码数据内的经逆量化的DCT系数的绝对值的和的装置；用于将该和与预定阈值进行比较的装置；用于作为所述比较的结果，决定在解码所述DCT编码数据时应该执行两个位数不同的预定IDCT实施中的哪个IDCT实施的装置；以及用于执行所决定的IDCT实施以输出输出值的装置；

其中，当所述和大于或等于所述预定阈值时，执行9位IDCT实施，而当所述和小于所述预定阈值时，执行8位IDCT实施。

8.如权利要求7所述的设备，其中所述DCT编码数据是MPEG-1或MPEG-2编码视频数据。

9.如权利要求7所述的设备，其中所述DCT编码数据是8×8离散余弦变换编码数据。

10.如权利要求9所述的设备，其中所述设备适于确定所述输出值是能够以8位来表示还是需要9位的表示。

11.如权利要求9所述的设备，其中8位IDCT实施包括用于在较长字中处理多个8位值的指令。

12.如权利要求9所述的设备，其中所述预定阈值处于500到528的范围内。

Images