CN105512093A

CN105512093A - 视频编码方法和装置以及解码方法和装置

Info

Publication number: CN105512093A
Application number: CN201510856549.5A
Authority: CN
Inventors: 洪允美; 韩宇镇; 千岷洙; 陈建乐
Original assignee: Samsung Electronics Co Ltd
Current assignee: Samsung Electronics Co Ltd
Priority date: 2010-09-28
Filing date: 2011-09-28
Publication date: 2016-04-20
Also published as: BR112013007023A2; US20190394490A1; CN103125116A; EP2985700A3; US20160255372A1; KR20120032458A; KR20190058423A; US20180041775A1; WO2012044076A3; US10038918B2; WO2012044076A2; JP2013542665A; CN105263028A; JP2014233095A; US20130188730A1; EP2624556A2; KR20200028373A; KR101982819B1; KR102087990B1; US9350997B2

Abstract

一种视频编码方法和装置以及解码方法和装置，所述视频编码方法包括：基于用于对预定尺寸的块进行频率变换的变换矩阵产生快速变换矩阵；通过使用快速变换矩阵对所述预定尺寸的块进行变换来产生变换块；针对变换块执行缩放以校正用于频率变换的变换矩阵与快速变换矩阵之间的差。

Description

视频编码方法和装置以及解码方法和装置

本申请是向中国知识产权局提交的申请日为2011年9月28日的标题为“视频编码方法和装置以及解码方法和装置”的第201180046974.8号申请的分案申请。

技术领域

本发明涉及一种视频编码方法、视频编码设备、视频解码方法和视频解码设备，更具体地讲，涉及一种用于对大尺寸块进行变换的方法和设备以及用于对变换的大尺寸块进行逆变换的方法和设备。

背景技术

根据当前国际视频编码标准(诸如H.264或MPEG-4)，视频信号被分层划分为序列、帧、条带、宏块和块，其中，块是最小处理单元。在编码方面，经由帧内预测或帧间预测确定块的预测剩余误差，执行块变换使得能量集中于十进制的系数，并且经由量化、扫描、行程编码和熵编码对图像数据进行压缩并记录为编码比特流。在解码方面，以相反的顺序执行上述处理。首先，从比特流提取熵编码的块变换系数。然后，经由反量化和逆变换重建块的预测剩余误差，并使用预测信息来重建块的视频数据。在编码解码处理中，变换模块是视频压缩的基础，变换模块的变换性能直接影响编解码器的整体性能。

离散余弦变换(DCT)被用作初始视频编码标准(诸如MPEG-1或H.261)。在1974年DCT被引入之后，DCT已被广泛用于图像和视频编码领域。由于DCT在变换域中去除了图像元素的相关性并且为高效图像压缩准备了基础，因此，与所有次优变换相比，DCT具有优秀的变换性能。然而，由于使用浮点数表示DCT矩阵，因此由于大量的浮点运算，许多系统资源被使用。因此，需要新的DCT算法，以便在对大尺寸块执行变换时提高变换效率。

发明内容

技术问题

一个或多个示例性实施例提供一种实现关于大尺寸块的快速频率变换的视频编码方法、视频编码设备、视频解码方法和视频解码设备。一个或多个示例性实施例还提供一种可经由在量化或反量化处理中执行的缩放或去缩放来补偿当使用快速频率变换时可产生的变换误差的视频编码方法、视频编码设备、视频解码方法和视频解码设备。

技术方案

根据示例性实施例，通过针对变换块执行缩放来减小使用快速变换矩阵的IDCT的结果中的误差。

有益效果

在根据本发明的图像变换和图像逆变换中，当对大块进行变换和逆变换时，执行基于整数的运算而非浮点运算，从而降低计算复杂性并提高运算速度。

另外，可通过在量化或反量化期间执行缩放或去缩放来补偿基于浮点运算的变换与快速变换之间的误差值。

附图说明

通过参照附图详细描述本发明的示例性实施例，本发明的以上和其它特点和优点将变得更加清楚，其中：

图1是根据本发明的实施例的视频编码设备的框图；

图2是根据本发明的实施例的4点、8点、16点和32点离散余弦变换(DCT)的流程图；

图3是示出根据本发明的实施例的产生缩放矩阵的方法的流程图；

图4a至图4f示出根据本发明的实施例的根据在针对16×16块的变换中使用的量化参数的缩放矩阵；

图5a至图5f示出根据本发明的实施例的根据在针对32×32块的变换中使用的量化参数的缩放矩阵；

图6a至图6f示出根据本发明的实施例的根据应用于16×16块的量化参数的去缩放矩阵；

图7a至图7f示出根据本发明的实施例的根据应用于32×32块的量化参数的去缩放矩阵；

图8是根据本发明的另一实施例的32点DCT的流程图；

图9是形成图8的32点DCT的蝶形结构的运算处理的参考图；

图10是示出根据本发明的实施例的视频编码方法的流程图；

图11是根据本发明的实施例的视频解码设备的框图；

图12是示出根据本发明的实施例的视频解码方法的流程图。

最佳实施方式

根据本发明的一方面，提供一种视频编码方法，包括：基于被用于对预定尺寸的块进行频率变换的变换矩阵来产生快速变换矩阵；通过使用快速变换矩阵对所述预定尺寸的块进行变换来产生变换块；针对变换块执行缩放以校正用于频率变换的变换矩阵与快速变换矩阵之间的差。

根据本发明的一方面，提供一种视频编码设备，包括：变换器，基于被用于对预定尺寸的块进行频率变换的变换矩阵来产生快速变换矩阵，并通过使用快速变换矩阵对所述预定尺寸的块进行变换来产生变换块；量化器，针对变换块执行缩放以校正用于频率变换的变换矩阵与快速变换矩阵之间的差。

根据本发明的一方面，提供一种视频解码方法，包括：接收预定尺寸的量化的变换块；针对量化的变换块执行去缩放以校正用于对量化的变换块进行频率逆变换的逆变换矩阵与基于所述逆变换矩阵产生的快速逆变换矩阵之间的差；通过使用快速逆变换矩阵对通过去缩放所获得的去缩放的变换块进行逆变换来产生逆变换块。

根据本发明的一方面，提供一种视频解码设备，包括：反量化器，针对量化的变换块执行去缩放以校正用于对量化的变换块进行频率逆变换的逆变换矩阵与基于所述逆变换矩阵产生的快速逆变换矩阵之间的差；逆变换器，通过使用快速逆变换矩阵对通过去缩放所获得的去缩放的变换块进行逆变换来产生逆变换块。

具体实施方式

以下，将参照附图更加全面地描述示例性实施例。

图1是根据本发明的实施例的视频编码设备100的框图。

参照图1，视频编码设备100包括预测器110、减法器115、变换器120、量化器130和熵编码器140。

预测器110将输入图像划分为具有预定尺寸的块，并通过对每个块执行帧间预测或帧内预测来产生预测块。详细地讲，预测器110执行用于通过运动预测和补偿处理来产生预测块的帧间预测和用于通过使用与当前块相邻的相邻块的数据来产生预测块的帧内预测，其中，所述运动预测和补偿处理在先前被编码并随后被恢复的参考画面的预定搜索范围内产生指示与当前块相似的区域的运动矢量。

减法器115通过从原始图像数据减去当前块的预测块来产生残差。

变换器120将残差变换到频率域。具体地，在本发明的示例性实施例中，可将针对具有较小尺寸的现有块(诸如4×4块或8×8块)而定义的离散余弦变换(DCT)矩阵扩大并应用于具有至少16×16尺寸的块。如下所述，变换器120通过用有理数替代用于现有DCT的变换矩阵的元素，根据移位运算以及基于整数的加法和减法(而非浮点运算)来执行DCT，从而在提高运算速度的同时降低计算复杂性。根据另一实施例，变换器120可通过使用包括如下元素的快速变换矩阵执行DCT，从而降低整体计算复杂性，其中，所述如下元素是通过将用于DCT的变换矩阵的元素乘以2的幂并随后对相乘后的元素进行四舍五入而获得的。

量化器130对变换的残差进行量化。具体地，量化器130执行预定缩放，以便减小由变换器120使用快速变换矩阵执行的变换的结果与使用基于实际浮点运算的DCT矩阵执行的变换的结果之间的误差值。稍后将详细描述缩放和量化。

熵编码器140通过对量化的图像数据执行可变长度编码来产生比特流。

现在将详细描述在图1的变换器120中执行的变换。

变换器120针对N×N(其中，N表示整数)输入块执行列式变换和行式变换以产生N×N变换块。当N×N输入块是Input，行式DCT矩阵是Transform_hor，列式DCT矩阵是Transform_ver，并且变换结果值是Output时，变换器120执行如等式Output＝Transform_hor×Input×Transform_ver中表示的矩阵运算以输出变换结果值Output。在矩阵运算中，第一矩阵乘法Transform_hor×Input相应于针对N×N输入块Input的每一行的一维(1D)水平DCT的执行，Transform_hor×Input与Transform_ver相乘相应于1D垂直DCT的执行。行式DCT矩阵Transform_hor是列式DCT矩阵Transform_ver的转置。虽然以下描述集中于针对N×N输入块执行频率变换和频率逆变换的N×N变换矩阵和N×N逆变换矩阵，但是本发明的精神还可应用于使用a×b(其中，a和b表示整数)频率变换矩阵和a×b频率逆变换矩阵的情况。

当位于垂直变换矩阵的(i,k)(其中，i和k是整数)位置的元素是Aik时，用于针对N×N输入块进行变换的垂直变换矩阵的第(i,k)元素Aik可被定义为等式1：

[等式1]

\begin{matrix} A_{i k} = α_{i} \cos \frac{π (2 k + 1) i}{2 N} \\ (i, k = 0, ..., N - 1, α_{0} = \sqrt{\frac{1}{N}}, α_{i} = \sqrt{\frac{2}{N}}) \end{matrix}

由于水平变换矩阵是垂直变换矩阵的转置，因此类似垂直变换矩阵，水平变换矩阵的第(i,k)元素Bik被表示为使用余弦函数获得的值。变换器120可通过使用以有理数替代用于DCT的变换矩阵的元素所产生的快速变换矩阵，根据加法、减法和移位运算来执行DCT。根据另一实施例，变换器120可通过使用由如下元素形成的快速变换矩阵来执行DCT，其中，所述如下元素是通过将用于DCT的变换矩阵的元素乘以2的幂并随后对相乘后的元素进行四舍五入而获得的。

图2是根据本发明的实施例的4点、8点、16点和32点DCT的流程图。

参照图2，f0至f31表示一维(1D)DCT的输入值，并同时表示1D逆离散余弦变换(IDCT)的输出值。F0至F31表示1DDCT的输出值，并同时表示1DIDCT的输入值。DCT期间的数据处理方向为从左至右，并且IDCT期间的处理方向为从右至左。2条线相交于点表示两个数的加法。每条线之上的值表示根据相应系数的乘法。cθ表示cosθ，sθ表示sinθ，并且“-”表示负。指示虚线的参考标号210是4点1DDCT的流程图，指示虚线的参考标号220是8点1DDCT的流程图，指示虚线的参考标号230是16点1DDCT的流程图，指示虚线的参考标号240是32点1DDCT的流程图。

如流程图200中所示，cθ和sθ可根据DCT中的θ值变为无理数，因此，会增加计算复杂性。这样的DCT的处理在使用硬件实现时会增加复杂性。因此，根据示例性实施例，变换器120通过以有理数替代用于DCT的元素的三角函数值来产生与原始DCT矩阵相似的快速变换矩阵。根据另一示例性实施例，变换器120通过将用于DCT的元素乘以预定常数(例如，2ⁿ)并对相乘后的元素进行四舍五入来产生快速变换矩阵。

详细地讲，参照图2，当N是16时，即，当针对16×16输入块执行1DDCT时，根据流程图230以16×16输入块的16行和16列为单位执行1DDCT。当f＝[f0,f1,f2,…,f14,f15]T表示16个输入值，F＝[F0,F1,F2,...,F14,F15]T表示变换结果值，并且Original_A表示代表根据流程图230对输入值进行变换的处理的变换矩阵时，F＝Original_A×f表示1DDCT。

如上所述，由于cosθ和sinθ可根据θ值为无理数，因此变换器120以有理数替代包括在变换矩阵Original_A的元素中的cosθ和sinθ。例如，当N＝16时，变换器120以a0替代cos0，以a1替代cos(π×(1/2)/16)，以a2替代cos(π×(2/2)/16)，以a3替代cos(π×(3/2)/16)，以a4替代cos(π×(4/2)/16)，以a5替代cos(π×(5/2)/16)，以a6替代cos(π×(6/2)/16)，以a7替代cos(π×(7/2)/16)，以a8替代cos(π×(8/2)/16)，以a9替代cos(π×(9/2)/16)，以a10替代cos(π×(10/2)/16)，以a11替代cos(π×(11/2)/16)，以a12替代cos(π×(12/2)/16)，以a13替代cos(π×(13/2)/16)，以a14替代cos(π×(14/2)/16)以及以a15替代cos(π×(15/2)/16)。类似地，可通过使用诸如sinθ＝cos(90-θ)的关系以变量ai替代sinθ。变量ai可以是有理数，并且每个变量ai的分母可具有能够进行移位运算的2的幂的值。因为如果分母是2的幂，则可用右移运算(>>)来替代用于变换所需的除法运算等，所以变量ai限于二进有理数。

例如，当N是16时，16个变量ai可以是以下值：a1＝63/64，a2＝62/64，a3＝61/64，a4＝59/64，a5＝56/64，a6＝53/64，a7＝49/64，a8＝45/64，a9＝40/64，a10＝35/64，a11＝30/64，a12＝24/64，a13＝18/64，a14＝12/64，a15＝6/64。

如果N是16，则可将通过使用替代的16×16变换矩阵A针对16×16输入块所执行的1DDCT表示为如下运算，其中，Xi(其中，i表示范围0至15中的整数)表示待变换的输入值，Bi、Ci、Di、Ei和Fi表示中间值，并且Yi表示变换结果值：

{

/阶段0

B0＝X0+X15；B15＝X0-X15；B1＝X1+X14；B14＝X1-X14；B2＝X2+X13；B13＝X2-X13；B3＝X3+X12；B12＝X3-X12；B4＝X4+X11；B11＝X4-X11；B5＝X5+X10；B10＝X5-X10；B6＝X6+X9；B9＝X6-X9；B7＝X7+X8；B8＝X7-X8；

/阶段1

C0＝B0+B7；C7＝B0-B7；C1＝B1+B6；C6＝B1-B6；C2＝B2+B5；C5＝B2-B5；C3＝B3+B4；C4＝B3-B4；C10＝(45×(B13-B10))>>6；C13＝(45×(B13+B10))>>6；C11＝(45×(B12-B11))>>6；C12＝(45×(B12+B11))>>6；

/阶段2

D0＝C0+C3；D3＝C0-C3；D8＝B8+C11；D11＝B8-C11；D12＝B15-C12；D15＝B15+C12；D1＝C1+C2；D2＝C1-C2；D9＝B9+C10；D10＝B9-C10；D13＝B14-C13；D14＝B14+C13；D5＝(45×(C6-C5))>>6；D6＝(45×(C6+C5))>>6；

/阶段3

Y0＝(45×(D0+D1))>>6；Y8＝(45×(D0-D1))>>6；Y4＝(59×D3+24×D2)>>6；Y12＝(24×D3-59×D2)>>6；E4＝C4+D5；E5＝C4-D5；E6＝C7-D6；E7＝C7+D6；E9＝(24×D14-59×D9)>>6；E10＝(-59×D13-24×D10)>>6；E13＝(24×D13-59×D10)>>6；E14＝(59×D14+24×D9)>>6；

/阶段4

Y2＝(12×E4+62×E7)>>6；Y10＝(53×E5+35×E6)>>6；Y6＝(53×E6-35×E5)>>6；Y14＝(12×E7-62×E4)>>6；F8＝D8+E9；F9＝D8-E9；F10＝D11-E10；F11＝D11+E10；F12＝D12+E13；F13＝D12-E13；F14＝D15-E14；F15＝D15+E14；

/阶段5

Y1＝(6×F8+63×F15)>>6；Y9＝(49×F9+40×F14)>>6；Y5＝(30×F10+56×F13)>>6；Y13＝(61×F11+18×F12)>>6；Y3＝(61×F12-18×F11)>>6；Y11＝(30×F13-56×F10)>>6；Y7＝(49×F14-40×F9)>>6；Y15＝(6×F15-63×F8)>>6；

}

作为另一示例，如果N是32，则与N是16时一样，通过以基于32个变量ai(其中，i表示范围0至31中的整数)的值替代构成在针对32×32块的1DDCT中使用的32×32变换矩阵Original_A的元素来产生快速变换矩阵A。参照回图2，当N是32时，即，当针对32×32输入块执行1DDCT时，根据流程图240以32×32输入块的32行和32列为单位执行1DDCT。当f＝[f0,f1,f2,...,f30,f31]T表示32个输入值，F＝[F0,F1,F2,...,F30,F31]T表示变换结果值，并且Original_A表示代表根据流程图240对输入值进行变换的处理的变换矩阵时，将1DDCT表示为F＝Original_A×f。变换器120通过以作为有理数的32个变量ai替代构成32×32变换矩阵Original_A的元素的分量cos(π×(i/2)/32)(其中，i表示从0至31的整数)来产生快速变换矩阵A。

当N是32时，32个变量ai可具有以下值：a1＝255/256，a2＝254/256，a3＝253/256，a4＝251/256，a5＝248/256，a6＝244/256，a7＝241/256，a8＝236/256，a9＝231/256，a10＝225/256，a11＝219/256，a12＝212/256，a13＝205/256，a14＝197/256，a15＝189/256，a16＝181/256，a17＝171/256，a18＝162/256，a19＝152/256，a20＝142/256，a21＝131/256，a22＝120/256，a23＝109/256，a24＝97/256，a25＝86/256，a26＝74/256，a27＝62/256，a28＝49/256，a29＝37/256，a30＝25/256，a31＝12/256。

当N是32时，可将通过使用快速变换矩阵A对32×32输入块执行的1DDCT表示为以下运算，其中，Xi(其中，i表示范围0至31中的整数)表示待变换的输入值，Ai、Bi、Ci、Di、Ei和Fi表示中间值，Yi表示变换结果值：

{

/阶段0

A0＝X0+X31；A31＝X0-X31；A1＝X1+X30；A30＝X1-X30；A2＝X2+X29；A29＝X2-X29；A3＝X3+X28；A28＝X3-X28；A4＝X4+X27；A27＝X4-X27；A5＝X5+X26；A26＝X5-X26；A6＝X6+X25；A25＝X6-X25；A7＝X7+X24；A24＝X7-X24；A8＝X8+X23；A23＝X8-X23；A9＝X9+X22；A22＝X9-X22；A10＝X10+X21；A21＝X10-X21；A11＝X11+X20；A20＝X11-X20；A12＝X12+X19；A19＝X12-X19；A13＝X13+X18；A18＝X13-X18；A14＝X14+X17；A17＝X14-X17；A15＝X15+X16；A16＝X15-X16；

/阶段1

B0＝A0+A15；B15＝A0-A15；B1＝A1+A14；B14＝A1-A14；B2＝A2+A13；B13＝A2-A13；B3＝A3+A12；B12＝A3-A12；B4＝A4+A11；B11＝A4-A11；B5＝A5+A10；B10＝A5-A10；B6＝A6+A9；B9＝A6-A9；B7＝A7+A8；B8＝A7-A8；B20＝(181×(A27-A20))>>8；B27＝(181×(A27+A20))>>8；B21＝(181×(A26-A21))>>8；B26＝(181×(A26+A21))>>8；B22＝(181×(A25-A22))>>8；B25＝(181×(A25+A22))>>8；B23＝(181×(A24-A23))>>8；B24＝(181×(A24+A23))>>8；

/阶段2

C0＝B0+B7；C7＝B0-B7；C1＝B1+B6；C6＝B1-B6；C2＝B2+B5；C5＝B2-B5；C3＝B3+B4；C4＝B3-B4；C10＝(181×(B13-B10))>>8；C13＝(181×(B13+B10))>>8；C11＝(181×(B12-B11))>>8；C12＝(181×(B12+B11))>>8；C16＝A16+B23；C23＝A16-B23；C24＝A31-B24；C31＝A31+B24；C17＝A17+B22；C22＝A17-B22；C25＝A30-B25；C30＝A30+B25；C18＝A18+B21；C21＝A18-B21；C26＝A29-B26；C29＝A29+B26；C19＝A19+B20；C20＝A19-B20；C27＝A28-B27；C28＝A28+B27；

/阶段3

D0＝C0+C3；D3＝C0-C3；D8＝B8+C11；D11＝B8-C11；D12＝B15-C12；D15＝B15+C12；D1＝C1+C2；D2＝C1-C2；D9＝B9+C10；D10＝B9-C10；D13＝B14-C13；D14＝B14+C13；D5＝(181×(C6-C5))>>8；D6＝(181×(C6+C5))>>8；D18＝(97×C29-236×C18)>>8；D20＝(-236×C27-97×C20)>>8；D26＝(-236×C21+97×C26)>>8；D28＝(97×C19+236×C28)>>8；D19＝(97×C28-236×C19)>>8；D21＝(-236×C26-97×C21)>>8；D27＝(-236×C20+97×C27)>>8；D29＝(97×C18+236×C29)>>8；

/阶段4

Y0＝(181×(D0+D1))>>8；Y16＝(181×(D0-D1))>>8；Y8＝(236×D3+97×D2)>>8；Y24＝(97×D3-236×D2)>>8；E4＝C4+D5；E5＝C4-D5；E6＝C7-D6；E7＝C7+D6；E9＝(97×D14-236×D9)>>8；E10＝(-236×D13-97×D10)>>8；E13＝(97×D13-236×D10)>>8；E14＝(236×D14+97×D9)>>8；E16＝C16+D19；E19＝C16-D19；E20＝C23-D20；E23＝C23+D20；E24＝C24+D27；E27＝C24-D27；E28＝C31-D28；E31＝C31+D28；E17＝C17+D18；E18＝C17-D18；E21＝C22-D21；E22＝C22+D21；E25＝C25+D26；E26＝C25-D26；E29＝C30-D29；E30＝C30+D29；

/阶段5

Y4＝(49×E4+251×E7)>>8；Y20＝(212×E5+142×E6)>>8；Y12＝(212×E6-142×E5)>>8；Y28＝(49×E7-251×E4)>>8；F8＝D8+E9；F9＝D8-E9；F10＝D11-E10；F11＝D11+E10；F12＝D12+E13；F13＝D12-E13；F14＝D15-E14；F15＝D15+E14；F17＝(49×E30-251×E17)>>8；F18＝(-251×E29-49×E18)>>8；F21＝(212×E26-142×E21)>>8；F22＝(-142×E25-212×E22)>>8；F25＝(212×E25-142×E22)>>8；F26＝(142×E26+212×E21)>>8；F29＝(49×E29-251×E18)>>8；F30＝(251×E30+49×E17)>>8；

/阶段6

Y2＝(25×F8+254×F15)>>8；Y18＝(197×F9+162×F14)>>8；Y10＝(120×F10+225×F13)>>8；Y26＝(244×F11+74×F12)>>8；Y6＝(244×F12-74×F11)>>8；Y22＝(120×F13-225×F10)>>8；Y14＝(197×F14-162×F9)>>8；Y30＝(25×F15-254×F8)>>8；G16＝E16+F17；G17＝E16-F17；G18＝E19-F18；G19＝E19+F18；G20＝E20+F21；G21＝E20-F21；G22＝E23-F22；G23＝E23+F22；G24＝E24+F25；G25＝E24-F25；G26＝E27-F26；G27＝E27+F26；G28＝E28+F29；G29＝E28-F29；G30＝E31-F30；G31＝E31+F30；

/阶段7

Y1＝(12×G16+255×G31)>>8；Y17＝(189×G17+171×G30)>>8；Y9＝(109×G18+231×G29)>>8；Y25＝(241×G19+86×G28)>>8；Y5＝(62×G20+248×G27)>>8；Y21＝(219×G21+131×G26)>>8；Y13＝(152×G22+205×G25)>>8；Y29＝(253×G23+37×G24)>>8；Y3＝(253×G24-37×G23)>>8；Y19＝(152×G25-205×G22)>>8；Y11＝(219×G26-131×G21)>>8；Y27＝(62×G27-248×G20)>>8；Y7＝(241×G28-86×G19)>>8；Y23＝(109×G29-231×G18)>>8；Y15＝(189×G30-171×G17)>>8；Y31＝(12×G31-255×G16)>>8；

}

如上所述，根据另一示例性实施例，变换器120通过将用于DCT的元素乘以2ⁿ并对相乘后的元素进行四舍五入来产生快速变换矩阵。详细地讲，通过根据等式A＝round(Original_A×2ⁿ)对DCT矩阵Original_A的元素的值进行变换来产生快速变换矩阵A，其中，等式A＝round(Original_A×2ⁿ)表示将用于1DDCT的变换矩阵Original_A乘以2ⁿ(其中，n是整数)并随后对相乘后的变换矩阵Original_A进行四舍五入的运算。

根据示例性实施例，由于变换器120通过使用快速变换矩阵A替代原始N×N变换矩阵Original_A来执行变换，因此在基于原始N×N变换矩阵Original_A的结果值与基于替代的变换矩阵A的结果值之间出现误差。因此，根据示例性实施例，通过在量化操作中针对变换块执行缩放来将该误差最小化。

图3是示出根据本发明的实施例的产生缩放矩阵的方法的流程图。

参照图3，在操作310，获得构成矩阵与原始N×N变换矩阵Original_A之间的差的变换误差矩阵其中，通过将第i行的每个元素具有值Si(其中，i表示从1至N的整数)的N×N中间矩阵S的元素分别乘以N×N快速变换矩阵A的相应元素来获得矩阵指示将矩阵中位于相同位置的元素相乘的逐元素乘法(element-by-elementmultiplication)或元素间乘法(element-wisemultiplication)。

例如，16×16中间矩阵S被定义如下：

S = (\begin{matrix} S 1 & S 1 & ... & S 1 & S 1 \\ S 2 & S 2 & ... & S 2 & S 2 \\ ... & ... & ... & ... & ... \\ S 16 & S 16 & ... & S 16 & S 16 \end{matrix})

在操作320，获得能够使除了变换误差矩阵的对角分量之外的元素的平方和最小化的Si值。可使用任何优化算法来确定Si值。例如，可通过将S1的初始值设置为(1/4×2^(1/2))并应用优化算法(诸如Nelder-Mead单纯形法)来确定Si值。

在操作330，基于通过将N×N中间矩阵S的元素分别乘以N×N中间矩阵S的转置矩阵S^T的相应元素所获得的矩阵来产生缩放矩阵，其中，已将获得的Si值应用于所述N×N中间矩阵S。

当PF表示矩阵时，可根据等式MF＝PF×2^m/Qstep计算缩放矩阵MF。这里，Qstep表示量化步长，并且m是正整数。

图4a至图4f示出根据本发明的实施例的根据在针对16×16块的变换中使用的量化参数的缩放矩阵MF。图4a至图4f示出在缩放矩阵的计算期间m是10的情况。

针对仅初始的6个量化步长的Qstep值0.625、0.6875、0.8125、0.875、1和1.25定义如图4a至图4f中所示的缩放矩阵MF，而不必针对所有量化步长定义缩放矩阵MF，因为当量化参数QP增加6时，量化步长Qstep加倍，因此，可针对初始的6个量化步长的Qstep值定义缩放矩阵MF，并且可根据(QPmod6)的值来选择根据其它量化参数QP的缩放矩阵MF。图4a至图4f的缩放矩阵MF仅是实施例，并且可在±1或±2的范围内对缩放矩阵MF中的每个元素进行调整。

可按与针对16×16块获得缩放矩阵MF的方式相似的方式来针对32×32块获得这样的缩放矩阵MF。图5a至图5f示出如上所获得的根据应用于32×32块的量化参数QP的缩放矩阵MF。图5a至图5f的缩放矩阵MF仅是实施例，并可在±1或±2范围内对缩放矩阵MF中的每个元素进行调整。根据示例性实施例，不将特定缩放矩阵MF应用于每个块尺寸，而是根据量化参数QP仅针对预定尺寸块设置6个缩放矩阵MF，然后，针对比预定尺寸块更小或更大的块的缩放矩阵可以是如下缩放矩阵MF，所述如下缩放矩阵MF是通过根据预定尺寸块的尺寸与更小或更大块的尺寸之间的比来增加或减少针对预定尺寸块所设置的所述6个缩放矩阵MF的元素而获得的。例如，根据量化参数针对M×M块设置6个缩放矩阵MF，然后，可将通过使针对M×M块设置的所述6个缩放矩阵MF的元素乘以M/N所获得的缩放矩阵用作针对N×N块的缩放矩阵。例如，当针对32×32块设置了缩放矩阵MF时，2×2块、4×4块、8×8块和16×16块可使用通过将针对32×32块设置的缩放矩阵MF的元素分别增加16倍、8倍、4倍和2倍所获得的缩放矩阵。类似地，当针对32×32块设置了缩放矩阵MF时，64×64块和128×128块可使用通过将针对32×32块设置的缩放矩阵MF的元素分别减少1/2倍和1/4倍所获得的缩放矩阵。为此，当仅针对预定尺寸块设置缩放矩阵，并且其它尺寸的块使用根据预定尺寸块与所述其它尺寸的块之间的尺寸比而增大或减小的缩放矩阵时，量化或反量化可被执行得与针对不同尺寸的块设置的缩放矩阵的元素之间的比相应的量那样多，以恢复原始值。如上所述，当仅针对预定尺寸块设置缩放矩阵，并且其它尺寸的块使用根据预定尺寸块与所述其它尺寸的块之间的尺寸比而增大或减小的缩放矩阵时，可减小用于存储缩放矩阵MF的存储器。

如上所述，量化器130通过使用缩放矩阵MF或预定缩放常数对变换块执行缩放，以便减小由变换器120使用快速变换矩阵A执行的变换的结果与基于实际浮点运算使用DCT矩阵Original_A执行的变换的结果之间的误差值。详细地讲，量化器130可针对与通过使用缩放矩阵MF和移位运算对N×N块进行变换的结果相应的变换块同时执行缩放和量化。通过对经由使缩放矩阵MF和变换块相乘然后加上预定偏移所获得的值执行以下等式q＝floor(QP/6)+m的q比特的比特移位运算来执行量化。当Zij表示量化系数值时，Wij表示变换系数，并且f表示偏移，|Zij|＝(|Wij|.MF+f)＞＞qbits和sign(|Zin|)＝sign(|Wij|)。这里，“.MF”表示用于使矩阵中处于相同位置的元素相乘的矢量乘积运算。如上所述，矢量乘积运算可被表示为

同时，在反量化操作中，通过应用去缩放矩阵和移位运算来补偿用于IDCT的原始N×N逆变换矩阵Original_A-1与N×N快速逆变换矩阵A-1之间的差，来执行反量化。

根据示例性实施例，可基于矩阵PF产生去缩放矩阵V，其中，矩阵PF对应于通过将中间矩阵S和转置矩阵S^T的元素相乘所获得的矩阵中间矩阵S和转置矩阵S^T还用于产生缩放矩阵MF。详细地讲，当Qstep表示量化步长，PF表示矩阵并且n是正整数时，根据以下等式获得去缩放矩阵V：V＝Qstep×PF×2^n。

当如上获得了去缩放矩阵V时，可通过对将去缩放矩阵V和量化的变换系数相乘所获得的值执行floor(QP/6)比特的比特移位运算来执行去缩放和反量化，其中，floor[x]是小于或等于x的最大整数，并且QP表示量化参数。换言之，当Zij表示量化系数值并且Wij表示变换系数时，可通过经由以下等式Wij＝(Zij)<<floor(QP/6)对量化系数Zij进行反量化来获得Wij。这里，“.V”表示用于使矩阵中位于相同位置的元素相乘的矢量乘积运算。如上所述，可将矢量乘积运算表示为

图6a至图6f示出根据本发明的实施例的根据应用于16×16块的量化参数QP的去缩放矩阵V。图6a至图6f示出在去缩放矩阵的计算期间m是10的情况。像图4a至图4f的缩放矩阵MF一样，可针对作为初始的6个量化步长的Qstep值的0.625、0.6875、0.8125、0.875、1和1.25定义去缩放矩阵V，而不必针对所有量化步长Qstep定义去缩放矩阵V。可根据(QPmod6)的值来选择根据其它量化参数QP的去缩放矩阵V。图6a至图6f的去缩放矩阵V仅是实施例，可在±1或±2的范围内对去缩放矩阵V的每个元素进行调整。

类似地，可按与应用于16×16块的去缩放矩阵V的处理相似的处理来获得根据应用于32×32块的量化参数QP的去缩放矩阵V。图7a至图7f示出根据本发明的实施例的根据应用于32×32块的量化参数QP的去缩放矩阵V。图7a至图7f的去缩放矩阵V仅是实施例，可在±1或±2的范围内对去缩放矩阵V的每个元素进行调整。根据示例性实施例，不将特定去缩放矩阵V应用于每个块尺寸，而是根据量化参数QP仅针对预定尺寸块设置6个去缩放矩阵V，然后，针对比预定尺寸块更小或更大的块的去缩放矩阵可以是如下去缩放矩阵V，所述如下去缩放矩阵V是通过根据预定尺寸块的尺寸与更小或更大块的尺寸之间的比增加或减少针对预定尺寸块设置的所述6个去缩放矩阵V的元素而获得的。例如，根据量化参数针对M×M块设置6个去缩放矩阵V，然后，可将通过使针对M×M块设置的所述6个去缩放矩阵V的元素乘以M/N所获得的去缩放矩阵用作针对N×N块的去缩放矩阵。例如，当针对32×32块设置了去缩放矩阵V时，2×2块、4×4块、8×8块和16×16块可使用通过将针对32×32块设置的去缩放矩阵V的元素分别增加16倍、8倍、4倍和2倍所获得的去缩放矩阵。类似地，当针对32×32块设置了去缩放矩阵V时，64×64块和128×128块可使用通过将针对32×32块设置的去缩放矩阵V的元素分别减少1/2倍和1/4倍所获得的去缩放矩阵。为此，当仅针对预定尺寸块设置去缩放矩阵，并且其它尺寸的块使用根据预定尺寸块与所述其它尺寸的块之间的尺寸比而增大或减小的去缩放矩阵时，量化或反量化可被执行得与针对不同尺寸的块设置的去缩放矩阵的元素之间的比相应的量那样多，以恢复原始值。如上所述，当仅针对预定尺寸块设置去缩放矩阵，并且其它尺寸的块使用根据预定尺寸块与所述其它尺寸的块之间的尺寸比而增大或减小的去缩放矩阵时，可减小用于存储去缩放矩阵V的存储器。

图8是根据本发明的另一实施例的32点DCT的流程图800。

参照图8，x0至x31表示输入值，y0至y31表示DCT的输出值。变换期间的数据处理方向是从左至右，并且逆变换期间的处理方向是从右至左。两条线相交于点表示两个数的加法，并且“-”表示负。每条线以上的值R(θ)表示基于如图9中所示的蝶形结构的运算处理。

图9是形成图8的32点DCT的蝶形结构的运算处理的参考图。

参照图9，蝶形结构的运算处理针对输入值[X1,X2]经由等式

[\begin{matrix} Y 1 \\ Y 2 \end{matrix}] = [\begin{matrix} c o s θ & - s i n θ \\ s i n θ & \cos θ \end{matrix}] [\begin{matrix} X 1 \\ X 2 \end{matrix}]

输出输出值[Y1,Y2]。

当根据图8的流程图800执行DCT时，根据值R(θ)使用cosθ和sinθ。与根据图2的流程图200执行的变换类似，变换器120可通过使用以二进有理数替代根据θ值的cosθ和sinθ所获得的快速变换矩阵A或者将根据图8的流程图800的用于DCT的元素中的每个乘以2ⁿ并对相乘后的元素进行四舍五入所获得的快速变换矩阵A仅执行加法、减法和移位运算，来对输入块执行DCT。

例如，可将通过使用快速变换矩阵A对32×32输入块执行的1DDCT表示为以下运算，其中，Xi(i表示范围0至31中的整数)表示待变换的输入值，Ai、Bi、Ci、Di和Ei表示中间值，并且Yi表示变换结果值：

{

/阶段0

A0＝X0+X15；A1＝X1+X14；A2＝X2+X13；A3＝X3+X12；A4＝X4+X11；A5＝X5+X10；A6＝X6+X9；A7＝X7+X8；A8＝X7-X8；A9＝X6-X9；A10＝X5-X10；A11＝X4-X11；A12＝X3-X12；A13＝X2-X13；A14＝X1-X14；A15＝X0-X15；

/阶段1

B0＝A0+A7；B7＝A0-A7；B1＝A1+A6；B6＝A1-A6；B2＝A2+A5；B5＝A2-A5；B3＝A3+A4；B4＝A3-A4；

B8＝(49×A8+40×A15)>>6；B15＝(-40×A8+49×A15)>>6；B9＝(30×A9-56×A14)>>6；B14＝(56×A9+30×A14)>>6；B10＝(61×A10+18×A13)>>6；B13＝(-18×A10+61×A13)>>6；B11＝(6×A11-63×A12)>>6；B12＝(63×A11+6×A12)>>6；

/阶段2

C0＝B0+B3；C3＝B0-B3；C1＝B1+B2；C2＝B1-B2；

C4＝(6×B4+31×B7,5)；C7＝(-31×B4+6×B7,5)；C5＝(35×B5+53×B6)>>6；C6＝(-53×B5+35×B6)>>6；

C8＝B8+B11；C11＝B8-B11；C9＝B9+B10；C10＝B9-B10；

C12＝B12+B15；C15＝B12-B15；C13＝B13+B14；C14＝B13-B14；

/阶段3

D0＝(45×(C0+C1))>>6；D1＝(45×(-C0+C1))>>6；

D2＝(24×C2+59×C3)>>6；D3＝(-59×C2+24×C3)>>6；

D4＝C4+C5；D5＝C4-C5；D6＝-C6+C7；D7＝C6+C7；

D8＝C8+C14；D14＝C8-C14；D9＝C9+C15；D15＝C9-C15；D10＝C10+C11；D11＝C10-C11；D12＝C12+C13；D13＝C12-C13；

/阶段4

E5＝(45×(D5+D7))>>6；E7＝(45×(-D5+D7))>>6；

E8＝(24×D8-59×D9)>>6；E9＝(59×D8+24×D9)>>6；

E11＝(45×(D11+D12))>>6；E12＝(45×(-D11+D12))>>6；

E14＝(24×D14-59×D15)>>6；E15＝(59×D14+24×D15)>>6；

/阶段5

Y0＝D0；Y8＝-D1；Y4＝D2；Y12＝D3；Y2＝D4；Y6＝E5；Y14＝D6；Y10＝-E7；Y3＝E8；Y13＝E9；Y9＝D10；Y15＝E11；Y1＝E12；Y7＝D13；Y11＝-E14；Y5＝E15；

}

根据另一实施例，量化器130可通过将变换块乘以预定缩放常数来执行缩放。详细地讲，量化器130可通过使用缩放常数QMat和移位运算来针对N×N变换块同时执行缩放和量化。通过对经由使缩放常数QMat和N×N变换块相乘然后加上预定偏移所获得的值执行以下等式q＝floor(QP/6)+m的q比特的比特移位运算来执行量化和缩放。当Zij表示量化系数值时，Wij表示变换系数，并且f表示偏移，|Zij|＝(|Wij|·QMat+f)＞＞qbits和sign(Zij)＝sign(Wij)。

可基于量化参数QP来选择缩放常数QMat，并针对仅初始的6个量化步长的Qstep值0.625、0.6875、0.8125、0.875、1和1.25来定义缩放常数QMat，而不必针对所有量化步长来定义缩放常数QMat。如上所述，当量化参数QP增加6时，量化步长Qstep加倍，因此，可针对初始的6个量化步长的Qstep值来定义缩放常数QMat，并可根据(QPmod6)的值来选择根据其它量化参数QP的缩放常数QMat。

例如，如果i＝(QPmod6)，则可将用于针对通过根据图2的流程图200或图8的流程图800的DCT所获得的16×16变换块进行缩放的缩放常数QMati定义如下：

QMat0＝81，QMat1＝89，QMat2＝105，QMat3＝113，QMat4＝129；QMat5＝146

缩放常数QMati不限于此，并可在±1或±2的范围内调整。换言之，缩放常数Qmati可在QMati±1或QMati±2的范围内调整。

可将用于针对通过根据图2的流程图200或图8的流程图800的DCT所获得的32×32变换块进行缩放的缩放常数QMati定义如下：

QMat0＝40，QMat1＝44，QMat2＝52，QMat3＝56，QMat4＝64；QMat5＝72

缩放常数QMati不限于此，并且可在±1或±2的范围内调整。换言之，缩放常数QMati可在QMati±1或QMati±2的范围内调整。例如，可将QMat0＝40，QMat1＝45，QMat2＝51，QMat3＝57，QMat4＝64和QMat5＝72用作缩放常数QMati。

同时，在反量化操作中，可通过应用去缩放常数和移位运算来补偿用于IDCT的原始N×N逆变换矩阵Original_A-1与N×N快速逆变换矩阵A-1之间的差，来执行反量化，其中，所述N×N快速逆变换矩阵A-1是N×N快速变换矩阵A的逆矩阵。

根据另一实施例，可根据量化参数QP确定去缩放常数DQMat。当如上获得了去缩放常数DQMat时，可通过对将去缩放常数DQMat和量化的变换系数相乘所获得的值执行floor(QP/6)比特的比特移位运算来执行去缩放和反量化，其中，floor[x]是小于或等于x的最大整数，并且QP表示量化参数。换言之，当Zij表示量化系数值并且Wij表示变换系数时，可通过经由以下等式Wij＝(Zij)×DQMat<<floor(QP/6)对量化系数Zij进行去缩放和反量化来获得Wij。

针对仅初始的6个量化步长的Qstep值0.625、0.6875、0.8125、0.875、1和1.25定义去缩放常数DQMat，而不必针对所有量化步长定义去缩放常数DQMat，因为当量化参数QP增加6时，量化步长Qstep加倍，因此，可针对初始的6个量化步长的Qstep值定义去缩放常数DQMat，并且可根据(QPmod6)的值来选择根据其它量化参数QP的去缩放常数DQMat。

例如，如果i＝(QPmod6)，则可将用于针对通过根据图2的流程图200或图8的流程图800的DCT所获得的16×16变换块进行去缩放的去缩放常数DQMati定义如下：

DQMat0＝81，DQMat1＝89，DQMat2＝105，DQMat3＝113，DQMat4＝129；DQMat5＝146

去缩放常数DQMati不限于此，并可在±1或±2的范围内调整。换言之，去缩放常数DQMati可在DQMati±1或DQMati±2的范围内调整。

可将用于针对通过根据图2的流程图或图8的流程图或800的DCT所获得的32×32变换块进行去缩放的去缩放常数DQMati定义如下：

DQMat0＝40，DQMat1＝44，DQMat2＝52，DQMat3＝56，DQMat4＝64；DQMat5＝72

去缩放常数DQMati不限于此，并可在±1或±2的范围内调整。换言之，去缩放常数DQMati可在DQMati±1或DQMati±2的范围内调整。例如，DQMat0＝40，DQMat1＝45，DQMat2＝51，DQMat3＝57，DQMat4＝64和DQMat5＝72可用作去缩放常数DQMati。

图10是示出根据本发明的实施例的视频编码方法的流程图。

参照图10，在操作1010，变换器120基于用于对N×N块进行1DDCT的N×N(其中，N是整数)变换矩阵来产生快速变换矩阵。如上所述，变换器120通过使用由如下元素形成的快速变换矩阵来产生快速变换矩阵，其中，所述如下元素通过以有理数替代用于DCT的元素来获得，或者通过将用于DCT的变换矩阵的元素乘以2的幂并随后对相乘后的元素进行四舍五入来获得。

在操作1020，变换器120通过使用快速变换矩阵对N×N块进行变换来产生N×N变换块。

在操作1030，量化器130对N×N变换块执行缩放，以校正用于1DDCT的N×N变换矩阵与快速变换矩阵之间的差。如上所述，量化器130通过使用缩放矩阵MF或缩放常数QMat来针对变换块执行缩放，以减小由变换器120使用快速变换矩阵A执行的变换的结果与基于实际浮点运算使用DCT矩阵Original_A执行的变换的结果之间的误差值。

图11是根据本发明的实施例的视频解码设备1100的框图。

参照图11，视频解码设备1100包括熵解码器1110、反量化器1120、逆变换器1130和预测器1140。

熵解码器1110从输入比特流提取将被解码的当前块的预测模式信息、参考画面信息和残差信息。

反量化器1120对由熵解码器1110进行了熵解码的量化的变换系数进行反量化。具体地，根据示例性实施例，反量化器1120对N×N变换块执行去缩放，以校正用于针对量化的N×N变换块进行1DDCT的N×N逆变换矩阵与基于所述N×N逆变换矩阵产生的快速逆变换矩阵之间的差。

逆变换器1130对反量化的变换系数进行逆变换。因此，每个块的残差值得到恢复。可通过使用根据本发明的各种实施例所获得的N×N快速变换矩阵A的逆矩阵A^-1执行N点IDCT来执行逆变换。逆变换器1130通过使用由如下元素形成的快速变换矩阵来执行IDCT，其中，所述如下元素通过以有理数替代用于IDCT的逆变换矩阵的元素来获得，或者通过将逆变换矩阵的元素乘以2的幂并随后对相乘后的元素进行四舍五入来获得。

可将通过使用图2的流程图200对16×16变换块所执行的IDCT表示为如下运算，其中，Xi(其中，i是范围0至15中的整数)表示输入值，Bi、Ci、Di、Ei和Fi表示中间值，并且Yi表示逆变换结果值：

{

/阶段0

F8＝(6×X1-63×X15)>>6；F9＝(49×X9-40×X7)>>6；F10＝(30×X5-56×X11)>>6；F11＝(61×X13-18×X3)>>6；F12＝(61×X3+18×X13)>>6；F13＝(30×X11+56×X5)>>6；F14＝(49×X7+40×X9)>>6；F15＝(6×X15+63×X1)>>6；

/阶段1

E4＝(12×X2-62×X14)>>6；E5＝(53×X10-35×X6)>>6；E6＝(53×X6+35×X10)>>6；E7＝(12×X14+62×X2)>>6；E8＝F8+F9；E9＝F8-F9；E10＝F11-F10；E11＝F11+F10；E12＝F12+F13；E13＝F12-F13；E14＝F15-F14；E15＝F15+F14；

/阶段2

D0＝(45×(X0+X8))>>6；D1＝(45×(X0-X8))>>6；D2＝(24×X4-59×X12)>>6；D3＝(59×X4+24×X12)>>6；D4＝E4+E5；D5＝E4-E5；D6＝E7-E6；D7＝E7+E6；D9＝(24×E14-59×E9)>>6；D10＝(-59×E13-24×E10)>>6；D13＝(24×E13-59×E10)>>6；D14＝(59×E14+24×E9)>>6；

/阶段3

C0＝D0+D3；C3＝D0-D3；C8＝E8+E11；C11＝E8-E11；C12＝E15-E12；C15＝E15+E12；C1＝D1+D2；C2＝D1-D2；C9＝D9+D10；C10＝D9-D10；C13＝D14-D13；C14＝D14+D13；C5＝(45×(D6-D5))>>6；C6＝(45×(D6+D5))>>6；

/阶段4

B0＝C0+D7；B7＝C0-D7；B1＝C1+C6；B6＝C1-C6；B2＝C2+C5；B5＝C2-C5；B3＝C3+D4；B4＝C3-D4；B10＝(45×(C13-C10))>>6；B13＝(45×(C13+C10))>>6；B11＝(45×(C12-C11))>>6；B12＝(45×(C12+C11))>>6；

/阶段5

Y0＝B0+C15；Y15＝B0-C15；Y1＝B1+C14；Y14＝B1-C14；Y2＝B2+B13；Y13＝B2-B13；Y3＝B3+B12；Y12＝B3-B12；Y4＝B4+B11；Y11＝B4-B11；Y5＝B5+B10；Y10＝B5-B10；Y6＝B6+C9；Y9＝B6-C9；Y7＝B7+C8；Y8＝B7-C8；

}

可将通过使用图2的流程图200对32×32变换块所执行的IDCT表示为如下运算，其中，Xi(其中，i是范围0至31中的整数)表示输入值，Ai、Bi、Ci、Di、Ei和Fi表示中间值，并且Yi表示逆变换结果值：

{

/阶段0

G16＝(12×X1-255×X31)>>8；G17＝(189×X17-171×X15)>>8；G18＝(109×X9-231×X23)>>8；G19＝(241×X25-86×X7)>>8；G20＝(62×X5-248×X27)>>8；G21＝(219×X21-131×X11)>>8；G22＝(152×X13-205×X19)>>8；G23＝(253×X29-37×X3)>>8；G24＝(253×X3+37×X29)>>8；G25＝(152×X19+205×X13)>>8；G26＝(219×X11+131×X21)>>8；G27＝(62×X27+248×X5)>>8；G28＝(241×X7+86×X25)>>8；G29＝(109×X23+231×X9)>>8；G30＝(189×X15+171×X17)>>8；G31＝(12×X31+255×X1)>>8；

/阶段1

F8＝(25×X2-254×X30)>>8；F9＝(197×X18-162×X14)>>8；F10＝(120×X10-225×X22)>>8；F11＝(244×X26-74×X6)>>8；F12＝(244×X6+74×X26)>>8；F13＝(120×X22+225×X10)>>8；F14＝(197×X14+162×X18)>>8；F15＝(25×X30+254×X2)>>8；F16＝G16+G17；F17＝G16-G17；F18＝G19-G18；F19＝G19+G18；F20＝G20+G21；F21＝G20-G21；F22＝G23-G22；F23＝G23+G22；F24＝G24+G25；F25＝G24-G25；F26＝G27-G26；F27＝G27+G26；F28＝G28+G29；F29＝G28-G29；F30＝G31-G30；F31＝G31+G30；

/阶段2

E4＝(49×X4-251×X28)>>8；E5＝(212×X20-142×X12)>>8；E6＝(212×X12+142×X20)>>8；E7＝(49×X28+251×X4)>>8；E8＝F8+F9；E9＝F8-F9；E10＝F11-F10；E11＝F11+F10；E12＝F12+F13；E13＝F12-F13；E14＝F15-F14；E15＝F15+F14；E17＝(49×F30-251×F17)>>8；E18＝(-251×F29-49×F18)>>8；E21＝(212×F26-142×F21)>>8；E22＝(-142×F25-212×F22)>>8；E25＝(212×F25-142×F22)>>8；E26＝(142×F26+212×F21)>>8；E29＝(49×F29-251×F18)>>8；E30＝(251×F30+49×F17)>>8；

/阶段3

D0＝(181×(X0+X16))>>8；D1＝(181×(X0-X16))>>8；D2＝(97×X8-236×X24)>>8；D3＝(236×X8+97×X24)>>8；D4＝E4+E5；D5＝E4-E5；D6＝E7-E6；D7＝E7+E6；D9＝(97×E14-236×E9)>>8；D10＝(-236×E13-97×E10)>>8；D13＝(97×E13-236×E10)>>8；D14＝(236×E14+97×E9)>>8；D16＝F16+F19；D19＝F16-F19；D20＝F23-F20；D23＝F23+F20；D24＝F24+F27；D27＝F24-F27；D28＝F31-F28；D31＝F31+F28；D17＝E17+E18；D18＝E17-E18；D21＝E22-E21；D22＝E22+E21；D25＝E25+E26；D26＝E25-E26；D29＝E30-E29；D30＝E30+E29；

/阶段4

C0＝D0+D3；C3＝D0-D3；C8＝E8+E11；C11＝E8-E11；C12＝E15-E12；C15＝E15+E12；C1＝D1+D2；C2＝D1-D2；C9＝D9+D10；C10＝D9-D10；C13＝D14-D13；C14＝D14+D13；C5＝(181×(D6-D5))>>8；C6＝(181×(D6+D5))>>8；C18＝(97×D29-236×D18)>>8；C20＝(-236×D27-97×D20)>>8；C26＝(-236×D21+97×D26)>>8；C28＝(97×D19+236×D28)>>8；C19＝(97×D28-236×D19)>>8；C21＝(-236×D26-97×D21)>>8；C27＝(-236×D20+97×D27)>>8；C29＝(97×D18+236×D29)>>8；

/阶段5

B0＝C0+D7；B7＝C0-D7；B1＝C1+C6；B6＝C1-C6；B2＝C2+C5；B5＝C2-C5；B3＝C3+D4；B4＝C3-D4；B10＝(181×(C13-C10))>>8；B13＝(181×(C13+C10))>>8；B11＝(181×(C12-C11))>>8；B12＝(181×(C12+C11))>>8；B16＝D16+D23；B23＝D16-D23；B24＝D31-D24；B31＝D31+D24；B17＝D17+D22；B22＝D17-D22；B25＝D30-D25；B30＝D30+D25；B18＝C18+C21；B21＝C18-C21；B26＝C29-C26；B29＝C29+C26；B19＝C19+C20；B20＝C19-C20；B27＝C28-C27；B28＝C28+C27；

/阶段6

A0＝B0+C15；A15＝B0-C15；A1＝B1+C14；A14＝B1-C14；A2＝B2+B13；A13＝B2-B13；A3＝B3+B12；A12＝B3-B12；A4＝B4+B11；A11＝B4-B11；A5＝B5+B10；A10＝B5-B10；A6＝B6+C9；A9＝B6-C9；A7＝B7+C8；A8＝B7-C8；A20＝(181×(B27-B20))>>8；A27＝(181×(B27+B20))>>8；A21＝(181×(B26-B21))>>8；A26＝(181×(B26+B21))>>8；A22＝(181×(B25-B22))>>8；A25＝(181×(B25+B22))>>8；A23＝(181×(B24-B23))>>8；A24＝(181×(B24+B23))>>8；

/阶段7

Y0＝A0+B31；Y31＝A0-B31；Y1＝A1+B30；Y30＝A1-B30；Y2＝A2+B29；Y29＝A2-B29；Y3＝A3+B28；Y28＝A3-B28；Y4＝A4+A27；Y27＝A4-A27；Y5＝A5+A26；Y26＝A5-A26；Y6＝A6+A25；Y25＝A6-A25；Y7＝A7+A24；Y24＝A7-A24；Y8＝A8+A23；Y23＝A8-A23；Y9＝A9+A22；Y22＝A9-A22；Y10＝A10+A21；Y21＝A10-A21；Y11＝A11+A20；Y20＝A11-A20；Y12＝A12+B19；Y19＝A12-B19；Y13＝A13+B18；Y18＝A13-B18；Y14＝A14+B17；Y17＝A14-B17；Y15＝A15+B16；Y16＝A15-B16；

}

可将通过使用图8的流程图800对16×16变换块所执行的IDCT表示为如下运算，其中，Xi(其中，i是范围0至15中的整数)表示输入值，Ai、Bi、Ci、Di和Ei表示中间值，并且Yi表示逆变换结果值：

{

/阶段0

D0＝X0；D1＝-X8；D2＝X4；D3＝X12；D4＝X2；E5＝X6；D6＝X14；E7＝-X10；E8＝X3；E9＝X13；D10＝X9；E11＝X15；E12＝X1；D13＝X7；E14＝-X11；E15＝X5；

/阶段1

D5＝(45×(E5-E7))>>6；D7＝(45×(E5+E7))>>6；

D8＝(24×E8+59×E9)>>6；D9＝(-59×E8+24×E9)>>6；

D11＝(45×(E11-E12))>>6；D12＝(45×(E11+E12))>>6；

D14＝(24×E14+59×E15)>>6；D15＝(-59×E14+24×E15)>>6；

/阶段2

C0＝(45×(D0-D1))>>6；C1＝(45×(D0+D1))>>6；

C2＝(24×D2-59×D3)>>6；C3＝(59×D2+24×D3)>>6；

C4＝D4+D5；C5＝D4-D5；C6＝-D6+D7；C7＝D6+D7；

C8＝D8+D14；C14＝D8-D14；C9＝D9+D15；C15＝D9-D15；C10＝D10+D11；C11＝D10-D11；C12＝D12+D13；C13＝D12-D13；

/阶段3

B0＝C0+C3；B3＝C0-C3；B1＝C1+C2；B2＝C1-C2；

B4＝(6×C4-31×C7,5)；B7＝(31×C4+6×C7,5)；B5＝(35×C5-53×C6)>>6；B6＝(53×C5+35×C6)>>6；

B8＝C8+C11；B11＝C8-C11；B9＝C9+C10；B10＝C9-C10；

B12＝C12+C15；B15＝C12-C15；B13＝C13+C14；B14＝C13-C14；

/阶段4

A0＝B0+B7；A7＝B0-B7；A1＝B1+B6；A6＝B1-B6；A2＝B2+B5；A5＝B2-B5；A3＝B3+B4；A4＝B3-B4；

A8＝(49×B8-40×B15)>>6；A15＝(40×B8+49×B15)>>6；A9＝(30×B9+56×B14)>>6；A14＝(-56×B9+30×B14)>>6；A10＝(61×B10-18×B13)>>6；A13＝(18×B10+61×B13)>>6；A11＝(6×B11+63×B12)>>6；A12＝(-63×B11+6×B12)>>6；

/阶段5

Y0＝A0+A15；Y1＝A1+A14；Y2＝A2+A13；Y3＝A3+A12；Y4＝A4+A11；Y5＝A5+A10；Y6＝A6+A9；Y7＝A7+A8；Y8＝A7-A8；Y9＝A6-A9；Y10＝A5-A10；Y11＝A4-A11；Y12＝A3-A12；Y13＝A2-A13；Y14＝A1-A14；Y15＝A0-A15；

}

可将通过使用图8的流程图800对32×32变换块所执行的IDCT表示为如下运算，其中，Xi(其中，i是范围0至31中的整数)表示输入值，Zi、Ai、Bi、Ci、Di、Ei和Fi表示中间值，并且Yi表示逆变换结果值：

{

/阶段0

D0＝X0；E24＝X1；E12＝X2；F16＝-X3；D4＝X4；F31＝X5；E8＝X6；E26＝-X7；D2＝X8；E21＝X9；E15＝X10；F29＝X11；E5＝X12；F18＝-X13；D13＝X14；D22＝X15；D1＝-X16；D25＝X17；D10＝X18；F19＝-X19；E7＝-X20；F28＝-X21；E14＝-X22；E20＝-X23；D3＝X24；E27＝-X25；E9＝X26；F30＝-X27；D6＝X28；F17＝-X29；E11＝X30；E23＝-X31；

/阶段1

E16＝(251×F16+49×F17)>>8；E17＝(-49×F16+251×F17)>>8；E18＝(212×F18+142×F19)>>8；E19＝(-142×F18+212×F19)>>8；

E28＝(212×F28+142×F29)>>8；E29＝(-142×F28+212×F29)>>8；E30＝(251×F30+49×F31)>>8；E31＝(-49×F30+251×F31)>>8；

/阶段2

D5＝(181×(E5-E7))>>8；D7＝(181×(E5+E7))>>8；

D8＝(97×E8+236×E9)>>8；D9＝(-236×E8+97×E9)>>8；

D11＝(181×(E11-E12))>>8；D12＝(181×(E11+E12))>>8；

D14＝(97×E14+236×E15)>>8；D15＝(-236×E14+97×E15)>>8；

D16＝E16+E18；C18＝E16-E18；C17＝E17+E19；D19＝E17-E19；

D20＝(236×E20-97×E21)>>8；D21＝(97×E20+236×E21)>>8；D23＝(181×(E23-E24))>>8；D24＝(181×(E23+E24))>>8；D26＝(236×E26-97×E27)>>8；D27＝(97×E26+236×E27)>>8；D28＝-E28+E30；C30＝E28+E30；C29＝-E29+E31；D31＝E29+E31；

/阶段3

C0＝(181×(D0-D1))>>8；C1＝(181×(D0+D1))>>8；

C2＝(97×D2-236×D3)>>8；C3＝(236×D2+97×D3)>>8；

C4＝D4+D5；C5＝D4-D5；C6＝-D6+D7；C7＝D6+D7；

C16＝(181×(D16-D19))>>8；C19＝(181×(D16+D19))>>8；C20＝D20+D26；C26＝D20-D26；C21＝D21+D27；C27＝D21-D27；C22＝D22+D23；C23＝D22-D23；C24＝D24+D25；C25＝D24-D25；C28＝(181×(D28-D31))>>8；C31＝(181×(D28+D31))>>8；

/阶段4

B0＝C0+C3；B3＝C0-C3；B1＝C1+C2；B2＝C1-C2；

B4＝(49×C4-251×C7)>>8；B7＝(251×C4+49×C7)>>8；B5＝(142×C5-212×C6)>>8；B6＝(212×C5+142×C6)>>8；

B8＝C8+C11；B11＝C8-C11；B9＝C9+C10；B10＝C9-C10；

B12＝C12+C15；B15＝C12-C15；B13＝C13+C14；B14＝C13-C14；

B16＝C16+C28；B28＝C16-C28；B17＝C17+C29；B29＝C17-C29；B18＝C18+C30；B30＝C18-C30；B19＝C19+C31；B31＝C19-C31；

B20＝C20+C23；B23＝C20-C23；B21＝C21+C22；B22＝C21-C22；

B24＝C24+C27；B27＝C24-C27；B25＝C25+C26；B26＝C25-C26；

/阶段5

A8＝(197×B8-162×B15)>>8；A15＝(162×B8+197×B15)>>8；A9＝(120×B9+225×B14)>>8；A14＝(-225×B9+120×B14)>>8；A10＝(244×B10-74×B13)>>8；A13＝(74×B10+244×B13)>>8；A11＝(25×B11+254×B12)>>8；A12＝(-254×B11+25×B12)>>8；

A16＝B16+B23；A23＝B16-B23；A17＝B17+B22；A22＝B17-B22；A18＝B18+B21；A21＝B18-B21；A19＝B19+B20；A20＝B19-B20；

A24＝B24+B31；A31＝B24-B31；A25＝B25+B30；A30＝B25-B30；A26＝B26+B29；A29＝B26-B29；A27＝B27+B28；A28＝B27-B28；

/阶段6

Z0＝A0+A15；Z1＝A1+A14；Z2＝A2+A13；Z3＝A3+A12；Z4＝A4+A11；Z5＝A5+A10；Z6＝A6+A9；Z7＝A7+A8；Z8＝A7-A8；Z9＝A6-A9；Z10＝A5-A10；Z11＝A4-A11；Z12＝A3-A12；Z13＝A2-A13；Z14＝A1-A14；Z15＝A0-A15；

Z16＝(171×A16+189×A31)>>8；Z31＝(-189×A16+171×A31)>>8；Z17＝(205×A17-152×A30)>>8；Z30＝(152×A17+205×A30)>>8；Z18＝(131×A18+219×A29)>>8；Z29＝(-219×A18+131×A29)>>8；Z19＝(231×A19-109×A28)>>8；Z28＝(109×A19+231×A28)>>8；Z20＝(86×A20+241×A27)>>8；Z27＝(-241×A20+86×A27)>>8；Z21＝(248×A21-62×A26)>>8；Z26＝(62×A21+248×A26)>>8；Z22＝(37×A22+253×A25)>>8；Z25＝(-253×A22+37×A25)>>8；Z23＝(255×A23-12×A24)>>8；Z24＝(12×A23+255×A24)>>8；

/阶段7

Y0＝Z0+Z31；Y31＝Z0-Z31；Y1＝Z1+Z30；Y30＝Z1-Z30；Y2＝Z2+Z29；Y29＝Z2-Z29；Y3＝Z3+Z28；Y28＝Z3-Z28；Y4＝Z4+Z27；Y27＝Z4-Z27；Y5＝Z5+Z26；Y26＝Z5-Z26；Y6＝Z6+Z25；Y25＝Z6-Z25；Y7＝Z7+Z24；Y24＝Z7-Z24；Y8＝Z8+Z23；Y23＝Z8-Z23；Y9＝Z9+Z22；Y22＝Z9-Z22；Y10＝Z10+Z21；Y21＝Z10-Z21；Y11＝Z11+Z20；Y20＝Z11-Z20；Y12＝Z12+Z19；Y19＝Z12-Z19；Y13＝Z13+Z18；Y18＝Z13-Z18；Y14＝Z14+Z17；Y17＝Z14-Z17；Y15＝Z15+Z16；Y16＝Z15-Z16；

}

图12是示出根据本发明的实施例的视频解码方法的流程图。

参照图12，在操作1210，反量化器1120接收量化的N×N变换块。在操作1220，反量化器1120对量化的N×N变换块执行去缩放，以校正用于针对量化的N×N变换块进行1DDCT的N×N逆变换矩阵与基于所述N×N逆变换矩阵产生的快速逆变换矩阵之间的差。如上所述，可与反量化同时执行去缩放，并可通过使用根据量化参数QP确定的去缩放矩阵V或去缩放常数DQMat来针对量化的变换系数执行去缩放。

在操作1230，逆变换器1130通过使用快速逆变换矩阵对去缩放的N×N变换块进行逆变换来产生N×N逆变换块。如上所述，快速逆变换矩阵是根据本发明的各种实施例所获得的N×N快速变换矩阵A的逆矩阵A^-1，并且IDCT使用由如下元素形成的快速变换矩阵来执行，其中，所述如下元素通过以有理数替代用于IDCT的逆变换矩阵的元素来获得，或者通过将逆变换矩阵的元素乘以2的幂并随后对相乘后的元素进行四舍五入来获得。

一个或多个示例性实施例还可被实现为计算机可读记录介质上的计算机可读代码。计算机可读记录介质是可存储其后可被计算机系统读取的数据的任意数据存储装置。计算机可读记录介质的示例包括只读存储器(ROM)、随机存取存储器(RAM)、CD-ROM、磁带、软盘、光学数据存储装置等。计算机可读记录介质还可分布于联网的计算机系统上，使得以分布方式存储和执行计算机可读代码。

尽管已经参照本发明的示例性实施例具体示出和描述了本发明，但是本领域的普通技术人员将理解，在不脱离由权利要求所限定的本发明的精神和范围的情况下，可在此进行形式和细节上的各种改变。

Claims

1.一种视频解码设备，包括：

反量化单元，被配置为接收具有预定尺寸的量化的变换块，基于量化参数来确定用于对所述量化的变换块中所包括的变换系数进行缩放的缩放常数，通过使用所述缩放常数对所述变换系数进行缩放；

逆变换单元，被配置为对包括缩放后的变换系数的变换块进行逆变换。

2.如权利要求1所述的视频解码设备，其中，

i表示量化参数除以6之后的余数，对于i＝0的缩放常数为40，对于i＝1的缩放常数为45，对于i＝2的缩放常数为51，对于i＝3的缩放常数为57，对于i＝4的缩放常数为64，对于i＝5的缩放常数为72。