CN1770864A - 基于avs的4×4离散余弦变换的快速并行装置及其方法 - Google Patents

Abstract

一种基于AVS的4×4离散余弦变换的快速并行装置及其方法，属于数字音视频编解码技术。装置包括正和反变换，正变换转置包括信号输入、行正变换、列正变换和输出等模块；反变换装置包括信号输入、行反变换、列反变换、系数调整、输出等模块。方法包括正和反变换步骤。正变换步骤包括四个，其输出模块将系数矩阵输出至量化模块进行参数调整、量化及后续编码。反变换步骤包括五个，其输出模块将系数矩阵输出至运动补偿模块进行运动补偿及后续解码。它能减少运算量，使DCT实现无乘法运算，降低装置的复杂程度，并可使DCT进行并行运算，提高编码效率。可广泛应用于基于AVS的数字音视频编解码中。

Description

基于AVS的4×4离散余弦变换的快速并行装置及其方法

                        技术领域

本发明属于数字音视频编解码技术领域，更明确地说涉及基于AVS(数字音视频编解码标准)的4×4离散余弦变换(DCT)的快速并行装置及其方法的设计。

                        背景技术

变换编码是实现视频编解码的关键技术。离散余弦变换是一种正交变换，它有能量集中(变换后的系数集中在左上角的直流系数)和非相关性好(数据块仅用少数系数就可重组)等特点，其性能接近与理想的K-L变换，因此被广泛应用于图像和视频编码中。目前各种视频编解码标准(mpeg、h.26x、avs)均采用离散余弦变换。

但是实现DCT时需要大量的矩阵运算，特别是采用乘法，使硬件实现和应用的复杂程度高、运算速度慢，严重影响了编码效率，因此实际应用中都是采用DCT的快速算法。

AVS音视频编码标准是我国自主开发的国家标准，其编码效率是mpeg2的2～3倍，和h.264相当。对于离散余弦变换，AVS采用4×4块整数变换，并给出了变换矩阵，使DCT的运算速度有很大提高，同时也易于实现。

它给出的变换矩阵为：

$T_4=\left[\begin{array}{cccc}2& 2& 2& 2\\ 3& 1& -1& -3\\ 2& -2& -2& 2\\ 1& -3& 3& -1\end{array}\right]$

反变换矩阵为其转置矩阵：

$T_4^T=\left[\begin{array}{cccc}2& 3& 2& 1\\ 2& 1& -2& -3\\ 2& -1& -2& 3\\ 2& -3& 2& -1\end{array}\right]$

但是，它仍存在需进一步改进的之处，比如它依然存在乘法、运算量可进一步减少、变换的并行处理能力差等等。

                             发明内容

本发明的目的，就在于克服上述缺点和不足，提供一种基于AVS的4×4离散余弦变换的快速并行装置及其方法。它能够减少运算量并使DCT变换真正实现无乘法运算，提高编码效率，降低其实现装置的复杂程度。

本发明的另一个目的在于使DCT可进行并行运算，进一步提高编码效率。

为了达到上述目的，本发明包括以下正变换装置和反变换装置：

正变换转置：用于对帧内预测或帧间预测产生的残差系数矩阵进行4×4离散余弦变换，包括：

信号输入模块：接收帧内预测和帧间预测产生的残差系数矩阵，其输入端连接帧内预测或帧间预测残差系数矩阵输出端，

行正变换模块：对输入的残差系数矩阵作水平方向的4×4离散余弦行正变换，得到中间结果，

列正变换模块：将行变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，

输出模块：将变换系数矩阵输出至量化模块进行量化和后续编码过程；

反变换装置：用于对反变换所得图像参数矩阵进行4×4离散余弦反变换，包括：

信号输入模块：接收反量化模块产生的系数矩阵，

行反变换模块：对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，得到中间结果，

列反变换模块：将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，

系数调整模块：对反变换后的系数按照AVS标准进行调整，

输出模块：将变换系数矩阵输出至运动补偿模块进行后续解码过程，

反变换模块：对反变换所得图像参数矩阵进行4×4离散余弦反变换，其输入端输入反量化所得图像参数矩阵，输出端输出反变换系数矩阵。

上述快速并行实现装置包含两个公共运算模块：

矩阵变换模块，采用核心矩阵进行离散余弦变换的运算，列正变换模块和行反变换模块采用此模块；

转置矩阵变换模块，采用核心矩阵的转置矩阵进行离散余弦变换的运算，行正变换模块和列反变换采用此模块。

上述公共运算模块都包含并行运算子模块和输出排序子模块：

并行运算子模块用来进行离散余弦变换的矩阵运算，输出排序子模块将输出结果进行排序；

其中矩阵变换模块的并行运算子模块包括第一矩阵模块、第二矩阵子矩阵1模块、第二矩阵子矩阵2模块、第三矩阵子矩阵1模块和第三矩阵子矩阵2模块，其中第二矩阵子矩阵1模块和第三矩阵子矩阵1模块可以与第二矩阵子矩阵2模块和第三矩阵子矩阵2模块并行运算；

转置矩阵变换模块的并行运算子模块用来进行离散余弦变换的矩阵运算，包括第一转置矩阵模块、第二转置矩阵子矩阵1模块、第二转置矩阵子矩阵2模块、第三转置矩阵子矩阵1模块和第三转置矩阵子矩阵2模块，其中第二转置矩阵子矩阵1模块和第三转置矩阵子矩阵1模块可以与第二转置矩阵子矩阵2模块和第三转置矩阵子矩阵2模块并行运算。

所述核心矩阵为：

$T_4=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]$

其转置矩阵为：

$T_4^T=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

所述核心矩阵的分解矩阵为：

第一矩阵和转置矩阵 $A^T=A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵 $M_1=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right],$ 第二矩阵子矩阵₁ $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$ 第二矩阵子矩阵₂ $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第二转置矩阵 $M_1^T=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right],$ 第二转置矩阵子矩阵₁ $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$ 第二转置矩阵子矩阵₂ $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三矩阵 $M_2=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right],$ 第三矩阵子矩阵₁ $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$ 第三矩阵子矩阵₂ $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

第三转置矩阵 $M_2^T=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right],$ 第三转置矩阵子矩阵₁ ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$ 第三转置矩阵子矩阵₂ $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

第四矩阵和转置矩阵： $P^T=P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

矩阵变换模块的并行运算模块包含的：

第一矩阵模块采用矩阵 $A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵子矩阵1模块采用矩阵 $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二矩阵子矩阵2模块采用矩阵 $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第三矩阵子矩阵1模块采用矩阵 $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三矩阵子矩阵2模块采用矩阵 $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

矩阵变换模块的输出排序模块采用矩阵 $P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

转置矩阵变换模块的并行运算模块包含的：

第一转置矩阵模块块采用矩阵 $A^T=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二转置矩阵子矩阵1模块采用矩阵 $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二转置矩阵子矩阵2模块采用矩阵 $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三转置矩阵子矩阵1模块采用矩阵 ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三转置矩阵子矩阵2模块采用矩阵 $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

转置矩阵变换模块输出排序模块采用矩阵： $P^T=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

基于AVS的4×4离散余弦变换的快速并行装置的方法包括如下正变换和反变换实现步骤：

正变换步骤：

步骤1：信号输入模块接收帧内预测和帧间预测产生的残差系数矩阵，

步骤2：行正变换模块对输入的残差系数矩阵作水平方向的4×4离散余弦行变换，

步骤3：列正变换模块将行正变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，

步骤4：输出模块将变换所得系数矩阵输出至量化模块，进行参数调整、量化及后续编码过程；

反变换步骤：

步骤1：信号输入模块接收反量化模块产生的系数矩阵，

步骤2：行反变换模块对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，

步骤3：列反变换模块将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，

步骤4：系数调整模块对反变换后的系数按照AVS标准进行调整，

步骤5：输出模块将变换所得系数矩阵输出至运动补偿模块，进行运动补偿及后续解码过程。

正变换步骤2还包括：

步骤20：将该步骤2中所用核心矩阵的转置矩阵，分解为四个矩阵：第一转置矩阵、第二转置矩阵、第三转置矩阵和第四转置矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块。

步骤21：将残差系数矩阵依次按行取出左乘第一矩阵，

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1和第三转置矩阵的子矩阵1左乘，将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2和第三转置矩阵的子矩阵2左乘，

步骤23：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区，

步骤24：重复以上步骤21到23直至全部矩阵计算完成；

其正变换步骤3还包括：

步骤30：该步骤3中所用核心变换矩阵，同样分解为四个矩阵：第一矩阵、第二矩阵、第三矩阵和第四矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤31：行变换所得系数矩阵依次按列取出右乘第一矩阵，

步骤32：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1和第三矩阵的子矩阵1右乘，将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2和第三矩阵的子矩阵2右乘，

步骤33：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区，

步骤34：重复以上步骤31到33直至全部矩阵计算完成；

其反变换步骤2还包括：

步骤20：该步骤2中所用核心变换矩阵，同样分解为四个矩阵：第一矩阵、第二矩阵、第三矩阵和第四矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤21：输入的反量化系数矩阵依次按列取出左乘第一矩阵，

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1和第三矩阵的子矩阵1左乘，将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2和第三矩阵的子矩阵2左乘，

步骤23：将计算结果经输出排序模块按照第四矩阵排序输出至暂存区；

步骤24：重复以上步骤21到23直至全部矩阵计算完成；

其反变换步骤3还包括：

步骤30：该步骤3中所用核心变换矩阵的转置，分解为四个矩阵：第一转置矩阵，第二转置矩阵，第三转置矩阵，第四转置矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤31：将行反变换系数矩阵依次按行取出右乘第一矩阵，

步骤32：将上一步骤所得系数向量，分为两部分并行处理，将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1和第三转置矩阵的子矩阵1右乘，将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2和第三转置矩阵的子矩阵2右乘，

步骤33：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区，

步骤34：重复以上步骤21到23直至全部矩阵计算完成。

本发明采用的总体技术方案是基于AVS的4×4离散余弦变换快速并行装置分为正变换装置和反变换装置，它们分别为AVS编码和解码模块中的实现变换编码的模块，符合AVS标准的定义和规定。

首先有两个公共模块：矩阵变换模块采用核心变换矩阵，内部包含两个子模块：并行运算模块和输出排序模块。前者并行完成变换矩阵运算，后者对由于采用并行运算而打乱的输出结果顺序进行正确排序。

转置矩阵变换模块采用核心变换矩阵的转置矩阵，同样内部包含两个子模块：并行运算模块和输出排序模块。前者并行完成变换矩阵运算，后者对由于采用并行运算而打乱的输出结果顺序进行正确排序。

正变换装置包括：

信号输入模块：接收帧内预测和帧间预测产生的残差系数矩阵。

行正变换模块：对输入的残差系数矩阵作水平方向的4×4离散余弦行正变换，得到中间结果。它采用转置矩阵变换模块。

列正变换模块：将行变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，它采用矩阵变换模块。

输出模块：将变换系数矩阵输出至量化模块进行量化和后续编码过程。

反变换装置包括：

信号输入模块：接收反量化模块产生的系数矩阵。

行反变换模块：对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，得到中间结果。它采用矩阵变换模块。

列反变换模块：将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，它采用转置矩阵变换模块。

系数调整模块：对反变换后的系数按照AVS标准进行调整。

输出模块：将变换系数矩阵输出至运动补偿模块进行后续解码过程。

快速并行正变换的实现步骤为：

步骤1：信号输入模块接收帧内预测和帧间预测产生的残差系数矩阵。

步骤2：行正变换模块对输入的残差系数矩阵作水平方向的4×4离散余弦行变换。

步骤20：该步骤中所用核心矩阵的转置矩阵T₄ ^T，分解为四个矩阵：第一转置矩阵A^T、第二转置矩阵M₂ ^T、第三转置矩阵M₁ ^T和第四转置矩阵P^T。其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块。

步骤21：将残差系数矩阵依次按行取出左乘第一矩阵；

步骤22：将上一步骤所得系数向量，分为两部分并行处理：

前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1 M₂₁ ^T和第三转置矩阵的子矩阵1 M₁₁ ^T左乘；

后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2 M₂₂ ^T和第三转置矩阵的子矩阵2 M₁₂ ^T左乘；

步骤23：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区；

步骤24：重复以上步骤21到23直至全部矩阵计算完成。

步骤3：列正变换模块将行正变换模块所得中间结果进行竖直方向的列反变换，

步骤30：该步骤中所用核心变换矩阵T₄同样分解为四个矩阵：第一矩阵A、第二矩阵M₁、第三矩阵M₂和第四矩阵P。其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块。

步骤31：行变换所得系数矩阵依次按列取出右乘第一矩阵；

步骤32：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1 M₁₁和第三矩阵的子矩阵1 M₂₁右乘；将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2 M₁₂和第三矩阵的子矩阵2 M₂₂右乘；

步骤33：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区；

步骤34：重复以上步骤31到33直至全部矩阵计算完成。

步骤4：输出模块将变换所得系数矩阵输出至量化模块，进行参数调整、量化及后续编码过程。

基于AVS的4×4离散余弦变换的快速并行算法反变换的步骤是：

步骤1：信号输入模块接收反量化模块产生的系数矩阵。

步骤2：行反变换模块对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换。

步骤20：该步骤中所用核心变换矩阵T₄。同样分解为四个矩阵：第一矩阵A、第二矩阵M₁、第三矩阵M₂和第四矩阵P。其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块。

步骤21：输入的反量化系数矩阵依次按列取出左乘第一矩阵；

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1 M₁₁和第三矩阵的子矩阵1 M₂₁左乘；将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2 M₁₂和第三矩阵的子矩阵2 M₂₂左乘；

步骤23：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区；

步骤24：重复以上步骤21到23直至全部矩阵计算完成。

步骤3：列反变换模块将行反变换模块所得中间结果进行竖直方向的列反变换，

步骤30：该步骤中第二转置矩阵所用核心变换矩阵的转置T₄ ^T分解为四个矩阵：第一转置矩阵A^T、第二转置矩阵M₂ ^T、第三转置矩阵M₁ ^T和第四转置矩阵P^T。其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块。

步骤31：将行反变换系数矩阵依次按行取出右乘第一矩阵；

步骤32：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1 M₂₁ ^T和第三转置矩阵的子矩阵1 M₁₁ ^T右乘；将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2 M₂₂ ^T和第三转置矩阵的子矩阵2 M₁₂ ^T右乘；

步骤33：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区；

步骤34：重复以上步骤21到23直至全部矩阵计算完成。

步骤4：系数调整模块对反变换后的系数按照AVS标准进行调整。

步骤5：输出模块将变换所得系数矩阵输出至运动补偿模块，进行运动补偿及后续解码过程。

以上步骤中所用到的核心变换矩阵为：

$T_4=P{M}_1{M}_{2}A$

$=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]$

其转置矩阵为：

$T_4^T=A^T{M}_2^T{M}_1^T{P}^T$

$=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

分解矩阵为：

第一矩阵和转置矩阵 $A^T=A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵 $M_1=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right],$ 第二矩阵子矩阵1 $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$ 第二矩阵子矩阵2 $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第二转置矩阵 $M_1^T=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right],$ 第二转置矩阵子矩阵1 $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二转置矩阵子矩阵2 $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三矩阵 $M_2=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right],$ 第三矩阵子矩阵1 $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$ 第三矩阵子矩阵2 $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

第三转置矩阵 $M_2^T=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right],$ 第三转置矩阵子矩阵1 ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$ 第三转置矩阵子矩阵2 $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

第四矩阵和转置矩阵： $P^T=P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

从以上步骤和核心矩阵可以看出，本发明有显著的优点和积极的效果：矩阵中的1和-1对应与加减法运算，从核心矩阵中可见系数中出了1、0、-1之外只有2，而它可以通过移位来完成，也就是说，本发明只用加减法和移位就可实现，不用乘法。而且，本发明采用并行运算方式，可使运算速度大为提高，提高了编码效率，而且很适合dsp或MMx的并行指令来实现，也降低了硬件实现的复杂度。而采用并行运算而添加的输出排序模块只是在输出存储时按矩阵P的顺序进行输出，并未增加运算量。

本发明能够减少运算量并使DCT变换真正实现无乘法运算，提高编码效率，降低其实现装置的复杂程度；还可使DCT可进行并行运算，进一步提高编码效率。它可广泛应用于基于AVS的数字音视频编解码中。

                        附图说明

图1为本发明装置的原理方框图。

图2为其矩阵变换模块图。

图3为其转置矩阵变换模块图。

图4为本发明方法的流程图。

                       具体实施方式

实施例1。一种基于AVS的4×4离散余弦变换的快速并行装置，参阅图1～图3。本实施例的离散余弦变换采用的是行列分离算法，即先进行行变换，再进行列变换。

本实施例包括以下正变换装置和反变换装置：

正变换装置：用于对帧内预测或帧间预测产生的残差系数矩阵进行4×4离散余弦变换，包括：

信号输入模块：接收帧内预测和帧间预测产生的残差系数矩阵，其输入端连接帧内预测或帧间预测残差系数矩阵输出端，

行正变换模块：对输入的残差系数矩阵作水平方向的4×4离散余弦行正变换，得到中间结果，

列正变换模块：将行变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，

输出模块：将变换系数矩阵输出至量化模块进行量化和后续编码过程；

反变换装置：用于对反变换所得图像参数矩阵进行4×4离散余弦反变换，包括：

信号输入模块：接收反量化模块产生的系数矩阵，

行反变换模块：对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，得到中间结果，

列反变换模块：将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，

系数调整模块：对反变换后的系数按照AVS标准进行调整，

输出模块：将变换系数矩阵输出至运动补偿模块进行后续解码过程，

反变换模块：对反变换所得图像参数矩阵进行4×4离散余弦反变换，其输入端输入反量化所得图像参数矩阵，输出端输出反变换系数矩阵。

上述快速并行装置包含两个公共运算模块：

矩阵变换模块，采用核心矩阵进行离散余弦变换的运算，列正变换模块和行反变换模块采用此模块；

转置矩阵变换模块，采用核心矩阵的转置矩阵进行离散余弦变换的运算，行正变换模块和列反变换采用此模块。

上述公共运算模块都包含并行运算子模块和输出排序子模块：

并行运算模块用来进行离散余弦变换的矩阵运算，输出排序模块将输出结果进行排序；

其中矩阵变换模块的并行运算模块包括第一矩阵模块、第二矩阵子矩阵1模块、第二矩阵子矩阵2模块、第三矩阵子矩阵1模块和第三矩阵子矩阵2模块，其中第二矩阵子矩阵1模块和第三矩阵子矩阵1模块可以与第二矩阵子矩阵2模块和第三矩阵子矩阵2模块并行运算；

转置矩阵变换模块的并行运算模块用来进行离散余弦变换的矩阵运算，包括第一转置矩阵模块、第二转置矩阵子矩阵1模块、第二转置矩阵子矩阵2模块、第三转置矩阵子矩阵1模块和第三转置矩阵子矩阵2模块，其中第二转置矩阵子矩阵1模块和第三转置矩阵子矩阵1模块可以与第二转置矩阵子矩阵2模块和第三转置矩阵子矩阵2模块并行运算。

所述核心矩阵为：

$T_4=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]$

其转置矩阵为：

$T_4^T=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

所述核心矩阵的分解矩阵为：

第一矩阵和转置矩阵 $A^T=A=\left[\begin{array}{cccc}1& 0& 0& 2\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵 $M_1=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right],$ 第二矩阵子矩阵₁ $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$ 第二矩阵子矩阵₂ $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第二转置矩阵 $M_1^T=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right],$ 第二转置矩阵子矩阵₁ $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$ 第二转置矩阵子矩阵₂ $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三矩阵 $M_2=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right],$ 第三矩阵子矩阵₁ $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$ 第三矩阵子矩阵₂ $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

第三转置矩阵 $M_2^T=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right],$ 第三转置矩阵子矩阵₁ ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$ 第三转置矩阵子矩阵₂ $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

第四矩阵和转置矩阵： $P^T=P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

矩阵变换模块的并行运算模块包含的：

第一矩阵模块采用矩阵 $A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵子矩阵1模块采用矩阵 $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二矩阵子矩阵2模块采用矩阵 $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第三矩阵子矩阵1模块采用矩阵 $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三矩阵子矩阵2模块采用矩阵 $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

矩阵变换模块的输出排序模块采用矩阵 $P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

转置矩阵变换模块的并行运算模块包含的：

第一转置矩阵模块块采用矩阵 $A^T=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二转置矩阵子矩阵1模块采用矩阵 $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二转置矩阵子矩阵2模块采用矩阵 $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三转置矩阵子矩阵1模块采用矩阵 ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三转置矩阵子矩阵2模块采用矩阵 $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

转置矩阵变换模块输出排序模块采用矩阵： $P^T=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

正变换对于帧内帧间预测残差，进行如下的4×4变换：

$\left[Y\right]=T_{4\left[X\right]}{T}_4^T$

其中[X]为帧内帧间预测残差系数二维矩阵，对应与正变换模块中输入模块输入的矩阵；[Y]为变换后的输出系数二维矩阵，经输出模块输出至量化模块进行系数调整和量化；T₄ ^T对应于行正变换模块，采用转置矩阵变换模块；T₄对应于列正变换模块，采用矩阵变换模块。

反变换对于反量化后得系数矩阵，进行如下的4×4反变换：

$\left[X\right]=T_{4\left[Y\right]}^T{T}_4$

其中[Y]为反量化所得二维系数矩阵，对应与反变换模块中输入模块输入的矩阵；[X]为变换后的输出二维系数矩阵，经输出模块输出至系数调整模块进行系数调整；T₄对应于行反变换模块，将采用矩阵变换模块。T₄ ^T对应于行反变换模块，将采用转置矩阵变换模块。

参阅图2和图3：

核心矩阵的转置矩阵T₄ ^T被分解为四个矩阵，第一转置矩阵A^T对应于第一转置矩阵模块；第二转置矩阵M₂ ^T的子矩阵1为M₂₁ ^T。对应于第二转置矩阵子矩阵1模块，它的子矩阵2为M₂₂ ^T。对应于第二转置矩阵子矩阵2模块；第三矩阵M₁ ^T的子矩阵1为M₁₁ ^T。对应于第三转置矩阵子矩阵1模块，它的子矩阵2为M₁₂ ^T。对应于第三转置矩阵子矩阵2模块；第四矩阵P^T对应于输出排序模块。

核心矩阵T₄被分解为四个矩阵，第一矩阵A对应于第一矩阵模块；第二矩阵M₁的子矩阵1为M₁₁。对应于第二矩阵子矩阵1模块，它的子矩阵2为

                            21M₁₂。对应于第二子矩阵子矩阵2模块；第三矩阵M₂的子矩阵1为M₂₁。对应于第三矩阵子矩阵1模块，它的子矩阵2为M₂₂。对应于第三矩阵子矩阵2模块；第四矩阵P对应于输出排序模块。

实施例2。一种基于AVS的4×4离散余弦变换的快速并行装置的方法，参阅图4及图2、图3。

基于AVS的4×4离散余弦变换的快速并行装置的方法采用的是行列分离算法，即先进行行变换，再进行列变换。

正变换对于帧内帧间预测残差，进行如下的4×4变换：

$\left[Y\right]=T_{4\left[X\right]}{T}_4^T$

其中[X]为帧内帧间预测残差系数二维矩阵，[Y]为变换后的输出系数二维矩阵。

反变换对于反量化后得系数矩阵，进行如下的4×4反变换：

$\left[X\right]=T_{4\left[Y\right]}^T{T}_4$

其中[Y]为反量化所得二维系数矩阵，[X]为变换后的输出二维系数矩阵

包括如下正变换和反变换实现步骤：

正变换步骤：

步骤1：信号输入模块接收帧内预测和帧间预测产生的残差系数矩阵，

步骤2：行正变换模块对输入的残差系数矩阵作水平方向的4×4离散余弦行变换，

步骤3：列正变换模块将行正变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，

步骤4：输出模块将变换所得系数矩阵输出至量化模块，进行参数调整、量化及后续编码过程；

反变换步骤：

步骤1：信号输入模块接收反量化模块产生的系数矩阵，

步骤2：行反变换模块对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，

步骤3：列反变换模块将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，

步骤4：系数调整模块对反变换后的系数按照AVS标准进行调整，

步骤5：输出模块将变换所得系数矩阵输出至运动补偿模块，进行运动补偿及后续解码过程。

正变换步骤2还包括：

步骤20：将该步骤2中所用核心矩阵的转置矩阵，分解为四个矩阵：第一转置矩阵、第二转置矩阵、第三转置矩阵和第四转置矩阵，

步骤21：将残差系数矩阵依次按行取出左乘第一矩阵，

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1和第三转置矩阵的子矩阵1左乘，将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2和第三转置矩阵的子矩阵2左乘，

步骤23：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区，

步骤24：重复以上步骤21到23直至全部矩阵计算完成；

其正变换步骤3还包括：

步骤30：该步骤3中所用核心变换矩阵，同样分解为四个矩阵：第一矩阵、第二矩阵、第三矩阵和第四矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤31：行变换所得系数矩阵依次按列取出右乘第一矩阵，

步骤32：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1和第三矩阵的子矩阵1右乘，将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2和第三矩阵的子矩阵2右乘，

步骤33：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区，

步骤34：重复以上步骤31到33直至全部矩阵计算完成；

其反变换步骤2还包括：

步骤20：该步骤2中所用核心变换矩阵，同样分解为四个矩阵：第一矩阵、第二矩阵、第三矩阵和第四矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤21：输入的反量化系数矩阵依次按列取出左乘第一矩阵，

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1和第三矩阵的子矩阵1左乘，将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2和第三矩阵的子矩阵2左乘，

步骤23：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区，

步骤24：重复以上步骤21到23直至全部矩阵计算完成；

其反变换步骤3还包括：

步骤30：该步骤3中所用核心变换矩阵的转置，分解为四个矩阵：第一转置矩阵，第二转置矩阵，第三转置矩阵，第四转置矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤31：将行反变换系数矩阵依次按行取出右乘第一矩阵，

步骤32：将上一步骤所得系数向量，分为两部分并行处理，将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1和第三转置矩阵的子矩阵1右乘，将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2和第三转置矩阵的子矩阵2右乘，

步骤33：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区，

步骤34：重复以上步骤21到23直至全部矩阵计算完成。

也就是说，基于AVS 4×4离散余弦变换的快速并行正变换包括以下步骤：

第一步：行正变换模块将输入模块输入的残差系数矩阵作水平方向的4×4离散余弦行正变换。

1.首先按行取帧内预测和帧间预测得出的图像参数为X＝[x00，x01，x02，x03]；

2.用X左乘第一矩阵A^T，得中间结果：T＝[t0，t1，t2，t3]，t0＝x00+x03，t1＝x01+x02，t2＝x01-x02，t3＝x00-x03；

3.并行计算：[t0，t1]乘以第二转置矩阵子矩阵1 M₂₁ ^T，得中间结果[g0，g1]，g0＝t0+t1，g1＝t0-t1

[t2，t3]乘以第二转置矩阵子矩阵2 M₂₂ ^T，得中间结果[g2，g3]，g2＝t2-t3，g3＝t2+t3

4.并行计算：[g0，g1]乘以第三转置矩阵子矩阵1 M₁₁ ^T，得中间结果[v0，v1]，v0＝2g0，v1＝2g1

[g2，g3]乘以第三转置矩阵子矩阵M₁₂ ^T，得中间结果

[v2，v3]，v2＝2g2-g3，v3＝g2+2g3，其中2g2和2g3用左移1位来实现

5.输出排序模块进行输出排序得：y0＝v0，y1＝v2，y2＝v1，y3＝v3

6.输出模块将结果输出得行正变换矩阵行向量Y＝[y00，y01，y02，y03]＝[y0，y1，y2，y3]

7.重复1到6步直到将所有残差矩阵内向量计算完毕。

第二步，列正变换模块将行正变换所得中间结果矩阵进行竖直方向的4×4离散余弦列正变换。

8.首先按列取帧内预测和帧间预测得出的图像参数为

X＝[x00，x10，x20，x30]^T；

9.用X右乘第一矩阵A，得中间结果：T＝[t0，t1，t2，t3]^T，t0＝x00+X30，t1＝x10+x20，t2＝x10-x20，t3＝x00-x30

10.并行计算：[t0，t1]^T乘以第二矩阵子矩阵1 M₁₁，得中间结果[g0，g1]^T，g0＝t0+t1，g1＝t0-t1

[t2，t3]^T乘以第二矩阵子矩阵2 M₁₂，得中间结果[g2，g3]^T，g2＝t3+t2，g3＝t3-t2

11.并行计算：[g0，g1]^T乘以第三矩阵子矩阵1 M₂₁，得中间结果[v0，v1]^T，v0＝2g0，v1＝2g1

[g2，g3]^T乘以第三矩阵子矩阵M₂₂，得中间结果[v2，v3]^T，v2＝2g2+g3，v3＝-g2+2g3；其中2g2和2g3用左移1位来实现

12.输出排序模块进行输出排序得：y0＝v0，y1＝v2，y2＝v1，y3＝v3.

13.输出模块将结果输出得DCT反变换矩阵行向量：

Y＝[y00，y10，y20，y30]^T＝[y0，y1，y2，y3]^T

14.重复1到6步直到将所有矩阵内向量计算完毕得DCT变换矩阵[Y]。

15.输出模块将DCT变换矩阵[Y]输出到量化模块进行系数调整和量化，并进行后续编码过程。

基于AVS 4×4离散余弦变换的快速并行反变换包括以下步骤：

第一步，行反变换模块将反量化所得矩阵进行水平方向的4×4离散余弦列反变换。

1.先按行取反量化所得矩阵得出的参数为Y＝[y00，y01，y02，y03]；

2.用X左乘第一矩阵A，得中间结果：T＝[t0，t1，t2，t3]，t0＝y00+y03，t1＝y01+y02，t2＝y01-y02，t3＝y00-y03

3.并行计算：[t0，t1]乘以第二矩阵子矩阵1 M₁₁，得中间结果[g0，g1]，g0＝t0+t1，g1＝t0-t1

[t2，t3]乘以第二矩阵子矩阵2 M₁₂，得中间结果[g2，g3]，g2＝t3+t2，g3＝t3-t2

4.并行计算：[g0，g1]乘以第三矩阵子矩阵1 M₂₁，得中间结果[v0，v1]，v0＝2g0，v1＝2g1

[g2，g3]乘以第三矩阵子矩阵2 M₂₂，得中间结果[v2，v3]，v2＝2g2+g3，v3＝2g3-g2，其中2g2和2g3用左移1位来实现

5.输出排序模块进行输出排序得：y0＝v0，y1＝v2，y2＝v1，y3＝v3.

6.输出模块将结果输出得行正变换矩阵行向量

X＝[x00，x01，x02，x03]＝[y0，y1，y2，y3]

7.重复1到6步直到将所有矩阵内向量计算完毕。

第二步：列反变换模块将行反变换模块所得结果进行竖直方向得4×4反变换：

8.先按列取行反变换所得矩阵得出的参数为

Y＝[y00，y10，y20，y30]^T

9.用X右乘第一转置矩阵A^T，得中间结果：T＝[t0，t1，t2，t3]^T，t0＝y00+y30，t1＝y10+y20，t2＝y10-y20，t3＝y00-y30；

10.并行计算：[t0，t1]^T乘以第二转置矩阵子矩阵1 M₂₁ ^T，得中间结果[g0，g1]^T，g0＝t0+t1，g1＝t0-t1

[t2，t3]^T乘以第二转置矩阵子矩阵2 M₂₂ ^T，得中间结果[g2，g3]^T，g2＝t2-t3，g3＝t2+t3

11.并行计算：[g0，g1]^T乘以第三转置矩阵子矩阵1 M₁₁ ^T，得中间结果[v0，v1]^T，v0＝2g0，v1＝2g1

[g2，g3]^T乘以第三转置矩阵子矩阵M₁₂ ^T，得中间结果[v2，v3]^T，v2＝2g2-g3，v3＝g2+2g3；2g2和2g3用左移1位来实现

12.输出排序模块进行输出排序得：y0＝v0，y1＝v2，y2＝v1，y3＝v3.

13.输出模块将结果输出得DCT变换矩阵行向量

x＝[x00，x10，x20，x30]^T＝[y0，y1，y2，y3]^T

14.重复1到6步直到将所有矩阵内向量计算完毕得DCT反变换矩阵[X]。

15.系数调整模块将DCT反变换矩阵[X]进行如下调整，

x_ij＝[x_ij+2⁴]＞＞5，i，j＝0～4

16.输出模块将DCT反变换矩阵[X]输出进行运动补偿以及后续解码过程。

实施例1和实施例2能够减少运算量并使DCT变换真正实现无乘法运算，提高编码效率，降低其实现装置的复杂程度；还可使DCT可进行并行运算，进一步提高编码效率。它可广泛应用于基于AVS的数字音视频编解码中。

Claims (8)

1.一种基于AVS的4×4离散余弦变换的快速并行装置，其特征在于它包括以下正变换装置和反变换装置：

正变换转置：用于对帧内预测或帧间预测产生的残差系数矩阵进行4×4离散余弦变换，包括：

信号输入模块：接收帧内预测和帧间预测产生的残差系数矩阵，其输入端连接帧内预测或帧间预测残差系数矩阵输出端，

行正变换模块：对输入的残差系数矩阵作水平方向的4×4离散余弦行正变换，得到中间结果，

列正变换模块：将行变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，

输出模块：将变换系数矩阵输出至量化模块进行量化和后续编码过程；

反变换装置：用于对反变换所得图像参数矩阵进行4×4离散余弦反变换，包括：

信号输入模块：接收反量化模块产生的系数矩阵，

行反变换模块：对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，得到中间结果，

列反变换模块：将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，

系数调整模块：对反变换后的系数按照AVS标准进行调整，

输出模块：将变换系数矩阵输出至运动补偿模块进行后续解码过程，

反变换模块：对反变换所得图像参数矩阵进行4×4离散余弦反变换，其输入端输入反量化所得图像参数矩阵，输出端输出反变换系数矩阵。

2.按照权利要求1所述的基于AVS的4×4离散余弦变换的快速并行装置，其特征在于它包含两个公共运算模块：

矩阵变换模块，采用核心矩阵进行离散余弦变换的运算，列正变换模块和行反变换模块采用此模块；

转置矩阵变换模块，采用核心矩阵的转置矩阵进行离散余弦变换的运算，行正变换模块和列反变换采用此模块。

3.按照权利要求2所述的基于AVS的4×4离散余弦变换的快速并行装置，其特征在于所述公共运算模块都包含并行运算子模块和输出排序子模块：

并行运算模块用来进行离散余弦变换的矩阵运算，输出排序模块将输出结果进行排序；

其中矩阵变换模块的并行运算模块包括第一矩阵模块、第二矩阵子矩阵1模块、第二矩阵子矩阵2模块、第三矩阵子矩阵1模块和第三矩阵子矩阵2模块，其中第二矩阵子矩阵1模块和第三矩阵子矩阵1模块可以与第二矩阵子矩阵2模块和第三矩阵子矩阵2模块并行运算；

转置矩阵变换模块的并行运算模块用来进行离散余弦变换的矩阵运算，包括第一转置矩阵模块、第二转置矩阵子矩阵1模块、第二转置矩阵子矩阵2模块、第三转置矩阵子矩阵1模块和第三转置矩阵子矩阵2模块，其中第二转置矩阵子矩阵1模块和第三转置矩阵子矩阵1模块可以与第二转置矩阵子矩阵2模块和第三转置矩阵子矩阵2模块并行运算。

4.按照权利要求3所述的基于AVS的4×4离散余弦变换的快速并行装置，其特征在于所述核心矩阵为：

$T_4=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]$

其转置矩阵为：

$T_4^T=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right]\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right]\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

5.按照权利要求4所述的基于AVS的4×4离散余弦变换的快速并行装置，其特征在于所述核心矩阵的分解矩阵为：

第一矩阵和转置矩阵 $A^T=A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵 $M_1=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& 1\\ 0& 0& -1& 2\end{array}\right],$ 第二矩阵子矩阵₁ $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二矩阵子矩阵₂ $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第二转置矩阵 $M_1^T=\left[\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ 0& 0& 2& -1\\ 0& 0& 1& 2\end{array}\right],$ 第二转置矩阵子矩阵₁ $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 2& 2\end{array}\right],$

第二转置矩阵子矩阵₂ $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三矩阵 $M_2=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& 1\\ 0& 0& -1& 0\end{array}\right],$ 第三矩阵子矩阵₁ $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三矩阵子矩阵₂ $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

第三转置矩阵 $M_2^T=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& -1& 0& 0\\ 0& 0& 1& -1\\ 0& 0& 1& 1\end{array}\right],$ 第三转置矩阵子矩阵₁ ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三转置矩阵子矩阵₂ $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

第四矩阵和转置矩阵： $P^T=P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

6.按照权利要求5所述的基于AVS的4×4离散余弦变换的快速并行装置，其特征在于矩阵变换模块的并行运算模块包含的：

第一矩阵模块采用矩阵 $A=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二矩阵子矩阵1模块采用矩阵 $M_{11}=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二矩阵子矩阵2模块采用矩阵 $M_{12}=\left[\begin{array}{cc}2& 1\\ -1& 2\end{array}\right]$

第三矩阵子矩阵1模块采用矩阵 $M_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三矩阵子矩阵2模块采用矩阵 $M_{22}=\left[\begin{array}{cc}1& 1\\ -1& 1\end{array}\right]$

矩阵变换模块的输出排序模块采用矩阵 $P=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

转置矩阵变换模块的并行运算模块包含的：

第一转置矩阵模块块采用矩阵 $A^T=\left[\begin{array}{cccc}1& 0& 0& 1\\ 0& 1& 1& 0\\ 0& 1& -1& 0\\ 1& 0& 0& -1\end{array}\right],$

第二转置矩阵子矩阵1模块采用矩阵 $M_{11}^T=\left[\begin{array}{cc}2& 0\\ 0& 2\end{array}\right],$

第二转置矩阵子矩阵2模块采用矩阵 $M_{12}^T=\left[\begin{array}{cc}2& -1\\ 1& 2\end{array}\right]$

第三转置矩阵子矩阵1模块采用矩阵 ${M^T}_{21}=\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right],$

第三转置矩阵子矩阵2模块采用矩阵 $M_{22}^T=\left[\begin{array}{cc}1& -1\\ 1& 1\end{array}\right]$

转置矩阵变换模块输出排序模块采用矩阵： $P^T=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

7.一种按照权利要求5所述的基于AVS的4×4离散余弦变换的快速并行装置的方法，其特征在于它包括如下正变换和反变换实现步骤：

正变换步骤：

步骤1：信号输入模块接收帧内预测和帧间预测产生的残差系数矩阵，

步骤2：行正变换模块对输入的残差系数矩阵作水平方向的4×4离散余弦行变换，

步骤3：列正变换模块将行正变换模块所得中间结果进行竖直方向的4×4离散余弦列正变换，

步骤4：输出模块将变换所得系数矩阵输出至量化模块，进行参数调整、量化及后续编码过程；

反变换步骤：

步骤1：信号输入模块接收反量化模块产生的系数矩阵，

步骤2：行反变换模块对输入的反量化系数矩阵作水平方向的4×4离散余弦行反变换，

步骤3：列反变换模块将行反变换模块所得中间结果进行竖直方向的4×4离散余弦列反变换，

步骤4：系数调整模块对反变换后的系数按照AVS标准进行调整，

步骤5：输出模块将变换所得系数矩阵输出至运动补偿模块，进行运动补偿及后续解码过程。

8.按照权利要求7所述的基于AVS的4×4离散余弦变换的快速并行方法，其特征在于其正变换步骤2还包括：

步骤20：将该步骤2中所用核心矩阵的转置矩阵，分解为四个矩阵：第一转置矩阵、第二转置矩阵、第三转置矩阵和第四转置矩阵，

步骤21：将残差系数矩阵依次按行取出左乘第一矩阵，

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1和第三转置矩阵的子矩阵1左乘，将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2和第三转置矩阵的子矩阵2左乘，

步骤23：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区，

步骤24：重复以上步骤21到23直至全部矩阵计算完成；

其正变换步骤3还包括：

步骤30：该步骤3中所用核心变换矩阵，同样分解为四个矩阵：第一矩阵、第二矩阵、第三矩阵和第四矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤31：行变换所得系数矩阵依次按列取出右乘第一矩阵，

步骤32：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1和第三矩阵的子矩阵1右乘，将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2和第三矩阵的子矩阵2右乘，

步骤33：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区，

步骤34：重复以上步骤31到33直至全部矩阵计算完成；

其反变换步骤2还包括：

步骤20：该步骤2中所用核心变换矩阵，同样分解为四个矩阵：第一矩阵、第二矩阵、第三矩阵和第四矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤21：输入的反量化系数矩阵依次按列取出左乘第一矩阵，

步骤22：将上一步骤所得系数向量，分为两部分并行处理：将前两个元素作为第一子向量，依次与第二矩阵的子矩阵1和第三矩阵的子矩阵1左乘，将后两个元素作为第二子向量，依次与第二矩阵的子矩阵2和第三矩阵的子矩阵2左乘，

步骤23：将计算结果经输出排序模块，按照第四矩阵排序输出至暂存区，

步骤24：重复以上步骤21到23直至全部矩阵计算完成；

其反变换步骤3还包括：

步骤30：该步骤3中所用核心变换矩阵的转置，分解为四个矩阵：第一转置矩阵，第二转置矩阵，第三转置矩阵，第四转置矩阵，其中前三个矩阵对应于并行运算子模块，最后一个矩阵对应于输出排序子模块，

步骤31：将行反变换系数矩阵依次按行取出右乘第一矩阵，

步骤32：将上一步骤所得系数向量，分为两部分并行处理，将前两个元素作为第一子向量，依次与第二转置矩阵的子矩阵1和第三转置矩阵的子矩阵1右乘，将后两个元素作为第二子向量，依次与第二转置矩阵的子矩阵2和第三转置矩阵的子矩阵2右乘，

步骤33：将计算结果经输出排序模块，按照第四转置矩阵排序输出至暂存区，

步骤34：重复以上步骤21到23直至全部矩阵计算完成。

Images