CN102025988B - 一种模式相关的快速变换方法 - Google Patents

Abstract

一种模式相关的快速变换方法，包括：(1)对输入信号进行蝶形操作，得到信号y：将输入信号x乘以矩阵

所述输入信号为N维列向量，N为2的幂次方；I为的单位矩阵，J为

的单位反对角矩阵；(2)将信号y等分成上下两部分y_a和y_b，根据统计得到的输入信号x的相关矩阵C_x，计算出

将D_x分成4部分

对D₀和D₃进行SVD分解，得到两个

的正交变换矩阵U，V；(3)将信号y用U和V进行如下处理，得到信号z：

(4)对信号z进行重排操作，该操作对应的变换为

其中，m表示行，0≤m＜N-1；n表示列，0≤n＜N-1；N表示输入信号的维数。该方法还可进一步包括将正交矩阵U，V进行多个平面旋转的操作，将正交矩阵U，V进行整数提升的操作。本发明能够减少MDDT变换复杂度。

Description

一种模式相关的快速变换方法

技术领域

本发明涉及一种模式相关的快速变换方法，属于视频编码领域。

背景技术

离散余弦变换被广泛地应用到图像和视频编码中，为了提高H.264/AVC视频编码标准的编码效率，最近研究人员提出了模式相关的方向变换(MDDT)，该变换改进了H.264/AVC中的变换效率。MDDT中对每个预测模式的预测残差训练得到了一组变换矩阵(行变换矩阵和列变换矩阵)，MDDT的变换操作如下：

Y＝CXR

C和R分别是行变换矩阵和列变换矩阵，X是变换数据块。MDDT一共有9组共18个变换矩阵。下式是MDDT中的一个8×8的变换矩阵：

$\left[\begin{array}{cccccccc}-22& -32& -40& -44& -49& -53& -55& -55\\ -37& -52& -56& -43& -15& 19& 51& 64\\ 43& 54& 24& -34& -70& 46& 14& 53\\ -60& 31& 39& 61& -5& -59& -23& -50\\ 64& -9& -58& 10& 53& -31& -52& 48\\ -58& 54& 16& -62& 39& 22& -56& 30\\ 35& -61& 50& -12& -36& 62& -55& 23\\ -21& 45& -59& 61& -57& 49& -32& 13\end{array}\right]$

目前MDDT变换是直接通过矩阵乘法来实现的，变换的复杂度复杂度较高。

名称：Improved H.264 intra coding based on bi-directional intraprediction，directional transform，and adaptive coefficient scanning，作者：Y.Ye，M.Karczewicz，ICIP2008，pp.2116-2119。这篇文章通过改进DCT变换，提高了H.264/AVC混合编码框架的效率，但是同时也提高了变换的复杂度。

发明内容

本发明的技术解决问题是：克服现有MDDT变换复杂度高的缺陷，提供一种能够减少MDDT变换复杂度的模式相关的快速变换方法。

本发明的技术解决方案是：

本发明提供的一种模式相关的快速变换方法，包括以下步骤：

(1)对输入信号进行蝶形操作，得到信号y：将输入信号x乘以矩阵

$\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]$

所述输入信号为N维列向量，N为2的幂次方；I为

的单位矩阵，J为

的单位反对角矩阵；

(2)将信号y等分成上下两部分y_a和y_b，根据统计得到的输入信号x的相关矩阵C_x，计算出

$D_x=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]C_x\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right],$ 将D_x分成4部分 $\left[\begin{array}{cc}{D}_0& D_1\\ D_2& D_3\end{array}\right],$

对D₀和D₃进行SVD分解，得到两个

的正交变换矩阵U，V；

(3)将信号y用U和V进行如下处理，得到信号z：

$z=\left[\begin{array}{cc}U& 0\\ 0& V\end{array}\right]y=\left[\begin{array}{c}{\mathrm{Uy}}_a\\ {\mathrm{Vy}}_b\end{array}\right];$

(4)对信号z进行重排操作，该操作对应的变换为

$P_N(m,n)=\left\{\begin{array}{cc}1,& m=2n,n<\frac{N}{2}\\ 1,& m=(n-\frac{N}{2})*2+1,n\&GreaterEqual;\frac{N}{2}\\ 0,& \mathrm{otherwise}\end{array}\right.$

其中，m表示行，0≤m＜N-1；n表示列，0≤n＜N-1；N表示输入信号的维数。

若输入信号为8维列向量：x＝[x₀ x₁ x₂ x₃ x₄ x₅ x₆ x₇]^T，则上述步骤具体为：

(1)对输入信号进行蝶形操作，得到信号y：将输入信号x乘以矩阵

$\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]$

其中，I为4×4的单位矩阵，J为4×4的单位反对角矩阵；

那么 $y={\left[\begin{array}{cccccccc}{y}_0& y_1& y_2& y_3& y_4& y_5& y_6& y_7\end{array}\right]}^T=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]x,$ 即

y₀＝x₀+x₇，y₁＝x₁+x₆，y₂＝x₂+x₅，y₃＝x₃+x₄

y₄＝x₀-x₇，y₅＝x₁-x₆，y₆＝x₂-x₅，y₇＝x₃-x₄

其中，

$I=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right],$ $J=\left[\begin{array}{cccc}0& 0& 0& 1\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 1& 0& 0& 0\end{array}\right],$

蝶形操作为

$\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 1\\ 0& 1& 0& 0& 0& 0& 1& 0\\ 0& 0& 1& 0& 0& 1& 0& 0\\ 0& 0& 0& 1& 1& 0& 0& 0\\ 0& 0& 0& 1& -1& 0& 0& 0\\ 0& 0& 1& 0& 0& -1& 0& 0\\ 0& 1& 0& 0& 0& 0& -1& 0\\ 1& 0& 0& 0& 0& 0& 0& -1\end{array}\right];$

(2)将信号y等分成上下两部分y_a和y_b，

y_a＝[y₀ y₁ y₂ y₃]^T

y_b＝[y₄ y₅ y₆ y₇]^T

根据统计得到的输入信号x的相关矩阵C_x，计算出

$D_x=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]C_x\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right],$ 将D_x分成4部分 $\left[\begin{array}{cc}{D}_0& D_1\\ D_2& D_3\end{array}\right],$

对D₀和D₃进行SVD分解，得到两个4×4的正交变换矩阵U，V；

(3)将信号y用U和V进行如下处理，得到信号z：

$z=\left[\begin{array}{cc}U& 0\\ 0& V\end{array}\right]y=\left[\begin{array}{c}{\mathrm{Uy}}_a\\ {\mathrm{Vy}}_b\end{array}\right];$

(4)对信号z进行重排操作，该重排矩阵为

$P_8=\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 1& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 1& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 1& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right]$

假设输入信号为x＝[x₀，x₁，x₂，x₃，x₄，x₅，x₆，x₇]^T，那么重排后信号为y＝P₈[x₀，x₁，x₂，x₃，x₄，x₅，x₆，x₇]^T＝[x₀，x₄，x₁，x₅，x₂，x₆，x₃，x₇]^T

本发明提供的一种模式相关的快速变换方法，还可以是：

在步骤(2)后步骤(3)前进一步包括将所述正交变换矩阵U，V简化的步骤：

(A)将4×4的正交矩阵U，V进行6个平面旋转操作，每个平面旋转操作对应一个4×4的矩阵：

$M=\hat{R}\left({\mathrm{\&alpha;}}_0\right)\hat{R}\left({\mathrm{\&alpha;}}_1\right)\hat{R}\left({\mathrm{\&alpha;}}_2\right)\hat{R}\left({\mathrm{\&alpha;}}_3\right)\hat{R}\left({\mathrm{\&alpha;}}_4\right)\hat{R}\left({\mathrm{\&alpha;}}_5\right)S$

其中

S将最后一个输入信号的符号进行翻转，

表示每个平面旋转对应的4×4的变换矩阵；

用

表示一个2×2旋转，将其拓展到4×4得到对应的

在步骤(2)后步骤(3)前进一步包括将所述正交变换矩阵U，V简化的步骤：

(B)将4×4的正交矩阵U，V进行6组整数提升操作，每组提升操作均化成如下的矩阵乘法来实现：

$\left[\begin{array}{cc}\cos \left(\mathrm{\&alpha;}\right)& -\sin \left(\mathrm{\&alpha;}\right)\\ \sin \left(\mathrm{\&alpha;}\right)& \cos \left(\mathrm{\&alpha;}\right)\end{array}\right]=\left[\begin{array}{cc}1& p\\ 0& 1\end{array}\right]\left[\begin{array}{cc}1& 0\\ u& 1\end{array}\right]\left[\begin{array}{cc}1& p\\ 0& 1\end{array}\right]$

其中， $p=\frac{\cos \left(\mathrm{\&alpha;}\right)-1}{\sin \left(\mathrm{\&alpha;}\right)},$ u＝sin(α)。

在步骤(B)后步骤(3)前进一步包括如下步骤：

(C)将所有提升操作中的乘法因子p，u用1/32精度实现，即用移位和加法代替乘法；任意一个实数R，将其量化到1/32精度为

分数R′用加法的位移实现。

本发明与现有技术相比具有如下优点：

本发明先用蝶形网络来近似MDDT的变换矩阵，然后进一步将蝶形网络分解成为整数提升操作，这样去除了变换中的乘法操作，减少了现有MDDT变换的复杂度。

本发明利用蝶形网络减少了乘法操作的数目，用整数提升操作保证了整个变换是可逆的，用移位操作和加法操作取代了乘法操作，从而减少了MDDT变换的复杂度。相比较于8×8的矩阵乘法，使用蝶形操作将乘法操作减少一半。具体数据比较如下表：

进一步采用1/32精度的提升操作可以用位移和加法操作来消除乘法操作。

附图说明

图1为根据本发明的蝶形网络。

图2为根据本发明将U，V转化为平面旋转操作。

图3为根据本发明的提升操作。

具体实施方式

以下将结合附图对本发明的具体实施方式进行说明。

在以下实施例中，输入信号分别以8维列向量和4维列向量为例进行说明。当然，本发明也适用于任意N维列向量，所述N为2的幂次方。

实施例一：

输入信号为8维列向量。

(1)如图1所示，对输入信号x进行蝶形操作，该蝶形操作包含8个加法，对应的矩阵为

$\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]$

I为4×4的单位矩阵，J为4×4的单位反对角矩阵：

$I=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right],$ $J=\left[\begin{array}{cccc}0& 0& 0& 1\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 1& 0& 0& 0\end{array}\right]$

该蝶形操作为8×8的矩阵：

$\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 1\\ 0& 1& 0& 0& 0& 0& 1& 0\\ 0& 0& 1& 0& 0& 1& 0& 0\\ 0& 0& 0& 1& 1& 0& 0& 0\\ 0& 0& 0& 1& -1& 0& 0& 0\\ 0& 0& 1& 0& 0& -1& 0& 0\\ 0& 1& 0& 0& 0& 0& -1& 0\\ 1& 0& 0& 0& 0& 0& 0& -1\end{array}\right]$

假设输入信号为x＝[x₀ x₁ x₂ x₃ x₄ x₅ x₆ x₇]^T，那么

即

y₀＝x₀+x₇，y₁＝x₁+x₆，y₂＝x₂+x₅，y₃＝x₃+x₄

y₄＝x₀-x₇，y₅＝x₁-x₆，y₆＝x₂-x₅，y₇＝x₃-x₄

(2)将信号y等分成上下两部分y_a和y_b，

y_a＝[y₀ y₁ y₂ y₃]^T

y_b＝[y₄ y₅ y₆ y₇]^T

根据统计得到的输入信号x的相关矩阵C_x(因为输入信号x已知，所以C_x可根据信号处理教材计算出来，例如：《数字信号处理》胡广书，清华大学出版社)，计算出

$D_x=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]C_x\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right],$ 将D_x分成4部分 $\left[\begin{array}{cc}{D}_0& D_1\\ D_2& D_3\end{array}\right],$

对D₀和D₃进行SVD分解，得到两个4×4的正交变换矩阵U，V。这里的SVD分解，在矩阵分析教材中是公知的。

(3)将4×4的正交矩阵U，V进行6个平面旋转操作，每个平面旋转操作对应一个4×4的矩阵：

$M=\hat{R}\left({\mathrm{\&alpha;}}_0\right)\hat{R}\left({\mathrm{\&alpha;}}_1\right)\hat{R}\left({\mathrm{\&alpha;}}_2\right)\hat{R}\left({\mathrm{\&alpha;}}_3\right)\hat{R}\left({\mathrm{\&alpha;}}_4\right)\hat{R}\left({\mathrm{\&alpha;}}_5\right)S$

其中，S将最后一个输入信号的符号进行翻转，

表示每个平面旋转对应的4×4的变换矩阵；用

表示一个2×2旋转，将其拓展到4×4得到对应的

拓展方式有多种，图2只是其中的一种。图2中对应的矩阵为：

$\hat{R}\left({\mathrm{\&alpha;}}_5\right)=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& \cos \left({\mathrm{\&alpha;}}_5\right)& -\sin \left({\mathrm{\&alpha;}}_5\right)\\ 0& 0& \sin \left({\mathrm{\&alpha;}}_5\right)& \cos \left({\mathrm{\&alpha;}}_5\right)\end{array}\right]$ $\hat{R}\left({\mathrm{\&alpha;}}_4\right)=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& \cos \left({\mathrm{\&alpha;}}_4\right)& 0& -\sin \left({\mathrm{\&alpha;}}_4\right)\\ 0& 0& 1& 0\\ 0& \sin \left({\mathrm{\&alpha;}}_4\right)& 0& \cos \left({\mathrm{\&alpha;}}_4\right)\end{array}\right]$

$\hat{R}\left({\mathrm{\&alpha;}}_3\right)=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& \cos \left({\mathrm{\&alpha;}}_3\right)& -\sin \left({\mathrm{\&alpha;}}_3\right)& 0\\ 0& \sin \left({\mathrm{\&alpha;}}_3\right)& \cos \left({\mathrm{\&alpha;}}_3\right)& 0\\ 0& 0& 0& 1\end{array}\right]$ $\hat{R}\left({\mathrm{\&alpha;}}_2\right)=\left[\begin{array}{cccc}\cos \left({\mathrm{\&alpha;}}_2\right)& 0& 0& -\sin \left({\mathrm{\&alpha;}}_2\right)\\ 0& 1& 0& 0\\ 0& 0& 0& 0\\ \sin \left({\mathrm{\&alpha;}}_2\right)& 0& 0& \cos \left({\mathrm{\&alpha;}}_2\right)\end{array}\right]$

$\hat{R}\left({\mathrm{\&alpha;}}_1\right)=\left[\begin{array}{cccc}\cos \left({\mathrm{\&alpha;}}_1\right)& 0& -\sin \left({\mathrm{\&alpha;}}_1\right)& 0\\ 0& 1& 0& 0\\ \sin \left({\mathrm{\&alpha;}}_1\right)& 0& \cos \left({\mathrm{\&alpha;}}_1\right)& 0\\ 0& 0& 0& 1\end{array}\right]$ $\hat{R}\left({\mathrm{\&alpha;}}_0\right)=\left[\begin{array}{cccc}\cos \left({\mathrm{\&alpha;}}_0\right)& -\sin \left({\mathrm{\&alpha;}}_0\right)& 0& 0\\ \sin \left({\mathrm{\&alpha;}}_0\right)& \cos \left({\mathrm{\&alpha;}}_0\right)& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right]$

其它拓展方式只是

之间的相互调换，例如将

表示上述所示的矩阵。

P.P.Vaidyanathan，Multirate Systems and Filter Banks.EnglewoodCliffs，NJ：Prentice-Hall，1993.这篇文章证明任意n×n正交矩阵可以用n＊(n-1)/2个旋转操作。

(4)将正交矩阵U，V中的每个平面旋转操作化成整数提升操作。

每个平面旋转操作都可以化为如下的矩阵乘法(提升操作)：

$\left[\begin{array}{cc}\cos \left(\mathrm{\&alpha;}\right)& -\sin \left(\mathrm{\&alpha;}\right)\\ \sin \left(\mathrm{\&alpha;}\right)& \cos \left(\mathrm{\&alpha;}\right)\end{array}\right]=\left[\begin{array}{cc}1& p\\ 0& 1\end{array}\right]\left[\begin{array}{cc}1& 0\\ u& 1\end{array}\right]\left[\begin{array}{cc}1& p\\ 0& 1\end{array}\right]$

其中， $p=\frac{\cos \left(\mathrm{\&alpha;}\right)-1}{\sin \left(\mathrm{\&alpha;}\right)},$ u＝sin(α)

每个提升操作只要一个乘法一个加法，每组提升操作包含3个加法和3个乘法。

U，V可以用图3所示的提升步骤实现，每组提升操作的α值不同，因此可得到6组不同的p，u值。

(5)将图3所有提升操作中的乘法因子p，u用1/32精度实现，即用移位和加法代替乘法；平均每个乘法需要3个加法和3个移位操作。

例如，

中p＝-5/32u＝10/32，那么p＝-1/32-1/8u＝1/16+1/4。p用两个位移(1/32，1/8)和一个加法代替。u用两个位移(1/32，1/8)和一个加法代替。

任意一个实数R，将其量化到1/32精度为

分数R′用加法的位移实现。

(6)将信号y用U和V进行如下处理，得到信号z：

$z=\left[\begin{array}{cc}U& 0\\ 0& V\end{array}\right]y=\left[\begin{array}{c}{\mathrm{Uy}}_a\\ {\mathrm{Vy}}_b\end{array}\right]$

(7)对信号z进行重排操作，该操作对应的变换为

$P_N(m,n)=\left\{\begin{array}{cc}1,& m=2n,n<\frac{N}{2}\\ 1,& m=(n-\frac{N}{2})*2+1,n\&GreaterEqual;\frac{N}{2}\\ 0,& \mathrm{otherwise}\end{array}\right.$

其中，m表示行，0≤m＜N-1；n表示列，0≤n＜N-1；N表示输入信号的维数。

对于8×8的变换矩阵，该重排矩阵为

$P_8=\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 1& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 1& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 1& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right]$

假设输入信号为x＝[x₀，x₁，x₂，x₃，x₄，x₅，x₆，x₇]^T，那么重排后信号为

y＝P₈[x₀，x₁，x₂，x₃，x₄，x₅，x₆，x₇]^T＝[x₀，x₄，x₁，x₅，x₂，x₆，x₃，x₇]^T。

需要说明的是，(3)-(5)是对正交变换矩阵U，V进一步简化的步骤，这些步骤是提高运算速度的优化步骤，有了这些步骤会使运算速度更快。在步骤(5)结束后，乘法数目已由原来的N×N/2减少到0，即乘法操作全部去除。

另外，步骤(3)和步骤(4)可以相互代替，也就是说，要么用旋转操作来简化U，V，要么用提升操作来简化U，V。提升操作比旋转操作乘法数目少，因此速度较旋转操作快。

实施例二：

输入信号为4维列向量。

与实施例一各步骤不同的是，

步骤1的I，J的大小为2×2，

$I=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right],$ $J=\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]$

步骤2中的矩阵U，V是2×2的正交矩阵。

步骤3中，2×2的U，V可以用一组旋转操作来实现。

步骤4中，U，V可以化成一组提升操作实现。

步骤7中，N＝4；对于4×4的变换矩阵，重排矩阵为

$P_4=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$

本发明说明书中未作详细描述的内容属于本领域专业技术人员公知技术。

本发明不局限于权利要求和上述实施例所述及的内容，只要是根据本发明的构思所创作出来的任何发明，都应归属于本发明的保护范围之内。

Claims (5)

1.一种模式相关的快速变换方法，其特征在于，包括以下步骤：

(1)对输入信号进行蝶形操作，得到信号y：将输入信号x乘以矩阵

$\left[\begin{array}{cc}I& J\\ J& -1\end{array}\right],$

所述输入信号为N维列向量，N为2的幂次方；I为

的单位矩阵，J为

的单位反对角矩阵；

(2)将信号y等分成上下两部分y_a和y_b，根据统计得到的输入信号x的相关矩阵C_x，计算出

$D_x=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]C_x\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right],$ 将D_x分成4部分 $\left[\begin{array}{cc}{D}_0& D_1\\ D_2& D_3\end{array}\right],$

对D₀和D₃进行奇异值分解SVD，得到两个

的正交变换矩阵U，V；

(3)将信号y用U和V进行如下处理，得到信号z：

$z=\left[\begin{array}{cc}U& 0\\ 0& V\end{array}\right]y=\left[\begin{array}{c}{\mathrm{Uy}}_a\\ {\mathrm{Vy}}_b\end{array}\right];$

(4)对信号z乘以如下定义的矩阵：

其中，m表示行，0≤m＜N-1；n表示列，0≤n＜N-1；N表示输入信号的维数。

2.根据权利要求1所述的一种模式相关的快速变换方法，其特征在于，所述输入信号为8维列向量：x＝[x₀ x₁ x₂ x₃ x₄ x₅ x₆ x₇]^T，

(1)对输入信号进行蝶形操作，得到信号y：将输入信号x乘以矩阵

$\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right],$

其中，I为4×4的单位矩阵，J为4×4的单位反对角矩阵；

那么 $y={\left[\begin{array}{cccccccc}{y}_0& y_1& y_2& y_3& y_4& y_5& y_6& y_7\end{array}\right]}^T=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]x,$ 即

y₀＝x₀+x₇，y₁＝x₁+x₆，y₂＝x₂+x₅，y₃＝x₃+x₄

y₄＝x₀-x₇，y₅＝x₁-x₆，y₆＝x₂-x₅，y₇＝x₃-x₄，

其中，

$I=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right],$ $J=\left[\begin{array}{cccc}0& 0& 0& 1\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 1& 0& 0& 0\end{array}\right],$

蝶形操作为

$\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 1\\ 0& 1& 0& 0& 0& 0& 1& 0\\ 0& 0& 1& 0& 0& 1& 0& 0\\ 0& 0& 0& 1& 1& 0& 0& 0\\ 0& 0& 0& 1& -1& 0& 0& 0\\ 0& 0& 1& 0& 0& -1& 0& 0\\ 0& 1& 0& 0& 0& 0& -1& 0\\ 1& 0& 0& 0& 0& 0& 0& -1\end{array}\right];$

(2)将信号y等分成上下两部分y_a和y_b，

y_a＝[y₀ y₁ y₂ y₃]^T，

y_b＝[y₄ y₅ y₆ y₇]^T，

根据统计得到的输入信号x的相关矩阵C_x，计算出

$D_x=\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right]C_x\left[\begin{array}{cc}I& J\\ J& -I\end{array}\right],$ 将D_x分成4部分 $\left[\begin{array}{cc}{D}_0& D_1\\ D_2& D_3\end{array}\right],$

对D₀和D₃进行奇异值分解SVD，得到两个4×4的正交变换矩阵U，V；

(3)将信号y用U和V进行如下处理，得到信号z：

$z=\left[\begin{array}{cc}U& 0\\ 0& V\end{array}\right]y=\left[\begin{array}{c}{\mathrm{Uy}}_a\\ {\mathrm{Vy}}_b\end{array}\right];$

(4)对信号z进行重排操作，该重排矩阵为

$P_8=\left[\begin{array}{cccccccc}1& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0\\ 0& 1& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0\\ 0& 0& 1& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 1& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& 1\end{array}\right],$

假设输入信号为x＝[x₀，x₁，x₂，x₃，x₄，x₅，x₆，x₇]^T，那么重排后信号为

y＝P₈[x₀，x₁，x₂，x₃，x₄，x₅，x₆，x₇]^T＝[x₀，x₄，x₁，x₅，x₂，x₆，x₃，x₇]^T。

3.根据权利要求2所述的一种模式相关的快速变换方法，其特征在于，在步骤(2)后步骤(3)前进一步包括将所述正交变换矩阵U，V简化的步骤：

(A)将4×4的正交矩阵U，V进行6个平面旋转操作，每个平面旋转操作对应一个4×4的矩阵：

$M=\hat{R}\left({\mathrm{\&alpha;}}_0\right)\hat{R}\left({\mathrm{\&alpha;}}_1\right)\hat{R}\left({\mathrm{\&alpha;}}_2\right)\hat{R}\left({\mathrm{\&alpha;}}_3\right)\hat{R}\left({\mathrm{\&alpha;}}_4\right)\hat{R}\left({\mathrm{\&alpha;}}_5\right)S,$

其中 $S=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& -1\end{array}\right],$ S将最后一个输入信号的符号进行翻转，

表示每个平面旋转对应的4×4的变换矩阵；

用 $R\left(\mathrm{\&alpha;}\right)=\left[\begin{array}{cc}\cos \left(\mathrm{\&alpha;}\right)& -\sin \left(\mathrm{\&alpha;}\right)\\ \sin \left(\mathrm{\&alpha;}\right)& \cos \left(\mathrm{\&alpha;}\right)\end{array}\right]$ 表示一个2×2旋转，将其拓展到4×4得到对应的

拓展方法为将4×4的单位矩阵中指定的2×2部分替换成R(α)，替换不同的2×2部分拓展成不同的4×4矩阵。

4.根据权利要求2所述的一种模式相关的快速变换方法，其特征在于，在步骤(2)后步骤(3)前进一步包括将所述正交变换矩阵U，V简化的步骤：

(B)将4×4的正交矩阵U，V进行6组整数提升操作，每组提升操作均化成如下的矩阵乘法来实现：

$\left[\begin{array}{cc}\cos \left(\mathrm{\&alpha;}\right)& -\sin \left(\mathrm{\&alpha;}\right)\\ \sin \left(\mathrm{\&alpha;}\right)& \cos \left(\mathrm{\&alpha;}\right)\end{array}\right]=\left[\begin{array}{cc}1& p\\ 0& 1\end{array}\right]\left[\begin{array}{cc}1& 0\\ u& 1\end{array}\right]\left[\begin{array}{cc}1& p\\ 0& 1\end{array}\right],$

其中， $p=\frac{\cos \left(\mathrm{\&alpha;}\right)-1}{\sin \left(\mathrm{\&alpha;}\right)},$ u＝sin(α)。

5.根据权利要求4所述的一种模式相关的快速变换方法，其特征在于，步骤(B)后步骤(3)前进一步包括如下步骤：

(C)将所有提升操作中的乘法因子p，u用1/32精度实现，即用移位和加法代替乘法；任意一个实数R，将其量化到1/32精度为分数R′用加法的位移实现。

Images