CN101977321A - 一种视频编码的整数变换方法 - Google Patents

一种视频编码的整数变换方法 Download PDF

Info

Publication number
CN101977321A
CN101977321A CN2010105327647A CN201010532764A CN101977321A CN 101977321 A CN101977321 A CN 101977321A CN 2010105327647 A CN2010105327647 A CN 2010105327647A CN 201010532764 A CN201010532764 A CN 201010532764A CN 101977321 A CN101977321 A CN 101977321A
Authority
CN
China
Prior art keywords
round
integer
int
transform
discrete cosine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010105327647A
Other languages
English (en)
Other versions
CN101977321B (zh
Inventor
张智雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Yunzhou Multimedia Technology Co., Ltd.
Original Assignee
SHENZHEN RONGCHUANG TIANXIA TECHNOLOGY DEVELOPMENT Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHENZHEN RONGCHUANG TIANXIA TECHNOLOGY DEVELOPMENT Co Ltd filed Critical SHENZHEN RONGCHUANG TIANXIA TECHNOLOGY DEVELOPMENT Co Ltd
Priority to CN201010532764.7A priority Critical patent/CN101977321B/zh
Publication of CN101977321A publication Critical patent/CN101977321A/zh
Priority to PCT/CN2011/076249 priority patent/WO2012058934A1/zh
Application granted granted Critical
Publication of CN101977321B publication Critical patent/CN101977321B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Complex Calculations (AREA)

Abstract

本发明公开一种视频编码的整数变换方法，该方法在传统时频转换算法离散余弦变换(DCT)的基础上，设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵，使用整数变换矩阵对视频信号进行时频转换，使用本发明实施例提出的整数变换矩阵对信息进行时频转换，在运算简便的同时又具有和DCT接近的聚能性，能有效地对信息进行压缩。

Description

一种视频编码的整数变换方法
技术领域
本发明涉及视频编码领域，尤其涉及一种视频编码的整数变换方法。
背景技术
在视频编码中，为节省图像码率，需要对图像信号进行压缩。一般方法为除去图像信号中的相关性及减小图像编码的动态范围，通常采用变换编码及量化技术。变换编码将图像的时域信号转换成频域信号，在频域中，图像信号能量大部分集中在低频区域，相对于时域信号，码率有较大的下降。H.264把运动估值和帧内(Intra)预测的残差结果从时域变换到频域，使用了类似于4×4离散余弦变换DCT(Discrete Cosine Transform)的整数变换。
以下是现有技术传统的4x4整数离散余弦变换方法：
Y＝AXAT                                        (1)
X＝ATYA                                        (2)
其中Y为频域信号，X为时域信号，A为正交变换矩阵，T为矩阵转置。以离散余弦变换(DCT)为例，变换矩阵A的值为：其中N为变换矩阵的维数。
以4x4 DCT(即N＝4为例)，其变换矩阵的值为：
A = 1 2 1 2 1 2 1 2 1 2 cos ( π 8 ) 1 2 cos ( 3 π 8 ) - 1 2 cos ( 3 π 8 ) - 1 2 cos ( π 8 ) 1 2 - 1 2 - 1 2 1 2 1 2 cos ( 3 π 8 ) - 1 2 cos ( π 8 ) 1 2 cos ( π 8 ) - 1 2 cos ( 3 π 8 ) - - - ( 3 )
设 a = 1 2 , b = 1 2 cos ( π 8 ) , c = 1 2 cos ( 3 π 8 ) , 则：
A = a a a a b c - c - b a - a - a a c - b b - c - - - ( 4 )
相比MPEG-2和MPEG-4那样采用8×8DCT的浮点数变换，H.264的4x4整数离散余弦变换方法具有效果好、计算快，反变换过程中不会出现失配问题等优点，并且结合量化过程，保证了在16位计算系统中，计算结果有最大精度且不会溢出。但由于H.264提出的整数变换模型过于简单，无法十分有效的将能量集中到低频部分；且由于矩阵A中a、b、c是浮点数，而X中的元素是整数，对于传统的DCT，由于在解码端的浮点运算的精度问题，可能会造成解码后的数据失配，进而引起漂移。因此在实际应用中采用整数变换十分必要。
发明内容
本发明实施例的目的在于提出一种视频编码的整数变换方法，旨在解决现有技术整数变换模型过于简单，无法十分有效的将能量集中到低频部分，且解码后的数据易失配，容易引起漂移的问题。
本发明实施例的方法是这样实现的，一种视频编码的整数变换方法，所述方法包括以下步骤：
一种视频编码的整数变换方法，其特征在于，所述方法包括以下步骤：
设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵；
使用整数变换矩阵对视频信号进行时频转换。
所述步骤“设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵”中，所述离散余弦变换采用的是4x4离散余弦变换，具体为：
| a × n - round ( a × n ) | ≤ θ | b × n - round ( b × n ) | ≤ θ | c × n - round ( c × n ) | ≤ θ - - - ( 5 )
round(b×n)2+round(c×n)2＝2round(a×n)2                    (6)
其中abc为4x4离散余弦变换系数：n为量化整数参数(非零整数)，round(x)为四舍五入取整函数，θ为差错控制域值，θ的取值范围限制为[0，round(a×n)2/10]；
公式(5)为整数变换的差错控制公式，而公式(6)控制整数变换的正交性。解方程组(5)、(6)，可得出4x4离散余弦变换的变换的整数逼近参数n(即所述的量化整数参数n)，从而求出4x4DCT最佳逼近整数正交变换矩阵Aint，其中：
A int = 1 n · round ( axn ) round ( axn ) round ( axn ) round ( axn ) round ( bxn ) round ( cxn ) - round ( cxn ) - round ( bxn ) round ( axn ) - round ( axn ) - round ( axn ) round ( axn ) round ( cxn ) - round ( bxn ) round ( bxn ) - round ( cxn ) - - - ( 7 )
所述步骤“使用整数变换矩阵对视频信号进行时频转换”所述整数变换矩阵采用的是4x4离散余弦变换矩阵，具体为：
Y = 1 n 2 A int X A int T - - - ( 9 )
X = 1 n 2 A int T YA int - - - ( 10 )
其中Y为频域信号，X为时域信号，Aint为公式(7)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵；n为Aint对应整数解(即根据不同所述差错控制域值θ的取值，解方程组(5)、(6)得出的离散余弦变换的整数逼近参数)。
所述公式(6)可以替换为公式(11)
2round(a×n)2·(1-η)≤round(b×n)2+round(c×n)2≤2round(a×n)2·(1+η)        (11)
其中η的取值范围为[0，0.1]，round(x)为四舍五入取整函数，其中 n为量化整数参数(非零整数)。
所述步骤“设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵”中，所述离散余弦变换还可采用8x8离散余弦变换，具体为：
| a × n - round ( a × n ) | ≤ θ | b × n - round ( b × n ) | ≤ θ | c × n - round ( c × n ) | ≤ θ | d × n - round ( d × n ) | ≤ θ | e × n - round ( e × n ) | ≤ θ | f × n - round ( f × n ) | ≤ θ | g × n - round ( g × n ) | ≤ θ - - - ( 12 )
Aint·Aint T＝E                                            (13)
其中abcdef为8x8离散余弦变换系数：
a = 1 2 2 , b = 1 2 cos ( π 8 ) , c = 1 2 cos ( 3 π 8 ) , d = 1 2 cos ( π 16 ) , e = 1 2 cos ( 3 π 16 ) , f = 1 2 cos ( 5 π 16 ) , g = 1 2 cos ( 7 π 16 ) . ，n为量化整数参数(非零整数)，round(x)为四舍五入取整函数，E为单位矩阵，θ为差错控制域值，θ的取值范围限制为([0，round(a×n)2/10])；
公式(12)为整数变换的差错控制不公式，而公式(13)控制整数变换的正交性。解方程组(12)、(13)，可得出8x8离散余弦变换的变换的整数逼近参数n(即所述的量化整数参数n)，从而求出8x8DCT最佳逼近整数正交变换矩阵Aint，即如下公式(14)：
A int = 1 n · round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( d × n ) round ( e × n ) round ( f × n ) round ( g × n ) - round ( g × n ) - round ( f × n ) - round ( e × n ) - round ( d × n ) round ( b × n ) round ( c × n ) - round ( c × n ) - round ( b × n ) - round ( b × n ) - round ( c × n ) round ( c × n ) round ( b × n ) round ( e × n ) - round ( g × n ) - round ( d × n ) - round ( f × n ) round ( f × n ) round ( d × n ) round ( g × n ) - round ( e × n ) round ( a × n ) - round ( a × n ) - round ( a × n ) round ( a × n ) round ( a × n ) - round ( a × n ) - round ( a × n ) round ( a × n ) round ( f × n ) - round ( d × n ) round ( g × n ) round ( e × n ) - round ( e × n ) - round ( g × n ) round ( d × n ) - round ( f × n ) round ( c × n ) - round ( b × n ) round ( b × n ) - round ( c × n ) - round ( c × n ) round ( b × n ) - round ( b × n ) round ( c × n ) round ( g × n ) - round ( f × n ) round ( e × n ) - round ( d × n ) round ( d × n ) - round ( e × n ) round ( f × n ) - round ( g × n )
所述步骤“使用整数变换矩阵对视频信号进行时频转换”所述整数变换矩阵还可采用的是8x8离散余弦变换矩阵，具体为：
Y = 1 n 2 A int XA int T - - - ( 9 )
X = 1 n 2 A int T YA int - - - ( 10 )
其中Y为频域信号，X为时域信号，Aint为公式(14)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵；n为Aint对应整数解(即根据不同所述差错控制域值θ的取值，解方程组(12)、(13)得出的离散余弦变换的整数逼近参数。
所述公式(13)可以替换为公式(15)
|Aint·Aint T-E|＜E·η                                 (15)
其中Aint为公式(14)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵，η为差错控制域值，η的取值范围为[0，0.1]。
所述离散余弦变换还可以为NxN的离散余弦变换，N为非零正整数。
本发明实施例的另一目的在于提出一种视频编码的整数变换装置，所述装置包括：
量化整数参数获取装置，用于设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近；
最佳逼近整数正交变换矩阵获取装置，用于根据量化整数参数获取装置获取的值求取最佳逼近整数正交变换矩阵；
时频转换装置，用于根据量化整数参数获取装置获取的值和所述最佳逼近整数正交变换矩阵，使用整数变换矩阵对视频信号进行时频转换。
本发明的有益效果
本发明实施例在传统时频转换算法离散余弦变换(DCT)的基础上，设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵，使用整数变换矩阵对视频信号进行时频转换，从而使整数变换具有更好的聚能性，有效提升信息的压缩能力。
附图说明
图1是本发明实施例一种视频编码的整数变换方法流程图；
图2是本发明实施例一种视频编码的整数变换装置结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图和实施例，对本发明进行进一步详细说明，为了便于说明，仅示出了与本发明实施例相关的部分。应当理解，此处所描写的具体实施例，仅仅用于解释本发明，并不用以限制本发明。
本发明在传统时频转换算法离散余弦变换(DCT)的基础上，设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵，使用整数变换矩阵对视频信号进行时频转换，从而使整数变换具有更好的聚能性，有效提升信息的压缩能力。
实施例一
图1是本发明实施例一种视频编码的整数变换方法流程图，所述方法包括以下步骤：
步骤一：设置差错控制的域值θ，求出量化整数参数n，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵。
以4x4离散余弦变换为例子，其整数逼近方法如下：
| a × n - round ( a × n ) | ≤ θ | b × n - round ( b × n ) | ≤ θ | c × n - round ( c × n ) | ≤ θ - - - ( 5 )
round(b×n)2+round(c×n)2＝2round(a×n)2                (6)
其中abc为4x4离散余弦变换系数，
Figure BSA00000333879800072
n为量化整数参数(非零整数)，round(x)为四舍五入取整函数，θ为差错控制的域值，θ的取值范围限制为[0，round(a×n)2/10]。
公式(5)为整数变换的差错控制公式，而公式(6)控制整数变换的正交性。解方程组(5)、(6)，可得出4x4离散余弦变换的变换的整数逼近参数n(即所述的量化整数参数n)，从而求出4x4DCT最佳逼近整数正交变换矩阵Aint，其中：
A int = 1 n · round ( axn ) round ( axn ) round ( axn ) round ( axn ) round ( bxn ) round ( cxn ) - round ( cxn ) - round ( bxn ) round ( axn ) - round ( axn ) - round ( axn ) round ( axn ) round ( cxn ) - round ( bxn ) round ( bxn ) - round ( cxn ) - - - ( 7 )
当θ＝0.05时，可解出4x4离散余弦变换的一个最佳整数逼近参数n＝26。此时，离散余弦变换的一个整数变换矩阵为：
A int = 1 26 · 13 13 13 13 17 7 - 7 - 17 13 - 13 - 13 13 7 - 17 17 - 7 - - - ( 8 )
步骤二：使用整数变换矩阵对视频信号进行时频转换。
其变换公式如下：
Y = 1 n 2 A int X A int T - - - ( 9 )
X = 1 n 2 A int T YA int - - - ( 10 )
其中Y为频域信号，X为时域信号，Aint为公式(7)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵；n为Aint对应整数解(即根据不同所述差错控制域值θ的取值，解方程组(5)、(6)得出的离散余弦变换的整数逼近参数)。
为了进一步提升视频编解码运算速度，减少运算时间，可放宽正交限制方程，将公式(6)和公式(11)进行替换，其他计算公式不变。
2round(a×n)2·(1-η)≤round(b×n)2+round(c×n)2≤2round(a×n)2·(1+η)         (11)
其中η的取值范围为[0，0.1]，round(x)为四舍五入取整函数，其中
Figure BSA00000333879800084
Figure BSA00000333879800085
n为量化整数参数(非零整数)。
设实施例一中的残差块X(即所述时域信号X)为：
X = 24 20 3 24 16 2 1 6 23 7 4 5 10 20 5 22
当n＝1024时(n的取值满足公式(6)，但满足公式(11))，
Y = 1 n 2 A int XA int T ,
Aint的值可由实施例一中的公式(7)计算出，在此没有具体算出。根据n、残差块X、Aint可算出Y的值，根据所述Y的值和Aint值可计算出时域信号值X′，
X ′ = 1 1024 2 A int T YA int = 24 20 3 24 16 2 1 6 22 7 4 5 11 20 5 22
| X ′ - X | = 0 0 0 0 0 0 0 0 1 0 0 0 1 0 0 0
虽然X′矩阵非正交，导致图像反变换后存在一定误差，但是该误差在视频/图像编解码中是可以接受的，因为除1024在计算机中是极易实现的，该算法能提高计算机运算速度。
使用本本发明实施例提出的方法可以对NxN(如8x8、16x16)的离散余弦变换进行整数逼近。
以8x8DCT变换为例，其整数逼近方法如下：：
| a × n - round ( a × n ) | ≤ θ | b × n - round ( b × n ) | ≤ θ | c × n - round ( c × n ) | ≤ θ | d × n - round ( d × n ) | ≤ θ | e × n - round ( e × n ) | ≤ θ | f × n - round ( f × n ) | ≤ θ | g × n - round ( g × n ) | ≤ θ - - - ( 12 )
Aint·Aint T＝E                        (13)
其中abcdef为8x8离散余弦变换系数：
a = 1 2 2 , b = 1 2 cos ( π 8 ) , c = 1 2 cos ( 3 π 8 ) , d = 1 2 cos ( π 16 ) , e = 1 2 cos ( 3 π 16 ) , f = 1 2 cos ( 5 π 16 ) , g = 1 2 cos ( 7 π 16 ) . ，n为量化整数参数(非零整数)，round(x)为四舍五入取整函数，E为单位矩阵，θ为差错控制域值，θ的取值范围限制为([0，round(a×n)2/10])；
公式(12)为整数变换的差错控制不公式，而公式(13)控制整数变换的正交性。解方程组(12)、(13)，可得出8x8离散余弦变换的变换的整数逼近参数n(即所述的量化整数参数n)，从而求出8x8DCT最佳逼近整数正交变换矩阵Aint，即如下公式(14)：
A int = 1 n · round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( d × n ) round ( e × n ) round ( f × n ) round ( g × n ) - round ( g × n ) - round ( f × n ) - round ( e × n ) - round ( d × n ) round ( b × n ) round ( c × n ) - round ( c × n ) - round ( b × n ) - round ( b × n ) - round ( c × n ) round ( c × n ) round ( b × n ) round ( e × n ) - round ( g × n ) - round ( d × n ) - round ( f × n ) round ( f × n ) round ( d × n ) round ( g × n ) - round ( e × n ) round ( a × n ) - round ( a × n ) - round ( a × n ) round ( a × n ) round ( a × n ) - round ( a × n ) - round ( a × n ) round ( a × n ) round ( f × n ) - round ( d × n ) round ( g × n ) round ( e × n ) - round ( e × n ) - round ( g × n ) round ( d × n ) - round ( f × n ) round ( c × n ) - round ( b × n ) round ( b × n ) - round ( c × n ) - round ( c × n ) round ( b × n ) - round ( b × n ) round ( c × n ) round ( g × n ) - round ( f × n ) round ( e × n ) - round ( d × n ) round ( d × n ) - round ( e × n ) round ( f × n ) - round ( g × n )
若|Aint·Aint T-E|＜E·θ，则Aint为8x8DCT最佳逼近整数正交变换矩阵
使用整数变换矩阵对视频信号进行时频转换，其8x8离散余弦变换矩阵变换公式如下：
Y = 1 n 2 A int XA int T - - - ( 9 )
X = 1 n 2 A int T YA int - - - ( 10 )
其中Y为频域信号，X为时域信号，Aint为公式(14)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵；n为Aint对应整数解(即根据不同所述差错控制域值θ的取值，解方程组(12)、(13)得出的离散余弦变换的整数逼近参数。
所述公式(13)可以替换为公式(15)
|Aint·Aint T-E|＜E·η                                  (15)
其中Aint为公式(14)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵，η为差错控制域值，η的取值范围为[0，0.1]。
实施例二
图2是本发明实施例一种视频编码的整数变换装置结构示意图。所述装置包括：
量化整数参数获取装置，用于设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近；
最佳逼近整数正交变换矩阵获取装置，用于根据量化整数参数获取装置获取的值求取最佳逼近整数正交变换矩阵；
时频转换装置，用于根据量化整数参数获取装置获取的值和所述最佳逼近整数正交变换矩阵，使用整数变换矩阵对视频信号进行时频转换。
本发明实施例整数变换的模拟效果：
以4x4残差块X为例，本发明提出的4x4整数变换和H264的4x4整数变换进行对比，结果如下：
残差块X′为：
X ′ = 24 20 3 24 16 2 1 6 23 7 4 5 10 20 5 22
Figure BSA00000333879800112
H264整数变换和DCT输出之差的绝对值为：
0 0.654 0 0.74 0.465 0.514 0.142 0.164 0 1.055 0 0.621 0.174 0.164 0.432 0.514
Figure BSA00000333879800122
本发明实施例和DCT输出之差的绝对值为：
0 0.02 0 0.021 0.013 0.015 0.004 0.006 0 0.031 0 0.019 0.005 0.006 0.013 0.015
可见，本发明实施例的整数变换结果贴近DCT变换同时又比DCT变换运算简便许多，同时，本发明实施例变换比H264更有效的将视频转换的能量集中在低频，更有利于视频压缩编码。
本发明实施例整数变换在JM8.0上的测试结果：
以常用的标准测试序列为例，在JM8.0 Baseline上测试本发明实施例提出的整数变换和H264原有整数变换的编码性能。
测试中编码采取恒定QP编码，对比在当前QP下本发明实施例提出的整数变换算法所需编码比特率和H264原始整数变换所需编码比特率。
foreman.qvga@320x240 25fps测试结果：
Figure BSA00000333879800131
从上述实验结果可见，本发明实施例提出的整数变换算法比H264节省编码比特约0.6％。
综上所述，本发明本发明实施例提出了一种新的正交整数变换矩阵，该算法比H264更好的将时频转换的能量集中在低频部分，达到在视频编码中提高压缩性能的效果。
本领域的普通技术人员可以理解，实现上述实施例方法中的全部或部分步骤是可以通过程序指令相关硬件来完成的，所述的程序可以存储于一计算机可读取存储介质中，所述的存储介质可以为ROM、RAM、磁盘、光盘等。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种视频编码的整数变换方法，其特征在于，所述方法包括以下步骤：
设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵；
使用整数变换矩阵对视频信号进行时频转换。
2.如权利要求1所述的一种视频编码的整数变换方法，其特征在于，所述步骤“设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵”中，所述离散余弦变换采用的是4x4离散余弦变换，具体为：
| a × n - round ( a × n ) | ≤ θ | b × n - round ( b × n ) | ≤ θ | c × n - round ( c × n ) | ≤ θ - - - ( 5 )
round(b×n)2+round(c×n)2＝2round(a×n)2                    (6)
其中abc为4x4离散余弦变换系数：
Figure FSA00000333879700012
n为量化整数参数(非零整数)，round(x)为四舍五入取整函数，θ为差错控制域值，θ的取值范围限制为[0，round(a×n)2/10]；
公式(5)为整数变换的差错控制公式，而公式(6)控制整数变换的正交性。解方程组(5)、(6)，可得出4x4离散余弦变换的变换的整数逼近参数n(即所述的量化整数参数n)，从而求出4x4DCT最佳逼近整数正交变换矩阵Aint，其中：
A int = 1 n · round ( axn ) round ( axn ) round ( axn ) round ( axn ) round ( bxn ) round ( cxn ) - round ( cxn ) - round ( bxn ) round ( axn ) - round ( axn ) - round ( axn ) round ( axn ) round ( cxn ) - round ( bxn ) round ( bxn ) - round ( cxn ) - - - ( 7 ) .
3.如权利要求1所述的一种视频编码的整数变换方法，其特征在于，所述步骤“使用整数变换矩阵对视频信号进行时频转换”所述整数变换矩阵采用的是4x4离散余弦变换矩阵，具体为：
Y = 1 n 2 A int X A int T - - - ( 9 )
X = 1 n 2 A int T YA int - - - ( 10 )
其中Y为频域信号，X为时域信号，Aint为公式(7)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵；n为Aint对应整数解(即根据不同所述差错控制域值θ的取值，解方程组(5)、(6)得出的离散余弦变换的整数逼近参数)。
4.如权利要求2所述的一种视频编码的整数变换方法，其特征在于，
所述公式(6)可以替换为公式(11)
2round(a×n)2·(1-η)≤round(b×n)2+round(c×n)2≤2round(a×n)2·(1+η)     (11)
其中η的取值范围为[0，0.1]，round(x)为四舍五入取整函数，其中
Figure FSA00000333879700023
Figure FSA00000333879700024
n为量化整数参数(非零整数)。
5.如权利要求1所述的一种视频编码的整数变换方法，其特征在于，所述步骤“设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近，求出最佳逼近整数正交变换矩阵”中，所述离散余弦变换还可采用8x8离散余弦变换，具体为：
| a × n - round ( a × n ) | ≤ θ | b × n - round ( b × n ) | ≤ θ | c × n - round ( c × n ) | ≤ θ | d × n - round ( d × n ) | ≤ θ | e × n - round ( e × n ) | ≤ θ | f × n - round ( f × n ) | ≤ θ | g × n - round ( g × n ) | ≤ θ - - - ( 12 )
Aint·Aint T＝E                                (13)
其中abcdef为8x8离散余弦变换系数：
a = 1 2 2 , b = 1 2 cos ( π 8 ) , c = 1 2 cos ( 3 π 8 ) , d = 1 2 cos ( π 16 ) , e = 1 2 cos ( 3 π 16 ) , f = 1 2 cos ( 5 π 16 ) , g = 1 2 cos ( 7 π 16 ) . ，n为量化整数参数(非零整数)，round(x)为四舍五入取整函数，E为单位矩阵，θ为差错控制域值，θ的取值范围限制为([0，round(a×n)2/10])；
公式(12)为整数变换的差错控制不公式，而公式(13)控制整数变换的正交性。解方程组(12)、(13)，可得出8x8离散余弦变换的变换的整数逼近参数n(即所述的量化整数参数n)，从而求出8x8DCT最佳逼近整数正交变换矩阵Aint，即如下公式(14)：
A int = 1 n · round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( a × n ) round ( d × n ) round ( e × n ) round ( f × n ) round ( g × n ) - round ( g × n ) - round ( f × n ) - round ( e × n ) - round ( d × n ) round ( b × n ) round ( c × n ) - round ( c × n ) - round ( b × n ) - round ( b × n ) - round ( c × n ) round ( c × n ) round ( b × n ) round ( e × n ) - round ( g × n ) - round ( d × n ) - round ( f × n ) round ( f × n ) round ( d × n ) round ( g × n ) - round ( e × n ) round ( a × n ) - round ( a × n ) - round ( a × n ) round ( a × n ) round ( a × n ) - round ( a × n ) - round ( a × n ) round ( a × n ) round ( f × n ) - round ( d × n ) round ( g × n ) round ( e × n ) - round ( e × n ) - round ( g × n ) round ( d × n ) - round ( f × n ) round ( c × n ) - round ( b × n ) round ( b × n ) - round ( c × n ) - round ( c × n ) round ( b × n ) - round ( b × n ) round ( c × n ) round ( g × n ) - round ( f × n ) round ( e × n ) - round ( d × n ) round ( d × n ) - round ( e × n ) round ( f × n ) - round ( g × n ) .
6.如权利要求1所述的一种视频编码的整数变换方法，其特征在于，所述步骤“使用整数变换矩阵对视频信号进行时频转换”所述整数变换矩阵还可采用的是8x8离散余弦变换矩阵，具体为：
Y = 1 n 2 A int XA int T - - - ( 9 )
X = 1 n 2 A int T YA int - - - ( 10 )
其中Y为频域信号，X为时域信号，Aint为公式(14)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵；n为Aint对应整数解(即根据不同所述差错控制域值θ的取值，解方程组(12)、(13)得出的离散余弦变换的整数逼近参数。
7.如权利要求5所述的一种视频编码的整数变换方法，其特征在于，
所述公式(13)可以替换为公式(15)
|Aint·Aint T-E|＜E·η                                    (15)
其中Aint为公式(14)中所求出的最佳逼近整数正交变换矩阵，Aint T为Aint的转置矩阵，η为差错控制域值，η的取值范围为[0，0.1]。
8.如权利要求1所述的一种视频编码的整数变换方法，其特征在于，所述离散余弦变换还可以为NxN的离散余弦变换，N为非零正整数。
9.一种视频编码的整数变换装置，其特征在于，所述装置包括，
量化整数参数获取装置，用于设置差错控制的域值，求出量化整数参数，从而将离散余弦变换的变换参数进行整数逼近；
最佳逼近整数正交变换矩阵获取装置，用于根据量化整数参数获取装置获取的值求取最佳逼近整数正交变换矩阵；
时频转换装置，用于根据量化整数参数获取装置获取的值和所述最佳逼近整数正交变换矩阵，使用整数变换矩阵对视频信号进行时频转换。
CN201010532764.7A 2010-11-04 2010-11-04 一种视频编码的整数变换方法 Expired - Fee Related CN101977321B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201010532764.7A CN101977321B (zh) 2010-11-04 2010-11-04 一种视频编码的整数变换方法
PCT/CN2011/076249 WO2012058934A1 (zh) 2010-11-04 2011-06-24 一种视频编码的整数变换方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201010532764.7A CN101977321B (zh) 2010-11-04 2010-11-04 一种视频编码的整数变换方法

Publications (2)

Publication Number Publication Date
CN101977321A true CN101977321A (zh) 2011-02-16
CN101977321B CN101977321B (zh) 2014-03-12

Family

ID=43577163

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201010532764.7A Expired - Fee Related CN101977321B (zh) 2010-11-04 2010-11-04 一种视频编码的整数变换方法

Country Status (2)

Country Link
CN (1) CN101977321B (zh)
WO (1) WO2012058934A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102413331A (zh) * 2011-12-01 2012-04-11 上海大学 图像或视频的编码方法
CN102547285A (zh) * 2012-01-09 2012-07-04 上海大学 图像或视频编码的六角变换快速处理方法
WO2012142777A1 (zh) * 2011-04-20 2012-10-26 深圳市融创天下科技股份有限公司 一种视频编码8x8整数变换方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1445999A (zh) * 2003-03-26 2003-10-01 浙江大学 运用于图象编码和视频编码的整数变换方法和装置
CN1455599A (zh) * 2002-05-02 2003-11-12 微软公司 图像和视频编码的2－d变换
CN1568006A (zh) * 2003-06-27 2005-01-19 中国科学院计算技术研究所 用于编码处理的4输入/输出的整数变换/反变换方法
CN101321285A (zh) * 2008-06-23 2008-12-10 王国秋 用于图像和视频压缩的正交整数变换方法
CN101855909A (zh) * 2007-11-12 2010-10-06 坦德伯格电信公司 视频编码和解码的方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4857152B2 (ja) * 2007-03-08 2012-01-18 Ｎｔｔエレクトロニクス株式会社 直交変換・量子化装置
CN101742054B (zh) * 2008-11-14 2013-02-13 北京中星微电子有限公司 编码方法及装置、解码方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1455599A (zh) * 2002-05-02 2003-11-12 微软公司 图像和视频编码的2－d变换
CN1445999A (zh) * 2003-03-26 2003-10-01 浙江大学 运用于图象编码和视频编码的整数变换方法和装置
CN1568006A (zh) * 2003-06-27 2005-01-19 中国科学院计算技术研究所 用于编码处理的4输入/输出的整数变换/反变换方法
CN101855909A (zh) * 2007-11-12 2010-10-06 坦德伯格电信公司 视频编码和解码的方法
CN101321285A (zh) * 2008-06-23 2008-12-10 王国秋 用于图像和视频压缩的正交整数变换方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012142777A1 (zh) * 2011-04-20 2012-10-26 深圳市融创天下科技股份有限公司 一种视频编码8x8整数变换方法
CN102413331A (zh) * 2011-12-01 2012-04-11 上海大学 图像或视频的编码方法
CN102547285A (zh) * 2012-01-09 2012-07-04 上海大学 图像或视频编码的六角变换快速处理方法
CN102547285B (zh) * 2012-01-09 2014-05-14 上海大学 图像或视频编码的六角变换快速处理方法

Also Published As

Publication number Publication date
WO2012058934A1 (zh) 2012-05-10
CN101977321B (zh) 2014-03-12

Similar Documents

Publication Publication Date Title
CN1998152B (zh) 条件交叠变换方法
JP2017201812A5 (zh)
US20140010284A1 (en) Image transform and inverse transform method, and image encoding and decoding device using same
US9538173B2 (en) Method and apparatus for encoding/decoding image by using adaptive loop filter on frequency domain using conversion
JP2017201813A5 (zh)
CN1697328B (zh) 快速视频编解码变换实现
US20130034150A1 (en) Systems and methods for multimedia data encoding and decoding
TW200531450A (en) Image decoding device, image decoding method, and image decoding program
BR122013019725A2 (pt) aparelho para decodificar imagens
CN103024392B (zh) 基于二维哈达玛变换的帧内模式预测方法及装置
CN102263951B (zh) 一种快速的分形视频压缩与解压缩方法
US10091531B2 (en) Image coding and decoding methods and apparatuses
CN102036075B (zh) 一种图像及数字视频编码及解码方法
CN101977321B (zh) 一种视频编码的整数变换方法
CN101783954A (zh) 一种视频图像编解码方法
CN101616325B (zh) 一种视频编码中自适应插值滤波计算的方法
CN100440978C (zh) 一种视频图像编码方法
WO2011124163A1 (zh) 视频数据编码、解码方法及装置、变换处理方法及装置
CN105472395B (zh) 一种基于离散Krawtchouk正交多项式的图像无损压缩方法
JP2008206211A5 (zh)
CN107295353A (zh) 视频编码参考块滤波方法
KR100561392B1 (ko) 고속 역 이산 여현 변환 방법 및 장치
CN103402095A (zh) 扫描方法及装置、反扫描方法及装置
CN109803147B (zh) 基于视频纹理特征的变换处理方法及装置
Aloui et al. Speech Compression Based on Discrete Walsh Hadamard Transform

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: SHENZHEN YUNZHOU MULTIMEDIA TECHNOLOGY CO., LTD.

Free format text: FORMER OWNER: SHENZHEN TEMOBI SCIENCE + TECHNOLOGY CO., LTD.

Effective date: 20140801

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20140801

Address after: Unit B4 9 building 518057 Guangdong city of Shenzhen province Nanshan District high in the four EVOC Technology Building No. 31

Patentee after: Shenzhen Yunzhou Multimedia Technology Co., Ltd.

Address before: 19, building 18, Changhong technology building, 518057 South twelve Road, South tech Zone, Nanshan District hi tech Zone, Guangdong, Shenzhen

Patentee before: Shenzhen Temobi Science & Tech Development Co.,Ltd.

C56 Change in the name or address of the patentee
CP02 Change in the address of a patent holder

Address after: The central Shenzhen city of Guangdong Province, 518057 Keyuan Road, Nanshan District science and Technology Park No. 15 Science Park Sinovac A Building 1 unit 403, No. 405 unit

Patentee after: Shenzhen Yunzhou Multimedia Technology Co., Ltd.

Address before: Unit B4 9 building 518057 Guangdong city of Shenzhen province Nanshan District high in the four EVOC Technology Building No. 31

Patentee before: Shenzhen Yunzhou Multimedia Technology Co., Ltd.

CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20140312

Termination date: 20191104

CF01 Termination of patent right due to non-payment of annual fee