CN1575546A - 变换及后续量化的实现 - Google Patents

变换及后续量化的实现 Download PDF

Info

Publication number
CN1575546A
CN1575546A CNA028213351A CN02821335A CN1575546A CN 1575546 A CN1575546 A CN 1575546A CN A028213351 A CNA028213351 A CN A028213351A CN 02821335 A CN02821335 A CN 02821335A CN 1575546 A CN1575546 A CN 1575546A
Authority
CN
China
Prior art keywords
matrix
rational
simplification
transformation matrix
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA028213351A
Other languages
English (en)
Other versions
CN100392982C (zh
Inventor
A·哈拉普罗
K·希梅利乌斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nokia Technologies Oy
Original Assignee
Nokia Oyj
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=25479298&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=CN1575546(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Nokia Oyj filed Critical Nokia Oyj
Publication of CN1575546A publication Critical patent/CN1575546A/zh
Application granted granted Critical
Publication of CN100392982C publication Critical patent/CN100392982C/zh
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/14Fourier, Walsh or analogous domain transformations, e.g. Laplace, Hilbert, Karhunen-Loeve, transforms
    • G06F17/147Discrete orthonormal transforms, e.g. discrete cosine transform, discrete sine transform, and variations therefrom, e.g. modified discrete cosine transform, integer transforms approximating the discrete cosine transform
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Discrete Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Algebra (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Complex Calculations (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

本发明涉及相继要应用到数字数据上以压缩该数字数据的DCT近似法和量化。为改善变换,建议简化预定变换矩阵以便在应用到数字数据上时所需运算较少。另外,构成无理数的简化变换矩阵的元素用有理数来近似。通过扩展预定量化以对用有理数来近似简化变换矩阵的元素进行补偿,从而使这些措施得到补偿。如果简化变换矩阵和扩展量化用作实现的基础,则可相应实现高质量的快速变换。相应地,对压缩数字数据的解压缩中采用的IDCT的近似法也可得到简化。

Description

变换及后续量化的实现
发明领域
本发明涉及数字数据的处理。更具体地说,它涉及实现离散余弦变换(DCT)近似法和量化的方法,所述变换和所述量化相继要应用到数字数据,具体说是数字图像数据上,以便压缩该数字数据。它同样涉及实现反量化和反离散余弦变换(IDCT)近似法的方法,其中,为了将数字数据解压缩,所述量化要接着所述反变换应用到压缩数字数据上。最后,本发明涉及分别适于执行所述压缩和所述解压缩的编码器和解码器。
发明背景
已知现代技术中顺序使用DCT和量化来压缩数字数据,例如为了实现有效传输该数字数据。具体地说,数字图像数据的压缩一般通过使用DCT及随后对通过DCT获得的DCT系数进行量化而实现。
在一维数字数据的DCT中,将具有预定编号的源值的相应序列变换成变换系数。在视频编码中,源值可以是例如像素值或预测误差值。每个所得的变换系数代表源数据中存在的一定频率范围。值f()到系数F()的DCT定义如下:
F ( i ) = 2 N C ( i ) Σ x = 0 N - 1 f ( x ) cos ( ( 2 x + 1 ) iπ 2 N ) , i = 0,1 , . . . , N - 1
在此等式中,N是一个源值序列中源值的预定编号。
为实现压缩,图像数据通常以二维数字数据块形式提供。对于此类数据,DCT定义如下:
F ( i , j ) = 2 N C ( i ) C ( j ) Σ x = 0 N - 1 Σ y = 0 N - 1 f ( x , y ) cos ( ( 2 x + 1 ) iπ 2 N ) cos ( ( 2 y + 1 ) iπ 2 N ) , i = j = 0,1 , . . . , N - 1
Figure A0282133500112
DCT是可分解的运算。这意味着二维DCT可通过两个连续的一维DCT运算来进行计算。由于一维DCT的复杂性与N相关,而二维DCT的复杂性与N2相关,因此,最好使用一维DCT运算。对于具有N*N大小的图像数据,所有DCT运算的总的复杂性与快速DCT的N3或N2log(N)相关。因此,还涉及许多非普通乘法运算的大变换的计算十分复杂。此外,额外要求的比特精度会增加字宽。由于复杂性原因,DCT每次通常只对小的数值块执行,例如4×4或8×8数值块,这种数值块可以用具有值f()的矩阵形式表示。图1显示了所述4×4矩阵1的DCT。
首先,将矩阵1的每行单独变换成一次变换矩阵2。在所示矩阵1中,每行的单独变换由包括相应行所有值的双向箭头表示。随后,将一次变换矩阵2的每列单独变换成包括变换系数F()的最终变换矩阵3。在所示矩阵2中,每列的单独变换由包括相应列所有值的双向箭头表示。
上述等式定义的DCT也可写成矩阵形式。为此,首先将F(i)写成更合适的形式
F ( i ) = Σ x = 0 N - 1 f ( x ) A ( i , x ) , i = 0,1 , . . . , N - 1
A ( i , x ) = 2 N C ( i ) cos ( ( 2 x + 1 ) iπ 2 N )
矩阵A是DCT基本函数矩阵。随后可通过以下等式计算二维DCT:
Y=AXAT
其中,矩阵X表示源值矩阵,矩阵Y表示DCT中产生的变换系数。矩阵的指数T表示矩阵的转置。
在DCT后,通过对DCT系数进行量化实现实际的压缩。量化是用依赖于量化参数qp的量化值除去变换系数来实现的:
Y′(i,j)=Y(i,j)/Q(qp)(i,j),
其中,Q(qp)是量化矩阵,Y′(i,j)由量化系数组成。最简单的量化形式是均匀量化,其中,用常数填充量化矩阵,例如:
Q(qp)(i,j)=qp量化系数构成了压缩数字数据,在经过编码和可能的进一步处理步骤后,它具有例如具有便于传输所述数据的形式。
当要在存储和/或传输后再现压缩数据时,首先要将它再次解压缩。
解压缩是逆向执行压缩期间执行的运算。因此,第一步是通过将量化系数乘以量化矩阵值,将所述量化系数Y′(i,j)反量化:
Y(i,j)=Y′(i,j)Q(qp)(i,j)
接着,第二步是通过反向离散余弦变换(IDCT)对经过反量化但仍是变换系数的Y(i,j)执行反变换:
X=ATYA,
其中,矩阵Y在DCT中表示变换系数,矩阵X表示重新得到的源值矩阵。
如果对所有计算采用无限精度,则X将精确地包含原像素值。但实际上,至少在量化和反变换后将系数转换为整数值。因此,无法完全重建原像素。压缩率越高,则与原像素的偏差就越大。
如果直接实现上述DCT和IDCT,则每次转换需要执行几次乘法、加法和/或减法。然而,这些运算一方面需要大量的处理器时间,另一方面,相对于某些体系结构中的电路区,乘法是代价很高的运算。为能够传送例如高质量的运动图像,需要处理转换过程,使得所需乘法步骤较少,而又不会降低通过解压缩重新得到的数据质量。
由于DCT在许多图像编码标准中还是核心运算,因此,它已得到广泛运用,并且文献中已描述了所述问题的各种解决方案。这些解决方案一般特征是“蝶形运算”和/或将算子矩阵的一些计算组合到DCT过程最后的量化步骤中。
例如,美国专利5523847描述了用于彩色图像压缩的一种数字图像处理器。为减少DCT中非普通乘法运算的次数,该文档中提出以某种降低非普通乘法次数的方式分解变换矩阵,非普通乘法是非2次幂的乘法或除法。普通乘法可通过比特移位实现,因此,称之为“普通”。更具体地说,变换矩阵通过分解成对角因子矩阵和比例因子矩阵(scaled factor),这样,对角因子矩阵可被吸收到以后的量化步骤中,比例因子矩阵可与具有最少非普通乘法次数的数据矢量相乘。另外,建议用有理数乘法来近似其余的非普通乘法运算,这是因为计算随后可只通过加法、减法和移位操作来实现。然而,这导致在DCT过程中出现这样一个问题,即,由于采用了近似法,精确的反变换可能就不存在了。因此,重复DCT-IDCT过程可能导致图像质量严重降低。例如,当图像在采用了DCT压缩的通信链路上多次传输时,就可能出现这种情况。
Gisle Bjontegaard的“H.26L测试模型长期编号7(TML-7)草案0”(“H.26L Test Model Long Term Number 7(TML-7)draft0”,ITU Video Coding Experts Group,13th Meeting,Austin,Texas,USA 2-4April,2001)文档中介绍了另一种方法。此文档描述了一种DCT解决方案,该解决方案构成用于ITU-T建议H.26L的压缩方法的当前测试模型。
根据该文档,可使用与4×4 DCT具有基本相同编码属性的整数变换,而不使用DCT。在整数变换中,通过四个对带预定加权系数的像素求和的线性等式分别从四个源数据像素得到四个变换系数。变换之后或之前是量化/反量化过程,该过程执行正常的量化/反量化。此外,需要进行归一化,这是因为传输具有归一化分布的数据比传输随机数据更有效。由于变换不包含归一化,因此,量化/反量化还执行归一化,它是在反变换后最终通过移位完成的。量化/反量化使用32个不同质量的参数(QP)值,这些值排列方式为:一个QP到下一QP之间的步长大约增加12%。这种方法的缺点是需要32位算术和大量运算次数。
另一文档源于引用的TML-7文档:“用于H.26L、处理DCT变换和量化的16位体系结构”(“A16-bit architecture for H.26L,treatingDCT transforms and quantization”,Document VCEG_M16,VideoCoding Experts Group(VCEG)13th meeting,Austin,USA,2-4 April,2001,by Jie Liang,Trac Tran,and Pankaj Topiwala)。此VCEG-M16文档主要是研究4×4变换,提出了用于H.26L标准的4点快速近似法,并命名为binDCT。此binDCT可只用加法和右移运算实现。所提出的解决方案可实现为完全可递的,以便实现无损编码。
所提出的binDCT是基于周知的以Chen-Wang平面旋转为基础的DCT矩阵分解。对于binDCT的16位实现,移位方案用于得到DCT的快速近似。每个采用的提升(lifting)步骤是双正交变换,并且其逆也具有简单的提升结构。这意味着要执行逆提升步骤,要减去正向变换时增加的内容。这样,即使在提升步骤中浮点乘法结果舍入为整数,但只要对正向变换和反变换均应用相同的过程,则仍可以完美地重建原信号。
为了得到快速实现,进一步用k/2m格式的有理数近似浮点提升系数(其中k和m是整数),这可以只通过移位运算和加法运算来实现。为进一步降低基于提升(lifting-based)的快速DCT的复杂性,应用比例提升结构来表示平面旋转。可在量化阶段吸收比例因子。
VCEG-M16文档所提出的解决方案只需要假定源值是9位值的16位运算,并且比TML-7文档的解决方案需要较少的运算。更具体地说,对于四个数据值的一维DCT,它需要10次加法和5次移位。
以下给出了与图像数据压缩相关的其它文档的实例,但只简单论及其内容:
2001年2月13日授予的美国专利6189021建议在六阶段DCT快速算法的固有乘法阶段对两个一维DCT运算之一采用一组比例加权系数,从而可以省略所述一维DCT运算中另一运算的DCT快速算法的相应阶段。
1992年7月7日授予的美国专利5129015利用了类似于DCT、但采用了较简单的算术而无需乘法运算来压缩静止图像的方法。
1996年11月5日授予的美国专利5572236涉及用于彩色图像压缩的数字图像处理器,它通过重新安排DCT过程,使非普通乘法合并成一个过程步骤,从而使DCT过程中的非普通乘法次数降到最少。
2001年5月3日公开的PCT申请WO 01/31906涉及称为局部零树编码的基于变换的图像压缩框架。
发明概述
本发明目的是减少常规DCT和IDCT所需的运算,同时消除执行非普通乘法的必要性。本发明的另一目的是提供已知方法的替代方法,这种方法比常规DCT或IDCT需要较少的运算。本发明还有一个目的是保证解压缩后数字数据具有高质量。
就数字数据压缩而言,本发明的目的通过一种方法来实现,该方法包括在第一步骤中简化预定的变换矩阵,以便在应用到数字数据上时所需运算较少。在第二步骤中,用有理数来近似构成无理数的简化变换矩阵的元素。在第三步骤中,扩展的预定量化以补偿用有理数来近似简化变换矩阵的元素。例如,扩展的预定量化可包括在预定变换矩阵简化中除去的运算,然后对所包括的运算加以调整,以对用有理数来近似简化变换矩阵的元素进行补偿。随后可将采用近似元素和扩展量化的简化变换矩阵作为实现将要施加到待压缩数字数据上的变换和量化序列。
就压缩数字数据的解压缩而言,本发明的目的可通过一种方法来实现,在该方法中,根据用于压缩的建议方法中的预定变换矩阵处理预定的反变换矩阵。另外,根据用于压缩的建议方法中的预定量化扩展来扩展预定的反量化。然后可以将所得的扩展反量化和所得的含近似元素的简化反变换矩阵用作将要应用到压缩数字数据上以实现解压缩的反量化和反变换序列的基础。
最后,本发明的目的通过编码器和解码器来实现,所述编码器包括近似DCT的相应变换器和相应的量化装置;所述解码器包括相应的反量化装置和近似IDCT的相应的变换器。
本发明基于如下思想:如果一方面将各种运算从变换矩阵中提取出来并融入量化过程中,另一方面用所述有理数近似不构成有理数的剩余项,则可大大减少DCT所需的运算次数。但是,为确保能够正确执行解压缩,还建议在移到量化过程中的运算中对近似进行补偿。
本发明的优点在于,和例如TML-7和VCEG-M16相比,由于它能够降低所需运算次数并因此节省处理器时间,从而实现了快速变换计算。本发明仍然取得了很接近VCEG-M16文档中解决方案的质量。而且因为本发明通过对所执行的近似运算加以补偿,从而将变换运算的反属性纳入了考虑,因此可避免处理数据的质量下降,特别是在低比特率的情况下。因此,比之于例如美国专利5523847,本发明的另一优点是取得了更佳的反变换精度。
从所附属权利要求书中可明白本发明的优选实施例。
简化预定变换矩阵以便在应用到数字数据上时所需运算较少的建议步骤最好包括将预定的变换矩阵分解成两个因子矩阵,一个是构成对角矩阵的因子,另一个是构成简化变换矩阵的因子矩阵。对角矩阵然后包括从简化变换矩阵中除去的运算。
有利地是,近似简化变换矩阵剩余项的有理数由分母为2n的分数给出,其中n是整数。此类有理数尤其适用于二进制算术,这是因为除以或乘以2n的乘法或除法可通过比特移位运算实现。因此,采用所提出的近似法,可避免DCT中的所有乘法。
于是,对于给定的变换矩阵如4×4DCT矩阵,以及为近似简化矩阵中剩余项的选定的有理数,可为每个为对一维或二维数字数据值进行变换而必须执行的一维变换确定一组只包括加法、减法和比特移位的等式。
对量化步骤中近似的调整最好确保所加变换具有反变换。这可通过确保ATA=I来实现,其中,在这种情况下,矩阵A是这样一个矩阵,从其中提取的所有运算在对剩余项作近似及对提取的运算中的近似作补偿后将被重新包括在简化变换矩阵中。这确保可以很好的质量完成对IDCT的近似。
对于给定的变换矩阵,例如4×4DCT矩阵,以及为近似简化矩阵中的剩余项而选定的有理数,则也可以以普通的方式来计算对提取的运算中特定值必须作的调整。
然而,在诸如8×8变换的更大变换中,可能还必需调整对简化矩阵的近似,这是因为在优化实现中近似DCT变换系数可导致不完整的正反向变换对,从而导致像素值“溢出”到非邻近像素,即2个像素外的像素。这会使图像模糊。通过正确选择近似值,从单位矩阵正反向变换得到的矩阵的非对角元素会变零。在非常大的矩阵中,可能无法充分调整近似值。在此类情况下,可调整近似值以产生最小平方意义上的最优结果。此外,需要采用优化来将解限制到Dirichlet集上,即某些有理数。
对于所提出的量化步骤,最好是通过将预定的量化系数序列乘以为简化变换矩阵而从变换矩阵提取的矩阵来确定量化矩阵。所提取的矩阵包括从预定变换矩阵中提取的运算,并可加以调整,以对用有理数来近似简化变换矩阵中的剩余项进行补偿。
所提出的方法可以同样用于一维和二维变换。对于要应用到二维数字数据上的二维变换,对预定的变换矩阵和简化变换矩阵转置执行简化和近似。随后,这两个矩阵用作实现变换的基础。在这种情况下扩展的量化包括从两个所述矩阵中除去的运算,这些运算可加以调整以补偿在两个所述矩阵中的近似值。
所给出的优选实施例不仅可用于根据本发明的用于实现变换和量化的方法,而且可以相应的方式用于实现反变换和反量化的方法,用于根据本发明的编码器和解码器。
实际上,如果变换的算子矩阵是单位矩阵,象DCT变换矩阵,则为变换计算的变换矩阵通常可以以转置形式用于反变换,而无需执行任何单独的计算。这种情况下,扩展量化中包括的运算同样可同时用于扩展预定反量化。
本发明可用于任何用途的任何种类的数字数据压缩,例如,可用于诸如GSM(全球移动通信系统)或UMTS(通用移动电信系统)的移动通信系统中。
例如,本发明可实现为MPEG编解码器的一部分。
通过与附图相结合的如下详细说明,可明白本发明的其它目的和特性。但要理解,附图只用于说明而不是限制本发明,至于本发明的限制条件,则应参考所附权利要求书。
附图简述
下面,本发明将参照附图作更详细的说明,附图中:
图1显示了应用到4×4值矩阵上的DCT;以及
图2以图示方式显示了根据本发明实施例的,用于压缩和解压缩数字数据的编码器和解码器的方框图。
本发明详细说明
图1在上面已经做了描述。
图2的方框图包括可实施本发明的示例系统的部件。在图2的左侧显示了编码器4。编码器4是能够提供和发送视频数据的第一单元的一部分,例如,移动通信系统中用户设备的一部分。编码器4包括连接在其输入和输出之间的DCT变换器41、量化装置42和加法装置43。在图2的右侧显示了解码器5。解码器5是能够接收和显示视频数据的第二单元的一部分,例如,同样是移动通信系统中用户设备的一部分。解码器5包括连接在其输入和输出之间的装置53、反量化装置52和IDCT变换器51。
如果要从第一单元将视频数据发送到第二单元,例如,经通信网络,则将视频数据作为数字数据提供给第一单元的编码器4。在编码器4中,数字数据首先由DCT变换器41进行变换,然后由量化装置42进行量化。量化后,数据还要由附加处理装置43做进一步处理。此处理包括可能在进一步压缩之前将量化数据进行编码以便传输,但这与本发明无关,因此在本文档中并涉及。
处理过的数据随后从包括编码器4的第一单元发送到包括解码器5的第二单元。第二单元接收数据,并将其转发给解码器5。在解码器5中,第一步是在装置53中执行某种处理,该处理是编码器4的方框43中处理的逆处理。因此,该处理(本文档中未涉及)可包括解码,随后可能是解压缩的第一步。处理过的数据随后由反量化装置52进行反量化,并且还要通过IDCT变换器51进行IDCT。由IDCT51提供的重新获得的视频信号由解码器5输出,以便由第二单元显示给用户。
现在将推导出图2所示编码器4的DCT变换器41和量化装置42的根据本发明的实施例。对于源于本发明背景中所述的DCT和量化的本实施例,假定将要对输入数字数据进行压缩以获得包括4×4个数值的数字数据块。可同样说明由图2所示解码器5的反量化装置52和IDCT变换器51执行相应解压缩的根据本发明的实施例。
要注意的是,在给出的等式中,同一分母可用于不同矩阵的不同等式中。对于每个等式,至少在应用于另一种矩阵之前采用了对应的分母,将标出各矩阵的种类。
根据用于DCT的上述等式:Y=AXAT,4×4正向DCT变换可计算如下:
Y = AXA T = a a a a b c - c - b a - a - a a c - b b - c · x 11 x 12 x 13 x 14 x 21 x 22 x 23 x 24 x 31 x 32 x 33 x 34 x 41 x 42 x 43 x 44 · a b a b a c - a - b a - c - a b a - b a - c ,
其中,Y是期望的变换矩阵,X是包含4×4源值Xij(i,j=1-4)的矩阵,以及A是4×4DCT变换矩阵。矩阵A的值a、b和c可从上述A(i,x)的定义轻松获得:
a=1/2
b = 1 / 2 . cos ( π / 8 )
c = 1 / 2 . cos ( 3 π / 8 )
在用于正向DCT的等式中,矩阵A可加以分解,得到对角矩阵B和简化变换矩阵C。可以对A的转置形式AT执行相应的分解。如果d还可表示为d=c/b,则正向DCT可写为:
Y = BCXC T B =
a 0 0 0 0 b 0 0 0 0 a 0 0 0 0 b · 1 1 1 1 1 d - d - 1 1 - 1 - 1 1 d - 1 1 - d · x 11 x 12 x 13 x 14 x 21 x 22 x 23 x 24 x 31 x 32 x 33 x 34 x 41 x 42 x 43 x 44 · 1 1 1 d 1 d - 1 - 1 1 - d - 1 1 1 - 1 1 - d · a 0 0 0 0 b 0 0 0 0 a 0 0 0 0 b
由于B是对角矩阵,因此,上述等式可写为
Y = D ⊗ ( CXC T ) ⊗ D T =
a a a a b b b b a a a a b b b b ⊗ 1 1 1 1 1 d - d - 1 1 - 1 - 1 1 d - 1 1 - d · x 11 x 12 x 13 x 14 x 21 x 22 x 23 x 24 x 31 x 32 x 33 x 34 x 41 x 42 x 43 x 44 · 1 1 1 d 1 d - 1 - 1 1 - d - 1 1 1 - 1 1 - d · a b a b a b a b a b a b a b a b
其中,表示相应的两个矩阵按项(entry-wize)相乘,而不是整个矩阵相乘。
在将组合D及其转置形式DT合并成E后,最终的DCT为:
Y = ( CXC T ) ⊗ E =
1 1 1 1 1 d - d - 1 1 - 1 - 1 1 d - 1 1 - d · x 11 x 12 x 13 x 14 x 21 x 22 x 23 x 24 x 31 x 32 x 33 x 34 x 41 x 42 x 43 x 44 · 1 1 1 d 1 d - 1 - 1 1 - d - 1 1 1 - 1 1 - d · a 2 ab a 2 ab ab b 2 ab b 2 a 2 ab a 2 ab ab b 2 ab b 2 =
Y C ⊗ E
下一步,将系数d转换成可由分母为2n的有理分数表示的定点格式。考虑八个小数位时的d值为0.41421356。d的两个可能定点近似值为3/8=0.375和7/16=0.4375,这两个值均可通过相同次数的加法和移位运算来实现。诸如13/32、27/64和53/128等更精确的近似值需要更多的加法和移位,但实际上并不能显著改善取得的压缩效果。。因此,将比3/8更接近d的7/16选为d的定点格式。
在将系数d转换到定点表示法后,b必须调整为使变换具有反变换。反变换存在的条件由以下等式给出:
ATA=I
在d来近似后对已从因子B和C重组的矩阵A求上述等式的解时,调整后的b的条件为:
b = 0.5 1 + d 2 .
矩阵E因此可通过用此新值替代系数b的旧值而进行调整。
现在,可在提取了矩阵E的编码器4的DCT变换器41中实现简化的DCT。也就是说,实现是基于等式YC=CXCT,其中,矩阵C包括近似的系数d,从而产生修改后的DCT系数YC。矩阵E将与随后的量化步骤相结合,以下将对此加以解释。
简化DCT的实际实现可取决于特定的变换器体系结构,其中,总运算量少或根本无乘法可能是最重要的。
现在将提出可在简化DCT变换器的实现中采用的三组不同的等式。等式适合执行基于上述简化DCT变换矩阵C的4点一维简化DCT。在矩阵C中,将系数d选择为d=7/16。在每组等式中,X[i],i=0-3构成了要进行变换的四个值的序列,并且Y[i],i=0-3构成了四个变换值的序列,其中,e和f是辅助变量。
所提出的第一组等式为:
e=X[0]+X[3]
f=X[1]+X[2]
Y[0]=e+f
Y[2]=e-f
e=X[0]-X[3]
f=X[1]-X[2]
Y[1]=e+7×f/16
Y[3]=7×e/16-f
这组等式中的两次除法实际上是比特移位操作。这组等式因此需要执行8次加法、2次乘法和2次移位,总共12次运算。
所提出的第二组等式为:
e=X[0]+X[3]
f=X[1]+X[2]
Y[0]=e+f
Y[2]=e-f
e=X[0]-X[3]
f=X[1]-X[2]
Y[1]=e+(f-f/8)/2
Y[3]=(e-e/8)/2-f
第二组等式只使用加法和移位,并产生与第一组等式相同的结果。同样,除法实际上是比特移位操作。这组等式需要执行10次加法和4次移位,总共14次运算。运算的次数大于第一组等式,但如果乘法是代价很高的运算,则相应的复杂性仍然更低。另外,乘法的结果要求更大的动态范围。
所提出的第三组等式为:
e=X[0]+X[3]
f=X[1]+X[2]
Y[0]=e+f
Y[2]=e-f
e=X[0]-X[3]
f=X[1]-X[2]
Y[1]=16×e+7×f
Y[3]=7×e-16×f
第三组等式可使用加法和乘法,或者加法和移位。它需要执行8次加法和4次乘法,或者10次加法和4次移位,总共分别为12次或14次运算。这组等式与第一组和第二组等式产生的结果不同。Y[1]和Y[3]的结果比其它两组等式的结果大16倍,因此,结果的动态范围需要也大得多。然而,在本发明的一些实施例中,由于特定实施例中移位的复杂性或者由于结果的精确度会稍微降低,因此,不将结果向低位移可能会有利。由于采用第三组等式时,一些结果会大16倍,因此,矩阵E中的值“ab”和“b2”分别除以16和162。
所给定的任何一组等式可通过应用到要变换的各组值而用来对二维数据进行变换。
简化的变换之后是自适应量化步骤。量化的实现取决于所用的DCT。在上述TML-7文档中,使用了均匀量化。在快速DCT中,由于一些DCT乘法与量化乘法相结合,因此,必须使用非均匀量化。文档VCEG-M16的上述binDCT还将除法用于量化,且只需要16位运算。但是,除法通常是较慢的运算。因此,在所给出的实施例中,量化装置42中实现了仅使用乘法的均匀量化。
如上所述,可使用除法执行量化,这样
Y′(i,j)=Y(i,j)/Q(qp)(i,j)。
由于除法是高成本运算,可使用乘法代替。为此,量化矩阵R计算为
R(qp)(i,j)=1.0/Q(qp)(i,j),
在此之后,可使用乘法执行量化:
Y′(i,j)=Y(i,j)R(qp)(i,j)。
在文档TML-7所提出的量化中,量化系数大致如下所示。也可使用其它系数。
a(qp)=
2.5000,2.8061,3.1498,3.5354,3.9684,4.4543,4.9998,
5.1620,6.2992,7.0706,7.9364,8.9082,9.9990,11.2234,
12.5978,14.1404,15.8720,17.8155,19.9971,22.4458,
25.1944,28.2795,31.7424,35.6293,39.9922,44.8894,
50.3863,56.5562,63.4817,71.2552,79.9806,89.7745。
为了能够吸收在量化中从DCT提取的矩阵E,用于量化参数qp的量化矩阵R计算为:
R(qp)(i,j)=E(i,j)/a(qp)
最终的量化系数Y′(i,j)现在可根据在简化DCT中通过以下等式得到的变换系数YC(i,j)来确定:
Y′(i,j)=YC(i,j).R(qp)(i,j)±f,
其中,根据TML-7文档,f是帧内块的1/3和帧间块的1/6,并且具有相同的标记YC(i,j)。帧内块是仅依据当前图像内的值编码的宏块,而帧间块是还依据其它图像内的值编码的宏块。每个宏块由几个子块组成,例如,所给出的示例4×4数值块,这些数值块单独进行DCT变换和量化。
但是,首先量化要更改为只使用定点值。为此,R和f的值在量化前要与2n相乘并将结果舍入为整数值,从而转换为定点值。n是用于定点值的小数位数。通过选择n=17,R的系数可用16位表示,因此量化中只需要16位乘法。更具体地说,需要产生32位结果的16位乘法。
随后,可根据以下等式在编码器4的量化装置42中实现定点量化:
Y′(i,j)=(YC(i,j).R(qp)(i,j)±f)/2n
其中,R和f只包括定点值。Y′(i,j)的值由量化装置42输出为所需的压缩数字图像数据。
对于图2所示解码器5中的压缩数字图像数据的解压缩,以对应于编码器4的量化装置42和DCT变换器41的方式实现反量化装置52和IDCT变换器53。基本IDCT从基本DCT计算为:
X=ATYA,
其中,矩阵X包含所需的重新获得的源值,矩阵A是原DCT变换矩阵,并且矩阵Y包含如本发明背景中所述通过解压缩获得的反量化值。
根据此等式,反变换可对应于正向变换利用提取的矩阵E用公式表示为:
X=CT(YE)C
其中,矩阵C和CT与用于编码器4的方框41中的简化的DCT矩阵C和CT相对应。
此等式的矩阵E可在IDCT前的反量化步骤中吸收。
这可以类似于在量化中吸收矩阵E那样实现。反量化系数是量化系数的相反值。
包括矩阵E的量化参数qp反量化矩阵Q可计算为:
Q(qp)(i,j)=E(i,j).a(qp)
压缩系数Y′(i,j)因此可根据以下等式反量化为反量化系数X′(i,j):
X′(i,j)=Y′(i,j).Q(qp)(i,j)
在此等式中,X′(i,j)对应于以上反变换等式X=CT(YE)C中的项YE。
在使用定点数时,Q的值在反量化前通过与2n相乘并将结果舍入为整数值而转换为定点值。通过为反量化选择n=5,反量化中的所有计算可只使用16位运算完成。随后,根据以下等式在解码器5反量化装置52中实现定点反量化:
X′(i,j)=Y(i,j).Q(qp)(i,j),
其中,Q仅包含定点数。在反量化后,X′(i,j)的值应通过2n进行归一化,但归一化会延迟到最终IDCT完成后进行,以便取得更好的精度。
随后可根据以下等式,在解码器5的IDCT变换器51中实现简化的反变换:
X=CTX′C
之后,X的定点值根据以下等式转换为整数值:
X(i,j)=(X(i,j)+2n-1)/2n
其中,通过简单的算法比特移位来实现除以2n
IDCT变换器51的实际实现可包括一组等式,这组等式只包括加法、减法和移位,对应于针对DCT变换器41给出的那些等式。
根据本发明的另一实施例,8×8DCT和IDCT可如下所示实现。根据DCT等式,Y=AXAT,8×8正向DCT变换可计算如下:
Y = AXA T = a a a a a a a a b c d e - e - d - c - b f g - g - f - f - g g f c - e - b - d d b e - c a - a - a a a - a - a a d - b e c - c - e b - d g - f f - g - g f - f g e - d c - b b - c d - e · X · A T ,
其中,Y是期望的变换矩阵;X是如上述4×4实施例中那样包含8×8源值Xij(i,j=1-8)的矩阵;A是8×8DCT变换矩阵,在等式的右侧处于写入打开状态;以及AT是A的转置。矩阵A中的值a、b、c、d、e、f和g可根据A(i,x)的上述定义轻松获得:
a = 1 / ( 2 2 )
b=1/2.cos(π/16)
c=1/2.cos(3π/16)
d=1/2.cos(5π/16)
e=1/2.cos(7π/16)
f=1/2.cos(π/8)
g=1/2.cos(3π/8)
在正向DCT的等式中,矩阵A可进行分解,得到对角矩阵B和简化变换矩阵C。可以对A的转置形式AT执行对应的分解。如果我们使用符号xy=x/y,正向DCT可写为:
Y = BCXC T B =
a 0 0 0 0 0 0 0 0 b 0 0 0 0 0 0 0 0 f 0 0 0 0 0 0 0 0 b 0 0 0 0 0 0 0 0 a 0 0 0 0 0 0 0 0 b 0 0 0 0 0 0 0 0 f 0 0 0 0 0 0 0 0 b 1 1 1 1 1 1 1 1 1 c b d b e b - e b - d b - c b - 1 1 g f - g f - 1 - 1 - g f g f 1 c b - e b - 1 - d b d b 1 e b - c b 1 - 1 - 1 1 1 - 1 - 1 1 d b - 1 e b c b - c b - e b 1 - d b g f - 1 1 - g f - g f 1 - 1 g f e b - d b c b - 1 1 - c b d b - e b · X · C T · B
由于B是对角矩阵,因此,在4×4的情况下,上述等式可写为
Y = D ⊗ ( CXC T ) ⊗ D T =
a a a a a a a a b b b b b b b b f f f f f f f f b b b b b b b b a a a a a a a a b b b b b b b b f f f f f f f f b b b b b b b b ⊗ ( CXC T ) ⊗ a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b a b f b
其中,用于表示两个相应的矩阵按项相乘,而不是整个矩阵相乘。
在将D及其转置形式DT合并成E后,最终的DCT为:
Y = ( CXC T ) ⊗ E =
( 1 1 1 1 1 1 1 1 1 c b d b e b - e b - d b - c b - 1 1 g f - g f - 1 - 1 - g f g f 1 c b - e b - 1 - d b d b 1 e b - c b 1 - 1 - 1 1 1 - 1 - 1 1 d b - 1 e b c b - c b - e b 1 - d b g f - 1 1 - g f - g f 1 - 1 g f e b - d b c b - 1 1 - c b d b - e b · X · C T ) ⊗ a 2 ab af ab a 2 ab af ab ab b 2 bf b 2 ab b 2 af b 2 af bf f 2 bf af bf f 2 bf ab b 2 bf b 2 ab b 2 bf b 2 a 2 ab af ab a 2 ab af ab ab b 2 bf b 2 ab b 2 bf b 2 af bf f 2 bf af bf f 2 bf ab b 2 bf b 2 ab b 2 bf b 2 =
Y C ⊗ E
下一步,系数cb、db、eb和gf会转换成可由分母为2n的有理分数表示的定点格式。接近的近似值为cb=7/8、db=9/16、eb=3/16和gf=7/16。
在将系数cb、db、eb和gf转换成定点表示后,要调整b和f,使变换具有反变换。反变换存在的条件再次由以下等式给出:
ATA=I。
在cb、db、eb和gf来近似后为已从因子B和C重组的矩阵A求上述等式的解时,调整后的b和f的条件为:
b = 1 2 1 1 + c b 2 + d b 2 + e b 2 ,
f = 1 2 1 1 + g f 2
矩阵E因此可通过用这些新值代替系数b和f的旧值而加以调整。
但是,要满足条件ATA=I,cb、db和eb必须选择不同的值,否则,乘积ATA以非零非对角元素为特征。8×8情况下的必要条件为:
db-cb+eb(db+cb)=0,
此式可以通过选择cb=15/16、db=9/16和eb=1/4来满足。
现在,简化DCT同样可以在提取了矩阵E的编码器4的DCT变换器41中实现。也就是说,实现基于等式YC=CXCT,其中,矩阵C包括近似的系数cb、db、eb和gf,从而得到修改后的DCT系数矩阵YC。矩阵E将与后续量化步骤相结合,这类似于上述4×4DCT的情况。
根据本发明的第三实施例,可通过优选变换中的分数,为条件ATA=I调整近似值。要这样选择分数,使矩阵ATA的非对角元素在实现意义上尽可能接近于零。优化解限于Dirichlet集合,即某些有理数。
根据本发明的第四实施例,通过优选变换中的分数,为条件ATA=I调整快速DCT算法的近似值。
至此,通过对本发明实施例的说明,阐明了用于压缩数字数据的有效的替代实现方案。所述实现方案可以以比已知实现方案更精确或更快或者二者兼备的方式来实现。
因此,虽然已说明并指出了应用到优选实施例上的本发明的根本创新特征,但应理解,本领域的技术人员可在不脱离本发明的精神的情况下对所述设备和方法的形式和细节作各种省略、替代和更改。例如,已明确表示,以实质相同的方式执行实质上相同的功能以实现相同的结果的元素和/或方法步骤的所有组合均在本发明范围之内。而且,应认识到,本发明的任何公开形式或实施例显示和/或描述的结构和/或元素和/或方法步骤可以作为通用的设计选择包括在任何其它公开的或描述的或建议的形式或实施例中。因此,本发明范围仅受所附权利要求书限定。

Claims (32)

1.一种实现离散余弦变换(DCT)和量化的方法,所述变换和所述量化相继应用到数字数据以压缩所述数字数据,所述方法包括:
-简化预定的变换矩阵以便在应用到数字数据上时所需运算较少;
-用有理数来近似构成无理数的所述简化变换矩阵的元素;
-扩展预定的量化以补偿所述用有理数来近似所述简化变换矩阵的元素。
2.如权利要求1所述的方法,其特征在于,简化所述预定变换矩阵以便在应用到数字数据上时所需运算较少的所述步骤包括将所述预定变换矩阵分解成对角矩阵,以用于扩展所述预定量化和简化变换矩阵。
3.如权利要求1或2所述的方法,其特征在于,所述有理数可表示为分母等于2n的分数,其中,n是整数。
4.如权利要求3所述的方法,其特征在于,在所述变换实现中,通过比特移位来实现除法。
5.如上述权利要求之一所述的方法,其特征在于,以确保所得变换具有反变换的方式对近似进行调整,即包括所述近似值的所述预定变换矩阵的转置与包括所述近似值的所述预定变换矩阵相乘等于单位矩阵。
6.如上述权利要求之一所述的方法,其特征在于,所述预定变换矩阵是以下形式的4×4矩阵:
a a a a b c - c - b a - a - a a c - b b - c ,
其中,a=1/2, b = 1 / 2 . cos ( π / 8 ) , c = 1 / 2 . cos ( 3 π / 8 ) , 其中“c”在所述矩阵中根据等式d=c/b来替换,并且所述预定变换矩阵通过将所述预定变换矩阵分解为对角矩阵而得以简化,所述对角矩阵包括对角元素值[a,b,a,b]和仅包括具有绝对值“1”和“d”的元素的简化变换矩阵,所述对角矩阵将用于扩展所述预定量化。
7.如权利要求6所述的方法,其特征在于,在所述简化变换矩阵中,所述值“d”用有理数7/16来近似。
8.如权利要求6所述的方法,其特征在于,在所述简化变换矩阵中,所述值“d”用有理数来近似,并且在所述对角矩阵中,所述值“b”调整为 b = 0.5 1 + d 2 , 所述等式中的“d”是所述有理数。
9.如权利要求6所述的方法,其特征在于,在所述简化变换矩阵中,所述值“d”用有理数7/16来近似,并且所述变换是以如下等式分别对四个值X[0]、X[1]、X[2]、X[3]的一维序列作变换而实现的:
e=X[0]+X[3],
f=X[1]+X[2],
Y[0]=e+f,
Y[2]=e-f,
e=X[0]-X[3],
f=X[1]-X[2],
Y[1]=e+(f-f/8)/2,以及
Y[3]=(e-e/8)/2-f,
其中,Y[0]、Y[1]、Y[2]、Y[3]是四个变换值的一维序列,并且e和f是辅助变量。
10.如权利要求1到5之一所述的方法,其特征在于,所述预定变换矩阵是具有以下形式的8×8矩阵:
a a a a a a a a b c d e - e - d - c - b f g - g - f - f - g g f c - e - b - d d b e - c a - a - a a a - a - a a d - b e c - c - e b - d g - f f - g - g f - f g e - d c - b b - c d - e
其中, a = 1 / ( 2 2 ) , b=1/2.cos(π/16),c=1/2.cos(3π/16),d=1/2.cos(5π/16),e=1/2.cos(7π/16),f=1/2.cos(π/8),g=1/2.cos(3π/8),其中“c”在所述矩阵中根据等式cb=c/b来替换,“d”在所述矩阵中根据等式db=d/b来替换,“e”在所述矩阵中根据等式eb=e/b来替换,“g”在所述矩阵中根据等式gf=g/f来替换,并且所述预定变换矩阵通过分解为对角矩阵和简化变换矩阵而进行简化,所述对角矩阵包括对角值(a,b,f,b,a,b,f,b},而所述简化变换矩阵仅包括具有绝对值“1”、“cb”、“db”、“eb”和“gf”的元素,所述对角矩阵要用于扩展所述预定量化。
11.如权利要求10所述的方法,其特征在于,在所述简化变换矩阵中,所述值“cb”用有理数15/16来近似,所述值“db”用有理数9/16来近似,所述值“eb”用有理数1/4来近似,并且所述值“gf”用有理数7/16来近似。
12.如权利要求10所述的方法,其特征在于,在所述简化变换矩阵中,所述值“cb”、“db”、“eb”和“gf”用有理数来近似,并且在所述对角矩阵中,所述值“b”和“f”调整为
b = 1 2 1 1 + c b 2 + d b 2 + d b 2 f = 1 2 1 1 + g f 2 , 值“cb”、“db”、“eb”和“gf”在所述等式中是所述有理数。
13.如上述权利要求之一所述的方法,其特征在于,对于要应用到二维数字数据上的二维变换,将具有所述近似元素的所述简化预定变换矩阵和具有所述近似元素的所述简化变换矩阵的转置作为实现所述变换的基础,所述扩展量化包括从两个所述矩阵中除去的运算,所述运算调整为对所述两个矩阵中的所述近似值进行补偿。
14.如上述权利要求之一所述的方法,其特征在于,为进行量化,通过将量化系数的预定序列与为简化所述预定变换矩阵而从所述预定变换矩阵中提取的矩阵相乘,确定量化矩阵,所述提取的矩阵包括从所述预定变换矩阵除去的所述运算,并且调整所述提取的矩阵,以对所述用有理数来近似所述简化变换矩阵的元素进行补偿。
15.一种实现反量化和反离散余弦变换(IDCT)近似法的方法,其特征在于,为了对数字数据进行解压缩,所述量化要接着所述反变换顺序应用到压缩数字数据上,所述方法包括:
-简化预定的反变换矩阵以便在应用到数字数据上时所需运算较少;
-用有理数来近似构成无理数的所述简化反变换矩阵的元素;
-扩展预定的反量化以对所述用有理数来近似所述简化反变换矩阵的元素进行补偿。
16.如权利要求15所述的方法,其特征在于,为了进行反量化,通过将反量化系数的预定序列与为简化所述预定反变换矩阵而从所述预定反变换矩阵提取的矩阵相乘,确定量化矩阵,所述提取的矩阵包括从所述预定反变换矩阵除去的所述运算,并且调整所述提取的矩阵,以对所述用有理数来近似所述简化反变换矩阵的元素进行补偿。
17.如权利要求15或16所述的方法,其特征在于,简化所述预定反变换矩阵以便在应用到数字数据上时所需运算较少的所述步骤包括将所述预定反变换矩阵分解成要用于扩展所述预定反量化的对角矩阵以及简化反变换矩阵。
18.如权利要求15到17之一所述的方法,其特征在于,所述有理数可表示为分母等于2n的分数,其中n是整数。
19.如权利要求18所述的方法,其特征在于,在所述变换实现中,通过比特移位来实现除法。
20.如权利要求15到19之一所述的方法,其特征在于,以确保所得反变换与变换对应的方式调整所述近似,即包括所述近似值的所述预定反变换矩阵与包括所述近似值的所述预定反变换矩阵的转置相乘等于单位矩阵。
21.如权利要求15到20之一所述的方法,其特征在于,所述预定反变换矩阵是以下形式的4×4矩阵:
a b a c a c - a - b a - c - a b a - b a - c ,
其中,a=1/2, b = 1 / 2 . cos ( π / 8 ) , c = 1 / 2 . cos ( 3 π / 8 ) , “c”在所述矩阵中根据等式d=c/b来替换,并且所述预定反变换矩阵通过将所述预定反变换矩阵分解为对角矩阵和简化反变换矩阵而得以简化,所述对角矩阵包含对角元素值[a,b,a,b],而所述简化反变换矩阵仅包括具有绝对值“1”和“d”的元素,所述对角矩阵要用于扩展所述预定去变量。
22.如权利要求21所述的方法,其特征在于,在所述简化反变换矩阵中,所述值“d”用有理数7/16来近似。
23.如权利要求21所述的方法,其特征在于,在所述简化反变换矩阵中,所述值“d”用有理数来近似,并且在所述对角矩阵中,所述值“b”调整为 b = 0.5 1 + d 2 , “d”在所述等式中是所述有理数。
24.如权利要求21所述的方法,其特征在于,在所述简化反变换矩阵中,所述值“d”用有理数7/16来近似,并且所述变换是以如下等式分别对四个值X[0]、X[1]、X[2]、X[3]的一维序列作变换而实现的:
e=X[0]+X[3],
f=X[1]+X[2],
Y[0]=e+f,
Y[2]=e-f,
e=X[0]-X[3],
f=X[1]-X[2],
Y[1]=e+(f-f/8)/2,以及
Y[3]=(e-e/8)/2-f,其中,Y[0]、Y[1]、Y[2]、Y[3]是四个变换值的一维序列,并且e和f是辅助变量。
25.如权利要求15到20之一所述的方法,其特征在于,所述预定变换矩阵是具有以下形式的8×8矩阵:
a a a a a a a a b c d e - e - d - c - b f g - g - f - f - g g f c - e - b - d d b e - c a - a - a a a - a - a a d - b e c - c - e b - d g - f f - g - g f - f g e - d c - b b - c d - e
其中, a = 1 / ( 2 2 ) , b=1/2.cos(π/16),c=1/2.cos(3π/16),d=1/2.cos(5
其中, a = 1 / ( 2 2 ) , b=1/2.cos(π/16),c=1/2.cos(3π/16),d=1/2.cos(5π/16),e=1/2.cos(7π/16),f=1/2.cos(π/8),g=1/2.cos(3π/8),其中“c”在所述矩阵中根据等式cb=c/b来替换,“d”在所述矩阵中根据等式db=d/b来替换,“e”在所述矩阵中根据等式eb=e/b来替换,“g”在所述矩阵中根据等式gf=g/f来替换,并且所述预定变换矩阵通过分解为对角矩阵和简化变换矩阵而进行简化,所述对角矩阵包括对角值{a,b,f,b,a,b,f,b},而所述简化变换矩阵仅包括具有绝对值“1”、“cb”、“db”、“eb”和“gf”的元素,所述对角矩阵要用于扩展所述预定量化。
26.如权利要求25所述的方法,其特征在于,在所述简化变换矩阵中,所述值“cb”用有理数15/16来近似,所述值“db”用有理数9/16来近似,所述值“eb”用有理数1/4来近似,并且所述值“gf”用有理数7/16来近似。
27.如权利要求25所述的方法,其特征在于,在所述简化变换矩阵中,所述值“cb”、“db”、“eb”和“gf”用有理数来近似,并且在所述对角矩阵中,所述值“b”和“f”调整为
b = 1 2 1 1 + c b 2 + d b 2 + e b 2 f = 1 2 1 1 + g f 2 , 值“cb”、“db”、“eb”和“gf”在所述等式中是所述有理数。
28.如上述权利要求15至27之一所述的方法,其特征在于,对于要应用到二维反量化数字数据上的二维变换,将具有所述近似元素的所述简化预定反变换矩阵和具有所述近似元素的所述简化反变换矩阵的转置用作实现所述反变换的基础,所述扩展反量化包括从所述矩阵中除去的运算,这些运算加以调整以补偿两个所述矩阵中的所述近似值。
29.一种用于压缩数字数据的编码器(4),它包括:
-变换器(41),它通过将简化变换矩阵应用到所述数字数据上来逼近对数字数据作变换的离散余弦变换(DCT),所述简化变换矩阵是通过简化预定的变换矩阵以在应用到数字数据上时所需运算较少而获得的,在所述简化变换矩阵中,用有理数来近似构成无理数的简化变换矩阵元素;以及
-量化装置(42),它连接到所述变换器(41)的输出,以便通过扩展量化来量化所述变换的数字数据,所述扩展量化补偿所述简化变换矩阵元素的所述近似值。
30.一种压缩数字数据的编码器(4),它包括实现根据权利要求1到14之一的方法步骤的装置。
31.一种用于通过离散余弦变换(DCT)或近似离散余弦变换(DCT)及后续量化压缩数字数据的解码器(5),所述解码器包括:
-通过扩展反量化将压缩的数字数据反量化的反量化装置(52);以及
-变换器(51),它通过应用简化反变换矩阵来逼近连接到所述反量化装置(52)输出的反离散余弦变换(IDCT),以便对反量化数字数据进行变换,所述简化反变换矩阵是通过简化预定反变换矩阵以便在应用到数字数据上时所需运算较少而获得的,其中,用有理数来近似构成无理数的所述简化变换矩阵元素;
-其中,由所述反量化装置(52)施加的所述扩展反量化补偿所述简化反变换矩阵元素的所述近似值。
32.一种用于将由离散余弦变换(DCT)或近似离散余弦变换(DCT)及后续量化压缩的数字数据解压缩的解码器(5),所述解码器(5)包括用于实现根据权利要求15到28之一的方法步骤的装置。
CNB028213351A 2001-08-30 2002-08-27 变换及后续量化的实现 Expired - Lifetime CN100392982C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/943,241 2001-08-30
US09/943,241 US7082450B2 (en) 2001-08-30 2001-08-30 Implementation of a transform and of a subsequent quantization

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN2008100921059A Division CN101261619B (zh) 2001-08-30 2002-08-27 变换及后续量化的实现

Publications (2)

Publication Number Publication Date
CN1575546A true CN1575546A (zh) 2005-02-02
CN100392982C CN100392982C (zh) 2008-06-04

Family

ID=25479298

Family Applications (2)

Application Number Title Priority Date Filing Date
CN2008100921059A Expired - Lifetime CN101261619B (zh) 2001-08-30 2002-08-27 变换及后续量化的实现
CNB028213351A Expired - Lifetime CN100392982C (zh) 2001-08-30 2002-08-27 变换及后续量化的实现

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN2008100921059A Expired - Lifetime CN101261619B (zh) 2001-08-30 2002-08-27 变换及后续量化的实现

Country Status (13)

Country Link
US (3) US7082450B2 (zh)
EP (2) EP1440515B1 (zh)
JP (2) JP4153425B2 (zh)
KR (1) KR100912415B1 (zh)
CN (2) CN101261619B (zh)
AT (1) ATE401703T1 (zh)
AU (1) AU2002328100A1 (zh)
DE (1) DE60227688C5 (zh)
HK (1) HK1122622A1 (zh)
HU (1) HU228603B1 (zh)
MX (1) MXPA04001724A (zh)
WO (1) WO2003019787A2 (zh)
ZA (1) ZA200401224B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101938654A (zh) * 2010-08-17 2011-01-05 浙江大学 一种变换系数的优化量化方法及装置
CN101968528A (zh) * 2010-08-19 2011-02-09 詹文法 集成电路测试中的测试数据压缩方法
CN101855909B (zh) * 2007-11-12 2012-07-18 思科系统国际公司 视频编码和解码的方法
CN111556313A (zh) * 2020-04-26 2020-08-18 武汉理工大学 基于整数近似的低复杂度dtt与自适应量化的图像压缩方法

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2002220233A1 (en) * 2000-12-01 2002-06-11 Lizardtech, Inc. Method for lossless encoding of image data by approximating linear transforms and preserving selected properties
US7082450B2 (en) 2001-08-30 2006-07-25 Nokia Corporation Implementation of a transform and of a subsequent quantization
US7130876B2 (en) * 2001-11-30 2006-10-31 General Instrument Corporation Systems and methods for efficient quantization
US7760950B2 (en) * 2002-09-26 2010-07-20 Ntt Docomo, Inc. Low complexity and unified transforms for video coding
CN100411442C (zh) * 2003-03-24 2008-08-13 华为技术有限公司 一种视频图象编码方法
US7627187B2 (en) * 2003-09-24 2009-12-01 Ntt Docomo, Inc. Low complexity and unified transforms for video coding
US20070276894A1 (en) * 2003-09-29 2007-11-29 Agency For Science, Technology And Research Process And Device For Determining A Transforming Element For A Given Transformation Function, Method And Device For Transforming A Digital Signal From The Time Domain Into The Frequency Domain And Vice Versa And Computer Readable Medium
US7388999B2 (en) * 2003-10-29 2008-06-17 Hewlett-Packard Development Company, L.P. Transformations for denoising images
US8069201B2 (en) * 2003-11-25 2011-11-29 Texas Instruments Incorporated 8×8 transform and quantization
US7756351B2 (en) 2003-12-19 2010-07-13 Stmicroelectronics, Inc. Low power, high performance transform coprocessor for video compression
US8335811B2 (en) * 2004-03-04 2012-12-18 Broadcom Corporation Method and system for high fidelity IDCT and DCT algorithms
US8595281B2 (en) 2006-01-11 2013-11-26 Qualcomm Incorporated Transforms with common factors
JP4891389B2 (ja) * 2006-03-17 2012-03-07 エルジー エレクトロニクス インコーポレイティド データ変換方法及びこれを用いたデータ送受信方法
US8849884B2 (en) * 2006-03-29 2014-09-30 Qualcom Incorporate Transform design with scaled and non-scaled interfaces
US8571340B2 (en) * 2006-06-26 2013-10-29 Qualcomm Incorporated Efficient fixed-point approximations of forward and inverse discrete cosine transforms
US8606023B2 (en) * 2006-06-26 2013-12-10 Qualcomm Incorporated Reduction of errors during computation of inverse discrete cosine transform
RU2496139C2 (ru) * 2006-06-26 2013-10-20 Квэлкомм Инкорпорейтед Эффективные аппроксимации с фиксированной запятой прямого и обратного дискретных косинусных преобразований
US8849183B2 (en) 2007-10-05 2014-09-30 Qualcomm Incorporated Location and time based filtering of broadcast information
US7876257B2 (en) * 2008-04-28 2011-01-25 Mitsubishi Electric Research Laboratories, Inc. Method and apparatus for compressing SAR signals
US9280778B2 (en) 2008-12-15 2016-03-08 Qualcomm Incorporated Location logging and location and time based filtering
JP4594420B2 (ja) * 2008-12-25 2010-12-08 キヤノン株式会社 データ変換装置及びその制御方法
US9110849B2 (en) * 2009-04-15 2015-08-18 Qualcomm Incorporated Computing even-sized discrete cosine transforms
US8762441B2 (en) 2009-06-05 2014-06-24 Qualcomm Incorporated 4X4 transform for media coding
US9069713B2 (en) * 2009-06-05 2015-06-30 Qualcomm Incorporated 4X4 transform for media coding
US9075757B2 (en) 2009-06-24 2015-07-07 Qualcomm Incorporated 16-point transform for media data coding
US9118898B2 (en) 2009-06-24 2015-08-25 Qualcomm Incorporated 8-point transform for media data coding
US8451904B2 (en) 2009-06-24 2013-05-28 Qualcomm Incorporated 8-point transform for media data coding
US9081733B2 (en) * 2009-06-24 2015-07-14 Qualcomm Incorporated 16-point transform for media data coding
US9185422B2 (en) 2010-07-15 2015-11-10 Qualcomm Incorporated Variable localized bit-depth increase for fixed-point transforms in video coding
US8417045B2 (en) 2010-07-29 2013-04-09 Infoprint Solutions Company Llc Mechanism for processing order-16 discrete cosine transforms
EP2624556A4 (en) * 2010-09-28 2016-08-24 Samsung Electronics Co Ltd VIDEO ENCODING METHOD AND DEVICE AND DECODING METHOD AND DEVICE
US8620166B2 (en) * 2011-01-07 2013-12-31 Raytheon Bbn Technologies Corp. Holevo capacity achieving joint detection receiver
US9824066B2 (en) 2011-01-10 2017-11-21 Qualcomm Incorporated 32-point transform for media data coding
WO2012115486A2 (ko) * 2011-02-25 2012-08-30 삼성전자 주식회사 영상의 변환 방법 및 장치, 및 영상의 역변환 방법 및 장치
US20140010284A1 (en) * 2011-02-25 2014-01-09 Samsung Electronics Co., Ltd. Image transform and inverse transform method, and image encoding and decoding device using same
US9485108B2 (en) 2011-03-14 2016-11-01 Qualcomm Incorporated System and apparatus for using multichannel file delivery over unidirectional transport (“FLUTE”) protocol for delivering different classes of files in a broadcast network
US9451401B2 (en) 2011-05-27 2016-09-20 Qualcomm Incorporated Application transport level location filtering of internet protocol multicast content delivery
JP6120490B2 (ja) 2011-11-07 2017-04-26 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US9558251B2 (en) * 2012-04-03 2017-01-31 Teradata Us, Inc. Transformation functions for compression and decompression of data in computing environments and systems
CN103491375B (zh) * 2013-05-29 2018-11-02 东南大学 基于binDCT算法的JPEG压缩系统
US10638146B2 (en) * 2018-10-01 2020-04-28 Tencent America LLC Techniques for QP coding for 360 image and video coding
US11076152B2 (en) * 2019-03-18 2021-07-27 Sony Group Corporation Quantization step parameter for point cloud compression
CN110856000B (zh) * 2019-10-22 2020-10-27 深圳市华星光电技术有限公司 图像解压缩方法及装置
CN116366867A (zh) * 2021-12-28 2023-06-30 中国电信股份有限公司 数据变换与恢复方法、装置、系统、电子设备及存储介质

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5129015A (en) * 1990-04-19 1992-07-07 Ricoh Company Ltd. Apparatus and method for compressing still images without multiplication
US5625713A (en) * 1991-08-09 1997-04-29 Ricoh Corporation Apparatus and method for increasing the throughput of an acoustic or image compression system
US5539836A (en) * 1991-12-20 1996-07-23 Alaris Inc. Method and apparatus for the realization of two-dimensional discrete cosine transform for an 8*8 image fragment
US5519503A (en) * 1992-04-13 1996-05-21 Sony Corporation Picture reproducing apparatus
CA2094524A1 (en) * 1992-07-30 1994-01-31 Ephraim Feig Digital image processor for color image compression
CA2094523C (en) * 1992-07-30 1999-05-25 Ephraim Feig Digital image processor for color image transmission
US5523847A (en) * 1992-10-09 1996-06-04 International Business Machines Corporation Digital image processor for color image compression
JPH0746136A (ja) 1993-01-21 1995-02-14 Ricoh Co Ltd 音響又は画像変換プロセッサ、音響又は画像データ処理装置、音響又は画像データ処理方法、算術プロセッサ、及びデータプロセッサ
JP3289478B2 (ja) 1993-03-05 2002-06-04 カシオ計算機株式会社 ビットシリアルデジタル信号処理装置
JPH06334986A (ja) * 1993-05-19 1994-12-02 Sony Corp 重み付きコサイン変換方法
JP3076201B2 (ja) * 1994-07-28 2000-08-14 日本電気株式会社 画像データ伸張方式
CN1076838C (zh) * 1994-08-19 2001-12-26 财团法人工业技术研究院 离散余弦转换/反离散余弦转换电路的转置存储器
US5748786A (en) * 1994-09-21 1998-05-05 Ricoh Company, Ltd. Apparatus for compression using reversible embedded wavelets
US5867602A (en) * 1994-09-21 1999-02-02 Ricoh Corporation Reversible wavelet transform and embedded codestream manipulation
US6058215A (en) * 1997-04-30 2000-05-02 Ricoh Company, Ltd. Reversible DCT for lossless-lossy compression
US6222944B1 (en) * 1998-05-07 2001-04-24 Sarnoff Corporation Down-sampling MPEG image decoder
US6189021B1 (en) * 1998-09-15 2001-02-13 Winbond Electronics Corp. Method for forming two-dimensional discrete cosine transform and its inverse involving a reduced number of multiplication operations
WO2001031906A2 (en) 1999-10-23 2001-05-03 Fastvideo Llc Method for local zerotree image coding
US7082450B2 (en) 2001-08-30 2006-07-25 Nokia Corporation Implementation of a transform and of a subsequent quantization
US6856701B2 (en) 2001-09-14 2005-02-15 Nokia Corporation Method and system for context-based adaptive binary arithmetic coding
CN1874509B (zh) 2001-09-14 2014-01-15 诺基亚有限公司 基于上下文的自适应二进制算术编码的方法和系统
US6950469B2 (en) 2001-09-17 2005-09-27 Nokia Corporation Method for sub-pixel value interpolation
US6690307B2 (en) 2002-01-22 2004-02-10 Nokia Corporation Adaptive variable length coding of digital video
IL164176A0 (en) 2002-04-23 2005-12-18 Nokia Corp Method and device for indicating quantizer parameters in a video coding system
FI114679B (fi) 2002-04-29 2004-11-30 Nokia Corp Satunnaisaloituspisteet videokoodauksessa
US6795584B2 (en) 2002-10-03 2004-09-21 Nokia Corporation Context-based adaptive variable length coding for adaptive block transforms
KR101142584B1 (ko) 2003-11-18 2012-05-10 스칼라도 아베 디지털 이미지 처리 방법 및 이미지 표현 포맷
US8116374B2 (en) * 2004-05-07 2012-02-14 Broadcom Corporation Method and system for generating a transform size syntax element for video decoding
SE533185C2 (sv) 2007-02-16 2010-07-13 Scalado Ab Metod för behandling av en digital bild samt bildrepresentationsformat
SE531398C2 (sv) 2007-02-16 2009-03-24 Scalado Ab Generering av en dataström och identifiering av positioner inuti en dataström
MX2009009489A (es) 2007-03-13 2009-11-05 Nokia Corp Sistema y método para codificación y decodificación de video.
BRPI0809668B1 (pt) 2007-04-09 2020-07-28 Nokia Technologies Oy vetores de movimento de alta precisão para codificação de vídeos com baixa complexidade de codificação e decodificação
EP2193825B1 (en) 2008-12-03 2017-03-22 Alcatel Lucent Mobile device for augmented reality applications
EP2502184A4 (en) 2009-11-19 2017-03-22 Nokia Corporation Method and apparatus for tracking and recognition with rotation invariant feature descriptors

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101855909B (zh) * 2007-11-12 2012-07-18 思科系统国际公司 视频编码和解码的方法
CN101938654A (zh) * 2010-08-17 2011-01-05 浙江大学 一种变换系数的优化量化方法及装置
CN101938654B (zh) * 2010-08-17 2013-04-10 浙江大学 一种变换系数的优化量化方法及装置
CN101968528A (zh) * 2010-08-19 2011-02-09 詹文法 集成电路测试中的测试数据压缩方法
CN111556313A (zh) * 2020-04-26 2020-08-18 武汉理工大学 基于整数近似的低复杂度dtt与自适应量化的图像压缩方法
CN111556313B (zh) * 2020-04-26 2021-05-04 武汉理工大学 基于整数近似的低复杂度dtt与自适应量化的图像压缩方法

Also Published As

Publication number Publication date
AU2002328100A1 (en) 2003-03-10
MXPA04001724A (es) 2004-05-31
WO2003019787A3 (en) 2004-05-06
US10515134B2 (en) 2019-12-24
HUP0401627A2 (en) 2004-11-29
CN100392982C (zh) 2008-06-04
KR20040036923A (ko) 2004-05-03
ATE401703T1 (de) 2008-08-15
EP1914894A3 (en) 2009-05-06
KR100912415B1 (ko) 2009-08-14
EP1914894A2 (en) 2008-04-23
CN101261619B (zh) 2013-06-05
HK1122622A1 (en) 2009-05-22
US20060294173A1 (en) 2006-12-28
JP4153425B2 (ja) 2008-09-24
JP2007129731A (ja) 2007-05-24
US20100195923A1 (en) 2010-08-05
EP1914894B1 (en) 2021-05-05
EP1440515B1 (en) 2008-07-16
JP4444940B2 (ja) 2010-03-31
US20030078953A1 (en) 2003-04-24
EP1440515A2 (en) 2004-07-28
DE60227688D1 (de) 2008-08-28
CN101261619A (zh) 2008-09-10
ZA200401224B (en) 2005-06-29
JP2005501462A (ja) 2005-01-13
DE60227688C5 (de) 2020-03-12
US7082450B2 (en) 2006-07-25
WO2003019787A2 (en) 2003-03-06
HU228603B1 (en) 2013-04-29

Similar Documents

Publication Publication Date Title
CN1575546A (zh) 变换及后续量化的实现
CN1173581C (zh) 图象解码方法
CN1222153C (zh) 数字图象压缩方法
CN1764277A (zh) 图像和视频编码用的改进的块变换和量化
CN1565083A (zh) 减少位深的量子化方法
CN1685369A (zh) 视频编码的低复杂性和统一标准的变换
CN1767395A (zh) 整数数据的无损自适应编码与解码
CN1697328A (zh) 快速视频编解码变换实现
CN1455599A (zh) 图像和视频编码的2-d变换
CN1805548A (zh) 用于重叠双正交变换的可逆二维前置/后置滤波
CN1860795A (zh) 用于将基于第一变换核的输入视频代码转换为基于第二变换核的输出视频的方法和装置
CN1286322C (zh) 一种低复杂度整数4×4离散余弦变换量化实现方法
KR20120034582A (ko) 영상/화상을 부호화하기 위한 장치 및 방법
CN1864158A (zh) 用于处理至少两个输入值的装置和方法
CN1662069A (zh) 图像、视频信号的编码/解码方法
CN1856997A (zh) 8×8变换及量化
CN1179570C (zh) 用于定向内插器节点的编码装置和方法
CN1679340A (zh) 不可伸缩到可伸缩视频转换方法,可伸缩到不可伸缩视频转换方法
CN1399766A (zh) 用于数据压缩的三次样条插值的快速和有效计算
CN1209926C (zh) 运用于图像编码和视频编码的整数变换方法和装置
CN1306818C (zh) 一种用于编码处理的8输入/输出的整数变换/反变换方法
CN1236617C (zh) 图像和视频编码中兼容4×4变换的8×8变换方法
CN1855149A (zh) 高精度的无乘法器的数字余弦变换电路及其变换方法
CN1082784A (zh) 利用源表示法的数据压缩系统
CN1589015A (zh) 视频或图像压缩中准能量守恒变换的方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20160111

Address after: Espoo, Finland

Patentee after: NOKIA TECHNOLOGIES OY

Address before: Espoo, Finland

Patentee before: NOKIA Corp.

CX01 Expiry of patent term

Granted publication date: 20080604

CX01 Expiry of patent term