CN108200439A - 提高数字信号变换性能的方法及数字信号变换方法和装置 - Google Patents

提高数字信号变换性能的方法及数字信号变换方法和装置 Download PDF

Info

Publication number
CN108200439A
CN108200439A CN201810140731.4A CN201810140731A CN108200439A CN 108200439 A CN108200439 A CN 108200439A CN 201810140731 A CN201810140731 A CN 201810140731A CN 108200439 A CN108200439 A CN 108200439A
Authority
CN
China
Prior art keywords
matrix
transformation
result
add
integer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810140731.4A
Other languages
English (en)
Other versions
CN108200439B (zh
Inventor
朱兴国
虞露
陈杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Beijing Samsung Telecommunications Technology Research Co Ltd
Samsung Electronics Co Ltd
Original Assignee
Zhejiang University ZJU
Beijing Samsung Telecommunications Technology Research Co Ltd
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=52022875&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=CN108200439(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Zhejiang University ZJU, Beijing Samsung Telecommunications Technology Research Co Ltd, Samsung Electronics Co Ltd filed Critical Zhejiang University ZJU
Priority to CN201810140731.4A priority Critical patent/CN108200439B/zh
Publication of CN108200439A publication Critical patent/CN108200439A/zh
Application granted granted Critical
Publication of CN108200439B publication Critical patent/CN108200439B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154—Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Complex Calculations (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Medicines Containing Antibodies Or Antigens For Use As Internal Diagnostic Agents (AREA)
  • Measurement Of Current Or Voltage (AREA)
  • Analogue/Digital Conversion (AREA)

Abstract

本发明提出一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置，其中，提高数字信号变换性能的方法包括：构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(a)和(b)两个条件：(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，

Description

提高数字信号变换性能的方法及数字信号变换方法和装置
本申请为申请号为201310238184.0、发明名称为“提高数字信号变换性能的方法及数字信号变换方法和装置”的发明专利申请的分案申请。
技术领域
本发明涉及数字信号处理技术领域，尤其涉及一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置。
背景技术
视频和图像编码技术作为一种数字信号处理方式，是数字视频和图像这一重要多媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下，视频编码一般包括以下四大块：预测编码、变换以及量化、熵编码、环路滤波。在编码端，编码器对预测编码后的残差块/矩阵进行变换得到变换系数块/矩阵，变换系数块/矩阵再经过量化后得到量化系数块/矩阵，最后对量化系数块/矩阵进行熵编码得到最终的码流；在解码端，解码器首先对码流进行熵解码得到量化系数块/矩阵，然后对量化系数块进行反量化得到变换系数块/矩阵，变换系数块/矩阵经过反变换后就得到了重建残差块/矩阵，最后解码器根据重建残差和预测值就能得到解码后的重建图像。由于在解码端，进行反变换的变换系数块/矩阵是通过反量化得到的，因此也可以称为反量化系数块/矩阵。在这一编解码过程中，变换的主要功能在于去除预测残差之间的相关性，集中残差能量，有利于后续的熵编码，从整体上提高视频编码的效率。在上述描述中，“块/矩阵”表示两种表述方式，二者所指的物理含义相同。例如，“残差块/矩阵”表示两种表述方式，即残差块或残差矩阵。
在JPEG、MPEG-1/2/4、H.261等视频图像编码标准中，主要采用了浮点的离散余弦变换(DCT)，在实际实现中，不同的硬件产品关于浮点数的运算精度不一样，从而在这些标准下的编解码器之间可能会出现失配现象。鉴于此，在H.264/AVC、H.265以及国内视频编码标准AVS1和AVS2中都采用了整数化的变换。在H.264/AVC和AVS中，变换核中所有数值都是整数，各数值之间的比例与DCT矩阵无直接联系，且各变换基的模不尽相同，从而变换过程中引入了缩放运算以及相应的(预)缩放矩阵。在H.264/AVC和AVS中变换最大为8x8大小，引入缩放运算不会带来很多的运算复杂度和存储复杂度，在整体上能简化变换过程的运算；然而当变换大小变得很大时，比如32x32和64x64，此时如果引入缩放运算，其带来的运算、存储复杂度相当大，故在最新一代的国际/内标准H.265和AVS2中，整数化的DCT变换被采用，这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数(Factor)得到，如式(1)所示。
A＝int{DCT×Factor} (1)
其中DCT为无理数的DCT矩阵，其表达式可用公式(2)所示，“int”是取整函数。当Factor相同时，如果取整函数不一样，所得到的变换核矩阵A也是不一样的。不同的Factor和取整函数，可以得到变换性能(去相关能力、变换基的正交程度和归一程度所影响的变换失真)不同的变换核矩阵。所以取整函数的设计对整个变换的影响非常大。
其中变换核矩阵的大小为N×N。
现有的H.265中的各个变换核矩阵的性能尚存在改善的空间，尤其是变换基的正交程度和归一程度尚待提高；而当前尚在制定的AVS2标准中，其变换核在去相关能力上也需要提高，变换核带来的变换失真也需要降低。
当变换核矩阵确定后，变换过程的设计也对性能有着莫大的影响。在当前的AVS2草案中，其变换过程中的数据位宽会超过32-bit，位宽的设计尚缺完美。
由此可见，不论是H.265还是目前尚在制定的AVS2标准中，其变换过程的设计均还有提高的空间(包括变换核矩阵以及变换过程)，因此，在视频图像编码中，现有的数字信号变换核去相关性不够强，正交、归一程度不够好而导致变换失真过大，变换性能不理想。
发明内容
本发明提供了一种提高数字信号变换性能的方法，使用该方法构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。
本发明提供了一种提高数字信号变换性能的装置，该装置构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。
本发明还提出一种数字信号变换方法及装置，能够保证数字信号变换具有更高的性能。
本发明的技术方案是这样实现的：
一种数字信号反变换方法，包括：
确定图像解码过程中的变换系数矩阵X；
利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换，得到第一变换矩阵Y1。
较佳地，在所述得到第一变换矩阵Y1后，该方法还包括：利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换，将该反变换的结果作为重建的残差矩阵。
较佳地，所述利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝AT×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝Y1×A'，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
5较佳地，所述利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝X×A，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝AT×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述第一变换核矩阵A为
或或或
和/或，
第二核变换矩阵A'为或
或
或
较佳地，s1与s2不相等。
一种数字信号反变换装置，包括：
第一模块，用于确定图像解码过程中的变换系数矩阵X；
第二模块，利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换，得到第一变换矩阵Y1。
较佳地，该装置还包括：
第三模块，利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换，将该反变换的结果作为重建的残差矩阵。
较佳地，所述第二模块利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝AT×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝Y1×A'，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述第二模块利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝X×A，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝AT×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述变换核矩阵A为或
或
或
和/或，
第二核变换矩阵A'为或
或
或
较佳地，s1与s2不相等。
一种数字信号变换方法，包括：
确定图像编码过程中的预测残差矩阵X；
利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换，得到第一变换矩阵Y1。
较佳地，在所述得到第一变换矩阵Y1后，该方法还包括：利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换，将该变换的结果作为变换系数矩阵。
较佳地，所述利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝X×AT，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝A×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝A×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝Y1×AT，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述第一变换核矩阵A为或
或
或
和/或，
所述第二变换核矩阵A'为或
或
或
较佳地，s1与s2不相等。
一种数字信号变换装置，包括：
第一模块，用于确定图像编码过程中的预测残差矩阵X；
第二模块，利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换，得到第一变换矩阵Y1。
较佳地，该装置还包括：
第三模块，利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换，将该变换的结果作为变换系数矩阵。
较佳地，所述第二模块利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝X×AT，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝A×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述第二模块利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝A×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝Y1×AT，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
较佳地，所述变换核矩阵A为或
或
或
和/或，
所述第二变换核矩阵A'为或
或
或
较佳地，s1与s2不相等。
可见，本发明提出了提高数字信号变换性能的方法及数字信号变换方法和装置，能够在一定实现精度限制下构造用于数字信号变换的变换核矩阵，并利用该变换核矩阵进行数字信号变换，与现有技术相比，本发明能够保证数字信号处理具有更高的变换性能。
具体实施方式
本发明提出一种提高数字信号变换性能的方法，该方法构造N行N列的变换核矩阵A，使变换核矩阵A同时满足以下两个条件：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)＜TH；
其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下；Factor是一个大于1的因子，[]表示四舍五入取整；
式(b)中的TH是一个预设的阈值，J(A)是一个全新的变换率失真代价函数，由式(3)定义；
式(3)中的α,β,γ是三个参数，满足β<α,γ<α，式(3)中包括三个新定义的与变换性能相关的因素——DCT失真度dist(A)，归一度normal(A)和正交度orth(A)，如式(4)所示。
其中，A是变换核矩阵，大小为N×N，DCT表示无理数的离散余弦变换矩阵，上标“T”表示矩阵的转置，α,β,γ是三个参数，可以根据实际情况而设定，且有β<α,γ<α。
上述方法中，TH的取值可以有以下三种：
第一种：
TH＝J(M)，其中，M为无理数的离散余弦变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M的长和宽均为N；
其中，α,β,γ是三个参数，满足β<α,γ<α，dist(M)，normal(M)和orth(M)的定义如下式所示：
其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
第二种：
当其中N＝4、8、16或32时，TH＝J(M)，其中，M为H.265标准所规定的变换核矩阵。J(M)的计算方式与上述J(A)的计算方式相同。
第三种：
TH＝N×0.02。
本发明还提出一种提高数字信号变换性能的装置，用于构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足以下(a)和(b)两个条件：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)＜TH；
其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下式；Factor是一个大于1的因子，[]表示四舍五入取整；
式(b)中的TH是一个预设的阈值，J(A)由下式定义；
上式中的α,β,γ是三个参数，满足β<α,γ<α，dist(A)，normal(A)和orth(A)的定义如下式所示；
其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
上述装置中，TH＝J(M)，其中，M为无理数的离散余弦变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M的长和宽均为N；
其中，α,β,γ是三个参数，满足β<α,γ<α，dist(M)，normal(M)和orth(M)的定义如下式所示：
其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
或者，上述装置中，其中N＝4、8、16或32时，所述TH＝J(M)，其中，M为H.265标准所规定的变换核矩阵。J(M)的计算方式与上述J(A)的计算方式相同。
或者，上述装置中，TH＝N×0.02。
本发明还提出一种利用上述方法构造的变换核矩阵进行的数字信号变换方法，包括：
将待变换的L行K列的数据块X采用如下任意一种方式进行一维变换：
(a)Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w1，s1为整数，并且w1≥0，s1≥0；
(b)Y＝X×AT,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w2，s2为整数，并且w2≥0，s2≥0；,
(c)Y＝X×A,将Y中每一个元素分别与w3相加，并将相加后的结果以自然二进制表达形式右移s3位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w3，s3为整数，并且w3≥0，s3≥0；
(d)Y＝AT×X,将Y中每一个元素分别与w4相加，并将相加后的结果以自然二进制表达形式右移s4位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w4，s4为整数，并且w4≥0，s4≥0。
本领域技术人员可知，在二维图像处理中，可以连续应用上述(a)和(b)的一维变换，或者，连续应用上述(c)和(d)的一维变换，从而实现对二维图像的变换处理。其中，两次一维变换的前后顺序可以任意调整，例如，可以先进行一维变换(a)再对变换结果进行一维变换(b)，或者，也可以先进行一维变换(b)再对变换结果进行一维变换(a)。在变换处理过程中，根据被变换的原始矩阵和中间矩阵的维数，调整变换核矩阵的维数。
本发明还提出一种数字信号变换装置，用于将待变换的L行K列的数据块X采用如下任意一种方式进行一维变换：
(a)Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w1，s1为整数，并且w1≥0，s1≥0；
(b)Y＝X×AT,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w2，s2为整数，并且w2≥0，s2≥0；
(c)Y＝X×A,将Y中每一个元素分别与w3相加，并将相加后的结果以自然二进制表达形式右移s3位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w3，s3为整数，并且w3≥0，s3≥0；
(d)Y＝AT×X,将Y中每一个元素分别与w4相加，并将相加后的结果以自然二进制表达形式右移s4位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w4，s4为整数，并且w4≥0，s4≥0。
以下举具体的实施例对本发明做详细介绍：
实施例1：
在一个实际8×8变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过9bit，即
若α＝3,β＝γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)<TH。
TH值根据以下得到：
矩阵M是在下根据(1)式进行四舍五入取整得到的矩阵，如下所示：
通过计算可以得到J(M)＝0.015159。设定阈值TH＝J(M)。
写成集合形式即是A∈{S:J(S)<0.015159}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：
计算可以得到J(A)＝0.014621。
实施例2：
在一个实际16×16变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即Factor＝256。
若α＝2,β＝γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)<TH。
TH值根据以下得到：
矩阵M为H.265标准中规定的16×16变换核，如下所示：
通过计算可以得到J(M)＝0.13377。设定阈值TH＝J(M)。
写成集合形式即是A∈{S:J(S)<0.13377}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：
通过计算可以得到J(A)＝0.080737。
实施例3：
在一个实际8×8变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即
如果α＝2,β＝γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)<TH。
TH值根据以下得到：
矩阵M为H.265标准中规定的8×8变换核矩阵，如下所示：
通过计算可以得到J(M)＝0.038484。设定阈值TH＝J(M)。
写成集合形式即是A∈{S:J(S)<0.038484}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：
通过计算可以得到J(M)＝0.02687。
实施例4：
在一个实际4×4变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即Factor＝128。
若α＝4,β＝γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)<TH。
TH值根据以下得到：
矩阵M为H.265标准中规定的4×4变换核矩阵，如下所示：
通过计算可以得到J(M)＝0.022349。设定阈值TH＝J(M)。
写成集合形式即是A∈{S:J(S)<0.022349}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：
通过计算可以得到J(M)＝0.006411。
实施例5：
在一个实际8×8变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即
若α＝5,β＝1.5,γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)<TH。
TH值根据以下得到。
矩阵M为AVS2的参考软件RD3.0中规定的8×8变换核矩阵，如下所示：
通过计算可以得到J(M)＝0.0.068060。设定阈值TH＝J(M)。
写成集合形式即是A∈{S:J(S)<0.068060}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：
通过计算可以得到J(M)＝0.055759。
实施例6：
在一个实际32×32变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即若α＝2,β＝1.5,γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)＜TH。
TH＝32×0.02＝0.64。
写成集合形式即是A∈{S:J(S)<0.64}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个32×32变换核矩阵A的实例，其J(A)＝0.437463
实施例7：
在一个实际32×32变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即若α＝6,β＝1,γ＝1.5，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)≤TH。
TH＝32×0.02＝0.64。
写成集合形式即是A∈{S:J(S)<0.64}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个32×32变换核矩阵A的实例，其J(A)＝0.271159。
实施例8：
在一个实际16×16变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即Factor＝128。若α＝3,β＝1,γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)≤TH。
TH＝16×0.02＝0.32。
写成集合形式即是A∈{S:J(S)<0.32}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个16×16变换核矩阵A的实例，其J(A)＝0.158616。
实施例9：
在一个实际4×4变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即Factor＝64。若α＝3,β＝1,γ＝1，变换核矩阵A必须同时满足：
(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2
(b)J(A)≤TH。
TH＝4×0.02＝0.08。
写成集合形式即是A∈{S:J(S)<0.08}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个4×4变换核矩阵A的实例，其J(A)＝0.01069。
实施例10：
一个实际的变换过程中，待变换的数据块X为16×16块，数据位宽为n-bit，变换核矩阵A为实施例2中通过J(A)<TH的约束得到的16×16的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：
Y＝A×X,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+10-r，s的结果大于或等于0；
当s＝0时，w＝0；当s>0时，w为1以自然二进制表达形式左移(s-1)位的结果。
变换过程Y＝A×X采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
实施例11：
一个实际的变换过程中，待变换的数据块X为32×8块，数据位宽为n-bit，变换核矩阵A为实施例1中通过J(A)<TH的约束得到的8×8的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：
Y＝X×AT,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+11-r，s的结果大于或等于0；
当s<2时，w＝0；当s≥2时，w为1以自然二进制表达形式左移(s-2)位的结果。
变换过程Y＝X×AT采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
实施例12：
一个实际的变换过程中，待变换的数据块X为32×4块，数据位宽为n-bit，变换核矩阵A为实施例4中通过J(A)<TH的约束得到的4×4的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：
Y＝X×A,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+7-r，s的结果大于或等于0；
w为1以自然二进制表达形式左移s位后再除以3，然后进行四舍五入取整得到的结果。
变换过程Y＝X×A采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
实施例13：
一个实际的变换过程中，待变换的数据块X为32×8块，数据位宽为n-bit，变换核矩阵A为实施例6中通过J(A)<TH的约束得到的32×32的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：
Y＝AT×X,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+6-r，s的结果大于或等于0；
w为1以自然二进制表达形式左移s位后再除以6，然后进行四舍五入得到的结果。
变换过程Y＝AT×X采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
实施例14：
在视频图像编码中，图像在重建过程中用到的重建残差其位宽为n-bit，限定变换过程中的中间数据位宽不超过r-bit。对于一个N×N块，其对应的重建残差块为C，C由反量化系数块X(其数据位宽为s0)进行二维的N×N的反变换得到，变换核矩阵为A，且满足本发明中所定义的J(A)<TH的约束，反变换步骤包括：
(1)将X进行第一维反变换并向右移s1位，得到Y1
Y1＝(X×A+(1<<(s1-1)))>>s1
上式的含义为：Y＝X×A,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果Y1；其中，当s1＝0时，w1＝0；当s1>0时，w1为1以自然二进制表达形式左移(s1-1)位的结果。
过程Y＝X×A采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
(2)将Y1进行第二维反变换并向右移s2位，得到C
C＝(AT×Y1+(1<<(s2-1)))>>s2
上式的含义为：Y＝AT×Y1,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果C。其中，当s2＝0时，w2＝0；当s2>0时，w2为1以自然二进制表达形式左移(s1-1)位的结果。
过程Y＝AT×Y1采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
定义中间变量在变换核矩阵A的约束下，对应s1和s2的值由如下约束：s1＝s0+m-r,s2＝r+m-n，s 1和s2的结果均大于或等于0。
上述过程中，符号“<<”表示数据以自然二进制表达形式进行左移操作，符号“>>”表示数据以自然二进制表达形式进行右移操作。
本领域技术人员可知，上述利用变换核矩阵A进行二维N×N反变换的处理中，对反量化系数块X通过(1)完成了水平方向的一维反变换，再对该一维反变换结果通过(2)完成了垂直方向的一维反变换。事实上，本领域技术人员可知，对于二维图像变换，水平方向和垂直方向的变换顺序可以任意调整，均可以得到相同的变换结果。因此，上述利用变换核矩阵A进行二维N×N反变换的处理中，也可以先对反量化系数块X进行垂直方向的一维反变换，即上述处理(2)中将Y1替换为X，C替换为Y1；然后再对该一维反变换结果Y1进行水平方向的一维反变换，即上述处理(1)中将X替换为Y1，Y1替换为C。
实施例15：
在视频图像编码中，像素经过预测编码后得到预测残差，其位宽为n-bit，限定变换过程中的中间数据位宽不超过r-bit。对于一个N×N大小的残差块X，进行二维的N×N正变换，变换核矩阵为A，且满足本发明中所定义的J(A)<TH的约束，其步骤包括：
(1)将X进行第一维正变换并向右移s1位，得到Y1
Y1＝(A×X+(1<<(s1-2)))>>s1
上式的含义为：Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果Y1。其中，当s1<2时，w1＝0；当s1≥2时，w1为1以自然二进制表达形式左移(s1-2)位的结果。
过程Y＝A×X采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
(2)将Y1进行第二维正变换并向右移s2位，得到Y2
Y2＝(Y1×AT+(1<<(s2-1)))>>s2
上式的含义为：Y＝Y1×AT,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果Y2。其中，当s2＝0时，w2＝0；当s2>0时，w2为1以自然二进制表达形式左移(s2-1)位的结果。
过程Y＝Y1×AT采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
定义中间变量m2＝log2(N)在变换核矩阵A的约束下，对应s1和s2的值由如下约束：s1＝n+m1+m2-r,s2＝m1+m2，s 1和s2的结果均大于或等于0。
上述过程中，符号“<<”表示数据以自然二进制表达形式进行左移操作，符号“>>”表示数据以自然二进制表达形式进行右移操作。
本领域技术人员可知，上述利用变换核矩阵A进行二维N×N变换的处理中，对残差块X通过(1)完成了水平方向的一维变换，再对该一维变换结果通过(2)完成了垂直方向的一维变换。事实上，本领域技术人员可知，对于二维图像变换，水平方向和垂直方向的变换顺序可以任意调整，均可以得到相同的变换结果。因此，上述利用变换核矩阵A进行二维N×N变换的处理中，也可以先对残差块X进行垂直方向的一维变换，即上述处理(2)中将Y1替换为X，Y2替换为Y1；然后再对该一维反变换结果Y1进行水平方向的一维反变换，即上述处理(1)中将X替换为Y1，Y1替换为Y2。
实施例16：
在视频图像编码中，图像在重建过程中用到的重建残差其位宽为n-bit，限定变换过程中的中间数据位宽不超过r-bit。对于一个N×N块，其对应的重建残差块为C，C由反量化系数块X(其数据位宽为s0)进行二维的N×N的反变换得到，变换核矩阵为A，且满足本发明中所定义的J(A)<TH的约束，反变换步骤包括：
(1)将X进行第一维反变换并向右移s1位，得到Y1
Y1＝(X×A+(1<<(s1-1)))>>s1
上式的含义为：Y＝X×A,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果Y1。其中，当s1＝0时，w1＝0；当s1>0时，w1为1以自然二进制表达形式左移(s1-1)位的结果。
过程Y＝X×A采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
(2)将Y1进行第二维反变换并向右移s2位，得到C
C＝(AT×Y1+(1<<(s2-1)))>>s2
上式的含义为：Y＝AT×Y1,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果C。其中，当s2＝0时，w2＝0；当s2>0时，w2为1以自然二进制表达形式左移(s2-1)位的结果。
过程Y＝AT×Y1采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。
定义中间变量在变换核矩阵A的约束下，对应s1和s2的值由如下约束：s1＝s0+m-r+1,s2＝r+m-n-1，s 1和s2的结果均大于或等于0。
上述过程中，符号“<<”表示数据以自然二进制表达形式进行左移操作，符号“>>”表示数据以自然二进制表达形式进行右移操作。
综上所述，本发明提出一种提高数字信号变换性能的方法、以及一种数字信号变换方法和装置，能够在一定实现精度限制下构造用于数字信号变换的变换核矩阵，并利用该新的变换核矩阵进行数字信号处理，与现有技术相比，本发明能够保证数字信号变换具有更高的去相关能力和更低的变换失真。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (32)

1.一种数字信号反变换方法，其特征在于，该方法包括：
确定图像解码过程中的变换系数矩阵X；
利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换，得到第一变换矩阵Y1。
2.如权利要求1所述的方法，其特征在于，在所述得到第一变换矩阵Y1后，该方法还包括：利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换，将该反变换的结果作为重建的残差矩阵。
3.如权利要求1或2所述的方法，其特征在于，所述利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝AT×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
4.如权利要求3所述的方法，其特征在于，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝Y1×A'，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
5.如权利要求1或2所述的方法，其特征在于，所述利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝X×A，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
6.如权利要求5所述的方法，其特征在于，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝AT×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
7.如权利要求1或2所述的方法，其特征在于，所述第一变换核矩阵A为或或或
和/或，
第二核变换矩阵A'为或
或或
8.根据权利要求4或6所述的方法，其特征在于，s1与s2不相等。
9.一种数字信号反变换装置，其特征在于，该装置包括：
第一模块，用于确定图像解码过程中的变换系数矩阵X；
第二模块，利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换，得到第一变换矩阵Y1。
10.如权利要求9所述的装置，其特征在于，该装置还包括：
第三模块，利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换，将该反变换的结果作为重建的残差矩阵。
11.如权利要求9或10所述的装置，其特征在于，所述第二模块利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝AT×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
12.如权利要求11所述的装置，其特征在于，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝Y1×A'，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；其中，w2、s2均为整数，并且w2≥0，s2≥0。
13.如权利要求9或10所述的装置，其特征在于，所述第二模块利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝X×A，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
14.如权利要求13所述的装置，其特征在于，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝AT×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
15.如权利要求9或10所述的装置，其特征在于，所述变换核矩阵A为或或或
和/或，
第二核变换矩阵A'为或
或或
16.如权利要求12或14所述的装置，其特征在于，s1与s2不相等。
17.一种数字信号变换方法，其特征在于，该方法包括：
确定图像编码过程中的预测残差矩阵X；
利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换，得到第一变换矩阵Y1。
18.如权利要求17所述的方法，其特征在于，在所述得到第一变换矩阵Y1后，该方法还包括：利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换，将该变换的结果作为变换系数矩阵。
19.如权利要求17或18所述的方法，其特征在于，所述利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝X×AT，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
20.如权利要求19所述的方法，其特征在于，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝A×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
21.如权利要求17或18所述的方法，其特征在于，所述利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝A×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
22.如权利要求21所述的方法，其特征在于，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝Y1×AT，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
23.如权利要求17或18所述的方法，其特征在于，所述第一变换核矩阵A为或或或
和/或，
所述第二变换核矩阵A'为或
或或
24.根据权利要求20或22所述的方法，其特征在于，s1与s2不相等。
25.一种数字信号变换装置，其特征在于，该装置包括：
第一模块，用于确定图像编码过程中的预测残差矩阵X；
第二模块，利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换，得到第一变换矩阵Y1。
26.如权利要求25所述的装置，其特征在于，该装置还包括：
第三模块，利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换，将该变换的结果作为变换系数矩阵。
27.如权利要求25或26所述的装置，其特征在于，所述第二模块利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝X×AT，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
28.如权利要求27所述的装置，其特征在于，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝A×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
29.如权利要求25或26所述的装置，其特征在于，所述第二模块利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝A×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；
其中，w1、s1均为整数，并且w1≥0，s1≥0。
30.如权利要求29所述的装置，其特征在于，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝Y1×AT，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；
其中，w2、s2均为整数，并且w2≥0，s2≥0。
31.如权利要求25或26所述的方法，其特征在于，所述变换核矩阵A为或或或
和/或，
所述第二变换核矩阵A'为或
或
或
32.根据权利要求28或30所述的方法，其特征在于，s1与s2不相等。
CN201810140731.4A 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置 Active CN108200439B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810140731.4A CN108200439B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201810140731.4A CN108200439B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置
CN201310238184.0A CN104244010B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201310238184.0A Division CN104244010B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置

Publications (2)

Publication Number Publication Date
CN108200439A true CN108200439A (zh) 2018-06-22
CN108200439B CN108200439B (zh) 2020-08-21

Family

ID=52022875

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201810140731.4A Active CN108200439B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置
CN201310238184.0A Active CN104244010B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN201310238184.0A Active CN104244010B (zh) 2013-06-14 2013-06-14 提高数字信号变换性能的方法及数字信号变换方法和装置

Country Status (7)

Country Link
US (2) US20160134892A1 (zh)
KR (1) KR102227660B1 (zh)
CN (2) CN108200439B (zh)
BR (1) BR112015031285B1 (zh)
MY (1) MY173244A (zh)
SG (2) SG10201710392RA (zh)
WO (1) WO2014200322A2 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112596965A (zh) * 2020-12-14 2021-04-02 上海集成电路研发中心有限公司 一种数字图像坏簇统计方法及集成电路自动测试机

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018143687A1 (ko) * 2017-02-01 2018-08-09 엘지전자(주) 행-열 변환을 이용하여 변환을 수행하는 방법 및 장치
MX2020005236A (es) * 2017-11-24 2020-08-24 Sony Corp Aparato y metodo de procesamiento de imagenes.
CN118138777A (zh) * 2018-06-01 2024-06-04 夏普株式会社 图像解码装置以及图像编码装置
SI4017008T1 (sl) * 2019-09-21 2024-08-30 Lg Electronics Inc. Kodiranje slik na podlagi transformacij
US11436011B2 (en) * 2020-02-18 2022-09-06 Samsung Electronics Co., Ltd. Processing method and processing device with matrix multiplication computation

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050111741A1 (en) * 2003-11-26 2005-05-26 Samsung Electronics Co., Ltd. Color image residue transformation and/or inverse transformation method and apparatus, and color image encoding and/or decoding method and apparatus using the same
CN1860795A (zh) * 2004-06-01 2006-11-08 三菱电机株式会社 用于将基于第一变换核的输入视频代码转换为基于第二变换核的输出视频的方法和装置
CN1992904A (zh) * 2005-12-27 2007-07-04 中国科学院计算技术研究所 用于视频转换的变换系数块的转换方法
CN101282476A (zh) * 2007-07-29 2008-10-08 浙江大学 应用于视频和图像处理的变换方法
CN101938654A (zh) * 2010-08-17 2011-01-05 浙江大学 一种变换系数的优化量化方法及装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050213835A1 (en) * 2004-03-18 2005-09-29 Huazhong University Of Science & Technology And Samsung Electronics Co., Ltd. Integer transform matrix selection method in video coding and related integer transform method
US8494052B2 (en) * 2006-04-07 2013-07-23 Microsoft Corporation Dynamic selection of motion estimation search ranges and extended motion vector ranges
CN101083768B (zh) * 2006-06-02 2010-04-14 三星电子株式会社 处理视频数据的编码器和编码方法及解码器和解码方法
CN102577131A (zh) * 2009-08-06 2012-07-11 松下电器产业株式会社 编码方法、解码方法、编码装置及解码装置
CN102045560B (zh) * 2009-10-23 2013-08-07 华为技术有限公司 一种视频编解码方法及设备
WO2011133008A2 (ko) * 2010-04-23 2011-10-27 삼성전자 주식회사 영상의 변환 방법 및 장치, 역변환 방법 및 장치
KR20120098499A (ko) * 2011-02-25 2012-09-05 삼성전자주식회사 영상의 변환 방법 및 장치, 및 영상의 역변환 방법 및 장치
US10452743B2 (en) * 2011-11-07 2019-10-22 Vid Scale, Inc. Video and data processing using even-odd integer transforms
JP6033725B2 (ja) * 2013-03-28 2016-11-30 Kddi株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050111741A1 (en) * 2003-11-26 2005-05-26 Samsung Electronics Co., Ltd. Color image residue transformation and/or inverse transformation method and apparatus, and color image encoding and/or decoding method and apparatus using the same
CN1860795A (zh) * 2004-06-01 2006-11-08 三菱电机株式会社 用于将基于第一变换核的输入视频代码转换为基于第二变换核的输出视频的方法和装置
CN1992904A (zh) * 2005-12-27 2007-07-04 中国科学院计算技术研究所 用于视频转换的变换系数块的转换方法
CN101282476A (zh) * 2007-07-29 2008-10-08 浙江大学 应用于视频和图像处理的变换方法
CN101938654A (zh) * 2010-08-17 2011-01-05 浙江大学 一种变换系数的优化量化方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112596965A (zh) * 2020-12-14 2021-04-02 上海集成电路研发中心有限公司 一种数字图像坏簇统计方法及集成电路自动测试机
CN112596965B (zh) * 2020-12-14 2024-04-09 上海集成电路研发中心有限公司 一种数字图像坏簇统计方法及集成电路自动测试机

Also Published As

Publication number Publication date
US20160134892A1 (en) 2016-05-12
WO2014200322A2 (ko) 2014-12-18
CN108200439B (zh) 2020-08-21
CN104244010A (zh) 2014-12-24
KR102227660B9 (ko) 2021-07-21
KR102227660B1 (ko) 2021-03-15
MY173244A (en) 2020-01-08
SG10201710392RA (en) 2018-02-27
BR112015031285B1 (pt) 2023-04-11
BR112015031285A2 (pt) 2017-07-25
WO2014200322A3 (ko) 2015-04-23
CN104244010B (zh) 2018-03-23
US20180242021A1 (en) 2018-08-23
KR20140146548A (ko) 2014-12-26
SG11201510260QA (en) 2016-01-28
US10511860B2 (en) 2019-12-17

Similar Documents

Publication Publication Date Title
Ma et al. iWave: CNN-based wavelet-like transform for image compression
CN108200439A (zh) 提高数字信号变换性能的方法及数字信号变换方法和装置
CA2633897C (en) Transforms with common factors
CN106101728A (zh) Hevc视频编码中的逻辑帧内模式命名
CN103813167B (zh) 一种量化转换参数处理方法及装置
CN106170093B (zh) 一种帧内预测性能提升编码方法
CN103024383A (zh) 一种基于hevc框架的帧内无损压缩编码方法
CN108028931A (zh) 用于视频编解码的自适应帧间预测的方法及装置
KR102240077B1 (ko) 비디오 신호 디코딩 장치 및 방법, 및 컴퓨터 판독가능 기록매체
AU2002259268C1 (en) Apparatus and method for encoding and computing a discrete cosine transform using a butterfly processor
CN109889846A (zh) 一种De-Mura表数据的压缩与解压方法、装置及编解码系统
CN107211133A (zh) 反量化变换系数的方法、装置及解码设备
WO2019192071A1 (zh) 用于视频处理的方法和设备
WO2002093750A2 (en) Apparatus and method for decoding and computing an inverse discrete cosine transform using a butterfly processor
CN104519355B (zh) 用于紧凑比特平面数据压缩的装置和方法
CN103096052A (zh) 一种图像编码、解码的方法和装置
Emara et al. Image compression using advanced optimization algorithms
Xia et al. Improved PHARM for JPEG steganalysis: Making PHARM more efficient and effective
CN105306936A (zh) 一种基于块压缩感知的图像编码方法
CN106530365B (zh) 基于图像信息含量差异的自适应压缩感知重构方法
CN102215388B (zh) 一种简化方向性变换的方法、装置和系统
WO2001050767A2 (en) Method and apparatus for digital video compression using three-dimensional cellular automata transforms
Zhu et al. Interpolation-directed transform domain downward conversion for block-based image compression
JP2006217339A5 (zh)
CN102300088B (zh) 画面内预测模式最佳化方法与图像压缩方法以及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant