CN109286817B - 一种视频编码中dct系数的量化失真信息处理方法 - Google Patents

一种视频编码中dct系数的量化失真信息处理方法 Download PDF

Info

Publication number
CN109286817B
CN109286817B CN201811096647.3A CN201811096647A CN109286817B CN 109286817 B CN109286817 B CN 109286817B CN 201811096647 A CN201811096647 A CN 201811096647A CN 109286817 B CN109286817 B CN 109286817B
Authority
CN
China
Prior art keywords
quantization
dct
value
distribution
distribution model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811096647.3A
Other languages
English (en)
Other versions
CN109286817A (zh
Inventor
张娜娜
王向文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai University of Electric Power
Original Assignee
Shanghai University of Electric Power
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai University of Electric Power filed Critical Shanghai University of Electric Power
Priority to CN201811096647.3A priority Critical patent/CN109286817B/zh
Publication of CN109286817A publication Critical patent/CN109286817A/zh
Application granted granted Critical
Publication of CN109286817B publication Critical patent/CN109286817B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明涉及一种视频编码中DCT系数的量化失真信息处理方法，包括：步骤S1：载入DCT系统的分布模型，其中，DCT系统的分布模型由拉普拉斯分布部分和均匀分布部分组成；步骤S2：优化DCT系统的分布模型的均匀分布部分；步骤S3：根据DCT系数的分布模型以及量化重建方法，确定量化失真估计值函数DLPTCM；步骤S4：根据优化后的DCT系统的分布模型的尾部均匀分布部分，优化量化失真估计值函数。与现有技术相比，本发明量化失真计算方法以及DCT系数分布模型的基础上，针对DZ+UTQ量化方式计算了量化失真估计算法，针对这种重建规则的量化失真估计算法很好的解决了其在其他优化算法领域中的应用。

Description

一种视频编码中DCT系数的量化失真信息处理方法
技术领域
本发明涉及视频优化压缩领域，尤其是涉及一种视频编码中DCT系数的量化失真信息处理方法。
背景技术
DCT系数的量化是对图像DCT变换后系数取值阶数的重新规划，其过程不可不避免的产生了一定的失真。量化失真值的大小是通过初始值与重建值之间的误差和来确定的：
Figure BDA0001805711550000011
其中：DCT系数序列为{xi，i＝1，2，3，…，n}，其中，n表示数据个数，对应重建值
Figure BDA0001805711550000014
量化失真估计值是在量化失真真实值的基础上，将其转化为简单的参数计算公式。转化量化失真计算方法的关键在于DCT系数分布的建模，即用连续的概率密度分布函数来描述散落分布的DCT系数。LPTCM是由拉普拉斯分布和均匀分布共同组成的一种分段分布模型：
fLPTCM(x/xc，b，λ)
Figure BDA0001805711550000012
其中：0≤b≤1；xc为分段分布模型的分界值0＜xc＜a，a表示建模参数x的最大取值范围，且a假设已知。此外，均匀分布
Figure BDA0001805711550000013
被称为离群分布，离群分布的样本也将被分离出来表示。分段拉普拉斯分布的概率密度函数表示为：
Figure BDA0001805711550000021
其样本序列{xi：i∈M}，对于任意的i∈M，有|xi|≤xc。λ表示拉普拉斯分布模型的分布参数。
量化区间重建值的选择可以在一定程度上简化量化失真估计算法的计算，如在H.264/AVC以及我国自主的视频编码标准AVS中，都使用的一种重建规则，即舍入参数p＝0的简单量化方式，最终的量化重建值被简化为：
Q(x)＝sign(I[x])*QP*|I[x]| (4)
然而，在H.261，MPEG-1，MPEG-2/H.262，H.263，JPEG-2000以及MPEG-4Part2中所使用的p＝1/2的重建规则，将每个DCT系数的最大量化误差限制在了
Figure BDA0001805711550000023
以内。因此，在这种量化方式下的量化失真估计算法的研究，进一步扩大了量化失真估计算法的应用范围。
目前，量化失真估计算法的研究中广泛应用的是p＝0的量化重建规则，而对于重建规则为p＝1/2的量化失真估计算法一直未完善。另外，量化失真估计算法主要应用于量化表的优化设计、率失真优化以及优化量化等算法中，因此，重建规则为p＝1/2的量化失真估计算法的欠缺在一定程度上限制了p＝1/2的量化重建规则在编码压缩算法中的广泛应用。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种视频编码中DCT系数的量化失真信息处理方法。
本发明的目的可以通过以下技术方案来实现：
一种视频编码中DCT系数的量化失真信息处理方法，包括：
步骤S1：载入DCT系统的分布模型，其中，DCT系统的分布模型由拉普拉斯分布部分和均匀分布部分组成；
步骤S2：优化DCT系统的分布模型的均匀分布部分；
步骤S3：根据DCT系数的分布模型以及量化重建方法，确定量化失真估计值函数DLPTCM：
Figure BDA0001805711550000022
其中：x表示DCT系数原始数据，
Figure BDA0001805711550000033
表示量化后的DCT系数重建值，a为DCT系数的最大可能取值，fLPTCM为DCT系统的分布模型。
步骤S4：根据优化后的DCT系统的分布模型的尾部均匀分布部分，优化量化失真估计值函数。
所述步骤S2具体包括：
步骤S21：判断均匀量化部分是否存在死区，若为是，则执行步骤S22；
步骤S22：除死区以外的取值区间均采用均匀量化的方式，重建值为量化区间的中间值，并令死区内的重建值全部为0。
所述步骤S22中的重建值规则为：
Figure BDA0001805711550000031
Q(x)＝sign(I[x])*QP*(|I[x]|+p+z)
其中：I[x]为量化区间索引值，Q(x)为量化重建值，QP为均匀量化的量化步长，S为量化死区的长度，z为死区长度与均匀量化步长的比例倍数，p为量化区间重建值的舍入参数。
所述量化死区的长度为：
S＝z·QP
优化量化失真估计值函数为：
Figure BDA0001805711550000032
其中：0≤b≤1为DCT系数分布模型的分布参数，xc为DCT系数的分布模型总分段建模的分界值，λ为拉普拉斯分布参数，a为原始数据的最大可能取值。
与现有技术相比，本发明具有以下有益效果：
1)量化失真计算方法以及DCT系数分布模型的基础上，针对DZ+UTQ量化方式计算了量化失真估计算法，针对这种重建规则的量化失真估计算法很好的解决了其在其他优化算法领域中的应用。
2)对于有死区的情况下，设计特殊的重建规则，可以提高评估准确性。
附图说明
图1为本发明方法的主要步骤流程示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。
一种视频编码中DCT系数的量化失真信息处理方法，如图1所示，包括：
步骤S1：载入DCT系统的分布模型，其中，DCT系统的分布模型由拉普拉斯分布部分和均匀分布部分组成；
为DCT系数建立的分布模型，图像经过DCT变换后系数的分布服从一种特殊的LPTCM(transparent composite model based on Laplacian distribution)分布，其主体部分的建模采用拉普拉斯分布模型，而尾部参数采用简单的均匀分布。概率密度函数表示为fLPTCMM(x/xc，b，λ)，其中o≤b≤1；xc为两种分布模型的分界值；λ表示拉普拉斯分布模型的分布参数。
步骤S2：优化DCT系统的分布模型的均匀分布部分，具体包括：
步骤S21：判断均匀量化部分是否存在死区，若为是，则执行步骤S22；
步骤S22：根据DCT系数的分布特征，选择存在死区的均匀量化方式：DZ+UTQ。即除死区以外的取值区间均采用均匀量化的方式，重建值为量化区间的中间值，并令死区内的重建值全部为0。
步骤S22中的重建值规则为：
Figure BDA0001805711550000041
Q(x)＝sign(I[x])*QP*(|I[x]|+p+z)
其中：I[x]为量化区间索引值，Q(x)为量化重建值，QP为均匀量化的量化步长，S为量化死区的长度，z为死区长度与均匀量化步长的比例倍数，p为量化区间重建值的舍入参数。
其中，量化死区的长度为：
S＝z·QP
步骤S3：根据DCT系数的分布模型以及量化重建方法，确定量化失真估计值函数DLPTCM：
Figure BDA0001805711550000051
其中：x表示DCT系数原始数据，
Figure BDA0001805711550000053
表示量化后的DCT系数重建值，a为DCT系数的最大可能取值，fLPTCM为DCT系统的分布模型。
步骤S4：根据优化后的DCT系统的分布模型的尾部均匀分布部分，优化量化失真估计值函数。
优化量化失真估计值函数为：
Figure BDA0001805711550000052
其中：0≤b≤1为DCT系数分布模型的分布参数，xc为DCT系数的分布模型总分段建模的分界值，λ为拉普拉斯分布参数，a为原始数据的最大可能取值。
在LPTCM分布模型的基础上，基于重建值为量化区间中值的DZ+UTQ量化方式所计算的量化失真估计算法，扩大了这种量化方式在图像/视频压缩编码领域的应用。为优化量化、率失真优化以及量化表的设计等领域提供了又一可靠的量化失真估计算法。

Claims (3)

1.一种视频编码中DCT系数的量化失真信息处理方法，其特征在于，包括：
步骤S1：载入DCT系统的分布模型，其中，DCT系统的分布模型由拉普拉斯分布部分和均匀分布部分组成，
步骤S2：优化DCT系统的分布模型的均匀分布部分，
步骤S3：根据DCT系数的分布模型以及量化重建方法，确定量化失真估计值函数DLPTCM：
Figure FDA0002631664210000011
其中：x表示DCT系数原始数据，
Figure FDA0002631664210000012
表示量化后的DCT系数重建值，a为DCT系数的最大可能取值，fLPTCM为DCT系统的分布模型，
步骤S4：根据优化后的DCT系统的分布模型的尾部均匀分布部分，优化量化失真估计值函数；
所述步骤S2具体包括：
步骤S21：判断均匀量化部分是否存在死区，若为是，则执行步骤S22，
步骤S22：除死区以外的取值区间均采用均匀量化的方式，重建值为量化区间的中间值，并令死区内的重建值全部为0；
所述步骤S22中的重建值规则为：
Figure FDA0002631664210000013
Q(x)＝sign(I[x])*QP*(|I[x]|+p+z)
其中：I[·]为量化区间索引值，Q(·)为量化重建值，QP为均匀量化的量化步长，S为量化死区的长度，z为死区长度与均匀量化步长的比例倍数，p为量化区间重建值的舍入参数；
优化量化失真估计值函数为：
Figure FDA0002631664210000021
其中：0≤b≤1为DCT系数分布模型的分布参数，xc为DCT系数的分布模型总分段建模的分界值，λ为拉普拉斯分布参数，a为原始数据的最大可能取值。
2.根据权利要求1所述的一种视频编码中DCT系数的量化失真信息处理方法，其特征在于，所述量化死区的长度为：
S＝z·QP。
3.根据权利要求1所述的一种视频编码中DCT系数的量化失真信息处理方法，其特征在于，b的取值范围为[0,1]。
CN201811096647.3A 2018-09-19 2018-09-19 一种视频编码中dct系数的量化失真信息处理方法 Active CN109286817B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811096647.3A CN109286817B (zh) 2018-09-19 2018-09-19 一种视频编码中dct系数的量化失真信息处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811096647.3A CN109286817B (zh) 2018-09-19 2018-09-19 一种视频编码中dct系数的量化失真信息处理方法

Publications (2)

Publication Number Publication Date
CN109286817A CN109286817A (zh) 2019-01-29
CN109286817B true CN109286817B (zh) 2020-12-22

Family

ID=65181550

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811096647.3A Active CN109286817B (zh) 2018-09-19 2018-09-19 一种视频编码中dct系数的量化失真信息处理方法

Country Status (1)

Country Link
CN (1) CN109286817B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112911289B (zh) * 2021-05-10 2021-08-17 杭州雄迈集成电路技术股份有限公司 一种dct/idct变换优化方法和系统
CN116450592B (zh) * 2022-12-30 2024-01-02 湖北华数新一代智能数控系统创新中心有限公司 一种基于工业大数据特征的工况自适应压缩方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101931815A (zh) * 2006-04-07 2010-12-29 微软公司 基于纹理水平的量化调整
CN101931805A (zh) * 2009-06-19 2010-12-29 香港科技大学 采用比特挪移方法的标量量化及其在视频编码中的应用

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7738554B2 (en) * 2003-07-18 2010-06-15 Microsoft Corporation DC coefficient signaling at small quantization step sizes
US7801383B2 (en) * 2004-05-15 2010-09-21 Microsoft Corporation Embedded scalar quantizers with arbitrary dead-zone ratios

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101931815A (zh) * 2006-04-07 2010-12-29 微软公司 基于纹理水平的量化调整
CN101931805A (zh) * 2009-06-19 2010-12-29 香港科技大学 采用比特挪移方法的标量量化及其在视频编码中的应用

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
A Novel Analytic Quantization-Distortion Model for Hybrid Video Coding;Liwei Guo等;《IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY》;20090530;全文 *
Transparent Composite Model for DCT Coefficients: Design and Analysis;En-Hui Yang等;《IEEE TRANSACTIONS ON IMAGE PROCESSING》;20140331;正文第3节 *
基于高斯分布的率失真优化方法;周佩;《中国优秀硕士学位论文全文数据库 信息科技辑》;20130315;正文第1-42页 *

Also Published As

Publication number Publication date
CN109286817A (zh) 2019-01-29

Similar Documents

Publication Publication Date Title
CN101836456B (zh) 图像编码方法和解码方法、其装置、其程序以及记录有程序的记录介质
CN100490494C (zh) 解码设备、逆量化方法、分布确定方法及其程序
CN111818346A (zh) 图像编码方法和装置、图像解码方法和装置
CN107846593B (zh) 一种率失真优化方法及装置
CN111641832A (zh) 编码方法、解码方法、装置、电子设备及存储介质
CN110636313B (zh) 变换、二次变换矩阵训练方法、编码器及相关装置
CN111630570A (zh) 图像处理方法、设备及计算机可读存储介质
CN109166160B (zh) 一种采用图形预测的三维点云压缩方法
CN103501438A (zh) 一种基于主成分分析的内容自适应图像压缩方法
KR20200089635A (ko) 다수의 상이한 비트레이트로 영상 압축을 하기 위한 시스템들 및 방법들
CN109286817B (zh) 一种视频编码中dct系数的量化失真信息处理方法
WO2021062772A1 (zh) 预测方法、编码器、解码器及计算机存储介质
JP5176175B2 (ja) 品質制御パラメータの変更及びスケーリングによって変換される画像のファイルサイズを予想するシステム、方法及びプログラム
CN110647990A (zh) 基于灰色关联分析的深度卷积神经网络模型的裁剪方法
Chen Context modeling based on context quantization with application in wavelet image coding
CN113438481A (zh) 训练方法、图像编码方法、图像解码方法及装置
CN113259667B (zh) 视频量化方法、装置、电子设备和计算机可读存储介质
CN116600119B (zh) 视频编码、解码方法、装置、计算机设备和存储介质
WO2023246700A1 (zh) 一种点云属性编码方法、点云属性解码方法及存储介质
CN100579169C (zh) 解码装置、逆量化方法及其程序
CN112218083B (zh) 高效视频编码标准帧内图像码率估计方法
CN110349228B (zh) 一种数据驱动最小二乘预测的三角网格压缩方法
CN101268623B (zh) 用于创建可变形状区块的方法和装置
CN116601944A (zh) 点云编解码方法、编码器、解码器及计算机存储介质
JP4730144B2 (ja) 復号化装置、逆量子化方法及びこれらのプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant