CN108737839B - 一种面向帧内码率控制的拉格朗日因子计算方法 - Google Patents

一种面向帧内码率控制的拉格朗日因子计算方法 Download PDF

Info

Publication number
CN108737839B
CN108737839B CN201810322366.9A CN201810322366A CN108737839B CN 108737839 B CN108737839 B CN 108737839B CN 201810322366 A CN201810322366 A CN 201810322366A CN 108737839 B CN108737839 B CN 108737839B
Authority
CN
China
Prior art keywords
distortion
intra
ctu
coding
reference pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201810322366.9A
Other languages
English (en)
Other versions
CN108737839A (zh
Inventor
李维
张二虎
景翠宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian University of Technology
Original Assignee
Xian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian University of Technology filed Critical Xian University of Technology
Priority to CN201810322366.9A priority Critical patent/CN108737839B/zh
Publication of CN108737839A publication Critical patent/CN108737839A/zh
Application granted granted Critical
Publication of CN108737839B publication Critical patent/CN108737839B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种面向帧内码率控制的拉格朗日因子计算方法，根据帧内失真传播特性，结合拉格朗日优化，推导出码率控制中的基于SSE的拉格朗日因子λSSE：由于参考像素与预测像素之间可以被描述为一维高斯马尔科夫模型，因此按照帧内预测编码原理推导出失真传播模型，计算出失真传播参数α；同时利用码率控制原理，获取原始的拉格朗日因子λ。本发明方法通过计算参数α和λ来获取拉格朗日因子λSSE，具有较低的编码复杂度，仅为现有算法的0.1％；且从率失真理论的角度得到帧内码率控制下的拉格朗日因子λSSE，具有高的准确度。

Description

一种面向帧内码率控制的拉格朗日因子计算方法
技术领域
本发明属于视频编码技术领域，具体涉及一种面向帧内码率控制的拉格朗日因子计算方法。
背景技术
信息化浪潮正以前所未有的广度和深度影响着用户生活的方方面面。在此潮流之中，视频作为一种媒介，给用户带来了一场前所未有的视觉盛宴。用户可以通过设备随时随地获取到丰富的视频内容和服务，越来越多用户的参与给视频技术带来了新的挑战。视频携带了空间的全部视觉信息，这不仅增加了视频存储系统和通信网络的负担，也影响了后续新业务的部署与应用，因此视频编码成为业界重点关注的焦点。
新一代视频编码标准HEVC(High Efficiency Video Coding，高效视频编码)凭借高的压缩率和好的视频质量逐步走入人们的视野。其采用了多种先进的编码工具，如基于大块的四叉树分割结构、35种帧内预测技术、先进的运动矢量预测技术、熵编码技术、像素自适应补偿技术、内部位深扩展技术等，与以往的视频编码标准相比，HEVC编码性能有了大幅度提高。由于应用场景的不同导致视频内容不断发生变化，这样经编码器后得到的视频编码码率会随着空域时域复杂度发生较大波动，极易造成上溢或下溢现象。因此码率控制成为视频编码中一个重要模块，其好坏直接影响着视频编码标准的实用性。编码器通过码率控制模块调整输出的码流大小，以满足给定的存储或传输带宽。
码率控制问题实质是一种有约束条件的率失真优化问题，通过调整量化参数来保证编码码率与给定的目标码率相匹配。为了在码率和失真之间找到一个优的折中点，率失真模型的建立是至关重要的。Choi等人(见CHOI H,YOO NAM J.Pixel-wise unified rate-quantization model for multi-level rate control[J].IEEE J.Sel.Topics SignalProcess.,2013,7(6):1112-1123.)假设信源服从拉普拉斯分布，利用泰勒展开式建立了R-Q模型。但基于该模型的码率控制算法在HEVC中的控制精度不高，特别是运动场景下，模型的性能下降很快。考虑到预测残差经过变换和量化后的系数中零系数比例ρ对编码码率有着重要的影响，特别是在码率比较低的情况下，这种影响更加显著，Liang等人(见LIANGXiaochuan,WANG Qiang,ZHOU Yinhe,et al..A novel rq model based rate controlscheme in HEVC[C].Vis.Commun.Image Process.,Valletta,2013:1-6.)提出用R与ρ之间的关系代替R与Q之间的关系，从而建立一种基于R-ρ模型的码率控制算法。但由于HEVC采用了灵活的四叉树结果，这种方法增加了一定的编码复杂度，且为了获取先验知识，须有预编码过程。随后Li等人(见LI Bin,LI Houqiang,LI Li,et al.λdomain rate controlalgorithm for high efficiency video coding[J].IEEE Trans.Image Process..2014,23(9):3841-3854.)提出码率和失真之间存在双曲线函数关系，推导出一种拉格朗日因子λ：
Figure BDA0001625633930000021
其中NP表示CTU(Coding Tree Unit，编码树单元)中所含的像素数，B'表示当前CTU的目标码率，C表示当前CTU预测残差经过哈达玛变换后的系数绝对值总和，符号ι、β和χ为模型参数。通过拉格朗日因子计算量化参数，从而实现码率控制。
上述方法是在假设各个视频区域相互独立的情况下，利用率失真优化方法指导码率控制。但对于盛行的超高清视频以及HEVC编码器，这种假设条件下的码率控制在一定程度上影响了编码性能。由于帧内预测技术的使用，造成区域之间的码率和失真具有一定的关联性，相应的拉格朗日因子的获取的准确性受到影响，因此建立合适的帧内码率控制下的拉格朗日因子计算方法是很有必要的。
发明内容
本发明的目的是提供一种面向帧内码率控制的拉格朗日因子计算方法，该方法具有高的码率控制性能和低的编码复杂度。
本发明所采用的技术方案是，一种面向帧内码率控制的拉格朗日因子计算方法，具体包括如下步骤：
步骤1，假设位于(i,j)处的待编码像素值为p，利用参考像素重构值p'r进行帧内预测后得到的像素值为p'，则失真d：
d＝p(i,j)-p′(i,j) (2)；
式(2)重写为：
d＝[p(i,j)-pp(i,j)]+[pp(i,j)-p′(i,j)] (3)；
其中，pp指参考像素原始值pr采用相同的帧内预测模式所得到的预测值；式(3)中的像素失真由两部分构成：加号前半部分表示当前像素值与参考像素原始值经帧内预测后所产生的失真do；加号后半部分表示参考像素原始值pr与参考像素重构值p'r分别经过帧内预测后所产生的失真dp，该部分由参考像素的编码失真dr引起的，体现了失真的漂移特性，则
d＝do+dp (4)；
这种帧内预测关系被描述为一维高斯马尔科夫模型：
Figure BDA0001625633930000041
后半部分失真：
Figure BDA0001625633930000042
则当前待编码CTU的总失真D：
D＝Do+θ·Dr (7)；
其中，Do表示当前像素值与参考像素原始值经帧内预测后所产生的总失真，Dr表示参考像素原始值与参考像素重构值分别经过帧内预测后所产生的总失真，Dr体现了帧内预测编码所带来的失真漂移特性；
步骤2，通过拉格朗日优化方法，码率控制问题被描述为：
Figure BDA0001625633930000043
其中，J表示率失真代价，符号D(i)和R(i)分别表示第i个CTU经编码后产生的编码失真和编码码率，对于第i个CTU，它的编码失真会传播到右边第i+1个CTU和相邻下边第j个CTU中，因此
Figure BDA0001625633930000051
其中，λ'指失真测度为SAD(Sum of Absolute Difference，绝对误差和)下的拉格朗日因子，所以式(8)被更新为：
Figure BDA0001625633930000052
在实际编码中，SSE(Sum of Square Error，均方误差和)被用作失真测度，该失真测度下获取的拉格朗日因子λSSE与SAD失真测度下获取的拉格朗日因子λi有以下关系：
Figure BDA0001625633930000053
从而得到改进的拉格朗日因子λSSE：
Figure BDA0001625633930000054
本发明的特点还在于，
步骤2的公式(9)中参数α的计算方法如下：
假设第i个CTU的顶部编码块是第m个CTU，它的左边编码块是第n个CTU，按照公式(7)分别获取第m个CTU的θm和第n个CTU的θn，通过如下公式(13)计算参数α：
Figure BDA0001625633930000061
本发明与现有技术相比具有如下优点：
(1)本发明从率失真理论的角度得到帧内码率控制下的拉格朗日因子λSSE，具有高的准确度。
(2)本发明所提的拉格朗日因子计算方法，考虑了帧内失真漂移特性，进一步提高了编码效率。
(3)本发明根据帧内预测编码原理，得到参数α，具有高的准确度。
(4)本发明通过计算参数α来获取拉格朗日因子λSSE，具有较低的编码复杂度，仅为现有码率控制算法的0.1％。
附图说明
图1是本发明一种面向帧内码率控制的拉格朗日因子计算方法流程图；
图2是测试序列为Kimono下本发明方法与HEVC现有码率控制算法的率失真性能比较图；
图3是测试序列为BQSquare下本发明方法与HEVC现有码率控制算法的率失真性能比较图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明面向SATD的拉格朗日因子计算方法，具体计算流程如图1所示，
步骤1，计算参数α：
假设第i个CTU的顶部编码块是第m个CTU，它的左边编码块是第n个CTU，按照式(7)分别获取第m个CTU的θm和第n个CTU的θn：
D＝Do+θ·Dr (7)；
其中D表示编码块的总失真，Do表示当前像素值与参考像素原始值经帧内预测后所产生的总失真，Dr表示参考像素原始值与参考像素重构值分别经过帧内预测后所产生的总失真，然后计算参数α：
Figure BDA0001625633930000071
步骤2，计算参数λ：
Figure BDA0001625633930000072
其中NP表示CTU(Coding Tree Unit，编码树单元)中所含的像素数，B'表示当前CTU的目标码率，C表示当前CTU预测残差经过哈达玛变换后的系数绝对值总和，符号ι、β和χ为模型参数。
步骤3，计算新的拉格朗日因子λSSE：
Figure BDA0001625633930000073
本发明的效果通过实验进一步说明。
实验测试了不同分辨率，不同应用场景下的HEVC帧内编码性能。图2给出了测试序列为Kimono下本发明与HEVC现有码率控制算法的率失真性能比较图。图3给出了测试序列为BQSquare下本发明与HEVC现有码率控制算法的率失真性能比较图。由图2和图3可以看出，在相同编码比特率的条件下，本发明在解码端恢复的视频质量峰值信噪比PSNR高于HEVC现有码率控制算法在解码端恢复的视频质量的峰值信噪比PSNR。统计结果表明本发明在解码端恢复的视频质量峰值信噪比PSNR比HEVC现有码率控制算法在解码端恢复的视频质量峰值信噪比PSNR平均高出0.1dB。

Claims (2)

1.一种面向帧内码率控制的拉格朗日因子计算方法，其特征在于，具体包括如下步骤：
步骤1，假设位于(i,j)处的待编码像素值为p，利用参考像素重构值p'r进行帧内预测后得到的像素值为p'，则失真d：
d＝p(i,j)-p′(i,j) (2)；
式(2)重写为：
d＝[p(i,j)-pp(i,j)]+[pp(i,j)-p′(i,j)] (3)；
其中，pp指参考像素原始值pr采用相同的帧内预测模式所得到的预测值；式(3)中的像素失真由两部分构成：加号前半部分表示当前像素值与参考像素原始值经帧内预测后所产生的失真do；加号后半部分表示参考像素原始值pr与参考像素重构值p'r分别经过帧内预测后所产生的失真dp，该部分由参考像素的编码失真dr引起的，体现了失真的漂移特性，则
d＝do+dp (4)；
这种帧内预测关系被描述为一维高斯马尔科夫模型：
Figure FDA0002509632660000011
后半部分失真：
Figure FDA0002509632660000012
则当前待编码CTU的总失真D：
D＝Do+θ·Dr (7)；
其中，Do表示当前像素值与参考像素原始值经帧内预测后所产生的总失真，Dr表示参考像素原始值与参考像素重构值分别经过帧内预测后所产生的总失真，Dr体现了帧内预测编码所带来的失真漂移特性；
步骤2，通过拉格朗日优化方法，码率控制问题被描述为：
Figure FDA0002509632660000021
其中，J表示率失真代价，符号D(i)和R(i)分别表示第i个CTU经编码后产生的编码失真和编码码率，对于第i个CTU，它的编码失真会传播到右边第i+1个CTU和相邻下边第j个CTU中，因此
Figure FDA0002509632660000022
其中，λ'指失真测度为SAD下的拉格朗日因子，SAD表示绝对误差和，所以式(8)被更新为：
Figure FDA0002509632660000031
SSE被用作失真测度，SSE表示均方误差和，该失真测度下获取的拉格朗日因子λSSE与SAD失真测度下获取的拉格朗日因子λi有以下关系：
λSSE＝λi 2 (11)；
从而得到改进的拉格朗日因子λSSE：
Figure FDA0002509632660000032
NP表示CTU中所含的像素数，CTU为编码树单元；
B'表示当前CTU的目标码率；
C表示当前CTU预测残差经过哈达玛变换后的系数绝对值总和；
符号τ、β和χ为模型参数。
2.根据权利要求1所述的一种面向帧内码率控制的拉格朗日因子计算方法，其特征在于，所述步骤2的公式(9)中参数α的计算方法如下：
假设第i个CTU的顶部编码块是第m个CTU，它的左边编码块是第n个CTU，按照公式(7)分别获取第m个CTU的θm和第n个CTU的θn，通过如下公式(13)计算参数α：
Figure FDA0002509632660000041
CN201810322366.9A 2018-04-11 2018-04-11 一种面向帧内码率控制的拉格朗日因子计算方法 Expired - Fee Related CN108737839B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810322366.9A CN108737839B (zh) 2018-04-11 2018-04-11 一种面向帧内码率控制的拉格朗日因子计算方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810322366.9A CN108737839B (zh) 2018-04-11 2018-04-11 一种面向帧内码率控制的拉格朗日因子计算方法

Publications (2)

Publication Number Publication Date
CN108737839A CN108737839A (zh) 2018-11-02
CN108737839B true CN108737839B (zh) 2020-09-25

Family

ID=63940820

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810322366.9A Expired - Fee Related CN108737839B (zh) 2018-04-11 2018-04-11 一种面向帧内码率控制的拉格朗日因子计算方法

Country Status (1)

Country Link
CN (1) CN108737839B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109889837B (zh) * 2019-03-12 2022-05-27 电子科技大学 最优拉格朗日乘子基准定点标定方法
CN111447438B (zh) * 2020-04-24 2023-05-26 西安理工大学 一种面向通用视频编码的快速帧内预测模式判决方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103607590A (zh) * 2013-11-28 2014-02-26 北京邮电大学 基于结构相似度的高效视频编码感知率失真优化方法
WO2015124108A1 (en) * 2014-02-20 2015-08-27 Mediatek Inc. Method for controlling sample adaptive offset filtering applied to different partial regions in one frame based on different weighting parameters and related sample adaptive offset filter
CN106534855A (zh) * 2016-11-04 2017-03-22 西安理工大学 一种面向satd的拉格朗日因子计算方法
CN107846593A (zh) * 2016-09-21 2018-03-27 中国移动通信有限公司研究院 一种率失真优化方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9781449B2 (en) * 2011-10-06 2017-10-03 Synopsys, Inc. Rate distortion optimization in image and video encoding

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103607590A (zh) * 2013-11-28 2014-02-26 北京邮电大学 基于结构相似度的高效视频编码感知率失真优化方法
WO2015124108A1 (en) * 2014-02-20 2015-08-27 Mediatek Inc. Method for controlling sample adaptive offset filtering applied to different partial regions in one frame based on different weighting parameters and related sample adaptive offset filter
CN107846593A (zh) * 2016-09-21 2018-03-27 中国移动通信有限公司研究院 一种率失真优化方法及装置
CN106534855A (zh) * 2016-11-04 2017-03-22 西安理工大学 一种面向satd的拉格朗日因子计算方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于SATD的H.265/HEVC拉格朗日因子选择算法;李维等;《通信学报》;20170630;第38卷(第6期);全文 *

Also Published As

Publication number Publication date
CN108737839A (zh) 2018-11-02

Similar Documents

Publication Publication Date Title
US8582904B2 (en) Method of second order prediction and video encoder and decoder using the same
CN103004197B (zh) 用于对图像编码的设备和方法
US6462791B1 (en) Constrained motion estimation and compensation for packet loss resiliency in standard based codec
KR101483750B1 (ko) 영상의 부호화 방법 및 장치, 영상 복호화 방법 및 장치
CN104702950A (zh) 以帧内预测模式解码图像的方法
US20130235938A1 (en) Rate-distortion optimized transform and quantization system
CN106791848B (zh) 一种基于HEVC的Two-Pass码率控制方法
CN101835042A (zh) 基于无反馈速率控制的Wyner-Ziv视频编码系统及方法
US20120008686A1 (en) Motion compensation using vector quantized interpolation filters
CN104796705A (zh) 一种基于ssim的hevc视频编码率失真优化与码率控制算法
KR100961760B1 (ko) 이산코사인변환 계수를 참조하는 움직임 추정 방법 및 장치
CN103533359A (zh) 一种h.264码率控制方法
TW201301900A (zh) 視訊解碼器之編碼成位元串之解碼方法
EP3944626A1 (en) Cross-codec encoding optimizations for video transcoding
CN108737839B (zh) 一种面向帧内码率控制的拉格朗日因子计算方法
KR100905059B1 (ko) 동영상 부호화에 있어서 비트 발생 가능성 예측을 이용한블록 모드 결정 방법 및 장치
CN111510722A (zh) 一种抗误码性能卓越的视频图像高质量转码方法
CN105611301A (zh) 基于小波域残差的分布式视频编解码方法
CN101115200A (zh) 一种有效的运动矢量可伸缩编码方法
KR100571920B1 (ko) 움직임 모델을 이용한 매쉬 기반의 움직임 보상방법을제공하는 영상의 부호화 방법 및 그 부호화 장치
Liu et al. Video coding and processing: a survey
US20240031580A1 (en) Method and apparatus for video coding using deep learning based in-loop filter for inter prediction
CN110800298A (zh) 码率分配方法、码率控制方法、编码器和记录介质
CN112218086A (zh) 编码、解码方法、传输方法、编码、解码装置及系统
KR101618766B1 (ko) 영상 복호화 방법 및 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200925

CF01 Termination of patent right due to non-payment of annual fee