CN110446048B - 帧内预测场景中预测模式的选取方法及装置 - Google Patents

帧内预测场景中预测模式的选取方法及装置 Download PDF

Info

Publication number
CN110446048B
CN110446048B CN201810425567.1A CN201810425567A CN110446048B CN 110446048 B CN110446048 B CN 110446048B CN 201810425567 A CN201810425567 A CN 201810425567A CN 110446048 B CN110446048 B CN 110446048B
Authority
CN
China
Prior art keywords
prediction mode
angle
cost value
rate distortion
type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810425567.1A
Other languages
English (en)
Other versions
CN110446048A (zh
Inventor
王立波
常亮亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201810425567.1A priority Critical patent/CN110446048B/zh
Publication of CN110446048A publication Critical patent/CN110446048A/zh
Application granted granted Critical
Publication of CN110446048B publication Critical patent/CN110446048B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Abstract

本申请提供一种帧内预测场景中预测模式的选取方法,包括:确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;计算所述第一类备选角度预测模式对应的率失真粗略代价值;根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。从而通过以上技术方案,减少进行率失真代价值的计算量,提高在帧内预测场景中预测模式的选取效率。

Description

帧内预测场景中预测模式的选取方法及装置
技术领域
本申请涉及图像处理领域,具体涉及一种帧内预测场景中预测模式的选取方法及装置。本申请还涉及一种电子设备以及一种计算机可读存储介质。
背景技术
图像和视频是目前网络传输的主要媒介,图像和视频数据占据着大量的存储容量和网络带宽,因此需要对图像(包括视频中的图像)进行压缩(又称为图像编码)以减少网络资源的占用。
现有技术采用帧内预测技术来消除对图像编码时的消息冗余,即采用周围相邻像素的数据来预测待编码像素的数据,以使得在图像编码过程中消除信息冗余。针对待编码像素的数据要取得良好的预测效果,需要选择恰当的PU(Predict Unit,预测单元)的尺寸以及与该尺寸最适配的预测模式,具体是指:对待编码像素的数据预测精确满足预测要求,同时为达到该预测精度所耗码率较小。在HEVC(High efficiency Video Coding,一种视频压缩国际标准)技术中,预测单元PU有64x64,32x32,16x16,8x8,4x4共5种尺寸。HEVC技术中采用任意方向帧内预测ADI(Arbitrary Direction Intra)方案,其预测模式高达35种,包括33种角度预测和2种非角度预测。编码器通过计算各种预测单元PU尺寸下的率失真代价RDO(ratio distortion optimization,率失真代价),从而确定最佳的预测单元PU的尺寸与预测模式的组合。也就是,针对每种预测单元PU的尺寸,需要对35种模式各计算一次率失真代价RDO,从而得到每种预测单元PU的尺寸与35种预测模式分别组合时的率失真代价RDO。每一次率失真代价RDO的计算量非常大,需要消耗大量计算资源。为了减少率失真代价RDO计算的次数,通常采用粗略模式选择RMD(Rough Mode Decision)与率失真选择RDO相结合的方式来选择最优预测模式。也就是,首先通过粗略模式选择RMD来挑选出一些备选模式,即先对当前预测单元PU的尺寸的分别按照35种预测模式进行粗略计算,得到他们粗略的代价函数J(pred,satd)。然后,对这些函数进行降序排列,将代价最小的前N个模式进行精确的率失真代价RDO计算,并将最小的精确的率失真代价RDO的计算结果所对应的预测模式确认为当前预测单元PU的尺寸所对应的最佳预测模式。对当前预测单元PU可以选择的上述5种尺寸分别按上述方法进行处理,从而得到每种预测单元PU的尺寸与该种尺寸所对应的最佳预测模式。最后,通过比较每种预测单元PU的尺寸与所对应的最佳预测模式两者之间的组合所对应的率失真代价函数的大小,选择率失真代价函数最小的组合为最佳的预测单PU的尺寸与预测模式两者的组合。
由于粗略模式选择RMD繁多(有35种),粗略模式选择RMD的代价也非常大。现在已提出的快速选择方法大多数是基于图像纹理特性来简化模式选择过程,比如用Sobel算法计算编码单元的边界方向,进而减少角度预测模式数。或者基于梯度的方法,根据梯度的法向垂直角来选择预测模式。然而,上述方法存在共同缺陷,那就是编码损失较大、编码计算量大使得编码效率低。
发明内容
本申请提供一种帧内预测场景中预测模式的选取方法,旨在解决现有技术在针对当前预测单元尺寸选择最佳预测模式时编码损失较大、编码计算量大使得编码效率低的技术问题。
本申请提供一种帧内预测场景中预测模式的选取方法,所述方法包括:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值步骤采用如下方式实现:
选取第一数量的水平角度预测模式,并计算各水平角度预测模式对应的率失真粗略代价值;
将率失真粗略代价值最小的水平角度预测模式确定为水平角度代表预测模式;
相应地,选取第二数量的垂直角度预测模式,并计算各垂直角度预测模式对应的率失真粗略代价值;
将率失真粗略代价值最小的垂直角度预测模式确定为垂直角度代表预测模式。
可选的,所述根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式步骤,采用如下方式实现:
选定角度基准预测模式,并计算角度基准预测模式对应的率失真粗略代价值;
将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,所述将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式步骤,采用如下方式实现:
将所述水平角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第一代价值;
若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差大于所述水平角度代表预测模式对应的率失真粗略代价值,则确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式,并将垂直角度预测模式对应的粗略代价值均设置为最大值。
可选的,所述将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式步骤,采用如下方式实现:
若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差不大于所述水平角度代表预测模式对应的率失真粗略代价值,则将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值;
以及若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差大于所述垂直角度代表预测模式对应的率失真粗略代价值,则确定垂直角度预测模式为进行率失真粗略代价计算的第一类备选角度预测模式,并将水平角度预测模式对应的粗略代价值均设置为最大值。
可选的,所述将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式步骤,采用如下方式实现:
若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差不大于所述垂直角度代表预测模式对应的率失真粗略代价值,则将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,所述根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式步骤,采用如下方式实现:
根据所述第一类备选角度预测模式对应的率失真粗略代价值的大小,从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式步骤,采用如下方式实现:
根据预设的算法,生成动态阈值;
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式步骤,采用如下方式实现:
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且小于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式步骤,采用如下方式实现:
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
可选的,所述帧内预测场景中预测模式的选取方法,还包括:
对所述第二类备选角度预测模式进行精确率失真代价计算,将精确率失真代价值最小的角度预测模式确定为最佳预测模式。
可选的,所选取的第一数量的水平角度预测模式包括:角度预测模式六、角度预测模式十;
可选的,所选取的第二数量的垂直角度预测模式包括:角度预测模式二十六、角度预测模式三十。
可选的,所述角度基准预测模式包括:角度预测模式十八。
本申请还提供一种帧内预测场景中预测模式的选取装置,所述装置包括:
第一率失真粗略代价值计算单元,用于确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
第一类备选角度预测模式确定单元,用于根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
第二率失真粗略代价值计算单元,用于计算所述第一类备选角度预测模式对应的率失真粗略代价值;
第二类备选角度预测模式确定单元,用于根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述第一类备选角度预测模式确定单元包括:
角度基准预测模式选定子单元,并计算角度基准预测模式对应的率失真粗略代价值;
第一类备选角度预测模式确定子单元,用于将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,所述第一类备选角度预测模式确定子单元包括:
第一代价值确定二级子单元,用于将所述水平角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第一代价值;
第一类备选角度预测模式二级第一子单元,用于若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差大于所述水平角度代表预测模式对应的率失真粗略代价值,则确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式,并将垂直角度预测模式对应的粗略代价值均设置为最大值。
可选的,所述第一类备选角度预测模式确定子单元还包括:
第二代价值确定二级子单元,用于若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差不大于所述水平角度代表预测模式对应的率失真粗略代价值,则将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值;
第一类备选角度预测模式二级第二子单元,用于若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差大于所述垂直角度代表预测模式对应的率失真粗略代价值,则确定垂直角度预测模式为进行率失真粗略代价计算的第一类备选角度预测模式,并将水平角度预测模式对应的粗略代价值均设置为最大值。
可选的,所述第一类备选角度预测模式确定子单元还包括:
第一类备选角度预测模式二级第三子单元,用于若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差不大于所述垂直角度代表预测模式对应的率失真粗略代价值,则将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,所述第二类备选角度预测模式确定单元包括:
动态阈值确定子单元,用于根据预设的算法,生成动态阈值;
第二类备选角度预测模式确定第一子单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述第二类备选角度预测模式确定单元包括:
第二类备选角度预测模式确定第二子单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且小于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述装置还包括:
最佳预测模式确定第一单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
可选的,所述装置还包括:
最佳预测模式确定第二单元,用于对所述第二类备选角度预测模式进行精确率失真代价计算,将精确率失真代价值最小的角度预测模式确定为最佳预测模式。
本申请还提供一种电子设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
本申请还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,执行如下操作:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
本技术方案中,通过确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,进而根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式,并计算所述第一类备选角度预测模式对应的率失真粗略代价值,使得与现有技术中计算率失真粗略代价值的次数相比,计算的次数、计算量可能减少一半,编码速度得到有效提高;并且由于按上述方式所选取的第一类备选角度预测模式非常准确,使得编码质量几乎没有损失。之后根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定出进行精确率失真代价计算的第二类备选角度预测模式,使得该技术方案从整体上提高了编码效率,增强了编码质量。
附图说明
图1是本申请提供的帧内预测场景中预测模式的选取方法的实施例的处理流程图;
图2是本申请提供的帧内预测场景中预测模式的选取方法的应用场景示意图;
图3是本申请提供的帧内预测场景中预测模式的选取装置实施例的结构示意图;
图4是本申请提供的本申请提供的电子设备实施例的示意图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施的限制。
本申请提供一种帧内预测场景中预测模式的选取方法,图1是本申请提供的帧内预测场景中预测模式的选取方法的实施例的处理流程图。下面结合图1所示的帧内预测场景中预测模式的选取方法的实施例的处理流程图来阐述本申请提供的帧内预测场景中预测模式的选取方法的技术方案。
图1所示实施例中的帧内预测场景中预测模式的选取方法,包括以下步骤:
在对步骤S101确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值说明之前,先对帧内预测技术及预测模式进行阐述。
其中,所述帧内预测指的是通过对图像中某个区域内的像素的数据来预测或编码相邻区域内像素的数据的技术。图像是由一个一个的点组成,在图像处理技术领域中,这一个一个的点称为“像素”。图像编码是指对图像中的一个一个的像素的数据进行编码,所述像素的数据如像素亮度值、色度值等。对待编码像素的数据进行预测,可以采用帧内预测技术。其中,所述帧指的是图像单位,通常一帧图像为通俗意义上的一个图像。一帧图像是由很多个像素组成的,通常情况下,一帧图像的某个区域与相邻区域的信息可能一致或者相差不大,例如,一张头部图像中头发部分各区域的亮度、色度相差不大。在一帧图像的某个区域内的像素点的数据已经编码的情况下,对该区域相邻区域内的像素的数据进行编码或预测时,可以利用已经编码的该区域内的像素的数据,例如,一张头部图像的头发部分某个区域内的像素数据已经编码,可以通过该区域内的像素的数据对该区域相邻区域内的像素的数据进行编码。这种通过图像中某个区域内的像素的数据来预测或编码相邻区域内像素的数据的技术就是帧内预测技术或图像帧内预测技术。
通过帧内预测技术以利用图像中某个区域内的像素的数据来预测或所编码出的相邻区域内像素的数据,可能与该待编码的相邻区域内像素的真实数据存在一定的差异,也就是预测值相对于真实值存在一定的精度。在帧内预测技术领域,通常相邻区域内像素的数据的精度与比特数成正比。该处比特数指的是为取得该预测精度,而通过图像中某个区域内的像素的数据来预测或编码的相邻区域内像素的数据所需要的比特数,即经过编码(压缩)后的图像像素数据需要用多少个比特来表示。其中,比特指二进制里面最小的单位,要么是0,要么是1。比特数与图像压缩的关系,简单的说就是比特数越大,图像的质量就越好,即图像中待编码区域的像素的数据预测精确度越高,编码后的图像文件就越大,如果比特率越少则情况刚好相反。图像中待编码区域的像素的数据预测精确度越高,这样固然是好。然而,要实现对图像中待编码区域的像素的数据的高精确度的预测,其付出的代价是该高预测精度的图像像中的像素数据需要用相应高的比特数来表示。对于图像中的像素数据,在满足预测精确度的前提下,需要越少的比特数来表示,则意味着要实现对图像中待编码区域的像素的数据进行满足精确度条件的预测时,其付出的代价越小。可以通过率失真代价函数来计算待编码区域的像素的数据的精确度以及达到该精确度程度的预测所需要的比特数两者组合的优化度。该优化度可用率失真优化(Rate Distortion Optimization,RDO)代价函数来解决。RDO代价函数定义为:Cost=D+λ×R。其中,Cost为率失真代价值。D代表真实值与预测值的差值。R代表比特数。λ是与量化步长(Qstep)相关的系数。所述量化步长是编解码技术中的重要参数,量化步长Qstep共有52个值(对于亮度编码而言)。从这52个值中选择的参数值是通过实验确定的,实验时由较低的数值开始,比较输入图像和输出图像,逐步提高参数值,直到心理感觉即主观感觉发现差别为止,方可将其确定为所需要的参数值。
步骤S101,确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值。
对待编码像素的数据进行预测时,所述预测模式对应的是所选取得基准像素以及对所选取的基准像素的数据赋予的加权值。待编码像素的数据进行预测时,需要对周围像素的进行选择,并且对所选择的周围像素的数据进行加权求和,进而得出待编码的像素的数据。所选的是周围哪些像素、以及对所选的这些像素的数据各加权是怎样的,在HEVC(High Efficiency Video Coding,是一种新的视频压缩标准)中存在35中可能,每一种可能,在HEVC中称为一种预测模式。也就是每种预测模式对应的是,对待编码像素的数据进行预测时,所选取得基准像素以及对所选取的基准像素的数据赋予的加权值。在HEVC技术中一共有35种预测模式,即DC、PLANAR和33种角度预测模式。在HEVC技术中的35种预测模式中的每一种预测模式,都对应着所选取的基准像素以及各基准像素的数据所赋予的加权值。并且,对于每一种预测模式都有相应的编号。其中,角度预测模式(2-17)为水平角度预测模式,角度预测模式(19-34)为垂直角度预测模式。每种预测模式所对应的是哪些基准像素以及各基准像素被赋予哪些加权值,以及各种预测模式编号为何,均为HEVC技术中已经规定的技术标准,在此不再赘述。
所述水平角度代表预测模式是指从水平角度预测模式(2-17)种选出的对该16种预测模式具有代表性的预测模式。同理,所述垂直角度代表预测模式是指从垂直角度预测模式(19-34)这15种预测模式中选取的具有代表性的预测模式。也就是,所选取的水平角度代表预测模式能够用于表征其代表的16种水平角度预测模式的预测效果,所选取的垂直角度预测模式能够用于表征其代表的15种垂直角度预测模式的预测效果。
所述率失真粗略代价值是基于粗粒度模式选择RMD(Rough Mode Decision,RMD)过程,利用一种计算量较小的代价函数计算得到的率失真代价值。RMD代价函数定义如下:J=SATD+λ×R。其中,J为率失真粗略代价值。SATD为待编码的像素的数据的真实值与预测值之间的残差经过哈达马变换得到的值。所述哈达马变换是指利用哈达马矩阵进行变换,该变换过程为编码领域的可知技术,在此不再赘述。R表示所需要的比特数。λ是与量化步长(Qstep)相关的系数。所述量化步长是编解码技术中的重要参数,量化步长Qstep共有52个值(对于亮度编码而言)。从这52个值中选择的参数值是通过实验确定的,实验时由较低的数值开始,比较输入图像和输出图像,逐步提高参数值,直到心理感觉即主观感觉发现差别为止,方可将其确定为所需要的参数值。
可选的,所述步骤S101中确定水平角度代表预测模式对应的率失真粗略代价值包括:1)选取第一数量的水平角度预测模式,并计算各水平角度预测模式对应的率失真粗略代价值。可选的,所选取的第一数量的水平角度预测模式包括:角度预测模式六、角度预测模式十。如前文所述,所述水平角度代表预测模式可以用于表征水平角度预测模式的预测效果,因此所述水平角度代表预测模式应该从所有的水平角度预测模式也就是第2至第17角度预测模式中选取。又由于第6种角度预测模式与第10种角度预测模式在HEVC技术中的水平角度预测模式中所对应的基准像素以及各基准像素所被赋予的加权值具有代表性,因此可以选取角度预测模式六、角度预测模式十作为水平角度代表预测模式的备选预测模式。所述选取第一数量的水平角度预测模式,并计算各水平角度预测模式对应的率失真粗略代价值,指的是针对所选取得水平角度预测模式,利用前文所述的RMD代价函数计算率失真粗略代价值。例如,针对可选的角度预测模式六、角度预测模式十,利用前文所述的RMD代价函数计算率失真粗略代价值。2)将率失真粗略代价值最小的水平角度预测模式确定为水平角度代表预测模式。在步骤1)选取第一数量的水平角度预测模式,并计算各水平角度预测模式对应的率失真粗略代价值之后,选取率失真粗略代价值最小的角度预测模式作为水平角度代表预测模式。将率失真粗略代价值最小的角度预测模式作为水平角度代表预测模式,使得从所选取的第一数量的水平角度预测模式中再次选取更具代表性的水平角度预测模式作为水平角度代表预测模式,增强了水平角度代表预测模式确定的代表性。例如,针对可选的角度预测模式六、角度预测模式十,将率失真粗略代价值最小的角度预测模式确定为水平角度代表预测模式。
可选的,所述步骤S101中确定垂直角度代表预测模式对应的率失真粗略代价值包括:1)选取第二数量的垂直角度预测模式,并计算各垂直角度预测模式对应的率失真粗略代价值。可选的,所选取的第二数量的垂直角度预测模式包括:角度预测模式二十六、角度预测模式三十。如前文所述,所述垂直角度代表预测模式可以用于表征垂直角度预测模式的预测效果,因此所述垂直角度代表预测模式应该从所有的垂直角度预测模式也就是第19至第34种角度预测模式中选取。又由于第26种角度预测模式与第30种角度预测模式在HEVC技术中的垂直角度预测模式中所对应的基准像素以及各基准像素所被赋予的加权值具有代表性,因此可以选取角度预测模式26、角度预测模式30作为垂直角度代表预测模式的备选预测模式。2)将率失真粗略代价值最小的垂直角度预测模式确定为垂直角度代表预测模式。在步骤1)选取第二数量的垂直角度预测模式,并计算各垂直角度预测模式对应的率失真粗略代价值之后,选取率失真粗略代价值最小的角度预测模式作为垂直角度代表预测模式,将率失真粗略代价值最小的角度预测模式作为垂直角度代表预测模式,使得从所选取的第二数量的垂直角度预测模式中再次选取更具代表性的垂直角度预测模式作为垂直角度代表预测模式,增强了垂直角度代表预测模式确定的代表性。
步骤S102,根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式。
在步骤S101确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值之后,本步骤S102旨在于通过步骤S101所确定的水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式,进而确定进行率失真粗略代价计算的第一类备选角度预测模式,也就是确定到底是水平角度代表预测模式所代表的16种水平角度预测模式能更好地对待编码像素进行预测,还是垂直角度代表预测模式所代表的15种垂直角度预测模式能更好地对待编码像素进行预测。
可选的,所述步骤S102包括:
1)选定角度基准预测模式,并计算角度基准预测模式对应的率失真粗略代价值。可选的,所述角度基准预测模式包括:角度预测模式十八。前文已述,角度预测模式(2-17)为水平角度预测模式,角度预测模式(19-34)为垂直角度预测模式。每种预测模式所对应的是哪些基准像素以及各基准像素被赋予哪些加权值,以及各种预测模式编号为何,均为HEVC技术中已经规定的技术标准。同理,HEVC技术中的角度预测模式19所对应的基准像素以及各基准像素所被赋予的加权值具有基准性,可以用来区分水平角度预测模式与垂直角度预测模式,因此可以选取角度预测模式19作为判断基准,以判断下列问题:到底是水平角度代表预测模式所代表的16种水平角度预测模式能更好地对待编码像素进行预测,还是垂直角度代表预测模式所代表的15种垂直角度预测模式能更好地对待编码像素进行预测。在选取基准预测模式之后,按照前文所述的RMD代价函数计算所选取的基准预测模式所对应的率失真粗略代价值,例如,针对角度预测模式19,计算其率失真粗略代价值。
2)将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。在步骤S101确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值之后,以及在1)选定角度基准预测模式,并计算角度基准预测模式对应的率失真粗略代价值步骤之后,得以将步骤S101所确定的水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与步骤1)所选定角度基准预测模式进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,该步骤2)包括:
A)将所述水平角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第一代价值。例如,基于前文的示例,所述水平角度代表预测模式对应的率失真粗略代价值为角度预测模式六与角度预测模式十中率失真粗略代价值中的较小值。同理,基于前文的可选实施方式,所述角度基准预测模式对应的率失真粗略代价值为角度预测模式19对应的率失真粗略代价值。在此情况下,所述步骤A)即为:从角度预测模式六与角度预测模式十中率失真粗略代价值中的较小值、角度预测模式19对应的率失真粗略代价值中选取最小的率失真代价值作为第一代价值。
B)若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差大于所述水平角度代表预测模式对应的率失真粗略代价值,则确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式,并将垂直角度预测模式对应的粗略代价值均设置为最大值。在步骤A)之后,本步骤B旨在于通过判断以下两值的大小-所述水平角度代表预测模式对应的率失真粗略代价值,与所述第一代价值与所述第一代价值右移第三数量的位数之后的值-来判断所述水平角度代表预测模式所代表的水平角度预测模式的预测效果是否适合对待编码像素进行编码。当前一值小于等于后一值时,说明所述水平角度代表预测模式所代表的水平角度预测模式的预测效果适合对待编码像素进行编码。因此,确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式。同时,将将垂直角度预测模式对应的粗略代价值均设置为最大值,也就是相当于在确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式之后,由于垂直角度预测模式对应的粗略代价值均设置为最大值,垂直角度预测模式就不会被作为进行粗略代价计算的第一类备选角度预测模式,减小了一半进行粗略率失真代价的计算量。所述进行粗略代价计算的第一类备选角度预测模式是指,在选取最佳的一种预测模式之前,预先选取的若干备选预测模式,并从该若干备选的预测模式再次进行精确率失真代价计算,哪种预测模式对应的精确率失真代价值最小,则将哪种预测模式确定为最佳预测模式。对此,后文将会详述,在此不再赘述。
可选的,该步骤2)还包括:
C)若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差不大于所述水平角度代表预测模式对应的率失真粗略代价值,则将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值。在步骤A)之后,本步骤C同样旨在于通过判断以下两值的大小-所述水平角度代表预测模式对应的率失真粗略代价值,与所述第一代价值与所述第一代价值右移第三数量的位数之后的值-来判断所述水平角度代表预测模式所代表的水平角度预测模式的预测效果是否适合对待编码像素进行编码。当前一值大于等于后一值时,说明所述水平角度代表预测模式所代表的水平角度预测模式的预测效果不适合对待编码像素进行编码。在这种情况下,将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值。例如,基于前文的示例,所述垂直角度代表预测模式对应的率失真粗略代价值为角度预测模式26与角度预测模式30中率失真粗略代价值中的较小值。同理,基于前文的可选实施方式,所述角度基准预测模式对应的率失真粗略代价值为角度预测模式19对应的率失真粗略代价值。在此情况下,所述步骤C)即为:从角度预测模式26与角度预测模式30中率失真粗略代价值中的较小值、角度预测模式19对应的率失真粗略代价值中选取最小的率失真代价值作为第二代价值。
D)以及若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差大于所述垂直角度代表预测模式对应的率失真粗略代价值,则确定垂直角度预测模式为进行率失真粗略代价计算的第一类备选角度预测模式,并将水平角度预测模式对应的粗略代价值均设置为最大值。在步骤C)之后,本步骤D旨在于通过判断以下两值的大小-所述水平垂直代表预测模式对应的率失真粗略代价值,与所述第二代价值与所述第二代价值右移第三数量的位数之后的值-来判断所述垂直角度代表预测模式所代表的垂直角度预测模式的预测效果是否适合对待编码像素进行编码。当前一值小于等于后一值时,说明所述垂直角度代表预测模式所代表的垂直角度预测模式的预测效果适合对待编码像素进行编码。因此,确定垂直角度预测模式为进行粗略代价计算的第一类备选角度预测模式。同时,将水平角度预测模式对应的粗略代价值均设置为最大值,也就是相当于在确定垂直角度预测模式为进行粗略代价计算的第一类备选角度预测模式之后,由于水平角度预测模式对应的粗略代价值均设置为最大值,水平角度预测模式就不会被作为进行粗略代价计算的第一类备选角度预测模式,减小了一半进行粗略率失真代价的计算量。
可选的,所述步骤2)还包括:
E)若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差不大于所述垂直角度代表预测模式对应的率失真粗略代价值,则将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。本步骤旨在于在基于步骤B)及步骤D)不能单将水平角度预测模式或单将垂直角度预测模式确定为进行率失真粗略代价计算的第一类备选角度预测模式的情况下,只能将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。
步骤S103,计算所述第一类备选角度预测模式对应的率失真粗略代价值。
本步骤旨在于在如下情况下,执行如下操作:当基于步骤B)单将水平角度预测模式确定为进行率失真粗略代价计算的第一类备选角度预测模式的情况下,计算水平角度预测模式(2-17)各自对应的率失真粗略代价值。当基于步骤D)单将垂直角度预测模式确定为进行率失真粗略代价计算的第一类备选角度预测模式的情况下,计算垂直角度预测模式(19-34)各自对应的率失真粗略代价值。在基于步骤E)将水平角度预测模式及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式的情况下,计算水平角度预测模式(2-17)各自对应的率失真粗略代价值以及计算垂直角度预测模式(19-34)各自对应的率失真粗略代价值。步骤S104,根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
在基于步骤S103计算所述第一类备选角度预测模式对应的率失真粗略代价值之后,本步骤S104旨在于根据步骤S103中率失真粗略代价值计算结果的大小,从中选取率失真粗略代价值较小的若干角度预测模式,以备后续通过精确率失真代价值的计算确定最佳预测模式。可选的,该步骤S104包括:根据所述第一类备选角度预测模式对应的率失真粗略代价值的大小,从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。也就是,根据步骤S103中率失真粗略代价值计算结果的大小,直接从中选取率失真粗略代价值较小的第四数量的角度预测模式,以备后续通过精确率失真代价值的计算确定最佳预测模式。
可选的,该步骤S104包括:
A)根据预设的算法,生成动态阈值,生成动态阈值。所述待编码块指的是包含若干个待编码像素的像素块。根据待编码块的量化参数生成动态阈值可以采用如下方式:确定步骤S103中最小的率失真粗略代价值;可以将动态阈值确定为步骤S103中最小的率失真粗略代价值的一定的倍数,例如1.25倍的步骤S103中最小的率失真粗略代价值。B)若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。也就是本步骤B)旨在第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量时,从中只选取第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,该步骤S104在上一段步骤A)之后,还包括:
C)若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且小于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。也就是本步骤C)旨在第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且不足第四数量时,则将第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式均确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,在步骤S104中的步骤B)或步骤C)之后,还包括:
步骤D),对所述第二类备选角度预测模式进行精确率失真代价计算,将精确率失真代价值最小的角度预测模式确定为最佳预测模式。本步骤旨在基于步骤步骤B)或步骤C)确定为进行精确率失真代价计算的第二类备选角度预测模式之后,对所选取的进行精确率失真代价计算的第二类备选角度预测模式进行精确率失真代价计算,并将精确率失真代价值最小的角度预测模式确定为最佳预测模式。该优化度可用率失真优化(Rate DistortionOptimization,RDO)代价函数来解决。所述精确率失真代价值计算,在HEVC技术领域中是可以获知的,例如可以利用RDO代价函数进行计算。RDO代价函数定义为:Cost=D+λ×R。其中,Cost为率失真代价值。D代表真实值与预测值的差值。R代表比特数。λ是与量化步长(Qstep)相关的系数。所述量化步长是编解码技术中的重要参数,量化步长Qstep共有52个值(对于亮度编码而言)。从这52个值中选择的参数值是通过实验确定的,实验时由较低的数值开始,比较输入图像和输出图像,逐步提高参数值,直到心理感觉即主观感觉发现差别为止,方可将其确定为所需要的参数值。
可选的,该步骤S104在上一段步骤A)之后,还包括:
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。本步骤旨在第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1的情况下,直接将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
下面结合图2所示的帧内预测场景中预测模式的选取方法的应用场景示意图分析本申请技术方案所能取得的技术效果。
如图2所示,其中Data Collection即数据收集所指的就是前文实施例中所描述的确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值。Direction Classify过程就是前文所描述的根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式。Select n best Candidate at most就是前文所指的计算所述第一类备选角度预测模式对应的率失真粗略代价值,并根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。当Canidate>1时,就进入Intra RDO过程就是前文所指的基于步骤步骤B)或步骤C)确定为进行精确率失真代价计算的第二类备选角度预测模式之后,对所选取的进行精确率失真代价计算的第二类备选角度预测模式进行精确率失真代价计算,并将精确率失真代价值最小的角度预测模式确定为最佳预测模式。当Canidate≤1时,直接确定Best Mode就是前文所描述的若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
在本技术方案中,通过确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,进而根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式,并计算所述第一类备选角度预测模式对应的率失真粗略代价值,使得与现有技术中计算率失真粗略代价值的次数相比,计算的次数、计算量可能减少一半,编码速度得到有效提高;并且由于按上述方式所选取的第一类备选角度预测模式非常准确,使得编码质量几乎没有损失。之后根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定出进行精确率失真代价计算的第二类备选角度预测模式,使得该技术方案从整体上提高了编码效率,增强了编码质量。
本申请还提供一种帧内预测场景中预测模式的选取装置。图3是本申请提供的帧内预测场景中预测模式的选取装置的一个实施例的示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关的部分请参见上述提供的方法实施例的对应说明即可。
图3所示实施例中的帧内预测场景中预测模式的选取装置,包括:
第一率失真粗略代价值计算单元301,用于确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
第一类备选角度预测模式确定单元302,用于根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
第二率失真粗略代价值计算单元303,用于计算所述第一类备选角度预测模式对应的率失真粗略代价值;
第二类备选角度预测模式确定单元304,用于根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述第一类备选角度预测模式302确定单元包括:
角度基准预测模式选定子单元,并计算角度基准预测模式对应的率失真粗略代价值;
第一类备选角度预测模式确定子单元,用于将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,所述第一类备选角度预测模式确定子单元包括:
第一代价值确定二级子单元,用于将所述水平角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第一代价值;
第一类备选角度预测模式二级第一子单元,用于若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差大于所述水平角度代表预测模式对应的率失真粗略代价值,则确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式,并将垂直角度预测模式对应的粗略代价值均设置为最大值。
可选的,所述第一类备选角度预测模式确定子单元还包括:
第二代价值确定二级子单元,用于若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差不大于所述水平角度代表预测模式对应的率失真粗略代价值,则将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值;
第一类备选角度预测模式二级第二子单元,用于若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差大于所述垂直角度代表预测模式对应的率失真粗略代价值,则确定垂直角度预测模式为进行率失真粗略代价计算的第一类备选角度预测模式,并将水平角度预测模式对应的粗略代价值均设置为最大值。
可选的,所述第一类备选角度预测模式确定子单元还包括:
第一类备选角度预测模式二级第三子单元,用于若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差不大于所述垂直角度代表预测模式对应的率失真粗略代价值,则将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。
可选的,所述第二类备选角度预测模式确定单元304包括:
动态阈值确定子单元,用于根据预设的算法,生成动态阈值;
第二类备选角度预测模式确定第一子单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述第二类备选角度预测模式确定单元304包括:
第二类备选角度预测模式确定第二子单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且小于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
可选的,所述装置还包括:
最佳预测模式确定第一单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
可选的,所述装置还包括:
最佳预测模式确定第二单元,用于对所述第二类备选角度预测模式进行精确率失真代价计算,将精确率失真代价值最小的角度预测模式确定为最佳预测模式。
本申请还提供一种电子设备。图4示出了该电子设备的一个实施例。由于该电子设备的实施例基本相似于方法实施例,所以描述得比较简单,相关的部分请参见上述提供的方法实施例的对应说明即可。
图4所示实施例中电子设备包括:
存储器401和处理器402;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
本申请还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,执行如下操作:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
本申请虽然以较佳实施例公开如上,但其并不是用来限定本申请,任何本领域技术人员在不脱离本申请的精神和范围内,都可以做出可能的变动和修改,因此本申请的保护范围应当以本申请权利要求所界定的范围为准。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

Claims (24)

1.一种帧内预测场景中预测模式的选取方法,其特征在于,所述方法包括:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
2.根据权利要求1所述的方法,其特征在于,所述确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值步骤采用如下方式实现:
选取第一数量的水平角度预测模式,并计算各水平角度预测模式对应的率失真粗略代价值;
将率失真粗略代价值最小的水平角度预测模式确定为水平角度代表预测模式;
相应地,选取第二数量的垂直角度预测模式,并计算各垂直角度预测模式对应的率失真粗略代价值;
将率失真粗略代价值最小的垂直角度预测模式确定为垂直角度代表预测模式。
3.根据权利要求1所述的方法,其特征在于,所述根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式步骤,采用如下方式实现:
选定角度基准预测模式,并计算角度基准预测模式对应的率失真粗略代价值;
将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。
4.根据权利要求3所述的方法,其特征在于,所述将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式步骤,采用如下方式实现:
将所述水平角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第一代价值;
若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差大于所述水平角度代表预测模式对应的率失真粗略代价值,则确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式,并将垂直角度预测模式对应的粗略代价值均设置为最大值。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差不大于所述水平角度代表预测模式对应的率失真粗略代价值,则将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值;
以及若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差大于所述垂直角度代表预测模式对应的率失真粗略代价值,则确定垂直角度预测模式为进行率失真粗略代价计算的第一类备选角度预测模式,并将水平角度预测模式对应的粗略代价值均设置为最大值。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差不大于所述垂直角度代表预测模式对应的率失真粗略代价值,则将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。
7.根据权利要求1所述的方法,其特征在于,所述根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式步骤,采用如下方式实现:
根据所述第一类备选角度预测模式对应的率失真粗略代价值的大小,从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
8.根据权利要求1所述的方法,其特征在于,所述根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式步骤,采用如下方式实现:
根据预设的算法,生成动态阈值;
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
9.根据权利要求8所述的方法,其特征在于,所述方法还包括:
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且小于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
10.根据权利要求8所述的方法,其特征在于,所述方法还包括:
若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
11.根据权利要求1至9任一项所述的方法,其特征在于,所述方法还包括:
对所述第二类备选角度预测模式进行精确率失真代价计算,将精确率失真代价值最小的角度预测模式确定为最佳预测模式。
12.根据权利要求2所述的方法,其特征在于,所选取的第一数量的水平角度预测模式包括:角度预测模式六、角度预测模式十;
所选取的第二数量的垂直角度预测模式包括:角度预测模式二十六、角度预测模式三十。
13.根据权利要求3所述的方法,其特征在于,所述角度基准预测模式包括:角度预测模式十八。
14.一种帧内预测场景中预测模式的选取装置,其特征在于,所述装置包括:
第一率失真粗略代价值计算单元,用于确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
第一类备选角度预测模式确定单元,用于根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
第二率失真粗略代价值计算单元,用于计算所述第一类备选角度预测模式对应的率失真粗略代价值;
第二类备选角度预测模式确定单元,用于根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
15.根据权利要求14所述的装置,其特征在于,所述第一类备选角度预测模式确定单元包括:
角度基准预测模式选定子单元,并计算角度基准预测模式对应的率失真粗略代价值;
第一类备选角度预测模式确定子单元,用于将水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值与角度基准预测模式对应的率失真粗略代价值进行比较,根据比较结果确定进行率失真粗略代价计算的第一类备选角度预测模式。
16.根据权利要求15所述的装置,其特征在于,所述第一类备选角度预测模式确定子单元包括:
第一代价值确定二级子单元,用于将所述水平角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第一代价值;
第一类备选角度预测模式二级第一子单元,用于若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差大于所述水平角度代表预测模式对应的率失真粗略代价值,则确定水平角度预测模式为进行粗略代价计算的第一类备选角度预测模式,并将垂直角度预测模式对应的粗略代价值均设置为最大值。
17.根据权利要求16所述的装置,其特征在于,所述第一类备选角度预测模式确定子单元还包括:
第二代价值确定二级子单元,用于若所述第一代价值与所述第一代价值右移第三数量的位数之后的值之差不大于所述水平角度代表预测模式对应的率失真粗略代价值,则将所述垂直角度代表预测模式对应的率失真粗略代价值与所述角度基准预测模式对应的率失真粗略代价值两者中的最小值确定为第二代价值;
第一类备选角度预测模式二级第二子单元,用于若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差大于所述垂直角度代表预测模式对应的率失真粗略代价值,则确定垂直角度预测模式为进行率失真粗略代价计算的第一类备选角度预测模式,并将水平角度预测模式对应的粗略代价值均设置为最大值。
18.根据权利要求17所述的装置,其特征在于,所述第一类备选角度预测模式确定子单元还包括:
第一类备选角度预测模式二级第三子单元,用于若所述第二代价值与所述第二代价值右移第三数量的位数之后的值之差不大于所述垂直角度代表预测模式对应的率失真粗略代价值,则将水平角度预测模式以及垂直角度预测模式均确定为进行率失真粗略代价计算的第一类备选角度预测模式。
19.根据权利要求14所述的装置,其特征在于,所述第二类备选角度预测模式确定单元包括:
动态阈值确定子单元,用于根据预设的算法,生成动态阈值;
第二类备选角度预测模式确定第一子单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于等于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值较小的第四数量的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
20.根据权利要求19所述的装置,其特征在于,所述第二类备选角度预测模式确定单元包括:
第二类备选角度预测模式确定第二子单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量大于1且小于第四数量,则从所述第一类备选角度预测模式中选取率失真粗略代价值不大于所述动态阈值的角度预测模式确定为进行精确率失真代价计算的第二类备选角度预测模式。
21.根据权利要求19所述的装置,其特征在于,所述装置还包括:
最佳预测模式确定第一单元,用于若所述第一类备选角度预测模式对应的粗略代价值中不大于所述动态阈值的数量小于等于1,则将所述第一类备选角度预测模式中对应粗略代价值最小的角度预测模式确定为最佳预测模式。
22.根据权利要求14至20任一项所述的装置,其特征在于,所述装置还包括:
最佳预测模式确定第二单元,用于对所述第二类备选角度预测模式进行精确率失真代价计算,将精确率失真代价值最小的角度预测模式确定为最佳预测模式。
23.一种电子设备,其特征在于,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
24.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时,执行如下操作:
确定水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值;
根据水平角度代表预测模式对应的率失真粗略代价值和垂直角度代表预测模式对应的率失真粗略代价值,确定进行率失真粗略代价计算的第一类备选角度预测模式;
计算所述第一类备选角度预测模式对应的率失真粗略代价值;
根据所述第一类备选角度预测模式对应的率失真粗略代价值,从所述第一类备选角度预测模式中确定进行精确率失真代价计算的第二类备选角度预测模式。
CN201810425567.1A 2018-05-04 2018-05-04 帧内预测场景中预测模式的选取方法及装置 Active CN110446048B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810425567.1A CN110446048B (zh) 2018-05-04 2018-05-04 帧内预测场景中预测模式的选取方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810425567.1A CN110446048B (zh) 2018-05-04 2018-05-04 帧内预测场景中预测模式的选取方法及装置

Publications (2)

Publication Number Publication Date
CN110446048A CN110446048A (zh) 2019-11-12
CN110446048B true CN110446048B (zh) 2023-03-31

Family

ID=68428038

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810425567.1A Active CN110446048B (zh) 2018-05-04 2018-05-04 帧内预测场景中预测模式的选取方法及装置

Country Status (1)

Country Link
CN (1) CN110446048B (zh)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101350927B (zh) * 2008-07-29 2011-07-13 北京中星微电子有限公司 帧内预测选择最优预测模式的方法及装置
CN104954788B (zh) * 2014-03-27 2018-09-04 浙江大华技术股份有限公司 Hevc帧内预测模式选择方法及装置
FR3037756B1 (fr) * 2015-06-18 2020-06-19 Lens Correction Technologies Procede et dispositif de production d'une image numerique
CN107509076B (zh) * 2017-08-25 2019-10-18 中国软件与技术服务股份有限公司 一种面向超高清视频的编码优化方法

Also Published As

Publication number Publication date
CN110446048A (zh) 2019-11-12

Similar Documents

Publication Publication Date Title
US8018994B2 (en) Selecting encoding types and predictive modes for encoding video data
US10003792B2 (en) Video encoder for images
US10291925B2 (en) Techniques for hardware video encoding
RU2518635C2 (ru) Способ и устройство для кодирования и декодирования блока кодирования границы картинки
CN102611823B (zh) 一种基于图片内容选择压缩算法的方法和设备
JPWO2014054267A1 (ja) 画像符号化装置及び画像符号化方法
EP3282701B1 (en) Prediction mode selection method, apparatus and device
US11025913B2 (en) Encoding video using palette prediction and intra-block copy
US20210360246A1 (en) Shape adaptive discrete cosine transform for geometric partitioning with an adaptive number of regions
KR102138650B1 (ko) 디지털 이미지의 블록을 처리하는 시스템 및 방법
US20210037251A1 (en) Video encoding method and apparatus, video decoding method and apparatus, computer device, and storage medium
CN111741297A (zh) 帧间预测方法、视频编码方法及其相关装置
US11395002B2 (en) Prediction direction selection method and apparatus in image encoding, and storage medium
CN110446048B (zh) 帧内预测场景中预测模式的选取方法及装置
CN113170134A (zh) 用于语境分割和处理的基于块的图片融合
JP5980433B2 (ja) HEVC−based3DVCに適用される符号化方法及び装置
CN113691811B (zh) 编码块划分方法、装置、系统及存储介质
KR101378434B1 (ko) 고속 화면내 예측 모드 결정 방법
Lin et al. Coding unit partition prediction technique for fast video encoding in HEVC
Zhang et al. An early CU partition mode decision algorithm in VVC based on variogram for virtual reality 360 degree videos
US11546597B2 (en) Block-based spatial activity measures for pictures
US11889055B2 (en) Methods and systems for combined lossless and lossy coding
KR101756582B1 (ko) 병렬 프로세싱을 위한 적응적 타일 분할 방법 및 이를 이용한 비디오 부호화/복호화 방법
CN111836043A (zh) 码块的预测、解码方法及装置
CN115442617A (zh) 一种基于视频编码的视频处理方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant