CN104954788B - Hevc帧内预测模式选择方法及装置 - Google Patents

Hevc帧内预测模式选择方法及装置 Download PDF

Info

Publication number
CN104954788B
CN104954788B CN201410120063.0A CN201410120063A CN104954788B CN 104954788 B CN104954788 B CN 104954788B CN 201410120063 A CN201410120063 A CN 201410120063A CN 104954788 B CN104954788 B CN 104954788B
Authority
CN
China
Prior art keywords
prediction mode
blocks
rate distortion
distortion costs
candidate pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410120063.0A
Other languages
English (en)
Other versions
CN104954788A (zh
Inventor
黄志伟
林聚财
王叶群
刘文尧
尤冬
张兴明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Dahua Technology Co Ltd
Original Assignee
Zhejiang Dahua Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Dahua Technology Co Ltd filed Critical Zhejiang Dahua Technology Co Ltd
Priority to CN201410120063.0A priority Critical patent/CN104954788B/zh
Publication of CN104954788A publication Critical patent/CN104954788A/zh
Application granted granted Critical
Publication of CN104954788B publication Critical patent/CN104954788B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种HEVC帧内预测模式选择方法及装置,以提高HEVC帧内预测模式的选择效率,降低计算复杂度。该方法为:基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合;根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式。

Description

HEVC帧内预测模式选择方法及装置
技术领域
本发明涉及视频编码技术领域,尤其涉及一种高效视频编码标准(HighEfficiency Video Coding,HEVC)帧内预测模式选择方法及装置。
背景技术
新一代高效视频编码标准HEVC专注于处理高清超高清视频和并行处理架构,主要是针对现有混合编码框架中的每个技术模块进行小步快跑的改进,用积少成多的方法提高编码的性能。但是,HEVC在提升编码效率的同时也大大增加了编码的复杂度。
HEVC将一幅编码图像划分成若干大小可以自行设定的基本单元(Large CodingUnit,LCU)。LCU的大小可以设置的范围是16x16~64x64。一个LCU通常划分成若干编码单元(Coding Unit,CU),一个LCU由通过分割标记(split flag)来控制是否需要向下分割。如果split flag为1,LCU进行四叉树分割,得到四个大小一样CU(宽和高分别是分割前的一半),每向下分割一次,记录分割深度(Depth)加1。HEVC在CU的基础上可以对CU进行预测单元(Prediction Unit,PU)和变换单元(Transform Unit,TU)划分。其中对于帧内预测,PU的预测模式最多有35种。
在HEVC编码端,对于所有的CU块中的PU都要进行各种预测模式的编码尝试,根据率失真代价选取最优的模式作为PU的编码模式。不管是帧内还是帧间PU,都需要尝试帧内35种预测模式,将从中选择出的最佳模式的率失真代价作为PU帧内预测编码的代价。目前,在HEVC的参考模型(HEVC Test Model,HM)工程中,帧内预测过程为:如附图1所示,先利用绝对变换误差和(Sum of Absolute Transformed Difference,SATD)率失真代价函数遍历计算所有35种帧内预测模式的率失真代价,从中选择出几种率失真代价比较小的模式作为候选模式(例如,设定16×16,32×32和64x64尺寸的PU块候选模式为3种,4×4和8×8尺寸的PU块候选模式为8种);然后根据相邻的PU块的预测模式,计算最有可能的最佳预测模式(MPM)后,如果MPM模式不在候选模式集合中,则将其添加到候选模式集中;最后利用SSE率失真代价的函数对候选模式集中的各候选模式进一步计算,选择率失真代价最小的候选模式作为最优的预测模式,即作为该PU的最终帧内预测模式。由此可见,整个帧内预测模式选择过程中对每个PU都要进行35种模式的SATD率失真代价计算,并粗选出几种预测模式进行进一步参与SSE率失真代价计算(其中16×16,32×32和64x64的PU尺寸至少需要3种,4×4及8×8的PU尺寸至少需要8种),整个帧内预测模式的选择过程,计算复杂度很高,时间代价比较大。
发明内容
本发明提供一种HEVC帧内预测模式选择方法及装置,以提高HEVC帧内预测模式的选择效率,降低计算复杂度。
本发明实施例提供的具体技术方案如下:
一种高效视频编码标准HEVC帧内预测模式选择方法,包括:
基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合;
根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式。
一种高效视频编码标准HEVC帧内预测模式选择装置,包括:
粗选模块,用于基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合;
精选模块,用于根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式。
基于上述技术方案,本发明实施例中,通过基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,对预测模式进行粗选,根据采样获得的各帧内预测模式的第一率失真代价确定第一候选模式集合,有效减少了粗选过程中计算第一代价的次数,进而通过设置阈值根据第一候选模式集合中候选的各预测模式的第一率失真代价进行精选,获得第二候选模式集合,在通过第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式,进一步减少了计算第二代价的次数,降低帧内预测模式选择过程的计算复杂度,提高了HEVC帧内预测模式的选择效率。
附图说明
图1为现有的帧内预测模式选择的过程示意图;
图2为本发明实施例中帧内预测模式选择过程示意图;
图3为本发明实施例中HEVC帧内预测模式选择的详细方法流程图;
图4为本发明实施例中预测模式粗选的过程示意图;
图5为本发明实施例中预测模式舍弃的过程示意图;
图6为本发明实施例中阈值Th自适应更新的过程示意图;
图7为本发明实施例中HEVC帧内预测模式选择装置结构示意图。
具体实施方式
为了提高HEVC帧内预测模式的选择效率,降低计算复杂度,本发明实施例提供了一种HEVC帧内预测模式选择方法及装置。
下面结合附图对本发明优选的实施方式进行详细说明。
本发明的核心思想为:如附图2所示,针对当前PU预测单元,首先进行预测模式粗选,具体为:通过将33种角度预测模式根据外部控制参数采样步长(STEP)进行方向采样,通过采样减少了需要粗选的预测模式的个数,根据SATD代价模型计算采样到的角度预测模式的第一率失真代价,选择最佳的预测方向区域,然后再将对应区域中的角度预测模式,以及DC和Planar模式添加到第一候选模式集合中;其次,对第一候选模式集合中的部分预测模式的舍弃,具体为:根据阈值Th和第一候选模式集合中各个预测模式的第一率失真代价,对第一候选模式集合中的部分预测模式进行舍弃得到第二候选模式集合,其中,阈值Th是根据前一帧帧内预测编码过程中的数据进行自适应更新的;最后,利用误差平方和(Sum ofSquared Error,SSE)代价函数对第二候选模式集合中的各预测模式进一步进行第二率失真代价计算,选择最优的预测模式作为当前PU最终的帧内预测模式。
如附图3所示,本发明实施例中提供的HEVC帧内预测模式选择的详细方法流程如下:
步骤301:基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合。
本发明实施例中,根据采样步长将帧内预测模式集合中包含的各角度预测模式划分为多个方向区域,以及根据采样步长分别针对每个所述方向区域确定一个角度预测模式为所述方向区域的代表预测模式;分别计算各代表预测模式的第一率失真代价,将第一率失真代价最小的代表预测模式确定为第一预测模式。
优选地,根据第一预测模式所在方向区域内的各预测模式,以及帧内预测模式集合中包含的除角度预测模式外的其它预测模式(DC和Planar模式),组成第一候选模式集合。
其中,35种帧内预测模式中包含有DC模式、33种角度预测模式和Planar模式,且33种角度预测模式对应的模式编号为2~34。
本发明具体实施中,如附图4所示,对预测模式进行粗选的具体过程如下:
步骤402:将采样获得的模式编号为2+N*STEP的预测模式作为所在方向区域的代表预测模式,分别采用SATD函数计算各代表预测模式的第一率失真代价,将各第一率失真代价中的最小值对应的代表预测模式确定为第一预测模式。
具体地,第一率失真代价的计算公式如下:
Jpred,SATD=SATD+λpred*Bpred
其中,λpred表示系数因子,Bpred表示比特代价,且Diff(i,j)=BlockA(i,j)-BlockB(i,j),BlockA(i,j)表示原始图像块的像素值,BlockB(i,j)表示预测图像块中的像素值。
步骤404:并将该最优方向区域内包含的各角度预测模式加入第一候选模式集合中。
步骤405:计算DC和Planar两种模式的第一率失真代价,并将该两种预测模式加入第一候选模式集合中,至此预测模式粗选过程结束。
步骤302:根据候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式。
具体地,将第一候选模式集合中包含的各预测模式,按照第一率失真代价从小到大的顺序进行排序,排序后的第一率失真代价可表示为CostSatd_0~CostSatd_m,其中,m=2+STEP,STEP表示采样步长;
计算CostSatdk+1-CostSatdk的值,其中,k∈[0,n-1],n=Min(m-1,nRd-1),nRd表示预测单元PU的候选模式数目,如果预测单元PU的像素大小为64×64、32×32或16×16,nRd=3,如果预测单元PU块的像素大小为8×8或4×4,nRd=8;
确定满足条件(CostSatdk+1-CostSatdk)/CostSatdk<Th的CostSatdk对应的预测模式,组成第二候选模式集合,其中,Th表示所述阈值。
具体实施中,如附图5所示,对第一候选模式集合M0中的预测模式进行舍弃的具体过程如下:
步骤501:按照第一率失真代价从小到大的顺序对第一候选模式集合M0中的各预测模式进行排序后,从k=0为初始值,计算(CostSatdk+1-CostSatdk)/CostSatdk的值;
步骤502:判断是否满足条件(CostSatdk+1-CostSatdk)/CostSatdk<Th,若满足,则保留该预测模式至第二候选模式集合M1中,若不满足,舍弃该预测模式;
步骤503:判断是否满足k<min(STEP+2,nRd),若满足,则k=k+1,后转至步骤501,否则,第一候选模式集合的预测模式舍弃过程结束。
优选地,本发明实施例中,阈值Th是根据前一帧图像预测编码过程中的数据进行自适应更新的,具体为:
若当前编码图像为视频的第一帧图像,按照当前的预测单元PU块的大小设置所述阈值Th的初始值;
若当前编码图像不是视频的第一帧图像,根据前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合中包含的各预测模式的第一率失真代价,确定所述当前的预测单元PU块对应的所述阈值Th。
具体地,获取前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合;
针对任一获得的所述第一候选模式集合,将包含的各预测模式按照第一率失真代价从小到大的顺序进行排序后,获取前两个预测模式的第一率失真代价并按照以下公式计算阈值Th,
其中,PUsize表示PU块的大小,num64表示像素大小为64×64的PU块的个数,num32表示像素大小为32×32的PU块的个数,num16表示像素大小为16×16的PU块的个数,num8表示像素大小为8×8的PU块的个数,num4表示像素大小为4×4的PU块的个数,CostSatd_0表示获取前两个预测模式的第一个第一率失真代价,CostSatd_1表示获取前两个预测模式的第二个第一率失真代价。
具体地,若当前编码图像为视频的第一帧图像,按照当前的预测单元PU块的像素大小设置所述阈值Th的初始值,具体存在以下情况:
若所述当前的预测单元PU块的像素大小为64×64,所述阈值Th的初始值为0.134;
若所述当前的预测单元PU块的像素大小为32×32,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为16×16,所述阈值Th的初始值为0.121;
若所述当前的预测单元PU块的像素大小为8×8,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为4×4,所述阈值Th的初始值为0.131。
具体实施中,如附图6所示,阈值Th自适应更新的具体过程如下:
步骤601:以YUV格式的视频为例,假设编码视频当前帧为FrameNum;
步骤602:判断当前帧FrameNum是否为视频的第一帧图像,即判断是否满足FrameNum==0,若是,阈值Th设为初始值,否则,阈值Th由前一帧图像获得,即Th=Th_pre;
步骤603:统计当前帧图像中每个PU帧内预测的数据,判断当前PU的最优的预测模式是否满足第一率失真代价和第二率失真代价同时为最优,若不是,统计下一个PU帧内预测的数据,直至统计至最后一个PU块,若是,执行步骤604;
步骤604:将PU对应的第一模式集合M0中的各预测模式按照第一率失真代价从小到大的顺序进行排序后,获取前两个预测模式的第一率失真代价,计算(CostSatd_1-CostSatd_0)/CostSatd_0并将像素大小相同的PU块的(CostSatd_1-CostSatd_0)/CostSatd_0累加求和,以及记录像素大小不同的各PU的个数num64、num32、num16、num8、num4;
步骤605:根据统计结果计算并更新Th_pre;
步骤606:判断是否为视频的最后一帧,若是,结束,否则,FrameNum=FrameNum+1后转去执行步骤601。
较佳地,针对当前PU选择最优的预测模式时,获取与该PU块相邻的其它PU块的预测模式,计算最有可能的最佳预测模式(MPM)后,如果MPM模式不在第二候选模式集合中,则将其添加进第二候选模式集合中。
优选地,分别采用SSE函数计算所述第二候选模式集合中各预测模式的第二率失真代价,将各第二率失真代价中的最小值对应的预测模式确定为最优的所述第二预测模式。
具体地,第二率失真代价的函数表示为:
Jmode=(SSEluma+Wchroma*SSEchroma)+λmode*Bmode
其中,SSEluma表示亮度平面的SSE代价,SSEchroma表示色度平面的SSE代价,Wchroma表示系数因子,λmode表示系数因子,Bmode表示比特代价,其中,Diff(i,j)=BlockA(i,j)-BlockB(i,j),BlockA(i,j)表示原始图像块,BlockB(i,j)表示预测图像加上残差得到的重建图像,其中残差是由预测图像与原始图像的差值经变换、量化、反量化、反变换、解码得到。
基于相同的原理,如附图7所示,本发明实施例还提供了一种HEVC帧内预测模式选择装置,该装置的具体实施可参见上述方法部分的描述,重复之处不在赘述,该装置主要包括:
粗选模块701,用于基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合;
精选模块702,用于根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式。
优选地,所述粗选模块用于:
根据所述采样步长将所述帧内预测模式集合中包含的各角度预测模式划分为多个方向区域,以及根据所述采样步长分别针对每个所述方向区域确定一个角度预测模式为所述方向区域的代表预测模式;
分别计算各代表预测模式的第一率失真代价,将第一率失真代价最小的代表预测模式确定为第一预测模式。
优选地,所述粗选模块用于:
根据所述采样步长将所述帧内预测模式集合中包含的模式编号为2至34的33种角度预测模式划分为个方向区域,且每个方向区域表示为
将采样获得的模式编号为2+N*STEP的预测模式作为所在方向区域的代表预测模式;
其中,N的取值范围为“-”表示整除,STEP表示所述采样步长;
分别采用SATD函数计算各代表预测模式的第一率失真代价,将各第一率失真代价中的最小值对应的代表预测模式确定为所述第一预测模式。
优选地,所述粗选模块用于:
根据所述第一预测模式所在方向区域内的各预测模式,以及所述帧内预测模式集合中包含的除角度预测模式外的其它预测模式,组成所述第一候选模式集合。
优选地,所述精选模块用于:
将所述第一候选模式集合中包含的各预测模式,按照第一率失真代价的从小到大的顺序进行排序,排序后的第一率失真代价可表示为CostSatd_0~CostSatd_m,其中,m=2+STEP,STEP表示所述采样步长;
计算CostSatdk+1-CostSatdk的值,其中,k∈[0,n-1],n=Min(m-1,nRd-1),nRd表示预测单元PU的候选模式数目,如果预测单元PU的像素大小为64×64、32×32或16×16,nRd=3,如果预测单元PU块的像素大小为8×8或4×4,nRd=8;
确定满足条件(CostSatdk+1-CostSatdk)/CostSatdk<Th的CostSatdk对应的预测模式,组成第二候选模式集合,其中,Th表示所述阈值。
优选地,所述精选模块用于:
若当前编码图像为视频的第一帧图像,按照当前的预测单元PU块的大小设置所述阈值Th的初始值;
若当前编码图像不是视频的第一帧图像,根据前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合中包含的各预测模式的第一率失真代价,确定所述当前的预测单元PU块对应的所述阈值Th。
优选地,所述精选模块用于:
获取前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合;
针对任一获得的所述第一候选模式集合,将包含的各预测模式按照第一率失真代价从小到大的顺序进行排序后,获取前两个预测模式的第一率失真代价并按照以下公式计算阈值Th,
其中,PUsize表示PU块的大小,num64表示像素大小为64×64的PU块的个数,num32表示像素大小为32×32的PU块的个数,num16表示像素大小为16×16的PU块的个数,num8表示像素大小为8×8的PU块的个数,num4表示像素大小为4×4的PU块的个数,CostSatd_0表示获取前两个预测模式的第一个第一率失真代价,CostSatd_1表示获取前两个预测模式的第二个第一率失真代价。
优选地,所述精选模块用于:
若所述当前的预测单元PU块的像素大小为64×64,所述阈值Th的初始值为0.134;
若所述当前的预测单元PU块的像素大小为32×32,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为16×16,所述阈值Th的初始值为0.121;
若所述当前的预测单元PU块的像素大小为8×8,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为4×4,所述阈值Th的初始值为0.131。
优选地,所述精选模块用于:
分别采用SSE函数计算所述第二候选模式集合中各预测模式的第二率失真代价,将各第二率失真代价中的最小值对应的预测模式确定为最优的所述第二预测模式。
本发明实施例中,通过对33种角度预测模式进行方向采样,有效减少了预测模式粗选过程中根据SATD计算第一率失真代价的次数,且方向采样过程中,可以根据需要,通过修改编码配置参数STEP来控制帧内角度预测模式方向采样步长,以此来改变预测模式粗选过程,灵活性很高。
通过对第一候选模式集合中的预测模式根据阈值Th进行舍弃,进一步减少了候选的预测模式的数目,减少了根据SSE计算第二率失真代价的次数,有效减少预测模式精选的计算复杂度,且在对第一候选模式集合中的预测模式舍弃过程中,阈值Th是根据前一帧中的帧内编码数据进行自适应的统计和更新,可以降低算法对编码效率的影响,适应不同的序列和不同的编码参数,灵活性和鲁棒性很高,使得在降低模式选择复杂度的同时,对编码效率几乎没有影响。
基于上述技术方案,本发明实施例中,通过基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,对预测模式进行粗选,根据采样获得的各帧内预测模式的第一率失真代价确定第一候选模式集合,有效减少了粗选过程中计算第一代价的次数,进而通过设置阈值根据第一候选模式集合中候选的各预测模式的第一率失真代价进行精选,获得第二候选模式集合,在通过第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式,进一步减少了计算第二代价的次数,降低帧内预测模式选择过程的计算复杂度,提高了HEVC帧内预测模式的选择效率。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种高效视频编码标准HEVC帧内预测模式选择方法,其特征在于,包括:
基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合;
根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式;
基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,包括:
根据所述采样步长将所述帧内预测模式集合中包含的模式编号为2至34的33种角度预测模式划分为个方向区域,且每个方向区域表示为
将采样获得的模式编号为2+N*STEP的预测模式作为所在方向区域的代表预测模式;
其中,N的取值范围为“-”表示整除,STEP表示所述采样步长,且1<STEP≤16;
分别采用绝对变换误差和SATD函数计算各代表预测模式的第一率失真代价,将各第一率失真代价中的最小值对应的代表预测模式确定为所述第一预测模式;
所述方法还包括:
若当前编码图像为视频的第一帧图像,按照当前的预测单元PU块的大小设置所述阈值Th的初始值;
若当前编码图像不是视频的第一帧图像,根据前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合中包含的各预测模式的第一率失真代价,确定所述当前的预测单元PU块对应的所述阈值Th;
根据前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合中包含的各预测模式的第一率失真代价,确定所述当前的预测单元PU块对应的所述阈值Th,包括:
获取前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合;
针对任一获得的所述第一候选模式集合,将包含的各预测模式按照第一率失真代价从小到大的顺序进行排序后,获取前两个预测模式的第一率失真代价并按照以下公式计算阈值Th,
其中,PUsize表示PU块的大小,num64表示像素大小为64×64的PU块的个数,num32表示像素大小为32×32的PU块的个数,num16表示像素大小为16×16的PU块的个数,num8表示像素大小为8×8的PU块的个数,num4表示像素大小为4×4的PU块的个数,CostSatd_0表示获取前两个预测模式的第一个第一率失真代价,CostSatd_1表示获取前两个预测模式的第二个第一率失真代价。
2.如权利要求1所述的方法,其特征在于,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合,包括:
根据所述第一预测模式所在方向区域内的各预测模式,以及所述帧内预测模式集合中包含的除角度预测模式外的其它预测模式,组成所述第一候选模式集合。
3.如权利要求2所述的方法,其特征在于,根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,包括:
将所述第一候选模式集合中包含的各预测模式,按照第一率失真代价的从小到大的顺序进行排序,排序后的第一率失真代价可表示为CostSatd_0~CostSatd_m,其中,m=2+STEP,STEP表示所述采样步长;
计算CostSatdk+1-CostSatdk的值,其中,k∈[0,n-1],n=Min(m-1,nRd-1),nRd表示预测单元PU的候选模式数目,如果预测单元PU的像素大小为64×64、32×32或16×16,nRd=3,如果预测单元PU块的像素大小为8×8或4×4,nRd=8;
确定满足条件(CostSatdk+1-CostSatdk)/CostSatdk<Th的CostSatdk对应的预测模式,组成第二候选模式集合,其中,Th表示所述阈值。
4.如权利要求1所述的方法,其特征在于,若当前编码图像为视频的第一帧图像,按照当前的预测单元PU块的像素大小设置所述阈值Th的初始值,包括:
若所述当前的预测单元PU块的像素大小为64×64,所述阈值Th的初始值为0.134;
若所述当前的预测单元PU块的像素大小为32×32,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为16×16,所述阈值Th的初始值为0.121;
若所述当前的预测单元PU块的像素大小为8×8,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为4×4,所述阈值Th的初始值为0.131。
5.如权利要求2所述的方法,其特征在于,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式,包括:
分别采用误差平方和SSE函数计算所述第二候选模式集合中各预测模式的第二率失真代价,将各第二率失真代价中的最小值对应的预测模式确定为最优的所述第二预测模式。
6.一种高效视频编码标准HEVC帧内预测模式选择装置,其特征在于,包括:
粗选模块,用于基于设置的采样步长对帧内预测模式集合中包含的各预测模式进行采样,根据采样获得的各帧内预测模式的第一率失真代价确定第一预测模式,根据所述第一预测模式确定候选的各预测模式,组成第一候选模式集合;
精选模块,用于根据所述候选的各预测模式的第一率失真代价,从所述第一候选模式集合中选择满足阈值的预测模式,组成第二候选模式集合,根据所述第二候选模式集合中各预测模式的第二率失真代价,确定最优的第二预测模式;
所述粗选模块用于:
根据所述采样步长将所述帧内预测模式集合中包含的模式编号为2至34的33种角度预测模式划分为个方向区域,且每个方向区域表示为
将采样获得的模式编号为2+N*STEP的预测模式作为所在方向区域的代表预测模式;
其中,N的取值范围为“-”表示整除,STEP表示所述采样步长;
分别采用绝对变换误差和SATD函数计算各代表预测模式的第一率失真代价,将各第一率失真代价中的最小值对应的代表预测模式确定为所述第一预测模式;
所述精选模块用于:
若当前编码图像为视频的第一帧图像,按照当前的预测单元PU块的大小设置所述阈值Th的初始值;
若当前编码图像不是视频的第一帧图像,根据前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合中包含的各预测模式的第一率失真代价,确定所述当前的预测单元PU块对应的所述阈值Th;
所述精选模块用于:
获取前一帧图像中、与当前的预测单元PU块的像素大小相同的所有PU块中,确定的第二预测模式的第一率失真代价为各预测模式中的最小值、第二率失真代价也为各预测模式中的最小值的PU块的第一候选模式集合;
针对任一获得的所述第一候选模式集合,将包含的各预测模式按照第一率失真代价从小到大的顺序进行排序后,获取前两个预测模式的第一率失真代价并按照以下公式计算阈值Th,
其中,PUsize表示PU块的大小,num64表示像素大小为64×64的PU块的个数,num32表示像素大小为32×32的PU块的个数,num16表示像素大小为16×16的PU块的个数,num8表示像素大小为8×8的PU块的个数,num4表示像素大小为4×4的PU块的个数,CostSatd_0表示获取前两个预测模式的第一个第一率失真代价,CostSatd_1表示获取前两个预测模式的第二个第一率失真代价。
7.如权利要求6所述的装置,其特征在于,所述粗选模块用于:
根据所述第一预测模式所在方向区域内的各预测模式,以及所述帧内预测模式集合中包含的除角度预测模式外的其它预测模式,组成所述第一候选模式集合。
8.如权利要求7所述的装置,其特征在于,所述精选模块用于:
将所述第一候选模式集合中包含的各预测模式,按照第一率失真代价的从小到大的顺序进行排序,排序后的第一率失真代价可表示为CostSatd_0~CostSatd_m,其中,m=2+STEP,STEP表示所述采样步长;
计算CostSatdk+1-CostSatdk的值,其中,k∈[0,n-1],n=Min(m-1,nRd-1),nRd表示预测单元PU的候选模式数目,如果预测单元PU的像素大小为64×64、32×32或16×16,nRd=3,如果预测单元PU块的像素大小为8×8或4×4,nRd=8;
确定满足条件(CostSatdk+1-CostSatdk)/CostSatdk<Th的CostSatdk对应的预测模式,组成第二候选模式集合,其中,Th表示所述阈值。
9.如权利要求6所述的装置,其特征在于,所述精选模块用于:
若所述当前的预测单元PU块的像素大小为64×64,所述阈值Th的初始值为0.134;
若所述当前的预测单元PU块的像素大小为32×32,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为16×16,所述阈值Th的初始值为0.121;
若所述当前的预测单元PU块的像素大小为8×8,所述阈值Th的初始值为0.119;
若所述当前的预测单元PU块的像素大小为4×4,所述阈值Th的初始值为0.131。
10.如权利要求7所述的装置,其特征在于,所述精选模块用于:
分别采用误差平方和SSE函数计算所述第二候选模式集合中各预测模式的第二率失真代价,将各第二率失真代价中的最小值对应的预测模式确定为最优的所述第二预测模式。
CN201410120063.0A 2014-03-27 2014-03-27 Hevc帧内预测模式选择方法及装置 Active CN104954788B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410120063.0A CN104954788B (zh) 2014-03-27 2014-03-27 Hevc帧内预测模式选择方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410120063.0A CN104954788B (zh) 2014-03-27 2014-03-27 Hevc帧内预测模式选择方法及装置

Publications (2)

Publication Number Publication Date
CN104954788A CN104954788A (zh) 2015-09-30
CN104954788B true CN104954788B (zh) 2018-09-04

Family

ID=54169086

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410120063.0A Active CN104954788B (zh) 2014-03-27 2014-03-27 Hevc帧内预测模式选择方法及装置

Country Status (1)

Country Link
CN (1) CN104954788B (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105847794A (zh) * 2015-11-18 2016-08-10 西安邮电大学 一种hevc帧内预测模式快速选择方法
CN109120926B (zh) * 2017-06-23 2019-08-13 腾讯科技(深圳)有限公司 预测模式选择方法、装置及介质
CN110049339B (zh) 2018-01-16 2023-02-17 腾讯科技(深圳)有限公司 图像编码中的预测方向选取方法、装置和存储介质
CN108366256A (zh) * 2018-01-25 2018-08-03 西安电子科技大学 一种hevc帧内预测模式快速选择系统及方法
CN108259912A (zh) * 2018-03-28 2018-07-06 天津大学 一种分像素运动估计的并行实现方法
CN110418132A (zh) * 2018-04-27 2019-11-05 晨星半导体股份有限公司 帧内预测模式决定装置与帧内预测模式决定方法
CN110213576B (zh) 2018-05-03 2023-02-28 腾讯科技(深圳)有限公司 视频编码方法、视频编码装置、电子设备及存储介质
CN110446048B (zh) * 2018-05-04 2023-03-31 阿里巴巴集团控股有限公司 帧内预测场景中预测模式的选取方法及装置
CN110198442B (zh) * 2018-12-27 2023-02-28 腾讯科技(深圳)有限公司 一种用于视频编码的帧内预测方法、装置和存储介质
CN110213594A (zh) 2018-12-29 2019-09-06 腾讯科技(深圳)有限公司 用于帧内编码的方法、装置、帧编码器、帧编码系统以及计算机可读存储媒体
CN111988605B (zh) * 2020-07-31 2023-11-21 广州市百果园信息技术有限公司 模式选择方法、装置、计算机可读存储介质及电子设备
CN112565752B (zh) * 2020-11-13 2023-04-14 北京百度网讯科技有限公司 对视频数据进行编码的方法、装置、设备和介质
WO2023050370A1 (zh) * 2021-09-30 2023-04-06 Oppo广东移动通信有限公司 帧内预测的方法、解码器、编码器和编解码系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101141649A (zh) * 2007-07-31 2008-03-12 北京大学 用于视频编码的帧内预测编码最佳模式的选取方法及装置
CN102843559A (zh) * 2012-09-12 2012-12-26 清华大学 基于纹理特性的hevc帧内预测模式的快速选择方法及装置
CN103338371A (zh) * 2013-06-07 2013-10-02 东华理工大学 一种快速高效率视频编码帧内模式判决方法
CN103581682A (zh) * 2013-08-14 2014-02-12 北京交通大学 一种hevc帧内编码的快速模式决策算法及其应用

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2082585A2 (en) * 2006-10-18 2009-07-29 Thomson Licensing Method and apparatus for video coding using prediction data refinement
US8693551B2 (en) * 2011-11-16 2014-04-08 Vanguard Software Solutions, Inc. Optimal angular intra prediction for block-based video coding
CN102665078A (zh) * 2012-05-08 2012-09-12 北方工业大学 用于hevc的基于方向矢量的帧内预测模式决策
CN102665079B (zh) * 2012-05-08 2014-11-26 北方工业大学 用于hevc的自适应快速帧内预测模式决策方法
CN103327325B (zh) * 2013-05-13 2016-05-25 西安电子科技大学 基于hevc标准的帧内预测模式快速自适应选择方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101141649A (zh) * 2007-07-31 2008-03-12 北京大学 用于视频编码的帧内预测编码最佳模式的选取方法及装置
CN102843559A (zh) * 2012-09-12 2012-12-26 清华大学 基于纹理特性的hevc帧内预测模式的快速选择方法及装置
CN103338371A (zh) * 2013-06-07 2013-10-02 东华理工大学 一种快速高效率视频编码帧内模式判决方法
CN103581682A (zh) * 2013-08-14 2014-02-12 北京交通大学 一种hevc帧内编码的快速模式决策算法及其应用

Also Published As

Publication number Publication date
CN104954788A (zh) 2015-09-30

Similar Documents

Publication Publication Date Title
CN104954788B (zh) Hevc帧内预测模式选择方法及装置
CN104883571B (zh) 图像解码设备
CN103096066B (zh) 视频数据的解码设备
CN109688414B (zh) 一种vvc帧内编码单元候选预测模式缩减及块划分提前终止方法
KR101479129B1 (ko) 가변 크기의 매크로블록을 이용한 영상 부호화/복호화 방법 및 장치
CN103096070B (zh) 推导量化参数的方法
CN103069800B (zh) 用于编码视频的方法和设备、以及解码方法和设备
CN103988506B (zh) 帧内预测方法及其设备
CN103891283B (zh) 帧内预测的方法和设备
KR101752615B1 (ko) 인트라 모드 코딩을 위한 방법 및 장치
TWI520586B (zh) 用於編碼單元的視訊編碼的局部多重假設預測的執行方法及裝置
CN108605124A (zh) 一种视频编解码的方法及装置
KR20130002297A (ko) 영상의 인트라 예측 부호화, 복호화 방법 및 장치
CN103096069A (zh) 推导帧内预测模式的方法和设备
CN103096071A (zh) 导出运动信息的方法
CN103220522A (zh) 对视频编码的方法和设备及对视频解码的方法和设备
EP4258658A1 (en) Prediction method, encoder, decoder and storage medium
CN103096073A (zh) 构造合并列表的方法
KR101737861B1 (ko) 변환 깊이 기반 dct 사이즈 결정 장치 및 방법
CN103931193B (zh) 编码/解码图像的方法和装置
CN104662902A (zh) 用于视频编码的受限帧内解块过滤
CN104954787B (zh) Hevc帧间预测模式选择方法及装置
US20130336398A1 (en) Method and device for intra-prediction
CN109845256A (zh) 影像编码方法/装置、影像解码方法/装置以及保存有比特流的记录介质
CN106688238A (zh) 改进后的深度图帧内编码的参考像素点选择和滤波

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant