CN108881904A - 基于Sobel算子的帧内快速判决方法、装置及存储介质 - Google Patents
基于Sobel算子的帧内快速判决方法、装置及存储介质 Download PDFInfo
- Publication number
- CN108881904A CN108881904A CN201810658512.5A CN201810658512A CN108881904A CN 108881904 A CN108881904 A CN 108881904A CN 201810658512 A CN201810658512 A CN 201810658512A CN 108881904 A CN108881904 A CN 108881904A
- Authority
- CN
- China
- Prior art keywords
- threshold
- gradient
- prediction mode
- current
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 230000008569 process Effects 0.000 claims abstract description 23
- 238000005192 partition Methods 0.000 claims abstract description 15
- 238000012545 processing Methods 0.000 claims description 9
- 230000000694 effects Effects 0.000 abstract description 3
- 239000002131 composite material Substances 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 6
- 230000009286 beneficial effect Effects 0.000 description 5
- 238000000638 solvent extraction Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000011056 performance test Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明公开了一种基于Sobel算子的帧内快速判决方法、装置及存储介质，该方法包括：根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，从而对当前CU进行划分决策；在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，从而选取出当前PU对应的最优预测模式。本发明能够准确快速决策是否继续对当前CU进行递归划分，以达到减少递归划分时间的目的，并且能够在预测模式选取时，跳过其他模式，仅在对应的模式候选集合中选取，达到减少遍历模式选择时间的效果。本发明可广泛应用于视频编码领域中。
Description
技术领域
本发明涉及视频编码技术，尤其涉及一种基于Sobel算子的帧内快速判决方法、装置及存储介质。
背景技术
技术词解释：
RDO：率失真优化。
H.265是由Joint Collaborative Team on Video Coding(JCT-VC)提出的继H.264之后的新一代视频编码标准。H.265保留了原来属于H.264的技术框架的基础上，同时结合了运动补偿预测、变换编码等技术。除此之外，H.265还采用了更为灵活的四叉树划分块的方案，并将预测模式增加至35种，以满足复杂的需求。而这些技术大大提高了H.265的编码效率。与上一代编码技术H.264/AVC相比，H.265能够以相似的编码质量节省高达50％的比特率。然而，在带来性能增加的同时，编码器的复杂度也随之提高，所以有效地减少编码时间是迫切需要解决的问题。
在H.265中，编码复杂度最大的就是预测编码部分，它分为帧内预测和帧间预测，而对于帧内预测部分，其又分为块划分和预测模式的决策。如图1所示，对于每个编码帧序列，首先被划分为多个最大编码单元(CTU)，每个CTU接下来会被递归划分为多种尺寸的CU(包括32×32、16×16、8×8)，而对于每种尺寸的CU(编码单元)都会计算RD-Cost(率失真代价)，并选择RD-Cost最小所对应的尺寸作为最佳CU尺寸。根据最佳CU尺寸，PU(预测单元)的尺寸将会对应确定。接下来，将会使用拉格朗日率失真优化对35种预测模式进行选择，最终选择出一种最佳预测模式，其中，图2展示了H.265的35种预测模式。可见，相比之前H.264/AVC的固定大小的编码单元和9种预测模式，H.265的技术改进可以给编码器带来编码性能的提升，但是同时因为有了更为复杂的技术尝试，编码时间也是成倍的增加。虽然近年来，已经提出了许多算法来减低H.265中帧内预测的复杂度，以缩短编码时间，例如：1、使用统计方法来对不同类型的视频的划分情况进行统计，找到划分规律并据此建立算法以减少划分时间，或者，使用最小均方误差估计器来对当前帧序列进行计算，并根据计算的结果与给定的阈值进行比较，以确定是否进行进一步划分，但是这些快速算法的效果并不显著；2、使用简单梯度滤波器来建立快速模式决策算法，但是往往带来较高的BD-Rate变化，影响编码效率。
发明内容
为了解决上述技术问题，本发明的目的是提供一种基于Sobel算子的帧内快速判决方法、装置及存储介质，可在保证编码的前提下，减少编码时间，提高编码处理效率。
本发明所采用的第一技术方案是：基于Sobel算子的帧内快速判决方法，包括以下步骤：
根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；
在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；
在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式；
其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。
进一步，所述根据阈值判断结果，对当前CU进行划分决策这一步骤，其具体包括：
当最大梯度值小于第一阈值时，退出当前CU的递归划分过程；
当最大梯度值大于等于第一阈值且最小梯度值小于等于第二阈值时，采用原始CU划分算法来对当前CU进行划分处理；
或，
当最大梯度值大于等于第一阈值且最小梯度值大于第二阈值时，跳过RDO处理过程，直接对当前CU进行划分处理。
进一步，所述根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式这一步骤，其具体包括：
当最大梯度比小于第三阈值时，将当前PU的预测模式候选集合更新为包含DC预测模式和Planar预测模式的集合后，利用更新后得到的预测模式候选集合，从而选取出当前PU 对应的最优预测模式；
当最大梯度比大于等于第三阈值且最小梯度比大于第四阈值时，将与当前PU最相近的两种纹理分别对应的两个预测模式候选集合进行合并，利用合并得到的预测模式候选集合，从而选取出当前PU对应的最优预测模式；
或，
当最大梯度比大于等于第三阈值且最小梯度比小于等于第四阈值时，从35种预测模式中选取出当前PU对应的最优预测模式。
进一步，所述预测模式候选集合通过初始分类步骤进行初始化分类；所述初始分类步骤包括：
令水平梯度的预测模式候选集合、垂直梯度的预测模式候选集合、45°梯度的预测模式候选集合和135°梯度的预测模式候选集合均包含DC预测模式和Planar预测模式；
令满足第一角度条件的预测模式加入水平梯度的预测模式候选集合中，所述第一角度条件的公式为：
令满足第二角度条件的预测模式加入垂直梯度的预测模式候选集合中，所述第二角度条件的公式为：
令满足第三角度条件的预测模式加入45°梯度的预测模式候选集合中，所述第三角度条件的公式为：
令同时不满足第一角度条件、第二角度条件和第三角度条件的预测模式加入135°梯度的预测模式候选集合中。
进一步，所述四个不同方向的Sobel算子包括水平方向的Sobel算子、垂直方向的Sobel 算子、45°方向的Sobel算子和135°方向的Sobel算子。
进一步，所述第一阈值和第二阈值，它们的取值为：
当QP＝22时，所述第一阈值为15，所述第二阈值为22.5；
当QP＝27时，所述第一阈值为13，所述第二阈值为19.5；
当QP＝32时，所述第一阈值为10.5，所述第二阈值为15.5；
或，
当QP＝37时，所述第一阈值为9，所述第二阈值为13.5。
进一步，所述第三阈值为0.9，所述第四阈值为1.2。
本发明所采用的第二技术方案是：基于Sobel算子的帧内快速判决装置，包括：
计算模块，用于根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；
划分模块，用于在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；
选取模块，用于在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU 对应的最优预测模式；
其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。
本发明所采用的第三技术方案是：基于Sobel算子的帧内快速判决装置，包括：
至少一个处理器；
至少一个存储器，用于存储至少一个程序；
当所述至少一个程序被所述至少一个处理器执行，使得所述至少一个处理器实现所述基于Sobel算子的帧内快速判决方法。
本发明所采用的第四技术方案是：一种存储介质，其中存储有处理器可执行的指令，所述处理器可执行的指令在由处理器执行时用于执行所述基于Sobel算子的帧内快速判决方法。
本发明方法、装置及存储介质的有益效果是：本发明通过利用四个不同方向的Sobel算子来计算出当前CU的四个梯度值后，在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，从而根据阈值判断结果，对当前CU进行划分决策，以快速决策是否需要对当前CU继续进行递归划分；在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比(最大梯度值和最小梯度值之间的比值)和最小梯度比(最小梯度值和第二最小梯度值之间的比值)进行阈值判断，根据阈值判断结果，选取出当前PU对应的最优预测模式。可见，利用基于Sobel算子而计算出的当前 CU的梯度值来反映当前CU的图像纹理情况，从而快速决策是否继续对当前CU进行递归划分，若满足阈值判断条件则直接跳出当前CU递归划分过程，这样能够在保证编码质量的前提下，减少递归划分时间的目的，提高编码效率；并且，通过利用第三阈值和第四阈值来对最大梯度比和最小梯度比的阈值判断结果，获得相对应的预测模式候选集合，从而利用相对应的预测模式候选集合来实现最优模式的选取，这样能够在预测模式选取时，跳过其他模式，仅在对应的模式候选集合中选取，达到减少遍历模式选择时间的效果。
附图说明
图1是CU的四叉树划分示意图；
图2是H.265的35种预测模式的示意图；
图3是本发明一种基于Sobel算子的帧内快速判决方法中步骤S102的流程示意图；
图4是本发明一种基于Sobel算子的帧内快速判决方法中步骤S103的流程示意图；
图5是本发明一种基于Sobel算子的帧内快速判决装置的第一具体实施例结构框图；
图6是本发明一种基于Sobel算子的帧内快速判决装置的第二具体实施例结构框图。
具体实施方式
下面结合附图和具体实施例对本发明做进一步的详细说明。对于以下实施例中的步骤编号，其仅为了便于阐述说明而设置，对步骤之间的顺序不做任何限定，实施例中的各步骤的执行顺序均可根据本领域技术人员的理解来进行适应性调整。
本发明实施例提供了一种基于Sobel算子的帧内快速判决方法，其所包括的具体步骤如下所示。
步骤S101、根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值。
具体地，在本实施例中，利用图像的纹理特性来反映当前序列的内容特性，而纹理特性则可以通过边缘检测的方法来反映，因此，本发明为每个CU建立一个基于Sobel算子的梯度滤波器，其中，本发明所使用的Sobel算子优选包括有水平方向的Sobel算子、45°方向的 Sobel算子、垂直方向的Sobel算子和135°方向的Sobel算子，具体从上至下依次如表1-4所示：
表1
| -1 | -2 | -1 |
| 0 | 0 | 0 |
| 1 | 2 | 1 |
表2
| -2 | -1 | 0 |
| -1 | 0 | 1 |
| 0 | 1 | 2 |
表3
| -1 | 0 | 1 |
| -2 | 0 | 2 |
| -1 | 0 | 1 |
表4
| 0 | 1 | 2 |
| -1 | 0 | 1 |
| -2 | -1 | 0 |
根据上述给出的四个不同方向的Sobel算子，可以得到四个方向的梯度值计算公式，具体如以下第一公式至第四公式所示：
1)、第一公式，基于水平方向的Sobel算子而计算得出的梯度值Grad_x：
2)、第二公式，基于45°方向的Sobel算子而计算得出的梯度值Grad_45：
3)、第三公式，基于垂直方向的Sobel算子而计算得出的梯度值Grad_y：
4)、第四公式，基于135°方向的Sobel算子而计算得出的梯度值Grad_135：
上式中，i和j分别代表当前CU内像素对应的横坐标和纵坐标；m和n分别代表当前CU的高度和宽度。
可见，通过上述第一至第四公式，能够准确快速地计算出当前CU的四个梯度值。
步骤S102、在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策。
具体地，对于H.265，其实使用四叉树的方式来划分得到最优的编码单元(CU)；在H.265 的CU划分过程中，对于具有复杂纹理的部分，总是会使用更大的划分深度来获取更小的编码尺寸，以反映出图像中的高频信息；反之，对于具有简单纹理的部分，总是会使用较小的划分深度来获取较大的编码尺寸，以减少计算复杂度，因此，是否继续进行CU的递归划分，这取决于当前CU的纹理复杂度。
基于以上的原理分析，在本发明实施例中，通过上述计算得出的四个不同方向的梯度值来预测CU的划分判决过程，具体地：通过分析所述四个梯度值中最大梯度值和最小梯度值与两个给定的阈值，即第一阈值thr1和第二阈值thr2，它们之间的数值大小关系，从而判断是否继续CU划分过程。其中，对于上述第一阈值thr1和第二阈值thr2，它们是在不同的量化参数(QP)下，通过测试来自Class A～Class D的不同序列从而选出最优编码率(即高速度)时所对应的阈值，具体阈值数值如以下阈值表格1所示：
表5
| QP测试值 | thr1 | thr2 |
| QP＝22 | 15 | 22.5 |
| QP＝27 | 13 | 19.5 |
| QP＝32 | 10.5 | 15.5 |
| QP＝37 | 9 | 13.5 |
可见，对于上述第一阈值thr1和第二阈值thr2，它们的具体取值分别为：
当QP＝22时，所述第一阈值为15，所述第二阈值为22.5；
当QP＝27时，所述第一阈值为13，所述第二阈值为19.5；
当QP＝32时，所述第一阈值为10.5，所述第二阈值为15.5；
或，
当QP＝37时，所述第一阈值为9，所述第二阈值为13.5。
进一步地，所述步骤S102具体为：
当按照上述第一公式至第四公式来计算出当前CU的四个方向的梯度值时，对四个方向的梯度值按照数值从大至小的顺序进行排序并建立对应的梯度图，然后，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；
优选地，本发明实施例所采用的阈值判断决策规则具体如下：
在对当前CU进行RDO计算之前，分析当前的CU最大梯度值是否满足以下第五公式，若满足，则认为当前CU的纹理简单，则不需要再进一步划分，直接退出当前CU的递归划分过程；所述第五公式具体如下所示：
Gradmax<thr1
也就是说，当最大梯度值Gradmax小于第一阈值时，则直接退出当前CU的递归划分过程；其中，第五公式中的Gradmax表示为当前CU所对应的四个梯度值中数值为最大的梯度值，即最大梯度值；
而当不满足第五公式时，则进一步检查当前CU的最小梯度值是否满足以下第六公式，若满足，则说明当前CU的纹理十分复杂，则可直接划分当前CU，不进行RDO处理过程；
Gradmin>thr2
也就是说，当最大梯度值Gradmax大于等于第一阈值且最小梯度值Gradmin大于第二阈值时，跳过不处理RDO过程，直接对当前CU进行划分处理，划分深度+1；其中，第六公式中的Gradmin表示为当前CU所对应的四个梯度值中最小的梯度值，即最小梯度值；
若既不满足上述第五公式，且又不满足上述第六公式，则认为无法判断当前CU的纹理情况，为了保持编码效率，则不使用本算法，而采用原始CU划分算法来对当前CU进行划分处理(此处所述的原始CU划分算法指的是现有的CU划分算法，因此此处不再累赘描述)，也就是说，当最大梯度值Gradmax大于等于第一阈值且最小梯度值Gradmin小于等于第二阈值时，采用原始CU划分算法来对当前CU进行划分处理。对于此阈值判断决策处理过程的流程示意图具体如图3所示。
步骤S103、在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式。其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。
具体地，针对预测单元PU，H.265提供了35种预测模式，其中包括DC角度预测模式、Planar角度预测模式以及其它33种角度预测模式。为了进一步提高编码效率，本算法使用复合纹理方向来反映纹理特性，建立四个梯度与35种预测模式之间的映射关系，从而既可减少了判断候选模式的复杂度，又可以保持较高的编码效率。因此，在本实施例中，在执行步骤 S103之前设有初始分类步骤S100，用于将35种预测模式划分为四大类预测模式候选集合，并将它们作为当前PU的初始化预测模式候选集合；优选地，所述初始分类步骤S100具体包括：
步骤S1001、令水平梯度的预测模式候选集合、垂直梯度的预测模式候选集合、45°梯度的预测模式候选集合和135°梯度的预测模式候选集合均包含DC预测模式和Planar预测模式；
步骤S1002、令满足第一角度条件的预测模式加入水平梯度的预测模式候选集合中，所述第一角度条件的公式为：
步骤S1003、令满足第二角度条件的预测模式加入垂直梯度的预测模式候选集合中，所述第二角度条件的公式为：
步骤S1004、令满足第三角度条件的预测模式加入45°梯度的预测模式候选集合中，所述第三角度条件的公式为：
步骤S1005、令同时不满足第一角度条件、第二角度条件和第三角度条件的预测模式加入135°梯度的预测模式候选集合中。
可见，对于初始分类步骤所采用的初始分类规则，其是：令水平梯度的预测模式候选集合、垂直梯度的预测模式候选集合、45°梯度的预测模式候选集合和135°梯度的预测模式候选集合这四个集合均包含DC预测模式和Planar预测模式，然后将其余33种的角度预测模式按照上述第一、第二、第三角度条件来进行判断，从而划分至对应的预测模式候选集合中。
然后，对所述最大梯度比MaxGR和最小梯度比MinGR进行定义，它们具体被定义的计算公式分别如下第七公式和第八公式所示：
可见，最大梯度比MaxGR被定义为最大梯度值Gradmax和最小梯度值Gradmin之间的比值，最小梯度比MinGR被定义为最小梯度值Gradmin和第二最小梯度值Gradsecmin之间的比值；其中，所述第二最小梯度值Gradsecmin指的是，在按照数值从大至小顺序排序好的四个梯度值中，位置为倒数第二个的梯度值，即倒数第二小的梯度值。通过上述第七公式和第八公式，并结合最大梯度值、最小梯度值及第二最小梯度值，便能分别计算得出所需的最大梯度比和最小梯度比。
接着，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式。
具体地，通过判断当前PU的MaxGR和MinGR与给定阈值thr3和thr4之间的数值大小关系，从而判断出当前PU的纹理复杂性，更新当前PU的候选集，并利用更新后得到的当前候选集来选取出最优预测模式。
优选地，本发明实施例中所采用的阈值判断选取方式，即根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式这一步骤，其具体包括：
比较MaxGR与第三阈值thr3的大小，若满足第九公式，则认为当前PU对应的四个方向的梯度值分布较为平均，此时则将当前PU的候选集合更新为DC+Planar模式；其中，所述第九公式具体如下所示：
MaxGR<thr3
也就是说，当最大梯度比小于第三阈值时，将当前PU的预测模式候选集合更新为包含 DC预测模式和Planar预测模式的集合后，利用更新后得到的预测模式候选集合，从而在RDO 处理后选取出当前PU对应的最优预测模式；
若不满足第九公式，则比较MinGR与第四阈值thr4的大小，若满足第十公式，则认为当前PU至少有两种纹理分布接近，那么将候选集合更新为这两个纹理候选集内所有模式；其中，所述第十公式具体如下所示：
MinGR>thr4
也就是说，当最大梯度比大于等于第三阈值且最小梯度比大于第四阈值时，将与当前PU 最相近的两种纹理(水平、45°、垂直、135°中与当前PU最相近的两种纹理)分别对应的两个预测模式候选集合进行合并，利用合并得到的预测模式候选集合，从而在RDO处理后选取出当前PU对应的最优预测模式；
若既不满足第九公式且又不满足第十公式，则认为当前PU内的纹理分布情况无法判断，将候选集还原为原始35种模式，也就是说，当最大梯度比大于等于第三阈值且最小梯度比小于等于第四阈值时，从35种预测模式中选取出当前PU对应的最优预测模式，此处所述的35 种预测模式就是H.265所提供的35种角度预测模式。对于此阈值判断选取处理过程的流程示意图具体如图4所示。
优选地，对于上述第三阈值和第四阈值，它们是在不同的量化参数(QP)下，通过测试来自Class A～Class D的不同序列从而选出最优编码率(即高速度)时所对应的阈值，第三阈值和第四阈值分别设置为0.9和1.2。
通过上述本发明方法来进行H.265的编码测试，其具体得到的性能实验数据如表6所示所示：
表6实验数据
基于上述的实验结果可得，通过使用本发明算法，在H.265的编码过程中，既可以做到明显降低编码复杂度，又可以保持极少的BD-Rate变化，优化性能极高。
由上述可得，本发明基于四个不同方向的Sobel算子来对当前CU计算对应的梯度值，以反映当前CU的图像纹理情况，并根据梯度值来快速决策是否需要进一步对CU递归划分，如符合阈值条件，则跳出当前递归或跳过RDO处理过程，以达到减少递归划分/处理时间的目的；而且，对四个梯度值和预测模式表之间建立映射关系，如若符合阈值条件，则能仅在少数模式下进行选择，跳过其它模式，以达到减少遍历模式选择时间的目的；还有，本发明使用组合梯度，而不是单一梯度来对图像的纹理特性进行描述，这样能有利于提高快速决策的精准度。
如图5所示，本发明实施例还提供了一种基于Sobel算子的帧内快速判决装置，包括：
计算模块，用于根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；
划分模块，用于在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；
选取模块，用于在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU 对应的最优预测模式；
其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。
上述方法实施例中的内容均适用于本装置实施例中，本装置实施例所具体实现的功能与上述方法实施例相同，并且达到的有益效果与上述方法实施例所达到的有益效果也相同。
如图6所示，本发明实施例还提供了一种基于Sobel算子的帧内快速判决装置，包括：
至少一个处理器201；
至少一个存储器202，用于存储至少一个程序；
当所述至少一个程序被所述至少一个处理器201执行，使得所述至少一个处理器201实现所述基于Sobel算子的帧内快速判决方法。
上述方法实施例中的内容均适用于本装置实施例中，本装置实施例所具体实现的功能与上述方法实施例相同，并且达到的有益效果与上述方法实施例所达到的有益效果也相同。
本发明实施例还提供了一种存储介质，其中存储有处理器可执行的指令，所述处理器可执行的指令在由处理器执行时用于执行所述基于Sobel算子的帧内快速判决方法。
以上是对本发明的较佳实施进行了具体说明，但本发明创造并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。
Claims (10)
1.基于Sobel算子的帧内快速判决方法，其特征在于，包括以下步骤：
根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；
在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；
在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式；
其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。
2.根据权利要求1所述基于Sobel算子的帧内快速判决方法，其特征在于，所述根据阈值判断结果，对当前CU进行划分决策这一步骤，其具体包括：
当最大梯度值小于第一阈值时，退出当前CU的递归划分过程；
当最大梯度值大于等于第一阈值且最小梯度值小于等于第二阈值时，采用原始CU划分算法来对当前CU进行划分处理；
或，
当最大梯度值大于等于第一阈值且最小梯度值大于第二阈值时，跳过RDO处理过程，直接对当前CU进行划分处理。
3.根据权利要求1所述基于Sobel算子的帧内快速判决方法，其特征在于，所述根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式这一步骤，其具体包括：
当最大梯度比小于第三阈值时，将当前PU的预测模式候选集合更新为包含DC预测模式和Planar预测模式的集合后，利用更新后得到的预测模式候选集合，从而选取出当前PU对应的最优预测模式；
当最大梯度比大于等于第三阈值且最小梯度比大于第四阈值时，将与当前PU最相近的两种纹理分别对应的两个预测模式候选集合进行合并，利用合并得到的预测模式候选集合，从而选取出当前PU对应的最优预测模式；
或，
当最大梯度比大于等于第三阈值且最小梯度比小于等于第四阈值时，从35种预测模式中选取出当前PU对应的最优预测模式。
4.根据权利要求3所述基于Sobel算子的帧内快速判决方法，其特征在于，所述预测模式候选集合通过初始分类步骤进行初始化分类；所述初始分类步骤包括：
令水平梯度的预测模式候选集合、垂直梯度的预测模式候选集合、45°梯度的预测模式候选集合和135°梯度的预测模式候选集合均包含DC预测模式和Planar预测模式；
令满足第一角度条件的预测模式加入水平梯度的预测模式候选集合中，所述第一角度条件的公式为：
令满足第二角度条件的预测模式加入垂直梯度的预测模式候选集合中，所述第二角度条件的公式为：
令满足第三角度条件的预测模式加入45°梯度的预测模式候选集合中，所述第三角度条件的公式为：
令同时不满足第一角度条件、第二角度条件和第三角度条件的预测模式加入135°梯度的预测模式候选集合中。
5.根据权利要求1-4任一项所述基于Sobel算子的帧内快速判决方法，其特征在于，所述四个不同方向的Sobel算子包括水平方向的Sobel算子、垂直方向的Sobel算子、45°方向的Sobel算子和135°方向的Sobel算子。
6.根据权利要求1-4任一项所述基于Sobel算子的帧内快速判决方法，其特征在于，所述第一阈值和第二阈值，它们的取值为：
当QP＝22时，所述第一阈值为15，所述第二阈值为22.5；
当QP＝27时，所述第一阈值为13，所述第二阈值为19.5；
当QP＝32时，所述第一阈值为10.5，所述第二阈值为15.5；
或，
当QP＝37时，所述第一阈值为9，所述第二阈值为13.5。
7.根据权利要求1-4任一项所述基于Sobel算子的帧内快速判决方法，其特征在于，所述第三阈值为0.9，所述第四阈值为1.2。
8.基于Sobel算子的帧内快速判决装置，其特征在于，包括：
计算模块，用于根据四个不同方向的Sobel算子，计算出当前CU的四个梯度值；
划分模块，用于在CU划分过程中，根据给定的第一阈值和第二阈值，分别对四个梯度值中的最大梯度值和最小梯度值进行阈值判断，根据阈值判断结果，对当前CU进行划分决策；
选取模块，用于在PU选取过程中，根据给定的第三阈值和第四阈值，分别对最大梯度比和最小梯度比进行阈值判断，根据阈值判断结果，利用预测模式候选集合来选取出当前PU对应的最优预测模式；
其中，所述最大梯度比为最大梯度值和最小梯度值之间的比值，所述最小梯度比为最小梯度值和第二最小梯度值之间的比值。
9.基于Sobel算子的帧内快速判决装置，其特征在于，包括：
至少一个处理器；
至少一个存储器，用于存储至少一个程序；
当所述至少一个程序被所述至少一个处理器执行，使得所述至少一个处理器实现如权利要求1-7任一项所述基于Sobel算子的帧内快速判决方法。
10.一种存储介质，其中存储有处理器可执行的指令，其特征在于，所述处理器可执行的指令在由处理器执行时用于执行如权利要求1-7任一项所述基于Sobel算子的帧内快速判决方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810658512.5A CN108881904A (zh) | 2018-06-25 | 2018-06-25 | 基于Sobel算子的帧内快速判决方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810658512.5A CN108881904A (zh) | 2018-06-25 | 2018-06-25 | 基于Sobel算子的帧内快速判决方法、装置及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108881904A true CN108881904A (zh) | 2018-11-23 |
Family
ID=64294677
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810658512.5A Pending CN108881904A (zh) | 2018-06-25 | 2018-06-25 | 基于Sobel算子的帧内快速判决方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108881904A (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110430427A (zh) * | 2019-08-07 | 2019-11-08 | 杭州微帧信息科技有限公司 | 一种基于skip模式编码结果的快速视频编码决策方法与系统 |
| CN111246221A (zh) * | 2020-01-22 | 2020-06-05 | 中山大学 | 一种avs3帧内快速划分方法、系统及存储介质 |
| CN111918059A (zh) * | 2020-07-02 | 2020-11-10 | 北京大学深圳研究生院 | 硬件友好的基于回归树的帧内预测模式决策方法及装置 |
| CN112929657A (zh) * | 2021-01-22 | 2021-06-08 | 郑州轻工业大学 | 基于梯度与方差的h.266/vvc快速cu划分决策方法 |
| CN112954321A (zh) * | 2021-02-01 | 2021-06-11 | 中山大学 | 一种图像特征帧内划分方法、装置、设备及介质 |
| CN113115042A (zh) * | 2021-03-26 | 2021-07-13 | 中山大学 | 一种基于isp优化的帧内决策方法、装置、设备及介质 |
| CN113286144A (zh) * | 2021-03-24 | 2021-08-20 | 中山大学 | 基于Gabor的CU划分快速决策方法、装置及介质 |
| CN115834883A (zh) * | 2023-02-07 | 2023-03-21 | 深流微智能科技(深圳)有限公司 | 帧内预测模式的选择方法及装置、设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009212800A (ja) * | 2008-03-04 | 2009-09-17 | Konica Minolta Business Technologies Inc | 画像圧縮装置 |
| CN103517069A (zh) * | 2013-09-25 | 2014-01-15 | 北京航空航天大学 | 一种基于纹理分析的hevc帧内预测快速模式选择方法 |
| CN105120292A (zh) * | 2015-09-09 | 2015-12-02 | 厦门大学 | 一种基于图像纹理特征的视频编码帧内预测方法 |
| CN105187826A (zh) * | 2015-07-31 | 2015-12-23 | 郑州轻工业学院 | 针对高效率视频编码标准的快速帧内模式判决方法 |
-
2018
- 2018-06-25 CN CN201810658512.5A patent/CN108881904A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009212800A (ja) * | 2008-03-04 | 2009-09-17 | Konica Minolta Business Technologies Inc | 画像圧縮装置 |
| CN103517069A (zh) * | 2013-09-25 | 2014-01-15 | 北京航空航天大学 | 一种基于纹理分析的hevc帧内预测快速模式选择方法 |
| CN105187826A (zh) * | 2015-07-31 | 2015-12-23 | 郑州轻工业学院 | 针对高效率视频编码标准的快速帧内模式判决方法 |
| CN105120292A (zh) * | 2015-09-09 | 2015-12-02 | 厦门大学 | 一种基于图像纹理特征的视频编码帧内预测方法 |
Non-Patent Citations (2)
| Title |
|---|
| 孙学斌等: "基于图像纹理特征的HEVC帧内编码快速算法", 《激光与光电子学进展》 * |
| 秦钟: "基于梯度方向恒定性的运动车辆阴影检测", 《华南理工大学学报（自然科学版）》 * |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110430427A (zh) * | 2019-08-07 | 2019-11-08 | 杭州微帧信息科技有限公司 | 一种基于skip模式编码结果的快速视频编码决策方法与系统 |
| CN111246221A (zh) * | 2020-01-22 | 2020-06-05 | 中山大学 | 一种avs3帧内快速划分方法、系统及存储介质 |
| CN111246221B (zh) * | 2020-01-22 | 2022-03-25 | 中山大学 | 一种avs3帧内快速划分方法、系统及存储介质 |
| CN111918059A (zh) * | 2020-07-02 | 2020-11-10 | 北京大学深圳研究生院 | 硬件友好的基于回归树的帧内预测模式决策方法及装置 |
| CN112929657A (zh) * | 2021-01-22 | 2021-06-08 | 郑州轻工业大学 | 基于梯度与方差的h.266/vvc快速cu划分决策方法 |
| CN112954321A (zh) * | 2021-02-01 | 2021-06-11 | 中山大学 | 一种图像特征帧内划分方法、装置、设备及介质 |
| CN112954321B (zh) * | 2021-02-01 | 2022-09-16 | 中山大学 | 一种图像特征帧内划分方法、装置、设备及介质 |
| CN113286144A (zh) * | 2021-03-24 | 2021-08-20 | 中山大学 | 基于Gabor的CU划分快速决策方法、装置及介质 |
| CN113286144B (zh) * | 2021-03-24 | 2022-07-29 | 中山大学 | 基于Gabor的CU划分快速决策方法、装置及介质 |
| CN113115042A (zh) * | 2021-03-26 | 2021-07-13 | 中山大学 | 一种基于isp优化的帧内决策方法、装置、设备及介质 |
| CN113115042B (zh) * | 2021-03-26 | 2022-06-24 | 中山大学 | 一种基于isp优化的帧内决策方法、装置、设备及介质 |
| CN115834883A (zh) * | 2023-02-07 | 2023-03-21 | 深流微智能科技(深圳)有限公司 | 帧内预测模式的选择方法及装置、设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108881904A (zh) | 基于Sobel算子的帧内快速判决方法、装置及存储介质 | |
| CN104754357B (zh) | 基于卷积神经网络的帧内编码优化方法及装置 | |
| Zhang et al. | Fast coding unit depth decision algorithm for interframe coding in HEVC | |
| CN108184115B (zh) | Hevc帧内cu划分和pu预测模式选择方法及系统 | |
| KR101155767B1 (ko) | 비디오 데이터의 인코딩을 위한 인코딩 유형 및 예측 모드선택 | |
| US8111752B2 (en) | Encoding mode pruning during video encoding | |
| CN107371022B (zh) | 应用于hevc医学影像无损编码的帧间编码单元快速划分方法 | |
| Hu et al. | Fast HEVC intra mode decision based on logistic regression classification | |
| US11070803B2 (en) | Method and apparatus for determining coding cost of coding unit and computer-readable storage medium | |
| CN107277509A (zh) | 一种基于屏幕内容的快速帧内预测方法 | |
| CN103517069A (zh) | 一种基于纹理分析的hevc帧内预测快速模式选择方法 | |
| CN108124154A (zh) | 帧间预测模式的快速选择方法、装置及电子设备 | |
| CN109302610A (zh) | 一种基于率失真代价的屏幕内容编码帧间快速算法 | |
| CN111654698B (zh) | 一种针对h.266/vvc的快速cu分区决策方法 | |
| CN108174208B (zh) | 一种基于特征分类的高效视频编码方法 | |
| CN111492655A (zh) | 用于视频压缩的基于纹理的分区决定 | |
| Huang et al. | Efficient CU and PU decision based on neural network and gray level co-occurrence matrix for intra prediction of screen content coding | |
| Zhang et al. | Statistical early termination and early skip models for fast mode decision in HEVC INTRA coding | |
| CN112291562A (zh) | 针对h.266/vvc的快速cu分区和帧内模式决策方法 | |
| CN103702131B (zh) | 一种基于模式预处理的帧内编码优化方法和系统 | |
| CN105791863B (zh) | 基于层的3d-hevc深度图帧内预测编码方法 | |
| Lu et al. | Fast algorithm for CU partitioning and mode selection in HEVC intra prediction | |
| CN116634183A (zh) | 一种快速帧间块划分方法 | |
| CN114827603A (zh) | 基于avs3纹理信息的cu块划分方法、装置及介质 | |
| Duvar et al. | Fast inter mode decision exploiting intra-block similarity in HEVC |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181123 |