CN110324624A - 一种确定最优编码单元的方法、装置 - Google Patents

一种确定最优编码单元的方法、装置 Download PDF

Info

Publication number
CN110324624A
CN110324624A CN201810292915.2A CN201810292915A CN110324624A CN 110324624 A CN110324624 A CN 110324624A CN 201810292915 A CN201810292915 A CN 201810292915A CN 110324624 A CN110324624 A CN 110324624A
Authority
CN
China
Prior art keywords
coding unit
unit
pixel
optimum code
coding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810292915.2A
Other languages
English (en)
Other versions
CN110324624B (zh
Inventor
王立波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201810292915.2A priority Critical patent/CN110324624B/zh
Publication of CN110324624A publication Critical patent/CN110324624A/zh
Application granted granted Critical
Publication of CN110324624B publication Critical patent/CN110324624B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

本申请公开了一种确定最优编码单元的方法、装置，所述方法包括：对第一编码单元进行行角点强度分析，确定所述第一编码单元是否为最优编码单元；如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。通过该方法，无需对所有编码单元都进行RDO计算，可减少在确定最优编码单元过程中的计算资源开销，提高图像的编码效率。

Description

一种确定最优编码单元的方法、装置
技术领域
本申请涉及图像编码领域，具体涉及一种确定最优编码单元的方法。本申请同时涉及一种确定最优编码单元的装置、一种电子设备以及一种计算机可读存储介质。
背景技术
现阶段的图像编码技术中，新一代高效视频编码标准(High Efficiency VideoCoding，HEVC)已成为图像编码的国际标准。在HEVC编码标准中，编码单元(Coding Unit,CU)是最基本的数据结构单元，其规定了多种尺寸，采用何种尺寸的CU进行编码，或者说，如何在多种尺寸的CU中确定最优编码单元，以获得最高的编码效率是编码过程中需要考虑的问题之一。
目前确定最优编码单元的一种方法是，CU基于4叉树结构递归分裂，递归遍历如图1所示的四种尺寸的CU，对每种尺寸的CU分别进行率失真优化(RateDistortionOptimization，RDO)计算，根据对每种尺寸的CU的RDO计算结果，确定最优编码单元。由于该方法需要对每种尺寸的CU都进行RDO计算，因此需要消耗大量的计算资源。
申请内容
本申请提供一种确定最优编码单元的方法，以在确定最优编码单元的过程中降低计算资源的消耗。本申请另外提供一种确定最优编码单元的装置、一种电子设备以及一种计算机可读存储介质。
本申请提供一种确定最优编码单元的方法，本方法包括：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
可选的，所述对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元，包括：
确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
可选的，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
可选的，所述利用卷积神经网络确定所述第一编码单元是否为最优编码单元，包括：
对所述第一编码单元进行特征提取，获得特征图像；
将所述特征图像进行下采样，得到采样层特征图像；
对所述采样层特征图像进行分类，获得所述第一编码单元是否为最优编码单元的分类结果。
可选的，所述第一边缘强度阈值为n1ET，所述第一像素点强度阈值为m1QP2，所述第二边缘强度阈值为n2ET，所述第二像素点强度阈值为m2 QP2，其中，ET＝max(QP2,Q2)，Q＝MF(QP％6)·2QP/6，MF为QP到Q的映射函数，QP为量化步长，Q为量化值，n1、m1、n2、m2为系数，n1<n2，m1<m2。
可选的，通过如下公式确定所述第一编码单元的边缘强度：
Ep＝∑(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，Ep为第一编码单元的边缘强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，所述第一像素点为所述第一编码单元中像素点强度最高的像素点。
可选的，所述第一编码单元中像素点强度最高的像素点的强度，通过如下公式运算获得：
EM＝max(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，EM为第一编码单元中像素点强度最高的像素点的强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向的梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，本方法还包括：
如果确定所述第二编码单元不是最优编码单元，并且所述第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则对所述第二编码单元进行RDO计算，并对所述第二编码单元的预测单元进行RDO计算；根据对第二编码单元进行RDO计算的结果以及对第二编码单元的预测单元进行RDO计算的结果，确定将所述第二编码单元或者所述第二编码单元的预测单元作为最终编码单元；
或者，
如果确定所述第二编码单元不是最优编码单元，并且第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则确定将所述第二编码单元的预测单元作为最终编码单元，并对所述第二编码单元的所有预测单元进行RDO计算。
可选的，本方法还包括：
如果确定所述第一编码单元为最优编码单元，则对所述第一编码单元进行RDO计算。
本申请还提供一种确定最优编码单元的装置，其特征在于，包括：
角点强度分析单元，用于对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
针对角点强度分析结果的执行单元，用于在确定所述第一编码单元不是最优编码单元时，不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
可选的，所述角点强度分析单元，包括：
边缘强度和第一像素点确定子单元，用于确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
最优编码单元确定子单元，用于根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
可选的，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
本申请还提供一种电子设备，包括：
处理器；
存储器，用于存储确定最优编码单元的处理程序，所述程序在被所述处理器读取执行时，执行如下操作：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
本申请还提供一种计算机可读取存储介质，其上存储有计算机程序，该程序被处理器执行时实现以下步骤：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
与现有技术相比，本申请具有以下优点：
本申请提供的确定最优编码单元的方法，通过对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元，在确定出所述第一编码单元不是最优编码单元时，不对该第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元。通过该方法，无需对所有编码单元都进行RDO计算，可减少在确定最优编码单元过程中的计算资源开销，提高图像的编码效率。
附图说明
图1是本申请提供的四种编码单元的划分示意图；
图2是本申请第一实施例提供的方法流程图；
图3是本申请第一实施例提供的确定第一编码单元是否为最优编码单元的流程图；
图4是本申请第二实施例提供的装置单元框图；
图5是本申请第三实施例提供的电子设备示意图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本申请内涵的情况下做类似推广，因此本申请不受下面公开的具体实施的限制。
现有的HEVC编码标准采用四叉树结构进行图像编码，编码单元CU是HEVC编码标准中最基本的进行编码的单元块，上述四叉树结构包括四种编码深度，每种编码深度对应了不同的CU尺寸。目前，按照像素点个数，对CU定义了四种尺寸，从大到小依次为：64*64、32*32、16*16、8*8。编码深度和CU尺寸的关系为：编码深度为0，对应的CU尺寸为64*64；编码深度为1，对应的CU尺寸为32*32；编码深度为2，对应的CU尺寸为16*16；编码深度为3，对应的CU尺寸为8*8。如果一个CU的编码深度不等于3，则该CU可以划分为四个更小尺寸的CU，如果这些更小的CU的编码深度仍然小于3，则其还可以进行再分割，直到CU的编码深度等于3为止。该种划分方式提供了可以选择的CU尺寸，合理的选择CU尺寸是提高编码效率的关键所在。
在现有的确定采用何种尺寸的CU作为最优编码单元的方法中，需要对编码深度为0到3的CU自上而下进行遍历，该方法通过率失真优化(Rate Distortion Optimization，RDO)准则来判定是使用当前CU还是将其分裂为更小的CU，从而决定CU的最终划分结构，因此，该方法需要对每个CU均进行RDO计算，计算资源消耗较大。
为降低在确定最优编码单元过程中的计算资源开销，本申请提供一种确定最优编码单元的方法、一种确定最优编码单元的装置、一种电子设备以及一种计算机可读存储介质。以下提供实施例对所述方法、装置、电子设备以及计算机可读存储介质进行详细说明。
本申请第一实施例提供一种确定最优编码单元的方法，该方法可以用于基于HEVC编码标准，对最优编码单元的选取过程进行优化。
图2为本申请第一实施例提供的方法流程图，如图2所示，所述确定最优编码单元的方法包括如下步骤：
S101，对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元。
本步骤为本实施例所提供的确定最优编码单元技术方案的基础步骤，用以通过角点强度分析的方法，确定图像编码时对编码单元的最优划分方式。
所述第一编码单元指的是最优编码单元选取过程中的当前尺寸的编码单元，在HEVC编码标准中，所述第一编码单元可为任意深度的编码单元，包括最大编码单元、或者对最大编码单元进行分割后所获得的编码单元。
所述最优编码单元指的是尺寸大小最符合待编码图像的纹理复杂程度的编码单元。对于纹理复杂程度高的图像区域，采用大尺寸的编码单元更易符合其编码要求，相应的，对于纹理复杂程度低的图像区域或者平滑图像区域，采用小尺寸的编码单元更易符合其编码要求。
所述角点指的是二维图像中的亮度变化剧烈、或者图像边缘曲线上曲率极大值的点，其为图像中保留了较高信息含量和重要图形特征的特征点。所述角点强度分析指的是对图像中的上述特征点的强度值进行分析，以实现对图像的可靠配准、目标识别等作用。
本实施例中，所述对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元的过程请参考图3，如图3所示，该过程通过如下步骤完成：
S201，确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度。
本步骤用于获得需进行角点强度分析的对象，本实施例中，所述对象为第一编码单元的边缘强度和第一编码单元中的第一像素点的强度。
在图像中，边缘指的是其周围像素灰度有阶跃变化的像素点的集合，其为图像最基本的特征，也是图像分割所依赖的最重要的特征。所述像素点也称边缘点，边缘强度即为所述边缘点梯度的幅值。
本实施例中，通过如下公式确定所述第一编码单元的边缘强度：
Ep＝∑(dxi,j*dxi,j+dyi,j*dyi,j)；其中，Ep为第一编码单元的边缘强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
所述第一像素点指的是当前编码单元的像素点中，像素点强度能够满足预设强度值的像素点。本实施例中所述第一像素点为所述第一编码单元中像素点强度最高的像素点。
本实施例中，所述第一编码单元中像素点强度最高的像素点的强度，通过如下公式运算获得：
EM＝max(dxi,j*dxi,j+dyi,j*dyi,j)；其中，EM为第一编码单元中像素点强度最高的像素点的强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向的梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
S202，根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
本步骤用于对上述步骤获得的分析对象与对应的预设规则进行比较，以此确定所述第一编码单元是否为最优编码单元。具体为根据所述当前编码单元的边缘强度和所述第一像素点的强度是否满足对应的预设条件，判断所述第一编码单元是否为最优编码单元。所述预设条件包括条件一和条件二。条件一为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；条件二为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。所述第一边缘强度阈值、第二边缘强度阈值、第一像素点强度阈值、第二像素点强度阈值均可根据实验获得、或者根据经验获得，在此不做限定。本实施例中，所述第一边缘强度阈值为n1ET，所述第一像素点强度阈值为m1QP2，所述第二边缘强度阈值为n2ET，所述第二像素点强度阈值为m2 QP2，其中，ET＝max(QP2,Q2)，Q＝MF(QP％6)·2QP/6，MF为QP到Q的映射函数；QP为量化步长，Q为量化值，n1、m1、n2、m2为系数，n1<n2，m1<m2。
通过上述比较，可获得如下三种模式：
模式一：如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，即EP<n1 ET且EM<m1 QP2，则确定所述第一编码单元为最优编码单元；
模式二：如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，即EP>n2 ET或EM>m2 QP2，则确定所述第一编码单元不是最优编码单元；
模式三：如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元。
卷积神经网络是一种多层的监督学习神经网络，该网络模型采用梯度下降法最小化损失函数对网络中的权重参数逐层反向调节，通过将待识别图像逐层前向传播一直到输出层输出最后的分类结果，通过频繁的迭代训练提高网络的精度。本实施例中，通过不同卷积层的自适应学习速率进行模型训练，即，在训练所述卷积神经网络的过程中，不同卷积层的学习速率根据本层神经元数量动态调整，具体为：第j层的学习速率等于第j层和j+1层神经元个数总和的倒数。该种模型训练方式可提高卷积层的学习速率和分类精度，从而在本实施例的分类过程中，使得深层卷积神经网络得以应用。
本实施例中，利用卷积神经网络确定所述第一编码单元是否为最优编码单元，主要包括如下过程：
首先，对所述第一编码单元进行特征提取，获得特征图像。该过程具体为：将所述第一编码单元作为输入样本输入卷积神经网络，输入层在接收到第一编码单元作为输入数据后，由第一个卷积层的多个滤波器卷积产生特征图像，所述特征图像包含了输入图像经过多个不同滤波器卷积后获得的特征信息。
其次，将所述特征图像进行下采样，得到采样层特征图像；例如，通过一个2*2尺寸的滤波器对所述特征图像进行下采样，每个2*2像素矩阵收缩成一个像素点，得到第一个采样层特征图像，该采样层特征图像的尺寸是上述特征图像的一半，以此完成对特征图像的下采样。本实施例中，最终的采样特征层图像为尺寸大小为8*8的编码单元。
最后，对所述采样层特征图像进行分类，获得所述第一编码单元是否为最优编码单元的分类结果。该过程实际为将所述采样层特征图像的像素值作为分类对象进行分类，通过分类器对所述第一编码单元是否为最优编码单元的分类结果进行输出。
S102，如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
通过上述步骤确定所述第一编码单元是否为最优编码单元之后，本步骤用于根据所述第一编码单元是否为最优编码单元的结果执行相应的操作。
所述第二编码单元为对所述第一编码单元进行进一步划分后所获得的编码单元，也称第一编码单元的子编码单元，例如，第一编码单元的尺寸大小为64*64，则其对应的第二编码单元的尺寸大小为32*32。
RDO计算指的是采用基于率失真优化的判决方法，对应每种编码单元的分割方式分别计算其RDO的值，选择RDO最小的编码单元划分方式，以此作为确定最优编码单元的依据。
本实施例中，当通过上述步骤S101确定当前编码单元不是最优编码单元，则跳过当前编码单元，直接按上述步骤S101的角点强度分析方法确定所述当前编码单元的子编码单元是否为最优编码单元，无需对当前编码单元进行RDO计算。
相应的，如果确定所述第一编码单元为最优编码单元，则对所述第一编码单元进行RDO计算，该RDO计算的作用在于为后续编码准备运动补偿和残差数据。
需要说明的是，本实施例中由于首先采用角点检测方法对所述第一编码单元进行了判断，仅当通过所述角点检测方法无法判断出所述第一编码单元是否为最优编码单元的情况下才进一步利用卷积神经网络进行分类，因此，减少了输入给卷积神经网络的的样本数量，相应提高了卷积神经网络的分类效率。
需要说明的是，如果确定所述第二编码单元不是最优编码单元，并且所述第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则对所述第二编码单元进行RDO计算，并对所述第二编码单元的预测单元进行RDO计算；根据对第二编码单元进行RDO计算的结果以及对第二编码单元的预测单元进行RDO计算的结果，确定将所述第二编码单元或者所述第二编码单元的预测单元作为最终编码单元。所述预测单元(Prediction Unit，PU)是帧内/帧间预测的基本单元，是对编码单元进一步细分的结果，一个编码单元可以根据预测模式的切割类型分割成一个、两个或是四个预测单元。
例如，在HEVC编码标准所规定的四种编码单元中，仅有8*8的编码单元能够满足需要进行角点强度分析的最小尺寸编码单元的条件，因此，此处的第二编码单元即为尺寸大小8*8的编码单元，相应的，其预测单元的尺寸大小为4*4，在该种情况下，则通过现有的RDO计算方法确定最终编码单元，具体为：计算尺寸大小8*8的编码单元的RDO值、以及其下层的四个尺寸大小为4*4的预测单元的RDO值的累加值，哪个RDO值最小，则取其作为最终编码单元。
除了上述方案，在同样的条件下，即确定所述第二编码单元不是最优编码单元，并且第二编码单元是需要进行角点强度分析的最小尺寸编码单元之后，本实施例还提供了如下方案：确定将所述第二编码单元的预测单元作为最终编码单元，并对所述第二编码单元的所有预测单元进行RDO计算。
从整个图像编码层面来说，利用本申请第一实施例所提供的确定最优编码单元的方法，在通过角点强度分析的方法确定当前编码单元是否为最优编码单元，或进一步利用卷积神经网络的方法确定当前编码单元是否为最优编码单元，如果确定出当前编码单元为最优编码单元，则无需对该编码单元进行深层划分，也无需进行多余的RDO计算；如果确定出当前编码单元不是最优编码单元，则可快速对其进行排除，无需对其进行RDO计算，相对于现有的编码单元的遍历划分方式，本方法可有效减少在确定最优编码单元过程中的计算资源开销，缩短最优编码单元的确定时间，提高图像的编码效率。
在上述第一实施例中，提供了一种确定最优编码单元的方法，与上述确定最优编码单元的方法相对应的，本申请第二实施例还提供了一种确定最优编码单元的装置。由于装置的实施例基本相似于方法的实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。
请参考图4，其示出了本实施例提供的确定最优编码单元的装置的示意图。如图4所示，所述装置包括：
角点强度分析单元401，用于对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
针对角点强度分析结果的执行单元402，用于在确定所述第一编码单元不是最优编码单元时，不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
优选的，所述角点强度分析单元，包括：
边缘强度和第一像素点确定子单元，用于确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
最优编码单元确定子单元，用于根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
优选的，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
可选的，所述利用卷积神经网络确定所述第一编码单元是否为最优编码单元，包括：
对所述第一编码单元进行特征提取，获得特征图像；
将所述特征图像进行下采样，得到采样层特征图像；
对所述采样层特征图像进行分类，获得所述第一编码单元是否为最优编码单元的分类结果。
可选的，所述第一边缘强度阈值为n1ET，所述第一像素点强度阈值为m1QP2，所述第二边缘强度阈值为n2ET，所述第二像素点强度阈值为m2 QP2，其中，ET＝max(QP2,Q2)，Q＝MF(QP％6)·2QP/6，MF为QP到Q的映射函数，QP为量化步长，Q为量化值，n1、m1、n2、m2为系数，n1<n2，m1<m2。
可选的，通过如下公式确定所述第一编码单元的边缘强度：
Ep＝∑(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，Ep为第一编码单元的边缘强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，所述第一像素点为所述第一编码单元中像素点强度最高的像素点。
可选的，所述第一编码单元中像素点强度最高的像素点的强度，通过如下公式运算获得：
EM＝max(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，EM为第一编码单元中像素点强度最高的像素点的强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向的梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，还包括：
如果确定所述第二编码单元不是最优编码单元，并且所述第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则对所述第二编码单元进行RDO计算，并对所述第二编码单元的预测单元进行RDO计算；根据对第二编码单元进行RDO计算的结果以及对第二编码单元的预测单元进行RDO计算的结果，确定将所述第二编码单元或者所述第二编码单元的预测单元作为最终编码单元；
或者，
如果确定所述第二编码单元不是最优编码单元，并且第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则确定将所述第二编码单元的预测单元作为最终编码单元，并对所述第二编码单元的所有预测单元进行RDO计算。
可选的，还包括：
如果确定所述第一编码单元为最优编码单元，则对所述第一编码单元进行RDO计算。
在上述的实施例中，提供了一种确定最优编码单元的方法以及一种确定最优编码单元的装置，此外，本申请第三实施例还提供了一种电子设备；所述电子设备实施例如下：
请参考图5，其示出了本实施例提供的电子设备的示意图。
所述电子设备，包括：处理器501；存储器502；
所述存储器502，用于存储确定最优编码单元的程序，所述程序在被所述处理器读取执行时，执行如下操作：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
可选的，所述对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元，包括：
确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
可选的，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
可选的，所述利用卷积神经网络确定所述第一编码单元是否为最优编码单元，包括：
对所述第一编码单元进行特征提取，获得特征图像；
将所述特征图像进行下采样，得到采样层特征图像；
对所述采样层特征图像进行分类，获得所述第一编码单元是否为最优编码单元的分类结果。
可选的，所述第一边缘强度阈值为n1ET，所述第一像素点强度阈值为m1QP2，所述第二边缘强度阈值为n2ET，所述第二像素点强度阈值为m2 QP2，其中，ET＝max(QP2,Q2)，Q＝MF(QP％6)·2QP/6，MF为QP到Q的映射函数，QP为量化步长，Q为量化值，n1、m1、n2、m2为系数，n1<n2，m1<m2。
可选的，通过如下公式确定所述第一编码单元的边缘强度：
Ep＝∑(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，Ep为第一编码单元的边缘强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，所述第一像素点为所述第一编码单元中像素点强度最高的像素点。
可选的，所述第一编码单元中像素点强度最高的像素点的强度，通过如下公式运算获得：
EM＝max(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，EM为第一编码单元中像素点强度最高的像素点的强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向的梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，还包括：
如果确定所述第二编码单元不是最优编码单元，并且所述第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则对所述第二编码单元进行RDO计算，并对所述第二编码单元的预测单元进行RDO计算；根据对第二编码单元进行RDO计算的结果以及对第二编码单元的预测单元进行RDO计算的结果，确定将所述第二编码单元或者所述第二编码单元的预测单元作为最终编码单元；
或者，
如果确定所述第二编码单元不是最优编码单元，并且第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则确定将所述第二编码单元的预测单元作为最终编码单元，并对所述第二编码单元的所有预测单元进行RDO计算。
可选的，还包括：
如果确定所述第一编码单元为最优编码单元，则对所述第一编码单元进行RDO计算。
在上述的实施例中，提供了一种确定最优编码单元的方法，此外，本申请第四实施例还提供了一种用于实现所述确定最优编码单元的计算机可读取存储介质。本申请提供的所述计算机可读取存储介质实施例描述得比较简单，相关部分请参见上述方法实施例的对应说明即可。下述描述的实施例仅仅是示意性的。
本申请提供一种计算机可读取存储介质，其上存储有计算机程序，该程序被处理器执行时实现以下步骤：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
可选的，所述对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元，包括：
确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
可选的，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
可选的，所述利用卷积神经网络确定所述第一编码单元是否为最优编码单元，包括：
对所述第一编码单元进行特征提取，获得特征图像；
将所述特征图像进行下采样，得到采样层特征图像；
对所述采样层特征图像进行分类，获得所述第一编码单元是否为最优编码单元的分类结果。
可选的，所述第一边缘强度阈值为n1ET，所述第一像素点强度阈值为m1QP2，所述第二边缘强度阈值为n2ET，所述第二像素点强度阈值为m2 QP2，其中，ET＝max(QP2,Q2)，Q＝MF(QP％6)·2QP/6，MF为QP到Q的映射函数，QP为量化步长，Q为量化值，n1、m1、n2、m2为系数，n1<n2，m1<m2。
可选的，通过如下公式确定所述第一编码单元的边缘强度：
Ep＝∑(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，Ep为第一编码单元的边缘强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，所述第一像素点为所述第一编码单元中像素点强度最高的像素点。
可选的，所述第一编码单元中像素点强度最高的像素点的强度，通过如下公式运算获得：
EM＝max(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，EM为第一编码单元中像素点强度最高的像素点的强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向的梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
可选的，还包括：
如果确定所述第二编码单元不是最优编码单元，并且所述第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则对所述第二编码单元进行RDO计算，并对所述第二编码单元的预测单元进行RDO计算；根据对第二编码单元进行RDO计算的结果以及对第二编码单元的预测单元进行RDO计算的结果，确定将所述第二编码单元或者所述第二编码单元的预测单元作为最终编码单元；
或者，
如果确定所述第二编码单元不是最优编码单元，并且第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则确定将所述第二编码单元的预测单元作为最终编码单元，并对所述第二编码单元的所有预测单元进行RDO计算。
可选的，还包括：
如果确定所述第一编码单元为最优编码单元，则对所述第一编码单元进行RDO计算。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
1、计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括非暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
2、本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请虽然以较佳实施例公开如上，但其并不是用来限定本申请，任何本领域技术人员在不脱离本申请的精神和范围内，都可以做出可能的变动和修改，因此本申请的保护范围应当以本申请权利要求所界定的范围为准。

Claims (15)

1.一种确定最优编码单元的方法，其特征在于，包括：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
2.根据权利要求1所述的确定最优编码单元的方法，其特征在于，所述对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元，包括：
确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
3.根据权利要求2所述的确定最优编码单元的方法，其特征在于，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
4.根据权利要求3所述的确定最优编码单元的方法，其特征在于，所述利用卷积神经网络确定所述第一编码单元是否为最优编码单元，包括：
对所述第一编码单元进行特征提取，获得特征图像；
将所述特征图像进行下采样，得到采样层特征图像；
对所述采样层特征图像进行分类，获得所述第一编码单元是否为最优编码单元的分类结果。
5.根据权利要求3所述的确定最优编码单元的方法，其特征在于，所述第一边缘强度阈值为n1ET，所述第一像素点强度阈值为m1QP2，所述第二边缘强度阈值为n2ET，所述第二像素点强度阈值为m2 QP2，其中，ET＝max(QP2,Q2)，Q＝MF(QP％6)·2QP/6，MF为QP到Q的映射函数，QP为量化步长，Q为量化值，n1、m1、n2、m2为系数，n1<n2，m1<m2。
6.根据权利要求2或3所述的确定最优编码单元的方法，其特征在于，通过如下公式确定所述第一编码单元的边缘强度：
Ep＝∑(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，Ep为第一编码单元的边缘强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
7.根据权利要求2所述的方法，其特征在于，所述第一像素点为所述第一编码单元中像素点强度最高的像素点。
8.根据权利要求7所述的确定最优编码单元的方法，其特征在于，所述第一编码单元中像素点强度最高的像素点的强度，通过如下公式运算获得：
EM＝max(dxi,j*dxi,j+dyi,j*dyi,j)；
其中，EM为第一编码单元中像素点强度最高的像素点的强度，dxi,j为位置为(i,j)的像素点在图像坐标系的x轴方向的梯度值，dxi,j＝pi,j+pi+1,j-pi,j+1-pi+1,j+1；dyi,j为位置为(i,j)的像素点在图像坐标系的y轴方向的梯度值，dyi,j＝pi,j+pi,j+1-pi+1,j-pi+1,j+1；pi,j是位置为(i,j)的像素点的像素值。
9.根据权利要求1所述的确定最优编码单元的方法，其特征在于，还包括：
如果确定所述第二编码单元不是最优编码单元，并且所述第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则对所述第二编码单元进行RDO计算，并对所述第二编码单元的预测单元进行RDO计算；根据对第二编码单元进行RDO计算的结果以及对第二编码单元的预测单元进行RDO计算的结果，确定将所述第二编码单元或者所述第二编码单元的预测单元作为最终编码单元；
或者，
如果确定所述第二编码单元不是最优编码单元，并且第二编码单元是需要进行角点强度分析的最小尺寸编码单元，则确定将所述第二编码单元的预测单元作为最终编码单元，并对所述第二编码单元的所有预测单元进行RDO计算。
10.根据权利要求1所述的确定最优编码单元的方法，其特征在于，还包括：
如果确定所述第一编码单元为最优编码单元，则对所述第一编码单元进行RDO计算。
11.一种确定最优编码单元的装置，其特征在于，包括：
角点强度分析单元，用于对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
针对角点强度分析结果的执行单元，用于在确定所述第一编码单元不是最优编码单元时，不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
12.根据权利要求11所述的确定最优编码单元的装置，其特征在于，所述角点强度分析单元，包括：
边缘强度和第一像素点确定子单元，用于确定所述第一编码单元的边缘强度和所述第一编码单元中的第一像素点的强度；
最优编码单元确定子单元，用于根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元。
13.根据权利要求12所述的确定最优编码单元的装置，其特征在于，所述根据所述第一编码单元的边缘强度和所述第一像素点的强度，确定所述第一编码单元是否为最优编码单元，包括：
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第一条件，则确定所述第一编码单元为最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度满足第二条件，则确定所述第一编码单元不是最优编码单元；
如果所述第一编码单元的边缘强度和所述第一像素点的强度不满足所述第一条件和所述第二条件中的任意一种条件，则利用卷积神经网络确定所述第一编码单元是否为最优编码单元；
其中，所述第一条件为：所述第一编码单元的边缘强度小于第一边缘强度阈值，并且所述第一像素点的强度小于第一像素点强度阈值；
所述第二条件为：所述第一编码单元的边缘强度大于所述第二边缘强度阈值，或者所述第一像素点的强度大于所述第二像素点强度阈值。
14.一种电子设备，其特征在于，包括：
处理器；
存储器，用于存储确定最优编码单元的处理程序，所述程序在被所述处理器读取执行时，执行如下操作：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
15.一种计算机可读取存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现以下步骤：
对第一编码单元进行角点强度分析，确定所述第一编码单元是否为最优编码单元；
如果确定所述第一编码单元不是最优编码单元，则不对所述第一编码单元进行RDO计算，对第二编码单元进行角点强度分析，确定所述第二编码单元是否为最优编码单元；其中，所述第二编码单元是所述第一编码单元的子编码单元。
CN201810292915.2A 2018-03-30 2018-03-30 一种确定最优编码单元的方法、装置 Active CN110324624B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810292915.2A CN110324624B (zh) 2018-03-30 2018-03-30 一种确定最优编码单元的方法、装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810292915.2A CN110324624B (zh) 2018-03-30 2018-03-30 一种确定最优编码单元的方法、装置

Publications (2)

Publication Number Publication Date
CN110324624A true CN110324624A (zh) 2019-10-11
CN110324624B CN110324624B (zh) 2023-05-09

Family

ID=68112322

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810292915.2A Active CN110324624B (zh) 2018-03-30 2018-03-30 一种确定最优编码单元的方法、装置

Country Status (1)

Country Link
CN (1) CN110324624B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070036215A1 (en) * 2003-03-03 2007-02-15 Feng Pan Fast mode decision algorithm for intra prediction for advanced video coding
JP2007134810A (ja) * 2005-11-08 2007-05-31 Kddi Corp 符号化方式変換装置
US20090220152A1 (en) * 2008-02-29 2009-09-03 Praveen Kumar Tiwari Method and system to detect and quantify blockiness in video files
CN104754357A (zh) * 2015-03-24 2015-07-01 清华大学 基于卷积神经网络的帧内编码优化方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070036215A1 (en) * 2003-03-03 2007-02-15 Feng Pan Fast mode decision algorithm for intra prediction for advanced video coding
JP2007134810A (ja) * 2005-11-08 2007-05-31 Kddi Corp 符号化方式変換装置
US20090220152A1 (en) * 2008-02-29 2009-09-03 Praveen Kumar Tiwari Method and system to detect and quantify blockiness in video files
CN104754357A (zh) * 2015-03-24 2015-07-01 清华大学 基于卷积神经网络的帧内编码优化方法及装置

Also Published As

Publication number Publication date
CN110324624B (zh) 2023-05-09

Similar Documents

Publication Publication Date Title
CN111882002B (zh) 一种基于msf-am的低照度目标检测方法
Jin et al. CNN oriented fast QTBT partition algorithm for JVET intra coding
CN108495129A (zh) 基于深度学习方法的块分割编码复杂度优化方法及装置
CN116016917A (zh) 点云压缩方法、编码器、解码器及存储介质
CN110826684B (zh) 卷积神经网络的压缩方法、装置、电子设备和介质
US20070064798A1 (en) Classified filtering for temporal prediction
CN111160523B (zh) 基于特征值区域的动态量化方法、系统及介质
CN111179201B (zh) 一种视频去噪方法和电子设备
CN112819063B (zh) 一种基于改进的Focal损失函数的图像识别方法
US20190392311A1 (en) Method for quantizing a histogram of an image, method for training a neural network and neural network training system
CN110647990A (zh) 基于灰色关联分析的深度卷积神经网络模型的裁剪方法
CN112183742A (zh) 基于渐进式量化和Hessian信息的神经网络混合量化方法
CN112163520A (zh) 一种基于改进损失函数的mdssd人脸检测方法
CN113709492A (zh) 一种基于分布特征的shvc空间可伸缩视频编码方法
CN108989799A (zh) 一种编码单元参考帧的选择方法、装置及电子设备
CN107529647B (zh) 一种基于多层无监督稀疏学习网络的云图云量计算方法
CN114241388A (zh) 基于时空记忆信息的视频实例分割方法和分割装置
CN110324624A (zh) 一种确定最优编码单元的方法、装置
CN115052154B (zh) 一种模型训练和视频编码方法、装置、设备及存储介质
CN105321178A (zh) 一种基于稀疏主成分分析的图像分割的方法及装置
Mercat et al. Machine learning based choice of characteristics for the one-shot determination of the HEVC intra coding tree
CN114938455A (zh) 基于单元特性的编码方法、装置、电子设备及存储介质
Müller et al. Application of deep learning for crack segmentation on concrete surface
CN108805190B (zh) 一种图像处理方法及装置
CN116170594B (zh) 一种基于率失真代价预测的编码方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant