CN107547803B - 视频分割结果边缘优化处理方法、装置及计算设备 - Google Patents

视频分割结果边缘优化处理方法、装置及计算设备 Download PDF

Info

Publication number
CN107547803B
CN107547803B CN201710873797.XA CN201710873797A CN107547803B CN 107547803 B CN107547803 B CN 107547803B CN 201710873797 A CN201710873797 A CN 201710873797A CN 107547803 B CN107547803 B CN 107547803B
Authority
CN
China
Prior art keywords
image
processing
processed
foreground image
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201710873797.XA
Other languages
English (en)
Other versions
CN107547803A (zh
Inventor
张望
邱学侃
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qihoo Technology Co Ltd
Original Assignee
Beijing Qihoo Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qihoo Technology Co Ltd filed Critical Beijing Qihoo Technology Co Ltd
Priority to CN201710873797.XA priority Critical patent/CN107547803B/zh
Publication of CN107547803A publication Critical patent/CN107547803A/zh
Application granted granted Critical
Publication of CN107547803B publication Critical patent/CN107547803B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Studio Devices (AREA)

Abstract

本发明公开了一种视频分割结果边缘优化处理方法、装置、计算设备及计算机存储介质。方法包括:获取视频数据;对视频数据进行甄别,获取包含特定对象的待处理的帧图像;对待处理的帧图像进行图像分割处理,得到针对于特定对象的前景图像;对前景图像的边缘进行模糊处理;利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理;将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像;将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据,本发明采用了深度学习方法,完成了场景分割处理得到场景分割结果,通过对场景分割结果的优化处理使得分割后的前景图像的效果更为精细。

Description

视频分割结果边缘优化处理方法、装置及计算设备
技术领域
本发明涉及图像处理技术领域,具体涉及一种视频分割结果边缘优化处理方法、装置、计算设备及计算机存储介质。
背景技术
随着科技的发展,图像采集设备的技术也日益提高。使用图像采集设备录制的视频也更加清晰、分辨率、显示效果也大幅提高。但现有录制的视频仅是单调的录制素材本身,无法满足用户提出的越来越多的个性化要求。现有技术可以在录制视频后,可以由用户手动对视频再做进一步的处理。但这样处理需要用户具有较高的图像处理技术,并且在处理时需要花费用户较多的时间,处理繁琐,技术复杂。
因此,需要一种视频分割结果边缘优化处理方法,在满足用户的个性化要求的同时降低技术要求门槛。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的视频分割结果边缘优化处理方法、视频分割结果边缘优化处理装置、计算设备及计算机存储介质。
根据本发明的一个方面,提供了一种视频分割结果边缘优化处理方法,其包括:
获取视频数据;
对所述视频数据进行甄别,获取包含特定对象的待处理的帧图像;
对所述待处理的帧图像进行图像分割处理,得到针对于所述特定对象的前景图像;
对所述前景图像的边缘进行模糊处理;
利用从所述待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理;
将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像;
将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据。
可选地,所述获取视频数据进一步包括:
获取本地视频数据和/或网络视频数据。
可选地,所述获取视频数据进一步包括:
获取由多个本地图片和/或多个网络图片合成的视频数据。
可选地,所述对所述视频数据进行甄别,获取包含特定对象的待处理的帧图像进一步包括:
对用户指定时间段的视频数据进行甄别,获取包含特定对象的待处理的帧图像。
可选地,所述对前景图像的边缘进行模糊处理进一步包括:
利用扩散算法对前景图像的边缘进行模糊处理。
可选地,所述对前景图像的边缘进行模糊处理进一步包括:
针对所述前景图像的边缘的多个像素点中的任一个像素点,从预设像素值范围内选择一像素值,并将所述像素值赋值给所述前景图像的边缘的像素点。
可选地,所述方法还包括:提取所述图像分割处理的分割概率信息,所述分割概率信息记录了用于反映所述前景图像各个像素点的分割不确定性的概率。
可选地,所述方法还包括:根据所述分割概率信息,对所述经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理;
所述将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像进一步包括:
将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
可选地,所述方法还包括:对经过融合处理后的前景图像进行锐化处理;
所述将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像进一步包括:
将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
可选地,所述方法还包括:将处理后的视频数据上传至一个或多个云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
根据本发明的另一方面,提供了一种视频分割结果边缘优化处理装置,其包括:
获取模块,适于获取视频数据;
甄别模块,适于对所述视频数据进行甄别,获取包含特定对象的待处理的帧图像;
分割处理模块,适于对所述待处理的帧图像进行图像分割处理,得到针对于所述特定对象的前景图像;
模糊处理模块,适于对所述前景图像的边缘进行模糊处理;
边缘优化处理模块,适于利用从所述待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理;
组合处理模块,适于将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像;
覆盖模块,适于将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据。
可选地,所述获取模块进一步适于:获取本地视频数据和/或网络视频数据。
可选地,所述获取模块进一步适于:获取由多个本地图片和/或多个网络图片合成的视频数据。
可选地,所述甄别模块进一步适于:对用户指定时间段的视频数据进行甄别,获取包含特定对象的待处理的帧图像。
可选地,所述模糊处理模块进一步适于:利用扩散算法对前景图像的边缘进行模糊处理。
可选地,所述模糊处理模块进一步适于:针对所述前景图像的边缘的多个像素点中的任一个像素点,从预设像素值范围内选择一像素值,并将所述像素值赋值给所述前景图像的边缘的像素点。
可选地,所述装置还包括:分割概率信息提取模块,适于提取所述图像分割处理的分割概率信息,所述分割概率信息记录了用于反映所述前景图像各个像素点的分割不确定性的概率。
可选地,所述装置还包括:融合处理模块,适于根据所述分割概率信息,对所述经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理;
所述组合处理模块进一步适于:将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
可选地,所述装置还包括:锐化处理模块,适于对经过融合处理后的前景图像进行锐化处理;
所述组合处理模块进一步适于:将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
可选地,所述装置还包括:上传模块,适于将处理后的视频数据上传至一个或多个云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
根据本发明的又一方面,提供了一种计算设备,包括:处理器、存储器、通信接口和通信总线,处理器、存储器和通信接口通过通信总线完成相互间的通信;
存储器用于存放至少一可执行指令,可执行指令使处理器执行上述视频分割结果边缘优化处理方法对应的操作。
根据本发明的再一方面,提供了一种计算机存储介质,存储介质中存储有至少一可执行指令,可执行指令使处理器执行如上述视频分割结果边缘优化处理方法对应的操作。
根据本发明提供的方案,在利用图像分割算法对包含特定图像的待处理的帧图像进行图像分割处理后,对得到的前景图像的边缘进行模糊处理,然后利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理,得到边缘优化处理后的前景图像,使得分割后的前景图像的效果更为精细,便于前景图像能够更好地与其他背景图像组合,避免了由于图像分割技术差而导致前景图像的边缘处无法很好的与其他背景图像组合的问题。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了根据本发明一个实施例的视频分割结果边缘优化处理方法的流程示意图;
图2示出了根据本发明另一个实施例的视频分割结果边缘优化处理方法的流程示意图;
图3示出了根据本发明一个实施例的视频分割结果边缘优化处理装置的结构示意图;
图4示出了根据本发明一个实施例的视频分割结果边缘优化处理装置的结构示意图;
图5示出了根据本发明一个实施例的一种计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示出了根据本发明一个实施例的视频分割结果边缘优化处理方法的流程示意图。如图1所示,该方法包括以下步骤:
步骤S100,获取视频数据。
获取的视频数据可以是用户本地的视频数据,也可以获取网络的视频数据。或者还可以获取由多个本地图片合成的视频数据,或者获取由多个网络图片合成的视频数据,或者获取由多个本地图片和多个网络图片合成的视频数据。
步骤S101,对视频数据进行甄别,获取包含特定对象的待处理的帧图像。
视频数据中包含很多帧图像,需要对视频数据进行甄别。由于本发明对特定对象进行处理,因此进行甄别后获取包含特定对象的待处理的帧图像。
步骤S102,对待处理的帧图像进行图像分割处理,得到针对于特定对象的前景图像。
对待处理的帧图像进行图像分割处理,主要是将特定对象从待处理的帧图像中分割出来,得到针对于特定对象的前景图像,该前景图像可以仅包含特定对象。
在对待处理的帧图像进行图像分割处理时,可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如,人脸识别或面部表情识别)。如利用深度学习的人体分割方法可以对待处理的帧图像进行场景分割,得到包含人体的前景图像。
步骤S103,对前景图像的边缘进行模糊处理。
在进行图像分割处理时,可能由于分割技术的限制导致所得到的前景图像的边缘可能携带了非前景图像的像素信息,例如,经过图像分割处理后得到的针对于特定对象的前景图像的边缘可能还带有待处理的帧图像的背景图像的像素信息,而前景图像的边缘所带有的待处理的帧图像的背景图像的像素信息会直接影响到前景图像的美观等,更会严重地影响该前景图像与其他背景图像的组合,因此,在得到针对于特定对象的前景图像后,需要对前景图像的边缘进行模糊处理,例如,可以使前景图像的边缘的像素半透明化。
步骤S104,利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理。
在本发明实施例中,待处理的帧图像由像素构成,像素特征包括像素点的位置和像素点的属性,从待处理的帧图像中提取像素点的位置和像素点的属性,利用这些特征用于构建一个协方差矩阵,其中,协方差用于描述两个像素点之间的相关度,该协方差矩阵中的每一个元素表示的是随机向量的不同分量之间的协方差,由于本步骤提取的是待处理的帧图像的协方差矩阵,因此,该协方差矩阵可以用于对后续处理前景图像的边缘进行指导。
步骤S103是对前景图像的边缘的所有像素点进行模糊处理,但是对于一些能够确定属于前景图像的像素点而言,对前景图像的边缘进行模糊处理将会降低图像的清晰度,降低前景图像的展示效果,因此,在本步骤中,可以利用从待处理的帧图像提取的协方差矩阵来对经过模糊处理后的前景图像的边缘进行边缘优化处理,从而使得分割后的前景图像的效果更为精细。
步骤S105,将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
由于在步骤S104中已经对前景图像的边缘进行了优化处理,因此,有效地降低了待处理的帧图像中的背景图像信息,从而使得经过边缘优化处理后的前景图像在与预设背景图像进行组合时更为真实。
步骤S106,将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据。
使用处理后的帧图像直接覆盖掉对应的待处理的帧图像,直接可以得到处理后的视频数据。
根据本发明上述实施例提供的方法,获取视频数据,对视频数据进行甄别,获取包含特定对象的待处理的帧图像,在利用图像分割算法对包含特定图像的待处理的帧图像进行图像分割处理后,对得到的前景图像的边缘进行模糊处理,然后利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理,使得分割后的前景图像的效果更为精细,便于前景图像能够更好地与其他背景图像组合,避免了由于图像分割技术差而导致前景图像的边缘处无法很好的与其他背景图像组合的问题。本发明对用户技术水平不做限制,不需要用户手动对视频进行处理,自动实现对视频的处理,大大节省用户时间。
图2示出了根据本发明另一个实施例的视频分割结果边缘优化处理方法的流程示意图。如图2所示,该方法包括以下步骤:
步骤S200,获取视频数据。
获取的视频数据可以是用户本地的视频数据,也可以获取网络的视频数据。或者还可以获取由多个本地图片合成的视频数据,或者获取由多个网络图片合成的视频数据,或者获取由多个本地图片和多个网络图片合成的视频数据。
步骤S201,对用户指定时间段的视频数据进行甄别,获取包含特定对象的待处理的帧图像。
视频数据中包含很多帧图像,需要对视频数据进行甄别。同时,在甄别时,还可以根据用户指定时间段,仅对用户指定时间段内的视频数据进行甄别,而不需要对其他时间段的视频数据进行甄别。如由于视频数据的后半段为高潮时段,往往用户指定时间段为视频数据的后半段。因此仅对用户指定时间段的视频数据进行甄别,获取用户指定时间段的视频数据中包含特定对象的待处理的帧图像。
步骤S202,对待处理的帧图像进行图像分割处理,得到针对于特定对象的前景图像。
对待处理的帧图像进行图像分割处理,主要是将特定对象从待处理的帧图像中分割出来,得到针对于特定对象的前景图像,该前景图像可以仅包含特定对象,其中,特定对象可以为人体。
在对待处理的帧图像进行图像分割处理时,可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如,人脸识别或面部表情识别)。如利用深度学习的人体分割方法可以对待处理的帧图像进行场景分割,得到包含人体的前景图像。
在得到前景图像后,需要对前景图像的边缘进行模糊处理,例如,可以利用扩散算法对前景图像的边缘进行模糊处理,具体地,可以采用步骤S203中的方法:
步骤S203,针对前景图像的边缘的多个像素点中的任一个像素点,从预设像素值范围内选择一像素值,并将像素值赋值给前景图像的边缘的像素点。
在进行图像分割处理时,可能由于分割技术的限制导致所得到的前景图像的边缘可能携带了非前景图像的像素信息,例如,经过图像分割处理后得到的针对于特定对象的前景图像的边缘可能还带有待处理的帧图像的背景图像的像素信息,而前景图像的边缘所带有的待处理的帧图像的背景图像的像素信息会直接影响到前景图像的美观等,更会严重地影响该前景图像与其他背景图像的组合,因此,在得到针对于特定对象的前景图像后,需要对前景图像的边缘进行模糊处理,具体地,针对前景图像的边缘的多个像素点中的任一个像素点,可以从预设像素值范围内选择一像素值,然后将所选择的像素值赋值给前景图像的边缘的像素点,其中,预设像素值范围可以为(0,1),举例说明,从(0,1)内随机选取一像素值0.5,将像素值0.5赋值给前景图像的边缘的像素点,这里需要对前景图像的边缘的所有像素点都进行处理,但是像素点被赋予的像素值是随机的,例如,一个像素点被赋予的像素值可以是0.5,另一个像素点被赋予的像素值可以是0.3,这里进行举例说明,不具有任何限定作用。
步骤S204,利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理。
步骤S203是对前景图像的边缘的所有像素点进行模糊处理后,但是对于一些能够确定属于前景图像的像素点而言,对前景图像的边缘进行模糊处理将会降低图像的清晰度,降低前景图像的展示效果,而RGB协方差矩阵能够用于确定经过模糊处理后的前景图像的边缘的像素点的颜色信息是与待处理的帧图像的背景图像的像素点的颜色信息更相似,还与是待处理的帧图像的前景图像的像素点的颜色信息更相似,在本步骤中,可以利用RGB协方差矩阵来对经过模糊处理后的前景图像的边缘进行边缘优化处理,从而使得分割后的前景图像的效果更为精细,例如,经过模糊处理后,前景图像的边缘的一个像素点的像素值为0.5,根据RGB协方差矩阵能够确定该像素点与待处理的帧图像的前景图像的像素点的颜色更相似,因此,将该像素点的像素值由0.5更改为1,再例如,经过模糊处理后,前景图像的边缘的一个像素点的像素值为0.2,根据RGB协方差矩阵能够确定该像素点与待处理的帧图像的背景图像的像素点的颜色更相似,因此,保持该像素点的像素值为0.2,利用RGB协方差矩阵对经过模糊处理的前景图像进行校正,使前景图像的分割结果更为精细,并在一定程度上保持了图像的梯度信息。
步骤S205,提取图像分割处理的分割概率信息。
为了避免图像分割处理时将前景图像的一些像素点错误的分割到背景图像的问题,在对图像进行分割处理得到前景图像后,还需要提取图像分割处理的分割概率信息,该分割概率信息记录了用于反映前景图像各个像素点的分割不确定性的概率,分割概率信息可以包括:像素点的位置、像素点的属性以及分割不确定的概率,其中,该分割不确定的概率表示了不确定一像素点是属于前景图像或属于背景图像的概率,若一像素点能够明确的确定出是属于前景图像或背景图像,则该像素点的分割不确定的概率很低;若一像素点不能够明确的确定出是属于前景图像或背景图像,则该像素点的分割不确定的概率很高,在本发明实施例中,前景图像边缘的像素点的分割不确定的概率大于前景图像内部的像素点的分割不确定的概率。
在本发明实施例中,可以先执行步骤S205再执行步骤S203和步骤S204,也可以先执行步骤S203和步骤S204再执行步骤S205,当然也可以同时执行步骤S203和步骤S205,这里不做具体限定。
步骤S206,根据分割概率信息,对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理。
在得到图像分割处理的分割概率信息后,为了得到更高质量的前景图像,可以根据分割概率信息对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理,对前景图像的像素点进行修正,具体地,对于分割不确定的概率大的像素点,则经过边缘优化处理后的前景图像来作为主要分割结果,对于分割不确定的概率大的像素点,则经过图像分割处理得到的前景图像来作为主要分割结果,例如可以依据如下公式进行融合处理,Δ=Δ1*a+Δ2*(1-a),其中,Δ表示融合处理后的前景图像,Δ1表示经过边缘优化处理后的前景图像,Δ2表示经过图像分割处理得到的前景图像,a表示分割不确定的概率。
步骤S207,对经过融合处理后的前景图像进行锐化处理。
图像锐化处理的目的是为了使图像的边缘、轮廓线以及图像的细节变的清晰,图像的锐化处理就是补偿图像的轮廓,增强图像的边缘及灰度跳变的部分,图像的边缘和轮廓常常位于图像中灰度突变的地方,因而可以直观地想到用灰度的差分对边缘和轮廓进行提取并处理,具体地,可以分为空域处理和频域处理两类,本领域技术人员可以根据常用的锐化处理方法对经过融合处理后的前景图像进行锐化处理,这里不做具体解释说明。
步骤S208,将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
其中,预设背景图像可以是用户根据需要选定的,例如,可以是山水背景图像、明星背景图像,这里不做具体限定,该预设背景可以来源于移动终端的背景图像库,也可以是用户从网络下载存储至移动终端,还可以是接收其他移动终端的用户传输的背景图像,在获取到预设背景图像后,将经过锐化处理后的前景图像与预设背景图像进行组合处理,使得预设背景图像更真实的与经过锐化处理后的前景图像融合在一起,得到处理后的帧图像。
步骤S209,将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据。
使用处理后的帧图像直接覆盖掉对应的待处理的帧图像,直接可以得到处理后的视频数据。
步骤S210,将处理后的视频数据上传至一个或多个云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
处理后的视频数据可以保存在本地仅供用户观看,也可以将处理后的视频数据直接上传至一个或多个云视频平台服务器,如爱奇艺、优酷、快视频等云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
在本发明一种优选实施例中,还可以在根据分割概率信息对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理后,将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。若将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像,则将不再执行步骤S207-步骤S208。
根据本发明上述实施例提供的方法,获取视频数据,对用户指定时间段的视频数据进行甄别,获取包含特定对象的待处理的帧图像,在利用图像分割算法对包含特定图像的待处理的帧图像进行图像分割处理后,对得到的前景图像的边缘进行模糊处理、边缘优化处理,再根据分割概率信息,对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理,对经过融合处理后的前景图像进行锐化处理,将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像,使得分割后的前景图像的效果更为精细,便于前景图像能够更好地与预设背景图像组合,避免了由于图像分割技术差而导致前景图像的边缘处无法很好的与预设背景图像组合的问题。本发明对用户技术水平不做限制,不需要用户对图像进行额外处理,节省用户时间,还可以实时反馈处理后的图像,方便用户查看。
图3示出了根据本发明一个实施例的视频分割结果边缘优化处理装置的结构示意图。如图3所示,该装置包括:获取模块300、甄别模块301、分割处理模块302、模糊处理模块303、边缘优化处理模块304、组合处理模块305和覆盖模块306。
获取模块300,适于获取视频数据。
甄别模块301,适于对视频数据进行甄别,获取包含特定对象的待处理的帧图像。
分割处理模块302,适于对待处理的帧图像进行图像分割处理,得到针对于特定对象的前景图像。
模糊处理模块303,适于对前景图像的边缘进行模糊处理。
边缘优化处理模块304,适于利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理。
组合处理模块305,适于将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
覆盖模块306,适于将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据。
根据本发明上述实施例提供的装置,获取视频数据,对视频数据进行甄别,获取包含特定对象的待处理的帧图像,在利用图像分割算法对包含特定图像的待处理的帧图像进行图像分割处理后,对得到的前景图像的边缘进行模糊处理,然后利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理,使得分割后的前景图像的效果更为精细,从而使得前景图像能够更好地与其他背景图像组合,避免了由于图像分割技术差而导致前景图像的边缘处无法很好的与其他背景图像组合的问题。
图4示出了根据本发明一个实施例的视频分割结果边缘优化处理装置的结构示意图。如图4所示,该装置包括:获取模块400、甄别模块401、分割处理模块402、模糊处理模块403、边缘优化处理模块404、组合处理模块405和覆盖模块406。
获取模块400,适于获取视频数据。
获取模块400获取的视频数据可以是用户本地的视频数据,获取模块400也可以获取网络的视频数据。或者获取模块400还可以获取由多个本地图片合成的视频数据,或者获取模块400获取由多个网络图片合成的视频数据,或者获取模块400获取由多个本地图片和多个网络图片合成的视频数据。
甄别模块401,适于对视频数据进行甄别,获取包含特定对象的待处理的帧图像。
视频数据中包含很多帧图像,需要甄别模块401对视频数据进行甄别。由于本发明对特定对象进行处理,因此甄别模块401进行甄别后获取包含特定对象的待处理的帧图像。
甄别模块401在甄别时,还可以根据用户指定时间段,仅对用户指定时间段内的视频数据进行甄别,而不需要对其他时间段的视频数据进行甄别。如由于视频数据的后半段为高潮时段,往往用户指定时间段为视频数据的后半段。因此甄别模块401仅对用户指定时间段的视频数据进行甄别,获取用户指定时间段的视频数据中包含特定对象的待处理的帧图像。
分割处理模块402,适于对待处理的帧图像进行图像分割处理,得到针对于特定对象的前景图像。
模糊处理模块403,适于利用扩散算法对前景图像的边缘进行模糊处理。
具体地,模糊处理模块403,适于针对前景图像的边缘的多个像素点中的任一个像素点,从预设像素值范围内选择一像素值,并将像素值赋值给前景图像的边缘的像素点。
边缘优化处理模块404,适于利用从待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理。
分割概率信息提取模块407,适于提取图像分割处理的分割概率信息,分割概率信息记录了用于反映前景图像各个像素点的分割不确定性的概率。
融合处理模块408,适于根据分割概率信息,对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理。
锐化处理模块409,适于对经过融合处理后的前景图像进行锐化处理。
组合处理模块405,适于将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
覆盖模块406,适于将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据。
上传模块410,适于将处理后的视频数据上传至一个或多个云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
在本发明一种优选实施例中,还可以在根据分割概率信息对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理后,组合处理模块将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。若将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像,则该装置无需再包括:锐化处理模块。
根据本发明上述实施例提供的装置,获取视频数据,对视频数据进行甄别,获取包含特定对象的待处理的帧图像,在利用图像分割算法对包含特定图像的待处理的帧图像进行图像分割处理后,对得到的前景图像的边缘进行模糊处理、边缘优化处理,再根据分割概率信息,对经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理,对经过融合处理后的前景图像进行锐化处理,将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像,使得分割后的前景图像的效果更为精细,从而使得前景图像能够更好地与预设背景图像组合,避免了由于图像分割技术差而导致前景图像的边缘处无法很好的与预设背景图像组合的问题。本发明对用户技术水平不做限制,不需要用户对图像进行额外处理,节省用户时间,还可以实时反馈处理后的图像,方便用户查看。
本申请还提供了一种非易失性计算机存储介质,所述计算机存储介质存储有至少一可执行指令,该计算机可执行指令可执行上述任意方法实施例中的视频分割结果边缘优化处理方法。
图5示出了根据本发明一个实施例的一种计算设备的结构示意图,本发明具体实施例并不对计算设备的具体实现做限定。
如图5所示,该计算设备可以包括:处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。
其中:
处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。
通信接口504,用于与其它设备比如客户端或其它服务器等的网元通信。
处理器502,用于执行程序510,具体可以执行上述视频分割结果边缘优化处理方法实施例中的相关步骤。
具体地,程序510可以包括程序代码,该程序代码包括计算机操作指令。
处理器502可能是中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器,可以是同一类型的处理器,如一个或多个CPU;也可以是不同类型的处理器,如一个或多个CPU以及一个或多个ASIC。
存储器506,用于存放程序510。存储器506可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
程序510具体可以用于使得处理器502执行图1所示实施例和图2所示实施例中的方法。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的视频分割结果边缘优化处理设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (20)

1.一种视频分割结果边缘优化处理方法,其包括:
获取视频数据;
对所述视频数据进行甄别,获取包含特定对象的待处理的帧图像;
对所述待处理的帧图像进行图像分割处理,得到针对于所述特定对象的前景图像;
对所述前景图像的边缘进行模糊处理;
利用从所述待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理;
将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像;
将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据;
其中,所述对前景图像的边缘进行模糊处理进一步包括:针对所述前景图像的边缘的多个像素点中的任一个像素点,从预设像素值范围内选择一像素值,并将所述像素值赋值给所述前景图像的边缘的像素点;
利用从所述待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理进一步包括:根据协方差矩阵确定模糊处理后的前景图像的边缘的像素点的颜色信息与待处理的帧图像的前景图像的像素点的颜色信息的相似程度是否大于与待处理的帧图像的背景图像的像素点的颜色信息的相似程度;若是,则更新模糊处理后的前景图像的边缘的像素点的像素值;若否,则保持模糊处理后的前景图像的边缘的像素点的像素值。
2.根据权利要求1所述的方法,其中,所述获取视频数据进一步包括:
获取本地视频数据和/或网络视频数据。
3.根据权利要求1所述的方法,其中,所述获取视频数据进一步包括:
获取由多个本地图片和/或多个网络图片合成的视频数据。
4.根据权利要求1-3任一项中所述的方法,其中,所述对所述视频数据进行甄别,获取包含特定对象的待处理的帧图像进一步包括:
对用户指定时间段的视频数据进行甄别,获取包含特定对象的待处理的帧图像。
5.根据权利要求1-3任一项所述的方法,其中,所述对前景图像的边缘进行模糊处理进一步包括:
利用扩散算法对前景图像的边缘进行模糊处理。
6.根据权利要求1-3任一项所述的方法,其中,所述方法还包括:提取所述图像分割处理的分割概率信息,所述分割概率信息记录了用于反映所述前景图像各个像素点的分割不确定性的概率。
7.根据权利要求6所述的方法,其中,所述方法还包括:根据所述分割概率信息,对所述经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理;
所述将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像进一步包括:
将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
8.根据权利要求7所述的方法,其中,所述方法还包括:对经过融合处理后的前景图像进行锐化处理;
所述将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像进一步包括:
将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
9.根据权利要求1-3任一项所述的方法,其中,所述方法还包括:
将处理后的视频数据上传至一个或多个云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
10.一种视频分割结果边缘优化处理装置,其包括:
获取模块,适于获取视频数据;
甄别模块,适于对所述视频数据进行甄别,获取包含特定对象的待处理的帧图像;
分割处理模块,适于对所述待处理的帧图像进行图像分割处理,得到针对于所述特定对象的前景图像;
模糊处理模块,适于对所述前景图像的边缘进行模糊处理;
边缘优化处理模块,适于利用从所述待处理的帧图像提取的协方差矩阵对经过模糊处理后的前景图像进行边缘优化处理;
组合处理模块,适于将经过边缘优化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像;
覆盖模块,适于将处理后的帧图像覆盖待处理的帧图像得到处理后的视频数据;
其中,所述模糊处理模块进一步适于:针对所述前景图像的边缘的多个像素点中的任一个像素点,从预设像素值范围内选择一像素值,并将所述像素值赋值给所述前景图像的边缘的像素点;
边缘优化处理模块进一步适于:根据协方差矩阵确定模糊处理后的前景图像的边缘的像素点的颜色信息与待处理的帧图像的前景图像的像素点的颜色信息的相似程度是否大于与待处理的帧图像的背景图像的像素点的颜色信息的相似程度;若是,则更新模糊处理后的前景图像的边缘的像素点的像素值;若否,则保持模糊处理后的前景图像的边缘的像素点的像素值。
11.根据权利要求10所述的装置,其中,所述获取模块进一步适于:
获取本地视频数据和/或网络视频数据。
12.根据权利要求10所述的装置,其中,所述获取模块进一步适于:
获取由多个本地图片和/或多个网络图片合成的视频数据。
13.根据权利要求10-12任一项所述的装置,其中,所述甄别模块进一步适于:
对用户指定时间段的视频数据进行甄别,获取包含特定对象的待处理的帧图像。
14.根据权利要求10-12任一项所述的装置,其中,所述模糊处理模块进一步适于:利用扩散算法对前景图像的边缘进行模糊处理。
15.根据权利要求10-12任一项所述的装置,其中,所述装置还包括:分割概率信息提取模块,适于提取所述图像分割处理的分割概率信息,所述分割概率信息记录了用于反映所述前景图像各个像素点的分割不确定性的概率。
16.根据权利要求15任一项所述的装置,其中,所述装置还包括:融合处理模块,适于根据所述分割概率信息,对所述经过图像分割处理得到的前景图像和经过边缘优化处理后的前景图像进行融合处理;
所述组合处理模块进一步适于:将经过融合处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
17.根据权利要求16所述的装置,其中,所述装置还包括:锐化处理模块,适于对经过融合处理后的前景图像进行锐化处理;
所述组合处理模块进一步适于:将经过锐化处理后的前景图像与预设背景图像进行组合处理,得到处理后的帧图像。
18.根据权利要求10-12任一项所述的装置,其中,所述装置还包括:
上传模块,适于将处理后的视频数据上传至一个或多个云视频平台服务器,以供云视频平台服务器在云视频平台进行展示视频数据。
19.一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1-9中任一项所述的视频分割结果边缘优化处理方法对应的操作。
20.一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如权利要求1-9中任一项所述的视频分割结果边缘优化处理方法对应的操作。
CN201710873797.XA 2017-09-25 2017-09-25 视频分割结果边缘优化处理方法、装置及计算设备 Expired - Fee Related CN107547803B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710873797.XA CN107547803B (zh) 2017-09-25 2017-09-25 视频分割结果边缘优化处理方法、装置及计算设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710873797.XA CN107547803B (zh) 2017-09-25 2017-09-25 视频分割结果边缘优化处理方法、装置及计算设备

Publications (2)

Publication Number Publication Date
CN107547803A CN107547803A (zh) 2018-01-05
CN107547803B true CN107547803B (zh) 2020-02-04

Family

ID=60964742

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710873797.XA Expired - Fee Related CN107547803B (zh) 2017-09-25 2017-09-25 视频分割结果边缘优化处理方法、装置及计算设备

Country Status (1)

Country Link
CN (1) CN107547803B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108460768B (zh) * 2018-01-29 2020-11-10 北京航空航天大学 层次化时域切分的视频关注对象分割方法和装置
CN108986117B (zh) * 2018-07-18 2021-06-04 阿里巴巴(中国)有限公司 视频图像分割方法及装置
CN109509195B (zh) * 2018-12-12 2020-04-17 北京达佳互联信息技术有限公司 前景处理方法、装置、电子设备及存储介质
CN110062176B (zh) * 2019-04-12 2020-10-30 北京字节跳动网络技术有限公司 生成视频的方法、装置、电子设备和计算机可读存储介质
CN113938578B (zh) * 2020-07-13 2024-07-30 武汉Tcl集团工业研究院有限公司 一种图像虚化方法、存储介质及终端设备
CN114037710A (zh) * 2021-10-13 2022-02-11 北京百度网讯科技有限公司 图像分割方法、装置、电子设备和存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102446352A (zh) * 2011-09-13 2012-05-09 深圳市万兴软件有限公司 视频图像处理方法及装置
CN102999901A (zh) * 2012-10-17 2013-03-27 中国科学院计算技术研究所 基于深度传感器的在线视频分割后的处理方法及系统
EP3070669A1 (en) * 2015-03-18 2016-09-21 Thomson Licensing Method and apparatus for color smoothing in an alpha matting process
CN106846336A (zh) * 2017-02-06 2017-06-13 腾讯科技(上海)有限公司 提取前景图像、替换图像背景的方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8520946B2 (en) * 2009-06-26 2013-08-27 Intel Corporation Human pose estimation in visual computing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102446352A (zh) * 2011-09-13 2012-05-09 深圳市万兴软件有限公司 视频图像处理方法及装置
CN102999901A (zh) * 2012-10-17 2013-03-27 中国科学院计算技术研究所 基于深度传感器的在线视频分割后的处理方法及系统
EP3070669A1 (en) * 2015-03-18 2016-09-21 Thomson Licensing Method and apparatus for color smoothing in an alpha matting process
CN106846336A (zh) * 2017-02-06 2017-06-13 腾讯科技(上海)有限公司 提取前景图像、替换图像背景的方法及装置

Also Published As

Publication number Publication date
CN107547803A (zh) 2018-01-05

Similar Documents

Publication Publication Date Title
CN107507155B (zh) 视频分割结果边缘优化实时处理方法、装置及计算设备
CN107547803B (zh) 视频分割结果边缘优化处理方法、装置及计算设备
CN107610149B (zh) 图像分割结果边缘优化处理方法、装置及计算设备
EP3457683B1 (en) Dynamic generation of image of a scene based on removal of undesired object present in the scene
CN105323425B (zh) 融合图像系统中的场景运动校正
US9639956B2 (en) Image adjustment using texture mask
KR20200027030A (ko) 얼굴 표정 합성 방법과 장치, 전자 기기, 및 저장 매체
US20180109711A1 (en) Method and device for overexposed photography
CN107665482B (zh) 实现双重曝光的视频数据实时处理方法及装置、计算设备
US20170109873A1 (en) Image enhancement using self-examples and external examples
CN112602088B (zh) 提高弱光图像的质量的方法、系统和计算机可读介质
CN108111911B (zh) 基于自适应跟踪框分割的视频数据实时处理方法及装置
CN107622504B (zh) 用于处理图片的方法和装置
US11308628B2 (en) Patch-based image matting using deep learning
CN112272832A (zh) 用于基于dnn的成像的方法和系统
CN111145308A (zh) 一种贴纸获取方法和装置
JP2023538020A (ja) オブジェクトカテゴリー分類に基づく画像処理
US20220398704A1 (en) Intelligent Portrait Photography Enhancement System
CN107564085B (zh) 图像扭曲处理方法、装置、计算设备及计算机存储介质
CN107705279B (zh) 实现双重曝光的图像数据实时处理方法及装置、计算设备
CN111316628A (zh) 一种基于智能终端的图像拍摄方法及图像拍摄系统
CN114841853A (zh) 图像处理方法、装置、设备及存储介质
CN110689478A (zh) 图像风格化处理方法、装置、电子设备及可读介质
CN107945202B (zh) 基于自适应阈值的图像分割方法、装置及计算设备
CN115967823A (zh) 视频封面生成方法、装置、电子设备及可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200204

CF01 Termination of patent right due to non-payment of annual fee