CN109509195A - 前景处理方法、装置、电子设备及存储介质 - Google Patents
前景处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN109509195A CN109509195A CN201811520032.9A CN201811520032A CN109509195A CN 109509195 A CN109509195 A CN 109509195A CN 201811520032 A CN201811520032 A CN 201811520032A CN 109509195 A CN109509195 A CN 109509195A
- Authority
- CN
- China
- Prior art keywords
- frame
- video
- original image
- prospect
- probability graph
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/174—Segmentation; Edge detection involving the use of two or more images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Abstract
本申请是关于一种前景处理方法、装置、电子设备及存储介质,涉及图像处理技术领域,所述前景处理方法,包括:将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。对将从视频中获取的每一帧原始图像,进行语义分割处理,以识别从该视频中获取的每一帧原始图像的目标前景,使得从该视频中获取的每一帧原始图像中更为准确的识别出目标前景,进而可以准确的进行前景处理,无需重新拍摄、下载或接收视频,即可得到质量较好的新的视频,进而可以提升娱乐效果。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及前景处理方法、装置、电子设备及存储介质。
背景技术
视频表现形式丰富多样,能够为用户提供更多信息,娱乐性能好,因此,应用广泛。
通过对视频中的目标前景进行处理,无需重新拍摄视频,即可以快速得到新的视频,目前没有合适的途径以识别视频中的目标前景,并进行前景处理。
相关技术中,缺乏识别视频中的目标前景,并进行前景处理的途径。
发明内容
为克服相关技术中存在的问题,本公开提供一种前景处理、播放方法及装置。
根据本公开实施例的第一方面,提供一种前景处理方法,包括
获取视频的至少一帧原始图像;
将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;
对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。
可选的,所述将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景,包括:
将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
可选的,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图,包括:
对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图;
对从所述视频中获取的每一帧所述原始图像对应的每一帧所述第二目标前景概率图进行双边滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧所述第一目标前景概率图。
可选的,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图,包括:
从所述视频中,获取从视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
可选的,所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图之前,还包括:
针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
针对每一个像素,确定所述n个差值中的最大差值;
针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图,包括:
针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
可选的,所述基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景,包括:
对每一帧所述第一目标前景概率图进行高斯平滑;
基于每一帧高斯平滑后的第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
可选的,所述对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理,包括:
用预设像素对从所述视频中获取的每一帧原始图像的目标前景,进行前景替换。
可选的,所述将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图之前,还包括:
获取图像样本数据;
基于所述图像样本数据,训练所述语义分割网络。
根据本公开实施例的第二方面,提供一种前景处理装置,包括:
原始图像获取器件,被配置为获取视频的至少一帧原始图像;
目标前景识别器件,被配置为将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;
前景处理器件,被配置为对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。
可选的,所述目标前景识别器件包括:
原始目标前景概率图获取模块,被配置为将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
第一目标前景概率图获取模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
目标前景识别模块,被配置为基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
可选的,所述第一目标前景概率图获取模块,包括:
第二目标前景概率图获取子模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图;
第一目标前景概率图获取子模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧所述第二目标前景概率图进行双边滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧所述第一目标前景概率图。
可选的,所述第二目标前景概率图获取子模块包括:
参考图像获取单元,被配置为从所述视频中,获取从视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
参考目标前景概率图获取单元,被配置为将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
第一目标前景概率值确定单元,被配置为确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
第二目标前景概率值获取单元,被配置为从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
第二目标前景概率图获取单元,被配置为针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
可选的,所述前景处理装置还包括:
差值确定器件,被配置为针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
最大差值确定器件,被配置为针对每一个像素,确定所述n个差值中的最大差值;
目标像素确定器件,被配置为针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述第二目标前景概率图获取单元包括:
第二目标前景概率图获取子单元,被配置为针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
可选的,所述目标前景识别模块包括:
高斯平滑子模块,被配置为对每一帧所述第一目标前景概率图进行高斯平滑;
目标前景识别子模块,被配置为基于每一帧高斯平滑后的第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
可选的,所述前景处理器件包括:
前景处理模块,被配置为用预设像素对从所述视频中获取的每一帧原始图像的目标前景,进行前景替换。
可选的,所述前景处理装置还包括:
图像样本数据获取器件,被配置为获取图像样本数据;
语义分割网络训练器件,被配置为基于所述图像样本数据,训练所述语义分割网络。
根据本公开实施例的第三方面,提供一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行上述任一项所述的前景处理方法。
根据本公开实施例的第四方面,提供一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行上述任一项所述的前景处理方法。
根据本公开实施例的第五方面,提供一种应用程序,当所述应用程序由移动终端的处理器执行时,使得移动终端能够执行上述任一项所述的前景处理方法。
本公开的实施例提供的技术方案可以包括以下有益效果:获取视频的至少一帧原始图像;将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。对将从视频中获取的每一帧原始图像,进行语义分割处理,以识别从该视频中获取的每一帧原始图像的目标前景,使得从该视频中获取的每一帧原始图像中更为准确的识别出目标前景,进而可以准确的进行前景处理,无需重新拍摄、下载或接收视频,即可得到质量较好的新的视频,进而可以提升娱乐效果。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种前景处理方法的流程图。
图2是根据一示例性实施例示出的一种前景处理的示意图。
图3是根据一示例性实施例示出的一种前景处理方法的流程图。
图4是根据一示例性实施例示出的一种确定第一目标前景概率图的流程图。
图5是根据一示例性实施例示出的一种确定第二目标前景概率图的流程图。
图6是根据一示例性实施例示出的一种前景替换的示意图。
图7是根据一示例性实施例示出的一种前景处理装置框图。
图8是根据一示例性实施例示出的另一种前景处理装置框图。
图9是根据一示例性实施例示出的一种电子设备的框图。
图10是根据一示例性实施例示出的另一种电子设备的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种前景处理方法的流程图,如图1所示,前景处理方法,包括以下步骤。
在步骤S11中,获取视频的至少一帧原始图像。
在本申请实施例中,上述视频可以为直接拍摄的视频,或者,网络中下载或接收的视频等,该视频还可以包括:动画、动态图片等。在本申请实施例中对此不作具体限定。
在本申请实施例中,上述原始图像可以为该视频中的任一帧原始图像。例如,可以为第一帧原始图像、第二帧原始图像等。该原始图像可以为RGB格式、YUV格式等各种格式的原始图像,在本申请实施例中,对此不作具体限定。
在本申请实施例中,可以对上述视频进行解码,进而获取该视频中的至少一帧原始图像。在本申请实施例中,对此不作具体限定。
在步骤S12中,将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景。
在本申请实施例中,针对从该视频中获取的每一帧原始图像,根据其要识别的目标前景,进行对应的语义分割处理。即,该语义分割处理可以与要识别的目标前景具有对应关系。例如,要对从视频中获取的每一帧原始图像中的天空进行识别,则需要识别的目标前景即为天空,该语义分割处理则可以为针对天空的语义分割处理。在本申请实施例中,对此不作具体限定。
在本申请实施例中,该语义分割处理可以将从视频中获取的每一帧原始图像分割为若干个具有某种特定语义含义的像素区域等,并识别出每个区域的类别,进而便于对从视频中获取的每一帧图像的目标前景进行设别。例如,要对从视频中获取的每一帧原始图像中的天空进行识别,则需要识别的目标前景即为天空,则该语义分割处理则可以将从该视频中获取的每一帧原始图像中的天空识别出来。在本申请实施例中,对此不作具体限定。
在步骤S13中,对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。
在本申请实施例中,对上述从视频中获取的每一帧原始图像的目标前景,进行前景处理。具体的,可以对从上述视频中获取的每一帧原始图像的目标前景中的全部像素,用预设像素进行替换,或者,可以对从上述视频中获取的每一帧原始图像的目标前景中的部分像素,用预设像素进行替换,或者,可以对从上述视频中获取的某几帧原始图像的目标前景中的全部像素,用预设像素进行替换,或者,可以对从上述视频中获取的某几帧原始图像的目标前景中的部分像素,用预设像素进行替换等。在本申请实施例中,对此不作具体限定。
例如,参照图2所示,图2是根据一示例性实施例示出的一种前景处理的示意图,如图2所示,图2的左侧为一帧原始图像,图2的右侧为对该帧原始图像中的目标前景处理后的示意图。具体的,图2中原始图像中的目标前景可以为小狗10,图2的右侧中的20即为对原始图像中的目标前景小狗10的部分像素用预设像素进行了前景处理。
在本申请实施例中,通过对从视频中获取的每一帧原始图像进行上述语义分割处理后,可以从上述视频中获取的每一帧原始图像中,准确识别出目标前景,通过对上述目标前景的上述前景处理,无需重新拍摄、下载或接收视频,即可得到新的质量较好的视频,进而可以提升娱乐效果。
本公开的实施例提供的技术方案可以包括以下有益效果:获取视频的至少一帧原始图像;将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。对将从视频中获取的每一帧原始图像,进行语义分割处理,以识别从该视频中获取的每一帧原始图像的目标前景,使得从该视频中获取的每一帧原始图像中更为准确的识别出目标前景,进而可以准确的进行前景处理,无需重新拍摄、下载或接收视频,即可得到质量较好的新的视频,进而可以提升娱乐效果。
图3是根据一示例性实施例示出的一种前景处理方法的流程图,如图3所示,包括以下步骤。
在步骤S21中,获取视频的至少一帧原始图像。
在本申请的实施例中,步骤S21可以参照上述步骤S11,为了避免重复此处不再赘述。
在步骤S22中,获取图像样本数据。
在本申请的实施例中,图像样本数据可以是通过相机等拍摄装置拍摄的图像,或者可以为通过网络下载或接收的图像等。该图像样本数据中可以包括多个不同的物体或主体,例如,可以包括:人、天空、道路、树木等。在本申请实施例中,对此不作具体限定。
在本申请实施例中,在获取到图像样本数据的同时或之后,可以针对上述图像样本数据获取其对应的初始标签图,该初始标签图可以是对上述每一个图像样本数据进行类别标注的图。例如,针对上述例子,若图像样本数据包括:人、天空、树木等,该初始标签图即为将该图像样本数据中每一个像素进行归类后的图,例如,标注出每一个像素点是否属于天空等。在本申请实施例中,对此不作具体限定。
在步骤S23中,基于所述图像样本数据,训练所述语义分割网络。
在本申请的实施例中,可以针对上述图像样本数据,训练上述语义分割网络,具体的,可以将上述图像样本数据对应的初始标签图,输入原始语义分割网络,采用该原始语义分割网络,提取图像样本数据对应的特征部分,该特征部分可以包括该每一个主体的局部特征或该图像样本数据的整体特征,该局部特征可以识别出该图像样本数据中每一个主体的形状等,该图像样本数据的整体特征可以为该图像样本数据中每一个主体的逻辑结构等。例如,天空通常位于人或者树木的上方等。
对上述图像样本数据对应的特征部分进行相应的运算,获得上述图像样本数据中每一个主体的边缘特征,将上述图像样本数据的整体特征、局部特征、边缘特征等进行相应运算,同时,参照上述图像样本数据对应的初始标签图,对上述原始语义分割网络中的每一项参数进行调整,直至根据该原始语义分割网络输出的整体特征、局部特征、每一个主体的边缘特征,与上述图像样本数据对应的初始标签图的一致性达到预设阈值的情况下,训练得到该语义分割网络;或者,直至根据该原始语义分割网络输出的整体特征、目标前景的局部特征、目标前景的边缘特征,与上述图像样本数据对应的初始标签图中的目标前景的一致性达到预设阈值,训练得到该语义分割网络。在本申请实施例中,对此不作具体限定。
在本申请的实施例中,该语义分割网络可以与欲识别的目标前景具有对应关系,则在训练上述语义分割网络的过程中,可以主要关注上述图像样本数据中该目标前景的相关数据,进而提高该语义分割网络相对该目标前景的针对性,进而提高针对该目标前景的识别准确性。在本申请实施例中,对此不作具体限定。
在步骤S24中,将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率。
在本申请实施例中,针对从该视频中获取的每一帧原始图像,根据其要识别的目标前景,具体确定对应的语义分割网络。即,该语义分割网络可以与要识别的目标前景具有对应关系。例如,要对从视频中获取的每一帧原始图像中的天空进行识别,则需要识别的目标前景即为天空,该语义分割网络则可以为针对天空的语义识别网络。在本申请实施例中,对此不作具体限定。
在本申请实施例中,该语义分割网络可以将从视频中获取的每一帧原始图像分割为若干个具有某种特定语义含义的像素区域,并识别出每个区域的类别,最终获得一幅具有像素语义标注的目标前景概率图,进而便于对视频中每一帧图像进行像素级的操作。例如,要对从视频中获取的每一帧原始图像中的天空进行识别,则需要识别的目标前景即为天空,则该语义分割网络则可以将从该视频中获取的每一帧原始图像中的天空识别出来,同时可以得到每一个像素为天空的概率值。在本申请实施例中,对此不作具体限定。
在本申请实施例中,上述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率。具体的,原始目标前景概率图可以与相应的原始图像大小一致,原始目标前景概率图每一个像素点的像素值能够表征,相应的原始图像中该像素点为目标前景的概率,例如原始图像的大小为h*w,对应的原始目标前景概率图也是h*w,并且,h*w个像素中,每一个像素值均表征相应的原始图像中该像素点为目标前景的概率。
例如,若原始图像1的尺寸为:20*30,若原始图像1对应的原始目标前景概率图为原始目标前景概率图1,则原始目标前景概率图1的尺寸也可以为:20*30。原始目标前景概率图1中,像素点(0,1)对应的像素值,若为204,则可以表征原始图像1中,像素点(0,1)为目标前景的概率可以为:204/255=0.8。在本申请实施例中,将从上述视频中获取的每一帧原始图像输入上述语义分割网络,可以得到与从上述视频中获取的每一帧原始图像对应的每一帧原始目标前景概率图。每一帧原始目标前景概率图为:从上述视频中获取的每一帧所述原始图像中,每一个像素为目标前景的概率值对应的图像。具体的,该每一帧原始目标前景概率图中,目标前景的像素可以以设定方式进行显示,该原始目标前景概率图中,可以提供从上述视频中获取的每一帧所述原始图像中,每一个像素为目标前景的概率值。例如,若目标前景为天空,若从上述视频中获取的每一帧原始图像中,坐标为(x1,y1)的像素为目标前景天空的概率值为:0.9,则该原始目标前景概率图中坐标为(x1,y1)的像素为目标前景天空的概率值为:0.9。
在步骤S25中,对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图。
在本申请实施例中,由于抖动等因素的存在,若从该语义分割网络中直接得到的原始目标前景概率图中直接识别该目标前景,可能会存在目标前景识别不准的问题,进而可以对上述从视频中获取的每一帧原始目标前景概率图进行平滑滤波处理,得到从上述视频中获取的每一帧原始图像对应的每一帧第一目标前景概率图。该平滑滤波处理具体可以包括时序平滑和滤波等,该滤波可以为高斯滤波、阿尔法截尾均值滤波等,该滤波还可以为双边滤波等。在本申请实施例中,对此不作具体限定。
具体的,可以先对该每一帧原始目标前景概率图进行时序平滑,然后进行滤波处理,或者,先对该每一帧原始目标前景概率图先进行滤波处理,后进行时序平滑等。在本申请实施例中对此不作具体限定。
在本申请实施例中,视频中时序连续的几帧原始图像,同一坐标的相似性通常较高,进而,视频中时序连续的几帧原始图像,同一坐标的目标前景的概率值通常差距不应该太大,在本申请实施例中,可以从上述视频中,获取每一帧原始图像时序相关的参考图像,基于每一帧原始图像对应的原始目标前景概率图和对应的参考图像进行时序平滑等,以提高对视频中每一帧原始图像的目标前景的识别准确度。
在本申请实施例中,可选的,在本申请实施例中,参照图4所示,图4是根据一示例性实施例示出的一种确定第一目标前景概率图的流程图。
可选的,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图,可以包括:
步骤S251,对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图。
步骤S252,对从所述视频中获取的每一帧所述原始图像对应的每一帧所述第二目标前景概率图进行双边滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧所述第一目标前景概率图。
具体的,在本申请实施例中,视频中时序连续的几帧原始图像,同一坐标的相似性通常较高,进而,视频中时序连续的几帧原始图像,同一坐标的目标前景的概率值通常差距不应该太大,但由于抖动等原因的存在,使得视频中时序连续的几帧原始图像,通过该语义分割网络输出的同一坐标的目标前景概率值可能差距较大,为了避免上述抖动等原因导致的对目标前景的识别不准的问题,可以对上述原始目标前景概率图进行时序平滑,进而消除抖动等因素的打扰,以提高对视频中每一帧原始图像的目标前景的识别准确度。
在本申请实施例中,针对从视频中获取的每一帧原始图像,可以从上述视频中获取对应的参考图像,该参考图像可以为在上述视频中,与该帧原始图像时序相关性较高的1帧或多帧原始图像。在申请实施例中,对此不作具体限定。
在申请实施例中,可以根据从视频中获取的每一帧原始图像对应的参考图像,分别对上述从视频中获取的每一帧原始图像对应的每一帧原始目标前景概率图进行时序平滑,进而得到从视频中获取的每一帧第二目标前景概率图。
在本申请实施例中,参照图5所示,图5是根据一示例性实施例示出的一种确定第二目标前景概率图的流程图。可选的,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图,可以包括:
步骤S2511,从所述视频中,获取从视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数。
在本申请的实施例中,从视频中获取的每一帧原始图像的参考图像,可以为该视频中该帧原始图像之前的n帧原始图像,n可以为大于0的整数。n可以根据实际需要等进行选取。例如,n可以取值为1,或者,n可以取值为2等。在本申请实施例中,对此不作具体限定。
例如,若从视频中获取的原始图像为视频1中的第10帧原始图像,若n为1,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像,再例如,若n为2,则该帧原始图像的参考图像,可以为视频1中的第8帧原始图像和第9帧原始图像。
在本申请可选的实施例中,可以对上述视频进行解码,获取从视频中获取的每一帧原始图像的参考图像。在本申请实施例中,对此不作具体限定。
步骤S2512,将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率。
在本申请的实施例中,可以将从视频中获取的每一帧上述参考图像输入语义分割网络,得到从视频中获取的每一帧参考图像对应的参考目标前景概率图。
例如,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图。
在本申请实施例中,上述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率。具体的,参考目标前景概率图可以与相应的参考图像大小一致,参考目标前景概率图每一个像素点的像素值能够表征,相应的参考图像中该像素点为目标前景的概率,例如参考图像的大小为h*w,对应的参考目标前景概率图也是h*w,并且,h*w个像素中,每一个像素值均表征相应的参考图像中该像素点为目标前景的概率。
例如,若参考图像1的尺寸为:20*30,若参考图像1对应的参考目标前景概率图为参考目标前景概率图1,则参考目标前景概率图1的尺寸也可以为:20*30。参考目标前景概率图1中,像素点(0,1)对应的像素值,若为153,则可以表征参考图像1中,像素点(0,1)为目标前景的概率可以为:153/255=0.7。
步骤S2513,确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值。
在本申请的实施例中,可以确定每一帧参考目标前景概率图中,每一个像素的第一目标前景概率值。
具体的,每一帧参考目标前景概率值中包括了每一个像素的目标前景概率值,可以从每一帧参考目标前景概率图中,直接获取每一个像素的目标前景概率值,将该目标前景概率值直接确定为每一个像素的第一目标前景概率值。或者,可以从每一帧参考目标前景概率图中,获取每一个像素的目标前景概率值,同时从视频中,获取每一帧参考图像时序相关的原始图像,将上述与每一帧参考图像时序相关的原始图像,输入上述语义分割网络,得到第三目标前景概率图,结合上述第三目标前景概率图中每一个像素的目标前景概率值,和上述参考目标前景概率图中每一个像素的目标前景概率值,确定该第一目标前景概率值。在本申请实施例中,对此不作具体限定。
步骤S2514,从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值。
在本申请的实施例中,可以从每一帧原始目标前景概率图中,获取每一个像素的第二目标前景概率值。
具体的,每一帧原始目标前景概率值中包括了每一个像素的第二目标前景概率值,可以从每一帧原始目标前景概率图中,直接获取每一个像素的第二目标前景概率值。例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,第10帧原始图像对应的原始目标前景概率图中,获取的坐标为(x1,y1)的像素的第二目标前景概率值即为0.9。
步骤S2515,针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
在本申请实施例中,该预设权重可以根据实际需要进行设定。在本申请实施例中,对此不作具体限定。在本申请实施例中,为了避免抖动等导致的对目标前景的识别不准,可以针对每一帧上述原始目标前景概率图,将上述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧第二目标前景概率图。
例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,若n为1,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图1,根据该参考目标前景概率图1,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,若原始目标前景概率图1中像素的第二目标前景概率值对应的预设权重为0.6,参考目标前景概率图1中对应像素的第一目标前景概率值的预设权重为0.4,则视频1中第10帧原始图像的第二目标前景概率图中,坐标为(x1,y1)的像素的目标前景概率值即可以为:0.6×0.9+0.4×0.8=0.86。
再例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,若n为2,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像和视频1中的第8帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图1,根据该参考目标前景概率图1,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,将上述视频1中的第8帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图2,若根据该参考目标前景概率图2,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.7,若原始目标前景概率图1中像素的第二目标前景概率值对应的预设权重为0.6,参考目标前景概率图1中对应像素的第一目标前景概率值的预设权重为0.3,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重为0.1,则视频1中第10帧原始图像的第二目标前景概率图中,坐标为(x1,y1)的像素的目标前景概率值即可以为:0.6×0.9+0.3×0.8+0.1×0.7=0.85。
在本申请实施例中,若n≥2,即,一帧原始图像可以对应2帧及以上的参考图像,需要说明的是,通常距离该原始图像时序距离越近的参考图像,其与该原始图像的相似性可能会更高,因此,可以将时序距离越近的参考图像的权重设置的较大一些。例如,针对上述例子,若n为2,上述视频1中的第9帧原始图像作为参考图像,距离视频1中第10帧原始图像的时序距离,通常可以大于,上述视频1中的第8帧原始图像作为参考图像,距离视频1中第10帧原始图像的时序距离,进而,参考目标前景概率图1中对应像素的第一目标前景概率值的预设权重为0.3,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重为0.1,即,参考目标前景概率图1中对应像素的第一目标前景概率值的预设权重可以大于,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重。进而可以进一步去除抖动的影响,有利于准确识别目标前景。
在本申请实施例中,若n≥2,即,一帧原始图像可以对应2帧及以上的参考图像,若上述几帧参考图像,其与该原始图像的相似性若相当,则可以将每一帧参考图像的权重设置为相同。在本发明实施例中,对此不作具体限定。
在本申请实施例中,可选的,所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图之前,还包括:针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;针对每一个像素,确定所述n个差值中的最大差值;针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图,包括:针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
具体的,上述预设差值范围可以根据实际需要进行设定等。可以针对每一帧原始目标前景概率图,分别确定每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值。针对每一个像素,确定n个差值中的最大差值,针对每一帧原始目标前景概率图,确定最大差值在预设差值范围之外的目标像素值,针对每一帧原始目标前景概率图,将目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照上述预设权重加权求和,得到每一帧第二目标前景概率图。即,只是针对抖动较为严重的像素进行时序平滑处理,进而可以提升处理速度。
例如,针对上述例子,若n为1,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,n为1,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图1,根据该参考目标前景概率图1,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,则针对该帧原始图像的原始目标前景概率图,得到坐标为(x1,y1)的像素的第二目标前景概率值对应的1个差值可以为:0.9-0.8=0.1。则1个差值中的最大差值即可以为其本身,若该预设差值范围为-0.08至+0.08,则该差值0.1在该预设差值范围之外,则坐标为(x1,y1)的像素即可以为目标像素,以此类推,得到该帧原始目标前景概率图中的所有目标像素,将该帧原始目标前景概率图中的所有目标像素第二目标前景概率值与对应像素的1个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
再例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,若n为2,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像和视频1中的第8帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图1,根据该参考目标前景概率图1,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,将上述视频1中的第8帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图2,若根据该参考目标前景概率图2,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.7,则针对该帧原始图像的原始目标前景概率图,得到坐标为(x1,y1)的像素的第二目标前景概率值对应的2个差值可以为:0.9-0.8=0.1,和0.9-0.7=0.2。这2个差值中的最大差值即可以为0.2,若该预设差值范围为-0.1至+0.1,则该差值0.2在该预设差值范围之外,则坐标为(x1,y1)的像素即可以为目标像素,以此类推,得到该帧原始目标前景概率图中的所有目标像素,将该帧原始目标前景概率图中的所有目标像素第二目标前景概率值与对应像素的2个第一目标前景概率值,按照预设权重加权求和,得到每一帧上述第二目标前景概率图。
在本申请的实施例中,可以对上述从上述视频中获取的每一帧原始图像对应的每一帧第二目标前景概率图进行双边滤波,得到从上述视频中获取的每一帧原始图像对应的每一帧第一目标前景概率图。
具体的,该双边滤波可以为结合了该第二目标前景概率图的空间邻近度和像素值相似度的一种折中处理,该双边滤波可以同时考虑空域信息和像素值相似性,达到保边去噪的目的。
在本申请的实施例中,可选的,该双边滤波可以为结合了阿尔法截尾均值滤波与高斯滤波的双边滤波,该双边滤波中核的系数表达式可以如下:
在公式1中,i,j为核中心的像素坐标,k,l为的核中心的邻域像素坐标,f(i,j)为核中心像素值,f(k,l)为核中心的邻域的像素值,为位置方差,为像素值方差。
在本申请实施例中,核的大小以及上述位置方差等,可以根据实际需要进行设定,在本申请实施例中,对此不作具体限定。
在本申请实施例中,对上述从上述视频中获取的每一帧原始图像对应的每一帧第二目标前景概率图进行双边滤波后,得到从上述视频中获取的每一帧原始图像对应的每一帧第一目标前景概率图。通过上述双边滤波,由于同时考虑空域信息和像素值相似性,每一帧第一目标前景概率图中,目标前景和背景的边界更加准确,进而可以提升后续对目标情景识别的准确性。
在步骤S26中,基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
在本申请的实施例中,每一帧第一目标前景概率图中,目标前景和背景的边界更加准确,进而基于每一帧上述第一目标前景概率图,对从该视频中获取的每一帧上述原始图像的目标前景进行识别。
具体的,可以设定一定的像素阈值或目标前景概率阈值,将上述第一目标前景概率图中,大于等于该像素阈值或目标情景概率阈值的像素,确定为该目标前景的第一像素,得到上述第二目标前景概率值中,每一个第一像素的目标坐标,将该帧原始图像中的上述目标坐标对应的像素,确定为该原始图像的目标前景。该像素阈值或目标情景概率阈值可以根据实际需要进行设定,在本申请实施例中对此不作具体限定。
在本申请的实施例中,可选的,基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景,可以包括:对每一帧所述第一目标前景概率图进行高斯平滑;基于每一帧高斯平滑后的第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
具体的,在本申请实施例中,可以对上述第一目标前景概率图进行高斯平滑,进而可以使得第一目标前景概率图中,目标前景的边缘较为模糊或平滑,避免从该第一目标前景概率图中识别出来的目标前景的轮廓或边缘太过生硬。
在本申请实施例中,该高斯平滑可以为高斯滤波,可以为对上述第一目标前景概率图进行高斯滤波。具体的,用一个模板,如或称卷积、掩模等,扫描该第一目标前景概率图中的每一个像素,用该模板确定的邻域内像素值的加权平均值去替代模板中心像素点的像素值。在本申请实施例中,对此不作具体限定。
在本申请实施例中,基于每一帧高斯平滑后的第一目标前景概率图,识别从该视频中获取的每一帧原始图像的目标前景。具体的,可以设定一定的像素阈值或目标前景概率阈值,将上述高斯平滑后的第一目标前景概率图中,大于等于该像素阈值或目标情景概率阈值的像素,确定为该目标前景的第一像素,得到上述高斯平滑后的第一目标前景概率图中,每一个第一像素的目标坐标,将该帧原始图像中的上述目标坐标对应的像素,确定为该原始图像的目标前景。该像素阈值或目标情景概率阈值可以根据实际需要进行设定,在本申请实施例中对此不作具体限定。
在步骤S27中,用预设像素对从所述视频中获取的每一帧原始图像的目标前景,进行前景替换。
在本申请实施例中,对从视频中获取的每一帧上述原始图像的目标前景识别出来之后,可以用预设像素对该从视频中获取的每一帧上述原始图像的目标前景,进行前景替换。该前景替换可以是对从视频中获取的每一帧原始图像中目前前景包括的所有像素用预设像素进行替换,该预设像素可以为相同或不同,或者,可以对从视频中获取的每一帧原始图像中目标前景包括的部分像素用预设像素进行替换,该原始图像中目标前景包括的其余部分像素继续保留。
例如,参照图6是根据一示例性实施例示出的一种前景替换的示意图,如图6所示,图6的左侧为一帧原始图像,图6的右侧为对该原始图像中的目标前景进行替换后的示意图。具体的,图6中原始图像中的目标前景可以为小狗10,图6的右侧中的30即为对原始图像中的目标前景小狗10的部分像素用预设像素进行了替换。
在本申请实施例中,通过对从视频中获取的每一帧原始图像的原始目标前景概率图进行上述替换后,可以从上述第一目标前景概率图中,准确识别出视频每一帧原始图像的目标前景,通过对上述目标前景的上述前景替换,无需重新拍摄、下载或接收视频,即可得到新的质量较好的视频,进而可以提升娱乐效果。
本公开的实施例提供的技术方案可以包括以下有益效果:获取视频的至少一帧原始图像;将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。对将从视频中获取的每一帧原始图像,进行语义分割处理,以识别从该视频中获取的每一帧原始图像的目标前景,使得从该视频中获取的每一帧原始图像中更为准确的识别出目标前景,进而可以准确的进行前景处理,无需重新拍摄、下载或接收视频,即可得到质量较好的新的视频,进而可以提升娱乐效果。
图7是根据一示例性实施例示出的一种前景处理装置框图。参照图7,该装置700包括原始图像获取器件701,目标前景识别器件704和前景处理器件705。
原始图像获取器件701,被配置为获取视频的至少一帧原始图像;
目标前景识别器件704,被配置为将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;
前景处理器件705,被配置为对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。
可选的,图8是根据一示例性实施例示出的另一种前景处理装置框图。参照图8,所述目标前景识别器件704可以包括:
原始目标前景概率图获取模块7041,被配置为将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
第一目标前景概率图获取模块7042,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
目标前景识别模块7043,被配置为基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
可选的,所述第一目标前景概率图获取模块7042,可以包括:
第二目标前景概率图获取子模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图;
第一目标前景概率图获取子模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧所述第二目标前景概率图进行双边滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧所述第一目标前景概率图。
可选的,所述第二目标前景概率图获取子模块可以包括:
参考图像获取单元,被配置为从所述视频中,获取从视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
参考目标前景概率图获取单元,被配置为将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
第一目标前景概率值确定单元,被配置为确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
第二目标前景概率值获取单元,被配置为从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
第二目标前景概率图获取单元,被配置为针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
可选的,所述前景处理装置700还包括:
差值确定器件,被配置为针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
最大差值确定器件,被配置为针对每一个像素,确定所述n个差值中的最大差值;
目标像素确定器件,被配置为针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述第二目标前景概率图获取单元包括:
第二目标前景概率图获取子单元,被配置为针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
可选的,所述目标前景识别模块包括:
高斯平滑子模块,被配置为对每一帧所述第一目标前景概率图进行高斯平滑;
目标前景识别子模块,被配置为基于每一帧高斯平滑后的第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
可选的,所述前景处理器件705可以包括:
前景处理模块7051,被配置为用预设像素对从所述视频中获取的每一帧原始图像的目标前景,进行前景替换。
可选的,所述前景处理装置700还可以包括:
图像样本数据获取器件702,被配置为获取图像样本数据;
语义分割网络训练器件703,被配置为基于所述图像样本数据,训练所述语义分割网络。关于上述实施例中的装置,其中每一个器件、模块、子模块、单元、子单元执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图9是根据一示例性实施例示出的一种电子设备900的框图。例如,电子设备900可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图9,电子设备900可以包括以下一个或多个组件:处理组件902,存储器904,电力组件906,多媒体组件908,音频组件910,输入/输出(I/O)的接口912,传感器组件914,以及通信组件916。
处理组件902通常控制电子设备900的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件902可以包括一个或多个处理器920来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件902可以包括一个或多个模块,便于处理组件902和其他组件之间的交互。例如,处理组件902可以包括多媒体模块,以方便多媒体组件908和处理组件902之间的交互。
存储器904被配置为存储各种类型的数据以支持在设备900的操作。这些数据的示例包括用于在电子设备900上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器904可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件906为电子设备900的每一种组件提供电力。电源组件906可以包括电源管理系统,一个或多个电源,及其他与为电子设备900生成、管理和分配电力相关联的组件。
多媒体组件908包括在所述电子设备900和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件908包括一个前置摄像头和/或后置摄像头。当设备900处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件910被配置为输出和/或输入音频信号。例如,音频组件910包括一个麦克风(MIC),当电子设备900处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器904或经由通信组件916发送。在一些实施例中,音频组件910还包括一个扬声器,用于输出音频信号。
I/O接口912为处理组件902和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件914包括一个或多个传感器,用于为电子设备900提供各个方面的状态评估。例如,传感器组件914可以检测到设备900的打开/关闭状态,组件的相对定位,例如所述组件为电子设备900的显示器和小键盘,传感器组件914还可以检测电子设备900或电子设备900一个组件的位置改变,用户与电子设备900接触的存在或不存在,电子设备900方位或加速/减速和电子设备900的温度变化。传感器组件914可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件914还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件914还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件916被配置为便于电子设备900和其他设备之间有线或无线方式的通信。电子设备900可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件916经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件916还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备900可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述图1至图6的前景处理方法,且能达到相同的技术效果,为了避免重复此处不再赘述。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器904,上述指令可由装置900的处理器820执行以完成上述图1至图6的前景处理方法,且能达到相同的技术效果,为了避免重复此处不再赘述。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图10是根据一示例性实施例示出的另一种电子设备1000的框图。例如,电子设备1000可以被提供为一服务器。参照图10,电子设备1000包括处理组件1022,其进一步包括一个或多个处理器,以及由存储器1032所代表的存储器资源,用于存储可由处理组件1022的执行的指令,例如应用程序。存储器1032中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1022被配置为执行指令,以执行上述图1至图6的前景处理方法,且能达到相同的技术效果,为了避免重复此处不再赘述。
电子设备1000还可以包括一个电源组件1026被配置为执行电子设备1000的电源管理,一个有线或无线网络接口1050被配置为将电子设备1000连接到网络,和一个输入输出(I/O)接口1058。电子设备1000可以操作基于存储在存储器1032的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
根据本公开实施例的一个方面,提供一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行上述图1至图5的前景处理方法,且能达到相同的技术效果,为了避免重复此处不再赘述。本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (10)
1.一种前景处理方法,其特征在于,包括:
获取视频的至少一帧原始图像;
将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;
对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。
2.根据权利要求1所述的前景处理方法,其特征在于,所述将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景,包括:
将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
3.根据权利要求2所述的前景处理方法,其特征在于,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图,包括:
对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图;
对从所述视频中获取的每一帧所述原始图像对应的每一帧所述第二目标前景概率图进行双边滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧所述第一目标前景概率图。
4.根据权利要求3所述的前景识别方法,其特征在于,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图,包括:
从所述视频中,获取从视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
5.一种前景处理装置,其特征在于,包括:
原始图像获取器件,被配置为获取视频的至少一帧原始图像;
目标前景识别器件,被配置为将从所述视频中获取的每一帧原始图像,进行语义分割处理,以识别从所述视频中获取的每一帧原始图像的目标前景;
前景处理器件,被配置为对从所述视频中获取的每一帧原始图像的目标前景,进行前景处理。
6.根据权利要求5所述的前景处理装置,其特征在于,所述目标前景识别器件包括:
原始目标前景概率图获取模块,被配置为将从所述视频中获取的每一帧原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
第一目标前景概率图获取模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行平滑滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
目标前景识别模块,被配置为基于每一帧所述第一目标前景概率图,识别从所述视频中获取的每一帧原始图像的目标前景。
7.根据权利要求6所述的前景处理装置,其特征在于,所述第一目标前景概率图获取模块,包括:
第二目标前景概率图获取子模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到从所述视频中获取的每一帧所述原始图像对应的每一帧第二目标前景概率图;
第一目标前景概率图获取子模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧所述第二目标前景概率图进行双边滤波,得到从所述视频中获取的每一帧所述原始图像对应的每一帧所述第一目标前景概率图。
8.根据权利要求7所述的前景识别装置,其特征在于,所述第二目标前景概率图获取子模块包括:
参考图像获取单元,被配置为从所述视频中,获取从视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
参考目标前景概率图获取单元,被配置为将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
第一目标前景概率值确定单元,被配置为确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
第二目标前景概率值获取单元,被配置为从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
第二目标前景概率图获取单元,被配置为针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第二目标前景概率图。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的第一存储器;
其中,所述处理器被配置为:执行如权利要求1至4中任一项所述的前景处理方法。
10.一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行如权利要求1至4中任一项所述的前景处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811520032.9A CN109509195B (zh) | 2018-12-12 | 2018-12-12 | 前景处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811520032.9A CN109509195B (zh) | 2018-12-12 | 2018-12-12 | 前景处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109509195A true CN109509195A (zh) | 2019-03-22 |
CN109509195B CN109509195B (zh) | 2020-04-17 |
Family
ID=65752262
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811520032.9A Active CN109509195B (zh) | 2018-12-12 | 2018-12-12 | 前景处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109509195B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110232327A (zh) * | 2019-05-21 | 2019-09-13 | 浙江师范大学 | 一种基于梯形级联卷积神经网络的驾驶疲劳检测方法 |
CN111127430A (zh) * | 2019-12-24 | 2020-05-08 | 北京推想科技有限公司 | 确定医学影像显示参数的方法及装置 |
CN113111770A (zh) * | 2021-04-12 | 2021-07-13 | 杭州赛鲁班网络科技有限公司 | 一种视频处理方法、装置、终端及存储介质 |
CN113763306A (zh) * | 2020-06-01 | 2021-12-07 | 杭州海康威视数字技术股份有限公司 | 一种地标检测方法、装置及电子设备 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1691065A (zh) * | 2004-04-23 | 2005-11-02 | 中国科学院计算技术研究所 | 一种视频运动对象分割方法 |
CN102938138A (zh) * | 2012-10-27 | 2013-02-20 | 广西工学院 | 一种基于多元统计模型的分形小波自适应图像去噪方法 |
CN102982519A (zh) * | 2012-11-23 | 2013-03-20 | 南京邮电大学 | 一种视频图像的前景识别提取和拼接方法 |
CN103268614A (zh) * | 2013-05-31 | 2013-08-28 | 电子科技大学 | 一种用于多前景共分割的前景谱图生成方法 |
CN103279931A (zh) * | 2013-06-03 | 2013-09-04 | 中国人民解放军国防科学技术大学 | 基于透射率的去雾图像去噪方法 |
CN103533214A (zh) * | 2013-10-01 | 2014-01-22 | 中国人民解放军国防科学技术大学 | 一种基于卡尔曼滤波和双边滤波的视频实时去噪方法 |
CN104156959A (zh) * | 2014-08-08 | 2014-11-19 | 中科创达软件股份有限公司 | 一种视频抠图方法及装置 |
CN104166976A (zh) * | 2013-05-16 | 2014-11-26 | 上海联影医疗科技有限公司 | 一种三维图像中前景的分割方法 |
CN105139415A (zh) * | 2015-09-29 | 2015-12-09 | 小米科技有限责任公司 | 图像前后景分割方法、装置及终端 |
US20160027187A1 (en) * | 2014-07-23 | 2016-01-28 | Xiaomi Inc. | Techniques for image segmentation |
WO2017054455A1 (zh) * | 2015-09-30 | 2017-04-06 | 深圳大学 | 一种监控视频中运动目标的阴影检测方法、系统 |
CN107547803A (zh) * | 2017-09-25 | 2018-01-05 | 北京奇虎科技有限公司 | 视频分割结果边缘优化处理方法、装置及计算设备 |
CN108124109A (zh) * | 2017-11-22 | 2018-06-05 | 上海掌门科技有限公司 | 一种视频处理方法、设备及计算机可读存储介质 |
CN108537292A (zh) * | 2018-04-10 | 2018-09-14 | 上海白泽网络科技有限公司 | 语义分割网络训练方法、图像语义分割方法及装置 |
-
2018
- 2018-12-12 CN CN201811520032.9A patent/CN109509195B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1691065A (zh) * | 2004-04-23 | 2005-11-02 | 中国科学院计算技术研究所 | 一种视频运动对象分割方法 |
CN102938138A (zh) * | 2012-10-27 | 2013-02-20 | 广西工学院 | 一种基于多元统计模型的分形小波自适应图像去噪方法 |
CN102982519A (zh) * | 2012-11-23 | 2013-03-20 | 南京邮电大学 | 一种视频图像的前景识别提取和拼接方法 |
CN104166976A (zh) * | 2013-05-16 | 2014-11-26 | 上海联影医疗科技有限公司 | 一种三维图像中前景的分割方法 |
CN103268614A (zh) * | 2013-05-31 | 2013-08-28 | 电子科技大学 | 一种用于多前景共分割的前景谱图生成方法 |
CN103279931A (zh) * | 2013-06-03 | 2013-09-04 | 中国人民解放军国防科学技术大学 | 基于透射率的去雾图像去噪方法 |
CN103533214A (zh) * | 2013-10-01 | 2014-01-22 | 中国人民解放军国防科学技术大学 | 一种基于卡尔曼滤波和双边滤波的视频实时去噪方法 |
US20160027187A1 (en) * | 2014-07-23 | 2016-01-28 | Xiaomi Inc. | Techniques for image segmentation |
CN104156959A (zh) * | 2014-08-08 | 2014-11-19 | 中科创达软件股份有限公司 | 一种视频抠图方法及装置 |
CN105139415A (zh) * | 2015-09-29 | 2015-12-09 | 小米科技有限责任公司 | 图像前后景分割方法、装置及终端 |
WO2017054455A1 (zh) * | 2015-09-30 | 2017-04-06 | 深圳大学 | 一种监控视频中运动目标的阴影检测方法、系统 |
CN107547803A (zh) * | 2017-09-25 | 2018-01-05 | 北京奇虎科技有限公司 | 视频分割结果边缘优化处理方法、装置及计算设备 |
CN108124109A (zh) * | 2017-11-22 | 2018-06-05 | 上海掌门科技有限公司 | 一种视频处理方法、设备及计算机可读存储介质 |
CN108537292A (zh) * | 2018-04-10 | 2018-09-14 | 上海白泽网络科技有限公司 | 语义分割网络训练方法、图像语义分割方法及装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110232327A (zh) * | 2019-05-21 | 2019-09-13 | 浙江师范大学 | 一种基于梯形级联卷积神经网络的驾驶疲劳检测方法 |
CN111127430A (zh) * | 2019-12-24 | 2020-05-08 | 北京推想科技有限公司 | 确定医学影像显示参数的方法及装置 |
CN113763306A (zh) * | 2020-06-01 | 2021-12-07 | 杭州海康威视数字技术股份有限公司 | 一种地标检测方法、装置及电子设备 |
CN113111770A (zh) * | 2021-04-12 | 2021-07-13 | 杭州赛鲁班网络科技有限公司 | 一种视频处理方法、装置、终端及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109509195B (zh) | 2020-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10565763B2 (en) | Method and camera device for processing image | |
CN106651955B (zh) | 图片中目标物的定位方法及装置 | |
WO2016011747A1 (zh) | 肤色调整方法和装置 | |
JP6134446B2 (ja) | 画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体 | |
CN109509195A (zh) | 前景处理方法、装置、电子设备及存储介质 | |
US10007841B2 (en) | Human face recognition method, apparatus and terminal | |
CN109784164A (zh) | 前景识别方法、装置、电子设备及存储介质 | |
CN104918107B (zh) | 视频文件的标识处理方法及装置 | |
CN105488511B (zh) | 图像的识别方法及装置 | |
TWI702544B (zh) | 圖像處理方法、電子設備和電腦可讀儲存介質 | |
CN108898546A (zh) | 人脸图像处理方法、装置及设备、可读存储介质 | |
CN107231505B (zh) | 图像处理方法及装置 | |
CN109034150B (zh) | 图像处理方法及装置 | |
CN105957037B (zh) | 图像增强方法及装置 | |
CN105335714B (zh) | 照片处理方法、装置和设备 | |
WO2022110837A1 (zh) | 图像处理方法及装置 | |
CN108009563B (zh) | 图像处理方法、装置及终端 | |
CN105631467A (zh) | 显示图片的方法及装置 | |
CN112927122A (zh) | 水印去除方法、装置及存储介质 | |
WO2020114097A1 (zh) | 一种边界框确定方法、装置、电子设备及存储介质 | |
CN105426904B (zh) | 照片处理方法、装置和设备 | |
CN107730443B (zh) | 图像处理方法、装置及用户设备 | |
CN110728180B (zh) | 图像处理方法、装置及存储介质 | |
CN108596957B (zh) | 物体跟踪方法及装置 | |
CN107025638B (zh) | 图像处理的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |