CN109389135B - 一种图像筛选方法及装置 - Google Patents
一种图像筛选方法及装置 Download PDFInfo
- Publication number
- CN109389135B CN109389135B CN201710656697.1A CN201710656697A CN109389135B CN 109389135 B CN109389135 B CN 109389135B CN 201710656697 A CN201710656697 A CN 201710656697A CN 109389135 B CN109389135 B CN 109389135B
- Authority
- CN
- China
- Prior art keywords
- image
- target
- preset
- attribute data
- screened
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供了一种图像筛选方法及装置,该方法包括:获得待筛选图像帧序列,其中,图像帧序列中的每一帧待筛选图像均包含第一目标对象;利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;根据每一帧待筛选图像对应的目标置信度,从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。应用本发明实施例实现了自动筛选图像,缩短筛选周期,提高筛选效率。
Description
技术领域
本发明涉及图像处理技术领域,特别是涉及一种图像筛选方法及装置。
背景技术
视频监控技术中,图像采集设备在采集图像的过程中,会采集到多帧均包含目标对象的图像,其中,上述目标对象包括但不限于人脸、行人、车牌以及车辆。图像中目标对象的姿态、被遮挡程度和/或被遮挡部位、所在区域的亮度、所在区域的模糊程度等因素,在一定程度上决定着上述多帧图像中所包含目标对象是否易被识别。
当上述多帧图像中包括所包含目标对象不易被识别的图像时,如果对上述多帧图像均进行识别,上述多帧图像中所包括的目标对象不易被识别的图像,会增加电子设备的识别负担。
为了避免上述情况,工作人员会从上述多帧图像中手动筛选出主观认为易被识别的图像,电子设备只需要识别上述所筛选出的图像,这在一定程度上减轻了电子设备的识别负担。
然而,现有的人工筛选图像的方式筛选周期长且筛选效率低。
发明内容
本发明实施例的目的在于提供一种图像筛选方法及装置,以实现自动筛选图像,缩短筛选周期,提高筛选效率。具体技术方案如下:
一方面,本发明实施例提供了一种图像筛选方法,所述方法包括:
获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;
针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
可选地,所述目标置信度达到预设识别条件的目标图像为:所对应目标置信度高于预设阈值的图像;或,在第一目标队列中的前第一数量个图像,所述第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像;或,在第二目标队列中的后第二数量个图像,所述第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像。
可选地,所述预设的图像特征评估模型为预设的卷积神经网络模型;
所述方法还包括:建立所述预设的卷积神经网络模型的过程,其中,所述过程包括:
获得多张样本图像,其中,每一样本图像中均包含目标对象;
获得每一样本图像中的目标对象对应的预设属性的预期样本属性数据;
基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型。
可选地,所述初始的卷积神经网络模型包括:特征提取层和特征分类层;
所述基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型,包括:
将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征;
将所提取的样本图像特征,输入所述特征分类层,获得该样本图像中目标对象的预设属性的当前样本属性数据;
将获得的当前样本属性数据与所对应预期样本属性数据进行匹配;
当匹配成功时,得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型;
当匹配不成功时,则分别调整所述特征提取层和所述特征分类层的神经网络参数;重新返回将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征的步骤;
直至匹配成功,得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型。
可选地,所述利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据,包括:
将每一帧待筛选图像输入所述预设的卷积神经网络模型中,以使所述预设的卷积神经网络模型提取所述待筛选图像的目标图像特征,并基于所提取目标图像特征,确定每一帧待筛选图像中第一目标对象的预设属性的目标属性数据。
可选地,所述根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,包括:
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
可选地,所述预设属性为多个时,所述根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,包括:
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一目标属性数据对应的第一置信度;
根据每一目标属性数据对应的第一置信度及相应的权重值,计算每一帧待筛选图像对应的目标置信度。
另一方面,本发明实施例提供了一种图像筛选装置,所述装置包括:
第一获得模块,用于获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
第一确定模块,用于利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;
第二确定模块,用于针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
筛选模块,用于根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
可选地,所述目标置信度达到预设识别条件的目标图像为:所对应目标置信度高于预设阈值的图像;或,在第一目标队列中的前第一数量个图像,所述第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像;或,在第二目标队列中的后第二数量个图像,所述第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像。
可选地,所述预设的图像特征评估模型为预设的卷积神经网络模型;
所述装置还包括模型建立模块,所述模型建立模块用于建立所述预设的卷积神经网络模型,其中,所述模型建立模块包括第一获得单元、第二获得单元和训练得到单元;
所述第一获得单元,用于获得多张样本图像,其中,每一样本图像中均包含目标对象;
所述第二获得单元,用于获得每一样本图像中的目标对象对应的预设属性的预期样本属性数据;
所述训练得到单元,用于基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型。
可选地,所述初始的卷积神经网络模型包括:特征提取层和特征分类层;
所述训练得到单元包括第一输入子单元、第二输入子单元、匹配子单元、得到子单元和调整子单元;
所述第一输入子单元,用于将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征;
所述第二输入子单元,用于将所提取的样本图像特征,输入所述特征分类层,获得该样本图像中目标对象的预设属性的当前样本属性数据;
所述匹配子单元,用于将获得的当前样本属性数据与所对应预期样本属性数据进行匹配;当匹配成功时,触发得到子单元,当匹配不成功时,触发调整子单元;
所述得到子单元,用于得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型;
所述调整子单元,用于分别调整所述特征提取层和所述特征分类层的神经网络参数;重新触发所述第一输入子单元;直至匹配成功,触发所述得到子单元。
可选地,所述第一确定模块,具体用于
将每一帧待筛选图像输入所述预设的卷积神经网络模型中,以使所述预设的卷积神经网络模型提取所述待筛选图像的目标图像特征,并基于所提取目标图像特征,确定每一帧待筛选图像中第一目标对象的预设属性的目标属性数据。
可选地,所述第二确定模块,具体用于
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
可选地,所述预设属性为多个时,所述第二确定模块,具体用于
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一目标属性数据对应的第一置信度;
根据每一目标属性数据对应的第一置信度及相应的权重值,计算每一帧待筛选图像对应的目标置信度。
另一方面,本发明实施例提供了一种电子设备,包括处理器和存储器,其中,存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的计算机程序时,实现本发明实施例所提供的任一所述的图像筛选方法。
本发明实施例中,获得待筛选图像帧序列,其中,图像帧序列中的每一帧待筛选图像均包含第一目标对象;利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;根据每一帧待筛选图像对应的目标置信度,从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
可见,本发明实施例中可以根据预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象对应的预设属性的属性数据,并针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,继而根据每一帧待筛选图像对应的目标置信度,自动从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的图像,整个筛选图像的过程,无需人工参与,既缩短了图像筛选周期又提高了图像筛选效率。并且,整个筛选图像的过程,无需人工参与,避免了工作人员主观因素对所筛选的图像的影响。相应的,图像筛选效率的提高,在一定程度上减少了图像筛选的成本。当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种图像筛选方法的流程示意图;
图2为预设的卷积神经网络模型的建立过程的一种流程示意图;
图3为本发明实施例提供的一种图像筛选装置的结构示意图;
图4为模型建立模块的一种结构示意图;
图5为本发明实施例所提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种图像筛选方法及装置,以实现自动筛选图像,缩短筛选周期,提高筛选效率。
下面首先对本发明实施例所提供的一种图像筛选方法进行介绍。
如图1所示,本发明实施例提供了一种图像筛选方法,可以包括如下步骤:
S101:获得待筛选图像帧序列,其中,图像帧序列中的每一帧待筛选图像均包含第一目标对象;
可以理解的是,本发明实施例可以应用于任一可以获得上述待筛选图像帧序列的电子设备,上述电子设备可以为电脑、智能手机、摄像机或照相机等等。目标对象的类型可以为人脸、行人、车牌或车辆等等,本发明实施例并不对目标对象的类型进行限定。其中,上述图像帧序列中的每一帧待筛选图像均包含第一目标对象,当目标对象的类型为人脸时,上述第一目标对象为同一人脸;当目标对象的类型为车牌时,上述第一目标对象为同一车牌(车牌中所包含的车牌号相同);当目标对象的类型为行人时,上述第一目标对象为同一行人;当目标对象的类型为车辆时,上述第一目标对象为同一车辆;等等。上述待筛选图像帧序列可以是视频中的一段待筛选图像帧序列,也可以是连拍图像中的一段待筛选图像帧序列,等等,这都是可以的。
上述待筛选图像帧序列中的每一帧待筛选图像,可以为图像采集设备所采集的第一原图像,也可以为从第一原图像中所截取出的仅包含第一目标对象的图像,这都是可以的。为了避免待筛选图像中除第一目标对象外的其他对象,对本发明实施例所提供的图像筛选流程中后续流程的影响,上述待筛选图像帧序列中的每一帧待筛选图像可以为:从第一原图像中所截取出的仅包含第一目标对象的图像。上述的第一原图像中的“原”是相对于所截取出的仅包含第一目标对象的图像而言的。
S102:利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;
预设的图像特征评估模型可以为:一种基于样本训练的机器学习类的模型。
在训练该机器学习类的模型时,可以首先确定所需训练的样本图像,针对每一样本图像中目标对象进行标定,获得标定结果,进一步的,将样本图像以及标定结果输入初始的模型,以使初始的模型针对每一样本图像,对样本图像中目标对象所在区域的图像进行样本图像特征提取,;进一步的,基于所提取的样本图像特征以及标定结果,对初始的模型进行训练,得到训练结果,以得到预设的图像特征评估模型。
后续的,获得每一帧待筛选图像,利用所得到的预设的图像特征评估模型,对每一帧待筛选图像中的第一目标对象所在区域的图像进行目标图像特征提取,进而,利用所提取的目标图像特征,确定出每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据。其中,上述目标属性数据可理解为:上述提取的图像特征在预设属性的角度的描述数据。上述初始的模型可以为基于随机森林算法的模型、支持向量机模型或基于深度学习的机器学习模型等等。
可以理解的,确定每一帧待筛选图像中的第一目标对象的预设属性的属性数据时,可以是串行处理每一待筛选图像,即按照待筛选图像帧序列中每一待筛选图像的顺序,逐帧处理每一待筛选图像,进而确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;也可以是并行处理每一待筛选图像,即同步处理每一帧待筛选图像,同步确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据,这都是可以的。
可以理解的是,上述预设属性的属性数据可以为程度副词,可以为等级,也可以为具体数值。举例而言,上述预设属性可以包括模糊程度属性,即针对图像中的目标对象的纹理边缘清晰程度的描述属性,可理解的是,图像中的目标对象的模糊程度与清晰程度成反比。当属性数据为程度副词时,模糊程度属性对应的属性数据可以包括:非常模糊、比较模糊、不模糊等等,所确定的目标属性数据可以为非常模糊或比较模糊或不模糊等等。又例如:上述预设属性还可以包括被遮挡属性,当属性数据为程度副词时,被遮挡特征对应的属性数据可以包括:非常严重、比较严重、不严重等等,所确定的目标属性数据可以为非常严重或比较严重或不严重等等。
在一种实现方式中,上述预设属性,例如,为模糊程度属性和被遮挡属性,可以为预先人为标定的属性,上述预设属性的属性数据也可以为预先人为标定的数据,本发明实施例并不对预设属性以及预设属性的属性数据进行限定。
在另一种情况下,上述对应关系中的预设属性的属性数据可以是具体数值。举例而言,上述预设属性可以包括模糊程度属性,此时,模糊程度属性对应的属性数据可以包括:模糊程度0%、模糊程度25%、模糊程度50%、模糊程度75%、模糊程度100%等等,所确定的目标属性数据可以为模糊程度0%或模糊程度25%或模糊程度50%或模糊程度75%或模糊程度100%等等。又例如:上述预设属性还可以包括被遮挡属性,此时,被遮挡特征对应的属性数据可以包括:被遮挡程度0%、被遮挡程度20%、被遮挡程度40%、被遮挡程度60%、被遮挡程度80%、被遮挡程度100%等等,所确定的目标属性数据可以为被遮挡程度0%或被遮挡程度20%或被遮挡程度40%或被遮挡程度60%或被遮挡程度80%或被遮挡程度 100%等等。
S103:针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
在一种可选的实现方式中,上述目标属性数据可以为:可直接表征预设属性的置信度的数据,针对每一帧待筛选图像中的第一目标对象,根据上述第一目标对象的目标属性数据,可以直接确定每一帧待筛选图像对应的目标置信度。
在另一种可选的实现方式中,电子设备中可以预先存储有预设属性的属性数据与置信度之间的对应关系;此时,电子设备中可以针对每一帧待筛选图像中的第一目标对象,根据预设属性的属性数据与置信度之间的对应关系以及所确定的预设属性的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
S104:根据每一帧待筛选图像对应的目标置信度,从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
其中,图像对应的置信度越大,图像中的目标对象的可识别度越大,图像中的目标对象越容易被识别,图像被选中的概率越大;即,待筛选图像对应的目标置信度越大,待筛选图像的第一目标对象的可识别度越大,待筛选图像中的第一目标对象越容易被识别,待筛选图像被筛选出作为目标图像的概率越大。在一种实现方式中,上述目标置信度达到预设识别条件的目标图像可以为:所对应目标置信度高于预设阈值的图像;或,在第一目标队列中的前预定数量个图像,第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像;或,在第二目标队列中的后预定数量个图像,第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像。
在一种实现方式中,当上述目标置信度达到预设识别条件的目标图像为:所对应目标置信度高于预设阈值的图像时,可以是将待筛选图像帧序列中的每一帧待筛选图像对应的目标置信度与预设阈值进行比对,从待筛选图像帧序列中筛选出所对应目标置信度高于上述预设阈值的图像,并将所筛选出的图像确定为目标图像。其中,上述预设阈值可以根据实际情况进行设定。
在另一种实现方式中,当上述目标置信度达到预设识别条件的目标图像为:在第一目标队列中的前第一数量个图像,第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像时,可以先根据每一帧待筛选图像对应的目标置信度,对待筛选图像帧序列中的待筛选图像进行降序排序,得到一个队列,此处称为第一目标队列,从第一目标队列中筛选出前第一数量个图像,将所筛选出的图像确定为目标图像。其中,上述第一数量为正整数,可以为3~5。
在另一种实现方式中,当上述目标置信度达到预设识别条件的目标图像为:在第二目标队列中的后第二数量个图像,第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像时,可以先根据每一帧待筛选图像对应的目标置信度,对待筛选图像帧序列中的待筛选图像进行升序排序,得到一个队列,此处称为第二目标队列,从第二目标队列中筛选出后第二数量个图像,将所筛选出的图像确定为目标图像。其中,上述第二数量为正整数,可以为3~5。
应用本发明实施例,可以根据预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象对应的预设属性的属性数据,并针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,继而根据每一帧待筛选图像对应的目标置信度,自动从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的图像,整个筛选图像的过程,无需人工参与,既缩短了图像筛选周期又提高了图像筛选效率。并且,整个筛选图像的过程,无需人工参与,避免了工作人员主观因素对所筛选的图像的影响。相应的,图像筛选效率的提高,在一定程度上减少了图像筛选的成本。
其中,所筛选出的目标图像对应的目标置信度均较高,目标图像中的目标对象更易被识别,减轻了电子设备对目标图像中的第一目标对象的识别过程中的识别负担,提高了电子设备对目标图像中的第一目标对象的识别过程中的识别效率以及准确率,并且,在一定程度上减轻了电子设备的硬件的要求。
在一种实现方式中,预设的图像特征评估模型可以为预设的卷积神经网络模型;
本发明实施例所提供的一种图像筛选方法还可以包括:建立预设的卷积神经网络模型的过程,其中,如图2所示,上述过程可以包括:
S201:获得多张样本图像,其中,每一样本图像中均包含目标对象;其中,上述多张样本图像可以是离散的图像集合,也可以是连续的图像集合,这都是可以的。
S202:获得每一样本图像中的目标对象对应的预设属性的预期样本属性数据;
S203:基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型。
可以理解的是,上述样本图像可以为图像采集设备所采集的第二原图像,也可以为从第二原图像中所截取出的仅包含目标对象的图像,这都是可以的。为了保证所建立的预设的图像特征评估模型的稳定性,上述样本图像可以为:从第二原图像中所截取出的仅包含目标对象的图像。需要强调的是,上述的第二原图像中的“原”是相对于所截取出的仅包含目标对象的图像而言的。
其中,上述多张样本图像中所包含的目标对象,可以为同一类型的目标对象,且可以包含上述的第一目标对象,也可以不包含上述的第一目标对象。当目标对象的类型为人脸时,上述多张样本图像中所包含的目标对象可以为不同的人脸;当目标对象的类型为车牌时,上述多张样本图像中所包含的目标对象可以为不同的车牌(车牌中所包含的车牌号不同);当目标对象的类型为行人时,上述多张样本图像中所包含的目标对象可以为不同的行人;当目标对象的类型为车辆时,上述多张样本图像中所包含的目标对象可以为不同的车辆,等等。
可以理解的是,上述预设属性可以为一个或多个,当上述预设属性为多个时,可以分别为姿态属性、被遮挡属性、目标对象所在区域的亮度属性、模糊程度特征以及尺寸属性等。其中,在一种实现方式中,针对姿态属性的属性数据可以从确定目标对象的偏转角、俯仰角和/或旋转角的角度进行设定;针对被遮挡属性的属性数据可以从确定目标对象被遮挡的部位和/或程度的角度进行设定;针对目标对象所在区域的亮度属性的属性数据可以从确定目标对象所在区域是否过亮、是否过暗、是否均匀等角度进行设定;针对模糊程度属性的属性数据可以从确定目标对象的纹理边缘的清晰程度的角度进行设定;针对尺寸属性的属性数据可以从测量目标对象的所在区域的尺寸进行设定;等等。本发明实施例并不对各预设属性的属性数据的设定角度进行限定,任一能够作为各预设属性的属性数据的设定角度的信息均可以应用于本发明实施例中。
另外,当目标对象的类型为人脸时,可以从测量人脸中瞳孔之间的距离或人脸检测框尺寸等角度设定针对尺寸属性的属性数据;当目标对象的类型为车辆或车牌时,可以从测量车辆的左右前视镜之间的距离等角度设定针对尺寸属性的属性数据,另外,当图像中仅包含车牌时,可以从测量车牌的左右边缘(长边)之间的距离等角度设定针对尺寸属性的属性数据。
获得多张样本图像后,操作人员可以依据对上述每一样本图像中的目标对象进行人工标定,或者,也可以通过预设程序对样本图像进行标定处理,例如,通过预设的比例正交投影迭代变换算法、传统回归算法等计算图像中目标对象的偏转角度,利用像素值和对比度等数据计算亮度,利用边缘检测算法确定模糊程度等等。在一种情况中,预设属性可以为多个,例如:可以分别为姿态属性、被遮挡属性、目标对象所在区域的亮度属性、模糊程度属性以及尺寸属性,且目标对象的类型为人脸,且所标定的信息为:预设属性的预期样本属性数据,且预设属性的预期样本属性数据是数值时,具体的人工标定过程可以为:针对每一样本图像中的目标对象进行标定,其中,姿态属性的预期样本属性数据为偏转角X度、俯仰角Y度、旋转角Z度,其中,偏转角、俯仰角、旋转角可以使用比例正交投影迭代变换算法、传统回归算法等等确定,X、Y、Z的取值范围均可以为[-90,90]度;被遮挡属性的预期样本属性数据为被遮挡A%,其中,可以首先利用遮挡概率模型来估计人脸各部分被遮挡的概率,进而确定被遮挡程度,被遮挡的概率超过预定概率确定为被遮挡,A的取值范围可以为0~100;目标对象所在区域的亮度属性的预期样本属性数据为B,其中,亮度可以利用图像的红绿蓝RGB空间矩阵等确定,B的取值范围可以为0~255;模糊程度属性的预期样本属性数据为模糊程度C%,其中,模糊程度可以通过锐度计算公式、能量梯度函数等确定,C的取值范围可以为0~100;尺寸属性的预期样本属性数据为标定于人脸瞳孔上的标记之间的距离,上述距离用于表征人脸的尺寸,其中,在训练过程中,需要识别人脸中的瞳孔,并测量得到人脸瞳孔上的标记之间的距离。
另外,进行标定时,所标定的预设属性的预期样本属性数据也可以为程度副词,后续的,在图像筛选过程中,预设的卷积神经网络模型所确定的预设属性的目标属性数据也为程度副词。具体所标定的预设属性的预期样本属性数据可以人为预先设定,或者根据历史数据预先设定。预设属性的预期样本属性数据为程度副词时的人工标定过程,与预设属性的预期样本属性数据为具体数值时的人工标定过程类似,在此不再赘述。
针对不同类型的目标对象,上述预设属性可以不同,例如:当目标对象的类型为人脸时,上述预设属性还可以包括表情中性程度属性,其中,上述表情中性程度属性可以通过人脸中眼睛和嘴巴的张开程度表征。
在一种情况中,上述目标对象的类型为人脸时,上述被遮挡属性的预期样本属性数据除包括被遮挡A%外,还可以包括被遮挡部位,例如:被遮挡部位为眼部、被遮挡部位为嘴部、被遮挡部位为鼻部、被遮挡部位为左脸、被遮挡部位为右脸等等。可以理解的是,在后续针对人脸的识别时,眼部为识别的重点区域,当眼部被遮挡,该人脸则可能无法被识别,此时,可以预先设置该被遮挡属性的属性数据为遮挡部位为眼部时,其对应的置信度为0。当待筛选图像中的人脸对应的被遮挡属性的被遮挡部位为眼部时,电子设备可以确定该被遮挡属性的属性数据为被遮挡部位为眼部时,对应的置信度为0,以在一定程度上降低该待筛选图像对应的目标置信度,进一步的,能够在一定程度上降低该待筛选图像被筛选作为目标图像的概率。
通常情况下,进行训练的样本图像数量越多,所获得的预设的卷积神经网络模型的越稳定,进一步的,利用上述预设的卷积神经网络模型,所确定出的每一帧待筛选图像中第一目标对象的预设属性的目标属性数据越准确,所确定出的目标图像越准确,即目标图像中的第一目标对象更易被识别。
获得样本图像以及每一样本图像中目标对象的预设属性的预期样本属性数据后,可以基于上述预设属性的预期样本属性数据以及样本图像,对初始的卷积神经网络模型进行训练。
在一种实现方式中,所述初始的卷积神经网络模型包括:特征提取层和特征分类层;
所述基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型,包括:
将每一帧样本图像,输入特征提取层,提取该样本图像中目标对象的样本图像特征;
将所提取的样本图像特征,输入特征分类层,获得该样本图像中目标对象的预设属性的当前样本属性数据;
将获得的当前样本属性数据与所对应预期样本属性数据进行匹配;
当匹配成功时,得到包含特征提取层和特征分类层的预设的卷积神经网络模型;
当匹配不成功时,则分别调整特征提取层和特征分类层的神经网络参数;重新返回将每一帧样本图像,输入特征提取层,提取该样本图像中目标对象的样本图像特征的步骤;
直至匹配成功,得到包含特征提取层和特征分类层的预设的卷积神经网络模型。
其中,每一样本图像对应一预设属性的预期样本属性数据,且,每一样本图像对应一获得的当前样本属性数据,此时,可以确定:预设属性的预期样本属性数据与获得的当前样本属性数据也存在对应关系。
可以理解的是,上述将获得的当前样本属性数据与所对应预期样本属性数据进行匹配的过程可以为,利用预设的损失函数计算获得的当前样本属性数据与所对应预期样本属性数据的差值,当所计算差值在预设允许损失范围内,则确定匹配成功,当所计算差值不在预设允许损失范围内,则确定匹配不成功,此时,可以基于将获得的当前样本属性数据与所对应预期样本属性数据的差值变小的原则,调整上述特征提取层的特征分类层的神经网络模型参数;再重新返回执行将每一帧样本图像,输入特征提取层,提取该样本图像中目标对象的样本图像特征的步骤。
后续的,可以利用上述所得到的预设的图像特征评估模型对每一待筛选图像进行预测,确定每一待筛选图像中第一目标对象的预设属性的目标属性数据。具体的,所述利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据(S102),可以包括:
将每一帧待筛选图像输入预设的卷积神经网络模型中,以使预设的卷积神经网络模型提取待筛选图像的目标图像特征,并基于所提取目标图像特征,确定每一帧待筛选图像中第一目标对象的预设属性的目标属性数据。
可以理解的是,将每一帧待筛选图像输入预设的卷积神经网络模型中的特征提取层,特征提取层可以提取每一帧待筛选图像中的第一目标对象所在区域的图像的目标图像特征,然后,将所提取目标图像特征输入预设的卷积神经网络模型的特征分类层,特征分类层对上述所提取目标图像特征进行分类,获得预设属性的目标属性数据,并输出。
可以理解的是,卷积神经网络模型是一种特殊的深层的神经网络模型,其特殊性体现在两个方面,一方面:卷积神经网络模型的神经元间的连接是非全连接的;另一方面:卷积神经网络模型的同一层中某些神经元之间的连接的权值是共享的(即相同的)。卷积神经网络模型的非全连接和权值共享的网络结构,使卷积神经网络模型更类似于生物神经网络,降低了卷积神经网络模型的复杂度,减少了权值的数量。
基于上述卷积神经网络的两种特征,实现了本发明实施例所提供的图像筛选流程中的计算流程的简化,计算量的降低,以及图像筛选的实时性的提高。本发明实施例所提供的图像筛选流程,能够应用于更多更复杂的场景,所筛选出的目标图像更可靠。
在一种实现方式中,所述根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度(S102),可以包括:
根据预设属性的属性数据与置信度之间的对应关系与第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
进一步的,在一种实现方式中,所述预设属性为多个时,所述根据预设属性的属性数据与置信度之间的对应关系与第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,可以包括:
根据预设属性的属性数据与置信度之间的对应关系与第一目标对象的目标属性数据,确定每一目标属性数据对应的第一置信度;
根据每一目标属性数据对应的第一置信度及相应的权重值,计算每一帧待筛选图像对应的目标置信度。
具体的,每一帧待筛选图像中的第一目标对象的预设属性的属性数据可能存在不同,上述对应关系中可以存在:预设属性的不同的属性数据与置信度之间的对应关系。可以理解的,针对每一帧待筛选图像中的第一目标对象,将所确定的预设属性的目标属性数据与上述对应关系中的预设属性的属性数据进行匹配,将匹配的预设属性的属性数据对应的置信度,确定为该预设属性的目标属性数据对应的置信度,此处可以称之为第一置信度。
上述对应关系中可以是:预设属性的多个属性数据对应同一个置信度,也可以是:预设属性的一个属性数据对应一个置信度,这都是可以的。上述预设属性的属性数据可以是具体数值,也可以是程度副词。
具体的,在一种情况下,上述对应关系中的预设属性的属性数据是程度副词,预设属性的目标属性数据为程度副词。此时,针对每一帧待筛选图像中的第一目标对象,在将所确定的预设属性的目标属性数据与上述对应关系中的预设属性的属性数据进行匹配时,可以是从对应关系中确定与预设属性的目标属性数据相同的预设属性的属性数据,将与预设属性的目标属性数据相同的预设属性的属性数据对应的置信度,确定为该目标属性数据对应的置信度。
当预设属性的目标属性数据为具体数值时,针对每一帧待筛选图像中的第一目标对象,在将所确定的预设属性的目标属性数据与上述对应关系中的预设属性的属性数据进行匹配时,可以首先判断上述对应关系中是否包含与预设属性的目标属性数据相等的预设属性的属性数据,当判断为包含时,可以将上述与预设属性的目标属性数据相等的预设属性的属性数据对应的置信度,确定为该目标属性数据对应的第一置信度。当判断为不包含时,可以从上述对应关系中确定与预设属性的目标属性数据最相近的两个预设属性的属性数据,利用上述两个预设属性的属性数据、上述两个预设属性的属性数据对应的置信度以及预设属性的目标属性数据进行差值运算,运算所得结果即确定为目标属性数据对应的第一置信度。进行差值运算所利用公式可以为:
其中,θx表示第一置信度,θ1和θ2分别表示上述两个预设属性的属性数据,该h1和h2分别表示θ1上述两个预设属性的属性数据对应的置信度,该hx表示预设属性的目标属性数据,其中,可以是h1<hx<h2。上述两个预设属性的属性数据可以分别为上述对应关系中所包含的最小的且大于预设属性的目标属性数据的预设属性的属性数据,和上述对应关系中所包含的最大的且小于预设属性的目标属性数据的预设属性的属性数据,等等,这都是可以的。
以预设属性为被遮挡属性为例进行说明;
上述对应关系中包含被遮挡属性的属性数据为被遮挡0%--置信度为100;被遮挡属性的属性数据为被遮挡10%--置信度为90;被遮挡属性的属性数据为被遮挡20%--置信度为80;被遮挡属性的属性数据为被遮挡30%--置信度为70;被遮挡属性的属性数据为被遮挡40%--置信度为60;被遮挡属性的属性数据为被遮挡50%--置信度为50;被遮挡属性的属性数据为被遮挡60%--置信度为40;被遮挡属性的属性数据为被遮挡70%--置信度为0;被遮挡属性的属性数据为被遮挡80%--置信度为0;被遮挡属性的属性数据为被遮挡90%--置信度为0;被遮挡属性的属性数据为被遮挡100%--置信度为0;
当针对一待筛选图像中第一目标对象,所确定的被遮挡属性的目标属性数据为被遮挡10%时,此时,可以将被遮挡属性的目标属性数据为被遮挡10%与上述对应关系进行匹配,可以确定被遮挡属性的目标属性数据为被遮挡10%,与被遮挡属性的属性数据为被遮挡10%相同,此时可以确定目标属性数据为被遮挡10%的第一置信度为90;
当针对一待筛选图像中第一目标对象,所确定的被遮挡属性的目标属性数据为被遮挡15%时,此时,可以将被遮挡属性的目标属性数据为被遮挡15%与上述对应关系进行匹配,可以确定上述对应关系中不包含被遮挡属性的目标属性数据为被遮挡15%;
此时可以确定与被遮挡属性的目标属性数据为被遮挡15%最相近的两个被遮挡属性的属性数据,分别为被遮挡10%和被遮挡20%;
当判断为不包含时,从上述对应关系中确定与预设属性的目标属性数据最相近的两个预设属性的属性数据,后续的,还可以根据所确定的两个预设属性的属性数据,以及每一所确定预设属性的属性数据对应的预设权重值,确定目标属性数据对应的第一置信度。
可以理解的是,上述预设属性可以为一个或多个,当上述预设属性为一个时,可以直接将上述所确定的目标属性数据对应的第一置信度,确定为所对应的待筛选图像对应的目标置信度;当上述预设属性为多个时,可以针对每一帧待筛选图像中的第一目标对象,将所确定的目标属性数据对应的第一置信度之和,作为所对应待筛选图像对应的目标置信度;或者,随机选择上述多个预设属性的目标属性数据中的,其中一个预设属性的目标属性数据对应的第一置信度,作为所对应待筛选图像对应的目标置信度。等等,这都是可以。
可以理解的是,每一预设属性的属性数据与置信度之间的对应关系,可以根据实际情况进行设定。在一种实现方式中,针对姿态属性,当考虑目标对象的偏转角、俯仰角和旋转角时,可以是俯仰角和偏转角越大,所对应置信度越小。针对被遮挡属性,当考虑目标对象被遮挡的部位和/或程度时,目标对象被遮挡的部位越重要、程度越大,所对应置信度越小,例如:当目标对象的类型为人脸时,人的眼睛非常重要,当遮住人的眼睛时,此时可以设置被遮挡属性对应的置信度为未遮住眼睛时的四分之一。针对目标对象所在区域的亮度属性,当考虑目标对象所在区域的亮是否过亮、是否过暗、是否均匀时,可以预设基准亮度值和基准亮度方差,当所在区域的实际亮度与预设基准亮度值的差值的绝对值越大,所在区域的实际亮度方差与基准亮度方差的差值的绝对值越大,所对应置信度越小。针对模糊程度属性,当考虑目标对象的纹理边缘的清晰程度时,模糊程度越大,所对应置信度越小。针对尺寸属性,当考虑目标对象的所在区域的尺寸时,所在区域的尺寸越小,所对应置信度越小。等等。
在一种情况中,同一预设属性的不同属性数据对应的权重值可以相同,也可以不同。以预设属性为被遮挡程度为例,对同一预设属性的不同属性数据对应的权重值相同的情况来说,可以存在当该被遮挡程度的属性数据为被遮挡 10%,或当被遮挡程度的属性数据为被遮挡20%,或当被遮挡程度的属性数据为被遮挡50%,该被遮挡程度的属性数据对应的权重值均相同。此时,可以理解为该预设属性对应的权重值,即为预设属性的目标属性数据对应的权重值。
其中,每一预设属性的目标属性数据对应的权重值,可以根据实际情况进行设定。例如:当目标对象为人脸时,在后续的识别过程中,设定必须是正脸,例如:人脸的俯仰角近似为0,即可以是小于第一预设角度,且偏转角近似为0,即可以是小于第二预设角度,此时,可以将姿态属性的目标属性数据对应的权重值设置的稍微大些,可以标识在确定待筛选图像对应的目标置信度时,需要更多的参考姿态属性的目标属性数据。
另外,在一种可选实现方式中,对于目标对象的姿态属性来说,目标对象的平面内旋转角对目标对象识别的影响不大,可以不用考虑,例如:当目标对象的类型为人脸时,目标对象的平面内旋转角可以表征向左歪头或向右歪头的角度,在图像中,向左歪头或向右歪头的角度对人脸识别的影响不大。另外的,目标对象的俯仰角可以表征抬头或低头的角度,偏转角可以表征左转头或右侧转头的角度,上述抬头或低头的角度、左转头或右转头的角度对人脸识别影响较大。
下面对电子设备确定每一待筛选图像的目标置信度的流程进行介绍,以图像帧序列中的其中一帧待筛选图像A为例进行说明:
待筛选图像A中的第一目标对象a对应的预设属性分别为:属性甲、属性乙、属性丙;其中,属性甲的属性数据为1,属性乙的属性数据为2,属性丙的属性数据为3;
电子设备中预先存储有预设属性的属性数据与置信度之间的对应关系;其中,对应关系中包括:属性甲的属性数据1与置信度的对应关系一,属性乙的属性数据2与置信度的对应关系二,属性丙的属性数据3与置信度的对应关系三;
根据属性甲的属性数据1,以及属性甲的属性数据1与置信度的对应关系一,确定属性甲对应的第一置信度x;根据属性乙的属性数据2,以及属性乙的属性数据2与置信度的对应关系二,确定属性乙对应的第一置信度y;根据属性丙的属性数据3,以及属性丙的属性数据3与置信度的对应关系三,确定属性丙对应的第一置信度t;
确定每一预设属性的目标属性数据对应的权重值;即确定属性甲的属性数据1对应的权重值,属性乙的属性数据2对应的权重值,属性丙的属性数据3对应的权重值;
针对每一帧待筛选图像中的第一目标对象,根据所确定的每一预设属性的目标属性数据对应的置信度及相应的权重值,确定每一帧待筛选图像对应的目标置信度。其中,待筛选图像A对应的目标置信度=(第一置信度x*属性甲的属性数据1对应的权重值)+(第一置信度y*属性乙的属性数据2对应的权重值)+ (第一置信度t*属性丙的属性数据3对应的权重值),此时,上述权重值的取值范围可以为[0,1]。
在一种实现方式中,为了减少电子设备的运行负担以及存储空间,可以将待筛选图像帧序列中除所筛选出的目标图像外的其他图像均丢弃。具体的,在所述根据每一帧待筛选图像对应的目标置信度,从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像(S105)的步骤之后,所述方法还可以包括:
丢弃待筛选图像帧序列中除目标图像外的其他图像。
相应于上述方法实施例,本发明实施例提供了一种图像筛选装置,如图3 所示,所述装置可以包括:
第一获得模块310,用于获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
第一确定模块320,用于利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;
第二确定模块330,用于针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
筛选模块340,用于根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
应用本发明实施例,可以根据预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象对应的预设属性的属性数据,并针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,继而根据每一帧待筛选图像对应的目标置信度,自动从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的图像,整个筛选图像的过程,无需人工参与,既缩短了图像筛选周期又提高了图像筛选效率。并且,整个筛选图像的过程,无需人工参与,避免了工作人员主观因素对所筛选的图像的影响。相应的,图像筛选效率的提高,在一定程度上减少了图像筛选的成本。
其中,所筛选出的目标图像对应的目标置信度均较高,目标图像中的目标对象更易被识别,减轻了电子设备对目标图像中的第一目标对象的识别过程中的识别负担,提高了电子设备对目标图像中的第一目标对象的识别过程中的识别效率以及准确率,并且,在一定程度上减轻了电子设备的硬件的要求。
在一种实现方式中,所述目标置信度达到预设识别条件的目标图像为:所对应目标置信度高于预设阈值的图像;或,在第一目标队列中的前第一数量个图像,所述第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像;或,在第二目标队列中的后第二数量个图像,所述第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像。
在一种实现方式中,所述预设的图像特征评估模型为预设的卷积神经网络模型;
如图4所示,所述装置还可以包括模型建立模块410,所述模型建立模块410 用于建立所述预设的卷积神经网络模型,其中,所述模型建立模块410包括第一获得单元411、第二获得单元412和训练得到单元413;
所述第一获得单元411,用于获得多张样本图像,其中,每一样本图像中均包含目标对象;
所述第二获得单元412,用于获得每一样本图像中的目标对象对应的预设属性的样本属性数据;
所述训练得到单元413,用于基于所获得的样本图像以及所获得的预设属性的样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型。
在一种实现方式中,所述初始的卷积神经网络模型包括:特征提取层和特征分类层;
所述训练得到单元包括第一输入子单元、第二输入子单元、匹配子单元、得到子单元和调整子单元;
所述第一输入子单元,用于将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征;
所述第二输入子单元,用于将所提取的样本图像特征,输入所述特征分类层,获得该样本图像中目标对象的预设属性的当前样本属性数据;
所述匹配子单元,用于将获得的当前样本属性数据与所对应预期样本属性数据进行匹配;当匹配成功时,触发得到子单元,当匹配不成功时,触发调整子单元;
所述得到子单元,用于得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型;
所述调整子单元,用于分别调整所述特征提取层和所述特征分类层的神经网络参数;重新触发所述第一输入子单元;直至匹配成功,触发所述得到子单元。
在一种实现方式中,所述第一确定模块320,具体用于
将每一帧待筛选图像输入所述预设的卷积神经网络模型中,以使所述预设的卷积神经网络模型提取所述待筛选图像的目标图像特征,并基于所提取目标图像特征,确定每一帧待筛选图像中第一目标对象的预设属性的目标属性数据。
在一种实现方式中,所述第二确定模块330,具体用于
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
在一种实现方式中,所述预设属性为多个;
所述第二确定模块330,具体用于
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一目标属性数据对应的第一置信度;
根据每一目标属性数据对应的第一置信度及相应的权重值,计算每一帧待筛选图像对应的目标置信度。
相应于上述方法实施例,本发明实施例还提供了一种电子设备,如图5所示,包括处理器510和存储器520,其中,存储器520,用于存放计算机程序;
处理器510,用于执行存储器520上所存放的计算机程序时,实现本发明实施例所提供的任一图像筛选方法,其中,方法可以包括步骤:
获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;
针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
应用本发明实施例,可以根据预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象对应的预设属性的属性数据,并针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,继而根据每一帧待筛选图像对应的目标置信度,自动从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的图像,整个筛选图像的过程,无需人工参与,既缩短了图像筛选周期又提高了图像筛选效率。并且,整个筛选图像的过程,无需人工参与,避免了工作人员主观因素对所筛选的图像的影响。相应的,图像筛选效率的提高,在一定程度上减少了图像筛选的成本。
在一种实现方式中,如图5所示,所述电子设备还可以包括通信接口530和通信总线540,其中,所述处理器510、存储器520和所述通信接口530通过所述通信总线540连接。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器 (DigitalSignal Processing,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
相应于上述方法实施例,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现本发明实施例所提供的任一图像筛选方法,其中,方法可以包括步骤:
获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据;
针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像。
应用本发明实施例,可以根据预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象对应的预设属性的属性数据,并针对每一帧待筛选图像中的第一目标对象,根据第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,继而根据每一帧待筛选图像对应的目标置信度,自动从待筛选图像帧序列中筛选出目标置信度达到预设识别条件的图像,整个筛选图像的过程,无需人工参与,既缩短了图像筛选周期又提高了图像筛选效率。并且,整个筛选图像的过程,无需人工参与,避免了工作人员主观因素对所筛选的图像的影响。相应的,图像筛选效率的提高,在一定程度上减少了图像筛选的成本。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (13)
1.一种图像筛选方法,其特征在于,所述方法包括:
获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据,其中,所述预设属性包括模糊程度属性和/或被遮挡属性;
针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像;
所述根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,包括:
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
2.根据权利要求1所述的方法,其特征在于,所述目标置信度达到预设识别条件的目标图像为:所对应目标置信度高于预设阈值的图像;或,在第一目标队列中的前第一数量个图像,所述第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像;或,在第二目标队列中的后第二数量个图像,所述第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像。
3.根据权利要求1所述的方法,其特征在于,所述预设的图像特征评估模型为预设的卷积神经网络模型;
所述方法还包括:建立所述预设的卷积神经网络模型的过程,其中,所述过程包括:
获得多张样本图像,其中,每一样本图像中均包含目标对象;
获得每一样本图像中的目标对象的预设属性的预期样本属性数据;
基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型。
4.根据权利要求3所述的方法,其特征在于,所述初始的卷积神经网络模型包括:特征提取层和特征分类层;
所述基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型,包括:
将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征;
将所提取的样本图像特征,输入所述特征分类层,获得该样本图像中目标对象的预设属性的当前样本属性数据;
将获得的当前样本属性数据与所对应预期样本属性数据进行匹配;
当匹配成功时,得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型;
当匹配不成功时,则分别调整所述特征提取层和所述特征分类层的神经网络参数;重新返回将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征的步骤;
直至匹配成功,得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型。
5.根据权利要求4所述的方法,其特征在于,所述利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据,包括:
将每一帧待筛选图像输入所述预设的卷积神经网络模型中,以使所述预设的卷积神经网络模型提取所述待筛选图像的目标图像特征,并基于所提取目标图像特征,确定每一帧待筛选图像中第一目标对象的预设属性的目标属性数据。
6.根据权利要求1所述的方法,其特征在于,所述预设属性为多个时,所述根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度,包括:
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一目标属性数据对应的第一置信度;
根据每一目标属性数据对应的第一置信度及相应的权重值,计算每一帧待筛选图像对应的目标置信度。
7.一种图像筛选装置,其特征在于,所述装置包括:
第一获得模块,用于获得待筛选图像帧序列,其中,所述图像帧序列中的每一帧待筛选图像均包含第一目标对象;
第一确定模块,用于利用预设的图像特征评估模型,确定每一帧待筛选图像中的第一目标对象的预设属性的目标属性数据,其中,所述预设属性包括模糊程度属性和/或被遮挡属性;
第二确定模块,用于针对每一帧待筛选图像中的第一目标对象,根据所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度;
筛选模块,用于根据每一帧待筛选图像对应的目标置信度,从所述待筛选图像帧序列中筛选出目标置信度达到预设识别条件的目标图像;
所述第二确定模块,具体用于根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一帧待筛选图像对应的目标置信度。
8.根据权利要求7所述的装置,其特征在于,所述目标置信度达到预设识别条件的目标图像为:所对应目标置信度高于预设阈值的图像;或,在第一目标队列中的前第一数量个图像,所述第一目标队列中包含:依据所对应目标置信度的高低,进行降序排序的待筛选图像;或,在第二目标队列中的后第二数量个图像,所述第二目标队列中包含:依据所对应目标置信度的高低,进行升序排序的待筛选图像。
9.根据权利要求7所述的装置,其特征在于,所述预设的图像特征评估模型为预设的卷积神经网络模型;
所述装置还包括模型建立模块,所述模型建立模块用于建立所述预设的卷积神经网络模型,其中,所述模型建立模块包括第一获得单元、第二获得单元和训练得到单元;
所述第一获得单元,用于获得多张样本图像,其中,每一样本图像中均包含目标对象;
所述第二获得单元,用于获得每一样本图像中的目标对象对应的预设属性的预期样本属性数据;
所述训练得到单元,用于基于所获得的样本图像以及所获得的预设属性的预期样本属性数据,对初始的卷积神经网络模型进行训练,得到预设的卷积神经网络模型。
10.根据权利要求9所述的装置,其特征在于,所述初始的卷积神经网络模型包括:特征提取层和特征分类层;
所述训练得到单元包括第一输入子单元、第二输入子单元、匹配子单元、得到子单元和调整子单元;
所述第一输入子单元,用于将每一帧样本图像,输入所述特征提取层,提取该样本图像中目标对象的样本图像特征;
所述第二输入子单元,用于将所提取的样本图像特征,输入所述特征分类层,获得该样本图像中目标对象的预设属性的当前样本属性数据;
所述匹配子单元,用于将获得的当前样本属性数据与所对应预期样本属性数据进行匹配;当匹配成功时,触发得到子单元,当匹配不成功时,触发调整子单元;
所述得到子单元,用于得到包含所述特征提取层和所述特征分类层的预设的卷积神经网络模型;
所述调整子单元,用于分别调整所述特征提取层和所述特征分类层的神经网络参数;重新触发所述第一输入子单元;直至匹配成功,触发所述得到子单元。
11.根据权利要求10所述的装置,其特征在于,所述第一确定模块,具体用于
将每一帧待筛选图像输入所述预设的卷积神经网络模型中,以使所述预设的卷积神经网络模型提取所述待筛选图像的目标图像特征,并基于所提取目标图像特征,确定每一帧待筛选图像中第一目标对象的预设属性的目标属性数据。
12.根据权利要求7所述的装置,其特征在于,所述预设属性为多个时,所述第二确定模块,具体用于
根据预设属性的属性数据与置信度之间的对应关系与所述第一目标对象的目标属性数据,确定每一目标属性数据对应的第一置信度;
根据每一目标属性数据对应的第一置信度及相应的权重值,计算每一帧待筛选图像对应的目标置信度。
13.一种电子设备,其特征在于,包括处理器和存储器,其中,存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的计算机程序时,实现权利要求1-6任一所述的图像筛选方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710656697.1A CN109389135B (zh) | 2017-08-03 | 2017-08-03 | 一种图像筛选方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710656697.1A CN109389135B (zh) | 2017-08-03 | 2017-08-03 | 一种图像筛选方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109389135A CN109389135A (zh) | 2019-02-26 |
CN109389135B true CN109389135B (zh) | 2020-11-13 |
Family
ID=65412902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710656697.1A Active CN109389135B (zh) | 2017-08-03 | 2017-08-03 | 一种图像筛选方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109389135B (zh) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111723623B (zh) * | 2019-03-22 | 2024-06-18 | 杭州海康威视数字技术股份有限公司 | 一种检测平台的方法及装置 |
CN111797288B (zh) * | 2019-04-09 | 2024-06-28 | Oppo广东移动通信有限公司 | 数据筛选方法、装置、存储介质及电子设备 |
CN110232401B (zh) * | 2019-05-05 | 2023-08-04 | 平安科技(深圳)有限公司 | 基于图片转换的病灶判断方法、装置、计算机设备 |
CN110378934B (zh) * | 2019-07-22 | 2021-09-07 | Oppo广东移动通信有限公司 | 主体检测方法、装置、电子设备和计算机可读存储介质 |
CN110807767A (zh) * | 2019-10-24 | 2020-02-18 | 北京旷视科技有限公司 | 目标图像筛选方法及目标图像筛选装置 |
CN111738042A (zh) * | 2019-10-25 | 2020-10-02 | 北京沃东天骏信息技术有限公司 | 识别方法、设备及存储介质 |
CN110990917A (zh) * | 2019-11-19 | 2020-04-10 | 北京长空云海科技有限公司 | Bim模型展示的方法、装置及系统 |
CN111400533B (zh) * | 2020-03-02 | 2023-10-17 | 北京三快在线科技有限公司 | 图像筛选方法、装置、电子设备和存储介质 |
CN111476916B (zh) * | 2020-04-13 | 2022-04-15 | 佛山职业技术学院 | 一种基于无感支付的车辆通行方法、系统和计算机设备 |
CN111918025A (zh) * | 2020-06-29 | 2020-11-10 | 北京大学 | 一种场景视频的处理方法、装置、存储介质及终端 |
CN112561080B (zh) * | 2020-12-18 | 2023-03-03 | Oppo(重庆)智能科技有限公司 | 样本筛选方法、样本筛选装置及终端设备 |
CN113536947A (zh) * | 2021-06-21 | 2021-10-22 | 中山市希道科技有限公司 | 一种人脸属性分析方法及装置 |
CN113923372B (zh) * | 2021-06-25 | 2022-09-13 | 荣耀终端有限公司 | 曝光调整方法及相关设备 |
AU2021290434A1 (en) * | 2021-12-20 | 2022-02-10 | Sensetime International Pte. Ltd. | Method and apparatus for detecting game prop in game region, device, and storage medium |
-
2017
- 2017-08-03 CN CN201710656697.1A patent/CN109389135B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN109389135A (zh) | 2019-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109389135B (zh) | 一种图像筛选方法及装置 | |
CN110858286B (zh) | 一种用于目标识别的图像处理方法及装置 | |
CN111027504A (zh) | 人脸关键点检测方法、装置、设备及存储介质 | |
CN112862702B (zh) | 图像增强方法、装置、设备及存储介质 | |
CN107909081B (zh) | 一种深度学习中图像数据集的快速获取和快速标定方法 | |
CN111935479B (zh) | 一种目标图像确定方法、装置、计算机设备及存储介质 | |
KR20180065889A (ko) | 타겟의 검측 방법 및 장치 | |
CN109740721B (zh) | 麦穗计数方法及装置 | |
CN108664840A (zh) | 图像识别方法及装置 | |
CN110059666B (zh) | 一种注意力检测方法及装置 | |
CN111444555B (zh) | 一种测温信息显示方法、装置及终端设备 | |
CN107563299B (zh) | 一种利用ReCNN融合上下文信息的行人检测方法 | |
CN107240078A (zh) | 镜头清晰度验算方法、装置及电子设备 | |
CN112884782B (zh) | 生物对象分割方法、装置、计算机设备和存储介质 | |
WO2019210707A1 (zh) | 一种图像清晰度评测方法、装置及电子设备 | |
CN112597995B (zh) | 车牌检测模型训练方法、装置、设备及介质 | |
DE112020005223T5 (de) | Objektverfolgungseinrichtung und Objektverfolgungsverfahren | |
CN110473181A (zh) | 基于边缘特征信息的屏幕内容图像的无参质量评价方法 | |
JP6912890B2 (ja) | 情報処理装置、情報処理方法、システム | |
CN112329845B (zh) | 更换纸币的方法、装置、终端设备及计算机可读存储介质 | |
CN114359641A (zh) | 目标对象的检测方法以及相关装置、设备 | |
CN113469135A (zh) | 对象身份信息的确定方法、装置、存储介质及电子装置 | |
JP5080416B2 (ja) | 入力画像から検出対象物の像を検出する画像処理装置 | |
CN112784494A (zh) | 假阳性识别模型的训练方法、目标识别方法及装置 | |
CN112396016A (zh) | 一种基于大数据技术的人脸识别系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |