CN110443366A - 神经网络的优化方法及装置、目标检测方法及装置 - Google Patents
神经网络的优化方法及装置、目标检测方法及装置 Download PDFInfo
- Publication number
- CN110443366A CN110443366A CN201910696271.8A CN201910696271A CN110443366A CN 110443366 A CN110443366 A CN 110443366A CN 201910696271 A CN201910696271 A CN 201910696271A CN 110443366 A CN110443366 A CN 110443366A
- Authority
- CN
- China
- Prior art keywords
- candidate frame
- target
- image
- frame
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种神经网络的优化方法及装置、目标检测方法及装置,其中神经网络的优化方法包括:获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;根据第一图像、多个候选框的位置信息、以及神经网络,得到所述多个候选框在所述第一图像中对应的图像区域的图像特征,以及所述候选框中所述目标对象与所述目标类型相关的预测结果;基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框;基于筛选出的所述至少两个目标候选框分别对应的所述预测结果,优化所述神经网络。本公开实施例可提高神经网络的目标检测性能。
Description
技术领域
本公开涉及机器学习技术领域,尤其涉及一种神经网络的优化方法及装置、目标检测方法及装置。
背景技术
目标检测是计算机视觉领域的重要问题,基于深度学习的目标检测已应用于机器人导航、智能视频监控、无人驾驶、工业检测、航空航天等众多领域。但由于训练目标检测(强监督目标检测)模型需要大量的人工标注目标检测框,这在一定程度上制约了目标检测技术更为广泛的应用。针对这个问题,有研究人员提出了弱监督目标检测的方法,此方法仅使用图像标签,并结合在图像中检测到置信度最高的目标检测框,来实现网络模型的训练。该方法生成的神经网络的性能仍较差。
发明内容
本公开提出了一种用于优化神经网络技术方案。
根据本公开的一方面,提供了一种神经网络的优化方法,包括:获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;根据所述第一图像、所述多个候选框的位置信息、以及神经网络,得到所述多个候选框在所述第一图像中对应的图像区域的图像特征,以及所述候选框中所述目标对象与所述目标类型相关的预测结果;基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,其中,所述相似度条件包括基于所述图像特征确定出的第一相似度条件和基于所述候选框的位置信息确定出的第二相似度条件中的至少一种;基于筛选出的所述至少两个目标候选框分别对应的所述预测结果,优化所述神经网络。
在一些可能的实施方式中,所述基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,包括:基于所述多个候选框分别对应的预测结果,确定所述预测结果满足预设条件的第一候选框;基于所述第一候选框对应的图像特征、所述多个候选框中除所述第一候选框之外的其它候选框的图像特征,从所述多个候选框中选择与所述第一候选框满足所述第一相似度条件的至少一个第二候选框;基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,所述基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框,包括:将所述第一候选框和所述至少一个第二候选框确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框,包括:将所述第一候选框和所述至少一个第二候选框作为参考候选框,基于所述参考候选框的位置信息,从所述多个候选框中选择出满足与所述参考候选框满足所述的第二相似度条件的至少一个第三候选框;将所述第一候选框以及所述至少一个第三候选框确定为所述至少两个目标候选框,或者,将所述第一候选框、所述至少一个第二候选框以及所述至少一个第三候选框确定为所述至少三个目标候选框。
在一些可能的实施方式中,所述基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,包括:基于所述多个候选框分别对应的预测结果,确定所述多个候选框中满足预设条件的第一候选框;基于所述第一候选框的位置信息,确定所述多个候选框中与所述第一候选框满足第二相似度条件的至少一个第四候选框;基于所述第一候选框和所述至少一个第四候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,所述基于所述第一候选框和所述至少一个第四候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框,包括:将所述第一候选框和所述至少一个第四候选框确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述基于所述第一候选框和所述至少一个第四候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框,包括:基于所述多个候选框分别对应的图像特征,从所述多个候选框中选择出与所述第一候选框满足所述第一相似度条件的至少一个第二候选框;基于所述第一候选框、所述至少一个第四候选框以及所述至少一个第二候选框,确定所述至少两个目标候选框。
在一些可能的实施方式中,所述基于所述第一候选框、至少一个第四候选框以及至少一个第二候选框,确定所述至少两个目标候选框,包括:将所述第一候选框、所述至少一个第四候选框以及所述至少一个第二候选框,确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述基于所述第一候选框、至少一个第四候选框以及至少一个第二候选框,确定所述至少两个目标候选框,包括:基于所述多个候选框的位置信息,确定所述多个候选框中与所述第二候选框满足所述第二相似度条件的至少一个第五候选框;将所述第一候选框、所述至少一个第四候选框以及所述至少一个第五候选框确定为所述至少两个目标候选框,或者将所述第一候选框、至少一个第二候选框、至少一个第四候选框以及至少一个第五候选框,确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述预测结果包括所述候选框中的目标对象属于所述目标类型的置信度;所述基于所述多个候选框分别对应的预测结果,确定所述多个候选框中满足预设条件的第一候选框,包括:将所述多个候选框中的置信度最高的候选框确定为所述第一候选框。
在一些可能的实施方式中,所述方法还包括:响应于所述多个候选框中的两个候选框的图像特征之间的相似度大于第一阈值,确定该两个候选框满足所述第一相似度条件;或者,将所述多个候选框中与待比较的候选框的图像特征之间的相似度最高的预设数量的候选框,确定为与所述待比较的候选框满足所述第一相似度条件的候选框。
在一些可能的实施方式中,所述方法还包括:基于所述多个候选框分别对应的位置信息,确定所述多个候选框分别对应的图像区域的面积;响应于所述多个候选框中两个候选框对应的面积之间的交并比大于第二阈值,确定该两个候选框满足所述第二相似度条件。
在一些可能的实施方式中,所述候选框对应的预测结果包括所述候选框中的目标对象属于目标类型的置信度,以及所述候选框中的目标对象是否为所述目标类型的判断结果。
在一些可能的实施方式中,所述基于筛选出的所述至少两个目标候选框分别对应的所述预测结果,优化所述神经网络,包括:基于所述至少两个目标候选框分别对应的预测结果,调整所述至少两个目标候选框分别对应的权重;基于所述至少两个目标候选框分别对应的预测结果,以及调整后的所述权重,确定网络损失;基于所述网络损失调整神经网络的参数,直至满足优化条件。
在一些可能的实施方式中,所述基于所述至少两个目标候选框分别对应的预测结果,调整所述至少两个目标候选框分别对应的权重,包括:减小置信度最高的目标候选框的权重,并增加所述至少两个目标候选框中所述置信度最高的目标候选框以外的目标候选框的权重。
根据本公开的第二方面,提供了一种目标检测方法,其包括:获取待检测图像;利用神经网络对所述待检测图像进行处理,得到所述待检测图像中与目标类型对应的目标对象的候选框的位置信息,以及所述候选框中的目标对象与所述目标类型相关的预测结果;其中,所述神经网络通过第一方面中任意一项所述的方法优化生成。
根据本公开的第三方面,提供了一种神经网络的优化装置,其包括:检测模块,其用于获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;预测模块,其根据所述第一图像、所述多个候选框的位置信息、以及神经网络,得到所述多个候选框在所述第一图像中对应的图像区域的图像特征,以及所述候选框中所述目标对象与所述目标类型相关的预测结果;选择模块,其用于基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,其中,所述相似度条件包括基于所述图像特征确定出的第一相似度条件和基于所述候选框的位置信息确定出的第二相似度条件中的至少一种;优化模块,其用于基于筛选出的所述至少两个目标候选框分别对应的所述预测结果,优化所述神经网络。
在一些可能的实施方式中,所述选择模块还用于基于所述多个候选框分别对应的预测结果,确定所述预测结果满足预设条件的第一候选框;基于所述第一候选框对应的图像特征、所述多个候选框中除所述第一候选框之外的其它候选框的图像特征,从所述多个候选框中选择与所述第一候选框满足所述第一相似度条件的至少一个第二候选框;基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,所述选择模块还用于将所述第一候选框和所述至少一个第二候选框确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述选择模块还用于将所述第一候选框和所述至少一个第二候选框作为参考候选框,基于所述参考候选框的位置信息,从所述多个候选框中选择出满足与所述参考候选框满足所述的第二相似度条件的至少一个第三候选框;将所述第一候选框以及所述至少一个第三候选框确定为所述至少两个目标候选框,或者,将所述第一候选框、所述至少一个第二候选框以及所述至少一个第三候选框确定为所述至少三个目标候选框。
在一些可能的实施方式中,所述选择模块还用于基于所述多个候选框分别对应的预测结果,确定所述多个候选框中满足预设条件的第一候选框;基于所述第一候选框的位置信息,确定所述多个候选框中与所述第一候选框满足第二相似度条件的至少一个第四候选框;基于所述第一候选框和所述至少一个第四候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,所述选择模块还用于将所述第一候选框和所述至少一个第四候选框确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述选择模块还用于基于所述多个候选框分别对应的图像特征,从所述多个候选框中选择出与所述第一候选框满足所述第一相似度条件的至少一个第二候选框;基于所述第一候选框、所述至少一个第四候选框以及所述至少一个第二候选框,确定所述至少两个目标候选框。
在一些可能的实施方式中,所述选择模块还用于将所述第一候选框、所述至少一个第四候选框以及所述至少一个第二候选框,确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述选择模块还用于基于所述多个候选框的位置信息,确定所述多个候选框中与所述第二候选框满足所述第二相似度条件的至少一个第五候选框;将所述第一候选框、所述至少一个第四候选框以及所述至少一个第五候选框确定为所述至少两个目标候选框,或者将所述第一候选框、至少一个第二候选框、至少一个第四候选框以及至少一个第五候选框,确定为所述至少两个目标候选框。
在一些可能的实施方式中,所述预测结果包括所述候选框中的目标对象属于所述目标类型的置信度;所述选择模块还用于将所述多个候选框中的置信度最高的候选框确定为所述第一候选框。
在一些可能的实施方式中,所述选择模块还用于在所述多个候选框中的两个候选框的图像特征之间的相似度大于第一阈值的情况下,确定该两个候选框满足所述第一相似度条件;或者,将所述多个候选框中与待比较的候选框的图像特征之间的相似度最高的预设数量的候选框,确定为与所述待比较的候选框满足所述第一相似度条件的候选框。
在一些可能的实施方式中,所述选择模块还用于基于所述多个候选框分别对应的位置信息,确定所述多个候选框分别对应的图像区域的面积;在所述多个候选框中两个候选框对应的面积之间的交并比大于第二阈值的情况下,确定该两个候选框满足所述第二相似度条件
在一些可能的实施方式中,所述候选框对应的预测结果包括所述候选框中的目标对象属于目标类型的置信度,以及所述候选框中的目标对象是否为所述目标类型的判断结果。
在一些可能的实施方式中,所述优化模块还用于基于所述至少两个目标候选框分别对应的预测结果,调整所述至少两个目标候选框分别对应的权重;基于所述至少两个目标候选框分别对应的预测结果,以及调整后的所述权重,确定网络损失;基于所述网络损失调整神经网络的参数,直至满足优化条件。
在一些可能的实施方式中,所述优化模块还用于减小置信度最高的目标候选框的权重,并增加所述至少两个目标候选框中所述置信度最高的目标候选框以外的目标候选框的权重。
根据本公开的第四方面,提供了一种目标检测装置,其包括:获取模块,其用于获取待检测图像;检测模块,其用于利用神经网络对所述待检测图像进行处理,得到所述待检测图像中与目标类型对应的目标对象的候选框的位置信息,以及所述候选框中的目标对象与所述目标类型相关的预测结果;其中,所述神经网络通过第一方面中任意一项所述的方法优化生成。
根据本公开的第五方面,提供了一种电子设备,其包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行权利要求第一方面或者第二方面所述的方法。
根据本公开的第六方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现第一方面中任意一项所述的方法,或者第二方面所述的方法。
在本公开实施例中,可以对第一图像执行目标对象的检测,得到第一图像中多个目标对象的候选框的位置信息,而后利用神经网络的处理,得到多个候选框的图像特征和预测结果,进一步根据得到的图像特征和预测结果可以从多个候选框中筛选出满足相似度条件的至少两个目标候选框,并利用至少两个目标候选框对应的预测结果来优化神经网络。将该至少两个目标候选框作为目标类型的物体实例,通过神经网络对该至少两个目标候选框中的物体实例进行学习,进而优化神经网络,实现神经网络对目标类型的目标对象的检测功能。
其中,本公开实施例在选择用于优化神经网络的物体实例的过程中,并非单纯的以得到的预测结果中置信度最高的候选框为物体实例,而是利用与候选框的图像特征相关的第一相似度条件以及与候选框的位置相关的第二相似度条件中的至少一种,从多个候选框中筛选出满足相似度条件(即满足第一相似度条件和/或第二相似度条件)的至少两个目标候选框,作为物体实例,可以增加神经网络待学习的物体实例的数量,由此,在经过至少两个目标候选框的预测结果优化得到的神经网络之后,利用优化后的神经网络可以级检测得到更为全面更为准确的目标对象,可以有效提升神经网络的检测性能。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的神经网络的优化方法的流程图;
图2示出根据本公开实施例的在第一图像中目标类型为羊的候选框的示意图;
图3示出根据本公开实施例的在第一图像中目标类型为马的候选框的示意图;
图4示出根据本公开实施例的神经网络的结构示意图;
图5示出根据本公开实施例的神经网络的优化方法中获得第一图像集的流程图;
图6示出根据本公开实施例的神经网络的优化方法中的步骤S20的流程图;
图7示出根据本公开实施例的神经网络的优化方法中步骤S30的流程图;
图8示出根据本公开实施例的神经网络的优化方法中步骤S33的流程图;
图9示出根据本公开实施例的神经网络的优化方法中步骤S30的另一流程图;
图10示出根据本公开实施例的神经网络的优化方法中步骤S303的流程图;
图11示出根据本公开实施例中神经网的优选方法中步骤S40的流程图;
图12示出根据本公开实施例的神经网络的优化方法的优化过程示意图;
图13示出根据本公开实施例的目标检测方法的流程图;
图14示出根据本公开实施例的神经网络的优化装置的框图;
图15示出根据本公开实施例的目标检测装置的框图;
图16示出根据本公开实施例的电子设备的框图;
图17示出根据本公开实施例的另一电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
本公开实施例提供了一种神经网络的优化方法,该方法可以用于优化训练生成用于目标检测的神经网络。本公开实施例可以应用在任意的电子设备或者服务器器中,只要能够用于图像处理,即可以应用本公开实施例。例如,电子设备可以包括用户设备(UserEquipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(PersonalDigital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该图像处理方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
图1示出根据本公开实施例的神经网络的优化方法的流程图,如图1所示,神经网络的优化方法可以包括:
S10:获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;
在一些可能的实施方式中,可以通过至少一个第一图像执行神经网络的优化,例如可以获得第一图像集,该第一图像集中可以包括至少一个第一图像。第一图像集中的各第一图像可以基于视频数据选择出的图像帧得到,即可以对视频进行选帧操作或者采样操作,得到各第一图像。或者,也可以接收电子设备传输的各第一图像,或者从存储的数据库中读取各第一图像,本公开对获得第一图像的方式不作具体限定。其中,第一图像可以关联有对应的图像标签,该图像标签可以表示相应的第一图像中包括的对象类型。其中,对象类型可以包括人、动物、植物、建筑、交通设备、道路、标识、指示信息中的至少一种,本公开对此不作具体限定,图像标签可以根据不同图像内容以及不同的需求自行设定。本公开实施例中,第一图像集中的至少一个第一图像内可以包括目标类型的目标对象,该目标类型为待执行目标检测的目标对象类型,即需要从第一图像中识别出的目标对象的类型。例如,目标类型可以为车,即目标检测的目的是检测出图像中的类型为车的目标对象,或者目标类型为人,目标检测的目的是检测出图像中的类型为人的目标对象。
在一些可能的实施方式中,第一图像集的第一图像中可以包括目标类型的目标对象,本公开实施例可以检测出该目标类型的目标对象对应的位置,即从第一图像中检测出目标类型的目标对象并通过候选框的方式标注。图2示出根据本公开实施例的在第一图像中目标类型为羊的候选框的示意图。图3示出根据本公开实施例的在第一图像中目标类型为马的候选框的示意图。其中,图2中的灰色框表示目标类型的真实位置的候选框,黑色框表示检测出的目标类型的位置的候选框。图3中检测得到的各个候选框之间存在重叠区域,其中,在检测图像中的目标类型的目标对象时,针对同一对象可能得到不同的候选框。
在一些可能的实施方式中,可以通过人工标注的方式或者自动识别的方式得到第一图像中目标类型的目标对象对应的候选框。
其中,人工标注的方式可以包括:接收针对第一图像的框选操作,基于框选操作对应的框选区域确定第一图像中目标类型的目标对象的候选框。其中,接收针对第一图像的框选操作可以包括通过输入组件接收框选操作,输入组件可以包括触控屏、鼠标、触摸板等,通过输入组件可以接收用于针对第一图像的框选操作,通过框选操作对应的区域确定候选框的区域。其中,可以直接将框选操作对应的框选区域确定为候选框区域,或者也可以将框选操作的框选区域所对应的最小矩形区域确定为候选框区域。
自动识别的方式可以包括利用预设的目标识别算法检测第一图像中目标类型的目标对象,得到对象的多个候选框的位置信息。即,本公开实施例可以通过目标识别算法执行目标类型对象的检测,例如目标识别算法包括选择性搜索(Selective Search)算法或者候选区域提取(Edge Boxes)算法。或者,在其他实施例中也可以采用其他目标识别算法得到目标类型的目标对象所在的位置区域(候选框区域),本公开对此不作具体限定。
在一些可能的实施方式中,在确定目标类型的目标对象在第一图像中的候选框的情况下,可以得到候选框对应的位置信息,其中本公开实施例可以通过矩阵的方式表示候选框的位置区域。例如,表示候选框位置信息的矩阵中,以第一标识表示候选框对应的位置区域,以第二标识表示候选框以外的位置区域。其中,表示候选框的位置信息的矩阵与第一图像的尺度相同,且该矩阵中的各元素与第一图像中的各像素点一一对应,从而可以基于候选框的位置信息映射到第一图像中的相应目标类型的目标对象的位置。第一标识和第二标识为不同的数值,例如第一标识可以为1,第二标识可以为0,如在下述矩阵,
其中通过标识1形成的区域即为目标类型的目标对象所在的候选框的位置区域。其中,针对每个候选框的位置信息都可以通过矩阵的形式表示,例如可以通过一个矩阵表示第一图像中的多个候选框的位置信息,或者也可以每个候选框都对应有一个矩阵,用于表示该候选框的位置信息,本公开对此不作具体限定。
或者,本公开实施例得到的候选框的位置信息也可以表示成坐标的形式,例如可以基于得到的候选框的两个对角的顶点的位置表示候选框的位置。例如候选框的位置信息可以表示为(x1,x2,y1,y2),其中(x1,y1)和(x2,y2)可以分别表示候选框的两个对角顶点的位置坐标。通过上述可以确定候选框的位置。
S20:根据第一图像、多个候选框的位置信息、以及神经网络,得到多个候选框在第一图像中对应的图像区域的图像特征,以及候选框中目标对象与目标类型相关的预测结果;
在一些可能的实施方式中,本公开实施例可以通过神经网络执行各个候选框对应的图像区域的目标检测,得到各个候选框对应的图像区域的图像特征,以及每个候选框中的目标对象与目标类型相关的预测结果,该预测结果可以包括候选框中目标对象属于目标类型的置信度,以及候选框的目标对象是否属于目标类型的判断结果。其中判断结果可以包括目标对象属于目标类型或者目标对象不属于目标类型。其中可以分别用第一标签和第二标签表示,其中第一标签表示候选框中的目标对象属于目标类型,第二标签表示候选框中的目标对象不属于目标类型。例如第一标签可以为1,第二标签可以为0,但不作为本公开的具体限定。
在一些可能的实施方式中,可以直接将第一图像以及候选框的位置信息输入到神经网络中,执行候选框对应的图像区域的目标检测。输入神经网络的候选框的位置信息可以按照矩阵的形式表示,或者也可以为坐标形式,只要能够表示候选框的位置即可作为上述位置信息。本公开实施例待优化的神经网络可以为卷积神经网络,例如神经网络可以包括至少一个卷积层以及全连接层。图4示出根据本公开实施例的神经网络的结构示意图,其中可以包括用于特征提取的卷积层,以及池化层和全连接层。在其他实施例中神经网络也可以为其他的结构形式,本公开对此不作具体限定,只要能够实现对象的分类识别,即可以作为本公开实施例。
在将第一图像以及对应的候选框的位置信息输入神经网络之后,神经网络利用候选框的位置信息和第一图像得到候选框对应的图像区域的图像特征。其中,在一个示例中,可以对第一图像执行特征提取处理,得到与第一图像的图像特征,利用候选框的位置信息可以得到第一图像的图像特征中与候选框的位置信息对应的特征,即可以确定候选框对应的图像特征。其中,可以通过池化层将各候选框对应的图像特征转换成相同的尺度,方便后续处理。或者,在另一个示例中,可以基于候选框的位置信息,确定第一图像中与候选框对应的图像区域,对该图像区域执行特征提取处理,进而可以得到候选框对应的图像区域的图像特征,同样的,也可以通过池化层将各候选框对应的图像特征转换成相同的尺度,方便后续处理。上述仅为示例性说明,也可以通过其他方式得到候选框对应的图像区域的图像特征。
进一步的,可以通过神经网络对各候选框的图像特征执行分类识别,得到相应的候选框的预测结果,该预测结果可以包括候选框中的目标对象属于目标类型的置信度(概率分数),以及该对象是否为目标类型的目标对象。例如,可以利用神经网络的全连接层对候选框的图像特征执行处理,得到针对候选框中的目标对象的预测结果。
通过上述实施例,可以得到第一图像中目标对象的每个候选框的图像特征,以及预测结果。基于得到的图像特征和预测结果可以从候选框中选择出目标候选框,用于神经网络的学习优化。
S30:基于多个候选框分别对应的图像特征和预测结果,从多个候选框中筛选出满足相似度条件的至少两个目标候选框,其中,相似度条件包括基于图像特征确定出的第一相似度条件和基于候选框的位置信息确定出的第二相似度条件中的至少一种;
在一些可能的实施方式中,针对每个第一图像中目标类型的目标对象可以得到多个候选框,该多个候选框的位置、图像特征以及对应的预存结果可能各不相同,在优化神经网络的过程中,可以选择出满足相似度条件的目标候选框,将满足相似度条件的目标候选框中的目标对象作为目标类型的物体实例,用以监督训练神经网络,从而可以提高神经网络的优化速度和精度。
其中,相似度条件可以包括第一相似度条件和/或第二相似度条件,第一相似度条件与候选框的图像特征相关,第二相似度条件与候选框的位置相关。通过第一相似度条件可以确定多个候选框中图像特征满足要求的候选框,通过第二相似度条件可以确定多个候选框中位置信息满足要求的候选框,通过上述满足要求的候选框可以确定最终的目标候选框。
S40:基于筛选出的至少两个目标候选框分别对应的预测结果,优化神经网络。
在一些可能的实施方式中,在得到满足相似度条件的至少两个目标候选框的情况下,可以利用各目标候选框的预测结果,优化训练神经网络。
本公开实施例可以通过神经网络学习各目标候选框中对象特征,从而实现神经网络对目标类型的目标对象的检测功能。其中,在选择用于优化神经网络的物体实例的过程中,并非单纯的以得到的预测结果中置信度最高的候选框为物体实例,而是利用与候选框的图像特征相关的第一相似度条件以及与候选框的位置相关的第二相似度条件中的至少一种,从多个候选框中筛选出满足相似度条件(即满足第一相似度条件和/或第二相似度条件)的至少两个目标候选框,作为物体实例,可以增加神经网络待学习的物体实例的数量,由此,在经过至少两个目标候选框的预测结果优化得到的神经网络之后,利用优化后的神经网络可以级检测得到更为全面更为准确的目标对象,可以有效提升神经网络的检测性能。
在一些可能的实施方式中,可以根据目标候选框的预测结果调整目标候选框的权重,该权重用于表示神经网络学习该目标候选框的学习程度,另外通过调整各个目标候选框的权重,还可以得到神经网络的网络损失,基于该网络损失进一步调整网络的参数,从而提升神经网络的优化精度。
基于上述,本公开实施例可以对第一图像执行目标对象的检测,得到第一图像中多个目标对象的候选框的位置信息,而后利用神经网络的处理,得到多个候选框的图像特征和预测结果,进一步根据得到的图像特征和预测结果可以从多个候选框中筛选出满足相似度条件的至少两个目标候选框,并利用至少两个目标候选框对应的预测结果来优化神经网络。将该至少两个目标候选框可以是作为目标类型的物体实例,通过神经网络对该至少两个目标候选框中的物体实例进行学习,进而优化神经网络,实现神经网络对目标类型的目标对象的检测功能。而且,本公开实施例并非单纯的以得到的预测结果中置信度最高的候选框为物体实例,而是利用与候选框的图像特征相关的第一相似度条件以及与候选框的位置相关的第二相似度条件中的至少一种,从多个候选框中筛选出满足相似度条件的至少两个目标候选框,作为物体实例,可以增加神经网络待学习的物体实例的数量,可以进一步提升神经网络的检测性能。
下面结合附图对本公开实施例的各步骤进行详细说明。如上述实施例所述,本公开实施例可以通过获取的第一图像集中的第一图像执行后续神经网络的优化,其中第一图像可以为经过预处理后得到的图像。图5示出根据本公开实施例的神经网络的优化方法中获得第一图像集的流程图。其中,获得第一图像集,包括:
S11:获得第二图像集,第二图像集包括多个第二图像;
在一些可能的实施方式中,第一图像集可以是基于第二图像集得到的,其中,第二图像集可以包括多个第二图像,例如第二图像集中的各第二图像可以为从视频流中选择的图像,例如按照预设时间间隔从视频流中选择出相应的图像作为第二图像,或者也可以通过其他选帧方式选择出第二图像。或者,在其他实施例中,第二图像集也可以为从其他设备接收的图像集,也可以为从存储地址中选择出的第二图像构成的图像集,本公开对此不作具体限定。
S12:对第二图像集中的多个第二图像执行预处理操作,得到第一图像集;其中,预处理操作包括图像增强、调整尺度以及图像翻转中的至少一种。
在一些可能的实施方式中,得到的第二图像集中的第二图像可能因为采集设备、外部环境或者其他因素的影响,存在图像质量较差的情况,本公开实施例可以通过预处理操作,提高第二图像的图像质量。同时还可以通过预处理操作增加图像的数量,提高神经网络的优化精度。其中预处理操作可以包括图像增强、调整尺度以及图像翻转中的至少一种。例如,图像增强的方式可以包括直方图均衡、灰度变换、白平衡、伽玛校正、图像平滑、图像锐化以及小波变换总的至少一种。调整尺度可以包括将第二图像转换成预设的至少一个尺度,或者按照第二图像中较短的一边进行尺度调整,例如预设的尺度可以包括480、576、688、864、1200中的至少一种,或者如果第二图像中较短的一边的长度为a,则可以将第二图像调整为a*a尺度的图像。图像翻转可以包括按照预设角度翻转第二图像,如可以将第二图像按照90度、180度翻转等等。上述仅为示例性说明,对于图像增强的方式、预设尺度以及预设角度,本公开不作具体限定,本领域技术人员可以根据需求选择适当的配置。
通过预处理操作,可以提高第二图像的图像质量,提高后续的目标对象检测、特征提取以及分类操作的准确度。
在得到第一图像集之后,可以检测第一图像集中第一图像的目标类型的目标对象的位置,即候选框的位置信息。如上可以采用人工标注的方式或者自动识别的方式获得候选框的位置信息。进一步的,可以利用神经网络预测各候选框对应的图像特征和预测结果。图6示出根据本公开实施例的神经网络的优化方法中的步骤S20的流程图。其中,根据第一图像、多个候选框的位置信息、以及神经网络,得到多个候选框在第一图像中对应的图像区域的图像特征,以及候选框中目标对象与目标类型相关的预测结果,包括:
S21:利用神经网络得到第一图像对应的第一特征图,并确定第一特征图中与候选框的位置信息对应的图像特征;
在一些可能的实施方式中,神经网络能够提取第一图像的特征,得到第一特征图,例如图4中示出的神经网络的结构形式,可以利用至少一个卷积层(CONVs)的卷积处理得到第一图像的第一特征图。其中,对于不同的神经网络结构,可以通过不同的网络形式得到第一特征图,本公开对此不作具体限定。
进一步地,基于第一图像对应的候选框的位置信息可以得到第一特征图内与候选框对应的特征图,即候选框的图像特征,如上,候选框的位置信息可以通过由1和0构成的矩阵表示,本公开实施例可以将第一特征图与表示候选框的位置信息的特征矩阵进行相乘处理(对应元素相乘),从而可以得到与候选框对应的图像特征。
如上述实施例所述,本公开实施例也可以利用候选框的位置信息确定第一图像中候选框对应的图像区域,而后对候选框对应的图像区域执行特征提取处理,得到候选框的图像特征。
在一些可能的实施方式中,在得到各候选框的图像特征的情况下,可以对各图像特征指向池化处理,将候选框的图像特征转换为相同的尺度规格。
S22:对候选框的图像特征执行分类识别,得到候选框中的目标对象关于目标类型的预测结果。
在得到候选框对应的图像特征的情况下,可以对候选框的图像特征执行分类识别,如可以将候选框对应的图像特征输入至全连接网络(神经网络的全连接层)执行二分类处理,得到候选框中的目标对象为目标类型的置信度,该置信度可以表示候选框中的目标对象属于目标类型的概率值,该置信度越高,说明目标对象为目标类型的可能性就越高。
进一步地,可以基于该置信度确定候选框中的目标对象是否为目标对象的判断结果,其中,在候选框对应的置信度高于置信度阈值的情况下,可以表示候选框中的目标对象为目标类型,此时判断结果可以表示为第一标签,如1;在候选框对应的置信度低于置信度阈值的情况下,可以表示候选框中的目标对象不是目标类型,此时判断结果可以表示为第二标签,如0。
基于上述即可以得到候选框对应的图像特征和预测结果,如可以得到候选框对应的图像特征以及候选框内的目标对象为目标类型的目标对象的置信度,以及是否为目标类型的判断结果。
在得到针对第一图像的各候选框的上述结果的情况下,可以从候选框中选择出满足相似度条件的目标候选框,从而将满足相似度条件的目标候选框作为目标类型对应的物体实例执行神经网络的学习训练。
图7示出根据本公开实施例的神经网络的优化方法中步骤S30的流程图。基于多个候选框的识别结果,确定满足相似度条件的候选框,包括:
S31:基于多个候选框分别对应的预测结果,确定预测结果满足预设条件的第一候选框;
在一些可能的实施方式中,针对第一图像中的目标类型的目标对象可以得到多个候选框,同时可以得到该多个候选框分别对应的图像特征和预测结果。如上述实施,预测结果中可以包括候选框的置信度,在确定满足相似度条件的目标候选框的过程中,可以首先确定满足预设条件的第一候选框,本公开实施例可以将置信度最高的候选框确定为第一候选框,由于置信度最高的候选框的目标对象为目标类型的目标对象的概率最高,因此基于该置信度最高的候选框选择其余相同的目标对象,能够提高检测精度。
另外,本公开实施例中,可以在该第一候选框的置信度大于置信度阈值的情况下,执行后续处理。其中,在第一图像的第一候选框的置信度高于置信度阈值的情况下,可以确定该第一候选框中的目标对象为目标类型的目标对象概率较高,此时执行后续的满足相似度条件的候选框的确定过程,得到第一图像中其余可能的目标类型对象的实例,如果第一图像中的第一候选框的置信度低于置信度阈值,则可以表明该第一候选框内的目标对象可能并不是目标类型的目标对象,此时可以不执行该第一图像中基于第一候选框确定相似度条件的候选框的过程。由于在优化神经网络的过程中,可以通过多个第一图像进行优化训练,因此,通过上述方式可以减少可能不存在目标对象的第一图像的处理,提高网络的优化效率。
S32:基于第一候选框对应的图像特征、多个候选框中除第一候选框之外的其它候选框的图像特征,从多个候选框中选择与第一候选框满足第一相似度条件的至少一个第二候选框;
如上述实施例所述,相似度条件可以包括第一相似度条件,该第一相似度条件与候选框的图像特征相关,第一相似度是指外观特征(图像特征)之间的相似度,第一相似度条件可以为与第一候选框的图像特征之间的相似度大于第一阈值,或者满足第一相似度条件的候选框也可以是与第一候选框的图像特征之间的相似度最高的预设数量个候选框。如上,可以将置信度最高的候选框(第一候选框)作为目标类型的目标对象的实例,进而可以通过确定第一图像中与该第一候选框的图像特征相似的其余候选框以确定其余目标类型的目标对象可能的实例。其中,第一阈值可以为任意设定的数值,如可以大于或者等于0.5小于1的数值,如0.8,但不作为本公开的具体限定。或者,在本公开实施例中也可以基于得到的与第一候选框对应的满足第二相似度条件的候选框来确定第一阈值。
其中,得到与第一候选框对应的满足第二相似度条件的候选框的方式可以参见下述实施例。在得到与第一候选框对应的满足第二相似度条件的候选框的情况下,可以得到第一候选框的图像特征与各满足第二相似度条件的候选框的图像特征之间的相似度的平均值,例如可以计算第一候选框与每个与第一候选框之间满足第二相似度条件的候选框的图像特征之间的相似度,计算各相似度的平均值,利用该平均值与预设系数T的乘积可以得到该第一阈值。例如,在任一候选框与第一候选框的图像特征之间的相似度小于T*平均值的情况下,则认为该任一候选框和第一候选框外观相似,即满足第一相似度条件,其中如T可以取0.3,或者其他小于1的正数值。其中,本公开实施例中满足第二相似度条件的两个候选框对应的图像区域面积之间的交并比(面积交集与面积并集之间的比值)大于第二阈值,该第二阈值可以为0.5,或者也可以为其他数值。
在一些可能的实施方式中,可以获取置信度最高的第一候选框对应的图像特征,以及其余候选框对应的图像特征,并得到第一候选框的图像特征与其余候选框的图像特征之间的相似度,该相似度可以为余弦相似度或者欧式距离。即本公开实施例可以通过计算第一候选框的图像特征与其余候选框的图像特征之间的余弦相似度或者欧式距离,得到相应候选框之间的相似度。如果任一候选框的图像特征与第一候选框的图像特征之间的相似度小于第一阈值,则表示该任一候选框为满足第一相似度条件的第二候选框,该第二候选框内的目标对象与第一候选框内的目标对象相似度较高。反之,如果候选框的图像特征与第一候选框的图像特征之间的相似度大于或者等于第一阈值,则表示该候选框不满足第一相似度条件,此时该候选框内的目标对象与第一候选框内的目标对象的相似度较低。
在另一些可能的实施方式中,在得到多个候选框中每个候选框的图像特征与第一候选框的图像特征之间的相似度的情况下,可以得到与第一候选框的图像特征之间相似度最高的预设数量个候选框,该预设数量个候选框即可以为满足第一相似度条件的第二候选框。其中预设数量可以1或者也可以为大于1的整数,该预设数量可以根据不同的需求进行设定。
通过上述方式即可以得到与第一候选框之间满足第一相似度条件的第二候选框,通过该过程可以选择出与第一候选框中的目标对象外观相似或者特征相似的其他物体实例的第二候选框。
S33:基于第一候选框和至少一个第二候选框,确定多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,可以将第一候选框和第二候选框全部作为满足相似度条件的目标候选框,或者也可以从第一候选框和第二候选框中选择出至少两个候选框作为目标候选框,其中选择的目标候选框的数量可以根据需求设定,该数量大于或者等于2。因此,对应的目标候选框可以为第一候选框和至少一个第二候选框,或者也可以在第二候选框的数量大于2时,从第二候选框中选择出至少两个候选框作为目标候选框。
在另一些可能的实施方式中,本公开实施例还可以根据得到的与第一候选框之间以及与第二候选框之间满足第二相似度条件的第三候选框,并利用第三候选框确定目标候选框。
图8示出根据本公开实施例的神经网络的优化方法中步骤S33的流程图。其中,基于第一候选框和至少一个第二候选框,确定多个候选框中满足相似度条件的至少两个目标候选框,包括:
S331:将第一候选框和至少一个第二候选框作为参考候选框,基于参考候选框的位置信息,从多个候选框中选择出满足与参考候选框满足的第二相似度条件的至少一个第三候选框;
在一些可能的实施方式中,在得到第一候选框以及第二候选框的情况下,可以进一步得到与第一候选框之间满足第二相似度条件以及与第二候选框之间满足第二相似度条件的第三候选框。下述实施例可以将第一候选框以及第二候选框统称为参考候选框,确定第一图像的多个候选框中与各个参考候选框之间满足第二相似度条件的第三候选框。
其中,如上述实施例所述,第二相似度条件与候选框的位置相关,两个候选框满足第二相似度条件是指两个候选框的位置信息对应的面积的交并比大于第二阈值。通过第二相似度条件可以确定出空间相似的候选框。本公开实施例针对第一图像的目标类型对象的检测得到的多个候选框之间可能存在重叠区域,如图3所示的实施例,针对目标类型的目标对象“马”检测出多个候选框。对于每个参考候选框可以确定与其对应的满足第二相似度条件的第三候选框。其中,第二阈值可以为任意的设定的数值,如可以为大于或者等于0.5的数值,本公开对此不作具体限定。
其中,基于多个候选框的位置信息,确定与参考候选框对应的满足第二相似度条件的第三候选框,可以包括:针对每个参考候选框,基于第一图像中多个候选框的位置信息,确定参考候选框以及其余候选框的位置信息分别对应的图像区域的面积,并得到参考候选框与其余候选框的图像区域面积之间的交并比,如果一候选框与参考候选框的图像区域面积之间的交并比大于第二阈值,则说明该候选框满足第二相似度条件。
其中,本公开实施例可以从多个候选框中选择出与参考候选框对应的图像区域存在重叠区域的候选框,该与参考候选框存在重叠区域的候选框下述被称为重叠候选框;获得参考候选框和对应的重叠候选框之间的重叠区域的重叠面积,以及参考候选框和对应的重叠候选框形成的组合框的面积;响应于任一重叠候选框与参考候选框之间的重叠面积和形成的组合框的之间面积之间的比值,即交并比(Intersection over Union,IOU)大于第二阈值,确定该重叠候选框为与参考候选框对应的满足第二相似度条件的第三候选框。
如上述实施例所述,针对第一图像得到的多个候选框之间可能存在重叠区域的情况,此时可以确定与各个参考候选框之间存在重叠区域的候选框(重叠候选框),并得到参考候选框与重叠候选框之间的重叠区域的重叠面积,即交集区域的面积,以及得到重叠候选框和参考候选框形成的组合框的面积,即并集区域的面积。其中,组合框是指由第二候选框和第四候选框共同构成的最大面积的框,通过重叠面积和组合框面积之间的比值可以确定重叠候选框是否满足第二相似度条件。其中,如果重叠面积和组合框之间的面积比值大于第二阈值,则确定相应的重叠候选框为与参考候选框之间满足第二相似度条件的候选框,如果重叠面积和组合框之间的面积比值小于或者等于第二阈值,则确定该重叠候选框不满足第二相似度条件。其中,可以将确定的满足第二相似度条件的重叠候选框为第三候选框。基于上述实施例得到的各参考候选框对应的满足第二相似度的第三候选框内的目标对象也可以视作目标类型的目标对象的实例。
S332:将第一候选框以及至少一个第三候选框确定为至少两个目标候选框,或者,将第一候选框、至少一个第二候选框以及至少一个第三候选框确定为至少三个目标候选框。
在得到第一候选框对应的满足第二相似度条件的第三候选框,以及第二候选框对应的满足第二相似度条件的第三候选框的情况下,可以根据第一候选框、第二候选框以及第三候选框确定目标候选框。
在一些可能的实施方式中,可以将第一候选框以及各第三候选框均作为目标候选框,或者也可以从第三候选框中选择至少两个候选框作为目标候选框,或者也可以将第一候选框以及至少一个第三候选框作为目标候选框。
在一些可能的实施方式中,也可以将第一候选框、第二候选框以及各第三候选框均作为目标候选框,或者也可以从第一候选框、第二候选框以及第三候选框中选择出至少两个候选框作为目标候选框。
基于上述实施例,可以在得到满足第一相似度条件的第一候选框以及第二候选框的情况下,进一步得到每个第一候选框和第二候选框对应的满足第二相似度条件的第三候选框,进而可以将得到的第一候选框、第二候选框和点候选框中的至少两个候选框确定为目标候选框。如上,满足第一相似度条件和第二外观相似度条件的候选框内的目标对象均可以视作为目标类型的目标对象对应的实例,因此通过将上述满足相似度条件的候选框作为目标类型对象的实例用于神经网络的训练优化。本公开实施例可以运用神经网络(深度神经网络)的描述能力对图像进行特征提取,通过置信度最高的第一候选框进而挖掘图像中所有可能的同类对象,从而提高弱监督目标检测对于物体检测的性能。
在上述实施例中,首先根据第一候选框的图像特征确定与第一候选框之间满足第一相似度条件的第二候选框,而后将第一候选框和第二候选框中的至少一个框作为参考候选框,确定与参考候选框之间满足第二相似度条件的第三候选,而后将第一候选框、第二候选框以及第三候选框中的至少两个候选框作为目标候选框执行神经网络的优化。在另一些实施方式中,也可以首先确定与第一候选框之间满足第二相似度条件的候选框,并以此确定目标候选框。
图9示出根据本公开实施例的神经网络的优化方法中步骤S30的另一流程图。如图9所示,基于多个候选框分别对应的图像特征和预测结果,从多个候选框中筛选出满足相似度条件的至少两个目标候选框,包括:
S301:基于多个候选框分别对应的预测结果,确定多个候选框中满足预设条件的第一候选框;
与步骤S31相同,本公开实施例可以首先确定第一图像的多个候选框中满足预设条件的第一候选框,如可以将该多个候选框的预测结果中置信度最高的候选框,确定为第一候选框。
S302:基于第一候选框的位置信息,确定多个候选框中与第一候选框满足第二相似度条件的至少一个第四候选框;
在一些可能的实施方式中,可以在得到第一候选框的情况下,得到与第一候选框对应的满足第二相似度条件的第四候选框。如上述实施例所述,与第一候选框之间第二相似度条件可以为与第一候选框对应的图像区域的面积之间的交并比大于第二阈值。本公开实施例可以从多个候选框中选择出与第一候选框对应的图像区域存在重叠区域的候选框,该与第一候选框存在重叠区域的候选框下述被称为重叠候选框,获得第一候选框和对应的重叠候选框之间的重叠区域的重叠面积,以及第一候选框和对应的重叠候选框形成的组合框的面积;响应于任一重叠候选框与第一候选框之间的重叠面积和形成的组合框的之间面积之间的比值(即,交并比IOU)大于第二阈值,确定该重叠候选框为与第一候选框对应的满足第二相似度条件的第四候选框。
S303:基于第一候选框和至少一个第四候选框,确定多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,可以将第一候选框和第四候选框全部作为满足相似度条件的目标候选框,或者也可以从第一候选框和第四候选框中选择出至少两个候选框作为目标候选框,其中选择的目标候选框的数量可以根据需求设定,该数量大于或者等于2。因此,对应的目标候选框可以为第一候选框和至少一个第四候选框,或者也可以在第四候选框的数量大于2时,从第四候选框中选择出至少两个候选框作为目标候选框。
在另一些可能的实施方式中,本公开实施例还可以根据得到的与第一候选框之间满足第一相似度条件的第二候选框以及第一候选框和第四候选框确定目标候选框。
图10示出根据本公开实施例的神经网络的优化方法中步骤S303的流程图。其中,基于第一候选框和至少一个第四候选框,确定多个候选框中满足相似度条件的至少两个目标候选框,包括:
S3031:基于多个候选框分别对应的图像特征,从多个候选框中选择出与第一候选框满足第一相似度条件的至少一个第二候选框;
在得到第一候选框以及与第一候选框之间满足第二相似度条件的第四候选框的情况下,还可以得到与第一候选框之间满足第一相似度的第二候选框。其中同步骤S32的说明相同,可以将图像特征与第一候选框的图像特征之间的相似度大于第一阈值的候选框,确定为第二候选框。或者也可以将与第一候选框的图像特征之间的相似度最高的预设数量个候选框确定为第二候选框。其中可以利用第一候选框的图像特征与第四候选框的图像特征之间的相似度的平均值与预设系数的乘积确定第一阈值,或者也也可以直接配置第一阈值的数值,如可以为0.8,但不作为本公开的具体限定。
S3032:基于第一候选框、至少一个第四候选框以及至少一个第二候选框,确定至少两个目标候选框。
在一些可能的实施方式中,可以将第一候选框、第二候选框以及第四候选框中的至少两个候选框确定为目标候选框。
在一些可能的实施方式中,还可以基于第二候选框确定与第二候选框之间满足第二相似度条件的第五候选框。同样可以根据各候选框的位置信息,确定与第二候选框对应的图像区域之间的面积的交并比大于第二阈值的候选框,从而得到与第二候选框对应的满足第二相似度条件的第五候选框。继而可以将第一候选框、第二候选框、第四候选框以及第五候选框中的至少两个候选框确定为目标候选框。其中,在一个示例中,可以将第一候选框、第四候选框以及第五候选框确定为目标候选框,或者从中选择出至少两个候选框作为目标候选框。或者也可以将第一候选框、第二候选框、第四候选框以及第五候选框确定为目标候选框,或者也可以从中选择出至少两个候选框作为目标候选框。
通过上述实施例,可以从第一图像的多个候选框中选择出满足相似度条件的至少两个目标候选框,该目标候选框在外观或者空间上相互之间存在相似的情况,增加了目标类型的目标对象的物体实例,通过上述目标候选框对神经网络进行训练优化,可以提升神经网络的目标检测精度。
在得到满足相似度条件的目标候选框的情况下,可以基于满足相似度条件的目标候选框对神经网络进行优化。图11示出根据本公开实施例中神经网的优选方法中步骤S40的流程图,其中基于筛选出的至少两个目标候选框分别对应的预测结果,优化神经网络,包括:
S41:基于至少两个目标候选框分别对应的预测结果,调整至少两个目标候选框分别对应的权重;
通常情况下,采用弱监督的方式训练神经网络时,神经网络是通过第一图像对应的图像标签进行学习,从而实现目标对象的类型检测。本公开实施例在基于满足相似度条件的候选框对神经网络优化时,可以第一图像中满足相似度条件的候选框作为所要检测的目标类型的目标对象的物体实例,神经网络可以通过对目标候选框内的物体实例进行学习实现目标类型的目标对象的检测功能。
在一些可能的实施方式中,在通过神经网络对目标候选框中的目标对象的特征等信息进行学习的过程中,本公开实施例可以调整各目标候选框的权重,用以表示各目标候选框的学习的重要程度。其中,本公开实施例可以根据目标候选框的置信度调整各目标候选框的权重。
如上述实施例所述,在优化训练神经网络的过程中,可以调整候选框的权重,其中,本公开实施例可以减小置信度最高的目标候选框权重,同时增加置信度最高的目标候选框以外的目标候选框的权重。在一个示例中,可以为置信度最高的目标的候选框配置第一权重,为其余目标候选框配置第二权重,该第一权重小于第二权重,例如第一权重可以小于零,第二权重可以大于零,但不作为本公开的具体限定。在另一个示例中,可以按照目标候选框的置信度从高到低的顺序为对应的目标候选框分配权重,分配的权重的大小与置信度的大小呈反比例。其中,置信度越高,分配的权重越低。
例如,在目标候选框中包括第一候选框的情况下,可以减小第一候选框的权重,如为该第一候选框分配第一权重,同时可以增加第一候选框以外的其余目标候选框的权重,如为其余目标候选框分配第二权重。通过上述实施例,通过为各目标候选框调整权重,在训练神经网络的过程中,基于调整权重的方法可以降低置信度最高的目标候选框对应的物体实例的权重,甚至该权重可以被降低到0以下,将该物体实例当作一个负样本来进行学习,以达到抑制网络对于该物体实例的拟合,同时促进神经网络对第一候选框以外的目标候选框的拟合。也就是说,通过调整权重的方式,可以相对抑制置信度高的目标候选框中的目标对象(实例)的拟合学习,同时提高置信度低的目标候选框的目标对象的拟合学习,可以提升神经网络的检测精度。
S42:基于至少两个目标候选框分别对应的预测结果,以及调整后的权重,确定网络损失;
在一些可能的实施方式中,在调整了目标候选框的权重的情况下,可以根据各目标候选框对应的预测结果以及相应的权重,得到网络损失。
如上述实施例所述,可以将满足相似度条件的目标候选框中置信度最高的目标候选框的权重调整为第一权重,以及将满足相似度条件的其余目标候选框的权重调整为第二权重,其中第一权重小于第二权重。其中,可以通过为置信度最高的目标候选框再进一步根据调整的权重以及预测结果得到网络损失,其中可以基于预设的损失函数,利用上述调整的权重以及预测结果得到网络损失,本公开实施例的损失函数的表达式可以为:
其中,L表示得到的网络损失,P表示满足目标候选框的数量;wj表示第j个目标候选框的权重,yc,j表示第j个目标候选框的判断结果,如第一标签为1,第二标签为0,表示用于调整第j个目标候选框的权重的调整系数,表示第j个目标候选框的置信度,β表示在j对应的目标候选框不是置信度最高的候选框ic时的取值,-(1+β)表示在j对应的候选框是置信度最高的候选框ic时的取值,ic表示置信度最高的目标候选框,β为大于零的数值。
基于上述实施例,可以为置信度最高的目标候选框的权重赋予较小的权重调整系数,如-(1+β),为其余的目标候选框赋予较大的权重调整系数,如β,从而可以减少置信度最高的目标候选框的权重,增加其余目标候选框的权重,进而可以根据每个目标候选框的置信度以及对应的是否为目标类型的目标对象的判断结果得到网络损失,其中判断结果可以用第一标签或者第二标签区分表示。
通过上述实施例可以获知,本公开实施例可以将置信度最高的候选框的第一权重调整为-βwj,即相对于权重wj,本公开减小了置信度最高的目标候选框的权重,将权重调整为第一权重-βwj,甚至可以将第一权重调整为小于零的数值,从而将该置信度最高的目标候选框对应的物体实例当作一个负样本来进行学习,以达到抑制网络对于该物体实例的拟合。同时增加可其余满足相似度条件的目标候选框的权重(第二权重),将第二权重调整为(1+β)wj,从而将相应的候选框对应的物体实例当作正样本来进行学习,提高网络的鲁棒性和检测精度。
S43:基于网络损失调整神经网络的参数,直至满足优化条件。
在一些可能的实施方式中,在通过各目标候选框调整的权重以及对应的预测结果得到网络损失的情况下,可以确定该网络损失是否小于损失阈值,如果大于损失阈值,则反馈调节神经网络的参数,直至得到的网络损失小于损失阈值,如果网络损失大于该损失阈值,则说明神经网络满足训练优化条件,此时可以终止优化。损失阈值可以为大于0小于0.5的数值,如0.1,但本公开对此不作具体限定。
上述实施例中可以根据各目标候选框的置信度调整各目标候选框的权重,在本公开的另一些实施方式中,还可以根据各目标候选框的置信度调整每个目标候选框的预测损失,并根据预测损失得到神经网络的网络损失。
本公开实施例可以得到基于每个目标候选框的置信度以及候选框内的目标对象是否为目标类型的判断结果,得到每个目标候选框的预测损失,如可以首先获得置信度的对数值(log值,以2为底),再乘以相应的判断结果对应的标签值,得到每个目标候选框的预测损失,上述仅为示例性说明,本公开对此不作具体限定,其中可以通过其他方式得到每个目标候选框的预测损失。
另外,还可以根据目标候选框的置信度确定每个目标候选框的预测损失的权重,同样的,可以减少置信度最高的目标候选框的预测损失的权重,增加其余目标候选框的预测损失权重,其中可以为置信度最高的目标候选框的预测损失配置第三权重,为其余目标候选框的预测损失配置第四权重,第三权重小于第四权重。或者,也可以按照置信度的大小,反比例的为各目标候选框的预测损失配置相应的权重,置信度越高,被配置的权重越低。
其中,在得到每个目标候选框的预测损失以及权重之后,可以利用各预测损失以及对应的权重得到网络损失。例如可以利用预测损失和权重的乘积之和,与目标候选框的数量的比值,得到网络损失。
在得到的网络损失大于损失阈值的情况下,反馈调节神经网络的参数,直至得到的网络损失小于损失阈值,如果网络损失大于该损失阈值,则说明神经网络满足训练优化条件,此时可以终止优化。损失阈值可以为大于0小于0.5的数值,如0.1,但本公开对此不作具体限定。
通过上述实施例可以完成神经网络的优化过程,其中,针对神经网络每次对第一图像的处理得到对应的目标候选框,进而利用目标候选框的置信度以及预测结果得到相应的网络损失,反馈调节网络参数,直至满足优化条件,通过上述过程可以提高网络的鲁棒性和检测性能。
为了更加清楚的体现本公开实施例,下面举例说明本公开实施例的神经网络优化过程,图12示出根据本公开实施例的神经网络的优化方法的优化过程示意图。
其中,在将输入图像输入至神经网络或者执行目标对象的候选框检测之前,可以对输入图像执行预处理,输入图像可以来自图片或拍摄的视频文件,针对图片类型的文件,需要进行必要的图像预处理操作,针对视频类型的文件,需要通过选帧操作,将选帧获取的图片进行预处理操作。为了使后续训练的网络进行更好的学习,本公开实施例可以采用数据增强的方式对图片进行预处理,预处理操作包括按5个不同的尺度(480,576,688,864,1200),对图片按短边长度进行大小调整,并对图片进行水平翻转。预处理后可以将输入图像Input Image输入至神经网络执行网络优化。经神经网络的卷积层CONVs执行卷积处理进行特征提取,得到输入图像的特征图,以及预处理后还可以通过Selective Search或EdgeBoxes等算法从图片中生成若干数量的候选框区域,每个候选框对应图像区域里存在可能的物体实例。后续的算法操作都基于所得候选框区域,最终的检测结果会从候选框区域中挑选符合要求的物体实例。其中,在得到多个候选框的情况下,可以将得到的多个候选框的位置信息输入至神经网络,基于输入图像的图像特征以及候选框的位置信息得到相应候选框对应的图像特征,通过神经网络的池化处理Pooling,可以将每个候选框的图像特征调整为相同尺度(预设尺度),而后经全连接层FC得到每个候选框的预测结果,即候选框中目标对象属于目标类型的目标对象的置信度,以及是否为目标类型的目标对象的判断结果。
进一步的,在得到每个候选框的图像特征和预测结果之后,可以基于图像特征以及预测结果选择满足相似度条件的目标候选框,从预测结果中选择出置信度(类别分数)最高的第一候选框,计算该第一候选框对应的物体与其余候选框对应的物体的外观相似度(第一相似度),得到满足第一相似度条件的第二候选框,并进一步分别得到第一候选框和第二候选框对应的满足空间相似度(第二相似度条件)的第三候选框,对于第一候选框和每个第二候选框,如果其周围的候选框与该候选框之间的IOU>=0.5,则可以将该候选框作为第三候选框的实例,并建立空间相似图。基于上述可以得到满足相似度条件的实例,即满足相似度条件的目标候选框。在得到了输入图像中挖掘的物体实例(满足相似度条件的候选框)之后,对于每一个物体实例(目标候选框),通过调整每个实例的权重,训练神经网络。对于每一个物体实例,正常训练中物体实例权重都是1,代表着正样本,而本公开实施例在调整后的训练中通过调整权重的方法会降低该置信度最高的物体实例的权重,甚至降低到0以下,将该置信度最高的目标候选框对应的物体实例当作一个负样本来进行学习,以达到抑制网络对于该物体实例的拟合,而其余目标候选框的物体实例的实例权重则会得到提升,例如在训练中将最高分物体实例(第一候选框)的权重设置为-0.2,而其余目标候选框的权重调整为1.2,使得其他实例的类别分数得到提高,检测的性能得到改进。
综上,在本公开实施例中,可以对第一图像执行目标对象的检测,得到第一图像中多个目标对象的候选框的位置信息,而后利用神经网络的处理,得到多个候选框的图像特征和预测结果,进一步根据得到的图像特征和预测结果可以从多个候选框中筛选出满足相似度条件的至少两个目标候选框,并利用至少两个目标候选框对应的预测结果来优化神经网络。将该至少两个目标候选框作为目标类型的物体实例,通过神经网络对该至少两个目标候选框中的物体实例进行学习,进而优化神经网络,实现神经网络对目标类型的目标对象的检测功能。
其中,本公开实施例在选择用于优化神经网络的物体实例的过程中,并非单纯的以得到的预测结果中置信度最高的候选框为物体实例,而是利用与候选框的图像特征相关的第一相似度条件以及与候选框的位置相关的第二相似度条件中的至少一种,从多个候选框中筛选出满足相似度条件(即满足第一相似度条件和/或第二相似度条件)的至少两个目标候选框,作为物体实例,可以增加神经网络待学习的物体实例的数量,由此,在经过至少两个目标候选框的预测结果优化得到的神经网络之后,利用优化后的神经网络可以级检测得到更为全面更为准确的目标对象,可以有效提升神经网络的检测性能。本公开实施例可以通过运用神经网络的描述能力对图像进行特征提取,并通过满足相似度条件的候选框挖掘图像中所有的同类物体,从而提高弱监督目标检测对于多物体检测的性能。
另外,本公开提供还可以根据得到的目标候选框的预测结果,为目标候选框配置相应的权重,从而可以调整神经网络对各候选框中的物体实例的学习,如将该置信度最高的目标候选框对应的物体实例当作一个负样本来进行学习,以达到抑制网络对于该物体实例的拟合,而其余目标候选框的物体实例的实例权重则会得到提升,提高神经网络的目标类型的目标对象的检测性能。本公开实施例的神经网络在多物体检测和物体定位问题上都得到了性能的提升,增强了弱监督目标检测的可用性。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
此外,本公开还提供了神经网络的优化装置、目标检测方法及装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种神经网络的优化方法或者目标检测方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图13示出根据本公开实施例的目标检测方法的流程图,其中目标检测方法可以包括:
S100:获取待检测图像;
在一些可能的实施方式中,该待检测图像可以为待执行目标类型的目标对象的检测的图像,该待检测图像可以为从存储器中读取的图像,或者也可以为从其他设备接收的图像,或者也可以为实时采集的图像,本公开对此不作具体限定。
在一些可能的实施方式中,也可以对待检测图像执行预处理,如图像增强处理,以提高图像的清晰度,方便后续检测。
S200:利用神经网络对待检测图像进行处理,得到待检测图像中与目标类型对应的目标对象的候选框的位置信息,以及候选框中的目标对象与目标类型相关的预测结果;其中,神经网络通过上述实施例的神经网络的优化方法生成的神经网络。
在一些可能的实施方式中,由于通过上述实施例的神经网络的优化方法生成的神经网络可以准确的检测出图像中目标类型的目标对象,因此,本公开实施例可以将待检测图像输入至优化后的神经网络执行目标类型的目标对象的检测,通过神经网络可以得到待检测对象中目标类型的目标对象的候选框的位置、候选框对应的置信度以及候选框中的目标对象是否属于目标类型的判断结果。例如可以按照坐标形式表示候选框的位置,以第一标签和第二标签分别表示属于目标类型的目标对象以及不属于目标类型的目标对象。
其中,在实际应用中,目标类型可以为人,或者也可以为其他类型,本公开对此不作具体限定,可以根据不同的需求进行设备。
另外,图14示出根据本公开实施例的神经网络的优化装置的框图,如图14所示,神经网络的优化装置可以包括:
检测模块10,其用于获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;
预测模块20,其根据第一图像、多个候选框的位置信息、以及神经网络,得到多个候选框在第一图像中对应的图像区域的图像特征,以及候选框中目标对象与目标类型相关的预测结果;
选择模块30,其用于基于多个候选框分别对应的图像特征和预测结果,从多个候选框中筛选出满足相似度条件的至少两个目标候选框,其中,相似度条件包括基于图像特征确定出的第一相似度条件和基于候选框的位置信息确定出的第二相似度条件中的至少一种;
优化模块40,其用于基于筛选出的至少两个目标候选框分别对应的预测结果,优化神经网络。
在一些可能的实施方式中,选择模块还用于基于多个候选框分别对应的预测结果,确定预测结果满足预设条件的第一候选框;
基于第一候选框对应的图像特征、多个候选框中除第一候选框之外的其它候选框的图像特征,从多个候选框中选择与第一候选框满足第一相似度条件的至少一个第二候选框;
基于第一候选框和至少一个第二候选框,确定多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,选择模块还用于将第一候选框和至少一个第二候选框确定为至少两个目标候选框。
在一些可能的实施方式中,选择模块还用于将第一候选框和至少一个第二候选框作为参考候选框,基于参考候选框的位置信息,从多个候选框中选择出满足与参考候选框满足的第二相似度条件的至少一个第三候选框;
将第一候选框以及至少一个第三候选框确定为至少两个目标候选框,或者,将第一候选框、至少一个第二候选框以及至少一个第三候选框确定为至少三个目标候选框。
在一些可能的实施方式中,选择模块还用于基于多个候选框分别对应的预测结果,确定多个候选框中满足预设条件的第一候选框;
基于第一候选框的位置信息,确定多个候选框中与第一候选框满足第二相似度条件的至少一个第四候选框;
基于第一候选框和至少一个第四候选框,确定多个候选框中满足相似度条件的至少两个目标候选框。
在一些可能的实施方式中,选择模块还用于将第一候选框和至少一个第四候选框确定为至少两个目标候选框。
在一些可能的实施方式中,选择模块还用于基于多个候选框分别对应的图像特征,从多个候选框中选择出与第一候选框满足第一相似度条件的至少一个第二候选框;
基于第一候选框、至少一个第四候选框以及至少一个第二候选框,确定至少两个目标候选框。
在一些可能的实施方式中,选择模块还用于将第一候选框、至少一个第四候选框以及至少一个第二候选框,确定为至少两个目标候选框。
在一些可能的实施方式中,选择模块还用于基于多个候选框的位置信息,确定多个候选框中与第二候选框满足第二相似度条件的至少一个第五候选框;
将第一候选框、至少一个第四候选框以及至少一个第五候选框确定为至少两个目标候选框,或者将第一候选框、至少一个第二候选框、至少一个第四候选框以及至少一个第五候选框,确定为至少两个目标候选框。
在一些可能的实施方式中,预测结果包括候选框中的目标对象属于目标类型的置信度;
选择模块还用于将多个候选框中的置信度最高的候选框确定为第一候选框。
在一些可能的实施方式中,选择模块还用于在多个候选框中的两个候选框的图像特征之间的相似度大于第一阈值的情况下,确定该两个候选框满足第一相似度条件;
或者,将多个候选框中与待比较的候选框的图像特征之间的相似度最高的预设数量的候选框,确定为与待比较的候选框满足第一相似度条件的候选框。
在一些可能的实施方式中,选择模块还用于基于多个候选框分别对应的位置信息,确定多个候选框分别对应的图像区域的面积;
在多个候选框中两个候选框对应的面积之间的交并比大于第二阈值的情况下,确定该两个候选框满足第二相似度条件
在一些可能的实施方式中,候选框对应的预测结果包括候选框中的目标对象属于目标类型的置信度,以及候选框中的目标对象是否为目标类型的判断结果。
在一些可能的实施方式中,优化模块还用于基于至少两个目标候选框分别对应的预测结果,调整至少两个目标候选框分别对应的权重;
基于至少两个目标候选框分别对应的预测结果,以及调整后的权重,确定网络损失;
基于网络损失调整神经网络的参数,直至满足优化条件。
在一些可能的实施方式中,优化模块还用于减小置信度最高的目标候选框的权重,并增加至少两个目标候选框中置信度最高的目标候选框以外的目标候选框的权重。
另外,图15示出根据本公开实施例的目标检测装置的框图,其中目标检测装置可以包括:
获取模块100,其用于获取待检测图像;
对象检测模块200,其用于利用神经网络对待检测图像进行处理,得到待检测图像中与目标类型对应的目标对象的候选框的位置信息,以及候选框中的目标对象与目标类型相关的预测结果;
其中,神经网络通过上述实施例中任意一项的神经网络的优化方法优化生成。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,处理器被配置为上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图16示出根据本公开实施例的电子设备的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图16,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图17示出根据本公开实施例的另一电子设备的框图。例如,电子设备1900可以被提供为一服务器。参照图17,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种神经网络的优化方法,所述神经网络用于目标检测,其特征在于,所述方法包括:
获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;
根据所述第一图像、所述多个候选框的位置信息、以及神经网络,得到所述多个候选框在所述第一图像中对应的图像区域的图像特征,以及所述候选框中所述目标对象与所述目标类型相关的预测结果;
基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,其中,所述相似度条件包括基于所述图像特征确定出的第一相似度条件和基于所述候选框的位置信息确定出的第二相似度条件中的至少一种;
基于筛选出的所述至少两个目标候选框分别对应的所述预测结果,优化所述神经网络。
2.根据权利要求1所述的方法,所述基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,包括:
基于所述多个候选框分别对应的预测结果,确定所述预测结果满足预设条件的第一候选框;
基于所述第一候选框对应的图像特征、所述多个候选框中除所述第一候选框之外的其它候选框的图像特征,从所述多个候选框中选择与所述第一候选框满足所述第一相似度条件的至少一个第二候选框;
基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框。
3.根据权利要求2所述的方法,其特征在于,所述基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框,包括:
将所述第一候选框和所述至少一个第二候选框确定为所述至少两个目标候选框。
4.根据权利要求2所述的方法,其特征在于,所述基于所述第一候选框和所述至少一个第二候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框,包括:
将所述第一候选框和所述至少一个第二候选框作为参考候选框,基于所述参考候选框的位置信息,从所述多个候选框中选择出满足与所述参考候选框满足所述的第二相似度条件的至少一个第三候选框;
将所述第一候选框以及所述至少一个第三候选框确定为所述至少两个目标候选框,或者,将所述第一候选框、所述至少一个第二候选框以及所述至少一个第三候选框确定为所述至少三个目标候选框。
5.根据权利要求1所述的方法,其特征在于,所述基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,包括:
基于所述多个候选框分别对应的预测结果,确定所述多个候选框中满足预设条件的第一候选框;
基于所述第一候选框的位置信息,确定所述多个候选框中与所述第一候选框满足第二相似度条件的至少一个第四候选框;
基于所述第一候选框和所述至少一个第四候选框,确定所述多个候选框中满足相似度条件的至少两个目标候选框。
6.一种目标检测方法,其特征在于,包括:
获取待检测图像;
利用神经网络对所述待检测图像进行处理,得到所述待检测图像中与目标类型对应的目标对象的候选框的位置信息,以及所述候选框中的目标对象与所述目标类型相关的预测结果;
其中,所述神经网络通过权利要求1-5中任意一项所述的方法优化生成。
7.一种神经网络的优化装置,其特征在于,包括:
检测模块,其用于获得第一图像中关于目标类型的目标对象的多个候选框的位置信息;
预测模块,其根据所述第一图像、所述多个候选框的位置信息、以及神经网络,得到所述多个候选框在所述第一图像中对应的图像区域的图像特征,以及所述候选框中所述目标对象与所述目标类型相关的预测结果;
选择模块,其用于基于所述多个候选框分别对应的所述图像特征和所述预测结果,从所述多个候选框中筛选出满足相似度条件的至少两个目标候选框,其中,所述相似度条件包括基于所述图像特征确定出的第一相似度条件和基于所述候选框的位置信息确定出的第二相似度条件中的至少一种;
优化模块,其用于基于筛选出的所述至少两个目标候选框分别对应的所述预测结果,优化所述神经网络。
8.一种目标检测装置,其特征在于,包括:
获取模块,其用于获取待检测图像;
检测模块,其用于利用神经网络对所述待检测图像进行处理,得到所述待检测图像中与目标类型对应的目标对象的候选框的位置信息,以及所述候选框中的目标对象与所述目标类型相关的预测结果;
其中,所述神经网络通过权利要求1-5中任意一项所述的方法优化生成。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为调用所述存储器存储的指令,以执行权利要求1至5中任意一项所述的方法,或者执行权利要求6所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至5中任意一项所述的方法,或者实现权利要求6所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910696271.8A CN110443366B (zh) | 2019-07-30 | 2019-07-30 | 神经网络的优化方法及装置、目标检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910696271.8A CN110443366B (zh) | 2019-07-30 | 2019-07-30 | 神经网络的优化方法及装置、目标检测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110443366A true CN110443366A (zh) | 2019-11-12 |
CN110443366B CN110443366B (zh) | 2022-08-30 |
Family
ID=68432320
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910696271.8A Active CN110443366B (zh) | 2019-07-30 | 2019-07-30 | 神经网络的优化方法及装置、目标检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110443366B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111275044A (zh) * | 2020-02-21 | 2020-06-12 | 西北工业大学 | 基于样本选择和自适应难例挖掘的弱监督目标检测方法 |
CN111444945A (zh) * | 2020-03-20 | 2020-07-24 | 北京每日优鲜电子商务有限公司 | 样本信息过滤方法、装置、计算机设备及存储介质 |
CN111539341A (zh) * | 2020-04-26 | 2020-08-14 | 香港中文大学(深圳) | 目标定位方法、装置、电子设备和介质 |
CN112288003A (zh) * | 2020-10-28 | 2021-01-29 | 北京奇艺世纪科技有限公司 | 一种神经网络训练、及目标检测方法和装置 |
WO2021098572A1 (zh) * | 2019-11-20 | 2021-05-27 | Oppo广东移动通信有限公司 | 图像处理方法、装置、设备及计算机可读存储介质 |
CN112949852A (zh) * | 2021-02-01 | 2021-06-11 | 北京三快在线科技有限公司 | 训练模型的方法、装置、电子设备及可读存储介质 |
CN114821233A (zh) * | 2022-04-26 | 2022-07-29 | 北京百度网讯科技有限公司 | 目标检测模型的训练方法及装置、设备和介质 |
TWI786623B (zh) * | 2020-11-27 | 2022-12-11 | 大陸商上海商湯智能科技有限公司 | 資訊處理方法、電子設備和電腦可讀儲存介質 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104217225A (zh) * | 2014-09-02 | 2014-12-17 | 中国科学院自动化研究所 | 一种视觉目标检测与标注方法 |
CN106934346A (zh) * | 2017-01-24 | 2017-07-07 | 北京大学 | 一种目标检测性能优化的方法 |
CN106960195A (zh) * | 2017-03-27 | 2017-07-18 | 深圳市丰巨泰科电子有限公司 | 一种基于深度学习的人群计数方法及装置 |
CN108038409A (zh) * | 2017-10-27 | 2018-05-15 | 江西高创保安服务技术有限公司 | 一种行人检测方法 |
CN108764292A (zh) * | 2018-04-27 | 2018-11-06 | 北京大学 | 基于弱监督信息的深度学习图像目标映射及定位方法 |
CN108805170A (zh) * | 2017-05-05 | 2018-11-13 | 达索系统公司 | 形成用于全监督式学习的数据集 |
CN108875577A (zh) * | 2018-05-11 | 2018-11-23 | 深圳市易成自动驾驶技术有限公司 | 目标检测方法、装置及计算机可读存储介质 |
CN108985135A (zh) * | 2017-06-02 | 2018-12-11 | 腾讯科技(深圳)有限公司 | 一种人脸检测器训练方法、装置及电子设备 |
US20190102646A1 (en) * | 2017-10-02 | 2019-04-04 | Xnor.ai Inc. | Image based object detection |
CN109670405A (zh) * | 2018-11-23 | 2019-04-23 | 华南理工大学 | 一种基于深度学习的复杂背景行人检测方法 |
CN109726739A (zh) * | 2018-12-04 | 2019-05-07 | 深圳大学 | 一种目标检测方法和系统 |
CN109741332A (zh) * | 2018-12-28 | 2019-05-10 | 天津大学 | 一种人机协同的图像分割与标注方法 |
CN109919045A (zh) * | 2019-02-18 | 2019-06-21 | 北京联合大学 | 基于级联卷积网络的小尺度行人检测识别方法 |
CN109977994A (zh) * | 2019-02-02 | 2019-07-05 | 浙江工业大学 | 一种基于多示例主动学习的代表性图像选取方法 |
-
2019
- 2019-07-30 CN CN201910696271.8A patent/CN110443366B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104217225A (zh) * | 2014-09-02 | 2014-12-17 | 中国科学院自动化研究所 | 一种视觉目标检测与标注方法 |
CN106934346A (zh) * | 2017-01-24 | 2017-07-07 | 北京大学 | 一种目标检测性能优化的方法 |
CN106960195A (zh) * | 2017-03-27 | 2017-07-18 | 深圳市丰巨泰科电子有限公司 | 一种基于深度学习的人群计数方法及装置 |
CN108805170A (zh) * | 2017-05-05 | 2018-11-13 | 达索系统公司 | 形成用于全监督式学习的数据集 |
CN108985135A (zh) * | 2017-06-02 | 2018-12-11 | 腾讯科技(深圳)有限公司 | 一种人脸检测器训练方法、装置及电子设备 |
US20190102646A1 (en) * | 2017-10-02 | 2019-04-04 | Xnor.ai Inc. | Image based object detection |
CN108038409A (zh) * | 2017-10-27 | 2018-05-15 | 江西高创保安服务技术有限公司 | 一种行人检测方法 |
CN108764292A (zh) * | 2018-04-27 | 2018-11-06 | 北京大学 | 基于弱监督信息的深度学习图像目标映射及定位方法 |
CN108875577A (zh) * | 2018-05-11 | 2018-11-23 | 深圳市易成自动驾驶技术有限公司 | 目标检测方法、装置及计算机可读存储介质 |
CN109670405A (zh) * | 2018-11-23 | 2019-04-23 | 华南理工大学 | 一种基于深度学习的复杂背景行人检测方法 |
CN109726739A (zh) * | 2018-12-04 | 2019-05-07 | 深圳大学 | 一种目标检测方法和系统 |
CN109741332A (zh) * | 2018-12-28 | 2019-05-10 | 天津大学 | 一种人机协同的图像分割与标注方法 |
CN109977994A (zh) * | 2019-02-02 | 2019-07-05 | 浙江工业大学 | 一种基于多示例主动学习的代表性图像选取方法 |
CN109919045A (zh) * | 2019-02-18 | 2019-06-21 | 北京联合大学 | 基于级联卷积网络的小尺度行人检测识别方法 |
Non-Patent Citations (3)
Title |
---|
ALA MHALLA 等: "Faster R-CNN Scene Specialization with a Sequential Monte-Carlo Framework", 《IEEE》 * |
ENVER SANGINETO 等: "Self Paced Deep Learning for Weakly Supervised Object Detection", 《ARXIV》 * |
李晓飞: "基于深度学习的行人及骑车人车载图像识别方法", 《中国优秀博士学位论文全文数据库 信息科技辑》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021098572A1 (zh) * | 2019-11-20 | 2021-05-27 | Oppo广东移动通信有限公司 | 图像处理方法、装置、设备及计算机可读存储介质 |
CN111275044A (zh) * | 2020-02-21 | 2020-06-12 | 西北工业大学 | 基于样本选择和自适应难例挖掘的弱监督目标检测方法 |
CN111444945A (zh) * | 2020-03-20 | 2020-07-24 | 北京每日优鲜电子商务有限公司 | 样本信息过滤方法、装置、计算机设备及存储介质 |
CN111539341A (zh) * | 2020-04-26 | 2020-08-14 | 香港中文大学(深圳) | 目标定位方法、装置、电子设备和介质 |
CN111539341B (zh) * | 2020-04-26 | 2023-09-22 | 香港中文大学(深圳) | 目标定位方法、装置、电子设备和介质 |
CN112288003A (zh) * | 2020-10-28 | 2021-01-29 | 北京奇艺世纪科技有限公司 | 一种神经网络训练、及目标检测方法和装置 |
TWI786623B (zh) * | 2020-11-27 | 2022-12-11 | 大陸商上海商湯智能科技有限公司 | 資訊處理方法、電子設備和電腦可讀儲存介質 |
CN112949852A (zh) * | 2021-02-01 | 2021-06-11 | 北京三快在线科技有限公司 | 训练模型的方法、装置、电子设备及可读存储介质 |
CN112949852B (zh) * | 2021-02-01 | 2022-02-15 | 北京三快在线科技有限公司 | 训练模型的方法、装置、电子设备及可读存储介质 |
CN114821233A (zh) * | 2022-04-26 | 2022-07-29 | 北京百度网讯科技有限公司 | 目标检测模型的训练方法及装置、设备和介质 |
CN114821233B (zh) * | 2022-04-26 | 2023-05-30 | 北京百度网讯科技有限公司 | 目标检测模型的训练方法及装置、设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110443366B (zh) | 2022-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110443366A (zh) | 神经网络的优化方法及装置、目标检测方法及装置 | |
CN108121952B (zh) | 人脸关键点定位方法、装置、设备及存储介质 | |
CN108256555B (zh) | 图像内容识别方法、装置及终端 | |
CN108664989B (zh) | 图像标签确定方法、装置及终端 | |
CN109829501A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109117862B (zh) | 图像标签识别方法、装置及服务器 | |
WO2023151289A1 (zh) | 情感识别方法、训练方法、装置、设备、存储介质及产品 | |
CN107798669A (zh) | 图像去雾方法、装置及计算机可读存储介质 | |
CN109815844A (zh) | 目标检测方法及装置、电子设备和存储介质 | |
CN106651955A (zh) | 图片中目标物的定位方法及装置 | |
CN109800737A (zh) | 面部识别方法及装置、电子设备和存储介质 | |
CN108520251A (zh) | 关键点检测方法及装置、电子设备和存储介质 | |
CN110009090A (zh) | 神经网络训练与图像处理方法及装置 | |
CN109871883A (zh) | 神经网络训练方法及装置、电子设备和存储介质 | |
CN106557759B (zh) | 一种标志牌信息获取方法及装置 | |
CN107145904A (zh) | 图像类别的确定方法、装置及存储介质 | |
CN107527053A (zh) | 目标检测方法及装置 | |
CN107563994A (zh) | 图像的显著性检测方法及装置 | |
CN109389162A (zh) | 样本图像筛选方法和装置、电子设备及存储介质 | |
CN109978891A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN107527024A (zh) | 人脸颜值评估方法及装置 | |
CN110532956A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN110378312A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN110019960A (zh) | 数据处理方法及装置、电子设备和存储介质 | |
CN109255784A (zh) | 图像处理方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |