CN113887458A - 一种训练方法、装置、计算机设备和存储介质 - Google Patents
一种训练方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN113887458A CN113887458A CN202111183684.XA CN202111183684A CN113887458A CN 113887458 A CN113887458 A CN 113887458A CN 202111183684 A CN202111183684 A CN 202111183684A CN 113887458 A CN113887458 A CN 113887458A
- Authority
- CN
- China
- Prior art keywords
- target
- prediction
- sample image
- class
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种训练方法、装置、计算机设备和存储介质,其中,该方法包括:获取多张样本图像;样本图像包括目标对象;针对每张样本图像,利用待训练的目标神经网络对样本图像进行处理,得到目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由目标神经网络中不同的预测分支输出;不同预测分支对应的初始网络参数不同;以及,基于多个类别预测信息,从多个预测分支中确定每张样本图像对应的目标预测分支;基于多张样本图像,以及多张样本图像中每张样本图像对应的目标预测分支,对目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
Description
技术领域
本公开涉及计算机视觉技术领域,具体而言,涉及一种训练方法、装置、计算机设备和存储介质。
背景技术
人脸识别在很多领域具有重要作用,比如门禁系统,考勤打卡等。然而,人脸识别模型的性能受到训练时所用的带标签数据的数量的制约,训练数据(比如样本图像)越多性能越好。一方面,获得带有准确标签的训练数据是很困难的,可以获得该准确标签的训练数据有限。另一方面,针对带有噪音标签的数据训练人脸识别模型,后期模型优化较为困难,导致模型性能下降,模型识别人脸精度较低。
发明内容
本公开实施例至少提供一种训练方法、装置、计算机设备和存储介质。
第一方面,本公开实施例提供了一种训练方法,包括:
获取多张样本图像;所述样本图像包括目标对象;
针对每张样本图像,利用待训练的目标神经网络对所述样本图像进行处理,得到所述目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由所述目标神经网络中不同的预测分支输出;不同所述预测分支对应的初始网络参数不同;以及,基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支;
基于所述多张样本图像,以及所述多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
本公开实施例不限定样本图像是否存在噪音,该方面利用不同初始网络参数对应的不同预设分支处理该样本图像,能够得到不同的类别预测信息,根据多个类别预测信息,可以从不同预设分支中选择处理结果准确度最高的预测分支,即目标预测分支。之后,利用该目标预测分支和可能存在噪音的样本图像对目标神经网络进行训练,能够克服噪音样本带来的影响,提高了目标神经网络的训练精度。
一种可选的实施方式中,所述基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支,包括:
针对任一样本图像,基于各预测分支输出的所述类别预测信息,确定所述任一样本图像对应于各预测分支的第一损失信息;
基于所述任一样本图像对应于各预测分支的第一损失信息,将最小损失对应的预测分支作为所述任一样本图像对应的目标预测分支。
该实施方式,由于第一损失信息能够表征目标神经网络对样本图像的拟合效果,即损失越小,拟合效果越好,目标神经网络对样本图像的预测结果的准确度越高。因此,利用损失最小的第一损失信息对应的预测分支,即目标预测分支,处理其对应的样本图像,能够为后续得到准确的目标损失信息,比如待训练的目标神经网络的损失函数,提供条件。
一种可选的实施方式中,所述基于多张样本图像,以及多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,包括:
针对多个所述目标预测分支中的每个所述目标预测分支,利用所述目标预测分支对应的至少一张所述样本图像对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
该实施方式,由于每个目标预测分支均为其对应的样本图像预测结果较为准确的预测分支,因此,利用样本图像训练,其对应的目标预测分支,以及待训练的目标神经网络中除多个预测分支以外的部分的过程中,能够得到较为准确的预测结果,进而利用该准确的预测结果,能够得到较为准确的待训练的目标神经网络对应的损失函数,利用该损失函数,更新待训练的目标神经网络的参数,能够提高带噪音的样本图像训练出的目标神经网络的性能。
一种可选的实施方式中,所述利用所述目标预测分支对应的至少一张所述样本图像对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练,包括:
利用所述目标预测分支,确定所述目标预测分支对应的至少一张所述样本图像中的每张所述样本图像对应的第二损失信息;
基于多个所述第二损失信息,确定所述待训练的目标神经网络的目标损失信息;
利用所述目标损失信息对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
该实施方式,由于目标预测分支预测样本图像的损失最小,因此利用目标预测分支处理其对应的样本图像,能够得到较为准确的预测结果,即第二损失信息,利用第二损失信息能够得到较为准确地确定待训练的目标神经网络对应的损失函数,利用该损失函数,更新待训练的目标神经网络的参数,能够提高带噪音的样本图像训练出的目标神经网络的性能。
一种可选的实施方式中,在得到训练完成的目标神经网络之后,还包括:
针对所述多张样本图像中的每张样本图像,基于所述样本图像中所述目标对象的对象类别,确定所述样本图像对应于每个所述预测分支的第一类中心,并从多个所述第一类中心中,筛选与所述目标对象的对象类别的匹配程度满足预设条件的类中心;其中,所述预测分支中的第一类中心用于表征预设对象类别;
针对每个所述预设对象类别,基于所述预设对象类别对应的多张样本图像中每张所述样本图像,以及与所述样本图像中所述目标对象的对象类别的匹配程度满足预设条件的类中心,确定所述预设对象类别对应的每个所述第一类中心被选中的次数,并将被选中次数最多的所述第一类中心作为所述预设对象类别对应的第二类中心;
基于多个所述预设对象类别中每个所述预设对象类别对应的所述第二类中心,从多张所述样本图像中剔除存在噪音的样本图像。
该实施方式,首先,从多个预测分支中选择一个与样本图像中目标对象的对象类别最为匹配的类中心,该类中心表征的预设对象类别与该目标对象的对象类别的相似度;之后,如果同一对象类别对应的多张样本图像,从多个预测分支中选择的某一类中心的次数最多,则可以将该类中心作为第二类中心,该第二类中心比从预测分支中选择的其它类中心更能准确表征目标对象的对象类别。因此,可以利用该第二类中心,从多张样本图像中筛选出存在噪音的样本图像,能够提高筛选出的样本图像存在噪音的准确度。
一种可选的实施方式中,所述从多个所述第一类中心中,筛选与所述目标对象的对象类别的匹配程度满足预设条件的类中心,包括:
提取所述样本图像的图像特征信息;
基于所述图像特征信息,确定所述样本图像与每个所述第一类中心之间的第一相似度;
将最大所述第一相似度对应的所述第一类中心作为与所述目标对象的对象类别的匹配程度满足预设条件的类中心。
该实施方式,图像特征信息能够准确表示样本图像的特征,利用该图像特征信息能够计算得到样本图像与每个第一类中心之间的第一相似度,可以认为选择的最大第一相似度对应的第一类中心对应的预设对象类别,与该样本图像中目标对象的对象类别最为匹配,因此,将该第一类中心作为与目标对象的对象类别的匹配程度满足预设条件的类中心,能够得到较为准确的表征该样本图像中目标对象的对象类别的类中心。
一种可选的实施方式中,针对多个所述第二类中心中的每个所述第二类中心,从所述预设对象类别对应的多张样本图像中剔除存在噪音的样本图像,包括:
针对多个所述第二类中心中的每个所述第二类中心,确定所述第二类中心对应的预设对象类别对应的多张样本图像中每张所述样本图像,与所述第二类中心之间的第二相似度;
从所述预设对象类别对应的多张样本图像中筛选出与所述第二类中心的第二相似度小于第一预设相似度的所述样本图像,并剔除。
该实施方式,由于第二类中心比从预测分支中选择的其它类中心更能准确表征目标对象的对象类别。因此,可以利用该第二类中心,从多张样本图像中筛选出与第二类中心的第二相似度小于第一预设相似度的样本图像,可认为样本图像为存在噪音的样本图像,由于第二类中心表征目标对象的对象类别的准确性高,因此,能够提高筛选出的样本图像确为存在噪音的准确度。
一种可选的实施方式中,在确定了所述第二类中心之后,还包括:
基于多个所述预设对象类别中每个所述预设对象类别对应的第二类中心,确定任两个所述第二类中心之间的第三相似度;
将所述第三相似度小于第二预设相似度的两个所述预设对象类别合并为一个目标对象类别。
该实施方式,由于第二类中心对应的预设对象类别存在噪音干扰,因此,为了消除干扰,可将第三像素点小于第二预设相似度的两个预设对象类别合并为一个目标对象类别。
一种可选的实施方式中,在所述得到训练完成的目标神经网络之后,还包括:
基于剔除存在噪音后的多张所述样本图像、合并后的所述目标对象类别和未进行合并处理的所述预设对象类别,重新训练所述训练完成的目标神经网络,得到最终的目标神经网络;其中,所述训练完成的目标神经网络中包括一个所述初始网络参数与所述预测分支对应的初始网络参数不同的其他预测分支。
该实施方式,利用已经除去噪音的多张样本图像和已经消除干扰的目标对象类别和不存在噪音干扰的预设对象类别,重新训练已经训练完成的目标神经网络,能够进一步提高训练出的目标神经网络的性能。
第二方面,本公开实施例还提供一种训练装置,包括:
图像获取模块,用于获取多张样本图像;所述样本图像包括目标对象;
信息确定模块,用于针对每张样本图像,利用待训练的目标神经网络对所述样本图像进行处理,得到所述目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由所述目标神经网络中不同的预测分支输出;不同所述预测分支对应的初始网络参数不同;以及,基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支;
网络训练模块,用于基于所述多张样本图像,以及所述多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
一种可选的实施方式中,所述信息确定模块,用于针对任一样本图像,基于各预测分支输出的所述类别预测信息,确定所述任一样本图像对应于各预测分支的第一损失信息;
基于所述任一样本图像对应于各预测分支的第一损失信息,将最小损失对应的预测分支作为所述任一样本图像对应的目标预测分支。
一种可选的实施方式中,所述网络训练模块,用于针对多个所述目标预测分支中的每个所述目标预测分支,利用所述目标预测分支对应的至少一张所述样本图像对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
一种可选的实施方式中,所述网络训练模块,用于利用所述目标预测分支,确定所述目标预测分支对应的至少一张所述样本图像中的每张所述样本图像对应的第二损失信息;
基于多个所述第二损失信息,确定所述待训练的目标神经网络的目标损失信息;
利用所述目标损失信息对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
一种可选的实施方式中,所述装置还包括数据清洗模块,用于在得到训练完成的目标神经网络之后,针对所述多张样本图像中的每张样本图像,基于所述样本图像中所述目标对象的对象类别,确定所述样本图像对应于每个所述预测分支的第一类中心,并从多个所述第一类中心中,筛选与所述目标对象的对象类别的匹配程度满足预设条件的类中心;其中,所述预测分支中的第一类中心用于表征预设对象类别;
针对每个所述预设对象类别,基于所述预设对象类别对应的多张样本图像中每张所述样本图像,以及与所述样本图像中所述目标对象的对象类别的匹配程度满足预设条件的类中心,确定所述预设对象类别对应的每个所述第一类中心被选中的次数,并将被选中次数最多的所述第一类中心作为所述预设对象类别对应的第二类中心;
基于多个所述预设对象类别中每个所述预设对象类别对应的所述第二类中心,从多张所述样本图像中剔除存在噪音的样本图像。
一种可选的实施方式中,所述数据清洗模块,用于提取所述样本图像的图像特征信息;
基于所述图像特征信息,确定所述样本图像与每个所述第一类中心之间的第一相似度;
将最大所述第一相似度对应的所述第一类中心作为与所述目标对象的对象类别的匹配程度满足预设条件的类中心。
一种可选的实施方式中,所述数据清洗模块,用于针对多个所述第二类中心中的每个所述第二类中心,确定所述第二类中心对应的预设对象类别对应的多张样本图像中每张所述样本图像,与所述第二类中心之间的第二相似度;
从所述预设对象类别对应的多张样本图像中筛选出与所述第二类中心的第二相似度小于第一预设相似度的所述样本图像,并剔除。
一种可选的实施方式中,所述数据清洗模块,还用于在确定了所述第二类中心之后,基于多个所述预设对象类别中每个所述预设对象类别对应的第二类中心,确定任两个所述第二类中心之间的第三相似度;
将所述第三相似度小于第二预设相似度的两个所述预设对象类别合并为一个目标对象类别。
一种可选的实施方式中,所述网络训练模块,还用于在所述得到训练完成的目标神经网络之后,基于剔除存在噪音后的多张所述样本图像、合并后的所述目标对象类别和未进行合并处理的所述预设对象类别,重新训练所述训练完成的目标神经网络,得到最终的目标神经网络;其中,所述训练完成的目标神经网络中包括一个所述初始网络参数与所述预测分支对应的初始网络参数不同的其他预测分支。
第三方面,本公开实施例还提供一种计算机设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的训练方法的步骤。
第四方面,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述第一方面,或第一方面中任一种可能的训练方法的步骤。
关于上述训练装置、计算机设备和存储介质的效果描述参见上述训练方法的说明,这里不再赘述。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种训练方法的流程图;
图2示出了本公开实施例所提供的待训练的目标神经网络对样本图像进行处理的流程示意图;
图3示出了本公开实施例所提供的剔除存在噪音的样本图像的具体流程图;
图4示出了本公开实施例所提供的一种训练装置的示意图;
图5示出了本公开实施例所提供的一种计算机设备的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
另外,本公开实施例中的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。
在本文中提及的“多个或者若干个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
经研究发现,人脸识别在很多领域具有重要作用,比如门禁系统,考勤打卡等。然而,人脸识别模型的性能受到训练时所用的带标签数据的数量的制约,训练数据(比如样本图像)越多性能越好。一方面,获得带有准确标签的训练数据是很困难的,可以获得该准确标签的训练数据有限。另一方面,针对带有噪音标签的数据训练人脸识别模型,后期模型优化较为困难,导致模型性能下降,模型识别人脸精度较低。
基于上述研究,本公开提供了一种训练方法,在样本图像为样本人脸图像(可能存在噪音)、目标神经网络为人脸识别神经网络的情况下,利用不同初始网络参数对应的不同预设分支处理样本人脸图像,能够得到不同的类别预测信息,根据多个类别预测信息,可以从不同预设分支中选择处理结果准确度最高的预测分支,即目标预测分支。之后,利用该目标预测分支和样本人脸图像对人脸识别神经网络进行训练,能够克服噪音样本带来的影响,提高了人脸识别神经网络的训练精度。
针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种训练方法进行详细介绍,本公开实施例所提供的训练方法的执行主体一般为具有一定计算能力的计算机设备。在一些可能的实现方式中,该训练方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
下面以执行主体为计算机设备为例对本公开实施例提供的训练方法加以说明。
参见图1所示,为本公开实施例提供的一种训练方法的流程图,所述方法包括步骤S101~S103,其中:
S101:获取多张样本图像;样本图像包括目标对象。
本步骤中,样本图像可以包括对待训练的目标神经网络进行训练的图像;多张样本图像可以为对待训练的目标神经网络一次迭代训练所要获取的多张图像。
训练任务的不同,所要选择的样本图像中所包含的目标对象不同。示例性的,若训练任务为人脸识别,则待训练的目标神经网络为人脸识别神经网络,此时,所要选择的样本图像中包括的目标对象为人脸;若训练任务为预设物体识别,则待训练的目标神经网络为预设物体识别神经网络,此时,所要选择的样本图像中包括的目标对象为预设物体。此处不再一一列举其他训练任务。
针对人脸识别神经网络,本公开实施例中,不限定所选择的样本图像是否存在噪音。这里,存在噪音的样本图像可以包括用于指示该样本图像的预设标签错误(比如预设标签与目标对象的真实对象类别不符),或者,存在异常画面的图像;比如,该样本图像中的人脸的真实对象类别为小A,此时,该样本图像的预设标签指示人脸为小B,因此,确定该样本图像的预设标签错误,进而确定该样本图像为存在噪音的图像。
或者,样本人脸图像不存在人脸或人脸模糊的图像,即为存在噪音的样本图像。不存在噪音的样本图像,包括预设标签即为人脸所对应的真实标签;或者,存在清晰的人脸画面。
示例性的,人脸识别神经网络可以包括resnet,densenet,mobilenet等。
S102:针对每张样本图像,利用待训练的目标神经网络对样本图像进行处理,得到目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由目标神经网络中不同的预测分支输出;不同预测分支对应的初始网络参数不同;以及,基于多个类别预测信息,从多个预测分支中确定每张样本图像对应的目标预测分支。
本步骤是针对多张样本图像中的每张样本图像进行分析,下面以确定其中一张样本图像对应的目标预测分支为例,对本步骤进行详细说明:
首先,可以利用待训练的目标神经网络对样本图像进行处理,其处理过程可以分为两部分(第一处理部分和第二处理部分),具体地,还可以将待训练的目标神经网络分为两部分神经网络,其中,第一部分神经网络可以包括除多个预测分支以外的部分,第二部分神经网络可以包括多个预测分支。参见图2所示,其为待训练的目标神经网络对样本图像进行处理的流程示意图;其中,包括待训练的目标神经网络20;待训练的目标神经网络20包括第一部分神经网络21和第二部分神经网络22;第二部分神经网络22包括多个预测分支221,预测分支221可以包括分类器,多个预测分支221,比如,包括分类器A,分类器B,分类器C,……,这里,每个预测分支对应的初始网络参数不同。在目标神经网络中部署多个分类器,具体部署个数可以根据实际应用过程以及经验值确定,本公开实施例不进行具体限定。
针对第一处理部分,具体地,可以利用第一部分神经网络21对样本图像进行处理,比如,利用待训练的第一部分神经网络21中的网络层捕获样本图像的抽象特征,并处理,得到样本图像的初始处理结果。
针对第二处理部分,具体地,可以将初始处理结果分别输入到第二部分神经网络22中的每个预测分支221,分别得到每个预测分支221输出的目标对象对应的类别预测信息。这里,预测分支可以包括分类器,该分类器用于在标记好的预设对象类别的基础上,判断一个新的样本图像中目标对象所属预设对象类别。这里,预设对象类别可以包括预先设置好的对象名字,比如小A,小B,小C,……。
每个预测分支包括的分类器中表征预设对象类别的信息(即第一类中心)相同,但是初始网络参数不同,即待训练的目标神经网络的初始化参数不同,因此,每个分类器对初始处理结果的目标处理结果可能会不同,即多个类别预测信息不同。其中,初始网络参数的设置可以根据经验值随机设置,本公开实施例不进行具体限定,随机初始化神经网络参数属于现有成熟技术,在此不再详细赘述。
这里,类别预测信息包括对样本图像中目标对象的对象类别的预测信息,具体的,可以包括预测出的目标对象的对象类别分别属于每个预设对象类别的概率。示例性的,在人脸识别中,目标对象的对象类别可以为预设标签,预设标签可以包括预设身份标识,比如,目标对象的名字,即小C。分类器中包括多个表征预设对象类别的类中心,比如,表征小A的第一类中心,表征小B的第一类中心,表征小C的第一类中心,……,表征小N的第一类中心。此时,类别预测信息可以包括目标对象分别为小A,小B,小C,……,小N的概率。
一个类别预设信息包括一组预测概率;多个类别预测信息包括多组预测概率。确定样本图像对应的目标预测分支,在一些实施例中,针对任一样本图像,基于各预测分支输出的所述类别预测信息,确定所述任一样本图像对应于各预测分支的第一损失信息;基于所述任一样本图像对应于各预测分支的第一损失信息,将最小损失对应的预测分支作为所述任一样本图像对应的目标预测分支。
这里,任一样本图像对应于某一预测分支的第一损失信息可以包括,某一预测分支+第一部分神经网络对该任一样本图像处理的损失。任一样本图像对应于各预测分支的第一损失信息包括,各预测分支分别+第一部分神经网络对该任一样本图像处理的损失,即得到任一样本图像对应的多个第一损失信息。
具体地,可以根据类别预测信息包括的一组预测概率,计算出包括输出该类别预测信息的预测分支+第一部分神经网络对样本图像处理的损失,比如人脸识别的损失;多个类别预测信息,计算出多个损失(一个损失对应一个预测分支),将最小损失对应的预测分支作为该任一样本图像对应的目标预测分支。
示例性的,参见图2所示,分类器A输出类别预测信息A,根据类别预测信息A,计算得到第一部分神经网络+分类器A的损失A;分类器B输出类别预测信息B,根据类别预测信息B,计算得到第一部分神经网络+分类器B的损失B;分类器C输出类别预测信息C,根据类别预测信息C,计算得到第一部分神经网络+分类器C的损失C;之后,确定损失A、损失B和损失C中的最小值,将最小损失A对应的分类器A作为样本图像对应的目标分类器,即目标预测分支。
这里,由于第一损失信息能够表征目标神经网络对样本图像的拟合效果;损失越小,拟合效果越好,目标神经网络对样本图像的预测结果的准确度越高。因此,利用损失最小的第一损失信息对应的预测分支,即目标预测分支,处理其对应的样本图像,能够为后续得到准确的目标损失信息,比如待训练的目标神经网络的损失函数,提供条件。
S103:基于多张样本图像,以及多张样本图像中每张样本图像对应的目标预测分支,对目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
具体实施时,在确定了多张样本图像,以及多张样本图像中每张样本图像对应的目标预测分支的情况下,可以使用传统的模型训练方法,进行前向和反向传播,并计算反向传播网络层的梯度,从而更新待训练的目标神经网络的参数。前向传播:多张样本图像输入待训练的目标神经网络,分别利用每张样本图像对应的目标预测分支输出的类别预测信息计算损失,其中损失函数的选择没有限制,可以选用任意损失函数形式,比如ArcFace,AMSoftmax等;反向传播并计算反向传播网络层的梯度:利用损失函数反向计算神经网络中网络层对应的梯度,从而更新待训练的目标神经网络的参数。
下面针对一次迭代中包含的多张样本图像进行分析,具体的,根据S102中确定的每张样本图像对应的目标预测分支,在一些实施例中,在不考虑S102中计算得到的损失占用内存的情况下,可以直接调用计算好的目标预测分支对应的损失,也即样本图像对应的损失,根据多张样本图像对应的损失,确定待训练的目标神经网络的损失函数,利用损失函数更新待训练的目标神经网络的参数,完成对目标神经网络的一次迭代训练。
在另一些实施例中,在考虑S102中计算得到的多个其他预测分支(不包括目标预测分支)损失占用内存的情况下,在确定目标预测分支之后,将其对应的损失删除,此时,对目标神经网络进行训练,需要重新计算每个目标预测分支对应的损失,也即样本图像对应的损失,可以参照S102中确定过程,重复部分在此不再赘述。之后,根据多张样本图像的损失,确定待训练的目标神经网络的损失函数,利用损失函数更新待训练的目标神经网络的参数,完成对目标神经网络的一次迭代训练。
之后,按照上述一次迭代过程进行多次迭代,直到待训练的目标神经网络满足预设训练截止条件,得到训练完成的目标神经网络为止。
本公开实施例不限定样本图像是否存在噪音,上述S101~S102利用不同初始网络参数对应的不同预设分支处理样本图像,能够得到不同的类别预测信息,根据多个类别预测信息,可以从不同预设分支中选择处理结果准确度最高的预测分支,即目标预测分支。之后,利用该目标预测分支和可能存在噪音的样本图像对目标神经网络进行训练,能够克服噪音样本带来的影响,提高了目标神经网络的训练精度。
在一些实施例中,针对多个目标预测分支中的每个目标预测分支,可以利用目标预测分支对应的至少一张样本图像,对目标神经网络中除多个预测分支以外的部分以及目标预测分支进行训练。
这里,目标神经网络中除多个预测分支以外的部分,即为第一部分神经网络21。
具体实施时,利用目标预测分支,确定目标预测分支对应的至少一张样本图像中的每张样本图像对应的第二损失信息;基于多个第二损失信息,确定待训练的目标神经网络的目标损失信息;利用目标损失信息对目标神经网络中除多个预测分支以外的部分以及目标预测分支进行训练。
示例性的,目标预测分支对应多张样本图像,比如三张样本图像,计算得到每张样本图像对应的损失,直接用该三个损失计算得到损失函数,比如,损失函数为三个损失之和或者三个损失的平均损失;之后,可以直接利用计算得到的损失函数,反向传播并计算反向传播网络层的梯度,从而更新待训练的目标神经网络(包括第一部分神经网络21和目标预测分支)的参数。
或者,还可以利用多个目标预测分支,确定多个目标预测分支对应的多组样本图像,针对多组样本图像中的每张样本图像,确定每张样本图像对应的第三损失信息;基于多个第三损失信息,确定待训练的目标神将网络的目标损失信息;利用目标损失信息对目标神经网络进行训练。
示例性的,在上一示例中,确定了一个目标预测分支对应的多个损失,即多个第二损失信息;在此基础上,可以确定多个目标预测分支对应的多组损失,即多组第三损失信息。利用多组第三损失信息确定待训练的目标神将网络的目标损失信息,具体的,多个目标预测分支对应多组样本图像,计算多组样本图像中每张样本图像对应的损失,并利用多个损失计算损失函数,损失函数可以为多个损失之和或者多个损失对应的平均损失;之后,利用计算得到的损失函数,反向传播并计算反向传播网络层的梯度,从而更新待训练的目标神经网络(包括第一部分神经网络21和第二部分神经网络22)的参数。
这里,由于目标预测分支预测样本图像的损失最小,因此每个目标预测分支均为其对应的样本图像预测结果较为准确的预测分支,目标预测分支处理其对应的样本图像,够得到较为准确的预测结果,即第二损失信息,进而利用该准确的预测结果,能够得到较为准确的待训练的目标神经网络对应的损失函数,利用该损失函数,更新待训练的目标神经网络的参数,能够提高带噪音的样本图像训练出的目标神经网络的性能。
在得到训练完成的目标神经网络之后,还可以对样本图像进行进一步清洗,清洗方式可以包括剔除存在噪音的样本图像,和/或,将同属于同一类别的预设对象类别合并。
在一些实施例中,参见图3所示,其为剔除存在噪音的样本图像的具体流程图;包括S301~S303,其中:
S301:针对多张样本图像中的每张样本图像,基于样本图像中目标对象的对象类别,确定样本图像对应于每个预测分支的第一类中心,并从多个第一类中心中,筛选与目标对象的对象类别的匹配程度满足预设条件的类中心;其中,预测分支中的第一类中心用于表征预设对象类别。
本步骤中,分类器中包括多个第一类中心,不同第一类中心表征不同预设对象类别。
示例性的,如图2所示,确定样本图像对应于分类器A的第一类中心A,对应于分类器B的第一类中心B,对应于分类器C的第一类中心C,……;具体的,根据该样本图像,确定样本图像中目标对象的对象类别;根据该目标对象的对象类别,在每个分类器中分别选择与该目标对象的对象类别相同的预设对象类别对应的第一类中心,即第一类中心A,第一类中心B,第一类中心C,……。
判断匹配程度是否满足预设条件的方式可以包括:计算样本图像与每个第一类中心之间的第一相似度,针对多个第一相似度,满足预设条件包括最大相似度。这里,第一相似度能够表示样本图像中目标对象的对象类别与第一类中心对应的预设对象类别之间的相似度,相似度越高,样本图像中目标对象的对象类别与第一类中心对应的预设对象类别越匹配,即匹配程度越高。
确定第一相似度的方式,具体的,可以利用训练完成的目标神经网络提取该样本图像的图像特征信息,这里,图像特征信息可以包括样本图像的特征向量P1;对于每个第一类中心,确定第一类中心的向量P2,计算特征向量P1与向量P2之间的余弦距离,根据余弦距离,确定第一相似度。比如,将余弦距离的倒数作为第一相似度。
之后,确定样本图像与每个第一类中心之间的第一相似度;可以将最大第一相似度对应的第一类中心作为与目标对象的对象类别的匹配程度满足预设条件的类中心。
这里,图像特征信息能够准确表示样本图像的特征,利用该图像特征信息能够计算得到样本图像与每个第一类中心之间的第一相似度,可以认为选择的最大第一相似度对应的第一类中心对应的预设对象类别,与该样本图像中目标对象的对象类别最为匹配,因此,将该第一类中心作为与目标对象的对象类别的匹配程度满足预设条件的类中心,能够得到较为准确的表征该样本图像中目标对象的对象类别的类中心。
S302:针对每个预设对象类别,基于预设对象类别对应的多张样本图像中每张样本图像,以及与样本图像中目标对象的对象类别的匹配程度满足预设条件的类中心,确定预设对象类别对应的每个第一类中心被选中的次数,并将被选中次数最多的第一类中心作为预设对象类别对应的第二类中心。
针对每个预设对象类别,下面以一个预设对象类别为例进行详细说明。
示例性的,已知预设对象类别为小A,三个分类器,此时,包括三个表征预设对象类别为小A的第一类中心,分别记为第一类中心A1、第一类中心A2和第一类中心A3。小A对应有十张样本图像,其中,有六张样本图像选择第一类中心A2,三张样本图像选择第一类中心A1,一张样本图像选择第一类中心A3。这里选择的第一类中心,即为S301中从多个第一类中心中,筛选与目标对象的对象类别的匹配程度满足预设条件的类中心。
确定预设对象类别对应的每个第一类中心被选中的次数,延续上例,确定预设对象类别为小A对应的第一类中心A1被选中3次,第一类中心A2被选中6次,第一类中心A3被选中1次。此时,将被选中次数最多的第一类中心A2作为预设对象类别对应的第二类中心。此时,第二类中心表征的预设对象类别,可以认为是
之后,按照上述确定第二类中心的方式,确定每个预设对象类别对应的第二类中心。
S303:基于多个预设对象类别中每个预设对象类别对应的第二类中心,从多张样本图像中剔除存在噪音的样本图像。
这里,确定了多个第二类中心,下面以一个第二类中心为例,确定从该第二类中心对应的多张样本图像中剔除存在噪音的样本图像,这里的多张样本图像,比如第一类中心A2对应的那六张样本图像。
具体实施时,针对多个第二类中心中的每个第二类中心,确定第二类中心对应的预设对象类别对应的多张样本图像中每张样本图像,与第二类中心之间的第二相似度;从预设对象类别对应的多张样本图像中筛选出与第二类中心的第二相似度小于第一预设相似度的样本图像,并剔除。
针对第二类中心对应的预设对象类别对应的多张样本图像中每张样本图像,延续上例,第二类中心对应的预设对象类别,即为第一类中心A2对应的预设对象类别(小A),该预设对象类别(小A)对应的多张样本图像,即为第一类中心A2对应的那六张样本图像。针对其中一张样本图像,确定其与第二类中心之间的第二相似度。这里,第二相似度能够表示该样本图像中目标对象的对象类别与第二类中心对应的预设对象类别之间的相似度。
确定第二相似度的具体过程:首先,获取样本图像的图像特征信息,确定样本图像的特征向量P3;之后,计算样本图像的特征向量P3和第二类中心的向量P4之间的余弦距离,并根据余弦距离,确定第二相似度。如果第二相似度小于第一预设相似度,则确定该样本图像存在噪音,将其剔除。这里,第一预设相似度可以是根据经验值确定出的,存在噪音的样本图像与其对应的第二类中心之间的向最大相似度,和未存在噪音的样本图像与其对应的第二类中心之间的最小相似度之间的预设相似度,这里,最大相似度小于或等于最小相似度。该第一预设相似度可用于判断样本图像的预设标签是否存在错误的情况,若第二相似度小于第一预设相似度,则样本图像的预设标签错误,样本图像存在噪音;若第二相似度大于或等于第一预设相似度,则样本图像的预设标签正确,样本图像不存在噪音。
之后,针对每张样本图像,重复上述方法,能够将训练目标神经网络的样本图像清洗完成,此时只需要保留未存在噪音的样本图像即可。
这里,由于第二类中心比从预测分支中选择的其它类中心更能准确表征目标对象的对象类别。因此,可以利用该第二类中心,从多张样本图像中筛选出与第二类中心的第二相似度小于第一预设相似度的样本图像,可认为样本图像为存在噪音的样本图像,由于第二类中心表征目标对象的对象类别的准确性高,因此,能够提高筛选出的样本图像确为存在噪音的准确度。
在一个实施例中,还可以在确定了第二类中心之后,由于第二类中心对应的预设对象类别存在噪音干扰,比如预设对象类别存在表示同一类别的情况,因此,为了消除干扰,可将属于同一类别的预设对象类别合并。
具体地,可以基于多个预设对象类别中每个预设对象类别对应的第二类中心,确定任两个第二类中心之间的第三相似度;之后,将第三相似度小于第二预设相似度的两个预设对象类别合并为一个目标对象类别。
这里,第三相似度能够表示任两个第二类中心对应的预设对象类别之间的相似度,具体确定过程,确定一个第二类中心的向量P5,另一个第二类中心的向量P6,计算向量P5和向量P6之间的余弦距离,根据余弦距离,确定第三相似度。如果第三相似度小于第二预设相似度,则确定其分别对应的两个预设对象类别表示同一类别,可以将其合并为一个目标对象类别;该目标对象类别可以是上述两个预设对象类别中的其中一种,或者是新标注的预设标签。这里,第二预设相似度可用于判断任意两个预设对象类别是否存在表示同一类别的情况,第二预设相似度可以是根据经验值确定出的,表示同一预设对象类别的两个第二类中心之间的最小相似度,和不为同一预设对象类别的两个第二类中心之间的最大相似度之间的预设相似度,这里,最大相似度小于或等于最小相似度。
在一些实施例中,在对样本图像进行清洗之后,还可以利用清洗后的剩余的多张样本图像重新训练S103中训练完成的目标神经网络,得到最终的目标神经网络。能够在S103中训练完成的目标神经网络的性能的基础上,进一步提高该目标神经网络的性能。
具体实施时,可以基于剔除存在噪音后的多张样本图像、合并后的目标对象类别和未进行合并处理的预设对象类别,重新训练已经训练完成的目标神经网络,得到最终的目标神经网络。
其中,训练完成的目标神经网络中可以包括一个初始网络参数与预测分支对应的初始网络参数不同的其他预测分支。这里,其他预测分支对应的初始网络参数,可以是在重新训练已经训练完成的目标神经网络之前,对训练完成的目标神经网络随机初始化后得到的分类器对应的网络参数。
这里,基于剔除存在噪音后的多张样本图像、合并后的目标对象类别和未进行合并处理的预设对象类别,能够得到较为干净的数据集,即不存在噪音干扰,将该数据集输入S103中已经训练完成的目标神经网络,按照传统的训练方法或者本公开实施例提供的训练方法进行训练,能够得到相比于上述训练完成的目标神经网络的性能更高的、最终的目标神经网络。当然,这些剔除存在噪音后的多张样本图像、合并后的目标对象类别和未进行合并处理的预设对象类别,也可以用于训练其它的神经网络,进而提高训练的效果。
利用本公开实施例的提供的网络训练方法以及数据清洗后在训练的方法,训练人脸识别神经网络,能够得到较高性能的人脸识别神经网络,得到较高精度的人脸识别结果。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,本公开实施例中还提供了与训练方法对应的训练装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述训练方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
参照图4所示,为本公开实施例提供的一种训练装置的示意图,所述装置包括:图像获取模块401、信息确定模块402和网络训练模块403;其中,
图像获取模块401,用于获取多张样本图像;所述样本图像包括目标对象;
信息确定模块402,用于针对每张样本图像,利用待训练的目标神经网络对所述样本图像进行处理,得到所述目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由所述目标神经网络中不同的预测分支输出;不同所述预测分支对应的初始网络参数不同;以及,基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支;
网络训练模块403,用于基于所述多张样本图像,以及所述多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
一种可选的实施方式中,所述信息确定模块402,用于针对任一样本图像,基于各预测分支输出的所述类别预测信息,确定所述任一样本图像对应于各预测分支的第一损失信息;
基于所述任一样本图像对应于各预测分支的第一损失信息,将最小损失对应的预测分支作为所述任一样本图像对应的目标预测分支。
一种可选的实施方式中,所述网络训练模块403,用于针对多个所述目标预测分支中的每个所述目标预测分支,利用所述目标预测分支对应的至少一张所述样本图像对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
一种可选的实施方式中,所述网络训练模块403,用于利用所述目标预测分支,确定所述目标预测分支对应的至少一张所述样本图像中的每张所述样本图像对应的第二损失信息;
基于多个所述第二损失信息,确定所述待训练的目标神经网络的目标损失信息;
利用所述目标损失信息对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
一种可选的实施方式中,所述装置还包括数据清洗模块404,用于在得到训练完成的目标神经网络之后,针对所述多张样本图像中的每张样本图像,基于所述样本图像中所述目标对象的对象类别,确定所述样本图像对应于每个所述预测分支的第一类中心,并从多个所述第一类中心中,筛选与所述目标对象的对象类别的匹配程度满足预设条件的类中心;其中,所述预测分支中的第一类中心用于表征预设对象类别;
针对每个所述预设对象类别,基于所述预设对象类别对应的多张样本图像中每张所述样本图像,以及与所述样本图像中所述目标对象的对象类别的匹配程度满足预设条件的类中心,确定所述预设对象类别对应的每个所述第一类中心被选中的次数,并将被选中次数最多的所述第一类中心作为所述预设对象类别对应的第二类中心;
基于多个所述预设对象类别中每个所述预设对象类别对应的所述第二类中心,从多张所述样本图像中剔除存在噪音的样本图像。
一种可选的实施方式中,所述数据清洗模块404,用于提取所述样本图像的图像特征信息;
基于所述图像特征信息,确定所述样本图像与每个所述第一类中心之间的第一相似度;
将最大所述第一相似度对应的所述第一类中心作为与所述目标对象的对象类别的匹配程度满足预设条件的类中心。
一种可选的实施方式中,所述数据清洗模块404,用于针对多个所述第二类中心中的每个所述第二类中心,确定所述第二类中心对应的预设对象类别对应的多张样本图像中每张所述样本图像,与所述第二类中心之间的第二相似度;
从所述预设对象类别对应的多张样本图像中筛选出与所述第二类中心的第二相似度小于第一预设相似度的所述样本图像,并剔除。
一种可选的实施方式中,所述数据清洗模块404,还用于在确定了所述第二类中心之后,基于多个所述预设对象类别中每个所述预设对象类别对应的第二类中心,确定任两个所述第二类中心之间的第三相似度;
将所述第三相似度小于第二预设相似度的两个所述预设对象类别合并为一个目标对象类别。
一种可选的实施方式中,所述网络训练模块403,还用于在所述得到训练完成的目标神经网络之后,基于剔除存在噪音后的多张所述样本图像、合并后的所述目标对象类别和未进行合并处理的所述预设对象类别,重新训练所述训练完成的目标神经网络,得到最终的目标神经网络;其中,所述训练完成的目标神经网络中包括一个所述初始网络参数与所述预测分支对应的初始网络参数不同的其他预测分支。
关于训练装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述训练方法实施例中的相关说明,这里不再详述。
基于同一技术构思,本申请实施例还提供了一种计算机设备。参照图5所示,为本申请实施例提供的计算机设备的结构示意图,包括:
处理器51、存储器52和总线53。其中,存储器52存储有处理器51可执行的机器可读指令,处理器51用于执行存储器52中存储的机器可读指令,所述机器可读指令被处理器51执行时,处理器51执行下述步骤:S101:获取多张样本图像;样本图像包括目标对象;S102:针对每张样本图像,利用待训练的目标神经网络对样本图像进行处理,得到目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由目标神经网络中不同的预测分支输出;不同预测分支对应的初始网络参数不同;以及,基于多个类别预测信息,从多个预测分支中确定每张样本图像对应的目标预测分支;S103:基于多张样本图像,以及多张样本图像中每张样本图像对应的目标预测分支,对目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
上述存储器52包括内存521和外部存储器522;这里的内存521也称内存储器,用于暂时存放处理器51中的运算数据,以及与硬盘等外部存储器522交换的数据,处理器51通过内存521与外部存储器522进行数据交换,当计算机设备运行时,处理器51与存储器52之间通过总线53通信,使得处理器51在执行上述方法实施例中所提及的执行指令。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的训练方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例还提供一种计算机程序产品,包括计算机指令,所述计算机指令被处理器执行时实现上述的训练方法的步骤。其中,计算机程序产品可以是任何能实现上述训练方法的产品,该计算机程序产品中对现有技术做出贡献的部分或全部方案可以以软件产品(例如软件开发包(Software Development Kit,SDK))的形式体现,该软件产品可以被存储在一个存储介质中,通过包含的计算机指令使得相关设备或处理器执行上述训练方法的部分或全部步骤。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个模块或组件可以结合,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。
Claims (12)
1.一种训练方法,其特征在于,包括:
获取多张样本图像;所述样本图像包括目标对象;
针对每张样本图像,利用待训练的目标神经网络对所述样本图像进行处理,得到所述目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由所述目标神经网络中不同的预测分支输出;不同所述预测分支对应的初始网络参数不同;以及,基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支;
基于所述多张样本图像,以及所述多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
2.根据权利要求1所述的方法,其特征在于,所述基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支,包括:
针对任一样本图像,基于各预测分支输出的所述类别预测信息,确定所述任一样本图像对应于各预测分支的第一损失信息;
基于所述任一样本图像对应于各预测分支的第一损失信息,将最小损失对应的预测分支作为所述任一样本图像对应的目标预测分支。
3.根据权利要求1或2所述的方法,其特征在于,所述基于多张样本图像,以及多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,包括:
针对多个所述目标预测分支中的每个所述目标预测分支,利用所述目标预测分支对应的至少一张所述样本图像对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
4.根据权利要求3所述的方法,其特征在于,所述利用所述目标预测分支对应的至少一张所述样本图像对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练,包括:
利用所述目标预测分支,确定所述目标预测分支对应的至少一张所述样本图像中的每张所述样本图像对应的第二损失信息;
基于多个所述第二损失信息,确定所述待训练的目标神经网络的目标损失信息;
利用所述目标损失信息对所述目标神经网络中除多个所述预测分支以外的部分以及所述目标预测分支进行训练。
5.根据权利要求1至4任一项所述的方法,其特征在于,在得到训练完成的目标神经网络之后,还包括:
针对所述多张样本图像中的每张样本图像,基于所述样本图像中所述目标对象的对象类别,确定所述样本图像对应于每个所述预测分支的第一类中心,并从多个所述第一类中心中,筛选与所述目标对象的对象类别的匹配程度满足预设条件的类中心;其中,所述预测分支中的第一类中心用于表征预设对象类别;
针对每个所述预设对象类别,基于所述预设对象类别对应的多张样本图像中每张所述样本图像,以及与所述样本图像中所述目标对象的对象类别的匹配程度满足预设条件的类中心,确定所述预设对象类别对应的每个所述第一类中心被选中的次数,并将被选中次数最多的所述第一类中心作为所述预设对象类别对应的第二类中心;
基于多个所述预设对象类别中每个所述预设对象类别对应的所述第二类中心,从多张所述样本图像中剔除存在噪音的样本图像。
6.根据权利要求5所述的方法,其特征在于,所述从多个所述第一类中心中,筛选与所述目标对象的对象类别的匹配程度满足预设条件的类中心,包括:
提取所述样本图像的图像特征信息;
基于所述图像特征信息,确定所述样本图像与每个所述第一类中心之间的第一相似度;
将最大所述第一相似度对应的所述第一类中心作为与所述目标对象的对象类别的匹配程度满足预设条件的类中心。
7.根据权利要求5所述的方法,其特征在于,针对多个所述第二类中心中的每个所述第二类中心,从所述预设对象类别对应的多张样本图像中剔除存在噪音的样本图像,包括:
针对多个所述第二类中心中的每个所述第二类中心,确定所述第二类中心对应的预设对象类别对应的多张样本图像中每张所述样本图像,与所述第二类中心之间的第二相似度;
从所述预设对象类别对应的多张样本图像中筛选出与所述第二类中心的第二相似度小于第一预设相似度的所述样本图像,并剔除。
8.根据权利要求5至7任一项所述的方法,其特征在于,在确定了所述第二类中心之后,还包括:
基于多个所述预设对象类别中每个所述预设对象类别对应的第二类中心,确定任两个所述第二类中心之间的第三相似度;
将所述第三相似度小于第二预设相似度的两个所述预设对象类别合并为一个目标对象类别。
9.根据权利要求8所述的方法,其特征在于,在所述得到训练完成的目标神经网络之后,还包括:
基于剔除存在噪音后的多张所述样本图像、合并后的所述目标对象类别和未进行合并处理的所述预设对象类别,重新训练所述训练完成的目标神经网络,得到最终的目标神经网络;其中,所述训练完成的目标神经网络中包括一个所述初始网络参数与所述预测分支对应的初始网络参数不同的其他预测分支。
10.一种训练装置,其特征在于,包括:
图像获取模块,用于获取多张样本图像;所述样本图像包括目标对象;
信息确定模块,用于针对每张样本图像,利用待训练的目标神经网络对所述样本图像进行处理,得到所述目标对象对应的多个类别预测信息;其中,不同的类别预测信息分别由所述目标神经网络中不同的预测分支输出;不同所述预测分支对应的初始网络参数不同;以及,基于所述多个类别预测信息,从多个所述预测分支中确定每张样本图像对应的目标预测分支;
网络训练模块,用于基于所述多张样本图像,以及所述多张样本图像中每张样本图像对应的目标预测分支,对所述目标神经网络进行训练,直到满足预设训练截止条件,得到训练完成的目标神经网络。
11.一种计算机设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至9任一项所述的训练方法的步骤。
12.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至9任一项所述的训练方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111183684.XA CN113887458A (zh) | 2021-10-11 | 2021-10-11 | 一种训练方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111183684.XA CN113887458A (zh) | 2021-10-11 | 2021-10-11 | 一种训练方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113887458A true CN113887458A (zh) | 2022-01-04 |
Family
ID=79006098
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111183684.XA Pending CN113887458A (zh) | 2021-10-11 | 2021-10-11 | 一种训练方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113887458A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116596933A (zh) * | 2023-07-18 | 2023-08-15 | 深圳赛陆医疗科技有限公司 | 碱基簇检测方法及装置、基因测序仪及存储介质 |
-
2021
- 2021-10-11 CN CN202111183684.XA patent/CN113887458A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116596933A (zh) * | 2023-07-18 | 2023-08-15 | 深圳赛陆医疗科技有限公司 | 碱基簇检测方法及装置、基因测序仪及存储介质 |
CN116596933B (zh) * | 2023-07-18 | 2023-09-29 | 深圳赛陆医疗科技有限公司 | 碱基簇检测方法及装置、基因测序仪及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108319938A (zh) | 用于高性能人脸识别系统的高质量训练数据准备系统 | |
CN111858869B (zh) | 一种数据匹配方法、装置、电子设备和存储介质 | |
US10963685B2 (en) | Generating variations of a known shred | |
CN110163876A (zh) | 基于多特征融合的左心室分割方法、系统、设备及介质 | |
CN111539480B (zh) | 多类别医学图像识别方法及设备 | |
CN113378940B (zh) | 神经网络训练方法、装置、计算机设备及存储介质 | |
CN113313053B (zh) | 图像处理方法、装置、设备、介质及程序产品 | |
CN111462086A (zh) | 图像分割方法及装置、神经网络模型的训练方法及装置 | |
CN111461164B (zh) | 样本数据集的扩容方法及模型的训练方法 | |
CN109685805B (zh) | 一种图像分割方法及装置 | |
CN110809768B (zh) | 数据清洗系统和方法 | |
CN112017162B (zh) | 病理图像处理方法、装置、存储介质和处理器 | |
CN111506755A (zh) | 图片集的分类方法和装置 | |
CN111694954B (zh) | 图像分类方法、装置和电子设备 | |
CN114266894A (zh) | 一种图像分割方法、装置、电子设备及存储介质 | |
CN112651364A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN108197660A (zh) | 多模型特征融合方法/系统、计算机可读存储介质及设备 | |
CN113887458A (zh) | 一种训练方法、装置、计算机设备和存储介质 | |
CN112200862B (zh) | 目标检测模型的训练方法、目标检测方法及装置 | |
CN108805181B (zh) | 一种基于多分类模型的图像分类装置及分类方法 | |
CN112257689A (zh) | 人脸识别模型的训练和识别方法、存储介质及相关设备 | |
CN110929731B (zh) | 一种基于探路者智能搜索算法的医疗影像处理方法及装置 | |
CN111626313A (zh) | 一种特征提取模型训练方法、图像处理方法及装置 | |
CN115482571A (zh) | 一种适用于遮挡情况的人脸识别方法、装置及存储介质 | |
CN113705459A (zh) | 人脸抓拍方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |