CN108960283A - 分类任务增量处理方法及装置、电子设备和存储介质 - Google Patents
分类任务增量处理方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN108960283A CN108960283A CN201810540204.2A CN201810540204A CN108960283A CN 108960283 A CN108960283 A CN 108960283A CN 201810540204 A CN201810540204 A CN 201810540204A CN 108960283 A CN108960283 A CN 108960283A
- Authority
- CN
- China
- Prior art keywords
- task
- data sample
- task model
- loss function
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开涉及一种分类任务增量处理方法及装置、电子设备和存储介质。其中所述方法包括:利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,所述第三任务包括第一任务和/或第二任务。本公开实施例可以在不需要使用全部数据样本的情况下,实现分类任务的增量处理。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及一种分类任务增量处理方法及装置、电子设备和存储介质。
背景技术
目前,增量学习是深度学习相关技术实际部署在大数据场景时需要应对的重要挑战。其中,多任务分类模型的目标是使用单一模型增量式地完成多个分类任务的学习,同时在学习过程中保持旧任务上的表现。
现有技术中,为了使得模型能够实现增量式的任务,一般都使用新数据以及之前的全部数据来重新训练,以满足旧任务和新任务。然而在实际应用中,由于成本、储存空间以及数据隐私等因素的限制,在每次学习新任务时,都使用包括之前的全部数据重新训练往往是不可取的,而如果单一使用新任务的数据训练会导致在旧任务上的表现下降。因此,如果能提供一种既能够保证模型在新任务和就任务上的表现,又无需使用全部的数据执行训练,会对增量式深度学习产生深远的影响。
发明内容
本公开提出了一种无需使用全部数据样本并且能保证模型精度的分类任务增量处理方法及装置、电子设备和存储介质。
根据本公开的第一方面,提供了一种分类任务增量处理方法,其包括:
利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;
基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;
至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,所述第三任务包括第一任务和/或第二任务。
根据本公开的一些实施例,所述基于第一任务模型和当前的第二任务模型确定预设损失函数包括:
获取所述第一任务模型的第一损失函数;
获取所述第二任务模型的第二损失函数;
基于所述第一损失函数和第二损失函数确定所述预设损失函数。
根据本公开的一些实施例,所述基于所述第一损失函数和第二损失函数确定所述预设损失函数包括:
确定与第一损失函数对应的第一权值,以及与第二损失函数对应的第二权值;
根据所述第一权值和第二权值,获得所述第一损失函数和第二损失函数的加权和,并根据所述加权和确定所述预设损失函数。
根据本公开的一些实施例,所述至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型包括:
将所述第一数据样本输入至第一任务模型,获得第一结果;
将所述第一数据样本输入至第二任务模型,获得第二结果;
基于所述第一结果和第一数据样本中的理论结果之间的第一差值,以及所述第二结果和第一数据样本中的理论结果之间的第二差值,调整网络参数,直至所述预设损失函数符合预设条件;
基于符合预设条件的预设损失函数确定所述多任务模型。
根据本公开的一些实施例,所述至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型包括:
基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本,该第二数据样本为第二任务模型的数据样本;
分别将所述第一数据样本和第三数据样本输入至第一任务模型,获得第三结果;
分别将所述第一数据样本和所述第三数据样本输入至第二任务模型,获得第四结果;
基于所述第三结果与第一数据样本或第三数据样本中的理论结果之间的第三差值,以及所述第四结果与第一数据样本或第三数据样本中的理论结果之间的第四差值,调整网络参数,直至所述预设损失函数符合预设条件;
基于符合预设条件的预设损失函数确定所述多任务模型。
根据本公开的一些实施例,所述基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本包括:
按照随机筛选的方式,从第二数据样本中筛选出第三数据样本;或者
按照聚类分析的方式,从第二数据样本中筛选出第三数据样本。
根据本公开的一些实施例,按照聚类分析的方式,从第二数据样本中筛选出第三数据样本包括:
基于预设的聚类分析算法,对第二数据样本进行聚类分析,得到至少一个分类;
基于每个分类中与聚类中心在预设距离范围内的数据,形成第三数据样本。
根据本公开的一些实施例,所述方法还包括:
基于第二预设筛选准则,保留所述第一数据样本和第二数据样本中的部分数据,所述第二数据样本为第二任务模型的数据样本。
根据本公开的一些实施例,所述第二基于预设筛选准则,保留所述第一数据样本和第二数据样本中的部分数据包括:
按照随机筛选的方式,从第一数据样本和第二数据样本中筛选出所述部分数据;或者
按照聚类分析的方式,从所述第一数据样本和第二数据样本中筛选出所述部分数据。
根据本公开的一些实施例,按照聚类分析的方式,从第二数据样本中筛选出所述部分数据包括:
基于预设的聚类分析算法,对第一数据样本和第二数据样本进行聚类分析,得到至少一个分类;
基于每个分类中与聚类中心在预设距离范围内的数据,形成所述部分数据。
根据本公开的一些实施例,所述第一任务为用于识别第一类型的图像,所述第二任务为用于识别第二类型的图像,第一类型和第二类型不同。
根据本公开的一些实施例,所述获取第一任务模型的第一损失函数包括:
基于第一预设算法,获取所述第一任务模型的第一损失函数;其中所述第一预设算法的表达式包括:
其中,表示第一损失函数,表示第一数据样本,表示第一任务模型的输出的归一化软响应(soft label),Nn表示Xn中的一批数据,Kn表示第一任务的分类数目,表示第一数据样本中的其中一批数据的第i个样本的第k个分类的归一化软响应标签,为第一数据样本的其中一批数据的第i个样本的第k个分类的归一化softmax输出。
根据本公开的一些实施例,所述获取所述第二任务模型的第二损失函数包括:
基于第二预设算法,获取所述第二任务模型的第二损失函数,其中所述第二预设算法的表达式包括:
其中,表示第二损失函数,Xo表示第二数据样本,该第二数据样本为第二任务模型的数据样本,表示由所述第二任务模型输出的归一化软响应,No表示Xo中的一批数据,Ko是第二任务的分类数目,表示第二数据样本中的其中一批数据的第u个样本的第v个分类的归一化软响应标签,为第二数据样本中的其中一批数据的第u个样本的第v个分类的归一化softmax输出。
根据本公开的一些实施例,所述第一权值和第二权值相等。
根据本公开的一些实施例,所述利用第一数据样本获得对应于所述第一数据样本的第一任务模型包括:
确定所述第二任务模型的网络结构;
基于第一数据样本训练所述网络结构,获得所述第一任务模型。
根据本公开的第二方面,提供了一种分类任务增量处理装置,包括:
第一任务模型建立模块,其配置为利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;
损失函数确定模块,其配置为基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;
多任务模型建立模块,其配置为至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,所述第三任务包括第一任务和/或第二任务。
根据本公开的一些实施例,所述损失函数确定模块进一步配置为获取所述第一任务模型的第一损失函数以及所述第二任务模型的第二损失函数,并基于所述第一损失函数和第二损失函数确定所述预设损失函数。
根据本公开的一些实施例,所述损失函数确定模块进一步配置为确定与第一损失函数对应的第一权值,以及与第二损失函数对应的第二权值;并根据所述第一权值和第二权值,获得所述第一损失函数和第二损失函数的加权和,并根据所述加权和确定所述预设损失函数。
根据本公开的一些实施例,所述多任务模型建立模块进一步配置为将所述第一数据样本输入至第一任务模型,获得第一结果,以及将所述第一数据样本输入至第二任务模型,获得第二结果;并基于所述第一结果和第一数据样本中的理论结果之间的第一差值,以及所述第二结果和第一数据样本中的理论结果之间的第二差值调整网络参数,直至所述预设损失函数符合预设条件;并基于符合预设条件的预设损失函数确定所述多任务模型。
根据本公开的一些实施例,所述多任务模型建立模块进一步配置为基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本,该第二数据样本为第二任务模型的数据样本;并分别将所述第一数据样本和第三数据样本输入至第一任务模型,获得第三结果;以及分别将所述第一数据样本和所述第三数据样本输入至第二任务模型,得到第四结果;并基于所述第三结果与第一数据样本或第三数据样本中的理论结果之间的第三差值,以及所述第四结果与第一数据样本或第三数据样本中的理论结果之间的第四差值,调整网络参数,直至所述预设损失函数符合预设条件;以及基于符合预设条件的预设损失函数确定所述多任务模型。
根据本公开的一些实施例,所述多任务模型建立模块进一步配置为按照随机筛选的方式,从第二数据样本中筛选出第三数据样本;或者按照聚类分析的方式,从第二数据样本中筛选出第三数据样本。
根据本公开的一些实施例,所述多任务模型建立模块进一步配置为基于预设的聚类分析算法,对第二数据样本进行聚类分析,得到至少一个分类;基于每个分类中与聚类中心在预设距离范围内的数据,形成第三数据样本。
根据本公开的一些实施例,所述装置还包括:样本处理模块,其配置为基于第二预设筛选准则,保留所述第一数据样本和第二数据样本中的部分数据,所述第二数据样本为第二任务模型的数据样本。
根据本公开的一些实施例,所述样本处理模块进一步配置为按照随机筛选的方式,从第一数据样本和第二数据样本中筛选出所述部分数据;或者按照聚类分析的方式,从第一样本和第二数据样本中筛选出所述部分数据。
根据本公开的一些实施例,所述样本处理模块进一步配置为基于预设的聚类分析算法,对第一数据样本和第二数据样本进行聚类分析,得到至少一个分类;并基于每个分类中与聚类中心在预设距离范围内的数据,形成所述部分数据。
根据本公开的一些实施例,所述第一任务为用于识别第一类型的图像,所述第二任务为用于识别第二类型的图像,第一类型和第二类型不同。
根据本公开的一些实施例,所述损失函数确定模块进一步配置为基于第一预设算法,获取所述第一任务模型的第一损失函数;其中所述第一预设算法的表达式包括:
其中,表示第一损失函数,Xn表示第一数据样本,表示第一任务模型的输出的归一化软响应,Nn表示Xn中的一批数据,Kn表示第一任务的分类数目,表示第一数据样本的其中一批数据第i个样本的第k个分类的归一化软响应标签,为第一数据样本的其中一批数据的第i个样本的第k个分类的归一化softmax输出。
根据本公开的一些实施例,所述损失函数确定模块进一步配置为基于第二预设算法,获取所述第二任务模型的第二损失函数,其中所述第二预设算法的表达式包括:
其中,表示第二损失函数,Xo表示第二数据样本,该第二数据样本为第二任务模型的数据样本,表示由所述第二任务模型输出的归一化软响应,No表示Xo中的一批数据,Ko是第二任务的分类数目,表示第二数据样本的其中一批数据的第u个样本的第v个分类的归一化软响应标签,为第二数据样本的其中一批数据的第u个样本的第v个分类的归一化softmax输出。
根据本公开的一些实施例,所述第一权值和第二权值相等。
根据本公开的一些实施例,所述第一任务模型建立模块进一步配置为确定所述第二任务模型的网络结构,并基于第一数据样本训练所述网络结构,获得所述第一任务模型。
根据本公开的第三方面,提供了一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行上述分类任务增量处理方法。
根据本公开的第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述分类任务增量处理方法。
在本公开实施例中,可以利用实现新任务的第一数据样本建立对应的第一任务模型,并通过该第一任务模型和已有的第二任务模型确定预设损失函数,并进一步构建能够执行第一任务和/或第二任务的多任务模型,该过程可以不使用第二数据样本,即可以实现多任务模型的建立,并保证了形成的多任务模型在第一任务和/或第二任务上的表现。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出根据本公开实施例的分类任务增量处理方法的流程图;
图2示出根据本公开实施例的分类任务增量处理方法的步骤S100的流程图;
图3示出根据本公开实施例的分类任务增量处理方法的步骤S200的流程图;
图4示出根据本公开实施例的分类任务增量处理方法的步骤S300的流程图;
图5示出根据本公开实施例的分类任务增量处理方法的步骤S300的流程图;
图6示出根据本公开实施例的分类任务增量处理方法的流程图;
图7示出根据本公开实施例的分类任务增量处理方法的建立多任务模型的示意图;
图8示出根据本公开实施例的分类任务增量处理方法的任务模型的建立过程示意图;
图9示出根据本公开实施例的分类任务增量处理装置的框图;
图10示出根据本公开一示例性实施例示出的一种电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
本公开实施例提供了一种任务增量方法,该方法可以应用在人工智能深度学习领域中,可以实现在无需使用旧数据或者使用部分旧数据的情况下,保证模型在新任务和旧任务的表现。
图1示出根据本公开实施例的分类任务增量处理方法的流程图,其中,该方法可以包括:
S100:利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;
S200:基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;
S300:至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,该第三任务包括第一任务和/或第二任务。
在本公开实施例中,第一任务模型和第二任务模型可以分别用于执行不同的任务。上述任务可以为图像处理、音频处理、手势检测等领域中的识别或者分类任务,但本公开不限于此,其可以是任意领域上的识别或者分类任务。例如,第一任务模型可以用于识别第一类型的图像,如其执行的第一任务可以包括识别图像中的人、动物以及植物等类别中的至少一种,第二任务模型可以用于识别第二类型的图像,如其执行的第二任务可以包括识别图像的人的表情特征、图像的颜色等类别中的至少一种。或者第一任务模型执行的第一任务可以包括识别图像中的狗,第二任务模型执行的第二任务可以包括识别图像中的人的表情。或者,在其他实施例中,第一任务模型也可以用于识别音频信息中的地点信息、时间信息,第二任务模型可以用于识别音频信息中的事件信息,等等。即,第一任务和第二任务可以是不同的任务,而且,在本公开实施例中,第一任务模型至少能够执行一种第一任务,即第一任务模型可以对至少一种类型的对象进行分类识别,同理,第二任务模型也至少能够对一种类型对象进行分类识别。
另外,第一数据样本作为新的样本数据,其可以用于建立用于执行新任务(第一任务)的第一任务模型,例如,可以基于第一数据样本利用预设算法训练预设的网络模型从而获得上述能够执行第一任务的第一任务模型。本公开实施例中的第一数据样本可以根据所要执行的分类任务相适配地设置,本领域技术人员可以方便的获知第一数据样本的具体结构以及信息,在此不再赘述。另外上述预设算法可以包括神经网络算法,上述预设的网络模型与当前的第二任务模型的网络模型结构相同,即第一任务模型和第二任务模型都是通过相同结构的网络模型训练形成的。
下面,对本公开实施例中获得第一任务模型的具体过程进行详细说明,图2示出根据本公开实施例的分类任务增量处理方法的步骤S100的流程图。其中,获得第一任务模型可以包括:
S101:确定所述第二任务模型的网络结构;
S102:基于第一数据样本训练所述网络结构,获得所述第一任务模型。
如上所述,本公开实施例中第一任务模型和第二任务模型具有相同的网络结构,即第一任务模型和第二任务模型都是基于相同的网络结构训练形成的,本公开实施例中该网络结构可以为神经网络结构。图7示出根据本公开实施例的分类任务增量处理方法的建立多任务模型的示意图,其中示出了本公开实施例的网络结构可以包括特征提取器(特征提取网络)10以及至少一个分类器20,每个分类器20可以对特征信息执行不同的分类。例如,本公开实施例中,可以包括一个特征提取器10,以用于提取数据样本中的特征信息形成特征向量,对于不同的任务模型,特征提取器10可以提取不同的特征信息,在多任务模型中,特征提取器10可以执行多种特征参数的提取,如图7中示出的特征信息F、F*和Fn。对于每个任务可以对应有相应的分类器20,例如图7中示出的T0、T0 *、T* n以及Tn四个分类器,该四个分类器可以分别基于对应的特征信息执行分类任务。并通过各个分类器对特征向量进行分类处理,生成第一分类结果,该第一分类结果构造为矩阵形式,通过上述各分类器生成的第一分类结果确定最终的分类结果。例如,可以确定各第一分类结果的矩阵中参数为1的数量,根据该1的数量最多的第一分类结果即为可以确定组中的分类结果。
即,本公开实施例中在利用第一数据样本建立第一任务模型时,需要确定当前第二任务模型的网络结构,而后利用基于预设算法对第一数据样本学习,以对该网络结构的模型进行训练,从而获得第一任务模型。
通过上述,即可以利用第一数据样本获取执行新任务(第一任务)的第一任务模型,在获取了该第一任务模型之后,可以基于该第一任务模型以及当前已有的第二任务模型,获得能够实现第一任务和/或第二任务的多任务模型。例如本公开实施例可以采用知识蒸馏的方式利用第一任务模型和第二任务模型确定能够执行第三任务的多任务模型,该第三任务可包括第一任务和/或第二任务。即建立的多任务模型可以具备执行第一任务和/或第二任务的能力,即可以实现第一任务和/或第二任务的分类功能。
首先,可以分别获得第一任务模型和第二任务模型的损失函数,并基于获取的两个损失函数确定多任务模型的预设损失函数,而后可以利用第一数据样本、第一任务模型以及第二任务模型对网络参数不断优化,直至达到符合预设条件的预设损失函数,该达到预设条件的预设损失函数所对应的任务模型即为多任务模型。该多任务模型可以同时执行包括第一任务和/或第二任务的第三任务,同时,多任务模型也可以执行除了第一任务和第二任务之外的其他任务,或者也可以在第一任务和第二任务的基础上进一步实现更细节的识别和分类。其中,由于预设损失函数分别与第一任务模型和第二任务模型都有关联,而且在优化过程中也通过第一任务模型和第二任务模型对预设损失函数进行优化,因此生成的多任务模型可以具备执行第一任务和/或第二任务的能力,并能够保证很好的精度。
图8示出根据本公开实施例的分类任务增量处理方法的任务模型的建立过程示意图。其中,第三行中表示利用第一数据样本对网络结构进行训练,获得第一任务模型,其中展示了A和B两个第一任务模型的建立。第二行表示任务模型的发展演变过程,其中C表示当前的第二任务模型,通过知识蒸馏的方式结合了第一任务模型A,形成多任务模型D,多任务模型D再通过知识蒸馏的方式结合第一任务模型B,形成新的多任务模型E,以此类推,可以实现模型的增量式分类。第一行表示知识回顾,该部分可以示出,初始的第二任务模型的数据样本为F,在执行第一任务模型A和第二任务模型C的知识蒸馏处理时,可以利用数据样本G,该数据样本G包括至少一部分数据样本F以及用于训练第一任务模型A的第一数据样本;以及在执行第一任务模型B和多任务模型D的知识蒸馏处理时,可以利用数据样本H,该数据样本H包括至少一部分数据样本G以及用于训练第一任务模型B的第一数据样本。通过上述方式可以实现多任务模型的建立。但本公开实施例并不限制于此。
下面,对本公开实施例的各步骤进行详细说明,图3示出根据本公开实施例的分类任务增量处理方法的步骤S200的流程图,其中,本公开实施例的步骤S200可以包括:
S201:获取所述第一任务模型的第一损失函数;
S202:获取所述第二任务模型的第二损失函数;
S203:基于所述第一损失函数和第二损失函数确定所述预设损失函数。
在步骤S100中,利用第一数据样本对网络结构进行不断训练,形成第一任务模型时,该第一任务模型具有相应的第一损失函数,在一些实施例中,该第一损失函数越小越好,在损失函数小的情况下,表明该第一任务模型的分类精度越高,分类结果越接近真实值。在本公开实施例建立的第一任务模型、第二任务模型以及多任务模型的分类精度都超过95%,以保证模型的准确性。同理,当前的第二任务模型也具有对应的第二损失函数,
本公开实施例中步骤S201可以包括:
基于第一预设算法,获取所述第一任务模型的第一损失函数;其中所述第一预设算法的表达式包括:
其中,表示第一损失函数,Xn表示第一数据样本,表示第一任务模型的输出的归一化软响应(soft lable),Nn表示Xn中的一批(batch)数据,Kn表示第一任务的分类数目,表示第一数据样本中的其中一批数据的第i个样本的第k个分类的归一化软响应标签(recorded soft labels),为第一数据样本其中一批数据中的第i个样本的第k个分类的归一化softmax输出。
其中,
其中,γn表示归一化常量,可以取为比1大的值(如2),以提高小值的贡献。这里按类别归一化,i表示第i个样本,j表示第j个分类,是归一化前的原始值,是归一化前的原始值。
通过上述配置既可以实现第一任务模型的第一损失函数的获取,通过上述方式可以增强各类之间的关联,同时可以促进新任务的学习训练,提高模型精度。
另外,本公开实施例中步骤S202可以包括:
基于第二预设算法,获取所述第二任务模型的第二损失函数,其中所述第二预设算法的表达式包括:
其中,表示第二损失函数,Xo表示第二数据样本,该第二数据样本为第二任务模型的数据样本,表示由所述第二任务模型输出的归一化软响应,No表示Xo中的一批数据,Ko是第二任务的分类数目,表示第二数据样本中的其中一批数据的第u个样本的第v个分类的归一化软响应标签,为第二数据样本中第u个样本的第v个分类的归一化softmax输出。
其中,
其中,γn表示归一化常量,可以取为比1大的值(如2),以提高小值的贡献。这里按类别归一化,u表示第u个样本,v表示第v个分类,是归一化前的原始值,是归一化前的原始值。同理,通过上述配置既可以实现第二任务模型的第二损失函数的获取,通过上述方式可以增强各类之间的关联,同时可以促进新任务的学习训练,提高模型精度。
进一步地,在获取了第一损失函数和第二损失函数之后,可以基于获取的两个损失函数来获取预设损失函数,其中,基于所述第一损失函数和第二损失函数确定所述预设损失函数可以包括:
确定与第一损失函数对应的第一权值,以及与第二损失函数对应的第二权值;
根据第一权值和第二权值,获得所述第一损失函数和第二损失函数的加权和,并根据该加权和确定所述预设损失函数。
在本公开实施例中,上述第一权值和第二权值可以构造为相同或者不同的数值,一些实施例中,第一权值和第二权值相同。本领域技术人员可以根据不同的需求为损失函数设置对应的权值,在此不进行限定。
在确定了第一权值和第二权值后,可以获得第一损失函数和第二损失函数的加权和,即第一损失函数与第一权值的乘积,与第二损失函数和第二权值的乘积之间加和处理后得到上述加权和,该加权和即可以为预设损失函数。基于该配置,本公开实施例中的预设损失函数构造为分别与第一任务模型的第一损失函数以及第二任务模型的第二损失函数相关,因此在后续的优化过程中,可以分别获得适应于第一任务和第二任务的第一损失函数和第二损失函数,以得到优化的预设损失函数。
具体的,本公开实施例在获得了预设损失函数后,可以至少利用第一数据样本对第一任务模型、第二任务模型进行知识蒸馏处理。其中,知识蒸馏是指对网络模型进行蒸馏,可以理解为将第二任务模型和第一任务模型的任务结合,形成新的任务模型。
如图4所示,其中示图4示出根据本公开实施例的分类任务增量处理方法的步骤S300的流程图,其中,步骤S300可以包括:
A301:将所述第一数据样本输入至第一任务模型,获得第一结果;
A302:将所述第一数据样本输入至第二任务模型,得到第二结果;
A303:基于所述第一结果和第一数据样本中的理论结果之间的第一差值,以及所述第二结果和第一数据样本中的理论结果之间的第二差值,调整网络参数,直至所述预设损失函数符合预设条件;
A304:基于符合预设条件的预设损失函数确定所述多任务模型。
如上所述,预设损失函数中为第一损失函数和第二损失函数的加权和,其中,在步骤A301和A302中,可以分别将第一数据样本分别输入至第一任务模型和第二任务模型,从而通过第一任务模型的特征提取器得到第一结果以及通过第二任务模型的特征提取器得到第二结果,该第一结果和第二结果表示成特征向量的形式。由于第一任务模型和第二任务模型分别用于执行不同的分类任务,因此,得到的第一结果和第二结果有所不同。在得到第一结果和第二结果之后可以执行步骤A303,即可以进一步确定第一结果和第二结果分别与理论结果之间的差值,即第一差值和第二差值。基于该第一差值和第二差值可以分别调节第一任务模型和第二任务模型的网络参数,以调整第一任务模型和第二任务模型的损失函数,以减小第一差值和第二差值,在第一差值和第二差值在预设范围内时,即可以对应的确定第一损失函数和第二损失函数的加权和对应的预设损失函数符合预设条件,此时符合预设条件的预设损失函数所对应的任务模型即为多任务模型,并且该多任务模型具有较好的分类精度。
基于上述配置,可以实现在不需要使用第二任务模型所对应的第二数据样本的情况下来执行多任务模型的建立,可以大大减少数据样本的容量,可以在缩减了数据样本的同时还能保证在第一任务和/或第二任务上的表现。
在本公开一些实施例中,还可以利用第一数据样本以及第二数据样本的一部分来建立多任务模型,该方式可以进一步提高任务模型的表现精度。
图5示出根据本公开实施例的分类任务增量处理方法的步骤S300的流程图,其中,步骤S300可以包括:
B301:基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本,该第二数据样本为第二任务模型的数据样本;
B302:分别将所述第一数据样本和第三数据样本输入至第一任务模型,获得第三结果;
B303:分别将所述第一数据样本和所述第三数据样本输入至第二任务模型,得到第四结果;
B304:基于所述第三结果与第一数据样本和第三数据样本中的理论结果之间的第三差值,以及所述第四结果与第一数据样本和第三数据样本中的理论结果之间的第四差值,调整网络参数,直至所述预设损失函数符合预设条件;
B305:基于符合预设条件的预设损失函数确定所述多任务模型。
如上所述,本公开实施例可以利用第二数据样本中的一部分数据,以及第一数据样本的组合来执行多任务模型的构建。如图7示出了利用第一数据样本和至少一部分第二数据样本来执行多任务模型的构建,其中本公开实施例中可以通过第一预设筛选准则从第二数据样本中筛选出第三数据样本,具体筛选方式可以包括:
按照随机筛选的方式,从第二数据样本中筛选出第三数据样本;或者
按照聚类分析的方式,从第二数据样本中筛选出第三数据样本。
也即,本公开实施例中,可以通过随机的方式筛选出第三数据样本,其中,由于第二数据样本是用于执行第二任务模型的构建的数据样本,因此每个数据样本都可以体现出第二任务的分类。通过随机的方式所选出的第三数据样本可以直接用于提高第二任务的表现。
或者,本公开实施例也可以通过对第二数据样本进行聚类分析的方式来筛选出第三数据样本。其可以包括:
基于预设的聚类分析算法,对第二数据样本进行聚类分析,得到至少一个分类;
基于每个分类中与聚类中心在预设距离范围内的数据,形成第三数据样本。
其中,本公开实施例所采用的聚类分析算法可以包括:k-means聚类算法、SOM聚类算法、层次聚类算法以及FCM聚类算法中的至少一种。在通过聚类分析的方式对第二数据样本处理后可以得到至少一个分类,此时可以将每个分类中与聚类中心在预设距离范围内的数据组合形成第三数据样本。通过该方式获得的第三数据样本可以大大提高对于第二任务的表现。
基于上述即可以实现第三数据样本的筛选和获取,继而可以根据第一数据样本和第三数据样本执行多任务模型的构建。其具体过程与上述仅通过第一数据样本执行多任务模型的构建的方式相近。
可以分别将第一数据样本和第三数据样本分别输入至第一任务模型和第二任务模型,从而通过第一任务模型的特征提取器得到第三结果以及通过第二任务模型的特征提取器得到第四结果,该第三结果和第四结果表示成特征向量的形式。由于第一任务模型和第二任务模型分别用于执行不同的分类任务,因此,得到的第三结果和第四结果有所不同。在得到第三结果和第四结果之后可以执行步骤B304,即可以进一步确定第三结果和第四结果分别与理论结果之间的差值,即第三差值和第四差值。基于该第三差值和第四差值可以分别调节第一任务模型和第二任务模型的网络参数,以调整第一任务模型和第二任务模型的损失函数,以减小第三差值和第四差值,在第三差值和第四差值在预设范围内时,即可以对应的确定第一损失函数和第二损失函数的加权和对应的预设损失函数符合预设条件,此时符合预设条件的预设损失函数所对应的任务模型即为多任务模型,并且该多任务模型具有较好的分类精度。
基于上述配置,可以实现通过使用第二任务模型所对应的第二数据样本中的部分数据来执行多任务模型的建立,在不需要使用全部数据样本的情况下,有效的提高了多任务模型在第一任务和/或第二任务上的表现。
另外,图6示出根据本公开实施例的分类任务增量处理方法的流程图,其相对于图1示出的实施例,还增加了步骤S400,即本公开实施例所提供的分类任务增量处理方法还8可以包括:
S400:基于第二预设筛选准则,保留所述第一数据样本和第二数据样本中的部分数据,所述第二数据样本为第二任务模型的数据样本。
也即,在保证多任务模型的分类精度的前提下,可以减少数据样本的数量,即可以从第一数据样本和第二数据样本筛选出部分数据作为第四数据样本,作为多任务模型的数据样本,供其在后续的分类中使用。其中,第二预设筛选准则可以和第一筛选准则相同,或者也可以不同,本公开实施不做限定。
其中,本公开实施例中基于第二预设筛选准则,保留所述第一数据样本和第二数据样本中的部分数据包括:
按照随机筛选的方式,从第一数据样本和第二数据样本中筛选出所述部分数据;或者
按照聚类分析的方式,从第一数据样本和第二数据样本中筛选出所述部分数据。
本公开实施例中,可以通过随机的方式筛选出第四数据样本,其中,由于第一数据样本和第二数据样本是用于构建多任务模型的数据样本,因此第四数据样本可以分别体现出第一任务和第二任务的分类。通过随机的方式所选出的第四数据样本可以直接用于第一任务和/或第二任务的表现。
另外,本公开实施例也可以通过对第一数据样本和第二数据样本进行聚类分析的方式来筛选出第四数据样本。其可以包括:
按照聚类分析的方式,从第一数据样本和第二数据样本中筛选出所述部分数据包括:
基于预设的聚类分析算法,对第一数据样本和第二数据样本进行聚类分析,得到至少一个分类;
基于每个分类中与聚类中心在预设距离范围内的数据,形成所述部分数据。
本公开实施例所采用的聚类分析算法可以包括:k-means聚类算法、SOM聚类算法、层次聚类算法以及FCM聚类算法中的至少一种。在通过聚类分析的方式对第一数据样本和第二数据样本处理后可以得到多个分类,此时可以将每个分类中与聚类中心在预设距离范围内的数据组合形成第四数据样本。通过该方式获得的第四数据样本可以大大提高对于第一任务和/或第二任务的表现。
综上所述,在本公开实施例中,可以利用实现新任务的第一数据样本建立对应的第一任务模型,并通过该第一任务模型和已有的第二任务模型确定预设损失函数,并进一步构建能够执行第三任务的多任务模型,该过程可以不使用第二数据样本或者使用部分第二数据样本,即可以实现多任务模型的建立,并保证了多任务模型在第一任务和/或第二任务上的表现。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
此外,本公开还提供了分类任务增量处理装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种分类任务增量处理方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图9示出根据本公开实施例的分类任务增量处理装置的框图,其中,所述分类任务增量处理装置包括:
第一任务模型建立模块100,其配置为利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;
损失函数确定模块200,其配置为基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;
多任务模型建立模块300,其配置为至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,所述第三任务包括第一任务和/或第二任务。
在一种可能的实现方式中,在一种可能的实现方式中,损失函数确定模块进一步配置为获取所述第一任务模型的第一损失函数以及所述第二任务模型的第二损失函数,并基于所述第一损失函数和第二损失函数确定所述预设损失函数。
在一种可能的实现方式中,所述损失函数确定模块进一步配置为确定与第一损失函数对应的第一权值,以及与第二损失函数对应的第二权值;并根据所述第一权值和第二权值,获得所述第一损失函数和第二损失函数的加权和,并根据所述加权和确定所述预设损失函数。
在一种可能的实现方式中,所述多任务模型建立模块进一步配置为将所述第一数据样本输入至第一任务模型,获得第一结果,以及将所述第一数据样本输入至第二任务模型,获得第二结果;并基于所述第一结果和第一数据样本中的理论结果之间的第一差值,以及所述第二结果和第一数据样本中的理论结果之间的第二差值调整网络参数,直至所述预设损失函数符合预设条件;并基于符合预设条件的预设损失函数确定所述多任务模型。
在一种可能的实现方式中,所述多任务模型建立模块进一步配置为基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本,该第二数据样本为第二任务模型的数据样本;并分别将所述第一数据样本和第三数据样本输入至第一任务模型,获得第三结果;以及分别将所述第一数据样本和所述第三数据样本输入至第二任务模型,得到第四结果;并基于所述第三结果与第一数据样本或第三数据样本中的理论结果之间的第三差值,以及所述第四结果与第一数据样本或第三数据样本中的理论结果之间的第四差值,调整网络参数,直至所述预设损失函数符合预设条件;以及基于符合预设条件的预设损失函数确定所述多任务模型。
在一种可能的实现方式中,所述多任务模型建立模块进一步配置为按照随机筛选的方式,从第二数据样本中筛选出第三数据样本;或者按照聚类分析的方式,从第二数据样本中筛选出第三数据样本。
在一种可能的实现方式中,所述多任务模型建立模块进一步配置为基于预设的聚类分析算法,对第二数据样本进行聚类分析,得到至少一个分类;基于每个分类中与聚类中心在预设距离范围内的数据,形成第三数据样本。
在一种可能的实现方式中,所述装置还包括:
样本处理模块,其配置为基于第二预设筛选准则,保留所述第一数据样本和第二数据样本中的部分数据,所述第二数据样本为第二任务模型的数据样本。
在一种可能的实现方式中,所述样本处理模块进一步配置为按照随机筛选的方式,从第一数据样本和第二数据样本中筛选出所述部分数据;或者按照聚类分析的方式,从第一样本和第二数据样本中筛选出所述部分数据。
在一种可能的实现方式中,所述样本处理模块进一步配置为基于预设的聚类分析算法,对第一数据样本和第二数据样本进行聚类分析,得到至少一个分类;并基于每个分类中与聚类中心在预设距离范围内的数据,形成所述部分数据。
在一种可能的实现方式中,所述第一任务为用于识别第一类型的图像,所述第二任务为用于识别第二类型的图像,第一类型和第二类型不同。
在一种可能的实现方式中,所述损失函数确定模块进一步配置为基于第一预设算法,获取所述第一任务模型的第一损失函数;其中所述第一预设算法的表达式包括:
其中,表示第一损失函数,Xn表示第一数据样本,表示第一任务模型的输出的归一化软响应,Nn表示Xn中的一批数据,Kn表示第一任务的分类数目,表示第一数据样本的其中一批数据第i个样本的第k个分类的归一化软响应标签,为第一数据样本的其中一批数据的第i个样本的第k个分类的归一化softmax输出。
在一种可能的实现方式中,所述损失函数确定模块进一步配置为基于第二预设算法,获取所述第二任务模型的第二损失函数,其中所述第二预设算法的表达式包括:
其中,表示第二损失函数,Xo表示第二数据样本,该第二数据样本为第二任务模型的数据样本,表示由所述第二任务模型输出的归一化软响应,No表示Xo中的一批数据,Ko是第二任务的分类数目,表示第二数据样本的其中一批数据的第u个样本的第v个分类的归一化软响应标签,为第二数据样本的其中一批数据的第u个样本的第v个分类的归一化softmax输出。
在一种可能的实现方式中,所述第一权值和第二权值相等。
在一种可能的实现方式中,所述第一任务模型建立模块进一步配置为确定所述第二任务模型的网络结构,并基于第一数据样本训练所述网络结构,获得所述第一任务模型。
图10示出根据本公开一示例性实施例示出的一种电子设备的框图。电子设备可以被提供为终端、服务器或其它形态的设备。电子设备可以包括分类任务增量处理装置800。例如,该装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图10,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。处理器;
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到装置800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述实施例所述的分类任务增量处理方法,例如包括计算机程序指令的存储器804,上述计算机程序指令可由装置800的处理器820执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种分类任务增量处理方法,其特征在于,包括:
利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;
基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;
至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,所述第三任务包括第一任务和/或第二任务。
2.根据权利要求1所述的方法,其特征在于,所述基于第一任务模型和当前的第二任务模型确定预设损失函数包括:
获取所述第一任务模型的第一损失函数;
获取所述第二任务模型的第二损失函数;
基于所述第一损失函数和第二损失函数确定所述预设损失函数。
3.根据权利要求1所述的方法,其特征在于,所述至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型包括:
将所述第一数据样本输入至第一任务模型,获得第一结果;
将所述第一数据样本输入至第二任务模型,获得第二结果;
基于所述第一结果和第一数据样本中的理论结果之间的第一差值,以及所述第二结果和第一数据样本中的理论结果之间的第二差值,调整网络参数,直至所述预设损失函数符合预设条件;
基于符合预设条件的预设损失函数确定所述多任务模型。
4.根据权利要求1所述的方法,其特征在于,所述至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型包括:
基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本,该第二数据样本为第二任务模型的数据样本;
分别将所述第一数据样本和第三数据样本输入至第一任务模型,获得第三结果;
分别将所述第一数据样本和所述第三数据样本输入至第二任务模型,获得第四结果;
基于所述第三结果与第一数据样本或第三数据样本中对应的理论结果之间的第三差值,以及所述第四结果与第一数据样本或第三数据样本中的理论结果之间的第四差值,调整网络参数,直至所述预设损失函数符合预设条件;
基于符合预设条件的预设损失函数确定所述多任务模型。
5.一种分类任务增量处理装置,其特征在于,包括:
第一任务模型建立模块,其配置为利用第一数据样本获得对应于所述第一数据样本的第一任务模型,该第一任务模型用于执行第一任务;
损失函数确定模块,其配置为基于第一任务模型和当前的第二任务模型确定预设损失函数,该第二任务模型用于执行第二任务;
多任务模型建立模块,其配置为至少基于所述预设损失函数、第一数据样本、第一任务模型和第二任务模型,建立多任务模型,其中,所述多任务模型用于执行第三任务,所述第三任务包括第一任务和/或第二任务。
6.根据权利要求5所述的装置,其特征在于,所述损失函数确定模块进一步配置为获取所述第一任务模型的第一损失函数以及所述第二任务模型的第二损失函数,并基于所述第一损失函数和第二损失函数确定所述预设损失函数。
7.根据权利要求5所述的装置,其特征在于,所述多任务模型建立模块进一步配置为将所述第一数据样本输入至第一任务模型,获得第一结果,以及将所述第一数据样本输入至第二任务模型,获得第二结果;并基于所述第一结果和第一数据样本中的理论结果之间的第一差值,以及所述第二结果和第一数据样本中的理论结果之间的第二差值调整网络参数,直至所述预设损失函数符合预设条件;并基于符合预设条件的预设损失函数确定所述多任务模型。
8.根据权利要求5所述的装置,其特征在于,所述多任务模型建立模块进一步配置为基于第一预设筛选准则,从第二数据样本中筛选出第三数据样本,该第二数据样本为第二任务模型的数据样本;并分别将所述第一数据样本和第三数据样本输入至第一任务模型,获得第三结果;以及分别将所述第一数据样本和所述第三数据样本输入至第二任务模型,得到第四结果;并基于所述第三结果与第一数据样本或第三数据样本中的理论结果之间的第三差值,以及所述第四结果与第一数据样本或第三数据样本中的理论结果之间的第四差值,调整网络参数,直至所述预设损失函数符合预设条件;以及基于符合预设条件的预设损失函数确定所述多任务模型。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求1至4中任意一项所述的分类任务增量处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至4中任意一项所述的分类任务增量处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810540204.2A CN108960283B (zh) | 2018-05-30 | 2018-05-30 | 分类任务增量处理方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810540204.2A CN108960283B (zh) | 2018-05-30 | 2018-05-30 | 分类任务增量处理方法及装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108960283A true CN108960283A (zh) | 2018-12-07 |
CN108960283B CN108960283B (zh) | 2022-01-11 |
Family
ID=64492220
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810540204.2A Active CN108960283B (zh) | 2018-05-30 | 2018-05-30 | 分类任务增量处理方法及装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108960283B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110210560A (zh) * | 2019-05-31 | 2019-09-06 | 北京市商汤科技开发有限公司 | 分类网络的增量训练方法、分类方法及装置、设备及介质 |
CN111079938A (zh) * | 2019-11-28 | 2020-04-28 | 百度在线网络技术(北京)有限公司 | 问答阅读理解模型获取方法、装置、电子设备及存储介质 |
CN111210000A (zh) * | 2019-12-18 | 2020-05-29 | 浙江工业大学 | 一种基于固定特征的调制信号增量学习方法 |
CN112990280A (zh) * | 2021-03-01 | 2021-06-18 | 华南理工大学 | 面向图像大数据的类增量分类方法、系统、装置及介质 |
CN113674745A (zh) * | 2020-04-30 | 2021-11-19 | 京东数字科技控股有限公司 | 语音识别方法及装置 |
CN113792713A (zh) * | 2021-11-16 | 2021-12-14 | 北京的卢深视科技有限公司 | 模型训练、人脸识别模型更新方法、电子设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013012990A1 (en) * | 2011-07-20 | 2013-01-24 | Siemens Corporation | Multi-task learning for bayesian matrix factorization |
CN106156809A (zh) * | 2015-04-24 | 2016-11-23 | 阿里巴巴集团控股有限公司 | 用于更新分类模型的方法及装置 |
CN106529402A (zh) * | 2016-09-27 | 2017-03-22 | 中国科学院自动化研究所 | 基于多任务学习的卷积神经网络的人脸属性分析方法 |
-
2018
- 2018-05-30 CN CN201810540204.2A patent/CN108960283B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013012990A1 (en) * | 2011-07-20 | 2013-01-24 | Siemens Corporation | Multi-task learning for bayesian matrix factorization |
CN106156809A (zh) * | 2015-04-24 | 2016-11-23 | 阿里巴巴集团控股有限公司 | 用于更新分类模型的方法及装置 |
CN106529402A (zh) * | 2016-09-27 | 2017-03-22 | 中国科学院自动化研究所 | 基于多任务学习的卷积神经网络的人脸属性分析方法 |
Non-Patent Citations (1)
Title |
---|
LI Z: "Learning Without Forgetting", 《PROCEEDINGS OF EUROPEAN CONFERENCE ON COMPUTER VISION》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110210560A (zh) * | 2019-05-31 | 2019-09-06 | 北京市商汤科技开发有限公司 | 分类网络的增量训练方法、分类方法及装置、设备及介质 |
CN110210560B (zh) * | 2019-05-31 | 2021-11-30 | 北京市商汤科技开发有限公司 | 分类网络的增量训练方法、分类方法及装置、设备及介质 |
CN111079938A (zh) * | 2019-11-28 | 2020-04-28 | 百度在线网络技术(北京)有限公司 | 问答阅读理解模型获取方法、装置、电子设备及存储介质 |
CN111079938B (zh) * | 2019-11-28 | 2020-11-03 | 百度在线网络技术(北京)有限公司 | 问答阅读理解模型获取方法、装置、电子设备及存储介质 |
CN111210000A (zh) * | 2019-12-18 | 2020-05-29 | 浙江工业大学 | 一种基于固定特征的调制信号增量学习方法 |
CN111210000B (zh) * | 2019-12-18 | 2021-11-23 | 浙江工业大学 | 一种基于固定特征的调制信号增量学习方法 |
CN113674745A (zh) * | 2020-04-30 | 2021-11-19 | 京东数字科技控股有限公司 | 语音识别方法及装置 |
CN112990280A (zh) * | 2021-03-01 | 2021-06-18 | 华南理工大学 | 面向图像大数据的类增量分类方法、系统、装置及介质 |
CN112990280B (zh) * | 2021-03-01 | 2023-08-25 | 华南理工大学 | 面向图像大数据的类增量分类方法、系统、装置及介质 |
CN113792713A (zh) * | 2021-11-16 | 2021-12-14 | 北京的卢深视科技有限公司 | 模型训练、人脸识别模型更新方法、电子设备及存储介质 |
CN113792713B (zh) * | 2021-11-16 | 2022-03-25 | 北京的卢深视科技有限公司 | 模型训练、人脸识别模型更新方法、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN108960283B (zh) | 2022-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108960283A (zh) | 分类任务增量处理方法及装置、电子设备和存储介质 | |
CN110210535A (zh) | 神经网络训练方法及装置以及图像处理方法及装置 | |
CN109800737A (zh) | 面部识别方法及装置、电子设备和存储介质 | |
CN109800744A (zh) | 图像聚类方法及装置、电子设备和存储介质 | |
CN108595497B (zh) | 数据筛选方法、装置及终端 | |
CN109389162B (zh) | 样本图像筛选方法和装置、电子设备及存储介质 | |
CN110378976A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN108701453A (zh) | 模块化深度学习模型 | |
CN108764069A (zh) | 活体检测方法及装置 | |
CN110390394A (zh) | 批归一化数据的处理方法及装置、电子设备和存储介质 | |
CN109117862A (zh) | 图像标签识别方法、装置及服务器 | |
CN109145213A (zh) | 基于历史信息的查询推荐方法及装置 | |
CN108256549A (zh) | 图像分类方法、装置及终端 | |
CN110458102A (zh) | 一种人脸图像识别方法及装置、电子设备和存储介质 | |
CN108985176A (zh) | 图像生成方法及装置 | |
CN109902738A (zh) | 网络模块和分配方法及装置、电子设备和存储介质 | |
CN109615006A (zh) | 文字识别方法及装置、电子设备和存储介质 | |
CN110532956A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109978891A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109145970A (zh) | 基于图像的问答处理方法和装置、电子设备及存储介质 | |
CN109165738A (zh) | 神经网络模型的优化方法及装置、电子设备和存储介质 | |
CN109635920A (zh) | 神经网络优化方法及装置、电子设备和存储介质 | |
CN109543537A (zh) | 重识别模型增量训练方法及装置、电子设备和存储介质 | |
CN110245757A (zh) | 一种图像样本的处理方法及装置、电子设备和存储介质 | |
CN109920016A (zh) | 图像生成方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |