CN114170484B - 图片属性预测方法、装置、电子设备和存储介质 - Google Patents
图片属性预测方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114170484B CN114170484B CN202210127165.XA CN202210127165A CN114170484B CN 114170484 B CN114170484 B CN 114170484B CN 202210127165 A CN202210127165 A CN 202210127165A CN 114170484 B CN114170484 B CN 114170484B
- Authority
- CN
- China
- Prior art keywords
- task
- attribute
- learning model
- sample image
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种图片属性预测方法、装置、电子设备和存储介质,该方法包括确定待预测图像;将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。本发明实现在提高每一任务下的图片属性预测准确度的同时,可提高所有任务下的图片属性预测准确度,从而实现准确、可靠且可应用于不同任务学习下的图片属性预测。
Description
技术领域
本发明涉及图片处理技术领域,尤其涉及一种图片属性预测方法、装置、电子设备和存储介质。
背景技术
在实际应用中,常常要对同一张图片的不同属性进行单任务预测。例如,在对图片中的人脸进行识别时需要单独建立人脸识别任务模型对图片中的人脸进行识别;在对图片中的用户年龄进行预测时需要单独建立年龄预测任务模型对图片中的用户年龄进行预测。
通过对每个属性单独建立单任务学习模型,不仅会带来较大的计算开销,也无法利用不同属性之间的关联性信息。
现有技术中通常利用多任务学习的方法,对所有属性通过单个多任务学习网络进行全部预测,可以节省大量的计算开销,并且利用任务间的关联信息提高模型的泛化效果。然而,由于标注成本问题,这些属性很难完整标记在同一数据集中的每一张图像上。大多数情况下,数据集中的每一图片只包含了部分属性的标注;而在这种情况下,获取的多任务学习模型难以对每一图片中所有的属性进行准确预测。
发明内容
本发明提供一种图片属性预测方法、装置、电子设备和存储介质,用以解决现有技术中在数据集中的每一图片仅包含部分属性的标注时,获取的多任务学习模型无法对每一图片中所有的属性进行准确预测的缺陷,实现提高图片中所有的属性预测的准确性。
本发明提供一种图片属性预测方法,包括:
确定待预测图像;
将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;
所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;
所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
根据本发明提供的一种图片属性预测方法,在所述将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值之前,还包括:
确定所述样本图像对应的待处理任务;其中,所述待处理任务为所述多个任务中除所述样本图像的属性真实值所属的目标任务外的任务;
将所述样本图像输入所述待处理任务对应的单任务学习模型中,得到所述待处理任务下所述样本图像的属性模拟值;
其中,所述待处理任务对应的单任务学习模型,基于所述样本数据集中其他样本图像和所述待处理任务下所述其他样本图像的属性真实值进行训练获取;
根据所述待处理任务下所述样本图像的属性模拟值和所述目标任务下所述样本图像的属性真实值,得到多个任务下所述样本图像的完整的属性标签;
基于所述样本图像和多个任务下所述样本图像的属性标签,对所述多任务学习模型进行预训练;
基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练。
根据本发明提供的一种图片属性预测方法,所述多任务学习模型包含共享模块和多个分支网络;其中,每个分支网络与每个任务一一对应;
相应地,所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练,包括:
基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;
根据再次训练结果,对所述多任务学习模型的参数进行优化。
根据本发明提供的一种图片属性预测方法,所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化,包括:
对于每一次迭代训练,基于所述样本图像和每个目标任务下所述样本图像的属性真实值,分别对上一次迭代训练后的所述多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练,得到每个目标任务下的共享模块和分支网络的优化参数;
根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化。
根据本发明提供的一种图片属性预测方法,所述根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化,包括:
将所有目标任务下的共享模块的优化参数进行融合,根据融合结果对上一次迭代训练后的所述多任务学习模型中共享模块的参数进行优化;
根据每个目标任务下的分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型中每个目标任务对应的分支网络的参数进行优化。
根据本发明提供的一种图片属性预测方法,所述将所有目标任务下的共享模块的优化参数进行融合,包括:
计算所有目标任务下的共享模块的优化参数的平均值或加权平均值。
根据本发明提供的一种图片属性预测方法,所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化,包括:
对于每一次迭代训练,基于所述样本图像和任一目标任务下所述样本图像的属性真实值,对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行再次训练,以对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络的参数进行优化;
继续基于所述样本图像和其他目标任务中任一目标任务下所述样本图像的属性真实值,对再次训练后的共享模块和所述其他目标任务中该目标任务对应的分支网络进行再次训练,以对再次训练后的共享模块和所述其他目标任务中该目标任务对应的分支网络的参数进行优化,重复执行所述再次训练的过程,直到所有目标任务对应的分支网络均训练完成。
本发明还提供一种图片属性预测装置,包括:
确定模块,用于确定待预测图像;
预测模块,用于将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;
所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;
所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述图片属性预测方法的步骤。
本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述图片属性预测方法的步骤。
本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述图片属性预测方法的步骤。
本发明提供的图片属性预测方法、装置、电子设备和存储介质,通过利用每个任务对应的单任务学习模型,可以模拟生成每个任务下的样本图像的属性模拟值,以对样本图像中缺失的属性标签进行补充,进而使得每一样本图像均具有完整的属性标签;然后,再利用完整的属性标签进行迭代训练,得到多任务学习模型,基于多任务学习模型进行图片属性预测,在提高每一任务下的图片属性预测准确度的同时,可提高所有任务下的图片属性预测准确度,从而实现准确、可靠且可应用于不同任务学习下的图片属性预测。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明提供的图片属性预测方法的流程示意图之一;
图2是本发明提供的图片属性预测方法的多任务学习模型的训练过程的结构示意图;
图3是本发明提供的图片属性预测方法的流程示意图之二;
图4是本发明提供的图片属性预测装置的结构示意图;
图5是本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
由于标注成本问题,多种属性很难完整标记在同一数据集中的每一张图像上。大多数情况下,数据集中的图片只包含了部分属性的标注,导致获取的学习模型,难以同时对多种属性进行准确预测。
针对这一问题,本发明实施例提供了一种在样本数据集不完整标注场景下的图片属性预测方法。其中,包含了基于预标注数据的预训练、和基于真实标注的两级迭代训练两个环节。预标注即利用多个单任务学习模型对未标注标签模拟生成的属性模拟值。真实标注即为图片的已真实标注的属性真实值;两级迭代包括任务级内部迭代和常规外部迭代。每一个任务级内部迭代训练一个任务下的图像属性对应的网络,每一个常规的外层迭代训练所有任务下的图像属性对应的网络。本实例既可以利用不完整标注完成单次迭代,又可以保证多任务学习模型能在常规迭代中接收在所有任务下图像属性对应的网络梯度,从而实现在部分标签缺失的情况下,可利用不完整的标签对多任务学习模型进行训练。经过训练,多任务学习模型能够快速准确地预测每一图像中所有任务下的属性。
下面结合图1描述本发明的图片属性预测方法,该方法包括:
步骤101,确定待预测图像;
需要说明的是,本实施例中的执行主体可以是电子设备、电子设备中的部件、集成电路、或芯片。该电子设备可以是移动电子设备,也可以为非移动电子设备。示例性的,移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机、上网本或者个人数字助理等,非移动电子设备可以为服务器、网络附属存储器、个人计算机、智能电视机、柜员机或者自助机等,本发明不作具体限定。
可选地,待预测图像即需要对图像在不同任务下的属性进行预测的图像;待预测图像可以是通过相机或者带有相机的智能终端拍摄得到,也可以是扫描得到,还可以是通过互联网传输或者下载得到;本实施例对待预测图像的来源不作具体限定。
可选地,待预测图像可以是包含人脸、车辆和动物等图像,本实施例不限于待预测图像的类型。
相应地,人脸图像在多任务下的属性包括但不限于,人脸识别结果和人脸年龄预测结果等;车辆图像在多任务下的属性包括但不限于,车辆类别结果、车牌识别结果和车辆位置预测结果等;动物图像在多任务下的属性包括但不限于,动物类别结果和动物位置预测结果等。
可以理解的是,在确定待预测图像后,可以对待预测图像进行预处理,包括但不限于,尺度归一化处理、图像对齐处理和滤波处理等,以提高图片属性预测的效率和精度。
步骤102,将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
其中,多任务学习模型可对多个任务进行同时学习,并同时输出多个任务下的学习结果,即同时得到每个任务下待预测图像的属性预测值。
多任务学习模型是基于样本数据集中的样本图像和多个任务下样本图像的属性标签进行训练获取;
可选地,首先获取每个任务下样本图像的属性标签;其中,每个任务下样本图像的属性标签可能是已标注的属性真实值,也可能是由单任务模型对未标注属性进行预测输出的属性模拟值,本实施例对此不作具体地限定;
然后,根据每个任务下样本图像的属性标签和样本图像,对多任务学习模型进行训练,以得到可对所有任务下图像的属性进行准确预测的多任务学习模型。在针对需要在多个任务下进行图像属性预测时,可采用融合多个任务学习的多任务学习模型,对待预测图像进行属性预测。
其中,多任务学习模型可以是由卷积神经网络、循环神经网络和混合专家网络模型等进行构建生成,本实施例不对多任务学习模型的结构做具体地限定。
每个任务对应的单任务学习模型可以由卷积神经网络和循环神经网络等其他模型构建生成,具体可以结合图像特征、数据量大小和任务特征进行选取,本实施例不对单任务学习模型的结构做具体地限定。
在执行步骤102,需要对多任务学习模型进行预先训练,具体训练方式可以是联合训练也可以是两级迭代训练,本实施例对此不作具体地限定。
其中,联合训练可以是联合多任务学习模型中所有任务对应的分支网络的损失函数,对多任务学习模型进行联合训练;
两级迭代训练包括任务级内部迭代和整个模型级的常规外部迭代;即在任务级内部迭代是根据样本图像和每一任务下的属性标签对每一任务对应的分支网络进行单独训练,外部迭代是对所有任务下的训练结果进行综合。
具体训练步骤可以包括:首先,采集大量的样本图像,并获取每个任务对应的单任务学习模型;然后,通过样本图像中的未标注属性所属任务对应的单任务学习模型,对未标注属性进行学习,获取样本图像的属性模拟值,以对样本图像的属性标签进行补充,得到包含多个任务下的完整属性标签。
最后,再根据样本图像和多个任务下样本图像的属性真实值和属性模拟值对多任务模型进行训练,得到多任务学习模型。
以下以待预测图像为人脸图像为例,对本实施例中的图片属性预测展开描述;
可将对图像中用户的每一关键部位识别、每一关键部位的位置预测、用户的年龄预测、身份特征预测、性别识别等分别作为一个独立的任务,本实施例对此不作具体地限定。
相应地,待预测图像对应的多个任务包括但不限于,多个关键部位识别、多个关键部位的位置识别、年龄预测、身份特征预测和性别识别中的多种组合,本发明实施例对此不作具体限定。
图像属性包括但不限于,多个关键部位识别结果、多个关键部位的位置识别结果、年龄预测结果、身份特征预测结果和性别识别结果中的多种组合。
当样本图像中某一关键部位的识别标签缺失时,可利用该关键部位对应的识别模型,模拟生成该关键部位的属性模拟值。
然后,根据该关键部位的属性模拟值和样本图像的属性真实值对多任务学习模型进行训练。
在需要对待预测人脸图像进行属性预测时,可将待预测人脸图像输入训练后的多任务学习模型中,得到待预测人脸图像中多个关键部位识别结果、多个关键部位的位置识别结果、年龄预测结果、身份特征预测结果和性别识别结果中的多种组合。
本实施例通过利用每个任务对应的单任务学习模型,可以模拟生成每个任务下的样本图像的属性模拟值,以对样本图像中缺失的属性标签进行补充,进而使得每一样本图像均具有完整的属性标签;然后,再利用完整的属性标签进行迭代训练,得到多任务学习模型,基于多任务学习模型进行图片属性预测,在提高每一任务下的图片属性预测准确度的同时,可提高所有任务下图片属性预测准确度,从而实现准确、可靠且可应用于不同任务学习下的图片属性预测。
在上述实施例的基础上,本实施例中在所述将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值之前,还包括:确定所述样本图像对应的待处理任务;其中,所述待处理任务为所述多个任务中除所述样本图像的属性真实值所属的目标任务外的任务;将所述样本图像输入所述待处理任务对应的单任务学习模型中,得到所述待处理任务下所述样本图像的属性模拟值;其中,所述待处理任务对应的单任务学习模型,基于所述样本数据集中其他样本图像和所述待处理任务下所述其他样本图像的属性真实值进行训练获取;根据所述待处理任务下所述样本图像的属性模拟值和所述目标任务下所述样本图像的属性真实值,得到多个任务下所述样本图像的完整的属性标签;基于所述样本图像和多个任务下所述样本图像的属性标签,对所述多任务学习模型进行预训练;基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练。
其中,待处理任务为多个任务中除样本图像的已标注的属性真实值所属的目标任务外的任务,即未对图像属性进行标注的任务。
在对待处理任务对应的单任务学习模型进行训练时,可基于样本数据集中在待处理任务下具有真实标签(属性真实值)的其他样本图像进行训练获取。
可选地,每个任务对应的单任务学习模型,基于样本图像和每个任务下已标注样本图像和样本图像的属性真实值进行训练获取,具体训练步骤包括:首先根据样本数据集中各样本图像的属性真实值,将样本数据集按照任务级粒度划分为多个子样本数据集,每一子样本数据集中包含样本图像和单一任务下的属性真实值。
然后,分别基于每个子样本数据集,对每个任务对应的单任务学习模型进行迭代训练,直到每个任务对应的单任务学习模型收敛,以得到可以对每个任务下的图像属性进行准确预测的单任务学习模型。
多任务学习模型训练的步骤具体包括,通过上述单任务学习模型训练步骤,训练获取每个任务对应的单任务学习模型后,可以将待处理任务未标注属性的样本图像输入待处理任务对应的收敛后的单任务学习模型中,模拟生成待处理任务下样本图像的属性模拟值。
其中,对于分类任务,将样本图像输入单任务学习模型中,可得到单任务学习模型输出的样本图像对应的类别概率;对类别概率设置合理的阈值,根据阈值判断该任务下样本图像的分类结果,以获取该任务下样本图像的属性模拟值。
然后,将待处理任务下模拟生成的样本图像的属性模拟值和目标任务下样本图像的属性真实值作为标签,对多任务学习模型进行联合预训练,得到收敛后的多任务学习模型的网络权重,并将其作为多任务学习模型下一步训练的初始化权重。
对于多个分类任务下的多任务学习模型的联合训练,可根据样本图像和样本图像的多个属性标签(属性真实值和属性模拟值),对多任务学习模型进行联合训练,得到多任务学习模型的总损失函数,计算公式为:
在获取到损失函数后,可基于随机梯度下降等优化方法对多任务学习模型的参数进行更新。
在获取到预训练后的多任务学习模型后,将样本数据集重置为初始的不完整标注的数据集,即样本数据集为多个任务对应的子样本数据集;其中,每个子样本数据集中包含样本图像和单一目标任务下的属性真实值。
基于每个子样本数据集中的样本数据对预训练后的多任务学习模型进行两级迭代训练,以得到可对所有任务下的图像属性进行准确预测的多任务学习模型。在每次迭代过程中,基于每个子样本数据集中的样本数据对预训练后的多任务学习模型中的每一目标任务对应的分支网络进行单独训练,然后,再对所有目标任务下的训练结果进行综合。
需要说明的是,本实施例中的样本图像的数量为多个,多个样本图像对应的目标任务集合可覆盖多个任务中的所有任务,以使得训练后的多任务学习模型可对所有任务下的属性进行准确预测。
本实施例首先通过样本图像和每个任务下样本图像的属性模拟值或属性真实值,对多任务学习模型进行联合预训练;然后,再基于样本图像和样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练,使得训练后的多任务学习模型可对所有任务下的图像属性进行准确预测。
在上述实施例的基础上,本实施例中所述多任务学习模型包含共享模块和多个分支网络;其中,每个分支网络与每个任务一一对应;相应地,所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练,包括:基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化。
其中,多任务学习模型包含共享模块和多个分支网络;共享模块用于学习多个任务之间的共享特征,并将学习到的共享特征分别输入多个分支网络,以供多个分支网络根据共享特征预测出图像的属性值。
每个分支网络与每个任务一一对应,用于对每个任务下的图像属性进行预测。
可选地,在基于样本图像和每个目标任务下样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练的步骤包括,首先,基于样本图像和每个目标任务下样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练。
其中,再次训练的方式包括,对多任务学习模型中的共享模块和多个目标任务对应的分支网络进行串行训练或并行训练,本实例对此不作具体地限定。
然后,根据再次训练结果,对多任务学习模型的参数进行再次优化。
本实施例通过两级迭代的方式,可保证多任务学习模型中的共享模块和每个目标任务对应的分支网络均达到最优,进而可整体提高多任务学习模型的性能。
在上述实施例的基础上,本实施例中所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化,包括:对于每一次迭代训练,基于所述样本图像和每个目标任务下所述样本图像的属性真实值,分别对上一次迭代训练后的所述多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练,得到每个目标任务下的共享模块和分支网络的优化参数;根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化。
其中,对于第一次迭代训练,上一次迭代训练后的多任务学习模型通过样本图像和每个任务下样本图像的属性标签(属性真实值或属性模拟值)对多任务学习模型进行预训练后获取。
可选地,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练的具体步骤包括,在当前次迭代训练过程中,基于样本图像和每个目标任务下样本图像的属性真实值,分别对上一次迭代训练后的多任务学习模型中的共享模块和每个目标任务对应的分支网络进行并行训练,获取当前次迭代训练过程中每个目标任务下的共享模块和分支网络的优化参数。
然后,融合当前次迭代训练过程中所有目标任务下的共享模块的优化参数和分支网络的优化参数;根据融合结果对上一次迭代训练后的多任务学习模型的参数进行迭代优化,迭代执行上述迭训练过程中,直到满足预设终止条件;其中,预设终止条件包括多任务学习模型收敛或达到最大迭代次数等,本实施例对此不作具体地限定。
本实施例通过对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行并行迭代训练,每次迭代训练过程中,通过内部任务级的训练,可保证多任务学习模型中的共享模块和每个目标任务对应的分支网络达到最优;而在每次迭代训练过程,均会对多任务学习模型的参数进行微调,通过外部多次迭代训练,可使得多任务学习模型整体性能最优。
在上述实施例的基础上,本实施例中所述根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化,包括:将所有目标任务下的共享模块的优化参数进行融合,根据融合结果对上一次迭代训练后的所述多任务学习模型中共享模块的参数进行优化;根据每个目标任务下的分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型中每个目标任务对应的分支网络的参数进行优化。
可选地,由于共享模块为多任务学习模型中多个任务对应的分支网络的共有部分;在每个任务的训练下,均会获取一次共享模块的优化参数,因此,多个任务的并行训练下,可同时获取多次共享模块的优化参数。
在每一次迭代训练过程中,若获取到所有目标任务下的共享模块的优化参数,可对所有目标任务下共享模块的优化参数进行融合,以对上一次迭代训练后的多任务学习模型中共享模块的参数进行优化。
其中,融合的方式包括但不限于使用统计学对所有任务下共享模块的优化参数进行融合,或使用融合模型对所有任务下共享模块的优化参数进行融合等,本实施例对此不作具体地限定。
而每一分支网络与每一任务对应,因此,在每个目标任务的训练下,仅可获取该目标任务对应的分支网络的优化参数,因此,多个目标任务的并行训练下,可同时获取多个目标任务对应的分支网络的优化参数。
可将每个目标任务下的分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型中每个目标任务对应的分支网络的参数进行优化。
本实施例通过融合多个目标任务并行训练下多任务学习模型的优化参数,以使多任务学习模型整体性能最优。
在上述实施例的基础上,本实施例中所述将所有目标任务下的共享模块的优化参数进行融合,包括:计算所有目标任务下的共享模块的优化参数的平均值或加权平均值。
可选地,对所有目标任务下共享模块的优化参数进行融合的方式,包括直接将所有目标任务下共享模块的优化参数进行平均值计算,利用获取的平均值对上一次迭代训练后的所述多任务学习模型中共享模块的参数进行优化;
或者,先获取各目标任务下共享模块对应的权重,然后将各目标任务下共享模块的优化参数与相应的权重值进行相乘后,再进行平均值计算;利用获取的加权平均值对上一次迭代训练后的所述多任务学习模型中共享模块的参数进行优化。
其中,获取各目标任务下共享模块对应的权重,可以根据各目标任务下分支网络输出属性预测值的准确度或精确度等进行确定,或者使用权重分析法进行确定。其中,权重分析方法可以是层次分析方法、环比分析方法、主成分分析方法或熵值分析方法等,本实施例不限于权重分析方法的类型。
本实施例可采用多种方式对所有目标任务下共享模块的优化参数进行融合,以使训练后的多任务学习模型可对所有任务下的图像属性进行快速准确地预测。
在上述实施例的基础上,本实施例中所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化,包括:对于每一次迭代训练,基于所述样本图像和任一目标任务下所述样本图像的属性真实值,对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行再次训练,以对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络的参数进行优化;继续基于所述样本图像和其他目标任务中任一目标任务下所述样本图像的属性真实值,对再次训练后的共享模块和所述其他目标任务中该目标任务对应的分支网络进行再次训练,以对再次训练后的共享模块和所述其他目标任务中该目标任务对应的分支网络的参数进行优化,重复执行所述再次训练的过程,直到所有目标任务对应的分支网络均训练完成。
可选地,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练的具体步骤还包括,在每次迭代训练过程中,采用串行的方式对多任务学习模型的共享模块和多个分支网络进行再次训练。
可选地,在当前次迭代训练过程中,首先,从多个目标任务中任意选择一个目标任务下的样本图像的属性真实值,基于该目标任务下的样本图像的属性真实值和样本图像,对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行再次训练,获取当前次迭代训练过程中该目标任务下的共享模块和分支网络的优化参数;根据当前次迭代训练过程中该目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络的参数进行优化。
然后,继续在除选择的任务外剩余的其他目标任务中,任意选择一个目标任务下的样本图像的属性真实值;基于其他目标任务中该目标任务下的样本图像的属性真实值和样本图像,对再次训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行串行再次训练,获取当前次迭代训练过程中其他目标任务中该目标任务下的共享模块和分支网络的优化参数,以对再次训练后的共享模块的参数进行优化和上一次迭代训练后的该目标任务对应的分支网络的参数进行优化;重复执行上述任务级内部的再次训练过程,直到所有目标任务对应的分支网络均训练完成。
迭代执行上述外部迭代训练过程的过程,直到满足预设终止条件。
以下以具有M个任务的样本数据集为例,对本实施例中的多任务模型训练过程展开描述;
然后,在每次外部迭代训练过程中,串行执行M个任务级的内部迭代;在M次内部迭代中,每个任务级的内部迭代都需要进行损失函数计算和反向传播,并更新每个任务级下的共享模块和分支网络的参数。
如图2所示,任务的数量为5,在一次外部迭代训练过程中,先基于任务1下的样本图像的属性真实值对共享模块和任务1对应的分支网络的参数进行优化,然后,再基于任务2下的样本图像的属性真实值对任务1更新后的共享模块和任务2对应的分支网络的参数进行优化,串行执行上述任务级的内部迭代训练过程,直到所有任务对应的分支网络均训练完成。
本实施例通过对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行串行迭代训练,每次内部任务级训练,可保证多任务学习模型中的共享模块和每个目标任务对应的分支网络达到最优;而在每次外部迭代训练过程,均会对多任务学习模型的参数进行整体微调,通过这种两级迭代训练的方式,可使得多任务学习模型整体性能最优。
如图3所示,为本实施例中图片属性预测方法的整体流程示意图,主要包括如下步骤:
步骤一,单独训练每个任务对应的单任务学习模型;具体根据每个任务下已标注的样本图像和样本图像的属性真实值,分别对每个单任务学习模型进行训练获取,得到收敛后的多个单任务学习模型;
步骤二,利用训练好的多个单任务学习模型生成每个任务下样本图像的未标注的属性模拟值;
步骤三,根据生成的样本图像的属性模拟值和样本图像的属性真实值形成样本图像的完整属性标签,利用样本图像的完整属性标签对多任务学习模型进行预训练,得到收敛后的网络参数,以作为多任务学习模型的初始化权重;
步骤四,基于样本图像的属性真实值,使用两级迭代的方式对预训练后的多任务学习模型进行再次训练,得到可对所有任务下的图像属性进行准确预测的多任务学习模型。
下面对本发明提供的图片属性预测装置进行描述,下文描述的图片属性预测装置与上文描述的图片属性预测方法可相互对应参照。
如图4所示,本实施例提供一种图片属性预测装置,该装置包括:确定模块401和预测模块402,其中:
确定模块401用于确定待预测图像;
可选地,待预测图像即需要对图像在不同任务下的属性进行预测的图像;待预测图像可以是通过相机或者带有相机的智能终端拍摄得到,也可以是扫描得到,还可以是通过互联网传输或者下载得到;本实施例对待预测图像的来源不作具体限定。
可选地,待预测图像可以是包含人脸、车辆和动物等图像,本实施例不限于待预测图像的类型。
相应地,人脸图像在多任务下的属性包括但不限于,人脸识别结果和人脸年龄预测结果等;车辆图像在多任务下的属性包括但不限于,车辆类别结果、车牌识别结果和车辆位置预测结果等;动物图像在多任务下的属性包括但不限于,动物类别结果和动物位置预测结果等。
可以理解的是,在确定待预测图像后,可以对待预测图像进行预处理,包括但不限于,尺度归一化处理、图像对齐处理和滤波处理等,以提高图片属性预测的效率和精度。
预测模块402用于将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;
所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;
所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
其中,多任务学习模型可对多个任务进行同时学习,并同时输出多个任务下的学习结果。
多任务学习模型是基于样本图像及多任务下样本图像的属性标签(属性真实值和属性模拟值)进行训练获取;
可选地,首先获取每个任务下样本图像的属性标签;其中,每个任务下样本图像的属性标签可能是属性真实值,也可能是单任务模型输出的属性模拟值,本实施例对此不作具体地限定;
然后,根据每个任务下样本图像的属性标签和样本图像,对多任务学习模型进行训练,以得到可对所有任务下图像的属性进行准确预测的多任务学习模型。在针对需要在多个任务下进行图像属性预测时,可采用融合多个任务学习的多任务学习模型,对待预测图像进行属性预测。
其中,多任务学习模型可以是由卷积神经网络、循环神经网络和混合专家网络模型等进行构建生成,本实施例不对多任务学习模型的结构做具体地限定。
每个任务对应的单任务学习模型可以由卷积神经网络和循环神经网络等其他模型构建生成,具体可以结合图像特征、数据量大小和任务特征进行选取,本实施例不对单任务学习模型的结构做具体地限定。
可选地,对多任务学习模型进行预先训练,具体训练方式可以是联合训练也可以是两级迭代训练,本实施例对此不作具体地限定。
其中,联合训练可以是联合多任务学习模型中所有任务对应的分支网络的损失函数,对多任务学习模型进行联合训练;
两级迭代训练包括任务级内部迭代和整个模型级的常规外部迭代;即在任务级内部迭代是根据样本图像和每一任务下的属性标签对每一任务对应的分支网络进行单独训练,外部迭代是对所有任务下的训练结果进行综合。
具体训练步骤可以包括:首先,采集大量的样本图像,并获取每个任务对应的单任务学习模型;然后,通过每个任务对应的单任务学习模型对样本图像进行学习,获取每个任务下的样本图像的未标注属性模拟值;
最后,再根据样本图像和每个任务下样本图像的属性标签(属性真实值或属性模拟值),对多任务模型进行训练,得到多任务学习模型。
本发明实施例通过利用每个任务对应的单任务学习模型,可以模拟生成每个任务下的样本图像的属性模拟值,以对样本图像中缺失的属性标签进行补充,进而使得每一样本图像均具有完整的属性标签;然后,再利用完整的属性标签进行迭代训练,得到多任务学习模型,基于多任务学习模型进行图片属性预测,在提高每一任务下的图片属性预测准确度的同时,可提高所有任务下图片属性预测准确度,从而实现准确、可靠且可应用于不同任务学习下的图片属性预测。
在上述实施例的基础上,本实施例中还包括训练模块,用于:确定所述样本图像对应的待处理任务;其中,所述待处理任务为所述多个任务中除所述样本图像的属性真实值所属的目标任务外的任务;将所述样本图像输入所述待处理任务对应的单任务学习模型中,得到所述待处理任务下所述样本图像的属性模拟值;其中,所述待处理任务对应的单任务学习模型,基于所述样本数据集中其他样本图像和所述待处理任务下所述其他样本图像的属性真实值进行训练获取;根据所述待处理任务下所述样本图像的属性模拟值和所述目标任务下所述样本图像的属性真实值,得到多个任务下所述样本图像的完整的属性标签;基于所述样本图像和多个任务下所述样本图像的属性标签,对所述多任务学习模型进行预训练;基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练。
在上述实施例的基础上,本实施例中所述多任务学习模型包含共享模块和多个分支网络;其中,每个分支网络与每个任务一一对应;相应地,所述训练模块中的再次训练模块,用于:基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化。
在上述实施例的基础上,本实施例中再次训练模块,具体用于:对于每一次迭代训练,基于所述样本图像和每个目标任务下所述样本图像的属性真实值,分别对上一次迭代训练后的所述多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练,得到每个目标任务下的共享模块和分支网络的优化参数;根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化。
在上述实施例的基础上,本实施例中再次训练模,具体用于:将所有目标任务下的共享模块的优化参数进行融合,根据融合结果对上一次迭代训练后的所述多任务学习模型中共享模块的参数进行优化;根据每个目标任务下的分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型中每个目标任务对应的分支网络的参数进行优化。
在上述实施例的基础上,本实施例中再次训练模,具体用于:计算所有目标任务下的共享模块的优化参数的平均值或加权平均值。
在上述实施例的基础上,本实施例中再次训练模,还用于:对于每一次迭代训练,基于所述样本图像和任一目标任务下所述样本图像的属性真实值,对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行再次训练,以对上一次迭代训练后的多任务学习模型中的共享模块和该目标任务对应的分支网络的参数进行优化;继续基于所述样本图像和其他目标任务中任一目标任务下所述样本图像的属性真实值,对再次训练后的共享模块和所述其他目标任务中该目标任务对应的分支网络进行再次训练,以对再次训练后的共享模块和所述其他目标任务中该目标任务对应的分支网络的参数进行优化,重复执行所述再次训练的过程,直到所有目标任务对应的分支网络均训练完成。
图5示例了一种电子设备的实体结构示意图,如图5所示,该电子设备可以包括:处理器(processor)501、通信接口(Communications Interface)502、存储器(memory)503和通信总线504,其中,处理器501,通信接口502,存储器503通过通信总线504完成相互间的通信。处理器501可以调用存储器503中的逻辑指令,以执行图片属性预测方法,该方法包括:确定待预测图像;将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
此外,上述的存储器503中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,计算机程序可存储在非暂态计算机可读存储介质上,所述计算机程序被处理器执行时,计算机能够执行上述各方法所提供的图片属性预测方法,该方法包括:确定待预测图像;将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法提供的图片属性预测方法,该方法包括:确定待预测图像;将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;所述属性模拟值,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像进行属性预测获取。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (9)
1.一种图片属性预测方法,其特征在于,包括:
确定待预测图像;
将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;
所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;
所述未标记的属性模拟值是,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像中缺失的属性标签进行属性预测获取的;
所述多任务学习模型的具体训练步骤包括:基于所述样本图像和多个任务下所述样本图像的属性标签,对所述多任务学习模型进行预训练;基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练;
所述再次训练的步骤包括两级迭代训练;所述两级迭代训练包含外部迭代和内部迭代;
所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练,包括:
对于每一个内部迭代轮次,基于所述样本图像和任一目标任务下所述样本图像的属性真实值,对上一内部轮次迭代后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行继续训练,以对上一内部轮次迭代后的多任务学习模型中的共享模块和该目标任务对应的分支网络的参数进行优化;
继续基于所述样本图像和其他目标任务中的任一目标任务下所述样本图像的属性真实值,对所有目标任务的共享模块和所述其他目标任务中的该目标任务对应的分支网络进行一次内部迭代训练轮次,以对所述共享模块和所述其他目标任务中的该目标任务对应的分支网络的参数进行优化,重复执行所述内部迭代训练的过程,直到所有目标任务对应的分支网络均训练,以完成内部迭代训练过程;
然后迭代执行所述内部迭代训练过程,直至所述多任务学习模型在所有目标任务下均收敛,以完成外部迭代训练过程。
2.根据权利要求1所述的图片属性预测方法,其特征在于,在所述将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值之前,还包括:
确定所述样本图像对应的待处理任务;其中,所述待处理任务为所述多个任务中除所述样本图像的属性真实值所属的目标任务外的任务;
将所述样本图像输入所述待处理任务对应的单任务学习模型中,得到所述待处理任务下所述样本图像的属性模拟值;
其中,所述待处理任务对应的单任务学习模型,基于所述样本数据集中其他样本图像和所述待处理任务下所述其他样本图像的属性真实值进行训练获取;
根据所述待处理任务下所述样本图像的属性模拟值和所述目标任务下所述样本图像的属性真实值,得到多个任务下所述样本图像的完整的属性标签;
基于所述样本图像和多个任务下所述样本图像的属性标签,对所述多任务学习模型进行预训练;
基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练。
3.根据权利要求2所述的图片属性预测方法,其特征在于,所述多任务学习模型包含共享模块和多个分支网络;其中,每个分支网络与每个任务一一对应;
相应地,所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练,包括:
基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;
根据再次训练结果,对所述多任务学习模型的参数进行优化。
4.根据权利要求3所述的图片属性预测方法,其特征在于,所述基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练;根据再次训练结果,对所述多任务学习模型的参数进行优化,包括:
对于每一次迭代训练,基于所述样本图像和每个目标任务下所述样本图像的属性真实值,分别对上一次迭代训练后的所述多任务学习模型中的共享模块和每个目标任务对应的分支网络进行再次训练,得到每个目标任务下的共享模块和分支网络的优化参数;
根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化。
5.根据权利要求4所述的图片属性预测方法,其特征在于,所述根据所有目标任务下的共享模块和分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型的参数进行迭代优化,包括:
将所有目标任务下的共享模块的优化参数进行融合,根据融合结果对上一次迭代训练后的所述多任务学习模型中共享模块的参数进行优化;
根据每个目标任务下的分支网络的优化参数,对上一次迭代训练后的所述多任务学习模型中每个目标任务对应的分支网络的参数进行优化。
6.根据权利要求5所述的图片属性预测方法,其特征在于,所述将所有目标任务下的共享模块的优化参数进行融合,包括:
计算所有目标任务下的共享模块的优化参数的平均值或加权平均值。
7.一种图片属性预测装置,其特征在于,包括:
确定模块,用于确定待预测图像;
预测模块,用于将所述待预测图像输入多任务学习模型中,得到每个任务下所述待预测图像的属性预测值;
所述多任务学习模型,基于样本数据集中的样本图像和多个任务下所述样本图像的属性标签进行训练获取;所述属性标签包括已标注的属性真实值和未标注的属性模拟值;
所述未标记的属性模拟值是,基于所述属性模拟值所属的任务对应的单任务学习模型,对所述样本图像中缺失的属性标签进行属性预测获取的;
所述多任务学习模型的具体训练步骤包括:基于所述样本图像和多个任务下所述样本图像的属性标签,对所述多任务学习模型进行预训练;基于所述样本图像和每个目标任务下所述样本图像的属性真实值,对预训练后的多任务学习模型进行再次训练;
所述再次训练的步骤包括两级迭代训练;所述两级迭代训练包含外部迭代和内部迭代;
还包括训练模块,用于:
对于每一个内部迭代轮次,基于所述样本图像和任一目标任务下所述样本图像的属性真实值,对上一内部轮次迭代后的多任务学习模型中的共享模块和该目标任务对应的分支网络进行继续训练,以对上一内部轮次迭代后的多任务学习模型中的共享模块和该目标任务对应的分支网络的参数进行优化;
继续基于所述样本图像和其他目标任务中的任一目标任务下所述样本图像的属性真实值,对所有目标任务的共享模块和所述其他目标任务中的该目标任务对应的分支网络进行一次内部迭代训练轮次,以对所述共享模块和所述其他目标任务中的该目标任务对应的分支网络的参数进行优化,重复执行所述内部迭代训练的过程,直到所有目标任务对应的分支网络均训练,以完成内部迭代训练过程;
然后迭代执行所述内部迭代训练过程,直至所述多任务学习模型在所有目标任务下均收敛,以完成外部迭代训练过程。
8.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述图片属性预测方法的步骤。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述图片属性预测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210127165.XA CN114170484B (zh) | 2022-02-11 | 2022-02-11 | 图片属性预测方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210127165.XA CN114170484B (zh) | 2022-02-11 | 2022-02-11 | 图片属性预测方法、装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114170484A CN114170484A (zh) | 2022-03-11 |
CN114170484B true CN114170484B (zh) | 2022-05-27 |
Family
ID=80489673
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210127165.XA Active CN114170484B (zh) | 2022-02-11 | 2022-02-11 | 图片属性预测方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114170484B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114821538A (zh) * | 2022-05-19 | 2022-07-29 | 北京地平线机器人技术研发有限公司 | 一种多任务模型的训练方法及装置 |
CN114898186B (zh) * | 2022-07-12 | 2022-09-30 | 中科视语(北京)科技有限公司 | 细粒度图像识别模型训练、图像识别方法及装置 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113887643A (zh) * | 2021-10-12 | 2022-01-04 | 西安交通大学 | 一种基于伪标签自训练和源域再训练的新对话意图识别方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107977671B (zh) * | 2017-10-27 | 2021-10-26 | 浙江工业大学 | 一种基于多任务卷积神经网络的舌象分类方法 |
CN110263756A (zh) * | 2019-06-28 | 2019-09-20 | 东北大学 | 一种基于联合多任务学习的人脸超分辨率重建系统 |
CN110674756B (zh) * | 2019-09-25 | 2022-07-05 | 普联技术有限公司 | 人体属性识别模型训练方法、人体属性识别方法及装置 |
CN110728255B (zh) * | 2019-10-22 | 2022-12-16 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN111080551B (zh) * | 2019-12-13 | 2023-05-05 | 太原科技大学 | 基于深度卷积特征和语义近邻的多标签图像补全方法 |
US11132780B2 (en) * | 2020-02-14 | 2021-09-28 | Huawei Technologies Co., Ltd. | Target detection method, training method, electronic device, and computer-readable medium |
EP3913860A1 (en) * | 2020-05-22 | 2021-11-24 | Sandvine Corporation | System and method for determining subscriber experience in a computer network |
CN111524138B (zh) * | 2020-07-06 | 2020-09-22 | 湖南国科智瞳科技有限公司 | 一种基于多任务学习的显微图像细胞识别方法及装置 |
CN112561077B (zh) * | 2020-12-14 | 2022-06-21 | 北京百度网讯科技有限公司 | 多任务模型的训练方法、装置及电子设备 |
CN112598683B (zh) * | 2020-12-27 | 2024-04-02 | 北京化工大学 | 一种基于扫频光学相干层析成像的扫频oct人眼图像分割方法 |
-
2022
- 2022-02-11 CN CN202210127165.XA patent/CN114170484B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113887643A (zh) * | 2021-10-12 | 2022-01-04 | 西安交通大学 | 一种基于伪标签自训练和源域再训练的新对话意图识别方法 |
Non-Patent Citations (3)
Title |
---|
ALBERT 与双向GRU 的多标签灾情信息预测;李忠 等;《科学技术与工程》;20211218;第21卷(第35期);15284-15289 * |
Multi-attribute Residual Network (MAResNet) for Soft-Biometrics Recognition in Surveillance Scenarios;Esube bekele 等;《IEEE International Conference on Automatic Face & Gesture Recognition》;20170629;386-393 * |
结合深度学习和半监督学习的遥感影像分类进展;谭琨 等;《中国图象图形学报》;20191130;第24卷(第11期);1823-1841 * |
Also Published As
Publication number | Publication date |
---|---|
CN114170484A (zh) | 2022-03-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110147456B (zh) | 一种图像分类方法、装置、可读存储介质及终端设备 | |
CN109522942B (zh) | 一种图像分类方法、装置、终端设备和存储介质 | |
CN114170484B (zh) | 图片属性预测方法、装置、电子设备和存储介质 | |
CN114332578A (zh) | 图像异常检测模型训练方法、图像异常检测方法和装置 | |
CN111126481A (zh) | 一种神经网络模型的训练方法及装置 | |
CN113987236B (zh) | 基于图卷积网络的视觉检索模型的无监督训练方法和装置 | |
CN111291773A (zh) | 特征识别的方法及装置 | |
CN111738403A (zh) | 一种神经网络的优化方法及相关设备 | |
CN115082752A (zh) | 基于弱监督的目标检测模型训练方法、装置、设备及介质 | |
CN114611672A (zh) | 模型训练方法、人脸识别方法及装置 | |
CN115187772A (zh) | 目标检测网络的训练及目标检测方法、装置及设备 | |
CN114492601A (zh) | 资源分类模型的训练方法、装置、电子设备及存储介质 | |
CN113140012A (zh) | 图像处理方法、装置、介质及电子设备 | |
CN110097004B (zh) | 面部表情识别方法和装置 | |
CN111401193A (zh) | 获取表情识别模型的方法及装置、表情识别方法及装置 | |
CN113221695B (zh) | 训练肤色识别模型的方法、识别肤色的方法及相关装置 | |
CN113392867A (zh) | 一种图像识别方法、装置、计算机设备及存储介质 | |
CN109934352B (zh) | 智能模型的自动进化方法 | |
CN112861601A (zh) | 生成对抗样本的方法及相关设备 | |
CN111353577B (zh) | 基于多任务的级联组合模型的优化方法、装置及终端设备 | |
CN117058716A (zh) | 基于图像预融合的跨域行为识别方法及装置 | |
CN116958729A (zh) | 对象分类模型的训练、对象分类方法、装置及存储介质 | |
CN114445692B (zh) | 图像识别模型构建方法、装置、计算机设备及存储介质 | |
CN115713669A (zh) | 一种基于类间关系的图像分类方法、装置、存储介质及终端 | |
CN115063374A (zh) | 模型训练、人脸图像质量评分方法、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230915 Address after: Room A-6193, Building 3, No. 20 Yong'an Road, Long Economic Development Zone, Mentougou District, Beijing, 102300 Patentee after: OBJECTEYE (BEIJING) TECHNOLOGY Co.,Ltd. Patentee after: Sinovision (Jurong) Technology Co.,Ltd. Address before: 102300 room a-6193, building 3, No.20 Yong'an Road, Shilong Economic Development Zone, Mentougou District, Beijing Patentee before: OBJECTEYE (BEIJING) TECHNOLOGY Co.,Ltd. |