CN108256561A - 一种基于对抗学习的多源域适应迁移方法及系统 - Google Patents
一种基于对抗学习的多源域适应迁移方法及系统 Download PDFInfo
- Publication number
- CN108256561A CN108256561A CN201711468680.XA CN201711468680A CN108256561A CN 108256561 A CN108256561 A CN 108256561A CN 201711468680 A CN201711468680 A CN 201711468680A CN 108256561 A CN108256561 A CN 108256561A
- Authority
- CN
- China
- Prior art keywords
- source domain
- confrontation
- aiming field
- network
- multichannel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于对抗学习的多源域适应迁移方法及系统,所述方法包括如下步骤:步骤一,使用各源域数据进行预训练并初始化目标模型的表示网络和分类器;步骤二,使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器;步骤三,计算每个源域与目标域之间的对抗分数;步骤四,基于各源域的分类器和对抗分数对目标域进行分类;步骤五,选取高置信度的目标域伪样本微调目标模型的表示网络和分类器;步骤六,返回步骤二,进行步骤二‑五,直至模型收敛或达到最大迭代次数时停止训练,本发明可不再依赖单一源域标签集合与目标域一致的假设,并且可有效地避免多源域适应过程中存在的负迁移现象。
Description
技术领域
本发明涉及机器学习技术领域,特别是涉及一种基于对抗学习的多源域适应迁移方法及系统。
背景技术
随着大规模数据的不断产生和依靠人力进行信息标注的困难,域适应迁移方法逐渐成为机器学习领域中一项非常重要的研究课题。域适应学习旨在适配不同领域数据间的特征分布,提升不同领域间分类器迁移后的性能表现,解决目标域数据缺乏标注信息的难题。域适应迁移方法同时也是工业界的一项关键技术手段,在人脸识别、自动驾驶、医学影像等诸多领域均有重要应用。
目前,绝大部分的域适应学习方法主要关注在单一源域的迁移过程上,并依赖于单一源域标签集合与目标域一致的假设。Yaroslav Ganin等人在文献“Domain-Adversarial Training of Neural Networks”(Journal of Machine LearningResearch,2016,17(59):1-35)中公开了一种针对图像分类的单源域适应方法,其通过引入域间分类器对源域与目标域图像的特征分布进行对抗学习,得到一种领域无关的特征表示,提高目标域图像在迁移后的分类性能。然而,该类方法在现实场景中缺乏通用性,而且无法处理源域数据标签空间与目标域不一致的情形。
此外,Hongfu Liu等人在文献“Structure-Preserved Multi-source DomainAdaptation”(In IEEE 16th International Conference on Data Mining(ICDM),pages1059–1064.IEEE,2016)中提出一种保持多源域数据整体结构的方法进行目标任务的迁移,但该类方法往往忽略了不同领域数据间的差异性,无法避免多源域适应中存在的负迁移现象。
发明内容
为克服上述现有技术存在的不足,本发明之目的在于提供一种基于对抗学习的多源域适应迁移方法及系统,以将现有的一类基于对抗学习的单源域适应过程推广到多源域适应,不再依赖单一源域标签集合与目标域一致的假设,并且可有效地避免多源域适应过程中存在的负迁移现象。
为达上述及其它目的,本发明提出一种基于对抗学习的多源域适应迁移方法,包括如下步骤:
步骤一,使用各源域数据进行预训练并初始化目标模型的表示网络和分类器;
步骤二,使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器;
步骤三,计算每个源域与目标域之间的对抗分数;
步骤四,基于各源域的分类器和对抗分数对目标域进行分类;
步骤五,选取高置信度的目标域伪样本微调目标模型的表示网络和分类器;
步骤六,返回步骤二,进行步骤二-五,直至模型收敛或达到最大迭代次数时停止训练。
进一步地,步骤一进一步包括:
输入带标记的N个源域数据集以及输入无标记的目标域数据集;
使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练。
进一步地,所述使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练的步骤具体为根据如下优化目标:
更新目标模型中表示网络和多路分类器的参数,其中表示多路分类的损失函数,表示具体选取的损失函数类型,表示第sj路分类器,E表示所有样本损失值的期望,F(x)表示图像x经过表示网络F后的特征编码。
进一步地,步骤二进一步包括:
使用表示网络对多源域和目标域的图像进行特征提取;
将每一源域和目标域分别组成一对,输入多路判别器网络D进行判定训练,更新目标模型的表示网络和多路判别器。
进一步地,所述多路判别器网络D的更新策略为尽可能区分开输入特征是来自源域还是目标域,表示网络的更新策略是尽可能混淆特征,使得判别器网络无法区分输入特征是来自源域还是目标域。
进一步地,于步骤二中,更新多路判别器和表示网络的损失函数使用其最小二乘表示进行优化。
进一步地,于步骤三中,累加每一路判别器的损失值作为对应源域与目标域的对抗分数。
进一步地,于步骤四中,根据步骤三获得的对抗分数以及目标模型的表示网络F和多路分类器C对目标域的样本进行分类,并赋予伪标签。
进一步地,于步骤五中,在步骤四的基础上选取置信度大于设定阈值的样本组成目标域伪样本集合,并对目标模型的多路分类器进行微调,以获取在目标域上更加有效可分的特征编码。
为达到上述目的,本发明还提供一种基于对抗学习的多源域适应迁移系统,包括:
预训练单元,用于使用各源域数据进行预训练并初始化目标模型的表示网络和分类器;
多路对抗单元,用于使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器;
对抗分数计算单元,用于计算每个源域与目标域之间的对抗分数;
分类单元,用于基于各源域的分类器和对抗分数对目标域进行分类;
微调单元,用于选取高置信度的目标域伪样本微调目标模型的表示网络和分类器,并返回所述多路对抗单元进行训练,直至模型收敛或达到最大迭代次数时停止训练。
与现有技术相比,本发明将现有的单源域适应过程推广到多源域适应,使之不再依赖单一源域标签集合与目标域一致的假设,在现实场景中具有更强的通用性。此外,由于本发明基于对抗学习对不同领域间的特征进行适配,有效避免了负迁移现象的产生,比较明显地提升了域适应后的分类性能。
附图说明
图1为本发明一种基于对抗学习的多源域适应迁移方法的步骤流程图。
图2为本发明具体实施例以两个源域为例的基于对抗学习的多源域适应迁移方法的流程图。
图3为本发明具体实施例以两个源域为例的网络框架示意图。
图4为本发明具体实施例中展示两个源域(A、D)迁移到目标域(W)在域适应前后的可视化效果图。
图5为本发明一种基于对抗学习的多源域适应迁移系统的系统架构图。
具体实施方式
以下通过特定的具体实例并结合附图说明本发明的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本发明的其它优点与功效。本发明亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本发明的精神下进行各种修饰与变更。
图1为本发明一种基于对抗学习的多源域适应迁移方法的步骤流程图,图2为本发明具体实施例之基于对抗学习的多源域适应迁移方法的流程图。如图1及图2所示,本发明一种基于对抗学习的多源域适应迁移方法,包括如下步骤:
步骤101,使用各源域数据进行预训练并初始化目标模型的表示网络和分类器。
具体地,步骤101进一步包括:
步骤S100,输入带标记的N个源域数据集,其分布表示为其中sj表示第j个源域,x和y分别表示样本图像和对应标签。假定各源域的数据集合采样自不同的分布,其中和分别表示来自源域sj的图像和对应标签,同时,输入无标记的目标域数据集,其分布记为pt(x,y),对应图像集合记为在本发明具体实施例中,以两个源域为例,即输入源域S1和S2的图像和对应标签,输入目标域T的图像;
步骤S101,使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练,即根据如下优化目标更新目标模型中表示网络F和多路分类器C的参数:
其中表示多路分类的损失函数,而表示具体选取的损失函数类型,表示第sj路分类器,E表示所有样本损失值的期望,F(x)表示图像x经过表示网络F后的特征编码。
在本发明具体实施例中,所述多源域数据的标签集合的交集总和等于目标域的标签集合,即
步骤102,使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器。具体地,固定当前多路分类器C的参数,引入目标域图像数据进行多路对抗,步骤102进一步包括:
步骤S200,使用表示网络F对多源域和目标域的图像进行特征提取,在本发明具体实施例中,得到源域S1、S2以及目标域T的特征表示;
步骤S201,将每一源域sj和目标域t分别组成一对,例如S1和T,S2和T,输入多路判别器网络D进行判定训练,更新目标模型的表示网络和多路判别器。在本发明具体实施例中,多路判别器网络D的更新策略是尽可能区分开输入特征是来自源域还是目标域;而表示网络的更新策略是尽可能混淆特征,使得判别器网络无法区分输入特征是来自源域还是目标域。这一对抗过程使用公式表示如下:
其中分类损失函数如公式(1)中所示(但是分类器C的参数不更新),而对抗损失函数表示为:
其中表示第sj路判别器,E表示对应损失值的期望,F(x)表示图像x经过表示网络F后的特征编码。
优选地,于步骤S201中,多路对抗过程将回传困难样本的梯度用于更新目标模型的表示网络F。具体地,在所有源域中选择使得
并回传源域与目标域的对抗损失更新表示网络,其中M是当前迭代中的样本数量。
优选地,为使对抗的训练过程稳定,上述步骤102中更新多路判别器和表示网络的损失函数使用其最小二乘表示进行优化,即使用如下函数:优化多路判别器,使用优化表示网络。
步骤103,计算每个源域与目标域之间的对抗分数。在本发明具体实施例中,累加每一路判别器的损失值作为对应源域与目标域的对抗分数(表征域间相似性)。
步骤104,基于各源域的分类器和对抗分数对目标域进行分类。
具体地说,根据步骤103获得的对抗分数以及目标模型的表示网络F和多路分类器C对目标域的样本进行分类,并赋予伪标签。特别地,对于目标域中的第i个样本目标模型将其标记为第c类标签的置信度为
其中表示第sj路分类器将样本分类为第c类标签的概率,表示目标域与源域sk通过步骤103计算得到的对抗分数,表示第c类标签属于源域sj时对应的第sj路分类器才会参与计算该类标签的置信度。
直观上讲,目标模型通过表示网络F对图像进行特征提取,并利用多路分类器对特征进行分类,以对抗分数作为权重对分类结果进行加权平均,对抗分数越大,表明相应的源域与目标域越相近,则该路分类器的分类结果更可靠。
步骤105,选取高置信度的目标域伪样本微调目标模型的表示网络和分类器。
在本发明具体实施例中,在步骤104的基础上选取置信度大于设定阈值的样本组成目标域伪样本集合并对目标模型的多路分类器进行微调,以获取在目标域上更加有效可分的特征编码。具体地,基于优化目标:
更新目标模型的表示网络F和多路分类器C,表示源域的标签集合包含伪标签时,才对相应的第路分类器进行更新。
步骤106,返回步骤102,进行步骤102-105,直至模型收敛或达到最大迭代次数时停止训练。
以下将配合图2通过具体实施例来说明本发明:在本发明具体实施例中,以两个源域为例,调用开源深度学习框架Pytorch,开源机器学习库Scikit-learn中的可视化工具t-SNE,具体过程如下:
(1)源域与目标域图像的特征提取(图3左虚线框)
输入带标记的N(这里取N=2进行示意)个源域数据集(分别对应图4的A和D),其分布表示为其中sj表示第j个源域,x和y分别表示样本图像和对应标签。假定各源域的数据集合采样自不同的分布,其中和分别表示来自源域sj的图像和对应标签。同时,输入无标记的目标域数据集(对应图4的W),其分布记为pt(x,y),对应图像集合记为在每一次迭代中,各个源域与目标域均随机采样相同数量的训练样本,并通过参数共享的表示网络F进行特征表示。
(2)源域与目标域图像特征的多路对抗(图3中虚线框)
基于上述提取的图像特征,将每一源域sj和目标域t分别组成一对,输入多路判别器网络D进行判定。判别器网络的更新策略是尽可能区分开输入特征是来自源域还是目标域;而表示网络的更新策略是尽可能混淆特征,使得判别器网络无法区分输入特征是来自源域还是目标域。
由于在对抗学习的训练过程中容易产生梯度弥散的问题,为克服这一难题,更新多路判别器和表示网络的损失函数将采用其最小二乘表示进行优化,即使用优化多路判别器,使用优化表示网络,其中表示第sj路判别器。
由于多源域适应学习中存在负迁移的不利现象,本发明在多路对抗过程中回传困难样本的梯度用于更新目标模型的表示网络。具体地,在所有源域中选择使得并回传源域与目标域的对抗损失更新表示网络,其中M是当前迭代中的样本数量。
与此同时,本发明累加每一路判别器的损失值作为对应源域与目标域的对抗分数,用以表征域间相似性。判别器的损失值越大,则表明对应源域的特征与目标域越混淆、越相近。
(3)目标域样本的多路分类(图3右虚线框)
根据(2)获得的对抗分数以及目标模型的表示网络F和多路分类器C对目标域的样本进行分类,并赋予伪标签。特别地,对于目标域中的第i个样本目标模型将其标记为第c类标签的置信度为其中表示第sj路分类器将样本分类为第c类标签的概率,表示目标域与源域sk在多路对抗过程中计算得到的对抗分数,表示第c类标签属于源域sj时对应的第sj路分类器才会参与计算该类标签的置信度。直观上讲,目标模型通过表示网络F对图像进行特征提取,并利用多路分类器对特征进行分类,以对抗分数作为权重对分类结果进行加权平均,对抗分数越大,表明相应的源域与目标域越相近,则该路分类器的分类结果更可靠。在此基础上,选取置信度大于设定阈值的样本组成目标域伪样本集合并对目标模型的多路分类器进行微调,以获取在目标域上更加有效可分的特征编码。
图4展示了两个源域(A、D)迁移到目标域(W)在域适应前后的可视化效果,不同的图标形状表示不同的类别。为直观显示起见,我们将两个源域与目标域的特征进行逐对展示。通过图4(3)对比图4(1)、图4(4)对比图4(2)不难发现,使用了本发明的多源域适应迁移方法后,不同类别的类间距扩大,可分性更强,进而有助于提高目标域图像的分类精度。同时图4(4)对比图4(3)可以表明,D→W的域适应效果要好于A→W,而这也与对抗分数的高低相一致,表明本发明的方法能够区分不同领域间的差异性,避免在域间适应过程中发生负迁移的不利现象。
图5为本发明一种基于对抗学习的多源域适应迁移系统的系统架构图。如图5所示,本发明一种基于对抗学习的多源域适应迁移系统,包括:
预训练单元501,用于使用各源域数据进行预训练并初始化目标模型的表示网络和分类器。
具体地,预训练单元501进一步包括:
输入模块,用于输入带标记的N个源域数据集,其分布表示为其中sj表示第j个源域,x和y分别表示样本图像和对应标签。假定各源域的数据集合采样自不同的分布,其中和分别表示来自源域sj的图像和对应标签,同时,输入单元还输入无标记的目标域数据集,其分布记为pt(x,y),对应图像集合记为在本发明具体实施例中,以两个源域为例,即输入源域S1和S2的图像和对应标签,输入目标域T的图像;
预训练模块,用于使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练,即根据优化目标更新目标模型中表示网络和多路分类器的参数,其中表示选取的损失函数类型,表示第sj路分类器。
在本发明具体实施例中,所述多源域数据的标签集合的交集总和等于目标域的标签集合,即
多路对抗单元502,用于使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器。具体地,多路对抗单元502固定当前多路分类器C的参数,引入目标域图像数据进行多路对抗,多路对抗单元502进一步包括:
特征提取模块,用于使用表示网络F对多源域和目标域的图像进行特征提取,在本发明具体实施例中,得到源域S1、S2以及目标域T的特征表示;
训练更新模块,用于将每一源域sj和目标域t分别组成一对,例如S1和T,S2和T,输入多路判别器网络D进行判定训练,更新目标模型的表示网络和多路判别器。在本发明具体实施例中,多路判别器网络D的更新策略是尽可能区分开输入特征是来自源域还是目标域;而表示网络的更新策略是尽可能混淆特征,使得判别器网络无法区分输入特征是来自源域还是目标域。
优选地,于多路对抗单元502中,多路对抗过程将回传困难样本的梯度用于更新目标模型的表示网络。
优选地,为使对抗的训练过程稳定,上述多路对抗单元502中更新多路判别器和表示网络的损失函数使用其最小二乘表示进行优化。
对抗分数计算单元503,用于计算每个源域与目标域之间的对抗分数。在本发明具体实施例中,对抗分数计算单元503累加每一路判别器的损失值作为对应源域与目标域的对抗分数(表征域间相似性)。
分类单元504,用于基于各源域的分类器和对抗分数对目标域进行分类。
具体地说,根据对抗分数计算单元503获得的对抗分数以及目标模型的表示网络F和多路分类器C对目标域的样本进行分类,并赋予伪标签。
直观上讲,目标模型通过表示网络F对图像进行特征提取,并利用多路分类器对特征进行分类,以对抗分数作为权重对分类结果进行加权平均,对抗分数越大,表明相应的源域与目标域越相近,则该路分类器的分类结果更可靠。
微调单元505,用于选取高置信度的目标域伪样本微调目标模型的表示网络和分类器,并返回多路对抗单元502进行训练,直至模型收敛或达到最大迭代次数时停止训练。
在本发明具体实施例中,微调单元505在分类单元504的基础上选取置信度大于设定阈值的样本组成目标域伪样本集合并对目标模型的多路分类器进行微调,以获取在目标域上更加有效可分的特征编码。
可见,本发明将现有的单源域适应过程推广到多源域适应,使之不再依赖单一源域标签集合与目标域一致的假设,在现实场景中具有更强的通用性。此外,由于本发明基于对抗学习对不同领域间的特征进行适配,有效避免了负迁移现象的产生,比较明显地提升了域适应后的分类性能。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何本领域技术人员均可在不违背本发明的精神及范畴下,对上述实施例进行修饰与改变。因此,本发明的权利保护范围,应如权利要求书所列。
Claims (10)
1.一种基于对抗学习的多源域适应迁移方法,包括如下步骤:
步骤一,使用各源域数据进行预训练并初始化目标模型的表示网络和分类器;
步骤二,使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器;
步骤三,计算每个源域与目标域之间的对抗分数;
步骤四,基于各源域的分类器和对抗分数对目标域进行分类;
步骤五,选取高置信度的目标域伪样本微调目标模型的表示网络和分类器;
步骤六,返回步骤二,进行步骤二-五,直至模型收敛或达到最大迭代次数时停止训练。
2.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于,步骤一进一步包括:
输入带标记的N个源域数据集以及输入无标记的目标域数据集;
使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练。
3.如权利要求2所述的一种基于对抗学习的多源域适应迁移方法,其特征在于,所述使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练的步骤具体为根据如下优化目标:
更新目标模型中表示网络和多路分类器的参数,其中表示多路分类的损失函数,表示具体选取的损失函数类型,表示第sj路分类器,E表示所有样本损失值的期望,F(x)表示图像x经过表示网络F后的特征编码。
4.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于,步骤二进一步包括:
使用表示网络对多源域和目标域的图像进行特征提取;
将每一源域和目标域分别组成一对,输入多路判别器网络D进行判定训练,更新目标模型的表示网络和多路判别器。
5.如权利要求4所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:所述多路判别器网络D的更新策略为尽可能区分开输入特征是来自源域还是目标域,表示网络的更新策略是尽可能混淆特征,使得判别器网络无法区分输入特征是来自源域还是目标域。
6.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤二中,更新多路判别器和表示网络的损失函数使用其最小二乘表示进行优化。
7.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤三中,累加每一路判别器的损失值作为对应源域与目标域的对抗分数。
8.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤四中,根据步骤三获得的对抗分数以及目标模型的表示网络F和多路分类器C对目标域的样本进行分类,并赋予伪标签。
9.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤五中,在步骤四的基础上选取置信度大于设定阈值的样本组成目标域伪样本集合,并对目标模型的多路分类器进行微调,以获取在目标域上更加有效可分的特征编码。
10.一种基于对抗学习的多源域适应迁移系统,包括:
预训练单元,用于使用各源域数据进行预训练并初始化目标模型的表示网络和分类器;
多路对抗单元,用于使用多源域数据与目标域数据进行多路对抗,更新目标模型的表示网络和多路判别器;
对抗分数计算单元,用于计算每个源域与目标域之间的对抗分数;
分类单元,用于基于各源域的分类器和对抗分数对目标域进行分类;
微调单元,用于选取高置信度的目标域伪样本微调目标模型的表示网络和分类器,并返回所述多路对抗单元进行训练,直至模型收敛或达到最大迭代次数时停止训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711468680.XA CN108256561B (zh) | 2017-12-29 | 2017-12-29 | 一种基于对抗学习的多源域适应迁移方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711468680.XA CN108256561B (zh) | 2017-12-29 | 2017-12-29 | 一种基于对抗学习的多源域适应迁移方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108256561A true CN108256561A (zh) | 2018-07-06 |
CN108256561B CN108256561B (zh) | 2020-06-16 |
Family
ID=62724910
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711468680.XA Active CN108256561B (zh) | 2017-12-29 | 2017-12-29 | 一种基于对抗学习的多源域适应迁移方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108256561B (zh) |
Cited By (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109523018A (zh) * | 2019-01-08 | 2019-03-26 | 重庆邮电大学 | 一种基于深度迁移学习的图片分类方法 |
CN109710636A (zh) * | 2018-11-13 | 2019-05-03 | 广东工业大学 | 一种基于深度迁移学习的无监督工业系统异常检测方法 |
CN109948648A (zh) * | 2019-01-31 | 2019-06-28 | 中山大学 | 一种基于元对抗学习的多目标域适应迁移方法及系统 |
CN110188829A (zh) * | 2019-05-31 | 2019-08-30 | 北京市商汤科技开发有限公司 | 神经网络的训练方法、目标识别的方法及相关产品 |
CN110348579A (zh) * | 2019-05-28 | 2019-10-18 | 北京理工大学 | 一种领域自适应迁移特征方法及系统 |
CN110569985A (zh) * | 2019-03-09 | 2019-12-13 | 华南理工大学 | 基于在线和离线决策集成学习的在线异构迁移学习的方法 |
CN110674849A (zh) * | 2019-09-02 | 2020-01-10 | 昆明理工大学 | 基于多源域集成迁移的跨领域情感分类方法 |
CN110807194A (zh) * | 2019-10-17 | 2020-02-18 | 新华三信息安全技术有限公司 | 一种webshell检测方法及装置 |
CN111161239A (zh) * | 2019-12-27 | 2020-05-15 | 上海联影智能医疗科技有限公司 | 医学图像分析方法、装置、存储介质及计算机设备 |
CN111209935A (zh) * | 2019-12-26 | 2020-05-29 | 武汉安视感知科技有限公司 | 基于自适应域转移的无监督目标检测方法及系统 |
CN111275092A (zh) * | 2020-01-17 | 2020-06-12 | 电子科技大学 | 一种基于无监督域适应的图像分类方法 |
CN111310852A (zh) * | 2020-03-08 | 2020-06-19 | 桂林电子科技大学 | 一种图像分类方法及系统 |
CN111382568A (zh) * | 2020-05-29 | 2020-07-07 | 腾讯科技(深圳)有限公司 | 分词模型的训练方法和装置、存储介质和电子设备 |
CN111444952A (zh) * | 2020-03-24 | 2020-07-24 | 腾讯科技(深圳)有限公司 | 样本识别模型的生成方法、装置、计算机设备和存储介质 |
CN111444951A (zh) * | 2020-03-24 | 2020-07-24 | 腾讯科技(深圳)有限公司 | 样本识别模型的生成方法、装置、计算机设备和存储介质 |
CN111523680A (zh) * | 2019-12-23 | 2020-08-11 | 中山大学 | 一种基于Fredholm学习和对抗学习的域适应方法 |
CN111610768A (zh) * | 2020-06-10 | 2020-09-01 | 中国矿业大学 | 基于相似度多源域迁移学习策略的间歇过程质量预测方法 |
CN111723691A (zh) * | 2020-06-03 | 2020-09-29 | 北京的卢深视科技有限公司 | 一种三维人脸识别方法、装置、电子设备及存储介质 |
CN111860677A (zh) * | 2020-07-29 | 2020-10-30 | 湖南科技大学 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
CN111882055A (zh) * | 2020-06-15 | 2020-11-03 | 电子科技大学 | 一种基于CycleGAN与伪标签的目标检测自适应模型的构建方法 |
CN111950608A (zh) * | 2020-06-12 | 2020-11-17 | 中国科学院大学 | 一种基于对比损失的域自适应物体检测方法 |
CN112215405A (zh) * | 2020-09-23 | 2021-01-12 | 国网甘肃省电力公司营销服务中心 | 一种基于dann域适应学习的非侵入式居民用电负荷分解方法 |
CN112417940A (zh) * | 2019-08-20 | 2021-02-26 | 通用汽车环球科技运作有限责任公司 | 用于图像分析的域适应 |
CN112766334A (zh) * | 2021-01-08 | 2021-05-07 | 厦门大学 | 一种基于伪标签域适应的跨域图像分类方法 |
CN112836795A (zh) * | 2021-01-27 | 2021-05-25 | 西安理工大学 | 一种多源非均衡域自适应方法 |
CN112906857A (zh) * | 2021-01-21 | 2021-06-04 | 商汤国际私人有限公司 | 一种网络训练方法及装置、电子设备和存储介质 |
CN112990387A (zh) * | 2021-05-17 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 模型优化方法、相关设备及存储介质 |
WO2021159742A1 (zh) * | 2020-02-10 | 2021-08-19 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置和存储介质 |
CN113468323A (zh) * | 2021-06-01 | 2021-10-01 | 成都数之联科技有限公司 | 争议焦点类别及相似判断方法及系统及装置及推荐方法 |
CN113486827A (zh) * | 2021-07-13 | 2021-10-08 | 上海中科辰新卫星技术有限公司 | 基于域对抗与自监督的多源遥感影像迁移学习方法 |
CN113762466A (zh) * | 2021-08-02 | 2021-12-07 | 国网河南省电力公司信息通信公司 | 电力物联网流量分类方法及装置 |
WO2022123380A1 (en) * | 2020-12-08 | 2022-06-16 | International Business Machines Corporation | Adversarial semi-supervised one-shot learning |
CN114841137A (zh) * | 2022-04-18 | 2022-08-02 | 北京百度网讯科技有限公司 | 模型获取方法、装置、电子设备及存储介质 |
CN114998602A (zh) * | 2022-08-08 | 2022-09-02 | 中国科学技术大学 | 基于低置信度样本对比损失的域适应学习方法及系统 |
CN116580255A (zh) * | 2023-07-13 | 2023-08-11 | 华南师范大学 | 多源域多目标域自适应方法、装置与电子设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103649294A (zh) * | 2011-04-29 | 2014-03-19 | 贝克顿·迪金森公司 | 多路分类系统和方法 |
CN106056043A (zh) * | 2016-05-19 | 2016-10-26 | 中国科学院自动化研究所 | 基于迁移学习的动物行为识别方法和装置 |
CN107103364A (zh) * | 2017-03-28 | 2017-08-29 | 上海大学 | 一种基于多源域的任务拆分迁移学习预测方法 |
-
2017
- 2017-12-29 CN CN201711468680.XA patent/CN108256561B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103649294A (zh) * | 2011-04-29 | 2014-03-19 | 贝克顿·迪金森公司 | 多路分类系统和方法 |
CN106056043A (zh) * | 2016-05-19 | 2016-10-26 | 中国科学院自动化研究所 | 基于迁移学习的动物行为识别方法和装置 |
CN107103364A (zh) * | 2017-03-28 | 2017-08-29 | 上海大学 | 一种基于多源域的任务拆分迁移学习预测方法 |
Non-Patent Citations (2)
Title |
---|
FRIEDHELM SCHWENKER: "Pattern classification and clustering: A review of partially supervised learning approaches", 《ELSEVIER》 * |
李力: "平行学习—机器学习的一个新型理论框架", 《自动化学报》 * |
Cited By (60)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109710636A (zh) * | 2018-11-13 | 2019-05-03 | 广东工业大学 | 一种基于深度迁移学习的无监督工业系统异常检测方法 |
CN109710636B (zh) * | 2018-11-13 | 2022-10-21 | 广东工业大学 | 一种基于深度迁移学习的无监督工业系统异常检测方法 |
CN109523018B (zh) * | 2019-01-08 | 2022-10-18 | 重庆邮电大学 | 一种基于深度迁移学习的图片分类方法 |
CN109523018A (zh) * | 2019-01-08 | 2019-03-26 | 重庆邮电大学 | 一种基于深度迁移学习的图片分类方法 |
CN109948648A (zh) * | 2019-01-31 | 2019-06-28 | 中山大学 | 一种基于元对抗学习的多目标域适应迁移方法及系统 |
CN110569985A (zh) * | 2019-03-09 | 2019-12-13 | 华南理工大学 | 基于在线和离线决策集成学习的在线异构迁移学习的方法 |
CN110348579A (zh) * | 2019-05-28 | 2019-10-18 | 北京理工大学 | 一种领域自适应迁移特征方法及系统 |
CN110348579B (zh) * | 2019-05-28 | 2023-08-29 | 北京理工大学 | 一种领域自适应迁移特征方法及系统 |
CN110188829B (zh) * | 2019-05-31 | 2022-01-28 | 北京市商汤科技开发有限公司 | 神经网络的训练方法、目标识别的方法及相关产品 |
CN110188829A (zh) * | 2019-05-31 | 2019-08-30 | 北京市商汤科技开发有限公司 | 神经网络的训练方法、目标识别的方法及相关产品 |
CN112417940B (zh) * | 2019-08-20 | 2024-02-23 | 通用汽车环球科技运作有限责任公司 | 用于图像分析的域适应 |
CN112417940A (zh) * | 2019-08-20 | 2021-02-26 | 通用汽车环球科技运作有限责任公司 | 用于图像分析的域适应 |
CN110674849A (zh) * | 2019-09-02 | 2020-01-10 | 昆明理工大学 | 基于多源域集成迁移的跨领域情感分类方法 |
CN110807194A (zh) * | 2019-10-17 | 2020-02-18 | 新华三信息安全技术有限公司 | 一种webshell检测方法及装置 |
CN111523680A (zh) * | 2019-12-23 | 2020-08-11 | 中山大学 | 一种基于Fredholm学习和对抗学习的域适应方法 |
CN111523680B (zh) * | 2019-12-23 | 2023-05-12 | 中山大学 | 一种基于Fredholm学习和对抗学习的域适应方法 |
CN111209935A (zh) * | 2019-12-26 | 2020-05-29 | 武汉安视感知科技有限公司 | 基于自适应域转移的无监督目标检测方法及系统 |
CN111161239A (zh) * | 2019-12-27 | 2020-05-15 | 上海联影智能医疗科技有限公司 | 医学图像分析方法、装置、存储介质及计算机设备 |
CN111161239B (zh) * | 2019-12-27 | 2024-02-27 | 上海联影智能医疗科技有限公司 | 医学图像分析方法、装置、存储介质及计算机设备 |
CN111275092A (zh) * | 2020-01-17 | 2020-06-12 | 电子科技大学 | 一种基于无监督域适应的图像分类方法 |
CN111275092B (zh) * | 2020-01-17 | 2022-05-13 | 电子科技大学 | 一种基于无监督域适应的图像分类方法 |
WO2021159742A1 (zh) * | 2020-02-10 | 2021-08-19 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置和存储介质 |
CN111310852B (zh) * | 2020-03-08 | 2022-08-12 | 桂林电子科技大学 | 一种图像分类方法及系统 |
CN111310852A (zh) * | 2020-03-08 | 2020-06-19 | 桂林电子科技大学 | 一种图像分类方法及系统 |
CN111444951A (zh) * | 2020-03-24 | 2020-07-24 | 腾讯科技(深圳)有限公司 | 样本识别模型的生成方法、装置、计算机设备和存储介质 |
CN111444951B (zh) * | 2020-03-24 | 2024-02-20 | 腾讯科技(深圳)有限公司 | 样本识别模型的生成方法、装置、计算机设备和存储介质 |
CN111444952B (zh) * | 2020-03-24 | 2024-02-20 | 腾讯科技(深圳)有限公司 | 样本识别模型的生成方法、装置、计算机设备和存储介质 |
CN111444952A (zh) * | 2020-03-24 | 2020-07-24 | 腾讯科技(深圳)有限公司 | 样本识别模型的生成方法、装置、计算机设备和存储介质 |
CN111382568A (zh) * | 2020-05-29 | 2020-07-07 | 腾讯科技(深圳)有限公司 | 分词模型的训练方法和装置、存储介质和电子设备 |
CN111723691B (zh) * | 2020-06-03 | 2023-10-17 | 合肥的卢深视科技有限公司 | 一种三维人脸识别方法、装置、电子设备及存储介质 |
CN111723691A (zh) * | 2020-06-03 | 2020-09-29 | 北京的卢深视科技有限公司 | 一种三维人脸识别方法、装置、电子设备及存储介质 |
CN111610768A (zh) * | 2020-06-10 | 2020-09-01 | 中国矿业大学 | 基于相似度多源域迁移学习策略的间歇过程质量预测方法 |
CN111610768B (zh) * | 2020-06-10 | 2021-03-19 | 中国矿业大学 | 基于相似度多源域迁移学习策略的间歇过程质量预测方法 |
CN111950608A (zh) * | 2020-06-12 | 2020-11-17 | 中国科学院大学 | 一种基于对比损失的域自适应物体检测方法 |
CN111882055A (zh) * | 2020-06-15 | 2020-11-03 | 电子科技大学 | 一种基于CycleGAN与伪标签的目标检测自适应模型的构建方法 |
CN111882055B (zh) * | 2020-06-15 | 2022-08-05 | 电子科技大学 | 一种基于CycleGAN与伪标签的目标检测自适应模型的构建方法 |
CN111860677A (zh) * | 2020-07-29 | 2020-10-30 | 湖南科技大学 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
CN111860677B (zh) * | 2020-07-29 | 2023-11-21 | 湖南科技大学 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
CN112215405B (zh) * | 2020-09-23 | 2024-04-16 | 国网甘肃省电力公司电力科学研究院 | 一种基于dann域适应学习的非侵入式居民用电负荷分解方法 |
CN112215405A (zh) * | 2020-09-23 | 2021-01-12 | 国网甘肃省电力公司营销服务中心 | 一种基于dann域适应学习的非侵入式居民用电负荷分解方法 |
WO2022123380A1 (en) * | 2020-12-08 | 2022-06-16 | International Business Machines Corporation | Adversarial semi-supervised one-shot learning |
GB2616227A (en) * | 2020-12-08 | 2023-08-30 | Ibm | Adversarial semi-supervised one-shot learning |
AU2021396607B2 (en) * | 2020-12-08 | 2023-10-05 | International Business Machines Corporation | Adversarial semi-supervised one-shot learning |
CN112766334B (zh) * | 2021-01-08 | 2022-06-21 | 厦门大学 | 一种基于伪标签域适应的跨域图像分类方法 |
CN112766334A (zh) * | 2021-01-08 | 2021-05-07 | 厦门大学 | 一种基于伪标签域适应的跨域图像分类方法 |
CN112906857B (zh) * | 2021-01-21 | 2024-03-19 | 商汤国际私人有限公司 | 一种网络训练方法及装置、电子设备和存储介质 |
CN112906857A (zh) * | 2021-01-21 | 2021-06-04 | 商汤国际私人有限公司 | 一种网络训练方法及装置、电子设备和存储介质 |
CN112836795B (zh) * | 2021-01-27 | 2023-08-18 | 西安理工大学 | 一种多源非均衡域自适应方法 |
CN112836795A (zh) * | 2021-01-27 | 2021-05-25 | 西安理工大学 | 一种多源非均衡域自适应方法 |
CN112990387B (zh) * | 2021-05-17 | 2021-07-20 | 腾讯科技(深圳)有限公司 | 模型优化方法、相关设备及存储介质 |
CN112990387A (zh) * | 2021-05-17 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 模型优化方法、相关设备及存储介质 |
CN113468323A (zh) * | 2021-06-01 | 2021-10-01 | 成都数之联科技有限公司 | 争议焦点类别及相似判断方法及系统及装置及推荐方法 |
CN113486827B (zh) * | 2021-07-13 | 2023-12-08 | 上海中科辰新卫星技术有限公司 | 基于域对抗与自监督的多源遥感影像迁移学习方法 |
CN113486827A (zh) * | 2021-07-13 | 2021-10-08 | 上海中科辰新卫星技术有限公司 | 基于域对抗与自监督的多源遥感影像迁移学习方法 |
CN113762466B (zh) * | 2021-08-02 | 2023-06-20 | 国网河南省电力公司信息通信公司 | 电力物联网流量分类方法及装置 |
CN113762466A (zh) * | 2021-08-02 | 2021-12-07 | 国网河南省电力公司信息通信公司 | 电力物联网流量分类方法及装置 |
CN114841137A (zh) * | 2022-04-18 | 2022-08-02 | 北京百度网讯科技有限公司 | 模型获取方法、装置、电子设备及存储介质 |
CN114998602A (zh) * | 2022-08-08 | 2022-09-02 | 中国科学技术大学 | 基于低置信度样本对比损失的域适应学习方法及系统 |
CN116580255B (zh) * | 2023-07-13 | 2023-09-26 | 华南师范大学 | 多源域多目标域自适应方法、装置与电子设备 |
CN116580255A (zh) * | 2023-07-13 | 2023-08-11 | 华南师范大学 | 多源域多目标域自适应方法、装置与电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN108256561B (zh) | 2020-06-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108256561A (zh) | 一种基于对抗学习的多源域适应迁移方法及系统 | |
Abdel-Raouf et al. | A novel hybrid flower pollination algorithm with chaotic harmony search for solving sudoku puzzles | |
CN109948648A (zh) | 一种基于元对抗学习的多目标域适应迁移方法及系统 | |
CN110210551A (zh) | 一种基于自适应主体敏感的视觉目标跟踪方法 | |
CN107871497A (zh) | 语音识别方法和装置 | |
CN107735795A (zh) | 用于社会关系识别的方法和系统 | |
CN107292813A (zh) | 一种基于生成对抗网络的多姿态人脸生成方法 | |
CN112734775A (zh) | 图像标注、图像语义分割、模型训练方法及装置 | |
CN109961145A (zh) | 一种针对图像识别模型分类边界敏感的对抗样本生成方法 | |
CN110097094A (zh) | 一种面向人物交互的多重语义融合少样本分类方法 | |
CN107993238A (zh) | 一种基于注意力模型的头肩部分图像分割方法及装置 | |
CN110334589A (zh) | 一种基于空洞卷积的高时序3d神经网络的动作识别方法 | |
CN108090070A (zh) | 一种中文实体属性抽取方法 | |
CN109344285A (zh) | 一种面向监控的视频图谱构建和挖掘方法、设备 | |
CN106778852A (zh) | 一种修正误判的图像内容识别方法 | |
CN108074016B (zh) | 基于位置社交网络的用户关系强度预测方法、装置及设备 | |
CN107679110A (zh) | 结合文本分类与图片属性提取完善知识图谱的方法及装置 | |
CN108154156A (zh) | 基于神经主题模型的图像集成分类方法及装置 | |
CN109800785A (zh) | 一种基于自表达相关的数据分类方法和装置 | |
CN107526831A (zh) | 一种自然语言处理方法和装置 | |
CN105446955A (zh) | 一种自适应的分词方法 | |
CN109074499A (zh) | 用于对象重识别的方法和系统 | |
González-Brenes | Modeling skill acquisition over time with sequence and topic modeling | |
CN104376538B (zh) | 一种图像的稀疏去噪方法 | |
CN112508108B (zh) | 一种基于字根的零样本汉字识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Lin Jing Inventor after: Chen Ziliang Inventor after: Wang Keze Inventor after: Xu Ruijia Inventor before: Lin Jing Inventor before: Chen Ziliang Inventor before: Wang Keze Inventor before: Xu Ruijia |
|
CB03 | Change of inventor or designer information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |