CN114444605A - 一种基于双重不平衡场景下的无监督域适应方法 - Google Patents

一种基于双重不平衡场景下的无监督域适应方法 Download PDF

Info

Publication number
CN114444605A
CN114444605A CN202210113276.5A CN202210113276A CN114444605A CN 114444605 A CN114444605 A CN 114444605A CN 202210113276 A CN202210113276 A CN 202210113276A CN 114444605 A CN114444605 A CN 114444605A
Authority
CN
China
Prior art keywords
class
loss
domain
sample
target domain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210113276.5A
Other languages
English (en)
Other versions
CN114444605B (zh
Inventor
汪云云
陈渠川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202210113276.5A priority Critical patent/CN114444605B/zh
Publication of CN114444605A publication Critical patent/CN114444605A/zh
Application granted granted Critical
Publication of CN114444605B publication Critical patent/CN114444605B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于双重不平衡场景下的无监督域适应方法，该方法在领域间迁移能容忍数据不平衡的知识，帮助无标签的不平衡数据达到较好的分类效果，其主要由三个部分组成，类对比知识迁移、类关联知识迁移和判别型的特征对齐；构建了一个端到端的网络模型，将源域数据样本和目标域数据样本输入到共同的特征提取器中，减少判别型的最大均值差异，使得跨域的相同类对齐、不同类分离；采用类对比损失来限制特定类样本的分类得分应该高于其他类样本的分类得分，减少对标签分布的依赖，减轻数据不平衡对模型的影响，从源域数据样本中学习类之间的相关性向量，将类间的关联知识也迁移到目标域中，进一步提高模型的泛化性能。

Description

一种基于双重不平衡场景下的无监督域适应方法
技术领域
本发明属于机器学习技术领域，尤其涉及一种基于双重不平衡场景下的无监督域适应方法。
背景技术
大数据时代的来临使数据的产生速度不断加快，数据的体量发生了巨大增长，机器学习凭借强大的数据处理能力得到了越来越多的关注。数据的快速增多使得机器学习与深度学习可以依赖更多的数据，持续不断地训练和更新模型，模型的性能和适用性也越来越好，机器学习技术已经在许多实际应用中取得了巨大成功，但在某些现实场景中仍然存在一定的局限性；传统的机器学习需要利用足够多的有标记数据进行训练才能获得分类性能较好的模型，这就产生了机器学习领域的一个新问题，即如何利用有限的有标记数据获得一个较好的泛化模型，从而对无标记数据进行正确的预测。
迁移学习应运而生，迁移学习的含义是运用不同领域的数据之间存在的关联特性，将曾经在一个领域学得的信息用到一个全新的另一个不同的领域中去。两个领域之间的相似度越高，就越容易进行迁移，相反就越难进行迁移，容易起到反作用，产生负迁移的现象。迁移学习包括源域(Source Domain)和目标域(Target Domain)这两个领域，其中，源域是含有大量有标记数据的领域，是被迁移的对象，而目标域是只有无标记数据的域或者只有少量有标记数据的域，是需要对领域中的数据进行标签预测的数据域，是迁移知识的应用对象。在减小源域和目标域数据分布差异的同时，学习源域的知识结构或标记信息并将其运用到目标域，使得学习的模型能够对目标数据进行正确的预测，从而完成迁移学习，这种方法统称为无监督域适应学习，大致可以分为三类：基于距离的方法，基于对抗的方法和自训练的方法。通常情况下会假设源域和目标域中每个类别下的数据比例是相对平衡的，并且不同领域中的平衡比例是相似的。
然后，真实场景中的原始数据通常是不平衡的。这种不平衡通常发生在每个域内，并可能进一步导致领域间存在不同的类别比例或不平衡比率，称为跨域不平衡。实际应用中无监督域适应学习经常会遇到这种双重不平衡的场景，分类边界可能会偏向于源域中的多数类，然而这些类在目标域中是少数类，因此，它会导致对大多数目标域样本的错误分类，甚至是负迁移。目前主流的做法是在基本域适应方法的基础上结合使用数据重加权或者生成样本的策略，数据重加权方法试图通过对少数类样本进行过采样或对多数类样本进行低采样来平衡数据分布，生成样本的方法是通过生成靠近少数类样本的方法进行数据扩充，使得数据整体分布变得相对平衡。
但经检验发现，在双重不平衡场景下，普通的迁移学习域适应方法不能达到很好的效果，只考虑减少领域间的特征差异，可能会产生负迁移降低模型在目标域上的性能；数据重加权的方式在对多数类样本进行低采样时可能会丢失多数类的信息，而在加大少数类样本权重时存在对少数类样本过拟合的风险；更重要的是，因为存在跨域间的不平衡，源域的标签分布和目标域的标签分布甚至可能是相反的，模型在经过域对齐之后会对目标域中的多数样本分类错误，达不到预期的效果。
发明内容
为解决上述技术问题，本发明提供了一种基于双重不平衡场景下的无监督域适应方法，通过类对比知识迁移移、类关联知识迁移和判别型的特征对齐，在域间迁移能容忍不平衡的知识；源域数据样本和目标域数据样本都被输入到一个共同的特征提取器中，通过减少判别型的最大均值差异，使得跨域的相同类对齐和不同类之间分离；采用类对比损失来限制特定类样本的分类得分应该高于其他类样本的分类得分，减少了对标签分布的依赖从而减轻数据不平衡对模型的影响；同时从源域数据样本中学习类之间的相关性向量，将类间的关联知识也迁移到目标域中，进一步提高模型在目标域上的泛化性能。
本发明所述的一种基于双重不平衡场景下的无监督域适应方法，包括如下步骤：
步骤1、构造类对比损失，对于每一类，最大化该类样本和其他类样本之间的得分预测差异，使用可导的指数损失作为类对比损失的代理损失；
步骤2、对于源域数据样本使用类对比损失和交叉熵损失预训练一个分类模型，分类模型由特征提取器和分类器构成，计算源域数据样本的类关联向量；
步骤3、使用步骤2得到的多层的特征提取器和随机初始化的分类器构造解决双重不平衡场景的网络模型；
步骤4、对源域数据样本的每一类进行采样构造训练数据，将目标域数据样本输入到步骤3得到的网络模型中得到预测的伪标签，再根据伪标签对每一类采样构造目标域的训练数据，将两组数据一起输入到步骤3得到的网络模型中，得到源域特征和目标域的特征；
步骤5、使用源域特征，目标域特征，源域的真实标签和目标域的伪标签，构造判别型的最大均值差异，最小化类内的紧致性同时最大化全局距离，以加强跨域的相同类的特征对齐和不同类间的特征差异；
步骤6、对于源域数据样本使用类对比损失和交叉熵损失，对于目标域数据样本选择置信度高的样本使用类对比损失并约束分类器输出和对应类的关联向量之间的一致性；
步骤7、整体损失计算梯度，反向传播，迭代更新网络参数直至损失收敛，对目标域数据样本进行预测得到预测标签，与目标域数据样本的真实标签比较，对于每一类计算出该类的分类准确率，再计算所有类的平均分类准确率作为度量结果。
进一步的，在步骤1中对于样本对定义了k个类的类对比标签，一组样本如果所属不同类别则类对比标签为1，否则为0，使用类对比标签构造了类对比损失，使用可导的指数损失作为类对比损失的代理损失，来拟合类对比损失进行计算优化，并使用因式分解进行化简。
进一步的，步骤2中，对于源域的每一类，计算特定类中所有样本经过预训练模型输出的概率向量
Figure BDA0003495504500000031
经过softmax之后的平均值作为这一类的关联向量，记做C(k)，类关联向量上反映了每个类别与其他类别的相关性，如果
Figure BDA0003495504500000032
l、m≠k表示第k类相对于第m类来说更相近于第l类。
进一步的，在步骤5中构造判别型最大均值差异距离DMMD，传入步骤4中得到的源域特征和目标域特征以及源域的真实标签和目标域对应的伪标签最小化DMMD损失，DMMD定义如下：
Figure BDA0003495504500000033
其中Xs代表所有源域数据样本，Xt代表所有目标域数据样本，
Figure BDA0003495504500000041
表示源域数据样本
Figure BDA0003495504500000042
属于第k类的概率，
Figure BDA0003495504500000043
表示目标域数据样本
Figure BDA0003495504500000044
属于第k类的概率，
Figure BDA0003495504500000045
直接通过源域的标签获得，如果源域样本是第k类则为1，否则为0；
Figure BDA0003495504500000046
为目标域样本经过分类器所输出的概率向量
Figure BDA0003495504500000047
为源域样本经特征提取器所得到的特征，
Figure BDA0003495504500000048
为目标域样本经特征提取器所得到的的特征。
进一步的，在步骤6中，对源域数据样本使用交叉熵损失和类对比损失，保证模型能够对源域的数据正确分类，对于目标域数据样本根据阈值挑选置信度高的样本预测其伪标签，阈值会随着训练过程逐渐提高；将挑选出的目标域数据样本经过模型输出的概率向量pi通过放缩的softmax层，最小化类关联损失
Figure BDA0003495504500000049
计算其与对应类的关联向量的一致性，其中
Figure BDA00034955045000000410
表示目标域样本预测的伪标签，
Figure BDA00034955045000000411
代表挑选出的所有目标域数据样本，
Figure BDA00034955045000000412
代表每一个数据样本xi根据预测的伪标签所对应的类关联向量，将源域中类别间的关联信息迁移到目标域，使目标域也学习到类之间的相关信息。
本发明所述的有益效果为：本发明提出了一种解决双重不平衡场景下的无监督域适应方法，针对域内不平衡和跨域不平衡，该模型学习到类对比知识和类关联知识，所提出判别型的域间对齐方式也能更好的减小跨域的每个类之间的距离，从而将源域中学到的信息迁移到目标域，减少模型受数据不平衡程度的影响，相比于其他模型能达到更高的分类准确率，使得模型在这种更接近真实场景的情况下具有更好的泛化性能。
附图说明
为了使本发明的内容更容易被清楚地理解，下面根据具体实施例并结合附图，对本发明作进一步详细的说明。
图1为方法流程图；
图2为网络模型总体架构图；
图3为实例的数据分布图；
图4为本发明与其他算法的结果比较。
具体实施方式
一种基于双重不平衡场景下的无监督域适应方法，如图1所示，包括以下步骤：
一、数据处理
在模型训练前，将用户提供的图片数据通过改变大小、随机裁剪等预处理方式统一成网络模型输入所要求的格式，同时源域数据是带有标签的，目标域数据没有标签的。
二、模型训练
这个阶段大致可以分为两个过程，即源域模型预训练、预测模型训练。
源域模型预训练是使用源域数据训练的阶段，为了尽可能的学习到源域中的知识，计算每个类的关联向量，具体为：构造类对比损失，最大化特定类样本和其他类样本之间的得分预测差异，使用指数损失作为代理损失便于进行优化；其中，AUC度量考虑了分类器对于正例和负例的分类能力，在数据不平衡的情况下，依然能够对分类器作出合理的评价。受此启发提出了类对比损失，对于K个类的多分类任务，采用一个具有k维概率输出的分类器，每一维描述了单个样本属于每一类的概率，对于第k类来说，如果有xi∈Xk和
Figure BDA0003495504500000055
样本xi属于第k类的分类得分fk(xi)应该高于xj在第k类的分类得分fk(xj)；对于每个样本对(xi,xj)，定义第k类的类对比标签为
Figure BDA0003495504500000051
构造出类对比损失为
Figure BDA0003495504500000052
Figure BDA0003495504500000053
其中θF是特征提取器F的参数，θC是多分类器C的参数；该损失是非凸的不能直接使用，又引入指数损失作为代理损失，同时为了加速计算减少时间复杂度，通过因式分解方案化简，经验风险可以进一步表述为以下形式：
Figure BDA0003495504500000054
其中，β为指数损失中自带的参数，计算损失时只需先分别计算(ai)和(bi)，然后执行乘法操作即可计算出类对比损失，计算损失时只需先分别计算(ai)和(bi)，然后执行乘法操作即可计算出类对比损失。
在步骤2中，对于源域的每一类，计算该类中所有样本经过预训练模型输出的概率向量
Figure BDA0003495504500000061
经过softmax之后的平均值作为这一类的关联向量，记做C(k)，
Figure BDA0003495504500000062
类关联向量反映了每个类别与其他类别的相关性，如果
Figure BDA0003495504500000063
l、m≠k表示第k类相对于第m类来说更相近于第l类。
预测模型训练阶段是训练真正要使用的模型，模型架构如图2所示，使用预训练模型的特征提取器作为预测模型特征提取器的初始化，使用判别型的特征对齐，加强源域和目标域中相同类的特征对齐和不同类间的特征差异，将类对比知识和类关联知识迁移到目标域中，减少模型受数据不平衡程度的影响，使模型在目标域上也有好的泛化性能；具体为：构造解决双重不平衡场景的网络模型，由多层的特征提取器和分类器组成，使用预训练好的特征提取器和随机初始化的分类器；对源域数据的每一类进行采样构造训练数据，将目标域数据输入到模型中得到预测伪标签，再根据伪标签对每一类采样构造目标域的训练数据，将两组数据一起输入到模型中，得到源域特征和目标域的特征。
使用源域特征，目标域特征，源域的真实标签和目标域的伪标签，构造判别型的最大均值差异，减少源域和目标域之间的差异；提出判别型最大均值差异距离DMMD，传入源域特征和目标域特征最小化DMMD损失，能够跨域最小化同一类的类内距离，并且最大化全局的整体距离，达到加强类内的特征对齐和不同类间的特征差异；DMMD定义如下：
Figure BDA0003495504500000064
其中Xs代表所有源域样本，Xt代表所有目标域样本，
Figure BDA0003495504500000065
表示源域样本
Figure BDA0003495504500000066
属于第k类的概率，
Figure BDA0003495504500000067
表示目标域样本
Figure BDA0003495504500000068
属于第k类的概率，
Figure BDA0003495504500000069
直接通过源域的标签获得，如果源域样本是第k类则为1，否则为0，
Figure BDA00034955045000000610
为目标域样本经过分类器所输出的概率向量
Figure BDA00034955045000000611
为源域样本经特征提取器所得到的特征，
Figure BDA0003495504500000071
为目标域样本经特征提取器所得到的的特征。
对于源域数据样本使用类对比损失和交叉熵损失，对于目标域数据样本选择置信度高的样本使用类对比损失，预测其伪标签和之前计算出的对应类的关联向量进行约束；整体损失计算梯度，反向传播，迭代更新网络参数直至损失收敛，对目标域数据样本进行预测得到预测标签，与目标域数据样本的真实标签比较，对于每一类计算出该类的分类准确率，再计算所有类的平均分类准确率作为度量结果。
下面以Digits数据集为例，说明本发明实施例方法的处理流程：
如图3所示，左边是源域数据样本的标签分布，右边是目标域数据样本的标签分布，两个域都有同样的10个类，源域数据是有标签的而目标域数据是没有标签的。
1.将源域数据样本和目标域数据样本都转成大小为32*32的、三通道的图片；
2.使用LeNet模型作为源域预训练的模型，输入源域数据和对应的标签，利用模型输出的概率向量和真实标签计算类对比损失和交叉熵损失，更新预训练模型直至损失收敛，保存预训练模型的特征提取器；
3.再次将源域数据样本和标签输入到训练好的预训练模型中，按照标签类别，计算特定类中所有样本经过预训练模型输出的概率向量经过softmax之后的平均值作为这一类的关联向量，如第1类的关联向量在第1维的值最大，第6维的值大于第2维的值，说明第1类与第6类之间更相似，与第2类更不相似；
4.使用第2步中保存的预训练好的特征提取器和随机初始化的分类器构造真正使用的网络模型；
5.将所有目标域数据输入到网络模型中得到目标域数据样本的伪标签；
6.按照类别，从源域数据样本中每类选取12个样本，对目标域数据样本根据伪标签也在10个类中每个类选取12个样本构成一组训练数据输入网络模型得到对应的源域特征和目标域特征；
7.对步骤6中得到的源域特征和目标域特征使用判别性的最大均值差异距离DMMD进行拉近，将同一类的源域特征和目标域特征进行拉近同时将两个域的整体特征进行拉远，计算DMMD损失；
8.初始阈值设置为0.6，挑选模型输出的概率向量的最大值大于阈值的目标域样本为置信度高的样本，这个阈值在训练过程中逐渐增大至0.85；
9.将所有的源域数据样本经过模型输出的概率向量和真实标签一起计算类对比损失和软标签损失；
10.对挑选出来的高置信度的目标域样本，使用其经过模型输出的概率向量也计算类对比损失，同时计算和对应类的关联向量之间的关联损失；
11.整体损失计算梯度，反向传播更新网络参数，每20轮更新一次所有目标域数据的伪标签，每50轮计算一次目标域数据每一类的平均准确率，直至损失收敛。
保存最优的目标域模型，输出对目标域数据样本预测的标签。
如图4所示，本方法称为TIToK，在Digits数据集下的三个迁移任务中相较以前的方法都达到了更高的平均分类准确率，三个任务的平均性能上也是达到了最高值，相比于2021年的最新方法COAL，三个任务上的平均性能高出了1.34个百分点，相比之前的一些其他方法，本方法在性能上有了显著提高。
以上所述仅为本发明的优选方案，并非作为对本发明的进一步限定，凡是利用本发明说明书及附图内容所作的各种等效变化均在本发明的保护范围之内。

Claims (5)

1.一种基于双重不平衡场景下的无监督域适应方法，其特征在于，所述方法的步骤为：
步骤1、构造类对比损失，对于每一类，最大化该类样本和其他类样本之间的得分预测差异，使用可导的指数损失作为类对比损失的代理损失；
步骤2、对于源域数据样本使用类对比损失和交叉熵损失预训练一个分类模型，分类模型由特征提取器和分类器构成，计算源域数据样本的类关联向量；
步骤3、使用步骤2得到的多层的特征提取器和随机初始化的分类器构造解决双重不平衡场景的网络模型；
步骤4、对源域数据样本的每一类进行采样构造训练数据，将目标域数据样本输入到步骤3得到的网络模型中得到预测的伪标签，再根据伪标签对每一类采样构造目标域的训练数据，将两组数据一起输入到步骤3得到的网络模型中，得到源域特征和目标域的特征；
步骤5、使用源域特征，目标域特征，源域的真实标签和目标域的伪标签，构造判别型的最大均值差异，最小化类内的紧致性同时最大化全局距离，以加强跨域的相同类的特征对齐和不同类间的特征差异；
步骤6、对于源域数据样本使用类对比损失和交叉熵损失，对于目标域数据样本选择置信度高的样本使用类对比损失并约束分类器输出和对应类的关联向量之间的一致性；
步骤7、整体损失计算梯度，反向传播，迭代更新网络参数直至损失收敛，对目标域数据样本进行预测得到预测标签，与目标域数据样本的真实标签比较，对于每一类计算出该类的分类准确率，再计算所有类的平均分类准确率作为度量结果。
2.根据权利要求1所述的一种基于双重不平衡场景下的无监督域适应方法，其特征在于，在步骤1中对于样本对定义了k个类的类对比标签，一组样本如果所属不同类别则类对比标签为1，否则为0，使用类对比标签构造了类对比损失，使用可导的指数损失作为类对比损失的代理损失，来拟合类对比损失进行计算优化，并使用因式分解进行化简。
3.根据权利要求1所述的一种基于双重不平衡场景下的无监督域适应方法，其特征在于，步骤2中，对于源域的每一类，计算特定类中所有样本经过预训练模型输出的概率向量
Figure FDA0003495504490000021
经过softmax之后的平均值作为这一类的关联向量，记做C(k)，类关联向量上反映了每个类别与其他类别的相关性，如果
Figure FDA0003495504490000022
l、m≠k表示第k类相对于第m类来说更相近于第l类。
4.根据权利要求1所述的一种基于双重不平衡场景下的无监督域适应方法，其特征在于，在步骤5中构造判别型最大均值差异距离DMMD，传入步骤4中得到的源域特征和目标域特征以及源域的真实标签和目标域对应的伪标签最小化DMMD损失，DMMD定义如下：
Figure FDA0003495504490000023
其中Xs代表所有源域数据样本，Xt代表所有目标域数据样本，
Figure FDA0003495504490000024
表示源域数据样本
Figure FDA0003495504490000025
属于第k类的概率，
Figure FDA0003495504490000026
表示目标域数据样本
Figure FDA0003495504490000027
属于第k类的概率，
Figure FDA0003495504490000028
直接通过源域的标签获得，如果源域样本是第k类则为1，否则为0；
Figure FDA0003495504490000029
为目标域样本经过分类器所输出的概率向量
Figure FDA00034955044900000210
Figure FDA00034955044900000211
为源域样本经特征提取器所得到的特征，
Figure FDA00034955044900000212
为目标域样本经特征提取器所得到的的特征。
5.根据权利要求1所述的一种基于双重不平衡场景下的无监督域适应方法，其特征在于，在步骤6中对于目标域数据样本根据阈值挑选置信度高的样本预测其伪标签，阈值会随着训练过程逐渐提高，将挑选出的目标域数据样本经过模型输出的概率向量pi通过放缩的softmax层，最小化类关联损失
Figure FDA00034955044900000213
计算其与对应类的关联向量的一致性，其中
Figure FDA00034955044900000214
表示目标域样本预测的伪标签，
Figure FDA00034955044900000215
代表挑选出的所有目标域数据样本，
Figure FDA00034955044900000216
代表每一个数据样本xi根据预测的伪标签所对应的类关联向量。
CN202210113276.5A 2022-01-30 2022-01-30 一种基于双重不平衡场景下的无监督域适应方法 Active CN114444605B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210113276.5A CN114444605B (zh) 2022-01-30 2022-01-30 一种基于双重不平衡场景下的无监督域适应方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210113276.5A CN114444605B (zh) 2022-01-30 2022-01-30 一种基于双重不平衡场景下的无监督域适应方法

Publications (2)

Publication Number Publication Date
CN114444605A true CN114444605A (zh) 2022-05-06
CN114444605B CN114444605B (zh) 2024-04-05

Family

ID=81372575

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210113276.5A Active CN114444605B (zh) 2022-01-30 2022-01-30 一种基于双重不平衡场景下的无监督域适应方法

Country Status (1)

Country Link
CN (1) CN114444605B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114792114A (zh) * 2022-05-10 2022-07-26 南京邮电大学 一种基于黑盒多源域通用场景下的无监督域适应方法
CN115358392A (zh) * 2022-10-21 2022-11-18 北京百度网讯科技有限公司 深度学习网络的训练方法、文本检测方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709315A (zh) * 2020-05-27 2020-09-25 西安交通大学 一种基于领域适配的水声目标辐射噪声识别方法
CN112541580A (zh) * 2020-12-31 2021-03-23 南京航空航天大学 一种基于主动对抗学习的半监督域自适应方法
US20210390355A1 (en) * 2020-06-13 2021-12-16 Zhejiang University Image classification method based on reliable weighted optimal transport (rwot)

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709315A (zh) * 2020-05-27 2020-09-25 西安交通大学 一种基于领域适配的水声目标辐射噪声识别方法
US20210390355A1 (en) * 2020-06-13 2021-12-16 Zhejiang University Image classification method based on reliable weighted optimal transport (rwot)
CN112541580A (zh) * 2020-12-31 2021-03-23 南京航空航天大学 一种基于主动对抗学习的半监督域自适应方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114792114A (zh) * 2022-05-10 2022-07-26 南京邮电大学 一种基于黑盒多源域通用场景下的无监督域适应方法
CN114792114B (zh) * 2022-05-10 2024-07-02 南京邮电大学 一种基于黑盒多源域通用场景下的无监督域适应方法
CN115358392A (zh) * 2022-10-21 2022-11-18 北京百度网讯科技有限公司 深度学习网络的训练方法、文本检测方法及装置
CN115358392B (zh) * 2022-10-21 2023-05-05 北京百度网讯科技有限公司 深度学习网络的训练方法、文本检测方法及装置

Also Published As

Publication number Publication date
CN114444605B (zh) 2024-04-05

Similar Documents

Publication Publication Date Title
Hao et al. An end-to-end architecture for class-incremental object detection with knowledge distillation
Zhang et al. Discovering new intents with deep aligned clustering
EP3767536A1 (en) Latent code for unsupervised domain adaptation
Zhou et al. Model agnostic sample reweighting for out-of-distribution learning
CN112699247A (zh) 一种基于多类交叉熵对比补全编码的知识表示学习框架
CN114444605B (zh) 一种基于双重不平衡场景下的无监督域适应方法
CN114492574A (zh) 基于高斯均匀混合模型的伪标签损失无监督对抗域适应图片分类方法
Kye et al. Meta-learned confidence for few-shot learning
CN113987196A (zh) 一种基于知识图谱蒸馏的知识图谱嵌入压缩方法
Ye et al. Reducing bias to source samples for unsupervised domain adaptation
CN114863175A (zh) 一种无监督多源部分域适应图像分类方法
CN113722439A (zh) 基于对抗性类别对齐网络的跨领域情感分类方法及系统
CN114973350B (zh) 一种源域数据无关的跨域人脸表情识别方法
Hou et al. Learning to bridge metric spaces: Few-shot joint learning of intent detection and slot filling
CN112270334A (zh) 一种基于异常点暴露的少样本图像分类方法及系统
Wang et al. Refining pseudo labels for unsupervised domain adaptive re-identification
Tian et al. Robust self-supervised learning for source-free domain adaptation
CN114792114B (zh) 一种基于黑盒多源域通用场景下的无监督域适应方法
Zhang et al. Adaptive domain generalization via online disagreement minimization
CN114972959B (zh) 深度学习中样本生成和类内排序损失的遥感图像检索方法
Tian et al. Partial domain adaptation by progressive sample learning of shared classes
CN113779287A (zh) 基于多阶段分类器网络的跨域多视角目标检索方法及装置
Wei et al. A Survey of Few-Shot Image Classification Based on Transfer Learning
Shi et al. Adaptive few-shot deep metric learning
CN115546567B (zh) 一种无监督领域适应分类方法、系统、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant