CN107958286A - 一种领域适应性网络的深度迁移学习方法 - Google Patents
一种领域适应性网络的深度迁移学习方法 Download PDFInfo
- Publication number
- CN107958286A CN107958286A CN201711183073.9A CN201711183073A CN107958286A CN 107958286 A CN107958286 A CN 107958286A CN 201711183073 A CN201711183073 A CN 201711183073A CN 107958286 A CN107958286 A CN 107958286A
- Authority
- CN
- China
- Prior art keywords
- field
- probability distribution
- adaptive networking
- sample
- source domain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003044 adaptive effect Effects 0.000 title claims abstract description 111
- 230000006855 networking Effects 0.000 title claims abstract description 111
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000013508 migration Methods 0.000 title claims abstract description 23
- 230000005012 migration Effects 0.000 title claims abstract description 23
- 230000006870 function Effects 0.000 claims abstract description 82
- 238000004590 computer program Methods 0.000 claims description 19
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 230000001052 transient effect Effects 0.000 claims description 8
- 238000004891 communication Methods 0.000 claims description 3
- 230000005055 memory storage Effects 0.000 claims description 3
- 238000013526 transfer learning Methods 0.000 abstract description 22
- 230000000694 effects Effects 0.000 abstract description 15
- 230000006978 adaptation Effects 0.000 abstract description 10
- 239000004744 fabric Substances 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000012546 transfer Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种领域适应性网络的深度迁移学习方法，通过根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值，其中，任一任务相关层对应的分布差异为源域与目标域分别对应的该任一任务相关层中的特征的概率分布之间的分布差异；并基于损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域；从而将源域和目标域分别对应的每一任务相关层中的特征的概率分布之间的分布差异作为领域适应性网络的损失函数的值的组成部分，在不同领域间同时匹配了深度网络的每一任务相关层，更好地修正边缘分布和条件分布在不同领域间的差异，保证了迁移学习的可靠性，最终保证领域适应性网络迁移学习的效果。
Description
技术领域
本发明涉及计算机数据分析技术领域，更具体地，涉及一种领域适应性网络的深度迁移学习方法。
背景技术
互联网技术已经在生活中各个领域得到了广泛的应用，由于文本、图像、视频等非结构化数据增长速度越来越快，因此需要提出针对这些数据的分析方法和处理算法。通过各种信息渠道可以收集到大规模非结构化数据，但大部分数据中缺少标记等信息，这也就意味着常规的监督学习难以在这些数据中得以应用。
为了应对标记数据稀缺问题，推出了基于群体智慧的语义网络知识库，借助互联网用户这个近乎无限的知识资源，对一些重要领域的大规模数据进行标记和维护，如文本领域的维基百科、百度百科，图像领域的ImageNet、Flickr等。而另一方面有了新的思路：有效地挖掘富标记数据中有用的信息，迁移到弱标记甚至无标记的特定场景下，即迁移学习；迁移学习作为机器学习的重要前沿方向之一，目标是将源域的知识迁移到新的领域。
由于不同领域的数据不再符合机器学习的常规假设：独立同分布条件，所以迁移学习对机器学习泛化性能提出的要求更高。领域适应性网络(Domain AdaptationNetwork)是一种深度神经网络，其从原始问题(领域)学习到的模型可以很好的适应一个与之不同的目标问题(领域)，领域适应性网络往往包括多层结构，而特征的迁移能力在领域适应性网络的中间层显著弱化，在领域适应性网络的上层严重降低；近年来迁移学习主要面临主要挑战是迁移学习过程中的可靠性，即难以同时保证领域适应性网络中各层的特征的迁移效果，特别是上层的特征的迁移效果，从而影响领域适应性网络迁移学习的效果。
发明内容
为了克服上述问题或者至少部分地解决上述问题，本发明提供一种领域适应性网络的深度迁移学习方法。
根据本发明的一个方面，提供一种领域适应性网络的深度迁移学习方法，包括：确定第一概率分布与第二概率分布之间的分布差异，第一概率分布为源域的样本在领域适应性网络的任一任务相关层中的特征的概率分布，第二概率分布为目标域的样本在任一任务相关层中的特征的概率分布，任务相关层为领域适应性网络的上层，将第一概率分布与第二概率分布之间的分布差异作为任一任务相关层对应的分布差异；确定对源域和目标域中已标记的样本的分类错误率；确定对目标域的数据结构的错配度；根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值；基于损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域。
其中，确定第一概率分布与第二概率分布之间的分布差异，包括：将源域和目标域中的样本输入到领域适应性网络，作正向传播，获取源域和目标域中的样本在任一任务相关层中的特征；根据源域的样本在任一任务相关层中的特征确定第一概率分布，根据目标域的样本在任一任务相关层中的特征确定第二概率分布；计算第一概率分布与第二概率分布之间的多核分布距离，将多核分布距离作为第一概率分布与第二概率分布之间的分布差异。
其中，计算第一概率分布与第二概率分布之间的多核分布距离，包括：选取含有优化参数的多个核函数作为源域和目标域的样本在任一任务相关层中的特征向可再生核希尔伯特空间映射的总核函数；基于总核函数构建第一概率分布与第二概率分布之间的分布距离函数；基于无偏估计法确定优化参数，以获得第一概率分布与第二概率分布之间的多核分布距离。
其中，确定对源域和目标域中已标记的样本的分类错误率，包括：将源域和目标域中已标记的样本输入到领域适应性网络，输出对源域和目标域中已标记的样本的预测结果；基于领域适应性网络对源域和目标域中已标记的样本的预测结果的条件概率确定分类错误率。
其中，确定对目标域的数据结构的错配度，包括：将目标域中未标记的样本输入到领域适应性网络，输出对目标域中未标记的样本的预测结果；根据领域适应性网络对源域和目标域中已标记的样本的预测结果的条件概率，并基于条件熵函数的低密度划分准则确定源域的分类模型对目标域的数据结构的错配度。
其中，基于损失函数的值，更新领域适应性网络的参数，包括：利用反向传播算法更新领域适应性网络的参数；基于更新参数后的领域适应性网络，重新确定更新参数后的损失函数的值，并判断更新参数前的损失函数的值与更新参数后的损失函数的值的差值是否大于预设值，若确定差值大于预设值，则利用反向传播算法重新更新领域适应性网络的参数，直至确定差值小于预设值。
本发明的另一方面，提供一种领域适应性网络的深度迁移学习装置，包括：至少一个处理器；以及与处理器通信连接的至少一个存储器，其中：存储器存储有可被处理器执行的程序指令，处理器调用程序指令以执行上述的方法。
本发明的又一方面，提供一种计算机程序产品，该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序，该计算机程序包括程序指令，当该程序指令被计算机执行时，使计算机执行上述的方法。
本发明的又一方面，提供一种非暂态计算机可读存储介质，该非暂态计算机可读存储介质存储计算机程序，该计算机程序使计算机执行上述的方法。
本发明提供的一种领域适应性网络的深度迁移学习方法，通过根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值，其中，任一任务相关层对应的分布差异为源域对应的该任一任务相关层中的特征的概率分布与目标域对应的该任一任务相关层中的特征的概率分布之间的分布差异；根据损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域；从而在对领域适应性网络的深度迁移学习过程中，将源域和目标域分别对应的每一任务相关层中的特征的概率分布之间的分布差异作为领域适应性网络的损失函数的值的组成部分，在不同领域间同时匹配了深度网络的每一任务相关层，更好地修正边缘分布和条件分布在不同领域间的差异，保证了迁移学习的可靠性，最终保证领域适应性网络迁移学习的效果。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为根据本发明实施例的领域适应性网络的深度迁移学习方法的流程图；
图2为根据本发明实施例的领域适应性网络的结构图；
图3为根据本发明另一实施例的领域适应性网络的深度迁移学习方法的流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本发明的一个实施例中，参考图1，提供一种领域适应性网络的深度迁移学习方法，包括：S11，确定第一概率分布与第二概率分布之间的分布差异，第一概率分布为源域的样本在领域适应性网络的任一任务相关层中的特征的概率分布，第二概率分布为目标域的样本在任一任务相关层中的特征的概率分布，任务相关层为领域适应性网络的上层，将第一概率分布与第二概率分布之间的分布差异作为任一任务相关层对应的分布差异；S12，确定对源域和目标域中已标记的样本的分类错误率；S13，确定对目标域的数据结构的错配度；S14，根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值；S15，基于损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域。
具体的，在对领域适应性网络的训练过程中，将源域(即包含大量的标记数据的领域)的知识迁移到目标域(即缺少标记数据的领域)中，通常被称为迁移学习。对于领域适应性网络在传统意义上的训练，通常引入损失函数，损失函数度量的是预测值与真实值之间的差异；在领域适应性网络的深度迁移学习过程中，也可以引入一个损失函数，在度量预测值与真实值之间的差异的同时还需要能够度量迁移学习的效果。
然而，源域与目标域的数据服从不同的概率分布，仅将传统意义上的损失函数作为迁移学习过程中的损失函数，并不能使迁移学习达到很好的效果。
领域适应性网络往往包括多层结构，而特征的迁移能力在领域适应性网络的中间层显著弱化，在领域适应性网络的上层严重降低，领域适应性网络的中间层和上层，特别是上层是影响领域适应性网络迁移效果的主要因素；选择合适的任务相关层，将领域适应性网络的上层或者部分中间层作为任务相关层，将源域和目标域分别对应的每一任务相关层中的特征的概率分布之间的分布差异作为迁移学习过程中的损失函数的一部分，可以提高迁移学习的效果。
例如，选取在深度学习领域取得突破性进展的AlexNet深度神经网络作为本实施例的领域适应性网络，如图2所示，该领域适应性网络包含一个输入层，并使用五个卷积层和两个全连接层作为特征层来提取图像特征，再用一个全连接层作为分类器层；其中，最后的三个全连接层是影响领域适应性网络迁移效果的主要因素，则将这三个全连接层作为任务相关层。
本实施例中，获取领域适应性网络对源域和目标域中已标记的样本的分类错误率，该分类错误率的是预测值与真实值之间的差异，相当于传统意义上的损失函数；获取源域和目标域分别对应的每一任务相关层中的特征的概率分布之间的分布差异；同时，领域适应性网络的内部结构对不同领域的数据结构的分类也有影响，将源域的分类模型对目标域的数据结构的错配度作为迁移学习过程中的损失函数的一部分，有利于提高领域适应性网络对目标域的数据的分类效果。
由分类错误率、源域和目标域分别对应的每一任务相关层中的特征的概率分布之间的分布差异和错配度，确定领域适应性网络的损失函数，并以此更新领域适应性网络的参数，能使领域适应性网络适配目标域，并可以达到很好的分类效果。
本实施例在对领域适应性网络的深度迁移学习过程中，将源域和目标域分别对应的每一任务相关层中的特征的概率分布之间的分布差异作为领域适应性网络的损失函数的值的组成部分，在不同领域间同时匹配了深度网络的每一任务相关层，更好地修正边缘分布和条件分布在不同领域间的差异，保证了迁移学习的可靠性，最终保证领域适应性网络迁移学习的效果。
基于以上实施例，确定第一概率分布与第二概率分布之间的分布差异，包括：将源域和目标域中的样本输入到领域适应性网络，作正向传播，获取源域和目标域中的样本在任一任务相关层中的特征；根据源域的样本在任一任务相关层中的特征确定第一概率分布，根据目标域的样本在任一任务相关层中的特征确定第二概率分布；计算第一概率分布与第二概率分布之间的多核分布距离，将多核分布距离作为第一概率分布与第二概率分布之间的分布差异。
具体的，由于特征的迁移能力在任务相关层严重降低，本实施例使用多核分布距离(Multi-kernel Distribution Discrepancy，简称为MK-DD)最小化准则进行跨领域分布匹配，以保证任务相关层的迁移能力。
多核分布距离定义为的核均值嵌入μ(p)和μ(q)在可再生希尔伯特空间Hk中的欧氏距离的平方，其中，μ(p)和μ(q)分别是所选取的核k将特征的概率分布p，q映射到高维空间后的概率分布，即:
其中，xs是源域的样本，xt是目标域的样本，p是源域的样本在任务相关层中的特征的概率分布，q是目标域的样本在任务相关层中的特征的概率分布，是非线性特征映射。
源域的样本在任务相关层中的特征的概率分布可以通过向领域适应性网络输入源域的样本，获得对应的任务相关层中的特征，并根据任务相关层中的特征集合获得其概率分布；目标域的样本在任务相关层中的特征的概率分布可通过同样的方法获得。
在源域标记数据上对领域适应性网络进行微调，同时要求源域与目标域的数据分布在多个任务相关层中的特征表示下变得相似。这可以通过最小化定义在匹配层隐含特征上的多个任务相关层的MK-DD正则项来实现，形式化如下:
其中，是任务相关层的集合，Ds是源域的数据集合，Dt是目标域的数据集合。
本实施例使用多核方法并选择合适的核函数，核函数选择对DD的不同领域的样本检验效能有着重要影响，合适的核函数可以充分匹配不同阶次的统计量，可以更好的实现迁移学习。
基于以上实施例，计算第一概率分布与第二概率分布之间的多核分布距离，包括：选取含有优化参数的多个核函数作为源域和目标域的样本在任一任务相关层中的特征向可再生核希尔伯特空间映射的总核函数；基于总核函数构建第一概率分布与第二概率分布之间的分布距离函数；基于无偏估计法确定优化参数，以获得第一概率分布与第二概率分布之间的多核分布距离。
具体的，MK-DD的具体计算:为避免显式特征映射，需采用核技巧：
k(x,x')＝<φ(x),φ(x')>；
由的公式推导得到核函数的期望：
其中xs，x's是服从p的概率分布，xt，x't是服从q的概率分布， 是核函数的集合，是x，x'在核k空间内积的均值。此式计算需要二次复杂度Ο(n2)，而深度网络往往需要在大规模数据集上做监督学习才能发挥优异的效果。为了有效训练深度网络，需要使用小批量随机梯度下降算法(SGD)，但此算法的实现难度会由于需要对所有点对进行相似性求和而显著上升。为了解决这个问题，本实施例使用MK-DD的无偏估计，可在线性时间内计算
使用多核适配方法，通过最大化标准DD进行多核参数学习：由此可以得到各任务相关层的最优的多核优化参数{β}，其中是估计方差，但由于迁移学习数据规模较小，难以得到协方差矩阵∑k的准确估计，所以在最大化标准DD时将∑k固定为单位矩阵可以取得更稳定的效果。
具体实现如下：
(1)随机打乱训练数据；
(2)通过最大化标准DD进行多核参数学习：将∑k固定为单位矩阵以取得更稳定的效果，为核函数的集合；
(3)记其顺序四元组则可以针对每个这样的四元组计算多核函数k得到其函数值：
此无偏估计可以在线性时间Ο(n)内通过计算独立随机变量的期望完成MK-DD的计算。
基于以上实施例，确定对源域和目标域中已标记的样本的分类错误率，包括：将源域和目标域中已标记的样本输入到领域适应性网络，输出对源域和目标域中已标记的样本的预测结果；基于领域适应性网络对源域和目标域中已标记的样本的预测结果的条件概率确定分类错误率。
具体的，将源域和目标域中已标记的样本输入到领域适应性网络，输出对源域和目标域中已标记的样本的预测结果，将预测结果与源域和目标域中的对应的标记进行比较，获得分类错误率，分类错误率的具体表达式如下：
其中，na是已标记的样本的总数量，是领域适应性网络将样本预测为标记的条件概率，L(·,·)是交叉熵损失函数，定义为c是类别数，为定义在第l任务相关层的Softmax函数，表示将样本预测为类别j的概率，是第i个样本在第l任务相关层中的特征，1{a＝b}表示如果a＝b，则该函数值取1，否则，该函数值取0。
基于以上实施例，确定对目标域的数据结构的错配度，包括：将目标域中未标记的样本输入到领域适应性网络，输出对目标域中未标记的样本的预测结果；根据领域适应性网络对源域和目标域中已标记的样本的预测结果的条件概率，并基于条件熵函数的低密度划分准则确定源域的分类模型对目标域的数据结构的错配度。
具体的，由基于熵函数的低密度划分准则度量源域分类模型对目标域数据结构的错配度，在目标域未标记数据Du的类概率的条件熵函数E(Du；f)为：
其中，nu是目标域未标记数据的总数量，是领域适应性网络将未标记样本预测为标记的条件概率，H(·)是条件熵函数，公式为：c是类别数，是将无标记样本预测为类别j的概率。
本实施例将源域的分类模型对目标域的数据结构的错配度引入到损失函数，在领域适应性网络中采用熵函数最小化原则实现目标域数据的低密度划分，通过最小化定义在目标域未标记数据Du的类概率的条件熵函数E(Du；f)，能使领域适应性网络对目标域的数据具有更好的分类效果。
基于以上实施例，基于损失函数的值，更新领域适应性网络的参数，包括：利用反向传播算法更新领域适应性网络的参数；基于更新参数后的领域适应性网络，重新确定更新参数后的损失函数的值，并判断更新参数前的损失函数的值与更新参数后的损失函数的值的差值是否大于预设值，若确定差值大于预设值，则利用反向传播算法重新更新领域适应性网络的参数，直至确定差值小于预设值。
具体的，根据以上实施例获得的损失函数的表达式如下：
其中，na是源域和目标域中已标记数据的总数量，nu是目标域未标记数据的总数量，L(·,·)是交叉熵损失函数，是领域适应性网络将已标记样本预测为标记的条件概率，是领域适应性网络将未标记样本预测为标记的条件概率，H(·)是条件熵函数，是任务相关层的集合，Ds是源域的数据集合，Dt是目标域的数据集合，γ是错配度的平衡参数，λ是MK-DD的平衡参数。
如图3所示，将源域和目标域的数据输入到领域适应性网络后，得到损失函数的值，由于源域和目标域之间的差别，损失函数的值通常会比较大，则可利用反向传播算法重新更新领域适应性网络的参数，以减小损失函数的值；本实施例中，可重复使用反向传播算法重新更新领域适应性网络的参数，并在每次更新网络参数后重新确定损失函数的值，将重新确定的损失函数的值与前一次的损失函数的值作比较，其差值如果小于预设值，则表明损失函数的值收敛至满意的结果，则结束重复迭代过程，得到适配于目标域的深度适配网。
如图2所示，相当于在原领域适应性网络的任务相关层中添加了MK-DD函数层，基于MK-DD函数最小化的原则拉近源域与目标域在任务相关层中的特征之间的距离，以保证了迁移学习的可靠性。
作为本发明的又一实施例，提供一种领域适应性网络的深度迁移学习装置，包括：至少一个处理器；以及与处理器通信连接的至少一个存储器，其中：存储器存储有可被处理器执行的程序指令，处理器调用程序指令以执行上述各方法实施例所提供的方法，例如包括：确定第一概率分布与第二概率分布之间的分布差异，第一概率分布为源域的样本在领域适应性网络的任一任务相关层中的特征的概率分布，第二概率分布为目标域的样本在任一任务相关层中的特征的概率分布，任务相关层为领域适应性网络的上层，将第一概率分布与第二概率分布之间的分布差异作为任一任务相关层对应的分布差异；确定对源域和目标域中已标记的样本的分类错误率；确定对目标域的数据结构的错配度；根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值；基于损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域。
作为本发明的又一个实施例，提供一种计算机程序产品，该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序，该计算机程序包括程序指令，当程序指令被计算机执行时，计算机能够执行上述各方法实施例所提供的方法，例如包括：确定第一概率分布与第二概率分布之间的分布差异，第一概率分布为源域的样本在领域适应性网络的任一任务相关层中的特征的概率分布，第二概率分布为目标域的样本在任一任务相关层中的特征的概率分布，任务相关层为领域适应性网络的上层，将第一概率分布与第二概率分布之间的分布差异作为任一任务相关层对应的分布差异；确定对源域和目标域中已标记的样本的分类错误率；确定对目标域的数据结构的错配度；根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值；基于损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域。
作为本发明的又一个实施例，提供一种非暂态计算机可读存储介质，该非暂态计算机可读存储介质存储计算机程序，该计算机程序使该计算机执行上述各方法实施例所提供的方法，例如包括：确定第一概率分布与第二概率分布之间的分布差异，第一概率分布为源域的样本在领域适应性网络的任一任务相关层中的特征的概率分布，第二概率分布为目标域的样本在任一任务相关层中的特征的概率分布，任务相关层为领域适应性网络的上层，将第一概率分布与第二概率分布之间的分布差异作为任一任务相关层对应的分布差异；确定对源域和目标域中已标记的样本的分类错误率；确定对目标域的数据结构的错配度；根据每一任务相关层对应的分布差异，分类错误率和错配度，确定领域适应性网络的损失函数的值；基于损失函数的值，更新领域适应性网络的参数，以使领域适应性网络适配目标域。
本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过计算机程序指令相关的硬件来完成，前述的计算机程序可以存储于一计算机可读取存储介质中，该计算机程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (9)
1.一种领域适应性网络的深度迁移学习方法，其特征在于，包括：
确定第一概率分布与第二概率分布之间的分布差异，所述第一概率分布为源域的样本在领域适应性网络的任一任务相关层中的特征的概率分布，所述第二概率分布为目标域的样本在所述任一任务相关层中的特征的概率分布，所述任务相关层为所述领域适应性网络的上层，将所述第一概率分布与所述第二概率分布之间的分布差异作为所述任一任务相关层对应的分布差异；
确定对所述源域和所述目标域中已标记的样本的分类错误率；
确定对所述目标域的数据结构的错配度；
根据每一任务相关层对应的分布差异，所述分类错误率和所述错配度，确定所述领域适应性网络的损失函数的值；
基于所述损失函数的值，更新所述领域适应性网络的参数，以使所述领域适应性网络适配所述目标域。
2.根据权利要求1所述的方法，其特征在于，所述确定第一概率分布与第二概率分布之间的分布差异，包括：
将所述源域和所述目标域中的样本输入到所述领域适应性网络，作正向传播，获取所述源域和所述目标域中的样本在所述任一任务相关层中的特征；
根据所述源域的样本在所述任一任务相关层中的特征确定所述第一概率分布，根据所述目标域的样本在所述任一任务相关层中的特征确定所述第二概率分布；
计算所述第一概率分布与所述第二概率分布之间的多核分布距离，将所述多核分布距离作为所述第一概率分布与所述第二概率分布之间的分布差异。
3.根据权利要求2所述的方法，其特征在于，所述计算所述第一概率分布与所述第二概率分布之间的多核分布距离，包括：
选取含有优化参数的多个核函数作为所述源域和所述目标域的样本在所述任一任务相关层中的特征向可再生核希尔伯特空间映射的总核函数；
基于所述总核函数构建所述第一概率分布与所述第二概率分布之间的分布距离函数；
基于无偏估计法确定所述优化参数，以获得所述第一概率分布与所述第二概率分布之间的多核分布距离。
4.根据权利要求1所述的方法，其特征在于，所述确定对所述源域和所述目标域中已标记的样本的分类错误率，包括：
将所述源域和所述目标域中已标记的样本输入到所述领域适应性网络，输出对所述源域和所述目标域中已标记的样本的预测结果；
基于所述领域适应性网络对所述源域和所述目标域中已标记的样本的预测结果的条件概率确定所述分类错误率。
5.根据权利要求1所述的方法，其特征在于，所述确定对所述目标域的数据结构的错配度，包括：
将所述目标域中未标记的样本输入到所述领域适应性网络，输出对所述目标域中未标记的样本的预测结果；
根据所述领域适应性网络对所述源域和所述目标域中已标记的样本的预测结果的条件概率，并基于条件熵函数的低密度划分准则确定所述源域的分类模型对所述目标域的数据结构的错配度。
6.根据权利要求1所述的方法，其特征在于，所述基于所述损失函数的值，更新所述领域适应性网络的参数，包括：
利用反向传播算法更新所述领域适应性网络的参数；
基于更新参数后的所述领域适应性网络，重新确定更新参数后的所述损失函数的值，并判断更新参数前的所述损失函数的值与更新参数后的所述损失函数的值的差值是否大于预设值，若确定所述差值大于所述预设值，则利用反向传播算法重新更新所述领域适应性网络的参数，直至确定所述差值小于所述预设值。
7.一种领域适应性网络的深度迁移学习装置，其特征在于，包括：
至少一个处理器；以及与所述处理器通信连接的至少一个存储器，其中：
所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令以执行如权利要求1至6任一所述的方法。
8.一种计算机程序产品，其特征在于，所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行如权利要求1至6任一所述的方法。
9.一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质存储计算机程序，所述计算机程序使所述计算机执行如权利要求1至6任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711183073.9A CN107958286A (zh) | 2017-11-23 | 2017-11-23 | 一种领域适应性网络的深度迁移学习方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711183073.9A CN107958286A (zh) | 2017-11-23 | 2017-11-23 | 一种领域适应性网络的深度迁移学习方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107958286A true CN107958286A (zh) | 2018-04-24 |
Family
ID=61961756
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711183073.9A Pending CN107958286A (zh) | 2017-11-23 | 2017-11-23 | 一种领域适应性网络的深度迁移学习方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107958286A (zh) |
Cited By (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109461001A (zh) * | 2018-10-22 | 2019-03-12 | 阿里巴巴集团控股有限公司 | 基于第二模型获取第一模型的训练样本的方法和装置 |
| CN109614980A (zh) * | 2018-10-16 | 2019-04-12 | 杭州电子科技大学 | 一种基于半监督广域迁移度量学习的小样本目标识别方法 |
| CN109919934A (zh) * | 2019-03-11 | 2019-06-21 | 重庆邮电大学 | 一种基于多源域深度迁移学习的液晶面板缺陷检测方法 |
| CN110555467A (zh) * | 2019-08-13 | 2019-12-10 | 深圳创新奇智科技有限公司 | 一种基于模型迁移的工业数据分类方法 |
| CN110555060A (zh) * | 2019-09-09 | 2019-12-10 | 山东省计算中心（国家超级计算济南中心） | 基于成对样本匹配的迁移学习方法 |
| CN110659744A (zh) * | 2019-09-26 | 2020-01-07 | 支付宝(杭州)信息技术有限公司 | 训练事件预测模型、评估操作事件的方法及装置 |
| CN110705591A (zh) * | 2019-03-09 | 2020-01-17 | 华南理工大学 | 一种基于最优子空间学习的异构迁移学习方法 |
| CN111104509A (zh) * | 2019-11-08 | 2020-05-05 | 武汉理工大学 | 一种基于概率分布自适应的实体关系分类方法 |
| CN111274973A (zh) * | 2020-01-21 | 2020-06-12 | 同济大学 | 基于自动划分域的人群计数模型训练方法及应用 |
| CN111600734A (zh) * | 2019-02-21 | 2020-08-28 | 烽火通信科技股份有限公司 | 一种网络故障处理模型的构建方法、故障处理方法及系统 |
| CN112434602A (zh) * | 2020-11-23 | 2021-03-02 | 西安交通大学 | 一种基于可迁移共特征空间挖掘的故障诊断方法 |
| CN112613410A (zh) * | 2020-12-24 | 2021-04-06 | 江苏大学 | 基于迁移学习的寄生虫虫卵识别方法 |
| CN112954632A (zh) * | 2021-01-26 | 2021-06-11 | 电子科技大学 | 一种基于异构迁移学习的室内定位方法 |
| CN113316790A (zh) * | 2019-01-30 | 2021-08-27 | 赫尔实验室有限公司 | 经由sliced-wasserstein距离进行无监督域适应的系统和方法 |
| US11263485B2 (en) * | 2019-11-14 | 2022-03-01 | Institute For Information Industry | Transfer model training system and method |
-
2017
- 2017-11-23 CN CN201711183073.9A patent/CN107958286A/zh active Pending
Cited By (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109614980A (zh) * | 2018-10-16 | 2019-04-12 | 杭州电子科技大学 | 一种基于半监督广域迁移度量学习的小样本目标识别方法 |
| CN109461001A (zh) * | 2018-10-22 | 2019-03-12 | 阿里巴巴集团控股有限公司 | 基于第二模型获取第一模型的训练样本的方法和装置 |
| CN109461001B (zh) * | 2018-10-22 | 2021-07-09 | 创新先进技术有限公司 | 基于第二模型获取第一模型的训练样本的方法和装置 |
| CN113316790A (zh) * | 2019-01-30 | 2021-08-27 | 赫尔实验室有限公司 | 经由sliced-wasserstein距离进行无监督域适应的系统和方法 |
| CN113316790B (zh) * | 2019-01-30 | 2024-05-28 | 赫尔实验室有限公司 | 用于自主学习代理中的无监督域适应的系统、方法和介质 |
| CN111600734B (zh) * | 2019-02-21 | 2021-11-02 | 烽火通信科技股份有限公司 | 一种网络故障处理模型的构建方法、故障处理方法及系统 |
| CN111600734A (zh) * | 2019-02-21 | 2020-08-28 | 烽火通信科技股份有限公司 | 一种网络故障处理模型的构建方法、故障处理方法及系统 |
| CN110705591A (zh) * | 2019-03-09 | 2020-01-17 | 华南理工大学 | 一种基于最优子空间学习的异构迁移学习方法 |
| CN109919934A (zh) * | 2019-03-11 | 2019-06-21 | 重庆邮电大学 | 一种基于多源域深度迁移学习的液晶面板缺陷检测方法 |
| CN110555467A (zh) * | 2019-08-13 | 2019-12-10 | 深圳创新奇智科技有限公司 | 一种基于模型迁移的工业数据分类方法 |
| CN110555467B (zh) * | 2019-08-13 | 2020-10-23 | 深圳创新奇智科技有限公司 | 一种基于模型迁移的工业数据分类方法 |
| CN110555060A (zh) * | 2019-09-09 | 2019-12-10 | 山东省计算中心（国家超级计算济南中心） | 基于成对样本匹配的迁移学习方法 |
| CN110555060B (zh) * | 2019-09-09 | 2023-05-02 | 山东省计算中心（国家超级计算济南中心） | 基于成对样本匹配的迁移学习方法 |
| CN110659744B (zh) * | 2019-09-26 | 2021-06-04 | 支付宝(杭州)信息技术有限公司 | 训练事件预测模型、评估操作事件的方法及装置 |
| CN110659744A (zh) * | 2019-09-26 | 2020-01-07 | 支付宝(杭州)信息技术有限公司 | 训练事件预测模型、评估操作事件的方法及装置 |
| CN111104509B (zh) * | 2019-11-08 | 2023-06-16 | 武汉理工大学 | 一种基于概率分布自适应的实体关系分类方法 |
| CN111104509A (zh) * | 2019-11-08 | 2020-05-05 | 武汉理工大学 | 一种基于概率分布自适应的实体关系分类方法 |
| US11263485B2 (en) * | 2019-11-14 | 2022-03-01 | Institute For Information Industry | Transfer model training system and method |
| TWI786346B (zh) * | 2019-11-14 | 2022-12-11 | 財團法人資訊工業策進會 | 遷移式模型訓練系統以及方法 |
| CN111274973A (zh) * | 2020-01-21 | 2020-06-12 | 同济大学 | 基于自动划分域的人群计数模型训练方法及应用 |
| CN112434602A (zh) * | 2020-11-23 | 2021-03-02 | 西安交通大学 | 一种基于可迁移共特征空间挖掘的故障诊断方法 |
| CN112434602B (zh) * | 2020-11-23 | 2023-08-29 | 西安交通大学 | 一种基于可迁移共特征空间挖掘的故障诊断方法 |
| CN112613410A (zh) * | 2020-12-24 | 2021-04-06 | 江苏大学 | 基于迁移学习的寄生虫虫卵识别方法 |
| CN112613410B (zh) * | 2020-12-24 | 2024-05-14 | 江苏大学 | 基于迁移学习的寄生虫虫卵识别方法 |
| CN112954632A (zh) * | 2021-01-26 | 2021-06-11 | 电子科技大学 | 一种基于异构迁移学习的室内定位方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107958286A (zh) | 一种领域适应性网络的深度迁移学习方法 | |
| CN110866190B (zh) | 训练用于表征知识图谱的图神经网络模型的方法及装置 | |
| Lee et al. | Learning to branch: Accelerating resource allocation in wireless networks | |
| CN106845530B (zh) | 字符检测方法和装置 | |
| CN108763445A (zh) | 专利知识库的构建方法、装置、计算机设备和存储介质 | |
| CN108829763A (zh) | 一种基于深度神经网络的影评网站用户的属性预测方法 | |
| CN107704926A (zh) | 一种大数据跨领域分析的深度迁移学习方法 | |
| CN109359137B (zh) | 基于特征筛选与半监督学习的用户成长性画像构建方法 | |
| CN109360097A (zh) | 基于深度学习的股票预测方法、装置、设备及存储介质 | |
| CN112512069B (zh) | 基于信道波束图样的网络智能优化方法及装置 | |
| CN108090520A (zh) | 意图识别模型的训练方法、系统、装置及可读存储介质 | |
| CN109446885A (zh) | 一种基于文本的元器件识别方法、系统、装置和存储介质 | |
| CN109934330A (zh) | 基于多样化种群的果蝇优化算法来构建预测模型的方法 | |
| CN107451596A (zh) | 一种网络节点分类方法及装置 | |
| CN107886160A (zh) | 一种bp神经网络区间需水预测方法 | |
| CN110175469A (zh) | 一种社交媒体用户隐私泄漏检测方法、系统、设备及介质 | |
| Sun | Study on application of data mining technology in university computer network educational administration management system | |
| CN109657791A (zh) | 一种基于大脑神经突触记忆机制的面向开放世界连续学习方法 | |
| CN116229170A (zh) | 基于任务迁移的联邦无监督图像分类模型训练方法、分类方法及设备 | |
| CN106780501A (zh) | 基于改进人工蜂群算法的图像分割方法 | |
| CN108228896B (zh) | 一种基于密度的缺失数据填补方法及装置 | |
| CN108829846A (zh) | 一种基于用户特征的业务推荐平台数据聚类优化系统及方法 | |
| CN117312512A (zh) | 一种基于大模型的问答方法、装置、电子设备及存储介质 | |
| CN107870862A (zh) | 新控件预测模型的构建方法、遍历测试方法和计算设备 | |
| US20230351153A1 (en) | Knowledge graph reasoning model, system, and reasoning method based on bayesian few-shot learning |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180424 |