CN108710948B - 一种基于聚类均衡和权重矩阵优化的迁移学习方法 - Google Patents

一种基于聚类均衡和权重矩阵优化的迁移学习方法 Download PDF

Info

Publication number
CN108710948B
CN108710948B CN201810378299.2A CN201810378299A CN108710948B CN 108710948 B CN108710948 B CN 108710948B CN 201810378299 A CN201810378299 A CN 201810378299A CN 108710948 B CN108710948 B CN 108710948B
Authority
CN
China
Prior art keywords
sample set
cluster
weight matrix
matrix
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810378299.2A
Other languages
English (en)
Other versions
CN108710948A (zh
Inventor
易长安
朱珍
黄营
胡明
邓波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Foshan University
Original Assignee
Foshan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Foshan University filed Critical Foshan University
Priority to CN201810378299.2A priority Critical patent/CN108710948B/zh
Publication of CN108710948A publication Critical patent/CN108710948A/zh
Application granted granted Critical
Publication of CN108710948B publication Critical patent/CN108710948B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于聚类均衡和权重矩阵优化的迁移学习方法，包括定义源域样本集和目标域样本集；对源域样本集以及目标域样本集样本的标签重新赋值；对源域样本集和目标域样本集中样本进行降维；对源域样本集中样本进行基于特征的无监督聚类分析；对每个聚类进行均衡处理；为每个聚类学习度量矩阵；根据聚类及度量矩阵，生成权重矩阵；对权重矩阵优化；利用权重矩阵预测目标域样本集中样本的标签。本发明通过无监督的聚类分析方法将源域样本集分为多个不同的聚类，使每个聚类具有相似的属性；同时基于各个聚类生成权重矩阵，并对其进行优化，更符合目标域样本集的实际情况，利用该权重矩阵对目标域样本集的标签进行预测，准确度更高。

Description

一种基于聚类均衡和权重矩阵优化的迁移学习方法
技术领域
本发明涉及智能识别技术领域，更具体地说涉及一种迁移学习方法。
背景技术
所述的迁移学习，对于人类来说，就是类似于举一反三的意思，利用已有的知识来学习新的知识，解决新的问题；而在机器学习来说，迁移学习在通俗意义上来讲就是能让现有的模型算法稍加调整即可应用于一个相似的领域和功能的一项技术。
现有的迁移学习主要包括三种类型，基于特征的迁移学习、基于实例的迁移学习以及基于度量的迁移学习。其中，基于特征的迁移学习和基于实例的迁移学习是使用欧氏距离来衡量样本之间的距离，而欧氏距离不能够反应出样本的不同维度之间的关联。基于度量的迁移学习方法虽然考虑了样本的不同维度之间的关联，但这种学习方法和前两种类型一样，样本的类型完全取决于标签的种类，从而忽视了样本特征的本质属性，也就是忽略了不同标签的样本特征之间也可能存在的某些关联。
发明内容
针对上述问题，本发明考虑了样本特征所隐含的本质属性，也就是考虑了不同标签的样本特征之间也可能存在的某种关联，提供一种基于聚类均衡和权重矩阵优化的迁移学习方法，能够将源域知识更好地迁移到目标域。
本发明解决其技术问题的解决方案是：
一种基于聚类均衡和权重矩阵优化的迁移学习方法，包括以下步骤：
步骤A.定义源域样本集DS以及目标域样本集DT，所述目标域样本集DT分为两部分，分别为样本贴有标签的第一样本集DTL以及样本没有贴标签的第二样本集DTU，所述第二样本集DTU的样本数量远大于第一样本集DTL的数量；
步骤B.对所述源域样本集DS以及目标域样本集DT中样本的标签进行重新赋值；
步骤C.对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作；
步骤D.对所述源域样本集DS中的样本进行基于特征的无监督聚类分析，生成若干个聚类；
步骤E.对每个所述聚类进行均衡处理；
步骤F.为每个所述聚类学习一个度量矩阵G；
步骤G.根据所述聚类及其度量矩阵G，以及第一样本集DTL，学习权重矩阵W的初始值；
步骤H.根据所述第一样本集DTL，对所述权重矩阵W进行优化；
步骤I.利用所述权重矩阵W预测第二样本集DTU的样本的标签。
作为上述技术方案的进一步改进，所述步骤C中利用主成分分析法对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作。除此以外还可以采用特征选择法进行降维操作。
作为上述技术方案的进一步改进，所述步骤F包括以下步骤：
步骤F1.针对每个所述聚类，将聚类中的样本顺序随机化；
步骤F2.设置收敛条件，将度量矩阵G初始化为单位矩阵；
步骤F3.设置求解度量矩阵G的目标函数，记为公式1；
Figure BDA0001640370910000031
其中G0表示单位矩阵，xi和xj是聚类中的样本，S表示xi和xj同类，D表示xi和xj是不同类，所述α和β分别代表第一阈值和第二阈值；
步骤F4.求解所述度量矩阵G的目标函数，直到符合收敛条件。
作为上述技术方案的进一步改进，所述步骤G具体包括以下步骤：
步骤G1.为每个聚类学习出一个基分类器Modeli，其中i表示第i个聚类；
步骤G2.设置所述基分类器Modeli的训练函数，所述训练函数如公式2所示；
Modeli＝BaseLearner(Ci,Qi,Gi) 公式2
其中Ci为第i个聚类，Gi为第i个聚类的度量矩阵，Qi表示的是第一样本集DTL中与第i个聚类最近的样本集合；
步骤G3.基于基分类器Modeli的训练函数，利用度量矩阵Gi，对聚类Ci和集合Qi进行特征变换，并对特征进行归一化处理，完成对基分类器Modeli的训练；
步骤G4.利用函数BaseLearnerPred(Ci,Gj,Modelj)，求解所有(Ci，Gj)对第一样本集DTL中样本的预测标签，其中1≤i,j≤n，n为聚类的数量，各个(Ci，Gj)的预测准确率形成权重矩阵W的初始值W0。
作为上述技术方案的进一步改进，所述步骤H具体包括以下步骤：
步骤H1.根据所述权重矩阵W的初始值W0，计算第一样本集合DTL中样本的预测标签；
步骤H2.设置损失函数和正则项，所述损失函数如公式3所示；
norm(Lpred*wt-Lreal) 公式3
其中wt是度量矩阵W第t列的值，是步骤H中需要优化的值，Lpred是经过权重矩阵W0计算得到的预测标签，Lreal是真实标签，所述正则项如公式4所示；
norm(wt-b) 公式4
其中b是权重矩阵W0第t列的值；
步骤H3.利用第一样本集合DTL中样本，通过公式5求得wt的最优值；
minimize(lamda*norm(wt-b)+norm(Lpred*wt-Lreal)) 公式5
其中lamda表示平衡因子。
本发明的有益效果是：本发明通过基于特征的无监督聚类分析方法将源域样本集DS分为多个不同的聚类，使每个聚类具有相似的属性；同时基于各个聚类生成权重矩阵，并对其进行优化，更符合目标域样本集的实际情况，利用该权重矩阵对目标域样本集的第二样本集DTU的样本标签进行预测，预测效果更好。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单说明。显然，所描述的附图只是本发明的一部分实施例，而不是全部实施例，本领域的技术人员在不付出创造性劳动的前提下，还可以根据这些附图获得其他设计方案和附图。
图1是本发明的方法流程示意图。
具体实施方式
以下将结合实施例和附图对本发明的构思、具体结构及产生的技术效果进行清楚、完整的描述，以充分地理解本发明的目的、特征和效果。显然，所描述的实施例只是本发明的一部分实施例，而不是全部实施例，基于本发明的实施例，本领域的技术人员在不付出创造性劳动的前提下所获得的其他实施例，均属于本发明保护的范围。
参照图1，本发明创造公开了一种基于聚类均衡和权重矩阵优化的迁移学习方法，该迁移学习方法可应用于智能机器人场景识别、药品识别以及智能监控等领域。
一种基于聚类均衡和权重矩阵优化的迁移学习方法，包括以下步骤：
步骤A.定义源域样本集DS以及目标域样本集DT，所述目标域样本集DT分为两部分，分别为样本贴有标签的第一样本集DTL以及样本没有贴标签的第二样本集DTU，所述第二样本集DTU的样本数量远大于第一样本集DTL的数量；
步骤B.对所述源域样本集DS以及目标域样本集DT中的样本标签进行重新赋值；
步骤C.对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作；
步骤D.对所述源域样本集DS中的样本进行基于特征的无监督聚类分析，生成若干个聚类；
步骤E.对每个所述聚类进行均衡处理；
步骤F.为每个所述聚类学习一个度量矩阵G；
步骤G.根据所述聚类及其度量矩阵G，以及第一样本集DTL，学习权重矩阵W的初始值；
步骤H.根据所述第一样本集DTL，对所述权重矩阵W进行优化；
步骤I.利用所述权重矩阵W预测第二样本集DTU的样本的标签。
具体地，本发明通过基于特征的无监督聚类分析方法将源域样本集DS分为多个不同的聚类，使每个聚类的样本特征之间具有某种关联；同时基于各个聚类生成权重矩阵，并对其进行优化，更符合目标域样本集的实际情况，利用该权重矩阵对目标域样本集中未知标签的样本的标签进行预测，预测效果更好。
以下对所述迁移学习方法中的各个步骤进行详细说明。
步骤A中，首先定义源域样本集DS以及目标域样本集DT，其中所述目标域样本集DT分为两部分，分别为样本贴有标签的第一样本集DTL以及样本没有贴标签的第二样本集DTU，所述第二样本集DTU的样本数量远大于第一样本集DTL的数量，其中通常第一样本集DTL数量是目标域样本集DT数量的百分之五。实际应用中，本方法所述源域样本集DS以及目标域样本集DT中的样本是服从不同的数据分布，但是第一样本集DTL和第二样本集DTU中样本是服从相同的数据分布，因此当得到第一样本集DTL的预测模型，即可用该预测模型预测第二样本集DTU中的样本。简单的说，本方法是利用源域样本集DS和第一样本集DTL生成初始的预测模型，并用第一样本集DTL对预测模型进行优化，利用优化之后的预测模型对第二样本集DTU中样本进行预测。
步骤B中，对所述源域样本集DS以及目标域样本集DT中的样本标签进行重新赋值，本步骤中重新赋值前，若两个样本的标签是相同的，则重新赋值后这两个样本的标签依旧相同。重新赋值之后的标签是从1到n的整数值。本发明中对各个样本标签重新赋值，目的在于便于在后续步骤中学习、使用具有多分类功能的基分类器。
步骤C中，需要对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作，本发明具体实施例中，具体是利用主成分分析法或者特征选择法对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作，通过以上两种降维函数，可将样本数据从几万维，甚至数百万维降低到几十维，同时保留样本的主要特性。
步骤D中，对所述源域样本集DS中的样本进行基于特征的无监督聚类分析，生成若干个聚类，其中，所生成聚类的数量可视实际情况而定。
步骤E中，对每个所述聚类进行均衡处理。本发明具体实施例中，所述步骤E的具体操作如下：在某个聚类中，假设标签k对应的样本数量最多，记为Sk，对于任意的其他标签y，该聚类中标签为y的样本数量为Sy，该源域样本集DS中标签为y的样本数量为dy，从源域样本集DS中随机抽取min{(Sk-Sy),dy}个标签为y的样本，添加到当前聚类中。进行均衡处理后，同一聚类中的某些样本可能会重复出现，进行均衡处理的目的在于防止某个标签的样本数量过少。
步骤F中，为每个聚类学习一个度量矩阵G，其中本发明具体实施例中，步骤F具体包括以下步骤：
步骤F1.针对每个所述聚类，将聚类中的样本顺序随机化，使得在后续步骤中被选中的样本更具有随机性；
步骤F2.设置收敛条件，将度量矩阵G初始化为单位矩阵，本实施例中，所述收敛条件可以有两种，第一是以迭代次数超过某个阀值作为收敛条件，第二是以度量矩阵的变化幅度小于某个阀值作为收敛条件。本发明实施例优先采用的是以度量矩阵的变化幅度小于某个阀值作为收敛条件；
步骤F3.设置求解度量矩阵G的目标函数，记为公式1；
Figure BDA0001640370910000091
其中G0表示单位矩阵，xi和xj是聚类中的样本，S表示xi和xj同类，D表示xi和xj是不同类，所述α和β分别代表第一阈值和第二阈值；其中所述度量矩阵的作用是将样本从一个空间转换到另一个空间，在新的空间里，任意两个样本之间的距离都用马氏距离表示，如果两个样本之间的距离小于第一阀值，那么它们就是相似的，如果它们之间的距离大于第二阀值，那么它们就是不相似的，本实施例利用如下公式表示马氏距离，
Figure BDA0001640370910000092
本发明具体实施例中设置第一阈值和第二阈值的过程如下，从某个聚类中，随机选择若干个样本对，将它们之间的距离按从小到大的顺序排列，前5％对应的距离值就是第一阈值，前95％对应的距离值就是第二阈值(通常选取5％、95％为临界点)。例如，如果这100个(假设为100个)距离值都不重复，并且从1到100均匀分布，那么第一阈值为5，第二阈值为95；
步骤F4.求解所述度量矩阵G的目标函数，直到符合收敛条件，获得度量矩阵G。通过公式1，若经过降维后样本维度是50，则求得的度量矩阵G是50*50的矩阵。
步骤G中，根据所述聚类及其度量矩阵G，以及第一样本集DTL，生成权重矩阵W并学习权重矩阵W的初始值，本发明具体实施例中，步骤G具体包括以下步骤：
步骤G1.为每个聚类学习出一个基分类器Modeli，其中i表示第i个聚类；
步骤G2.设置所述基分类器Modeli的训练函数如公式2所示；
Modeli＝BaseLearner(Ci,Qi,Gi) 公式2
其中Ci为第i个聚类，Gi为第i个聚类的度量矩阵，Qi表示第一样本集DTL中与聚类i的距离最近的样本集合；其中集合Qi通过以下方法求得，首先计算每个聚类的聚类中心，针对第一样本集DTL，计算第一样本集DTL每个样本到各个聚类中心的欧氏距离，如果某个样本离聚类Ci最近，则将其存入集合Qi中，集合Qi的内容最初为空；
步骤G3.基于基分类器Modeli的训练函数，利用度量矩阵Gi，对聚类Ci和集合Qi进行特征变换，并对特征进行归一化处理，完成对基分类器Modeli的训练；
步骤G4.利用函数BaseLearnerPred(Ci,Gj,Modelj)，求解所有(Ci，Gj)对第一样本集DTL中样本的预测标签，其中1≤i,j≤n，n为聚类的数量，各个(Ci，Gj)的预测准确率形成权重矩阵W的初始值W0。
步骤G中，各个聚类Ci以及所有度量矩阵Gj之间形成表1所示关系。
Figure BDA0001640370910000101
Figure BDA0001640370910000111
表1
其中表1中，W11、W12……Wnn组成权重矩阵W。
步骤H中，需要对所述权重矩阵W进行优化，目的在于使第一样本集DTL中样本的预测标签与真实标签差异最小，本发明具体实施例中，步骤H具体包括以下步骤：
步骤H1.根据所述权重矩阵W的初始值W0，计算第一样本集合DTL中样本的预测标签；
步骤H2.设置损失函数和正则项，所述损失函数如公式3所示；
norm(Lpred*wt-Lreal) 公式3
其中wt是度量矩阵W第t列的值，是步骤H中需要优化的值，Lpred是经过权重矩阵W0计算得到的预测标签，Lreal是真实标签，所述正则项如公式4所示；
norm(wt-b) 公式4
其中b是权重矩阵W0第t列的值；
步骤H3.利用第一样本集合DTL中样本，通过公式5求得wt的最优值；
minimize(lamda*norm(wt-b)+norm(Lpred*wt-Lreal)) 公式5
其中lamda表示平衡因子。
步骤I中，用所述权重矩阵W预测第二样本集DTU中样本的标签。具体地，在步骤H中，利用第一样本集DTL对权重矩阵进行优化，而由于第一样本集DTL和第二样本集DTU样本数据分布一致，因此优化后的权重矩阵同样适用于预测第二样本集DTU样本的标签。所述第二样本集DTU的每个样本必然和某一个聚类的距离最近。此处以聚类Ci为例子进行说明，假设第一样本集DTL里与聚类Ci最近的样本集为Ri，首先采用函数BaseLearnerPred预测样本集Ri的标签，假设(Ci,Gj)对样本Ri的预测标签为pred(Ri)，那么对于同一个聚类Ci，样本集Ri中的每个样本都可以通过如下公式进行预测，pred(Ri)＝pred(Ri)+W(Ci,Gj)，接着，样本集Ri里的每个样本都使用max函数(以MATLAB软件为例)求解使得pred(Ri)取得最大值的标签序号，最终得到相应的预测值Final(Ri)，即Final(Ri)＝max(pred(Ri))。因为之前进行了重赋值操作，所以现在最后只需将预测值还原为真实值即可。
以上对本发明的较佳实施方式进行了具体说明，但本发明创造并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可作出种种的等同变型或替换，这些等同的变型或替换均包含在本申请权利要求所限定的范围内。

Claims (3)

1.一种基于聚类均衡和权重矩阵优化的迁移学习方法，其特征在于，包括以下步骤：
步骤A.定义源域样本集DS以及目标域样本集DT，所述目标域样本集DT分为两部分，分别为样本贴有标签的第一样本集DTL以及样本没有贴标签的第二样本集DTU，所述第二样本集DTU的样本数量远大于第一样本集DTL的数量；
步骤B.对所述源域样本集DS以及目标域样本集DT中样本的标签进行重新赋值；
步骤C.对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作；
步骤D.对所述源域样本集DS中的样本进行基于特征的无监督聚类分析，生成若干个聚类；
步骤E.对每个聚类进行均衡处理；
步骤F.为每个聚类学习一个度量矩阵G；
步骤G.根据聚类及其度量矩阵G，以及第一样本集DTL，学习权重矩阵W的初始值；
步骤H.根据所述第一样本集DTL，对所述权重矩阵W进行优化；
步骤I.利用所述权重矩阵W预测第二样本集DTU样本的标签；
所述步骤G包括以下步骤：
步骤G1.为每个聚类学习出一个基分类器Modeli，其中i表示第i个聚类；
步骤G2.设置所述基分类器Modeli的训练函数，所述训练函数如公式2所示；
Modeli＝BaseLearner(Ci,Qi,Gi) 公式2
其中Ci为第i个聚类，Gi为第i个聚类的度量矩阵，Qi表示的是第一样本集DTL中与第i个聚类最近的样本集合；
步骤G3.基于基分类器Modeli的训练函数，利用度量矩阵Gi，对聚类Ci和集合Qi进行特征变换，并对特征进行归一化处理，完成对基分类器Modeli的训练；
步骤G4.利用函数BaseLearnerPred(Ci,Gj,Modelj)，求解所有(Ci，Gj)对第一样本集DTL中样本的预测标签，其中1≤i,j≤n，n为聚类的数量，各个(Ci，Gj)的预测准确率形成权重矩阵W的初始值W0；
所述步骤H包括以下步骤：
步骤H1.根据所述权重矩阵W的初始值W0，计算第一样本集合DTL中样本的预测标签；
步骤H2.设置损失函数和正则项，所述损失函数如公式3所示；
norm(Lpred*wt-Lreal) 公式3
其中wt是度量矩阵W第t列的值，是步骤H中需要优化的值，Lpred是经过权重矩阵W0计算得到的预测标签，Lreal是真实标签，所述正则项如公式4所示；
norm(wt-b) 公式4
其中b是权重矩阵W0第t列的值；
步骤H3.利用第一样本集合DTL中样本，通过公式5求得wt的最优值；
minimize(lamda*norm(wt-b)+norm(Lpred*wt-Lreal)) 公式5
其中lamda表示平衡因子。
2.根据权利要求1所述的一种基于聚类均衡和权重矩阵优化的迁移学习方法，其特征在于：所述步骤C中利用主成分分析法对所述源域样本集DS以及目标域样本集DT中的样本进行降维操作。
3.根据权利要求2所述的一种基于聚类均衡和权重矩阵优化的迁移学习方法，其特征在于，所述步骤F包括以下步骤：
步骤F1.针对每个聚类，将聚类中的样本顺序随机化；
步骤F2.设置收敛条件，将度量矩阵G初始化为单位矩阵；
步骤F3.设置求解度量矩阵G的目标函数；
步骤F4.求解所述度量矩阵G的目标函数，直到符合收敛条件。
CN201810378299.2A 2018-04-25 2018-04-25 一种基于聚类均衡和权重矩阵优化的迁移学习方法 Active CN108710948B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810378299.2A CN108710948B (zh) 2018-04-25 2018-04-25 一种基于聚类均衡和权重矩阵优化的迁移学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810378299.2A CN108710948B (zh) 2018-04-25 2018-04-25 一种基于聚类均衡和权重矩阵优化的迁移学习方法

Publications (2)

Publication Number Publication Date
CN108710948A CN108710948A (zh) 2018-10-26
CN108710948B true CN108710948B (zh) 2021-08-31

Family

ID=63866812

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810378299.2A Active CN108710948B (zh) 2018-04-25 2018-04-25 一种基于聚类均衡和权重矩阵优化的迁移学习方法

Country Status (1)

Country Link
CN (1) CN108710948B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109934281B (zh) * 2019-03-08 2021-01-26 电子科技大学 一种二分类网络的非监督训练方法
CN110009038B (zh) * 2019-04-04 2022-02-22 北京百度网讯科技有限公司 筛查模型的训练方法、装置及存储介质
CN110070535A (zh) * 2019-04-23 2019-07-30 东北大学 一种基于实例迁移学习的视网膜血管图像分割方法
CN110555060B (zh) * 2019-09-09 2023-05-02 山东省计算中心（国家超级计算济南中心） 基于成对样本匹配的迁移学习方法
CN111209935B (zh) * 2019-12-26 2022-03-25 武汉安视感知科技有限公司 基于自适应域转移的无监督目标检测方法及系统
CN111161239B (zh) * 2019-12-27 2024-02-27 上海联影智能医疗科技有限公司 医学图像分析方法、装置、存储介质及计算机设备
CN111461191B (zh) * 2020-03-25 2024-01-23 杭州跨视科技有限公司 为模型训练确定图像样本集的方法、装置和电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105023024A (zh) * 2015-07-23 2015-11-04 湖北大学 一种基于正则化集合度量学习的遥感图像分类方法及系统
CN107169511A (zh) * 2017-04-27 2017-09-15 华南理工大学 基于混合聚类集成选择策略的聚类集成方法
CN107563410A (zh) * 2017-08-04 2018-01-09 中国科学院自动化研究所 基于局部类别一致聚类和多任务学习的分类方法及设备
CN107944716A (zh) * 2017-11-29 2018-04-20 国网江苏省电力有限公司 基于学习结果修正的变电站电能计量周期平衡异常诊断方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060047655A1 (en) * 2004-08-24 2006-03-02 William Peter Fast unsupervised clustering algorithm
US9881221B2 (en) * 2013-10-24 2018-01-30 Conduent Business Services, Llc Method and system for estimating gaze direction of vehicle drivers
US10095957B2 (en) * 2016-03-15 2018-10-09 Tata Consultancy Services Limited Method and system for unsupervised word image clustering

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105023024A (zh) * 2015-07-23 2015-11-04 湖北大学 一种基于正则化集合度量学习的遥感图像分类方法及系统
CN107169511A (zh) * 2017-04-27 2017-09-15 华南理工大学 基于混合聚类集成选择策略的聚类集成方法
CN107563410A (zh) * 2017-08-04 2018-01-09 中国科学院自动化研究所 基于局部类别一致聚类和多任务学习的分类方法及设备
CN107944716A (zh) * 2017-11-29 2018-04-20 国网江苏省电力有限公司 基于学习结果修正的变电站电能计量周期平衡异常诊断方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Clustering Ensemble for Unsupervised Feature Selection;Yihui Luo .ect;《2009 Sixth International Conference on Fuzzy Systems and Knowledge Discovery》;20091231;第445-448页 *
基于字典学习的无监督迁移聚类及其在SAR图像分割中的应用;庄广安;《中国优秀硕士学位论文全文数据库》;20130515;第I136-576页 *
基于迁移学习和特征融合的人脸识别算法的研究;曹丽君;《中国优秀硕士学位论文全文数据库》;20170915;第I138-321页 *
距离度量学习中的类别不平衡问题研究;刘江涛;《中国优秀硕士学位论文全文数据库》;20170315;第I140-277页 *

Also Published As

Publication number Publication date
CN108710948A (zh) 2018-10-26

Similar Documents

Publication Publication Date Title
CN108710948B (zh) 一种基于聚类均衡和权重矩阵优化的迁移学习方法
Miyato et al. Distributional smoothing with virtual adversarial training
US20180285771A1 (en) Efficient machine learning method
WO2021164625A1 (en) Method of training an image classification model
CN105389326B (zh) 基于弱匹配概率典型相关性模型的图像标注方法
CN111985581A (zh) 一种基于样本级注意力网络的少样本学习方法
US20210224647A1 (en) Model training apparatus and method
WO2010062268A1 (en) A method for updating a 2 dimensional linear discriminant analysis (2dlda) classifier engine
CN113076437B (zh) 一种基于标签重分配的小样本图像分类方法及系统
CN110659682A (zh) 一种基于MCWD-KSMOTE-AdaBoost-DenseNet算法的数据分类方法
WO2014118978A1 (ja) 学習方法、情報処理装置および学習プログラム
CN111695611B (zh) 一种蜂群优化核极限学习和稀疏表示机械故障识别方法
CN111611909A (zh) 多子空间域自适应人脸识别方法
CN112766400A (zh) 高维数据基于多个数据变换空间的半监督分类集成方法
US20220156519A1 (en) Methods and systems for efficient batch active learning of a deep neural network
CN106295688B (zh) 一种基于稀疏均值的模糊聚类方法
CN109858546B (zh) 一种基于稀疏表示的图像识别方法
CN111950652A (zh) 一种基于相似度的半监督学习数据分类算法
WO2020059545A1 (ja) 画像認識器学習装置、画像認識器学習方法、及びプログラム
CN107657223B (zh) 一种基于快速处理多距离度量学习的人脸认证方法
CN110647927A (zh) 一种基于acgan图像半监督分类算法
CN109359677B (zh) 一种耐噪在线多分类核学习算法
CN110459266B (zh) Snp致病因素与疾病关联关系模型建立方法
Perez et al. Face Patches Designed through Neuroevolution for Face Recognition with Large Pose Variation
Mousavi A New Clustering Method Using Evolutionary Algorithms for Determining Initial States, and Diverse Pairwise Distances for Clustering

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant