CN109299162A - 一种用于正类和无标记数据分类的主动学习方法 - Google Patents

一种用于正类和无标记数据分类的主动学习方法 Download PDF

Info

Publication number
CN109299162A
CN109299162A CN201811322266.2A CN201811322266A CN109299162A CN 109299162 A CN109299162 A CN 109299162A CN 201811322266 A CN201811322266 A CN 201811322266A CN 109299162 A CN109299162 A CN 109299162A
Authority
CN
China
Prior art keywords
positive class
sample
class
model
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811322266.2A
Other languages
English (en)
Inventor
黄圣君
蔡佳佳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN201811322266.2A priority Critical patent/CN109299162A/zh
Publication of CN109299162A publication Critical patent/CN109299162A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种用于正类和无标记数据分类的主动学习方法，将主动学习应用于正类无标记数据分类问题，在无偏风险估计PU分类算法的基础之上，通过挑选能够使估计风险值减小最多的样本来进行查询，尽可能地增加潜在收益较大的正类样本，花费较少的标注代价，有效地提升PU分类算法的性能。

Description

一种用于正类和无标记数据分类的主动学习方法
技术领域
本发明属于机器学习技术领域，具体涉及一种用于正类和无标记数据分类的主动学习方法。
背景技术
在现实应用中往往能很容易地收集到大量的无标记数据，但是对这些数据进行标注却极其耗费人力、物力和财力。例如在进行医学影像诊断时，可以从医院的数据库中获取到大量的医学影像数据，但是对这些图像进行标注不仅需要专业医学从业者的参与，而且耗时耗力。半监督学习旨在充分利用未标记数据来提升学习性能，以减少数据标注代价。PULearning是半监督学习的一种特殊情形。PU Learning假定我们面对的数据中，只有少量的正类样本被标记出来，构成集合P(Positive)，剩下所有的未标记数据构成集合U(Unlabeled)。在没有负类样本的情形下，常规的基于二分类的半监督学习算法无法胜任，因此需要设计特殊的算法来处理这样的数据。由此而衍生出了PU Learning这样一种学习框架，仅利用已有的正类和无标记数据来训练二分类学习器。
PU Learning在现实应用中经常见到，例如在分子生物学中，要将某些具有特定功能的蛋白质标注出来。只有当某些特定的行为被观察到时，才对蛋白质进行标注，但是这并不意味着那些未标记的蛋白质没有此功能。再比如在商品推荐时，购买过或是浏览过某商品的顾客被标注为正类，但是未标记的顾客同样存在购买此商品的可能。目前比较流行的PU分类算法通过最小化无偏估计风险来训练分类器，但是这种PU学习框架如果要获得到比较好的分类结果，需要有相当数量的正类样本。倘若正类样本有限，PU学习算法的性能会大打折扣。但在PU学习问题中，数据的标注代价往往是相当大的，正类样本获取较为困难。
发明内容
发明目的：针对上述现有技术，提出一种用于正类和无标记数据分类的主动学习方法，以尽可能少的标注代价，增加对训练分类器最有用的正类样本，提升PU分类器的性能。
技术方案：一种用于正类和无标记数据分类的主动学习方法，包括以下步骤：
步骤1：利用已有的正类数据集合P和无标记数据集合U，通过最小化无偏估计风险，训练初始PU分类模型，并指定初始样本选择池S＝U；
步骤2：在样本选择池S中选择能够使期望误差减少最多的样本进行标注；
步骤3：根据步骤2的标注结果更新正类数据集合P和样本选择池S；
步骤4：重新训练PU分类模型；
步骤5：若满足训练终止条件，保留当前分类模型，训练停止；否则返回步骤2。
进一步的，所述步骤1中，训练初始PU分类模型包括如下步骤：
假设分类模型为 为原始特征空间到希尔伯特空间的映射，w为模型参数；上标T表示转置；假设已有nP个正类样本和nU个无标记样本，用正类和无标记样本来估计负类误差
其中，π为正类先验；l为平方损失函数，z表示函数变量；xi表示样本，λ为正则化项参数；
将分类模型并进行向量化，得到：
假设选定的核函数为k，则有将所有的样本两两代入核函数k中，得到核矩阵K；ΦP和ΦU为核矩阵K的子矩阵，分别表示正类和无标记数据在核矩阵K中所对应的行；A为全1的列向量；
求解上式的最小值得到模型参数w：
其中，I为单位矩阵。
进一步的，所述步骤2包括如下步骤：
步骤201：初始化中间变量t＝0，rt＝1×105，τ＝1×10-5，设定查询样本数量b；其中t表示循环轮数，rt表示在t轮得到的模型的估计分类误差，τ为收敛判断值；
步骤202：设要求的样本选择权重向量为q，固定当前的模型参数w，求解以下公式得到q的值：
qTA＝b
其中，qi表示向量q的第i个分量；
步骤203：将q中的元素从大到小排序，取前b个元素所对应的样本，记为集合Qt，并赋予样本伪标记为+1；
步骤204：更新伪正类集合
步骤205：利用集合和U，更新模型参数w：
步骤206：计算当前模型的估计经验风险rt+1：
其中，l01(z)为0-1损失函数：
步骤207：如果|rt-rt+1|≤τ，返回Q＝Qt为选中的查询样本，结束循环；否则，t＝t+1，返回步骤202。
进一步的，所述步骤3包括如下步骤：
由专家或用户对选中的查询样本集合Q进行标注，如果标注结果为1，则将样本放入正类数据集合P，从样本选择池S中将选到的查询样本移除。
进一步的，所述步骤5中训练终止条件为达到最大循环次数或分类模型在测试数据集上的预测结果满足精度要求。
有益效果：本发明提供的基于正类和无标记数据的主动选择方法，结合机器学习中的PU学习和主动学习技术，提出了一种有效的样本选择机制，能够在不增加用户标注代价的同时，优先选择那些对训练PU分类器最有帮助的样本来进行标注。具体地，在PU学习中，取决定性因素的是那些正类样本，因为要利用这些正类样本来估计未知的负类分类误差。因此，如果查询样本中有尽可能多的正类，且能够降低估计经验风险，那么理论上来说会提高分类器的泛化性能。本发明在选择查询样本时，通过最小化估计经验风险，迭代的求解每个样本的选择权重，对模型最优时选择权重最大的样本进行标注，以此来增加对模型性能提升最有用的样本。
附图说明
图1为本发明流程图；
图2为训练PU分类模型的示意图；
图3为选择查询样本的流程图。
具体实施方式
下面结合附图对本发明做更进一步的解释。
如图1所示为本发明的流程图。假设训练数据由两部分组成，一部分是已经标注过的正类数据，假设共有nP个正类样本，用P表示；另一部分是未经标注的无标记数据，假设共有nU个无标记样本，记为集合U；每次样本选择池S中选取查询样本，S是U的子集，且初始样本选择池S＝U。
首先，利用已有的正类数据集合P和无标记数据集合U，通过最小化无偏估计风险，训练初始PU分类模型，训练算法的具体过程详见图2。
然后，判断是否达到停止条件。停止条件是人为设定的，如在测试集上是否达到所需的精度或是设一个最大循环次数。如果达到停止条件，就将当前的分类器作为最优分类器；否则，就从样本选择池S中选取一批查询样本，交给专家或用户进行标注，从集合S中将选到的查询样本移除，即S＝S\Q。查询样本的选择方法详见图3。
接着，将专家或用户标注为正类的样本，即标注结果为1的样本放入正类数据集合P。再依据新的集合P和集合U训练新的分类模型，从而进入新一轮的循环。
如图2所示，通过最小化训练数据上的正则化估计期望误差得到模型的参数。具体来说，在传统的二分类情况下，假设已有nP个正类样本和nN个负类样本。假设分类模型为 为原始特征空间到希尔伯特空间的映射，w为模型参数；上标T表示转置。通过最小化正则化估计期望误差R(f)来求解模型参数w：
其中，假定正类先验π是已知的，l为平方损失函数，xi表示样本，λ为正则化项参数。
在PU分类问题中，假设已有nP个正类样本和nU个无标记样本。由于标记数据中不存在负类样本，这里用正类和未标记数据来估计负类误差
本发明中使用的l为平方损失函数z表示函数变量。那么l(f(x))-l(-f(x))＝-f(x)，则上式化简为：
将代入上式，并进行向量化，得到：
假设选定的核函数为k，则有那么对于所有的样本两两代入核函数k中，就可以得到一个核矩阵K。上式中，ΦP和ΦU为核矩阵K的子矩阵，分别表示正类和无标记数据在核矩阵K中所对应的行；A为全1的列向量。
求解上式的最小值得到模型参数w：
其中，I为单位矩阵。
如图3所示，查询样本的选择方法包括如下步骤：
步骤201：初始化中间变量t＝0，rt＝1×105，τ＝1×10-5，设定查询样本数量b；其中t表示循环轮数，rt在t轮得到的模型的估计分类误差，τ为收敛判断值；
步骤202：固定当前的模型参数w，求解当前模型下样本的选择权重向量q的值：
qTA＝b
步骤203：对q中的元素从大到小排序，取前b个元素所对应的样本，记为集合Qt，并赋予其伪标记为+1；
步骤204：更新伪正类集合
步骤205：利用集合和U，按照以下公式最小化估计经验风险，更新模型参数w：
步骤206：计算当前模型的估计经验风险rt+1：
其中，l01(z)为0-1损失函数，
步骤207：如果|rt-rt+1|≤τ，估计经验风险已经收敛到最小值，可以认为此时的模型是最优模型。也就是说，通过将Qt加入训练集合使得模型最优。此时，返回Q＝Qt为选中的查询样本，结束循环；否则，t＝t+1，返回步骤202。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (5)

1.一种用于正类和无标记数据分类的主动学习方法，其特征在于，包括以下步骤：
步骤1：利用已有的正类数据集合P和无标记数据集合U，通过最小化无偏估计风险，训练初始PU分类模型，并指定初始样本选择池S＝U；
步骤2：在样本选择池S中选择能够使期望误差减少最多的样本进行标注；
步骤3：根据步骤2的标注结果更新正类数据集合P和样本选择池S；
步骤4：重新训练PU分类模型；
步骤5：若满足训练终止条件，保留当前分类模型，训练停止；否则返回步骤2。
2.根据权利要求1所述的用于正类和无标记数据分类的主动学习方法，其特征在于，所述步骤1中，训练初始PU分类模型包括如下步骤：
假设分类模型为 为原始特征空间到希尔伯特空间的映射，w为模型参数；上标T表示转置；假设已有nP个正类样本和nU个无标记样本，用正类和无标记样本来估计负类误差
其中，π为正类先验；l为平方损失函数，z表示函数变量；xi表示样本，λ为正则化项参数；
将分类模型代入并进行向量化，得到：
假设选定的核函数为k，则有将所有的样本两两代入核函数k中，得到核矩阵K；ΦP和ΦU为核矩阵K的子矩阵，分别表示正类和无标记数据在核矩阵K中所对应的行；A为全1的列向量；
求解上式的最小值得到模型参数w：
其中，I为单位矩阵。
3.根据权利要求2所述的用于正类和无标记数据分类的主动学习方法，其特征在于，所述步骤2包括如下步骤：
步骤201：初始化中间变量t＝0，rt＝1×105，τ＝1×10-5，设定查询样本数量b；其中t表示循环轮数，rt表示在t轮得到的模型的估计分类误差，τ为收敛判断值；
步骤202：设要求的样本选择权重向量为q，固定当前的模型参数w，求解以下公式得到q的值：
qTA＝b
其中，qi表示向量q的第i个分量；
步骤203：将q中的元素从大到小排序，取前b个元素所对应的样本，记为集合Qt，并赋予样本伪标记为+1；
步骤204：更新伪正类集合
步骤205：利用集合和U，更新模型参数w：
步骤206：计算当前模型的估计经验风险rt+1：
其中，l01(z)为0-1损失函数：
步骤207：如果|rt-rt+1|≤τ，返回Q＝Qt为选中的查询样本，结束循环；否则，t＝t+1，返回步骤202。
4.根据权利要求2所述的用于正类和无标记数据分类的主动学习方法，其特征在于，所述步骤3包括如下步骤：
由专家或用户对选中的查询样本集合Q进行标注，如果标注结果为1，则将样本放入正类数据集合P，从样本选择池S中将选到的查询样本移除。
5.根据权利要求1-4任一所述的用于正类和无标记数据分类的主动学习方法，其特征在于，所述步骤5中训练终止条件为达到最大循环次数或分类模型在测试数据集上的预测结果满足精度要求。
CN201811322266.2A 2018-11-08 2018-11-08 一种用于正类和无标记数据分类的主动学习方法 Pending CN109299162A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811322266.2A CN109299162A (zh) 2018-11-08 2018-11-08 一种用于正类和无标记数据分类的主动学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811322266.2A CN109299162A (zh) 2018-11-08 2018-11-08 一种用于正类和无标记数据分类的主动学习方法

Publications (1)

Publication Number Publication Date
CN109299162A true CN109299162A (zh) 2019-02-01

Family

ID=65145925

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811322266.2A Pending CN109299162A (zh) 2018-11-08 2018-11-08 一种用于正类和无标记数据分类的主动学习方法

Country Status (1)

Country Link
CN (1) CN109299162A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110263166A (zh) * 2019-06-18 2019-09-20 北京海致星图科技有限公司 基于深度学习的舆情文本分类方法
CN110378384A (zh) * 2019-06-19 2019-10-25 广东工业大学 一种结合特权信息和排序支持向量机的图像分类方法
CN110728327A (zh) * 2019-10-18 2020-01-24 中国科学技术大学 一种具有可解释性的直推学习方法及系统
CN111275025A (zh) * 2020-03-23 2020-06-12 复旦大学 一种基于深度学习的车位检测方法
CN111814851A (zh) * 2020-06-24 2020-10-23 重庆邮电大学 一种基于单类支持向量机的煤矿瓦斯数据标记方法
CN114118201A (zh) * 2021-09-27 2022-03-01 南开大学 基于主动学习的医疗设备性能指标检测方法和装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110263166A (zh) * 2019-06-18 2019-09-20 北京海致星图科技有限公司 基于深度学习的舆情文本分类方法
CN110378384A (zh) * 2019-06-19 2019-10-25 广东工业大学 一种结合特权信息和排序支持向量机的图像分类方法
CN110378384B (zh) * 2019-06-19 2023-10-10 广东工业大学 一种结合特权信息和排序支持向量机的图像分类方法
CN110728327A (zh) * 2019-10-18 2020-01-24 中国科学技术大学 一种具有可解释性的直推学习方法及系统
CN110728327B (zh) * 2019-10-18 2021-11-23 中国科学技术大学 一种具有可解释性的直推学习方法及系统
CN111275025A (zh) * 2020-03-23 2020-06-12 复旦大学 一种基于深度学习的车位检测方法
CN111814851A (zh) * 2020-06-24 2020-10-23 重庆邮电大学 一种基于单类支持向量机的煤矿瓦斯数据标记方法
CN111814851B (zh) * 2020-06-24 2021-07-06 重庆邮电大学 一种基于单类支持向量机的煤矿瓦斯数据标记方法
CN114118201A (zh) * 2021-09-27 2022-03-01 南开大学 基于主动学习的医疗设备性能指标检测方法和装置

Similar Documents

Publication Publication Date Title
CN109299162A (zh) 一种用于正类和无标记数据分类的主动学习方法
Wang et al. NAS-FCOS: Fast neural architecture search for object detection
Creswell et al. Generative adversarial networks: An overview
Zeng et al. Face2exp: Combating data biases for facial expression recognition
Mittal et al. Parting with illusions about deep active learning
CN107220277A (zh) 基于手绘草图的图像检索算法
Liu et al. An improved evaluation framework for generative adversarial networks
CN109192298B (zh) 基于脑网络的深度脑疾病诊断算法
CN103390063B (zh) 一种基于蚁群算法和概率超图的相关反馈图像检索方法
Rothfuss et al. Deep episodic memory: Encoding, recalling, and predicting episodic experiences for robot action execution
CN105654069B (zh) 基于Lp范数正则化的增量子空间目标跟踪方法
Du et al. Accelerated super-resolution MR image reconstruction via a 3D densely connected deep convolutional neural network
CN106844518A (zh) 一种基于子空间学习的不完整跨模态检索方法
Chen et al. Binarized neural architecture search
CN109146925A (zh) 一种动态场景下显著性目标检测方法
Zhang et al. A sparse annotation strategy based on attention-guided active learning for 3D medical image segmentation
Lin et al. Two stream active query suggestion for active learning in connectomics
Wang et al. NAS-FCOS: efficient search for object detection architectures
CN109034218A (zh) 模型训练方法、装置、设备及存储介质
Lee et al. Generator knows what discriminator should learn in unconditional GANs
Liu et al. GL-GAN: Adaptive global and local bilevel optimization for generative adversarial network
CN100592297C (zh) 一种基于表示转换的多义数字图像检索方法
Li et al. Crossway diffusion: Improving diffusion-based visuomotor policy via self-supervised learning
Kozma et al. Binary principal component analysis in the Netflix collaborative filtering task
Bae Sequential and parallel algorithms for the generalized maximum subarray problem

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190201

RJ01 Rejection of invention patent application after publication