CN109145943A - 一种基于特征迁移的集成分类方法及系统 - Google Patents
一种基于特征迁移的集成分类方法及系统 Download PDFInfo
- Publication number
- CN109145943A CN109145943A CN201810731253.4A CN201810731253A CN109145943A CN 109145943 A CN109145943 A CN 109145943A CN 201810731253 A CN201810731253 A CN 201810731253A CN 109145943 A CN109145943 A CN 109145943A
- Authority
- CN
- China
- Prior art keywords
- feature
- classifier
- ensemble
- migration
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013508 migration Methods 0.000 title claims abstract description 78
- 230000005012 migration Effects 0.000 title claims abstract description 78
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000012549 training Methods 0.000 claims abstract description 82
- 238000000605 extraction Methods 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims description 9
- 238000013459 approach Methods 0.000 abstract description 4
- 238000012360 testing method Methods 0.000 description 6
- 238000010276 construction Methods 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000010835 comparative analysis Methods 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000003014 reinforcing effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 235000013311 vegetables Nutrition 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本实施例公开了一种基于特征迁移的集成分类方法及系统，用以解决现有集成方法海量数据运算以及准确度不高的问题，其中，该方法包括步骤：选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；对所述多个基分类器进行集成；提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。本发明通过集成少数几个基于特征迁移而训练得到的基分类器，无需进行大量运算，进而在少量的时间与空间开销代价下，达到提高分类准确率的目的。
Description
技术领域
本发明涉及数据分类技术领域，尤其涉及一种基于特征迁移的集成分类方法及系统。
背景技术
集成分类(ensemble classification)方法，是指通过适当的组合多个性能较低的弱分类器，进而构成高性能的强分类器的方法，它的基本思想是：对于一个复杂问题来说，将多个专家的判断进行适当的综合得出的判断，要比其中任何一个专家单独的判断好。正是基于这样一种简单的思想，集成分类方法可获得比单一分类器有显著优越的泛化性能。有关集成分类方法的研究，一直是机器学习领域的热点。
特征迁移是指在一个特定的机器学习任务(如图像分类)中学习到的有关该任务领域的数据的特征表达，可以直接迁移到另一个近似或类似的任务中，且只需要对上层分类器的参数进行调整，就能够获得很好的性能。与特征迁移有联系的另一个术语是“迁移学习，其表达的是一个更广的范畴，迁移学习不仅可以对上层分类器的参数进行调整，还可以对用于表述特征表达的基础模型的若干参数进行调整，而且对于选择那些参数进行调整也有不同的策略。基于这种定义可以了解到，特征迁移其实是迁移学习的一个子集。
目前集成分类方法根据单个分类器的生成方式大致可分为两大类：第一类是基于“Boosting”(提升)的方法，其中的代表是“AdaptBoost”，这类方法中的单个分类器之间存在比较强的依赖关系，需以串行的方式生成各个弱分类器；第二类是基于“Bagging”(重采样)的方法，其中的代表是“RandomForest”，这类方法中的单分类器之间不存在依赖关系，因此可以以并行的方式生成各个分类器。Boosting提升方法通过改变训练样本的权重来改变样本的分布，使得分类器聚集在那些比较难分类的样本上，加强对那些容易错分的样本进行学习。这种加强学习的方式是通过增加错误分类样本的权重来完成的，这样错误分类的样本在下一轮的迭代中就有更大的作用。Bagging重采样方法，通过对原始数据进行有放回的抽样，构建出多个样本数据集，然后用这些新的数据集训练多个分类器。由于是有放回的采样，因此一些样本可能会出现多次，而其它样本则会被忽略。该方法是通过简化基分类器，进而来改善整体模型的泛化能力的。因此，Bagging方法的性能是依赖于基分类器的稳定性的，如果基分类器是不稳定的，Bagging则有助于减低因训练数据的扰动而导致的误差，但是如果基分类器是稳定的，即对数据不敏感，那么Bagging方法对性能就没有提升，甚至可能会降低。
但是，基于Boosting或Bagging的集成方法一般需要集成成千上万个基分类器才能够满足一定的精度，因此在数据特征维度较高的情况下，训练或预测阶段的时间或空间代价会比较大。
发明内容
本发明的目的是针对现有技术的缺陷，提供一种基于特征迁移的集成分类方法及系统，解决现有集成方法海量数据运算以及准确度不高的问题。
为了实现以上目的，本发明采用以下技术方案：
一种基于特征迁移的集成分类方法，包括步骤：
选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
对所述多个基分类器进行集成；
提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。优选的，所述对预设训练模型进行特征迁移的提取具体为：
利用预设定领域中已训练完成的模型作为特征迁移的基础模型。
优选的，还包括步骤：
在训练过程中对新构造的基分类器进行调整。
优选的，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，N表示基分类器的数量，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置，N表示基分类器的数量，通过对V中的每一维度Vl均采用式Vl ensemble进行集成，得到一个与基分类器输出一样维度的向量Vensemble。
优选的，还包括步骤：
选择不同数量的所述多个基分类器进行集成；
根据所述不同数量的基分类器的集成分类结果确定所述预训练模型需要的基分类器集成数量。
相应的，还提供一种基于特征迁移的集成分类系统，包括：
特征提取模块，用于选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
基分类器训练模块，用于基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
基分类器集成模块，用于对所述多个基分类器进行集成；
集成分类模块，用于提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。
优选的，所述特征提取模块包括：
选取单元，用于选取预设定领域中已训练完成的模型作为特征迁移的基础模型。
优选的，还包括：
调整模块，用于在训练过程中对新构造的基分类器进行调整。
优选的，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，N表示基分类器的数量，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置；通过对V中的每一维度Vl均采用式Vl ensemble进行集成，得到一个与基分类器输出一样维度的向量Vensemble。
优选的，还包括：
选择模块，用于选择不同数量的所述多个基分类器进行集成；
确定模块，用于根据所述不同数量的基分类器的集成分类结果确定所述预训练模型需要的基分类器集成数量。
与现有技术相比，本发明通过集成少数几个基于特征迁移而训练得到的基分类器，进而在少量的时间与空间开销代价下，达到提高分类准确率的目的，且适用性强，用于提取迁移特征的基础模型是不受限制的，任何可能的迁移模型均适合本方案。
附图说明
图1为实施例一提供的一种基于特征迁移的集成分类方法流程图；
图2为实施例一提供的一种基于特征迁移的集成分类系统结构图；
图3为实施例二提供的一种基于特征迁移的集成分类方法流程图；
图4为实施例二提供的一种基于特征迁移的集成分类系统结构图。
具体实施方式
以下是本发明的具体实施例并结合附图，对本发明的技术方案作进一步的描述，但本发明并不限于这些实施例。
实施例一
本实施例公开了一种基于特征迁移的集成分类方法，如图1所示，包括步骤：
S101、选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
S102、基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
S103、对所述多个基分类器进行集成；
S104、提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。
目前的集成分类方法中基于Boosting或Bagging的集成方法一般需要集成成千上万个基分类器才能够满足一定的精度，因此在数据特征维度较高的情况下，训练或预测阶段的时间或空间代价会比较大。
本实施例通过集成少数几个基于特征迁移而训练得到的基分类器，进而在少量的时间与空间开销代价下，达到提高分类准确率的目的：
步骤S101选取基础模型并利用其迁移特征对预训练模型进行特征迁移的提取，优选的，所述对预设训练模型进行特征迁移的提取具体为：
利用预设定领域中已训练完成的模型作为特征迁移的基础模型。
例如基于菜品识别这样一个图像分类任务，该菜品识别任务是一个具有37个类别的分类任务，其中训练集有22841张图像，测试集有4795张图像。采用MobileNet-V2在ImageNet 1000类图像分类任务进行了预训练的模型进行迁移特征提取，并进行相关的特征调整出来，而后采用37类别的分类器基于提取的迁移特征进行训练。
步骤S102基于特征迁移的基分类器训练，在训练阶段，利用在特定领域任务中已训练完成的模型作为特征迁移的基础模型对新的任务中的训练数据提取特征，并根据新的分类任务的不同从新构造特征上层的分类器，由于针对训练数据提取到的迁移特征的维度可能会比较高，同时提取到的特征的数值表示方式的不同也会对训练或者测试的时间开销造成影响，因此在特定的应用需求下可以采用特征降维或特征二值化等相关策略，对训练数据的迁移特征进行调整进而来满足需求。最后，基于调整后的训练数据的特征，对针对当前分类任务所构造的分类器进行训练。优选的，还包括步骤：
在训练过程中对新构造的基分类器进行调整。
训练过程中，仅对新构造的分类器部分的参数进行调整，并不会影响到用于迁移特征提取的基础模型的参数。新任务中的分类器采用Softmax函数，基于Softmax函数可以得到一个训练数据的一个预测Label，而后利用预测Label与训练数据标注的Label之间的差异来生成奖赏Reward，最后基于Reward完成对Softmax分类器的参数调整。
按照上述基于特征迁移的分类器训练方法，本方案采用多次对训练数据进行训练，进而生成多个基分类器。由于每一个分类器初始化参数的随机性，因此最终得到的每一个基分类器都是不一样的。
步骤S103基分类器集成，对基于步骤S102完成训练的多个基分类器进行集成融合。本方案中的基分类器的集成的基本思想仍然是基于弱分类器构造强分类器，这与Boosting或者Bagging集成分类方法中的思想没有本质上的差别。但是，与Boosting或者Bagging方法的不同之处是，本方案中所构建的基分类器其实并没有那么“弱”，原因在于本方案中的基分类器是基于迁移特征训练而成的，而用于生成迁移特征的基础模型是在非常大量的数据上进行了预训练的，因此基于该基础模型而提取到的迁移特征同样具有强大的表征能力，只需当前的分类任务与迁移领域的分类任务具有一定的相似性。因此，本方案中的集成分类方法的基分类器的数量，会比Boosting或Bagging方法中的分类器的数量少的多，一般仅需要少数几个基分类器就能够达到不错的性能提升。
优选的，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，N表示基分类器的数量，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置。通过对V中的每一维度Vl均采用式Vl ensemble进行集成，可以得到一个与基分类器输出一样维度的向量Vensemble。最后对Vl ensemble进行Softmax处理之后的结果便可以用于产生数据的Lable。
步骤S104基于特征迁移的集成分类。在预测阶段，先用特征迁移的基础模型对待测数据提取特征，而后利用集成的分类器完成对特征的分类。训练阶段与预测阶段的迁移特征提取与特征调整均是一样的。但在预测阶段会对训练阶段生成的若干个基分类器进行集成，最终基于集成后的输出完成对预训练模型的标注。
相应的，本实施例还提供一种基于特征迁移的集成分类系统，如图2所示，包括：
特征提取模块101，用于选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
基分类器训练模块102，用于基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
基分类器集成模块103，用于对所述多个基分类器进行集成；
集成分类模块104，用于通过所述集成的基分类器对所述预训练模型进行特征集成分类。
优选的，所述特征提取模块包括：
选取单元，用于选取预设定领域中已训练完成的模型作为特征迁移的基础模型。
优选的，还包括：
调整模块，用于对训练过程中新构造的基分类器进行调整。
优选的，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置；通过对V中的每一维度Vl均采用式Vl ensemble进行集成，得到一个与基分类器输出一样维度的向量Vensemble。
本实施例通过集成少数几个基于特征迁移而训练得到的基分类器，无需进行大量运算，进而在少量的时间与空间开销代价下，达到提高分类准确率的目的；且适用性强，用于提取迁移特征的基础模型是不受限制的，任何可能的迁移模型均适合本方案。
实施例二
本实施例提供一种基于特征迁移的集成分类方法，与实施例一不同的是，本实施例还包括步骤S203和步骤S204，通过分析对不同数量的基分类器的集成结果，通过对时间开销与准确率之间进行平衡，进而确定集成分类所需要的基分类器的集成数量，以提高集成分类的准确率和效率。如图3所示，包括步骤：
S201、选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
S202、基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
S203、选择不同数量的所述多个基分类器进行集成；
S204、根据所述不同数量的基分类器的集成分类结果确定所述预训练模型需要的基分类器集成数量；
S205、提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。
本实施例通过集成不同数量的基分类器与单模型进行分类准确率的对比，找出最佳数量的基分类器以实现对分类时间开销与准确率之间的平衡。例如，在4795张图像的测试集上对单个模型以及集成模型两种不同的方式进行了测试以及对比分析。首先，我们对单模型分类以及集成模型分类在测试集准确率进行了统计，统计结果下表所示：
| single(model n) | ensemble(model 1-n) | |
| model 1 | 70.89 | 70.89 |
| model 2 | 71.56 | 72.4 |
| model 3 | 70.43 | 73.9 |
| model 4 | 70.41 | 74.3 |
| model 5 | 71.29 | 74.67 |
统计表中的列标single(model n)表示模型编号为n的单模型在测试集上的精度，列标ensemble(model 1-n)则表示集成编号1到n的模型的分类方法在测试机上的精度。可以看出，集成分类比单模型分类的精度要高，单模型的测试分类精度在71％附近波动，这也就意味着单个模型的分类方式在本图像分类任务中的准确率的精度的期望大致就是71％。而当采用集成模型的方式时，随着集成模型数量的增加，分类的准确率也是增加的。当集成三个模型时的分类准确率为73.9％，比单模型中最好的结果71.56％要高出超过2个百分点。当集成模型数量为5的时候，分类准确率则比单模型最好的结果高出超过3个百分点，当模型数量在1到3的区间时，曲线的斜率相对是比较大的，这表面通过集成2个或3个基分类器(较小的时间开销)就能较大幅度的提升准确率。而当模型数量在3到5的区间时，曲线的斜率相对较小，这意味着当基分类器的数量达到一定层度后，增加集成基分类器的数量并不能明显的对准确率进行提升。
因此，在实际应用中可以通过对时间开销与准确率之间进行平衡，进而确定集成分类所需要的基分类器的数量，以提高集成分类的准确率和效率。
优选的，所述对预设训练模型进行特征迁移的提取具体为：
利用预设定领域中已训练完成的模型作为特征迁移的基础模型。
优选的，还包括步骤：
在训练过程中对新构造的基分类器进行调整。
优选的，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置。通过对V中的每一维度Vl均采用式Vl ensemble进行集成，可以得到一个与基分类器输出一样维度的向量Vensemble。
优选的，还包括步骤：
相应的，本实施例还提供一种基于特征迁移的集成分类系统，如图4所示包括：
特征提取模块201，用于选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
基分类器训练模块202，用于基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
基分类器集成模块203，用于对所述多个基分类器进行集成；
选择模块204，用于选择不同数量的所述多个基分类器进行集成；
确定模块205，用于根据所述不同数量的基分类器的集成分类结果确定所述预训练模型需要的基分类器集成数量；
集成分类模块206，用于提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。
优选的，所述特征提取模块包括：
选取单元，用于选取预设定领域中已训练完成的模型作为特征迁移的基础模型。
优选的，还包括：
调整模块，用于对训练过程中新构造的基分类器进行调整。
优选的，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置；通过对V中的每一维度Vl均采用式Vl ensemble进行集成，得到一个与基分类器输出一样维度的向量Vensemble。
本实施例通过分析对不同数量的基分类器的集成结果，通过对时间开销与准确率之间进行平衡，进而确定集成分类所需要的基分类器的集成数量，以提高集成分类的准确率和效率。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。
Claims (10)
1.一种基于特征迁移的集成分类方法，其特征在于，包括步骤：
选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
对所述多个基分类器进行集成；
提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。
2.如权利要求1所述的一种基于特征迁移的集成分类方法，其特征在于，所述对预训练模型进行特征迁移的提取具体为：
利用预设定领域中已训练完成的模型作为特征迁移的基础模型。
3.如权利要求1所述的一种基于特征迁移的集成分类方法，其特征在于，还包括步骤：
在训练过程中对新构造的基分类器进行调整。
4.如权利要求1所述的一种基于特征迁移的集成分类方法，其特征在于，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，N表示基分类器的数量，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置；通过对V中的每一维度Vl均采用式Vl ensemble进行集成，得到一个与基分类器输出一样维度的向量Vensemble。
5.如权利要求1所述的一种基于特征迁移的集成分类方法，其特征在于，还包括步骤：
选择不同数量的所述多个基分类器进行集成；
根据所述不同数量的基分类器的集成分类结果确定所述预训练模型需要的基分类器集成数量。
6.一种基于特征迁移的集成分类系统，其特征在于，包括：
特征提取模块，用于选取基础模型并利用所述基础模型的迁移特征对预训练模型进行特征迁移的提取；
基分类器训练模块，用于基于所述提取的迁移特征对所述预训练模型的分类任务进行训练，同时根据所述预训练模型的不同构建新的特征上层的基分类器，获得多个基分类器；
基分类器集成模块，用于对所述多个基分类器进行集成；
集成分类模块，用于提取所述预训练模型的特征，并利用所述集成的基分类器对所述特征进行集成分类。
7.如权利要求6所述的一种基于特征迁移的集成分类系统，其特征在于，所述特征提取模块包括：
选取单元，用于选取预设定领域中已训练完成的模型作为特征迁移的基础模型。
8.如权利要求6所述的一种基于特征迁移的集成分类系统，其特征在于，还包括：
调整模块，用于在训练过程中对新构造的基分类器进行调整。
9.如权利要求6所述的一种基于特征迁移的集成分类系统，其特征在于，通过平均加权的方式对所述多个基分类器进行集成，具体为：
其中，N表示基分类器的数量，Vl ensemble(维度为l)表示分类器的输出向量，上标表示分类器的标志，下标表示向量中元素的位置；通过对V中的每一维度Vl均采用式Vl ensemble进行集成，得到一个与基分类器输出一样维度的向量Vensemble。
10.如权利要求6所述的一种基于特征迁移的集成分类系统，其特征在于，还包括：
选择模块，用于选择不同数量的所述多个基分类器进行集成；
确定模块，用于根据所述不同数量的基分类器的集成分类结果确定所述预训练模型需要的基分类器集成数量。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810731253.4A CN109145943A (zh) | 2018-07-05 | 2018-07-05 | 一种基于特征迁移的集成分类方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810731253.4A CN109145943A (zh) | 2018-07-05 | 2018-07-05 | 一种基于特征迁移的集成分类方法及系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109145943A true CN109145943A (zh) | 2019-01-04 |
Family
ID=64799646
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810731253.4A Pending CN109145943A (zh) | 2018-07-05 | 2018-07-05 | 一种基于特征迁移的集成分类方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109145943A (zh) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| IL188726A0 (en) * | 2008-01-10 | 2008-11-03 | Deutsche Telekom Ag | An improved stacking schema for classification tasks |
| CN101794396A (zh) * | 2010-03-25 | 2010-08-04 | 西安电子科技大学 | 基于迁移网络学习的遥感图像目标识别系统及方法 |
| CN102521656A (zh) * | 2011-12-29 | 2012-06-27 | 北京工商大学 | 非平衡样本分类的集成迁移学习方法 |
| CN106056043A (zh) * | 2016-05-19 | 2016-10-26 | 中国科学院自动化研究所 | 基于迁移学习的动物行为识别方法和装置 |
| CN107180426A (zh) * | 2017-06-06 | 2017-09-19 | 西北工业大学 | 基于可迁移的多模型集成的计算机辅助肺结节分类方法 |
| CN107316061A (zh) * | 2017-06-22 | 2017-11-03 | 华南理工大学 | 一种深度迁移学习的不平衡分类集成方法 |
| CN107644057A (zh) * | 2017-08-09 | 2018-01-30 | 天津大学 | 一种基于迁移学习的绝对不平衡文本分类方法 |
| WO2018040387A1 (zh) * | 2016-08-30 | 2018-03-08 | 苏州大学 | 基于支持向量数据描述的特征提取及分类方法及其系统 |
| CN107909566A (zh) * | 2017-10-28 | 2018-04-13 | 杭州电子科技大学 | 一种基于深度学习的皮肤癌黑色素瘤的图像识别方法 |
| CN108090510A (zh) * | 2017-12-15 | 2018-05-29 | 北京大学 | 一种基于间隔优化的集成学习方法及装置 |
-
2018
- 2018-07-05 CN CN201810731253.4A patent/CN109145943A/zh active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| IL188726A0 (en) * | 2008-01-10 | 2008-11-03 | Deutsche Telekom Ag | An improved stacking schema for classification tasks |
| CN101794396A (zh) * | 2010-03-25 | 2010-08-04 | 西安电子科技大学 | 基于迁移网络学习的遥感图像目标识别系统及方法 |
| CN102521656A (zh) * | 2011-12-29 | 2012-06-27 | 北京工商大学 | 非平衡样本分类的集成迁移学习方法 |
| CN106056043A (zh) * | 2016-05-19 | 2016-10-26 | 中国科学院自动化研究所 | 基于迁移学习的动物行为识别方法和装置 |
| WO2018040387A1 (zh) * | 2016-08-30 | 2018-03-08 | 苏州大学 | 基于支持向量数据描述的特征提取及分类方法及其系统 |
| CN107180426A (zh) * | 2017-06-06 | 2017-09-19 | 西北工业大学 | 基于可迁移的多模型集成的计算机辅助肺结节分类方法 |
| CN107316061A (zh) * | 2017-06-22 | 2017-11-03 | 华南理工大学 | 一种深度迁移学习的不平衡分类集成方法 |
| CN107644057A (zh) * | 2017-08-09 | 2018-01-30 | 天津大学 | 一种基于迁移学习的绝对不平衡文本分类方法 |
| CN107909566A (zh) * | 2017-10-28 | 2018-04-13 | 杭州电子科技大学 | 一种基于深度学习的皮肤癌黑色素瘤的图像识别方法 |
| CN108090510A (zh) * | 2017-12-15 | 2018-05-29 | 北京大学 | 一种基于间隔优化的集成学习方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105184316B (zh) | 一种基于特征权学习的支持向量机电网业务分类方法 | |
| CN105243388B (zh) | 基于动态时间规整和划分算法的波形分类方法 | |
| CN108171209A (zh) | 一种基于卷积神经网络进行度量学习的人脸年龄估计方法 | |
| CN106650929B (zh) | 基于递归图的深度学习模型及在油水相含率测量中的应用 | |
| CN108051660A (zh) | 一种变压器故障组合诊断模型建立方法及诊断方法 | |
| CN110245651B (zh) | 质量智能检测方法及相关装置 | |
| CN109783601A (zh) | 基于测试知识点的计算机智能组卷方法及其系统 | |
| CN110346831A (zh) | 一种基于随机森林算法的智能化地震流体识别方法 | |
| CN107463304A (zh) | 桌面图标整理方法、装置、移动设备及存储介质 | |
| CN108830312A (zh) | 一种基于样本自适应扩充的集成学习方法 | |
| CN108140133A (zh) | 程序生成装置、程序生成方法及生成程序 | |
| CN107341363A (zh) | 一种蛋白质抗原表位的预测方法 | |
| CN111174370A (zh) | 故障检测方法及装置、存储介质、电子装置 | |
| CN107016122A (zh) | 基于时间迁移的知识推荐方法 | |
| CN109359665A (zh) | 一种基于支持向量机的家电负荷识别方法及装置 | |
| CN104463916B (zh) | 基于随机游走的眼动注视点测定方法 | |
| CN106548212A (zh) | 一种二次加权的knn音乐流派分类方法 | |
| CN109376944A (zh) | 智能电表预测模型的构建方法及装置 | |
| CN109145685A (zh) | 基于集成学习的果蔬高光谱品质检测方法 | |
| CN107122395B (zh) | 数据抽样方法和装置 | |
| CN107092805A (zh) | 磁共振并行成像装置 | |
| CN113282747B (zh) | 一种基于自动机器学习算法选择的文本分类方法 | |
| CN107133643A (zh) | 基于多特征融合及特征选择的乐音信号分类方法 | |
| CN110472659A (zh) | 数据处理方法、装置、计算机可读存储介质和计算机设备 | |
| CN110059729A (zh) | 一种基于支持向量机和最大互相关熵的成绩预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20190410 Address after: 201616 No. 3666 Sixian Road, Songjiang District, Shanghai Applicant after: Shanghai Feixun Data Communication Technology Co., Ltd. Address before: 610100 125 Longquan Street Park Road, Longquanyi District, Chengdu, Sichuan. Applicant before: Sichuan fixun Information Technology Co., Ltd. |
|
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20201211 Address after: Room 10242, No. 260, Jiangshu Road, Xixing street, Binjiang District, Hangzhou City, Zhejiang Province Applicant after: Hangzhou Jiji Intellectual Property Operation Co., Ltd Address before: 201616 No. 3666 Sixian Road, Songjiang District, Shanghai Applicant before: Phicomm (Shanghai) Co.,Ltd. |
|
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |