CN107169518A - 数据分类方法、装置、电子装置及计算机可读介质 - Google Patents

Abstract

本公开提供一种数据分类方法、装置、电子装置及计算机可读介质，该数据分类方法包括：对全量训练数据采用机器学习方法进行建模得到原始模型，其中全量训练数据中包含少数类样本；基于少数类占比阈值从全量训练数据中筛选得到新训数据，其中少数类占比阈值为少数类样本在全量训练数据中所占比例的临界值；对新训数据采用机器学习方法建模得到新训模型；分别应用原始模型和新训模型对新训数据进行分类预测得到原始分类结果和新训分类结果；比较原始分类结果和新训分类结果的准确率，并将准确率高的作为最终分类结果。针对所选少数类样本占比提高的新训数据重训模型，更新原有模型结果，从而达到提高样本分类准确率的目的。

Description

数据分类方法、装置、电子装置及计算机可读介质

技术领域

本公开总体涉及数据处理技术领域，具体而言，涉及一种数据分类方法、装置、电子装置及计算机可读介质。

背景技术

目前利用机器学习进行样本分类的方法已广泛得到应用，常用的算法模型如：逻辑回归，决策树，随机森林，支持向量机及神经网络等。对于大多数的算法进行模型训练时，一般假设训练样本中各个分类的数量趋于均衡，且对于各类样本模型预测出错的代价是平权的。通常在样本数据内各分类数据数量差别不大的情况下，机器学习可以取得不错的分类效果。然而，实际上均衡的样本数据这一要求往往不能得到满足，各分类数据的数据量可能会有较大差别，乃至数量级的差别。例如需进行样本分类的数据包括：医学诊断，工业品不良品检测，网络入侵检测，卫星图像原油泄露检测，金融反欺诈等领域的数据。这类数据共有的特点是：至少存在某一个分类数据，其数据量相对其它分类数据的数据量小若干个数量级。容易获取样本的类称为多数类，反之称为少数类。

现有技术中针对不均衡样本的分类问题主要有以下三种解决方案：

方案一：针对模型的训练样本中的少数类样本进行过采样(oversampling)，例如随机复制过采样、局部插值过采样等，随机复制过采样就是随机地从少数类样本中复制生成新的少数类样本加入到训练样本中，提高少数类样本数据在训练样本中的占比；局部插值过采样就是将少数类样本的数据计算其最近邻并进行插值生成新的少数类样本加入到训练样本中，提高少数类样本数据在训练样本中的占比。

方案二：针对模型的训练样本中的多数类样本进行欠采样(undersampling)，例如随机删除欠采样、局部删除欠采样等，随机删除欠采样就是随机抽取多数类样本进行删除，提高少数类样本数据在训练样本中的占比；局部删除欠采样就是将多数类和少数类样本交界处的多数类样本有选择的删除，提高少数类样本数据在训练样本中的占比。

方案三：调节模型训练过程中的惩罚项因子，提高少数类样本分类错误的惩罚项权重，从而提高少数类样本分类的准确性。

在实际处理过程中，为了得到更好的分类效果，还可以将上述方案进行结合使用。

但是上述方案一和方案二的目的在于通过重采样的方法提高训练样本中的少数类样本占比，会存在以下缺点：

缺点一：增加少数类样本占比可以使得数据不均衡问题得到缓解，但对重采样数据训练的模型应用在于对新样本的预测分类，而新样本的分布并不会改变，少数类样本占比依旧很低。训练数据和实际应用的数据不满足独立同分布，模型结果缺乏合理性。

缺点二：针对某个少数类占比确定的不均衡数据分类问题，如何调整少数类占比，设计重采样训练数据缺乏指导，需要细致尝试，工作量会很大。

缺点三：模型在不同业务不同场景下的迁移性较弱，通过训练得到的模型依赖于既定的少数类原始占比和重采样占比，不利于模型的推广，不具有普适性。

上述方案三通过改变模型预测的惩罚项因子，提高少数类样本预测权重，多数类样本相应的权重会降低，但是也会存在一些缺点：

缺点一：少数类样本分类性能的提升是以多数类样本分类性能的下降为代价。

缺点二：设计合理的针对少数类样本的惩罚项因子需要细致调试，工作量会很大。

基于上述，现有技术方案因严重偏离其均衡样本的假设，如果利用常规的机器学习方法进行分类预测，针对少数类样本预测的覆盖率和准确率都很差。但是，通常对少数类数据往往需要进行重点关注，即业务对少数类模型预测结果准确性要求较高。因而，如何提升不均衡样本分类问题的分类准确性显得尤为重要。

在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开提供一种数据分类方法、装置、电子装置及计算机可读介质，不依赖于某个特定的机器学习方法，从而提高不均衡样本分类问题的准确性。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一方面，提供一种数据分类方法，包括：

对全量训练数据采用机器学习方法进行建模得到原始模型，其中所述全量训练数据中包含少数类样本；

基于少数类占比阈值从所述全量训练数据中筛选得到新训数据，其中所述少数类占比阈值为各聚类区间内少数类样本在所述聚类区间内所有数据占比的临界值；

对所述新训数据采用机器学习方法建模得到新训模型；

分别应用所述原始模型和所述新训模型对所述新训数据进行分类预测得到原始分类结果和新训分类结果；

比较所述原始分类结果和所述新训分类结果的准确率，并将准确率高的作为最终分类结果。

在本公开的一个实施例中，所述全量训练数据的少数类样本占比为α，且所述少数类占比阈值大于所述少数类样本占比α。

在本公开的一个实施例中，基于少数类占比阈值从所述全量训练数据中筛选得到新训数据包括：

将各聚类区间范围内少数类样本占比大于所述少数类占比阈值的数据筛选出来生成所述新训数据。

在本公开的一个实施例中，其中各聚类区间范围内少数类样本占比的计算为：

从所述全量训练数据中选出所述少数类样本，并对所述少数类样本进行聚类分析，得到各少数类样本在特征空间中的聚类边界；

根据所述聚类边界对所述全量训练数据进行筛选，得到各聚类区间范围内包含少数类样本的数据，其中所述聚类区间为在所述特征空间中由所述聚类边界确定的局部空间；

根据各聚类区间范围内少数类样本数据在所述聚类区间内所有数据中所占的比例计算各所述聚类区间内少数类样本占比。

在本公开的一个实施例中，还包括：

如果所述新训分类结果的准确率高于所述原始分类结果的准确率，则以所述新训模型进行分类预测的结果作为所述最终分类结果；

如果所述原始分类结果的准确率高于所述新训分类结果的准确率，则重新设定所述少数类占比阈值筛选构成新的新训数据并进行训练；或

更改机器学习方法按照所述少数类占比阈值筛选构成的新训数据重新进行训练。

在本公开的一个实施例中，所述方法还包括：

将所述原始模型、所述新训模型、所述聚类边界和所述少数类占比阈值作为最终模型进行输出。

在本公开的一个实施例中，应用所述最终模型对新样本进行分类时，包括：

根据所述聚类边界和所述少数类占比阈值判断所述新样本是否属于新训数据聚类区间范围内的数据；

如果所述新样本属于所述新训数据聚类区间范围内的数据，则使用所述新训模型对所述新样本进行分类预测；如果所述新样本不属于所述新训数据聚类区间范围内的数据，则使用所述原始模型对所述新样本进行分类预测。

根据本公开的再一方面，提供一种数据分类装置，包括：

原始建模模块，用于对全量训练数据采用机器学习方法进行建模得到原始模型，其中所述全量训练数据中包含少数类样本；

筛选模块，用于基于少数类占比阈值从所述全量训练数据中筛选得到新训数据，其中所述少数类占比阈值为各聚类区间内少数类样本在所述聚类区间内所有数据占比的临界值；

新训建模模块，用于对所述新训数据采用机器学习方法建模得到新训模型；

预测模块，用于分别应用所述原始模型和所述新训模型对所述新训数据进行分类预测得到原始分类结果和新训分类结果；

比较模块，用于比较所述原始分类结果和所述新训分类结果的准确率，并将准确率高的作为最终分类结果。

在本公开的一个实施例中，所述筛选模块将各聚类区间范围内少数类样本占比大于所述少数类占比阈值的数据筛选出来生成所述新训数据。

根据本公开的又一方面，提供一种电子装置，包括处理器；存储器，存储用于所述处理器控制如上所述的操作的指令。

根据本公开的另一方面，提供一种计算机可读介质，其上存储有计算机可执行指令，其特征在于，所述可执行指令被处理器执行时实现如上所述的数据分类方法。

根据本公开实施例提供的数据分类方法，针对所选少数类样本占比提高的新训数据重训模型，更新原有模型结果，从而达到提高样本分类准确率的目的。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本公开。

附图说明

通过参照附图详细描述其示例实施例，本公开的上述和其它目标、特征及优点将变得更加显而易见。

图1示出本公开一实施例中提供的一种数据分类方法的步骤流程图。

图2示出图1中步骤S20中各聚类区间范围内少数类样本占比的计算流程图。

图3示出根据本公开一实施例中P-R曲线图。

图4示出本公开另一实施例中提供的一种数据分类方法的步骤流程图。

图5示出采用图4中提供的方法进行数据处理的流程示意图。

图6示出本公开再一实施例中在应用最终模型对新样本进行分类时的步骤流程图。

图7示出本公开另一实施例提供的一种数据分类装置的示意图。

图8示出本公开还一实施例提供的适于用来实现本申请实施例的电子装置的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知结构、方法、装置、实现、材料或者操作以避免喧宾夺主而使得本公开的各方面变得模糊。

附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

图1示意性示出本公开一实施例中提供的一种数据分类方法的步骤流程图。

首先，从业务系统采集数据，由于不均衡样本的数据量往往比较少，为了尽可能多地覆盖少数类样本，也就需要所选数据含有尽可能多的少数类样本。以上述原则采集数据也可以减少由于少数类样本不足，从而导致对少数类样本过拟合情况发生。针对特定的业务需求，来选择合理的目标变量及其取值，得到标注数据。

以金融反欺诈问题为例，需要采集的数据包括：用户基本信息、用户账户信息、登录设备信息、登录时空信息、历史登录信息及外部数据信息等。综合考虑运算能力及模型应用时效性等问题前提下，选择尽可能多的登录数据进行训练。

这些数据经过ETL(Extract-Transform-Load，抽取-转换-加载)导入数据仓库进行存储。

其次，还需要对数据进行数据清洗过滤，针对字段中存在的无效值或缺失值选择合理的方式进行插值、替换或删除，得到有效数据。除了清洗过滤，还需要对数据进行数据变换、数据规约、归一化操作等，使得所取字段更适合模型建模使用。样本不均衡的数据往往呈现特点是：少数类样本弥散分布于多数类样本之中，原始数据在特征空间的分辨率很高；采用常规的指标分段方法无法精细刻画其数据的高分辨率特征，反而会造成冲突记录的产生。因此，本实施例中数据变换以及数据规约不对指标进行分段处理。

上述的特征空间是以训练样本各指标为维度所构成的指标空间，空间中任意点为可能的一条数据样本，其向各指标维度的投影代表相应的指标取值。上述的特征空间分辨率是指能够描述特征空间中训练数据任意两样本之间的最小距离。上述的冲突记录是指两个数据样本各指标完全相同，即在特征空间为同一点，但目标变量(标签)取值不同。

经过对采集的数据进行清洗过滤、数据变换以及数据规约等一系列预处理，得到全量训练数据。

如图1所示，在步骤S10中，对全量训练数据采用机器学习方法进行建模得到原始模型，其中全量训练数据中包含少数类样本。

本实施例中的全量训练数据的少数类样本占比为α。另外，本实施例中对机器学习方法也不做具体限定，可以采用任何机器学习算法，例如：逻辑回归、决策树、随机森林、支持向量机及神经网络等。

如图1所示，在步骤S20中，基于少数类占比阈值从全量训练数据中筛选得到新训数据。

其中少数类占比阈值γ为各聚类区间内少数类样本在聚类区间内所有数据占比的临界值，且少数类占比阈值γ大于少数类样本占比α。

图2示意性示出本实施例步骤S20中各聚类区间范围内少数类样本占比的计算流程图。

如图2所示，在步骤S21中，从全量训练数据中选出少数类样本，并对少数类样本进行聚类分析，得到各少数类样本在特征空间中的聚类边界。

聚类是按照数据或对象的某些属性将其聚集成若干个聚类(簇)，是同一个簇内的数据或对象尽可能相似，不同簇间的差异尽可能大。通过采用少数类样本聚类的方式对全量训练数据进行划分选择，可以根据目标变量取值将少数类样本选出。针对该少数类样本采用聚类算法进行聚类分析，得到多种聚类，再针对每一种聚类后的数据，统计各指标的最大最小值，从而获得其在特征空间的聚类边界。聚类边界就是由每个聚类的数据的各指标维度的最大值和最小值连线在特征空间所构成的边界，而聚类空间是指在特征空间中由聚类边界确定的局部空间。

如图2所示，在步骤S22中，根据聚类边界对全量训练数据进行筛选，得到各聚类区间范围内包含少数类样本的数据。

如图2所示，在步骤S23中，根据各聚类区间范围内少数类样本数据在聚类区间内所有数据中所占的比例计算各聚类区间内少数类样本占比。各聚类区间内少数类样本占比用β_i表示，其中i代表第i个聚类区间。

在本实施例中，基于少数类占比阈值从全量训练数据中筛选得到新训数据包括：将各聚类区间范围内少数类样本占比β_i大于少数类占比阈值γ的数据筛选出来生成新训数据。

得到新训数据之后，如图1所示，在步骤S30中，对新训数据采用机器学习方法建模得到新训模型。

如图1所示，在步骤S40中，分别应用原始模型和新训模型对新训数据进行分类预测得到原始分类结果和新训分类结果。

如图1所示，在步骤S50中，比较原始分类结果和新训分类结果的准确率，并将准确率高的作为最终分类结果。也就是如果新训分类结果的准确率高于原始分类结果的准确率，则以新训模型进行分类预测的结果作为最终分类结果；如果原始分类结果的准确率高于新训分类结果的准确率，则重新设定少数类占比阈值筛选构成新的新训数据并进行训练；或更改机器学习方法按照少数类占比阈值筛选构成的新训数据重新进行训练。

原始模型和新训模型都是用来进行分类预测的，准确率和覆盖率均是机器学习模型评估术语，准确率特指预测正确的少数类样本与被预测为少数类的样本的比率，覆盖率特指预测正确的少数类样本与全量少数类数据的比率。对于训练模型性能的好坏可以通过准确率和覆盖率进行评判。

如果以覆盖率R为横轴，准确率P为纵轴，然后根据模型的预测结果对样本进行排序，把最有可能是正样本的个体排在前面，而后面的则是模型认为最不可能为正例的样本，再按此顺序逐个把样本作为正例进行预测并计算出当前的准确率和覆盖率得到的P-R曲线如图3所示。图3中示出A、B、C三个训练模型的PR曲线，以下几种判断方式：

基于曲线是否覆盖来进行判断，即如果模型B的PR曲线此时完全包住了模型C的PR曲线，此时我们认为模型B对于该问题更优于模型C，原因是在相同覆盖率的情况下，模型B的准确率要比模型C的更高，因此模型B更优。

基于平衡点来进行判断，平衡点(如图3中所示)即为覆盖率与准确率相等的点，如果该点的值越大，则认为模型越优。

需要说明的是，通常在选择新训数据时，可以根据不同的阈值设定选择不同的数据训练不同的模型，本实施例涉及的少数类占比阈值个数可为1-10个，即通过不断更改少数类占比阈值进行多次训练，以得到准确率较高的模型。

综上所述，通过本实施例提供的数据分类方法针对不平衡样本可以提高少数类样本分类的准确性。

图4还示出本公开另一实施例提供的一种数据分类方法的步骤流程图，如图4所示，步骤S10～S50同上述实施例，并且还进一步包括：

步骤S60，将原始模型、新训模型、聚类边界和少数类占比阈值作为最终模型进行输出。

基于上述步骤S10～S50，图5示出采用本实施例中提供的方法进行数据处理的流程示意图。大致分为数据采集、数据整理、数据建模及更新和模型输出应用四个阶段，在数据采集阶段进行数据的选取，在数据整理阶段对数据进行预处理，筛选出多数类样本和少数类样本，在数据建模及更新阶段对于全量训练数据采用机器学习方法进行建模，并输出原始结果。在数据整理阶段对少数类样本进行聚类分析，进行训练数据的划分，在数据建模及更新阶段根据少数类占比阈值筛选出新训数据，对新训数据进行建模得到新训模型，并比较原始分类结果和新训分类结果的准确率，准确率高的分类结果作为更新结果，如果新训分类结果的准确率没有得到提高则调节阈值或更改机器学习方法继续训练，最终将更新结果输出。

通过在对样本不均衡数据进行机器学习中使用上述实施例提供的方法，可以提高少数类样本分类的准确性，可以为各领域样本不均衡数据分类提供新的可行性方案。

首先，该方法具有通用性，具体体现为两点：

(1)针对少数类样本聚类分析的聚类方法不受限制，可以适用任何聚类算法；

(2)针对原始数据建模和通过聚类选取的新训数据建模的机器学习算法不受限制，可以适用任何机器学习算法。

另外，通用性还体现在可以将该方法应用到其他样本不均衡问题的各个领域当中。

其次，该方法具有可扩展性：实施过程中可以选取不同的阈值进行数据选择，对不同阈值的数据分别建模，对预测分类结果进行更新。

然后，该方法具有时效性，经过聚类边界划分和阈值设定的新训数据，其数据量远小于全量训练数据，训练耗时相对于原始模型可以忽略；而应用阶段针对新样本仅增加一步判断数据使用原始模型或新训模型步骤，实时性不会受到影响。

通过本发明所提供的流程方法，可以提高样本不均衡问题的分类准确率，从而为涉及到样本不均衡问题的各领域提高收益，降低成本。

之后，该方法具有合理性，由于数据选择遵从了采集的原始数据，未进行重采样处理，训练样本和模型使用中的数据满足同分布假设，因此该流程方法具有合理性。

最后，该方法避开了人为调节机器学习算法惩罚项的步骤，从而对不同占比的不均衡数据通用性更好。

得到上述最终模型之后，进一步的，图6还示出本公开再一实施例中在应用最终模型对新样本进行分类时的步骤流程图。

如图6所示，在步骤S110中，根据聚类边界和少数类占比阈值判断新样本是否属于新训数据聚类区间范围内的数据。

如图6所示，在步骤S120中，如果新样本属于新训数据聚类区间范围内的数据，则使用新训模型对新样本进行分类预测。

如图6所示，在步骤S130中，如果新样本不属于新训数据聚类区间范围内的数据，则使用原始模型对新样本进行分类预测。

基于上述，在应用该模型时根据聚类边界和少数类占比阈值判断是否可以应用新训模型进行分类预测，从而保证分类结果的高准确性。

图7还示出本公开另一实施例提供的一种数据分类装置的示意图，如图7所示，该数据分类装置100包括：原始建模模块110、筛选模块120、新训建模模块130、预测模块140和比较模块150。

其中原始建模模块110用于对全量训练数据采用机器学习方法进行建模得到原始模型，其中全量训练数据中包含少数类样本。筛选模块120用于基于少数类占比阈值从全量训练数据中筛选得到新训数据，其中少数类占比阈值为各聚类区间内少数类样本在聚类区间内所有数据占比的临界值。筛选模块120将各聚类区间范围内少数类样本占比大于少数类占比阈值的数据筛选出来生成新训数据。新训建模模块130用于对新训数据采用机器学习方法建模得到新训模型。预测模块140用于分别应用原始模型和新训模型对新训数据进行分类预测得到原始分类结果和新训分类结果。比较模块150用于比较原始分类结果和新训分类结果的准确率，并将准确率高的作为最终分类结果。

该数据分类装置可以实现如上述实施例提供的数据分类方法相同的技术效果，此处不再赘述。

另一方面，本公开还提供了一种电子装置，包括处理器和存储器，存储器存储用于上述处理器控制以下的操作的指令：

对全量训练数据采用机器学习方法进行建模得到原始模型，其中全量训练数据中包含少数类样本；基于少数类占比阈值从全量训练数据中筛选得到新训数据，其中少数类占比阈值为少数类样本在全量训练数据中所占比例的临界值；对新训数据采用机器学习方法建模得到新训模型；分别应用原始模型和新训模型对新训数据进行分类预测得到原始分类结果和新训分类结果；比较原始分类结果和新训分类结果的准确率，并将准确率高的作为最终分类结果.

下面参考图8，其示出了适于用来实现本申请实施例的电子装置的计算机系统800的结构示意图。图8示出的电子装置仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图8所示，计算机系统800包括中央处理单元(CPU)801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM803中，还存储有系统800操作所需的各种程序和数据。CPU 801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

以下部件连接至I/O接口805：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括发送单元、获取单元、确定单元和第一处理单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，发送单元还可以被描述为“向所连接的服务端发送图片获取请求的单元”。

另一方面，本公开还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：对全量训练数据采用机器学习方法进行建模得到原始模型，其中全量训练数据中包含少数类样本；基于少数类占比阈值从全量训练数据中筛选得到新训数据，其中少数类占比阈值为各聚类区间内少数类样本在聚类区间内所有数据占比的临界值；对新训数据采用机器学习方法建模得到新训模型；分别应用原始模型和新训模型对新训数据进行分类预测得到原始分类结果和新训分类结果；比较原始分类结果和新训分类结果的准确率，并将准确率高的作为最终分类结果。

应清楚地理解，本公开描述了如何形成和使用特定示例，但本公开的原理不限于这些示例的任何细节。相反，基于本公开公开的内容的教导，这些原理能够应用于许多其它实施方式。

以上具体地示出和描述了本公开的示例性实施方式。应可理解的是，本公开不限于这里描述的详细结构、设置方式或实现方法；相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (11)

1.一种数据分类方法，其特征在于，包括：

对全量训练数据采用机器学习方法进行建模得到原始模型，其中所述全量训练数据中包含少数类样本；

基于少数类占比阈值从所述全量训练数据中筛选得到新训数据，其中所述少数类占比阈值为各聚类区间内少数类样本在所述聚类区间内所有数据占比的临界值；

对所述新训数据采用机器学习方法建模得到新训模型；

分别应用所述原始模型和所述新训模型对所述新训数据进行分类预测得到原始分类结果和新训分类结果；

比较所述原始分类结果和所述新训分类结果的准确率，并将准确率高的作为最终分类结果。

2.根据权利要求1所述的数据分类方法，其特征在于，所述全量训练数据的少数类样本占比为α，且所述少数类占比阈值大于所述少数类样本占比α。

3.根据权利要求1所述的数据分类方法，其特征在于，基于少数类占比阈值从所述全量训练数据中筛选得到新训数据包括：

将各聚类区间范围内少数类样本占比大于所述少数类占比阈值的数据筛选出来生成所述新训数据。

4.根据权利要求3所述的数据分类方法，其特征在于，其中各聚类区间范围内少数类样本占比的计算为：

从所述全量训练数据中选出所述少数类样本，并对所述少数类样本进行聚类分析，得到各少数类样本在特征空间中的聚类边界；

根据所述聚类边界对所述全量训练数据进行筛选，得到各聚类区间范围内包含少数类样本的数据，其中所述聚类区间为在所述特征空间中由所述聚类边界确定的局部空间；

根据各聚类区间范围内少数类样本数据在所述聚类区间内所有数据中所占的比例计算各所述聚类区间内少数类样本占比。

5.根据权利要求1所述的数据分类方法，其特征在于，所述方法还包括：

如果所述新训分类结果的准确率高于所述原始分类结果的准确率，则以所述新训模型进行分类预测的结果作为所述最终分类结果；

如果所述原始分类结果的准确率高于所述新训分类结果的准确率，则重新设定所述少数类占比阈值筛选构成新的新训数据并进行训练；或

更改机器学习方法按照所述少数类占比阈值筛选构成的新训数据重新进行训练。

6.根据权利要求4所述的数据分类方法，其特征在于，所述方法还包括：

将所述原始模型、所述新训模型、所述聚类边界和所述少数类占比阈值作为最终模型进行输出。

7.根据权利要求6所述的数据分类方法，其特征在于，应用所述最终模型对新样本进行分类时，包括：

根据所述聚类边界和所述少数类占比阈值判断所述新样本是否属于新训数据聚类区间范围内的数据；

如果所述新样本属于所述新训数据聚类区间范围内的数据，则使用所述新训模型对所述新样本进行分类预测；如果所述新样本不属于所述新训数据聚类区间范围内的数据，则使用所述原始模型对所述新样本进行分类预测。

8.一种数据分类装置，其特征在于，包括：

原始建模模块，用于对全量训练数据采用机器学习方法进行建模得到原始模型，其中所述全量训练数据中包含少数类样本；

筛选模块，用于基于少数类占比阈值从所述全量训练数据中筛选得到新训数据，其中所述少数类占比阈值为各聚类区间内少数类样本在所述聚类区间内所有数据占比的临界值；

新训建模模块，用于对所述新训数据采用机器学习方法建模得到新训模型；

预测模块，用于分别应用所述原始模型和所述新训模型对所述新训数据进行分类预测得到原始分类结果和新训分类结果；

比较模块，用于比较所述原始分类结果和所述新训分类结果的准确率，并将准确率高的作为最终分类结果。

9.根据权利要求8所述的数据分类装置，其特征在于，所述筛选模块将各聚类区间范围内少数类样本占比大于所述少数类占比阈值的数据筛选出来生成所述新训数据。

10.一种电子装置，其特征在于，包括：

处理器；

存储器，存储用于所述处理器控制如权利要求1-7任一项所述的操作的指令。

11.一种计算机可读介质，其上存储有计算机可执行指令，其特征在于，所述可执行指令被处理器执行时实现如权利要求1-7任一项所述的数据分类方法。