CN113920374A - 基于随机森林的用户分类方法、装置、设备及存储介质 - Google Patents
基于随机森林的用户分类方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113920374A CN113920374A CN202111270906.1A CN202111270906A CN113920374A CN 113920374 A CN113920374 A CN 113920374A CN 202111270906 A CN202111270906 A CN 202111270906A CN 113920374 A CN113920374 A CN 113920374A
- Authority
- CN
- China
- Prior art keywords
- user
- classification
- determining
- random forest
- classified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Probability & Statistics with Applications (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请属于人工智能领域,提出了一种基于随机森林的用户分类方法、装置、设备及存储介质。该方法包括:获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类;根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集;根据所确定的样本子集分别构建对应的分类树;根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。通过该推荐方法,可以有效的提高随机森林的构建效率,减少分类树的相似度问题,避免生成漏掉训练样本的样本子集,提高随机森林的分类精度,从而能够更为准确的进行用户分类,提高用户获取所需产品的效率。
Description
技术领域
本申请属于人工智能领域,尤其涉及基于随机森林的用户分类方法、装置、设备及存储介质。
背景技术
在用户使用理财平台或产品购买网页时,平台或页面中的产品种类较多,并且每种产品所面向的人群也会不同。为了使得用户能够高效的查找到与用户匹配的产品,通常会基于用户的特征,对用户的类别进行识别,从而根据所识别出的类别,推荐相应的产品。
目前常用的识别方法包括如通过随机森林算法,以有放回抽样的方式形成训练集,根据所形成的训练集确定多个决策树,通过多个决策树构成的随机森林进行决策。但是,由于随机森林算法中采用有放回抽样的方式形成训练集,可能会抽取到重复的数据,以及存在没有抽取的数据,计算量较大的同时,容易产生相似决策树,掩盖真实分类结果,导致分类结果不准确,使得系统推荐产品的精度不高,不利于提高用户查找到所需要的产品的效率。
发明内容
有鉴于此,本申请实施例提供了一种基于随机森林的用户分类方法、装置、设备及存储介质,以解决现有技术中的用户分类方法对用户的分类计算量较大,分类不准确,使得系统的用户分类精度不高,不利于提高用户查找所需要的产品的效率的问题。
本申请实施例的第一方面提供了一种基于随机森林的用户分类方法,所述方法包括:
获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类;
根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集;
根据所确定的样本子集分别构建对应的分类树;
根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。
结合第一方面,在第一方面的第一种可能实现方式中,根据所述训练样本集中的用户特征,对所述训练样本进行聚类,包括:
确定所述训练样本集中的聚类中心;
计算每个训练样本与聚类中心的距离,根据所述距离确定所述训练样本所属的聚类;
根据所确定的聚类的平均坐标重新确定聚类中心,根据所确定的聚类中心重新确定训练样本所属的聚类,直到聚类中心的变化幅度小于预定的变化阈值,或者聚类次数达到预定次数。
结合第一方面,在第一方面的第二种可能实现方式中,确定所述训练样本集中的聚类中心,包括:
根据所述训练样本集中包括的分类的数量,确定所述训练样本集中的聚类中心的数量。
结合第一方面,在第一方面的第三种可能实现方式中,根据所述随机森林对待分类用户进行分类,包括:
根据待分类用户的用户特征确定用户所属的聚类;
根据所确定的聚类查找用于对所述待分类用户进行分类的分类树;
根据所查找的分类树计算所述待分类用户的分类。
结合第一方面,在第一方面的第四种可能实现方式中,根据所述随机森林对待分类用户进行分类,包括:
根据所述待分类用户的用户特征确定所述待分类用户与聚类的相似度确定第一权值;
根据所述随机森林的分类树确定所述待分类用户所属分类;
根据第一权值和分类结果,融合得到所述待分类用户的分类结果,根据融合的分类结果确定所述待分类用户的分类。
结合第一方面,在第一方面的第五种可能实现方式中,根据第一权值和分类结果,融合得到所述待分类用户的分类结果,根据融合的分类结果确定所述待分类用户的分类,包括:
根据第一权值和所述分类结果确定分类树的权重;
将不同分类树中具有相同分类结果的权重求和,确定随机森林输出的分类结果的权重;
确定权重最大的分类结果为所述待分类用户的分类。
结合第一方面,在第一方面的第六种可能实现方式中,所述用户特征包括用户收入信息、承受的波动程度、投资偏好、投资经验、投资期限中的一项或者多项。
本申请实施例的第二方面提供了一种基于随机森林的用户分类装置,所述装置包括:
训练样本集获取单元,用于获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类;
聚类单元,用于根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集;
分类树确定单元,用于根据所确定的样本子集分别构建对应的分类树;
用户分类单元,用于根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。
本申请实施例的第三方面提供了基于随机森林的用户分类设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面任一项所述方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面任一项所述方法的步骤。
本申请实施例与现有技术相比存在的有益效果是:通过聚类后的样本子集构建的分类树,可以减少生成相似样本子集的几率,减少相似决策树的构建,可减少相似决策树对真实分类结果的影响。并且聚类后的样本子集的纯度较高,能够有效的提高分类树的拟合速度,减少拟合计算量。另外,基于聚类后的样本子集进行分类树构建,可以避免抽样生成训练子集时错过部分训练样本,从而能够有效的提升所构建的分类树的准确度,得到更为准确的分类结果,提高用户查找到所需要的产品的效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种基于随机森林的用户分类方法的实现流程示意图;
图2是本申请实施例提供的一种对训练样本的聚类方法的实现流程示意图;
图3是本申请实施例提供的一种基于随机森林的用户分类过程示意图;
图4是本申请实施例提供的一种基于随机森林的用户分类装置的示意图;
图5是本申请实施例提供的基于随机森林的用户分类设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
随机森林算法是一种利用多棵树对样本进行训练并预测的一种分类器。随机森林算法的一般流程如下:
1、确定训练样本(或者也可以称为训练用例)。确定训练样本的数量为N,训练样本的样本特征(对于用户分类场景,样本特征即为用户特征)总数为M。
2、输入特征数目m,确定决策树上一个节点的决策结果。其中,m远小于样本特征总数M。
3、从N个训练样本中以有放回抽样的方式,取样N次(取样次数也可以与游戏卡样本的数量不同),形成一个训练子集,其余未抽取到的训练样本可用于决策树的预测计算,评估决策树的误差。
4、对于每一个节点,随机选择m个特征,通过这m个特征确定决策树上节点。根据所选择的m个特征,确定最佳的分裂方式。
5、在决策树生成过程中不进行剪枝处理,使每棵树完整成长。构建完成的一棵正常树状分类器可用于分类结果的预测计算。
通过有放回抽样的方式确定样本子集,可以提高模型的泛化能力。但是,对于少量数据或者低维度的数据,通过有放回抽样的方式,可能会抽样得到多个相似的样本子集,由多个相似的样本子集生成多个相似决策树,根据多个相似决策树计算的结果,可能会掩盖真实的结果。并且通过有放回抽样的方式,可能会存在未抽样的样本,也会影响分类的准确度。另外,基于有放回的抽样方式获取的样本的纯度不高,决策树的拟合计算的收敛速度较慢,不利于提高计算效率。
基于此,本申请实施例提出了一种基于随机森林的用户分类方法,如图1所示,该方法包括:
在S101中,获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类。
具体的,本申请实施例中的训练样本集,包括用于对随机森林模型进行训练的训练样本。所述随机森林模型可以通过在训练样本集中选择一部分训练确定随机森林模型,将其它训练样本用于对所确定的随机森林模型进行预测计算。如果预测计算的分类结果与训练样本中的分类结果相符,则说明随机森林模型的精度符合所设定的要求。如果随机森林模型所计算的分类结果,与训练样本中的分类结果不相符,则需要进一步对随机森林模型的决策树进行优化,直到由随机森林模型所计算的结果,与训练样本的分类结果相符。
在可能的实现方式中,对于需要购买理财产品的用户,其训练样本包括用户特征和分类结果。用户特征可以包括用户的收入信息、所能承受的波动程度、投资偏好、投资经验、投资期限等数据中的一项或者多项。上述用户特征可以通过用户填写的表格数据来获取。
所述用户的收入信息可以包括用户的总收入信息,或者包括用户可用于投资的收入信息,可以根据需要,确定训练样本中的用户特征的收入信息的具体类别。比如,用户A的总收入金额为100万元,可用于投资的金额为10万元。用户B每年的总收入金额为100万元,每年可用于投资的金额为50万元等。通过收入特征,可以用于匹配用户所需要的产品的额度特征。比如理财产品X1的起购金额为5万元,理财产品X2的起购金额为1000元等。
所述能承受的波动程度,可以通过能承受的本金的最大回撤幅度来表示,或者还可以结合用户设定的止赢数据来确定。根据用户对风险的承受程度,结合理财产品的历史波动数据,确定属于用户可接受的波动程度的产品。比如,用户A和B设定的最大回撤幅度为20%。可以根据产品的历史数据,将最大回撤幅度小于20%的产品给用户A和B选择。当用户还设定止赢数据时,则可以进一步根据止赢数据个性化推荐。比如用户A的止盈数据为120%,用户B的止盈数据130%,则可以将稳定性更好产品X1确定为用户A的匹配范畴,将收益波动性更高的产品X2确定用户B的匹配范畴。
所述投资偏好可以包括激进型、积极型、平衡型、稳健型、保守型等,可以根据用户所填写的问卷资料确定。
在可能的实现方式中,如果用户未填写相关资料,通过表格数据可能无法获取该用户的用户特征的情况下,可以根据用户所购买的产品的数据来确定该用户的用户特征。
具体的,可以根据该未知用户的历史购买记录中,用户所购买的产品的集合,查找具有相同或相似的购买集合的用户,根据所查找的用户确定该未知用户的用户特征。
比如,用户A购买的历史产品包括X1、X2、X3、X4和X5。通过用户的购买记录进行相似度匹配,匹配到用户B在历史购买记录中,所购买的产品与用户A相同,并且用户B的用户特征可根据用户B所填写的表格数据来确定。那么,可以根据所匹配的用户B的用户特征,来确定用户A的用户特征。
在可能的实现方式中,所匹配到的用户可能包括多个,则可以根据匹配到的多个用户的用户特征中,获取共有的用户特征作为用户A的用户特征。可以将出现次数相对于最大次数的比例超过50%的用户特征,作为用户A的用户特征。例如,所查找到的相同购买产品的5个用户中,用户特征Y1出现的次数为3次,用户特征Y2特征出现的次数为5次,用户特征Y3特征出现的次数为2次,用户特征Y4出现的次数为1次,单个用户特征出现的最大次数为5。那么,用户特征Y1的比例为60%,用户特征Y2的比例为100%,用户特征Y3的比例为40%,用户特征Y4的比例为20%,由于用户特征Y1、用户特征Y2的比例均大于50%,因此,可以将Y1和Y2确定为用户A的用户特征。
考虑到用户所购买的产品可能会随着时间的变化而改变,因此,在确定相似用户时,所选择的历史购买记录,可以为距离当前时间最近的预定时段内所购买的产品,从而能够更为准确的得到用户在当前时段内的用户特征。
在可能的实现方式中,还可以设定产品与用户特征的对应关系来确定未知特征用户的用户特征。可以根据用户所购买的产品,或者根据用户在距离当前时间最近的预定时段内所购买的产品,查找产品所对应的用户特征,根据所查找的用户特征的重复率,确定该未知特征用户的用户特征。
本申请实施例中,所述训练样本的分类结果可以包括用户类型。比如,分类结果可以包括不同类型的客户。在确定用户类型后,可以根据预先设定的客户类型与产品的对应关系,确定不同类型所分类结果对应的产品,从而便于为用户匹配所需要的产品。
或者,在可能的实现方式中,所述分类结果也可以为所匹配的产品。比如,用户A的分类结果为产品a,用户B的分类结果为产品b。当然,不局限于此,所述分类结果还可以包括所匹配的产品类型。比如,系统中的产品类型可以划分为不同风险等级,包括如R1、R2、R3、R4和R5等。根据预先设定的产品类型与产品的对应关系,确定不同产品类型的分类结果对应的产品。
所述训练样本集为预先已进行正确的分类的数据集。该训练样本集可以根据历史数据确定。比如,可以通过回访数据确定用户所购买的产品的满意度,从历史数据中抽取满意度大于预定值的数据作为训练样本。或者,也可以根据用户的重复购买次数,将重复购买次数大于预定次数的历史数据,作为所述训练样本。
在S102中,根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集。
根据用户特征对用户进行聚类,可以理解为将用户相似度大于一定值的用户聚类为同一样本子集。在进行聚类计算时,可以基于用户的用户特征,来计算两个用户的相似度。比如,可以将用户的特征进行量化处理,每个维度的特征具有一定的量化值。对于包括N个用户特征的用户,可以通过N个用户特征的特征值,确定用户在N维特征空间中的位置。根据N维特征空间中两个用户之间的距离的远近,可以确定两个用户的相似度。
本申请实施例在对训练样本集中的训练样本进行聚类时,可以如图2所示,包括:
在S201中,确定所述训练样本集中的聚类中心。
在确定训练样本集中的聚类中心时,可以根据训练样本集中包括的分类数量,确定聚类中心的数量。其中,每个聚类中心所对应的数值,可以为多个用户特征所构成的数组。在聚类中心初始化时,可以随机生成多数组数据作为聚类中心,或者,也可以指定训练样本集中的任意用户作为初始的聚类中心。比如,假设训练样本集中的用户包括k种类型的用户,或者训练样本集中的训练样本包括k种类型的产品,则可确定聚类中心的数量为k,k个聚类中心的位置可以指定训练样本集中的任意k个训练样本作为聚类中心,也可以随机初始化k个聚类中心。
S22:计算每个训练样本与聚类中心的距离,根据所述距离确定所述训练样本所属的聚类。
对于每个训练样本,包括单个用户的用户特征和单个用户所属的分类。为了便于将训练样本与聚类中心进行距离计算,可以将用户的用户特征进行标量化处理,使得用户特征对应不同的数值。比如,用户的收入信息、所能承受的波动程度、投资偏好、投资经验、投资期限等数据,可以根据预先设定的标量值与用户特征的对应关系,确定用户特征所对应的数值。比如,用户包括五种用户特征时,通过量化处理,可以得到用户所对应的五维数组。该五维数据在五维特征空间中可以确定唯一的位置,该位置即为该用户在五维特征空间中的位置。
将训练样本集中所有训练样本的用户特征转换为对应的数值,可以确定训练样本的用户在特征空间中的位置。根据用户的位置、聚类中心的位置,计算用户与各个聚类中心的距离,并根据距离的远近。比如,可以通过欧氏距离计算公式,计算训练样本与各个聚类中心的距离。
在计算得到训练样本与各个聚类中心的距离后,可以根据训练样本与各个聚类中心的距离的比较结果,将训练样本划分不同的聚类中。比如,将训练样本划分至与训练样本的距离最近的聚类中心,从而得到多个聚类中心对应的聚类。
S23:根据所确定的聚类的平均坐标重新确定聚类中心,根据所确定的聚类中心重新确定训练样本所属的聚类,直到聚类中心的变化幅度小于预定的变化阈值,或者聚类次数达到预定次数。
将所有的用户划分至聚类中心对应的聚类中后,重新计算聚类中心。可以根据所划分的每个聚类中的训练样本的用户特征的平均值,作为该聚类中的新的聚类中心。重新确定了所有的新的聚类中心后,再计算所有训练样本与重新确定的聚类中心的距离,根据所计算的距离,再次对训练样本进行聚类操作。
通过多次聚类迭代的计算,当聚类中心的位置不再发生明显变化,比如聚类中心的移动距离小于预定的距离阈值,或者迭代次数超过预定的次数阈值,则可以得到由多个聚类所构成的样本子集。每个样本子集中包括若干个特征较为相似的训练样本(对应用户的用户特征和分类结果)。通过聚类,可以完成对用户的初步划分操作,使得特征相似的用户划分至同一个聚类,得到纯度较高的样本子集,即样本子集中用户的用户特征较为相近。
如图3所示,通过聚类操作,可以将训练样本集中的训练样本进行分类,得到三个样本子集。所得到的三个样本子集中,每个样本子集中的训练样本的特征较为相似(图中以训练样本的形状表示训练样本的用户特征,形状较为相似,则表示用户的用户特征较为相似)。
在S103中,根据所确定的样本子集分别构建对应的分类树。
根据样本子集构建分类树时,对于每个节点,可以根据信息增益准则或信息增益比来选择分裂特征,在多个用户特征中选择最具有分类能力的用户特征。用户特征的分类阈值可以多个训练样本的分类结果来确定。通过逐级确定分类节点的用户特征,即节点变量,通过最大限度的生成,不作任何修剪,即可得到样本子集对应的决策树(或者也可以称为分类树)。
由于聚类所得到的样本子集中,所包括的训练样本不会出现由于抽样操作而漏掉的情形,也不会由于有放回抽样而生成相似样本子集(两次或多次抽样的样本相似,抽样得到的样本子集也相似),因而根据聚类生成的样本子集所构建的分类树,可以有效的避免生成相似样本子集,并且不会出现漏掉训练样本的情形,从而能够有效的避免样本子集生成相似的分类树,以及避免漏掉重要的分类树的构建,从而可以根据更为全面准确的分类树所构建的随机森林,得到更为准确的分类结果。
另外,本申请实施例所生成的训练子集的训练样本的相似度较高,即训练样本的纯度较高,根据纯度较高的样本子集构建分类树时,可以有效的降低分类树的深度和复杂度,从而能够提高分类树的拟合速度,提高分类树的构建效率。
在S104中,根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。
根据所生成的多个分类树,可以构成随机森林。根据所构建的随机森林,可以用于对未分类的用户,即待分类用户进行分类计算,从而确定用户所属的用户类型,包括如确定所述待分类用户的用户类型,或者确定用户所需的产品类型。如果所确定的分类结果为所述待分类用户的用户类型时,可以根据预先设定的用户类型与产品的对应关系,确定需要向用户匹配的产品。如果所确定的分类结果为用户所需的产品时,则可直接根据所确定的产品,供用户选择。
在可能的实现方式中,对可以先对待分类用户进行聚类处理,得到待分类用户所属的聚类。由于本申请中的随机森林中的分类树,是根据聚类后的样本子集所构建,因此,在对待分类样本进行分类处理时,可以根据构建分类树时的样本子集的聚类,确定聚类与分类树的对应关系。在确定待分类用户所属的聚类后,则可以根据聚类与分类树的对应关系,选择待分类用户所属的聚类对应的分类树进行分类计算,通过分类树计算得到待分类用户所属的分类。通过待分类用户所属的聚类对应的分类树进行分类计算,可以有效的提高分类计算效率,并且由于待分类用户与构建方分类树的样本子集相似,因而可以有效的保证分类的准确度。
或者,也可以对待分类用户进行聚类处理,得到待分类用户与不同聚类的相似度,根据该相似度确定第一权值。然后通过随机森林的所有分类树对待分类用户进行分类计算,得到不同分类树对待分类用户计算的分类结果。根据分类结果和所述第一权值进行融合计算,可得到待分类用户所属的分类。在确定待分类用户与聚类的相似度时,可以计算待分类用户与聚类中心点之间的距离,根据距离与相似度的对应关系,确定待分类用户与不同聚类的相似度。相似度越高,待分类用户与该聚类的第一权值越大,相似度越低,待分类用户与该聚类的第一权值越小。根据每个分类树可以得到待分类用户的分类结果,将具有相同分类结果的第一权值融合,比如可以求和处理,得到该分类结果的融合值。比如不同分类结果的融合值的大小,选择融合值最大的结果,作为所述随机森林的分类结果。
如图3所示为本申请实施例提供的一种基于随机森林的用户分类方法的实现示意图。其中,训练样本集中的训练样本,通过聚类算法确定聚类后的样本子集后,通过聚类后的样本子集分别构建分类树,基于所构建的分类树构建随机森林,通过随机森林对待分类数据进行分类。
在可能的分类实现的方式中,可以通过聚类方法对待分类用户进行聚类计算,得到待分类用户的聚类结果。可以采用与所述聚类结果相应的分类树对其进行分类计算。通过选择与待分类用户对应的分类树进行分类计算,可以快速的得到待分类用户所属的分类。
在可能的实现方式中,可以确定待分类用户与各个聚类的相似度。比如可以通过待分类用户的用户特征与各个聚类的聚类中心点之间的距离来确定待分类用户与聚类的相似度。根据该相似度确定第一权值。然后根据各个分类树对待分类用户进行分类计算,确定不同分类树所计算的分类结果。再根据第一权值和所述分类结果进行融合计算,得到随机森林所计算的待分类用户的分类结果。比如,如图3所示,随机森林中包括3个分类树和3个聚类,待分类用户与各个聚类的相似度分别为40%、35%、25%。三个分类树所计算的分类分别为A、B和B。通过融合计算,可以得到分类结果为A的融合值为40%,分类结果为B的融合值为60%,可以根据融合值的大小,选择融合值较大的分类结果,作为随机森林输出的分类结果。
在可能的实现方式中,根据待分类用户与聚类的相似度确定第一权值后,还可以由分类树输出待分类用户为不同分类结果的几率,可以根据待分类用户为不同分类结果的几率确定第二权值,根据第一权值和第二权值进行融合计算,确定随机森林输出的分类结果。
比如,图3所示的随机森林中包括3个分类树,每个分类树计算的分类结果均包括三个。通过随机森林对待分类用户进行分类计算,可以得到9个分类结果。任一分类树所得到的结果中,与其它分类树的结果具有相同的类型,比如均包括A、B和C三种类型的分类结果。在确定待分类用户与各个聚类的相似度确定第一权值后,结合分类树所得到的分类结果的可能性确定第二权值。可以根据第一权值、第二权值以及每个分类树的分类结果进行融合处理,得到随机森林的分类结果。比如,待分类用户与三个聚类所确定的第一权值分别40%、35%、25%,第一个分类树所得到的A、B和C三种分类结果的几率,即第二权值分别为60%、20%、20%,第二个分类树所得到的A、B和C三种分类结果的几率,即第二权值分别为30%、50%、20%,第三个分类树所得到的A、B和C三种分类结果的几率,即第二权值分别为80%、9%、11%。通过融合计算,可以得到分类结果为A的融合值为:(60%+30%+80%)*40%=68%。分类结果为B的融合值为:(20%+50%+9%)*35%=27.65%,分类结果为C的融合值为:(20%+20%+11%)*25%=12.75%。由于分类结果A的融合值最大,因此,通过随机森林所确定的待分类用户的分类结果为A类型。
在本申请实施例中,通过对用户进行聚类的方式代替现有的放回抽样的方式来生成样本子集,使得样本子集的纯度更高,从而使得在构建分类树时的深度更低,拟合速度更快。并且聚类后的样本子集不需要放回重抽样,也就不会存在分类树的相似度问题,有效的提高随机森林的分类精度。另外,基于聚类后的样本子集进行分类树的构建,可以避免抽样生成训练子集时,可能错过部分训练样本,从而能够有效的提升所构建的分类树的准确度。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
图4为本申请实施例提供的一种基于随机森林的用户分类装置的示意图,如图4所示,该装置包括:
训练样本集获取单元401,用于获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类;
聚类单元402,用于根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集;
分类树确定单元403,用于根据所确定的样本子集分别构建对应的分类树;
用户分类单元404,用于根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。
在可能的实现方式中,聚类单元402包括:
聚类中心确定子单元,用于确定所述训练样本集中的聚类中心;
距离聚类子单元,用于计算每个训练样本与聚类中心的距离,根据所述距离确定所述训练样本所属的聚类;
循环更新子单元,用于根据所确定的聚类的平均坐标重新确定聚类中心,根据所确定的聚类中心重新确定训练样本所属的聚类,直到聚类中心的变化幅度小于预定的变化阈值,或者聚类次数达到预定次数。
在可能的实现方式中,所述聚类中心确定子单元包括:
数量确定模块,用于根据所述训练样本集中包括的分类的数量,确定所述训练样本集中的聚类中心的数量。
在可能的实现方式中,所述用户分类单元404包括:
聚类子单元,用于根据待分类用户的用户特征确定用户所属的聚类;
分类树确定子单元,用于根据所确定的聚类查找用于对所述待分类用户进行分类的分类树;
第一分类子单元,用于根据所查找的分类树计算所述待分类用户的分类。
在可能的实现方式,所述用户分类单元404包括:
权值确定子单元,用于根据所述待分类用户的用户特征确定所述待分类用户与聚类的相似度确定第一权值;
第二分类子单元,用于根据所述随机森林的分类树确定所述待分类用户所属分类;
第三分类子单元,用于根据第一权值和分类结果,融合得到所述待分类用户的分类结果,根据融合的分类结果确定所述待分类用户的分类。
在可能的实现方式中,所述第三分类子单元包括:
分类树权重计算模块,用于根据第一权值和所述分类结果确定分类树的权重;
分类结果权重计算模块,用于将不同分类树中具有相同分类结果的权重求和,确定随机森林输出的分类结果的权重;
分类模块,用于确定权重最大的分类结果为所述待分类用户的分类。
在可能的实现方式中,所述用户特征包括用户收入信息、承受的波动程度、投资偏好、投资经验、投资期限中的一项或者多项。
图4所示的基于随机森林的用户分类装置,与图1所示的基于随机森林的用户分类方法对应。
图5是本申请一实施例提供的基于随机森林的用户分类设备的示意图。如图5所示,该实施例的基于随机森林的用户分类设备5包括:处理器50、存储器51以及存储在所述存储器51中并可在所述处理器50上运行的计算机程序52,例如基于随机森林的用户分类程序。所述处理器50执行所述计算机程序52时实现上述各个基于随机森林的用户分类方法实施例中的步骤。或者,所述处理器50执行所述计算机程序52时实现上述各装置实施例中各模块/单元的功能。
示例性的,所述计算机程序52可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器51中,并由所述处理器50执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序52在所述基于随机森林的用户分类设备5中的执行过程。
所述基于随机森林的用户分类设备5可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述基于随机森林的用户分类设备可包括,但不仅限于,处理器50、存储器51。本领域技术人员可以理解,图5仅仅是基于随机森林的用户分类设备5的示例,并不构成对基于随机森林的用户分类设备5的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述基于随机森林的用户分类设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器50可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器51可以是所述基于随机森林的用户分类设备5的内部存储单元,例如基于随机森林的用户分类设备5的硬盘或内存。所述存储器51也可以是所述基于随机森林的用户分类设备5的外部存储设备,例如所述基于随机森林的用户分类设备5上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器51还可以既包括所述基于随机森林的用户分类设备5的内部存储单元也包括外部存储设备。所述存储器51用于存储所述计算机程序以及所述基于随机森林的用户分类设备所需的其他程序和数据。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种基于随机森林的用户分类方法,其特征在于,所述方法包括:
获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类;
根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集;
根据所确定的样本子集分别构建对应的分类树;
根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。
2.根据权利要求1所述的方法,其特征在于,根据所述训练样本集中的用户特征,对所述训练样本进行聚类,包括:
确定所述训练样本集中的聚类中心;
计算每个训练样本与聚类中心的距离,根据所述距离确定所述训练样本所属的聚类;
根据所确定的聚类的平均坐标重新确定聚类中心,根据所确定的聚类中心重新确定训练样本所属的聚类,直到聚类中心的变化幅度小于预定的变化阈值,或者聚类次数达到预定次数。
3.根据权利要求2所述的方法,其特征在于,确定所述训练样本集中的聚类中心,包括:
根据所述训练样本集中包括的分类的数量,确定所述训练样本集中的聚类中心的数量。
4.根据权利要求1所述的方法,其特征在于,根据所述随机森林对待分类用户进行分类,包括:
根据待分类用户的用户特征确定用户所属的聚类;
根据所确定的聚类查找用于对所述待分类用户进行分类的分类树;
根据所查找的分类树计算所述待分类用户的分类。
5.根据权利要求1所述的方法,其特征在于,根据所述随机森林对待分类用户进行分类,包括:
根据所述待分类用户的用户特征确定所述待分类用户与聚类的相似度确定第一权值;
根据所述随机森林的分类树确定所述待分类用户所属分类;
根据第一权值和分类结果,融合得到所述待分类用户的分类结果,根据融合的分类结果确定所述待分类用户的分类。
6.根据权利要求5所述的方法,其特征在于,根据第一权值和分类结果,融合得到所述待分类用户的分类结果,根据融合的分类结果确定所述待分类用户的分类,包括:
根据第一权值和所述分类结果确定分类树的权重;
将不同分类树中具有相同分类结果的权重求和,确定随机森林输出的分类结果的权重;
确定权重最大的分类结果为所述待分类用户的分类。
7.根据权利要求1所述的方法,其特征在于,所述用户特征包括用户收入信息、承受的波动程度、投资偏好、投资经验、投资期限中的一项或者多项。
8.一种基于随机森林的用户分类装置,其特征在于,所述装置包括:
训练样本集获取单元,用于获取训练样本集,所述训练样本集中的训练样本包括用户特征和用户分类;
聚类单元,用于根据所述训练样本集中的用户特征,对所述训练样本进行聚类,根据聚类结果确定样本子集;
分类树确定单元,用于根据所确定的样本子集分别构建对应的分类树;
用户分类单元,用于根据所述分类树确定随机森林,根据所述随机森林对待分类用户进行分类。
9.一种基于随机森林的用户分类设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111270906.1A CN113920374A (zh) | 2021-10-29 | 2021-10-29 | 基于随机森林的用户分类方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111270906.1A CN113920374A (zh) | 2021-10-29 | 2021-10-29 | 基于随机森林的用户分类方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113920374A true CN113920374A (zh) | 2022-01-11 |
Family
ID=79243563
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111270906.1A Pending CN113920374A (zh) | 2021-10-29 | 2021-10-29 | 基于随机森林的用户分类方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113920374A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115456801A (zh) * | 2022-09-16 | 2022-12-09 | 北京曲速科技发展有限公司 | 个人信用的人工智能大数据风控系统、方法和存储介质 |
-
2021
- 2021-10-29 CN CN202111270906.1A patent/CN113920374A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115456801A (zh) * | 2022-09-16 | 2022-12-09 | 北京曲速科技发展有限公司 | 个人信用的人工智能大数据风控系统、方法和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110263673B (zh) | 面部表情识别方法、装置、计算机设备及存储介质 | |
US9348898B2 (en) | Recommendation system with dual collaborative filter usage matrix | |
CN110909725A (zh) | 识别文本的方法、装置、设备及存储介质 | |
CN109242612B (zh) | 一种产品推荐的方法及设备 | |
CN110636445B (zh) | 基于wifi的室内定位方法、装置、设备及介质 | |
CN110046634B (zh) | 聚类结果的解释方法和装置 | |
CN110427560A (zh) | 一种应用于推荐系统的模型训练方法以及相关装置 | |
CN108108426A (zh) | 自然语言提问的理解方法、装置及电子设备 | |
CN105512156B (zh) | 点击模型生成方法和装置 | |
CN111368096A (zh) | 基于知识图谱的信息分析方法、装置、设备和存储介质 | |
CN111729310B (zh) | 游戏道具的整理方法、装置和电子设备 | |
CN111191814A (zh) | 一种电价预测方法、系统和计算机可读存储介质 | |
CN108346067A (zh) | 基于自然语言处理的社交网络广告推送方法 | |
CN110969172A (zh) | 一种文本的分类方法以及相关设备 | |
CN113920374A (zh) | 基于随机森林的用户分类方法、装置、设备及存储介质 | |
CN113656699A (zh) | 用户特征向量确定方法、相关设备及介质 | |
CN110929285B (zh) | 一种隐私数据的处理方法及装置 | |
Ulkhaq et al. | Predicting customer churn: A comparison of eight machine learning techniques: A case study in an indonesian telecommunication company | |
CN114092057A (zh) | 一种项目模型的构建方法、装置、终端设备和存储介质 | |
CN112541357A (zh) | 实体识别方法、装置及智能设备 | |
CN109474703B (zh) | 个性化产品组合推送方法、装置及系统 | |
CN112597208A (zh) | 企业名称检索方法、企业名称检索装置及终端设备 | |
CN117235137B (zh) | 一种基于向量数据库的职业信息查询方法及装置 | |
TWI759785B (zh) | 整合定性資料及定量資料進行稽核準則推薦的系統及方法 | |
CN117272123B (zh) | 一种基于大模型的敏感数据处理方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |