CN111652281B - 信息数据的分类方法、装置及可读存储介质 - Google Patents

信息数据的分类方法、装置及可读存储介质 Download PDF

Info

Publication number
CN111652281B
CN111652281B CN202010370911.9A CN202010370911A CN111652281B CN 111652281 B CN111652281 B CN 111652281B CN 202010370911 A CN202010370911 A CN 202010370911A CN 111652281 B CN111652281 B CN 111652281B
Authority
CN
China
Prior art keywords
information
data
classification
attribute
information data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010370911.9A
Other languages
English (en)
Other versions
CN111652281A (zh
Inventor
梁翰鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Property and Casualty Insurance Company of China Ltd
Original Assignee
Ping An Property and Casualty Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Property and Casualty Insurance Company of China Ltd filed Critical Ping An Property and Casualty Insurance Company of China Ltd
Priority to CN202010370911.9A priority Critical patent/CN111652281B/zh
Publication of CN111652281A publication Critical patent/CN111652281A/zh
Application granted granted Critical
Publication of CN111652281B publication Critical patent/CN111652281B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及人工智能,揭露一种信息数据的分类方法,包括:对信息数据集抽样,得到多组信息数据子集,从中选择一组信息数据子集,利用第一弱分类器对选择的信息数据子集进行数据分类,得到第一分类结果,通过遍历操作依次从第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的信息数据子集进行数据分类,得到第二分类结果,在计数器大于计数阈值时,计算所述第一分类结果和所述第二分类结果,得到最终分类结果。本发明还涉及区块链技术,所述信息数据集及所述可最终分类结果存储于区块链节点中。本发明还提出一种信息数据的分类装置、电子设备以及存储介质。本发明可以解决在数据分类中不能有效利用已有信息数据的问题。

Description

信息数据的分类方法、装置及可读存储介质
技术领域
本发明涉及人工智能技术领域,尤其涉及一种信息数据的分类的方法、装置、电子设备及可读存储介质。
背景技术
信息数据的分类是指先分析信息数据的规律,根据规律对信息数据进行智能化分类的过程。目前常采用线性回归、支持向量机、K近邻等方法进行数据分类,虽然可达到分类目的,但当信息数据量庞大时,这类分类方法由于计算方法简单,不能有效利用已有的信息数据,进而得到的数据分类结果具有提升空间。
发明内容
本发明提供一种信息数据的分类方法、装置、电子设备及计算机可读存储介质,其主要目的在于解决在数据分类中不能有效利用已有信息数据的问题。
为实现上述目的,本发明提供的一种信息数据的分类方法,包括:
步骤A:对信息数据集执行抽样操作,得到多组信息数据子集;
步骤B:从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器对选择的所述信息数据子集进行数据分类,得到第一分类结果;
步骤C:通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过计数器执行加一操作得到分类次数;
步骤D:判断所述分类次数是否大于预设的计数阈值,在所述分类次数小于或等于所述计数阈值时,返回步骤B;
步骤E:在所述计数器大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果。
可选地,该方法还包括构建所述第一弱分类器,其中所述构建包括:
获取历史信息集及历史属性集,根据所述历史属性集对所述历史信息集进行分类,得到属性信息集;
计算所述属性信息集内每个属性信息的信息增益值,根据每个所述属性信息的信息增益值,对所述历史信息集进行数据分类,并得到与所述历史信息集对应的第一原始弱分类器;
计算所述第一原始弱分类器的基尼指数值,并根据所述基尼指数值修改所述第一原始弱分类器的数据分类规则得到所述第一弱分类器。
可选地,所述计算所述属性信息集内每个属性信息的信息增益值,包括:
采用如下计算方法计算所述信息增益值:
g(D,A)=H(D)-H(D|A)
其中,g(D,A)表示属性A对所述属性信息集进行数据分类的信息增益值,H(D)表示所述属性信息集的熵,H(D|A)表示在所述属性A条件下,所述属性信息集的熵。
可选地,所述计算所述第一原始弱分类器的基尼指数值,包括:
使用如下计算方法:
其中,Gini(D,A)表示属性A与所述属性信息集的基尼指数值,D1,D2表示在属性A下将所述属性信息集进行数据分类得到的属性信息子集,Gini(D1),Gini(D2)表示所述属性信息子集的基尼指数值。
可选地,所述信息数据集存储于区块链中,及所述对信息数据集执行抽样操作,得到多组信息数据子集,包括:
计算所述分类属性集的数据量及所述信息数据集的数据量,分别得到第一数据量和第二数据量;
根据所述第一数据量和所述第二数据量,利用预先构建的子集规模计算公式计算得到子集规模数;
根据所述子集规模数,对所述信息数据集执行有放回的抽样操作,得到多组所述信息数据子集。
为了解决上述问题,本发明还提供一种信息数据的分类装置,所述装置包括:
数据抽样模块,用于对信息数据集执行抽样操作,得到多组信息数据子集;
第一数据分类模块,用于从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器对选择的所述信息数据子集进行数据分类,得到第一分类结果;
第二数据分类模块,用于通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过计数器执行加一操作得到分类次数,判断所述分类次数是否大于预设的计数阈值,在所述分类次数小于或等于所述计数阈值时,返回第一数据分类模块;
分类结果计算模块,用于在所述计数器大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果。
可选地,所述装置还包括分类器构建模块,所述分类器构建模块用于:
获取历史信息集及历史属性集,根据所述历史属性集对所述历史信息集进行分类,得到属性信息集;
计算所述属性信息集内每个属性信息的信息增益值,根据每个所述属性信息的信息增益值,对所述历史信息集进行数据分类,并得到与所述历史信息集对应的第一原始弱分类器;
计算所述第一原始弱分类器的基尼指数值,并根据所述基尼指数值修改所述第一原始弱分类器的数据分类规则得到所述第一弱分类器。
可选地,所述数据抽样模块具体还用于:
计算所述分类属性集的数据量及所述信息数据集的数据量,分别得到第一数据量和第二数据量;
根据所述第一数据量和所述第二数据量,利用预先构建的子集规模计算公式计算得到子集规模数;
根据所述子集规模数,对所述信息数据集执行有放回的抽样操作,得到多组所述信息数据子集。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的信息数据的分类方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的信息数据的分类方法。
本发明实施例先对信息数据集执行抽样操作,得到多组信息数据子集,抽样操作将一组信息数据集变为多组信息数据子集,缩小了每组数据集的数据量,同时构建第一弱分类器选择数据子集进行第一次分类,并构建第二弱分类器集选择数据子集继续进行第二次分类,如此反复选择数据子集进行多次分类,有效的利用已有信息数据,并构建出多个分类器也提高数据分类精度,因此本发明可以解决在数据分类中不能有效利用已有信息数据的问题。
附图说明
图1为本发明一实施例提供的信息数据的分类方法的流程示意图;
图2为本发明一实施例提供的信息数据的分类方法中S1的详细流程示意图;
图3为本发明一实施例提供的信息数据的分类方法中S2的详细流程示意图;
图4为本发明一实施例提供的信息数据的分类装置的模块示意图;
图5为本发明一实施例提供的实现信息数据的分类方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供的信息数据的分类方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述信息数据的分类方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的信息数据的分类方法的流程示意图。在本实施例中,所述信息数据的分类方法包括:
S1、获取信息数据集,对信息数据集执行抽样操作,得到多组信息数据子集。
本发明较佳实施例可以根据接收的数据分类指令,从数据库中获取所述信息数据集。
优选地,本发明实施例中所述信息数据集可以存储于区块链中,即所述数据库为区块链中的一个节点。
进一步地,在接收所述数据分类指令时,本发明实施例还可以接收用户输入的分类属性集及类别数。
本发明较佳实施例中,所述信息数据集及所述分类属性集可根据应用场景的不同而不同。例如公司A是一个车辆的投保公司,在该公司的数据库中存储了几百万份客户的信息数据,包括客户的车辆信息(车龄、车价、品牌、参数等)、客户的投保信息(保费、险别等)、对接客户的代理人信息(代理人类别、业绩、区域等)等。其中所述客户的车辆信息、客户的投保信息及对接客户的代理人信息等统称为信息数据集。
又如,小张为上述车辆投保公司A的市场调查员,现需对存储在公司的数据库中的五万份客户的信息数据进行合理分类,从而确定市场需求,如使用用户年龄、年薪、车辆的车价等属性对数据进行合理划分,则用户年龄、年薪、车辆的车价等属性即为所述分类属性集。
所述类别数是将公司数据库中的数据分为多少类的类别数量。
本发明实施例的目的在于通过所述分类属性集及所述类别数量对所述信息数据集进行合理划分。
进一步地,当信息数据集的数据量很大时,若直接对信息数据集进行分类,不仅分类需要进行大量的计算,同时分类精度也不高,因此本发明实施例对所述信息数据集执行抽样操作,以缩小信息数据集的数据量。
详细地,所述对所述信息数据集执行抽样操作得到多组信息数据子集,可参阅图2的详细实施流程图,包括:
S11、计算所述信息数据集的数据量及所述分类属性集的数据量,分别得到第一数据量和第二数据量。
如上述车辆投保公司A共有五万份的信息数据集,则第一数据量为50000,小张输入的分类属性集假如有20个分类属性,则第二数据量为20。
S12、根据所述第一数据量和所述第二数据量,利用预先构建的子集规模计算公式计算得到子集规模数。
本发明所述子集规模计算公式可以是:
子集规模数=第二数据量÷第一数据量后取整。
例如,上述的例子中,车辆投保公司A共有五万份的信息数据集,则第一数据量为50000,小张输入的分类属性集假如有20个分类属性,则第二数据量为20,根据所述子集规模计算公式计算得到车辆投保公司A的子集规模数为50*1000/20=2500。
S13、根据所述子集规模数,对所述信息数据集执行有放回的抽样操作,得到多组信息数据子集。
如上所述,根据子集规模数2500,依次在五十万份的信息数据集有放回的抽取2500份信息数据,得到第一信息数据子集,同样的,当第一信息数据子集抽取完成后,在五十万份的信息数据集继续抽取2500份信息数据,得到第二信息数据子集,以此类推,得到多组信息数据子集。
当得到多组信息数据子集后,为了后续对信息数据集分类时提供一个分类结束的触发条件,本发明较佳实施例需要提前构建一个计数器并将该计算器置零。置零可以防止当多个数据分类指令发生时,计数器未置零产生分类异常的现象。
S2、从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器,对选择出的所述信息数据子集进行数据分类,得到第一分类结果。
弱分类器一般包括多种基础的分类算法,如分类树、线性回归、支持向量机、K近邻等分类算法。由于本发明实施例涉及到的信息数据集数量庞大,若仅通过普通的弱分类器进行分类,难以达到理想的分类结果,因为有的弱分类器的分类结果只能对最终的分类结果起协调作用,特别是线性回归分类器,而有的弱分类器对数据分类起到主导作用,本发明实施例选择起到主导作用的弱分类器作为第一弱分类器。
进一步地,本发明实施例还包括对所述第一弱分类器进行构建,其中所述构建过程可参阅图3的详细实施流程图,包括:
S21、获取历史信息集及历史属性集,根据所述历史属性集对所述历史信息集进行分类,得到属性信息集。
本发明实施例中,所述历史信息集与所述信息数据集在数据形式上相同,所述历史属性集与所述分类属性集在数据形式上也相同,只不过历史信息集和历史属性集相比于信息数据集及分类属性集,在数据量上更大,如上述小张公司数据库中的五万份客户的信息数据,则历史信息集可能会有五十万份,其中历史信息集同样包括客户的车辆信息(车龄、车价、品牌、参数等)、客户的投保信息(保费、险别等)、对接客户的代理人信息(代理人类别、业绩、区域等)。如使用车龄的属性,对历史信息集进行分类,得到车龄:[0.1,0.2,…,10],同理利用其他属性也可对历史信息集进行分类,进而得到属性信息集。
S22、计算所述属性信息集内每个属性信息的信息增益值,根据每个所述属性信息的信息增益值,对所述历史信息集进行数据分类,并得到与所述历史信息集对应的第一原始弱分类器。
所述信息增益值表示在属性A下使数据分类结果不确定性减少的程度,一般信息增益值大对应的属性,表示该属性的数据分类能力强。本发明实施例中,所述信息增益值的计算包括:
g(D,A)=H(D)-H(D|A)
其中,g(D,A)表示属性A下将数据分类的信息增益值,D表示所述属性信息集,H(D)表示所述属性信息集的熵,H(D|A)表示在属性A条件下,所述属性信息集的熵。熵表示的是随机变量的不确定性,其中熵越大,表示不确定性越大。
根据上述特征,当计算得到每个属性信息的信息增益值后,选择最大的信息增益值对应的属性,对所述历史信息集进行第一次数据分类,再依次选择次大的信息增益值对应的属性进行第二次数据分类,同时记录每种属性的分类顺序,从而得到所述第一原始弱分类器。
S23、计算所述第一原始弱分类器的基尼指数值,并根据所述基尼指数值修改所述第一原始弱分类器的数据分类规则,得到所述第一弱分类器。
其中,本发明实施例中,所述基尼指数值的计算方法如下:
其中,Gini(D,A)表示属性A与所述属性信息集在所述第一原始弱分类器的基尼指数值,D1,D2表示在属性A下将所述属性信息集进行数据分类得到的属性信息子集,Gini(D1),Gini(D2)表示所述属性信息子集的基尼指数值。其中基尼指数值的计算方法当前已公开。
S3、通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过所述计数器执行加一操作得到分类次数。
本发明实施例中,所述第二弱分类器集合是预先构建的,包括多种基础的分类算法,如分类树、线性回归、支持向量机、K近邻等分类算法,且所述第二弱分类器集中同样可包括上述的第一弱分类器。另外,本发明实施例可采用随机选择、顺序选择等方法从所述第二弱分类器集合中选择第二弱分类器。
另外,由于不同的第二弱分类器对述信息数据子集进行数据分类的方法不相同,所以在对信息数据子集进行数据分类前,本发明实施例先判断所述第二弱分类器的类别。若所述第二弱分类器的类别为线性回归,则需构建线性回归公式,若所述第二弱分类器的类别为支持向量机,则需构建超平面并根据超平面对数据进行分类从而得到第二分类结果。
S4、判断所述分类次数是否大于预设的计数阈值,在所述计数器小于或等于所述计数阈值,返回上述的S2
本发明所述计数阈值一般可通过人为设定,如上述小张输入了20个分类属性,想通过分类器进行30次分类,则计数阈值设定为30,当计数器的数字不大于30时,需要从所述第二弱分类器集继续选择第二弱分类器,直至大于计数阈值时,执行下述的S5。
S5、在所述分类次数大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果,并将所述最终分类结果反馈给用户。
本发明所述投票方法可采用当前已公开的随机森林模型,将所有的第一分类结果、第二分类结果作为所述随机森林模型的输入值,计算得到最终分类结果,如小张输入的类别数为10,分类属性集为20,则将五万份客户的信息数据最终分类成10组信息数据。
优选地,本发明实施例可以将所述最终分类结果保存在区块链中,以保证所述最终分类结果的私密性以及安全性。
本发明实施例先对信息数据集执行抽样操作,得到多组信息数据子集,抽样操作将一组信息数据集变为多组信息数据子集,缩小了每组数据集的数据量,同时构建第一弱分类器选择数据子集进行第一次分类,并构建第二弱分类器集选择数据子集继续进行第二次分类,如此反复选择数据子集进行多次分类,有效的利用已有信息数据,并构建出多个分类器也提高数据分类精度,因此本发明可以解决在数据分类中不能有效利用已有信息数据的问题。
如图4所示,是本发明信息数据的分类装置的功能模块图。
本发明所述信息数据的分类装置100可以安装于电子设备中。根据实现的功能,所述信息数据的分类装置可以包括数据抽样模块101、第一数据分类模块102、第二数据分类模块103、分类结果计算模块104。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述数据抽样模块101,用于对信息数据集执行抽样操作,得到多组信息数据子集;
所述第一数据分类模块102,用于从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器对选择的所述信息数据子集进行数据分类,得到第一分类结果;
所述第二数据分类模块103,用于通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过计数器执行加一操作得到分类次数,判断所述分类次数是否大于预设的计数阈值,在所述分类次数小于或等于所述计数阈值时,返回第一数据分类模块;
所述分类结果计算模块104,用于在所述计数器大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果。
详细地,所述信息数据的分类装置各模块的具体实施步骤如下:
所述数据抽样模块101获取信息数据集,对所述信息数据集执行抽样操作,得到多组信息数据子集。
本发明较佳实施例所述数据抽样模块101可以根据接收的数据分类指令,从数据库中获取所述信息数据集。
优选地,本发明实施例中所述信息数据集可以存储于区块链中,即所述数据库为区块链中的一个节点。
进一步地,在接收所述数据分类指令时,本发明实施例还可以接收用户输入的分类属性集及类别数。
本发明较佳实施例中,所述信息数据集及所述分类属性集可根据应用场景的不同而不同。例如公司A是一个车辆的投保公司,在该公司的数据库中存储了几百万份客户的信息数据,包括客户的车辆信息(车龄、车价、品牌、参数等)、客户的投保信息(保费、险别等)、对接客户的代理人信息(代理人类别、业绩、区域等)等。其中所述客户的车辆信息、客户的投保信息及对接客户的代理人信息等统称为信息数据集。
又如,小张为上述车辆投保公司A的市场调查员,现需对存储在公司的数据库中的五万份客户的信息数据进行合理分类,从而确定市场需求,如使用用户年龄、年薪、车辆的车价等属性对数据进行合理划分,则用户年龄、年薪、车辆的车价等属性即为所述分类属性集。
所述类别数是将公司数据库中的数据分为多少类的类别数量。
本发明实施例的目的在于通过所述分类属性集及所述类别数量对所述信息数据集进行合理划分。
进一步地,当信息数据集的数据量很大时,若直接对信息数据集进行分类,不仅分类需要进行大量的计算,同时分类精度也不高,因此利用所述数据抽样模块101对所述信息数据集执行抽样操作,以缩小信息数据集的数据量。
详细地,所述数据抽样模块101在对所述信息数据集执行抽样操作得到多组信息数据子集时,具体执行下述操作:
计算所述信息数据集的数据量及所述分类属性集的数据量,分别得到第一数据量和第二数据量。
如上述车辆投保公司A共有五万份的信息数据集,则第一数据量为50000,小张输入的分类属性集假如有20个分类属性,则第二数据量为20。
根据所述第一数据量和所述第二数据量,利用预先构建的子集规模计算公式计算得到子集规模数。
本发明所述子集规模计算公式可以是:
子集规模数=第二数据量÷第一数据量后取整。
例如,上述的例子中,车辆投保公司A共有五万份的信息数据集,则第一数据量为50000,小张输入的分类属性集假如有20个分类属性,则第二数据量为20,根据所述子集规模计算公式计算得到车辆投保公司A的子集规模数为50*1000/20=2500。
根据所述子集规模数,对所述信息数据集执行有放回的抽样操作,得到多组信息数据子集。
如上所述,根据子集规模数2500,依次在五十万份的信息数据集有放回的抽取2500份信息数据,得到第一信息数据子集,同样的,当第一信息数据子集抽取完成后,在五十万份的信息数据集继续抽取2500份信息数据,得到第二信息数据子集,以此类推,得到多组信息数据子集。
当得到多组信息数据子集后,为了后续对信息数据集分类时提供一个分类结束的触发条件,本发明较佳实施例需要提前构建一个计数器并将该计算器置零。置零可以防止当多个数据分类指令发生时,计数器未置零产生分类异常的现象。
所述第一数据分类模块102从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器,对选择出的所述信息数据子集进行数据分类,得到第一分类结果。
弱分类器一般包括多种基础的分类算法,如分类树、线性回归、支持向量机、K近邻等分类算法。由于本发明实施例涉及到的信息数据集数量庞大,若仅通过普通的弱分类器进行分类,难以达到理想的分类结果,因为有的弱分类器的分类结果只能对最终的分类结果起协调作用,特别是线性回归分类器,而有的弱分类器对数据分类起到主导作用,本发明实施例选择起到主导作用的弱分类器作为第一弱分类器。
进一步地,本发明实施例还包括分类器构建模块105,用于:
获取历史信息集及历史属性集,根据所述历史属性集对所述历史信息集进行分类,得到属性信息集,计算所述属性信息集内每个属性信息的信息增益值,根据每个所述属性信息的信息增益值,对所述历史信息集进行数据分类,并得到与所述历史信息集对应的第一原始弱分类器,计算所述第一原始弱分类器的基尼指数值,并根据所述基尼指数值修改所述第一原始弱分类器的数据分类规则,得到所述第一弱分类器。
本发明实施例中,所述历史信息集与所述信息数据集在数据形式上相同,所述历史属性集与所述分类属性集在数据形式上也相同,只不过历史信息集和历史属性集相比于信息数据集及分类属性集,在数据量上更大,如上述小张公司数据库中的五万份客户的信息数据,则历史信息集可能会有五十万份,其中历史信息集同样包括客户的车辆信息(车龄、车价、品牌、参数等)、客户的投保信息(保费、险别等)、对接客户的代理人信息(代理人类别、业绩、区域等)。如使用车龄的属性,对历史信息集进行分类,得到车龄:[0.1,0.2,…,10],同理利用其他属性也可对历史信息集进行分类,进而得到属性信息集。
所述信息增益值表示在属性A下使数据分类结果不确定性减少的程度,一般信息增益值大对应的属性,表示该属性的数据分类能力强。本发明实施例中,所述信息增益值的计算包括:
g(D,A)=H(D)-H(D|A)
其中,g(D,A)表示属性A下将数据分类的信息增益值,D表示所述属性信息集,H(D)表示所述属性信息集的熵,H(D|A)表示在属性A条件下,所述属性信息集的熵。熵表示的是随机变量的不确定性,其中熵越大,表示不确定性越大。
根据上述特征,当计算得到每个属性信息的信息增益值后,所述数据抽样模块101选择最大的信息增益值对应的属性,对所述历史信息集进行第一次数据分类,再依次选择次大的信息增益值对应的属性进行第二次数据分类,同时记录每种属性的分类顺序,从而得到所述第一原始弱分类器。
其中,本发明实施例中,所述基尼指数值的计算方法如下:
其中,Gini(D,A)表示属性A与所述属性信息集在所述第一原始弱分类器的基尼指数值,D1,D2表示在属性A下将所述属性信息集进行数据分类得到的属性信息子集,Gini(D1),Gini(D2)表示所述属性信息子集的基尼指数值。其中基尼指数值的计算方法当前已公开。
所述第二数据分类模块103通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过所述计数器执行加一操作得到分类次数。
本发明实施例中,所述第二弱分类器集合是预先构建的,包括多种基础的分类算法,如分类树、线性回归、支持向量机、K近邻等分类算法,且所述第二弱分类器集中同样可包括上述的第一弱分类器。另外,本发明实施例可采用随机选择、顺序选择等方法从所述第二弱分类器集合中选择第二弱分类器。
另外,由于不同的第二弱分类器对述信息数据子集进行数据分类的方法不相同,所以在对信息数据子集进行数据分类前,本发明实施例先判断所述第二弱分类器的类别。若所述第二弱分类器的类别为线性回归,则需构建线性回归公式,若所述第二弱分类器的类别为支持向量机,则需构建超平面并根据超平面对数据进行分类从而得到第二分类结果。
本发明所述计数阈值一般可通过人为设定,如上述小张输入了20个分类属性,想通过分类器进行30次分类,则计数阈值设定为30,当计数器的数字不大于30时,需要从所述第二弱分类器集继续选择第二弱分类器,直至大于计数阈值时,执行下述的分类结果计算模块。
所述分类结果计算模块104在所述分类次数大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果,并将所述最终分类结果反馈给用户。
本发明所述投票方法可采用当前已公开的随机森林模型,将所有的第一分类结果、第二分类结果作为所述随机森林模型的输入值,计算得到最终分类结果,如小张输入的类别数为10,分类属性集为20,则将五万份客户的信息数据最终分类成10组信息数据。
优选地,本发明实施例可以将所述最终分类结果保存在区块链中,以保证所述最终分类结果的私密性以及安全性。
本发明实施例先对信息数据集执行抽样操作,得到多组信息数据子集,抽样操作将一组信息数据集变为多组信息数据子集,缩小了每组数据集的数据量,同时构建第一弱分类器选择数据子集进行第一次分类,并构建第二弱分类器集选择数据子集继续进行第二次分类,如此反复选择数据子集进行多次分类,有效的利用已有信息数据,并构建出多个分类器也提高数据分类精度,因此本发明可以解决在数据分类中不能有效利用已有信息数据的问题。
如图5所示,是本发明实现信息数据的分类方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如信息数据的分类程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如信息数据的分类程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行信息数据的分类程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图5仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图5示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的信息数据的分类12是多个指令的组合,在所述处理器10中运行时,可以实现:
步骤A:对信息数据集执行抽样操作,得到多组信息数据子集;
步骤B:从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器对选择的所述信息数据子集进行数据分类,得到第一分类结果;
步骤C:通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过计数器执行加一操作得到分类次数;
步骤D:判断所述分类次数是否大于预设的计数阈值,在所述分类次数小于或等于所述计数阈值时,返回步骤B;
步骤E:在所述计数器大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果。
具体地,所述处理器10对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
进一步地,所述非易失性计算机可读取存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。

Claims (6)

1.一种信息数据的分类方法,其特征在于,所述方法包括:
步骤A:对信息数据集执行抽样操作,得到多组信息数据子集;
步骤B:从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器对选择的所述信息数据子集进行数据分类,得到第一分类结果;
步骤C:通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过计数器执行加一操作得到分类次数;
步骤D:判断所述分类次数是否大于预设的计数阈值,在所述分类次数小于或等于所述计数阈值时,返回步骤B;
步骤E:在所述计数器大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果;
其中,该方法还包括构建所述第一弱分类器,其中所述构建包括:获取历史信息集及历史属性集,根据所述历史属性集对所述历史信息集进行分类,得到属性信息集;计算所述属性信息集内每个属性信息的信息增益值,根据每个所述属性信息的信息增益值,对所述历史信息集进行数据分类,并得到与所述历史信息集对应的第一原始弱分类器;计算所述第一原始弱分类器的基尼指数值,并根据所述基尼指数值修改所述第一原始弱分类器的数据分类规则得到所述第一弱分类器;
所述计算所述属性信息集内每个属性信息的信息增益值,包括:采用如下计算方法计算所述信息增益值:
g(D,A)=H(D)-H(D|A)
其中,g(D,A)表示属性A对所述属性信息集进行数据分类的信息增益值,H(D)表示所述属性信息集的熵,H(D|A)表示在所述属性A条件下,所述属性信息集的熵;
所述计算所述第一原始弱分类器的基尼指数值,包括:使用如下计算方法计算所述第一原始弱分类器的基尼指数值:
其中,Gini(D,A)表示属性A与所述属性信息集的基尼指数值,D1,D2表示在属性A下将所述属性信息集进行数据分类得到的属性信息子集,Gini(D1),Gini(D2)表示所述属性信息子集的基尼指数值。
2.如权利要求1所述的信息数据的分类方法,其特征在于,所述信息数据集存储于区块链中,及所述对信息数据集执行抽样操作,得到多组信息数据子集,包括:
计算用户输入的分类属性集的数据量及所述信息数据集的数据量,分别得到第一数据量和第二数据量;
根据所述第一数据量和所述第二数据量,利用预先构建的子集规模计算公式计算得到子集规模数;
根据所述子集规模数,对所述信息数据集执行有放回的抽样操作,得到多组所述信息数据子集。
3.一种信息数据的分类装置,其特征在于,所述装置包括:
数据抽样模块,用于对信息数据集执行抽样操作,得到多组信息数据子集;
第一数据分类模块,用于从多组所述信息数据子集中选择一组信息数据子集,利用第一弱分类器对选择的所述信息数据子集进行数据分类,得到第一分类结果;
第二数据分类模块,用于通过遍历操作依次从预构建的第二弱分类器集中选择第二弱分类器,利用所述第二弱分类器对选择的所述信息数据子集进行数据分类,得到第二分类结果,并通过计数器执行加一操作得到分类次数,判断所述分类次数是否大于预设的计数阈值,在所述分类次数小于或等于所述计数阈值时,返回第一数据分类模块;
分类结果计算模块,用于在所述计数器大于所述计数阈值时,根据预构建的投票方法,计算所述第一分类结果和所述第二分类结果,得到所述信息数据集的最终分类结果;
所述装置还包括分类器构建模块,所述分类器构建模块用于:获取历史信息集及历史属性集,根据所述历史属性集对所述历史信息集进行分类,得到属性信息集;计算所述属性信息集内每个属性信息的信息增益值,根据每个所述属性信息的信息增益值,对所述历史信息集进行数据分类,并得到与所述历史信息集对应的第一原始弱分类器;计算所述第一原始弱分类器的基尼指数值,并根据所述基尼指数值修改所述第一原始弱分类器的数据分类规则得到所述第一弱分类器;
所述计算所述属性信息集内每个属性信息的信息增益值,包括:采用如下计算方法计算所述信息增益值:
g(D,A)=H(D)-H(D|A)
其中,g(D,A)表示属性A对所述属性信息集进行数据分类的信息增益值,H(D)表示所述属性信息集的熵,H(D|A)表示在所述属性A条件下,所述属性信息集的熵;
所述计算所述第一原始弱分类器的基尼指数值,包括:使用如下计算方法计算所述第一原始弱分类器的基尼指数值:
其中,Gini(D,A)表示属性A与所述属性信息集的基尼指数值,D1,D2表示在属性A下将所述属性信息集进行数据分类得到的属性信息子集,Gini(D1),Gini(D2)表示所述属性信息子集的基尼指数值。
4.如权利要求3所述的信息数据的分类装置,其特征在于,所述数据抽样模块具体用于:
计算用户输入的分类属性集的数据量及所述信息数据集的数据量,分别得到第一数据量和第二数据量;
根据所述第一数据量和所述第二数据量,利用预先构建的子集规模计算公式计算得到子集规模数;
根据所述子集规模数,对所述信息数据集执行有放回的抽样操作,得到多组所述信息数据子集。
5.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至2中任意一项所述的信息数据的分类方法。
6.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至2中任意一项所述的信息数据的分类方法。
CN202010370911.9A 2020-04-30 2020-04-30 信息数据的分类方法、装置及可读存储介质 Active CN111652281B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010370911.9A CN111652281B (zh) 2020-04-30 2020-04-30 信息数据的分类方法、装置及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010370911.9A CN111652281B (zh) 2020-04-30 2020-04-30 信息数据的分类方法、装置及可读存储介质

Publications (2)

Publication Number Publication Date
CN111652281A CN111652281A (zh) 2020-09-11
CN111652281B true CN111652281B (zh) 2023-08-18

Family

ID=72344407

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010370911.9A Active CN111652281B (zh) 2020-04-30 2020-04-30 信息数据的分类方法、装置及可读存储介质

Country Status (1)

Country Link
CN (1) CN111652281B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113434505B (zh) * 2021-06-29 2023-04-25 平安科技(深圳)有限公司 交易信息属性检索方法、装置、计算机设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104392250A (zh) * 2014-11-21 2015-03-04 浪潮电子信息产业股份有限公司 一种基于MapReduce的图像分类方法
CN109726703A (zh) * 2019-01-11 2019-05-07 浙江工业大学 一种基于改进集成学习策略的人脸图像年龄识别方法
CN110197194A (zh) * 2019-04-12 2019-09-03 佛山科学技术学院 一种基于改进随机森林的轴承故障诊断方法及装置
WO2019200806A1 (zh) * 2018-04-20 2019-10-24 平安科技(深圳)有限公司 文本分类模型的生成装置、方法及计算机可读存储介质
CN110705683A (zh) * 2019-10-12 2020-01-17 腾讯科技(深圳)有限公司 随机森林模型的构造方法、装置、电子设备及存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5989576B2 (ja) * 2013-03-07 2016-09-07 株式会社東芝 パターン識別装置、パターン識別方法、プログラム、学習装置および学習方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104392250A (zh) * 2014-11-21 2015-03-04 浪潮电子信息产业股份有限公司 一种基于MapReduce的图像分类方法
WO2019200806A1 (zh) * 2018-04-20 2019-10-24 平安科技(深圳)有限公司 文本分类模型的生成装置、方法及计算机可读存储介质
CN109726703A (zh) * 2019-01-11 2019-05-07 浙江工业大学 一种基于改进集成学习策略的人脸图像年龄识别方法
CN110197194A (zh) * 2019-04-12 2019-09-03 佛山科学技术学院 一种基于改进随机森林的轴承故障诊断方法及装置
CN110705683A (zh) * 2019-10-12 2020-01-17 腾讯科技(深圳)有限公司 随机森林模型的构造方法、装置、电子设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于AdaBoost的不完整数据的信息熵分类算法;吕靖 等;计算机与现代化(09);第35-38页 *

Also Published As

Publication number Publication date
CN111652281A (zh) 2020-09-11

Similar Documents

Publication Publication Date Title
CN111652278B (zh) 用户行为检测方法、装置、电子设备及介质
CN112883190A (zh) 文本分类方法、装置、电子设备及存储介质
CN113449187A (zh) 基于双画像的产品推荐方法、装置、设备及存储介质
CN113688923B (zh) 订单异常智能检测方法、装置、电子设备及存储介质
CN114979120B (zh) 数据上传方法、装置、设备及存储介质
CN114491047A (zh) 多标签文本分类方法、装置、电子设备及存储介质
CN112699142A (zh) 冷热数据处理方法、装置、电子设备及存储介质
CN114612194A (zh) 产品推荐方法、装置、电子设备及存储介质
CN113268665A (zh) 基于随机森林的信息推荐方法、装置、设备及存储介质
CN113868528A (zh) 资讯推荐方法、装置、电子设备及可读存储介质
CN114781832A (zh) 课程推荐方法、装置、电子设备及存储介质
CN113868529A (zh) 知识推荐方法、装置、电子设备及可读存储介质
CN112560465A (zh) 批量异常事件的监控方法、装置、电子设备及存储介质
CN113837631B (zh) 员工评价方法、装置、电子设备及可读存储介质
CN116662839A (zh) 基于多维智能采集的关联大数据聚类分析方法及装置
CN113656690B (zh) 产品推荐方法、装置、电子设备及可读存储介质
CN114862140A (zh) 基于行为分析的潜力评估方法、装置、设备及存储介质
CN111652281B (zh) 信息数据的分类方法、装置及可读存储介质
CN113505273A (zh) 基于重复数据筛选的数据排序方法、装置、设备及介质
CN111402068A (zh) 基于大数据的保费数据分析方法、装置及存储介质
CN113705201B (zh) 基于文本的事件概率预测评估算法、电子设备及存储介质
CN113626605B (zh) 信息分类方法、装置、电子设备及可读存储介质
CN114240560A (zh) 基于多维分析的产品排名方法、装置、设备及存储介质
CN113343102A (zh) 基于特征筛选的数据推荐方法、装置、电子设备及介质
CN115225489B (zh) 队列业务流量阈值动态控制方法、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant