CN114021642A - 数据处理方法、装置、电子设备和存储介质 - Google Patents

数据处理方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN114021642A
CN114021642A CN202111291499.2A CN202111291499A CN114021642A CN 114021642 A CN114021642 A CN 114021642A CN 202111291499 A CN202111291499 A CN 202111291499A CN 114021642 A CN114021642 A CN 114021642A
Authority
CN
China
Prior art keywords
data set
current
classification model
training data
performance value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111291499.2A
Other languages
English (en)
Inventor
张巨岩
杨德将
许韩晨玺
武思文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202111291499.2A priority Critical patent/CN114021642A/zh
Publication of CN114021642A publication Critical patent/CN114021642A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211—Selection of the most significant subset of features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据处理方法，涉及人工智能领域，尤其涉及数据筛选技术和数据处理技术。具体实现方案为：针对当前处理周期，根据当前训练数据集和当前分类模型，得到当前训练数据集中样本的每个特征的重要度；将重要度大于等于当前预设重要度阈值的特征从当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集；获取当前分类模型的第一性能值；以及响应于第一性能值小于或等于预设性能阈值，将更新后的训练数据集作为目标训练数据集。本公开还提供了一种数据处理装置、电子设备和存储介质。

Description

数据处理方法、装置、电子设备和存储介质
技术领域
本公开涉及人工智能技术领域，尤其涉及数据筛选技术和数据处理技术。更具体地，本公开提供了一种数据处理方法、装置、电子设备和存储介质。
背景技术
随着时间变化，业务场景的数据会发生变化，例如业务场景的主要用户群体会发生变化。进而，业务场景的数据的特征分布也会发生变化。
发明内容
本公开提供了一种数据处理方法、装置、设备以及存储介质。
根据第一方面，提供了一种数据处理方法，该方法包括：针对当前处理周期，根据当前训练数据集和当前分类模型，得到上述当前训练数据集中样本的每个特征的重要度，其中，上述训练数据集包括多个样本的特征子集，每个样本的特征子集包括该样本的多个特征；将重要度大于等于当前预设重要度阈值的特征从上述当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集；获取上述当前分类模型的第一性能值，其中，上述第一性能值用于表征上述当前分类模型对具有高重要度特征的样本进行分类的能力，上述高重要度特征为每个样本的特征子集中重要度大于等于上述当前预设重要度阈值的特征；以及响应于上述第一性能值小于或等于预设性能阈值，将上述更新后的训练数据集作为目标训练数据集
根据第二方面，提供了一种数据处理装置，该装置包括：第一获得模块，用于针对当前处理周期，根据当前训练数据集和当前分类模型，得到上述当前训练数据集中样本的每个特征的重要度，其中，上述训练数据集包括多个样本的特征子集，每个样本的特征子集包括该样本的多个特征；第一删除模块，用于将重要度大于等于当前预设重要度阈值的特征从上述当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集；第一获取模块，用于获取上述当前分类模型的第一性能值，其中，上述第一性能值用于表征上述当前分类模型对具有高重要度特征的样本进行分类的能力，上述高重要度特征为每个样本的特征子集中重要度大于等于上述当前预设重要度阈值的特征；以及第二获得模块，用于响应于上述第一性能值小于或等于预设性能阈值，将上述更新后的训练数据集作为目标训练数据集
根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行根据本公开提供的方法。
根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行根据本公开提供的方法。
根据第五方面，提供了一种计算机程序产品，包括计算机程序，上述计算机程序在被处理器执行时实现根据本公开提供的方法。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开一个实施例的可以应用数据处理方法和装置的示例性系统架构示意图；
图2是根据本公开一个实施例的数据处理方法的流程图；
图3A是根据本公开一个实施例的数据处理方法的原理图；
图3B是根据本公开另一个实施例的数据处理方法的原理图；
图4是根据本公开一个实施例的数据处理装置的框图；以及
图5是根据本公开一个实施例的可以应用数据处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
相关业务场景的数据的特征分布会随时间的变化而发生变化。将这些数据作为样本，对模型进行训练，会影响模型的稳定性。相关技术中，可以采用人工去除部分数据的方式，对样本进行筛选，以提高模型的稳定性。
但是，对样本进行筛选需要进行一定的计算，成本较高，并且难以准确地筛选出影响模型稳定性的样本。
图1是根据本公开一个实施例的可以应用数据处理方法和装置的示例性系统架构示意图。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括多个终端设备101、网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线和/或无线通信链路等等。
用户可以使用终端设备101通过网络102与服务器103进行交互，以接收或发送消息等。终端设备101可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机等等。
本公开实施例所提供的数据处理方法一般可以由服务器103执行。相应地，本公开实施例所提供的数据处理装置一般可以设置于服务器103中。本公开实施例所提供的数据处理方法也可以由不同于服务器103且能够与终端设备101和/或服务器103通信的服务器或服务器集群执行。相应地，本公开实施例所提供的数据处理装置也可以设置于不同于服务器103且能够与终端设备101和/或服务器103通信的服务器或服务器集群中。
图2是根据本公开一个实施例的数据处理方法的流程图。
如图2所示，该数据处理方法200可以包括操作S210至操作S240。
在操作S210，针对当前处理周期，根据当前训练数据集和当前分类模型，得到当前训练数据集中样本的每个特征的重要度。
在本公开实施例中，训练数据集包括多个样本的特征子集，每个样本的特征子集包括该样本的多个特征。
例如，多个样本的特征子集中包含了相同数量的特征。
例如，可以对训练数据集进行多个处理周期的处理。在一个示例中，上一处理周期得到的更新后的训练数据集，可以作为当前处理周期的当前训练数据集。
在本公开实施例中，可以对数据集进行划分，得到第一数据集和第二数据集。
例如，数据集可以是原始的数据集，每个数据集中包含多个样本的特征子集，每个样本的特征子集包括多个特征。
例如，数据集中的多个样本可以是根据某个产品的年度销售数据得到的多个样本。每个样本可以对应的一个该产品的用户。针对多个样本，对每个样本进行特征提取，可以得到多个样本的特征子集。
需要说明的是，本公开实施例中的样本的特征数据并不是针对某一特定用户，并不能反映出某一特定用户的个人信息。
例如，可以基于联合建模平台，获取数据集。联合建模平台中包含多方的数据，根据相应的规则，可以获取更为全面的数据。
例如，可以按照预定的规则对数据集进行划分。在一个示例中，第一数据集中的样本可以是与前11个月中采购该产品的全部用户对应的样本。第二数据集中的样本可以是与第12个月采购该产品的全部用户对应的样本。这是因为随着时间推移，该产品的用户群体可以发生变化。
在本公开实施例中，为第一数据集中每个样本的特征子集添加第一标注，得到标注后的第一数据集。
例如，可以为第一数据集中的每个样本的特征子集添加同样的标注。
在本公开实施例中，为第二数据集中每个样本的特征子集添加第二标注，得到标注后的第二数据集。
例如，第二数据集中的样本的特征分布，与第一数据集中样本的特征分布有较大的差别。可以为第二数据集中的每个样本的特征子集添加与第一数据集不同的标注。在一个示例中，针对相关信贷产品的采购行为多集中在年底，即该产品的最后一个月的用户群体的特征与前十一个月的用户群体的特征有较为明显的区别。为准确地训练相关风控模型，可以对不同时段的样本进行不同标注。
在本公开实施例中，根据标注后的第一数据集和标注后的第二数据集，得到初始训练数据集。
例如，根据标注后的第一数据集和标注后的第二数据集，得到标注后的数据集。
在一些示例中，可以将标注后的第一数据集中的全部样本的特征子集与标注后的第二数据集中的全部样本的特征子集随机混合。混合时，特征子集内的多个特征并不发生改变，只是对样本进行混合。
例如，从标注后的数据集中随机选择多个数据，得到初始训练数据集。
在一些示例中，初始训练数据集中包含具有第一标注的样本的特征子集和具有第二标注的样本的特征子集。在一个示例中，在初始训练数据集中，共有1100个样本的特征子集。
例如，针对第一个处理周期，根据初始训练数据集和初始分类模型，获取初始训练数据集中样本的每个特征的重要度。
例如，将重要度大于等于当前预设重要度阈值的特征从初始训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集，以便对更新后的训练数据集进行下一处理周期的处理。如前文所述，第二数据集中的样本的特征分布，与第一数据集中样本的特征分布有较大的差别。进而，初始训练数据集内的不同样本之间可以有效地区分。初始分类模型可以具有较高的性能。
在本公开实施例中，分类模型可以是树模型或线性模型。
例如，分类模型可以是树模型。当前训练数据集的多个样本的特征子集输入当前树模型后，当前树模型可以对训练数据中的样本进行分类，并输出样本的每个特征的重要度。在一个示例中，一个特征被当前树模型选为分割特征的次数越多，那么这个特征越重要。
在操作S220，将重要度大于等于当前预设重要度阈值的特征从当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集。
在本公开实施例中，当前预设重要度阈值可以是一个动态值。
例如，当前预设重要度阈值可以用于区分重要度前10％的特征和重要度后90％的特征。在这种情况下，当前预设重要度阈值可以是一个动态的值。
在本公开实施例中，当前预设重要度阈值可以是一个静态值。
例如，重要度可以是一个大于0且小于1的实数。在一个示例中，当前预设重要度阈值可以为0.8。
例如，当前训练数据集中可以包含1000个样本的特征子集，每个样本的特征子集中可以包含100个特征。更新后的训练数据集中可以包含1000个样本的特征子集，每个样本的特征子集可以包含90个特征。
在操作S230，获取当前分类模型的第一性能值。
在本公开实施例中，第一性能值可以用于表征当前分类模型对具有高重要度特征的样本进行分类的能力。
在本公开实施例中，高重要度特征可以为每个样本的特征子集中重要度大于等于当前预设重要度阈值的特征。
在本公开实施例中，第一性能值可以是根据验证数据集和当前分类模型计算得到的AUC(Area Under Curve，ROC下与坐标轴围成的面积)。
例如，ROC(Receiver Operating Characteristic Curve，接受者操作特性曲线)可以根据数据集和分类模型得到。
在本公开实施例中，可以根据验证数据集和当前分类模型，获取当前分类模型的第一性能值。
例如，验证数据集用于为当前分类模型提供多个具有高重要度特征的样本的特征子集。
例如，可以将验证数据集输入当前分类模型，得到针对验证数据集的当前分类模型的第一输出。可以根据该第一输出，得到一个AUC值，以作为第一性能值。
需要说明的是，AUC为大于等于0.5且小于等于1的值。AUC为0.5时，表明当前分类模型的性能较差，几乎没有预测能力。
例如，可以根据初始训练数据集，获取验证数据集。
例如，初始训练数据集可以是例如前文记载的操作S210中的初始训练集。
例如，初始训练数据集可以为第一个处理周期的当前训练数据集。在一个示例中，初始训练数据集可以为例如前文记载的第一个处理周期的当前训练数据集。
在一些示例中，可以根据标注后的数据集和初始训练数据集，得到验证数据集。
在一些示例中，得到初始训练数据集之后，可以将标注后的数据集中剩余的多个样本的特征子集作为验证数据集。在一些示例中，验证数据集中包含具有第一标注的样本的特征子集和具有第二标注的样本的特征子集。在一个示例中，在验证数据集中，共有100个样本的特征子集。
需要说明的是，验证数据集可以为当前分类模型提供多个具有高重要度特征的样本的特征子集。验证数据集同前文所述的初始训练数据集可以根据不同的数据集得到。
在操作S240，响应于第一性能值小于或等于预设性能阈值，将更新后的训练数据集作为目标训练数据集。
例如，预设性能阈值可以为0.55。第一性能值低于0.55时，表明当前分类模型的性能较差。又例如，预设性能阈值可以为0.5。第一性能值低于0.5时，表明当前分类模型的性能较差。
在本公开实施例中，可以响应于第一性能值大于预设性能阈值，对更新后的训练数据集进行下一处理周期的处理。
例如，第一性能值为0.7，大于预设性能阈值0.55，表明当前分类模型仍具有一定的性能。
在本公开实施例中，可以获取当前分类模型的第二性能值。
在本公开实施例中，第二性能值可以用于表征当前分类模型对不具有高重要度特征的样本进行分类的能力。
例如，可以根据更新后的训练数据集和当前分类模型，得到当前分类模型的第二性能值。更新后的训练数据集中删除了当前训练数据集中的高重要度特征。
例如，可以将更新后的训练数据集输入当前分类模型，得到针对更新后的训练数据集的当前分类模型的第二输出。可以根据该第二输出，得到一个AUC值，以作为第二性能值。
在本公开实施例中，可以响应于第一性能值大于预设性能阈值，调整当前分类模型的参数，得到更新后的分类模型。
例如，可以根据第一性能值和第二性能值，调整当前分类模型的参数，以减小第一性能值与第二性能值之差，得到更新后的分类模型。
在一些示例中，可以调整树模型的最大叶子节点数，以减少第一性能值和第二性能值之间的差别。
需要说明的是，树模型或线性模型具有多个参数，本领域技术人员可以根据需要调整树模型或线性模型的参数。
在本公开实施例中，可以根据更新后的分类模型进行下一处理周期的处理。
例如，在当前处理周期，利用分类模型Pm处理训练数据集Am，以得到训练数据集Am中样本的每个特征的重要度。进而，可以根据前文所述的方法得到更新后的训练数据集Am+1和更新后的分类模型Pm+1。
例如，相较于当前处理周期，在下一处理周期，更新后的分类模型Pm+1作为当前训练模型，更新后的训练数据集Am+1作为当前训练数据集。即，利用分类模型Pm+1处理训练数据集Am+1，以得到训练数据集Am+1中每个特征的重要度。
通过本公开实施例，可以从训练数据集中筛选出对模型训练结果影响最大、差异变化大的特征。目标训练数据集中的各样本的特征子集中的特征差异变化小。在用于模型训练时，该目标训练数据集可以提高模型的稳定性。
需要说明的是，操作S210与操作S230可以是并行执行的。但是本公开的实施例不限于此，这两组操作也可以按照其他顺序来执行。例如，先执行操作S210至操作S220，再执行操作S230。或者，又例如，先执行操作S230，再执行操作S210至操作S220。
图3A是根据本公开一个实施例的数据处理方法的原理图。
如图3A所示，可以将当前训练数据集301输入当前分类模型中，得到针对当前训练数据集的当前分类模型的第三输出302。根据第三输出302，可以得到当前训练数据集301中样本的每个特征的重要度303。根据特征的重要度303和当前训练数据集301，可以得到更新后的训练数据集304。例如，可以将重要度大于当前预设重要度阈值的特征从当前训练数据集301的每个样本的特征子集中删除，以得到更新后的训练数据集304。
可以将验证数据集305输入当前分类模型中，得到针对验证数据集的当前分类模型的第一输出306。根据第一输出306，可以得到当前分类模型的第一性能值307。
在一个示例中，第一性能值307小于预设性能阈值，可以将更新后的训练数据集304作为目标训练数据集308。
图3B是根据本公开另一个实施例的数据处理方法的原理图。
可以参照例如图3A记载的针对当前训练数据集301的处理方式，得到更新后的训练数据集304，本公开在此不再赘述。
可以将验证数据集305输入当前分类模型中，得到针对验证数据集的当前分类模型的第一输出306。根据第一输出306，可以得到当前分类模型的第一性能值307’。
在一个示例中，第一性能值307’大于预设性能阈值，可以将更新后的训练数据集304作为下一周期的当前训练数据集309。
图4是根据本公开一个实施例的数据处理装置的框图。
如图4所示，该装置400可以包括第一获得模块410、第一删除模块420、第一获取模块430和第二获得模块440。
第一获得模块410，用于针对当前处理周期，根据当前训练数据集和当前分类模型，得到上述当前训练数据集中样本的每个特征的重要度，其中，上述训练数据集包括多个样本的特征子集，每个样本的特征子集包括该样本的多个特征。
第一删除模块420，用于将重要度大于等于当前预设重要度阈值的特征从上述当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集。
第一获取模块430，用于获取上述当前分类模型的第一性能值，其中，上述第一性能值用于表征上述当前分类模型对具有高重要度特征的样本进行分类的能力，上述高重要度特征为每个样本的特征子集中重要度大于等于上述当前预设重要度阈值的特征。
第二获得模块440，用于响应于上述第一性能值小于或等于预设性能阈值，将上述更新后的训练数据集作为目标训练数据集。
在一些实施例中，该装置400还包括：第一处理模块，用于响应于上述第一性能值大于上述预设性能阈值，对上述更新后的训练数据集进行下一处理周期的处理。
在一些实施例中，该装置400还包括：调整模块，用于响应于上述第一性能值大于上述预设性能阈值，调整上述当前分类模型的参数，得到更新后的分类模型；第二处理模块，用于根据更新后的分类模型进行下一处理周期的处理。
在一些实施例中，该装置400还包括：第二获取模块，用于获取上述当前分类模型的第二性能值，其中，上述第二性能值用于表征上述当前分类模型对不具有上述高重要度特征的样本进行分类的能力；上述调整模块还用于：根据上述第一性能值和上述第二性能值，调整上述当前分类模型的参数，以减小上述第一性能值与上述第二性能值之差，得到上述更新后的分类模型。
在一些实施例中，上述第一获取模块还用于：根据验证数据集和上述当前分类模型，获取上述当前分类模型的上述第一性能值，其中，上述验证数据集用于为上述当前分类模型提供多个具有高重要度特征的样本的特征子集。
在一些实施例中，通过以下单元获取上述验证数据集：获取单元，用于根据初始训练数据集，获取上述验证数据集，其中，上述初始训练数据集为第一个处理周期的当前训练数据集。
在一些实施例中，上述第二获取模块还用于：根据上述更新后的训练数据集和上述当前分类模型，获取上述当前分类模型的上述第二性能值。
在一些实施例中，上述装置400还包括：划分模块，用于对数据集进行划分，得到第一数据集和第二数据集；第一标注模块，用于为上述第一数据集中每个样本的特征子集添加第一标注，得到标注后的第一数据集；第二标注模块，用于为上述第二数据集中每个样本的特征子集添加第二标注，得到标注后的第二数据集；以及第三获得模块，用于根据上述标注后的第一数据集和上述标注后的第二数据集，得到初始训练数据集，将上述初始训练数据集作为第一个处理周期的当前训练数据集。
在一些实施例中，上述第三获得模块包括：第一获得单元，用于根据上述标注后的第一数据集和上述标注后的第二数据集，得到标注后的数据集；选择单元，用于从上述标注后的数据集中随机选择多个样本的特征子集，得到上述初始训练数据集。
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如数据处理方法。例如，在一些实施例中，数据处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的数据处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (21)

1.一种数据处理方法，包括：
针对当前处理周期，根据当前训练数据集和当前分类模型，得到所述当前训练数据集中样本的每个特征的重要度，其中，所述训练数据集包括多个样本的特征子集，每个样本的特征子集包括该样本的多个特征；
将重要度大于等于当前预设重要度阈值的特征从所述当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集；
获取所述当前分类模型的第一性能值，其中，所述第一性能值用于表征所述当前分类模型对具有高重要度特征的样本进行分类的能力，所述高重要度特征为每个样本的特征子集中重要度大于等于所述当前预设重要度阈值的特征；以及
响应于所述第一性能值小于或等于预设性能阈值，将所述更新后的训练数据集作为目标训练数据集。
2.根据权利要求1所述的方法，还包括：
响应于所述第一性能值大于所述预设性能阈值，对所述更新后的训练数据集进行下一处理周期的处理。
3.根据权利要求1或2所述的方法，还包括：
响应于所述第一性能值大于所述预设性能阈值，调整所述当前分类模型的参数，得到更新后的分类模型；
根据更新后的分类模型进行下一处理周期的处理。
4.根据权利要求3所述的方法，还包括：
获取所述当前分类模型的第二性能值，其中，所述第二性能值用于表征所述当前分类模型对不具有所述高重要度特征的样本进行分类的能力；
所述调整所述当前分类模型的参数，得到更新后的分类模型包括：
根据所述第一性能值和所述第二性能值，调整所述当前分类模型的参数，以减小所述第一性能值与所述第二性能值之差，得到所述更新后的分类模型。
5.根据权利要求1所述的方法，其中，所述获取所述当前分类模型的第一性能值包括：
根据验证数据集和所述当前分类模型，获取所述当前分类模型的所述第一性能值，其中，所述验证数据集用于为所述当前分类模型提供多个具有高重要度特征的样本的特征子集。
6.根据权利要求5所述的方法，其中，通过以下操作获取所述验证数据集：
根据初始训练数据集，获取所述验证数据集，其中，所述初始训练数据集为第一个处理周期的当前训练数据集。
7.根据权利要求4所述的方法，其中，所述获取所述当前分类模型的第二性能值包括：
根据所述更新后的训练数据集和所述当前分类模型，获取所述当前分类模型的所述第二性能值。
8.根据权利要求1至7任一项所述的方法，还包括：
对数据集进行划分，得到第一数据集和第二数据集；
为所述第一数据集中每个样本的特征子集添加第一标注，得到标注后的第一数据集；
为所述第二数据集中每个样本的特征子集添加第二标注，得到标注后的第二数据集；以及
根据所述标注后的第一数据集和所述标注后的第二数据集，得到初始训练数据集，将所述初始训练数据集作为第一个处理周期的当前训练数据集。
9.根据权利要求8所述的方法，其中，所述根据所述标注后的第一数据集和所述标注后的第二数据集，得到初始训练数据集包括：
根据所述标注后的第一数据集和所述标注后的第二数据集，得到标注后的数据集；
从所述标注后的数据集中随机选择多个样本的特征子集，得到所述初始训练数据集。
10.一种数据处理装置，包括：
第一获得模块，用于针对当前处理周期，根据当前训练数据集和当前分类模型，得到所述当前训练数据集中样本的每个特征的重要度，其中，所述训练数据集包括多个样本的特征子集，每个样本的特征子集包括该样本的多个特征；
第一删除模块，用于将重要度大于等于当前预设重要度阈值的特征从所述当前训练数据集的每个样本的特征子集中删除，得到更新后的训练数据集；
第一获取模块，用于获取所述当前分类模型的第一性能值，其中，所述第一性能值用于表征所述当前分类模型对具有高重要度特征的样本进行分类的能力，所述高重要度特征为每个样本的特征子集中重要度大于等于所述当前预设重要度阈值的特征；以及
第二获得模块，用于响应于所述第一性能值小于或等于预设性能阈值，将所述更新后的训练数据集作为目标训练数据集。
11.根据权利要求10所述的装置，还包括：
第一处理模块，用于响应于所述第一性能值大于所述预设性能阈值，对所述更新后的训练数据集进行下一处理周期的处理。
12.根据权利要求10或11所述的装置，还包括：
调整模块，用于响应于所述第一性能值大于所述预设性能阈值，调整所述当前分类模型的参数，得到更新后的分类模型；
第二处理模块，用于根据更新后的分类模型进行下一处理周期的处理。
13.根据权利要求12所述的装置，还包括：
第二获取模块，用于获取所述当前分类模型的第二性能值，其中，所述第二性能值用于表征所述当前分类模型对不具有所述高重要度特征的样本进行分类的能力；
所述调整模块还用于：
根据所述第一性能值和所述第二性能值，调整所述当前分类模型的参数，以减小所述第一性能值与所述第二性能值之差，得到所述更新后的分类模型。
14.根据权利要求10所述的装置，其中，所述第一获取模块还用于：
根据验证数据集和所述当前分类模型，获取所述当前分类模型的所述第一性能值，其中，所述验证数据集用于为所述当前分类模型提供多个具有高重要度特征的样本的特征子集。
15.根据权利要求14所述的装置，其中，通过以下单元获取所述验证数据集：
获取单元，用于根据初始训练数据集，获取所述验证数据集，其中，所述初始训练数据集为第一个处理周期的当前训练数据集。
16.根据权利要求13所述的装置，其中，所述第二获取模块还用于：
根据所述更新后的训练数据集和所述当前分类模型，获取所述当前分类模型的所述第二性能值。
17.根据权利要求10至16任一项所述的装置，还包括：
划分模块，用于对数据集进行划分，得到第一数据集和第二数据集；
第一标注模块，用于为所述第一数据集中每个样本的特征子集添加第一标注，得到标注后的第一数据集；
第二标注模块，用于为所述第二数据集中每个样本的特征子集添加第二标注，得到标注后的第二数据集；以及
第三获得模块，用于根据所述标注后的第一数据集和所述标注后的第二数据集，得到初始训练数据集，将所述初始训练数据集作为第一个处理周期的当前训练数据集。
18.根据权利要求17所述的装置，其中，所述第三获得模块包括：
第一获得单元，用于根据所述标注后的第一数据集和所述标注后的第二数据集，得到标注后的数据集；
选择单元，用于从所述标注后的数据集中随机选择多个样本的特征子集，得到所述初始训练数据集。
19.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至9中任一项所述的方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1至9中任一项所述的方法。
21.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1至9中任一项所述的方法。
CN202111291499.2A 2021-11-02 2021-11-02 数据处理方法、装置、电子设备和存储介质 Pending CN114021642A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111291499.2A CN114021642A (zh) 2021-11-02 2021-11-02 数据处理方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111291499.2A CN114021642A (zh) 2021-11-02 2021-11-02 数据处理方法、装置、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN114021642A true CN114021642A (zh) 2022-02-08

Family

ID=80059963

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111291499.2A Pending CN114021642A (zh) 2021-11-02 2021-11-02 数据处理方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN114021642A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114565030A (zh) * 2022-02-17 2022-05-31 北京百度网讯科技有限公司 特征筛选方法、装置、电子设备和存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114565030A (zh) * 2022-02-17 2022-05-31 北京百度网讯科技有限公司 特征筛选方法、装置、电子设备和存储介质
CN114565030B (zh) * 2022-02-17 2022-12-20 北京百度网讯科技有限公司 特征筛选方法、装置、电子设备和存储介质

Similar Documents

Publication Publication Date Title
CN107392259B (zh) 构建不均衡样本分类模型的方法和装置
CN115690443A (zh) 特征提取模型训练方法、图像分类方法及相关装置
CN115222444A (zh) 用于输出模型信息的方法、装置、设备、介质和产品
CN114021642A (zh) 数据处理方法、装置、电子设备和存储介质
CN113052246A (zh) 用于训练分类模型及图像分类的方法和相关装置
CN116432069A (zh) 信息处理方法、服务提供方法、装置、设备及介质
CN115563310A (zh) 一种关键业务节点的确定方法、装置、设备及介质
CN113138760B (zh) 一种页面生成方法、装置、电子设备和介质
CN115496916A (zh) 图像识别模型的训练方法、图像识别方法以及相关装置
CN114036391A (zh) 数据推送方法、装置、电子设备和存储介质
CN114138358A (zh) 应用程序的启动优化方法、装置、设备和存储介质
CN113032251A (zh) 应用程序服务质量的确定方法、设备和存储介质
CN113850072A (zh) 文本情感分析方法、情感分析模型训练方法、装置、设备及介质
CN112632384A (zh) 针对应用程序的数据处理方法、装置、电子设备和介质
CN113807391A (zh) 任务模型的训练方法、装置、电子设备及存储介质
CN113361621A (zh) 用于训练模型的方法和装置
CN113010782A (zh) 需求量获取方法、装置、电子设备以及计算机可读介质
CN110895564A (zh) 一种潜在客户数据处理方法和装置
CN113779098B (zh) 数据处理方法、装置、电子设备以及存储介质
CN113760765B (zh) 代码测试方法、装置、电子设备和存储介质
CN114547448B (zh) 数据处理、模型训练方法、装置、设备、存储介质及程序
CN113469374B (zh) 数据预测方法、装置、设备及介质
CN112949670B (zh) 用于联邦学习模型的数据集切换方法和装置
CN115758142A (zh) 深度学习模型的训练方法、数据处理方法和装置
CN115034893A (zh) 深度学习模型的训练方法、风险评估方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination