CN113342792A - 数据清洗方法、装置、存储介质及电子设备 - Google Patents

数据清洗方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN113342792A
CN113342792A CN202110659697.3A CN202110659697A CN113342792A CN 113342792 A CN113342792 A CN 113342792A CN 202110659697 A CN202110659697 A CN 202110659697A CN 113342792 A CN113342792 A CN 113342792A
Authority
CN
China
Prior art keywords
sample data
label
data
classification
prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110659697.3A
Other languages
English (en)
Inventor
储兵兵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Mobile Software Co Ltd
Beijing Xiaomi Pinecone Electronic Co Ltd
Original Assignee
Beijing Xiaomi Mobile Software Co Ltd
Beijing Xiaomi Pinecone Electronic Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Mobile Software Co Ltd, Beijing Xiaomi Pinecone Electronic Co Ltd filed Critical Beijing Xiaomi Mobile Software Co Ltd
Priority to CN202110659697.3A priority Critical patent/CN113342792A/zh
Publication of CN113342792A publication Critical patent/CN113342792A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21—Design, administration or maintenance of databases
    • G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28—Databases characterised by their database models, e.g. relational or object models
    • G06F16/284—Relational databases
    • G06F16/285—Clustering or classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Quality & Reliability (AREA)
  • Probability & Statistics with Applications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开涉及一种数据清洗方法、装置、存储介质及电子设备，该数据清洗方法通过依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组；针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，能够有效保证分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；并通过根据每个样本数据的该分类预测结果和该分类标签，对该多个样本数据进行数据清洗，能够有效提升标注错误的样本数据的识别准确率，从而能够有效减少需要重新进行人工审核标注的数据量，降低人工审核成本。

Description

数据清洗方法、装置、存储介质及电子设备
技术领域
本公开涉及数据处理领域，具体地，涉及一种数据清洗方法、装置、存储介质及电子设备。
背景技术
一般利用深度学习训练模型时，需要大量的带有标签的数据样本，而这些数据样本中的数据标签往往会存在一定的标注错误。这些标注错误会导致模型训练失败，或者在利用训练得到的模型进行分类预测时，造成预测结果错误率较高的问题。
为了提升模型的性能，保证模型预测结果的准确性，需要对数据样本的标注质量进行把控，通常可以通过对标注数据进行数据清洗，将标注错误的数据挑出，重新进行人工审核标注，从而保证数据样本的标注质量。
但是，目前的数据清洗方法会导致对标注错误的误识别率较高，导致被识别为标注错误数据的数据量较多。
发明内容
为克服相关技术中存在的问题，本公开提供一种数据清洗方法、装置、存储介质及电子设备。
根据本公开实施例的第一方面，提供一种数据清洗方法，所述方法包括：
获取待清洗的多个样本数据和每个所述样本数据被标注的分类标签；
将所述多个样本数据划分为至少三个数据集；
依次将每个所述数据集作为测试集，并由除当前测试集之外的其他数据集中的样本数据组成训练集，将所述训练集和所述测试集进行组合得到测试训练集组，其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集；
针对每个所述测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将所述测试集中的每个所述样本数据作为所述分类预测模型的输入，输出得到该样本数据对应的分类预测结果；
根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗；
将清洗后的数据作为目标分类模型的训练样本数据。
可选地，所述分类预测结果包括至少一个分类预测标签和每个所述分类预测标签对应的预测概率，所述根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗包括：
将至少一个所述分类预测标签中，预测概率最大的分类预测标签作为目标预测标签；
在根据所述目标预测标签确定所述样本数据的分类标签标注错误的情况下，根据标注错误的样本数据清洗所述多个样本数据。
可选地，通过以下方式确定所述样本数据的分类标签标注错误：
在所述目标预测标签与标注的所述分类标签不同的情况下，确定所述样本数据的分类标签标注错误。
可选地，所述确定所述样本数据的分类标签标注错误包括：
在所述目标预测标签对应的预测概率大于或者等于预设概率阈值的情况下，确定所述待清洗样本数据的分类标签标注错误。
可选地，所述待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值。
根据本公开实施例的第二方面，提供一种数据清洗装置，所述装置包括：
获取模块，被配置为获取待清洗的多个样本数据和每个所述样本数据被标注的分类标签；
划分模块，被配置为将所述多个样本数据划分为至少三个数据集；
生成模块，被配置为依次将每个所述数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将所述训练集和所述测试集进行组合得到测试训练集组，其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集；
预测模块，被配置为针对每个所述测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将所述测试集中的每个所述样本数据作为所述分类预测模型的输入，输出得到该样本数据对应的分类预测结果；
清洗模块，被配置为根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗；
确定模块，被配置为将清洗后的数据作为目标分类模型的训练样本数据。
可选地，所述分类预测结果包括至少一个分类预测标签和每个所述分类预测标签对应的预测概率，所述清洗模块被配置为：
将至少一个所述分类预测标签中，预测概率最大的分类预测标签作为目标预测标签；
在根据所述目标预测标签确定所述样本数据的分类标签标注错误的情况下，根据标注错误的样本数据清洗所述多个样本数据。
可选地，通过以下方式确定所述样本数据的分类标签标注错误：
在所述目标预测标签与标注的所述分类标签不同的情况下，确定所述样本数据的分类标签标注错误。
可选地，所述清洗模块被配置为：
在所述目标预测标签对应的预测概率大于或者等于预设概率阈值的情况下，确定所述待清洗样本数据的分类标签标注错误。
可选地，所述待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值。
根据本公开实施例的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现以上第一方面所述方法的步骤。
根据本公开实施例的第四方面，提供一种电子设备，包括：
存储器，其上存储有计算机程序；
处理器，用于执行所述存储器中的所述计算机程序，以实现以上第一方面所述方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果：通过依次将每个所述数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组；针对每个所述测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，能够有效保证分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；并通过根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗，能够有效提升标注错误的识别准确率，降低误识别率，减少被误识别为标注错误的样本数据的数据量，从而减少需要重新进行人工审核标注的数据量。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
附图是用来提供对本公开的进一步理解，并且构成说明书的一部分，与下面的具体实施方式一起用于解释本公开，但并不构成对本公开的限制。在附图中：
图1是本公开一示例性实施例示出的一种数据清洗方法的流程图；
图2是本公开另一示例性实施例示出的一种数据清洗方法的流程图；
图3是本公开另一示例性实施例示出的一种数据清洗装置的框图；
图4是根据一示例性实施例示出的一种用于数据清洗的装置的框图；
图5是根据一示例性实施例示出的一种用于数据清洗的装置的框图。
具体实施方式
以下结合附图对本公开的具体实施方式进行详细说明。应当理解的是，此处所描述的具体实施方式仅用于说明和解释本公开，并不用于限制本公开。
在详细介绍本公开的具体实施方式之前，首先对本公开的应用场景进行以下说明，本公开可以应用于挑出深度学习的训练样本中标注错误的样本数据的场景中，尤其可以应用于分类预测模型的训练样本的数据清洗过程中，该训练样本中通常包括了带有标签的样本数据，该标签标注的正确与否会影响模型训练的结果，因此需要对该训练样本中的标注的样本数据进行数据清洗，以保证训练样本的标注质量，从而提升模型训练效率，保证训练得到模型的模型性能，提升模型预测结果的准确性。
在对训练样本进行标注数据清洗时，一般可以先对待清洗的多个样本数据进行划分得到多个数据集，并将多个数据集中的一个数据集作为训练集，除作为该训练集的一个数据集外的其他多个数据集作为测试集进行模型训练，得到分类预测模型，并根据该分类预测模型确定该训练样本中标注错误的样本数据，但是，发明人发现，相关技术中在训练该分类预测模型时，是将大多数样本数据作为测试集中的数据，而将少部分样本数据作为训练集中的数据，这样会导致训练该分类预测模型所用到的样本数据的数据量较少，从而会造成该分类预测模型对标注错误的样本数据的识别准确率较低的问题，进而造成需要重新进行人工审核标注的数据量较大，导致人工审核成本较高。
为了解决上述技术问题，本公开提供一种数据清洗方法、装置、存储介质及电子设备，该数据清洗方法通过依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组；针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，能够有效保证分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；并通过根据每个样本数据的该分类预测结果和该分类标签，对该多个样本数据进行数据清洗，这样，由于训练集中的数据量多于测试集中的数据量，因此能够将更多的样本数据用于分类预测模型的训练，使得训练得到的分类预测模型的预测准确性更高，从而有效提升标注错误的识别准确率，减少被误识别为标注错误的样本数据的数据量，从而减少需要重新进行人工审核标注的数据量。
下面结合具体的实施例对本公开进行说明。
图1是本公开一示例性实施例示出的一种数据清洗方法的流程图；参见图1，该方法可以包括以下步骤：
在步骤101中，获取待清洗的多个样本数据和每个该样本数据被标注的分类标签。
在步骤102中，将该多个样本数据划分为至少三个数据集。
其中，该数据集的数量远小于待清洗的样本数据的数量。
在步骤103中，依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组。
其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集，每个该测试训练集组中该测试集中样本数据的数量远小于该训练集中样本数据的数量，即该待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值，例如，该预设差值阈值可以大于500，1000，10000等。以上示例中的具体数据仅用于示例性说明每个该测试训练集组中该测试集中样本数据的数量远小于该训练集中样本数据的数量，并不用于限定具体的保护范围。
在步骤104中，针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将该测试集中的每个该样本数据作为该分类预测模型的输入，输出得到该样本数据对应的分类预测结果。
其中，该分类预测结果可以包括至少一个分类预测标签和每个该分类预测标签对应的预测概率。
在步骤105中，根据每个样本数据的该分类预测结果和该分类标签，对该多个样本数据进行数据清洗。
本步骤中，可以将至少一个该分类预测标签中，预测概率最大的分类预测标签作为目标预测标签；在根据该目标预测标签确定该样本数据的分类标签标注错误的情况下，根据标注错误的样本数据清洗该多个样本数据。
其中，可以通过以下方式确定该样本数据的分类标签标注错误：
方式一，在该目标预测标签与标注的该分类标签不同的情况下，确定该样本数据的分类标签标注错误。
方式二，在该目标预测标签与标注的该分类标签不同的情况下，若该目标预测标签对应的预测概率大于或者等于预设概率阈值的情况，则确定该待清洗样本数据的分类标签标注错误。
需要说明的是，之所以可以通过该目标预测标签对应的预测概率与预设概率阈值的比较结果来提升标注错误的识别率，主要是因为：在存在多种标注的可能性的情况下，经过分类预测模型预测后得到的分类预测结果中的目标预测标签的概率会相对较低，而在只存在一种标注可能的情况下，经过分类预测模型预测后得到的分类预测结果中的目标预测标签的概率会相对较高。这样，在该目标预测标签与标注的该分类标签不同的情况下，将该目标预测标签对应的预测概率大于或者等于预设概率阈值的样本数据确定为存在标注错误的样本数据，而将该目标预测标签对应的预测概率小于预设概率阈值的样本数据确定为无需重新进行人工审核的样本数据，能够更加准确的确定标注错误的样本数据，从而能够减少需要重新进行人工审核的数据量，有利于提升数据清洗效率。
另外，根据标注错误的样本数据清洗该多个样本数据的实施方式：可以是将标注错误的样本数据存储在预设存储单元，以便于标注人员通过访问该预设存储单元重新进行人工审核；也可以是将该标注错误的样本数据通过预设方式进行个性化地突出显示，例如，该预设方式可以是将标注错误的样本数据通过预设颜色突显，也可以是将该标注错误的样本数据预设形状的线条勾勒突显，以便于工作人员进行人工审核。
在步骤106中，将清洗后的数据作为目标分类模型的训练样本数据。
其中，该目标分类预测模型可以是现有技术中的任一分类模型，例如对水果进行分类的神经网络模型，对图像进行分类的神经网络模型，对数字进行分类识别的分类模型等，现有技术中的分类模型较多，本公开再次不再一一列举。
以上技术方案，通过依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组；针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，能够有效保证分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；并通过根据每个样本数据的该分类预测结果和该分类标签，对该多个样本数据进行数据清洗，能够有效提升标注错误的识别准确率，降低误识别率，从而能够有效减少需要重新进行人工审核标注的数据量。
图2是本公开另一示例性实施例示出的一种数据清洗方法的流程图；参见图2，该方法可以包括以下步骤：
在步骤201中，获取待清洗的多个样本数据和每个该样本数据被标注的分类标签。
示例地，在对训练水果分类预测模型时，需要用到的训练样本包括N个样本数据(例如，每个样本数据可以包括水果的以下信息：外部颜色，内部颜色，外部形状，味道等)，M个类别(西瓜，橙子，香蕉等，其中0<M＜＜N)，在对该N个样本数据完成标注(即对每个样本数据标注分类标签)之后，得到该待清洗的多个样本数据和每个该样本数据被标注的分类标签。例如表1所示：
Figure BDA0003113613110000091
表1
在步骤202中，将该多个样本数据划分为至少三个数据集。
其中，该数据集的数量远小于待清洗的样本数据的数量，这样不仅能够保证每个数据集中的样本数据的数据量不会过少，还能够保证形成较少数量的测试训练集组，由于不同的测试训练集组对应的分类预测模型不同，因此该数据集的数量越少，需要训练的分类预测模型的数量越少，这样能够实现用较少数量的分类预测模型完成对样本数据的清洗，有助于提升数据清洗效率。
示例地，该数据集的数量为K(其中，K为自然数，且2<K＜＜N，可选地，5≤K≤10)，将该N个样本数据等分为K个数据集，其中，在N/K为整数的情况下，每个数据集中包括N/K个样本数据；在N/K为非整数的情况下，获取N/K的整数商和余数，将该整数商确定为第一数量，将该余数确定为第二数量，使该K个数据集中的K-1个数据集包括该第一数量个样本数据，另一个数据集包括第二数量个样本数据。
在步骤203中，依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将所述训练集和所述测试集进行组合得到测试训练集组。
其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集，每个该测试训练集组中该测试集中样本数据的数量远小于该训练集中样本数据的数量，即该待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值，例如，该预设差值阈值可以大于500，1000，10000等，以上示例中的具体数据仅用于示例性说明每个该测试训练集组中该测试集中样本数据的数量远小于该训练集中样本数据的数量，并不用于限定具体的保护范围。
示例地，如表2所示，S1至SK代表K个数据集，若将S1确定为测试集，则S2…SK确定为训练集，若将Sn确定为测试集，则S1…Sn-1,Sn+1,…,SK确定为训练集，若将SK确定为测试集，则S1…Sn-1,Sn，Sn+1,…,SK-1确定为训练集。
Figure BDA0003113613110000101
Figure BDA0003113613110000111
表2
这样，能够有效保证训练级中的样本数据的数量足够大，从而能够有效保证通过该训练集中的样本数据进行模型训练，得到的分类预测模型的模型性能，保证分类预测模型输出的分类预测结果的准确性。
在步骤204中，针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将该测试集中的每个该样本数据作为该分类预测模型的输入，输出得到该样本数据对应的分类预测结果。
其中，该分类预测结果可以包括至少一个分类预测标签和每个该分类预测标签对应的预测概率，该预设算法模型可以是LSTM(Long Short-Term Memory，长短期记忆网络)，TextCNN(Text Convolutional Neural Networks文本卷积神经网络)，BERT(Bidirectional Encoder Representation from Transformers，双向传递网络)等。
本步骤一种可能的实施方式中，该分类预测结果只包括一个预测概率最大的分类预测标签和该分类预测标签对应的预测概率。
另一种可能的实施方式中，该分类预测结果包括M个分类预测标签和每个分类预测标签对应的预测概率，其中M个分类预测标签对应的预测概率之和为1，该M为大于1的自然数。
在步骤205中，将至少一个该分类预测标签中，预测概率最大的分类预测标签作为目标预测标签。
本步骤中，在该分类预测结果包括M个分类预测标签和每个分类预测标签对应的预测概率的情况下，将M个分类预测标签中预测概率最大的作为该目标预测标签，该M为大于1的自然数。
另外，在该分类预测结果只包括一个预测概率最大的分类预测标签和该分类预测标签对应的预测概率的情况下，直接将该预测概率最大的分类预测标签确定为目标预测标签。
在步骤206中，确定该目标预测标签与标注的该分类标签是否相同。
示例地，若该目标预测标签为苹果，而该标注的该分类标签为柚子，则确定该分类标签不同。
本步骤中，在确定该目标预测标签与标注的该分类标签不同，则执行步骤207，在确定该目标预测标签与标注的该分类标签相同，则执行步骤210。
在步骤207中，确定该目标预测标签对应的预测概率是否大于或者等于预设概率阈值。
其中，在该目标预测标签与标注的该分类标签不同的情况下，将该目标预测标签对应的预测概率大于或者等于预设概率阈值的样本数据确定为存在标注错误的样本数据，而将该目标预测标签对应的预测概率小于预设概率阈值的样本数据确定为无需重新进行人工审核的样本数据，这样，在本实施例中，在该目标预测标签与标注的该分类标签不同的情况下，进一步通过该目标预测标签对应的预测概率和预设概率阈值确定标注错误的样本数据，能够更加准确的确定标注错误的样本数据，从而能够减少需要重新进行人工审核的数据量，有利于提升数据清洗效率。
之所以可以通过该目标预测标签对应的预测概率与预设概率阈值的比较结果来提升标注错误的识别率，主要是因为：在存在多种标注的可能性的情况下，经过分类预测模型预测后得到的分类预测结果中的目标预测标签的概率会相对较低，而在只存在一种标注可能的情况下，经过分类预测模型预测后得到的分类预测结果中的目标预测标签的概率会相对较高。
示例地，在标注过程中，有部分样本数据将球状，橙色皮，橙色瓤，味酸甜的样本数据标注为橘子，也有部分样本数据将其标注为橙子，在通过包括这两部分的样本数据进行模型训练得到的分类预测模型，对该样本数据将球状，橙色皮，橙色瓤，味酸甜进行预测时，得到的分类预测结果可能为橘子60％，橙子30％，柚子5％，苹果3％，香蕉2％，此时得到的目标预测标签为橘子，相应的预测概率为60％，若该测试集中，对该样本数据标注的分类标签为橙子，此时，若直接因为该目标预测标签与标注的分类标签不同就确定该标注错误明显是不合理的，因此，为了降低错误标注数据的误识别率，若将该预设概率阈值设置为65％，则由于该橘子60％小于该65％，可以不将该测试集中的该样本数据(球状，橙色皮，橙色瓤，味酸甜)确定为标注错误的样本数据，这样，能够将训练数据中明显存在错误的样本数据挑出，而将对像橘子和橙子这样存在多种标注可能的样本数据确定为非标注错误的样本数据，从而能够有效挑出存在明显的标注错误的样本数据，减少需要重新进行人工审核的数据量。
本步骤中，在该目标预测标签对应的预测概率大于或者等于预设概率阈值的情况下，执行步骤208至步骤209；在该目标预测标签对应的预测概率小于预设概率阈值的情况下，执行步骤210。
在步骤208中，确定该待清洗样本数据的分类标签标注错误。
在步骤209中，根据标注错误的样本数据清洗该多个样本数据。
本步骤中，一种实施方式为：可以是将标注错误的样本数据存储在预设存储单元，以便于标注人员通过访问该预设存储单元重新进行人工审核。
另一种实施方式为：将该标注错误的样本数据通过预设方式进行个性化地突出显示，以便于工作人员进行人工审核。
在步骤210中，确定该待清洗样本数据的分类标签标注正确。
以上技术方案，不仅能够有效保证训练得到的分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；也能够有效提升标注错误的识别准确率，降低误识别率，从而能够有效减少需要重新进行人工审核标注的数据量，降低人工审核成本。
图3是本公开另一示例性实施例示出的一种数据清洗装置的框图；参见图3，该装置可以包括：
获取模块301，被配置为获取待清洗的多个样本数据和每个该样本数据被标注的分类标签；
划分模块302，被配置为将该多个样本数据划分为至少三个数据集；
生成模块303，被配置为依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组，其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集；
预测模块304，被配置为针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将该测试集中的每个该样本数据作为该分类预测模型的输入，输出得到该样本数据对应的分类预测结果；
清洗模块305，被配置为根据每个样本数据的该分类预测结果和该分类标签，对该多个样本数据进行数据清洗；
确定模块306，被配置为将清洗后的数据作为目标分类模型的训练样本数据。
以上技术方案，通过生成模块303依次将每个该数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将该训练集和该测试集进行组合得到测试训练集组；通过预测模块304针对每个该测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型能够有效保证分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；并通过清洗模块305，根据每个样本数据的该分类预测结果和该分类标签，对该多个样本数据进行数据清洗，能够有效提升标注错误的识别准确率，降低误识别率，从而能够有效减少需要重新进行人工审核标注的数据量，降低人工审核成本。
可选地，该分类预测结果包括至少一个分类预测标签和每个该分类预测标签对应的预测概率，该清洗模块305被配置为：
将至少一个所述分类预测标签中，预测概率最大的分类预测标签作为目标预测标签；
在根据该目标预测标签确定该样本数据的分类标签标注错误的情况下，根据标注错误的样本数据清洗该多个样本数据。
可选地，通过以下方式确定该样本数据的分类标签标注错误：
在该目标预测标签与标注的该分类标签不同的情况下，确定该样本数据的分类标签标注错误。
可选地，该清洗模块305被配置为：
在该目标预测标签对应的预测概率大于或者等于预设概率阈值的情况下，确定该待清洗样本数据的分类标签标注错误。
可选地，该待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值，即每个该测试训练集组中该测试集中样本数据的数量远小于该训练集中样本数据的数量。
以上技术方案，不仅能够有效保证训练得到的分类预测模型的性能，提升分类预测模型输出分类预测结果的准确性；也能够有效提升标注错误的识别准确率，降低误识别率，从而能够有效减少需要重新进行人工审核标注的数据量，降低人工审核成本。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现本公开提供的数据清洗方法的步骤。
图4是根据一示例性实施例示出的一种用于数据清洗的装置400的框图。例如，装置400可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图4，装置400可以包括以下一个或多个组件：处理组件402，存储器404，电力组件406，多媒体组件408，音频组件410，输入/输出(I/O)的接口412，传感器组件414，以及通信组件416。
处理组件402通常控制装置400的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件402可以包括一个或多个处理器420来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件402可以包括一个或多个模块，便于处理组件402和其他组件之间的交互。例如，处理组件402可以包括多媒体模块，以方便多媒体组件408和处理组件402之间的交互。
存储器404被配置为存储各种类型的数据以支持在装置400的操作。这些数据的示例包括用于在装置400上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器404可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电力组件406为装置400的各种组件提供电力。电力组件406可以包括电源管理系统，一个或多个电源，及其他与为装置400生成、管理和分配电力相关联的组件。
多媒体组件408包括在该装置400和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。该触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与该触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件408包括一个前置摄像头和/或后置摄像头。当装置400处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件410被配置为输出和/或输入音频信号。例如，音频组件410包括一个麦克风(MIC)，当装置400处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器404或经由通信组件416发送。在一些实施例中，音频组件410还包括一个扬声器，用于输出音频信号。
I/O接口412为处理组件402和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件414包括一个或多个传感器，用于为装置400提供各个方面的状态评估。例如，传感器组件414可以检测到装置400的打开/关闭状态，组件的相对定位，例如该组件为装置400的显示器和小键盘，传感器组件414还可以检测装置400或装置400一个组件的位置改变，用户与装置400接触的存在或不存在，装置400方位或加速/减速和装置400的温度变化。传感器组件414可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件414还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件414还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件416被配置为便于装置400和其他设备之间有线或无线方式的通信。装置400可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件416经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，该通信组件416还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置400可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器404，上述指令可由装置400的处理器420执行以完成上述方法。例如，该非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图5是根据一示例性实施例示出的一种用于数据清洗的装置500的框图。例如，装置500可以被提供为一服务器。参照图5，装置500包括处理组件522，其进一步包括一个或多个处理器，以及由存储器532所代表的存储器资源，用于存储可由处理组件522的执行的指令，例如应用程序。存储器532中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件522被配置为执行指令，以执行上述数据清洗方法。
装置500还可以包括一个电源组件526被配置为执行装置500的电源管理，一个有线或无线网络接口550被配置为将装置500连接到网络，和一个输入输出(I/O)接口558。装置500可以操作基于存储在存储器532的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践本公开后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (12)

1.一种数据清洗方法，其特征在于，所述方法包括：
获取待清洗的多个样本数据和每个所述样本数据被标注的分类标签；
将所述多个样本数据等分为至少三个数据集；
依次将每个所述数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将所述训练集和所述测试集进行组合得到测试训练集组，其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集；
针对每个所述测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将所述测试集中的每个所述样本数据作为所述分类预测模型的输入，输出得到该样本数据对应的分类预测结果；
根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗；
将清洗后的数据作为目标分类模型的训练样本数据。
2.根据权利要求1所述的方法，其特征在于，所述分类预测结果包括至少一个分类预测标签和每个所述分类预测标签对应的预测概率，相应地，所述根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗包括：
将至少一个所述分类预测标签中，预测概率最大的分类预测标签作为目标预测标签；
在根据所述目标预测标签确定所述样本数据的分类标签标注错误的情况下，根据标注错误的样本数据清洗所述多个样本数据。
3.根据权利要求2所述的方法，其特征在于，通过以下方式确定所述样本数据的分类标签标注错误：
在所述目标预测标签与标注的所述分类标签不同的情况下，确定所述样本数据的分类标签标注错误。
4.根据权利要求3所述的方法，其特征在于，所述确定所述样本数据的分类标签标注错误包括：
在所述目标预测标签对应的预测概率大于或者等于预设概率阈值的情况下，确定所述待清洗样本数据的分类标签标注错误。
5.根据权利要求1至4任一项所述的方法，其特征在于，所述待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值。
6.一种数据清洗装置，其特征在于，所述装置包括：
获取模块，被配置为获取待清洗的多个样本数据和每个所述样本数据被标注的分类标签；
划分模块，被配置为将所述多个样本数据划分为至少三个数据集；
生成模块，被配置为依次将每个所述数据集作为测试集，并由除当前测试集之外的数据集中的样本数据组成训练集，将所述训练集和所述测试集进行组合得到测试训练集组，其中，不同的测试训练集组包括不同的测试集和该测试集对应的训练集；
预测模块，被配置为针对每个所述测试训练集组，通过该测试训练集组中的训练集对预设算法模型进行训练，得到该测试训练集组对应的分类预测模型，并依次将所述测试集中的每个所述样本数据作为所述分类预测模型的输入，输出得到该样本数据对应的分类预测结果；
清洗模块，被配置为根据每个样本数据的所述分类预测结果和所述分类标签，对所述多个样本数据进行数据清洗；
确定模块，被配置为将清洗后的数据作为目标分类模型的训练样本数据。
7.根据权利要求6所述的装置，其特征在于，所述分类预测结果包括至少一个分类预测标签和每个所述分类预测标签对应的预测概率，所述清洗模块被配置为：
将至少一个所述分类预测标签中，预测概率最大的分类预测标签作为目标预测标签；
在根据所述目标预测标签确定所述样本数据的分类标签标注错误的情况下，根据标注错误的样本数据清洗所述多个样本数据。
8.根据权利要求7所述的装置，其特征在于，通过以下方式确定所述样本数据的分类标签标注错误：
在所述目标预测标签与标注的所述分类标签不同的情况下，确定所述样本数据的分类标签标注错误。
9.根据权利要求8所述的装置，其特征在于，所述清洗模块被配置为：
在所述目标预测标签对应的预测概率大于或者等于预设概率阈值的情况下，确定所述待清洗样本数据的分类标签标注错误。
10.根据权利要求6至9任一项所述的装置，其特征在于，所述待清洗的样本数据的数量与所述数据集的数量的差值大于或者等于预设差值阈值。
11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1-5中任一项所述方法的步骤。
12.一种电子设备，其特征在于，包括：
存储器，其上存储有计算机程序；
处理器，用于执行所述存储器中的所述计算机程序，以实现权利要求1-5中任一项所述方法的步骤。
CN202110659697.3A 2021-06-11 2021-06-11 数据清洗方法、装置、存储介质及电子设备 Pending CN113342792A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110659697.3A CN113342792A (zh) 2021-06-11 2021-06-11 数据清洗方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110659697.3A CN113342792A (zh) 2021-06-11 2021-06-11 数据清洗方法、装置、存储介质及电子设备

Publications (1)

Publication Number Publication Date
CN113342792A true CN113342792A (zh) 2021-09-03

Family

ID=77476999

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110659697.3A Pending CN113342792A (zh) 2021-06-11 2021-06-11 数据清洗方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN113342792A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113868240A (zh) * 2021-11-30 2021-12-31 深圳佑驾创新科技有限公司 数据清洗方法及计算机可读储存介质
CN114090819A (zh) * 2021-10-27 2022-02-25 广东电力信息科技有限公司 一种基于神经网络的声纹数据清洗方法
CN114428887A (zh) * 2021-12-30 2022-05-03 北京百度网讯科技有限公司 点击数据去噪方法、装置、电子设备及存储介质
CN114462531A (zh) * 2022-01-30 2022-05-10 支付宝(杭州)信息技术有限公司 一种模型训练方法、装置及电子设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114090819A (zh) * 2021-10-27 2022-02-25 广东电力信息科技有限公司 一种基于神经网络的声纹数据清洗方法
CN113868240A (zh) * 2021-11-30 2021-12-31 深圳佑驾创新科技有限公司 数据清洗方法及计算机可读储存介质
CN114428887A (zh) * 2021-12-30 2022-05-03 北京百度网讯科技有限公司 点击数据去噪方法、装置、电子设备及存储介质
CN114428887B (zh) * 2021-12-30 2024-06-21 北京百度网讯科技有限公司 点击数据去噪方法、装置、电子设备及存储介质
CN114462531A (zh) * 2022-01-30 2022-05-10 支付宝(杭州)信息技术有限公司 一种模型训练方法、装置及电子设备

Similar Documents

Publication Publication Date Title
CN113342792A (zh) 数据清洗方法、装置、存储介质及电子设备
US11048983B2 (en) Method, terminal, and computer storage medium for image classification
CN109446961B (zh) 姿势检测方法、装置、设备及存储介质
CN111539443A (zh) 一种图像识别模型训练方法及装置、存储介质
CN110781813B (zh) 图像识别方法及装置、电子设备和存储介质
CN107784279B (zh) 目标跟踪方法及装置
CN110874145A (zh) 一种输入方法、装置及电子设备
CN110941966A (zh) 机器翻译模型的训练方法、装置及系统
EP3767488A1 (en) Method and device for processing untagged data, and storage medium
CN110175223A (zh) 一种实现问题生成的方法及装置
CN114240882A (zh) 缺陷检测方法及装置、电子设备和存储介质
US20210326649A1 (en) Configuration method and apparatus for detector, storage medium
CN112115894A (zh) 手部关键点检测模型的训练方法、装置及电子设备
CN111160047A (zh) 一种数据处理方法、装置和用于数据处理的装置
CN110738267B (zh) 图像分类方法、装置、电子设备及存储介质
CN111797262A (zh) 诗词生成方法、装置、电子设备和存储介质
CN113609380B (zh) 标签体系更新方法、搜索方法、装置以及电子设备
CN113920293A (zh) 信息识别方法、装置、电子设备及存储介质
CN111428806B (zh) 图像标签确定方法、装置、电子设备及存储介质
CN111723606A (zh) 一种数据处理方法、装置和用于数据处理的装置
CN111797746B (zh) 人脸识别方法、装置及计算机可读存储介质
CN110634570A (zh) 一种诊断仿真方法及相关装置
CN111079421B (zh) 一种文本信息分词处理的方法、装置、终端及存储介质
CN112328809A (zh) 实体分类方法、装置及计算机可读存储介质
CN107832691A (zh) 微表情识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination