CN111046262A - 一种数据标注方法、装置及计算机存储介质 - Google Patents

一种数据标注方法、装置及计算机存储介质 Download PDF

Info

Publication number
CN111046262A
CN111046262A CN201911304609.7A CN201911304609A CN111046262A CN 111046262 A CN111046262 A CN 111046262A CN 201911304609 A CN201911304609 A CN 201911304609A CN 111046262 A CN111046262 A CN 111046262A
Authority
CN
China
Prior art keywords
data set
target
target data
automatic labeling
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911304609.7A
Other languages
English (en)
Inventor
许陈成
刘桥
周建宇
谢民主
冯建兴
姜涛
江瑞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN201911304609.7A priority Critical patent/CN111046262A/zh
Publication of CN111046262A publication Critical patent/CN111046262A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/906—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种数据标注方法、装置及计算机存储介质，其中，数据标注方法包括步骤：确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。本申请能够是实现数据集的自动标注。

Description

一种数据标注方法、装置及计算机存储介质
技术领域
本申请涉及大数据处理技术领域，尤其涉及一种数据标注方法、装置及计算机存储介质。
背景技术
机器学习是一种自动分析并构建模型的数据分析方法。其中，监督学习是机器学习任务中最重要、应用最广泛的一种，它要求系统从数据中学习，识别模式并在最少的人工干预下做出决策，即从带标签的样本数据中学习输入映射到输出的函数。在有监督学习中，数据集是基础，数据集的大小、标签质量直接决定着监督学习算法模型的效果。
近年来，大数据成为一个高速发展的领域，大量数据被廉价且众多的信息感应物联网设备(例如移动设备)、软件日志、照相机、麦克风、射频识别(RFID)阅读器和无线传感器网络、互联网获取，但都是没有打标签的新数据。有监督学习作为数据驱动的方法，在大数据背景下，通常不问原因，而只是检测模式，这要求研究者必须制作更多大型带标签的数据集以供模型算法训练。这些数据集具有各种格式，例如数值、文本、图像或视频。与此同时，当前数据集打标签方式主要是纯人工打标签，效率低速度慢成本高，赶不上大数据背景下新数据的生成速度。在此情况下，研究人员在制作带标签数据集过程中给数据打标签的工作量和难度迅速增加，但打标签效率得不到提高，严重影响使用数据集进行监督学习的研究进度。如何提高打标签的效率和质量，保证监督学习顺利进行是亟待解决的问题。
发明内容
本申请实施例所要解决的技术问题在于实现数据自动标注。
本申请第一方面提供一种数据标注方法，所述方法包括：
确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；
根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；
将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。
在一些可选的实施方式中，所述方法还包括：
获取至少一个训练样本；
将所述训练样本导入至少两个预选自动标注模型中，以使得每个所述预选自动标注模型针对所述训练样本生成训练结果，所述训练结果包括至少一个评估指标；
根据所述评估指标从所述至少两个预选自动标注模型筛选出指标值最高的预选自动标注模型，并将所指标值最高的预选自动标注模型标记为所述目标自动标注模型。
在一些可选的实施方式中，在将预处理后的目标数据集导入目标自动标注模型中之前，所述方法还包括：
根据所述目标数据的集的信息确定所述目标自动标注模型中的数据接口；
在一些可选的实施方式中，根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果，包括：
根据所述目标数据集的属性信息依次对所述目标数据集进行数据筛选、数据归一化、数据分类处理，并生成预处理结果。
本申请的数据标注方法通过确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型中，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
本申请第二方面提供一种数据标注装置，所述装置包括：
第一确定模块，用于确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；
预处理模块，用于根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；
第一导入模块，用于将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。
本申请的数据标注装置通过确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型中，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
在一些可选的实施方式中，所述装置还包括：
获取模块，用于获取至少一个训练样本；
第二导入模块，用于将所述训练样本导入至少两个预选自动标注模型中，以使得每个所述预选自动标注模型针对所述训练样本生成训练结果，所述训练结果包括至少一个评估指标；
筛选模块，用于根据所述评估指标从所述至少两个预选自动标注模型筛选出指标值最高的预选自动标注模型，并将所指标值最高的预选自动标注模型标记为所述目标自动标注模型。
在一些可选的实施方式中，所述装置还包括：
第二确定模块，用于根据所述目标数据的集的信息确定所述目标自动标注模型中的数据接口。
在一些可选的实施方式中，所述预处理模块包括数据筛选子模块、数据归一化子模块、数据分类处理子模块、生成子模块中的至少一项。
本申请第三方面提供一种数据标注装置，所述装置包括：
存储有可执行程序代码的存储器；
与所述存储器耦合的处理器；
所述处理器调用所述存储器中存储的所述可执行程序代码，执行本申请第一方面所述的数据标注方法。
本申请的数据标注装置通过确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型中，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
本申请第四方面提供一种计算机可读存储介质，所述计算机可读存储介质中包括数据标注程序，所述数据标注程序被处理器执行时，执行本申请第一方面所述的数据标注方法
本申请的计算机可读存储介质通过执行确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型这些步骤，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例一公开的数据标注方法的流程示意图；
图2是本申请实施例二公开的数据标注装置的流程示意图；
图3是本申请实施例三公开的数据标注装置的流程示意图。
具体实施方式
为了更好地理解和实施，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
实施例一
请参阅图1，图1是本申请实施例公开的一种数据标注方法的流程示意图。如图1所示，该数据标注方法包括步骤：
101、确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；
102、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；
103、将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。
在一些可选的实施方式中，所述方法还包括：
获取至少一个训练样本；
将所述训练样本导入至少两个预选自动标注模型中，以使得每个所述预选自动标注模型针对所述训练样本生成训练结果，所述训练结果包括至少一个评估指标；
根据所述评估指标从所述至少两个预选自动标注模型筛选出指标值最高的预选自动标注模型，并将所指标值最高的预选自动标注模型标记为所述目标自动标注模型。
在一些可选的实施方式中，在将预处理后的目标数据集导入目标自动标注模型中之前，所述方法还包括：
根据所述目标数据的集的信息确定所述目标自动标注模型中的数据接口；
在一些可选的实施方式中，根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果，包括：
根据所述目标数据集的属性信息依次对所述目标数据集进行数据筛选、数据归一化、数据分类处理，并生成预处理结果。
本申请的数据标注方法通过确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型中，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
实施例二
请参阅图2，图2是本申请实施例公开的一种数据标注装置的结构示意图。如图2所示，该数据标注装置包括：
第一确定模块201，用于确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；
预处理模块202，用于根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；
第一导入模块203，用于将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。
本申请的数据标注装置通过确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型中，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
在一些可选的实施方式中，所述装置还包括：
获取模块，用于获取至少一个训练样本；
第二导入模块，用于将所述训练样本导入至少两个预选自动标注模型中，以使得每个所述预选自动标注模型针对所述训练样本生成训练结果，所述训练结果包括至少一个评估指标；
筛选模块，用于根据所述评估指标从所述至少两个预选自动标注模型筛选出指标值最高的预选自动标注模型，并将所指标值最高的预选自动标注模型标记为所述目标自动标注模型。
在一些可选的实施方式中，所述装置还包括：
第二确定模块，用于根据所述目标数据的集的信息确定所述目标自动标注模型中的数据接口。
在一些可选的实施方式中，所述预处理模块包括数据筛选子模块、数据归一化子模块、数据分类处理子模块、生成子模块中的至少一项。
实施例三
请参阅图3，图3是本申请实施例公开的一种数据标注装置的结构示意图。如图3所示，该数据标注装置包括：
存储有可执行程序代码的存储器301；
与所述存储器耦合的处理器302；
所述处理器303调用所述存储器中存储的所述可执行程序代码，执行本申请实施例一所述的数据标注方法。
本申请的数据标注装置通过确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型中，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
实施例四
本申请第四方面提供一种计算机可读存储介质，所述计算机可读存储介质中包括数据标注程序，所述数据标注程序被处理器执行时，执行本申请实施例一所述的数据标注方法
本申请的计算机可读存储介质通过执行确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型这些步骤，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
实施例五
本申请实施例公开了一种计算机程序产品，该计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，且该计算机程序可操作来使计算机执行本申请实施例一所述的数据标注方法的步骤。
本申请的计算机程序产品通过执行确定目标数据集的属性信息、根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果、将预处理后的目标数据集导入目标自动标注模型这些步骤，进而能够利用所述目标自动标注模型实现所述目标数据集的自动标注。
以上所描述的装置实施例仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施例的具体描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory，ROM)、随机存储器(Random Access Memory，RAM)、可编程只读存储器(Programmable Read-only Memory，PROM)、可擦除可编程只读存储器(ErasableProgrammable Read Only Memory，EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory，OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory，EEPROM)、只读光盘(CompactDisc Read-Only Memory，CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。

Claims (10)

1.一种数据标注方法，其特征在于，所述方法包括：
确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；
根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；
将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。
2.如权利要求1所述的方法，其特征在于，所述方法还包括：
获取至少一个训练样本；
将所述训练样本导入至少两个预选自动标注模型中，以使得每个所述预选自动标注模型针对所述训练样本生成训练结果，所述训练结果包括至少一个评估指标；
根据所述评估指标从所述至少两个预选自动标注模型筛选出指标值最高的预选自动标注模型，并将所指标值最高的预选自动标注模型标记为所述目标自动标注模型。
3.如权利要求1所述的方法，其特征在于，在将预处理后的目标数据集导入目标自动标注模型中之前，所述方法还包括：
根据所述目标数据的集的信息确定所述目标自动标注模型中的数据接口。
4.如权利要求1所述的方法，其特征在于，根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果，包括：
根据所述目标数据集的属性信息依次对所述目标数据集进行数据筛选、数据归一化、数据分类处理，并生成预处理结果。
5.一种数据标注装置，其特征在于，所述装置包括：
第一确定模块，用于确定目标数据集的属性信息，所述属性信息包括所述目标数据集的容量信息、数据格式信息、数据源信息、数据标签信息中的至少一项；
预处理模块，用于根据所述目标数据集的属性信息、预设处理规则处理所述目标数据集并生成预处理结果；
第一导入模块，用于将预处理后的目标数据集导入目标自动标注模型中，以通过所述目标自动标注模型完成所述目标数据集的标注。
6.如权利要求5所述的装置，其特征在于，所述装置还包括：
获取模块，用于获取至少一个训练样本；
第二导入模块，用于将所述训练样本导入至少两个预选自动标注模型中，以使得每个所述预选自动标注模型针对所述训练样本生成训练结果，所述训练结果包括至少一个评估指标；
筛选模块，用于根据所述评估指标从所述至少两个预选自动标注模型筛选出指标值最高的预选自动标注模型，并将所指标值最高的预选自动标注模型标记为所述目标自动标注模型。
7.如权利要求5所述的装置，其特征在于，所述装置还包括：
第二确定模块，用于根据所述目标数据的集的信息确定所述目标自动标注模型中的数据接口。
8.如权利要求5所述的装置，其特征在于：所述预处理模块包括数据筛选子模块、数据归一化子模块、数据分类处理子模块、生成子模块中的至少一项。
9.一种数据标注装置，其特征在于，所述装置包括：
存储有可执行程序代码的存储器；
与所述存储器耦合的处理器；
所述处理器调用所述存储器中存储的所述可执行程序代码，执行如权利要求1-4任一项所述的数据标注方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中包括数据标注程序，所述数据标注程序被处理器执行时，执行如权利要求1-4任一项所述的数据标注方法。
CN201911304609.7A 2019-12-17 2019-12-17 一种数据标注方法、装置及计算机存储介质 Pending CN111046262A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911304609.7A CN111046262A (zh) 2019-12-17 2019-12-17 一种数据标注方法、装置及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911304609.7A CN111046262A (zh) 2019-12-17 2019-12-17 一种数据标注方法、装置及计算机存储介质

Publications (1)

Publication Number Publication Date
CN111046262A true CN111046262A (zh) 2020-04-21

Family

ID=70237544

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911304609.7A Pending CN111046262A (zh) 2019-12-17 2019-12-17 一种数据标注方法、装置及计算机存储介质

Country Status (1)

Country Link
CN (1) CN111046262A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931809A (zh) * 2020-06-29 2020-11-13 北京大米科技有限公司 数据的处理方法、装置、存储介质及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509969A (zh) * 2017-09-06 2018-09-07 腾讯科技（深圳）有限公司 数据标注方法及终端
CN108897834A (zh) * 2018-06-22 2018-11-27 招商信诺人寿保险有限公司 数据处理与挖掘方法
US20190073447A1 (en) * 2017-09-06 2019-03-07 International Business Machines Corporation Iterative semi-automatic annotation for workload reduction in medical image labeling
CN109992763A (zh) * 2017-12-29 2019-07-09 北京京东尚科信息技术有限公司 语言标注处理方法、系统、电子设备及计算机可读介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509969A (zh) * 2017-09-06 2018-09-07 腾讯科技（深圳）有限公司 数据标注方法及终端
US20190073447A1 (en) * 2017-09-06 2019-03-07 International Business Machines Corporation Iterative semi-automatic annotation for workload reduction in medical image labeling
CN109992763A (zh) * 2017-12-29 2019-07-09 北京京东尚科信息技术有限公司 语言标注处理方法、系统、电子设备及计算机可读介质
CN108897834A (zh) * 2018-06-22 2018-11-27 招商信诺人寿保险有限公司 数据处理与挖掘方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931809A (zh) * 2020-06-29 2020-11-13 北京大米科技有限公司 数据的处理方法、装置、存储介质及电子设备

Similar Documents

Publication Publication Date Title
US11495264B2 (en) Method and system of clipping a video, computing device, and computer storage medium
EP3358476A1 (en) Method and apparatus for constructing decision model, computer device and storage device
CN109886928A (zh) 一种目标细胞标记方法、装置、存储介质及终端设备
CN111680753A (zh) 一种数据标注方法、装置、电子设备及存储介质
CN111079638A (zh) 基于卷积神经网络的目标检测模型训练方法、设备和介质
CN112200218B (zh) 一种模型训练方法、装置及电子设备
CN113052295B (zh) 一种神经网络的训练方法、物体检测方法、装置及设备
CN110610698B (zh) 一种语音标注方法及装置
CN114494168A (zh) 模型确定、图像识别与工业质检方法、设备及存储介质
CN110796210A (zh) 一种标签信息的识别方法及装置
CN110852103A (zh) 一种命名实体识别方法及装置
CN110851597A (zh) 一种基于同类实体替换的语句标注的方法及装置
CN110991437A (zh) 字符识别方法及其装置、字符识别模型的训练方法及其装置
CN113780116A (zh) 发票分类方法、装置、计算机设备和存储介质
CN114359533A (zh) 一种基于页面文本的页码识别方法和计算机设备
CN111046262A (zh) 一种数据标注方法、装置及计算机存储介质
CN110275820A (zh) 页面兼容性测试方法、系统及设备
CN112613367A (zh) 票据信息文本框获取方法、系统、设备及存储介质
CN111274812B (zh) 一种人物关系识别方法、设备及存储介质
CN115734072A (zh) 一种工业自动化设备的物联网集中监控方法及装置
CN114443878A (zh) 图像分类方法、装置、设备及存储介质
CN113971726A (zh) 基于工业设备标签的字符识别方法、系统及存储介质
CN113887441B (zh) 一种表格数据处理方法、装置、设备及存储介质
CN112131418A (zh) 目标标注方法、目标标注装置和计算机可读存储介质
CN113449728B (zh) 一种文字识别方法及其相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200421

RJ01 Rejection of invention patent application after publication