CN113504897A - 基于模型训练的数据标注方法、装置、电子设备及存储介质 - Google Patents

基于模型训练的数据标注方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113504897A
CN113504897A CN202110570267.4A CN202110570267A CN113504897A CN 113504897 A CN113504897 A CN 113504897A CN 202110570267 A CN202110570267 A CN 202110570267A CN 113504897 A CN113504897 A CN 113504897A
Authority
CN
China
Prior art keywords
information
field
labeling
marking
sample data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110570267.4A
Other languages
English (en)
Inventor
郭宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Bank Co Ltd
Original Assignee
Ping An Bank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Bank Co Ltd filed Critical Ping An Bank Co Ltd
Priority to CN202110570267.4A priority Critical patent/CN113504897A/zh
Publication of CN113504897A publication Critical patent/CN113504897A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/30—Creation or generation of source code
    • G06F8/31—Programming languages or programming paradigms
    • G06F8/315—Object-oriented languages
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/242—Query formulation
    • G06F16/2428—Query predicate definition using graphical user interfaces, including menus and forms
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/242—Query formulation
    • G06F16/2433—Query languages
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/30—Creation or generation of source code
    • G06F8/38—Creation or generation of source code for implementing user interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/70—Software maintenance or management
    • G06F8/71—Version control; Configuration management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/70—Software maintenance or management
    • G06F8/73—Program documentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Library & Information Science (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Security & Cryptography (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及数据处理技术领域，揭露了一种基于模型训练的数据标注方法，包括：获取样本数据，并识别样本数据中每个字段是否具有标注信息；若样本数据中每个字段都具有标注信息，则获取每个字段对应的标注信息；若样本数据中存在不具有标注信息的字段，则将不具有标注信息的字段进行打标，得到字段的标注信息；利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新标注信息的信任度，得到标注信息的更新信任度；选取更新信任度大于预设阈值的标注信息，得到目标标注信息。此外，本发明还涉及区块链技术，所述目标标注信息可存储于区块链中。另外，本发明还提供了一种基于模型训练的数据标注装置、电子设备及存储介质。本发明可以提高基于模型训练的数据标注的质量。

Description

基于模型训练的数据标注方法、装置、电子设备及存储介质
技术领域
本发明涉及数据处理技术领域，尤其涉及一种基于模型训练的数据标注方法、装置、电子设备及计算机可读存储介质。
背景技术
在训练机器学习和深度学习模型过程中需要大量经过仔细标注的数据，以便将其应用于部署、训练和调整模型，因此，可以理解的是基于模型训练的数据标注是多数人工智能模型训练应用的基础，它决定了机器学习和深度学习模型的质量。目前，通常采用众包标注的方法实现基于模型训练的数据标注，但在面对像身份证等敏感数据的标注，采用众包标注的方法容易缺失或遗漏标注信息，使得基于模型训练的数据标注的监控力度不高，从而导致标注的信息可信度不高，进而影响基于模型训练的数据标注的质量。
发明内容
本发明提供一种基于模型训练的数据标注方法、装置、电子设备及计算机可读存储介质，其主要目的在于提高基于模型训练的数据标注的质量。
为实现上述目的，本发明提供的一种基于模型训练的数据标注方法，包括：
获取样本数据，并识别所述样本数据中每个字段是否具有标注信息；
若所述样本数据中每个字段都具有标注信息，则获取每个所述字段对应的标注信息；
若样本数据中存在不具有标注信息的字段，则将所述不具有标注信息的字段进行打标，得到所述字段的标注信息；
利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度；
选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
可选地，所述识别所述样本数据中每个字段是否具有标注信息，包括：
通过遍历操作获取所述样本数据中的所有字段，利用查询语句查询所述字段是否存在标注记录；
若存在标注记录，则识别所述字段具有标注信息；
若不存在标注记录，则识别所述字段不具有标注信息。
可选地，所述将不具有标注信息的字段进行打标，得到所述字段的标注信息，包括：
获取所述不具有标注信息的字段的位置序列；
根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件；
在所述信息配置文件中加载所述不具有标注信息的字段的字段信息，得到所述字段的标注信息。
可选地，所述根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件包括：
根据所述位置序列，标记所述不具有标注信息的字段的信息插桩点；
将所述信息插桩点进行封装，形成所述信息配置文件。
可选地，所述利用至少两个预构建的信息测试模型对所述标注信息进行测试之前，还包括：
响应于信息测试请求，获取信息测试类别；根据所述信息测试类别，创建至少两个信息测试界面；
在所述信息测试界面加载信息测试工具，生成所述至少两个信息测试模型。
可选地，所述利用至少两个预构建的信息测试模型对所述标注信息进行测试，包括：
在所述信息测试模型中的信息测试界面创建对象接收脚本，利用所述对象接收脚本接收所述标注信息；
利用所述信息测试模型中的信息测试工具对接收的所述标注信息进行测试，得到所述标注信息的测试结果。
可选地，所述根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，包括：
获取所述标注信息的初始信任度，识别所述测试结果是否一致；
若所述测试结果一致，则对所述初始信任度进行增操作，得到所述标注信息的更新信任度；
若所述测试结果不一致，识别出所述测试结果是否均不一致，若所述测试结果均不一致，则对所述初始信任度进行减操作，得到所述标注信息的更新信任度，若所述测试结果存在部分一致，则将所述初始信任度作为所述标注信息的更新信任度。
为了解决上述问题，本发明还提供一种基于模型训练的数据标注装置，所述装置包括：
信息识别成模块，用于获取样本数据，并识别所述样本数据中每个字段是否具有标注信息；
信息获取模块，用于在所述样本数据中每个字段都具有标注信息时，获取每个所述字段对应的标注信息；
字段打标模块，用于在所述样本数据中存在字段不具有标注信息时，将所述不具有标注信息的字段进行打标，得到所述字段的标注信息；
信任度更新模块，用于利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度；
信息选取模块，用于选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以实现上述所述的基于模型训练的数据标注方法。
为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个计算机程序，所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的基于模型训练的数据标注方法。
本发明实施例首先识别所述样本数据中每个字段是否具有标注信息，并在所述样本数据中每个字段都具有标注信息时，直接获取每个所述字段对应的标注信息，在所述样本数据中存在字段不具有标注信息时，将不具有标注信息的字段进行打标，得到所述字段的标注信息，可以确保所述样本数据中每个字段的标注信息都已被标记，从而可以避免所述样本数据中每个字段的标注信息丢失的现象；其次，本发明实施例利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，可以实现所述标注信息的多模型测试，从而判断出标注信息的标注可靠度，进而确保标注信息的生成质量。
附图说明
图1为本发明一实施例提供的基于模型训练的数据标注方法的流程示意图；
图2为本发明第一实施例中图1提供的基于模型训练的数据标注方法其中一个步骤的详细流程示意图；
图3为本发明一实施例提供的基于模型训练的数据标注装置的模块示意图；
图4为本发明一实施例提供的实现基于模型训练的数据标注方法的电子设备的内部结构示意图；
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本申请实施例提供一种基于模型训练的数据标注方法。所述基于模型训练的数据标注方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述基于模型训练的数据标注方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示，为本发明一实施例提供的基于模型训练的数据标注方法的流程示意图。在本发明实施例中，所述基于模型训练的数据标注方法包括：
S1、获取样本数据，并识别所述样本数据中每个字段是否具有标注信息。
本发明实施例中，所述样本数据是指用于模型训练的数据，基于不同模型的训练场景生成，例如在图像分类场景中，所述样本数据包括不同类型的图片，如身份证图片、发票图片以及电子承兑图片等。进一步地，所述标注信息是指用于表征样本数据中字段的特征数据，如所述样本数据为身份证，则对应的标注信息包括出生年月日、归属地以及性别等，详细地，所述身份证中第1、2位字段表示所在省份的代码，第7～14位字段表示出生年、月、日，第17位数字段表示性别(奇数表示男性，偶数表示女性)。
本发明的其中一个实施例，所述识别所述样本数据中每个字段是否具有标注信息，包括：通过遍历操作获取所述样本数据中的所有字段，利用查询语句查询所述字段是否存在标注记录，若存在标注记录，则识别所述字段具有标注信息，若不存在标注记录，则识别所述字段不具有标注信息。
一个可选实施例中，所述查询语句包括SQL语句，如select语句，所述标注记录包括人工标注记录、离线标注记录以及历史标注记录，其中，所述人工标注记录是指预先通过人工在所述样本数据的字段进行信息标注的数据，所述离线标注记录是指预先通过信息标注工具在所述样本数据的字段进行信息标注的数据，所述信息标注工具可以通过Java语言进行编译，所述历史标注记录是指所述样本数据的字段已经存在的标注数据。
S2、若所述样本数据中每个字段都具有标注信息，则获取每个所述字段对应的标注信息。
应该了解，在所述样本数据中每个字段都具有标注信息时，表示所述样本数据中的字段均以存在对应的标签信息，因此本发明实施例通过查询每个所述字段的标注记录，以获取所述字段对应的标注信息。其中，所述标签信息用于表征所述样本数据中字段对应的字段类别，如性别、种族以及年龄等。
S3、若样本数据中存在不具有标注信息的字段，则将所述不具有标注信息的字段进行打标，得到所述字段的标注信息。
应该了解，在所述样本数据中存在不具有标注信息的字段时，表示所述样本数据中存在字段不具有标签信息，因此本发明实施例通将不具有标注信息的字段进行打标，以确保所述样本数据中每个字段都具有标注信息，从而使得所述样本数据可以作为模型训练数据。
本发明的其中一个实施例，参阅图2所示，所述将不具有标注信息的字段进行打标，得到所述字段的标注信息，包括：
S20、获取所述不具有标注信息的字段的位置序列；
S21、根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件；
S22、在所述信息配置文件中加载所述不具有标注信息的字段的字段信息，得到所述字段的标注信息。
其中，所述位置序列是指所述字段在对应样本数据中的位置信息，基于所述位置序列，可以查询所述样本数据中每个字段的位置信息，以避免所述样本数据中出现相同字段导致标注信息模糊不清的现象，从而提高后续样本数据的标签生成质量。
一个可选实施例中，所述根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件包括：根据所述位置序列，标记所述不具有标注信息的字段的信息插桩点，将所述信息插桩点进行封装，形成所述信息配置文件。其中，所述信息插桩点是指后续标注信息需要加载的位置，所述信息插桩点的封装是指对所述信息插桩点及对应的字段进行打包，可选的，所述信息插桩点的封装通过Java语言编译。
一个可选实施例中，所述字段信息的加载通过加载函数实现，如load()函数，所述字段信息基于不同业务场景生成，比如身份证识别场景中，所述字段信息包括：年龄、性别以及出生地等。
S4、利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度。
本发明实施例中，所述预构建的信息测试模型包括概念验证模型(Proof ofconcept，简称POC)，所述概念验证模型是指对某些想法的一个不完整的实现，以证明其可行性，示范其原理，其目的是为了验证一些概念或理论。在本发明实施例中，所述信息测试模型用于对所述样本数据中每个字段的标注信息进行信任度验证，以获取所述样本数据中每个字段的标注信息的可靠度，从而保障后续样本数据的标签信息生成质量。进一步地，本发明实施例中利用至少两个以上的信息测试模型执行所述标注信息的校验，以根据每个信息测试模型返回的测试结果是否一致，判断所述标注信息的信任度，从而可以进一步提高所述标注信息的可靠度。
本发明实施例中，在利用至少两个预构建的信息测试模型对所述标注信息进行测试之前，还包括：响应于信息测试请求，获取信息测试类别，根据所述信息测试类别，创建至少两个信息测试界面，在所述信息测试界面加载信息测试工具，生成所述至少两个信息测试模型。其中，所述信息测试界面通过软件开发包生成，其包括按钮、图表以及菜单等，所述信息测试工具基于不同信息测试界面加载，如所述信息测试界面依赖3D测试，则在所述信息测试界面中加载3D测试工具，所述信息测试界面依赖就示数据符号和表格测试，则在所述信息测试界面中加载数据符号和表格测试。
进一步地，所述利用至少两个预构建的信息测试模型对所述标注信息进行测试，包括：在所述信息测试模型中的信息测试界面创建对象接收脚本，利用所述对象接收脚本接收所述标注信息；利用所述信息测试模型中的信息测试工具对接收的所述标注信息进行测试，得到所述标注信息的测试结果。
其中，所述测试结果包括每个所述信息测试模型的测试结果一致、每个所述信息测试模型的测试结果均不一致以及部分所述信息测试模型的测试结果一致。例如，存在A、B、C三个信息测试模型，则所述标注信息在所述A、B、C三个信息测试模型的测试结果包括：所述A、B、C三个信息测试模型的测试结果均为X、所述A、B、C三个信息测试模型的测试结果分别为X、Y、Z以及所述A、B信息测试模型的测试结果为X且C信息测试模型的测试结果为Y。
进一步地，所述根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，包括：获取所述标注信息的初始信任度，识别所述测试结果是否一致，若所述测试结果一致，则对所述初始信任度进行增操作，得到所述标注信息的更新信任度，若所述测试结果不一致，识别出所述测试结果是否均不一致，若所述测试结果均不一致，则对所述初始信任度进行减操作，得到所述标注信息的更新信任度，若所述测试结果存在部分一致，则将所述初始信任度作为所述标注信息的更新信任度。
其中，所述初始信任度的数值范围基于用户需求设置(用户A设置初始信任度的数值范围：0-10)，所述初始信任度基于所述标注信息的来源确定，例如，若所述标注信息的来源为人工标记，则可以设置所述标注信息等级最高，数值为10，若所述标注信息的来源为历史标记，则可以设置所述标注信息等级次于人工标记的等级，数值为8，若所述标注信息的来源为打标标记，则可以设置所述标注信息等级最低，数值为6。需要说明的是，若所述标注信息存在多个标记来源，按照所述标注信息的标记来源等级进行信任度确定。
进一步地，所述初始信任度的增减操作根据不同业务场景设置，如所述初始信任度的数值增减操作均可以设置为1。
S5、选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
本发明实施例通过选取所述更新信任度大于预设阈值的标注信息作为所述样本数据中对应字段的目标标注信息，其中，所述预设阈值不小于所述标注信息对应初始信任度的数值范围中的最大数值，如所述初始标注信息的初始信任度的数值范围为0-10，则设置所述预设阈值的数值不小于10。
进一步地，为保障所述目标标注信息的隐私性和安全性，所述目标标注信息还可存储于一区块链节点中。
本发明实施例首先识别所述样本数据中每个字段是否具有标注信息，并在所述样本数据中每个字段都具有标注信息时，直接获取每个所述字段对应的标注信息，在所述样本数据中存在字段不具有标注信息时，将不具有标注信息的字段进行打标，得到所述字段的标注信息，可以确保所述样本数据中每个字段的标注信息都已被标记，从而可以避免所述样本数据中每个字段的标注信息丢失的现象；其次，本发明实施例利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，可以实现所述标注信息的多模型测试，从而判断出标注信息的标注可靠度，进而确保标注信息的生成质量。
如图3所示，是本发明基于模型训练的数据标注装置的功能模块图。
本发明所述基于模型训练的数据标注装置100可以安装于电子设备中。根据实现的功能，所述基于模型训练的数据标注装置可以包括信息识别模块101、信息获取模块102、字段打标模块103、信任度更新模块104以及信息选取模块105。本发所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
所述信息识别成模块101，用于获取样本数据，并识别所述样本数据中每个字段是否具有标注信息。
本发明实施例中，所述样本数据是指用于模型训练的数据，基于不同模型的训练场景生成，例如在图像分类场景中，所述样本数据包括不同类型的图片，如身份证图片、发票图片以及电子承兑图片等。进一步地，所述标注信息是指用于表征样本数据中字段的特征数据，如所述样本数据为身份证，则对应的标注信息包括出生年月日、归属地以及性别等，详细地，所述身份证中第1、2位字段表示所在省份的代码，第7～14位字段表示出生年、月、日，第17位数字段表示性别(奇数表示男性，偶数表示女性)。
本发明的其中一个实施例，所述识别所述样本数据中每个字段是否具有标注信息，所述信息识别成模块101采用下述方式执行：通过遍历操作获取所述样本数据中的所有字段，利用查询语句查询所述字段是否存在标注记录，若存在标注记录，则识别所述字段具有标注信息，若不存在标注记录，则识别所述字段不具有标注信息。
一个可选实施例中，所述查询语句包括SQL语句，如select语句，所述标注记录包括人工标注记录、离线标注记录以及历史标注记录，其中，所述人工标注记录是指预先通过人工在所述样本数据的字段进行信息标注的数据，所述离线标注记录是指预先通过信息标注工具在所述样本数据的字段进行信息标注的数据，所述信息标注工具可以通过Java语言进行编译，所述历史标注记录是指所述样本数据的字段已经存在的标注数据。
所述信息获取模块102，用于在所述样本数据中每个字段都具有标注信息时，获取每个所述字段对应的标注信息。
应该了解，在所述样本数据中每个字段都具有标注信息时，表示所述样本数据中的字段均以存在对应的标签信息，因此本发明实施例通过查询每个所述字段的标注记录，以获取所述字段对应的标注信息。其中，所述标签信息用于表征所述样本数据中字段对应的字段类别，如性别、种族以及年龄等。
所述字段打标模块103，用于在所述样本数据中存在字段不具有标注信息时，将所述不具有标注信息的字段进行打标，得到所述字段的标注信息。
应该了解，在所述样本数据中存在不具有标注信息的字段时，表示所述样本数据中存在字段不具有标签信息，因此本发明实施例通将不具有标注信息的字段进行打标，以确保所述样本数据中每个字段都具有标注信息，从而使得所述样本数据可以作为模型训练数据。
本发明的其中一个实施例，所述将不具有标注信息的字段进行打标，得到所述字段的标注信息，所述字段打标模块103采用下述方式执行：
步骤I、获取所述不具有标注信息的字段的位置序列；
步骤II、根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件；
步骤III、在所述信息配置文件中加载所述不具有标注信息的字段的字段信息，得到所述字段的标注信息。
其中，所述位置序列是指所述字段在对应样本数据中的位置信息，基于所述位置序列，可以查询所述样本数据中每个字段的位置信息，以避免所述样本数据中出现相同字段导致标注信息模糊不清的现象，从而提高后续样本数据的标签生成质量。
一个可选实施例中，所述根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件，所述字段打标模块103采用下述方式执行：根据所述位置序列，标记所述不具有标注信息的字段的信息插桩点，将所述信息插桩点进行封装，形成所述信息配置文件。其中，所述信息插桩点是指后续标注信息需要加载的位置，所述信息插桩点的封装是指对所述信息插桩点及对应的字段进行打包，可选的，所述信息插桩点的封装通过Java语言编译。
一个可选实施例中，所述字段信息的加载通过加载函数实现，如load()函数，所述字段信息基于不同业务场景生成，比如身份证识别场景中，所述字段信息包括：年龄、性别以及出生地等。
所述信任度更新模块104，用于利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度。
本发明实施例中，所述预构建的信息测试模型包括概念验证模型(Proof ofconcept，简称POC)，所述概念验证模型是指对某些想法的一个不完整的实现，以证明其可行性，示范其原理，其目的是为了验证一些概念或理论。在本发明实施例中，所述信息测试模型用于对所述样本数据中每个字段的标注信息进行信任度验证，以获取所述样本数据中每个字段的标注信息的可靠度，从而保障后续样本数据的标签信息生成质量。进一步地，本发明实施例中利用至少两个以上的信息测试模型执行所述标注信息的校验，以根据每个信息测试模型返回的测试结果是否一致，判断所述标注信息的信任度，从而可以进一步提高所述标注信息的可靠度。
本发明实施例中，在利用至少两个预构建的信息测试模型对所述标注信息进行测试之前，所述信任度更新模块104还包括：响应于信息测试请求，获取信息测试类别，根据所述信息测试类别，创建至少两个信息测试界面，在所述信息测试界面加载信息测试工具，生成所述至少两个信息测试模型。其中，所述信息测试界面通过软件开发包生成，其包括按钮、图表以及菜单等，所述信息测试工具基于不同信息测试界面加载，如所述信息测试界面依赖3D测试，则在所述信息测试界面中加载3D测试工具，所述信息测试界面依赖就示数据符号和表格测试，则在所述信息测试界面中加载数据符号和表格测试。
进一步地，所述利用至少两个预构建的信息测试模型对所述标注信息进行测试，所述信任度更新模块104采用下述方式执行：在所述信息测试模型中的信息测试界面创建对象接收脚本，利用所述对象接收脚本接收所述标注信息；利用所述信息测试模型中的信息测试工具对接收的所述标注信息进行测试，得到所述标注信息的测试结果。
其中，所述测试结果包括每个所述信息测试模型的测试结果一致、每个所述信息测试模型的测试结果均不一致以及部分所述信息测试模型的测试结果一致。例如，存在A、B、C三个信息测试模型，则所述标注信息在所述A、B、C三个信息测试模型的测试结果包括：所述A、B、C三个信息测试模型的测试结果均为X、所述A、B、C三个信息测试模型的测试结果分别为X、Y、Z以及所述A、B信息测试模型的测试结果为X且C信息测试模型的测试结果为Y。
进一步地，所述根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，述信任度更新模块104采用下述方式执行：获取所述标注信息的初始信任度，识别所述测试结果是否一致，若所述测试结果一致，则对所述初始信任度进行增操作，得到所述标注信息的更新信任度，若所述测试结果不一致，识别出所述测试结果是否均不一致，若所述测试结果均不一致，则对所述初始信任度进行减操作，得到所述标注信息的更新信任度，若所述测试结果存在部分一致，则将所述初始信任度作为所述标注信息的更新信任度。
其中，所述初始信任度的数值范围基于用户需求设置(用户A设置初始信任度的数值范围：0-10)，所述初始信任度基于所述标注信息的来源确定，例如，若所述标注信息的来源为人工标记，则可以设置所述标注信息等级最高，数值为10，若所述标注信息的来源为历史标记，则可以设置所述标注信息等级次于人工标记的等级，数值为8，若所述标注信息的来源为打标标记，则可以设置所述标注信息等级最低，数值为6。需要说明的是，若所述标注信息存在多个标记来源，按照所述标注信息的标记来源等级进行信任度确定。
进一步地，所述初始信任度的增减操作根据不同业务场景设置，如所述初始信任度的数值增减操作均可以设置为1。
所述信息选取模块105，用于选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
本发明实施例通过选取所述更新信任度大于预设阈值的标注信息作为所述样本数据中对应字段的目标标注信息，其中，所述预设阈值不小于所述标注信息对应初始信任度的数值范围中的最大数值，如所述初始标注信息的初始信任度的数值范围为0-10，则设置所述预设阈值的数值不小于10。
进一步地，为保障所述目标标注信息的隐私性和安全性，所述目标标注信息还可存储于一区块链节点中。
本发明实施例首先识别所述样本数据中每个字段是否具有标注信息，并在所述样本数据中每个字段都具有标注信息时，直接获取每个所述字段对应的标注信息，在所述样本数据中存在字段不具有标注信息时，将不具有标注信息的字段进行打标，得到所述字段的标注信息，可以确保所述样本数据中每个字段的标注信息都已被标记，从而可以避免所述样本数据中每个字段的标注信息丢失的现象；其次，本发明实施例利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，可以实现所述标注信息的多模型测试，从而判断出标注信息的标注可靠度，进而确保标注信息的生成质量。
如图4所示，是本发明实现基于模型训练的数据标注方法的电子设备的结构示意图。
所述电子设备可以包括处理器10、存储器11、通信总线12以及通信接口13，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如基于模型训练的数据标注程序。
其中，所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(ControlUnit)，利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行基于模型训练的数据标注程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备的各种功能和处理数据。
所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元，例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备，例如电子设备上配备的插接式移动硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(Secure Digital，SD)卡、闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据，例如基于模型训练的数据标注程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线12可以是外设部件互连标准(peripheral componentinterconnect，简称PCI)总线或扩展工业标准结构(extended industry standardarchitecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
所述通信接口13用于上述电子设备与其他设备之间的通信，包括网络接口和用户接口。可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
图4仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图4示出的结构并不构成对所述电子设备的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备中的所述存储器11存储的基于模型训练的数据标注程序是多个计算机程序的组合，在所述处理器10中运行时，可以实现：
获取样本数据，并识别所述样本数据中每个字段是否具有标注信息；
若所述样本数据中每个字段都具有标注信息，则获取每个所述字段对应的标注信息；
若样本数据中存在不具有标注信息的字段，则将所述不具有标注信息的字段进行打标，得到所述字段的标注信息；
利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度；
选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
具体地，所述处理器10对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
进一步地，所述电子设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的，也可以是非易失性的。例如，所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
本发明还提供一种计算机可读存储介质，所述可读存储介质存储有计算机程序，所述计算机程序在被电子设备的处理器所执行时，可以实现：
获取样本数据，并识别所述样本数据中每个字段是否具有标注信息；
若所述样本数据中每个字段都具有标注信息，则获取每个所述字段对应的标注信息；
若样本数据中存在不具有标注信息的字段，则将所述不具有标注信息的字段进行打标，得到所述字段的标注信息；
利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度；
选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种基于模型训练的数据标注方法，其特征在于，所述方法包括：
获取样本数据，并识别所述样本数据中每个字段是否具有标注信息；
若所述样本数据中每个字段都具有标注信息，则获取每个所述字段对应的标注信息；
若所述样本数据中存在不具有标注信息的字段，则将所述不具有标注信息的字段进行打标，得到所述字段的标注信息；
利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度；
选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
2.如权利要求1所述的基于模型训练的数据标注方法，其特征在于，所述识别所述样本数据中每个字段是否具有标注信息，包括：
通过遍历操作获取所述样本数据中的所有字段，利用查询语句查询所述字段是否存在标注记录；
若存在标注记录，则识别所述字段具有标注信息；
若不存在标注记录，则识别所述字段不具有标注信息。
3.如权利要求1所述的基于模型训练的数据标注方法，其特征在于，所述将不具有标注信息的字段进行打标，得到所述字段的标注信息，包括：
获取所述不具有标注信息的字段的位置序列；
根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件；
在所述信息配置文件中加载所述不具有标注信息的字段的字段信息，得到所述字段的标注信息。
4.如权利要求3所述的基于模型训练的数据标注方法，其特征在于，所述根据所述位置序列，对所述不具有标注信息的字段构造信息配置文件包括：
根据所述位置序列，标记所述不具有标注信息的字段的信息插桩点；
将所述信息插桩点进行封装，形成所述信息配置文件。
5.如权利要求1所述的基于模型训练的数据标注方法，其特征在于，所述利用至少两个预构建的信息测试模型对所述标注信息进行测试之前，还包括：
响应于信息测试请求，获取信息测试类别；
根据所述信息测试类别，创建至少两个信息测试界面；
在所述信息测试界面加载信息测试工具，生成所述至少两个信息测试模型。
6.如权利要求5所述的基于模型训练的数据标注方法，其特征在于，所述利用至少两个预构建的信息测试模型对所述标注信息进行测试，包括：
在所述信息测试模型中的信息测试界面创建对象接收脚本，利用所述对象接收脚本接收所述标注信息；
利用所述信息测试模型中的信息测试工具对接收的所述标注信息进行测试，得到所述标注信息的测试结果。
7.如权利要求1至6中任意一项所述的基于模型训练的数据标注方法，其特征在于，所述根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度，包括：
获取所述标注信息的初始信任度，识别所述测试结果是否一致；
若所述测试结果一致，则对所述初始信任度进行增操作，得到所述标注信息的更新信任度；
若所述测试结果不一致，识别出所述测试结果是否均不一致，若所述测试结果均不一致，则对所述初始信任度进行减操作，得到所述标注信息的更新信任度，若所述测试结果存在部分一致，则将所述初始信任度作为所述标注信息的更新信任度。
8.一种基于模型训练的数据标注装置，其特征在于，所述装置包括：
信息识别成模块，用于获取样本数据，并识别所述样本数据中每个字段是否具有标注信息；
信息获取模块，用于在所述样本数据中每个字段都具有标注信息时，获取每个所述字段对应的标注信息；
字段打标模块，用于在所述样本数据中存在字段不具有标注信息时，将所述不具有标注信息的字段进行打标，得到所述字段的标注信息；
信任度更新模块，用于利用至少两个预构建的信息测试模型对所述标注信息进行测试，根据测试结果，更新所述标注信息的信任度，得到所述标注信息的更新信任度；
信息选取模块，用于选取所述更新信任度大于预设阈值的标注信息，得到目标标注信息。
9.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的基于模型训练的数据标注方法。
10.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的基于模型训练的数据标注方法。
CN202110570267.4A 2021-05-25 2021-05-25 基于模型训练的数据标注方法、装置、电子设备及存储介质 Pending CN113504897A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110570267.4A CN113504897A (zh) 2021-05-25 2021-05-25 基于模型训练的数据标注方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110570267.4A CN113504897A (zh) 2021-05-25 2021-05-25 基于模型训练的数据标注方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN113504897A true CN113504897A (zh) 2021-10-15

Family

ID=78008608

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110570267.4A Pending CN113504897A (zh) 2021-05-25 2021-05-25 基于模型训练的数据标注方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113504897A (zh)

Similar Documents

Publication Publication Date Title
CN112699775A (zh) 基于深度学习的证件识别方法、装置、设备及存储介质
CN112396005A (zh) 生物特征图像识别方法、装置、电子设备及可读存储介质
CN112418798A (zh) 信息审核方法、装置、电子设备及存储介质
CN113704614A (zh) 基于用户画像的页面生成方法、装置、设备及介质
CN114881616A (zh) 业务流程执行方法、装置、电子设备及存储介质
CN112508145A (zh) 电子印章生成及验证方法、装置、电子设备及存储介质
CN114979120A (zh) 数据上传方法、装置、设备及存储介质
CN114708461A (zh) 基于多模态学习模型的分类方法、装置、设备及存储介质
CN112668575A (zh) 关键信息提取方法、装置、电子设备及存储介质
CN114386509A (zh) 数据融合方法、装置、电子设备及存储介质
CN114187489A (zh) 车辆异常驾驶风险检测方法、装置、电子设备及存储介质
CN113434542A (zh) 数据关系识别方法、装置、电子设备及存储介质
CN116756710B (zh) 基于特征标记追踪技术的开源治理方法、系统及电子设备
CN113240351A (zh) 业务数据一致性检查方法、装置、电子设备及介质
CN113850836B (zh) 基于行为轨迹的员工行为识别方法、装置、设备及介质
CN115033605A (zh) 数据查询方法、装置、电子设备及存储介质
CN113504897A (zh) 基于模型训练的数据标注方法、装置、电子设备及存储介质
CN115346095A (zh) 视觉问答方法、装置、设备及存储介质
CN115203364A (zh) 软件故障反馈处理方法、装置、设备及可读存储介质
CN112686759A (zh) 对账监测方法、装置、设备及介质
CN114461531A (zh) 测试用例的平台适应性测试方法、装置、设备及存储介质
CN114120347A (zh) 表单校验方法、装置、电子设备及存储介质
CN113254446A (zh) 数据融合方法、装置、电子设备及介质
CN112631589A (zh) 应用程序首页布局配置方法、装置、电子设备及存储介质
CN114357534B (zh) 基于区块链的课室实训平台构建方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination