CN112805725A - 数据处理方法及装置、计算机可读存储介质 - Google Patents

数据处理方法及装置、计算机可读存储介质 Download PDF

Info

Publication number
CN112805725A
CN112805725A CN202080005484.2A CN202080005484A CN112805725A CN 112805725 A CN112805725 A CN 112805725A CN 202080005484 A CN202080005484 A CN 202080005484A CN 112805725 A CN112805725 A CN 112805725A
Authority
CN
China
Prior art keywords
data set
training
training model
model
data processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080005484.2A
Other languages
English (en)
Inventor
薛冰
徐升
张永耿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Vlan Intelligent Technology Co ltd
Original Assignee
Shenzhen Vlan Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Vlan Intelligent Technology Co ltd filed Critical Shenzhen Vlan Intelligent Technology Co ltd
Publication of CN112805725A publication Critical patent/CN112805725A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Image Analysis (AREA)

Abstract

一种数据处理方法及装置、计算机可读存储介质,其中,所述方法包括:获取针对目标项目的第一数据集(201),按照目标项目的识别目的生成第一数据对应的第一标注数据集(202),对第一标注数据集进行模型训练,生成第一练模型(203),在第一训练模型的准确度信息满足部署条件的情况下,输出一训练模型(204)。上述方法可以高效、便捷、灵活地生成并部署训练模型。

Description

数据处理方法及装置、计算机可读存储介质
技术领域
本申请涉及人工智能技术领域,尤其涉及一种数据处理方法及装置、计算机可读存储介质。
背景技术
人工智能(Artificial Intelligence,AI)是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能的研究领域包括机器人、语言识别、图像识别、自然语音处理和专家系统等领域。人工智能的实现大多依赖于训练模型,训练模型是通过对大量训练数据进行自主学习,生成的模型。其中,数据的类型可以包括但不限于图像、视频、音频、物体、文本等。
如何高效、便捷地生成并部署训练模型是亟待解决的技术问题。
发明内容
本申请实施例公开了一种数据处理方法及装置、计算机可读存储介质,可以高效、便捷地生成并部署训练模型。
第一方面,本申请实施例提供了一种数据处理方法,该方法包括:
获取针对目标项目的第一数据集;
按照所述目标项目的识别目的生成所述第一数据集对应的第一标注数据集;
对所述第一标注数据集进行模型训练,生成第一训练模型;
在所述第一训练模型的准确度信息满足部署条件的情况下,输出所述第一训练模型。
第二方面,本申请实施例提供了一种数据处理装置,所述数据处理装置包括:输入单元、处理单元和输出单元;
所述输入单元,用于获取针对目标项目的第一数据集;
所述处理单元,用于按照所述目标项目的识别目的生成所述第一数据集对应的第一标注数据集;对所述第一标注数据集进行模型训练,生成第一训练模型;
所述输出单元,用于在所述处理单元确定出所述第一训练模型的准确度信息满足部署条件的情况下,输出所述第一训练模型。
第三方面,本申请实施例提供了一种数据处理装置,包括处理器和存储器,所述存储器用于存储计算机指令,当所述处理器执行所述计算机指令时,以使所述数据处理装置执行上述第一方面所述的方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时可以实现上述第一方面所述的方法。
本申请实施例中,通过获取针对目标项目的第一数据集,可以实现数据采集;通过生成第一标注数据集,可以实现数据标注;通过对第一标注数据集进行模型训练,可以实现模型生成;通过判断训练模型是否满足部署条件,可实现模型部署;从而可以高效、便捷、灵活地生成并部署训练模型。以项目的形式对数据采集、数据标注、模型生成和模型部署这一系列过程进行管理,可以提高训练模型应用的便捷性和可行性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种网络架构的示意图;
图2是本申请实施例提供的一种数据处理方法的流程示意图;
图3是本申请实施例提供的一种数据处理方法的场景示意图;
图4是本申请实施例提供的创建项目的界面示意图;
图5是本申请实施例提供的某个计划的界面示意图;
图6是本申请实施例提供的一种数据处理装置的结构示意图;
图7是本申请实施例公开的一种终端设备的结构示意图。
具体实施方式
在对本申请实施例提供的技术方案介绍之前,先对本申请实施例涉及的名称或术语进行介绍。
(1)训练模型
训练模型,指的是通过大量训练数据对所选的算法进行自适应调整(或称为自主学习),得到的模型。训练模型可以应用于机器学习、语言识别、图像识别等领域。例如,训练模型应用于图像识别领域,可以实现对图像中猫或狗的识别。
(2)数据集、标注数据集
数据集,指的是未标注的数据集,可以包括一个或多个未标注的数据。未标注的数据,即数据上不存在标注痕迹。例如,图像上不存在标注痕迹。
标注数据集,指的是标注的数据集,可以包括一个或多个标注的数据。标注的数据,即数据上存在标注痕迹。例如,图像上存在标注痕迹。
在本申请实施例中,数据以图像为例进行介绍。
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
请参阅图1,为本申请实施例提供的一种网络架构的示意图。该网络架构景可包括用户、数据处理装置101和应用设备102。
其中,数据处理装置101可以是终端设备,也可以是与终端设备匹配使用的装置,例如处理器等。终端设备可以包括但不限于个人计算机(Personal Computer,PC)、笔记本电脑、平板电脑、智能手机(如Android手机等)、移动互联网设备(Mobile InternetDevices,MID)等。应用在本申请实施例中,数据处理装置101具有生成训练模型的能力。
其中,应用设备102可以包括但不限于机器人、飞行器、汽车、智能家电、可穿戴设备、虚拟现实(Virtual Reality,VR)设备、监控摄像设备、智能手机、平板电脑、MID、PC等设备。应用在本申请实施例中,应用设备102具有部署训练模型能力。
图1所示的数据处理装置101以PC为例,应用设备102以智能机器人、汽车和飞行器为例,各个设备的形态和数量用于举例,并不构成对本申请实施例的限定。
在本申请实施例中,数据处理装置101可根据用户输入的项目创建指令创建项目,项目可以是人工智能(Artificial Intelligence,AI)项目,AI项目可用于实现某种目的,例如用于实现对图像中的猫或狗等的识别。数据处理装置101在接收到针对项目的数据集的情况下,可按照该项目的识别目的生成该数据集对应的标注数据集,对该标注数据集进行模型训练,生成训练模型。
若该训练模型满足部署条件,则数据处理装置101可输出该训练模型,可将该训练模型输出至应用设备102,以便在应用设备102上部署该训练模型,从而应用设备102可以实现该识别目的。数据处理装置101也可自己部署该训练模型,即在数据处理装置101上部署该训练模型,从而数据处理装置101可以实现该识别目的。数据处理装置101还可将该训练模型输出至第三方平台,以便在第三方平台上部署该训练模型。第三方平台可以是图像识别平台或AI视觉识别平台等。
示例性的,假设用户需要训练监控摄像设备识别自家的小狗A,数据处理装置101在接收到创建AI项目1的项目创建指令时,创建AI项目1,AI项目1用于识别小狗A。数据处理装置101在接收到针对AI项目1的图像集(例如包括20张图像)的情况下,按照识别小狗A生成该图像集对应的标注图像集,标注图像集中附有小狗A的图像被标注(例如某个图像中的小狗A被虚线圈出)。数据处理装置101对该标注图像集进行模型训练,生成训练模型,若该训练模型满足部署条件,则数据处理装置101可将该训练模型输出至监控摄像设备,以使监控摄像设备可以实现对小狗A的识别。
本申请实施例可以应用于研发场景、测试场景和使用场景中,使得本申请实施例的适用范围广。即使对训练模型不了解的用户,也可以采用本申请实施例,控制应用设备102或数据处理装置101实现对指定项目的识别。
下面对本申请实施例提供的数据处理方法进行详细介绍。
请参阅图2,为本申请实施例提供的一种数据处理方法的流程示意图。如图2所示,数据处理方法包括但不限于如下步骤:
步骤201、数据处理装置获取目标项目的第一数据集。
其中,目标项目可以是任一AI项目,例如,用于识别人脸的AI项目,用于识别特定生物的AI项目,或用户识别零件缺陷的AI项目等。不同的项目可以具有不同的识别目的。用户可针对数据处理装置的用户显示界面输入项目创建指令,数据处理装置可根据该项目创建指令创建项目。目标项目的第一数据集,可以理解为是用于实现目标项目的识别目的的数据集,其具体数量在本申请实施例中不作限定,例如为20张图像等。第一数据集可以是初始数据集,即最初获取的数据集,也可以是后续调整后的数据集。
在一种实现方式中,在创建目标项目之后,数据处理装置可接收用户针对目标项目输入的数据上传指令,该数据上传指令可携带第一数据集,用于将第一数据集上传至数据处理装置,以使数据处理装置获取到第一数据集。
在另一种实现方式中,在创建目标项目之后,数据处理装置可通过数据采集装置获取针对目标项目的第一数据集。数据采集装置可以是终端设备的摄像头或监控摄像设备等。例如,摄像头在拍摄一系列小狗A的照片之后,将这些小狗A的照片传输至数据处理装置。
可选的,一个项目可对应多个计划,一个计划可对应一个数据集,执行一个计划可得到一个训练模型。例如,数据集1为针对目标项目的计划1的一个数据集,执行计划1可得到训练模型1;数据集2为针对目标项目的计划2的一个数据集,执行计划2可得到训练模型2。
步骤202、数据处理装置按照目标项目的识别目的生成所述第一数据集对应的第一标注数据集。
其中,目标项目的识别目的可以包括项目类型和标注类型。项目类型可以包括但不限于目标检测、物体分割等,目标检测用于对目标进行检测,例如检测宠物或人脸等,物体分割用于对物体进行分割或分离,例如将图像中的人与景进行分割等。标注类型可以包括但不限于内倒角、异物、平面修等,标注类型可以由用户自定义添加或删除或修改,也可以由系统提供。
第一标注数据集是指第一数据集中的第一数据被标注后的数据集。第一标注数据集的数量与第一数据集的数量可以相同,例如,第一数据集包括100张照片,第一标注数据集也包括100张照片,这100张照片中包括小狗A的照片被标注。
在一种实施方式中,数据处理装置可通过调用标注模型生成第一标注数据集。具体的,数据处理装置按照目标项目的识别目的,调用标注模型对第一数据集中的第一数据进行标注处理,生成第一标注数据集。其中,标注模型是已经训练好的,满足要求的,可以直接使用的一种训练模型,用于实现对数据的标注。
例如,目标项目的识别目的是检测小狗A,那么数据处理装置按照检测小狗A的目的,调用标注模型对20张图像(即第一数据集)中的每张图像进行标注,标注出图像中的小狗A,从而得到20张标注后的图像(即第一标注数据集)。
通过调用标注模型的方式生成第一标注数据集,可以节省工作量,提高标注效率。
在另一种实施方式中,数据处理装置可通过标注指令生成第一标注数据集。具体的,数据处理装置按照目标项目的识别目的,根据针对第一数据集中的第一数据的标注指令,生成第一标注数据集。即用户可针对第一数据集中的各个第一数据输入标注指令,该标注指令与识别目的相关,若识别目的为目标检测,该标注指令可以是圈出待识别的物体等;若识别目的为物体分割,该标注指令可以是划分物体的分割线等,在用户确认某个数据的标注指令后,数据处理装置可保存标注后的该数据,进而生成第一标注数据集。
例如,目标项目的识别目的是检测小狗A,那么数据处理装置按照检测小狗A的目的,根据用户针对20张图像(即第一数据集)中每张图像输入的标注指令,保存标注后的20张图像(即第一标注数据集)。
通过标注指令的方式,相比通过调用标注模型的方式,第一标注数据集的准确性更高。
数据处理装置还可以通过调用标注模型与通过标注指令结合的方式,生成第一标注数据集。例如,数据处理装置根据目标项目的识别目的,先调用标注模型对第一数据集中的第一数据进行标注处理,再根据用户输入的标注指令进行调整,最终生成第一标注数据集。这种结合的方式,可以进一步提高第一标注数据集的准确性。
可选的,用户可对第一标注数据集进行检查,以确保第一标注数据集的准确性。用户可针对第一标注数据集输入至少一次确认指令,若数据处理装置接收到至少一次确认指令,则可以确定第一标注数据集满足训练条件,可以执行步骤203。其中,至少一次确认指令中各次确认指令可来自不同权限的用户,例如两次确认指令,一次来自操作终端设备的用户,一次来自系统检查员或管理员;或第一次来自具有第一权限的用户,第二次来自具有第二权限的用户,第二权限的级别高于第一权限。
可选的,数据处理装置可统计第一标注数据集中已标注的数据数量、无效数据的数量和标注的对象数量等。其中,已标注的数据数量指的是有多少数据被标注,例如100张图像中有多少张图像被标注。无效数据的数量指的是与识别目的不相关的数据数量,例如识别目的是检测小狗A,但是某个图像为一栋建筑物的图像,该图像与小狗A无任何关系,那么该图像可以认为是无效数据。标注的对象数量指的是数据中有几个对象被标注,例如识别目的为物体分割,那么标注的对象数量至少为两个。数据处理装置还可以输出这些统计结果,以供用户进行相应的调整。
步骤203、数据处理装置对第一标注数据集进行模型训练,生成第一训练模型。
在一种实施方式中,数据处理装置中不存在针对目标项目的训练模型,即数据处理装置未执行生成目标项目的训练模型的过程,那么数据处理装置调用目标训练模型对第一标注数据集进行模型训练,生成第一训练模型。其中,目标训练模型可以理解为初始的,未输入任何训练数据的模型,用于对输入的训练数据进行训练。目标训练模型也可以描述为人工智能模型或确定模型等。目标训练模型可以是线性模型、卷积神经网络模型或循环神经网络模型等。数据处理装置将第一标注数据集作为训练数据输入目标训练模型,以进行模型训练,从而生成第一训练模型。例如,目标训练模型为卷积神经网络模型,数据处理装置将20张标注小狗A的图像输入卷积神经网络模型,该卷积神经网络模型通过模型训练,可得到第一训练模型,若第一训练模型满足部署条件,那么部署第一训练模型可实现对小狗A的识别。
在另一种实施方式中,数据处理装置中存在针对目标项目的训练模型,即数据处理装置已执行生成目标项目的训练模型的过程,得到一个或多个已有训练模型,但是这些训练模型可能并不满足部署条件,那么数据处理装置可基于已有训练模型进行模型训练,生成第一训练模型。假设已有训练模型为训练模型BB,数据处理装置可基于训练模型BB的准确度信息,获取第一数据集,生成第一标注数据集,将第一标注数据集输入训练模型BB,生成第一训练模型。由于第一数据集是基于训练模型BB进行针对性获取的,那么第一训练模型的准确度高于训练模型BB。
上述两种生成第一训练模型方式中,数据处理装置可获取处于空闲态的数据处理服务器,调用该数据处理服务器执行模型训练,以生成第一训练模型。其中,数据处理服务器可以包括但不限于图像处理(Graphics Processing Unit,GPU)服务器、文本处理服务器、中央处理(Central Processing Unit,CPU)服务器、专用集成电路(Application-specific Integrated Circuit,ASIC)服务器、张量处理(Tensor Processing Unit,TPU)服务器、神经网络处理(Neutral Processing Unit,NPU)服务器、现场可编程门阵列(Field-programmable Gate Array,FPGA)服务器等。若数据的类型为图像,那么数据处理服务器可以是GPU服务器,本申请实施例以GPU服务器为例进行描述。GPU服务器是基于图形应用的计算服务,具有实时高速的并行计算和浮点计算能力,适应用于3D图形应用程序、视频解码、深度学习、科学计算等应用场景,GPU服务器可以位于互联网云端,也可以是以GPU处理器的形式搭载在数据处理装置中的。
步骤204、数据处理装置在第一训练模型的准确度信息满足部署条件的情况下,输出第一训练模型。
数据处理装置在得到第一训练模型的情况下,可通过参考数据集来判断第一训练模型的准确度信息是否满足部署条件。具体的,数据处理装置调用第一训练模型对参考数据集进行测试,得到第一测试结果,将第一测试结果与参考数据集对应的参考标注结果进行对比,得到第一训练模型的准确度信息。数据处理装置调用第一训练模型对参考数据集进行测试,即将参考数据集输入第一训练模型以进行目标检测或物体分割等。
其中,参考数据集也可以描述为测试数据集等,参考数据集为用户精心挑选的符合目标项目的识别目的数据集,为未标注的数据集。第一测试结果(假设为R1)是指将参考数据集输入第一训练模型之后,第一训练模型输出的标注结果,第一测试结果所包括的数据数量可以与参考数据集所包括的数据数量相同。参考标注结果(假设为R0),也可以描述为测试标注数据集等,参考标注结果为用户手动对参考数据集进行标注的,符合目标项目的识别目的的标注数据集。参考标注结果经过多次确认,其标注的准确性较高,用于检测生成的训练模型是否满足部署条件。可以理解的是,参考数据集是试卷,参考标注结果是该试卷的参考标注答案。
数据处理装置将第一测试结果(R1)与参考标注结果(R0)进行一一对比,可得到第一训练模型的准确度信息。准确度信息可以包括整体准确度和评判项准确度。整体准确度是指第一训练模型从整体角度上评判的准确度。评判项准确度是指第一训练模型从特定指标角度上评判的准确度。特定指标可以是一种或多种,一种特定指标对应一个评判项准确度。特定指标可以包括但不限于:识别类型,误识别,漏识别,错识别,多识别等。
其中,识别类型对应的评判项准确度表示识别类型的识别准确度,例如识别目的是识别猫和狗,那么包括两种识别类型,识别猫对应的评判项准确度和识别狗对应的评判项准确度。误识别表示与R0相比,R1中存在不应该被标注的被标注的情况,例如识别目的是识别小猫B,R0中对小猫B进行了标注,但是R1中对小猫C的图像当成了小猫B进行标注,则认为R1中该图像存在误识别。误识别对应的评判项准确度越高,表示误识别的概率越小。漏识别表示与R0相比,R1中存在应该被标注的未被标注的情况,例如识别目的是识别小猫B,R0中对小猫B进行了标注,但是R1中出现某张图像包括小猫B,该图像中的小猫B未被标注,则认为R1中该图像存在漏识别。漏识别对应的评判项准确度越高,表示漏识别的概率越小。错识别表示与R0相比,R1中存在识别类型错误的情况,例如识别目的是识别小猫B,R0中对小猫B进行了标注,但是R1中出现把小猫B的图像标注成小狗A,则认为R1中该图像存在错识别。错识别对应的评判项准确度越高,表示错识别的概率越小。多识别表示对于某张图像,与R0相比,R1中同一类型的识别结果多于R0中该类型的识别结果,例如,对于某张图像,识别目的是识别小狗A,R0中对该图像共标注出1只小狗A,但是R1中标注出2只小狗A,则认为R1中存在多识别。多识别对应的评判项准确度越高,表示多识别的概率越小。
在一种实施方式中,整体准确度的大小与评判项准确度有关。例如,整体准确度是各项评判项准确度的加权平均,或是各项评判项准确度的平均值等。示例性的,特定指标包括误识别和漏识别,对应的评判项准确度80%和90%,若整体准确度是各项评判项准确度的平均值,那么整体准确度是85%。
在另一种实施方式中,整体准确度的大小与评判项准确度无关。整体准确度用于描述多少数据被标注。例如,参考数据集为100张图像,这100张图像中每张图像均包括小狗A,将这100张图像输入第一训练模型,得到R1,R1中有87张图像中的小狗A被标注,而参考数据集对应的参考标注数据集R0中有100张图像中的小狗A被标注,那么第一训练模型的整体准确度为87%。
上述两种实施方式用于举例,并不构成对本申请实施例的限定,还可以采用其他方式来衡量整体准确度和评判项准确度。通过训练模型的准确度信息,可以方便用户进行综合分析,进行针对性的优化调整,更加客观的评判训练模型的识别效果。
在得到第一训练模型的准确度信息的情况下,数据处理装置可输出第一训练模型的准确度信息,以便用户获知第一训练模型的准确度信息,进行针对性地采集第二数据集。
第一训练模型的准确度信息满足部署条件可以包括:
1)第一训练模型的整体准确度大于第一阈值,第一阈值的百分比取值区间为(0,100]。例如,假设第一阈值为85%,则第一训练模型的整体准确度大于85%时,第一训练模型的准确度信息满足部署条件。
2)第一训练模型的评判项准确度大于第二阈值,第二阈值的百分比取值区间为(0,100]。例如,评判项包含了评判项1和评判项2,假设第二阈值为80%,则第一训练模型在评判项1和评判项2对应的评判项准确率均大于80%时,第一训练模型的准确度信息满足部署条件。各个评判项可以对应同一个第二阈值,也可以对应不同的第二阈值,例如评判项1对应的第二阈值为80%,评判项2对应的第二阈值为85%。
3)第一训练模型的整体准确度大于第一阈值,且第一训练模型的评判项准确度大于第二阈值。例如,假设第一阈值为85%,评判项包括评判项1和评判项2,评判项1和评判项2对应的第二阈值为80%,则第一训练模型的整体准确度大于85%,且第一训练模型在评判项1和评判项2对应的评判项准确率均大于80%时,第一训练模型的准确度信息满足部署条件。
上述第一阈值和第二阈值的具体数值可以由用户设置,或由系统默认设置,具体数值在本申请实施例不作限定。
数据处理装置在第一训练模型的准确度信息满足部署条件的情况下,输出第一训练模型。例如,将第一训练模型传输至应用设备中,以便应用设备可以部署第一训练模型,实现目标项目。再例如,将第一训练模型部署数据处理装置上,以便数据处理装置实现目标项目。
在图2所描述的方法中,步骤201可实现数据采集,步骤202可实现数据标注,步骤203可实现模型生成,步骤204可实现模型部署,从而可以高效、便捷、灵活地生成并部署训练模型。步骤201-步骤204,以项目的形式对数据采集、数据标注、模型生成和模型部署这一系列过程进行管理,可以提高训练模型应用的便捷性和可行性。
在第一训练模型的整体准确度小于第一阈值,或任一个评判项准确度小于第二阈值的情况下,可确定出第一训练模型的准确度信息不满足部署条件。在第一训练模型的准确度信息不满足部署条件的情况下,数据处理装置可根据第一训练模型的准确度信息,获取针对目标项目的第二数据集,即根据第一训练模型的准确度信息,进行针对性的数据采集,得到的数据集为第二数据集。
例如,第一训练模型的准确度信息中,评判项准确度1为人脸侧脸识别准度为30%,评判项准确度2为人脸正面识别准度为90%,评判项准确度1未达到第二阈值(80%),第一训练模型的准确度信息不满足部署条件,则根据第一训练模型的准确度信息可以针对性采集人脸侧脸图片,得到第二数据集。
在得到第二数据集的情况下,数据处理装置按照目标项目的识别目的生成第二数据集对应的第二标注数据集,对第二标注数据集进行模型训练,生成第二训练模型,在第二训练模型的准确度信息满足部署条件的情况下,输出第二训练模型。
数据处理装置生成第二标注数据集的过程,可参考步骤202中生成第一标注数据集的过程。数据处理装置在生成第二训练模型时,可调用第一训练模型,第二标注数据集进行模型训练,以生成第二训练模型。即将第二标注数据集输入第一训练模型进行模型训练,得到第二训练模型。数据处理装置调用第二训练模型对参考数据集进行测试,得到第二测试结果,将第二测试结果与参考标注结果进行对比,得到第二训练模型的准确度信息。
若第二训练模型的准确度信息依然不满足部署条件,则数据处理装置可根据第二训练模型的准确度信息,获取针对目标项目的第三数据集,生成第三数据集对应的第三标注数据集,对第三标注数据集进行模型训练,生成第三训练模型,在第三训练模型的准确度信息满足部署条件的情况下,输出第三训练模型。可以理解的是,在第i个训练模型不满足部署条件的情况下,根据第i个训练模型生成第i+1个训练模型,用参考标注结果检验第i+1个训练模型是否满足部署条件,如此重复,直到得到满足部署条件的训练模型。
若针对目标项目得到多个满足部署条件的训练模型,则数据处理装置可对这多个训练模型的准确度信息进行比较,输出较佳的训练模型;或用户根据多个训练模型的准确度信息选择较佳的训练模型,以部署较佳的训练模型。
请参阅图3,为本申请实施例提供的一种数据处理方法的场景示意图。图3从用户与数据处理装置交互的角度进行介绍,可以包括但不限于如下步骤:
步骤301,第一用户输入项目创建指令。
图3中,第一用户为操作数据处理装置的用户,第二用户为系统检查员或管理员;或第二用户的权限级别高于第一用户的权限级别。
可参见图4所示的创建项目的界面示意图,第一用户可在该界面示意图中输入项目名称,选择项目类型,上传模板图片,输入图片的高和宽,以及输入或选择标注类别(或称为标注类型),待第一用户完成这些操作之后,可确认这些操作。第一用户对这些操作的确认操作,可以理解为向数据处理装置输入项目创建指令。
需要说明的是,图4所示的创建项目的界面示意图用于举例,并不构成对本申请实施例的限定。
步骤302,数据处理装置创建项目。
数据处理装置在接收到该项目创建指令的情况下,可根据该项目创建指令所携带的信息创建项目。该项目创建指令所携带的信息可包括第一用户在图4所示的界面示意图中输入或选择的信息,例如包括项目名称、项目类型、标注类别等。
步骤303,第一用户输入计划创建指令。
在数据处理装置创建项目之后,第一用户可针对该项目输入计划创建指令。若数据处理装置未创建针对该项目的计划,则该计划创建指令用于创建第一计划;若数据处理装置创建过针对该项目的计划,则该计划创建指令用于创建新的计划。计划创建指令可携带计划名称,第一用户可自主命名各个计划的名称,例如图5中,计划名称为“demo”。
可参见图5所示的某个计划的界面示意图,第一用户可在该界面示意图中点击标注类别下的编辑计划类别,编辑、修改或删除该计划的标注类别。需要说明的是,图5所示的界面示意图用于举例,并不构成对本申请实施例的限定。
步骤304,数据处理装置创建第一计划。
数据处理装置在根据计划创建指令创建第一计划之后,第一用户可根据图5所示界面示意图中的计划步骤,依次执行。
步骤305,第一用户输入数据上传指令。
第一用户执行上传图片的步骤,点击上传图片,选择待上传图片,待上传图片可以压缩包的形式进行上传,待第一用户点击确认上传指令后,数据处理装置可接收到该压缩包。其中,待上传图片是与项目的目的相关的图片。
步骤306,数据处理装置获取第一数据集。
数据处理装置对该压缩包进行解压缩,可获取第一数据集。在图3所示的实施例中,假设第一用户针对第一计划上传的图片集合为第一数据集,针对第二计划上传的图片集合为第二数据集。
数据处理装置在获取到第一数据集的情况下,可依次输出第一数据集中的各个图片,第一用户执行标注步骤,手动对输出的各个图片进行标注。或数据处理装置可调用标注模型对各个图片进行标注。或手动+标注模型结合,对各个图片进行标注。
步骤307,数据处理装置生成第一数据集对应的第一标注数据集。
在完成标注的情况下,数据处理装置可生成第一标注数据集。
步骤308a,第一用户输入确认指令。
步骤308b,第二用户输入确认指令。
在生成第一标注数据集的情况下,第一用户执行检查步骤,检查第一标注数据集中所标注的图片是否符合标注类别,标注位置是否正确等。若第一用户检查出有误,那么可对有误的地方进行修改,并更新第一标注数据集。若第一用户检查所有标注均无误,则第一用户输入确认指令。
第二用户可在第一用户检查确认之后,再次对第一用户确认的第一标注数据集进行检查,并在检查无误后,输入确认指令。
数据处理装置在接收到第一用户的确认指令和第二用户的确认指令之后,可执行步骤309。
步骤309,数据处理装置对第一标注数据集进行模型训练,生成第一训练模型。
步骤310,在第一训练模型的准确度信息满足部署条件的情况下,数据处理装置输出第一训练模型。
步骤307、步骤309和步骤310的具体实现过程可参见图2所示实施例中步骤202-步骤204的具体描述,在此不再赘述。
若第一训练模型的准确度信息不满足部署条件,则第一用户再次执行步骤303,输入计划创建指令,该计划创建指令用于创建第二计划。第一用户可基于第一训练模型的准确度信息上传第二数据集,数据处理装置生成第二标注数据集,并在第一用户和第二用户确认第二标注数据集之后,数据处理装置将第二数据集输入第一训练模型进行模型训练,生成第二训练模型,并在第二训练模型的准确度信息满足部署条件的情况下,输出第二训练模型。
图3所示的实施例中,从用户与数据处理装置交互的角度进行介绍,即使第一用户对训练模型不熟悉,也可以控制数据处理装置输出满足部署条件的训练模型,从而第一用户可以自主管理训练模型,实现项目的目的。
上面阐述了本申请实施例提供的数据处理方法,下面将对本申请实施例提供的数据处理装置进行介绍。
请参阅图6,为本申请实施例提供的一种数据处理装置的结构示意图。该数据处理装置60包括输入单元601、处理单元602和输出单元603。
输入单元601,用于获取针对目标项目的第一数据集。
处理单元602,用于按照目标项目的识别目的生成第一数据集对应的第一标注数据集;对第一标注数据集进行模型训练,生成第一训练模型。
输出单元603,用于在处理单元602确定出第一训练模型的准确度信息满足部署条件的情况下,输出第一训练模型。
在一实施方式中,处理单元602,具体用于按照目标项目的识别目的,根据针对第一数据集中的第一数据的标注指令,生成第一数据集对应的第一标注数据集。
在一实施方式中,处理单元602,具体用于按照目标项目的识别目的,调用标注模型对第一数据集中的第一数据进行标注处理,生成第一数据集对应的第一标注数据集。
在一实施方式中,处理单元602,还用于统计第一标注数据集中已标注的数据数量、无效数据的数量和标注的对象数量。
在一实施方式中,处理单元602,具体用于调用目标训练模型对第一标注数据集进行模型训练,生成第一训练模型。
在一实施方式中,处理单元602,具体用于获取处于空闲态的数据处理服务器,调用数据处理服务器对第一标注数据集进行模型训练,生成第一训练模型。
在一实施方式中,处理单元602,还用于调用第一训练模型对参考数据集进行测试,得到测试结果;对比测试结果与参考数据集对应的参考标注结果,得到第一训练模型的准确度信息;
输出单元603,还用于输出第一训练模型的准确度信息。
在一实施方式中,准确度信息包括整体准确度和评判项准确度;准确度信息满足部署条件包括:整体准确度大于第一阈值;或,评判项准确度大于第二阈值;或,整体准确度大于第一阈值且评判项准确度大于第二阈值。
在一实施方式中,数据处理装置60还包括存储单元,用于存储第一训练模型和第一训练模型的准确度信息。
在一实施方式中,输入单元601,还用于在处理单元602确定出第一训练模型的准确度信息不满足部署条件的情况下,根据第一训练模型的准确度信息,获取针对目标项目的第二数据集;
处理单元602,还用于按照目标项目的识别目的生成第二数据集对应的第二标注数据集;对第二标注数据集进行模型训练,生成第二训练模型;
输出单元603,还用于在处理单元602确定出第二训练模型的准确度信息满足部署条件的情况下,输出第二训练模型。
在一实施方式中,处理单元602,具体用于调用第一训练模型,对第二标注数据集进行模型训练,生成第二训练模型。
请参阅图7,为本申请实施例提供的一种终端设备的结构示意图。本申请实施例中所描述的终端设备包括:处理器701、通信接口702、存储器703。其中,处理器701、通信接口702、存储器703可通过总线或其他方式连接,本申请实施例以通过总线连接为例。
处理器701可以是中央处理器(Central Processing Unit,CPU),网络处理器(Network Processor,NP),或者CPU和NP的组合。处理器701也可以是多核CPU、或多核NP中用于实现通信标识绑定的核。
所述处理器701可以是硬件芯片。所述硬件芯片可以是专用集成电路(Application-specific Integrated Circuit,ASIC),可编程逻辑器件(ProgrammableLogic Device,PLD)或其组合。所述PLD可以是复杂可编程逻辑器件(ComplexProgrammable Logic Device,CPLD),现场可编程逻辑门阵列(Field-programmable GateArray,FPGA),通用阵列逻辑(Generic Array Logic,GAL)或其任意组合。
所述通信接口702可用于收发信息或信令的交互,以及信号的接收和传递。所述存储器703可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的存储程序(比如文字存储功能、位置存储功能等);存储数据区可存储根据装置的使用所创建的数据(比如图像数据、文字数据)等,并可以包括应用存储程序等。此外,存储器703可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
图7所示的终端设备还包括输入输出器件,用于接收用户的输入指令或选择指令等,还用于在用户界面输出准确度信息等。
所述存储器703还用于存储程序指令。所述处理器701,用于执行所述存储器703存储的程序指令,当所述程序指令被执行时,所述处理器701用于:
获取针对目标项目的第一数据集;
按照目标项目的识别目的生成第一数据集对应的第一标注数据集;对第一标注数据集进行模型训练,生成第一训练模型;
在第一训练模型的准确度信息满足部署条件的情况下,控制输入输出器件输出第一训练模型
本申请实施例中处理器执行的方法均从处理器的角度来描述,可以理解的是,本申请实施例中处理器要执行上述方法需要其他硬件结构的配合。本申请实施例对具体的实现过程不作详细描述和限制。
具体实现中,本申请实施例中所描述的处理器701、通信接口702、存储器703可执行本申请实施例提供的一种数据处理方法中所描述的实现方式,在此不再赘述。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序被处理器执行时实现上述方法实施例所述的方法。
本申请实施例还提供一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述方法实施例所述的方法。
需要说明的是,对于前述的各个方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某一些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(Random AccessMemory,RAM)、磁盘或光盘等。
以上对本申请实施例所提供的一种数据处理方法及其装置进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

Claims (16)

1.一种数据处理方法,其特征在于,所述方法包括:
获取针对目标项目的第一数据集;
按照所述目标项目的识别目的生成所述第一数据集对应的第一标注数据集;
对所述第一标注数据集进行模型训练,生成第一训练模型;
在所述第一训练模型的准确度信息满足部署条件的情况下,输出所述第一训练模型。
2.根据权利要求1所述的方法,其特征在于,所述按照所述目标项目的识别目的生成所述第一数据集对应的第一标注数据集,包括:
按照所述目标项目的识别目的,根据针对所述第一数据集中的第一数据的标注指令,生成所述第一数据集对应的第一标注数据集。
3.根据权利要求1所述的方法,其特征在于,所述按照所述目标项目的识别目的生成所述第一数据集对应的第一标注数据集,包括:
按照所述目标项目的识别目的,调用标注模型对所述第一数据集中的第一数据进行标注处理,生成所述第一数据集对应的第一标注数据集。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:
统计所述第一标注数据集中已标注的数据数量、无效数据的数量和标注的对象数量。
5.根据权利要求1-3任一项所述的方法,其特征在于,所述对所述第一标注数据集进行模型训练,生成第一训练模型,包括:
调用目标训练模型对所述第一标注数据集进行模型训练,生成第一训练模型。
6.根据权利要求1-3任一项所述的方法,其特征在于,所述对所述第一标注数据集进行模型训练,生成第一训练模型,包括:
获取处于空闲态的数据处理服务器,调用所述数据处理服务器对所述第一标注数据集进行模型训练,生成第一训练模型。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
调用所述第一训练模型对参考数据集进行测试,得到测试结果;
对比所述测试结果与所述参考数据集对应的参考标注结果,得到并输出所述第一训练模型的准确度信息。
8.根据权利要求7所述的方法,其特征在于,所述准确度信息包括整体准确度和评判项准确度;所述准确度信息满足所述部署条件包括:所述整体准确度大于第一阈值;或,所述评判项准确度大于第二阈值;或,所述整体准确度大于第一阈值且所述评判项准确度大于第二阈值。
9.根据权利要求7或8所述的方法,其特征在于,所述方法还包括:
控制所述第一训练模型以及所述第一训练模型的准确度信息的保存。
10.根据权利要求1或7所述的方法,其特征在于,所述方法还包括:
在所述第一训练模型的准确度信息不满足所述部署条件的情况下,根据所述第一训练模型的准确度信息,获取针对所述目标项目的第二数据集;
按照所述目标项目的识别目的生成所述第二数据集对应的第二标注数据集;
对所述第二标注数据集进行模型训练,生成第二训练模型;
在所述第二训练模型的准确度信息满足所述部署条件的情况下,输出所述第二训练模型。
11.根据权利要求10所述的方法,其特征在于,所述对所述第二标注数据集进行模型训练,生成第二训练模型,包括:
调用所述第一训练模型,对所述第二标注数据集进行模型训练,生成第二训练模型。
12.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述第一标注数据集满足训练条件的情况下,执行对所述第一标注数据集进行模型训练,生成第一训练模型的步骤。
13.根据权利要求12所述的方法,其特征在于,所述方法还包括:
在接收到针对所述第一标注数据集的至少一次确认指令的情况下,确定所述第一标注数据集满足所述训练条件。
14.一种数据处理装置,其特征在于,所述数据处理装置包括用于执行如权利要求1-13任一项所述的各个步骤的单元。
15.一种数据处理装置,其特征在于,包括:存储器和处理器,
所述存储器用于存储计算机指令;
当所述处理器执行所述计算机指令时,以使所述数据处理装置执行权利要求1-12任一项所述的方法。
16.一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1至12中任一项所述方法的步骤。
CN202080005484.2A 2020-01-06 2020-01-06 数据处理方法及装置、计算机可读存储介质 Pending CN112805725A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2020/070549 WO2021138783A1 (zh) 2020-01-06 2020-01-06 数据处理方法及装置、计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN112805725A true CN112805725A (zh) 2021-05-14

Family

ID=75809347

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080005484.2A Pending CN112805725A (zh) 2020-01-06 2020-01-06 数据处理方法及装置、计算机可读存储介质

Country Status (2)

Country Link
CN (1) CN112805725A (zh)
WO (1) WO2021138783A1 (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180240037A1 (en) * 2017-02-23 2018-08-23 International Business Machines Corporation Training and estimation of selection behavior of target
CN108875963A (zh) * 2018-06-28 2018-11-23 北京字节跳动网络技术有限公司 机器学习模型的优化方法、装置、终端设备和存储介质
CN109034188A (zh) * 2018-06-15 2018-12-18 北京金山云网络技术有限公司 机器学习模型的获取方法、获取装置、设备及存储介质
CN109242013A (zh) * 2018-08-28 2019-01-18 北京九狐时代智能科技有限公司 一种数据标注方法、装置、电子设备及存储介质
CN109583325A (zh) * 2018-11-12 2019-04-05 平安科技(深圳)有限公司 人脸样本图片标注方法、装置、计算机设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180240037A1 (en) * 2017-02-23 2018-08-23 International Business Machines Corporation Training and estimation of selection behavior of target
CN109034188A (zh) * 2018-06-15 2018-12-18 北京金山云网络技术有限公司 机器学习模型的获取方法、获取装置、设备及存储介质
CN108875963A (zh) * 2018-06-28 2018-11-23 北京字节跳动网络技术有限公司 机器学习模型的优化方法、装置、终端设备和存储介质
CN109242013A (zh) * 2018-08-28 2019-01-18 北京九狐时代智能科技有限公司 一种数据标注方法、装置、电子设备及存储介质
CN109583325A (zh) * 2018-11-12 2019-04-05 平安科技(深圳)有限公司 人脸样本图片标注方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
WO2021138783A1 (zh) 2021-07-15

Similar Documents

Publication Publication Date Title
CN112232293B (zh) 图像处理模型训练、图像处理方法及相关设备
US20200012888A1 (en) Image annotating method and electronic device
EP4124993A1 (en) Automatic image classification and processing method based on continuous processing structure of multiple artificial intelligence model, and computer program stored in computer-readable recording medium to execute the same
CN110321870B (zh) 一种基于lstm的掌静脉识别方法
CN112183166A (zh) 确定训练样本的方法、装置和电子设备
CN109522970B (zh) 图像分类方法、装置及系统
CN110175528B (zh) 人体跟踪方法及装置、计算机设备及可读介质
US20170185913A1 (en) System and method for comparing training data with test data
CN111597374B (zh) 图像分类方法、装置及电子设备
CN112529020A (zh) 基于神经网络的动物识别方法、系统、设备及存储介质
CN114861836B (zh) 一种基于人工智能平台的模型部署方法及相关设备
CN111191664A (zh) 标签识别网络的训练方法、标签识别装置/方法及设备
CN113762326A (zh) 一种数据识别方法、装置、设备及可读存储介质
CN113939791A (zh) 图像标注方法、装置、设备及介质
KR102506222B1 (ko) 비전 데이터 수집, 학습, 배포 및 추론 방법 및 시스템
CN117475253A (zh) 一种模型训练方法、装置、电子设备及存储介质
KR102603396B1 (ko) 인공지능을 이용한 영상 감시 기반 개체 인식 및 행동패턴 분석 방법 및 시스템
CN113785310A (zh) 用于通过用户界面操作应用的方法和系统
CN112805725A (zh) 数据处理方法及装置、计算机可读存储介质
CN109993191B (zh) 信息处理方法及装置、电子设备及存储介质
CN114943877A (zh) 模型的训练方法、装置、电子设备以及存储介质
CN114037889A (zh) 一种图像识别方法、装置、电子设备及存储介质
CN114676705A (zh) 一种对话关系处理方法、计算机及可读存储介质
CN114998575B (zh) 训练和使用目标检测模型的方法及装置
CN114419451B (zh) 电梯内外识别方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210514