CN113420149A - 数据的标注方法和装置 - Google Patents
数据的标注方法和装置 Download PDFInfo
- Publication number
- CN113420149A CN113420149A CN202110737954.0A CN202110737954A CN113420149A CN 113420149 A CN113420149 A CN 113420149A CN 202110737954 A CN202110737954 A CN 202110737954A CN 113420149 A CN113420149 A CN 113420149A
- Authority
- CN
- China
- Prior art keywords
- attribute
- attributes
- labeling
- target data
- labeled
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/10—Interfaces, programming languages or software development kits, e.g. for simulating neural networks
- G06N3/105—Shells for specifying net layout
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3692—Test management for test results analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/38—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/169—Annotation, e.g. comment data or footnotes
Abstract
本公开提供了数据的标注方法和装置。涉及包括数据标注、深度学习的人工智能技术领域。该方法的一具体实施方式包括:响应于获取到目标数据中的待标注对象,获取对该待标注对象标注的、多个属性的属性值;根据预设的标注需求属性,对该待标注对象的该多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;根据该目标数据中各个待标注对象的该汇总结果,确定该目标数据的标注结果。本公开提供的方法采用串行的方式确定待标注对象和属性值,从而对标注流程进行分解进而简化了标注流程。并且,本公开根据标注需求属性,对属性值进行汇总,从而可以让标注结果更加符合标注需求。
Description
技术领域
本公开实施例涉及计算机技术领域,具体涉及包括数据标注、深度学习的人工智能技术领域,尤其涉及数据的标注方法和装置。
背景技术
数据标注可以为人工智能算法训练提供基础的训练数据。标注规则通常会有几十页甚至上百页的文档。由一个标注员同时完成如此复杂的标注工作,对于标注员的能力是极大的挑战。
针对标注规则复杂的标注需求,每开展一个新的标注项目,都需要配备专门的标注培训师进行培训,并且在标注员上岗前需要进行为期2-3周的培训,然后才能进入项目开始标注。
发明内容
本公开实施例提出了数据的标注方法和装置。
第一方面,本公开实施例提供了一种数据的标注方法,包括:响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值;根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。
第二方面,本公开实施例提供了一种数据的标注装置,包括:获取单元,被配置成响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值;汇总单元,被配置成根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;确定单元,被配置成根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。
第三方面,本公开实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如数据的标注方法中任一实施例的方法。
第四方面,本公开实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如数据的标注方法中任一实施例的方法。
根据第五方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现根据视频的转场方法中任一实施例的方法。
本公开实施例提供的数据的标注方案,采用串行的方式确定待标注对象和属性值,也即在获取到目标数据的待标注对象之后,再触发获取属性值的流程,从而对标注流程进行分解进而简化了标注流程。并且,本公开根据标注需求属性,对属性值进行汇总,从而可以让标注结果更加符合标注需求。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开一些实施例可以应用于其中的示例性系统架构图;
图2A是根据本公开的数据的标注方法的一个实施例的流程图;
图2B是根据本公开的数据的标注方法的一个汇总结果;
图3是根据本公开的数据的标注方法的一个应用场景的示意图;
图4是根据本公开的数据的标注方法的又一个实施例的流程图;
图5是根据本公开的数据的标注装置的一个实施例的结构示意图;
图6是适于用来实现本公开一些实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的数据的标注方法或数据的标注装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如数据的标注应用、视频类应用、直播应用、即时通信工具、邮箱客户端、社交平台软件等。
这里的终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对接收到的目标数据等数据进行分析等处理,并将处理结果(例如目标数据的标注结果)反馈给终端设备。
需要说明的是,本公开实施例所提供的数据的标注方法可以由服务器105或者终端设备101、102、103执行,相应地,数据的标注装置可以设置于服务器105或者终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2A,示出了根据本公开的数据的标注方法的一个实施例的流程200。该数据的标注方法,包括以下步骤:
步骤201,响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值。
在本实施例中,数据的标注方法的执行主体(例如图1所示的服务器或终端设备)可以在获取到目标数据中的待标注对象的情况下,获取对待标注对象确定的属性值。属性值是待标注对象的多个属性各自的属性值。
待标注对象是上述执行主体或者其它电子设备对目标数据标注出的。举例来说,若目标数据为图像,待标注对象可以是图像包含的对象,通过矩形的包围框来标注。若目标数据为语音,待标注对象可以是对语音切分出的语音段。若目标数据为视频,待标注对象可以是对视频切分得到的视频段。若目标数据为文本,待标注对象可以是分词得到的分词结果。
若目标数据为图像,待标注对象的属性可以包括以下至少一项:障碍物是否遮挡、障碍物是否截断、车门状态、与采集车是否有角度等等。若目标数据为语音,待标注对象的属性可以包括以下至少一项:语音是否清晰、男声或女声、是否有叠声。
步骤202,根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总,得到汇总结果。
在本实施例中,上述执行主体可以根据预设的标注需求属性,对待标注对象的多个属性中的至少两个属性的属性值进行汇总也即合并,并得到该待标注对象的汇总结果。在汇总后,同一个对象的至少两个属性各自的属性值可以同时显示于同一个页面,同时显示的还可以包括至少两个属性。在目标数据中的待标注对象包括至少两个的情况下,上述的汇总针对目标数据的各个待标注对象中的每个待标注对象。
标注需求属性是符合标注需求的属性,也即对于待标注对象进行标注需要对该待标注对象获取到属性值的属性。上述执行主体可以采用各种方式根据预设的标注需求属性,进行汇总。比如,将标注需求属性作为至少两个属性,对多个属性中的标注需求属性的属性值进行汇总。
步骤203,根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。
在本实施例中,上述执行主体可以采用各种方式根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。比如,上述执行主体可以直接将目标数据中各个待标注对象的汇总结果,确定为目标数据的标注结果。或者,上述执行主体可以对目标数据中各个待标注对象的汇总结果进行进一步汇总,并将进一步汇总的结果,作为目标数据的标注结果。进一步汇总可以采用各种形式,比如可以指将目标数据的不同待标注对象的属性值,置于同一个页面中的不同标签项(tab)下。此外,进一步汇总也可以指将目标数据的不同待标注对象的属性值置于页面的同一个画面(或为图像的上述目标数据)中进行同时显示。
如图2B所示,图中示出了对图像中一个车辆(也即待标注对象)得到的汇总结果。图中左边一列的“类型、细分类型”等都是属性,属性右侧为属性值的选项。
本公开的上述实施例提供的方法采用串行的方式确定待标注对象和属性值,也即在获取到目标数据的待标注对象之后,再触发获取属性值的流程,从而对标注流程进行分解进而简化了标注流程。并且,本公开根据标注需求属性,对属性值进行汇总,从而可以让标注结果更加符合标注需求。
继续参见图3,图3是根据本实施例的数据的标注方法的应用场景的一个示意图。在图3的应用场景中,执行主体301可以响应于获取到目标数据“路面图像”中的待标注对象“汽车”302,获取对待标注对象标注302的、多个属性“障碍物是否遮挡、障碍物是否截断、车门状态”的属性值“不遮挡、不截断、关闭”303。执行主体301根据预设的标注需求属性“障碍物是否遮挡、障碍物是否截断”,对待标注对象302的多个属性中,至少两个属性“障碍物是否遮挡、障碍物是否截断”的属性值303进行汇总,得到汇总结果304。执行主体301根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果305。
进一步参考图4,其示出了数据的标注方法的又一个实施例的流程400。该数据的标注方法的流程400,包括以下步骤:
步骤401,响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值。
步骤402,响应于多个属性中,存在不属于标注需求属性的第一目标属性,对多个属性中第一目标属性以外的属性的属性值进行汇总。
在本实施例中,上述执行主体可以在上述待标注对象的多个属性中存在不属于标注需求属性的属性的情况下,将该不属于标注需求属性的属性作为第一目标属性。并且上述执行主体在汇总的过程中,仅将多个属性中第一目标属性以外的属性作为上述至少两个属性,对该至少两个属性的属性值进行汇总。也即,多个属性中的第一目标属性不参与汇总过程。
步骤403,响应于标注需求属性中,存在不属于多个属性的第二目标属性,对多个属性中属性的属性值,以及第二目标属性的属性值进行汇总,其中,第二目标属性的属性值为默认值或空值。
在本实施例中,在标注需求属性中存在不属于多个属性的属性的情况下,上述执行主体不仅可以让上述多个属性中的至少两个属性(第一目标属性以外的属性)的属性值参与汇总,还可以将该不属于多个属性的属性作为第二目标属性,并让该第二目标属性参与汇总。
因为标注需求属性中存在的第二目标属性不属于上述多个属性,所以上述执行主体并没有获取对第二目标属性所标注的属性值。上述执行主体可以采用对第二目标属性预设的默认值或空值。
步骤404,根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。
需要说明的是,步骤401、步骤404分别与步骤201、步骤203相同或相似,在此不再赘述。
本实施例可以将标注需求属性作为汇总的基准,从而让汇总结果乃至标注结果更加符合标注的需求。
在本申请的任一实施例的一些可选的实现方式中,多个属性的属性值的标注过程可以是并行的。
在这些可选的实现方式中,对多个属性标注属性值的过程可以同时进行,也即并行进行。这些实现方式通过并行的属性值标注方式,可以提高标注效率。
在本申请的任一实施例的一些可选的实现方式中,上述获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值,包括:向对象标注终端分发对目标数据的对象标注任务;响应于接收到所述对象标注终端返回的所述待标注对象,向属性标注终端分发对所述待标注对象的属性值标注任务,以使各个属性标注终端并行执行所述多个属性的属性值的标注过程;接收属性标注终端返回的属性值。
在这些可选的实现方式中,上述执行主体可以将指示标注待标注对象的任务也即对象标注任务,分发给对象标注终端。这样,对象标注终端的标注员可以标注目标数据的待标注对象,并将待标注对象返回给对象标注终端。在上述执行主体接收到对象标注终端返回的待标注对象之后,将指示对待标注对象标注属性的属性值的属性值标注任务,分发给各个属性标注终端。这样,各个属性标注终端的标注员,可以同时进行属性值的标注。每个属性标注终端接收的属性标注任务指示标注一种属性的属性值。多个属性的属性值的标注过程可以并行执行。之后,上述执行主体可以接收到各个属性标注终端返回的属性值。
这些实现方式可以对标注任务实现精确分发,并通过并行的标注方式,提高标注效率。
在本申请的任一实施例的一些可选的实现方式中,上述根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总,可以包括:响应于确定所述标注进度为将所述目标数据的各个待标注对象所对应的属性值均标注完成,实时分别对所述各个待标注对象所对应的属性值进行汇总。
在这些可选的实现方式中,上述执行主体可以定时或实时检查目标数据的标注进度,从而在确定了对目标数据的所有待标注对象的所有属性的属性值均完成标注属性值之后,实时对目标数据的属性值进行汇总。
这些实现方式可以将完成标注的目标数据的属性值优先进行汇总,从而可以及时对目标数据的标注信息进行汇总,进而缩短标注时间。
在这些实现方式的一些可选的应用场景中,方法还包括:对目标数据生成通用唯一识别码,其中,通用唯一识别码包括以下的至少两项:目标数据的数据类型、获取时间、数据批次编号、数据编号。
在这些可选的应用场景中,上述执行主体可以对目标数据生成通用唯一识别码(Universally Unique Identifier,UUID)。具体地,通用唯一识别码中,数据类型可以是图像、文本、语音等等。每个目标数据可以存在一个数据编号。在一些场景中,存在两个目标数据的数据编号相同的情况,比如数据编号可以是一个批次的各个目标数据的序号,那么两个不同批次的目标数据之间就存在数据编号相同的数据。
这些应用场景可以对目标数据生成通用唯一识别码,以便于后续按照该通用唯一识别码精确地确定目标数据,并对目标数据进行处理。
可选地,上述检查目标数据的标注进度,可以包括:对目标数据的待标注对象的属性值标注事件,生成包括通用唯一识别码的事件进度记录;以及上述响应于确定标注进度为将目标数据的各个待标注对象的属性值均标注完成,包括:响应于确定包括通用唯一识别码的各个事件进度记录指示的属性值标注事件均完成。
在这些可选的实现方式中,待标注对象的每个属性都对应一个属性值标注事件,属性值标注事件指标注属性值的事件。本申请中标注待标注对象以及属性值的操作可以是标注员完成的,属性值标注事件则可以包括接收标注员标注的内容。
对于上述UUID指示的目标数据,若该目标数据的所有待标注对象中,每个待标注对象的所有事件进度记录均指示标注完成,则可以实时分别对各个待标注对象对应的属性值进行汇总。
在实践中,该事件进度记录可以表示为UUID-属性标识-完成状态信息。这里的完成状态信息可以指示该属性标识指示的属性是否已完成了标注属性值。
这些可选的应用场景可以通过通用唯一识别码,对目标数据的所有标注事件进行准确、全面的进度检查。
在本申请的任一实施例的一些可选的实现方式中,上述检查目标数据的标注进度,可以包括:轮询包括目标数据的多个数据的标注进度,其中,多个数据为同一个标注批次的待标注数据。
在这些可选的实现方式中,上述执行主体可以对包括上述目标数据的各个数据进行轮询,从而可以在每个数据的标注完成之后,及时进行汇总,提高对整个批次的数据的标注效率。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种数据的标注装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征或效果。该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的数据的标注装置500包括:获取单元501、汇总单元502和确定单元503。其中,获取单元501,被配置成响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值;汇总单元502,被配置成根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;确定单元503,被配置成根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。
在本实施例中,数据的标注装置500的获取单元501、汇总单元502和确定单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中步骤201、步骤202和步骤203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,多个属性的属性值的标注过程是并行的。
在本实施例的一些可选的实现方式中,获取单元,进一步被配置成按照如下方式执行响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值:向对象标注终端分发对目标数据的对象标注任务;响应于接收到对象标注终端返回的待标注对象,向属性标注终端分发对待标注对象的属性值标注任务,以使各个属性标注终端并行执行多个属性的属性值的标注过程;接收属性标注终端返回的属性值。
在本实施例的一些可选的实现方式中,汇总单元,进一步被配置成按照如下方式执行根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总:响应于多个属性中,存在不属于标注需求属性的第一目标属性,对多个属性中第一目标属性以外的属性的属性值进行汇总;响应于标注需求属性中,存在不属于多个属性的第二目标属性,对多个属性中属性的属性值,以及第二目标属性的属性值进行汇总,其中,第二目标属性的属性值为默认值或空值。
在本实施例的一些可选的实现方式中,汇总单元,进一步被配置成按照如下方式执行根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总:检查目标数据的标注进度;响应于确定标注进度为将目标数据的各个待标注对象所对应的属性值均标注完成,实时分别对各个待标注对象所对应的属性值进行汇总。
在本实施例的一些可选的实现方式中,装置还包括:对目标数据生成通用唯一识别码,其中,通用唯一识别码包括以下的至少两项:目标数据的数据类型、获取时间、数据批次编号、数据编号。
在本实施例的一些可选的实现方式中,汇总单元,进一步被配置成按照如下方式执行检查目标数据的标注进度:对目标数据的待标注对象的属性值标注事件,生成包括通用唯一识别码的事件进度记录;以及汇总单元,进一步被配置成按照如下方式执行响应于确定标注进度为将目标数据的各个待标注对象的属性值均标注完成:响应于确定包括通用唯一识别码的各个事件进度记录指示的属性值标注事件均完成。
在本实施例的一些可选的实现方式中,汇总单元,进一步被配置成按照如下方式执行检查目标数据的标注进度:轮询包括目标数据的多个数据的标注进度,其中,多个数据为同一个标注批次的待标注数据。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图6所示,是根据本公开实施例的数据的标注方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本公开所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本公开所提供的数据的标注方法。本公开的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本公开所提供的数据的标注方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本公开实施例中的数据的标注方法对应的程序指令/模块(例如,附图5所示的获取单元501、汇总单元502和确定单元503)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的数据的标注方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据数据的标注电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至数据的标注电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
数据的标注方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与数据的标注电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、汇总单元和确定单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值的单元”。
作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:响应于获取到目标数据中的待标注对象,获取对待标注对象标注的、多个属性的属性值;根据预设的标注需求属性,对待标注对象的多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;根据目标数据中各个待标注对象的汇总结果,确定目标数据的标注结果。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (19)
1.一种数据的标注方法,所述方法包括:
响应于获取到目标数据中的待标注对象,获取对所述待标注对象标注的、多个属性的属性值;
根据预设的标注需求属性,对所述待标注对象的所述多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;
根据所述目标数据中各个待标注对象的汇总结果,确定所述目标数据的标注结果。
2.根据权利要求1所述的方法,其中,
所述多个属性的属性值的标注过程是并行的。
3.根据权利要求1或2所述的方法,其中,所述响应于获取到目标数据中的待标注对象,获取对所述待标注对象标注的、多个属性的属性值,包括:
向对象标注终端分发对所述目标数据的对象标注任务;
响应于接收到所述对象标注终端返回的所述待标注对象,向属性标注终端分发对所述待标注对象的属性值标注任务,以使各个属性标注终端并行执行所述多个属性的属性值的标注过程;
接收所述属性标注终端返回的属性值。
4.根据权利要求1或2所述的方法,其中,所述根据预设的标注需求属性,对所述待标注对象的所述多个属性中,至少两个属性的属性值进行汇总,包括:
响应于所述多个属性中,存在不属于所述标注需求属性的第一目标属性,对所述多个属性中所述第一目标属性以外的属性的属性值进行汇总;
响应于所述标注需求属性中,存在不属于所述多个属性的第二目标属性,对所述多个属性中属性的属性值,以及所述第二目标属性的属性值进行汇总,其中,所述第二目标属性的属性值为默认值或空值。
5.根据权利要求1或2所述的方法,其中,所述根据预设的标注需求属性,对所述待标注对象的所述多个属性中,至少两个属性的属性值进行汇总,包括:
检查所述目标数据的标注进度;
响应于确定所述标注进度为将所述目标数据的各个待标注对象所对应的属性值均标注完成,实时分别对所述各个待标注对象所对应的属性值进行汇总。
6.根据权利要求5所述的方法,其中,所述方法还包括:
对所述目标数据生成通用唯一识别码,其中,所述通用唯一识别码包括以下的至少两项:所述目标数据的数据类型、获取时间、数据批次编号、数据编号。
7.根据权利要求6所述的方法,其中,所述检查所述目标数据的标注进度,包括:对所述目标数据的待标注对象的属性值标注事件,生成包括所述通用唯一识别码的事件进度记录;以及
所述响应于确定所述标注进度为将所述目标数据的各个待标注对象的属性值均标注完成,包括:
响应于确定包括所述通用唯一识别码的各个事件进度记录指示的属性值标注事件均完成。
8.根据权利要求5所述的方法,其中,所述检查所述目标数据的标注进度,包括:
轮询包括所述目标数据的多个数据的标注进度,其中,所述多个数据为同一个标注批次的待标注数据。
9.一种数据的标注装置,所述装置包括:
获取单元,被配置成响应于获取到目标数据中的待标注对象,获取对所述待标注对象标注的、多个属性的属性值;
汇总单元,被配置成根据预设的标注需求属性,对所述待标注对象的所述多个属性中,至少两个属性的属性值进行汇总,得到汇总结果;
确定单元,被配置成根据所述目标数据中各个待标注对象的所述汇总结果,确定所述目标数据的标注结果。
10.根据权利要求9所述的装置,其中,
所述多个属性的属性值的标注过程是并行的。
11.根据权利要求9或10所述的装置,其中,所述获取单元,进一步被配置成按照如下方式执行所述响应于获取到目标数据中的待标注对象,获取对所述待标注对象标注的、多个属性的属性值:
向对象标注终端分发对所述目标数据的对象标注任务;
响应于接收到所述对象标注终端返回的所述待标注对象,向属性标注终端分发对所述待标注对象的属性值标注任务,以使各个属性标注终端并行执行所述多个属性的属性值的标注过程;
接收所述属性标注终端返回的属性值。
12.根据权利要求9或10所述的装置,其中,所述汇总单元,进一步被配置成按照如下方式执行所述根据预设的标注需求属性,对所述待标注对象的所述多个属性中,至少两个属性的属性值进行汇总:
响应于所述多个属性中,存在不属于所述标注需求属性的第一目标属性,对所述多个属性中所述第一目标属性以外的属性的属性值进行汇总;
响应于所述标注需求属性中,存在不属于所述多个属性的第二目标属性,对所述多个属性中属性的属性值,以及所述第二目标属性的属性值进行汇总,其中,所述第二目标属性的属性值为默认值或空值。
13.根据权利要求9或10所述的装置,其中,所述汇总单元,进一步被配置成按照如下方式执行所述根据预设的标注需求属性,对所述待标注对象的所述多个属性中,至少两个属性的属性值进行汇总:
检查所述目标数据的标注进度;
响应于确定所述标注进度为将所述目标数据的各个待标注对象所对应的属性值均标注完成,实时分别对所述各个待标注对象所对应的属性值进行汇总。
14.根据权利要求13所述的装置,其中,所述装置还包括:
对所述目标数据生成通用唯一识别码,其中,所述通用唯一识别码包括以下的至少两项:所述目标数据的数据类型、获取时间、数据批次编号、数据编号。
15.根据权利要求13所述的装置,其中,所述汇总单元,进一步被配置成按照如下方式执行所述检查所述目标数据的标注进度:对所述目标数据的待标注对象的属性值标注事件,生成包括所述通用唯一识别码的事件进度记录;以及
所述汇总单元,进一步被配置成按照如下方式执行所述响应于确定所述标注进度为将所述目标数据的各个待标注对象的属性值均标注完成:
响应于确定包括所述通用唯一识别码的各个事件进度记录指示的属性值标注事件均完成。
16.根据权利要求13所述的装置,其中,所述汇总单元,进一步被配置成按照如下方式执行所述检查所述目标数据的标注进度:
轮询包括所述目标数据的多个数据的标注进度,其中,所述多个数据为同一个标注批次的待标注数据。
17.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
18.一种计算机可读存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-8中任一所述的方法。
19.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-8中任一所述的方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110737954.0A CN113420149A (zh) | 2021-06-30 | 2021-06-30 | 数据的标注方法和装置 |
US17/576,838 US20220147700A1 (en) | 2021-06-30 | 2022-01-14 | Method and apparatus for annotating data |
EP22151579.4A EP3992866A3 (en) | 2021-06-30 | 2022-01-14 | Method and apparatus for annotating data |
JP2022025339A JP2022078129A (ja) | 2021-06-30 | 2022-02-22 | データラベリング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム |
KR1020220024323A KR20220032026A (ko) | 2021-06-30 | 2022-02-24 | 데이터 어노테이션 방법 및 장치, 전자 기기, 컴퓨터 판독 가능한 저장 매체 및 컴퓨터 프로그램 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110737954.0A CN113420149A (zh) | 2021-06-30 | 2021-06-30 | 数据的标注方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113420149A true CN113420149A (zh) | 2021-09-21 |
Family
ID=77717344
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110737954.0A Pending CN113420149A (zh) | 2021-06-30 | 2021-06-30 | 数据的标注方法和装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20220147700A1 (zh) |
EP (1) | EP3992866A3 (zh) |
JP (1) | JP2022078129A (zh) |
KR (1) | KR20220032026A (zh) |
CN (1) | CN113420149A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116048478B (zh) * | 2023-03-07 | 2023-05-30 | 智慧眼科技股份有限公司 | 一种字典转义方法、装置、设备及计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111309995A (zh) * | 2020-01-19 | 2020-06-19 | 北京市商汤科技开发有限公司 | 标注方法及装置、电子设备和存储介质 |
CN112989087A (zh) * | 2021-01-26 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、设备以及计算机可读存储介质 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050060643A1 (en) * | 2003-08-25 | 2005-03-17 | Miavia, Inc. | Document similarity detection and classification system |
US20050108630A1 (en) * | 2003-11-19 | 2005-05-19 | Wasson Mark D. | Extraction of facts from text |
US20090171961A1 (en) * | 2007-12-28 | 2009-07-02 | Jason Fredrickson | Workflow collaboration in a forensic investigations system |
AU2012258648B2 (en) * | 2011-05-24 | 2017-11-23 | Anand, Indu M | A method and system for computer-aided consumption of information from application data files |
US20150178134A1 (en) * | 2012-03-13 | 2015-06-25 | Google Inc. | Hybrid Crowdsourcing Platform |
US10032280B2 (en) * | 2014-09-19 | 2018-07-24 | Brain Corporation | Apparatus and methods for tracking salient features |
JP6946081B2 (ja) * | 2016-12-22 | 2021-10-06 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
JP7122713B2 (ja) * | 2017-06-30 | 2022-08-22 | 株式会社Abeja | 機械学習又は推論のための計算機システム及び方法 |
CN111052126A (zh) * | 2017-09-04 | 2020-04-21 | 华为技术有限公司 | 行人属性识别与定位方法以及卷积神经网络系统 |
CN107783960B (zh) * | 2017-10-23 | 2021-07-23 | 百度在线网络技术(北京)有限公司 | 用于抽取信息的方法、装置和设备 |
TWI651662B (zh) * | 2017-11-23 | 2019-02-21 | 財團法人資訊工業策進會 | 影像標註方法、電子裝置及非暫態電腦可讀取儲存媒體 |
JP7211735B2 (ja) * | 2018-08-29 | 2023-01-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 寄与度決定方法、寄与度決定装置及びプログラム |
US11364903B2 (en) * | 2018-09-28 | 2022-06-21 | Logistics and Supply Chain MultiTech R&D Centre Limited | Automated guide vehicle with a collision avoidance apparatus |
US20200118647A1 (en) * | 2018-10-12 | 2020-04-16 | Ancestry.Com Dna, Llc | Phenotype trait prediction with threshold polygenic risk score |
US11030755B2 (en) * | 2019-05-13 | 2021-06-08 | Cisco Technology, Inc. | Multi-spatial scale analytics |
US20210019349A1 (en) * | 2019-07-19 | 2021-01-21 | International Business Machines Corporation | Bias reduction in crowdsourced tasks |
US11126855B2 (en) * | 2019-08-08 | 2021-09-21 | Robert Bosch Gmbh | Artificial-intelligence powered ground truth generation for object detection and tracking on image sequences |
US20210056251A1 (en) * | 2019-08-22 | 2021-02-25 | Educational Vision Technologies, Inc. | Automatic Data Extraction and Conversion of Video/Images/Sound Information from a Board-Presented Lecture into an Editable Notetaking Resource |
US11849196B2 (en) * | 2019-09-11 | 2023-12-19 | Educational Vision Technologies, Inc. | Automatic data extraction and conversion of video/images/sound information from a slide presentation into an editable notetaking resource with optional overlay of the presenter |
US11586811B2 (en) * | 2020-03-31 | 2023-02-21 | Capital One Services, Llc | Multi-layer graph-based categorization |
-
2021
- 2021-06-30 CN CN202110737954.0A patent/CN113420149A/zh active Pending
-
2022
- 2022-01-14 EP EP22151579.4A patent/EP3992866A3/en active Pending
- 2022-01-14 US US17/576,838 patent/US20220147700A1/en not_active Abandoned
- 2022-02-22 JP JP2022025339A patent/JP2022078129A/ja active Pending
- 2022-02-24 KR KR1020220024323A patent/KR20220032026A/ko unknown
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111309995A (zh) * | 2020-01-19 | 2020-06-19 | 北京市商汤科技开发有限公司 | 标注方法及装置、电子设备和存储介质 |
CN112989087A (zh) * | 2021-01-26 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、设备以及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
EP3992866A3 (en) | 2022-08-03 |
EP3992866A2 (en) | 2022-05-04 |
US20220147700A1 (en) | 2022-05-12 |
KR20220032026A (ko) | 2022-03-15 |
JP2022078129A (ja) | 2022-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3989115A1 (en) | Method and apparatus for vehicle re-identification, training method and electronic device | |
CN111095215B (zh) | 应用间传递格式特定的数据对象 | |
CN112541359B (zh) | 文档内容识别方法、装置、电子设备及介质 | |
CN111695628A (zh) | 关键点标注方法、装置、电子设备及存储介质 | |
CN112527374A (zh) | 标注工具生成方法、标注方法、装置、设备以及存储介质 | |
KR20210132622A (ko) | 데이터 처리 방법, 장치, 전자 설비 및 저장매체 | |
CN111753911A (zh) | 用于融合模型的方法和装置 | |
CN112270532B (zh) | 一种数据处理方法、装置、电子设备以及存储介质 | |
CN113420149A (zh) | 数据的标注方法和装置 | |
CN111523292B (zh) | 用于获取图像信息的方法和装置 | |
CN110865421B (zh) | 自动驾驶业务模型训练方法、检测方法、装置和电子设备 | |
CN112561059A (zh) | 用于模型蒸馏的方法和装置 | |
CN111507405A (zh) | 图片标注方法、装置、电子设备及计算机可读存储介质 | |
CN111783635A (zh) | 图像标注方法、装置、设备以及存储介质 | |
CN113592981B (zh) | 图片标注方法、装置、电子设备和存储介质 | |
CN113345101B (zh) | 三维点云标注方法、装置、设备及存储介质 | |
CN113157170B (zh) | 数据的标注方法和装置 | |
CN113591580A (zh) | 图像标注方法、装置、电子设备和存储介质 | |
CN113326901A (zh) | 图像的标注方法和装置 | |
CN112529181A (zh) | 用于模型蒸馏的方法和装置 | |
CN113033485A (zh) | 关键点的检测方法和装置 | |
CN112733879A (zh) | 针对不同场景的模型蒸馏方法和装置 | |
CN112560459A (zh) | 用于模型训练的样本筛选方法、装置、设备及存储介质 | |
US20230119741A1 (en) | Picture annotation method, apparatus, electronic device, and storage medium | |
CN115732061A (zh) | 数据标注的方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |