CN113240126A - 标注管理方法、装置、设备及存储介质 - Google Patents
标注管理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113240126A CN113240126A CN202110288576.2A CN202110288576A CN113240126A CN 113240126 A CN113240126 A CN 113240126A CN 202110288576 A CN202110288576 A CN 202110288576A CN 113240126 A CN113240126 A CN 113240126A
- Authority
- CN
- China
- Prior art keywords
- marker
- annotation
- marking
- annotator
- speed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 239000003550 marker Substances 0.000 claims abstract description 143
- 238000002372 labelling Methods 0.000 claims abstract description 76
- 238000007726 management method Methods 0.000 claims description 44
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008859 change Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 7
- 238000009499 grossing Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 12
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供了一种标注管理方法、装置、设备及存储介质，所述方法包括：针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值；根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比；根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。所述方法可以根据分配数量占比对待标注图像进行分配，分配到每个标注员的待标注图像与该标注员的标注参数的参数值相匹配，可以合理分配标注任务，实现智能化的标注管理功能。
Description
技术领域
本申请涉及数据处理技术领域，尤其涉及标注管理方法、装置、设备及存储介质。
背景技术
随着人工智能技术的不断进步，深度学习技术在各行各业的应用越来越突出。其中对于深度学习模型的有监督训练，需要大量的训练数据，数据的质量决定了模型的上限，而训练数据的产生是离不开数据标注的，数据标注作为机器学习工程中重要的一环，是构建AI金字塔的基础。
目前的标注管理方法多为随机分配任务，每个标注员分配到的任务量一般是均等的，任务量无法与标注员的标注速度等参数相匹配，会造成分配不合理的情况。
发明内容
本申请的目的在于提供标注管理方法、装置、电子设备及计算机可读存储介质，可以合理分配标注任务，实现智能化的标注管理功能。
本申请的目的采用以下技术方案实现：
第一方面，本申请提供了一种标注管理方法，所述方法包括：针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值；根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比；根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。该技术方案的有益效果在于，可以根据预设时长内每个标注员的标注数据，得到每个标注员对应的标注参数的参数值，从而获取每个标注员的分配数量占比，根据分配数量占比对待标注图像进行分配，分配到每个标注员的待标注图像与该标注员的标注参数的参数值相匹配，可以合理分配标注任务，实现智能化的标注管理功能。
在一些可选的实施例中，所述标注员的标注参数包括以下至少一种：所述标注员的每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度；所述标注员的所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度。该技术方案的有益效果在于，标注员的标注参数可以包括每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度，还可以包括所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度，一方面，当待标注图像的标注类型较为单一时，可以根据标注员在每个标注类型上的标注参数获取该标注员的分配数量占比，另一方面，当待标注图像的标注类型较多时，还可以根据标注员在所有标注类型上的总体标注参数获取该标注员的分配数量占比。
在一些可选的实施例中，所述根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比，包括：针对每个所述标注员，获取所述标注员的每个标注参数的参数值对应的权重系数；计算所述标注员的所有标注参数的参数值对应的权重系数之和，作为所述标注员的权重参数；根据所有标注员的权重参数，确定每个标注员的分配数量占比。该技术方案的有益效果在于，可以获取每个标注员对应的每个标注参数的参数值的权重系数，将其权重系数之和作为该标注员的权重参数，根据所有标注员的权重参数，可以得到每个标注员的权重参数在所有标注员的权重参数之和中的比例，从而确定每个标注员的分配数量占比。
在一些可选的实施例中，所述标注员的标注参数包括所述标注员的每个标注类型的类型平均标注速度；所述方法还包括：根据所述标注员的每个标注类型的类型平均标注速度，确定其中最大的一个类型平均标注速度对应的标注类型作为所述标注员的擅长标注类型；所述根据每个标注员的分配数量占比，对所有待标注图像进行分配，包括：根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配。该技术方案的有益效果在于，一方面，当标注员在某一类型上的类型平均标注速度在所有类型平均标注速度中最大时，该标注员擅长标注该类型的图像，可以将该类型作为该标注员的擅长标注类型；另一方面，可以根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配，在为每个标注员分配待标注图像时，可以结合每个标注员的擅长标注类型，优先将擅长标注类型的待标注图像分配到对应的标注员。
在一些可选的实施例中，所述标注员的标注参数包括所述标注员的总体标注数量；所述方法还包括：根据所有标注员的总体标注数量计算平均值，记为第一均值；根据所述第一均值，确定第一预设范围，所述第一预设范围是包含所述第一均值的范围；针对每个标注员，当检测到所述标注员的总体标注数量不处于所述第一预设范围时，生成第一提示信息并发送至云服务器和/或用户设备。该技术方案的有益效果在于，可以根据所有标注员的总体标注数量和标注员的数量计算第一均值，通过对比每个标注员的总体标注数量和第一均值，当标注员的总体标注数量较大或者较少，不处于第一预设范围时，可以生成第一提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员工作进展较快或者较慢的情况。
在一些可选的实施例中，所述标注员的标注参数包括所述标注员的总体平均标注速度；所述方法还包括：根据所有标注员的总体平均标注速度计算平均值，记为第二均值；根据所述第二均值，确定第二预设范围，所述第二预设范围是包含所述第二均值的范围；针对每个标注员，当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备。该技术方案的有益效果在于，可以根据所有标注员的总体平均标注速度和标注员的数量计算第二均值，通过对比每个标注员的总体平均标注速度和第二均值，当标注员的总体平均标注速度较大或者较小，不处于第二预设范围时，可以生成第二提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员工作进展较快或者较慢的情况。
在一些可选的实施例中，所述标注员的标注参数还包括所述标注员的总体最大标注速度；所述当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备，包括：当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，计算所述标注员的总体最大标注速度与所述标注员的总体平均标注速度的差值；计算所述差值与所述标注员的总体平均标注速度的商值；当检测到所述商值大于预设值时，生成所述第二提示信息并发送至所述云服务器和/或所述用户设备。该技术方案的有益效果在于，当标注员的总体平均标注速度不处于第二预设范围时，可以计算该标注员的总体最大标注速度和总体平均标注速度的差值，从而计算出该差值与该标注员的总体平均标注速度的商值，当商值大于预设值时，该标注员的标注速度波动较大，不稳定，可以生成第二提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员具备快速标注能力却工作进展较慢的情况。
在一些可选的实施例中，所述方法还包括：针对每个所述标注员，根据所述标注员的标注数据，生成所述标注员的标注数量曲线，所述标注数量曲线用于指示所述标注员的总体标注数量随时间发生的变化；对所述标注数量曲线进行平滑处理；取所述标注数量曲线上的多个点的斜率，生成所述标注员的标注速度曲线；当检测到所述标注速度曲线出现波动幅度大于预设幅度的波动时，生成第三提示信息并发送至云服务器和/或用户设备。该技术方案的有益效果在于，可以根据每个标注员的标注数据，生成对应的标注数量曲线，根据标注数量曲线可以得到对应的标注员的标注速度曲线，当标注速度曲线出现幅度超过预设幅度的大幅度波动时，该标注员的标注速度变化过大，标注速度突然变快或者突然变慢，可以生成第三提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员的工作情况。
第二方面，本申请提供了一种标注管理装置，所述装置包括：数据获取模块，用于针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值；占比获取模块，用于根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比；分配模块，用于根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。
在一些可选的实施例中，所述标注员的标注参数包括以下至少一种：所述标注员的每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度；所述标注员的所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度。
在一些可选的实施例中，所述占比获取模块包括：系数获取单元，用于针对每个所述标注员，获取所述标注员的每个标注参数的参数值对应的权重系数；系数计算单元，用于计算所述标注员的所有标注参数的参数值对应的权重系数之和，作为所述标注员的权重参数；占比确定单元，用于根据所有标注员的权重参数，确定每个标注员的分配数量占比。
在一些可选的实施例中，所述标注员的标注参数包括所述标注员的每个标注类型的类型平均标注速度；所述装置还包括：擅长类型模块，用于根据所述标注员的每个标注类型的类型平均标注速度，确定其中最大的一个类型平均标注速度对应的标注类型作为所述标注员的擅长标注类型；所述分配模块用于根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配。
在一些可选的实施例中，所述标注员的标注参数包括所述标注员的总体标注数量；所述装置还包括第一提示模块，所述第一提示模块包括：第一均值单元，用于根据所有标注员的总体标注数量计算平均值，记为第一均值；第一范围单元，用于根据所述第一均值，确定第一预设范围，所述第一预设范围是包含所述第一均值的范围；第一发送单元，用于针对每个标注员，当检测到所述标注员的总体标注数量不处于所述第一预设范围时，生成第一提示信息并发送至云服务器和/或用户设备。
在一些可选的实施例中，所述标注员的标注参数包括所述标注员的总体平均标注速度；所述装置还包括第二提示模块，所述第二提示模块包括：第二均值单元，用于根据所有标注员的总体平均标注速度计算平均值，记为第二均值；第二范围单元，用于根据所述第二均值，确定第二预设范围，所述第二预设范围是包含所述第二均值的范围；第二发送单元，用于针对每个标注员，当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备。
在一些可选的实施例中，所述标注员的标注参数还包括所述标注员的总体最大标注速度；所述第二发送单元包括：差值计算子单元，用于当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，计算所述标注员的总体最大标注速度与所述标注员的总体平均标注速度的差值；商值计算子单元，用于计算所述差值与所述标注员的总体平均标注速度的商值；信息发送子单元，用于当检测到所述商值大于预设值时，生成所述第二提示信息并发送至所述云服务器和/或所述用户设备。
在一些可选的实施例中，所述装置还包括第三提示模块，所述第三提示模块包括：数量曲线单元，用于针对每个所述标注员，根据所述标注员的标注数据，生成所述标注员的标注数量曲线，所述标注数量曲线用于指示所述标注员的总体标注数量随时间发生的变化；曲线处理单元，用于对所述标注数量曲线进行平滑处理；速度曲线单元，用于取所述标注数量曲线上的多个点的斜率，生成所述标注员的标注速度曲线；第三发送单元，用于当检测到所述标注速度曲线出现波动幅度大于预设幅度的波动时，生成第三提示信息并发送至云服务器和/或用户设备。
第三方面，本申请提供了一种电子设备，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述任一项方法的步骤。
第四方面，本申请提供了一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现上述任一项方法的步骤。
附图说明
下面结合附图和实施例对本申请进一步说明。
图1是本申请实施例提供的一种标注管理方法的流程示意图；
图2是本申请实施例提供的一种获取分配数量占比的流程示意图；
图3是本申请实施例提供的一种标注管理方法的流程示意图；
图4是本申请实施例提供的一种标注管理方法的流程示意图；
图5是本申请实施例提供的一种标注管理方法的流程示意图；
图6是本申请实施例提供的一种生成第二提示信息的流程示意图；
图7是本申请实施例提供的一种标注管理方法的流程示意图；
图8是本申请实施例提供的一种标注管理装置的结构示意图；
图9是本申请实施例提供的一种占比获取模块的结构示意图；
图10是本申请实施例提供的一种标注管理装置的结构示意图；
图11是本申请实施例提供的一种标注管理装置的结构示意图；
图12是本申请实施例提供的一种第一提示模块的结构示意图；
图13是本申请实施例提供的一种标注管理装置的结构示意图；
图14是本申请实施例提供的一种第二提示模块的结构示意图；
图15是本申请实施例提供的一种第二发送单元的结构示意图；
图16是本申请实施例提供的一种标注管理装置的结构示意图；
图17是本申请实施例提供的一种第三提示模块的结构示意图；
图18是本申请实施例提供的一种电子设备的结构框图；
图19是本申请实施例提供的一种用于实现标注管理方法的程序产品的结构示意图。
具体实施方式
下面，结合附图以及具体实施方式，对本申请做进一步描述，需要说明的是，在不相冲突的前提下，以下描述的各实施例之间或各技术特征之间可以任意组合形成新的实施例。
参见图1，本申请实施例提供了一种标注管理方法，所述方法包括步骤S101～S103。
步骤S101：针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值。预设时长例如是一小时或者一天。
在一具体实施方式中，所述标注员的标注参数可以包括以下至少一种：所述标注员的每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度；
所述标注员的所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度。
由此，标注员的标注参数可以包括每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度，还可以包括所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度，一方面，当待标注图像的标注类型较为单一时，可以根据标注员在每个标注类型上的标注参数获取该标注员的分配数量占比，另一方面，当待标注图像的标注类型较多时，还可以根据标注员在所有标注类型上的总体标注参数获取该标注员的分配数量占比。
在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的每个标注类型的类型标注准确率和/或所述标注员的所有标注类型的总体标注准确率，此时，类型标注准确率和总体标注准确率可以通过管理人员人工抽检的方式来确定，在人工抽检过程中，可以随机抽检该标注员在每个标注类型和所有标注类型的若干标注数据，也可以抽检该标注员在特定时间段的每个标注类型和所有标注类型的若干标注数据。
步骤S102：根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比。分配数量占比可以用百分数表示，分配数量占比例如是25％。
参见图2，在一具体实施方式中，所述步骤S102可以包括步骤S201～S203。
步骤S201：针对每个所述标注员，获取所述标注员的每个标注参数的参数值对应的权重系数。可以对标注员的每个标注参数的参数值进行评估，权重系数即为对应的标注参数的参数值的评估得分，一般而言，权重系数越高，该标注员对应的标注参数越优秀。
步骤S202：计算所述标注员的所有标注参数的参数值对应的权重系数之和，作为所述标注员的权重参数。一般而言，标注员的权重参数越高，其标注能力越优秀。
步骤S203：根据所有标注员的权重参数，确定每个标注员的分配数量占比。
举例说明：分别有甲、乙、丙、丁四个标注员，其中，甲的标注参数分别为总体标注数量、总体平均标注速度和总体最大标注速度，对应的参数值依次为800个、20个/分钟，30个/分钟，对应的权重系数依次为80、60、70，则甲的权重参数为210；
已知乙、丙、丁的权重参数依次为180、190、240，则甲、乙、丙、丁的权重参数依次为210、180、190、240，甲的权重参数在所有标注员的权重参数之和中占26％，可以确定甲的分配数量占比为26％。
由此，可以获取每个标注员对应的每个标注参数的参数值的权重系数，将其权重系数之和作为该标注员的权重参数，根据所有标注员的权重参数，可以得到每个标注员的权重参数在所有标注员的权重参数之和中的比例，从而确定每个标注员的分配数量占比。
步骤S103：根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。
由此，可以根据预设时长内每个标注员的标注数据，得到每个标注员对应的标注参数的参数值，从而获取每个标注员的分配数量占比，根据分配数量占比对待标注图像进行分配，分配到每个标注员的待标注图像与该标注员的标注参数的参数值相匹配，可以合理分配标注任务，实现智能化的标注管理功能。
参见图3，在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的每个标注类型的类型平均标注速度；
所述方法还可以包括步骤S104。
步骤S104：根据所述标注员的每个标注类型的类型平均标注速度，确定其中最大的一个类型平均标注速度对应的标注类型作为所述标注员的擅长标注类型。
所述步骤S103中所述根据每个标注员的分配数量占比，对所有待标注图像进行分配的方法可以包括：根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配。
举例说明：标注员甲的标注类型分别为：花、车、房屋，对应的类型平均标注速度依次为20个/分钟、25个/分钟、18个/分钟，确定车这一类型为标注员甲的擅长标注类型，在为甲分配待标注图像时，优先将类型为车的待标注图像分配给甲。
在一具体实施方式中，步骤S102可以包括：根据所有标注员的标注参数的参数值和擅长标注类型，获取每个标注员的分配数量占比。
由此，一方面，当标注员在某一类型上的类型平均标注速度在所有类型平均标注速度中最大时，该标注员擅长标注该类型的图像，可以将该类型作为该标注员的擅长标注类型；另一方面，可以根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配，在为每个标注员分配待标注图像时，可以结合每个标注员的擅长标注类型，优先将擅长标注类型的待标注图像分配到对应的标注员。
参见图4，在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的总体标注数量；
所述方法还可以包括步骤S105～S107。
步骤S105：根据所有标注员的总体标注数量计算平均值，记为第一均值。
步骤S106：根据所述第一均值，确定第一预设范围，所述第一预设范围是包含所述第一均值的范围。
举例说明：分别有甲、乙、丙、丁四个标注员，对应的总体标注数量依次为1000个、1200个、1100个、1300个，第一均值为1150个，第一预设范围为大于950个且小于1350个的数量范围，甲、乙、丙、丁的总体标注数量均处于第一预设范围。
步骤S107：针对每个标注员，当检测到所述标注员的总体标注数量不处于所述第一预设范围时，生成第一提示信息并发送至云服务器和/或用户设备。用户设备例如是手机、平板、电脑、智能穿戴设备等。
由此，可以根据所有标注员的总体标注数量和标注员的数量计算第一均值，通过对比每个标注员的总体标注数量和第一均值，当标注员的总体标注数量较大或者较少，不处于第一预设范围时，可以生成第一提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员工作进展较快或者较慢的情况。后续管理人员可以根据每个标注员的进展快慢进行相应的表彰和处罚，需要注意的是，还可以对标注数量过大的标注员的标注数据进行抽检，检查是否存在胡乱标注的情况。
参见图5，在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的总体平均标注速度；
所述方法还可以包括步骤S108～S1010。
步骤S108：根据所有标注员的总体平均标注速度计算平均值，记为第二均值。
步骤S109：根据所述第二均值，确定第二预设范围，所述第二预设范围是包含所述第二均值的范围。
举例说明：分别有甲、乙、丙、丁四个标注员，对应的总体平均标注速度依次为20个/分钟、50个/分钟、30个/分钟、60个/分钟，第二均值为40个/分钟，第二预设范围为大于25个/分钟且小于70个/分钟的数量范围，乙、丙、丁的总体平均标注速度均处于第二预设范围，甲的总体平均标注速度不处于第二预设范围。
步骤S1010：针对每个标注员，当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备。
由此，可以根据所有标注员的总体平均标注速度和标注员的数量计算第二均值，通过对比每个标注员的总体平均标注速度和第二均值，当标注员的总体平均标注速度较大或者较小，不处于第二预设范围时，可以生成第二提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员工作进展较快或者较慢的情况。需要注意的是，还可以对标注速度过高的标注员的标注数据进行抽检，检查是否存在胡乱标注的情况。
参见图6，在一具体实施方式中，所述标注员的标注参数还包括所述标注员的总体最大标注速度；
所述步骤S1010可以包括步骤S301～S303。
步骤S301：当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，计算所述标注员的总体最大标注速度与所述标注员的总体平均标注速度的差值。
步骤S302：计算所述差值与所述标注员的总体平均标注速度的商值。
步骤S303：当检测到所述商值大于预设值时，生成所述第二提示信息并发送至所述云服务器和/或所述用户设备。
举例说明：标注员甲的总体平均标注速度为20个/分钟，总体最大标注速度为45个/分钟，第二均值为40个/分钟，第二预设范围为大于25个/分钟且小于70个/分钟的数量范围，甲的总体平均标注速度不处于第二预设范围，甲的总体最大标注速度与总体平均标注速度的差值为25个/分钟，该差值与甲的总体平均标注速度的商值为1.25，预设值如果为0.8，则该商值大于预设值。
由此，当标注员的总体平均标注速度不处于第二预设范围时，可以计算该标注员的总体最大标注速度和总体平均标注速度的差值，从而计算出该差值与该标注员的总体平均标注速度的商值，当商值大于预设值时，该标注员的标注速度波动较大，不稳定，可以生成第二提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员具备快速标注能力却工作进展较慢的情况。
参见图7，在一具体实施方式中，所述方法还可以包括步骤S1011～S1014。
步骤S1011：针对每个所述标注员，根据所述标注员的标注数据，生成所述标注员的标注数量曲线，所述标注数量曲线用于指示所述标注员的总体标注数量随时间发生的变化。
步骤S1012：对所述标注数量曲线进行平滑处理。
步骤S1013：取所述标注数量曲线上的多个点的斜率，生成所述标注员的标注速度曲线。
步骤S1014：当检测到所述标注速度曲线出现波动幅度大于预设幅度的波动时，生成第三提示信息并发送至云服务器和/或用户设备。
由此，可以根据每个标注员的标注数据，生成对应的标注数量曲线，根据标注数量曲线可以得到对应的标注员的标注速度曲线，当标注速度曲线出现幅度超过预设幅度的大幅度波动时，该标注员的标注速度变化过大，标注速度突然变快或者突然变慢，可以生成第三提示信息并发送至云服务器和/或用户设备，便于管理人员及时知晓该标注员的工作情况。
参见图8，本申请实施例还提供了一种标注管理装置，其具体实现方式与上述标注管理方法的实施例中记载的实施方式、所达到的技术效果一致，部分内容不再赘述。
所述装置包括：数据获取模块101，用于针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值；占比获取模块102，用于根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比；分配模块103，用于根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。
在一具体实施方式中，所述标注员的标注参数可以包括以下至少一种：所述标注员的每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度；所述标注员的所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度。
参见图9，在一具体实施方式中，所述占比获取模块102可以包括：系数获取单元1021，可以用于针对每个所述标注员，获取所述标注员的每个标注参数的参数值对应的权重系数；系数计算单元1022，可以用于计算所述标注员的所有标注参数的参数值对应的权重系数之和，作为所述标注员的权重参数；占比确定单元1023，可以用于根据所有标注员的权重参数，确定每个标注员的分配数量占比。
参见图10，在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的每个标注类型的类型平均标注速度；所述装置还可以包括：擅长类型模块104，可以用于根据所述标注员的每个标注类型的类型平均标注速度，确定其中最大的一个类型平均标注速度对应的标注类型作为所述标注员的擅长标注类型；所述分配模块103可以用于根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配。
参见图11-12，在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的总体标注数量；所述装置还可以包括第一提示模块105，所述第一提示模块105可以包括：第一均值单元1051，可以用于根据所有标注员的总体标注数量计算平均值，记为第一均值；第一范围单元1052，可以用于根据所述第一均值，确定第一预设范围，所述第一预设范围是包含所述第一均值的范围；第一发送单元1053，可以用于针对每个标注员，当检测到所述标注员的总体标注数量不处于所述第一预设范围时，生成第一提示信息并发送至云服务器和/或用户设备。
参见图13-14，在一具体实施方式中，所述标注员的标注参数可以包括所述标注员的总体平均标注速度；所述装置还可以包括第二提示模块106，所述第二提示模块106可以包括：第二均值单元1061，可以用于根据所有标注员的总体平均标注速度计算平均值，记为第二均值；第二范围单元1062，可以用于根据所述第二均值，确定第二预设范围，所述第二预设范围是包含所述第二均值的范围；第二发送单元1063，可以用于针对每个标注员，当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备。
参见图15，在一具体实施方式中，所述标注员的标注参数还可以包括所述标注员的总体最大标注速度；所述第二发送单元1063可以包括：差值计算子单元1063a，可以用于当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，计算所述标注员的总体最大标注速度与所述标注员的总体平均标注速度的差值；商值计算子单元1063b，可以用于计算所述差值与所述标注员的总体平均标注速度的商值；信息发送子单元1063c，可以用于当检测到所述商值大于预设值时，生成所述第二提示信息并发送至所述云服务器和/或所述用户设备。
参见图16-17，在一具体实施方式中，所述装置还可以包括第三提示模块107，所述第三提示模块107可以包括：数量曲线单元1071，可以用于针对每个所述标注员，根据所述标注员的标注数据，生成所述标注员的标注数量曲线，所述标注数量曲线可以用于指示所述标注员的总体标注数量随时间发生的变化；曲线处理单元1072，可以用于对所述标注数量曲线进行平滑处理；速度曲线单元1073，可以用于取所述标注数量曲线上的多个点的斜率，生成所述标注员的标注速度曲线；第三发送单元1074，可以用于当检测到所述标注速度曲线出现波动幅度大于预设幅度的波动时，生成第三提示信息并发送至云服务器和/或用户设备。
参见图18，本申请实施例还提供了一种电子设备200，电子设备200包括至少一个存储器210、至少一个处理器220以及连接不同平台系统的总线230。
存储器210可以包括易失性存储器形式的可读介质，例如随机存取存储器(RAM)211和/或高速缓存存储器212，还可以进一步包括只读存储器(ROM)213。
其中，存储器210还存储有计算机程序，计算机程序可以被处理器220执行，使得处理器220执行本申请实施例中标注管理方法的步骤，其具体实现方式与上述标注管理方法的实施例中记载的实施方式、所达到的技术效果一致，部分内容不再赘述。
存储器210还可以包括具有一组(至少一个)程序模块215的程序/实用工具214，这样的程序模块包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
相应的，处理器220可以执行上述计算机程序，以及可以执行程序/实用工具214。
总线230可以为表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器、外围总线、图形加速端口、处理器或者使用多种总线结构中的任意总线结构的局域总线。
电子设备200也可以与一个或多个外部设备240例如键盘、指向设备、蓝牙设备等通信，还可与一个或者多个能够与该电子设备200交互的设备通信，和/或与使得该电子设备200能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/得到(I/O)接口250进行。并且，电子设备200还可以通过网络适配器260与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器260可以通过总线230与电子设备200的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备200使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本申请实施例还提供了一种计算机可读存储介质，该计算机可读存储介质用于存储计算机程序，所述计算机程序被执行时实现本申请实施例中标注管理方法的步骤，其具体实现方式与上述标注管理方法的实施例中记载的实施方式、所达到的技术效果一致，部分内容不再赘述。
图19示出了本实施例提供的用于实现上述标注管理方法的程序产品300，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品300不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。程序产品300可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，程序设计语言包括面向对象的程序设计语言诸如Java、C++等，还包括常规的过程式程序设计语言诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本申请从使用目的上，效能上，进步及新颖性等观点进行阐述，其设置有的实用进步性，已符合专利法所强调的功能增进及使用要件，本申请以上的说明及附图，仅为本申请的较佳实施例而已，并非以此局限本申请，因此，凡一切与本申请构造，装置，特征等近似、雷同的，即凡依本申请专利申请范围所作的等同替换或修饰等，皆应属本申请的专利申请保护的范围之内。
Claims (18)
1.一种标注管理方法，其特征在于，所述方法包括：
针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值；
根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比；
根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。
2.根据权利要求1所述的标注管理方法，其特征在于，所述标注员的标注参数包括以下至少一种：
所述标注员的每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度；
所述标注员的所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度。
3.根据权利要求1所述的标注管理方法，其特征在于，所述根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比，包括：
针对每个所述标注员，获取所述标注员的每个标注参数的参数值对应的权重系数；
计算所述标注员的所有标注参数的参数值对应的权重系数之和，作为所述标注员的权重参数；
根据所有标注员的权重参数，确定每个标注员的分配数量占比。
4.根据权利要求1所述的标注管理方法，其特征在于，所述标注员的标注参数包括所述标注员的每个标注类型的类型平均标注速度；
所述方法还包括：
根据所述标注员的每个标注类型的类型平均标注速度，确定其中最大的一个类型平均标注速度对应的标注类型作为所述标注员的擅长标注类型；
所述根据每个标注员的分配数量占比，对所有待标注图像进行分配，包括：
根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配。
5.根据权利要求1所述的标注管理方法，其特征在于，所述标注员的标注参数包括所述标注员的总体标注数量；
所述方法还包括：
根据所有标注员的总体标注数量计算平均值，记为第一均值；
根据所述第一均值，确定第一预设范围，所述第一预设范围是包含所述第一均值的范围；
针对每个标注员，当检测到所述标注员的总体标注数量不处于所述第一预设范围时，生成第一提示信息并发送至云服务器和/或用户设备。
6.根据权利要求1所述的标注管理方法，其特征在于，所述标注员的标注参数包括所述标注员的总体平均标注速度；
所述方法还包括：
根据所有标注员的总体平均标注速度计算平均值，记为第二均值；
根据所述第二均值，确定第二预设范围，所述第二预设范围是包含所述第二均值的范围；
针对每个标注员，当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备。
7.根据权利要求6所述的标注管理方法，其特征在于，所述标注员的标注参数还包括所述标注员的总体最大标注速度；
所述当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备，包括：
当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，计算所述标注员的总体最大标注速度与所述标注员的总体平均标注速度的差值；
计算所述差值与所述标注员的总体平均标注速度的商值；
当检测到所述商值大于预设值时，生成所述第二提示信息并发送至所述云服务器和/或所述用户设备。
8.根据权利要求1所述的标注管理方法，其特征在于，所述方法还包括：
针对每个所述标注员，根据所述标注员的标注数据，生成所述标注员的标注数量曲线，所述标注数量曲线用于指示所述标注员的总体标注数量随时间发生的变化；
对所述标注数量曲线进行平滑处理；
取所述标注数量曲线上的多个点的斜率，生成所述标注员的标注速度曲线；
当检测到所述标注速度曲线出现波动幅度大于预设幅度的波动时，生成第三提示信息并发送至云服务器和/或用户设备。
9.一种标注管理装置，其特征在于，所述装置包括：
数据获取模块，用于针对每个标注员，获取预设时长内所述标注员的标注数据，并根据所述标注员的标注数据得到所述标注员的标注参数的参数值；
占比获取模块，用于根据所有标注员的标注参数的参数值，获取每个标注员的分配数量占比；
分配模块，用于根据每个标注员的分配数量占比，对所有待标注图像进行分配，得到每个标注员的待标注图像。
10.根据权利要求9所述的标注管理装置，其特征在于，所述标注员的标注参数包括以下至少一种：
所述标注员的每个标注类型的类型标注数量、类型平均标注速度和类型最大标注速度；
所述标注员的所有标注类型的总体标注数量、总体平均标注速度和总体最大标注速度。
11.根据权利要求9所述的标注管理装置，其特征在于，所述占比获取模块包括：
系数获取单元，用于针对每个所述标注员，获取所述标注员的每个标注参数的参数值对应的权重系数；
系数计算单元，用于计算所述标注员的所有标注参数的参数值对应的权重系数之和，作为所述标注员的权重参数；
占比确定单元，用于根据所有标注员的权重参数，确定每个标注员的分配数量占比。
12.根据权利要求9所述的标注管理装置，其特征在于，所述标注员的标注参数包括所述标注员的每个标注类型的类型平均标注速度；
所述装置还包括：
擅长类型模块，用于根据所述标注员的每个标注类型的类型平均标注速度，确定其中最大的一个类型平均标注速度对应的标注类型作为所述标注员的擅长标注类型；
所述分配模块用于根据每个标注员的分配数量占比和擅长标注类型，对所有待标注图像进行分配。
13.根据权利要求9所述的标注管理装置，其特征在于，所述标注员的标注参数包括所述标注员的总体标注数量；
所述装置还包括第一提示模块，所述第一提示模块包括：
第一均值单元，用于根据所有标注员的总体标注数量计算平均值，记为第一均值；
第一范围单元，用于根据所述第一均值，确定第一预设范围，所述第一预设范围是包含所述第一均值的范围；
第一发送单元，用于针对每个标注员，当检测到所述标注员的总体标注数量不处于所述第一预设范围时，生成第一提示信息并发送至云服务器和/或用户设备。
14.根据权利要求9所述的标注管理装置，其特征在于，所述标注员的标注参数包括所述标注员的总体平均标注速度；
所述装置还包括第二提示模块，所述第二提示模块包括：
第二均值单元，用于根据所有标注员的总体平均标注速度计算平均值，记为第二均值；
第二范围单元，用于根据所述第二均值，确定第二预设范围，所述第二预设范围是包含所述第二均值的范围；
第二发送单元，用于针对每个标注员，当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，生成第二提示信息并发送至云服务器和/或用户设备。
15.根据权利要求14所述的标注管理装置，其特征在于，所述标注员的标注参数还包括所述标注员的总体最大标注速度；
所述第二发送单元包括：
差值计算子单元，用于当检测到所述标注员的总体平均标注速度不处于所述第二预设范围时，计算所述标注员的总体最大标注速度与所述标注员的总体平均标注速度的差值；
商值计算子单元，用于计算所述差值与所述标注员的总体平均标注速度的商值；
信息发送子单元，用于当检测到所述商值大于预设值时，生成所述第二提示信息并发送至所述云服务器和/或所述用户设备。
16.根据权利要求9所述的标注管理装置，其特征在于，所述装置还包括第三提示模块，所述第三提示模块包括：
数量曲线单元，用于针对每个所述标注员，根据所述标注员的标注数据，生成所述标注员的标注数量曲线，所述标注数量曲线用于指示所述标注员的总体标注数量随时间发生的变化；
曲线处理单元，用于对所述标注数量曲线进行平滑处理；
速度曲线单元，用于取所述标注数量曲线上的多个点的斜率，生成所述标注员的标注速度曲线；
第三发送单元，用于当检测到所述标注速度曲线出现波动幅度大于预设幅度的波动时，生成第三提示信息并发送至云服务器和/或用户设备。
17.一种电子设备，其特征在于，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现权利要求1-8任一项所述方法的步骤。
18.一种计算机可读存储介质，其特征在于，存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-8任一项所述方法的步骤。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2021100402902 | 2021-01-13 | ||
| CN202110040290 | 2021-01-13 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113240126A true CN113240126A (zh) | 2021-08-10 |
Family
ID=77130339
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110288576.2A Pending CN113240126A (zh) | 2021-01-13 | 2021-03-18 | 标注管理方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113240126A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113407980A (zh) * | 2021-08-18 | 2021-09-17 | 深圳市信润富联数字科技有限公司 | 数据标注系统 |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108320097A (zh) * | 2018-02-01 | 2018-07-24 | 北京百度网讯科技有限公司 | 用于分配工作量的方法和装置 |
| CN108805397A (zh) * | 2018-04-24 | 2018-11-13 | 平安科技（深圳）有限公司 | 电子装置、分配任务的方法及存储介质 |
| CN108846544A (zh) * | 2018-04-27 | 2018-11-20 | 淘然视界(杭州)科技有限公司 | 一种标注任务的分配方法及系统 |
| CN109389275A (zh) * | 2017-08-08 | 2019-02-26 | 北京图森未来科技有限公司 | 一种图像标注方法和装置 |
| CN109784381A (zh) * | 2018-12-27 | 2019-05-21 | 广州华多网络科技有限公司 | 标注信息处理方法、装置及电子设备 |
| CN109800320A (zh) * | 2019-01-04 | 2019-05-24 | 平安科技（深圳）有限公司 | 一种图像处理方法、设备及计算机可读存储介质 |
| CN109978356A (zh) * | 2019-03-15 | 2019-07-05 | 平安普惠企业管理有限公司 | 标注任务分配方法、装置、介质和计算机设备 |
| CN110400029A (zh) * | 2018-04-24 | 2019-11-01 | 北京京东尚科信息技术有限公司 | 一种标注管理的方法和系统 |
| CN110490444A (zh) * | 2019-08-13 | 2019-11-22 | 新华智云科技有限公司 | 标注任务分配方法、装置、系统及存储介质 |
| CN111291013A (zh) * | 2020-01-17 | 2020-06-16 | 深圳市商汤科技有限公司 | 行为数据处理方法及装置、电子设备和存储介质 |
| US20200293374A1 (en) * | 2019-03-13 | 2020-09-17 | Tata Consultancy Services Limited | Method and system for privacy enabled task allocation |
-
2021
- 2021-03-18 CN CN202110288576.2A patent/CN113240126A/zh active Pending
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109389275A (zh) * | 2017-08-08 | 2019-02-26 | 北京图森未来科技有限公司 | 一种图像标注方法和装置 |
| CN108320097A (zh) * | 2018-02-01 | 2018-07-24 | 北京百度网讯科技有限公司 | 用于分配工作量的方法和装置 |
| CN108805397A (zh) * | 2018-04-24 | 2018-11-13 | 平安科技（深圳）有限公司 | 电子装置、分配任务的方法及存储介质 |
| CN110400029A (zh) * | 2018-04-24 | 2019-11-01 | 北京京东尚科信息技术有限公司 | 一种标注管理的方法和系统 |
| CN108846544A (zh) * | 2018-04-27 | 2018-11-20 | 淘然视界(杭州)科技有限公司 | 一种标注任务的分配方法及系统 |
| CN109784381A (zh) * | 2018-12-27 | 2019-05-21 | 广州华多网络科技有限公司 | 标注信息处理方法、装置及电子设备 |
| CN109800320A (zh) * | 2019-01-04 | 2019-05-24 | 平安科技（深圳）有限公司 | 一种图像处理方法、设备及计算机可读存储介质 |
| US20200293374A1 (en) * | 2019-03-13 | 2020-09-17 | Tata Consultancy Services Limited | Method and system for privacy enabled task allocation |
| CN109978356A (zh) * | 2019-03-15 | 2019-07-05 | 平安普惠企业管理有限公司 | 标注任务分配方法、装置、介质和计算机设备 |
| CN110490444A (zh) * | 2019-08-13 | 2019-11-22 | 新华智云科技有限公司 | 标注任务分配方法、装置、系统及存储介质 |
| CN111291013A (zh) * | 2020-01-17 | 2020-06-16 | 深圳市商汤科技有限公司 | 行为数据处理方法及装置、电子设备和存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| ANTONIO TORRALBA等: "LabelMe: Online Image annotation and Applications", 《PROCEEDINGS OF THE IEEE》, vol. 98, no. 08, pages 1467 - 1484, XP011311247 * |
| 刘辉: "时空众包环境下在线任务分配策略的研究", 《中国优秀硕士学位论文全文数据库 (信息科技辑)》, no. 2019, pages 138 - 6 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113407980A (zh) * | 2021-08-18 | 2021-09-17 | 深圳市信润富联数字科技有限公司 | 数据标注系统 |
| CN113407980B (zh) * | 2021-08-18 | 2022-02-15 | 深圳市信润富联数字科技有限公司 | 数据标注系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109241141B (zh) | 深度学习的训练数据处理方法和装置 | |
| US8645150B2 (en) | Source aware data center power profiles | |
| US10838839B2 (en) | Optimizing adaptive monitoring in resource constrained environments | |
| CN103034578B (zh) | 一种应用数据监控方法和装置 | |
| CN102339253B (zh) | 用于指示应用代码的执行的系统和方法 | |
| CN104135520B (zh) | 一种识别安卓终端的方法以及装置 | |
| US9935893B2 (en) | Systems and methods for dynamically allocating computing tasks to computer resources in a distributed processing environment | |
| CN109711734A (zh) | 问题单分配方法、系统、存储介质及电子设备 | |
| CN111813545A (zh) | 一种资源配置方法、装置、介质和设备 | |
| CN111917878A (zh) | 消息处理方法、装置、设备及存储介质 | |
| US20210174189A1 (en) | Optimization Framework for Real-Time Rendering of Media Using Machine Learning Techniques | |
| CN107247629A (zh) | 云计算系统及用于控制服务器的云计算方法和装置 | |
| CN104321764A (zh) | 预测动作的执行 | |
| CN112017060A (zh) | 为目标用户进行资源分配的方法、装置及电子设备 | |
| CN110300191A (zh) | 服务系统及数据处理方法 | |
| CN112199007A (zh) | 菜单显示方法、装置、电子设备和存储介质 | |
| CN113240126A (zh) | 标注管理方法、装置、设备及存储介质 | |
| CN106856441A (zh) | Nfvo中的vim选择方法和装置 | |
| CN110351327A (zh) | 资源处理平台的确认方法、装置、电子设备和介质 | |
| KR20210113963A (ko) | 정보 획득 방법 및 장치 | |
| CN112847434A (zh) | 机器人底盘的控制方法、装置、机器人底盘及存储介质 | |
| CN110796551A (zh) | 一种资金管理的自动控制方法、装置和系统 | |
| US9141460B2 (en) | Identify failed components during data collection | |
| CN113858167B (zh) | 自动更换上装模块的控制方法及相关装置 | |
| CN112785555B (zh) | 骨检测方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |