CN110647937A - 标注模型训练方法及装置 - Google Patents
标注模型训练方法及装置 Download PDFInfo
- Publication number
- CN110647937A CN110647937A CN201910902664.XA CN201910902664A CN110647937A CN 110647937 A CN110647937 A CN 110647937A CN 201910902664 A CN201910902664 A CN 201910902664A CN 110647937 A CN110647937 A CN 110647937A
- Authority
- CN
- China
- Prior art keywords
- sample
- label
- model
- labeling
- obtaining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 53
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000002372 labelling Methods 0.000 claims abstract description 150
- 238000012545 processing Methods 0.000 claims abstract description 7
- 238000004458 analytical method Methods 0.000 claims description 33
- 230000002159 abnormal effect Effects 0.000 claims description 20
- 230000015654 memory Effects 0.000 claims description 20
- 238000012216 screening Methods 0.000 claims description 19
- 238000005457 optimization Methods 0.000 claims description 17
- 238000010586 diagram Methods 0.000 claims description 14
- 238000003860 storage Methods 0.000 claims description 10
- 238000000605 extraction Methods 0.000 claims description 9
- 230000004044 response Effects 0.000 claims description 9
- 230000005856 abnormality Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 description 11
- 238000007621 cluster analysis Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000007689 inspection Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000007474 system interaction Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了标注模型训练方法及装置，涉及计算机领域，尤其涉及数据处理领域。具体实现方案为：利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型；利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本；获得带有参考标注的第三样本，所述第三样本为所述第二样本的一部分；根据带有模型标注的第二样本和带有参考标注的第三样本，优化所述第一标注模型。本申请能够减少模型训练需要的数据量，从而节省人工操作量和时间成本。
Description
技术领域
本申请涉及计算机领域，尤其涉及数据处理领域。
背景技术
图像标注是质检的一种重要手段，传统的图像标注，依靠图像标注员的标注操作。而在质检场景下，图像数据量非常大，依靠标注员的标注操作，会消耗大量人力，且效率很低。同时，人工标注出现错误的可能性较高。随着质检的图像数量的增加，需要提供一种更加有效的图像标注方法。
发明内容
为了解决现有技术中的至少一个问题，本申请实施例提供一种标注模型的训练方法及装置。
第一方面，本申请实施例提供一种标注模型训练方法，包括：
利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型；
利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本；
获得带有参考标注的第三样本，第三样本为第二样本的一部分；
根据带有模型标注的第二样本和带有参考标注的第三样本，优化第一标注模型。
在本申请实施例中，能够在利用带有参考标注的第一样本训练初始标注模型之后，根据模型对图像的标注结果和参考标注对标注模型进行进一步优化，无需标注员对大量样本进行标注，模型经过训练、优化后的标注准确性得到提高，且标注员需要标注的工作量较小。从而经过一定次数的训练，模型标注结果也能够接近人工标注或参考标注，替代人工标注。
在一种实施方式中，获得带有参考标注的第三样本，包括：
对带有模型标注的第二样本进行异常筛选，获得模型标注中的异常标注；
根据异常标注，获得第三样本；
响应于对第三样本的标注操作，获得带有参考标注的第三样本。
在本申请实施例中，对带有模型标注的第二样本进行异常筛选，找出其中最有可能存在标注错误的样本，将筛选后的部分第二样本发送到标注员处进行人工标注，，确认结果作为模型继续迭代的依据，能够减少标注员的工作量，根据模型训练效果对标注模型进行有针对性的优化。
在一种实施方式中，对带有模型标注的第二样本进行异常筛选，获得模型标注中的异常标注，包括：
对带有模型标注的第二样本进行特征提取，获得带有模型标注的第二样本的特征图；
对特征图采用聚类分析、离群分析和异常分析中的至少一种方式进行计算，获得异常标注。
在本申请实施例中，通过对带有模型标注的第二样本进行筛选，可以减少需要进一步校验的第二样本的数量，从而耗费较少的人工操作就能够获得优化标注模型所需要的样本。同时，本申请实施例在选择训练标注模型所用的样本时，将正确标注的样本排除，提高了模型优化过程的效率。
在一种实施方式中，响应于对第三样本的标注操作，获得带有参考标注的第三样本，包括：
根据标注操作，获得带有待校验标注的第三样本；
对带有待校验标注的第三样本进行异常筛选；
若待校验标注中存在异常标注，则返回根据标注操作，获得带有待校验标注的第三样本的步骤；否则，将带有待校验标注的第三样本作为带有参考标注的第三样本。
在本申请实施例中，待校验标注可以是标注员在第三样本的图像上的标注。对第三样本的标注进行反复校验，获得可靠的带有参考标注的第三样本，使得标注模型的训练能够取得较好的效果。
在一种实施方式中，本申请实施例提供的方法还包括：
根据标注操作，获得第四参考标注；
根据第四参考标注优化第一标注模型。
在本申请实施例中，在利用第一样本对初始标注模型进行训练之后，或者利用带有参考标注和模型标注对第一模型进行优化后，可能由于标注员的持续标注操作，还会获得新的带有参考标注的样本。在这种情况下，将新的带有参考标注的样本加入训练集或者优化集，补充用于训练的样本集，有利于扩充对模型进行持续优化所使用的数据量，通过数据的迭代和仿真模拟，使数据反应业务逻辑的特征表达空间提升，使得标注模型能够更好地替代人工标注，取得更接近参考标注的效果。
第二方面，本申请提供一种标注模型训练装置，包括：
初始训练模块：用于利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型；
模型标注模块：用于利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本；
第三样本标注模块：用于获得带有参考标注的第三样本，第三样本为第二样本的一部分；
第一优化模块：用于根据带有模型标注的第二样本和带有参考标注的第三样本，优化第一标注模型。
在一种实施方式中，第三样本标注模块包括：
异常标注单元：用于对带有模型标注的第二样本进行异常筛选，获得模型标注中的异常标注；
异常标注处理单元：用于根据异常标注，获得第三样本；
参考标注单元：用于响应于对第三样本的标注操作，获得带有参考标注的第三样本。
在一种实施方式中，异常标注单元还用于：
对带有模型标注的第二样本进行特征提取，获得带有模型标注的第二样本的特征图；
对特征图采用聚类分析、离群分析和异常分析中的至少一种方式进行计算，获得异常标注。
在一种实施方式中，所述参考标注单元还用于：
根据标注操作，获得带有待校验标注的第三样本；
对带有待校验标注的第三样本进行异常筛选；
若待校验标注中存在异常标注，则返回根据标注操作，获得带有待校验标注的第三样本的步骤；否则，将带有待校验标注的第三样本作为带有参考标注的第三样本。
在一种实施方式中，本申请实施例提供的装置还包括：
第四参考标注模块：用于根据标注操作，获得第四参考标注；
第二优化模块：用于根据第四参考标注优化第一标注模型。
第三方面，本申请提供一种电子设备，包括：
至少一个处理器；以及
与至少一个处理器通信连接的存储器；其中，
存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本申请任意一项实施例所提供的方法。
第四方面，本申请提供一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，计算机指令用于使计算机执行本申请任意一项实施例所提供的方法。
上述申请中的一个实施例具有如下优点或有益效果：能够减少人工标注量，提高标注模型的标注准确率。因为采用利用对部分模型标注结果进行参考标注，利用参考标注结果和模型标注结果训练模型技术手段，所以克服了模型训练图像标注量大的技术问题，进而达到减少人工标注、提高标注模型的标注准确性的技术效果。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是根据本申请第一实施例的标注模型训练方法示意图；
图2是根据本申请第二实施例的标注模型训练方法示意图；
图3是根据本申请第三实施例的标注模型训练数据处理示意图；
图4是根据本申请第四实施例的标注模型训练装置结构示意图；
图5是根据本申请第五实施例的标注模型训练装置结构示意图；
图6是用来实现本申请实施例的标注模型训练方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
如图1所示，本申请实施例提供一种标注模型训练方法，包括：
步骤S11：利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型。
步骤S12：利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本。
步骤S13：获得带有参考标注的第三样本，第三样本为第二样本的一部分。
步骤S14：根据带有模型标注的第二样本和带有参考标注的第三样本，优化第一标注模型。
在本申请实施例中，参考标注可以为人工标注或者机器标注。例如，在质检时，对手机图像上的裂缝进行标注，从而检测手机是否有导致质量问题的裂缝。第一样本可以为图像样本。带有参考标注的第一样本可以是图像中存在参考标注的相应的图像样本，即经确认标注基本正确的图像样本。第二样本可以为与第一样本不同的未标注样本。带有参考标注的第三样本，可以是对带有模型标注的第二样本进行人工审核后获得的样本。带有模型标注的第二样本，可以是图像中存在模型标注的图像样本，即经过标注模型标注、可能存在一定错误标注的图像样本。
在本申请实施例中，第一样本、第二样本和第三样本可以是由需要标注的图像组成的样本。
根据带有模型标注的第二样本和带有参考标注的第三样本，优化第一标注模型，可以是根据模型标注和参考标注的差异，对第一标注模型进行优化。例如，标注模型对第一图像上的第一区域标注为裂缝，而第一图像上的参考标注没有将第一区域标注为裂缝，在本申请实施例中，默认参考标注为正确标注，那么认为模型标注与参考标注不一样时，即为模型标注存在错误，将此错误反馈给模型，使得模型能够进行学习，优化标注计算方式，提高标注结果的准确性。
在本申请实施例中，根据带有模型标注的第二样本和带有参考标注的第三样本，优化第一标注模型，可以包括：根据带有参考标注的第三样本和带有模型标注的第三样本优化第一标注模型。由于第三样本为第二样本的一部分，在优化模型时，采用带有模型标注的第二样本中与第三样本对应的样本，与带有参考标注的第三样本一起，优化标注模型。
在本申请实施例中，能够在利用带有参考标注的第一样本训练初始标注模型之后，根据模型对图像的标注结果和参考标注对标注模型进行进一步优化，无需标注员对大量样本进行标注，模型经过训练、优化后的标注准确性得到提高，且标注员需要标注的工作量较小。从而经过一定次数的训练，模型标注结果也能够接近人工标注或参考标注，替代人工标注。
在一种实施方式中，获得带有参考标注的第三样本，包括：
对带有模型标注的第二样本进行异常筛选，获得模型标注中的异常标注；
根据异常标注，获得第三样本；
响应于对第三样本的标注操作，获得带有参考标注的第三样本。
在本申请实施例中，对带有模型标注的第二样本进行异常筛选，找出其中最有可能存在标注错误的样本，将筛选后的部分第二样本发送到标注员处进行人工标注，确认结果作为标注模型的训练集继续迭代更新的依据，能够减少标注员的工作量，根据模型训练效果对标注模型进行有针对性的优化，使得模型对其出错的地方进行重点优化。
在本申请时实施例中，若对于同一类的多张图像，仅有一张的第一区域被标注为裂缝，而其余未被标注为裂缝，则判断该图像的模型标注可能是异常的模型标注。
在本申请实施例中，对带有模型标注的第二样本进行异常筛选，可以是采用一定的算法对第二样本的模型标注内容进行异常筛选。
在一种实施方式中，对带有模型标注的第二样本进行异常筛选，获得模型标注中的异常标注，包括：
对带有模型标注的第二样本进行特征提取，获得带有模型标注的第二样本的特征图；
对特征图采用聚类分析、离群分析和异常分析中的至少一种方式进行计算，获得异常标注。
在本申请实施例中，通过对带有模型标注的第二样本进行筛选，可以减少需要进一步校验的第二样本的数量，从而耗费较少的人工操作就能够获得优化标注模型所需要的样本。同时，本申请实施例在选择训练标注模型所用的样本时，将正确标注的样本排除，提高了模型优化过程的效率。
在本申请实施例中，聚类分析指将物理或抽象对象的集合分组为由类似的对象组成的多个类的分析过程。离群分析可以是对样本空间中与其它样本点的一般行为或特征不一致离群点进行的分析。数据的异常分析是数据分析工作中最常见且重要的分析主题，通过一次次的异常分析来明确造成数据波动的原因，建立日常的的运营工作和数据波动之间的相关性以及贡献程度的概念，从而找到促进数据增长的途径，改变数据结果。本申请实施例可以采用聚类分析、离群分析和异常分析对特征图进行计算，将采用三种方式进行计算的结果进行对比，筛选出模型标注中的异常样本。例如，第二样本的某个样本图像上存在2处模型标注，通过聚类分析、离群分析和异常分析，其中聚类分析的结果显示该样本图像的标注可能异常，其余两种分析的结果显示该样本图像的标注为正常，则判断该样本图像上的标注异常。
在一种实施方式中，响应于对第三样本的标注操作，获得带有参考标注的第三样本，包括：
根据标注操作，获得带有待校验标注的第三样本；
对带有待校验标注的第三样本进行异常筛选；
若待校验标注中存在异常标注，则返回根据标注操作，获得带有待校验标注的第三样本的步骤；否则，将带有待校验标注的第三样本作为带有参考标注的第三样本。
在本申请实施例中，待校验标注可以是标注员在第三样本的图像上的标注。对第三样本的标注进行反复校验，获得可靠的带有参考标注的第三样本，使得标注模型的训练能够取得较好的效果。
在本申请实施例中，第三样本可以为包括很多图像的样本。待校验标注可以是在第三样本的图像上做出的标注。可以由标注模型进行标注，也可以由标注员进行人工标注。
在一种实施方式中，如图2所示，本申请实施例所提供的方法还包括：
步骤S21：根据标注操作，获得带有第四参考标注的第四样本；
步骤S22：根据带有第四参考标注的第四样本优化第一标注模型。
在本申请实施例中，在利用第一样本对初始标注模型进行训练之后，或者利用带有参考标注和模型标注对第一模型进行优化后，可能由于标注员的持续标注操作，还会获得新的带有参考标注的样本。在这种情况下，将新的带有参考标注的样本加入训练集或者优化集，补充用于训练的样本集，有利于扩充对模型进行持续优化所使用的数据量，通过数据的迭代和仿真模拟，使数据反应业务逻辑的特征表达空间提升，使得标注模型能够更好地替代人工标注，取得更接近参考标注的效果。
在本申请实施例中，标注操作可以是标注员直接在图像中进行标注。例如，标注员将手机样本图像的某个区域圈出，标注为裂缝或划痕，表示该区域中存在裂缝或者划痕。
在本申请一种示例中，如图3所示，第一标注模型为初始标注模型训练后的模型，第一标注模型和初始标注模型都可以采用图3所示的智能预标注策略模块31和新缺陷发现策略模块32实现。新缺陷发现策略模块32 可以用于对图像中新增的需要标注的类型进行标注。选择需要标注的图像全集中的一部分图像集合作为第一样本，采用已训练好的其它模型或者根据标注员的标注操作，获得带有参考标注的第一样本。利用带有参考标注的第一样本训练智能预标注策略模块31和新缺陷发现策略模块32，得到第一标注模型，第一标注模型后续仍然可以不断优化，以取得更好的图像标注效果。第一标注模型对未标注的第二样本进行标注，获得带有模型标注的第二样本。带有模型标注的第二样本输送到原始标注信息库33中，经过分别自编码网络提取、传统特征提取算法和深度学习的方法，在特征提取库34中提取特征，获得带有模型标注的第二样本的图像特征。提取的图像特征在策略算法库35中进行计算，经过聚类分析、离群分析和异常分析，得到可能存在问题的带有模型标注的第三样本，第三样本为第二样本的一部分。将带有模型标注的第三样本输入存疑标注信息库36，提交标注员进行用户审核，若存疑注信息库36中的带有模型标注的第三样本经过标注员审核判定模型标注正确，则将带有正确的模型标注的第三样本输入高质量标注信息库37，然后返回用户行为库38再次进行异常分析。若存疑信息库36中的带有模型标注的第三样本经过标注员审核判定模型标注错误，则通过高质量标注信息库37返回监督标签库39进行再次异常分析验证，或者利用标注员标注结果和模型标注结果对智能预标注策略模块31和新缺陷发现策略模块32进行优化。
在本申请示例中，通过人工与系统交互结果作为模型优化所使用的数据，通过模型迭代之间相互促进，最终能够使得模型效果越来越接近人工标注的效果，同时人工标注的准确率也由于模型监督的作用越来越高，从而极大提升和促进标注数据生产效率。
本申请实施例还提供一种标注模型训练装置，如图4所示，包括：
初始训练模块41：用于利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型；
模型标注模块42：用于利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本；
第三样本标注模块43：用于获得带有参考标注的第三样本，第三样本为第二样本的一部分；
第一优化模块44：用于根据带有模型标注的第二样本和带有参考标注的第三样本，优化第一标注模型。
在一种实施方式中，第三样本标注模块包括：
异常标注单元：用于对带有模型标注的第二样本进行异常筛选，获得模型标注中的异常标注；
异常标注处理单元：用于根据异常标注，获得第三样本；
参考标注单元：用于响应于对第三样本的标注操作，获得带有参考标注的第三样本。
在一种实施方式中，异常标注单元还用于：
对带有模型标注的第二样本进行特征提取，获得带有模型标注的第二样本的特征图；
对特征图采用聚类分析、离群分析和异常分析中的至少一种方式进行计算，获得异常标注。
在一种实施方式中，所述参考标注单元还用于：
根据标注操作，获得带有待校验标注的第三样本；
对带有待校验标注的第三样本进行异常筛选；
若待校验标注中存在异常标注，则返回根据标注操作，获得带有待校验标注的第三样本的步骤；否则，将带有待校验标注的第三样本作为带有参考标注的第三样本。
在一种实施方式中，如图5所示，本申请实施例所提供的装置还包括：
第四参考标注模块51：用于根据标注操作，获得第四参考标注；
第二优化模块52：用于根据第四参考标注优化第一标注模型。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图6所示，是根据本申请实施例的标注模型训练方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface，GUI)的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的标注模型训练方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的标注模型训练方法。
存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的标注模型训练方法对应的程序指令/模块(例如，附图4所示的初始训练模块 41、模型标注模块42、第三样本标注模块43和优化模块44)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的标注模型训练方法。
存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据标注模型训练电子设备的使用所创建的数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至标注模型训练电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
标注模型训练方法的电子设备还可以包括：输入装置603和输出装置 604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接，图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息，以及产生与标注模型训练电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(Liquid Crystal Display，LCD)、发光二极管(Light EmittingDiode，LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits，ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(programmable logic device，PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(Cathode Ray Tube，阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(Local Area Network，LAN)、广域网(Wide Area Network，WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案，能够降低标注的人力成本和时间成本；同时提升标注数据的数量和质量。本申请提供的模型训练方法可大幅压缩模型的落地时间，同时提高模型的性能；从而提升产品的竞争力。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (12)
1.一种标注模型训练方法，其特征在于，包括：
利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型；
利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本；
获得带有参考标注的第三样本，所述第三样本为所述第二样本的一部分；
根据带有模型标注的第二样本和带有参考标注的第三样本，优化所述第一标注模型。
2.根据权利要求1所述的方法，其特征在于，获得带有参考标注的第三样本，包括：
对所述带有模型标注的第二样本进行异常筛选，获得所述模型标注中的异常标注；
根据所述异常标注，获得第三样本；
响应于对所述第三样本的标注操作，获得所述带有参考标注的第三样本。
3.根据权利要求2所述的方法，其特征在于，对所述带有模型标注的第二样本进行异常筛选，获得所述模型标注中的异常标注，包括：
对所述带有模型标注的第二样本进行特征提取，获得带有模型标注的第二样本的特征图；
对所述特征图采用聚类分析、离群分析和异常分析中的至少一种方式进行计算，获得所述异常标注。
4.根据权利要求2所述的方法，其特征在于，响应于对所述第三样本的标注操作，获得所述带有参考标注的第三样本，包括：
根据标注操作，获得带有待校验标注的第三样本；
对所述带有待校验标注的第三样本进行异常筛选；
若所述待校验标注中存在异常标注，则返回所述根据标注操作，获得带有待校验标注的第三样本的步骤；否则，将带有待校验标注的第三样本作为所述带有参考标注的第三样本。
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
根据标注操作，获得第四参考标注；
根据所述第四参考标注优化所述第一标注模型。
6.一种标注模型训练装置，其特征在于，包括：
初始训练模块：用于利用带有参考标注的第一样本训练初始标注模型，得到第一标注模型；
模型标注模块：用于利用第一标注模型对第二样本进行标注，得到带有模型标注的第二样本；
第三样本标注模块：用于获得带有参考标注的第三样本，所述第三样本为所述第二样本的一部分；
第一优化模块：用于根据带有模型标注的第二样本和带有参考标注的第三样本，优化所述第一标注模型。
7.根据权利要求6所述的装置，其特征在于，所述第三样本标注模块包括：
异常标注单元：用于对所述带有模型标注的第二样本进行异常筛选，获得所述模型标注中的异常标注；
异常标注处理单元：用于根据所述异常标注，获得第三样本；
参考标注单元：用于响应于对所述第三样本的标注操作，获得所述带有参考标注的第三样本。
8.根据权利要求7所述的装置，其特征在于，所述异常标注单元还用于：
对所述带有模型标注的第二样本进行特征提取，获得带有模型标注的第二样本的特征图；
对所述特征图采用聚类分析、离群分析和异常分析中的至少一种方式进行计算，获得所述异常标注。
9.根据权利要求7所述的装置，其特征在于，所述参考标注单元还用于：
根据标注操作，获得带有待校验标注的第三样本；
对所述带有待校验标注的第三样本进行异常筛选；
若所述待校验标注中存在异常标注，则返回所述根据标注操作，获得带有待校验标注的第三样本的步骤；否则，将带有待校验标注的第三样本作为所述带有参考标注的第三样本。
10.根据权利要求6所述的装置，其特征在于，所述装置还包括：
第四参考标注模块：用于根据标注操作，获得第四参考标注；
第二优化模块：用于根据所述第四参考标注优化所述第一标注模型。
11.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910902664.XA CN110647937A (zh) | 2019-09-23 | 2019-09-23 | 标注模型训练方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910902664.XA CN110647937A (zh) | 2019-09-23 | 2019-09-23 | 标注模型训练方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110647937A true CN110647937A (zh) | 2020-01-03 |
Family
ID=69011148
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910902664.XA Pending CN110647937A (zh) | 2019-09-23 | 2019-09-23 | 标注模型训练方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110647937A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111325260A (zh) * | 2020-02-14 | 2020-06-23 | 北京百度网讯科技有限公司 | 数据处理方法及装置、电子设备、计算机可读介质 |
| CN111428008A (zh) * | 2020-06-11 | 2020-07-17 | 北京百度网讯科技有限公司 | 用于训练模型的方法、装置、设备以及存储介质 |
| CN112183321A (zh) * | 2020-09-27 | 2021-01-05 | 深圳奇迹智慧网络有限公司 | 机器学习模型优化的方法、装置、计算机设备和存储介质 |
| CN113792104A (zh) * | 2021-09-16 | 2021-12-14 | 平安科技（深圳）有限公司 | 基于人工智能的医疗数据错误检测方法、装置及存储介质 |
-
2019
- 2019-09-23 CN CN201910902664.XA patent/CN110647937A/zh active Pending
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111325260A (zh) * | 2020-02-14 | 2020-06-23 | 北京百度网讯科技有限公司 | 数据处理方法及装置、电子设备、计算机可读介质 |
| CN111325260B (zh) * | 2020-02-14 | 2023-10-27 | 北京百度网讯科技有限公司 | 数据处理方法及装置、电子设备、计算机可读介质 |
| CN111428008A (zh) * | 2020-06-11 | 2020-07-17 | 北京百度网讯科技有限公司 | 用于训练模型的方法、装置、设备以及存储介质 |
| CN111428008B (zh) * | 2020-06-11 | 2020-09-29 | 北京百度网讯科技有限公司 | 用于训练模型的方法、装置、设备以及存储介质 |
| CN112183321A (zh) * | 2020-09-27 | 2021-01-05 | 深圳奇迹智慧网络有限公司 | 机器学习模型优化的方法、装置、计算机设备和存储介质 |
| CN113792104A (zh) * | 2021-09-16 | 2021-12-14 | 平安科技（深圳）有限公司 | 基于人工智能的医疗数据错误检测方法、装置及存储介质 |
| CN113792104B (zh) * | 2021-09-16 | 2024-03-01 | 平安科技（深圳）有限公司 | 基于人工智能的医疗数据错误检测方法、装置及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111428008B (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
| CN110647937A (zh) | 标注模型训练方法及装置 | |
| CN112036509A (zh) | 用于训练图像识别模型的方法和装置 | |
| CN112270399B (zh) | 基于深度学习的算子注册处理方法、装置及电子设备 | |
| JP7222040B2 (ja) | モデル訓練、画像処理方法及びデバイス、記憶媒体、プログラム製品 | |
| CN112001169B (zh) | 文本纠错的方法、装置、电子设备和可读存储介质 | |
| CN111339759A (zh) | 领域要素识别模型训练方法、装置及电子设备 | |
| CN111640103B (zh) | 图像检测方法、装置、设备以及存储介质 | |
| EP3916738A1 (en) | Medical fact verification method and apparatus, electronic device, and storage medium | |
| CN111090991A (zh) | 场景纠错方法、装置、电子设备和存储介质 | |
| CN111767334A (zh) | 信息抽取方法、装置、电子设备及存储介质 | |
| CN111967304A (zh) | 基于边缘计算的获取物品信息方法、装置和结算台 | |
| CN111563198A (zh) | 一种物料召回方法、装置、设备及存储介质 | |
| CN112381167A (zh) | 训练任务分类模型的方法、任务分类方法和装置 | |
| CN112270169B (zh) | 对白角色预测方法、装置、电子设备及存储介质 | |
| CN111984545B (zh) | 检测单元测试稳定性的方法、装置、电子设备及存储介质 | |
| CN111310481B (zh) | 语音翻译方法、装置、计算机设备和存储介质 | |
| CN111596897B (zh) | 代码复用的处理方法、装置及电子设备 | |
| CN110865421B (zh) | 自动驾驶业务模型训练方法、检测方法、装置和电子设备 | |
| CN113822272A (zh) | 数据处理方法和装置 | |
| CN113204614A (zh) | 模型训练方法、优化训练数据集的方法及其装置 | |
| CN111339314A (zh) | 一种三元组数据的生成方法、装置和电子设备 | |
| CN115688802A (zh) | 文本风险检测方法及其装置 | |
| CN111125445A (zh) | 社区主题生成方法、装置、电子设备及存储介质 | |
| CN112288696B (zh) | 一种辅助质检方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |