CN107832662B - 一种获取图片标注数据的方法和系统 - Google Patents

一种获取图片标注数据的方法和系统 Download PDF

Info

Publication number
CN107832662B
CN107832662B CN201710889767.8A CN201710889767A CN107832662B CN 107832662 B CN107832662 B CN 107832662B CN 201710889767 A CN201710889767 A CN 201710889767A CN 107832662 B CN107832662 B CN 107832662B
Authority
CN
China
Prior art keywords
picture
marking
identification
labeled
confidence coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710889767.8A
Other languages
English (en)
Other versions
CN107832662A (zh
Inventor
刘国翌
李广
韩树民
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu Online Network Technology Beijing Co Ltd
Original Assignee
Baidu Online Network Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu Online Network Technology Beijing Co Ltd filed Critical Baidu Online Network Technology Beijing Co Ltd
Priority to CN201710889767.8A priority Critical patent/CN107832662B/zh
Publication of CN107832662A publication Critical patent/CN107832662A/zh
Priority to US16/118,026 priority patent/US20190095758A1/en
Application granted granted Critical
Publication of CN107832662B publication Critical patent/CN107832662B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/40—Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/40—Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor
    • G06F18/41—Interactive pattern learning with a human teacher
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes

Abstract

本申请提供一种获取图片标注数据的方法和系统，所述方法包括：获取待标注的图片的识别结果；将待标注图片与对应的识别结果显示于标注界面；利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。本申请所述获取图片标注数据的方法和系统，标注人员只需要通过点击相应识别结果，无需手工输入名称的操作，提高了标注的效率。特别适合于图像垂直类的识别算法的前期的数据准备工作，可以极大的降低图片人工标注的成本，并且缩短图片识别类项目的开发周期。

Description

一种获取图片标注数据的方法和系统
【技术领域】
本申请涉及计算机处理技术领域，尤其涉及一种获取图片标注数据的方法和系统。
【背景技术】
在互联网产生和存储的海量信息中，图片是一种重要的信息载体，在互联网信息提供和信息检索服务中，对图片信息进行的处理也显得越来越重要。
图片标注是计算机视觉领域训练数据准备的一项很重要的工作，通常需要大量人工标注的图片作为机器学习和计算机视觉的进一步数据处理和数据挖掘的初始训练数据集。
但是，由于图片标注是一项枯燥、简单重复的劳动，尤其是在手工标注图片内容时，需要标注人员看到图片，然后手工输入图片描述文字，标注效率低且人工成本高。
【发明内容】
本申请的多个方面提供一种获取图片标注数据的方法和系统，用于降低图片标注数据的获取成本。
本申请的一方面，提供一种获取图片标注数据的方法，包括：
获取待标注的图片的识别结果；
将待标注图片与对应的识别结果显示于标注界面；
利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述获取待标注的图片的识别结果包括：通过机器学习获取待标注的图片的识别结果。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述识别结果包括：待标注图片对应的一个或多个目标对象的标识信息以及置信度参数。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述将待标注图片与识别结果显示于标注界面包括：
提供信息选择区，按照置信度参数的大小，在所述信息选择区顺序显示所述一个或多个目标对象的标识信息，供标注人员进行选择。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述将待标注图片与对应的识别结果显示于标注界面还包括：
在显示所述目标对象的标识信息的同时，显示所述目标对象对应的一张或多张样本图片，供标注人员与待标注图片进行对比参考；其中，所述样本图片是以所述目标对象的标识信息作为搜索关键词，从图片库中获取的与所述搜索关键词匹配的图片。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述标注界面显示：
该方法还包括：
若标注人员在标注界面未对所述识别结果进行选择，则将标注人员在所述信息输入区输入的信息作为所述待标注图片的标注数据。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述将待标注图片与对应的识别结果显示于标注界面还包括：
在所述标注界面中，提供更换待标注图片的按钮；
当点击所述按钮时，在所述标注界面更换下一张待标注图片与对应识别结果。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述方法还包括：将待标注图片与所述标注数据作为样本数据用于机器学习的识别模型的训练。
本申请的另一方面，提供一种获取图片标注数据的系统，包括：
识别单元，用于获取待标注的图片的识别结果；
显示单元，将待标注图片与对应的识别结果显示于标注界面；
标注识别单元，用于利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述识别单元具体用于：通过机器学习获取待标注的图片的识别结果和置信度参数。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述识别结果包括：待标注图片对应的一个或多个目标对象的标识信息。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述显示单元具体用于：
提供信息选择区，按照置信度参数的大小，在所述信息选择区顺序显示所述一个或多个目标对象的标识信息，供标注人员进行选择。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述显示单元还用于：
在显示所述目标对象的标识信息的同时，显示所述目标对象对应的一张或多张样本图片，供标注人员与待标注图片进行对比参考；其中，所述样本图片是以所述目标对象的标识信息作为搜索关键词，从图片库中获取的与所述搜索关键词匹配的图片。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述标注界面还显示信息输入区；所述标注识别单元还用于，若标注人员在标注界面未对所述识别结果进行选择，则将标注人员在所述信息输入区输入的信息作为所述待标注图片的标注数据。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述显示单元还用于：
在所述标注界面中，提供更换待标注图片的按钮；
当点击所述按钮时，在所述标注界面更换下一张待标注图片与对应识别结果。
如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述系统还包括训练单元，用于将待标注图片与所述标注数据作为样本数据用于机器学习的识别模型的训练。
本申请的另一方面，提供一种设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现任一上述的方法。
本申请的另一方面，提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现任一上述的方法。
由所述技术方案可知，采用本实施例提供的技术方案，通过获取待标注的图片的识别结果；将待标注图片与识别结果显示于标注界面；利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。标注人员只需要通过点击相应识别结果，无需手工输入名称的操作，提高了标注的效率。
【附图说明】
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请一实施例提供的获取图片标注数据的方法的流程示意图；
图2为本申请一实施例提供的信息选择区的一个实例图；
图3为本申请另一实施例提供的获取图片标注数据的系统的结构示意图；
图4为适于用来实现本发明实施例的示例性计算机系统/服务器的框图。
【具体实施方式】
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本申请保护的范围。
另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
图1为本申请一实施例提供的获取图片标注数据的方法的流程图，如图1所示，包括以下步骤：
步骤101、获取待标注的图片的识别结果；
优选地，服务器获取待标注图片，通过机器学习对待标注图片进行识别而得到待标注图片对应的目标对象的标识信息以及置信度参数。
在本实施例中，置信度参数可以用于表征在对待标注图片进行识别时，待标注图片为所述目标对象的概率，即待标注图片与目标对象的样本数据的相似度。置信度参数的数值越高，则待标注图片为目标对象的概率越大。
在本实施例中，机器学习的常用模型可以包括但不限于：自动编码器(AutoEncoder)、稀疏编码(Sparse Coding)、深信度网络(Deep Belief Networks)、卷积神经网络(Convolutional Neural Networks)。上述机器学习方式也可称之为深度学习。
在本实施例中，可以首先建立与识别待标注图片使用的机器学习识别方式对应的识别模型，然后，利用识别模型对待标注图片进行识别。利用机器学习方式对应的识别模型对待标注图片进行识别的原理概述如下：在利用识别模型(例如卷积神经网络模型)对待标注图片进行识别时，可以将待标注图片中的待识别对象用一些特征(例如尺度不变特征变换特征点)进行表示，生成输入向量，在经过识别模型对待标注图片进行识别后，可以得到表征待标注图片对应的目标对象的输出向量，识别模型可以用于指示输入向量到输出向量的映射关系，然后可以基于该映射关系，对待标注图片进行识别。
在本实施例中，在利用识别模型对待标注图片进行识别时，可以利用一些特征(例如尺度不变特征变换特征点)来表征待标注图片中的待识别对象，可以将待识别对象(例如苹果对象)在待标注图片中的特征与目标对象(例如苹果对象的样本数据)进行匹配，得到表征待标注图片为目标对象概率的置信度参数。
优选地，识别模型得到待标注图片对应的一个或多个目标对象的标识信息以及置信度参数。
例如，待标注图片的内容为苹果，识别模型得到待标注图片对应的目标对象为西瓜、苹果和桃子，其置信度参数依次降低。
在本实施例中，可以根据待标注图片的类型，预先设置与待标注图片的类型对应的样本数据，然后利用样本数据对识别模型进行训练。例如，可以预先获取一些常见的应用场景的图片和以及对图片的标注信息作为训练数据。
步骤102、将待标注图片与识别结果显示于标注界面；
优选地，服务器向标注人员推送标注页面；将待标注图片与从识别模型得到的待标注图片对应的一个或多个目标对象的标识信息显示于标注界面。
优选地，在向标注人员展示待标注图片的同时，提供信息选择区，所述信息选择区用于按照置信度参数的大小，顺序显示所述一个或多个目标对象的标识信息，供标注人员进行选择，将标注人员选择的结果作为标注数据。所述一个或多个目标对象的标识信息可以是按钮的形式，供标注人员进行点击。也可以乱序显示所述一个或多个目标对象的标识信息，以免标注人员作弊，仅点击顺序显示的第一个目标对象的标识信息。
优选地，从识别模型得到的待标注图片对应的一个或多个目标对象中，选择置信度参数高于置信度阈值的目标对象进行显示。
优选地，如果置信度参数高于置信度阈值的目标对象的个数大于或等于预设个数，则选择预设个数个目标对象，去除明显不可能的目标对象；如果置信度参数高于置信度阈值的目标对象的个数小于预设个数，则选择置信度参数高于置信度阈值的目标对象；其中，所述预设个数可以设置为3个。通过上述步骤，可以减少显示给标注人员的识别结果个数，去除明显概率较低的识别结果，提高标注人员选择的效率。
优选地，在信息选择区显示所述目标对象的标识信息的同时，还可以显示所述目标对象对应的一张或多张样本图片，例如三张样本图片，供标注人员与待标注图片进行对比和参考。所述样本图片，可以是以所述目标对象的标识信息作为搜索关键词，从图片库中获取的与所述搜索关键词匹配的图片；也可以是以所述目标对象的标识信息作为搜索关键词，从百科类网页中获取的与所述搜索关键词匹配的图片。例如，所述信息选择区，在西瓜标识信息之后提供三张西瓜的样本图片；在苹果标识信息之后提供三张苹果的样本图片；在桃子标识信息之后提供两张桃子的样本图片；标注人员可以将待标注图片与样本图片进行对比，以便进一步确定待标注图片的内容。
优选地，在所述标注界面中，可以提供更换待标注图片的按钮，当标注人员判断待标注图片的内容不属于信息选择区中的任何一个识别结果时，包括标注人员无法确定待标注图片的内容有可能是第一个识别结果，也可能你是第二个识别结果的情况，例如，标注人员认为待标注图片不是西瓜、苹果、桃子中的任何一种；或者，有可能是西瓜，也可能是苹果，但是无法确定；可以跳过对该待标注图片的标注，点击所述更换待标注图片的按钮，更换下一张待标注图片。在这种情况下，认为标注人员的标注结果为无法判断。
优选地，在所述标注界面中，还可以提供信息输入区，所述信息输入区用于当标注人员在判断待标注图片的内容不属于信息选择区中的任何一个识别结果时，可以不对所述识别结果进行选择，在信息输入区辅助性的输入其判断结果，将标注人员输入的判断结果作为标注数据。
优选地，在所述标注界面中，当标注人员选择目标对象的标识信息或输入其判断结果后，所述标注界面自动更换下一张待标注图片。标注人员也可以点击所述更换待标注图片的按钮，更换下一张待标注图片。
步骤103、利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。
优选地，根据标注人员对所述待标注图片选择的识别结果和/或输入的判断结果，获取所述待标注图片的标注数据，并将待标注图片与所述标注数据进行关联存储。
优选地，可以将同一个待标注图片显示于多个标注人员的标注界面；记录多个标注人员对所述待标注图片选择的识别结果和/或输入的判断结果，如果超过设定比例的标注人员选择了相同的识别结果和/或输入的判断结果，则将该结果确定为所述待标注图片的标注数据，并将待标注图片与所述标注数据进行关联存储。例如将图2所示的内容为苹果的待标注图片在标注界面展现给了100个标注人员，如果其中超过90％的标注人员均选择了“苹果”，则可以将“苹果”作为待标注图片的标注数据。可以理解的是，上述比例可以根据实际的准确性需求灵活设定。
优选地，可以将标注结果为无法判断，即标注人员跳过对其进行标注的待标注图片显示于多个标注人员的标注界面，记录多个标注人员对所述待标注图片选择的识别结果和/或输入的判断结果，如果超过设定比例的标注人员选择了相同的识别结果和/或输入的判断结果，则将该结果确定为所述待标注图片的标注数据，并将待标注图片与所述标注数据进行关联存储。进一步提高识别准确率。
在本实施例中，可以将待标注图片与所述标注数据作为样本数据用于机器学习的识别模型的训练。以识别模型为卷积神经网络为例，可以将待标注图片的特征(例如尺度不变特征变换特征点)作为卷积神经网络的输入向量，将标注数据作为卷积神经网络的理想输出向量，由输入向量与输出向量组成向量对来对卷积神经网络进行训练，从而可以利用正确的识别结果即经过本方法通过人工方式对待标注图片进行标注后获取的标注数据，对识别模型进行训练，从而提高识别模型的训练效果，进而在后续的对待标注图片的识别中，提升识别准确率。
由所述技术方案可知，采用本实施例提供的技术方案，通过获取待标注的图片的识别结果；将待标注图片与识别结果显示于标注界面；利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。标注人员只需要通过点击相应识别结果，无需手工输入名称的操作，提高了标注的效率。特别适合于图像垂直类的识别算法的前期的数据准备工作，可以极大的降低图片人工标注的成本，并且缩短图片识别类项目的开发周期。
图3为本申请一实施例提供的获取图片标注数据的方法的流程图，如图3所示，包括：
识别单元31，用于获取待标注的图片的识别结果；
优选地，识别单元31获取待标注图片，通过机器学习对待标注图片进行识别而得到待标注图片对应的目标对象的标识信息以及置信度参数。
在本实施例中，置信度参数可以用于表征在对待标注图片进行识别时，待标注图片为所述目标对象的概率，即待标注图片与目标对象的样本数据的相似度。置信度参数的数值越高，则待标注图片为目标对象的概率越大。
在本实施例中，机器学习的常用模型可以包括但不限于：自动编码器(AutoEncoder)、稀疏编码(Sparse Coding)、深信度网络(Deep Belief Networks)、卷积神经网络(Convolutional Neural Networks)。上述机器学习方式也可称之为深度学习。
在本实施例中，可以首先建立与识别待标注图片使用的机器学习识别方式对应的识别模型，然后，利用识别模型对待标注图片进行识别。利用机器学习方式对应的识别模型对待标注图片进行识别的原理概述如下：在利用识别模型(例如卷积神经网络模型)对待标注图片进行识别时，可以将待标注图片中的待识别对象用一些特征(例如尺度不变特征变换特征点)进行表示，生成输入向量，在经过识别模型对待标注图片进行识别后，可以得到表征待标注图片对应的目标对象的输出向量，识别模型可以用于指示输入向量到输出向量的映射关系，然后可以基于该映射关系，对待标注图片进行识别。
在本实施例中，在利用识别模型对待标注图片进行识别时，可以利用一些特征(例如尺度不变特征变换特征点)来表征待标注图片中的待识别对象，可以将待识别对象(例如苹果对象)在待标注图片中的特征与目标对象(例如苹果对象的样本数据)进行匹配，得到表征待标注图片为目标对象概率的置信度参数。
优选地，识别模型得到待标注图片对应的一个或多个目标对象的标识信息以及置信度参数。
例如，待标注图片的内容为苹果，识别模型得到待标注图片对应的目标对象为西瓜、苹果和桃子，其置信度参数依次降低。
在本实施例中，可以根据待标注图片的类型，预先设置与待标注图片的类型对应的样本数据，然后利用样本数据对识别模型进行训练。例如，可以预先获取一些常见的应用场景的图片和以及对图片的标注信息作为训练数据。
显示单元32，用于将待标注图片与识别结果显示于标注界面；
优选地，显示单元32向标注人员推送标注页面；将待标注图片与从识别模型得到的待标注图片对应的一个或多个目标对象的标识信息显示于标注界面。
优选地，在向标注人员展示待标注图片的同时，提供信息选择区，所述信息选择区用于按照置信度参数的大小，顺序显示所述一个或多个目标对象的标识信息，供标注人员进行选择，将标注人员选择的结果作为标注数据。所述一个或多个目标对象的标识信息可以是按钮的形式，供标注人员进行点击。也可以乱序显示所述一个或多个目标对象的标识信息，以免标注人员作弊，仅点击顺序显示的第一个目标对象的标识信息。
优选地，从识别模型得到的待标注图片对应的一个或多个目标对象中，选择置信度参数高于置信度阈值的目标对象进行显示。
优选地，如果置信度参数高于置信度阈值的目标对象的个数大于或等于预设个数，则选择预设个数个目标对象，去除明显不可能的目标对象；如果置信度参数高于置信度阈值的目标对象的个数小于预设个数，则选择置信度参数高于置信度阈值的目标对象；其中，所述预设个数可以设置为3个。通过上述步骤，可以减少显示给标注人员的识别结果个数，去除明显概率较低的识别结果，提高标注人员选择的效率。
优选地，在信息选择区显示所述目标对象的标识信息的同时，还可以显示所述目标对象对应的一张或多张样本图片，例如三张样本图片，供标注人员与待标注图片进行对比和参考。所述样本图片，可以是以所述目标对象的标识信息作为搜索关键词，从图片库中获取的与所述搜索关键词匹配的图片；也可以是以所述目标对象的标识信息作为搜索关键词，从百科类网页中获取的与所述搜索关键词匹配的图片。例如，所述信息选择区如附图图2所示，在西瓜标识信息之后提供三张西瓜的样本图片；在苹果标识信息之后提供三张苹果的样本图片；在桃子标识信息之后提供两张桃子的样本图片；标注人员可以将待标注图片与样本图片进行对比，以便进一步确定待标注图片的内容。
优选地，在所述标注界面中，可以提供更换待标注图片的按钮，当标注人员判断待标注图片的内容不属于信息选择区中的任何一个识别结果时，包括标注人员无法确定待标注图片的内容有可能是第一个识别结果，也可能你是第二个识别结果的情况，例如，标注人员认为待标注图片不是西瓜、苹果、桃子中的任何一种；或者，有可能是西瓜，也可能是苹果，但是无法确定；可以跳过对该待标注图片的标注，点击所述更换待标注图片的按钮，更换下一张待标注图片。在这种情况下，认为标注人员的标注结果为无法判断。
优选地，在所述标注界面中，还可以提供信息输入区，所述信息输入区用于当标注人员在判断待标注图片的内容不属于信息选择区中的任何一个识别结果时，可以不对所述识别结果进行选择，在信息输入区进行辅助性的输入其判断结果，将标注人员输入的判断结果作为标注数据。
优选地，在所述标注界面中，当标注人员选择目标对象的标识信息或输入其判断结果后，所述标注界面自动更换下一张待标注图片。标注人员也可以点击所述更换待标注图片的按钮，更换下一张待标注图片。
标注识别单元33，用于利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。
优选地，标注识别单元33根据标注人员对所述待标注图片选择的识别结果和/或输入的判断结果，获取所述待标注图片的标注数据，并将待标注图片与所述标注数据进行关联存储。
优选地，可以将同一个待标注图片显示于多个标注人员的标注界面；记录多个标注人员对所述待标注图片选择的识别结果和/或输入的判断结果，如果超过设定比例的标注人员选择了相同的识别结果和/或输入的判断结果，则将该结果确定为所述待标注图片的标注数据，并将待标注图片与所述标注数据进行关联存储。例如将图2所示的内容为苹果的待标注图片在标注界面展现给了100个标注人员，如果其中超过90％的标注人员均选择了“苹果”，则可以将“苹果”作为待标注图片的标注数据。可以理解的是，上述比例可以根据实际的准确性需求灵活设定。
优选地，可以将标注结果为无法判断，即标注人员跳过对其进行标注的待标注图片显示于多个标注人员的标注界面，记录多个标注人员对所述待标注图片选择的识别结果和/或输入的判断结果，如果超过设定比例的标注人员选择了相同的识别结果和/或输入的判断结果，则将该结果确定为所述待标注图片的标注数据，并将待标注图片与所述标注数据进行关联存储。进一步提高识别准确率。
在本实施例中，所述系统还包括训练单元34，用于将待标注图片与所述标注数据作为样本数据用于机器学习的识别模型的训练。以识别模型为卷积神经网络为例，可以将待标注图片的特征(例如尺度不变特征变换特征点)作为卷积神经网络的输入向量，将标注数据作为卷积神经网络的理想输出向量，由输入向量与输出向量组成向量对来对卷积神经网络进行训练，从而可以利用正确的识别结果即经过本方法通过人工方式对待标注图片进行标注后获取的标注数据，对识别模型进行训练，从而提高识别模型的训练效果，进而在后续的对待标注图片的识别中，提升识别准确率。
由所述技术方案可知，采用本实施例提供的技术方案，通过获取待标注的图片的识别结果；将待标注图片与识别结果显示于标注界面；利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据。标注人员只需要通过点击相应识别结果，无需手工输入名称的操作，提高了标注的效率。特别适合于图像垂直类的识别算法的前期的数据准备工作，可以极大的降低图片人工标注的成本，并且缩短图片识别类项目的开发周期。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。
在所述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的方法和装置，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所展示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元展示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。所述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
图4示出了适于用来实现本发明实施方式的示例性计算机系统/服务器012的框图。图4展示的计算机系统/服务器012仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，计算机系统/服务器012以通用计算设备的形式表现。计算机系统/服务器012的组件可以包括但不限于：一个或者多个处理器或者处理单元016，系统存储器028，连接不同系统组件(包括系统存储器028和处理单元016)的总线018。
总线018表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器012典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器012访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器028可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)030和/或高速缓存存储器032。计算机系统/服务器012可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统034可以用于读写不可移动的、非易失性磁介质(图4未展示，通常称为“硬盘驱动器”)。尽管图4中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线018相连。存储器028可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块042的程序/实用工具040，可以存储在例如存储器028中，这样的程序模块042包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块042通常执行本发明所描述的实施例中的功能和/或方法。
计算机系统/服务器012也可以与一个或多个外部设备014(例如键盘、指向设备、展示器024等)通信，在本发明中，计算机系统/服务器012与外部雷达设备进行通信，还可与一个或者多个使得标注人员能与该计算机系统/服务器012交互的设备通信，和/或与使得该计算机系统/服务器012能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口022进行。并且，计算机系统/服务器012还可以通过网络适配器020与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图4所示，网络适配器020通过总线018与计算机系统/服务器012的其它模块通信。应当明白，尽管图4中未示出，可以结合计算机系统/服务器012使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元016通过运行存储在系统存储器028中的程序，从而执行本发明所描述的实施例中的功能和/或方法。
上述的计算机程序可以设置于计算机存储介质中，即该计算机存储介质被编码有计算机程序，该程序在被一个或多个计算机执行时，使得一个或多个计算机执行本发明上述实施例中所示的方法流程和/或装置操作。
随着时间、技术的发展，介质含义越来越广泛，计算机程序的传播途径不再受限于有形介质，还可以直接从网络下载等。可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在标注人员计算机上执行、部分地在标注人员计算机上执行、作为一个独立的软件包执行、部分在标注人员计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)连接到标注人员计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (14)

1.一种获取图片标注数据的方法，其特征在于，包括：
获取待标注的图片的识别结果；所述识别结果包括：待标注图片对应的一个或多个目标对象的标识信息以及置信度参数；其中，所述识别结果是根据所述待标注图片中的待识别对象的特征确定的；
将待标注图片与对应的识别结果显示于标注界面，包括：提供信息选择区，按照置信度参数的大小，在所述信息选择区顺序显示所述一个或多个目标对象的标识信息，供标注人员进行选择；其中，如果置信度参数高于置信度阈值的目标对象的个数大于或等于预设个数，则选择预设个数个目标对象，去除明显不可能的目标对象；如果置信度参数高于置信度阈值的目标对象的个数小于预设个数，则选择置信度参数高于置信度阈值的目标对象；
利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据，包括：将同一个待标注图片显示于多个标注人员的标注界面；记录多个标注人员对所述待标注图片选择的识别结果，如果超过设定比例的标注人员选择了相同的识别结果，将该结果确定为所述待标注图片的标注数据。
2.根据权利要求1所述的方法，其特征在于，所述获取待标注的图片的识别结果包括：通过机器学习获取待标注的图片的识别结果。
3.根据权利要求1所述的方法，其特征在于，所述将待标注图片与对应的识别结果显示于标注界面还包括：
在显示所述目标对象的标识信息的同时，显示所述目标对象对应的一张或多张样本图片，供标注人员与待标注图片进行对比参考；其中，所述样本图片是以所述目标对象的标识信息作为搜索关键词，从图片库中获取的与所述搜索关键词匹配的图片。
4.根据权利要求1所述的方法，其特征在于，所述标注界面还显示：信息输入区；
该方法还包括：
若标注人员在标注界面未对所述识别结果进行选择，则将标注人员在所述信息输入区输入的信息作为所述待标注图片的标注数据。
5.根据权利要求1所述的方法，其特征在于，所述将待标注图片与对应的识别结果显示于标注界面还包括：
在所述标注界面中，提供更换待标注图片的按钮；
当点击所述按钮时，在所述标注界面更换下一张待标注图片与对应识别结果。
6.根据权利要求2所述的方法，其特征在于，所述方法还包括：
将待标注图片与所述标注数据作为样本数据用于机器学习的识别模型的训练。
7.一种获取图片标注数据的系统，其特征在于，包括：
识别单元，用于获取待标注的图片的识别结果；所述识别结果包括：待标注图片对应的一个或多个目标对象的标识信息以及置信度参数；其中，所述识别结果是根据所述待标注图片中的待识别对象的特征确定的；
显示单元，用于提供信息选择区，按照置信度参数的大小，在所述信息选择区顺序显示所述一个或多个目标对象的标识信息，供标注人员进行选择；其中，如果置信度参数高于置信度阈值的目标对象的个数大于或等于预设个数，则选择预设个数个目标对象，去除明显不可能的目标对象；如果置信度参数高于置信度阈值的目标对象的个数小于预设个数，则选择置信度参数高于置信度阈值的目标对象；
标注识别单元，用于利用标注人员在标注界面对所述识别结果的选择，获取所述待标注图片的标注数据，具体用于：将同一个待标注图片显示于多个标注人员的标注界面；记录多个标注人员对所述待标注图片选择的识别结果，如果超过设定比例的标注人员选择了相同的识别结果，将该结果确定为所述待标注图片的标注数据。
8.根据权利要求7所述的系统，其特征在于，所述识别单元具体用于：通过机器学习获取待标注的图片的识别结果和置信度参数。
9.根据权利要求7所述的系统，其特征在于，所述显示单元还用于：
在显示所述目标对象的标识信息的同时，显示所述目标对象对应的一张或多张样本图片，供标注人员与待标注图片进行对比参考；其中，所述样本图片是以所述目标对象的标识信息作为搜索关键词，从图片库中获取的与所述搜索关键词匹配的图片。
10.根据权利要求7所述的系统，其特征在于，所述标注界面还显示信息输入区；所述标注识别单元还用于，若标注人员在标注界面未对所述识别结果进行选择，则将标注人员在所述信息输入区输入的信息作为所述待标注图片的标注数据。
11.根据权利要求7所述的系统，其特征在于，所述显示单元还用于：
在所述标注界面中，提供更换待标注图片的按钮；
当点击所述按钮时，在所述标注界面更换下一张待标注图片与对应识别结果。
12.根据权利要求8所述的系统，其特征在于，所述系统还包括训练单元，用于将待标注图片与所述标注数据作为样本数据用于机器学习的识别模型的训练。
13.一种电子设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-6中任一所述的方法。
CN201710889767.8A 2017-09-27 2017-09-27 一种获取图片标注数据的方法和系统 Active CN107832662B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201710889767.8A CN107832662B (zh) 2017-09-27 2017-09-27 一种获取图片标注数据的方法和系统
US16/118,026 US20190095758A1 (en) 2017-09-27 2018-08-30 Method and system for obtaining picture annotation data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710889767.8A CN107832662B (zh) 2017-09-27 2017-09-27 一种获取图片标注数据的方法和系统

Publications (2)

Publication Number Publication Date
CN107832662A CN107832662A (zh) 2018-03-23
CN107832662B true CN107832662B (zh) 2022-05-27

Family

ID=61643621

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710889767.8A Active CN107832662B (zh) 2017-09-27 2017-09-27 一种获取图片标注数据的方法和系统

Country Status (2)

Country Link
US (1) US20190095758A1 (zh)
CN (1) CN107832662B (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108805180B (zh) * 2018-05-24 2020-03-20 北京嘀嘀无限科技发展有限公司 目标对象的检测方法及装置
CN110555339A (zh) * 2018-05-31 2019-12-10 北京嘀嘀无限科技发展有限公司 一种目标检测方法、系统、装置及存储介质
CN110750667A (zh) * 2018-07-05 2020-02-04 第四范式（北京）技术有限公司 辅助标注方法、装置、设备及存储介质
CN110321630B (zh) * 2019-07-01 2023-04-18 上海外高桥造船有限公司 舾装件的自动标注方法、系统、存储介质以及电子设备
CN110413821A (zh) * 2019-07-31 2019-11-05 四川长虹电器股份有限公司 数据标注方法
CN110472054B (zh) * 2019-08-15 2023-05-23 北京爱数智慧科技有限公司 一种数据处理方法和装置
CN110705360A (zh) * 2019-09-05 2020-01-17 上海零眸智能科技有限公司 一种人机结合高效处理分类数据的方法
CN110597590A (zh) * 2019-09-16 2019-12-20 深圳市沃特沃德股份有限公司 车载系统图标更换的方法、装置、计算机设备和存储介质
CN110689026B (zh) * 2019-09-27 2022-06-28 联想(北京)有限公司 一种图像中对象的标注方法、装置及电子设备
CN111177811A (zh) * 2019-12-24 2020-05-19 武汉理工光科股份有限公司 一种应用于云平台的消防点位自动布图的方法
CN114339347A (zh) * 2020-09-30 2022-04-12 聚好看科技股份有限公司 显示设备及图像识别结果显示方法
CN111753661B (zh) * 2020-05-25 2022-07-12 山东浪潮科学研究院有限公司 一种基于神经网路的目标识别方法、设备及介质
WO2021238733A1 (zh) 2020-05-25 2021-12-02 聚好看科技股份有限公司 显示设备及图像识别结果显示方法
CN111967450B (zh) * 2020-10-21 2021-02-26 宁波均联智行科技股份有限公司 自动驾驶模型用样本获取方法、训练方法、装置及系统
CN112990177B (zh) * 2021-04-13 2021-09-21 太极计算机股份有限公司 基于电子卷宗文件的分类编目方法、装置及设备
CN113807328B (zh) * 2021-11-18 2022-03-18 济南和普威视光电技术有限公司 一种基于算法融合的目标检测方法、设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104252628A (zh) * 2013-06-28 2014-12-31 广州华多网络科技有限公司 人脸图像标注方法和系统
CN105844283A (zh) * 2015-01-16 2016-08-10 阿里巴巴集团控股有限公司 用于识别图像类目归属的方法、图像搜索方法及装置
CN105975980A (zh) * 2016-04-27 2016-09-28 百度在线网络技术（北京）有限公司 监控图像标注质量的方法和装置
CN106503691A (zh) * 2016-11-10 2017-03-15 广州视源电子科技股份有限公司 一种人脸图片的身份标注方法和装置
CN107194419A (zh) * 2017-05-10 2017-09-22 百度在线网络技术（北京）有限公司 视频分类方法及装置、计算机设备与可读介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6970860B1 (en) * 2000-10-30 2005-11-29 Microsoft Corporation Semi-automatic annotation of multimedia objects
US9195898B2 (en) * 2009-04-14 2015-11-24 Qualcomm Incorporated Systems and methods for image recognition using mobile devices
US8265342B2 (en) * 2009-04-23 2012-09-11 International Business Machines Corporation Real-time annotation of images in a human assistive environment
US8483518B2 (en) * 2010-02-19 2013-07-09 Microsoft Corporation Image-based CAPTCHA exploiting context in object recognition
CN103426191B (zh) * 2012-05-26 2016-04-27 百度在线网络技术（北京）有限公司 一种图片标注方法及系统
US8855430B1 (en) * 2012-05-30 2014-10-07 Google Inc. Refining image annotations
EP2950224A1 (en) * 2014-05-28 2015-12-02 Thomson Licensing Annotation display assistance device and method of assisting annotation display
CN104217008B (zh) * 2014-09-17 2018-03-13 中国科学院自动化研究所 互联网人物视频交互式标注方法及系统
CN105205093B (zh) * 2015-07-28 2019-04-23 小米科技有限责任公司 图库中图片处理的方法及装置
CN105095919A (zh) * 2015-09-08 2015-11-25 北京百度网讯科技有限公司 图像识别方法和装置
US9811762B2 (en) * 2015-09-22 2017-11-07 Swati Shah Clothing matching system and method
US20180373980A1 (en) * 2017-06-27 2018-12-27 drive.ai Inc. Method for training and refining an artificial intelligence
US10949667B2 (en) * 2017-09-14 2021-03-16 Ebay Inc. Camera platform and object inventory control
US10740394B2 (en) * 2018-01-18 2020-08-11 Oath Inc. Machine-in-the-loop, image-to-video computer vision bootstrapping
US11100366B2 (en) * 2018-04-26 2021-08-24 Volvo Car Corporation Methods and systems for semi-automated image segmentation and annotation
US11176415B2 (en) * 2018-05-09 2021-11-16 Figure Eight Technologies, Inc. Assisted image annotation
CN108985228A (zh) * 2018-07-16 2018-12-11 百度在线网络技术（北京）有限公司 应用于终端设备的信息生成方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104252628A (zh) * 2013-06-28 2014-12-31 广州华多网络科技有限公司 人脸图像标注方法和系统
CN105844283A (zh) * 2015-01-16 2016-08-10 阿里巴巴集团控股有限公司 用于识别图像类目归属的方法、图像搜索方法及装置
CN105975980A (zh) * 2016-04-27 2016-09-28 百度在线网络技术（北京）有限公司 监控图像标注质量的方法和装置
CN106503691A (zh) * 2016-11-10 2017-03-15 广州视源电子科技股份有限公司 一种人脸图片的身份标注方法和装置
CN107194419A (zh) * 2017-05-10 2017-09-22 百度在线网络技术（北京）有限公司 视频分类方法及装置、计算机设备与可读介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
图像与视频自动标注最新进展;尹文杰等;《计算机科学》;20111231;第38卷(第12期);第12-16页 *

Also Published As

Publication number Publication date
CN107832662A (zh) 2018-03-23
US20190095758A1 (en) 2019-03-28

Similar Documents

Publication Publication Date Title
CN107832662B (zh) 一种获取图片标注数据的方法和系统
CN108052577B (zh) 一种通用文本内容挖掘方法、装置、服务器及存储介质
CN107908641B (zh) 一种获取图片标注数据的方法和系统
CN109474847B (zh) 基于视频弹幕内容的搜索方法、装置、设备及存储介质
US11475588B2 (en) Image processing method and device for processing image, server and storage medium
CN109034069B (zh) 用于生成信息的方法和装置
WO2020029466A1 (zh) 图像处理方法和装置
CN107909088B (zh) 获取训练样本的方法、装置、设备和计算机存储介质
CN109408829B (zh) 文章可读性确定方法、装置、设备和介质
CN108897869B (zh) 语料标注方法、装置、设备和存储介质
CN108062377A (zh) 标签图片集的建立、标签的确定方法、装置、设备及介质
US11106933B2 (en) Method, device and system for processing image tagging information
CN110826494A (zh) 标注数据质量评价方法、装置、计算机设备及存储介质
US11741735B2 (en) Automatically attaching optical character recognition data to images
CN111124863A (zh) 智能设备性能测试方法、装置及智能设备
CN113221918B (zh) 目标检测方法、目标检测模型的训练方法及装置
CN112989050B (zh) 一种表格分类方法、装置、设备及存储介质
CN113936232A (zh) 一种碎屏识别方法、装置、设备和存储介质
CN110362688B (zh) 试题标注方法、装置、设备及计算机可读存储介质
CN109299294B (zh) 应用中的资源搜索方法、装置、计算机设备和存储介质
CN109558508B (zh) 数据挖掘方法、装置、计算机设备及存储介质
CN112699272B (zh) 信息输出方法、装置和电子设备
US20210342642A1 (en) Machine learning training dataset optimization
CN110378378B (zh) 事件检索方法、装置、计算机设备及存储介质
CN109460511B (zh) 一种获取用户画像的方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant