CN113343857A - 标注方法、装置、存储介质及电子装置 - Google Patents

Abstract

本发明实施例提供了一种标注方法、装置、存储介质及电子装置，其中，该方法包括：在接收到客户端发送的多帧图像的情况下，对多帧图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；将第二图像发送给客户端；接收客户端返回的第三图像，其中，第三图像为客户端在第二图像中标注了第一目标对象后所得到的图像；基于第三图像对多帧图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，第二目标对象为与第一目标对象类型相同的对象。通过本发明，解决了相关技术中存在的人工标注效率低的问题，达到了提高标注效率的效果。

Description

标注方法、装置、存储介质及电子装置

技术领域

本发明实施例涉及视频分析技术领域，具体而言，涉及一种标注方法、装置、存储介质及电子装置。

背景技术

近年来，随着人工智能技术的飞速发展，也推动了目标检测与目标跟踪领域取得了新突破，数据标注公司也应运而生，从事数据标注工作的队伍也不断壮大，数据标注对人工智能而言是很重要的一步，目前主要采用人工标注的方式进行标注，在深度学习的模型训练时，需要大量的带有标注的样本，有数据标注，机器才能学习，也才会有智能，人工标注采用手动方式对单一图像中的目标位置进行标注，而视频中有大量连续的图像帧，人工标注是一样既繁杂又耗时的工作，导致标注的效率很低。

针对相关技术中存在的人工标注效率低的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种标注方法、装置、存储介质及电子装置，以至少解决相关技术中存在的人工标注效率低的问题。

根据本发明的一个实施例，提供了一种标注方法，包括：在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；将所述第二图像发送给客户端；接收所述客户端返回的第三图像，其中，所述第三图像为所述客户端在所述第二图像中标注了第一目标对象后所得到的图像，所述第一目标对象位于第一对象的目标区域中，所述第一对象为所述对象中包括的一个或多个对象；基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，所述第二目标对象为与所述第一目标对象类型相同的对象。

在一个示例性实施例中，基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像包括：基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注，以得到多帧所述第一目标图像，其中，所述位置偏差信息用于指示同一目标对象在不同帧中的位置相差小于所述位置偏差信息的情况下，使用同一标注信息对所述同一目标对象在不同帧中进行标注。

在一个示例性实施例中，基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注包括：基于所述第三图像中包含的所述第一目标对象的类型，从多帧所述图像中确定出第四图像，其中，所述第四图像为包含所述第二目标对象的图像；基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注。

在一个示例性实施例中，基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：确定所述第四图像中包括的第二对象，其中，所述第二对象为所述第二目标对象所在的对象；将所述第一目标对象的标注信息与所述第一对象的标注信息的第一相对关系确定为所述第二目标对象的标注信息与所述第二对象的标注信息的第二相对关系；基于所述第二相对关系确定所述第二目标对象在所述第二对象中的标注区域；基于所述位置偏差信息在所述第四图像中的所述标注区域上对所述第二目标对象进行标注。

在一个示例性实施例中，基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差；在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差大于等于所述位置偏差信息的情况下，按照所述第一目标对象的标注信息确定所述第二目标对象分别在所述不同帧图像中的标注区域，并在所述不同帧图像对应的所述标注区域中对所述第二目标对象进行标注。

在一个示例性实施例中，在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差之后，所述方法还包括：在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差小于所述位置偏差信息的情况下，在所述第四图像中包括的不同帧图像中对所述第二目标对象执行不标注处理。

在一个示例性实施例中，在基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像之后，所述方法还包括：将所述第一目标图像发送给所述客户端，以指示所述客户端按照选择条件从所述第一目标图像中选择图像；接收所述客户端返回的第二目标图像，其中，所述第二目标图像为所述客户端按照所述选择条件从所述第一目标图像中选择出来的一个或多个图像；存储所述第二目标图像。

在一个示例性实施例中，所述选择条件包括以下至少之一：从相似度超过预定相似度阈值的多帧图像中仅选择一帧图像；舍弃所述对象所在的区域的图像质量小于预定质量阈值的帧图像；舍弃所述对象所在的区域被遮挡的比例超过预定比例阈值的帧图像。

根据本发明的另一个实施例，还提供了一种标注装置，包括：处理模块，用于在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；发送模块，用于将所述第二图像发送给客户端；接收模块，用于接收所述客户端返回的第三图像，其中，所述第三图像为所述客户端在所述第二图像中标注了第一目标对象后所得到的图像，所述第一目标对象位于第一对象的目标区域中，所述第一对象为所述对象中包括的一个或多个对象；标注模块，用于基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，所述第二目标对象为与所述第一目标对象类型相同的对象。

根据本发明的又一个实施例，还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明，通过对多帧图像中的第一图像中包括的对象进行第一标注处理以得到第二图像，并将第二图像发送给客户端，再接收客户端返回的第三图像，其中，所述第三图像为所述客户端对所述第二图像中的第一目标对象进行标注后得到的图像，基于所述第三图像可对多帧图像中包括的与第一目标对象类型相同的对象进行自动标注，因此，不需要大量训练素材以及避免了过度依赖于人工标注的问题，解决了相关技术中存在的人工标注效率低的问题，达到了提高标注效率的效果。

附图说明

图1是本发明实施例的标注方法的移动终端硬件结构框图；

图2是根据本发明实施例的标注方法的流程图；

图3是根据本发明具体实施例的一种标注方法的流程图；

图4是根据本发明具体实施例的一种标注方法的示例图；

图5是根据本发明实施例的标注装置的结构框图；

图6是根据本发明具体实施例的一种标注系统框图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明的实施例。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。

本申请实施例中所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例，图1是本发明实施例的标注方法的移动终端硬件结构框图。如图1所示，移动终端可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104，其中，上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述移动终端的结构造成限定。例如，移动终端还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。

存储器104可用于存储计算机程序，例如，应用软件的软件程序以及模块，如本发明实施例中的标注方法对应的计算机程序，处理器102通过运行存储在存储器104内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至移动终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器(Network Interface Controller，简称为NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频(Radio Frequency，简称为RF)模块，其用于通过无线方式与互联网进行通讯。

在本实施例中提供了一种标注方法，图2是根据本发明实施例的标注方法的流程图，如图2所示，该流程包括如下步骤：

步骤S202，在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；

步骤S204，将所述第二图像发送给客户端；

步骤S206，接收所述客户端返回的第三图像，其中，所述第三图像为所述客户端在所述第二图像中标注了第一目标对象后所得到的图像，所述第一目标对象位于第一对象的目标区域中，所述第一对象为所述对象中包括的一个或多个对象；

步骤S208，基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，所述第二目标对象为与所述第一目标对象类型相同的对象。

通过上述步骤，通过对多帧图像中的第一图像中包括的对象进行第一标注处理以得到第二图像，并将第二图像发送给客户端，再接收客户端返回的第三图像，其中，所述第三图像为所述客户端对所述第二图像中的第一目标对象进行标注后得到的图像，基于所述第三图像可对多帧图像中包括的与第一目标对象类型相同的对象进行自动标注，因此，不需要大量训练素材以及避免了过度依赖于人工标注的问题，解决了相关技术中存在的人工标注效率低的问题，达到了提高标注效率的效果。

其中，上述步骤的执行主体可以为服务端或后端分析设备，或者为其它的具备图像分析处理和标注能力的设备，或者为配置在存储设备上的具备人机交互能力的处理器，或者为具备类似处理能力的处理设备或处理单元等，但不限于此。下面以服务端执行上述操作为例(仅是一种示例性说明，在实际操作中还可以是其他的设备或模块来执行上述操作)进行说明：

在上述实施例中，服务端在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像，例如，服务端对接收到的多帧图像中的第一图像(例如，多帧图像中的某帧图像)中包括的对象(例如，车辆、行人、动物或其它对象)进行第一标注处理，以得到第二图像，可选地，在实际应用中，服务端可根据检测到的对象的信息(如对象的标识ID、位置或其它)进行第一标注处理，以得到第二图像，即第二图像中包括了对象的信息；服务端再将所述第二图像发送给客户端；然后，服务端接收所述客户端返回的第三图像，其中，第三图像为所述客户端在上述第二图像中标注了第一目标对象(如车辆的车牌)后所得到的图像，该第一目标对象(如车辆的车牌)位于第一对象(如上述车辆)的目标区域中，所述第一对象为所述对象中包括的一个或多个对象，在实际应用中，上述第二图像中包括的对象可能有一种或多种不同类型的对象(如上述车辆、行人、动物或其它对象)，每种对象也可能有一个或多个，而所述第三图像为客户端对所述对象中包括的一个或多个对象进行标注后得到的图像，例如，可对上述第二图像中的一个或多个车辆的车牌(即相当于上述第一目标对象)进行标注，也可对上述第二图像中的一个或多个人的某部位(如人脸，相当于上述第一目标对象)进行标注；服务端在接收到所述客户端返回的第三图像之后，可基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，即可得到多帧第一目标图像，其中，第二目标对象为与所述第一目标对象类型相同的对象，例如，第一目标对象为A型车辆的车牌，在所述客户端对第一目标对象(即A型车辆的车牌)进行标注之后，服务端可对与第一目标对象类型相同的第二目标对象(如，A型其它车辆的车牌或与A型车辆外型相近的其它类型车辆的车牌)进行自动标注，这样可得到多帧第一目标图像，第一目标图像为服务端对多帧所述图像中包括的第二目标对象进行自动标注之后的图像。通过本实施例，不需要大量训练素材以及避免了过度依赖于人工标注，即可实现自动标注的目的，达到了提高标注效率的效果。

在一个可选的实施例中，基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像包括：基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注，以得到多帧所述第一目标图像，其中，所述位置偏差信息用于指示同一目标对象在不同帧中的位置相差小于所述位置偏差信息的情况下，使用同一标注信息对所述同一目标对象在不同帧中进行标注。在本实施例中，服务端基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注以得到多帧第一目标图像包括：服务端基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注，以得到多帧所述第一目标图像，在实际应用中，所述客户端可预先配置位置偏差信息，例如，位置偏差信息可以是同一个对象(如车辆)在不同帧图像中的位置偏差要超过预设阈值(如车身的一半或其它尺寸)，或同一个对象(如车辆)在不同帧图像中的重叠率不能超过预定重叠值(如90％、80％或其它)，在实际应用中，若同一个对象(如车辆)在不同帧图像中的位置偏差小于预设阈值或同一个对象(如车辆)在不同帧图像中的重叠率超过预定重叠值时，将不标注。通过本实施例，可避免重复标注，达到了提高标注效率的目的。

在一个可选的实施例中，基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注包括：基于所述第三图像中包含的所述第一目标对象的类型，从多帧所述图像中确定出第四图像，其中，所述第四图像为包含所述第二目标对象的图像；基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注。在本实施例中，服务端基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注包括：基于所述第三图像中包含的所述第一目标对象的类型，从多帧所述图像中确定出第四图像，例如，基于第三图像中包含的第一目标对象(如A型车辆的车牌)的类型，从多帧所述图像中确定出第四图像，第四图像为多帧所述图像中包含所述第二目标对象(如，A型其它车辆的车牌或与A型车辆外型相近的其它类型车辆的车牌)的图像，即在实际应用中，对于既不包括A型车辆也不包括与A型车辆外型相近的其它类型车辆的图像，服务端可以不选择，当然也可以不标注；然后，服务端基于所述位置偏差信息在所述第四图像中对所述第二目标对象进行标注，即对于位置偏差太小(如对于移动速度很慢的对象，可能在不同帧图像中的位置相差很小)的图像帧中的所述第二目标对象可不标注。

在一个可选的实施例中，基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：确定所述第四图像中包括的第二对象，其中，所述第二对象为所述第二目标对象所在的对象；将所述第一目标对象的标注信息与所述第一对象的标注信息的第一相对关系确定为所述第二目标对象的标注信息与所述第二对象的标注信息的第二相对关系；基于所述第二相对关系确定所述第二目标对象在所述第二对象中的标注区域；基于所述位置偏差信息在所述第四图像中的所述标注区域上对所述第二目标对象进行标注。在本实施例中，服务端基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：先确定出所述第四图像中包括的第二对象，即与所述第一对象(如A型车辆)类型相同的对象，例如，第二对象可以是其它帧图像中的A型车辆或与A型车辆外型相近的其它类型车辆；将所述第一目标对象的标注信息(如A型车辆的车牌的标注信息，标注信息可以包括车牌的标注框及标注框所在的位置信息)与所述第一对象的标注信息(即A型车辆自身的标注信息，A型车辆的标注框及标注框所在的位置信息)的第一相对关系确定为所述第二目标对象的标注信息与所述第二对象的标注信息的第二相对关系，例如，第一相对关系可以是A型车辆的车牌的标注框与该车牌所在的车辆(即A型车辆)的标注框之间的相对关系，服务端可以采用与第一相对关系相同的第二相对关系，确定所述第二目标对象在第二对象中的标注区域，例如，确定所述第四图像中包括的第二目标对象的标注区域(即上述第二对象中车牌的标注框区域)，同样，服务端可基于所述位置偏差信息在所述第四图像中的所述标注区域上对所述第二目标对象进行标注。

在一个可选的实施例中，基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差；在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差大于等于所述位置偏差信息的情况下，按照所述第一目标对象的标注信息确定所述第二目标对象分别在所述不同帧图像中的标注区域，并在所述不同帧图像对应的所述标注区域中对所述第二目标对象进行标注。在本实施例中，服务端基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差；在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差大于等于所述位置偏差信息的情况下，按照所述第一目标对象的标注信息确定所述第二目标对象分别在所述不同帧图像中的标注区域，可选地，在实际应用中，第二目标对象在所述不同帧图像中的标注区域可以依据第一目标对象的标注信息(如A型车辆的车牌的标注框在A型车辆的标注框中的相对位置及相对大小)确定，并在所述不同帧图像对应的所述标注区域中对所述第二目标对象进行标注，在实际应用中，可依据第一目标对象的标注框信息来对后续的其它帧图像中的第二目标对象按同比例缩放来自动绘制标定位置并进行标注。

在一个可选的实施例中，在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差之后，所述方法还包括：在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差小于所述位置偏差信息的情况下，在所述第四图像中包括的不同帧图像中对所述第二目标对象执行不标注处理。在本实施例中，在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差之后，若确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差小于所述位置偏差信息的情况下，例如，位置偏差信息可以是同一个对象(如车辆)在不同帧图像中的位置偏差要超过预设阈值(如车身的一半或其它尺寸)，若同一个对象(如车辆)在不同帧图像中的位置偏差小于预设阈值时，将在所述第四图像中包括的不同帧图像中对所述第二目标对象执行不标注处理。在实际应用中，多张重复的图像帧需要显示一张即可，在进行自动标注的时候，若发现连续多帧图像的差别很小(即相当于前述位置相差很小)时，只标注第一帧即可，后边的差别很小的帧图像不会进行标注，并且在输出标注后的图像的时候也只输出做了标注的帧图像，以供后续人工选择。通过本实施例，可避免重复标注，达到了提高标注效率的目的。

在一个可选的实施例中，在基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像之后，所述方法还包括：将所述第一目标图像发送给所述客户端，以指示所述客户端按照选择条件从所述第一目标图像中选择图像；接收所述客户端返回的第二目标图像，其中，所述第二目标图像为所述客户端按照所述选择条件从所述第一目标图像中选择出来的一个或多个图像；存储所述第二目标图像。在本实施例中，服务端在基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像之后，将所述第一目标图像发送给客户端，以指示客户端按预定条件从所述第一目标图像中选择图像；在客户端按预定条件选择完图像后，服务端再接收客户端返回的第二目标图像，并存储所述第二目标图像，在实际应用中，可由客户端对服务端自动标注的图像进行验证，并选出可供深度学习训练的标注视频或图像(含标注信息)进行保存。

在一个可选的实施例中，所述选择条件包括以下至少之一：从相似度超过预定相似度阈值的多帧图像中仅选择一帧图像；舍弃所述对象所在的区域的图像质量小于预定质量阈值的帧图像；舍弃所述对象所在的区域被遮挡的比例超过预定比例阈值的帧图像。在本实施例中，上述选择条件可以包括以下至少之一：从相似度超过预定相似度阈值的多帧图像中仅选择一帧图像，在实际应用中，若多帧图像相似度超过预定相似度阈值，可视作相同标注的重复数据，这种情况下可仅选择一帧图像；舍弃所述对象所在的区域的图像质量小于预定质量阈值的帧图像，例如，质量可以包括图像的清晰度或分辨率或其它，当所述对象所在的区域的图像质量小于预定质量阈值时，可舍弃该对象所在的帧图像；舍弃所述对象所在的区域被遮挡的比例超过预定比例阈值的帧图像，例如，当所述对象(如车辆)所在的区域被遮挡的比例超过预定比例阈值(如50％、60％或其它)，可舍弃该对象所在的帧图像。通过该实施例，可实现清除无效标注以达到提高标注的质量的效果。

显然，上述所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。

下面结合实施例对本发明进行具体说明：

图3是根据本发明具体实施例的一种标注方法的流程图，如图3所示，该流程包括以下步骤：

S302，分析视频，服务端可通过跟踪算法，获取到每帧数据(也可根据物体移动速度抽帧分析，如每3帧分析一次)，分析视频；

S304，判断是否有待标注物体对象(对应于前述第一对象)；

S306，在判断出有待标注物体对象的情况下，生成目标数据帧，例如，在实际应用中，可将检测到的物体信息(物体标识ID，位置等)按照一定协议格式(如json或xml格式)，叠加在视频的数据帧信息中；

需要说明的是，在上述判断是否有待标注物体对象的结果为无的情况下，同样将所在帧图像与其它帧图像合成视频，如图3所示；

S308，合成视频(即叠加了检测信息后的视频)；

S310，在合成视频后，服务端将合成后的视频(相当于前述第二图像)发送给客户端，客户端可确定需标注的物体对象，例如，车辆，行人、指定动物等，客户端再明确对象类型和标注区域，即进行人工标注目标局部，例如，仅标注车辆的车牌(相当于前述第一目标对象)，行人的人脸位置(相当于前述第一目标对象)；

需要说明的是，在实际应用中，客户端在标注目标局部时，可设定标注要求位置变动偏差，以防止车辆或行人在不移动的情况下，多次标注，实际上输出可视作相同标注数据的重复数据(等同于，一个标注图片，复制多次进行分析)。以提取有效的标注。

S312，客户端将进行局部标注的视频(对应于前述第三图像)返回给服务端，并由服务端解析标注目标，对应于前述基于所述第三图像中包含的所述第一目标对象的类型，从多帧所述图像中确定出第四图像，其中，所述第四图像为包含所述第二目标对象的图像；

S314，标注相同目标，可选地，在实际应用中，通过相同物体ID和偏差要求，对视频中已经标注过的物体，在其位置变化后，进行标注。可以检测到物体类型时，如车辆，通过一辆轿车标注出的车辆的车牌位置，可以将检测出所有轿车相同位置的车牌信息(相当于前述对第二目标对象进行标注)，图4是根据本发明具体实施例的一种标注方法的示例图，如图4所示，通过车辆位置变动，根据车牌相对位置，自动标注车牌位置；

S316，合成标注视频(含标注信息的视频)；

S318，人工核验标注，服务端将合成标注视频(含标注信息的视频)发送给客户端后，由人工进行审查标注，例如，在实际应用中，通过车辆位置标注车牌，当车辆部分图像已经不在视频区域内，或者车牌已经不能清楚地识别时，此帧视频的标注为无效标注，需要剔除；

S320，得到最终标注视频。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

在本实施例中还提供了一种标注装置，图5是根据本发明实施例的标注装置的结构框图，如图5所示，该装置包括：

处理模块502，用于在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；

发送模块504，用于将所述第二图像发送给客户端；

接收模块506，用于接收所述客户端返回的第三图像，其中，所述第三图像为所述客户端在所述第二图像中标注了第一目标对象后所得到的图像，所述第一目标对象位于第一对象的目标区域中，所述第一对象为所述对象中包括的一个或多个对象；

标注模块508，用于基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，所述第二目标对象为与所述第一目标对象类型相同的对象。

在一个可选的实施例中，标注模块508包括：标注子模块，用于基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注，以得到多帧所述第一目标图像，其中，所述位置偏差信息用于指示同一目标对象在不同帧中的位置相差小于所述位置偏差信息的情况下，使用同一标注信息对所述同一目标对象在不同帧中进行标注。

在一个可选的实施例中，所述标注子模块包括：确定单元，用于基于所述第三图像中包含的所述第一目标对象的类型，从多帧所述图像中确定出第四图像，其中，所述第四图像为包含所述第二目标对象的图像；标注单元，用于基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注。

在一个可选的实施例中，所述标注单元包括：第一确定子单元，用于确定所述第四图像中包括的第二对象，其中，所述第二对象为所述第二目标对象所在的对象；第二确定子单元，用于将所述第一目标对象的标注信息与所述第一对象的标注信息的第一相对关系确定为所述第二目标对象的标注信息与所述第二对象的标注信息的第二相对关系；第三确定子单元，用于基于所述第二相对关系确定所述第二目标对象在所述第二对象中的标注区域；第一标注子单元，用于基于所述位置偏差信息在所述第四图像中的所述标注区域上对所述第二目标对象进行标注。

在一个可选的实施例中，所述标注单元还包括：第四确定子单元，用于确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差；第二标注子单元，用于在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差大于等于所述位置偏差信息的情况下，按照所述第一目标对象的标注信息确定所述第二目标对象分别在所述不同帧图像中的标注区域，并在所述不同帧图像对应的所述标注区域中对所述第二目标对象进行标注。

在一个可选的实施例中，所述装置还包括：执行模块，用于在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差之后，且在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差小于所述位置偏差信息的情况下，在所述第四图像中包括的不同帧图像中对所述第二目标对象执行不标注处理。

在一个可选的实施例中，所述装置还包括：第二发送模块，用于在基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像之后，将所述第一目标图像发送给所述客户端，以指示所述客户端按照选择条件从所述第一目标图像中选择图像；第二接收模块，用于接收所述客户端返回的第二目标图像，其中，所述第二目标图像为所述客户端按照所述选择条件从所述第一目标图像中选择出来的一个或多个图像；存储模块，用于存储所述第二目标图像。

在一个可选的实施例中，所述选择条件包括以下至少之一：从相似度超过预定相似度阈值的多帧图像中仅选择一帧图像；舍弃所述对象所在的区域的图像质量小于预定质量阈值的帧图像；舍弃所述对象所在的区域被遮挡的比例超过预定比例阈值的帧图像。

需要说明的是，上述各个模块是可以通过软件或硬件来实现的，对于后者，可以通过以下方式实现，但不限于此：上述模块均位于同一处理器中；或者，上述各个模块以任意组合的形式分别位于不同的处理器中。

在本实施例中还提供了一种标注系统，下面结合实施例对本发明进行具体说明：

图6是根据本发明具体实施例的一种标注系统框图，如图6所示，该系统由两部分组成：服务端(或称为后端分析装置)和客户端，其中，

服务端包括：视频接收模块604、分析跟踪模块606、叠加目标信息模块608、自动标注模块612、标注保存模块616；

视频接收模块604：用于接收客户端上传待标注视频，并保存交由分析跟踪模块分析；

分析跟踪模块606：用于分析待标注视频，检测目标和目标的跟踪信息；

叠加目标信息模块608：用于将原始视频帧和带有目标信息的数据帧进行封装，交由客户端进行视频标注，并向自动标注模块提供视频和检测信息；

自动标注模块612：用于与客户端交互，通过客户端选择的检测物体和标注框的位置，以及标注目标的类型属性等信息，结合叠加目标信息模块提供的视频和检测到的物体信息，进行自动标注，标注后支持客户端进行验证，自动标注时，通过设置的参数确定标注数据具有一定的差异性，以过滤掉重复度较高的视频，并保存足够有效的视频，结合检查区域图片质量、遮挡情况等，以保证标注数据的有效性；

标注保存模块616：用于接收并保存客户端验证通过的标注信息。结合视频信息，生成可供深度学习训练的标注视频或图片(含标注信息)；

客户端包括：视频上传模块602、视频标注模块610、标注验证模块614；

视频上传模块602：用于上传待标注的视频；

视频标注模块610：用于在叠加检测信息的视频数据中，选择需要的目标，目标类型、标注目标的位置、类型等信息，以及对应的检测目标ID，视频帧信息，上传给服务端；

标注验证模块614：用于检查验证自动标注的数据是否可以作为深度学习的标注数据，可以作为深度学习的训练素材的，则上传相应确认信息给服务端。

本发明的实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

在一个示例性实施例中，上述计算机可读存储介质可以包括但不限于：U盘、只读存储器(Read-Only Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

本发明的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

在一个示例性实施例中，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。

本实施例中的具体示例可以参考上述实施例及示例性实施方式中所描述的示例，本实施例在此不再赘述。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (11)

1.一种标注方法，其特征在于，包括：

在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；

将所述第二图像发送给客户端；

接收所述客户端返回的第三图像，其中，所述第三图像为所述客户端在所述第二图像中标注了第一目标对象后所得到的图像，所述第一目标对象位于第一对象的目标区域中，所述第一对象为所述对象中包括的一个或多个对象；

基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，所述第二目标对象为与所述第一目标对象类型相同的对象。

2.根据权利要求1所述的方法，其特征在于，基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像包括：

基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注，以得到多帧所述第一目标图像，其中，所述位置偏差信息用于指示同一目标对象在不同帧中的位置相差小于所述位置偏差信息的情况下，使用同一标注信息对所述同一目标对象在不同帧中进行标注。

3.根据权利要求2所述的方法，其特征在于，基于所述第三图像以及所述客户端预先配置的位置偏差信息对多帧所述图像中包括的所述第二目标对象进行标注包括：

基于所述第三图像中包含的所述第一目标对象的类型，从多帧所述图像中确定出第四图像，其中，所述第四图像为包含所述第二目标对象的图像；

基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注。

4.根据权利要求3所述的方法，其特征在于，基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：

确定所述第四图像中包括的第二对象，其中，所述第二对象为所述第二目标对象所在的对象；

将所述第一目标对象的标注信息与所述第一对象的标注信息的第一相对关系确定为所述第二目标对象的标注信息与所述第二对象的标注信息的第二相对关系；

基于所述第二相对关系确定所述第二目标对象在所述第二对象中的标注区域；

基于所述位置偏差信息在所述第四图像中的所述标注区域上对所述第二目标对象进行标注。

5.根据权利要求3所述的方法，其特征在于，基于所述位置偏差信息在所述第四图像中按照所述第一目标对象的标注信息对所述第二目标对象进行标注包括：

确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差；

在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差大于等于所述位置偏差信息的情况下，按照所述第一目标对象的标注信息确定所述第二目标对象分别在所述不同帧图像中的标注区域，并在所述不同帧图像对应的所述标注区域中对所述第二目标对象进行标注。

6.根据权利要求5所述的方法，其特征在于，在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置偏差之后，所述方法还包括：

在确定所述第二目标对象在所述第四图像中包括的不同帧图像中的位置相差小于所述位置偏差信息的情况下，在所述第四图像中包括的不同帧图像中对所述第二目标对象执行不标注处理。

7.根据权利要求1所述的方法，其特征在于，在基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像之后，所述方法还包括：

将所述第一目标图像发送给所述客户端，以指示所述客户端按照选择条件从所述第一目标图像中选择图像；

接收所述客户端返回的第二目标图像，其中，所述第二目标图像为所述客户端按照所述选择条件从所述第一目标图像中选择出来的一个或多个图像；

存储所述第二目标图像。

8.根据权利要求7所述的方法，其特征在于，所述选择条件包括以下至少之一：

从相似度超过预定相似度阈值的多帧图像中仅选择一帧图像；

舍弃所述对象所在的区域的图像质量小于预定质量阈值的帧图像；

舍弃所述对象所在的区域被遮挡的比例超过预定比例阈值的帧图像。

9.一种标注装置，其特征在于，包括：

处理模块，用于在接收到客户端发送的多帧图像的情况下，对多帧所述图像中的第一图像中包括的对象进行第一标注处理，以得到第二图像；

发送模块，用于将所述第二图像发送给客户端；

接收模块，用于接收所述客户端返回的第三图像，其中，所述第三图像为所述客户端在所述第二图像中标注了第一目标对象后所得到的图像，所述第一目标对象位于第一对象的目标区域中，所述第一对象为所述对象中包括的一个或多个对象；

标注模块，用于基于所述第三图像对多帧所述图像中包括的第二目标对象进行标注，以得到多帧第一目标图像，其中，所述第二目标对象为与所述第一目标对象类型相同的对象。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被处理器执行时实现所述权利要求1至8任一项中所述的方法的步骤。

11.一种电子装置，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现所述权利要求1至8任一项中所述的方法的步骤。

Images