CN112329659A - 基于车辆图像的弱监督语义分割方法及其相关设备 - Google Patents

Abstract

本申请实施例属于人工智能领域，应用于智慧交通领域中，涉及一种基于车辆图像的弱监督语义分割方法及其相关设备，包括接收的预先标注的车辆图像，输入预先训练的识别网络，获得初始特征图和父类类别激活图；基于聚类算法聚类初始特征图的像素，获得目标车辆特征图；通过计算获得的类别权重加权并调整目标车辆特征图，获得目标类别激活图和伪语义标签；基于伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络；接收待识别车辆图像，输入训练后的语义分割网络，获得像素级的语义分割图像。其中，预先标注的车辆图像可存储于区块链中。本申请通过图像级别的标注获得像素级的伪语义标签，进而实现像素级的图像分割。

Description

基于车辆图像的弱监督语义分割方法及其相关设备

技术领域

本申请涉及人工智能技术领域，尤其涉及基于车辆图像的弱监督语义分割方法及其相关设备。

背景技术

车辆部件识别在车辆定损中起着非常重要的作用，可以为进一步的损伤鉴定提供精确的位置信息。在传统的车辆碰撞定损场景中，在交通事故发生后，车辆损伤鉴定首先需要由用户上报保险公司，然后在事故现场等待保险公司定损员现场定损，过程冗长，且等待时间较长，整个过程给用户造成的体验极差，且易造成交通拥堵。

随着人工智能视觉识别技术的发展，车辆部件的智能识别逐渐得到广泛的应用，从而可以实现快速定位损伤，帮助企业节约人力，减少客户等待时间，提高客户满意度。但现有的基于语义分割模型的车辆部件智能识别系统都是基于有监督的识别方法，需要大量的像素级别的标注信息，从而需要耗费大量的人力和时间来收集像素级别的标注信息。

发明内容

本申请实施例的目的在于提出一种基于车辆图像的弱监督语义分割方法及其相关设备，能够通过图像级别的标注获得像素级的伪语义标签，进而实现像素级的图像分割。

为了解决上述技术问题，本申请实施例提供一种基于车辆图像的弱监督语义分割方法，采用了如下所述的技术方案：

一种基于车辆图像的弱监督语义分割方法，包括下述步骤：

接收的预先标注的车辆图像，并输入至预先训练的识别网络中，获得初始特征图和父类类别激活图，其中，所述预先标注的车辆图像为图像级的标注；

基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图，其中，所述子类标签为所述目标车辆特征图的像素的唯一分类标识；

基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图，获得初始类别激活图；

基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图，并将标识所述目标类别激活图中的像素的子类标签作为伪语义标签；

基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络；

接收待识别车辆图像，输入至训练后的语义分割网络中，获得像素级的语义分割图像。

进一步的，基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图的步骤包括：

将所述初始类别激活图输入至预先训练的相似度预测网络，获得预测的相邻坐标像素对之间的语义相似度；

基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图，其中，所述激活分数为所述初始类别激活图中包含的每个子类标签对应的类别权重；

将所述游走类别激活图输入至预设的条件随机森林中，获得所述目标类别激活图。

进一步的，所述基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图的步骤包括：

将超过预设阈值的语义相似度作为相同语义；

在所述初始类别激活图中，通过预设的随机游走算法将所述激活分数传递到具有相同语义的邻近像素。

进一步的，所述识别网络包括特征提取网络、全局平均池化层和全连接层，所述将预先标注的车辆图像输入至预先训练的识别网络中，获得初始车辆特征和父类类别激活图的步骤包括：

将预先标注的车辆图像输入至所述特征提取网络，获得所述初始车辆特征；

将所述初始车辆特征依次输入至所述全局平均池化层和全连接层中，获得所述父类类别激活图。

进一步的，所述基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图的步骤包括：

基于K-means无监督聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得多个子类，其中，每个所述子类对应一个预设的子类标签；

基于所述子类和所述子类标签对所述初始特征图中的像素进行标注，获得目标车辆特征图。

进一步的，所述基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图的步骤包括：

基于预设的分类模型计算所述父类类别激活图中各像素的计算类别权重；

通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图。

进一步的，所述基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络的步骤包括：

基于所述伪语义标签标注所述车辆图像中对应的像素，获得像素级标注的车辆图像；

通过所述像素级标注的车辆图像训练预设的语义分割网络，获得所述训练后的语义分割网络。

为了解决上述技术问题，本申请实施例还提供一种基于车辆图像的弱监督语义分割装置，采用了如下所述的技术方案：

一种基于车辆图像的弱监督语义分割装置，包括：

输入模块，用于接收的预先标注的车辆图像，并输入至预先训练的识别网络中，获得初始特征图和父类类别激活图，其中，所述预先标注的车辆图像为图像级的标注；

聚类模块，用于基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图，其中，所述子类标签为所述目标车辆特征图的像素的唯一分类标识；

加权模块，用于基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图，获得初始类别激活图；

调整模块，用于基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图，并将标识所述目标类别激活图中的像素的子类标签作为伪语义标签；

训练模块，用于基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络；以及

获得模块，用于接收待识别车辆图像，输入至训练后的语义分割网络中，获得像素级的语义分割图像。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现上述的基于车辆图像的弱监督语义分割方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现上述的基于车辆图像的弱监督语义分割方法的步骤。

与现有技术相比，本申请实施例主要有以下有益效果：

通过预先训练的识别网络对预先标注的车辆图像进行特征提取和分类，获得初始特征图和父类类别激活图，其中，预先标注的车辆图像为图像级的标注。然后通过聚类算法聚类初始特征图，实现获得像素级的子类标签。通过类别加权和后续的调整初始类别激活图，使得获得的目标类别激活图覆盖更加全面的区域，此时，目标类别激活图中像素对应的子类标签即为更加准确的伪语义标签，则可以将目标类别激活图中像素对应的子类标签作为该像素的伪语义标签来训练预设的语义分割网络，实现对语义分割模型的弱监督训练，使得最终训练的语义分割网络在像素级别的类别预测中得到了更高的精度。获得的训练后的语义分割网络即可实现对输入的待识别车辆图像进行像素级的图像标注和语义分割。本申请不需要大量的人力和时间来提供精细的像素级别的语义标签，只需要给定图像级别的标注，即可通过本的弱监督的方式得到精细的语义标签输出。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的基于车辆图像的弱监督语义分割方法的一个实施例的流程图；

图3是根据本申请的基于车辆图像的弱监督语义分割装置的一个实施例的结构示意图；

图4是根据本申请的计算机设备的一个实施例的结构示意图。

附图标记：200、计算机设备；201、存储器；202、处理器；203、网络接口；300、基于车辆图像的弱监督语义分割装置；301、输入模块；302、聚类模块；303、加权模块；304、调整模块；305、训练模块；306、获得模块。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的基于车辆图像的弱监督语义分割方法一般由服务器/终端设备执行，相应地，基于车辆图像的弱监督语义分割装置一般设置于服务器/终端设备中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的基于车辆图像的弱监督语义分割方法的一个实施例的流程图。所述的基于车辆图像的弱监督语义分割方法，包括以下步骤：

S1：接收的预先标注的车辆图像，并输入至预先训练的识别网络中，获得初始特征图和父类类别激活图，其中，所述预先标注的车辆图像为图像级的标注。

在本实施例中，对车辆的不同部位进行划分和定义，包括左前子叶板、左后子叶板、右前子叶板、右后子叶板、前保险杠、后保险杠、引擎盖、后备箱盖、左前车门、左后车门、右前车门、右后车门和底大边一共13个车辆部件类别。基于定义的车辆部件类别，对车辆图片批量人工标注，对每张图片采用掩码(mask)标注，并记录其所属的部件类别，构建预先标注的车辆图像。将图像级的标注作为图像的父类类别。本申请中输入至预先训练的识别网络中的车辆图像是带有一个父类类别的图像。通过构建的预先标注的车辆图像以及其他预先标注的图像训练预设的识别网络，获得训练好的识别网络。其中，其他预先标注的图像包括行人图像、动物图像以及物品图像等。通过将带有图像级标注的车辆图像输入至预先训练的识别网络中，使得识别网络可以较好的分类，输出较佳的初始特征图和父类类别激活图，便于后续操作。

在本实施例中，基于车辆图像的弱监督语义分割方法运行于其上的电子设备(例如图1所示的服务器/终端设备)可以通过有线连接方式或者无线连接方式接收预先标注的车辆图像。需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

具体的，所述识别网络包括特征提取网络、全局平均池化层和全连接层，所述将预先标注的车辆图像输入至预先训练的识别网络中，获得初始车辆特征和父类类别激活图的步骤包括：

将预先标注的车辆图像输入至所述特征提取网络，获得所述初始车辆特征；

将所述初始车辆特征依次输入至所述全局平均池化层和全连接层中，获得所述父类类别激活图。

在本实施例中，本申请采用ResNet50作为识别网络的特征提取网络，ResNet50在图像特征提取中有较好的表现。在特征提取网络之后紧接一个全局平均池化层(GAP)，之后再接一个全连接层输出预测的类别概率，得到父类类别激活图(Class Activation Map，CAM)。父类类别激活图(CAM,class activation map),是指对输入图像生成类激活的热力图,表示每个位置对该类别的重要程度.展示了该图像的哪些部分/像素为模型的最终输出做出了更大的贡献。通过获得特征提取网络输出的初始特征图和父类类别激活图，便于后续的处理。

S2：基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图，其中，所述子类标签为所述目标车辆特征图的像素的唯一分类标识。

在本实施例中，由于上述识别网络的训练目标是分类，所以特征提取网络输出的初始特征图只对具有明显区分性的区域会有高响应，导致产生的父类类别激活图的响应比较粗糙，对后续的分割精度造成影响。故需要对输出的初始特征图中的像素进行聚类，获得像素的类别，即像素的子类标签，实现对像素的分类。本实施例中子类标签为相关人员输入，对于每张目标车辆特征图所对应的子类标签，由聚类算法得出。需要说明的是：由于有背景的存在，并非每个像素都具有其各自的子类标签，通过聚类算法，部分像素会被赋予子类标签。子类标签包括各种车辆部件、人物以及动物(如：猫、狗)等。

具体的，所述基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图的步骤包括：

基于K-means无监督聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得多个子类，其中，每个所述子类对应一个预设的子类标签；

基于所述子类和子类标签对所述初始特征图中的像素进行标注，获得目标车辆特征图。

在本实施例中，本申请采用K-means无监督聚类算法，通过将标记的原有的车辆图像的类别作为父类，在父类下通过无监督的方式得到多个子类和对应的多个子类标签，实现对图片中的像素进行聚类，便于后续得到更加精细的类别激活图。

S3：基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图，获得初始类别激活图。

在本实施例中，通过父类类别激活图中的类别权重加权目标车辆特征图，实现对目标车辆特征图的调整，从而获得分割精度更好的初始类别激活图。

具体的，所述基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图的步骤包括：

基于预设的分类模型计算所述父类类别激活图中各像素的计算类别权重；

通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图。

在本实施例中，本申请采用Softmax作为上述预设的分类模型。Softmax是一个多分类模型，可以计算预测对象(即像素)属于各个类别的概率，将所述概率作为类别权重，实现将目标车辆特征图转为初始类别激活图，获得分割精度更好的初始类别激活图。

S4：基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图，并将标识所述目标类别激活图中的像素的子类标签作为伪语义标签。

在本实施例中，初始类别激活图中图像分割情况依然不够精细，通过对初始类别激活图进行进一步的优化调整，获得更加精细的目标类别激活图，此时，已经完成精细的图像分割，将像素对应的子类标签即可作为伪语义标签，将伪语义标签作为监督信息，来训练语义分割网络。

具体的，基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图的步骤包括：

将所述初始类别激活图输入至预先训练的相似度预测网络，获得预测的相邻坐标像素对之间的语义相似度；

基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图，其中，所述激活分数为所述初始类别激活图中包含的每个子类标签对应的类别权重；

将所述游走类别激活图输入至预设的条件随机森林中，获得所述目标类别激活图。

在本实施例中，输入初始类别激活图，用相似度预测网络预测初始类别激活图中相邻坐标像素对之间的语义相似度。其中，ResNet50可以作为相似度预测网络，提取特征后，计算相似度。通过随机游走将初始类别激活图的激活分数传递到具有相同语义的临近区域。其中，激活分数指在初始类别激活图中每个子类(或子类标签)对应的该类别的分数，即类别权重，子类标签与子类为一一对应关系。最后再通过条件随机森林(DCRF，DenseConditional Random Field)进一步优化初始类别激活图，得到更好的目标边界区域。随机游走(RandomWalk)将激活分数传播到语义上相同的区域，这种语义扩散显着地修改了初始类别激活图，从而恢复了精细的对象形状。随机游走(RandomWalk)从未标记顶点开始随机漫步，首次到达各类标记顶点的概率代表了未标记点归属于标记类的可能性，把最大的概率所在类的子类标签赋给未标记顶点，完成分割。DCRF技术作为输出结果的优化后处理手段，能够把明显不符合事实的识别判断剔除掉，替换成合理的解释，最后可以得到对图像语义预测结果的优化，生成最终的语义分割结果。

其中，所述基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图的步骤包括：

将超过预设阈值的语义相似度作为相同语义；

在所述初始类别激活图中，通过预设的随机游走算法将所述激活分数传递到具有相同语义的邻近像素。

在本实施例中，设定预设的阈值，在相邻的两个像素之间，只要语义相似度超过预设的阈值，则确定是相同语义，进而确定这两个相邻的像素属于同一子类的像素。通过随机游走传递激活分数，实现各子类覆盖更加全面的区域，实现更精细的分割。子类标签随激活分数进行传递，即通过激活分数的传递实现了子类标签的传递。

S5：基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络。

在本实施例中，获取目标类别激活图中像素的伪语义标签，将其作为监督信息，训练语义分割网络,就可以得到能够像素级类别的语义分割网络，从而实现车辆部件的分割。

具体的，所述基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络的步骤包括：

基于所述伪语义标签标注所述车辆图像中对应的像素，获得像素级标注的车辆图像；

通过所述像素级标注的车辆图像训练预设的语义分割网络，获得所述训练后的语义分割网络。

在本实施例中，通过上述步骤获得的伪语义标签来标注车辆图像中对应的像素。对预先图像级标注的车辆图像，实现像素级标注。用像素级标注的车辆图像来训练语义分割网络，从而使得训练获得的语义分割网络在像素级别的类别预测中具有更高的精度。

S6：接收待识别车辆图像，输入至训练后的语义分割网络中，获得像素级的语义分割图像。

在本实施例中，将待识别车辆图像输入至训练后的语义分割网络中，即可直接获得预测的像素级的标签，即能够获得像素级的语义分割图像。

通过预先训练的识别网络对预先标注的车辆图像进行特征提取和分类，获得初始特征图和父类类别激活图，其中，预先标注的车辆图像为图像级的标注。然后通过聚类算法聚类初始特征图，实现获得像素级的子类标签。通过类别加权和后续的调整初始类别激活图，使得获得的目标类别激活图覆盖更加全面的区域，此时，目标类别激活图中像素对应的子类标签即为更加准确的伪语义标签，则可以将目标类别激活图中像素对应的子类标签作为该像素的伪语义标签来训练预设的语义分割网络，实现对语义分割模型的弱监督训练，使得最终训练的语义分割网络在像素级别的类别预测中得到了更高的精度。获得的训练后的语义分割网络即可实现对输入的待识别车辆图像进行像素级的图像标注和语义分割。本申请不需要大量的人力和时间来提供精细的像素级别的语义标签，只需要给定图像级别的标注，即可通过本的弱监督的方式得到精细的语义标签输出。

需要强调的是，为进一步保证上述预先标注的车辆图像的私密和安全性，上述预先标注的车辆图像还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本申请可应用于智慧交通领域中，从而推动智慧城市的建设。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该计算机可读指令在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种基于车辆图像的弱监督语义分割装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图3所示，本实施例所述的基于车辆图像的弱监督语义分割装置300包括：输入模块301、聚类模块302、加权模块303、调整模块304、训练模块305以及获得模块306。其中：输入模块301，用于接收的预先标注的车辆图像，并输入至预先训练的识别网络中，获得初始特征图和父类类别激活图，其中，所述预先标注的车辆图像为图像级的标注；聚类模块302，用于基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图，其中，所述子类标签为所述目标车辆特征图的像素的唯一分类标识；加权模块303，用于基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图，获得初始类别激活图；调整模块304，用于基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图，并将标识所述目标类别激活图中的像素的子类标签作为伪语义标签；训练模块305，用于基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络；以及获得模块306，用于接收待识别车辆图像，输入至训练后的语义分割网络中，获得像素级的语义分割图像。

在本实施例中，通过预先训练的识别网络对预先标注的车辆图像进行特征提取和分类，获得初始特征图和父类类别激活图，其中，预先标注的车辆图像为图像级的标注。然后通过聚类算法聚类初始特征图，实现获得像素级的子类标签。通过类别加权和后续的调整初始类别激活图，使得获得的目标类别激活图覆盖更加全面的区域，此时，目标类别激活图中像素对应的子类标签即为更加准确的伪语义标签，则可以将目标类别激活图中像素对应的子类标签作为该像素的伪语义标签来训练预设的语义分割网络，实现对语义分割模型的弱监督训练，使得最终训练的语义分割网络在像素级别的类别预测中得到了更高的精度。获得的训练后的语义分割网络即可实现对输入的待识别车辆图像进行像素级的图像标注和语义分割。本申请不需要大量的人力和时间来提供精细的像素级别的语义标签，只需要给定图像级别的标注，即可通过本的弱监督的方式得到精细的语义标签输出。

所述识别网络包括特征提取网络、全局平均池化层和全连接层，输入模块301包括特征提取子模块和父类激活子模块。所述特征提取子模块用于将预先标注的车辆图像输入至所述特征提取网络，获得所述初始车辆特征；父类激活子模块用于将所述初始车辆特征依次输入至所述全局平均池化层和全连接层中，获得所述父类类别激活图。

聚类模块302包括聚类子模块和标注子模块。聚类子模块用于基于K-means无监督聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得多个子类，其中，每个所述子类对应一个预设的子类标签；标注子模块用于基于所述子类和子类标签对所述初始特征图中的像素进行标注，获得目标车辆特征图。

加权模块303包括计算子模块和加权子模块。计算子模块用于基于预设的分类模型计算所述父类类别激活图中各像素的计算类别权重；加权子模块用于通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图。

调整模块304包括预测子模块、传递子模块和输入子模块。预测子模块用于将所述初始类别激活图输入至预先训练的相似度预测网络，获得预测的相邻坐标像素对之间的语义相似度；传递子模块用于基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图，其中，所述激活分数为所述初始类别激活图中包含的每个子类标签对应的类别权重，所述子类标签随所述类别权重对未标记的像素进行标记；输入子模块用于将所述游走类别激活图输入至预设的条件随机森林中，获得所述目标类别激活图。

传递子模块包括阈值单元和传递单元。阈值单元用于将超过预设阈值的语义相似度作为相同语义；传递单元用于在所述初始类别激活图中，通过预设的随机游走算法将所述激活分数传递到具有相同语义的邻近像素。

训练模块305包括标注子模块和训练子模块。标注子模块用于基于所述伪语义标签标注所述车辆图像中对应的像素，获得像素级标注的车辆图像；训练子模块用于通过所述像素级标注的车辆图像训练预设的语义分割网络，获得所述训练后的语义分割网络。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。

所述计算机设备200包括通过系统总线相互通信连接存储器201、处理器202、网络接口203。需要指出的是，图中仅示出了具有组件201-203的计算机设备200，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器201至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器201可以是所述计算机设备200的内部存储单元，例如该计算机设备200的硬盘或内存。在另一些实施例中，所述存储器201也可以是所述计算机设备200的外部存储设备，例如该计算机设备200上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器201还可以既包括所述计算机设备200的内部存储单元也包括其外部存储设备。本实施例中，所述存储器201通常用于存储安装于所述计算机设备200的操作系统和各类应用软件，例如基于车辆图像的弱监督语义分割方法的计算机可读指令等。此外，所述存储器201还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器202在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器202通常用于控制所述计算机设备200的总体操作。本实施例中，所述处理器202用于运行所述存储器201中存储的计算机可读指令或者处理数据，例如运行所述基于车辆图像的弱监督语义分割方法的计算机可读指令。

所述网络接口203可包括无线网络接口或有线网络接口，该网络接口203通常用于在所述计算机设备200与其他电子设备之间建立通信连接。

在本实施例中，不需要大量的人力和时间来提供精细的像素级别的语义标签，只需要给定图像级别的标注，即可通过本的弱监督的方式得到精细的语义标签输出。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的基于车辆图像的弱监督语义分割方法的步骤。

在本实施例中，不需要大量的人力和时间来提供精细的像素级别的语义标签，只需要给定图像级别的标注，即可通过本的弱监督的方式得到精细的语义标签输出。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种基于车辆图像的弱监督语义分割方法，其特征在于，包括下述步骤：

接收的预先标注的车辆图像，并输入至预先训练的识别网络中，获得初始特征图和父类类别激活图，其中，所述预先标注的车辆图像为图像级的标注；

基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图，其中，所述子类标签为所述目标车辆特征图的像素的唯一分类标识；

基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图，获得初始类别激活图；

基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图，并将标识所述目标类别激活图中的像素的子类标签作为伪语义标签；

基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络；

接收待识别车辆图像，输入至训练后的语义分割网络中，获得像素级的语义分割图像。

2.根据权利要求1所述的基于车辆图像的弱监督语义分割方法，其特征在于，基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图的步骤包括：

将所述初始类别激活图输入至预先训练的相似度预测网络，获得预测的相邻坐标像素对之间的语义相似度；

基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图，其中，所述激活分数为所述初始类别激活图中包含的每个子类标签对应的类别权重；

将所述游走类别激活图输入至预设的条件随机森林中，获得所述目标类别激活图。

3.根据权利要求2所述的基于车辆图像的弱监督语义分割方法，其特征在于，所述基于所述语义相似度，通过预设的随机游走算法在所述初始类别激活图中传递激活分数，获得游走类别激活图的步骤包括：

将超过预设阈值的语义相似度作为相同语义；

在所述初始类别激活图中，通过预设的随机游走算法将所述激活分数传递到具有相同语义的邻近像素。

4.根据权利要求1所述的基于车辆图像的弱监督语义分割方法，其特征在于，所述识别网络包括特征提取网络、全局平均池化层和全连接层，所述将预先标注的车辆图像输入至预先训练的识别网络中，获得初始车辆特征和父类类别激活图的步骤包括：

将预先标注的车辆图像输入至所述特征提取网络，获得所述初始车辆特征；

将所述初始车辆特征依次输入至所述全局平均池化层和全连接层中，获得所述父类类别激活图。

5.根据权利要求1所述的基于车辆图像的弱监督语义分割方法，其特征在于，所述基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图的步骤包括：

基于K-means无监督聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得多个子类，其中，每个所述子类对应一个预设的子类标签；

基于所述子类和所述子类标签对所述初始特征图中的像素进行标注，获得所述目标车辆特征图。

6.根据权利要求1所述的基于车辆图像的弱监督语义分割方法，其特征在于，所述基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图的步骤包括：

基于预设的分类模型计算所述父类类别激活图中各像素的计算类别权重；

通过所述类别权重加权所述目标车辆特征图中的像素，获得所述初始类别激活图。

7.根据权利要求1所述的基于车辆图像的弱监督语义分割方法，其特征在于，所述基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络的步骤包括：

基于所述伪语义标签标注所述车辆图像中对应的像素，获得像素级标注的车辆图像；

通过所述像素级标注的车辆图像训练预设的语义分割网络，获得所述训练后的语义分割网络。

8.一种基于车辆图像的弱监督语义分割装置，其特征在于，包括：

输入模块，用于接收的预先标注的车辆图像，并输入至预先训练的识别网络中，获得初始特征图和父类类别激活图，其中，所述预先标注的车辆图像为图像级的标注；

聚类模块，用于基于预设的聚类算法和预设的子类标签，对所述初始特征图的像素进行聚类，获得包含多个子类标签的目标车辆特征图，其中，所述子类标签为所述目标车辆特征图的像素的唯一分类标识；

加权模块，用于基于所述父类类别激活图计算类别权重，通过所述类别权重加权所述目标车辆特征图，获得初始类别激活图；

调整模块，用于基于预先训练的相似度预测网络调整所述初始类别激活图，获得目标类别激活图，并将标识所述目标类别激活图中的像素的子类标签作为伪语义标签；

训练模块，用于基于所述伪语义标签训练预设的语义分割网络，获得训练后的语义分割网络；以及

获得模块，用于接收待识别车辆图像，输入至训练后的语义分割网络中，获得像素级的语义分割图像。

9.一种计算机设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于车辆图像的弱监督语义分割方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于车辆图像的弱监督语义分割方法的步骤。

Images