CN112990219A - 用于图像语义分割的方法和装置 - Google Patents

Abstract

本公开提供了用于图像语义分割的方法和装置，涉及人工智能领域，具体为计算机视觉和深度学习技术领域。具体实现方案为：获取待语义分割的图像；将图像输入线性变换层，得到特征序列；将特征序列输入自注意力网络，得到特征矩阵，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成；将特征矩阵输入分类器，得到图像分割结果。该实施方式完全抛弃了卷积层，整个网络纯粹由自注意力变换层组成，能够很好的获取到全局信息，从而提高图像语义分割的准确性。

Description

用于图像语义分割的方法和装置

技术领域

本公开涉及人工智能领域，尤其是计算机视觉和深度学习技术领域，具体为用于图像语义分割的方法和装置。

背景技术

语义分割是一个视觉技术中非常重要的一个领域，在短视频、自动驾驶、遥感、医疗影像等领域都有广泛的应用。

现在最好的语义分割网络都是基于深度卷积网络开发的，但卷积网络自身是有一定的限制的，它每个位置的感受野大小是固定的，仅能看到局部的信息。这就导致了很多场景下，一些大的物体反而分割结果不好。现在的摄像头像素越来越高，拍摄的图片越来越大，卷积网络已经很难看到整张图像的信息。

发明内容

本公开提供了一种用于图像语义分割的方法、装置、设备、存储介质以及计算机程序产品。

根据本公开的第一方面，提供了一种用于图像语义分割的方法，包括：获取待语义分割的图像；将图像输入线性变换层，得到特征序列；将特征序列输入自注意力网络，得到特征矩阵，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成；将特征矩阵输入分类器，得到图像分割结果。

根据本公开的第二方面，提供了一种用于图像语义分割的装置，包括：获取单元，被配置成获取待语义分割的图像；变换单元，被配置成将图像输入线性变换层，得到特征序列；检测单元，被配置成将特征序列输入自注意力网络，得到特征矩阵，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成；分类单元，被配置成将特征矩阵输入分类器，得到图像分割结果。

根据本公开的第三方面，提供了一种用于图像语义分割的电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面中任一项所述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据第一方面中任一项所述的方法。

根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据第一方面中任一项所述的方法。

本公开的实施例提供的用于图像语义分割的方法和装置，可以将任意一个深度卷积网络的宏观结构迁移到对应的纯深度自注意力变换网络上，将深度卷积网络的前几个池化层和卷积层替换为输入线性变换层，将其他卷积层替换为自注意力变换层，将池化层替换为自注意力下采样层，将上采样层替换为自注意力上采样层。就能得到一个有效的纯深度自注意力变换网络，用于图像的分割，从而可以扩大感受野，看到全局信息。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是本公开的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本公开的用于图像语义分割的方法的一个实施例的流程图；

图3是根据本公开的用于图像语义分割的方法的一个应用场景的示意图；

图4是根据本公开的用于图像语义分割的方法的又一个实施例的流程图；

图5是根据本公开的用于图像语义分割的装置的一个实施例的结构示意图；

图6是用来实现本公开实施例的用于图像语义分割的方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1示出了可以应用本申请实施例的用于图像语义分割的方法和装置的示例性系统架构100。

如图1所示，系统架构100可以包括终端101、102，网络103、数据库服务器104和服务器105。网络103用以在终端101、102，数据库服务器104与服务器105之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户110可以使用终端101、102通过网络103与服务器105进行交互，以接收或发送消息等。终端101、102上可以安装有各种客户端应用，例如模型训练类应用、图像识别类应用、购物类应用、支付类应用、网页浏览器和即时通讯工具等。

这里的终端101、102可以是硬件，也可以是软件。当终端101、102为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、膝上型便携计算机和台式计算机等等。当终端101、102为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

当终端101、102为硬件时，其上还可以安装有图像采集设备。图像采集设备可以是各种能实现采集图像功能的设备，如摄像头、传感器、卫星等等。用户110可以利用终端101、102上的图像采集设备，来采集图像，还可通过卫星采集遥感图像。

数据库服务器104可以是提供各种服务的数据库服务器。例如数据库服务器中可以存储有样本集。样本集中包含有大量的样本。其中，样本可以包括样本图像以及与样本图像对应的标注信息。这样，用户110也可以通过终端101、102，从数据库服务器104所存储的样本集中选取样本。

服务器105也可以是提供各种服务的服务器，例如对终端101、102上显示的各种应用提供支持的后台服务器。后台服务器可以利用终端101、102发送的样本集中的样本，对自注意力网络进行训练，并可以将训练结果(如生成的自注意力网络)发送给终端101、102。这样，用户可以应用生成的自注意力网络对图像进行语义分割。后台服务器还可直接接收终端101、102发送的图像，由后台服务器中存储的自注意力网络对图像进行语义分割，再将图像分割结果返回给终端101、102。

这里的数据库服务器104和服务器105同样可以是硬件，也可以是软件。当它们为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当它们为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本申请实施例所提供的用于图像语义分割的方法一般由服务器105执行。相应地，用于图像语义分割的装置一般也设置于服务器105中。

需要指出的是，在服务器105可以实现数据库服务器104的相关功能的情况下，系统架构100中可以不设置数据库服务器104。

应该理解，图1中的终端、网络、数据库服务器和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端、网络、数据库服务器和服务器。

继续参见图2，其示出了根据本申请的用于图像语义分割的方法的一个实施例的流程200。该用于图像语义分割的方法可以包括以下步骤：

步骤201，获取待语义分割的图像。

在本实施例中，用于图像语义分割的方法的执行主体(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式从用户利用其进行网页浏览的终端接收待语义分割的图像。图像可以是RGB图像，也可以是黑白图像、高光谱图像等，在此不做限定。

步骤202，将图像输入线性变换层，得到特征序列。

在本实施例中，卷积神经网络的输入可以是二维图像或者二维特征图，图像可以直接输入卷积神经网络。但自注意力网络的输入则是一个特征序列，图像没法直接输入。所以，首先需要将图像转换为合适长度的特征序列，这里用到了一个线性变换层。线性变换是满足线性条件的变换，所谓线性条件就要求变换前后的加法和数乘运算不变(变换前a+b等于c，则变换后a′+b′也等于c′)。

具体来说，对于一个尺寸为W×H的图像,可先将其划分为每格16×16的区块，总共会得到

个格子。对于3通道图像，可将每个格子内的像素值拉平(即转换成一维向量)，可以得到一个通道数为16×16×3的特征向量v。可用一个和位置相关的线性变换层，对第i个格子，可以得到其该层的输出特征:

f_i＝Ev_i+p_i

其中E和p_i是该线性变换层的参数，可通过自注意力网络的训练过程得到，p_i是长度为C的向量，E是16×16×3×C的矩阵。对于每个格子都会得到一个输出特征f_i，所以对于整张图，会得到一个长度为

的特征序列。

如果图像较小，也可不划分小格子，直接将图像的像素值构成的向量v输入上述公式，计算出f。对于单通道图像，也无需进行像素值拉平操作。对于高光谱图像，则可转换成RGB图像后，再进行上述操作。

步骤203，将特征序列输入自注意力网络，得到特征矩阵。

在本实施例中，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成。可将传统的卷积神经网络进行改造，将卷积层替换为自注意力变换层、将池化层替换为自注意力下采样层、将上采样层替换为自注意力上采样层，得到初始自注意力网络，再进行网络训练得到可用的自注意力网络。具体训练过程参见步骤301-304。

自注意力变换层、自注意力下采样层、自注意力上采样层可以任意组合，顺序不做限定，例如，顺序可以是：自注意力变换层、自注意力下采样层、自注意力变换层、自注意力下采样层、自注意力变换层、自注意力下采样层、自注意力上采样层。即进行了3次卷积和池化后再进行上采样。

每一个层的输出作为下一层的输入。自注意力变换层可以是现有技术中常规的用于计算自注意力值的网络结构，可以是单头的自注意力的网络结构，也可以是多头的自注意力的网络结构。自注意力下采样层包括自注意力变换层和第一形状重组层，第一形状重组层用于将图像的尺寸下采样。自注意力上采样层包括自注意力变换层和第二形状重组层，第二形状重组层用于将图像的尺寸下上采样。

步骤204，将特征矩阵输入分类器，得到图像分割结果。

在本实施例中，特征矩阵构成了特征图，需要再通过分类器判断出各像素点的类别，就得到了图像分割结果。

本公开的上述实施例提供的方法，可以将现有的深度卷积网络转换成自注意力变换网络，每一层都充分考虑了全局信息，可以提高分割结果的准确性。

在本实施例的一些可选的实现方式中，将图像输入线性变换层，得到特征序列，包括：将图像划分成预定尺寸的至少一个小格子；对于3通道图像，将至少一个小格子中每个小格子内的像素值拉平，得到一维向量；将至少一个小格子中每个小格子对应的一维向量通过和位置相关的线性变换层进行转换，得到每个小格子对应的特征，组成了特征序列。这样可以加快线性变换的速度，提高图像分割的速度。还能节省内存空间。

在本实施例的一些可选的实现方式中，将所述特征序列输入自注意力网络，得到特征矩阵，包括：将特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；将第二矩阵通过多层感知器进行归一化，得到特征矩阵。

自注意力变化层输入一个特征序列，输出一个等长的特征序列。记输入特征序列为f₁,f₂,…,f_N，N为划分的格子的数量。每个特征的通道数为C，则可以组成一个N×C的特征矩阵F(第一矩阵)。

单个自注意力运算单元的计算如下:

其中W_QW_kW_v为该单元的网络参数，维度都是C×h。这些网络参数都是现有的单头自注意力网络的常见参数，可参见现有技术的实现过程，在此不再赘述。

多头自注意力单元由多个自注意力运算单元(multi-head self-attention，简称MSA)组成：

MSA(F)＝[SA₁(F)，SA₂(F)，…，SA_K(F)]W_o

其中W_o的维度为Kh×C_out，同样也是现有的多头自注意力网络的常见参数，可参见现有技术的实现过程，在此不再赘述。

自注意力变化层的输出则为MSA(F)(第二矩阵)，在MSA和MLP(Multi-layerperceptron，多层感知器)中会对特征进行层归一化，这里为了简洁，省略了：

G＝MSA(F)+MLP(MSA(F))

其中MLP是一个多层感知器，得到的输出的特征矩阵G的维度为N×C_out。同样是一个长度为N的特征序列。MLP采用的是现有的常规多层感知器，因此不再赘述。

上述例子采用的是带有残差的自注意力网络，实际使用中也可使用没有残差的自注意力网络。这种方式可提高自注意力网络的性能，从而提高图像分割的准确性。

在本实施例的一些可选的实现方式中，将特征序列输入自注意力网络，得到特征矩阵，包括：将特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；将第二矩阵通过多层感知器进行归一化，得到第三矩阵；将第三矩阵输入第一形状重组层以减少第三矩阵的行数，得到特征矩阵。

自注意力下采样层是由一个自注意力变换层和一个形状重组层组成。输入仍然为N×C的特征矩阵F，F可以是线性变换层输出的特征序列直接转换得到的矩阵，也可以是其它层输出的特征矩阵(例如，自注意力变换层、自注意力下采样层、自注意力上采样层)。类似上例中的自注意力变换层，可以得到输出的N×C_out的第三矩阵，再通过第一形状重组层将其形状重组为N/4×4C_out，可以得到长度为N/4的特征序列，这等效于将图像的尺寸下采样一倍。第一形状重组层可以减少第三矩阵的行数，从N减少到N/4，还可减少到N/16等，可根据需求设置下采样的倍数。

采用自注意力下采样层可以达到缩小图像尺寸的目的，同时还能保留全局特征，扩大了感受野，因此提高了自注意力网络的性能，从而提高图像分割的准确性。

在本实施例的一些可选的实现方式中，将特征序列输入自注意力网络，得到特征矩阵，包括：将特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；将第二矩阵通过多层感知器进行归一化，得到第三矩阵；将第三矩阵输入第二形状重组层以增加第三矩阵的行数，得到特征矩阵。

自注意力下采样层也是由一个自注意力变换层和一个形状重组层组成。输入仍然为N×C的特征矩阵F，F可以是线性变换层输出的特征序列直接转换得到的矩阵，也可以是其它层输出的特征矩阵(例如，自注意力变换层、自注意力下采样层、自注意力上采样层)。类似上例中的自注意力变换层，仅将其中MSA的参数维度改为Kh×4C_out(其目的是让输出的列数是4的倍数，这样才可以让列数减到四分之一)。可以得到输出的N×4C_out的第三矩阵，再通过第二形状重组层将其形状重组为4N×C_out，可以得到长度为4N的特征序列，这等效于将图像的尺寸上采样一倍。第一形状重组层可以减少第三矩阵的列数，从4C_out减少到C_out，还可减少到C_out/4等，可根据需求设置上采样的倍数。

采用自注意力上采样层可以达到放大图像尺寸的目的，同时还能保留全局特征，扩大了感受野，因此提高了自注意力网络的性能，从而提高图像分割的准确性。

继续参见图3，图3是根据本实施例的用于图像语义分割的方法的应用场景的一个示意图。在图3的应用场景中，用户将待语义分割的图像发送到服务器。服务器将该图像输入线性变换层，得到特征序列。再将特征序列输入自注意力网络。本例中的自注意力网络是包括2个自注意力变换层(相当于卷积层)、2个自注意力下采样层(相当于池化层)、1个自注意力上采样层(相当于上采样层)。第一个自注意力变换层的输入是特征序列，输出的特征矩阵作为第一个自注意力下采样层的输入，数据按照箭头指示的方向流转，每个层的输出作为下一层的输入。最终输出的特征矩阵再经过分类器进行判别，得到图像分割结果，图中相同填充图案的区域为相同的类别。

进一步参考图4，其示出了用于图像语义分割的方法的又一个实施例的流程400。该用于图像语义分割的方法的流程400，包括以下步骤：

步骤401，获取深度卷积网络。

在本实施例中，用于图像语义分割的方法的执行主体(例如图1所示的服务器)可从第三方服务器获取用于进行图像语义分割的深度卷积网络。其中，深度卷积网络可包括以下至少一层：卷积层、池化层、上采样层。深度卷积网络中各层的连接顺序不做限定。可以是任意数量的上述各层结构的组合。

步骤402，将深度卷积网络的前预定数目的池化层和卷积层替换为线性变换层、其他卷积层替换为自注意力变换层、其他池化层替换为自注意力下采样层、上采样层替换为自注意力上采样层，得到初始自注意力网络。

在本实施例中，保持深度卷积网络中原有的层的顺序不变，将前面若干层用于将图像转换成特征序列的池化层和卷积层替换为步骤202所述的线性变换层。再将其他卷积层替换为自注意力变换层、其他池化层替换为自注意力下采样层、上采样层替换为自注意力上采样层，得到初始自注意力网络。自注意力变换层、自注意力下采样层、自注意力上采样层的具体结构如流程200所示，在此不再赘述。

步骤403，获取样本集。

在本实施例中，可以从数据库服务器104获取预定存储的样本集。样本集中每个样本包括一张样本图像和用于标注图像上各像素类别的标注信息。还可从终端设备接收样本集。

步骤404，基于样本集对初始自注意力网络进行机器学习，得到自注意力网络。

在本实施例中，采用有监督地方式进行机器学习，将样本集中的样本图像作为输入，将标注信息作为期望输出，根据初始自注意力网络的输出结果与期望输出的差值计算损失值，然后根据损失值调整初始自注意力网络的参数，反复向初始自注意力网络输入样本图像后调整网络参数，当损失值小于预定阈值或训练迭代次数达到预定次数时，训练完成，得到自注意力网络。可将训练完成的自注意力网络用于步骤201-204。

从图4中可以看出，与图2对应的实施例相比，本实施例中的用于图像语义分割的方法的流程400体现了对生成自注意力网络的步骤。由此，本实施例描述的方案可以根据需求训练出不同的自注意力网络，用于不同场景下的图像分割，例如，针对卫星遥感图像的分割和交通摄像头拍摄的图像的分割。不同场景下采用不同的自注意力变换层、自注意力下采样层、自注意力上采样层的组合。既提高了自注意力网络的性能，又能提高图像分割的准确性和速度。

进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种用于图像语义分割的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的用于图像语义分割的装置500包括：获取单元501、变换单元502、检测单元503、分类单元504。其中，获取单元501，被配置成获取待语义分割的图像；变换单元502，被配置成将所述图像输入线性变换层，得到特征序列；检测单元503，被配置成将所述特征序列输入自注意力网络，得到特征矩阵，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成；分类单元504，被配置成将所述特征矩阵输入分类器，得到图像分割结果。

在本实施例中，用于图像语义分割的装置500的获取单元501、变换单元502、检测单元503、分类单元504的具体处理可以参考图2对应实施例中的步骤201、步骤202、步骤203、步骤204。

在本实施例的一些可选的实现方式中，装置500还包括生成单元(附图中未示出)，被配置成：获取深度卷积网络，其中，深度卷积网络包括以下至少一层：卷积层、池化层、上采样层；将深度卷积网络的前预定数目的池化层和卷积层替换为线性变换层、其他卷积层替换为自注意力变换层、其他池化层替换为自注意力下采样层、上采样层替换为自注意力上采样层，得到初始自注意力网络；获取样本集；基于样本集对初始自注意力网络进行机器学习，得到自注意力网络。

在本实施例的一些可选的实现方式中，变换单元502进一步被配置成：将图像划分成预定尺寸的至少一个小格子；对于3通道图像，将至少一个小格子中每个小格子内的像素值拉平，得到一维向量；将至少一个小格子中每个小格子对应的一维向量通过和位置相关的线性变换层进行转换，得到每个小格子对应的特征，组成了特征序列。

在本实施例的一些可选的实现方式中，检测单元503进一步被配置成：将特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；将第二矩阵通过多层感知器进行归一化，得到特征矩阵。

在本实施例的一些可选的实现方式中，检测单元503被配置成：将特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；将第二矩阵通过多层感知器进行归一化，得到第三矩阵；将第三矩阵输入第一形状重组层以减少第三矩阵的行数，得到特征矩阵。

在本实施例的一些可选的实现方式中，检测单元503进一步被配置成：将特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；将第二矩阵通过多层感知器进行归一化，得到第三矩阵；将第三矩阵输入第二形状重组层以增加第三矩阵的行数，得到特征矩阵。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如方法用于图像语义分割。例如，在一些实施例中，方法用于图像语义分割可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的方法用于图像语义分割的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法用于图像语义分割。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。服务器可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种用于图像语义分割的方法，包括：

获取待语义分割的图像；

将所述图像输入线性变换层，得到特征序列；

将所述特征序列输入自注意力网络，得到特征矩阵，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成；

将所述特征矩阵输入分类器，得到图像分割结果。

2.根据权利要求1所述的方法，其中，所述方法还包括：

获取深度卷积网络，其中，所述深度卷积网络包括以下至少一层：卷积层、池化层、上采样层；

将所述深度卷积网络的前预定数目的池化层和卷积层替换为线性变换层、其他卷积层替换为自注意力变换层、其他池化层替换为自注意力下采样层、所述上采样层替换为自注意力上采样层，得到初始自注意力网络；

获取样本集；

基于所述样本集对所述初始自注意力网络进行机器学习，得到自注意力网络。

3.根据权利要求1所述的方法，其中，所述将所述图像输入线性变换层，得到特征序列，包括：

将所述图像划分成预定尺寸的至少一个小格子；

对于3通道图像，将所述至少一个小格子中每个小格子内的像素值拉平，得到一维向量；

将所述至少一个小格子中每个小格子对应的一维向量通过和位置相关的线性变换层进行转换，得到每个小格子对应的特征，组成了特征序列。

4.根据权利要求1所述的方法，其中，所述将所述特征序列输入自注意力网络，得到特征矩阵，包括：

将所述特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；

将所述第二矩阵通过多层感知器进行归一化，得到特征矩阵。

5.根据权利要求1所述的方法，其中，所述将所述特征序列输入自注意力网络，得到特征矩阵，包括：

将所述特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；

将所述第二矩阵通过多层感知器进行归一化，得到第三矩阵；

将所述第三矩阵输入第一形状重组层以减少所述第三矩阵的行数，得到特征矩阵。

6.根据权利要求1所述的方法，其中，所述将所述特征序列输入自注意力网络，得到特征矩阵，包括：

将所述特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；

将所述第二矩阵通过多层感知器进行归一化，得到第三矩阵；

将所述第三矩阵输入第二形状重组层以增加所述第三矩阵的行数，得到特征矩阵。

7.一种用于图像语义分割的装置，包括：

获取单元，被配置成获取待语义分割的图像；

变换单元，被配置成将所述图像输入线性变换层，得到特征序列；

检测单元，被配置成将所述特征序列输入自注意力网络，得到特征矩阵，其中自注意力网络由自注意力变换层、自注意力下采样层、自注意力上采样层中的至少一层组成；

分类单元，被配置成将所述特征矩阵输入分类器，得到图像分割结果。

8.根据权利要求7所述的装置，其中，所述装置还包括生成单元，被配置成：

获取深度卷积网络，其中，所述深度卷积网络包括以下至少一层：卷积层、池化层、上采样层；

将所述深度卷积网络的前预定数目的池化层和卷积层替换为线性变换层、其他卷积层替换为自注意力变换层、其他池化层替换为自注意力下采样层、所述上采样层替换为自注意力上采样层，得到初始自注意力网络；

获取样本集；

基于所述样本集对所述初始自注意力网络进行机器学习，得到自注意力网络。

9.根据权利要求7所述的装置，其中，所述变换单元进一步被配置成：

将所述图像划分成预定尺寸的至少一个小格子；

对于3通道图像，将所述至少一个小格子中每个小格子内的像素值拉平，得到一维向量；

将所述至少一个小格子中每个小格子对应的一维向量通过和位置相关的线性变换层进行转换，得到每个小格子对应的特征，组成了特征序列。

10.根据权利要求7所述的装置，其中，所述检测单元进一步被配置成：

将所述特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；

将所述第二矩阵通过多层感知器进行归一化，得到特征矩阵。

11.根据权利要求7所述的装置，其中，所述检测单元进一步被配置成：

将所述特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；

将所述第二矩阵通过多层感知器进行归一化，得到第三矩阵；

将所述第三矩阵输入第一形状重组层以减少所述第三矩阵的行数，得到特征矩阵。

12.根据权利要求7所述的装置，其中，所述检测单元进一步被配置成：

将所述特征序列转换成第一矩阵后输入多头自注意力运算单元，得到第二矩阵；

将所述第二矩阵通过多层感知器进行归一化，得到第三矩阵；

将所述第三矩阵输入第二形状重组层以增加所述第三矩阵的行数，得到特征矩阵。

13.一种用于图像语义分割的电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。

Images