CN113379592B - 图片中敏感区域的处理方法、装置和电子设备 - Google Patents

Abstract

本公开公开了一种图片中敏感区域的处理方法、装置和电子设备，涉及计算机视觉和深度学习等人工智能技术领域。具体实现方案：在定位图片中的敏感区域时，先获取待处理图片，并将待处理图片输入图片识别模型中，得到待处理图片中每个像素属于敏感像素的概率，概率为图片识别模型识别出待处理图片为敏感图片时输出的；即只有在通过图片识别模型确定出待处理图片为敏感图片时，才会进一步根据每个像素属于敏感像素的概率，在待处理图片中确定敏感区域，并对敏感区域进行模糊处理，这样可以有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。

Description

图片中敏感区域的处理方法、装置和电子设备

技术领域

本公开涉及图片处理技术领域，尤其涉及一种图片中敏感区域的处理方法、装置和电子设备，具体涉及计算机视觉和深度学习等人工智能技术领域。

背景技术

随着大数据时代，自媒体技术的蓬勃发展，为了维护一个健康绿色的互联网环境，有效地预防敏感信息传播是至关重要的。其中，敏感信息，例如涉黄信息或者涉暴露信息。

预防敏感信息传播时，一个主要的解决方案为：在图片发布之前，对待发布的图片进行审核。在对待发布的图片进行审核时，通常情况下，是将待发布的图片输入至敏感区域识别模型，敏感区域识别模型提取该图片的特征向量，并基于提取出的特征向量执行定位敏感区域的操作。若定位出图片中不包括敏感区域，则可以直接发布该图片；若定位出图片中包括敏感区域，则需要对敏感区域进行处理，例如打马赛克，使得处理后的图片中不包括敏感区域，再发布处理后的图片。

但是，采用现有的方法，需要对所有待发布的图片执行定位敏感区域的操作，导致敏感区域定位的准确度较低。

发明内容

本公开提供了一种图片中敏感区域的处理方法、装置和电子设备，可以有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。

根据本公开的第一方面，提供了一种图片中敏感区域的处理方法，该图片中敏感区域的处理方法可以包括：

获取待处理图片。

将所述待处理图片输入图片识别模型中，得到所述待处理图片中每个像素属于敏感像素的概率，所述概率为所述图片识别模型识别出所述待处理图片为敏感图片时输出的。

根据所述每个像素属于敏感像素的概率，在所述待处理图片中确定敏感区域，并对所述敏感区域进行模糊处理。

根据本公开的第二方面，提供了一种图片识别模型的训练方法，该图片识别模型的训练方法可以包括：

获取多个样本图片和所述多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，所述得分标签用于表示所述样本图片为敏感图片的得分，所述概率标签用于表示所述样本图片中每个像素属于敏感像素的概率。

根据所述多个样本图片，基于所述得分标签对初始图片识别模型中的全连接层进行训练，并基于所述概率标签对所述初始图片识别模型中的解码器进行训练，得到所述图片识别模型。

根据本公开的第三方面，提供了一种图片中敏感区域的处理装置，该图片中敏感区域的处理装置可以包括：

获取单元，用于获取待处理图片。

处理单元，用于将所述待处理图片输入图片识别模型中，得到所述待处理图片中每个像素属于敏感像素的概率，所述概率为所述图片识别模型识别出所述待处理图片为敏感图片时输出的。

确定单元，用于根据所述每个像素属于敏感像素的概率，在所述待处理图片中确定敏感区域，并对所述敏感区域进行模糊处理。

根据本公开的第四方面，提供了一种图片识别模型的训练装置，该图片识别模型的训练装置可以包括：

获取单元，用于获取多个样本图片和所述多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，所述得分标签用于表示所述样本图片为敏感图片的得分，所述概率标签用于表示所述样本图片中每个像素属于敏感像素的概率。

处理单元，用于根据所述多个样本图片，基于所述得分标签对初始图片识别模型中的全连接层进行训练，并基于所述概率标签对所述初始图片识别模型中的解码器进行训练，得到所述图片识别模型。

根据本公开的第五方面，提供了一种电子设备，该电子设备可以包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面所述的图片中敏感区域的处理方法；或者，以使所述至少一个处理器能够执行上述第二方面所述的图片识别模型的训练方法。

根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述第一方面所述的图片中敏感区域的处理方法；或者，所述计算机指令用于使所述计算机执行上述第二方面所述的图片识别模型的训练方法。

根据本公开的第七方面，提供了一种计算机程序产品，所述计算机程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行上述第一方面所述的图片中敏感区域的处理方法；或者，执行上述第二方面所述的图片识别模型的训练方法。

根据本公开的技术方案，可以有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开第一实施例提供的图片中敏感区域的处理方法的流程示意图；

图2是根据本公开第一实施例提供的确定待处理图片中每个像素属于敏感像素的概率的流程示意图；

图3是本公开实施例提供的一种图片识别模型的结构示意图；

图4是本公开实施例提供的一种编码器和解码器之间的关系示意图；

图5是根据本公开第三实施例提供的图片识别模型的训练方法的流程示意图；

图6是根据本公开第四实施例提供的图片中敏感区域的处理装置的结构示意图；

图7是根据本公开第五实施例提供的图片识别模型的训练装置的结构示意图；

图8是根据本公开实施例提供的一种电子设备的示意性框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

在本公开的实施例中，“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况，其中A，B可以是单数或者复数。在本公开的文字描述中，字符“/”一般表示前后关联对象是一种“或”的关系。

本公开实施例提供的技术方案可以应用于图片审核的场景中。为了维护一个健康绿色的互联网环境，在图片发布之前，对待发布的图片进行审核。在对待发布的图片进行审核时，通常情况下，是将待发布的图片输入至敏感区域识别模型，敏感区域识别模型提取该图片的特征向量，并基于提取出的特征向量执行定位敏感区域的操作。若定位出图片中不包括敏感区域，则可以直接发布该图片；若定位出图片中包括敏感区域，则需要对敏感区域进行处理，例如打马赛克，使得处理后的图片中不包括敏感区域，再发布处理后的图片。

可以看出，采用现有的定位方法，无论该待发布的图片是否为敏感图片，即使图片为非敏感图片，敏感区域识别模型也会提取该图片的特征向量，并基于提取出的图片的特征向量，对该图片执行定位敏感区域的操作，无法有针对性地仅对敏感图片执行定位敏感区域的操作，这样会导致敏感区域定位的准确度较低。

其中，敏感图片是指包括敏感信息的图片。敏感信息，例如涉黄信息或者涉暴露信息等，具体可以根据实际需要进行设置。敏感区域是指敏感图片中的敏感信息所属的区域。

为了有针对性地对敏感图片进行定位处理，从而提高敏感区域定位的准确度，本公开实施例提供一种图片中敏感区域的处理方法，下面，将通过具体的实施例对本公开提供的图片中敏感区域的处理方法进行详细地说明。可以理解的是，下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例不再赘述。

实施例一

图1是根据本公开第一实施例提供的图片中敏感区域的处理方法的流程示意图，该图片中敏感区域的处理方法可以由软件和/或硬件装置执行，例如，该硬件装置可以为终端或者服务器。示例的，请参见图1所示，该图片中敏感区域的处理方法可以包括：

S101、获取待处理图片。

示例的，待处理图片可以为待发布的，且未经过敏感区域处理的图片；也可以为待发布的，已经过敏感区域处理的图片，具体可以根据实际需要进行设置。

需要说明的是，当待处理图片为待发布的，且未经过敏感区域处理的图片，说明采用本公开实施例提供的处理方法，对该待处理图片的处理为首次处理，通过本次处理，可以使得待处理图片中的敏感区域被模糊处理；当待处理图片为待发布的，已经过敏感区域处理的图片，说明采用本公开实施例提供的处理方法，对该待处理图片的处理为非首次处理，这样做的目的在于：为了进一步确保图片中的敏感区域被模糊处理，因此，采用本公开实施例提供的图片中敏感区域的处理方法，对待处理图片再次进行处理，以确定待处理图片中的敏感区域被模糊处理。

示例的，在获取待处理图片时，可以接收用户输入的待处理图片，也可以接收其它电子设备发送的待处理图片，也可以从本地内存中查找获取待处理图片，具体可以根据实际需要进行设置，在此，对于待处理图片的获取方式，本公开实施例不做进一步地限制。

在获取到待处理图片后，就可以将待处理图片输入图片识别模型中，即执行下述S102：

S102、将待处理图片输入图片识别模型中，得到待处理图片中每个像素属于敏感像素的概率，概率为图片识别模型识别出待处理图片为敏感图片时输出的。

其中，敏感像素是指敏感区域中的像素。

可以理解的是，本公开实施例中，图片识别模型不仅用于确定每个像素属于敏感像素的概率，还用于识别待处理图片是否为敏感图片。具体过程为：将待处理图片输入图片识别模型中，图片识别模型可以先识别待处理图片是否为敏感图片，若待处理图片为非敏感图片，说明该待处理图片中不存在敏感区域，因此，无需进一步确定待处理图片中每个像素属于敏感像素的概率；相反的，若待处理图片为敏感图片，说明该待处理图片中存在敏感区域，则进一步确定待处理图片中每个像素属于敏感像素的概率。与现有技术相比，在通过图片识别模型确定每个像素属于敏感像素的概率时，只有在确定出待处理图片为敏感图片时，才会进一步确定待处理图片中每个像素属于敏感像素的概率，这样可以有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。

在通过图片识别模型确定出待处理图片中每个像素属于敏感像素的概率后，就可以根据每个像素属于敏感像素的概率，在待处理图片中确定敏感区域，即执行下述S103：

S103、根据每个像素属于敏感像素的概率，在待处理图片中确定敏感区域，并对敏感区域进行模糊处理。

其中，像素的概率越大，说明该像素为敏感像素的可能性越大，像素的概率越小，说明该像素为敏感像素的可能性越小。

示例的，模糊处理可以为打马赛克处理，也可以为高光处理，或者，也可以其它模糊处理，只能处理后的图片中敏感区域被覆盖即可，具体可以根据实际需要进行设置。

示例的，根据每个像素属于敏感像素的概率，在待处理图片中确定敏感区域时，可以根据每个像素属于敏感像素的概率，先从待处理图片的像素中确定大于概率阈值的概率对应的目标像素，并根据目标像素的坐标，在待处理图片中构建敏感区域；这样在构建得到敏感区域后，就可以对该敏感区域进行模糊处理，使得待处理图片中的敏感区域被模糊处理，这样处理后的图片中就不再包括敏感区域。其中，概率阈值的设定可根据实际需要进行设置，在此，对于概率阈值的取值，本公开实施例不做具体限制。

可以看出，本公开实施例中，在定位图片中的敏感区域时，先获取待处理图片，并将待处理图片输入图片识别模型中，得到待处理图片中每个像素属于敏感像素的概率，概率为图片识别模型识别出待处理图片为敏感图片时输出的；即只有在通过图片识别模型确定出待处理图片为敏感图片时，才会进一步根据每个像素属于敏感像素的概率，在待处理图片中确定敏感区域，并对敏感区域进行模糊处理，这样可以有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。

需要说明的是，在对敏感区域进行模糊处理后，还可以将处理后的图片作为上述S101中的待检测图片，即上述S101中描述的待发布的，已经过敏感区域处理的图片，再次执行上述本公开实施例提供的技术方案，这样可以进一步确保图片中的敏感区域被模糊处理。

基于上述图1所示的实施例，为了便于理解在本公开实施例中，如何将待处理图片输入图片识别模型中，得到待处理图片中每个像素属于敏感像素的概率，下面，将通过下述图2所示的实施例二进行详细地描述。

实施例二

图2是根据本公开第一实施例提供的确定待处理图片中每个像素属于敏感像素的概率的流程示意图，该确定待处理图片中每个像素属于敏感像素的概率的方法可以由软件和/或硬件装置执行，例如，该硬件装置可以为终端或者服务器。示例的，请参见图2所示，该确定待处理图片中每个像素属于敏感像素的概率的方法可以包括：

S201、将待处理图片输入图片识别模型中，通过图片识别模型中的编码器提取各卷积层的特征向量。

示例的，图片识别模型可以为在现有的特征金字塔网络(Feature PyramidNetworks，FPN)结构的网络模型的基础上，进行改进得到的一种网络模型。在现有的FPN结构的网络模型中增加图片识别的功能，可参加图3所示，图3是本公开实施例提供的一种图片识别模型的结构示意图，可以在现有的FPN结构的网络模型中包括的解码器后面增加一个全连接层，该全连接层用于确定待处理图片是否为敏感图片，即用于执行图片的识别功能，改进后得到的图片识别模型包括编码器、全连接层以及解码器，即相对于现有的FPN结构的网络模型，额外增加了一个全连接层。

这样将待处理图片输入图片识别模型中，图片识别模型中的编码器可以提取各卷积层的特征向量，并将最后一个卷积层的特征向量输入至全连接层，即执行下述S202：

S202、将最后一个卷积层的特征向量输入图片识别模型中的全连接层，得到待处理图片为敏感图片的得分。

其中，全连接层用于确定待处理图片为敏感图片的得分，即该全连接层可以理解为用于确定待处理图片是否为敏感图片的一个图片分类模型。全连接层的输入为最后一个卷积层的特征向量，输出为待处理图片为敏感图片的得分。示例的，该得分可以为0至1之间的一个数值，也可以为0至100之间的一个数值，具体可以根据实际需要进行设置。

在根据全连接层的输出确定出待处理图片为敏感图片的得分后，若确定出的得分小于或者等于得分阈值，说明该待处理图片为非敏感图片，由于非敏感图片中不包括敏感区域，因此，可以无需进一步确定非敏感图片中的敏感区域，而是直接输出提示信息，用于提示提示该待处理图片为非敏感图片，不存在敏感区域，这样就可以避免对非敏感图片执行定位敏感区域的操作；相反的，若得分大于得分阈值，说明该待处理图片为敏感图片，由于敏感图片中包括敏感区域，因此，可以进一步通过图片识别模型中的解码器，得到待处理图片中每个像素属于敏感像素的概率，即执行下述S203，这样可以有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。

其中，得分阈值的设定可根据实际需要进行设置，在此，对于得分阈值的取值，本公开实施例不做具体限制。

S203、若得分大于得分阈值，则通过图片识别模型中的解码器，得到待处理图片中每个像素属于敏感像素的概率。

考虑到FPN结构的网络模型的自身特点，示例的，请参见图4所示，图4是本公开实施例提供的一种编码器和解码器之间的关系示意图，编码器在提取每一个卷积层的特征向量时，均会将提取到的各卷积层的特征向量给解码器，对应的，解码器可以基于编码器提取到的各卷积层的特征向量进行后续的图片处理。因此，结合FPN结构的网络模型的自身特点，本公开实施例中，在通过图片识别模型中的解码器，得到待处理图片中每个像素属于敏感像素的概率时，可以先从编码器中提取到的各卷积层的特征向量中，确定出中间卷积层的特征向量；并将中间卷积层的特征向量输入至解码器，以使解码器根据中间卷积层的特征向量，确定待处理图片中每个像素属于敏感像素的概率。

可以理解的是，解码器的输入为中间卷积层的特征向量，解码器的输出为每个像素属于敏感像素的概率。通常情况下，中间卷积层可以包括第二层卷积层至倒数第二层卷积层，具体可以根据实际需要进行设置。

这样对于解码器而言，在根据中间卷积层的特征向量，确定待处理图片中每个像素属于敏感像素的概率时，无需再次提取各卷积层的特征向量，而是直接使用编码器提取到的各卷积层的特征向量，这样在进行敏感区域定位时，只需要提取一次特征向量，解码器可以重复利用编码器提取出的中间卷积层的特征向量，这样可以提高获取每个像素属于敏感像素的概率的获取效率，从而提高敏感区域的定位效率。

可以看出，本公开实施例中，在确定每个像素属于敏感像素的概率时，可以先将待处理图片输入图片识别模型中，通过图片识别模型中的编码器提取各卷积层的特征向量，将最后一个卷积层的特征向量输入图片识别模型中的全连接层，得到待处理图片为敏感图片的得分，若得分大于得分阈值，说明待处理图片为敏感图片，则通过图片识别模型中的解码器，进一步确定待处理图片中每个像素属于敏感像素的概率，即只有在通过图片识别模型确定出待处理图片为敏感图片时，解码器才会进一步确定每个像素属于敏感像素的概率，这样可以有针对性地仅确定敏感图片中每个像素属于敏感像素的概率。

结合上述实施例可以看出，本公开实施例中，正是通过预先训练得到图片识别模型，因此，才可以基于预先训练得到的图片识别模型，有针对性地仅对敏感图片执行定位敏感区域的操作，从而提高了敏感区域定位的准确度。下面，将通过下述图5所示的实施例三，详细描述在本公开实施例中，如何训练得到图片识别模型。

实施例三

图5是根据本公开第三实施例提供的图片识别模型的训练方法的流程示意图，该图片识别模型的训练方法可以由软件和/或硬件装置执行，例如，该硬件装置可以为终端或者服务器。示例的，请参见图5所示，该图片识别模型的训练方法可以包括：

S501、获取多个样本图片和多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，得分标签用于表示样本图片为敏感图片的得分，概率标签用于表示样本图片中每个像素属于敏感像素的概率。

在确定每个样本图片中各像素对应的概率标签时，针对一些敏感区域边界比较清楚的图片，其各像素对应的概率标签是比较容易获取的，但是仅根据一些敏感区域边界比较清楚的图片中，各像素的概率标签对初始图片识别模型中的解码器进行训练，这样会使得最终训练得到的解码器，仅适应于确定敏感区域边界比较清楚的图片中每个像素属于敏感像素的概率，对于一些敏感区域边界比较模糊的图片，可能无法准确地确定出该图片中每个像素属于敏感像素的概率。

因此，为了使得最终训练得到的解码器不仅可以适应于确定敏感区域边界比较清楚的图片中每个像素属于敏感像素的概率，而且可以适应于确定敏感区域边界比较模糊的图片中每个像素属于敏感像素的概率，因此，在训练解码器时，可以结合一些敏感区域边界比较模糊的样本图片共同训练解码器。示例的，在确定一些敏感区域边界比较模糊的样本图片中每个像素属于敏感像素的概率标签时，针对每个样本图片，可以采用弱监督方式在样本图片中生成矩形区域，该矩形区域可以粗略地表示样本图片中的敏感区域，并根据样本图片中每个像素与矩形区域之间的位置关系，确定样本图片中各像素对应的概率标签。示例的，弱监督方式可以为基于box的弱监督方式，也可以为其它弱监督方式，具体可以根据实际需要进行设置，在此，本公开实施例只是以基于box的弱监督方式为例进行说明说明，但并不代表本公开实施例仅局限于此。

示例的，在根据样本图片中每个像素与矩形区域之间的位置关系，确定样本图片中各像素对应的概率标签时，可以以矩形框为中心的二维高斯热力图的思想确定样本图片中各像素对应的概率标签，这样可以减小因矩形框标注不准确带来的噪声影响。具体过程为：针对样本图片中的每个像素，若像素处于矩形区域外，则确定像素对应的概率标签为0；若像素处于矩形区域内，则根据像素的坐标与矩形区域的中心点坐标之间的距离，确定像素对应的概率标签，具体为：可以根据下述公式确定像素对应的概率标签。

其中，P表示像素对应的概率标签，(x1，y1)表示像素的坐标，(x2，y2)表示中心点的坐标，sigma为一个常量。示例的，sigma的取值可以根据实际需要进行设置，在此，对于sigma的取值，本公开实施例不做进一步地限制。

在分别获取到多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签后，就可以基于多个样本图片，以及多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签训练得到最终的图片识别模型，即执行下述S502：

S502、根据多个样本图片，基于得分标签对初始图片识别模型中的全连接层进行训练，并基于概率标签对初始图片识别模型中的解码器进行训练，得到图片识别模型。

其中，初始图片识别模型中包括编码器、全连接层以及解码器。与最终训练的到的图片识别模型类似，初始图片识别模型中的编码器用于提取图片中各卷积层的特征向量；初始图片识别模型中的全连接层用于根据编码器提取的最后一个卷积层的特征向量确定图片为敏感图片的得分，其输入为最后一个卷积层的特征向量，输出为图片为敏感图片的得分；初始图片识别模型中的解码器用于根据编码器提取出的中间卷积层的特征向量，确定图片中每个像素为敏感像素的概率，其输入为中间卷积层的特征向量，输出为图片中每个像素为敏感像素的概率。

示例的，在基于得分标签对初始图片识别模型中的全连接层进行训练时，可以先基于初始图片识别模型中的全连接层预测的样本图片为敏感图片的得分，例如，预测的样本图片为敏感图片的得分可以为0.8，并将该预测的样本图片为敏感图片的得分和该样本图片中标注的得分标签进行比较，计算损失函数，并基于损失函数对初始分类模型中的全连接层进行训练，直至损失函数收敛为止，从而得到最终的图片识别模型中的全连接层。

示例的，在基于概率标签对初始图片识别模型中的解码器进行训练时，可以先基于初始图片识别模型中的解码器预测的样本图片中每个像素属于敏感像素的概率，并将预测的样本图片中每个像素属于敏感像素的概率和样本图片中标注的概率标签进行比较，计算每个像素的分割损失函数，并基于每个像素的分割损失函数对初始分类模型中的解码器进行训练，直至分割损失函数收敛为止，从而得到最终的图片识别模型中的解码器，这样就可以得到最终的图片识别模型。

可以看出，本公开实施例中，在训练最终的图片识别模型时，可以先获取多个样本图片和多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，并根据多个样本图片，基于得分标签对初始图片识别模型中的全连接层进行训练，并基于概率标签对初始图片识别模型中的解码器进行训练，得到图片识别模型，这样得到的图片识别模型不仅可以先确定待处理图片为敏感图片的得分，还可以在根据得分确定出待处理图片为敏感图片时，进一步确定敏感图片中每个像素属于敏感像素的概率，这样可以有针对性地仅确定敏感图片中每个像素属于敏感像素的概率。

实施例四

图6是根据本公开第四实施例提供的图片中敏感区域的处理装置60的结构示意图，示例的，请参见图6所示，该图片中敏感区域的处理装置60可以包括：

获取单元601，用于获取待处理图片。

处理单元602，用于将待处理图片输入图片识别模型中，得到待处理图片中每个像素属于敏感像素的概率，概率为图片识别模型识别出待处理图片为敏感图片时输出的。

确定单元603，用于根据每个像素属于敏感像素的概率，在待处理图片中确定敏感区域，并对敏感区域进行模糊处理。

可选的，处理单元602包括第一处理模块、第二处理模块以及第三处理模块。

第一处理模块，用于将待处理图片输入图片识别模型中，通过图片识别模型中的编码器提取各卷积层的特征向量。

第二处理模块，用于将最后一个卷积层的特征向量输入图片识别模型中的全连接层，得到待处理图片为敏感图片的得分。

第三处理模块，用于若得分大于得分阈值，则通过图片识别模型中的解码器，得到待处理图片中每个像素属于敏感像素的概率。

可选的，第一处理模块包括第一处理子模块和第二处理子模块。

第一处理子模块，用于从编码器中获取中间卷积层的特征向量。

第二处理子模块，用于将中间卷积层的特征向量输入至解码器，得到待处理图片中每个像素属于敏感像素的概率。

可选的，处理单元602还包括第四处理模块。

第四处理模块，用于若得分小于或者等于得分阈值，则输出提示信息，提示信息用于提示待处理图片为非敏感图片，不存在敏感区域。

可选的，确定单元603包括第一确定模块和第二确定模块。

第一确定模块，用于根据每个像素属于敏感像素的概率，确定大于概率阈值的概率对应的目标像素。

第二确定模块，用于根据目标像素的坐标，在待处理图片中构建敏感区域。

本公开实施例提供的图片中敏感区域的处理装置60，可以执行上述任一实施例所示的图片中敏感区域的处理方法的技术方案，其实现原理以及有益效果与图片中敏感区域的处理方法的实现原理及有益效果类似，可参见图片中敏感区域的处理方法的实现原理及有益效果，此处不再进行赘述。

实施例五

图7是根据本公开第五实施例提供的图片识别模型的训练装置70的结构示意图，示例的，请参见图7所示，该图片识别模型的训练装置70可以包括：

获取单元701，用于获取多个样本图片和多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，得分标签用于表示样本图片为敏感图片的得分，概率标签用于表示样本图片中每个像素属于敏感像素的概率。

处理单元702，用于根据多个样本图片，基于得分标签对初始图片识别模型中的全连接层进行训练，并基于概率标签对初始图片识别模型中的解码器进行训练，得到图片识别模型。

可选的，获取单元701包括第一获取模块和第二获取模块。

第一获取模块，用于针对每个样本图片，采用弱监督方式在样本图片中生成矩形区域。

第二获取模块，用于根据样本图片中每个像素与矩形区域之间的位置关系，确定样本图片中各像素对应的概率标签。

可选的，第二获取模块包括第一获取子模块和第二获取子模块。

第一获取子模块，用于针对样本图片中的每个像素，若像素处于矩形区域内，则根据像素的坐标与矩形区域的中心点坐标之间的距离，确定像素对应的概率标签。

第二获取子模块，用于若像素处于矩形区域外，则确定像素对应的概率标签为0。

可选的，第一获取子模块，具体用于根据公式确定像素对应的概率标签。

其中，P表示像素对应的概率标签，(x1，y1)表示像素的坐标，(x2，y2)表示中心点的坐标，sigma表示一个常量。

本公开实施例提供的图片识别模型的训练装置70，可以执行上述任一实施例所示的图片识别模型的训练方法的技术方案，其实现原理以及有益效果与图片识别模型的训练方法的实现原理及有益效果类似，可参见图片识别模型的训练方法的实现原理及有益效果，此处不再进行赘述。

根据本公开的实施例，本公开还提供了一种计算机程序产品，计算机程序产品包括：计算机程序，计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。

根据本公开的实施例，本公开还提供了一种电子设备和一种可读存储介质。

图8是根据本公开实施例提供的一种电子设备80的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，电子设备80包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备80操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备80中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备80通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如图片中敏感区域的处理方法或者图片识别模型的训练方法。例如，在一些实施例中，图片中敏感区域的处理方法或者图片识别模型的训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备80上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的图片中敏感区域的处理方法或者图片识别模型的训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图片中敏感区域的处理方法或者图片识别模型的训练方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (18)

1.一种图片中敏感区域的处理方法，包括：

获取待处理图片；

将所述待处理图片输入图片识别模型中，得到所述待处理图片中每个像素属于敏感像素的概率，所述概率为所述图片识别模型识别出所述待处理图片为敏感图片时输出的；

根据所述每个像素属于敏感像素的概率，在所述待处理图片中确定敏感区域，并对所述敏感区域进行模糊处理；

其中，将所述待处理图片输入图片识别模型中，得到所述待处理图片中每个像素属于敏感像素的概率，包括：

将所述待处理图片输入图片识别模型中，通过所述图片识别模型中的编码器提取各卷积层的特征向量；

将最后一个卷积层的特征向量输入所述图片识别模型中的全连接层，得到所述待处理图片为敏感图片的得分；

若所述得分大于得分阈值，则通过所述图片识别模型中的解码器，得到所述待处理图片中每个像素属于敏感像素的概率。

2.根据权利要求1所述的方法，所述通过所述图片识别模型中的解码器，得到所述待处理图片中每个像素属于敏感像素的概率，包括：

从所述编码器中获取中间卷积层的特征向量；

将所述中间卷积层的特征向量输入至所述解码器，得到所述待处理图片中每个像素属于敏感像素的概率。

3.根据权利要求1所述的方法，所述方法还包括：

若所述得分小于或者等于所述得分阈值，则输出提示信息，所述提示信息用于提示所述待处理图片为非敏感图片，不存在敏感区域。

4.根据权利要求1-3任一项所述的方法，其中，所述根据所述每个像素属于敏感像素的概率，在所述待处理图片中确定敏感区域，包括：

根据所述每个像素属于敏感像素的概率，确定大于概率阈值的概率对应的目标像素；

根据所述目标像素的坐标，在所述待处理图片中构建所述敏感区域。

5.一种图片识别模型的训练方法，包括：

获取多个样本图片和所述多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，所述得分标签用于表示所述样本图片为敏感图片的得分，所述概率标签用于表示所述样本图片中每个像素属于敏感像素的概率；

根据所述多个样本图片，基于所述得分标签对初始图片识别模型中的全连接层进行训练，并基于所述概率标签对所述初始图片识别模型中的解码器进行训练，得到所述图片识别模型。

6.根据权利要求5所述的方法，其中，获取每个样本图片中各像素对应的概率标签，包括：

针对每个样本图片，采用弱监督方式在所述样本图片中生成矩形区域；

根据所述样本图片中每个像素与所述矩形区域之间的位置关系，确定所述样本图片中各像素对应的概率标签。

7.根据权利要求6所述的方法，其中，所述根据所述样本图片中每个像素与所述矩形区域之间的位置关系，确定所述样本图片中各像素对应的概率标签，包括：

针对所述样本图片中的每个像素，若所述像素处于所述矩形区域内，则根据所述像素的坐标与所述矩形区域的中心点坐标之间的距离，确定所述像素对应的概率标签；

若所述像素处于所述矩形区域外，则确定所述像素对应的概率标签为0。

8.根据权利要求7所述的方法，其中，所述根据所述像素的坐标与所述矩形区域的中心点坐标之间的距离，确定所述像素对应的概率标签，包括：

根据公式，确定所述像素对应的概率标签；

其中，P表示所述像素对应的概率标签，（x1，y1）表示所述像素的坐标，（x2，y2）表示所述中心点的坐标，sigma表示一个常量。

9.一种图片中敏感区域的处理装置，包括：

获取单元，用于获取待处理图片；

处理单元，用于将所述待处理图片输入图片识别模型中，得到所述待处理图片中每个像素属于敏感像素的概率，所述概率为所述图片识别模型识别出所述待处理图片为敏感图片时输出的；

确定单元，用于根据所述每个像素属于敏感像素的概率，在所述待处理图片中确定敏感区域，并对所述敏感区域进行模糊处理；

其中，所述处理单元包括第一处理模块、第二处理模块以及第三处理模块；

所述第一处理模块，用于将所述待处理图片输入图片识别模型中，通过所述图片识别模型中的编码器提取各卷积层的特征向量；

所述第二处理模块，用于将最后一个卷积层的特征向量输入所述图片识别模型中的全连接层，得到所述待处理图片为敏感图片的得分；

所述第三处理模块，用于若所述得分大于得分阈值，则通过所述图片识别模型中的解码器，得到所述待处理图片中每个像素属于敏感像素的概率。

10.根据权利要求9所述的装置，所述第一处理模块包括第一处理子模块和第二处理子模块；

所述第一处理子模块，用于从所述编码器中获取中间卷积层的特征向量；

所述第二处理子模块，用于将所述中间卷积层的特征向量输入至所述解码器，得到所述待处理图片中每个像素属于敏感像素的概率。

11.根据权利要求9所述的装置，所述处理单元还包括第四处理模块；

所述第四处理模块，用于若所述得分小于或者等于所述得分阈值，则输出提示信息，所述提示信息用于提示所述待处理图片为非敏感图片，不存在敏感区域。

12.根据权利要求9-11任一项所述的装置，其中，所述确定单元包括第一确定模块和第二确定模块；

所述第一确定模块，用于根据所述每个像素属于敏感像素的概率，确定大于概率阈值的概率对应的目标像素；

所述第二确定模块，用于根据所述目标像素的坐标，在所述待处理图片中构建所述敏感区域。

13.一种图片识别模型的训练装置，包括：

获取单元，用于获取多个样本图片和所述多个样本图片各自对应的得分标签和每个样本图片中各像素对应的概率标签，所述得分标签用于表示所述样本图片为敏感图片的得分，所述概率标签用于表示所述样本图片中每个像素属于敏感像素的概率；

处理单元，用于根据所述多个样本图片，基于所述得分标签对初始图片识别模型中的全连接层进行训练，并基于所述概率标签对所述初始图片识别模型中的解码器进行训练，得到所述图片识别模型。

14.根据权利要求13所述的装置，其中，所述获取单元包括第一获取模块和第二获取模块；

所述第一获取模块，用于针对每个样本图片，采用弱监督方式在所述样本图片中生成矩形区域；

所述第二获取模块，用于根据所述样本图片中每个像素与所述矩形区域之间的位置关系，确定所述样本图片中各像素对应的概率标签。

15.根据权利要求14所述的装置，其中，所述第二获取模块包括第一获取子模块和第二获取子模块；

所述第一获取子模块，用于针对所述样本图片中的每个像素，若所述像素处于所述矩形区域内，则根据所述像素的坐标与所述矩形区域的中心点坐标之间的距离，确定所述像素对应的概率标签；

所述第二获取子模块，用于若所述像素处于所述矩形区域外，则确定所述像素对应的概率标签为0。

16.根据权利要求15所述的装置，其中，

所述第一获取子模块，具体用于根据公式，确定所述像素对应的概率标签；

其中，P表示所述像素对应的概率标签，（x1，y1）表示所述像素的坐标，（x2，y2）表示所述中心点的坐标，sigma表示一个常量。

17. 一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的图片中敏感区域的处理方法；或者，以使所述至少一个处理器能够执行权利要求5-8中任一项所述的图片识别模型的训练方法。

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的图片中敏感区域的处理方法；或者，所述计算机指令用于使所述计算机执行权利要求5-8中任一项所述的图片识别模型的训练方法。