CN114049578A - 一种敏感图片的识别方法和装置 - Google Patents

Abstract

本申请公开了一种敏感图片的识别方法和装置，该方法包括：获取待识别的目标图片；基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；若是，则确定所述目标图片为敏感图片；若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。本申请实施例可以有效识别出图片中的占用面积较小的敏感内容，进而确定图片是否为敏感图片，有效提高了敏感图片的识别准确度。

Description

一种敏感图片的识别方法和装置

技术领域

本申请涉及图片识别技术领域，尤其涉及一种敏感图片的识别方法和装置。

背景技术

目前，在一些应用场景中，通常需要识别图片是否为敏感图片，即识别图片中是否包含敏感内容。比如，在漫画网站中，需要识别网站中的漫画图片中是否包含敏感内容，在第三方应用中，需要识别应用中的图片是否包含敏感内容，等等。

在对图片进行识别时，一般地，可以对正常图片和敏感图片进行模型训练，然后使用训练得到的模型识别图片中是否包含敏感内容，进而判断图片是否为敏感图片。然而，在实际应用中，当图片中的敏感内容在图片中所占的面积较小时，采用目前的方法很难将图片中的敏感内容识别出来进而判断图片是否为敏感图片，导致识别准确度较低。

发明内容

本申请实施例提供一种敏感图片的识别方法和装置，用于解决目前在识别图片是否为敏感图片时，在图片中的敏感内容所占面积较小的情况下，识别准确度较低的问题。

为解决上述技术问题，本申请实施例是这样实现的：

第一方面，提出一种敏感图片的识别方法，包括：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

第二方面，提出一种敏感图片的识别装置，包括：

获取单元，获取待识别的目标图片；

确定单元，基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

第一识别单元，在所述确定单元确定所述目标图片中包含粘贴的敏感内容的情况下，确定所述目标图片为敏感图片；

第二识别单元，在所述确定单元确定所述目标图片中不包含粘贴的敏感内容的情况下，确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

第三方面，提出一种电子设备，该电子设备包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，该可执行指令在被执行时使该处理器执行以下操作：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

第四方面，提出一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下方法：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：

考虑到敏感内容在图片中所占面积较小的情况下，可能是图片中包含粘贴进来的一小块面积的敏感内容，或是图片本身包含小面积的敏感内容，因此，在识别图片是否为敏感图片时，可以基于图片的亮度信息对图片进行识别，这样，针对粘贴有敏感内容的图片，可以有效地将图片中的敏感内容识别出来，进而确定图片是否为敏感图片，提高了识别准确度；针对未粘贴敏感内容的图片，可以基于图片中的人体与图片的面积比选择不同的模型对图片进行识别，且在面积比大于或等于设定阈值的情况下选择二分类模型对图片进行识别，在面积比小于设定阈值的情况下选择人体分类模型对图片进行识别，这样，在图片本身包含大面积人体的情况下，可以基于二分类模型有效地识别图片是否为敏感图片，在图片本身包含小面积敏感内容的情况下，可以基于人体分类模型有效识别出小面积的人体是否为敏感人体，进而有效识别图片是否为敏感图片，提高了识别准确度。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本申请的一个实施例敏感图片的识别方法的流程示意图；

图2是本申请的一个实施例敏感图片的识别方法的流程示意图；

图3是本申请的一个实施例电子设备的结构示意图；

图4是本申请的一个实施例敏感图片的识别装置的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

敏感图片可以理解为包含不符合规范的、不适合展示给大众的敏感内容的图片。在一种典型的应用场景中，敏感图片可以理解为色情图片，敏感图片中包含的敏感内容可以理解为色情内容，该色情内容可以是人体的敏感部位(即敏感人体)，该敏感人体比如可以是裸露的敏感器官(性器官等)，或裸露面积过大的其他人体部位，等等。

以敏感图片为色情图片为例，在识别图片是否为敏感图片时，传统的方法是计算出图片中与人体肤色相似颜色的区域的面积，判断该面积与整张图片面积的比例是否大于某个阈值，若大于，则认为图片为敏感图片，否则可以认为图片是正常图片。然而，这种方法的识别准确度通常比较低。目前常用的识别方法是，先对正常图片和敏感图片进行模型训练，然后使用训练得到的模型识别图片是否为敏感图片。然而，这种模型通常倾向于对敏感内容在图片中所占面积较大的图片进行识别，即当图片中的敏感内容在图片中所占的面积较大时识别准确度较高，当图片中的敏感内容在图片中所占的面积较小时，不易将敏感内容识别出来，识别准确度较低。

由此可见，目前在识别图片是否为敏感图片时，在敏感内容在图片中所占面积较小的情况下，识别准确度较低。

为了解决上述技术问题，本申请实施例提供一种敏感图片的识别方法和装置，可以将图片中面积较小的敏感内容识别出来，进而识别图片是否为敏感图片，有效提高敏感图片的识别准确度。

具体地，考虑到敏感内容在图片中所占面积较小的情况下，可能是图片中包含粘贴进来的一小块面积的敏感内容，或是图片本身包含小面积的敏感内容，因此，在对图片进行识别时，可以先基于图片的亮度信息确定图片中是否包含粘贴进来的敏感内容，若是则认为图片为敏感图片，若否，则可以对图片作进一步识别，具体地，可以识别目标图片中的人体，确定人体与目标图片的面积比，若面积比大于或等于设定阈值，则可以基于二分类模型识别图片是否为敏感图片，若面积比小于设定阈值，则可以基于人体分类模型识别图片是否为敏感图片。

这样，在识别图片是否为敏感图片时，由于可以基于图片的亮度信息对图片进行识别，因此，针对粘贴有敏感内容的图片，可以有效地将图片中的敏感内容识别出来进而确定图片是否为敏感图片，提高了识别准确度；针对未粘贴敏感内容的图片，由于可以基于图片中的人体与图片的面积比选择不同的模型对图片进行识别，且在面积比大于或等于设定阈值的情况下选择二分类模型对图片进行识别，在面积比小于设定阈值的情况下选择人体分类模型对图片进行识别，因此，在图片本身包含大面积人体的情况下，基于二分类模型可以有效识别图片是否为敏感图片，在图片本身包含小面积敏感内容的情况下，基于人体分类模型可以有效识别出小面积的人体是否为敏感人体，进而有效识别图片是否为敏感图片，提高了识别准确度。

以下结合附图，详细说明本申请各实施例提供的技术方案。

图1是本申请的一个实施例敏感图片的识别方法的流程示意图。所述方法如下所述。

S102：获取待识别的目标图片。

在需要识别某个图片是否是敏感图片时，可以获取该待识别的目标图片。

S104：基于目标图片的亮度信息，确定目标图片中是否包含粘贴的敏感内容。

在获取到目标图片后，可以进一步地确定目标图片的亮度信息，然后基于该亮度信息判断图片中是否包含粘贴的敏感内容。这里的粘贴指的是通过PS等图片处理手段将其他图片粘贴到目标图片。敏感内容可以是色情内容，比如人体的敏感部位(即敏感人体)等。该敏感人体比如可以是裸露的敏感器官(性器官等)，或裸露面积过大的其他人体部位，等等。

若判断结果为目标图片中包含粘贴的敏感内容，则可以执行S106，即确定目标图片为敏感图片。若判断结果为目标图片中不包含粘贴的敏感内容，则为了进一步确定目标图片是否为敏感图片，即确定目标图片中是否包含非粘贴的敏感内容，则可以执行S108。

S106：确定目标图片为敏感图片。

S108：确定目标图片中的人体与目标图片的面积比，基于与面积比对应的模型识别目标图片是否为敏感图片；其中，在面积比大于或等于设定阈值时，与面积比对应的模型为二分类模型，在面积比小于设定阈值时，与面积比对应的模型为人体分类模型。

在S108中，为了进一步确定目标图片是否为敏感图片，可以确定目标图片中的各个人体与目标图片之间的面积比。针对任一人体，若该人体与目标图片的面积比大于或等于设定阈值时，则可以说明该人体在目标图片中所占的面积较大，此时可以基于二分类模型识别包含该人体的图片是否为敏感图片。若该人体与目标图片的面积比小于设定阈值时，则可以说明该人体在目标图片中所占的面积较小，此时可以基于人体分类模型识别人体是否为敏感人体，进而确定目标图片是否为敏感图片。

这样，在识别图片是否为敏感图片时，由于可以基于图片的亮度信息对图片进行识别，因此，针对粘贴有敏感内容的图片，可以有效地将图片中的敏感内容识别出来进而确定图片是否为敏感图片，提高了识别准确度；针对未粘贴敏感内容的图片，由于可以基于图片中的人体与图片的面积比选择不同的模型对图片进行识别，且在面积比大于或等于设定阈值的情况下选择二分类模型对图片进行识别，在面积比小于设定阈值的情况下选择人体分类模型对图片进行识别，因此，在图片本身包含大面积人体的情况下，基于二分类模型可以有效识别图片是否为敏感图片，在图片本身包含小面积敏感内容的情况下，基于人体分类模型可以有效识别出小面积的人体是否为敏感人体，进而有效识别图片是否为敏感图片，提高了识别准确度。

在一种实现方式中，上述S104中基于目标图片的亮度信息，确定目标图片中是否包含粘贴的敏感内容，具体可以包括以下步骤：

S41：基于目标图片的亮度信息，确定目标图片中的亮度异常区域。

S42：基于预先训练的人体分类模型识别亮度异常区域是否包含敏感人体。

S43：根据识别结果，确定目标图片中是否包含粘贴的敏感内容。

考虑到目标图片中包含粘贴图片的情况下，粘贴图片所在区域的亮度和目标图片中其他区域的亮度之间不均匀，存在较大的差异，因此，在基于亮度信息对目标图片进行识别时，可以先基于目标图片的亮度信息确定目标图片中的亮度异常区域，该亮度异常区域大概率是粘贴图片所在的区域，然后，再重点对亮度异常区域进行人体识别，判断其是否包含敏感人体，进而根据判断结果有效识别目标图片中是否粘贴了敏感内容。

在基于目标图片的亮度信息确定目标图片中的亮度异常区域时，具体地：

首先，可以将目标图片转换为灰度图，该灰度图中的像素值可以表征目标图片的亮度，即该灰度图可以表征目标图片的亮度信息，基于灰度图可以确定目标图片的亮度分布。

其次，基于目标图片的灰度图所表征的图片亮度，可以进一步确定目标图片中设定区间内的亮度所在的区域。这里为了便于区分，可以将目标图片中设定区间内的亮度所在的区域表示为第一区域。设定区间内的亮度表征一定区间范围的亮度，具体可以根据实际情况确定，这里不做具体限定。比如，可以以亮度差60为一个区间，这样该设定区间内的亮度所在的第一区域即为灰度图(亮度值在0～255之间)中亮度值在[x，x+60]区间内的像素所在的区域，x的取值可以是0～195。当然，在其他实现方式中，设定区间也可以是其他亮度区间，这里不再一一举例说明。

需要说明是，本实施例确定得到的第一区域的个数可以是零个、一个或多个。在第一区域的个数为零个的情况下，可以认为目标图片中不存在亮度异常区域，进一步地，也可以确定目标图片中不包含粘贴的内容或敏感内容，此时，为了进一步识别目标图片是否为敏感图片，可以执行上述S108。在第一区域的个数为多个的情况下，可以进一步判断该多个第一区域中是否包含连通的区域，若包含，则该多个连通的第一区域可以作为一个整体并视为一个第一区域，由此可以得到一个或多个第一区域。比如，若第一区域的个数为5，其中2个第一区域连通，则可以将这2个第一区域视为一个第一区域，最终可以得到4个第一区域。

最后，在得到第一区域后，针对每一个第一区域，可以判断第一区域与目标图片的面积比是否小于或等于设定比值。设定比值可以根据实际情况确定，这里不做具体限定。可选的，设定比值可以设置为10％。在进行判断后，若判断结果为第一区域与目标图片的面积比小于或等于设定比值，则可以说明该第一区域大概率是粘贴图片所在的区域，此时可以将第一区域确定为亮度异常区域。反之，若第一区域与目标图片的面积比大于设定比值，则可以说明该第一区域大概率不是粘贴图片所在的区域，此时可以确定第一区域不是亮度异常区域。本实施例中，在确定目标图片中包含亮度异常区域的情况下，该亮度异常区域的个数可以是一个或多个。

在得到一个或多个亮度异常区域后，可以基于人体分类模型识别亮度异常区域是否包含敏感人体。人体分类模型可以预先训练得到，具体地，可以从多个途径获取不同人体的图片，该不同人体可以是手臂，小腿，手指等非敏感人体以及性器官、胸部等敏感人体，不同人体的图片数量基本一致，以保证样本的均衡性，此外，还可以通过对样本图片进行缩放，拼接和旋转等处理来扩大样本的数据量，使网络有更强的泛化能力。在获取到不同人体的图片后，可以将这些图片作为样本图片，结合对应的人体类别进行模型训练(训练的模型可以是神经网络模型，也可以是其他模型，这里不做具体限定)，最终可以得到人体分类模型，该人体分类模型可以识别某个人体所属的类别，比如识别某个人体是手臂、小腿还是性器官或胸部等。

在基于人体分类模型识别亮度异常区域中是否包含敏感人体时，可以将目标图片中的该亮度异常区域提取出来，然后对亮度异常区域进行白边补齐等处理使其大小符合人体分类模型对输入图片大小的要求，最后将补齐处理后得到的图片输入到人体分类模型中，根据模型的输出结果就可以确定亮度异常区域中是否包含敏感人体。

在一种可能的实现方式中，人体分类模型的输出结果可以是多维向量，该多维向量中包括亮度异常区域中的内容属于不同类别的人体的概率，在基于输出结果确定亮度异常区域中是否包含敏感人体时，可以确定多维向量中的最大概率，该最大概率所对应的类别就是亮度异常区域中包含的人体。比如，人体分类模型用于对性器官、手臂、小腿、臀部和人脸进行分类，则人体分类模型的输出结果可以是5维向量。假设，在对亮度异常区域进行识别后得到的输出结果为[0.1，0.1，0.2，0.6，0.1]，这5个概率对应的类别分别为性器官、手臂、小腿、臀部和人脸，则可以确定亮度异常区域中包含臀部，假设臀部为敏感人体，则可以确定亮度异常区域中包含敏感人体。若这5个概率对应的类别分别为性器官、大腿、小腿、手臂和人脸，则可以确定亮度异常区域中包含手臂，已知手臂是非敏感人体，则可以确定亮度异常区域中不包含敏感人体。

本实施例中，若亮度异常区域中包含敏感人体，则可以确定目标图片中包含粘贴的敏感内容，反之，若亮度异常区域中不包含敏感人体，则可以确定目标图片中不包含粘贴的敏感内容。若确定目标图片中包括敏感内容，则可以确定目标图片为敏感图片，若确定目标图片中包括不敏感内容，则可以基于上述S108进一步判断目标图片是否为敏感图片。

在一种可能的实现方式中，在基于上述S108确定目标图片是否为敏感图片时，可以首先确定目标图片中是否包含人体。具体地，可以使用现有的人体解析模型对目标图片进行人体检测，人体解析模型可以识别目标图片中包含的各个人体并将识别到的各个人体拆分出来，通过使用人体解析模型对目标图片进行检测，可以得到目标图片中包含的所有人体。需要说明的是，本实施例基于人体解析模型对目标图片进行检测后，检测得到的人体的个数可以是零个、一个或多个。若检测到的人体的个数为零，则可以说明目标图片中不包含人体，此时可以确定目标图片为正常图片。若检测到的人体的个数为一个或多个，则可以基于上述S108进一步确定目标图片是否为敏感图片。本实施例可以以检测到的人体的个数为一个或多个为例进行说明。

在检测到目标图片中包含一个或多个人体后，上述S108中确定目标图片中的人体与目标图片的面积比，基于与面积比对应的模型识别目标图片是否为敏感图片，具体可以是确定目标图片中每个人体与目标图片的面积比，针对任一第一人体对应的面积比，基于与该面积比对应的模型识别目标图片是否为敏感图片。

在基于与面积比对应的模型识别目标图片是否为敏感图片时，具体地，可以判断该面积比是否大于或等于设定阈值。若是，则可以认为第一人体在图片中的面积较大，此时可以使用二分类模型识别包含该第一人体的图片是否为敏感图片。若否，则可以认为第一人体在图片中的面积较小，此时若仍使用二分类模型进行图片识别则无法识别第一人体进而得到准确的识别结果，因此，可以使用人体分类模型识别第一人体是否为敏感人体，并根据第一人体是否为棉感人体来确定目标图片是否为敏感图片。

上述与面积比进行比较的设定阈值可以通过模型训练的方式得到，也可以基于实际的应用场景设定，这里不做具体限定。如通过模型训练的方式确定该设定阈值，可以通过以下方式训练得到设定阈值：

首先，获取线上场景中包含大面积人体的图片以及包含小面积人体的图片，这些图片中的人体可以是粘贴的人体也可以是图片自身包含的人体。

其次，使用人体解析模型对获取的图片进行人体解析，并计算图片中的人体(粘贴的以及非粘贴的)与该图片之间的面积比。

最后，对上一步中得到的面积比进行阈值遍历，得到最优阈值并将该最优阈值作为设定阈值。其中，该最优阈值可以较好地判断人体在图片中的面积大小。具体地，当某个人体和图片的面积比小于该阈值时，可以确定人体在图片中的面积较小，当某个人体和图片的面积比大于或等于该阈值时，可以确定人体在图片中的面积较大。

上述二分类模型可以预先训练得到，且模型识别效果可以与现有技术中用于识别图片是否为敏感图片的模型的识别效果相同，即二分类模型倾向于对敏感内容在图片中所占面积较大的图片进行识别，且识别准确度较高，因此，本实施例在确定目标图片中的人体与目标图片的面积比大于或等于设定阈值的情况下，可以基于二分类模型进行图片识别。

在一种实现方式中，上述二分类模型可以通过以下方式预先训练得到：

首先，通过网络爬虫等技术从各种渠道获取正常图片以及敏感图片。其中，正常图片和敏感图片之间的数量比可以是1:1，以保证样本的均衡性，若敏感图片的数量较少，则可以通过对敏感图片进行缩放，拼接和旋转等方式来扩大数据量。此外，敏感图片尽可能使用适用于线上场景的图片(比如线上场景的敏感图片占总样本图片的五分之二)，从而可以保证训练得到的二分类模型可以更加适用于线上场景。

其次，对正常图片和敏感图片进行模型训练，得到二分类模型，该二分类模型可以是神经网络模型，也可以是其他模型，这里不做具体限定。

在训练得到二分类模型后，在基于二分类模型对目标图片进行识别时，具体实现方式如下：

首先，将第一人体的图片输入二分类模型，得到模型输出结果。

这里的第一人体的图片可以理解为将第一人体从目标图片中拆分出来后得到的图片。可选地，在将第一人体的图片输入二分类模型之前，可以对第一人体的图片进行白边补齐等处理，以使处理后的第一人体的图片大小符合二分类模型对输入图片大小的要求。

二分类模型的模型输出结果可以是二维向量，该二维向量中包括第一人体的图片属于敏感图片的第一概率以及该第一人体的图片属于正常图片的第二概率，且该第一概率和第二概率的和为1。

其次，基于模型输出结果中的二维向量，确定目标图片是否为敏感图片。

在一种可能的实现方式中，可以确定第一人体的图片属于敏感图片的第一概率是否大于或等于第一阈值。若是，则可以确定第一人体的图片确定为敏感图片，该第一人体为敏感人体，进一步地，可以确定目标图片为敏感图片。若否，则可以确定第一人体的图片为正常图片，该第一人体为非敏感人体。第一阈值可以通过对二分类模型的准确度进行验证后设置得到，具体地，在训练得到二分类模型后，可以使用图片测试二分类模型的识别准确度，在测试时可以选取一个合适的阈值，并判断基于该阈值得到的识别结果的准确度为多少，通过不断调整这个阈值，可以得到识别准确度最大时的阈值，该阈值可以做为第一阈值。当然，该第一阈值也可以根据实际的应用场景进行设置，这里不做具体限定。

在另一种可能的实现方式中，也可以确定第一人体的图片属于敏感图片的第一概率是否大于其属于正常图片的概率。若是，则可以确定第一人体的图片确定为敏感图片，该第一人体为敏感人体，进一步地，可以确定目标图片为敏感图片。若否，则可以确定第一人体的图片为正常图片，该第一人体为非敏感人体。

在通过上述任一种方式确定第一人体的图片为正常图片后，若目标图片中仅包含这一个第一人体，则可以进一步确定目标图片为正常图片，若目标图片中还包含其他第一人体，则需要结合其他第一人体的判断结果确定目标图片是否为敏感图片。具体地，若其他第一人体均为非敏感人体/第一人体的图片均为正常图片，则可以确定目标图片为正常图片，若其他第一人体中存在至少一个第一人体为敏感人体或至少一个第一人体的图片均为敏感图片，则可以确定目标图片为敏感图片。

上述识别目标图片是否为敏感图片的人体分类模型可以是上述识别亮度异常区域是否包含敏感人体的人体分类模型，该人体分类模型的训练过程可以参见上述记载的相应内容，这里不再重复说明。

在基于人体分类模型确定目标图片是否为敏感图片时，具体实现方式如下：

首先，将第一人体的图片输入人体分类模型，得到模型输出结果。

这里的第一人体的图片可以理解为将第一人体从目标图片中拆分出来后得到的图片。可选地，在将第一人体的图片输入人体分类模型之前，也可以对第一人体的图片进行白边补齐等处理，以使处理后的第一人体的图片大小符合人体分类模型对输入图片大小的要求。

人体分类模型的模型输出结果可以是多维向量，该多维向量中包括第一人体属于不同类别的人体的概率，该不同类别的人体包括敏感人体和非敏感人体，且多维向量中包括的多个概率的和为1。比如，人体分类模型用于对5类人体(包括敏感人体和非敏感人体)进行识别，则其模型输出结果为5维向量，该5维向量中包括第一人体属于这5类人体的概率，即该5维向量中包括5个概率，每个概率表征第一人体属于某种人体的概率。

其次，基于模型输出结果中的多维向量，确定目标图片是否为敏感图片。

具体地，可以判断多维向量中的最大概率对应的人体类别是否为敏感人体(即判断第一人体属于敏感人体的概率是否是多维向量中的最大概率)，若是，则可以确定第一人体为敏感人体，进一步地，可以确定目标图片为敏感图片。比如，多维向量为[0.1，0.2，0.1，0.6，0.1]，每个概率对应的人体类别是手臂、小腿、人脸、性器官和大腿，则可以确定最大概率0.6对应的人体为性器官，已知性器官为敏感器官，因此可以确定第一人体为敏感人体，进一步可以确定目标图片为敏感图片。

可选地，若多维向量中的最大概率对应的人体类别不是敏感人体，则在这种情况下，若目标图片中仅包含这一个第一人体，则可以进一步确定目标图片为正常图片，若目标图片中还包含其他第一人体，则需要结合其他第一人体的判断结果确定目标图片是否为敏感图片。具体地，若其他第一人体均为非敏感人体/第一人体的图片均为正常图片，则可以确定目标图片为正常图片，若其他第一人体中存在至少一个第一人体为敏感人体或至少一个第一人体的图片均为敏感图片，则可以确定目标图片为敏感图片。

本申请实施例可以有效识别出图片中的占用面积较小的敏感内容，特别是针对粘贴有小面积敏感内容的图片以及本身包含小面积敏感内容的图片，本申请实施例可以将图片中的小面积敏感内容有效识别出来，进而确定图片是否为敏感图片，提高了识别准确度。

为了便于理解本申请实施例提供的技术方案，在一种可能的实现方式中，本申请实施例提供的敏感图片的识别方法可以如图2所示。图2所示的实施例可以包括以下步骤：

S201：获取待识别的目标图片。

S202：将目标图片转换为灰度图，基于灰度图确定目标图片中的亮度异常区域。

S203：基于预先训练的人体分类模型识别亮度异常区域中是否包含敏感人体。

若包含，则执行S211，若不包含，则可以执行S204。

S204：基于人体解析模型确定目标图片中包含的人体。

可选地，目标图片中可能包含至少一个人体，也可能不包含人体，若不包含人体，则可以确定目标图片为正常图片，若包含一个或多个人体，则可以执行S205，本实施例以目标图片中包含至少一个人体为例进行说明。

S205：确定目标图片中每个人体与目标图片的面积比。

S206：针对任一第一人体对应的面积比，判断该面积比是否大于或等于设定阈值。

若是，则执行S207，若否，则执行S209。

S207：将第一人体的图片输入二分类模型，得到模型输出结果，模型输出结果为二维向量，二维向量中包括第一人体的图片属于敏感图片的第一概率以及属于正常图片的第二概率。

S208：判断第一概率是否大于或等于第一阈值。

可选地，也可以判断第一概率是否大于第二概率，这里仅以判断第一概率是否大于或等于第一阈值为例进行说明。

若判断结果为是，则执行S211，若判断结果为否，则执行S212。

S209：将第一人体的图片输入人体分类模型，得到模型输出结果，模型输出结果为多维向量，多维向量中包括第一人体属于不同类别的人体的概率，不同类别的人体包括敏感人体和非敏感人体。

S210：判断多维向量中的最大概率对应的人体类别是否为敏感人体。

若判断结果为是，则执行S211，若判断结果为否，则执行S212。

S211：确定目标图片为敏感图片。

S212：若对每个第一人体的识别结果均为第一人体为非敏感人体，则确定目标图片为正常图片。

本申请实施例提供的技术方案，考虑到敏感内容在图片中所占面积较小的情况下，可能是图片中包含粘贴进来的一小块面积的敏感内容，或是图片本身包含小面积的敏感内容，因此，在识别图片是否为敏感图片时，可以基于图片的亮度信息对图片进行识别，这样，针对粘贴有敏感内容的图片，可以有效地将图片中的敏感内容识别出来，进而确定图片是否为敏感图片，提高了识别准确度；针对未粘贴敏感内容的图片，可以基于图片中的人体与图片的面积比选择不同的模型对图片进行识别，且在面积比大于或等于设定阈值的情况下选择二分类模型对图片进行识别，在面积比小于设定阈值的情况下选择人体分类模型对图片进行识别，这样，在图片本身包含大面积人体的情况下，可以基于二分类模型有效地识别图片是否为敏感图片，在图片本身包含小面积敏感内容的情况下，可以基于人体分类模型有效识别出小面积的人体是否为敏感人体，进而有效识别图片是否为敏感图片，提高了识别准确度。

上述对本申请特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

图3是本申请的一个实施例电子设备的结构示意图。请参考图3，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图3中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成敏感图片的识别装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

上述如本申请图3所示实施例揭示的敏感图片的识别装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

该电子设备还可执行图1和图2的方法，并实现敏感图片的识别装置在图1和图2所示实施例中的功能，本申请实施例在此不再赘述。

当然，除了软件实现方式之外，本申请的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图1和图2所示实施例的方法，并具体用于执行以下操作：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

图4是本申请的一个实施例敏感图片的识别装置40的结构示意图。请参考图4，在一种软件实施方式中，所述敏感图片的识别装置40可包括：获取单元41、确定单元42、第一识别单元43和第二识别单元44，其中：

获取单元41，获取待识别的目标图片；

确定单元42，基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

第一识别单元43，在所述确定单元42确定所述目标图片中包含粘贴的敏感内容的情况下，确定所述目标图片为敏感图片；

第二识别单元44，在所述确定单元42确定所述目标图片中不包含粘贴的敏感内容的情况下，确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

可选地，所述确定单元42，基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容，包括：

基于所述目标图片的亮度信息，确定所述目标图片中的亮度异常区域；

基于人体分类模型识别所述亮度异常区域中是否包含敏感人体；

若是，则确定所述目标图片中包含粘贴的敏感内容；

若否，则确定所述目标图片中不包含粘贴的敏感内容。

可选地，所述确定单元42，基于所述目标图片的亮度信息，确定所述目标图片中的亮度异常区域，包括：

将所述目标图片转换为灰度图，所述灰度图中的像素值表征所述目标图片的亮度；

基于所述灰度图确定所述目标图片中设定区间内的亮度所在的第一区域；

判断所述第一区域与所述目标图片的面积比是否小于或等于设定比值；

若是，则将所述第一区域确定为所述亮度异常区域。

可选地，所述目标图片中的人体通过使用人体解析模型对所述目标图片进行人体检测后得到，所述目标图片中的人体的个数为一个或多个；

其中，所述第二识别单元44，确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片，包括：

确定所述目标图片中每个人体与所述目标图片的面积比；

针对任一第一人体对应的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片。

可选地，所述第二识别单元44，在与所述面积比对应的模型为二分类模型的情况下，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片，包括：

将所述第一人体的图片输入所述二分类模型，得到模型输出结果，所述模型输出结果为二维向量，所述二维向量中包括所述第一人体的图片属于敏感图片的第一概率以及属于正常图片的第二概率；

若所述第一概率大于或等于第一阈值，或，所述第一概率大于所述第二概率，则确定所述目标图片为敏感图片。

可选地，所述第二识别单元44，在与所述面积比对应的模型为人体分类模型的情况下，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片，包括：

将所述第一人体的图片输入所述人体分类模型，得到模型输出结果，所述模型输出结果为多维向量，所述多维向量中包括所述第一人体属于不同类别的人体的概率，所述不同类别的人体包括敏感人体和非敏感人体；

若所述多维向量中的最大概率对应的人体类别为敏感人体，则确定所述目标图片为敏感图片。

可选地，所述第二识别单元44，在针对任一第一人体对应的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片之后，所述方法还包括：

若对每个第一人体的识别结果均为所述第一人体为非敏感人体，则确定所述目标图片为正常图片。

本申请实施例提供的敏感图片的识别装置40还可执行图1和图2的方法，并实现敏感图片的识别装置在图1和图2所示实施例的功能，本申请实施例在此不再赘述。

总之，以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本申请中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

Claims (10)

1.一种敏感图片的识别方法，其特征在于，包括：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

2.如权利要求1所述的方法，其特征在于，基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容，包括：

基于所述目标图片的亮度信息，确定所述目标图片中的亮度异常区域；

基于人体分类模型识别所述亮度异常区域中是否包含敏感人体；

若是，则确定所述目标图片中包含粘贴的敏感内容；

若否，则确定所述目标图片中不包含粘贴的敏感内容。

3.如权利要求2所述的方法，其特征在于，基于所述目标图片的亮度信息，确定所述目标图片中的亮度异常区域，包括：

将所述目标图片转换为灰度图，所述灰度图中的像素值表征所述目标图片的亮度；

基于所述灰度图确定所述目标图片中设定区间内的亮度所在的第一区域；

判断所述第一区域与所述目标图片的面积比是否小于或等于设定比值；

若是，则将所述第一区域确定为所述亮度异常区域。

4.如权利要求1所述的方法，其特征在于，所述目标图片中的人体通过使用人体解析模型对所述目标图片进行人体检测后得到，所述目标图片中的人体的个数为一个或多个；

其中，确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片，包括：

确定所述目标图片中每个人体与所述目标图片的面积比；

针对任一第一人体对应的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片。

5.如权利要求4所述的方法，其特征在于，在与所述面积比对应的模型为二分类模型的情况下，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片，包括：

将所述第一人体的图片输入所述二分类模型，得到模型输出结果，所述模型输出结果为二维向量，所述二维向量中包括所述第一人体的图片属于敏感图片的第一概率以及属于正常图片的第二概率；

若所述第一概率大于或等于第一阈值，或，所述第一概率大于所述第二概率，则确定所述目标图片为敏感图片。

6.如权利要求4所述的方法，其特征在于，在与所述面积比对应的模型为人体分类模型的情况下，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片，包括：

将所述第一人体的图片输入所述人体分类模型，得到模型输出结果，所述模型输出结果为多维向量，所述多维向量中包括所述第一人体属于不同类别的人体的概率，所述不同类别的人体包括敏感人体和非敏感人体；

若所述多维向量中的最大概率对应的人体类别为敏感人体，则确定所述目标图片为敏感图片。

7.如权利要求4所述的方法，其特征在于，在针对任一第一人体对应的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片之后，所述方法还包括：

若对每个第一人体的识别结果均为所述第一人体为非敏感人体，则确定所述目标图片为正常图片。

8.一种敏感图片的识别装置，其特征在于，包括：

获取单元，获取待识别的目标图片；

确定单元，基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

第一识别单元，在所述确定单元确定所述目标图片中包含粘贴的敏感内容的情况下，确定所述目标图片为敏感图片；

第二识别单元，在所述确定单元确定所述目标图片中不包含粘贴的敏感内容的情况下，确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

9.一种电子设备，其特征在于，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，该可执行指令在被执行时使该处理器执行以下操作：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下方法：

获取待识别的目标图片；

基于所述目标图片的亮度信息，确定所述目标图片中是否包含粘贴的敏感内容；

若是，则确定所述目标图片为敏感图片；

若否，则确定所述目标图片中的人体与所述目标图片的面积比，基于与所述面积比对应的模型识别所述目标图片是否为敏感图片；

其中，在所述面积比大于或等于设定阈值时，与所述面积比对应的模型为二分类模型，在所述面积比小于所述设定阈值时，与所述面积比对应的模型为人体分类模型。

Images