CN107203765B - 敏感图像检测方法和装置 - Google Patents

Abstract

本发明涉及一种敏感图像检测方法和装置，所述方法包括：获取待检测图像；将所述待检测图像输入卷积神经网络模型；获取所述卷积神经网络模型中的卷积层输出的特征图；根据获取的特征图确定候选局部敏感图像位置；根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像；将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，输出所述待检测图像是否为敏感图像的检测结果。本发明提供的敏感图像检测方法和装置，无需构建敏感图像检索库，只要利用卷积神经网络模型对候选局部敏感图像进行检测，在检测到候选局部敏感图像时，即可确定待检测图像为敏感图像，从而提高了检测的准确率。

Description

敏感图像检测方法和装置

技术领域

本发明涉及计算机图像处理技术，特别是涉及一种敏感图像检测方法和装置。

背景技术

随着互联网技术的发展，各种数据通过互联网进行传播，在传播过程中有些数据时禁止传播的。但是，要禁止这些数据的传播，首先需要对这些数据进检测识别，只有检测到数据是否属于禁止传播的数据才能阻止这些数据的传播。

然而，这些禁止传播的数据中包括敏感图像，在对敏感图像进行检测时，往往是通过人工搜集高传播率的敏感图像构建敏感图像检索库，基于相似度根据敏感图像检索库中的敏感图像对待检测图片进行检测。这样，依赖于人工搜集的敏感图像来更新敏感图像检索库，由于敏感图像检索库的更新较为滞后，对于新的敏感图像的检测准确率较低。

发明内容

基于此，有必要针对敏感图像的检测准确率低下的问题，提供一种敏感图像的检测方法和装置。

一种敏感图像检测方法，所述方法包括：

获取待检测图像；

将所述待检测图像输入卷积神经网络模型；

获取所述卷积神经网络模型中的卷积层输出的特征图；

根据获取的特征图确定候选局部敏感图像位置；

根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像；

将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，输出所述待检测图像是否为敏感图像的检测结果。

上述敏感图像检测方法，在获取到待检测图像后，经过卷积神经网络模型对待检测图像处理，根据卷积层输出的特征图确定候选局部敏感图像位置，根据候选局部敏感图像位置在待检测图像中截取候选局部敏感图像，根据卷积神经网络模型对候选局部敏感图像进行检测，避免了当待检测图像中敏感区域占整个区域的比例较小时，检测不到待检测图像为敏感图像的情况。无需构建敏感图像检索库，只要利用卷积神经网络模型对候选局部敏感图像进行检测，在检测到候选局部敏感图像时，即可确定待检测图像为敏感图像，从而提高了检测的准确率。

一种敏感图像检测装置，所述装置包括：

图像获取模块，用于获取待检测图像；

图像输入模块，用于将所述待检测图像输入卷积神经网络模型；

特征图获取模块，用于获取所述卷积神经网络模型中的卷积层输出的特征图；

位置确定模块，用于根据获取的特征图确定候选局部敏感图像位置；

图像截取模块，用于根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像；

图像检测模块，用于将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，输出所述待检测图像是否为敏感图像的检测结果。

上述敏感图像检测方法，在获取到待检测图像后，经过卷积神经网络模型对待检测图像处理，根据卷积层输出的特征图确定候选局部敏感图像位置，根据候选局部敏感图像位置在待检测图像中截取候选局部敏感图像，根据卷积神经网络模型对候选局部敏感图像进行检测，避免了当待检测图像中敏感区域占整个区域的比例较小时，检测不到待检测图像为敏感图像的情况。无需构建敏感图像检索库，只要利用卷积神经网络模型对候选局部敏感图像进行检测，在检测到候选局部敏感图像时，即可确定待检测图像为敏感图像，从而提高了检测的准确率。

附图说明

图1为一个实施例中敏感图像检测方法的应用环境图；

图2为一个实施例中敏感图像检测系统中的服务器的结构框图；

图3为一个实施例中敏感图像检测方法的流程示意图；

图4为一个实施例中待检测图像的示意图；

图5为一个实施例中候选局部敏感图像的示意图；

图6为一个实施例中筛选分类器的步骤的流程示意图；

图7为一个实施例中根据候选局部敏感图像位置截取候选局部敏感图像的步骤的流程示意图；

图8为一个实施例中判断待检测图像是否为敏感图像的步骤的流程示意图；

图9为一个实施例中敏感图像检测装置的结构框图；

图10为另一个实施例中敏感图像检测装置的结构框图；

图11为一个实施例中分类器筛选模块的结构框图；

图12为一个实施例中图像检测模块的结构框图；

图13为又一个实施例中敏感图像检测装置的结构框图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

图1为一个实施例中敏感图像检测方法的应用环境图。参照图1，该敏感图像检测方法应用于敏感图像检测系统。敏感图像检测系统包括终端110和服务器120，其中终端110通过网络与服务器120连接。终端110可以是固定终端或移动终端，固定终端具体可以是打印机、扫描仪和监测器中的至少一种，移动终端具体可以是平板电脑、智能手机、个人数据助理和数码相机中的至少一种。可以理解的是，敏感图像检测方法除了可以应用于图1中的服务器120，还可以应用于除了服务器之外的其它电子设备，如个人计算机或者工作站等。

图2为一个实施例中电子设备的内部结构示意图。该电子设备可以是图1中的服务器120。如图2所示，该电子设备120包括通过系统总线连接的处理器、非易失性存储介质、内存储器和网络接口。其中，电子设备120的非易失性存储介质存储有操作系统、数据库，还包括一种敏感图像检测装置，该敏感图像检测装置用于实现一种敏感图像检测方法。处理器用于提供计算和控制能力，支撑整个电子设备120的运行，电子设备120中的内存储器为非易失性存储介质中的敏感图像检测装置的运行提供环境，该内存储器中可存储有计算机可读指令，该计算机可读指令被处理器执行时，可使得处理器执行一种敏感图像检测方法。网络接口用于与终端110进行网络通信。电子设备可以用独立的电子设备或者是多个电子设备组成的设备集群来实现。本领域技术人员可以理解，图2中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的电子设备的限定，具体的电子设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

如图3所示，在一个实施例中，提供一种敏感图像检测方法，本实施例以该方法应用于图1敏感图像检测系统中的服务器120上来举例说明，该方法具体包括以下内容：

S302，获取待检测图像。

其中，待检测图像是需要进行检测是否为敏感图像的图像。敏感图像是根据法律和规定禁止网络传播的图像，比如图色情图像、血腥图像和暴力图像等。具体地，服务器120可对终端110上传的数据进行筛选，筛选出图像，从而将筛选出的图像作为待检测图像。服务器120对待检测图像进行检测，检测到待检测图像为敏感图像时，禁止该图像的网络传播。

在一个实施例中，服务器110中设置有待检测图像数据库，在待检测图像数据库中存储着待检测图像，服务器110从待检测图像数据库中获取待检测图像。待检测图像数据库中的图像可以是服务器110对终端110上传的数据进行筛选得到的。

在一个实施例中，服务器110中可设置多个待检测图像数据库，用户通过终端110可以访问待检测图像数据库，用户通过终端110选择需要检测的待检测图像数据库。终端110将携带有待检测图像数据库标识的选择指令发送至服务器120。服务器120提取选择指令中的待检测图像数据库标识，从待检测图像数据库标识对应的待检测图像数据库中获取待检测图像。

S304，将待检测图像输入卷积神经网络模型。

其中，卷积神经网络模型是根据包括敏感图像和非敏感图像的图像样本集合训练得到的分类模型，能够用于检测待检测图像是否为敏感图像。卷积神经网络模型中至少包括输入层、卷积层和输出层。卷积层可以是多层，每层卷积层都有对应的卷积核，每层的卷积核可以是多个。

具体地，卷积神经网络模型是根据包括敏感图像和非敏感图像的图像样本集合训练得到的用于判断图像是否为敏感图像的模型。服务器120在获取到待检测图像后，将待检测图像输入卷积神经网络模型，利用卷积神经网络模型对待检测图像进行处理。

在一个实施例中，服务器120将待检测图像缩放至预设尺寸，将缩放后的待检测图像输入卷积神经网络模型。预设尺寸为卷积神经网络模型所处理图像的标准尺寸，包括预设宽和预设宽。通过将待检测图像缩放至预设尺寸，保证检测图像的检测标准相同，提高了对待检测图像的检测准确率。

S306，获取卷积神经网络模型中的卷积层输出的特征图。

具体地，特征图通过卷积神经网络模型中的卷积层的卷积核对待检测图像处理得到的到图像处理结果，图像处理结果为图像特征矩阵，该图像特征矩阵中由通过卷积核对待检测图像的图像矩阵进行处理得到的响应值构成。

卷积神经网络模型中包括卷积层，卷积层用于对待检测图像进行卷积处理得到待检测图像的特征图。服务器120将待检测图像输入卷积神经网络模型后，卷积神经网络模型中的卷积层对待检测图像进行卷积处理得到特征图，服务器120经过卷积层中的卷积核对待检测图像处理后得到的特征图。卷积神经网络模型的卷积层可以是多层，服务器120可以获取最后一层卷积层输出的特征图。特征图是由卷积核对输入的待检测图像进行处理得到的响应值构成的。

S308，根据获取的特征图确定候选局部敏感图像位置。

其中，候选局部敏感图像位置为待检测图像中疑似敏感图像区域所在位置，具体可以是该区域的中心位置，还可以是该区域的在整个待检测图像中的区域范围。

具体地，特征图中的响应值均对应于待检测图像中的局部图像，响应值越大，该响应值对应的局部图像被判定为敏感图像的概率越高。服务器120根据特征图中的响应值在待检测图像中确定候选局部敏感图像位置。

在一个实施例中，S308具体还包括：查找提取到的特征图中的最大响应值；在待检测图像中确定最大响应值对应的局部区域位置，作为候选局部敏感图像位置。

具体地，服务器120在获取到待检测图像的特征图后，获取特征图中的响应值，将获取的响应值进行比较，通过比较确定最大响应值。服务器120在查找到最大响应值后，在待检测图像中确定最大响应值对应的局部区域位置，以确定的局部区域位置作为候选局部敏感图像位置。

S310，根据候选局部敏感图像位置，在待检测图像中截取候选局部敏感图像。

具体地，服务器120在确定候选局部敏感图像位置后，根据候选局部敏感图像位置在待检测图像中确定疑似敏感区域，截取外切于疑似敏感区域的矩形图像，以截取的矩形图像作为候选局部敏感图像。

在一个实施例中，服务器120根据候选局部敏感位置在待检测图像确定多个疑似敏感区域，分别截取外切于各疑似敏感区域的多个矩形图像，以截取到的多个矩形图像作为候选局部敏感图像。

S312，将候选局部敏感图像输入卷积神经网络模型进行检测，输出待检测图像是否为敏感图像的检测结果。

具体地，服务器120在截取到候选局部敏感图像后，将候选局部敏感图像输入卷积神经网络模型，卷积神经网络模型对候选局部敏感图像进行检测，得到该候选局部敏感图像的检测结果，根据候选局部敏感图像的检测结果输出待检测图像是否为敏感图像的检测结果。其中，服务器120通过卷积神经网络模型的输出层输出检测结果。

在一个实施例中，S312具体还包括：将截取的候选局部敏感图像放大至预设尺寸后，输入卷积神经网络模型进行检测；当检测到放大的候选局部敏感图像为敏感图像时，判定待检测图像为敏感图像；当检测到放大的候选局部敏感图像为非敏感图像时，判定待检测图像为非敏感图像。

具体地，服务器120在截取候选局部敏感图像后，获取预设尺寸，将候选局部敏感图像放大至预设尺寸，将放大后的候选局部敏感图像输入卷积神经网络模型进行检测。服务器120利用卷积神经网络模型对放大后的候选局部敏感图像进行检测，获取卷积神经网络模型输出候选局部敏感图像是否为敏感图像的检测结果。在检测结果中，当检测到放大后的候选局部敏感图像为敏感图像时，服务器120判定待检测图像为敏感图像；当检测到放大后的候选局部敏感图像为非敏感图像时，服务器120判定待检测图像为非敏感图像。

举例说明，请参照图4和图5，图4中包括待检测图像402，服务器120将待检测图像输入卷积神经网络模型，根据提取到的特征图识别到待检测图像中候选局部敏感图像位置404。服务器120根据候选局部敏感图像位置404在待检测图像中截取候选局部敏感图像，将候选局部敏感图像放大至预设尺寸得到图5中的候选局部敏感图像502，候选局部敏感图像502中敏感区域位置504与图4中的候选局部敏感图像位置对应，将候选局部敏感图像502输入卷积神经网络模型得到检测结果。图4和图5中，点的聚集度高的区域表示敏感区域，点的聚集度越高，表示该区域被判定为敏感区域的概率越高。

本实施例中，在获取到待检测图像后，经过卷积神经网络模型对待检测图像处理，根据卷积层输出的特征图确定候选局部敏感图像位置，根据候选局部敏感图像位置在待检测图像中截取候选局部敏感图像，根据卷积神经网络模型对候选局部敏感图像进行检测，避免了当待检测图像中敏感区域占整个区域的比例较小时，检测不到待检测图像为敏感图像的情况。无需构建敏感图像检索库，只要利用卷积神经网络模型对候选局部敏感图像进行检测，在检测到候选局部敏感图像时，即可确定待检测图像为敏感图像，从而提高了检测的准确率。

在一个实施例中，S306具体包括：获取预存的卷积核集合；在卷积神经网络模型中的卷积层输出的特征图中，获取与卷积核集合中的卷积核对应的特征图。

具体地，服务器120存储着卷积核集合，卷积核集合中存储着卷积神经网络模型中同一卷积层的卷积核，卷积神经网络模型中同一卷积层有多个卷积核。在卷积神经网络模型中，利用卷积核对待检测图像进行处理得到待检测图像的特征图。每个卷积核对应一个敏感图像判断标准，例如是否裸露某种器官、是否具有某种行为等。卷积核集合中的卷积核具体可以是卷积神经网络模型中最后一层卷积层的卷积核。

本实施例中，根据预存的卷积核集合中卷积核获取特征图，保证根据卷积核获取到的特征图的准确性较高，根据准确性较高的特征图对待检测图像进行检测，提高了待检测图像的检测准确率。

如图6所示，在一个实施例中，S302之前还包括筛选分类器的步骤，该步骤具体包括以下内容：

S602，获取包括敏感样本图像和非敏感样本图像的训练样本图像集合。

具体地，人工通过终端110搜集样本图像，人工通过终端110将搜集到的样本图像标注为敏感样本图像和非敏感样本图像，终端110将敏感样本图像和非敏感样本图像作为全量样本图像集合存储在服务器120。服务器120将全量样本图像集合划分为训练样本图像集合和测试样本图像集合。

S604，将训练样本图像集合中的样本图像输入卷积神经网络模型。

具体地，服务器120获取训练样本图像集合，将训练样本图像集合中的样本图像输入卷积神经网络模型，利用卷积神经网络模型对训练样本图像集合中的样本图像进行处理。

在一个实施例中，服务器120将训练样本集合中的样本图像缩放至预设尺寸，将缩放后的样本图像输入卷积神经网络模型。

S606，提取卷积神经网络模型的卷积层输出的与各卷积核对应的特征图。

具体地，服务器120利用卷积神经网络模型对训练样本图像集合中样本图像进行处理，卷积神经网络模型中包括卷积层，卷积层通过卷积核对样本图像进行卷积处理得到特征图。服务器120提取处理过程中卷积层输出的各卷积核对应的特征图。

S608，根据提取到的特征图，分别训练与各卷积核对应的分类器。

具体地，服务器120在提取到各卷积核对应的特征图后，分别以各卷积核对应的特征图作为训练样本，分别根据训练样本训练各卷积核对应的分类器。

S610，从训练得到的分类器中筛选出满足预设的分类性能条件的分类器。

具体地，服务器120获取预设的分类性能条件，根据预设的分类性能条件在训练得到的分类器中筛选分类器。预设的分类性能条件具体可以是分类准确度较高的预设数量的分类器。

在一个实施例中，S610具体包括：根据测试样本图像集合对训练得到的分类器进行分类测试，统计各分类器的分类准确度；测试样本图像集合包括敏感样本图像和非敏感样本图像；将各分类器的分类准确度降序排序；在训练得到的分类器中，筛选出排序靠前的预设数量的分类器。

具体地，服务器120在训练得到各卷积核对应的分类器后，根据测试样本图像集合中的样本图像对训练得到的各分类器进行分类测试，通过测试统计各分类器的分类的图像总数量和分类正确的图像数量，将分类正确的图像数量除以分类的图像总数量得到分类准确度。其中，测试样本图像集合中包括敏感样本图像和非敏感样本图像。服务器120在统计到各分类器对应的分类准确度后，将各分类器对应的分类准确度进行降序排序，在训练得到的分类器中筛选出排序靠前的预设数量的分类准确度对应的分类器。

在一个实施例中，服务器120将各分类器的分类准确度升序排序，在训练得到的分类器中筛选出排序靠后的预设数量的分类器。

S612，将筛选出的分类器对应的卷积核存储为卷积核集合。

具体地，服务器120在筛选出分类器后，从卷积神经网络模型中提取筛选选出的分类器对应的卷积核，将提取到的卷积核存储为卷积核集合。

本实施例中，根据提取到的各卷积核对应的特征图分别训练各卷积核对应的分类器，根据各分类器的分类准确度选取预设数量的分类器，保证选取的分类器的分类准确度较高，提取筛选出的分类器对应的卷积核，存储为卷积核集合，保证了卷积核中的卷积核的准确性较高，排除了准确性较低的卷积核，从而提高了根据卷积核对应的特征图检测敏感图像的检测准确率。

如图7所示，在一个实施例中，S310具体包括以下内容：

S702，将待检测图像输入局部敏感图像尺寸分类器，输出候选局部敏感图像尺寸。

具体地，服务器120在待检测图像中根据确定的候选局部敏感图像位置向外扩散，将候选局部图像的局部区域扩散至满足预设敏感区域尺寸的局部区域，根据扩散后的候选局部图像的局部区域截取候选局部图像。

在一个实施例中，服务器120根据训练样本图像集合训练得到局部敏感图像尺寸分类器，局部敏感图像尺寸分类器用于确定局部敏感图像在待检测图像中的尺寸。服务器120将待检测图像输入局部敏感图像尺寸分类器，获取局部敏感图像尺寸分类器输出的候选局部敏感图像尺寸。

S704，根据候选局部敏感图像位置和候选局部敏感图像尺寸，在待检测图像中截取候选局部敏感图像。

具体地，服务器120根据候选局部敏感图像位置和候选局部敏感图像尺寸在待检测图像中定位候选局部敏感图像所在区域，对定位到的区域中的图像进行截取得到候选局部敏感图像。

本实施例中，在确定候选局部敏感图像位置后，通过局部敏感图像尺寸分类器确定候选局部敏感图像尺寸，根据候选局部敏感图像位置和候选局部敏感图像尺寸，在待检测图像中截取候选局部敏感图像，保证了在待检测图像中准确截取到候选局部敏感图像。

如图8所示，在一个实施例中，S312具体还包括判断待检测图像是否为敏感图像的步骤，该步骤具体包括以下内容：

S802，将候选局部敏感图像输入卷积神经网络模型，通过卷积层输出候选局部敏感图像的特征图。

具体地，服务器120将截取到的候选局部敏图像输入卷积神经网络模型，在卷积神经网络模型中的卷积层对候选局部敏感图像进行处理，卷积层输出候选局部敏感图像的特征图。

S804，对候选局部图像的特征图中的响应值进行二值化处理。

具体地，服务器120获取卷积层输出的特征图，对特征图中的特征图进行二值化处理，将特征图中的响应值与预设阈值进行比较，将大于预设阈值的响应值置为“1”，将小于等于预设阈值的响应值置为“0”，使特征图中的响应值二值化。特征图中的响应值在待检测图像中都有对应的局部区域。

S806，根据经过二值化处理后的响应值，统计候选局部敏感图像被检测为敏感图像的概率。

具体地，服务器120统计特征图中响应值的总数量，二值化处理后的响应值中“1”对应的局部区域被判定为敏感区域，统计二值化处理后的响应值中“1”的数量，将统计到的“1”的数量除以统计到的响应值的总数量，得到候选局部敏感图像被检测为敏感图像的概率。

S808，根据统计的概率，判断待检测图像是否为敏感图像。

具体地，卷积神经网络模型中有敏感图像检测概率。服务器120将统计的概率与敏感图像检测概率进行比较，若统计的概率大于敏感图像检测概率，则判定待检测图像为敏感图像；若统计的概率小于等于敏感图像检测概率，则判定待检测图像为非敏感图像。

本实施例中，通过对特征图中的响应值进行二值化处理，根据二值化处理后的响应值统计被检测为敏感图像的概率，根据统计的概率判断待检测图像是否为敏感图像，提高了敏感图像的检测准确率。

在一个实施例中，S312之后具体还包括：若检测到待检测图像为敏感图像时，则根据候选局部敏感图像位置，在作为敏感图像的待检测图像中添加标记并输出。

具体地，服务器120在检测到待检测图像为敏感图像时，在被检测为敏感图像的待检测图像中的候选局部敏感图像位置添加标记。其中，标记具体可以是区别于待检测图像颜色的边框，还可以是文字标签。

在一个实施例中，服务器120对待检测图像中候选局部敏感图像位置的候选局部敏感图像进行模糊处理。具体可以是将候选局部图像中的像素点进行连续下采样处理，将下采样处理后的候选局部图像放大至候选局部图像的原始尺寸，从而使候选局部敏感图像处于模糊状态。服务器120还可以对候选局部敏感图像进行马赛克处理或高斯模糊处理。

本实施例中，通过在被检测为敏感图像的待检测图像中的候选局部敏感图像位置添加标记，提高了敏感图像的识别效率，同时降低了敏感图像中的敏感信息的传播效率。

如图9所示，在一个实施例中，提供一种敏感图像检测装置900，该装置具体包括：图像获取模块902、图像输入模块904、特征图获取模块906、位置确定模块908、图像截取模块910和图像检测模块912。

图像获取模块902，用于获取待检测图像。

图像输入模块904，用于将待检测图像输入卷积神经网络模型。

特征图获取模块906，用于获取卷积神经网络模型中的卷积层输出的特征图。

位置确定模块908，用于根据获取的特征图确定候选局部敏感图像位置。

图像截取模块910，用于根据候选局部敏感图像位置，在待检测图像中截取候选局部敏感图像。

图像检测模块912，用于将候选局部敏感图像输入卷积神经网络模型进行检测，输出待检测图像是否为敏感图像的检测结果。

在一个实施例中，特征图获取模块906还用于获取预存的卷积核集合；在卷积神经网络模型中的卷积层输出的特征图中，获取与卷积核集合中的卷积核对应的特征图。

在一个实施例中，图像检测模块912还用于将截取的候选局部敏感图像放大至预设尺寸后，输入卷积神经网络模型进行检测；当检测到放大的候选局部敏感图像为敏感图像时，判定待检测图像为敏感图像；当检测到放大的候选局部敏感图像为非敏感图像时，判定待检测图像为非敏感图像。

本实施例中，在获取到待检测图像后，经过卷积神经网络模型对待检测图像处理，根据卷积层输出的特征图确定候选局部敏感图像位置，根据候选局部敏感图像位置在待检测图像中截取候选局部敏感图像，根据卷积神经网络模型对候选局部敏感图像进行检测，避免了当待检测图像中敏感区域占整个区域的比例较小时，检测不到待检测图像为敏感图像的情况。无需构建敏感图像检索库，只要利用卷积神经网络模型对候选局部敏感图像进行检测，在检测到候选局部敏感图像时，即可确定待检测图像为敏感图像，从而提高了检测的准确率。

如图10所示，在一个实施例中，敏感图像检测装置900具体还包括：样本获取模块914、样本输入模块916、特征图提取模块918、分类器训练模块920、分类器筛选模块922和卷积核存储模块924。

样本获取模块914，用于获取包括敏感样本图像和非敏感样本图像的训练样本图像集合。

样本输入模块916，用于将训练样本图像集合中的样本图像输入卷积神经网络模型。

特征图提取模块918，用于提取卷积神经网络模型的卷积层输出的与各卷积核对应的特征图。

分类器训练模块920，用于根据提取到的特征图，分别训练与各卷积核对应的分类器。

分类器筛选模块922，用于从训练得到的分类器中筛选出满足预设的分类性能条件的分类器。

卷积核存储模块924，用于将筛选出的分类器对应的卷积核存储为卷积核集合。

本实施例中，根据提取到的各卷积核对应的特征图分别训练各卷积核对应的分类器，根据各分类器的分类准确度选取预设数量的分类器，保证选取的分类器的分类准确度较高，提取筛选出的分类器对应的卷积核，存储为卷积核集合，保证了卷积核中的卷积核的准确性较高，排除了准确性较低的卷积核，从而提高了根据卷积核对应的特征图检测敏感图像的检测准确率。

如图11所示，在一个实施例中，分类器筛选模块922具体包括：准确度统计模块922a、准确度排序模块922b和分类器获取模块922c。

准确度统计模块922a，用于根据测试样本图像集合对训练得到的分类器进行分类测试，统计各分类器的分类准确度；测试样本图像集合包括敏感样本图像和非敏感样本图像。

准确度排序模块922b，用于将各分类器的分类准确度降序排序；

分类器获取模块922c，用于在训练得到的分类器中，筛选出排序靠前的预设数量的分类器。

本实施例中，根据测试样本图像集合对训练得到的各分类器进行分类测试，统计各分类器的分类准确度，根据统计的分类准确度筛选预设数量分类准确度较高的分类器，保证筛选到的分类器具有较高得分类准确度。

在一个实施例中，位置确定模块908还用于查找提取到的特征图中的最大响应值；在待检测图像中确定最大响应值对应的局部区域位置，作为候选局部敏感图像位置。

在一个实施例中，图像截取模块910还用于将待检测图像输入局部敏感图像尺寸分类器，输出候选局部敏感图像尺寸；根据候选局部敏感图像位置和候选局部敏感图像尺寸，在待检测图像中截取候选局部敏感图像。

本实施例中，在确定候选局部敏感图像位置后，通过局部敏感图像尺寸分类器确定候选局部敏感图像尺寸，根据候选局部敏感图像位置和候选局部敏感图像尺寸，在待检测图像中截取候选局部敏感图像，保证了在待检测图像中准确截取到候选局部敏感图像。

如图12所示，在一个实施例中，图像检测模块912具体包括：局部图像输入模块912a、响应值处理模块912b、概率统计模块912c和图像判断模块912d。

局部图像输入模块912a，用于将候选局部敏感图像输入卷积神经网络模型，通过卷积层输出候选局部敏感图像的特征图。

响应值处理模块912b，用于对候选局部图像的特征图中的响应值进行二值化处理。

概率统计模块912c，用于根据经过二值化处理后的响应值，统计候选局部敏感图像被检测为敏感图像的概率。

图像判断模块912d，用于根据统计的概率，判断待检测图像是否为敏感图像。

本实施例中，通过对特征图中的响应值进行二值化处理，根据二值化处理后的响应值统计被检测为敏感图像的概率，根据统计的概率判断待检测图像是否为敏感图像，提高了敏感图像的检测准确率。

如图13所示，在一个实施例中，敏感图像检测装置900具体还包括：标记添加模块926。

标记添加模块926，用于在检测到待检测图像为敏感图像时，则根据候选局部敏感图像位置，在作为敏感图像的待检测图像中添加标记并输出。

本实施例中，通过在被检测为敏感图像的待检测图像中的候选局部敏感图像位置添加标记，提高了敏感图像的识别效率，同时降低了敏感图像中的敏感信息的传播效率。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。

Claims (20)

1.一种敏感图像检测方法，所述方法包括：

获取对终端上传的数据进行筛选得到的待检测图像；

将所述待检测图像输入卷积神经网络模型；

获取所述卷积神经网络模型中的卷积层输出的特征图；

查找所述特征图中的最大响应值；在所述待检测图像中确定所述最大响应值对应的局部区域位置，作为候选局部敏感图像位置；所述特征图中的响应值均对应于所述待检测图像中的局部图像，所述响应值用于表示特征点的聚类程度，所述响应值越大，对应的局部图像被判定为敏感图像的概率越高；

根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像；

将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，通过所述卷积层输出所述候选局部敏感图像的特征图；对所述候选局部图像的特征图中的响应值进行二值化处理；根据经过二值化处理后的响应值，统计所述候选局部敏感图像被检测为敏感图像的概率；根据统计的概率，判断所述待检测图像是否为敏感图像；所述敏感图像是根据规定限制网络传播的图像；当所述检测结果表示所述待检测图像为所述敏感图像时，禁止网络传播。

2.根据权利要求1所述的方法，其特征在于，所述获取所述卷积神经网络模型中的卷积层输出的特征图，包括：

获取预存的卷积核集合；

在所述卷积神经网络模型中的卷积层输出的特征图中，获取与所述卷积核集合中的卷积核对应的特征图。

3.根据权利要求2所述的方法，其特征在于，所述获取待检测图像之前，还包括：

获取包括敏感样本图像和非敏感样本图像的训练样本图像集合；

将所述训练样本图像集合中的样本图像输入卷积神经网络模型；

提取所述卷积神经网络模型的卷积层输出的与各卷积核对应的特征图；

根据提取到的特征图，分别训练与所述各卷积核对应的分类器；

从训练得到的分类器中筛选出满足预设的分类性能条件的分类器；

将筛选出的分类器对应的卷积核存储为卷积核集合。

4.根据权利要求3所述的方法，其特征在于，所述从训练得到的分类器中筛选出满足预设的分类性能条件的分类器包括：

根据测试样本图像集合对训练得到的分类器进行分类测试，统计各所述分类器的分类准确度；所述测试样本图像集合包括敏感样本图像和非敏感样本图像；

将各所述分类器的分类准确度降序排序；

在训练得到的分类器中，筛选出排序靠前的预设数量的分类器。

5.根据权利要求1所述的方法，其特征在于，所述图像特征由通过卷积核对所述待检测图像的图像矩阵进行处理得到的响应值构成。

6.根据权利要求1所述的方法，其特征在于，所述根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像，包括：

将所述待检测图像输入局部敏感图像尺寸分类器，输出候选局部敏感图像尺寸；

根据所述候选局部敏感图像位置和所述候选局部敏感图像尺寸，在所述待检测图像中截取候选局部敏感图像。

7.根据权利要求1所述的方法，其特征在于，所述将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，输出所述待检测图像是否为敏感图像的检测结果，包括：

将截取的候选局部敏感图像放大至预设尺寸后，输入所述卷积神经网络模型进行检测；

当检测到放大的候选局部敏感图像为敏感图像时，判定所述待检测图像为敏感图像；

当检测到放大的候选局部敏感图像为非敏感图像时，判定所述待检测图像为非敏感图像。

8.根据权利要求1所述的方法，其特征在于，所述卷积神经网络模型中有敏感图像检测概率；所述根据统计的概率，判断所述待检测图像是否为敏感图像，包括：

将统计的概率与所述敏感图像检测概率进行比较；

若统计的概率大于所述敏感图像检测概率，则判定所述待检测图像为敏感图像；

若统计的概率小于等于所述敏感图像检测概率，则判定所述待检测图像为非敏感图像。

9.根据权利要求1至8中任一项所述的方法，其特征在于，还包括：

若检测到所述待检测图像为敏感图像时，则

根据所述候选局部敏感图像位置，在作为敏感图像的所述待检测图像中添加标记并输出。

10.一种敏感图像检测装置，其特征在于，所述装置包括：

图像获取模块，用于获取对终端上传的数据进行筛选得到的待检测图像；

图像输入模块，用于将所述待检测图像输入卷积神经网络模型；

特征图获取模块，用于获取所述卷积神经网络模型中的卷积层输出的特征图；

位置确定模块，用于查找所述特征图中的最大响应值；在所述待检测图像中确定所述最大响应值对应的局部区域位置，作为候选局部敏感图像位置；所述特征图中的响应值均对应于所述待检测图像中的局部图像，所述响应值用于表示特征点的聚类程度，所述响应值越大，对应的局部图像被判定为敏感图像的概率越高；

图像截取模块，用于根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像；

局部图像输入模块，用于将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，通过所述卷积层输出所述候选局部敏感图像的特征图；

响应值处理模块，用于对所述候选局部图像的特征图中的响应值进行二值化处理；

概率统计模块，用于根据经过二值化处理后的响应值，统计所述候选局部敏感图像被检测为敏感图像的概率；

图像判断模块，用于根据统计的概率，判断所述待检测图像是否为敏感图像；所述敏感图像是根据规定限制网络传播的图像；当所述检测结果表示所述待检测图像为所述敏感图像时，禁止网络传播。

11.根据权利要求10所述的装置，其特征在于，所述特征图获取模块还用于获取预存的卷积核集合；在所述卷积神经网络模型中的卷积层输出的特征图中，获取与所述卷积核集合中的卷积核对应的特征图。

12.根据权利要求11所述的装置，其特征在于，所述装置还包括：

样本获取模块，用于获取包括敏感样本图像和非敏感样本图像的训练样本图像集合；

样本输入模块，用于将所述训练样本图像集合中的样本图像输入卷积神经网络模型；

特征图提取模块，用于提取所述卷积神经网络模型的卷积层输出的与各卷积核对应的特征图；

分类器训练模块，用于根据提取到的特征图，分别训练与所述各卷积核对应的分类器；

分类器筛选模块，用于从训练得到的分类器中筛选出满足预设的分类性能条件的分类器；

卷积核存储模块，用于将筛选出的分类器对应的卷积核存储为卷积核集合。

13.根据权利要求12所述的装置，其特征在于，所述分类器筛选模块包括：

准确度统计模块，用于根据测试样本图像集合对训练得到的分类器进行分类测试，统计各所述分类器的分类准确度；所述测试样本图像集合包括敏感样本图像和非敏感样本图像；

准确度排序模块，用于将各所述分类器的分类准确度降序排序；

分类器获取模块，用于在训练得到的分类器中，筛选出排序靠前的预设数量的分类器。

14.根据权利要求10所述的装置，其特征在于，所述卷积神经网络模型中有敏感图像检测概率；

所述图像判断模块，还用于将统计的概率与所述敏感图像检测概率进行比较；若统计的概率大于所述敏感图像检测概率，则判定所述待检测图像为敏感图像；若统计的概率小于等于所述敏感图像检测概率，则判定所述待检测图像为非敏感图像。

15.根据权利要求10至14中任一项所述的装置，其特征在于，所述装置还包括：

标记添加模块，用于在检测到所述待检测图像为敏感图像时，则根据所述候选局部敏感图像位置，在作为敏感图像的所述待检测图像中添加标记并输出。

16.根据权利要求10所述的装置，其特征在于，所述图像特征由通过卷积核对所述待检测图像的图像矩阵进行处理得到的响应值构成。

17.根据权利要求10所述的装置，其特征在于，所述图像截取模块，还用于将所述待检测图像输入局部敏感图像尺寸分类器，输出候选局部敏感图像尺寸；根据所述候选局部敏感图像位置和所述候选局部敏感图像尺寸，在所述待检测图像中截取候选局部敏感图像。

18.根据权利要求10所述的装置，其特征在于，所述图像检测模块，还用于将截取的候选局部敏感图像放大至预设尺寸后，输入所述卷积神经网络模型进行检测；当检测到放大的候选局部敏感图像为敏感图像时，判定所述待检测图像为敏感图像；当检测到放大的候选局部敏感图像为非敏感图像时，判定所述待检测图像为非敏感图像。

19.一种电子设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如权利要求1至9中任一项所述方法的步骤。

20.一种存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如权利要求1至9中任一项所述方法的步骤。