CN108154134A - 基于深度卷积神经网络的互联网直播色情图像检测方法 - Google Patents

Abstract

本发明公开了一种基于深度卷积神经网络的互联网直播色情图像检测方法。并通过利用深度学习技术、基于卷积神经网络训练模型迭代的样本图像数据增强和预处理方法、基于深度学习卷积神经网络的模型配置与训练方法、基于多裁剪和多模型的图像联合测试方法、互联网直播视频监管的在线图像动态截取等多种优化方法，大幅提高色情直播图像内容的检测准确率，从而实现算法模型色情内容自动检测为主、人工实时审查为辅的监管模式转变，提高直播平台的监管效率、降低运营人力成本、减少巡查人员的工作强度、满足直播内容高速增长的需求。

Description

基于深度卷积神经网络的互联网直播色情图像检测方法

技术领域

本发明属于互联网直播检测领域，具体涉及一种基于深度卷积神经网络的互 联网直播色情图像检测方法。

背景技术

随着移动互联网的快速发展，视频直播也快速进入了人们的生活，在发展的 过程中，不时出现的涉黄直播事件，严重阻碍了视频直播的发展环境，并给社会 带来了恶劣影响。因此，提高视频直播的监管审查力度越来越迫切。但是，由于 视频直播的内容巨大，单纯依靠人力的审查已远远无法满足实际需要，进一步提 高色情直播内容的检测技术水平至关重要。

目前，关于色情图像检测的算法主要有以下两大类：

(1)基于人体皮肤颜色与纹理特征的色情内容检测算法

1、算法基本原理：本算法通常是先利用皮肤的像素值进行检测，然后根据 皮肤纹理、形状进行分类，最后根据皮肤面积等特征进行决策；

2、算法优缺点：优点：算法直观，易于理解和实现；缺点：对于皮肤区域 暴露较多但不是色情图像的场景(如游泳、沙滩日光浴等)以及色情图像中肤色 区域占比较少的情况，模型误判率较高。

(2)基于词袋模型的色情内容检测算法

1、算法基本原理：1)收集大量的训练样本图像，提取图像的sift等特征， 并进行特征聚类，归一化构建码本；2)对训练集中的图片构造bag of words，将 图片中的sift等特征归到不同的码字中，从而计算出训练样本频数特征，再根据 图片的类别标签，利用SVM训练分类器；3)对于未知图像，计算bag of words， 并使用训练好的分类器进行类别分类。

2、算法优缺点：优点：检测精度有了较大提高；缺点：算法中的码字选择 与码本大小较难确定，并严重影响算法检测精度，此外，图像背景信息的大量冗 余也影响分类器的判断。

近年来，随着深度学习技术在图像领域的快速发展，越来越多的图像分类、 目标检测、目标识别等问题开始使用深度学习技术，其识别检测精度相较于传统 图像处理算法得到了显著提升。目前，已经有很多研究学者开始尝试从不同方面 将深度学习技术应用于色情图像的分类识别中，并取得了较好的识别结果，针对 互联网直播领域的色情内容检测方面的研究还较少，提出一整套视频直播色情内 容检测系统并应用于实际场景中则更少。

针对移动互联网直播中出现的色情内容，目前，多数直播平台采用的方法是 以大量监管巡查人员进行视频墙直播内容审查为主，色情直播图像在线算法自动 检测为辅进行不间断直播内容审查，其中色情直播图像算法在线自动检测，多采 用传统的基于人体皮肤颜色与纹理特征的色情内容检测算法和基于词袋模型的 色情内容检测算法。其主要缺点和问题如下：

(1)传统色情图像内容的检测算法精度在实际应用中不是很高，容易造成 色情直播内容检测疏漏；

(2)随着直播内容的高速增长，现有的监管巡查任务急剧增加，进一步加 大了直播平台的运营成本以及巡管人员的工作强度；

(3)以巡查人员进行直播审查为主的监管方式，需要巡管人员24小时不间 断在线审查，长时间的视频墙审查容易造成巡管人员的视觉疲劳，进而增大色情 内容检查疏漏的风险。

为了解决以上问题，本专利提出了一套完整的基于深度卷积神经网络的互联 网直播色情图像检测系统，该系统能够大幅提高视频直播中色情图像内容的检测 准确率，从而实现算法模型色情内容自动检测为主、人工实时审查为辅的监管模 式转变，提高直播平台的监管效率、降低运营人力成本、减少巡查人员的工作强 度、适应直播内容的高速增长。

发明内容

本发明正是利用深度学习技术，提出了一项基于卷积神经网络的互联网直播 色情图像内容检测方法，并在图像预处理、模型训练、模型测试、实际应用等四 个方面进行了优化设计，进一步提高了模型的准确率和实际应用的效率。

本发明的技术方案如下：

一种基于深度卷积神经网络的互联网直播色情图像检测方法，其包括如下步 骤：

1)视频直播样本图像预处理；

对正样本和负样本进行图像大小处理，利用卷积神经网络进行模型训练，得 到初始训练模型；对正样本图像进行设定步长的滑块裁剪处理，从而得到大量裁 剪完成的特定尺寸备用样本图像；利用初始训练模型针对备用样本图像进行色情 类别检测，由于初始训练模型存在一定的错误识别率，需对错误识别的样本再次 筛选，得到大量待训练正样本图像，投入到下一次的模型训练，并对正样本继续 进行设定步长的滑块裁剪处理、色情类别检测，对错误识别的样本再次筛选，直 至得到所需数量的正样本；

2)基于深度学习的卷积神经网络模型训练；

利用负样本和步骤1)得到的正样本对步骤1)训练后的卷积神经网络模型 进行多种网络模型训练，直至训练模型收敛；

3)基于多模型多裁剪的图像识别测试；

利用测试样本集对模型进行正确识别率检测，若模型的正确识别低于实际场 景的识别率门限要求，则继续进行模型优化训练，直至达到要求识别率；

4)视频直播场景的内容检测与应用；

完成深度卷积神经网络模型的训练和测试后，将模型应用到实际的视频直播 场景中，对待检测直播视频进行在线图像动态截取，并通过多网络模型进行色情 类别检测。

本发明还公开了另一种基于深度卷积神经网络的互联网直播色情图像检测 方法，其包括如下步骤：

1)视频直播样本图像预处理；

以负样本数据作为训练负样本；对正样本数据进行数据增强，并将增强后的 正样本数据作为训练正样本；对训练负样本和训练正样本进行图像大小处理、图 像标签加注、数据类型转化、图像均值计算；

2)基于深度学习的卷积神经网络模型训练；

利用步骤1)预处理后的训练样本集卷积神经网络模型进行多种网络模型训 练，直至训练模型收敛；

3)基于多模型多裁剪的图像识别测试；

利用测试样本集对模型进行正确识别率检测，若模型的正确识别低于实际场 景的识别率门限要求，则继续进行模型优化训练，直至达到要求识别率；

4)视频直播场景的内容检测与应用；

完成深度卷积神经网络模型的训练和测试后，将模型应用到实际的视频直播 场景中，对待检测直播视频进行在线图像动态截取，并通过多网络模型进行色情 类别检测。

所述的正样本数据增强方法如下：1)图像镜像：对正样本图像进行左右、 上下镜像处理；2)图像旋转：对正样本图像旋转不同的角度处理；3)图像像素 改变：对正样本图像不同通道的像素值进行适当改变处理；4)图像添加噪声： 对正样本图像添加不同类型、不同程度的噪声处理；5)图像高斯模糊：对正样 本图像进行不同程度的高斯模糊处理。

所述的图像大小处理为随机裁剪或直接归一化两种方法中的任一一种或两 种。对于第一种方法，优点是处理后样本图像不变形，但是由于色情图像样本的 特殊性，随机裁剪后，可能不包含色情部位内容，需要重新筛选，产生大量工作 量；第二种方法，优点是包含了色情的全部内容，不需要再次筛选，但可能存在 部分的图像变形，本方法将综合采用这两种方法进行处理。

所述的图像标签加注为：色情图像内容类别用“0”表示，非色情图像内容类 别用“1”表示。因此，图像样本的标签分别用0和1表示，并连同样本图像路径 保存到标签文档中，用于后续的图像类别转换。

在利用深度学习框架进行模型训练时，需要将图片(如：jpg格式)转换为 深度学习框架支持的数据格式(如：caffe框架支持的LMDB格式)，用于卷积 神经网络的模型训练。

数据格式转换完成后，利用深度学习框架计算样本图像的均值，输出均值文 件，用于后续模型训练中的去均值处理。图像减去均值后，再进行训练和测试， 会提高模型训练的速度和检测精度。

优选的，所述的利用测试样本集对模型进行正确识别率检测的方法具体为：

1)针对每一张测试样本图像，进行特定大小的图像裁剪，得到20张裁剪后 的图像，若不同模型的输入图像大小要求不同，则分别裁剪出不同大小的20种 图像；

2)按照设定步长进行图像滑块裁剪，最终获得20种图像块，用于模型测试；

3)将裁剪完成的20个图像块送入训练好的模型中进行分类测试，得到每个 图像块判定为色情内容和非色情内容的概率，并将20张图像块判定为色情内容 概率的最大值作为这张图像判定为色情内容的概率值；

4)采用步骤3)的方法，利用多个网络模型进行相同方法的测试，得到每 个模型判定为色情内容的概率值，并进行平均处理，作为本张图片判定为色情内 容的最终概率；

5)若最终概率大于色情判定门限值，则判定本张图片为色情图像，若小于 门限值，则判定为非色情图像；

6)将这张图片的最终判定类别与本张图片的真实标签进行比较，若标签值 相同，则表示训练模型判定正确，若不同，表示训练模型判定错误；

7)重复1)-6)的步骤，对每一张测试样本图像进行类别判定，直到所有测 试样本测试完毕，统计训练模型在测试样本的正确识别率；

8)若模型的正确识别率低于实际场景的识别率门限要求，则将模型错误分 类的样本图像进行收集，然后分析错误分类概率高的图像类型；对于模型错误分 类概率高的训练样本图像，从验证样本集中再次挑选相同类型的图像样本投入到 训练样本集中，返回步骤2)进行模型优化训练；若达到要求识别率，则停止训 练。

优选的，所述的步骤4)具体为：利用步骤3)训练好的模型进行检测，若 当前图像帧判定为色情图像，则缩短后台自动截图时间为：N/2秒，连续2次均 判定为色情图像，则认为是色情图像的直播；若当前帧图像判定为非色情图像， 并且连续2次均判定为非色情图像，则延长后台自动截取时间为：2N秒，其中 N为原截图时间间隔；对于每一个视频直播，直播时间每达到设定分钟，将系统 图像自动截取时间归置为基准时间，并重新计算连续次数。

优选的，所述利用步骤3)训练好的模型进行检测的具体步骤为：针对后台 截取的图像，进行滑块预处理，生成不同模型需要的20个待分类图像块，送入 卷积神经网络模型进行类别判定；分别针对20张待分类图像，利用卷积神经网 络模型进行类别判定，输出判定为色情图像块概率的最大值，作为本张图片的当 前模型的色情类别概率；利用多个模型重复以上测试，对输出判定结果进行平均， 得到本张图像判定为色情图像的最终概率；若判定为色情图像的最终概率大于 0.5，则判定本张图像为色情图像，若小于0.5，则判定本张图像为非色情图像。

本发明提供了一种互联网视频直播的色情图像内容检测方法，本系统是基于 深度卷积神经网络模型实现色情视频直播内容的分类与识别，并应用于互联网视 频在线直播领域。该方法通过直播样本图像收集与预处理、深度卷积神经网络模 型训练、多网络模型的色情内容识别测试、视频直播场景的色情内容检测与应用， 建立了一套完整的互联网视频直播色情图像内容检测系统。相较于传统的色情图 像识别方法，本方法能够大幅提高色情图像内容的检测率，提高视频直播监管人 员的工作效率，为净化网络直播环境与风气，强化在线视频内容监管提供了有效 的方法与工具。

附图说明

图1为本发明基于深度卷积神经网络的互联网直播色情图像检测流程图；

图2视频直播样本图像处理的方法流程图；

图3基于训练模型迭代的样本图像数据增强和预处理方法流程图；

图4基于深度学习的卷积神经网络模型训练方法流程图；

图5基于多裁剪和多模型的样本图像联合测试方法流程图；

图6基于测试结果的训练模型迭代方法流程图。

具体实施方式

下面结合具体实施例对本发明做进一步说明，色情图像内容定义为：透过视 觉描绘或表现裸体、性器官、性交等，与性有关的形象，使观赏者产生性兴趣和 性兴奋的图像。以色情图像为正样本、非色情图像为负样本。由于绝大多数视频 直播内容为正常图像，色情图像样本较少，并且人工收集正样本图像具有周期长、 数量少、成本高等特点，不能完全满足模型训练需要的大量正样本图像，因此需 要采取其他方法进行正样本图像的增强处理，能在一定程度上提高模型训练的识 别率。

实施例1视频直播样本图像预处理

目前，数据增强是深度学习模型训练的常用方法，主要方法有：1)图像镜 像：对正样本图像进行左右、上下镜像处理；2)图像旋转：对正样本图像旋转 不同的角度处理；3)图像像素改变：对正样本图像不同通道的像素值进行适当 改变处理；4)图像添加噪声：对正样本图像添加不同类型、不同程度的噪声处 理；5)图像高斯模糊：对正样本图像进行不同程度的高斯模糊处理。

经过人工色情正样本图像的分类，筛选5万张直播场景色情图像作为模型训 练正样本，采用1:5的数据增强比例，共计产生30万张正样本图片(原始图片5 万张、增强样本25万张)，其中每张正样本图像的数据增强方法参数在一定范围 内随机产生。

模型训练的非色情图像负样本，由于在直播场景中较多，且比较容易获取， 因此可以直接进行直播场景的后台视频自动截图获得，不需要进行数据增强，负 样本和正样本的数量按照1:1比例确定，因此，负样本图像数量也为30万张。

将不同的正负样本进行随机划分为训练样本集、验证样本集、测试样本集三 个部分，三个数据集的比例为3:1:1，即训练样本集有18万正样本、18万负样本； 验证样本集有6万正样本、6万负样本；测试样本集有6万正样本、6万负样本。

训练样本集的作用是用于深度卷积神经网络模型的训练，验证样本集的作用 是用于模型验证及模型辅助训练，测试样本集的作用是用于训练完成的模型测试， 其中测试样本集在训练过程中不投入使用。

筛选和数据增强后的样本图像，在进行卷积神经网络模型训练前，需要进行 图像大小处理、图像标签加注、数据类型转化、图像均值计算等样本预处理。

由于卷积神经网络模型的输入图像为特定大小比例的图像(如：VGG16网 络模型的输入图像长宽大小为224:224)，因此需要对样本图像进行长宽大小处理， 处理方法有随机裁剪和直接归一化两种方法。对于第一种方法，优点是处理后样 本图像不变形，但是由于色情图像样本的特殊性，随机裁剪后，可能不包含色情 部位内容，需要人工进行重新筛选，产生大量工作量；第二种方法，优点是包含 了色情的全部内容，不需要再次筛选，但可能存在部分的图像变形。本方法将综 合采用这两种方法进行处理。

在视频直播色情内容检测方面，需要对直播视频进行图像截取，并判断图像 内容是否为色情内容，卷积神经网络的输出类别为2种，分别是色情内容、非色 情内容。其中色情图像内容类别用“0”表示，非色情图像内容类别用“1”表示。因 此，图像样本的标签分别用0和1表示，并连同样本图像路径保存到标签文档中， 用于后续的图像类别转换。

在利用深度学习框架进行模型训练时，需要将图片(如：jpg格式)转换为 深度学习框架支持的数据格式(如：caffe框架支持的LMDB格式)，用于卷积 神经网络的模型训练。

数据格式转换完成后，利用深度学习框架计算样本图像的均值，输出均值文 件，用于后续模型训练中的去均值处理。图像减去均值后，再进行训练和测试， 会提高模型训练的速度和检测精度。

实施例2基于训练模型迭代的样本图像数据增强和预处理

在数据增强和样本预处理时，涉及到大量的正样本人工筛选、数据增强处理、 及图像大小处理，为了减少样本处理的成本，提高样本处理效率，本专利提出了 一种基于训练模型迭代的样本图像数据增强和预处理方法，具体如图2所示：

筛选少量正样本和负样本，不进行数据增强处理，图像大小的处理方式为直 接归一化方法，利用卷积神经网络进行模型训练，得到检测率不是很高的初始训 练模型；

对不同大小的正样本图像进行一定步长的滑块裁剪处理(步长根据实际情况 设定，裁剪图像大小为训练模型需要的尺寸)，从而得到大量裁剪完成的特定尺 寸备用样本图像；

利用初始训练模型针对备用样本图像进行色情类别检测，由于初始训练模型 存在一定的错误识别率，因此，需要经过再次筛选，得到符合模型训练的大量正 样本，投入到下一次的模型训练；

随着样本图像数量的不断增加，深度卷积神经网络模型的检测率也在不断提 高。

基于训练模型迭代的样本图像数据增强和预处理方法能够实现样本筛选、样 本增强、样本预处理、模型训练的有机结合，并达到样本模型辅助筛选、样本数 量增加、图像大小处理、模型检测率提高的目的。

实施例3基于深度学习的卷积神经网络模型训练

如图4所示，本发明基于深度学习的卷积神经网络模型训练方法采用基于多 种卷积神经网络模型进行图像分类识别的思路进行模型训练。

目前，主流的深度学习训练框架有：caffe、TensorFlow、Torch、keras、CNTK、paddlepaddle等，其中caffe和TensorFlow是使用较多的训练框架，不同框架各 有优缺点，在此就不再赘述，选择合适的框架即可进行模型配置和训练。现有的 经典卷积神经网络，比较有代表性的是：LeNet、Alexnet、VGGNet、GoogLeNet、 ResNet等，不同模型之间在模型复杂度、模型参数量、训练时间、正确识别率 等方面各有优缺点，可以根据应用的实际应用情况，进行灵活选用和模型修改。 由于经典网络模型是在ImageNet等比较大的数据集上，进行大量训练和优化产 生的，并已在不同领域进行了大量的应用，且性能较好。因此，在面对实际应用 需求时，受限于样本数量、训练资源等因素，一般模型训练是在现有模型的基础 上，根据实际应用并结合自己样本数据进行模型调优训练来解决实际问题的。互 联网直播色情图像检测是一个典型的图像分类问题，因此，本专利将采用多种经 典网络模型，充分利用不同模型的优点，在已有训练模型参数的基础上进行模型 优化训练。

不同网络模型一般由卷积层、池化层、激活层、归一化层、全连接层、输出 层等结构组成，通过对现有多种经典模型的比较，并结合本应用的特点，本发明 实施例将采用GoogLeNet、ResNet50两种模型分别进行模型训练和优化。根据 互联网色情图像检测的实际应用，模型的输出类别output数量为2类，其中“0” 表示色情图像、“1”表示非色情图像；为了充分利用前人已有的模型训练成果， 并结合自己样本不足等实际情况，模型训练的初始参数将采用已有训练参数，并 在此基础上进行训练和调优；根据实际训练的情况，通过调节学习率、学习策略 等模型训练超参数进行模型调优训练并使得训练模型收敛；将训练收敛的模型在 验证数据集上进行测试，并分析测试结果，结合错误分类的样本情况，进行针对 性的训练和优化，使之能够满足实际应用需要。

实施例4基于多模型多裁剪的图像识别测试

在完成多种网络模型的训练之后，可以利用训练好的模型文件进行测试样本 分类。针对每一张图像利用单一模型测试的输出结果为该图像被判定为色情图像 的概率值prob0和非色情图像的概率值prob1，两者之和为1。传统的测试样本 类别判定方法如下：

若：Prob0>prob1，则判定为色情图像

若Prob0<prob1，则判定为非色情图像

由于单个模型及单张图像的分类结果可能存在一定的误差，因此对测试样本 图像进行多裁剪和多模型测试，将提高样本图像的分类准确率，实现图像的更精 准测试和类别判定，具体如图5所示：

1、针对每一张测试样本图像，进行特定大小的图像裁剪(具体大小与模型 输入图像大小保持一致)，得到20张裁剪后的图像，若不同模型的输入图像大小 要求不同，则分别裁剪出不同大小的20种图像；

2、具体的图像裁剪方法为按照特定步长进行图像滑块裁剪，步长大小根据 图像的实际尺寸确定，最终获得20种图像块，用于模型测试；

3、将裁剪完成的20个图像块送入训练好的模型中进行分类测试，得到每个 图像块判定为色情内容和非色情内容的概率，并将20张图像块判定为色情内容 概率的最大值作为这张图像判定为色情内容的概率值；

4、采用第三步的方法，利用多个网络模型进行相同方法的测试，得到每个 模型判定为色情内容的概率值，并进行平均处理，作为本张图片判定为色情内容 的最终概率；

5；若最终概率大于色情判定门限值(通常为0.5)，则判定本张图片为色情 图像，若小于门限值，则判定为非色情图像；

6：将这张图片的最终判定类别(0为色情，1为非色情)，与本张图片的真 实标签进行比较，若标签值相同，则表示训练模型判定正确，若不同，表示训练 模型判定错误；

7：重复1-6的步骤，对每一张测试样本图像进行类别判定，直到所有测试 样本测试完毕，统计训练模型在测试样本的正确识别率。

实施例5基于测试结果的训练模型迭代

如图6所示，基于测试结果的训练模型迭代方法为：

1、在完成测试样本的模型测试后，若模型的正确识别率低于实际场景的识 别率门限要求，则需要对训练出来的模型进行再次优化，投入新的优化训练，若 达到要求识别率，则停止训练，并应用到实际系统中。

2、对于未达到实际场景识别率要求的情况，需要将模型错误分类的样本图 像进行收集，然后分析错误分类概率高的图像类型；

3、对于模型错误分类概率高的训练样本图像，从验证样本集中再次挑选相 同类型的图像样本投入到训练样本集中，进行模型优化训练，进一步提高模型的 识别率，并再一次利用测试样本集进行测试；

4、重复2-3步骤，直到测试结果满足实际应用需求，则停止模型训练和测 试，并应用到实际系统中。

应用实例

(1)直播视频在线图像动态截取方法

1、互联网视频直播中以移动互联网视频直播为主，视频帧率多为30帧/秒， 图像分辨率多为360:640像素，通过对视频直播内容进行后台自动截图和保存， 提供在线直播内容的检测；

2、假定后台自动截图的基准时间为：1张/N秒，为减少待检测图像的数量， 并减少系统检测负载，建立后台动态截图系统；

3、后台动态截图系统是针对某一个特定视频直播，若当前图像帧判定为色 情图像，则缩短后台自动截图时间为：1张/(N/2)秒，连续2次均判定为色情 图像，则交与直播监管人员进行处置；若当前帧图像判定为非色情图像，并且连 续2次均判定为非色情图像，则延长后台自动截取时间为：1张/2N秒；

4、为防止后台截取时间的延长，造成色情直播内容的疏漏，对于每一个视 频直播，直播时间每达到M分钟，将系统图像自动截取时间归置为基准时间， 并重新计算连续次数；

(2)截取直播图像的预处理与色情分类

1、针对后台截取的样本图像，进行滑块预处理，生成不同模型需要的20 个待分类图像块，送入后续的卷积神经网络模型进行类别判定。

2、分别针对20张待分类图像，利用卷积神经网络模型进行类别判定，输出 判定为色情图像块概率的最大值，作为本张图片的当前模型的色情类别概率；

3、利用多个模型重复步骤2操作，对输出判定结果进行平均，得到本张图 像判定为色情图像的最终概率；

4、若判定为色情图像的最终概率大于0.5，则判定本张图像为色情图像，若 小于0.5，则判定本张图像为非色情图像。

(3)色情直播内容的确定与处置

1、对于首次经过卷积神经网络模型判定为色情图像的直播，系统将对该直 播进行黄色标记，并提醒直播管理人员关注；

2、对于连续两次判定为色情图像的直播，系统将对该直播进行红色标记， 提醒直播管理人员重点关注和处理；

3、系统直播管理人员根据判别结果，并结合直播实际情况进行人工判定， 若系统判定正确，并确定直播含有色情内容，管理人员将采取口头警告、关停直 播、系统封号等不同程度的处理方式；若为系统误判，视频直播将继续进行。

Claims (5)

1.一种基于深度卷积神经网络的互联网直播色情图像检测方法，其特征在于：包括如下步骤：

1)视频直播样本图像预处理；

以负样本数据作为训练负样本；对正样本数据进行数据增强，并将增强后的正样本数据作为训练正样本；对训练负样本和训练正样本进行图像大小处理、图像标签加注、数据类型转化、图像均值计算；

2)基于深度学习的卷积神经网络模型训练；

利用步骤1)预处理后的训练样本集卷积神经网络模型进行多种网络模型训练，直至训练模型收敛；

3)基于多模型多裁剪多网络模型的图像识别测试；

利用测试样本集对模型进行正确识别率检测，若模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，直至达到要求识别率；

4)视频直播场景的内容检测与应用；

完成深度卷积神经网络模型的训练和测试后，将模型应用到实际的视频直播场景中，对待检测直播视频进行在线图像动态截取，并通过多网络模型进行色情类别检测。

2.一种基于深度卷积神经网络的互联网直播色情图像检测方法，其包括如下步骤：

1)视频直播样本图像预处理；

对负样本和少量正样本进行图像大小处理，利用卷积神经网络进行模型训练，得到初始训练模型；对正样本图像进行设定步长的滑块裁剪处理，从而得到大量裁剪完成的特定尺寸备用样本图像；利用初始训练模型针对备用样本图像进行色情类别检测，由于初始训练模型存在一定的错误识别率，需对错误识别的样本再次筛选，得到大量待训练正样本图像，投入到下一次的模型训练，并对正样本继续进行设定步长的滑块裁剪处理、色情类别检测，对错误识别的样本再次筛选，直至得到所需数量的正样本；

2)基于深度学习的卷积神经网络模型训练；

利用负样本和步骤1)得到的正样本对步骤1)训练后的卷积神经网络模型进行多种网络模型训练，直至训练模型收敛；

3)基于多模型多裁剪的图像识别测试；

利用测试样本集对模型进行正确识别率检测，若模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，直至达到要求识别率；

4)视频直播场景的内容检测与应用；

完成深度卷积神经网络模型的训练和测试后，将模型应用到实际的视频直播场景中，对待检测直播视频进行在线图像动态截取，并通过多网络模型进行色情类别检测。

3.根据权利要求1或2所述的一种基于深度卷积神经网络的互联网直播色情图像检测方法，其特征在于：所述的利用测试样本集对模型进行正确识别率检测的方法具体为：

1)针对每一张测试样本图像，进行特定大小的图像裁剪，得到20张裁剪后的图像，若不同模型的输入图像大小要求不同，则分别裁剪出不同大小的20种图像；

2)按照设定步长进行图像滑块裁剪，最终获得20种图像块，用于模型测试；

3)将裁剪完成的20个图像块送入训练好的模型中进行分类测试，得到每个图像块判定为色情内容和非色情内容的概率，并将20张图像块判定为色情内容概率的最大值作为这张图像判定为色情内容的概率值；

4)采用步骤3)的方法，利用多个网络模型进行相同方法的测试，得到每个模型判定为色情内容的概率值，并进行平均处理，作为本张图片判定为色情内容的最终概率；

5)若最终概率大于色情判定门限值，则判定本张图片为色情图像，若小于门限值，则判定为非色情图像；

6)将这张图片的最终判定类别与本张图片的真实标签进行比较，若标签值相同，则表示训练模型判定正确，若不同，表示训练模型判定错误；

7)重复1)-6)的步骤，对每一张测试样本图像进行类别判定，直到所有测试样本测试完毕，统计训练模型在测试样本的正确识别率；

8)若模型的正确识别率低于实际场景的识别率门限要求，则收集模型错误分类的样本图像，分析错误分类概率高的图像类型；对于模型错误分类概率高的训练样本图像，从验证样本集中再次挑选相同类型的图像样本投入到训练样本集中，返回步骤2)进行模型优化训练；若达到要求识别率，则停止训练。

4.根据权利要求1或2所述的一种基于深度卷积神经网络的互联网直播色情图像检测方法，

其特征在于：所述的步骤4)具体为：利用步骤3)训练好的模型进行检测，若当前图像帧判定为色情图像，则缩短后台自动截图时间为：N/2秒，连续2次均判定为色情图像，则认为是色情图像的直播；若当前帧图像判定为非色情图像，并且连续2次均判定为非色情图像，则延长后台自动截取时间为：2N秒，其中N为原截图时间间隔；对于每一个视频直播，直播时间每达到设定分钟，将系统图像自动截取时间归置为基准时间，并重新计算连续次数。

5.根据权利要求4所述的一种基于深度卷积神经网络的互联网直播色情图像检测方法，

其特征在于：所述利用步骤3)训练好的模型进行检测的具体步骤为：针对后台截取的图像，进行滑块预处理，生成不同模型需要的20个待分类图像块，送入卷积神经网络模型进行类别判定；分别针对20张待分类图像，利用卷积神经网络模型进行类别判定，输出判定为色情图像块概率的最大值，作为本张图片的当前模型的色情类别概率；利用多个模型重复以上测试，对输出判定结果进行平均，得到本张图像判定为色情图像的最终概率；若判定为色情图像的最终概率大于0.5，则判定本张图像为色情图像，若小于0.5，则判定本张图像为非色情图像。