CN107122806A - 一种敏感图像识别方法及装置 - Google Patents
一种敏感图像识别方法及装置 Download PDFInfo
- Publication number
- CN107122806A CN107122806A CN201710341942.XA CN201710341942A CN107122806A CN 107122806 A CN107122806 A CN 107122806A CN 201710341942 A CN201710341942 A CN 201710341942A CN 107122806 A CN107122806 A CN 107122806A
- Authority
- CN
- China
- Prior art keywords
- image
- detection model
- sensitive
- sensitizing range
- sensitive image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/285—Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
Abstract
本发明公开了一种敏感图像识别方法及装置,涉及图像处理领域,其中方法包括:采集敏感图像并在敏感图像中标定敏感区域;基于敏感图像对卷积神经网络进行训练,获得第一检测模型;其中,第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置;在第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型;根据第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。本发明的敏感图像识别方法及装置,可以提高识别的准确性、降低对敏感图像的漏检率,使得识别更加精确、可靠并提升了对图像检测的处理效率,可用于包含大量图片的网站中进行审核,帮助企业或机构降低违规风险。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种敏感图像识别方法及装置。
背景技术
随着互联网的普及,互联网用户可以方便地获取各种信息,然而,网络中大量的色情、暴力等图像损害了网络的健康。特别是,网络中的色情、暴力等信息的泛滥,对青少年身心健康的损害十分严重。由于网络使用者可以轻易地从许多网站接触到色情、暴力等图像,并可以将色情、暴力等图像通过互联网进行传播,因此,当用户浏览或上传网页时,如果网页中有色情、暴力等图像,则需要对色情、暴力等图像进行屏蔽处理,首先需要预先识别网页是否包含有色情、暴力等图像。
目前,图像的识别一般采用两种方法:1、基于图像分类(Image Classification)算法进行图像识别,例如基于深度卷积神经网络的图片分类方法等;2、基于物体检测(Object Detection)算法对图像中的色情、暴力等部位定位的方法,例如基于深度卷积神经网络的定位方法等。上述的两种方法都有各自的特点和不足:图像分类算法的效率高,但是漏检率较高。而对于物体检测算法,因为需要定位出色情、暴力等部位的位置,因此相对于图像分类算法是一种更严格的检测,漏检率低于图像分类算法,但在正常图片上执行物体检测算法时,可能会将形似色情、暴力等部位的画面误识别成色情、暴力等部位。因此,需要一种新的图像识别方法。
发明内容
有鉴于此,本发明要解决的一个技术问题是提供一种敏感图像识别方法及装置。
根据本发明的一个方面,提供一种敏感图像识别方法,包括:采集敏感图像并在敏感图像中标定敏感区域;基于所述敏感图像对卷积神经网络进行训练,获得第一检测模型;其中,所述第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置;在所述第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型;根据所述第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。
可选地,所述在所述敏感图像中标定敏感区域包括:在所述敏感图像中标定包含有敏感部位和/或敏感动作的敏感区域,并确定所述敏感部位和/或敏感动作所属的类别。
可选地,在所述敏感图像中生成围绕所述敏感部位和/或敏感动作的封闭线条,形成所述敏感区域;确定所述敏感区域在所述敏感图像中的位置信息,基于所述类别和所述位置信息生成与所述敏感区域相对应的标签。
可选地,每种类别所对应的所述标签的数量都相同。
可选地,在生成所述封闭线条后,采用平滑滤波器对所述敏感图像进行滤波处理;改变所述敏感图像的颜色通道的值,用以进行图像增强。
可选地,所述基于所述敏感图像对卷积神经网络进行训练、获得第一检测模型包括:将所述敏感图像作为第一样本对所述卷积神经网络进行训练,获取第一检测模型;采集正常图像,使用所述第一检测模型对所述正常图像进行检测;如果能够确定所述正常图像中的敏感区域的位置,则将此正常图像作为新类别的第二样本,用以继续对所述卷积神经网络进行训练,获取新的第一检测模型。
可选地,如果所述第一检测模型对所述正常图像进行检测的准确率达到预期的准确率阈值,则停止对所述卷积神经网络进行训练并获取所述第一检测模型。
可选地,所述第一检测模型包括:用于识别敏感图像的分类器、卷积层和连接层、用于确定敏感区域位置信息的层级;所述在所述第一检测模型中移除所述用于确定敏感区域位置信息的层级,并基于所述敏感图像进行分类训练生成第二检测模型包括:在所述第一检测模型中移除所述用于确定敏感区域位置信息的层级;基于所述第一样本和所述第二样本对进行移除处理后的所述第一检测模型进行分类训练,生成所述第二检测模型。
可选地,所述卷积神经网络包括:基于SSD算法的网络。
根据本方面的另一方面,提供一种敏感图像识别装置,包括:图像采集模块,用于采集敏感图像;区域标定模块,用于在所述敏感图像中标定敏感区域;第一训练模块,用于基于所述敏感图像对卷积神经网络进行训练,获得第一检测模型;其中,所述第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置;第二训练模块,用于在所述第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型;图像检测模块,用于根据所述第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。
可选地,所述区域标定模块,还用于在所述敏感图像中标定包含有敏感部位和/或敏感动作的敏感区域,并确定所述敏感部位和/或敏感动作所属的类别。
可选地,所述区域标定模块,还用于在所述敏感图像中生成围绕所述敏感部位和/或敏感动作的封闭线条,形成所述敏感区域;确定所述敏感区域在所述敏感图像中的位置信息,基于所述类别和所述位置信息生成与所述敏感区域相对应的标签。
可选地,每种类别所对应的所述标签的数量都相同。
可选地,预处理模块,用于在生成所述封闭线条后,采用平滑滤波器对所述敏感图像进行滤波处理;改变所述敏感图像的颜色通道的值,用以进行图像增强。
可选地,所述第一训练模块,还用于将所述敏感图像作为第一样本对所述卷积神经网络进行训练,获取第一检测模型;采集正常图像,使用所述第一检测模型对所述正常图像进行检测;如果能够确定所述正常图像中的敏感区域的位置,则将此正常图像作为新类别的第二样本,用以继续对所述卷积神经网络进行训练,获取新的第一检测模型。
可选地,所述第一训练模块,还用于如果所述第一检测模型对所述正常图像进行检测的准确率达到预期的准确率阈值,则停止对所述卷积神经网络进行训练并获取所述第一检测模型。
可选地,所述第一检测模型包括:用于识别敏感图像的分类器、卷积层和连接层、用于确定敏感区域位置信息的层级;所述第二训练模块,还用于在所述第一检测模型中移除所述用于确定敏感区域位置信息的层级;基于所述第一样本和所述第二样本对进行移除处理后的所述第一检测模型进行分类训练,生成所述第二检测模型。
根据本发明的又一方面,提供一种敏感图像识别装置,包括:存储器;以及耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如上所述的敏感图像识别方法。
根据本发明的再一方面,提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述指令被处理器执行时实现如上所述任一项所述的敏感图像识别方法。
本发明的敏感图像识别方法及装置,通过敏感图像样本对卷积神经网络进行训练,并将被训练后的检测模型误判的图像作为辅助训练类别继续进行训练,得到能够进行敏感图像分类识别和敏感部位定位的第一检测模型,从第一检测模型中移除用于确定敏感区域位置的层级、保留用于确定是否为敏感图片的层级并进行分类训练,生成第二检测模型用于进行分类识别,可以提高敏感图像识别的准确性和可靠性,降低对敏感图像的漏检率,并能够提升图像检测的处理效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为根据本发明的敏感图像识别方法的一个实施例的流程示意图;
图2为根据本发明的敏感图像识别方法的一个实施例中的标定敏感区域的示意图;
图3为根据本发明的敏感图像识别方法的另一个实施例中的模型训练的流程示意图;
图4为根据本发明的敏感图像识别装置的一个实施例的模块示意图;
图5为根据本发明的敏感图像识别装置的另一个实施例的模块示意图。
具体实施方式
下面参照附图对本发明进行更全面的描述,其中说明本发明的示例性实施例。下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。下面结合各个图和实施例对本发明的技术方案进行多方面的描述。
下文中的“第一”、“第二”等仅用于描述上相区别,并没有其它特殊的含义。
图1为根据本发明的敏感图像识别方法的一个实施例的流程示意图,如图所示:
步骤101,采集敏感图像并在敏感图像中标定敏感区域。
敏感图像为包含有色情、暴力等内容的违反法律、法规等的图像,敏感区域为敏感图像中包含有色情、暴力内容等的图像区域。
步骤102,基于敏感图像对卷积神经网络进行训练,获得第一检测模型,第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置。第一检测模型不仅可以对被检图像进行分类识别,而且可以定位出敏感区域在被检图像中的具体位置。
卷积神经网络是一种神经网络,具有多个包括卷积层的层级,可以在卷积结果中获得图像中对卷积核特征的响应,卷积响应经过激活函数和池化得到的新的多通道响应图和对微小位移的不变性,能够再次经过卷积-激活-池化的操作,获得更高层次特征的响应图。
当卷积神经网络的层数足够深或多时,利用响应图信息经过全连接变换或者直接放入分类器实现图像分类算法,利用响应图信息和标注信息进行训练提取出可能出现目标物体的区域的算法为物体检测算法。卷积神经网络可以有多种,例如基于SSD(Single ShotMultiBox Detector)的神经网络等。
步骤103,在第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型。
卷积神经网络中的层级数量和顺序可以根据不同的网络类型进行设置,层级包括卷积层、激活层、连接层等。第一检测模型中的层级包括:用于确定是否为敏感图片的层级、用于确定敏感区域位置的层级。从第一检测模型中移除用于确定敏感区域位置的层级,保留用于确定是否为敏感图片的层级,进行分类训练生成第二检测模型。
步骤104,根据第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。
第二检测模型为用于判断是和否的二分类模型,检测被检图像是否包含有色情、暴力等内容的敏感图像,不需要判断敏感图像中的敏感区域的具体位置。
在一个实施例中,合法搜集敏感图像,在敏感图像中标定包含有敏感部位、敏感动作的敏感区域,并确定敏感部位、敏感动作所属的类别。敏感部位包括:性器官、露的臀部等,敏感动作包括:性行为、凶杀行为等。类别包括:器官、性行为、血腥行为等。在敏感图像中生成围绕敏感部位、敏感动作的封闭线条,形成敏感区域。确定敏感区域在敏感图像中的位置信息,基于类别和位置信息生成与敏感区域相对应的标签。
可以按照敏感部位、敏感动作所属的类别进行位置标注。例如,如图2所示,在敏感图像中采用人工或机器的方式通过方框将敏感部位圈起来,形成敏感区域。对于每个敏感区域设置标签,标签包括敏感部位、敏感动作所属的类别,以及敏感区域的坐标信息等。例如,一个标签为{“第一器官”,(0,0,100,100)}。每种类别所对应的标签的数量都相同或大致相同,例如,第一器官对应的标签有100个,第二器官对应的标签有50个,则需要采集新的敏感图像进行标注,将第二器官对应的标签数量提升至80个,则满足算法对样本的要求,提高训练出的第一检测模型的检测准确率。
在一个实施例中,对敏感图像进行预处理,包括:采用平滑滤波器对敏感图像进行滤波处理、改变敏感图像的颜色通道的值等。例如,对于敏感图像,以预先设置的图像大小进行裁剪,对敏感图像进行转置和水平镜像翻转等,通过对图像进行预处理与增强处理,获得有效的方形训练图像。
敏感图像的格式可以包括:bmp、jpeg、png等,采用平滑滤波器对对待处理图像进行滤波处理。可以采用多种平滑滤波器,例如采用高斯滤波器,基于高斯函数以及滤波器尺度σ生成高斯滤波模板,采用高斯滤波模板对待处理图像进行卷积运算,可以在抑制图像表面图像噪声的同时,使待处理图像的边缘更加锐利。滤波器尺度σ可以在0.5-1.5之间进行高斯模糊处理。选择因子乘以所有像素进行亮度变换。对敏感图像进行图像增强,改变原图像R,G,B三个通道的值。也可以对图片添加随机噪声,可以提高训练后的检测模型的识别准确性。
图3为根据本发明的敏感图像识别方法的另一个实施例中的模型训练的流程示意图,如图3所示:
步骤301,将敏感图像作为第一样本对卷积神经网络进行训练,获取第一检测模型。
步骤302,采集正常图像,使用第一检测模型对正常图像进行检测。正常图像是指不包含色情、暴力等内容并符合法律、法规等的图像。
步骤303,如果第一检测模型能够确定正常图像中的敏感区域的位置,则将此正常图像作为新类别的第二样本,继续对卷积神经网络进行训练,获取新的第一检测模型。
将得到的第一检测模型在正常图像中的验证集上进行验证,根据结果调整训练集并继续训练深层卷积神经网络。例如,使用第一检测模型对图像进行检测,如果检测出图像中有敏感部位,第一检测模型可以确定此图像为敏感图像并给出敏感部位的位置。
如果被检图像为风景图片等正常图像,并且第一检测模型不能给出敏感部位的位置,则检测正常。如果第一检测模型能够给出敏感部位在正常图像中的位置,则检测出现误判,例如,把正常图像中的手指判断为性器官等。
将被误判的图片搜集起来,并根据误判的结果设定对应的新类别,以及生成相应的标签,将新类别的误判图像作为样本继续对卷积神经网络进行训练,获取新的第一检测模型。如果第一检测模型对正常图像进行检测的准确率达到预期的准确率阈值,准确率阈值可以设置,例如为95%、99%等,则停止对卷积神经网络继续训练并获取第一检测模型。通过将被误判的图像作为辅助训练类别对卷积神经网络进行训练,可以降低在正常图片上发生误判的情况,提高识别的准确性。
在一个实施例中,可以使用基于SSD算法的网络进行第一检测模型的训练。收集敏感图像并标定出敏感区域,生成与敏感区域对应的标签,将敏感图像和标签转换成PascalVOC接受的标准格式。将敏感图像作为样本在基于SSD算法的网络中训练,用于获取第一检测模型。
等到第一检测模型收敛以后,将得到的第一检测模型在正常图片上进行预检测,如果第一检测模型能得到敏感区域的部位框,则将此正常图片作为“容易误件为敏感部位”的样本保留。将被第一检测模型误识别的样本作为新的类别样本加入到样本数据当中继续进行训练,重复“训练—预检测—获取被误识别的样本—再训练”的过程,直到预检测结果的错误率在预设的阈值内,最终获得误判率较低的第一检测模型。
步骤304,在第一检测模型中移除用于确定敏感区域位置的层级,保留用于确定是否为敏感图片的层级。
步骤305,基于第一样本和第二样本对进行移除处理后的第一检测模型进行分类训练,生成第二检测模型。
在对敏感图像进行识别时,敏感图像中的敏感部位具体位置不是必要信息,在第一检测模型中移除所有计算、确定敏感部位的位置信息的层,保留直接确定是否为敏感图片的层的特征响应图进行分类识别,判断是否为敏感图像。
第一检测模型包括:用于识别敏感图像的分类器、卷积层和连接层、用于确定敏感区域位置信息的层级。在第一检测模型中移除用于确定敏感区域位置信息的层级,基于第一样本和第二样本对进行移除处理后的第一检测模型进行分类训练,生成第二检测模型。
例如,第一检测模型为基于SSD算法的模型,简称SSD模型。移除SSD模型中所有用于确定敏感区域位置框的相关的层,将确定是否为敏感图片的卷积层得到的特征响应图连接至全连接层,可以输出二分类。固定所有卷积层,只对与图像分类相关的卷积层后的全连接层进行训练,得到第二检测模型,第二检测模型包括分类器、卷积层、全连接层等。第二检测模型作为一个分类模型,利用第二检测模型对待测的图像进行分类检测,用于检测是否为敏感图像。
上述实施例提供的敏感图像识别方法,通过敏感图像样本对卷积神经网络进行训练,并将训练得到的检测模型误判的图像作为辅助训练类别继续进行训练,获得能够进行敏感图像分类识别和敏感部位定位的第一检测模型,从第一检测模型中移除用于确定敏感区域位置的层级、保留用于确定是否为敏感图片的层级并进行训练,生成第二检测模型进行分类识别,降低对敏感图像的漏检率,识别更加精确、可靠,提升了对图像检测的处理效率。
如图4所示,本发明提供一种敏感图像识别装置40,包括:图像采集模块41、区域标定模块42、第一训练模块43、预处理模块44、第二训练模块45和图像检测模块46。
图像采集模块41采集敏感图像。区域标定模块42在敏感图像中标定敏感区域。第一训练模块43基于敏感图像对卷积神经网络进行训练,获得第一检测模型,第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置。第二训练模块45在第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型。图像检测模块46根据第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。
区域标定模块42在敏感图像中标定包含有敏感部位、敏感动作的敏感区域,并确定敏感部位、敏感动作所属的类别。例如,区域标定模块42在敏感图像中生成围绕敏感部位、敏感动作的封闭线条,形成敏感区域。区域标定模块42确定敏感区域在敏感图像中的位置信息,基于类别和位置信息生成与敏感区域相对应的标签。每种类别所对应的标签的数量都相同。预处理模块44在生成封闭线条后,采用平滑滤波器对敏感图像进行滤波处理,改变敏感图像的颜色通道的值,用以进行图像增强。
第一训练模块43将敏感图像作为第一样本对卷积神经网络进行训练,获取第一检测模型。第一训练模块43采集正常图像,使用第一检测模型对正常图像进行检测。如果能够确定正常图像中的敏感区域的位置,则第一训练模块43将此正常图像作为新类别的第二样本,用以继续对卷积神经网络进行训练,获取新的第一检测模型。如果第一检测模型对正常图像进行检测的准确率达到预期的准确率阈值,则第一训练模块43停止对卷积神经网络进行训练并获取第一检测模型。
第一检测模型包括:用于识别敏感图像的分类器、卷积层和连接层、用于确定敏感区域位置信息的层级。第二训练模块45在第一检测模型中移除用于确定敏感区域位置信息的层级。第二训练模块45基于第一样本和第二样本对进行移除处理后的第一检测模型进行分类训练,生成第二检测模型。
图5为根据本发明的敏感图像识别装置的另一个实施例的模块示意图。如图5所示,该装置可包括存储器51、处理器52、通信接口53以及总线54。存储器51用于存储指令,处理器52耦合到存储器51,处理器52被配置为基于存储器51存储的指令执行实现上述的敏感图像识别方法。
存储器51可以为高速RAM存储器、非易失性存储器(non-volatile memory)等,存储器51也可以是存储器阵列。存储器51还可能被分块,并且块可按一定的规则组合成虚拟卷。处理器52可以为中央处理器CPU,或专用集成电路ASIC(Application SpecificIntegrated Circuit),或者是被配置成实施本发明的敏感图像识别方法的一个或多个集成电路。
在一个实施例中,本发明提供一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,指令被处理器执行时实现如上任一个实施例中的敏感图像识别方法。
上述实施例提供的敏感图像识别方法及装置,通过敏感图像样本对卷积神经网络进行训练,并将被训练得到的检测模型误判的图像作为辅助训练类别进行继续训练,获得能够进行敏感图像分类识别和敏感部位定位的第一检测模型,从检测模型中移除用于确定敏感区域位置的层级、保留用于确定是否为敏感图片的层级并进行训练,生成第二检测模型用于进行分类识别,可以提高识别的准确性、降低对敏感图像的漏检率,使得识别更加精确、可靠并提升了对图像检测的处理效率,可用于包含大量图片的网站中进行审核,帮助企业或机构降低违规风险。
可能以许多方式来实现本发明的方法和系统。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本发明的方法和系统。用于方法的步骤的上述顺序仅是为了进行说明,本发明的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本发明实施为记录在记录介质中的程序,这些程序包括用于实现根据本发明的方法的机器可读指令。因而,本发明还覆盖存储用于执行根据本发明的方法的程序的记录介质。
本发明的描述是为了示例和描述起见而给出的,而并不是无遗漏的或者将本发明限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本发明的原理和实际应用,并且使本领域的普通技术人员能够理解本发明从而设计适于特定用途的带有各种修改的各种实施例。
Claims (19)
1.一种敏感图像识别方法,其特征在于,包括:
采集敏感图像并在所述敏感图像中标定敏感区域;
基于所述敏感图像对卷积神经网络进行训练,获得第一检测模型;其中,所述第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置;
在所述第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型;
根据所述第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。
2.如权利要求1所述的方法,其特征在于,所述在所述敏感图像中标定敏感区域包括:
在所述敏感图像中标定包含有敏感部位和/或敏感动作的敏感区域,并确定所述敏感部位和/或敏感动作所属的类别。
3.如权利要求2所述的方法,其特征在于,还包括:
在所述敏感图像中生成围绕所述敏感部位和/或敏感动作的封闭线条,形成所述敏感区域;
确定所述敏感区域在所述敏感图像中的位置信息,基于所述类别和所述位置信息生成与所述敏感区域相对应的标签。
4.如权利要求3所述的方法,其特征在于,每种类别所对应的所述标签的数量都相同。
5.如权利要求3所述的方法,其特征在于,还包括:
在生成所述封闭线条后,采用平滑滤波器对所述敏感图像进行滤波处理;
改变所述敏感图像的颜色通道的值,用以进行图像增强。
6.如权利要求1所述的方法,其特征在于,所述基于所述敏感图像对卷积神经网络进行训练、获得第一检测模型包括:
将所述敏感图像作为第一样本对所述卷积神经网络进行训练,获取第一检测模型;
采集正常图像,使用所述第一检测模型对所述正常图像进行检测;
如果能够确定所述正常图像中的敏感区域的位置,则将此正常图像作为新类别的第二样本,用以继续对所述卷积神经网络进行训练,获取新的第一检测模型。
7.如权利要求6所述的方法,其特征在于,还包括:
如果所述第一检测模型对所述正常图像进行检测的准确率达到预期的准确率阈值,则停止对所述卷积神经网络进行训练并获取所述第一检测模型。
8.如权利要求6所述的方法,其特征在于,所述第一检测模型包括:用于识别敏感图像的分类器、卷积层和连接层、用于确定敏感区域位置信息的层级;
所述在所述第一检测模型中移除所述用于确定敏感区域位置信息的层级,并基于所述敏感图像进行分类训练生成第二检测模型包括:
在所述第一检测模型中移除所述用于确定敏感区域位置信息的层级;
基于所述第一样本和所述第二样本对进行移除处理后的所述第一检测模型进行分类训练,生成所述第二检测模型。
9.如权利要求1至8任意一项所述的方法,其特征在于,
所述卷积神经网络包括:基于SSD算法的网络。
10.一种敏感图像识别装置,其特征在于,包括:
图像采集模块,用于采集敏感图像;
区域标定模块,用于在所述敏感图像中标定敏感区域;
第一训练模块,用于基于所述敏感图像对卷积神经网络进行训练,获得第一检测模型;其中,所述第一检测模型用以确定被检图像是否为敏感图像以及被检图像中的敏感区域位置;
第二训练模块,用于在所述第一检测模型中移除用于确定敏感区域位置的层级并进行分类训练生成第二检测模型;
图像检测模块,用于根据所述第二检测模型对被检图像进行分类识别,用以确定被检图像是否为敏感图像。
11.如权利要求10所述的装置,其特征在于,
所述区域标定模块,还用于在所述敏感图像中标定包含有敏感部位和/或敏感动作的敏感区域,并确定所述敏感部位和/或敏感动作所属的类别。
12.如权利要求11所述的装置,其特征在于,
所述区域标定模块,还用于在所述敏感图像中生成围绕所述敏感部位和/或敏感动作的封闭线条,形成所述敏感区域;确定所述敏感区域在所述敏感图像中的位置信息,基于所述类别和所述位置信息生成与所述敏感区域相对应的标签。
13.如权利要求12所述的装置,其特征在于,每种类别所对应的所述标签的数量都相同。
14.如权利要求12所述的装置,其特征在于,还包括:
预处理模块,用于在生成所述封闭线条后,采用平滑滤波器对所述敏感图像进行滤波处理;改变所述敏感图像的颜色通道的值,用以进行图像增强。
15.如权利要求10所述的装置,其特征在于,
所述第一训练模块,还用于将所述敏感图像作为第一样本对所述卷积神经网络进行训练,获取第一检测模型;采集正常图像,使用所述第一检测模型对所述正常图像进行检测;如果能够确定所述正常图像中的敏感区域的位置,则将此正常图像作为新类别的第二样本,用以继续对所述卷积神经网络进行训练,获取新的第一检测模型。
16.如权利要求15所述的装置,其特征在于,
所述第一训练模块,还用于如果所述第一检测模型对所述正常图像进行检测的准确率达到预期的准确率阈值,则停止对所述卷积神经网络进行训练并获取所述第一检测模型。
17.如权利要求15所述的装置,其特征在于,所述第一检测模型包括:用于识别敏感图像的分类器、卷积层和连接层、用于确定敏感区域位置信息的层级;
所述第二训练模块,还用于在所述第一检测模型中移除所述用于确定敏感区域位置信息的层级;基于所述第一样本和所述第二样本对进行移除处理后的所述第一检测模型进行分类训练,生成所述第二检测模型。
18.一种敏感图像识别装置,其特征在于,包括:
存储器;以及
耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如权利要求1至9中任一项所述的敏感图像识别方法。
19.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述指令被处理器执行时实现如权利要求1至9中任一项所述的敏感图像识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710341942.XA CN107122806B (zh) | 2017-05-16 | 2017-05-16 | 一种敏感图像识别方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710341942.XA CN107122806B (zh) | 2017-05-16 | 2017-05-16 | 一种敏感图像识别方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107122806A true CN107122806A (zh) | 2017-09-01 |
CN107122806B CN107122806B (zh) | 2019-12-31 |
Family
ID=59727291
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710341942.XA Active CN107122806B (zh) | 2017-05-16 | 2017-05-16 | 一种敏感图像识别方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107122806B (zh) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108038843A (zh) * | 2017-11-29 | 2018-05-15 | 英特尔产品(成都)有限公司 | 一种用于缺陷检测的方法、装置和设备 |
CN108038491A (zh) * | 2017-11-16 | 2018-05-15 | 深圳市华尊科技股份有限公司 | 一种图像分类方法及装置 |
CN108304843A (zh) * | 2017-12-25 | 2018-07-20 | 山东浪潮云服务信息科技有限公司 | 一种图像审批方法及审批装置 |
CN108596221A (zh) * | 2018-04-10 | 2018-09-28 | 江河瑞通(北京)技术有限公司 | 标尺读数的图像识别方法及设备 |
CN109214426A (zh) * | 2018-08-08 | 2019-01-15 | 王新维 | 一种物体外观检测的方法及深度神经网络模型 |
CN109472209A (zh) * | 2018-10-12 | 2019-03-15 | 咪咕文化科技有限公司 | 一种图像识别方法、装置和存储介质 |
CN109558792A (zh) * | 2018-10-11 | 2019-04-02 | 成都三零凯天通信实业有限公司 | 一种基于样本和特征检测互联网徽标内容的方法和系统 |
WO2019095118A1 (zh) * | 2017-11-14 | 2019-05-23 | 深圳和而泰智能控制股份有限公司 | 一种皮肤瑕疵点分类方法及电子设备 |
CN110163794A (zh) * | 2018-05-02 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 图像的转换方法、装置、存储介质和电子装置 |
CN110321873A (zh) * | 2019-07-12 | 2019-10-11 | 苏州惠邦医疗科技有限公司 | 基于深度学习卷积神经网络的敏感图片识别方法及系统 |
CN111310531A (zh) * | 2018-12-12 | 2020-06-19 | 北京京东尚科信息技术有限公司 | 图像分类方法、装置、计算机设备及存储介质 |
CN111726648A (zh) * | 2020-06-28 | 2020-09-29 | 百度在线网络技术(北京)有限公司 | 图像数据检测的方法、装置、设备及计算机可读存储介质 |
CN111738290A (zh) * | 2020-05-14 | 2020-10-02 | 北京沃东天骏信息技术有限公司 | 图像检测方法、模型构建和训练方法、装置、设备和介质 |
CN111860545A (zh) * | 2020-07-30 | 2020-10-30 | 元神科技(杭州)有限公司 | 一种基于弱检测机制的图像敏感内容识别方法及系统 |
CN112488930A (zh) * | 2020-10-26 | 2021-03-12 | 中国科学院信息工程研究所 | 基于对抗干扰防护的敏感图像检测方法、装置和电子设备 |
CN112639361A (zh) * | 2018-08-23 | 2021-04-09 | 荏原环境工程株式会社 | 信息处理装置、信息处理程序及信息处理方法 |
CN112732895A (zh) * | 2018-03-26 | 2021-04-30 | 广州虎牙信息科技有限公司 | 审核文本的方法、装置、电子设备和存储介质 |
CN112750072A (zh) * | 2020-12-30 | 2021-05-04 | 五八有限公司 | 一种信息处理方法及装置 |
CN113379592A (zh) * | 2021-06-23 | 2021-09-10 | 北京百度网讯科技有限公司 | 图片中敏感区域的处理方法、装置和电子设备 |
CN113936195A (zh) * | 2021-12-16 | 2022-01-14 | 云账户技术(天津)有限公司 | 敏感图像识别模型的训练方法、训练装置和电子设备 |
CN114092743A (zh) * | 2021-11-24 | 2022-02-25 | 开普云信息科技股份有限公司 | 敏感图片的合规性检测方法、装置、存储介质及设备 |
CN117593596A (zh) * | 2024-01-19 | 2024-02-23 | 四川封面传媒科技有限责任公司 | 一种敏感信息检测方法、系统、电子设备及介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101882223A (zh) * | 2009-05-04 | 2010-11-10 | 青岛海信数字多媒体技术国家重点实验室有限公司 | 人体肤色的测评方法 |
CN102609728A (zh) * | 2012-02-08 | 2012-07-25 | 嘉兴学院 | 特定类敏感图像检测方法 |
CN104992177A (zh) * | 2015-06-12 | 2015-10-21 | 安徽大学 | 基于深层卷积神经网络的网络色情图像检测方法 |
CN105095911A (zh) * | 2015-07-31 | 2015-11-25 | 小米科技有限责任公司 | 敏感图片识别方法、装置以及服务器 |
CN106250911A (zh) * | 2016-07-20 | 2016-12-21 | 南京邮电大学 | 一种基于卷积神经网络的图片分类方法 |
CN106339680A (zh) * | 2016-08-25 | 2017-01-18 | 北京小米移动软件有限公司 | 人脸关键点定位方法及装置 |
-
2017
- 2017-05-16 CN CN201710341942.XA patent/CN107122806B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101882223A (zh) * | 2009-05-04 | 2010-11-10 | 青岛海信数字多媒体技术国家重点实验室有限公司 | 人体肤色的测评方法 |
CN102609728A (zh) * | 2012-02-08 | 2012-07-25 | 嘉兴学院 | 特定类敏感图像检测方法 |
CN104992177A (zh) * | 2015-06-12 | 2015-10-21 | 安徽大学 | 基于深层卷积神经网络的网络色情图像检测方法 |
CN105095911A (zh) * | 2015-07-31 | 2015-11-25 | 小米科技有限责任公司 | 敏感图片识别方法、装置以及服务器 |
CN106250911A (zh) * | 2016-07-20 | 2016-12-21 | 南京邮电大学 | 一种基于卷积神经网络的图片分类方法 |
CN106339680A (zh) * | 2016-08-25 | 2017-01-18 | 北京小米移动软件有限公司 | 人脸关键点定位方法及装置 |
Non-Patent Citations (3)
Title |
---|
KAI LI 等: "BOOTSTRAPPING DEEP FEATURE HIERARCHY FOR PORNOGRAPHIC IMAGE RECOGNITION", 《IMAGE PROCESSING》 * |
崔鹏飞 等: "面向网络内容安全的图像识别技术研究", 《信息网络安全》 * |
赵峰 等: "基于图像内容及底层特征的敏感图像检测方法", 《信号处理》 * |
Cited By (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019095118A1 (zh) * | 2017-11-14 | 2019-05-23 | 深圳和而泰智能控制股份有限公司 | 一种皮肤瑕疵点分类方法及电子设备 |
CN108038491A (zh) * | 2017-11-16 | 2018-05-15 | 深圳市华尊科技股份有限公司 | 一种图像分类方法及装置 |
CN108038843A (zh) * | 2017-11-29 | 2018-05-15 | 英特尔产品(成都)有限公司 | 一种用于缺陷检测的方法、装置和设备 |
CN108304843A (zh) * | 2017-12-25 | 2018-07-20 | 山东浪潮云服务信息科技有限公司 | 一种图像审批方法及审批装置 |
CN108304843B (zh) * | 2017-12-25 | 2022-02-22 | 山东浪潮云服务信息科技有限公司 | 一种图像审批方法及审批装置 |
CN112732895B (zh) * | 2018-03-26 | 2024-01-19 | 广州虎牙信息科技有限公司 | 审核文本的方法、装置、电子设备和存储介质 |
CN112732895A (zh) * | 2018-03-26 | 2021-04-30 | 广州虎牙信息科技有限公司 | 审核文本的方法、装置、电子设备和存储介质 |
CN108596221B (zh) * | 2018-04-10 | 2020-12-01 | 江河瑞通(北京)技术有限公司 | 标尺读数的图像识别方法及设备 |
CN108596221A (zh) * | 2018-04-10 | 2018-09-28 | 江河瑞通(北京)技术有限公司 | 标尺读数的图像识别方法及设备 |
CN110163794B (zh) * | 2018-05-02 | 2023-08-29 | 腾讯科技(深圳)有限公司 | 图像的转换方法、装置、存储介质和电子装置 |
CN110163794A (zh) * | 2018-05-02 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 图像的转换方法、装置、存储介质和电子装置 |
CN109214426A (zh) * | 2018-08-08 | 2019-01-15 | 王新维 | 一种物体外观检测的方法及深度神经网络模型 |
CN112639361B (zh) * | 2018-08-23 | 2023-12-15 | 荏原环境工程株式会社 | 信息处理装置、记录介质及信息处理方法 |
CN112639361A (zh) * | 2018-08-23 | 2021-04-09 | 荏原环境工程株式会社 | 信息处理装置、信息处理程序及信息处理方法 |
CN109558792A (zh) * | 2018-10-11 | 2019-04-02 | 成都三零凯天通信实业有限公司 | 一种基于样本和特征检测互联网徽标内容的方法和系统 |
CN109558792B (zh) * | 2018-10-11 | 2023-10-13 | 深圳市网联安瑞网络科技有限公司 | 一种基于样本和特征检测互联网徽标内容的方法和系统 |
CN109472209A (zh) * | 2018-10-12 | 2019-03-15 | 咪咕文化科技有限公司 | 一种图像识别方法、装置和存储介质 |
CN111310531B (zh) * | 2018-12-12 | 2024-04-09 | 北京京东乾石科技有限公司 | 图像分类方法、装置、计算机设备及存储介质 |
CN111310531A (zh) * | 2018-12-12 | 2020-06-19 | 北京京东尚科信息技术有限公司 | 图像分类方法、装置、计算机设备及存储介质 |
CN110321873A (zh) * | 2019-07-12 | 2019-10-11 | 苏州惠邦医疗科技有限公司 | 基于深度学习卷积神经网络的敏感图片识别方法及系统 |
CN110321873B (zh) * | 2019-07-12 | 2023-10-10 | 苏州思萃工业大数据技术研究所有限公司 | 基于深度学习卷积神经网络的敏感图片识别方法及系统 |
CN111738290B (zh) * | 2020-05-14 | 2024-04-09 | 北京沃东天骏信息技术有限公司 | 图像检测方法、模型构建和训练方法、装置、设备和介质 |
CN111738290A (zh) * | 2020-05-14 | 2020-10-02 | 北京沃东天骏信息技术有限公司 | 图像检测方法、模型构建和训练方法、装置、设备和介质 |
CN111726648A (zh) * | 2020-06-28 | 2020-09-29 | 百度在线网络技术(北京)有限公司 | 图像数据检测的方法、装置、设备及计算机可读存储介质 |
CN111860545A (zh) * | 2020-07-30 | 2020-10-30 | 元神科技(杭州)有限公司 | 一种基于弱检测机制的图像敏感内容识别方法及系统 |
CN111860545B (zh) * | 2020-07-30 | 2023-12-19 | 元神科技(杭州)有限公司 | 一种基于弱检测机制的图像敏感内容识别方法及系统 |
CN112488930A (zh) * | 2020-10-26 | 2021-03-12 | 中国科学院信息工程研究所 | 基于对抗干扰防护的敏感图像检测方法、装置和电子设备 |
CN112750072A (zh) * | 2020-12-30 | 2021-05-04 | 五八有限公司 | 一种信息处理方法及装置 |
CN113379592B (zh) * | 2021-06-23 | 2023-09-01 | 北京百度网讯科技有限公司 | 图片中敏感区域的处理方法、装置和电子设备 |
CN113379592A (zh) * | 2021-06-23 | 2021-09-10 | 北京百度网讯科技有限公司 | 图片中敏感区域的处理方法、装置和电子设备 |
CN114092743A (zh) * | 2021-11-24 | 2022-02-25 | 开普云信息科技股份有限公司 | 敏感图片的合规性检测方法、装置、存储介质及设备 |
CN114092743B (zh) * | 2021-11-24 | 2022-07-26 | 开普云信息科技股份有限公司 | 敏感图片的合规性检测方法、装置、存储介质及设备 |
CN113936195A (zh) * | 2021-12-16 | 2022-01-14 | 云账户技术(天津)有限公司 | 敏感图像识别模型的训练方法、训练装置和电子设备 |
CN117593596B (zh) * | 2024-01-19 | 2024-04-16 | 四川封面传媒科技有限责任公司 | 一种敏感信息检测方法、系统、电子设备及介质 |
CN117593596A (zh) * | 2024-01-19 | 2024-02-23 | 四川封面传媒科技有限责任公司 | 一种敏感信息检测方法、系统、电子设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN107122806B (zh) | 2019-12-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107122806A (zh) | 一种敏感图像识别方法及装置 | |
CN104268498B (zh) | 一种二维码的识别方法及终端 | |
CN105184778B (zh) | 一种检测方法及装置 | |
CN108154508B (zh) | 产品缺陷检测定位的方法、装置、存储介质及终端设备 | |
CN111160379B (zh) | 图像检测模型的训练方法及装置、目标检测方法及装置 | |
JP6802331B2 (ja) | 車線処理方法及び装置 | |
CN104809452A (zh) | 一种指纹识别方法 | |
CN103996239B (zh) | 一种基于多线索融合的票据定位识别方法及系统 | |
CN109376631B (zh) | 一种基于神经网络的回环检测方法及装置 | |
CN108388879A (zh) | 目标的检测方法、装置和存储介质 | |
CN108664897A (zh) | 票据识别方法、装置及存储介质 | |
CN106803083A (zh) | 行人检测的方法及装置 | |
CN104809464A (zh) | 一种指纹信息处理方法 | |
CN106355188A (zh) | 图像检测方法及装置 | |
CN106971178A (zh) | 行人检测和再识别的方法及装置 | |
CN108182383B (zh) | 一种车窗检测的方法及设备 | |
CN109165538A (zh) | 基于深度神经网络的条形码检测方法及装置 | |
CN109858547A (zh) | 一种基于bssd的目标检测方法与装置 | |
CN111914665B (zh) | 一种人脸遮挡检测方法、装置、设备及存储介质 | |
CN106295502A (zh) | 一种人脸检测方法及装置 | |
CN107221005A (zh) | 物体检测方法及装置 | |
CN109190639A (zh) | 一种车辆颜色识别方法、装置及系统 | |
CN110516691A (zh) | 一种车辆尾气检测方法和装置 | |
CN110688883A (zh) | 车辆和行人检测方法及装置 | |
CN113763348A (zh) | 图像质量确定方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 1237953 Country of ref document: HK |
|
GR01 | Patent grant | ||
GR01 | Patent grant |