CN109886865B - 自动屏蔽不良信息的方法、装置、计算机设备以及存储介质 - Google Patents
自动屏蔽不良信息的方法、装置、计算机设备以及存储介质 Download PDFInfo
- Publication number
- CN109886865B CN109886865B CN201910011553.XA CN201910011553A CN109886865B CN 109886865 B CN109886865 B CN 109886865B CN 201910011553 A CN201910011553 A CN 201910011553A CN 109886865 B CN109886865 B CN 109886865B
- Authority
- CN
- China
- Prior art keywords
- carrier
- detected
- current picture
- confidence coefficient
- covered
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000003062 neural network model Methods 0.000 claims abstract description 29
- 238000012549 training Methods 0.000 claims description 31
- 238000013527 convolutional neural network Methods 0.000 claims description 28
- 230000000873 masking effect Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 12
- 238000012795 verification Methods 0.000 claims description 10
- 239000000969 carrier Substances 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 11
- 238000001514 detection method Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000002411 adverse Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种自动屏蔽不良信息的方法、装置、计算机设备以及存储介质，该方法包括：获取当前待检测图片；判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；若当前待检测图片存在载体，根据预先训练的神经网络模型对当前待检测图片中的载体进行识别，并判断当前待检测图片的载体是否为非法载体；若当前待检测图片的载体为非法载体，确定载体的载体轮廓；根据载体轮廓在当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；对待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对当前待检测图片中的载体轮廓进行覆盖。本发明基于生物识别技术，可以对图片中的非法载体自动进行屏蔽，能够满足用户的上传体验。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种自动屏蔽不良信息的方法、装置、计算机设备以及存储介质。
背景技术
目前，对于一家互联网企业，其业务势必会涉及到大量图片，所涉及的图片中更多是来自用户上传的图片，但是在众多用户上传的图片中，往往会存在某些用户将不良图片上传到互联网上，造成社会的不良影响；传统的不良图片处理方式只是对图片进行逐一识别，然后筛选出不良图片进行剔除，这种处理方式比较单一，虽然能够剔除掉用户上传的不良图片，但是并不能满足用户的上传体验。
发明内容
有鉴于此，本发明实施例提供一种自动屏蔽不良信息的方法、装置、计算机设备以及存储介质，可以对图片中的非法载体自动进行屏蔽，能够满足用户的上传体验、有效降低不良图像的误检率。
一方面，本发明实施例提供了一种自动屏蔽不良信息的方法，该方法包括：
获取当前待检测图片；
判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；
若所述当前待检测图片存在载体，根据预先训练的神经网络模型对所述当前待检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体；
若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓；
根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；
对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖。
另一方面，本发明实施例提供了一种自动屏蔽不良信息的装置，所述装置包括：
获取单元，用于获取当前待检测图片；
判断单元，用于判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；
识别单元，用于若所述当前待检测图片存在载体，根据预先训练的神经网络模型对所述当前待检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体；
第一确定单元，用于若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓；
第二确定单元，用于根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；
覆盖单元，用于对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖。
又一方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上所述的自动屏蔽不良信息的方法。
再一方面，本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者一个以上计算机程序，所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行，以实现如上所述的自动屏蔽不良信息的方法。
本发明实施例提供一种自动屏蔽不良信息的方法、装置、计算机设备以及存储介质，所述方法包括：获取当前待检测图片；判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；若当前待检测图片存在载体，根据预先训练的神经网络模型对当前待检测图片中的载体进行识别，并判断当前待检测图片的载体是否为非法载体；若当前待检测图片的载体为非法载体，确定载体的载体轮廓；根据载体轮廓在当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；对待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对当前待检测图片中的载体轮廓进行覆盖。本发明基于生物识别技术，可以对图片中的非法载体自动进行屏蔽，能够满足用户的上传体验、有效降低不良图像的误检率。
附图说明
为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种自动屏蔽不良信息的方法的应用场景示意图；
图2是本发明实施例提供的一种自动屏蔽不良信息的方法的示意流程图；
图3是本发明实施例提供的一种自动屏蔽不良信息的方法的另一示意流程图；
图4是本发明实施例提供的一种自动屏蔽不良信息的方法的另一示意流程图；
图5是本发明实施例提供的一种自动屏蔽不良信息的方法的另一示意流程图；
图6是本发明实施例提供的一种自动屏蔽不良信息的方法的另一示意流程图；
图7是本发明实施例提供的一种自动屏蔽不良信息的装置的示意性框图；
图8是本发明实施例提供的一种自动屏蔽不良信息的装置的另一示意性框图；
图9是本发明实施例提供的一种自动屏蔽不良信息的装置的另一示意性框图；
图10是本发明实施例提供的一种自动屏蔽不良信息的装置的另一示意性框图；
图11是本发明实施例提供的一种自动屏蔽不良信息的装置的另一示意性框图；
图12是本发明实施例提供的一种计算机设备的结构组成示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
请参阅图1和图2，图1为本发明实施例提供的一种自动屏蔽不良信息的方法的应用场景示意图，图2为本发明实施例提供的一种自动屏蔽不良信息的方法的流程示意图。该自动屏蔽不良信息的方法应用于服务器或终端中，其中终端可以是智能手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式设备等具有通信功能的电子设备。作为一应用，如图1所示，该自动屏蔽不良信息的方法应用于服务器10中，该服务器10可以为分布式服务平台中的一台服务器，该服务器10执行覆盖指令，并将执行结果反馈在终端20中。
需要说明的是，图1中仅仅示意出一台终端20，在实际操作过程中，服务器10可以将覆盖指令的执行结果反馈至多台终端20中。
请参阅图2，图2为本发明实施例提供的一种自动屏蔽不良信息的方法的示意流程图。如图2所示，该方法包括以下步骤S101～S106。
S101，获取当前待检测图片。
在本发明实施例中，当用户使用应用软件上传图片时，通过应用软件上的图片采集模块获取用户上传的当前待检测图片，需要说明的是，不同用户所上传的图片的类型不相同，相同用户所上传的图片的类型也不相同，根据不同用户或者相同用户所上传的图片的类型不同，应用软件上的图片采集模块所获取的当前待检测图片的类型也不相同，其中，所述当前待检测图片包含文字图片、生物体图片等等。文字图片比如：恶语辱骂他人的文件图片，造谣的文件图片等，生物体图片比如：色情图片，淫秽图片，侵犯他人肖像权图片等。
S102，判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像。
在本发明实施例中，所述载体包括文字以及人物图像，所述文字载体即为文字，所述人物图像即为人体或者人脸；判断所述当前待检测图片是否存在载体，即判断所述当前待检测图片是否存在文字，或者判断所述当前待检测图片是否存在人体/人脸。
在一个实施例中，如图3所示，所述步骤S102包括步骤S202～S208。
S202，对所述当前待检测图片进行灰度处理。
在本发明实施例中，使用加权平均法对当前检测图片进行灰度处理，具体的，对所述当前待检测图片中所有像素的每个像素通道(其中，像素通道包括R像素通道、G像素通道、B像素通道)按照预设比例进行加权，以实现对当前待检测图片的灰度处理。具体的，所述预设比例可以按照20％的R像素通道、75％的G像素通道、75％的B像素通道，并利用以上设定比例的像素通道对当前待检测图片进行灰度处理。
S204，计算已处理的所述当前待检测图片的每个像素的灰度值。
在本发明实施例中，对所述当前待检测图片中所有像素的每个像素通道(其中，像素通道包括R像素通道、G像素通道、B像素通道)按照预设比例进行加权后，会得到图片中每个像素的RGB值，根据每个像素的RGB值，使用平均值法计算每个像素的灰度值，其中，平均值法的计算公式如下：灰度值＝(R像素通道值+G像素通道值+B像素通道)/3。
S206，若所述当前待检测图片中存在灰度值不相同的像素，判定所述当前待检测图片存在载体。
在本发明实施例中，利用平均值法计算得到每个像素的灰度值，利用每个像素的灰度值可以判断所述当前待检测图片是否存在载体，具体方法为：若当前待检测图片中存在灰度值不相同的像素，即当前待检测图片上的灰度值发生变化，判定所述当前待检测图片存在载体。
S208，若所述当前待检测图片中不存在灰度值不相同的像素，判定所述当前待检测图片不存在载体。
在本发明实施例中，利用平均值法计算得到每个像素的灰度值，利用每个像素的灰度值可以判断所述当前待检测图片是否存在载体，具体方法为：若当前待检测图片中不存在灰度值不相同的像素，即当前待检测图片上的灰度值没有发生变化，判定所述当前待检测图片不存在载体。
S103，若所述当前待检测图片存在载体，根据预先训练的神经网络模型对所述当前待检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体。
在本发明实施例中，所述预先训练的神经网络模型为预设卷积神经网络模型(Convolutional Neural Network，CNN)，在利用模型对所述当前待检测图片进行识别之前，需要提前对大量含有非法载体的图片采用卷积神经网络学习每个非法载体的图片特征，并进行训练生成所述预设卷积神经网络模型。具体的，训练所述预设卷积神经网络模型的训练步骤如下：
A)各个图片类型设定预设数量的样本图片；所述图片类型包括恶语辱骂他人的文件图片、造谣的文件图片、色情图片和正常图片等。
B)将所述样本图片分为训练集以及验证集；具体的，可以由人工对各个图片进行分类筛选出训练集以及验证集，其中，训练集用于作为输入数据提供给卷积神经网络进行学习分类，从而得到可以判断图片是否为非法图片的检测模型。在本实施例中，训练集中可以包括预设比例(例如70％)的正常图片以及预设比例(例如80％)的恶语辱骂他人的文件图片、造谣的文件图片或者色情图片，验证集可以包括预设比例(20％)的正常图片以及预设比例(例如20％)的恶语辱骂他人的文件图片、造谣的文件图片或者色情图片。其中，训练集用于对卷积神经网络进行常规训练，而验证集用于对训练后的卷积神经网络得到的模型进行相应的分类检测，为了提高识别的准确度，需要对训练集和验证集先进行相应的预处理，比如剪裁为大小统一或像素统一等规格的训练图片等，然后才能输入卷积神经网络进行训练。
C)利用所述训练集以及卷积神经网络模型训练得到预设卷积神经网络模型；卷积神经网络是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图片处理有出色表现。不同的卷积神经网络包括不同的分层结构。具体的，在本实施例中将所述训练集作为卷积神经网络模型的输入进行训练，其中，利用卷积神经网络模型进行训练是使用了现有的训练过程，详细的训练过程在此不作详述。
在一个实施例中，如图4所示，所述步骤S103包括步骤S302～S308。
S302，将所述当前检测图片中的载体作为所述预先训练的神经网络模型的输入，并通过预先训练的神经网络模型得到针对所述载体的目标置信度。
S304，获取所述预先训练的神经网络模型的预设置信度，并将所述载体的目标置信度与预设置信度进行比较。
S306，若所述载体的目标置信度大于所述预设置信度，判定所述当前待检测图片的载体为非法载体。
S308，若所述载体的目标置信度小于所述预设置信度，判定所述当前待检测图片的载体为合法载体。
其中，利用训练得到的预设卷积神经网络模型对所述当前待检测图片的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体，具体的，在训练得到的卷积神经网络模型中预设一个置信度，该预设置信度可以根据实际情况进行设定，在此不设定；将当前待检测图片的载体作为卷积神经网络模型的输入，以使卷积神经网络模型对应地得到一个目标置信度，将该当前待检测图片的载体的目标置信度与预设置信度进行比较，若当前待检测图片的载体的置信度不大于预设置信度，那么该当前待检测图片的载体为合法载体，若当前待检测图片的载体的置信度大于预设置信度，那么该当前待检测图片的载体为非法载体。
S104，若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓。
在本发明实施例中，若所述当前待检测图片存在非法载体，通过灰度处理后便会出现与该载体相对应的大体轮廓，通过对灰度处理后的当前待检测图片的载体进行描绘，可以进一步准确地确定图片中的载体轮廓。
在一个实施例中，如图5所示，所述步骤S104包括步骤S402～S406。
S402，确定所述当前待检测图片中的载体区域。
在本发明实施例中，确定所述当前待检测图片中的载体区域，其中，所述载区域可以在所述当前待检测图片中的任意区域，在确定当前待检测图片的准确轮廓之前，需要先确定载体位于所述当前待检测图片中的哪个区域，这样便可以准确地确定所需要的载体轮廓。
S404，在所述载体区域中进行载体形状的提取。
在本发明实施例中，当在所述当前待检测图片中确定了载体所处的载体区域后，需要对该载体区域中的载体形状进行描绘，以确定该载体的边缘，并对描绘完的载体形状进行提取。
S406，根据所提取的载体形状确定所述载体轮廓。
S105，根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域。
在本发明实施例中，根据所述当前待检测图片的载体的轮廓大小在所述当前待检测图片中确定待覆盖区域，所述待覆盖区域指的是当前待检测图片中除载体轮廓以外的图片其它区域，具体的，可以是当前待检测图片中的背景区域；待覆盖区域的区域范围的大小可以大于或者等于载体轮廓的大小，以使待覆盖区域裁剪后完全覆盖当前待检测图片载体轮廓。
S106，对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖。
其中，如图6所示，所述步骤S106包括步骤S502～S504。
S502，将所确定的待覆盖区域进行复制。
S504，将所复制的待覆盖区域移动至所述当前待检测图片中的载体轮廓的位置进行覆盖。
具体的，对所述待覆盖区域进行裁剪，需要根据所述当前待检测图片的载体轮廓大小进行裁剪，所裁剪的待覆盖区域的形状不作限制，可以是任意形状；在所述当前待检测图片中裁剪后的待覆盖区域对非法载体进行覆盖，所述待覆盖区域的形状可以与所述载体轮廓的形状相同，也可以与所述载体轮廓的形状不同，由于所述待覆盖区域的覆盖面积大小大于所述载体轮廓的形状大小，因此对于所述待覆盖区域的形状不作限制。
由以上可见，本发明实施例通过获取当前待检测图片；判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；若当前待检测图片存在载体，根据预先训练的神经网络模型对当前待检测图片中的载体进行识别，并判断当前待检测图片的载体是否为非法载体；若当前待检测图片的载体为非法载体，确定载体的载体轮廓；根据载体轮廓在当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；对待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对当前待检测图片中的载体轮廓进行覆盖。本发明基于生物识别技术，可以对图片中的非法载体自动进行屏蔽，能够满足用户的上传体验、有效降低不良图像的误检率。
请参阅图7，对应上述一种自动屏蔽不良信息的方法，本发明实施例还提出一种自动屏蔽不良信息的装置，该装置100包括：获取单元101、判断单元102、识别单元103、第一确定单元104、第二确定单元105、覆盖单元106。
其中，所述获取单元101，用于获取当前待检测图片。
判断单元102，用于判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像。
识别单元103，用于若所述当前待检测图片存在载体，根据预先训练的神经网络模型对所述当前待检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体。
第一确定单元104，用于若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓。
第二确定单元105，用于根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域。
覆盖单元106，用于对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖。
由以上可见，本发明实施例通过获取当前待检测图片；判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；若当前待检测图片存在载体，根据预先训练的神经网络模型对当前待检测图片中的载体进行识别，并判断当前待检测图片的载体是否为非法载体；若当前待检测图片的载体为非法载体，确定载体的载体轮廓；根据载体轮廓在当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；对待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对当前待检测图片中的载体轮廓进行覆盖。本发明基于生物识别技术，可以对图片中的非法载体自动进行屏蔽，能够满足用户的上传体验、有效降低不良图像的误检率。
请参阅图8，所述判断单元102，包括：
灰度处理单元102a，用于对所述当前待检测图片进行灰度处理。
计算单元102b，用于计算已处理的所述当前待检测图片的每个像素的灰度值。
第一判定单元102c，用于若所述当前待检测图片中存在灰度值不相同的像素，判定所述当前待检测图片存在载体。
第二判定单元102d，用于若所述当前待检测图片中不存在灰度值不相同的像素，判定所述当前待检测图片不存在载体。
请参阅图9，所述识别单元103，包括：
执行单元103a，用于将所述当前检测图片中的载体作为所述预先训练的神经网络模型的输入，并通过预先训练的神经网络模型得到针对所述载体的目标置信度。
比较单元103b，用于获取所述预先训练的神经网络模型的预设置信度，并将所述载体的目标置信度与预设置信度进行比较。
第三判定单元103c，用于若所述载体的目标置信度大于所述预设置信度，判定所述当前待检测图片的载体为非法载体。
第四判定单元103d，用于若所述载体的目标置信度小于所述预设置信度，判定所述当前待检测图片的载体为合法载体。
请参阅图10，所述第一确定单元104，包括：
第一确定子单元104a，用于确定所述当前待检测图片中的载体区域。
提取单元104b，用于在所述载体区域中进行载体形状的提取。
第二确定子单元104c，用于根据所提取的载体形状确定所述载体轮廓。
请参阅图11，所述覆盖单元106，包括：
复制单元106a，用于将所确定的待覆盖区域进行复制。
覆盖子单元106b，用于将所复制的待覆盖区域移动至所述当前待检测图片中的载体轮廓的位置进行覆盖。
上述自动屏蔽不良信息的装置与上述自动屏蔽不良信息的方法一一对应，其具体的原理和过程与上述实施例所述方法相同，不再赘述。
上述自动屏蔽不良信息的装置可以实现为一种计算机程序的形式，计算机程序可以在如图12所示的计算机设备上运行。
图12为本发明一种计算机设备的结构组成示意图。该设备可以是终端，也可以是服务器，其中，终端可以是智能手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式装置等具有通信功能和语音输入功能的电子装置。服务器可以是独立的服务器，也可以是多个服务器组成的服务器集群。参照图12，该计算机设备500包括通过系统总线501连接的处理器502、非易失性存储介质503、内存储器504和网络接口505。其中，该计算机设备500的非易失性存储介质503可存储操作系统5031和计算机程序5032，该计算机程序5032被执行时，可使得处理器502执行一种自动屏蔽不良信息的方法。该计算机设备500的处理器502用于提供计算和控制能力，支撑整个计算机设备500的运行。该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序被处理器执行时，可使得处理器502执行一种自动屏蔽不良信息的方法。计算机设备500的网络接口505用于进行网络通信。本领域技术人员可以理解，图12中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
其中，所述处理器502执行所述计算机程序时实现如下操作：
获取当前待检测图片；
判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；
若所述当前待检测图片存在载体，根据预先训练的神经网络模型对所述当前待检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体；
若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓；
根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；
对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖。
在一个实施例中，所述判断所述当前待检测图片是否存在载体，包括：
对所述当前待检测图片进行灰度处理；
计算已处理的所述当前待检测图片的每个像素的灰度值；
若所述当前待检测图片中存在灰度值不相同的像素，判定所述当前待检测图片存在载体；
若所述当前待检测图片中不存在灰度值不相同的像素，判定所述当前待检测图片不存在载体。
在一个实施例中，所述根据预先训练的神经网络模型对所述当前检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体，包括：
将所述当前检测图片中的载体作为所述预先训练的神经网络模型的输入，并通过预先训练的神经网络模型得到针对所述载体的目标置信度；
获取所述预先训练的神经网络模型的预设置信度，并将所述载体的目标置信度与预设置信度进行比较；
若所述载体的目标置信度大于所述预设置信度，判定所述当前待检测图片的载体为非法载体；
若所述载体的目标置信度小于所述预设置信度，判定所述当前待检测图片的载体为合法载体。
在一个实施例中，所述若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓，包括：
确定所述当前待检测图片中的载体区域；
在所述载体区域中进行载体形状的提取；
根据所提取的载体形状确定所述载体轮廓。
在一个实施例中，所述对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖，包括：
将所确定的待覆盖区域进行复制；
将所复制的待覆盖区域移动至所述当前待检测图片中的载体轮廓的位置进行覆盖。
本领域技术人员可以理解，图12中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定，在其他实施例中，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。例如，在一些实施例中，计算机设备仅包括存储器及处理器，在这样的实施例中，存储器及处理器的结构及功能与图12所示实施例一致，在此不再赘述。
本发明提供了一种计算机可读存储介质，计算机可读存储介质存储有一个或者一个以上计算机程序，所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行，以实现以下步骤：
获取当前待检测图片；
判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；
若所述当前待检测图片存在载体，根据预先训练的神经网络模型对所述当前待检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体；
若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓；
根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；
对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖。
在一个实施例中，所述判断所述当前待检测图片是否存在载体，包括：
对所述当前待检测图片进行灰度处理；
计算已处理的所述当前待检测图片的每个像素的灰度值；
若所述当前待检测图片中存在灰度值不相同的像素，判定所述当前待检测图片存在载体；
若所述当前待检测图片中不存在灰度值不相同的像素，判定所述当前待检测图片不存在载体。
在一个实施例中，所述根据预先训练的神经网络模型对所述当前检测图片中的载体进行识别，并判断所述当前待检测图片的载体是否为非法载体，包括：
将所述当前检测图片中的载体作为所述预先训练的神经网络模型的输入，并通过预先训练的神经网络模型得到针对所述载体的目标置信度；
获取所述预先训练的神经网络模型的预设置信度，并将所述载体的目标置信度与预设置信度进行比较；
若所述载体的目标置信度大于所述预设置信度，判定所述当前待检测图片的载体为非法载体；
若所述载体的目标置信度小于所述预设置信度，判定所述当前待检测图片的载体为合法载体。
在一个实施例中，所述若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓，包括：
确定所述当前待检测图片中的载体区域；
在所述载体区域中进行载体形状的提取；
根据所提取的载体形状确定所述载体轮廓。
在一个实施例中，所述对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖，包括：
将所确定的待覆盖区域进行复制；
将所复制的待覆盖区域移动至所述当前待检测图片中的载体轮廓的位置进行覆盖。
本发明前述的存储介质包括：磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等各种可以存储程序代码的介质。
本发明所有实施例中的单元可以通过通用集成电路，例如CPU(CentralProcessing Unit，中央处理器)，或通过ASIC(Application Specific IntegratedCircuit，专用集成电路)来实现。
本发明实施例自动屏蔽不良信息的方法中的步骤可以根据实际需要进行顺序调整、合并和删减。
本发明实施例自动屏蔽不良信息的装置中的单元可以根据实际需要进行合并、划分和删减。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (6)
1.一种自动屏蔽不良信息的方法，其特征在于，所述方法包括：
获取当前待检测图片；
判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；
获取含有非法载体的不同图片类型的样本图片；
按照预设比例将所述样本图片分为训练集和验证集，并对所述训练集和所述验证集中的图片裁剪为大小统一或像素统一的图片；
利用所述训练集以及卷积神经网络模型训练得到预设卷积神经网络模型；
若所述当前待检测图片存在载体，将所述当前待检测图片中的载体作为所述预设卷积神经网络模型的输入，并通过预先训练的神经网络模型得到针对所述载体的目标置信度；
获取所述预先训练的神经网络模型的预设置信度，并将所述载体的目标置信度与预设置信度进行比较；
若所述载体的目标置信度大于所述预设置信度，判定所述当前待检测图片的载体为非法载体；
若所述载体的目标置信度小于所述预设置信度，判定所述当前待检测图片的载体为合法载体；
若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓；
根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；
对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖；
其中，所述判断所述当前待检测图片是否存在载体，包括：
对所述当前待检测图片进行灰度处理；
计算已处理的所述当前待检测图片的每个像素的灰度值；
若所述当前待检测图片中存在灰度值不相同的像素，判定所述当前待检测图片存在载体；
若所述当前待检测图片中不存在灰度值不相同的像素，判定所述当前待检测图片不存在载体。
2.如权利要求1所述的方法，其特征在于，所述若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓，包括：
确定所述当前待检测图片中的载体区域；
在所述载体区域中进行载体形状的提取；
根据所提取的载体形状确定所述载体轮廓。
3.如权利要求1所述的方法，其特征在于，所述对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖，包括：
将所确定的待覆盖区域进行复制；
将所复制的待覆盖区域移动至所述当前待检测图片中的载体轮廓的位置进行覆盖。
4.一种自动屏蔽不良信息的装置，其特征在于，所述装置包括：
获取单元，用于获取当前待检测图片；判断单元，用于判断所述当前待检测图片是否存在载体，所述载体包括文字以及人物图像；
执行单元，用于获取含有非法载体的不同图片类型的样本图片；按照预设比例将所述样本图片分为训练集和验证集，并对所述训练集和所述验证集中的图片裁剪为大小统一或像素统一的图片；利用所述训练集以及卷积神经网络模型训练得到预设卷积神经网络模型；若所述当前待检测图片存在载体，将所述当前待检测图片中的载体作为所述预设卷积神经网络模型的输入，并通过预先训练的神经网络模型得到针对所述载体的目标置信度；
比较单元，用于获取所述预先训练的神经网络模型的预设置信度，并将所述载体的目标置信度与预设置信度进行比较；
第三判定单元，用于若所述载体的目标置信度大于所述预设置信度，判定所述当前待检测图片的载体为非法载体；
第四判定单元，用于若所述载体的目标置信度小于所述预设置信度，判定所述当前待检测图片的载体为合法载体；
第一确定单元，用于若所述当前待检测图片的载体为非法载体，确定所述载体的载体轮廓；
第二确定单元，用于根据所述载体轮廓在所述当前待检测图片中除载体轮廓以外的其它区域中确定待覆盖区域；
覆盖单元，用于对所述待覆盖区域进行裁剪，并利用裁剪后的待覆盖区域对所述当前待检测图片中的载体轮廓进行覆盖；
其中，所述判断单元，包括：
灰度处理单元，用于对所述当前待检测图片进行灰度处理；
计算单元，用于计算已处理的所述当前待检测图片的每个像素的灰度值；
第一判定单元，用于若所述当前待检测图片中存在灰度值不相同的像素，判定所述当前待检测图片存在载体；
第二判定单元，用于若所述当前待检测图片中不存在灰度值不相同的像素，判定所述当前待检测图片不存在载体。
5.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-3任一项所述的自动屏蔽不良信息的方法。
6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一个或者一个以上计算机程序，所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行，以实现如权利要求1-3任一项所述的自动屏蔽不良信息的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910011553.XA CN109886865B (zh) | 2019-01-07 | 2019-01-07 | 自动屏蔽不良信息的方法、装置、计算机设备以及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910011553.XA CN109886865B (zh) | 2019-01-07 | 2019-01-07 | 自动屏蔽不良信息的方法、装置、计算机设备以及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109886865A CN109886865A (zh) | 2019-06-14 |
| CN109886865B true CN109886865B (zh) | 2024-01-23 |
Family
ID=66925596
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910011553.XA Active CN109886865B (zh) | 2019-01-07 | 2019-01-07 | 自动屏蔽不良信息的方法、装置、计算机设备以及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109886865B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111695559B (zh) * | 2020-04-28 | 2023-07-18 | 深圳市跨越新科技有限公司 | 基于YoloV3模型的运单图片信息打码方法及系统 |
| CN113453058A (zh) * | 2021-06-24 | 2021-09-28 | 广州欢网科技有限责任公司 | 屏保的生成方法及设备 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103679168A (zh) * | 2012-08-30 | 2014-03-26 | 北京百度网讯科技有限公司 | 文字区域检测方法及装置 |
| CN106501968A (zh) * | 2017-01-09 | 2017-03-15 | 深圳市金立通信设备有限公司 | 一种屏蔽生物体的方法及眼镜 |
| CN106650719A (zh) * | 2016-12-21 | 2017-05-10 | 浙江宇视科技有限公司 | 识别图片文字的方法及装置 |
| CN106951848A (zh) * | 2017-03-13 | 2017-07-14 | 平安科技（深圳）有限公司 | 图片识别的方法及系统 |
| CN107665333A (zh) * | 2017-08-28 | 2018-02-06 | 平安科技（深圳）有限公司 | 一种基于卷积神经网络的不雅图片识别方法、终端、设备及计算机可读存储介质 |
| CN107729924A (zh) * | 2017-09-25 | 2018-02-23 | 平安科技（深圳）有限公司 | 图片复审概率区间生成方法及图片复审判定方法 |
| CN108198325A (zh) * | 2018-01-25 | 2018-06-22 | 深圳怡化电脑股份有限公司 | 变造币检测方法、装置及存储介质 |
| CN108491866A (zh) * | 2018-03-06 | 2018-09-04 | 平安科技（深圳）有限公司 | 色情图片鉴定方法、电子装置及可读存储介质 |
-
2019
- 2019-01-07 CN CN201910011553.XA patent/CN109886865B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103679168A (zh) * | 2012-08-30 | 2014-03-26 | 北京百度网讯科技有限公司 | 文字区域检测方法及装置 |
| CN106650719A (zh) * | 2016-12-21 | 2017-05-10 | 浙江宇视科技有限公司 | 识别图片文字的方法及装置 |
| CN106501968A (zh) * | 2017-01-09 | 2017-03-15 | 深圳市金立通信设备有限公司 | 一种屏蔽生物体的方法及眼镜 |
| CN106951848A (zh) * | 2017-03-13 | 2017-07-14 | 平安科技（深圳）有限公司 | 图片识别的方法及系统 |
| CN107665333A (zh) * | 2017-08-28 | 2018-02-06 | 平安科技（深圳）有限公司 | 一种基于卷积神经网络的不雅图片识别方法、终端、设备及计算机可读存储介质 |
| CN107729924A (zh) * | 2017-09-25 | 2018-02-23 | 平安科技（深圳）有限公司 | 图片复审概率区间生成方法及图片复审判定方法 |
| CN108198325A (zh) * | 2018-01-25 | 2018-06-22 | 深圳怡化电脑股份有限公司 | 变造币检测方法、装置及存储介质 |
| CN108491866A (zh) * | 2018-03-06 | 2018-09-04 | 平安科技（深圳）有限公司 | 色情图片鉴定方法、电子装置及可读存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 一种不良图片快速过滤方法;杨虹;王一丁;;微计算机信息(第12期);第191-193页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109886865A (zh) | 2019-06-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110660066B (zh) | 网络的训练方法、图像处理方法、网络、终端设备及介质 | |
| CN109493350B (zh) | 人像分割方法及装置 | |
| JP3899523B2 (ja) | 画像類似度算出システムおよび画像検索システム | |
| CN105404884B (zh) | 图像分析方法 | |
| CN108241645B (zh) | 图像处理方法及装置 | |
| US8842889B1 (en) | System and method for automatic face recognition | |
| CN112419170A (zh) | 遮挡检测模型的训练方法及人脸图像的美化处理方法 | |
| CN110796663B (zh) | 图片剪裁方法、装置、设备和存储介质 | |
| CN107944381B (zh) | 人脸跟踪方法、装置、终端及存储介质 | |
| CN111507957B (zh) | 身份证图片转换方法、装置、计算机设备及存储介质 | |
| CN109886865B (zh) | 自动屏蔽不良信息的方法、装置、计算机设备以及存储介质 | |
| CN112163120A (zh) | 一种分类方法、终端及计算机存储介质 | |
| CN112348761B (zh) | 设备外观图像亮度调节方法及装置 | |
| CN112884782A (zh) | 生物对象分割方法、装置、计算机设备和存储介质 | |
| CN110942456A (zh) | 篡改图像检测方法、装置、设备及存储介质 | |
| CN114494775A (zh) | 视频切分方法、装置、设备及存储介质 | |
| CN110287361B (zh) | 一种人物图片筛选方法及装置 | |
| CN108665459B (zh) | 一种图像模糊检测方法、计算设备及可读存储介质 | |
| CN108734712B (zh) | 背景分割的方法、装置及计算机存储介质 | |
| CN110321778B (zh) | 一种人脸图像处理方法、装置和存储介质 | |
| CN113766308A (zh) | 视频封面推荐方法、装置、计算机设备和存储介质 | |
| CN115115552B (zh) | 图像矫正模型训练及图像矫正方法、装置和计算机设备 | |
| CN115546554A (zh) | 敏感图像的识别方法、装置、设备和计算机可读存储介质 | |
| CN110969602A (zh) | 一种图像清晰程度检测方法及装置 | |
| JP2006004124A (ja) | 画像補正装置および方法，ならびに画像補正プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |