CN109597902A - 图片审核方法、装置、设备及存储介质 - Google Patents

Abstract

本发明实施例公开了一种图片审核方法、装置、设备及存储介质。所述方法包括：将获取的待审核图片与预设图片库中的图片进行匹配；在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。通过本发明的技术方案，能够实现图片的半自动审核，节省人力资源，提高审核效率，提高用户体验。

Description

图片审核方法、装置、设备及存储介质

技术领域

本发明实施例涉及图像处理技术，尤其涉及一种图片审核方法、装置、设备及存储介质。

背景技术

随着网络的普及和发展，人们可通过手机、电脑等终端将图片上传至各种展示平台上，例如，用户可在手机端发布图文信息，并选择相应的展示柜机和图片发布时间，经后台运营人员审核通过后，即可在选定的时间和柜机屏幕上自动广告该图片，其中，展示的图片大多是明星生日、对心仪的人表白、发送祝福等。

现有技术中，为了使展示的图片符合规定的要求，需要后台客服进行人工审核，而客服需要查看图片并操作审核通过或不通过，并反馈相应的意见，导致耗费大量的人力资源，同时人工审核也无法做到实时快速的审核反馈。

发明内容

本发明实施例提供一种图片审核方法、装置、设备及存储介质，以实现图片的半自动审核，节省人力资源，提高审核效率，提高用户体验。

第一方面，本发明实施例提供了一种图片审核方法，包括：

将获取的待审核图片与预设图片库中的图片进行匹配；

在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；

在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

第二方面，本发明实施例还提供了一种图片审核装置，该装置包括：

图片匹配模块，用于将获取的待审核图片与预设图片库中的图片进行匹配；

审核确定模块，用于在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；

人脸检测模块，用于在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

第三方面，本发明实施例还提供了一种计算机设备，该设备包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明实施例中任一所述的图片审核方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一所述的图片审核方法。

本发明实施例通过将获取的待审核图片与预设图片库中的图片进行匹配，在确定预设图片库中存在与待审核图片相匹配的目标图片时，根据目标图片的性质确定待审核图片的审核结果，在确定预设图片库中不存在与待审核图片相匹配的目标图片时，检测待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定待审核图片的审核结果为不通过，利用图片库和人脸识别相结合的方式，解决了现有技术中对上传的图片采用纯人工审核，而导致人力资源浪费、审核效率低的问题，实现了图片的半自动审核，节省人力资源，提高审核效率，提高用户体验效果。

附图说明

图1是本发明实施例一提供的一种图片审核方法的流程示意图；

图2是本发明实施例二提供的一种图片审核方法的流程示意图；

图3是本发明实施例三提供的一种图片审核装置的结构示意图；

图4是本发明实施例四提供的一种计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种图片审核方法的流程示意图。该方法可适用于对用户上传的图片进行审核的情况，该方法可以由图片审核装置来执行，该装置可由硬件和/或软件组成，并一般可集成在图片展示平台服务器等计算机设备中。具体包括如下：

S110、将获取的待审核图片与预设图片库中的图片进行匹配。

本实施例中，待审核图片可以是用户通过客户端上传的，需要在网络平台或者柜机上进行展示的图片。由于用户上传的图片中可能会包含不符合要求的内容，因此，需要对用户上传的图片进行审核。

现有技术中，通过将待审核图片传入客服处进行人工审核，当收到多个相同的待审核图片时，还必须人工进行一一审核，不仅导致人力资源的大量浪费，而且降低了图片审核效率。为了解决上述问题，本实施例通过设置预设图片库，在进行人工审核之前，先对待审核图片进行自动审核，过滤掉明显不符合要求的图片并自动审核已审核过的重复图片。

其中，预设图片库中可以包含有多个不符合要求或者已审核过的图片，通过将获取的待审核图片与预设图片库中的图片进行匹配，可检测预设图片库中是否存在与待审核图片相匹配的图片，也即与待审核图片具有相同内容或类似内容的图片，从而自动确定该待审核图片是否符合要求。具体的，匹配过程可以是将待审核图片与预设图片库中的每个图片一一进行特征比对，来确定图片是否匹配。

可选的，该预设图片库包括：已审核图片库、不良信息图片库以及政治敏感图片库中的至少一个。

具体的，已审核图片库又可包括已审核通过图片库和已审核未通过图片库。其中，已审核通过图片库中可包含有多个已审核通过的图片，已审核未通过图片库中可包含有多个已审核但未通过的图片。不良信息图片库中可包含有多个具有不良信息内容的典型图片，不良信息内容包括但不限于暴力、血腥、色情等内容。政治敏感图片库中可包含有多个具有政治人物肖像的图片。当然，这些图片库中收录的图片有限，但可对图片库进行实时更新。

在上述实施例的基础上，可选的，还包括：根据待审核图片的审核结果对预设图片库进行更新。例如，已审核通过图片库和已审核未通过图片库可以在审核过程中自动添加图片和更新，将经过审核的待审核图片进行自动更新归类，存储至对应的已审核图片库，而不良信息图片库和政治敏感图片库可通过对接其他系统、网络或者人工方式来创建并不断更新。

可选的，将获取的待审核图片与预设图片库中的图片进行匹配，包括：为预设图片库中的每个图片创建局部特征索引；将预设图片库中的每个图片对应的局部特征索引分别与待审核图片进行特征比对，以确定预设图片库中是否存在与待审核图片相匹配的目标图片。

示例性的，可以给预设图片库中的每个图片均创建一个或多个局部特征索引，通过局部特征索引比对来判断是否存在与待审核图片相匹配的图片。其中，局部特征索引可以是图片中具有代表性的内容特征信息，例如包含有人物头像的图片中，五官的每个部分可分别创建对应的局部特征索引。具体的，局部特征索引的创建方式包括但不限于人工创建或利用机器学习算法自动识别创建。若预设图片库中目标图片对应创建有多个局部特征索引，则当待审核图片存在与该目标图片的所有或预设百分比阈值以上的局部特征索引相同的内容时，可确定该目标图片与待审核图片相匹配，否则，不相匹配。

S120、在确定预设图片库中存在与待审核图片相匹配的目标图片时，根据目标图片的性质确定待审核图片的审核结果。

示例性的，若预设图片库中与待审核图片相匹配的目标图片，其性质为不良、政治敏感或已审核未通过，则可确定待审核图片的审核结果为不通过；若预设图片库中与待审核图片相匹配的目标图片，其性质为已审核通过，则可确定待审核图片的审核结果为通过。

通过将待审核图片与预设图片库中的图片一一进行比对，可自动过滤出已审核过的或明显不符合要求的图片，并确定该图片的审核结果，以减轻人工审核的工作量，节省人力资源，提高审核效率。另外，可选的，还可在确定待审核图片的审核结果为不通过时，提供相应的理由，反馈给用户。

S130、在确定预设图片库中不存在与待审核图片相匹配的目标图片时，检测待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定待审核图片的审核结果为不通过。

本实施例中，由于要求上传的图片不能是纯背景图片，也即必须是包含人物的图片，因此，示例性的，在待审核图片与预设图片库均比对失败后，也即预设图片库中不存在与待审核图片相匹配的目标图片时，需对待审核图片中是否存在人脸信息进行检测，若检测到人脸信息，则说明上传的待审核图片符合基本要求，并进一步转为人工审核，若未检测到人脸信息，则说明该待审核图片不符合基本要求，因而直接可确定该待审核图片的审核结果为不通过。

在检测人脸信息时，可首先确定待审核图片中是否具有像素值与皮肤相近的像素点，若是，则获取该像素点的位置，在这些像素点组成的区域范围内检测是否具有五官特征，只有当具有五官特征时，才能确定待审核图片中存在人脸信息，否则，不存在人脸信息。

可选的，检测待审核图片中是否存在人脸信息，包括：将待审核图片输入至经训练的机器学习模型中；根据机器学习模型输出的结果确定待审核图片中是否存在人脸信息。

为了提高检测效率以及准确率，可利用机器学习模型来检测待审核图片中是否存在人脸信息。本实施例中机器学习模型可以是基于人工神经网络算法建立的模型，例如卷积神经网络(Convolutional Neural Networks，CNN)算法等。

示例性的，将获取的待审核图片输入至该机器学习模型中，可得到待审核图片中包含人脸信息和不包含人脸信息的概率。当包含人脸信息的概率大于不包含人脸信息的概率时，可确定待审核图片中存在人脸信息，反之，则可确定待审核图片中不存在人脸信息。

在对机器学习模型进行训练的过程中，可通过将带有存在人脸信息标签的人物图片以及不存在人脸信息标签的非人物图片，输入至机器学习模型中进行反复训练，不断调整机器学习模型中的神经网络参数，使得机器学习模型具有对输入的图片进行人脸信息检测的能力，从而获得经训练的机器学习模型。

可选的，在检测待审核图片中是否存在人脸信息之前，还包括：检测待审核图片是否存在目标特征信息；若是，则将目标特征信息与预设标准信息进行比对；在确定比对失败时，确定待审核图片的审核结果为不通过。

本实施例中，除了对待审核图片中不符合要求的部分进行检测外，还需要对待审核图片中的特殊信息进行检测，该特殊信息可以是根据平台要求，不应包含的信息，或者即使包含也必须为平台指定的信息。对目标特征信息的检测同样可采用与人脸信息检测相同的方式，进行特征比对或利用机器学习模型来识别，在此不再赘述。

可选的，目标特征信息包括：二维码和/或手机号码。相应的，预设标准信息可以为平台指定二维码或者指定手机号码，避免用户通过图片来进行其他目的的广告宣传。

示例性的，可在将待审核图片与预设图片库中的图片进行匹配之后，并在匹配失败后进行人脸信息检测之前，对待审核图片中是否存在二维码和/或手机号码进行检测，若不存在二维码和/或手机号码，则继续转为人工审核；若存在二维码和/或手机号码，则将待审核图片中的二维码和/或手机号码与平台指定的官方二维码或者官方指定手机号码进行比对，在比对成功时，也即信息一致时，确定待审核图片的审核结果为通过，进而继续转为人工审核，在比对失败时，也即信息不一致时，直接确定待审核图片的审核结果为不通过。

本实施例的技术方案，通过将获取的待审核图片与预设图片库中的图片进行匹配，在确定预设图片库中存在与待审核图片相匹配的目标图片时，根据目标图片的性质确定待审核图片的审核结果，在确定预设图片库中不存在与待审核图片相匹配的目标图片时，检测待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定待审核图片的审核结果为不通过，利用图片库和人脸识别相结合的方式，解决了现有技术中对上传的图片采用纯人工审核，而导致人力资源浪费、审核效率低的问题，实现了图片的半自动审核，节省人力资源，提高审核效率，提高用户体验效果。

实施例二

图2为本发明实施例二提供的一种图片审核方法的流程示意图。本实施例以上述实施例为基础，提供了一个具体的图片审核方法。该方法包括如下：

S201、获取用户上传的待审核图片。

S202、已审核通过图片库中是否存在与待审核图片相匹配的目标图片，若是，则执行S212；若否，则执行S203。

S203、已审核未通过图片库中是否存在与待审核图片相匹配的目标图片，若是，则执行S213；若否，则执行S204。

S204、不良信息图片库中是否存在与待审核图片相匹配的目标图片，若是，则执行S213；若否，则执行S205。

S205、政治敏感图片库中是否存在与待审核图片相匹配的目标图片，若是，则执行S213；若否，则执行S206。

S206、检测待审核图片是否存在二维码，若是，则执行S207；若否，则执行S208。

S207、检测待审核图片中的二维码是否为指定二维码，若是，则执行S208；若否，则执行S213。

S208、检测待审核图片是否存在手机号码，若是，则执行S209；若否，则执行S210。

S209、检测待审核图片中的手机号码是否为指定手机号码，若是，则执行S210；若否，则执行S213。

S210、检测待审核图片中是否存在人脸信息，若是，则执行S211；若否，则执行S213。

S211、转为人工审核。

S212、确定待审核图片的审核结果为通过，并发送审核成功通知至用户终端。

S213、确定待审核图片的审核结果为不通过，并发送审核失败通知以及相应的失败理由至用户终端。

本实施例的技术方案在上述实施例的基础上，通过将自动审核和人工审核进行结合，利用图片库对比以及人脸识别自动审核已通过的重复图片并自动过滤掉不符合要求的图片，这种自动审核和人工审核相结合的方式，能够大大节省审核工作量，降低审核人员数量，节省人力资源，提高审核效率，进而提升用户体验。

实施例三

图3为本发明实施例三提供的一种图片审核装置的结构示意图。参考图3，图片审核装置包括：图片匹配模块310、审核确定模块320以及人脸检测模块330，下面对各模块进行具体说明。

图片匹配模块310，用于将获取的待审核图片与预设图片库中的图片进行匹配；

审核确定模块320，用于在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；

人脸检测模块330，用于在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

本实施例提供的图片审核装置，通过将获取的待审核图片与预设图片库中的图片进行匹配，在确定预设图片库中存在与待审核图片相匹配的目标图片时，根据目标图片的性质确定待审核图片的审核结果，在确定预设图片库中不存在与待审核图片相匹配的目标图片时，检测待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定待审核图片的审核结果为不通过，利用图片库和人脸识别相结合的方式，解决了现有技术中对上传的图片采用纯人工审核，而导致人力资源浪费、审核效率低的问题，实现了图片的半自动审核，节省人力资源，提高审核效率，提高用户体验效果。

可选的，图片匹配模块310，具体可以用于：

为所述预设图片库中的每个图片创建局部特征索引；

将所述预设图片库中的每个图片对应的局部特征索引分别与所述待审核图片进行特征比对，以确定所述预设图片库中是否存在与所述待审核图片相匹配的目标图片。

可选的，图片审核装置还可以包括：

信息检测模块，用于在检测所述待审核图片中是否存在人脸信息之前，检测所述待审核图片是否存在目标特征信息；

信息比对模块，用于若所述待审核图片存在目标特征信息，则将所述目标特征信息与预设标准信息进行比对；

结果确定模块，用于在确定比对失败时，确定所述待审核图片的审核结果为不通过。

可选的，所述目标特征信息包括：二维码和/或手机号码。

可选的，人脸检测模块330，具体可以用于：

将所述待审核图片输入至经训练的机器学习模型中；

根据所述机器学习模型输出的结果确定所述待审核图片中是否存在人脸信息。

可选的，所述预设图片库可以包括：已审核图片库、不良信息图片库以及政治敏感图片库中的至少一个。

可选的，图片审核装置还可以包括：

图片库更新模块，用于根据所述待审核图片的审核结果对所述预设图片库进行更新。

上述产品可执行本发明任意实施例所提供的方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4为本发明实施例四提供的一种计算机设备的结构示意图，如图4所示，本实施例提供的一种计算机设备，包括：处理器41和存储器42。该计算机设备中的处理器可以是一个或多个，图4中以一个处理器41为例，所述计算机设备中的处理器41和存储器42可以通过总线或其他方式连接，图4中以通过总线连接为例。

本实施例中计算机设备的处理器41中集成了上述实施例提供的图片审核装置。此外，该计算机设备中的存储器42作为一种计算机可读存储介质，可用于存储一个或多个程序，所述程序可以是软件程序、计算机可执行程序以及模块，如本发明实施例中图片审核方法对应的程序指令/模块(例如，附图3所示的图片审核装置中的模块，包括：图片匹配模块310、审核确定模块320以及人脸检测模块330)。处理器41通过运行存储在存储器42中的软件程序、指令以及模块，从而执行设备的各种功能应用以及数据处理，即实现上述方法实施例中图片审核方法。

存储器42可包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据设备的使用所创建的数据等。此外，存储器42可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储器42可进一步包括相对于处理器41远程设置的存储器，这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

并且，当上述计算机设备所包括一个或者多个程序被所述一个或者多个处理器41执行时，程序进行如下操作：

将获取的待审核图片与预设图片库中的图片进行匹配；在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

实施例五

本发明实施例五还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被图片审核装置执行时实现如本发明实施例一提供的图片审核方法，该方法包括：将获取的待审核图片与预设图片库中的图片进行匹配；在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

当然,本发明实施例所提供的一种计算机可读存储介质,其上存储的计算机程序被执行时不限于实现如上所述的方法操作,还可以实现本发明任意实施例所提供的图片审核方法中的相关操作。

通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

值得注意的是，上述图片审核装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种图片审核方法，其特征在于，包括：

将获取的待审核图片与预设图片库中的图片进行匹配；

在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；

在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

2.根据权利要求1所述的方法，其特征在于，将获取的待审核图片与预设图片库中的图片进行匹配，包括：

为所述预设图片库中的每个图片创建局部特征索引；

将所述预设图片库中的每个图片对应的局部特征索引分别与所述待审核图片进行特征比对，以确定所述预设图片库中是否存在与所述待审核图片相匹配的目标图片。

3.根据权利要求1所述的方法，其特征在于，在检测所述待审核图片中是否存在人脸信息之前，还包括：

检测所述待审核图片是否存在目标特征信息；

若是，则将所述目标特征信息与预设标准信息进行比对；

在确定比对失败时，确定所述待审核图片的审核结果为不通过。

4.根据权利要求3所述的方法，其特征在于，所述目标特征信息包括：二维码和/或手机号码。

5.根据权利要求1所述的方法，其特征在于，检测所述待审核图片中是否存在人脸信息，包括：

将所述待审核图片输入至经训练的机器学习模型中；

根据所述机器学习模型输出的结果确定所述待审核图片中是否存在人脸信息。

6.根据权利要求1-5任一所述的方法，其特征在于，所述预设图片库包括：已审核图片库、不良信息图片库以及政治敏感图片库中的至少一个。

7.根据权利要求1-5任一所述的方法，其特征在于，还包括：

根据所述待审核图片的审核结果对所述预设图片库进行更新。

8.一种图片审核装置，其特征在于，包括：

图片匹配模块，用于将获取的待审核图片与预设图片库中的图片进行匹配；

审核确定模块，用于在确定所述预设图片库中存在与所述待审核图片相匹配的目标图片时，根据所述目标图片的性质确定所述待审核图片的审核结果；

人脸检测模块，用于在确定所述预设图片库中不存在与所述待审核图片相匹配的目标图片时，检测所述待审核图片中是否存在人脸信息，若是，则转为人工审核，若否，则确定所述待审核图片的审核结果为不通过。

9.一种计算机设备，其特征在于，所述设备包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的图片审核方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的图片审核方法。