CN118154947A - 一种风险图像拦截方法、装置、存储介质及电子设备 - Google Patents

Abstract

本说明书实施例公开了一种风险图像拦截方法、装置、存储介质及电子设备，包括：获取待识别图像和预设的风险标签集合，然后将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签，并基于各分割子图像和各分割子图像分别对应的风险标签生成待识别图像对应的风险识别结果，获取风险拦截策略，最后基于风险拦截策略和风险识别结果对待识别图像进行拦截。

Description

一种风险图像拦截方法、装置、存储介质及电子设备

技术领域

本发明涉及计算机技术，尤其涉及一种风险图像拦截方法、装置、存储介质及电子设备。

背景技术

互联网内容安全是保证互联网持续健康发展重中之重，为保护互联网数据安全以及避免个人隐私泄露，在用户上传内容至互联网时，对用户通过互联网发布的内容进行风险识别是非常必要的。

相关技术中通过预先训练的神经网络模型对整张图像进行风险识别，根据识别结果判断图像是否存在风险，进而判定是否进行拦截。这种对整张图像进行风险识别的方案，对图像中小目标的风险元素缺乏良好的识别效果。

发明内容

本说明书实施例提供一种风险图像拦截方法，该方法在对图像进行风险识别的同时对图像进行分割，有助于识别图像中小目标的风险元素，可以提升对风险图像的识别效果，进而提升对风险图像的拦截精度，所述方法包括：

获取待识别图像和预设的风险标签集合；

将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签；

基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果；

获取风险拦截策略，基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截。

进一步地，在一些实施方式中，述风险识别模型包括图像表征提取网络、分割风险识别网络；

所述将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签，包括：

将所述待识别图像输入至所述图像表征提取网络中，基于所述图像表征提取网络对所述待识别图像进行特征提取处理，得到所述待识别图像对应的第一图像特征；

基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签。

进一步地，在一些实施方式中，所述分割风险识别网络包括风险编码子网络和风险分割子网络；

所述基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签，包括：

将所述各风险标签输入至所述风险编码子网络中，得到各所述风险标签分别对应的风险标签特征；

将各所述风险标签特征和所述第一图像特征输入至所述分割子网络中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签。

进一步地，在一些实施方式中，所述分割风险识别网络包括图像分割子网络和风险识别子网络；

所述基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签，包括：

将所述第一图像特征输入至所述图像分割子网络中，得到所述待识别图像对应的分割子图像；

基于所述风险识别子网络对所述分割子图像进行风险识别，得到所述分割子图像对应的风险标签。

进一步地，在一些实施方式中，所述风险拦截策略包括需要进行拦截的风险标签；

所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截，包括：

若所述风险识别结果中存在所述需要进行拦截的风险标签时，拦截所述待识别图像。

进一步的，在一些实施方式中，所述风险拦截策略包括需要进行拦截的风险标签组合，所述风险标签组合包括至少两个风险标签；

所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截，包括：

若所述风险识别结果中存在所述需要进行拦截的风险标签组合，拦截所述待识别图像。

进一步的，在一些实施方式中，所述风险识别模型还包括全局风险识别网络；

所述将所述待识别图像输入至所述图像表征提取网络中，基于所述图像表征提取网络对所述待识别图像进行特征提取处理，得到所述待识别图像对应的第一图像特征之后，还包括：

将所述第一图像特征输入至所述全局风险识别网络中，得到所述待识别图像对应的风险类别。

进一步的，在一些实施方式中，所述基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果，包括：

基于各所述分割子图像、各所述分割子图像分别对应的风险标签以及所述风险类别生成所述待识别图像对应的风险识别结果。

进一步的，在一些实施方式中，所述风险拦截策略包括需要进行拦截的风险标签和需要进行拦截的风险类别；

所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截，包括：

若所述风险识别结果中存在所述需要进行拦截的风险标签且存在所述需要进行拦截的风险类别，拦截所述待识别图像。

本说明书实施例还提出了一种风险图像拦截装置，包括：

图像获取模块，用于获取待识别图像和预设的风险标签集合；

风险识别模块，用于将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签；

结果生成模块，用于基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果；

图像拦截模块，用于获取风险拦截策略，基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截。

本说明书实施例还提供一种计算机程序产品，所述计算机程序产品存储有至少一条指令，所述至少一条指令适于由处理器加载并执行上述的方法步骤。

本说明书实施例还提供一种存储介质，所述存储介质存储有计算机程序，所述计算机程序适于由处理器加载并执行上述的方法的步骤。

本说明书实施例还提供一种电子设备，包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行上述的方法的步骤。

本说明书实施例提出一种风险图像拦截方法，通过获取待识别图像和预设的风险标签集合，然后将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签，进而基于各分割子图像和各分割子图像分别对应的风险标签生成待识别图像对应的风险识别结果，最后获取风险拦截策略，基于风险拦截策略和风险识别结果对待识别图像进行拦截；采用本说明书实施例提出的方法，在对图像进行风险识别的同时对图像进行分割，有助于识别图像中小目标的风险元素，可以提升风险图像的识别效果，进而提升对风险图像的拦截精度。

附图说明

图1为本说明书实施例提供了一种风险图像拦截方法的流程示意图；

图2为本说明书实施例提供的一种风险识别的举例示意图；

图3为本说明书实施例提供的一种风险识别的举例示意图；

图4为本说明书实施例提供的一种风险图像拦截方法的流程示意图；

图5为本说明书实施例提供的一种风险识别的举例示意图；

图6为本说明书实施例提供的一种风险图像拦截装置的结构示意图；

图7为本说明书实施例提供的一种风险识别模块的结构示意图；

图8为本说明书实施例提供的一种风险图像拦截装置的结构示意图；

图9为本说明书实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。

请参见图1，为本说明书实施例提供了一种风险图像拦截方法的流程示意图。在本说明书实施例中，所述风险图像拦截方法应用于风险图像拦截装置或配置有风险图像拦截装置的电子设备。下面将针对图1所示的流程进行详细的阐述，所述风险图像拦截方法具体可以包括以下步骤：

S102，获取待识别图像和预设的风险标签集合；

其中，待识别图像是指需要进行风险识别的图像，例如可以为用户新上传至互联网的图像。

风险标签集合为预设的用于进行风险识别的风险标签，例如可以为色情标签、赌博标签、暴恐标签等。在进行风险识别时，风险标签可直接对应于待识别图像中的单个风险元素。

S104，将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签；

在本说明书一个或多个实施例中，风险识别模型是指根据预设的风险标签集合对待识别图像进行风险识别的深度学习模型。风险识别模型可以通过预创建的训练数据集预训练得到，训练的目的在于使得训练完成的风险识别模型可以根据风险标签集合对待识别图像中存在的风险进行精准识别。

在获取得到待识别图像和风险标签集合之后，将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，风险识别模型输出待识别图像对应的分割子图像以及分割子图像对应的风险标签。

其中，分割子图像是指对待识别图像中的不同元素进行分割处理得到的图像。例如，待识别图像中包括人、树木、马路、汽车等元素，则对该待识别图像进行分割处理，就可以得到仅包含人的分割子图像、仅包含树木的分割子图像、仅包含马路的分割子图像以及仅包含汽车的分割子图像。在本说明书一个或多个实施例中，风险识别模型输出的分割子图像可以为与风险标签集合中的至少一个风险标签存在关联的图像。

一种可行的实施方式中，将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，风险识别模型输出待识别图像对应的分割子图像以及分割子图像对应的风险标签，可以为：风险识别模型根据风险标签集合中的各风险标签对待识别图像进行图像分割，分割出与风险标签对应的分割子图像。

又一种可行的实施方式中，将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，风险识别模型首先对待识别图像进行图像分割，得到待识别图像对应的全部分割子图像，然后基于风险标签集合中的各风险标签对待识别图像对应的各分割子图像分别进行风险识别，得到与风险标签对应的分割子图像。

S106，基于各分割子图像和各分割子图像分别对应的风险标签生成待识别图像对应的风险识别结果；

在得到各分割子图像和各分割子图像分别对应的风险标签，根据各分割子图像和各分割子图像分别对应的风险标签组合生成待识别图像对应的风险识别结果。其中，根据各分割子图像和各分割子图像分别对应的风险标签生成待识别图像对应的风险识别结果，具体可以为：根据分割子图像在待识别图像中的位置确定分割子图像对应的风险位置，根据各分割子图像分别对应的风险标签和各分割子图像分别对应的风险位置确定风险标签和风险位置的关联关系，生成包含风险标签、风险位置以及关联关系的风险识别结果。

S108，获取风险拦截策略，基于风险拦截策略和风险识别结果对待识别图像进行拦截。

其中，风险拦截策略可以为针对内容风险所设定的风险内容拦截策略，该风险拦截策略可根据从待识别图像中所识别到的风险标签判定是否对待识别图像进行拦截。

需要说明的是，本说明书一个或多个实施例中，风险标签是指预设的与待识别图像中分割出的单个元素相对应的更细粒度的标签。相比于现有技术中，基于此风险标签集合，可以识别得到待识别图像中单元素对应的更细粒度的风险，根据识别结果可以设置更加详细的风险拦截策略，提升对风险图像的识别效果和拦截精度。

在本说明书一个或多个实施例中，预创建与细小风险元素对应风险标签集合，并通过预训练的风险识别模型，依据风险标签集合对待识别图像进行风险识别，风险识别模型通过对待识别图像进行图像分割，并将分割得到的分割子图像和风险标签进行关联，从而识别得到与风险标签对应的分割子图像，通过对待识别图像进行图像分割可以提升对细小目标风险元素的识别效果，进而提升对风险图像的识别效果和拦截精度；在得到风险识别模型识别到的待识别图像对应的风险识别结果之后，获取预设的风险拦截策略，并依据风险拦截策略和待识别图像对应的风险识别结果对待识别图像进行拦截，其中，风险拦截策略可依照实际情况进行适应性设置调整，提升对风险图像的拦截效果，避过度拦截或漏拦截的现象，可以适应不同安全级别的应用场景。

下面，将对本说明书提出的证件篡改检测方法进行进一步的说明。

在本说明书一个示例实施例中，风险识别模型可以包括图像表征提取网络和分割风险识别网络。则在步骤S104中，将待识别图像和风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签，可以为：将待识别图像输入至图像表征提取网络中，基于图像表征提取网络对待识别图像进行特征提取处理，得到待识别图像对应的第一图像特征；基于风险标签集合中的各风险标签，通过分割风险识别网络对第一图像特征进行风险分割，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签。

需要说明的是，风险识别模型包括图像表征提取网络和分割风险识别网络。图像表征提取网络用于对待识别图像的特征提取处理，得到待识别图像对应的第一图像特征，分割风险识别网络用于根据第一图像特征和风险标签集合中的各风险标签对待识别图像进行图像分割和风险识别，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签。

在本说明书实施例中，风险识别模型可以为基于Encoder-Decoder框架的机器学习模型。其中，图像表征提取网络为风险识别模型中的Encoder，其可以由多层卷积层或全连接层组成，主要用于对图像进行特征编码处理；分割风险识别网络为风险识别模型中的Decoder，主要用于根据预设的风险标签集合对风险识别模型提取的第一图像特征进行解码操作，解码生成待识别图像对应的分割子图像以及分割子图像对应的风险标签。该分割风险识别网络既具有对待识别图像的图像分割功能，同样具有对分割子图像的风险识别功能，通过将图像分割和风险识别相结合，使得该分割风险识别网络可以对细小目标风险元素具有更突出的识别效果，进而提升对风险图像的识别效果和拦截精度。

一种可行的实施方式中，在将风险标签集合中的各风险标签和待识别图像对应的第一图像特征输入至分割风险识别网络之后，分割风险识别网络首先对各风险标签进行特征编码，得到各风险标签分别的风险标签特征，然后依据风险标签特征为提示信息对第一图像特征进行分割，分割得到与风险标签相对应的分割子图像。

本说明书一个示例实施例中，分割风险识别网络可以包括风险编码子网络和风险分割子网络。请参见图2，为本说明书实施例提供的一种风险识别的举例示意图。如图2所示，风险识别模型包括图像表征提取网络、风险编码子网络和分割子网络。将待识别图像输入至图像表征提取网络中，由图像表征提取网络对待识别图像进行特征提取，输出待识别图像对应的第一图像特征，将各风险标签输入至风险编码子网络中，风险编码子网络输出得到各风险标签分别对应的风险标签特征，然后将各标签特征和第一图像特征输入至分割子网络中，以使分割子网络以标签特征为提示信息对第一图像特征进行分割，得到待识别图像对应的分割子图像和割子图像对应的风险标签。

需要说明的是，在将各标签特征和第一图像特征输入至分割子网络中，分割子网络以标签特征为提示信息对第一图像特征进行分割的过程中，分割子网络只会输出与风险标签相关联的分割子图像，分割子网络输出的分割子图像均为存在风险的分割图像。

在本实施例中，依据预设的风险标签为提示信息对待识别图像进行图像分割，将待识别图像存在风险的图像区域分割输出为分割子图像，将图像分割和风险识别相结合，可以提升对细小目标风险元素的识别效果，进而提升对风险图像的识别效果和拦截精度。

又一种可行的实施方式中，在将风险标签集合中的各风险标签和待识别图像对应的第一图像特征输入至分割风险识别网络之后，分割风险识别网络首先依据第一图像特征进行图像分割，得到待识别图像对应的全部分割子图像，然后依据风险标签集合对待识别图像对应的全部分割子图像分别进行风险标签标注，进而在各分割子图像中确定存在风险的分割子图像以及其对应的风险标签。

本说明书一个示例实施例中，分割风险识别网络包括图像分割子网络和风险识别子网络。在将风险标签集合中的各风险标签和待识别图像对应的第一图像特征输入至分割风险识别网络之后，首先将第一图像特征输入至图像分割子网络中，分割子网络依据第一图像特征进行分割，得到待识别图像对应的全部分割子图像，所述全部分割子图像中可以既包括存在风险的分割子图像，同时也包括不存在风险的分割子图像；然后将分割得到的分割子图像输入至风险识别子网络中，风险识别子网络可以根据风险标签集合中的各风险标签对分割子图像进行风险识别，为存在风险的分割子图像添加对应的风险标签。请参见图3，为本说明书实施例提供的一种风险识别的举例示意图。如图3所示，风险识别模型包括图像表征提取网络、图像分割子网络和风险识别子网络。将待识别图像输入至图像表征提取网络中，由图像表征提取网络对待识别图像进行特征提取，输出待识别图像对应的第一图像特征，然后将第一图像特征输入至图像分割子网络中，由图像分割子网络根据第一图像特征对待识别图像图像分割，得到待识别图像对应的各分割子图像，最后基于风险识别子网络对各分割子图像进行风险识别，确定存在风险的分割子图像以及其对应的风险标签。

可选的，在得到待识别图像对应的全部分割子图像之后，针对各分割子图像，获取分割子图像对应的局部图像特征，基于风险识别子网络对局部图像特征进行风险识别，得到分割子图像对应的风险标签。

该风险识别子网络为根据风险标签集合中的风险标签所训练的分类器网络，通过样本训练图像和风险标签集合所构建的训练数据进行有监督训练得到，可以对输入进其中的分割子图像依照各风险标签进行分类识别，确定分割子图像对应的风险标签。

在本实施例中，在对待识别图像进行风险识别的过程中，首先对待识别图像进行图像分割，得到细粒度的分割子图像，然后对分割子图像进行风险识别，可以提升对待识别图像中细小目标风险元素的识别效果，进而提升对风险图像的整体识别效果和拦截精度。

下面，对步骤S108进行进一步说明。

一个示例实施例中，风险拦截策略中包含需要进行拦截的风险标签。则步骤S108中，在获取得到风险拦截策略之后，基于风险拦截策略和风险识别结果对待识别图像进行拦截，可以为：基于风险拦截策略，若风险识别结果中存在需要进行拦截的风险标签，则拦截该风险识别结果对应的待识别图像；若风险识别结果中不存在需要急性拦截的风险标签，则不拦截该风险识别结果对应的待识别图像。

可以理解的是，风险识别结果包括待识别图像中所有存在风险的分割子图像分别对应的风险标签，风险拦截策略为预设策略，其中包含需要进行拦截的风险标签。在风险识别结果中包含风险拦截策略中所预设的需要进行拦截的风险标签时，对相应的待识别图像进行拦截。

需要说明的是，风险拦截策略可根据拦截精度、拦截内容的不同对其中预设的需要进行拦截的风险标签进行调整，使得本说明书实施例提出的风险图像拦截方法适应不同的风险图像拦截场景。

一个示例实施例中，风险拦截策略包括需要进行拦截的风险标签组合，风险标签组合包括至少两个风险标签。则在步骤S108中，在获取得到风险拦截策略之后，基于风险拦截策略和风险识别结果对待识别图像进行拦截，可以为：基于风险拦截策略，若风险识别结果中存在需要进行拦截的风险标签组合，则拦截对应的待识别图像，若风险识别结果中不存在需要进行拦截的风险标签组合，则不拦截。

通过在风险拦截策略中设置风险标签组合的多标签拦截策略，可以使得拦截标准更准确、客观，对风险图像的拦截效果更加精准。例如，在对赌博类风险图像的识别拦截过程中，扑克牌、筹码均为预设的风险标签，而如果在待识别图像中单单识别到扑克牌这一类风险标签时，无法确定此待识别图像是否为赌博风险类图像(可能只是在进行扑克牌游戏)，仅通过识别到扑克牌这一风险标签就对待识别图像进行拦截，可能存在误拦截的问题；通过在风险拦截策略中设定扑克牌+筹码的风险标签组合，只有在待识别图像中同时出现扑克牌+筹码这两种风险标签时，才确定此待识别图像为赌博风险类图像，进而进行拦截。即，风险标签组合可以提升对风险图像的拦截精准程度。

请参见图4，为本说明书实施例提供的一种风险图像拦截方法的流程示意图。如图4所示，所述风险图像拦截方法包括如下步骤：

S202，获取待识别图像和预设的风险标签集合；

步骤S202请参见本说明书另一实施例中对步骤S102的详细描述，在此不在赘述。

S204，将待识别图像输入至图像表征提取网络中，基于图像表征提取网络对待识别图像进行特征提取处理，得到待识别图像对应的第一图像特征；

S206，基于风险标签集合中的各风险标签，通过分割风险识别网络对第一图像特征进行风险分割，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签；

需要说明的是，风险识别模型包括图像表征提取网络和分割风险识别网络。图像表征提取网络用于对待识别图像的特征提取处理，得到待识别图像对应的第一图像特征，分割风险识别网络用于根据第一图像特征和风险标签集合中的各风险标签对待识别图像进行图像分割和风险识别，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签。

在本说明书实施例中，风险识别模型可以为基于Encoder-Decoder框架的机器学习模型。其中，图像表征提取网络为风险识别模型中的Encoder，其可以由多层卷积层或全连接层组成，主要用于对图像进行特征编码处理；分割风险识别网络为风险识别模型中的Decoder，主要用于根据预设的风险标签集合对风险识别模型提取的第一图像特征进行解码操作，解码生成待识别图像对应的分割子图像以及分割子图像对应的风险标签。该分割风险识别网络既具有对待识别图像的图像分割功能，同样具有对分割子图像的风险识别功能，通过将图像分割和风险识别相结合，使得该分割风险识别网络可以对细小目标风险元素具有更突出的识别效果，进而提升对风险图像的识别效果和拦截精度。

S208，将第一图像特征输入至全局风险识别网络中，得到待识别图像对应的风险类别；

第一图像特征为待识别图像对应的全局图像特征，全局风险识别网络用于根据待识别图像对应的全局图像特征进行风险识别，得到待识别图像对应的风险类别。

其中，风险类别可以为预设的风险图像类别。例如，可以为色情、暴恐、赌博等，其中，色情类别可以包括漫画色情、艺术品色情、暴露色情等类别。

S210，基于各分割子图像、各分割子图像分别对应的风险标签以及风险类别生成待识别图像对应的风险识别结果；

风险识别结果中包括各分割子图像对应的细粒度的风险标签，也包括结合全局图像特征识别得到的风险类别。

S212，获取风险拦截策略，基于风险拦截策略和风险识别结果对待识别图像进行拦截。

一个示例实施例中，风险拦截策略中包含需要进行拦截的风险标签和需要进行拦截的风险类别。则步骤S212中，在获取得到风险拦截策略之后，基于风险拦截策略和风险识别结果对待识别图像进行拦截，可以为：若风险识别结果中存在需要进行拦截的风险标签且存在需要进行拦截的风险类别，拦截待识别图像。

请参见图5，为本说明书实施例提供的一种风险识别的举例示意图。如图5所示，风险识别模型包括图像表征提取网络、全局风险识别网络、分割风险识别网络，将待识别图像输入至图像表征提取网络中，由图像表征提取网络对待识别图像进行特征提取，输出待识别图像对应的第一图像特征，然后将第一图像特征输入至全局风险识别网络中，由全局风险识别网络根据待识别图像对应的全局图像特征进行风险识别，得到待识别图像对应的风险类别，以及将第一图像特征输入至分割风险识别网络中，由分割风险识别网络对所述第一图像特征进行风险分割，得到待识别图像对应的分割子图像以及分割子图像对应的风险标签。

在本实施例中，风险识别结果中既包括各分割子图像对应的细粒度的风险标签，也包括结合全局图像特征识别得到的风险类别。通过设置风险拦截策略，只有在风险识别结果中既存在风险拦截策略中所预设的需要进行拦截的风险标签，又存在风险拦截策略中所预设的需要进行拦截的风险类别时，才对待识别图像进行风险拦截。相比于仅基于风险标签所设定的风险拦截策略，本实施例结合从待识别图像的全局图像特征所识别的风险类别，进一步提升了对待识别图像的风险识别效果，进而提升拦截精度。

需要说明的是，风险拦截策略可根据拦截精度、拦截内容的不同对其中预设的需要进行拦截的风险标签进行调整，使得本说明书实施例提出的风险图像拦截方法适应不同的风险图像拦截场景。

请参见图6，为本说明书实施例提供的一种风险图像拦截装置的结构示意图。如图6所示，该风险图像拦截装置1可以通过软件、硬件或者两者的结合实现成为电子设备的全部或一部分。根据一些实施例，该风险图像拦截装置1包括图像获取模块11、风险识别模块12、结果生成模块13以及图像拦截模块14，具体包括：

图像获取模块11，用于获取待识别图像和预设的风险标签集合；

风险识别模块12，用于将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签；

结果生成模块13，用于基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果；

图像拦截模块14，用于获取风险拦截策略，基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截。

可选的，所述风险识别模型包括图像表征提取网络、分割风险识别网络；请参见图7，所述风险识别模块12包括特征提取单元121和风险识别单元122，其中：

特征提取单元121，用于将所述待识别图像输入至所述图像表征提取网络中，基于所述图像表征提取网络对所述待识别图像进行特征提取处理，得到所述待识别图像对应的第一图像特征；

风险识别单元122，用于基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签。

可选的，所述分割风险识别网络包括风险编码子网络和风险分割子网络；所述风险识别单元122，具体用于：

将所述各风险标签输入至所述风险编码子网络中，得到各所述风险标签分别对应的风险标签特征；

将各所述风险标签特征和所述第一图像特征输入至所述分割子网络中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签。

可选的，所述分割风险识别网络包括图像分割子网络和风险识别子网络；所述风险识别单元122，具体用于：

将所述第一图像特征输入至所述图像分割子网络中，得到所述待识别图像对应的分割子图像；

基于所述风险识别子网络对所述分割子图像进行风险识别，得到所述分割子图像对应的风险标签。

可选的，所述风险拦截策略包括需要进行拦截的风险标签；所述图像拦截模块14在执行所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截时，具体用于：

若所述风险识别结果中存在所述需要进行拦截的风险标签时，拦截所述待识别图像。

可选的，所述风险拦截策略包括需要进行拦截的风险标签组合，所述风险标签组合包括至少两个风险标签；所述图像拦截模块14在执行所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截时，具体用于：

若所述风险识别结果中存在所述需要进行拦截的风险标签组合，拦截所述待识别图像。

可选的，所述风险识别模型还包括全局风险识别网络；请参见图8，所述装置还包括类别识别模块15，具体用于：

将所述第一图像特征输入至所述全局风险识别网络中，得到所述待识别图像对应的风险类别。

可选的，所述结果生成模块13，具体用于：

基于各所述分割子图像、各所述分割子图像分别对应的风险标签以及所述风险类别生成所述待识别图像对应的风险识别结果。

可选的，所述风险拦截策略包括需要进行拦截的风险标签和需要进行拦截的风险类别；所述图像拦截模块14在执行所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截时，具体用于：

若所述风险识别结果中存在所述需要进行拦截的风险标签且存在所述需要进行拦截的风险类别，拦截所述待识别图像。

上述装置实施例与方法实施例相对应，具体说明可以参见方法实施例部分的描述，此处不再赘述。装置实施例是基于对应的方法实施例得到，与对应的方法实施例具有同样的技术效果，具体说明可参见对应的方法实施例。

本说明书实施例还提供的一种存储介质，所述存储介质可以存储有多条指令，所述指令适于由处理器加载并执行如上述图1～图5所示实施例的所述的方法，具体执行过程可以参见图1～图5所示实施例的具体说明，在此不进行赘述。

本说明书还提供的一种计算机程序产品，该计算机程序产品存储有至少一条指令，所述至少一条指令由所述处理器加载并执行如上述图1～图5所示实施例的所述的方法，具体执行过程可以参见图1～图5所示实施例的具体说明，在此不进行赘述。

本说明书实施例还提供了图9所示的电子设备的结构示意图。如图9，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他事务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述的风险图像拦截方法。

当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本说明书的实施例可提供为方法、系统、或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。

Claims (13)

1.一种风险图像拦截方法，包括：

获取待识别图像和预设的风险标签集合；

将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签；

基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果；

获取风险拦截策略，基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截。

2.根据权利要求1所述的方法，所述风险识别模型包括图像表征提取网络、分割风险识别网络；

所述将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签，包括：

将所述待识别图像输入至所述图像表征提取网络中，基于所述图像表征提取网络对所述待识别图像进行特征提取处理，得到所述待识别图像对应的第一图像特征；

基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签。

3.根据权利要求2所述方法，所述分割风险识别网络包括风险编码子网络和风险分割子网络；

所述基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签，包括：

将所述各风险标签输入至所述风险编码子网络中，得到各所述风险标签分别对应的风险标签特征；

将各所述风险标签特征和所述第一图像特征输入至所述分割子网络中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签。

4.根据权利要求2所述的方法，所述分割风险识别网络包括图像分割子网络和风险识别子网络；

所述基于所述风险标签集合中的各风险标签，通过所述分割风险识别网络对所述第一图像特征进行风险分割，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签，包括：

将所述第一图像特征输入至所述图像分割子网络中，得到所述待识别图像对应的分割子图像；

基于所述风险识别子网络对所述分割子图像进行风险识别，得到所述分割子图像对应的风险标签。

5.根据权利要求1所述的方法，所述风险拦截策略包括需要进行拦截的风险标签；

所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截，包括：

若所述风险识别结果中存在所述需要进行拦截的风险标签时，拦截所述待识别图像。

6.根据权利要求1所述的方法，所述风险拦截策略包括需要进行拦截的风险标签组合，所述风险标签组合包括至少两个风险标签；

所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截，包括：

若所述风险识别结果中存在所述需要进行拦截的风险标签组合，拦截所述待识别图像。

7.根据权利要求2所述的方法，所述风险识别模型还包括全局风险识别网络；

所述将所述待识别图像输入至所述图像表征提取网络中，基于所述图像表征提取网络对所述待识别图像进行特征提取处理，得到所述待识别图像对应的第一图像特征之后，还包括：

将所述第一图像特征输入至所述全局风险识别网络中，得到所述待识别图像对应的风险类别。

8.根据权利要求7所述方法，所述基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果，包括：

基于各所述分割子图像、各所述分割子图像分别对应的风险标签以及所述风险类别生成所述待识别图像对应的风险识别结果。

9.根据权利要求7所述的方法，所述风险拦截策略包括需要进行拦截的风险标签和需要进行拦截的风险类别；

所述基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截，包括：

若所述风险识别结果中存在所述需要进行拦截的风险标签且存在所述需要进行拦截的风险类别，拦截所述待识别图像。

10.一种风险图像拦截装置，包括：

图像获取模块，用于获取待识别图像和预设的风险标签集合；

风险识别模块，用于将所述待识别图像和所述风险标签集合中的各风险标签输入至预训练的风险识别模型中，得到所述待识别图像对应的分割子图像以及所述分割子图像对应的风险标签；

结果生成模块，用于基于各所述分割子图像和各所述分割子图像分别对应的风险标签生成所述待识别图像对应的风险识别结果；

图像拦截模块，用于获取风险拦截策略，基于所述风险拦截策略和所述风险识别结果对所述待识别图像进行拦截。

11.一种存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1～9中任意一项所述方法的步骤。

12.一种电子设备，包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行如权利要求1～9中任意一项所述方法的步骤。

13.一种计算机程序产品，其上存储有至少一条指令，所述至少一条指令被处理器执行时实现权利要求1～9中任意一项所述方法的步骤。