CN113221845A - 广告审核方法、装置、设备及存储介质 - Google Patents

Abstract

本发明实施例提供了一种广告审核方法、装置、设备及存储介质，在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；第一违规等级为违规概率大于第一概率阈值的等级；对目标视频执行与所查找的审核操作对应的预设操作，得到目标视频的审核结果。本方案可以兼顾广告审核的效率和准确率。

Description

广告审核方法、装置、设备及存储介质

技术领域

本发明涉及广告审核技术领域，特别是涉及一种广告审核方法、装置、设备及存储介质。

背景技术

随着视频技术的发展，越来越多的广告以视频形式被投放在用户界面中。例如，在浏览器主页，客户端主页中投放的广告视频，或者插入在非广告视频的片头、片尾以及非广告视频中间的一段广告视频等等。为了避免不合规广告的投放，需要对广告视频进行审核。

相关技术中，通常由人工审核广告视频是否违规。但是，随着视频广告的不断增长，人工审核存在审核效率低，以及主观因素造成的准确率较低的问题。

发明内容

本发明实施例的目的在于提供一种广告审核方法、装置、设备及存储介质，以实现兼顾广告视频审核效率以及准确率的效果。具体技术方案如下：

第一方面，本发明实施例提供一种广告审核方法，所述方法包括：

在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；

基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；

从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，所述违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；所述第一违规等级为违规概率大于第一概率阈值的等级；

对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果。

可选的，所述违规等级与审核操作的对应关系，还包括：第二违规等级与抽检复审对应。

可选的，所述对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果，包括：

确定所述目标视频中属于违规的违规视频帧，并输出至审核客户端；

接收所述审核客户端发送的针对所述违规视频帧的审核结果，作为所述目标视频的审核结果。

可选的，所述对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果，包括：

确定所述目标视频中包含广告内容的目标视频片段，并输出至审核客户端；

接收所述审核客户端发送的针对所述目标视频片段的审核结果，作为所述目标视频的审核结果。

可选的，所述确定所述目标视频中包含广告内容的目标视频片段，包括：

当所述目标视频为广告视频时，将所述目标视频确定为目标视频片段；

当所述目标视频还包括除所述广告视频以外的视频内容时，从所述目标视频中截取包含广告内容的视频片段，作为所述目标视频片段。

可选的，所述模型，采用如下步骤训练得到：

获取经过人工审核的多个历史视频进行预处理，得到多个样本视频，并获取每个样本视频的违规等级标签；所述预处理用于剔除所述历史视频中视频源地址不完整以及视频格式与指定格式不同的视频；

将所述多个样本视频和每个样本视频的违规等级标签，划分为训练集和测试集；

利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试；

当测试结果满足预设测试条件时，将所训练的神经网络模型确定为训练得到的模型，否则，重复所述利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试的步骤。

第二方面，本发明实施例提供一种广告审核装置，所述装置包括：

视频获取模块，用于在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；

等级获取模块，用于基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；

操作查找模块，用于从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，所述违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；所述第一违规等级为违规概率大于第一概率阈值的等级；

操作执行模块，用于对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果。

可选的，所述违规等级与审核操作的对应关系，还包括：第二违规等级与抽检复审对应。

可选的，所述操作执行模块，具体用于：

确定所述目标视频中属于违规的违规视频帧，并输出至审核客户端；

接收所述审核客户端发送的针对所述违规视频帧的审核结果，作为所述目标视频的审核结果。

可选的，所述操作执行模块，具体用于：

确定所述目标视频中包含广告内容的目标视频片段，并输出至审核客户端；

接收所述审核客户端发送的针对所述目标视频片段的审核结果，作为所述目标视频的审核结果。

可选的，所述操作执行模块，具体用于：

当所述目标视频为广告视频时，将所述目标视频确定为目标视频片段；

当所述目标视频还包括除所述广告视频以外的视频内容时，从所述目标视频中截取包含广告内容的视频片段，作为所述目标视频片段。

可选的，所述模型，采用如下步骤训练得到：

获取经过人工审核的多个历史视频进行预处理，得到多个样本视频，并获取每个样本视频的违规等级标签；所述预处理用于剔除所述历史视频中视频源地址不完整以及视频格式与指定格式不同的视频；

将所述多个样本视频和每个样本视频的违规等级标签，划分为训练集和测试集；

利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试；

当测试结果满足预设测试条件时，将所训练的神经网络模型确定为训练得到的模型，否则，重复所述利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试的步骤。

第三方面，本发明实施例提供一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现上述本发明第一方面提供的广告审核方法步骤。

第四方面，本发明实施例提供一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述本发明第一方面提供的广告审核方法步骤。

本发明实施例有益效果：

本发明实施例提供的方案中，模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型。因此，基于目标视频，利用预先训练得到的模型，可以获取目标视频中广告的违规等级。并且，违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应，进而从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作，并对目标视频执行与所查找的审核操作对应的预设操作，可以得到目标视频的审核结果。可见，本方案利用预先训练得到的模型自动获取目标视频的违规等级，提高广告视频的审核效率，并且，对违规概率大于第一概率阈值的第一违规等级的目标视频进行人工复审，提高广告视频审核的准确率，实现兼顾广告视频审核效率以及准确率的效果。

当然，实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的实施例。

图1为本发明一实施例提供的一种广告审核方法的流程示意图；

图2为本发明一实施例提供的一种广告审核方法中，预先训练得到的模型的获取流程示意图；

图3为本发明一实施例提供的一种广告审核装置的结构示意图；

图4为本发明一实施例提供的电子设备的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员基于本申请所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例提供的一种广告审核方法，可以应用于电子设备。在具体应用中，该电子设备可以包括：台式计算机，便携式计算机，互联网电视，移动终端，可穿戴设备以及服务器等等。任何能够进行人机交互的电子设备均可用于本发明，本发明实施例对此不作限制。为了便于理解，下面对本发明实施例提供的一种广告审核方法进行说明。

如图1所示，本发明一实施例提供的一种广告审核方法的流程，该方法可以包括如下步骤：

S101，在获取到对视频进行广告审核的指令时，获取指令对应的目标视频。

在具体应用中，获取到对视频进行广告审核的指令的方式可以是多种的。示例性的，可以在接收到审核人员输入的对视频进行广告审核的指令，确定获取到对视频进行广告审核的指令；或者，在检测到电子设备当前的显示界面中存在广告时，确定获取到对视频进行广告审核的指令。

并且，获取指令对应的目标视频的方式可以是多种的。示例性的，指令中可以携带有视频标识，从而可以从数据库中查找具有视频标识的视频，作为指令对应的目标视频；或者，从电子设备当前的显示界面中获取指令对应的视频的源地址，将从源地址获取的视频作为目标视频。其中，源地址可以是网址以及存储路径等等。

S102，基于目标视频，利用预先训练得到的模型，获取目标视频中广告的违规等级。

模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型。

在具体应用中，违规等级为按照视频中的广告属于违规广告的违规概率差异划分的等级，可以按照审核需求进行具体设置。示例性的，违规等级具体可以包括：违规概率大于第一概率阈值的第一违规等级，违规概率中等的第二违规等级，违规概率小于第二违规等级对应的违规概率，大于0的第三违规等级，以及违规概率等于0的第四违规等级等等。其中，违规概率中等具体可以为违规概率小于第一概率阈值，且大于第三违规等级对应的违规概率。

并且，基于目标视频，利用预先训练得到的模型，获取目标视频中广告的违规等级，具体可以是多种的。示例性的，可以获取组成目标视频的全部视频帧，分别将获取的每个视频帧输入预先训练得到的模型，得到模型输出的该视频帧违规等级，将多个视频帧违规等级中占比最多的违规等级作为目标视频中广告的违规等级。或者，示例性的，可以获取组成目标视频的全部视频帧，对获取的全部视频帧进行聚合，得到多个视频帧组，分别将每个视频帧组中的关键帧输入预先训练得到的模型，得到模型输出的该视频帧组违规等级，将多个视频帧组违规等级中占比最多的违规等级作为目标视频中广告的违规等级。其中，任一视频帧组中的关键帧为该视频帧组中最能表明该组视频帧的特征的视频帧。并且，违规等级与违规概率对应，违规等级标签具体按照违规概率设置。

为了便于理解和合理布局，后续以可选实施例的形式，对训练得到上述模型的过程进行具体描述。

S103，从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作。

其中，违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；第一违规等级为违规概率大于第一概率阈值的等级。

S104，对目标视频执行与所查找的审核操作对应的预设操作，得到目标视频的审核结果。

在具体应用中，可以对不同违规等级的目标视频执行不同的审核操作，以兼顾广告视频审核效率以及准确率。为了便于理解和合理布局，后续以可选实施例的形式，对不同的审核操作进行具体描述。

本发明实施例提供的方案中，模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型。因此，基于目标视频，利用预先训练得到的模型，可以获取目标视频中广告的违规等级。并且，违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应，进而从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作，并对目标视频执行与所查找的审核操作对应的预设操作，可以得到目标视频的审核结果。可见，本方案利用预先训练得到的模型自动获取目标视频的违规等级，提高广告视频的审核效率，并且，对违规概率大于第一概率阈值的第一违规等级的目标视频进行人工复审，提高广告视频审核的准确率，实现兼顾广告视频审核效率以及准确率的效果。

在一种可选的实施方式中，上述模型，可以采用如图2所示的步骤训练得到：

S201，获取经过人工审核的多个历史视频进行预处理，得到多个样本视频，并获取每个样本视频的违规等级标签。

其中，预处理用于剔除历史视频中视频源地址不完整以及视频格式与指定格式不同的视频。

S202，将多个样本视频和每个样本视频的违规等级标签，划分为训练集和测试集。

S203，利用训练集对神经网络模型进行训练，并利用测试集对所训练的神经网络模型进行测试。

S204，当测试结果满足预设测试条件时，将所训练的神经网络模型确定为训练得到的模型，否则，重复步骤S203。

在具体应用中，经过人工审核的多个历史视频存在相应的人工审核结果，该审核结果包括违规等级。因此，可以从每个历史视频的人工审核结果中，获取该历史视频的违规等级，进而在得到多个样本视频时，将样本视频对应的历史视频的违规等级作为该样本视频的违规等级标签。

并且，指定格式具体为能够支持的视频格式，以保证可以对样本视频进行播放、采样以及编解码等处理，防止不支持视频格式造成的无法获取样本视频的视频帧的问题，提高样本视频的质量。通过预处理还可以剔除历史视频中视频源地址不完整的视频，提高样本视频的质量。可见，通过预处理可以样本视频的质量，从而提高利用样本视频训练得到的模型的准确度。

其中，预设测试条件可以包括：所训练的神经网络模型输出的结果与相应的样本视频的违规等级标签之间的差异，小于差异阈值；或者，对神经网络模型的训练次数达到迭代次数等等。

在一种可选的实施方式中，上述违规等级与审核操作的对应关系，还可以包括：第二违规等级与抽检复审对应。

在具体应用中，第二违规等级的视频的违规概率小于第一概率阈值，且大于第二概率阈值，其中，第二概率阈值小于第一概率阈值。

在一种可选的实施方式中，上述对目标视频执行与所查找的审核操作对应的预设操作，得到目标视频的审核结果，具体可以包括如下步骤：

确定目标视频中属于违规的违规视频帧，并输出至审核客户端；

接收审核客户端发送的针对违规视频帧的审核结果，作为目标视频的审核结果。

在具体应用中，对应于不同的获取目标视频中广告的违规等级的方式，确定目标视频中属于违规的违规视频帧的具体方式，可以是多种的：

示例性的，当获取组成目标视频的全部视频帧，分别将获取的每个视频帧输入预先训练得到的模型，得到模型输出的该视频帧违规等级，将多个视频帧违规等级中占比最多的违规等级作为目标视频中广告的违规等级时，可以记录每个视频帧违规等级，从预存的视频帧违规等级与违规概率的对应关系中，查找所记录的视频帧违规等级对应的违规概率，将所查找的违规概率大于第三概率阈值，也就是属于违规的视频帧作为违规视频帧。

或者，示例性的，当获取组成目标视频的全部视频帧，对获取的全部视频帧进行聚合，得到多个视频帧组，分别将每个视频帧组中的关键帧输入预先训练得到的模型，得到模型输出的该视频帧组违规等级，将多个视频帧组违规等级中占比最多的违规等级作为目标视频中广告的违规等级时，可以记录每个视频帧组违规等级，从预存的视频帧违规等级与违规概率的对应关系中，查找所记录的视频帧违规等级对应的违规概率，将所查找的违规概率大于第三概率阈值视频帧组的关键帧作为违规视频帧。

本可选实施例中，进行抽检复审，无需对组成目标视频的所有视频帧进行复审，而是对目标视频中违规概率大于第三概率阈值的违规视频帧进行复审，从而进一步提高审核效率和准确率。

在一种可选的实施方式中，上述对目标视频执行与所查找的审核操作对应的预设操作，得到目标视频的审核结果，具体可以包括如下步骤：

确定目标视频中包含广告内容的目标视频片段，并输出至审核客户端；

接收审核客户端发送的针对目标视频片段的审核结果，作为目标视频的审核结果。

本可选实施例通过将目标视频片段输出值审核人员的客户端，以人机交互的方式减少模型得到的审核结果的误审以及漏审情况，提高广告审核的准确率。并且，先以模型确定对目标视频是直接人工复审还是抽检复审，可以提高广告审核的效率。在具体应用中，审核人员可以通过审核客户端审核目标视频片段，并将审核结果输入审核客户端，以使得审核客户端将审核结果发送给作为本发明执行主体的电子设备。

另外，所查找的审核操作与预设操作之间的对应关系，可以按照具体需求进行设置，本发明实施例对此不作限制。示例性的，抽检复审可以对应于预设操作：确定目标视频中属于违规的违规视频帧，并输出至审核客户端；接收审核客户端发送的针对违规视频帧的审核结果，作为目标视频的审核结果。人工复审可以对应于预设操作：确定目标视频中包含广告内容的目标视频片段，并输出至审核客户端，接收审核客户端发送的针对目标视频片段的审核结果，作为目标视频的审核结果。或者，示例性的，抽检复审可以对应于预设操作：确定目标视频中包含广告内容的目标视频片段，并输出至审核客户端，接收审核客户端发送的针对目标视频片段的审核结果，作为目标视频的审核结果。人工复审可以对应于预设操作：确定目标视频中属于违规的违规视频帧，并输出至审核客户端；接收审核客户端发送的针对违规视频帧的审核结果，作为目标视频的审核结果。这都是合理的。

在一种可选的实施方式中，上述确定目标视频中包含广告内容的目标视频片段，具体可以包括如下步骤：

当目标视频为广告视频时，将目标视频确定为目标视频片段；

当目标视频不为广告视频时，从目标视频中截取包含广告内容的视频片段，作为目标视频片段。

在具体应用中，确定目标视频是否为广告视频的方式可以是多种的。示例性的，当目标视频存在源地址时，从预存的源地址与视频类型对应关系中，查找目标视频的源地址对应的视频类型，得到目标视频是否为广告视频的结果。其中，视频类型包括：非广告视频和广告视频。或者，示例性的，当目标视频存在视频名称时，如果视频名称包含指定字段，确定目标视频不为广告视频，如果视频名称不包含指定字段，确定目标视频为广告视频。其中，指定字段用于表明目标视频不为广告视频，例如，指定字段可以包括：电视剧，电影，动漫以及短视频等等字段。

并且，示例性的，当目标视频不为广告视频时，从目标视频中截取包含广告内容的视频片段，作为目标视频片段的方式，具体可以包括：当目标视频不为广告视频时，目标视频中包含广告内容的视频片段通常出现在固定的时间段，例如某一集电视剧或者电影的片头和片尾，因此，可以截取目标视频的指定时间段内的视频片段，作为目标视频片段。

本可选实施例可以保证本发明对穿插在普通视频中的广告，以及完整的广告视频均可实现审核，拓宽了本发明实施例的适用场景。

相应于上述方法实施例，本发明一实施例还提供了一种广告审核装置。

如图3所示，本发明实施例提供的一种广告审核装置，所述装置包括：

视频获取模块301，用于在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；

等级获取模块302，用于基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；

操作查找模块303，用于从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，所述违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；所述第一违规等级为违规概率大于第一概率阈值的等级；

操作执行模块304，用于对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果。

本发明实施例提供的方案中，模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型。因此，基于目标视频，利用预先训练得到的模型，可以获取目标视频中广告的违规等级。并且，违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应，进而从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作，并对目标视频执行与所查找的审核操作对应的预设操作，可以得到目标视频的审核结果。可见，本方案利用预先训练得到的模型自动获取目标视频的违规等级，提高广告视频的审核效率，并且，对违规概率大于第一概率阈值的第一违规等级的目标视频进行人工复审，提高广告视频审核的准确率，实现兼顾广告视频审核效率以及准确率的效果。

可选的，所述违规等级与审核操作的对应关系，还包括：第二违规等级与抽检复审对应。

可选的，所述操作执行模块304，具体用于：

确定所述目标视频中属于违规的违规视频帧，并输出至审核客户端；

接收所述审核客户端发送的针对所述违规视频帧的审核结果，作为所述目标视频的审核结果。

可选的，所述操作执行模块304，具体用于：

确定所述目标视频中包含广告内容的目标视频片段，并输出至审核客户端；

接收所述审核客户端发送的针对所述目标视频片段的审核结果，作为所述目标视频的审核结果。

可选的，所述操作执行模块304，具体用于：

当所述目标视频为广告视频时，将所述目标视频确定为目标视频片段；

当所述目标视频还包括除所述广告视频以外的视频内容时，从所述目标视频中截取包含广告内容的视频片段，作为所述目标视频片段。

可选的，所述模型，采用如下步骤训练得到：

获取经过人工审核的多个历史视频进行预处理，得到多个样本视频，并获取每个样本视频的违规等级标签；所述预处理用于剔除所述历史视频中视频源地址不完整以及视频格式与指定格式不同的视频；

将所述多个样本视频和每个样本视频的违规等级标签，划分为训练集和测试集；

利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试；

当测试结果满足预设测试条件时，将所训练的神经网络模型确定为训练得到的模型，否则，重复所述利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试的步骤。

本发明实施例还提供了一种电子设备，如图4所示，包括处理器401、通信接口402、存储器403和通信总线404，其中，处理器401，通信接口402，存储器403通过通信总线404完成相互间的通信，

存储器403，用于存放计算机程序；

处理器401，用于执行存储器403上所存放的程序时，实现如下步骤：

在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；

基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；

从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，所述违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；所述第一违规等级为违规概率大于第一概率阈值的等级；

对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果。

上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述电子设备与其他设备之间的通信。

存储器可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器，包括中央处理器(Central Processor Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一广告审核方法的步骤。

在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一广告审核方法。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置和设备实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (10)

1.一种广告审核方法，其特征在于，所述方法包括：

在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；

基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；

从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，所述违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；所述第一违规等级为违规概率大于第一概率阈值的等级；

对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果。

2.根据权利要求1所述的方法，其特征在于，所述违规等级与审核操作的对应关系，还包括：第二违规等级与抽检复审对应。

3.根据权利要求1所述的方法，其特征在于，所述对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果，包括：

确定所述目标视频中属于违规的违规视频帧，并输出至审核客户端；

接收所述审核客户端发送的针对所述违规视频帧的审核结果，作为所述目标视频的审核结果。

4.根据权利要求1所述的方法，其特征在于，所述对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果，包括：

确定所述目标视频中包含广告内容的目标视频片段，并输出至审核客户端；

接收所述审核客户端发送的针对所述目标视频片段的审核结果，作为所述目标视频的审核结果。

5.根据权利要求4所述的方法，其特征在于，所述确定所述目标视频中包含广告内容的目标视频片段，包括：

当所述目标视频为广告视频时，将所述目标视频确定为目标视频片段；

当所述目标视频还包括除所述广告视频以外的视频内容时，从所述目标视频中截取包含广告内容的视频片段，作为所述目标视频片段。

6.根据权利要求1所述的方法，其特征在于，所述模型，采用如下步骤训练得到：

获取经过人工审核的多个历史视频进行预处理，得到多个样本视频，并获取每个样本视频的违规等级标签；所述预处理用于剔除所述历史视频中视频源地址不完整以及视频格式与指定格式不同的视频；

将所述多个样本视频和每个样本视频的违规等级标签，划分为训练集和测试集；

利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试；

当测试结果满足预设测试条件时，将所训练的神经网络模型确定为训练得到的模型，否则，重复所述利用所述训练集对神经网络模型进行训练，并利用所述测试集对所训练的神经网络模型进行测试的步骤。

7.一种广告审核装置，其特征在于，所述装置包括：

视频获取模块，用于在获取到对视频进行广告审核的指令时，获取所述指令对应的目标视频；

等级获取模块，用于基于所述目标视频，利用预先训练得到的模型，获取所述目标视频中广告的违规等级；所述模型为利用多个样本视频和每个样本视频的违规等级标签训练得到的神经网络模型；

操作查找模块，用于从预存的违规等级与审核操作的对应关系中，查找与所获取的违规等级对应的审核操作；其中，所述违规等级与审核操作的对应关系，至少包括：第一违规等级与人工复审对应；所述第一违规等级为违规概率大于第一概率阈值的等级；

操作执行模块，用于对所述目标视频执行与所查找的审核操作对应的预设操作，得到所述目标视频的审核结果。

8.根据权利要求7所述的装置，其特征在于，所述违规等级与审核操作的对应关系，还包括：第二违规等级与抽检复审对应。

9.根据权利要求7所述的装置，其特征在于，所述操作执行模块，具体用于：

确定所述目标视频中属于违规的违规视频帧，并输出至审核客户端；

接收所述审核客户端发送的针对所述违规视频帧的审核结果，作为所述目标视频的审核结果。

10.根据权利要求7所述的装置，其特征在于，所述操作执行模块，具体用于：

确定所述目标视频中包含广告内容的目标视频片段，并输出至审核客户端；

接收所述审核客户端发送的针对所述目标视频片段的审核结果，作为所述目标视频的审核结果。

Images