CN109597916A - 视频风险分类方法、装置、电子设备及储存介质 - Google Patents

Abstract

本申请是关于一种视频风险分类方法、装置、电子设备及存储介质，涉及数据挖掘技术领域，所述方法包括：获取针对视频的意向行为和对应的评论样本；基于所述意向行为将所述对应的评论样本分类；基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；基于所述目标风险评论分类模型，确定目标视频的风险分类。通过意向行为将对应的评论样本自动进行分类，提升了对视频进行风险分类的效率，同时，可以快速增大评论样本的数量，进而提高目标风险评论分类模型的准确率，提升了对目标视频风险分类的准确性和效率。

Description

视频风险分类方法、装置、电子设备及储存介质

技术领域

本公开涉及数据挖掘技术领域，尤其涉及视频风险分类方法、装置、电子设备及存储介质。

背景技术

随着多媒体技术的高速发展，各种各样的视频在网络上不断涌现。然而，有些视频并不适合未成年人观看，例如带有暴力和色情内容的视频。为了未成年人的健康成长，建立一个良好的网络环境是非常必要的。获取视频的风险分类是建立一个良好的网络环境的基础。现有技术，通过人工标注的方式获取视频的风险分类，耗费大量人力物力，且分类效率低。

然而，如何高效、省力地获取视频的风险分类是一个亟待解决的技术问题。

发明内容

为克服相关技术中存在的问题，本公开提供一种视频风险分类方法，该模型用于对视频进行风险分类。

根据本公开实施例的第一方面，提供一种视频风险分类方法，包括

获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行情感分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。

可选的，所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型之前，还包括：

获取所述分类后的评论样本中的单个字；

确定所述单个字的字向量；

依据所述字向量训练原始句向量模型，得到目标句向量模型；

基于所述目标句向量模型，获取所述分类后的评论样本对应的分类句向量样本；

所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型，包括：

基于所述分类句向量样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型。

可选的，所述确定所述单个字的字向量，包括：

采用预设字向量模型确定所述单个字的字向量。

可选的，所述基于所述意向行为将所述对应的评论样本分类，包括：

若所述意向行为包括：点赞、下载、分享中的至少一种，将所述对应的评论样本分类为正倾向；

若所述意向行为包括：举报、讨厌中的中的至少一种，将所述对应的评论样本分类为负倾向；

否则，将所述对应的评论样本分类为中性倾向。

可选的，所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型之前，还包括：

将各类评论样本中符合预设过滤条件的样本过滤；所述预设过滤条件包括：重复过滤条件、长度过滤条件、各类样本共用过滤条件中的至少一种；

所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型，包括：

基于过滤后的分类评论样本对所述原始风险评论分类模型进行训练，得到目标风险评论分类模型。

可选的，所述基于所述目标风险评论分类模型，确定目标视频的风险分类，包括：

获取目标用户针对所述目标视频的评论数据；

将所述评论数据，输入所述目标风险评论分类模型，获取所述目标用户评论的风险分类。

基于所述目标用户评论的风险分类，确定所述目标视频的风险分类。

根据本公开实施例的第二方面，提供一种视频风险分类装置，包括

评论样本获取模块，被配置为获取针对视频的意向行为和对应的评论样本；

评论样本分类模块，被配置为基于所述意向行为将所述对应的评论样本分类；

目标风险评论分类模型训练模块，被配置为基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

目标视频的风险分类确定模块，被配置为基于所述目标风险评论分类模型，确定目标视频的风险分类。

可选的，所述的装置还包括：

单个字获取模块，被配置为获取所述分类后的评论样本中的单个字；

字向量确定模块，被配置为确定所述单个字的字向量；

目标句向量模型训练模块，被配置为依据所述字向量训练原始句向量模型，得到目标句向量模型；

分类句向量样本获取模块，被配置为基于所述目标句向量模型，获取所述分类后的评论样本对应的分类句向量样本；

所述目标风险评论分类模型训练模块，包括：

目标风险评论分类模型第一训练单元，被配置为基于所述分类句向量样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型。

可选的，所述字向量确定模块，包括：

字向量确定单元，被配置为采用预设字向量模型确定所述单个字的字向量。

可选的，所述评论样本分类模块，包括：

第一评论样本分类单元，被配置为若所述意向行为包括：点赞、下载、分享中的至少一种，将所述对应的评论样本分类为正倾向；

第二评论样本分类单元，被配置为若所述意向行为包括：举报、讨厌中的中的至少一种，将所述对应的评论样本分类为负倾向；

第三评论样本分类单元，被配置为否则，将所述对应的评论样本分类为中性倾向。

可选的，所述的装置还包括：

样本过滤模块，被配置为将各类评论样本中符合预设过滤条件的样本过滤；所述预设过滤条件包括：重复过滤条件、长度过滤条件、各类样本共用过滤条件中的至少一种；

所述目标风险评论分类模型训练模块，包括：

目标风险评论分类模型第二训练单元，被配置为基于过滤后的分类评论样本对所述原始风险评论分类模型进行训练，得到目标风险评论分类模型。

可选的，所述目标视频的风险分类确定模块，包括：

评论数据获取单元，被配置为获取目标用户针对所述目标视频的评论数据；

评论风险分类单元，被配置为将所述评论数据，输入所述目标风险评论分类模型，获取所述目标用户评论的风险分类。

目标视频的风险分类确定单元，被配置为基于所述目标用户评论的风险分类，确定所述目标视频的风险分类。

根据本公开实施例的第三方面，提供一种视频风险分类电子设备，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。

根据本公开实施例的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种视频风险分类方法，所述方法包括：获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。

根据本公开实施例的第五方面，提供一种计算机程序产品，当所述计算机程序产品中的指令由移动终端的处理器执行时，使得移动终端能够执行一种视频风险分类方法，所述方法包括：获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。

本公开的实施例提供的技术方案可以包括以下有益效果：获取针对视频的意向行为和对应的评论样本；基于所述意向行为将所述对应的评论样本分类；即，通过意向行为将对应的评论样本自动进行分类，无需人工参与，节省人力物力，且分类效率高；基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；基于所述目标风险评论分类模型，确定目标视频的风险分类。提高了评论样本的分类效率，进而提升了对视频的评论数据进行风险分类的效率；同时，通过意向行为将对应的评论样本自动进行分类，进而可以在短时间内对大量的评论样本进行分类，可以快速增大评论样本的数量，进而提高目标风险评论分类模型的准确率，基于该目标风险评论分类模型，确定目标视频的风险分类，提升了对目标视频风险分类的准确性和效率，有助于建立良好的网络环境。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。

图1是根据一示例性实施例示出的一种视频风险分类方法的流程图。

图2是根据一示例性实施例示出的另一种视频风险分类方法的流程图。

图3是根据一示例性实施例示出的一种视频风险分类装置框图。

图4是根据一示例性实施例示出的另一种视频风险分类装置框图。

图5是根据一示例性实施例示出的一种用于视频风险分类的电子设备的框图。

图6是根据一示例性实施例示出的另一种用于视频风险分类的电子设备的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

图1是根据一示例性实施例示出的一种视频风险分类方法的流程图，如图1所示，视频风险分类方法用于终端中，包括以下步骤。

在步骤S11中，获取针对视频的意向行为和对应的评论样本。

在本申请实施例中，视频能够提供评论功能。该视频可以为音视频文件等，例如，该视频可以为电影A。本申请实施例对此不作具体限定。

在本申请实施例中，视频的意向行为可以为，能够初步体现用户针对视频的评论的风险行为等，例如，可以为点赞、分享、下载等。例如，该视频的意向行为可以为针对上述电影A的点赞。本申请实施例对此不作具体限定。

在本申请实施例中，可以通过网络爬虫等获取到针对视频的意向行为和对应的评论样本，该评论样本为用户针对视频的评论数据等。例如，该评论样本可以为针对电影A的评论数据等。本申请实施例对此不作具体限定。

在本申请实施例中，该评论样本可以为任何语种的评论，例如，可以为汉语评论样本、英语评论样本等。本申请实施例对此不作具体限定。

在本发明实施例中，为了获取到具有一定代表性或针对性的对该视频的意向行为和对应的评论样本，可选的，可以对用户进行限定，例如，通常家长或成年人对视频的意向行为和对应的评论具有一定的指导性，或者，家长或成年人对视频的意向行为和对应的评论更为理智，在获取针对视频的意向行为和对应的评论样本过程中，可以仅获取家长或成年人对视频的意向行为或对应的评论样本。例如，可以设定一定的年龄阈值，该年龄阈值可以为能够表征其已经成为家长或其为成年人的年龄阈值，通过用户年龄等信息，确定针对视频获取哪些意向行为和对应的评论样本。在本发明实施例中，对此不作具体限定。

在本发明实施例中，可选的，将视频的意向行为和对应的评论样本，限定在家长或成年人针对视频的意向行为和对应的评论，能够从很大程度上保证获取到的意向行为和对应的评论样本更为理智，能够进一步提升后续风险评论分类模型的准确性，进而可以提升后续对目标视频的风险分类的准确性。

在步骤S12中，基于所述意向行为将所述对应的评论样本分类。

在本申请实施例中，意向行为基本能够初步体现用户针对视频评论的风险意向，因此可以基于上述意向行为将上述对应的评论样本进行分类。上述分类可以为，用户针对该视频风险较低或安全或正倾向的评论样本；用户针对该视频的风险较大或负倾向的评论样本；用户针对该视频的风险为中级或中性倾向等的评论样本。本申请实施例对此不作具体限定。

具体的，通常用户在认为该视频风险较小的情况下，对该视频的评论通常为风险较低或安全或正倾向的评论，用户可能会分享该视频，因此，若用户的意向行为为分享该视频，则可以初步表明该评论样本可能为评论该视频风险较小的评论，则该用户针对该视频对应的评论样本表述的可能为该视频风险较小，进而，在用户的意向行为为分享该视频的情况下，可以将对应的评论样本分类为风险较小类别的评论样本，或正倾向类别的评论样本。

在本申请实施例中，意向行为基本能够初步体现用户针对视频评论的风险意向等，因此基于上述意向行为将上述对应的评论样本进行分类，通常分类准确率较高，而且，通过上述意向行为可以快速自动的将评论样本进行分类，相对于现有技术中，人工对评论样本进行分类而言，提高了分类效率，同时，能够避免人为主观性导致的分类错误。在步骤S13中，基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类。

在本申请实施例中，该原始风险评论分类模型可以为前反馈神经网络，具体的，该原始风险评论分类模型可以为递归神经网络等。本申请实施例对此不作具体限定。

在本申请实施例中，基于分类后的评论样本对上述原始风险评论分类模型进行训练，得到目标风险评论分类模型，该目标风险评论分类模型可以用于对视频的目标评论进行风险分类。该目标评论可以为针对该视频的评论数据等。通过该目标风险评论分类模型将视频的目标评论分类为该视频为低风险或正倾向的评论，该视频为高风险或反倾向的评论，该视频为中等风险或中性倾向等的评论。本申请实施例对此不作具体限定。

在步骤S14中，基于所述目标风险评论分类模型，确定目标视频的风险分类。

在本发明实施例中，该目标视频该可以为待风险分类的视频等。在申请实施例中对此不作具体限定。

在本发明实施例中，基于上述目标风险评论分类模型，确定目标视频的风险分类，具体的，可以将该目标视频的评论数据等，输入上述目标风险评论分类模型，得到该评论数据的风险分类，将该评论数据的风险分类作为该目标视频的风险分类等。在本发明实施例中，对此不作具体限定。

例如，若目标视频为电影D，将电影D的评论数据，输入上述目标风险评论分类模型，可以获取该电影D的评论数据的风险分类，若电影D的评论数据的风险分类为高风险或危险，则可以将该电影D的风险分类确定为高风险或危险。

本公开的实施例提供的技术方案可以包括以下有益效果：获取针对视频的意向行为和对应的评论样本；基于所述意向行为将所述对应的评论样本分类；即，通过意向行为将对应的评论样本自动进行分类，无需人工参与，节省人力物力，且分类效率高；基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类。提高了评论样本的分类效率，进而提升了对视频的评论数据进行风险分类的效率；同时，通过意向行为将对应的评论样本自动进行分类，进而可以在短时间内对大量的评论样本进行分类，可以快速增大评论样本的数量，进而提高目标风险评论分类模型的准确率，基于该目标风险评论分类模型，确定目标视频的风险分类，提升了对目标视频风险分类的准确性和效率，有助于建立良好的网络环境。

图2是根据一示例性实施例示出的另一种视频风险分类方法的流程图，如图2所示，视频风险分类方法用于终端中，包括以下步骤。

在步骤S21中，获取针对视频的意向行为和对应的评论样本。

在本申请实施例中，步骤S21可以参照上述步骤S11，为避免重复，此处不再赘述。

在步骤S22中，若所述意向行为包括：点赞、下载、分享中的至少一种，将所述对应的评论样本分类为正倾向；若所述意向行为包括：举报、讨厌中的中的至少一种，将所述对应的评论样本分类为负倾向；否则，将所述对应的评论样本分类为中性倾向。

在本申请实施例中，针对视频的意向行为可以包括：点赞、分享、下载、举报、讨厌等中的至少一种。通常用户如果对视频点赞、分享、下载等可能表明用户认为该视频的风险较低或安全，此种情况下，用户对该视频的评论通常为表征该视频的风险较低或安全的评论。通常若点赞、分享、下载该视频，用户对该视频的评论样本通常也可以为正倾向，则若用户的意向行为包括：点赞、下载、分享中的至少一种，可以将对应的评论样本分类正倾向。

通常用户如果对视频举报、讨厌等，可能表明用户认为该视频的风险较高或危险，此种情况下，用户对该视频的评论通常为表征该视频的风险较高或危险的评论。通常若举报、讨厌该视频，用户对该视频的评论样本通常也可以为负倾向，即认为该视频的风险较高或危险，或不利于构建安全的网络环境，则若用户的意向行为包括：举报、讨厌中的至少一种，可以将对应的评论样本分类负倾向。

在本申请实施例中，如果用户针对视频没有上述意向行为，可能表征用户对该视频没有特别明确的倾向性意见，此种情况下，用户对该视频的评论通常也为没有明确意向的评论。通常无法初步获取用户对该视频的明确意图，此种情况下，可以将对应的评论样本确定为中性倾向。

例如，针对电影B，若用户的意向行为为举报，则可能表征该用户认为电影B的风险较高或危险，不利于构建安全的网络环境，其对应的评论样本通常也会表达对该电影B风险较高或危险，不利于构建安全的网络环境等评论信息等，可以将对应的评论样本分类为负倾向。

在本申请实施例中，上述意向行为基本能够初步体现用户针对视频评论的风险意向，因此基于上述意向行为将上述对应的评论样本进行分类，通常分类准确率较高，而且，通过上述意向行为可以快速自动的将评论样本进行分类，相对于现有技术中，人工对评论样本进行分类而言，提高了分类效率，同时，能够避免人为主观性导致的分类错误。

在本申请可选的实施例中，在将评论样本分类后，以及对原始风险评论模型训练前，还可以包括：将各类评论样本中符合预设过滤条件的样本过滤；所述预设过滤条件包括：重复过滤条件、长度过滤条件、各类样本共用过滤条件中的至少一种。具体的，可以将同一类样本中，重复次数超过一定阈值的评论样本过滤掉，以提升该类评论样本的代表性，同样的，可以将评论样本中重复次数较多的语句也过滤掉，减少不必要的重复处理。还可以将三类样本中共用的样本过滤掉，即三类样本中均出现的样本对后续原始风险评论模型的训练，没有较大贡献，可以将其过滤掉，以提升模型训练的速度和准确度。若评论样本过短，或评论样本中某些语句过短，其可能没有表述具体的含义，则对后续原始风险评论模型的训练也没有较大贡献，也可以将其过滤掉，以提升模型训练的速度和准确度。

在步骤S23中，获取所述分类后的评论样本中的单个字。

在本申请实施例中，该评论样本可以为任何语种的评论，例如，可以为汉语评论样本、英语评论样本等。该评论样本中的单个字，可以与该评论样本的语种对应。例如，若该评论样本为汉语评论样本，则获取到分类后的评论样本中的单个汉字，若该评论样本为英语评论样本，则获取到分类后的评论样本中的单个单词等。本申请实施例对此不作具体限定。

在本申请实施例中，可以基于各个单个字在评论样本中的出现顺序，依次获取各个单个字。本申请实施例对此不作具体限定。

在步骤S24中，确定所述单个字的字向量。

在本申请实施例中，字向量可以为用于表示字的特征的向量，字向量的每一维的值可以代表一个具有一定的语义和语法上解释的特征。该特征可以是字的基本要素进行表征的信息，例如该特征可以为字的偏旁、部首、笔画、含义等，本申请实施例对此不作具体限定。

在本申请实施例中，在确定单个字的字向量过程中，可以根据预先设置的字与字向量的对应关系，匹配确定评论样本中各个字的字向量。可以通过机器学习相对神经网络进行训练，以获取上述预先设置的字与字向量的对应关系，本申请实施例对此不作具体限定。

在本申请可选的实施例中，所述确定所述单个字的字向量，可以包括：采用预设字向量模型确定所述单个字的字向量。具体的，可以通过词向量模型确定单个字的字向量，以提升字向量的准确性。

在本申请实施例中，用单个字的字向量代替现有技术中的词向量，避免了对评论样本分词不准，导致后续对原始风险评论模型的训练的影响。

在步骤S25中，依据所述字向量训练原始句向量模型，得到目标句向量模型。

在申请实施例中，该原始句向量模型可以为前反馈神经网络，具体的，该原始句向量模型可以为递归神经网络等。本申请实施例对此不作具体限定。

在申请实施例中，将上述字向量作为原始句向量模型的输入，对上述原始句向量模型进行训练，以得到目标句向量模型。在上述字向量输入过程中，可以按照对应的单个字在对应评论样本中出现的顺序进行输入。

在申请实施例中，该目标句向量模型的输入可以为单个字向量，其输出可以为由上述单个字组成的句子对应的句向量。该句向量为能够表征单个字组成的句子语义的特征向量。本申请实施例对此不作具体限定。

在步骤S26中，基于所述目标句向量模型，获取所述分类后的评论样本对应的分类句向量样本。

在申请实施例中，基于上述目标句向量模型，获取分类后的评论样本对应的分类句向量样本。具体的，将每一类评论样本中各个评论样本，按照单个字在该评论样本中的出现顺序，输入上述目标句向量模型，得到该评论样本对应的分类句向量。通常，正倾向评论样本中单个字输入上述目标句向量模型，可以得到正倾向的分类句向量，负倾向评论样本中单个字输入上述目标句向量模型，可以得到负倾向的分类句向量，中性倾向评论样本中单个字输入上述目标句向量模型，可以得到中性倾向的分类句向量。本申请实施例对此不作具体限定。

例如，若针对正倾向评论样本中的评论样本C，按照评论样本C中的单个字在评论样本C中的出现顺序依次输入该目标句向量模型，即可以得到正倾向评论样本C的分类句向量。

在步骤S27中，基于所述分类句向量样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类。

在申请实施例中，上述原始风险评论模型可以参照上述步骤S13中的相关记载，为避免重复此处不再赘述。基于上述分类句向量样本对原始风险评论模型进行训练，具体的，可以由上述正倾向的分类句向向量、负倾向的分类句向量、中性倾向的分类句向量，对上述原始风险评论分类模型进行训练，获得目标评论分类模型。

在申请实施例中，该目标风险评论分类模型可以用于对视频的目标评论进行风险分类。该目标评论可以为针对该视频的评论数据等。通过该目标风险评论分类模型可以将视频的目标评论分类为该视频低风险、安全或正倾向的评论，该视频高风险、危险或反倾向的评论，该视频中等风险、持中立态度或中性倾向的评论等。本申请实施例对此不作具体限定。

在申请可选的实施例中，所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型，可以包括：基于过滤后的分类评论样本对所述原始风险评论分类模型进行训练，得到目标风险评论分类模型。具体的，基于过滤后的分类评论样本对上述原始风险评论分类模型进行训练，具体的，可以将同一类样本中，重复次数超过一定阈值的评论样本过滤掉，以提升该类评论样本的代表性，同样的，可以将评论样本中重复次数较多的语句也过滤掉，减少不必要的重复处理。还可以将三类样本中共用的样本过滤掉，即三类样本中均出现的样本对后续原始风险评论模型的训练，没有较大贡献，可以将其过滤掉，以提升模型训练的速度和准确度。若评论样本过短，或评论样本中某些语句过短，其可能没有表述具体的含义，则对后续原始风险评论模型的训练也没有较大贡献，也可以将其过滤掉，基于过滤后的分类评论样本对上述原始风险评论分类模型进行训练，得到目标风险评论分类模型，可以提升模型训练的速度，同时上述过滤相当于将对模型训练贡献较小的评论样本过滤，进而参与模型训练的评论样本具有很强的代表性，因此该目标风险评论分类模型的准确度高。

在步骤S28中，获取目标用户针对所述目标视频的评论数据。

在申请实施例中，目标用户可以为浏览、查看该视频的用户等。该目标用户可以为该视频的潜在客户等。该目标用户还可以为浏览、查看该视频的家长或成年人等，或者，该目标用户还可以为浏览、查看该视频的风险评估专家等。在申请实施例中对此不作具体限定。

在申请实施例中，该目标视频可以为待进行风险分类的视频等。在申请实施例中对此不作具体限定。

在申请实施例中，目标用户针对目标视频的评论数据可以为该目标用户针对目标视频的所有评论数据或部分评论数据等。同样的，可以通过网络爬虫等获取目标用户针对该目标视频的评论数据等。在申请实施例中对此不作具体限定。

在步骤S29中，将所述评论数据，输入所述目标风险评论分类模型，获取所述目标用户评论的风险分类。

在申请实施例中，可以将目标用户针对上述目标视频的评论数据输入上述目标风险评论分类模型，进而可以得到该目标用户评论的风险分类。具体的，将目标用户针对目标视频的评论数据输入上述目标风险评论分类模型，得到该目标用户对该目标视频评论的风险分类。在申请实施例中对此不作具体限定。

例如，若目标视频为电影D，将目标用户对电影D的评论数据，输入上述目标风险评论分类模型，可以获取该目标用户对该电影D的评论的风险分类，或对该电影D代表的一类电影的评论的风险分类等。

在步骤S30中，基于所述目标用户评论的风险分类，确定所述目标视频的风险分类。

在申请实施例中，基于目标用户评论的风险分类，确定该目标视频的风险分类，具体的，由于该目标用户评论的风险分类是针对该目标视频的，可以直接将该目标用户评论的风险分类确定为该目标视频的风险分类。

例如，针对上述例子，若目标视频为电影D，将目标用户对电影D的评论数据，输入上述目标风险评论分类模型，该目标用户对该电影D的评论的风险分类若为高风险或危险，则可以将该电影D的风险分类确定为高风险或危险。

在申请实施例中，可选的，还可以基于多个不同目标用户针对上述目标视频的风险分类，确定视频的风险分类。该多个目标用户可以根据实际需要等确定。本实施例对此不作具体限定。

具体的，可以对多个不同目标用户针对同一目标视频的风险分类进行统计等，根据上述统计结果分析该目标视频的风险分类。

例如，若目标视频为喜剧电影F，若目标用户1对喜剧电影F的风险分类为高风险或危险，若目标用户2对喜剧电影F的风险分类为高风险或危险，若目标用户3对喜剧电影F的风险分类为高风险或危险，若目标用户4对喜剧电影F的风险分类为高风险或危险，若目标用户5对喜剧电影F的风险分类为高风险或危险，若目标用户6对喜剧电影F的风险分类为低风险或安全，若目标用户7对喜剧电影F的风险分类为中等危险，若目标用户8对喜剧电影F的风险分类为高风险或危险，若目标用户3对喜剧电影F的风险分类为高风险或危险，若目标用户9对喜剧电影F的风险分类为高风险或危险，若目标用户10对喜剧电影F的风险分类为高风险或危险，通过统计，可以得到10个不同目标用户中，有8个目标用户认为喜剧电影F的风险分类为高风险或危险，1个目标用户认为喜剧电影F的风险分类为低风险或安全，1个目标用户认为喜剧电影F的风险分类为中等风险，可以将目标视频喜剧电影F的风险分类确定为高风险或危险。

在本发明实施例中，通过多个不同目标用户的同一目标视频的风险分类，确定该目标视频的风险分类，能够从一定程度上提升对该目标视频的风险分类的准确性，进而有助于提升网络环境的安全。。

在本发明实施例中，可选的，针对第二用户可以屏蔽风险分类为高风险或危险的目标视频，或，针对第二用户可以推荐风险分类为低风险或安全的目标视频。该第二用户可以为青少年等，可以设置青少年年龄阈值，将年龄小于等于该青少年年龄阈值的用户确定为第二用户。屏蔽风险分类为高风险或危险的目标视频，进而进一步保护青少年免受不良网络环境的侵害。

例如，针对上述例子，目标视频喜剧电影F的风险分类确定为高风险或危险，则针对第二用户可以为其屏蔽该喜剧电影F。进而进一步保护青少年免受不良网络环境的侵害。

本公开的实施例提供的技术方案可以包括以下有益效果：获取针对视频的意向行为和对应的评论样本；基于所述意向行为将所述对应的评论样本分类；即，通过意向行为将对应的评论样本自动进行分类，无需人工参与，节省人力物力，且分类效率高；基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类。提高了评论样本的分类效率，进而提升了对视频的评论数据进行风险分类的效率；同时，通过意向行为将对应的评论样本自动进行分类，进而可以在短时间内对大量的评论样本进行分类，可以快速增大评论样本的数量，进而提高目标风险评论分类模型的准确率。通过上述较为准确的目标风险评论分类模型，获取目标用户的风险分类，基于目标用户的风险分类为目标用户推荐与该风险分类对应的视频，可以提升推荐成功率，基于该目标风险评论分类模型，确定目标视频的风险分类，提升了对目标视频风险分类的准确性和效率，有助于建立良好的网络环境。

图3是根据一示例性实施例示出的一种视频风险分类装置框图。参照图3，该装置300可以包括评论样本获取模块301，评论样本分类模块302、目标风险评论分类模型训练模块307和目标视频的风险分类确定模块308。

该评论样本获取模块301，被配置为获取针对视频的意向行为和对应的评论样本；

该评论样本分类模块302，被配置为基于所述意向行为将所述对应的评论样本分类；

该目标风险评论分类模型训练模块307，被配置为基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

目标视频的风险分类确定模块308，被配置为基于所述目标风险评论分类模型，确定目标视频的风险分类。

可选的，参照图4，图4是根据一示例性实施例示出的另一种视频风险分类装置框图。所述的装置300还可以包括：单个字获取模块303，字向量确定模块304、目标句向量模型训练模块305和分类句向量样本获取模块306。

该单个字获取模块303，被配置为获取所述分类后的评论样本中的单个字；

该字向量确定模块304，被配置为确定所述单个字的字向量；

该目标句向量模型训练模块305，被配置为依据所述字向量训练原始句向量模型，得到目标句向量模型；

该分类句向量样本获取模块306，被配置为基于所述目标句向量模型，获取所述分类后的评论样本对应的分类句向量样本；

所述目标风险评论分类模型训练模块307，可以包括：目标风险评论分类模型第一训练单元3071。

该目标风险评论分类模型第一训练单元3071，被配置为基于所述分类句向量样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型。

可选的，所述字向量确定模块304，可以包括：字向量确定单元。

该字向量确定单元，被配置为采用预设字向量模型确定所述单个字的字向量。

可选的，所述评论样本分类模块302，可以包括：第一评论样本分类单元3021，第二评论样本分类单元3022和第三评论样本分类单元3023。

该第一评论样本分类单元3021，被配置为若所述意向行为包括：点赞、下载、分享中的至少一种，将所述对应的评论样本分类为正倾向；

该第二评论样本分类单元3022，被配置为若所述意向行为包括：举报、讨厌中的中的至少一种，将所述对应的评论样本分类为负倾向；

该第三评论样本分类单元3023，被配置为否则，将所述对应的评论样本分类为中性倾向。

可选的所述的装置300还可以包括：

样本过滤模块，被配置为将各类评论样本中符合预设过滤条件的样本过滤；所述预设过滤条件包括：重复过滤条件、长度过滤条件、各类样本共用过滤条件中的至少一种；

所述目标风险评论分类模型训练模块307，还可以包括：

目标风险评论分类模型第二训练单元，被配置为基于过滤后的分类评论样本对所述原始风险评论分类模型进行训练，得到目标风险评论分类模型。

可选的，所述目标视频的风险分类确定模块308，可以包括：

评论数据获取单元3081，被配置为获取目标用户针对所述目标视频的评论数据；

评论风险分类单元3082，被配置为将所述评论数据，输入所述目标风险评论分类模型，获取所述目标用户评论的风险分类；

目标视频的风险分类确定单元3083，被配置为基于所述目标用户评论的风险分类，确定所述目标视频的风险分类。

关于上述实施例中的装置，其中各个模块或单元执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

图5是根据一示例性实施例示出的一种用于视频风险分类的电子设备800的框图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。

参照图5，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电力组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。

处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或5G)，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

电子设备800的处理器820被配置为执行上述视频风险分类方法的各个步骤，并能达到相同的效果，为了避免重复，此处不再赘述。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由电子设备800的处理器820执行以完成上述视频风险分类方法的各个步骤，并能达到相同的效果，为了避免重复，此处不再赘述。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

图6是根据一示例性实施例示出的另一种用于视频风险分类的电子设备1900的框图。例如，电子设备1900可以被提供为一服务器。参照图6，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述视频风险分类方法的各个步骤，并能达到相同的效果，为了避免重复，此处不再赘述。

电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。

根据本申请实施例的一个方面，还公开了一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行上述视频风险分类方法的各个步骤，并能达到相同的效果，为了避免重复，此处不再赘述。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种视频风险分类方法，其特征在于，包括：

获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。

2.根据权利要求1所述的视频风险分类方法，其特征在于，所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型之前，还包括：

获取所述分类后的评论样本中的单个字；

确定所述单个字的字向量；

依据所述字向量训练原始句向量模型，得到目标句向量模型；

基于所述目标句向量模型，获取所述分类后的评论样本对应的分类句向量样本；

所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型，包括：

基于所述分类句向量样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型。

3.根据权利要求2所述的视频风险分类方法，其特征在于，所述确定所述单个字的字向量，包括：

采用预设字向量模型确定所述单个字的字向量。

4.根据权利要求1所述的视频风险分类方法，其特征在于，所述基于所述意向行为将所述对应的评论样本分类，包括：

若所述意向行为包括：点赞、下载、分享中的至少一种，将所述对应的评论样本分类为正倾向；

若所述意向行为包括：举报、讨厌中的中的至少一种，将所述对应的评论样本分类为负倾向；

否则，将所述对应的评论样本分类为中性倾向。

5.根据权利要求1所述的视频风险分类方法，其特征在于，所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型之前，还包括：

将各类评论样本中符合预设过滤条件的样本过滤；所述预设过滤条件包括：重复过滤条件、长度过滤条件、各类样本共用过滤条件中的至少一种；

所述基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型，包括：

基于过滤后的分类评论样本对所述原始风险评论分类模型进行训练，得到目标风险评论分类模型。

6.根据权利要求1所述的视频风险分类方法，其特征在于，所述基于所述目标风险评论分类模型，确定目标视频的风险分类，包括：

获取目标用户针对所述目标视频的评论数据；

将所述评论数据，输入所述目标风险评论分类模型，获取所述目标用户评论的风险分类；

基于所述目标用户评论的风险分类，确定所述目标视频的风险分类。

7.一种视频风险分类装置，其特征在于，包括：

评论样本获取模块，被配置为获取针对视频的意向行为和对应的评论样本；

评论样本分类模块，被配置为基于所述意向行为将所述对应的评论样本分类；

目标风险评论分类模型训练模块，被配置为基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

目标视频的风险分类确定模块，被配置为基于所述目标风险评论分类模型，确定目标视频的风险分类。

8.根据权利要求7所述的视频风险分类装置，其特征在于，所述的装置还包括：

单个字获取模块，被配置为获取所述分类后的评论样本中的单个字；

字向量确定模块，被配置为确定所述单个字的字向量；

目标句向量模型训练模块，被配置为依据所述字向量训练原始句向量模型，得到目标句向量模型；

分类句向量样本获取模块，被配置为基于所述目标句向量模型，获取所述分类后的评论样本对应的分类句向量样本；

所述目标风险评论分类模型训练模块，包括：

目标风险评论分类模型第一训练单元，被配置为基于所述分类句向量样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型。

9.一种视频风险分类电子设备，其特征在于，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。

10.一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种视频风险分类方法，所述方法包括：获取针对视频的意向行为和对应的评论样本；

基于所述意向行为将所述对应的评论样本分类；

基于分类后的评论样本对原始风险评论分类模型进行训练，得到目标风险评论分类模型；所述目标风险评论分类模型用于对视频的目标评论进行风险分类；

基于所述目标风险评论分类模型，确定目标视频的风险分类。