CN104918066B - 视频内容审核方法及系统 - Google Patents

Abstract

本发明公开了一种视频内容审核方法及系统，其中视频内容审核方法包括解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；接收来自各个指定用户反馈的评论信息；将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核。本技术方案通过结合部分指定用户的评论和系统预设的敏感词匹配过滤以实现对待审核视频数据的自动审核，从而既提高了视频审核效率，又改善了用户体验。

Description

视频内容审核方法及系统

技术领域

本发明涉及互联网技术领域，特别涉及一种视频内容审核方法及系统。

背景技术

随着互联网技术的发展，网络上的视频资源越来越丰富。近年来，互联网用户越来越热衷于在视频网站上分享自制的视频内容，尤其在主流的视频网站上（例如优酷土豆视频、腾讯视频等），每天的视频点击率可达上千万次，视频的上传量也可达上万段。

由于视频分享的巨大影响范围，对其内容的审核就必不可少。但是对于如此庞大的视频上传数量，现有技术中主要是通过审核人员进行人工审核，其工作量无疑非常巨大，且效率必然低下。另一方面，对于用户而言，从视频的上传到最终发布往往需要经历漫长的等待时间，用户体验较差。

因此，需要一种高效的视频内容审核系统来帮助视频内容的提供方或提供视频分享业务的网站进行内容审核，但目前仍没有较理想的解决方案。

发明内容

本发明解决的问题是现有的视频内容审核效率低下，且用户体验不佳。

为解决上述问题，本发明实施例提供一种视频内容审核方法，包括如下步骤：解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；接收来自各个指定用户反馈的评论信息；将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核。

可选的，所述将所述待审核视频数据推送至多个指定用户包括：从注册用户的个人信息中获取各个注册用户的兴趣关键词；基于所述视频描述信息，选择与之相匹配的兴趣关键词所对应的注册用户作为指定用户；将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。

可选的，所述注册用户包括当前在线用户。

可选的，所述对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核包括：对所有属于敏感词的评论信息进行聚合归类处理；基于聚合归类后的评论信息以及与其对应的指定用户相对应的用户关联页中的信息进行分析处理以确定该待审核视频数据的审核结果；若所述审核结果为不适宜发布，向上传该待审核视频数据的用户反馈审核失败信息；若所述审核结果为适宜发布，将该待审核视频数据推送至Web服务器组中的视频播放页。

本发明实施例还提供了一种视频内容审核系统，包括：上传服务接收处理器，用于解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；指定用户推送服务器，用于将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；反馈信息接收服务器，用于接收来自各个指定用户反馈的评论信息；模糊匹配处理器，用于将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；审核处理服务器，用于对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核。

可选的，所述指定用户推送服务器包括：信息获取单元，用于从注册用户的个人信息中获取各个注册用户的兴趣关键词；用户选取单元，用于基于所述视频描述信息，选择与之相匹配的兴趣关键词所对应的注册用户作为指定用户；推送处理单元，用于将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。

可选的，所述注册用户包括当前在线用户。

可选的，所述审核处理服务器包括：聚合归类处理单元，用于对所有属于敏感词的评论信息进行聚合归类处理；算法处理单元，用于基于聚合归类后的评论信息以及与其对应的指定用户相对应的用户关联页中的信息进行分析处理以确定该待审核视频数据的审核结果；审核信息处理单元，用于在所述审核结果为不适宜发布的情况下，向上传该待审核视频数据的用户反馈审核失败信息；在所述审核结果为适宜发布的情况下，将该待审核视频数据推送至Web服务器组中的视频播放页。

与现有技术相比，本发明技术方案具有以下有益效果：

视频内容审核系统基于视频描述信息先确定部分指定用户，并向这些指定用户推送待审核视频数据。然后基于这些指定用户反馈的评论信息，与敏感词词库中的敏感词进行模糊匹配以确定所述评论信息是否属于敏感词，从而确定该待审核视频数据是否适宜发布。这样结合部分指定用户的评论和系统预设的敏感词匹配过滤以实现对待审核视频数据的自动审核，从而既提高了视频审核效率，又改善了用户体验。

附图说明

图1是本发明的一种视频内容审核方法的具体实施方式的流程示意图；

图2是本发明的一种视频内容审核系统的结构示意图。

具体实施方式

发明人发现现有技术中，视频内容审核效率低下，且用户体验不佳。

针对上述问题，发明人经过研究，提供了一种视频内容审核方法及系统，通过结合部分指定用户的评论和系统预设的敏感词匹配过滤以实现对待审核视频数据的自动审核，从而既提高了视频审核效率，又改善了用户体验。

为使本发明的上述目的、特征和优点能够更为明显易懂，下面结合附图对本发明的具体实施方式做详细的说明。

如图1所示的是本发明的一种视频内容审核方法的具体实施方式的流程示意图。参考图1，所述视频内容审核方法包括如下步骤：

步骤S1：解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；

步骤S2：将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；

步骤S3：接收来自各个指定用户反馈的评论信息；

步骤S4：将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；

步骤S5：对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核。

在本实施例中，所述视频内容审核方法可以用于视频分享网站的后台服务系统中，对该视频分享网站的注册用户所上传的各个视频数据进行审核以确定是否公开发布该视频。

如步骤S1所述，解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息。

具体地，当用户上传一个视频（作为待审核视频数据）时，系统需要先对该待审核视频数据进行解码，解码之后通常还需要对其进行格式转换处理（例如转换为统一的FLV格式）。

需要说明的是，与现有技术不同，在本实施例中，用户上传的待审核视频数据包括视频描述信息，该视频描述信息用于描述所上传的待审核视频数据的相关信息，例如视频数据的类型（例如电视剧、电影、短剧、体育比赛）、主题内容（例如武侠类电视剧、科幻电影、足球比赛）等。

这些视频描述信息可以由用户自行输入或者由系统在用户终端界面上（即视频分享网站的用户上传操作界面）以标签形式呈现，并供用户选择其中一个或多个标签。其中，优选的实施方式是由系统在用户终端界面上以标签形式呈现，这样可以避免用户输入错误、输入格式不一致等问题，便于系统对这些视频描述信息的处理和维护。

如步骤S2所述，将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定。

具体地，在一个实施例中，本步骤包括：

步骤S21：从注册用户的个人信息中获取各个注册用户的兴趣关键词；

步骤S22：基于所述视频描述信息，选择与之相匹配的兴趣关键词所对应的注册用户作为指定用户；

步骤S23：将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。

发明人考虑，为了使得到的反馈信息更及时、更准确，将所述待审核视频数据推送给对其感兴趣的注册用户观看并评论是优选的实施方式。

基于上述考虑，在本实施例中，系统可以从注册用户的个人信息中获取各个注册用户的兴趣关键词。在具体实施时，系统可以读取存储用户个人信息的数据库以获取各个注册用户的个人信息，并提取其中的兴趣关键词（例如，音乐、电影、体育等）。

进一步地，再通过比较所述视频描述信息和获取到的各个注册用户的兴趣关键词，选择与视频描述信息相匹配的兴趣关键词所对应的注册用户作为指定用户。具体来说，例如，在所述视频描述信息与兴趣关键词都是由系统提供给用户选择的情况下，通常系统对于含义相同的视频描述信息和兴趣关键词采用一致的表述（例如古典音乐、足球等），这样系统可以直接对比两者是否一致；又例如，在其中一个信息（视频描述信息或者兴趣关键词）是由用户自行输入的情况下，可能两者的表述不一致（例如足球、英超联赛等，这两个虽然表述不一致、但都表示足球比赛），因此系统需要对两者作语义分析后，再进行比较以确定两者是否相匹配。

然后，系统将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。这样当该指定用户登录后，系统在其用户关联页（例如可以弹出一个通知窗口等）上显示所述待审核视频数据的通知或者链接，该指定用户可以打开该通知或者点击该链接，观看视频并发表评论信息。

在本实施例中，系统可以优选在当前在线的用户范围内选择符合条件的指定用户，这样可以更快地得到反馈的评论信息。其他实施例中，系统也可以选择例如星级用户、会员用户等作为指定用户的选择范围，在此不再赘述。

如步骤S3所述，接收来自各个指定用户反馈的评论信息。

具体地，为了提高视频审核的效率，系统可以设定一个反馈时间期限，要求各个指定用户在预设时间点之前反馈评论信息。另一方面，对于评论信息的形式，可以由指定用户自行输入，或者也可以由系统提供选项供指定用户来选择，在此不一一列举。

如步骤S4所述，将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词。

具体地，系统可以预先设置一个敏感词词库，并在其中存储多个敏感词。然后，将接收到的来自各个指定用户的评论信息与敏感词词库中的敏感词进行模糊匹配处理。在本实施例中，所述模糊匹配处理是指评论信息与敏感词并非需要完全一致，只要其核心关键字/词一致即可认为两者相匹配，从而确定所述评论信息是否属于敏感词。

如步骤S5所述，对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核。

具体地，在一个实施例中，本步骤包括：

步骤S51：对所有属于敏感词的评论信息进行聚合归类处理；

步骤S52：基于聚合归类后的评论信息以及与其对应的指定用户相对应的用户关联页中的信息进行分析处理以确定该待审核视频数据的审核结果；

步骤S53：若所述审核结果为不适宜发布，向上传该待审核视频数据的用户反馈审核失败信息；

步骤S54：若所述审核结果为适宜发布，将该待审核视频数据推送至Web服务器组中的视频播放页。

具体地，针对一个待审核视频数据，通常系统会接收到多个指定用户反馈的评论信息，系统将对这些评论信息进行聚合归类处理。然后，将聚合归类后的评论信息与该评论信息所对应的指定用户进行分析处理，例如可以根据评论信息与该指定用户的用户关联页中的信息按照预设的算法进行处理，从而确定该待审核视频数据审核结果（即是否适宜发布）。其中，聚合归类处理以及预设的算法可以采用现有技术来实现。

根据审核结果，若所述审核结果为不适宜发布，系统将向上传该待审核视频数据的用户反馈审核失败信息。若所述审核结果为适宜发布，将该待审核视频数据推送至Web服务器组中的视频播放页。这样所有打开该视频分享网站的用户都可以浏览该上传的视频并对视频进行评论。无论审核结果是适宜发布抑或是不适宜发布，系统都对该待审核视频数据完成了一次自动审核处理过程。

基于上述视频内容审核方法，本发明实施例还提供了一种视频内容审核系统。如图2所示的是本发明的一种视频内容审核系统的结构示意图。所述视频内容审核系统中的各个硬件单元（实践中还包括一个或者多个数据库，用于存储待审核视频数据、敏感词词库以及接收到的评论信息等）可以集成在一个芯片上，该芯片与视频分享网站的后台服务系统中的其他处理设备相配合以完成视频内容审核处理过程。

参考图2，所述视频内容审核系统1包括：上传服务接收处理器11，用于解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；指定用户推送服务器12，用于将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；反馈信息接收服务器13，用于接收来自各个指定用户反馈的评论信息；模糊匹配处理器14，用于将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；审核处理服务器15，用于对所有属于敏感词的评论信息与其对应的指定用户进行分析处理以完成对所述待审核视频数据的审核。

其中，所述指定用户推送服务器12包括：信息获取单元（未示出），用于从注册用户的个人信息中获取各个注册用户的兴趣关键词；用户选取单元（未示出），用于基于所述视频描述信息，选择与之相匹配的兴趣关键词所对应的注册用户作为指定用户；推送处理单元（未示出），用于将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。优选地，所述注册用户包括当前在线用户。

所述审核处理服务器15包括：聚合归类处理单元（未示出），用于对所有属于敏感词的评论信息进行聚合归类处理；算法处理单元（未示出），用于基于聚合归类后的评论信息以及与其对应的指定用户相对应的用户关联页中的信息进行分析处理以确定该待审核视频数据的审核结果；审核信息处理单元（未示出），用于在所述审核结果为不适宜发布的情况下，向上传该待审核视频数据的用户反馈审核失败信息；在所述审核结果为适宜发布的情况下，将该待审核视频数据推送至Web服务器组中的视频播放页。

在本实施例中，所述上传服务接收处理器、指定用户推送服务器、反馈信息接收服务器、模糊匹配处理器以及审核处理服务器的具体处理过程可以参照上述图1所示的视频内容审核方法中对应步骤的实现方式，在此不再详细描述。

综上所述，本技术方案基于视频描述信息先确定部分指定用户，并向这些指定用户推送待审核视频数据。然后基于这些指定用户反馈的评论信息，与敏感词词库中的敏感词进行模糊匹配以确定所述评论信息是否属于敏感词，从而确定该待审核视频数据是否适宜发布。这样结合部分指定用户的评论和系统预设的敏感词匹配过滤以实现对待审核视频数据的自动审核，从而既提高了视频审核效率，又改善了用户体验。

本发明虽然已以较佳实施例公开如上，但其并不是用来限定本发明，任何本领域技术人员在不脱离本发明的精神和范围内，都可以利用上述揭示的方法和技术内容对本发明技术方案做出可能的变动和修改，因此，凡是未脱离本发明技术方案的内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化及修饰，均属于本发明技术方案的保护范围。

Claims (8)

1.一种视频内容审核方法，其特征在于，包括如下步骤：

解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；

将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；

接收来自各个指定用户反馈的评论信息；

将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；

对所有属于敏感词的评论信息与其对应的指定用户的用户关联页中的信息进行分析处理以完成对所述待审核视频数据的审核。

2.如权利要求1所述的视频内容审核方法，其特征在于，所述将所述待审核视频数据推送至多个指定用户包括：

从注册用户的个人信息中获取各个注册用户的兴趣关键词；

基于所述视频描述信息，选择与之相匹配的兴趣关键词所对应的注册用户作为指定用户；

将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。

3.如权利要求2所述的视频内容审核方法，其特征在于，所述注册用户包括当前在线用户。

4.如权利要求1所述的视频内容审核方法，其特征在于，所述对所有属于敏感词的评论信息与其对应的指定用户的用户关联页中的信息进行分析处理以完成对所述待审核视频数据的审核包括：

对所有属于敏感词的评论信息进行聚合归类处理；

基于聚合归类后的评论信息以及与其对应的指定用户相对应的用户关联页中的信息进行分析处理以确定该待审核视频数据的审核结果；

若所述审核结果为不适宜发布，向上传该待审核视频数据的用户反馈审核失败信息；

若所述审核结果为适宜发布，将该待审核视频数据推送至Web服务器组中的视频播放页。

5.一种视频内容审核系统，其特征在于，包括：

上传服务接收处理器，用于解码接收到的待审核视频数据，其中所述视频数据包括视频描述信息；

指定用户推送服务器，用于将所述待审核视频数据推送至多个指定用户，其中所述指定用户基于所述视频描述信息来确定；

反馈信息接收服务器，用于接收来自各个指定用户反馈的评论信息；

模糊匹配处理器，用于将所述评论信息与敏感词词库中的敏感词进行模糊匹配处理以确定所述评论信息是否属于敏感词；

审核处理服务器，用于对所有属于敏感词的评论信息与其对应的指定用户的用户关联页中的信息进行分析处理以完成对所述待审核视频数据的审核。

6.如权利要求5所述的视频内容审核系统，其特征在于，所述指定用户推送服务器包括：

信息获取单元，用于从注册用户的个人信息中获取各个注册用户的兴趣关键词；

用户选取单元，用于基于所述视频描述信息，选择与之相匹配的兴趣关键词所对应的注册用户作为指定用户；

推送处理单元，用于将所述待审核视频数据推送至Web服务器组中与所述指定用户相对应的用户关联页。

7.如权利要求6所述的视频内容审核系统，其特征在于，所述注册用户包括当前在线用户。

8.如权利要求5所述的视频内容审核系统，其特征在于，所述审核处理服务器包括：

聚合归类处理单元，用于对所有属于敏感词的评论信息进行聚合归类处理；

算法处理单元，用于基于聚合归类后的评论信息以及与其对应的指定用户相对应的用户关联页中的信息进行分析处理以确定该待审核视频数据的审核结果；

审核信息处理单元，用于在所述审核结果为不适宜发布的情况下，向上传该待审核视频数据的用户反馈审核失败信息；在所述审核结果为适宜发布的情况下，将该待审核视频数据推送至Web服务器组中的视频播放页。