CN114302171B - 视频审核方法、装置与存储介质 - Google Patents

Abstract

本申请涉及人工智能领域，本申请提供了一种视频审核方法、装置与存储介质，方法包括：在待审核视频完整的情况下，根据所述待审核视频的主题标签确定所述待审核视频的审核方式；依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定；在所述待审核视频符合所述视频发布规定的情况下，将所述待审核视频发布在视频平台。实施本申请可以按照待审核视频的主题标签确定对应的审核方式，取缔了人工审核，实现了批量审核视频，加快了审核速度，提高了审核效率。

Description

视频审核方法、装置与存储介质

技术领域

本申请涉及人工智能领域，尤其涉及一种视频审核方法、装置与存储介质。

背景技术

随着计算机技术的逐渐成熟，各平台提供了视频上传、分享功能。在此基础上，用户上传了各式各样的视频，但是视频质量参差不齐，其中包含一些恶意引导甚至非法的视频，因此各平台亟需对用户上传的视频进行审核，提高平台的视频质量，维护良好的网络环境。

目前，各平台主要采用人工审核视频的方式，由人工去查看视频内容是否符合平台要求，以及国家法律法规的规定，符合规定的视频允许在平台发布，不符合的则禁止发布。

但是面对海量的视频，视频审查员需要逐个辨别视频是否符合规定，审核工作难度大、耗费时间长，这种人工审核的方式审核效率低，速度慢。

发明内容

本发明实施例提供了一种视频审核方法、装置与存储介质，通过对视频的完整性进行审查，在视频完整的情况下，再根据视频主题标签选择对应审核方式对视频内容进行审查，审查合格后在视频平台发布上述视频。本发明实施例取缔了人工审核，实现了批量审核视频，加快了审核速度，提高了审核效率。

第一方面，本发明实施例提供了一种视频审核方法，包括：

在待审核视频完整的情况下，根据所述待审核视频的主题标签确定所述待审核视频的审核方式；

依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定；

在所述待审核视频符合所述视频发布规定的情况下，将所述待审核视频发布在视频平台。

在一种可能的设计中，所述根据所述待审核视频的主题标签确定所述待审核视频的审核方式包括：

获取所述待审核视频的主题标签；

在所述主题标签属于第一分类的情况下，确定所述待审核视频的审核方式为第一审核方式，所述第一分类包括临床教学；

在所述主题标签属于第二分类的情况下，确定所述待审核视频的审核方式为第二审核方式，所述第二分类包括理论教学；

在所述主题标签属于第三分类的情况下，确定所述待审核视频的审核方式为第三审核方式，所述第三分类包括不属于所述第一分类和所述第二分类的主题标签。

本实施例中，对主题标签进行分类是为了确保每个审核标签都有对应分类，有利于后续确定待审核视频的审核方式，使审核方式的确定过程更加容易执行，提高了审核效率。

在一种可能的设计中，所述依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定包括：

在所述待审核视频的审核方式为第一审核方式的情况下，基于人体骨架检测和长短时记忆网络技术逐帧审核所述待审核视频，获取第一审核标志，结合所述第一审核标志判断所述待审核视频是否符合视频发布规定；

在所述待审核视频的审核方式为第二审核方式的情况下，提取所述待审核视频的声纹特征，基于所述声纹特征对所述待审核视频进行语音语义识别，获得第二审核标志，结合所述第二审核标志判断所述待审核视频是否符合视频发布规定；

在所述待审核视频的审核方式为第三审核方式的情况下，基于云盾内容安全审核所述待审核视频，获得第三审核标志，结合所述第三审核标志判断所述待审核视频是否符合视频发布规定。

需要说明的是，人体骨架检测利用堆叠沙漏网络(sacked hourglass networks,SHN)实现，堆叠沙漏网络用于人体姿态估计，该网络在各个尺度提取特征，以重复的自下而上(bottom-up)、自上而下(top-down)处理架构并结合残差模块(residual module)以及中间监督(intermediate supervision)的方法对网络性能起到了显著提升。SHN的作用是通过估计人体关键点的热度图来实现关键点的定位，这种网络结构的特点就是能够充分利用多尺度的特征映射，可以实现对人体关键点检测。

长短期记忆网络(long short term memory networks，LSTM)，是一种特殊的循环神经网络(recurrent neural network，RNN)，能够学习到长期依赖关系，可以解决RNN无法处理长距离的依赖的问题。LSTM由Hochreiter&Schmidhuber(1997)提出，许多研究者进行了一系列的工作对其改进并使之发扬光大。LSTM在许多问题上效果非常好，现在被广泛使用。

云盾内容安全可以检测应用程序编程接口(application programminginterface,API)，云存储服务(object storage service,OSS)违规检测，站点检测，内容检测API主要对包含色情、涉政、暴恐、广告、垃圾信息的文本、图片、语音、文件文本及视频进行检测和识别。站点检测针，提供首页检测服务和网页内容检测服务，帮助检查首页是否具有被攻击、挂马等风险，以及当站点中网页疑似有违规信息时，会通知用户并提供违规网页地址及快照查看功能。OSS违规检测，提供一键式的图像鉴黄软件即服务(software as aservice,SaaS)化服务，用户可以将保存在OSS中的图片进行鉴黄检测，并且提供删除和冻结的功能。

本实施例中，不同的待审核视频对应不同的审核方式，使得审核具有针对性，更加准确全面，保证审核正确性。

在一种可能的设计中，在所述待审核视频完整的情况下之前，所述方法还包括：

接收待审核视频，所述待审核视频包括用户上传的视频或视频平台自制视频；

根据第一目标条件在所述待审核视频的首尾各截取一段视频作为第一目标视频，所述第一目标视频包括开始段视频、结尾段视频，所述第一目标条件用于确定截取所述开始段视频、结尾段视频的视频长度；

对所述第一目标视频进行主题特征提取获得第一特征参数；

根据所述第一特征参数判断所述待审核视频是否完整。

本实施例中，不止对待审核视频进行内容审核，还会对待审核视频的完整性进行审核，确保了审核的全面性和准确性。

在一种可能的设计中，所述接收待审核视频包括：

获取待审核视频的内存；

在所述待审核视频的内存不符合上传规定的情况下，禁止所述待审核视频上传，向发送所述待审核视频的发送方发送第一报错信息；

在所述待审核视频的内存符合上传规定的情况下，接收所述待审核视频。

本实施例中，实现了对待审核视频的内存大小的审查，使审核机制更完善。

在一种可能的设计中，所述对所述第一目标视频进行主题特征提取获得第一特征参数包括：

基于kaldi对所述开始段视频的语音数据进行特征提取获得第一语音特征，对所述结尾段视频的语音数据进行特征提取获得第二语音特征；

将所述第一语音特征和关键词表进行相似度比对获得第一判断结果，将所述第二语音特征和所述关键词表进行相似度比对获得第二判断结果，所述第一判断结果用于表示所述开始段视频是否包含开始标志，所述第二判断结果用于表示所述结尾段视频是否包含结束标志；

将所述第一判断结果和所述第二判断结果组合获得第一特征参数。

需要说明的是，kaldi是当前最流行的开源语音识别工具(Toolkit)，它使用加权有限状态转换器(weighted finite-state transducer,WFST)来实现解码算法。Kaldi的主要代码是C++编写，在此之上使用bash和python脚本做了一些工具,kaldi旨在供语音识别研究员使用。

本实施例中，实现了判断待审核视频是否具有开始结束标志，为后续判断视频是否完整做出充足准备。

在一种可能的设计中，所述根据所述第一特征参数判断所述待审核视频是否完整包括：

在所述第一判断结果和所述第二判断结果都为正向的情况下，确定所述待审核视频完整，所述正向包括所述开始段视频包含开始标志、所述结尾段视频包含结束标志；

否则，确定所述待审核视频不完整，向发送所述待审核视频的发送方发送第二报错信息。

本实施例中，实现了对待审核视频的完整性审查，使得审核机制更加全面。

第二方面，本发明实施例提供了一种视频审核装置，包括：

确定单元，用于在待审核视频完整的情况下，根据所述待审核视频的主题标签确定所述待审核视频的审核方式；

审核单元，用于依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定；

发布单元，用于在所述待审核视频符合所述视频发布规定的情况下，将所述待审核视频发布在视频平台。

在一种可能的设计中，所述确定单元，具体用于：

获取所述待审核视频的主题标签；

在所述主题标签属于第一分类的情况下，确定所述待审核视频的审核方式为第一审核方式，所述第一分类包括临床教学；

在所述主题标签属于第二分类的情况下，确定所述待审核视频的审核方式为第二审核方式，所述第二分类包括理论教学；

在所述主题标签属于第三分类的情况下，确定所述待审核视频的审核方式为第三审核方式，所述第三分类包括不属于所述第一分类和所述第二分类的主题标签。

在一种可能的设计中，所述审核单元，具体用于：

在所述待审核视频的审核方式为第一审核方式的情况下，基于人体骨架检测和长短时记忆网络技术逐帧审核所述待审核视频，获取第一审核标志，结合所述第一审核标志判断所述待审核视频是否符合视频发布规定；

在所述待审核视频的审核方式为第二审核方式的情况下，提取所述待审核视频的声纹特征，基于所述声纹特征对所述待审核视频进行语音语义识别，获得第二审核标志，结合所述第二审核标志判断所述待审核视频是否符合视频发布规定；

在所述待审核视频的审核方式为第三审核方式的情况下，基于云盾内容安全审核所述待审核视频，获得第三审核标志，结合所述第三审核标志判断所述待审核视频是否符合视频发布规定。

在一种可能的设计中，所述视频审核装置，还包括：

接收单元，用于接收待审核视频，所述待审核视频包括用户上传的视频或视频平台自制视频；

截取单元，用于根据第一目标条件在所述待审核视频的首尾各截取一段视频作为第一目标视频，所述第一目标视频包括开始段视频、结尾段视频，所述第一目标条件用于确定截取所述开始段视频、结尾段视频的视频长度；

提取单元，用于对所述第一目标视频进行主题特征提取获得第一特征参数；

判断单元，用于根据所述第一特征参数判断所述待审核视频是否完整。

在一种可能的设计中，所述接收单元，具体用于：

获取待审核视频的内存；

在所述待审核视频的内存不符合上传规定的情况下，禁止所述待审核视频上传，向发送所述待审核视频的发送方发送第一报错信息；

在所述待审核视频的内存符合上传规定的情况下，接收所述待审核视频。

在一种可能的设计中，所述提取单元，具体用于：

基于kaldi对所述开始段视频的语音数据进行特征提取获得第一语音特征，对所述结尾段视频的语音数据进行特征提取获得第二语音特征；

将所述第一语音特征和关键词表进行相似度比对获得第一判断结果，将所述第二语音特征和所述关键词表进行相似度比对获得第二判断结果，所述第一判断结果用于表示所述开始段视频是否包含开始标志，所述第二判断结果用于表示所述结尾段视频是否包含结束标志；

将所述第一判断结果和所述第二判断结果组合获得第一特征参数。

在一种可能的设计中，所述判断单元，具体用于：

在所述第一判断结果和所述第二判断结果都为正向的情况下，确定所述待审核视频完整，所述正向包括所述开始段视频包含开始标志、所述结尾段视频包含结束标志；

否则，确定所述待审核视频不完整，向发送所述待审核视频的发送方发送第二报错信息。

第三方面，本发明实施例提供了另一种视频审核装置，其特征在于，包括处理器、存储器以及通信接口，所述处理器、存储器和通信接口相互连接，其中，所述通信接口用于接收和发送数据，所述存储器用于存储程序代码，所述处理器用于调用所述程序代码，执行上述方法的步骤。

第四方面，本发明实施例提供了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行上述方法的步骤。

本发明实施例中，在确定待审核视频完整的情况下，根据待审核视频的主题标签确定待审核视频的审核方式，在确定审核方式后，依据确定的审核方式审核待审核视频，判断待审核视频是否符合视频发布规定，在待审核视频符合视频发布规定的情况下，将待审核视频发布在视频平台。采用本发明实施例，可以根据待审核视频的主题标签的不同分类选择不同的审核方式，实现了对审核视频的批量的、具有针对性的审核，取缔了人工审核，加快了审核速度，提高了审核效率。

附图说明

为了说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明实施例提供的一种视频审核的应用场景架构图；

图2为本发明实施例提供的一种视频审核方法的第一流程图；

图3为本发明实施例提供的一种视频审核方法的第二流程图；

图4为本发明实施例提供的一种视频审核方法的第三流程图；

图5为本发明实施例提供的一种视频审核装置的结构示意图；

图6为本发明实施例提供的另一种视频审核装置的结构示意图。

具体实施方式

为了使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请作进一步地描述。

本申请的说明书、权利要求书及附图中的术语“第一”和“第二”等仅用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备等，没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元等，或可选地还包括对于这些过程、方法、产品或设备等固有的其它步骤或单元。

在本文中提及的“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员可以显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上，“至少两个(项)”是指两个或三个及三个以上，“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”。

应该理解的是，虽然本申请实施例中的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

取决于语境，如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地，取决于语境，短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

需要说明的是，在本文中，采用了诸如S201、S202等步骤代号，其目的是为了更清楚简要地表述相应内容，不构成顺序上的实质性限制，本领域技术人员在具体实施时，可能会先执行S202后执行S201等，但这些均应在本申请的保护范围之内。

应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。

在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本申请的说明，其本身没有特定的意义。因此，“模块”、“部件”或者“单元”可以混合地使用。

随着计算机技术的逐渐成熟，各平台提供了视频上传、分享功能。在此基础上，用户上传了各式各样的视频，但是视频质量参差不齐，其中包含一些恶意引导甚至非法的视频，因此各平台亟需对用户上传的视频进行审核，提高平台的视频质量，维护良好的网络环境。

目前，各平台主要采用人工审核视频的方式，请参照附图1，为本申请实施例提供的一种视频审核的应用场景架构图。

如图1所示，用户终端10上传待审核视频，视频平台11接收待审核视频，在接收待审核视频后，由视频审查员去查看待审核视频的视频内容是否符合平台要求，以及国家法律法规的规定，符合规定的视频允许在视频平台发布，不符合的则禁止发布。

但是面对海量的视频，视频审查员需要逐个辨别视频是否符合规定，审核工作难度大、耗费时间长，这种人工审核的方式审核效率低，速度慢。

针对上述问题，本申请实施例提供了一种视频审核方法、装置与存储介质，为了更清楚的描述本申请的方案，下面结合本申请实施例中的附图对本申请实施例进行描述。

请参见图2，为本申请实施例提供的一种视频审核方法的第一流程图。如图1所示，本申请实施例的视频审核方法可以包括以下步骤S201-步骤S203。

S201：在待审核视频完整的情况下，根据上述待审核视频的主题标签确定上述待审核视频的审核方式。

需要说明的是，上述主题标签主要标识上述待审核视频内容的主题，由用户上传待审核视频时选择确定，例如用户A上传的待审核视频内容主要关于宠物玩具的推荐，那用户选择的标签就是宠物玩具、推荐。主题标签根据待审核视频内容的变化而变化，主题标签可以是无关联关系的名词组合如上述宠物玩具、推荐，也可以是有关联关系的名词组合如通信设备、手机。

具体的，在确定待审核视频完整的情况下，获取上述待审核视频的主题标签，根据待审核视频的主题标签确定对应的审核方式，不同的主题标签对应不同的审核方式。

可选的，上述根据上述待审核视频的主题标签确定上述待审核视频的审核方式包括：

获取上述待审核视频的主题标签；

在上述主题标签属于第一分类的情况下，确定上述待审核视频的审核方式为第一审核方式，上述第一分类包括临床教学；

在上述主题标签属于第二分类的情况下，确定上述待审核视频的审核方式为第二审核方式，上述第二分类包括理论教学；

在上述主题标签属于第三分类的情况下，确定上述待审核视频的审核方式为第三审核方式，上述第三分类包括不属于上述第一分类和上述第二分类的主题标签。

具体的，获取上述待审核视频的主题标签，判断上述主题标签的分类，总共分为三类，第一分类包括临床教学、健身训练、实验操作指导这类的动作类教学视频，第二分类是包括理论教学、计算机常识等这类理论性的教学视频，第三分类是不归属于第一分类和第二分类的视频。

如果上述主题标签属于第一分类，上述待审核视频对应的审核方式就是第一审核方式；如果上述主题标签属于第二分类，上述待审核视频对应的审核方式就是第二审核方式；如果上述主题标签属于第三分类，上述待审核视频对应的审核方式就是第三审核方式。例如待审核视频B的主题标签为跳绳指导，属于第二分类，则待审核视频B的审核方式就是第二审核方式。待审核视频C的主题标签是生活vlog，属于第三分类，则待审核视频C的审核方式就是第三审核方式。

如果一个视频的主题标签不止属于一个分类，例如待审核视频D的主题标签为解剖学，那对应分类应该是第一分类和第二分类，此时对于待审核视频D的审核方式为第一审核方式和第二审核方式。

S202：依据上述待审核视频的审核方式审核上述待审核视频，判断上述待审核视频是否符合视频发布规定。

需要说明的是，上述视频发布规定的要求是多样的，要结合当地法律法规和视频平台实际情况制定。

具体的，在为上述待审核视频选定审核方式后，就可以根据确定的审核方式审核视频，获得审核视频的审核标志，根据审核标志判断上述待审核视频是否符合视频发布规定。

可选的，上述依据上述待审核视频的审核方式审核上述待审核视频，判断上述待审核视频是否符合视频发布规定包括：

在上述待审核视频的审核方式为第一审核方式的情况下，基于人体骨架检测和长短时记忆网络技术逐帧审核上述待审核视频，获取第一审核标志，结合上述第一审核标志判断上述待审核视频是否符合视频发布规定；

在上述待审核视频的审核方式为第二审核方式的情况下，提取上述待审核视频声纹特征，基于上述声纹特征对上述待审核视频进行语音语义识别，获得第二审核标志，结合上述第二审核标志判断上述待审核视频是否符合视频发布规定；

在上述待审核视频的审核方式为第三审核方式的情况下，基于云盾内容安全审核上述待审核视频，获得第三审核标志，结合上述第三审核标志判断上述待审核视频是否符合视频发布规定。

需要说明的是，本申请实施例采用的技术如下。

梅尔频率倒谱系数(mel-frequency cepstral coefficients，MFCC)是基于人耳听觉特性提出来的，它与Hz频率成非线性对应关系。梅尔频率倒谱系数(MFCC)则是利用它们之间的这种关系，计算得到的Hz频谱特征，主要用于语音数据特征提取和降低运算维度。例如：对于一帧有512维(采样点)数据，经过MFCC后可以提取出最重要的40维(一般而言)数据同时也达到了将维的目的。MFCC一般会经过预加重，分帧，加窗，快速傅里叶变换(fastfourier transform,FFT)，梅尔滤波器组，离散余弦变换(discrete sosine transform,DCT)这几个步骤，其中最重要的就是FFT和梅尔滤波器组，这两个进行了主要的将维操作。

隐马尔可夫模型(hidden markov model，HMM)是结构最简单的动态贝叶斯网络，是一种尤其著名的有向图结构，主要用于时序数据的建模，在语音识别、自然语言处理等领域有广泛应用，在分词算法中，隐马尔可夫经常用作能够发现新词的算法，通过海量的数据学习，能够将人名、地名、互联网上的新词等一一识别出来，具有广泛的应用场景。

具体的，在上述待审核视频的审核方式为第一审核方式的情况下，提取待审核视频的图像帧，对每帧图像利用SNH识别图像中的关键点，拟合图像中的人体骨架，在利用LSTM对现有数据库中标准动作图像的人体骨架与关键点和上述待审核视频图像的人体骨架与关键点进行相似度比对，如果相似度高于预设阈值则表明当前图像中的动作标准，对当前图像帧标注合格信息或者不标注；否则不标准，标注当前图像帧地址和错误原因。在对待审核视频中所有图像帧的相似度比对完成后，统计所有标注，当所有标注均为合格信息或者无标注情况下，上述待审核视频中的所有动作符合规定，第一审核标志状态为是，则上述待审核视频符合视频发布规定；否则，组合所有不标准图像帧的地址和错误原因获得第一审核标志，当前第一审核标志状态为否，上述待审核视频不符合视频发布规定。

在上述待审核视频的审核方式为第二审核方式的情况下，使用kaldi基于MFCC对上述待审核视频的音频进行帧长切分，提取声纹特征，基于声学模型DNN-HMM利用上述声纹特征和文本库中与上述主题标签对应的文本进行相似度比对，相似度阈值低于预设数值，则说明视频中讲解的理论不符合规定，标注错误原因和错误在上述待审核视频中出现的时间，若相似度一直高于预设阈值则说明视频中讲解的理论符合规定，不进行标注或者标注合格信息，在处理完上述待审核视频的音频后，统计所有标注，当所有标注均为合格信息或者无标注情况下，第二审核标志状态为是，上述待审核视频符合视频发布规定；否则，组合所有错误原因和错误出现时间获得第二审核标志，当前第二审核标志状态为否，上述待审核视频不符合视频发布规定。例如待审核视频B的主题标签为花卉分类，那么主题标签对应的文本就是与花卉有关的文本，如果对音频进行特征提取，获得声纹特征，在对声纹特征进行语义识别后存在句子“茼蒿和莴苣属于不同科”，根据对应上述文本可知茼蒿和莴苣同属菊科，存在冲突，经过相似度比对获得的相似度阈值低于预设数值，此时讲解的理论不符合规定，标注音频中这个句子出现的时间和错误原因是茼蒿和莴苣同属菊科。

在上述待审核视频的审核方式为第三审核方式的情况下，使用云盾内容安全对上述待审核视频的API和站点进行检测，同时进行OSS违规检测，在所有检测均通过情况下，上述第三审核标志状态为是，上述待审核视频符合视频发布规定；否则，组合所有错误原因获得第三审核标志，当前第三审核标志状态为否，上述待审核视频不符合视频发布规定。

上述三种审核方式无时序关系，可同时进行也可依次进行，待审核视频采用的审核方式至少一种。

S203：在上述待审核视频符合上述视频发布规定的情况下，将上述待审核视频发布在视频平台。

具体的，根据审核标志确定上述待审核视频是否符合上述视频发布规定，符合就将上述待审核视频发布在视频平台；不符合就根据审核标志中的错误原因返送对应的报错信息给发送上述待审核视频的发送方，以便于发送方可以根据错误原因处理视频，方便用户使用。

本申请实施例中，在确定待审核视频完整的情况下，根据待审核视频不同的主题标签确定不同的审核方式，一个待审核视频可能对应多种审核方式，实现了根据待审核视频内容的不同而选择不同的审核方式，不再局限于单一审核方式，审核的方式多样化，使得视频审核更加全面，审查要求更严格，提高了视频平台的视频质量，有利于维护良好的网络环境。

请参见图3，为本申请实施例提供的一种视频审核方法的第二流程图。如图3所示，本申请实施例的视频审核方法可以包括以下步骤S301-步骤S307。

S301：接收待审核视频，上述待审核视频包括用户上传的视频或视频平台自制视频。

具体的，视频平台接收待审核视频，待审核视频可以是用户上传的也可以是视频平台自己制作的视频。

可选的，上述接收待审核视频包括：

获取待审核视频的内存；

在上述待审核视频的内存不符合上传规定的情况下，禁止上述待审核视频上传，向发送上述待审核视频的发送方发送第一报错信息；

在上述待审核视频的内存符合上传规定的情况下，接收上述待审核视频。

具体的，在接收待审核视频时要对视频的内存进行检测，先获取待审核视频内存，判断待审核视频内存是否超过视频平台规定的内存，如果超过就不能上传，应该提醒发送待审核视频的发送方，当前待审核视频内存太大无法上传；如果符合视频平台规定的内存，就可以接收待审核视频。对视频内存进行验证只是接收待审核视频验证条件的一种，还可以验证视频的清晰度，验证清晰度的方式与验证内存方式类似，不再赘述。

S302：根据第一目标条件在上述待审核视频的首尾各截取一段视频作为第一目标视频，上述第一目标视频包括开始段视频、结尾段视频，上述第一目标条件用于确定截取上述开始段视频、结尾段视频的视频长度。

需要说明的是，上述第一目标条件用于确定截取上述开始段视频、结尾段视频的视频长度。第一目标条件可以设置为固定时长例如1分钟，那么开始段视频和结尾段视频的视频长度都是1分钟，第一目标条件也可以根据待审核视频长度的比例确定，例如比例为5％，假设待审核视频的长度为50分钟，那么开始段视频和结尾段视频的视频长度都是2.5分钟。第一目标条件可以根据具体情况设置。

具体的，根据第一目标条件在待审核视频的首尾截取对应时长的视频作为开始段视频、结尾段视频。

S303：对上述第一目标视频进行主题特征提取获得第一特征参数。

具体的，对开始段视频、结尾段视频分别进行特征提取，获得第一特征参数。

可选的，上述对上述第一目标视频进行主题特征提取获得第一特征参数包括：

基于kaldi对上述开始段视频的语音数据进行特征提取获得第一语音特征，对上述结尾段视频的语音数据进行特征提取获得第二语音特征；

将上述第一语音特征和关键词表进行相似度比对获得第一判断结果，将上述第二语音特征和上述关键词表进行相似度比对获得第二判断结果，上述第一判断结果用于表示上述开始段视频是否包含开始标志，上述第二判断结果用于表示上述结尾段视频是否包含结束标志；

将上述第一判断结果和上述第二判断结果组合获得第一特征参数。

具体的，基于kaldi利用MFCC提取开始段视频的声纹特征作为第一语音特征，提取结尾段视频的声纹特征作为第二语音特征，将上述第一声纹特征和上述第二声纹特征转化为文本，将文本和关键词表进行相似度比对，识别文本中是否包含关键词表中的关键词，如果有就说明开始段视频包含如开场白、问候、视频主题标签这种开始标志，则第一判断结果为是；否则，第一判断结果为否；同理，如果结尾段视频的文本中包含关键词表中的关键词，那么说明结尾段视频包含如结束语、再见、结束这种结束标志，则第二判断结果为是；否则，第一判断结果为否。

然后将上述第一判断结果和上述第二判断结果组合获得第一特征参数。

S304：根据上述第一特征参数判断上述待审核视频是否完整。

具体的，第一特征参数符合视频完整性规定时，则待审核视频完整，否则不完整。

可选的，在上述第一判断结果和上述第二判断结果都为正向的情况下，确定上述待审核视频完整，上述正向包括上述开始段视频包含开始标志、上述结尾段视频包含结束标志；

否则，确定上述待审核视频不完整，向发送上述待审核视频的发送方发送第二报错信息。

具体的，在第一判断结果和上述第二判断结果都为是的情况下，说明待审核视频既有开场白又有结束语，是一个完整的视频，否则视频不完整，向待审核视频的发送方发送第二报错信息，第二报错信息根据具体错误的不同而不同，如果待审核视频缺乏开场白，那对应第二错误就是缺乏开场白视频不完整；如果待审核视频缺乏结束语，那对应第二错误就是缺乏结束语视频不完整；如果待审核视频既缺乏开场白又缺乏结束语，那对应第二错误就是缺乏开头和结尾，视频不完整。

S305：在待审核视频完整的情况下，根据上述待审核视频的主题标签确定上述待审核视频的审核方式；

S306：依据上述待审核视频的审核方式审核上述待审核视频，判断上述待审核视频是否符合视频发布规定；

S307：在上述待审核视频符合上述视频发布规定的情况下，将上述待审核视频发布在视频平台。

本申请实施例步骤S305-步骤S307的具体说明请参照图2所对应实施例的步骤S201-步骤S203，在此不再赘述。

本申请实施例中，在对待审核视频进行内容审查前，还会对待审核视频的完整性进行审查，同时还会审核视频的内存和清晰度，保证视频质量，使审核机制更完善，审核维度更全面。

为更好理解本申请实施例的视频审核方法，请参见图4，为本申请实施例提供的一种视频审核方法的第三流程图。如图4所示：

审核任务开始后，获取待审核视频，然后根据上传规定，判断视频的内存和清晰度是否符合上传规定，如果不符合审核任务结束，并向视频上传方返回错误原因；如果符合上传规定，视频平台接收待审核视频，然后截取待审核视频的首尾获得开始段视频和结尾段视频，对开始段视频和结尾段视频进行主题特征提取，判断开始段视频是否包含开场白和结尾段视频是否包含结束语，如果没有都包含则视频不完整，审核任务结束，向视频上传方返回对应错误；如果都包含则视频完整，就根据主题标签确定对应审核方式，然后按照确定的对应审核方式审核待审核视频，如果待审核视频符合视频发布规定，即指视频没有动作指导不规范、理论知识讲解错误、色情、暴力等违规项，就可以在视频平台发布上述待审核视频，审核任务结束；如果待审核视频不符合视频发布规定，审核任务结束，向视频上传方返回对应错误。

请参照图5，为本申请实施例提供的一种视频审核装置的结构示意图，如图5所示，该视频审核装置50包括：

确定单元505，用于在待审核视频完整的情况下，根据上述待审核视频的主题标签确定上述待审核视频的审核方式；

审核单元506，用于依据上述待审核视频的审核方式审核上述待审核视频，判断上述待审核视频是否符合视频发布规定；

发布单元507，用于在上述待审核视频符合上述视频发布规定的情况下，将上述待审核视频发布在视频平台。

在一种可能的设计中，上述确定单元505，具体用于：

获取上述待审核视频的主题标签；

在上述主题标签属于第一分类的情况下，确定上述待审核视频的审核方式为第一审核方式，上述第一分类包括临床教学；

在上述主题标签属于第二分类的情况下，确定上述待审核视频的审核方式为第二审核方式，上述第二分类包括理论教学；

在上述主题标签属于第三分类的情况下，确定上述待审核视频的审核方式为第三审核方式，上述第三分类包括不属于上述第一分类和上述第二分类的主题标签。

在一种可能的设计中，上述审核单元506，具体用于：

在上述待审核视频的审核方式为第一审核方式的情况下，基于人体骨架检测和长短时记忆网络技术逐帧审核上述待审核视频，获取第一审核标志，结合上述第一审核标志判断上述待审核视频是否符合视频发布规定；

在上述待审核视频的审核方式为第二审核方式的情况下，提取上述待审核视频声纹特征，基于上述声纹特征对上述待审核视频进行语音语义识别，获得第二审核标志，结合上述第二审核标志判断上述待审核视频是否符合视频发布规定；

在上述待审核视频的审核方式为第三审核方式的情况下，基于云盾内容安全审核上述待审核视频，获得第三审核标志，结合上述第三审核标志判断上述待审核视频是否符合视频发布规定。

在一种可能的设计中，上述视频审核装置50，还包括：

接收单元501，用于接收待审核视频，上述待审核视频包括用户上传的视频或视频平台自制视频；

截取单元502，用于根据第一目标条件在上述待审核视频的首尾各截取一段视频作为第一目标视频，上述第一目标视频包括开始段视频、结尾段视频，上述第一目标条件用于确定截取上述开始段视频、结尾段视频的视频长度；

提取单元503，用于对上述第一目标视频进行主题特征提取获得第一特征参数；

判断单元504，用于根据上述第一特征参数判断上述待审核视频是否完整。

在一种可能的设计中，上述接收单元501，具体用于：

获取待审核视频的内存；

在上述待审核视频的内存不符合上传规定的情况下，禁止上述待审核视频上传，向发送上述待审核视频的发送方发送第一报错信息；

在上述待审核视频的内存符合上传规定的情况下，接收上述待审核视频。

在一种可能的设计中，上述提取单元503，具体用于：

基于kaldi对上述开始段视频的语音数据进行特征提取获得第一语音特征，对上述结尾段视频的语音数据进行特征提取获得第二语音特征；

将上述第一语音特征和关键词表进行相似度比对获得第一判断结果，将上述第二语音特征和上述关键词表进行相似度比对获得第二判断结果，上述第一判断结果用于表示上述开始段视频是否包含开始标志，上述第二判断结果用于表示上述结尾段视频是否包含结束标志；

将上述第一判断结果和上述第二判断结果组合获得第一特征参数。

在一种可能的设计中，上述判断单元504，具体用于：

在上述第一判断结果和上述第二判断结果都为正向的情况下，确定上述待审核视频完整，上述正向包括上述开始段视频包含开始标志、上述结尾段视频包含结束标志；

否则，确定上述待审核视频不完整，向发送上述待审核视频的发送方发送第二报错信息。

其中，图5所示装置实施例的具体描述可以参照前述图2、图3或图4所示方法实施例的具体说明，在此不进行赘述。

根据本申请实施例，图5中所示的装置中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成，或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成，这可以实现同样的操作，而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的，在实际应用中，一个单元的功能也可以由多个单元来实现，或者多个单元的功能由一个单元实现。

请参照图6，为本申请实施例提供的另一种视频审核装置的结构示意图，如图6所示，上述视频审核装置60可以包括：至少一个处理器601，例如CPU，至少一个通信接口603，存储器604，至少一个通信总线602。其中，通信总线602用于实现这些组件之间的连接通信。通信接口603可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器604可以是高速RAM存储器，也可以是非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。存储器604可选的还可以是至少一个位于远离前述处理器601的存储装置。如图6所示，作为一种计算机存储介质的存储器604中可以包括操作系统、网络通信模块以及程序指令。

在图6所示的视频审核装置60中，处理器601可以用于加载存储器604中存储的程序指令，并具体执行前述方法实施例中的各项步骤。前述方法实施例的各项步骤可以具体参见图2、图3或图4所示方法实施例的具体说明，在此不进行赘述。处理器601也可执行本申请实施例中所描述的视频审核装置50的实现方式，具体的，处理器601可实现图5中所示装置中的接收单元501、截取单元502、提取单元503、判断单元504、确定单元505、审核单元506或发布单元507的功能，具体不再赘述。

本申请实施例还提供了一种计算机存储介质，上述计算机存储介质可以存储有多条指令，上述指令适于由处理器加载并执行前述方法实施例中的各项步骤。前述方法实施例的各项步骤可以具体参见上述图2、图3或图4所示方法实施例的具体说明，在此不进行赘述。也适于由处理器加载并执行本申请实施例中所描述的视频审核装置50的实现方式，具体的，处理器601可实现图5中所示装置中的接收单元501、截取单元502、提取单元503、判断单元504、确定单元505、审核单元506或发布单元507的功能，具体不再赘述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，上述的程序可存储于计算机可读取存储介质中，该程序在执行时，包括如上述各方法的实施例的流程。其中，上述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory，ROM)或随机存储记忆体(random accessmemory，RAM)等。

Claims (9)

1.一种视频审核方法，其特征在于，包括：

接收待审核视频，所述待审核视频包括用户上传的视频或视频平台自制视频；

根据第一目标条件在所述待审核视频的首尾各截取一段视频作为第一目标视频，所述第一目标视频包括开始段视频、结尾段视频，所述第一目标条件用于确定截取所述开始段视频、结尾段视频的视频长度；

对所述第一目标视频进行主题特征提取获得第一特征参数；

根据所述第一特征参数判断所述待审核视频是否完整；

在所述待审核视频完整的情况下，根据所述待审核视频的主题标签确定所述待审核视频的审核方式；

依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定；

在所述待审核视频符合所述视频发布规定的情况下，将所述待审核视频发布在视频平台。

2.根据权利要求1所述的方法，其特征在于，所述根据所述待审核视频的主题标签确定所述待审核视频的审核方式包括：

获取所述待审核视频的主题标签；

在所述主题标签属于第一分类的情况下，确定所述待审核视频的审核方式为第一审核方式，所述第一分类包括临床教学；

在所述主题标签属于第二分类的情况下，确定所述待审核视频的审核方式为第二审核方式，所述第二分类包括理论教学；

在所述主题标签属于第三分类的情况下，确定所述待审核视频的审核方式为第三审核方式，所述第三分类包括不属于所述第一分类和所述第二分类的主题标签。

3.根据权利要求2所述的方法，其特征在于，所述依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定包括：

在所述待审核视频的审核方式为第一审核方式的情况下，基于人体骨架检测和长短时记忆网络技术逐帧审核所述待审核视频，获取第一审核标志，结合所述第一审核标志判断所述待审核视频是否符合视频发布规定；

在所述待审核视频的审核方式为第二审核方式的情况下，提取所述待审核视频的声纹特征，基于所述声纹特征对所述待审核视频进行语音语义识别，获得第二审核标志，结合所述第二审核标志判断所述待审核视频是否符合视频发布规定；

在所述待审核视频的审核方式为第三审核方式的情况下，基于云盾内容安全审核所述待审核视频，获得第三审核标志，结合所述第三审核标志判断所述待审核视频是否符合视频发布规定。

4.根据权利要求1所述的方法，其特征在于，所述接收待审核视频包括：

获取待审核视频的内存；

在所述待审核视频的内存不符合上传规定的情况下，禁止所述待审核视频上传，向发送所述待审核视频的发送方发送第一报错信息；

在所述待审核视频的内存符合上传规定的情况下，接收所述待审核视频。

5.根据权利要求4所述的方法，其特征在于，所述对所述第一目标视频进行主题特征提取获得第一特征参数包括：

基于kaldi对所述开始段视频的语音数据进行特征提取获得第一语音特征，对所述结尾段视频的语音数据进行特征提取获得第二语音特征；

将所述第一语音特征和关键词表进行相似度比对获得第一判断结果，将所述第二语音特征和所述关键词表进行相似度比对获得第二判断结果，所述第一判断结果用于表示所述开始段视频是否包含开始标志，所述第二判断结果用于表示所述结尾段视频是否包含结束标志；

将所述第一判断结果和所述第二判断结果组合获得第一特征参数。

6.根据权利要求5所述的方法，其特征在于，所述根据所述第一特征参数判断所述待审核视频是否完整包括：

在所述第一判断结果和所述第二判断结果都为正向的情况下，确定所述待审核视频完整，所述正向包括所述开始段视频包含开始标志、所述结尾段视频包含结束标志；

否则，确定所述待审核视频不完整，向发送所述待审核视频的发送方发送第二报错信息。

7.一种视频审核装置，其特征在于，包括：

接收单元，用于接收待审核视频，所述待审核视频包括用户上传的视频或视频平台自制视频；

截取单元，用于根据第一目标条件在所述待审核视频的首尾各截取一段视频作为第一目标视频，所述第一目标视频包括开始段视频、结尾段视频，所述第一目标条件用于确定截取所述开始段视频、结尾段视频的视频长度；

提取单元，用于对所述第一目标视频进行主题特征提取获得第一特征参数；

判断单元，用于根据所述第一特征参数判断所述待审核视频是否完整；

确定单元，用于在所述待审核视频完整的情况下，根据所述待审核视频的主题标签确定所述待审核视频的审核方式；

审核单元，用于依据所述待审核视频的审核方式审核所述待审核视频，判断所述待审核视频是否符合视频发布规定；

发布单元，用于在所述待审核视频符合所述视频发布规定的情况下，将所述待审核视频发布在视频平台。

8.一种视频审核装置，其特征在于，包括处理器、存储器以及通信接口，所述处理器、存储器和通信接口相互连接，其中，所述通信接口用于接收和发送数据，所述存储器用于存储程序代码，所述处理器用于调用所述程序代码，执行如权利要求1至6任一项所述的方法。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行以实现权利要求1至6任一项所述的方法。