CN109618226B - 视频审核方法、装置、电子设备及存储介质 - Google Patents

Abstract

本申请公开了一种视频审核方法、装置、电子设备及存储介质，涉及互联网技术领域。其中，该方法包括：接收审核客户端发送的视频审核请求；根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组；将选取的视频帧组发送到所述审核客户端。在本申请实施例提供的方案中，在提高审核的准确性的同时提高审核效率。

Description

视频审核方法、装置、电子设备及存储介质

技术领域

本申请涉及互联网技术领域，更具体地，涉及一种视频审核方法、装置、电子设备及存储介质。

背景技术

随着互联网技术的不断发展，网络平台中各种形式的视频内容越来越丰富，如各种短视频、长视频等。在这些视频中，可能存在一些包括违规内容的视频，如视频中包括有违社会公德的内容、违反法律法规的内容、对青少年具有不良影响的内容以及其他需要禁止播放的内容。

为了避免违规视频向用户开放，可以对视频进行审核。但是，视频的有效审核以及视频的审核效率难以兼顾。

发明内容

鉴于上述问题，本申请提出了一种视频审核方法、装置、电子设备及存储介质，以改善上述问题。

第一方面，本申请实施例提供了一种视频审核方法，该方法包括：接收审核客户端发送的视频审核请求；根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组；将选取的视频帧组发送到所述审核客户端。

第二方面，本申请实施例提供了一种视频审核方法，该方法包括：向服务器发送视频审核请求；接收服务器返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量；将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示。

第三方面，本申请实施例提供了一种视频审核装置，所述装置包括：请求接收模块，用于接收审核客户端发送的视频审核请求；选取模块，用于根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组；发送模块，用于将选取的视频帧组发送到所述审核客户端。

第四方面，本申请实施例提供了一种视频审核装置，所述装置包括：请求发送模块，用于向服务器发送视频审核请求；视频帧接收模块，用于接收服务器返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量；显示模块，用于将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示。

第五方面，本申请实施例提供了一种电子设备，包括：一个或多个处理器；存储器；一个或多个程序。其中所述一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序配置用于执行上述的方法。

第六方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有程序代码，所述程序代码可被处理器调用执行上述的方法。

本申请实施例提供的视频审核方法、装置、电子设备及存储介质，服务器响应审核客户端的视频审核请求，选取视频帧组发送到审核客户端，每个视频帧组包括统一视频中的视频帧。在本申请实施例提供的方案中，通过审核客户端对视频的审核，提高审核的准确性；另外，从一个视频中选取的一帧或多帧视频帧形成的视频帧组向审核客户端发送，使同一个审核客户端审核一个视频的视频帧，审核的视频帧连续，提高审核效率。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出了本申请实施例提供的视频审核系统的交互示意图。

图2示出了本申请一实施例提供的视频审核方法的流程示意图。

图3示出了本申请实施例提供的审核界面的显示区域示意图。

图4示出了本申请另一实施例提供的视频审核方法的流程示意图。

图5至图11分别示出了审核终端的审核界面的不同示意图。

图12示出了本申请又一实施例提供的视频审核方法的流程示意图。

图13示出了本申请一实施例提供的视频审核装置的功能模块图。

图14示出了本申请另一实施例提供的视频审核装置的功能模块图。

图15示出了本申请实施例提供的电子设备的结构框图。

图16是本申请实施例的用于保存或者携带实现根据本申请实施例的视频审核方法的程序代码的存储单元。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。

随着移动终端普及和网络的提速，各种各样的视频越来越多。例如，以短视频为例，短视频以其短平快的特点逐渐获得各大平台、粉丝和资本的青睐。短视频制作简单，发布方便，表现形式多样，内容丰富，是适合在移动状态和短时休闲状态下观看的、高频推送的视频内容。因此，越来越多的人参与到短视频的制作、分享以及观看中来，从而短视频的数量越来越多，内容越来越丰富，观众也越来越多。

但是在众多的视频中，有些视频可能是违规视频，即该视频中包括违规内容。若将这些违规视频向用户开放，则不仅可能传递负面信息、违法信息等被禁止的信息，甚至可能违反法律法规。因此，需要对视频进行审核，及时发现违规视频并进行相应的处理。

通常的，可以通过机器对视频进行图像分析或者来源分析，确定视频中是否包括违规内容。但是，机器的识别能力不足，如由于机器的样本库不完善，或者视频中的违规内容与机器的样本库中匹配度不高等，可能导致机器判断错误，使某些本来包括违规内容的视频被机器判断为不违规。并且通过验证，机器无法发现所有包括违规内容的视频。

为了保证视频审核的准确性，有效识别视频中的违规内容，避免违规视频向用户开放，造成负面影响，需要对视频进行人工审核，即通过审核人员判断视频中是否包括违规内容。

通过人工审核时，为了提高审核速度，可以从视频中选取视频帧发送到审核客户端进行审核。但是，发明人通过研究发现，若将从不同的视频帧选取的视频帧无序排列，在向审核客户端分配视频帧进行审核时，连续发送到审核客户端的可能为不同视频的视频帧，同一视频的视频帧可能分配到不同的审核客户端，使审核客户端审核的视频不连续，降低审核速度。其中，审核客户端为审核终端中进行视频审核的客户端，可以是一个应用程序或者是网页。

因此，发明人提出了本申请实施例中的视频审核方法、装置、电子设备及存储介质，用于视频审核系统。如图1所示，该视频审核系统包括网络连接的服务器以及审核终端。其中，该审核终端可以是手机、计算机、平板电脑以及其他可以通过视频审核客户端进行视频审核的智能设备，本申请实施例主要以计算机为例进行说明。与服务器网络连接的审核终端的数量可以为多个，图1中仅以2个为例进行说明。另外，该视频审核系统中的服务器可以是单个的服务器，也可以是服务器集群，在本申请实施例中并不限定，图1仅1以个服务器进行示意。

该视频审核方法、装置、电子设备及存储介质，审核人员可以通过审核终端的审核客户端向服务器发起视频审核请求，请求用于进行审核的视频。服务器接收到视频审核请求的情况下，根据审核客户端当前可显示视频帧的数量，向审核客户端返回视频帧组，以使审核客户端对应的审核人员可以对每个视频帧组进行审核，所审核的视频帧是连续的。

请参阅图2，示出了一种本申请实施例提供的视频审核方法的流程图，该视频审核方法应用于服务器。其中，服务器接收到审核客户端发送的视频审核请求时，根据审核客户端当前可显示视频帧的数量选取视频帧组发送到审核客户端，使同一个视频帧组的视频发送到同一个审核客户端，保证审核的准确性及连续性。在具体的实施例中，该视频审核方法可以应用于如图7所示的视频审核装置400以及配置有所述视频审核装置400的电子设备500(图8)。下面将以服务器为例，说明本实施例的具体流程。具体的，该方法包括：

步骤S110：接收审核客户端发送的视频审核请求。

审核客户端可以向服务器发起视频审核请求，请求服务器向其分配视频的视频帧进行审核。其中，审核客户端触发视频审核请求的方式并不限定，例如可以是，该审核客户端开启并登陆相应的审核人员帐号，进入审核客户端的审核页面，向服务器发起视频审核请求；也可以是，当审核客户端中显示的一页视频帧审核完毕，接收到翻页操作，向服务器发起视频审核请求。

步骤S120：根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组。

响应于该视频审核请求，服务器可以选取用于发送到审核客户端的视频帧组。

具体的，服务器可以存储有质检库，该质检库中包括多个待审核的视频帧组。其中，每个视频帧组对应一个待审核的视频，也就说，视频帧组的形成可以是服务器从待审核的视频中选取的、用于审核的视频帧。审核客户端对一个视频帧组的审核结果，表示该审核客户端对该视频帧组对应的视频的审核结果。

视频帧组包括一组视频帧，该一组视频帧可能是一帧视频帧，也可能是多帧视频帧。每个视频帧组中视频帧的多少并不确定，具体可以由从视频中选取视频帧的方式以及视频的长度确定。

服务器可以根据审核客户端当前可显示视频帧的数量从质检库中选取视频帧组。其中，审核客户端中可以包括多个用于显示视频帧的显示区域，每个显示区域用于显示一帧视频帧。如图3中每个虚线框表示一个显示区域。审核客户端当前可显示视频帧的数量，即审核客户端中有多少显示区域可以用于接收视频帧进行显示。例如，审核客户端中当前未接收到有视频帧进行显示，则审核客户端当前可显示的视频帧的数量为审核客户端中显示区域的总数量。如图3中所示的审核客户端的审核界面中显示区域的总数量为15，图3所示状态下的审核客户端可显示的视频帧的数量为15。

服务器选取视频帧组时，其选取的数量标准可以是，选取的视频帧组的视频帧数量之和大于或等于审核客户端当前可显示视频帧的数量，选取最少个视频帧组，使选取的视频帧组既可以将审核客户端中的显示区域填满，又可以使同一个视频帧组的视频帧由同一个审核客户端进行审核。例如，从质检库中选取到4个视频帧组时，该4个视频帧组的视频帧的数量之和小于审核客户端当前可显示视频帧的数量，在选取到第5个视频帧组时，选取到的该5个视频帧组的视频帧的数量之和大于或等于审核客户端当前可显示视频帧的数量，则选取该5个视频帧组。

步骤S130：将选取的视频帧组发送到所述审核客户端。

若选取到一个视频帧组，视频帧的数量就大于或等于审核客户端当前可显示视频帧的数量，则向审核客户端发送该视频帧组。若选取到多个视频帧组，则向审核客户端发送该多个视频帧组的视频帧。

本申请实施例提供的视频审核方法，通过将以组为单位的视频帧发送到审核客户端进行审核，既实现对视频审核的准确性，又提高了审核客户端的审核效率。

如图4所示，本申请实施例还提供了一种应用于服务器的视频审核方法。与前一实施例相比，该视频审核方法描述了保证同一视频帧组全部发送到同一视频审核客户端的发送方式。具体的，请参见图4，该方法包括：

步骤S210：接收审核客户端发送的视频审核请求。

审核客户端可以向服务器发起视频审核请求，以向服务器请求用于审核的视频帧组。

在本申请实施例中，审核客户端还可以向服务器发送与当前可显示视频帧的数量相关的信息，服务器根据审核客户端所发送的相关信息确定审核客户端当前可显示视频帧的数量。

作为一种实施方式，在审核客户端可以设置视频帧的显示比例。其中，设置的视频帧的显示比例不同，可显示的视频帧数量不同，显示比例越大，可显示的视频帧的数量越少。如图5以及图6所示，图5中视频帧的显示比例大于图6中视频帧的显示比例，则在图5所示的审核界面状态下，审核客户端可显示的视频帧数量比图6所示的审核界面状态下少。

可选的，在该实施方式中，审核客户端可以根据当前显示比例大小确定当前可以显示的视频帧数量。审核客户端在每次向服务器发起视频审核请求时，可以向服务器发送当前可显示视频帧的数量。

可选的，在该实施方式中，审核客户端可以根据当前显示比例大小确定当前可以显示的视频帧数量。具体可以是，审核客户端在每次显示比例变化时，计算当前可以显示的视频帧数量，并且在显示比例变化后第一次向服务器发起视频审核请求时，向服务器发送当前可显示视频帧的数量。服务器在接收到视频审核请求时，若接收到有当前可显示视频帧的数量，则以该当前可显示视频帧的数量作为选取视频帧组的数量标准，并将接收到的审核终端可显示视频帧的数量存储；服务器在接收到视频审核请求时，若没有接收到有当前可显示视频帧的数量，则以最近存储的可显示视频帧的数量作为选取视频帧组的数量标准。

可选的，服务器可以存储审核客户端中显示比例与可显示视频帧的数量的对应关系。审核客户端在每次向服务器发起视频审核请求时，可以向服务器发送当前的显示比例。服务器根据接收到的显示比例确定审核客户端当前可显示视频帧的数量。

可选的，服务器可以存储审核客户端中显示比例与可显示视频帧的数量的对应关系。审核客户端可以在每次显示比例发生变化后的第一次向服务器发起视频审核请求时，向服务器发送显示比例。服务器在接收到视频审核请求时，若接收到有显示比例，则根据该显示比例确定审核终端可显示视频帧的数量，作为选取视频帧组的数量标准，并将接收到的显示比例存储；服务器在接收到视频审核请求时，若没有接收到有显示比例，则根据最近存储的显示比例确定审核终端可显示视频帧的数量，作为选取视频帧组的数量标准。

作为一种实施方式，审核客户端可显示视频帧的数量可以是固定的。则可以是，审核客户端可以在每次向服务器发起视频审核请求时，可以向服务器发送可显示视频帧的数量。也可以是，审核客户端在第一次登录时，向服务器发送可显示视频帧的数量，服务器存储该可显示视频帧的数量，作为本次登录后的视频审核过程中，审核客户端可显示视频帧的数量。或者也可以是，服务器存储审核终端可显示视频帧的数量，在每次接收到视频审核请求时，以存储的可显示视频帧的数量作为审核客户端当前可显示视频帧的数量，进行视频帧组的选取。

该步骤与步骤S110相同或相似的部分可以相互参考，在此不再赘述。

步骤S220：按照时间先后顺序依次选取一个或多个视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于所述审核客户端对视频帧的可显示数量。

作为一种实施方式，在本申请实施例中，服务器可以从待审核的视频帧选取视频帧，形成对应该待审核视频的视频帧组，选取该视频帧组作为发送到审核客户端的视频帧组。为了提高审核的准确性，从视频中选取的视频帧可以是按照预设间隔时间进行选取，使选取的视频帧均匀地表示视频展示的内容，对视频播放的内容具有代表性。当然，该预设间隔时间不宜过长，若过长，则可能遗漏视频中包括违规内容的视频帧；该预设间隔时间也不宜过短，若过短，则视频中选取的视频帧较多，审核客户端的审核压力较大，审核速度降低。具体的，该预设时间间隔的具体时间在本申请实施例中并不限定，例如可以是1秒到5秒中的任意一个数值。例如，该预设间隔时间为1秒，则可以从该视频中每隔1秒选取一帧视频帧，对于一个时长为60秒的视频，则可以选取60帧视频帧，作为该视频对应的视频帧组。又如，该预设间隔时间为1秒，对于一个时长为1秒的视频，则可以选取1帧视频帧，作为该视频对应的视频帧组。

作为一种实施方式，在本申请实施例中，服务器可以从待审核的视频帧选取视频帧，形成对应该待审核视频的视频帧组，将该视频帧组存储到质检库。其中，服务器从视频选取视频帧的方式可以参照前一实施方式，在此不再赘述。

在该实施方式中，将选取的视频帧组存储到质检库。具体可以存储视频帧的截图时间、视频帧在视频中的播放时间、视频帧的顺序编号等可以表示视频帧时间先后顺序的时间信息，还可以存储获取每个视频帧组的时间。存储视频帧组时，可以按照时间的先后顺序将视频帧组存储到质检库。

在本实施方式中，获取视频帧组的时间可以是该视频帧组中最后一帧视频帧选取到的时间。例如，从某视频中选取视频帧组时，在8点选取获得该视频帧组的最后一帧视频帧，则以8点作为获取到该视频帧组的时间。当然，本实施方式中，也可以以视频帧组中第一帧视频的选取时间作为获取到该视频帧组的时间。本申请实施例以从质检库选取视频帧组为例进行说明。

为了越早进入质检库的视频越早被审核，本申请实施例中，根据审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组时，可以是按照时间的先后顺序依次选取，即按照视频帧组的时间先后进行选取，从时间在前的视频帧组开始选取。

在本申请实施例中，服务器可以从质检库中时间最早的视频帧组开始选取，若选取到一个视频帧组后，该视频帧组的视频帧数量小于审核客户端的可显示数量，则再选取质检库中下一个时间最早的视频帧组，再计算当前选取到的两个视频帧组的视频帧数量之和是否小于审核客户端的可显示数量。若不小于，则将该两个视频帧组作为发送到审核客户端的视频帧组；若小于，则继续选取质检库中下一个时间最早的视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于所述审核客户端对视频帧的可显示数量。

例如，如图3所示，审核客户端当前可显示视频帧的数量为15，服务器从质检库选取到一个时间最早的视频帧组A，该视频帧A包括视频帧8帧，小于审核客户端当前可显示视频帧的数量15，则继续选取下一个时间最早的视频帧组。若选取到视频帧组B，该视频帧组B包括6个视频帧。视频帧组A加视频帧组B的视频帧之和为14，小于15，继续选取质检库中下一个时间最早的视频帧组。若选取到视频帧组C，包括20个视频帧。此时，选取到的视频帧组A、视频帧组B以及视频帧组C的视频帧数量之和为34，大于审核客户端当前可显示视频帧的数量15，则以视频帧组A、视频帧组B以及视频帧组C作为发送到所述审核客户端的视频帧组。

步骤S230：根据选取的视频帧组的视频帧数量之和与审核客户端当前可显示视频帧的数量的大小关系，向审核客户端发送视频帧组的视频帧。

由于审核客户端的审核界面可显示的视频帧数量有限，因此，若选取的视频帧组的视频帧数量之和等于所述审核客户端当前可显示视频帧的数量，将选取的视频帧组全部发送到所述审核客户端。例如，若服务器选取到2个视频帧组，共15帧视频帧，并且，审核客户端可显示视频帧的数量如图3所示，为15帧，则将该2个视频帧组全部发送到审核客户端。

另外，若选取的视频帧组的视频帧数量之和大于所述审核客户端当前可显示视频帧的数量，将选取的视频帧组的视频帧分多次发送到所述审核客户端，直至选取的视频帧组的所有视频帧发送到所述审核客户端。其中，除最后一次以外，其他次数发送的视频帧数量，都可以等于发送视频帧时审核客户端可显示视频帧的最大数量，是审核客户端的审核界面被填满。最后一次发送的视频帧，可以是选取的视频帧组中剩余的视频帧。

在本申请实施例中，向审核客户端发送视频帧组时，可以将视频帧组按照时间先后顺序向审核终端发送。

另外，发送视频帧时，还可以发送表示每个视频帧时间先后顺序的时间信息，以及发送视频帧组的时间，使接收到视频帧组的审核客户端，可以将视频帧组按照时间先后顺序排列，即将时间更早的视频帧组排列在先，时间更晚的视频帧组排列在后。将同一视频帧组中的视频帧，按照时间先后排列。可选的，发送到审核客户端的视频帧组的时间，可以与该视频帧组的第一张视频帧一起发送，用于表示获取该第一张视频帧对应的视频帧组的时间。

具体的，若选取的视频帧组的视频帧数量之和大于所述审核客户端当前可显示视频帧的数量，服务器分多次发送视频帧的方式可以是如下所述。

按照时间先后顺序将选取的视频帧组中等于所述审核客户端当前可显示视频帧的数量的视频帧发送到审核客户端，审核客户端可以对接收到的视频帧进行显示。其中，审核客户端的审核界面显示的视频帧，同一视频帧组中的视频帧相邻，视频帧的时间越早，显示越靠前。另外，同一视频帧组中的视频帧按照先后顺序，时间在先的显示在前，时间在后的显示在后。

当审核人员对当前审核界面的视频帧审核完毕，可以进行翻页，即进行下一页面的视频帧审核。审核人员发起翻页操作，审核客户端在接收到翻页操作时，向服务器发起视频审核请求。服务器接收到审核客户端发送的视频审核请求，向审核客户端发送选取的视频帧组中剩余的视频帧。其中，若选取的视频帧组中剩余的视频帧小于或等于所述审核客户端当前可显示视频帧的数量，将剩余的全部视频帧发送到所述审核客户端；若选取的视频帧组中剩余的视频帧大于所述审核客户端当前可显示视频帧的数量，将剩余的视频帧中等于所述审核客户端当前可显示视频帧的数量的视频帧发送到所述审核客户端；直至选取的视频帧组的所有视频帧发送到所述审核客户端。

以前述服务器选取视频帧组A、视频帧组B以及视频帧组C为例，服务器选取3个视频帧组共34帧视频帧，审核界面可显示的视频帧的数量如图3所示，为15帧。则服务器先向审核客户端发送15帧视频帧，分别为视频帧组A的全部视频帧、视频帧组B的全部视频帧以及视频帧组C中时间最早的视频帧C1，如图7所示。图7中，视频帧A1至视频帧A8的时间顺序依次从前到后，视频帧B1值视频帧B6的时间顺序依次从前到后。

当审核客户端在图7所示的审核界面接收到视频审核请求对应的操作，如接收到翻页操作，则向服务器发送视频审核请求。服务器接收到该视频审核请求时，将视频帧组A、视频帧组B以及视频帧组C中剩余的视频帧向审核客户端发送。具体的，由于选取的视频帧组中，还剩余视频帧组C中的19帧视频帧，审核终端可显示视频帧的数量为15，19帧大于审核终端可显示视频帧的数量，则将该19帧视频帧中的15帧发送到审核客户端，并且，按照时间从先到后发送15帧。具体发送的为视频帧组C中的视频帧C2至视频帧C16，如图8中审核客户端的审核界面显示所示。图8所示的审核界面即为图7所示的下一页。

在图8所示的审核界面下，若接收到翻页操作，向服务器发起视频审核请求。服务器接收到该视频审核请求时，将视频帧组A、视频帧组B以及视频帧组C中剩余的视频帧向审核客户端发送。具体的，由于选取的视频帧组中，还剩余视频帧组C中的4帧视频帧，小于审核终端可显示视频帧的数量为15，则将该视频帧组C中的最后4帧视频帧发送到审核终端，在审核终端审核界面最前的位置显示，如图9所示。其中，视频帧组C中，视频帧C1至视频帧C20，在视频中的时间顺序依次由前到后。

如图9所示，在选取的视频帧组中剩余的视频帧小于审核客户端可显示数量时，审核客户端的审核界面有空余，没有完全被显示。因此，在本申请实施例中，可以选取向审核客户端发送的视频帧组，使审核客户端的审核界面完全用于显示视频帧，即审核界面的显示区域完全被填满。

作为一种实施方式，若最后一次发送到所述审核客户端的视频帧数量小于所述审核客户端当前可显示视频帧的数量，服务器可以再次根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，并将选取的视频帧组向审核客户端发送。

可以理解的，在该实施方式中，由于已经向审核客户端发送了部分视频帧，服务器再次根据所述审核客户端当前可显示视频帧的数量选取视频帧组时，审核客户端当前可显示视频帧的数量为，审核客户端可显示视频帧的最大数量，减去服务器最后一次发送到所述审核客户端的视频帧数量。

例如，如图9所示，在服务器向审核客户端发送了视频帧C17至视频帧C20共4帧视频帧，审核客户端当前可显示视频帧的数量为15-4＝11，即审核客户端剩余的可用于显示视频帧的显示区域的数量为11。因此，服务器可以再次按照时间先后顺序依次选取一个或多个视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于11。

再次选取视频帧组后，向审核客户端发送等于前可显示视频帧的数量，即向审核客户端发送11帧视频帧。接收到视频帧的审核客户端可以显示如图10所示，接收到视频帧组D的视频帧。

作为一种实施方式，当选取的视频帧组中剩余的视频帧小于所述审核客户端当前可显示视频帧的数量，服务器可以再次选取用于发送到审核客户端的视频帧组，以用于将审核客户端的审核界面全部显示。其中，由于前一次选取的视频帧组还有剩余视频帧未发送到审核客户端，因此，再次选取用于发送到审核客户端的视频帧组时，审核客户端当前可显示视频帧的数量为，审核客户端可显示视频帧的最大数量，减去前一次选取的视频帧组中剩余的视频帧的数量。

例如，服务器在向审核客户端发送如图8所示的视频帧C2至视频帧C16后，选取的视频帧组A、视频帧组B以及视频帧组C中还剩余4帧视频帧，小于审核客户端总共可以显示的视频帧数量15，审核客户端还有15-4＝11个显示区域可显示视频帧，根据该数量11选取视频帧组。具体的，服务器可以再次按照时间先后顺序依次选取一个或多个视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于11。

服务器在接收到如图8所示的审核界面下发送的视频审核请求时，向审核客户端发送15帧视频帧，其中包括视频帧C17至视频帧C20以及最新选取的视频帧组中的11帧视频帧。其中，可以将视频帧C17至视频帧C20发送在前，使审核客户端将视频帧C17至视频帧C20显示在最靠前的位置，如图10所示。

另外，在本申请实施例中，若审核客户端向服务器发送审核结束请求，则服务器不再选取发送到审核客户端的视频帧组。但是，为了保证审核的连续性，仍然将已经选取的视频帧组的视频帧向该审核客户端发送，直到选取的视频帧全部发送到该审核客户端。

例如，在如图8以及图7的任意一个审核界面下接收到审核结束请求，则不再执行前述实施方式中的再次选取视频帧组的步骤。当接收到图8所示审核界面下发送的翻页请求，将视频帧组A、视频帧组B以及视频帧组C中还剩余4帧视频帧发送到审核客户端，不再选取视频帧组向审核客户端发送，使该审核客户端的审核员在审核完成视频帧组A、视频帧组B以及视频帧组C的所有视频帧后，可以结束审核。即在接收到图8所示审核界面下发送的翻页请求，翻页后审核终端显示如图9所示。

在本申请实施例中，当对获得视频的审核结果后，若该视频的视频帧组中的视频帧未完全审核完成，可以不再审核未审核的视频。例如，当审核人员判定某个视频帧组中包括违规内容，判定该视频帧组对应的视频违规，可以不再对该视频帧组中的其他视频帧进行审核。因此，在本申请实施例中，若选取的视频帧组的视频帧还未完全发送到所述审核客户端，当接收到对最后一个视频帧组的审核结果，不再发送剩余的视频帧至审核客户端。也就是说，选取的视频帧组中的最后一个视频帧帧组的视频帧还未完全发送到审核客户端，接收到对最后一个视频帧组的审核结果，则不再发送该视频帧组的其余视频帧至审核客户端。同时，在接收审核客户端发送的视频审核请求时，重新获取根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组。

例如，在图7的审核界面下，审核客户端接收到对视频帧组C的审核结果，如审核客户端接收到对视频帧组C的视频帧C1的违规确认操作，即确认该视频帧C1违规，则审核客户端向服务器反馈该审核结果。接收到审核结果的服务器，可以确定视频帧组C对应的视频违规，不再向审核客户端发送视频帧C2至视频帧C20。并且，在接收到翻页操作时，重新根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组。若重新选取到视频帧组D包括16帧视频帧，在对图7的审核界面翻页后，可以显示如图11所示，显示的为新选取的视频帧组D的视频帧，不再显示视频帧组C的视频帧。

另外，服务器接收到审核客户端返回的某视频违规的审核结果，可以将该视频发送到另一级的审核客户端进行审核。

在本申请实施例中，服务器根据审核客户端可显示视频帧的数量选取视频帧组，将视频帧组按照时间先后顺序发送到审核客户端，使审核客户端审核的视频帧连续，提高审核效率。并且，保证视频审核的视频帧连续、安全审核，并消除在获得视频的审核结果后继续审核剩余视频帧的不必要耗时，减少人力消耗，节约审核成本。并且，同一视频的所有视频帧只被一个审核员审核，保证审核的完整性连续性。

本申请实施例还提供了一种视频审核方法，用于审核终端，通过审核终端的审核客户端执行。具体的，如图12所示，该方法可以包括：

步骤S310：向服务器发送视频审核请求。

步骤S320：接收服务器返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量。

步骤S330：将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示。

审核终端可以在登陆时、翻页时或者接收到其他用于发送视频审核请求的操作时，向服务器发送视频审核请求，并接收服务器响应该视频审核请求返回的视频帧组。

审核终端对视频帧组进行显示时，按照视频帧组的先后顺序，将时间在前的视频帧组显示在时间在后的视频帧组之前。例如图7中，视频帧组A的时间在视频帧组B之前，则将视频帧组A显示在前。

并且，对于同一视频帧组，根据视频帧的时间信息，将时间在前的显示在时间在后的视频帧之前。例如图7中，视频帧组A的视频帧A1至视频帧A8，时间信息由前到后，则如图7所示，从前到后依次显示视频帧A1至视频帧A8。

在本申请实施例中，审核终端对视频帧的显示方式可以参照前述实施例，在此不再赘述。

本申请实施例还提供了一种视频审核装置400，应用于服务器。请参见图13，该装置包括：请求接收模块410，用于接收审核客户端发送的视频审核请求；选取模块420，用于根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组；发送模块430，用于将选取的视频帧组发送到所述审核客户端。

可选的，选取模块420可以用于按照时间先后顺序依次选取一个或多个视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于所述审核客户端对视频帧的可显示数量。

可选的，发送模块430可以若选取的视频帧组的视频帧数量之和等于所述审核客户端当前可显示视频帧的数量，将选取的视频帧组全部发送到所述审核客户端；若选取的视频帧组的视频帧数量之和大于所述审核客户端当前可显示视频帧的数量，将选取的视频帧组的视频帧分多次发送到所述审核客户端，直至选取的视频帧组的所有视频帧发送到所述审核客户端。

可选的，发送模块430可以包括第一发送单元以及第二发送单元。具体的，发送模块430将选取的视频帧组的视频帧分多次发送到所述审核客户端，直至选取的视频帧组的所有视频帧发送到所述审核客户端可以是，第一发送单元用于按照时间先后顺序将选取的视频帧组中等于所述审核客户端当前可显示视频帧的数量的视频帧发送到所述审核客户端；第二发送单元用于每次接收到所述审核客户端发送的视频审核请求，向所述审核客户端发送选取的视频帧组中剩余的视频帧，其中，若选取的视频帧组中剩余的视频帧小于或等于所述审核客户端当前可显示视频帧的数量，将剩余的全部视频帧发送到所述审核客户端，若选取的视频帧组中剩余的视频帧大于所述审核客户端当前可显示视频帧的数量，将剩余的视频帧中等于所述审核客户端当前可显示视频帧的数量的视频帧发送到所述审核客户端，直至选取的视频帧组的所有视频帧发送到所述审核客户端。

可选的，在本申请实施例中，若最后一次发送到所述审核客户端的视频帧数量小于所述审核客户端当前可显示视频帧的数量，再次调用请求接收模块410、选取模块420以及发送模块430。

可选的，在本申请实施例中，若选取的视频帧组的视频帧还未完全发送到所述审核客户端，当接收到对最后一个视频帧组的审核结果，发送模块430不再发送剩余的视频帧至所述审核客户端。

可选的，在本申请实施例中，选取模块420还可以用于从视频中按照预设时间间隔选取一帧或多帧视频帧，作为对应该视频的视频帧组。

本申请实施例还提供了一种视频审核装置500，应用于审核终端。请参见图14，该装置500可以包括：请求发送模块510，用于向服务器发送视频审核请求。视频帧接收模块520，用于接收服务器返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量。显示模块530，用于将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示。

另外，本申请实施例还提供了一种视频审核系统600。如图1所示，该视频审核系统包括服务器以及审核终端。其中，审核终端用于向服务器发送视频审核请求。服务器用于接收审核客户端发送的视频审核请求；根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组；将选取的视频帧组发送到所述审核客户端。

审核终端还用于接收服务器返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量；将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述的各个方法实施例之间可以相互参照；上述描述装置、模块和系统的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，模块相互之间的耦合可以是电性，机械或其它形式的耦合。

另外，在本申请各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

请参考图15，其示出了本申请实施例提供的一种电子设备700的结构框图。该电子设备700可以是服务器，也可以是审核终端。该电子设备一个或多个处理器710(图中仅示出一个)，存储器720以及一个或多个程序。其中，所述一个或多个程序被存储在所述存储器720中，并被配置为由所述一个或多个处理器710执行。若该电子设备为服务器，则所述一个或多个程序配置用于执行前述服务器对应的方法。若该电子设备为审核终端，则所述一个或多个程序配置用于执行前述审核终端对应的方法。

处理器710可以包括一个或者多个处理核。处理器710利用各种接口和线路连接整个电子设备700内的各个部分，通过运行或执行存储在存储器720内的指令、程序、代码集或指令集，以及调用存储在存储器720内的数据，执行电子设备700的各种功能和处理数据。可选地，处理器710可以采用数字信号处理(Digital Signal Processing，DSP)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)、可编程逻辑阵列(Programmable LogicArray，PLA)中的至少一种硬件形式来实现。处理器710可集成中央处理器(CentralProcessing Unit，CPU)、图像处理器(Graphics Processing Unit，GPU)和调制解调器等中的一种或几种的组合。其中，CPU主要处理操作系统、用户界面和应用程序等；GPU用于负责显示内容的渲染和绘制；调制解调器用于处理无线通信。可以理解的是，上述调制解调器也可以不集成到处理器710中，单独通过一块通信芯片进行实现。

存储器720可以包括随机存储器(Random Access Memory，RAM)，也可以包括只读存储器(Read-Only Memory)。存储器720可用于存储指令、程序、代码、代码集或指令集。存储器720可包括存储程序区和存储数据区，其中，存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令、用于实现上述各个方法实施例的指令等。存储数据区还可以电子设备在使用中所创建的数据(比如电话本、音视频数据、聊天记录数据)等。

另外，若电子设备为审核终端，该电子设备700还可以包括显示屏，用于显示审核客户端的审核界面。

请参考图16，其示出了本申请实施例提供的一种计算机可读存储介质的结构框图。该计算机可读存储介质800中存储有程序代码，所述程序代码可被处理器调用执行上述方法实施例中所描述的方法。

计算机可读存储介质800可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地，计算机可读存储介质800包括非易失性计算机可读介质(non-transitorycomputer-readable storage medium)。计算机可读存储介质800具有执行上述方法中的任何方法步骤的程序代码810的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码810可以例如以适当形式进行压缩。

最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (11)

1.一种视频审核方法，其特征在于，所述方法包括：

接收审核客户端发送的视频审核请求以及视频帧显示比例；

根据所述显示比例确定审核客户端当前可显示视频帧的数量，其中，显示比例越大，可显示视频帧的数量越少；

按照时间先后顺序依次选取一个或多个视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于所述审核客户端对视频帧的可显示数量，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组，所述审核客户端包括多个用于显示视频帧的显示区域，每个显示区域用于显示一帧视频帧，所述对视频帧的可显示数量表征所述审核客户端中可以用于接收视频帧进行显示的显示区域的数量；

将选取的视频帧组按照时间先后顺序发送到所述审核客户端，其中，审核客户端的审核界面显示的视频帧，同一视频帧组中的视频帧相邻，视频帧的时间越早，显示越靠前。

2.根据权利要求1所述的方法，其特征在于，所述将选取的视频帧组发送到所述审核客户端，包括：

若选取的视频帧组的视频帧数量之和等于所述审核客户端当前可显示视频帧的数量，将选取的视频帧组全部发送到所述审核客户端；

若选取的视频帧组的视频帧数量之和大于所述审核客户端当前可显示视频帧的数量，将选取的视频帧组的视频帧分多次发送到所述审核客户端，直至选取的视频帧组的所有视频帧发送到所述审核客户端。

3.根据权利要求2所述的方法，其特征在于，所述将选取的视频帧组的视频帧分多次发送到所述审核客户端，直至选取的视频帧组的所有视频帧发送到所述审核客户端，包括：

按照时间先后顺序将选取的视频帧组中等于所述审核客户端当前可显示视频帧的数量的视频帧发送到所述审核客户端；

每次接收到所述审核客户端发送的视频审核请求，向所述审核客户端发送选取的视频帧组中剩余的视频帧，其中，

若选取的视频帧组中剩余的视频帧小于或等于所述审核客户端当前可显示视频帧的数量，将剩余的全部视频帧发送到所述审核客户端，

若选取的视频帧组中剩余的视频帧大于所述审核客户端当前可显示视频帧的数量，将剩余的视频帧中等于所述审核客户端当前可显示视频帧的数量的视频帧发送到所述审核客户端，

直至选取的视频帧组的所有视频帧发送到所述审核客户端。

4.根据权利要求2或3所述的方法，其特征在于，若最后一次发送到所述审核客户端的视频帧数量小于所述审核客户端当前可显示视频帧的数量，执行所述根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组的步骤。

5.根据权利要求4所述的方法，其特征在于，若接收到审核结束请求，停止所述根据所述审核客户端当前可显示视频帧的数量，选取发送到所述审核客户端的视频帧组的步骤。

6.根据权利要求2所述的方法，其特征在于，所述将选取的视频帧组发送到所述审核客户端，还包括：

若选取的视频帧组的视频帧还未完全发送到所述审核客户端，当接收到对最后一个视频帧组的审核结果，不再发送剩余的视频帧至所述审核客户端。

7.一种视频审核方法，其特征在于，所述方法包括：

向服务器发送视频审核请求以及视频帧显示比例，以使所述服务器根据所述显示比例确定审核客户端当前可显示视频帧的数量，其中，显示比例越大，可显示视频帧的数量越少；

接收服务器按照时间先后顺序返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量，所述视频帧组为所述服务器按照时间先后顺序依次选取的一个或多个视频帧组，所述审核客户端包括多个用于显示视频帧的显示区域，每个显示区域用于显示一帧视频帧，所述对视频帧的可显示数量表征所述审核客户端中可以用于接收视频帧进行显示的显示区域的数量；

将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示，其中，审核客户端的审核界面显示的视频帧，同一视频帧组中的视频帧相邻，视频帧的时间越早，显示越靠前。

8.一种视频审核装置，其特征在于，所述装置包括：

请求接收模块，用于接收审核客户端发送的视频审核请求以及视频帧显示比例；

选取模块，用于按照时间先后顺序依次选取一个或多个视频帧组，直到选取的视频帧组的视频帧数量之和大于或等于所述审核客户端对视频帧的可显示数量，其中，从一个视频中选取的一帧或多帧视频帧形成一个视频帧组，所述审核客户端包括多个用于显示视频帧的显示区域，每个显示区域用于显示一帧视频帧，所述对视频帧的可显示数量表征所述审核客户端中可以用于接收视频帧进行显示的显示区域的数量；

发送模块，用于将选取的视频帧组按照时间先后顺序发送到所述审核客户端，其中，审核客户端的审核界面显示的视频帧，同一视频帧组中的视频帧相邻，视频帧的时间越早，显示越靠前。

9.一种视频审核装置，其特征在于，所述装置包括：

请求发送模块，用于向服务器发送视频审核请求以及视频帧显示比例，以使所述服务器根据所述显示比例确定审核客户端当前可显示视频帧的数量，其中，显示比例越大，可显示视频帧的数量越少；

视频帧接收模块，用于接收服务器按照时间先后顺序返回的视频帧组，接收到的视频帧组的视频帧数量之和等于审核客户端当前可显示视频帧的数量，所述视频帧组为所述服务器按照时间先后顺序依次选取的一个或多个视频帧组，所述审核客户端包括多个用于显示视频帧的显示区域，每个显示区域用于显示一帧视频帧，所述对视频帧的可显示数量表征所述审核客户端中可以用于接收视频帧进行显示的显示区域的数量；

显示模块，用于将所述视频帧组按时间先后顺序排列显示，每个视频帧组中的视频帧按时间先后顺序排列显示，其中，审核客户端的审核界面显示的视频帧，同一视频帧组中的视频帧相邻，视频帧的时间越早，显示越靠前。

10.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储器；

一个或多个程序，其中所述一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序配置用于执行如权利要求1-6任一项所述的方法，或者用于执行如权利要求7所述的方法。

11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有程序，所述程序可被处理器调用执行如权利要求1-6任一项所述的方法，或者所述程序可被处理器调用执行如权利要求7所述的方法。

Images