CN111385601B - 一种视频审核的方法、系统及设备 - Google Patents

一种视频审核的方法、系统及设备 Download PDF

Info

Publication number
CN111385601B
CN111385601B CN201811637273.1A CN201811637273A CN111385601B CN 111385601 B CN111385601 B CN 111385601B CN 201811637273 A CN201811637273 A CN 201811637273A CN 111385601 B CN111385601 B CN 111385601B
Authority
CN
China
Prior art keywords
frame
video
training
reinforcement learning
learning network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811637273.1A
Other languages
English (en)
Other versions
CN111385601A (zh
Inventor
赵海宾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Cloud Computing Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201811637273.1A priority Critical patent/CN111385601B/zh
Publication of CN111385601A publication Critical patent/CN111385601A/zh
Application granted granted Critical
Publication of CN111385601B publication Critical patent/CN111385601B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明实施例提供一种由计算设备运行的视频审核方法，对视频的帧进行抽样时，首先从视频中抽样出一帧作为当前帧，根据所述当前帧的特征参数确定所述当前帧的抽样间隔后，根据该抽样间隔从该视频中获取下一抽样帧。最后，确定抽样得到的帧是否为违规帧，根据所述确定结果，确定所述视频的审核结果，在节约了审核视频所需的资源的同时提高了视频审核的准确度。

Description

一种视频审核的方法、系统及设备
技术领域
本发明涉及信息技术领域，尤其涉及一种视频审核的方法及系统。
背景技术
随着互联网技术的繁荣发展，网络上的视频也越来越多。通常情况下，出于监管的目的，需要对视频的内容进行审核，以过滤包含违规信息的视频。近年来，图像识别技术的发展，使得非人工的视频审核成为可能。通常情况下，需将视频解码为视频的帧，通过图像识别技术对帧进行识别和审核，从而实现对视频的审核。
视频往往包含大量的帧，逐帧审核所带来的运算量是庞大的。同时，视频拍摄的对象一般是连续的场景，因此视频的相邻帧通常是类似的，因此，在审核视频时可以对视频的帧进行抽样，仅审核抽样得到的帧。帧的抽样方法直接影响到视频的审核结果。
发明内容
本发明实施例提供一种视频审核的方法与系统，在对视频进行采样时，根据抽样得到的当前帧的特征参数确定当前帧的抽样间隔，提升了视频审核的准确度。
第一方面，本发明实施例提供一种由计算设备运行的视频审核方法。该方法包括：获取该视频；从该视频中选取当前帧；提取该当前帧的特征参数；根据该当前帧的特征参数确定该当前帧的抽样间隔；根据该当前帧的抽样间隔从该视频中获取下一抽样帧，该下一抽样帧和该当前帧之间间隔的帧的个数为该当前帧的抽样间隔；确定该下一抽样帧是否为违规帧；根据该确定结果，确定该视频的审核结果。
根据当前帧的图像信息动态地选择抽样间隔，避免了因固定抽样间隔而导致的资源利用率低或审核准确率低的问题。由于视频中违规帧的相邻帧一般也是违规帧，非违规帧的相邻帧一般也是非违规帧，采取动态的抽样间隔，当视频中出现大量的连续非违规帧时，可以避免抽样得到大量的非违规帧，进而避免将审核帧的资源浪费在大量非违规帧上，节约审核视频所需的资源；同时，当视频中非违规帧较多而违规帧较少时，根据帧的图像信息确定的抽样间隔也可以避免因较大的固定抽样间隔而导致无法抽样出违规帧的情况，在提高资源利用率的情况下提高了视频审核的准确度。
结合第一方面，在第一方面的第一种可能的实现方式中，该根据该当前帧的特征参数确定该当前帧的抽样间隔包括：将该当前帧的特征参数输入强化学习网络，获得该当前帧的抽样间隔，其中，该强化学习网络由训练集训练得到，该训练集包括至少一个训练视频和每个训练视频对应的先验知识，每个训练视频对应的先验知识包括该每个训练视频包括的各个帧是否为违规帧的信息。
将训练完毕的强化学习网络应用在当前帧的抽样间隔决策，可以使得抽样间隔的选取尽可能地符合视频中违规帧的分布规律，从而进一步提高资源利用率并提高视频审核的准确度。
结合第一方面，在第一方面的第二种可能的实现方式中，该获取该视频前，该方法还包括训练强化学习网络。该训练强化学习网络包括：从训练集中获取训练视频和该训练视频的先验知识，该训练视频的先验知识包括该训练视频包括的各个帧是否为违规帧的信息；提取该训练视频的第一帧的特征参数，将该第一帧的特征参数输入该强化学习网络；获取该强化学习网络根据该第一帧的特征参数输出的该第一帧的抽样间隔；根据该第一帧的抽样间隔，从该训练视频中获取该训练视频的第二帧，该训练视频中该第二帧和该第一帧之间间隔的帧的个数为该第一帧的抽样间隔；根据该训练视频的先验知识，确定该第二帧是否为违规帧；根据该确定结果生成奖励，该奖励作用于该强化学习网络。该根据该当前帧的特征参数确定该当前帧的抽样间隔包括：将该当前帧的特征参数输入该训练后的强化学习网络，获得该当前帧的抽样间隔。
结合第一方面的第二种可能的实现方式，在第一方面的第三种可能的实现方式中，根据该确定结果生成奖励之前，该方法还包括：根据该训练视频的先验知识，确定该第一帧与该第二帧之间的违规帧的个数和非违规帧的个数。根据该确定结果生成奖励包括：根据该确定结果、该第一帧与该第二帧之间的违规帧的个数和非违规帧的个数生成该奖励。
综合第二帧为违规帧或者非违规帧，以及第一帧和第二帧之间的违规帧、非违规帧的个数，确定奖励的取值，以进一步地提高训练的精确度，同时避免由于奖励过于稀疏而不易收敛。
第二方面，本发明实施例提供一种运行在计算设备中的视频审核系统。该系统包括：审核设备，该审核设备用于：获取该视频；从该视频中选取当前帧；提取该当前帧的特征参数；根据该当前帧的特征参数确定该当前帧的抽样间隔；根据该当前帧的抽样间隔从该视频中获取下一抽样帧，该下一抽样帧和该当前帧之间间隔的帧的个数为该当前帧的抽样间隔；确定该下一抽样帧是否为违规帧；根据该确定结果，确定该视频的审核结果。
根据当前帧的图像信息动态地选择抽样间隔，避免了因固定抽样间隔而导致的资源利用率低或审核准确率低的问题。由于视频中违规帧的相邻帧一般也是违规帧，非违规帧的相邻帧一般也是非违规帧，采取动态的抽样间隔，当视频中出现大量的连续非违规帧时，可以避免抽样得到大量的非违规帧，进而避免将审核帧的资源浪费在大量非违规帧上，节约审核视频所需的资源；同时，当视频中非违规帧较多而违规帧较少时，根据帧的图像信息确定的抽样间隔也可以避免因较大的固定抽样间隔而导致无法抽样出违规帧的情况，在提高资源利用率的情况下提高了视频审核的准确度。
结合第二方面，在第二方面的第一种可能的实现方式中，该系统还包括强化学习网络训练设备。该强化学习网络训练设备用于由训练集训练得到强化学习网络，该训练集包括至少一个训练视频和每个训练视频对应的先验知识，每个训练视频对应的先验知识包括该每个训练视频包括的各个帧是否为违规帧的信息。该根据该当前帧的特征参数确定该当前帧的抽样间隔包括：该审核设备将该当前帧的特征参数输入该强化学习网络，获得该当前帧的抽样间隔。
将训练完毕的强化学习网络应用在当前帧的抽样间隔决策，可以使得抽样间隔的选取尽可能地符合视频中违规帧的分布规律，可以进一步提高资源利用率并提高视频审核的准确度。
结合第二方面，在第二方面的第二种可能的实现方式中，该系统还包括强化学习网络训练设备。该审核设备获取该视频前，该强化学习网络训练设备用于训练该强化学习网络。该训练强化学习网络包括：从训练集中获取训练视频和该训练视频的先验知识，该训练视频的先验知识包括该训练视频包括的各个帧是否为违规帧的信息；提取该训练视频的第一帧的特征参数，将该第一帧的特征参数输入该强化学习网络；获取该强化学习网络根据该第一帧的特征参数输出的该第一帧的抽样间隔；根据该第一帧的抽样间隔，从该训练视频中获取该训练视频的第二帧，该训练视频中该第二帧和该第一帧之间间隔的帧的个数为该第一帧的抽样间隔；根据该训练视频的先验知识，确定该第二帧是否为违规帧；根据该确定结果生成奖励，该奖励作用于该强化学习网络。该根据该当前帧的特征参数确定该当前帧的抽样间隔包括：将该当前帧的特征参数输入该训练后的强化学习网络，获得该当前帧的抽样间隔。
结合第二方面的第二种可能的实现方式，在第二方面的第三种可能的实现方式中，根据该确定结果生成奖励之前，该强化学习网络训练设备还用于：根据该视频的先验知识，分别确定该第一帧与该第二帧之间的违规帧和非违规帧的个数。根据该确定结果生成奖励包括：根据该确定结果、该第一帧与该第二帧之间的违规帧和非违规帧的个数生成该奖励。
综合第二帧为违规帧或者非违规帧，以及第一帧和第二帧之间的违规帧、非违规帧的个数，确定奖励的取值，以进一步地提高训练的精确度，同时避免由于奖励过于稀疏而不易收敛。
第三方面，本发明实施例提供一种计算设备系统。该计算设备系统包括至少一个计算设备，每个计算设备包括处理器和存储设备，该至少一个计算设备的处理器执行该至少一个计算设备的存储设备中的程序指令，以实现：训练强化学习网络。该训练强化学习网络包括：从训练集中获取训练视频和该训练视频的先验知识，该训练视频的先验知识包括该训练视频包括的各个帧是否为违规帧的信息；提取该训练视频的第一帧的特征参数，将该第一帧的特征参数输入该强化学习网络；获取该强化学习网络根据该第一帧的特征参数输出的该第一帧的抽样间隔；根据该第一帧的抽样间隔，从该训练视频中获取该训练视频的第二帧，该训练视频中该第二帧和该第一帧之间间隔的帧的个数为该第一帧的抽样间隔；根据该训练视频的先验知识，确定该第二帧是否为违规帧；根据该确定结果生成奖励，该奖励作用于该强化学习网络。
结合第三方面，在第三方面的第一种可能的实现方式中，根据该确定结果生成奖励之前，该处理器执行该存储设备中的程序指令，还用于实现：根据该视频的先验知识，分别确定该第一帧与该第二帧之间的违规帧和非违规帧的个数。根据该确定结果生成奖励包括：根据该确定结果、该第一帧与该第二帧之间的违规帧和非违规帧的个数生成该奖励。
综合第二帧为违规帧或者非违规帧，以及第一帧和第二帧之间的违规帧、非违规帧的个数，确定奖励的取值，以进一步地提高训练的精确度，同时避免由于奖励过于稀疏而不易收敛。
第四方面，本发明实施例提供一种运行在计算设备中的视频审核系统。该系统包括：审核设备，该审核设备包括帧获取模块、特征提取模块、抽样间隔获取模块、帧审核模块、违规确认模块、下一抽样帧确认模块。帧获取模块用于：获取该视频；从该视频中选取当前帧。特征提取模块用于提取该当前帧的特征参数。抽样间隔获取模块用于根据该当前帧的特征参数确定该当前帧的抽样间隔。下一抽样帧确认模块用于根据该当前帧的抽样间隔从该视频中获取下一抽样帧，该下一抽样帧和该当前帧之间间隔的帧的个数为该当前帧的抽样间隔。帧审核模块用于确定该下一抽样帧是否为违规帧。违规确认模块根据该确定结果，确定该视频的审核结果。
根据当前帧的图像信息动态地选择抽样间隔，避免了因固定抽样间隔而导致的资源利用率低或审核准确率低的问题。由于视频中违规帧的相邻帧一般也是违规帧，非违规帧的相邻帧一般也是非违规帧，采取动态的抽样间隔，当视频中出现大量的连续非违规视频时，可以避免抽样得到大量的非违规视频，进而避免将审核帧的资源浪费在大量非违规视频上，节约了审核视频所需的资源；同时，当视频中非违规视频较多而违规视频较少时，根据帧的图像信息确定的抽样间隔也可以避免因较大的固定抽样间隔而导致无法抽样出违规帧的情况，在提高资源利用率的情况下提高了视频审核的准确度。
结合第四方面，在第四方面的第一种可能的实现方式中，该系统还包括强化学习网络训练设备。该强化学习网络训练设备用于由训练集训练得到强化学习网络，该训练集包括至少一个训练视频和每个训练视频对应的先验知识，每个训练视频对应的先验知识包括该每个训练视频包括的各个帧是否为违规帧的信息。该根据该当前帧的特征参数确定该当前帧的抽样间隔包括：该审核设备将该当前帧的特征参数输入该强化学习网络，获得该当前帧的抽样间隔。
将训练完毕的强化学习网络应用在当前帧的抽样间隔决策，可以使得抽样间隔的选取尽可能地符合视频中违规帧的分布规律，可以进一步提高资源利用率并提高视频审核的准确度。
结合第四方面，在第四方面的第二种可能的实现方式中，该系统还包括强化学习网络训练设备，强化学习网络训练设备包括特征提取模块、强化学习网络、下一抽样帧确定模块、奖励获取模块、存储模块。该审核设备获取该视频前，该强化学习网络训练设备用于训练该强化学习网络。具体地，该训练强化学习网络包括：特征提取模块用于从训练集中获取训练视频和该训练视频的先验知识，该训练视频的先验知识包括该训练视频包括的各个帧是否为违规帧的信息；提取该训练视频的第一帧的特征参数，将该第一帧的特征参数输入该强化学习网络。强化学习网络用于根据该第一帧的特征参数输出的该第一帧的抽样间隔。下一抽样帧确定模块用于根据该第一帧的抽样间隔，从该训练视频中获取该训练视频的第二帧，该训练视频中该第二帧和该第一帧之间间隔的帧的个数为该第一帧的抽样间隔。奖励获取模块用于根据该训练视频的先验知识，确定该第二帧是否为违规帧；根据该确定结果生成奖励，该奖励作用于该强化学习网络。存储模块用于存储训练完毕的强化学习网络。该根据该当前帧的特征参数确定该当前帧的抽样间隔包括：将该当前帧的特征参数输入该训练后的强化学习网络，获得该当前帧的抽样间隔。
结合第四方面的第二种可能的实现方式，在第四方面的第三种可能的实现方式中，根据该确定结果生成奖励之前，该奖励获取模块还用于：根据该视频的先验知识，分别确定该第一帧与该第二帧之间的违规帧和非违规帧的个数。根据该确定结果生成奖励包括：根据该确定结果、该第一帧与该第二帧之间的违规帧和非违规帧的个数生成该奖励。
综合第二帧为违规帧或者非违规帧，以及第一帧和第二帧之间的违规帧、非违规帧的个数，确定奖励的取值，以进一步地提高训练的精确度，同时避免由于奖励过于稀疏而不易收敛。
第五方面，本发明实施例提供一种计算设备系统。该计算设备系统包括至少一个计算设备，每个计算设备包括处理器和存储设备，该至少一个计算设备的处理器执行该至少一个计算设备的存储设备中的程序指令，以实现第一方面及第一方面的任一可能的实现方式提供的方法。
第六方面，本发明实施例提供一种计算机程序产品和非易失性计算机可读存储介质，其中计算机程序产品和非易失性计算机可读存储介质中包含计算机指令，计算设备执行计算机指令用于实现本发明实施例第一方面及第一方面的任一可能的实现方式提供的方法。
附图说明
图1(a)为本发明实施例提供的一种对视频的帧进行抽样的示意图；
图1(b)为本发明实施例提供的另一种对视频的帧进行抽样的示意图；
图2为本发明实施例中提供的一种基于不固定的抽样间隔对视频的帧进行抽样的示意图；
图3为本发明实施例提供的一种视频处理装置的部署环境的示意图；
图4为本发明实施例提供的一种强化学习网络训练设备的示意图；
图5为本发明实施例提供的一种训练强化学习网络的方法的示意图；
图6为本发明实施例提供的一种视频处理设备的示意图；
图7为本发明实施例提供的一种视频处理的方法的示意图；
图8为本发明实施例提供的一种计算机系统的示意图。
具体实施方式
首先介绍本发明实施例所涉及的视频审核的概念。
视频审核是指基于视频的审核规则，确定视频中是否包含违规帧。违规帧中包括违规对象，非违规帧不包括违规对象。视频一般由多个帧片段构成，每个帧片段包括多个相同或相似的帧，因此如果一个帧片段中某一帧为违规帧，则该帧片段的大部分帧均为违规帧，这种帧片段也即违规帧片段。而如果一个帧片段的每一帧均为非违规帧，则该帧片段也即非违规帧片段。违规对象由视频的审核规则定义，不同审核规则中，违规对象具体可以是特定的物体、动物、人或者场景。对视频的审核包括对视频的帧进行抽样，审核抽样得到的帧是否包含违规对象以确定视频中是否包含违规帧，进而完成对所述视频的审核。
当前帧为本次从视频中抽样得到的帧。下一抽样帧即本次抽样后的下一次抽样从所述视频中得到的帧。当前帧和下一抽样帧在视频中间隔的帧的数量即当前帧的抽样间隔，例如当前帧为视频的第n帧，抽样间隔为m，则下一抽样帧为视频的第n+m+1帧。
对视频的帧进行抽样时，可以按照固定的抽样间隔。在选取抽样间隔时，若选取的抽样间隔过大，可能会跳过部分违规片段，无法体现出视频中违规帧的分布情况；若选取的抽样间隔过小，则会抽样出较多的来自非违规帧片段的非违规帧，导致大量资源消耗在非违规帧的审核上，浪费计算资源。如图1所示。图1中绘制出视频的帧的示意图，视频包括若干具有固定顺序的帧，图1(a)和图1(b)中带有标记“X”的帧表示视频中的违规帧，不带有标记“X”的帧标识非违规帧。图1(a)为抽样间隔为9时对视频的帧进行抽样的示意图，可以看到，抽样得到的帧均为非违规帧，抽样结果不能准确地反映出违规帧的分布情况。若将图1(a)中的抽样间隔修改为4，如图1(b)中所示，抽样得到的5个帧中，只有1帧为违规帧，而剩下的4帧均为非违规帧。参考图1(b)中实际的违规帧的分布情况，视频前半部分包含的违规帧和非违规帧的比例是相似的，而固定的抽样间隔导致大量的审核资源浪费在对非违规帧的审核上。
本发明实施例提供了一种视频审核的方法和设备，基于每次抽样得到的帧的特征参数选取下一次抽样的间隔，以完成对该视频的审核。违规片段中，违规帧相邻的若干帧是违规帧的可能性较高，同样地，非违规片段中非违规相邻的若干帧是非违规帧的可能性较高。因此，采用不固定的抽样间隔可以提升视频审核的效率和精度。从视频中抽样得到的待审核的帧为当前帧，根据该当前帧的特征参数确定当前帧的抽样间隔，根据所述当前帧的抽样间隔，在该视频中抽取的下一帧为下一抽样帧。图2中仍然用“X”标记出违规帧。首先，在视频中选取帧1作为当前帧，根据帧1的特征参数确定帧1为违规帧，那么，选择较小的抽样间隔以获得下一抽样帧，例如，取抽样间隔等于4，获得下一抽样帧，即帧2。将帧2作为当前帧，根据帧2的特征参数确定帧2为违规帧，此时仍选择较小的抽样间隔，获得帧2的下一抽样帧即帧3。帧3为非违规帧，此时选取较大的抽样间隔，例如抽样间隔等于9，获得下一抽样帧。依次类推，直到完成视频的抽样。可见，采用不固定的抽样间隔，在保证视频审核的准确程度的同时，提升了视频审核的效率。
本发明实施例中，利用强化学习网络对下一违规帧的出现位置进行预测，结合预测的结果，确定当前帧的抽样间隔，根据抽样间隔抽取下一抽样帧，对下一抽样帧进行审核。本发明实施例提供一种视频审核的方法，在视频审核的过程中引入强化学习网络，由强化学习网络来确定当前帧的抽样间隔，即由强化学习网络完成下一违规帧的出现位置的预测。本发明实施例提供还一种强化学习网络的训练方法，对强化学习网络进行训练，使得训练完毕的强化学习网络能够完成下一违规帧的出现位置的预测。
如图3所示，本发明提供的视频审核的方法视频处理系统执行。视频处理系统包括视频审核设备和强化学习网络训练设备。该系统部署在数据中心中，例如公有云、私有云或者混合云上的一个或多个计算设备上。除此之外，该系统也可以部署在终端设备上，终端设备包括手机、笔记本、服务器、台式电脑等。可选地，视频处理系统还包括强化学习网络训练设备，此时视频处理系统根据训练完毕的强化学习网络确定当前帧的抽样间隔。视频审核设备和强化学习网络训练设备也可以分别部署在不同的数据中心或终端设备上。其中，强化学习网络训练设备将训练完毕的强化学习网络发送至审核设备使用。具体的，强化学习网络训练设备可以将训练完毕的强化学习网络存储在存储介质中，审核设备通过该存储介质获取训练完毕的强化学习网络。或者，强化学习网络训练设备可以将包括训练完毕的强化学习网络的计算机程序产品发送至审核设备。
由强化学习网络对抽样间隔进行决策，首先需要对强化学习网络进行训练。违规帧的分布包括违规帧在视频中的分布。图4为本发明实施例提供的一种强化学习网络训练设备400的示意图。强化学习网络训练设备400接收来自训练集的视频的帧和视频的先验知识，对强化学习网络401进行训练。
首先结合图4简述强化学习网络的训练过程。如图4所示，训练集410中包含有至少一个训练视频和每个训练视频对应的先验知识。至少一个训练视频中包含有违规帧，每个训练视频对应的先验知识包括每个训练视频包括的各个帧是否为违规帧的信息。第一步，在训练视频中选取第一帧，将第一帧的像素信息输入特征提取模块402中的特征提取网络，以提取第一帧的特征参数。其中，第一帧为训练视频的任一帧。第二步，将提取的特征参数输入强化学习网络401。强化学习网络401根据特征参数，输出第一帧的抽样间隔。第三步，下一抽样帧确定模块403根据抽样间隔在该训练视频中确定第二帧，其中，第二帧和第一帧之间间隔的帧的个数为第一帧的抽样间隔。第四步，奖励获取模块404对比第二帧和先验知识，确定第二帧是否为违规帧，根据确定结果计算奖励，奖励越大，则表明所选取的第一帧的抽样间隔越符合视频中违规帧的分布规律。第五步，利用奖励来激励强化学习网络的参数，即根据奖励调整强化学习网络的参数。对该训练视频的各帧，重复第一步至第五步的训练过程。对该训练集中的各个训练视频依次执行该训练视频的训练过程，使得训练视频中的各帧输入强化学习网络所得到的奖励之和达到或趋近最大值。第六步，存储模块405包含存储介质，存储模块405在存储介质中存储训练完毕的强化学习网络。
一种训练强化学习网络的方法如图5所示。
s501，获取训练集，训练集包含至少一个训练视频和每个训练视频对应的先验知识，至少一个视频包含违规帧，每个训练视频对应的先验知识包括每个训练视频包括的各个帧是否为违规帧的信息。
s502，选取训练集中的一个训练视频，从该训练视频中选取第一帧。该第一帧可以是该训练视频的第一帧或者任意一帧。
s503，将第一帧的像素信息输入特征提取网络，获取第一帧的特征参数。
通过由计算设备实现的特征提取网络提取第一帧的特征参数。特征参数表征视频的帧的特征信息，根据帧的特征参数可以确定表征视频的帧是否包含违规对象。特征提取网络可以由特征向量形式输出提取的特征参数。
s504，将第一帧的特征参数输入强化学习网络401，得到第一帧的抽样间隔。
通常情况下，强化学习网络包括第一单元和第二单元。第一帧的特征参数输入第一单元，第一单元根据特征参数输出n维向量，n表示能够选取的抽样间隔的最大值，n为正整数。第一单元可以是Resnet50学习网络、Inception学习网络或者Densnet学习网络等，各学习网络包括多个参数。第二单元根据n维向量确定抽样间隔。具体地，若输出的n维向量中，第i维上的数值为n维上的n个数值中的最大值，选择i+1作为针对该第一帧的抽样间隔，其中i为不小于0且不大于n-1的整数。例如，最大抽样间隔为10，强化学习网络输出的10维向量中，若第0维上的数值最大，则选择1作为针对第一帧的抽样间隔，若第7维上的数值最大，则选择8作为第一帧的抽样间隔。
s505，根据s504中所得的第一帧的抽样间隔，确定该训练视频中的第二帧，根据先验知识确定第二帧是否为违规帧，根据确认结果计算奖励，其中，第二帧和第一帧之间间隔的帧的个数为第一帧的抽样间隔。
训练强化学习网络的目标是使得强化学习网络能够对抽样间隔的选择做出理想决策，该理想决策为，强化学习网络所确定的第二帧是第一帧的相邻违规帧。那么显然，在计算奖励时，由强化学习网络得到的第二帧越接近理想决策下的第二帧，奖励应当越大，理想决策下的第二帧即第一帧的相邻违规帧。
基于此，可根据由强化学习网络得到的第二帧是否为违规帧的信息来计算奖励。此时，奖励有两种可能的取值。具体地，根据第一帧的抽样间隔，确定该训练视频中的第二帧。根据该训练视频的先验知识，确定该第二帧是否为违规帧。若该第二帧为违规帧，则奖励为第一数值，若该第二帧为非违规帧，则奖励为第二数值，其中，第一数值大于第二数值。例如，若第二帧为违规帧，奖励值为1，若第二帧为非违规帧，则奖励值为0。
显然，第二帧与第一帧之间间隔的违规帧越少，该第二帧越接近理想决策下的第二帧。可选地，还可以根据由强化学习网络得到的第二帧与第一帧之间是否有违规帧来计算奖励。具体地，根据第一帧的抽样间隔，确定该训练视频中的第二帧。根据该训练视频的先验知识，确定该第二帧和该第二帧之间非违规帧的个数和违规帧的个数。结合第一权重w1和第二权重w2，根据该第二帧和该第二帧之间非违规帧的个数N1和违规帧的个数N2计算奖励SP，其中，第一权重w1对应非违规帧的个数N1，第二权重w2对应违规帧的个数N2，即SP＝w1*N1+w2*N2。第一权重w1和第二权重w2的取值使得非违规帧的个数N1越多，奖励越高，且违规帧的个数N2越多，奖励越小。通常情况下，第一权重w1取为正值，第二权重w2取为负值。例如，第一权重w1为1，第二权重w2为-1，奖励的值等于该第二帧和该第二帧之间非违规帧的个数减去违规帧的个数，即SP＝N1-N2。
进一步地，过于稀疏的奖励值不利于抽样间隔选择策略的收敛。以奖励分别取值0、1为例，此种情况下，可能经过很多轮迭代都无法使得强化学习网络选中奖励为1的抽样间隔。因此，综合第二帧为违规帧或者非违规帧，以及第一帧和第二帧之间的违规帧的个数和非违规帧的个数，计算奖励的取值。
具体地，奖励R＝a*HR+SP，其中a为第三权重，可根据实际情况设置a的取值。HR的取值为1或者0，当第二帧为违规帧时，HR为1，当第二帧为非违规帧时，HR为0。SP的取值根据第一帧和第二帧之间的违规帧的个数和非违规帧的个数确定。
通常情况下，在对视频的帧进行抽样时，若抽样间隔选择过大，可能会引起审核的不准确。因此，可以设定抽样间隔不能大于N，N为整数。在计算SP时，可基于N对违规帧、非违规帧的个数进行归一化。具体地，SP＝b*N1/N-N2/N，其中，b为第四权重，N1为第一帧和第二帧之间的非违规帧的个数，N2为第一帧和第二帧之间的违规帧的个数。
s506，用得到的奖励来激励强化学习网络的参数，根据奖励调整强化学习网络的参数，具体地，调整第一单元的参数。参数调整后，选择训练视频中的其他帧作为第一帧，重复步骤s502-s505，直到该训练视频中的所有帧训练完毕。
引入计算设备中实现的通过神经网络实现的深度学习网络引入强化学习网络来实现对抽样间隔选择策略的拟合，即，运用深度强化学习(deep reinforcement learning，DRL)网络，实现最大奖励的动作选择策略的收敛。
s507，选取训练集里的其他训练视频执行以上s501-s505，直至训练集里的训练视频均训练完毕，s504中得到的奖励达到或者趋近于极值，存储训练完毕的强化学习网络。
基于训练得到的强化学习网络，本发明实施例提供的一种由审核设备600实现的视频审核的方法，利用训练完毕的强化学习网络，确定完成对该帧的审核后所需审核的下一抽样帧，从而避免了固定的抽样间隔导致的审核不准确的问题，提高了视频审核的精确度。
如图6所示，审核设备600包括帧获取模块610、特征提取模块620、抽样间隔获取模块630、帧审核模块640、违规确认模块650、下一抽样帧确认模块660。
具体地，一种视频审核的方法如图7所示。
s701，帧获取模块610获取待审核的视频。
s702，帧获取模块610选择待审核视频中的帧作为当前帧。
通常情况下，为避免遗漏，初始化当前帧时，可以选择待审核视频中的第一帧，即从待审核视频中的第一帧开始对待审核视频的帧的抽样。从待审核视频中获取帧需要对待审核视频进行解码。可以在对帧进行抽样之前，即对待审核视频进行解码，获得待审核视频包括的全部帧；也可以不对待审核视频包括的全部帧解码，也就是说，选择当前帧时，仅对当前帧进行解码，根据当前帧确定下一抽样帧后，再对下一抽样帧进行解码。
s703，帧获取模块610将当前帧的像素信息输入特征提取模块620。
s704，特征提取模块620接收当前帧的像素信息，提取当前帧的特征参数。
特征提取模块620包括特征提取网络。确定抽样间隔，以及对当前帧进行审核时，均需要利用特征提取网络获取当前帧的特征参数，特征参数表征视频的帧所包含的对象的信息。特征提取网络可以是Resnet50学习网络等，此时帧的特征参数为一个特征向量。在利用特征提取网络提取帧的特征参数时，需利用训练数据对特征提取网络进行训练，以使得特征提取网络的参数满足对帧的违规对象的特征进行提取的要求。
通常情况下，在根据像素信息提取帧的特征向量之前，还需要对当前帧进行尺度标准化处理。
s705，特征提取模块620将当前帧的特征参数发送至帧审核模块640和抽样间隔获取模块630。
s706，帧审核模块640根据当前帧的特征参数确定当前帧是否为违规帧。
帧审核模块640包括违规识别网络。违规识别网络可以是分类器。根据帧的特征参数对包含违规图像的帧进行识别，需利用训练数据对违规识别网络进行训练，以使得违规识别网络的参数满足对帧的违规对象的特征进行提取的要求。
s707，抽样间隔获取模块630根据当前帧的特征参数确定当前帧的抽样间隔。
可选地，当抽样间隔获取模块630包括经过前述s501-s507后训练完成的强化学习网络401，可以利用训练完成的强化学习网络401来确定当前帧的抽样间隔。除此之外，也可以根据当前帧的特征参数确定当前帧的对象，进而根据当前帧所包含的对象确定抽样间隔。
s707和s706也可以并行执行；或者先执行s707，再执行s706。本发明实施例对此不做限制。
s708，下一抽样帧确认模块660根据抽样间隔可以确定下一抽样帧。
s709，更新当前帧，以下一抽样帧作为当前帧，继续执行s703-s708，直到根据当前帧和当前帧对应的抽样间隔确定不存在下一抽样帧。
若当前帧和当前帧对应的抽样间隔确定不存在下一抽样帧，也即，根据当前帧的帧号和当前帧对应的抽样间隔确定的下一抽样帧的帧号超过视频的帧的最大帧号，选择视频的最后一帧作为新的当前帧，并对视频的最后一帧进行审核。
s710，违规确认模块650根据抽样得到的帧的审核结果，确定视频的审核结果。
本发明实施例提供还一种如图3中所示的视频审核系统，该视频审核系统运行在计算设备中。该系统包括：审核设备600。审核设备600用于：获取视频；从视频中选取当前帧；提取当前帧的特征参数；根据当前帧的特征参数确定当前帧的抽样间隔；根据当前帧的抽样间隔从视频中获取下一抽样帧，下一抽样帧和当前帧之间间隔的帧的个数为当前帧的抽样间隔；确定下一抽样帧是否为违规帧；根据确定结果，确定视频的审核结果。
可选地，该系统还包括强化学习网络训练设备400。强化学习网络训练设备400用于由训练集训练得到强化学习网络，训练集包括至少一个训练视频和每个训练视频对应的先验知识，每个训练视频对应的先验知识包括每个训练视频包括的各个帧是否为违规帧的信息。根据当前帧的特征参数确定当前帧的抽样间隔包括：审核设备将当前帧的特征参数输入强化学习网络，获得当前帧的抽样间隔。
可选地，训练强化学习网络包括：从训练集中获取训练视频和训练视频的先验知识，训练视频的先验知识包括训练视频包括的各个帧是否为违规帧的信息；提取训练视频的第一帧的特征参数，将第一帧的特征参数输入强化学习网络；获取强化学习网络根据第一帧的特征参数输出的第一帧的抽样间隔；根据第一帧的抽样间隔，从训练视频中获取训练视频的第二帧，训练视频中第二帧和第一帧之间间隔的帧的个数为第一帧的抽样间隔；根据训练视频的先验知识，确定第二帧是否为违规帧；根据确定结果生成奖励，奖励作用于强化学习网络。根据当前帧的特征参数确定当前帧的抽样间隔包括：将当前帧的特征参数输入训练后的强化学习网络，获得当前帧的抽样间隔。
可选地，根据确定结果生成奖励之前，强化学习网络训练设备400还用于：根据视频的先验知识，分别确定第一帧与第二帧之间的违规帧和非违规帧的个数。根据确定结果生成奖励包括：根据确定结果、第一帧与第二帧之间的违规帧和非违规帧的个数生成奖励。
本发明实施例提供还一种如图8所示的计算设备系统800。计算设备系统800包括至少一个计算设备810组成的第一计算设备系统。第一计算设备系统可用于实现如图6中所示的审核设备600，计算设备810可以包括处理单元811和通信接口812，处理单元811执行第一存储设备中的程序指令，以实现计算设备810上运行的操作系统以及各种软件程序所定义的功能，包括前述审核设备600中各模块的功能。第一存储设备包括辅助存储器中814的非易失性的存储介质和/或处理单元811中的内存8112。辅助存储器814，一般也称为外存，辅助存储器814的存储介质可以是磁性介质(例如，软盘、硬盘、磁带)、光介质(例如光盘)、或者半导体介质(例如固态硬盘)等。通信接口812用于与其他设备进行通信交互，其他设备可以是其它计算设备，具体地，通信接口812可以是网络适配卡。
可选地，计算设备810还可以包括输入/输出接口813，输入/输出接口813连接有输入/输出设备，用于接收输入的信息，输出操作结果。输入/输出接口813可以为鼠标、键盘、显示器、或者光驱等。处理单元811可以有多种具体实现形式，例如处理单元811可以包括处理器8111和内存8112。处理器8111根据内存8112中存储的程序指令执行相关的操作，处理器8111可以为中央处理器(CPU)或图像处理器(graphics processing unit，GPU)，处理器8111可以是单核处理器或多核处理器。处理单元811也可以单独采用内置处理逻辑的逻辑器件来实现，例如现场可编程门阵列(英文全称：Field Programmable Gate Array，缩写：FPGA)或数字信号处理器(英文：digital signal processor，DSP)等。此外，图8中的计算设备810仅仅是一个计算设备的一个例子，计算设备810可能包含相比于图8中展示的更多或者更少的组件，或者有不同的组件配置方式。
可选地，计算设备系统800还包括至少一个计算设备820组成的第二计算设备系统。第二计算设备系统可用于实现如图4中所示的强化学习网络训练设备400。每个计算设备820可以包括处理单元821和通信接口822，处理单元821执行第二存储设备中的程序指令，以实现计算设备820上运行的操作系统以及各种软件程序所定义的功能，包括前述强化学习网络训练设备400中各模块的功能。第二存储设备包括辅助存储器中824的非易失性的存储介质和/或处理单元821中的内存8212。通信接口822用于与其他设备进行通信交互，其他设备可以是其它计算设备，具体地，通信接口822可以是网络适配卡。
计算设备820也可以包括输入/输出接口823。计算设备820的处理单元822也可以具有多种具体实现形式，例如处理单元821可以包括处理器8211和内存8212，处理器8211根据内存822中存储的程序指令执行相关的操作，或者单独采用内置处理逻辑的逻辑器件来实现。计算设备820可能包含相比于计算设备810的更多或者更少的组件，或者有不同的组件配置方式。
除此之外，计算设备810上的处理单元811可用于执行前述审核设备600中各模块和前述强化学习网络训练设备400中各模块的功能，同样地，计算设备820上的处理单元821亦可用于执行前述审核设备600中各模块和前述强化学习网络训练设备400中各模块的功能。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (11)

1.一种由计算设备运行的视频审核方法，其特征在于，所述方法包括：
获取所述视频；
从所述视频中选取当前帧；
提取所述当前帧的特征参数；
根据所述当前帧的特征参数确定所述当前帧的抽样间隔；
根据所述当前帧的抽样间隔从所述视频中获取下一抽样帧，所述下一抽样帧和所述当前帧之间间隔的帧的个数为所述当前帧的抽样间隔；
确定所述下一抽样帧是否为违规帧；
根据所述下一抽样帧是否为违规帧的确定结果，确定所述视频的审核结果。
2.根据权利要求1中所述的方法，其特征在于，所述根据所述当前帧的特征参数确定所述当前帧的抽样间隔包括：
将所述当前帧的特征参数输入强化学习网络，获得所述当前帧的抽样间隔，其中，所述强化学习网络由训练集训练得到，所述训练集包括至少一个训练视频和每个训练视频对应的先验知识，每个训练视频对应的先验知识包括所述每个训练视频包括的各个帧是否为违规帧的信息。
3.根据权利要求1中所述的方法，其特征在于，所述获取所述视频前，所述方法还包括训练强化学习网络，所述训练强化学习网络包括：
从训练集中获取训练视频和所述训练视频的先验知识，所述训练视频的先验知识包括所述训练视频包括的各个帧是否为违规帧的信息；
提取所述训练视频的第一帧的特征参数，将所述第一帧的特征参数输入所述强化学习网络；
获取所述强化学习网络根据所述第一帧的特征参数输出的所述第一帧的抽样间隔；
根据所述第一帧的抽样间隔，从所述训练视频中获取所述训练视频的第二帧，所述训练视频中所述第二帧和所述第一帧之间间隔的帧的个数为所述第一帧的抽样间隔；
根据所述训练视频的先验知识，确定所述第二帧是否为违规帧；
根据所述确定结果生成奖励，所述奖励作用于所述强化学习网络；
所述根据所述当前帧的特征参数确定所述当前帧的抽样间隔包括：
将所述当前帧的特征参数输入所述训练后的强化学习网络，获得所述当前帧的抽样间隔。
4.根据权利要求3中所述的方法，其特征在于，根据所述确定结果生成奖励之前，所述方法还包括：
根据所述训练视频的先验知识，确定所述第一帧与所述第二帧之间的违规帧的个数和非违规帧的个数；
根据所述确定结果生成奖励包括：
根据所述确定结果、所述第一帧与所述第二帧之间的违规帧的个数和非违规帧的个数生成所述奖励。
5.一种运行在计算设备中的视频审核系统，其特征在于，所述系统包括审核设备，所述审核设备用于：
获取所述视频；
从所述视频中选取当前帧；
提取所述当前帧的特征参数；
根据所述当前帧的特征参数确定所述当前帧的抽样间隔；
根据所述当前帧的抽样间隔从所述视频中获取下一抽样帧，所述下一抽样帧和所述当前帧之间间隔的帧的个数为所述当前帧的抽样间隔；
确定所述下一抽样帧是否为违规帧；
根据所述下一抽样帧是否为违规帧的确定结果，确定所述视频的审核结果。
6.根据权利要求5中所述的系统，其特征在于，所述系统还包括强化学习网络训练设备，所述强化学习网络训练设备用于由训练集训练得到强化学习网络，所述训练集包括至少一个训练视频和每个训练视频对应的先验知识，每个训练视频对应的先验知识包括所述每个训练视频包括的各个帧是否为违规帧的信息；
所述根据所述当前帧的特征参数确定所述当前帧的抽样间隔包括：
将所述当前帧的特征参数输入所述强化学习网络，获得所述当前帧的抽样间隔。
7.根据权利要求5中所述的系统，其特征在于，所述系统还包括强化学习网络训练设备，所述审核设备获取所述视频前，所述强化学习网络训练设备用于训练所述强化学习网络，
所述训练强化学习网络包括：
从训练集中获取训练视频和所述训练视频的先验知识，所述训练视频的先验知识包括所述训练视频包括的各个帧是否为违规帧的信息；
提取所述训练视频的第一帧的特征参数，将所述第一帧的特征参数输入所述强化学习网络；
获取所述强化学习网络根据所述第一帧的特征参数输出的所述第一帧的抽样间隔；
根据所述第一帧的抽样间隔，从所述训练视频中获取所述训练视频的第二帧，所述训练视频中所述第二帧和所述第一帧之间间隔的帧的个数为所述第一帧的抽样间隔；
根据所述训练视频的先验知识，确定所述第二帧是否为违规帧；
根据所述确定结果生成奖励，所述奖励作用于所述强化学习网络；
所述根据所述当前帧的特征参数确定所述当前帧的抽样间隔包括：
所述审核设备用于将所述当前帧的特征参数输入所述训练后的强化学习网络，获得所述当前帧的抽样间隔。
8.根据权利要求7中所述的系统，其特征在于，根据所述确定结果生成奖励之前，所述强化学习网络训练设备还用于：
根据所述视频的先验知识，分别确定所述第一帧与所述第二帧之间的违规帧和非违规帧的个数；
根据所述确定结果生成奖励包括：
根据所述确定结果、所述第一帧与所述第二帧之间的违规帧和非违规帧的个数生成所述奖励。
9.一种计算设备系统，其特征在于，包括至少一个计算设备，每个计算设备包括处理器和存储设备，所至少一个计算设备的处理器执行所述至少一个计算设备的存储设备中的程序指令，以实现：
训练强化学习网络，所述训练强化学习网络包括：
从训练集中获取训练视频和所述训练视频的先验知识，所述训练视频的先验知识包括所述训练视频包括的各个帧是否为违规帧的信息；
提取所述训练视频的第一帧的特征参数，将所述第一帧的特征参数输入所述强化学习网络；
获取所述强化学习网络根据所述第一帧的特征参数输出的所述第一帧的抽样间隔；
根据所述第一帧的抽样间隔，从所述训练视频中获取所述训练视频的第二帧，所述训练视频中所述第二帧和所述第一帧之间间隔的帧的个数为所述第一帧的抽样间隔；
根据所述训练视频的先验知识，确定所述第二帧是否为违规帧；
根据所述第二帧是否为违规帧的确定结果生成奖励，所述奖励作用于所述强化学习网络。
10.根据权利要求9中所述的计算设备系统，其特征在于，根据所述确定结果生成奖励之前，所述处理器执行所述存储设备中的程序指令，还用于实现：
根据所述视频的先验知识，分别确定所述第一帧与所述第二帧之间的违规帧和非违规帧的个数；
根据所述确定结果生成奖励包括：
根据所述确定结果、所述第一帧与所述第二帧之间的违规帧和非违规帧的个数生成所述奖励。
11.一种计算设备系统，其特征在于，包括至少一个计算设备，每个计算设备包括处理器和存储设备，所述至少一个计算设备的处理器执行所述至少一个计算设备的存储设备中的程序指令，以实现权利要求1-4中任一所述的方法。
CN201811637273.1A 2018-12-29 2018-12-29 一种视频审核的方法、系统及设备 Active CN111385601B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811637273.1A CN111385601B (zh) 2018-12-29 2018-12-29 一种视频审核的方法、系统及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811637273.1A CN111385601B (zh) 2018-12-29 2018-12-29 一种视频审核的方法、系统及设备

Publications (2)

Publication Number Publication Date
CN111385601A CN111385601A (zh) 2020-07-07
CN111385601B true CN111385601B (zh) 2021-09-14

Family

ID=71218107

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811637273.1A Active CN111385601B (zh) 2018-12-29 2018-12-29 一种视频审核的方法、系统及设备

Country Status (1)

Country Link
CN (1) CN111385601B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112188215B (zh) * 2020-09-23 2022-02-22 腾讯科技（深圳）有限公司 视频解码方法、装置、设备及存储介质
CN112446295A (zh) * 2020-10-30 2021-03-05 四川天翼网络服务有限公司 一种考试作弊行为分析方法及系统
CN112989113B (zh) * 2021-04-21 2021-08-31 北京金和网络股份有限公司 图片的筛查方法、装置和设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9872053B2 (en) * 2013-05-30 2018-01-16 Sony Corporation Transmission of audio stream together with video data
WO2014196009A1 (ja) * 2013-06-03 2014-12-11 Miyaji Chikara 動画再生システム、及び動画データのサムネイル画像の表示方法
CN104618679B (zh) * 2015-03-13 2018-03-27 南京知乎信息科技有限公司 一种监控视频中抽取关键信息帧的方法
CN107205162A (zh) * 2016-03-16 2017-09-26 阿里巴巴集团控股有限公司 视频识别方法及装置
CN106454492A (zh) * 2016-10-12 2017-02-22 武汉斗鱼网络科技有限公司 一种基于延时传送的直播色情内容审核系统及方法
CN108932451A (zh) * 2017-05-22 2018-12-04 北京金山云网络技术有限公司 音视频内容分析方法及装置
CN107613237B (zh) * 2017-09-14 2020-03-06 国网重庆市电力公司电力科学研究院 一种视频动静混合关键帧的抽取方法
CN107729873A (zh) * 2017-11-03 2018-02-23 北京奇虎科技有限公司 视频文件中特定对象检测方法、装置及计算设备

Also Published As

Publication number Publication date
CN111385601A (zh) 2020-07-07

Similar Documents

Publication Publication Date Title
CN108171260B (zh) 一种图片识别方法及系统
CN110222220B (zh) 图像处理方法、装置、计算机可读介质及电子设备
CN111385601B (zh) 一种视频审核的方法、系统及设备
CN115063875B (zh) 模型训练方法、图像处理方法、装置和电子设备
CN112559800B (zh) 用于处理视频的方法、装置、电子设备、介质和产品
CN114942984B (zh) 视觉场景文本融合模型的预训练和图文检索方法及装置
CN109685805B (zh) 一种图像分割方法及装置
CN113268403A (zh) 时间序列的分析预测方法、装置、设备及存储介质
CN110968664A (zh) 一种文书检索方法、装置、设备及介质
CN112085175B (zh) 基于神经网络计算的数据处理方法和装置
CN114861758A (zh) 多模态数据处理方法、装置、电子设备及可读存储介质
CN114817612A (zh) 多模态数据匹配度计算和计算模型训练的方法、相关装置
CN114120454A (zh) 活体检测模型的训练方法、装置、电子设备及存储介质
CN113516185A (zh) 模型训练的方法、装置、电子设备及存储介质
JP6154491B2 (ja) 計算機及びグラフデータ生成方法
CN110929499B (zh) 文本相似度获取方法、装置、介质及电子设备
CN110348581B (zh) 用户特征群中用户特征寻优方法、装置、介质及电子设备
CN111179129A (zh) 课件质量的评价方法、装置、服务器及存储介质
CN113961765B (zh) 基于神经网络模型的搜索方法、装置、设备和介质
CN110544166A (zh) 样本生成方法、装置及存储介质
CN113160987B (zh) 健康状态预测方法、装置、计算机设备及存储介质
CN115081630A (zh) 多任务模型的训练方法、信息推荐方法、装置和设备
CN114282049A (zh) 一种视频检索方法、装置、设备及存储介质
US20210182696A1 (en) Prediction of objective variable using models based on relevance of each model
CN110209878B (zh) 视频处理方法、装置、计算机可读介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20220222

Address after: 550025 Huawei cloud data center, jiaoxinggong Road, Qianzhong Avenue, Gui'an New District, Guiyang City, Guizhou Province

Patentee after: Huawei Cloud Computing Technology Co.,Ltd.

Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen

Patentee before: HUAWEI TECHNOLOGIES Co.,Ltd.

TR01 Transfer of patent right