CN109495783A - 视频审核方法、装置、电子设备及介质 - Google Patents
视频审核方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN109495783A CN109495783A CN201811303630.0A CN201811303630A CN109495783A CN 109495783 A CN109495783 A CN 109495783A CN 201811303630 A CN201811303630 A CN 201811303630A CN 109495783 A CN109495783 A CN 109495783A
- Authority
- CN
- China
- Prior art keywords
- hot spot
- video
- image
- spot image
- multiframe
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000012550 audit Methods 0.000 claims abstract description 57
- 239000000284 extract Substances 0.000 claims abstract description 11
- 238000012552 review Methods 0.000 claims description 17
- 238000000605 extraction Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 6
- 238000012549 training Methods 0.000 claims description 6
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 230000006854 communication Effects 0.000 description 4
- 230000005291 magnetic effect Effects 0.000 description 4
- 238000012795 verification Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000003066 decision tree Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010835 comparative analysis Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003014 reinforcing effect Effects 0.000 description 1
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44204—Monitoring of content usage, e.g. the number of times a movie has been viewed, copied or the amount which has been watched
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种视频审核方法、装置、电子设备及计算机可读存储介质，涉及人工智能技术领域。该方法包括：获取待审核视频的历史播放信息，并基于历史播放信息确定待审核视频中的热点片段；以预定帧间隔从热点片段中选取多帧热点图像，并提取多帧热点图像的图像特征；依次判断多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；在判定大于所述预定阈值时，将当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定待审核视频是否为被禁止的视频类型。本发明不仅可以大幅度节省视频审核的人力消耗，而且可以节省视频审核的时间消耗，能够满足大批量审核视频的需求。
Description
技术领域
本发明涉及人工智能技术领域，具体而言，涉及一种视频审核方法、视频审核装置、电子设备及介质。
背景技术
随着互联网技术的繁荣发展，现在很多网站都支持并允许用户自行上传视频并展示给公众，用户自行上传的视频可能存在版权问题，涉及反动政治、黄色或严重暴力等问题，通常将这些视频叫做不良视频。为了能够将不良视频过滤掉，需要对上传的视频内容进行审核。
目前，各种网站平台主要通过人工的方式对视频进行审核。现有的一种技术方案中，以预定时间间隔截取待审核的视频的图像，将截取的图像发送至审核平台供审核人员审核。然而，人工审核效率低、审核成本高，难以满足大批量审核视频的需求。
需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明实施例的目的在于提供一种视频审核方法、装置、电子设备及介质，进而至少可以在一定程度上克服人工审核效率低、审核成本高，难以满足大批量审核视频的问题。
本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。
根据本发明的实施例的第一方面，提供了一种视频审核方法，包括：获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段；以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征；依次判断所述多帧热点图像中的当前热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；在判定大于所述预定阈值时，将所述当前热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
在本发明的一些实施例中，基于前述方案，所述历史播放信息确定所述待审核视频中的热点片段，包括：从多个视频样本的历史播放信息中提取历史播放特征，所述历史播放特征包括总播放次数信息、总播放时间信息、总回看次数信息、评论次数信息、各片段的回看次数信息；基于所述历史播放特征对热点片段提取模型进行训练；基于训练后的所述热点片段提取模型确定所述待审核视频中的热点片段。
在本发明的一些实施例中，基于前述方案，所述以预定帧间隔从所述热点片段中选取多帧热点图像，包括：获取所述待审核视频的存储空间大小和视频播放时长的信息；根据所述存储空间大小和所述视频播放时长的信息确定所述预定帧间隔；按照所述预定帧间隔从所述热点片段中选取多帧热点图像。
在本发明的一些实施例中，基于前述方案，所述依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值，包括：依次获取所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征；确定所述当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值。
在本发明的一些实施例中，所述视频审核方法还包括：获取多个样本图像以及所述多个样本图像的标签，所述标签包括正标签和负标签；提取所述多个样本图像的图像特征；基于所述图像特征以及所述样本图像的标签对所述视频审核模型进行训练。
在本发明的一些实施例中，所述视频审核方法还包括：根据待审核视频的总播放次数信息、总播放时间信息、总回看次数信息、评论次数信息对所述待审核视频进行排序。
在本发明的一些实施例中，基于前述的视频审核方法，所述图像特征包括：方向梯度直方图特征、局部二值模式特征以及Haar特征中的一种或者多种。
根据本发明实施例的第二方面，提供了一种视频审核装置，包括：热点片段确定单元，用于获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段；图像特征提取单元，用于以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征；判断单元，用于依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；视频审核单元，用于在判定大于所述预定阈值时，将所述当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
根据本发明实施例的第三方面，提供了一种电子设备，包括：处理器；以及存储器，所述存储器上存储有计算机可读指令，所述计算机可读指令被所述处理器执行时实现上述任意实施例中所述的视频审核方法。
根据本发明实施例的第四方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述实施例中所述的视频审核方法。
本发明实施例提供的技术方案可以包括以下有益效果：
在本发明的一些实施例所提供的技术方案中，通过待审核视频的历史播放信息，确定待审核视频中的热点片段，然后在选取的热点片段中以预定帧间隔选取多帧热点图像并提取图像特征，依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值，如果差值大于预定阈值，则将当前帧热点图像的图像特征输入到视频审核模型进行审核，判断待审核视频是否为被禁止的视频类型。一方面，由于使用人工智能技术代替人工对待审核视频进行分析处理，大幅度节省视频审核过程中的人力消耗；另一方面，由于在处理过程中，只对图像特征的差值大于预定阈值的热点图像进行审核，因此仅需要对热点片段中场景发生变化的热点图像的图像特征进行处理、审核，能够过滤掉相似的图像，减少图像处理量，节省视频审核的时间消耗，从而能够满足大批量审核视频的需求。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
图1示意性示出了根据本发明示例性实施例的视频审核方法的流程图；
图2示意性示出了根据本发明示例性实施例的视频审核过程的流程框图；
图3示意性示出了根据本发明示例性实施例的视频审核装置的示意框图；
图4示意性示出了根据本发明示例性实施例的电子设备的示意框图；
图5示意性示出了根据本发明示例性实施例的计算机可读存储介质的示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本发明将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
相关技术中，各种网站平台主要通过人工的方式对视频进行审核。现有的一种技术方案中，以预定时间间隔截取待审核的视频的图像，将截取的图像发送至审核平台供审核人员审核。然而，这种方法人工审核效率低、审核成本高，难以满足大批量审核视频的需求。
基于此，在本示例性实施例中，首先提供了一种视频审核方法，图1示意性示出了根据本发明示例性实施例的视频审核方法的流程图，该视频审核方法的执行主体可以是视频审核平台的服务器等。参照图1所示，根据本发明示例性实施例的视频审核方法，包括如下步骤：
步骤S110，获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段；
步骤S120，以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征；
步骤S130，依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；
步骤S140，在判定大于所述预定阈值时，将所述当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
根据本示例性实施例中的视频审核方法，一方面，由于使用人工智能技术代替人工对待审核视频进行分析处理，大幅度节省视频审核过程中的人力消耗；另一方面，由于在处理过程中，只对图像特征的差值大于预定阈值的热点图像进行审核，因此仅需要对热点片段中场景发生变化的热点图像的图像特征进行处理、审核，能够过滤掉相似的图像，减少图像处理量，节省视频审核的时间消耗，从而能够满足大批量审核视频的需求。
下面，将对本示例性实施例中的视频审核方法进行进一步的说明。
在步骤S110中，获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段。
在本示例实施方式中，获取待审核视频的历史播放信息可以包括待审核视频的总播放次数信息、待审核视频的评论次数信息、待审核视频的总回看次数信息、待审核视频的各片段的回看次数信息。首先根据待审核视频的总播放次数信息、总播放时间信息、评论次数信息以及总回看次数信息对所述待审核视频列表进行排序。基于所述排序后的待审核视频列表和待审核视频的历史播放信息中的各区段的回看信息确定被回看的热点片段。例如，待审核视频的3:22至4:12的视频片段的回看次数最多，将该区段确定为待审核视频的热点片段。
进一步地，可以从多个待审核视频样本的历史播放信息中提取：总播放次数信息、总播放时间信息、评论次数信息、总回看次数信息、各片段的回看次数信息等维度的样本特征，基于所述样本特征对机器学习模型进行训练，基于训练后的机器学习模型确定待审核视频中被回看的热点片段。
需要说明的是，在本示例实施例中，机器学习模型可以包括：支持向量机模型、神经网络模型，但本发明的实施例中的机器学习模型不限于此，例如机器学习模型还可以为决策树模型与贝叶斯模型等。
继续参考图1所示，在步骤S120中，以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征。
在本示例实施方式中，获取前述步骤待审核视频的热点片段的存储空间大小和视频播放时长的信息，基于获取的热点片段的存储空间大小和视频播放时长的信息分析并确定预定帧间隔。例如，存储空间大小为100MB，视频播放时长为5分钟的热点片段视频可以确定预定帧间隔为10帧；存储空间大小为50MB，视频播放时长为2分钟的热点片段视频可以确定预定帧间隔为5帧。根据确定的预定帧间隔对待审核视频的热点片段进行处理，得到多帧热点图像。所述多帧热点图像为以固定的帧间隔在所述热点片段视频中截取的图像的集合。
在本示例实施方式中，根据前述步骤获取的多帧热点图像，获取所述多帧热点图像的图像特征，多帧热点图像的图像特征可以包括方向梯度直方图HOG特征、局部二值模式LBP特征以及Haar特征中的一种或多种。
继续参考图1所示，在步骤S130中，依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值。
在本示例实施方式中，依次将热点图像的图像特征与下一帧热点图像的图像特征进行比较，确定两帧热点图像的图像特征差值。将得到的差值与预定阈值进行比较，如果所述差值大于预定阈值，表示这两帧热点图像的场景发生了变化，将当前帧热点图像发送到视频审核模块，进行下一步骤；如果所述差值小于预定阈值，表示这两帧的热点图像的场景没有发生变化，在视频审核时只需对其中一帧热点图像审核，因此剔除当前帧的热点图像，下一帧热点图像继续与其下一帧热点图像的图像特征进行比较。
继续参考图1所示，在步骤S140中，在判定大于所述预定阈值时，将所述当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
在本示例实施方式中，获取判定大于预定阈值的当前帧热点图像，将所述当前帧热点图像的图像特征输入到视频审核模型中。视频审核模型可以包括支持向量机模型、神经网络模型以及决策树模型中的一种或多种。通过视频审核模型对热点图像进行分类，符合积极类的图像即未禁止的图像类型，系统自动通过积极类的图像，符合消极类的图像即被禁止的图像，系统审核拒绝消极类的图像。在连续多帧热点图像被禁止时，确定待审核视频为禁止的视频类型；对于仅有少数帧例如一帧或者两帧被禁止的视频，可以转接到人工审核的系统，由人工确定视频是否为被禁止的类型。
需要说明的是，针对前述视频审核模型，首先获取多个样本图像以及对应所述多个样本图像的的正标签和负标签，然后提取多个样本图像的图像特征，通过得到的多个样本图像标签以及对应的多个样本图像的图像特征对所述视频审核模型进行训练，通过训练视频审核模型可以进行多帧热点图像的图像特征的检测与审核。
图2示意性示出了根据本发明示例性实施例的视频审核过程的流程框图。
参考图2所示，在步骤S201中，根据待审核视频的历史播放信息选取待审核视频的热点片段。
在步骤S202中，根据待审核视频热点片段的存储空间大小和视频播放时长确定预定帧间隔，以预定帧间隔选取多帧热点图像。
在步骤S203中，提取多帧热点图像的图像特征，所述图像特征可以是方向梯度直方图特征、局部二值模式特征以及Haar特征中的一种或多种。
在步骤S204中，依次判断当前帧热点图像与下一帧热点图像的图像特征的差值。
在步骤S205中，将上一步骤得到的两帧热点图像的图像特征差值与预定阈值进行比较分析。若判定差值大于预定阈值，则进行至步骤S206；若判定差值不大于预定阈值，则进行至步骤S207。
在步骤S206中，将所述当前帧热点图像的图像特征输入视频审核模型进行审核。
在步骤S207中，将所述当前帧热点图像的图像特征进行删除，并返回依次执行步骤S204和S205。
在步骤S208中，通过视频审核模型对热点图像的图像特征进行审核，进行视频审核的视频审核模型可以是向量机模型、神经网络模型以及决策树模型中的一种或多种。
在步骤S209中，基于训练后的视频审核模型，如果热点图像为未禁止图像，系统自动通过，如果热点图像为被禁止图像，系统审核拒绝。
在步骤S210中，对于步骤S209中因为少数帧例如一帧或者两帧而被系统认定为有被禁止图像的待审核视频发送到人工审核系统进行再审核。
需要说明的是，尽管在附图中以特定顺序描述了本发明中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
此外，在本示例实施例中，还提供了一种视频审核装置。参照图3所示，该视频审核装置300还包括：热点片段确定单元310、图像特征提取单元320、判断单元330以及视频审核单元340。其中：热点片段确定单元310用于获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段；图像特征提取单元320用于以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征；判断单元330用于依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；视频审核单元340用于在判定大于所述预定阈值时，将所述当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
在本发明的一种示例性实施例中，热点片段确定单元310被配置为：从多个视频样本的历史播放信息中提取历史播放特征，所述历史播放特征包括总播放次数信息、总播放时间信息、总回看次数信息、评论次数信息、各片段的回看次数信息；基于所述历史播放特征对热点片段提取模型进行训练；基于训练后的所述热点片段提取模型确定所述待审核视频中的热点片段。
在本发明的一种示例性实施例中，图像特征提取单元320被配置为：获取所述待审核视频的存储空间大小和视频播放时长的信息；根据所述存储空间大小和所述视频播放时长的信息确定所述预定帧间隔；按照所述预定帧间隔从所述热点片段中选取多帧热点图像。
在本发明的一种示例性实施例中，判断单元330被配置为：依次获取所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征；确定所述当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值。
在本发明的一种示例性实施例中，所述视频审核方法包括：获取多个样本图像以及所述多个样本图像的标签，所述标签包括正标签和负标签；提取所述多个样本图像的图像特征；基于所述图像特征以及所述样本图像的标签对所述视频审核模型进行训练。
在本发明的一种示例性实施例中，所述视频审核方法还包括：根据待审核视频的总播放次数信息、总播放时间信息、总回看次数信息、评论次数信息对所述待审核视频进行排序。
在本发明的一种示例性实施例中，所述图像特征包括方向梯度直方图特征、局部二值模式特征以及Haar特征中的一种或多种。
上述中视频审核装置各模块的具体细节已经在对应的视频审核方法中进行了详细的描述，因此此处不再赘述。
应当注意，尽管在上文详细描述中提及了视频审核装置300的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外，在本发明的示例性实施例中，还提供了一种能够实现上述方法的电子设备。下面参考图4，其示出了适于用来实现本发明实施例的电子设备的计算机系统400的结构示意图。图4示出的电子设备的计算机系统400仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，计算机系统400包括中央处理单元(CPU)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有系统操作所需的各种程序和数据。CPU401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405：包括键盘、鼠标等的输入部分406；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407；包括硬盘等的存储部分408；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器410上，以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分409从网络上被下载和安装，和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时，执行本申请的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。
在本发明的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施例的步骤。
参考图5所示，描述了根据本发明的实施例的用于实现上述方法的程序产品500，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是，例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其他实施例。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由权利要求指出。
应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限。
Claims (10)
1.一种视频审核方法，其特征在于，包括：
获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段；
以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征；
依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；
在判定大于所述预定阈值时，将所述当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
2.根据权利要求1所述的视频审核方法，其特征在于，基于所述历史播放信息确定所述待审核视频中的热点片段，包括：
从多个视频样本的历史播放信息中提取历史播放特征，所述历史播放特征包括总播放次数信息、总播放时间信息、总回看次数信息、评论次数信息、各片段的回看次数信息；
基于所述历史播放特征对热点片段提取模型进行训练；
基于训练后的所述热点片段提取模型确定所述待审核视频中的热点片段。
3.根据权利要求1所述的视频审核方法，其特征在于，以预定帧间隔从所述热点片段中选取多帧热点图像，包括：
获取所述待审核视频的存储空间大小和视频播放时长的信息；
根据所述存储空间大小和所述视频播放时长的信息确定所述预定帧间隔；
按照所述预定帧间隔从所述热点片段中选取多帧热点图像。
4.根据权利要求1所述的视频审核方法，其特征在于，依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值，包括：
依次获取所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征；
确定所述当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值。
5.根据权利要求1所述的视频审核方法，其特征在于，所述视频审核方法还包括：
获取多个样本图像以及所述多个样本图像的标签，所述标签包括正标签和负标签；
提取所述多个样本图像的图像特征；
基于所述图像特征以及所述样本图像的标签对所述视频审核模型进行训练。
6.根据权利要求1所述的视频审核方法，其特征在于，所述视频审核方法还包括：
根据待审核视频的总播放次数信息、总播放时间信息、总回看次数信息、评论次数信息对所述待审核视频进行排序。
7.根据权利要求1至6中任一项所述的视频审核方法，其特征在于，所述图像特征包括方向梯度直方图特征、局部二值模式特征以及Haar特征中的一种或多种。
8.一种视频审核装置，其特征在于，包括：
热点片段确定单元，用于获取待审核视频的历史播放信息，并基于所述历史播放信息确定所述待审核视频中的热点片段；
图像特征提取单元，用于以预定帧间隔从所述热点片段中选取多帧热点图像，并提取所述多帧热点图像的图像特征；
判断单元，用于依次判断所述多帧热点图像中的当前帧热点图像与下一帧热点图像的图像特征的差值是否大于预定阈值；
视频审核单元，用于在判定大于所述预定阈值时，将所述当前帧热点图像的图像特征输入到视频审核模型进行审核，以确定所述待审核视频是否为被禁止的视频类型。
9.一种电子设备，其特征在于，包括：
处理器；以及
存储器，所述存储器上存储有计算机可读指令，所述计算机可读指令被所述处理器执行时实现根据权利要求1-7中任一项所述的视频审核方法。
10.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现根据权利要求1-7中任一项所述的视频审核方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811303630.0A CN109495783A (zh) | 2018-11-02 | 2018-11-02 | 视频审核方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811303630.0A CN109495783A (zh) | 2018-11-02 | 2018-11-02 | 视频审核方法、装置、电子设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109495783A true CN109495783A (zh) | 2019-03-19 |
Family
ID=65693729
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811303630.0A Pending CN109495783A (zh) | 2018-11-02 | 2018-11-02 | 视频审核方法、装置、电子设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109495783A (zh) |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110225373A (zh) * | 2019-06-13 | 2019-09-10 | 腾讯科技（深圳）有限公司 | 一种视频审核方法、装置及电子设备 |
| CN110719440A (zh) * | 2019-09-26 | 2020-01-21 | 恒大智慧科技有限公司 | 一种视频回放方法、装置及存储介质 |
| CN112218109A (zh) * | 2020-09-21 | 2021-01-12 | 北京达佳互联信息技术有限公司 | 多媒体资源获取方法、装置、设备及存储介质 |
| CN112507884A (zh) * | 2020-12-10 | 2021-03-16 | 北京有竹居网络技术有限公司 | 直播内容的检测方法、装置、可读介质和电子设备 |
| CN112532998A (zh) * | 2020-12-01 | 2021-03-19 | 网易传媒科技（北京）有限公司 | 抽取视频帧的方法、装置、设备和可读存储介质 |
| CN112860943A (zh) * | 2021-01-04 | 2021-05-28 | 浙江诺诺网络科技有限公司 | 一种教学视频审核方法、装置、设备及介质 |
| CN112911375A (zh) * | 2020-12-07 | 2021-06-04 | 泰州市朗嘉馨网络科技有限公司 | 产品宣传人工智能检测系统及方法 |
| CN113095342A (zh) * | 2019-12-23 | 2021-07-09 | 北京金山云网络技术有限公司 | 基于误判样本图片的审核模型优化方法、装置及服务器 |
| CN113205130A (zh) * | 2021-04-28 | 2021-08-03 | 五八有限公司 | 一种数据审核方法、装置、电子设备及存储介质 |
| CN113627534A (zh) * | 2021-08-11 | 2021-11-09 | 百度在线网络技术（北京）有限公司 | 识别动态图像的类型的方法、装置及电子设备 |
| CN113873278A (zh) * | 2021-09-26 | 2021-12-31 | 北京奇艺世纪科技有限公司 | 播放内容审核方法、装置及电子设备 |
| CN114189709A (zh) * | 2021-11-12 | 2022-03-15 | 北京天眼查科技有限公司 | 一种审核视频的方法、装置及存储介质和电子设备 |
| CN117177012A (zh) * | 2023-06-09 | 2023-12-05 | 青岛尘元科技信息有限公司 | 视频播出监测方法、系统、设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102073841A (zh) * | 2009-11-20 | 2011-05-25 | 中国移动通信集团广东有限公司 | 一种不良视频检测方法及装置 |
| CN102073676A (zh) * | 2010-11-30 | 2011-05-25 | 中国科学院计算技术研究所 | 一种网络色情视频实时检测方法和系统 |
| US20160253573A1 (en) * | 2015-02-27 | 2016-09-01 | Lexmark International, Inc. | Automatically Capturing and Cropping Image of Check from Video Sequence for Banking or other Computing Application |
| CN106980817A (zh) * | 2017-02-27 | 2017-07-25 | 南京邮电大学 | 一种基于Caffe框架的恐怖视频识别方法 |
-
2018
- 2018-11-02 CN CN201811303630.0A patent/CN109495783A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102073841A (zh) * | 2009-11-20 | 2011-05-25 | 中国移动通信集团广东有限公司 | 一种不良视频检测方法及装置 |
| CN102073676A (zh) * | 2010-11-30 | 2011-05-25 | 中国科学院计算技术研究所 | 一种网络色情视频实时检测方法和系统 |
| US20160253573A1 (en) * | 2015-02-27 | 2016-09-01 | Lexmark International, Inc. | Automatically Capturing and Cropping Image of Check from Video Sequence for Banking or other Computing Application |
| CN106980817A (zh) * | 2017-02-27 | 2017-07-25 | 南京邮电大学 | 一种基于Caffe框架的恐怖视频识别方法 |
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110225373A (zh) * | 2019-06-13 | 2019-09-10 | 腾讯科技（深圳）有限公司 | 一种视频审核方法、装置及电子设备 |
| CN110719440A (zh) * | 2019-09-26 | 2020-01-21 | 恒大智慧科技有限公司 | 一种视频回放方法、装置及存储介质 |
| CN113095342A (zh) * | 2019-12-23 | 2021-07-09 | 北京金山云网络技术有限公司 | 基于误判样本图片的审核模型优化方法、装置及服务器 |
| CN112218109A (zh) * | 2020-09-21 | 2021-01-12 | 北京达佳互联信息技术有限公司 | 多媒体资源获取方法、装置、设备及存储介质 |
| CN112532998B (zh) * | 2020-12-01 | 2023-02-21 | 网易传媒科技（北京）有限公司 | 抽取视频帧的方法、装置、设备和可读存储介质 |
| CN112532998A (zh) * | 2020-12-01 | 2021-03-19 | 网易传媒科技（北京）有限公司 | 抽取视频帧的方法、装置、设备和可读存储介质 |
| CN112911375A (zh) * | 2020-12-07 | 2021-06-04 | 泰州市朗嘉馨网络科技有限公司 | 产品宣传人工智能检测系统及方法 |
| CN112911375B (zh) * | 2020-12-07 | 2021-11-02 | 江苏仲博敬陈信息科技有限公司 | 产品宣传人工智能检测系统及方法 |
| CN112507884A (zh) * | 2020-12-10 | 2021-03-16 | 北京有竹居网络技术有限公司 | 直播内容的检测方法、装置、可读介质和电子设备 |
| CN112860943A (zh) * | 2021-01-04 | 2021-05-28 | 浙江诺诺网络科技有限公司 | 一种教学视频审核方法、装置、设备及介质 |
| CN113205130A (zh) * | 2021-04-28 | 2021-08-03 | 五八有限公司 | 一种数据审核方法、装置、电子设备及存储介质 |
| CN113627534A (zh) * | 2021-08-11 | 2021-11-09 | 百度在线网络技术（北京）有限公司 | 识别动态图像的类型的方法、装置及电子设备 |
| CN113873278A (zh) * | 2021-09-26 | 2021-12-31 | 北京奇艺世纪科技有限公司 | 播放内容审核方法、装置及电子设备 |
| CN113873278B (zh) * | 2021-09-26 | 2024-01-23 | 北京奇艺世纪科技有限公司 | 播放内容审核方法、装置及电子设备 |
| CN114189709A (zh) * | 2021-11-12 | 2022-03-15 | 北京天眼查科技有限公司 | 一种审核视频的方法、装置及存储介质和电子设备 |
| CN117177012A (zh) * | 2023-06-09 | 2023-12-05 | 青岛尘元科技信息有限公司 | 视频播出监测方法、系统、设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109495783A (zh) | 视频审核方法、装置、电子设备及介质 | |
| CN109344908B (zh) | 用于生成模型的方法和装置 | |
| CN108427939B (zh) | 模型生成方法和装置 | |
| CN109360028B (zh) | 用于推送信息的方法和装置 | |
| CN109446990B (zh) | 用于生成信息的方法和装置 | |
| CN109002842A (zh) | 图像识别方法和装置 | |
| CN109325148A (zh) | 生成信息的方法和装置 | |
| CN109286825A (zh) | 用于处理视频的方法和装置 | |
| CN109308490A (zh) | 用于生成信息的方法和装置 | |
| CN109145828A (zh) | 用于生成视频类别检测模型的方法和装置 | |
| CN110225366A (zh) | 视频数据处理及广告位确定方法、装置、介质及电子设备 | |
| CN109376267A (zh) | 用于生成模型的方法和装置 | |
| CN113255617B (zh) | 图像识别方法、装置、电子设备和计算机可读存储介质 | |
| CN108062416B (zh) | 用于在地图上生成标签的方法和装置 | |
| CN113841161A (zh) | 用于自动生成内容分发图像的可扩展体系架构 | |
| CN109766496A (zh) | 一种内容风险识别方法、系统、设备及介质 | |
| CN112015928A (zh) | 多媒体资源的信息提取方法、装置、电子设备及存储介质 | |
| CN110348516A (zh) | 数据处理方法、装置、存储介质及电子设备 | |
| CN109165574A (zh) | 视频检测方法和装置 | |
| WO2024179575A1 (zh) | 一种数据处理方法、设备以及计算机可读存储介质 | |
| CN107368407A (zh) | 信息处理方法和装置 | |
| CN115062709A (zh) | 模型优化方法、装置、设备、存储介质及程序产品 | |
| CN110895811A (zh) | 一种图像篡改检测方法和装置 | |
| CN112801053B (zh) | 视频数据处理方法、装置 | |
| CN110276405A (zh) | 用于输出信息的方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190319 |
|
| RJ01 | Rejection of invention patent application after publication |