CN113873278B - 播放内容审核方法、装置及电子设备 - Google Patents
播放内容审核方法、装置及电子设备 Download PDFInfo
- Publication number
- CN113873278B CN113873278B CN202111131617.3A CN202111131617A CN113873278B CN 113873278 B CN113873278 B CN 113873278B CN 202111131617 A CN202111131617 A CN 202111131617A CN 113873278 B CN113873278 B CN 113873278B
- Authority
- CN
- China
- Prior art keywords
- video frame
- target video
- target
- information
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000012550 audit Methods 0.000 claims abstract description 55
- 230000008859 change Effects 0.000 claims description 34
- 238000004891 communication Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 12
- 238000007726 management method Methods 0.000 abstract description 2
- 239000003086 colorant Substances 0.000 description 24
- 230000008569 process Effects 0.000 description 10
- 230000009471 action Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000012552 review Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/488—Data services, e.g. news ticker
- H04N21/4882—Data services, e.g. news ticker for displaying messages, e.g. warnings, reminders
Abstract
本发明实施例提供了播放内容审核方法、装置及电子设备，应用于内容管理技术领域。该方法包括：确定直播视频流中待审核的目标视频帧；其中，目标视频帧的播放时间迟于基准视频帧，基准视频帧为直播视频流中已确定出未违规的视频帧；识别目标视频帧的图像内容信息，得到目标信息；基于目标信息和基准信息的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更；基准信息为基准视频帧的图像内容信息；当判定目标视频帧的播放内容相对于基准视频帧发生变更时，则输出通知消息，通知消息用于指示审核人员对目标视频帧进行人工审核。通过本方案，可以降低审核人员的工作量。
Description
技术领域
本发明涉及内容管理技术领域，特别是涉及播放内容审核方法、装置及电子设备。
背景技术
随着互联网技术的快速发展，网络直播也越来越广泛地应用到人们的日常生活中。直播平台为了规范主播的播放内容，往往需要对播放内容进行审核。
考虑到播放内容的多样性和随机性，相关技术中，采用人工审核的方式对播放内容进行审核。具体的，审核后台在接收到主播的直播视频流后，将直播视频流推送至审核人员；审核人员通过观看直播视频流判断主播的播放内容是否违规，若判断播放内容违规，则审核人员采取相应的处理措施对违规的播放内容进行处理。
上述过程中，针对每一直播视频流，审核人员均需要持续或周期性多频次的观看该直播视频流，从而导致审核人员的工作量较大，且审核效率较低，限制直播行业发展。
发明内容
本发明实施例的目的在于提供一种播放内容审核方法、装置及电子设备，以降低审核人员工作量。具体技术方案如下：
在本发明实施的第一方面，首先提供了一种播放内容审核方法，包括：
确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；
识别所述目标视频帧的图像内容信息，得到目标信息；
基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；
当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核。
在本发明实施的第二方面，还提供了一种播放内容审核装置，包括：
视频帧确定模块，用于确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；
信息识别模块，用于识别所述目标视频帧的图像内容信息，得到目标信息；
变更判断模块，用于基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；
消息输出模块，用于当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核。
在本发明实施的第三方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一所述的播放内容审核方法。
在本发明实施的第四方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一所述的播放内容审核方法。
本发明实施例提供的播放内容审核方法、装置及电子设备，由于可以基于目标视频帧的目标信息以及基准视频帧的基准信息，判断目标视频帧的播放内容相对于基准视频帧是否发生变更，且仅在在发生变更的情况下，输出指示审核人员对所述目标视频帧进行人工审核的通知消息，当未违规时，则不需要审核人员进行审核，可见，审核人员不需要持续地或周期性观看直播视频流，而只需要在检测到目标视频帧相对于基准视频帧的播放内容发生变更后才需要对目标视频帧进行审核，从而可以降低审核人员的工作量。
同时，本发明实施例在检测到目标视频帧相对于基准视频帧的播放内容发生变更后，指示审核人员对所述目标视频帧进行人工审核，可见，本发明所提供的方案是自动检测与人工审核的结合，在降低了审核人员的工作量的同时，也通过指示人工审核的方式确保了审核结果的准确性，实现了降低工作流与审核结果准确性之间的平衡。
进一步的，对于直播场景而言，其所获取的视频帧为连续获取的，画面内容的变化也是连续的，其意味着，在检测到相对于基准视频帧播放内容发生变更的目标视频帧之前，目标视频帧之前的视频帧播放内容发生变更的可能性较低，因此，仅在判定目标视频帧的播放内容相对于基准视频帧发生变更时，指示审核人员对所述目标视频帧进行人工审核直播场景而言是合理的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1为本发明实施例中提供的播放内容审核方法的流程示意图。
图2为本发明实施例中提供的播放内容审核方法的另一流程示意图。
图3为本发明实施例中提供的播放内容审核方法的另一流程示意图。
图4为本发明实施例中提供的与场景结合的播放内容审核方法的流程图。
图5为本发明实施例中提供的播放内容审核装置的结构示意图。
图6为本发明实施例中提供的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
为了降低审核人员的工作量，本发明实施例提供了播放内容审核方法、装置及电子设备。
下面首先对本发明实施例所提供的一种播放内容审核方法进行介绍。
本发明实施例可以应用于直播场景中的审核后台。上述直播场景还包括直播端和播放端。其中，直播端用于生成供播放端播放的直播视频流，在播放端接收直播视频流并进行播放的同时，审核后台需要对直播视频流进行审核，以在播放内容出现违规时，及时作出处理。
需要说明的是，本发明实施例可以应用于审核后台中各类电子设备，例如，电脑、服务器、手机以及其他具有数据处理能力的设备。并且，本发明实施例提供的播放内容审核方法可以通过软件、硬件或软硬件结合的方式实现。
相关技术中，采用人工审核的方式对播放内容进行审核。具体的，审核后台在接收到直播视频流后，将直播视频流推送至审核人员。由审核人员通过观看直播视频流判断播放内容是否出现违规。若判断播放内容违规，则审核人员采取相应的处理措施对违规的播放内容进行处理。上述过程中，审核人员需要持续地或周期性地观看播放内容，从而导致审核人员的工作量较大。
由于审核人员在实际工作场景中，需要在同一屏幕上同时观察多路直播视频流，而屏幕上的直播视频流大多数的时间都是相同的场景和事件，例如，同一个人在唱同一首歌，或同一个人表演同一个节目。对于此类场景和事件不会频繁发生变化的直播视频流，在同一场景和事件下，在其整个直播过程中，直播视频流的视频内容的变化较小，仅在更换不同场景或事件的情况下，直播视频流的视频内容才可能发生较大变化。
基于此，本发明提供一种播放内容审核方法，可以检测视频内容是否发送变更，且仅在在发生变更的情况下，输出指示审核人员对所述目标视频帧进行人工审核的通知消息，当未违规时，则不需要审核人员进行审核，从而可以降低审核人员的工作量。
下面结合说明书附图，对本发明实施例提供的播放内容审核方法、装置及电子设备进行详细说明。
如图1所示，本发明实施例提供的一种播放内容审核方法，可以包括如下步骤：
S101，确定直播视频流中待审核的目标视频帧；其中，目标视频帧的播放时间迟于基准视频帧，基准视频帧为直播视频流中已确定出未违规的视频帧；
其中，上述目标视频帧可以为直播视频流中播放时间迟于基准视频帧的任一视频帧，也就是说，在预先已确定基准视频帧的情况下，可以从基准视频帧后续的播放帧中随机选择一视频帧，作为目标视频帧；或者，也可以按照预设的目标视频帧确定策略，从基准视频帧后续的播放帧中选择一视频帧，作为目标视频帧。上述目标视频帧确定策略可以根据实际需求和经验确定，例如，可以为周期性地从基准视频帧后续的播放帧中选择目标视频帧，即目标视频帧和基准视频帧相差一个周期时长，或者将与基准视频帧相差预设数量个视频帧的视频帧，作为目标视频帧。
可选的，为了提高后续识别信息的效率，上述目标视频帧可以为直播视频流中具有完整图像信息的关键帧，其中，关键帧也叫称为I帧，是直播视频流传输过程中，帧间压缩编码的最重要的帧，每一关键帧均包含完整的图像信息。
当直播视频流尚未被审核过时，需要先对直播视频流进行审核，并将所审核的视频帧作为基准视频帧。换句话说，在开始执行本步骤之前，已对直播视频流至少进行一次审核，且每次审核的结果均为未违规。而本步骤中，基准视频帧则为对直播视频流最近一次进行审核时所审核的视频帧，并且上述目标视频帧的播放时间迟于基准视频帧。
举例说明，直播视频流包含视频帧1、视频帧2和视频帧3。其中，视频帧1的播放时间早于视频帧2，视频帧2的播放时间早于视频帧3。在播放视频帧2之前，视频帧1已被审核未违规，则视频帧1可以作为基准视频帧，上述视频帧2和视频帧3之一可以作为目标视频帧。需要说明的是，当视频帧2作为目标视频帧后，在视频帧2被审核未违规时，此时视频帧2可以为新的基准视频帧，而视频帧3将可以作为目标视频帧。
要说明的，若任何一次针对视频帧进行审核时，审核结果为违规帧，则将会对直播视频流执行相应的违规处理动作，例如封禁，此时，对于出现违规帧的直播视频流而言，将不需要继续对该直播视频流进行监控。
S102，识别目标视频帧的图像内容信息，得到目标信息；
本发明实施例中，图像内容信息用于表征视频帧图像的主体情况(或称为宏观表现)，具体而言，图像内容信息至少包括以下信息中的至少一种：视频帧的颜色信息、视频帧的梯度值、视频帧的物品信息。
其中，颜色信息可以包括但不限于如下至少一种：主体颜色种类、主体颜色占比等，上述梯度值可以包括：视频帧的像素梯度，上述物品信息可以包括但不限于如下至少一种：视频帧中所包含的物品的种类、视频帧中所包含的物品数量等，其中，视频帧中包含的物品可以为直播场景中的装饰物、例如桌面、话筒、玩偶、背景图片、座椅、展示台等，以及直播场景中直播人员佩戴物体，例如头饰、帽子、眼镜、耳机等。
可以对目标视频帧进行图像内容识别，以获取目标视频帧的图像内容信息，可选的，针对不同图像内容信息，可以采用不同的识别方式。
针对颜色信息，可以对目标视频帧进行颜色识别，识别目标视频帧的颜色信息，例如，识别目标视频帧中各像素点的像素值，进而基于各像素点的像素值，确定目标视频帧的颜色信息。一种实现方式中，基于目标视频帧的像素值，构建目标视频帧的直方图，进而根据直方图中像素值的分布，确定目标视频帧的颜色信息；或者，另一种实现方式中，可以基于目标视频帧的像素值，对目标视频帧进行颜色聚类，以得到目标视频帧的颜色信息。
针对梯度值，可以对目标视频帧进行梯度识别，以确定目标视频帧的梯度值，可选的，可以基于目标视频帧中各像素点的像素值，计算出目标视频帧的梯度值，例如计算出每一像素点的梯度，进而基于每一像素点的梯度，计算目标视频帧的梯度值。
针对物品信息，可以对目标视频帧进行物品识别，识别出目标视频帧的物品信息。可选的，可以基于目标视频帧内各像素之间的像素值，识别出目标视频帧包含的物品，进而确定物品的种类和/或物品数量。
S103，基于目标信息和基准信息的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更；
其中，基准信息为基准视频帧的图像内容信息，其获取方式可以与获取目标视频帧的方式相同，在此不再赘述。
在识别目标信息之后，可以先识别基准视频帧的图像内容信息，作为基准信息，进而再对比目标信息和基准信息的差异，以实现对目标视频帧的自动审核。
根据所使用的图像内容信息的不同，上述目标信息和基准信息的差异，可以反映出目标视频帧与基准视频帧不同内容的差异。例如，若图像内容信息包含颜色信息，则基于目标信息和基准信息的差异，可以比对出目标视频帧与基准视频帧所包含的颜色、颜色数量、颜色占比、主体颜色、主体颜色数量以及主体颜色占比中至少一项的差异；若图像内容信息包含梯度值，则基于目标信息和基准信息的差异，可以比对出目标视频帧与基准视频帧之间梯度值大小的差异；若图像内容信息包含物品信息，则基于目标信息和基准信息的差异，可以比对出目标视频帧与基准视频帧包含的物品种类、物品数量等差异。
若差异较大，则说明目标视频帧的播放内容相对于基准视频帧发生的变更较大，此时可以认为目标视频帧的播放内容相对于基准视频帧发生变更，即判定目标视频帧的播放内容相对于基准视频帧发生变更。若差异较小，则说明目标视频帧的播放内容相对于基准视频帧发生的变更较小，此时可以认为目标视频帧的播放内容相对于基准视频帧未发生变更，即则判定目标视频帧的播放内容相对于基准视频帧未发生变更。
若目标视频帧的播放内容相对于基准视频帧未发生变更，说明目标视频帧的播放内容与预先审核为未违规的播放内容相同，此时，不需要再对目标视频帧进行审核，从而本次针对目标视频帧的视频审核流程结束。可以理解的是，本方案可以重复执行，示例性的，在结束流程的预设时间段之后或实时地，可以重新执行本发明实施例所提供的播放内容审核方法，该预设时间段可以为根据经验和需求确定的，例如1s。
若目标视频帧的播放内容相对于基准视频帧发生变更，则需要进一步的对目标视频帧的播放内容进行人工审核，此时，可以执行步骤S104。
本步骤中，根据图像内容信息包含信息种类的不同，上述基于目标信息和基准信息的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更的方式也不同，示例性的，可以包括以下几种方式中的至少一种。
第一种方式，图像内容信息包括视频帧的颜色信息，则可以基于目标视频帧与基准视频帧颜色的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更。
第二种方式，图像内容信息包括视频帧的梯度值，则可以基于目标视频帧与基准视频帧梯度值大小的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更。
第三种方式，图像内容信息包括视频帧的物品信息，则可以基于目标视频帧与基准视频帧包含物品种类、数量之间的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更。
具体的，将在后续实施例详细描述上述三种方式，在此不再赘述。
S104，当判定目标视频帧的播放内容相对于基准视频帧发生变更时，则输出通知消息，通知消息用于指示审核人员对目标视频帧进行人工审核。
其中，当目标视频帧的播放内容相对于基准视频帧发生变更时，说明目标视频帧的播放内容与预先审核为未违规的播放内容已有较大程度不相同，此时，为保证审核的准确性，保障合规直播内容的正常播放，本方案针对这些与基准视频帧已有较大区别的目标视频帧，采取人工二次审核的方式，来实现视频帧审核。此时，可以输出通知消息，以通知消息用于指示审核人员对目标视频帧进行人工审核。
上述输出通知消息的方式可以有多种，如短信、邮件、桌面弹窗等，该通知信息可以包括文字信息、图像、音频中的至少一种。
当通知消息包括文字信息时，可以基于步骤S103自动审核的结果，生成文字信息，例如，自动审核出目标视频帧相比于基准视频帧增加了主体颜色1，则文字信息可以为“目标视频帧相比于基准视频帧增加了主体颜色1”，又如自动审核出目标视频帧相比于基准视频帧物体种类增加，则文字信息可以为“目标视频帧相比于基准视频帧增加了物品种类1、物品种类2”。
当通知消息包括图片信息时，可以将需要审核的目标视频帧作为发送给审核员的图片，或者还可以基于步骤S103自动审核的结果，生成目标视频帧相对于基准视频帧存在差异的图片，例如，自身审核识别出相对于基准视频帧，目标视频帧增加了物品1，则可以将物品1的图片发送给审核员。
当通知消息包括音频消息时，可以生成音频消息，例如提醒审核员进行人工审核的音频，可选的，还基于步骤S103自动审核的结果，生成提醒审核员对目标视频帧相对于基准视频帧存在差异的内容，着重进行审核，例如自动审核出目标视频帧相比于基准视频帧物体数量减少，则音频消息可以为“目标视频帧相比于基准视频帧较少了物品3”。
换言之，除直接通知审核员需要进行人工审核之外，自动审核得到的差异较大的审核结果，还可以一并通知给审核员，以便于审核员参考，协助审核员快速定位审核重点，提高审核效率。
本实施例所提供方案中，由于可以基于目标视频帧的目标信息以及基准视频帧的基准信息，判断目标视频帧的播放内容相对于基准视频帧是否发生变更，且仅在在发生变更的情况下，输出指示审核人员对目标视频帧进行人工审核的通知消息，当未违规时，则不需要审核人员进行审核，可见，审核人员不需要持续地或周期性观看直播视频流，而只需要在检测到目标视频帧相对于基准视频帧的播放内容发生变更后才需要对目标视频帧进行审核，从而可以降低审核人员的工作量。
同时，本发明实施例在检测到目标视频帧相对于基准视频帧的播放内容发生变更后，指示审核人员对目标视频帧进行人工审核，可见，本发明所提供的方案是自动检测与人工审核的结合，在降低了审核人员的工作量的同时，也通过指示人工审核的方式确保了审核结果的准确性，实现了降低工作流与审核结果准确性之间的平衡。
进一步的，对于直播场景而言，其所获取的视频帧为连续获取的，画面内容的变化也是连续的，其意味着，在检测到相对于基准视频帧播放内容发生变更的目标视频帧之前，目标视频帧之前的视频帧播放内容发生变更的可能性较低，因此，仅在判定目标视频帧的播放内容相对于基准视频帧发生变更时，指示审核人员对目标视频帧进行人工审核直播场景而言是合理的。
可选的，在一种实施例中，上述颜色信息可以包括但不限于以下至少一种：颜色数量、各颜色的占比、主体颜色、主体颜色的数量、各主体颜色的占比等，这都是可以的，本发明实施例无特别限制。
其中，视频帧的颜色数量即为该视频帧包含的每一像素值的数量，可以通过统计目标视频帧每一像素点的像素值的方式，确定目标视频帧的颜色数量；上述各颜色的占比为每一颜色的数量占总颜色数量的比值，可以在统计出每一颜色数量之后，分别计算每一颜色的占比；上述主体颜色的确定方式有很多种，例如，可以将颜色数量大于指定数量阈值、或颜色占比大于预设占比阈值的颜色确定为主体颜色，或者也可以通过颜色聚类的方式进行确定，在确定出主体颜色之后，即可统计出主体颜色的数量，并根据每一主体颜色的数据，确定每一主体颜色的占比。
可选的，当上述颜色信息包括视频帧的主体颜色和/或各主体颜色的颜色占比信息时，一种方式中，可以将目标视频中颜色数量大于指定数量阈值、或颜色占比大于预设占比阈值的颜色确定为主体颜色，进而确定出主体颜色的颜色占比信息，或者，在另一实现方式中，可以采用聚类的方式确定出视频帧的主体颜色和/或各主体颜色的颜色占比信息，此时，基于图1所示的实施例，如图2所示，本发明实施例还提供另一种播放内容审核方法，上述识别目标视频帧的图像内容信息，得到目标信息，可以包括步骤S201-S202：
S201，对目标视频帧中各像素点的像素值进行聚类，得到多个聚类中心；
其中，可以预先在目标视频帧对应的色彩空间中选取预设数量种颜色，作为初始的聚类的聚类中心，进而针对目标视频帧内每一像素点，在色彩空间中，计算该像素点的像素值与各聚类中心之间的距离，并将该像素点分配至距离最近的聚类中心所在的聚类，以及基于该像素点的像素值，重新计算该像素点所在聚类的聚类中心。
在将目标视频帧内各像素点均完成分配后，即可得到多个聚类中心。
S202，确定各聚类中心对应的聚类颜色，得到目标视频帧的主体颜色；和/或，确定各主体颜色对应的聚类中心像素点占目标视频帧内各像素点的比例，得到各主体颜色的颜色占比信息。
在该视频帧内各像素点均完成分配后，即可基于所述色彩空间中每一聚类的聚类中心，进而确定每一聚类所对应的聚类颜色，作为目标视频帧的主体颜色。和/或，针对每一确定的聚类颜色，确定该聚类颜色对应的聚类中像素点占目标视频帧内各像素点的比例，作为该主体颜色的颜色占比信息。
本实施例所提供方案中，可以降低审核人员的工作量，进一步的，通过对目标视频帧进行聚类，可以方便、准确的确定目标视频帧颜色信息。
在图2的基础上，当目标信息包括各个主体颜色和各主体颜色的颜色占比信息时，如图3所示，上述基于目标信息和基准信息的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更，可以包括步骤S301-S302：
S301，判断目标视频帧的各主体颜色是否与基准视频帧的各主体颜色相同；若相同，则执行步骤S302，否则，判定目标视频帧的播放内容相对于基准视频帧发生变更。
举例而言，基准视频帧包含红、绿和黄三种主体颜色，而目标视频帧则包含红、绿、黄、黑四种主体颜色，则判定满足预设的内容变更条件。
S302，判断目标视频帧中各主体颜色的占比，相对于基准视频帧中各主体颜色的占比的变化值是否大于预设阈值；若大于，则判定目标视频帧的播放内容相对于基准视频帧发生变更，否则，判定目标视频帧的播放内容相对于基准视频帧未发生变更。
其中，若任一主体颜色的变化值大于预设阈值，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若各主体颜色的变化值均不大于预设阈值，则判定目标视频帧的播放内容相对于基准视频帧未发生变更。
举例而言，基准视频帧包含红、绿和黄三种主体颜色，其占比分别为红40％、绿30％、黄30％。目标视频帧也包含红、绿和黄三种主体颜色，其占比分别为红30％、绿50％、黄20％。若预设占比阈值为15％，则先基于主体颜色进行判断，目标视频帧与基准视频帧的主体颜色是否相同，再进行颜色占比进行比较，其中，目标视频帧相对于基准视频帧，红和黄占比变化了10％、绿占比变化了20％，由于预设占比阈值为15％，则判定目标视频帧的播放内容相对于基准视频帧发生变更。
本实施例所提供方案中，可以降低审核人员的工作量，进一步的，通过主体颜色与主体颜色占比的对比，可以快速、准确地判断出目标视频帧是否相对于基准视频帧发生视频内容的变更。
可选的，在一种实施例中，本发明实施例提供的另一种播放内容审核方法中，图像内容信息可以包括视频帧的梯度值。此时上述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，可以包括如下步骤：
步骤1，计算目标视频帧的梯度值与基准视频帧的梯度值之间的梯度差；
其中，可以先分别计算出目标视频帧的第一梯度值，和基准视频帧的第二梯度值，再计算第一梯度值与第二梯度值的差值，作为梯度差。
步骤2，若梯度差大于预设梯度阈值，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若梯度差不大于预设梯度阈值，则目标视频帧的播放内容相对于基准视频帧未发生变更。
其中，预设梯度阈值可以根据需求和经验确定。若梯度差大于预设梯度阈值，则表征目标视频帧相对于基准视频帧发生较大的改变，此时可以判定目标视频帧的播放内容相对于基准视频帧发生变更。若梯度差不大于预设梯度阈值，则表征目标视频帧相对于基准视频帧改变较小，此时可以判定目标视频帧的播放内容相对于基准视频帧发生变更。
本实施例所提供方案中，可以降低审核人员的工作量，进一步的，通过计算目标视频帧与基准视频帧之间的梯度差，可以快速、准确地判断出目标视频帧是否相对于基准视频帧发生视频内容的变更。
可选的，在一种实施例中，本发明实施例提供的另一种播放内容审核方法中，图像内容信息包括视频帧的物品信息。
若物品信息包括视频帧包含物品的数量，则可以基于目标视频帧与基准视频帧包含物品数量的差异大小，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，若目标视频帧与基准视频帧包含物品数量的差异大于预设差异阈值，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若目标视频帧与基准视频帧包含物品数量的差异不大于预设差异阈值，则判定目标视频帧的播放内容相对于基准视频帧未发生变更。
若物品信息包括视频帧包含物品种类，此时上述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，可以包括如下步骤：
步骤a，基于目标视频帧的物品信息和基准视频帧的物品信息，对比目标视频帧内的物品种类与基准视频帧的物品种类；
步骤b，若目标视频帧内的物品种类与基准视频帧的物品种类不同，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若目标视频帧内的物品种类与基准视频帧的物品种类相同，则判定目标视频帧的播放内容相对于基准视频帧未发生变更。
示例性的，目标视频帧的物品种类包括物品1、物品2和物品3，若基准视频帧的物品种类也为物品1、物品2和物品3时，则目标视频帧内的物品种类与基准视频帧的物品种类相同，判定目标视频帧的播放内容相对于基准视频帧未发生变更，若基准视频帧的物品种类也为物品1和物品2、或为物品1、物品2和物品4，以及为物品1、物品2、物品3和物品4时，则目标视频帧内的物品种类与基准视频帧的物品种类不同，判定目标视频帧的播放内容相对于基准视频帧发生变更。
本实施例所提供方案中，可以降低审核人员的工作量，进一步的，通过目标视频帧与基准视频帧物品种类之间的对比，可以快速、准确地判断出目标视频帧是否相对于基准视频帧发生视频内容的变更。
可选的，在一种实施例中，本发明实施例提供的另一种播放内容审核方法中，在当判定目标视频帧的播放内容相对于基准视频帧发生变更时，则输出通知消息之后，还可以包括：
若审核结果指示目标视频帧未违规，则将目标视频确定为新的基准视频帧；
其中，上述审核结果可以为判断目标视频帧的播放内容相对于基准视频帧未发生变更的结果，或者上述审核结果也可以为在判断目标视频帧的播放内容相对于基准视频帧发生变更的情况下，由审核人员对目标视频帧进行审核的结果。
若审核人员审核出目标视频帧未违规，将目标视频作为新的基准视频帧，并从目标视频帧之后的视频帧中选取视频帧，作为新的目标视频帧，并返回基于预设的内容变更条件，判断目标视频帧的播放内容相对于基准视频帧是否发生变更的步骤；否则，对直播视频流进行违规处理。
其中，若审核人员审核出目标视频帧未违规，则说明变更后的播放内容未违规，则可以将目标帧作为新的基准视频帧，并从目标视频帧之后的视频帧中选取视频帧，作为新的目标视频帧，并返回基于预设的内容变更条件，判断目标视频帧的播放内容相对于基准视频帧是否发生变更的步骤。
举例而言，直播视频流包含视频帧1、视频帧2和视频帧3。其中，视频帧1的播放时间早于视频帧2，视频帧2的播放时间早于视频帧3。在第一次循环中，视频帧1为基准视频帧，视频帧2为目标视频帧，视频帧2的播放内容相对于视频帧1发生了变更，则输出视频帧2，经审核人员审核后，判定视频帧2未违规，则将视频帧2作为新的基准视频帧，进行下一次循环。在下一次循环中，将视频帧3作为目标视频帧，进而需要判断视频帧3的播放内容相对于视频帧2是否发生变化，若发生变化，则需要推送视频帧3，以使审核人员对视频帧3进行审核。
若人工审核的结果指示目标视频帧违规，则对直播视频流进行违规处理。
其中，若任何一次针对视频帧进行审核时，审核结果为违规帧，则将会对直播视频流执行相应的违规处理动作，例如如封禁，此时，对于出现违规帧的直播视频流而言，将不再需要继续对该直播视频流进行监控。
为了更清楚的阐述本发明实施例的技术方案，如图4所示，本发明实施例提供一种结合应用场景的播放内容审核方法的流程示意图。包括步骤：
步骤1：审核人员通过观看直播人员的直播视频流判断直播人员的播放内容是否违规。当确定直播视频流未违规时，为直播视频流配置正常标签。被配置正常标签的直播视频流将不再展示。
步骤2：利用K-Means聚类算法找出当前正常播放的视频帧最主要的K种主体颜色以及每种主体颜色所占用的比例。
步骤3：每预设时长对当前视频抽取关键帧重复第二步操作。
步骤4：如果基本色减少或增加，则认为视频内容发生变更需要进行重新审核。
步骤5：如果基本色的比例发生较大变化，则认为视频内容发生变更需要进行重新审核.
本实施例所提供方案中，可以利用基本色检测视频内容是否发送变更，且仅在当前正常播放的视频帧中基本色减少或增加，以及基本色的比例发生较大变化的情况下，对当前正常播放的视频帧进行重新审核，当未违规时，则不需要审核人员进行审核，从而可以针对场景和事件不变的直播视频流，可以避免审查人员的重复审核。
相应于上述播放内容审核方法，如图5所示，本发明实施例还提供了一种播放内容审核装置，包括：
视频帧确定模块501，用于确定直播视频流中待审核的目标视频帧；其中，目标视频帧的播放时间迟于基准视频帧，基准视频帧为直播视频流中已确定出未违规的视频帧；
信息识别模块502，用于识别目标视频帧的图像内容信息，得到目标信息；
变更判断模块503，用于基于目标信息和基准信息的差异，判断目标视频帧的播放内容相对于基准视频帧是否发生变更；基准信息为基准视频帧的图像内容信息；
消息输出模块504，用于当判定目标视频帧的播放内容相对于基准视频帧发生变更时，则输出通知消息，通知消息用于指示审核人员对目标视频帧进行人工审核。
可选的，图像内容信息至少包括以下信息中的一种：视频帧的颜色信息、视频帧的梯度值、视频帧的物品信息。
可选的，颜色信息包括：视频帧的主体颜色和/或各主体颜色的颜色占比信息；其中，任一主体颜色的颜色占比信息包括该主体颜色在所属视频帧中的颜色占比；
信息识别模块，具体用于对目标视频帧中各像素点的像素值进行聚类，得到多个聚类中心；确定各聚类中心对应的聚类颜色，得到目标视频帧的主体颜色；和/或，确定各主体颜色对应的聚类中心像素点占目标视频帧内各像素点的比例，得到各主体颜色的颜色占比信息。
可选的，当目标信息包括各个主体颜色和各主体颜色的颜色占比信息时；变更判断模块，具体用于判断目标视频帧的各主体颜色是否与基准视频帧的各主体颜色相同；当判断结果为是时，判断目标视频帧中各主体颜色的占比，相对于基准视频帧中各主体颜色的占比的变化值是否大于预设阈值；若任一主体颜色的变化值大于预设阈值，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若各主体颜色的变化值均不大于预设阈值，则判定目标视频帧的播放内容相对于基准视频帧未发生变更。
可选的，变更判断模块，具体用于计算目标视频帧的梯度值与基准视频帧的梯度值之间的梯度差；若梯度差大于预设梯度阈值，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若梯度差不大于预设梯度阈值，则目标视频帧的播放内容相对于基准视频帧未发生变更。
可选的，变更判断模块，具体用于基于目标视频帧的物品信息和基准视频帧的物品信息，对比目标视频帧内的物品种类与基准视频帧的物品种类；若目标视频帧内的物品种类与基准视频帧的物品种类不同，则判定目标视频帧的播放内容相对于基准视频帧发生变更；若目标视频帧内的物品种类与基准视频帧的物品种类相同，则判定目标视频帧的播放内容相对于基准视频帧未发生变更。
可选的，装置还包括：处理模块，用于在消息输出模块执行当判定目标视频帧的播放内容相对于基准视频帧发生变更时，则输出通知消息的步骤之后，若人工审核的结果指示目标视频帧未违规，则将目标视频确定为新的基准视频帧；若人工审核的结果指示目标视频帧违规，则对直播视频流进行违规处理。
可选的，目标视频帧为直播视频流中的关键帧。
本发明实施例提供的上述方案，由于可以基于目标视频帧的目标信息以及基准视频帧的基准信息，判断目标视频帧的播放内容相对于基准视频帧是否发生变更，且仅在在发生变更的情况下，输出指示审核人员对目标视频帧进行人工审核的通知消息，当未违规时，则不需要审核人员进行审核，可见，审核人员不需要持续地或周期性观看直播视频流，而只需要在检测到目标视频帧相对于基准视频帧的播放内容发生变更后才需要对目标视频帧进行审核，从而可以降低审核人员的工作量。
同时，本发明实施例在检测到目标视频帧相对于基准视频帧的播放内容发生变更后，指示审核人员对目标视频帧进行人工审核，可见，本发明所提供的方案是自动检测与人工审核的结合，在降低了审核人员的工作量的同时，也通过指示人工审核的方式确保了审核结果的准确性，实现了降低工作流与审核结果准确性之间的平衡。
进一步的，对于直播场景而言，其所获取的视频帧为连续获取的，画面内容的变化也是连续的，其意味着，在检测到相对于基准视频帧播放内容发生变更的目标视频帧之前，目标视频帧之前的视频帧播放内容发生变更的可能性较低，因此，仅在判定目标视频帧的播放内容相对于基准视频帧发生变更时，指示审核人员对目标视频帧进行人工审核直播场景而言是合理的。
本发明实施例还提供了一种电子设备，如图6所示，包括处理器601、通信接口602、存储器603和通信总线604，其中，处理器601，通信接口602，存储器603通过通信总线604完成相互间的通信，
存储器603，用于存放计算机程序；
处理器601，用于执行存储器603上所存放的程序时，实现本发明实施例提供的任一播放内容审核方法的步骤。
上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述终端与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，简称RAM)，也可以包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述实施例中任一所述的播放内容审核方法。
在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的播放内容审核方法。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备、计算机可读存储介质和计算机程序产品实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (8)
1.一种播放内容审核方法，其特征在于，包括：
确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；
识别所述目标视频帧的图像内容信息，得到目标信息；
基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；
当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核；
若所述图像内容信息包括：视频帧的颜色信息；所述颜色信息包括：视频帧的主体颜色和各主体颜色的颜色占比信息；其中，任一主体颜色的颜色占比信息包括该主体颜色在所属视频帧中的颜色占比；
所述识别所述目标视频帧的图像内容信息，得到目标信息，包括：
对所述目标视频帧中各像素点的像素值进行聚类，得到多个聚类中心；
确定各聚类中心对应的聚类颜色，得到所述目标视频帧的主体颜色；确定各主体颜色对应的聚类中心像素点占所述目标视频帧内各像素点的比例，得到各主体颜色的颜色占比信息；
所述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，包括：
判断所述目标视频帧的各主体颜色是否与所述基准视频帧的各主体颜色相同；
当判断结果为是时，判断所述目标视频帧中各主体颜色的占比，相对于所述基准视频帧中各主体颜色的占比的变化值是否大于预设阈值；
若任一主体颜色的变化值大于所述预设阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；
若各主体颜色的变化值均不大于所述预设阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧未发生变更；
若所述图像内容信息包括：视频帧的梯度值；
所述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，包括：
计算所述目标视频帧的梯度值与所述基准视频帧的梯度值之间的梯度差；
若所述梯度差大于预设梯度阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；
若所述梯度差不大于所述预设梯度阈值，则所述目标视频帧的播放内容相对于所述基准视频帧未发生变更。
2.根据权利要求1所述的方法，其特征在于，所述图像内容信息还包括：视频帧的物品信息。
3.根据权利要求2所述的方法，其特征在于，所述基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更，包括：
基于所述目标视频帧的物品信息和所述基准视频帧的物品信息，对比所述目标视频帧内的物品种类与所述基准视频帧的物品种类；
若所述目标视频帧内的物品种类与所述基准视频帧的物品种类不同，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；
若所述目标视频帧内的物品种类与所述基准视频帧的物品种类相同，则判定所述目标视频帧的播放内容相对于所述基准视频帧未发生变更。
4.根据权利要求1-3任一项所述的方法，其特征在于，在所述当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息之后，所述方法还包括：
若人工审核的结果指示所述目标视频帧未违规，则将所述目标视频确定为新的基准视频帧；
若人工审核的结果指示所述目标视频帧违规，则对所述直播视频流进行违规处理。
5.根据权利要求1-3任一项所述的方法，其特征在于，所述目标视频帧为所述直播视频流中的关键帧。
6.一种播放内容审核装置，其特征在于，包括：
视频帧确定模块，用于确定直播视频流中待审核的目标视频帧；其中，所述目标视频帧的播放时间迟于基准视频帧，所述基准视频帧为所述直播视频流中已确定出未违规的视频帧；
信息识别模块，用于识别所述目标视频帧的图像内容信息，得到目标信息；
变更判断模块，用于基于所述目标信息和基准信息的差异，判断所述目标视频帧的播放内容相对于所述基准视频帧是否发生变更；所述基准信息为所述基准视频帧的图像内容信息；
消息输出模块，用于当判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更时，则输出通知消息，所述通知消息用于指示审核人员对所述目标视频帧进行人工审核；
若所述图像内容信息包括：视频帧的颜色信息；所述颜色信息包括：视频帧的主体颜色和各主体颜色的颜色占比信息；其中，任一主体颜色的颜色占比信息包括该主体颜色在所属视频帧中的颜色占比；
所述信息识别模块，具体用于：
对所述目标视频帧中各像素点的像素值进行聚类，得到多个聚类中心；
确定各聚类中心对应的聚类颜色，得到所述目标视频帧的主体颜色；确定各主体颜色对应的聚类中心像素点占所述目标视频帧内各像素点的比例，得到各主体颜色的颜色占比信息；
所述变更判断模块，具体用于：
判断所述目标视频帧的各主体颜色是否与所述基准视频帧的各主体颜色相同；
当判断结果为是时，判断所述目标视频帧中各主体颜色的占比，相对于所述基准视频帧中各主体颜色的占比的变化值是否大于预设阈值；
若任一主体颜色的变化值大于所述预设阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；
若各主体颜色的变化值均不大于所述预设阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧未发生变更；
若所述图像内容信息包括：视频帧的梯度值；
所述变更判断模块，具体用于：
计算所述目标视频帧的梯度值与所述基准视频帧的梯度值之间的梯度差；
若所述梯度差大于预设梯度阈值，则判定所述目标视频帧的播放内容相对于所述基准视频帧发生变更；
若所述梯度差不大于所述预设梯度阈值，则所述目标视频帧的播放内容相对于所述基准视频帧未发生变更。
7.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现权利要求1-5任一所述的方法步骤。
8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-5任一所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111131617.3A CN113873278B (zh) | 2021-09-26 | 2021-09-26 | 播放内容审核方法、装置及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111131617.3A CN113873278B (zh) | 2021-09-26 | 2021-09-26 | 播放内容审核方法、装置及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113873278A CN113873278A (zh) | 2021-12-31 |
| CN113873278B true CN113873278B (zh) | 2024-01-23 |
Family
ID=78990916
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111131617.3A Active CN113873278B (zh) | 2021-09-26 | 2021-09-26 | 播放内容审核方法、装置及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113873278B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116208802A (zh) * | 2023-05-05 | 2023-06-02 | 广州信安数据有限公司 | 视频数据多模态合规检测方法、存储介质和合规检测设备 |
Citations (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10112835A (ja) * | 1996-10-04 | 1998-04-28 | Matsushita Electric Ind Co Ltd | 映像要約方法および映像表示方法 |
| CN101076115A (zh) * | 2006-12-26 | 2007-11-21 | 腾讯科技（深圳）有限公司 | 一种视频内容审核系统和方法 |
| CN103065153A (zh) * | 2012-12-17 | 2013-04-24 | 西南科技大学 | 一种基于色彩量化和聚类的视频关键帧提取方法 |
| JP2014085852A (ja) * | 2012-10-24 | 2014-05-12 | Nippon Telegr & Teleph Corp <Ntt> | 画像類似度算出装置およびその動作方法 |
| CN103886617A (zh) * | 2014-03-07 | 2014-06-25 | 华为技术有限公司 | 一种运动目标检测的方法及装置 |
| WO2018120946A1 (zh) * | 2016-12-30 | 2018-07-05 | 广州虎牙信息科技有限公司 | 视频画面异常判断、装置及终端设备 |
| CN108462896A (zh) * | 2018-03-23 | 2018-08-28 | 北京潘达互娱科技有限公司 | 直播数据流处理方法、装置及电子设备 |
| CN108933897A (zh) * | 2018-07-27 | 2018-12-04 | 南昌黑鲨科技有限公司 | 基于图像序列的运动检测方法及装置 |
| CN109495783A (zh) * | 2018-11-02 | 2019-03-19 | 平安科技（深圳）有限公司 | 视频审核方法、装置、电子设备及介质 |
| WO2019085941A1 (zh) * | 2017-10-31 | 2019-05-09 | 腾讯科技（深圳）有限公司 | 一种关键帧提取方法、装置和存储介质 |
| CN109756746A (zh) * | 2018-12-28 | 2019-05-14 | 广州华多网络科技有限公司 | 视频审核方法、装置、服务器及存储介质 |
| CN109831697A (zh) * | 2018-12-28 | 2019-05-31 | 广州华多网络科技有限公司 | 违规处理时长的检测方法及系统 |
| CN110012302A (zh) * | 2018-01-05 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 一种网络直播监测方法及装置、数据处理方法 |
| CN111464819A (zh) * | 2020-03-30 | 2020-07-28 | 腾讯音乐娱乐科技（深圳）有限公司 | 直播图像检测方法、装置、设备及存储介质 |
| CN111523442A (zh) * | 2020-04-21 | 2020-08-11 | 东南大学 | 视频语义分割中的自适应关键帧选择方法 |
| CN111797752A (zh) * | 2020-06-29 | 2020-10-20 | 广州市百果园信息技术有限公司 | 违规视频检测方法、装置、设备及存储介质 |
| CN111866374A (zh) * | 2020-06-22 | 2020-10-30 | 上海摩象网络科技有限公司 | 图像拍摄方法、装置、云台相机及存储介质 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6721449B1 (en) * | 1998-07-06 | 2004-04-13 | Koninklijke Philips Electronics N.V. | Color quantization and similarity measure for content based image retrieval |
| TWI426402B (zh) * | 2011-07-28 | 2014-02-11 | Univ Nat Taiwan Science Tech | 影片搜尋方法 |
| US9230333B2 (en) * | 2012-02-22 | 2016-01-05 | Raytheon Company | Method and apparatus for image processing |
| WO2014133559A1 (en) * | 2013-02-27 | 2014-09-04 | Blendagram, Inc. | System for and method of augmenting video and images |
| US20170171622A1 (en) * | 2015-12-15 | 2017-06-15 | Le Holdings (Beijing) Co., Ltd. | Methods and content systems, servers, terminals and communication systems |
| CN108769745A (zh) * | 2018-06-29 | 2018-11-06 | 百度在线网络技术（北京）有限公司 | 视频播放方法和装置 |
-
2021
- 2021-09-26 CN CN202111131617.3A patent/CN113873278B/zh active Active
Patent Citations (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10112835A (ja) * | 1996-10-04 | 1998-04-28 | Matsushita Electric Ind Co Ltd | 映像要約方法および映像表示方法 |
| CN101076115A (zh) * | 2006-12-26 | 2007-11-21 | 腾讯科技（深圳）有限公司 | 一种视频内容审核系统和方法 |
| JP2014085852A (ja) * | 2012-10-24 | 2014-05-12 | Nippon Telegr & Teleph Corp <Ntt> | 画像類似度算出装置およびその動作方法 |
| CN103065153A (zh) * | 2012-12-17 | 2013-04-24 | 西南科技大学 | 一种基于色彩量化和聚类的视频关键帧提取方法 |
| CN103886617A (zh) * | 2014-03-07 | 2014-06-25 | 华为技术有限公司 | 一种运动目标检测的方法及装置 |
| WO2018120946A1 (zh) * | 2016-12-30 | 2018-07-05 | 广州虎牙信息科技有限公司 | 视频画面异常判断、装置及终端设备 |
| WO2019085941A1 (zh) * | 2017-10-31 | 2019-05-09 | 腾讯科技（深圳）有限公司 | 一种关键帧提取方法、装置和存储介质 |
| CN110012302A (zh) * | 2018-01-05 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 一种网络直播监测方法及装置、数据处理方法 |
| CN108462896A (zh) * | 2018-03-23 | 2018-08-28 | 北京潘达互娱科技有限公司 | 直播数据流处理方法、装置及电子设备 |
| CN108933897A (zh) * | 2018-07-27 | 2018-12-04 | 南昌黑鲨科技有限公司 | 基于图像序列的运动检测方法及装置 |
| CN109495783A (zh) * | 2018-11-02 | 2019-03-19 | 平安科技（深圳）有限公司 | 视频审核方法、装置、电子设备及介质 |
| CN109756746A (zh) * | 2018-12-28 | 2019-05-14 | 广州华多网络科技有限公司 | 视频审核方法、装置、服务器及存储介质 |
| CN109831697A (zh) * | 2018-12-28 | 2019-05-31 | 广州华多网络科技有限公司 | 违规处理时长的检测方法及系统 |
| CN111464819A (zh) * | 2020-03-30 | 2020-07-28 | 腾讯音乐娱乐科技（深圳）有限公司 | 直播图像检测方法、装置、设备及存储介质 |
| CN111523442A (zh) * | 2020-04-21 | 2020-08-11 | 东南大学 | 视频语义分割中的自适应关键帧选择方法 |
| CN111866374A (zh) * | 2020-06-22 | 2020-10-30 | 上海摩象网络科技有限公司 | 图像拍摄方法、装置、云台相机及存储介质 |
| CN111797752A (zh) * | 2020-06-29 | 2020-10-20 | 广州市百果园信息技术有限公司 | 违规视频检测方法、装置、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113873278A (zh) | 2021-12-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107742064B (zh) | 用于检测未授权内容的使用的系统和方法 | |
| CN108961157B (zh) | 图片处理方法、图片处理装置及终端设备 | |
| WO2020224291A1 (zh) | 广告监播方法、系统、装置及电子设备 | |
| CN109831682B (zh) | 信息审核方法、装置、电子设备及存储介质 | |
| CN110177300B (zh) | 程序运行状态的监控方法、装置、电子设备和存储介质 | |
| CN110659604A (zh) | 视频检测方法、装置、服务器及存储介质 | |
| CN113873278B (zh) | 播放内容审核方法、装置及电子设备 | |
| CN109495378A (zh) | 检测异常帐号的方法、装置、服务器及存储介质 | |
| US20170242856A1 (en) | System and method for assigning multimedia content elements to users | |
| CN113127723B (zh) | 用户画像处理方法、装置、服务器及存储介质 | |
| CN111046230B (zh) | 内容推荐方法及装置、电子设备和可存储介质 | |
| CN110796053B (zh) | 视频检测方法、装置、电子设备及计算机可读存储介质 | |
| CN112217841A (zh) | 直播间管理的方法、装置、计算机设备及存储介质 | |
| JP2007096608A (ja) | 不正画像検出装置、方法、プログラム | |
| CN111698529B (zh) | 直播监控方法、装置、设备以及计算机可读存储介质 | |
| WO2019032860A1 (en) | METHODS AND APPARATUS FOR DETECTING MULTIMEDIA DEVICE FOR MINIMALLY INVASIVE MULTIMEDIA COUNTERS | |
| CN109831696B (zh) | 处理违规视频内容的方法、装置、电子设备及存储介质 | |
| CN115665438A (zh) | 法庭远程庭审的音视频处理方法、装置、设备及存储介质 | |
| CN114338102B (zh) | 安全检测方法、装置、电子设备及存储介质 | |
| CN109831417A (zh) | 防骚扰处理帐号的方法、装置、服务器及存储介质 | |
| CN108024032A (zh) | 图像增强处理方法、电视、服务器及计算机可读存储介质 | |
| CN111125193B (zh) | 多媒体非正常评论的识别方法、装置、设备及存储介质 | |
| CN114205676A (zh) | 直播监测方法、装置、介质以及计算机设备 | |
| CN107563788A (zh) | 共享广告牌的分级方法及服务器 | |
| CN113515670A (zh) | 影视资源状态识别方法、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |