CN111182314A - 直播流处理方法、装置及数据处理方法 - Google Patents
直播流处理方法、装置及数据处理方法 Download PDFInfo
- Publication number
- CN111182314A CN111182314A CN201811341817.XA CN201811341817A CN111182314A CN 111182314 A CN111182314 A CN 111182314A CN 201811341817 A CN201811341817 A CN 201811341817A CN 111182314 A CN111182314 A CN 111182314A
- Authority
- CN
- China
- Prior art keywords
- live
- stream
- frame
- live stream
- screenshot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/439—Processing of audio elementary streams
- H04N21/4394—Processing of audio elementary streams involving operations for analysing the audio stream, e.g. detecting features or characteristics in audio streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
Abstract
本发明公开了一种直播流处理方法、装置及数据处理方法。其中，该方法包括：以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。本发明解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
Description
技术领域
本发明涉及数据处理领域，具体而言，涉及一种直播流处理方法、装置及数据处理方法。
背景技术
在直播系统中，由直播风控系统对直播中是否存在风险进行检测和控制，相关技术中，直播风控系统是根据图像算法来对直播流中的图像进行检测，通过图像算法，识别出直播流中的直播内容是否存在非正常直播内容。在具体处理时，根据一定的频率对直播画面进行截帧，并通过图像算法判定截帧所得的图像是否具有风险，然后将该图像传送到直播审核系统，进行审核。
但采用上述方式对直播内容进行审核，还是存在被漏检的问题。
针对上述的问题，目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种直播流处理方法、装置及数据处理方法，以至少解决相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
根据本发明实施例的一个方面，提供了一种直播流处理方法，包括：以当前截帧帧率对直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
根据本发明实施例的另一方面，还提供了一种直播流处理方法，包括：直播客户端对直播现场进行审核，得到审核结果；所述直播客户端将所述审核结果发送给审核服务器，其中，所述审核服务器依据所述审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，所述截图为根据动态的截帧帧率对所述直播流进行截帧获得的。
根据本发明实施例的另一方面，还提供了一种直播流处理方法，包括：直播客户端发起直播流；审核服务器以当前截帧帧率对所述直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；以及根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
根据本发明实施例的另一方面，还提供了一种数据处理方法，包括：检测客户端的视频流；获取所述视频流对应的产品或服务分类ID；根据所述分类ID，获取截帧帧率；对所述视频流进行截帧，获取截图。
根据本发明实施例的另一方面，还提供了一种直播流处理装置，包括：截帧模块，用于以当前截帧帧率对直播流进行截帧，获得截图；识别模块，用于对所述截图进行识别，得到识别结果；确定模块，用于根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；调整模块，用于根据所述风险概率对所述当前截帧帧率进行调整；判定模块，用于根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
根据本发明实施例的另一方面，还提供了一种直播流处理装置，包括：审核模块，用于直播客户端对直播现场进行审核，得到审核结果；发送模块，用于所述直播客户端将所述审核结果发送给审核服务器，其中，所述审核服务器依据所述审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，所述截图为根据动态的截帧帧率对所述直播流进行截帧获得的。
根据本发明实施例的另一方面，还提供了一种直播流处理系统，包括：直播客户端和审核服务器，其中，所述直播客户端，用于发起直播流；所述审核服务器，用于以当前截帧帧率对所述直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；以及根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
根据本发明实施例的另一方面，还提供了一种存储介质，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行上述中任意一项所述的直播流处理方法。
根据本发明实施例的另一方面，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行上述中任意一项所述的直播流处理方法。
根据本发明实施例的另一方面，还提供了一种计算机设备，包括：存储器和处理器，所述存储器存储有计算机程序；所述处理器，用于执行所述存储器中存储的计算机程序，所述计算机程序运行时执行上述中任意一项所述的直播流处理方法。
在本发明实施例中，采用以当前截帧帧率对直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流的方式，通过对截图的风险概率进行判断，在风险概率较高时增加截帧帧率，达到了能够增加对非正常直播内容的检测可能性的目的，从而实现了避免对非正常直播内容漏检的技术效果，进而解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1示出了一种用于实现直播流处理方法的计算机终端(或移动设备)的硬件结构框图；
图2是根据本发明实施例1的直播流处理方法的流程图；
图3是根据本发明实施例1的另一种直播流处理方法的流程图；
图4是根据本发明实施例1的另一种直播流处理方法的流程图；
图5是根据本发明实施例1中优选实施方式的一种直播流处理方法的流程图；
图6是根据本发明实施例2的一种直播流处理方法的流程图；
图7是根据本发明实施例2的优选实施方式的一种直播流处理方法的流程图；
图8是根据本发明实施例3的一种直播流处理方法的流程图；
图9是根据本发明实施例4的一种数据处理方法的流程图；
图10是根据本发明实施例5的一种直播流处理装置的示意图；
图11是根据本发明实施例6的一种直播流处理装置的示意图；
图12是根据本发明实施例7的一种直播流处理装置的示意图；
图13是根据本发明实施例8的一种数据处理装置的示意图；
图14是根据本发明实施例9的一种计算机终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
首先，在对本申请实施例进行描述的过程中出现的部分名词或术语适用于如下解释：
直播风控系统：一种对直播进行监播的系统，通过算法和人工审核的方式发现直播中色情、低俗，涉政，赌博等违规内容。
主播端：主播客户端，主播可以在这个客户端发起直播并和粉丝进行交互。
帧率：对直播流的截帧频率。
相似帧：当前帧与上一帧相比，图像相似。
挂机：主播走开，停止直播，但镜头仍开着，会对平台的流量位造成机会成本的损失。
移动平均法：用一组最近的数据值来预测未来数据值的一种常用方法，例如，以预判的风险概率为初始值，用最近几帧风险识别概率去预测直播中未来一段时间的风险概率。
实施例1
根据本发明实施例，还提供了一种直播流处理方法的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。图1示出了一种用于实现直播流处理方法的计算机终端(或移动设备)的硬件结构框图。如图1所示，计算机终端10(或移动设备10)可以包括一个或多个(图中采用102a、102b，……，102n来示出)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器104。除此以外，还可以包括：传输模块、显示器、输入/输出接口(I/O接口)、通用串行总线(USB)端口(可以作为I/O接口的端口中的一个端口被包括)、网络接口、电源和/或相机。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述电子装置的结构造成限定。例如，计算机终端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。
应当注意到的是上述一个或多个处理器102和/或其他数据处理电路在本文中通常可以被称为“数据处理电路”。该数据处理电路可以全部或部分的体现为软件、硬件、固件或其他任意组合。此外，数据处理电路可为单个独立的处理模块，或全部或部分的结合到计算机终端10(或移动设备)中的其他元件中的任意一个内。如本申请实施例中所涉及到的，该数据处理电路作为一种处理器控制(例如与接口连接的可变电阻终端路径的选择)。
存储器104可用于存储应用软件的软件程序以及模块，如本发明实施例中的直播流处理方法对应的程序指令/数据存储装置，处理器102通过运行存储在存储器104内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的应用程序的直播流处理方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
上述传输模块用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中，传输模块包括一个网络适配器(Network Interface Controller，NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输模块可以为射频(Radio Frequency，RF)模块，其用于通过无线方式与互联网进行通讯。
显示器可以例如触摸屏式的液晶显示器(LCD)，该液晶显示器可使得用户能够与计算机终端10(或移动设备)的用户界面进行交互。
图1示出的硬件结构框图，不仅可以作为上述计算机终端10(或移动设备)的示例性框图，还可以作为上述服务器的示例性框图，一种可选实施例中，计算机终端10(或移动设备)可以经由数据网络连接或电子连接到一个或多个服务器，例如安全服务器、资源服务器、游戏服务器等。一种可选实施例中，上述计算机终端10(或移动设备)可以是任意移动计算设备等。数据网络连接可以是局域网连接、广域网连接、因特网连接，或其他类型的数据网络连接。计算机终端10(或移动设备)可以执行以连接到由一个服务器(例如安全服务器)或一组服务器执行的网络服务。网络服务器是基于网络的用户服务，诸如社交网络、云资源、电子邮件、在线支付或其他在线应用。
手机直播是一种新兴的传媒方式，每个人经过简单的审核流程均可以进行直播，并且具有传播迅速，传播量较大的特点。目前各种各样的直播软件层出不穷，通常都是利用智能手机终端，PC终端，平板电脑，笔记本电脑等终端进行直播，由于直播本身的特点，导致在直播过程中会发生的一些具有风险的传播行为，包括有的主播在直播过程中传播一些色情、暴力、违法犯罪、敏感政治言论等。为了及时发现类似上述的主播，并对其进行处理，相关技术中，由直播风控系统对直播中是否存在风险进行检测和控制，上述直播风控系统是根据图像算法来对直播流中的图像进行检测，具体是通过图像算法，可以简单的识别直播换面的人、背景等。例如，根据一定的频率对直播画面进行截帧，并通过图像算法判定截帧所得的图像是否具有风险，然后将该图像传送到直播审核系统，进行审核。
在相关技术中，对直播流进行截帧是地，一般均是以固定的截帧帧率对直播流进行截图，无法对直播流进行有针对性的截图，则会导致很多具有风险的图像被漏检。
针对相关技术中所存在的上述问题，在本申请中，提供了如图2所示的直播流处理方法。图2是根据本发明实施例1的直播流处理方法的流程图。如图2所示，该方法包括以下步骤：
步骤S202，以当前截帧帧率对直播流进行截帧，获得截图。
作为一种可选的实施例，上述步骤的执行主体可以是审核服务器。
作为一种可选的实施例，上述当前截帧帧率可以是预设的固定截帧帧率，还可以是预设的，具有一定变化规律的截帧帧率，还可以是预设的在直播流的不同时间段内采用不同的截帧帧率进行截帧处理等。上述预设的截帧帧率固定不变，或者按照固定规律变化。但是，直播流中具有风险的图帧的位置是无法预测的，也毫无规律，因此，以上述当前截帧帧率对直播流进行截帧，仅能通过提高截帧帧率，来降低直播流中对具有风险的图帧的漏检概率。但是提高截帧帧率，会使数据处理量大大增加，大大增加了处理系统的负担。
作为一种可选的实施例，上述直播流可以是来自直播客户端的直播流，上述直播流可以是上述直播客户端发送的直播流，对直播客户端正在进行的直播进行数据发送，形成直播流，对该直播流进行截帧和识别，可以在识别出直播流有风险的情况下，及时对直播流进行处理，将处理后的直播流播放给观众，从而保证在发现直播流具有风险的情况下，对直播流进行有效处理。如果直播流风险较高时，还可以及时对该直播流对应的直播客户端禁止直播的处罚，或者直接关闭直播的处理。
作为一种可选的实施例，上述截图可以是检测直播流风险的操作对象，可以根据对该截图进行识别，从而确定该直播流是否具有风险。例如，从直播流中通过截帧的方式，获取一定数量的截图，对截图进行识别，在截图具有风险的情况下，认为上述截图所在的该段直播流(例如，视频)具有风险。
步骤S204，对截图进行识别，得到识别结果。
作为一种可选的实施例，上述对截图进行识别可以是通过图像算法进行自动识别，还可以是由人工进行识别。由于图像算法识别的准确率，相对于人工识别的准确率较低，但是人工识别速度慢，过程复杂，成本高昂。在本实施例中，可以先通过图像算法进行初步识别，在风险概率超过一定阈值的情况下，将该截图发送给人工审核，有人工审核最终判定该截图是否具有风险。
作为一种可选的实施例，上述识别结果可以是有风险或者无风险，有风险对应的风险概率为100％，无风险对应的风险概率为0％。上述识别结果还可以是多个等级，例如，一级风险，二级风险，至N级风险等，各个等级分别对应不同的风险概率。上述识别结果还可以是具体的风险概率数值，该数值可以直接用于表示该截图的风险概率。
步骤S206，根据识别结果确定直播流被判定为非正常直播流的风险概率。
作为一种可选的实施例，上述根据截图的识别结果，确定直播流被判定为非正常直播流的风险概率，可以是根据上述识别结果确定上述截图的风险概率，在该风险概率超过一定风险阈值的情况下，将该截图的风险概率作为非正常直播流的风险概率。
作为一种可选的实施例，由于直播过程中具有风险的违规事件，有可能仅是出现一小段时间，但是出于网络传播安全健康的考虑，确定一张截图的具有风险，就可以认定该直播流的具有等同的风险。因此，在本实施例中，可以在上述截图风险概率超过风险阈值的情况下，认为该截图所在的直播流的风险概率较高，且该直播流的风险概率与截图的风险概率相同。
作为一种可选的实施例，上述根据截图的识别结果，确定直播流被判定为非正常直播流的风险概率，还可以是根据一段直播流中，以该截帧帧率截到的所有截图中，风险概率超过风险阈值的截图数量占截图总数量比例，来确定该直播流的风险概率。
例如，可以是根据上述风险概率超过风险阈值的截图数量占截图总数量比例，和上述风险阈值来确定直播流的风险概率。还可以是根据上述风险概率超过风险阈值的截图数量占截图总数量比例，和超过风险阈值的截图的具体的风险概率来确定，例如求上述截图的风险概率的平均数。
步骤S208，根据风险概率对当前截帧帧率进行调整。
作为一种可选的实施例，上述截帧过程中，是在播放直播流的情况下，以截帧帧率进行截帧，对截到的截图进行风险识别，在判定出直播流的风险概率(即是截图的风险概率)后，可以根据该风险概率调整当前截帧帧率，对截帧帧率形成反馈。
作为一种可选的实施例，上述在截图的风险概率或者直播流的风险概率较高时，可以认为该截图附近的图帧以有较高机率具有高风险概率，因此增加截帧帧率从而对具有高风险的截图进行有效截取，从而降低漏检的概率。
作为一种可选的实施例，上述根据风险概率对当前截帧帧率进行调整，可以通过对上述风险概率划分阈值来进行调整，上述阈值可以包括高风险概率阈值和低风险概率阈值，可以包括：在上述风险概率高于高风险概率阈值的情况下，增加上述截帧帧率；在上述风险概率低于低风险概率阈值的情况下，降低上述截帧帧率；在上述风险位于低风险概率阈值与高风险概率阈值之间时，可以保持上述截帧帧率不变。
作为一种可选的实施例，上述风险概率还可以通过划分多个概率阶段，在不同的概率阶段，对应不同的截帧帧率，在上述风险概率位于上述某一个概率阶段的情况下，可以将当前的截帧帧率调整为该概率阶段对应的截帧帧率。
步骤S210，根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
根据调整后的截帧帧率对直播流进行截帧，所截到的截图可能具有较高的风险概率，在上述截图的风险概率超过风险阈值的情况下，认定该截图为非正常截图。根据非正常截图来确定该直播流是否为非正常直播流，对非正常直播流，进行处理后方可向粉丝和观众进行传输，无法进行处理以达到消除风险的直播流，停止传送。
作为一种可选的实施例，上述根据非正常截图来确定该直播流是否为非正常直播流，可以与上述根据截图的风险概率确定直播流的风险概率类似，在确定直播流中的某一张截图为非正常截图，则可以确定该直播流为非正常直播流。
作为一种可选的实施例，还可以根据非正常截图在直播流的截图中所占的比例来确定，在该比例超过一定比例阈值的情况下，认定该直播流为非正常直播流。
在本发明实施例中，采用以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流的方式，通过对截图的风险概率进行判断，在风险概率较高时增加截帧帧率，达到了能够增加对非正常直播内容的检测可能性的目的，从而实现了避免对非正常直播内容漏检的技术效果，进而解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
作为一种可选的实施例，每隔预定时长，根据识别结果确定直播流被判定为非正常直播流的风险概率。
作为一种可选的实施例，由于在直播流中进行截帧，所得到的截图数量一般比较巨大，对所有的截图进行识别，没有太大的意义，也会导致运算资源的过量占用。因此可以每隔一定时间对所截到的截图进行识别。
需要说明的是，上述预订时长越长，漏检发生的概率越高，系统的运算负担越小；上述预订时长越短，漏检的发生概率越低，系统的运算负担越大。上述预订时长可以具体根据实际的使用情况确定。因此，上述预定时长可以场景变化的频率来设定，例如，直播场景变化较快时，可以将上述预定时长设置得较短一些，而对于直播场景变化较慢时，可以将上述预定时长设置得长一些。
图3是根据本发明实施例1的另一种直播流处理方法的流程图，如图3所示，作为一种可选的实施例，上述直播流处理方法还包括：
步骤S302，根据识别结果，确定直播流的潜在风险类型；
步骤S304,根据潜在风险类型确定用于对直播流加载的图像算法，其中，图像算法用于判定直播流是否为非正常直播流。
作为一种可选的实施例，上述截图的识别结果确定后，还可以根据识别结果，确定直播流的潜在风险类型。上述直播流的潜在风险类型可以与上述识别结果对应的截图的风险类型相同。
作为一种可选的实施例，上述风险类型可以包括：暴力信息，敏感政治言论，涉黄信息，涉毒信息，涉赌信息，其他违法犯罪信息等。
根据风险类型的不同，根据与风险类型对应的图像算法，对上述截图或者直播流进行识别，不仅可以有针对性进行识别，而且大大提高了识别的正确率。
作为一种可选的实施例，上述图像算法可以理解为针对图像的识别算法，对于直播流中的语音，可以根据语音算法进行识别，上述语音算法也即是针对语音的识别算法，还可以有其他种类的识别算法。
需要说明的是，识别算法的种类和风险类型互相独立。例如，暴力信息，可以通过图像算法进行识别，还可以通过语音算法进行识别。
作为一种可选的实施例，每隔预定时长，根据潜在风险类型确定用于对直播流加载的图像算法。
与上述每个预定时长，根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率的步骤类似，每隔预定时长根据潜在风险类型确定用于对直播流加载的图像算法，可以有效避免运算资源的过量占用，简化处理过程。
作为一种可选的实施例，还包括：对直播流的当前帧和当前帧的前一帧进行比较，判定当前帧和前一帧是否为相似帧；对连续相似帧进行计数，在计数值达到预定阈值的情况下，确定直播流为直播挂机。
作为一种可选的实施例，在直播中，直播挂机是比较常见的情况，也即是主播的直播设备继续工作，但是主播并不在上述直播设备的工作范围，例如，主播端的直播摄像头开启，但是主播并不在摄像画面内，主播端的扬声器开启，但是主播并没有发出任何声音，例如，主播不在的情况，主播暂时离开的情况。
作为一种可选的实施例，在上述直播挂机的状态下，对直播流的检测没有意义，主播不在，自然也不会向观众传播具有风险的信息。因此，在直播挂机的情况下，可以暂停对直播流的截帧和识别，有效减少运算资源的占用。
作为一种可选的实施例，在判断直播挂机的状态时，可以根据连续截帧的多帧截图来进行对比，在连续的多帧截图均为相似帧的情况下，可以认定该直播挂机。
图4是根据本发明实施例1的另一种直播流处理方法的流程图,如图4所示，作为一种可选的实施例，根据识别结果确定直播流被判定为非正常直播流的风险概率包括：
步骤S402，接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；
步骤S404，结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
作为一种可选的实施例，上述直播客户端可以设置有审核组件，通过审核组件对直播流进行初步审核，得到审核结果，上述审核结果可以是多种，例如，检测是否主播本人，直播场景，主播装扮，直播人数等。
作为一种可选的实施例，上述审核结果由上述直播客户端的审核组件发出之后，结合该审核结果和上述识别结果，确定直播流被判定为非正常直播流的风险概率，在直播流具有风险的情况下，上述审核结果和识别结果是具有一定的一致性，因此，上述结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率，不仅能够相互补充，而且可以有效提高准确率。
作为一种可选的实施例，根据潜在风险类型确定用于对直播流加载的图像算法包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定用于对直播流加载的图像算法。
与上述结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率的步骤类似，可以结合识别结果和审核结果，确定用于对直播流加载的图像算法，可以有效提高算法确定的准确率，从而间接提高上述截图的识别效率和准确率。
作为一种可选的实施例，审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
作为一种可选的实施例，上述实人认证的认证结果，可以包括是主播本人，不是主播本人；上述直播现场所述场景，可以包括室内，室外，或者其他场景；上述直播现场人数可以是，一个或者多个。
作为一种可选的实施例，根据风险概率对当前截帧帧率进行调整包括：采用移动平均法，根据风险概率确定截图对应的截帧预定时间后的风险概率；根据预定时间后的风险概率对当前截帧帧率进行调整。
作为一种可选的实施例，上述移动平均法是用一组最近的实际数据值来预测未来一期或者几期内的数据，移动平均法适用于即期预测，当数据变化既不快速，也不快速下降，移动平均法能够有效的消除预测中的随机波动，包括简单移动平均法和加权平均移动法。
作为一种可选的实施例，上述采用移动平均法，根据风险概率确定截图对应的截帧预定时间后的风险概率需要采集一定时间段内的截图，根据上述截图的风险概率，采用上述移动平均法预测对应截图的预定时间后的风险概率。
作为一种可选的实施例，在上述预定时间后的风险概率确定之后，可以根据该风险概率对截帧帧率提前进行调整，有效降低漏检的几率。
图5是根据本发明实施例1中优选实施方式的一种直播流处理方法的流程图,如图5所示，
在本优选实施方式中的直播流处理方法可以分为调控层和执行层。调控层根据风险预判模型向执行层输出当前帧率和当前需要加载的图像算法。执行层按当前帧率截图并综合决策该截帧是否有风险，当该截帧有风险(非挂机风险)时反馈给调控层来动态调整帧率。
风险预判模型利用了对当前帧的场景识别结果，当前直播中挂载对象的上下文信息(例如，商品的类目和标题等)、主播身份(如美食达人等标签)、直播标题，输出当前该路直播的风险概率和潜在风险类型，其中风险概率决定调控层的当前帧率，潜在风险类型决定当前需要加载的图像算法(包括：色情、暴恐、医药、翻拍、敏感人脸)。
举例而言，室内场景+内衣商品＝〉风险类型：色情，风险概率：较高。室内场景+食物主播＝〉风险类型：敏感人脸、医药，风险概率：较低。
因直播时一般时间较长(例如，一路直播一般4小时)，中途可能切换场景，从而会影响对潜在风险类型的判断，因此，需要每隔一段时间(如半小时)再次执行风险预判模型。综合决策是一棵策略树，先过相似帧模型，如果当前帧和前一帧相似，那么对连续相似帧计数进行更新，如果计数超过阈值(例如，连续20分钟截帧相似)，则识别为直播挂机风险。如果当前帧和前一帧不相似，则执行当前加载的图像算法，得到当前帧的风险概率，用移动平均法调整调控层的风险概率，从而间接调整了当前帧率。在本优选实施方式中，通过接入直播流对外提供服务，输出具体的识别结果。在本优选实施方式中，能够体现“动态帧率”以及“智能调用算法”的优点。例如，“动态帧率”体现在不同频率输出截帧识别结果，“智能调用算法”体现在对不同截帧返回不同的算法结果。在相关技术中，以接口调用时间来计算(例如，(“鉴黄”+“暴恐”算法包(2个))*(直播时长))，即用户结算费用与算法个数成正比，而采用本优选实施方式能够使得整体费用下降，因而具备成本低的特点。因此，在本优选实施方式中，整合了比较成熟的图像算法，相比于相关技术的第三方公开解决方案，省去大量机器和人力成本。
在本优选实施方式中，通过风险预判+动态帧率：模拟了人工监播的思路，开头先看一眼作直播内容的初步判断，挑几路可能有问题的重点监控，其余路仅巡检；当发现直播内容有较大变化，再提升关注程度。动态帧率比相关技术中的统一截帧率更有效率地使用了机器和人力审核成本。
另外，在本优选实施方式中，通过风险预判+智能调用图像算法：相对于在相关技术中，对截帧跑所有图像算法，而机器成本与图像算法个数是成正比的，因此成本较高。在优选实施方式中的风险预判算法排除了发生概率极小的风险类型，例如，街头场景很少有色情风险，室内场景极少有射击风险，从而节省了机器成本。
再者，在本优选实施方式中，采用了全自动识别挂机的处理方式：根据相似帧算法以及连续相似帧的计数，结合观看人数少、图像中没有人、直播音频没有声音等其他条件，自动识别到挂机。
需要说明的是，风险预判模型可以对图像中物体的识别结果(如人、桌子、手机等)、语音转文字的文本，来进行预判。另外，对于上述所指的调控层的风险概率，还可以采用指数平滑或其他方法。
实施例2
根据本发明实施例的另一方面，还提供了一种直播流处理方法，图6是根据本发明实施例2的一种直播流处理方法的流程图，如图6所示，该方法包括：
步骤S602，直播客户端对直播现场进行审核，得到审核结果；
步骤S604，直播客户端将审核结果发送给审核服务器，其中，审核服务器依据审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，截图为根据动态的截帧帧率对直播流进行截帧获得的。
作为一种可选的实施例，上述步骤的执行主体可以是直播客户端，上述直播客户端可以设置有审核组件，通过审核组件对直播流进行初步审核，得到审核结果，上述审核结果可以是多种，例如，检测是否主播本人，直播场景，主播装扮，直播人数等。通过将对直播内容进行审核的处理交由直播客户端来处理，在一定程度上不仅能够较为快速地得到审核结果，而且可以较为有效地节省服务器侧的计算资源。
作为一种可选的实施例，上述审核结果由上述直播客户端的审核组件发出之后，结合该审核结果和上述识别结果，确定直播流被判定为非正常直播流的风险概率，在直播流具有风险的情况下，上述审核结果和识别结果是具有一定的一致性，因此，上述结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率，可以有效提高准确率。
作为一种可选的实施例，上述识别结果是对截图进行识别，所得到识别结果。上述对截图进行识别可以是通过图像算法进行自动识别，还可以是由人工进行识别。由于图像算法识别的准确率，相对于人工识别的准确率较低，但是人工识别速度慢，过程复杂，成本高昂。在本实施例中，可以先通过图像算法进行初步识别，在风险概率超过一定阈值的情况下，将该截图发送给人工审核，有人工审核最终判定该截图是否具有风险。
作为一种可选的实施例，上述识别结果可以是有风险或者无风险，有风险对应的风险概率为100％，无风险对应的风险概率为0％。上述识别结果还可以是多个等级，例如，一级风险，二级风险，至N级风险等，各个等级分别对应不同的风险概率。上述识别结果还可以是具体的风险概率数值，该数值可以直接用于表示该截图的风险概率。
在本发明实施例中，采用直播客户端对直播现场进行审核，得到审核结果；直播客户端将审核结果发送给审核服务器，其中，审核服务器依据审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，截图为根据动态的截帧帧率对直播流进行截帧获得的，通过对截图的风险概率进行判断，在风险概率较高时增加截帧帧率，达到了能够增加对非正常直播内容的检测可能性的目的，从而实现了避免对非正常直播内容漏检的技术效果，进而解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
作为一种可选的实施例，审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
作为一种可选的实施例，上述实人认证的认证结果，可以包括是主播本人，不是主播本人；上述直播现场所述场景，可以包括室内，室外，或者其他场景；上述直播现场人数可以是，一个或者多个。
图7是根据本发明实施例2的优选实施方式的一种直播流处理方法的流程图,如图7所示，本实施例还提供了一种直播流的风险发现方法，下面对该实施方式进行详细说明。
主播在主播端发起直播。
算法组件对主播进行实人认证，场景识别，画面中人数统计等简单的算法判断，上述算法组件调用频率可配置，比如，三分钟一次，画面变动较大的时候调用一次等，可以通过低消耗判断逻辑进行前置判断后确定是否调用所有算法组件。
同时算法组件在主播端显示多个标签，包括但不限于：是否本人标签，单人直播/双人直播/多人直播等主播人数标签，室内/街头/户外灯场景标签，包/衣服/鞋等直播间商品分类标签；算法组件把算法结果发给直播服务端，并由直播服务端发给审核系统，如果实人认证连续N次不通过，或者直播间人数发生变化，直播间场景发生变化等需要审核人员关注的情况，算法组件会直接把结果发送给审核系统服务器，并同时发给审核人员进行审核。
直播服务端把直播流发给审核系统，审核通过后发给粉丝客户端。
粉丝看到直播内容后可以跟主播进行互动，包括留言，点赞等，互动信息通过直播服务器发给主播端。
审核系统在通过算法(图像算法、语音算法等)和人审的方式对直播进行审核，如果发现问题会第一时间发出处罚信息，并通过直播服务端发出相关控制信息(拉停或者警告)给到主播端。
本实施方式通过在主播端部署相关算法组件对风险或者需要审核的内容进行前置判断，从而能够及时对潜在的风险进行审核和处置。
实施例3
根据本发明实施例的另一方面，还提供了一种直播流处理方法，图8是根据本发明实施例3的一种直播流处理方法的流程图，如图8所示，该方法包括：
步骤S802，直播客户端发起直播流；
步骤S804，审核服务器以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；以及根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
作为一种可选的实施例，上述直播客户端根据主播的使用，发起直播流，上述直播流，通过审核服务器的接收和处理后，发送给粉丝的客户端。上述审核服务器可以对该直播流进行审核。
作为一种可选的实施例，上述当前截帧帧率可以是预设的固定截帧帧率，还可以是预设的具有一定变化规律的截帧帧率，还可以是预设的在直播流的不同时间段内采用不同的截帧帧率进行截帧处理等。上述预设的截帧帧率固定不变，或者按照固定规律变化，但是，直播流中具有风险的帧的位置是无法预测的，也毫无规律，因此，以上述当前截帧帧率对直播流进行截帧，仅能通过提高截帧帧率，来降低直播流中对具有风险的图帧的漏检概率。
作为一种可选的实施例，上述截图可以是检测风险的对象，从直播流中通过截帧的方式，获取一定数量的截图，对截图进行识别，在截图具有风险的情况下，认为上述截图所在的该段视频具有风险。
作为一种可选的实施例，上述对截图进行识别可以是通过图像算法进行自动识别，还可以是由人工进行识别。由于图像算法识别的准确率，相对于人工识别的准确率较低，但是人工识别速度慢，过程复杂，成本高昂。在本实施例中，可以先通过图像算法进行初步识别，在风险概率超过一定阈值的情况下，将该截图发送给人工审核，有人工审核最终判定该截图是否具有风险。
作为一种可选的实施例，上述根据截图的识别结果，确定直播流被判定为非正常直播流的风险概率，可以是根据上述识别结果确定上述截图的风险概率，在该风险概率超过一定风险阈值的情况下，将该截图的风险概率作为非正常直播流的风险概率。
由于直播过程中具有风险的违规事件，有可能仅是出现一小段时间，但是出于网络传播安全健康的考虑，确定一张截图的具有风险，就可以认定该直播流的具有等同的风险。因此，在本实施例中，可以在上述截图风险概率超过风险阈值的情况下，认为该截图所在的直播流的风险概率较高，且该直播流的风险概率与截图的风险概率相同。
作为一种可选的实施例，上述截帧过程中，是在播放直播流的情况下，以截帧帧率进行截帧，对截到的截图进行风险识别，在判定出直播流的风险概率(即是截图的风险概率)后，可以根据该风险概率调整当前截帧帧率，对截帧帧率形成反馈。
作为一种可选的实施例，上述在截图的风险概率或者直播流的风险概率较高时，可以认为该截图附近的图帧以有较高机率具有高风险概率，因此增加截帧帧率从而对具有高风险的截图进行有效截取，从而降低漏检的概率。
根据调整后的截帧帧率对直播流进行截帧，所截到的截图可能具有较高的风险概率，在上述截图的风险概率超过风险阈值的情况下，认定该截图为非正常截图。根据非正常截图来确定该直播流是否为非正常直播流，对非正常直播流，进行处理后方可向粉丝和观众进行传输，无法进行处理以达到消除风险的直播流，停止传送。
在本发明实施例中，采用直播客户端发起直播流；审核服务器以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；以及根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流，通过对截图的风险概率进行判断，在风险概率较高时增加截帧帧率，达到了能够增加对非正常直播内容的检测可能性的目的，从而实现了避免对非正常直播内容漏检的技术效果，进而解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
作为一种可选的实施例，还包括：审核服务器根据识别结果，确定直播流的潜在风险类型；以及根据潜在风险类型确定用于对直播流加载的图像算法，并根据确定的图像算法判定直播流是否为非正常直播流。
作为一种可选的实施例，上述截图的识别结果确定后，还可以根据识别结果，确定直播流的潜在风险类型。上述直播流的潜在风险类型可以与上述识别结果对应的截图的风险类型相同。上述风险类型可以包括：暴力信息，敏感政治言论，涉黄信息，涉毒信息，涉赌信息，其他违法犯罪信息等。
根据风险类型的不同，根据与风险类型对应的图像算法，对上述截图或者直播流进行识别，可以有针对性进行识别，大大提高了识别的正确率。上述图像算法可以理解为针对图像的识别算法，对于直播流中的语音，可以根据语音算法进行识别，上述语音算法也即是针对语音的识别算法，还可以有其他种类的识别算法。
需要说明的是，识别算法的种类和风险类型互相独立。例如，暴力信息，可以通过图像算法进行识别，还可以通过语音算法进行识别。
作为一种可选的实施例，还包括：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
作为一种可选的实施例，上述直播客户端可以设置有审核组件，通过审核组件对直播流进行初步审核，得到审核结果，上述审核结果可以是多种，例如，检测是否主播本人，直播场景，主播装扮，直播人数等。
作为一种可选的实施例，上述审核结果由上述直播客户端的审核组件发出之后，结合该审核结果和上述识别结果，确定直播流被判定为非正常直播流的风险概率，在直播流具有风险的情况下，上述审核结果和识别结果是具有一定的一致性，因此，上述结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率，可以有效提高准确率。
作为一种可选的实施例，还包括：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定用于对直播流加载的图像算法。
作为一种可选的实施例，与上述结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率的步骤类似，可以结合识别结果和审核结果，确定用于对直播流加载的图像算法，可以有效提高算法确定的准确率，从而间接提高上述截图的识别效率和准确率。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本发明所必须的。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
实施例4
根据本发明实施例的另一方面，还提供了一种数据处理方法，图9是根据本发明实施例4的一种数据处理方法的流程图，如图9所示，该方法包括：
步骤S902，检测客户端的视频流；
步骤S904，获取视频流对应的产品或服务分类ID；
步骤S906，根据分类ID，获取截帧帧率；
步骤S908，对视频流进行截帧，获取截图。
在本发明实施例中，采用根据视频流对应的产品或服务分类ID来确定截帧率，并依据该截帧帧率进行获取截图，由于产品或服务的分类ID能够在一定程度上体现视频流的内容，即可以在一定程度上体现视频流判定为非正常视频流的概率。因此，采用依据产品或服务分类ID确定的截帧率来进行截帧，为后续快速，准确依据截图来判定视频流是否为非正常视频流提供了基础，达到了能够增加对非正常直播内容的检测可能性的目的，从而实现了避免对非正常直播内容漏检的技术效果，进而解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
作为一个实施例，上述数据处理方法的执行主体可以是客户端。由客户端来根据视频流对应的产品或服务分类ID来确定截帧帧率，并依据确定的截帧帧率来进行截帧，获取截图。为后续判定该视频流是否为非正常视频流提供基础。由客户端来执行上述处理，由于视频流可以由本地采集，因此，视频流会相对真实一些，因而对判定是否为非正常视频流也会相对准确一些。另外，由于由客户端来执行上述处理，在一定程度上代替了需要由服务器所执行的处理，能够有效减少服务器侧的复杂计算，服务器后续可以直接接收客户端的处理结果，有效地减轻服务器的负担。
作为一个实施例，上述数据处理方法还可以包括：判断截图是否满足预设条件；如果满足预设条件，拦截视频流。即直接由客户端来执行判定视频流是否为非正常视频流的处理，进而在判定视频流为非正常视频流的情况下，即依据上述确定的截帧帧率所得到的截图不满足预定条件的情况下，直接拦截该视频流。即由客户端来执行非正常视频流的拦截，不仅减少了服务器端的处理，而且在一定程度上也节省了网络的传输资源。
在一个实施例中，在拦截了视频流之后，还可以在客户端，展示拦截提醒，其中，拦截提醒包括截图及预设条件。即通过展示拦截提醒的方式，告之视频流的发出者需要注意：该视频流涉及非正常视频流。对视频流的发出者起到提醒告之的作用，便于视频流的发出者主动停止该行为。需要说明的是，此处展示拦截提醒的频率可以依据该视频流判定为非正常视频流的概率来定，例如，如果该视频流判定为非正常视频流的概率为100％，则可以以较高的频率来进行提醒，或者直接展示视频流已关闭的提醒；而如果该视频流判定为非正常视频流的概率低于80％，则可以以较低的频率来进行提醒。
作为一个实施例，上述数据处理方法，还可以包括：向服务器发送通知消息，其中，通知消息包括拦截触发数据，拦截触发数据包括分类ID及截图。即由客户端告之服务器，客户端通过对该视频流的判定，已经确定为非正常视频流，因此，在客户端已经对该视频流进行了拦截处理，并将对应的包括分类ID及截图的拦截触发数据告之服务器。一方面，由客户端告之服务器，客户端已经对该视频流进行了拦截，并具体告之拦截的原因，即证据，避免服务器不知晓客户端的相关处理。另一方面，如果在服务器目前没有依据上述处理方式对视频流进行拦截时，也在服务器可以采用上述处理方式对视频流进行拦截，实现客户端与服务器处理的一致性。
实施例5
根据本发明实施例，还提供了一种用于实施上述实施例1直播流处理方法的装置，图10是根据本发明实施例5的一种直播流处理装置的示意图，如图10所示，该装置包括：截帧模块1002，识别模块1004，确定模块1006，调整模块1008和判定模块1010，下面对该装置进行详细说明。
截帧模块1002，用于以当前截帧帧率对直播流进行截帧，获得截图；识别模块1004，与上述截帧模块1002相连，用于对截图进行识别，得到识别结果；确定模块1006，与上述识别模块1004相连，用于根据识别结果确定直播流被判定为非正常直播流的风险概率；调整模块1008，与上述确定模块1006相连。用于根据风险概率对当前截帧帧率进行调整；判定模块1010，与上述调整模块1008相连，用于根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
此处需要说明的是，上述截帧模块1002，识别模块1004，确定模块1006，调整模块1008和判定模块1010对应于实施例1中的步骤S202至步骤S210，五个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。
实施例6
根据本发明实施例，还提供了一种用于实施上述实施例2直播流处理方法的装置，图11是根据本发明实施例6的一种直播流处理装置的示意图，如图11所示，该装置包括：审核模块1102和发送模块1104，下面对该装置进行详细说明。
审核模块1102，用于直播客户端对直播现场进行审核，得到审核结果；发送模块1104，与上述审核模块1102相连，用于所述直播客户端将所述审核结果发送给审核服务器，其中，所述审核服务器依据所述审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，所述截图为根据动态的截帧帧率对所述直播流进行截帧获得的。
此处需要说明的是，上述审核模块1102和发送模块1104对应于实施例2中的步骤S602至步骤S604，两个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例2所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。
实施例7
根据本发明实施例，还提供了一种直播流处理系统，图12是根据本发明实施例7的一种直播流处理装置的示意图，如图12所示，该装置包括：直播客户端1202和审核服务器1204，下面对该系统进行详细说明。
直播客户端1202和审核服务器1204，其中，所述直播客户端，用于发起直播流；所述审核服务器，用于以当前截帧帧率对所述直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；以及根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
此处需要说明的是，上述实施例5所述的直播流处理装置可以是上述审核服务器1204，上述实施例6所述的直播流处理装置可以是上述直播客户端1202，上述直播客户端1202和审核服务器1204与上述两个直播流处理装置所实现的实例和应用场景可以相同，但不限于上述两个实施例所公开的内容。
实施例8
根据本发明实施例，还提供了一种数据处理装置，图13是根据本发明实施例8的一种数据处理装置的示意图，如图13所示，该装置包括：检测模块1302，第一获取模块1304，第二获取模块1306和第二获取模块1308，下面对该装置进行详细说明。
检测模块1302，用于检测客户端的视频流；第一获取模块1304，连接至上述检测模块1302，用于获取视频流对应的产品或服务分类ID；第二获取模块1306，连接至上述第一获取模块1304，用于根据分类ID，获取截帧帧率；第三获取模块1308，连接至上述第二获取模块1306，用于对视频流进行截帧，获取截图。
作为一个实施例，上述装置还可以包括：拦截模块，用于判断截图是否满足预设条件；以及如果满足预设条件，拦截视频流。
作为一个实施例，上述装置还可以包括：提醒模块，用于在客户端，展示拦截提醒，其中，拦截提醒包括截图及预设条件。
作为一个实施例，上述装置还可以包括：通知模块，用于向服务器发送通知消息，其中，通知消息包括拦截触发数据，拦截触发数据包括分类ID及截图。
实施例9
本发明的实施例可以提供一种计算机终端，该计算机终端可以是计算机终端群中的任意一个计算机终端设备。可选地，在本实施例中，上述计算机终端也可以替换为移动终端等终端设备。
可选地，在本实施例中，上述计算机终端可以位于计算机网络的多个网络设备中的至少一个网络设备。
在本实施例中，上述计算机终端可以执行应用程序的直播流处理方法中以下步骤的程序代码：以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选地，图14是根据本发明实施例9的一种计算机终端的结构框图。如图14所示，该计算机终端10可以包括：一个或多个(图中仅示出一个)处理器1402、存储器1404、以及外设接口。
其中，存储器可用于存储软件程序以及模块，如本发明实施例中的直播流处理方法和装置对应的程序指令/模块，处理器通过运行存储在存储器内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的直播流处理方法。存储器可包括高速随机存储器，还可以包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器可进一步包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器可以通过传输装置调用存储器存储的信息及应用程序，以执行下述步骤：以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选的，上述处理器还可以执行如下步骤的程序代码：每隔预定时长，根据识别结果确定直播流被判定为非正常直播流的风险概率。
可选的，上述处理器还可以执行如下步骤的程序代码：根据识别结果，确定直播流的潜在风险类型；根据潜在风险类型确定用于对直播流加载的图像算法，其中，图像算法用于判定直播流是否为非正常直播流。
可选的，上述处理器还可以执行如下步骤的程序代码：每隔预定时长，根据潜在风险类型确定用于对直播流加载的图像算法。
可选的，上述处理器还可以执行如下步骤的程序代码：对直播流的当前帧和当前帧的前一帧进行比较，判定当前帧和前一帧是否为相似帧；对连续相似帧进行计数，在计数值达到预定阈值的情况下，确定直播流为直播挂机。
可选的，上述处理器还可以执行如下步骤的程序代码：根据识别结果确定直播流被判定为非正常直播流的风险概率包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
可选的，上述处理器还可以执行如下步骤的程序代码：根据潜在风险类型确定用于对直播流加载的图像算法包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定用于对直播流加载的图像算法。
可选的，上述处理器还可以执行如下步骤的程序代码：审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
可选的，上述处理器还可以执行如下步骤的程序代码：根据风险概率对当前截帧帧率进行调整包括：采用移动平均法，根据风险概率确定截图对应的截帧预定时间后的风险概率；根据预定时间后的风险概率对当前截帧帧率进行调整。
处理器还可以通过传输装置调用存储器存储的信息及应用程序，以执行下述步骤：直播客户端对直播现场进行审核，得到审核结果；直播客户端将审核结果发送给审核服务器，其中，审核服务器依据审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，截图为根据动态的截帧帧率对直播流进行截帧获得的。
可选的，上述处理器还可以执行如下步骤的程序代码：审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
处理器还可以通过传输装置调用存储器存储的信息及应用程序，以执行下述步骤的程序代码：直播客户端发起直播流；审核服务器以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；以及根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选的，上述处理器还可以执行如下步骤的程序代码：审核服务器根据识别结果，确定直播流的潜在风险类型；以及根据潜在风险类型确定用于对直播流加载的图像算法，并根据确定的图像算法判定直播流是否为非正常直播流。
可选的，上述处理器还可以执行如下步骤的程序代码：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
可选的，上述处理器还可以执行如下步骤的程序代码：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定用于对直播流加载的图像算法。
上述处理器还可以通过传输装置调用存储器存储的信息及应用程序，以执行下述步骤的程序代码：检测客户端的视频流；获取所述视频流对应的产品或服务分类ID；根据所述分类ID，获取截帧帧率；对所述视频流进行截帧，获取截图。
可选的，上述处理器还可以执行如下步骤的程序代码：判断所述截图是否满足预设条件；如果满足预设条件，拦截所述视频流。
可选的，上述处理器还可以执行如下步骤的程序代码：在客户端，展示拦截提醒，其中，所述拦截提醒包括所述截图及预设条件。
可选的，上述处理器还可以执行如下步骤的程序代码：向服务器发送通知消息，其中，所述通知消息包括拦截触发数据，所述拦截触发数据包括所述分类ID及截图。
采用本发明实施例，提供了一种直播流处理方法的方案。通过采用以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。通过对截图的风险概率进行判断，在风险概率较高时增加截帧帧率，达到了能够增加对非正常直播内容的检测可能性的目的，从而实现了避免对非正常直播内容漏检的技术效果，进而解决了相关技术中以固定的截帧帧率，处理直播流时，容易发生漏检的技术问题。
本领域普通技术人员可以理解，图14所示的结构仅为示意，计算机终端也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌声电脑以及移动互联网设备(Mobi leInternet Devices，MID)、PAD等终端设备。图14其并不对上述电子装置的结构造成限定。例如，计算机终端10还可包括比图14中所示更多或者更少的组件(如网络接口、显示装置等)，或者具有与图14所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：闪存盘、只读存储器(Read-Only Memory，ROM)、随机存取器(RandomAccess Memory，RAM)、磁盘或光盘等。
实施例10
本发明的实施例还提供了一种存储介质。可选地，在本实施例中，上述存储介质可以用于保存上述实施例一所提供的直播流处理方法所执行的程序代码。
可选地，在本实施例中，上述存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中，或者位于移动终端群中的任意一个移动终端中。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：每隔预定时长，根据识别结果确定直播流被判定为非正常直播流的风险概率。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：根据识别结果，确定直播流的潜在风险类型；根据潜在风险类型确定用于对直播流加载的图像算法，其中，图像算法用于判定直播流是否为非正常直播流。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：每隔预定时长，根据潜在风险类型确定用于对直播流加载的图像算法。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：对直播流的当前帧和当前帧的前一帧进行比较，判定当前帧和前一帧是否为相似帧；对连续相似帧进行计数，在计数值达到预定阈值的情况下，确定直播流为直播挂机。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：根据识别结果确定直播流被判定为非正常直播流的风险概率包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：根据潜在风险类型确定用于对直播流加载的图像算法包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定用于对直播流加载的图像算法。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：根据风险概率对当前截帧帧率进行调整包括：采用移动平均法，根据风险概率确定截图对应的截帧预定时间后的风险概率；根据预定时间后的风险概率对当前截帧帧率进行调整。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：直播客户端对直播现场进行审核，得到审核结果；直播客户端将审核结果发送给审核服务器，其中，审核服务器依据审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，截图为根据动态的截帧帧率对直播流进行截帧获得的。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：直播客户端发起直播流；审核服务器以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；以及根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：审核服务器根据识别结果，确定直播流的潜在风险类型；以及根据潜在风险类型确定用于对直播流加载的图像算法，并根据确定的图像算法判定直播流是否为非正常直播流。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定用于对直播流加载的图像算法。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：检测客户端的视频流；获取所述视频流对应的产品或服务分类ID；根据所述分类ID，获取截帧帧率；对所述视频流进行截帧，获取截图。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：判断所述截图是否满足预设条件；如果满足预设条件，拦截所述视频流。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：在客户端，展示拦截提醒，其中，所述拦截提醒包括所述截图及预设条件。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：向服务器发送通知消息，其中，所述通知消息包括拦截触发数据，所述拦截触发数据包括所述分类ID及截图。
实施例11
根据本发明实施例的另一方面，还提供了一种计算机设备，包括：存储器和处理器，存储器存储有计算机程序；处理器，用于执行存储器中存储的计算机程序，计算机程序运行时执行以下步骤：以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：每隔预定时长，根据识别结果确定直播流被判定为非正常直播流的风险概率。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：根据识别结果，确定直播流的潜在风险类型；根据潜在风险类型确定用于对直播流加载的图像算法，其中，图像算法用于判定直播流是否为非正常直播流。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：每隔预定时长，根据潜在风险类型确定用于对直播流加载的图像算法。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：对直播流的当前帧和当前帧的前一帧进行比较，判定当前帧和前一帧是否为相似帧；对连续相似帧进行计数，在计数值达到预定阈值的情况下，确定直播流为直播挂机。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：根据识别结果确定直播流被判定为非正常直播流的风险概率包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：根据潜在风险类型确定用于对直播流加载的图像算法包括：接收直播客户端发送的审核结果，其中，审核结果由直播客户端对直播现场进行审核后得到；结合识别结果和审核结果，确定用于对直播流加载的图像算法。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：根据风险概率对当前截帧帧率进行调整包括：采用移动平均法，根据风险概率确定截图对应的截帧预定时间后的风险概率；根据预定时间后的风险概率对当前截帧帧率进行调整。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：直播客户端对直播现场进行审核，得到审核结果；直播客户端将审核结果发送给审核服务器，其中，审核服务器依据审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，截图为根据动态的截帧帧率对直播流进行截帧获得的。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：审核结果包括以下至少之一：对主播进行实人认证的认证结果，直播现场所属场景，和直播现场的人数。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：直播客户端发起直播流；审核服务器以当前截帧帧率对直播流进行截帧，获得截图；对截图进行识别，得到识别结果；根据识别结果确定直播流被判定为非正常直播流的风险概率；根据风险概率对当前截帧帧率进行调整；以及根据调整后的截帧帧率对直播流进行截帧，并依据截帧获得的截图判定直播流是否为非正常直播流。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：审核服务器根据识别结果，确定直播流的潜在风险类型；以及根据潜在风险类型确定用于对直播流加载的图像算法，并根据确定的图像算法判定直播流是否为非正常直播流。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定直播流被判定为非正常直播流的风险概率。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：直播客户端对直播现场进行审核，得到审核结果，并将审核结果发送给审核服务器；审核服务器结合识别结果和审核结果，确定用于对直播流加载的图像算法。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：检测客户端的视频流；获取所述视频流对应的产品或服务分类ID；根据所述分类ID，获取截帧帧率；对所述视频流进行截帧，获取截图。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：判断所述截图是否满足预设条件；如果满足预设条件，拦截所述视频流。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：在客户端，展示拦截提醒，其中，所述拦截提醒包括所述截图及预设条件。
可选的，在本实施例中，上述处理器执行的存储器中存储的计算机程序还可以执行如下步骤：向服务器发送通知消息，其中，所述通知消息包括拦截触发数据，所述拦截触发数据包括所述分类ID及截图。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (25)
1.一种直播流处理方法，其特征在于，包括：
以当前截帧帧率对直播流进行截帧，获得截图；
对所述截图进行识别，得到识别结果；
根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；
根据所述风险概率对所述当前截帧帧率进行调整；
根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
2.根据权利要求1所述的方法，其特征在于，每隔预定时长，根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率。
3.根据权利要求1所述的方法，其特征在于，还包括：
根据所述识别结果，确定所述直播流的潜在风险类型；
根据所述潜在风险类型确定用于对所述直播流加载的图像算法，其中，所述图像算法用于判定所述直播流是否为非正常直播流。
4.根据权利要求3所述的方法，其特征在于，每隔预定时长，根据所述潜在风险类型确定用于对所述直播流加载的图像算法。
5.根据权利要求1所述的方法，其特征在于，还包括：
对所述直播流的当前帧和当前帧的前一帧进行比较，判定当前帧和前一帧是否为相似帧；
对连续相似帧进行计数，在计数值达到预定阈值的情况下，确定所述直播流为直播挂机。
6.根据权利要求1所述的方法，其特征在于，根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率包括：
接收直播客户端发送的审核结果，其中，所述审核结果由所述直播客户端对直播现场进行审核后得到；
结合所述识别结果和所述审核结果，确定所述直播流被判定为非正常直播流的风险概率。
7.根据权利要求3所述的方法，其特征在于，根据所述潜在风险类型确定用于对所述直播流加载的图像算法包括：
接收直播客户端发送的审核结果，其中，所述审核结果由所述直播客户端对直播现场进行审核后得到；
结合所述识别结果和所述审核结果，确定用于对所述直播流加载的图像算法。
8.根据权利要求6或7所述的方法，其特征在于，所述审核结果包括以下至少之一：
对主播进行实人认证的认证结果，所述直播现场所属场景，和所述直播现场的人数。
9.根据权利要求1所述的方法，其特征在于，根据所述风险概率对所述当前截帧帧率进行调整包括：
采用移动平均法，根据所述风险概率确定所述截图对应的截帧预定时间后的风险概率；
根据预定时间后的风险概率对所述当前截帧帧率进行调整。
10.一种直播流处理方法，其特征在于，包括：
直播客户端对直播现场进行审核，得到审核结果；
所述直播客户端将所述审核结果发送给审核服务器，其中，所述审核服务器依据所述审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，所述截图为根据动态的截帧帧率对所述直播流进行截帧获得的。
11.根据权利要求10所述的方法，其特征在于，所述审核结果包括以下至少之一：
对主播进行实人认证的认证结果，所述直播现场所属场景，和所述直播现场的人数。
12.一种直播流处理方法，其特征在于，包括：
直播客户端发起直播流；
审核服务器以当前截帧帧率对所述直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；以及根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
13.根据权利要求12所述的方法，其特征在于，还包括：
所述审核服务器根据所述识别结果，确定所述直播流的潜在风险类型；以及根据所述潜在风险类型确定用于对所述直播流加载的图像算法，并根据确定的所述图像算法判定所述直播流是否为非正常直播流。
14.根据权利要求12所述的方法，其特征在于，还包括：
所述直播客户端对直播现场进行审核，得到审核结果，并将所述审核结果发送给审核服务器；
所述审核服务器结合所述识别结果和所述审核结果，确定所述直播流被判定为非正常直播流的风险概率。
15.根据权利要求13所述的方法，其特征在于，还包括：
所述直播客户端对直播现场进行审核，得到审核结果，并将所述审核结果发送给审核服务器；
所述审核服务器结合所述识别结果和所述审核结果，确定用于对所述直播流加载的图像算法。
16.一种直播流处理装置，其特征在于，包括：
截帧模块，用于以当前截帧帧率对直播流进行截帧，获得截图；
识别模块，用于对所述截图进行识别，得到识别结果；
确定模块，用于根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；
调整模块，用于根据所述风险概率对所述当前截帧帧率进行调整；
判定模块，用于根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
17.一种直播流处理装置，其特征在于，包括：
审核模块，用于直播客户端对直播现场进行审核，得到审核结果；
发送模块，用于所述直播客户端将所述审核结果发送给审核服务器，其中，所述审核服务器依据所述审核结果以及截图的识别结果判定直播现场播出的直播流是否为非正常直播流，其中，所述截图为根据动态的截帧帧率对所述直播流进行截帧获得的。
18.一种直播流处理系统，其特征在于，包括：直播客户端和审核服务器，其中，
所述直播客户端，用于发起直播流；
所述审核服务器，用于以当前截帧帧率对所述直播流进行截帧，获得截图；对所述截图进行识别，得到识别结果；根据所述识别结果确定所述直播流被判定为非正常直播流的风险概率；根据所述风险概率对所述当前截帧帧率进行调整；以及根据调整后的截帧帧率对所述直播流进行截帧，并依据截帧获得的截图判定所述直播流是否为非正常直播流。
19.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行权利要求1至15中任意一项所述的直播流处理方法。
20.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至15中任意一项所述的直播流处理方法。
21.一种计算机设备，其特征在于，包括：存储器和处理器，
所述存储器存储有计算机程序；
所述处理器，用于执行所述存储器中存储的计算机程序，所述计算机程序运行时执行权利要求1至15中任意一项所述的直播流处理方法。
22.一种数据处理方法，其特征在于，包括：
检测客户端的视频流；
获取所述视频流对应的产品或服务分类ID；
根据所述分类ID，获取截帧帧率；
对所述视频流进行截帧，获取截图。
23.根据权利要求22所述的数据处理方法，其特征在于，还包括：
判断所述截图是否满足预设条件；
如果满足预设条件，拦截所述视频流。
24.根据权利要求23所述的数据处理方法，其特征在于，还包括：
在客户端，展示拦截提醒，其中，所述拦截提醒包括所述截图及预设条件。
25.根据权利要求24所述的数据处理方法，其特征在于，还包括：
向服务器发送通知消息，其中，所述通知消息包括拦截触发数据，所述拦截触发数据包括所述分类ID及截图。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811341817.XA CN111182314B (zh) | 2018-11-12 | 2018-11-12 | 直播流处理方法、装置及数据处理方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811341817.XA CN111182314B (zh) | 2018-11-12 | 2018-11-12 | 直播流处理方法、装置及数据处理方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111182314A true CN111182314A (zh) | 2020-05-19 |
| CN111182314B CN111182314B (zh) | 2022-06-03 |
Family
ID=70649855
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811341817.XA Active CN111182314B (zh) | 2018-11-12 | 2018-11-12 | 直播流处理方法、装置及数据处理方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111182314B (zh) |
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111586432A (zh) * | 2020-06-05 | 2020-08-25 | 广州繁星互娱信息科技有限公司 | 空播直播间确定方法、装置、服务器及存储介质 |
| CN111723784A (zh) * | 2020-07-30 | 2020-09-29 | 腾讯科技（深圳）有限公司 | 一种风险视频识别方法、装置和电子设备 |
| CN112148896A (zh) * | 2020-09-10 | 2020-12-29 | 京东数字科技控股股份有限公司 | 一种用于终端媒体监播的数据处理方法及装置 |
| CN112235601A (zh) * | 2020-10-13 | 2021-01-15 | 中国联合网络通信集团有限公司 | 直播行为纠正方法、终端、边缘服务器及计算机设备 |
| CN112492382A (zh) * | 2020-11-19 | 2021-03-12 | 创盛视联数码科技（北京）有限公司 | 视频帧提取方法、装置、电子设备和存储介质 |
| CN112685128A (zh) * | 2021-02-03 | 2021-04-20 | 湖南映客互娱网络信息有限公司 | 一种直播图片色情检测和图片过滤的方法 |
| CN112738538A (zh) * | 2020-12-25 | 2021-04-30 | 深圳市珍爱捷云信息技术有限公司 | 直播间挂机行为检测方法、装置、电子设备和计算机可读存储介质 |
| CN113766256A (zh) * | 2021-02-09 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种直播风控方法和装置 |
| CN114025243A (zh) * | 2021-10-27 | 2022-02-08 | 广州繁星互娱信息科技有限公司 | 直播截图获取方法和装置、存储介质及电子设备 |
| CN114466210A (zh) * | 2022-01-27 | 2022-05-10 | 广州方硅信息技术有限公司 | 直播质量检测处理方法及其装置、设备、介质、产品 |
| CN114727119A (zh) * | 2020-12-21 | 2022-07-08 | 北京达佳互联信息技术有限公司 | 直播连麦控制方法、装置及存储介质 |
| CN114765693A (zh) * | 2021-01-14 | 2022-07-19 | 腾讯科技（深圳）有限公司 | 直播流内容处理方法和装置、存储介质及电子设备 |
| CN115022094A (zh) * | 2022-08-08 | 2022-09-06 | 广东省信息工程有限公司 | 一种计算机使用情况的监控系统 |
| WO2024066938A1 (zh) * | 2022-09-30 | 2024-04-04 | 广州市百果园信息技术有限公司 | 直播截图方法、装置、设备及存储介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150271541A1 (en) * | 2014-03-19 | 2015-09-24 | Time Warner Cable Enterprises Llc | Apparatus and methods for recording a media stream |
| CN106658172A (zh) * | 2016-12-30 | 2017-05-10 | 广州虎牙信息科技有限公司 | 视频画面异常判断、装置及终端设备 |
| CN107197370A (zh) * | 2017-06-22 | 2017-09-22 | 北京密境和风科技有限公司 | 一种直播视频的场景检测方法和装置 |
| CN108040262A (zh) * | 2018-01-25 | 2018-05-15 | 湖南机友科技有限公司 | 直播音视频实时鉴黄方法及装置 |
| CN108154134A (zh) * | 2018-01-11 | 2018-06-12 | 天格科技（杭州）有限公司 | 基于深度卷积神经网络的互联网直播色情图像检测方法 |
| CN108170813A (zh) * | 2017-12-29 | 2018-06-15 | 智搜天机（北京）信息技术有限公司 | 一种全媒体内容智能审核的方法及其系统 |
-
2018
- 2018-11-12 CN CN201811341817.XA patent/CN111182314B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150271541A1 (en) * | 2014-03-19 | 2015-09-24 | Time Warner Cable Enterprises Llc | Apparatus and methods for recording a media stream |
| CN106658172A (zh) * | 2016-12-30 | 2017-05-10 | 广州虎牙信息科技有限公司 | 视频画面异常判断、装置及终端设备 |
| CN107197370A (zh) * | 2017-06-22 | 2017-09-22 | 北京密境和风科技有限公司 | 一种直播视频的场景检测方法和装置 |
| CN108170813A (zh) * | 2017-12-29 | 2018-06-15 | 智搜天机（北京）信息技术有限公司 | 一种全媒体内容智能审核的方法及其系统 |
| CN108154134A (zh) * | 2018-01-11 | 2018-06-12 | 天格科技（杭州）有限公司 | 基于深度卷积神经网络的互联网直播色情图像检测方法 |
| CN108040262A (zh) * | 2018-01-25 | 2018-05-15 | 湖南机友科技有限公司 | 直播音视频实时鉴黄方法及装置 |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111586432A (zh) * | 2020-06-05 | 2020-08-25 | 广州繁星互娱信息科技有限公司 | 空播直播间确定方法、装置、服务器及存储介质 |
| CN111586432B (zh) * | 2020-06-05 | 2022-05-17 | 广州繁星互娱信息科技有限公司 | 空播直播间确定方法、装置、服务器及存储介质 |
| CN111723784A (zh) * | 2020-07-30 | 2020-09-29 | 腾讯科技（深圳）有限公司 | 一种风险视频识别方法、装置和电子设备 |
| CN112148896A (zh) * | 2020-09-10 | 2020-12-29 | 京东数字科技控股股份有限公司 | 一种用于终端媒体监播的数据处理方法及装置 |
| CN112235601A (zh) * | 2020-10-13 | 2021-01-15 | 中国联合网络通信集团有限公司 | 直播行为纠正方法、终端、边缘服务器及计算机设备 |
| CN112492382B (zh) * | 2020-11-19 | 2022-01-21 | 创盛视联数码科技（北京）有限公司 | 视频帧提取方法、装置、电子设备和存储介质 |
| CN112492382A (zh) * | 2020-11-19 | 2021-03-12 | 创盛视联数码科技（北京）有限公司 | 视频帧提取方法、装置、电子设备和存储介质 |
| CN114727119B (zh) * | 2020-12-21 | 2023-10-10 | 北京达佳互联信息技术有限公司 | 直播连麦控制方法、装置及存储介质 |
| CN114727119A (zh) * | 2020-12-21 | 2022-07-08 | 北京达佳互联信息技术有限公司 | 直播连麦控制方法、装置及存储介质 |
| CN112738538B (zh) * | 2020-12-25 | 2023-06-06 | 深圳市珍爱捷云信息技术有限公司 | 直播间挂机行为检测方法、装置、电子设备和计算机可读存储介质 |
| CN112738538A (zh) * | 2020-12-25 | 2021-04-30 | 深圳市珍爱捷云信息技术有限公司 | 直播间挂机行为检测方法、装置、电子设备和计算机可读存储介质 |
| CN114765693A (zh) * | 2021-01-14 | 2022-07-19 | 腾讯科技（深圳）有限公司 | 直播流内容处理方法和装置、存储介质及电子设备 |
| CN112685128A (zh) * | 2021-02-03 | 2021-04-20 | 湖南映客互娱网络信息有限公司 | 一种直播图片色情检测和图片过滤的方法 |
| CN113766256A (zh) * | 2021-02-09 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种直播风控方法和装置 |
| CN114025243A (zh) * | 2021-10-27 | 2022-02-08 | 广州繁星互娱信息科技有限公司 | 直播截图获取方法和装置、存储介质及电子设备 |
| CN114466210A (zh) * | 2022-01-27 | 2022-05-10 | 广州方硅信息技术有限公司 | 直播质量检测处理方法及其装置、设备、介质、产品 |
| CN114466210B (zh) * | 2022-01-27 | 2024-04-16 | 广州方硅信息技术有限公司 | 直播质量检测处理方法及其装置、设备、介质 |
| CN115022094A (zh) * | 2022-08-08 | 2022-09-06 | 广东省信息工程有限公司 | 一种计算机使用情况的监控系统 |
| WO2024066938A1 (zh) * | 2022-09-30 | 2024-04-04 | 广州市百果园信息技术有限公司 | 直播截图方法、装置、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111182314B (zh) | 2022-06-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111182314B (zh) | 直播流处理方法、装置及数据处理方法 | |
| CN106850346B (zh) | 用于监控节点变化及辅助识别黑名单的方法、装置及电子设备 | |
| RU2660625C2 (ru) | Способ и устройство для обработки требования | |
| CN105472312A (zh) | 智能摄像系统的报警方法、智能摄像系统和网络摄像头 | |
| CN108353149A (zh) | Cctv自动选别监测系统cctv自动选别监测管理服务器及管理方法 | |
| US11343274B2 (en) | Non-spoofable privacy indicator showing disabling of sensors on a network-connected client device | |
| Kumar et al. | IoT based smart home surveillance and automation | |
| KR101496632B1 (ko) | 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법 | |
| CN104253714A (zh) | 监控方法、系统、浏览器及服务器 | |
| TWI676156B (zh) | 電腦系統及其資源分配方法 | |
| CN110505490A (zh) | 多媒体数据识别方法和系统 | |
| CN107357821B (zh) | 系统管理方法、装置及存储介质 | |
| KR20190066218A (ko) | 유해물 관리 방법, 이를 실행하는 컴퓨팅 장치 및 컴퓨터 프로그램 | |
| CN110933172A (zh) | 一种基于云计算的远程监控系统及方法 | |
| CN113127723A (zh) | 用户画像处理方法、装置、服务器及存储介质 | |
| CN104506940B (zh) | 一种信息处理方法及电视机 | |
| CN113242301A (zh) | 真实服务器的选定方法、装置、计算机设备及存储介质 | |
| US20180005270A1 (en) | Determining fraudulent indications of advertisement interaction based on identity | |
| KR101473671B1 (ko) | 이미지 비교를 통한 피싱 사이트 탐지 방법 및 장치 | |
| CN109214182A (zh) | 在云平台下虚拟机运行中对勒索软件的处理方法 | |
| CN111565303A (zh) | 基于雾计算及深度学习的视频监控方法、系统和可读存储介质 | |
| CN109120896B (zh) | 安防视频监控卫士系统 | |
| KR101331075B1 (ko) | 휴대 단말기 응용 프로그램의 필터링 방법 및 장치 | |
| CN114398994A (zh) | 基于图像识别的业务异常检测方法、装置、设备及介质 | |
| US8301695B2 (en) | Terminal, server and method for determining and processing contents as spams |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40030565 Country of ref document: HK |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |