CN110012302B - 一种网络直播监测方法及装置、数据处理方法 - Google Patents

一种网络直播监测方法及装置、数据处理方法 Download PDF

Info

Publication number
CN110012302B
CN110012302B CN201810011550.1A CN201810011550A CN110012302B CN 110012302 B CN110012302 B CN 110012302B CN 201810011550 A CN201810011550 A CN 201810011550A CN 110012302 B CN110012302 B CN 110012302B
Authority
CN
China
Prior art keywords
risk
live broadcast
interaction
information
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810011550.1A
Other languages
English (en)
Other versions
CN110012302A (zh
Inventor
李建
侯忠民
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201810011550.1A priority Critical patent/CN110012302B/zh
Publication of CN110012302A publication Critical patent/CN110012302A/zh
Application granted granted Critical
Publication of CN110012302B publication Critical patent/CN110012302B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2407—Monitoring of transmitted content, e.g. distribution time, number of downloads
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254—Management at additional data server, e.g. shopping server, rights management server
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845—Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments

Abstract

本申请实施例提供了网络直播监测方法及装置、数据处理方法，该监测方法包括：确定获取到的目标直播间的互动信息是否满足预设的疑似风险条件；若是，则根据该互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；根据疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果。先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。

Description

一种网络直播监测方法及装置、数据处理方法
技术领域
本申请涉及信息监测技术领域，尤其涉及一种网络直播监测方法及装置、数据处理方法。
背景技术
目前，随着网络直播技术的不断发展，多家互联网公司逐渐创建各自的直播平台，主播在某一直播平台上注册直播账号后，进而可以在各自的直播间播放直播视频，并且主播在直播过程可以与进入该直播间的粉丝观众进行互动。但是，随着直播行业的快速发展，并且倡导全民直播，对主播的真实身份并没有任何限制，因此，往往会出现一些不良直播信息在网络上传播的情况，从而造成了不良的社会影响。为了保证直播行业的良性发展，需要对主播直播的视频信息进行监测，查封存在风险的违规直播行为。
当前，相关技术中提供了一种网络直播监测方法，主要为：基于预设时间间隔，直接从目标直播间直播的视频数据中提取视频帧，再对提取到的视频帧进行直播风险分析，对于确定出的风险系数比较高的直播间再由人工审核，进而对直播平台的所有直播间进行管控。在采用该种方式进行直播视频监测的过程中，用来获取待识别视频帧的预设时间间隔的选取尤为重要，如果时间间隔设定比较小，对于安全的直播间而言，存在识别资源浪费的问题，而如果时间间隔设定比较大，对于在预设时间间隔内播放风险信息的直播间而言，由于存在视频帧提取遗漏的问题，无法准确地识别出此类存在风险的直播间，从而导致风险直播违规播放。
由此可知，现有技术中基于预设时间间隔，直接从目标直播间直播的视频数据中提取待识别视频帧，所选用的时间间隔不好把控，容易出现由于视频帧提取遗漏，从而导致出现风险直播违规播放的情况。
发明内容
本申请实施例的目的是提供一种网络直播监测方法及装置、数据处理方法，先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
为解决上述技术问题，本申请实施例是这样实现的：
本申请实施例提供了一种网络直播监测方法，包括：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种网络直播监测方法，包括：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种网络直播监测装置，包括：
互动信息获取模块，用于获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
疑似风险确定模块，用于确定所述互动信息是否满足预设的疑似风险条件；
视频帧选取模块，用于若判断结果为是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
监测结果确定模块，用于根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种网络直播监测装置，包括：
关键帧提取模块，用于按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
互动信息获取模块，用于获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
疑似风险确定模块，用于确定所述互动信息是否满足预设的疑似风险条件；
视频帧选取模块，用于若判断结果为是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
监测结果确定模块，用于根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种网络直播监测设备，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种网络直播监测设备，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种存储介质，用于存储计算机可执行指令，所述可执行指令在被执行时实现以下流程：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种存储介质，用于存储计算机可执行指令，所述可执行指令在被执行时实现以下流程：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
本申请实施例提供了一种数据处理方法，包括：
在多个图像数据的展示或播放过程中，获取关联数据，其中，所述关联数据的类型包括：文本、图像和语音中至少一种；
确定所述关联数据满足预设条件；
根据满足预设条件的所述关联数据，获取所述多个图像数据中至少一个目标图像数据。
本申请实施例中的网络直播监测方法及装置、数据处理方法，确定获取到的目标直播间的互动信息是否满足预设的疑似风险条件；若是，则根据该互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；根据疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果。先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的网络直播监测系统的应用场景示意图；
图2为本申请一实施例提供的网络直播监测方法的第一种流程示意图；
图3为本申请一实施例提供的网络直播监测方法的第二种流程示意图；
图4为本申请一实施例提供的网络直播监测方法的第三种流程示意图；
图5为本申请一实施例提供的网络直播监测方法的第四种流程示意图；
图6为本申请一实施例提供的网络直播监测方法的第五种流程示意图；
图7为本申请一实施例提供的网络直播监测方法中目标直播间分区展示的效果示意图；
图8为本申请一实施例提供的网络直播监测方法的第六种流程示意图；
图9为本申请另一实施例提供的网络直播监测方法的第七种流程示意图；
图10为本申请实施例提供的网络直播监测装置的第一种模块组成示意图；
图11为本申请实施例提供的网络直播监测装置的第二种模块组成示意图；
图12为本申请实施例提供的网络直播监测装置的第三种模块组成示意图；
图13为本申请实施例提供的网络直播监测设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
本申请实施例提供了一种网络直播监测方法及装置、数据处理方法，先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
图1为本申请实施例提供的网络直播监测系统的应用场景示意图，如图1所示，网络直播监测系统包括：主播终端、观众终端、管理服务器和监测服务器；其中，每个主播终端对应于一个直播间，主播在各自的直播间中进行网络直播，主播终端用于将直播视频流和主播语音互动信息等网络直播信息上传至管理服务器；各观众终端向管理服务器发送直播观看请求，并接收管理服务器发送的与该直播观看请求对应的主播终端的网络直播信息，以及向管理服务器发送文本互动信息、礼物赠予请求、点赞请求等；管理服务器用于接收主播终端传输的网络直播信息，以及接收观众终端上传的文本互动信息、礼物赠予请求、点赞请求，并根据观众终端上传的直播观看请求、文本互动信息、礼物赠予请求、点赞请求确定各直播间的互动统计数据；监测服务器用于从管理服务器获取目标直播间的互动信息，该互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种，并基于获取到的目标直播间的互动信息，对该目标直播间进行直播风险分析，得到风险监测结果；其中，管理服务器和监测服务器可以是同一服务器，也可以是不同的服务器。
图2为本申请一实施例提供的网络直播监测方法的第一种流程示意图，图2中的方法能够由图1中的监测服务器执行，如图2所示，该方法至少包括以下步骤：
S101，获取目标直播间的互动信息，其中，该互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；具体的，上述文本互动信息可以是进入目标直播间的观众发出的弹幕信息，上述语音互动信息可以是主播的语音信息或者连麦观众的语音信息，上述互动统计数据可以是目标直播间的在线人数、礼物赠予量、点赞数量、评论数量。
S102，确定获取到的互动信息是否满足预设的疑似风险条件；具体的，基于获取到的目标直播间的互动信息，对目标直播间进行互动风险识别，如果互动风险识别结果满足预设条件，则确定获取到的互动信息满足预设的疑似风险条件，并执行步骤S103。
S103，若确定结果为是，则根据上述互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；具体的，基于预设视频帧提取规则，从直播视频中选取多个与互动信息相关的视频帧作为待识别的疑似风险帧，该预设视频帧提取规则可以是目标时间间隔，也可以是预设视频帧差异值。
S104，根据选取出的疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果；其中，在确定出目标直播间的风险监测结果后，可以采用自动对播放违规直播视频的直播间进行管控；也可以采用人工重审的方式对风险监测结果进行确认，再对播放违规直播视频的直播间进行管控，即将该风险监测结果和选取出的疑似风险帧发送至审核终端，以便审核人员基于疑似风险帧对风险监测结果进行确认，并对播放违规直播视频的直播间进行管控，例如，采用限制推广的方式或者直接对该直播间进行封号处理。
在本申请提供的实施例中，先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
具体的，如图3所示，上述S103若确定结果为是，则根据上述互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧，具体包括：
S1031，若确定结果为是，则基于上述互动信息的时间信息，在目标直播间的直播视频中截取与该时间信息对应的直播视频段；具体的，获取互动信息的上传时间，以该上传时间为中心，确定一时间窗口，该时间窗口的起始时间为上传时间前移预设时间段的时刻，该时间窗口的截止时间为上传时间后移预设时间段的时刻，将目标直播间的直播视频中在该时间窗口下播出的视频段作为待截取的直播视频段。
S1032，在截取的直播视频段中选取至少一个视频帧作为疑似风险帧；具体的，在获取到直播视频段之后，在直播视频段中选取多个视频帧，可以将所有的视频帧均作为待识别的疑似风险帧，也可以再按照预设选取规则在提取出多个视频帧中选取待识别的疑似风险帧。
在本申请提供的实施例中，基于互动信息的时间信息，确定一包含该互动信息的上传时间的时间窗口，并截取与该时间窗口对应的直播视频段，再在直播视频段中选取待识别的疑似风险帧，通过放大视频帧提取范围的方式，在截取的直播视频段中选取疑似风险帧，这样能够降低视频帧提取遗漏的情况，保证后续直播风险分析的准确度。
进一步的，考虑到在按照时间间隔提取到的多个视频帧中，可能存在两两视频帧之间的差异比较小(即相似度比较高)的情况，针对该情况，只需对其中一个视频帧进行直播风险分析即可，无需对每个视频帧均进行直播风险分析，这样能够提高后续基于疑似风险帧的图像识别效率，减少设备的图像识别处理量，提高设备信息处理资源利用率，基于此，如图4所示，上述S1032在截取的直播视频段中选取至少一个视频帧作为疑似风险帧，具体包括：
S10321，按照视频帧提取时间间隔，在直播视频段中提取多个备选视频帧；
S10322，对提取到的多个备选视频帧进行去重处理；
S10323，将去重处理后剩余的至少一个备选视频帧作为疑似风险帧，即在多个备选视频帧中，针对相似度大于预设阈值的至少两个备选视频帧只选取一个备选视频帧作为疑似风险帧。
具体的，将首个备选视频帧作为基准视频帧，并将该基准视频帧作为疑似风险帧；逐一遍历其余备选视频帧，将后一个备选视频帧与已选取出的疑似风险帧进行图像差异比较，如果差异大于预设阈值，则将后一备选视频帧作为疑似风险帧，如果差异不大于预设阈值，则舍弃该后一备选视频帧，继续将后一个备选视频帧与已选取出的疑似风险帧进行图像差异比较，直到完成对最后一个备选视频帧的图像差异比较。
另外，可以采用上述选取疑似风险帧的方式，还可以在多个备选视频帧中选取一个基准视频帧(例如，将首个备选视频帧或中间位置的备选视频帧作为基准视频帧)，并将该基准视频帧作为疑似风险帧；依次判断其余任一备选视频帧与该基准视频帧之间的差异是否大于预设阈值；若是，则将该任一备选视频帧作为疑似风险帧。
在本申请提供的实施例中，基于对视频帧进行图像差异比较，在提取到的多个视频帧中，相似度比较高的多个视频帧中择一选取一个视频帧作为待识别的疑似风险帧，达到视频帧去重处理的目的，这样无需对每个视频帧均进行直播风险分析，能够提高后续基于疑似风险帧的图像识别效率，减少设备的图像识别处理量，提高设备信息处理资源利用率。
其中，为了提高基于疑似风险帧的图像识别的准确度，基于此，上述视频帧提取时间间隔是通过如下方式确定的：
获取上述互动信息的互动风险值，其中，该互动风险值为执行S102的步骤过程中确定得到的。
根据获取到的互动风险值，确定视频帧提取时间间隔，其中，该视频帧提取时间间隔与互动信息的互动风险值负相关；也就是说，将视频帧提取时间间隔与互动信息的互动风险识别结果相关联，互动信息的互动风险值越大，则视频帧提取时间间隔越小，这样选取出的疑似风险帧的数量可能就越多，进而使得后续基于疑似风险帧的图像识别越充分。
具体的，上述视频帧提取时间间隔的计算公式为：
Figure BDA0001540486460000091
其中，t表示视频帧提取时间间隔，u表示修定系数，t0表示初始时间间隔，y表示互动信息的互动风险值。
在本申请提供的实施例中，将视频帧提取时间间隔与互动信息的互动风险值相关联，互动信息的互动风险值越大，说明目标直播间的直播视频需要更加关注，此时视频帧提取时间间隔越小，提取出的备选视频帧越多，这样选取出的疑似风险帧的数量可能就越多，使得后续基于疑似风险帧的图像识别越充分，从而提高基于疑似风险帧的图像识别的准确度。
进一步的，考虑到现有的图像识别算法可能存在识别盲区，针对某些限制播放的视频帧画面，而图像识别算法视为正常视频帧画面的情况，导致图像识别算法无法准确地识别此类限制播放的视频帧画面，进而可能存在因图像识别算法存在的盲区，而导致限制播放的视频帧画面在线传播，产生负面影响，基于此，如图5所示，上述S104根据选取出的疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果，具体包括：
S1041，对选取出的疑似风险帧进行图像识别，确定疑似风险帧的图像风险值；
具体的，可以预先利用深度学习方法基于图像样本训练得到图像不良信息识别模型，在具体执行S1041时，对疑似风险帧进行敏感图像区域提取处理，得到该疑似风险帧中的多个敏感图像区域；利用图像不良信息识别模型计算各个敏感图像区域的不良信息匹配度，根据各个不良信息匹配度计算该疑似风险帧的图像风险值。
S1042，获取上述互动信息的互动风险值，其中，该互动风险值为执行S102的步骤过程中确定得到的；
S1043，根据获取到的互动风险值和确定出的图像风险值，对目标直播间进行直播风险分析，得到风险监测结果。
在本申请提供的实施例中，基于互动信息的风险识别结果和视频帧的风险识别结果，综合对目标直播间的直播风险进行评估，通过引入互动信息的风险识别结果对最终的风险监测结果的干预，防止因图像识别算法存在的盲区出现识别遗漏而产生负面影响，进一步提高直播风险监测的准确度。
进一步的，针对采用人工重审的方式对风险监测结果进行确认，再对播放违规直播视频的直播间进行管控的情况，为了提高人工重审效率，降低人工成本，基于此，如图6所示，上述S1043根据获取到的互动风险值和确定出的图像风险值，对目标直播间进行直播风险分析，得到风险监测结果，具体包括：
S10431，根据获取到的互动风险值和确定出的图像风险值，确定目标直播间的直播风险值；
其中，根据互动风险值和图像风险值，确定疑似风险帧的综合风险值，该综合风险值的计算公式为：R＝b1y+b2z，其中，R表示综合风险值，b1表示互动信息的权重系数，b2表示疑似风险帧的权重系数，y表示互动信息的互动风险值，z表示疑似风险帧的图像风险值。
另外，为了提高确定出的风险等级的准确度，根据本次确定出的疑似风险帧的综合风险值和在先最新确定出的预设数量的综合风险值的平均值，确定目标直播间的直播风险值。
S10432，确定上述直播风险值所属的风险等级，将该风险等级作为目标直播间的风险监测结果，以使审核终端将目标直播间的相关信息在审核界面中与该风险等级匹配的显示区域显示，该目标直播间的相关信息包括：目标直播间的直播视频和疑似风险帧。
其中，可以根据实际需求划分多个风险等级，每个风险等级对应一个风险值区间，目标直播间的直播风险值属于哪个风险值区间，则将该风险值区间对应的风险等级作为目标直播间的风险等级。
另外，随着目标直播间的互动信息的变化，选取出的疑似风险帧也随之变化，确定出的目标直播间的直播风险值也随之变化，因此，目标直播间的风险等级也随之变化，针对某一目标直播间而言，将由一个显示区域移至另一个显示区域，也就是说，目标直播间的显示位置将随各自的直播风险值不断调整。
如图7所示，以划分三个风险等级为例，分别为：第一风险等级、第二风险等级和第三风险等级，该第一风险等级对应的风险值大于第二风险等级对应的风险值，该第二风险等级对应的风险值大于第三风险等级对应的风险值，其中，与第一风险等级匹配的第一显示区域用于显示高风险的目标直播间的相关信息，与第二风险等级匹配的第二显示区域用于显示中风险的目标直播间的相关信息，与第三风险等级匹配的第三显示区域用于显示低风险的目标直播间的相关信息，这样使得高风险的直播视频展示更集中，能够提高审核人员的专注度和审核效率；低风险的直播视频自动进入系统托管，能够减少审核人员的审核数量，便于审核人员快速定位需要重点监测的直播间播放的直播视频和选取出的疑似风险帧，降低了审核人员的审核难度，提高了审核人员的审核效率。
在本申请提供的实施例中，对多个目标直播间进行风险等级划分，这样便于审核人员集中关注直播风险概率高的直播间，实现有针对性地对众多直播间进行直播风险监测，提高了审核效率，降低了审核成本。
其中，如图8所示，上述S102确定获取到的互动信息是否满足预设的疑似风险条件，具体包括：
S1021，计算获取到的互动信息的互动风险值；
S1022，根据上述互动风险值，确定互动信息是否满足预设的疑似风险条件，具体的，可以预先设定预设风险阈值，如果互动风险值大于预设风险阈值，则确定获取到的互动信息满足预设的疑似风险条件。
在具体实施时，可以采用如下方式确定各互动信息的互动风险值，具体为：
针对文本互动信息而言，上述S1021计算获取到的互动信息的互动风险值，具体包括：
对文本互动信息进行敏感词识别，确定该文本互动信息的互动风险值。
具体的，可以预先利用深度学习方法基于敏感词样本训练得到文本不良信息识别模型，在确定文本互动信息的互动风险值时，利用文本不良信息识别模型计算文本互动信息的不良信息匹配度，根据该不良信息匹配度确定文本互动信息的互动风险值。
针对语音互动信息而言，上述S1021计算获取到的互动信息的互动风险值，具体包括：
将语音互动信息转换为文本互动信息；
对转换后的文本互动信息进行敏感词识别，根据敏感词识别结果确定语音互动信息的第一风险值；以及，
对语音互动信息进行情绪识别，根据情绪识别结果确定语音互动信息的第二风险值；
根据上述第一风险值和上述第二风险值，确定语音互动信息的互动风险值。
同样的，可以利用加权平均值的方法根据上述第一风险值和上述第二风险值，确定语音互动信息的互动风险值，具体为：
上述语音互动信息的互动风险值的计算公式为：
Figure BDA0001540486460000121
其中，x2表示语音互动信息的互动风险值，a1表示语音互动信息中文本相关的权重系数，a2表示语音互动信息中情绪相关的权重系数，x21表示第一风险值，x22表示第二风险值。
针对互动统计数据而言，上述S1021计算获取到的互动信息的互动风险值，具体包括：
根据互动统计数据，确定目标直播间的互动热度变化信息；具体的，可预先基于历史数据训练互动热度识别模型，将当前互动统计数据输入至该互动热度识别模型，得到目标直播间的当前互动热度，根据预设时间间隔之前的历史互动热度和该当前互动热度的差值，确定目标直播间的互动热度变化信息。
根据上述互动热度变化信息，确定互动统计数据的互动风险值；具体的，可以预先存储互动热度变化信息与互动风险值之间的对应关系，根据该对应关系和确定出的互动热度变化信息，确定互动统计数据的互动风险值。
其中，对于上述S102确定获取到的互动信息是否满足预设的疑似风险条件的步骤而言，参考的互动信息的种类越多，得到的判断结果越准确，基于此，上述互动信息包括：文本互动信息、语音互动信息和互动统计数据中的至少两种；
对应的，上述S102确定获取到的互动信息是否满足预设的疑似风险条件，具体包括：
针对每种互动信息，计算该互动信息的互动风险值；
根据各种互动信息的各自互动风险值，计算目标直播间的互动信息的互动风险值；其中，针对参考多种互动信息的情况，将多种互动信息的互动风险平均值作为最终的目标直播间的互动信息的互动风险值；
或者，利用加权平均值的方法根据各种互动信息的各自互动风险值，计算目标直播间的互动信息的互动风险值，具体为：根据各种互动信息的优先级为各种互动信息设置相应的权重系数，目标直播间的互动信息的互动风险值的计算公式为：
Figure BDA0001540486460000131
其中，y表示目标直播间的互动信息的互动风险值，Ai表示第i种互动信息的权重系数，xi表示第i种互动信息的互动风险值，n表示互动信息的种类数。
S1023，根据计算得到的互动信息的互动风险值，确定获取到的互动信息是否满足预设的疑似风险条件。
本申请实施例中的网络直播监测方法，确定获取到的目标直播间的互动信息是否满足预设的疑似风险条件；若是，则根据该互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；根据疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果。先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
对应上述图2至图8描述的网络直播检测方法，基于相同的技术构思，本申请另一实施例还提供了一种网络直播监测方法，图9为本申请另一实施例提供的网络直播监测方法的流程示意图，该流程可以由图1中的监测服务器执行，如图9所示，该流程包括：
S901，按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；
具体的，可以通过如下两种方式从目标直播间的直播视频中提取多个待识别关键帧，具体为：
(1)按照预设时间间隔，从目标直播间的直播视频中提取多个待识别关键帧，例如，每间隔1min从目标直播间的直播视频中提取一个关键帧；
(2)按照预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧，即将直播视频中首个关键帧作为起始待识别关键帧，判断后一视频帧与前一待识别关键帧之间的差异是否大于预设视频帧差异阈值，若是，则将后一视频帧作为待识别关键帧。
S902，获取目标直播间的互动信息，其中，该互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；其中，步骤S902的具体实施方式参见步骤S101，这里不再赘述。
S903，确定获取到的互动信息是否满足预设的疑似风险条件；其中，步骤S903的具体实施方式参见步骤S102，这里不再赘述。
S904，若确定结果为是，则根据上述互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，步骤S904的具体实施方式参见步骤S103，这里不再赘述。
S905，根据提取到的待识别关键帧和选取出的疑似风险帧，对目标直播间进行直播风险分析，得到风险监测结果。
在本申请提供的实施例中，采用关键帧直播风险识别和互动信息直播风险识别相结合的方式，对目标直播间进行直播风险分析，在关键帧直播风险识别的基础上，引入互动信息直播风险识别能够起到补充识别的效果，加大了视频帧风险监测力度，进而能够进一步提高直播风险分析准确度，进一步防止出现风险直播违规播放的情况。
需要说明的是，步骤S901和步骤S902～步骤S904之间的执行没有严格的先后顺序。
其中，上述S905，根据提取到的待识别关键帧和选取出的疑似风险帧，对目标直播间进行直播风险分析，得到风险监测结果，具体包括：
步骤一，对提取到的待识别关键帧进行图像识别，确定待识别关键帧的第一图像风险值；并根据第一图像风险值，确定第一视频帧识别结果；
具体的，可以预先利用深度学习方法基于图像样本训练得到图像不良信息识别模型，在具体执行步骤一时，对待识别关键帧进行敏感图像区域提取处理，得到该待识别关键帧中的多个敏感图像区域；利用图像不良信息识别模型计算各个敏感图像区域的不良信息匹配度，根据各个不良信息匹配度计算该待识别关键帧的第一图像风险值；将该第一图像风险值作为第一视频帧识别结果。
步骤二，对选取出的疑似风险帧进行图像识别，确定疑似风险帧的第二图像风险值；以及，获取互动信息的互动风险值；根据互动风险值和第二图像风险值，确定第二视频帧识别结果；其中，步骤二的具体实施方式参见步骤S1041至S1042，得到第二图像风险值和互动风险值，这里不再赘述；以及参见步骤S10431，得到综合风险值，这里不再赘述，将该综合风险值作为第二视频帧识别结果。
步骤三，根据第一视频帧识别结果和第二视频帧识别结果，对目标直播间进行直播风险分析，得到风险监测结果。
具体的，上述步骤三，根据第一视频帧识别结果和第二视频帧识别结果，对目标直播间进行直播风险分析，得到风险监测结果，具体包括：
根据第一视频帧识别结果和第二视频帧识别结果，确定目标直播间的直播风险值；其中，该第一视频帧识别结果为待识别关键帧的第一图像风险值，该第二视频帧识别结果为疑似风险帧的综合风险值。
具体的，为了提高确定出的风险等级的准确度，根据最新确定出的第一数量的待识别关键帧的第一图像风险值和最新确定出的第二数量的疑似风险帧的综合风险值的平均值，确定目标直播间的直播风险值。其中，第一数量和第二数量之和等于预设数量阈值。
确定直播风险值所属的风险等级，将该风险等级作为目标直播间的风险监测结果。其中，该步骤的具体实施方式参见步骤S10432，这里不再赘述。
在本申请实施例中的网络直播监测方法中，采用关键帧直播风险识别和互动信息直播风险识别相结合的方式，对目标直播间进行直播风险分析，在关键帧直播风险识别的基础上，引入互动信息直播风险识别能够起到补充识别的效果，加大了视频帧风险监测力度，进而能够进一步提高直播风险分析准确度，进一步防止出现风险直播违规播放的情况。
需要说明的是，本申请另一实施例与本申请一实施例基于同一发明构思，因此该实施例的具体实施可以参见前述网络直播监测方法的实施，重复之处不再赘述。
对应上述图2至图8描述的网络直播检测方法，应用于直播视频监测领域，借助互动信息对直播视频进行直播风险分析，除此之外，基于相同的技术构思，还可以应用于其他领域，例如，应用于目标网站信息监测领域，又如，应用于公共场所大屏视频播放监测领域，借助关联数据从展示或播放的多个图像数据中获取用于风险分析的目标图像数据。本申请又一实施例还提供了一种数据处理方法，该方法包括：
步骤一、在多个图像数据的展示或播放过程中，获取关联数据，其中，该关联数据的类型包括：文本、图像和语音中至少一种。
步骤二、确定获取到的关联数据满足预设条件；具体的，确定获取到的关联数据是否满足预设的疑似风险条件，其中，该步骤二的具体实施方式参见步骤S102，步骤S102中涉及的互动信息相当于步骤二中的关联数据，可以预先设定预设风险阈值，如果基于关联数据计算得到的风险值大于预设风险阈值，则确定获取到的关联数据满足预设条件，相同之处这里不再赘述。
步骤三、根据满足预设条件的关联数据，获取多个图像数据中至少一个目标图像数据。
具体的，针对目标网站信息监测的应用场景，首先，获取待监测图像数据的关联数据，该关联数据为用户针对图像数据的评论数据，该评论数据包括：浏览用户上传的评论文字、浏览用户上传的评论图像、浏览用户上传的评论语音和评论统计数据中至少一种；然后，确定获取到的关联数据是否满足预设条件，若是，则基于该关联数据获取目标图像数据。
针对公共场所大屏视频播放监测的应用场景，首先，获取待监测图像数据(即公共场所大屏播放的视频帧数据)的关联数据，该关联数据包括：与播放的图像数据相关的文本数据、与播放的图像数据相关的音频数据、观看统计数据(即注视播放的图像数据的观看人数)中至少一种；然后，确定获取到的关联数据是否满足预设条件，若是，则基于该关联数据获取目标图像数据。
在本申请提供的实施例中，通过引入与展示或播放的图像数据相关的关联数据，对获取到的关联数据进行识别，在关联数据满足预设条件时，将与满足预设条件的关联数据相关的图像数据作为目标图像数据，以便再对该目标图像数据进行风险分析，由于增加了对于图像数据相关的关联数据的识别，这样能够更全面的发现问题图像，从而提高图像数据风险分析准确度。
进一步的，在获取到目标图像数据之后，可以由审核人员人工对该目标图像数据进行风险分析，也可以由系统自动对该目标图像数据进行风险分析。基于此，上述数据处理方法还包括：
步骤四、对获取到的目标图像数据进行风险分析，得到风险分析结果。
其中，上述步骤三、根据满足预设条件的关联数据，获取多个图像数据中至少一个目标图像数据，具体包括：
在多个图像数据中选取与满足预设条件的关联数据相关的图像数据；
将选取出的图像数据作为目标图像数据。
具体的，针对目标网站信息监测的应用场景，与满足预设条件的关联数据相关的图像数据是指该关联数据所在网页上展示的至少一个图像数据。
针对公共场所大屏视频播放监测的应用场景，与满足预设条件的关联数据相关的图像数据可以通过如下方式获取：
基于满足预设条件的关联数据的时间信息，在多个图像数据中选取与该时间信息对应的至少一个图像数据。
其中，考虑到现有的图像识别算法可能存在识别盲区，针对某些限制传播的图像数据，而图像识别算法视为正常图像数据的情况，导致图像识别算法无法准确地识别此类限制传播的图像数据，进而可能存在因图像识别算法存在的盲区，而导致限制传播的图像数据展示出来，产生负面影响，基于此，上述步骤四、对获取到的目标图像数据进行风险分析，得到风险分析结果，具体包括：
对目标图像数据进行图像识别，确定目标图像数据的图像风险值；以及，
获取满足预设条件的关联数据的互动风险值；其中，该步骤的具体实施方式参见步骤S1041至S1042，得到目标图像数据的图像风险值和关联数据的互动风险值，这里不再赘述。
根据获取到的互动风险值和确定出的图像风险值，对目标图像数据进行风险分析，得到风险分析结果。
具体的，针对采用人工重审的方式对风险分析结果进行确认，再对问题图像数据进行管控的情况，为了提高人工重审效率，降低人工成本，基于此，上述根据获取到的互动风险值和确定出的图像风险值，对目标图像数据进行风险分析，得到风险分析结果，具体包括：
根据获取到的互动风险值和确定出的图像风险值，确定目标图像数据的综合风险值；其中，该步骤的具体实施方式参见步骤S10431，得到目标图像数据的综合风险值。
确定综合风险值所属的风险等级，将该风险等级作为目标图像数据的风险分析结果。
其中，可以根据实际需求划分多个风险等级，每个风险等级对应一个风险值区间，目标图像数据的综合风险值属于哪个风险值区间，则将该风险值区间对应的风险等级作为目标图像数据的风险分析结果。
在本申请实施例提供的数据处理方法中，通过引入与展示或播放的图像数据相关的关联数据，对获取到的关联数据进行识别，在关联数据满足预设条件时，将与满足预设条件的关联数据相关的图像数据作为目标图像数据，以便再对该目标图像数据进行风险分析，由于增加了对于图像数据相关的关联数据的识别，这样能够更全面的发现问题图像，从而提高图像数据风险分析准确度。
对应上述图2至图8描述的网络直播监测方法，基于相同的技术构思，本申请实施例还提供了一种网络直播监测装置，图10为本申请实施例提供的网络直播监测装置的第一种模块组成示意图，该装置用于执行图2至图8描述的网络直播监测方法，如图10所示，该装置包括：
互动信息获取模块901，用于获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
疑似风险确定模块902，用于确定所述互动信息是否满足预设的疑似风险条件；
视频帧选取模块903，用于若判断结果为是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
监测结果确定模块904，用于根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，所述视频帧选取模块903，具体用于：
基于所述互动信息的时间信息，在所述目标直播间的直播视频中截取与所述时间信息对应的直播视频段；
在所述直播视频段中选取至少一个视频帧作为疑似风险帧。
可选地，所述视频帧选取模块903，进一步具体用于：
按照视频帧提取时间间隔，在所述直播视频段中提取多个备选视频帧；
对所述多个备选视频帧进行去重处理；
将去重处理后剩余的至少一个所述备选视频帧作为疑似风险帧。
可选地，如图11所示，所述装置还包括：
提取间隔确定模块905，用于获取所述互动信息的互动风险值；并根据所述互动风险值，确定视频帧提取时间间隔，其中，所述视频帧提取时间间隔与所述互动风险值负相关。
可选地，所述监测结果确定模块904，具体用于：
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的图像风险值；以及，
获取所述互动信息的互动风险值；
根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，所述监测结果确定模块904，进一步具体用于：
根据所述互动风险值和所述图像风险值，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
可选地，所述疑似风险确定模块902，具体用于：
计算所述互动信息的互动风险值；
根据所述互动风险值，确定所述互动信息是否满足预设的疑似风险条件。
可选地，所述互动信息包括：文本互动信息；
所述疑似风险确定模块902，进一步具体用于：
对所述文本互动信息进行敏感词识别，确定所述文本互动信息的互动风险值。
可选地，所述互动信息包括：语音互动信息；
所述疑似风险确定模块902，进一步具体用于：
将所述语音互动信息转换为文本互动信息；
对所述文本互动信息进行敏感词识别，根据敏感词识别结果确定所述语音互动信息的第一风险值；以及，
对所述语音互动信息进行情绪识别，根据情绪识别结果确定所述语音互动信息的第二风险值；
根据所述第一风险值和所述第二风险值，确定所述语音互动信息的互动风险值。
可选地，所述互动信息包括：互动统计数据；
所述疑似风险确定模块902，进一步具体用于：
根据所述互动统计数据，确定所述目标直播间的互动热度变化信息；
根据所述互动热度变化信息，确定所述互动统计数据的互动风险值。
本申请实施例中的网络直播监测装置，确定获取到的目标直播间的互动信息是否满足预设的疑似风险条件；若是，则根据该互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；根据疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果。先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
对应上述图9描述的网络直播监测方法，基于相同的技术构思，本申请实施例还提供了一种网络直播监测装置，图12为本申请实施例提供的网络直播监测装置的第三种模块组成示意图，该装置用于执行图9描述的网络直播监测方法，如图12所示，该装置包括：
关键帧提取模块1201，用于按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
互动信息获取模块1202，用于获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
疑似风险确定模块1203，用于确定所述互动信息是否满足预设的疑似风险条件；
视频帧选取模块1204，用于若判断结果为是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
监测结果确定模块1205，用于根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，上述监测结果确定模块1205，具体用于：
对所述待识别关键帧进行图像识别，确定所述待识别关键帧的第一图像风险值；并根据所述第一图像风险值，确定第一视频帧识别结果；
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的第二图像风险值；以及，获取所述互动信息的互动风险值；根据所述互动风险值和所述第二图像风险值，确定第二视频帧识别结果；
根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，上述监测结果确定模块1205，进一步具体用于：
根据所述第一视频帧识别结果和所述第二视频帧识别结果，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
本申请实施例中的网络直播监测装置，采用关键帧直播风险识别和互动信息直播风险识别相结合的方式，对目标直播间进行直播风险分析，在关键帧直播风险识别的基础上，引入互动信息直播风险识别能够起到补充识别的效果，加大了视频帧风险监测力度，进而能够进一步提高直播风险分析准确度，进一步防止出现风险直播违规播放的情况。
进一步地，对应上述图2至图8所示的方法，基于相同的技术构思，本申请实施例还提供了一种网络直播监测设备，该设备用于执行上述的网络直播监测方法，如图13所示。
网络直播监测设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上的处理器1301和存储器1302，存储器1302中可以存储有一个或一个以上存储应用程序或数据。其中，存储器1302可以是短暂存储或持久存储。存储在存储器1302的应用程序可以包括一个或一个以上模块(图示未示出)，每个模块可以包括对网络直播监测设备中的一系列计算机可执行指令。更进一步地，处理器1301可以设置为与存储器1302通信，在网络直播监测设备上执行存储器1302中的一系列计算机可执行指令。网络直播监测设备还可以包括一个或一个以上电源1303，一个或一个以上有线或无线网络接口1304，一个或一个以上输入输出接口1305，一个或一个以上键盘1306等。
在一个具体的实施例中，网络直播监测设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对网络直播监测设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，计算机可执行指令在被执行时，所述根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧，包括：
基于所述互动信息的时间信息，在所述目标直播间的直播视频中截取与所述时间信息对应的直播视频段；
在所述直播视频段中选取至少一个视频帧作为疑似风险帧。
可选地，计算机可执行指令在被执行时，所述在所述直播视频段中选取至少一个视频帧作为疑似风险帧，包括：
按照视频帧提取时间间隔，在所述直播视频段中提取多个备选视频帧；
对提取到的所述多个备选视频帧进行去重处理；
将去重处理后剩余的至少一个所述备选视频帧作为疑似风险帧。
可选地，计算机可执行指令在被执行时，所述视频帧提取时间间隔是通过如下方式确定的：
获取所述互动信息的互动风险值；
根据所述互动风险值，确定视频帧提取时间间隔，其中，所述视频帧提取时间间隔与所述互动风险值负相关。
可选地，计算机可执行指令在被执行时，所述根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的图像风险值；以及，
获取所述互动信息的互动风险值；
根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，计算机可执行指令在被执行时，所述根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
根据所述互动风险值和所述图像风险值，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
可选地，计算机可执行指令在被执行时，所述确定所述互动信息是否满足预设的疑似风险条件，包括：
计算所述互动信息的互动风险值；
根据所述互动风险值，确定所述互动信息是否满足预设的疑似风险条件。
可选地，计算机可执行指令在被执行时，所述互动信息包括：文本互动信息；
所述计算所述互动信息的互动风险值，包括：
对所述文本互动信息进行敏感词识别，确定所述文本互动信息的互动风险值。
可选地，计算机可执行指令在被执行时，所述互动信息包括：语音互动信息；
所述计算所述互动信息的互动风险值，包括：
将所述语音互动信息转换为文本互动信息；
对所述文本互动信息进行敏感词识别，根据敏感词识别结果确定所述语音互动信息的第一风险值；以及，
对所述语音互动信息进行情绪识别，根据情绪识别结果确定所述语音互动信息的第二风险值；
根据所述第一风险值和所述第二风险值，确定所述语音互动信息的互动风险值。
可选地，计算机可执行指令在被执行时，所述互动信息包括：互动统计数据；
所述计算所述互动信息的互动风险值，包括：
根据所述互动统计数据，确定所述目标直播间的互动热度变化信息；
根据所述互动热度变化信息，确定所述互动统计数据的互动风险值。
本申请实施例中的网络直播监测设备，确定获取到的目标直播间的互动信息是否满足预设的疑似风险条件；若是，则根据该互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；根据疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果。可见，通过本申请实施例中的网络直播监测设备，先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
在另一个具体的实施例中，网络直播监测设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对网络直播监测设备设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，计算机可执行指令在被执行时，根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
对所述待识别关键帧进行图像识别，确定所述待识别关键帧的第一图像风险值；并根据所述第一图像风险值，确定第一视频帧识别结果；
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的第二图像风险值；以及，获取所述互动信息的互动风险值；根据所述互动风险值和所述第二图像风险值，确定第二视频帧识别结果；
根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，计算机可执行指令在被执行时，根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
根据所述第一视频帧识别结果和所述第二视频帧识别结果，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
可见，通过本申请实施例中的网络直播监测设备，采用关键帧直播风险识别和互动信息直播风险识别相结合的方式，对目标直播间进行直播风险分析，在关键帧直播风险识别的基础上，引入互动信息直播风险识别能够起到补充识别的效果，加大了视频帧风险监测力度，进而能够进一步提高直播风险分析准确度，进一步防止出现风险直播违规播放的情况。
进一步地，对应上述图2至图8所示的方法，基于相同的技术构思，本申请实施例还提供了一种存储介质，用于存储计算机可执行指令，一种具体的实施例中，该存储介质可以为U盘、光盘、硬盘等，该存储介质存储的计算机可执行指令在被处理器执行时，能实现以下流程：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧，包括：
基于所述互动信息的时间信息，在所述目标直播间的直播视频中截取与所述时间信息对应的直播视频段；
在所述直播视频段中选取至少一个视频帧作为疑似风险帧。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述在所述直播视频段中选取至少一个视频帧作为疑似风险帧，包括：
按照视频帧提取时间间隔，在所述直播视频段中提取多个备选视频帧；
对提取到的所述多个备选视频帧进行去重处理；
将去重处理后剩余的至少一个所述备选视频帧作为疑似风险帧。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述视频帧提取时间间隔是通过如下方式确定的：
获取所述互动信息的互动风险值；
根据所述互动风险值，确定视频帧提取时间间隔，其中，所述视频帧提取时间间隔与所述互动风险值负相关。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述根据所述疑似风险帧对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的图像风险值；以及，
获取所述互动信息的互动风险值；
根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
根据所述互动风险值和所述图像风险值，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述确定所述互动信息是否满足预设的疑似风险条件，包括：
计算所述互动信息的互动风险值；
根据所述互动风险值，确定所述互动信息是否满足预设的疑似风险条件。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述互动信息包括：文本互动信息；
所述计算所述互动信息的互动风险值，包括：
对所述文本互动信息进行敏感词识别，确定所述文本互动信息的互动风险值。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述互动信息包括：语音互动信息；
所述计算所述互动信息的互动风险值，包括：
将所述语音互动信息转换为文本互动信息；
对所述文本互动信息进行敏感词识别，根据敏感词识别结果确定所述语音互动信息的第一风险值；以及，
对所述语音互动信息进行情绪识别，根据情绪识别结果确定所述语音互动信息的第二风险值；
根据所述第一风险值和所述第二风险值，确定所述语音互动信息的互动风险值。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，所述互动信息包括：互动统计数据；
所述计算所述互动信息的互动风险值，包括：
根据所述互动统计数据，确定所述目标直播间的互动热度变化信息；
根据所述互动热度变化信息，确定所述互动统计数据的互动风险值。
本申请实施例中的存储介质存储的计算机可执行指令在被处理器执行时，确定获取到的目标直播间的互动信息是否满足预设的疑似风险条件；若是，则根据该互动信息，从目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；根据疑似风险帧对目标直播间进行直播风险分析，得到风险监测结果。可见，通过本申请实施例中的存储介质，先基于互动信息识别出疑似风险的直播视频，再对该直播视频中与互动信息相关的视频帧进行直播风险分析，通过引入目标直播间的互动信息，由于互动信息的识别效率高，且可以快速定位到疑似风险的直播视频，从而有针对性地对该直播视频进行直播风险分析，这样能够提高直播风险分析效率和准确度，降低因视频帧提取遗漏而出现风险直播违规播放的情况。
在另一个具体的实施例中，该存储介质可以为U盘、光盘、硬盘等，该存储介质存储的计算机可执行指令在被处理器执行时，能实现以下流程：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；
根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，根据所述待识别关键帧和所述疑似风险帧，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
对所述待识别关键帧进行图像识别，确定所述待识别关键帧的第一图像风险值；并根据所述第一图像风险值，确定第一视频帧识别结果；
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的第二图像风险值；以及，获取所述互动信息的互动风险值；根据所述互动风险值和所述第二图像风险值，确定第二视频帧识别结果；
根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果。
可选地，该存储介质存储的计算机可执行指令在被处理器执行时，根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
根据所述第一视频帧识别结果和所述第二视频帧识别结果，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
可见，通过本申请实施例中的存储介质，采用关键帧直播风险识别和互动信息直播风险识别相结合的方式，对目标直播间进行直播风险分析，在关键帧直播风险识别的基础上，引入互动信息直播风险识别能够起到补充识别的效果，加大了视频帧风险监测力度，进而能够进一步提高直播风险分析准确度，进一步防止出现风险直播违规播放的情况。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device，PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (23)

1.一种网络直播监测方法，其特征在于，包括：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
根据所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
2.根据权利要求1所述的方法，其特征在于，所述根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧，包括：
基于所述互动信息的时间信息，在所述目标直播间的直播视频中截取与所述时间信息对应的直播视频段；
在所述直播视频段中选取至少一个视频帧作为疑似风险帧。
3.根据权利要求2所述的方法，其特征在于，所述在所述直播视频段中选取至少一个视频帧作为疑似风险帧，包括：
按照视频帧提取时间间隔，在所述直播视频段中提取多个备选视频帧；
对提取到的所述多个备选视频帧进行去重处理；
将去重处理后剩余的至少一个所述备选视频帧作为疑似风险帧。
4.根据权利要求3所述的方法，其特征在于，所述视频帧提取时间间隔是通过如下方式确定的：
获取所述互动信息的互动风险值；
根据所述互动风险值，确定视频帧提取时间间隔，其中，所述视频帧提取时间间隔与所述互动风险值负相关。
5.根据权利要求1所述的方法，其特征在于，所述根据所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的图像风险值；以及，
获取所述互动信息的互动风险值；
根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
6.根据权利要求5所述的方法，其特征在于，所述根据所述互动风险值和所述图像风险值，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
根据所述互动风险值和所述图像风险值，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
7.根据权利要求1所述的方法，其特征在于，所述确定所述互动信息是否满足预设的疑似风险条件，包括：
计算所述互动信息的互动风险值；
根据所述互动风险值，确定所述互动信息是否满足预设的疑似风险条件。
8.根据权利要求7所述的方法，其特征在于，所述互动信息包括：文本互动信息；
所述计算所述互动信息的互动风险值，包括：
对所述文本互动信息进行敏感词识别，确定所述文本互动信息的互动风险值。
9.根据权利要求7所述的方法，其特征在于，所述互动信息包括：语音互动信息；
所述计算所述互动信息的互动风险值，包括：
将所述语音互动信息转换为文本互动信息；
对所述文本互动信息进行敏感词识别，根据敏感词识别结果确定所述语音互动信息的第一风险值；以及，
对所述语音互动信息进行情绪识别，根据情绪识别结果确定所述语音互动信息的第二风险值；
根据所述第一风险值和所述第二风险值，确定所述语音互动信息的互动风险值。
10.根据权利要求7所述的方法，其特征在于，所述互动信息包括：互动统计数据；
所述计算所述互动信息的互动风险值，包括：
根据所述互动统计数据，确定所述目标直播间的互动热度变化信息；
根据所述互动热度变化信息，确定所述互动统计数据的互动风险值。
11.一种网络直播监测方法，其特征在于，包括：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
根据所述待识别关键帧的图像风险值、所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
12.根据权利要求11所述的方法，其特征在于，根据所述待识别关键帧的图像风险值、所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
对所述待识别关键帧进行图像识别，确定所述待识别关键帧的第一图像风险值；并根据所述第一图像风险值，确定第一视频帧识别结果；
对所述疑似风险帧进行图像识别，确定所述疑似风险帧的第二图像风险值；以及，获取所述互动信息的互动风险值；根据所述互动风险值和所述第二图像风险值，确定第二视频帧识别结果；
根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果。
13.根据权利要求12所述的方法，其特征在于，根据所述第一视频帧识别结果和所述第二视频帧识别结果，对所述目标直播间进行直播风险分析，得到风险监测结果，包括：
根据所述第一视频帧识别结果和所述第二视频帧识别结果，确定所述目标直播间的直播风险值；
确定所述直播风险值所属的风险等级，将所述风险等级作为所述目标直播间的风险监测结果。
14.一种网络直播监测装置，其特征在于，包括：
互动信息获取模块，用于获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
疑似风险确定模块，用于确定所述互动信息是否满足预设的疑似风险条件；
视频帧选取模块，用于若判断结果为是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
监测结果确定模块，用于根据所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
15.一种网络直播监测装置，其特征在于，包括：
关键帧提取模块，用于按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
互动信息获取模块，用于获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
疑似风险确定模块，用于确定所述互动信息是否满足预设的疑似风险条件；
视频帧选取模块，用于若判断结果为是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
监测结果确定模块，用于根据所述待识别关键帧的图像风险值、所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
16.一种网络直播监测设备，其特征在于，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
根据所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
17.一种网络直播监测设备，其特征在于，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
根据所述待识别关键帧的图像风险值、所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
18.一种存储介质，用于存储计算机可执行指令，其特征在于，所述可执行指令在被处理器执行时实现以下流程：
获取目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
根据所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
19.一种存储介质，用于存储计算机可执行指令，其特征在于，所述可执行指令在被处理器执行时实现以下流程：
按照预设时间间隔或预设视频帧差异阈值，从目标直播间的直播视频中提取多个待识别关键帧；以及，
获取所述目标直播间的互动信息，其中，所述互动信息包括：文本互动信息、语音互动信息和互动统计数据中至少一种；
确定所述互动信息是否满足预设的疑似风险条件；
若是，则根据所述互动信息，从所述目标直播间的直播视频中选取至少一个视频帧作为疑似风险帧；其中，所述疑似风险帧的播放时间与所述互动信息的出现时间相对应；
根据所述待识别关键帧的图像风险值、所述疑似风险帧的图像风险值和所述互动信息的互动风险值，对所述目标直播间进行直播风险分析，得到风险监测结果。
20.一种数据处理方法，其特征在于，包括：
在多个图像数据的展示或播放过程中，获取关联数据，其中，所述关联数据的类型包括：文本、图像和语音中至少一种；
确定所述关联数据满足预设的疑似风险条件；
根据满足预设的疑似风险条件的所述关联数据，获取所述多个图像数据中至少一个目标图像数据；其中，所述目标图像数据的出现时间与所述关联数据的出现时间相对应；
根据所述目标图像数据的图像风险值和所述关联数据的互动风险值，对获取到的所述目标图像数据进行风险分析，得到风险分析结果。
21.根据权利要求20所述的方法，其特征在于，所述根据满足预设的疑似风险条件的所述关联数据，获取所述多个图像数据中至少一个目标图像数据，包括：
在所述多个图像数据中选取与满足预设的疑似风险条件的所述关联数据相关的图像数据；
将选取出的所述图像数据作为目标图像数据。
22.根据权利要求20所述的方法，其特征在于，所述根据所述目标图像数据的图像风险值和所述关联数据的互动风险值，对获取到的所述目标图像数据进行风险分析，得到风险分析结果，包括：
对所述目标图像数据进行图像识别，确定所述目标图像数据的图像风险值；以及，
获取满足预设的疑似风险条件的所述关联数据的互动风险值；
根据所述互动风险值和所述图像风险值，对所述目标图像数据进行风险分析，得到风险分析结果。
23.根据权利要求22所述的方法，其特征在于，所述根据所述互动风险值和所述图像风险值，对所述目标图像数据进行风险分析，得到风险分析结果，包括：
根据所述互动风险值和所述图像风险值，确定所述目标图像数据的综合风险值；
确定所述综合风险值所属的风险等级，将所述风险等级作为所述目标图像数据的风险分析结果。
CN201810011550.1A 2018-01-05 2018-01-05 一种网络直播监测方法及装置、数据处理方法 Active CN110012302B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810011550.1A CN110012302B (zh) 2018-01-05 2018-01-05 一种网络直播监测方法及装置、数据处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810011550.1A CN110012302B (zh) 2018-01-05 2018-01-05 一种网络直播监测方法及装置、数据处理方法

Publications (2)

Publication Number Publication Date
CN110012302A CN110012302A (zh) 2019-07-12
CN110012302B true CN110012302B (zh) 2021-09-14

Family

ID=67164666

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810011550.1A Active CN110012302B (zh) 2018-01-05 2018-01-05 一种网络直播监测方法及装置、数据处理方法

Country Status (1)

Country Link
CN (1) CN110012302B (zh)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109327715B (zh) * 2018-08-01 2021-06-04 创新先进技术有限公司 一种视频风险识别方法、装置及设备
CN110856016A (zh) * 2019-11-18 2020-02-28 百度在线网络技术（北京）有限公司 视频直播的监控方法、装置、电子设备及存储介质
CN110944217A (zh) * 2019-12-12 2020-03-31 北京达佳互联信息技术有限公司 直播信息处理方法、装置及服务器、存储介质
CN111586421A (zh) * 2020-01-20 2020-08-25 全息空间(深圳)智能科技有限公司 直播平台信息审核方法、系统及存储介质
CN111343146B (zh) * 2020-02-04 2022-08-09 北京字节跳动网络技术有限公司 数据审核方法、系统、计算机可读介质及电子设备
CN111836064B (zh) * 2020-07-02 2022-01-07 北京字节跳动网络技术有限公司 一种直播内容识别方法及装置
CN112218109B (zh) * 2020-09-21 2023-03-24 北京达佳互联信息技术有限公司 多媒体资源获取方法、装置、设备及存储介质
CN112492343B (zh) * 2020-12-16 2023-11-10 浙江大华技术股份有限公司 一种视频直播监控方法及相关装置
CN114745558B (zh) * 2021-01-07 2024-04-09 北京字节跳动网络技术有限公司 直播监控方法、装置、系统、设备及介质
CN112949691A (zh) * 2021-02-02 2021-06-11 山东寻声网络科技有限公司 一种用于企业的舆情监测系统
CN115134615A (zh) * 2021-03-29 2022-09-30 北京字节跳动网络技术有限公司 语音评论信息处理方法、装置、电子设备及存储介质
CN113315983B (zh) * 2021-05-17 2022-11-11 唐晓晖 一种5g、4g网络聚合直播帧信号传输系统
CN113365113B (zh) * 2021-05-31 2022-09-09 武汉斗鱼鱼乐网络科技有限公司 目标节点识别方法及装置
CN113873278B (zh) * 2021-09-26 2024-01-23 北京奇艺世纪科技有限公司 播放内容审核方法、装置及电子设备
CN114430503B (zh) * 2022-01-25 2023-08-04 上海影宴数码科技有限公司 一种基于短视频大数据叠加推荐方法
CN114528923B (zh) * 2022-01-25 2023-09-26 山东浪潮科学研究院有限公司 基于时域上下文的视频目标检测方法、装置、设备及介质
CN114629797B (zh) * 2022-03-11 2024-03-08 阿里巴巴（中国）有限公司 带宽预测方法、模型生成方法及设备
CN115914512A (zh) * 2022-09-30 2023-04-04 广州安思创信息技术有限公司 直播截图方法、装置、设备及存储介质
CN115964582B (zh) * 2022-11-03 2023-09-19 太平洋电信股份有限公司 一种网络安全风险评估方法及系统
CN117478838A (zh) * 2023-11-01 2024-01-30 珠海经济特区伟思有限公司 一种基于信息安全的分布式视频处理监管系统及方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105872773A (zh) * 2016-06-01 2016-08-17 北京奇虎科技有限公司 视频直播的监控方法及监控装置
CN106250837A (zh) * 2016-07-27 2016-12-21 腾讯科技（深圳）有限公司 一种视频的识别方法、装置和系统

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9811737B2 (en) * 2013-07-03 2017-11-07 Ortiz And Associates Consulting, Llc Methods and systems enabling access by portable wireless handheld devices to data associated with programming rendering on flat panel displays
CN104951742B (zh) * 2015-03-02 2018-06-22 北京奇艺世纪科技有限公司 敏感视频的检测方法和系统
CN106354735A (zh) * 2015-07-22 2017-01-25 杭州海康威视数字技术股份有限公司 一种图像中目标的检索方法和装置
CN105718861B (zh) * 2016-01-15 2019-06-07 北京市博汇科技股份有限公司 一种识别视频流数据类别的方法及装置
CN106412632A (zh) * 2016-10-21 2017-02-15 安徽协创物联网技术有限公司 一种视频直播的监控方法
CN106604133A (zh) * 2016-12-20 2017-04-26 天脉聚源（北京）教育科技有限公司 直播监控方法及装置
CN107197331B (zh) * 2017-05-03 2020-01-31 北京奇艺世纪科技有限公司 一种实时监测直播内容的方法及装置
CN107222780B (zh) * 2017-06-23 2020-11-27 中国地质大学（武汉） 一种直播平台综合状态感知和内容实时监管方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105872773A (zh) * 2016-06-01 2016-08-17 北京奇虎科技有限公司 视频直播的监控方法及监控装置
CN106250837A (zh) * 2016-07-27 2016-12-21 腾讯科技（深圳）有限公司 一种视频的识别方法、装置和系统

Also Published As

Publication number Publication date
CN110012302A (zh) 2019-07-12

Similar Documents

Publication Publication Date Title
CN110012302B (zh) 一种网络直播监测方法及装置、数据处理方法
US9438850B2 (en) Determining importance of scenes based upon closed captioning data
CN110622176A (zh) 视频分区
US10430835B2 (en) Methods, systems, and media for language identification of a media content item based on comments
CN111754267B (zh) 基于区块链的数据处理方法及系统
US11366568B1 (en) Identifying and recommending events of interest in real-time media content
CN104683852B (zh) 处理广播信息的方法和设备
US10721519B2 (en) Automatic generation of network pages from extracted media content
KR20190063352A (ko) 클립 간 유사도 분석에 의한 영상 콘텐츠의 클립 연결 장치 및 방법
CN109327715B (zh) 一种视频风险识别方法、装置及设备
CN110019948B (zh) 用于输出信息的方法和装置
CN111833083A (zh) 多媒体内容的数据处理方法及装置
CN112182281B (zh) 一种音频推荐方法、装置及存储介质
CN111046230A (zh) 内容推荐方法及装置、电子设备和可存储介质
TWI676391B (zh) 視頻搜索方法及裝置
CN116567351B (zh) 一种视频处理方法、装置、设备及介质
CN112492382A (zh) 视频帧提取方法、装置、电子设备和存储介质
US10904586B2 (en) Methods, systems, and media for detecting and transforming rotated video content items
US10362368B1 (en) Inferring entity information in media content
US9357178B1 (en) Video-revenue prediction tool
CN111046232A (zh) 一种视频分类方法、装置及系统
US10536729B2 (en) Methods, systems, and media for transforming fingerprints to detect unauthorized media content items
CN110839010B (zh) 流媒体数据处理方法、装置和设备
CN110909206B (zh) 用于输出信息的方法和装置
CN116229439A (zh) 弹幕识别方法、装置、设备、存储介质和程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant