CN107864401A - 一种基于直播的监控方法、装置、系统及终端设备 - Google Patents

一种基于直播的监控方法、装置、系统及终端设备 Download PDF

Info

Publication number
CN107864401A
CN107864401A CN201711092315.3A CN201711092315A CN107864401A CN 107864401 A CN107864401 A CN 107864401A CN 201711092315 A CN201711092315 A CN 201711092315A CN 107864401 A CN107864401 A CN 107864401A
Authority
CN
China
Prior art keywords
live
live video
direct broadcasting
broadcasting room
skin area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711092315.3A
Other languages
English (en)
Inventor
唐赓
陈竑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Environment And Wind Technology Co Ltd
Original Assignee
Beijing Environment And Wind Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Environment And Wind Technology Co Ltd filed Critical Beijing Environment And Wind Technology Co Ltd
Priority to CN201711092315.3A priority Critical patent/CN107864401A/zh
Publication of CN107864401A publication Critical patent/CN107864401A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明公开了一种基于直播的监控方法、装置、系统及终端设备，其中，所述方法包括：每个客户端在运行所述直播应用的安装包时，周期性的采集直播间的直播图像，其中，所述安装包植入有监控算法；依据监控算法对所述直播图像进行识别，确定识别结果是否满足举报条件；若所述识别结果满足举报条件，则依据所述直播间的标识信息生成举报信息，上报所述举报信息；进而净化网络环境。

Description

一种基于直播的监控方法、装置、系统及终端设备
技术领域
本发明涉及互联网技术领域，具体涉及一种基于直播的监控方法、一 种基于直播的监控装置、一种直播系统及一种终端设备。
背景技术
随着互联网技术的不断发展，网络带宽的增大，为用户使用网络提供 了等多的便利性，也新生了许多基于互联网的产业，如网络直播、网络购 物等。
其中，网络直播是一种新兴的网络社交方式，可以通过网络直播，用 户可以同一时间透过网络系统在不同的交流平台观看视频，网络直播平台 也成为了一种崭新的社交媒体。随着直播技术日益成熟，越来越多的直播 节目开始涌入如游戏直播、美食直播、歌唱直播等等。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部 分地解决上述问题的一种基于直播的监控方法、一种基于直播的监控装 置、一种基于直播的监控系统及一种终端设备，以净化网络环境。
依据本发明的一个方面，提供了一种基于直播的监控方法，应用于直 播系统，所述直播系统包括服务器和多个安装有直播应用的客户端，所述 的方法包括：每个客户端在运行所述直播应用的安装包时，周期性的采集 直播间的直播图像，其中，所述安装包植入有监控算法；依据监控算法对 所述直播图像进行识别，确定识别结果是否满足举报条件；若所述识别结 果满足举报条件，则依据所述直播间的标识信息生成举报信息，上报所述举报信息。
可选地，所述每个客户端在运行所述直播应用的安装包时，周期性的 采集直播间的直播图像，包括：每个客户端在运行所述直播应用的安装包 时，播放选择的直播间的直播视频数据；依据所述监控算法确定周期时 间；依据所述周期时间，周期性的采集所述直播视频数据对应的直播图 像。
可选地，所述依据监控算法对所述直播图像进行识别，包括：依据所 述监控算法对所述直播图像进行人脸识别，确定所述直播图像中的人脸区 域和非人脸区域；从所述直播图像中非人脸区域中识别人体特征，依据所 述人体特征生成识别结果。
可选地，所述从直播图像中非人脸区域中识别人体特征，包括：依据 所述监控算法对所述直播图像的像素点进行识别，确定人体皮肤对应的像 素点；依据所述人体皮肤对应的像素点确定皮肤区域，将所述皮肤区域作 为人体特征。
可选地，所述从直播图像中非人脸区域中识别人体特征，包括：依据 所述监控算法从所述直播图像中提取人体区域的图像数据；对所述人体区 域的图像数据中像素点进行检测，确定对应的皮肤区域，将所述皮肤区域 作为人体特征。
可选地，所述确定识别结果是否满足举报条件，包括：依据所述识别 结果确定皮肤区域的图像占比；判断所述皮肤区域的图像占比是否达到举 报条件。
可选地，依据所述识别结果确定皮肤区域的图像占比，包括：从所述 识别结果中获取皮肤区域，依据所述皮肤区域和直播图像的像素信息确定 皮肤区域的图像占比；或从所述识别结果中获取皮肤区域和人体区域，依 据所述皮肤区域和人体区域确定皮肤区域的图像占比。
可选地，依据所述直播间的标识信息生成举报信息，包括：获取所述 直播间的标识信息，以及获取符合举报条件的直播图像；将所述直播间的 标识信息和符合举报条件的直播图像构成举报信息。
可选地，还包括：获取所述直播间对应直播视频的音频数据，对所述 音频数据进行语音识别；基于识别的文本数据分析恶意信息，依据所述恶 意信息生成举报信息。
根据本发明的另一方面，提供了一种基于直播的监控装置，应用于安 装有直播应用的客户端，包括：
数据采集模块，用于每个客户端在运行所述直播应用的安装包时，周 期性的采集直播间的直播图像，其中，所述安装包植入有监控算法；识别 模块，用于依据监控算法对所述直播图像进行识别，确定识别结果是否满 足举报条件；举报模块，用于若所述识别结果满足举报条件，则依据所述 直播间的标识信息生成举报信息，上报所述举报信息。
可选地，所述数据采集模块，具体用于每个客户端在运行所述直播应 用的安装包时，播放选择的直播间的直播视频数据；依据所述监控算法确 定周期时间；依据所述周期时间，周期性的采集所述直播视频数据对应的 直播图像。
可选地，所述识别模块包括：人脸识别子模块，用于依据所述监控算 法对所述直播图像进行人脸识别，确定所述直播图像中的人脸区域和非人 脸区域；特征识别子模块，用于从所述直播图像中非人脸区域中识别人体 特征，依据所述人体特征生成识别结果。
可选地，所述特征识别子模块，具体用于依据所述监控算法对所述直 播图像的像素点进行识别，确定人体皮肤对应的像素点；依据所述人体皮 肤对应的像素点确定皮肤区域，将所述皮肤区域作为人体特征。
可选地，所述特征识别子模块，具体用于依据所述监控算法对所述直 播图像的像素点进行识别，确定人体皮肤对应的像素点；依据所述人体皮 肤对应的像素点确定皮肤区域，将所述皮肤区域作为人体特征。
可选地，所述识别模块包括：占比确定子模块，用于依据所述识别结 果确定皮肤区域的图像占比；占比判断子模块，用于判断所述皮肤区域的 图像占比是否达到举报条件。
可选地，所述占比判断子模块，具体用于从所述识别结果中获取皮肤 区域，依据所述皮肤区域和直播图像的像素信息确定皮肤区域的图像占 比；或从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域和 人体区域确定皮肤区域的图像占比。
可选地，所述举报模块，具体用于获取所述直播间的标识信息，以及 获取符合举报条件的直播图像；将所述直播间的标识信息和符合举报条件 的直播图像构成举报信息。
可选地，还包括：语音识别模块，用于获取所述直播间对应直播视频 的音频数据，对所述音频数据进行语音识别；基于识别的文本数据分析恶 意信息，依据所述恶意信息生成举报信息。
根据本发明的另一方面，提供了一种直播系统，包括：服务器和客户 端，所述客户端执行如本发明实施例所述的基于直播的监控方法。
根据本发明的另一方面，提供了一种终端设备，包括：一个或多个处 理器；和其上存储有指令的一个或多个机器可读介质，当由所述一个或多 个处理器执行时，使得所述终端设备执行如发明实施例中一个或多个所述 的基于直播的监控方法。
根据本发明的另一方面，提供了一个或多个机器可读介质，其上存储 有指令，当由一个或多个处理器执行时，使得终端设备执行如发明实施例 中一个或多个所述的基于直播的监控方法。
根据本发明的一种基于直播的监控方法，可以通过对直播间的直播图 像的分析，实现对所述直播间的监控；即在客户端运行直播应用的安装包 时，周期性的采集直播间的直播图像，然后依据植入在安装包中的监控算 法对直播图像进行识别，确定对应的识别结果；若确定所述识别结果满足 举报条件，则对所述直播间进行举报；由此解决了网络环境遭受不健康直 播节目污染的问题，取得了净化网络环境的有益效果。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的 技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和 其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方 式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于 本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目 的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符 号表示相同的部件。在附图中：
图1示出了本发明一个实施例的一种基于直播的监控方法的步骤流程 图；
图2示出了本发明另一个实施例的一种基于直播的监控方法的步骤流程 图；
图3示出了本发明一个实施例的一种基于直播的监控装置的结构框图；
图4示出了本发明另一个实施例的一种基于直播的监控装置的结构框 图；
图5示出的是与本发明实施例提供的终端设备相关的部分结构的框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显 示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开 而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更 透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术 人员。
本发明实施例可应用于直播系统，该直播系统包括服务器(集群)和终 端设备，其中，服务器是为直播提供服务的服务器，可以由多个服务器构 成的集群组成，例如通过不同的服务器提供直播管理、数据合成等服务。 直播系统中可以具有多个终端设备，其中包括执行直播的终端设备，也包 括观看直播的终端设备。本申请实施例中，可以针对每个直播视频设置直 播群组或称直播间，该直播间中可以有一个或多个终端设备连接观看该直播视频，从而每个直播间通过直播间ID或直播标识表征。其中，所述终端 设备中安装了直播应用，即终端设备也可称为客户端，所述终端设备(客户 端)用于执行如下所述的基于直播的监控方法。
在直播过程中，主播可采用对应客户端的直播应用采集视频数据上传 给服务器，服务器依据该视频数据生成直播视频流，反馈给观众的客户端 和主播自身的客户端进行显示；其中，观众观看直播节目也需要通过打开 其客户端的直播应用进行观看。
参照图1，示出了本发明一个实施例的一种基于直播的监控方法的步骤 流程图。
步骤102、每个客户端在运行所述直播应用的安装包时，周期性的采集 直播间的直播图像。
直播平台中的用户即可作为观众观看直播节目，也可作为主播进行直 播，进而难免某些用户会通过直播平台进行直播一些不健康的节目，如涉 黄节目、暴力节目等等，污染了网络环境。因此，本发明实施例提供一种 基于直播的分布式监控方法，分布式地在各个终端设备侧对用户主持/观看 的直播节目的监控，对不健康的直播节目进行举报，以净化网络环境。其 中，可将满足举报条件的节目称为不健康的节目，所述举报条件可根据需求设定，例如，若是对涉黄节目的监控，则举报条件可以是直播图像中用 户裸露的面积满足阈值；又例如，若是对暴力节目的监控，则举报条件可 以是直播图像中用户的动作符合设定动作等。
本发明实施例中为更好的对直播节目进行监控，可预先在所述直播应 用的安装包中植入监控算法，用户的终端设备对安装包进行安装后，在用 户打开客户端中的直播应用进行直播或观看直播时，对应客户端会运行所 述直播应用的安装包；对应的，所述安装包中的监测算法也会被启用；因 此在直播过程中，可采用所述监控算法对直播间直播的节目进行监控，判 断是否对该直播间进行举报。
其中，在对直播间直播的节目进行监控时，可从直播间播放的直播视 频数据中周期性的采集直播图像，以通过对采集的直播图像的分析判断所 述直播的节目是否满足举报条件，即判断直播的节目是否是不健康节目。 其中，所述采集的周期可按需求设置如5s。本发明实施例中，在各终端设 备中应用的安装包中植入监控算法，即将监控算法融入到各终端中，从而 直播系统实现对直播视频的分布式自动监控，打造安全、清洁的直播环 境。
步骤104、依据监控算法对所述直播图像进行识别，确定识别结果是否 满足举报条件。
在采集直播图像后，可依据监控算法对采集的直播图像进行识别，得 到对应的识别结果，然后再依据识别结果判断该直播图像是否满足举报条 件；其中，所述监控算法是与举报条件对应的，例如，若举报条件是直播 图像中用户裸露的面积满足阈值，则可采用监控算法识别直播图像中用户 皮肤的面积，将得到的皮肤面积作为识别结果，又例如，若举报的条件是 直播图像中用户的动作符合设定动作，则可采用监控算法识别直播图像中用户的动作数据，将得到的动作数据作为识别结果等。若确定识别结果满 足举报条件，即确定该直播间直播的节目是不健康节目，则执行步骤106； 若确定识别结果不满足举报条件，确定该直播间目前直播的节目为健康节 目，则继续执行步骤104，以判断该直播间后续直播的节目是否是不健康的 节目。
步骤106、依据所述直播间的标识信息生成举报信息，上报所述举报信 息。
若确定该直播间直播的节目是不健康的节目，则可对该直播间进行举 报，以使直播平台或相关部门对该直接节目进行相应的处理，如终止该直 播间直播的节目等。可依据直播截的标识信息如直播间ID，生成对应的举 报信息，并将所述举报信息上报至服务器；服务器在接收到举报信息后， 可依据举报信息中的直播间的标识信息，直接对该直播间进行处理，也可 进一步判断该直播间直播的节目是否是不健康节目，以减少误判率。
综上，本发明实施例的基于直播的监控方法，可以通过对直播间的直 播图像的分析，实现对所述直播间的监控；即在客户端运行直播应用的安 装包时，周期性的采集直播间的直播图像，然后依据植入在安装包中的监 控算法对直播图像进行识别，确定对应的识别结果；若确定所述识别结果 满足举报条件，则对所述直播间进行举报；由此解决了网络环境遭受不健 康直播节目污染的问题，取得了净化网络环境的有益效果。
并且，对于终端中安装的应用，在该应用的安装包中植入监控算法， 使得直播系统能够进行分布式的自动监控，提高监控效率和准确率，打造 安全、清洁的直播环境。
本发明的另一个实施例中，可采用上述实施例所述的基于直播的监控 方法进行涉黄监控，以监控直播间直播的节目是否是涉黄节目，当确定直 播的节目是涉黄节目时，可对该直播间进行举报；具体如下：
参照图2，示出了本发明另一个实施例的一种基于直播的监控方法的步 骤流程图。
步骤202、每个客户端在运行所述直播应用的安装包时，播放选择的直 播间的直播视频数据。
步骤204、依据所述监控算法确定周期时间。
步骤206、依据所述周期时间，周期性的采集所述直播视频数据对应的 直播图像。
客户端中可能安装了多个直播应用，用户可按照需求在客户端中选择 直播应用，并从打开的直播应用中按照需求选择直播间，以观看对应的直 播节目，因此在用户选择启动的直播应用后，对应客户端依据用户的启动 指令确定需要运行的安装包，并运行；以及接收用户对直播间的选择指 令；然后依据用户的选择指令，确定对应的直播间的标识信息，再根据所 述直播间的标识信息获取对应的直播视频数据并播放。在运行直播应用的安装包时，安装包中植入的监控算法也随之启用，进而可在播放直播视频 数据时，依据所述监控算法确定采集直播图像的周期时间；再依据所述周 期时间，周期性的从所述直播视频数据中采集对应的直播图像。
其中，若直播图像中用户裸露的部分较多，则对应的直播节目很可能 是涉黄节目；因此在进行涉黄监控时，可对直播图像中用户进行识别，确 定用户裸露部分的面积占比，若裸露部分的面积占比较大，则确定对应的 直播节目为涉黄节目，若裸露部分的面积占比较小，则确定对应的直播节 目不是涉黄节目。每个主播的直播方式不同，有的主播喜欢远距离直播， 有的主播则喜欢近距离直播；其中，若主播进行近距离直播，即对应直播图像中主播的人脸的占比较大，识别出用户裸露的面积占比也是比较大 的，则此时则很可能出现误判；因此，为减少误判可只计算直播图像中除 用户脸部外的裸露部分的面积占比，具体如下：
步骤208、依据所述监控算法对所述直播图像进行人脸识别，确定所述 直播图像中的人脸区域和非人脸区域。
步骤210、从所述直播图像中非人脸区域中识别人体特征，依据所述人 体特征生成识别结果。
采用所述监控算法，可依次对采集的各直播图像进行人脸识别，识别 出直播图像中用户的人脸区域和非人脸区域；然后对所述直播图像中非人 脸区域中识别人体特征即皮肤区域，再依据将皮肤区域确定识别结果。其 中从非人脸区域识别皮肤区域的方式包括多种，一种方式是直接通过对直 播图像的非人脸区域的各像素的识别，确定直播图像中的皮肤区域，具体 包括如下子步骤：
子步骤S11、依据所述监控算法对所述直播图像的像素点进行识别，确 定人体皮肤对应的像素点.
子步骤S12、依据所述人体皮肤对应的像素点确定皮肤区域，将所述皮 肤区域作为人体特征。
具体的，依据所述监控算法对直播图像中的像素点进行识别，确定各 像素点的信息如RGB信息，亮度信息、灰度信息等等，依据各像素点的信 息确定人体皮肤对应的像素点。然后依据所述人体皮肤对应的像素点确定 皮肤区域，即确定连续人体皮肤对应的像素点组成的区域大小，是否满足 预设尺寸，若满足，可确定该区域为人体的皮肤区域，则将所述皮肤区域 作为人体特征；若不满足，可确定该区域不是人体的皮肤区域；其中，所 述预设尺寸可按照需求确定。
另一种方式是先从直播图像的非人脸区域中提取出人体区域，则对人 体区域的各像素的识别，确定人体区域中的皮肤区域，具体包括如下子步 骤：
子步骤S21、依据所述监控算法从所述直播图像中提取人体区域的图像 数据。例如采用边缘检测算法，从直播图像中的非人脸区域中，提取出人 体区域的图像数据。
子步骤S22、对所述人体区域的图像数据中像素点进行检测，确定对应 的皮肤区域，将所述皮肤区域作为人体特征。本步骤中确定人体区域中皮 肤区域的方法与上述步骤类似，在此不再赘述。
步骤212、依据所述识别结果确定皮肤区域的图像占比。
然后可确定直播图像中人体裸露部分的占比，即依据所述识别结果， 确定皮肤区域的图像占比；其中，确定皮肤区域的图像占比的方式也包括 多种，其中一种方式是，从所述识别结果中获取皮肤区域，依据所述皮肤 区域和直播图像的像素信息确定皮肤区域的图像占比；即可计算皮肤区域 对应像素点的数量，与直播图像对应像素点数量的比值，将所述比值确定 为所述皮肤区域的图像占比。
当主播距离摄像头较远时，若按照上述方式确定皮肤区域的图像占 比，则即使裸露的部分较多，也很可能计算出的皮肤区域的图像占比也较 少，则可能出现漏判的现象；因此，确定皮肤区域的图像占比另一种方式 是，可从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域和 人体区域确定皮肤区域的图像占比；具体的，可依据人脸区域对应的图像 占比，确定用户的人体部分出现在直播图像中的区域较多如上半身、全 身；若是，则获取皮肤区域和人体区域，计算所述皮肤区域对应像素点数 量，与人体区域对应像素点数量的比值，将该比值确定为皮肤区域的图像 占比。
步骤214、判断所述皮肤区域的图像占比是否达到举报条件。
然后判断所述皮肤区域的图像占比是否达到举报条件，即将所述皮肤 区域的图像占比与阈值进行比较，判断所述皮肤区域的图像占比是否大于 阈值，若大于，则确定所述皮肤区域的图像占比达到举报条件，即确定对 应的直播节目为涉黄节目，可执行步骤216；若小于则确定所述皮肤区域的 图像占比未达到举报条件，即确定对应的直播节目暂时不是涉黄节目，可 执行步骤208。
其中，为了保证举报的准确性，可对多帧直播图像的识别结果进行判 断，判断是否多帧直播图像的识别结果均满足举报条件；若是，则确定最 终的识别结果满足举报条件，即对应的直播节目为涉黄节目。
步骤216、获取所述直播间的标识信息，以及获取符合举报条件的直播 图像。
步骤218、将所述直播间的标识信息和符合举报条件的直播图像构成举 报信息。
步骤220、上报所述举报信息。
然后获取所述直播间的标识信息和获取符合举报条件的直播图像，将 所述标识信息和获取符合举报条件的直播图像构成举报信息，然后上报给 服务器；服务器在接收到举报信息后，可再次对举报信息中获取符合举报 条件的直播图像进行分析，进一步确认该直播图像是否满足举报条件，若 是，则可依据直播间的标识信息，对该直播间采取相应的措施；若否，可 忽略本次举报，也可依据直播间的标识信息获取对应的直播视频数据，从直播视频数据中提取直播图像，判断该直播图像是否满足举报条件。
此外，直播过程中，除了直播视频数据对应的直播图像可能涉黄外， 对应的音频也可能涉黄，因此本发明还可以对直播视频的音频数据的识 别，确定对应的直播节目是否是涉黄节目；即获取所述直播间对应直播视 频的音频数据，对所述音频数据进行语音识别，基于识别的文本数据分析 恶意信息，依据所述恶意信息生成举报信息。
综上，本发明实施例中通过对直播间的直播图像的分析，实现对所述 直播间的监控；即在客户端运行直播应用的安装包时，周期性的采集直播 间的直播图像，然后依据植入在安装包中的监控算法对直播图像进行识 别，确定对应的识别结果；若确定所述识别结果满足举报条件，则对所述 直播间进行举报；从而净化了网络环境。此外，本发明实施例采用客户端 的直播应用主动对直播间的直播视频数据进行监控，减少了服务器的负 担，加大了举报力度。
其次，在对直播图像进行人脸识别时，分别确定所述直播图像中的人 脸区域和非人脸区域，再从所述直播图像中非人脸区域中识别人体特征， 依据所述人体特征生成识别结果；进而降低了误报率。
再次，在计算皮肤区域的图像占比时，在确定用户距离摄像头较远 时，可从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域和 人体区域确定皮肤区域的图像占比；从而降低了漏判率。
对于方法实施例，为了简单描述，故将其都表述为一系列的动作组 合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺 序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时 进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属 于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。
本发明实施例还提供了一种基于直播的监控装置，应用于终端设备(客 户端)中。
参照图3，示出了本发明一个实施例的一种基于直播的监控装置的结构 框图。所述装置包括：数据采集模块302、识别模块304和举报模块306， 其中，
数据采集模块302，用于每个客户端在运行所述直播应用的安装包时， 周期性的采集直播间的直播图像，其中，所述安装包植入有监控算法；
识别模块304，用于依据监控算法对所述直播图像进行识别，确定识别 结果是否满足举报条件；
举报模块306，用于若所述识别结果满足举报条件，则依据所述直播间 的标识信息生成举报信息，上报所述举报信息。
本发明的一种基于直播的监控方法，可以通过对直播间的直播图像的 分析，实现对所述直播间的监控；即在客户端运行直播应用的安装包时， 周期性的采集直播间的直播图像，然后依据植入在安装包中的监控算法对 直播图像进行识别，确定对应的识别结果；若确定所述识别结果满足举报 条件，则对所述直播间进行举报；由此解决了网络环境遭受不健康直播节 目污染的问题，取得了净化网络环境的有益效果。
参照图4，示出了本发明一个实施例的一种基于直播的监控装置的结构 框图。所述装置还包括：语音识别模块308，用于获取所述直播间对应直播 视频的音频数据，对所述音频数据进行语音识别；基于识别的文本数据分 析恶意信息，依据所述恶意信息生成举报信息。
本发明的另一实施例中，所述数据采集模块302，具体用于每个客户端 在运行所述直播应用的安装包时，播放选择的直播间的直播视频数据；依 据所述监控算法确定周期时间；依据所述周期时间，周期性的采集所述直 播视频数据对应的直播图像。
本发明的另一实施例中，所述识别模块304包括：人脸识别子模块 3042、特征识别子模块3044、占比确定子模块3046和占比判断子模块 3048，其中，
人脸识别子模块3042，用于依据所述监控算法对所述直播图像进行人 脸识别，确定所述直播图像中的人脸区域和非人脸区域；
特征识别子模块3044，用于从所述直播图像中非人脸区域中识别人体 特征，依据所述人体特征生成识别结果；
其中，所述特征识别子模块3044，具体用于依据所述监控算法对所述 直播图像的像素点进行识别，确定人体皮肤对应的像素点；依据所述人体 皮肤对应的像素点确定皮肤区域，将所述皮肤区域作为人体特征；以及具 体用于依据所述监控算法从所述直播图像中提取人体区域的图像数据；对 所述人体区域的图像数据中像素点进行检测，确定对应的皮肤区域，将所 述皮肤区域作为人体特征。
占比确定子模块3046，用于依据所述识别结果确定皮肤区域的图像占 比；
占比判断子模块3048，用于判断所述皮肤区域的图像占比是否达到举 报条件。
其中，所述占比判断子模块3048，具体用于从所述识别结果中获取皮 肤区域，依据所述皮肤区域和直播图像的像素信息确定皮肤区域的图像占 比；或，从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域 和人体区域确定皮肤区域的图像占比。
本发明的另一实施例中，所述举报模块306，具体用于获取所述直播间 的标识信息，以及获取符合举报条件的直播图像；将所述直播间的标识信 息和符合举报条件的直播图像构成举报信息。
综上，本发明实施例中通过对直播间的直播图像的分析，实现对所述 直播间的监控；即在客户端运行直播应用的安装包时，周期性的采集直播 间的直播图像，然后依据植入在安装包中的监控算法对直播图像进行识 别，确定对应的识别结果；若确定所述识别结果满足举报条件，则对所述 直播间进行举报；从而净化了网络环境。此外，本发明实施例采用客户端 的直播应用主动对直播间的直播视频数据进行监控，减少了服务器的负 担，加大了举报力度。
其次，在对直播图像进行人脸识别时，分别确定所述直播图像中的人 脸区域和非人脸区域，再从所述直播图像中非人脸区域中识别人体特征， 依据所述人体特征生成识别结果；进而降低了误报率。
再次，在计算皮肤区域的图像占比时，在确定用户距离摄像头较远 时，可从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域和 人体区域确定皮肤区域的图像占比；从而降低了漏判率。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处 理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员 应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现 根据本发明实施例的终端设备中的一些或者全部部件的一些或者全部功 能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的 设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本 发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信 号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上 提供，或者以任何其他形式提供。
本发明实施例一个示例中还提供的终端设备，如图5所示，为了便于说 明，仅示出了与本发明实施例相关的部分，具体技术细节未揭示的，请参 照本发明实施例方法部分。该终端设备可以为包括手机、平板电脑、PDA (Personal Digital Assistant，个人数字助理)、POS(Point of Sales，销售设 备)、车载电脑等任意设备。
图5示出的是与本发明实施例提供的终端设备相关的部分结构的框图。 参考图5，终端设备包括：射频(Radio Frequency，RF)电路510、存储器 520、输入单元530、显示单元540、传感器550、音频电路560、无线保真 (wireless fidelity，WiFi)模块570、处理器580、电源590以及摄像头5110 等部件。本领域技术人员可以理解，图5中示出的终端设备结构并不构成对 终端设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件， 或者不同的部件布置。
下面结合图5对终端设备的各个构成部件进行具体的介绍：
RF电路510可用于收发信息或通话过程中，信号的接收和发送，特别 地，将基站的下行信息接收后，给处理器580处理；另外，将设计上行的数 据发送给基站。通常，RF电路510包括但不限于天线、至少一个放大器、 收发信机、耦合器、低噪声放大器(Low NoiseAmplifier，LNA)、双工器 等。此外，RF电路510还可以通过无线通信与网络和其他设备通信。上述 无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(Global System of Mobile communication，GSM)、通用分组无线服务 (General PacketRadio Service，GPRS)、码分多址(Code Division Multiple Access，CDMA)、宽带码分多址(Wideband Code Division Multiple Access, WCDMA)、长期演进(Long Term Evolution，LTE)、电子邮件、短消息 服务(Short Messaging Service，SMS)等。
存储器520可用于存储软件程序以及模块，处理器580通过运行存储在 存储器520的软件程序以及模块，从而执行终端设备的各种功能应用以及数 据处理。存储器520可主要包括存储程序区和存储数据区，其中，存储程序 区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图 像播放功能等)等；存储数据区可存储根据终端设备的使用所创建的数据(比 如音频数据、电话本等)等。此外，存储器520可以包括高速随机存取存储 器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、 或其他易失性固态存储器件。
输入单元530可用于接收输入的数字或字符信息，以及产生与终端设备 的用户设置以及功能控制有关的键信号输入。具体地，输入单元530可包括 触控面板531以及其他输入设备532。触控面板531，也称为触摸屏，可收 集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物 体或附件在触控面板531上或在触控面板531附近的操作)，并根据预先设 定的程式驱动相应的连接装置。可选的，触控面板531可包括触摸检测装置 和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测 触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装 置上接收触摸信息，并将它转换成触点坐标，再送给处理器580，并能接收 处理器580发来的命令并加以执行。此外，可以采用电阻式、电容式、红外 线以及表面声波等多种类型实现触控面板531。除了触控面板531，输入单 元530还可以包括其他输入设备532。具体地，其他输入设备532可以包括 但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、 鼠标、操作杆等中的一种或多种。
显示单元540可用于显示由用户输入的信息或提供给用户的信息以及终 端设备的各种菜单。显示单元540可包括显示面板541，可选的，可以采用 液晶显示器(LiquidCrystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板541。进一步的，触控 面板531可覆盖显示面板541，当触控面板531检测到在其上或附近的触摸 操作后，传送给处理器580以确定触摸事件的类型，随后处理器580根据触 摸事件的类型在显示面板541上提供相应的视觉输出。虽然在图5中，触控 面板531与显示面板541是作为两个独立的部件来实现终端设备的输入和输 入功能，但是在某些实施例中，可以将触控面板531与显示面板541集成而 实现终端设备的输入和输出功能。
终端设备还可包括至少一种传感器550，比如光传感器、运动传感器以 及其他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中， 环境光传感器可根据环境光线的明暗来调节显示面板541的亮度，接近传感 器可在终端设备移动到耳边时，关闭显示面板541和/或背光。作为运动传感 器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小， 静止时可检测出重力的大小及方向，可用于识别终端设备姿态的应用(比如 横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步 器、敲击)等；至于终端设备还可配置的陀螺仪、气压计、湿度计、温度计、 红外线传感器等其他传感器，在此不再赘述。
音频电路560、扬声器561，传声器562可提供用户与终端设备之间的 音频接口。音频电路560可将接收到的音频数据转换后的电信号，传输到扬 声器561，由扬声器561转换为声音信号输出；另一方面，传声器562将收 集的声音信号转换为电信号，由音频电路560接收后转换为音频数据，再将 音频数据输出处理器580处理后，经RF电路510以发送给比如另一终端设 备，或者将音频数据输出至存储器520以便进一步处理。
WiFi属于短距离无线传输技术，终端设备通过WiFi模块570可以帮助 用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽 带互联网访问。虽然图5示出了WiFi模块570，但是可以理解的是，其并 不属于终端设备的必须构成，完全可以根据需要在不改变发明的本质的范围 内而省略。
处理器580是终端设备的控制中心，利用各种接口和线路连接整个终端 设备的各个部分，通过运行或执行存储在存储器520内的软件程序和/或模 块，以及调用存储在存储器520内的数据，执行终端设备的各种功能和处理 数据，从而对终端设备进行整体监控。可选的，处理器580可包括一个或多 个处理单元；优选的，处理器580可集成应用处理器和调制解调处理器，其 中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理 器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到 处理器580中。
终端设备还包括给各个部件供电的电源590(比如电池)，优选的，电 源可以通过电源管理系统与处理器580逻辑相连，从而通过电源管理系统实 现管理充电、放电、以及功耗管理等功能。
摄像头5110可以执行拍照的功能。
尽管未示出，终端设备还可以包括蓝牙模块等，在此不再赘述。
在本发明实施例还提供了一种终端设备，包括：一个或多个处理器； 和，其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处 理器执行时，使得所述终端设备执行如本发明实施例中一个或多个所述的 基于直播的监控方法。
在本发明实施例还提供了一个或多个机器可读介质，其上存储有指 令，当由一个或多个处理器执行时，使得终端设备执行如本发明实施例中 一个或多个所述的基于直播的监控方法。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备 固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的 描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对 任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本 发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实 施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解， 本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中， 并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一 个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征 有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将 该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个 权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要 求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方 式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行 自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。 可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及 此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或 过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明 书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的 任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说 明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相 同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括 其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征 的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下 面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合 方式来使用。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限 制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出 替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成 对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或 步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元 件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的 计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干 个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的 使用不表示任何顺序。可将这些单词解释为名称。
本发明实施例公开了A1、一种基于直播的监控方法，应用于直播系 统，所述直播系统包括服务器和多个安装有直播应用的客户端，所述的方 法包括：
每个客户端在运行所述直播应用的安装包时，周期性的采集直播间的 直播图像，其中，所述安装包植入有监控算法；
依据监控算法对所述直播图像进行识别，确定识别结果是否满足举报 条件；
若所述识别结果满足举报条件，则依据所述直播间的标识信息生成举 报信息，上报所述举报信息。
A2、如A1所述的方法，所述每个客户端在运行所述直播应用的安装 包时，周期性的采集直播间的直播图像，包括：
每个客户端在运行所述直播应用的安装包时，播放选择的直播间的直 播视频数据；
依据所述监控算法确定周期时间；
依据所述周期时间，周期性的采集所述直播视频数据对应的直播图 像。
A3、如A1所述的方法，所述依据监控算法对所述直播图像进行识 别，包括：
依据所述监控算法对所述直播图像进行人脸识别，确定所述直播图像 中的人脸区域和非人脸区域；
从所述直播图像中非人脸区域中识别人体特征，依据所述人体特征生 成识别结果。
A4、如A3所述的方法，所述从直播图像中非人脸区域中识别人体特 征，包括：
依据所述监控算法对所述直播图像的像素点进行识别，确定人体皮肤 对应的像素点；
依据所述人体皮肤对应的像素点确定皮肤区域，将所述皮肤区域作为 人体特征。
A5、如A3所述的方法，所述从直播图像中非人脸区域中识别人体特 征，包括：
依据所述监控算法从所述直播图像中提取人体区域的图像数据；
对所述人体区域的图像数据中像素点进行检测，确定对应的皮肤区 域，将所述皮肤区域作为人体特征。
A6、如A4或A5所述的方法，所述确定识别结果是否满足举报条件， 包括：
依据所述识别结果确定皮肤区域的图像占比；
判断所述皮肤区域的图像占比是否达到举报条件。
A7、如A6所述的方法，依据所述识别结果确定皮肤区域的图像占 比，包括：
从所述识别结果中获取皮肤区域，依据所述皮肤区域和直播图像的像 素信息确定皮肤区域的图像占比；或
从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域和人 体区域确定皮肤区域的图像占比。
A8、如A1所述的方法，依据所述直播间的标识信息生成举报信息， 包括：
获取所述直播间的标识信息，以及获取符合举报条件的直播图像；
将所述直播间的标识信息和符合举报条件的直播图像构成举报信息。
A9、如A1所述的方法，还包括：
获取所述直播间对应直播视频的音频数据，对所述音频数据进行语音 识别；
基于识别的文本数据分析恶意信息，依据所述恶意信息生成举报信 息。
本发明实施例还公开了B10、一种基于直播的监控装置，应用于安装 有直播应用的客户端，包括：
数据采集模块，用于每个客户端在运行所述直播应用的安装包时，周 期性的采集直播间的直播图像，其中，所述安装包植入有监控算法；
识别模块，用于依据监控算法对所述直播图像进行识别，确定识别结 果是否满足举报条件；
举报模块，用于若所述识别结果满足举报条件，则依据所述直播间的 标识信息生成举报信息，上报所述举报信息。
B11、如B10所述的装置，所述数据采集模块，具体用于每个客户端 在运行所述直播应用的安装包时，播放选择的直播间的直播视频数据；依 据所述监控算法确定周期时间；依据所述周期时间，周期性的采集所述直 播视频数据对应的直播图像。
B12、如B10所述的装置，所述识别模块包括：
人脸识别子模块，用于依据所述监控算法对所述直播图像进行人脸识 别，确定所述直播图像中的人脸区域和非人脸区域；
特征识别子模块，用于从所述直播图像中非人脸区域中识别人体特 征，依据所述人体特征生成识别结果。
B13、如B12所述的装置，所述特征识别子模块，具体用于依据所述 监控算法对所述直播图像的像素点进行识别，确定人体皮肤对应的像素 点；依据所述人体皮肤对应的像素点确定皮肤区域，将所述皮肤区域作为 人体特征。
B14、如B12所述的装置，所述特征识别子模块，具体用于依据所述 监控算法从所述直播图像中提取人体区域的图像数据；对所述人体区域的 图像数据中像素点进行检测，确定对应的皮肤区域，将所述皮肤区域作为 人体特征。
B15、如B13或B14所述的装置，所述识别模块包括：
占比确定子模块，用于依据所述识别结果确定皮肤区域的图像占比；
占比判断子模块，用于判断所述皮肤区域的图像占比是否达到举报条 件。
B16、如B15所述的装置，所述占比判断子模块，具体用于从所述识 别结果中获取皮肤区域，依据所述皮肤区域和直播图像的像素信息确定皮 肤区域的图像占比；或
从所述识别结果中获取皮肤区域和人体区域，依据所述皮肤区域和人 体区域确定皮肤区域的图像占比。
B17、如B10所述的装置，所述举报模块，具体用于获取所述直播间 的标识信息，以及获取符合举报条件的直播图像；将所述直播间的标识信 息和符合举报条件的直播图像构成举报信息。
B18、如B10所述的装置，还包括：
语音识别模块，用于获取所述直播间对应直播视频的音频数据，对所 述音频数据进行语音识别；基于识别的文本数据分析恶意信息，依据所述 恶意信息生成举报信息。
本发明实施例还公开了C19、一种直播系统，包括：服务器和客户 端，所述客户端执行如上述A1-A9所述的基于直播的监控方法。
本发明实施例还公开了D20、一种终端设备，包括：
一个或多个处理器；和
其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处 理器执行时，使得所述终端设备执行如A1-A9中一个或多个所述的基于直 播的监控方法。
本发明实施例还公开了E21、一个或多个机器可读介质，其上存储有 指令，当由一个或多个处理器执行时，使得终端设备执行如A1-A9中一个 或多个所述的基于直播的监控方法。

Claims (10)

1.一种基于直播的监控方法，应用于直播系统，所述直播系统包括服务器和多个安装有直播应用的客户端，所述的方法包括：
每个客户端在运行所述直播应用的安装包时，周期性的采集直播间的直播图像，其中，所述安装包植入有监控算法；
依据监控算法对所述直播图像进行识别，确定识别结果是否满足举报条件；
若所述识别结果满足举报条件，则依据所述直播间的标识信息生成举报信息，上报所述举报信息。
2.如权利要求1所述的方法，其特征在于，所述每个客户端在运行所述直播应用的安装包时，周期性的采集直播间的直播图像，包括：
每个客户端在运行所述直播应用的安装包时，播放选择的直播间的直播视频数据；
依据所述监控算法确定周期时间；
依据所述周期时间，周期性的采集所述直播视频数据对应的直播图像。
3.如权利要求1所述的方法，其特征在于，所述依据监控算法对所述直播图像进行识别，包括：
依据所述监控算法对所述直播图像进行人脸识别，确定所述直播图像中的人脸区域和非人脸区域；
从所述直播图像中非人脸区域中识别人体特征，依据所述人体特征生成识别结果。
4.如权利要求3所述的方法，其特征在于，所述从直播图像中非人脸区域中识别人体特征，包括：
依据所述监控算法对所述直播图像的像素点进行识别，确定人体皮肤对应的像素点；
依据所述人体皮肤对应的像素点确定皮肤区域，将所述皮肤区域作为人体特征。
5.如权利要求3所述的方法，其特征在于，所述从直播图像中非人脸区域中识别人体特征，包括：
依据所述监控算法从所述直播图像中提取人体区域的图像数据；
对所述人体区域的图像数据中像素点进行检测，确定对应的皮肤区域，将所述皮肤区域作为人体特征。
6.如权利要求4或5所述的方法，其特征在于，所述确定识别结果是否满足举报条件，包括：
依据所述识别结果确定皮肤区域的图像占比；
判断所述皮肤区域的图像占比是否达到举报条件。
7.一种基于直播的监控装置，应用于安装有直播应用的客户端，包括：
数据采集模块，用于每个客户端在运行所述直播应用的安装包时，周期性的采集直播间的直播图像，其中，所述安装包植入有监控算法；
识别模块，用于依据监控算法对所述直播图像进行识别，确定识别结果是否满足举报条件；
举报模块，用于若所述识别结果满足举报条件，则依据所述直播间的标识信息生成举报信息，上报所述举报信息。
8.一种直播系统，包括：服务器和客户端，所述客户端执行如上述权利要求1-6所述的基于直播的监控方法。
9.一种终端设备，包括：
一个或多个处理器；和
其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处理器执行时，使得所述终端设备执行如权利要求1-6中一个或多个所述的基于直播的监控方法。
10.一个或多个机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得终端设备执行如权利要求1-6中一个或多个所述的基于直播的监控方法。
CN201711092315.3A 2017-11-08 2017-11-08 一种基于直播的监控方法、装置、系统及终端设备 Pending CN107864401A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711092315.3A CN107864401A (zh) 2017-11-08 2017-11-08 一种基于直播的监控方法、装置、系统及终端设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711092315.3A CN107864401A (zh) 2017-11-08 2017-11-08 一种基于直播的监控方法、装置、系统及终端设备

Publications (1)

Publication Number Publication Date
CN107864401A true CN107864401A (zh) 2018-03-30

Family

ID=61701408

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711092315.3A Pending CN107864401A (zh) 2017-11-08 2017-11-08 一种基于直播的监控方法、装置、系统及终端设备

Country Status (1)

Country Link
CN (1) CN107864401A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108805069A (zh) * 2018-06-04 2018-11-13 上海东方报业有限公司 影像检测方法及装置
CN110099282A (zh) * 2019-05-06 2019-08-06 海马云（天津）信息技术有限公司 一种对直播类型应用中的内容进行监控的方法及系统
CN110365996A (zh) * 2019-07-25 2019-10-22 深圳市元征科技股份有限公司 直播管理方法、直播管理平台、电子设备及存储介质
CN110784727A (zh) * 2019-08-23 2020-02-11 腾讯科技（深圳）有限公司 一种用于直播的举报方法及装置
CN112801062A (zh) * 2021-04-07 2021-05-14 平安科技（深圳）有限公司 直播视频识别方法、装置、设备及介质
CN113163153A (zh) * 2021-04-06 2021-07-23 游密科技(深圳)有限公司 视频会议中违规信息的处理方法、装置、介质及电子设备
CN113709519A (zh) * 2021-08-27 2021-11-26 上海掌门科技有限公司 一种用于确定直播遮挡区域的方法与设备
WO2022262719A1 (zh) * 2021-06-15 2022-12-22 北京沃东天骏信息技术有限公司 一种直播处理方法、装置、存储介质及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106412632A (zh) * 2016-10-21 2017-02-15 安徽协创物联网技术有限公司 一种视频直播的监控方法
CN106446803A (zh) * 2016-09-07 2017-02-22 北京小米移动软件有限公司 直播内容识别处理方法、装置及设备
CN106604133A (zh) * 2016-12-20 2017-04-26 天脉聚源（北京）教育科技有限公司 直播监控方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106446803A (zh) * 2016-09-07 2017-02-22 北京小米移动软件有限公司 直播内容识别处理方法、装置及设备
CN106412632A (zh) * 2016-10-21 2017-02-15 安徽协创物联网技术有限公司 一种视频直播的监控方法
CN106604133A (zh) * 2016-12-20 2017-04-26 天脉聚源（北京）教育科技有限公司 直播监控方法及装置

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108805069A (zh) * 2018-06-04 2018-11-13 上海东方报业有限公司 影像检测方法及装置
CN110099282A (zh) * 2019-05-06 2019-08-06 海马云（天津）信息技术有限公司 一种对直播类型应用中的内容进行监控的方法及系统
CN110365996A (zh) * 2019-07-25 2019-10-22 深圳市元征科技股份有限公司 直播管理方法、直播管理平台、电子设备及存储介质
CN110365996B (zh) * 2019-07-25 2021-08-10 深圳市元征科技股份有限公司 直播管理方法、直播管理平台、电子设备及存储介质
CN110784727A (zh) * 2019-08-23 2020-02-11 腾讯科技（深圳）有限公司 一种用于直播的举报方法及装置
CN110784727B (zh) * 2019-08-23 2022-04-19 腾讯科技（深圳）有限公司 一种用于直播的举报方法及装置
CN113163153A (zh) * 2021-04-06 2021-07-23 游密科技(深圳)有限公司 视频会议中违规信息的处理方法、装置、介质及电子设备
CN112801062A (zh) * 2021-04-07 2021-05-14 平安科技（深圳）有限公司 直播视频识别方法、装置、设备及介质
CN112801062B (zh) * 2021-04-07 2021-07-06 平安科技（深圳）有限公司 直播视频识别方法、装置、设备及介质
WO2022262719A1 (zh) * 2021-06-15 2022-12-22 北京沃东天骏信息技术有限公司 一种直播处理方法、装置、存储介质及电子设备
CN113709519A (zh) * 2021-08-27 2021-11-26 上海掌门科技有限公司 一种用于确定直播遮挡区域的方法与设备
CN113709519B (zh) * 2021-08-27 2023-11-17 上海掌门科技有限公司 一种用于确定直播遮挡区域的方法与设备

Similar Documents

Publication Publication Date Title
CN107864401A (zh) 一种基于直播的监控方法、装置、系统及终端设备
CN104822090B (zh) 视频播放的方法、装置和系统
CN107809542B (zh) 应用程序控制方法、装置、存储介质和电子设备
CN108255382A (zh) 一种悬浮菜单内容推荐方法及装置
CN106528036A (zh) 音量调节方法及装置
CN106303733B (zh) 播放直播特效信息的方法和装置
CN108123945A (zh) 随机数据的发放方法、系统及智能终端
CN107562539A (zh) 应用程序处理方法和装置、计算机设备、存储介质
CN106777113A (zh) 应用程序中的数据处理方法、装置及移动终端
CN107544842A (zh) 应用程序处理方法和装置、计算机设备、存储介质
CN108449491A (zh) 信息处理方法、装置、移动终端及计算机可读存储介质
CN108259988A (zh) 一种视频播放控制方法、终端及计算机可读存储介质
CN109788136A (zh) 信息显示方法及移动终端
CN108024134A (zh) 一种基于直播的数据分析方法、装置和终端设备
CN108595201A (zh) 一种应用程序更新方法及移动终端
CN108553896A (zh) 一种状态信息显示控制方法、终端及计算机可读存储介质
CN108270853A (zh) 一种消息处理方法及移动终端
CN108541009A (zh) 一种通信状态的检测方法和终端设备
CN108345474A (zh) 应用程序的启动方法、启动装置及移动终端
CN108288171A (zh) 广告插入方法、服务器及计算机可读存储介质
CN108319833A (zh) 一种应用程序的控制方法及移动终端
CN107103074A (zh) 一种分享信息的处理方法和移动终端
CN108519847A (zh) 一种录屏方法及终端
CN108769126A (zh) 应用推荐方法、移动终端及计算机可读存储介质
CN108009031A (zh) 一种应用程序的控制方法及移动终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20180330

RJ01 Rejection of invention patent application after publication