CN107682719A - 一种直播内容健康度的监测评估方法及装置 - Google Patents

Abstract

本发明公开了一种直播内容健康度的监测评估方法，包括以下步骤：获取步骤：获取待监测的直播平台并查找待监测的直播平台上的所有主播；监测步骤：逐个判断每个主播是否被标记为跟踪状态，若是，则获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容；判定步骤：根据直播内容的类型分别判断对应主播的每个直播间的直播内容是否违规，并将判断结果存储。本发明还公开了一种电子设备、存储介质和直播内容健康度的监测评估装置。通过本发明能够从多个维度来对直播平台的直播内容进行监测评估，使得监测结果更加准确。

Description

一种直播内容健康度的监测评估方法及装置

技术领域

本发明涉及测评系统，尤其涉及一种对于直播内容健康度的监测评估方法、电子设备、存储介质及装置。

背景技术

直播是指在现场随着事件的发生、发展进程同步制作与发布信息，具有双向流通过程的信息网络发布方式，其形式可分为现场直播、演播室访谈式直播、文字图片直播、视音频直播或由电视(第三方)提供信源的直播。直播与电影单一的过程时空相比，电视直播可显现的时空既有现在时又有过去时，而网络直播除了具备电视的两大时空外还具有压缩时空的功能。比如同步的文字直播、图片直播、赛事直播、手机直播和比分直播等等各种直播频道和样式。

随着现在的网络发展速度越来越快，目前国内的网络直播领域呈火热发展态势，也越来越走进人们的生活。近几年，流行起来的真人网络直播也越来越活，网络直播具有实时性以及内容广泛性，由于网络直播面向的观众群体众多，观众数量大，网络直播的内容和质量会对大众产生一定的影响甚至会对社会产生一些舆论影响，特别是一些内容涉及违规的网络直播，其危害性更加严重，因此，就需要一套能够对直播平台的直播内容进行监测的平台，同时对于当前网络直播的直播内容的形式多样性，比如音频、视频、文本等等，使得监测更加复杂。

发明内容

为了克服现有技术的不足，本发明的目的之一在于提供一种直播内容健康度的监测评估方法，其能够实现对直播平台的直播内容进行监测分析，使得监测结果更加准确。

本发明的目的之二在于提供一种电子设备，其能够实现对直播平台的直播内容进行监测分析，使得监测结果更加准确。

本发明的目的之三在于提供一种计算机可读存储介质，其能够实现对直播平台的直播内容进行监测分析，使得监测结果更加准确。

本发明的目的之四在于提供一种直播内容健康度的监测评估装置，其能够实现对直播平台的直播内容进行监测分析，使得监测结果更加准确。

本发明的目的之一采用如下技术方案实现：

一种直播内容健康度的监测评估方法，包括以下步骤：

获取步骤：获取待监测直播平台并查找待监测直播平台上的所有主播；

监测步骤：逐个判断每个主播是否被标记为跟踪状态，若是，则获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容；

判定步骤：根据直播内容的类型分别判断对应主播的每个直播间的直播内容是否违规，并将判断结果存储。

进一步地，还包括：

查询步骤：根据预设条件查询得到直播信息以及符合所述预设条件的直播信息所对应的取证内容；

导出步骤：将直播信息与对应的取证内容导出并显示。

进一步地，所述直播信息包括主播ID、直播标题、直播平台名称、直播板块、直播人气、直播装、违规状态和处理状态；所述取证内容包括快照、视频、弹幕内容、人气趋势和弹幕趋势。

进一步地，还包括：查处步骤：当直播信息的违规状态为违规时，生成对应的查处文书并显示；所述查处文书包括主播名称、直播分类、直播标题、发现时间、主要问题以及违规条款。

进一步地，所述对直播间进行监测时，还包括：判断直播间是否处于直播状态，若是，则直接获取直播间的直播内容，直至直播间直播结束；若否，则通过直播平台的后台服务器获取直播间的直播内容。

进一步地，所述直播内容的类型包括视频内容、音频内容和文本内容；

判定步骤具体包括：分别获取直播间的视频内容、音频内容和文本内容，并分别判断直播间的视频内容、音频内容以及文本内容是否违规。

进一步地，所述获取步骤还包括：从待监测平台上获取所有的直播间；

对应地，监测步骤还包括：当直播间被标记为跟踪状态时，获取所述直播间的直播内容。

本发明的目的之二采用如下技术方案实现：

一种电子设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如前所述的直播内容健康度的监测评估方法的步骤。

本发明的目的之三采用如下技术方案实现：

一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如前所述的直播内容健康度的监测评估方法的步骤。

本发明的目的之四采用如下技术方案实现：

一种直播内容健康度的监测评估装置，包括：

获取模块，用于获取待监测直播平台并查找待监测直播平台上的所有主播；

监测模块，用于逐个判断每个主播是否被标记为跟踪状态，若是，则获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容；

判定模块，用于判断对应主播的每个直播间的直播内容是否违规，并将判断结果存储。

相比现有技术，本发明的有益效果在于：

通过本发明从多个维度对直播平台中主播的直播内容进行监测评估来得到直播平台中直播内容的健康度评价；同时，还能够根据预设条件来查询得到符合条件的直播信息，直观地查看直播平台中的直播信息的违规内容，从而为建立良好的网络环境提供了基础。

附图说明

图1为本发明提供的直播内容健康度的监测评估方法的流程图；

图2为本发明提供的直播内容健康度的监测评估装置的模块图。

具体实施方式

下面，结合附图以及具体实施方式，对本发明做进一步描述，需要说明的是，在不相冲突的前提下，以下描述的各实施例之间或各技术特征之间可以任意组合形成新的实施例。

实施例

本发明通过从不同的维度来对网络直播内容进行监测分析，来实现对网络直播内容健康度的测评、分析，为建立良好的网络环境提供了基础。

首先，对于直播内容来说，其一般都包括文本、音频和视频等内容数据。

其中对于文本，可分为弹幕文本以及主播动态，弹幕文本是指在直播观众在主播直播器件，通过在直播间发送弹幕与主播进行交流互动的数据；而主播动态是指主播在个人论坛上发布的信息数据以及他人的回复跟帖的信息数据。

对于视频，一般是指主播的直播视频，也即是主播从刚开始直播到结束直播的视频信息，该视频内容包括主播动作、主播衣着、主播周围环境、主播拍摄的画面以及其他能够观众所收看到的视频信息数据。

对于音频，一般是指主播直播音频，也即是主播从直播开始到结束直播的音频信息，其音频内容主要包括主播在直播期间的言语、主播在直播器件播放的音频资料以及其他能够观众所收听到的音频信息数据。

另外，本发明提供的监测方法是指当直播的数据中存在文本、视频或音频的数据包含违禁信息时，则认为该直播内容为违规。

例如，对于文本内容来说：

1)弹幕文本、主播动态包含危害国家安全、泄露国家秘密、颠覆国家政权、破坏国家统一的信息；2)弹幕文本、主播动态包含散布谣言，扰乱社会秩序，破坏社会稳定的信息，例如：种族或者宗教歧视或其他法律禁止内容的出版物、文件、资料等；3)弹幕文本、主播动态包含散布淫秽、色情信息，含有性生活、性暗示等低俗内容的；4)弹幕文本、主播动态包含侮辱或者诽谤他人，侵害他人合法权益内容的；5)弹幕文本、主播动态包含国家规定的禁售商品与信息，例如成人用品、网赚加盟、招商合作、代理、创业、传销、贷款等信息。

对于视频内容来说：1)主播在直播过程中使用的道具包含毒品和吸毒器械、管制刀具、三棱刀(包括机械加工用的三棱刮刀)、带有自锁装置的弹簧刀(跳刀)以及其他类似的单刃、双刃、三棱尖刀的情况；2)主播在直播过程中着装暴露；3)主播在直播过程中播放包含违禁信息的视频；4)主播在直播过程中动作低俗、动作具有性暗示等低俗内容。

对于音频内容来说：1)主播在直播过程讲话内容包含危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的话语；2)主播在直播过程讲话内容包含扰乱社会秩序，破坏社会稳定的话语；3)主播在直播过程讲话内容包含侮辱或者诽谤他人，侵害他人合法权益的话语；4)主播在直播过程讲话内容包含没有取得《医疗广告审查证明》的医疗、医院广告的话语；5)主播在直播过程散布淫秽、色情信息，含有性生活、性暗示等低俗内容的。

另外，对于直播内容是否违规的判断可分别根据直播内容的类型不同，分别进行处理，如：

对于图片：首先收集大量的已经标注为违规图片并通过深度学习算法来对其进行训练，得出图片类别模型。在对图片内容进行判断是否违规时，首先对图片进行预处理，比如转换为统一格式、去重等处理，然后将图片与系统中的图片类别模型进行匹配，从而得出图片的类别，来得出图片是否违规。比如将获取的图片与系统中的包含有色情的图片进行对比识别，发现二者比较相似，则说明该图片为违规图片。本发明通过预先对大量的违规图片进行收集并训练，建立图片模型，这样使得在对图片能够准确地进行识别。

对于视频：将视频通过抽帧转换为多张图片，并对每张图片进行判断其类别，进而得出视频内容的类别。也即是将对视频内容的识别转换为图片内容的识别。

对于文本：通过使用分词工具对文本内容进行分析，然后利用滑动窗口的方式依次判断文本内容中每个词语是否属于违规关键词，最终根据文本内容中所有的词语的判断结果来得出文本内容的识别结果。本发明通过使用滑动窗口的形式对文本进行识别，能够使得识别结果更加准确。

另外，上述对于视频、音频以及文本的识别其采用的技术手段均为现有技术，本发明只是做了简单的介绍。

如图1所示，本发明提供的一种直播内容健康度的监测评估方法，是首先对需要监测的直播采集其直播内容，并对采集到的不同形式的直播内容分别进行分析得出分析结果，最终根据所有的分析结果来得出所监测的直播内容的健康度，具体包括以下步骤：

S1、获取待监测直播平台。直播平台比如：斗鱼、YY、虎牙等网络直播平台，当然也可以其他的直播平台，本发明的直播平台不仅仅只限于本文中所提到的网络直播平台。

S2、根据待监测直播平台获取待监测直播平台上的所有主播。由于直播平台上包括大量的主播，首先获取该直播平台上的所有主播的列表名称，同时还获取每个主播的主播信息，主播信息可包括主播排名、主播ID、主播人气、直播间名称和关注人数等数据。

S3、逐个判断每个主播是否被标记为跟踪状态，若是，则执行S4。

S4、获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容。

由于直播平台上的主播数量庞大，不可能对每个主播均进行监测，因此会在系统中设定哪些主播需要被监测，比如通过标记的方式。因此，在获取了直播平台的所有主播后，依次判断每个主播的标记状态是否为跟踪状态，若是，则说明该主播需要被监测，若否，则不需要被监测。

另外，由于对主播的监测是对主播的直播内容进行监测分析的，因此当某个主播被监测时，获取该主播所对应的所有的直播间，然后对该主播的每个直播间均进行监测并获取对应的直播内容。

优选地，对于直播间的监测时，还包括S41、判断直播间是否处于直播状态，若是，获取当前直播间的直播内容，直至该直播间的直播结束；若否，则可通过直播平台的缓存或直播平台的后台服务器上等来获取直播间的直播内容。

另外，由于直播内容的类型包括视频内容、音频内容和文本内容等，系统可根据不同的直播内容设定不同的任务，然后在获取直播间的直播内容时，可分别调取对应的任务来获取对应的直播内容，这样可以实时、并行得到直播不同类型的直播内容。

对获取到的直播内容还需要进行违规判断，具体为：

S5、判断对应主播的每个直播间的直播内容是否违规，并将判断结果上传至服务器。

对于获取到的主播的直播内容对其进行判断是否违规，然后将判断结果上传至服务器保存。另外，对于直播内容的违规判断可通过上述对视频、音频以及文本的识别判断来得到。其中判断结果可以包括主播的信息、以及该主播的直播内容的健康度的评估值、是否违规、是否违法、是否构成犯罪、触犯的条款等数据。

进一步地，该方法还包括S6、根据预设条件查询得到直播信息以及符合所述预设条件的直播信息所对应的取证内容。其中直播信息，也即是上述监测方法对直播内容进行判断生成的判断结果的信息，可包括主播ID、直播标题、直播平台名称、直播板块、直播人气、直播状态、违规状态和处理状态等数据。而取证内容是指符合预设条件的直播信息所对应的内容，包括快照、视频、弹幕内容、人气趋势、弹幕趋势等数据，比如预设条件为2017年6月的直播信息，则该取证内容可以是直播视频的播放时间的截图。

而预设条件可以是根据多个因素组合而成的，比如根据主播名称、主播ID、直播内容、直播时间等多个条件对服务器上所存储的直播内容进行查询，从而查询得到符合条件的直播信息及对应的取证内容。

S7、将直播信息与对应的取证内容导出并显示出来。将查询结果通过文档或其他方式显示出来，比如通过word、PDF、网页列表等显示出来。

进一步地，还包括：S8、当直播信息的违规状态为违规时，生成对应的查处文书并显示。也即是说，当查询出来的直播信息包含有违规的内容时，生成对应的查处文本公示出来。查处文书的内容包括主播名称、直播分类、直播标题、发现时间、主要问题以及违规条款等。

优选地，本发明还提供了另外一实施例，也即是其中的所述S2、还根据待检测直播平台获取待监测直播平台上的所有的直播间，然后执行S9；

S9、逐个判断每个直播间是否被标记为跟踪状态，若是，则对对应直播间进行监测并获取该直播间的直播内容。

也即是说本发明不仅仅可以针对直播平台上的主播进行监测，还可以针对某一个直播间直接进行监测。而当对主播进行监测时，是对该主播的所有信息以及所有直播间进行监测；而对某一个直播间进行监测时，就只是涉及到当前直播间的直播内容进行监测。同时本发明根据直播内容的类型的不同，分别进行不同的处理，能够从多个维度对直播平台的直播内容进行监测分析，使得监测结果更加准确。

本发明还提供了一种电子设备，其包括存储器、处理器以及存储在存储器上并可在处理上运行的计算机程序，所述处理器执行所述程序时实现前所述的直播内容健康度的监测评估方法的步骤。

本发明还提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现如前所述的直播内容健康度的监测评估方法的步骤。

如图2所示，本发明还提供了一种直播内容健康度的监测评估装置，包括：

获取模块，用于获取待监测直播平台并查找待监测直播平台上的所有主播；

监测模块，用于逐个判断每个主播是否被标记为跟踪状态，若是，则获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容；

判定模块，用于判断对应主播的每个直播间的直播内容是否违规，并将判断结果存储。

进一步地，还包括：查询模块，用于根据预设条件查询得到直播信息以及符合所述预设条件的直播信息所对应的取证内容；

导出模块，用于将直播信息与对应的取证内容导出并显示。

进一步地，还包括：查处模块，用于当直播信息的违规状态为违规时，生成对应的查处文书并显示；所述查处文书包括主播名称、直播分类、直播标题、发现时间、主要问题以及违规条款。

进一步地，所述对直播间进行监测时，还包括：判断直播间是否处于直播状态，若是，则直接获取直播间的直播内容，直至直播间直播结束；若否，则通过直播平台的后台服务器获取直播间的直播内容。

进一步地，判定步骤具体包括：分别获取直播间的视频内容、音频内容和文本内容，并分别判断直播间的视频内容、音频内容以及文本内容是否违规。

进一步地，所述获取步骤还包括：从待监测平台上获取所有的直播间；

对应地，监测步骤还包括：当直播间被标记为跟踪状态时，获取所述直播间的直播内容。

上述实施方式仅为本发明的优选实施方式，不能以此来限定本发明保护的范围，本领域的技术人员在本发明的基础上所做的任何非实质性的变化及替换均属于本发明所要求保护的范围。

Claims (10)

1.一种直播内容健康度的监测评估方法，其特征在于包括以下步骤：

获取步骤：获取待监测的直播平台并查找待监测的直播平台上的所有主播；

监测步骤：逐个判断每个主播是否被标记为跟踪状态，若是，则获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容；

判定步骤：根据直播内容的类型分别判断对应主播的每个直播间的直播内容是否违规，并将判断结果存储。

2.如权利要求1所述的方法，其特征在于还包括：

查询步骤：根据预设条件查询得到直播信息以及符合所述预设条件的直播信息所对应的取证内容；

导出步骤：将直播信息与对应的取证内容导出并显示。

3.如权利要求2所述的方法，其特征在于：所述直播信息包括主播ID、直播标题、直播平台名称、直播板块、直播人气、直播装、违规状态和处理状态；所述取证内容包括快照、视频、弹幕内容、人气趋势和弹幕趋势。

4.如权利要求3所述的方法，其特征在于还包括：查处步骤：当直播信息的违规状态为违规时，生成对应的查处文书并显示；所述查处文书包括主播名称、直播分类、直播标题、发现时间、主要问题以及违规条款。

5.如权利要求1所述的方法，其特征在于：所述对直播间进行监测时，还包括：判断直播间是否处于直播状态，若是，则直接获取直播间的直播内容，直至直播间直播结束；若否，则通过直播平台的后台服务器获取直播间的直播内容。

6.如权利要求1所述的方法，其特征在于：所述直播内容的类型包括视频内容、音频内容和文本内容；

判定步骤具体包括：分别获取直播间的视频内容、音频内容和文本内容，并分别判断直播间的视频内容、音频内容以及文本内容是否违规。

7.如权利要求1所述的方法，其特征在于：

所述获取步骤还包括：从待监测的直播平台上获取所有的直播间；

对应地，监测步骤还包括：当直播间被标记为跟踪状态时，获取所述直播间的直播内容。

8.一种电子设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，其特征在于：所述处理器执行所述程序时实现如权利要求1-7中任一项所述的直播内容健康度的监测评估方法的步骤。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于：所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的直播内容健康度的监测评估方法的步骤。

10.一种直播内容健康度的监测评估装置，其特征在于包括：

获取模块，用于获取待监测的直播平台并查找待监测的直播平台上的所有主播；

监测模块，用于逐个判断每个主播是否被标记为跟踪状态，若是，则获取对应主播的所有直播间，并对每个直播间进行监测获取对应的直播内容；

判定模块，用于判断对应主播的每个直播间的直播内容是否违规，并将判断结果存储。