CN108111867A - 一种直播间发言监控方法及系统 - Google Patents

Abstract

本申请公开了一种直播间发言监控方法包括：若监测到直播观众已进入直播间，则判断直播观众的当前信誉指数是否大于第一预设阈值；若当前信誉指数小于或等于第一预设阈值，则关闭直播间的发言信息输入框；若当前信誉指数大于第一预设阈值，则开启发言信息输入框，并通过发言信息输入框，获取直播观众输入的发言信息，然后判断发言信息是否为合规信息；若发言信息为合规信息，则对发言信息进行显示，若发言信息为非合规信息，则禁止对发言信息进行显示。本申请实现了对直播间发言的有效监控，从而有效地净化了直播间互动环境。

Description

一种直播间发言监控方法及系统

技术领域

本发明涉及互联网技术领域，特别涉及一种直播间发言监控方法及系统。

背景技术

目前，随着视频直播行业的快速发展，各种各样的直播平台层出不穷，为人们的日常办公以及社交娱乐等方面提供了诸多方便。

为了提升直播平台的趣味性和互动性，当前的直播平台中通常都配置有发言功能，如文字评论或弹幕等。然而，现有直播间中时常会出现一些带有人身攻击、歧视、反政府、反社会或涉黄等不当言论，严重污染了直播间的互动环境。为了对直播间的互动环境进行净化，当前直播平台所采取的措施通常是利用直播观众之间的互相举报或者由直播间管理人员手动发现违规观众，并将其踢出直播间。然而，这样的应对措施效率较低，无法有效地净化直播平台的互动环境，致使许多违规言论依然会被发送至直播间。

综上所述可以看出，如何实现对直播间发言的有效监控是目前亟待解决的问题。

发明内容

有鉴于此，本发明的目的在于提供一种直播间发言监控方法及系统，实现了对直播间发言的有效监控，从而有效地净化了直播间互动环境。其具体方案如下：

一种直播间发言监控方法，包括：

若监测到直播观众已进入直播间，则判断所述直播观众的当前信誉指数是否大于第一预设阈值；

若当前信誉指数小于或等于所述第一预设阈值，则关闭所述直播间的发言信息输入框；

若当前信誉指数大于所述第一预设阈值，则开启所述发言信息输入框，并通过所述发言信息输入框，获取所述直播观众输入的发言信息，然后判断所述发言信息是否为合规信息；

若所述发言信息为合规信息，则对所述发言信息进行显示，若所述发言信息为非合规信息，则禁止对所述发言信息进行显示。

可选的，所述判断所述直播观众的当前信誉指数是否大于第一预设阈值的过程之前，还包括：

判断所述直播观众的用户名中是否包含位于第一预设关键词数据库中的关键词，如果是，则按照预设的第一扣减规则，对所述直播观众的信誉指数进行相应的扣减处理。

可选的，所述判断所述直播观众的当前信誉指数是否大于第一预设阈值的过程之前，还包括：

对所述直播观众的用户头像进行图像识别处理，以确定所述用户头像中是否存在违规信息；

若所述用户头像中存在违规信息，则按照预设的第二扣减规则，对所述直播观众的信誉指数进行相应的扣减处理。

可选的，所述关闭所述直播间的发言信息输入框的过程之后，还包括：

判断当前信誉指数是否小于第二预设阈值，如果是，则对所述直播观众进行封号处理，并生成强制退出命令，以控制所述直播观众退出所述直播间。

可选的，所述获取所述直播观众输入的发言信息的过程，包括：

对所述发言信息输入框中的内容信息进行实时监视，得到所述发言信息。

可选的，所述获取所述直播观众输入的发言信息的过程，包括：

对预设的信息发送按钮进行实时监测；

若监测到所述信息发送按钮已被点击，则对当前所述发言信息输入框中的内容信息进行上传处理，以得到所述发言信息。

可选的，所述判断所述发言信息是否为合规信息的过程，包括：

判断所述发言信息中是否包含位于第二预设关键词数据库中的关键词，如果是，则判定所述发言信息为非合规信息，如果否，则判定所述发言信息为合规信息。

可选的，所述判定所述发言信息为非合规信息的过程之后，还包括：

根据所述发言信息中所包含的关键词的类别，确定所述发言信息的恶劣程度；

根据所述发言信息的恶劣程度，对所述直播观众的信誉指数进行相应的扣减处理。

可选的，所述直播间发言监控方法，还包括：

为所述直播观众提供言论举报接口；

通过所述言论举报接口，获取所述直播观众举报的非合规言论；

对所述直播观众举报的非合规言论进行关键词提取处理，得到非合规关键词；

将所述非合规关键词保存至所述第二预设关键词数据库。

本发明还公开了一种直播间发言监控系统，包括：

信誉判断模块，用于当监测到直播观众已进入直播间，则判断所述直播观众的当前信誉指数是否大于第一预设阈值；

关闭模块，用于当所述信誉判断模块判定当前信誉指数小于或等于所述第一预设阈值，则关闭所述直播间的发言信息输入框；

开启模块，用于当所述信誉判断模块判定当前信誉指数大于所述第一预设阈值，则开启所述发言信息输入框；

发言信息获取模块，用于当所述开启模块已开启所述发言信息输入框，则通过所述发言信息输入框，获取所述直播观众输入的发言信息；

发言信息判断模块，用于判断所述发言信息是否为合规信息；

显示控制模块，用于当所述发言信息判断模块判定所述发言信息为合规信息，则对所述发言信息进行显示，当所述发言信息判断模块判定所述发言信息为非合规信息，则禁止对所述发言信息进行显示。

本发明中，直播间发言监控方法包括：若监测到直播观众已进入直播间，则判断直播观众的当前信誉指数是否大于第一预设阈值；若当前信誉指数小于或等于第一预设阈值，则关闭直播间的发言信息输入框；若当前信誉指数大于第一预设阈值，则开启发言信息输入框，并通过发言信息输入框，获取直播观众输入的发言信息，然后判断发言信息是否为合规信息；若发言信息为合规信息，则对发言信息进行显示，若发言信息为非合规信息，则禁止对发言信息进行显示。

可见，本发明只对当前信誉指数满足预设范围的直播观众开放发言功能，这样能够保证发言观众均是当前信誉较好的观众，从而有利于提高发言观众输入的发言信息是合规信息的概率，在此基础上，本发明还会判断直播观众输入的发言信息是否为合规信息，只有当发言信息是合规信息的情况下，才会对发言信息进行显示，否则将会禁止对发言信息进行显示，由此可以进一步保证显示在直播间的发言信息是合规信息，综上可见，本发明实现了对直播间发言的有效监控，从而有效地净化了直播间互动环境。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例公开的一种直播间发言监控方法流程图；

图2为本发明实施例公开的一种直播间发言监控系统结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例公开了一种直播间发言监控方法，参见图1所示，该方法包括：

步骤S11：若监测到直播观众已进入直播间，则判断直播观众的当前信誉指数是否大于第一预设阈值。

本实施例中，直播平台可以在每个月月初为直播观众分配一定量的信誉指数，在这之后，直播平台可以根据直播观众违规言行的具体情况，对其信誉指数进行相应的扣减处理，一旦直播观众的当前信誉指数低于或等于上述第一预设阈值，将会禁止该直播观众使用直播间的发言功能。

例如，在每个月的月初，直播平台可以为每个直播观众分配12分的信誉指数，如果在当月的剩余时间里，如果发现某个直播观众的当前信誉指数低于或等于5分，将会禁止该直播观众使用直播间的发言功能。

步骤S12：若当前信誉指数小于或等于第一预设阈值，则关闭直播间的发言信息输入框。

可以理解的是，关闭直播间的发言信息输入框的过程，具体可以是对直播间的发言信息输入框进行隐藏处理，或者可以是对直播间的发言信息输入框进行无效处理，以使其处于不可接收信息的状态。

步骤S13：若当前信誉指数大于第一预设阈值，则开启发言信息输入框，并通过发言信息输入框，获取直播观众输入的发言信息，然后判断发言信息是否为合规信息。

步骤S14：若发言信息为合规信息，则对发言信息进行显示，若发言信息为非合规信息，则禁止对发言信息进行显示。

可以理解的是，需要说明的是，上述非合规信息具体可以为违反法律法规、政治敏感、色情低俗、营销广告、人身攻击、欺诈骗钱等信息。

可见，本发明实施例只对当前信誉指数满足预设范围的直播观众开放发言功能，这样能够保证发言观众均是当前信誉较好的观众，从而有利于提高发言观众输入的发言信息是合规信息的概率，在此基础上，本发明还会判断直播观众输入的发言信息是否为合规信息，只有当发言信息是合规信息的情况下，才会对发言信息进行显示，否则将会禁止对发言信息进行显示，由此可以进一步保证显示在直播间的发言信息是合规信息，综上可见，本发明实施例实现了对直播间发言的有效监控，从而有效地净化了直播间互动环境。

本发明实施例公开了一种具体的直播间发言监控方法，相对于上一实施例，本实施例对技术方案作了进一步的说明和优化。具体的：

上一实施例步骤S11中，在监测到直播观众已进入直播间的情况下，将会判断直播观众的当前信誉指数是否大于第一预设阈值。本实施例中，在上述判断直播观众的当前信誉指数是否大于第一预设阈值的过程之前，还可以进一步包括：

判断直播观众的用户名中是否包含位于第一预设关键词数据库中的关键词，如果是，则按照预设的第一扣减规则，对直播观众的信誉指数进行相应的扣减处理。

可以理解的是，上述第一预设关键词数据库具体为用于对违规的关键词进行保存的数据库。该数据库中的关键词可以由直播平台管理员或主播通过人工添加的方式来获取到，也可以由后台系统对违规的发言进行关键词提取后得到。另外，上述第一扣减规则具体规定了所扣减的信誉指数的具体大小。

进一步的，在上述判断直播观众的当前信誉指数是否大于第一预设阈值的过程之前，还可以包括：

对直播观众的用户头像进行图像识别处理，以确定用户头像中是否存在违规信息，若用户头像中存在违规信息，则按照预设的第二扣减规则，对直播观众的信誉指数进行相应的扣减处理。

具体的，可以利用深度学习算法对用户头像进行图像识别处理，以确定用户头像中是否存在违规信息，如违反社会道德、邪教、涉黄等头像信息。

上一实施例步骤S12中，在当前信誉指数小于或等于第一预设阈值的情况下，将会关闭直播间的发言信息输入框。本实施例中，在上述关闭直播间的发言信息输入框的过程之后，还可以包括：

判断当前信誉指数是否小于第二预设阈值，如果是，则对直播观众进行封号处理，并生成强制退出命令，以控制直播观众退出直播间。

例如，如果发现某个直播观众的当前信誉指数低于或等于1分，将会对该直播观众进行封号处理，并强制其退出直播间。当然，本实施例还可以进一步包括，当某个直播观众被封号后，将会统计该直播观众被封号的时长，当该时长等于预设时长，则会对该直播观众的账号进行解封处理，并为其重新分配一定的信誉指数。其中，上述预设时长可以是一个月，也可以是两个月等。

进一步的，上一实施例步骤S13中，获取直播观众输入的发言信息的过程，具体可以包括：对发言信息输入框中的内容信息进行实时监视，得到发言信息。

也即，本实施例具体可以通过对上述发言信息输入框中输入的信息进行实时监视的方式，来获取发言信息。当然，除了这种方式之外，本实施例也可以采取如下方式来获取发言信息：对预设的信息发送按钮进行实时监测，若监测到信息发送按钮已被点击，则对当前发言信息输入框中的内容信息进行上传处理，以得到发言信息。

进一步的，上一实施例步骤S13中，判断发言信息是否为合规信息的过程，具体可以包括：

判断发言信息中是否包含位于第二预设关键词数据库中的关键词，如果是，则判定发言信息为非合规信息，如果否，则判定发言信息为合规信息。

可以理解的是，上述第二预设关键词数据库具体为用于对违规的关键词进行保存的数据库。该数据库中的关键词可以由直播平台管理员或主播通过人工添加的方式来获取到，也可以由后台系统对违规的发言进行关键词提取后得到。

本实施例中，在判定发言信息为非合规信息的过程之后，还可以进一步包括：

根据发言信息中所包含的关键词的类别，确定发言信息的恶劣程度，然后根据发言信息的恶劣程度，对直播观众的信誉指数进行相应的扣减处理。

另外，本实施例中的直播间发言监控方法，还可以进一步包括：

为直播观众提供言论举报接口，通过言论举报接口，获取直播观众举报的非合规言论，对直播观众举报的非合规言论进行关键词提取处理，得到非合规关键词，然后将上述非合规关键词保存至第二预设关键词数据库。

需要进一步说明的是，本实施例中，上述第一预设关键词数据库和第二预设关键词数据库可以是同一数据库，当然也可以是不同的数据库。

相应的，本发明实施例还公开了一种直播间发言监控系统，参见图2所示，该系统包括：

信誉判断模块11，用于当监测到直播观众已进入直播间，则判断直播观众的当前信誉指数是否大于第一预设阈值；

关闭模块12，用于当信誉判断模块11判定当前信誉指数小于或等于第一预设阈值，则关闭直播间的发言信息输入框；

开启模块13，用于当信誉判断模块11判定当前信誉指数大于第一预设阈值，则开启发言信息输入框；

发言信息获取模块14，用于当开启模块13已开启发言信息输入框，则通过发言信息输入框，获取直播观众输入的发言信息；

发言信息判断模块15，用于判断发言信息是否为合规信息；

显示控制模块16，用于当发言信息判断模块15判定发言信息为合规信息，则对发言信息进行显示，当发言信息判断模块15判定发言信息为非合规信息，则禁止对发言信息进行显示。

关于上述各个模块更加具体的工作过程可以参考前述实施例中公开的相应内容，在此不再进行赘述。

可见，本发明实施例只对当前信誉指数满足预设范围的直播观众开放发言功能，这样能够保证发言观众均是当前信誉较好的观众，从而有利于提高发言观众输入的发言信息是合规信息的概率，在此基础上，本发明还会判断直播观众输入的发言信息是否为合规信息，只有当发言信息是合规信息的情况下，才会对发言信息进行显示，否则将会禁止对发言信息进行显示，由此可以进一步保证显示在直播间的发言信息是合规信息，综上可见，本发明实施例实现了对直播间发言的有效监控，从而有效地净化了直播间互动环境。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上对本发明所提供的一种直播间发言监控方法及系统进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种直播间发言监控方法，其特征在于，包括：

若监测到直播观众已进入直播间，则判断所述直播观众的当前信誉指数是否大于第一预设阈值；

若当前信誉指数小于或等于所述第一预设阈值，则关闭所述直播间的发言信息输入框；

若当前信誉指数大于所述第一预设阈值，则开启所述发言信息输入框，并通过所述发言信息输入框，获取所述直播观众输入的发言信息，然后判断所述发言信息是否为合规信息；

若所述发言信息为合规信息，则对所述发言信息进行显示，若所述发言信息为非合规信息，则禁止对所述发言信息进行显示。

2.根据权利要求1所述的直播间发言监控方法，其特征在于，所述判断所述直播观众的当前信誉指数是否大于第一预设阈值的过程之前，还包括：

判断所述直播观众的用户名中是否包含位于第一预设关键词数据库中的关键词，如果是，则按照预设的第一扣减规则，对所述直播观众的信誉指数进行相应的扣减处理。

3.根据权利要求1所述的直播间发言监控方法，其特征在于，所述判断所述直播观众的当前信誉指数是否大于第一预设阈值的过程之前，还包括：

对所述直播观众的用户头像进行图像识别处理，以确定所述用户头像中是否存在违规信息；

若所述用户头像中存在违规信息，则按照预设的第二扣减规则，对所述直播观众的信誉指数进行相应的扣减处理。

4.根据权利要求1所述的直播间发言监控方法，其特征在于，所述关闭所述直播间的发言信息输入框的过程之后，还包括：

判断当前信誉指数是否小于第二预设阈值，如果是，则对所述直播观众进行封号处理，并生成强制退出命令，以控制所述直播观众退出所述直播间。

5.根据权利要求1所述的直播间发言监控方法，其特征在于，所述获取所述直播观众输入的发言信息的过程，包括：

对所述发言信息输入框中的内容信息进行实时监视，得到所述发言信息。

6.根据权利要求1所述的直播间发言监控方法，其特征在于，所述获取所述直播观众输入的发言信息的过程，包括：

对预设的信息发送按钮进行实时监测；

若监测到所述信息发送按钮已被点击，则对当前所述发言信息输入框中的内容信息进行上传处理，以得到所述发言信息。

7.根据权利要求1至6任一项所述的直播间发言监控方法，其特征在于，所述判断所述发言信息是否为合规信息的过程，包括：

判断所述发言信息中是否包含位于第二预设关键词数据库中的关键词，如果是，则判定所述发言信息为非合规信息，如果否，则判定所述发言信息为合规信息。

8.根据权利要求7所述的直播间发言监控方法，其特征在于，所述判定所述发言信息为非合规信息的过程之后，还包括：

根据所述发言信息中所包含的关键词的类别，确定所述发言信息的恶劣程度；

根据所述发言信息的恶劣程度，对所述直播观众的信誉指数进行相应的扣减处理。

9.根据权利要求7所述的直播间发言监控方法，其特征在于，还包括：

为所述直播观众提供言论举报接口；

通过所述言论举报接口，获取所述直播观众举报的非合规言论；

对所述直播观众举报的非合规言论进行关键词提取处理，得到非合规关键词；

将所述非合规关键词保存至所述第二预设关键词数据库。

10.一种直播间发言监控系统，其特征在于，包括：

信誉判断模块，用于当监测到直播观众已进入直播间，则判断所述直播观众的当前信誉指数是否大于第一预设阈值；

关闭模块，用于当所述信誉判断模块判定当前信誉指数小于或等于所述第一预设阈值，则关闭所述直播间的发言信息输入框；

开启模块，用于当所述信誉判断模块判定当前信誉指数大于所述第一预设阈值，则开启所述发言信息输入框；

发言信息获取模块，用于当所述开启模块已开启所述发言信息输入框，则通过所述发言信息输入框，获取所述直播观众输入的发言信息；

发言信息判断模块，用于判断所述发言信息是否为合规信息；

显示控制模块，用于当所述发言信息判断模块判定所述发言信息为合规信息，则对所述发言信息进行显示，当所述发言信息判断模块判定所述发言信息为非合规信息，则禁止对所述发言信息进行显示。