CN108833962A - 一种显示信息处理方法及装置和存储介质 - Google Patents

Abstract

本发明公开了一种显示信息处理方法，包括：接收待显示信息；对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。本发明还公开了一种显示信息处理装置和存储介质。

Description

一种显示信息处理方法及装置和存储介质

技术领域

本发明涉及显示信息处理技术，尤其是一种显示信息处理方法及装置和存储介质。

背景技术

网络直播过程中，如果用户发送的消息中有非法、违禁的消息会对直播环境产生不好的影响，为了保证直播环境健康，视频直播网站需要对用户发送的显示信息进行审核，现在普遍采用的人工审核方式不能够及时的对大量的待显示信息进行审核，影响用户的体现，同时也不能处理经过变换的违禁信息，审核成功率较低。

发明内容

有鉴于此，本发明实施例期望提供一种显示信息处理方法及装置、存储介质，能够对所接收的待显示信息进行筛选，以过滤非法信息。

本发明实施例的技术方案是这样实现的：

本发明实施例提供了一种显示信息处理方法，包括：

接收待显示信息；

对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；

当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

上述方案中，所述对所接收的待显示信息的显示权限进行一次筛选，包括：

根据所述待显示信息的内容类型进行一次筛选；

当所述待显示信息的内容为数字类型时，确定所述待显示信息获得免检权限；

当所述待显示信息的内容包括文本类型时，确定所述待显示信息需要进行检测。

上述方案中，所述当所述待显示信息的内容包括文本格类型时，确定所述待显示信息需要进行检测，包括：

在预设的免检字符数据库中，对内容包括文本类型的待显示信息进行字符匹配；

根据所述字符匹配的结果，确定所述内容包括文本类型的待显示信息中获得免检权限的待显示信息。

上述方案中，所述方法还包括：

对所接收的待显示信息的显示权限进行一次筛选之前，确定免检字符数据库的内容；

所述确定免检字符数据库的内容，包括至少以下之一：

将所创建的免检字符表输入所述免检字符数据库；

根据所统计的历史显示信息中的字符出现频率，将出现频率高于第一阈值的字符添加至所述免检字符数据库。

上述方案中，所述方法还包括：

以第一时间间隔检测所述历史显示信息的字符出现频率，根据所述检测结果，更新所述免检字符数据库。

上述方案中，所述对需要进行检测的所述待显示信息进行二次筛选，包括：

确定需要进行二次筛选的所述待显示信息所对应用户的免检权限；

根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略。

上述方案中，所述确定需要进行二次筛选的所述待显示信息所对应用户的免检权限，包括：

检测所述待显示信息所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第一活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第三级免检权限；

所述活跃度用于表征单位时间内历史待显示信息的数量。

上述方案中，所述根根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略，包括：

对获得所述第三级免检权限的用户所发送的待显示信息中的第一比例阈值的信息，执行免检显示策略。

上述方案中，所述方法还包括：

检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第二活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第二级免检权限。

上述方案中，所述方法还包括：

对获得所述第二级免检权限的用户所发送的待显示信息中的第二比例阈值的信息，执行免检显示策略。

上述方案中，所述方法还包括：

检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第三活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第一级免检权限。

上述方案中，所述方法还包括：

对获得所述第三级免检权限的用户所发送的待显示信息中的第三比例阈值的信息，执行免检显示策略。

上述方案中，所述根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略，包括：

响应于所述用户所获得的免检权限，解析与所述免检权限对应的显示策略，获得所述与所述显示策略对应的显示参数；

所述显示参数包括：显示时间和/或显示特征。

上述方案中，所述方法还包括：

对所述用户所获得的免检权限的次数进行统计；

当所述用户所获得的免检权限的次数到达长效免检阈值时，确定所述待显示信息所对应的用户获得长效免检权限。

上述方案中，所述方法包括：

当所述待显示信息所对应的用户获得长效免检权限时，对所述用户发出的所有待显示信息执行免检显策略。

上述方案中，所述根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略，包括：

对获得所述部分免检权限的用户所发送的待显示信息进行信息审核，将经过信息审核的待显示信息进行显示。

本发明实施例还提供了一种显示信息处理装置，包括：

信息收发模块，用于接收待显示信息；

信息筛选模块，用于对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

显示模块，用于当所述待显示信息对应的一次筛选结果为免检信息时，对所述待显示信息进行显示；

所述信息筛选模块，用于当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

上述方案中，

所述信息筛选模块，用于根据所述待显示信息的内容类型进行一次筛选；

所述信息筛选模块，用于确定所述待显示信息获得免检权限；

所述信息筛选模块，用于确定所述待显示信息需要进行检测。

上述方案中，

所述信息筛选模块，用于在预设的免检字符数据库中，对内容包括文本类型的待显示信息进行字符匹配；

所述信息筛选模块，用于根据所述字符匹配的结果，确定所述内容包括文本类型的待显示信息中获得免检权限的待显示信息。

上述方案中，

所述信息筛选模块，用于对所接收的待显示信息的显示权限进行一次筛选之前，确定免检字符数据库的内容；

所述确定免检字符数据库的内容，包括至少以下之一：

将所创建的免检字符表输入所述免检字符数据库；

根据所统计的历史显示信息中的字符出现频率，将出现频率高于第一阈值的字符添加至所述免检字符数据库。

上述方案中，所述装置还包括：

信息更新模块，用于以第一时间间隔检测所述历史显示信息的字符出现频率，根据所述检测结果，更新所述免检字符数据库。

上述方案中，

所述信息筛选模块，用于确定需要进行二次筛选的所述待显示信息所对应用户的免检权限；

所述显示模块，用于根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略。

上述方案中，

所述信息筛选模块，用于检测所述待显示信息所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第一活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第三级免检权限；

所述活跃度用于表征单位时间内历史待显示信息的数量。

上述方案中，

所述显示模块，用于对获得所述第三级免检权限的用户所发送的待显示信息中的第一比例阈值的信息，执行免检显示策略。

上述方案中，

所述信息筛选模块，用于检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第二活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第二级免检权限。

上述方案中，

所述显示模块，用于对获得所述第二级免检权限的用户所发送的待显示信息中的第二比例阈值的信息，执行免检显示策略。

上述方案中，

所述信息筛选模块，用于检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第三活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第一级免检权限。

上述方案中，

所述显示模块，用于对获得所述第三级免检权限的用户所发送的待显示信息中的第三比例阈值的信息，执行免检显示策略。

上述方案中，

所述显示模块，用于响应于所述用户所获得的免检权限，解析与所述免检权限对应的显示策略，获得所述与所述显示策略对应的显示参数；

所述显示参数包括：显示时间和/或显示特征。

上述方案中，

所述信息筛选模块，用于对所述用户所获得的免检权限的次数进行统计；

当所述用户所获得的免检权限的次数到达长效免检阈值时，确定所述待显示信息所对应的用户获得长效免检权限。

上述方案中，

所述显示模块，用于当所述待显示信息所对应的用户获得长效免检权限时，对所述用户发出的所有待显示信息执行免检显策略。

上述方案中，

所述信息筛选模块，用于对获得所述部分免检权限的用户所发送的待显示信息进行信息审核；

所述显示模块，用于将经过信息审核的待显示信息进行显示。

本发明实施例还提供了一种显示信息处理装置，所述装置包括：

处理器和用于存储能够在处理器上运行的计算机程序的存储器，

其中，所述处理器用于运行所述计算机程序时，执行以下操作：

接收待显示信息；

对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；

当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行：

接收待显示信息；

对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；

当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

本发明实施例具有以下有益效果：

1)当接收到大量待显示信息时，通过对所接收的待显示信息的显示权限进行一次筛选，能够迅速识别待显示信息中的免检信息。以提升对待显示信息的处理速度。

2)当所述待显示信息对应的一次筛选结果为非免检信息时，对所述待显示信息进行二次筛选，通过对所述带显示信息的二次筛选，能够有效过滤非法信息，保护网络环境的健康。

附图说明

图1为现有技术中对待显示信息的处理过程示意图；

图2为本发明实施例提供的种显示信息处理方法一个可选的流程示意图；

图3为本发明实施例提供的显示信息处理装置一个可选的组成示意图；

图4为本发明实施例提供的种显示信息处理方法一个可选的流程示意图；

图5为本发明实施例提供的显示信息处理装置一个可选的组成示意图；

图6为本发明实施例提供的种显示信息处理方法应用环境示意图。

具体实施方式

为了能够更加详尽地了解本发明实施例的特点与技术内容，下面结合附图对本发明实施例的实现进行详细阐述，所附附图仅供参考说明之用，并非用来限定本发明。

图1为现有技术中对待显示信息的处理过程示意图，如图1所示，当待显示信息为用户发送的弹幕信息时，现有技术中的处理过程包括：

现有的评论审核装置一般由实时显示信息处理装置和人工审核组成，客户端1发送待审核的弹幕信息至实时显示信息处理装置，经过实时显示信息处理装置和人工审核的处理后将审核通过的弹幕信息向弹幕显示系统推送，由弹幕显示系统进行显示，其他用户在观看弹幕的过程中如果遇到违法信息则向系统举报。

现有技术存在的缺陷包括：1)若没加人工审核环节，一些异化的违禁词汇无法通过系统检测出来，比如违禁词中间加入其它的标识符、违禁词汇替换同音字、违禁符号信息等；2)若加入了人工审核环节，在高峰时段每秒几万条消息过来，人工难免会审核不过来最终导致正常信息无法及时推送出去影响用户体验。

图2为本发明实施例提供的种显示信息处理方法一个可选的流程示意图，其中所述显示信息可以是用户发送的弹幕信息，如图2所示，本发明实施例提供的种显示信息处理方法一个可选的流程包括以下步骤：

步骤201：接收待显示信息；

步骤202：对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果。

在本发明的一个实施例中，所述对所接收的待显示信息的显示权限进行一次筛选，包括：根据所述待显示信息的内容类型进行一次筛选；当所述待显示信息的内容为数字类型时，确定所述待显示信息获得免检权限；当所述待显示信息的内容包括文本类型时，确定所述待显示信息需要进行检测。通过本实施例所示的技术方案，实现了对所接收的带显示信息的初次筛选，由于仅包括数字类型的待显示信息较为简单，因此，对其实行免检可以有效降低待审核的显示信息的数量，保证显示信息处理装置的稳定运行。

在本发明的一个实施例中，所述当所述待显示信息的内容包括文本格类型时，确定所述待显示信息需要进行检测，包括：在预设的免检字符数据库中，对内容包括文本类型的待显示信息进行字符匹配；根据所述字符匹配的结果，确定所述内容包括文本类型的待显示信息中获得免检权限的待显示信息。由于用户所发出的待显示信息具有高的重复性，因此，通过本实施例所示的技术方案，根据所述字符匹配的结果，确定所述内容包括文本类型的待显示信息中获得免检权限的待显示信息，可以有效降低待审核的显示信息的数量，保证显示信息处理装置的稳定运行。例如在实际应用场景中，在消息大规模爆发的时段，用户发送的弹幕消息中有大量的数字类信息如“66666666”“233333”或者热门网络词汇信息，加入该免检装置可以将大量热门网络词汇过滤掉，而不需要进行审核，在很大程度上减轻显示信息处理装置的压力。

在本发明的一个实施例中，所述方法还包括：对所接收的待显示信息的显示权限进行一次筛选之前，确定免检字符数据库的内容；所述确定免检字符数据库的内容，包括至少以下之一：将所创建的免检字符表输入所述免检字符数据库；根据所统计的历史显示信息中的字符出现频率，将出现频率高于第一阈值的字符添加至所述免检字符数据库。通过本实施例所示的技术方案，可以实现对免检字符数据库的创建，其中所述免检字符数据库中的信息即可以由系统管理者通过创建免检字符表的方式实现，也可以通过对历史显示信息的统计获得。

在本发明的一个实施例中，所述方法还包括：以第一时间间隔检测所述历史显示信息的字符出现频率，根据所述检测结果，更新所述免检字符数据库。由于所接收的带显示信息内容复杂，同时每一时期的用户关注点均不同，因此，通过本实施例所示的技术方案，可以实现对免检字符数据库的及时更新。

步骤203：判断所述待显示信息对应的一次筛选结果是否为免检信息，如果是，执行步骤204，否则，执行步骤205。

步骤204：当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示。

步骤205：当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

在本发明的一个实施例中，所述对需要进行检测的所述待显示信息进行二次筛选，包括：确定需要进行二次筛选的所述待显示信息所对应用户的免检权限；根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略。通过本实施例所示的技术方案，对于需要二次筛选的待显示信息，通过筛选拥有免检权限的用户，可以有效减少待审核的显示信息的数量。

在本发明的一个实施例中，所述确定需要进行二次筛选的所述待显示信息所对应用户的免检权限，包括：检测所述待显示信息所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第一活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第三级免检权限；所述活跃度用于表征单位时间内历史待显示信息的数量。具体的，所述活跃度可以表示为最近X分钟内发言条数Y(单位：条/分钟)；其中，所述第三级免检权限表征相应的用户在一定的时间M1分钟(例如是10分钟)内所发出的显示信息是免检的。通过本实施例所示的技术方案，赋予相应用户第三级免检权限，能够实现在一定的时间间隔内降低所述显示信息处理装置的负荷，灵活调节待检显示信息的数量。

在本发明的一个实施例中，所述根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略，包括：对获得所述第三级免检权限的用户所发送的待显示信息中的第一比例阈值的信息，执行免检显示策略。通过本实施例所示的技术方案，对于获得所述第三级免检权限的用户所发送的待显示信息中的第一比例阈值的信息，执行免检显示策略，能够使得相应用户所发出的待显示信息快速显示，有效的提升了用户发送弹幕的体验。

在本发明的一个实施例中，所述显示信息处理方法还包括：检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第二活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第二级免检权限。其中所述第二级免检权限可以是M2分钟，通过本实施例所示的技术方案，由于用户已经获得了第三级免检权限，当相应用户在获得所述第三级免检权限期间表现良好，活跃度到达第二活跃度阈值，未发送过违法信息，因此可以赋予相应用户更高的免检权限，以使用户发出的待显示信息及时的显示，提升用户的使用体验。

在本发明的一个实施例中，所述信息显示方法还包括：对获得所述第二级免检权限的用户所发送的待显示信息中的第二比例阈值的信息，执行免检显示策略。

在本发明的一个实施例中，所述信息显示方法还包括：检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第三活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第一级免检权限。其中所述第二级免检权限可以是M3分钟，通过本实施例所示的技术方案，由于用户已经获得了第三级免检权限，当相应用户在获得所述第三级免检权限期间表现良好，活跃度到达第二活跃度阈值，未发送过违法信息，因此可以赋予相应用户更高的免检权限，以使用户发出的待显示信息及时的显示，提升用户的使用体验。

上述实施例中，M3＞M2＞M1。

在本发明的一个实施例中，所述信息显示方法还包括：对获得所述第三级免检权限的用户所发送的待显示信息中的第三比例阈值的信息，执行免检显示策略。

在本发明的一个实施例中，所述根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略，包括：响应于所述用户所获得的免检权限，解析与所述免检权限对应的显示策略，获得所述与所述显示策略对应的显示参数；所述显示参数包括：显示时间和/或显示特征。

在本发明的一个实施例中，所述信息显示方法还包括：对所述用户所获得的免检权限的次数进行统计；当所述用户所获得的免检权限的次数到达长效免检阈值时，确定所述待显示信息所对应的用户获得长效免检权限。通过本实施例所示的技术方案，当用户所获得的免检权限的次数到达长效免检阈值时说明该用户在相应时间段内所发出的信息均为出现违法行为，该用户的信誉情况较好，通过赋予该用户长效免检权限，可以有效降低显示信息处理系统的负荷，提升该系统对显示信息的处理效率。

在本发明的一个实施例中，所述信息显示方法包括：当所述待显示信息所对应的用户获得长效免检权限时，对所述用户发出的所有待显示信息执行免检显策略。

在本发明的一个实施例中，所述根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略，包括：对获得所述部分免检权限的用户所发送的待显示信息进行信息审核，将经过信息审核的待显示信息进行显示。通过本实施例所示的技术方案，可以实现对于待显示信息的有效审核与监控，避免违法信息影响网络环境。

图3为本发明实施例提供的弹幕处理装置一个可选的组成示意图，其中，所处理的弹幕为用户发送的弹幕，如图3所示，本发明实施例提供的弹幕处理装置一个可选的组成包括：

信息收发模块301，用于接收弹幕；

信息筛选模块302，用于对所接收的待弹幕的显示权限进行一次筛选，得到一次筛选结果；

显示模块303，用于当所述待弹幕对应的一次筛选结果为免检信息时，对所述待弹幕进行显示；

所述信息筛选模块302，用于当所述待弹幕对应的一次筛选结果为非免检信息时，则对所述待弹幕进行二次筛选。

在本发明的一个实施例中，所述信息筛选模块302，用于根据所述待弹幕的内容类型进行一次筛选；所述信息筛选模块302，用于确定所述待弹幕获得免检权限；所述信息筛选模块302，用于确定所述待弹幕需要进行检测。其中，当所述待弹幕的内容为数字类型时，确定所述待弹幕获得免检权限；当所述待弹幕的内容包括文本类型时，确定所述待弹幕需要进行检测。通过本实施例所示的技术方案，实现了对所接收的带弹幕的初次筛选，由于仅包括数字类型的待弹幕较为简单，因此，对其实行免检可以有效降低待审核的弹幕的数量，保证弹幕处理装置的稳定运行。

在本发明的一个实施例中，所述信息筛选模块302，用于在预设的免检字符数据库中，对内容包括文本类型的待弹幕进行字符匹配；所述信息筛选模块302，用于根据所述字符匹配的结果，确定所述内容包括文本类型的待弹幕中获得免检权限的待弹幕。由于用户所发出的待弹幕具有高的重复性，因此，通过本实施例所示的技术方案，根据所述字符匹配的结果，确定所述内容包括文本类型的待弹幕中获得免检权限的待弹幕，可以有效效降低待审核的弹幕的数量，保证弹幕处理装置的稳定运行。例如在实际应用场景中，在消息大规模爆发的时段，用户发送的弹幕消息中有大量的数字类信息如“66666666”“233333”或者热门网络词汇信息，加入该免检装置可以将大量热门网络词汇过滤掉，而不需要进行审核，在很大程度上减轻弹幕处理装置的压力。

在本发明的一个实施例中，所述信息筛选模块302，用于对所接收的待弹幕的显示权限进行一次筛选之前，确定免检字符数据库的内容；所述确定免检字符数据库的内容，包括至少以下之一：将所创建的免检字符表输入所述免检字符数据库；根据所统计的历史弹幕中的字符出现频率，将出现频率高于第一阈值的字符添加至所述免检字符数据库通过本实施例所示的技术方案，可以实现对免检字符数据库的创建，其中所述免检字符数据库中的信息即可以由系统管理者通过创建免检字符表的方式实现，也可以通过对历史弹幕的统计获得。。

在本发明的一个实施例中，所述弹幕处理装置还包括：信息更新模块，用于以第一时间间隔检测所述历史弹幕的字符出现频率，根据所述检测结果，更新所述免检字符数据库。由于所接收的带弹幕内容复杂，同时每一时期的用户关注点均不同，因此，通过本实施例所示的技术方案，可以实现对免检字符数据库的及时更新。

在本发明的一个实施例中，所述信息筛选模块302，用于确定需要进行二次筛选的所述待弹幕所对应用户的免检权限；所述显示模块303，用于根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略。通过本实施例所示的技术方案，对于需要二次筛选的待弹幕，通过筛选拥有免检权限的用户，可以有效减少待审核的弹幕的数量。

在本发明的一个实施例中，所述信息筛选模块302，用于检测所述待弹幕所对应的用户的活跃度，当所述待弹幕所对应的用户的活跃度到达第一活跃度阈值时，确定所述待弹幕所对应的用户获得所述免检权限中的第三级免检权限；所述活跃度用于表征单位时间内历史待弹幕的数量。具体的，所述活跃度可以表示为最近X分钟内发言条数Y(单位：条/分钟)；其中，所述第三级免检权限表征相应的用户在一定的时间M1分钟(例如是10分钟)内所发出的弹幕是免检的。通过本实施例所示的技术方案，赋予相应用户第三级免检权限，能够实现在一定的时间间隔内降低所述弹幕处理装置的负荷，灵活调节待检弹幕的数量。

在本发明的一个实施例中，所述显示模块303，用于对获得所述第三级免检权限的用户所发送的待弹幕中的第一比例阈值的信息，执行免检显示策略。过本实施例所示的技术方案，对于获得所述第三级免检权限的用户所发送的待弹幕中的第一比例阈值的信息，执行免检显示策略，能够使得相应用户所发出的待弹幕快速显示，有效的提升了发出弹幕用户的体验。

在本发明的一个实施例中，所述信息筛选模块302，用于检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待弹幕所对应的用户的活跃度到达第二活跃度阈值时，确定所述待弹幕所对应的用户获得所述免检权限中的第二级免检权限。其中所述第二级免检权限可以是M2分钟，通过本实施例所示的技术方案，由于用户已经获得了第三级免检权限，当相应用户在获得所述第三级免检权限期间表现良好，活跃度到达第二活跃度阈值，未发送过违法信息，因此可以赋予相应用户更高的免检权限，以使用户发出的待弹幕及时的显示，提升用户的使用体验。

在本发明的一个实施例中，所述显示模块303，用于对获得所述第二级免检权限的用户所发送的待弹幕中的第二比例阈值的信息，执行免检显示策略。

在本发明的一个实施例中，所述信息筛选模块302，用于检测已经获得第三级免检权限的用户所对应的用户的活跃度，当所述待弹幕所对应的用户的活跃度到达第三活跃度阈值时，确定所述待弹幕所对应的用户获得所述免检权限中的第一级免检权限。

其中所述第二级免检权限可以是M3分钟，通过本实施例所示的技术方案，由于用户已经获得了第三级免检权限，当相应用户在获得所述第三级免检权限期间表现良好，活跃度到达第二活跃度阈值，未发送过违法信息，因此可以赋予相应用户更高的免检权限，以使用户发出的待弹幕及时的显示，提升用户的使用体验。

上述实施例中，M3＞M2＞M1。

在本发明的一个实施例中，所述显示模块303，用于对获得所述第三级免检权限的用户所发送的待弹幕中的第三比例阈值的信息，执行免检显示策略。

在本发明的一个实施例中，所述显示模块303，用于响应于所述用户所获得的免检权限，解析与所述免检权限对应的显示策略，获得所述与所述显示策略对应的显示参数；所述显示参数包括：显示时间和/或显示特征。

在本发明的一个实施例中，所述信息筛选模块302，用于对所述用户所获得的免检权限的次数进行统计；当所述用户所获得的免检权限的次数到达长效免检阈值时，确定所述待弹幕所对应的用户获得长效免检权限通过本实施例所示的技术方案，当用户所获得的免检权限的次数到达长效免检阈值时说明该用户在相应时间段内所发出的信息均为出现违法行为，该用户的信誉情况较好，通过赋予该用户长效免检权限，可以有效降低弹幕处理系统的负荷，提升该系统对弹幕的处理效率。。

在本发明的一个实施例中，所述显示模块303，用于当所述待弹幕所对应的用户获得长效免检权限时，对所述用户发出的所有待弹幕执行免检显策略。

在本发明的一个实施例中，所述信息筛选模块302，用于对获得所述部分免检权限的用户所发送的待弹幕进行信息审核；所述显示模块303，用于将经过信息审核的待弹幕进行显示。通过本实施例所示的技术方案，可以实现对于待弹幕的有效审核与监控，避免违法信息影响网络环境。

图4为本发明实施例提供的种弹幕处理方法一个可选的流程示意图，其中，弹幕的表现形式为弹幕信息，所述弹幕处装置能够对所述弹幕信息进行处理，所述处理包括对所述弹幕信息进行审核与显示。如图4所示，发明实施例提供的种弹幕处理方法一个可选的流程包括以下步骤：

步骤401：对接收的待显示的弹幕消息进行免检筛选，判断所述弹幕信息是否需要审核，如果是，执行步骤403，否则，执行步骤402。

步骤402：针对确定出的不需要进行审核的弹幕消息，进行显示。

步骤403：针对筛选出的需要审核的弹幕信息进行审核，执行步骤404。

在本发明的一个实施例中，在消息大规模爆发的时段，用户发送的弹幕消息中有大量的数字类信息如“66666666”“233333”或者热门网络词汇信息，加入该免检装置可以将大量热门网络词汇过滤掉，而不需要进行审核，在很大程度上减轻弹幕处理装置的压力。

在本发明的一个实施例中，弹幕处理装置获取待处理的弹幕消息；

弹幕处理装置对待处理的弹幕消息的内容的类型进行判断，判断该形式是“纯数字”类型，还是“非纯数字”类型(包含至少一个中文字或英文字母的，都属于该类型)；

弹幕处理装置根据判断出的类型，筛选出纯数字类型的弹幕消息，作为不需要进行审核的弹幕消息，直接显示；而对于非纯数字类型的弹幕消息，则执行后文所述的步骤2。

如“66666666”、“233333”、“1111111”等弹幕消息，将直接被弹幕处理装置筛选出来，进而这种纯数字的弹幕消息将不会被审核。

在本发明的一个实施例中，在弹幕处理装置中，预先设置免检热门词库，从而，弹幕处理装置可根据免检热门词库中的免检词对弹幕消息进行筛选。

具体地，弹幕处理装置可以收集汇总热门网络词汇，并利用热门网络词汇构建免检热门词库，其中，免检热门词库中的热门词汇可以有以下两个来源：

1、人工导入：管理人员收集当前热点流行网络用语，并整理导入弹幕处理装置中设置的免检热门词库；

2、系统筛选：系统定期统计历史弹幕信息，按照弹幕信息的出现频次，对弹幕信息进行排序，并筛选出排在前TOPn的信息，作为热门网络词汇，并加入免检热门词库。需要说明的是，可以使用新筛序出的热门词汇替换之前的热门词汇，以达到更新免检热门词库的目的，且更新时，人工导入的热门网络词汇不受影响。当然，这里所说的排在前TOPn的信息(n为大于1的正整数)，可以与预先确定出的违禁词汇进行比对，并对包含违禁词汇的信息进行过滤，以保证热门网络词汇中不会包含违禁词汇。与预先确定出的违禁词汇进行比对，可以是与包含有预先确定出的由违禁词汇构成的“词汇黑名单”，进行词汇逐一比对。

免检信息筛选显示系统启动时即可将该免检热门词库加载到缓存，以提高查询效率。

步骤404：对需要审核的弹幕消息所对应的用户进行筛选，判断相应用户所发送的弹幕信息是否需要进行筛选，如果是，执行步骤405，否则执行步骤406。

步骤405：将相应的弹幕消息，确定为需要进行人工审核的弹幕消息。

步骤406：对与免检用户对应的弹幕消息进行直接显示。

在本发明的一个实施例中，免检用户筛选装置判断用户是否为免检用户，其判断依据可以是弹幕处理装置预先根据用户的过往的行为给用户打上的相应标签。所述的标签，主要包括表征用户为免检用户的“免检标签”，以及，表征用户为非免检用户的“非免检标签”。

在本发明的一个实施例中，获得免检标签的用户所发送的弹幕消息可以在一定时间内不经过弹幕处理装置直接推送。同时，可以给获得该标签的用户发送的弹幕消息增加一些独特的消息展示特征(比如特殊样式、特殊显眼位置的展示或者更多的停留时长等)。

在本发明的一个实施例中，还可以根据用户的过往的行为给用户打上的相应标签，其中，弹幕处理装置可以采用以下方式为用户添加免检标签：

弹幕处理装置可以根据用户的活跃度，为用户设置免检标签，活跃度是指：最近X分钟内发言条数Y(单位：条/分钟)。

需要说明的是，弹幕处理装置可以为用户添加以下两种类型的免检标签：

A、临时免检标签：

有效范围：仅在观看同一场直播有效。

具体分为以下三个级别的临时免检标签：

三级免检：弹幕处理装置检测到用户的活跃度达到过S(阈值可动态调整)且未发送过违规消息的时长超过M1分钟则获得可以获得三级免检标签，拥有50％(可根据需要自行设置)的免检特权，即拥有该三级免检标签的用户在直播接下来的时间中有50％的消息免检；

二级免检：针对已经获得三级免检标签的用户，弹幕处理装置可以进一步地对用户有无违规发言进行监控(即对该用户发送的弹幕中50％的弹幕消息进行监控)，当监控到用户未发送过违规消息的时长达到M2分钟(M2＞M1)，则该用户可以获得二级免检标签，拥有60％免检特权，即拥有该二级免检标签的用户在直播接下来的时间中有60％的消息免检；

一级免检：针对已经获得二级免检标签的用户，弹幕处理装置可以进一步地对用户有无违规发言进行监控(即对该用户发送的弹幕中30％的弹幕消息进行监控)当监控到用户未发送过违规消息的时长达到M3分钟(M3＞M2)，则该用户可以获得三级免检标签，拥有90％免检特权。

B、长效免检标签：

有效范围：针对所有直播间内所发送弹幕的内容。

弹幕处理装置可以为满足以下情况的用户设置长效免检标签：

当弹幕处理装置检测到用户在单位时间内，比如最近30天内(可根据实际应用场景调整)获得了X个临时免检标签，则可以为该用户添加长效免检标签。设置有长效免检标签的用户在以后的直播观看中享有相应特殊弹幕的发送权限，获得的长效免检标签的级别以X中获得最多的那个临时标签为准(遇到次数相同时，则以获得的临时免检标签中级别更高的标签为准)。

例如，用户A在30天内获得临时免检标签X＝3次，其中2次为二级标签，1次为一级标签，则用户A获得二级长效免检标签(即60％免检特权)；再比如，用户B在30天内获得临时免检标签X＝4次，其中2次为二级标签，2次为一级标签，则用户B可获得二级长效免检标签(即60％免检特权)。

在本发明的一个实施例中，当弹幕处理装置监测到拥有免检标签的用户出现以下行为时，将取消该用户获得的免检标签：

1)弹幕处理装置监测到该用户发出违规的弹幕消息；

2)该场直播结束，则在该场直播期间下发的临时免检标签自动失效。

图5为本发明实施例提供的弹幕处理装置一个可选的结构示意图，如图5所示，本发明实施例提供的弹幕处理装置一个可选的结构包括：

弹幕处理装置501，包括筛选模块5011和显示模块5012，其中，

所述筛选模块5011用于接收用户发出的弹幕消息，并对所接收的弹幕消息进行筛选；

所述显示模块5012用于显示经过审核的弹幕信息。

具体的，用户发出的一条弹幕消息，首先经过弹幕处理装置的筛选(由免检词库提供数据支持)，筛选通过的消息将由所述显示模块5012进行显示。未通过的弹幕处理装置筛选的消息，将通过文本弹幕处理装置进行审核，在文本弹幕处理装置审核通过后，将通过免检用户筛选装置进行筛选(由免检用户库提供数据支持)，具有免检标签的用户发送的信息可以直接发送，而非免检用户发出的信息将通过人工审核的方式进行审核。

在本发明的一个实施例中，所述装置还包括日志采集分析装置能够用于对已经显示的弹幕消息进行记录分析，用以更新免检词库和免检用户库。

图6为本发明实施例提供的显示信息处理装置一个可选的组成示意图。如图6所示，显示信息处理装置600可以是带有包括带有显示信息处理功能的移动电话、计算机、数字广播终端、信息收发设备、游戏控制台、平板设备、医疗设备、健身设备、个人数字助理等。图6所示的显示信息处理装置600包括：至少一个处理器601、存储器602、至少一个网络接口604和用户接口603。显示信息处理装置600中的各个组件通过总线系统605耦合在一起。可理解，总线系统605用于实现这些组件之间的连接通信。总线系统605除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见，在图6中将各种总线都标为总线系统605。

其中，用户接口603可以包括显示器、键盘、鼠标、轨迹球、点击轮、按键、按钮、触感板或者触摸屏等。

可以理解，存储器602可以是易失性存储器或非易失性存储器，也可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器(ROM，Read Only Memory)、PROM、EPROM、EEPROM、FRAM、Flash Memory、磁表面存储器、光盘、或CD-ROM；磁表面存储器可以是磁盘存储器或磁带存储器。易失性存储器可以是RAM，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的RAM可用，例如SRAM、SSRAM、DRAM、SDRAM、DDRSDRAM、ESDRAM、SLDRAM、DRRAM。本发明实施例描述的存储器602旨在包括这些和任意其它适合类型的存储器。

本发明实施例中的存储器602包括但不限于：三态内容寻址存储器、静态随机存储器能够存储所接收的待显示信息、被过滤的信息和显示参数等多种类数据以支持显示信息处理装置600的操作。这些数据的示例包括：用于在显示信息处理装置600上操作的任何计算机程序，如操作系统6021和应用程序6022、储功率数据，使用记录、调整规则等。其中，操作系统6021包含各种系统程序，例如框架层、核心库层、驱动层等，用于实现各种基础业务以及处理基于硬件的任务。应用程序6022可以包含各种应用程序，例如带有显示信息功能的客户端、或应用程序等，用于实现接收待显示信息；对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。实现本发明实施例显示信息处理方法的程序可以包含在应用程序6022中。

上述本发明实施例揭示的方法可以应用于处理器601中，或者由处理器601实现。处理器601可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器601中的硬件的集成逻辑电路或者软件形式的操作完成。上述的处理器601可以是通用处理器、DSP，或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。处理器601可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本发明实施例所公开的方法的步骤，可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于存储介质中，该存储介质位于存储器602，处理器601读取存储器602中的信息，结合其硬件完成前述方法的步骤。

在示例性实施例中，显示信息处理装置600可以被一个或多个ASIC、DSP、PLD、CPLD、FPGA、通用处理器、控制器、MCU、Microprocessor、或其他电子元件实现，用于执行所述功率调整方法。

在示例性实施例中，本发明实施例还提供了一种计算机可读存储介质，例如包括计算机程序的存储器602，上述计算机程序可由显示信息处理装置600的处理器601执行，以完成前述方法所述步骤。计算机可读存储介质可以是FRAM、ROM、PROM、EPROM、EEPROM、FlashMemory、磁表面存储器、光盘、或CD-ROM等存储器；也可以是包括上述存储器之一或任意组合的各种设备，如移动电话、计算机、平板设备、个人数字助理等。

本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器运行时，执行：

接收待显示信息；对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

本领域内的技术人员应明白，本发明实施例可提供为方法、系统、或计算机程序产品。因此，本发明实施例可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明实施例是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序操作实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序操作到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的操作产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序操作也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的操作产生包括操作装置的制造品，该操作装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序操作也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的操作提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述，仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (14)

1.一种显示信息处理方法，其特征在于，所述方法包括：

接收待显示信息；

对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；

当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

2.根据权利要求1所述的方法，其特征在于，所述对所接收的待显示信息的显示权限进行一次筛选，包括：

根据所述待显示信息的内容类型进行一次筛选；

当所述待显示信息的内容为数字类型时，确定所述待显示信息获得免检权限；

当所述待显示信息的内容包括文本类型时，确定所述待显示信息需要进行检测。

3.根据权利要求2所述的方法，其特征在于，所述当所述待显示信息的内容包括文本格类型时，确定所述待显示信息需要进行检测，包括：

在预设的免检字符数据库中，对内容包括文本类型的待显示信息进行字符匹配；

根据所述字符匹配的结果，确定所述内容包括文本类型的待显示信息中获得免检权限的待显示信息。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

对所接收的待显示信息的显示权限进行一次筛选之前，确定免检字符数据库的内容；

所述确定免检字符数据库的内容，包括至少以下之一：

将所创建的免检字符表输入所述免检字符数据库；

根据所统计的历史显示信息中的字符出现频率，将出现频率高于第一阈值的字符添加至所述免检字符数据库。

5.根据权利要求1所述的方法，其特征在于，所述对所述待显示信息进行二次筛选，包括：

确定需要进行二次筛选的所述待显示信息所对应用户的免检权限；

根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略。

6.根据权利要求5所述的方法，其特征在于，所述确定需要进行二次筛选的所述待显示信息所对应用户的免检权限，包括：

检测所述待显示信息所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第一活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第三级免检权限；

所述活跃度用于表征单位时间内历史待显示信息的数量。

7.一种显示信息处理装置，其特征在于，所述装置包括：

信息收发模块，用于接收待显示信息；

信息筛选模块，用于对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

显示模块，用于当所述待显示信息对应的一次筛选结果为免检信息时，对所述待显示信息进行显示；

所述信息筛选模块，用于当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

8.根据权利要求7所述的装置，其特征在于，

所述信息筛选模块，用于根据所述待显示信息的内容类型进行一次筛选；

所述信息筛选模块，用于确定所述待显示信息获得免检权限；

所述信息筛选模块，用于确定所述待显示信息需要进行检测。

9.根据权利要求8所述的装置，其特征在于，

所述信息筛选模块，用于在预设的免检字符数据库中，对内容包括文本类型的待显示信息进行字符匹配；

所述信息筛选模块，用于根据所述字符匹配的结果，确定所述内容包括文本类型的待显示信息中获得免检权限的待显示信息。

10.根据权利要求9所述的装置，其特征在于，

所述信息筛选模块，用于对所接收的待显示信息的显示权限进行一次筛选之前，确定免检字符数据库的内容；

所述确定免检字符数据库的内容，包括至少以下之一：

将所创建的免检字符表输入所述免检字符数据库；

根据所统计的历史显示信息中的字符出现频率，将出现频率高于第一阈值的字符添加至所述免检字符数据库。

11.根据权利要求7所述的装置，其特征在于，

所述信息筛选模块，用于确定需要进行二次筛选的所述待显示信息所对应用户的免检权限；

所述显示模块，用于根据确定的所述用户的免检权限，执行与所述用户的免检权限相对应的显示策略。

12.根据权利要求11所述的装置，其特征在于，

所述信息筛选模块，用于检测所述待显示信息所对应的用户的活跃度，当所述待显示信息所对应的用户的活跃度到达第一活跃度阈值时，确定所述待显示信息所对应的用户获得所述免检权限中的第三级免检权限；

所述活跃度用于表征单位时间内历史待显示信息的数量。

13.一种显示信息处理装置，其特征在于，所述装置包括：

处理器和用于存储能够在处理器上运行的计算机程序的存储器，

其中，所述处理器用于运行所述计算机程序时，执行以下操作：

接收待显示信息；

对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；

当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。

14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行：

接收待显示信息；

对所接收的待显示信息的显示权限进行一次筛选，得到一次筛选结果；

当所述待显示信息对应的一次筛选结果为免检信息时，则对所述待显示信息进行显示；

当所述待显示信息对应的一次筛选结果为非免检信息时，则对所述待显示信息进行二次筛选。