CN109271768A - 发布信息管理方法、装置、存储介质及终端 - Google Patents

Abstract

本申请实施例公开了发布信息管理方法、装置、存储介质及终端。该方法包括：获取游戏社区中第一发布信息对应的发布者的身份信息；在根据身份信息确定发布者未处于预设黑名单时，获取第一发布信息的信息内容；采用第一预设算法对信息内容进行审核；在审核结果为不合格时，对第一发布信息进行屏蔽处理。本申请实施例通过采用上述技术方案，可以根据信息发布者的身份以及所发布的信息的内容进行双重审核，提高游戏社区中发布信息的审核准确度，降低游戏社区中出现违规内容的概率。

Description

发布信息管理方法、装置、存储介质及终端

技术领域

本申请实施例涉及互联网技术领域，尤其涉及发布信息管理方法、装置、存储介质及终端。

背景技术

网络社区是社区网络化及信息化的产物，可包括论坛、贴吧、讨论组、聊天室以及博客等多种形式存在的网上交流空间，同一主题的网络社区通常集中了具有共同兴趣的网民(也称社区用户)。社区用户可以在网络社区内浏览或发布信息，使得不同社区用户之间可以在网络社区内进行交流。

目前，智能终端已成为多数用户日常生活中必备的电子设备。随着智能终端技术的快速发展，智能终端中的功能也越来越完善，可满足用户多样的使用需求。对于很多用户而言，一般会在智能终端中安装游戏应用程序，供日常休闲使用。为了方便游戏用户的交流互动，很多智能终端中会设置有针对游戏的网络社区，简称游戏社区，用户可以在游戏社区中针对各游戏发布自己的评论等。然而，由于社区用户大多以虚拟身份存在于网络中，发布信息的自由度和随意性较高，可能会存在一些如垃圾评论、不法广告、不当言论以及诈骗信息等恶意或违规的发布信息。目前，对游戏社区中的发布信息进行管理的方案仍不够完善，需要改进。

发明内容

本申请实施例提供一种发布信息管理方法、装置、存储介质及终端，可以优化游戏社区中的发布信息管理方案。

第一方面，本申请实施例提供了一种发布信息管理方法，包括：

获取游戏社区中第一发布信息对应的发布者的身份信息；

在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

采用第一预设算法对所述信息内容进行审核；

在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

第二方面，本申请实施例提供了一种发布信息管理装置，包括：

身份信息获取模块，用于获取游戏社区中第一发布信息对应的发布者的身份信息；

信息内容获取模块，用于在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

信息内容审核模块，用于采用第一预设算法对所述信息内容进行审核；

屏蔽处理模块，用于在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

第三方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请实施例所述的发布信息管理方法。

第四方面，本申请实施例提供了一种终端，包括存储器，处理器及存储在存储器上并可在处理器运行的计算机程序，所述处理器执行所述计算机程序时实现如本申请实施例所述的发布信息管理方法。

本申请实施例中提供的发布信息管理方案，获取游戏社区中第一发布信息对应的发布者的身份信息，在根据身份信息确定发布者未处于预设黑名单时，获取第一发布信息的信息内容，采用第一预设算法对信息内容进行审核，在审核结果为不合格时，对第一发布信息进行屏蔽处理。通过采用上述技术方案，可以根据信息发布者的身份以及所发布的信息的内容进行双重审核，提高游戏社区中发布信息的审核准确度，降低游戏社区中出现违规内容的概率。

附图说明

图1为本申请实施例提供的一种发布信息管理方法的流程示意图；

图2为本申请实施例提供的另一种发布信息管理方法的流程示意图；

图3为本申请实施例提供的又一种发布信息管理方法的流程示意图；

图4为本申请实施例提供的再一种发布信息管理方法的流程示意图；

图5为本申请实施例提供的一种发布信息管理装置的结构框图；

图6为本申请实施例提供的一种终端的结构示意图；

图7为本申请实施例提供的又一种终端的结构示意图。

具体实施方式

下面结合附图并通过具体实施方式来进一步说明本申请的技术方案。可以理解的是，此处所描述的具体实施例仅仅用于解释本申请，而非对本申请的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本申请相关的部分而非全部结构。

在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理，但是其中的许多步骤可以被并行地、并发地或者同时实施。此外，各步骤的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。

图1为本申请实施例提供的一种发布信息管理方法的流程示意图，该方法可以由发布信息管理装置执行，其中该装置可由软件和/或硬件实现，一般可集成在终端中。如图1所示，该方法包括：

步骤101、获取游戏社区中第一发布信息对应的发布者的身份信息。

示例性的，本申请实施例中的终端可包括服务器。

目前，游戏类应用程序已成为手机或平板电脑等智能终端中的主流应用程序类型之一。游戏开发者为了满足用户的娱乐需求，开发出了丰富多样的游戏应用程序。随着游戏应用程序以及智能终端性能的快速发展，用户在自己的智能终端中安装的游戏应用程序也随之越来越多。为了方便游戏用户的交流互动，很多智能终端中会设置有针对游戏的网络社区，简称游戏社区，游戏社区允许用户发布各种信息，如游戏应用评价、游戏经验分享以及游戏战略探讨信息等。游戏社区可以由移动终端对应的服务器进行维护，本申请实施例中的终端可包括用于对游戏社区进行维护的服务器。一般的，为了方便区分不同游戏的发布信息，会在游戏社区中设置版块，每个版块可以对应一个游戏，也即对应一个游戏应用程序，在一个游戏对应的社区版块内集中发布该游戏相关的发布信息。由于社区用户大多以虚拟身份存在于网络中，发布信息的自由度和随意性较高，可能会存在一些如垃圾评论、不法广告、不当言论以及诈骗信息等恶意或违规的发布信息，为了维系游戏社区中的良好环境，通常需要对待发布的或已发布的发布信息进行审核，目前多采用人工审核的方式，这种审核方式操作成本高，费时费力，且容易发生误判或漏判等情况，因此相关技术中的发布信息审核方案不够合理。

本申请实施例中，第一发布信息可以包括任意一个待发布的发布信息，也可包括任意一个已发布的发布信息，第一发布信息可理解为当前需要进行审核的发布信息。本申请实施例中的发布信息包括可帖子，发布信息的内容可包括贴文。

一般的，游戏社区是针对所有智能终端用户开放的，用户可以以游客身份或者认证身份(如已在游戏社区中注册账号)等浏览游戏社区中的内容。而当用户需要发表言论时，为了追溯发布者的身份，则需要用户登录游戏社区。示例性的，本申请实施例中，发布者的身份信息可包括账号信息，如发布者在游戏社区注册的账号名、昵称或游戏身份标识(Identification，ID)等。另外，很多用户已习惯使用手机等移动终端玩游戏，这样发布者需要使用移动终端来登录游戏社区，所以身份信息还可包括移动终端的身份标识，如国际移动设备识别码(International Mobile Equipment Identity，IMEI)。此外，发布者需要通过网络来进行信息发布，因此，身份信息还可包括智能终端在访问网络时使用的网际协议(Internet Protocol，IP)地址信息。可选的，身份信息同时包括账号信息、IMEI和IP地址信息，以免漏掉处于预设黑名单中的发布者。

本申请实施例中，在对第一发布信息进行审核时，首先对第一发布信息对应的发布者进行审核，相比于内容审核来说，审核速度快，准确度高，能够有效提高发布信息审核效率。

步骤102、在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容。

示例性的，可以在终端中维护一个关于发布者的黑名单，当某个发布者被运营人员或系统认为是违规发布者时，可将该发布者加入该黑名单中，具体可以是在黑名单中记录发布者的身份信息。

在获取到第一发布信息对应的发布者的身份信息后，可以在预设黑名单中进行查询，以判断当前的发布者是否为违规发布者。若确定当前的发布者处于预设黑名单中，则认为是违规发布者，可对第一发布信息进行屏蔽处理。

若第一发布信息对应的发布者未处于预设黑名单中，可暂时认为该发布者不是违规发布者，可能是该发布者首次进行信息发布，或者以前未发布过不合格的发布信息或者以前并不存在违规行为等，可暂时不对第一发布信息进行处理。为了防止违规内容存在于游戏社区中，可以获取第一发布信息的信息内容，以便进行进一步的审核。

步骤103、采用第一预设算法对所述信息内容进行审核。

示例性的，第一预设算法可以是对信息内容进行语义分析，分析是否包含违规内容；还可以是对信息内容进行分词，然后提取关键词，分析是否包含违规词汇等等。本申请对第一预设算法的具体内容不做限定。

步骤104、在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

示例性的，在采用第一预设算法对信息内容进行审核后，若发现存在违规内容，可认为审核结果不合格。为了避免违规内容存在于游戏社区中，可以对第一发布信息进行屏蔽处理。若第一发布信息是待发布信息，则可禁止将第一发布信息发布到游戏社区中；若第一发布信息是已发布信息，则可在游戏社区中将第一发布信息删除。

可选的，当审核结果为合格时，若第一发布信息是待发布信息，则可将第一发布信息发布到游戏社区中；若第一发布信息是已发布信息，则可不对第一发布信息进行处理，也可在后台为第一发布信息添加审核通过的标识，避免重复审核。

本申请实施例中提供的发布信息管理方法，获取游戏社区中第一发布信息对应的发布者的身份信息，在根据身份信息确定发布者未处于预设黑名单时，获取第一发布信息的信息内容，采用第一预设算法对信息内容进行审核，在审核结果为不合格时，对第一发布信息进行屏蔽处理。通过采用上述技术方案，可以根据信息发布者的身份以及所发布的信息的内容进行双重审核，提高游戏社区中发布信息的审核准确度，降低游戏社区中出现违规内容的概率。

在一些实施例中，在对所述第一发布信息进行屏蔽处理之后，还包括：获取所述发布者的信息发布行为信息；若所述信息发布行为信息满足预设违规标准，则将所述发布者加入所述预设黑名单中。这样设置的好处在于，能够及时对预设黑名单进行更新，有助于后续审核过程中发现更多的违规发布者。示例性的，信息发布行为信息可包括预设时间段内发布的发布信息的数量、发布信息是否被屏蔽、发布信息的字符数、发布信息之间的相似程度、发布信息的板块分布情况、是否在访问游戏社区的情况下进行信息发布等等。预设违规标准例如可包括：同一账号或同一IMEI设备在第一预设时间段内被屏蔽的发布信息的数量超过第一预设数量，且发布信息的相似度超过预设数值；同一IP地址在第二预设时间段内被加入预设黑名单的账号或IMEI的数量超过第二预设数量等等。

在一些实施例中，所述采用第一预设算法对所述信息内容进行审核，包括：提取所述信息内容中的预设关键词，并分析所述信息内容中的语境信息；将所述预设关键词和所述语境信息，与预设非法特征进行匹配，若匹配成功，则确定审核结果为不合格。这样设置的好处在于，对于同一个预设关键词来说，在不同的语境中所表达的含义可能不同，所以可以结合预设关键词出现的语境综合判断信息内容是否违规，降低误判率。其中，预设非法特征可包括在存在违规内容的情况下，预设关键词和语境信息的对应关系。

在一些实施例中，在所述采用第一预设算法对所述信息内容进行审核之前，还包括：设立非法内容样本库；对所述非法内容样本库进行关键词频率分析以及语境分析；根据分析结果确定所述预设非法特征。这样设置的好处在于，可以基于非法内容样本库对预设非法特征进行分析，提高判定准确度。示例性的，可以支持人工向非法内容样本库中添加包含违规内容的示例发布信息作为非法内容样本。当一个关键词在非法内容样本库中出现的频率较高时，说明该关键词很可能为非法内容中的特征词汇，再对该关键词每次出现时的语境进行分析，排除一些关键词合理出现的语境，最终得出预设非法特征。在对非法内容样本库进行关键词频率分析以及语境分析以及根据分析结果确定所述预设非法特征的过程中，可以借助机器学习模型来完成，提高确定预设非法特征的效率以及准确度。

在一些实施例中，在所述采用第一预设算法对所述信息内容进行审核之前，还可包括：设立合法内容样本库；对所述合法内容样本库进行关键词频率分析以及语境分析；根据分析结果确定预设合法特征。相应的，在提取所述信息内容中的预设关键词，并分析所述信息内容中的语境信息之后，还包括：将所述预设关键词和所述语境信息，与预设合法特征进行匹配，若匹配成功，则确定审核结果为合格。可选的，可以分别计算预设关键词和语境信息，与预设非法特征的第一匹配度，与预设合法特征的第二匹配度，当第一匹配度大于第二匹配度时确定审核结果为不合格，当第一匹配度小于或等于第二匹配度时确定审核结果为合格。

在一些实施例中，在所述采用第一预设算法对所述信息内容进行审核之后，还包括：在审核结果为合格时，获取所述发布者关于目标游戏的使用信息，其中，所述目标游戏包括所述第一发布信息对应的游戏；在根据所述使用信息确定所述第一发布信息的信息内容为虚假内容时，对所述第一发布信息进行屏蔽处理。这样设置的好处在于，当一个玩家发布的信息内容与其使用游戏的信息不相匹配时，可认为该玩家为虚假玩家，进而可以准确识别出虚假玩家在游戏社区中发布的虚假宣传信息或恶意诋毁信息等，维护游戏社区中的良好环境。

示例性的，所述使用信息包括所述发布者针对目标游戏的行为信息和/或所述发布者在所述目标游戏中的成长情况信息。这样设置的好处在于，可以全面准确地获取用户使用目标游戏的详情。其中，行为信息可包括用户使用游戏过程中的各种操作信息以及相关信息，可理解为一种对游戏的接触行为；成长情况信息可包括用户在游戏中取得的成绩以及相关信息，可理解为用户的游戏资质。行为信息可以由智能终端进行采集并记录，成长情况信息可以由智能终端读取游戏应用程序中的相关数据来获取，然后智能终端将所获取的行为信息和成长情况信息发送至服务器。

在一些实施例中，在所述采用第一预设算法对所述信息内容进行审核之后，还包括在审核结果为合格时，采用第二预设算法对所述信息内容进行复核，其中，所述第二预设算法包括屏蔽词库匹配算法、谐音词库匹配算法和特殊字符串格式匹配算法中的至少一种；在复核结果为不合格时，对所述第一发布信息进行屏蔽处理。这样设置的好处在于，能够进一步加强审核力度，避免发生漏判情况。可选的，第二预设算法还可以包括其他算法，如第三方提供的算法，本申请实施例不做限定。

示例性的，屏蔽词库匹配算法可以是将信息内容中的词汇与预设屏蔽词库中的词汇进行匹配，若匹配成功，则认为信息内容中包含屏蔽词汇，复核结果不合格。预设屏蔽词库中可包含违法、涉政、涉黄、涉毒以及涉赌等敏感内容的词汇。

示例性的，谐音词库匹配算法可以是将信息内容中的词汇与预设谐音词库中的词汇进行匹配，若匹配成功，则认为信息内容中包含谐音词汇，复核结果不合格。预设谐音词库中可包含敏感词汇的谐音词，包括拼音和读音相似的词，如“赌博”的谐音词可包括“dubo”和“堵驳”等。敏感词汇可以包括预设屏蔽词库中的词汇。

示例性的，特殊字符串格式匹配算法可以是识别信息内容中是否包含特殊字符串格式，若包含，则复核结果不合格。特殊字符串格式例如可以包括纯数字、纯表情、纯标点符号、以及在词汇中夹杂无意义的符号等。如，有些评论为了避免被查出违规，会在词汇中夹杂一些符号，如“赌#博”等。

可选的，在进行复核时，可以同时采用上述三种第二预设算法，当均确定复核合格时，才认为最终的复核结果为合格，当有任意一个复核结果不合格时，认为最终的复核结果不合格。

图2为本申请实施例提供的另一种发布信息管理方法的流程示意图，该方法包括如下步骤：

步骤201、获取游戏社区中第一发布信息对应的发布者的身份信息。

示例性的，身份信息包括账号信息、IMEI和IP地址信息。

步骤202、根据身份信息确定发布者是否处于预设黑名单，若是，则执行步骤207；否则，执行步骤203。

示例性的，预设黑名单中可包含账号名称黑名单、IMEI黑名单和IP地址黑名单。若当前发布者的账号名、IMEI和IP地址中的任意一项处于相应的黑名单中，则认为当前发布者处于预设黑名单中；若当前发布者的账号名、IMEI和IP地址均未处于相应的黑名单中，则认为当前发布者未处于预设黑名单中。

步骤203、获取第一发布信息的信息内容。

步骤204、提取信息内容中的预设关键词，并分析信息内容中的语境信息。

步骤205、将预设关键词和语境信息分别与预设非法特征和预设合法特征分别进行匹配。

步骤206、根据匹配结果确定审核结果是否为合格，若是，则执行步骤209；否则，执行步骤207。

示例性的，可设立正常内容示例和垃圾内容示例两个内容库，支持人工向内容示例库中加入示例评论，采用设定算法对两个内容示例库的内容进行关键词频率和语境结构分析提取，得到正常内容和垃圾内容的特征，进而得到预设非法特征和预设合法特征。其中，设定算法可以是机器学习算法。在获取到第一发布信息的信息内容后，对信息内容进行特征分析和判定，符合预设合法特征则合格，符合预设非法特征则不合格。

对于同一个预设关键词来说，在不同的语境中所表达的含义可能不同，所以得到的结论也可能不同。以“枪”为例，若所属的发布信息中的语境为贩卖枪支的广告，那么则认为该发布信息违规，需要判定为不合格；若所属的发布信息中的语境为游戏道具使用方式交流，那么则认为该发布信息不违规，可判定为合格。因此，结合预设关键词出现的语境综合判断信息内容是否违规，能够有效降低误判率。

步骤207、当第一发布信息为待发布状态时，禁止对第一发布信息进行发布，当第一发布信息为已发布状态时，从游戏社区中删除第一发布信息，执行步骤208。

步骤208、获取发布者的信息发布行为信息，当信息发布行为信息满足预设违规标准时，将发布者加入预设黑名单中，结束流程。

示例性的，可以针对不同类型的身份信息设定不同的预设违规标准；还可以在将发布者加入预设黑名单之前添加考察期，例如先加入可疑名单，然后再决定是否加入预设黑名单中。

步骤209、当第一发布信息为待发布状态时，对第一发布信息进行发布，当第一发布信息为已发布状态时，为第一发布信息添加审核通过标识，结束流程。

本申请实施例提供的发布信息管理方法，对于待审核的发布信息，先验证对应的发布者是否处于黑名单中，然后再将信息内容中的关键词以及语境信息分别与预设非法特征和预设合法特征进行匹配，进而准确地判断出发布信息是否合格，若不合格，则进行屏蔽处理，降低游戏社区中出现违规内容的概率。

图3为本申请实施例提供的又一种发布信息管理方法的流程示意图，该方法包括：

步骤301、获取游戏社区中第一发布信息对应的发布者的身份信息。

步骤302、根据身份信息确定发布者是否处于预设黑名单，若是，则执行步骤309；否则，执行步骤303。

步骤303、获取第一发布信息的信息内容。

步骤304、提取信息内容中的预设关键词，并分析信息内容中的语境信息。

步骤305、将预设关键词和语境信息与预设非法特征进行匹配。

步骤306、判断是否匹配成功，若是，则执行步骤309；否则，执行步骤307。

步骤307、获取发布者关于目标游戏的使用信息。

其中，目标游戏包括第一发布信息对应的游戏。一般的，游戏社区中每个游戏都对应一个版块，用户可以在游戏对应的版块下发表信息，所以可以根据第一发布信息想要发布或者已经发布的位置来确定对应的目标游戏。使用信息可包括所述发布者针对目标游戏的行为信息和所述发布者在所述目标游戏中的成长情况信息。

示例性的，所述行为信息包括游戏下载信息、游戏安装信息、游戏登录信息、游戏使用时间信息、游戏使用频率信息、游戏预约信息、以及对游戏社区版块的关注信息中的至少一项；所述成长情况信息包括游戏等级信息、任务完成信息、闯关信息、消费信息、好友信息和好友互动信息中的至少一项。

步骤308、根据使用信息确定信息内容是否为虚假内容，若是，则执行步骤309；否则，执行步骤310。

示例性的，使用信息能够全面反映用户对游戏的使用情况，如是否曾经使用过目标游戏，使用目标游戏多久，是目标游戏的新手还是资深玩家，当用户发表评论时，其发表的内容应该与自身的使用情况相符合，否则将认为是虚假内容。例如，可能存在恶意推广的情况，如未曾使用过目标游戏的用户，发表的内容中表明自己已经玩目标游戏很长时间，对目标游戏不乏赞美之词，那么认为该用户可能在恶意帮助目标游戏刷好评，所以信息内容不可靠，为了避免对其他用户造成误导，需要将该发布信息屏蔽。又如，可能存在恶意诋毁的情况，如刚刚注册目标游戏的用户或游戏等级很低的用户，发表的内容中表明玩目标游戏浪费了很多时间，觉得游戏很无趣，很多关卡设计得有很多缺陷等等，那么认为该用户可能是目标游戏竞争对手在恶意诋毁目标游戏，所以信息内容不可靠，为了维护游戏社区中公正健康的环境，需要将该发布信息屏蔽。

步骤309、对第一发布信息进行屏蔽处理。

步骤310、确定第一发布信息通过审核。

本申请实施例提供的发布信息管理方法，在根据信息发布者的身份以及所发布的信息的内容进行双重审核的基础上，还结合用户对发布信息对应的游戏的使用情况来核实发布信息内容的真实性，能够准确识别出针对游戏的恶意评论信息，维护游戏社区中的良好环境。

图4为本申请实施例提供的再一种发布信息管理方法的流程示意图，如图4所示，该方法包括：

步骤401、获取游戏社区中当前帖子对应的发布者的身份信息。

步骤402、根据身份信息确定发布者是否处于预设黑名单，若是，则执行步骤408；否则，执行步骤403。

步骤403、获取当前帖子的帖子内容。

步骤404、采用第一预设算法对帖子内容进行审核，判断审核是否合格，若是，则执行步骤405；否则，执行步骤408。

步骤405、采用第二预设算法对帖子内容进行复核，判断复核是否合格，若是，则执行步骤406；否则，执行步骤408。

示例性的，所述第二预设算法包括屏蔽词库匹配算法、谐音词库匹配算法和特殊字符串格式匹配算法，当均确定复核合格时，才认为最终的复核结果为合格，当有任意一个复核结果不合格时，认为最终的复核结果不合格。

其中，所述第二预设算法包括屏蔽词库匹配算法、谐音词库匹配算法和特殊字符串格式匹配算法。

步骤406、获取发布者关于目标游戏的使用信息。

步骤407、根据使用信息确定帖子内容是否为虚假内容，若是，则执行步骤408；否则，执行步骤409。

步骤408、对当前帖子进行屏蔽处理。

步骤409、确定当前帖子通过审核。

本申请实施例提供的发布信息管理方法，先对帖子发布者的身份进行核实，若不是违规用户，则采用多种算法对所发布的帖子的内容进行多重审核，另外，还结合用户对帖子对应的游戏的使用情况来核实发布帖子内容的真实性，能够准确识别出游戏社区中的恶意帖子，维护游戏社区中的良好环境。

图5为本申请实施例提供的一种发布信息管理装置的结构框图，该装置可由软件和/或硬件实现，一般集成在服务器等终端中，可通过执行发布信息管理方法来管理发布信息。如图5所示，该装置包括：

身份信息获取模块501，用于获取游戏社区中第一发布信息对应的发布者的身份信息；

信息内容获取模块502，用于在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

信息内容审核模块503，用于采用第一预设算法对所述信息内容进行审核；

屏蔽处理模块504，用于在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

本申请实施例中提供的发布信息管理装置，获取游戏社区中第一发布信息对应的发布者的身份信息，在根据身份信息确定发布者未处于预设黑名单时，获取第一发布信息的信息内容，采用第一预设算法对信息内容进行审核，在审核结果为不合格时，对第一发布信息进行屏蔽处理。通过采用上述技术方案，可以根据信息发布者的身份以及所发布的信息的内容进行双重审核，提高游戏社区中发布信息的审核准确度，降低游戏社区中出现违规内容的概率。

可选的，该装置还包括：

行为信息获取模块，用于在对所述第一发布信息进行屏蔽处理之后，获取所述发布者的信息发布行为信息；

黑名单更新模块，用于在所述信息发布行为信息满足预设违规标准时，将所述发布者加入所述预设黑名单中。

可选的，所述采用第一预设算法对所述信息内容进行审核，包括：

提取所述信息内容中的预设关键词，并分析所述信息内容中的语境信息；

将所述预设关键词和所述语境信息，与预设非法特征进行匹配，若匹配成功，则确定审核结果为不合格。

可选的，该装置还包括：

样本库设立模块，用于在所述采用第一预设算法对所述信息内容进行审核之前，设立非法内容样本库；

样本分析模块，用于对所述非法内容样本库进行关键词频率分析以及语境分析；

非法特征确定模块，用于根据分析结果确定所述预设非法特征。

可选的，该装置还包括：

使用信息获取模块，用于在所述采用第一预设算法对所述信息内容进行审核之后，在审核结果为合格时，获取所述发布者关于目标游戏的使用信息，其中，所述目标游戏包括所述第一发布信息对应的游戏；

所述屏蔽处理模块还用于：在根据所述使用信息确定所述第一发布信息的信息内容为虚假内容时，对所述第一发布信息进行屏蔽处理。

可选的，所述使用信息包括所述发布者针对目标游戏的行为信息和/或所述发布者在所述目标游戏中的成长情况信息。

可选的，该装置还包括：

复核模块，用于在所述采用第一预设算法对所述信息内容进行审核之后，在审核结果为合格时，采用第二预设算法对所述信息内容进行复核，其中，所述第二预设算法包括屏蔽词库匹配算法、谐音词库匹配算法和特殊字符串格式匹配算法中的至少一种；

所述屏蔽处理模块还用于：在复核结果为不合格时，对所述第一发布信息进行屏蔽处理。

本申请实施例还提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行发布信息管理方法，该方法包括：

获取游戏社区中第一发布信息对应的发布者的身份信息；

在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

采用第一预设算法对所述信息内容进行审核；

在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

存储介质——任何的各种类型的存储器设备或存储设备。术语“存储介质”旨在包括：安装介质，例如CD-ROM、软盘或磁带装置；计算机系统存储器或随机存取存储器，诸如DRAM、DDRRAM、SRAM、EDORAM，兰巴斯(Rambus)RAM等；非易失性存储器，诸如闪存、磁介质(例如硬盘或光存储)；寄存器或其它相似类型的存储器元件等。存储介质可以还包括其它类型的存储器或其组合。另外，存储介质可以位于程序在其中被执行的第一计算机系统中，或者可以位于不同的第二计算机系统中，第二计算机系统通过网络(诸如因特网)连接到第一计算机系统。第二计算机系统可以提供程序指令给第一计算机用于执行。术语“存储介质”可以包括可以驻留在不同位置中(例如在通过网络连接的不同计算机系统中)的两个或更多存储介质。存储介质可以存储可由一个或多个处理器执行的程序指令(例如具体实现为计算机程序)。

当然，本申请实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的发布信息管理操作，还可以执行本申请任意实施例所提供的发布信息管理方法中的相关操作。

本申请实施例提供了一种终端，该终端中可集成本申请实施例提供的发布信息管理装置。图6为本申请实施例提供的一种终端的结构示意图。终端600可以包括：存储器601，处理器602及存储在存储器601上并可在处理器602运行的计算机程序，所述处理器602执行所述计算机程序时实现如本申请实施例所述的发布信息管理方法。

本申请实施例提供的终端，可以根据信息发布者的身份以及所发布的信息的内容进行双重审核，提高游戏社区中发布信息的审核准确度，降低游戏社区中出现违规内容的概率。

图7为本申请实施例提供的另一种终端的结构示意图，该终端可以包括：壳体(图中未示出)、存储器701、中央处理器(central processing unit，CPU)702(又称处理器，以下简称CPU)、电路板(图中未示出)和电源电路(图中未示出)。所述电路板安置在所述壳体围成的空间内部；所述CPU702和所述存储器701设置在所述电路板上；所述电源电路，用于为所述终端的各个电路或器件供电；所述存储器701，用于存储可执行程序代码；所述CPU702通过读取所述存储器701中存储的可执行程序代码来运行与所述可执行程序代码对应的计算机程序，以实现以下步骤：

获取游戏社区中第一发布信息对应的发布者的身份信息；

在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

采用第一预设算法对所述信息内容进行审核；

在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

所述终端还包括：外设接口703、RF(Radio Frequency，射频)电路705、音频电路706、扬声器711、电源管理芯片708、输入/输出(I/O)子系统709、其他输入/控制设备710、触摸屏712、其他输入/控制设备710以及外部端口704，这些部件通过一个或多个通信总线或信号线707来通信。

应该理解的是，图示终端700仅仅是终端的一个范例，并且终端700可以具有比图中所示出的更多的或者更少的部件，可以组合两个或更多的部件，或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。

下面就本实施例提供的用于发布信息管理的终端进行详细的描述，该终端以服务器为例。

存储器701，所述存储器701可以被CPU702、外设接口703等访问，所述存储器701可以包括高速随机存取存储器，还可以包括非易失性存储器，例如一个或多个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

外设接口703，所述外设接口703可以将设备的输入和输出外设连接到CPU702和存储器701。

I/O子系统709，所述I/O子系统709可以将设备上的输入输出外设，例如触摸屏712和其他输入/控制设备710，连接到外设接口703。I/O子系统709可以包括显示控制器7091和用于控制其他输入/控制设备710的一个或多个输入控制器7092。其中，一个或多个输入控制器7092从其他输入/控制设备710接收电信号或者向其他输入/控制设备710发送电信号，其他输入/控制设备710可以包括物理按钮(按压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击滚轮。值得说明的是，输入控制器7092可以与以下任一个连接：键盘、红外端口、USB接口以及诸如鼠标的指示设备。

触摸屏712，所述触摸屏712是用户终端与用户之间的输入接口和输出接口，将可视输出显示给用户，可视输出可以包括图形、文本、图标、视频等。

I/O子系统709中的显示控制器7091从触摸屏712接收电信号或者向触摸屏712发送电信号。触摸屏712检测触摸屏上的接触，显示控制器7091将检测到的接触转换为与显示在触摸屏712上的用户界面对象的交互，即实现人机交互，显示在触摸屏712上的用户界面对象可以是运行游戏的图标、联网到相应网络的图标等。值得说明的是，设备还可以包括光鼠，光鼠是不显示可视输出的触摸敏感表面，或者是由触摸屏形成的触摸敏感表面的延伸。

RF电路705，主要用于建立服务器与无线网络(即网络侧)的通信，实现服务器与无线网络的数据接收和发送。例如收发短信息、电子邮件等。具体地，RF电路705接收并发送RF信号，RF信号也称为电磁信号，RF电路705将电信号转换为电磁信号或将电磁信号转换为电信号，并且通过该电磁信号与通信网络以及其他设备进行通信。RF电路705可以包括用于执行这些功能的已知电路，其包括但不限于天线系统、RF收发机、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、CODEC(COder-DECoder，编译码器)芯片组、用户标识模块(Subscriber Identity Module，SIM)等等。

音频电路706，主要用于从外设接口703接收音频数据，将该音频数据转换为电信号，并且将该电信号发送给扬声器711。

扬声器711，用于将服务器通过RF电路705从无线网络接收的语音信号，还原为声音并向用户播放该声音。

电源管理芯片708，用于为CPU702、I/O子系统及外设接口所连接的硬件进行供电及电源管理。

上述实施例中提供的发布信息管理装置、存储介质及终端可执行本申请任意实施例所提供的发布信息管理方法，具备执行该方法相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节，可参见本申请任意实施例所提供的发布信息管理方法。

注意，上述仅为本申请的较佳实施例及所运用技术原理。本领域技术人员会理解，本申请不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本申请的保护范围。因此，虽然通过以上实施例对本申请进行了较为详细的说明，但是本申请不仅仅限于以上实施例，在不脱离本申请构思的情况下，还可以包括更多其他等效实施例，而本申请的范围由所附的权利要求范围决定。

Claims (10)

1.一种发布信息管理方法，其特征在于，包括：

获取游戏社区中第一发布信息对应的发布者的身份信息；

在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

采用第一预设算法对所述信息内容进行审核；

在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

2.根据权利要求1所述的方法，其特征在于，在对所述第一发布信息进行屏蔽处理之后，还包括：

获取所述发布者的信息发布行为信息；

若所述信息发布行为信息满足预设违规标准，则将所述发布者加入所述预设黑名单中。

3.根据权利要求1所述的方法，其特征在于，所述采用第一预设算法对所述信息内容进行审核，包括：

提取所述信息内容中的预设关键词，并分析所述信息内容中的语境信息；

将所述预设关键词和所述语境信息，与预设非法特征进行匹配，若匹配成功，则确定审核结果为不合格。

4.根据权利要求3所述的方法，其特征在于，在所述采用第一预设算法对所述信息内容进行审核之前，还包括：

设立非法内容样本库；

对所述非法内容样本库进行关键词频率分析以及语境分析；

根据分析结果确定所述预设非法特征。

5.根据权利要求1所述的方法，其特征在于，在所述采用第一预设算法对所述信息内容进行审核之后，还包括：

在审核结果为合格时，获取所述发布者关于目标游戏的使用信息，其中，所述目标游戏包括所述第一发布信息对应的游戏；

在根据所述使用信息确定所述第一发布信息的信息内容为虚假内容时，对所述第一发布信息进行屏蔽处理。

6.根据权利要求5所述的方法，其特征在于，所述使用信息包括所述发布者针对目标游戏的行为信息和/或所述发布者在所述目标游戏中的成长情况信息。

7.根据权利要求1-6任一所述的方法，其特征在于，在所述采用第一预设算法对所述信息内容进行审核之后，还包括：

在审核结果为合格时，采用第二预设算法对所述信息内容进行复核，其中，所述第二预设算法包括屏蔽词库匹配算法、谐音词库匹配算法和特殊字符串格式匹配算法中的至少一种；

在复核结果为不合格时，对所述第一发布信息进行屏蔽处理。

8.一种发布信息管理装置，其特征在于，包括：

身份信息获取模块，用于获取游戏社区中第一发布信息对应的发布者的身份信息；

信息内容获取模块，用于在根据所述身份信息确定所述发布者未处于预设黑名单时，获取所述第一发布信息的信息内容；

信息内容审核模块，用于采用第一预设算法对所述信息内容进行审核；

屏蔽处理模块，用于在审核结果为不合格时，对所述第一发布信息进行屏蔽处理。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的发布信息管理方法。

10.一种终端，其特征在于，包括存储器，处理器及存储在存储器上并可在处理器运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1-7任一所述的发布信息管理方法。