CN104660481A - 即时通讯消息处理方法及装置 - Google Patents

Abstract

一种即时通讯消息处理方法，包括：服务器接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、用户终端的用户帐号信息与用户终端的身份标识信息；根据预置的规则、用户终端的用户帐号信息，确定即时通讯消息的安全等级；当安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，预警信息中包含安全提示信息，安全提示信息用于提示目的用户终端的用户即时通讯消息存在安全风险。此外，本发明还提供一种即时通讯消息处理装置。上述即时通讯消息处理方法及装置，具有较高的安全预警的准确率。

Description

即时通讯消息处理方法及装置

技术领域

本发明涉及计算机通信技术，尤其涉及一种即时通讯消息处理方法及装置。

背景技术

随着计算机通信技术的发展与互联网的普及，通过即时通讯客户端进行信息交互成为当前人们进行联系的重要手段之一，然而通过即时通讯客户端进行信息交互时，交互双方往往看不见对方的样子，只能看到对端发来的文字或音频等多媒体信息，这就给了不法分子通过盗取即时通讯帐号，冒充该帐号合法用户的身份向该帐号的联系人进行钱财诈骗以可乘之机。因此，即时通讯过程中如何提示用户以保障信息安全成为重要课题。现有技术中，当用户在即时通讯过程中发送的信息内容包含预置的触发安全预警的关键词，则系统弹出安全提示来提醒用户可能对方并非真正的帐号主人，提醒用户防骗。但是在上述现有技术中，系统后台判断是否进行安全预警的逻辑不强，只要出现预置的关键词便弹出提示框，但可能涉及该关键词并非是真正的诈骗信息，因此存在安全预警的准确率不高的缺陷。

发明内容

有鉴于此，本发明提供一种即时通讯消息处理方法及装置，具有较高的安全预警的准确率。

一种即时通讯消息处理方法，包括：服务器接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、所述用户终端的用户帐号信息与所述用户终端的身份标识信息；根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级；当所述安全等级为第一安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息与预置的预警信息发送给所述目的用户终端，所述预警信息中包含安全提示信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

一种即时通讯消息处理方法，包括：用户终端接收服务器发送的即时通讯消息与预警信息，所述预警信息中包含安全提示信息、验证信息与举报信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险；将所述即时通讯消息与所述预警信息展示给用户；响应于所述用户根据所述验证信息或举报信息进行的操作，执行对应的动作。

一种即时通讯消息处理装置，包括：接收模块，用于接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、所述用户终端的用户帐号信息与所述用户终端的身份标识信息；分析模块，用于根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级；第一处理模块，用于当所述分析模块分析确定所述安全等级为第一安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息与预置的预警信息发送给所述目的用户终端，所述预警信息中包含安全提示信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

一种即时通讯消息处理装置，包括：接收模块，用于接收服务器发送的即时通讯消息与预警信息，所述预警信息中包含安全提示信息、验证信息与举报信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险；展示模块，用于将所述接收模块接收的所述即时通讯消息与所述预警信息展示给用户；处理模块，用于响应于所述用户根据所述验证信息或举报信息进行的操作，执行对应的动作。

本发明实施例提供的即时通讯消息处理方法及装置，通过服务器根据预置的规则、用户终端的用户帐号信息，确定从用户终端接收到的即时通讯消息的安全等级，并且当该即时通讯消息的安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，由于是从预置的规则、用户终端的用户帐号信息等多个维度的出发来确定即时通讯消息的安全等级，因此可提高对即时通讯消息的安全风险等级的界定的准确性，并且在将具有高安全风险的即时通讯消息发送给目的用户终端的同时，向目的用户终端发送预警信息，可使预警更具有针对性，提高预警效果，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

为让本发明的上述和其他目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附图式，作详细说明如下。

附图说明

图1为本发明实施例提供的即时通讯消息处理方法的应用环境图。

图2为本发明第一实施例提供的即时通讯消息处理方法的流程图。

图3为本发明第二实施例提供的即时通讯消息处理方法的流程图。

图4为本发明第二实施例提供的即时通讯消息处理方法中部分步骤的细节流程图。

图5为本发明第三实施例提供的即时通讯消息处理方法的流程图。

图6为本发明第三实施例提供的即时通讯消息处理方法中预警信息的一示意图。

图7为本发明第三实施例提供的即时通讯消息处理方法中预警信息的又一示意图。

图8为本发明第四实施例提供的即时通讯消息处理方法的流程图。

图9为本发明第五实施例提供的即时通讯消息处理装置的结构示意图。

图10为本发明第六实施例提供的即时通讯消息处理装置的结构示意图。

图11为本发明第六实施例提供的即时通讯消息处理装置中部分模块的结构示意图。

图12为本发明第七实施例提供的即时通讯消息处理装置的结构示意图。

图13为本发明第八实施例提供的即时通讯消息处理装置的结构示意图。

具体实施方式

为更进一步阐述本发明为实现预定发明目的所采取的技术手段及功效，以下结合附图及较佳实施例，对依据本发明的具体实施方式、结构、特征及其功效，详细说明如后。

本发明第一实施例所提供的即时通讯消息处理方法可应用于如图1所示的应用环境中，实现即时通讯消息处理方法。如图1所示，用户终端101、服务器102、目的用户终端103位于无线网络或有线网络中，通过该无线网络或有线网络，用户终端101、服务器102、目的用户终端103进行信息交互。

其中，用户终端101与目的用户终端103可以包括：智能手机、平板电脑、电子书阅读器、MP3播放器（Moving Picture Experts Group Audio LayerIII，动态影像专家压缩标准音频层面3）、MP4（Moving Picture Experts GroupAudio Layer IV，动态影像专家压缩标准音频层面4）播放器、膝上型便携计算机、车载电脑、台式计算机等等。

第一实施例

图2为本发明第一实施例提供的即时通讯消息处理方法的流程图。如图2所示，本实施例的即时通讯消息处理方法包括以下步骤：

步骤S11，服务器接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、所述用户终端的用户帐号信息与所述用户终端的身份标识信息。

具体地，服务器102接收用户终端101发送的即时通讯消息、用户终端101的身份标识信息、用户终端101的用户帐号信息以及目的用户终端103的用户帐号信息。

其中，即时通讯消息中可以包括：文字、图片、音频或视频文件的播放网址等内容信息。用户终端101的身份标识信息用于唯一标识用户终端101的身份，具体可以包括：用户终端的IP地址、机器识别码以及MAC地址中的一种或任意几种的组合。用户终端101的用户帐号信息可用于评估用户终端101发送的即时通讯消息的安全性。目的用户终端103的用户帐号信息用于使服务器102在用户终端101发送的即时通讯消息的安全等级符合预置的等级时，能够将该即时通讯消息发送给目的用户终端103。

步骤S12，根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级。

步骤S13，当所述安全等级为第一安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息与预置的预警信息发送给所述目的用户终端，所述预警信息中包含安全提示信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

于本实施例一具体实施方式中，将第一安全等级定义为高安全风险的等级，也就是说若即时通讯消息的安全等级被确定为第一安全等级，也就意味着该即时通讯消息中包含诈骗信息内容的可能性极高，此时服务器102在将即时通讯消息转发给目的用户终端103的同时，发送一条预置信息给目的用户终端103，以提示目的用户终端103的用户该即时通讯消息存在安全风险。

本发明实施例提供的即时通讯消息处理方法，通过服务器根据预置的规则、用户终端的用户帐号信息，确定从用户终端接收到的即时通讯消息的安全等级，并且当该即时通讯消息的安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，由于是从预置的规则、用户终端的用户帐号信息等多个维度的出发来确定即时通讯消息的安全等级，因此可提高对即时通讯消息的安全风险等级的界定的准确性，并且在将具有高安全风险的即时通讯消息发送给目的用户终端的同时，向目的用户终端发送预警信息，可使预警更具有针对性，提高安全预警的准确率，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

第二实施例

图3为本发明第二实施例提供的即时通讯消息处理方法的流程图。如图3所示，本实施例的即时通讯消息处理方法包括以下步骤：

步骤S21，服务器接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、所述用户终端的用户帐号信息与所述用户终端的身份标识信息。

本步骤具体可参考第一实施例的相应内容，此处不再赘述。

步骤S22，根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级。

如图4所示，本步骤具体可包括以下步骤：

步骤S221，根据预置的分析规则，对所述即时通讯消息的安全性进行分析，获取第一分析结果。

于本实施例一具体实施方式中，关键词可为包含钱财信息的词或词组，例如：信用卡、转账、汇钱、借钱、转账等等。根据关键词的重要性的不同，每个关键词可预置有相应的权重。

具体地，服务器102提取即时通讯消息中所包含的文字内容，判断提取的文字内容中是否包含预置的关键词，获取第一分析结果。第一分析结果可以包括：是否包含关键词、包含了哪些关键词、以及所包含的关键词的各自的权重。

步骤S222，根据所述用户终端的用户帐号，获取所述用户帐号对应的用户行为轨迹信息，根据所述用户行为轨迹信息与所述用户终端的身份标识信息对所述用户终端当前用户的安全性进行分析，获取第二分析结果。

用户行为轨迹信息可以包括：用户使用用户帐号的常用登录地、用户使用用户帐号进行登录时的常用用户终端的身份标识、用户帐号的被盗用记录、以及用户的发布违规信息的记录中的一种或任意几种的组合。

服务器102根据用户行为轨迹信息与用户终端101的身份标识信息，对用户终端101当前用户的安全性进行分析，获取第二分析结果。第二分析结果可包括：例如，用户终端101的所在地是否为当前用户使用相同用户帐号的常用登录地，用户终端101的身份标识是否与当前用户使用相同用户帐号进行登录时的常用用户终端的身份标识一致，用户帐号是否被盗用过，以及当前用户是否利用相同用户帐号的发布过违规信息（例如：色情信息、危害公共安全的信息、诈骗信息等等）等多种信息中的一种或多种组合。

步骤S223，根据预置的评估规则及权重规则，结合所述第一分析结果与所述第二分析结果对所述即时通讯消息的安全性进行综合评估，确定所述即时通讯消息的安全等级。

于本实施例一具体实施方式中，可为第一分析结果与第二分析结果分别预置对应的权重，服务器102根据预置的评估规则及权重规则，结合第一分析结果与第二分析结果对即时通讯消息的安全性进行综合评估，并根据预置的预警值确定即时通讯消息的安全等级，若综合评估的分数值大于或等于预置的预警值，则可确定即时通讯消息的安全性较低，属于第一安全等级，需要向目的用户终端103发送预警信息；若综合评估的分数值小于预置的预警值，则可确定即时通讯消息的安全性较高，属于第二安全等级，不需要向目的用户终端103发送预警信息。例如：假设根据第一分析结果，即时通讯消息中包含关键字：急事、借、钱三个关键字，其中钱这个关键字出现2次，假设这三个关键字的权重分别为：0.5、1、3；根据第二分析结果，即时通讯消息的发送用户终端并非对应用户帐号的常用用户终端，其预置的对应权重为5。则根据预置的评估规则，该即时通讯消息的综合评分为：0.5+1+3*2+5=12.5。假设预置的预警值为10，由于该即时通讯消息的综合评分大于预警值，则可确定该即时通讯消息的安全等级较低，属于第一安全等级。

步骤S23，当所述安全等级为第一安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息与预置的预警信息发送给所述目的用户终端，所述预警信息中包含安全提示信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

于本实施例一具体实施方式中，预警信息中还包含验证信息与举报信息。其中，验证信息用于使目的用户终端103根据用户的操作向用户终端101发送预置的身份验证问题，以验证用户终端101的当前用户的身份，或使目的用户终端103根据用户的操作向用户终端101拨打电话以验证用户终端101的当前用户的身份，举报信息用于使目的用户终端103根据对应的用户的操作，按照预置的举报方式，对即时通讯消息进行举报。

步骤S24，当所述安全等级为第二安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息直接转发给所述目的用户终端。

本发明实施例提供的即时通讯消息处理方法，通过服务器根据预置的规则、用户终端的用户帐号信息，确定从用户终端接收到的即时通讯消息的安全等级，并且当该即时通讯消息的安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，由于是从预置的规则、用户终端的用户帐号信息等多个维度的出发来确定即时通讯消息的安全等级，因此可提高对即时通讯消息的安全风险等级的界定的准确性，并且在将具有高安全风险的即时通讯消息发送给目的用户终端的同时，向目的用户终端发送预警信息，可使预警更具有针对性，提高安全预警的准确率，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

第三实施例

图5为本发明第三实施例提供的即时通讯消息处理方法的流程图。如图5所示，本实施例的即时通讯消息处理方法包括以下步骤：

步骤S31，用户终端接收服务器发送的即时通讯消息与预警信息，所述预警信息中包含安全提示信息、验证信息与举报信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

步骤S32，将所述即时通讯消息与所述预警信息展示给用户。

步骤S33，响应于所述用户根据所述验证信息或举报信息进行的操作，执行对应的动作。

于本实施例一具体实施方式中，本步骤具体可包括：响应于用户根据验证信息的操作，通过服务器将预置的身份验证问题发送给用户终端，以验证即时通讯消息对应的来源用户终端的当前用户的身份。身份验证问题与答案可由当前用户终端的用户预置，用户终端可响应于用户在如图6所示验证信息显示区域的点击操作，将预置的问题通过服务器发送给对端（即时通讯消息对应的来源用户终端），然后根据用户预置的答案判断对端返回的答案是否正确。或者，用户也可只预置身份验证问题，用户终端根据用户的操作将预置的问题通过服务器发送给对端，然后将对端返回的答案显示给用户，以便用户自行判断返回答案是否正确。

或者，响应于用户根据验证信息的操作，向来源用户终端拨打电话，以验证来源用户终端的当前用户的身份。具体地，用户终端可响应于用户在如图7所示验证信息显示区域的点击操作，调用电话簿模块拨打来源用户终端的关联电话号码，或发起键盘，根据用户输入的电话号码向来源用户终端拨打电话。可以理解的，服务器可根据用户终端的机器类型发送不同的验证信息给用户终端，例如：向具有电话功能的移动终端类型（如：手机）的用户终端发送通过拨打电话进行身份验证的验证信息，向不具有电话功能的计算机终端类型的用户终端发送通过发送身份验证问题进行身份验证的验证信息。

或者，响应于用户根据举报信息的操作，按照预置的举报方式，对即时通讯信息进行举报。例如，用户终端可响应于用户在如图6或图7所示举报信息的显示区域的点击操作，将即时通讯消息及来源用户终端的用户预留的用户个人信息发送给国家信息安全中心的报警邮箱。

本发明实施例提供的即时通讯消息处理方法，通过用户终端接收服务器发送的即时通讯消息与预警信息，预警信息中包含安全提示信息、验证信息与举报信息，安全提示信息用于提示目的用户终端的用户即时通讯消息存在安全风险，将即时通讯消息与预警信息展示给用户，响应于用户根据验证信息或举报信息进行的操作，执行对应的动作，可使预警更具有针对性，提高预警效果，有效降低因不良即时通讯消息而给接收方用户带来的安全风险，并且根据用户基于验证信息或举报信息进行的操作，执行对应的动作，可提高即时通讯消息安全提示的灵活性，防止因机器误判而给即时通讯消息的发送方用户带来不必要的困扰。

第四实施例

图8为本发明第四实施例提供的即时通讯消息处理方法的流程图。如图8所示，本实施例的即时通讯消息处理方法包括以下步骤：

步骤S41，用户终端101获取用户输入的即时通讯消息，将获取的即时通讯消息、目的用户终端103的用户帐号信息、用户终端101的用户帐号信息与用户终端101的身份标识信息发送给服务器102。

步骤S42，服务器102根据预置的规则、用户终端的用户帐号信息，确定即时通讯消息的安全等级。

当安全等级为第一安全等级时，服务器102执行步骤S43：根据目的用户终端103的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端103，预警信息中包含安全提示信息，安全提示信息用于提示目的用户终端的用户即时通讯消息存在安全风险。

步骤S41至步骤S42具体可参考第一实施例与第二实施例的相应内容，此处不再赘述。

步骤S44：目的用户终端103将接收的即时通讯消息与预警信息展示给用户。

步骤S45：目的用户终端103响应于用户根据验证信息的操作，将预置的身份验证问题发送服务器102。

步骤S46：服务器102将预置的身份验证问题转发给用户终端101，以验证用户终端101的当前用户的身份。

步骤S47：用户终端101将预置的身份验证问题显示给用户，获取用户根据预置的身份验证问题输入的验证答案，将获取的验证答案返回给服务器102。

步骤S48：服务器102将验证答案转发给目的用户终端103，以便目的用户终端103对用户终端101的当前用户的身份进行验证。

于本实施例一具体实施方式中，目的用户终端103也可响应于用户根据验证信息的操作，向用户终端101拨打电话，以验证用户终端101的当前用户的身份。

于本实施例另一具体实施方式中，目的用户终端103也可响应于用户根据举报信息的操作，按照预置的举报方式，对即时通讯信息进行举报。

当安全等级为第二安全等级时，服务器102执行步骤S49：根据目的用户终端103的用户帐号信息，将即时通讯消息直接转发给目的用户终端103。

本发明实施例提供的即时通讯消息处理方法，通过服务器根据预置的规则、用户终端的用户帐号信息，确定从用户终端接收到的即时通讯消息的安全等级，并且当该即时通讯消息的安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，由于是从预置的规则、用户终端的用户帐号信息等多个维度的出发来确定即时通讯消息的安全等级，因此可提高对即时通讯消息的安全风险等级的界定的准确性，并且在将具有高安全风险的即时通讯消息发送给目的用户终端的同时，向目的用户终端发送预警信息，可使预警更具有针对性，提高安全预警的准确率，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

第五实施例

图9为本发明第五实施例提供的即时通讯消息处理装置的结构示意图。本实施例提供的即时通讯消息处理装置运行于服务器，可以用于上述实施例中的即时通讯消息处理方法。如图9所示，即时通讯消息处理装置50包括：接收模块51、分析模块52以及第一处理模块53。

其中，接收模块51用于接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、该用户终端的用户帐号信息与该用户终端的身份标识信息。

分析模块52用于根据预置的规则、该用户终端的用户帐号信息，确定该即时通讯消息的安全等级。

第一处理模块53用于当分析模块52分析确定该安全等级为第一安全等级时，根据该目的用户终端的用户帐号信息，将该即时通讯消息与预置的预警信息发送给该目的用户终端，该预警信息中包含安全提示信息，该安全提示信息用于提示该目的用户终端的用户该即时通讯消息存在安全风险。

本实施例对即时通讯消息处理装置50的各功能模块实现各自功能的具体过程，请参见上述图1至图8所示实施例中描述的具体内容，此处不再赘述。

本发明实施例提供的即时通讯消息处理装置，通过服务器根据预置的规则、用户终端的用户帐号信息，确定从用户终端接收到的即时通讯消息的安全等级，并且当该即时通讯消息的安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，由于是从预置的规则、用户终端的用户帐号信息等多个维度的出发来确定即时通讯消息的安全等级，因此可提高对即时通讯消息的安全风险等级的界定的准确性，并且在将具有高安全风险的即时通讯消息发送给目的用户终端的同时，向目的用户终端发送预警信息，可使预警更具有针对性，提高安全预警的准确率，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

第六实施例

图10为本发明第六实施例提供的即时通讯消息处理装置的结构示意图。本实施例提供的即时通讯消息处理装置运行于服务器，可以用于上述实施例中的即时通讯消息处理方法。如图10所示，即时通讯消息处理装置60包括：接收模块61、分析模块62、第一处理模块63以及第二处理模块64。

其中，接收模块61用于接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、该用户终端的用户帐号信息与该用户终端的身份标识信息。

优选地，用户终端的身份标识信息包括：该用户终端的IP地址、机器识别码以及MAC地址中的一种或任意几种的组合。

分析模块62用于根据预置的规则、该用户终端的用户帐号信息，确定该即时通讯消息的安全等级。如图11所示，分析模块62包括：第一分析单元621、第二分析单元622和评估单元623。其中，第一分析单元621，用于根据预置的分析规则，对该即时通讯消息的安全性进行分析，获取第一分析结果；第二分析单元622，用于根据该用户终端的用户帐号，获取该用户帐号对应的用户行为轨迹信息，根据该用户行为轨迹信息与该用户终端的身份标识信息对该用户终端当前用户的安全性进行分析，获取第二分析结果；评估单元623，用于根据预置的评估规则及权重规则，结合该第一分析结果与该第二分析结果对该即时通讯消息的安全性进行综合评估，确定该即时通讯消息的安全等级。

进一步地，第一分析单元621还用于对该即时通讯消息的内容进行分析，判断该即时通讯消息中是否包含预置的关键词，获取第一分析结果。

优选地，该用户行为轨迹信息包括：该用户使用该用户帐号的常用登录地、该用户使用该用户帐号进行登录时的常用用户终端的身份标识、该用户帐号的被盗用记录、以及该用户帐号的发布违规信息的记录中的一种或任意几种的组合。

第一处理模块63用于当分析模块62分析确定该安全等级为第一安全等级时，根据该目的用户终端的用户帐号信息，将该即时通讯消息与预置的预警信息发送给该目的用户终端，该预警信息中包含安全提示信息，该安全提示信息用于提示该目的用户终端的用户该即时通讯消息存在安全风险。

第二处理模块64用于当分析模块62分析确定该安全等级为第二安全等级时，根据该目的用户终端的用户帐号信息，将该即时通讯消息直接转发给该目的用户终端。

优选地，该预警信息中还包含验证信息与举报信息，该验证信息用于使该目的用户终端根据用户的操作向该用户终端发送预置的身份验证问题，以验证该用户终端的当前用户的身份，或使该目的用户终端根据该用户的操作向该用户终端拨打电话以验证该用户终端的当前用户的身份，该举报信息用于使该目的用户终端根据该对应的用户的操作，按照预置的举报方式，对该即时通讯消息进行举报。

本实施例对即时通讯消息处理装置60的各功能模块实现各自功能的具体过程，请参见上述图1至图8所示实施例中描述的具体内容，此处不再赘述。

本发明实施例提供的即时通讯消息处理装置，通过服务器根据预置的规则、用户终端的用户帐号信息，确定从用户终端接收到的即时通讯消息的安全等级，并且当该即时通讯消息的安全等级为第一安全等级时，根据目的用户终端的用户帐号信息，将即时通讯消息与预置的预警信息发送给目的用户终端，由于是从预置的规则、用户终端的用户帐号信息等多个维度的出发来确定即时通讯消息的安全等级，因此可提高对即时通讯消息的安全风险等级的界定的准确性，并且在将具有高安全风险的即时通讯消息发送给目的用户终端的同时，向目的用户终端发送预警信息，可使预警更具有针对性，提高安全预警的准确率，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

第七实施例

图12为本发明第七实施例提供的即时通讯消息处理装置的结构示意图。本实施例提供的即时通讯消息处理装置运行于用户终端，可以用于上述实施例中的即时通讯消息处理方法。如图12所示，即时通讯消息处理装置70包括：接收模块71、展示模块72以及处理模块73。

其中，接收模块71用于接收服务器发送的即时通讯消息与预警信息，该预警信息中包含安全提示信息、验证信息与举报信息，该安全提示信息用于提示该目的用户终端的用户该即时通讯消息存在安全风险。

展示模块72用于将接收模块71接收的该即时通讯消息与该预警信息展示给用户。

处理模块73用于响应于该用户根据该验证信息或举报信息进行的操作，执行对应的动作。

本实施例对即时通讯消息处理装置70的各功能模块实现各自功能的具体过程，请参见上述图1至图8所示实施例中描述的具体内容，此处不再赘述。

本发明实施例提供的即时通讯消息处理装置，通过用户终端接收服务器发送的即时通讯消息与预警信息，预警信息中包含安全提示信息、验证信息与举报信息，安全提示信息用于提示目的用户终端的用户即时通讯消息存在安全风险，将即时通讯消息与预警信息展示给用户，响应于用户根据验证信息或举报信息进行的操作，执行对应的动作，可使预警更具有针对性，提高预警效果，有效降低因不良即时通讯消息而给接收方用户带来的安全风险，并且根据用户基于验证信息或举报信息进行的操作，执行对应的动作，可提高即时通讯消息安全提示的灵活性，防止因机器误判而给即时通讯消息的发送方用户带来不必要的困扰。

第八实施例

图13为本发明第八实施例提供的即时通讯消息处理装置的结构示意图。本实施例提供的即时通讯消息处理装置运行于用户终端，可以用于上述实施例中的即时通讯消息处理方法。如图13所示，即时通讯消息处理装置80包括：接收模块81、展示模块82以及处理模块83。

其中，接收模块81用于接收服务器发送的即时通讯消息与预警信息，该预警信息中包含安全提示信息、验证信息与举报信息，该安全提示信息用于提示该目的用户终端的用户该即时通讯消息存在安全风险。

展示模块82用于将接收模块81接收的该即时通讯消息与该预警信息展示给用户。

处理模块83用于响应于该用户根据该验证信息或举报信息进行的操作，执行对应的动作。处理模块83包括：第一处理单元831、第二处理单元832和第三处理单元833。其中，第一处理单元831用于响应于该用户根据该验证信息的操作，通过该服务器将预置的身份验证问题发送给用户终端，以验证该即时通讯消息对应的来源用户终端的当前用户的身份；第二处理单元832用于响应于该用户根据所述验证信息的操作，向该来源用户终端拨打电话，以验证该来源用户终端的当前用户的身份；第三处理单元833用于响应于该用户根据所述举报信息的操作，按照预置的举报方式，对该即时通讯消息进行举报。

本实施例对即时通讯消息处理装置80的各功能模块实现各自功能的具体过程，请参见上述图1至图8所示实施例中描述的具体内容，此处不再赘述。

本发明实施例提供的即时通讯消息处理装置，通过用户终端接收服务器发送的即时通讯消息与预警信息，预警信息中包含安全提示信息、验证信息与举报信息，安全提示信息用于提示目的用户终端的用户即时通讯消息存在安全风险，将即时通讯消息与预警信息展示给用户，响应于用户根据验证信息或举报信息进行的操作，执行对应的动作，可使预警更具有针对性，提高安全预警的准确率，有效降低因不良即时通讯消息而给目的用户终端的用户带来的安全风险，具有较高的安全预警的准确率。

需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、物品或者装置中还存在另外的相同要素。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上，仅是本发明的较佳实施例而已，并非对本发明作任何形式上的限制，虽然本发明已以较佳实施例揭露如上，然而并非用以限定本发明，任何熟悉本专业的技术人员，在不脱离本发明技术方案范围内，当可利用上述揭示的技术内容做出些许更动或修饰为等同变化的等效实施例，但凡是未脱离本发明技术方案内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均仍属于本发明技术方案的范围内。

Claims (18)

1.一种即时通讯消息处理方法，其特征在于，包括：

服务器接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、所述用户终端的用户帐号信息与所述用户终端的身份标识信息；

根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级；

当所述安全等级为第一安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息与预置的预警信息发送给所述目的用户终端，所述预警信息中包含安全提示信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

2.根据权利要求1所述的方法，其特征在于，所述用户终端的身份标识信息包括：所述用户终端的IP地址、机器识别码以及MAC地址中的一种或任意几种的组合。

3.根据权利要求2所述的方法，其特征在于，所述根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级的步骤包括：

根据预置的分析规则，对所述即时通讯消息的安全性进行分析，获取第一分析结果；

根据所述用户终端的用户帐号，获取所述用户帐号对应的用户行为轨迹信息，根据所述用户行为轨迹信息与所述用户终端的身份标识信息对所述用户终端当前用户的安全性进行分析，获取第二分析结果；

根据预置的评估规则及权重规则，结合所述第一分析结果与所述第二分析结果对所述即时通讯消息的安全性进行综合评估，确定所述即时通讯消息的安全等级。

4.根据权利要求3所述的方法，其特征在于，所述根据预置的分析规则，对所述即时通讯消息的安全性进行分析，获取第一分析结果的步骤包括：

对所述即时通讯消息的内容进行分析，判断所述即时通讯消息中是否包含预置的关键词，获取第一分析结果。

5.根据权利要求3所述的方法，其特征在于，所述用户行为轨迹信息包括：所述用户使用所述用户帐号的常用登录地、所述用户使用所述用户帐号进行登录时的常用用户终端的身份标识、所述用户帐号的被盗用记录、以及所述用户帐号的发布违规信息的记录中的一种或任意几种的组合。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当所述安全等级为第二安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息直接转发给所述目的用户终端。

7.根据权利要求1所述的方法，其特征在于，所述预警信息中还包含验证信息与举报信息，所述验证信息用于使所述目的用户终端根据用户的操作向所述用户终端发送预置的身份验证问题，以验证所述用户终端的当前用户的身份，或使所述目的用户终端根据所述用户的操作向所述用户终端拨打电话以验证所述用户终端的当前用户的身份，所述举报信息用于使所述目的用户终端根据所述对应的用户的操作，按照预置的举报方式，对所述即时通讯消息进行举报。

8.一种即时通讯消息处理方法，其特征在于，包括：

用户终端接收服务器发送的即时通讯消息与预警信息，所述预警信息中包含安全提示信息、验证信息与举报信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险；

将所述即时通讯消息与所述预警信息展示给用户；

响应于所述用户根据所述验证信息或举报信息进行的操作，执行对应的动作。

9.根据权利要求8所述的方法，其特征在于，所述响应于所述用户根据所述验证信息或举报信息进行的操作，执行对应的动作的步骤包括：

响应于所述用户根据所述验证信息的操作，通过所述服务器将预置的身份验证问题发送给用户终端，以验证所述即时通讯消息对应的来源用户终端的当前用户的身份；或

响应于所述用户根据所述验证信息的操作，向所述来源用户终端拨打电话，以验证所述来源用户终端的当前用户的身份；或

响应于所述用户根据所述举报信息的操作，按照预置的举报方式，对所述即时通讯消息进行举报。

10.一种即时通讯消息处理装置，运行于服务器，其特征在于，包括：

接收模块，用于接收用户终端发送的即时通讯消息、目的用户终端的用户帐号信息、所述用户终端的用户帐号信息与所述用户终端的身份标识信息；

分析模块，用于根据预置的规则、所述用户终端的用户帐号信息，确定所述即时通讯消息的安全等级；

第一处理模块，用于当所述分析模块分析确定所述安全等级为第一安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息与预置的预警信息发送给所述目的用户终端，所述预警信息中包含安全提示信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险。

11.根据权利要求10所述的装置，其特征在于，所述用户终端的身份标识信息包括：所述用户终端的IP地址、机器识别码以及MAC地址中的一种或任意几种的组合。

12.根据权利要求10所述的装置，其特征在于，所述分析模块包括：

第一分析单元，用于根据预置的分析规则，对所述即时通讯消息的安全性进行分析，获取第一分析结果；

第二分析单元，用于根据所述用户终端的用户帐号，获取所述用户帐号对应的用户行为轨迹信息，根据所述用户行为轨迹信息与所述用户终端的身份标识信息对所述用户终端当前用户的安全性进行分析，获取第二分析结果；

评估单元，用于根据预置的评估规则及权重规则，结合所述第一分析结果与所述第二分析结果对所述即时通讯消息的安全性进行综合评估，确定所述即时通讯消息的安全等级。

13.根据权利要求12所述的装置，其特征在于，

所述第一分析单元，还用于对所述即时通讯消息的内容进行分析，判断所述即时通讯消息中是否包含预置的关键词，获取第一分析结果。

14.根据权利要求12所述的装置，其特征在于，所述用户行为轨迹信息包括：所述用户使用所述用户帐号的常用登录地、所述用户使用所述用户帐号进行登录时的常用用户终端的身份标识、所述用户帐号的被盗用记录、以及所述用户帐号的发布违规信息的记录中的一种或任意几种的组合。

15.根据权利要求10所述的装置，其特征在于，所述装置还包括：

第二处理模块，用于当所述分析模块分析确定所述安全等级为第二安全等级时，根据所述目的用户终端的用户帐号信息，将所述即时通讯消息直接转发给所述目的用户终端。

16.根据权利要求10所述的装置，其特征在于，所述预警信息中还包含验证信息与举报信息，所述验证信息用于使所述目的用户终端根据用户的操作向所述用户终端发送预置的身份验证问题，以验证所述用户终端的当前用户的身份，或使所述目的用户终端根据所述用户的操作向所述用户终端拨打电话以验证所述用户终端的当前用户的身份，所述举报信息用于使所述目的用户终端根据所述对应的用户的操作，按照预置的举报方式，对所述即时通讯消息进行举报。

17.一种即时通讯消息处理装置，运行于用户终端，其特征在于，包括：

接收模块，用于接收服务器发送的即时通讯消息与预警信息，所述预警信息中包含安全提示信息、验证信息与举报信息，所述安全提示信息用于提示所述目的用户终端的用户所述即时通讯消息存在安全风险；

展示模块，用于将所述接收模块接收的所述即时通讯消息与所述预警信息展示给用户；

处理模块，用于响应于所述用户根据所述验证信息或举报信息进行的操作，执行对应的动作。

18.根据权利要求17所述的装置，其特征在于，所述处理模块包括：

第一处理单元，用于响应于所述用户根据所述验证信息的操作，通过所述服务器将预置的身份验证问题发送给用户终端，以验证所述即时通讯消息对应的来源用户终端的当前用户的身份；

第二处理单元，用于响应于所述用户根据所述验证信息的操作，向所述来源用户终端拨打电话，以验证所述来源用户终端的当前用户的身份；

第三处理单元，用于响应于所述用户根据所述举报信息的操作，按照预置的举报方式，对所述即时通讯消息进行举报。