CN109525484A - 风险识别处理方法和装置 - Google Patents

Abstract

本说明书实施例公开了一种风险识别处理方法和装置，该方法包括：监控通讯消息；如果上述通讯消息中存在敏感信息，获取发送上述通讯消息的第一用户的历史通讯消息记录；基于历史通讯消息记录对第一用户进行风险识别；如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

Description

风险识别处理方法和装置

技术领域

本说明书实施例涉及即时通讯技术领域，尤其涉及一种风险识别处理方法和装置。

背景技术

随着通讯技术的飞速发展，即时通讯(Instant Messenger，IM)服务也得到了广泛的应用，用户可以把经常联系的其他用户加入到联系人(或好友)名单，随时与之发起实时对话，从而达到即时交流的目的。

目前，通过即时通讯软件进行诈骗的案件时有发生，往往给受害者带来不小的经济和家庭损害。而现有防诈骗检查手段比较简单，通常是采用敏感词过滤方案，例如，第一用户通过即时通讯软件请求第二用户向其转账，即时通讯软件的后台服务器会监听到敏感词“转账”，然后就会提示第二用户，例如，向第二用户发送类似于“不要向陌生人转账、请电话确认对方身份”等风险提示信息。

上述敏感词过滤方案能够起到一定的防骗作用，但缺点是判断手段太过简单，精度不高，久而久之会被用户忽略。

发明内容

本说明书实施例提供一种风险识别处理方法和装置，用于提高风险识别的精度。

本说明书实施例采用下述技术方案：

第一方面，提供了一种风险识别处理方法，包括：

监控通讯消息；

如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

基于所述历史通讯消息记录，对所述第一用户进行风险识别；

如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

第二方面，提供了一种风险识别处理装置，包括：

消息监控模块，监控通讯消息；

获取模块，如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

风险识别模块，基于所述历史通讯消息记录，对所述第一用户进行风险识别；

处理模块，如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

第三方面，提供了一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如下操作：

监控通讯消息；

如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

基于所述历史通讯消息记录，对所述第一用户进行风险识别；

如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

第四方面，提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下操作：

监控通讯消息；

如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

基于所述历史通讯消息记录，对所述第一用户进行风险识别；

如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

本说明书实施例采用的上述至少一个技术方案，在监控到通讯消息中存在敏感信息时，基于历史通讯消息记录对第一用户进行风险识别，并且在识别到第一用户是风险用户时向第二用户发送风险提示信息，相对于现有技术中检测到敏感词即发送风险提示信息的方法，由于历史通讯消息记录的信息量远大于一条通讯消息，能够更加准确地识别出第一用户的风险结果，因此，提高了风险识别的精度。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本说明书的一个实施例提供的风险识别处理方法流程示意图；

图2为本说明书的另一个实施例提供的风险识别处理方法流程示意图；

图3为本说明书的一个实施例提供的风险识别处理装置结构示意图；

图4为实现本说明书各个实施例的电子设备硬件结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

如图1所示，本说明书的一个实施例提供一种风险识别处理方法100，包括如下步骤：

S102：监控通讯消息。

该步骤中提到的通讯消息，可以是第一用户(或称第一用户帐号，后续类同)发送给第二用户的。

第一用户和第二用户通过即时通讯软件聊天时，第一用户输入的通讯消息会首先发送至即时通讯软件的服务器，然后，服务器将上述通讯消息转发至第二用户。

需要说明的是，本说明书实施例提到的上述第一用户和第二用户，只是为了方便区分不同的用户，其中的“第一”和“第二”不代表其他具体的含义。另外，本说明书实施例提供的风险识别处理方法不仅可以应用在两个用户单独聊天的场景下，即第一用户是一个用户，第二用户是一个用户；也可以应用在群聊的场景下，即第一用户是一个用户，第二用户是多个用户。

该步骤S102即可对第一用户向第二用户发送的通讯消息进行过滤，以判断通讯消息中是否包括有敏感信息，这些敏感信息例如包括与金融诈骗相关的敏感词、敏感图片以及敏感视频中的至少一种。

上述敏感词，例如包括：转账、汇款、钱、人民币、美元等关键词。

上述敏感图片，例如，包括有类似于上述敏感词文字的图片等，该实施例即可基于OCR文字识别技术对上述图片进行文字识别；然后对识别得到的文字进行敏感词过滤，以判断通讯消息中是否包括有敏感信息。

上述敏感视频，例如，要求第二用户转账的视频等等，该实施例即可基于语音识别技术、视频字幕识别技术等进行文字识别；然后对识别得到的文字进行敏感词过滤，以判断通讯消息中是否包括有敏感信息。

S104：如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

上述监控的通讯消息，通常针对的是第一用户发送的一条或若干条数量较少的通讯消息。该步骤中获取的历史通讯消息记录，可以是第一用户历史时刻发送的、数量较多的通讯消息，例如，第一用户历史时刻向第二用户发送的全部通讯消息等等。

此外，该步骤中的历史通讯消息记录，不局限于第一用户历史时刻发送给第二用户的通讯消息，也可以包括第一用户历史时刻发送给其他用户的通讯消息等等。

上述历史时刻，可以是从第一用户和第二用户建立好友关系开始，直至该实施例的执行过程中；可选地，上述历史时刻，也可以是距离当前时刻的前一天时间、两天时间或十天时间等等。

可以理解，在一定条件下，获取的历史通讯消息记录的信息量越多，后续步骤中对第一用户进行风险识别，得到的识别结果的准确度也越高。

S106：基于所述历史通讯消息记录，对所述第一用户进行风险识别。

可选地，该步骤可以将上述历史通讯消息记录输入风险识别模型以得到第一用户的风险识别结果，其中，上述风险识别模型基于通讯消息记录样本数据和对应的风险标签训练得到。上述通讯消息记录样本数据，可以是大量用户的通讯消息记录；上述风险标签，例如，可以用来标识用户是正常用户，或者，标识用户是风险用户等。

该实施例执行之前则可以基于通讯消息记录样本数据和对应的风险标签训练得到风险识别模型。

当然，该步骤S106也可以采用其它的识别方式对第一用户进行风险识别，例如，检测到历史通讯消息记录中的敏感信息出现的频次高于预设阀值，则识别结果指示第一用户是风险用户；或者，历史通讯消息记录中的敏感信息出现的频次低于预设阀值，则识别结果指示第一用户是正常用户。

可以理解，本说明书实施例在此示出了前述骤S106的两种具体实现方式。当然，应理解，步骤S106也可以采用其它的方式实现，本说明书实施例对此不作限制。

S108：如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

上述风险提示信息，例如包括：“不要向陌生人转账、请电话确认对方身份，或者请注意资金安全”等风险提示信息。

可选地，如果识别结果指示第一用户是正常用户，该实施例可以不执行处理。

可选地，如果识别结果指示第一用户是正常用户，该实施例可以向第二用户发送标识第一用户是正常用户的提示信息，例如，“可以向第一用户放心转账，等等”。

本说明书实施例提供的风险识别处理方法，在监控到通讯消息中存在敏感信息时，基于历史通讯消息记录对第一用户进行风险识别，并且在识别到第一用户是风险用户时向第二用户发送风险提示信息，相对于现有技术中检测到敏感词即发送风险提示信息的方法，由于历史通讯消息记录的信息量远大于一条通讯消息，能够更加准确地识别出第一用户的风险结果，因此，提高了风险识别的精度。

需要说明的是，该实施例中提到的通讯消息是第一用户发送给第二用户的，该实施例提供的风险识别处理方法可以得到第一用户的风险识别结果，实际上，即时通讯过程中，第一用户和第二用户之间是互相发送通讯消息，即，该实施例提供的方法，同样可以基于第二用户的历史通讯消息记录对第二用户进行风险识别，如果识别结果指示第二用户是风险用户，向第一用户发送风险提示信息等等。

可选地，上述实施例的步骤S102中提到监控通讯消息，具体可以是：计算所述通讯消息与预设敏感信息库中的敏感信息之间的匹配度；如果所述匹配度达到匹配阀值，确定所述通讯消息中存在敏感信息；或者，如果所述匹配度未达到所述匹配阀值，确定所述通讯消息中没有存在敏感信息。

在一种实施方式中，上述匹配度和匹配阀值可以以匹配度数值表示，例如，匹配度为0；匹配度为61，或者是匹配度为100；匹配阀值为80，等等。

在另一种实施方式中，上述匹配阀值可以以匹配程度表示，例如，匹配程度包括严格匹配和非严格匹配等，当然，每个匹配程度对应预设的匹配度数值区间，比如，严格匹配对应的匹配度数值区间为[50，100)；非严格匹配对应的匹配度数值为[0，50)。

在上述几个实施实例中，如果识别结果指示第一用户是风险用户，则在S108向第二用户发送风险提示信息之前，上述方法几个实施例还包括如下步骤：

获取与所述历史通讯消息记录相匹配的风险案例。这样，S108中向第二用户发送风险提示信息，包括：向所述第二用户发送携带有所述风险案例的风险提示信息。

该实施例在发送诸如“不要向陌生人转账、请电话确认对方身份，或者请注意资金安全”等风险提示信息的同时，向第二用户发送相似风险案例，起到让第二用户自查自学风险案例的目的，能够起到明确的警示意义。明确的提示信息警告和风险案例，对发生在第二用户眼前的诈骗行为更具备说服力，更能引起第二用户的重视和堤防。

同时，该实施例提供的风险识别处理方法可以利用在即时通讯软件中，即时通讯软件提供的这种保护用户人身财产安全的能力，能使得即时通讯软件在用户心目中的形象和地位得到进一步的提升，有利用增加用户粘度，提升即时通讯软件的影响力。

可选地，上述几个方法实施例还包括如下步骤：基于历史通讯消息记录中标记为风险事件的通讯消息记录生成风险案例；将所述风险案例添加到风险案例库中，其中，所述风险案例库用于存储风险案例。这样，前文实施例提到的获取与所述历史通讯消息记录相匹配的风险案例，具体可以是从风险案例库中获取与所述历史通讯消息记录相匹配的风险案例。

可选地，前文几个方法实施例的S106中提到对所述第一用户进行风险识别，在得到识别结果后，还可以基于得到的识别结果为第一用户添加风险标签，其中，所述风险标签用于标识正常用户或风险用户。这样，在即时通讯过程中，每一个用户均携带有风险标签，即时通讯软件还可以选择向即时通讯用户展示对方的风险标签，能够引起用户对于风险用户的警觉，便于进一步降低风险诈骗的发生。

可选地，通过上述添加标签的操作，这样，前文几个实施例的S102中提到的监控通讯消息包括：基于所述第一用户的风险标签监控通讯消息。具体地，基于所述第一用户的风险标签监控通讯消息包括：基于所述第一用户的风险标签，选择与所述风险标签相匹配的敏感信息过滤策略；基于所述敏感信息过滤策略监控通讯消息。

可选的，当风险标签是以量化分值表示第一用户的风险分值时，即时通信软件的服务器存储有风险标签的分值区间与过滤策略之间的对应关系。可选的，当风险标签是以正常、风险等等级表示第一用户的风险等级时，即时通信软件的服务器存储有风险标签与过滤策略之间的对应关系。

上述不同的过滤策略，具体可以包括有不同的过滤频率，可选的，过滤频率是以高低等级表示的频率等级，比如，高频过滤和低频过滤等，比如，高频过滤对应的频率数值为每一条通讯消息过滤一次，则即时通信软件的服务器确定转发至第二用户的每条通讯消息都进行监控过滤；低频过滤对应的频率数值为每3条通讯消息过滤一次，则即时通信服务器确定每3条转发至第二用户的通讯消息中的1条进行监控过滤，比如，即服务器依次接收到需要转发至第二用户的通讯消息1-3，则确定通讯消息2是待过滤的通讯消息。

由于风险标签为正常用户进行诈骗的概率较低，因此，需要对转发至第二用户的通讯消息进行低频率的过滤，以节约资源；风险标签为风险用户进行诈骗的概率较高，因此，通常情况下需要对转发至第二用户的通讯消息进行高频率的过滤，以提高风险识别精度。

则可选的，风险标签表征第一用户为风险用户，该风险标签对应的过滤策略的过滤频率越高，以提高风险识别精度；风险标签表征的第一用户为正常用户，该风险标签对应的过滤策略的过滤频率越高，以节约资源。

如图2所示，本说明书的一个实施例提供一种风险识别处理方法200，图2中显示的是第一用户是风险用户的执行过程，对于第一用户是正常用户的流程并未明确显示。图2所示的实施例包括如下步骤：

S202：服务端获取第一用户的通讯消息。

该实施例中，服务端在获取到第一用户的通讯消息后，即可将该通讯消息转发至第二用户。

S204：敏感词过滤器对通讯消息进行过滤，如果通讯消息中存在敏感词，则执行步骤S206；如果通讯消息中不存在敏感词，则结束流程。

S206：将第一用户的历史通讯消息记录输入AI分析系统。

该实施例中的AI(人工智能)分析系统，具体可以是基于通讯消息记录样本数据和对应的风险标签训练得到，上述通讯消息记录样本数据，可以是大量用户的通讯消息记录；上述风险标签，例如，可以用来标识用户是正常用户，或者，标识用户是风险用户等。

该实施例执行之前则可以基于通讯消息记录样本数据和对应的风险标签训练得到AI分析系统。

S208：AI分析系统对第一用户进行风险识别，如果第一用户是风险用户，则获取与上述历史通讯消息记录相匹配的相似风险案例；如果第一用户是正常用户，则可以结束流程。

S210：AI分析系统将识别结果和相似风险案例发送给服务器。

S212：服务器向第二用户发送风险提示信息。

该实施例的风险提示信息不仅包括诸如“不要向陌生人转账、请电话确认对方身份，或者请注意资金安全”等风险提示信息；还包括有相似风险案例。

本说明书实施例提供的风险识别处理方法，在监控到通讯消息中存在敏感信息时，基于历史通讯消息记录对第一用户进行风险识别，并且在识别到第一用户是风险用户时向第二用户发送风险提示信息，相对于现有技术中检测到敏感词即发送风险提示信息的方法，由于历史通讯消息记录的信息量远大于一条通讯消息，能够更加准确地识别出第一用户的风险结果，因此，提高了风险识别的精度。

该实施例在发送诸如“不要向陌生人转账、请电话确认对方身份，或者请注意资金安全”等风险提示信息的同时，向第二用户发送相似风险案例，起到让第二用户自查自学的目的，能够起到明确的警示意义。明确的提示信息警告和风险案例，对发生在第二用户眼前的诈骗行为更具备说服力，更能引起第二用户的重视和堤防。

同时，该实施例提供的风险识别处理方法可以利用在即时通讯软件中，即时通讯软件提供的这种保护用户人身财产安全的能力，能使得即时通讯软件在用户心目中的形象和地位得到进一步的提升，有利用增加用户粘度，提升即时通讯软件的影响力。

以上说明书部分详细介绍了风险识别处理方法实施例，如图3所示，本说明书还提供了一种风险识别处理装置300，如图3所示，该装置300包括：

消息监控模块302，可以用于监控通讯消息；

获取模块304，可以用于如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

风险识别模块306，可以用于基于所述历史通讯消息记录，对所述第一用户进行风险识别；

处理模块308，可以用于如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

本说明书实施例提供的风险识别处理装置，在监控到通讯消息中存在敏感信息时，基于历史通讯消息记录对第一用户进行风险识别，并且在识别到第一用户是风险用户时向第二用户发送风险提示信息，相对于现有技术中检测到敏感词即发送风险提示信息的方法，由于历史通讯消息记录的信息量远大于一条通讯消息，能够更加准确地识别出第一用户的风险结果，因此，提高了风险识别的精度。

可选地，作为一个实施例，如果所述第一用户是风险用户，则处理模块308在向第二用户发送风险提示信息之前，获取模块304还可以用于获取与所述历史通讯消息记录相匹配的风险案例；

这样，处理模块308向第二用户发送风险提示信息，包括：向所述第二用户发送携带有所述风险案例的风险提示信息。

可选地，作为一个实施例，所述装置300还包括风险案例生成模块，用于基于历史通讯消息记录中标记为风险事件的通讯消息记录生成风险案例；将所述风险案例添加到风险案例库中，其中，所述风险案例库用于存储风险案例。

可选地，作为一个实施例，风险识别模块306基于所述历史通讯消息记录，对所述第一用户进行风险识别包括：

将所述历史通讯消息记录输入风险识别模型以得到所述第一用户的风险识别结果，所述风险识别模型基于通讯消息记录样本数据和对应的风险标签训练得到。

可选地，作为一个实施例，所述装置300还包括风险标签添加模块，用于基于所述识别结果为所述第一用户添加风险标签，其中，所述风险标签用于标识正常用户或风险用户。

可选地，作为一个实施例，所述消息监控模块302监控通讯消息包括：

基于所述第一用户的风险标签监控通讯消息。

可选地，作为一个实施例，所述消息监控模块302基于所述第一用户的风险标签监控通讯消息包括：

基于所述第一用户的风险标签，选择与所述风险标签相匹配的敏感信息过滤策略；

基于所述敏感信息过滤策略监控通讯消息。

可选地，作为一个实施例，所述消息监控模块302监控通讯消息包括：

计算所述通讯消息与预设敏感信息库中的敏感信息之间的匹配度；

如果所述匹配度达到匹配阀值，确定所述通讯消息中存在敏感信息；或者，

如果所述匹配度未达到所述匹配阀值，确定所述通讯消息中没有存在敏感信息。

根据本说明书实施例的上述风险识别处理装置300可以参照对应前文本说明书实施例的风险识别处理方法100和200的流程，并且，该风险识别处理装置300中的各个单元/模块和上述其他操作和/或功能分别为了实现风险识别处理方法100和200中的相应流程，为了简洁，在此不再赘述。

下面将结合图4详细描述根据本说明书实施例的电子设备。参考图4，在硬件层面，电子设备包括处理器，可选地，包括内部总线、网络接口、存储器。其中，如图4所示，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括实现其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是工业标准体系结构(Industry Standard Architecture，ISA)总线、外设部件互连标准(Peripheral Component Interconnect，PCI)总线或扩展工业标准结构(ExtendedIndustry Standard Architecture，EISA)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成转发聊天信息的装置。处理器，执行存储器所存放的程序，并具体用于执行本说明书前文所述的方法实施例的操作。

上述图1至图3所示实施例揭示的方法、装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

图4所示的电子设备还可执行图1至图2的方法，并实现风险识别处理方法在图1至图2所示实施例的功能，本申请实施例在此不再赘述。

当然，除了软件实现方式之外，本申请的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

本说明书实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述各个方法实施例100和200的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random AccessMemory，简称RAM)、磁碟或者光盘等。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (11)

1.一种风险识别处理方法，包括：

监控通讯消息；

如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

基于所述历史通讯消息记录，对所述第一用户进行风险识别；

如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

2.根据权利要求1所述的方法，

如果所述第一用户是风险用户，则在向第二用户发送风险提示信息之前，所述方法还包括：获取与所述历史通讯消息记录相匹配的风险案例；

所述向第二用户发送风险提示信息包括：向所述第二用户发送携带有所述风险案例的风险提示信息。

3.根据权利要求2所述的方法，所述方法还包括：

基于历史通讯消息记录中标记为风险事件的通讯消息记录生成风险案例；

将所述风险案例添加到风险案例库中，其中，所述风险案例库用于存储风险案例。

4.根据权利要求1至3任一项所述的方法，所述基于所述历史通讯消息记录，对所述第一用户进行风险识别包括：

将所述历史通讯消息记录输入风险识别模型，以得到所述第一用户的风险识别结果，其中，所述风险识别模型基于通讯消息记录样本数据和对应的风险标签训练得到。

5.根据权利要求1所述的方法，所述方法还包括：

基于所述识别结果为所述第一用户添加风险标签，其中，所述风险标签用于标识正常用户或风险用户。

6.根据权利要求5所述的方法，所述监控通讯消息包括：

基于所述第一用户的风险标签监控通讯消息。

7.根据权利要求6所述的方法，所述基于所述第一用户的风险标签监控通讯消息包括：

基于所述第一用户的风险标签，选择与所述风险标签相匹配的敏感信息过滤策略；

基于所述敏感信息过滤策略监控通讯消息。

8.根据权利要求1所述的方法，所述监控通讯消息包括：

计算所述通讯消息与预设敏感信息库中的敏感信息之间的匹配度；

如果所述匹配度达到匹配阀值，确定所述通讯消息中存在敏感信息；或者，

如果所述匹配度未达到所述匹配阀值，确定所述通讯消息中没有存在敏感信息。

9.一种风险识别处理装置，包括：

消息监控模块，监控通讯消息；

获取模块，如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

风险识别模块，基于所述历史通讯消息记录，对所述第一用户进行风险识别；

处理模块，如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

10.一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如下操作：

监控通讯消息；

如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

基于所述历史通讯消息记录，对所述第一用户进行风险识别；

如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。

11.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下操作：

监控通讯消息；

如果所述通讯消息中存在敏感信息，获取发送所述通讯消息的第一用户的历史通讯消息记录；

基于所述历史通讯消息记录，对所述第一用户进行风险识别；

如果识别结果指示所述第一用户是风险用户，向接收所述通讯消息的第二用户发送风险提示信息。