CN109905359B - 通信消息处理方法、装置、计算机设备及可读存取介质 - Google Patents

Abstract

本发明公开了一种通信消息处理方法、装置、计算机设备及可读存取介质，所述方法通过在通信消息符合预设的隐私条件时，从通信消息中提取出私密主题以及对应的私密消息；当私密主题与预设的个人私密数据库中的预存主题匹配时，对通信消息进行语义识别，确定通信消息的表达状态；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息；从而达到保护用户的私密消息不被轻易泄露的目的。

Description

通信消息处理方法、装置、计算机设备及可读存取介质

技术领域

本发明涉及计算机技术领域，尤其涉及一种通信消息处理方法、通信消息处理装置、计算机设备及计算机可读存取介质。

背景技术

日常生活中，移动终端(比如手机)的通讯软件与社交软件逐渐成为人与人之间的主流交流媒介，这些软件使用简单操作方便，使得越来越多的通信交流通过移动终端的通讯软件或者社交软件来实现。用户在使用通讯软件或者社交软件进行聊天时，通常会涉及到一些私密消息，例如电话、家庭住址、工作单位、收入、银行账户等，有时候用户是主动向对方透露私密消息，也有可能时无意透露或者经聊天对象的诱导后透露。现有技术中，无法对用户无意透露或者经聊天对象的诱导后透露的私密消息进行防护，这种情况带来了信息安全泄露隐患。

很多通讯软件或者社交软件在注册时，都需要用户填写较多的个人信息，这些个人信息也包括一些私密消息，例如电话，家庭住址，工作单位等，个人信息的公开也带来了一定程度上的信息安全泄露隐患。另外，用户的个人信息通常只有全部开放和完全不开放两种设定，用户还需要手动的一一去修改，无法根据用户之间的关系自动进行变换。然而，用户之间的关系，通常与用户之间的通信消息中是否包含私密消息有关。

发明内容

本发明的主要目的在于提供一种通信消息处理方法、通信消息处理装置、计算机设备及计算机可读存取介质，旨在解决社交软件或者通信软件中用户之间的通信中可能存在的隐私信息泄露风险。

为实现上述目的，本发明提供一种通信消息处理方法，包括以下步骤：

获取用户待发送至目标对象的通信消息；

当所述通信消息符合预设的隐私条件时，从所述通信消息中提取出私密主题以及对应的私密消息；

当所述私密主题与预设的个人私密数据库中的预存主题匹配时，对所述通信消息进行语义识别，确定所述通信消息的表达状态；其中，所述表达状态包括主动表达和被动表达；

当所述通信消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的预存数据不匹配时，发送所述通信消息至所述目标对象；

当所述通信消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的所述预存数据匹配时，向所述用户发送隐私提醒信息。

进一步地，所述方法还包括步骤：

当所述私密消息的表达状态为主动表达时，发送所述通信消息至所述目标对象。

进一步地，所述对所述私密内容进行语义识别，确定所述私密消息的表达状态的步骤，包括：

提取所述私密消息中的特征数据；

将所述特征数据作为样本数据，输入基于卷积神经网络和数据集预先训练得到的语义分析模型，获取所述语义分析模型输出的样本标签；其中，所述样本标签用于表示所述私密消息的表达状态。

进一步地，所述语义分析模型的训练方法，包括步骤：

获取的至少两个已知用户之间进行的包含私密消息的通信消息作为输入训练数据，以及所述两个已知用户的已知表达状态作为输出训练样本；

根据所述输入训练数据以及所述输出训练样本，对基于卷积神经网络构建的初始语义分析模型进行训练，得到所述语义分析模型。

进一步地，所述当所述通信消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的预存数据不匹配时，发送所述通信消息至所述目标对象的步骤之后，还包括步骤：

标识所述目标对象对所述用户的个人资料的访问权限标签为禁止。

进一步地，所述方法还包括步骤：

当向所述用户发送所述隐私提醒信息之后，确认所述用户根据所述隐私提醒信息反馈的确认信息；

根据所述确认信息，确定是否发送所述通信消息至所述目标对象。

进一步地，所述方法还包括步骤：

在确定不发送所述通信消息至所述目标对象时，将所述通信消息中的所述私密消息替换为预设的字符；

将替换后的所述通信消息发送至所述目标对象。

本发明还提供一种通信消息处理装置，所述装置包括：

获取模块，用于获取用户待发送至目标对象的通信消息；

私密数据提取模块，用于当所述通信消息符合预设的隐私条件息时，从所述通信消息中提取出私密主题以及对应的私密消息；

语义分析模块，用于当所述私密主题与预设的个人私密数据库中的预存主题匹配时，对所述私密内容进行语义识别，确定所述私密消息的表达状态；其中，所述表达状态包括主动表达和被动表达；

确定模块，用于当所述私密消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的预存数据不匹配时，发送所述通信消息至所述目标对象；以及用于当所述私密消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的所述预存数据匹配时，向所述用户发送隐私提醒信息。

本发明还提供一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如上任一项所述的通信消息处理方法的步骤。

本发明还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如上任一项所述的通信消息处理方法的步骤。

本发明中提供的技术方案中，通过在通信消息符合预设的隐私条件时，从通信消息中提取出私密主题以及对应的私密消息；当私密主题与预设的个人私密数据库中的预存主题匹配时，对通信消息进行语义识别，确定通信消息的表达状态；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息；从而达到保护用户的私密消息不被轻易泄露的目的。

附图说明

图1为本发明一个实施例中通信消息处理方法的应用场景图；

图2为本发明一实施例中通信消息处理方法的流程示意图；

图3为本发明一实施例中对通信消息进行语义识别，确定通信消息的表达状态的步骤的流程示意图；

图4为本发明另一实施例中通信消息处理方法的流程示意图；

图5为本发明一个实施例中的在步骤S5之后还包括的步骤的流程示意图；

图6为本发明一实施例中的计算机设备的结构示意图；

图7为本发明一实施例中的通信消息处理装置的结构框图。

具体实施方式

下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。

凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

本申请提供的通信消息处理方法，可以应用于如图1所示的应用环境中。其中，终端10通过网络与后台服务器20通过网络进行通信。其中，不同的用户可以通过各自的终端设备10上安装的APP或者网站进入登录社交平台的后台服务器20。其中，终端10可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备，后台服务器20可以用独立的服务器或者是多个服务器组成的服务器集群来实现。

请参阅图2，在一个实施例中，提供一种通信消息处理方法，以该方法应用于图1中的后台服务器20为例进行说明，包括如下步骤：

步骤S1，获取用户待发送至目标对象的通信消息。

步骤S1中，通信消息为社交APP，婚恋交友APP，具有社交功能的支付APP、购物APP等应用软件的输入框中的用户欲发送给目标对象的通信消息。具体的，通信消息的类型可以包括文字聊天消息、语音聊天消息、视频聊天消息中的一种或多种。当所通信消息为语音聊天消息或者视频聊天消息，可以通过语音识别的方式，将语音或者视频数据转换为文字数据。

步骤S2，当通信消息符合预设的隐私条件息时，从通信消息中提取出私密主题以及对应的私密消息。

其中，预设隐私条件可以为通信消息中是否包含预设的关键词；其中，关键词可以是人为预设的，关键词可以是具体姓名(例如张三、李四等)、年龄词(例如，XX岁、多少岁、中年、等)、籍贯词(例如，东北、广东、深圳等)、地址词(例如，XX街道、XX楼等)、收入词(例如，年薪、月薪、奖金、XX元等)中的一个或者多个。

例如，若预设的关键词包括年龄词时，则可以是当通信消息中出现中文数字、阿拉伯数字、岁、年等词时，确认通信消息符合预设的隐私条件；若预设的关键词包括地址词时，则可以是当通信消息中出现地点、城市名等名词的时候，确认通信消息符合预设的隐私条件。

在其他实施例中，预设的关键词可以是人为设定的各种词汇，也可以是由某种算法计算出来的高频词汇。其中，从通信消息中提取出私密主题可以是对应的关键词的类型，私密消息可以为包含对应的关键词的语句或者上下文。

例如：用户准备给目标对象发送通信消息：“我的年龄是30岁”，预设的隐私条件为“通信消息中包含年龄词、收入词或者姓名‘XXX’”。根据通信消息包含关键词“年龄”可知，此通信消息符合预设的隐私条件，其私密主题为“年龄”，其私密消息为“我的年龄是30岁”。

步骤S3，当私密主题与预设的个人私密数据库中的预存主题匹配时，对通信消息进行语义识别，确定通信消息的表达状态；其中，表达状态包括主动表达和被动表达。

其中，预设的个人私密数据库存储有预设主题以及与预设主题对应的预存数据。

例如，预设的个人私密数据库中可以存储有姓名词、年龄词、工作地点词、收入词等预设主题，以及每个预设主题对应的预存数据；其中，预存数据可以包括姓名词的对应数据“张明”、年龄词的对应数据“30岁”、工作地点的对应数据“北京”、姓名词的对应数据“5000元/月”等。仍以通信消息“我的年龄是30岁”为例，此通信消息符合预设的隐私条件，提取出的私密主题为“年龄”，提取出的私密消息为“我的年龄是30岁”。则私密主题与预设的个人私密数据库中的预存主题匹配。

进一步地，当私密主题与预设的个人私密数据库中的预存主题匹配时，对通信消息进行语义识别，确定通信消息的表达状态为主动表达还是被动表达。

其中，主动表达一般可以是用户在聊天过程中，主动且先于聊天对象对涉及私密主题的信息进行表达的状态；被动表达指的是用户在聊过程中，接受聊天对象的询问、受到聊天对象对说出的涉及私密主题的信息的影响，而紧接着表达出的涉及私密主题的信息的表达状态。例如，用户在聊天过程中，率先说出“我今年20岁”，则是一种主动表达；用户在聊天过程中被询问年龄而回答“我今年20岁”，则是一种被动表达；用户在聊天过程中因为聊天对象率先说出年龄或者提出年龄的话题，而发出消息“我今年20岁”，则也是一种被动表达。

具体的，在本实施例中，可以通过语义识别对通信消息进行分析，确定通信消息的表达状态。其中语义识别的算法可以是：基于深度学习自然语言处理的卷积神经网络算法，基于隐性马尔可夫模型在语义识别算法，基于PLSA(NotesonProbabilisticLatentSemanticAnalysis)主题模型或者LDA(LatentDirichletAllocation)主题模型训练得到的语义识别算法等。

进一步地，请一并结合图3，在一实施例中，对通信消息进行语义识别，确定通信消息的表达状态的步骤包括：

步骤S131，提取私密消息中的特征数据。

步骤S132，将特征数据作为样本数据，输入基于卷积神经网络和数据集预先训练得到的语义分析模型，获取语义分析模型输出的样本标签；其中，样本标签用于表示私密消息的表达状态。

其中，特征数据的提取根据语义分析模型的类型确定，包括但不限于，计算词的领域特征，计算词向量特征，词的topic分布特征，文本串的特征(譬如句矢量，句主题等)。二值特征，浮点数特征，离线值特征等。

进一步地，在一实施例中，语义分析模型的训练方法，可以包括步骤：获取的至少两个已知用户之间进行的包含私密消息的通信消息作为输入训练数据，以及两个已知用户的已知表达状态作为输出训练样本；根据输入训练数据以及输出训练样本，对基于卷积神经网络构建的初始语义分析模型进行训练，得到语义分析模型。

步骤S4，当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象。

步骤S5，当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息。

具体的，在步骤S4中，已确定通信消息的表达状态为被动表达，若用户待发送的通信消息中的私密信息和预设的个人私密数据库中的预存数据不匹配，一般可以表示用户告知目标对象的涉及私密主题的信息是错误信息，这里一般包含两种情况：一是用户主动错说，另一种使用无无意中说错了；这两种情况均不会造成隐私的泄露，则可以发送通信消息至目标对象。

在步骤S5中，已确定通信消息的表达状态为被动表达，若用户待发送的通信消息中的私密信息和预设的个人私密数据库中的预存数据匹配，则可以表示用户输入的通信消息中，包含真正的隐私信息且不一定是用户主动想表达的；这种情况可能会造成隐私的泄露，则可以向用户发送隐私提醒信息，以提醒用户对待发送的通信消息进行再次确认。

在本实施例的技术方案中，在通信消息符合预设的隐私条件时，从通信消息中提取出私密主题以及对应的私密消息；当私密主题与预设的个人私密数据库中的预存主题匹配时，对通信消息进行语义识别，确定通信消息的表达状态；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息；从而达到保护用户的私密消息不被轻易泄露的目的。

进一步地，请参考图4，在一个实施例中，通信消息处理方法的步骤S3之后，还可以包括:

步骤S6，当私密消息的表达状态为主动表达时，发送通信消息至目标对象。

具体的，若用户待发送的通信消息为主动表达时，并未受到聊天对象的询问或者引导，一般表明用户发送此条通信消息的意愿一般是主动的，则可以直接发送通信消息至目标对象。

进一步地，在一个实施例中的通信消息处理方法中，步骤S4之后，可以包括步骤，标识目标对象对用户的个人资料的访问权限标签为禁止。

具体的，当已确定通信消息的表达状态为被动表达，且用户待发送的通信消息中的私密信息和预设的个人私密数据库中的预存数据不匹配时，一般包含两种情况：一是用户主动错说，另一种使用无无意中说错了；这两种情况虽然不会造成隐私的泄露，但是通常可以表示用户之间的亲密度处于较低水平。可以通过对目标对象对用户的个人资料的访问权限标签进行设置，禁止目标对象查看用户的个人资料。

例如，当用户被聊天对象询问年龄，预设的个人私密数据库中的预存数据为“35岁”，而用户发送的通信消息为“我今年22岁”，一般是用户并不愿意告诉聊天对象真实情况或者聊天对象与用户本来就是陌生人，可以设置聊天对象不能访问用户的个人资料。

进一步地，请参考图5，在一个实施例中，通信消息处理方法的步骤S5之后，还可以包括：

步骤S166，当向用户发送隐私提醒信息之后，确认用户根据隐私提醒信息反馈的确认信息。

步骤S167，根据确认信息，确定是否发送通信消息至目标对象。

具体的，当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息，用于提醒用户在发送真实的私密数据，且经语义识别出该私密消息的发送不是主动表达时，则可能存在泄密风险，因此需要向用户发送隐私提醒信息。此时的通信消息时暂时不发送值目标对象的，需要向用户发起隐私提醒，并接收到接收用户反馈的确认信息，根据确认消息中用户的选择结果，判断用户是否继续讲通信消息发送至目标对象。

进一步地，如图5所示，上述方法还包括以下步骤：

步骤S168，在确定不发送通信消息至目标对象时，将通信消息中的私密消息替换为预设的字符。

步骤S169，将替换后的通信消息发送至目标对象。

具体的，当根据确认消息中用户的选择结果，确认用户不将通信消息发送至目标对象时，可以采取直接取消整条通信消息的发送，也就是说目标对象不会接收到包含私密消息的通信消息。但是，在某些情况下，虽然通信消息中包含私密消息，但也可能还包含其他的不涉及隐私的信息，如果选择直接取消整条通信消息的发送，用户需要重新编辑这些不涉及隐私的信息，然后发送给目标对象。

在本实施例中，针对通信消息中除了包含私密主题的私密消息之外，还可能包含其他不涉及隐私的信息，可以将通信消息中的私密消息替换为预设的字符，例如用“*”号代替，将替换后的通信消息发送至目标对象。这样既达到了保护隐私，友不需要用户重新编辑通信消息中的不涉及隐私的消息内容。

在本发明一个实施例中，当用户在于目标对象进行社交聊天时，用户所发送的通信消息可以通过下述通信消息处理方法来进行处理，以防止用户无意识的泄密，具体的，包括步骤：

步骤一，获取用户待发送至目标对象的通信消息。

步骤二，判断通信消息中是否包含预设的关键词。

步骤三，当通信消息中包含预设的关键词时，确认通信消息符合预设的隐私条件息，从通信消息中提取出私密主题以及对应的私密消息。

步骤四，判断私密主题是否与预设的个人私密数据库中的预存主题匹配。

步骤五，当私密主题与预设的个人私密数据库中的预存主题匹配时，通过提取私密消息中的特征数据，将特征数据作为样本数据，输入基于卷积神经网络和数据集预先训练得到的语义分析模型，获取语义分析模型输出的样本标签，以获得通信消息的表达状态；其中，样本标签用于表示私密消息的表达状态，表达状态包括主动表达和被动表达。

步骤六，当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息

步骤七，当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象，标识目标对象对用户的个人资料的访问权限标签为禁止

步骤八，当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息

步骤九，当向用户发送隐私提醒信息之后，确认用户根据隐私提醒信息反馈的确认信息。

步骤十，根据确认信息，确定是否发送通信消息至目标对象。

步骤十一，在确定不发送通信消息至目标对象时，将通信消息中的私密消息替换为预设的字符。

步骤十二，将替换后的通信消息发送至目标对象。

如图6所示，本发明还提供一种计算机设备，计算机设备可以包括：存储器71、处理器72、以及电源74等部件。本领域技术人员可以理解，图6中示出的结构并不构成对计算机设备的限定，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置；例如，在图6示出的示例中，计算机设备还包括通信单元75。

存储器71可用于存储软件程序以及各种数据。此外，存储器71可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器72是计算机设备的控制中心，利用各种接口和线路连接整个计算机设备的各个部分，通过运行或执行存储在存储器71内的软件程序和/或模块，以及调用存储在存储器71内的数据，执行计算机设备的各种功能和处理数据，从而对计算机设备进行整体监控。处理器72可包括一个或多个处理单元；优选的，处理器72可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器72中。

在本实施例中，计算机设备还包括存储在存储器71上并可在处理器72上运行的计算机程序，处理器执行计算机程序时实现上述任一实施例中的通信消息处理方法的步骤。其中，计算机设备可以是移动终端、计算机、服务器、网关设备、数据处理设备。

需要说明的是，由于计算机设备的处理器72执行计算机程序时实现上述的通信消息处理方法的步骤，因此上述方法的所有实施例均适用于该计算机设备，且均能达到相同或相似的有益效果。

请通信消息处理装置一并结合图7，本发明还提供一种通信消息处理装置800，包括：

获取模块801，用于获取用户待发送至目标对象的通信消息；

私密数据提取模块802，用于当通信消息符合预设的隐私条件息时，从通信消息中提取出私密主题以及对应的私密消息；

语义分析模块803，用于当私密主题与预设的个人私密数据库中的预存主题匹配时，对私密内容进行语义识别，确定私密消息的表达状态；其中，表达状态包括主动表达和被动表达；

确定模块804，用于当私密消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象；以及用于当私密消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息。

在本实施例的技术方案中，在通信消息符合预设的隐私条件时，从通信消息中提取出私密主题以及对应的私密消息；当私密主题与预设的个人私密数据库中的预存主题匹配时，对通信消息进行语义识别，确定通信消息的表达状态；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据不匹配时，发送通信消息至目标对象；当通信消息的表达状态为被动表达时，且当私密消息与预设的个人私密数据库中的预存数据匹配时，向用户发送隐私提醒信息；从而达到保护用户的私密消息不被轻易泄露的目的。

进一步地，在一实施例中，语义分析模块803，具体用于提取私密消息中的特征数据；以及将特征数据作为样本数据，输入基于卷积神经网络和数据集预先训练得到的语义分析模型，获取语义分析模型输出的样本标签；其中，样本标签用于表示私密消息的表达状态。

进一步地，在一实施例中，通信消息处理装置800还包括，权限设置模块805，用于当通信消息的表达状态为被动表达，且用户待发送的通信消息中的私密信息和预设的个人私密数据库中的预存数据不匹配时，标识目标对象对用户的个人资料的访问权限标签为禁止。

进一步地，在一实施例中，如图7所示，通信消息处理装置800还包括：

反馈确认模块806，用于当向用户发送隐私提醒信息之后，确认用户根据隐私提醒信息反馈的确认信息；以及根据确认信息，确定是否发送通信消息至目标对象；

隐私替换模块807，用于在确定不发送通信消息至目标对象时，将通信消息中的私密消息替换为预设的字符；

发送模块808，用于将替换后的通信消息发送至目标对象。

需要说明的是，由于上述通信消息处理装置800中各个功能模块执行时实现上述的通信消息处理方法，因此上述方法的所有实施例均适用于该通信消息处理装置800，且均能达到相同或相似的有益效果，在此不再赘述。

发明还提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现上述任一实施例中的通信消息处理方法。

需要说明的是，由于计算机可读存储介质的计算机程序被处理器执行时实现上述的通信消息处理方法，因此上述方法的所有实施例均适用于该计算机可读存储介质，且均能达到相同或相似的有益效果。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (10)

1.一种通信消息处理方法，其特征在于，包括步骤：

获取用户待发送至目标对象的通信消息；

当所述通信消息符合预设的隐私条件时，从所述通信消息中提取出私密主题以及对应的私密消息；

当所述私密主题与预设的个人私密数据库中的预存主题匹配时，对所述通信消息进行语义识别，确定所述通信消息的表达状态；其中，所述表达状态包括主动表达和被动表达；

当所述通信消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的预存数据不匹配时，发送所述通信消息至所述目标对象；

当所述通信消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的所述预存数据匹配时，向所述用户发送隐私提醒信息。

2.如权利要求1所述的通信消息处理方法，其特征在于，所述方法还包括步骤：

当所述私密消息的表达状态为主动表达时，发送所述通信消息至所述目标对象。

3.如权利要求1所述的通信消息处理方法，其特征在于，所述对所述私密内容进行语义识别，确定所述私密消息的表达状态的步骤，包括：

提取所述私密消息中的特征数据；

将所述特征数据作为样本数据，输入基于卷积神经网络和数据集预先训练得到的语义分析模型，获取所述语义分析模型输出的样本标签；其中，所述样本标签用于表示所述私密消息的表达状态。

4.如权利要求3所述的通信消息处理方法，其特征在于，所述语义分析模型的训练方法，包括步骤：

获取的至少两个已知用户之间进行的包含私密消息的通信消息作为输入训练数据，以及所述两个已知用户的已知表达状态作为输出训练样本；

根据所述输入训练数据以及所述输出训练样本，对基于卷积神经网络构建的初始语义分析模型进行训练，得到所述语义分析模型。

5.如权利要求1-4中任一项所述的通信消息处理方法，其特征在于，所述当所述通信消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的预存数据不匹配时，发送所述通信消息至所述目标对象的步骤之后，还包括步骤：

标识所述目标对象对所述用户的个人资料的访问权限标签为禁止。

6.如权利要求1-4中任一项所述的通信消息处理方法，其特征在于，所述方法还包括步骤：

当向所述用户发送所述隐私提醒信息之后，确认所述用户根据所述隐私提醒信息反馈的确认信息；

根据所述确认信息，确定是否发送所述通信消息至所述目标对象。

7.如权利要求6所述的通信消息处理方法，其特征在于，所述方法还包括步骤：

在确定不发送所述通信消息至所述目标对象时，将所述通信消息中的所述私密消息替换为预设的字符；

将替换后的所述通信消息发送至所述目标对象。

8.一种通信消息处理装置，其特征在于，所述装置包括：

获取模块，用于获取用户待发送至目标对象的通信消息；

私密数据提取模块，用于当所述通信消息符合预设的隐私条件息时，从所述通信消息中提取出私密主题以及对应的私密消息；

语义分析模块，用于当所述私密主题与预设的个人私密数据库中的预存主题匹配时，对所述私密内容进行语义识别，确定所述私密消息的表达状态；其中，所述表达状态包括主动表达和被动表达；

确定模块，用于当所述私密消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的预存数据不匹配时，发送所述通信消息至所述目标对象；以及用于当所述私密消息的表达状态为被动表达时，且当所述私密消息与所述预设的个人私密数据库中的所述预存数据匹配时，向所述用户发送隐私提醒信息。

9.一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的通信消息处理方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的通信消息处理方法的步骤。

Images