CN106911660B - 一种信息管理方法及装置 - Google Patents

Abstract

本发明公开了一种信息管理方法及装置，涉及信息安全技术领域，所述方法包括：在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的。本发明实施例中提高了对不良信息管理的准确性以及实时性。

Description

一种信息管理方法及装置

技术领域

本发明涉信息安全技术领域，尤其涉及一种信息管理方法及装置。

背景技术

融合通信业务的快速发展，大量语音、视频类消息(即富媒体消息)在用户间大量传播。在带给用户全新业务体验的同时，使得的不良信息管控难度空前增大。

在2G(第二代手机通信技术规格)和3G(第三代手机通信技术规格)时代，不良信息管控主要针对文本消息和少量图片，融合通信业务富媒体消息的数量将是传统短彩信的数倍到数十倍。由于通信费用大幅降低，大量富媒体消息以图片、语音、视频等多媒体形式进行发送。

现有技术中，对不良信息的管控方法主要有：

根据内容特征对消息进行语义分析和识别；根据用户发送规律进行分辨，包括发送频率，接收者离散度等，这类方法通常不能够独立使用进行不良消息判别；基于用户的社会网络距离，利用用户通信录、通话记录和消息收发记录建立用户社会网络，通过用户间的社会网络距离来判别垃圾短信的可能性；根据用户的反馈，通过记录或上传用户对消息的处置方式来判别不良信息的可能性发现违规内容。

在现有技术中，基于用户发送规律和用户标记的管控方式需要在不良消息发送者发送一定数量的不良消息后才能够判定不良消息发送者，不能够有效维护用户的业务健康体验；基于消息内容的判别方式，由于业界富媒体内容识别时间效率瓶颈，对富媒体内容进行全面内容识别的时间效率较低，很难保障用户的实时性体验；基于用户社会网络距离的方式，根据社会网络距离的远近与不良消息发送的可能性并无必然逻辑关系，以此来判定不良消息的可能性与实际人类社会模式有一定差异，导致较高的误判和漏判。

综上，现有技术中信息管理方法存在效率低、可靠性差的问题。

发明内容

本发明提供一种信息管理方法及装置，用于解决现有技术中的不良信息管理方法存在效率低、可靠性差的问题。

本发明实施例提供一种信息管理方法，所述方法包括：

在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；

判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；

其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的。

本发明实施例中，根据接收方与发送方的信任度确定是否能够将发送方发送的信息发送给接收方，并且接收方与发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的，提高了对不良信息管理的准确性以及实时性。

进一步地，所述判断所述信任度是否大于信任度阈值，还包括：

若所述接收方对所述发送方的信任度不大于信任度阈值，则将所述信息拦截。

本发明实施例中，若确定接收方对所述发送方的信任度不大于阈值，则认为该信息为不良信息，需要将所述信息进行拦截，保证了用户之间通信的安全性。

进一步地，所述将所述消息发送给所述接收方后，还包括：

将所述信息保存在判定数据库中，从所述判定数据库中查找到所述信息，并对所述信息进行深层过滤，确定所述信息的深层过滤结果；

若所述信息的深层过滤结果与所述从信任度数据库中查找接收方对所述发送方的信任度不一致，则根据所述信息的深层过滤结果更新所述信任度数据库中所述信息的接收方对所述发送方的信任度。

本发明实施例中，在将消息发送到接收方后，将信息再次进行深层过滤，并确定出信息的深层过滤结果，若深层过滤结果与所述从信任度数据库中查找接收方对所述发送方的信任度不一致，则认为该信息为不良信息，为了在下一次更好的判断接收方对发送方的信任度，利用所述信息的深层过滤结果更新所述信任度数据库中所述信息的接收方对所述发送方的信任度。

进一步地，所述方法还包括：

根据接收方以及发送方之间的通信历史记录确定所述发送方与所述接收方的信任关系；

若确定所述接收方与所述发送方之间存在通讯历史记录，且通讯次数大于通讯信任阈值时，则确定所述发送方与所述接收方的信任关系为直接信任关系；

若确定所述接收方与所述发送方之间不存在通讯历史记录，但接收方与发送方之间存在至少一个共同通讯用户，且所述接收方与所述共同通讯用户之间为直接信任关系，则确定所述发送方与所述接收方的信任关系为间接信任关系。

本发明实施例中，确定了接收方与发送方之间的信任关系，能够更好的确定接收方与发送方之间的信任度。

进一步地，述根据下列方式确定所述接收方对所述发送方的信任度：

若所述发送方与所述接收方的信任关系为直接信任关系，则所述发送方与所述接收方的信任度根据所述接收方以及发送方之间的通信历史记录中交互的比例确定的；

若所述发送方与所述接收方的信任关系为间接信任关系，则所述发送方与所述接收方的信任度是根据接收方与所述发送方各自的信誉度级别以及所述接收方与所述发送方的信任度确定的。

本发明实施例中，根据接收方以及发送方之间的通信历史记录确定所述发送方与所述接收方的信任关系以及信誉级别，并根据接收方以及发送方之间的信任关系和/或信誉级别确定接收方与所述发送方的信任度，更加准确的描述了接收方和发送方在实际生活网络中的信任关系，更加准确的对不良信息进行拦截与管理。

本发明还提供一种不良信息管理装置，包括：

查找单元，用于在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；

判断单元，用于判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；

其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的。

本发明实施例中，根据接收方与发送方的信任度确定是否能够将发送方发送的信息发送给接收方，并且接收方与发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的，提高了对不良信息管理的准确性以及实时性。

进一步地，所述判断单元还用于：

若所述接收方对所述发送方的信任度不大于信任度阈值，则将所述信息拦截。

进一步地，所述装置还包括：

过滤单元，用于将所述信息保存在判定数据库中，从所述判定数据库中查找到所述信息，并对所述信息进行深层过滤，确定所述信息的深层过滤结果；

若所述信息的深层过滤结果与所述从信任度数据库中查找接收方对所述发送方的信任度不一致，则根据所述信息的深层过滤结果更新所述信任度数据库中所述信息的接收方对所述发送方的信任度。

进一步地，所述装置还包括：

信任关系确定单元，用于根据接收方以及发送方之间的通信历史记录确定所述发送方与所述接收方的信任关系；

若确定所述接收方与所述发送方之间存在通讯历史记录，且通讯次数大于通讯信任阈值时，则确定所述发送方与所述接收方的信任关系为直接信任关系；

若确定所述接收方与所述发送方之间不存在通讯历史记录，但接收方与发送方之间存在至少一个共同通讯用户，且所述接收方与所述共同通讯用户之间为直接信任关系，则确定所述发送方与所述接收方的信任关系为间接信任关系。

进一步地，所述根据下列方式确定所述接收方对所述发送方的信任度：

若所述发送方与所述接收方的信任关系为直接信任关系，则所述发送方与所述接收方的信任度根据所述接收方以及发送方之间的通信历史记录中交互的比例确定的；

若所述发送方与所述接收方的信任关系为间接信任关系，则所述发送方与所述接收方的信任度是根据接收方与所述发送方各自的信誉度级别以及所述接收方与所述发送方的信任度确定的。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简要介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供一种信息管理方法的流程示意图；

图2为本发明实施例提供的通讯用户之间的关联关系的示意图；

图3为本发明实施例提供的一种确定用户的信誉级别的流程示意图；

图4为本发明实施例提供的通讯用户之间的信任路径的示意图；

图5为本发明实施例提供一种信息管理装置的结构示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述，显然，所描述的实施例仅仅是本发明一部份实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

本发明提供一种信息管理方法，如图1所示，包括：

步骤101，在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；

步骤102，判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；

其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的。

在本发明实施例中，发送方发送的消息包括接收方以及所述发送方的标识信息，所述标识信息可以为接收方以及发送方的IMSI(International Mobile SubscriberIdentification Number，国际移动用户识别码)或者其他可以标识卫接收方以及发送方设备的设备号，或者当接收方与发送方为移动终端时，接收方与发送方的标识信息为接收方与发送方的移动终端号码，或者为接收方以及发送方用来办理移动业务时的身份证信息。

可选的，在本发明实施例中，用同一张身份证办理的不同移动终端号码认为是不同用户。

在本发明实施例中，在接收到发送方发送的信息后，根据发送方和接收方的标识信息，可选的，在本发明实施例中，发送方和接收方的标识信息为移动终端号码，则根据所述发送方和接收方的移动终端号码，在信任度数据库中查找所述接收方对发送方的信任度。

可选的，在本发明实施例中，信任度数据库中保存了接收方对发送方的信任度，可选的，接收方为A用户，信任度数据库中保存了与A用户之间与有直接联系的联系人，例如用户A在一段时间内发送并接受过用户B的新消息，则称B用户为A用户的常用联系人，则信任数据库中保存了A用户的所有常用联系人的信任度，例如C、D、E、F……，则信任库中保存的A用户对其常用联系人的信任度如表1所示：

表1：A用户对其常用联系人的信任度

在本发明上述实施例中，用户A为接收消息的接收方，用户B、用户C、用户D、用户E、用户F等为用户A的发送方，在上述实施例中，用户A以及用户B、用户C、用户D、用户E、用户F等的标识信息为用户A以及用户B、用户C、用户D、用户E、用户F等的移动终端号码。

当确定了接收方对所述发送方的信任度，需要判断所述信任度是否大于信任度阈值，在本发明实施例中，信任度阈值可以根据用户对消息的敏感度以及用户的信誉级别确定，当确定了信任度是否大于信任度阈值，则认为该消息是安全消息，发送给接收方。

例如，在本发明实施例中，当用户A接收到的是用户B发送的消息，并且根据表1查询到用户A对用户B的信任度为N_B，若信任度阈值为N_threshold，确定了T_A→B>N_threshold，则将消息发送给用户A，也就是说，用户A能够接收到用户B的消息，即用户A是对用户B信任的，用户A能够接收用户B发送的消息。

在本发明实施例中，当确定了信任度是不大于信任度阈值，则认为该消息是不良消息，则认为接收方对发送方是不信任的，需要对该不良消息进行拦截。

例如，用户A接收到的消息来自于用户C，根据表1查询到用户A对用户C的信任度为T_A→C，且T_A→C≤N_threshold，则将该消息进行拦截，也就是说，用户A对用户C的信任度较低，不接收用户C发送的可能为不良消息的信息。

在本发明实施例中，不良消息可以包括以下几类：

1、“违反法律”类信息：违背《中华人民共和国宪法》和《全国人大常委会关于维护互联网安全的决定》、《互联网信息服务管理办法》所明文严禁的信息以及其它法律法规明文禁止传播的各类信息；

2、“违反道德”类信息：违背社会主义精神文明建设要求、违背中华民族优良文化传统与习惯以及其它违背社会公德的各类信息，包括文字、图片、音视频等等；

3、破坏信息安全类信息：含有病毒、木马、后门的高风险类信息，对访问者电脑及数据构成安全威胁的信息。

在本发明实施例中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的。

在本发明中，首先需要建立用户的信誉模型，计算用户的信誉级别，由于用户之间可能不是直接关联，例如，如图2所示，用户A与用户C之间为直接关联，即用户A与用户C之间进行过通讯，用户A与用户B之间为直接关联，即用户B与用户A之间进行过通讯，用户C与用户M之间为直接关联，即用户C与用户M之间进行过通讯，用户C与用户N之间为直接关联，即用户C与用户N之间进行过通讯，则用户A与用户M、用户N之间为间接关联。则还需要计算用户之间的信任传递。

首先需要定义的是用户的信誉以及信誉云模型，在本发明上述实施例中，已经确定了用户的常用联系人，根据用户的常用联系人，还可以确定用户的常用联系人分布率。

例如，在一段时间段内，用户A共发送了用户A共发送了z条新消息，其中n条新消息是发送给常用联系人列表中的k个用户，p_i为发送给常用联系人中某个用户的新消息数量，i的范围为[1,k]，则

称为用户A在这段时间内常用联系人分布率。

在定义了用户A在一段时间内的常用联系人分布率后，还需要计算用户A在一段时间内的收方分布率，例如，如在一段时间内，用户A共发送z条新消息，其中b条不是发送给常用联系人的，这b条的接收方为w个手机用户，q_j为发送给手机用户j的新消息数量，j的范围为[1,w]则

称为用户A的收方分布率。

在定义了用户的发送的常用联系人的分布率以及接收的常用联系人的分布率后，可以定义用户A的信誉模型为R_A:

R_A＝(h,i,c,l,s,w)_A

其中，h为对A用户进行处置的数量，即用户因发送不良消息被关停用户或者其它操作的次数；

i为拦截A用户发出的垃圾信息信息数量；

c为10086收到投诉A用户发送垃圾信息的投诉次数，其中，同一用户对同一内容的投诉不重复计数；

l为A用户的常用联系人的分布率；

s为A用户的收方分布率；

w为A用户使用的移动终端被举报数量，同一用户对同一内容的举报不重复计数。

定义了用户的信誉模型后，还需要将所有用户的信誉模型进行大规模统计，形成信誉云模型，针对用户A的信誉云模型Ru_A为：

Ru_A＝(hu,iu,cu,lu,su,wu)_A

其中，

对于任意用户A在某一时间段t内的信誉云为

则称

为用户A的信誉云滴，则用户A在N个时间段(t₁,t₂,...,t_N)的信誉云滴为

在定义了用户的信誉云数字特征后，还需要计算用户的信誉云数字特征，例如用户A在N个时间段(t₁,t₂,...,t_N)的信誉云滴为

则信誉云滴在属性j上的值分别为(j₁,j₂,...,j_N)，定义用户A在属性j上的云数字特征为(Ex_j,En_j,He_j)：

En_j＝(π/2)^1/2×B

其中：

若存在j_N个属性，则计算用户A在每个属性的云数字特征，就能够得到用户A的信誉云数字特征，用下列公式表示：

Cloud(Ex_h,Ex_i,Ex_c,Ex_l,Ex_s,Ex_w,En_h,En_i,En_c,En_l,En_s,En_w,He_h,He_i,He_c,He_l,He_s,He_w)_A

可选的，在本发明实施例中，还可以定义属性j为用户A的信誉云中参数，即j₁为信誉云滴在用户A的信誉云中hu的属性上的值，j₂为信誉云滴在用户A的信誉云中iu的属性上的值，j₃为信誉云滴在用户A的信誉云中cu的属性上的值，j₄为信誉云滴在用户A的信誉云中lu的属性上的值，j₅为信誉云滴在用户A的信誉云中su的属性上的值，j₆为信誉云滴在用户A的信誉云中wu的属性上的值。

则可以对用户A的信誉云特征可以用用户A的期望值{Ex_j|j＝1，…，6}，用户A的熵{En_j|j＝1，…，6}，用户A的超熵{He_j|j＝1，…，6}来表示，即用户A的信誉云数字特征为C_A(Ex_j，En_j,He_j)。

其中，用户A的期望值为(Ex_hu,Ex_iu,Ex_cu,Ex_lu,Ex_su,Ex_wu)，用户A的熵为(En_hu,En_iu,En_cu,En_lu,En_su,En_wu)，用户A的超熵为(He_hu,He_iu,He_cu,He_lu,He_su,He_wu)。

在确定了用户的信誉云数字特征后，还需要确定信誉级别的基准云，利用信誉级别的基准云，能够确定所有通讯用户的信誉级别的基准，即所有通讯用户的一个平均信誉级别。

选取具有共同信誉特征的m个用户，在本发明实施例中，共同信誉特征为m个具有共同信誉特征的用户的信誉云的数字特征为(C₁,C₂,...C_m)，将这m个云合并成为云模型C^B，在本发明实施例中，确定云模型C^B在属性j上云数字特征为

其中：

则称云模型C^B则称云模型C^B该类信誉特征的的基准云，简称信誉级别基准云。

在本发明实施例中，可以根据用户的通讯习惯将用户的信誉特征分为三类，一类是用户正常进行短信的收发以及拨打以及接听电话，该类用户可以认为是信誉特征高的用户；一类是用户只发送短信或者，只拨出电话，该类用户可以认为信誉级别较低；还有一类用户是在正常的短信的收发以及拨打以及接听电话之中还会发送广告或者其它不良消息，则该类用户的信誉为中。

在本发明实施例中，可选的，可以选取具有共同信誉特征的三类用户，所选的三类用户分别对应高、中、低三类信誉。对于每类信誉的用户，计算每个用户的信誉云数字特征，再计算出三个信誉级别的基准云数字特征。三类信誉级别基准云分别用C^H，C^M，C^L表示，分别代表高信誉、中信誉和低信誉的基准云。

当然，在本发明实施例中，只认为用户的信誉级别可以分为三类，在实际中，也可以根据实际情况对用户信誉级别进行多个分类，在此不做赘述。

在本发明实施例中，用户信誉级别在不同的时间段可能具有不同的特性，实际评估中应该将近期信誉情况作为用户信誉评级的重要参考，距离当前时间越远的信誉情况作为参考的程度越低。在对用户进行信誉度评估时，引入时间因子进行计算。

在本发明实施例中，对用户A进行信誉计算的时间段设为T，以t做为计算信誉的单位时间，将时间段T按时间先后划分为m个分段t₁,t₂,…t_m，用户A在时间段t_k的时间因子为w_k，k的范围为[1,m]:

其中，

d为阻尼系数，阻尼系数决定了用户A的历史情况在信誉评价中的重要程度。

在计算出用户在时间段t_k的时间因子为w_k后，确定用户的信誉云相似度，对于用户A在某段时间T，将时间段T按时间先后划分为m个分段t₁,t₂,…t_m，其中

用户A的信誉云的数字特征为C^A，用户A的信誉特征的基准云为C^B，则定义了

为用户A的信誉云的数字特征为C^A，用户A的信誉特征的基准云为C^B的相似度：

其中，用户A的信誉级别基准云为：

用户A在时间段t_k的信誉云数字特征为：

在本发明实施例中，定义了用户的云滴，用户的信誉云数字特征以及用户的信誉级别基准云以及用户信誉特征的基准云的相似度后，可以根据下列方法确定该用户的信誉级别，在本发明实施例中，信誉级别包括信誉级别为高级别，对应的信誉级别基准云为C^H，信誉级别为低级别，则对应的信誉级别基准云为C^L，信誉级别为中级别，则对应的信誉级别基准云为C^M，η(1≥η≥0)，为信誉级别相似度最小差值，由本行业的技术人员根据实际工程经验设定，在本发明实施例中，可以取η＝0.5，如图3所示，包括：

步骤301，计算用户的云滴，在本发明实施例中，以用户A为例，用户A的云滴为ru_A＝(hu,iu,cu,lu,su,wu)_A，其中ru_A∈Ru_A,即用户A的云滴属于用户A的信誉云模型；

步骤302，将时间段T按时间先后划分为m个分段t₁,t₂,…t_m，其中

根据用户A的云滴计算周期T内用户A的信誉云数字特征C^B；

步骤303，计算用户A的信誉云数字特征C^B和三类信誉级别基准云C^H，C^M和C^L的相似度

和

步骤304，判断是否存在

并且存在

并且f≠g，且满足

且η＝0.5，若存在，即如果用户A与某个基准云的相似度最高，且相似度明显高于与另两个基准云的相似度，则执行步骤305；否则执行步骤306；

步骤305，确定

对应的基准云就是A用户的信誉级别，也就是说

对应的三类信誉级别基准云就是用户A的信誉级别；

步骤306，判断是否存在

并且存在

且

且η＝0.5，若存在，也就是在本发明实施例中，存在

以及

两个相似度，

是最高相似度，

是次高相似度，则执行步骤307；否则执行步骤310；

步骤307，计算用户A与信誉级别u及v的属性相似度

以及

其中j＝1,…,6；

步骤308，判断是否若存在

若存在，则执行步骤309；否则执行步骤311；

步骤309，确定用户A的信誉级别为u对应的基准云级别；

步骤310，取u和v中对应较低级别的信誉级别作为用户A的信誉级别；

步骤311，将用户A的信誉级别设置为低信誉级别。

在本发明实施例中，计算信誉级别可以更好的识别用户在通讯过程中发送的消息否属于不良消息，在本发明实施例中，若用户的信誉级别为信誉级别的高级别，则认为该用户是可以信任的，该用户发送的消息为可信任消息；若用户的信誉级别为级别的最低级，则认为该用户是不可信任的，该用户发送的消息为不良消息的可能性较大。

综上所述，在本发明实施例中，对于任意用户A，用户A的信誉度为R_A，

其中，δ、θ为信誉级别因子，且满足1＞δ＞θ。具体数值可由本领域的技术人员根据实际情况设定。

本发明实施例中，通信用户间存在多种业务模式进行沟通，包括消息，通话和朋友圈等多种业务模式，这些通过不同的业务模式用户之间进行通讯称为用户交互方式。

在确定了用户的信誉级别以及信誉度后，还需要确定在通讯业务中多个用户之间的信任关系，例如，如图2所示，用户之间存在着直接关联以及间接关联的关系，如何确定用户之间存在的间接关联关系的用户之间的关联关系，在本发明实施例中，首先要确定所有通讯用户之间的通讯交互量。

在本发明实施例中，用户p与用户q之间，如对于某种用户交互方式v，存在s个p向q发起的交互，以及t个q向p发起的交互，设u＝min(s，t)，称u为用户p和用户q之间基于交互方式v的交互量，记为

在本发明实施例中，对于用户p的联系人集合(q₁,q₂,…q_n)，对于交互方式v，存在用户p和q_i的交互量

其中i∈[1,n]，并且存在一个最小k(k≤n)，满足：

其中，

则称用户p与用户f₁,f₂,…,f_k之间分别存在直接信任关系。

在本发明实施例中，如果用户p和用户q之间存在的交互方式为直接通话或消息收发，则用户p对用户q之间可以计算直接信任强度，定义直接信任强度T_p→q为:

其中，vi为用户p和用户q之间的某一种交互方式，即直接通话或消息收发，

为用户p和用户q发起的vi交互方式的数量，

为用户q和用户p发起的vi业务的数量，α(vi)为vi交互方式所占的权重，例如，在本发明实施例中，可以设置直接通话的交互方式的权重为0.6，则消息接收的交互方式的权重为0.4。

在本发明上述实施例中，确定了有直接关联关系的两个用户，例如图2中，用户A与用户B、用户A与用户C之间计算用户之间的信任关系，以及计算用户之间的信任强度，也就是说，在本发明实施例中，若用户之间存在的信任关系是直接信任关系，则将用户之间的通信历史记录中交互的比例确定用户之间的信任度，即用户之间的直接信任强度就是所述用户之间的信任度。

对于图2中，用户A与用户M之间存在间接关联关系，确定用户A与用户M之间的信任关系需要通过用户A与用户C之间的信任关系以及用户C与用户M之间的信任关系进行确认。

在本发明实施例中，对于用户p和用户q之间，不存在任何的交互方式进行通讯，但是存在用户a₁,a₂,…,a_n，如图4所示，任意有向边的两个节点a_i之间存在直接信任关系，其中a_i∈{p,a₁,a₂,…,a_n,q}，则称图4为从用户p到用户q的信任路径。

也就是，在本发明实施例中，虽然用户p和用户q之间，不存在任何的交互方式进行通讯，但由于用户p和用户q之间存在信任路径，还是可以根据任意有向边的两个节点a_i之间存在直接信任关系确定用户p对用户q的信任度。

可选的，在本发明实施例中，根据六度空间理论可以得知，你和任何一个陌生人之间所间隔的人不会超过六个，也就是说，最多通过五个中间人你就能够认识任何一个陌生人。在本发明实施例中，根据六度空间理论，任何两个人之间所间隔的人不会超过六个。在实际计算中，并不需要穷举用户p和用户q之间的所有信任路径，只需要考虑用户p和用户q之间n≤9的信任路径。

在本发明实施例中，根据用户p到用户q的信任路径可以计算出用户p对用户q的信任度T_p→q，

本发明上述实施例中，一般性的，用户p到用户q之间存在多条信任路径(rt₁，rt₂，…，rt_n)，则用户p对用户q的信任度T_p→q为：

其中，

为基于路径rt_i的信任度，

为信任路径rt_i除去用户p以外所有用户的信誉度之和，|ψ|为集合ψ的基数。

也就是说，在本发明实施例中，可以通过p到用户q的信任路径，确定p对用户q的信任度T_p→q，可以更加准确的确定在通讯过程中两个用户之间的信任度。

可选的，在本发明实施例中，可以将根据现实中用户之间通讯的关系确定，若两个用户之间为间接关联关系，且两个用户之间通过3条信任路径还没有关联到，则认为两个用户之间的信任度为0。

综上所述，在本发明实施例中，若两个用户之间的信任关系为直接信任关系，则将两个用户之间的直接信任强度作为两个用户之间的信任度；而当两个用户之间为间接信任关系时，则利用两个用户之间的信任路径以及两个用户与信任路径中的其它用户的信任度确定两个用户之间的信任度。

在本发明实施例中，计算的用户之间的信任度保存在信任度数据库中，可以根据用户之间的标识信息在信任度数据库中查找到用户之间的信任度。假设用户A为消息的接收用户，用户B为消息的发送用户，若根据用户A以及用户B的标识信息在信任度数据库中查询到的用户A对用户B的信任度为T_A→B，若T_A→B不大于信任度阈值，则将消息发送给用户A，用户A能够正常的接收到用户B发送的消息。

可选的，在本发明实施例中，将消息发送给用户A后，还需要将信息保存在信息判定数据库中，为了能够在空闲时再对消息进行深层过滤。在本发明实施例中，当确定空闲时，将信息从信息判定数据库中调出，然后根据若根据用户A以及用户B的标识信息在信任度数据库中查询到的用户A对用户B的信任度为

若

与T_A→B不相等，则将

作为用户A对用户B的信任度。

可选的，在本发明实施例中，在空闲时，计算的

与T_A→B不相等的原因包括用户B在这段时间内的信誉发生了变化，或者用户B与用户A之间的信任路径中有用户的信誉发生了变化，利用深层过滤能够更加准确的更新用户之间的信任度，有效的拦截不良消息。

基于相同的发明构思，本发明实施例还提供不良信息管理装置，该装置可以执行上述方法，如图5所示，包括：

查找单元501，用于在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；

判断单元502，用于判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；

其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和/或所述接收方和发送方之间的信任关系确定的。

进一步地，所述判断单元502还用于：

若所述接收方对所述发送方的信任度不大于信任度阈值，则拦截所述信息。

进一步地，所述装置还包括：

过滤单元503，用于将所述信息保存在判定数据库中，从所述判定数据库中查找到所述信息，并对所述信息进行深层过滤，确定所述信息的深层过滤结果；

若所述信息的深层过滤结果与所述从信任度数据库中查找接收方对所述发送方的信任度不一致，则根据所述信息的深层过滤结果更新所述信任度数据库中所述信息的接收方对所述发送方的信任度。

进一步地，所述装置还包括：

信任关系确定单元504，用于根据接收方以及发送方之间的通信历史记录确定所述发送方与所述接收方的信任关系；

若确定所述接收方与所述发送方之间存在通讯历史记录，且通讯次数大于通讯信任阈值时，则确定所述发送方与所述接收方的信任关系为直接信任关系；

若确定所述接收方与所述发送方之间不存在通讯历史记录，但接收方与发送方之间存在至少一个共同通讯用户，且所述接收方与所述共同通讯用户之间为直接信任关系，则确定所述发送方与所述接收方的信任关系为间接信任关系。

进一步地，所述根据下列方式确定所述接收方对所述发送方的信任度：

若所述发送方与所述接收方的信任关系为直接信任关系，则所述发送方与所述接收方的信任度根据所述接收方以及发送方之间的通信历史记录中交互的比例确定的；

若所述发送方与所述接收方的信任关系为间接信任关系，则所述发送方与所述接收方的信任度是根据接收方与所述发送方各自的信誉度级别以及所述接收方与所述发送方的信任度确定的。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (6)

1.一种信息管理方法，其特征在于，所述方法包括：

在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；

判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；

其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和所述接收方和发送方之间的信任关系确定的；所述接收方和发送方之间的信誉级别是根据所述接收方和所述发送方的信誉云滴，信誉云数字特征、信誉级别基准云、信誉特征的基准云的相似度，并基于联系人的分布率、收方分布率、被举报数量和用户通讯习惯确定的；

还包括，根据用户间的通讯交互量和交互方式确定用户之间的信任关系和信任强度，进而根据所述信任关系和所述信誉级别得出所述信任度，具体地：

确定所有通讯用户之间的通讯交互量，用户p与用户q之间，如对于某种用户交互方式v，存在s个p向q发起的交互，以及t个q向p发起的交互，设u＝min(s，t)，称u为用户p和用户q之间基于交互方式v的交互量，记为

对于用户p的联系人集合(q₁,q₂,…q_n)，对于交互方式v，存在用户p和q_i的交互量

其中i∈[1,n]，并且存在一个最小k(k≤n)，满足：

其中，

则称用户p与用户f₁,f₂,…,f_k之间分别存在直接信任关系；

如果用户p和用户q之间存在的交互方式为直接通话或消息收发，则用户p对用户q之间可以计算直接信任强度，定义直接信任强度T_p→q为:

其中，vi为用户p和用户q之间的某一种交互方式，所述交互方式包括直接通话或消息收发，

为用户p和用户q发起的vi交互方式的数量，

为用户q和用户p发起的vi业务的数量，α(vi)为vi交互方式所占的权重；

若用户之间存在的信任关系是直接信任关系，则将用户之间的通信历史记录中交互的比例确定用户之间的信任度；

若用户p和用户q之间，不存在任何的交互方式进行通讯，但是存在用户a₁,a₂,…,a_n，任意有向边的两个节点a_i之间存在直接信任关系，其中a_i∈{p,a₁,a₂,…,a_n,q}；根据任意有向边的两个节点a_i之间存在直接信任关系确定用户p对用户q的信任度；

根据用户p到用户q的信任路径计算出用户p对用户q的信任度T_p→q，

用户p到用户q之间存在多条信任路径(rt₁，rt₂，…，rt_n)，则用户p对用户q的信任度T_p→q为：

其中，

为基于路径rt_i的信任度，

∑R_rtj为信任路径rt_i除去用户p以外所有用户的信誉度之和，|ψ|为集合ψ的基数；其中，所述信誉度是根据所述信誉级别确定的。

2.根据权利要求1所述的方法，其特征在于，所述判断所述信任度是否大于信任度阈值之后，还包括：

若所述接收方对所述发送方的信任度不大于信任度阈值，则拦截所述信息。

3.根据权利要求1所述的方法，其特征在于，所述将所述消息发送给所述接收方后，还包括：

将所述信息保存在判定数据库中，从所述判定数据库中查找到所述信息，并对所述信息进行深层过滤，确定所述信息的深层过滤结果；

若所述信息的深层过滤结果与所述从信任度数据库中查找接收方对所述发送方的信任度不一致，则根据所述信息的深层过滤结果更新所述信任度数据库中所述信息的接收方对所述发送方的信任度。

4.一种不良信息管理装置，其特征在于，包括：

查找单元，用于在收到发送方需要发送给接收方的消息后，根据发送方的标识信息以及所述接收方的标识信息，查找所述接收方对所述发送方的信任度；

判断单元，用于判断所述信任度是否大于信任度阈值，若所述接收方对所述发送方的信任度大于信任度阈值，则将所述消息发送给所述接收方；

其中，所述接收方对所述发送方的信任度是根据所述接收方和发送方之间的信誉级别和所述接收方和发送方之间的信任关系确定的；

所述接收方和发送方之间的信誉级别是根据所述接收方和所述发送方的信誉云滴，信誉云数字特征、信誉级别基准云、信誉特征的基准云的相似度，并基于联系人的分布率、收方分布率、被举报数量和用户通讯习惯确定的；

还包括，根据用户间的通讯交互量和交互方式确定用户之间的信任关系和信任强度，进而根据所述信任关系和所述信誉级别得出所述信任度，具体地：

确定所有通讯用户之间的通讯交互量，用户p与用户q之间，如对于某种用户交互方式v，存在s个p向q发起的交互，以及t个q向p发起的交互，设u＝min(s，t)，称u为用户p和用户q之间基于交互方式v的交互量，记为

对于用户p的联系人集合(q₁,q₂,…q_n)，对于交互方式v，存在用户p和q_i的交互量

其中i∈[1,n]，并且存在一个最小k(k≤n)，满足：

其中，

则称用户p与用户f₁,f₂,…,f_k之间分别存在直接信任关系；

如果用户p和用户q之间存在的交互方式为直接通话或消息收发，则用户p对用户q之间可以计算直接信任强度，定义直接信任强度T_p→q为:

其中，vi为用户p和用户q之间的某一种交互方式，所述交互方式包括直接通话或消息收发，

为用户p和用户q发起的vi交互方式的数量，

为用户q和用户p发起的vi业务的数量，α(vi)为vi交互方式所占的权重；

若用户之间存在的信任关系是直接信任关系，则将用户之间的通信历史记录中交互的比例确定用户之间的信任度；

若用户p和用户q之间，不存在任何的交互方式进行通讯，但是存在用户a₁,a₂,…,a_n，任意有向边的两个节点a_i之间存在直接信任关系，其中a_i∈{p,a₁,a₂,…,a_n,q}；根据任意有向边的两个节点a_i之间存在直接信任关系确定用户p对用户q的信任度；

根据用户p到用户q的信任路径计算出用户p对用户q的信任度T_p→q，

用户p到用户q之间存在多条信任路径(rt₁，rt₂，…，rt_n)，则用户p对用户q的信任度T_p→q为：

其中，

为基于路径rt_i的信任度，

∑R_rtj为信任路径rt_i除去用户p以外所有用户的信誉度之和，|ψ|为集合ψ的基数；其中，所述信誉度是根据所述信誉级别确定的。

5.根据权利要求4所述的装置，其特征在于，所述判断单元还用于：

若所述接收方对所述发送方的信任度不大于信任度阈值，则拦截所述信息。

6.根据权利要求4所述的装置，其特征在于，所述装置还包括：

过滤单元，用于将所述信息保存在判定数据库中，从所述判定数据库中查找到所述信息，并对所述信息进行深层过滤，确定所述信息的深层过滤结果；

若所述信息的深层过滤结果与所述从信任度数据库中查找接收方对所述发送方的信任度不一致，则根据所述信息的深层过滤结果更新所述信任度数据库中所述信息的接收方对所述发送方的信任度。

Images