CN102510400A - 一种用于确定用户的可疑度信息的方法、装置和设备 - Google Patents

Abstract

本发明的目的是提供一种计算机实现的用于确定用户的可疑度信息的方法、装置和设备。根据本发明的方法包括：根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户；当判断所述用户为可疑用户时，获取所述用户在其所关联的至少一个网络社区中的社区相关信息；根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。本发明的优点在于可较为准确的对用户执行恶意操作的可能性进行判断，减少对非恶意用户的误判，从而在保证正常用户的使用网络社区的同时，限制恶意用户执行恶意操作，有效减少恶意用户在网络社区中执行恶意操作的情况。

Description

一种用于确定用户的可疑度信息的方法、装置和设备

技术领域

本发明涉及计算机技术领域，尤其涉及一种用于确定用户的可疑度信息的方法、装置和设备。

背景技术

在网络社区中执行非正常操作的用户中，可能存在发帖机这类恶意用户，也可能是通过手机、外挂模块等方式访问网络社区的正常用户，因此需要区分上述恶意用户和正常用户，以在保护正常用户的同时，又可对恶意用户加以限制。

发明内容

本发明的目的是提供一种计算机实现的用于确定用户的可疑度信息的方法、装置和设备。

根据本发明的一个方面，提供一种计算机实现的用于确定用户的可疑度信息的方法，其中，所述方法包括以下步骤：

a根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户；

b当判断所述用户为可疑用户时，获取所述用户在其所关联的至少一个网络社区中的社区相关信息；

c根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

根据本发明的另一个方面，还提供了一种用于确定用户的可疑度信息的可疑度确定装置，其中，所述可疑度确定装置包括：

第一判断装置，用于根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户；

第一获取装置，用于当判断所述用户为可疑用户时，获取所述用户在其所关联的至少一个网络社区中的社区相关信息；

确定装置，用于根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

根据本发明的一个方面，还提供一种计算机设备，其中，该计算机设备包含所述的可疑度确定装置。

与现有技术相比，本发明具有以下优点：通过结合用户已执行的操作以及在网络社区中的各项行为信息，可较为准确的对用户执行恶意操作的可能性进行判断，减少对非恶意用户的误判，已在保证正常用户的使用网络社区的同时，还可限制恶意用户执行恶意操作，有效减少恶意用户在网络社区中执行恶意操作的情况。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：

图1为本发明一个方面的一种计算机实现的用于确定用户的可疑度信息的方法流程图；

图2为本发明一个优选实施例的用于确定用户的可疑度信息的方法流程图；

图3为本发明一个方面的一种用于确定用户的可疑度信息的可疑度确定装置的结构示意图；

图4为本发明一个优选实施例的用于确定用户的可疑度信息的可疑度确定装置的结构示意图。

附图中相同或相似的附图标记代表相同或相似的部件。

具体实施方式

下面结合附图对本发明作进一步详细描述。

图1示意出了本发明一个方面的一种计算机实现的用于确定用户的可疑度信息的方法流程图。根据本发明的方法包括步骤S1、步骤S2以及步骤S3。其中，根据本发明的方法可通过计算机设备中的可疑度确定装置来实现，例如，通过计算机设备中诸如应用模块、操作系统、处理控制器等来实现。其中，所述计算机设备为一种能够按照事先存储的程序，自动、高速地进行大量数值计算和各种信息处理的现代化智能电子设备，其硬件包括但不限于微处理器、FPGA、DSP、嵌入式设备等。所述计算机设备包括但不限于用户设备和网络设备。其中，所述用户设备包括但不限于电脑、智能手机、PDA等。所述网络设备包括但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(Cloud Computing)的由大量计算机或网络服务器构成的云，其中，云计算是分布式计算的一种，由一群松散耦合的计算机集组成的一个超级虚拟计算机。其中，所述用户设备或所述网络设备所处的网络包括但不限于互联网、广域网、城域网、局域网、VPN网络等。

需要说明的是，所述用户设备及网络设备仅为举例，其他现有的或今后可能出现的用户设备、网络设备或网络如可适用于本发明，也应包含在本发明保护范围以内，并以引用方式包含于此。

在步骤S1中，可疑度确定装置根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户。其中，所述可疑用户包括但不限于具有执行诸如发布垃圾信息、刷帖、非法操作等恶意操作可能性的用户。

优选地，所述发布相关信息包括以下至少一项信息：1)所述信息发布行为触发的一项或多项操作项信息，优选地，所述操作项信息包括用于完成所述信息发布行为的功能模块的相关信息，更优选地，所述操作项信息包括用于完成所述信息发布行为的功能模块的标识信息；2)所述用户最近一次执行的信息发布行为与其前一次执行的信息发布行为之间的时间间隔信息；3)所述用户多次执行所述信息发布行为的行为时间规律信息。

其中，所述可疑度确定装置预获取发布相关信息的方式包括但不限于：1)直接获取预存储的与该用户的信息发布行为相关的发布相关信息；2)可疑度确定装置接收来自网络的、与该用户的信息发布行为相关的发布相关信息；3)可疑度确定装置统计并获取与该用户在预定时间段内的信息发布行为相关的发布相关信息等。

具体地，可疑度确定装置根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户的方式包括但不限于：

1)当所述发布相关信息包括一项或多项操作项信息时，可疑度确定装置判断所述一项或多项操作项信息是否包含正常实现所述信息发布所需的所有操作项信息；接着，当可疑度确定装置判断所述一项或多项操作项信息未包含所述正常实现信息发布所需的所有操作项信息时，判断所述用户为可疑用户。

例如，正常实现信息发布所需的操作项信息包括提交操作项与刷新操作项，且可疑度确定装置预获得的与用户User_1发布信息的行为相关的操作项信息仅包括提交操作项，则可疑度确定装置判断所获得的操作项信息中未包括刷新操作项，进而判断User_1为可疑用户。

2)当所述发布相关信息包括所述时间间隔信息时，可疑度确定装置判断所述时间间隔信息是否满足预定阈值范围，并当判断所述时间间隔信息满足预定阈值时，确定所述用户为可疑用户。

3)当所述发布相关信息包括所述行为时间规律信息时，可疑度确定装置判断所述行为时间规律信息是否具有规律性，并当判断所述行为时间规律信息具有规律性时，确定所述用户是否可疑用户。

例如，发布相关信息包括与多次发布信息行为对应的时间间隔信息，可疑度确定装置判断该多个时间间隔信息是否相同，若判断该多个时间间隔信息相同时，判断用户为可疑用户。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户的实现方式，例如，当可疑度确定装置判断时间间隔信息满足预定阈值范围且行为时间规律信息具有规律性时，判断用户为可疑用户的方案等，均应包含在本发明的范围内。

接着，在步骤S2中，当判断所述用户为可疑用户时，可疑度确定装置获取所述用户在其所关联的至少一个网络社区中的社区相关信息。其中，用户所关联的网络社区包括用户注册的或使用的网络社区。

其中，所述社区相关信息包括与所述用户在该至少一个网络社区中产生的信息相关的信息。优选地，所述社区相关信息包括但不限于以下至少一项信息：

1)所述用户在其所关联的至少一个网络社区中的第二行为相关信息。

其中，所述第二行为相关信息包括与用户在所述至少一个网络社区中执行的网络操作行为相关的信息。优选地，所述第二行为相关信息包括但不限于：a)发布行为相关信息，如，用户发布信息的时间间隔信息，用户重复发布相同信息的次数等；b)浏览行为相关信息，例如，用户浏览的网络社区中的主题贴的数量，又例如，用户访问其他用户空间的次数等；c)登录行为相关信息，例如，用户在预定时间内登录网络社区的次数，又例如，用户每次登录网络社区的平均在线时间等。

2)所述用户在其所关联的至少一个网络社区中的用户属性信息，所述用户属性信息包括除第二行为相关信息之外用户在所述至少一个网络社区中的其他相关信息，例如，用户在网络社区中的注册时间；又例如，用户在网络社区中的等级信息，再例如，用户在网络社区中的好友数量信息等。

具体地，所述可疑度确定装置获取所述用户在其所关联的至少一个网络社区中的社区相关信息的方式包括但不限于：

a)可疑度确定装置获取预存储的所述社区相关信息；

b)可疑度确定装置获取来自网络的所述社区相关信息；

c)可疑度确定装置统计所述用户在预定时间段内的在其所关联的至少一个网络社区中的网络操作行为，以获得所述社区相关信息。

接着，在步骤S3中，可疑度确定装置根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。优选地，所述可疑度信息以可疑度等级或可疑度数值的形式表现。

具体地，所述可疑度确定装置根据社区相关信息中的各项信息，确定社区相关信息所对应的可疑度信息，并将该可疑度信息作为所述用户对应所述至少一个网络社区的可疑度信息。优选地，所述可疑度信息用于评价所述用户执行恶意行为的可能性的大小。

例如，可疑度确定装置步骤S2中获得的社区相关信息包括用户连续四次发布信息的三个时间间隔信息3s、1s、2s，以及用户在预定的1小时内的登陆次数35次，则可疑度确定装置先获得所述三次时间间隔信息的平均间隔信息2s，并根据预定的平均时间间隔信息与可疑度值的对应关系，确定2s对应的可疑度值为20；并根据预定的登陆次数与可疑度值的对应关系，确定35次对应的可疑度值为35；则可疑度确定装置确定社区相关信息对应的可疑度信息为所获得的所有可疑度值之和55。

又例如，可疑度确定装置步骤S2中获得的社区相关信息包括用户在预定时间段内访问的主题贴数量15，以及用户在该预定时间段内重复发布同一内容的信息的次数5次，则可疑度确定装置确定所述社区相关信息满足预定条件“访问主题贴数量＞10次，且重复发布同一内容的次数≥3次”，并根据预定的可疑度等级与预定条件的对应关系，确定所获得的社区相关信息对应的可疑度等级为第二级。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息的实现方式，均应包含在本发明的范围内。

优选地，所述社区相关信息包含分别与所述用户所关联的多个网络社区相对应的多个子社区相关信息，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息；其中，基于所述多个网络社区中每个网络社区对应的子社区相关信息，可疑度确定装置根据该子社区相关信息，确定所述用户对应该网络社区的子可疑度信息。

其中，所述可疑度确定装置根据该子社区相关信息，确定所述用户对应该网络社区的子可疑度信息的方式，与前述步骤S3中所述可疑度确定装置根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息的方式相同或相似，此处不再赘述。

作为本发明的优选实施例之一，根据本发明的方法还包括步骤S4(图未示)，其中，所述步骤S3包括步骤S302(图未示)。

在步骤S4中，可疑度确定装置获取所述用户的历史可疑度信息。

其中，所述可疑度确定装置获取所述用户的历史可疑度信息的方式包括但不限于：1)可疑度确定装置获取预存储的所述用户的历史可疑度信息；2)可疑度确定装置接收来自网络的所述用户的历史可疑度信息等。

接着，在步骤S302中，可疑度确定装置根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

其中，所述可疑度确定装置根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息的方式包括但不限于：

1)可疑度确定装置根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的初始可疑度信息，并结合初始可疑度信息以及历史可疑度信息，获得最终的可疑度信息。

其中，所述可疑度确定装置先根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的初始可疑度信息的方式已在参照图1所示实施例的步骤S3中予以详述，并以引用的方式包含于此，不再赘述。此处仅举例说明可疑度确定装置根据所述历史可疑度信息对所述初始可疑度信息进行调整，以获得最终的可疑度信息的情况。

例如，可疑度确定装置在步骤S4中获得的历史可疑度值为120，且可疑度确定装置根据已获得的社区相关信息确定初始可疑度值为68，则可疑度确定装置获得最终的可疑度值＝(历史可疑度值+初始可疑度值)÷2＝94。

2)根据预定与社区相关信息相对应的调整方式，对所述历史可疑度信息进行调整，以将所获得的调整结果作为新的可疑度信息。

例如，可疑度确定装置在步骤S4中获得的历史可疑度值为第二等可疑度等级，且可疑度确定装置在步骤S2中获得的社区相关信息中包括预定时间段内在同一主题贴下的发帖数30，且预定的社区相关信息与对可疑度信息的调整方式对应关系如下表1所示，其中可疑度由低到高依次对应第一可疑度等级至第五可疑度等级：

用户在预定时间段内在同一主题贴下的发帖数	调整方式
		小于10次	降低一级
10次至20次	不调整
		20次至40次	提升一级
大于40次	提升两级

表1

则可疑度确定装置将历史可疑度信息提升一级以获得第三可疑度等级，并将该第三可疑度等级作为新的可疑度信息。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据可疑度确定装置根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息的实现方式，均应包含在本发明的范围内。

根据本发明的方法，通过结合用户已执行的操作以及在网络社区中的各项行为信息，可较为准确的对用户执行恶意操作的可能性进行判断，减少对非恶意用户的误判，已在保证正常用户的使用网络社区的同时，还可限制恶意用户执行恶意操作。

图2示意出了本发明一个优选实施例的用于确定用户的可疑度信息的方法流程图。根据本实施例的方法包括步骤S1、步骤S2、步骤S3、步骤S5、步骤S6、步骤S7以及步骤S8。

其中，步骤S1至步骤S3已在参照图1所示的实施例中予以详述，并以引用的方式包含于此，不再赘述。

在步骤S5中，可疑度确定装置获取与步骤S3中所获得的所述用户的可疑度信息相对应的行为许可范围的指示信息。

其中，所述行为许可范围的指示信息用于限定所述行为许可范围。优选地，所述行为许可范围的指示信息包括但不限于以下至少一项：1)允许的网络操作行为的行为类型，所述行为类型包括用户根据网络社区所提供的功能所执行的相应行为的类型信息，例如，发帖类行为、转帖类行为、添加好友类行为等；2)允许执行所述网络操作行为的时间段；3)允许的网络操作行为的行为频度；4)允许的网络操作行为的最短行为时间间隔。

具体地，可疑度确定装置根据预定的用户的可疑度信息与行为许可访问的指示信息的对应关系，获取与步骤S3中所获得的可疑度信息相对应的行为许可范围的指示信息。

在步骤S6中，可疑度确定装置获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息。

其中，所述第一行为相关信息包括与前述行为许可范围的指示信息相对应的以下至少一项：1)所述网络操作行为的行为类型；2)执行所述网络操作行为时的时间点信息；3)预定时间段内执行所述网络操作行为的次数；4)与前一次执行所述网络操作行为之间的时间间隔信息。

其中，本领域技术人员应可根据实际情况和需求来确定获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息的方式，在此不再赘述。

需要说明的是，步骤S5和步骤S6并无先后顺序。

接着，在步骤S7中，可疑度确定装置根据所述第一行为相关信息与所述行为许可范围的指示信息，来判断所述网络操作行为是否属于所述行为许可范围。

具体地，当可疑度确定装置判断所述第一行为相关信息属于所述行为许可范围的指示信息所指示的范围时，确定所述网络操作行为属于所述行为许可范围。

例如，可疑度确定装置在步骤S5中获得行为许可范围的指示信息如下表2所述：

表2

且可疑度确定装置在步骤S6中获得用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息包括行为类型“转帖类行为”，且该网络操作行为的行为频度为最近1小时内第1次，则可疑度确定装置确定所获得的第一行为相关信息属于指示信息所指示的范围，则可疑度确定装置判断用户在步骤S6中的网络操作行为属于在步骤S5中获得的行为许可范围。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据所述第一行为相关信息与所述行为许可范围的指示信息，来判断所述网络操作行为是否属于所述行为许可范围的实现方式，均应包含在本发明的范围内。

接着，在步骤S8中，当判断所述网络操作行为属于所述行为许可范围时，可疑度确定装置响应所述网络操作行为。

优选地，当判断所述网络操作行为不属于所述行为许可范围时，可疑度确定装置不响应所述网络操作行为。更优选地，当判断所述网络操作行为不属于所述行为许可范围时，可疑度确定装置发送用于警示用户当前操作不被允许的警示信息。

作为本实施例的优选方案之一，其中，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息，根据本实施例的方法，所述步骤S5包括步骤S501(图未示)和步骤S502(图未示)，所述步骤S6包括步骤S601(图未示)。

在步骤S501中，可疑度确定装置获取与所述多个网络社区中的一个网络社区相对应的子可疑度信息。

接着，在步骤S502中，可疑度确定装置获取与所述子可疑度信息相对应的行为许可范围的指示信息。

其中，所述可疑度确定装置获取与所述子可疑度信息相对应的行为许可范围的指示信息的方式，与前述步骤S5中可疑度确定装置获取与所述用户的可疑度信息相对应的行为许可范围的指示信息的方式相同或相似，在此不再赘述。

在步骤S601中，当所述用户在其所关联的步骤S501中所述的该网络社区中执行网络操作行为时，可疑度确定装置获取该网络操作行为的第一行为相关信息，并进一步触发步骤S7和步骤S8。

其中，所述可疑度确定装置获取该网络操作行为的第一行为相关信息的方式，与前述步骤S6中可疑度确定装置获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息的方式相同或相似，在此不再赘述。

根据本发明的方法，能够根据用户发布垃圾信息可疑度信息来对用户在网络社区中的操作进行限定，可有效减少恶意用户在网络社区中执行恶意操作的情况。

图3示意出了本发明一个方面的用于确定用户的可疑度信息的可疑度确定装置的结构示意图。根据本发明的可疑度确定装置包括第一判断装置1、第一获取装置2以及确定装置3。

第一判断装置1根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户。其中，所述可疑用户包括但不限于具有执行诸如发布垃圾信息、刷帖、非法操作等恶意操作可能性的用户。

优选地，所述发布相关信息包括以下至少一项信息：1)所述信息发布行为触发的一项或多项操作项信息，优选地，所述操作项信息包括用于完成所述信息发布行为的功能模块的相关信息，更优选地，所述操作项信息包括用于完成所述信息发布行为的功能模块的标识信息；2)所述用户最近一次执行的信息发布行为与其前一次执行的信息发布行为之间的时间间隔信息；3)所述用户多次执行所述信息发布行为的行为时间规律信息。

其中，所述第一判断装置1预获取发布相关信息的方式包括但不限于：1)直接获取预存储的与该用户的信息发布行为相关的发布相关信息；2)可疑度确定装置接收来自网络的、与该用户的信息发布行为相关的发布相关信息；3)可疑度确定装置统计并获取与该用户在预定时间段内的信息发布行为相关的发布相关信息等。

具体地，第一判断装置1根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户的方式包括但不限于：

1)当所述发布相关信息包括一项或多项操作项信息时，包含于第一判断装置1中的第一子判断装置(图未示)判断所述一项或多项操作项信息是否包含正常实现所述信息发布所需的所有操作项信息；接着，当可疑度确定装置判断所述一项或多项操作项信息未包含所述正常实现信息发布所需的所有操作项信息时，包含于第一判断装置1中的第二子判断装置(图未示)判断所述用户为可疑用户。

例如，正常实现信息发布所需的操作项信息包括提交操作项与刷新操作项，且可疑度确定装置预获得的与用户User_1发布信息的行为相关的操作项信息仅包括提交操作项，则第一子判断装置判断所获得的操作项信息中未包括刷新操作项，进而第二子判断装置判断User_1为可疑用户。

2)当所述发布相关信息包括所述时间间隔信息时，第一判断装置1判断所述时间间隔信息是否满足预定阈值范围，并当判断所述时间间隔信息满足预定阈值时，确定所述用户为可疑用户。

3)当所述发布相关信息包括所述行为时间规律信息时，第一判断装置1判断所述行为时间规律信息是否具有规律性，并当判断所述行为时间规律信息具有规律性时，确定所述用户是否可疑用户。

例如，发布相关信息包括与多次发布信息行为对应的时间间隔信息，第一判断装置1判断该多个时间间隔信息是否相同，若判断该多个时间间隔信息相同时，判断用户为可疑用户。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户的实现方式，例如，当第一判断装置1判断时间间隔信息满足预定阈值范围且行为时间规律信息具有规律性时，判断用户为可疑用户的方案等，均应包含在本发明的范围内。

接着，当第一判断装置1判断所述用户为可疑用户时，第一获取装置2获取所述用户在其所关联的至少一个网络社区中的社区相关信息。其中，用户所关联的网络社区包括用户注册的或使用的网络社区。

其中，所述社区相关信息包括与所述用户在该至少一个网络社区中产生的信息相关的信息。优选地，所述社区相关信息包括但不限于以下至少一项信息：

1)所述用户在其所关联的至少一个网络社区中的第二行为相关信息。

其中，所述第二行为相关信息包括与用户在所述至少一个网络社区中执行的网络操作行为相关的信息。优选地，所述第二行为相关信息包括但不限于：a)发布行为相关信息，如，用户发布信息的时间间隔信息，用户重复发布相同信息的次数等；b)浏览行为相关信息，例如，用户浏览的网络社区中的主题贴的数量，又例如，用户访问其他用户空间的次数等；c)登录行为相关信息，例如，用户在预定时间内登录网络社区的次数，又例如，用户每次登录网络社区的平均在线时间等。

2)所述用户在其所关联的至少一个网络社区中的用户属性信息，所述用户属性信息包括除第二行为相关信息之外用户在所述至少一个网络社区中的其他相关信息，例如，用户在网络社区中的注册时间；又例如，用户在网络社区中的等级信息，再例如，用户在网络社区中的好友数量信息等。

具体地，所述第一获取装置2获取所述用户在其所关联的至少一个网络社区中的社区相关信息的方式包括但不限于：

a)第一获取装置2获取预存储的所述社区相关信息；

b)第一获取装置2获取来自网络的所述社区相关信息；

c)第一获取装置2统计所述用户在预定时间段内的在其所关联的至少一个网络社区中的网络操作行为，以获得所述社区相关信息。

接着，确定装置3根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。优选地，所述可疑度信息以可疑度等级或可疑度数值的形式表现。

具体地，所述确定装置3根据社区相关信息中的各项信息，确定社区相关信息所对应的可疑度信息，并将该可疑度信息作为所述用户对应所述至少一个网络社区的可疑度信息。优选地，所述可疑度信息用于评价所述用户执行恶意行为的可能性的大小。

例如，第一获取装置2获得的社区相关信息包括用户连续四次发布信息的三个时间间隔信息3s、1s、2s，以及用户在预定的1小时内的登陆次数35次，则确定装置3先获得所述三次时间间隔信息的平均间隔信息2s，并根据预定的平均时间间隔信息与可疑度值的对应关系，确定2s对应的可疑度值为20；并根据预定的登陆次数与可疑度值的对应关系，确定35次对应的可疑度值为35；则确定装置3确定社区相关信息对应的可疑度信息为所获得的所有可疑度值之和55。

又例如，第一获取装置2获得的社区相关信息包括用户在预定时间段内访问的主题贴数量15，以及用户在该预定时间段内重复发布同一内容的信息的次数5次，则确定装置3确定所述社区相关信息满足预定条件“访问主题贴数量＞10次，且重复发布同一内容的次数≥3次”，并根据预定的可疑度等级与预定条件的对应关系，确定所获得的社区相关信息对应的可疑度等级为第二级。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息的实现方式，均应包含在本发明的范围内。

优选地，所述社区相关信息包含分别与所述用户所关联的多个网络社区相对应的多个子社区相关信息，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息；其中，基于所述多个网络社区中每个网络社区对应的子社区相关信息，包含于确定装置3中的第一子确定装置(图未示)根据该子社区相关信息，确定所述用户对应该网络社区的子可疑度信息。

其中，所述第一子确定装置根据该子社区相关信息，确定所述用户对应该网络社区的子可疑度信息的方式，与前述确定装置3根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息的方式相同或相似，此处不再赘述。

作为本发明的优选实施例之一，根据本发明的可疑度确定装置还包括第二获取装置(图未示)，其中，所述确定装置3包括第二子确定装置(图未示)。

第二获取装置获取所述用户的历史可疑度信息。

其中，所述第二获取装置获取所述用户的历史可疑度信息的方式包括但不限于：1)第二获取装置获取预存储的所述用户的历史可疑度信息；2)第二获取装置接收来自网络的所述用户的历史可疑度信息等。

接着，第二子确定装置根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

其中，所述第二子确定装置根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息的方式包括但不限于：

1)第二子确定装置根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的初始可疑度信息，并结合初始可疑度信息以及历史可疑度信息，获得最终的可疑度信息。

其中，所述第二子确定装置先根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的初始可疑度信息的方式已在参照图3所示实施例的确定装置3根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的初始可疑度信息的方式相同或相似，并以引用的方式包含于此，不再赘述。此处仅举例说明第二子确定装置根据所述历史可疑度信息对所述初始可疑度信息进行调整，以获得最终的可疑度信息的情况。

例如，第二获取装置获得的历史可疑度值为120，且第二子确定装置根据已获得的社区相关信息确定初始可疑度值为68，则第二子确定装置获得最终的可疑度值＝(历史可疑度值+初始可疑度值)÷2＝94。

2)第二子确定装置根据预定与社区相关信息相对应的调整方式，对所述历史可疑度信息进行调整，以将所获得的调整结果作为新的可疑度信息。

例如，第二获取装置获得的历史可疑度值为第二等可疑度等级，且第一获取装置2获得的社区相关信息中包括预定时间段内在同一主题贴下的发帖数30，且预定的社区相关信息与对可疑度信息的调整方式对应关系如下表3所示，其中可疑度由低到高依次对应第一可疑度等级至第五可疑度等级：

用户在预定时间段内在同一主题贴下的发帖数	调整方式
		小于10次	降低一级
10次至20次	不调整
		20次至40次	提升一级
大于40次	提升两级

表3

则第二子确定装置将历史可疑度信息提升一级以获得第三可疑度等级，并将该第三可疑度等级作为新的可疑度信息。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据可疑度确定装置根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息的实现方式，均应包含在本发明的范围内。

根据本发明的方案，通过结合用户已执行的操作以及在网络社区中的各项行为信息，可较为准确的对用户执行恶意操作的可能性进行判断，减少对非恶意用户的误判，已在保证正常用户的使用网络社区的同时，还可限制恶意用户执行恶意操作。

图4示意出了本发明一个优选实施例的用于确定用户的可疑度信息的可疑度确定装置的结构示意图。根据本实施例的可疑度确定装置包括第一判断装置1、第一获取装置2、确定装置3、第三获取装置5、第四获取装置6、第二判断装置7以及响应装置8。

其中，第一判断装置1、第一获取装置2以及确定装置3已在参照图3所示的实施例中予以详述，并以引用的方式包含于此，不再赘述。

第三获取装置5获取与确定装置3获得的所述用户的可疑度信息相对应的行为许可范围的指示信息。

其中，所述行为许可范围的指示信息用于限定所述行为许可范围。优选地，所述行为许可范围的指示信息包括但不限于以下至少一项：1)允许的网络操作行为的行为类型，所述行为类型包括用户根据网络社区所提供的功能所执行的相应行为的类型信息，例如，发帖类行为、转帖类行为、添加好友类行为等；2)允许执行所述网络操作行为的时间段；3)允许的网络操作行为的行为频度；4)允许的网络操作行为的最短行为时间间隔。

具体地，第三获取装置5根据预定的用户的可疑度信息与行为许可访问的指示信息的对应关系，获取与确定装置3所获得的可疑度信息相对应的行为许可范围的指示信息。

第四获取装置6获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息。

其中，所述第一行为相关信息包括与前述行为许可范围的指示信息相对应的以下至少一项：1)所述网络操作行为的行为类型；2)执行所述网络操作行为时的时间点信息；3)预定时间段内执行所述网络操作行为的次数；4)与前一次执行所述网络操作行为之间的时间间隔信息。

其中，本领域技术人员应可根据实际情况和需求来确定获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息的方式，在此不再赘述。

接着，第二判断装置7根据所述第一行为相关信息与所述行为许可范围的指示信息，来判断所述网络操作行为是否属于所述行为许可范围。

具体地，当第二判断装置7判断所述第一行为相关信息属于所述行为许可范围的指示信息所指示的范围时，确定所述网络操作行为属于所述行为许可范围。

例如，第三获取装置5获得行为许可范围的指示信息如下表4所述：

表4

且第四获取装置6获得用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息包括行为类型“转帖类行为”，且该网络操作行为的行为频度为最近1小时内第1次，则第二判断装置7判断所获得的第一行为相关信息属于指示信息所指示的范围，则第二判断装置7确定第四获取装置6所获得的用户的网络操作行为属于第三获取装置5所获得的行为许可范围。

需要说明的是，上述举例仅为更好地说明本发明的技术方案，而非对本发明的限制，本领域技术人员应该理解，任何根据所述第一行为相关信息与所述行为许可范围的指示信息，来判断所述网络操作行为是否属于所述行为许可范围的实现方式，均应包含在本发明的范围内。

接着，当第二判断装置7判断所述网络操作行为属于所述行为许可范围时，响应装置8响应所述网络操作行为。

优选地，当第二判断装置7判断所述网络操作行为不属于所述行为许可范围时，可疑度确定装置不响应所述网络操作行为。更优选地，当第二判断装置7判断所述网络操作行为不属于所述行为许可范围时，可疑度确定装置发送用于警示用户当前操作不被允许的警示信息。

作为本实施例的优选方案之一，其中，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息，根据本实施例的可疑度确定装置，所述第三获取装置5包括第一子获取装置(图未示)和第二子获取装置(图未示)，所述第四获取装置6包括第三子获取装置(图未示)。

第一子获取装置获取与所述多个网络社区中的一个网络社区相对应的子可疑度信息。

接着，第二子获取装置获取与所述子可疑度信息相对应的行为许可范围的指示信息。

其中，所述第二子获取装置获取与所述子可疑度信息相对应的行为许可范围的指示信息的方式，与前述第三获取装置5获取与所述用户的可疑度信息相对应的行为许可范围的指示信息的方式相同或相似，在此不再赘述。

当所述用户在其所关联的第一子获取装置中所述的该网络社区中执行网络操作行为时，第三子获取装置获取该网络操作行为的第一行为相关信息，并进一步触发第二判断装置7和响应装置8执行操作。

其中，所述第三子获取装置获取该网络操作行为的第一行为相关信息的方式，与前述第四获取装置6获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息的方式相同或相似，在此不再赘述。

根据本发明的方案，能够根据用户发布垃圾信息可疑度信息来对用户在网络社区中的操作进行限定，可有效减少恶意用户在网络社区中执行恶意操作的情况。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。

Claims (19)

1.一种计算机实现的用于确定用户的可疑度信息的方法，其中，所述方法包括以下步骤：

a根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户；

b当判断所述用户为可疑用户时，获取所述用户在其所关联的至少一个网络社区中的社区相关信息；

c根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

2.根据权利要求1所述的方法，其中，所述社区相关信息包含分别与所述用户所关联的多个网络社区相对应的多个子社区相关信息，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息，其中，所述步骤c包括以下步骤：

-基于所述多个网络社区中每个网络社区对应的子社区相关信息，执行以下操作：

-根据该子社区相关信息，确定所述用户对应该网络社区的子可疑度信息。

3.根据权利要求1或2所述的方法，其中，所述发布相关信息包括以下至少一项信息：

-所述信息发布行为触发的一项或多项操作项信息；

-所述用户最近一次执行的信息发布行为与其前一次执行的信息发布行为之间的时间间隔信息；

-所述用户多次执行所述信息发布行为的行为时间规律信息。

4.根据权利要求3所述的方法，其中，所述发布相关信息包括一项或多项操作项信息，其中，所述步骤a包括以下步骤：

-判断所述一项或多项操作项信息是否包含正常实现所述信息发布所需的所有操作项信息；

-当判断所述一项或多项操作项信息未包含所述正常实现信息发布所需的所有操作项信息时，判断所述用户为可疑用户。

5.根据权利要求1至4中任一项所述的方法，其中，所述方法还包括以下步骤：

-获取所述用户的历史可疑度信息；

其中，所述步骤c包括以下步骤：

-根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

6.根据权利要求1至5中任一项所述的方法，其中，所述方法还包括以下步骤：

i获取与所述用户的可疑度信息相对应的行为许可范围的指示信息；

其中，所述方法还包括以下步骤：

x获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息；

y根据所述第一行为相关信息与所述行为许可范围的指示信息，来判断所述网络操作行为是否属于所述行为许可范围；

z当判断所述网络操作行为属于所述行为许可范围时，响应所述网络操作行为。

7.根据权利要求6所述的方法，其中，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息，其中，所述步骤i包括以下步骤：

-获取与所述多个网络社区中的一个网络社区相对应的子可疑度信息；

-获取与所述子可疑度信息相对应的行为许可范围的指示信息；

其中，所述步骤x包括以下步骤：

-当所述用户在其所关联的所述一个网络社区中执行网络操作行为时，获取该网络操作行为的第一行为相关信息。

8.根据权利要求6或7所述的方法，其中，所述行为许可范围的指示信息包括以下至少一项：

-允许的网络操作行为的行为类型；

-允许执行所述网络操作行为的时间段；

-允许的网络操作行为的行为频度；

-允许的网络操作行为的最短行为时间间隔；

其中，所述第一行为相关信息包括与上述行为许可范围的指示信息相对应的以下至少一项：

-所述网络操作行为的行为类型；

-执行所述网络操作行为时的时间点信息；

-预定时间段内执行所述网络操作行为的次数；

-与前一次执行所述网络操作行为之间的时间间隔信息。

9.根据权利要求1至8中任一项所述的方法，其中，所述社区相关信息包括以下至少一项信息：

-所述用户在其所关联的至少一个网络社区中的第二行为相关信息；

-所述用户在其所关联的至少一个网络社区中的用户属性信息。

10.一种用于确定用户的可疑度信息的可疑度确定装置，其中，所述可疑度确定装置包括：

第一判断装置，用于根据预获取的、与用户的信息发布行为相关的发布相关信息，判断所述用户是否为可疑用户；

第一获取装置，用于当判断所述用户为可疑用户时，获取所述用户在其所关联的至少一个网络社区中的社区相关信息；

确定装置，用于根据所述社区相关信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

11.根据权利要求10所述的可疑度确定装置，其中，所述社区相关信息包含分别与所述用户所关联的多个网络社区相对应的多个子社区相关信息，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息，其中，所述确定装置基于所述多个网络社区中每个网络社区对应的子社区相关信息，通过自身所包含的以下装置执行操作：

第一子确定装置，用于根据该子社区相关信息，确定所述用户对应该网络社区的子可疑度信息。

12.根据权利要求10或11所述的可疑度确定装置，其中，所述发布相关信息包括以下至少一项信息：

-所述信息发布行为触发的一项或多项操作项信息；

-所述用户最近一次执行的信息发布行为与其前一次执行的信息发布行为之间的时间间隔信息；

-所述用户多次执行所述信息发布行为的行为时间规律信息。

13.根据权利要求12所述的可疑度确定装置，其中，所述发布相关信息包括一项或多项操作项信息，其中，所述第一判断装置包括：

第一子判断装置，用于判断所述一项或多项操作项信息是否包含正常实现所述信息发布所需的所有操作项信息；

第二子判断装置，用于当判断所述一项或多项操作项信息未包含所述正常实现信息发布所需的所有操作项信息时，判断所述用户为可疑用户。

14.根据权利要求10至13中任一项所述的可疑度确定装置，其中，所述可疑度确定装置还包括：

第二获取装置，用于获取所述用户的历史可疑度信息；

其中，所述确定装置包括：

第二子确定装置，用于根据所述社区相关信息以及所述历史可疑度信息，确定所述用户对应所述至少一个网络社区的可疑度信息。

15.根据权利要求10至14中任一项所述的可疑度确定装置，其中，所述可疑度确定装置还包括：

第三获取装置，用于获取与所述用户的可疑度信息相对应的行为许可范围的指示信息；

第四获取装置，用于获取所述用户在其所关联的网络社区中执行的网络操作行为的第一行为相关信息；

第二判断装置，用于根据所述第一行为相关信息与所述行为许可范围的指示信息，来判断所述网络操作行为是否属于所述行为许可范围；

响应装置，用于当判断所述网络操作行为属于所述行为许可范围时，响应所述网络操作行为。

16.根据权利要求15所述的可疑度确定装置，其中，所述可疑度信息包含分别与所述用户所关联的多个网络社区相对应的多个子可疑度信息，其中，所述第三获取装置包括：

第一子获取装置，用于获取与所述多个网络社区中的一个网络社区相对应的子可疑度信息；

第二子获取装置，用于获取与所述子可疑度信息相对应的行为许可范围的指示信息；

其中，所述第四获取装置包括：

第三子获取装置，用于当所述用户在其所关联的所述一个网络社区中执行网络操作行为时，获取该网络操作行为的第一行为相关信息。

17.根据权利要求15或16所述的可疑度确定装置，其中，所述行为许可范围的指示信息包括以下至少一项信息：

-允许的网络操作行为的行为类型；

-允许执行所述网络操作行为的时间段；

-允许的网络操作行为的行为频度；

-允许的网络操作行为的最短行为时间间隔；

其中，所述第一行为相关信息包括与上述行为许可范围的指示信息相对应的以下至少一项信息：

-所述网络操作行为的行为类型；

-执行所述网络操作行为时的时间点信息；

-预定时间段内执行所述网络操作行为的次数；

-与前一次执行所述网络操作行为之间的时间间隔信息。

18.根据权利要求10至17中任一项所述的可疑度确定装置，其中，所述社区相关信息包括以下至少一项信息：

-所述用户在其所关联的至少一个网络社区中的第二行为相关信息；

-所述用户在其所关联的至少一个网络社区中的用户属性信息。

19.一种计算机设备，其中，该计算机设备包含如权利要求10至18中至少一项所述的可疑度确定装置。

Images