CN115134329B - 一种网络行为的控制方法及装置、电子设备、存储介质 - Google Patents
一种网络行为的控制方法及装置、电子设备、存储介质 Download PDFInfo
- Publication number
- CN115134329B CN115134329B CN202210752258.1A CN202210752258A CN115134329B CN 115134329 B CN115134329 B CN 115134329B CN 202210752258 A CN202210752258 A CN 202210752258A CN 115134329 B CN115134329 B CN 115134329B
- Authority
- CN
- China
- Prior art keywords
- target
- target user
- user
- network
- network behavior
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006399 behavior Effects 0.000 title claims abstract description 244
- 238000000034 method Methods 0.000 title claims abstract description 41
- 230000000694 effects Effects 0.000 claims abstract description 31
- 230000002411 adverse Effects 0.000 claims abstract description 10
- 238000004458 analytical method Methods 0.000 claims abstract description 9
- 238000011156 evaluation Methods 0.000 claims description 12
- 238000012544 monitoring process Methods 0.000 claims description 9
- 230000001960 triggered effect Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 230000009471 action Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012550 audit Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000855 fermentation Methods 0.000 description 1
- 230000004151 fermentation Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/04—Processing captured monitoring data, e.g. for logfile generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Data Mining & Analysis (AREA)
- Telephonic Communication Services (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种网络行为的控制方法及装置、电子设备、存储介质,可应用于人工智能领域或金融领域,所述方法包括:获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据;基于目标用户的各项目标网络行为的指标数据,确定目标用户所属的类型;将目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到目标用户对应的对比结果;其中,目标内容信息库包括有预先分析得到的多个存在不良影响的内容;基于目标用户对应的对比结果,为目标用户设置用户标签;基于目标用户所属的类型以及目标用户的用户标签,对当前预设周期内,目标用户在目标平台上的网络行为进行控制。
Description
技术领域
本申请涉及社交平台管理技术领域,特别涉及一种网络行为的控制方法及装置、电子设备、存储介质。
背景技术
随着网络社交平台随着网络的不断普及也在飞速发展,现今人们越来越习惯于通过网络社交平台进行沟通交流、发表言论等社交行为。但是由于网络世界对人的限制更少,人们对自己的言行承担的责任更轻,所以缺失道德、责任感,或者容易被误导的人,常常在网络社交平台中发表具有攻击性、煽动性的不当言论,由此造成的网络暴力事件层出不穷。
当前为了限制网络上的网络暴力行为,通常由内容审核人员对用户发布的内容进行审核,确定其是否是不当的内容。并在确定出用户发布的内容为不当内容时,对用户进行禁言等相应的处罚。或者通过接收其他用户的举报,核实举报内容属实后,对用户进行相应的处罚。
但是通过现有的方式,过于依赖审核人员,所以容易出现遗漏。并且,除了发布的内容外,用户的点赞等行为,也是导致网络暴力事件不断发酵,扩大影响的因素,但是现有的方式很难考虑到这些因素。因此现有的方式,并不能对网络行为进行有效控制,降低网络暴力事件的发生概率。
发明内容
基于上述现有技术的不足,本申请提供了一种网络行为的控制方法及装置、电子设备、存储介质,以解决现有技术无法对网络行为进行有效控制的问题。
为了实现上述目的,本申请提供了以下技术方案:
本申请第一方面提供了一种网络行为的控制方法,包括:
获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据;
基于所述目标用户的各项所述目标网络行为的指标数据,确定所述目标用户所属的类型;
将所述目标用户的各项所述目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到所述目标用户对应的对比结果;其中,所述目标内容信息库包括有预先分析得到的多个存在不良影响的内容;
基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
基于所述目标用户所属的类型以及所述目标用户的用户标签,对当前预设周期内,所述目标用户在所述目标平台上的网络行为进行控制。
可选地,在上述的网络行为的控制方法中,所述基于所述目标用户的各项所述目标网络行为的指标数据,确定所述目标用户所属的类型,包括:
将所述目标用户的各项所述目标网络行为的指标数据进行加权,得到所述目标用户的活跃指数;
基于所述目标用户的活跃指数,确定所述目标用户所属的活跃类型;其中,所述活跃类型包括活跃用户以及非活跃用户;
分别针对各项所述目标网络行为中的各项指定网络行为,判断所述指定网络行为的指标数据是否满足所述指定网络行为对应的评定指标;
若判断出所述指定网络行为的指标数据满足所述指定网络行为对应的评定指标,则确定所述目标用户属于所述网络行为对应的类型。
可选地,在上述的网络行为的控制方法中,所述基于所述目标用户所属的类型以及所述目标用户的用户标签,对当前预设周期内,所述目标用户在所述目标平台上的网络行为进行控制,包括:
若所述目标用户所属的类型中包括所述目标类型,且所述目标用户的用户标签为目标标签,则基于所述目标用户所属的类型确定所述目标用户的平台使用限制时间以及所述目标用户的各项所述目标网络行为的触发次数上限;其中,所述目标类型包括所述活跃用户以及各项所述网络行为对应的类型;所述目标标签为用于表征存在不良网络行为的用户标签;
实时监测所述目标用户在所述当前预设周期内使用所述目标平台的时间,以及触发各项所述目标网络行为的次数;
当监测到所述目标用户在所述当前预设周期内使用所述目标平台的时间超过所述目标用户的平台使用限制时间时,强制所述目标用户退出所述目标平台;
若监测到所述目标用户触发任意一项所述目标网络行为的次数已超过所述目标网络行为的触发次数上限,则在所述当前预设周期内拒绝响应所述目标用户触发的所述目标网络行为。
可选地,在上述的网络行为的控制方法中,所述基于所述目标用户所属的类型确定所述目标用户的平台使用限制时间以及所述目标用户的各项所述目标网络行为的触发次数上限,包括:
从预先配置的信息中,查找出所述目标用户所属的各个类型对应的平台使用限制时间以及对应的各项所述目标网络行为的触发次数上限;
将查找出的各个所述类型对应的平台使用限制时间中的最小值,确定为所述目标用户的平台使用限制时间;
将查找出的各个所述类型对应的各项所述目标网络行为的触发次数上限中的最小值,分别确定为所述目标用户的各项所述目标网络行为的触发次数上限。
可选地,在上述的网络行为的控制方法中,所述将所述目标用户的各项所述目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到所述目标用户对应的对比结果之后,还包括:
基于所述目标用户对应的对比结果,判断所述目标用户存在不良网络行为的次数是否满足阈值;其中,判断出所述目标用户存在不良网络行为的次数不满足阈值,则执行所述基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
若判断出所述目标用户存在不良网络行为的次数满足阈值,则注销所述目标用户的账户,并禁止所述目标用户申请所述目标平台的账户;
将所述目标用户添加至全网社交平台黑名单中。
本申请第二方面提供了一种网络行为的控制装置,包括:
数据获取单元,用于获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据;
类型确定单元,用于基于所述目标用户的各项所述目标网络行为的指标数据,确定所述目标用户所属的类型;
对比单元,用于将所述目标用户的各项所述目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到所述目标用户对应的对比结果;其中,所述目标内容信息库包括有预先分析得到的多个存在不良影响的内容;
标签设置单元,用于基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
控制单元,用于基于所述目标用户所属的类型以及所述目标用户的用户标签,对当前预设周期内,所述目标用户在所述目标平台上的网络行为进行控制。
可选地,在上述的网络行为的控制装置中,所述类型单元,包括:
计算单元,用于将所述目标用户的各项所述目标网络行为的指标数据进行加权,得到所述目标用户的活跃指数;
第一类型确定单元,用于基于所述目标用户的活跃指数,确定所述目标用户所属的活跃类型;其中,所述活跃类型包括活跃用户以及非活跃用户;
第一判断单元,用于分别针对各项所述目标网络行为中的各项指定网络行为,判断所述指定网络行为的指标数据是否满足所述指定网络行为对应的评定指标;
第二类型确定单元,用于在判断出所述指定网络行为的指标数据满足所述指定网络行为对应的评定指标时,确定所述目标用户属于所述网络行为对应的类型。
可选地,在上述的网络行为的控制装置中,所述控制单元,包括:
限制信息确定单元,用于在所述目标用户所属的类型中包括所述目标类型,且所述目标用户的用户标签为目标标签时,基于所述目标用户所属的类型确定所述目标用户的平台使用限制时间以及所述目标用户的各项所述目标网络行为的触发次数上限;其中,所述目标类型包括所述活跃用户以及各项所述网络行为对应的类型;所述目标标签为用于表征存在不良网络行为的用户标签;
监测单元,用于实时监测所述目标用户在所述当前预设周期内使用所述目标平台的时间,以及触发各项所述目标网络行为的次数;
下线单元,用于当监测到所述目标用户在所述当前预设周期内使用所述目标平台的时间超过所述目标用户的平台使用限制时间时,强制所述目标用户退出所述目标平台;
拒绝单元,用于在监测到所述目标用户触发任意一项所述目标网络行为的次数已超过所述目标网络行为的触发次数上限时,在所述当前预设周期内拒绝响应所述目标用户触发的所述目标网络行为。
可选地,在上述的网络行为的控制装置中,所述限制信息确定单元,包括:
查找单元,用于从预先配置的信息中,查找出所述目标用户所属的各个类型对应的平台使用限制时间以及对应的各项所述目标网络行为的触发次数上限;
第一信息确定单元,用于将查找出的各个所述类型对应的平台使用限制时间中的最小值,确定为所述目标用户的平台使用限制时间;
第二信息确定单元,用于将查找出的各个所述类型对应的各项所述目标网络行为的触发次数上限中的最小值,分别确定为所述目标用户的各项所述目标网络行为的触发次数上限。
可选地,在上述的网络行为的控制装置中,还包括:
第二判断单元,用于基于所述目标用户对应的对比结果,判断所述目标用户存在不良网络行为的次数是否满足阈值;其中,若判断出所述目标用户存在不良网络行为的次数不满足阈值,则所述标签设置单元执行所述基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
注销单元,用于在判断出所述目标用户存在不良网络行为的次数满足阈值时,注销所述目标用户的账户,并禁止所述目标用户申请所述目标平台的账户;
添加单元,用于将所述目标用户添加至全网社交平台黑名单中。
本申请第三方面提供了一种电子设备,包括:
存储器和处理器;
其中,所述存储器用于存储程序;
所述处理器用于执行所述程序,所述程序被执行时,具体用于实现如上述任意一项所述的网络行为的控制方法。
本申请第四方面提供了一种计算机存储介质,用于存储计算机程序,所述计算机程序被执行时,用于实现如上述任意一项所述的网络行为的控制方法。
本申请提供的一种网络行为的控制方法,获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据。然后基于目标用户的各项目标网络行为的指标数据,确定目标用户所属的类型,并将目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到目标用户对应的对比结果。其中,目标内容信息库包括有预先分析得到的多个存在不良影响的内容,所以可以基于目标用户对应的对比结果,为目标用户设置用户标签。最后基于目标用户所属的类型以及目标用户的用户标签,对当前预设周期内,目标用户在目标平台上的网络行为进行控制,从而有效考虑了用户的各项网络行为,实现对用户的网络行为的自动管控,进而可以有效降低网络暴力事件的发生概率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例提供了一种网络行为的控制方法的流程图;
图2为本申请实施例提供了一种确定目标用户所属的类型的流程图;
图3为本申请实施例提供的一种对目标用户进行处罚处理的方法的流程图;
图4为本申请实施例提供的一种对当前预设周期内目标用户在目标平台上的网络行为进行控制的方法的流程图;
图5为本申请实施例提供的一种确定目标用户的平台使用限制时间和各项目标网络行为的触发次数上限的方法的流程图;
图6为本申请实施例提供的一种网络行为的控制装置的结构示意图;
图7为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在本申请中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本申请实施例提供了一种网络行为的控制方法,如图1所示,包括以下步骤:
S101、获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据。
其中,历史预设周期通常指的是上一个周期,当然也可以是最近的几个周期。由于用户的网络行为可能会存在变化,并且在其网络行为受到控制后,后续可能也可能会不断改善,所以在本申请实施例中,是按周期对用户进行网络行为控制。
目标用户为当前需要进行分析的任意一个用户,即将需要进行分析的各个用户分别作为目标用户执行本申请实施例提供的方法。目标网络行为指的是指定的与用户相关的行为,不限于是用户自己执行的网络行为,也可以包括其他用户或者平台对用户进行的网络行为。例如,目标网络行为的指标数据不仅可以包括使用目标平台的时长、发言次数、点赞次数、转发次数等,还可以包括有被拉黑次数、被举报次数等。
S102、基于目标用户的各项目标网络行为的指标数据,确定目标用户所属的类型。
由于活跃的用户进行网络行为的频率较高,对网络环境影响也更大,并且不同用户进行的网络行为的习惯也不同,为了能有针对性地对目标用户的网络行为进行控制,因此需要先确定目标用户所属的类型。
可选地,在本申请另一实施例中,步骤S102的一种具体实施方式,如图2所示,包括:
S201、将目标用户的各项目标网络行为的指标数据进行加权,得到目标用户的活跃指数。
S202、基于目标用户的活跃指数,确定目标用户所属的活跃类型。
其中,活跃类型包括活跃用户以及非活跃用户。
由于活跃用户对网络环境影响较大,而非活跃用户由于进行网络行为的次数较少,所以其发表的言论等,通常不会造成影响,所以需要先确定目标用户是属于活跃用户还是非活跃用户。而通过各项目标用户的活跃指数能更准确地分析出目标用户所述的活跃类型。
S203、分别针对各项目标网络行为中的各项指定网络行为,判断指定网络行为的指标数据是否满足指定网络行为对应的评定指标。
其中,若判断出指定网络行为的指标数据满足指定网络行为对应的评定指标,则执行步骤S204。
S204、确定目标用户属于网络行为对应的类型。
需要说明的是,由于不同的用户的网络行为习惯不同,例如,有些用户喜欢发表言论、有些用户喜欢点赞或转发等,所以为了能有针对性低对目标用户的网络行为进行控制,需要确定其是否属于网络行为对应的类型,如是否属于常发言用户、常转发用户或常点赞用户等。
S103、将目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到目标用户对应的对比结果。
其中,目标内容信息库包括有预先分析得到的多个存在不良影响的内容。
具体的,在本申请实施例中,预先采集以往网络暴力事件中涉及的言语、内容数据等找出不良影响的内容,建立涉暴内容信息库。
从而可以将目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,确定目标用户的各项目标网络行为涉及的内容是否为存在涉暴内容,如用户发布的内容、点赞的内容、评论的行内是否为涉暴内容,从而确定目标用户是否存在不良行为。
可选地,为了能对存在较为严重的网络暴力行为的用户进行及时、严厉的处理,所以在执行步骤S103之后,在执行步骤S104之前,还可以进一步对目标用户进行处罚处理,如图3所示,具体包括:
S301、基于目标用户对应的对比结果,判断目标用户存在不良网络行为的次数是否满足阈值。
需要说明的是,在本申请实施例中,对比结果中包括了与目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比一致的数量,而该数量就等于用户的不良网络行为的数量。
其中,若判断出目标用户存在不良网络行为的次数不满足阈值,说明用户可能是被误导,从而进行了少量的不良网络行为,所造成影响较小,所以此时可以执行步骤S104,以进一步对其网络行为进行控制。
若判断出目标用户存在不良网络行为的次数满足阈值,则说明目标用户存在较为严重的不良网络行为,所以此时直接执行步骤S302。
S302、注销目标用户的账户,并禁止目标用户申请目标平台的账户。
S303、将目标用户添加至全网社交平台黑名单中。
其中,全网社交平台黑名单可以共享给全网中的其他社交平台,从而对其实施全网范围内的监禁,严格控制其在所有社交平台上的使用权限。
S104、基于目标用户对应的对比结果,为目标用户设置用户标签。
为了便于后续能确定用户是否为存在不良网络行为的用户,从而准确的对各个用户进行网络行为的控制,所以基于目标用户对应的对比结果,为目标用户设置用户标签,后续可以根据用户标签,对目标用户的网络行为进行控制。
可选地,通过分析目标用户对应的对比结果,确定目标用户是否满足不良用户的标准。若目标用户满足不良用户的标准,则可以设置目标用户的用户标签为不良用户,若不满足不良用户的标准,则可以设置目标用户的用户标签为非不良用户。
S105、基于目标用户所属的类型以及目标用户的用户标签,对当前预设周期内,目标用户在目标平台上的网络行为进行控制。
可选地,对于用户标签为不良用户的用户进行网络行为的控制,并且对于活跃用户的控制强度要大于非活跃用户的强度。并且,可以针对目标用户所属的类型,对目标用户习惯进行网络行为进行重点控制。例如,目标用户为常转发用户,说明其习惯进行内容转发,若其是不良用户,则重点限制其进行内容转发的次数,或者直接禁止其进行内容转发。通过对用户的网络行为进行控制,使其不能在肆意的进行不当网络行为,降低网暴事件的发生概率,也能避免网暴事件的扩散。
可选地,在步骤S102采用如图2所示的实施方式时,相应的,本申请另一实施例中,步骤S105的一种具体实施方式,如图4所示,包括:
S401、若目标用户所属的类型中包括目标类型,且目标用户的用户标签为目标标签,则基于目标用户所属的类型确定目标用户的平台使用限制时间以及目标用户的各项目标网络行为的触发次数上限。
其中,目标类型包括活跃用户以及各项网络行为对应的类型。目标标签为用于表征存在不良网络行为的用户标签。
需要说明的是,由于非活跃用户的网络行为较少,一般也不会有人关注,也不会造成影响,所以在本申请实施例中,只对比较整体比较活跃以及频繁进行某一项目标网络行为的用户进行控制。
由于不同的目标网络行为,对于网络环境的影响不同,例如,点赞不当言论的影响,相较于直接发表不当言论的影响更大,所以在本申请实施例中,会预先设置不同类型的限制策略,即设置相应的平台使用限制时间和触发次数上限。
可选地,在本申请另一实施例中,步骤S401的一种实施方式,如图5所示,包括:
S501、从预先配置的信息中,查找出目标用户所属的各个类型对应的平台使用限制时间以及对应的各项目标网络行为的触发次数上限。
S502、将查找出的各个类型对应的平台使用限制时间中的最小值,确定为目标用户的平台使用限制时间。
由于各个类型对应的平台使用限制时间不同,而为了对目标用户进行最有效的控制,所以采用的是其中的最小值。当然这只是其中一种可选的方式,也可以是综合考虑各个值,然后确定出一个数值确定为目标用户的平台使用限制时间。
S503、将查找出的各个类型对应的各项目标网络行为的触发次数上限中的最小值,分别确定为目标用户的各项目标网络行为的触发次数上限。
同理,对于各项目标网络行为的限制,在本申请实施例中,依旧按最严格的标准执行,所以采用的各项目标网络行为的触发次数上限中的最小值,确定为各项目标网络行为的触发次数上限。
S402、实时监测目标用户在当前预设周期内使用目标平台的时间,以及触发各项目标网络行为的次数。
S403、当监测到目标用户在当前预设周期内使用目标平台的时间超过目标用户的平台使用限制时间时,强制目标用户退出目标平台。
可选地,平台使用限制时间可以是总的时间,也可以是每天的时间。若是中的时间,则强制目标用户退出目标平台后,在当前预设周期内,目标用户将无法再登陆目标平台。若是每天的时间,则是在当天无法再登陆目标平台,需要等到第二天。
S404、若监测到目标用户触发任意一项目标网络行为的次数已超过目标网络行为的触发次数上限,则拒绝响应该目标用户触发的该目标网络行为。
具体的,对于每一项目标网络行为,当用户触发的次数已超过对应的触发次数上限,则当用户再次触发时,则拒绝响应。例如,用户的发言次数已超过对应的触发次数上限,则当用户再发言时,则拒绝相应,即用户将无法成功发布言论。
本申请实施例提供的一种网络行为的控制方法,获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据。然后基于目标用户的各项目标网络行为的指标数据,确定目标用户所属的类型,并将目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到目标用户对应的对比结果。其中,目标内容信息库包括有预先分析得到的多个存在不良影响的内容,所以可以基于目标用户对应的对比结果,为目标用户设置用户标签。最后基于目标用户所属的类型以及目标用户的用户标签,对当前预设周期内,目标用户在目标平台上的网络行为进行控制,从而有效考虑了用户的各项网络行为,实现对用户的网络行为的自动管控,进而可以有效降低网络暴力事件的发生概率。
本申请另一实施例提供了一种网络行为的控制装置,如图6所示,包括:
数据获取单元601,用于获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据。
类型确定单元602,用于基于目标用户的各项目标网络行为的指标数据,确定目标用户所属的类型。
对比单元603,用于将目标用户的各项目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到目标用户对应的对比结果。
其中,目标内容信息库包括有预先分析得到的多个存在不良影响的内容。
标签设置单元604,用于基于目标用户对应的对比结果,为目标用户设置用户标签。
控制单元605,用于基于目标用户所属的类型以及目标用户的用户标签,对当前预设周期内,目标用户在目标平台上的网络行为进行控制。
可选地,本申请另一实施例提供的网络行为的控制装置中,类型单元,包括:
计算单元,用于将目标用户的各项目标网络行为的指标数据进行加权,得到目标用户的活跃指数。
第一类型确定单元,用于基于目标用户的活跃指数,确定目标用户所属的活跃类型。其中,活跃类型包括活跃用户以及非活跃用户。
第一判断单元,用于分别针对各项目标网络行为中的各项指定网络行为,判断指定网络行为的指标数据是否满足指定网络行为对应的评定指标。
第二类型确定单元,用于在判断出指定网络行为的指标数据满足指定网络行为对应的评定指标时,确定目标用户属于网络行为对应的类型。
可选地,本申请另一实施例提供的网络行为的控制装置中,控制单元,包括:
限制信息确定单元,用于在目标用户所属的类型中包括目标类型,且目标用户的用户标签为目标标签时,基于目标用户所属的类型确定目标用户的平台使用限制时间以及目标用户的各项目标网络行为的触发次数上限。其中,目标类型包括活跃用户以及各项网络行为对应的类型。目标标签为用于表征存在不良网络行为的用户标签。
监测单元,用于实时监测目标用户在当前预设周期内使用目标平台的时间,以及触发各项目标网络行为的次数。
下线单元,用于当监测到目标用户在当前预设周期内使用目标平台的时间超过目标用户的平台使用限制时间时,强制目标用户退出目标平台。
拒绝单元,用于在监测到目标用户触发任意一项目标网络行为的次数已超过目标网络行为的触发次数上限时,在当前预设周期内拒绝响应目标用户触发的目标网络行为。
可选地,本申请另一实施例提供的网络行为的控制装置中,限制信息确定单元,包括:
查找单元,用于从预先配置的信息中,查找出目标用户所属的各个类型对应的平台使用限制时间以及对应的各项目标网络行为的触发次数上限。
第一信息确定单元,用于将查找出的各个类型对应的平台使用限制时间中的最小值,确定为目标用户的平台使用限制时间。
第二信息确定单元,用于将查找出的各个类型对应的各项目标网络行为的触发次数上限中的最小值,分别确定为目标用户的各项目标网络行为的触发次数上限。
可选地,本申请另一实施例提供的网络行为的控制装置中,还包括:
第二判断单元,用于基于目标用户对应的对比结果,判断目标用户存在不良网络行为的次数是否满足阈值。
其中,若判断出目标用户存在不良网络行为的次数不满足阈值,则标签设置单元执行基于目标用户对应的对比结果,为目标用户设置用户标签。
注销单元,用于在判断出目标用户存在不良网络行为的次数满足阈值时,注销目标用户的账户,并禁止目标用户申请目标平台的账户。
添加单元,用于将目标用户添加至全网社交平台黑名单中。
需要说明的是,本申请上述实施例提供的各个单元的具体工作过程,可相应地参考上述方法实施例中的相应的步骤,此处不再赘述。
本申请另一实施例提供了一种电子设备,如图7所示,包括:
存储器701和处理器702。
其中,存储器701用于存储程序。
处理器702用于执行存储器701存储的程序,该程序被执行时,具体用于实现如上述任意一个实施例提供的网络行为的控制方法。
本申请另一实施例提供了一种计算机存储介质,用于存储计算机程序,计算机程序被执行时,用于实现如上述任意一项的网络行为的控制方法。
计算机存储介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
需要说明的是,本发明提供的一种网络行为的控制方法及装置、电子设备、存储介质可用于人工智能领域或金融领域。上述仅为示例,并不对本发明提供的一种网络行为的控制方法及装置、电子设备、存储介质的应用领域进行限定。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (8)
1.一种网络行为的控制方法,其特征在于,包括:
获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据;
基于所述目标用户的各项所述目标网络行为的指标数据,确定所述目标用户所属的类型;
将所述目标用户的各项所述目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到所述目标用户对应的对比结果;其中,所述目标内容信息库包括有预先分析得到的多个存在不良影响的内容;
基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
基于所述目标用户所属的类型以及所述目标用户的用户标签,对当前预设周期内,所述目标用户在所述目标平台上的网络行为进行控制;
其中,所述基于所述目标用户的各项所述目标网络行为的指标数据,确定所述目标用户所属的类型,包括:
将所述目标用户的各项所述目标网络行为的指标数据进行加权,得到所述目标用户的活跃指数;
基于所述目标用户的活跃指数,确定所述目标用户所属的活跃类型;其中,所述活跃类型包括活跃用户以及非活跃用户;
分别针对各项所述目标网络行为中的各项指定网络行为,判断所述指定网络行为的指标数据是否满足所述指定网络行为对应的评定指标;
若判断出所述指定网络行为的指标数据满足所述指定网络行为对应的评定指标,则确定所述目标用户属于所述网络行为对应的类型。
2.根据权利要求1所述的方法,其特征在于,所述基于所述目标用户所属的类型以及所述目标用户的用户标签,对当前预设周期内,所述目标用户在所述目标平台上的网络行为进行控制,包括:
若所述目标用户所属的类型中包括目标类型,且所述目标用户的用户标签为目标标签,则基于所述目标用户所属的类型确定所述目标用户的平台使用限制时间以及所述目标用户的各项所述目标网络行为的触发次数上限;其中,所述目标类型包括所述活跃用户以及各项所述网络行为对应的类型;所述目标标签为用于表征存在不良网络行为的用户标签;
实时监测所述目标用户在所述当前预设周期内使用所述目标平台的时间,以及触发各项所述目标网络行为的次数;
当监测到所述目标用户在所述当前预设周期内使用所述目标平台的时间超过所述目标用户的平台使用限制时间时,强制所述目标用户退出所述目标平台;
若监测到所述目标用户触发任意一项所述目标网络行为的次数已超过所述目标网络行为的触发次数上限,则在所述当前预设周期内拒绝响应所述目标用户触发的所述目标网络行为。
3.根据权利要求2所述的方法,其特征在于,所述基于所述目标用户所属的类型确定所述目标用户的平台使用限制时间以及所述目标用户的各项所述目标网络行为的触发次数上限,包括:
从预先配置的信息中,查找出所述目标用户所属的各个类型对应的平台使用限制时间以及对应的各项所述目标网络行为的触发次数上限;
将查找出的各个所述类型对应的平台使用限制时间中的最小值,确定为所述目标用户的平台使用限制时间;
将查找出的各个所述类型对应的各项所述目标网络行为的触发次数上限中的最小值,分别确定为所述目标用户的各项所述目标网络行为的触发次数上限。
4.根据权利要求1所述的方法,其特征在于,所述将所述目标用户的各项所述目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到所述目标用户对应的对比结果之后,还包括:
基于所述目标用户对应的对比结果,判断所述目标用户存在不良网络行为的次数是否满足阈值;其中,判断出所述目标用户存在不良网络行为的次数不满足阈值,则执行所述基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
若判断出所述目标用户存在不良网络行为的次数满足阈值,则注销所述目标用户的账户,并禁止所述目标用户申请所述目标平台的账户;
将所述目标用户添加至全网社交平台黑名单中。
5.一种网络行为的控制装置,其特征在于,包括:
数据获取单元,用于获取目标用户在历史预设周期内在目标平台上的各项目标网络行为的指标数据;
类型确定单元,用于基于所述目标用户的各项所述目标网络行为的指标数据,确定所述目标用户所属的类型;
对比单元,用于将所述目标用户的各项所述目标网络行为所涉及的内容与预先构建的目标内容信息库进行对比,得到所述目标用户对应的对比结果;其中,所述目标内容信息库包括有预先分析得到的多个存在不良影响的内容;
标签设置单元,用于基于所述目标用户对应的对比结果,为所述目标用户设置用户标签;
控制单元,用于基于所述目标用户所属的类型以及所述目标用户的用户标签,对当前预设周期内,所述目标用户在所述目标平台上的网络行为进行控制;
其中,所述类型确定单元,包括:
计算单元,用于将所述目标用户的各项所述目标网络行为的指标数据进行加权,得到所述目标用户的活跃指数;
第一类型确定单元,用于基于所述目标用户的活跃指数,确定所述目标用户所属的活跃类型;其中,所述活跃类型包括活跃用户以及非活跃用户;
第一判断单元,用于分别针对各项所述目标网络行为中的各项指定网络行为,判断所述指定网络行为的指标数据是否满足所述指定网络行为对应的评定指标;
第二类型确定单元,用于在判断出所述指定网络行为的指标数据满足所述指定网络行为对应的评定指标时,确定所述目标用户属于所述网络行为对应的类型。
6.根据权利要求5所述的装置,其特征在于,所述控制单元,包括:
限制信息确定单元,用于在所述目标用户所属的类型中包括目标类型,且所述目标用户的用户标签为目标标签时,基于所述目标用户所属的类型确定所述目标用户的平台使用限制时间以及所述目标用户的各项所述目标网络行为的触发次数上限;其中,所述目标类型包括所述活跃用户以及各项所述网络行为对应的类型;所述目标标签为用于表征存在不良网络行为的用户标签;
监测单元,用于实时监测所述目标用户在所述当前预设周期内使用所述目标平台的时间,以及触发各项所述目标网络行为的次数;
下线单元,用于当监测到所述目标用户在所述当前预设周期内使用所述目标平台的时间超过所述目标用户的平台使用限制时间时,强制所述目标用户退出所述目标平台;
拒绝单元,用于在监测到所述目标用户触发任意一项所述目标网络行为的次数已超过所述目标网络行为的触发次数上限时,在所述当前预设周期内拒绝响应所述目标用户触发的所述目标网络行为。
7.一种电子设备,其特征在于,包括:
存储器和处理器;
其中,所述存储器用于存储程序;
所述处理器用于执行所述程序,所述程序被执行时,具体用于实现如权利要求1至4任意一项所述的网络行为的控制方法。
8.一种计算机存储介质,其特征在于,用于存储计算机程序,所述计算机程序被执行时,用于实现如权利要求1至4任意一项所述的网络行为的控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210752258.1A CN115134329B (zh) | 2022-06-29 | 2022-06-29 | 一种网络行为的控制方法及装置、电子设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210752258.1A CN115134329B (zh) | 2022-06-29 | 2022-06-29 | 一种网络行为的控制方法及装置、电子设备、存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115134329A CN115134329A (zh) | 2022-09-30 |
CN115134329B true CN115134329B (zh) | 2024-03-15 |
Family
ID=83379181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210752258.1A Active CN115134329B (zh) | 2022-06-29 | 2022-06-29 | 一种网络行为的控制方法及装置、电子设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115134329B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116975300B (zh) * | 2023-09-22 | 2024-01-26 | 中国铁塔股份有限公司吉林省分公司 | 基于大数据集合的信息挖掘方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102694673A (zh) * | 2011-03-25 | 2012-09-26 | 腾讯科技(深圳)有限公司 | 一种网络言论监控方法、设备及系统 |
CN103853848A (zh) * | 2014-03-27 | 2014-06-11 | 华为技术有限公司 | 一种社交监测子网构建的方法及装置 |
CN110995695A (zh) * | 2019-11-29 | 2020-04-10 | 字节跳动有限公司 | 异常账户检测方法及装置、电子设备及存储介质 |
CN112667706A (zh) * | 2020-12-23 | 2021-04-16 | 微梦创科网络科技(中国)有限公司 | 识别被盗账号的方法及装置 |
CN114077705A (zh) * | 2021-09-24 | 2022-02-22 | 中国科学院计算技术研究所 | 一种对社交平台上的媒体账号进行画像的方法和系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10956670B2 (en) * | 2018-03-03 | 2021-03-23 | Samurai Labs Sp. Z O.O. | System and method for detecting undesirable and potentially harmful online behavior |
-
2022
- 2022-06-29 CN CN202210752258.1A patent/CN115134329B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102694673A (zh) * | 2011-03-25 | 2012-09-26 | 腾讯科技(深圳)有限公司 | 一种网络言论监控方法、设备及系统 |
CN103853848A (zh) * | 2014-03-27 | 2014-06-11 | 华为技术有限公司 | 一种社交监测子网构建的方法及装置 |
CN110995695A (zh) * | 2019-11-29 | 2020-04-10 | 字节跳动有限公司 | 异常账户检测方法及装置、电子设备及存储介质 |
CN112667706A (zh) * | 2020-12-23 | 2021-04-16 | 微梦创科网络科技(中国)有限公司 | 识别被盗账号的方法及装置 |
CN114077705A (zh) * | 2021-09-24 | 2022-02-22 | 中国科学院计算技术研究所 | 一种对社交平台上的媒体账号进行画像的方法和系统 |
Non-Patent Citations (1)
Title |
---|
网络舆论表达"负面偏好"的生成机制及治理路径;李彪;人民论坛;20210620;102-105 * |
Also Published As
Publication number | Publication date |
---|---|
CN115134329A (zh) | 2022-09-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
McDonald‐Madden et al. | Making robust decisions for conservation with restricted money and knowledge | |
CA2747484C (en) | Time tracking technology | |
CN115134329B (zh) | 一种网络行为的控制方法及装置、电子设备、存储介质 | |
CN110519218B (zh) | 一种基于隐私泄露评估的隐私信息保护方法及系统 | |
CN110390529B (zh) | 交易智能路由方法、装置、设备及存储介质 | |
Poh et al. | Physical access log analysis: An unsupervised clustering approach for anomaly detection | |
CN110852602A (zh) | 基于机器学习的数据监控方法及装置 | |
CN113657536A (zh) | 基于人工智能的对象分类方法、装置 | |
CN106874423B (zh) | 搜索控制方法和系统 | |
CN112968796A (zh) | 网络安全态势感知方法、装置及计算机设备 | |
Bonafede et al. | Statistical models for business continuity management | |
US20220253727A1 (en) | Operational forecasting system based on anomalous behaviors in complex systems | |
CN115809384A (zh) | 网页更新方法、装置、计算机设备及计算机可读介质 | |
CN117252234B (zh) | 一种基于非合作博弈的策略生成方法及装置 | |
WO2022218001A1 (zh) | 视频分析方法及相关系统 | |
Bureš et al. | Targeting uncertainty in smart CPS by confidence-based logic | |
CN117579388B (zh) | 智能网联工控系统风险评估方法、系统、设备及介质 | |
CN115168844B (zh) | 基于数字化安全的档案信息处理方法及系统 | |
CN118133156A (zh) | 用于校园风险监控的物联网数据处理方法及系统 | |
RU2460122C1 (ru) | Система и способ повышения уровня защищенности компьютерной системы | |
CN115022173B (zh) | 一种服务扩容的方法、装置、设备及存储介质 | |
CN108227901B (zh) | 一种基于零星请求的磁盘功耗状态切换方法 | |
CN117555710A (zh) | 一种内存泄露的检测方法及装置 | |
CN117972525A (zh) | 事件处理方法、装置和处理器及电子设备 | |
CN115098373A (zh) | 测试问题单的处理方法及装置、电子设备、存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |