CN113849786A - 异常用户检测方法、装置、电子设备及存储介质 - Google Patents

异常用户检测方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113849786A
CN113849786A CN202110928234.2A CN202110928234A CN113849786A CN 113849786 A CN113849786 A CN 113849786A CN 202110928234 A CN202110928234 A CN 202110928234A CN 113849786 A CN113849786 A CN 113849786A
Authority
CN
China
Prior art keywords
user
detected
social
verification operation
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110928234.2A
Other languages
English (en)
Inventor
李立宇
李子兴
梁海龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Kugou Computer Technology Co Ltd
Original Assignee
Guangzhou Kugou Computer Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Kugou Computer Technology Co Ltd filed Critical Guangzhou Kugou Computer Technology Co Ltd
Priority to CN202110928234.2A priority Critical patent/CN113849786A/zh
Publication of CN113849786A publication Critical patent/CN113849786A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/01—Social networking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2133—Verifying human interaction, e.g., Captcha

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Computer Hardware Design (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明涉及信息处理技术领域，公开了一种异常用户检测方法、装置、电子设备及存储介质。所述异常用户检测方法包括：根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。本发明实现了提高社交平台上异常用户检测的准确率。

Description

异常用户检测方法、装置、电子设备及存储介质
技术领域
本发明涉及信息处理技术领域，尤其涉及一种异常用户检测方法、装置、电子设备及存储介质。
背景技术
目前，一些人通过在社交平台作弊来获得收益，比如以音乐平台为例，一些人通过在歌曲下作弊刷评论，在评论中发表一些广告等内容，而评论下有点赞社交行为，点赞会影响评论的排序，通过机器重复点赞等作弊行为来增加点赞量，从而使评论排序靠前，增加曝光度。因此，对社交平台上的用户是否作弊进行检测尤其重要。
通常，传统的反作弊系统一般是从简单维度去判断某用户是否作弊，比如基于用户的社交次数去判断用户是否作弊，又如基于社交对象聚集度去判断用户是否作弊。但是，随着作弊手段的升级，作弊隐藏度越来越深，从简单维度去判断用户是否作弊的准确率不高，也即对社交平台的异常用户不能准确判断出来。
因此，如何提高社交平台上异常用户检测的准确率成为亟待解决的问题。
发明内容
本发明的主要目的在于解决社交平台上异常用户检测的准确率不高的技术问题。
本发明第一方面提供了一种异常用户检测方法，所述异常用户检测方法包括：
根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。
可选的，在本发明第一方面的第一种实现方式中，所述根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户包括：
若所述社交操作数据中的社交次数大于次数阈值，则确定所述待检测用户为高频社交用户；或者
若所述社交操作数据中的社交频率大于频率阈值，则确定所述待检测用户为高频社交用户。
可选的，在本发明第一方面的第二种实现方式中，所述次数阈值设置为大量用户社交次数统计数据对应的N倍标准差，所述频率阈值设置为大量用户社交频率统计数据对应的N倍标准差，其中，N为大于或等于1的整数。
可选的，在本发明第一方面的第三种实现方式中，所述人机交互验证操作界面上显示有旋转滑块图标，所述在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据包括：
在检测到所述待检测用户对所述旋转滑块图标的旋转操作时，获取所述旋转操作对应的验证操作数据，所述验证操作数据包括旋转行为轨迹、用户终端的设备指纹、滑动行为轨迹。
可选的，在本发明第一方面的第四种实现方式中，所述若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面包括：
若所述待检测用户为高频社交用户，则向所述待检测用户下发所述待检测用户已社交过的至少一个社交对象，并在检测到所述待检测用户基于所述用户终端对所述社交对象的社交操作时，向所述用户终端下发显示所述人机交互验证操作界面。
可选的，在本发明第一方面的第五种实现方式中，所述检测结果包括所述待检测用户为异常用户的预测概率，若所述预测概率大于概率阈值，则确定所述待检测用户为异常用户，若所述预测概率小于或等于所述概率阈值，则确定所述待检测用户为正常用户。
可选的，在本发明第一方面的第六种实现方式中，所述将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果之后，还包括：
对异常用户执行安全监管处理，所述安全监管处理包括阻断处理、绑定账号处理、滑块验证处理。
可选的，在本发明第一方面的第七种实现方式中，所述根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户之前，还包括：
获取多个高频社交用户基于所述人机交互验证操作界面进行验证操作对应的验证操作数据；
根据所述多个高频社交用户对应的验证操作数据，对机器学习模型进行在线和/或离线训练，获得训练好的机器学习模型。
本发明第二方面提供了一种异常用户检测装置，所述异常用户检测装置包括：
处理模块，用于根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
交互模块，用于若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
获取模块，用于在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
检测模块，用于将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。
可选的，在本发明第二方面的第一种实现方式中，所述处理模块具体用于：
若所述社交操作数据中的社交次数大于次数阈值，则确定所述待检测用户为高频社交用户；或者
若所述社交操作数据中的社交频率大于频率阈值，则确定所述待检测用户为高频社交用户。
可选的，在本发明第二方面的第二种实现方式中，所述次数阈值设置为大量用户社交次数统计数据对应的N倍标准差，所述频率阈值设置为大量用户社交频率统计数据对应的N倍标准差，其中，N为大于或等于1的整数。
可选的，在本发明第二方面的第三种实现方式中，所述人机交互验证操作界面上显示有旋转滑块图标，所述获取模块具体用于：
在检测到所述待检测用户对所述旋转滑块图标的旋转操作时，获取所述旋转操作对应的验证操作数据，所述验证操作数据包括旋转行为轨迹、用户终端的设备指纹、滑动行为轨迹。
可选的，在本发明第二方面的第四种实现方式中，所述交互模块具体用于：
若所述待检测用户为高频社交用户，则向所述待检测用户下发所述待检测用户已社交过的至少一个社交对象，并在检测到所述待检测用户基于所述用户终端对所述社交对象的社交操作时，向所述用户终端下发显示所述人机交互验证操作界面。
可选的，在本发明第二方面的第五种实现方式中，所述检测结果包括所述待检测用户为异常用户的预测概率，若所述预测概率大于概率阈值，则确定所述待检测用户为异常用户，若所述预测概率小于或等于所述概率阈值，则确定所述待检测用户为正常用户。
可选的，在本发明第二方面的第六种实现方式中，所述异常用户检测装置还包括：
控制模块，用于对异常用户执行安全监管处理，所述安全监管处理包括阻断处理、绑定账号处理、滑块验证处理。
可选的，在本发明第二方面的第七种实现方式中，所述获取模块还用于：
获取多个高频社交用户基于所述人机交互验证操作界面进行验证操作对应的验证操作数据；
所述异常用户检测装置还包括：
模型训练模块，用于根据所述多个高频社交用户对应的验证操作数据，对机器学习模型进行在线和/或离线训练，获得训练好的机器学习模型。
本发明第三方面提供了一种电子设备，所述电子设备包括：存储器和至少一个处理器，所述存储器中存储有指令；
所述至少一个处理器调用所述存储器中的所述指令，以使得所述电子设备执行如上述任一项所述的异常用户检测方法。
本发明的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一项所述的异常用户检测方法。
本发明提供的技术方案中，对于社交平台上的待检测用户，通过根据待检测用户的社交操作数据，确定该待检测用户是否为高频社交用户，若确定为高频社交用户，则在检测到该待检测用户基于用户终端的社交操作时，向其用户终端下发显示人机交互验证操作界面，并在检测到待检测用户基于人机交互验证操作界面的验证操作时，获取该验证操作的验证操作数据，将获取的验证操作数据输入训练好的机器学习模型，对待检测用户进行异常检测，输出检测结果，也即实现从多维度去判断用户是否为异常用户，因此，提高了异常用户检测的准确率。
附图说明
图1为本发明实施例中异常用户检测方法的第一个实施例示意图；
图2为本发明实施例中人机交互验证操作界面上的旋转滑块旋转前示意图；
图3为本发明实施例中人机交互验证操作界面上的旋转滑块旋转后示意图；
图4为本发明实施例中异常用户检测方法的第二个实施例示意图；
图5为本发明实施例中判断用户是否为异常用户的流程图；
图6为本发明实施例中异常用户检测装置的第一个实施例示意图；
图7为本发明实施例中异常用户检测装置的第二个实施例示意图；
图8为本发明实施例中电子设备的一个实施例示意图。
具体实施方式
本发明实施例提供了一种异常用户检测方法、装置、电子设备及存储介质，本发明实施例对于社交平台上的待检测用户，通过根据待检测用户的社交操作数据，确定该待检测用户是否为高频社交用户，若确定为高频社交用户，则在检测到该待检测用户基于用户终端的社交操作时，向其用户终端下发显示人机交互验证操作界面，并在检测到待检测用户基于人机交互验证操作界面的验证操作时，获取该验证操作的验证操作数据，将获取的验证操作数据输入训练好的机器学习模型，对待检测用户进行异常检测，输出检测结果，也即实现从多维度去判断用户是否为异常用户，因此，提高了异常用户检测的准确率。本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”或“具有”及其任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
为便于理解，下面对本发明实施例的具体流程进行描述，本发明实施例提供的技术方案，各步骤的执行主体可以是电子设备。在一种可能的实现方式中，该电子设备可以是服务器。需要说明的是，在其他可能的实现方式中，该电子设备也可以是服务器以外的其他类型终端设备，本申请中不作具体限制。
请参阅图1，本发明实施例中异常用户检测方法的第一个实施例包括：
101、根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
其中，社交操作数据包括但不限于社交次数、社交频率、社交对象等。例如，以音乐APP(application，应用程序)为例，某待检测用户的社交操作数据包括对歌曲的点赞次数、评论次数、关注的用户对象、点赞频率、评论频率等。在用户每次进行社交操作时，记录相应的社交操作数据并保存。示例性的，对于待检测用户，通过查询获得该待检测用户的社交操作数据，并根据该社交操作数据，确定该待检测用户是否为高频社交用户，也即检测该待检测用户是否执行了高频的社交操作。
可选的，在一实施例中，上述步骤101具体包括：
若所述社交操作数据中的社交次数大于次数阈值，则确定所述待检测用户为高频社交用户；或者
若所述社交操作数据中的社交频率大于频率阈值，则确定所述待检测用户为高频社交用户。
例如，仍以音乐APP为例，通过获得待检测用户对歌曲的点赞次数、评论次数、点赞频率、评论频率等社交操作数据，若待检测用户对歌曲的点赞次数/评论次数大于次数阈值，则确定待检测用户为高频社交用户。或者，若待检测用户对歌曲的点赞频率/评论频率大于频率阈值，则确定待检测用户为高频社交用户。
若待检测用户的社交操作数据中的社交次数小于或等于次数阈值，则确定待检测用户为正常用户。或者，若待检测用户的社交操作数据中的社交频率小于或等于频率阈值，则确定该待检测用户为正常用户。
可选的，在一实施例中，次数阈值、频率阈值可以是大量用户社交统计数据对应的N倍标准差，其中，N为大于或等于1的整数，大量用户的社交统计数据符合高斯分布。例如，次数阈值设置为大量用户社交次数统计数据对应的N倍标准差，频率阈值设置为大量用户社交频率统计数据对应的N倍标准差。
可选的，次数阈值、频率阈值还可以是预先设置好的数值，可根据实际情况进行灵活设置，在此不作具体限制。
102、若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
若待检测用户是正常用户，则把社交交互界面显示于待检测用户的用户终端上，供待检测用户正常进行社交操作。
若待检测用户为高频社交用户，也即可能是异常用户，则进行进一步的检测处理。当检测到待检测用户基于用户终端的社交操作时，并不立即执行响应处理，而是向用户终端下发显示人机交互验证操作界面，以对该待检测用户进一步进行检测。待检测用户可以在人机交互验证操作界面上执行相应的验证操作。
其中，验证操作包括但不限于点击人机交互验证操作界面上指定的图片、字符，滑动人机交互验证操作界面上的滑块至指定位置，旋转人机交互验证操作界面上的滑块至指定位置、指定角度等。
可选的，在一实施例中，上述步骤102具体包括：
若所述待检测用户为高频社交用户，则向所述待检测用户下发所述待检测用户已社交过的至少一个社交对象，并在检测到所述待检测用户基于所述用户终端对所述社交对象的社交操作时，向所述用户终端下发显示所述人机交互验证操作界面。
例如，若确定待检测用户为高频社交用户，则向该待检测用户推荐其之前已经关注过的一个已关注用户，并在检测到待检测用户基于其用户终端对推荐的已关注用户的关注操作时，向用户终端下发显示人机交互验证操作界面。
103、在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
可选的，在一实施例中，人机交互验证操作界面上显示有旋转滑块图标，上述步骤103具体包括：
在检测到所述待检测用户对所述旋转滑块图标的旋转操作时，获取所述旋转操作对应的验证操作数据，所述验证操作数据包括旋转行为轨迹、用户终端的设备指纹、滑动行为轨迹。
区别于传统型滑块，旋转滑块具有难破解、滑块展示方式多、可采特征丰富等特点。例如，如图2所示，旋转滑块的模块1、2、3、4分别是滑块指针、底图、旋转片图、滑块对齐暗门模块。可选的，在用户展示时，可以只会展示模块2、3，用户根据认知，将模块2、3拼接到合适的位置。比如，把一个图案分成两部分，用户根据认知把图案的两部分通过旋转拼接好。而模块1、4就是判断拼接是否合理的标准，可选的，这部分判断可加密处理。
待检测用户可以对图2所示的旋转滑块图标执行相应的旋转操作，例如，旋转后的旋转滑块图标如图3所示。当检测到待检测用户对旋转滑块图标的旋转操作时，获取该旋转操作对应的验证操作数据。其中，验证操作数据包括但不限于旋转行为轨迹、用户终端的设备指纹、滑动行为轨迹、加密暗门等特征数据。
104、将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。
其中，机器学习模型可以为离线模型，或者为在线模型，或者为离线与在线的混合模型。离线模型会定期(比如N个月)对历史全量用户训练。在线模型对实时用户流式训练，可采用流式回归模型，可重点对近期作弊的用户建模。混合模型可结合离线模型和在线模型的结果进行加权计算。混合模型和在线模型的结果都会输出，作为用户是否作弊，也即是否为异常用户的判断标准。混合模型，相比于离线模型，更具有实时性，相比于在线模型，模型的准确率/召回率更高。
在使用机器学习模型之前，先对机器学习模型进行训练。可选的，在一实施例中，上述步骤101之前还包括：
获取多个高频社交用户基于所述人机交互验证操作界面进行验证操作对应的验证操作数据；
根据所述多个高频社交用户对应的验证操作数据，对机器学习模型进行在线和/或离线训练，获得训练好的机器学习模型。
例如，根据历史全量用户对应的社交操作数据，确定出其中的多个高频社交用户。并获取其中每个高频社交用户基于人机交互验证操作界面进行验证操作对应的验证操作数据。具体操作过程可参考上述的实施例中所述，在此不再赘述。基于多个高频社交用户对应的验证操作数据，输入机器学习模型进行离线训练，获得训练好的机器学习模型。
又如，实时获取一些用户的社交操作数据，以确定出当前的高频社交用户。并获取其中每个高频社交用户基于人机交互验证操作界面进行验证操作对应的验证操作数据。具体操作过程可参考上述的实施例中所述，在此不再赘述。基于实时获取的高频社交用户对应的验证操作数据，输入机器学习模型进行在线训练，获得训练好的机器学习模型。
又如，将上述离线训练好的机器学习模型和在线训练好的机器学习模型进行结合，获得相应的混合模型，作为最终使用的机器学习模型。
人机交互过程，可以增加收集用户机器维度，机器伪装成本大于用户伪装成本，且机器特征比用户特征多，所以采用人机交互收集验证操作数据对提升准确率/召回率是一大优势。
在获取到的待检测用户执行验证操作对应的验证操作数据后，将该验证操作数据输入训练好的机器学习模型，对待检测用户进行异常检测，输出检测结果。其中，检测结果包括待检测用户为异常用户的预测概率。
可选的，预先设置用于判断待检测用户是否为异常用户的概率阈值，该概率阈值可根据实际情况进行灵活设置，在此不作具体限制。若机器学习模型输出的预测概率大于概率阈值，则确定待检测用户为异常用户。反之，若机器学习模型输出的预测概率小于或等于概率阈值，则确定待检测用户为正常用户。
若待检测用户是正常用户，则把社交交互界面显示于待检测用户的用户终端上，例如，在社交平台对应的APP前端显示社交交互界面，供待检测用户正常进行社交操作。
本实施例中，对于社交平台上的待检测用户，通过根据待检测用户的社交操作数据，确定该待检测用户是否为高频社交用户，若确定为高频社交用户，则在检测到该待检测用户基于用户终端的社交操作时，向其用户终端下发显示人机交互验证操作界面，并在检测到待检测用户基于人机交互验证操作界面的验证操作时，获取该验证操作的验证操作数据，将获取的验证操作数据输入训练好的机器学习模型，对待检测用户进行异常检测，输出检测结果，也即实现从多维度去判断用户是否为异常用户，因此，提高了异常用户检测的准确率。
请参阅图4，本发明实施例中异常用户检测方法的第二个实施例包括：
201、根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
202、若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
203、在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
204、将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果；
205、对异常用户执行安全监管处理，所述安全监管处理包括阻断处理、绑定账号处理、滑块验证处理。
本实施例中，上述步骤201、202、203、204的说明参照第一实施例，本实施例不再进行赘述。下面具体对异常用户执行安全监管处理的实现过程进行说明。
也即，对检测出的异常用户，执行阻断处理、绑定账号处理、滑块验证处理等操作。
可选的，在一实施例中，根据机器学习模型输出的预测概率，配置异常用户的社交权限，其中不同的社交权限对应不同的安全监管处理操作。
例如，预先设置第一概率阈值、第二概率阈值。其中，第一概率阈值大于第二概率阈值。
当机器学习模型输出的预测概率大于或等于第一概率阈值时，直接对用户执行阻断处理，不响应用户的社交操作。当机器学习模型输出的预测概率小于第一概率阈值且大于第二概率阈值时，对用户执行绑定账号处理，例如，向用户终端下发绑定账号设置界面，以供用户基于绑定账号设置界面执行电话号码绑定操作、QQ账号绑定操作、微信账号绑定操作等。只有绑定账号成功后，才允许用户正常进行社交操作。当机器学习模型输出的预测概率小于或等于第二概率阈值时，对用户执行滑块验证处理，例如，向用户终端下发滑块验证操作界面，以供用户基于滑块验证操作界面执行验证操作。只有验证通过后，才允许用户正常进行社交操作。
为了减少用户的误杀，也即把正常用户误判为异常用户，可以把第一概率阈值调高，这时召回的就是真实的异常用户，可以直接做阻断处理。
示例性的，如图5所示，判断用户是否为异常用户的流程如下：
步骤(a)、根据用户的社交操作数据，确定用户是否为高频社交用户；若是，则执行步骤(b)；若否，则执行步骤(f)；
步骤(b)、向用户下发用户最近已社交过的社交对象；
步骤(c)、进行旋转滑块验证，基于用户的旋转滑块验证操作，获取对应的验证操作数据；
步骤(d)、验证操作数据输入机器学习模型，输出预测概率，预测概率超过阈值，用户为异常用户，执行步骤(e)；预测概率未超过阈值，用户为正常用户，执行步骤(f)；
步骤(e)、执行阻断、绑定账号、滑块验证等处理；
步骤(f)、APP前端显示社交交互界面，供用户正常进行社交操作。
本实施例中，通过对检测的异常用户执行阻断处理、绑定账号处理、滑块验证处理等操作，实现对异常用户执行监管，限制异常用户的作弊行为，从而提高正常用户的社交体验。
上面对本发明实施例中异常用户检测方法进行了描述，下面对本发明实施例中异常用户检测装置进行描述，请参阅图6，本发明实施例中异常用户检测装置第一个实施例包括：
处理模块301，用于根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
交互模块302，用于若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
获取模块303，用于在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
检测模块304，用于将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。
可选的，在一实施例中，所述处理模块301具体用于：
若所述社交操作数据中的社交次数大于次数阈值，则确定所述待检测用户为高频社交用户；或者
若所述社交操作数据中的社交频率大于频率阈值，则确定所述待检测用户为高频社交用户。
可选的，在一实施例中，所述次数阈值设置为大量用户社交次数统计数据对应的N倍标准差，所述频率阈值设置为大量用户社交频率统计数据对应的N倍标准差，其中，N为大于或等于1的整数。
可选的，在一实施例中，所述人机交互验证操作界面上显示有旋转滑块图标，所述获取模块303具体用于：
在检测到所述待检测用户对所述旋转滑块图标的旋转操作时，获取所述旋转操作对应的验证操作数据，所述验证操作数据包括旋转行为轨迹、用户终端的设备指纹、滑动行为轨迹。
可选的，在一实施例中，所述交互模块302具体用于：
若所述待检测用户为高频社交用户，则向所述待检测用户下发所述待检测用户已社交过的至少一个社交对象，并在检测到所述待检测用户基于所述用户终端对所述社交对象的社交操作时，向所述用户终端下发显示所述人机交互验证操作界面。
可选的，在一实施例中，所述检测结果包括所述待检测用户为异常用户的预测概率，若所述预测概率大于概率阈值，则确定所述待检测用户为异常用户，若所述预测概率小于或等于所述概率阈值，则确定所述待检测用户为正常用户。
可选的，在一实施例中，所述异常用户检测装置还包括：
控制模块，用于对异常用户执行安全监管处理，所述安全监管处理包括阻断处理、绑定账号处理、滑块验证处理。
可选的，在一实施例中，所述获取模块303还用于：
获取多个高频社交用户基于所述人机交互验证操作界面进行验证操作对应的验证操作数据；
所述异常用户检测装置还包括：
模型训练模块，用于根据所述多个高频社交用户对应的验证操作数据，对机器学习模型进行在线和/或离线训练，获得训练好的机器学习模型。
本实施例中，对于社交平台上的待检测用户，通过根据待检测用户的社交操作数据，确定该待检测用户是否为高频社交用户，若确定为高频社交用户，则在检测到该待检测用户基于用户终端的社交操作时，向其用户终端下发显示人机交互验证操作界面，并在检测到待检测用户基于人机交互验证操作界面的验证操作时，获取该验证操作的验证操作数据，将获取的验证操作数据输入训练好的机器学习模型，对待检测用户进行异常检测，输出检测结果，也即实现从多维度去判断用户是否为异常用户，因此，提高了异常用户检测的准确率。
请参阅图7，本发明实施例中异常用户检测装置的第二个实施例中，与第一个实施例中的异常用户检测装置相比，该异常用户检测装置，还包括：
控制模块305，用于对异常用户执行安全监管处理，所述安全监管处理包括阻断处理、绑定账号处理、滑块验证处理。
本实施例中，通过对检测的异常用户执行阻断处理、绑定账号处理、滑块验证处理等操作，实现对异常用户执行监管，限制异常用户的作弊行为，从而提高正常用户的社交体验。
上面图6和图7从模块化功能实体的角度对本发明实施例中的异常用户检测装置进行详细描述，下面从硬件处理的角度对本发明实施例中电子设备进行详细描述。
图8是本发明实施例提供的一种电子设备的结构示意图，该电子设备800可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上处理器(central processingunits，CPU)810(例如，一个或一个以上处理器)和存储器820，一个或一个以上存储应用程序833或数据832的存储介质830(例如一个或一个以上海量存储设备)。其中，存储器820和存储介质830可以是短暂存储或持久存储。存储在存储介质830的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对电子设备800中的一系列指令操作。更进一步地，处理器810可以设置为与存储介质830通信，在电子设备800上执行存储介质830中的一系列指令操作。
电子设备800还可以包括一个或一个以上电源840，一个或一个以上有线或无线网络接口850，一个或一个以上输入输出接口860，和/或，一个或一个以上操作系统831，例如Android、Windows Serve，Mac OS X，Unix，Linux，FreeBSD等等。本领域技术人员可以理解，图8示出的电子设备结构并不构成对电子设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
本发明还提供一种电子设备，所述电子设备包括存储器和处理器，存储器中存储有计算机可读指令，计算机可读指令被处理器执行时，使得处理器执行上述各实施例中的所述异常用户检测方法的步骤。
本发明还提供一种计算机可读存储介质，该计算机可读存储介质可以为非易失性计算机可读存储介质，该计算机可读存储介质也可以为易失性计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在计算机上运行时，使得计算机执行所述异常用户检测方法的步骤。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (11)

1.一种异常用户检测方法，其特征在于，包括：
根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。
2.根据权利要求1所述的异常用户检测方法，其特征在于，所述根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户包括：
若所述社交操作数据中的社交次数大于次数阈值，则确定所述待检测用户为高频社交用户；或者
若所述社交操作数据中的社交频率大于频率阈值，则确定所述待检测用户为高频社交用户。
3.根据权利要求2所述的异常用户检测方法，其特征在于，所述次数阈值设置为大量用户社交次数统计数据对应的N倍标准差，所述频率阈值设置为大量用户社交频率统计数据对应的N倍标准差，其中，N为大于或等于1的整数。
4.根据权利要求1所述的异常用户检测方法，其特征在于，所述人机交互验证操作界面上显示有旋转滑块图标，所述在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据包括：
在检测到所述待检测用户对所述旋转滑块图标的旋转操作时，获取所述旋转操作对应的验证操作数据，所述验证操作数据包括旋转行为轨迹、用户终端的设备指纹、滑动行为轨迹。
5.根据权利要求1所述的异常用户检测方法，其特征在于，所述若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面包括：
若所述待检测用户为高频社交用户，则向所述待检测用户下发所述待检测用户已社交过的至少一个社交对象，并在检测到所述待检测用户基于所述用户终端对所述社交对象的社交操作时，向所述用户终端下发显示所述人机交互验证操作界面。
6.根据权利要求1所述的异常用户检测方法，其特征在于，所述检测结果包括所述待检测用户为异常用户的预测概率，若所述预测概率大于概率阈值，则确定所述待检测用户为异常用户，若所述预测概率小于或等于所述概率阈值，则确定所述待检测用户为正常用户。
7.根据权利要求1所述的异常用户检测方法，其特征在于，所述将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果之后，还包括：
对异常用户执行安全监管处理，所述安全监管处理包括阻断处理、绑定账号处理、滑块验证处理。
8.根据权利要求1-7中任一项所述的异常用户检测方法，其特征在于，所述根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户之前，还包括：
获取多个高频社交用户基于所述人机交互验证操作界面进行验证操作对应的验证操作数据；
根据所述多个高频社交用户对应的验证操作数据，对机器学习模型进行在线和/或离线训练，获得训练好的机器学习模型。
9.一种异常用户检测装置，其特征在于，所述异常用户检测装置包括：
处理模块，用于根据待检测用户的社交操作数据，确定所述待检测用户是否为高频社交用户；
交互模块，用于若所述待检测用户为高频社交用户，则在检测到所述待检测用户基于用户终端的社交操作时，向所述用户终端下发显示人机交互验证操作界面；
获取模块，用于在检测到所述待检测用户基于所述人机交互验证操作界面的验证操作时，获取所述验证操作的验证操作数据；
检测模块，用于将所述验证操作数据输入训练好的机器学习模型，对所述待检测用户进行异常检测，输出检测结果。
10.一种电子设备，其特征在于，所述电子设备包括：存储器和至少一个处理器，所述存储器中存储有指令；
所述至少一个处理器调用所述存储器中的所述指令，以使得所述电子设备执行如权利要求1-8中任一项所述的异常用户检测方法。
11.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-8中任一项所述的异常用户检测方法。
CN202110928234.2A 2021-08-13 2021-08-13 异常用户检测方法、装置、电子设备及存储介质 Pending CN113849786A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110928234.2A CN113849786A (zh) 2021-08-13 2021-08-13 异常用户检测方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110928234.2A CN113849786A (zh) 2021-08-13 2021-08-13 异常用户检测方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN113849786A true CN113849786A (zh) 2021-12-28

Family

ID=78975385

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110928234.2A Pending CN113849786A (zh) 2021-08-13 2021-08-13 异常用户检测方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113849786A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116260715A (zh) * 2023-05-09 2023-06-13 广东卓柏信息科技有限公司 基于大数据的账号安全预警方法、装置、介质及计算设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107665301A (zh) * 2016-07-28 2018-02-06 腾讯科技（深圳）有限公司 验证方法及装置
CN108804885A (zh) * 2017-05-03 2018-11-13 阿里巴巴集团控股有限公司 人机验证方法和装置、存储介质及处理器
CN109034661A (zh) * 2018-08-28 2018-12-18 腾讯科技（深圳）有限公司 用户识别方法、装置、服务器以及存储介质
CN110019954A (zh) * 2017-12-13 2019-07-16 优酷网络技术（北京）有限公司 一种作弊用户的识别方法及系统
CN111064745A (zh) * 2019-12-30 2020-04-24 厦门市美亚柏科信息股份有限公司 一种基于异常行为探测的自适应反爬方法和系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107665301A (zh) * 2016-07-28 2018-02-06 腾讯科技（深圳）有限公司 验证方法及装置
CN108804885A (zh) * 2017-05-03 2018-11-13 阿里巴巴集团控股有限公司 人机验证方法和装置、存储介质及处理器
CN110019954A (zh) * 2017-12-13 2019-07-16 优酷网络技术（北京）有限公司 一种作弊用户的识别方法及系统
CN109034661A (zh) * 2018-08-28 2018-12-18 腾讯科技（深圳）有限公司 用户识别方法、装置、服务器以及存储介质
CN111064745A (zh) * 2019-12-30 2020-04-24 厦门市美亚柏科信息股份有限公司 一种基于异常行为探测的自适应反爬方法和系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
袁丽欣: ""社交网络异常用户检测技术研究"", 《中国优秀硕士学位论文全文数据库社会科学Ⅰ辑(月刊)》, no. 09, 15 September 2019 (2019-09-15), pages 113 - 291 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116260715A (zh) * 2023-05-09 2023-06-13 广东卓柏信息科技有限公司 基于大数据的账号安全预警方法、装置、介质及计算设备
CN116260715B (zh) * 2023-05-09 2023-09-01 国品优选(北京)品牌管理有限公司 基于大数据的账号安全预警方法、装置、介质及计算设备

Similar Documents

Publication Publication Date Title
CN111082966B (zh) 基于批量告警事件的定位方法、装置、电子设备及介质
EP3286679B1 (en) Method and system for identifying a human or machine
WO2019153604A1 (zh) 人机识别模型的建立装置、方法及计算机可读存储介质
US11436548B2 (en) Identifying workers in a crowdsourcing or microtasking platform who perform low-quality work and/or are really automated bots
US20130111019A1 (en) User behavior analyzer
WO2008041915A2 (en) Security system and method for detecting intrusion in a computerized system
CN107281755A (zh) 检测模型的构建方法、装置、储存介质、处理器和终端
CN109933503A (zh) 用户操作风险系数确定方法、装置及存储介质、服务器
CN110659807B (zh) 一种基于链路的风险用户识别方法及装置
EP3230920A1 (en) Method for recognizing if a user of an electronic terminal is a human or a robot
CN113496017B (zh) 验证方法、装置、设备和存储介质
CN112330355A (zh) 消费券交易数据处理方法、装置、设备及存储介质
Lai et al. Accelerated multiple alarm flood sequence alignment for abnormality pattern mining
CN113849786A (zh) 异常用户检测方法、装置、电子设备及存储介质
CN111698302A (zh) 数据预警方法、装置、电子设备及介质
CN114047710A (zh) 智能家居数据分析方法、装置、终端设备以及存储介质
CN107220530B (zh) 基于用户业务行为分析的图灵测试方法及系统
Jannach et al. Adaptive recommendation-based modeling support for data analysis workflows
CN108460269A (zh) 验证方法及装置、验证终端设备
CN115037790B (zh) 异常注册识别方法、装置、设备及存储介质
CN111191999A (zh) 产品研发管理方法、装置、计算机设备及存储介质
KR20180052243A (ko) 클릭 로그 데이터를 이용하여 이상 사용자를 검출하는 방법 및 장치
CN116383622A (zh) 感知信息的标注、检测模型的评测方法、装置及存储介质
Li et al. Detecting financial market manipulation with statistical physics tools
CN111815442B (zh) 一种链接预测的方法、装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination