CN112199640B - 异常用户审核方法、装置、电子设备和存储介质 - Google Patents

异常用户审核方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN112199640B
CN112199640B CN202011066006.0A CN202011066006A CN112199640B CN 112199640 B CN112199640 B CN 112199640B CN 202011066006 A CN202011066006 A CN 202011066006A CN 112199640 B CN112199640 B CN 112199640B
Authority
CN
China
Prior art keywords
user
users
abnormal
checked
normal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011066006.0A
Other languages
English (en)
Other versions
CN112199640A (zh
Inventor
李益永
黄秋实
孙准
井雪
项伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Baiguoyuan Information Technology Co Ltd
Original Assignee
Guangzhou Baiguoyuan Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Baiguoyuan Information Technology Co Ltd filed Critical Guangzhou Baiguoyuan Information Technology Co Ltd
Priority to CN202011066006.0A priority Critical patent/CN112199640B/zh
Publication of CN112199640A publication Critical patent/CN112199640A/zh
Priority to EP21874154.4A priority patent/EP4198775A4/en
Priority to US18/245,653 priority patent/US20230336637A1/en
Priority to PCT/CN2021/115230 priority patent/WO2022068493A1/zh
Application granted granted Critical
Publication of CN112199640B publication Critical patent/CN112199640B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/535—Tracking the activity of the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9536—Search customisation based on social or collaborative filtering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2465—Query processing support for facilitating data mining operations in structured databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/906—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/01—Social networking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/1396—Protocols specially adapted for monitoring users' activity

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Algebra (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Operations Research (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • Signal Processing (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Computing Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Computer Hardware Design (AREA)
  • Fuzzy Systems (AREA)
  • Computational Linguistics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明实施例公开了一种异常用户审核方法、装置、电子设备和存储介质，包括：获取多个待审核用户的、包含待审核用户之间互动所形成的历史行为数据；针对每个待审核用户从历史行为数据中提取多个预设有效特征；根据多个有效特征关联的事件的预设概率计算待审核用户为异常用户的概率；采用所有待审核用户为异常用户的概率建立总概率函数；以预设条件为约束对总概率函数求解最大值以确定出候选用户，对候选用户进行审核得到异常用户。能够在数据信号不准确时从历史行为数据中提取有效特征，并将有效特征转换为关联事件的概率来建立总概率函数整体求解目标异常用户，从整体求解异常用户，用户之间的行为和分类结果相互影响，能够准确审核出异常用户。

Description

异常用户审核方法、装置、电子设备和存储介质
技术领域
本发明实施例涉及内容审核技术领域，尤其涉及一种异常用户审核方法、装置、电子设备和存储介质。
背景技术
随着互联网技术发展，各种视频平台进入人们的日常生活中，人们可以通过短视频、直播等视频平台观看视频或者上传视频，然而，由于用户的多样性以及为了维护健康的网络环境需求，需要对用户进行审核以确定用户是否为异常用户。
在对用户进行审核中，为了保护未成年人，需要从大量用户中检测出异常用户进行惩罚，然而，数据存在信号不准确的问题，如无法确定一个视频是否为禁止未成年观看的视频，另外，异常用户具有对抗行为，如异常用户之间会产生互相关注、点赞等互动行为，通过互相关注实现通风报信来避免被检测，或者使用异常用户之间才可以理解的违规文字的变形词、甚至创造异常用户之间专用的异常词汇来避免被检测，造成无法提取与异常用户相关的有效特征来检测异常用户。
再者，现有对用户进行分类的方法是输入一个用户的特征得到该用户的分类，该用户的行为、分类结果不会影响其他用户的分类结果，也不会受其他用户的行为和分类结果所影响，现有对用户分类的算法无法结合异常用户之间的互动行为来动态求解用户是否为异常用户。
综上所述，现有技术由于信号不准确、异常用户具有对抗行为无法提取有效特征，并且现有算法对单一用户分类无法利用异常用户之间的互动行为，最终导致无法有效准确地对异常用户进行审核、惩罚。
发明内容
本发明实施例提供一种异常用户审核方法、装置、电子设备和存储介质，以解决现有技术中由于信号不准确、无法提取有效特征以及现有算法对单一用户分类无法利用异常用户之间的互动行为，导致无法有效、准确地对异常用户进行审核的问题。
第一方面，本发明实施例提供了一种异常用户审核方法，包括：
获取多个待审核用户的历史行为数据，所述历史行为数据包括待审核用户之间互动所形成的行为数据；
针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征，所述预设有效特征为预先设置的样本数据中的特征
根据多个所述预设有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率；
采用所有待审核用户为异常用户的概率建立总概率函数；
以预设条件为约束对所述总概率函数求解最大值以确定出候选用户；对所述候选用户进行审核得到异常用户。
第二方面，本发明实施例提供了一种异常用户审核装置，包括：
历史行为数据获取模块，用于获取多个待审核用户的历史行为数据，所述历史行为数据包括待审核用户之间互动所形成的行为数据；
特征提取模块，用于针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征，所述预设有效特征为预先设置的样本数据中的特征；
用户概率计算模块，用于根据多个所述预设有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率；
总概率函数建立模块，用于采用所有待审核用户为异常用户的概率建立总概率函数；
总概率函数求解模块，用于以预设条件为约束对所述总概率函数求解最大值以确定出候选用户；
审核模块，用于对所述候选用户进行审核得到异常用户。
第三方面，本发明实施例提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任一实施例所述的异常用户审核方法。
第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任一实施例所述的异常用户审核方法。
本发明实施例中，待审核用户的历史行为数据待审核用户之间的互动行为所形成的数据，通过样本数据设置有效特征后，通过历史行为数据提取有效特征计算待审核用户为异常用户的概率，并采用所有待审核用户为异常用户的概率构建总概率函数，以预设约束条件求解该总概率函数的最大值得到候选用户，对候选用户进行审核得到异常用户，一方面，通过样本数据预先设置有效特征，从历史行为数据中提取有效特征并转换为有效特征关联的事件的概率，实现了利用待审核用户之间的互动所形成的历史数据提取出用于异常用户审核的有效特征，并将特征计算进一步转换为概率计算，解决了数据信号不准确影响异常用户审核准确度的问题，另一方面，通过构建总概率函数对所有待审核用户进行整体求解确定出候选用户，既利用了待审核用户之间的互动行为，又使得待审核用户的分类结果相互影响，能够准确确定出后候选用户进行审核。
附图说明
图1是本发明实施例一提供的一种异常用户审核方法的步骤流程图；
图2是本发明实施例二提供的一种异常用户审核方法的步骤流程图；
图3是本发明实施例三提供的一种异常用户审核装置的结构框图；
图4是本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互结合。
实施例一
图1为本发明实施例一提供的一种异常用户审核方法的步骤流程图，本发明实施例可适用于对异常用户进行审核以检测出违规用户的情况，该方法可以由本发明实施例的异常用户审核装置来执行，该异常用户审核装置可以由硬件或软件来实现，并集成在本发明实施例所提供的电子设备中，具体地，如图1所示，本发明实施例的异常用户审核方法可以包括如下步骤：
S101、获取多个待审核用户的历史行为数据，所述历史行为数据包括待审核用户之间互动所形成的行为数据。
在本发明实施例中，异常用户包括各种违规行为的用户，本发明实施例用以说明异常用户审核方法。待审核用户可以是短视频、直播平台上的用户，待审核用户可以是指定的部分用户，也可以是全部用户。
历史行为数据可以包括待审核用户在短视频、直播平台上的行为所形成的数据，如记录用户观看的视频、点赞的视频、评论、关注其他用户等所形成的数据，历史行为数据还可以包括其他用户针对待审核用户的行为所形成的数据，如其他用户关注了待审核用户，点赞、观看、评论了待审核用户发布的视频、评论等数据。当然，历史行为数据还可以包括待审核用户的信息，例如待审核用户的用户标识(uid)、性别等。
在实际应用中，可以在短视频、直播平台设置数据埋点，通过数据埋点采集待审核用户的历史行为数据，当然还可以通过其他诸如用户日志等获取待审核用户的历史行为数据，本发明实施例对获取历史行为数据的方式不加以限制。
S102、针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征，所述预设有效特征为预先设置的样本数据中的特征。
在本发明实施例，可以先确定指定数量的样本用户，样本用户可以是标注了正常用户标签和异常用户标签的用户，在确定指定数量的样本用户后，获取样本用户的历史行为数据，从样本历史行为数据提取行为特征，并确定行为特征的有效性，在行为特征有效时该行为特征作为有效特征，并确定有效特征关联的事件，通过统计学算法计算有效特征关联的事件发生时一个用户为异常用户的概率作为预设概率，最终得到包括多个有效特征，多个有效特征关联的事件的概率的样本数据。需要说明的是，当对待审核用户进行审核确定出异常用户和正常用户后，可以将审核后的用户作为样本用户来更新样本数据。
具体到本发明实施例，有效特征可以是待审核用户的评论中包含与未成年有关的违禁词，待审核用户点赞、评论、观看的视频为未成年为主体的违规视频、待审核用户发布的视频为未成年为主体的违规视频等，则可以从待审核用户的评论、观看、点赞、发布等行为数据中提取相应的预设有效特征。
S103、根据多个所述预设有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率。
在本发明实施例中，样本数据包括多个预设有效特征以及预设有效特征关联的事件的预设概率，对于每个待审核用户，提取多个预设有效特征后，可以对多个预设有效特征关联的事件的预设概率求和得到待审核用户为异常用户的概率。
S104、采用所有待审核用户为异常用户的概率建立总概率函数。
具体地，总概率函数为所有待审核用户为异常用户的概率的和值，对于总概率函数，当待审核用户由异常用户变为正常用户，或者由正常用户变为异常用户时，总概率函数的函数值发生变化。
S105、以预设条件为约束对所述总概率函数求解最大值以确定目标异常用户。
在实际应用中，通过样本用户进行统计计算后，可以计算出指定数量的样本用户中异常用户的比例，通过该比例与所有待审核用户的总数量做乘法运算得到所有待审核用户中异常用户的数量，同时可设置召回率，计算召回率与所有待审核用户的总数量的乘积，则可以设置约束条件为：总概率函数的函数值最大时，候选用户的数量大于召回率与所有待审核用户的总数量的乘积，并且小于所有待审核用户中异常用户的数量。
在上述约束条件下，可以先将待审核用户初步划分到异常用户集合和正常用户集合中，并假设异常用户集合中的待审核用户为异常用户，假设正常用户集合中的待审核用户为正常用户，基于该初步划分的异常用户集合和正常用户集合计算总概率函数的第一函数值。
随后遍历正常用户集合以将正常用户集合中当前遍历到的第一待审核用户作为异常用户，在每次遍历正常用户集合后，遍历异常用户集合以将异常用户集合中当前遍历到的第二待审核用户作为正常用户，在每次遍历异常用户集合后，基于当前的异常用户集合和正常用户集合计算总概率函数的函数值得到多个第二函数值，从多个第二函数值中确定出最小第二函数值，在最小第二函数值大于第一函数值时，在异常用户集合中确定出最小第二函数值对应的第二待审核用户，将最小第二函数值对应的第二待审核用户确定为正常用户，并移到所述正常用户集合中，以及将当前遍历到的第一待审核用户确定为异常用户，并从正常用户集合移到异常用户集合中，返回遍历正常用户集合以将正常用户集合中当前遍历到的第一待审核用户作为异常用户的步骤，直到遍历完正常用户集合，异常用户集合中待审核用户的数量小于所有待审核用户中异常用户的总数量，并且大于总数量与召回率的乘积，其中，总数量为异常用户的预设比例与所有待审核用户的数量的乘积，最终的异常用户集合中的待审核用户即为候选用户。
S106、对所述候选用户进行审核得到异常用户。
在确定出候选用户后，可以将候选用户的用户标识发送到审核后台，在审核后台对候选用户进行人工审核获得异常用户。
本发明实施例中待审核用户的历史行为数据待审核用户之间的互动行为所形成的数据，通过样本数据设置有效特征后，通过历史行为数据提取有效特征计算待审核用户为异常用户的概率，并采用所有待审核用户为异常用户的概率构建总概率函数，以预设约束条件求解该总概率函数的最大值得到候选用户，对候选用户进行审核得到异常用户，一方面，通过样本数据预先设置有效特征，从历史行为数据中提取有效特征并转换为有效特征关联的事件的概率，实现了利用待审核用户之间的互动所形成的历史数据提取出用于异常用户审核的有效特征，并将特征计算进一步转换为概率计算，解决了数据信号不准确影响异常用户审核准确度的问题，另一方面，通过构建总概率函数对所有待审核用户进行整体求解确定出候选用户，既利用了待审核用户之间的互动行为，又使得待审核用户的分类结果相互影响，能够准确确定出后候选用户进行审核。
实施例二
图2为本发明实施例二提供的一种异常用户审核方法的步骤流程图，本发明实施例在前述实施例一的基础上进行优化，具体地，如图2所示，本发明实施例的异常用户审核方法可以包括如下步骤：
S201、获取样本数据，所述样本数据包括有效特征、所述有效特征关联的事件发生时用户为异常用户的预设概率。
在本发明实施例中，可以通过统计学预先设置样本数据，该样本数据包括有效特征、有效特征关联的事件发生时用户为异常用户的预设概率，在一个示例中，可以获取指定数量(如1000)的样本用户的历史行为数据，其中，样本用户为标注了异常用户标签和正常用户标签的用户，然后从样本用户的历史行为数据中提取多个有效特征，并计算有效特征关联的事件发生时样本用户为异常用户的概率作为预设概率。
其中，在提取有效特征时，可以先从样本用户的历史行为数据中提取多个行为特征，针对每个行为特征，获取具有该行为特征的样本用户为异常用户的第一用户数量，以及获取具有该行为特征的样本用户为正常用户的第二用户数量，获取指定数量的样本用户中异常用户的第三用户数量和正常用户的第四用户数量，计算第一用户数量与第三用户数量的第一比值，以及计算第二数量与第四数量的第二比值，进一步计算第一比值和第二比值的差值的绝对值，在绝对值大于预设阈值时确定行为特征为有效特征。
在一个示例中，对异常用户进行审核以确定出违规用户，假设从所有样本用户的历史行为数据中提取出N个行为特征，其中一个行为特征B为用户的评论中包含的违禁词，指定数量的样本用户中具有行为特征B的违规用户在所有违规用户中占比为P_1，指定数量的样本用户中具有行为特征B的正常用户在所有正常用户中占比为P_2，如果|P_1-P_2|>d(d为阈值，可设为0.02)，说明行为特征B具有区分性，则认为行为特征B有效，将行为特征B作为预设有效特征，同理，遍历N个行为特征，可以得到多个有效特征和有效特征关联的事件的概率，在一个示例中，多个有效特征关联的事件如下：
事件A0：用户是异常用户；
事件A1：用户点赞主体为未成年的违规视频
事件A2：用户发送的评论中包含违禁词
事件A3：用户关注了异常用户的账号
事件A4：用户被异常用户账号关注
事件A5：用户观看了主体为未成年的违规视频
事件A6：用户分享了主体为未成年的违规视频
事件A7：用户的点赞视频数除以发布视频数大于30
事件A8：用户的点赞的视频数除以发布视频数小于30
事件A9：用户评论了主体为未成年的违规视频
事件A10：用户为男性
事件A11：用户为女性
事件A12：用户性别为NULL
事件Ac表示事件A不发生
如果每个待审核用户的历史行为数据均包括上述事件，则待审核用户总共有28×3＝768个事件，记为Bj，1≤j≤768，则每个事件下待审核用户为异常用户的概率为P(A0|An)，P(A0|An)为待审核用户的历史行为数据中包含事件An时，待审核用户为异常用户的概率，如上述事件示例中，P(A0|A6)＝0.015表示待审核用户分享了主体为未成年的违规视频时该待审核用户是异常用户的概率为1.5％，由于样本用户的数量为指定数量，并且可以从所有样本用户的历史行为数据中统计各个事件发生的数量，进而可以对样本用户的历史行为数据进行统计分析计算出各个事件发生时样本用户为异常用户的概率，本发明实施例对各个事件发生时样本用户为异常用户的概率不再详述。
当然，在实际应用中，还可以提取更多的有效特征和设置更多的事件，本发明实施对有效特征和事件的数量、内容均不加以限制。
本发明实施例对样本用户的历史行为数据提取行为特征并确定出有效特征，可以针对违规行为设置有效特征来审核出异常用户，解决了现在技术中异常用户具有对抗行为，异常用户使用异常用户之间才可以理解的违规文字的变形词、甚至创造异常用户之间专用的异常词汇来避免被检测，造成无法提取与异常用户相关的有效特征来检测异常用户，可以针对异常用户设置有效特征来检测出异常用户，提高了异常用户检测的准确度。
S202、从各个平台的埋点获取多个待审核用户的历史行为数据。
具体地，可以在短视频、直播平台设置数据埋点，通过数据埋点采集待审核用户的历史行为数据，其中，历史行为数据可以包括用户性别、用户点赞的视频、用户的评论、用户关注的账户、用户被关注的账户、用户分享的视频、用户点赞视频的数量、用户发布视频的数量中的至少一种，当然，还可以包括其他行为数据。
S203、针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征。
通过样本用户确定样本数据后，该样本数据包括了用于异常用户审核的预设有效特征，可以从每个待审核用户的历史行为数据中提取相应的预设有效特征。
S204、对多个所述预设有效特征关联的事件的预设概率求和得到所述待审核用户为异常用户的概率。
通过样本用户确定样本数据中包括的每个预设有效特征关联的事件的预设概率后，对于每个待审核用户，可以将该待审核用户的多个预设有效特征关联的事件的预设概率求和，得到每个待审核用户为异常用户的概率。
S205、采用所有待审核用户为异常用户的概率建立总概率函数。
具体地，对所有待审核用户为异常用户的概率求和得到总概率函数，对于该总概率函数，其中的某个待审核用户由异常用户变为正常用户，或者由正常用户变为异常用户时，该待审核用户为异常用户的概率发生变化，则总概率函数的函数值也发生变化。
S206、初始化异常用户集合和正常用户集合以将多个所述待审核用户划分到异常用户集合和正常用户集合中。
在一个可选实施例中，可以将所有待审核用户作为正常用户，对总概率函数求解最大值时得到的待审核用户的集合作为异常用户集合，将所有待审核用户中除了异常用户集合以外的待审核用户的集合作为正常用户集合。
具体地，待审核用户的总数量为num(Ω)，通过指定数量的样本用户可以统计出异常用户所占的比例为s，计算该比例s与待审核用户的总数量num(Ω)的乘积得到待审核用户中异常用户的数量num(Ω1)，在假设所有待审核用户为正常用户时，计算每个待审核用户为异常用户的概率，使得总概率函数取值最大的num(Ω1)个待审核用户所构成的集合作为异常用户集合P，其余待审核用户所构成的集合作为正常用户集合Q。
在另一个可选实施例中，可以将每个待审核用户的历史行为数据输入预先训练好的分类模型中得到待审核用户的分类结果，该分类结果为待审核用户为异常用户或者正常用户的概率，根据分类结果中待审核用户属于异常用户或者正常用户的概率将待审核用户划分到异常用户集合或者正常用户集合中，如训练回归神经网络、深度神经网络、循环神经网络等网络来对待审核用户进行初步分类，获得每个待审核用户为异常用户或者正常用户的分类概率，将待审核用户为异常用户的分类概率在前的num(Ω1)个待审核用户所构成的集合作为异常用户集合，其余待审核用户划分到正常用户集合中。
当然，在实际应用中，本领域技术人员还可以通过其他方式初始化异常用户集合和正常用户集合。
S207、基于所述异常用户集合和正常用户集合计算所述总概率函数的第一函数值。
具体地，将异常用户集合中的待审核用户作为异常用户，将正常用户集合中的待审核用户作为正常用户来计算总概率函数的第一函数值，由于总概率函数为所有待审核用户的概率的和值，当待审核用户初始化为正常用户或者异常用户后，每个待审核用户的概率发生变化，总概率函数的值也发生变化从而得到第一函数值S0。
S208、遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值。
在本发明的可选实施例中，在初始化正常用户集合和异常用户集合后，可以遍历正常用户集合以将正常用户集合中当前遍历到的第一待审核用户作为异常用户，在每次遍历正常用户集合后，遍历异常用户集合以将异常用户集合中当前遍历的第二待审核用户作为正常用户，在每次遍历异常用户集合后，基于当前的异常用户集合和正常用户集合计算总概率函数的值得到多个第二函数值S1，从多个第二函数值S1中确定出最小第二函数值S1min。
S209、根据所述第一函数值和所述第二函数值更新所述异常用户集合和正常用户集合。
具体地，可以从每次遍历完异常用户集合后得到的多个第二函数值中确定出最小第二函数值，在最小第二函数值大于第一函数值时，在异常用户集合中确定出最小第二函数值对应的第二待审核用户，将最小第二函数值对应的第二待审核用户确定为正常用户移到正常用户集合中，以及将当前遍历到的第一待审核用户确定为异常用户，并从正常用户集合移到异常用户集合中，返回遍历正常用户集合以将正常用户集合中当前遍历到的第一待审核用户作为异常用户的步骤。
为了使得本领域技术人员更清楚理解本发明实施例中遍历、更新正常用户集合和异常用户集合的过程，以下结合示例说明：
在一个示例中，记正常用户集合为Q＝{Q1、Q2、……Qn}，正常用户集合Q中所有待审核用户Qn为正常用户，记异常用户集合为P＝{P1、P2、……Pm}，异常用户集合P中所有待审核用户Pm为异常用户，对异常用户集合和正常用户集合遍历过程如下：
S1、遍历正常用户集合Q中的待审核用户Q1，将待审核用户Q1改为异常用户；
S2、遍历异常用户集合为P中的待审核用户P1，将待审核用户P1改为正常用户，基于当前的异常用户集合和正常用户集合计算总概率函数的第二函数值S11，随后将待审核用户P1改为异常用户；
S3、继续遍历异常用户集合为P中的待审核用户P2，将待审核用户P2改为正常用户，基于当前的异常用户集合和正常用户集合计算总概率函数的第二函数值S12，随后将待审核用户P2改为异常用户，如此类推，每次遍历完异常用户集合P中的一个待审核用户Pm后得到一个第二函数值S1m，在遍历完异常用户集合P之后得到多个第二函数值。
S3、从多个第二函数值S1m中确定出最小第二函数值S1min；
S4、在最小第二函数值S1min大于第一函数值S0时，将异常用户集合P中最小第二函数值S1min对应的待审核用户Pm确定为正常用户并移到正常用户集合Q中，以及将正常用户集合Q中当前遍历到的待审核用户Qn为异常用户并移到异常用户集合P中，返回S1，继续遍历正常用户集合Q中的下一个待审核用户，重复上述S1-S4的过程直到正常用户集合Q中待审核用户被遍历完为止。
由上述过程遍历过程可知，更新正常用户集合和异常用户集合后，总概率函数的函数值不断增大以此来求解最大值，停止遍历的条件可以是遍历完正常用户集合后，异常用户集合中待审核用户的数量小于所有待审核用户中异常用户的总数量，并且大于总数量与召回率的乘积，其中，总数量为异常用户的预设比例与所有待审核用户的数量的乘积，即总概率函数的求解问题如下：
s.t.
r×num(Ω1)≤num(V1)≤num(Ω1)
上述公式中，P(xi)为第i个待审核用户为异常用户的概率，Ω为所有待审核用户的集合，S.t.(subject to)为使某个条件满足，为所有待审核用户集合中的任意一个待审核用户，r为预设的召回率，V1为遍历终止后的异常用户集合，num(V1)为异常用户集合中异常用户的数量，num(Ω1)为所有待审核用户中所有异常用户的数量，num(Ω1)＝s×num(Ω)，s为异常用户的预设比例。
S210、停止遍历后，将所述异常用户集合中所包含的待审核用户确定为候选用户。
遍历完正常用户集合并且满足预设条件后得到的异常用户集合中的待审核用户即为候选用户，可以对候选用户进行人工审核。
S211、对所述候选用户进行审核得到异常用户。
在本发明的可选实施例中，可以将候选用户的用户标识发送到审核后台，在审核后台对候选用户进行审核，如果该候选用户经人工审核确定为异常用户，则将该候选用户标注为异常用户，否则标注为正常用户。
在本发明的可选实施例中，在人工审核从候选用户中确定出异常用户后，可以为异常用户标注异常用户标签，以及为待审核用户中除了异常用户以外的用户标注正常用户标签，将标注异常用户标签或者正常用户标签后的用户作为样本用户来更新样本数据。
本发明实施例获取包括有效特征、所述有效特征关联的事件发生时用户为异常用户的预设概率的样本数据，从各个平台的埋点获取多个待审核用户的历史行为数据后，针对每个待审核用户从历史行为数据中提取多个预设有效特征，对多个预设有效特征关联的事件的预设概率求和得到待审核用户为异常用户的概率，采用所有待审核用户为异常用户的概率建立总概率函数，初始化异常用户集合和正常用户集合后，基于异常用户集合和正常用户集合计算总概率函数的第一函数值，遍历异常用户集合和正常用户集合以重新计算总概率函数的第二函数值，根据第一函数值和第二函数值更新异常用户集合和正常用户集合，在预设条件下遍历完正常用户集合后得到总概率函数的最大函数值时，将异常用户集合中所包含的待审核用户确定为候选用户，对所述候选用户进行审核得到异常用户。一方面，通过样本数据预先设置有效特征，从历史行为数据中提取有效特征并转换为有效特征关联的事件的概率，实现了利用待审核用户之间的互动所形成的历史数据提取出用于异常用户审核的有效特征，并将特征计算进一步转换为概率计算，解决了数据信号不准确影响异常用户审核准确度的问题，另一方面，通过构建总概率函数对所有待审核用户进行整体求解确定出候选用户，既利用了待审核用户之间的互动行为，又使得待审核用户的分类结果相互影响，能够准确确定出后候选用户进行审核。
进一步地，通过对样本用户的历史行为数据提取行为特征并确定出有效特征，可以针对违规行为设置有效特征来审核出异常用户，解决了现在技术中异常用户具有对抗行为，异常用户使用异常用户之间才可以理解的违规文字的变形词、甚至创造异常用户之间专用的异常词汇来避免被检测，造成无法提取与异常用户相关的有效特征来检测异常用户，可以针对异常用户设置有效特征来检测出异常用户，提高了异常用户检测的准确度。
更进一步地，确定出异常用户后为异常用户标注异常用户标签，正常用户标注正常用户标签作为样本用户来更新样本数据的有效特征、有效特征关联的事件发生时用户为异常用户的预设概率，一方面，可以动态更新样本数据来动态求解候选用户，另一方面，增加了样本用户的数据来源，降低了样本用户的获取成本。
实施例三
图3是本发明实施例三提供的一种异常用户审核装置的结构框图，如图3所示，本发明实施例的异常用户审核装置具体可以包括如下模块：
历史行为数据获取模块301，用于获取多个待审核用户的历史行为数据，所述历史行为数据包括待审核用户之间互动所形成的行为数据；
特征提取模块302，用于针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征，所述预设有效特征为预先设置的样本数据中的特征；
用户概率计算模块303，用于根据多个所述预设有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率；
总概率函数建立模块304，用于采用所有待审核用户为异常用户的概率建立总概率函数；
总概率函数求解模块305，用于以预设条件为约束对所述总概率函数求解最大值以确定出候选用户；
审核模块306，用于对所述候选用户进行审核得到异常用户。
本发明实施例所提供的异常用户审核装置可执行本发明实施例一或实施例二所提供的异常用户审核方法，具备执行方法相应的功能模块和有益效果。
实施例四
参照图4，示出了本发明一个示例中的一种电子设备的结构示意图。如图4所示，该电子设备具体可以包括：处理器401、存储装置402、具有触摸功能的显示屏403、输入装置404、输出装置405以及通信装置406。该电子设备中处理器401的数量可以是一个或者多个，图4中以一个处理器401为例。该电子设备的处理器401、存储装置402、显示屏403、输入装置404、输出装置405以及通信装置406可以通过总线或者其他方式连接，图4中以通过总线连接为例。所述电子设备用于执行如本发明任一实施例提供的异常用户审核方法。
本发明实施例还提供一种计算机可读存储介质，所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如上述方法实施例所述的异常用户审核方法。
需要说明的是，对于装置、电子设备、存储介质实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变换、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (14)

1.一种异常用户审核方法，其特征在于，包括：
获取多个待审核用户的历史行为数据，所述历史行为数据包括待审核用户之间互动所形成的行为数据；
针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征，所述预设有效特征为预先设置的样本数据中的特征；所述样本数据包括有效特征、所述有效特征关联的事件发生时用户为异常用户的预设概率；
根据多个所述有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率；
采用所有待审核用户为异常用户的概率建立总概率函数；
以预设条件为约束对所述总概率函数求解最大值以确定出候选用户；
对所述候选用户进行审核得到异常用户；
所述总概率函数为所有待审核用户为异常用户的概率的和值；当待审核用户由异常用户变为正常用户，或者由正常用户变为异常用户时，总概率函数的函数值随之发生变化；
所述以预设条件为约束对所述总概率函数求解最大值以确定出候选用户，包括：
初始化异常用户集合和正常用户集合以将多个所述待审核用户划分到异常用户集合和正常用户集合中；
基于所述异常用户集合和所述正常用户集合计算所述总概率函数的第一函数值；
遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值；
根据所述第一函数值和所述第二函数值更新所述异常用户集合和正常用户集合，返回遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值的步骤，直到遍历完所述正常用户集合后，所述异常用户集合中待审核用户的数量小于所有待审核用户中异常用户的总数量，并且大于所述总数量与召回率的乘积，所述总数量为所述异常用户的预设比例与所有待审核用户的数量的乘积；
将所述异常用户集合中所包含的待审核用户确定为候选用户；所述基于所述异常用户集合和所述正常用户集合计算所述总概率函数的第一函数值，包括：将所述异常用户集合中的所述待审核用户作为所述异常用户，将所述正常用户集合中的所述待审核用户作为正常用户来计算所述总概率函数的第一函数值；
所述遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值，包括：遍历所述正常用户集合以将所述正常用户集合中当前遍历到的第一待审核用户作为异常用户；在每次遍历所述正常用户集合后，遍历所述异常用户集合以将所述异常用户集合中当前遍历的第二待审核用户作为正常用户，在每次遍历所述异常用户集合后，基于当前的异常用户集合和正常用户集合计算所述总概率函数的函数值得到多个第二函数值，从多个第二函数值中确定出最小第二函数值作为所述总概率函数的第二函数值。
2.根据权利要求1所述的方法，其特征在于，在获取多个待审核用户的历史行为数据之前，还包括：获取样本数据。
3.根据权利要求2所述的方法，其特征在于，所述获取样本数据包括：
获取指定数量的样本用户的历史行为数据，所述样本用户为标注了异常用户标签和正常用户标签的用户；
从所述样本用户的历史行为数据中提取多个有效特征；
计算所述有效特征关联的事件发生时样本用户为异常用户的概率作为预设概率。
4.根据权利要求3所述的方法，其特征在于，所述从所述样本用户的历史行为数据中提取多个有效特征，包括：
从所述样本用户的历史行为数据中提取多个行为特征；
针对每个行为特征，获取具有所述行为特征的样本用户为异常用户的第一用户数量，以及获取具有所述行为特征的样本用户为正常用户的第二用户数量；
获取所述指定数量的样本用户中异常用户的第三用户数量和正常用户的第四用户数量；
计算所述第一用户数量与第三用户数量的第一比值，以及计算所述第二用户数量与所述第四用户数量的第二比值；
计算所述第一比值和所述第二比值的差值的绝对值；
在所述绝对值大于预设阈值时确定所述行为特征为有效特征。
5.根据权利要求1所述的方法，其特征在于，所述获取多个待审核用户的历史行为数据，包括：
从各个平台的埋点获取多个待审核用户的历史行为数据，所述历史行为数据包括以下至少一种：
用户性别、用户点赞的视频、用户的评论、用户关注的账户、用户被关注的账户、用户分享的视频、用户点赞视频的数量、用户发布视频的数量。
6.根据权利要求1所述的方法，其特征在于，所述根据多个所述有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率，包括：
对多个所述预设有效特征关联的事件的预设概率求和得到所述待审核用户为异常用户的概率。
7.根据权利要求1所述的方法，其特征在于，所述初始化异常用户集合和正常用户集合以将所述多个待审核用户划分到异常用户集合和正常用户集合中，包括：
将所有待审核用户作为正常用户，对所述总概率函数求解最大值时得到的待审核用户的集合作为异常用户集合；
将所有待审核用户中除了所述异常用户集合以外的待审核用户的集合作为正常用户集合。
8.根据权利要求1所述的方法，其特征在于，所述初始化异常用户集合和正常用户集合以将所述多个待审核用户划分到异常用户集合和正常用户集合中，包括：
将每个所述待审核用户的历史行为数据输入预先训练好的分类模型中得到所述待审核用户的分类结果，所述分类结果为所述待审核用户为异常用户或者正常用户；
根据所述分类结果将所述待审核用户划分到异常用户集合或者正常用户集合中。
9.根据权利要求1所述的方法，其特征在于，所述根据所述第一函数值和所述第二函数值更新所述异常用户集合和正常用户集合，包括：
在所述最小第二函数值大于所述第一函数值时，在所述异常用户集合中确定出所述最小第二函数值对应的第二待审核用户；
将所述最小第二函数值对应的第二待审核用户确定为正常用户，并移到所述正常用户集合中，以及将所述当前遍历到的所述第一待审核用户确定为异常用户，并从所述正常用户集合移到所述异常用户集合中，返回遍历所述正常用户集合以将所述正常用户集合中当前遍历到的第一待审核用户作为异常用户的步骤。
10.根据权利要求1-6任一项所述的方法，其特征在于，所述对所述候选用户进行审核得到异常用户，包括：
将所述候选用户的用户标识发送至审核后台，所述审核后台用于对所述候选用户进行人工审核；
接收所述审核后台发送的审核结果，所述审核结果包括从所述候选用户中确定出的异常用户。
11.根据权利要求10所述的方法，其特征在于，在接收所述审核后台发送的审核结果之后，还包括：
为所述异常用户标注异常用户标签，以及为所述待审核用户中除了所述异常用户以外的用户标注正常用户标签；
将标注异常用户标签或者正常用户标签后的用户作为样本用户来更新所述样本数据。
12.一种异常用户审核装置，其特征在于，包括：
历史行为数据获取模块，用于获取多个待审核用户的历史行为数据，所述历史行为数据包括待审核用户之间互动所形成的行为数据；
特征提取模块，用于针对每个待审核用户，从所述历史行为数据中提取多个预设有效特征，所述预设有效特征为预先设置的样本数据中的特征；所述样本数据包括有效特征、所述有效特征关联的事件发生时用户为异常用户的预设概率；
用户概率计算模块，用于根据多个所述预设有效特征关联的事件的预设概率计算所述待审核用户为异常用户的概率；
总概率函数建立模块，用于采用所有待审核用户为异常用户的概率建立总概率函数；所述总概率函数为所有待审核用户为异常用户的概率的和值；当待审核用户由异常用户变为正常用户，或者由正常用户变为异常用户时，总概率函数的函数值随之发生变化；
总概率函数求解模块，用于以预设条件为约束对所述总概率函数求解最大值以确定出候选用户；
审核模块，用于对所述候选用户进行审核得到异常用户；
所述总概率函数求解模块，还用于：
初始化异常用户集合和正常用户集合以将多个所述待审核用户划分到异常用户集合和正常用户集合中；
基于所述异常用户集合和所述正常用户集合计算所述总概率函数的第一函数值；
遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值；
根据所述第一函数值和所述第二函数值更新所述异常用户集合和正常用户集合，返回遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值的步骤，直到遍历完所述正常用户集合后，所述异常用户集合中待审核用户的数量小于所有待审核用户中异常用户的总数量，并且大于所述总数量与召回率的乘积，所述总数量为所述异常用户的预设比例与所有待审核用户的数量的乘积；
将所述异常用户集合中所包含的待审核用户确定为候选用户；
所述基于所述异常用户集合和所述正常用户集合计算所述总概率函数的第一函数值，包括：将所述异常用户集合中的所述待审核用户作为所述异常用户，将所述正常用户集合中的所述待审核用户作为正常用户来计算所述总概率函数的第一函数值；
所述遍历所述异常用户集合和所述正常用户集合以重新计算所述总概率函数的第二函数值，包括：遍历所述正常用户集合以将所述正常用户集合中当前遍历到的第一待审核用户作为异常用户；在每次遍历所述正常用户集合后，遍历所述异常用户集合以将所述异常用户集合中当前遍历的第二待审核用户作为正常用户，在每次遍历所述异常用户集合后，基于当前的异常用户集合和正常用户集合计算所述总概率函数的函数值得到多个第二函数值，从多个第二函数值中确定出最小第二函数值作为所述总概率函数的第二函数值。
13.一种异常用户审核设备，其特征在于，所述异常用户审核设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-11中任一项所述的异常用户审核方法。
14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-11中任一项所述的异常用户审核方法。
CN202011066006.0A 2020-09-30 2020-09-30 异常用户审核方法、装置、电子设备和存储介质 Active CN112199640B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202011066006.0A CN112199640B (zh) 2020-09-30 2020-09-30 异常用户审核方法、装置、电子设备和存储介质
EP21874154.4A EP4198775A4 (en) 2020-09-30 2021-08-30 ABNORMAL USER AUDIT METHOD AND APPARATUS, ELECTRONIC DEVICE AND STORAGE MEDIUM
US18/245,653 US20230336637A1 (en) 2020-09-30 2021-08-30 Method and apparatus for moderating abnormal users, electronic device, and storage medium
PCT/CN2021/115230 WO2022068493A1 (zh) 2020-09-30 2021-08-30 异常用户审核方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011066006.0A CN112199640B (zh) 2020-09-30 2020-09-30 异常用户审核方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN112199640A CN112199640A (zh) 2021-01-08
CN112199640B true CN112199640B (zh) 2024-03-12

Family

ID=74013675

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011066006.0A Active CN112199640B (zh) 2020-09-30 2020-09-30 异常用户审核方法、装置、电子设备和存储介质

Country Status (4)

Country Link
US (1) US20230336637A1 (zh)
EP (1) EP4198775A4 (zh)
CN (1) CN112199640B (zh)
WO (1) WO2022068493A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112199640B (zh) * 2020-09-30 2024-03-12 广州市百果园网络科技有限公司 异常用户审核方法、装置、电子设备和存储介质
CN113163218A (zh) * 2021-02-09 2021-07-23 百果园技术(新加坡)有限公司 直播间内用户的检测方法和系统、电子设备及存储介质
CN113766256A (zh) * 2021-02-09 2021-12-07 北京沃东天骏信息技术有限公司 一种直播风控方法和装置
CN113255929B (zh) * 2021-05-27 2023-04-18 支付宝（中国）网络技术有限公司 异常用户可解释原因的获取方法和装置
CN113485305B (zh) * 2021-07-28 2023-04-07 成都飞机工业（集团）有限责任公司 一种飞机外勤故障诊断系统与方法
CN115994203B (zh) * 2023-02-20 2023-06-23 广州佰锐网络科技有限公司 一种基于ai的数据标注处理方法、系统及ai中台
CN116488934A (zh) * 2023-05-29 2023-07-25 无锡车联天下信息技术有限公司 一种基于域控制器的网络安全管理方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107517251A (zh) * 2017-08-16 2017-12-26 北京小度信息科技有限公司 信息推送方法和装置
CN110929799A (zh) * 2019-11-29 2020-03-27 上海盛付通电子支付服务有限公司 用于检测异常用户的方法、电子设备和计算机可读介质
CN111090813A (zh) * 2019-12-20 2020-05-01 腾讯科技（深圳）有限公司 一种内容处理方法、装置和计算机可读存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080281710A1 (en) * 2007-05-10 2008-11-13 Mary Kay Hoal Youth Based Social Networking
CN103853841A (zh) * 2014-03-19 2014-06-11 北京邮电大学 一种社交网用户异常行为的分析方法
US9985916B2 (en) * 2015-03-03 2018-05-29 International Business Machines Corporation Moderating online discussion using graphical text analysis
US20170124464A1 (en) * 2015-10-28 2017-05-04 Fractal Industries, Inc. Rapid predictive analysis of very large data sets using the distributed computational graph
CN110237530B (zh) * 2019-06-14 2020-12-11 腾讯科技（深圳）有限公司 异常行为检测方法、装置和可读存储介质
CN112199640B (zh) * 2020-09-30 2024-03-12 广州市百果园网络科技有限公司 异常用户审核方法、装置、电子设备和存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107517251A (zh) * 2017-08-16 2017-12-26 北京小度信息科技有限公司 信息推送方法和装置
CN110929799A (zh) * 2019-11-29 2020-03-27 上海盛付通电子支付服务有限公司 用于检测异常用户的方法、电子设备和计算机可读介质
CN111090813A (zh) * 2019-12-20 2020-05-01 腾讯科技（深圳）有限公司 一种内容处理方法、装置和计算机可读存储介质

Also Published As

Publication number Publication date
CN112199640A (zh) 2021-01-08
EP4198775A4 (en) 2024-03-13
WO2022068493A1 (zh) 2022-04-07
EP4198775A1 (en) 2023-06-21
US20230336637A1 (en) 2023-10-19

Similar Documents

Publication Publication Date Title
CN112199640B (zh) 异常用户审核方法、装置、电子设备和存储介质
US10484413B2 (en) System and a method for detecting anomalous activities in a blockchain network
de Angelis et al. Advanced line sampling for efficient robust reliability analysis
Leegwater et al. Performance study of a score‐based likelihood ratio system for forensic fingermark comparison
CN108280757B (zh) 用户信用评估方法及装置
CN111371767B (zh) 恶意账号识别方法、恶意账号识别装置、介质及电子设备
CN112395556B (zh) 异常用户检测模型训练方法、异常用户审核方法及装置
CN111314173B (zh) 监控信息异常的定位方法、装置、计算机设备及存储介质
CN103793484A (zh) 分类信息网站中的基于机器学习的欺诈行为识别系统
CN107766467B (zh) 一种信息检测方法、装置、电子设备及存储介质
CN113779481B (zh) 诈骗网站的识别方法、装置、设备及存储介质
US9317887B2 (en) Similarity calculating method and apparatus
CN114445143A (zh) 一种业务数据的预测方法、装置、设备及介质
CN107729473B (zh) 文章推荐方法及其装置
CN111160919B (zh) 一种区块链地址风险评估方法及装置
CN114245185B (zh) 视频推荐方法、模型训练方法、装置、电子设备及介质
CN116204871A (zh) 异常行为识别方法及装置、电子设备、存储介质
CN111476371A (zh) 对服务方面临的特定风险进行评估的方法及装置
Jarrett et al. Integration of mark–recapture and acoustic detections for unbiased population estimation in animal communities
CN112788356B (zh) 一种直播审核的方法、装置、服务器和存储介质
CN112800286B (zh) 用户关系链的构建方法、装置及电子设备
CN114049205A (zh) 异常交易识别方法、装置、计算机设备和存储介质
CN108629506A (zh) 风控模型的建模方法、装置、计算机设备和存储介质
CN115130545A (zh) 数据处理方法、电子设备、程序产品及介质
CN114630185B (zh) 一种目标用户识别方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant