CN110297989A - 异常检测的测试方法、装置、设备和介质 - Google Patents

异常检测的测试方法、装置、设备和介质 Download PDF

Info

Publication number
CN110297989A
CN110297989A CN201910554207.6A CN201910554207A CN110297989A CN 110297989 A CN110297989 A CN 110297989A CN 201910554207 A CN201910554207 A CN 201910554207A CN 110297989 A CN110297989 A CN 110297989A
Authority
CN
China
Prior art keywords
detected
exception
weight
object set
detection algorithm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910554207.6A
Other languages
English (en)
Other versions
CN110297989B (zh
Inventor
何守伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201910554207.6A priority Critical patent/CN110297989B/zh
Publication of CN110297989A publication Critical patent/CN110297989A/zh
Application granted granted Critical
Publication of CN110297989B publication Critical patent/CN110297989B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9537—Spatial or temporal dependent retrieval, e.g. spatiotemporal queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/958—Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Probability & Statistics with Applications (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Debugging And Monitoring (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本发明实施例公开了一种异常检测的测试方法、装置、设备和介质，涉及互联网技术领域。该方法包括：获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。本发明实施例提供了一种异常检测的测试方法、装置、设备和介质，实现了对作弊检测算法的检测准确性测试。

Description

异常检测的测试方法、装置、设备和介质
技术领域
本发明实施例涉及互联网技术领域，尤其涉及一种异常检测的测试方法、装置、设备和介质。
背景技术
poi-ugc(一种用户信息反馈渠道)作为地图兴趣点数据免费标注的重要通道，一直面临着很严峻的社群作弊问题。作弊问题主要表现为多帐号、多用户的团伙性协同作弊。因此，各种各样的作弊检测算法被提出。
然而，经过作弊检测算法的计算可以得出账号团伙作弊的可能性排序。当使用不同作弊检测算法或者同一个算法的不同参数，得到的作弊排序结果不同。所以，需要测试哪个算法或者某个算法的哪组参数能带来较优的效果。
发明内容
本发明实施例提供一种异常检测的测试方法、装置、设备和介质，以实现对作弊检测算法的检测准确性测试。
第一方面，本发明实施例提供了一种异常检测的测试方法，该方法包括：
获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；
根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
第二方面，本发明实施例还提供了一种异常检测的测试装置，该装置包括：
信息获取模块，用于获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；
测试结果确定模块，用于根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
第三方面，本发明实施例还提供了一种电子设备，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明实施例中任一项所述的异常检测的测试方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一项所述的异常检测的测试方法。
本发明实施例通过根据异常检测算法检测得到的异常对象的异常信息和其他对象的异常信息，确定所述异常检测算法的测试结果，从而实现对异常检测算法的检测准确性测试。
附图说明
图1为本发明实施例一提供的一种异常检测的测试方法的流程图；
图2是本发明实施例二提供的一种异常检测的测试方法的流程图；
图3是本发明实施例四提供的一种异常检测的测试装置的结构示意图；
图4为本发明实施例五提供的一种设备的结构示意图。
具体实施方式
发明人在执行本发明的过程中发现：
当前的测试方法是：利用专家经验对全量样本数据进行标注；利用标注的样本数据训练测试模型；将作弊检测结果输入测试模型，输出测试结果。
然而，如果借助专家经验进行全量测试，成本很高不满足业务需求，而现行业务中使用了其它业务规则对该批账号进行了保证准确率的作弊标注(即规则认为的非作弊用户中仍存在一定概率的作弊用户)。在此基础上，如何借助这些规则的标注结果，在尽量降低专家的参与成本的同时，对全量账号作弊排序结果进行测试，成为了目前亟待解决的问题。
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种异常检测的测试方法的流程图。本实施例可适用于对异常检测算法进行检测准确性测试的情况，其中所述异常检测算法用于对待检测对象集进行异常排序或异常度检测。典型地，所述异常检测算法为作弊检测算法，其中该作弊检测算法用于对团体作弊账号进行检测，该作弊检测算法的输出是依据作弊概率对团体作弊账号的排序。该方法可以由一种异常检测的测试装置来执行，该装置可以由软件和/或硬件的方式实现。参见图1，本实施例提供的异常检测的测试方法，包括：
S110、获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象。
其中，所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到。
待检测对象集是待异常检测的对象的集合。待检测对象集中包括至少两个待检测对象。
具体地，异常信息包括所述待检测对象集中待检测对象的异常排序和/或异常度。
其中，异常度是指待检测对象的异常程度。
待检测对象的异常排序是指依据待检测对象的异常概率，对待检测对象的排序。
具体地，依据其它业务规则(也即任意异常识别算法)，从待检测对象集中识别异常对象。
其他对象是待检测对象集中除识别的异常对象以外的待检测对象。其他对象的异常情况不确定。
S120、根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
具体地，根据获取的待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，确定所述异常对象的异常信息和所述其他对象的异常信息。
所述根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果，包括：
根据所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息，确定所述异常检测算法的测试结果。
可选地，所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息可以是：所述待检测对象集中异常度大于异常对象的异常度的其他对象的数量和/或占比。
具体地，所述根据所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息，确定所述异常检测算法的测试结果，包括：
若所述待检测对象集中目标对象的占比大于比例阈值，则确定所述异常检测算法的测试结果是未通过，其中所述目标对象是指所属待检测对象集中异常度大于异常对象的异常度的其他对象。
其中，比例阈值是测试结果为未通过的待检测对象集中目标对象的最小占比。
本发明实施例的技术方案，通过根据异常检测算法检测得到的异常对象的异常信息和其他对象的异常信息，确定所述异常检测算法的测试结果，从而实现对异常检测算法的检测准确性测试。
实施例二
图2是本发明实施例二提供的一种异常检测的测试方法的流程图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图2，本实施例提供的异常检测的测试方法包括：
S210、获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到。
S220、确定所述待检测对象集中待检测对象的权重。
其中，待检测对象的权重用于描述待检测对象的异常检测准确率。待检测对象的权重越大，待检测对象的异常检测准确率越高。
具体地，确定所述待检测对象集中待检测对象的权重，包括：
若所述待检测对象集中当前位置的待检测对象属于所述异常对象，则根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重；
若所述待检测对象集中当前位置的待检测对象属于所述其他对象，则根据所述当前位置的上一位置处待检测对象的权重和第二数值，确定当前位置处待检测对象的权重，其中所述第一数值大于所述第二数值。
所述根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重，包括：
将所述当前位置的上一位置处待检测对象的权重与所述第一数值的和，作为所述当前位置处待检测对象的权重。
S230、根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定所述异常检测算法的检测准确度。
具体地，所述根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定所述异常检测算法的检测准确度，包括：
依据如下公式，确定所述异常检测算法的检测准确度：
其中，S是所述异常检测算法的检测准确度，pi为异常排列序号为i的待检测对象的权重，i为所述待检测对象的异常排序序号，N为所述待检测对象集合中待检测对象的数量。
本发明实施例的技术方案，通过根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定异常检测算法的检测准确度，从而实现对异常检测算法的检测准确性的量化，以方便不同异常检测算法之间的性能比较，或配置有不同参数的相同异常检测算法之间的性能比较。
为进一步提高权重对待检测对象的异常检测准确率的描述准确性，所述第二数值为所述待检测对象集中其他对象的异常比例。
具体地，所述异常比例可以根据异常识别算法对所述待检测对象集中其他对象的异常识别结果确定。
然而，异常识别算法均具有识别误差，而识别误差往往导致异常检测算法的检测准确度的确定偏差。
为保证异常比例的确定准确度，且降低异常比例的确定成本，所述待检测对象集的异常比例的确定包括：
从所述其他对象中选择设定数量的待检测对象，构成局部待检测对象集，其中所述设定数量小于数量阈值；
将所述局部待检测对象集中异常对象的占比，作为所述待检测对象集的异常比例。
其中，所述局部待检测对象集中的异常对象由专家标注。数量阈值通常很小，以减小人工标注成本。
具体地，依据如下公式确定待检测对象的权重：
其中，pi为待检测对象的权重，N为待检测对象集中待检测对象的数量，i为所述待检测对象的异常排序序号，r为待检测对象集异常比例，A为至少一个异常对象构成的异常对象集合。
实施例三
本实施例是在上述实施例的基础上，以如下假设内容为例提出的一种可选方案。
假定样本集共计N个账号，现在使用某标签传播算法和某组参数(也即上述异常检测算法)，最终得到全量账号的作弊可能性排序(也即上述异常排序)U(n)＝{u1,u2,u3…uN}。本实施例的技术方案需要评价算法排的准不准确。对于该结果，只需要关注排序即可，对于uN作弊可能性具体为多少不必考究。
另外业务中存在其他的规则类策略识别N个账号中的A个账号属于团体作弊(该过程需要保证识别的准确率)，对于剩余N-A个账号不能给出结论。借助业务专家从N-A个账号中随机选择n个小样本空间评估出团体作弊比例为r，使用r作为N-A样本空间中的团体作弊账号的比例(也即待检测对象集中其他对象的异常比例)。
依据如下公式，确定全量账号的作弊可能性排序准确度：
其中
其中，S是全量账号的作弊可能性排序的准确度，S值越大表明此次排序越准确。其中i＝1是指作弊可能性排序中的第一个序号，i＝0仅是为了公式的迭代计算设置。
示例性的：
假设一共6个账号经过算法X排序得到U(6)＝{u1,u2,u3,u4,u5,u6}，其中u1、u3已经被其它业务规则判定为团体作弊，剩余4个账号中随机抽取2个账号，业务专家评定其中1个账号属于团体作弊，则r＝0.5，那么：
另外一个算法Y给定得排序为U(6)＝{u1,u3,u2,u4,u5,u6}，只有u2、u3排序结果有不同，则:
通过比较S(X)和S(Y)可以确定算法Y给出的排序较为准确。
并且，从业务上也可以理解，u1,u3属于很确定的团体作弊用户，算法Y确实将它俩排到作弊可能性的前两位，而剩余的4个不确定是否作弊的账号排在较后面的位置，而算法X将一个可能作弊的u2排到了确定作弊的u3前面不能让人接受。
本发明实施例的技术方案，提出了一种半监督式的作弊概率排序准确率的评估方法，它以业务中的其它保证准确率的规则类反作弊策略的结果为标杆，很大程度上保证了该评估方法的准确率；专家只需要参加某个小样本的评估给出账号作弊比例即可。从而大幅度降低了专家评估成本，可以说以一种很低的成本对作弊可能性排序的准确率做出评价。
需要说明的是，经过本实施例的技术教导，本领域技术人员有动机将上述实施例中描述的任一种实施方式进行方案的组合，以实现对作弊检测算法的检测准确性测试。
实施例四
图3是本发明实施例四提供的一种异常检测的测试装置的结构示意图。参见图3，本实施例提供的异常检测的测试装置包括：信息获取模块10和测试结果确定模块20。
其中，信息获取模块10，用于获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；
测试结果确定模块20，用于根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
本发明实施例的技术方案，通过根据异常检测算法检测得到的异常对象的异常信息和其他对象的异常信息，确定所述异常检测算法的测试结果，从而实现对异常检测算法的检测准确性测试。
进一步地，所述测试结果确定模块，包括：权重确定单元和测试结果确定单元。
其中，权重确定单元，用于确定所述待检测对象集中待检测对象的权重；
测试结果确定单元，用于根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定所述异常检测算法的检测准确度。
进一步地，权重确定单元具体用于：
若所述待检测对象集中当前位置的待检测对象属于所述异常对象，则根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重；
若所述待检测对象集中当前位置的待检测对象属于所述其他对象，则根据所述当前位置的上一位置处待检测对象的权重和第二数值，确定当前位置处待检测对象的权重，其中所述第一数值大于所述第二数值。
进一步地，所述第二数值为所述待检测对象集中其他对象的异常比例。
进一步地，测试结果确定模块，包括：测试结果确定单元。
其中，测试结果确定单元，用于根据所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息，确定所述异常检测算法的测试结果。
进一步地，所述测试结果确定单元具体用于：
依据如下公式，确定所述异常检测算法的检测准确度：
其中，S是所述异常检测算法的检测准确度，pi为异常排列序号为i的待检测对象的权重，i为所述待检测对象的异常排序序号，N为所述待检测对象集合中待检测对象的数量。
进一步地，所述根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重，包括：
将所述当前位置的上一位置处待检测对象的权重与所述第一数值的和，作为所述当前位置处待检测对象的权重。
进一步地，所述测试结果确定单元具体用于：
若所述待检测对象集中目标对象的占比大于比例阈值，则确定所述异常检测算法的测试结果是未通过，其中所述目标对象是指所属待检测对象集中异常度大于异常对象的异常度的其他对象。
本发明实施例所提供的异常检测的测试装置可执行本发明任意实施例所提供的异常检测的测试方法，具备执行方法相应的功能模块和有益效果。
实施例五
图4为本发明实施例五提供的一种设备的结构示意图。图4示出了适于用来实现本发明实施方式的示例性设备12的框图。图4显示的设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，设备12以通用计算设备的形式表现。设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图4未显示，通常称为“硬盘驱动器”)。尽管图4中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该设备12交互的设备通信，和/或与使得该设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与设备12的其它模块通信。应当明白，尽管图中未示出，可以结合设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的异常检测的测试方法。
实施例六
本发明实施例六还提供了计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一项所述的异常检测的测试方法，该方法包括：
获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；
根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (15)

1.一种异常检测的测试方法，其特征在于，包括：
获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；
根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
2.根据权利要求1所述的方法，其特征在于，所述根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果，包括：
确定所述待检测对象集中待检测对象的权重；
根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定所述异常检测算法的检测准确度。
3.根据权利要求2所述的方法，其特征在于，确定所述待检测对象集中待检测对象的权重，包括：
若所述待检测对象集中当前位置的待检测对象属于所述异常对象，则根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重；
若所述待检测对象集中当前位置的待检测对象属于所述其他对象，则根据所述当前位置的上一位置处待检测对象的权重和第二数值，确定当前位置处待检测对象的权重，其中所述第一数值大于所述第二数值。
4.根据权利要求3所述的方法，其特征在于，所述第二数值为所述待检测对象集中其他对象的异常比例。
5.根据权利要求3所述的方法，其特征在于，所述根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重，包括：
将所述当前位置的上一位置处待检测对象的权重与所述第一数值的和，作为所述当前位置处待检测对象的权重。
6.根据权利要求2所述的方法，其特征在于，所述根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定所述异常检测算法的检测准确度，包括：
依据如下公式，确定所述异常检测算法的检测准确度：
其中，S是所述异常检测算法的检测准确度，pi为异常排列序号为i的待检测对象的权重，i为所述待检测对象的异常排序序号，N为所述待检测对象集合中待检测对象的数量。
7.根据权利要求1所述的方法，其特征在于，所述根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果，包括：
根据所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息，确定所述异常检测算法的测试结果。
8.根据权利要求7所述的方法，其特征在于，所述根据所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息，确定所述异常检测算法的测试结果，包括：
若所述待检测对象集中目标对象的占比大于比例阈值，则确定所述异常检测算法的测试结果是未通过，其中所述目标对象是指所属待检测对象集中异常度大于异常对象的异常度的其他对象。
9.一种异常检测的测试装置，其特征在于，包括：
信息获取模块，用于获取待检测对象集的异常信息，以及待检测对象集中的异常对象和其他对象，其中所述待检测对象集的异常信息通过异常检测算法对所述待检测对象集中的待检测对象进行检测得到；
测试结果确定模块，用于根据所述异常对象的异常信息和所述其他对象的异常信息，确定所述异常检测算法的测试结果。
10.根据权利要求9所述的装置，其特征在于，所述测试结果确定模块，包括：
权重确定单元，用于确定所述待检测对象集中待检测对象的权重；
测试结果确定单元，用于根据所述待检测对象集中待检测对象的权重和所述待检测对象集的异常排序，确定所述异常检测算法的检测准确度。
11.根据权利要求10所述的装置，其特征在于，权重确定单元具体用于：
若所述待检测对象集中当前位置的待检测对象属于所述异常对象，则根据所述当前位置的上一位置处待检测对象的权重和第一数值，确定当前位置处待检测对象的权重；
若所述待检测对象集中当前位置的待检测对象属于所述其他对象，则根据所述当前位置的上一位置处待检测对象的权重和第二数值，确定当前位置处待检测对象的权重，其中所述第一数值大于所述第二数值。
12.根据权利要求11所述的装置，其特征在于，所述第二数值为所述待检测对象集中其他对象的异常比例。
13.根据权利要求9所述的装置，其特征在于，测试结果确定模块，包括：
测试结果确定单元，用于根据所述待检测对象集中其他对象的异常度大于异常对象的异常度的信息，确定所述异常检测算法的测试结果。
14.一种电子设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一项所述的异常检测的测试方法。
15.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-8中任一项所述的异常检测的测试方法。
CN201910554207.6A 2019-06-25 2019-06-25 异常检测的测试方法、装置、设备和介质 Active CN110297989B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910554207.6A CN110297989B (zh) 2019-06-25 2019-06-25 异常检测的测试方法、装置、设备和介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910554207.6A CN110297989B (zh) 2019-06-25 2019-06-25 异常检测的测试方法、装置、设备和介质

Publications (2)

Publication Number Publication Date
CN110297989A true CN110297989A (zh) 2019-10-01
CN110297989B CN110297989B (zh) 2021-07-23

Family

ID=68028797

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910554207.6A Active CN110297989B (zh) 2019-06-25 2019-06-25 异常检测的测试方法、装置、设备和介质

Country Status (1)

Country Link
CN (1) CN110297989B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112579907A (zh) * 2020-12-25 2021-03-30 北京百度网讯科技有限公司 一种异常任务检测方法、装置、电子设备和存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105701016A (zh) * 2016-03-03 2016-06-22 南京大学 一种针对异常处理代码的测试方法
CN107590065A (zh) * 2016-07-08 2018-01-16 阿里巴巴集团控股有限公司 算法模型检测方法、装置、设备及系统
CN107818175A (zh) * 2017-11-17 2018-03-20 厦门能见易判信息科技有限公司 一种法律类案问题智能预判系统及方法
CN108596271A (zh) * 2018-05-09 2018-09-28 中国平安人寿保险股份有限公司 指纹构建算法的评估方法、装置、存储介质及终端

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105701016A (zh) * 2016-03-03 2016-06-22 南京大学 一种针对异常处理代码的测试方法
CN107590065A (zh) * 2016-07-08 2018-01-16 阿里巴巴集团控股有限公司 算法模型检测方法、装置、设备及系统
CN107818175A (zh) * 2017-11-17 2018-03-20 厦门能见易判信息科技有限公司 一种法律类案问题智能预判系统及方法
CN108596271A (zh) * 2018-05-09 2018-09-28 中国平安人寿保险股份有限公司 指纹构建算法的评估方法、装置、存储介质及终端

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112579907A (zh) * 2020-12-25 2021-03-30 北京百度网讯科技有限公司 一种异常任务检测方法、装置、电子设备和存储介质
CN112579907B (zh) * 2020-12-25 2023-08-11 北京百度网讯科技有限公司 一种异常任务检测方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN110297989B (zh) 2021-07-23

Similar Documents

Publication Publication Date Title
CN108073519B (zh) 测试用例生成方法和装置
CN109188457A (zh) 物体检测框的生成方法、装置、设备、存储介质及车辆
CN108763076A (zh) 一种软件自动测试方法、装置、设备及介质
CN109345417B (zh) 基于身份认证的业务人员的在线考核方法及终端设备
CN109543680A (zh) 兴趣点的位置确定方法、装置设备和介质
CN110378346A (zh) 建立文字识别模型的方法、装置、设备和计算机存储介质
CN109191451A (zh) 异常检测方法、装置、设备和介质
CN109918513A (zh) 图像处理方法、装置、服务器及存储介质
CN109815147A (zh) 测试案例生成方法、装置、服务器和介质
CN113655348A (zh) 一种基于深度孪生网络的电力设备局部放电故障诊断方法、系统终端及可读存储介质
CN111931047A (zh) 基于人工智能的黑产账号检测方法及相关装置
CN112559341A (zh) 一种画面测试方法、装置、设备及存储介质
CN111369136A (zh) 业务数据集质量评估方法及装置及计算机可读介质
CN110378396A (zh) 样本数据标注方法、装置、计算机设备及存储介质
CN114240817A (zh) 数据分析方法及装置、电子设备、存储介质
CN107832228A (zh) 一种测试用例约简方法、装置、设备及存储介质
CN110297989A (zh) 异常检测的测试方法、装置、设备和介质
CN110197301A (zh) 一种可支配收入的预测方法、装置、服务器及存储介质
CN113919510A (zh) 一种样本特征选择方法、装置、设备及介质
CN108399128A (zh) 一种用户数据的生成方法、装置、服务器及存储介质
CN105989095B (zh) 顾及数据不确定性的关联规则显著性检验方法及装置
CN109446433A (zh) 一种兴趣点失效校验方法、装置、服务器及存储介质
CN113902457B (zh) 房源信息可靠性的评估方法、装置、电子设备及存储介质
CN112037191B (zh) 一种局域漏电流密度阈值的确定方法、装置和计算机设备
CN115712571A (zh) 一种交互服务测试、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant