CN109213654A - 一种异常检测方法及装置 - Google Patents
一种异常检测方法及装置 Download PDFInfo
- Publication number
- CN109213654A CN109213654A CN201810732266.3A CN201810732266A CN109213654A CN 109213654 A CN109213654 A CN 109213654A CN 201810732266 A CN201810732266 A CN 201810732266A CN 109213654 A CN109213654 A CN 109213654A
- Authority
- CN
- China
- Prior art keywords
- time
- real
- testing index
- data
- index data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/32—Monitoring with visual or acoustical indication of the functioning of the machine
- G06F11/324—Display of status information
- G06F11/327—Alarm or error message display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- Debugging And Monitoring (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本发明提供了一种异常检测方法及装置,涉及数据处理技术领域。其中,所述方法包括:获取系统检测指标数据对应的历史记录;从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;获取当前时刻系统检测指标数据;基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。在本发明实施例中,根据实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,解放了劳动力,避免了异常遗漏;历史检测指标数据实时反映系统环境等,避免了以前设定的指标不适用新的系统环境,导致的检测不准。
Description
技术领域
本发明涉及数据处理技术领域,特别是涉及一种异常检测的方法及装置。
背景技术
为了保障后台服务的稳定,需要开发人员与运维人员在服务发生故障时,对故障快速响应,避免故障进一步扩大影响。通常会通过对关键性能指标进行检测,当关键性能指标发生异常时,往往意味着相关的服务发生了问题。
目前的检测手段主要有两种,一种是通过实时检测图展示各种关键性能指标,由检测人员人工轮询观察指标值,人工判断是否发生异常;另一种是通过自动化的方式,设定同比或环比阈值对指标进行异常检测。
发明人在研究上述现有技术的过程中发现,上述现有技术方案存在如下缺点:人工检测需要大量人力,并且人难免会有疏忽,异常可能会被遗漏;设定同比环比阈值的方式需要为每条关键性能指标设定一个合适的阈值,并且随着时间的推移,单个指标的特性会发生变化,导致之前设定的指标不再适用,导致检测不准确。
发明内容
本发明提供一种异常检测的方法及装置,旨在解放人员劳动力的同时,提供准确、高效的异常检测。
第一方面,本发明实施例提供了一种异常检测的方法,所述方法包括:
获取系统检测指标数据对应的历史记录;
从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;
基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;
获取当前时刻系统检测指标数据;
基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。
优选的,当所述当前时刻系统的异常检测结果为异常,所述方法还包括:
从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据;
基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。
优选的,所述基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值的步骤包括:
按照第一预设规则,确定各个所述历史检测指标数据的第一变化量;
对各个所述第一变化量按照第二预设规则进行过滤;
根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布;
基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数;
基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值。
优选的,所述基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果的步骤之前,还包括:
根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量;
所述基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果的步骤包括:
当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常。
优选的,所述按照第一预设规则,确定各个所述历史检测指标数据的第一变化量的步骤包括:
对所述历史检测指标数据,进行一阶差分,得到各个所述历史检测指标数据的原始变化量;
将所述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。
第二方面,本发明实施例提供了一种异常检测装置,所述装置包括:
历史记录获取模块,用于获取系统检测指标数据对应的历史记录;
第一历史检测指标数据获取模块,用于从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;
实时异常阈值确定模块,用于基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;
当前检测指标数据获取模块,用于获取当前时刻系统检测指标数据;
检测结果确定模块,用于基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。
优选的,当所述当前时刻系统的异常检测结果为异常,所述装置还包括:
第二历史检测指标数据获取模块,用于从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据;
当前历史检测指标数据确定模块,用于基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。
优选的,所述实时异常阈值确定模块包括:
第一变化量确定单元,用于按照第一预设规则,确定各个所述历史检测指标数据的第一变化量;
过滤单元,用于对各个所述第一变化量按照第二预设规则进行过滤;
实时概率分布确定模块,用于根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布;
实时概率累积分布函数确定模块,用于基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数;
实时异常阈值确定单元,用于基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值。
优选的,所述装置还包括:
第二变化量确定模块,用于根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量;
所述检测结果确定模块包括:
检测结果确定单元,用于当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常。
优选的,所述第一变化量确定单元包括:
原始变化量确定子单元,用于对所述历史检测指标数据,进行一阶差分,得到各个所述历史检测指标数据的原始变化量;
第一变化量确定子单元,用于将所述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。
第三方面,本发明实施例还提供了一种终端,该终端包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现本发明所述的异常检测方法的步骤。
第四方面,本发明实施例还提供了一种计算机可读存储介质,该计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现本发明所述的异常检测方法的步骤。
在本发明实施例中,获取系统检测指标数据的历史记录;从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;获取当前时刻系统检测指标数据;基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。在本发明实施例中,从检测指标数据的历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据,提取了最新的预设数量的历史检测指标数据,以最新的预设数量的历史检测指标数据自动确定实时异常阈值,即该实时异常阈值根据最新历史检测指标数据实时更新,进而根据该实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,一方面解放了劳动力,避免了因为人员疏忽导致的异常遗漏;另一方面,异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1示出了本发明实施例一中的一种异常检测的方法的流程图;
图2示出了本发明实施例二中的一种异常检测的方法的流程图;
图3示出了本发明实施例二中的一种按照第一预设规则,确定第一变化量的步骤流程图;
图4示出了本发明实施例三中的一种异常检测装置的结构框图;
图5示出了本发明实施例三中的另一种异常检测装置的结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一
参照图1,示出了本发明实施例一的异常检测的方法的流程图,具体可以包括如下步骤:
步骤101,获取系统检测指标数据对应的历史记录。
在本发明实施例中,系统检测指标数据可以是能够体现系统运行是否正常或系统服务是否正常的一些关键性能指标。例如,可以是:系统CPU使用率、系统网络使用率、系统内存使用率、故障率等。在本发明实施例中,对此不作具体限定。
在本发明实施例中,系统检测指标数据可以实时监测,或以一定周期检测,或随机检测,在本发明实施例中,对此不作具体限定。
在本发明实施例中,可以一次性获取同一系统多个检测指标数据,也可以一次只获取该系统一个检测指标数据,在本发明实施例中,对此不作具体限定。
在本发明实施例中,该系统检测指标数据对应的历史记录H,可以是几个小时、几天、几个月、一年、几年的系统检测指标数据对应的历史记录等,例如,该系统检测指标数据对应的历史记录H可以是:2018年3月1日00:00:00至当前时刻的系统检测指标数据对应的历史记录,在本发明实施例中对此不作具体限定。
可选的,在本发明实施例中,可以将获取的系统检测指标数据对应的历史记录H存储在数据库中,在本发明实施例中,对此不作具体限定。
步骤102,从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据。
在本发明实施例中,可以将该系统检测指标数据的监控时刻,作为其对应历史记录H的记录时间。或者可以将该系统检测指标数据对应的历史记录H存入到数据库的时刻,作为其对应历史记录H的记录时间,还可以将该系统检测指标数据存入数据库的时刻,作为其对应历史记录H的记录时间。在本发明实施例中,对此不作具体限定。
例如:若系统CPU使用率作为该系统检测指标数据,系统CPU使用率的监控时刻为2018年3月1日12:00:00,则该历史记录H中该系统检测指标数据对应的历史记录H的记录时间即可以为2018年3月1日12:00:00。
在本发明实施例中,从上述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据。即从上述历史记录中,提取最新的预设数量的历史检测指标数据。
例如:若2018年3月1日00:00:00至当前时刻的系统检测指标数据对应的历史记录中,有6万条系统检测指标数据对应的历史记录。若预设数量为2000,则从当前时刻开始,从该历史记录中选取最新的2000条历史系统检测指标数据,作为历史检测指标数据。若2018年5月1日00:00:00至当前时刻这一时间段的历史记录为2000条,则提取的2000条历史检测指标数据,即为从2018年5月1日00:00:00至当前时刻这一时间段的系统检测指标数据对应的的历史检测指标数据,而不提取从2018年3月1日00:00:00至2018年4月30日59:59:59这一时间段的系统历史检测指标数据。
在本发明实施例中,上述历史检测指标数据,能够体现该系统在最近一段时内的运行情况等。因此,上述预设数量选择的越大,对该系统最近的运行情况体现的可能越准确,后续系统的异常检测结果可能也越准确。同时,该预设数量选择的越大,后续的计算量也就越大。在本发明实施例中,可以综合考虑异常结果检测的准确性要求,以及计算量等因素,选择合适的预设数量。在本发明实施例中,对此不作具体限定。通常,该预设数量可以大于等于1000。
步骤103,基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值。
在本发明实施例中,基于上述历史检测指标数据,确定系统检测指标对应的实时异常阈值。
具体的,可以对上述历史检测指标数据,进行一定的预处理,该预处理可以是去噪、差分等,在本发明实施例中,对经过预处理的历史检测指标数据,可以进行概率分布计算,进而确定该检测指标对应的实时异常阈值。对此不作具体限定。
例如,可以取上述各个历史检测指标数据对应的变化量,对上述各个变化量取均值和标准差,根据上述均值和标准差,对上述变化量进行过滤,将上述变化量中过大或过小的变化量过滤掉,对过滤后的变化量,计算历史检测指标对应的变化量的概率分布,根据该概率分布,确定历史检测指标对应的变化量的概率累积分布函数,根据经验值等,确定一个分位数P,将该分位数P对应的变化量,作为该检测指标对应的实时异常阈值。
例如,针对上述方法,若确定的该分位数P对应的变化量为0.1,则可以将该分位数P对应的变化量0.1,作为该检测指标对应的实时异常阈值。
在本发明实施例中,上述历史检测指标数据,能够体现该系统在最近一段时内的运行情况等,因此,由上述历史检测指标数据,确定的系统检测指标对应的实时异常阈值,能够充分体现系统的动态变化,即该异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。
步骤104,获取当前时刻系统检测指标数据。
在本发明实施例中,可以获取当前时刻系统检测指标数据,当前时刻系统检测指标数据同样可以是能够体现系统运行是否正常或系统服务是否正常的一些关键性能指标。例如,可以是:当前时刻系统CPU使用率、当前时刻系统网络使用率、当前时刻系统内存使用率、当前时刻故障率等。在本发明实施例中,对此不作具体限定。
需要说明的是,在本发明实施例中,上述步骤102中提取的历史检测指标数据,与此处获取的当前时刻系统检测指标数据,数据类型等应该一致。例如,若步骤102中提取的历史检测指标数据为系统CPU使用率,则此处获取的也应该是当前时刻,系统CPU使用率。
可选的,在本发明实施例中,同样可以将获取的当前时刻系统检测指标数据,存储在数据库中,在本发明实施例中,对此不作具体限定。
步骤105,基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。
在本发明实施例中,基于当前时刻系统检测指标数据,和上述实时异常阈值,确定当前时刻系统的异常检测结果。
在本发明实施例中,可以对上述当前时刻系统检测指标数据,进行预处理,基于预处理后的当前时刻系统检测指标数据,和实时异常阈值,确定当前时刻系统的异常检测结果。本发明实施例中,对此不作具体限定。
例如,可以取上述当前时刻系统检测指标数据对应的变化量,基于上述当前时刻系统检测指标数据对应的变化量,和实时异常阈值,确定当前时刻系统的异常检测结果。本发明实施例中,对此不作具体限定。
在本发明实施例中,该异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。
在本发明实施例中,获取系统检测指标数据对应的历史记录;从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;获取当前时刻系统检测指标数据;基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。在本发明实施例中,从检测指标数据的历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据,提取了最新的预设数量的历史检测指标数据,以最新的预设数量的历史检测指标数据自动确定实时异常阈值,即该实时异常阈值根据最新历史检测指标数据实时更新,进而根据该实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,一方面解放了劳动力,避免了因为人员疏忽导致的异常遗漏;另一方面,异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。
实施例二
参照图2,示出了本发明实施例二的异常检测的方法的流程图,具体可以包括如下步骤:
步骤201,获取系统检测指标数据对应的历史记录。
步骤202,从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据。
上述步骤201、步骤202,可以参照分别本申请实施例一中的步骤101、步骤102,此处不再赘述。
步骤203,按照第一预设规则,确定各个所述历史检测指标数据的第一变化量。
在本发明实施例中,该第一预设规则可以是:对各个上述历史检测指标数据,进行一阶差分或高阶差分,得到差分结果,将差分结果取绝对值。具体的,可以对各个上述历史检测指标数据,采用一阶差分或高阶差分的方式,得到各个历史检测指标数据的差分结果,对上述差分结果取绝对值,确定各个历史检测指标数据的第一变化量。在本发明实施例中,对此不作具体限定。
可选的,在本发明实施例中,参照图3所示,图3示出了,按照第一预设规则,确定第一变化量的步骤流程图。具体的,所述按照第一预设规则,确定各个所述历史检测指标数据的第一变化量的步骤可以包括:
子步骤S31,对所述历史检测指标数据,进行一阶差分,得到各个所述历史检测指标数据的原始变化量。
子步骤S32,将所述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。
具体的,对一条历史检测指标数据A,进行一阶差分,得到该条历史检测指标数据A的原始变化量的过程可以是:获取该历史检测指标数据A的下一条历史检测指标数据B,用历史检测指标数据B的数据值减去历史检测指标数据A的数据值,即得到了该条历史检测指标数据A的原始变化量。
例如,若历史检测指标数据A的记录时间为2018年5月10日00:05:00,则从历史记录中,获取2018年5月10日00:05:00后的下一条历史检测指标数据B,若2018年5月10日00:05:00后,在2018年5月10日00:07:00该历史记录中,记录了下一条历史检测指标数据,则记录时间为2018年5月10日00:07:00的历史检测指标数据即为该2018年5月10日00:05:00后的下一条历史检测指标数据B。
用历史检测指标数据B的数据值减去历史检测指标数据A的数据值,即得到了该条历史检测指标数据A的原始变化量。若,历史检测指标数据B的数据值为3.5M/s,历史检测指标数据A的数据值为5M/s,则该条历史检测指标数据A的原始变化量即为-1.5M/s。
在本发明实施例中,对上述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。例如,针对上述例子,对历史检测指标数据A的原始变化量-1.5M/s,取绝对值,则为1.5M/s,将1.5M/s作为历史检测指标数据A的第一变化量。
在本发明实施例中,对各个历史检测指标数据的原始变化量,取绝对值,得到各个历史检测指标数据的第一变化量。在后续对上述第一变化量计算过程中,可以避免该第一变化量的削峰填谷,进而使得上述各个历史检测指标数据更能准确反映该系统的实时运行情况。
在本发明实施例中,可选的,还可以直接将上述各个历史检测指标数据的原始变化量,直接作为各个历史检测指标数据的第一变化量,在本发明实施例中,对此不作具体限定。
步骤204,对各个所述第一变化量按照第二预设规则进行过滤。
在本发明实施例中,对上述第一变化量按照第一预设规则进行过滤。在本发明实施例中,相当于是将该上述第一变化量中的噪声数据去掉。
在本发明实施例中,上述第二预设规则可以是:根据上述各个第一变化量的均值和标准差,设定过滤范围,将位于该过滤范围之外的第一变量作为噪声数据,进行过滤。具体应用中,可以根据上述过滤范围,对上述第一变化量中的噪声数据进行过滤。例如,可以以上述各个第一变化量的均值和标准差设定第一变化量的取值范围,将该取值范围作为过滤范围,将处于该过滤范围之外的第一变化量直接过滤掉。
例如,若上述各个第一变化量的均值为U,标准差为X,则上述第二规则可以是,以上述各个第一变化量的均值U和标准差X,设定过滤范围,将该过滤范围之外的第一变化量过滤掉。例如,以上述各个第一变化量的均值U和标准差X设定的过滤范围可以是:U±3X。若上述各个第一变化量的均值U为1.2,标准差X若为0.1,则U+3X=1.2+3*0.1=1.5,U-3X=1.2-3*0.1=0.9,则上述过滤范围可以是0.9至1.5,将位于该过滤范围0.9至1.5范围外的第一变量作为噪声数据,进行过滤。进而将该过滤范围之外的第一变化量直接过滤掉。
在本发明实施例中,确定上述过滤范围还可以通过其它方式进行,例如,上述各个第一变化量的均值U和标准差X设定的过滤范围可以是:U±4X等,在本发明实施例中,对此不作具体限定。
在本发明实施例中,以各个第一变化量的均值和标准差,对上述第一变化量进行过滤,进而将上述各个第一变量中,过大或过小的噪声数据,过滤掉,而上述各个第一变化量的均值和标准差,是以最新的历史记录为样本确定的,因此,过滤后的各个第一变化量,能够充分体现该系统,实时运行情况。
步骤205,根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布。
在本发明实施例中,对过滤后的第一变化量,采用核密度估计,确定该系统检测指标对应的实时概率分布。相当于采用核密度估计的方式自适应地学习系统检测指标对应的特性,进而使得该系统检测指标对应的实时概率分布,能够自动反映该系统的实时特性。
具体应用中,可以采用核密度估计中的高斯核函数等,确定系统检测指标对应的实时概率分布。在本发明实施例中,对此不作具体限定。
在本发明实施例中,核密度估计方式,只是从过滤后的第一变化量本身出发,自适应学习过滤后的第一变化量分布特征,因而,确定的该系统检测指标对应的实时概率分布,能够自动反映该系统的实时特性。
步骤206,基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数。
在本发明实施例中,基于系统检测指标对应的实时概率分布,确定系统检测指标对应的实时概率累积分布函数。
在本发明实施例中,该实时概率累积分布函数可以是该系统检测指标对应的实时概率分布的积分函数,该实时概率累积分布函数体现的是,第一变化量小于等于某预设变化量的概率。
在本发明实施例中,该实时概率累积分布函数,能够自动反映该系统历史检测指标数据中,其对应的第一变化量小于等于某预设变化量的实时概率,因此,在本发明实施例中,只需要设定相应的实时概率,即可得到该预设变化量,通常,该实时概率为该系统正常工作是的实时概率,就相当于是得到了该系统,在当前时刻,正常工作的概率为该实时概率的最大第一变化量,即,得到了该系统,在当前时刻,异常检测结果为正常的概率为该实时概率的最大第一变化量。
步骤207,基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值。
在本发明实施例中,可以基于实时概率累积分布函数,确定预设分位数对应的目标变化量,得到系统检测指标对应的实时异常阈值。
具体应用中,该预设分位数即为上述的第一变化量小于等于该目标变化量的实时概率。在该实时概率累积分布函数中,预设分位数与上述目标变化量一一对应,通过预设分位数,即可得到其对应的目标变化量。可以将该目标变化量直接作为该系统检测指标对应的实时异常阈值。在本发明实施例中,对此不作具体限定。
在本发明实施例中,该预设分位数,表征了该系统的异常检测结果为正常的概率。该预设分位数的确定,可以根据系统工作的经验值进行确定,在本发明实施例中,对此不作具体限定。
例如,若基于上述实时概率累积分布函数,确定预设分位数为99分位数对应的目标变化量为1.2M/s,则可以直接将目标变化量1.2M/s作为该系统检测指标对应的实时异常阈值。在本发明实施例中,该实时异常阈值,表征的是,系统在上述历史时间段内正常的情况下,99%的第一变化量均小于等于该实时异常阈值。因此,该预设分位数越大,对当前时刻系统异常检测结果的误判率越小。
具体的,由于该实时异常阈值体现的是,系统在上述历史时间段内正常的情况下,预设分位数的第一变化量均小于等于该实时异常阈值。因此,该预设分位数越大,对当前时刻系统异常检测结果的误判率越小。因此,通常情况下,选取的预设分位数越大,由此确定的当前时刻系统的异常检测结果越准确。因此,在本发明实施例中,可以根据检测结果的准确性要求,设置合适的预设分位数,在本发明实施例中,对此不作具体限定。
在本发明实施例中,从检测指标数据的历史记录中,提取了最新的预设数量的历史检测指标数据,以最新的预设数量的历史检测指标数据自动确定实时异常阈值,即该实时异常阈值根据最新历史检测指标数据实时更新,进而根据该实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,一方面解放了劳动力,避免了因为人员疏忽导致的异常遗漏;另一方面,异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。
步骤208,获取当前时刻系统检测指标数据。
在本发明实施例中,上述步骤208,可以参照本发明实施例一中的步骤104,此处不再赘述。
步骤209,根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量。
在本发明实施例中,可以根据上述第一预设规则,确定当前时刻系统检测指标数据对应的第二变化量,进而使得对当前时刻系统检测指标数据的处理方式,与对上述历史检测指标数据的处理方式一致,进而提升后续检测结果的准确性。
具体可以是,将当前时刻系统检测指标数据C,与前一时刻的系统检测指标数据对应的历史检测指标数据,作差,取该差的绝对值,作为当前时刻系统检测指标数据对应的第二变化量。
例如,若当前时刻2018年6月10日00:00:00,系统检测指标数据C,则从历史记录中,获取2018年6月10日00:00:00上一条历史检测指标数据D,若距当前时刻2018年6月10日00:00:00,最近的一条历史检测指标数据D为,在2018年6月9日00:58:00记录的历史检测指标数据,则将2018年6月9日00:58:00记录的历史检测指标数据,作为当前时刻前一时刻的系统历史检测指标数据D。若当前时刻2018年6月10日00:00:00,系统检测指标数据C为4M/s,其对应的前一时刻历史检测指标数据D为5M/s,将两者作差,再取绝对值,则当前时刻系统检测指标数据C对应的第二变化量即为1M/s。
步骤210,当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常。
在本发明实施例中,当上述第二变化量,超过上述实时异常阈值,将上述当前时刻系统的异常检测结果确定为异常。
具体的,由于该实时异常阈值体现的是,系统在上述历史时间段内正常的情况下,预设分位数的第一变化量均小于等于该实时异常阈值。因此,该预设分位数越大,对当前时刻系统异常检测结果的误判率越小。因此,通常情况下,选取的预设分位数越大,由此确定的当前时刻系统的异常检测结果越准确。因此,在本发明实施例中,可以根据检测结果的准确性要求,设置合适的预设分位数,在本发明实施例中,对此不作具体限定。
具体的,当上述第二变化量,超过上述实时异常阈值,将当前时刻系统的异常检测结果确定为异常。即,当上述第二变化量,超过上述实时异常阈值,即表征当前时刻系统的异常检测结果为异常的概率较高。若该预设分位数比较大,则说明当前时刻系统的异常检测结果为异常的概率也就越大,因此,可以将当前时刻系统的异常检测结果确定为异常。
具体的,针对上述例子,若当前时刻2018年6月10日00:00:00,系统检测指标数据C对应的第二变化量为1M/s,确定的该系统检测指标对应的实时异常阈值为1.2M/s,第二变化量1M/s,小于该系统检测指标对应的实时异常阈值1.2M/s,因此,当前时刻系统的异常检测结果确定为正常。
具体的,针对上述例子,若当前时刻2018年6月20日00:00:00,系统检测指标数据对应的第二变化量为2M/s,确定的该系统检测指标对应的实时异常阈值为1.3M/s,第二变化量2M/s,大于该系统检测指标对应的实时异常阈值1.3M/s,因此,当前时刻系统的异常检测结果确定为异常。
本发明实施例中,由于该实时异常阈值体现的是,系统在上述历史时间段内正常的情况下,预设分位数的第一变化量均小于等于该实时异常阈值。同时,从检测指标数据的历史记录中,提取了最新的预设数量的历史检测指标数据,以最新的预设数量的历史检测指标数据自动确定实时异常阈值,因此,该实时异常阈值能够实时、准确体现,上述历史时间段内,系统运行的异常参数,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准,因此基于该实时异常阈值,确定的当前时刻系统的异常检测结果更为准确。
在本发明实施例中,从检测指标数据的历史记录中,提取了最新的预设数量的历史检测指标数据,以最新的预设数量的历史检测指标数据自动确定实时异常阈值,即该实时异常阈值根据最新历史检测指标数据实时更新,进而根据该实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,一方面解放了劳动力,避免了因为人员疏忽导致的异常遗漏;另一方面,异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。
步骤211,当所述当前时刻系统的异常检测结果为异常,从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据。
在本发明实施例中,当当前时刻系统的异常检测结果为异常,从历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据。
具体的,当当前时刻系统的异常检测结果为异常时,为了避免当前时刻,异常的检测指标数据,干扰下一时刻,系统的检测结果,因此,从历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据。
例如,通过上述步骤,若当前时刻2018年6月10日00:13:00,确定的当前时刻系统的异常检测结果为异常,由于当前时刻2018年6月10日00:13:00的系统检测指标数据,为作为下一时刻的历史检测指标数据,当前时刻系统的异常检测结果为异常,则当前时刻系统检测指标数据也可能异常,因此,为了避免当前时刻2018年6月10日00:13:00,异常的检测指标数据,干扰下一时刻,系统的检测结果,因此,从上述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据,即提取当前时刻2018年6月10日00:13:00前的三条历史检测指标数据。若历史记录中,距当前时刻2018年6月10日00:13:00,最靠前的三条历史检测指标数据,分别为记录时间为2018年6月10日00:10:00,的历史检测指标数据Q,和记录时间为2018年6月10日00:07:00,的历史检测指标数据M,记录时间为2018年6月10日00:04:00,的历史检测指标数据N,则从历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据即为:历史检测指标数据Q、检测指标数据M和历史检测指标数据N。
步骤212,基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。
在本发明实施例中,基于当前时刻系统检测指标数据,以及上述三条历史检测指标数据,按照第三预设规则,确定当前时刻系统检测指标数据对应的历史检测指标数据,以避免当前时刻,异常的检测指标数据,干扰下一时刻,系统的检测结果,保证了下一时刻,系统检测结果的准确性。
在本发明实施例中,上述第三预设规则可以是:确定上述三条历史检测指标数据的平均值,进而将上述三条历史检测指标数据的平均值,确定为当前时刻系统检测指标数据对应的历史检测指标数据。上述第三预设规则还可以是:将上述三条历史检测指标数据,采用指数平滑移动平均线的方式,确定当前时刻系统检测指标数据对应的历史检测指标数据。例如,可以采用公式:H(t)=w*H(t-1)+(1-w)*(w*H(t-2))+(1-w)*H(t-3)。该公式中,H(t)即为当前时刻,系统检测指标数据对应的历史检测指标数据,H(t-1)为当前时刻的前一时刻,系统检测指标数据对应的历史检测指标数据,H(t-2)为当前时刻的前两个时刻,系统检测指标数据对应的历史检测指标数据,H(t-3)为当前时刻的前三个时刻,系统检测指标数据对应的历史检测指标数据,w为分配在H(t-1)上的权重,w大于0小于1,(1-w)为分配在H(t-3)上的权重,同样的(1-w)大于0小于1。
具体应用中,可以根据系统运行情况,以及系统运行经验值等,确定为分配在H(t-1)上的权重w。例如,可以将w设置为0.8。在本发明实施例中,对此不作具体限定。
针对上述例子,当前时刻2018年6月10日00:13:00系统检测指标数据,记录时间为2018年6月10日00:10:00的历史检测指标数据Q,即可以为上述公式中,当前时刻的前一时刻,系统检测指标数据对应的历史检测指标数据H(t-1),记录时间为2018年6月10日00:07:00的历史检测指标数据M,即可以为上述公式中,当前时刻的前两个时刻,系统检测指标数据对应的历史检测指标数据H(t-2),记录时间为2018年6月10日00:04:00的历史检测指标数据N,即可以为上述公式中,当前时刻的前三个时刻,系统检测指标数据对应的历史检测指标数据H(t-3)。
当当前时刻2018年6月10日00:13:00,系统的异常检测结果为异常,为了避免当前时刻,异常的检测指标数据,干扰下一时刻(t+1),系统的检测结果。若分配在H(t-1)上的权重w为0.8,则当前时刻2018年6月10日00:13:00,系统检测指标数据对应的历史检测指标数据H(t)=0.8*H(t-1)+0.2*(0.8*H(t-2))+0.2*H(t-3)。
在本发明实施例中,当所述当前时刻系统的异常检测结果为异常,从历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据,H(t-1)、H(t-2)、H(t-3),然后用指数平滑移动平均线的方式,用公式:H(t)=w*H(t-1)+(1-w)*(w*H(t-2))+(1-w)*H(t-3),得到当前时刻系统检测指标数据对应的历史检测指标数据H(t),而不是直接以当前时刻t系统检测指标数据,作为当前时刻t对应的历史指标数据,以避免当前时刻t,异常的检测指标数据,干扰下一时刻t+1,系统的检测结果,保证了下一时刻,系统检测结果的准确性。
同样的上述历史检测指标数据,若直接监控到的系统检测指标数据异常,则用其前面三个历史检测指标数据,用指数平滑移动平均线的方式,得到异常时刻的历史检测指标数据,避免了对下一时刻,系统检测结果的干扰。保证了下一时刻,系统检测结果的准确性。
在本发明实施例中,获取系统检测指标数据对应的历史记录;从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;按照第一预设规则,确定各个所述历史检测指标数据的第一变化量;对各个所述第一变化量按照第二预设规则进行过滤;根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布;基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数;基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值;获取当前时刻系统检测指标数据;根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量;当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常;从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据;基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。在本发明实施例中,从检测指标数据的历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据,提取了最新的预设数量的历史检测指标数据,以最新的预设数量的历史检测指标数据,获取对应的第一变量,对上述第一变量中过大或过小的噪声数据,过滤掉,因此,过滤后的各个第一变化量,能够充分体现该系统,实时运行情况,根据过滤后的第一变化量,采用核密度估计,确定系统检测指标对应的实时概率分布,自适应地学习系统检测指标对应的特性,进而使得该系统检测指标对应的实时概率分布,能够自动反映该系统的实时特性,基于系统检测指标对应的实时概率分布,确定系统检测指标对应的实时概率累积分布函数,该实时概率累积分布函数,能够自动反映该系统历史检测指标数据中,其对应的第一变化量小于等于某预设变化量的实时概率,基于实时概率累积分布函数,确定预设分位数对应的目标变化量,得到系统检测指标对应的实时异常阈值,即该实时异常阈值根据最新历史检测指标数据实时更新,进而根据该实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,一方面解放了劳动力,避免了因为人员疏忽导致的异常遗漏;另一方面,异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。同时,若当前时刻系统的异常检测结果确定为异常,从历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据,基于当前时刻系统检测指标数据,以及上述三条历史检测指标数据,按照第三预设规则,确定当前时刻系统检测指标数据对应的历史检测指标数据,避免了当前时刻,异常的系统检测指标数据对下一时刻,系统检测结果的干扰,保证了下一时刻,系统检测结果的准确性。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请实施例并不受所描述的动作顺序的限制,因为依据本申请实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定都是本申请实施例所必须的。
实施例三
参照图4所示,本发明实施例提供了一种异常检测装置400,上述异常检测装置400具体可以包括:
历史记录获取模块401,用于获取系统检测指标数据对应的历史记录;
第一历史检测指标数据获取模块402,用于从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;
实时异常阈值确定模块403,用于基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;
当前检测指标数据获取模块404,用于获取当前时刻系统检测指标数据;
检测结果确定模块406,用于基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。
可选地,参照图5所示,在上述图4的基础上,所述装置还可以包括:
第二历史检测指标数据获取模块407,用于从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据;
当前历史检测指标数据确定模块408,用于基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。
优选的,所述实时异常阈值确定模块403可以包括:
第一变化量确定单元4031,用于按照第一预设规则,确定各个所述历史检测指标数据的第一变化量;
过滤单元4032,用于对各个所述第一变化量按照第二预设规则进行过滤;
实时概率分布确定模块4033,用于根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布;
实时概率累积分布函数确定模块4034,用于基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数;
实时异常阈值确定单元4035,用于基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值。
可选的,所述装置还可以包括:
第二变化量确定模块405,用于根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量;
所述检测结果确定模块406可以包括:
检测结果确定单元4061,用于当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常。
可选的,所述第一变化量确定单元4031可以包括:
原始变化量确定子单元,用于对所述历史检测指标数据,进行一阶差分,得到各个所述历史检测指标数据的原始变化量;
第一变化量确定子单元,用于将所述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。
本发明实施例提供的异常检测装置能够实现图1至图3的方法实施例中装置实现的各个过程,为避免重复,这里不再赘述。
在本发明实施例中,历史记录获取模块获取系统检测指标数据的历史记录;第一历史检测指标数据获取模块从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;实时异常阈值确定模块基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;当前检测指标数据获取模块获取当前时刻系统检测指标数据;检测结果确定模块基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。在本发明实施例中,第一历史检测指标数据获取模块从检测指标数据的历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据,提取了最新的预设数量的历史检测指标数据,实时异常阈值确定模块以最新的预设数量的历史检测指标数据自动确定实时异常阈值,即该实时异常阈值根据最新历史检测指标数据实时更新,检测结果确定模块进而根据该实时异常阈值,以及当前时刻系统检测指标数据,确定当前时刻系统运行的异常检测结果,一方面解放了劳动力,避免了因为人员疏忽导致的异常遗漏;另一方面,异常阈值根据最新历史检测指标数据实时更新,该最新历史检测指标数据实时反映系统环境等,避免了由于指标发生变化,以前设定的指标不适用新的系统环境,导致的检测不准。同时,当前时刻系统的异常检测结果确定为异常,第二历史检测指标数据获取模块从历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据,第二历史检测指标数据获取模块基于当前时刻系统检测指标数据,以及上述三条历史检测指标数据,按照第三预设规则,确定当前时刻系统检测指标数据对应的历史检测指标数据,避免了对下一时刻,系统检测结果的干扰,保证了下一时刻,系统检测结果的准确性。
另外,本发明实施例还提供了一种终端,该终端包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,高计算机程序被所述处理器执行时实现本发明上述的异常检测方法的步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。
同时,本发明实施例还提供了一种计算机可读存储介质,该计算机可读存储介质上存储计算机程序,该计算机程序被处理器执行时实现本发明上述的异常检测方法的步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,上述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random AccessMemory,简称RAM)、磁碟或者光盘等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
Claims (12)
1.一种异常检测方法,其特征在于,所述方法包括:
获取系统检测指标数据对应的历史记录;
从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;
基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;
获取当前时刻系统检测指标数据;
基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。
2.根据权利要求1所述的方法,其特征在于,当所述当前时刻系统的异常检测结果为异常,所述方法还包括:
从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据;
基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。
3.根据权利要求1所述的方法,其特征在于,所述基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值的步骤包括:
按照第一预设规则,确定各个所述历史检测指标数据的第一变化量;
对各个所述第一变化量按照第二预设规则进行过滤;
根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布;
基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数;
基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值。
4.根据权利要求3所述的方法,其特征在于,所述基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果的步骤之前,还包括:
根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量;
所述基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果的步骤包括:
当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常。
5.根据权利要求3所述的方法,其特征在于,所述按照第一预设规则,确定各个所述历史检测指标数据的第一变化量的步骤包括:
对所述历史检测指标数据,进行一阶差分,得到各个所述历史检测指标数据的原始变化量;
将所述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。
6.一种异常检测装置,其特征在于,所述装置包括:
历史记录获取模块,用于获取系统检测指标数据对应的历史记录;
第一历史检测指标数据获取模块,用于从所述历史记录中,按照记录时间从后到前,提取预设数量的历史检测指标数据;
实时异常阈值确定模块,用于基于所述历史检测指标数据,确定所述系统检测指标对应的实时异常阈值;
当前检测指标数据获取模块,用于获取当前时刻系统检测指标数据;
检测结果确定模块,用于基于所述当前时刻系统检测指标数据,和所述实时异常阈值,确定所述当前时刻系统的异常检测结果。
7.根据权利要求6所述的装置,其特征在于,当所述当前时刻系统的异常检测结果为异常,所述装置还包括:
第二历史检测指标数据获取模块,用于从所述历史检测指标数据中,按照记录时间从后到前,提取三条历史检测指标数据;
当前历史检测指标数据确定模块,用于基于所述当前时刻系统检测指标数据,以及所述三条历史检测指标数据,按照第三预设规则,确定所述当前时刻系统检测指标数据对应的历史检测指标数据。
8.根据权利要求6所述的装置,其特征在于,所述实时异常阈值确定模块包括:
第一变化量确定单元,用于按照第一预设规则,确定各个所述历史检测指标数据的第一变化量;
过滤单元,用于对各个所述第一变化量按照第二预设规则进行过滤;
实时概率分布确定模块,用于根据过滤后的第一变化量,采用核密度估计,确定所述系统检测指标对应的实时概率分布;
实时概率累积分布函数确定模块,用于基于所述系统检测指标对应的实时概率分布,确定所述系统检测指标对应的实时概率累积分布函数;
实时异常阈值确定单元,用于基于所述实时概率累积分布函数,确定预设分位数对应的目标变化量,得到所述系统检测指标对应的实时异常阈值。
9.根据权利要求8所述的装置,其特征在于,还包括:
第二变化量确定模块,用于根据所述第一预设规则,确定所述当前时刻系统检测指标数据对应的第二变化量;
所述检测结果确定模块包括:
检测结果确定单元,用于当所述第二变化量,超过所述实时异常阈值,将所述当前时刻系统的异常检测结果确定为异常。
10.根据权利要求8所述的装置,其特征在于,所述第一变化量确定单元包括:
原始变化量确定子单元,用于对所述历史检测指标数据,进行一阶差分,得到各个所述历史检测指标数据的原始变化量;
第一变化量确定子单元,用于将所述原始变化量取绝对值,得到各个所述历史检测指标数据的第一变化量。
11.一种终端,其特征在于,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至5中任一项所述的异常检测方法的步骤。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的异常检测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810732266.3A CN109213654B (zh) | 2018-07-05 | 2018-07-05 | 一种异常检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810732266.3A CN109213654B (zh) | 2018-07-05 | 2018-07-05 | 一种异常检测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109213654A true CN109213654A (zh) | 2019-01-15 |
CN109213654B CN109213654B (zh) | 2023-01-03 |
Family
ID=64989892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810732266.3A Active CN109213654B (zh) | 2018-07-05 | 2018-07-05 | 一种异常检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109213654B (zh) |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109857618A (zh) * | 2019-02-02 | 2019-06-07 | 中国银行股份有限公司 | 一种监控方法、装置及系统 |
CN110119340A (zh) * | 2019-05-17 | 2019-08-13 | 北京字节跳动网络技术有限公司 | 异常监测方法、装置、电子设备和存储介质 |
CN110264722A (zh) * | 2019-07-03 | 2019-09-20 | 泰华智慧产业集团股份有限公司 | 信息采集设备中异常设备的筛选方法及系统 |
CN110362612A (zh) * | 2019-07-19 | 2019-10-22 | 中国工商银行股份有限公司 | 由电子设备执行的异常数据检测方法、装置和电子设备 |
CN110890998A (zh) * | 2019-11-06 | 2020-03-17 | 厦门网宿有限公司 | 一种确定阈值的方法及装置 |
CN110995477A (zh) * | 2019-11-20 | 2020-04-10 | 北京宝兰德软件股份有限公司 | 基于动态阈值的预警处理方法、装置、设备及存储介质 |
CN111143102A (zh) * | 2019-12-13 | 2020-05-12 | 东软集团股份有限公司 | 异常数据检测方法、装置、存储介质及电子设备 |
CN111694820A (zh) * | 2020-04-27 | 2020-09-22 | 深圳华工能源技术有限公司 | 电力异常数据多重过滤方法、装置、电子设备及存储介质 |
CN111833634A (zh) * | 2019-04-17 | 2020-10-27 | 青岛海信网络科技股份有限公司 | 一种信号灯故障检测方法及装置 |
CN111967719A (zh) * | 2020-07-21 | 2020-11-20 | 珠海格力电器股份有限公司 | 一种检测指标的更新方法和装置 |
CN112131075A (zh) * | 2020-09-15 | 2020-12-25 | 上海上讯信息技术股份有限公司 | 一种用于存储监控数据异常检测的方法及设备 |
CN112215489A (zh) * | 2020-10-12 | 2021-01-12 | 上海交通大学 | 一种工业设备异常检测方法 |
CN112246681A (zh) * | 2020-09-29 | 2021-01-22 | 珠海格力智能装备有限公司 | 一种检测数据处理方法、装置及产品检测设备 |
CN112364009A (zh) * | 2020-12-03 | 2021-02-12 | 四川长虹电器股份有限公司 | 一种用于检索目标对象相似数据的方法 |
CN112395151A (zh) * | 2019-08-19 | 2021-02-23 | 无锡飞翎电子有限公司 | 干衣机及其滤网安装状态检测方法、装置和存储介质 |
CN112445679A (zh) * | 2020-11-13 | 2021-03-05 | 上海优扬新媒信息技术有限公司 | 一种信息检测方法、装置、服务器及存储介质 |
CN112508316A (zh) * | 2019-09-16 | 2021-03-16 | 中国科学院信息工程研究所 | 实时异常检测系统中的自适应异常判定方法和装置 |
CN112583768A (zh) * | 2019-09-30 | 2021-03-30 | 北京国双科技有限公司 | 一种用户异常行为检测方法及装置 |
US20210209189A1 (en) * | 2018-09-24 | 2021-07-08 | Abb Schweiz Ag | System and methods monitoring the technical status of technical equipment |
WO2021185182A1 (zh) * | 2020-03-19 | 2021-09-23 | 深圳前海微众银行股份有限公司 | 一种异常检测的方法及装置 |
CN113542236A (zh) * | 2021-06-28 | 2021-10-22 | 中孚安全技术有限公司 | 一种基于核密度估计和指数平滑算法的异常用户检测方法 |
WO2021212756A1 (zh) * | 2020-04-23 | 2021-10-28 | 平安科技(深圳)有限公司 | 指标异常分析方法、装置、电子设备及存储介质 |
CN113646718A (zh) * | 2019-03-27 | 2021-11-12 | 日产自动车株式会社 | 异常探测装置及异常探测方法 |
CN113761048A (zh) * | 2021-11-10 | 2021-12-07 | 中大检测(湖南)股份有限公司 | 地质灾害异常数据可视化处理方法及系统 |
CN113836204A (zh) * | 2021-09-28 | 2021-12-24 | 安徽听见科技有限公司 | 接口异常检测方法、装置、电子设备和存储介质 |
WO2022068645A1 (zh) * | 2020-09-30 | 2022-04-07 | 深圳前海微众银行股份有限公司 | 数据库故障发现方法、装置、电子设备及存储介质 |
WO2022121513A1 (zh) * | 2020-12-09 | 2022-06-16 | 中兴通讯股份有限公司 | 性能指标至差值的生成方法、装置、电子设备及存储介质 |
CN116204690A (zh) * | 2023-04-28 | 2023-06-02 | 泰力基业股份有限公司 | 一种具有自动灭火功能的配电箱数据传输系统 |
CN116975768A (zh) * | 2023-09-22 | 2023-10-31 | 山东爱福地生物股份有限公司 | 一种肥料安全生产的数据异常检测方法 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003009140A2 (en) * | 2001-07-20 | 2003-01-30 | Altaworks Corporation | System and method for adaptive threshold determination for performance metrics |
CN105243301A (zh) * | 2014-07-09 | 2016-01-13 | 阿里巴巴集团控股有限公司 | 键盘输入异常检测方法、装置以及安全提示方法、装置 |
CN105956734A (zh) * | 2016-04-15 | 2016-09-21 | 广东轩辕网络科技股份有限公司 | 动态设置it设备的性能的指标阈值的方法及系统 |
CN106126391A (zh) * | 2016-06-28 | 2016-11-16 | 北京百度网讯科技有限公司 | 系统监控方法和装置 |
CN106407082A (zh) * | 2016-09-30 | 2017-02-15 | 国家电网公司 | 一种信息系统告警方法和装置 |
CN106503841A (zh) * | 2016-10-17 | 2017-03-15 | 东软集团股份有限公司 | 指标阈值的确定方法和装置 |
CN106557401A (zh) * | 2016-10-13 | 2017-04-05 | 中国铁道科学研究院电子计算技术研究所 | 一种it设备监控指标的动态阈值设定方法及系统 |
CN107301484A (zh) * | 2016-04-14 | 2017-10-27 | 中国移动通信集团江苏有限公司 | 一种监控点设置方法及装置 |
CN107426019A (zh) * | 2017-07-06 | 2017-12-01 | 国家电网公司 | 网络故障确定方法、计算机设备及计算机可读存储介质 |
CN108089962A (zh) * | 2017-11-13 | 2018-05-29 | 北京奇艺世纪科技有限公司 | 一种异常检测方法、装置及电子设备 |
US20180165171A1 (en) * | 2016-12-13 | 2018-06-14 | Theatro Labs Inc. | Data and Analytics for Observation Platforms |
-
2018
- 2018-07-05 CN CN201810732266.3A patent/CN109213654B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003009140A2 (en) * | 2001-07-20 | 2003-01-30 | Altaworks Corporation | System and method for adaptive threshold determination for performance metrics |
CN105243301A (zh) * | 2014-07-09 | 2016-01-13 | 阿里巴巴集团控股有限公司 | 键盘输入异常检测方法、装置以及安全提示方法、装置 |
CN107301484A (zh) * | 2016-04-14 | 2017-10-27 | 中国移动通信集团江苏有限公司 | 一种监控点设置方法及装置 |
CN105956734A (zh) * | 2016-04-15 | 2016-09-21 | 广东轩辕网络科技股份有限公司 | 动态设置it设备的性能的指标阈值的方法及系统 |
CN106126391A (zh) * | 2016-06-28 | 2016-11-16 | 北京百度网讯科技有限公司 | 系统监控方法和装置 |
CN106407082A (zh) * | 2016-09-30 | 2017-02-15 | 国家电网公司 | 一种信息系统告警方法和装置 |
CN106557401A (zh) * | 2016-10-13 | 2017-04-05 | 中国铁道科学研究院电子计算技术研究所 | 一种it设备监控指标的动态阈值设定方法及系统 |
CN106503841A (zh) * | 2016-10-17 | 2017-03-15 | 东软集团股份有限公司 | 指标阈值的确定方法和装置 |
US20180165171A1 (en) * | 2016-12-13 | 2018-06-14 | Theatro Labs Inc. | Data and Analytics for Observation Platforms |
CN107426019A (zh) * | 2017-07-06 | 2017-12-01 | 国家电网公司 | 网络故障确定方法、计算机设备及计算机可读存储介质 |
CN108089962A (zh) * | 2017-11-13 | 2018-05-29 | 北京奇艺世纪科技有限公司 | 一种异常检测方法、装置及电子设备 |
Cited By (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210209189A1 (en) * | 2018-09-24 | 2021-07-08 | Abb Schweiz Ag | System and methods monitoring the technical status of technical equipment |
CN109857618A (zh) * | 2019-02-02 | 2019-06-07 | 中国银行股份有限公司 | 一种监控方法、装置及系统 |
CN113646718B (zh) * | 2019-03-27 | 2024-04-30 | 日产自动车株式会社 | 异常探测装置及异常探测方法 |
CN113646718A (zh) * | 2019-03-27 | 2021-11-12 | 日产自动车株式会社 | 异常探测装置及异常探测方法 |
CN111833634A (zh) * | 2019-04-17 | 2020-10-27 | 青岛海信网络科技股份有限公司 | 一种信号灯故障检测方法及装置 |
CN111833634B (zh) * | 2019-04-17 | 2021-07-13 | 青岛海信网络科技股份有限公司 | 一种信号灯故障检测方法及装置 |
CN110119340A (zh) * | 2019-05-17 | 2019-08-13 | 北京字节跳动网络技术有限公司 | 异常监测方法、装置、电子设备和存储介质 |
CN110264722A (zh) * | 2019-07-03 | 2019-09-20 | 泰华智慧产业集团股份有限公司 | 信息采集设备中异常设备的筛选方法及系统 |
CN110362612B (zh) * | 2019-07-19 | 2022-02-22 | 中国工商银行股份有限公司 | 由电子设备执行的异常数据检测方法、装置和电子设备 |
CN110362612A (zh) * | 2019-07-19 | 2019-10-22 | 中国工商银行股份有限公司 | 由电子设备执行的异常数据检测方法、装置和电子设备 |
CN112395151A (zh) * | 2019-08-19 | 2021-02-23 | 无锡飞翎电子有限公司 | 干衣机及其滤网安装状态检测方法、装置和存储介质 |
CN112508316B (zh) * | 2019-09-16 | 2023-08-08 | 中国科学院信息工程研究所 | 实时异常检测系统中的自适应异常判定方法和装置 |
CN112508316A (zh) * | 2019-09-16 | 2021-03-16 | 中国科学院信息工程研究所 | 实时异常检测系统中的自适应异常判定方法和装置 |
CN112583768A (zh) * | 2019-09-30 | 2021-03-30 | 北京国双科技有限公司 | 一种用户异常行为检测方法及装置 |
CN110890998B (zh) * | 2019-11-06 | 2021-08-27 | 厦门网宿有限公司 | 一种确定阈值的方法及装置 |
CN110890998A (zh) * | 2019-11-06 | 2020-03-17 | 厦门网宿有限公司 | 一种确定阈值的方法及装置 |
CN110995477A (zh) * | 2019-11-20 | 2020-04-10 | 北京宝兰德软件股份有限公司 | 基于动态阈值的预警处理方法、装置、设备及存储介质 |
CN111143102B (zh) * | 2019-12-13 | 2024-01-19 | 东软集团股份有限公司 | 异常数据检测方法、装置、存储介质及电子设备 |
CN111143102A (zh) * | 2019-12-13 | 2020-05-12 | 东软集团股份有限公司 | 异常数据检测方法、装置、存储介质及电子设备 |
WO2021185182A1 (zh) * | 2020-03-19 | 2021-09-23 | 深圳前海微众银行股份有限公司 | 一种异常检测的方法及装置 |
WO2021212756A1 (zh) * | 2020-04-23 | 2021-10-28 | 平安科技(深圳)有限公司 | 指标异常分析方法、装置、电子设备及存储介质 |
CN111694820A (zh) * | 2020-04-27 | 2020-09-22 | 深圳华工能源技术有限公司 | 电力异常数据多重过滤方法、装置、电子设备及存储介质 |
CN111967719A (zh) * | 2020-07-21 | 2020-11-20 | 珠海格力电器股份有限公司 | 一种检测指标的更新方法和装置 |
CN112131075A (zh) * | 2020-09-15 | 2020-12-25 | 上海上讯信息技术股份有限公司 | 一种用于存储监控数据异常检测的方法及设备 |
CN112131075B (zh) * | 2020-09-15 | 2023-04-28 | 上海上讯信息技术股份有限公司 | 一种用于存储监控数据异常检测的方法及设备 |
CN112246681A (zh) * | 2020-09-29 | 2021-01-22 | 珠海格力智能装备有限公司 | 一种检测数据处理方法、装置及产品检测设备 |
WO2022068645A1 (zh) * | 2020-09-30 | 2022-04-07 | 深圳前海微众银行股份有限公司 | 数据库故障发现方法、装置、电子设备及存储介质 |
CN112215489A (zh) * | 2020-10-12 | 2021-01-12 | 上海交通大学 | 一种工业设备异常检测方法 |
CN112445679B (zh) * | 2020-11-13 | 2023-01-06 | 度小满科技(北京)有限公司 | 一种信息检测方法、装置、服务器及存储介质 |
CN112445679A (zh) * | 2020-11-13 | 2021-03-05 | 上海优扬新媒信息技术有限公司 | 一种信息检测方法、装置、服务器及存储介质 |
CN112364009A (zh) * | 2020-12-03 | 2021-02-12 | 四川长虹电器股份有限公司 | 一种用于检索目标对象相似数据的方法 |
WO2022121513A1 (zh) * | 2020-12-09 | 2022-06-16 | 中兴通讯股份有限公司 | 性能指标至差值的生成方法、装置、电子设备及存储介质 |
CN113542236A (zh) * | 2021-06-28 | 2021-10-22 | 中孚安全技术有限公司 | 一种基于核密度估计和指数平滑算法的异常用户检测方法 |
CN113836204A (zh) * | 2021-09-28 | 2021-12-24 | 安徽听见科技有限公司 | 接口异常检测方法、装置、电子设备和存储介质 |
CN113761048A (zh) * | 2021-11-10 | 2021-12-07 | 中大检测(湖南)股份有限公司 | 地质灾害异常数据可视化处理方法及系统 |
CN116204690B (zh) * | 2023-04-28 | 2023-07-18 | 泰力基业股份有限公司 | 一种具有自动灭火功能的配电箱数据传输系统 |
CN116204690A (zh) * | 2023-04-28 | 2023-06-02 | 泰力基业股份有限公司 | 一种具有自动灭火功能的配电箱数据传输系统 |
CN116975768A (zh) * | 2023-09-22 | 2023-10-31 | 山东爱福地生物股份有限公司 | 一种肥料安全生产的数据异常检测方法 |
CN116975768B (zh) * | 2023-09-22 | 2023-12-19 | 山东爱福地生物股份有限公司 | 一种肥料安全生产的数据异常检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109213654B (zh) | 2023-01-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109213654A (zh) | 一种异常检测方法及装置 | |
US9465387B2 (en) | Anomaly diagnosis system and anomaly diagnosis method | |
EP3210275B1 (en) | Electrical phase identification | |
CA2634328C (en) | Method and system for trend detection and analysis | |
CN108696368B (zh) | 一种网元健康状态的检测方法及设备 | |
CN111143102B (zh) | 异常数据检测方法、装置、存储介质及电子设备 | |
US20120185180A1 (en) | Method and monitoring apparatus for automated surveillance of a wind turbine and a method for creating a linear model | |
CN107679768B (zh) | 一种基于电网实时数据的态势感知系统及其构建方法 | |
CN107092654B (zh) | 基于均值变化检测的报警正常与异常数据检测方法和装置 | |
CN101713997B (zh) | 风力涡轮机的状态监测方法和系统 | |
CN112735094B (zh) | 基于机器学习的地质灾害预测方法、装置和电子设备 | |
Dong et al. | Frequency prediction of power systems in FNET based on state-space approach and uncertain basis functions | |
US9310345B2 (en) | Sensor system, computer, and machine | |
EP2166422B1 (en) | Method of alarm mask generation and condition monitoring of wind turbines | |
CN109918364B (zh) | 一种基于二维概率密度估计和四分位法的数据清洗方法 | |
CN102789676B (zh) | 一种基于报警证据融合的工业报警器设计方法 | |
EP3936957B1 (en) | Error-based method for calculating a remaining useful life of an apparatus | |
CN115100819B (zh) | 基于大数据分析的滑坡灾害预警方法、装置及电子设备 | |
CN114186194B (zh) | 一种基于空间风暴过程的设计波高计算方法 | |
CN105426647B (zh) | 基于可靠度先验信息融合的冷备系统可靠度估计方法 | |
CN108491439B (zh) | 一种基于历史数据统计特性的遥测缓变参数自动判读方法 | |
CN117574292A (zh) | 一种数据故障检测方法及系统 | |
RU121944U1 (ru) | Автоматизированная система выявления неисправных датчиков среди датчиков, предназначенных для контроля технологических процессов | |
CN113487141B (zh) | 一种多源信息聚类融合的轴承状态评估方法 | |
KR20190125872A (ko) | 관측자료 품질검사 장치 및 이를 이용한 관측자료 품질검사 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |