CN110851338A - 异常检测方法、电子设备及存储介质 - Google Patents

异常检测方法、电子设备及存储介质 Download PDF

Info

Publication number
CN110851338A
CN110851338A CN201910900798.8A CN201910900798A CN110851338A CN 110851338 A CN110851338 A CN 110851338A CN 201910900798 A CN201910900798 A CN 201910900798A CN 110851338 A CN110851338 A CN 110851338A
Authority
CN
China
Prior art keywords
detected
value
data
time point
residual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910900798.8A
Other languages
English (en)
Other versions
CN110851338B (zh
Inventor
陈桢博
金戈
徐亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910900798.8A priority Critical patent/CN110851338B/zh
Priority to PCT/CN2019/117229 priority patent/WO2021056724A1/zh
Publication of CN110851338A publication Critical patent/CN110851338A/zh
Application granted granted Critical
Publication of CN110851338B publication Critical patent/CN110851338B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3447Performance evaluation by modeling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3452Performance evaluation by statistical analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • G06F11/3476Data logging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2433Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Probability & Statistics with Applications (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明提供一种异常检测方法、电子设备及存储介质。该方法能够当接收到异常检测指令时,获取待检测样本,并确定所述待检测样本是否具有周期性,当所述待检测样本具有周期性时,确定待检测时间点,由于并非对所有数据进行检测,提高了检测效率,从所述待检测样本中确定所述待检测时间点对应的采集值,并调取预先训练的异常检测模型,从所述异常检测模型中获取所述采集值对应的期望值,计算所述采集值与所述期望值之间的残差值,进一步基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常,实现智能运维,由于所述异常检测模型是基于S‑H‑ESD建立的多模型,因此使异常检测具有高精度的特性,进而实现对多种异常的自动化检测。

Description

异常检测方法、电子设备及存储介质
技术领域
本发明涉及智能运维技术领域,尤其涉及一种异常检测方法、电子设备及存储介质。
背景技术
在智能运维监测管理中,异常检测是整个环节的重要部分。由于监测指标序列的异常标注难以大量提供,因此现有检测方法以非监督学习算法或者统计算法为主,同时也包括深度学习算法。
而异常检测对算法存在如下两方面要求:
(1)算法的轻量化,以保证算法能够部署于百万量级的指标监测环境。
(2)算法的高精度(包括准确率Precision及召回率recall)。
在现有技术方案中,如果要保证高精度,则要对所有采集到的数据进行分析及处理,由于数据量巨大将导致无法满足轻量化要求,而要满足轻量化要求,则又必须减少处理的数据量,这又将导致无法满足高精度要求,因此,现有技术还无法同时满足轻量化及高精度两方面要求。
发明内容
鉴于以上内容,有必要提供一种异常检测方法、电子设备及存储介质,能够使用户特征的刻画更加全面,且具有更高的灵活性。
一种异常检测方法,所述方法包括:
当接收到异常检测指令时,获取待检测样本;
确定所述待检测样本是否具有周期性;
当所述待检测样本具有周期性时,确定待检测时间点;
从所述待检测样本中确定所述待检测时间点对应的采集值;
调取预先训练的异常检测模型,其中,训练所述异常检测模型包括:从所述待检测时间点前至少一个序列特征的数据中获取满足配置条件的所有数据进行STL分解,得到所述所有数据中每个数据的周期分量,基于所述周期分量,计算所述所有数据的残差均值及残差标准差,并计算所述待检测时间点对应的期望值,得到所述异常检测模型;
从所述异常检测模型中获取所述采集值对应的期望值;
计算所述采集值与所述期望值之间的残差值;
基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
根据本发明优选实施例,从所述待检测时间点前至少一个序列特征的数据中获取满足配置条件的所有数据进行STL分解,所述方法包括:
获取所述待检测时间点前预设时间段内所述至少一个序列特征的所有数据,其中,所述至少一个序列特征包括以下一种或者多种的组合:输出值、斜率、增幅、平均值;
基于傅里叶变换,确定所述所有数据是否具有周期性;
计算所述所有数据的自相关系数;
将所述自相关系数与配置值进行比较;
当所述所有数据具有周期性,且所述自相关系数大于所述配置值时,对所述所有数据进行STL分解。
根据本发明优选实施例,所述基于所述周期分量,计算所述所有数据的残差均值及残差标准差,并计算所述待检测时间点对应的期望值,得到所述异常检测模型,包括:
从所述周期分量中获取与所述待检测时间点对应的目标周期分量;
从所述所有数据中获取与所述待检测时间点对应的目标数据;
计算所述目标数据与所述目标周期分量的差值,得到历史残差;
基于所述历史残差,计算所述所有数据的残差均值及残差标准差;
基于线性插值算法计算所述待检测时间点对应的期望值,得到所述异常检测模型。
根据本发明优选实施例,所述确定基于傅里叶变换,确定所述所有数据是否具有周期性包括:
对所述所有数据进行傅里叶变换;
获取变换后得到的波形的当前振幅;
计算所述所有数据的平均振幅;
当所述当前振幅大于所述平均振幅时,确定所述所有数据具有周期性。
根据本发明优选实施例,所述对所述所有数据进行STL分解,得到所述所有数据中每个数据的周期分量包括:
确定所述至少一个序列特征的等级;
当所述至少一个序列特征的等级为高时,对所述所有数据执行内循环及外循环;或者
当所述至少一个序列特征的等级为低时,对所述所有数据执行内循环。
根据本发明优选实施例,所述基于线性插值算法计算所述待检测时间点对应的期望值包括:
确定所述待检测时间点前预设时间间隔的第一时间点,以及所述待检测时间点后预设时间间隔的第二时间点;
计算所述第一时间点前后各配置时间内采集值的第一平均值,及所述第二时间点前后各配置时间内采集值的第二平均值;
基于下述线性插值公式计算所述期望值:
W=Va+(Vb-Va)*(t-Ta)/(Tb-Ta)
其中,W表示所述期望值,Va表示所述第一平均值,Vb表示所述第二平均值,t表示所述待检测时间点,Ta表示所述第一时间点,Tb表示所述第二时间点。
根据本发明优选实施例,所述基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常包括:
从所述异常检测模型中获取所述残差均值及所述残差标准差;
基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值;
当所述残差值大于或者小于所述阈值时,确定所述待检测样本异常。
根据本发明优选实施例,在确定所述待检测样本异常后,所述方法还包括:
记录所述待检测时间点及所述采集值;
向指定联系人发送警报信息,所述警报信息包括所述待检测时间点及所述采集值。
一种异常检测装置,所述装置包括:
获取单元,用于当接收到异常检测指令时,获取待检测样本;
确定单元,用于确定所述待检测样本是否具有周期性;
所述确定单元,还用于当所述待检测样本具有周期性时,确定待检测时间点;
所述确定单元,还用于从所述待检测样本中确定所述待检测时间点对应的采集值;
调取单元,用于调取预先训练的异常检测模型,其中,训练所述异常检测模型包括:从所述待检测时间点前至少一个序列特征的数据中获取满足配置条件的所有数据进行STL分解,得到所述所有数据中每个数据的周期分量,基于所述周期分量,计算所述所有数据的残差均值及残差标准差,并计算所述待检测时间点对应的期望值,得到所述异常检测模型;
所述获取单元,还用于从所述异常检测模型中获取所述采集值对应的期望值;
计算单元,用于计算所述采集值与所述期望值之间的残差值;
所述确定单元,还用于基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
根据本发明优选实施例,所述获取单元,还用于在训练所述异常检测模型时,获取所述待检测时间点前预设时间段内所述至少一个序列特征的所有数据,其中,所述至少一个序列特征包括以下一种或者多种的组合:输出值、斜率、增幅、平均值;
所述确定单元,还用于基于傅里叶变换,确定所述所有数据是否具有周期性;
所述计算单元,还用于计算所述所有数据的自相关系数;
所述装置还包括:
比较单元,用于将所述自相关系数与配置值进行比较;
分解单元,用于当所述所有数据具有周期性,且所述自相关系数大于所述配置值时,对所述所有数据进行STL分解。
根据本发明优选实施例,所述获取单元,还用于从所述周期分量中获取与所述待检测时间点对应的目标周期分量;
所述获取单元,还用于从所述所有数据中获取与所述待检测时间点对应的目标数据;
所述计算单元,还用于计算所述目标数据与所述目标周期分量的差值,得到历史残差;
所述计算单元,还用于基于所述历史残差,计算所述所有数据的残差均值及残差标准差;
所述计算单元,还用于基于线性插值算法计算所述待检测时间点对应的期望值,得到所述异常检测模型。
根据本发明优选实施例,所述确定单元基于傅里叶变换,确定所述所有数据是否具有周期性包括:
对所述所有数据进行傅里叶变换;
获取变换后得到的波形的当前振幅;
计算所述所有数据的平均振幅;
当所述当前振幅大于所述平均振幅时,确定所述所有数据具有周期性。
根据本发明优选实施例,所述分解单元对所述所有数据进行STL分解,得到所述所有数据中每个数据的周期分量包括:
确定所述至少一个序列特征的等级;
当所述至少一个序列特征的等级为高时,对所述所有数据执行内循环及外循环;或者
当所述至少一个序列特征的等级为低时,对所述所有数据执行内循环。
根据本发明优选实施例,所述计算单元基于线性插值算法计算所述待检测时间点对应的期望值包括:
确定所述待检测时间点前预设时间间隔的第一时间点,以及所述待检测时间点后预设时间间隔的第二时间点;
计算所述第一时间点前后各配置时间内采集值的第一平均值,及所述第二时间点前后各配置时间内采集值的第二平均值;
基于下述线性插值公式计算所述期望值:
W=Va+(Vb-Va)*(t-Ta)/(Tb-Ta)
其中,W表示所述期望值,Va表示所述第一平均值,Vb表示所述第二平均值,t表示所述待检测时间点,Ta表示所述第一时间点,Tb表示所述第二时间点。
根据本发明优选实施例,所述确定单元基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常包括:
从所述异常检测模型中获取所述残差均值及所述残差标准差;
基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值;
当所述残差值大于或者小于所述阈值时,确定所述待检测样本异常。
根据本发明优选实施例,所述装置还包括:
记录单元,用于在确定所述待检测样本异常后,记录所述待检测时间点及所述采集值;
发送单元,用于向指定联系人发送警报信息,所述警报信息包括所述待检测时间点及所述采集值。
一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现所述异常检测方法。
一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现所述异常检测方法。
由以上技术方案可以看出,本发明能够当接收到异常检测指令时,获取待检测样本,并确定所述待检测样本是否具有周期性,当所述待检测样本具有周期性时,确定待检测时间点,由于并非对所有数据进行检测,提高了检测效率,从所述待检测样本中确定所述待检测时间点对应的采集值,并调取预先训练的异常检测模型,从所述异常检测模型中获取所述采集值对应的期望值,计算所述采集值与所述期望值之间的残差值,进一步基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常,由于所述异常检测模型是基于S-H-ESD建立的多模型,因此使异常检测具有高精度的特性,进而实现对多种异常的自动化检测。
附图说明
图1是本发明异常检测方法的较佳实施例的流程图。
图2是本发明异常检测装置的较佳实施例的功能模块图。
图3是本发明实现异常检测方法的较佳实施例的电子设备的结构示意图。
主要元件符号说明
Figure BDA0002211760540000081
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,是本发明异常检测方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
所述异常检测方法应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(Digital SignalProcessor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能式穿戴式设备等。
所述电子设备还可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(CloudComputing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
S10,当接收到异常检测指令时,获取待检测样本。
在本发明的至少一个实施例中,所述异常检测指令可以由相关工作人员触发,也可以配置为定时自动触发,本发明不限制。
例如:为了减少人力成本,同时保证进行正常的异常检测,所述电子设备配置每天12:00定时触发所述异常检测指令。
在本发明的至少一个实施例中,所述待检测样本是指序列数据或者波形数据。
进一步地,所述待检测样本是系统输出的运行数据,通过检测所述待检测样本,能够确定系统是否异常,进而及时采取有效的维护措施,避免由于系统出错导致无法正常输出数据。
S11,确定所述待检测样本是否具有周期性。
在本发明的至少一个实施例中,由于后续的异常检测模型是基于S-H-ESD算法进行建模的,而S-H-ESD算法应用于周期性序列,因此,所述电子设备首先要确定所述待检测样本是否具有周期性。
而所述待检测样本是否具有周期性,是所述待检测样本的一种记录属性,所述电子设备能够直接根据记录的属性确定。
在本发明的至少一个实施例中,当所述电子设备确定所述待检测样本不具备周期性时,所述电子设备还可以采用其他算法(如:统计算法等)对所述待检测样本进行异常检测,本发明在此不赘述。
S12,当所述待检测样本具有周期性时,确定待检测时间点。
在本发明的至少一个实施例中,为了方便检测,提高异常检测的效率,所述电子设备并非对所述待检测样本中的所有数据进行检测,而是对所述待检测样本中部分时间点(即所述待检测时间点)上的数据进行检测。
具体地,所述待检测时间点可以进行自定义配置,本发明不限制。
例如:每个整点、每个半点等。
S13,从所述待检测样本中确定所述待检测时间点对应的采集值。
在本发明的至少一个实施例中,所述采集值是指输出的真实值。
进一步地,所述电子设备在确定了所述待检测时间点后,即可根据所述待检测时间点,从所述待检测样本中抽取出在所述待检测时间点上的采集值,以供后续异常检测使用。
例如:当系统在待检测时间点13:00的输出数据为A时,所述电子设备可以确定13:00的采集值为A。
S14,调取预先训练的异常检测模型。
在本发明的至少一个实施例中,所述异常检测模型是基于S-H-ESD算法训练得到的。
进一步地,所述电子设备在调取预先训练的所述异常检测模型前,所述方法还包括:
所述电子设备训练所述异常检测模型。
具体地,在调取预先训练的异常检测模型前,所述方法还包括:
所述电子设备获取所述待检测时间点前预设时间段内至少一个序列特征的所有数据,并基于傅里叶变换,确定所述所有数据是否具有周期性,所述电子设备计算所述所有数据的自相关系数,并将所述自相关系数与配置值进行比较,当所述所有数据具有周期性,且所述自相关系数大于所述配置值时,所述电子设备对所述所有数据进行以鲁棒局部加权回归作为平滑方法的时间序列分解STL分解(Seasonal and Trend decomposition usingLoess),得到所述所有数据中每个数据的周期分量,所述电子设备从所述周期分量中获取与所述待检测时间点对应的目标周期分量,并从所述所有数据中获取与所述待检测时间点对应的目标数据,进一步地,所述电子设备计算所述目标数据与所述目标周期分量的差值,得到历史残差,并基于所述历史残差,计算所述所有数据的残差均值及残差标准差,所述电子设备基于线性插值算法计算所述待检测时间点对应的期望值,得到所述异常检测模型,并进一步定期更新所述异常检测模型。
其中,所述预设时间段可以进行自定义配置,如:两周、三周等;所述配置值也可以自定义配置,本发明不限制。
进一步地,所述至少一个序列特征可以包括,但不限于以下一种或者多种的组合:
输出值、斜率、增幅、平均值等。
另外,在实际检测中,所述输出值及所述斜率属于常规的检测项目,能够反映出数据的优劣,所述增幅及所述平均值属于可扩展的检测项目,可以根据实际检测需求进行自定义配置。
更进一步地,由于数据是不断变化的,因此,为了保证所述异常检测模型的可用性,所述电子设备对所述异常检测模型进行定期更新。
通过上述实施方式,能够针对所述至少一个序列特征中的每个特征建立一个异常检测子模型,并将所有建立的异常检测子模型集成到一起,构成所述异常检测模型。
可以理解的是,一个序列由多个频率的正弦波与余弦波叠加而成,因此傅里叶变换能够将时序信息转化为频域信息。某频率下波的振幅越大,则该波在原始序列成分中的占比越高。
因此,在本实施例中,如果所述电子设备确定波的振幅成分超过一定阈值,则确定该波对应的待检测样本具有显著周期性。
具体地,所述电子设备基于傅里叶变换,确定所述所有数据是否具有周期性包括:
所述电子设备对所述所有数据进行傅里叶变换,并获取变换后得到的波形的当前振幅,所述电子设备计算所述所有数据的平均振幅,并且,当所述当前振幅大于所述平均振幅时,所述电子设备进一步确定所述所有数据具有周期性。
由于训练得到的所述异常检测模型是一个多模型,因此能够对多种特征的异常进行同时检测。并且,由于所述异常检测模型是调取所述待检测时间点上的数据进行训练的,因此具有轻量化的特性,以适应百万量级的指标监测环境,另外,由于采用了S-H-ESD算法,因此能够同时保证所述异常检测模型的精度。
在本发明的至少一个实施例中,由于STL分解需要较高的运算量,因此,为了在不影响检测结果的前提下,节约运算量,所述电子设备对所述至少一个序列特征中的所有特征进行等级划分,并对不同等级的特征采取不同的运算方式。
具体地,所述电子设备将所述至少一个序列特征的等级划分为高及低。
进一步地,对于需要进行异常检测的常规特征,所述电子设备将其划分为高,而对于并非所有异常检测都需要的次要特征,所述电子设备将其划分为低。
可以理解的是,所述次要特征能够提高异常检测的准确率及覆盖率,对于其他检测无法捕捉到的异常,所述电子设备也可以检测到。
但是,由于所述次要特征的非必要性,因此,为了提高运算效率,降低对内存的消耗,所述电子设备将对不同级别的特征执行不同的STL分解。
具体地,所述对所述所有数据进行STL分解,得到所述所有数据中每个数据的周期分量包括:
所述电子设备确定所述至少一个序列特征的等级,当所述至少一个序列特征的等级为高时,对所述所有数据执行内循环及外循环;或者当所述至少一个序列特征的等级为低时,所述电子设备对所述所有数据执行内循环。
例如:等级高的特征可以包括输出值、斜率等,等级低的特征可以包括增幅、平均值等。
其中,通过所述内循环,所述电子设备能够确定所述待检测样本的周期分量。而所述外循环运行于所述内循环,所述电子设备能够减小极大值或极小值的干扰。
进一步地,所述基于线性插值算法计算所述待检测时间点对应的期望值包括:
所述电子设备确定所述待检测时间点前预设时间间隔的第一时间点,以及所述待检测时间点后预设时间间隔的第二时间点,进一步计算所述第一时间点前后各配置时间内采集值的第一平均值,及所述第二时间点前后各配置时间内采集值的第二平均值,所述电子设备基于下述线性插值公式计算所述期望值:
W=Va+(Vb-Va)*(t-Ta)/(Tb-Ta)
其中,W表示所述期望值,Va表示所述第一平均值,Vb表示所述第二平均值,t表示所述待检测时间点,Ta表示所述第一时间点,Tb表示所述第二时间点。
具体地,为了确保在所述第一时间点及所述第二时间点上所采集数据的准确性,所述电子设备并非只使用在所述第一时间点及所述第二时间点上的采集值,而是通过简单的计算,得到在所述第一时间点前后各配置时间内采集值的第一平均值,及所述第二时间点前后各配置时间内采集值的第二平均值,并以所述第一平均值及所述第二平均值进行后续计算。
例如:当所述第一时间点为12:00时,所述电子设备获取到12:00上的采集值为x,同时获取到11:59上的采集值为y,12:01上的采集值为z,则所述电子设备确定所述第一时间点12:00的第一平均值为(x+y+z)/3。
进一步地,在本实施例中,所述预设时间间隔可以进行自定义配置,如1小时、半小时等。
S15,从所述异常检测模型中获取所述采集值对应的期望值。
在本发明的至少一个实施例中,所述期望值属于所述异常检测模型的输出之一,以线性插值算法计算得到,因此,所述电子设备能够直接从所述异常检测模型中获取所述期望值。
S16,计算所述采集值与所述期望值之间的残差值。
在本发明的至少一个实施例中,通过所述残差值能够映出所述采集值与所述期望值之间的差异。
具体地,所述电子设备计算所述采集值与所述期望值之间的残差值包括:
所述电子设备计算所述采集值与所述期望值的差值,并以计算得到的差值作为所述残差值。
S17,基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
在本发明的至少一个实施例中,所述异常检测模型能够提供判断异常的依据,即所述残差均值及所述残差标准差。
具体地,所述基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常包括:
所述电子设备从所述异常检测模型中获取所述残差均值及所述残差标准差,并基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值,当所述残差值大于或者小于所述阈值时,所述电子设备确定所述待检测样本异常。
其中,n的取值可以进行自定义配置,对于等级为高的特征,可以设置较低的阈值,以提高异常检测的敏感性,而对于等级为低的特征,可以设置较高的阈值,以提高对异常的容忍度,避免误报。
进一步地,所述电子设备基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值包括:
所述电子设备计算所述残差标准差与所述n的乘积,并进一步计算所述乘积与所述残差均值的和,得到所述阈值。
可以理解的是,当所述残差值大于或者小于所述阈值时,说明所述残差值偏离了所述阈值,因此,所述电子设备确定所述待检测样本异常。
在本发明的至少一个实施例中,在确定所述待检测样本异常后,所述方法还包括:
所述电子设备记录所述待检测时间点及所述采集值,并向指定联系人发送警报信息,所述警报信息包括所述待检测时间点及所述采集值。
其中,所述指定联系人可以进行自定义配置,如:运维人员、开发人员、相关负责人等。
通过上述实施方式,能够在检测到异常时及时上报,间接提高了运维效率,有效降低异常的不良影响。
由以上技术方案可以看出,本发明能够当接收到异常检测指令时,获取待检测样本,并确定所述待检测样本是否具有周期性,当所述待检测样本具有周期性时,确定待检测时间点,由于并非对所有数据进行检测,提高了检测效率,从所述待检测样本中确定所述待检测时间点对应的采集值,并调取预先训练的异常检测模型,从所述异常检测模型中获取所述采集值对应的期望值,计算所述采集值与所述期望值之间的残差值,进一步基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常,由于所述异常检测模型是基于S-H-ESD建立的多模型,因此使异常检测具有高精度的特性,进而实现对多种异常的自动化检测。
如图2所示,是本发明异常检测装置的较佳实施例的功能模块图。所述异常检测装置11包括获取单元110、确定单元111、调取单元112、计算单元113、比较单元114、分解单元115、更新单元116、记录单元117以及发送单元118。本发明所称的模块/单元是指一种能够被处理器13所执行,并且能够完成固定功能的一系列计算机程序段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
当接收到异常检测指令时,获取单元110获取待检测样本。
在本发明的至少一个实施例中,所述异常检测指令可以由相关工作人员触发,也可以配置为定时自动触发,本发明不限制。
例如:为了减少人力成本,同时保证进行正常的异常检测,配置每天12:00定时触发所述异常检测指令。
在本发明的至少一个实施例中,所述待检测样本是指序列数据或者波形数据。
进一步地,所述待检测样本是系统输出的运行数据,通过检测所述待检测样本,能够确定系统是否异常,进而及时采取有效的维护措施,避免由于系统出错导致无法正常输出数据。
确定单元111确定所述待检测样本是否具有周期性。
在本发明的至少一个实施例中,由于后续的异常检测模型是基于S-H-ESD算法进行建模的,而S-H-ESD算法应用于周期性序列,因此,所述确定单元111首先要确定所述待检测样本是否具有周期性。
而所述待检测样本是否具有周期性,是所述待检测样本的一种记录属性,所述确定单元111能够直接根据记录的属性确定。
在本发明的至少一个实施例中,当所述确定单元111确定所述待检测样本不具备周期性时,还可以采用其他算法(如:统计算法等)对所述待检测样本进行异常检测,本发明在此不赘述。
当所述待检测样本具有周期性时,所述确定单元111确定待检测时间点。
在本发明的至少一个实施例中,为了方便检测,提高异常检测的效率,并非对所述待检测样本中的所有数据进行检测,而是对所述待检测样本中部分时间点(即所述待检测时间点)上的数据进行检测。
具体地,所述待检测时间点可以进行自定义配置,本发明不限制。
例如:每个整点、每个半点等。
所述确定单元111从所述待检测样本中确定所述待检测时间点对应的采集值。
在本发明的至少一个实施例中,所述采集值是指输出的真实值。
进一步地,所述确定单元111在确定了所述待检测时间点后,即可根据所述待检测时间点,从所述待检测样本中抽取出在所述待检测时间点上的采集值,以供后续异常检测使用。
例如:当系统在待检测时间点13:00的输出数据为A时,所述确定单元111可以确定13:00的采集值为A。
调取单元112调取预先训练的异常检测模型。
在本发明的至少一个实施例中,所述异常检测模型是基于S-H-ESD算法训练得到的。
进一步地,所述调取单元112在调取预先训练的所述异常检测模型前,所述方法还包括:
训练所述异常检测模型。
具体地,在调取预先训练的异常检测模型前,所述方法还包括:
所述获取单元110获取所述待检测时间点前预设时间段内至少一个序列特征的所有数据,所述确定单元111基于傅里叶变换,确定所述所有数据是否具有周期性,计算单元113计算所述所有数据的自相关系数,比较单元114将所述自相关系数与配置值进行比较,当所述所有数据具有周期性,且所述自相关系数大于所述配置值时,分解单元115对所述所有数据进行以鲁棒局部加权回归作为平滑方法的时间序列分解STL分解(Seasonal andTrend decomposition using Loess),得到所述所有数据中每个数据的周期分量,所述获取单元110从所述周期分量中获取与所述待检测时间点对应的目标周期分量,并从所述所有数据中获取与所述待检测时间点对应的目标数据,进一步地,所述计算单元113计算所述目标数据与所述目标周期分量的差值,得到历史残差,并基于所述历史残差,计算所述所有数据的残差均值及残差标准差,所述计算单元113基于线性插值算法计算所述待检测时间点对应的期望值,得到所述异常检测模型,更新单元116进一步定期更新所述异常检测模型。
其中,所述预设时间段可以进行自定义配置,如:两周、三周等;所述配置值也可以自定义配置,本发明不限制。
进一步地,所述至少一个序列特征可以包括,但不限于以下一种或者多种的组合:
输出值、斜率、增幅、平均值等。
另外,在实际检测中,所述输出值及所述斜率属于常规的检测项目,能够反映出数据的优劣,所述增幅及所述平均值属于可扩展的检测项目,可以根据实际检测需求进行自定义配置。
更进一步地,由于数据是不断变化的,因此,为了保证所述异常检测模型的可用性,所述更新单元116对所述异常检测模型进行定期更新。
通过上述实施方式,能够针对所述至少一个序列特征中的每个特征建立一个异常检测子模型,并将所有建立的异常检测子模型集成到一起,构成所述异常检测模型。
可以理解的是,一个序列由多个频率的正弦波与余弦波叠加而成,因此傅里叶变换能够将时序信息转化为频域信息。某频率下波的振幅越大,则该波在原始序列成分中的占比越高。
因此,在本实施例中,如果所述确定单元111确定波的振幅成分超过一定阈值,则确定该波对应的待检测样本具有显著周期性。
具体地,所述确定单元111基于傅里叶变换,确定所述所有数据是否具有周期性包括:
所述确定单元111对所述所有数据进行傅里叶变换,并获取变换后得到的波形的当前振幅,所述确定单元111计算所述所有数据的平均振幅,并且,当所述当前振幅大于所述平均振幅时,所述确定单元111进一步确定所述所有数据具有周期性。
由于训练得到的所述异常检测模型是一个多模型,因此能够对多种特征的异常进行同时检测。并且,由于所述异常检测模型是调取所述待检测时间点上的数据进行训练的,因此具有轻量化的特性,以适应百万量级的指标监测环境,另外,由于采用了S-H-ESD算法,因此能够同时保证所述异常检测模型的精度。
在本发明的至少一个实施例中,由于STL分解需要较高的运算量,因此,为了在不影响检测结果的前提下,节约运算量,对所述至少一个序列特征中的所有特征进行等级划分,并对不同等级的特征采取不同的运算方式。
具体地,将所述至少一个序列特征的等级划分为高及低。
进一步地,对于需要进行异常检测的常规特征,将其划分为高,而对于并非所有异常检测都需要的次要特征,将其划分为低。
可以理解的是,所述次要特征能够提高异常检测的准确率及覆盖率,对于其他检测无法捕捉到的异常,也可以检测到。
但是,由于所述次要特征的非必要性,因此,为了提高运算效率,降低对内存的消耗,将对不同级别的特征执行不同的STL分解。
具体地,所述对所述所有数据进行STL分解,得到所述所有数据中每个数据的周期分量包括:
所述分解单元115确定所述至少一个序列特征的等级,当所述至少一个序列特征的等级为高时,对所述所有数据执行内循环及外循环;或者当所述至少一个序列特征的等级为低时,所述分解单元115对所述所有数据执行内循环。
例如:等级高的特征可以包括输出值、斜率等,等级低的特征可以包括增幅、平均值等。
其中,通过所述内循环,能够确定所述待检测样本的周期分量。而所述外循环运行于所述内循环,能够减小极大值或极小值的干扰。
进一步地,所述基于线性插值算法计算所述待检测时间点对应的期望值包括:
所述计算单元113确定所述待检测时间点前预设时间间隔的第一时间点,以及所述待检测时间点后预设时间间隔的第二时间点,进一步计算所述第一时间点前后各配置时间内采集值的第一平均值,及所述第二时间点前后各配置时间内采集值的第二平均值,所述计算单元113基于下述线性插值公式计算所述期望值:
W=Va+(Vb-Va)*(t-Ta)/(Tb-Ta)
其中,W表示所述期望值,Va表示所述第一平均值,Vb表示所述第二平均值,t表示所述待检测时间点,Ta表示所述第一时间点,Tb表示所述第二时间点。
具体地,为了确保在所述第一时间点及所述第二时间点上所采集数据的准确性,所述计算单元113并非只使用在所述第一时间点及所述第二时间点上的采集值,而是通过简单的计算,得到在所述第一时间点前后各配置时间内采集值的第一平均值,及所述第二时间点前后各配置时间内采集值的第二平均值,并以所述第一平均值及所述第二平均值进行后续计算。
例如:当所述第一时间点为12:00时,所述计算单元113获取到12:00上的采集值为x,同时获取到11:59上的采集值为y,12:01上的采集值为z,则所述计算单元113确定所述第一时间点12:00的第一平均值为(x+y+z)/3。
进一步地,在本实施例中,所述预设时间间隔可以进行自定义配置,如1小时、半小时等。
所述获取单元110从所述异常检测模型中获取所述采集值对应的期望值。
在本发明的至少一个实施例中,所述期望值属于所述异常检测模型的输出之一,以线性插值算法计算得到,因此,所述获取单元110能够直接从所述异常检测模型中获取所述期望值。
所述计算单元113计算所述采集值与所述期望值之间的残差值。
在本发明的至少一个实施例中,通过所述残差值能够映出所述采集值与所述期望值之间的差异。
具体地,所述计算单元113计算所述采集值与所述期望值之间的残差值包括:
所述计算单元113计算所述采集值与所述期望值的差值,并以计算得到的差值作为所述残差值。
所述确定单元111基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
在本发明的至少一个实施例中,所述异常检测模型能够提供判断异常的依据,即所述残差均值及所述残差标准差。
具体地,所述确定单元111基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常包括:
所述确定单元111从所述异常检测模型中获取所述残差均值及所述残差标准差,并基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值,当所述残差值大于或者小于所述阈值时,所述确定单元111确定所述待检测样本异常。
其中,n的取值可以进行自定义配置,对于等级为高的特征,可以设置较低的阈值,以提高异常检测的敏感性,而对于等级为低的特征,可以设置较高的阈值,以提高对异常的容忍度,避免误报。
进一步地,所述确定单元111基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值包括:
所述确定单元111计算所述残差标准差与所述n的乘积,并进一步计算所述乘积与所述残差均值的和,得到所述阈值。
可以理解的是,当所述残差值大于或者小于所述阈值时,说明所述残差值偏离了所述阈值,因此,所述确定单元111确定所述待检测样本异常。
在本发明的至少一个实施例中,在确定所述待检测样本异常后,所述方法还包括:
记录单元117记录所述待检测时间点及所述采集值,发送单元118向指定联系人发送警报信息,所述警报信息包括所述待检测时间点及所述采集值。
其中,所述指定联系人可以进行自定义配置,如:运维人员、开发人员、相关负责人等。
通过上述实施方式,能够在检测到异常时及时上报,间接提高了运维效率,有效降低异常的不良影响。
由以上技术方案可以看出,本发明能够当接收到异常检测指令时,获取待检测样本,并确定所述待检测样本是否具有周期性,当所述待检测样本具有周期性时,确定待检测时间点,由于并非对所有数据进行检测,提高了检测效率,从所述待检测样本中确定所述待检测时间点对应的采集值,并调取预先训练的异常检测模型,从所述异常检测模型中获取所述采集值对应的期望值,计算所述采集值与所述期望值之间的残差值,进一步基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常,由于所述异常检测模型是基于S-H-ESD建立的多模型,因此使异常检测具有高精度的特性,进而实现对多种异常的自动化检测。
如图3所示,是本发明实现异常检测方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中,所述电子设备1包括,但不限于,存储器12、处理器13,以及存储在所述存储器12中并可在所述处理器13上运行的计算机程序,例如异常检测程序。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器13是所述电子设备1的运算核心和控制中心,利用各种接口和线路连接整个电子设备1的各个部分,及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
所述处理器13执行所述电子设备1的操作系统以及安装的各类应用程序。所述处理器13执行所述应用程序以实现上述各个异常检测方法实施例中的步骤,例如图1所示的步骤S10、S11、S12、S13、S14、S15、S16、S17。
或者,所述处理器13执行所述计算机程序时实现上述各装置实施例中各模块/单元的功能,例如:当接收到异常检测指令时,获取待检测样本;确定所述待检测样本是否具有周期性;当所述待检测样本具有周期性时,确定待检测时间点;从所述待检测样本中确定所述待检测时间点对应的采集值;调取预先训练的异常检测模型;从所述异常检测模型中获取所述采集值对应的期望值;计算所述采集值与所述期望值之间的残差值;基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器12中,并由所述处理器13执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述电子设备1中的执行过程。例如,所述计算机程序可以被分割成获取单元110、确定单元111、调取单元112、计算单元113、比较单元114、分解单元115、更新单元116、记录单元117以及发送单元118。
所述存储器12可用于存储所述计算机程序和/或模块,所述处理器13通过运行或执行存储在所述存储器12内的计算机程序和/或模块,以及调用存储在存储器12内的数据,实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据(比如音频数据等)等。此外,存储器12可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地,所述存储器12可以是集成电路中没有实物形式的具有存储功能的电路,如、FIFO(First InFirst Out,)等。或者,所述存储器12也可以是具有实物形式的存储器,如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
结合图1,所述电子设备1中的所述存储器12存储多个指令以实现一种异常检测方法,所述处理器13可执行所述多个指令从而实现:当接收到异常检测指令时,获取待检测样本;确定所述待检测样本是否具有周期性;当所述待检测样本具有周期性时,确定待检测时间点;从所述待检测样本中确定所述待检测时间点对应的采集值;调取预先训练的异常检测模型;从所述异常检测模型中获取所述采集值对应的期望值;计算所述采集值与所述期望值之间的残差值;基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
具体地,所述处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种异常检测方法,其特征在于,所述方法包括:
当接收到异常检测指令时,获取待检测样本;
确定所述待检测样本是否具有周期性;
当所述待检测样本具有周期性时,确定待检测时间点;
从所述待检测样本中确定所述待检测时间点对应的采集值;
调取预先训练的异常检测模型,其中,训练所述异常检测模型包括:从所述待检测时间点前至少一个序列特征的数据中获取满足配置条件的所有数据进行STL分解,得到所述所有数据中每个数据的周期分量,基于所述周期分量,计算所述所有数据的残差均值及残差标准差,并计算所述待检测时间点对应的期望值,得到所述异常检测模型;
从所述异常检测模型中获取所述采集值对应的期望值;
计算所述采集值与所述期望值之间的残差值;
基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常。
2.如权利要求1所述的异常检测方法,其特征在于,从所述待检测时间点前至少一个序列特征的数据中获取满足配置条件的所有数据进行STL分解,所述方法包括:
获取所述待检测时间点前预设时间段内所述至少一个序列特征的所有数据,其中,所述至少一个序列特征包括以下一种或者多种的组合:输出值、斜率、增幅、平均值;
基于傅里叶变换,确定所述所有数据是否具有周期性;
计算所述所有数据的自相关系数;
将所述自相关系数与配置值进行比较;
当所述所有数据具有周期性,且所述自相关系数大于所述配置值时,对所述所有数据进行STL分解。
3.如权利要求2所述的异常检测方法,其特征在于,所述基于所述周期分量,计算所述所有数据的残差均值及残差标准差,并计算所述待检测时间点对应的期望值,得到所述异常检测模型,包括:
从所述周期分量中获取与所述待检测时间点对应的目标周期分量;
从所述所有数据中获取与所述待检测时间点对应的目标数据;
计算所述目标数据与所述目标周期分量的差值,得到历史残差;
基于所述历史残差,计算所述所有数据的残差均值及残差标准差;
基于线性插值算法计算所述待检测时间点对应的期望值,得到所述异常检测模型。
4.如权利要求2所述的异常检测方法,其特征在于,所述基于傅里叶变换,确定所述所有数据是否具有周期性包括:
对所述所有数据进行傅里叶变换;
获取变换后得到的波形的当前振幅;
计算所述所有数据的平均振幅;
当所述当前振幅大于所述平均振幅时,确定所述所有数据具有周期性。
5.如权利要求2所述的异常检测方法,其特征在于,所述对所述所有数据进行STL分解包括:
确定所述至少一个序列特征的等级;
当所述至少一个序列特征的等级为高时,对所述所有数据执行内循环及外循环;或者
当所述至少一个序列特征的等级为低时,对所述所有数据执行内循环。
6.如权利要求3所述的异常检测方法,其特征在于,所述基于线性插值算法计算所述待检测时间点对应的期望值包括:
确定所述待检测时间点前预设时间间隔的第一时间点,以及所述待检测时间点后预设时间间隔的第二时间点;
计算所述第一时间点上前后各配置时间内采集值的第一平均值,及所述第二时间点上前后各配置时间内采集值的第二平均值;
基于下述线性插值公式计算所述期望值:
W=Va+(Vb-Va)*(t-Ta)/(Tb-Ta)
其中,W表示所述期望值,Va表示所述第一平均值,Vb表示所述第二平均值,t表示所述待检测时间点,Ta表示所述第一时间点,Tb表示所述第二时间点。
7.如权利要求1所述的异常检测方法,其特征在于,所述基于所述异常检测模型及所述残差值,确定所述待检测样本是否异常包括:
从所述异常检测模型中获取所述残差均值及所述残差标准差;
基于n-sigma原理,根据所述残差均值及所述残差标准差计算阈值;
当所述残差值大于或者小于所述阈值时,确定所述待检测样本异常。
8.如权利要求1所述的异常检测方法,其特征在于,在确定所述待检测样本异常后,所述方法还包括:
记录所述待检测时间点及所述采集值;
向指定联系人发送警报信息,所述警报信息包括所述待检测时间点及所述采集值。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现如权利要求1至7中任意一项所述的异常检测方法。
10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的异常检测方法。
CN201910900798.8A 2019-09-23 2019-09-23 异常检测方法、电子设备及存储介质 Active CN110851338B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201910900798.8A CN110851338B (zh) 2019-09-23 2019-09-23 异常检测方法、电子设备及存储介质
PCT/CN2019/117229 WO2021056724A1 (zh) 2019-09-23 2019-11-11 异常检测方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910900798.8A CN110851338B (zh) 2019-09-23 2019-09-23 异常检测方法、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN110851338A true CN110851338A (zh) 2020-02-28
CN110851338B CN110851338B (zh) 2022-06-24

Family

ID=69596013

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910900798.8A Active CN110851338B (zh) 2019-09-23 2019-09-23 异常检测方法、电子设备及存储介质

Country Status (2)

Country Link
CN (1) CN110851338B (zh)
WO (1) WO2021056724A1 (zh)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111459778A (zh) * 2020-03-12 2020-07-28 平安科技(深圳)有限公司 运维系统异常指标检测模型优化方法、装置及存储介质
CN111457999A (zh) * 2020-04-10 2020-07-28 上海东普信息科技有限公司 快递称重异常核查方法、装置、设备及存储介质
CN111858231A (zh) * 2020-05-11 2020-10-30 北京必示科技有限公司 一种基于运维监控的单指标异常检测方法
CN112148577A (zh) * 2020-10-09 2020-12-29 平安科技(深圳)有限公司 数据异常检测方法、装置、电子设备及存储介质
CN112329847A (zh) * 2020-11-03 2021-02-05 北京神州泰岳软件股份有限公司 一种异常检测方法、装置、电子设备及存储介质
CN112508922A (zh) * 2020-12-14 2021-03-16 深圳精智达技术股份有限公司 Mura检测方法、装置、终端设备以及存储介质
CN112699163A (zh) * 2020-12-25 2021-04-23 创新奇智(青岛)科技有限公司 时间序列异常检测方法、装置、电子设备及存储介质
CN112783744A (zh) * 2021-01-28 2021-05-11 深信服科技股份有限公司 数据检测方法、装置、设备、存储介质
CN112800068A (zh) * 2021-02-22 2021-05-14 首钢京唐钢铁联合有限责任公司 一种能源计量数据自动处理的方法及装置
CN112966016A (zh) * 2021-03-01 2021-06-15 北京青萌数海科技有限公司 一种异常检测方法
CN112965876A (zh) * 2021-03-10 2021-06-15 中国民航信息网络股份有限公司 一种监控报警方法及装置
CN112966222A (zh) * 2021-03-10 2021-06-15 中国民航信息网络股份有限公司 一种时间序列异常数据检测方法及相关设备
CN113139586A (zh) * 2021-03-31 2021-07-20 同济大学 模型训练方法、设备异常诊断方法、电子设备及介质
CN113434823A (zh) * 2021-08-26 2021-09-24 企查查科技有限公司 数据采集任务异常预警方法、装置、计算机设备和介质
CN113515684A (zh) * 2020-04-09 2021-10-19 阿里巴巴集团控股有限公司 一种异常数据检测方法及装置
CN113514713A (zh) * 2020-04-10 2021-10-19 中车唐山机车车辆有限公司 动车组牵引变流器性能检测方法、装置及终端设备
CN113568950A (zh) * 2021-07-29 2021-10-29 北京字节跳动网络技术有限公司 一种指标检测方法、装置、设备及介质
CN113688125A (zh) * 2021-08-24 2021-11-23 平安国际智慧城市科技股份有限公司 基于人工智能的异常值检测方法、装置、电子设备及介质
CN115392812A (zh) * 2022-10-31 2022-11-25 成都飞机工业(集团)有限责任公司 一种异常根因定位方法、装置、设备及介质
CN115994248A (zh) * 2023-03-24 2023-04-21 青岛精锐机械制造有限公司 阀门故障的数据检测方法及系统
CN116108008A (zh) * 2023-04-13 2023-05-12 山东明远生物科技有限公司 一种装饰材料甲醛检测数据处理方法
CN117129236A (zh) * 2023-09-11 2023-11-28 深邦智能科技集团(青岛)有限公司 基于远程控制的机动车设备标定检测方法及系统

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113128598B (zh) * 2021-04-22 2024-04-09 深信服科技股份有限公司 一种传感数据检测方法、装置、设备及可读存储介质
CN113220771B (zh) * 2021-05-10 2022-11-08 西安热工研究院有限公司 一种基于电厂历史数据自动采集运行工况的方法
CN113450000B (zh) * 2021-07-01 2024-06-14 中国工商银行股份有限公司 一种指标数据异常检测方法和装置
CN113642601B (zh) * 2021-07-02 2023-11-17 国网江苏省电力有限公司电力科学研究院 一种中压配电网转供操作识别方法、装置以及设备
CN113535452A (zh) * 2021-07-12 2021-10-22 浙江讯飞智能科技有限公司 数据检测方法、装置、电子设备和存储介质
CN113553239B (zh) * 2021-07-27 2023-02-28 重庆紫光华山智安科技有限公司 异常数据检测方法及相关装置
CN113746862A (zh) * 2021-09-14 2021-12-03 恒安嘉新(北京)科技股份公司 一种基于机器学习的异常流量检测方法、装置和设备
CN113779886A (zh) * 2021-09-18 2021-12-10 天津商科数控技术股份有限公司 基于深度学习的焊点质量异常检测方法、装置、系统
CN114239708B (zh) * 2021-12-13 2023-04-07 中国船舶重工集团公司第七0三研究所 一种基于质量控制图理论的燃机异常检测方法
CN114338533B (zh) * 2021-12-30 2024-05-28 广东明创软件科技有限公司 一种调整方法、电子设备及计算机存储介质
CN114518133A (zh) * 2022-01-13 2022-05-20 首钢京唐钢铁联合有限责任公司 传感器数值跳变的检测方法、装置、电子设备及存储介质
CN115328723A (zh) * 2022-04-29 2022-11-11 上海鼎茂信息技术有限公司 一种自适应基带优化的时序异常检测方法及系统
CN114881167B (zh) * 2022-05-24 2023-06-20 北京百度网讯科技有限公司 异常检测方法、装置、电子设备和介质
CN114881269B (zh) * 2022-07-13 2022-09-27 山东恩信特种车辆制造有限公司 一种用于物料输送管路的异常检测方法及装置
CN115980281B (zh) * 2023-03-16 2023-07-18 深圳奥雅设计股份有限公司 一种基于碳中和的碳源检测方法及系统
CN117041018B (zh) * 2023-10-09 2024-01-02 中电科大数据研究院有限公司 一种数据中心远程智能运维管理方法及相关设备
CN117077066B (zh) * 2023-10-17 2024-03-12 合肥联宝信息技术有限公司 波形异常检测方法、装置、电子设备及存储介质
CN117370917B (zh) * 2023-12-07 2024-02-23 城光(湖南)节能环保服务股份有限公司 一种城市智慧路灯寿命预测方法及系统
CN117421610B (zh) * 2023-12-19 2024-03-15 山东德源电力科技股份有限公司 一种用于电能表运行状态预警的数据异常分析方法
CN118536046A (zh) * 2024-07-18 2024-08-23 青岛鼎信通讯股份有限公司 电能表采样信号异常跳变识别方法、装置、电能表及介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180032903A1 (en) * 2016-07-28 2018-02-01 International Business Machines Corporation Optimized re-training for analytic models
CN108804703A (zh) * 2018-06-19 2018-11-13 北京焦点新干线信息技术有限公司 一种数据异常检测方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6221196B1 (ja) * 2017-03-15 2017-11-01 株式会社ウフル ログ管理システム、ログ管理装置、方法及びコンピュータプログラム
CN110008080B (zh) * 2018-12-25 2023-08-11 创新先进技术有限公司 基于时间序列的业务指标异常检测方法、装置和电子设备
CN110008079A (zh) * 2018-12-25 2019-07-12 阿里巴巴集团控股有限公司 监控指标异常检测方法、模型训练方法、装置及设备
CN109862129A (zh) * 2018-12-26 2019-06-07 中国互联网络信息中心 Dns流量异常检测方法、装置、电子设备及存储介质
CN110134566A (zh) * 2019-04-29 2019-08-16 国网上海市电力公司 一种基于标签技术的云环境下信息系统性能监测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180032903A1 (en) * 2016-07-28 2018-02-01 International Business Machines Corporation Optimized re-training for analytic models
CN108804703A (zh) * 2018-06-19 2018-11-13 北京焦点新干线信息技术有限公司 一种数据异常检测方法及装置

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111459778B (zh) * 2020-03-12 2024-05-07 平安科技(深圳)有限公司 运维系统异常指标检测模型优化方法、装置及存储介质
CN111459778A (zh) * 2020-03-12 2020-07-28 平安科技(深圳)有限公司 运维系统异常指标检测模型优化方法、装置及存储介质
CN113515684A (zh) * 2020-04-09 2021-10-19 阿里巴巴集团控股有限公司 一种异常数据检测方法及装置
CN111457999A (zh) * 2020-04-10 2020-07-28 上海东普信息科技有限公司 快递称重异常核查方法、装置、设备及存储介质
CN113514713B (zh) * 2020-04-10 2022-12-20 中车唐山机车车辆有限公司 动车组牵引变流器性能检测方法、装置及终端设备
CN111457999B (zh) * 2020-04-10 2022-04-01 上海东普信息科技有限公司 快递称重异常核查方法、装置、设备及存储介质
CN113514713A (zh) * 2020-04-10 2021-10-19 中车唐山机车车辆有限公司 动车组牵引变流器性能检测方法、装置及终端设备
CN111858231A (zh) * 2020-05-11 2020-10-30 北京必示科技有限公司 一种基于运维监控的单指标异常检测方法
CN112148577A (zh) * 2020-10-09 2020-12-29 平安科技(深圳)有限公司 数据异常检测方法、装置、电子设备及存储介质
CN112148577B (zh) * 2020-10-09 2024-05-07 平安科技(深圳)有限公司 数据异常检测方法、装置、电子设备及存储介质
CN112329847A (zh) * 2020-11-03 2021-02-05 北京神州泰岳软件股份有限公司 一种异常检测方法、装置、电子设备及存储介质
CN112508922A (zh) * 2020-12-14 2021-03-16 深圳精智达技术股份有限公司 Mura检测方法、装置、终端设备以及存储介质
CN112699163A (zh) * 2020-12-25 2021-04-23 创新奇智(青岛)科技有限公司 时间序列异常检测方法、装置、电子设备及存储介质
CN112783744A (zh) * 2021-01-28 2021-05-11 深信服科技股份有限公司 数据检测方法、装置、设备、存储介质
CN112800068A (zh) * 2021-02-22 2021-05-14 首钢京唐钢铁联合有限责任公司 一种能源计量数据自动处理的方法及装置
CN112966016A (zh) * 2021-03-01 2021-06-15 北京青萌数海科技有限公司 一种异常检测方法
CN112966222B (zh) * 2021-03-10 2024-06-21 中国民航信息网络股份有限公司 一种时间序列异常数据检测方法及相关设备
CN112966222A (zh) * 2021-03-10 2021-06-15 中国民航信息网络股份有限公司 一种时间序列异常数据检测方法及相关设备
CN112965876A (zh) * 2021-03-10 2021-06-15 中国民航信息网络股份有限公司 一种监控报警方法及装置
CN113139586A (zh) * 2021-03-31 2021-07-20 同济大学 模型训练方法、设备异常诊断方法、电子设备及介质
CN113139586B (zh) * 2021-03-31 2022-09-23 同济大学 模型训练方法、设备异常诊断方法、电子设备及介质
CN113568950A (zh) * 2021-07-29 2021-10-29 北京字节跳动网络技术有限公司 一种指标检测方法、装置、设备及介质
CN113688125B (zh) * 2021-08-24 2023-12-05 平安国际智慧城市科技股份有限公司 基于人工智能的异常值检测方法、装置、电子设备及介质
CN113688125A (zh) * 2021-08-24 2021-11-23 平安国际智慧城市科技股份有限公司 基于人工智能的异常值检测方法、装置、电子设备及介质
CN113434823B (zh) * 2021-08-26 2021-11-16 企查查科技有限公司 数据采集任务异常预警方法、装置、计算机设备和介质
CN113434823A (zh) * 2021-08-26 2021-09-24 企查查科技有限公司 数据采集任务异常预警方法、装置、计算机设备和介质
CN115392812A (zh) * 2022-10-31 2022-11-25 成都飞机工业(集团)有限责任公司 一种异常根因定位方法、装置、设备及介质
CN115392812B (zh) * 2022-10-31 2023-03-24 成都飞机工业(集团)有限责任公司 一种异常根因定位方法、装置、设备及介质
CN115994248A (zh) * 2023-03-24 2023-04-21 青岛精锐机械制造有限公司 阀门故障的数据检测方法及系统
CN115994248B (zh) * 2023-03-24 2023-06-20 青岛精锐机械制造有限公司 阀门故障的数据检测方法及系统
CN116108008A (zh) * 2023-04-13 2023-05-12 山东明远生物科技有限公司 一种装饰材料甲醛检测数据处理方法
CN117129236A (zh) * 2023-09-11 2023-11-28 深邦智能科技集团(青岛)有限公司 基于远程控制的机动车设备标定检测方法及系统
CN117129236B (zh) * 2023-09-11 2024-03-26 深邦智能科技集团(青岛)有限公司 基于远程控制的机动车设备标定检测方法及系统

Also Published As

Publication number Publication date
WO2021056724A1 (zh) 2021-04-01
CN110851338B (zh) 2022-06-24

Similar Documents

Publication Publication Date Title
CN110851338B (zh) 异常检测方法、电子设备及存储介质
CN107086944B (zh) 一种异常检测方法和装置
CN104350471B (zh) 在处理环境中实时地检测异常的方法和系统
CN113518011B (zh) 异常检测方法和装置、电子设备及计算机可读存储介质
CN111475804A (zh) 一种告警预测方法及系统
US20190220339A1 (en) Hybrid and hierarchical outlier detection system and method for large scale data protection
US8140454B2 (en) Systems and/or methods for prediction and/or root cause analysis of events based on business activity monitoring related data
CN110266552B (zh) 流量异常检测的方法、模型训练方法和装置
CN112329847A (zh) 一种异常检测方法、装置、电子设备及存储介质
CN105071983A (zh) 一种面向云计算在线业务的异常负载检测方法
CN114465874B (zh) 故障预测方法、装置、电子设备与存储介质
CN112988509B (zh) 一种告警消息过滤方法、装置、电子设备及存储介质
CN107003992A (zh) 用于神经语言行为识别系统的感知联想记忆
CN106030565B (zh) 使用搜索技术的计算机性能预测
CN111310139A (zh) 行为数据识别方法、装置及存储介质
CN114241270A (zh) 一种家庭护理智能监督方法、系统及装置
CN114579554A (zh) 运维时间序列数据处理方法及装置、存储介质及电子设备
Guigou et al. SCHEDA: Lightweight euclidean-like heuristics for anomaly detection in periodic time series
US20240098008A1 (en) Detecting behavioral change of iot devices using novelty detection based behavior traffic modeling
US20170293608A1 (en) Unusual score generators for a neuro-linguistic behavioral recognition system
CN116662904A (zh) 数据类型的变异检测方法、装置、计算机设备及介质
CN112380073A (zh) 一种故障位置的检测方法、装置及可读存储介质
Amor et al. Recursive and rolling windows for medical time series forecasting: a comparative study
CN110263811B (zh) 一种基于数据融合的设备运行状态监测方法及系统
Hugueny et al. Novelty detection with multivariate extreme value theory, part II: an analytical approach to unimodal estimation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant