CN112311611B - 数据异常的监测方法、装置和电子设备 - Google Patents

数据异常的监测方法、装置和电子设备 Download PDF

Info

Publication number
CN112311611B
CN112311611B CN201910687794.6A CN201910687794A CN112311611B CN 112311611 B CN112311611 B CN 112311611B CN 201910687794 A CN201910687794 A CN 201910687794A CN 112311611 B CN112311611 B CN 112311611B
Authority
CN
China
Prior art keywords
data
monitoring
monitored
target
curve fitting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910687794.6A
Other languages
English (en)
Other versions
CN112311611A (zh
Inventor
温粉莲
王锐
黄倚霄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
China Mobile Group Guangdong Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
China Mobile Group Guangdong Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, China Mobile Group Guangdong Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN201910687794.6A priority Critical patent/CN112311611B/zh
Publication of CN112311611A publication Critical patent/CN112311611A/zh
Application granted granted Critical
Publication of CN112311611B publication Critical patent/CN112311611B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06—Management of faults, events, alarms or notifications
    • H04L41/0681—Configuration of triggering conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/147—Network analysis or design for predicting network behaviour
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/06—Generation of reports
    • H04L43/067—Generation of reports using time frame reporting
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/142—Network analysis or design using statistical or mathematical methods

Abstract

本发明公开了一种数据异常的监测方法、装置和电子设备，该方法包括：获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。本实施例的方法，结合第一周期序列数据和第二周期序列数据对待监测数据进行多次判断，判断待监测数据是否异常，能够提高数据异常判断的准确率。

Description

数据异常的监测方法、装置和电子设备
技术领域
本发明涉及通信领域，尤其涉及一种数据异常的监测方法、装置和电子设备。
背景技术
随着移动通信的发展，为了适配多种终端、不同接入方式，业务系统变得越来越复杂，网络架构也越来越复杂，云计算虚拟化技术的应用在带来弹性化好处的同时，也给运维人员带来了更高的挑战，面对如此多的用户指标数据和设备数据，如何有效的管理和监控是保障系统稳定运行的关键所在。
目前管理数据的主流方法是基于人工经验设置的固定阈值范围来判断数据是否异常，但是如果数据在某一段时间变化幅度加大，数据不够平滑，这种固定阈值的方式就会导致很多的错判和漏判，进而降低数据异常判断的准确率。
发明内容
本发明实施例提供一种数据异常的监测方法、装置和电子设备，以解决现在技术采用固定阈值的方式判断数据是否异常，容易出现错判和漏判，进而降低数据异常判断的准确率的问题。
为了解决上述技术问题，本发明是这样实现的：
第一方面，提供了一种数据异常的监测方法，该方法包括：
获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；
根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。
第二方面，提供了一种数据异常的监测装置，所述装置包括：
阈值获取模块，用于获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
模型获取模块，用于获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；
第一确定模块，用于根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。
第三方面，本发明实施例提供一种电子设备，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现上述实施例提供的数据异常的监测方法的步骤。
第四方面，本发明实施例提供一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现上述实施例提供的数据异常的监测方法的步骤。
在本发明实施例中，通过第一周期序列数据和第二周期序列数据确定待监测数据的目标阈值范围和目标曲线拟合模型，在目标阈值范围判断待监测数据异常之后，基于目标阈值范围没有考虑到数据有上升趋势的变化，再通过目标曲线拟合模型对待监测数据进行判断，将不符合目标阈值范围也不符合目标曲线拟合模型的待监测数据确定为异常数据，能够减少数据异常的错判、误判的概率，提高数据异常判断的准确率。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1是本发明的一个实施例的异常的监测方法的流程示意图；
图2是本发明的另一个实施例的异常的监测方法的流程示意图；
图3是本发明的一个实施例的异常的监测装置的结构示意图；
图4是本发明的一个实施例的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1是本发明的一个实施例的数据异常的监测方法的流程示意图，如图1所示，该方法可以由监测装置执行，图1所示的方法，包括：
步骤S102，获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
可以理解的是，上述监测数据包括设备性能数据、用户指标数据，其中，设备可以为虚拟化设备或实体物理设备，设备性能数据可以为设备的CPU(Central ProcessingUnit/Processor，中央处理器)利用率、内存利用率等，用户指标数据可以为访问量、工单量等。
在步骤S102中，根据第一周期序列数据，得到待监测数据对应的目标阈值范围，其中，待监测数据是在某一时间点上获取得到的，如，待监测数据为早上8点服务器的CPU利用率，周期为一个星期，第一周期序列数据包括近3个月内每天早上8点服务器的CPU利用率，根据第一周期序列数据，得到8点服务器的CPU利用率对应的目标阈值范围。
可选地，在一些实施例中，在步骤S102中所述获取待监测数据对应的目标阈值范围之前，该方法还包括：
根据所述第一周期序列数据，确定多个监测数据对应的阈值范围。
应理解，多个监测数据是在多个不同时间点上获取得到的。
在一些实施例中，获取第一周期序列数据，对第一周期序列数据的时间进行归一化处理，即将第一周期序列数据中相同时间点对应的监测数据归为一类，得到多个数据集，每个数据集包括相同时间点对应的监测数据，且不同数据集之间包括不同时间点对应的监测数据。
若多个数据集中存在异常数据，在确定阈值范围过程中会因为异常数据的存在而产生偏差，为了提高阈值范围的准确性，剔除多个数据集中的异常数据，得到多个数据子集；其中，所述异常数据的值与对应的数据子集中监测数据的均值的差值不在预设误差范围内。
根据多个数据子集中监测数据的均值和预设误差范围内，得到多个数据子集对应的阈值范围，即得到多个监测数据对应的阈值范围。
根据多个监测数据对应的阈值范围，得到待监测数据的目标阈值范围。
举例说明，每隔5分钟获取一次监测数据，即每天获取288次监测数据，3个月一共获取25920次监测数据。将这3个月获取得到的监测数据作为第一周期序列数据，对第一周期序列数据的时间进行归一化处理，得到288个数据集。具体地，去掉每个监测数据的日期信息，只保留时和分，再将时、分转换成为时，得到0-24之间的数值，如某一个监测数据的时间信息为2019年2月1号13点30分，对该监测数据的时间信息进行处理得到数值为13.5。将相同数值对应的监测数据归为一类，得到288个数据集。
为了提高阈值范围的准确性，如采用t-检验法剔除288个数据集中的异常数据，得到每个数据子集，根据每个数据子集中监测数据的均值和预设误差范围内，得到每个数据子集的阈值范围，即得到每个监测数据的阈值范围，根据每个监测数据的阈值范围，得到待监测数据的目标阈值范围，如，待监测数据为早上8点服务器的CPU利用率，从288个数据子集中找到目标数据子集，该目标数据子集包括近3个月内每天早上8点服务器的CPU利用率，根据目标数子集，得到8点服务器的CPU利用率对应的目标阈值范围。
其中，t-检验法的原理为：假设待监测数据的值为μ0，待监测数据的值μ0与对应数据集中监测数据的均值μ是否有明显差异。因此可抽象零假设为
H0:μ＝μ0
t统计量计算公式为：
Figure GDA0003477343860000051
其中S为标准差，n为数据集中监测数据的数量。
假设设定的置信水平为a，则将计算出来得到的t统计量跟置信水平为a自由度为(n-1)的t0检验临界值做比较，如果
t＜t0检验临界值
则认为在置信水平为a的情况下应该接受原假设，即μ0与对应数据集中所有监测数据平均值μ没有明显差异，即μ0为正常值。
步骤S104，获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N。
在步骤S104中，如周期为一个星期，第二周期序列数据包括近两个星期内多个不同时间点的监测数据，根据两个星期内的多个不同时间点的监测数据得到目标曲线拟合模型。
具体地，步骤S104中所述获取根据第二周期序列数据得到的目标曲线拟合模型，可包括：
获取根据所述第二周期序列数据和预设曲线拟合模型得到的所述目标曲线拟合模型。
在一些实施例中，为了提高计算效率，根据实际情况需求或人工经验确定预设曲线拟合模型，将第二周期序列数据输入预设曲线拟合模型进行训练，得到目标曲线拟合模型。
具体地，在另一些实施例中，在所述获取根据所述第二周期序列数据和预设曲线拟合模型得到的所述目标曲线拟合模型之前，所述方法还包括：
根据所述第二周期序列数据中多个监测数据的监测值和预设曲线拟合模型，得到所述多个监测数据的第一预测值，其中，所述多个监测数据的监测值与所述多个监测数据的第一预测值存在一一对应关系；
根据所述多个监测数据的监测值与所述多个监测数据的第一预测值的差值和预设范围，得到所述差值不在预设范围内的监测数据的数量；
基于所述差值不在预设范围内的监测数据的数量和第一预设值，得到所述目标曲线拟合模型。
比如，第二周期序列数据包括近两个星期内400个监测数据，第一预设值为20，将400个监测数据的监测值输入预设曲线拟合模型，输出400个监测数据的第一预测值，判断400个监测数据的监测值与相应监测数据的第一预测值的差值是否在预设范围内，若有80个监测数据的监测值与相应监测数据的第一预测值的差值不在预设范围内，且80＞第一预设值，则调整曲线拟合模型，将400个监测数据的监测值输入调整后的曲线拟合模型，输出400个监测数据的第一预测值，判断400个监测数据的监测值与相应监测数据的第一预测值的差值是否在预设范围内，若有18个监测数据的监测值与相应监测数据的第一预测值的差值不在预设范围内，且18＜第一预设值，则确定曲线拟合模型；反之，继续执行调整曲线拟合模型以及后续相应的步骤。
可选地，在一些实施例中，所述目标曲线拟合模型包括目标曲线拟合方程，所述目标曲线拟合方程的最高阶数为3。
在一些实施例中，目标曲线拟合模型包括目标曲线拟合方程，目标曲线拟合方程的最高阶数为3，相对于最高阶数为2的优势是提高数据异常监测的准确性，相对于最高阶数为4、5....等的优势是减少计算量，阶数越高，需要计算的次数越多。
其中，目标曲线拟合方程的获取过程如下：假设多个监测数据的分布不为直线，以及预设曲线拟合方程为3阶多项式，该预设曲线拟合方程的公式如下所示：
y＝a3x3+a2x2+a1x+a0
其中，x为待监测数据的监测值，y为相应的待监测数据的第一预测值。
基于x和y得到系数a0、a1、a3和a3，根据系数a0、a1、a3和a3得到目标曲线拟合模型。
步骤S106，根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。
在步骤S106中，判断待监测数据的监测值是否在目标阈值范围内，若待监测数据的监测值在目标阈值范围内，则说明待监测数据正常，将待监测数据的监测值加入第一周期序列数据中，即将待监测数据的监测值作为第一周期数据，继续监测待监测数据的下一个监测数据。若待监测数据的监测值不在目标阈值范围内，则说明待监测数据可能异常，将待监测数据的监测值输入目标曲线拟合模型，输出待监测数据的第一预测值，判断待监测数据的监测值与待监测数据的第一预测值的差值是否小于或等于第一预设值，若是，则说明该待监测数据正常，将待监测数据的监测值作为第一周期数据，继续监测待监测数据的下一个监测数据；若否，则说明该待监测数据异常，将待监测数据的第一预测值作为第一周期数据，并进行异常告警处理。
在本发明实施例中，通过第一周期序列数据和第二周期序列数据确定待监测数据的目标阈值范围和目标曲线拟合模型，在目标阈值范围判断待监测数据异常之后，基于目标阈值范围没有考虑到数据有上升趋势的变化，再通过目标曲线拟合模型对待监测数据进行判断，将不符合目标阈值范围也不符合目标曲线拟合模型的待监测数据确定为异常数据，能够减少数据异常的错判、误判的概率，提高数据异常判断的准确率。同时，在待检测数据异常的情况下，通过待监测数据的预测值替换待监测数据异常的监测值，尽可能地降低预测的偏差，提高数据异常判断的准确率。
比如，待监测数据的监测值为85，目标阈值范围为50-80，待监测数据的第一预测值为92，第一预设值为5，待监测数据的监测值为85不在目标阈值范围内，即待监测数据不在目标阈值范围内，说明待监测数据可能异常，确定待监测数据的监测值与待监测数据的第一预测值的差值为7，差值为7大于第一预设值，说明待监测数据异常，将待监测数据的第一预测值为92作为第一周期数据，进行异常告警处理。
或者，待监测数据的监测值为85，目标阈值范围为50-80，待监测数据的第一预测值为87，第一预设值为5，待监测数据的监测值为85不在目标阈值范围内，即待监测数据不在目标阈值范围内，说明待监测数据可能异常，确定待监测数据的监测值与待监测数据的第一预测值的差值为2，差值为2小于第一预设值，说明待监测数据正常，将待监测数据的监测值为85作为第一周期数据，继续监测待监测数据的下一个监测数据。
可选地，在另一些实施例中，图1所示的方法还包括：
若所述待监测数据异常，则获取根据所述第二周期序列数据得到的目标时间序列模型，根据所述目标时间序列模型和所述待监测数据，确定所述待监测数据是否异常；
若是，则进行异常告警处理；
若否，则继续监测所述待监测数据的下一个监测数据。
为了提高数据异常判断的准确率，若待监测数据的监测值与待监测数据的第一预测值的差值大于第一预设值，则说明该待监测数据可能异常，也可能正常，将待监测数据的监测值输入目标时间序列模型，输出待监测数据的第二预测值，并判断待监测数据的监测值与待监测数据的第二预测值的差值是否小于或等于第二预设值，若是，则说明待监测数据正常，将待监测数据的监测值作为第一周期数据，继续判断待监测数据的下一个监测数据；若否，则说明待监测数据异常，将待监测数据的第二预测值作为第一周期数据，进行异常告警处理。
基于上述方法，结合统计学、曲线拟合以及时间序列的优点，能够覆盖不同波动类型的数据，支持数据的多样化，如平稳的数据，上升的数据及周期波动的数据，进而提高数据异常判断的准确率。
可选地，在一些实施例中，所述基于所述第二周期序列数据确定目标时间序列模型，包括:
对所述第二周期序列数据进行平稳化处理以生成平稳时间序列模型；
基于最大的自回归延迟数和最大的移动平均延迟数确定所述平稳时间序列模型的定阶；
对定阶后的时间序列模型中的参数进行显著性检验和残差检验以得到所述目标时间序列模型。
比如，第二周期序列数据包括两个星期内不同时间点的监测数据，通过采用时间序列分析法训练第二周期序列数据，得到时间序列模型。
其中，时间序列分析法采用的ARIMA(Auto Regressive Integrated MovingAverage，自回归移动平均)模型，该模型的思想就是从第二周期序列数据中学习到随时间变化的模式，学到了就用这个规律去预测未来。ARIMA(p，d，q)模型，其中，d是差分的阶数，用来得到平稳序列。AR是自回归，p为自回归项数。MA为移动平均，q为移动平均项数。
ARIMA(p，d，q)模型可以表示为：
Figure GDA0003477343860000091
其中L是滞后算子(Lag operator)，d in Z，d>0。
AR：当前值只是过去值的加权求和。
AR(p)，p阶自动回归模型
xt＝δ+φ1xt-1+φ2xt-2+······+φpxt-p+μt
其中，μt为白噪声序列，δ是常数
MA：过去白噪音的移动平均。
MA(q)，q阶移动平均模型
Xt＝μ+μt+θ1μt-1+θ2μt-2+······+θqμt-q
其中，ut是白噪声过程
ARIMA(p，d，q)为：
Xt＝δ+φ1xt-1+φ2xt-2+······+φpxt-p+θ1μt-1+θ2μt-2+······+θqμt-q
图2是本发明的另一个实施例的异常的监测方法的流程示意图，图2所示的方法，至少包括如下步骤：
步骤S202，获取设备性能参数的第一周期时序数据的和第二周期时序数据。
步骤S204，根据第一周期序列数据计算得到待监测数据对应的目标阈值范围，根据第二周期时序数据计算得到目标曲线拟合模型。
步骤S206，判断待监测数据是否在目标阈值范围内，具体地，判断待监测数据的监测值是否在目标阈值范围内，若是，则说明待监测数据为正常数据，执行步骤S214；若否，则说明待监测数据可能为异常数据，执行步骤S208。
步骤S208，将待监测数据的监测值输入目标曲线拟合模型，输出待监测数据的第一预测值，判断待监测数据的监测值与待监测数据的第一预测值的差值是否小于或等于第一预设值，若是，则说明待监测数据为正常数据，执行步骤S214；若否，则说明待监测数据可能为异常数据，执行步骤S210。
步骤S210，根据第二周期序列数据计得到目标时间序列模型，并执行步骤S212。
步骤S212，将待监测数据的监测值输入目标时间序列模型，输出待监测数据的第二预测值，判断待监测数据的监测值与待监测数据的第二预测值的差值是否小于或等于第二预设值，若是，则说明待监测数据为正常数据，执行步骤S214；若否，则说明待监测数据为异常数据，执行步骤S216。
步骤S214，将待监测数据的监测值作为第一周期数据，继续监测待监测数据的下一个监测数据。
步骤S216，将待监测数据的第二预测值作为第一周期数据，产生告警事件。
如图3所示，图3是本发明的一个实施例的数据异常的监测装置的结构示意图，图3所示的装置30包括：
阈值获取模块31，用于获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
模型获取模块32，用于获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；
第一确定模块33，用于根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。
在本发明实施例中，通过第一周期序列数据和第二周期序列数据确定待监测数据的目标阈值范围和目标曲线拟合模型，在目标阈值范围判断待监测数据异常之后，基于目标阈值范围没有考虑到数据有上升趋势的变化，再通过目标曲线拟合模型对待监测数据进行判断，将不符合目标阈值范围也不符合目标曲线拟合模型的待监测数据确定为异常数据，能够减少数据异常的错判、误判的概率，提高数据异常判断的准确率。
可选地，作为一个实施例，所述装置30还包括：
第二确定模块，用于若所述待监测数据异常，则获取根据所述第二周期序列数据得到的目标时间序列模型，根据所述目标时间序列模型和所述待监测数据，确定所述待监测数据是否异常；
报警模块，用于若是，则进行异常告警处理；
监测模块，用于若否，则继续监测所述待监测数据的下一个监测数据。
可选地，作为一个实施例，所述装置30还包括：
范围确定模块，用于根据所述第一周期序列数据，确定多个监测数据对应的阈值范围。
可选地，作为一个实施例，所述模型获取模块32，具体用于：
获取根据所述第二周期序列数据和预设曲线拟合模型得到的所述目标曲线拟合模型。
可选地，作为一个实施例，所述装置30还包括：
预测值确定模块，用于根据所述第二周期序列数据中多个监测数据的监测值和预设曲线拟合模型，得到所述多个监测数据的第一预测值，其中，所述多个监测数据的监测值与所述多个监测数据的第一预测值存在一一对应关系；
数量确定模块，用于根据所述多个监测数据的监测值与所述多个监测数据的第一预测值的差值和预设范围，得到所述差值不在预设范围内的监测数据的数量；
模型确定模块，用于基于所述差值不在预设范围内的监测数据的数量和第一预设值，得到所述目标曲线拟合模型。
可选地，作为一个实施例，所述装置30还包括:
处理模块，用于对所述第二周期序列数据进行平稳化处理以生成平稳时间序列模型；
处理模块，还用于根据最大的自回归延迟数和最大的移动平均延迟数确定所述平稳时间序列模型的定阶；
模型确定模块，还用于对定阶后的时间序列模型中的参数进行显著性检验和残差检验以得到所述目标时间序列模型。
可选地，作为一个实施例，所述目标曲线拟合模型包括目标曲线拟合方程，所述目标曲线拟合方程的最高阶数为3。
下面将结合图4详细描述根据本申请一个实施例的电子设备。参考图4，在硬件层面，电子设备包括处理器，可选地，包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是工业标准体系结构(Industry Standard Architecture，ISA)总线、外设部件互连标准(Peripheral Component Interconnect，PCI)总线或扩展工业标准结构(ExtendedIndustry Standard Architecture，EISA)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成数据异常的监测装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：
获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；
根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。
上述如本申请图1所示实施例揭示的数据异常的监测装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
当然，除了软件实现方式之外，本申请的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
本发明实施例提供一种计算机可读存储介质，获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的定界，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本发明的实施例可提供为方法、系统或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本发明的实施例而已，并不用于限制本发明。对于本领域技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本发明的权利要求范围之内。

Claims (8)

1.一种数据异常的监测方法，其特征在于，所述方法包括：
获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；
根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常；
所述获取根据第二周期序列数据得到的目标曲线拟合模型，包括：
获取根据所述第二周期序列数据和预设曲线拟合模型得到的所述目标曲线拟合模型；
在所述获取根据所述第二周期序列数据和预设曲线拟合模型得到的所述目标曲线拟合模型之前，所述方法包括：
根据所述第二周期序列数据中多个监测数据的监测值和预设曲线拟合模型，得到所述多个监测数据的第一预测值，其中，所述多个监测数据的监测值与所述多个监测数据的第一预测值存在一一对应关系；
根据所述多个监测数据的监测值与所述多个监测数据的第一预测值的差值和预设范围，得到所述差值不在预设范围内的监测数据的数量；
基于所述差值不在预设范围内的监测数据的数量和第一预设值，得到所述目标曲线拟合模型。
2.如权利要求1所述的方法，其特征在于，所述方法还包括：
若所述待监测数据异常，则获取根据所述第二周期序列数据得到的目标时间序列模型，根据所述目标时间序列模型和所述待监测数据，确定所述待监测数据是否异常；
若是，则进行异常告警处理；
若否，则继续监测所述待监测数据的下一个监测数据。
3.如权利要求1或2所述的方法，其特征在于，在所述获取待监测数据对应的目标阈值范围之前，所述方法还包括：
根据所述第一周期序列数据，确定多个监测数据对应的阈值范围。
4.如权利要求2所述的方法，其特征在于，在所述获取根据第二周期序列数据得到的目标曲线拟合模型之前，所述方法还包括:
对所述第二周期序列数据进行平稳化处理以生成平稳时间序列模型；
根据最大的自回归延迟数和最大的移动平均延迟数确定所述平稳时间序列模型的定阶；
对定阶后的时间序列模型中的参数进行显著性检验和残差检验以得到所述目标时间序列模型。
5.如权利要求2所述的方法，其特征在于，所述目标曲线拟合模型包括目标曲线拟合方程，所述目标曲线拟合方程的最高阶数为3。
6.一种数据异常的监测装置，其特征在于，所述装置包括：
阈值获取模块，用于获取待监测数据对应的目标阈值范围，所述目标阈值范围是根据第一周期序列数据计算后得到，所述第一周期序列数据包括当前周期及所述当前周期之前的N个周期内的多个监测数据；
模型获取模块，用于获取根据第二周期序列数据得到的目标曲线拟合模型，所述第二周期序列数据包括所述当前周期及所述当前周期之前的M个周期内的多个监测数据，其中，1≤M≤N；
第一确定模块，用于根据所述目标阈值范围和所述目标曲线拟合模型，确定所述待监测数据是否异常；
所述模型获取模块，具体用于：
获取根据所述第二周期序列数据和预设曲线拟合模型得到的所述目标曲线拟合模型；
所述装置还包括：
预测值确定模块，用于根据所述第二周期序列数据中多个监测数据的监测值和预设曲线拟合模型，得到所述多个监测数据的第一预测值，其中，所述多个监测数据的监测值与所述多个监测数据的第一预测值存在一一对应关系；
数量确定模块，用于根据所述多个监测数据的监测值与所述多个监测数据的第一预测值的差值和预设范围，得到所述差值不在预设范围内的监测数据的数量；
模型确定模块，用于基于所述差值不在预设范围内的监测数据的数量和第一预设值，得到所述目标曲线拟合模型。
7.一种电子设备，其特征在于，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至5中任一项所述的数据异常的监测方法的步骤。
8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的数据异常的监测方法的步骤。
CN201910687794.6A 2019-07-29 2019-07-29 数据异常的监测方法、装置和电子设备 Active CN112311611B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910687794.6A CN112311611B (zh) 2019-07-29 2019-07-29 数据异常的监测方法、装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910687794.6A CN112311611B (zh) 2019-07-29 2019-07-29 数据异常的监测方法、装置和电子设备

Publications (2)

Publication Number Publication Date
CN112311611A CN112311611A (zh) 2021-02-02
CN112311611B true CN112311611B (zh) 2022-04-12

Family

ID=74330151

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910687794.6A Active CN112311611B (zh) 2019-07-29 2019-07-29 数据异常的监测方法、装置和电子设备

Country Status (1)

Country Link
CN (1) CN112311611B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112800068B (zh) * 2021-02-22 2023-05-12 首钢京唐钢铁联合有限责任公司 一种能源计量数据自动处理的方法及装置
CN113051311B (zh) * 2021-03-16 2023-07-28 鱼快创领智能科技(南京)有限公司 一种监测车辆油箱液位异常变化的方法、系统及装置
CN113687048A (zh) * 2021-07-01 2021-11-23 精英数智科技股份有限公司 传感器数据检测中断识别方法、装置及电子设备
CN113535516B (zh) * 2021-07-06 2023-05-30 上海上讯信息技术股份有限公司 一种监控cpu占用率异常的方法及设备
CN115328723A (zh) * 2022-04-29 2022-11-11 上海鼎茂信息技术有限公司 一种自适应基带优化的时序异常检测方法及系统
CN115328724B (zh) * 2022-07-18 2023-04-11 华中科技大学同济医学院附属协和医院 一种基于大数据平台的监测方法和系统
CN115828055B (zh) * 2023-02-22 2023-04-18 民航成都物流技术有限公司 一种采样数据的监测方法、装置、计算机设备和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107135183A (zh) * 2016-02-26 2017-09-05 中国移动通信集团河北有限公司 一种流量数据监测方法和装置
CN107592236A (zh) * 2016-07-07 2018-01-16 北京奇虎科技有限公司 一种推广信息相关的业务数据的监控方法和装置
CN108429649A (zh) * 2018-03-23 2018-08-21 国家计算机网络与信息安全管理中心 基于多次单类型采集结果的综合异常判断的系统
CN109697207A (zh) * 2018-12-25 2019-04-30 苏州思必驰信息科技有限公司 时序数据的异常监控方法及系统
CN109818793A (zh) * 2019-01-30 2019-05-28 基本立子(北京)科技发展有限公司 针对物联网的设备类型识别及网络入侵检测方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010032226A2 (en) * 2008-09-22 2010-03-25 Nxp B.V. Data processing system comprising a monitor
CN107203806B (zh) * 2017-05-15 2020-01-10 东软集团股份有限公司 数据异常检测方法、装置、可读存储介质及电子设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107135183A (zh) * 2016-02-26 2017-09-05 中国移动通信集团河北有限公司 一种流量数据监测方法和装置
CN107592236A (zh) * 2016-07-07 2018-01-16 北京奇虎科技有限公司 一种推广信息相关的业务数据的监控方法和装置
CN108429649A (zh) * 2018-03-23 2018-08-21 国家计算机网络与信息安全管理中心 基于多次单类型采集结果的综合异常判断的系统
CN109697207A (zh) * 2018-12-25 2019-04-30 苏州思必驰信息科技有限公司 时序数据的异常监控方法及系统
CN109818793A (zh) * 2019-01-30 2019-05-28 基本立子(北京)科技发展有限公司 针对物联网的设备类型识别及网络入侵检测方法

Also Published As

Publication number Publication date
CN112311611A (zh) 2021-02-02

Similar Documents

Publication Publication Date Title
CN112311611B (zh) 数据异常的监测方法、装置和电子设备
CN109711440B (zh) 一种数据异常检测方法和装置
CN109117595B (zh) 一种热负荷预测方法、装置、可读介质及电子设备
CN111104664B (zh) 一种电子设备的风险识别方法及服务器
CN109344061B (zh) 一种接口的异常检测方法、装置、设备及系统
CN109726909B (zh) 一种能效评价方法、装置、可读介质及电子设备
CN109840312B (zh) 一种锅炉负荷率-能效曲线的异常值检测方法和装置
CN109857984B (zh) 一种锅炉负荷率-效能曲线的回归方法和装置
CN112350836B (zh) 物联网异常定位方法、装置和电子设备
CN110351299B (zh) 一种网络连接检测方法和装置
CN112182508A (zh) 一种合规业务指标的异常监测方法及装置
CN111488289A (zh) 一种故障定位方法、装置和设备
CN114091281A (zh) 产品寿命预测方法、装置、电子设备及存储介质
CN112526905B (zh) 一种针对指标异常的处理方法及系统
CN108463813B (zh) 一种进行数据处理的方法和装置
CN110428156B (zh) 用于业务数据校验的方法、装置及电子设备
CN108470242B (zh) 风险管控方法、装置、及服务器
CN112019398B (zh) 网络流量的预测方法和装置
CN110661913A (zh) 一种用户排序方法、装置及电子设备
CN112559313A (zh) 测试用例的设置方法及装置、存储介质、电子设备
CN110213123A (zh) 一种流量监控方法、装置及设备
CN109858119B (zh) 一种动态能效建模方法、装置、可读介质及电子设备
CN114358581A (zh) 性能指标的异常阈值确定方法和装置、设备、存储介质
CN110708414B (zh) 一种电话号码的排序方法、装置及电子设备
CN114326670B (zh) 控制器执行任务的检测方法、装置、存储介质及电子装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant