CN115713670A - 基于图预测网络和自动编码器的异常检测方法及系统 - Google Patents

基于图预测网络和自动编码器的异常检测方法及系统 Download PDF

Info

Publication number
CN115713670A
CN115713670A CN202211377858.0A CN202211377858A CN115713670A CN 115713670 A CN115713670 A CN 115713670A CN 202211377858 A CN202211377858 A CN 202211377858A CN 115713670 A CN115713670 A CN 115713670A
Authority
CN
China
Prior art keywords
time
sensor
data
data set
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211377858.0A
Other languages
English (en)
Inventor
顾磊
张孚容
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202211377858.0A priority Critical patent/CN115713670A/zh
Publication of CN115713670A publication Critical patent/CN115713670A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

本发明公开了一种基于图预测网络和自动编码器的异常检测方法及系统，所述方法包括：对收集到的时间序列数据进行预处理，构建数据集；对构建的数据集进行时间依赖性处理；经过时间依赖性处理的时间序列数据集，通过图形结构学习传感器节点依赖性，得到重构时间序列数据集；将重构数据集送入图预测网络进行训练，得到预测重构数据；利用预测重构数据与观测数据误差计算异常分数，并基于异常分数计算各滑动窗口对应的阈值；将滑动窗口异常分数与对应的阈值来进行异常判别。本发明能够快速有效的学习时间序列中各个传感器的依赖性，同时能够学习时间序列数据对时间的依赖性，共同有效提高时间序列数据异常检测的性能。

Description

基于图预测网络和自动编码器的异常检测方法及系统
技术领域
本发明属于异常检测技术领域，更具体地说，涉及一种基于图预测网络和自动编码器的异常检测方法及系统。
背景技术
工业自动化、连接技术、互联网应用现今快速发展，信息系统生成的数据几乎呈几何倍数增长，从庞大的产生数据中获取有价值的信息成为数据挖掘中重要研究方向。在工业系统中，从各网络物理系统的互联网设备中收集到大量时间序列数据，诊断出异常状态并发现异常原因；在信息安全邻域中，由异常检测技术发现潜在异常网络流量浮动、恶意攻击、非法操作等异常行为；在医疗领域中，心电图的骤变以及检查报告片异常部位的识别等；在金融领域中，异常检测技术多用于欺诈性的信用卡以及欺诈信用卡的使用等行为。异常检测技术应用广泛，因此，快速准确的异常检测技术至关重要。
异常检测方法一般分为两类，一类是经典传统的异常检测方法，包括基于线性模型的方法、基于距离的方法、支持向量机的方法、基于密度的方法。然而，目标系统变的更大和复杂，传统的异常检测方法具有局限性；另一类异常检测方法则是基于深度学习技术进行异常检测，深度学习技术具有强大的表征学习能力，在计算机视觉、自然语言处理等均有领域涉及，并且能够处理高维数据、时间序列数据、空间数据都有着优异的表现，逐渐成为时间序列异常检测技术的首选。因此，充分利用深度学习技术学习时间序列数据的特征，从不同的维度进行特征提取，使能够高效准确的识别出异常。
发明内容
为了解决上述技术问题至少之一，根据本发明的一方面，提供了一种基于图预测网络和自动编码器的异常检测方法，包括如下步骤：
S1、对时间序列数据进行划分操作，获得以传感器为索引的三维时间序列数据集X；
S2、将所述的三维时间序列数据集X，经过自动编码器以及注意力网络对数据集进行时间依赖性学习，得出得到重构数据集X1；
S3、基于所述重构数据集X1，经过图形结构学习得出关系矩阵A；
S4、基于重构数据集X1和关系矩阵A，经过图预测网络处理得到重构数据集S；
S5、基于所述三维时间序列数据集X与重构数据集S，计算误差与异常分数；
S6、基于异常分数计算每个批量对应的阈值ε；
S7、将异常分数与对应的阈值ε比较，判断异常。
进一步的，步骤S1中：
三维时间序列数据集X(t)为对原始时间序列数据Г进行归一化处理以及下采样处理后得到的数据集。
进一步的，步骤S1中：
原始时间序列数据Г＝{W1,W2,…,WT}，T表示时间序号，其中每个Wt表示时间序列中t时刻对应的数据，是一个n维的向量，n表示维度的大小，选用最大最小标准化方法的归一化处理：
Figure BDA0003927160930000021
在完成原始数据Г的归一化后，再对归一化的时间序列数据下采样处理，对原始数据每10秒进行一次采样：
Wt＝resample(10).mean() (2)
在完成原始数据Г的归一化以及下采样后，对时间序列数据进行滑动窗口划分，以传感器为索引对象，按照时间顺序，对于t时刻往前选取长度为k的数据，进行时间戳长度为k的滑动窗口划分，每一窗口表示为Xt＝{Wt-k+1,…，Wt-1，Wt}，最终原始数据以传感器为索引对象，按照时间顺序以及一定批量被转换为一系列滑动窗口三维时间序列数据X＝{X1,X2,…,XT}，其中XT表示T时刻以传感器为索引T时刻往前取k个时间戳的滑动窗口数据。
进一步的，步骤S2中：
三维时间序列数据集X通过由编码网络和解码网络构成基于Linear全连接的自编码器以及基于自注意力的简化外部注意力机制架构得出时间依赖性的重构数据X1：
F＝query(X)
attn＝key(F)
attn＝softmax(attn,dim＝1)
attn＝norm(attn,dim＝2)
out＝value(attn)
X1＝Decoder(Encoder(out)) (3)
其中，query表示自注意力机制中的查询、key表示自注意力机制中的键、value自注意力机制中的值，都是该时序信号本身，通过相关模块进行编码，norm表示进行标准化。
进一步的，步骤S3中：
将所述经过时间依赖性处理的重构数据集X1通过图形结构学习得到各传感器节点V之间的依赖性，且使用一个有向图表示，若存在从一个传感器节点到另一个传感器节点的边，即表示第一个传感器用于建模表示第二个传感器的行为，由于事先没有传感器节点之间的依赖结构，则先考虑某传感器节点与其它节点均存在关系，计算依赖关系：
Figure BDA0003927160930000031
Figure BDA0003927160930000032
Aji＝1{j∈TopK({eki:k∈Ci})} (4)
其中，Ci表示某传感器节点除自身与其他传感器节点都存在关系，N表示有N个传感器节点，eji表示传感器i与传感器j之间的归一化点积,且j属于Ci，k表示选择这种归一化点积的前k个值，TopK表示其归一化点积中前k个值的传感器索引，Aji表示从存在传感器节点i到传感器节点j的依赖关系。
进一步的，步骤S4中：将重构数据集X1和生成关系矩阵A进行融合通过图结构预测网络得到重构数据集S：
Figure BDA0003927160930000033
Figure BDA0003927160930000034
N(i)＝{j,Aji＞0}
Figure BDA0003927160930000035
Figure BDA0003927160930000036
Figure BDA0003927160930000037
其中，
Figure BDA0003927160930000038
表示t时刻传感器节点输入的数据，N(i)表示关系矩阵A得到节点i的邻接集合
Figure BDA0003927160930000039
表示串联，
Figure BDA00039271609300000310
表示将传感器Vi与相应变换后特征
Figure BDA00039271609300000311
连接起来，a表示注意力机制的学习系数向量，αi,j表示传感器i与传感器之间注意力机制系数，
Figure BDA00039271609300000317
表示节点特征与相应的时间序列Vi按元素相乘，S(t)表示在t时刻的预测传感器值。
进一步的于，步骤S5中：通过重构数据集S与三维时间序列数据集X在t时刻的误差值标准化，再将每个传感器的数值最大聚合得到t时刻整体的异常分数：
Figure BDA00039271609300000312
Figure BDA00039271609300000313
Figure BDA00039271609300000314
其中，Erri(t)表示在t时刻传感器i预测值与原始数据存在的偏差，
Figure BDA00039271609300000315
表示Erri(t)值的中位数，
Figure BDA00039271609300000316
表示Erri(t)值的四分位范围数值，ai(t)表示t时刻传感器i的标准化值，y(t)表示t时刻的总体异常分数。
进一步的，步骤S6中：阈值基于异常分数计算得出，为了避免系统重复出现超参数以及出现过多的噪音，通过简单平移平均值SMA设置阈值：
Figure BDA0003927160930000041
进一步的，步骤S7中：当滑动窗口的异常分数y(t)＞ε，所述滑动窗口被视为异常，否则视为正常数据。
根据本发明的另一方面，提供了一种基于图预测网络和自动编码器的异常检测系统，包括数据预处理模块、时间依赖性重构模块、传感器图形结构学习模块、图预测网络模块、异常分数计算模块和阈值计算模块；
所述数据预处理模块，用于对原始数据Г预处理，预处理后根据数据集的不同再采取不同滑动窗口的划分，获得一系列滑动窗口的三维时间序列数据集X；
所述时间依赖性重构模块，由全连接的自动编码器以及注意力网络架构，用于重构预处理后的三维时间序列数据集X，生成重构数据集X1；
所述传感器图形结构学习模块，计算与除自身以外的其他传感器的相似性，得到关系矩阵A；
所述图预测网络模块，通过将重构数据集X1与关系矩阵A融合送入网络进行训练，得到一系列关于节点的重构数据集S；
所述的异常分数模块，通过计算每个传感器在t时刻预测值S与实际数值X之间的误差，并利用最大值聚合函数得到t时刻整体异常分数；
所述的阈值计算模块，利用所有传感器t时刻异常分数的均值在取平均值得到阈值，将异常分数与对应阈值的阈值进行比较，判断异常。
根据本发明的另一方面，提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明的基于图预测网络和自动编码器的异常检测方法中的步骤。
根据本发明的又一方面，提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现本发明的基于图预测网络和自动编码器的异常检测方法中的步骤。
相比于现有技术，本发明至少具有如下有益效果：
本发明以图形结构为基础，结合图预测网络和神经网络，神经网络中主要利用以全连接为基础的自编码器以简化外部注意力机制，共同构建一个异常检测模型，采用以全连接为基础的自编码器以简化外部注意力机制的神经网络学习时间序列数据的时间依赖性，同时以全连接模块组成自编码器中的在不降低异常检测效率的同时学习时间特征以及能够起到防止过拟合的作用，并采用以自注意力为基础的简化外部注意力机制，能后捕获单个样本中的长期相关性并且能够防止出现自我注意力机制中的二次复杂性。在图预测网络模块，基于时间依赖性以及各传感器依赖性的重构数据共同进行训练，能够有效提升时间序列数据异样检测的性能。在误差值进行标准化，防止传感器产生的偏差超过其他传感器以及减少超参数的使用，有效的建模时间序列异常检测模型并且提高检测异常的准确率。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例的附图作简单地介绍，显而易见地，下面描述中的附图仅仅涉及本发明的一些实施例，而非对本发明的限制。
图1为本发明的方法流程图；
图2为本发明基于全连接自编码器架构图示意图；
图3为本发明基于自注意力机制的简化外部注意力机制示意图；
图4为本本发明时间依赖性处理架构示意图；
图5为本本发明传感器结构学习架构示意图；
图6为本发明的实验结果示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例的附图，对本发明实施例的技术方案进行清楚、完整地描述。显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。
除非另作定义，此处使用的技术术语或者科学术语应当为本发明所属领域内具有一般技能的人士所理解的通常意义。
如图1-6所示，
实施例1：
参见图1，具体的，本发明包括：
步骤1：对原始时间序列数据Г进行归一化处理以及下采样处理，其中原始时间序列数据Г＝{W1,W2,…,WT}，T表示时间序号，其中每个Wt表示时间序列中t时刻对应的数据，是一个n维的向量，n表示维度的大小，选用最大最小标准化方法的归一化处理：
Figure BDA0003927160930000051
在完成原始数据Г的归一化后，再对归一化的时间序列数据下采样处理，对原始数据每10秒进行一次测量：
wt＝resample(10).mean()
在完成原始数据Г的归一化以及下采样后，对时间序列数据进行滑动窗口划分，以传感器为索引对象，按照时间顺序，对于t时刻往前选取长度为k的数据，进行时间戳长度为k的滑动窗口划分，每一窗口表示为Xt＝{Wt-k+1,…，Wt-1，Wt}，最终原始数据以传感器为索引对象，按照时间顺序以及一定批量被转换为一系列滑动窗口三维时间序列数据X＝{X1,X2,…,XT}，其中XT表示T时刻以传感器为索引T时刻往前取k个时间戳的滑动窗口数据。
步骤2中，通过由编码网络和解码网络构成基于Linear全连接的自编码器以及基于自注意力的简化外部注意力机制架构，如图4，得出时间依赖性的重构数据X1：
F＝query(X)
attn＝key(F)
attn＝softmax(attn,dim＝1)
attn＝norm(attn,dim＝2)
out＝value(attn)
X1＝Decoder(Encoder(out))
其中，query表示自注意力机制中的查询、key表示自注意力机制中的键、value自注意力机制中的值，都是该时序信号本身，通过相关模块进行编码，norm表示进行标准化。
步骤3，将所述经过时间依赖性处理的数据X1通过图形结构学习得到各传感器节点V之间的依赖性，且使用一个有向图表示，若存在从一个传感器节点到另一个传感器节点的边，即表示第一个传感器用于建模表示第二个传感器的行为，由于没有事先没有传感器节点之间的依赖结构，则先考虑某传感器节点与其它节点均存在关系，计算依赖关系：
Figure BDA0003927160930000061
Figure BDA0003927160930000062
Aji＝1{j∈TopK({eki:k∈Ci})}
其中，Ci表示某传感器节点除自身与其他传感器节点都存在关系，N表示有N个传感器节点，eji表示传感器i与传感器j之间的归一化点积,且j属于Ci，k表示选择这种归一化点积的前k个值，TopK表示其归一化点积中前k个值的传感器索引，Aji表示从存在传感器节点i到传感器节点j的依赖关系。
步骤4,将重构数据X1和生成关系矩阵A进行融合通过图预测网络得到重构数据S：
Figure BDA0003927160930000063
Figure BDA0003927160930000064
N(i)＝{j,Aji＞0}
Figure BDA0003927160930000065
Figure BDA0003927160930000066
Figure BDA0003927160930000067
其中，
Figure BDA0003927160930000068
表示t时刻传感器节点输入的数据，N(i)表示关系矩阵A得到节点i的邻接集合，
Figure BDA0003927160930000069
表示串联，
Figure BDA00039271609300000610
表示将传感器Vi与相应变换后特征
Figure BDA00039271609300000611
连接起来，a表示注意力机制的学习系数向量，αi,j表示传感器i与传感器之间注意力机制系数，
Figure BDA00039271609300000612
表示节点特征与相应的时间序列Vi按元素相乘，S(t)表示在t时刻的预测传感器值。
步骤5，通过重构数据S与原始数据X在t时刻的误差值进行标准化，利用每个传感器的数值最大聚合得到t时刻整体的异常分数：
Figure BDA0003927160930000071
Figure BDA0003927160930000072
Figure BDA0003927160930000073
其中，Erri(t)表示在t时刻传感器i预测值与原始数据存在的偏差，
Figure BDA0003927160930000074
表示Erri(t)值的中位数，
Figure BDA0003927160930000075
表示Erri(t)值的四分位范围数值，ai(t)表示t时刻传感器i的标准化值，y(t)表示t时刻的总体异常分数。
步骤6，所述的阈值基于异常分数计算得出，为了避免系统复杂以及出现过多的噪音，通过简单平移平均值SMA设置阈值：
Figure BDA0003927160930000076
步骤7，滑动窗口的异常分数y(t)＞ε，该窗口被视为异常，否则视为正常数据。
具体实施例：
本次实验在三个真实公开数据集上进行，三个数据集分别是安全水处理(SWaT)、航天遥测值(MSL)、水分配处理(WADI)。其中SWaT数据集是来自新加坡公共事业委员会协调的水处理实验台收集的时间序列数据集，MSL是由NASA收集的航天器遥测值数据，WADI数据集是由一个大量配水管道组成的配水系统收集的时间序列数据
本实验在一台2080Ti显卡的服务器下完成，实验包括了与其他同类方法的对比实验
实验对SWaT数据集以及MSL数据集选取滑动窗口时间戳k＝15，WADI选取滑动窗口时间戳k＝30，迭代次数epoch＝100次，批大小batch＝128
为了评估本发明的异常检测能力，与几种最新的异常检测方法进行比较，分别是LSTM-VAE、MSCRED、MAD-GAN、GDN、DAGMM等五种异常检测方法。经过实验得出包括基于图偏差网络与神经网络的异常检测在内的6种异常检测方法在三个公开数据集上SWaT、MSL、WADI上的实验结果，包括每种方法对应的精确率P、召回率R以及F1分数等结果：
表1
Figure BDA0003927160930000077
表1展示了基于图预测网络与自动编码器的异常检测方法与其他五种对比的实验数据，可以发现，基于图偏差网络与神经网络的异常检测方法在SWaT、MSL、WADI三个数据集上均取得良好的效果，特别是在MSL数据集F1结果达到了89.95，性能明显优于其他同类。
实施例2：
本实施例的计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现实施例1的基于图预测网络和自动编码器的异常检测方法中的步骤。
本实施例的计算机可读存储介质可以是终端的内部存储单元，例如终端的硬盘或内存；本实施例的计算机可读存储介质也可以是所述终端的外部存储设备，例如终端上配备的插接式硬盘，智能存储卡，安全数字卡，闪存卡等；进一步地，计算机可读存储介质还可以既包括终端的内部存储单元也包括外部存储设备。
本实施例的计算机可读存储介质用于存储计算机程序以及终端所需的其他程序和数据，计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
实施例3：
本实施例的计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现实施例1的基于图预测网络和自动编码器的异常检测方法中的步骤。
本实施例中，处理器可以是中央处理单元，还可以是其他通用处理器、数字信号处理器、专用集成电路、现成可编程门阵列或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等；存储器可以包括只读存储器和随机存取存储器，并向处理器提供指令和数据，存储器的一部分还可以包括非易失性随机存取存储器，例如，存储器还可以存储设备类型的信息。
本领域内的技术人员应明白，实施例公开的内容可提供为方法、系统、或计算机程序产品。因此，本方案可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本方案可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本方案是参照根据本方案实施例的方法、和计算机程序产品的流程图和/或方框图来描述的，应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合；可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-OnlyMemory，ROM)或随机存储记忆体(RandomAccessMemory，RAM)等。
本发明所述实例仅仅是对本发明的优选实施方式进行描述，并非对本发明构思和范围进行限定，在不脱离本发明设计思想的前提下，本领域工程技术人员对本发明的技术方案作出的各种变形和改进，均应落入本发明的保护范围。

Claims (10)

1.一种基于图预测网络和自动编码器的异常检测方法，其特征在于，包括如下步骤：
S1、对时间序列数据进行划分操作，获得以传感器为索引的三维时间序列数据集X；
S2、将所述的三维时间序列数据集X，经过自动编码器以及注意力网络对数据集进行时间依赖性学习，得出得到重构数据集X1；
S3、基于所述重构数据集X1，经过图形结构学习得出关系矩阵A；
S4、基于重构数据集X1和关系矩阵A，经过图预测网络处理得到重构数据集S；
S5、基于所述三维时间序列数据集X与重构数据集S，计算误差与异常分数；
S6、基于异常分数计算每个批量对应的阈值ε；
S7、将异常分数与对应的阈值ε比较，判断异常。
2.根据权利要求1所述的方法，其特征在于，步骤S1中：
三维时间序列数据集X(t)为对原始时间序列数据Γ进行归一化处理以及下采样处理后得到的数据集。
3.根据权利要求2所述的方法，其特征在于，步骤S1中：
原始时间序列数据Γ＝{W1，W2，…，WT}，T表示时间序号，其中每个Wt表示时间序列中t时刻对应的数据，是一个n维的向量，n表示维度的大小，选用最大最小标准化方法的归一化处理：
Figure FDA0003927160920000011
在完成原始数据Γ的归一化后，再对归一化的时间序列数据下采样处理，对原始数据每10秒进行一次采样：
Wt＝resample(10).mean() (2)
在完成原始数据Γ的归一化以及下采样后，对时间序列数据进行滑动窗口划分，以传感器为索引对象，按照时间顺序，对于t时刻往前选取长度为k的数据，进行时间戳长度为k的滑动窗口划分，每一窗口表示为Xt＝{Wt-k+1，…，Wt-1，Wt}，最终原始数据以传感器为索引对象，按照时间顺序以及一定批量被转换为一系列滑动窗口三维时间序列数据X＝{X1，X2，…，XT}，其中XT表示T时刻以传感器为索引T时刻往前取k个时间戳的滑动窗口数据。
4.根据权利要求1所述的方法，其特征在于，步骤S2中：
三维时间序列数据集X通过由编码网络和解码网络构成基于Linear全连接的自编码器以及基于自注意力的简化外部注意力机制架构得出时间依赖性的重构数据X1：
F＝query(X)
attn＝key(F)
attn＝softmax(attn，dim＝1)
attn＝norm(attn，dim＝2)
out＝value(attn)
X1＝Decoder(Encoder(out)) (3)
其中，query表示自注意力机制中的查询、key表示自注意力机制中的键、value自注意力机制中的值，都是该时序信号本身，通过相关模块进行编码，norm表示进行标准化。
5.根据权利要求1所述的方法，其特征在于，步骤S3中：
将所述经过时间依赖性处理的重构数据集X1通过图形结构学习得到各传感器节点V之间的依赖性，且使用一个有向图表示，若存在从一个传感器节点到另一个传感器节点的边，即表示第一个传感器用于建模表示第二个传感器的行为，由于事先没有传感器节点之间的依赖结构，则先考虑某传感器节点与其它节点均存在关系，计算依赖关系：
Figure FDA0003927160920000021
Figure FDA0003927160920000022
Aji＝1{j∈TopK({eki：k∈Ci})} (4)
其中，Ci表示某传感器节点除自身与其他传感器节点都存在关系，N表示有N个传感器节点，eji表示传感器i与传感器j之间的归一化点积，且j属于Ci，k表示选择这种归一化点积的前k个值，TopK表示其归一化点积中前k个值的传感器索引，Aji表示从存在传感器节点i到传感器节点j的依赖关系。
6.根据权利要求1所述的方法，其特征在于，步骤S4中：将重构数据集X1和生成关系矩阵A进行融合通过图结构预测网络得到重构数据集S：
Figure FDA0003927160920000023
Figure FDA0003927160920000024
N(i)＝{j，Aji＞0}
Figure FDA0003927160920000025
Figure FDA0003927160920000026
Figure FDA0003927160920000027
其中，
Figure FDA00039271609200000211
表示t时刻传感器节点输入的数据，N(i)表示关系矩阵A得到节点i的邻接集合
Figure FDA0003927160920000028
表示串联，
Figure FDA0003927160920000029
表示将传感器Vi与相应变换后特征
Figure FDA00039271609200000210
连接起来，a表示注意力机制的学习系数向量，αi，j表示传感器i与传感器之间注意力机制系数，
Figure FDA00039271609200000212
表示节点特征与相应的时间序列Vi按元素相乘，S(t)表示在t时刻的预测传感器值。
7.根据权利要求1所述的方法，其特征在于，步骤S5中：通过重构数据集S与三维时间序列数据集X在t时刻的误差值标准化，再将每个传感器的数值最大聚合得到t时刻整体的异常分数：
Figure FDA0003927160920000031
Figure FDA0003927160920000032
Figure FDA0003927160920000033
其中，Erri(t)表示在t时刻传感器i预测值与原始数据存在的偏差，
Figure FDA0003927160920000034
表示Erri(t)值的中位数，
Figure FDA0003927160920000035
表示Erri(t)值的四分位范围数值，ai(t)表示t时刻传感器i的标准化值，y(t)表示t时刻的总体异常分数。
8.根据权利要求1所述的方法，其特征在于，步骤S6中：阈值基于异常分数计算得出，为了避免系统重复出现超参数以及出现过多的噪音，通过简单平移平均值SMA设置阈值：
Figure FDA0003927160920000036
9.根据权利要求1所述的方法，其特征在于，步骤S7中：当滑动窗口的异常分数y(t)＞ε，所述滑动窗口被视为异常，否则视为正常数据。
10.一种基于图预测网络和自动编码器的异常检测系统，其特征在于：包括数据预处理模块、时间依赖性重构模块、传感器图形结构学习模块、图预测网络模块、异常分数计算模块和阈值计算模块；
所述数据预处理模块，用于对原始数据Γ预处理，预处理后根据数据集的不同再采取不同滑动窗口的划分，获得一系列滑动窗口的三维时间序列数据集X；
所述时间依赖性重构模块，由全连接的自动编码器以及注意力网络架构，用于重构预处理后的三维时间序列数据集X，生成重构数据集X1；
所述传感器图形结构学习模块，计算与除自身以外的其他传感器的相似性，得到关系矩阵A；
所述图预测网络模块，通过将重构数据集X1与关系矩阵A融合送入网络进行训练，得到一系列关于节点的重构数据集S；
所述的异常分数模块，通过计算每个传感器在t时刻预测值S与实际数值X之间的误差，并利用最大值聚合函数得到t时刻整体异常分数；
所述的阈值计算模块，利用所有传感器t时刻异常分数的均值在取平均值得到阈值，将异常分数与对应阈值的阈值进行比较，判断异常。
CN202211377858.0A 2022-11-04 2022-11-04 基于图预测网络和自动编码器的异常检测方法及系统 Pending CN115713670A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211377858.0A CN115713670A (zh) 2022-11-04 2022-11-04 基于图预测网络和自动编码器的异常检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211377858.0A CN115713670A (zh) 2022-11-04 2022-11-04 基于图预测网络和自动编码器的异常检测方法及系统

Publications (1)

Publication Number Publication Date
CN115713670A true CN115713670A (zh) 2023-02-24

Family

ID=85232273

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211377858.0A Pending CN115713670A (zh) 2022-11-04 2022-11-04 基于图预测网络和自动编码器的异常检测方法及系统

Country Status (1)

Country Link
CN (1) CN115713670A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116226777A (zh) * 2023-05-08 2023-06-06 湖南农业大学 基于等差距离重构时间序列的异常值检测方法和装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116226777A (zh) * 2023-05-08 2023-06-06 湖南农业大学 基于等差距离重构时间序列的异常值检测方法和装置
CN116226777B (zh) * 2023-05-08 2023-08-01 湖南农业大学 基于等差距离重构时间序列的异常值检测方法和装置

Similar Documents

Publication Publication Date Title
Zhu et al. Estimation of bearing remaining useful life based on multiscale convolutional neural network
CN111382930B (zh) 一种面向时序数据的风险预测方法及系统
Lee et al. Hybrid change point detection for time series via support vector regression and CUSUM method
Shah et al. Abnormality detection using deep neural networks with robust quasi-norm autoencoding and semi-supervised learning
Fan et al. Siamese residual network for efficient visual tracking
CN114510958A (zh) 一种基于变换分类的时间序列异常检测方法
Shrivastava et al. Multiple kernel-based dictionary learning for weakly supervised classification
CN116522265A (zh) 工业互联网时序数据异常检测方法及装置
CN115713670A (zh) 基于图预测网络和自动编码器的异常检测方法及系统
Zhang et al. Adversarially learned one-class novelty detection with confidence estimation
CN115791174A (zh) 一种滚动轴承异常诊断方法、系统、电子设备及存储介质
Wen et al. Causal-tgan: Modeling tabular data using causally-aware gan
Fu et al. MCA-DTCN: A novel dual-task temporal convolutional network with multi-channel attention for first prediction time detection and remaining useful life prediction
CN108121964B (zh) 基于矩阵的联合稀疏局部保持投影人脸识别方法
CN114003900A (zh) 变电站二次系统网络入侵检测方法、装置及系统
CN113887559A (zh) 一种脑不在环路应用的脑机信息融合分类方法及系统
CN116740570A (zh) 基于掩码图像建模的遥感图像道路提取方法、装置及设备
Jiang et al. Unsupervised deep learning for data-driven reliability and risk analysis of engineered systems
CN116628612A (zh) 一种无监督异常检测方法、装置、介质及设备
CN111797732B (zh) 一种对采样不敏感的视频动作识别对抗攻击方法
Chen et al. Quality assessment on remote sensing image based on neural networks
CN113222972A (zh) 基于变分自编码器算法的图像异常检测方法
Correia et al. Online Time-series Anomaly Detection: A Survey of Modern Model-based Approaches
Li et al. CAGAN: Classifier‐augmented generative adversarial networks for weakly‐supervised COVID‐19 lung lesion localisation
US20230367760A1 (en) Policy-guided domain adaptation for anomaly detection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination