CN113516226A - 一种基于图神经网络的混合模型多元时序异常检测方法 - Google Patents
一种基于图神经网络的混合模型多元时序异常检测方法 Download PDFInfo
- Publication number
- CN113516226A CN113516226A CN202110541569.9A CN202110541569A CN113516226A CN 113516226 A CN113516226 A CN 113516226A CN 202110541569 A CN202110541569 A CN 202110541569A CN 113516226 A CN113516226 A CN 113516226A
- Authority
- CN
- China
- Prior art keywords
- matrix
- multivariate
- abnormal
- time sequence
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 41
- 238000001514 detection method Methods 0.000 title claims abstract description 39
- 239000011159 matrix material Substances 0.000 claims abstract description 143
- 230000002159 abnormal effect Effects 0.000 claims abstract description 125
- 238000000034 method Methods 0.000 claims abstract description 21
- 238000007781 pre-processing Methods 0.000 claims abstract description 18
- 230000015654 memory Effects 0.000 claims abstract description 9
- 238000012545 processing Methods 0.000 claims description 22
- 238000013527 convolutional neural network Methods 0.000 claims description 19
- 230000005856 abnormality Effects 0.000 claims description 12
- 230000007787 long-term memory Effects 0.000 claims description 12
- 230000006403 short-term memory Effects 0.000 claims description 12
- 238000012360 testing method Methods 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 10
- 238000010606 normalization Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 description 7
- 230000004913 activation Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开的基于图神经网络的混合模型多元时序异常检测方法，包括：将多元时序分为基于滑动窗口的特征矩阵、邻接矩阵和基于固定窗口的邻接矩阵并分别预处理，得到第一特征矩阵、第一、第二邻接矩阵；构建图卷积神经网络预测模型，输入第一特征矩阵和第一邻接矩阵得到预测值；将真实值与之对比判断异常时间戳；构建卷积神经网络及注意力长短期记忆网络混合重构模型，输入第二邻接矩阵得重构邻接矩阵；对比得出重构误差矩阵，以重构误差矩阵中元素大小及超出阈值的元素数量判断异常时序；以异常时间戳和异常时序，确定异常点。相较于现有技术而言，其能够检测出多元时序中的异常时间戳和异常时序，提高多元时序的异常检测粒度、效率和检测准确度。
Description
技术领域
本申请涉及多元时序数据检测技术领域，更具体地说，尤其涉及一种基于图神经网络的混合模型多元时序异常检测方法。
背景技术
时间序列是指按照一定时间间隔收集的一系列数据，数据可以是一元或者多元的。多元时序数据广泛存在于社会工业生产过程中，检测多元时间序列中的异常事件是进行性能可靠性保障的有效方法，也是进一步进行故障预测、异常定位、快速止损、故障根因分析的基础。多元时间序列异常检测是构建安全可靠系统的关键一步，能及时以最大限度地减少异常事件造成的损失。异常检测分析的效率和精度对实现网络态势智能感知、智能运维具有重要意义。
关于多元时间序列的异常检测问题，一部分现有技术可以检测整个多元时间序列在某个时间戳或者时间段的异常，但不能检测多元时序之间是哪个多元时序出现异常，即异常时序检测；另一部分现有技术可以检测多元时序之间是哪个时序出现异常，或者某个时间段内的多元时序之间是哪个时序出现异常，但这些不能准确检测到多元时序中异常时序是哪个时间戳发生异常的，即异常时间戳检测。由此可知，对于多元时序异常检测，目前的现有技术不能同时实现异常时序的检测和异常时间戳的检测。
因此，如何提供一种基于图神经网络的混合模型多元时序异常检测方法，其能够检测出多元时间序列中的异常时间戳和异常时序，确定异常点，提高多元时间序列的异常检测粒度、效率和检测准确度，已经成为本领域技术人员亟待解决的技术问题。
发明内容
为解决上述技术问题，本申请提供一种基于图神经网络的混合模型多元时序异常检测方法，其能够检测出多元时间序列中的异常时间戳和异常时序，确定异常点，提高多元时间序列的异常检测粒度、效率和检测准确度。
本申请提供的技术方案如下：
本申请提供一种基于图神经网络的混合模型多元时序异常检测方法，包括以下步骤：S1：以滑动窗口将多元时序划分为第一多元子序列，对第一多元子序列进行预处理得到第一特征矩阵以及第一邻接矩阵；S2：构建图卷积神经网络预测模型，将第一特征矩阵以及第一邻接矩阵作为特征输入进行训练与测试，得到输入多元时序的下一个时间戳的预测值；S3：将同一时间戳上已有的真实值与预测值进行比较得到异常分数，基于异常分数的大小，判断异常时间戳；S4：以固定窗口将多元时序划分为第二多元子序列，对第二多元子序列进行预处理得到第二邻接矩阵；S5：构建卷积神经网络及注意力长短期记忆网络混合重构模型，将第二邻接矩阵作为输入进行训练和测试，生成重构邻接矩阵；S6：将开始输入的第二邻接矩阵与重构邻接矩阵进行比较得到重构误差矩阵，基于重构误差矩阵中元素的大小和超出阈值大小的元素数量，判断异常时间序列；S7：结合判断出的异常时间戳以及异常时间序列，得到异常点坐标。
进一步地，在发明一种优选方式中，所述预处理包括：对所述多元子序列进行最大最小归一化处理，得到特征矩阵。
进一步地，在发明一种优选方式中，所述预处理还包括：在所述特征矩阵上，用余弦相似度测量不同时序之间的相似度，得到相似度矩阵；对所述相似度矩阵进行归一化处理得到邻接矩阵。
进一步地，在发明一种优选方式中，所述多元子序列包括所述第一多元子序列以及所述第二多元子序列；所述特征矩阵包括所述第一特征矩阵；所述邻接矩阵包括所述第一邻接矩阵以及所述第二邻接矩阵；所述第一特征矩阵为多元时序在不同窗口的真实数据。
进一步地，在发明一种优选方式中，所述异常分数为所述图卷积神经网络预测模型中的特征真实值与预测值之间的预测误差值；所述预测误差值为均方误差值。
进一步地，在发明一种优选方式中，所述异常时间戳的判断规则为：预设第一阈值，对比所述差异分数与所述第一阈值；若所述差异分数大于所述第一阈值，则判断该时间戳异常。
进一步地，在发明一种优选方式中，在S5中，包括：S501编码处理：对所述第二邻接矩阵进行卷积神经网络以及注意力长短期记忆网络处理，得到时序隐藏表示；S502解码处理：对所述时序隐藏表示通过解卷积神经网络处理，生成所述重构邻接矩阵。
进一步地，在发明一种优选方式中，所述重构误差矩阵中每个元素都表示重构邻接矩阵和输入邻接矩阵相同位置上的重构误差；所述重构误差值为均方根误差值。
进一步地，在发明一种优选方式中，所述异常时序的判断规则为：预设第二阈值，对比所述重构误差矩阵中每个元素与所述第二阈值的大小，若所述重构误差矩阵中的元素大于所述第二阈值，则判断为异常；若所述异常分数矩阵其中一行有超过20％的元素为异常，即重构异常概率超过20％，则判断该行元素对应的时间序列为异常时序。
进一步地，在发明一种优选方式中，在S7中，包括：S701：将基于所述图卷积神经网络预测模型判断出的异常时间戳与基于所述卷积神经网络及注意力长短期记忆网络混合重构模型判断出的异常时间序列结合，得到异常点所在时间戳以及所在时序，即得到所述异常点的坐标。
本发明提供的一种基于图神经网络的混合模型多元时序异常检测方法，与现有技术相比，包括以下步骤：S1：以滑动窗口将多元时序划分为第一多元子序列，对第一多元子序列进行预处理得到第一特征矩阵以及第一邻接矩阵；S2：构建图卷积神经网络预测模型，将第一特征矩阵以及第一邻接矩阵作为特征输入进行训练与测试，得到输入多元时序的下一个时间戳的预测值； S3：将同一时间戳上已有的真实值与预测值进行比较得到异常分数，基于异常分数的大小，判断异常时间戳；S4：以固定窗口将多元时序划分为第二多元子序列，对第二多元子序列进行预处理得到第二邻接矩阵；S5：构建卷积神经网络及注意力长短期记忆网络混合重构模型，将第二邻接矩阵作为输入进行训练和测试，生成重构邻接矩阵；S6：将开始输入的第二邻接矩阵与重构邻接矩阵进行比较得到重构误差矩阵，基于重构误差矩阵中元素的大小和超出阈值大小的元素数量，判断异常时间序列；S7：结合判断出的异常时间戳以及异常时间序列，得到异常点坐标。其中，利用滑动窗口算法划分多元时间序列，并对所述第一多元子序列进行预处理，提取多元时序的时间戳特征，结合构建的图卷积神经网络预测模型进行特征分析，对比分析结果，检测出异常时间戳；其次，利用固定窗口算法划分多元时间序列，并对所述第二多元子序列进行预处理，提取多元时序的时序特征，结合构建的卷积神经网络及注意力长短期记忆网络混合重构模型进行特征分析，对比分析结果，检测出异常时序；最后，结合所述异常时间戳和所述异常时序，即可得到异常点所在的时间和空间坐标，即某一时序的某一时刻，实现细粒度准确的多元时间序列异常检测。本发明涉及的技术方案，相较于现有技术而言，能够检测出多元时间序列中的异常时间戳和异常时序，确定异常点，提高多元时间序列的异常检测粒度、效率和检测准确度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的基于图神经网络的混合模型多元时序异常检测方法的步骤流程图；
图2为本发明实施例中涉及的基于图神经网络的混合模型多元时序异常检测方法的流程结构示意图；
图3为本发明实施例涉及的图卷积神经网络预测模型判断异常时间戳的流程结构示意图；
图4为本发明实施例涉及的卷积神经网络及注意力长短期记忆网络混合重构模型判断异常时序的流程结构示意图。
具体实施方式
为了使本领域的技术人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请的一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
需要说明的是，当元件被称为“固定于”或“设置于”另一个元件上，它可以直接在另一个元件上或者间接设置在另一个元件上；当一个元件被称为是“连接于”另一个元件，它可以是直接连接到另一个元件或间接连接至另一个元件上。
需要理解的是，术语“长度”、“宽度”、“上”、“下”、“前”、“后”、“第一”、“第二”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请的限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请的描述中，“多个”、“若干个”的含义是两个或两个以上，除非另有明确具体的限定。
须知，本说明书附图所绘示的结构、比例、大小等，均仅用以配合说明书所揭示的内容，以供熟悉此技术的人士了解与阅读，并非用以限定本申请可实施的限定条件，故不具技术上的实质意义，任何结构的修饰、比例关系的改变或大小的调整，在不影响本申请所能产生的功效及所能达成的目的下，均应仍落在本申请所揭示的技术内容得能涵盖的范围内。
请如图1至图4所示，本申请实施例提供的基于图神经网络的混合模型多元时序异常检测方法，与现有技术相比，包括以下步骤：S1：以滑动窗口将多元时序划分为第一多元子序列，对第一多元子序列进行预处理得到第一特征矩阵以及第一邻接矩阵；S2：构建图卷积神经网络预测模型，将第一特征矩阵以及第一邻接矩阵作为特征输入进行训练与测试，得到输入多元时序的下一个时间戳的预测值；S3：将同一时间戳上已有的真实值与预测值进行比较得到异常分数，基于异常分数的大小，判断异常时间戳；S4：以固定窗口将多元时序划分为第二多元子序列，对第二多元子序列进行预处理得到第二邻接矩阵；S5：构建卷积神经网络及注意力长短期记忆网络混合重构模型，将第二邻接矩阵作为输入进行训练和测试，生成重构邻接矩阵；S6：将开始输入的第二邻接矩阵与重构邻接矩阵进行比较得到重构误差矩阵，基于重构误差矩阵中元素的大小和超出阈值大小的元素数量，判断异常时间序列；S7：结合判断出的异常时间戳以及异常时间序列，得到异常点坐标。
本发明提供一种基于图神经网络的混合模型多元时序异常检测方法，具体包括以下步骤：S1：以滑动窗口将多元时序划分为第一多元子序列，对第一多元子序列进行预处理得到第一特征矩阵以及第一邻接矩阵；S2：构建图卷积神经网络预测模型，将第一特征矩阵以及第一邻接矩阵作为特征输入进行训练与测试，得到输入多元时序的下一个时间戳的预测值；S3：将同一时间戳上已有的真实值与预测值进行比较得到异常分数，基于异常分数的大小，判断异常时间戳；S4：以固定窗口将多元时序划分为第二多元子序列，对第二多元子序列进行预处理得到第二邻接矩阵；S5：构建卷积神经网络及注意力长短期记忆网络混合重构模型，将第二邻接矩阵作为输入进行训练和测试，生成重构邻接矩阵；S6：将开始输入的第二邻接矩阵与重构邻接矩阵进行比较得到重构误差矩阵，基于重构误差矩阵中元素的大小和超出阈值大小的元素数量，判断异常时间序列；S7：结合判断出的异常时间戳以及异常时间序列，得到异常点坐标。其中，利用滑动窗口算法划分多元时间序列，并对所述第一多元子序列进行预处理，提取多元时序的时间戳特征，结合构建的图卷积神经网络预测模型进行特征分析，对比分析结果，检测出异常时间戳；其次，利用固定窗口算法划分多元时间序列，并对所述第二多元子序列进行预处理，提取多元时序的时序特征，结合构建的卷积神经网络及注意力长短期记忆网络混合重构模型进行特征分析，对比分析结果，检测出异常时序；最后，结合所述异常时间戳和所述异常时序，即可得到异常点所在的时间和空间坐标，即某一时序的某一时刻，实现细粒度准确的多元时间序列异常检测。本发明涉及的技术方案，相较于现有技术而言，能够检测出多元时间序列中的异常时间戳和异常时序，确定异常点，提高多元时间序列的异常检测粒度、效率和检测准确度。
具体地，在本发明的实施例中，所述多元时间序列由X∈Rk×n表示，其中n 是时间戳的数量，而k是时序的数量；多元时间序列异常检测检测出现异常所在的时间戳和时序，即对给出xji异常分类结果；当xji的标签为1时，表示第j元时序在第i个时间戳出现异常。
实施例1：
具体地，在本发明的实施例中，基于所述图卷积神经网络的预测模型，图G＝(V,E)包含k个节点，每个节点表示一个时序，具有自己的特征，边表示时序之间邻接关系；通过节点的邻接关系聚合节点的邻接特征得到节点的隐藏表示即为图卷积处理过程。
具体地，在本发明的实施例中，用窗口大小为w，步长为1的滑动窗口生成H个所述第一多元子序列，其中H＝n-w+1；第i个第一多元子序列表示为Xi＝[xi,...,xi+w-1]∈Rk×w，其中i＝{1,2,...,H}，xi表示第i列，以X的第i列到第i+w-1 列为例：
对每个所述第一多元子序列直接进行最大最小归一化处理形成所述第一特征矩阵
q＝{1,2,...,k}；所述第一特征矩阵为多元时序在不同滑动窗口的真实数据。
其中，Xi,q表示第i个多元子序列的第q行，norm表示最大最小归一化处理，将原始数据线性化的方法转换到[0，1]的范围；具体表示为：
xi,(q,v)表示第i个多元子序列的第q行的第v个元素；
对所有所述第一多元子序列都进行上述操作后可得到H个所述第一特征矩阵，构成第一特征张量X∈RH×k×n。
具体地，在本发明的实施例中，基于所述第一特征矩阵，用余弦相似度测量不同时序之间的相似度，得到一个相似度矩阵，最后对相似度矩阵进行 Softmax归一化处理就可以得到一个加权的所述第一邻接矩阵Ai∈Rk×k；所述第一邻接矩阵表示为：
其中，Ai,(g,f)表示第i个邻接矩阵(g,f)位置上的元素，
表示第i个特征矩阵的第g行，也就是第i个多元子序列中第g个时序的特征；对所有的所述第一多元子序列都进行上述操作后可得到H个所述第一邻接矩阵，构成第一邻接张量A∈RH×k×k。
具体地，在本发明的实施例中，构建图卷积神经网络预测模型，将第一邻接矩阵和第一特征矩阵作为输入放入图卷积神经网络预测模型中，进行预测；根据第i个多元子序列的特征和邻接关系，即(i,i+w-1)时段的特征和邻接关系预测i+w时刻的值。
具体地，在本发明的实施例中，所述图卷积神经网络预测模型包括：两层图卷积处理以及一层全连接处理；对所述第一特征矩阵和所述第一邻接矩阵进行两层图卷积处理得到所有节点维度为w的隐藏特征，用隐藏特征矩阵 h∈Rk×w表示。
具体地，在本发明的实施例中，将所述隐藏特征进行全连接处理得到i+w 时间戳的预测值X′i+w，表示如下：
x′i+w＝f(GCN(Xi,Ai))＝σ(Aiσ(Aiσ(AiXiW0)W1)W2)
其中，σ为激活函数。
具体地，在本发明的实施例中，定义第一损失函数，所述第一损失函数为所述预测值与所述真实值的均方误差，表示为：
其中，xm为时间戳上的真实值；x′m为时间戳上的预测值。
具体地，在本发明的实施例中，所述异常分数scorei+w为预测值x′i+w与真实特征值x′i+w之间误差值；所述误差值为均方误差值，表示为：(xm-x′m)2。
具体地，在本发明的实施例中，所述异常时间点的判断规则为：预设第一阈值，对比所述差异分数scorei+w与所述第一阈值λ；若所述差异分数scorei+w大于所述第一阈值λ，则判断该时间点异常。
具体地，在本发明的实施例中，通过长度同样为w的固定窗口对多元时序进行划分，生成
个不重叠的所述第二多元子序列，表示为
对所述第二多元子序列进行预处理，此处将第二多元子序列进行内积得到
个所述第二邻接矩阵
构成第二邻接张量
第i个第二邻接矩阵
具体表示为：
其中，
表示为
的转置矩阵。
具体地，在本发明的实施例中，构建卷积神经网络及注意力长短期记忆网络混合重构模型，所述卷积神经网络及注意力长短期记忆网络混合重构模型包括编码层和解码层；将所述第二邻接矩阵作为输入放入所述卷积神经网络及注意力长短期记忆网络混合重构模型中。
具体地，所述编码层进行所述编码处理，每次输入第二邻接张量
中的h 个第二邻接矩阵
输入的前h-1个邻接矩阵主要用作注意力长短期记忆力网络中将特征结合到第i个邻接矩阵中。对H进行卷积层处理，所述卷积处理包含四层卷积操作，主要对输入的H进行降采样生成G。卷积运算具体表示为：
G＝σ(W*H+b)
其中，*为卷积运算，σ为激活函数。
每层卷积生成的矩阵再通过注意力长短期记忆力网络将矩阵进行注意力操作生成1个结合后的隐藏表示形式。因为有四个卷积层，所以最后会生成四个隐藏表示
o为每个卷积层的通道数；注意力长短期记忆力网络运算具体表示为：
其中，α为注意力系数，LSTM表示长短期记忆力运算，Gl,i表示经过第l个卷积层后的第i个第二邻接矩阵。
所述解码层进行解码处理，解码层从后往前，将最后一层的隐藏表示
进行解卷积操作后与前一层的隐藏表示
结合生成矩阵表示形式
再将
进行解卷积操作后与前一层的隐藏表示
结合生成矩阵表示形式
再将
进行解卷积操作后与前一层的隐藏表示
结合生成矩阵表示形式
最后再将
进行解卷积操作生成重构邻接矩阵
具体地，在本发明的实施例中，所述重构邻接矩阵具体表示为：
其中，
为解卷积操作，
为联结操作，σ为激活函数。
具体地，在本发明的实施例中，定义第二损失函数，所述第二损失函数为所述重构邻接矩阵与开始输入的所述第二邻接矩阵的均方根误差，表示为：
具体地，在本发明的实施例中，将所述重构邻接矩阵
与开始输入的所述第二邻接矩阵
进行比较，得到重构误差矩阵
E∈Rk×k。
具体地，在本发明的实施例中，所述重构误差矩阵中每个元素都表示重构邻接矩阵和第二邻接矩阵相同位置上的重构误差。
具体地，在本发明的实施例中，所述异常时序的判断规则为：预设第二阈值，对比所述重构误差矩阵中每个元素与所述第二阈值的大小，若所述异常分数矩阵中的元素大于所述第二阈值，则判断为异常；若所述异常分数矩阵其中一行有超过20％的元素为异常，即重构异常概率超过20％，则判断该行元素对应的时间序列为异常时序。
具体地，在本发明的实施例中，结合判断出的异常时间戳i和判断出的异常时序j，得到所要测量的异常点y的坐标，即：
y＝(j,i)
更为具体地阐述，关于多元时间序列的异常检测问题，一部分现有技术可以检测整个多元时间序列在某个时间戳或者时间段的异常，但不能检测多元时序之间是哪个多元时序出现异常，即异常时序检测；另一部分现有技术可以检测多元时序之间是哪个时序出现异常，或者某个时间段内的多元时序之间是哪个时序出现异常，但这些不能准确检测到多元时序中异常时序是哪个时间戳发生异常的，即异常时间戳检测。由此可知，对于多元时序异常检测，目前的现有技术不能同时实现异常时序的检测和异常时间戳的检测。
由上所述，本发明实施例涉及的基于图神经网络的混合模型多元时序异常检测方法，利用滑动窗口算法划分多元时间序列，并对所述第一多元子序列进行预处理，提取多元时序的时间戳特征，结合构建的图卷积神经网络预测模型进行特征分析，对比分析结果，检测出异常时间戳；其次，利用固定窗口算法划分多元时间序列，并对所述第二多元子序列进行预处理，提取多元时序的时序特征，结合构建的卷积神经网络及注意力长短期记忆网络混合重构模型进行特征分析，对比分析结果，检测出异常时序；最后，结合所述异常时间戳和所述异常时序，即可得到异常点所在的时间和空间坐标，即某一时序的某一时刻，实现细粒度准确的多元时间序列异常检测。本发明涉及的技术方案，相较于现有技术而言，能够检测出多元时间序列中的异常时间戳和异常时序，确定异常点，提高多元时间序列的异常检测粒度、效率和检测准确度。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其他实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，包括以及步骤：
S1：以滑动窗口将多元时序划分为第一多元子序列，对第一多元子序列进行预处理得到第一特征矩阵以及第一邻接矩阵；
S2：构建图卷积神经网络预测模型，将第一特征矩阵以及第一邻接矩阵作为特征输入进行训练与测试，得到输入多元时序的下一个时间戳的预测值；
S3：将同一时间戳上已有的真实值与预测值进行比较得到异常分数，基于异常分数的大小，判断异常时间戳；
S4：以固定窗口将多元时序划分为第二多元子序列，对第二多元子序列进行预处理得到第二邻接矩阵；
S5：构建卷积神经网络及注意力长短期记忆网络混合重构模型，将第二邻接矩阵作为输入进行训练和测试，生成重构邻接矩阵；
S6：将开始输入的第二邻接矩阵与重构邻接矩阵进行比较得到重构误差矩阵，基于重构误差矩阵中元素的大小和超出阈值大小的元素数量，判断异常时间序列；
S7：结合判断出的异常时间戳以及异常时间序列，得到异常点坐标。
2.根据权利要求1所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述预处理包括：对所述多元子序列进行最大最小归一化处理，得到特征矩阵。
3.根据权利要求2所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述预处理还包括：在所述特征矩阵上，用余弦相似度测量不同时序之间的相似度，得到相似度矩阵；对所述相似度矩阵进行归一化处理得到邻接矩阵。
4.根据权利要求3所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述多元子序列包括所述第一多元子序列以及所述第二多元子序列；所述特征矩阵包括所述第一特征矩阵；所述邻接矩阵包括所述第一邻接矩阵以及所述第二邻接矩阵；所述第一特征矩阵为多元时序在不同窗口的真实数据。
5.根据权利要求1所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述异常分数为所述图卷积神经网络预测模型中的特征真实值与预测值之间的预测误差值；所述预测误差值包括均方误差值。
6.根据权利要求5所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述异常时间戳的判断规则为：预设第一阈值，对比所述差异分数与所述第一阈值；若所述差异分数大于所述第一阈值，则判断该时间戳异常。
7.根据权利要求1所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，在S5中，包括：S501编码处理：对所述第二邻接矩阵进行卷积神经网络以及注意力长短期记忆网络处理，得到时序隐藏表示；S502解码处理：对所述时序隐藏表示通过解卷积神经网络处理，生成所述重构邻接矩阵。
8.根据权利要求7所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述重构误差矩阵中每个元素都表示重构邻接矩阵和输入邻接矩阵相同位置上的重构误差；所述重构误差值为均方根误差值。
9.根据权利要求8所述的基于图神经网络的混合模型多元时序异常检测方法，其特殊在于，所述异常时序的判断规则为：预设第二阈值，对比所述重构误差矩阵中每个元素与所述第二阈值的大小，若所述重构误差矩阵中的元素大于所述第二阈值，则判断为异常；若所述异常分数矩阵其中一行有超过20％的元素为异常，即重构异常概率超过20％，则判断该行元素对应的时间序列为异常时序。
10.根据权利要求1所述的基于图神经网络的混合模型多元时序异常检测方法，其特征在于，在S7中，包括：S701：将基于所述图卷积神经网络预测模型判断出的异常时间戳与基于所述卷积神经网络及注意力长短期记忆网络混合重构模型判断出的异常时间序列结合，得到异常点所在时间戳以及所在时序，即得到所述异常点的坐标。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110541569.9A CN113516226A (zh) | 2021-05-18 | 2021-05-18 | 一种基于图神经网络的混合模型多元时序异常检测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110541569.9A CN113516226A (zh) | 2021-05-18 | 2021-05-18 | 一种基于图神经网络的混合模型多元时序异常检测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113516226A true CN113516226A (zh) | 2021-10-19 |
Family
ID=78064678
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110541569.9A Pending CN113516226A (zh) | 2021-05-18 | 2021-05-18 | 一种基于图神经网络的混合模型多元时序异常检测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113516226A (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113992718A (zh) * | 2021-10-28 | 2022-01-28 | 安徽农业大学 | 一种基于动态宽度图神经网络的群体传感器异常数据检测方法和系统 |
| CN114692767A (zh) * | 2022-03-31 | 2022-07-01 | 中国电信股份有限公司 | 异常检测方法和装置、计算机可读存储介质、电子设备 |
| CN115051929A (zh) * | 2022-06-20 | 2022-09-13 | 湖北工业大学 | 基于自监督目标感知神经网络的网络故障预测方法及装置 |
| CN115098563A (zh) * | 2022-07-14 | 2022-09-23 | 中国海洋大学 | 基于gcn和注意力vae的时序异常检测方法及系统 |
| CN115208680A (zh) * | 2022-07-21 | 2022-10-18 | 中国科学院大学 | 一种基于图神经网络的动态网络风险预测方法 |
| CN115359870A (zh) * | 2022-10-20 | 2022-11-18 | 之江实验室 | 一种基于层次图神经网络的疾病诊疗过程异常识别系统 |
| CN115618296A (zh) * | 2022-10-26 | 2023-01-17 | 河海大学 | 一种基于图注意力网络的大坝监测时序数据异常检测方法 |
| CN117156442A (zh) * | 2023-10-31 | 2023-12-01 | 深圳市中科鼎创科技股份有限公司 | 基于5g网络的云数据安全保护方法及系统 |
| CN117290800A (zh) * | 2023-11-24 | 2023-12-26 | 华东交通大学 | 一种基于超图注意力网络的时序异常检测方法及系统 |
-
2021
- 2021-05-18 CN CN202110541569.9A patent/CN113516226A/zh active Pending
Cited By (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113992718A (zh) * | 2021-10-28 | 2022-01-28 | 安徽农业大学 | 一种基于动态宽度图神经网络的群体传感器异常数据检测方法和系统 |
| CN113992718B (zh) * | 2021-10-28 | 2022-10-04 | 安徽农业大学 | 一种基于动态宽度图神经网络的群体传感器异常数据检测方法和系统 |
| CN114692767A (zh) * | 2022-03-31 | 2022-07-01 | 中国电信股份有限公司 | 异常检测方法和装置、计算机可读存储介质、电子设备 |
| CN114692767B (zh) * | 2022-03-31 | 2024-01-19 | 中国电信股份有限公司 | 异常检测方法和装置、计算机可读存储介质、电子设备 |
| CN115051929A (zh) * | 2022-06-20 | 2022-09-13 | 湖北工业大学 | 基于自监督目标感知神经网络的网络故障预测方法及装置 |
| CN115051929B (zh) * | 2022-06-20 | 2023-05-26 | 湖北工业大学 | 基于自监督目标感知神经网络的网络故障预测方法及装置 |
| CN115098563A (zh) * | 2022-07-14 | 2022-09-23 | 中国海洋大学 | 基于gcn和注意力vae的时序异常检测方法及系统 |
| CN115208680B (zh) * | 2022-07-21 | 2023-04-07 | 中国科学院大学 | 一种基于图神经网络的动态网络风险预测方法 |
| CN115208680A (zh) * | 2022-07-21 | 2022-10-18 | 中国科学院大学 | 一种基于图神经网络的动态网络风险预测方法 |
| US11934536B2 (en) | 2022-07-21 | 2024-03-19 | University Of Chinese Academy Of Sciences | Dynamic network risk predicting method based on a graph neural network |
| CN115359870A (zh) * | 2022-10-20 | 2022-11-18 | 之江实验室 | 一种基于层次图神经网络的疾病诊疗过程异常识别系统 |
| CN115618296A (zh) * | 2022-10-26 | 2023-01-17 | 河海大学 | 一种基于图注意力网络的大坝监测时序数据异常检测方法 |
| CN115618296B (zh) * | 2022-10-26 | 2023-11-03 | 河海大学 | 一种基于图注意力网络的大坝监测时序数据异常检测方法 |
| CN117156442A (zh) * | 2023-10-31 | 2023-12-01 | 深圳市中科鼎创科技股份有限公司 | 基于5g网络的云数据安全保护方法及系统 |
| CN117156442B (zh) * | 2023-10-31 | 2024-03-12 | 深圳市中科鼎创科技股份有限公司 | 基于5g网络的云数据安全保护方法及系统 |
| CN117290800A (zh) * | 2023-11-24 | 2023-12-26 | 华东交通大学 | 一种基于超图注意力网络的时序异常检测方法及系统 |
| CN117290800B (zh) * | 2023-11-24 | 2024-01-26 | 华东交通大学 | 一种基于超图注意力网络的时序异常检测方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113516226A (zh) | 一种基于图神经网络的混合模型多元时序异常检测方法 | |
| CN109597967B (zh) | 一种电力系统配变电站负荷数据异常检测与修复方法 | |
| CN111126680A (zh) | 一种基于时间卷积神经网络的道路断面交通流量预测方法 | |
| CN112257755B (zh) | 航天器运行状态的分析方法和装置 | |
| CN112488242B (zh) | 电力计量终端异常检测方法、装置、计算机设备和介质 | |
| Shao et al. | A Multichannel LSTM‐CNN Method for Fault Diagnosis of Chemical Process | |
| CN113866455A (zh) | 基于深度学习的桥梁加速度监测数据异常检测方法、系统和装置 | |
| CN114401145A (zh) | 一种网络流量检测系统及方法 | |
| CN117312769A (zh) | 一种基于BiLSTM的物联网时序数据异常检测方法 | |
| CN114818817A (zh) | 一种电容式电压互感器微弱故障识别系统及方法 | |
| CN111031064A (zh) | 一种检测电网假数据注入攻击的方法 | |
| CN117113139A (zh) | 故障检测模型的训练方法、装置、计算机设备和存储介质 | |
| CN115757365A (zh) | 多维时序数据异常检测方法、模型训练方法及装置 | |
| CN117688496B (zh) | 面向卫星遥测多维时序数据的异常诊断方法、系统及设备 | |
| CN117454212B (zh) | 一种基于数据聚类的遥测数据互检测方法 | |
| CN116700213B (zh) | 基于门控循环单元的工业设备异常检测方法及相关装置 | |
| CN114932582B (zh) | 一种基于Bi-GRU自编码器的机器人小概率失效预测方法 | |
| CN116089822B (zh) | 一种基于时空注意力网络的设备rul预测方法及系统 | |
| CN117216623A (zh) | 基于分布式排列熵的光伏出力数据异常检测方法及系统 | |
| CN110363208B (zh) | 一种多参数融合堆垛机轨道故障检测及预警方法 | |
| CN117171154A (zh) | 一种基于人工智能神经网络的交通基础设施时序数据质量判别与增强方法 | |
| CN117134350A (zh) | 极端天气条件下超短期风电功率分段预测方法和装置 | |
| CN117743939A (zh) | 一种风电设备剩余使用寿命预测方法、系统及电子设备 | |
| CN116842438A (zh) | 一种用于变压器故障诊断的数字孪生模型构建方法及系统 | |
| CN118036886A (zh) | 面向电-气互联新型电力系统的动态安全裕度评估方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211019 |
|
| RJ01 | Rejection of invention patent application after publication |