CN117407697B - 基于自动编码器和注意力机制的图异常检测方法及系统 - Google Patents

基于自动编码器和注意力机制的图异常检测方法及系统 Download PDF

Info

Publication number
CN117407697B
CN117407697B CN202311714668.8A CN202311714668A CN117407697B CN 117407697 B CN117407697 B CN 117407697B CN 202311714668 A CN202311714668 A CN 202311714668A CN 117407697 B CN117407697 B CN 117407697B
Authority
CN
China
Prior art keywords
node
network
vector
hidden vector
graph
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311714668.8A
Other languages
English (en)
Other versions
CN117407697A (zh
Inventor
肖勇才
郑晗欣
杨柳
刘旷也
陈明亮
邱日轩
喻宝禄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanchang Kechen Electric Power Test And Research Co ltd
Electric Power Research Institute of State Grid Jiangxi Electric Power Co Ltd
Original Assignee
Nanchang Kechen Electric Power Test And Research Co ltd
Electric Power Research Institute of State Grid Jiangxi Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanchang Kechen Electric Power Test And Research Co ltd, Electric Power Research Institute of State Grid Jiangxi Electric Power Co Ltd filed Critical Nanchang Kechen Electric Power Test And Research Co ltd
Priority to CN202311714668.8A priority Critical patent/CN117407697B/zh
Publication of CN117407697A publication Critical patent/CN117407697A/zh
Application granted granted Critical
Publication of CN117407697B publication Critical patent/CN117407697B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Water Supply & Treatment (AREA)
  • Public Health (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种基于自动编码器和注意力机制的图异常检测方法及系统，方法包括：通过预设的多头跳跃连接注意力机制分别为图属性网络和图结构网络中的每个节点分配不同的权重计算隐向量，得到第一隐向量以及第二隐向量；以最小化网络结构和节点属性为目标的第一损失函数对第一隐向和第二隐向量进行解码重构，得到第一特征向量和第二特征向量；将第一隐向量、第二隐向量、第一重构损失误差、第二重构损失误差进行拼接得到输入向量；将输入向量输入至预设的估计网络中，通过估计网络中第二损失函数计算各个节点的分布概率，并根据各个节点的分布概率计算每个节点的异常分数值。解决了无法应用于复杂的交互模式，并且无法提取非线性特征的问题。

Description

基于自动编码器和注意力机制的图异常检测方法及系统
技术领域
本发明属于电力自动化技术领域，尤其涉及一种基于自动编码器和注意力机制的图异常检测方法及系统。
背景技术
电力系统中存在各种类型的异常，例如电压异常、电流异常、功率异常等。这些异常可能是由于设备故障、外界干扰、恶意攻击等原因引起的。异常的发生会影响电力系统的稳定性和可靠性，甚至可能导致设备损坏、停电甚至事故。因此，及时准确地检测和诊断异常情况对于电力系统的运行和安全至关重要。
图异常检测是一种基于图论和机器学习的方法，可以帮助识别和分析数据中的异常模式。在电力物联网中，可以利用图异常检测方法对电力数据进行建模和分析。通过构建电力系统中各个设备之间的连接关系，可以将电力数据表示为图数据，并利用图异常检测方法来发现异常模式。
目前已有的基于深度学习的无监督异常检测方法大都采用基于残差分析的思想，在基于残差分析的异常检测方法中，原始数据与估计数据的差距（即重构误差）是显示数据集中实例异常的有力指标。具体来说，具有较大重构误差的数据实例更有可能被认为是异常，因为它们的模式明显偏离大多数情况。在各种基于残差分析的异常检测方法中，深度自编码器实现了最先进的性能。深度自编码器是所有无监督的深度学习异常检测模型的核心，其思想是 假定正常的实例数目比异常实例数目多，深度自编码器可以记住正常的模式，但不能有效地从低维投影重建这些异常点，因此这些具有较少出现次数的异常点在通过自编码器后往往具有较大的残差，从而被判别为异常点。该类模型的框架是针对输入数据通过一个编码器（encoder）得到数据的隐层表示，然后该表示通过一个解码器（decoder）重构输入数据，最后用输入和重构的输出之间的残差损失（residual loss）大小作为衡量数据异常的指标。
缺陷：一些基于深度学习的异常检测方法往往将节点的结构和属性信息分开考虑，忽略了两者之间的某些交互信息。
注意力机制在越来越多的领域取得成功，图注意力网络也得到了广泛的研究和关注。通过注意力机制定义聚合函数，邻接矩阵仅被用来定义相关节点。具体来说，为了获得节点更好的特征表示，首先针对节点特征做一个线性变换，再针对中心节点ｉ，计算邻居节点ｊ对节点ｉ的重要性程度，然后通过softmax函数归一化获得节点的重要性程度，最后通过加权求和的聚集函数来获得节点的表示，在获得高质量的嵌入 表示后将重构损失当作异常的可能性大小。
缺陷：无法捕捉数据非线性关系的能力来获得节点更好的表示。
因此，上述现有图异常检测技术的缺点可以总结归纳为：无法应用于复杂的交互模式，并且无法提取非线性特征。
发明内容
本发明提供一种基于自动编码器和注意力机制的图异常检测方法及系统，用于解决无法应用于复杂的交互模式，并且无法提取非线性特征的技术问题。
第一方面，本发明提供一种基于自动编码器和注意力机制的图异常检测方法，包括：
以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
第二方面，本发明提供一种基于自动编码器和注意力机制的图异常检测系统，包括：
构建模块，配置为以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取模块，配置为获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
第一计算模块，配置为通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
重构模块，配置为以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
降维模块，配置为通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
处理模块，配置为将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
第二计算模块，配置为将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
第三方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例的基于自动编码器和注意力机制的图异常检测方法的步骤。
第四方面，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述程序指令被处理器执行时，使所述处理器执行本发明任一实施例的基于自动编码器和注意力机制的图异常检测方法的步骤。
本申请的基于自动编码器和注意力机制的图异常检测方法及系统，具有以下有益效果：
1、在特征提取后将属性与结构信息通过融合可以更好的捕捉节点的信息，解决了属性信息与结构信息单独训练缺少交互的缺点；在提取节点属性特征的基础上，也保留了节点之间的结构特征，充分利用电力物联网设备的空间和连接关系，打破了现有技术未能有效利用电力物联网设备自身与结构之间的交互信息；
2、通过引入图注意力机制来汇总节点之间的特征，可以根据不同设备节点之间的关联性为它们分配不同的权重系数，这一方法可以提高设备节点之间的空间关系建模的合理性，每头注意力机制可以学习到一个潜在空间下的节点表征，利用多个注意力机制即可学习到节点在多个不同潜在空间下的表征，电力物联网设备之间存在着各种复杂的空间联系，但这些联系的强度并不相同，换言之，一些节点之间的联系很强，而与其他节点的联系则相对较弱，通过使用图注意力机制，可以更准确地捕捉各节点之间的连接强度，从而能够有效地调整电力物联网设备节点之间的联系权重，这有助于模型更关注那些具有强连接的设备，从而提高异常检测的性能。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的一种基于自动编码器和注意力机制的图异常检测方法的流程图；
图2为本发明一实施例提供的一种基于自动编码器和注意力机制的图异常检测系统的结构框图；
图3是本发明一实施例提供的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
请参阅图1，其示出了本申请的一种基于自动编码器和注意力机制的图异常检测方法的流程图。
如图1所示，基于自动编码器和注意力机制的图异常检测方法具体包括以下步骤：
步骤S101，以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络。
在本步骤中，利用数据采集工具，收集电力物联网中不同设备的流量业务数据和设备之间的关联位置数据；流量业务数据包括源/目标IP地址，源/目标MAC地址、通信协议、数据包长度、时间戳、用电量，电压，设备状态，用户操作记录等。
以设备为节点，每个节点的流量数据和业务数据作为该节点的初始特征，设备之间的连接关系为边，构建图属性网络，图属性网络为，其中是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；属性矩阵 X 的第i行向量表示第i节点的属性向量。此外，如果节点 i 和节点 j 之间存在边，则，否则。
以设备为节点，每个节点（设备）之间的连接关系为边，构建图结构网络，G的结构可以用结构矩阵S来表示。结构矩阵的第i行向量表示节点的结构向量，m为结构特征个数。
步骤S102，获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中。
步骤S103，通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量。
在本步骤中，将所述图属性网络G中的每个节点的属性特征按列拼接，并将拼接后的向量输入至MLP层中，输出得到参考向量，计算所述参考向量的表达式为：
，
式中，为通过自链接后的第i个节点的特征；
此时每头注意力机制下结构的注意力权重系数表示为：
，
式中，为通过多头注意力机制得到的节点i与节点j之间的注意力权重系数，、均为可学习参数，为节点i所有的邻居节点，为邻居节点j的特征，为第k个邻居节点的特征；
根据每头注意力机制下结构的注意力权重系数计算得到每头注意力机制下节点的结构表征，其中，计算所述结构表征的表达式为：
，
式中，为节点i在第l层第p头的注意力，为节点i的初始特征；
将每头注意力机制下得到的节点i的嵌入表示进行拼接，即可得到第l层节点i的嵌入表示为，其中，为节点i经过多头注意力计算后的第l层特征，为总的注意力机制头数，为非线性激活函数，为拼接操作；
那么，经由多头跳跃连接注意力机制可以学习第l层节点i的表示为：
，
式中，为节点i的第l+1层特征，为relu激活函数，为节点i的第l层特征，为节点j的第l层特征，为可学习参数；
那么，自动编码器网络层描述为：
，
式中，为所有节点的第l+1层特征，为归一化对角矩阵，为经由多头跳跃连接注意力机制计算后的节点属性，为所有节点的第l层特征，为第l层网络的参数矩阵；
使用自动编码器网络层对节点的高阶结构进行编码，得到与所述图属性网络G相对应的第一隐向量。
将所述图结构网络S中的每个节点的结构特征按列拼接，并将拼接后的向量输入至MLP层中，输出得到参考向量，计算所述参考向量的表达式为：
，
式中，为通过自链接后的第i个节点的特征；
此时每头注意力机制下结构的注意力权重系数表示为：
，
式中，为通过多头注意力机制得到的节点i与节点j之间的注意力权重系数，、均为可学习参数，为节点i所有的邻居节点，为邻居节点j的特征，为第k个邻居节点的特征，T为转置符号；
根据每头注意力机制下结构的注意力权重系数计算得到每头注意力机制下节点的结构表征，其中，计算所述结构表征的表达式为：
，
式中，为节点i在第l层第p头的注意力，为节点i的初始特征；
将每头注意力机制下得到的节点i的嵌入表示进行拼接，即可得到第l层节点i的嵌入表示为，其中，为节点i经过多头注意力计算后的第l层特征，为总的注意力机制头数，为非线性激活函数，为拼接操作；
那么，经由多头跳跃连接注意力机制可以学习第l层节点i的表示为：
，
式中，为节点i的第l+1层特征，为relu激活函数，为节点i的第l层特征，为节点j的第l层特征，为可学习参数；
那么，自动编码器网络层描述为：
，
式中，为所有节点的第l+1层特征，为归一化对角矩阵，为经由多头跳跃连接注意力机制计算后的节点属性，为所有节点的第l层特征，为第l层网络的参数矩阵；
使用自动编码器网络层对节点的高阶结构进行编码，得到与所述图结构网络S相对应的第二隐向量。
步骤S104，以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量。
在实际应用中，以最小化网络结构和节点属性为目标的第一损失函数的表达式为：
，
式中，为以最小化网络结构和节点属性为目标的第一损失函数，为平衡参数，为初始结构特征，为重构后的结构特征，为初始属性特征矩阵，为重构后的属性特征，为L2范数公式。
步骤S105，通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到。
步骤S106，将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量。
步骤S107，将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
在实际应用中，在估计网络中认为有k个不同子分布组成的高斯混合分布，得到每个节点属于高斯混合分布中各个分布的概率，计算各个分布的概率的表达式为：
，
式中，为softmax函数，为一个输入为Z参数为的MLP网络的输出；
其中，每个子分布的概率，均值，协方差的表示式分别为：
，
，
，
式中，为节点的总数，为节点i属于第k个分布的概率，表示节点i的输入，为第k个分布的均值，为转置符号；
得到上述值后，直接将其带入到高斯混合分布公式中，即为：
，
式中，为混合K个分布后的混合分布期望值。
具体地，第二损失函数的表达式为：
，
式中，为第二损失函数，为节点i属于第k个分布的概率，为第k个分布的概率密度函数，为节点的总数，为概率密度函数的总数。
需要说明的是，对于异常，由于其不规则性和多样性，模型很难拟合其匹配的模式，或者说不能很好的重构。理想的情况下，对于正常的节点，其预测分数应接近进1，而异常点的预测分数应该接近于0。这表明它的行为模式偏离了大多数其他节点，并且它是一个异常节点的概率较高。因此，我们可以从高阶结构和节点属性的角度利用重构误差来计算每个节点的异常分数:
，
式中，为第i个节点的异常分数值，为平衡参数，为重构后节点i的属性特征，为初始节点i的属性特征，为重构后节点i的结构特征，为为初始节点i的结构特征，为学习参数，为第i个节点的分布概率，为节点的总数。
综上，本申请的方法，通过引入图注意力机制来汇总节点之间的特征，可以根据不同设备节点之间的关联性为它们分配不同的权重系数，这一方法可以提高设备节点之间的空间关系建模的合理性，每头注意力机制可以学习到一个潜在空间下的节点表征，利用多个注意力机制即可学习到节点在多个不同潜在空间下的表征，电力物联网设备之间存在着各种复杂的空间联系，但这些联系的强度并不相同，换言之，一些节点之间的联系很强，而与其他节点的联系则相对较弱，通过使用图注意力机制，可以更准确地捕捉各节点之间的连接强度，从而能够有效地调整电力物联网设备节点之间的联系权重，这有助于模型更关注那些具有强连接的设备，从而提高异常检测的性能。
请参阅图2，其示出了本申请的一种基于自动编码器和注意力机制的图异常检测系统的结构框图。
如图2所示，图异常检测系统200，包括构建模块210、获取模块220、第一计算模块230、重构模块240、降维模块250、处理模块260以及第二计算模块270。
其中，构建模块210，配置为以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取模块220，配置为获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
第一计算模块230，配置为通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
重构模块240，配置为以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
降维模块250，配置为通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
处理模块260，配置为将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
第二计算模块270，配置为将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
应当理解，图2中记载的诸模块与参考图1中描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作和特征以及相应的技术效果同样适用于图2中的诸模块，在此不再赘述。
在另一些实施例中，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序指令被处理器执行时，使所述处理器执行上述任意方法实施例中的基于自动编码器和注意力机制的图异常检测方法；
作为一种实施方式，本发明的计算机可读存储介质存储有计算机可执行指令，计算机可执行指令设置为：
以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
计算机可读存储介质可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据基于自动编码器和注意力机制的图异常检测系统的使用所创建的数据等。此外，计算机可读存储介质可以包括高速随机存取存储器，还可以包括存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，计算机可读存储介质可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至基于自动编码器和注意力机制的图异常检测系统。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
图3是本发明实施例提供的电子设备的结构示意图，如图3所示，该设备包括：一个处理器310以及存储器320。电子设备还可以包括：输入装置330和输出装置340。处理器310、存储器320、输入装置330和输出装置340可以通过总线或者其他方式连接，图3中以通过总线连接为例。存储器320为上述的计算机可读存储介质。处理器310通过运行存储在存储器320中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例基于自动编码器和注意力机制的图异常检测方法。输入装置330可接收输入的数字或字符信息，以及产生与基于自动编码器和注意力机制的图异常检测系统的用户设置以及功能控制有关的键信号输入。输出装置340可包括显示屏等显示设备。
上述电子设备可执行本发明实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明实施例所提供的方法。
作为一种实施方式，上述电子设备应用于基于自动编码器和注意力机制的图异常检测系统中，用于客户端，包括：至少一个处理器；以及，与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够：
以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行各个实施例或者实施例的某些部分的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，包括：
以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
2.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，所述流量数据包括源IP地址子数据，目标IP地址子数据，源MAC地址子数据、目标MAC地址子数据、通信协议子数据、数据包长度子数据和时间戳子数据；
所述业务数据包括用电量子数据、电压子数据、设备状态子数据和用户操作记录子数据。
3.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，其中，通过预设的多头跳跃连接注意力机制分为所述图属性网络G中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量包括：
将所述图属性网络G中的每个节点的属性特征按列拼接，并将拼接后的向量输入至MLP层中，输出得到参考向量，计算所述参考向量的表达式为：
，
式中，为通过自链接后的第i个节点的特征；
此时每头注意力机制下结构的注意力权重系数表示为：
，
式中，为通过多头注意力机制得到的节点i与节点j之间的注意力权重系数，、均为可学习参数，为节点i所有的邻居节点，为邻居节点j的特征，为第k个邻居节点的特征；
根据每头注意力机制下结构的注意力权重系数计算得到每头注意力机制下节点的结构表征，其中，计算所述结构表征的表达式为：
，
式中，为节点i在第l层第p头的注意力，为节点i的初始特征；
将每头注意力机制下得到的节点i的嵌入表示进行拼接，即可得到第l层节点i的嵌入表示为，其中，为节点i经过多头注意力计算后的第l层特征，为总的注意力机制头数，为非线性激活函数，为拼接操作；
那么，经由多头跳跃连接注意力机制可以学习第l层节点i的表示为：
，
式中，为节点i的第l+1层特征，为relu激活函数，为节点i的第l层特征，为节点j的第l层特征，为可学习参数；
那么，自动编码器网络层描述为：
，
式中，为所有节点的第l+1层特征，为归一化对角矩阵，为经由多头跳跃连接注意力机制计算后的节点属性，为所有节点的第l层特征，为第l层网络的参数矩阵；
使用自动编码器网络层对节点的高阶结构进行编码，得到与所述图属性网络G相对应的第一隐向量。
4.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，其中，通过预设的多头跳跃连接注意力机制为所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图结构网络S相对应的第二隐向量包括：
将所述图结构网络S中的每个节点的结构特征按列拼接，并将拼接后的向量输入至MLP层中，输出得到参考向量，计算所述参考向量的表达式为：
，
式中，为通过自链接后的第i个节点的特征；
此时每头注意力机制下结构的注意力权重系数表示为：
，
式中，为通过多头注意力机制得到的节点i与节点j之间的注意力权重系数，、均为可学习参数，为节点i所有的邻居节点，为邻居节点j的特征，为第k个邻居节点的特征，T为转置符号；
根据每头注意力机制下结构的注意力权重系数计算得到每头注意力机制下节点的结构表征，其中，计算所述结构表征的表达式为：
，
式中，为节点i在第l层第p头的注意力，为节点i的初始特征；
将每头注意力机制下得到的节点i的嵌入表示进行拼接，即可得到第l层节点i的嵌入表示为，其中，为节点i经过多头注意力计算后的第l层特征，为总的注意力机制头数，为非线性激活函数，为拼接操作；
那么，经由多头跳跃连接注意力机制可以学习第l层节点i的表示为：
，
式中，为节点i的第l+1层特征，为relu激活函数，为节点i的第l层特征，为节点j的第l层特征，为可学习参数；
那么，自动编码器网络层描述为：
，
式中，为所有节点的第l+1层特征，为归一化对角矩阵，为经由多头跳跃连接注意力机制计算后的节点属性，为所有节点的第l层特征，为第l层网络的参数矩阵；
使用自动编码器网络层对节点的高阶结构进行编码，得到与所述图结构网络S相对应的第二隐向量。
5.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，所述以最小化网络结构和节点属性为目标的第一损失函数的表达式为：
，
式中，为以最小化网络结构和节点属性为目标的第一损失函数，为平衡参数，为初始结构特征，为重构后的结构特征，为初始属性特征矩阵，为重构后的属性特征，为L2范数公式。
6.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，所述第二损失函数的表达式为：
，
式中，为第二损失函数，为节点i属于第k个分布的概率，为第k个分布的概率密度函数，为节点的总数，为概率密度函数的总数。
7.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法，其特征在于，其中，根据所述各个节点的分布概率计算每个节点的异常分数值的表达式为：
，
式中，为第i个节点的异常分数值，为平衡参数，为重构后节点i的属性特征，为初始节点i的属性特征，为重构后节点i的结构特征，为为初始节点i的结构特征，为学习参数，为第i个节点的分布概率，为节点的总数。
8.一种基于自动编码器和注意力机制的图异常检测系统，其特征在于，包括：
构建模块，配置为以各个设备为节点和不同节点之间的关联关系为边构建图结构网络S，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；
获取模块，配置为获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络G和所述图结构网络S中；
第一计算模块，配置为通过预设的多头跳跃连接注意力机制分别为所述图属性网络G和所述图结构网络S中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络G相对应的第一隐向量以及与所述图结构网络S相对应的第二隐向量；
重构模块，配置为以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；
降维模块，配置为通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，
处理模块，配置为将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；
第二计算模块，配置为将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。
9.一种电子设备，其特征在于，包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1至7任一项所述的方法。
CN202311714668.8A 2023-12-14 2023-12-14 基于自动编码器和注意力机制的图异常检测方法及系统 Active CN117407697B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311714668.8A CN117407697B (zh) 2023-12-14 2023-12-14 基于自动编码器和注意力机制的图异常检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311714668.8A CN117407697B (zh) 2023-12-14 2023-12-14 基于自动编码器和注意力机制的图异常检测方法及系统

Publications (2)

Publication Number Publication Date
CN117407697A CN117407697A (zh) 2024-01-16
CN117407697B true CN117407697B (zh) 2024-04-02

Family

ID=89489395

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311714668.8A Active CN117407697B (zh) 2023-12-14 2023-12-14 基于自动编码器和注意力机制的图异常检测方法及系统

Country Status (1)

Country Link
CN (1) CN117407697B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117876156B (zh) * 2024-03-11 2024-07-16 国网江西省电力有限公司南昌供电分公司 基于多任务电力物联终端监测方法、电力物联终端及介质
CN118070024B (zh) * 2024-04-25 2024-07-02 上海冰鉴信息科技有限公司 基于深度学习的用户行为数据处理方法及系统

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020068000A (ja) * 2018-10-19 2020-04-30 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 訓練装置、訓練方法、予測装置、予測方法及びプログラム
WO2022166361A1 (zh) * 2021-02-04 2022-08-11 浙江师范大学 一种基于跨模态融合的深度聚类方法及系统
CN114970736A (zh) * 2022-06-10 2022-08-30 中国人民解放军战略支援部队信息工程大学 基于密度估计的网络节点深度异常检测方法
CN115078894A (zh) * 2022-08-22 2022-09-20 广东电网有限责任公司肇庆供电局 一种电力机房异常检测方法、装置、设备及可读存储介质
CN115310587A (zh) * 2022-07-08 2022-11-08 暨南大学 一种基于桥接自动编码器的图异常节点检测方法
CN115618296A (zh) * 2022-10-26 2023-01-17 河海大学 一种基于图注意力网络的大坝监测时序数据异常检测方法
CN115640842A (zh) * 2022-11-10 2023-01-24 河海大学 一种基于图注意力自编码器的网络表示学习方法
WO2023010502A1 (en) * 2021-08-06 2023-02-09 Robert Bosch Gmbh Method and apparatus for anomaly detection on graph
CN115983087A (zh) * 2022-09-16 2023-04-18 山东财经大学 一种注意力机制与lstm结合检测时序数据异常方法及终端机
WO2023130727A1 (zh) * 2022-01-06 2023-07-13 深圳市检验检疫科学研究院 一种基于双重自注意的动态图异常检测方法
CN116484192A (zh) * 2023-04-28 2023-07-25 北京交通大学 一种无监督异配异质图的异常节点检测方法
CN116663613A (zh) * 2023-04-03 2023-08-29 山东大学 一种面向智能物联系统的多元时序异常检测方法
CN116760583A (zh) * 2023-06-02 2023-09-15 四川大学 一种增强图节点行为表征及其异常图节点检测方法
CN116843400A (zh) * 2023-03-30 2023-10-03 北京邮电大学 基于图表示学习的区块链碳排放交易异常检测方法和装置
CN117057394A (zh) * 2023-08-18 2023-11-14 中国科学院计算技术研究所 一种图异常检测系统构建方法、图异常检测系统及方法
CN117201122A (zh) * 2023-09-11 2023-12-08 大连理工大学 基于视图级图对比学习的无监督属性网络异常检测方法及系统

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220059200A1 (en) * 2020-08-21 2022-02-24 Washington University Deep-learning systems and methods for medical report generation and anomaly detection
US20220398466A1 (en) * 2021-06-10 2022-12-15 Visa International Service Association System, Method, and Computer Program Product for Event Forecasting Using Graph Theory Based Machine Learning
US20230025826A1 (en) * 2021-07-12 2023-01-26 Servicenow, Inc. Anomaly Detection Using Graph Neural Networks
KR102642060B1 (ko) * 2022-04-28 2024-02-29 숭실대학교 산학협력단 오토인코더의 은닉층 정보를 이용한 계층적 네트워크 침입탐지 시스템 및 그 방법

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020068000A (ja) * 2018-10-19 2020-04-30 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 訓練装置、訓練方法、予測装置、予測方法及びプログラム
WO2022166361A1 (zh) * 2021-02-04 2022-08-11 浙江师范大学 一种基于跨模态融合的深度聚类方法及系统
WO2023010502A1 (en) * 2021-08-06 2023-02-09 Robert Bosch Gmbh Method and apparatus for anomaly detection on graph
WO2023130727A1 (zh) * 2022-01-06 2023-07-13 深圳市检验检疫科学研究院 一种基于双重自注意的动态图异常检测方法
CN114970736A (zh) * 2022-06-10 2022-08-30 中国人民解放军战略支援部队信息工程大学 基于密度估计的网络节点深度异常检测方法
CN115310587A (zh) * 2022-07-08 2022-11-08 暨南大学 一种基于桥接自动编码器的图异常节点检测方法
CN115078894A (zh) * 2022-08-22 2022-09-20 广东电网有限责任公司肇庆供电局 一种电力机房异常检测方法、装置、设备及可读存储介质
CN115983087A (zh) * 2022-09-16 2023-04-18 山东财经大学 一种注意力机制与lstm结合检测时序数据异常方法及终端机
CN115618296A (zh) * 2022-10-26 2023-01-17 河海大学 一种基于图注意力网络的大坝监测时序数据异常检测方法
CN115640842A (zh) * 2022-11-10 2023-01-24 河海大学 一种基于图注意力自编码器的网络表示学习方法
CN116843400A (zh) * 2023-03-30 2023-10-03 北京邮电大学 基于图表示学习的区块链碳排放交易异常检测方法和装置
CN116663613A (zh) * 2023-04-03 2023-08-29 山东大学 一种面向智能物联系统的多元时序异常检测方法
CN116484192A (zh) * 2023-04-28 2023-07-25 北京交通大学 一种无监督异配异质图的异常节点检测方法
CN116760583A (zh) * 2023-06-02 2023-09-15 四川大学 一种增强图节点行为表征及其异常图节点检测方法
CN117057394A (zh) * 2023-08-18 2023-11-14 中国科学院计算技术研究所 一种图异常检测系统构建方法、图异常检测系统及方法
CN117201122A (zh) * 2023-09-11 2023-12-08 大连理工大学 基于视图级图对比学习的无监督属性网络异常检测方法及系统

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
ACAM-AD: Autocorrelation and attention mechanism-based anomaly detection in multivariate time series;He, Qiang等;JOURNAL OF INTELLIGENT & FUZZY SYSTEMS;20221231;全文 *
图的边异常检测技术研究;潘亮光;中国优秀硕士学位论文全文数据库 基础科学辑;20230115;全文 *
基于图神经网络的动态网络异常检测算法;郭嘉琰;李荣华;张岩;王国仁;;软件学报;20200110(第03期);全文 *
基于对抗图卷积的网络表征学习框架;陈梦雪;刘勇;;模式识别与人工智能;20191115(第11期);全文 *
基于改进自编码器和随机森林的窃电检测方法;邓高峰;赵震宇;王珺;严勤;李赫;;中国测试;20200731(第07期);全文 *
融合节点属性与结构信息的子空间异常社区检测方法;赵琪琪;马慧芳;刘海姣;贾俊杰;;计算机工程;20200615(第06期);全文 *

Also Published As

Publication number Publication date
CN117407697A (zh) 2024-01-16

Similar Documents

Publication Publication Date Title
CN117407697B (zh) 基于自动编码器和注意力机制的图异常检测方法及系统
Xie et al. Accurate recovery of internet traffic data: A sequential tensor completion approach
Kekatos et al. Distributed robust power system state estimation
Huang et al. Cloud-edge collaborative method for industrial process monitoring based on error-triggered dictionary learning
CN116508005A (zh) 从分布式跟踪中学习异常检测和根本原因分析
Li et al. CAD: command-level anomaly detection for vehicle-road collaborative charging network
Vincent et al. Detection of false data injection attacks in cyber–physical systems using graph convolutional network
Han et al. Local design of distributed H∞‐consensus filtering over sensor networks under multiplicative noises and deception attacks
Xie et al. Neural tensor completion for accurate network monitoring
US20230376758A1 (en) Multi-modality root cause localization engine
Song et al. Model‐based fault diagnosis of networked systems: A survey
Deng et al. Network Intrusion Detection Based on Sparse Autoencoder and IGA‐BP Network
Kodali et al. The value of summary statistics for anomaly detection in temporally evolving networks: A performance evaluation study
CN116484192A (zh) 一种无监督异配异质图的异常节点检测方法
CN116909788A (zh) 一种任务导向和视角不变的多模态故障诊断方法及系统
Hu et al. Classification of Abnormal Traffic in Smart Grids Based on GACNN and Data Statistical Analysis
Shi et al. Towards automatic troubleshooting for user-level performance degradation in cellular services
CN113591937B (zh) 一种基于局部距离编码的电力系统关键节点识别方法
Hu et al. Link Prediction Based on the Derivation of Mapping Entropy
CN113435113B (zh) 一种电力系统暂态稳定评估方法及装置
US20240202325A1 (en) System and Method for Explainable Anomaly Detection
US20240061740A1 (en) Disentangled graph learning for incremental causal discovery and root cause analysis
US20240314155A1 (en) Method and Apparatus for Detecting Traffic Anomaly, Device and Medium
CN118118274A (zh) 基于图异常检测算法的网络入侵检测方法、系统及介质
Feng et al. Fault Identification and Analysis of Communication Network Based on Deep Learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant