CN117149486A - 告警和根因定位方法、模型训练方法、装置、设备及介质 - Google Patents

告警和根因定位方法、模型训练方法、装置、设备及介质 Download PDF

Info

Publication number
CN117149486A
CN117149486A CN202311084815.8A CN202311084815A CN117149486A CN 117149486 A CN117149486 A CN 117149486A CN 202311084815 A CN202311084815 A CN 202311084815A CN 117149486 A CN117149486 A CN 117149486A
Authority
CN
China
Prior art keywords
data
alarm
target
root cause
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202311084815.8A
Other languages
English (en)
Other versions
CN117149486B (zh
Inventor
胡盛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Youtejie Information Technology Co ltd
Original Assignee
Beijing Youtejie Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Youtejie Information Technology Co ltd filed Critical Beijing Youtejie Information Technology Co ltd
Priority to CN202311084815.8A priority Critical patent/CN117149486B/zh
Publication of CN117149486A publication Critical patent/CN117149486A/zh
Application granted granted Critical
Publication of CN117149486B publication Critical patent/CN117149486B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/079Root cause analysis, i.e. error or fault diagnosis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/32Monitoring with visual or acoustical indication of the functioning of the machine
    • G06F11/324Display of status information
    • G06F11/327Alarm or error message display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/042Knowledge-based neural networks; Logical representations of neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Quality & Reliability (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本发明实施例公开了一种告警和根因定位方法、模型训练方法、装置、设备及介质,该方法包括:采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型。通过根因定位模型可得到故障的根因定位结果,通过图神经网络与图解释性模型对故障情况进行分析和根因定位,将故障与根因定位纳入到一个框架下,提高了根因定位的准确性和可靠性。

Description

告警和根因定位方法、模型训练方法、装置、设备及介质
技术领域
本发明涉及计算机技术领域,尤其涉及一种告警和根因定位方法、模型训练方法、装置、设备及介质。
背景技术
随着互联网的快速发展,计算机分布式系统成为了现代社会中不可或缺的基础设施,为各种业务和应用程序提供了通信、数据传输和业务计算的基础。然而,在系统运行过程中,可能会由于各种原因,例如硬件故障、软件错误、配置问题或恶意攻击等,导致网络中的问题和故障。这些问题可能会对业务和应用程序的可用性和性能产生负面影响,因此,需要及时地进行故障告警和根因定位。
现有技术中,通常采用设置固定阈值或异常检测的方法判断是否产生告警。然后,基于告警触发根因分析故障定位。具体的,可以采用告警因果图,或者基于应用指标的相关程度和关系图的深度进行根因提取。
但是,现有技术中的故障告警与根因定位是分割开的。由于告警的产生本身会有假阳性率,采用告警因果图进行根因定位,在发生了告警,但实际上并没有产生故障的情况下,会影响根因定位效果,甚至导致根因定位结果偏离实际。其次,尽管发生了告警,但由于基于应用指标的相关程度和关系图的深度进行根因提取的方法,和告警不相关(只是由告警触发),可能会存在找不到根因或找错根因的问题。
发明内容
本发明提供了一种告警和根因定位方法、模型训练方法、装置、设备及介质,以将故障与根因定位纳入到一个框架下,提高了根因定位的准确性和可靠性。
第一方面,提供了一种基于图神经网络的告警和根因定位模型训练方法,该方法包括:
采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;
根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;
将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;
将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型;
其中,根因定位模型输出与目标历史数据对应的目标历史子数据;全局告警模型对目标历史数据及对应的目标历史子数据的识别结果相同;目标历史子数据与目标历史数据中的分布差异满足预设条件。
可选的,采集系统运行中的原始历史数据进行预处理生成目标历史数据,包括:采集系统运行中与告警信息对应的原始告警历史数据,并确定与原始告警历史数据对应的告警时间段;以告警时间段为基础,通过滑动区间方式,确定多个预设时间长度的故障区间;将与各故障区间对应的原始历史数据,作为与各故障区间对应的目标历史数据。
可选的,采集系统运行中的原始历史数据进行预处理生成目标历史数据,包括:根据告警时间段与预设时间长度,确定故障区间数量;根据告警时间段,确定非告警时间段;并根据非告警时间段,生成与故障区间数量个数相同的非故障区间;将与各非故障区间对应的原始历史数据,作为与各非故障区间对应的目标历史数据。
可选的,根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据,包括:根据历史拓扑图数据以及历史指标数据,确定目标历史数据中的各个节点,并生成与各个节点对应的特征向量;将历史数据中的各节点、各节点的特征向量,以及告警数据标签或非告警数据标签,生成训练样本数据。
可选的,将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型,包括:将训练样本数据输入至预设图神经网络中进行特征提取,得到与目标历史数据中各节点对应的表征变量,并根据各节点的表征变量得到目标历史数据的表征向量;根据表征向量,并采用损失函数对预设图神经网络进行分类训练,得到全局告警模型。
可选的,将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型,包括:将训练样本数据输入至预设图解释性模型中,得到与目标历史数据对应的目标历史子数据;根据目标历史数据、目标历史子数据、以及预设损失函数,进行模型训练,得到根因定位模型;其中,预设损失函数中包括目标历史数据与目标历史子数据之间的分布差异,以及全局告警模型对目标历史数据及目标历史子数据识别结果中的变量差异。
第二方面,提供了一种基于图神经网络的告警和根因定位方法,该方法包括:
实时采集系统运行中的待分析数据,并将待分析数据进行预处理生成目标待分析数据;
将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的全局告警模型中,得到告警分析结果;
当告警分析结果为产生告警时,将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的根因定位模型中,得到目标待分析数据对应的目标待分析子数据;
将目标待分析子数据作为根因定位结果。
第三方面,提供了一种基于图神经网络的告警和根因定位模型训练装置,该装置包括:
数据标签生成模块,用于采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;
训练样本数据生成模块,用于根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;
预设图神经网络训练模块,用于将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;
预设图解释性模型训练模块,用于将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型;其中,根因定位模型输出与目标历史数据对应的目标历史子数据;全局告警模型对目标历史数据及对应的目标历史子数据的识别结果相同;目标历史子数据与目标历史数据中的分布差异满足预设条件。
第四方面,提供了一种基于图神经网络的告警和根因定位装置,该装置包括:
目标待分析数据生成模块,用于实时采集系统运行中的待分析数据,并将待分析数据进行预处理生成目标待分析数据;
告警分析结果确定模块,用于将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的全局告警模型中,得到告警分析结果;
目标待分析子数据获取模块,用于当告警分析结果为产生告警时,将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的根因定位模型中,得到目标待分析数据对应的目标待分析子数据;
根因定位结果确定模块,用于将目标待分析子数据作为根因定位结果。
第五方面,提供了一种电子设备,电子设备包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法或者,基于图神经网络的告警和根因定位方法。
第六方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法或者,基于图神经网络的告警和根因定位方法。
本发明实施例的技术方案,通过采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型;其中,根因定位模型输出与目标历史数据对应的目标历史子数据;全局告警模型对目标历史数据及对应的目标历史子数据的识别结果相同;目标历史子数据与目标历史数据中的分布差异满足预设条件的技术手段,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题。通过根因定位模型可得到故障的根因定位结果,通过图神经网络与图解释性模型对故障情况进行分析和根因定位,将故障与根因定位纳入到一个框架下,提高了根因定位的准确性和可靠性。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种基于图神经网络的告警和根因定位模型训练方法的流程图;
图2是根据本发明实施例二提供的另一种基于图神经网络的告警和根因定位模型训练方法的流程图;
图3是根据本发明实施例三提供的另一种基于图神经网络的告警和根因定位模型训练方法的流程图;
图4是根据本发明实施例四提供的一种基于图神经网络的告警和根因定位方法的流程图;
图5是本发明实施例提供的一种基于图神经网络的告警和根因定位方法的应用场景图;
图6是根据本发明实施例五提供的一种基于图神经网络的告警和根因定位模型训练装置的结构示意图;
图7是根据本发明实施例六提供的一种基于图神经网络的告警和根因定位装置的结构示意图;
图8是实现本发明实施例的基于图神经网络的告警和根因定位模型训练方法或者基于图神经网络的告警和根因定位方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是根据本发明实施例一提供的一种基于图神经网络的告警和根因定位模型训练方法的流程图,本实施例可适用于对系统异常情况进行告警及根因定位的情况,该方法可以由基于图神经网络的告警和根因定位模型训练装置来执行,该基于图神经网络的告警和根因定位模型训练装置可以采用硬件和/或软件的形式实现,该基于图神经网络的告警和根因定位模型训练装置可配置于电子设备如计算机中。如图1所示,该方法包括:
S110、采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签。
在本实施例中,原始历史数据可以是故障时间段或非故障时间段的数据。目标历史数据可以是原始历史数据中的一部分。告警信息可以是系统检测到异常情况后发出的通知信息。异常情况可以包括硬件故障、软件错误、网络拥塞和安全攻击等。对告警信息进行通知的方式可以有多种,例如,电子邮件、短信和电话等。
对原始历史数据进行预处理的方法可以有多种。例如,可以将原始历史数据划分为在故障时间段采集的目标历史数据和在非故障时间段采集的目标历史数据。或者,可以将故障时间段划分为多个大小相同的故障区间。然后,从原始历史数据中获取与各故障区间对应的目标历史数据。之后,可以从非故障时间段中提取与故障区间数量相同的非故障区间。最后,可以从原始历史数据中获取与各非故障区间对应的目标历史数据。
在一个具体的实施方式中,可以对原始历史数据进行分类,生成与故障时间段对应的目标历史数据以及与非故障时间段对应的目标历史数据,并根据告警信息生成与故障时间段的目标历史数据对应的告警数据标签,以及与非故障时间段的目标历史数据对应的非告警数据标签。
S120、根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据。
在本实施例中,历史拓扑图数据可以包括历史拓扑图中的各节点以及各节点间的拓扑关系。上述各节点可以包括服务、主机和中间件等。历史指标数据可以用于表示系统是否存在异常情况。历史指标可以包括延时、错误率和平均耗时等。训练样本数据可以用于训练预设图神经网络和预设图解释性模型。
在一个具体的实施方式中,可以获取与目标历史数据对应的历史拓扑图。然后,从上述历史拓扑图中,获取历史拓扑图数据。之后,可以根据历史拓扑图数据中的各个节点以及各个节点对应的历史指标数据,生成各时间段对应的特征图。最后,可以根据各特征图,以及告警数据标签或非告警数据标签生成训练数据样本。例如,可以将特征图记为Gi,将告警数据标签或非告警数据标签记为Yi,此时可以将训练数据样本记为(Gi,Yi)。
S130、将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型。
在本实施例中,预设图神经网络可以是不依赖于固定节点的图神经网络模型。预设图神经网络可以用于处理图形数据。上述图形数据可以包括社交网络、蛋白质相互作用网络和化学分子结构等。优选的,预设图神经网络可以是图注意力网络模型(GraphAttention Network,GAT)。全局告警模型可以用于对目标历史数据进行分类,以确定是否产生告警。
在一个具体的实施方式中,在将训练样本数据输入至预设图神经网络后,可以通过预设图神经网络中的多个图注意力层对训练样本数据进行分类训练。具体的,由于预设图神经网络中的每个图注意力层都包含一个注意力机制和一个非线性激活函数,且注意力机制包括一个基于学习的权重矩阵和一个归一化指数函数。因此,可以通过权重矩阵,计算训练样本数据中的每个节点与其邻近节点之间的重要性。可以通过归一化指数函数将上述每个节点与其邻近节点之间的重要性转换为注意力系数。然后,可以将每个节点对应的邻近节点特征与对应的注意力系数进行加权求和,以获取各节点对应的表征变量。之后,可以通过线性层,对各表征变量进行降维处理,生成与各表征变量对应的表征向量。最后,由于每个训练样本数据都对应一张特征图,且各特征图包含的节点数量可能不同,因此可以对每个特征图的所有表征向量做加法,以得到与各特征图分别对应的最终表征向量。可以根据最终表征向量,采用损失函数进行分类训练,得到全局告警模型。
这样设置的好处在于,由于预设图神经网络的核心思想是将图数据表示为节点和边的集合,然后通过聚合各节点和边的局部信息来计算图形的全局表示,因此相比于现有的神经网络,预设图神经网络可以处理不同大小、结构和拓扑形状的图形数据。其次,由于预设图神经网络可以通过迭代更新每个节点的表示,使得每个节点的表示能够考虑到其邻近节点的信息,因此采用预设图神经网络可以学习到每个节点的表示、边的表示,以及图形数据中的复杂结构和关系,适用于执行节点分类、图分类和连接预测等任务。
S140、将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型。
其中,根因定位模型输出与目标历史数据对应的目标历史子数据;全局告警模型对目标历史数据及对应的目标历史子数据的识别结果相同;目标历史子数据与目标历史数据中的分布差异满足预设条件。
在本实施例中,预设图解释性模型可以用于解释全局告警模型的决策过程和预测结果。优选的,预设图解释性模型可以为图随机注意力模型(Graph Stochast ic Attention,GSAT)。根因定位模型可以用于解释全局告警模型的预测结果,以及定位异常产生的根本原因。目标历史子数据可以是目标历史数据中与根因定位结果最相关的部分。预设条件可以根据用户需求进行设置。例如,若目标历史子数据与目标历史数据的分布接近(也即目标历史子数据中至少包含与故障根因定位相关的内容),则可以认为目标历史子数据与目标历史数据中的分布差异满足预设条件。具体的,由于根因定位模型可以对目标历史数据中与故障根因定位无关的内容进行压缩,因此目标历史子数据中至少包含与故障根因定位相关的内容。
在一个具体的实施方式中,在将目标历史数据输入至预设图解释性模型后,可以将每个节点对应的邻近节点特征与对应的注意力系数进行加权求和,以获取各节点对应的表征变量。然后,可以通过线性层,对各表征变量进行降维处理,生成与各表征变量对应的表征向量。之后,可以基于信息瓶颈原理,更新目标历史数据对应的表征向量的权重,使得输出的目标历史子数据与目标历史数据中的分布差异满足预设条件。其中,可以根据更新后的表征向量,采用损失函数进行模型训练,得到根因定位模型。
在此步骤,可选的,可以将目标历史子数据输入至全局告警模型,使得目标历史子数据的识别结果与目标历史数据的识别结果相同。
这样设置的好处在于,通过训练预设图解释性模型可以提高全局告警模型的透明度和可理解性。其次,相比于现有的基于告警触发根因定位的方法,例如,在产生告警之后,通过各种类型的故障排除和调试(例如检查日志、分析网络流量、测试网络设备和应用程序等)确定根因。本实施例的技术方案,通过采用根因定位模型解释全局告警模型的决策过程和告警分析结果,以获取告警产生的原因和基础,可以实现对故障的根因进行定位,避免了发生了告警,但是找不到或找错根因的情况。
本实施例的技术方案,通过采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型,通过根因定位模型对全局告警模型的决策过程和告警分析结果进行解释,得到故障根因定位结果的技术手段,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题。通过根因定位模型可得到故障的根因定位结果,通过图神经网络与图解释性模型对故障情况进行分析和根因定位,将故障与根因定位纳入到一个框架下,提高了根因定位的准确性和可靠性。
实施例二
图2是根据本发明实施例二提供的另一种基于图神经网络的告警和根因定位模型训练方法的流程图,本实施例是对上述技术方案的进一步细化,本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。
可选的,采集系统运行中的原始历史数据进行预处理生成目标历史数据,包括:采集系统运行中与告警信息对应的原始告警历史数据,并确定与原始告警历史数据对应的告警时间段;以告警时间段为基础,通过滑动区间方式,确定多个预设时间长度的故障区间;将与各故障区间对应的原始历史数据,作为与各故障区间对应的目标历史数据。
可选的,采集系统运行中的原始历史数据进行预处理生成目标历史数据,包括:根据告警时间段与预设时间长度,确定故障区间数量;根据告警时间段,确定非告警时间段;并根据非告警时间段,生成与故障区间数量个数相同的非故障区间;将与各非故障区间对应的原始历史数据,作为与各非故障区间对应的目标历史数据。
具体的,如图2所示,该方法包括:
S210、采集系统运行中与告警信息对应的原始告警历史数据,并确定与原始告警历史数据对应的告警时间段。
在本实施例中,原始告警历史数据可以是在告警时间段内采集的数据。告警时间段可以是系统发生故障或异常的时间段。
S220、以告警时间段为基础,通过滑动区间方式,确定多个预设时间长度的故障区间。
示例性的,假设告警时间段为19:00-19:10,则可以设置预设时间长度为5。通过滑动区间的方式,可以划分出18:56-19:01、18:57-19:02、…、19:10-19:15等15个故障区间。
这样设置的好处在于,由于非告警时间段一般长于告警时间段,因此通过滑动区间方式确定故障区间,可以获取尽可能多的故障样本,避免了告警时间段和非告警时间段对应的训练样本数据不平衡,从而提高告警和根因定位结果的准确性。其次,相比于现有技术每一次发生故障时都需要通过人工对故障位置进行判断,本实施例的技术方案只需要标注发生故障的时间段(也即只需要判断有没有发生故障),而不需要对故障发生位置进行标注,在保证故障检测准确性的基础上简化了故障的标注方式。
可选的,可以告警时间段为基础,通过滚动区间方式,确定多个预设时间长度的故障区间。其中,通过滚动区间方式获取的故障区间不存在重合的时间点。
S230、将与各故障区间对应的原始历史数据,作为与各故障区间对应的目标历史数据。
S240、根据告警时间段与预设时间长度,确定故障区间数量。
在一个具体的实施方式中,可以根据告警时间段和预设时间长度,划分故障区间。然后,可以对故障区间数量进行统计。
S250、根据告警时间段,确定非告警时间段;并根据非告警时间段,生成与故障区间数量个数相同的非故障区间;将与各非故障区间对应的原始历史数据,作为与各非故障区间对应的目标历史数据。
在本实施例中,告警时间段与非告警时间段不存在重合的时间点。
具体的,可以确定除告警时间段之外的时间段为非故障时间段。然后,可以从非故障时间段中提取与故障区间数量相同的非故障区间。在一个可选实施方式中,可以非故障时间段为基础,通过滑动区间或滚动区间的方式,确定多个预设时间长度的非故障区间。
这样设置的好处在于,由于非告警时间段一般长于告警时间段,因此通过从非告警时间段提取与故障区间数量个数相同的非故障区间,可以实现告警时间段对应的训练样本数据与非告警时间段对应的训练样本数据平衡,提高了告警结果的准确性,避免了由于告警假阳性率,导致根因定位结果偏离实际的情况,提高了根因定位的准确性和可靠性。其次,本发明采用全局告警模型对系统进行整体监控,降低了整体的误告警数量,避免了进行局部告警,导致误告警数量过多且需要进行根因定位的情况
S260、根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签。
在本实施例中,可以采用数值的形式表示告警数据标签和非告警数据标签。具体的,可以设置告警数据标签对应的数值为1,可以设置非告警数据标签对应的数值为0,本实施例对此并不进行限制。
S270、根据历史拓扑图数据以及历史指标数据,确定目标历史数据中的各个节点,并生成与各个节点对应的特征向量。
在一个具体的实施方式中,首先,可以确定故障区间和非故障区间。然后,可以获取故障区间或非故障区间对应的历史拓扑图数据,并根据上述历史拓扑图数据,确定目标历史数据中的各个节点。之后,可以为各个节点设置节点标识,并根据上述节点标识,确定各个节点对应的历史指标数据。最后,在当前故障区间或非故障区间中,可以根据各个节点对应的历史指标数据以及节点类型,确定各个节点的特征向量。其中,节点类型可以包括服务、主机和中间件等。可选的,可以根据历史指标数据的数量和节点的类型数量,确定特征向量的维度。
示例性的,假设故障区间为19:00-19:05,则可以获取该故障区间对应的历史拓扑图。上述历史拓扑图中包括服务、主机和中间件等节点。假设节点为服务,则可以为服务节点设置标识为service:frontend。然后,可以根据节点标识,在数据库中获取上述故障区间对应的服务延时指标。在当前故障区间,若每分钟采集一个服务延时指标数据,则可以获取5个服务延时指标数据。之后,可以根据上述5个服务延时指标数据,以及节点类型的独热编码,得到一个8维的特征向量。
S280、将历史数据中的各节点、各节点的特征向量,以及告警数据标签或非告警数据标签,生成训练样本数据。
在一个具体的实施方式中,可以根据历史数据中的各节点以及各节点的特征向量,生成一个与当前故障区间或非故障区间对应的特征图。然后,可以根据上述特征图,以及告警数据标签或非告警数据标签,生成训练样本数据。
示例性的,假设当前故障区间对应的特征图为Gi,告警数据标签为Yi,则可以生成训练样本数据(Gi,Yi)。其中,Gi包括服务、主机和中间件等节点,以及各个节点对应的特征向量。i的取值范围为1到n,n是所有区间的数量。上述所有区间可以包括故障区间和非故障区间。
S290、将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型。
其中,根因定位模型输出与目标历史数据对应的目标历史子数据;全局告警模型对目标历史数据及对应的目标历史子数据的识别结果相同;目标历史子数据与目标历史数据中的分布差异满足预设条件。
在本实施例中,GAT可以基于注意力机制,通过对各个节点的邻居节点进行加权实现对每个节点的聚合,之后可以提取各个节点在整个图中的表征。相比于现有的图神经网络,GAT可以不依赖于固定的邻居节点数量,而是根据节点的实际邻居节点进行自适应加权,从而实现更好地利用图结构中的信息。
本实施例的技术方案,通过采集系统运行中与告警信息对应的原始告警历史数据,并确定与原始告警历史数据对应的告警时间段;以告警时间段位基础,通过滑动区间方式,确定多个预设时间长度的故障区间;将与各故障区间对应的原始历史数据,作为与各故障区间对应的目标历史数据;根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;根据历史拓扑图数据以及历史指标数据,确定目标历史数据中的各个节点,并生成与各个节点对应的特征向量;将历史数据中的各节点、各节点的特征向量,以及告警数据标签或非告警数据标签,生成训练样本数据;将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型的技术手段,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题,通过生成与故障区间数量个数相同的非故障区间,可以实现告警时间段与非告警时间段对应的训练样本数据均衡,提高了告警和根因定位结果的准确性。其次,本发明采用全局告警模型对系统进行整体监控,降低了整体的误告警数量,避免了进行局部告警,导致误告警数量过多且需要进行根因定位的情况。
实施例三
图3是根据本发明实施例三提供的另一种基于图神经网络的告警和根因定位模型训练方法的流程图,本实施例是对上述技术方案的进一步细化,本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图3所示,该方法包括:
S310、采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签。
S320、根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据。
S330、将训练样本数据输入至预设图神经网络中进行特征提取,得到与目标历史数据中各节点对应的表征变量,并根据各节点的表征变量得到目标历史数据的表征向量。
在一个具体的实施方式中,可以将历史数据中的各节点、各节点的特征向量,以及告警数据标签或非告警数据标签输入至预设图神经网络中。预设神经网络可以对各节点的特征向量进行处理,得到各节点对应的表征向量。然后,可以在每一故障区间或非故障区间中,将各节点对应的表征变量相加,得到目标历史数据的表征向量。可选的,可以通过预设图神经网络的线性层对目标历史数据的表征向量进行分类训练。
S340、根据表征向量,并采用损失函数对预设图神经网络进行分类训练,得到全局告警模型。
在本实施例中,具体的,损失函数可以是交叉熵损耗函数。
示例性的,假设训练样本数据为(Gi,Yi),则可以将(Gi,Yi)输入至预设图神经网络中进行特征提取,得到Gi的表征向量。其中,Gi为特征图,Yi为告警数据标签或非告警数据标签。之后,可以将Gi的表征向量输入至预设图神经网络的下一个图注意力层,并采用交叉熵损耗函数,对预设图神经网络进行分类训练。
这样设置的在于,由于现有的算法体系下告警的假阳性率无法降低到0%,并且误告警数量较多将会影响根因定位的效果。假设一个指标一天的误告警率为1%,如果同时对1万个指标进行了监控,则一天可以产生100个误告警。此时,若每次告警均触发根因定位,则一天可以产生100次无意义甚至于有误导性的根因定位结果。因此,相比于现有技术,通过全局告警模型对系统进行全局检测,降低了系统的误告警数量,提高了根因定位结果的可用性。
S350、将训练样本数据输入至预设图解释性模型中,得到与目标历史数据对应的目标历史子数据。
在本实施例中,预设图解释性模型可以是图生成模型。例如,若输入一张特征图至预设图解释性模型中,则可以生成与输入的特征图对应的子图。
在一个具体的实施方式中,可以根据输入至根因定位模型的训练样本数据中的特征图中,基于注意力机制将当前节点及邻近节点的表征变量与对应的注意力系数进行加权求和,得到当前节点新的表征变量。然后,采用预设图解释性模型中线性层的权重矩阵,对各节点的表征变量进行降维处理,生成一个一维数值,也即当前节点的采样率。通过拼接的方式,得到当前节点与邻居节点之间的边的采样率。之后,可以根据各节点的采样率,以及各边的采样率,确定所有边和节点的生成概率。最后,可以通过设置阈值的方法或采样算法,生成与上述原图对应的子图。例如,若上述生成概率超过预设阈值,则可以生成子图。
示例性的,假设存在输入至全局告警模型的图G,则可以通过预设图解释性模型对G进行处理,输出与G对应的子图Gs。上述Gs最能解释故障产生根因。
S360、根据目标历史数据、目标历史子数据、以及预设损失函数,进行模型训练,得到根因定位模型。
其中,预设损失函数中包括目标历史数据与目标历史子数据之间的分布差异,以及全局告警模型对目标历史数据及目标历史子数据识别结果中的变量差异。
在本实施例中,变量差异可以是目标历史数据与目标历史子数据对应的各表征变量间的差异。具体的,可以通过相对熵(Kullback-Leibler,KL)散度,确定通过全局告警模型对目标历史数据进行识别的结果与通过全局告警模型对目标历史子数据进行识别的结果之间的变量差异。可以采用预设损失函数,对目标历史数据和目标历史子数据进行特征提取,以确定目标历史数据与目标历史子数据之间的分布差异。
在一个具体的实施方式中,可以将目标历史数据和目标历史子数据,输入至预设图解释性模型中。然后,采用预设损失函数,进行迭代训练,得到根因定位模型。
本实施例的技术方案,通过采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;将训练样本数据输入至预设图神经网络中进行特征提取,得到与目标历史数据中各节点对应的表征变量,并根据各节点的表征变量得到目标历史数据的表征向量;根据表征向量,并采用损失函数对预设图神经网络进行分类训练,得到全局告警模型;将训练样本数据输入至预设图解释性模型中,得到与目标历史数据对应的目标历史子数据;根据目标历史数据、目标历史子数据、以及预设损失函数,进行模型训练,得到根因定位模型的技术手段,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题。本实施例的技术方案,通过全局告警模型对系统进行全局检测,降低了系统的误告警数量。其次,通过根因定位模型,可以找到最能解释故障产生根因的子图。
实施例四
图4是根据本发明实施例四提供的一种基于图神经网络的告警和根因定位方法的流程图,本实施例是对上述技术方案的进一步细化,本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图4所示,该方法包括:
S410、实时采集系统运行中的待分析数据,并将待分析数据进行预处理生成目标待分析数据。
在本实施例中,待分析数据可以是系统实时采集的数据。目标待分析数据可以是在待分析区间采集的数据。待分析区间可以根据故障发生的时间点进行确定,例如,若故障发生的时间点为a,则可以确定待分析区间为(a-k,a),k为子图节点的数量。
S420、将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的全局告警模型中,得到告警分析结果。
在一个具体的实施方式中,可以采用全局告警模型对目标待分析数据进行分析,根据输出结果确定是否产生告警。告警分析结果可以是产生告警或不产生告警。
示例性的,假设在生成训练样本数据的过程中设置告警数据标签对应的数值为1,非告警数据标签对应的数值为0,因此,若输出结果为1,则可以认为目标待分析数据与历史故障区间有相同的特征,此时产生告警。若输出结果为0,则不做任何分析。
S430、当告警分析结果为产生告警时,将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的根因定位模型中,得到目标待分析数据对应的目标待分析子数据。
在本实施例中,目标待分析子数据可以是目标待分析数据中,最能解释故障产生原因的部分。目标待分析子数据可以用于解释目标待分析数据产生告警的原因。
可选的,可以将目标待分析子数据输入至全局告警模型中进行分析,输出的告警分析结果与目标待分析子数据对应的告警分析结果一致。
示例性的,可以设置图G对应的数据标签为Y。在通过根因定位模型输出与G对应的子图Gs后,可以将Gs输入至全局告警模型中进行分析,使得Gs对应的数据标签也为Y。通过上述过程,可以实现在通过全局告警模型将G分类为Y时,通过根因定位模型找到G对应的子图Gs,以解释G被分类为Y的原因。
这样设置的好处在于,提高了根因定位的可解释性,避免了产生了告警,但找不到故障产生的根因的情况。
S440、将目标待分析子数据作为根因定位结果。
本实施例的技术方案,通过实时采集系统运行中的待分析数据,并将待分析数据进行预处理生成目标待分析数据;将目标待分析数据输入至,采用基于图神经网络的告警和根因定位模型训练方法生成的全局告警模型中,得到告警分析结果;当告警分析结果为产生告警时,将目标待分析数据输入至,采用基于图神经网络的告警和根因定位模型训练方法生成的根因定位模型中,得到目标待分析数据对应的目标待分析子数据;将目标待分析子数据作为根因定位结果的技术手段,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题,可以实现准确、可靠、及时地对故障产生的根因进行定位。其次,本实施例的技术方案,通过仅对产生了告警的目标待分析数据,进行可解释性分析(也即根因定位分析),提高了根因定位结果的准确性和可靠性。
图5是本发明实施例提供的一种基于图神经网络的告警和根因定位方法的应用场景图。如图5所示,可以根据历史拓扑图数据、历史指标数据和目标历史数据,生成训练样本数据。然后,可以将上述训练样本数据输入至预设图神经网络和预设图解释性网络进行训练,得到全局告警模型和根因定位模型。可以将全局告警模型和根因定位模型存储至数据库中。在开始对系统进行实时监测分析后,可以从数据库中获取全局告警模型或根因定位模型。可以在对目标待分析数据和实时指标数据进行预处理后,加载全局告警模型,判断是否产生告警。若产生告警,则可以加载根因定位模型进行根因定位,输出目标待分析子数据。若未产生告警,则不执行根据目标待分析数据,进行根因定位的操作。
实施例五
图6是根据本发明实施例五提供的一种基于图神经网络的告警和根因定位模型训练装置的结构示意图。如图6所示,该装置包括:
数据标签生成模块61、训练样本数据生成模块62、全局告警模型训练模块63和根因定位模型训练模块64。
其中,数据标签生成模块61,用于采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与目标历史数据对应的告警数据标签或非告警数据标签;
训练样本数据生成模块62,用于根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;
预设图神经网络训练模块63,用于将训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;
预设图解释性模型训练模块64,用于将训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型;其中,根因定位模型输出与目标历史数据对应的目标历史子数据;全局告警模型对目标历史数据及对应的目标历史子数据的识别结果相同;目标历史子数据与目标历史数据中的分布差异满足预设条件。
本发明实施例提供的技术方案,通过数据标签生成模块、训练样本数据生成模块、预设图神经网络训练模块和预设图解释性模型训练模块相互配合,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题,可以实现将故障与根因定位纳入到一个框架下,提高了根因定位的准确性和可靠性。
可选的,数据标签生成模块61,包括:
告警时间段确定单元,用于采集系统运行中与告警信息对应的原始告警历史数据,并确定与原始告警历史数据对应的告警时间段;
故障区间确定单元,用于以告警时间段为基础,通过滑动区间方式,确定多个预设时间长度的故障区间;
第一目标数据确定单元,用于将与各故障区间对应的原始历史数据,作为与各故障区间对应的目标历史数据;
故障区间数量确定单元,用于根据告警时间段与预设时间长度,确定故障区间数量;
非故障区间生成单元,用于根据告警时间段,确定非告警时间段;并根据非告警时间段,生成与故障区间数量个数相同的非故障区间;
第二目标数据确定单元,用于将与各非故障区间对应的原始历史数据,作为与各非故障区间对应的目标历史数据。
可选的,训练样本数据生成模块62,包括:
特征向量生成单元,用于根据历史拓扑图数据以及历史指标数据,确定目标历史数据中的各个节点,并生成与各个节点对应的特征向量;
训练样本数据生成单元,用于将历史数据中的各节点、各节点的特征向量,以及告警数据标签或非告警数据标签,生成训练样本数据。
可选的,预设图神经网络训练模块63,包括:
表征向量获取单元,用于将训练样本数据输入至预设图神经网络中进行特征提取,得到与目标历史数据中各节点对应的表征变量,并根据各节点的表征变量得到目标历史数据的表征向量;
全局告警模型确定单元,用于根据表征向量,并采用损失函数对预设图神经网络进行分类训练,得到全局告警模型。
可选的,预设图解释性模型训练模块64,包括:
目标历史子数据获取单元,用于将训练样本数据输入至预设图解释性模型中,得到与目标历史数据对应的目标历史子数据;
根因定位模型确定单元,用于根据目标历史数据、目标历史子数据、以及预设损失函数,进行模型训练,得到根因定位模型;其中,预设损失函数中包括目标历史数据与目标历史子数据之间的分布差异,以及全局告警模型对目标历史数据及目标历史子数据识别结果中的变量差异。
本发明实施例所提供的基于图神经网络的告警和根因定位模型训练装置可执行本发明任意实施例所提供的基于图神经网络的告警和根因定位模型训练方法,具备执行方法相应的功能模块和有益效果。
实施例六
图7是根据本发明实施例六提供的一种基于图神经网络的告警和根因定位装置的结构示意图。如图7所示,该装置包括:
目标待分析数据生成模块71、告警分析结果确定模块72、目标待分析子数据获取模块73和根因定位结果确定模块74。
其中,目标待分析数据生成模块71,用于实时采集系统运行中的待分析数据,并将待分析数据进行预处理生成目标待分析数据;
告警分析结果确定模块72,用于将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的全局告警模型中,得到告警分析结果;
目标待分析子数据获取模块73,用于当告警分析结果为产生告警时,将目标待分析数据输入至,采用本发明任一实施例的基于图神经网络的告警和根因定位模型训练方法生成的根因定位模型中,得到目标待分析数据对应的目标待分析子数据;
根因定位结果确定模块74,用于将目标待分析子数据作为根因定位结果。
本发明实施例提供的技术方案,通过目标待分析数据生成模块、告警分析结果确定模块、目标待分析子数据获取模块和根因定位结果确定模块相互配合,解决了现有的根因定位方法独立于告警,导致无法找到故障产生的根本原因的问题,可以实现将告警和根因相结合,提高了根因定位的准确性和可靠性。
实施例七
图8示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图8所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如基于图神经网络的告警和根因定位模型训练方法或者基于图神经网络的告警和根因定位方法。
在一些实施例中,基于图神经网络的告警和根因定位模型训练方法或者基于图神经网络的告警和根因定位方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的基于图神经网络的告警和根因定位模型训练方法或者基于图神经网络的告警和根因定位方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行基于图神经网络的告警和根因定位模型训练方法或者基于图神经网络的告警和根因定位方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (10)

1.一种基于图神经网络的告警和根因定位模型训练方法,其特征在于,包括:
采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与所述目标历史数据对应的告警数据标签或非告警数据标签;
根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;
将所述训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;
将所述训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型;
其中,所述根因定位模型输出与所述目标历史数据对应的目标历史子数据;所述全局告警模型对所述目标历史数据及对应的所述目标历史子数据的识别结果相同;所述目标历史子数据与所述目标历史数据中的分布差异满足预设条件。
2.根据权利要求1所述的方法,其特征在于,采集系统运行中的原始历史数据进行预处理生成目标历史数据,包括:
采集系统运行中与告警信息对应的原始告警历史数据,并确定与所述原始告警历史数据对应的告警时间段;
以所述告警时间段为基础,通过滑动区间方式,确定多个预设时间长度的故障区间;
将与各所述故障区间对应的原始历史数据,作为与各所述故障区间对应的目标历史数据。
3.根据权利要求2所述的方法,其特征在于,采集系统运行中的原始历史数据进行预处理生成目标历史数据,包括:
根据所述告警时间段与所述预设时间长度,确定故障区间数量;
根据告警时间段,确定非告警时间段;并根据所述非告警时间段,生成与所述故障区间数量个数相同的非故障区间;
将与各所述非故障区间对应的原始历史数据,作为与各所述非故障区间对应的目标历史数据。
4.根据权利要求1所述的方法,其特征在于,根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据,包括:
根据历史拓扑图数据以及历史指标数据,确定所述目标历史数据中的各个节点,并生成与各个节点对应的特征向量;
将所述历史数据中的各节点、各节点的特征向量,以及告警数据标签或非告警数据标签,生成训练样本数据。
5.根据权利要求4所述的方法,其特征在于,将所述训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型,包括:
将所述训练样本数据输入至预设图神经网络中进行特征提取,得到与所述目标历史数据中各节点对应的表征变量,并根据各节点的表征变量得到所述目标历史数据的表征向量;
根据所述表征向量,并采用损失函数对所述预设图神经网络进行分类训练,得到全局告警模型。
6.根据权利要求1所述的方法,其特征在于,将所述训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型,包括:
将所述训练样本数据输入至预设图解释性模型中,得到与所述目标历史数据对应的目标历史子数据;
根据所述目标历史数据、所述目标历史子数据、以及预设损失函数,进行模型训练,得到根因定位模型;
其中,所述预设损失函数中包括所述目标历史数据与所述目标历史子数据之间的分布差异,以及所述全局告警模型对所述目标历史数据及所述目标历史子数据识别结果中的变量差异。
7.一种基于图神经网络的告警和根因定位方法,其特征在于,包括:
实时采集系统运行中的待分析数据,并将所述待分析数据进行预处理生成目标待分析数据;
将所述目标待分析数据输入至,采用权利要求1至6任一项所述的基于图神经网络的告警和根因定位模型训练方法生成的全局告警模型中,得到告警分析结果;
当所述告警分析结果为产生告警时,将所述目标待分析数据输入至,采用权利要求1至6任一项所述的基于图神经网络的告警和根因定位模型训练方法生成的根因定位模型中,得到所述目标待分析数据对应的目标待分析子数据;
将所述目标待分析子数据作为根因定位结果。
8.一种基于图神经网络的告警和根因定位模型训练装置,其特征在于,包括:
数据标签生成模块,用于采集系统运行中的原始历史数据进行预处理生成目标历史数据,并根据告警信息生成与所述目标历史数据对应的告警数据标签或非告警数据标签;
训练样本数据生成模块,用于根据历史拓扑图数据、历史指标数据,以及告警数据标签或非告警数据标签,生成训练样本数据;
预设图神经网络训练模块,用于将所述训练样本数据输入至预设图神经网络中进行分类训练,得到全局告警模型;
预设图解释性模型训练模块,用于将所述训练样本数据输入至预设图解释性模型中进行模型训练,得到根因定位模型;
其中,所述根因定位模型输出与所述目标历史数据对应的目标历史子数据;所述全局告警模型对所述目标历史数据及对应的所述目标历史子数据的识别结果相同;所述目标历史子数据与所述目标历史数据中的分布差异满足预设条件。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的基于图神经网络的告警和根因定位模型训练方法或者,权利要求7所述的基于图神经网络的告警和根因定位方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-6中任一项所述的基于图神经网络的告警和根因定位模型训练方法或者,权利要求7所述的基于图神经网络的告警和根因定位方法。
CN202311084815.8A 2023-08-25 2023-08-25 告警和根因定位方法、模型训练方法、装置、设备及介质 Active CN117149486B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311084815.8A CN117149486B (zh) 2023-08-25 2023-08-25 告警和根因定位方法、模型训练方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311084815.8A CN117149486B (zh) 2023-08-25 2023-08-25 告警和根因定位方法、模型训练方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN117149486A true CN117149486A (zh) 2023-12-01
CN117149486B CN117149486B (zh) 2024-08-30

Family

ID=88898067

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311084815.8A Active CN117149486B (zh) 2023-08-25 2023-08-25 告警和根因定位方法、模型训练方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN117149486B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118555186A (zh) * 2024-07-26 2024-08-27 中国铁塔股份有限公司 告警数据的压缩方法、装置、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112306820A (zh) * 2020-11-26 2021-02-02 南京欣华软件技术有限公司 一种日志运维根因分析方法、装置、电子设备及存储介质
WO2022160675A1 (zh) * 2021-01-29 2022-08-04 北京达佳互联信息技术有限公司 根因确定方法及装置
WO2023050967A1 (zh) * 2021-09-29 2023-04-06 中兴通讯股份有限公司 一种系统异常检测处理方法及装置
CN116032726A (zh) * 2022-12-27 2023-04-28 中国联合网络通信集团有限公司 故障根因定位模型训练方法、装置、设备及可读存储介质
CN116582414A (zh) * 2023-05-16 2023-08-11 浪潮通信信息系统有限公司 故障根因定位方法、装置、设备及可读存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112306820A (zh) * 2020-11-26 2021-02-02 南京欣华软件技术有限公司 一种日志运维根因分析方法、装置、电子设备及存储介质
WO2022160675A1 (zh) * 2021-01-29 2022-08-04 北京达佳互联信息技术有限公司 根因确定方法及装置
WO2023050967A1 (zh) * 2021-09-29 2023-04-06 中兴通讯股份有限公司 一种系统异常检测处理方法及装置
CN116032726A (zh) * 2022-12-27 2023-04-28 中国联合网络通信集团有限公司 故障根因定位模型训练方法、装置、设备及可读存储介质
CN116582414A (zh) * 2023-05-16 2023-08-11 浪潮通信信息系统有限公司 故障根因定位方法、装置、设备及可读存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118555186A (zh) * 2024-07-26 2024-08-27 中国铁塔股份有限公司 告警数据的压缩方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN117149486B (zh) 2024-08-30

Similar Documents

Publication Publication Date Title
US20190095266A1 (en) Detection of Misbehaving Components for Large Scale Distributed Systems
CN116450399B (zh) 微服务系统故障诊断及根因定位方法
CN115514627B (zh) 一种故障根因定位方法、装置、电子设备及可读存储介质
CN117149486B (zh) 告警和根因定位方法、模型训练方法、装置、设备及介质
CN115033463B (zh) 一种系统异常类型确定方法、装置、设备和存储介质
CN114356734A (zh) 服务异常检测方法和装置、设备、存储介质
CN116915463B (zh) 一种调用链数据安全分析方法、装置、设备及存储介质
KR20190132223A (ko) 네트워크 장애 원인 분석 장치 및 방법
CN116820826B (zh) 一种基于调用链的根因定位方法、装置、设备及存储介质
CN111314110B (zh) 一种用于分布式系统的故障预警方法
CN117389779A (zh) 一种微服务故障根因定位方法
CN117034149A (zh) 故障处理策略确定方法、装置、电子设备和存储介质
CN116668264A (zh) 一种告警聚类的根因分析方法、装置、设备及存储介质
CN116381419A (zh) 输电线路故障处理方法、装置、计算机设备和存储介质
CN114978878B (zh) 定位方法、装置、电子设备及计算机可读存储介质
CN113535458B (zh) 异常误报的处理方法及装置、存储介质、终端
CN113285978B (zh) 基于区块链和大数据的故障识别方法及通用计算节点
CN114881112A (zh) 一种系统异常检测方法、装置、设备及介质
CN114938339A (zh) 一种数据处理方法和相关装置
CN113986659A (zh) 故障分析方法、装置、设备及计算机存储介质
CN116127326B (zh) 一种复合绝缘子检测方法、装置、电子设备及存储介质
CN118349888B (zh) 电子直驱刀架的实时在线监测系统及方法
CN117009909B (zh) 自动报障模型的构建方法、自动报障方法及其装置
CN118074625A (zh) 设备故障检测方法、装置、设备及存储介质
CN118394597A (zh) 调用链日志下指标数据异常检测方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant