CN113240098A - 基于混合门控神经网络的故障预测方法、装置和存储介质 - Google Patents
基于混合门控神经网络的故障预测方法、装置和存储介质 Download PDFInfo
- Publication number
- CN113240098A CN113240098A CN202110666091.2A CN202110666091A CN113240098A CN 113240098 A CN113240098 A CN 113240098A CN 202110666091 A CN202110666091 A CN 202110666091A CN 113240098 A CN113240098 A CN 113240098A
- Authority
- CN
- China
- Prior art keywords
- fault
- data
- network
- hybrid
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 36
- 238000003062 neural network model Methods 0.000 claims abstract description 33
- 238000007781 pre-processing Methods 0.000 claims abstract description 10
- 239000013598 vector Substances 0.000 claims description 37
- 230000006870 function Effects 0.000 claims description 22
- 230000004927 fusion Effects 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 10
- 238000005070 sampling Methods 0.000 claims description 10
- 238000010276 construction Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 6
- 238000009795 derivation Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000005034 decoration Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种基于混合门控神经网络的网络故障预测方法,将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型;将产生故障的网络节点设备的反馈数据转化为文本标签数据;构建基于混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述基于混合门控神经网络模型对网络故障数据中的数据进行预测。通过上述方法,可以挖掘故障数据之间的关联性,提高故障预测的精确性。
Description
技术领域
本发明涉及人工智能技术领域,尤指一种基于混合门控神经网络的故障预测方法、装置和存储介质。
背景技术
随着电子装置的普及,在方便我们日常生活的同时,带来的是网络故障频发。网络故障的不断发生,目前是各大运营商广泛关注的问题。这些网络故障包括服务中断、网络速率低以及网络噪声。然而,网络故障的复杂性以及随机性导致很难利用传统方法对网络故障做出有效预测。
如何有效快速地预测网络故障的发生并进行一定程度的预警就具有重大意义,但是基于传统的统计方法只能在一定阈值下判断网络是否出现故障,这在随时间不断变化的动态网络中就会显得心有余而力不足。
发明内容
本发明的目的是提供基于混合门控神经网络的故障预测方法、装置和存储介质,旨在解决传统的预测方法因网络故障的复杂性以及网络故障本身存在的随机性,不能预测不同网络故障对其他故障的影响的问题,从而不能对故障进行预测的问题,从而提供一种能够对网络故障进行精确预测的技术方案。
为了解决上述问题,本发明实施例提供的提供一种混合门控神经网络的网络故障预测方法的技术方案如下:
一种基于混合门控神经网络的网络故障预测方法,所述方法包括:
S1.将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型,所述故障类型包括但不限于端口故障、网卡故障、路由器故障、断网、断电、网线故障;
S2.将产生故障的网络节点设备的反馈数据转化为文本标签数据;
S3.构建基于混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述基于混合门控神经网络模型对网络故障数据中的数据进行预测。
优选的,所述方法进一步包括:
根据所述网络故障数据,将故障发生的时间节点和所述时间序列数据基准转化为时间序列样本;
根据所述反馈数据,将故障发生的时间节点和所述文本标签数据转化为文本标签序列样本;
其中,所述时间序列样本和文本标签序列中的时间戳一一对应。
优选的,所述S3包括:
S33.构建一个领域注意力层,将所述中间特征向量为输入,通过所述领域注意力层得到节点设备的故障隐藏参数,具体如下:
ai=softmax(si)
其中,将故障节点设备i的邻域隐藏表示为故障节点设备i的邻域集定义为Ni,Ni从故障节点设备邻域矩阵N中获得,其中,将故障节点设备之间进行近似计算得到相关系数,将相似度高于相似度阈值的两个节点进行关联记录,作为领域矩阵;
其中,W3和W4为自动解码层的权重,b3和b4为自动解码层的偏置量。
优选的,所述方法还包括:
S35.构建一个基于全局采样的损失函数,具体包括:
S352.基于负反馈的损失函数,进行基于全局采样的损失函数推导,公式如下:
S353.基于上述损失函数进行进一步推导,获得基于全局采样策略的损失函数:
优选的,S33具体包括:
使用softmax函数对注意力向量ai进行归一化,得到最终的结果注意力分数:
为了实现本发明的发明目的,本发明实施例还提供了一种基于混合门控神经网络的网络故障预测装置,所述装置包括:
数据预处理单元,用于将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型,所述故障类型包括但不限于端口故障、网卡故障、路由器故障、断网、断电、网线故障;
标签生成单元,用于将产生故障的网络节点设备的反馈数据转化为文本标签数据;
预测单元,用于构建混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述混合门控神经网络模型对网络故障数据进行预测。
优选的,所述装置进一步包括:
第一样本生成单元,用于根据所述网络故障数据,将故障发生的时间节点和所述时间序列数据基准转化为时间序列样本;
第二样本生成单元,用于根据所述反馈数据,将故障发生的时间节点和所述文本标签数据转化为文本标签序列样本;
其中,所述时间序列样本和文本标签序列中的时间戳一一对应。
优选的,所述预测单元具体包括:
领域注意力层构建模块,将所述中间特征向量为输入,通过所述领域注意力层得到节点设备的故障隐藏参数,具体如下:
ai=softmax(si)
其中,W3和W4为自动解码层的权重,b3和b4为自动解码层的偏置量。
为了实现本发明的发明目的,本发明实施例还提供了一种终端装置,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器,用于执行所述存储器上所存放的计算机程序,实现如前述的基于混合门控神经网络的网络故障预测方法所执行的操作。
为了实现本发明的发明目的,本发明实施例还提供了一种存储介质,所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如前文所述的基于混合门控神经网络的网络故障预测方法所执行的操作。
本发明实施例通过采用以上技术方案,具有以下的有益效果:通过领域注意力层,可以很好地得到故障数据之间的相互联系,得到更丰富的向量表达,从而更好地理解不同故障的影响关系;通过混合门控神经网络模型,在处理长时序列时,能在不影响短时序列的情况下不遗漏长时序列的内容,以防过久的故障没有得到处理。通过构建一个基于全局采样的损失函数,提升模型的预测准确度,并节约时间成本。因此,本发明实施例利用上述技术方案,通过混合门控神经网络用来对网络故障进行预测,可以提高网络故障预测的准确率。
附图说明
下面将以明确易懂的方式,结合附图说明优选实施方式,对一种基于混合门控神经网络的网络故障预测方法、终端装置和存储介质的上述特性、技术特征、优点及其实现方式予以进一步说明。
图1为本发明实施例基于混合门控神经网络模型的框架图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其他实施例中也可以实现本申请。在其他情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所述描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其他特征、整体、步骤、操作、元素、组件和/或集合的存在或添加。
为使图面简洁,各图中只示意性地表示出了与本发明相关的部分,它们并不代表其作为产品的实际结构。另外,以使图面简洁便于理解,在有些图中具有相同结构或功能的部件,仅示意性地绘示了其中的一个,或仅标出了其中的一个。在本发明中,“一个”不仅表示“仅此一个”,也可以表示“多于一个”的情形。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。另外,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对照附图说明本发明的具体实施方式。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图,并获得其他的实施方式。
本发明的一个实施例,一种基于混合门控神经网络的网络故障预测方法,所述方法包括:
S1.将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型;
其中,所述故障类型包括但不限于端口故障、网卡故障、路由器故障、断网、断电、网线故障;
S2.将产生故障的网络节点设备的反馈数据转化为文本标签数据;
这里的反馈数据是指:在当前节点设备发生故障之后,通过用户或者维护人员对故障的描述,把故障类型记录下来,在反馈问题的时候一并进行反馈,再通过文本标签的数据形式将所述故障类型进行记录。
S3.构建混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述混合门控神经网络模型对网络故障数据中的数据进行预测。
所述方法进一步包括:
根据所述网络故障数据,将故障发生的时间节点和所述时间序列数据基准转化为时间序列样本;
首先考虑时间序列输入样本。按照时间进行排序后,这些节点变成一组时间序列样本的样本序列进行输入。
同时,还根据所述反馈数据,将故障发生的时间节点和所述文本标签数据转化为文本标签序列样本;
当网络中某个节点发生故障,产生一个故障发生的时间戳,同时反馈故障原因,当网络产生故障时,有的是工作人员反馈,有的是系统自动报错,这些都可以是生成的故障原因,将这些故障原因的反馈进行收集并处理,形成文本标签数据,并依据故障发生的时间戳和文本标签数据,生成文本标签序列样本,作为另一个输入样本输入神经网络模型。
其中,所述时间序列样本和文本标签序列中的时间戳一一对应。
也即发生网络故障的节点设备的问题反馈的样本数据和时间序列样本在时间上是一一对应的,在一个时间点出现问题,必然会出现问题反馈(无反馈的反馈为无反馈这个类别)。本发明实施例进行网络故障预测的主要依据为时间序列,然而只用时间序列数据来预测比较单一,增加问题反馈这个特征,通过增加另外的故障数据来源,增加故障数据的复杂度和耦合度,进而通过构建混合门控神经网络来对耦合的故障数据进行分析,提高故障预测的准确性。
在发明实施例中,如图1所示,构建混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述混合门控神经网络模型对网络故障数据中的数据进行预测,具体包括:
根据故障问题的反馈数据生成的文本标签数据得到的文本标签序列样本在进行输入时,每个词被表示为一个独热(one-hot)向量在嵌入层,通过嵌入矩阵E∈Rh×v将一个独热(One-hot)向量转换为低维密集向量表示,其中h是嵌入的维数,v是词汇表的大小。
本发明实施例利用门控网络,可以避免神经网络中周期过长而学习不到的问题,同时融合问题反馈的文本标签数据这一辅助信息特征进行精确预测,即将S31中获得的多源数据特征和通过混合门控网络进行特征融合增加模型的预测精度。
S33.构建一个领域注意力层,将所述中间特征向量为输入,通过所述领域注意力层得到节点设备的故障领域隐藏,具体如下:
ai=softmax(si)
其中,将故障节点设备i的邻域隐藏表示为故障节点设备i的邻域集定义为Ni,Ni从故障节点设备的邻域矩阵N中获得,其中,将故障节点设备之间进行近似计算得到相关系数,将相关系数的相似度高于相似度阈值的的两个节点进行关联记录,作为领域矩阵。
其中,W3和W4为自动解码层的权重,b3和b4为自动解码层的偏置量。
在部分情况下,某些节点故障的内在原因之间具有某种关系,我们可以通过一个领域注意力模块对这种隐藏关系进行挖掘,即故障节点之间可能会有某种内在的联系,为了获得这种内在的联系,使用领域注意力模块对这种深层次的联系进行挖掘。通过计算故障节点之间注意力权重,来对原故障节点特征进行更新,以获得更精确的预测。
在本发明实施例的基于混合门控神经网络的网络故障预测方法中,所述方法还包括:
S35.构建一个基于全局采样的损失函数,损失函数对模型输出和真实结果间的差异进行量化并对模型迭代优化,让模型输出一个最优结果。
具体包括:
S352.基于负反馈的损失函数,进行基于全局采样的损失函数推导,公式如下:
超参数ρ>1是一个常数。
S353.基于上述损失函数进行进一步推导,推导得出一个基于全局优化的损失函数:
其中B和V分别是计算时的输入的故障节点批次和该批次中的故障节点集,Ruv∈{0,1}表示故障节点u是否出现了故障类型v;
缺失数据的丢失用所有数据丢失与正数据丢失之间的残差表示:
将Zn进行展开,获得以下公式:
最终我们获得基于全局采样策略的损失函数:
进一步优选的,本发明实施例中基于混合门控神经网络的网络故障预测方法,S33具体包括:
使用softmax函数对注意力向量ai进行归一化,得到最终的结果注意力分数,其中,ai为注意力的权重值:
另外,本发明实施例还提供了一种基于混合门控神经网络的网络故障预测装置,所述装置包括:
数据预处理单元,用于将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型,所述故障类型包括但不限于端口故障、网卡故障、路由器故障、断网、断电、网线故障;
标签生成单元,用于将产生故障的网络节点设备的反馈数据转化为文本标签数据;
预测单元,用于构建基于混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述基于混合门控神经网络模型对网络故障数据进行预测。
进一步的,所述基于混合门控神经网络的网络故障预测装置,所述装置进一步包括:
第一样本生成单元,用于根据所述网络故障数据,将故障发生的时间节点和所述时间序列数据基准转化为时间序列样本;
第二样本生成单元,用于根据所述反馈数据,将故障发生的时间节点和所述文本标签数据转化为文本标签序列样本;
其中,所述时间序列样本和文本标签序列中的时间戳一一对应。
优选的,所述基于混合门控神经网络的网络故障预测装置,所述预测单元具体包括:
ai=softmax(si)
其中,W3和W4为自动解码层的权重,b3和b4为自动解码层的偏置量。
具体的,本实施例是上述方法实施例对应的系统实施例,具体效果参见上述方法实施例,在此不再一一赘述。
本发明的一个实施例,一种终端装置,包括处理器、存储器,其中,存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的计算机程序,实现上述所对应方法实施例中的基于混合门控神经网络的网络故障预测方法。
本发明的一个实施例,一种存储介质,存储介质中存储有至少一条指令,指令由处理器加载并执行以实现上述基于混合门控神经网络的网络故障预测方法对应实施例所执行的操作。例如,存储介质可以是只读内存(ROM)、随机存取存储器(RAM)、只读光盘(CD-ROM)、磁带、软盘和光数据存储装置等。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各程序模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的程序模块完成,即将所述装置的内部结构划分成不同的程序单元或模块,以完成以上描述的全部或者部分功能。实施例中的各程序模块可以集成在一个处理单元中,也可是各个单元单独物理存在,也可以两个或两个以上单元集成在一个处理单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件程序单元的形式实现。另外,各程序模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。
它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详细描述或记载的部分,可以参见其他实施例的相关描述。
本领域普通技术人员可以意识到,结合本发明中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可能集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
应当说明的是,上述实施例均可根据需要自由组合。以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (10)
1.一种基于混合门控神经网络的网络故障预测方法,其特征在于,所述方法包括:
S1.将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型,所述故障类型包括但不限于端口故障、网卡故障、路由器故障、断网、断电、网线故障;
S2.将产生故障的网络节点设备的反馈数据转化为文本标签数据;
S3.构建基于混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述基于混合门控神经网络模型对网络故障数据中的数据进行预测。
2.如权利要求1所述的基于混合门控神经网络的网络故障预测方法,其特征在于,所述方法进一步包括:
根据所述网络故障数据,将故障发生的时间节点和所述时间序列数据基准转化为时间序列样本;
根据所述反馈数据,将故障发生的时间节点和所述文本标签数据转化为文本标签序列样本;
其中,所述时间序列样本和文本标签序列中的时间戳一一对应。
3.如权利要求2所述的基于混合门控神经网络的网络故障预测方法,其特征在于,所述S3包括:
S33.构建一个领域注意力层,将所述中间特征向量为输入,通过所述领域注意力层得到节点设备的故障隐藏参数,具体如下:
ai=softmax(Si)
其中,将故障节点设备i的邻域隐藏表示为故障节点设备i的邻域集定义为Ni,Ni从故障节点设备邻域矩阵N中获得,其中,将故障节点设备之间进行近似计算得到相关系数,将相似度高于相似度阈值的两个节点进行关联记录,作为领域矩阵;
其中,W3和W4为自动解码层的权重,b3和b4为自动解码层的偏置量。
6.一种基于混合门控神经网络的网络故障预测装置,其特征在于,所述装置包括:
数据预处理单元,用于将网络故障数据进行预处理转化为时间序列数据,其中,所述网络故障数据包括故障发生的时间节点信息和网络节点设备信息,每个时间序列数据表示当前时间段发生的所有故障类型,所述故障类型包括但不限于端口故障、网卡故障、路由器故障、断网、断电、网线故障;
标签生成单元,用于将产生故障的网络节点设备的反馈数据转化为文本标签数据;
预测单元,用于构建混合门控神经网络模型,所述混合门控神经网络模型包括嵌入层、混合门控层、邻域注意力层、自动编解码器层,将所述时间序列数据和所述文本标签数据输入所述基于混合门控神经网络模型,所述混合门控神经网络模型对网络故障数据进行预测。
7.如权利要求6所述的基于混合门控神经网络的网络故障预测装置,其特征在于,所述装置进一步包括:
第一样本生成单元,用于根据所述网络故障数据,将故障发生的时间节点和所述时间序列数据基准转化为时间序列样本;
第二样本生成单元,用于根据所述反馈数据,将故障发生的时间节点和所述文本标签数据转化为文本标签序列样本;
其中,所述时间序列样本和文本标签序列中的时间戳一一对应。
8.如权利要求7所述的基于混合门控神经网络的网络故障预测装置,其特征在于,所述预测单元具体包括:
领域注意力层构建模块,将所述中间特征向量为输入,通过所述领域注意力层得到节点设备的故障隐藏参数,具体如下:
ai=softmax(si)
其中,W3和W4为自动解码层的权重,b3和b4为自动解码层的偏置量。
9.一种终端装置,其特征在于,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器,用于执行所述存储器上所存放的计算机程序,实现如权利要求1至权利要求5任一项所述的基于混合门控神经网络的网络故障预测方法所执行的操作。
10.一种存储介质,其特征在于,所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如权利要求1至权利要求5任一项所述的基于混合门控神经网络的网络故障预测方法所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110666091.2A CN113240098B (zh) | 2021-06-16 | 2021-06-16 | 基于混合门控神经网络的故障预测方法、装置和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110666091.2A CN113240098B (zh) | 2021-06-16 | 2021-06-16 | 基于混合门控神经网络的故障预测方法、装置和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113240098A true CN113240098A (zh) | 2021-08-10 |
CN113240098B CN113240098B (zh) | 2022-05-17 |
Family
ID=77140054
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110666091.2A Active CN113240098B (zh) | 2021-06-16 | 2021-06-16 | 基于混合门控神经网络的故障预测方法、装置和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113240098B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117252346A (zh) * | 2023-11-15 | 2023-12-19 | 江西珉轩智能科技有限公司 | 一种物料溯源系统及方法 |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9838317B1 (en) * | 2015-04-10 | 2017-12-05 | Juniper Networks, Inc. | Policy-based selective traffic reroute based on predicted traffic loss |
CN108829662A (zh) * | 2018-05-10 | 2018-11-16 | 浙江大学 | 一种基于条件随机场结构化注意力网络的对话行为识别方法及系统 |
CN108960077A (zh) * | 2018-06-12 | 2018-12-07 | 南京航空航天大学 | 一种基于循环神经网络的智能故障诊断方法 |
US20190041836A1 (en) * | 2016-05-09 | 2019-02-07 | Strong Force Iot Portfolio 2016, Llc | Methods and systems for network-sensitive data collection and intelligent process adjustment in an industrial environment |
CN111049683A (zh) * | 2019-12-11 | 2020-04-21 | 中国科学院深圳先进技术研究院 | 一种基于注意力机制的大规模网络群实时故障预测方法 |
CN111080400A (zh) * | 2019-11-25 | 2020-04-28 | 中山大学 | 一种基于门控图卷积网络的商品推荐方法及系统、存储介质 |
CN111260124A (zh) * | 2020-01-11 | 2020-06-09 | 大连理工大学 | 一种基于注意力机制深度学习的混沌时间序列预测方法 |
CN111669384A (zh) * | 2020-05-29 | 2020-09-15 | 重庆理工大学 | 融合深度神经网络和层级注意力机制的恶意流量检测方法 |
CN111931903A (zh) * | 2020-07-09 | 2020-11-13 | 北京邮电大学 | 一种基于双层图注意力神经网络的网络对齐方法 |
CN111950615A (zh) * | 2020-07-31 | 2020-11-17 | 武汉烽火技术服务有限公司 | 一种基于树种优化算法的网络故障特征选择方法 |
EP3761561A1 (en) * | 2019-07-03 | 2021-01-06 | Hewlett-Packard Enterprise Development LP | Self-learning correlation of network patterns for agile network operations |
CN112200032A (zh) * | 2020-09-28 | 2021-01-08 | 辽宁石油化工大学 | 一种基于注意力机制的高压断路器机械状态在线监测方法 |
CN112307218A (zh) * | 2020-10-21 | 2021-02-02 | 浙江大学 | 基于知识图谱的智能电厂典型设备故障诊断知识库构建方法 |
CN112365091A (zh) * | 2020-11-30 | 2021-02-12 | 中国人民解放军国防科技大学 | 一种基于分类节点图注意力网络的雷达定量降水估计方法 |
CN112380863A (zh) * | 2020-10-29 | 2021-02-19 | 国网天津市电力公司 | 一种基于多头自注意力机制的序列标注方法 |
CN112417446A (zh) * | 2020-12-12 | 2021-02-26 | 山东交通学院 | 一种软件定义网络异常检测架构 |
CN112579739A (zh) * | 2020-12-23 | 2021-03-30 | 合肥工业大学 | 基于ELMo嵌入与门控自注意力机制的阅读理解方法 |
CN112818035A (zh) * | 2021-01-29 | 2021-05-18 | 湖北工业大学 | 一种网络故障预测方法及终端设备及存储介质 |
CN112910695A (zh) * | 2021-01-22 | 2021-06-04 | 湖北工业大学 | 基于全局注意力时域卷积网络的网络故障预测方法 |
-
2021
- 2021-06-16 CN CN202110666091.2A patent/CN113240098B/zh active Active
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9838317B1 (en) * | 2015-04-10 | 2017-12-05 | Juniper Networks, Inc. | Policy-based selective traffic reroute based on predicted traffic loss |
US20190041836A1 (en) * | 2016-05-09 | 2019-02-07 | Strong Force Iot Portfolio 2016, Llc | Methods and systems for network-sensitive data collection and intelligent process adjustment in an industrial environment |
CN108829662A (zh) * | 2018-05-10 | 2018-11-16 | 浙江大学 | 一种基于条件随机场结构化注意力网络的对话行为识别方法及系统 |
CN108960077A (zh) * | 2018-06-12 | 2018-12-07 | 南京航空航天大学 | 一种基于循环神经网络的智能故障诊断方法 |
EP3761561A1 (en) * | 2019-07-03 | 2021-01-06 | Hewlett-Packard Enterprise Development LP | Self-learning correlation of network patterns for agile network operations |
CN111080400A (zh) * | 2019-11-25 | 2020-04-28 | 中山大学 | 一种基于门控图卷积网络的商品推荐方法及系统、存储介质 |
CN111049683A (zh) * | 2019-12-11 | 2020-04-21 | 中国科学院深圳先进技术研究院 | 一种基于注意力机制的大规模网络群实时故障预测方法 |
CN111260124A (zh) * | 2020-01-11 | 2020-06-09 | 大连理工大学 | 一种基于注意力机制深度学习的混沌时间序列预测方法 |
CN111669384A (zh) * | 2020-05-29 | 2020-09-15 | 重庆理工大学 | 融合深度神经网络和层级注意力机制的恶意流量检测方法 |
CN111931903A (zh) * | 2020-07-09 | 2020-11-13 | 北京邮电大学 | 一种基于双层图注意力神经网络的网络对齐方法 |
CN111950615A (zh) * | 2020-07-31 | 2020-11-17 | 武汉烽火技术服务有限公司 | 一种基于树种优化算法的网络故障特征选择方法 |
CN112200032A (zh) * | 2020-09-28 | 2021-01-08 | 辽宁石油化工大学 | 一种基于注意力机制的高压断路器机械状态在线监测方法 |
CN112307218A (zh) * | 2020-10-21 | 2021-02-02 | 浙江大学 | 基于知识图谱的智能电厂典型设备故障诊断知识库构建方法 |
CN112380863A (zh) * | 2020-10-29 | 2021-02-19 | 国网天津市电力公司 | 一种基于多头自注意力机制的序列标注方法 |
CN112365091A (zh) * | 2020-11-30 | 2021-02-12 | 中国人民解放军国防科技大学 | 一种基于分类节点图注意力网络的雷达定量降水估计方法 |
CN112417446A (zh) * | 2020-12-12 | 2021-02-26 | 山东交通学院 | 一种软件定义网络异常检测架构 |
CN112579739A (zh) * | 2020-12-23 | 2021-03-30 | 合肥工业大学 | 基于ELMo嵌入与门控自注意力机制的阅读理解方法 |
CN112910695A (zh) * | 2021-01-22 | 2021-06-04 | 湖北工业大学 | 基于全局注意力时域卷积网络的网络故障预测方法 |
CN112818035A (zh) * | 2021-01-29 | 2021-05-18 | 湖北工业大学 | 一种网络故障预测方法及终端设备及存储介质 |
Non-Patent Citations (3)
Title |
---|
CHEN MA ET AL.: "Gated Attentive-Autoencoder for Content-Aware Recommendation", 《IN PROCEEDINGS OF THE TWELFTH ACM INTERNATIONAL CONFERENCE ON WEB SEARCH AND DATA MINING》 * |
L. ZHENG ET AL.: "Rotating Machinery Fault Prediction Method Based on Bi-LSTM and Attention Mechanism", 《2019 IEEE INTERNATIONAL CONFERENCE ON ENERGY INTERNET》 * |
高榕 等: "基于注意力门控神经网络的社会化推荐算法", 《计算机工程与应用》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117252346A (zh) * | 2023-11-15 | 2023-12-19 | 江西珉轩智能科技有限公司 | 一种物料溯源系统及方法 |
CN117252346B (zh) * | 2023-11-15 | 2024-02-13 | 江西珉轩智能科技有限公司 | 一种物料溯源系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113240098B (zh) | 2022-05-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112632972B (zh) | 一种电网设备故障报告内故障信息的快速提取方法 | |
CN112257263B (zh) | 基于自注意力机制的设备剩余寿命预测系统 | |
CN109787821B (zh) | 一种大规模移动客户流量消费智能预测方法 | |
CN105471647A (zh) | 一种电力通信网故障定位方法 | |
CN110995384B (zh) | 一种基于机器学习的广播总控故障趋势预判方法 | |
CN117978551B (zh) | 变电站监控网络的交互异常行为分析方法 | |
CN113240098B (zh) | 基于混合门控神经网络的故障预测方法、装置和存储介质 | |
Yang et al. | Remaining useful life prediction based on normalizing flow embedded sequence-to-sequence learning | |
CN118246700B (zh) | 基于图计算的配电网供电策略动态调整方法及系统 | |
Gao et al. | A deep learning framework with spatial-temporal attention mechanism for cellular traffic prediction | |
CN117633592B (zh) | 一种新能源电站智能监盘系统 | |
CN113758652B (zh) | 换流变压器漏油检测方法、装置、计算机设备和存储介质 | |
CN118070063A (zh) | 模型训练方法、文本分类方法、装置、设备、介质及产品 | |
CN117495421A (zh) | 基于电力通信网建设的电网通信工程造价预测方法 | |
Hou et al. | A Federated Learning‐Based Fault Detection Algorithm for Power Terminals | |
Wen et al. | An unsupervised subdomain adversarial network for remaining useful life estimation under various conditions | |
CN115174421B (zh) | 基于自监督解缠绕超图注意力的网络故障预测方法及装置 | |
CN115456168A (zh) | 强化学习模型的训练方法、能耗确定方法和装置 | |
CN113780356B (zh) | 基于集成学习模型的水质预测方法及系统 | |
CN115409100A (zh) | 电力事故应急方案生成方法、装置、介质及设备 | |
Lu et al. | Anomaly Recognition Method for Massive Data of Power Internet of Things Based on Bayesian Belief Network | |
CN117993894B (zh) | 基于人工智能的轨道交通运维状态数据处理方法及系统 | |
CN118171088B (zh) | 一种边缘计算方法、装置、设备及可读存储介质 | |
CN117640342B (zh) | 一种电力监控系统主体异常检测方法、装置、设备和介质 | |
CN117992789B (zh) | 充电枪的开关测试方法、系统、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
EE01 | Entry into force of recordation of patent licensing contract | ||
EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20210810 Assignee: Wuhan Dinglia Technology Co.,Ltd. Assignor: HUBEI University OF TECHNOLOGY Contract record no.: X2024980000415 Denomination of invention: Fault prediction method, device, and storage medium based on hybrid gated neural network Granted publication date: 20220517 License type: Common License Record date: 20240110 |
|
OL01 | Intention to license declared | ||
OL01 | Intention to license declared |