CN111200540A - 一种基于深度递归网络的大数据计算机系统故障检测方法 - Google Patents
一种基于深度递归网络的大数据计算机系统故障检测方法 Download PDFInfo
- Publication number
- CN111200540A CN111200540A CN201911377671.9A CN201911377671A CN111200540A CN 111200540 A CN111200540 A CN 111200540A CN 201911377671 A CN201911377671 A CN 201911377671A CN 111200540 A CN111200540 A CN 111200540A
- Authority
- CN
- China
- Prior art keywords
- layer
- network
- deep
- sensing
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0823—Errors, e.g. transmission errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Environmental & Geological Engineering (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Maintenance And Management Of Digital Transmission (AREA)
- Computer And Data Communications (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开的属于计算机系统故障检测方法技术领域,具体为一种基于深度递归网络的大数据计算机系统故障检测方法,该基于深度递归网络的大数据计算机系统故障检测方法制备方法步骤如下:步骤一:物联网系统采用感知层、传输层和应用层三层体系架构,感知层通过大量的传感节点实时收集环境参数,传输层一般通过5G网络或者蓝牙将感知层收集的数据回传给应用层供用户分析;步骤二:深度递归网络S1:网络结构深度递归网络与传统的神经网络模型并没有本质区别,都可以认为由输入层、隐藏层和输出层三层构成,该发明利用深度递归网络实现便捷的检测,同时在物联网系统异常检测中提高了检测的准确率的综合效果。
Description
技术领域
本发明涉及计算机系统故障检测方法技术领域,具体为一种基于深度递归网络的大数据计算机系统故障检测方法。
背景技术
目前,大数据计算系统随着自身规模和结构复杂性的日益增大,其整体系统性能受到了多方面的影响。某个状态节点发生故障,其它与其有联系的节点也将受到波及而不能正常运行。同时,如果这个故障不能及时地检测出来,将会不断蔓延甚至导致整个系统的瘫痪。现有的大数据存储系统中,采用故障检测技术,可以根据检测的结果提前发现系统发生故障的可能,并做好相应的拯救准备。其中系统状态数据是典型的时序数据,是建立系统故障模型的关键。通过分析数据建立系统故障模型是故障特征辨识和演化分析的基础。在系统中,若检测到其中的某一状态节点出现故障,就可以通过调用备份数据,依靠其中的冗余数据对该故障节点进行数据修整等操作。为达到不被系统故障所引起的各种数据问题以及故障检测结果错误带来的高系统开销,对于大数据计算系统,非常需要高效率和高准确率的故障检测机制。
现有技术当中的物联网系统中存在多设备系统异常时不易检测的缺陷,同时在物联网系统异常检测中检测准确率有待进一步提高,因此亟需研发一种基于深度递归网络的大数据计算机系统故障检测方法。
发明内容
本部分的目的在于概述本发明的实施方式的一些方面以及简要介绍一些较佳实施方式。在本部分以及本申请的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊,而这种简化或省略不能用于限制本发明的范围。
鉴于上述和/或现有基于深度递归网络的大数据计算机系统故障检测方法中存在的问题,提出了本发明。
因此,本发明的目的是提供基于深度递归网络的大数据计算机系统故障检测方法,利用深度递归网络实现便捷的检测,同时在物联网系统异常检测中提高了检测的准确率。
为解决上述技术问题,根据本发明的一个方面,本发明提供了如下技术方案:
一种基于深度递归网络的大数据计算机系统故障检测方法,该基于深度递归网络的大数据计算机系统故障检测方法制备方法步骤如下:
步骤一:物联网系统采用感知层、传输层和应用层三层体系架构,感知层通过大量的传感节点实时收集环境参数,传输层一般通过5G网络或者蓝牙将感知层收集的数据回传给应用层供用户分析;
步骤二:深度递归网络
S1:网络结构
深度递归网络与传统的神经网络模型并没有本质区别,都可以认为由输入层、隐藏层和输出层三层构成,其中深度递归网络隐藏层的输入来源包括当前层的输入和前序层、隐藏层的输出,假设深度网络在时刻t接收到输入xt,隐藏层输出值为st,输出值为Ot,st的取值不仅依赖xt,还取决于st-1,则有:
Ot=g(Vst)
st=f(Uxt+Wst-1)
深度递归网络的隐藏层与输出层之间为全连接,即输出层每个节点都与隐藏层节点互联,上式中:V为输出层的权重矩阵;g是激活函数,在深度递归网络,U为输入层的权重矩阵;W为时序权重矩阵,g函数可表征为sigmoid函数和softmax函数:
隐藏层激活函数f存在多种形态,从早期传统神经网络的sigmoid函数到tanh,在深度神经网络中大多采用relu函数;
relu设计原则是当激活信号达到一定强度才生效,这也比较符合神经网络的工作原理,当激活信号为负数时,则直接抑制,这种处理方式能够在一定程度上产生稀疏解,对于复杂的网络结构,这种处理方式具有非常重要的意义,并且能够有效地抑制网络过拟合现象;
f(s)=relu(s)=max(o,s)
S2:系统建模
定义深度递归网络的输出为4维向量,4维向量分别对应为感知层出现异常、传输层出现异常、应用层出现异常、无异常,即向量中每一维都对应物联网系统中某一层;假设感知层出现异常时,则输出向量表征为[1,0,0,0],物联网系统某一层出现异常时,则将输出向量某一维度置为1,当物联网系统表现正常,无异常时输出向量为[0,0,0,1];
步骤三:数据分析
通过Matlab模拟数据分别在感知层、传输层和应用层发生数据突变,由正常数据突变为异常数据,在模拟异常数据时,控制异常数据发生的层数,保证感知层、传输层和应用层数据同时发生异常的比例占所有异常数据比例不超过50%,正常数据和异常数据的比例保持在7∶3,随着网络层数的增加,dnn和rnn的时间计算开销呈线性递增趋势,softmax作为单层结构,时间上有相对较为明显的优势;
作为本发明所述的基于深度递归网络的大数据计算机系统故障检测方法的一种优选方案,其中:所述步骤一中的物联网系统的信号采集主要通过感知层部署大量的传感节点,传感节点的信号具有一定的频段信息,当传感节点发生数据异常时,传输层接收到的信号会发生偏差,并链式反馈到应用层。
作为本发明所述的基于深度递归网络的大数据计算机系统故障检测方法的一种优选方案,其中:所述步骤一中的V为输出层的权重矩阵,g是激活函数,在深度递归网络中隐藏层又称为循环层,U为输入层的权重矩阵,W为时序权重矩阵,在上式中表征隐藏层st-1与st之间权重矩阵,f同样表示为激活函数,g作为激活函数根据输出结果大致可分为二分类或多分类问题。
与现有技术相比:该基于深度递归网络的大数据计算机系统故障检测方法利用深度递归网络在物联网系统异常检测中能够获得较高的检测准确率,同时利用深度递归网络实现便捷的检测,提出以深度递归网络对物联网系统的三层体系架构进行安全检测建模,将物联网系统的异常与否建模为深度递归网络的输出状态。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面本发明的具体实施方式做详细的说明。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是本发明还可以采用其他不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似推广,因此本发明不受下面公开的具体实施方式的限制。
为使本发明的目的、技术方案和优点更加清楚,下面将对本发明的实施方式作进一步地详细描述。
本发明提供一种基于深度递归网络的大数据计算机系统故障检测方法,其特征在于:该基于深度递归网络的大数据计算机系统故障检测方法制备方法步骤如下:
步骤一:物联网系统采用感知层、传输层和应用层三层体系架构,感知层通过大量的传感节点实时收集环境参数,传输层一般通过5G网络或者蓝牙将感知层收集的数据回传给应用层供用户分析;
物联网系统的信号采集主要通过感知层部署大量的传感节点,传感节点的信号具有一定的频段信息,当传感节点发生数据异常时,传输层接收到的信号会发生偏差,并链式反馈到应用层;
步骤二:深度递归网络
S1:网络结构
深度递归网络与传统的神经网络模型并没有本质区别,都可以认为由输入层、隐藏层和输出层三层构成,其中深度递归网络隐藏层的输入来源包括当前层的输入和前序层、隐藏层的输出,假设深度网络在时刻t接收到输入xt,隐藏层输出值为st,输出值为Ot,st的取值不仅依赖xt,还取决于st-1,则有:
Ot=g(Vst)
st=f(Uxt+Wst-1)
深度递归网络的隐藏层与输出层之间为全连接,即输出层每个节点都与隐藏层节点互联,上式中V为输出层的权重矩阵,g是激活函数,在深度递归网络中隐藏层又称为循环层,U为输入层的权重矩阵,W为时序权重矩阵,在上式中表征隐藏层st-1与st之间权重矩阵,f同样表示为激活函数,g作为激活函数根据输出结果大致可分为二分类或多分类问题,因此g函数可表征为sigmoid函数和softmax函数:
隐藏层激活函数f存在多种形态,从早期传统神经网络的sigmoid函数到tanh,在深度神经网络中大多采用relu函数;
relu设计原则是当激活信号达到一定强度才生效,这也比较符合神经网络的工作原理,当激活信号为负数时,则直接抑制,这种处理方式能够在一定程度上产生稀疏解,对于复杂的网络结构,这种处理方式具有非常重要的意义,并且能够有效地抑制网络过拟合现象;
f(s)=relu(s)=max(o,s)
S2:系统建模
定义深度递归网络的输出为4维向量,4维向量分别对应为感知层出现异常、传输层出现异常、应用层出现异常、无异常,即向量中每一维都对应物联网系统中某一层;假设感知层出现异常时,则输出向量表征为[1,0,0,0],物联网系统某一层出现异常时,则将输出向量某一维度置为1,当物联网系统表现正常,无异常时输出向量为[0,0,0,1];
步骤三:数据分析
通过Matlab模拟数据分别在感知层、传输层和应用层发生数据突变,由正常数据突变为异常数据,在模拟异常数据时,控制异常数据发生的层数,保证感知层、传输层和应用层数据同时发生异常的比例占所有异常数据比例不超过50%,正常数据和异常数据的比例保持在7∶3,随着网络层数的增加,dnn和rnn的时间计算开销呈线性递增趋势,softmax作为单层结构,时间上有相对较为明显的优,一般而言,对于大型系统而言,10ms以内的时间开销都在可接受程度内,因此深度递归网络在时间开销可控的基础上能够获得较高的系统异常识别准确率;
该基于深度递归网络的大数据计算机系统故障检测方法能够有效的利用深度递归网络实现便捷的检测,同时在物联网系统异常检测中提高了检测的准确率,具有良好的经济效益。
虽然在上文中已经参考实施方式对本发明进行了描述,然而在不脱离本发明的范围的情况下,可以对其进行各种改进并且可以用等效物替换其中的部件。尤其是,只要不存在结构冲突,本发明所披露的实施方式中的各项特征均可通过任意方式相互结合起来使用,在本说明书中未对这些组合的情况进行穷举性的描述仅仅是出于省略篇幅和节约资源的考虑。因此,本发明并不局限于文中公开的特定实施方式,而是包括落入权利要求的范围内的所有技术方案。
Claims (3)
1.一种基于深度递归网络的大数据计算机系统故障检测方法,其特征在于:该基于深度递归网络的大数据计算机系统故障检测方法制备方法步骤如下:
步骤一:物联网系统采用感知层、传输层和应用层三层体系架构,感知层通过大量的传感节点实时收集环境参数,传输层一般通过5G网络或者蓝牙将感知层收集的数据回传给应用层供用户分析;
步骤二:深度递归网络
S1:网络结构
深度递归网络与传统的神经网络模型并没有本质区别,都可以认为由输入层、隐藏层和输出层三层构成,其中深度递归网络隐藏层的输入来源包括当前层的输入和前序层、隐藏层的输出,假设深度网络在时刻t接收到输入xt,隐藏层输出值为st,输出值为Ot,st的取值不仅依赖xt,还取决于st-1,则有:
Ot=g(Vst)
st=f(Uxt+Wst-1)
深度递归网络的隐藏层与输出层之间为全连接,即输出层每个节点都与隐藏层节点互联,上式中:V为输出层的权重矩阵;g是激活函数,在深度递归网络,U为输入层的权重矩阵;W为时序权重矩阵,g函数可表征为sigmoid函数和softmax函数:
隐藏层激活函数f存在多种形态,从早期传统神经网络的sigmoid函数到tanh,在深度神经网络中大多采用relu函数;
relu设计原则是当激活信号达到一定强度才生效,这也比较符合神经网络的工作原理,当激活信号为负数时,则直接抑制,这种处理方式能够在一定程度上产生稀疏解,对于复杂的网络结构,这种处理方式具有非常重要的意义,并且能够有效地抑制网络过拟合现象;
f(s)=relu(s)=max(o,s)
S2:系统建模
定义深度递归网络的输出为4维向量,4维向量分别对应为感知层出现异常、传输层出现异常、应用层出现异常、无异常,即向量中每一维都对应物联网系统中某一层;假设感知层出现异常时,则输出向量表征为[1,0,0,0],物联网系统某一层出现异常时,则将输出向量某一维度置为1,当物联网系统表现正常,无异常时输出向量为[0,0,0,1];
步骤三:数据分析
通过Matlab模拟数据分别在感知层、传输层和应用层发生数据突变,由正常数据突变为异常数据,在模拟异常数据时,控制异常数据发生的层数,保证感知层、传输层和应用层数据同时发生异常的比例占所有异常数据比例不超过50%,正常数据和异常数据的比例保持在7∶3,随着网络层数的增加,dnn和rnn的时间计算开销呈线性递增趋势,softmax作为单层结构,时间上有相对较为明显的优势。
2.根据权利要求1所述的一种基于深度递归网络的大数据计算机系统故障检测方法,其特征在于:所述步骤一中的物联网系统的信号采集主要通过感知层部署大量的传感节点,传感节点的信号具有一定的频段信息,当传感节点发生数据异常时,传输层接收到的信号会发生偏差,并链式反馈到应用层。
3.根据权利要求1所述的一种基于深度递归网络的大数据计算机系统故障检测方法,其特征在于:所述步骤一中的V为输出层的权重矩阵,g是激活函数,在深度递归网络中隐藏层又称为循环层,U为输入层的权重矩阵,W为时序权重矩阵,在上式中表征隐藏层st-1与st之间权重矩阵,f同样表示为激活函数,g作为激活函数根据输出结果大致可分为二分类或多分类问题。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911377671.9A CN111200540A (zh) | 2019-12-27 | 2019-12-27 | 一种基于深度递归网络的大数据计算机系统故障检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911377671.9A CN111200540A (zh) | 2019-12-27 | 2019-12-27 | 一种基于深度递归网络的大数据计算机系统故障检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111200540A true CN111200540A (zh) | 2020-05-26 |
Family
ID=70747603
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911377671.9A Pending CN111200540A (zh) | 2019-12-27 | 2019-12-27 | 一种基于深度递归网络的大数据计算机系统故障检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111200540A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114465909A (zh) * | 2022-02-09 | 2022-05-10 | 哈尔滨工业大学 | 智能感知边缘计算融合纳米组网结构 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107330410A (zh) * | 2017-07-03 | 2017-11-07 | 南京工程学院 | 复杂环境下基于深度学习的异常检测方法 |
CN108459933A (zh) * | 2018-03-21 | 2018-08-28 | 哈工大大数据(哈尔滨)智能科技有限公司 | 一种基于深度递归网络的大数据计算机系统故障检测方法 |
CN109886978A (zh) * | 2019-02-20 | 2019-06-14 | 贵州电网有限责任公司 | 一种基于深度学习的端到端告警信息识别方法 |
-
2019
- 2019-12-27 CN CN201911377671.9A patent/CN111200540A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107330410A (zh) * | 2017-07-03 | 2017-11-07 | 南京工程学院 | 复杂环境下基于深度学习的异常检测方法 |
CN108459933A (zh) * | 2018-03-21 | 2018-08-28 | 哈工大大数据(哈尔滨)智能科技有限公司 | 一种基于深度递归网络的大数据计算机系统故障检测方法 |
CN109886978A (zh) * | 2019-02-20 | 2019-06-14 | 贵州电网有限责任公司 | 一种基于深度学习的端到端告警信息识别方法 |
Non-Patent Citations (2)
Title |
---|
李慧慧: ""深度递归网络在物联网系统异常检测中应用研究"", 《现代电子技术》 * |
郎永祥等: "一种新的网络异常监测模型", 《电脑知识与技术》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114465909A (zh) * | 2022-02-09 | 2022-05-10 | 哈尔滨工业大学 | 智能感知边缘计算融合纳米组网结构 |
CN114465909B (zh) * | 2022-02-09 | 2024-03-22 | 哈尔滨工业大学 | 一种智能感知边缘计算融合纳米组网装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Saeed et al. | Fault diagnosis based on extremely randomized trees in wireless sensor networks | |
CN109308522B (zh) | 一种基于循环神经网络的gis故障预测方法 | |
WO2015158198A1 (zh) | 一种基于神经网络自学习的故障识别方法及系统 | |
CN109766992B (zh) | 基于深度学习的工控异常检测及攻击分类方法 | |
CN108958217A (zh) | 一种基于深度学习的can总线报文异常检测方法 | |
CN110247910A (zh) | 一种异常流量的检测方法、系统及相关组件 | |
Wang et al. | Research on fault diagnosis expert system based on the neural network and the fault tree technology | |
CN107153414B (zh) | 一种基于动静混合策略的故障检测与重构系统及方法 | |
Wu et al. | Fatigue detection of pilots’ brain through brains cognitive map and multilayer latent incremental learning model | |
Zhao et al. | A robust construction of normalized CNN for online intelligent condition monitoring of rolling bearings considering variable working conditions and sources | |
Jia et al. | A novel fault diagnosis method for aircraft actuator based on ensemble model | |
CN113297994A (zh) | 一种飞行员行为分析方法及系统 | |
Jin et al. | Toward predictive fault tolerance in a core-router system: Anomaly detection using correlation-based time-series analysis | |
CN111200540A (zh) | 一种基于深度递归网络的大数据计算机系统故障检测方法 | |
CN115099135A (zh) | 一种改进的人工神经网络多类型作业功耗预测方法 | |
CN105183659A (zh) | 基于多级模式预测的软件系统行为异常检测方法 | |
CN108459933B (zh) | 一种基于深度递归网络的大数据计算机系统故障检测方法 | |
KR101193116B1 (ko) | 회전익 항공기의 비행 패턴의 인식 방법, 이를 구현하는 비행 패턴 인식 장치 및 기록 매체 | |
Zhang et al. | Recurrent neural network model with self-attention mechanism for fault detection and diagnosis | |
CN110033105B (zh) | 一种复杂工况下非平衡数据集的悬浮系统故障检测方法 | |
CN116560341A (zh) | 工业机器人故障诊断模型及故障诊断方法 | |
CN108021873B (zh) | 一种聚类非对称互信息的脑电信号癫痫分类方法及系统 | |
CN115409262A (zh) | 铁路数据中心关键性能指标趋势预测方法、异常识别方法 | |
Li et al. | Software defect prediction based on hybrid swarm intelligence and deep learning | |
CN114330500A (zh) | 基于storm平台的电网电力设备在线并行诊断方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |