CN113743537A - 基于深层稀疏记忆模型的高速公路机电系统故障分类方法 - Google Patents

基于深层稀疏记忆模型的高速公路机电系统故障分类方法 Download PDF

Info

Publication number
CN113743537A
CN113743537A CN202111127850.4A CN202111127850A CN113743537A CN 113743537 A CN113743537 A CN 113743537A CN 202111127850 A CN202111127850 A CN 202111127850A CN 113743537 A CN113743537 A CN 113743537A
Authority
CN
China
Prior art keywords
layer
data
fault
electromechanical system
sparse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111127850.4A
Other languages
English (en)
Other versions
CN113743537B (zh
Inventor
赵池航
刘洋
钱子晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southeast University
Original Assignee
Southeast University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southeast University filed Critical Southeast University
Priority to CN202111127850.4A priority Critical patent/CN113743537B/zh
Publication of CN113743537A publication Critical patent/CN113743537A/zh
Application granted granted Critical
Publication of CN113743537B publication Critical patent/CN113743537B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Testing Of Short-Circuits, Discontinuities, Leakage, Or Incorrect Line Connections (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本发明公开了基于深层稀疏记忆模型的高速公路机电系统故障分类方法,包括:获取高速公路机电系统的数据采集与监控系统SCADA所采数据,进行数据预处理;构建基于双层栈式稀疏自编码器+SVM的跳闸故障检测模型,对高速公路机电系统电气量参数进行特征提取和故障检测,输出故障时刻;构建改进FSS‑LSTM网络模型,对系统的故障时刻数据进行故障状态分类,输出故障类。本发明通过稀疏学习和深度神经网络的紧密结合,提高分类效率,并且更精准的实现多种故障的分类,对高速公路场景中机电系统的运维提供技术支持。

Description

基于深层稀疏记忆模型的高速公路机电系统故障分类方法
技术领域
本发明专利涉及智能交通,智慧高速研究领域,具体涉及基于深层稀疏记忆模型的高速公路机电系统故障分类方法。
背景技术
随着智能辅助驾驶、ETC自由流收费技术不断发展,越来越多的智能交通机电设备在高速公路中的应用,日益增长的对于复杂高速公路桥梁机电系统健康状态的感知及预测需求,对智能交通技术提出了新的课题和挑战。在高速公路机电系统数据量不断扩大、数据结构形式不断变化的趋势下,基于特性曲线的方法、基于设备监控的方法的效率和迁移性逐渐展现弊端。就研究方法而言,深度学习相比于传统的机器学习算法相比,不需要手动的提取特征,具有良好的普适性和自适应性,基于深度学习方法的机电系统故障感知领域实用性研究较少,且具有一定的通用性。因此,本文通过对高速公路机电系统的电气量数据进行深度学习建模,研究其设备状态与电气量之间的变化关系,提出了可迁移性较强的基于深层稀疏记忆模型的高速公路机电系统故障分类方法。
发明内容
发明目的:为了克服现有技术中存在的不足,提供的基于深层稀疏记忆模型的高速公路机电系统故障分类方法,其利用基于改进FSS-LSTM模型的深度学习方法快速、有效地对高速公路机电系统故障原因进行识别和分类,可对高速公路场景中机电系统的运维提供技术支持。
技术方案:为实现上述目的,本发明提供的基于深层稀疏记忆模型的高速公路机电系统故障分类方法,包括如下步骤:
S1:获取高速公路机电系统的数据采集与监控系统(SCADA)所采数据,进行数据预处理;
S2:构建基于双层栈式稀疏自编码器+SVM(高斯核)的跳闸故障检测模型,对高速公路机电系统电气量参数进行特征提取和故障检测,输出故障时刻;
S3:构建改进FSS-LSTM(Fused Stack Sparse Long Short Term Memory,FSS-LSTM)网络模型,对系统的故障时刻数据进行故障状态分类,输出故障类别。
进一步的,所述步骤S1中获取高速公路机电系统数据,并采用数据清洗等方法进行数据预处理的具体步骤如下:
①获取高速公路机电系统某子站某段时间按1次/小时的频率采集的电气量数据;
②按“监控子站.线路或设备_电气量参数”对数据进行聚类排序,将数据转换为行表示参数、列表示时刻的矩阵形式;
③采用Min-MaxNormalization进行数据归一化,采用Z-score Normalization进行数据标准化;
④去除电度行数据;
进一步的,所述步骤S2中基于双层栈式稀疏自编码器+SVM(高斯核)的跳闸故障检测模型的构建步骤如下:
S2-1:将每个子站的信息矩阵作为自编码器模型的输入;
S2-2:对于无标签数据,根据逐层非监督的预训练方法分层进行贪婪训练,获取电气量数据矩阵的深层稀疏特征,构建栈式稀疏自编码器;
S2-3:采用核函数为Gaussian Kernel的支持向量机SVM分类器,对电气量的深层稀疏特征进行二分类;
S2-4:利用带标签(故障或正常)的数据和分类器对整个网络进行微调;
进一步的,所述步骤S2-2中训练栈式稀疏自编码器的步骤如下:
①设置栈式自编码器的隐藏层数为两层;
②选择稀疏自编码器的维数,采用神经网络构造中的最大二指数法,即将输入矩阵参数向量的最大二指数作为第一层隐藏层的维数,第二层递减,如输入矩阵为(803,36150),则栈式稀疏自编码器的隐藏层维数分别取512、256,对应的解码器层数与输入层相同,每层维数与输入层对应,为256、512;
③输入无标签的数据,采用单层训练方式,先训练第一层,使得第一层的输出
Figure BDA0003279460700000021
尽可能和输入{x1,x2,…,xm}相等,通过激活函数进行编码和解码;
④根据得到的隐藏层权重和偏置(W,b),将第一层的隐藏层的激活值输出作为第二层的输入,获取第二层的网络权值;
进一步的,所述步骤S3中改进FSS-LSTM网络模型的构建方法为:以经典的单层LSTM模型为基础,增加计算单元的网络层数和稀疏度,提高网络的特征提取能力。网络计算单元有两层隐藏层结构H1,H2,隐藏层第一层维数为128维,第二层维数为64维,每一层都具有LSTM网络基本的单元结构,包括输入门、遗忘门、输出门以及Cell细胞,以得到核状态ct和隐状态ht的输出。时间维度上,隐藏层第一层H1返回所有时刻的输出,隐藏层第二层H2返回最后一个时刻的输出,隐藏层第一层H1和第二层H2采用直接连接。采用稀疏权重KL对网络结构稀疏连接进行约束,初始值为0.5,KL随训练损失下降优化。隐藏层第二层后接一个全连接层和一个softmax层,最后得到3维的输出特征,分别代表:负荷过载F=0,设备劳损F=1以及其他外部破坏F=2。
所述步骤S3中输入向量维数为(x,t),其中x表示信息矩阵的参数维度,t表示信息矩阵的时间维度,分别经过三个门计算单元Forget Gate,Input Gate,Output Gate进行特征计算和提取,第一层隐藏层的计算单元维数为128维,则输出向量维数为(128,t),每个t时刻返回向上的节点输出;第一层隐藏层的输出作为第二层隐藏层的直接输入,第二层隐藏层的计算维数为64,每个时间节点不向上输出结果,只传递细胞状态和隐状态至最后节点T;最后,T时刻的节点输出维数(64,t)的向量进入全连接层分类,全连接层将64维特征分类至3维进行输出,整个模型输出结果维数为(3,t)。
本发明融合了稀疏自编码器和长短期记忆模型,提出了基于深层稀疏结构的长短期记忆模型改进FSS-LSTM,该模型增加了LSTM网络层数和稀疏维数,使得隐藏层浅层特征提取向量能够在时间维度融合并进入深层训练,最终通过检测和分类的融合模型得到输出向量,该向量中最大分量对应的类别即为最终分类结果。
有益效果:本发明与现有技术相比,将稀疏学习和深度神经网络紧密结合,从而可以更精准的实现故障的检测和分类,对高速公路场景中运维系统提供技术支持。
附图说明
图1为不同层数栈式自编码器和不同分类器组合精度对比图。
图2为三种模型测试精度的条状图和箱式图对比,其中a为条状图对比,b为箱式图对比。
图3为基于稀疏自编码器的故障检测模型流程图。
图4为深层稀疏长短期记忆融合网络模型的单个运算细胞单元。
图5为深层稀疏长短期记忆融合网络模型时间维度上的网络整体结构。
具体实施方式
下面结合附图和具体实施方式,进一步阐明本发明,应理解下述具体实施方式仅用于说明本发明而不用于限制本发明的范围。
如图3-5所示,本发明提供的基于深层稀疏记忆模型的高速公路机电系统故障分类方法,包括如下步骤:
S1:获取高速公路机电系统的数据采集与监控系统(SCADA)所采数据,进行数据预处理;
其具体为:
①获取高速公路机电系统某子站某段时间按1次/小时的频率采集的电气量数据;
②按“监控子站.线路或设备_电气量参数”对数据进行聚类排序,将数据转换为行表示参数、列表示时刻的矩阵形式;
③采用Min-MaxNormalization进行数据归一化,采用Z-score Normalization进行数据标准化;
④去除电度行数据;
S2:构建基于双层栈式稀疏自编码器+SVM(高斯核)的跳闸故障检测模型,对高速公路机电系统电气量参数进行特征提取和故障检测,输出故障时刻;
其具体为:
S2-1:将每个子站的信息矩阵作为自编码器模型的输入;
S2-2:对于无标签数据,根据逐层非监督的预训练方法分层进行贪婪训练,获取电气量数据矩阵的深层稀疏特征,构建栈式稀疏自编码器;
①设置栈式自编码器的隐藏层数为两层;
②选择稀疏自编码器的维数,采用神经网络构造中的最大二指数法,即将输入矩阵参数向量的最大二指数作为第一层隐藏层的维数,第二层递减,如输入矩阵为(803,36150),则栈式稀疏自编码器的隐藏层维数分别取512、256,对应的解码器层数与输入层相同,每层维数与输入层对应,为256、512;
③输入无标签的数据,采用单层训练方式,先训练第一层,使得第一层的输出
Figure BDA0003279460700000041
尽可能和输入{x1,x2,…,xm}相等,通过激活函数进行编码和解码;
④根据得到的隐藏层权重和偏置(W,b),将第一层的隐藏层的激活值输出作为第二层的输入,获取第二层的网络权值;
S2-3:采用核函数为Gaussian Kernel的支持向量机SVM分类器,对电气量的深层稀疏特征进行二分类;
S2-4:利用带标签(故障或正常)的数据和分类器对整个网络进行微调;
为了验证上述方法的效果,本实施例中将步骤S2的基于双层栈式稀疏自编码器+SVM(高斯核)的跳闸故障检测模型与其他自编码器和不同分类器的组合模型进行实验对比,具体如图1所示:
S3:构建基于改进FSS-LSTM网络的故障分类模型,对系统的故障时刻数据进行故障状态分类,输出故障类别。
以经典的单层LSTM模型为基础,增加计算单元的网络层数和稀疏度,提高网络的特征提取能力。网络计算单元有两层隐藏层结构H1,H2,隐藏层第一层维数为128维,第二层维数为64维,每一层都具有LSTM网络基本的单元结构,包括输入门、遗忘门、输出门以及Cell细胞,以得到核状态ct和隐状态ht的输出。时间维度上,隐藏层第一层H1返回所有时刻的输出,隐藏层第二层H2返回最后一个时刻的输出,隐藏层第一层H1和第二层H2采用直接连接。采用稀疏权重KL对网络结构稀疏连接进行约束,初始值为0.5,KL随训练损失下降优化。隐藏层第二层后接一个全连接层和一个softmax层,最后得到3维的输出特征,分别代表:负荷过载F=0,设备劳损F=1以及其他外部破坏F=2。
为了验证上述方法的效果,本实施例中将步骤S3的基于改进FSS-LSTM网络的分类模型与基于门控循环单元的故障原因分类模型(GRU-FCM)以及基于长短期记忆网络的故障原因分类模型(LSTM-FCM)进行实验对比,具体如下表1和图2所示:
表1三种模型综合性能对比
Figure BDA0003279460700000051
可以看出,本专利用于高速公路机电系统故障分类的改进FSS-LSTM网络模型性能优于常规循环神经网络的电气量故障分类方法,其训练精度达到97.15%,测试精度达到93.34%。

Claims (4)

1.基于深层稀疏记忆模型的高速公路机电系统故障分类方法,其特征在于:包括如下步骤:
S1:获取高速公路机电系统的数据采集与监控系统SCADA所采数据,进行数据预处理;
S2:构建基于双层栈式稀疏自编码器+SVM的跳闸故障检测模型,对高速公路机电系统电气量参数进行特征提取和故障检测,输出故障时刻;
S3:构建改进FSS-LSTM网络模型,对系统的故障时刻数据进行故障状态分类,输出故障类别。
2.根据权利要求1所述的基于深层稀疏记忆模型的高速公路机电系统故障分类方法,其特征在于:所述步骤S1中获取高速公路机电系统数据,进行数据预处理的具体步骤如下:
①获取高速公路机电系统某子站某段时间按1次/小时的频率采集的电气量数据;
②按“监控子站.线路或设备_电气量参数”对数据进行聚类排序,将数据转换为行表示参数、列表示时刻的矩阵形式;
③采用Min-MaxNormalization进行数据归一化,采用Z-score Normalization进行数据标准化;
④去除电度行数据。
3.根据权利要求1所述的基于深层稀疏记忆模型的高速公路机电系统故障分类方法,其特征在于:所述步骤S2中基于双层栈式稀疏自编码器+SVM的跳闸故障检测模型的构建方法为:针对故障数据较少的情况,通过栈式级联、稀疏约束以及自编码器的单个或融合结构分别对原始电气量数据进行无监督训练,自主学习电气量数据矩阵的数据特征,可提取电气量数据中未被记录的异常电压、电流、有功功率和无功功率项的特征,提高正负样本均衡性;将提取出的高维或低维稀疏特征利用支持向量机SVM二分类,其中支持向量机采用高斯核函数;利用带标签的数据和分类器对整个网络进行微调。
4.根据权利要求1所述的基于深层稀疏记忆模型的高速公路机电系统故障分类方法,其特征在于:所述步骤S3中改进FSS-LSTM网络模型的构建方法为:以经典的单层LSTM模型为基础,增加计算单元的网络层数和稀疏度,提高网络的特征提取能力;网络计算单元有两层隐藏层结构H1,H2,隐藏层第一层维数为128维,第二层维数为64维,每一层都具有LSTM网络基本的单元结构,包括输入门、遗忘门、输出门以及Cell细胞,以得到核状态ct和隐状态ht的输出;时间维度上,隐藏层第一层H1返回所有时刻的输出,隐藏层第二层H2返回最后一个时刻的输出,隐藏层第一层H1和第二层H2采用直接连接;采用稀疏权重KL对网络结构稀疏连接进行约束,初始值为0.5,KL随训练损失下降优化;隐藏层第二层后接一个全连接层和一个softmax层,最后得到3维的输出特征,分别代表:负荷过载F=0,设备劳损F=1以及其他外部破坏F=2。
CN202111127850.4A 2021-09-26 2021-09-26 基于深层稀疏记忆模型的高速公路机电系统故障分类方法 Active CN113743537B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111127850.4A CN113743537B (zh) 2021-09-26 2021-09-26 基于深层稀疏记忆模型的高速公路机电系统故障分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111127850.4A CN113743537B (zh) 2021-09-26 2021-09-26 基于深层稀疏记忆模型的高速公路机电系统故障分类方法

Publications (2)

Publication Number Publication Date
CN113743537A true CN113743537A (zh) 2021-12-03
CN113743537B CN113743537B (zh) 2024-07-09

Family

ID=78741005

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111127850.4A Active CN113743537B (zh) 2021-09-26 2021-09-26 基于深层稀疏记忆模型的高速公路机电系统故障分类方法

Country Status (1)

Country Link
CN (1) CN113743537B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114611396A (zh) * 2022-03-15 2022-06-10 国网安徽省电力有限公司蚌埠供电公司 一种基于大数据分析线损的方法
CN115169506A (zh) * 2022-09-06 2022-10-11 中铁第四勘察设计院集团有限公司 一种供变电关键设备故障快速诊断方法及系统
CN116340830A (zh) * 2023-05-19 2023-06-27 山东通维信息工程有限公司 一种基于深层记忆模型的高速公路机电系统故障分类方法
CN116542170A (zh) * 2023-04-10 2023-08-04 郑州大学 基于ssae和mlstm的排水管道淤积病害动态诊断方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103048041A (zh) * 2012-12-20 2013-04-17 北京信息科技大学 基于局部切空间和支持向量机的机电系统故障诊断方法
CN111428819A (zh) * 2020-04-27 2020-07-17 北京工业大学 一种基于堆叠自编码网络和svm的csi室内定位方法
US20200386811A1 (en) * 2019-06-05 2020-12-10 Wuhan University Power electronic circuit fault diagnosis method based on extremely randomized trees and stacked sparse auto-encoder algorithm

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103048041A (zh) * 2012-12-20 2013-04-17 北京信息科技大学 基于局部切空间和支持向量机的机电系统故障诊断方法
US20200386811A1 (en) * 2019-06-05 2020-12-10 Wuhan University Power electronic circuit fault diagnosis method based on extremely randomized trees and stacked sparse auto-encoder algorithm
CN111428819A (zh) * 2020-04-27 2020-07-17 北京工业大学 一种基于堆叠自编码网络和svm的csi室内定位方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114611396A (zh) * 2022-03-15 2022-06-10 国网安徽省电力有限公司蚌埠供电公司 一种基于大数据分析线损的方法
CN115169506A (zh) * 2022-09-06 2022-10-11 中铁第四勘察设计院集团有限公司 一种供变电关键设备故障快速诊断方法及系统
CN116542170A (zh) * 2023-04-10 2023-08-04 郑州大学 基于ssae和mlstm的排水管道淤积病害动态诊断方法
CN116340830A (zh) * 2023-05-19 2023-06-27 山东通维信息工程有限公司 一种基于深层记忆模型的高速公路机电系统故障分类方法
CN116340830B (zh) * 2023-05-19 2023-08-18 山东通维信息工程有限公司 一种基于深层记忆模型的高速公路机电系统故障分类方法

Also Published As

Publication number Publication date
CN113743537B (zh) 2024-07-09

Similar Documents

Publication Publication Date Title
CN113743537A (zh) 基于深层稀疏记忆模型的高速公路机电系统故障分类方法
JP7242101B2 (ja) 融合ニューラルネットワークモデルに基づくエンジンサージング故障の予測システム及び方法
CN113343633B (zh) 动力锂电池热失控故障分类及风险预测方法、系统
CN108614548B (zh) 一种基于多模态融合深度学习的智能故障诊断方法
CN108647716B (zh) 一种基于复合信息的光伏阵列故障诊断方法
CN106908736B (zh) 锂电池剩余寿命预测方法
CN112379269B (zh) 电池异常检测模型训练及其检测方法、装置
CN110829417B (zh) 基于lstm双结构模型的电力系统暂态稳定预测方法
CN101464964B (zh) 一种设备故障诊断的支持向量机模式识别方法
CN110879377B (zh) 基于深度信念网络的计量装置故障溯源方法
CN110646708B (zh) 基于双层长短时记忆网络的10kV单芯电缆早期状态识别方法
CN118311437B (zh) 一种动力电池剩余寿命预测方法
CN118051827A (zh) 基于深度学习的电网故障预测方法
Rizvi et al. Data-driven short-term voltage stability assessment using convolutional neural networks considering data anomalies and localization
CN117725491B (zh) 一种基于SCINet的电力系统故障状态检测分类方法
CN115481788B (zh) 相变储能系统负荷预测方法及系统
CN117154263A (zh) 锂电池梯次利用充放电系统及控制方法
CN116484299A (zh) 基于梯度提升树与多层感知机融合的充电桩故障诊断方法
CN114460481A (zh) 基于Bi-LSTM和注意力机制的储能电池热失控预警方法
KR20230043466A (ko) 다중 채널 충전 프로파일을 적용한 배터리 상태 추정 시스템 및 그 방법
CN115828161A (zh) 一种基于循环神经网络的汽车故障类型预测方法及装置
Chang et al. Fault diagnosis of lithium-ion batteries based on voltage dip behavior
CN114219118A (zh) 一种d-s证据理论的智能电表寿命预测方法及系统
Dhingra et al. A machine learning based fault identification framework for smart grid automation
CN110837932A (zh) 基于dbn-ga模型的太阳能集热系统热功率预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant