CN114818579B - 基于一维卷积长短期记忆网络的模拟电路故障诊断方法 - Google Patents

基于一维卷积长短期记忆网络的模拟电路故障诊断方法 Download PDF

Info

Publication number
CN114818579B
CN114818579B CN202210597440.4A CN202210597440A CN114818579B CN 114818579 B CN114818579 B CN 114818579B CN 202210597440 A CN202210597440 A CN 202210597440A CN 114818579 B CN114818579 B CN 114818579B
Authority
CN
China
Prior art keywords
network
term memory
short
dimensional convolution
long
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210597440.4A
Other languages
English (en)
Other versions
CN114818579A (zh
Inventor
郭庆
姜云威
陈怀之
徐翠锋
胡纯净
陈超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guilin University of Electronic Technology
Original Assignee
Guilin University of Electronic Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guilin University of Electronic Technology filed Critical Guilin University of Electronic Technology
Priority to CN202210597440.4A priority Critical patent/CN114818579B/zh
Publication of CN114818579A publication Critical patent/CN114818579A/zh
Application granted granted Critical
Publication of CN114818579B publication Critical patent/CN114818579B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/30Circuit design
    • G06F30/36Circuit design at the analogue level
    • G06F30/367Design verification, e.g. using simulation, simulation program with integrated circuit emphasis [SPICE], direct methods or relaxation methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/047Probabilistic or stochastic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Geometry (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Complex Calculations (AREA)

Abstract

本发明公开了一种基于一维卷积长短期记忆网络的模拟电路故障诊断方法。所述方法为:1)一维卷积长短期记忆(One‑Dimensional Convolutional Long Short‑Term Memory,1D‑CLSTM)神经网络利用一维卷积网络预先提取数据特征,利用Flatten层对预先提取的特征进行扁平化处理,利用长短期记忆网络获取数据时间信息并进一步提取数据隐藏特征,利用softmax分类器进行特征分类;2)利用小批量Adam梯度下降算法对一维卷积长短期记忆神经网络进行反向传播训练,调整网络的权重参数和偏置参数;3)通过诊断电路原理图进行仿真实验,采集响应信号数据,建立单故障数据集和双故障数据集,对提出的故障诊断方法分别进行训练和测试。本发明使用Adam算法优化的一维卷积长短期记忆神经网络诊断模型直接从原始数据中提取故障特征并完成特征分类,减少了故障诊断流程,提高了故障诊断的效率和准确率。

Description

基于一维卷积长短期记忆网络的模拟电路故障诊断方法
(一)技术领域
本发明涉及模拟电路故障诊断领域,尤其是模拟电路故障特征提取和分类,具体涉及基于一维卷积长短期记忆网络的模拟电路故障诊断方法。
(二)背景技术
模拟元件因具有容差特性导致电路容易发生软故障,给电子系统健康检测带来很大的挑战。因此,开发高效的模拟电路故障诊断技术成为电子系统健康检测的必然选择。传统的模拟电路故障诊断方法主要基于机器学习算法,该方法通常先使用预处理技术提取故障特征,再利用分类器完成特征分类。这些诊断方法有以下两个不足:(1)需要手动提取特征,导致模型训练时间长,(2)深层特征信息难以获得,导致故障诊断准确率低,以上不足大大增加了故障诊断的工作量,降低了故障诊断的效率。
综上所述,当前基于机器学习的故障诊断方法已经不能满足模拟电路故障诊断领域对高准确度和高效率诊断方法的实际需求。
(三)发明内容
本发明的目的是针对基于机器学习的故障诊断方法存在的不足,提供一种基于一维卷积长短期记忆网络的模拟电路故障诊断方法,克服了当前诊断方法严重依赖提取和故障诊断率低的不足,能够实现端到端的故障检测,提高了故障诊断效率,并且在单故障数据集和双故障数据集上都取得了较高的故障诊断准确率。
实现本发明目的具体方法,包括以下五个步骤:
步骤一:用两个卷积层、两个批归一化层、一个池化层、一个Flatten层、一个长短期记忆网络层和一个带有softmax激活函数的全连接层构建一维卷积长短期记忆神经网络;
步骤二:一维卷积长短期记忆神经网络利用卷积层、批归一化层、ReLU函数和池化层组成的一维卷积网络预先提取特征信息,利用Flatten层对预先提取的特征进行扁平化处理;
步骤三:利用长短期记忆网络获取数据时间信息并进一步提取数据隐藏特征,根据公式(1)得到遗忘门的输出值ft,根据公式(2)得到输入门的输出值it,根据公式(3)生成一个候选值向量根据公式(4)将遗忘门保留的信息和输入门所要更新的信息相加得到新的记忆状态Ct,根据公式(5)得到输出门的值Ot,根据公式(6)将输出门的值Ot和更新值Ct相乘得到当前长短期记忆单元的隐藏输出,以此计算整个长短期记忆网络的输出,进一步提取数据隐藏特征;然后利用softmax分类器进行特征分类。
ft=σ(Wf·[ht-1,xt]+bf) (1)
it=σ(Wi·[ht-1,xt]+bi) (2)
Ot=σ(Wo·[ht-1,xt]+bo) (5)
ht=Ot*tanh(Ct) (6)
步骤四:利用小批量Adam梯度优化算法对一维卷积长短期记忆神经网络进行梯度下降训练,根据公式(7)计算预测概率分布和真实概率分布yi的相似程度得到交叉熵损失函数θ,计算损失函数θ的导数得/>根据链式求导准则,利用Adam梯度下降算法逐层计算一维卷积长短期记忆网络参数的更新值,根据公式(8)计算网络权重的更新值,根据公式(9)计算网络偏置的更新值,更新每一层的网络参数;完成迭代训练后,保存优化后的网络权重参数w和偏置参数b。
wt是时间步长为t时的优化参数,bt是时间步长为t时的优化参数,η表示初始学习率,m表示校正后的一阶矩衰减系数,v表示校正后的二阶矩衰减系数,ε表示一个非常小的值,避免除数为零。
步骤五:使用PSpice软件对Sallen-Key带通滤波电路进行仿真实验,采集每一种故障状态的原始数据,每一个数据保留1024个采样点,即每个样本的维数是1024维,分别建立单故障数据集和双故障数据集。按比例对两类数据集进行划分,得到对应的训练集和测试集,用于神经网络的训练与测试。绘制训练集的准确度曲线、损失函数曲线和测试集的混淆矩阵,作为网络模型的评价指标。
本发明提供的一种基于一维卷积长短期记忆网络的模拟电路故障诊断方法,一维卷积神经网路利用卷积层、批归一化层、ReLU函数和池化层组成的一维卷积网络预先提取特征信息,利用Flatten层对预先提取的特征进行扁平化处理,利用长短期记忆网络获取数据时间信息并进一步提取数据隐藏特征,利用softmax分类器进行特征分类。然后利用小批量Adam梯度下降算法对一维卷积长短期记忆神经网络进行反向传播训练,调整网络的权重参数和偏置参数。本方法克服了当前诊断方法严重依赖提取和故障诊断率低的不足,能够实现端到端的故障检测,提高了故障诊断效率,并且在单故障数据集和双故障数据集上都取得了较高的故障诊断准确率。
(四)附图说明
图1为实施例中一维卷积长短期记忆神经网络的模型示意图;
图2为实施例中基于一维卷积长短期记忆神经网络的故障诊断流程图;
图3为实施例中Sallen-Key带通滤波电路原理图;
图4为实施例中Sallen-Key电路单故障类型及其对应标签的示意图;
图5为实施例中电路C1↑状态的瞬态蒙特卡洛仿真曲线图;
图6为实施例中单故障训练集的准确度和损失函数曲线图;
图7为实施例中单故障测试集诊断结果的混淆矩阵图;
图8为实施例中Sallen-Key电路双故障类型及其对应标签的示意图;
图9为实施例中电路R2↑C1↑状态的瞬态蒙特卡洛仿真曲线图;
图10为实施例中双故障训练集的准确度和损失函数曲线图;
图11为实施例中双故障测试集诊断结果的混淆矩阵图;
(五)具体实施方式
下为使本发明的目的、技术方案更加清楚明确,下面将结合附图和实施例对本发明的具体实施方式进一步说明,但不是对本发明的限定。
实施例:
如图1所示,本发明方法使用的一维卷积长短期记忆神经网络由两个卷积层、两个批归一化层、一个池化层、一个Flatten层、一个长短期记忆网络层和一个带有softmax激活函数的全连接层组成;。
如图2所示,本发明方法的诊断流程步骤如下:
步骤一:如图3所示,Sallen-Key带通滤波电路作为诊断电路;
步骤二:对诊断电路设置故障,诊断电路单故障类型及其对应标签如图4所示,电路中的电阻和电容的容差分别设置为5%和10%,假定元件参数值偏离标称值±50%时发生软故障,其中↑和↓分别表示元件参数高于和低于标称值的50%。灵敏度分析确定C1、C2、R2和R3为灵敏元件。
步骤三:9种单故障类型及其对应标签如图4所示,对每一种单故障状态进行300次瞬态蒙特卡洛模拟,C1↑状态的300次仿真曲线如图5所示,采集每一种单故障状态的原始数据,每一个数据保留1024个采样点,即每个样本的维数是1024维。9种单故障状态共有2700个数据样本,选取其中2160个数据样本作为训练集,另外540个数据样本作为测试集,对单故障训练集和测试集分别进行标准化处理。
步骤四:将标准化处理后的单故障训练集输入到本方法使用的一维卷积长短期记忆神经网络,利用小批量Adam梯度算法完成神经网络的梯度下降训练。单故障训练集的准确度和损失函数曲线如图6所示,迭代训练126次时损失函数趋于收敛,单故障训练集的拟合准确度为100%。
步骤五:将单故障测试集输入到步骤四中参数训练好的神经网络模型,得到单故障状态的诊断结果,诊断结果的混淆矩阵如图7所示,单故障平均分类准确率为99.63%。
步骤六:24种单故障类型及其对应标签如图8所示,对每一种双故障状态进行300次瞬态蒙特卡洛模拟,R2↑C1↑状态的300次仿真曲线如图9所示,采集每一种单故障状态的原始数据,每一个数据保留1024个采样点,即每个样本的维数是1024维。24种双故障状态共有7200个数据样本,选取其中5040个数据样本作为训练集,另外2160个数据样本作为测试集,对双故障训练集和测试集分别进行标准化处理。
步骤七:将标准化处理后的双故障训练集数据输入到本方法使用的一维卷积长短期记忆神经网络,利用小批量Adam梯度优化算法完成神经网络的梯度下降训练。双故障训练集的准确度和损失函数曲线如图10所示,迭代训练370次时损失函数趋于收敛,双故障训练集的拟合准确度为99.56%。
步骤八:将双故障测试集输入到步骤四中参数训练好的神经网络模型,得到双故障状态的诊断结果,诊断结果的混淆矩阵如图11所示,双故障平均分类准确率为97.36%。
以上公开的本发明的优选实施例,只是帮助阐述本发明,不限制本发明仅为所述的具体实施方式。显然,根据本说明书的内容,可做很多的修改和变化。本说明书选取并具体描述这些实例,是为了更好地解释本发明的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本发明。

Claims (1)

1.基于一维卷积长短期记忆网络的模拟电路故障诊断方法,其特征在于,该方法包括以下步骤:
步骤一:用两个卷积层、两个批归一化层、一个池化层、一个Flatten层、一个长短期记忆网络层和一个带有softmax激活函数的全连接层构建一维卷积长短期记忆神经网络;
步骤二:一维卷积长短期记忆神经网络利用卷积层、批归一化层、ReLU函数和池化层组成的一维卷积网络预先提取特征信息,利用Flatten层对预先提取的特征进行扁平化处理;
步骤三:利用长短期记忆网络获取数据时间信息并进一步提取数据隐藏特征,根据公式(1)得到遗忘门的输出值ft,根据公式(2)得到输入门的输出值it,根据公式(3)生成一个候选值向量根据公式(4)将遗忘门保留的信息和输入门所要更新的信息相加得到新的记忆状态Ct,根据公式(5)得到输出门的值Ot,根据公式(6)将输出门的值Ot和更新值Ct相乘得到当前长短期记忆单元的隐藏输出,以此计算整个长短期记忆网络的输出,进一步提取数据隐藏特征;然后利用softmax分类器进行特征分类;
ft=σ(Wf·[ht-1,xt]+bf) (1)
it=σ(Wi·[ht-1,xt]+bi) (2)
Ot=σ(Wo·[ht-1,xt]+bo) (5)
ht=Ot*tanh(Ct) (6)
ht-1表示上一个时间步隐藏层的输出,xt表示当前隐藏单元的输入,W表示权值参数,b表示偏置参数;
步骤四:利用小批量Adam梯度优化算法对一维卷积长短期记忆神经网络进行反向传播训练,根据公式(7)计算预测概率分布和真实概率分布yi的相似程度得到交叉熵损失函数θ,计算损失函数θ的导数得/>根据链式求导准则,利用Adam梯度下降算法逐层计算一维卷积长短期记忆网络参数的更新值,根据公式(8)计算网络权重的更新值,根据公式(9)计算网络偏置的更新值,更新每一层的网络参数;完成迭代训练后,保存优化后的网络权重参数w和偏置参数b;
wt是时间步长为t时的优化参数,bt是时间步长为t时的优化参数,η表示初始学习率,m表示校正后的一阶矩衰减系数,v表示校正后的二阶矩衰减系数,ε表示一个非常小的值,避免除数为零;
步骤五:使用PSpice软件对Sallen-Key带通滤波电路进行仿真实验,采集每一种双故障状态的原始数据,每一个数据保留1024个采样点,即每个样本的维数是1024维,分别建立单故障数据集和双故障数据集;按比例对两类数据集进行划分,得到对应的训练集和测试集,用于神经网络的训练与测试;绘制训练集的准确度曲线、损失函数曲线和测试集的混淆矩阵,作为网络模型的评价指标。
CN202210597440.4A 2022-05-30 2022-05-30 基于一维卷积长短期记忆网络的模拟电路故障诊断方法 Active CN114818579B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210597440.4A CN114818579B (zh) 2022-05-30 2022-05-30 基于一维卷积长短期记忆网络的模拟电路故障诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210597440.4A CN114818579B (zh) 2022-05-30 2022-05-30 基于一维卷积长短期记忆网络的模拟电路故障诊断方法

Publications (2)

Publication Number Publication Date
CN114818579A CN114818579A (zh) 2022-07-29
CN114818579B true CN114818579B (zh) 2024-03-26

Family

ID=82519182

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210597440.4A Active CN114818579B (zh) 2022-05-30 2022-05-30 基于一维卷积长短期记忆网络的模拟电路故障诊断方法

Country Status (1)

Country Link
CN (1) CN114818579B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115291091A (zh) * 2022-08-17 2022-11-04 哈尔滨工业大学 一种基于图神经网络的模拟电路故障诊断方法
CN115438694A (zh) * 2022-08-18 2022-12-06 兰州理工大学 双向小波卷积长短时记忆网络风力发电机故障诊断方法
CN115859090A (zh) * 2023-02-23 2023-03-28 华东交通大学 基于1dcnn-lstm的道岔故障诊断方法及系统
CN118017503B (zh) * 2024-04-08 2024-06-25 吉林大学 一种用户用电负荷数据预测方法、系统、终端及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109931678A (zh) * 2019-03-13 2019-06-25 中国计量大学 基于深度学习lstm的空调故障诊断方法
WO2020244134A1 (zh) * 2019-06-05 2020-12-10 华南理工大学 一种基于多任务特征共享神经网络的智能故障诊断方法
CN112949823A (zh) * 2021-02-05 2021-06-11 杭州电子科技大学 基于一维多尺度深度卷积神经网络的工业过程性能诊断方法
CN113191215A (zh) * 2021-04-12 2021-07-30 西安理工大学 融合注意力机制与孪生网络结构的滚动轴承故障诊断方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10740654B2 (en) * 2018-01-22 2020-08-11 Qualcomm Incorporated Failure detection for a neural network object tracker

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109931678A (zh) * 2019-03-13 2019-06-25 中国计量大学 基于深度学习lstm的空调故障诊断方法
WO2020244134A1 (zh) * 2019-06-05 2020-12-10 华南理工大学 一种基于多任务特征共享神经网络的智能故障诊断方法
CN112949823A (zh) * 2021-02-05 2021-06-11 杭州电子科技大学 基于一维多尺度深度卷积神经网络的工业过程性能诊断方法
CN113191215A (zh) * 2021-04-12 2021-07-30 西安理工大学 融合注意力机制与孪生网络结构的滚动轴承故障诊断方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于一维卷积神经网络和Soft-Max分类器的风电机组行星齿轮箱故障检测;李东东;王浩;杨帆;郑小霞;周文磊;邹胜华;;电机与控制应用;20180610(06);全文 *
基于双层长短时记忆网络的齿轮故障诊断方法;王维锋;邱雪欢;孙剑桥;张惠民;;装甲兵工程学院学报;20180415(02);全文 *

Also Published As

Publication number Publication date
CN114818579A (zh) 2022-07-29

Similar Documents

Publication Publication Date Title
CN114818579B (zh) 基于一维卷积长短期记忆网络的模拟电路故障诊断方法
CN114092832B (zh) 一种基于并联混合卷积网络的高分辨率遥感影像分类方法
CN110084221B (zh) 一种基于深度学习的带中继监督的序列化人脸关键点检测方法
WO2017024691A1 (zh) 一种模拟电路故障模式分类方法
CN107562784A (zh) 基于ResLCNN模型的短文本分类方法
CN111401599B (zh) 一种基于相似性搜索和lstm神经网络的水位预测方法
CN110085327A (zh) 基于注意力机制的多通道lstm神经网络流感疫情预测方法
CN113469119B (zh) 基于视觉转换器和图卷积网络的宫颈细胞图像分类方法
CN112508105A (zh) 一种采油机故障检测与检索方法
CN113673346A (zh) 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法
CN113378796A (zh) 一种基于上下文建模的宫颈细胞全切片分类方法
CN112766283B (zh) 一种基于多尺度卷积网络的两相流流型识别方法
CN110866631A (zh) 基于集成的门递归单元神经网络gru来预测大气污染情况的方法
CN110289987B (zh) 基于表征学习的多智能体系统网络抗攻击能力评估方法
CN111239137A (zh) 基于迁移学习与自适应深度卷积神经网络的谷物质量检测方法
CN113642255A (zh) 基于多尺度卷积循环神经网络的光伏发电功率预测方法
CN114943859A (zh) 面向小样本图像分类的任务相关度量学习方法及装置
CN112861443B (zh) 一种融入先验知识的深度学习故障诊断方法
CN117171681B (zh) 非平衡小样本下的无人机舵面智能故障诊断方法及装置
CN114357372A (zh) 一种基于多传感器数据驱动的飞机故障诊断模型生成方法
CN114295967A (zh) 一种基于迁移神经网络的模拟电路故障诊断方法
CN113988415A (zh) 一种中长期电力负荷预测方法
CN110110426A (zh) 一种开关电源滤波电容失效检测方法
CN117352088A (zh) 一种基于卷积神经网络的空间污染物分布的预测方法
CN117578441A (zh) 基于神经网络提高电网负荷预测精度的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant