CN116401596B - 基于深度指数激励网络的早期故障诊断方法 - Google Patents

基于深度指数激励网络的早期故障诊断方法 Download PDF

Info

Publication number
CN116401596B
CN116401596B CN202310671391.9A CN202310671391A CN116401596B CN 116401596 B CN116401596 B CN 116401596B CN 202310671391 A CN202310671391 A CN 202310671391A CN 116401596 B CN116401596 B CN 116401596B
Authority
CN
China
Prior art keywords
excitation
exponential
index
exp
tanh
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310671391.9A
Other languages
English (en)
Other versions
CN116401596A (zh
Inventor
钟百鸿
赵明航
钟诗胜
林琳
张永健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology Weihai
Original Assignee
Harbin Institute of Technology Weihai
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology Weihai filed Critical Harbin Institute of Technology Weihai
Priority to CN202310671391.9A priority Critical patent/CN116401596B/zh
Publication of CN116401596A publication Critical patent/CN116401596A/zh
Application granted granted Critical
Publication of CN116401596B publication Critical patent/CN116401596B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/10Pre-processing; Data cleansing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/082Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/0985Hyperparameter optimisation; Meta-learning; Learning-to-learn
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04SSYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
    • Y04S10/52Outage or fault management, e.g. fault detection or location

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

本申请属于故障诊断技术领域,具体为一种基于深度指数激励网络的早期故障诊断方法,包括以下步骤:开始;数据预处理;微弱故障信息自适应放大;网络权重优化;早期故障诊断;结束。本申请解决早期故障特征微弱、易被噪声淹没造成诊断精度不高的问题,通过提供更强的注意力关注重要的信息来提高早期故障诊断准确率;与传统注意力机制相比,优势体现在两个方面,一是提供更大的权重,二是提供更宽的权重取值范围,有利于放大重要的信息。同时,该方法可以端到端地进行训练,并且指数激励注意力权重能够自适应设置;不仅可用于机械设备故障诊断领域,还可用于其它可能含噪声的模式识别任务。

Description

基于深度指数激励网络的早期故障诊断方法
技术领域
本申请属于数据检测与故障诊断技术领域,更具体地说,是涉及一种基于深度指数激励网络的早期故障诊断方法。
背景技术
对于结构复杂的高端装备,早期故障诊断是一项挑战性的任务。机械设备在使用过程中,都会有不可避免的自然损耗,如磨损、变形、裂纹或腐蚀等。这些损耗通常会导致机械设备性能逐渐衰退,不可避免引发机械设备故障。在故障萌芽阶段,也就是早期故障发生阶段,通常不会影响机械设备的正常使用,但是会对机械设备性能产生影响;若不能被及时发现并进行处理,随着时间的推移,逐渐演变为严重故障,将造成停机甚至是严重的安全事故。因此,及时诊断出早期故障是抑制故障恶化并保障机械设备安全可靠运行的关键。
机械设备状态监测数据蕴含着大量反映机械设备运行健康状态的信息。通过对机械设备监测数据进行挖掘分析,能够及时把握机械设备健康状态。已经有不少的学者通过监测数据实现机械设备的故障诊断任务。在这些研究工作中,大部分是从严重故障的角度出发对机械设备故障诊断策略进行研究。然而,相比于那些严重的故障诊断,早期故障诊断难度更大,主要存在以下几方面挑战:1)早期故障信号与正常状态下信号的特征值大小较为接近,即差别不大,难以区分,2)强烈的环境噪声可能会淹没早期故障征兆,3)由于故障部件到传感器安装位置之间的传递路径可能较远,故障信号在传递至传感器安装位置时已经衰减得非常微弱。因此,早期故障诊断是故障诊断领域中颇具有挑战性的任务,也是主流的研究热点之一。
近年来,基于机器学习的方法在早期故障诊断上取得了一些进展。经典的浅层机器学习方法,如支持向量机(SVM),主成分分析(PCA)等,已被用于早期故障诊断。但是,在这类浅层机器学习方法中,诊断性能受特征工程影响较大。相反,深度学习方法是一种能够从输入数据中自动学习特征的方法,这不需要事先对输入数据进行特征工程。然而,由于早期故障特征不明显,而且在噪声干扰下,传统深度学习方法可能检测不出早期故障微弱特征。换言之,输出层获得的高维特征判别性不足,难以对早期故障进行准确分类。
综述所述,造成早期故障诊断精度不高的原因主要归结为两方面:一是早期故障特征微弱,传统基于机器学习的早期故障诊断方法难以捕抓早期故障判别性特征;二是噪声的存在,可能会将早期故障微弱特征淹没。目前,多采用注意力机制为深度学习方法,为有效提取早期故障微弱特征提供了一种可行的解决方案。注意力机制能够从输入信息中忽略无关信息而关注重点信息。然而,传统的注意力方法通常使用Sigmoid函数来获得权重,并且权重被缩放到(0,1)的范围。在实践中,在注意力机制注意到弱故障信息后,期望尽可能快、尽可能大地放大它,以便于挖掘与早期故障相关的信息。因此,有必要开发一种新的注意力范式,它可以更多地关注早期的弱故障信息,以提高诊断性能。
发明内容
为实现上述目的,本申请采用的技术方案是:提供一种基于深度指数激励网络的早期故障诊断方法,包括以下步骤:
步骤一,开始;
步骤二,数据预处理;获取机械设备运行状态数据并划分数据集,将数据集分为训练集和测试集,训练集用于训练模型,测试集用于对网络性能进行评估;其中,训练集包含若干训练样本,每一训练样本包含若干特征值及一个标签值;
步骤三,微弱故障信息自适应放大;将训练样本输入到深度指数激励网络中,经过卷积操作,获得通道特征图,利用深度指数激励网络中的指数激励模块对通道特征图进行非线性映射,以自适应放大与早期故障相关的信息,然后在训练集上对早期故障进行预测,得到预测值;
步骤四,网络权重优化;首先,根据预测值与训练集每个样本对应的标签值计算交叉熵损失;然后,使用随机梯度下降法最小化交叉熵损失来优化网络权重参数;最后,判断训练判迭代次数是否达到设定的迭代次数;若是,得到优化后的深度指数激励网络;若否,则返回步骤三;
步骤五,早期故障诊断;将步骤二中测试集的数据输入优化后的深度指数激励网络,获得诊断结果,用于机械设备的早期故障诊断任务;
步骤六,结束。
可选地,步骤三中,所述指数激励模块是将指数函数嵌入到注意力机制中,设定、/>分别表示第/>个指数激励模块的输入特征图和第/>个指数激励模块的输出特征图;
所述指数激励模块的处理过程如下:经过卷积操作得到/>;将/>经过全局平均池化层(GAP)操作获得/>,如公式(1)所示:
(1)
式中,
分别表示/>的通道数、高度和宽度;/>表示/>的第/>通道特征图;/>是通过全局平均池化层(GAP)操作获得的通道描述统计量;/>是/>的第/>维通道描述统计量,/>与/>相对应;/>分别表示特征图的行号和列号。
可选地,采用两层带有激活函数的全连接层(FC)对通道之间的依赖性进行学习,学习过程如公式(2)所示:
(2)
式中,表示的是两层全连接层学习到的通道依赖关系;/>表示线性整流激活函数层激活函数;/>分别表示第一个全连接层的权重矩阵、第二个全连接层的权重矩阵,/>分别表示第一个全连接层的偏置项、第二个全连接层的偏置项;第二个全连接层中,神经元的个数等于/>的通道数/>,获得与通道数量相等的权重个数。
可选地,将两层FC学习到的通道依赖关系输入到缩放器Scaler中获得一组通道权重尺度值/>,如公式(3)所示:
(3)
式中,表示采用缩放器Scaler处理后获得的通道权重尺度值;
所述缩放器Scaler设置有3种,分别为Tanh、|Tanh|和Sigmoid。
可选地,采用以为底的指数函数exp对通道权重尺度值/>进行激励,获得指数激励权重值/>,如公式(4)所示:
(4)
其中,所述指数函数exp的表达式如公式(5)所示:
(5)
式中,为指数函数的输出特征,/>为指数函数的输入特征;/>且/>
相对于指数函数的输入特征/>的梯度计算如公式(51)所示:
(51)
,/>为数学常数;
将所述的3种缩放器Scaler,即Tanh、|Tanh|和Sigmoid,分别与指数函数组合,形成三种组合指数激励模块,分别为:
Tanh + exp组合指数激励模块;
|Tanh| +exp组合指数激励模块,|Tanh| 表示对Tanh获得结果进行绝对值处理;
Sigmoid + exp组合指数激励模块。
可选地,将与/>进行乘法操作,获得了指数激励单元的输出特征图/>,如公式(9)所示:
(9)
式中,、/>分别表示指数激励单元的输入特征图、指数激励单元的输出特征图;/>表示采用指数函数exp对/>激励后得到的指数激励权重值。
可选地,在每个组合指数激励模块中,其指数激励模块的输出特征图均可由公式(10)计算获得:
(10)
将经过多个指数激励模块处理后获得的指数激励模块的输出特征图依次输入到全局平均池化层、全连接层进行处理,获得预测值。
可选地,在Tanh + exp组合指数激励模块中,指数激励权重值通过公式(6)计算获得:
(6)
在|Tanh| + exp组合指数激励模块中,指数激励权重值通过公式(7)计算获得:
(7)
在Sigmoid + exp组合指数激励模块中,指数激励权重值通过公式(8)计算获得:
(8)。
可选地,在Tanh + exp组合指数激励模块中,指数激励权重取值范围为,权重取值区间宽度为/>
在|Tanh| +exp组合指数激励模块与Sigmoid + exp组合指数激励模块中,指数激励权重取值范围均为,权重取值区间宽度均为/>
本申请提供一种基于深度指数激励网络的早期故障诊断方法,用于早期故障诊断,解决早期故障特征微弱、易被噪声淹没造成诊断精度不高的问题,本申请的深度指数激励网络(DEEN)提出三种指数激励组合,通过提供更强的注意力关注重要的信息来提高早期故障诊断准确率。与传统注意力机制相比,优势体现在两个方面,一是提供更大的权重,二是提供更宽的权重取值范围,有利于放大重要的信息。同时,该方法可以端到端地进行训练,并且指数激励注意力权重能够自适应设置。通过与传统注意力机制的实验比较,验证了所开发的DEEN在早期故障诊断的适用性。在船舶主机故障数据集上的大量实验结果中,就平均测试准确率而言,在所考虑的四种方法中,DEEN(|Tanh| +exp)在SNR=60dB时获得了99.06%的最高诊断准确率;并且,与以SENET为代表的传统注意力机制相比,DEEN (Tanh +exp)在SNR=15 dB时获得超过2%的诊断性能提升。此外,本申请基于深度指数激励网络的早期故障诊断方法,不仅可用于机械设备故障诊断领域,还可用于其它可能含噪声的模式识别任务,例如图像处理、自动驾驶等领域均可。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请基于深度指数激励网络的早期故障诊断方法的流程图;
图2为本申请深度指数激励网络的整体结构示意图;
图3为本申请指数激励模块的示意图;
图4为本申请不同注意力方法下的权重取值范围;
图5为SENET在SNR = 60 dB数据集上的混淆矩阵;
图6为DEEN (Tanh + exp)在SNR = 60 dB数据集上的混淆矩阵;
图7为DEEN (|Tanh| +exp)在SNR = 60 dB数据集上的混淆矩阵;
图8为DEEN (Sigmoid + exp)在SNR = 60dB数据集上的混淆矩阵;
图9为SENET在SNR = 30 dB数据集上的混淆矩阵;
图10为DEEN (Tanh + exp)在SNR = 30 dB数据集上的混淆矩阵;
图11为DEEN (|Tanh| +exp)在SNR = 30 dB数据集上的混淆矩阵;
图12为DEEN (Sigmoid + exp)在SNR =30dB数据集上的混淆矩阵;
图13为SENET在SNR = 15 dB数据集上的混淆矩阵;
图14为DEEN (Tanh + exp)在SNR = 15 dB数据集上的混淆矩阵;
图15为DEEN (|Tanh| +exp)在SNR = 15 dB数据集上的混淆矩阵;
图16为DEEN (Sigmoid + exp)在SNR =15dB数据集上的混淆矩阵;
图17为SENET在SNR = 0 dB数据集上的混淆矩阵;
图18为DEEN (Tanh + exp)在SNR = 0 dB数据集上的混淆矩阵;
图19为DEEN (|Tanh| +exp)在SNR = 0 dB数据集上的混淆矩阵;
图20为DEEN (Sigmoid + exp)在SNR = 0dB数据集上的混淆矩阵;
图21为SENET在SNR = 60 dB数据集上的高维特征可视化结果;
图22为DEEN (Tanh + exp)在SNR = 60 dB数据集上的高维特征可视化结果;
图23为DEEN (|Tanh| +exp)在SNR = 60 dB数据集上的高维特征可视化结果;
图24为DEEN (Sigmoid + exp)在SNR = 60 dB数据集上的高维特征可视化结果;
图25为SENET在SNR = 15 dB数据集上的高维特征可视化结果;
图26为DEEN (Tanh + exp)在SNR = 15 dB数据集上的高维特征可视化结果;
图27为DEEN (|Tanh| +exp)在SNR = 15 dB数据集上的高维特征可视化结果;
图28为DEEN (Sigmoid + exp)在SNR = 15 dB数据集上的高维特征可视化结果;
图29为传统注意力机制的结构示意图。
具体实施方式
为了使本申请所要解决的技术问题、技术方案及有益效果更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
现对本申请实施例提供的基于深度指数激励网络的早期故障诊断方法进行说明。参见图1,基于深度指数激励网络的早期故障诊断方法,包括以下步骤:
步骤一,开始。
步骤二,数据预处理。
步骤三,微弱故障信息自适应放大。
步骤四,网络权重优化。
步骤五,早期故障诊断。
步骤六,结束。
其中:
步骤二中,数据预处理的过程如下:获取机械设备运行状态数据并划分数据集,将数据集分为训练集和测试集,训练集用于训练模型,测试集用于对网络性能进行评估。具体的,从机械设备传感器中获取运行状态监测数据,并将运行状态监测数据按照4:1的比例随机划分为训练集和测试集。其中,训练集包含若干训练样本,每一训练样本包含若干特征值及一个标签值。
步骤三中,微弱故障信息自适应放大的方法如下:利用深度指数激励网络(DEEN)中的多个指数激励模块(EEB)自适应放大与早期故障相关的信息,然后在训练集上对早期故障进行预测,得到预测值。具体的,参见图2和图3,利用深度指数激励网络(DEEN)中堆叠的多个指数激励模块(EEB)对训练集进行非线性映射,以自适应放大与早期故障相关的信息。
具体地,将训练样本(即特征值)输入到深度指数激励网络(DEEN)中,经过卷积操作(Conv)后,获得多个通道特征图,每个通道特征图包含不同重要程度的特征信息;为了建立通道特征图之间的联系,采用多个指数激励模块(EEB)对通道特征图进行非线性映射,以自适应放大与早期故障相关的信息。
所述指数激励模块是将指数函数嵌入到注意力机制中,用于自适应放大权重值和取值范围来放大早期故障信息,参见图3。
参见图2、图3和图29,以第个指数激励模块进行说明。
设定、/>分别表示第/>个指数激励模块的输入特征图和第/>个指数激励模块的输出特征图;/>分别表示/>的通道数、高度和宽度;/>、/>分别表示指数激励单元的输入特征图、指数激励单元的输出特征图;/>表示的是两层全连接层(FC)学习到的通道依赖关系;/>表示采用缩放器Scaler处理后获得的通道权重尺度值;/>表示采用指数函数exp对/>激励后得到的指数激励权重值;GAP、BN、FC、ReLU分别表示全局平均池化层(Global Average Pooling)、批标准化层(Batch Normalization)、全连接层(FullyConnected)、线性整流激活函数层(Rectified Linear Units);Sigmoid表示Sigmoid激活函数层。
所述指数激励模块的处理过程如下:
第一步,经过卷积操作得到/>,其中卷积操作采用现有技术即可,此处不再赘述。
第二步,将经过GAP操作获得/>,如公式(1)所示:
(1)
式中,
分别表示/>的通道数、高度和宽度;/>表示/>的第/>通道特征图;/>是通过GAP操作获得的通道描述统计量;/>是/>的第/>维通道描述统计量,/>与/>相对应;分别表示特征图的行号和列号。
第三步,为了有效捕捉通道之间的联系,采用两层带有激活函数的FC对通道之间的依赖性进行学习,学习过程如公式(2)所示:
(2)
式中,表示的是两层全连接层学习到的通道依赖关系;/>表示ReLU激活函数;分别表示第一个全连接层的权重矩阵、第二个全连接层的权重矩阵,/>分别表示第一个全连接层的偏置项、第二个全连接层的偏置项;第二个全连接层中,神经元的个数等于/>的通道数/>,获得与通道数量相等的权重个数。
第四步,将两层FC学习到的通道依赖关系输入到缩放器Scaler中获得一组通道权重尺度值/>,如公式(3)所示:
(3)
所述缩放器Scaler设置有3种,分别为Tanh、|Tanh|和Sigmoid。
第五步,采用以为底的指数函数exp对通道权重尺度值/>进行激励,获得指数激励权重值/>,如公式(4)所示:
(4)
其中,所述指数函数exp的表达式如公式(5)所示:
(5)
式中,为指数函数的输出特征,/>为指数函数的输入特征;/>且/>
相对于指数函数的输入特征/>的梯度计算如公式(51)所示:
(51)
分析可得,指数函数exp是可微的,同时,指数函数exp具有良好的单调性,当指数的底数大于1时,指数函数exp在定义域内是单调递增的。本申请采用指数函数和深度学习方法结合,来放大早期微弱故障信息,取,/>为数学常数,也称为欧拉数。
将所述的3种缩放器Scaler,即Tanh、|Tanh|和Sigmoid,分别与指数函数(即exp)组合,形成三种组合指数激励模块,分别为:
Tanh + exp组合指数激励模块;
|Tanh| +exp组合指数激励模块,|Tanh| 表示对Tanh获得结果进行绝对值处理;
Sigmoid + exp组合指数激励模块。
进一步地,在Tanh + exp组合指数激励模块中,指数激励权重值通过公式(6)计算获得:
(6)
在|Tanh| + exp组合指数激励模块中,指数激励权重值通过公式(7)计算获得:
(7)
在Sigmoid + exp组合指数激励模块中,指数激励权重值通过公式(8)计算获得:
(8)。
参见图4,出了不同注意力方法对应的权重取值范围。其中,图4横坐标为:注意力方法;Sigmoid对应的是传统注意力机制获得的权重,其余三种则是通过上述三种组合指数激励模块获得的权重。
通过图4可以得出,传统注意力机制采用Sigmoid函数转换获得的权重值在(0,1)之间,区间宽度为1-0 = 1。而在本申请中,在Tanh + exp组合指数激励模块中,指数激励权重取值范围为,取值区间宽度为/>;在|Tanh| +exp组合指数激励模块与Sigmoid + exp组合指数激励模块中,指数激励权重取值范围均为/>,取值区间宽度均为
在上述三种组合指数激励模块中,通过自适应放大通道权重值和取值范围来对重要的信息进行显著放大,从而达到从输入信息中增强重要信息的目的。
第六步,将与/>进行乘法操作,获得了指数激励单元的输出特征图/>,如公式(9)所示:
(9)
第七步,本申请中,指数激励模块还使用了恒等映射,使网络训练变得更加容易;同时,采用恒等连接也更好地保留原始输入信号中有用的信息。在每个组合指数激励模块中,其指数激励模块的输出特征图均可由公式(10)计算获得:
(10)
将经过多个指数激励模块(EEB)处理后获得的指数激励模块的输出特征图依次输入到全局平均池化层(GAP)、全连接层(FC)进行处理,获得预测值。
在传统注意力机制中,参见图29,采用两层带有激活函数的FC对通道之间的依赖性进行学习后,采用Sigmoid函数将FC输出特征图转换到(0,1)之间,以便于获得各个通道上的通道权重尺度值,计算转换过程如公式(11)所示:
(11)
利用对/>进行重新调整计算,其计算过程如公式(12)所示:
(12)
其中,和/>分别表示注意力机制的输入特征图、注意力机制输出特征图,/>和/>均包含/>个通道;
全局平均池化层、全连接层、ReLU分别表示全局平均池化层(Global AveragePooling)、全连接层(Fully Connected)、线性整流激活函数层(Rectified LinearUnits);Sigmoid表示Sigmoid激活函数层。
传统注意力机制中,Sigmoid函数被用来作为缩放器Scaler来转换通道依赖关系以获取一组通道权重尺度值/>,即权重值被转换到(0,1)区间,用来区分不同通道对应特征的重要程度;/>直接与/>相乘,没有进行指数放大。
而本申请与传统注意力机制(参见图29)相比,指数激励模块的不同之处在于:(1)获得的权重值更大。指数激励获得的权重取值最大约为,而传统注意力机制获得的权重取值最大约为1,所以将指数函数被嵌入深度结构中作为一种激励,具有进一步放大重要信息的潜能。(2)获得的权重取值范围更宽。指数激励获得的权重取值范围最大为可为/>,而传统注意力机制获得的权重取值范围为(0,1)。本申请中,微弱故障信息的特征为:1)早期故障信号与正常状态下信号的特征值大小较为接近,即差别不大,难以区分,2)强烈的环境噪声可能会淹没早期故障征兆,3)由于故障部件到传感器安装位置之间的传递路径可能较远,故障信号在传递至传感器安装位置时已经衰减得非常微弱。早期的微弱故障信息经过步骤三中的指数激励模块能够尽可能大地放大重要信息来提高早期故障诊断性能。
参见图1,步骤四中,网络权重优化的过程如下:首先,根据预测值与训练集每个样本对应的标签值计算交叉熵损失;然后,使用随机梯度下降法最小化交叉熵损失来优化网络权重参数;最后,判断训练判迭代次数是否达到设定的迭代次数;若是,得到优化后的深度指数激励网络;若否,则返回步骤三。
步骤五中,早期故障诊断的过程如下:将步骤二中测试集的数据输入优化后的深度指数激励网络(DEEN),获得诊断结果,用于机械设备的早期故障诊断任务。
本申请的基于深度指数激励网络的早期故障诊断方法,是在PyTorch 1.8上实现的,所有实验均在一台配置为Intel(R) Core(TM) i9-9900K CPU @ 3.60GHz的电脑上进行。
在具体应用中,首先进行数据收集:
为验证本申请基于深度指数激励网络的早期故障诊断方法的有效性,在船舶主机故障数据集上进行实验验证。在该数据集中,所有数据均由基于零维热力学模型的故障仿真模型生成,并且通过厂商数据验证了仿真模型的有效性。该数据集的特征向量包括气缸压力曲线的均值与最大值,以及对扭振信号进行频谱分析得到的频率、振幅与相位。本申请中使用了60维特征向量作为输入。
本申请的早期故障可通过故障严重程度来划分。故障严重程度通过故障参数变化的百分比(即故障严重程度百分比S(%))进行定义,按照如下规则:1≤S≤10(S1)、10<S≤20(S2)、20<S≤30(S3)和30<S≤50(S4)。其中,S1表示早期故障征兆,S4表示故障最为严重时的表现。从S1到S4,为早期故障逐步演变为严重故障的过程。数据集是在电机恒定旋转频率下采集的,并且被添加了不同程度的高斯白噪声,信噪比分别为60dB、30dB、15dB和0 dB。在每种信噪比条件下,均包含3500个样本,包括4种健康状态,分别为正常状态(无故障)、进气歧管压力故障(降低)、气缸故障(压缩比降低)和喷射燃油质量故障(喷入气缸的燃油量减少),如下表1所示。
表1 :健康状态类型及其对应的样本数量
然后,进行对比实验设置,如下:
采用四种方法进行对比实验,分别为:SENET,DEEN(Tanh + exp)、DEEN(|Tanh| +exp)、DEEN(Sigmoid + exp)。
SENET,也即是Squeeze-and-Excitation Networks,被用来作为对比方法,这是一种带有注意力机制但不包含指数激励的深度神经网络。DEEN(Tanh + exp)、DEEN(|Tanh| +exp)、DEEN(Sigmoid + exp)是本申请所提出的三种深度结构,它们之间的不同在于EEB分别采用Tanh + exp、|Tanh| + exp、Sigmoid + exp组合作为指数激励。
与深度结构相关的超参数如下表2所示。其中,SEB表示的是挤压和激励模块,与EEB的不同之处在于SEB中没有指数激励。在每个SEB、EEB中,均含有两个卷积层。因卷积层参数存在差别,表2中分别给出卷积层的参数。在表2中的每个中括号中,若包含4个参数,则为卷积层对应的参数,第一个参数表示卷积层输入通道数目,第二个表示卷积层输出通道数目,第三个表示卷积核大小,第四个表示卷积核的滑动步幅;若包含2个参数,则为全连接层的参数,分别表示输入神经元数目、输出神经元数目。输出特征图大小以3D(即通道×高度×宽度)或1D(即一维向量),如表2所示。
表2:与深度结构相关的超参数
在训练过程中,还需要设置优化深度指数激励网络的超参数,例如迭代次数、学习率等。迭代总次数设置为100。在开始的前30个迭代中,学习率设置为0.01;之后每经历30个迭代,学习率减小为之前的十分之一;在最后的10个迭代中,学习率变为0.00001。批大小设置为128。优化器采用SGD,并且动量设置为0.9,SGD可以帮助深度指数激励网络在训练过程中跳出局部最优解,以获得更好的性能表现。对GAP输出特征图进行Dropout操作,并设置丢弃率为0.5,以减小模型过拟合的风险。所有实验均被重复执行5次,以消除随机因素的影响。
最后,实验结果:
参见表3、表4,给出了本申请基于深度指数激励网络的早期故障诊断方法与比较方法的实验结果。为了避免偶然性,在表3和表4中,每个结果是五次重复试验的平均值和标准差。就平均测试准确率而言,在SNR = 60 dB时,由于受噪声干扰较小,不管是SENET还是DEEN(Tanh + exp)、DEEN(|Tanh| + exp)、DEEN(Sigmoid + exp),均取得优异的诊断性能。随着噪声干扰增强,即从SNR = 30 dB到SNR = 0 dB,不同方法的诊断性能均受到影响。尽管如此,与SENET相比,本申请所提方法(即DEEN(Tanh + exp)、DEEN(|Tanh| + exp)、DEEN(Sigmoid + exp))在噪声干扰下仍取得更好的诊断结果,尤其是在SNR = 15 dB时,所提方法DEEN(Tanh + exp)获得了超过2%的诊断性能提升。
本申请基于深度指数激励网络的早期故障诊断方法与SENET相比,最大的区别主要在于该方法增加了指数激励,能够获得更好的诊断性能,一个直接的原因是指数激励模块提供了更大的权重、更宽的权重取值范围,增强与早期故障相关的信息来提升诊断准确率。由于指数激励模块对重要特征的有效捕抓与放大作用,使本申请具备从噪声中提取重要信息的能力。
表3: 4种方法在不同SNR数据集上的平均训练准确率(%)
表4:4种方法在不同SNR数据集上的平均测试准确率(%)
同时,在表4中的实验结果也可以看出,SENET、DEEN(Tanh + exp)、DEEN(|Tanh| +exp)、DEEN(Sigmoid + exp),在不同SNR下诊断性能有差异,原因在于DEEN(Tanh + exp)、DEEN(|Tanh| + exp)、DEEN(Sigmoid + exp)使用了不同的缩放器Scaler对通道依赖性进行转换,直接影响了指数激励的权重以及权重取值范围,即影响了指数激励对重要信息的放大作用。具体来说,在SNR较大的情况下,DEEN (|Tanh| +exp)、DEEN (Sigmoid + exp)比DEEN(Tanh + exp)诊断性能更好,它们的权重大于1,在噪声干扰较弱下有利于放大重要的信息。而在SNR较小的情况下,DEEN (Tanh + exp)、DEEN (|Tanh| +exp)比DEEN (Sigmoid+ exp)获得更好的诊断性能,与Sigmoid函数对通道依赖性转换结果相比,Tanh函数转换获得的结果取值范围更宽,更有利于区分不同重要程度的特征。因此,在SNR较大的情况下,优先使用|Tanh| + exp组合指数激励组合,而在SNR较小的情况下,优先Tanh + exp组合指数激励组合。
为了更清楚地评估每种方法对早期故障的诊断性能,参见图5-图20,其中,图9-图20的横坐标均表示的是预测值,纵坐标均表示的真实值。图5-图20混淆矩阵图中可以直观地看出,从SNR = 60 dB到SNR = 0 dB,是相邻类型之间的样本易被错分。例如,S1被错分为H或S2,S2被错分为S1和S3,原因在于相邻类型的样本特征较为接近。具体来说,在SNR = 60dB和SNR = 30 dB时,DEEN(Tanh + exp)、DEEN(|Tanh| + exp)、DEEN(Sigmoid + exp)的诊断结果均优于SENET。在SNR = 15 dB时,在SENET的诊断结果中,H被完全错分为S1,即该类诊断准确率为0;而DEEN(Tanh + exp)、DEEN(|Tanh| + exp)、DEEN(Sigmoid + exp)仍对H有较高的诊断准确率,均在60%以上。在SNR = 0 dB时,在SENET、DEEN(Tanh + exp)、DEEN(|Tanh| +exp)中,H被完全错分为其他类,并且大部分被错分为S1类;仅在DEEN(Sigmoid +exp)中,对H仍保留少部分分类正确的样本。
DEEN(Tanh + exp)、DEEN(|Tanh| +exp)、DEEN(Sigmoid + exp),对不同故障严重程度的分类准确率均优于SENET,具备了更强的注意力去挖掘与早期故障相关的信息。
为了进一步了解不同方法对早期故障特征的学习能力,使用t-SNE将对不同方法在SNR = 60 dB 和 SNR = 15 dB时获得的高维特征转换到二维空间中进行可视化,图21-图24为本申请四种不同方法在SNR=60 dB数据集上的高维特征可视化结果,图25-图28为本申请四种不同方法在SNR=15 dB数据集上的高维特征可视化结果。从图21-图24中可以直观地看出,不同故障严重程度的样本被划分成不同的簇。其中,H簇(正常状态)与其他簇(故障状态)完全分隔开,这说明所考虑的4种方法在噪声干扰较弱的情况下能够较好地将正常状态与故障状态区分开。但在簇与簇相邻部分,仍存在小部分混叠,这是造成部分样本被错分的原因。从图25-图28中可以看出,由于噪声的干扰,不同的簇混叠加剧,尤其是在SENET中,H类和S1类高度混叠在一起。相反,在本申请中,尽管H类和S1类存在混叠,但不同状态的簇基本能分开。总的来说,相较于SENET,本申请错分的样本更少,验证了本申请具备从含噪信号中学习判别性特征的能力。
图9-图28中,四种不同方法分别为SENE、DEEN(Tanh + exp)、DEEN(|Tanh| +exp)、DEEN(Sigmoid + exp),其中,DEEN(Tanh + exp)、DEEN(|Tanh| + exp)、DEEN(Sigmoid + exp)为本申请改进的方法。
本申请提供一种基于深度指数激励网络的早期故障诊断方法,用于早期故障诊断。本申请的深度指数激励网络(DEEN)是一种带有指数激励的注意力机制的深度学习方法,其中,注意力机制用于提取早期故障特征,指数激励用于放大早期故障信息。指数激励通过将指数函数作为一种激励嵌入注意力机制中实现的。与传统注意力机制相比,本申请的指数激励具备更大的潜能去关注重要特征,一方面,指数激励提供了更大的权重去放大早期故障信息,其权重有可能的最大取值约为,而传统注意力机制的权重通常最大取值约为1。另一方面,指数激励提供了更宽的权重取值区间,其区间宽度约为/>,而传统注意力机制的权重取值区间宽度为1。所述指数激励的权重是自适应设置的,有助于自适应放大早期微弱故障信息而无需人为参与。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本申请的保护范围之内。

Claims (5)

1.基于深度指数激励网络的早期故障诊断方法,其特征在于:包括以下步骤:
步骤一,开始;
步骤二,数据预处理;获取机械设备运行状态数据并划分数据集,将数据集分为训练集和测试集,训练集用于训练模型,测试集用于对网络性能进行评估;其中,训练集包含若干训练样本,每一训练样本包含若干特征值及标签值;
步骤三,微弱故障信息自适应放大;将训练样本输入到深度指数激励网络中,经过卷积操作,获得通道特征图,利用深度指数激励网络中的指数激励模块对通道特征图进行非线性映射,以自适应放大与早期故障相关的信息,然后在训练集上对早期故障进行预测,得到预测值;
步骤三中,所述指数激励模块是将指数函数嵌入到注意力机制中,设定、/>分别表示第/>个指数激励模块的输入特征图和第/>个指数激励模块的输出特征图;
所述指数激励模块的处理过程如下:经过卷积操作得到/>;将/>经过全局平均池化层操作获得/>,如公式(1)所示:
(1)
式中,
分别表示/>的通道数、高度和宽度;/>表示/>的第/>通道特征图;/>是通过全局平均池化层操作获得的通道描述统计量;/>是/>的第/>维通道描述统计量,/>与/>相对应;/>分别表示特征图的行号和列号;
采用两层带有激活函数的全连接层对通道之间的依赖性进行学习,学习过程如公式(2)所示:
(2)
式中,表示的是两层全连接层学习到的通道依赖关系;/>表示线性整流激活函数层激活函数;/>分别表示第一个全连接层的权重矩阵、第二个全连接层的权重矩阵,分别表示第一个全连接层的偏置项、第二个全连接层的偏置项;第二个全连接层中,神经元的个数等于/>的通道数/>,获得与通道数量相等的权重个数;
将两层FC学习到的通道依赖关系输入到缩放器Scaler中获得一组通道权重尺度值/>,如公式(3)所示:
(3)
式中,表示采用缩放器Scaler处理后获得的通道权重尺度值;
所述缩放器Scaler设置有3种,分别为Tanh、|Tanh|和Sigmoid;
采用以为底的指数函数exp对通道权重尺度值/>进行激励,获得指数激励权重值/>,如公式(4)所示:
(4)
其中,所述指数函数exp的表达式如公式(5)所示:
(5)
式中,为指数函数的输出特征,/>为指数函数的输入特征;/>且/>
相对于指数函数的输入特征/>的梯度计算如公式(51)所示:
(51)
,/>为数学常数;
将所述的3种缩放器Scaler,即Tanh、|Tanh|和Sigmoid,分别与指数函数组合,形成三种组合指数激励模块,分别为:
Tanh + exp组合指数激励模块;
|Tanh| +exp组合指数激励模块,|Tanh| 表示对Tanh获得结果进行绝对值处理;
Sigmoid + exp组合指数激励模块;
步骤四,网络权重优化;首先,根据预测值与训练集每个样本对应的标签值计算交叉熵损失;然后,使用随机梯度下降法最小化交叉熵损失来优化网络权重参数;最后,判断训练判迭代次数是否达到设定的迭代次数;若是,得到优化后的深度指数激励网络;若否,则返回步骤三;
步骤五,早期故障诊断;将步骤二中测试集的数据输入优化后的深度指数激励网络,获得诊断结果,用于机械设备的早期故障诊断任务;
步骤六,结束。
2. 如权利要求1所述的基于深度指数激励网络的早期故障诊断方法,其特征在于:将与/>进行乘法操作,获得了指数激励单元的输出特征图/>,如公式(9)所示:
(9)
式中,、/>分别表示指数激励单元的输入特征图、指数激励单元的输出特征图;/>表示采用指数函数exp对/>激励后得到的指数激励权重值。
3. 如权利要求1所述的基于深度指数激励网络的早期故障诊断方法,其特征在于:在每个组合指数激励模块中,其指数激励模块的输出特征图均可由公式(10)计算获得:
(10)
将经过多个指数激励模块处理后获得的指数激励模块的输出特征图依次输入到全局平均池化层、全连接层进行处理,获得预测值。
4. 如权利要求1所述的基于深度指数激励网络的早期故障诊断方法,其特征在于:在Tanh + exp组合指数激励模块中,指数激励权重值通过公式(6)计算获得:
(6)
在|Tanh| + exp组合指数激励模块中,指数激励权重值通过公式(7)计算获得:
(7)
在Sigmoid + exp组合指数激励模块中,指数激励权重值通过公式(8)计算获得:
(8)。
5. 如权利要求1所述的基于深度指数激励网络的早期故障诊断方法,其特征在于:在Tanh + exp组合指数激励模块中,指数激励权重取值范围为,权重取值区间宽度为
在|Tanh| +exp组合指数激励模块与Sigmoid + exp组合指数激励模块中,指数激励权重取值范围均为,权重取值区间宽度均为/>
CN202310671391.9A 2023-06-08 2023-06-08 基于深度指数激励网络的早期故障诊断方法 Active CN116401596B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310671391.9A CN116401596B (zh) 2023-06-08 2023-06-08 基于深度指数激励网络的早期故障诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310671391.9A CN116401596B (zh) 2023-06-08 2023-06-08 基于深度指数激励网络的早期故障诊断方法

Publications (2)

Publication Number Publication Date
CN116401596A CN116401596A (zh) 2023-07-07
CN116401596B true CN116401596B (zh) 2023-08-22

Family

ID=87014603

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310671391.9A Active CN116401596B (zh) 2023-06-08 2023-06-08 基于深度指数激励网络的早期故障诊断方法

Country Status (1)

Country Link
CN (1) CN116401596B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0704706A1 (en) * 1994-09-30 1996-04-03 MAGNETI MARELLI S.p.A. A diagnostic system for a capacitive sensor
CN103267652A (zh) * 2013-05-24 2013-08-28 北京工业大学 一种智能早期设备故障在线诊断方法
CN103969067A (zh) * 2014-04-01 2014-08-06 中北大学 一种基于广义形态学的自动装填系统故障诊断方法
CN104390776A (zh) * 2014-12-10 2015-03-04 北京航空航天大学 一种多余度副翼作动器故障检测、诊断与性能评估方法
CN206757009U (zh) * 2017-06-01 2017-12-15 北京华科同安监控技术有限公司 一种机组振动在线监测分析与故障诊断系统
CN113052000A (zh) * 2021-02-04 2021-06-29 江苏科技大学 一种船舶机械设备早期微弱故障信号特征诊断方法
CN114580288A (zh) * 2022-03-09 2022-06-03 杭州电子科技大学 一种基于dsecjan的智能故障诊断方法
KR102471427B1 (ko) * 2021-07-14 2022-11-28 (주)주인정보시스템 모터 소음과 열분포 분석을 통한 기계 및 전기적 고장 예측진단 시스템
CN115655706A (zh) * 2022-10-14 2023-01-31 山东临工工程机械有限公司 一种基于最小熵解卷积与随机共振的机械故障诊断方法
WO2023044979A1 (zh) * 2021-09-27 2023-03-30 苏州大学 类不平衡数据集下的机械故障智能诊断方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110361176B (zh) * 2019-06-05 2021-11-19 华南理工大学 一种基于多任务特征共享神经网络的智能故障诊断方法
US20230012186A1 (en) * 2021-07-01 2023-01-12 Board Of Trustees Of Michigan State University System and method for vibroacoustic diagnostic and condition monitoring a system using neural networks
CN114217256B (zh) * 2021-11-25 2022-09-16 华中科技大学 基于自适应稀疏滤波的电机驱动系统变流器故障诊断方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0704706A1 (en) * 1994-09-30 1996-04-03 MAGNETI MARELLI S.p.A. A diagnostic system for a capacitive sensor
CN103267652A (zh) * 2013-05-24 2013-08-28 北京工业大学 一种智能早期设备故障在线诊断方法
CN103969067A (zh) * 2014-04-01 2014-08-06 中北大学 一种基于广义形态学的自动装填系统故障诊断方法
CN104390776A (zh) * 2014-12-10 2015-03-04 北京航空航天大学 一种多余度副翼作动器故障检测、诊断与性能评估方法
CN206757009U (zh) * 2017-06-01 2017-12-15 北京华科同安监控技术有限公司 一种机组振动在线监测分析与故障诊断系统
CN113052000A (zh) * 2021-02-04 2021-06-29 江苏科技大学 一种船舶机械设备早期微弱故障信号特征诊断方法
WO2022165737A1 (zh) * 2021-02-04 2022-08-11 江苏科技大学 一种船舶机械设备早期微弱故障信号特征诊断方法
KR102471427B1 (ko) * 2021-07-14 2022-11-28 (주)주인정보시스템 모터 소음과 열분포 분석을 통한 기계 및 전기적 고장 예측진단 시스템
WO2023044979A1 (zh) * 2021-09-27 2023-03-30 苏州大学 类不平衡数据集下的机械故障智能诊断方法
CN114580288A (zh) * 2022-03-09 2022-06-03 杭州电子科技大学 一种基于dsecjan的智能故障诊断方法
CN115655706A (zh) * 2022-10-14 2023-01-31 山东临工工程机械有限公司 一种基于最小熵解卷积与随机共振的机械故障诊断方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于注意力机制BiLSTM的设备智能故障诊断方法;王太勇;王廷虎;王鹏;乔卉卉;徐明达;;天津大学学报(自然科学与工程技术版)(06);全文 *

Also Published As

Publication number Publication date
CN116401596A (zh) 2023-07-07

Similar Documents

Publication Publication Date Title
Fumera et al. A theoretical and experimental analysis of linear combiners for multiple classifier systems
KR101018665B1 (ko) 전립선암 진단 방법 및 장치
CN113194094B (zh) 一种基于神经网络的异常流量检测方法
CN112364939A (zh) 异常值检测方法、装置、设备及存储介质
CN116401596B (zh) 基于深度指数激励网络的早期故障诊断方法
Li et al. Data augmentation via variational mode reconstruction and its application in few-shot fault diagnosis of rolling bearings
CN117315379B (zh) 面向深度学习的医学影像分类模型公平性评估方法及装置
CN116992953B (zh) 一种模型训练方法、故障诊断方法及装置
CN118097502A (zh) 一种基于深度学习的社交网络深度伪造视频检测方法及系统
CN116415201B (zh) 基于深度同心学习的船舶主动力异常检测方法
Wessels et al. Applying deep learning for the detection of abnormalities in mammograms
JP5445062B2 (ja) 情報処理装置及び情報処理プログラム
CN116166997A (zh) 一种智能主轴服役状态诊断方法、系统、设备及介质
Zhou et al. Reliable fault diagnosis using evidential aggregated residual network under varying working conditions and noise interference
Lee et al. An investigation of essential topics on software fault-proneness prediction
CN118211123B (zh) 一种基于多模态特征融合的风机状态监测方法及系统
Guo et al. Research on bearing fault diagnosis based on novel MRSVD-CWT and improved CNN-LSTM
CN118070077B (zh) 基于联邦学习和双重监督对比学习的故障诊断方法及系统
Sathwik et al. Diabetic Retinopathy Classification Using Deep Learning
Patil et al. An Innovative Fusion of Deep Learning and the Differential Analyzer Approach (DAA-Deep model) for Enhanced Skin Cancer Detection
CN118211123A (zh) 一种基于多模态特征融合的风机状态监测方法及系统
CN113033504B (zh) 一种基于多尺度视频异常检测方法
CN118470442B (zh) 一种基于多尺度超图及特征配准的小样本异常检测方法
JP7202260B2 (ja) ハイパーパラメータ管理装置、ハイパーパラメータ管理システム及びハイパーパラメータ管理方法
CN118664399A (zh) 一种刀具磨损量预测方法、设备、介质及产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant