CN116753471A - 供水管道泄漏多域特征提取与融合辨识方法 - Google Patents
供水管道泄漏多域特征提取与融合辨识方法 Download PDFInfo
- Publication number
- CN116753471A CN116753471A CN202310716554.0A CN202310716554A CN116753471A CN 116753471 A CN116753471 A CN 116753471A CN 202310716554 A CN202310716554 A CN 202310716554A CN 116753471 A CN116753471 A CN 116753471A
- Authority
- CN
- China
- Prior art keywords
- signal
- feature
- leakage
- fusion
- artificial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 94
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000000605 extraction Methods 0.000 title claims abstract description 53
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 title claims abstract description 49
- 238000012549 training Methods 0.000 claims abstract description 27
- 238000012360 testing method Methods 0.000 claims description 26
- 238000005070 sampling Methods 0.000 claims description 24
- 238000001228 spectrum Methods 0.000 claims description 23
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 22
- 230000003595 spectral effect Effects 0.000 claims description 22
- 239000011159 matrix material Substances 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 21
- 238000004364 calculation method Methods 0.000 claims description 19
- 238000000354 decomposition reaction Methods 0.000 claims description 15
- 238000011176 pooling Methods 0.000 claims description 14
- 230000004913 activation Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 7
- 238000005311 autocorrelation function Methods 0.000 claims description 6
- 230000001133 acceleration Effects 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 claims description 3
- 238000001514 detection method Methods 0.000 abstract description 7
- 230000006870 function Effects 0.000 description 23
- 238000004458 analytical method Methods 0.000 description 10
- 238000009826 distribution Methods 0.000 description 9
- 238000013135 deep learning Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000010183 spectrum analysis Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000013434 data augmentation Methods 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000004069 differentiation Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000035622 drinking Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009440 infrastructure construction Methods 0.000 description 1
- 238000011423 initialization method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 238000005303 weighing Methods 0.000 description 1
Classifications
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F17—STORING OR DISTRIBUTING GASES OR LIQUIDS
- F17D—PIPE-LINE SYSTEMS; PIPE-LINES
- F17D5/00—Protection or supervision of installations
- F17D5/02—Preventing, monitoring, or locating loss
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F17—STORING OR DISTRIBUTING GASES OR LIQUIDS
- F17D—PIPE-LINE SYSTEMS; PIPE-LINES
- F17D5/00—Protection or supervision of installations
- F17D5/02—Preventing, monitoring, or locating loss
- F17D5/06—Preventing, monitoring, or locating loss using electric or acoustic means
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Examining Or Testing Airtightness (AREA)
Abstract
本发明公开了供水管道泄漏多域特征提取与融合辨识方法,涉及供水管道泄漏检测领域,先构建不同类型的供水管道泄漏事件信号数据集;然后,对信号数据集中包含的泄漏信号,进行人工特征和深度特征的提取;然后,基于注意力模块对人工特征和深度特征进行融合,构建包含有人工特征提取模块、深度特征提取模块和注意力融合模块的特征融合网络辨识模型,并对其进行离线训练;利用得到的特征融合网络辨识模型对供水管道待测事件的数据信号集进行辨识,从而判断供水管道是否出现泄漏事件。
Description
技术领域
本发明涉及供水管道泄漏检测领域,具体涉及供水管道泄漏多域特征提取与融合辨识方法。
背景技术
随着我国城市化的不断深入,城市的基础设施也逐渐成为生存和发展的坚实基础。城市供水管道作为基础设施建设的一项重要工程,关乎城市的正常运作与居民的日常生活。然而,由于供水管道的自然老化、供水管网规模的持续扩大和供水压力的逐步增长等原因,供水管道的泄漏问题日益严峻。而实现供水管道泄漏的自动化辨识,能有效节约成本,提升检漏精度,降低平均管网漏损率,提高水资源利用率,防控由于管道泄漏导致的水量损失、饮水事故、供水问题等难题,对城市供水系统的正常运作具有重要意义。
目前主流的方法是基于机器学习或深度学习的辨识方法,采用机器学习的话,人工特征的提取需要大量的专业知识和经验,费时费力,很多信号的高级特征也无法获取到。而采用深度学习的话,可以自动提取信号高阶特征;但是深度学习网络由于信号样本种类少等问题容易出现过拟合的情况,在一些复杂环境下,这会导致模型出现失效。
发明内容
针对现有技术存在的上述不足,本发明的目的在于提供一种供水管道泄漏多域特征提取与融合辨识方法,通过泄漏信号分别提取人工可分辨特征和深度学习特征,其中人工特征指多个维度得到的泄漏可辨识特征,深度学习特征指由任何合适的一维深度卷积网络多得到高维特征,同时利用注意力机制对二者特征进行深度融合,使网络自动聚焦于多域特征的关键信息,形成主要泄漏特征表达,使得辨识网络具有更快的收敛速度、更低的训练损失和更高的辨识准确率。此外,利用该方法不仅可以实现漏与不漏的辨识,还可以实现大漏、小漏的辨识。
为了解决上述技术问题,本发明采用如下技术方案:
供水管道泄漏多域特征提取与融合辨识方法,包括以下步骤:
步骤1:构建不同类型的供水管道泄漏事件信号数据集;
步骤2:对信号数据集中包含的泄漏信号,进行人工特征和深度特征的提取;然后,基于注意力模块对人工特征和深度特征进行融合,构建包含有人工特征提取模块、深度特征提取模块和注意力融合模块的特征融合网络辨识模型,并对其进行离线训练;
其中,人工特征提取模块用于提取泄漏信号中的人工特征,深度特征提取模块用于提取泄漏信号中的深度特征,注意力融合模块用于将人工特征和深度特征进行融合;
步骤3:利用步骤2得到的特征融合网络辨识模型对供水管道待测事件的数据信号集进行辨识,从而判断供水管道是否出现泄露事件。
考虑到现有技术存在的上述问题,本发明提出了将人工特征与深度特征融合使用的辨识方法,既考虑了人工特征的可靠,也考虑了深度学习特征提取的深层次的特征,综合了两种特征的优势,丰富了信号的信息,从而使模型具有更强的泛化能力。深度特征的提取可以采用任何合适的一维深度卷积网络,但常用的深度特征提取网络卷积神经网络(CNN)存在一些问题,比如在数据量较小时容易出现过拟合的问题;随着网络层数的增加,容易出现梯度弥散和性能退化的问题。而基于CNN的残差网络(ResNet),增加了重要基本单元——残差块,残差块通过跳跃连接的方式实现了中间特征的跨层连接,这种方式很好的避免了由于深度加深带来的梯度爆炸或梯度消失以及网络退化的问题,不仅加快了深度神经网络的收敛速度,而且大幅度提升了深度网络的准确率,即相较于传统的卷积神经网络CNN,ResNet具有更深的网络结构、更快的收敛速度、更好的泛化能力等优势,故本发明中的深度特征提取网络主要以ResNet网络为例进行说明。
作为一种可选的技术方案,所述步骤1具体包括以下步骤:
步骤1.1:利用压电加速度传感器分别吸附在漏点附近不同的采集点,采集复杂背景环境下供水管道的原始信号;
步骤1.2:利用偏移采样方法对单个原始信号进行扩充,信号总长为L个采样点,所需的样本长度为N个采样点,样本起点为N0,若采用偏移采样技术,下一个样本的起点不再是第N0+N+1个采样点,而是在上一个样本起点的基础上加上偏移量ΔN,即从第N0+ΔN个采样点开始;
步骤1.3:对扩充后的数据集,按照7:3的比例随机划分为训练集和测试集,并设置相应的标签,得到不同类型事件信号数据集,有二类别信号数据集和三类别信号数据集,其中:二类别信号数据集包括泄漏信号和不漏信号,三类别信号数据集包括大漏信号、小漏信号和不漏信号。
作为一种可选的技术方案,所述步骤2中,人工特征提取模块对泄漏信号数据的多域特征分析得到人工特征。
作为一种可选的技术方案,所述人工特征包括:谱宽参数、奇异谱值、小波包能量、AR模型系数、MFCC系数特征;
其中,谱宽参数通过下式计算得到:
式中ε为信号的谱宽参数,m0、m2、m4分别为信号的0阶、2阶、4阶谱矩;
奇异谱值通过如下过程获得:将一维的时间信号截取重组,构建二维的轨迹矩阵,对轨迹矩阵进行奇异值分解,选取前r个奇异值作为原始信号的有用成分代表信号的奇异值特征,后d-r个奇异值作为噪声被舍弃,且r<d。其中d为轨迹矩阵的非零奇异值数目,r主要根据奇异值的贡献率来确定,通过比较前r个子矩阵的贡献率之和同预先设定的阈值的大小,得到满足阈值的子矩阵个数。
小波包能量通过如下过程获得:先选取小波基,然后设定分解层数,再构建n层的小波树,提取最后一层各节点的能量,作为信号的小波包能量特征;
AR模型系数通过如下过程获得:由模型的差分方程推导信号的自相关函数得到Yule-Walk方程,Yule-Walk方程如下所示:
式中Rxx(m)为信号的自相关函数,ak为信号的AR模型参数,p为模型阶数;
利用Levinson-Durbin算法求解Y-W方程得到信号的AR模型系数,Levinson-Durbin算法递推通式如下所示:
am(k)=am-1(k)+am(m)am-1(m-k),k=1,2,…,m-1,式中,am(k)为预测系数,am(m)为反射系数。
MFCC系数特征通过下式计算获得:
式中C(n)为信号的MFCC系数,s(m)为每个滤波器输出信号能量的对数,M为三角带通滤波器的个数,L为MFCC系数的阶数。
作为一种可选的技术方案,在步骤2中,所述深度特征提取模块的构成包括卷积层C1、ReLU层、池化层P1、残差块R1、卷积层C2、ReLU层、池化层P2、残差块R2;
其中,深度特征模块处理过程具体实现为:供水管道泄漏事件中的信号频谱作为网络的输入信号,然后依次通过卷积层C1、ReLU层、池化层P1、残差块R1、卷积层C2、ReLU层、池化层P2、残差块R2进行处理后,残差块R2的输出信号为泄漏信号的深度特征。
作为一种可选的技术方案,所述步骤2中,将得到的人工特征和深度特征输入到AFF模块进行特征融合,AFF模块的输出依次通过两层全连接层后,利用SoftMax方法得到最终分类结果。
作为一种可选的技术方案,所述步骤2具体包括以下步骤:
步骤3.1:将提取得到的人工特征和深度特征输入到注意力模块进行融合,构建基于注意力模块的融合网络模型,并设置网络初始化参数;
步骤3.2:训练基于注意力模块的融合网络模型并进行参数更新和网络调优,若迭代结束,保存结果最好的模型作为最终的供水管道泄漏事件辨识模型;否则,跳转至步骤3.2。
作为一种可选的技术方案,所述步骤3.2具体包括以下步骤:
步骤3.2.1:初始化所述基于注意力模块的融合网络模型,包括矩阵权重和偏置;
步骤3.2.2:将所述训练集中的样本信号,经过快速傅里叶变换,将信号频谱输入到所述基于注意力模块的融合网络模型,经过前向传播得到所述信号样本的预测标签;
步骤3.2.3:根据设定的目标函数和得到的预测标签计算反向传播误差,利用该误差进行整个网络参数更新和调优。
作为一种可选的技术方案,所述步骤3.2.2中,注意力模块采用AFF模块,具体实现为:将深度特征设为X,人工特征设为Y;深度特征和人工特征分别进行一个相应的卷积操作,使两者具有相同的维度,设卷积操作后的深度特征为X',人工特征为Y';然后将深度特征X'和人工特征Y'相加后分别求取局部的注意力特征和全局的注意力特征;设输入特征为C,则相应的局部注意力特征和全局注意力特征计算过程如下:
L(C)=B(Conv2(δ(B(Conv1(C))))),
g(C)=B(Conv2(δ(B(Conv1(Avg(C)))))),
其中,L(C)为局部注意力特征,g(C)为全局注意力特征,Conv1为卷积操作,卷积大小为1×1,B表示BatchNorm层,δ表示ReLU激活函数,Avg表示平均池化操作;则深度特征X'和人工特征Y'求取局部注意力特征和全局注意力特征并将两者相加后通过sigmod函数的结果M如下所示:
其中,δ'表示sigmod激活函数;
深度特征X'和人工特征Y'经过注意力融合模块之后的混合特征记为Z,其结果如下:
作为一种可选的技术方案,所述步骤3.2.3具体包括以下步骤:
步骤3.2.3.1:利用交叉信息熵损失函数计算所述预测标签与真实标签的损失值,损失值L计算公式如下:
其中:x表示样本,n表示样本总数,a表示样本预测标签,y表示样本真实标签;
步骤3.2.3.2:利用所述损失值反向计算所述基于注意力模块的融合网络模型的参数梯度,利用所述参数梯度更新该网络模型;采用Adam算法进行优化;
步骤3.2.3.3:用模型参数θ更新基于注意力模块的融合网络模型后,利用训练损失值判断更新后的网络模型是否收敛,若收敛,保存结果最好的模型作为最终的事件辨识模型;否则,跳转至步骤3.2。
与现有技术相比,本发明具有如下有益效果:
1、本发明在供水管道泄漏检测中提出了将人工特征和深度特征同步提取与融合的思路,增加了信息提取的丰富程度,同时避免单纯依赖人工特征时信息提取不全面和单纯依赖深度网络时容易过拟合的风险,有效提高了泄漏检测辨识的准确度和算法泛化能力。
2、本发明方法将注意力模块运用到了人工特征和深度特征的融合网络上,使泄漏辨识模型能够自动聚焦于事件信号的关键信息部分,形成泄漏信号的强有力表征,可以在加快网络收敛速度的同时提高泄漏事件辨识率。
3、本发明方法使用端对端网络来实现人工特征和深度特征的融合,通过网络更新自动调整融合的高维特征关键信息注意方式,相比于单纯拼接等其他传统融合手段,整个网络的可移植性更强。
4、利用本发明所述方法不仅可以实现漏与不漏的智能辨识,还可以实现大漏、小漏等不同泄漏状况的精准辨识。
附图说明
图1为本发明的信号辨识算法结构图及信号处理流程图;
图2为本发明的信号采集示意图;
图3为本发明的数据增广及数据集扩充算法原理图;
图4为本发明的泄漏信号人工可辨识特征中的小波包分解树原理图;
图5为本发明的泄漏信号人工可辨识特征中的小波包分解的能量特征提取流程;
图6为本发明的泄漏信号人工可辨识特征中的基于L-D算法的AR模型参数估计流程图;
图7为本发明的特征融合网络2(人工特征和深度特征拼接后基于空间注意的特征融合网络)算法结构图及信号处理流程图;
图8为本发明的不同网络在二类别信号数据集中的测试集混淆矩阵;
图9为本发明的不同网络在二类别信号数据集中的测试集准确率直方图;
图10为本发明的不同网络在二类别下的不同信噪比下网络盲测准确率直方图;
图11为本发明的不同网络在三类别信号数据集中的测试集混淆矩阵;
图12为本发明的不同网络在三类别信号数据集中的测试集准确率直方图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例1
以城市背景下的供水管网泄漏检测应用为例,基于多域特征融合的供水管道泄漏辨识方法,整个信号处理流程及网络结构如图1所示,主要分为四个步骤:
步骤1:数据准备。利用压电加速度传感器分别吸附在漏点附近不同的采集点,采集复杂背景环境下的供水管道的原始信号,分为泄漏信号和不漏信号;利用偏移采样方法对单个原始信号进行扩充,从而达到扩充数据集的目的;对扩充后的数据集,按照7:3的比例随机划分为训练集和测试集,并设置相应的标签,0表示泄漏信号,1表示不漏信号,得到二类别的信号数据集。对信号数据集进一步调整,按照泄漏程度的大小,将数据划分为大漏、小漏和不漏三种类别,构建三类别的信号数据集。
步骤2:泄漏信号的人工可辨识特征提取以及泄漏信号的深度特征提取。基于信号数据集,分别提取谱宽参数、奇异谱、小波包能量、AR模型系数、MFCC系数特征作为人工可辨识特征。其中深度特征可由多任何合适的一维深度卷积网络获得,本实施例以一维残差网络为例。对信号数据集进行快速傅里叶变换,作为网络的输入信号,构建具有两层残差块(Residualblock)结构的一维残差网络(ResidualNetwork),简称1D-ResNet,得到信号的深度特征。
步骤3:融合网络构建。利用注意力融合模块,构建人工特征与深度特征融合新网络,对特征融合网络进行训练和测试。调整网络参数使得网络性能达到最优,得到最终网络模型。
步骤4:泄漏辨识与性能测试。对实测泄漏、不漏信号进行辨识分类。为了验证人工特征的有效性,增加了人工特征利用SVM分类的网络。将步骤1得到的二类别信号数据集和三类别信号数据集的测试集输入到训练好的人工特征+SVM网络、1D-Resnet网络以及基于不同融合策略的特征融合新网络中,其中融合新网络有三种:特征融合网络1只是将人工特征和深度特征拼接网络,没有注意力模块;特征融合网络2是人工特征和深度特征拼接后基于空间注意的特征融合网络;特征融合网络3是人工特征和深度特征基于注意力模块的融合网络,并将不同网络模型得到的结果进行比较。
在上述基础上,对本发明做出进一步地详细说明。
作为本发明的实施例二,数据采集原理如图2所示:利用压电加速度传感器分别吸附在漏点附近不同的采集点,采集漏点修复前(有泄漏)及漏点修复后(无泄漏)的管道振动声信号,采样频率fs=20480Hz,采样时长约为1s。
作为本发明的实施例三,为增强辨识算法的泛化能力,在构建网络之前,基于采集数据进行数据增广及数据集扩充,具体流程如下:
数据集样本数量对深度学习网络模型的分类能力有很大影响,用于训练模型的样本数量越大,泛化能力越强,推广的应用场景越普适。基于目前样本数据量偏少的原因,希望通过数据集增强技术扩充数据集样本数量。但由于管道泄漏信号为一维时序信号,目前常见的数据集增强技术,如旋转、翻转、裁剪、缩放等往往针对二维图像,并不适用。针对管道泄漏信号的特点,拟采取偏移采样方法扩充信号数据集。
偏移采样原理如图3所示,信号总长为L个采样点,所需的样本长度为N个采样点,样本起点为N0,若采用偏移采样技术,下一个样本的起点不再是第N0+N+1个采样点,而是在上一个样本起点的基础上加上偏移量ΔN,即从第N0+ΔN个采样点开始;保证了原始信号可以被截取成更多的样本,大大扩展了数据集容量,且不会破坏信号的时序性。
本文采集的管道泄漏信号原始长度约为1s,采样频率fs=20480Hz。在预处理阶段,为避免采集起始点的不稳定性,舍弃了前0.001s的信号,取每个样本时长为0.2s,即样本长度N=4096,每次偏移时长0.05s,即偏移量ΔN=1024,重叠长度N-ΔN=3072。因此,每段原始信号可以扩展为16个样本。根据信号类别,以及泄漏程度的不同,构建了二类别(泄漏和不漏)信号数据集和三类别(大漏、小漏和不漏)信号数据集。并将整体信号数据集按7:3的比例随机划分为训练集和测试集,其中二类别信号数据集如表1所示,三类别信号数据集如表2所示。
表1二类别信号数据集
事件类型 | 训练集(个) | 测试集(个) | 合计 |
泄漏 | 1243 | 565 | 1808 |
不漏 | 1041 | 415 | 1456 |
合计 | 2284 | 980 | 3264 |
表2三类别信号数据集
事件类型 | 训练集(个) | 测试集(个) | 合计 |
大漏 | 528 | 240 | 768 |
小漏 | 353 | 143 | 496 |
不漏 | 597 | 251 | 848 |
合计 | 1478 | 634 | 2112 |
作为本发明的实施例四,泄漏信号的人工可辨识特征提取过程如下:
基于上述所得信号数据集,分别提取信号的谱宽参数、奇异谱值、小波包能量、AR模型系数、MFCC系数特征作为人工可辨识特征。
(1)谱宽参数特征
谱宽参数用于量化信号频域能量分布的特征,其数值越小,表示在特定的频率范围内,信号的能量集中程度越高,否则数值越大,能量越分散。其计算过程如下:
对于长度为N的信号x(n),先求得其单边功率谱密度S(ω),可以表示为
其中Rx为信号的自相关函数,ω为信号角频率。信号的k阶谱矩mk为
fH为积分的上限频率,分别取k=0,2,4,求得m0,m2,m4,则可根据下式求出谱宽参数ε:
由式1-3可知ε的取值范围为0~1。
在不同的工况下,管道泄漏声信号的中心频率不同,信号谱宽参数分析的频段相应变化。设定积分上限fH初始值fHmin=100Hz,终止值fHmax=10kHz,间隔步长100Hz,依次求解不同上限频率的谱宽参数,从而得到泄漏信号跟不漏信号的谱宽参数特征。
(2)奇异谱特征
奇异谱分析对非线性时间序列进行解构,预测序列特征。该方法通过在时间序列上构造特定矩阵并进行奇异值分解,实现从时间序列中分解趋势、振荡分量和噪声等成分。
奇异谱分析步骤如下:
①嵌入,即将一维的时间信号截取重组,构建二维的轨迹矩阵。对长度为N的原始信号XN=(x1,x2,…,xN),给定窗口长度L(1<L<N),将原始信号映射为K=N-L+1个长度为L的向量,即
Xi=(xi,xi+1,…,xi+L-1)T,1≤i≤K (1-4)
这些向量组成轨迹矩阵,表示为
②(奇异值)分解。该步骤执行轨迹矩阵X的奇异值分解,记作
其中d为X非零奇异值数目,λi为X奇异值且λ1≥λ2≥…≥λd>0,Ui和Vi为X的左、右奇异向量。
③分组。该步骤是为了提取信号的有用成分,舍弃无用量和干扰项。在信号处理领域,通常取前r(r<d)个奇异值作为原始信号的有用成分,后d-r个奇异值作为噪声被舍弃。其中d为轨迹矩阵的非零奇异值数目,r主要根据奇异值的贡献率来确定,通过比较前r个子矩阵的贡献率之和同预先设定的阈值的大小,得到满足阈值的子矩阵个数。
④重构。该步骤的目的是将前述分组后的二维矩阵Y重构为与原信号长度相同的新序列。设yi,j(1≤i≤L,1≤j≤K)为Y中的各元素,L*=min(L,K),K*=max(L,K),当L<K时,y* i,j=yi,j,否则y* i,j=yj,i。那么通过对角平均化可以将Y变换成长度为N的重构序列yrc1,yrc2,…yrcN,计算式如下
信号的奇异谱分析选取的窗口长度L越大,信号分解越精细,但过大的L也会带来大量无意义的运算量。对不同工况下的管道泄漏信号作奇异谱分析时,窗口长度L取值范围为[1,50],选取最大的奇异值作为信号奇异谱特征,从而得到泄漏信号跟不漏信号的奇异谱特征。
(3)小波包能量特征
小波包分析是对信号频谱进行多分辨率的优化分析方法。相比于小波变换,小波包分析将信号进行多次划分,使其能与原信号频谱均匀适配,得到更详细的信号分解。每一次小波包分解都将信号划分成高频和低频两个部分,得到两个子信号,详细而完整地展现了信号中频段的信息,便于后续特征提取和时频局部化分析。图4为一个三层的小波包分解树,其中(i,j)代表小波包分解树第i层节点j的信号分量。
与基于三角函数的傅里叶变换不同的是,小波包分析所采用的小波函数并不具有唯一性。换言之,采取不同的小波基,即使是同样的层数分解同一个信号,其结果也不尽相同。本实施例选取可以构成最简单正交归一小波族的Haar小波基,常用小波基还有Morlet(morl)小波、Daubechies(dbN)小波、Meyer小波等。
由于不同工况下信号强度不同,信号能量绝对值存在差异,因此实施例采取泄漏信号经三层小波包分解后各节点的能量作为小波包能量特征,使小波包能量特征在不同工况下具有更高的辨识度,小波包分解的能量特征提取流程如图5所示。
(4)AR模型系数特征
基于AR模型对信号的时间序列进行分析,该方法将随机信号x(n)表示为本身的若干次过去值x(n-k)和当前激励值w(n)的线性叠加,即
其中,p表示模型的阶数,ak为常系数,该模型的系统函数为
这是一个仅有极点而无零点的系统函数,又称作全极点模型,用AR(p)表示极点,极点的分布关系着系统的稳定性。
AR模型的系数反映了序列的稳定性,常用的估计方法有三种:矩估计,最小二乘估计,最大似然估计。为降低复杂度,简化计算,本实施例采用矩估计,由模型的差分方程推导x(n)的自相关函数
Rxx(m)=E[x(n)x(n+m)] (1-10)
代入式1-8,得
可见,AR模型输出信号的自相关函数具有递推性。式(1-12)可以变形为
式(1-13)就是Yule-Walker方程(Y-W方程)。Y-W方程表明,只需少量的观测资料,即可得到AR模型参数{ak}。
在计算求解Y-W方程时,最常用的是Levinson-Durbin算法(L-D算法)。L-D算法是根据Y-W方程和自相关序列的递推性推导的,每一阶参数都是由上一阶参数推算得出,直到满足所需的精度。该递归方法能有效地降低计算量,并且方便地找到最优的阶数。L-D算法递推通式可以表示为
am(k)=am-1(k)+am(m)am-1(m-k),k=1,2,…,m-1 (1-14)
其中am(k)称为预测系数,am(m)称为反射系数。开始计算前,令起始值E0=R(0),a0(0)=1,按实际需求取阶数p为一个合适的值,系统递推流程如图6所示。
权衡模型系数计算量和辨识效果后,采取L-D算法求解信号5阶AR模型系数,作为管道泄漏信号的可分辨特征。
(5)MFCC系数特征
MFCC分析方法,在所分析的频段内,以由密至疏的顺序设计一组Mel滤波器,滤波后的信号能量作为信号的特征,用于后续信号分析。
MFCC是在Mel标度下提取的。Mel标度是利用人耳对等距离的听觉判断来确定的一种非线性频率刻度,它与线性频率的关系可以描述为
若信号在Mel标度上均匀分布,在线性频率间的距离将会越来越大。
泄漏声信号MFCC特征提取流程如下:
①预加重:提高高频部分占比,从而使信号的频谱扁平化。预加重操作是将原始信号通过一个高通滤波器
H(z)=1-μz-1 (1-18)
通常取μ=0.97。
②分帧加窗:为简化计算,取N个采样点为1帧,通常时长20ms~40ms。相邻的两帧之间存在一段交迭的区域,交迭长度大约是N的1/2或1/3,以实现平滑过渡,避免过度变化。在FFT运算前,每一帧均会乘上一个汉明窗,以减弱旁瓣大小和频谱泄露。
③频域转换:为观测信号的能量分布,利用FFT实现时域到频域的转换。
④计算Mel滤波器组:定义一个M个三角带通滤波器的Mel滤波器组(M通常取22-26),滤波器的频率响表示为
其中,f(m)为滤波器的中心频率,f(m)之间的间隔随着m的增大而展宽。
⑤对数运算:计算每个滤波器输出信号的能量,并取对数,以便倒谱分析。
⑥离散余弦变换:用上述对数能量进行离散余弦变换,求出L阶MFCC,通常L取12-16。
本实施例中取帧长N=2048个点,此时每帧长度约为0.1s,Mel滤波器组数目M=26,MFCC阶数L=13,按上所述流程提取各漏点信号的梅尔倒谱系数作为管道泄漏信号的可分辨特征。
作为本发明的实施例五,深度特征提取过程如下:
本发明网络结构采用人工特征(谱宽参数、奇异谱、小波包能量、AR模型系数、MFCC系数)与深度特征同步并行提取路线。如图1所示,对现场采集到的泄漏信号数据集进行快速傅里叶变换得到泄漏信号频谱数据集,然后分为两条路线进行,一条深度特征的提取,即:泄漏信号频谱数据通过卷积层C1、ReLU层、池化层P1、残差块R1、卷积层C2、ReLU层、池化层P2、残差块R2得到泄漏信号的深度特征;另一条为人工特征的提取,即:泄漏信号数据的多域特征分析得到泄漏信号的人工特征。
深度特征提取时,基于上述得到的信号数据集,分别进行快速傅里叶变换,得到所有信号的频谱数据集。如图1所示的深度特征提取部分所示,泄漏信号的频谱作为网络的输入信号,依次通过卷积层C1、ReLU层、池化层P1、残差块R1、卷积层C2、ReLU层、池化层P2、残差块R2,将残差块R2的输出作为泄漏信号的深度特征。
作为本发明的实施例六,融合网络构建过程如下:
针对频谱样本提取泄漏信号深度特征并基于注意力模块融合人工特征和深度特征。基于同一目标函数对深度特征提取模块和注意力融合模块进行离线训练,得到最优模型,获得特征融合辨识模型。
特征融合辨识网络设计具体流程包括:网络结构设计及参数设置、网络初始化及网络训练、参数更新及调优三个环节。具体方法如下:
(1)网络结构设计及参数设置
泄漏信号频谱的深度特征提取可以为任何合适的一维深度卷积网络。本实施例中,泄漏信号频谱的深度特征提取部分以一维ResNet网络构建为例进行说明。
当提取得到泄漏信号的深度特征和人工特征后,将二者输入到注意力模块进行融合,得到基于注意力模块的融合网络模型,具体为:将得到的人工特征和深度特征输入到AFF模块进行特征的融合,AFF模块的输出依次通过两层全连接层后利用SoftMax方法得到最终的分类结果。具体网络结构及参数设置如表3所示。
表3基于注意力模块的融合网络结构参数
(2)网络初始化及网络训练
基于注意力模块的融合网络经过参数初始化后,将训练数据集输入其中,经过网络前向传播得到预测类别概率分布,并使用交叉熵损失函数计算全连接层输出的类别概率与真实概率之间的损失值,使用该损失值反向传播计算每个学习参数的梯度。最后,按照指定的学习率,根据梯度下降法的原理更新模型参数θ,所述模型参数θ包括矩阵权重W和偏置b。以模型第一次迭代学习过程为例进行说明:
初始化基于注意力模块的融合网络参数,好的初始化参数使得模型更易学习,快速收敛。本发明采用Xavier初始化方法进行网络结构参数的初始化,为了保证前向传播和反向传播时每一层的方差一致,参数随机初始化的分布范围是一个通过该层的输入参数个数nin,输出参数个数nin得到的分布范围内的均匀分布,分布范围公式为:
将所述训练集中的样本信号输入到所述基于注意力模块的融合网络模型进行前向传播,得到所述信号样本的预测标签;该过程主要包括2层卷积结构、注意力融合模块和输出层:
卷积结构:以卷积结构1(卷积层C1-ReLU层-池化层P1-残差块)为例。计算过程如下:
卷积层C1:设卷积层的卷积核大小为m,步长为S,边界填充为p,输入的序列长度为L,输入特征通道数为Kin,输出特征通道数为Kout,输入的训练数据为第j个卷积核初始化后权值矩阵Wj={Wj1,Wj2,...,WjKin},
ReLU层:ReLU激活函数计算过程如下:
conv_out=max{0,convu} (1-25)
池化层P1:设池化层步长为s,计算过程如下:
残差块:残差块里有2个具有相同输出通道数的1×5卷积层,每个卷积层之后紧跟一个ReLU激活函数,将第二个卷积层的输出结果与该残差块的输入相加,再通过一个ReLU激活函数处理,即可实现跨跃连接。因此,原先对H(x)映射做的微分,将转化为对F(x)+x的微分,这样的转化会降低问题优化的复杂度,而且可以避免梯度消散等问题,计算过程如下:
y=F(x,{Wi}+x) (1-27)
其中,y表示残差结构输出,x表示该结构的输入,{Wi}代表所做的卷积或者特征提取运算,F(x)表示对线性提取的特征做非线性的叠加激活,即ReLU激活函数。
AFF注意模块:将深度特征设为X,人工特征设为Y;深度特征和人工特征分别进行一个相应的卷积操作,使两者具有相同的维度,设卷积操作后的深度特征为X',人工特征为Y';如图1基于注意力模块的融合网络中的注意力模块AFF模块所示,深度特征X'和人工特征Y'相加后分别求取局部的注意力特征和全局的注意力特征;设输入特征为C,则相应的局部注意力特征的计算过程如式1-28所示,全局注意力的特征的计算如式1-29所示:
L(C)=B(Conv2(δ(B(Conv1(C))))) (1-28)
g(C)=B(Conv2(δ(B(Conv1(Avg(C)))))) (1-29)
其中,L(C)为局部注意力特征,g(C)为全局注意力特征,Conv1为卷积操作,卷积大小为1×1,B表示BatchNorm层,δ表示ReLU激活函数,Avg表示平均池化操作;则深度特征X'和人工特征Y'求取局部注意力特征和全局注意力特征并将两者相加后通过sigmod函数的结果M如下所示:
深度特征X'和人工特征Y'经过注意力融合模块之后的混合特征记为Z,其结果如下:
全连接层:设输入为xi,权重矩阵Wi,偏置yi,最终分类输出yi计算过程如下:
yi=Wi×xi+bi(1-32)
(3)参数更新及调优
根据设定的目标函数和得到的预测标签计算反向传播误差,利用该误差对构建的基于注意力模块的融合网络进行参数更新和调优基于注意力,具体步骤如下:
本发明用到的损失函数为交叉熵损失函数,利用交叉信息熵损失函数计算预测标签与真实标签的损失值:根据交叉信息熵损失函数计算预测事件标签与真实标签之间的距离,损失值L计算公式如下:
其中:x表示样本,n表示样本总数,a表示样本预测标签,y表示样本真实标签;
利用所述损失值反向计算所述基于注意力机制的融合网络模型的参数梯度,利用所述参数梯度更新所述基于注意力机制的融合网络深度学习模型;本发明采用Adam算法进行更新优化,计算步骤如下:
mt=u*mt-1+(1-u)*gt (1-35)
其中:gt为计算的目标梯度,mt、nt分别是梯度的一阶、二阶矩估计,u,v∈[0,1),分别为梯度一阶、二阶矩的指数衰减率。
设第t次迭代,则网络参数更新公式为:
其中:α为学习率,ε为非常小的数,防止除以零。
在基于注意力力模块的融合网络模型中,首先使用模型参数θ对网络模型进行更新。然后,根据训练损失值的变化情况,判断网络模型是否已经收敛。一旦达到收敛状态,训练过程便停止;否则,跳转到步骤(2),并继续进行迭代更新,直到达到设定的最大迭代次数。当损失函数值小于一定阈值或者迭代超过预设阈值时,认为模型已经收敛,停止以上迭代过程。最后,选择结果最佳的模型作为最终的事件辨识模型。
作为本发明的实施例六,不同网络的辨识结果及性能对比如下:
(1)二类别的泄漏数据集辨识结果
将上述得到的基于注意力模块的融合网络最优模型作为事件辨识模型,对典型待测事件进行辨识,实现在线监测供水管道泄漏信号,并与相同情况下(相同输入条件下)训练好的人工特征+SVM网络、1D-ResNet网络以及基于不同融合策略的融合网络进行比较,其中融合网络有三种:特征融合网络1只是将人工特征和深度特征拼接网络,没有注意力模块;特征融合网络2是人工特征和深度特征拼接后基于空间注意的特征融合网络;特征融合网络3是人工特征和深度特征基于注意力模块的融合网络。比较的内容包括辨识准确率(TestAccuracy)、辨识精确率(TestPrecision)等。其中1D_ResNet的网络结构参数设置如表4所示,而人工特征和深度特征拼接网络跟1D-ResNet网络相比只是在全连接层之前增加了人工特征的内容,其余结构跟1D-Resnet网络无差别,特征融合网络2的网络结构如图7所示,去掉SpaceAttention模块之后的结构即为特征融合网络1的结构,其网络结构参数如表5所示:
表4对比的1D-ResNet网络的结构参数
表5特征融合网络2的结构参数
不同网络的二分类测试集混淆矩阵如图8所示,测试集准确率分布直方图如图9所示。不同网络在各自模型参数优化后的测试集准确率、精确率、召回率和F1-score如表6所示。可以看出光有人工特征的情况下,即人工特征+SVM网络辨识准确率最低,在深度网络中辨识准确率较高,高达99%以上,并且特征融合网络3即基于注意力模块的融合网络的测试准确率、精确率、召回率等指标高达100%,相较于其他网络辨识结果最佳。
表6不同网络模型的事件识别的综台性能对比
由于人工特征+SVM网络的测试集辨识准确率较低,而且该方法依赖于提取人工特征方法的不同,在不同信号情况提取到的人工特征可能有所差别,从而导致模型难以推广。接下来的讨论主要以深度特征网络以及人工特征和深度特征融合网络为主,为了进一步分析不同网络的辨识效果以及稳定性,利用新场景下采集到的管道泄漏信号加入不同程度的噪声对不同网络进行了进一步测试,即新场景盲测,新场景下的信号分为泄漏信号跟不漏信号,其中泄漏跟不漏信号样本数均为80个,总计160个样本。其辨识结果如表7所示,分布直方图如图10所示。由于新场景泄漏情况明显,泄漏跟不漏信号区别较大,故在较高信噪比的情况下,不同网络测试结果均为100%,但随着信噪比的降低,网络表现出了不同的效果,在SNR=0时可以看到在混合特征网络辨识准确率依旧很高,特别时混合特征网络2(人工特征和深度特征拼接后基于空间注意的特征融合网络)和混合特征网络3(基于注意力模块的融合网络)正确率高达98%以上,而在SNR=-5较低信噪比下,混合特征网络3的优势更加明显,正确率依旧在90%以上,网络具有很好的抗噪声能力。
表7不同网络模型的新场景盲测结果对比
网络模型 | snr=-5 | snr=0 | snr=5 |
1Dresnet | 50.63% | 90.63% | 100.00% |
特征融合网络1 | 53.13% | 91.25% | 100.00% |
特征融合网络2 | 52.50% | 98.75% | 100.00% |
特征融合网络3 | 94.38% | 98.75% | 100.00% |
(2)三类别的泄漏数据集辨识结果
由于目前的数据集经过删选之后效果比较理想,即泄漏信号跟不漏信号区别较明显,不同的网络辨识准确率均比较高,故为了更好的检验网络的性能,进一步调整了数据集,将数据集中的泄漏信号根据泄漏情况的不同,分为了大漏跟小漏,即新数据集共有三类,大漏、小漏跟不漏,具体类别及样本数量如表2所示。
图11为不同网络在三类别信号数据集下的测试集混淆矩阵,图12为不同网络的测试集准确率分布直方图。可以发现,在三类别测试情况下,由于类别的增加以及信号复杂程度的不同,网络整体的辨识准确率相较于二类别测试均有明显的下降,且很多情况下将一些泄漏信号辨识为了不漏信号,即难以区分一些微小的泄漏情况。但通过图12可以明显的发现,特征融合网络要比单纯的深度特征网络测试准确率高,且不同的融合方式导致网络性能有所差别,其中特征融合网络3即基于注意力模块的融合网络辨识效果最佳,具有94%以上的辨识准确率,即基于注意力模块的融合网络不仅具有很好的抗噪能力和较高的辨识准确率,且可以区分大漏跟小漏的区别。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明的保护范围,任何熟悉本领域的技术人员在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.供水管道泄漏多域特征提取与融合辨识方法,其特征在于,包括以下步骤:
步骤1:构建不同类型的供水管道泄漏事件信号数据集;
步骤2:对信号数据集中包含的泄漏信号,进行人工特征和深度特征的提取;然后,基于注意力模块对人工特征和深度特征进行融合,构建包含有人工特征提取模块、深度特征提取模块和注意力融合模块的特征融合网络辨识模型,并对其进行离线训练;
其中,人工特征提取模块用于提取泄漏信号中的人工特征,深度特征提取模块用于提取泄漏信号中的深度特征,注意力融合模块用于将人工特征和深度特征进行融合;
步骤3:利用步骤2得到的特征融合网络辨识模型对供水管道待测事件的数据信号集进行辨识,从而判断供水管道是否出现泄漏事件。
2.根据权利要求1所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤1具体包括以下步骤:
步骤1.1:利用压电加速度传感器分别吸附在漏点附近不同的采集点,采集复杂背景环境下供水管道的原始信号;
步骤1.2:利用偏移采样方法对单个原始信号进行扩充,信号总长为L个采样点,所需的样本长度为N个采样点,样本起点为N0,若采用偏移采样技术,下一个样本的起点不再是第N0+N+1个采样点,而是在上一个样本起点的基础上加上偏移量ΔN,即从第N0+ΔN个采样点开始;
步骤1.3:对扩充后的数据集,按照7:3的比例随机划分为训练集和测试集,并设置相应的标签,得到不同类型事件信号数据集,有二类别信号数据集和三类别信号数据集,其中:二类别信号数据集包括泄漏信号和不漏信号,三类别信号数据集包括大漏信号、小漏信号和不漏信号。
3.根据权利要求1所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤2中,人工特征提取模块对泄漏信号数据的多域特征分析得到人工特征。
4.根据权利要求1所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述人工特征包括:谱宽参数、奇异谱值、小波包能量、AR模型系数、MFCC系数特征;
其中,谱宽参数通过下式计算得到:
式中ε为信号的谱宽参数,m0、m2、m4分别为信号的0阶、2阶、4阶谱矩;
奇异谱值通过如下过程获得:将一维的时间信号截取重组,构建二维的轨迹矩阵,对轨迹矩阵进行奇异值分解,选取前r个奇异值作为原始信号的有用成分代表信号的奇异值特征,后d-r个奇异值作为噪声被舍弃,且r<d;其中d为轨迹矩阵的非零奇异值数目,r由奇异值的贡献率来确定;
小波包能量通过如下过程获得:先选取小波基,然后设定分解层数,再构建n层的小波树,提取最后一层各节点的能量,作为信号的小波包能量特征;
AR模型系数通过求解下式获得:
式中Rxx(m)为信号的自相关函数,ak为信号的AR模型参数,p为模型阶数;
MFCC系数特征通过下式计算获得:
式中C(n)为信号的MFCC系数,s(m)为每个滤波器输出信号能量的对数,M为三角带通滤波器的个数,L为MFCC系数的阶数。
5.根据权利要求1所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,在步骤2中,所述深度特征提取模块的构成包括卷积层C1、ReLU层、池化层P1、残差块R1、卷积层C2、ReLU层、池化层P2、残差块R2;
其中,深度特征模块处理过程具体实现为:供水管道泄漏事件中的信号频谱作为网络的输入信号,然后依次通过卷积层C1、ReLU层、池化层P1、残差块R1、卷积层C2、ReLU层、池化层P2、残差块R2进行处理后,残差块R2的输出信号为泄漏信号的深度特征。
6.根据权利要求1所述所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤2中,将得到的人工特征和深度特征输入到AFF模块进行特征融合,AFF模块的输出依次通过两层全连接层后,利用SoftMax方法得到最终分类结果。
7.根据权利要求6所述所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤2中,特征融合具体包括以下步骤:
步骤3.1:将提取得到的人工特征和深度特征输入到注意力模块进行融合,构建基于注意力模块的融合网络模型,并设置网络初始化参数;
步骤3.2:训练基于注意力模块的融合网络模型并进行参数更新和网络调优,若迭代结束,保存结果最好的模型作为最终的供水管道泄漏事件辨识模型;否则,跳转至步骤3.2。
8.根据权利要求7所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤3.2具体包括以下步骤:
步骤3.2.1:初始化所述基于注意力模块的融合网络模型,包括矩阵权重和偏置;
步骤3.2.2:将所述训练集中的样本信号,经过快速傅里叶变换,将信号频谱输入到所述基于注意力模块的融合网络模型,经过前向传播得到所述信号样本的预测标签;
步骤3.2.3:根据设定的目标函数和得到的预测标签计算反向传播误差,利用该误差进行整个网络参数更新和调优。
9.根据权利要求8所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤3.2.2中,注意力模块采用AFF模块,具体实现为:将深度特征设为X,人工特征设为Y;深度特征和人工特征分别进行一个相应的卷积操作,使两者具有相同的维度,设卷积操作后的深度特征为X',人工特征为Y';然后将深度特征X'和人工特征Y'相加后分别求取局部的注意力特征和全局的注意力特征;设输入特征为C,则相应的局部注意力特征和全局注意力特征计算过程如下:
L(C)=B(Conv2(δ(B(Conv1(C))))),
g(C)=B(Conv2(δ(B(Conv1(Avg(C)))))),
其中,L(C)为局部注意力特征,g(C)为全局注意力特征,Conv1为卷积操作,卷积大小为1×1,B表示BatchNorm层,δ表示ReLU激活函数,Avg表示平均池化操作;则深度特征X'和人工特征Y'求取局部注意力特征和全局注意力特征并将两者相加后通过sigmod函数的结果M如下所示:
其中,δ'表示sigmod激活函数;
深度特征X'和人工特征Y'经过注意力融合模块之后的混合特征记为Z,其结果如下:
10.根据权利要求8所述的供水管道泄漏多域特征提取与融合辨识方法,其特征在于,所述步骤3.2.3具体包括以下步骤:
步骤3.2.3.1:利用交叉信息熵损失函数计算所述预测标签与真实标签的损失值,损失值L计算公式如下:
其中:x表示样本,n表示样本总数,a表示样本预测标签,y表示样本真实标签;
步骤3.2.3.2:利用所述损失值反向计算所述基于注意力模块的融合网络模型的参数梯度,利用所述参数梯度更新该网络模型;采用Adam算法进行优化;
步骤3.2.3.3:用模型参数θ更新基于注意力模块的融合网络模型后,利用训练损失值判断更新后的网络模型是否收敛,若收敛,保存结果最好的模型作为最终的事件辨识模型;否则,跳转至步骤3.2。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310716554.0A CN116753471A (zh) | 2023-06-15 | 2023-06-15 | 供水管道泄漏多域特征提取与融合辨识方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310716554.0A CN116753471A (zh) | 2023-06-15 | 2023-06-15 | 供水管道泄漏多域特征提取与融合辨识方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116753471A true CN116753471A (zh) | 2023-09-15 |
Family
ID=87947313
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310716554.0A Pending CN116753471A (zh) | 2023-06-15 | 2023-06-15 | 供水管道泄漏多域特征提取与融合辨识方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116753471A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117190078A (zh) * | 2023-11-03 | 2023-12-08 | 山东省计算中心(国家超级计算济南中心) | 一种输氢管网监测数据异常检测方法及系统 |
CN117890099A (zh) * | 2023-12-29 | 2024-04-16 | 北京科技大学 | 一种基于多传感器融合的齿轮箱故障智能诊断方法 |
-
2023
- 2023-06-15 CN CN202310716554.0A patent/CN116753471A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117190078A (zh) * | 2023-11-03 | 2023-12-08 | 山东省计算中心(国家超级计算济南中心) | 一种输氢管网监测数据异常检测方法及系统 |
CN117190078B (zh) * | 2023-11-03 | 2024-02-09 | 山东省计算中心(国家超级计算济南中心) | 一种输氢管网监测数据异常检测方法及系统 |
CN117890099A (zh) * | 2023-12-29 | 2024-04-16 | 北京科技大学 | 一种基于多传感器融合的齿轮箱故障智能诊断方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111933188B (zh) | 一种基于卷积神经网络的声音事件检测方法 | |
CN110491416B (zh) | 一种基于lstm和sae的电话语音情感分析与识别方法 | |
CN116753471A (zh) | 供水管道泄漏多域特征提取与融合辨识方法 | |
CN113707176B (zh) | 一种基于声信号及深度学习技术的变压器故障检测方法 | |
CN110674604A (zh) | 基于多维时序帧卷积lstm的变压器dga数据预测方法 | |
CN110045015B (zh) | 一种基于深度学习的混凝土结构内部缺陷检测方法 | |
CN106782511A (zh) | 修正线性深度自编码网络语音识别方法 | |
CN106952644A (zh) | 一种基于瓶颈特征的复杂音频分割聚类方法 | |
CN110310666B (zh) | 一种基于se卷积网络的乐器识别方法及系统 | |
CN111899757B (zh) | 针对目标说话人提取的单通道语音分离方法及系统 | |
Zhang et al. | Fault identification based on PD ultrasonic signal using RNN, DNN and CNN | |
CN113191178B (zh) | 一种基于听觉感知特征深度学习的水声目标识别方法 | |
CN113488060B (zh) | 一种基于变分信息瓶颈的声纹识别方法及系统 | |
CN111123894B (zh) | 一种基于lstm和mlp结合的化工过程故障诊断方法 | |
CN110010153A (zh) | 一种基于神经网络的静音检测方法、终端设备及介质 | |
CN108596044B (zh) | 基于深度卷积神经网络的行人检测方法 | |
CN116153337B (zh) | 合成语音溯源取证方法及装置、电子设备及存储介质 | |
CN111860246B (zh) | 面向深度卷积神经网络的心音信号分类的数据扩充方法 | |
CN115758082A (zh) | 一种轨道交通变压器故障诊断方法 | |
Xiao et al. | AMResNet: An automatic recognition model of bird sounds in real environment | |
CN117419915A (zh) | 一种多源信息融合的电机故障诊断方法 | |
CN116935892A (zh) | 一种基于音频关键特征动态聚合的工业阀门异常检测方法 | |
CN113990303B (zh) | 基于多分辨率空洞深度可分卷积网络的环境声音辨识方法 | |
CN117556311B (zh) | 一种基于多维特征融合的无监督时间序列异常检测方法 | |
CN116230017A (zh) | 语音评估方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |