CN116299684A

CN116299684A - 基于人工神经网络中双模态神经元的新型微震分类方法

Info

Publication number: CN116299684A
Application number: CN202310557711.8A
Authority: CN
Inventors: 马春驰; 徐洪伟; 张航; 李天斌; 许韦豪; 严文金; 冉雪峰; 袁炀; 蔡胡阳; 卢向前
Original assignee: Chengdu Univeristy of Technology
Current assignee: Chengdu Univeristy of Technology
Priority date: 2023-05-17
Filing date: 2023-05-17
Publication date: 2023-06-23
Anticipated expiration: 2043-05-17
Also published as: CN116299684B

Abstract

本发明涉及隧道与地下工程的勘察设计技术领域，涉及一种基于人工神经网络中双模态神经元的新型微震分类方法，包括：步骤一、采集深部隧道微震监测数据，从时域和频域两个角度观察微震数据的特征，建立数据集；步骤二、采用ST将时域信号转换为频域信号；随机将数据集分为90%的训练数据集和10%的测试数据集；步骤三、引入残余注意力、空间注意力、双卷积注意力来关注波形的突出特征；步骤四、创建双模态微震分类网，同时提取时域和频域特征，实现波形多分类；步骤五、引入k‑fold交叉验证来评估一些特殊或低质量特征对数据集的影响。本发明能较佳地进行微震分类。

Description

基于人工神经网络中双模态神经元的新型微震分类方法

技术领域

本发明涉及隧道与地下工程的勘察设计技术领域，具体地说，涉及一种基于人工神经网络中双模态神经元的新型微震分类方法。

背景技术

部署在深埋地下工程中的微震监测系统可以实时采集海量波形信号。然而，一些噪声信号具有很强的欺骗性，与微裂缝信号相似。这一问题通常需要工程师对不同域的信号特征进行比较，对微震数据的快速检测提出了挑战。

隧道工程中复杂的施工条件决定了微震和噪声信号的多样性和相似性。因此，信号的每一个域或形式都可以定义为一个模态，对多模态信息进行合理的处理可以获得丰富的特征和准确的识别结果。多模态特征提取策略已应用于各个领域。Hang等人(2020)提出了一个双峰框架，从高光谱和激光雷达数据中学习光谱和空间特征以及高程信息，以对地物进行分类。Akhtar等人(2020)提出了一种基于循环神经网络的多模态注意力框架，该框架结合了文本、视觉和听觉三种模式的信息，用于情感分析。Zeng和Du(2019)提出了一种利用一维时域信号和二维频域信号进行水下目标分类的多模态深度学习方法。Zhao等(2022)融合了亮度模式超声和对比增强超声，建立了双模式深度学习模型来确定良性和恶性肿瘤区域。然而，很少有文献介绍多模态策略用于地震/微震数据的特征提取和分类。因此，研究深埋隧道及地下工程微震数据的多模态处理策略已成为迫切需要解决的问题。

发明内容

本发明的内容是提供一种基于人工神经网络中双模态神经元的新型微震分类方法，其能够解决实际地下工程中微震信号准确分类的难题。

根据本发明的一种基于人工神经网络中双模态神经元的新型微震分类方法，其包括以下步骤：

步骤一、采集深部隧道微震监测数据，从时域和频域两个角度观察微震数据的特征，建立数据集；

步骤二、采用ST将时域信号转换为频域信号；随机将数据集分为90%的训练数据集和10%的测试数据集；

步骤三、引入残余注意力RCA、空间注意力SA、双卷积注意力DCA来关注波形的突出特征；

步骤四、创建双模态微震分类网BMCN，同时提取时域和频域特征，实现波形多分类；

步骤五、引入k-fold交叉验证来评估低质量特征对数据集的影响。

作为优选，步骤一中，建立数据集的具体操作如下：

微震信号和噪音信号的数量一致；收集的数据信号按照微震和噪音分别存放在CSV文件中。

作为优选，步骤二中，采用ST的离散化表达式如下：

；

其中X为记录的数据，N为采样点的个数，p代表时间样本数、m、n代表频率步数，m,n，p=0，1，2，…，N－1；X［n/NT］、X［m/NT］为采样信号；T为采用时间间隔；ST的结果是一个由复数构成的二维矩阵，表示ST离散后信号的幅值和相位，矩阵的列表示采样点的个数，行表示频率值。

作为优选，步骤三中，采用的残余注意力RCA的具体操作如下：

首先通过全局池化层将H×W×C的输入特征变为1×1×C进行信道描述，利用1×1核的卷积层构造上下采样层，根据比例因子r得到各信道的权重系数；因此，将权重系数11与输入特征相乘就得到新的特征；在此基础上，在CA中进行引入基于残差概念的跳过连接，以保留更多输入的初始特征；输入特征F_j首先用3×3内核输入一系列卷积层来提取特征X_j，基于CA的新特征与F_j相加生成输出特征F_j+1；

空间注意力SA具体操作如下：

首先，利用最大池化层和平均池化层对输入特征在信道维度上进行压缩，生成两个维度相同的特征H×W×1；然后将这两个特征在维数为H×W× 2的通道中进行拼接，输入核数为3×3的卷积层，基于sigmoid激活函数生成维数为H×W×1的空间权值系数；最后，SA通过将空间权重系数与输入特征相乘得到新的特征；

双卷积注意力DCA具体操作如下：

首先由3×3内核输入卷积层提取特征F_j，然后输入CA提取各通道的重要性，再将RCA结果输入SA；最后，再次使用SC将输入特征添加到SA的结果F_j+2中，使网络专注于学习高频信息，同时允许低频信息通过身份映射直接传播。

作为优选，步骤四中，搭建基于视觉几何组VGG网络的双模态分类网络，在模型训练中设置epoch 300, batch size 32；学习率设置为0.001，并使用Adam优化器进行学习率衰减；交叉熵损失函数使预测误差最小化，使模型收敛；对于网络的时域分支Branch_TD，波形的输入维数为1×30000×1，由5个具有空间重要性的重复操作组进行处理；每个组包括两个卷积层，ReLU激活函数和SA模块；对时域波形进行ST处理，得到8×30000×1维数的频域波形，8为频率间隔1250Hz的数字；为了兼顾频域信道和空间的特征，将网络的输入维度为1×30000×8；

具有信道和空间重要性的网络频域分支Branch_FD由五个重复操作组构造；每个组包括两个卷积层，ReLU激活函数和DCA模块；接下来，将网络的时域和频域分支在宽度维度上进行级联，平面化层将多维特征压缩到一维；最后，softmax激活函数将一维特征经过三层完全连通后，输出为微震、爆炸和噪声三个目标类；根据Branch_TD和Branch_FD的输入维数，卷积核分别为1×7、1×5和1×3，BMCN中的比例因子r设置为8。

作为优选，步骤五中，具体步骤如下所示：

(1)将训练数据集分成k个褶；

(2)每个折叠作为一个验证数据集，剩余的k-1折叠作为训练数据集，即模型将被训练k次；

(3)得到模型训练的k个结果，用于模型评价；

(4)根据评价指标的性能选择最优模型。

本发明的有益效果如下：

1、本发明可以解决实际地下工程中微震信号准确分类的难题。例如，它可以准确区分低振幅微震信号和高度相似的噪声信号。

2、本发明通过双模态的新型微震分类模型有利于实现对大量微震数据的自动化、智能化处理，从而减少不可避免的人工工作，提高隧道灾害评估预警系统的有效性。

3、本发明所提出的方法和多模态融合策略可应用于隧道的其他技术研究，如隧道围岩智能分类、智能信号处理、不同岩石工程领域的灾害评估等。

附图说明

图1为实施例中一种基于人工神经网络中双模态神经元的新型微震分类方法的流程图；

图2（a）为实施例中不同模式微震波形的正确率、精密度、召回率和f1得分比较图；

图2（b）为实施例中不同模式相似噪声波形的正确率、精密度、召回率和f1得分比较图；

图3为实施例中不同矩幅值M_w范围下的分类精度示意图。

具体实施方式

为进一步了解本发明的内容，结合附图和实施例对本发明作详细描述。应当理解的是，实施例仅仅是对本发明进行解释而并非限定。

实施例

如图1所示，本实施例提供了一种基于人工神经网络中双模态神经元的新型微震分类方法，包括如下步骤：

步骤一、采集深部隧道微震监测数据，从时域和频域两个角度观察微震数据的特征，建立数据集。

步骤一中，建立数据集的具体操作如下：

微震信号和噪音信号的数量应尽量一致且足够多，噪音信号种类应尽可能多的涵盖。收集的数据信号按照微震和噪音分别存放在CSV文件中。

步骤二、采用Stockwell Transform（ST）将时域信号转换为频域信号，ST可以对信号进行完整的时间或空间-频率分解，使信号具有良好的频率特性，有助于提取信号的频率特性。随机将数据集分为90%的训练数据集和10%的测试数据集。

步骤二中，采用ST的离散化表达式如下：

；

其中X为记录的数据，N为采样点的个数，p代表时间样本数、n、m代表频率步数，m,n，p=0，1，2，…，N－1；X［n/NT］、X［m/NT］为采样信号；T为采用时间间隔；注意ST的结果是一个由复数构成的二维矩阵，表示ST离散后信号的幅值和相位。矩阵列表示采样点的个数，行表示频率值。因此，矩阵的列向量表示信号在特定时刻随频率变化的幅值分布。本实施例将ST的频率区间设置为1250 Hz，并将频率系数的绝对值作为CNN的输入。

步骤三、引入残余注意力（RCA）、空间注意力（SA）、双卷积注意力（DCA）来关注波形的突出特征。

步骤三中，采用的残余注意力（RCA）具体操作如下：

首先通过全局池化层将H×W×C的输入特征变为1×1×C进行信道描述，利用1×1核的卷积层构造上下采样层，根据比例因子r (sigmoid激活函数在0~1之间)得到各信道的权重系数。因此，将权重系数11与输入特征相乘就可以得到新的特征，整个过程就是对不同通道的特征进行重新分配。在此基础上，在CA中进行引入基于残差概念的跳过连接(SC)，以保留更多输入的初始特征。输入特征F_j首先用3×3内核输入一系列卷积层来提取特征X_j，基于CA的新特征与F_j相加生成输出特征F_j+1。因此，RCA模块调整每个特征通道的重要性，使这些通道的目标信息更加突出。

空间注意力（SA）具体操作如下：

首先，利用最大池化层和平均池化层对输入特征在信道维度上进行压缩，生成两个维度相同的特征H×W×1;然后将这两个特征在维数为H×W× 2的通道中进行拼接，输入核数为3×3的卷积层，基于sigmoid激活函数生成维数为H×W×1的空间权值系数。最后，SA模块通过将空间权重系数与输入特征相乘得到新的特征。

双卷积注意力(DCA)具体操作如下：

首先由3×3内核输入卷积层提取特征F_j，然后输入CA提取各通道的重要性，再将RCA结果输入SA，实现具有空间重要性的特征提取。最后，再次使用SC将输入特征添加到SA的结果F_j+2中，使网络专注于学习高频信息，同时允许低频信息通过身份映射直接传播。此外，它可以保证信息的流动，加速网络的训练。在这种情况下，DCA模块可以在提高对目标信息关注度的同时，提取输入中主要特征的不同通道和空间的重要性。

步骤四、创建双模态微震分类网（BMCN），同时提取时域和频域特征，实现波形多分类。

步骤四、搭建基于视觉几何组（VGG）网络的双模态分类网络，在模型训练中设置epoch 300, batch size 32。学习率设置为0.001，并使用Adam优化器进行学习率衰减。交叉熵损失函数使预测误差最小化，使模型收敛。对于网络的时域分支(Branch_TD)，波形的输入维数为1×30000×1，由5个具有空间重要性的重复操作组进行处理。每个组包括两个卷积层，ReLU激活函数和SA模块。对时域波形进行ST处理，得到8×30000×1维数的频域波形。8为频率间隔1250Hz的数字。为了兼顾频域信道和空间的主要特征，将网络的输入维度8×30000×1改为1×30000×8。

具有信道和空间重要性的网络频域分支(Branch_FD)由五个重复操作组构造。每个组包括两个卷积层，ReLU激活函数和DCA模块。接下来，将网络的时域和频域分支在宽度维度上进行级联，平面化层将多维特征压缩到一维。最后，softmax激活函数将一维特征经过三层完全连通后，输出为微震、爆炸和噪声三个目标类。根据Branch_TD和Branch_FD的输入维数，卷积核分别为1×7、1×5和1×3, BMCN中的比例因子r设置为8。

步骤五、引入k-fold交叉验证来评估一些特殊或低质量特征对数据集的影响。该方法从训练数据集中分离出一部分作为验证数据集来评估模型的训练效果。客观评价该模型与训练数据集外数据的匹配性能。与人工识别微震信号相比，本发明操作简单快捷，可以取代人工识别，实现隧道与地下工程岩爆灾害实时监测工作的智能化与自动化。

步骤五、具体步骤如下所示：

(1)将训练数据集分成k个褶;

(2)每个折叠作为一个验证数据集，剩余的k-1折叠作为训练数据集，这意味着模型将被训练k次;

(3)得到模型训练的k个结果，用于模型评价;

(4)根据评价指标的性能选择最优模型。

本实施例究使用五重交叉验证，以确保每个验证折叠包含超过3000个波形。此外，在时域、频域和时频域组合三种模式下，记录有或没有注意力机制的模型训练分类性能。其中时频组合模式代表了完整BMCN模型的训练。另外两种模式表示只训练网络的时域分支或频域分支。由于单峰特征提取，需要去除级联层。结果表明，结合时域和频域的波形特征有助于提高分类性能。此外，增加对特征的通道和空间的关注，可以增加目标信息的焦点，减少低价值信息的干扰。

本方法可以解决实际地下工程中微震信号准确分类的难题。例如，它可以准确区分低振幅微震信号和高度相似的噪声信号。本方法通过双模态的新型微震分类模型有利于实现对大量微震数据的自动化、智能化处理，从而减少不可避免的人工工作，提高隧道灾害评估预警系统的有效性。本方法和多模态融合策略可应用于隧道的其他技术研究，如隧道围岩智能分类、智能信号处理、不同岩石工程领域的灾害评估等。

案例分析

在大峡谷隧道微震监测过程中，遇到了对微震事件和相似噪声进行准确分类的问题。本工作旨在增强微震波形在不同模式下的特征表示，提高分类性能，减少相似噪声对低振幅微震波形的干扰。为此，对500个低振幅微震波形和500个相似噪声波形进行了不同模式(即时域、频域、时频组合及其注意力机制)的测试。记录准确率(accuracy)、精密度(precision)、召回率(recall)、F1-score等指标，评价模型的分类性能。对比结果如表1、图2（a）和图2（b）所示（TD和TD_Att, FD和FD_Att, TFD和TFD_Att分别代表了在时域、频域和时频组合中有或没有注意力机制的模型训练）。值得注意的是，无论是微震波形还是相似噪声波形，基于评价指标结果的时频组合分类优于时域或频域分类。此外，低振幅微震波形在频域的综合分类性能略好于时域，因为微震与相似噪声波形在频域的差异提高了检测精度。此外，微震波形和相似噪声波形未被归类为爆炸波形，说明该模型有效地提取了爆炸波形的特征。因此，该方法可以更好地消除与微震/地震数据高度相似的噪声信号，有助于减少微震波形的腐败，提高岩爆风险评估的准确性。

表1不同模式下微震和相似噪声事件的试验结果

在此基础上，对美国大峡谷隧道和米仓山隧道在不同弯矩量级下的微震数据进行了分类性能评价。矩震级（M_w）通常用于评估一次微震/地震的强度。因此，测试了300个M_w值在−0.5~1.5之间的微震事件(每个事件包括6个波形)。图3显示了不同M_w值下的分类精度结果；研究发现：(1)增加M_w可以提高分类精度；(2)当微震事件的M_w达到0.9时，模型精度较高，模型趋于收敛；(3) M_w≥0.0的微震事件可以很好地探测到，而低M_w的微震事件的探测可能是一个挑战。

此外，快速准确的波形检测是实时有效的灾害预测的基础。因此，利用上述数据检验了BMCN方法的计算运行时间。共1800个记录波形的数据准备(主要是ST)、模型加载和模型测试的时间成本分别约为4、1和1秒。除模型加载外，单个记录数据的时间成本约为4.7ms。测试结果表明，BMCN方法可以有效地实现实际工程中的波形检测。与人工检测相比，该方法节省了大量时间，有利于灾害预测。

以上示意性的对本发明及其实施方式进行了描述，该描述没有限制性，附图中所示的也只是本发明的实施方式之一，实际的结构并不局限于此。所以，如果本领域的普通技术人员受其启示，在不脱离本发明创造宗旨的情况下，不经创造性的设计出与该技术方案相似的结构方式及实施例，均应属于本发明的保护范围。

Claims

1.基于人工神经网络中双模态神经元的新型微震分类方法，其特征在于：包括以下步骤：

2.根据权利要求1所述的基于人工神经网络中双模态神经元的新型微震分类方法，其特征在于：步骤一中，建立数据集的具体操作如下：

3.根据权利要求1所述的基于人工神经网络中双模态神经元的新型微震分类方法，其特征在于：步骤二中，采用ST的离散化表达式如下：

；

其中X为记录的数据，N为采样点的个数，p代表时间样本数、n、m代表频率步数，m, n，p=0，1，2，…，N－1；X［n/NT］、X［m/NT］为采样信号；T为采用时间间隔；ST的结果是一个由复数构成的二维矩阵，表示ST离散后信号的幅值和相位，矩阵的列表示采样点的个数，行表示频率值。

4.根据权利要求1所述的基于人工神经网络中双模态神经元的新型微震分类方法，其特征在于：步骤三中，采用的残余注意力RCA的具体操作如下：

空间注意力SA具体操作如下：

双卷积注意力DCA具体操作如下：

5.根据权利要求1所述的基于人工神经网络中双模态神经元的新型微震分类方法，其特征在于：步骤四中，搭建基于视觉几何组VGG网络的双模态分类网络，在模型训练中设置epoch 300, batch size 32；学习率设置为0.001，并使用Adam优化器进行学习率衰减；交叉熵损失函数使预测误差最小化，使模型收敛；对于网络的时域分支Branch_TD，波形的输入维数为1×30000×1，由5个具有空间重要性的重复操作组进行处理；每个组包括两个卷积层，ReLU激活函数和SA模块；对时域波形进行ST处理，得到8×30000×1维数的频域波形，8为频率间隔1250Hz的数字；为了兼顾频域信道和空间的特征，将网络的输入维度为1×30000×8；

6.根据权利要求1所述的基于人工神经网络中双模态神经元的新型微震分类方法，其特征在于：步骤五中，具体步骤如下所示：

(1)将训练数据集分成k个褶；

(3)得到模型训练的k个结果，用于模型评价；

(4)根据评价指标的性能选择最优模型。