CN112130216B - 基于卷积神经网络多物探法耦合的地质超前精细预报方法 - Google Patents

基于卷积神经网络多物探法耦合的地质超前精细预报方法 Download PDF

Info

Publication number
CN112130216B
CN112130216B CN202010838252.7A CN202010838252A CN112130216B CN 112130216 B CN112130216 B CN 112130216B CN 202010838252 A CN202010838252 A CN 202010838252A CN 112130216 B CN112130216 B CN 112130216B
Authority
CN
China
Prior art keywords
geological
layer
geophysical prospecting
neural network
classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010838252.7A
Other languages
English (en)
Other versions
CN112130216A (zh
Inventor
陈再励
吴立
董道军
程瑶
闫天俊
李丽平
张美霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China University of Geosciences
Original Assignee
China University of Geosciences
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China University of Geosciences filed Critical China University of Geosciences
Priority to CN202010838252.7A priority Critical patent/CN112130216B/zh
Publication of CN112130216A publication Critical patent/CN112130216A/zh
Application granted granted Critical
Publication of CN112130216B publication Critical patent/CN112130216B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V3/00Electric or magnetic prospecting or detecting; Measuring magnetic field characteristics of the earth, e.g. declination, deviation
    • G01V3/38Processing data, e.g. for analysis, for interpretation, for correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Geology (AREA)
  • Remote Sensing (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Geophysics (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,包括:首先建立多物探法‑多地质分类耦合的地质富标签样本数据集;然后构建基于特征提取的多目标识别分类神经网络模型;采用所述样本数据集对多目标识别分类神经网络模型进行训练;最后将多种物探法得到的图像结果数据输入至训练好的多目标识别分类神经网络模型,并结合多物探法检测结果权重耦合策略,得到综合预报结果。本发明的有益效果是:可以准确地预报隧道等地下工程建设过程中所通过范围内的不良地质体的位置规模和性质状态,为工程设计及施工管理部分提供决策依据,降低现有地质预报物探法解释性低、依赖专家经验、预测准确率不高的问题,提升工程施工的安全性。

Description

基于卷积神经网络多物探法耦合的地质超前精细预报方法
技术领域
本发明涉及地质超前预报技术领域,尤其涉及一种基于卷积神经网络多物探法耦合的地质超前精细预报方法。
背景技术
在隧道建设的勘察阶段,需要查清隧道区域的工程和水文地质情况,为设计部门提供地质资料并作为设计依据。当前,工程上多采用基于物探法进行隧道地质超前预报,但现有通过物探传感器检测得到的波形数据图像,需要经过具有经验的专家解释,在预报过程中存在着对物探法预报结果解释性低、依赖专家经验、预报准确率不高的问题。
近年随着深度学习(Deep Learning)的快速发展,卷积神经网络(CNN,Convolutional Neural Networks)基于其特征采样、权重共享、运算降维的特性优点,在图像分类、目标检测、图像理解等领域取得了广泛的应用。
本申请基于深度卷积神经网络对物探法(地质雷达、TSP、瞬变电磁等)探测结果图像进行自动辨识及概率分类,研发具有较好泛化性能的预报网络模型系统,提升超前地质预报可解释性及准确度。
发明内容
为了解决上述问题,本发明提供了一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,通过超前地质预报案例采集、分析及机理研究,研究基于卷积神经网络的物探测量图像特征提取方法,建立整体-局部多层次的不良地质定位与类型预测模型;探索多种物探方法耦合的不良地质定位预测最优组合,提升超前地质预报结果可解释性;建立基于深度学习的隧道不良地质超前精细预报方法体系,为工程设计及施工管理部分提供决策依据,满足实际工程应用需求。
一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:包括以下步骤:
S101:建立多物探法-多地质分类耦合的地质富标签样本数据集;
S102:构建基于特征提取的多目标识别分类神经网络模型;
S103:采用所述样本数据集,对所述多目标识别分类神经网络模型进行训练,得到训练好的多目标识别分类神经网络模型;
S104:将多种物探法得到的图像结果数据分别输入至所述训练好的多目标识别分类神经网络模型,得到多种物探法对应的检测结果,并结合多物探法检测结果权重耦合策略,得到综合预报结果。
进一步地,步骤S101中,样本数据集建立具体步骤如下:
S201:地质类型标签确定:根据隧道内岩土破碎程度及含水量,将隧道地质类型分为6种类型:空腔型溶洞、泥夹石填充型溶洞、局部破碎围岩、富水破碎围岩、低含水量全破碎围岩和无明显异常围岩;
S202:根据各物探法适用场景特点及应用优势,案例收集或者现场采集相应的多张探测图像数据,并采用专家经验法确定各探测图像数据上6种地质类型位置分布及相应地质类型,以6种对应地质类型作为标签内容进行数据标注,得到多物探法-多地质分类耦合的地质富标签样本数据集;所述物探法包括:地质雷达、TSP和瞬变电磁;
S203:根据各物探法的优势特点对各地质类型赋予一个影响权重因子,得到影响权重因子矩阵。
进一步地,步骤S203中,采用专家打分法,根据某一物探法对某一种地质类型的探测精度,基于模糊逻辑理论设置极高、高、一般、较低、低5档,并以 1~10打分,综合得到三种物探法-六种地质类型预测精度影响打分矩阵M3×6;再对M3×6按行进行归一化,得到影响权重因子λij;公式如下:
Figure GDA0003183666510000021
其中,i=1,2,3;j=1,2,3,..,6;λij表示第i种物探法对第j种地质类型的影响权重因子;Mi,j表示第i种物探法对第j种地质类型的探测精度对应的分数。
进一步地,步骤S102中,所述多目标识别分类神经网络模型包括依次连接的特征提取基础网络和特征结果分类网络;
其中,所述特征提取基础网络包括依次连接的:CBR块、最大池化层、 BaseRN1层、2个BaseRN0层、BaseRN1层、3个BaseRN0层、BaseRN1层、5 个BaseRN0层;
所述特征结果分类网络包括依次连接的:CBR块、最大池化层、全连接层和Softmax层。
进一步地,所述CBR块包括依次连接的卷积层、正则化层和激活层;其中, C代表卷积层,B代表正则化层Batch Norm,R代表激活层;在本发明实施例中,采用Leaky-ReLU激活函数。
进一步地,BaseRN1层和BaseRN0层均基于残差网络思想设计,引入残差项,便于构建深度网络模型;其中,BaseRN0层和BaseRN1层中主干均为CBR-CBR-CB模块,且BaseRN0层和BaseRN1层中主干CBR-CBR-CB模块参数一致,具体为:第一个CBR块的滤波器尺寸为1×1,64个通道;第二个CBR 块的滤波器尺寸为3×3,64个通道;第三个CB块的滤波器尺寸为1×1,256个通道;BaseRN0层中分支CB块的滤波器尺寸与主干的CB块滤波器尺寸一致,BaseRN1中分支CBR块的滤波器尺寸与主干的第一个CBR块的滤波器尺寸一致;所述CB块包括依次连接的卷积层和正则化层。
进一步地,在所述特征提取基础网络中,特征提取层的输出特征映射以16 倍的因子进行四级下采样,在空间分辨率和提取特征强度之间进行折中,激活层 Leaky-ReLU的最后输出为14×14×1024;所述特征提取网络采用四个阶段对输入图像进行2倍的降采样,实现16倍的下采样:具体如下:
第一阶段:输入尺寸大小为W×H×C的三通道RGB图像,在第一阶段输入进入一个CBR块,其中,W=256为图像的宽,H=256为图像的高,C=3代表图像三通道;此CBR块中滤波器尺寸为1×1,64个通道,经过CBR块一次下采样,此时输出的图像尺寸大小为128×128×64;
第二阶段:首先通过一个过滤器为3×3和步幅2的最大池化层,然后再通过一个BaseRN1层和2个BaseRN0层;通过第二阶段后输出的图像尺寸大小为 64×64×256;
第三阶段:将第二阶段的输出输入至依次连接的1个BaseRN1层和3个 BaseRN0层,通过BaseRN0层、BaseRN1层的组合得到更深层的网络模型结构,输出图形尺寸大小为32×32×512;
第四阶段:将第三阶段的输出输入至依次连接的1个BaseRN1层和5个 BaseRN0层,通过BaseRN0、BaseRN1的不同组合进一步得到更深层的网络模型结构,输出图像尺寸大小为16×16×1024。
进一步地,在特征结果分类网络中:将特征提取基础网络的输出结果输入特征分类网络中,通过CBR块后对原始特征进行粗处理,然后利用最大池化层有效降低模型参数误差造成的特征估计均值的偏移影响,最后连接全连接层及softmax层进行定位及分类,通过多任务损失函数的设计实现对不良地质位置和不良地质类型分类的同时检测。
进一步地,步骤S103中,采用基于半监督迁移学习的训练框架,对多目标识别分类神经网络模型的参数进行镇定寻优;
训练时,设计多任务损失函数,具体针对目标分类和目标区域预测定位两大任务;其中:
目标分类任务损失函数Lcls:检测出来的目标候选区域对应的地质类型为u,其中u属于6种地质类型中的任意一种;目标分类的输入是特征提取基础网络的输出特征张量向量T=[T1,T2,...,T6],T1,T2,...,T6分别表示六种地质类型对应的特征张量,输出是目标候选区域地质类型u的概率置信度
Figure GDA0003183666510000041
分别表示预测结果是第一种地质类型至第六种地质类型的概率值;其中:
Figure GDA0003183666510000042
采用softmax损失函数构建Lcls
Figure GDA0003183666510000103
目标检测定位任务损失函数Lloc:对于候选区域所属的地质类型u,其对应的定位区域预测表征量定义为
Figure GDA0003183666510000044
实际通过数据标注得到该候选区域实际范围真实值定义为v={vx,vy,vw,vh);其中,
Figure GDA0003183666510000045
表示第u种地质类型的位置预测的结果,
Figure GDA0003183666510000046
代表预测矩形区域的中心点横坐标和纵坐标,
Figure GDA0003183666510000051
代表预测矩形的长宽(w,h);v={vx,vy,vw,vh}表示实际标注的结果,代表真实值,vx,vy代表不良地质区域框的中心点横坐标和纵坐标,vw,vh代表不良地质区域框的长宽,Prob为每种地质类型的预测概率;
采用如下损失函数表征Lloc
Figure GDA0003183666510000052
其中,
Figure GDA0003183666510000053
上式中,λ为预设的正超参数;
综合得到目标分类与目标检测分类耦合的多任务损失函数L(u,Prob,pu,v),通过权重因子λ1来实现模型在定位与分类精度的一个平衡:
L(u,Prob,pu,v)=(1-λ1)Lcls(p,u)+λ1Lloc(pu,v),λ1∈[0,1]
上式中,λ1为预设值,需根据任务实际情况调整。
进一步地,步骤S104中,所述多物探法检测结果权重耦合策略;具体包括:
基于影响权重因子矩阵λweight,设计多物探法耦合的预报方法;综合预报结果Pres
Figure GDA0003183666510000054
上式中,i=1,2,3分别代表TSP、地质雷达、瞬变电磁三种物探法;
Figure GDA0003183666510000055
Figure GDA0003183666510000056
分别代表物探结果Pi对应的6种地质类型的检测结果向量,具体地,
Figure GDA0003183666510000057
Figure GDA0003183666510000058
Figure GDA0003183666510000059
Pi是多目标识别分类神经网络模型最终的输出结果矩阵,这个矩阵中的向量代表了某一物探方法对六种类型地质的预测结果向量[Prob,pu],其中Prob中包括每种地质类型的预测概率,概率最高的值对应的地质类型代表预报是该地质类型;pu是预测结果中对应最高概率的地质类型的区域框
Figure GDA00031836665100000510
其中:
Figure GDA0003183666510000061
j=1,2,3,4,5,6,代表6种地质类型,λij表示第i种物探法对第j种地质类型的影响权重因子;
本发明提供的技术方案带来的有益效果是:本申请所提出的技术方案可以准确地预报隧道等地下工程建设过程中所通过范围内的不良地质体的位置规模和性质状态,为工程设计及施工管理部分提供决策依据,降低现有地质预报物探法解释性低、依赖专家经验、预测准确率不高的问题,提升工程施工的安全性。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是本发明实施例中一种基于卷积神经网络多物探法耦合的地质超前精细预报方法的流程图;
图2是本发明实施例中多目标识别分类神经网络模型的结构图。
具体实施方式
为了对本发明的技术特征、目的和效果有更加清楚的理解,现对照附图详细说明本发明的具体实施方式。
本发明的实施例提供了一种基于卷积神经网络多物探法耦合的地质超前精细预报方法。
请参考图1,图1是本发明实施例中一种基于卷积神经网络多物探法耦合的地质超前精细预报方法的流程图,具体包括如下步骤:
S101:建立多物探法-多地质分类耦合的地质富标签样本数据集;
S102:构建基于特征提取的多目标识别分类神经网络模型;
S103:采用所述样本数据集,对所述多目标识别分类神经网络模型进行训练,得到训练好的多目标识别分类神经网络模型;
S104:将多种物探法得到的图像结果数据分别输入至所述训练好的多目标识别分类神经网络模型,得到多种物探法对应的检测结果,并结合多物探法检测结果权重耦合策略,得到综合预报结果。
采集多种物探法探测结果数据,建立多种地质类型分类的针对隧道工程的超前地质预报富标签样本数据集矩阵,提升数据集的丰富性及适用范围,便于综合多种物探法优势及提高本方法在不同场景下的适用性;
步骤S101中,样本数据集建立具体步骤如下:
S201:地质类型标签确定:根据隧道内岩土破碎程度及含水量,将隧道地质类型分为6种类型:空腔型溶洞、泥夹石填充型溶洞、局部破碎围岩、富水破碎围岩、低含水量全破碎围岩和无明显异常围岩(III级围岩);
S202:根据各物探法适用场景特点及应用优势,案例收集或者现场采集相应的多张探测图像数据,并采用专家经验法确定各探测图像数据上6种地质类型位置分布及相应地质类型,以6种对应地质类型作为标签内容进行数据标注,得到多物探法-多地质分类耦合的地质富标签样本数据集;所述预报分析结果指传统的超前地质预报,专家肉眼识图来判断是否存在不良地质;
S203:按照8∶2的比例,将所述样本数据集分为训练数据集和测试数据集,完成数据集构建;并根据各物探法的优势特点对各地质类型赋予一个影响权重因子,得到影响权重因子矩阵。所述物探法包括:地质雷达、TSP和瞬变电磁等。
步骤S202中,多张探测图像数据中:每种物探法数据样本量大于3000幅,同时从数据集合理均衡角度考虑,各地质类型数据集容量大于500幅,对标签数据量不足者,应用图像数据增广方法实现扩容;本方法检测结果精度随着数据集数量和质量的增加不断提升,因此在后续工作中持续积累相关数据。
步骤S203中,采用专家打分法,根据某一物探法对某一种地质类型的探测精度,基于模糊逻辑理论设置极高、高、一般、较低、低5档,并以1~10打分,综合得到三种物探法-六种地质类型预测精度影响打分矩阵M3×6;再对M3×6按行进行归一化,得到影响权重因子λij;公式如下:
Figure GDA0003183666510000071
其中,i=1,2,3;j=1,2,3,..,6;λij表示第i种物探法对第j种地质类型的影响权重因子;Mi,j表示第i种物探法对第j种地质类型的探测精度对应的分数;不同的探测方法对不同的地质类型适应性不同,加入权重因子有利于后续综合判断时,将多种物探结果融合,提高结果精确性;
例如:采用专家打分法,根据TSP对富水破碎围岩的探测精度为极高,打分为10分;依次根据TSP对剩余5种地质类型的探测精度得到对应的5个打分,共得到TSP对6种地质类型探测精度对应的6个分数;
同理可以得到剩余两种物探法分别对6种地质类型探测精度对应的6个分数;综合得到3×6的影响打分矩阵M3×6
针对隧道工程复杂地质环境下不良地质类型识别分类难度大的问题,基于深度学习的特征提取方法,设计具有多目标识别分类功能的神经网络模型,判断图像中是否存在多种不良地质及定位区域;
请参阅图2,图2是本发明实施例中多目标识别分类神经网络模型的结构图;步骤S102中,所述多目标识别分类神经网络模型包括依次连接的特征提取基础网络和特征结果分类网络;
其中,所述特征提取基础网络包括依次连接的:CBR块、最大池化层、 BaseRN1层、2个BaseRN0层、BaseRN1层、3个BaseRN0层、BaseRN1层、5 个BaseRN0层;
所述特征结果分类网络包括依次连接的:CBR块、最大池化层、全连接层和Softmax层;
其中,所述CBR块包括依次连接的卷积层、正则化层和激活层;其中,C 代表卷积层,B代表正则化层Batch Norm,R代表激活层;在本发明实施例中,采用Leaky-ReLU激活函数;避免传统ReLU激活函数在负区间神经元静默的问题;
BaseRN1层和BaseRN0层均基于残差网络思想设计,引入残差项,便于构建深度网络模型;其中,BaseRN0层和BaseRN1层中主干均为CBR-CBR-CB模块,且BaseRN0层和BaseRN1层中主干CBR-CBR-CB模块参数一致,具体为:第一个CBR块的滤波器尺寸为1×1,64个通道;第二个CBR块的滤波器尺寸为 3×3,64个通道;第三个CB块的滤波器尺寸为1×1,256个通道;BaseRN0层中分支CB块的滤波器尺寸与主干的CB块滤波器尺寸一致,BaseRN1中分支CBR块的滤波器尺寸与主干的第一个CBR块的滤波器尺寸一致;所述CB块包括依次连接的卷积层和正则化层。
在所述特征提取基础网络中,最后特征提取层的输出特征映射以16倍的因子进行四级下采样,在空间分辨率和提取特征强度之间进行折中,激活层 Leaky-ReLU的最后输出为14×14×1024;所述特征提取网络采用四个阶段对输入图像进行2倍的降采样,实现16倍的下采样:具体如下:
第一阶段:输入尺寸大小为W×H×C的三通道RGB图像,在第一阶段输入进入一个CBR块,如图2所示;其中,W=256为图像的宽,H=256为图像的高, C=3代表图像三通道;此CBR块中滤波器尺寸为1×1,64个通道,经过CBR块一次下采样,此时输出的图像尺寸大小为128×128×64;
第二阶段:首先通过一个过滤器为3×3和步幅2的最大池化层,然后再通过一个BaseRN1层和2个BaseRN0层;通过第二阶段后输出的图像尺寸大小为 64×64×256;
BaseRN0层和BaseRN1层均基于残差网络的思想设计,是对ResNet残差模块的改进升级版本;BaseRN0层、BaseRN1层后均接leaky-ReLU激活函数,是一种通用处理方式;
第三阶段:将第二阶段的输出输入至依次连接的1个BaseRN1层和3个 BaseRN0层,通过BaseRN0层、BaseRN1层的组合得到更深层的网络模型结构,输出图形尺寸大小为32×32×512;
第四阶段:将第三阶段的输出输入至依次连接的1个BaseRN1层和5个 BaseRN0层,通过BaseRN0、BaseRN1的不同组合进一步得到更深层的网络模型结构,输出图像尺寸大小为16×16×1024;
其中,在第三阶段和第四阶段,也可以根据需求,通过增加或者减少BaseRNO层和BaseRN1层来提升模型深度。
在特征结果分类网络中:将特征提取基础网络的输出结果输入特征分类网络中,通过CBR块后对原始特征(第四阶段输出的特征张量结果)进行粗处理,然后利用最大池化层有效降低模型参数误差造成的特征估计均值的偏移影响,最后连接全连接层及softmax层进行定位及分类,通过多任务损失函数的设计实现对不良地质位置和不良地质类型分类的同时检测。
步骤S103中,由于地质超前预报中各类地质类型的数据样本数量小及种类不均衡性,极易导致深度神经网络出现过拟合及各类精度不均现象,因此设计基于半监督迁移学习的训练框架,对多目标识别分类神经网络模型的参数进行镇定寻优;
训练时,设计所述多任务损失函数,具体针对目标分类和目标区域预测定位两大任务(先目标分类,再进行区域预测定位);其中:
目标分类任务损失函数Lcls:检测出来的目标候选区域对应的候选分类的类别为u,其中u∈{1,2,...,n}地质类型集合,本发明实施例中针对6类地质类型,n=6;目标分类的输入是特征提取基础网络的输出特征张量向量T=[T1,T2,...,T6], T1,T2,...,T6分别表示六种地质类型对应的特征张量,输出是候选区域地质类型u的概率置信度
Figure GDA0003183666510000101
分别表示预测结果是第一种地质类型至第六种地质类型的概率值;其中:
Figure GDA0003183666510000102
采用softmax损失函数构建Lcls
Figure GDA0003183666510000103
目标检测定位任务损失函数Lloc:对于候选区域所属的类别u∈{1,2,...,n},本发明实施例中n=6代表6类地质类型,其对应的定位区域预测表征量定义为
Figure GDA0003183666510000104
Figure GDA0003183666510000105
实际通过数据标注得到该候选区域实际范围真实值ground-truth 定义为v={vx,vy,vw,vh};其中,
Figure GDA0003183666510000106
表示第u种地质类型的位置预测的结果,
Figure GDA0003183666510000107
代表预测矩形区域的中心点,
Figure GDA0003183666510000108
代表预测矩形的长宽 (w,h);v={vx,vy,vw,vh}表示实际标注的结果,代表真实值ground-truth,vx,vy代表不良地质区域框的中心,vw,vh代表不良地质区域框的长宽;
采用如下损失函数表征Lloc
Figure GDA0003183666510000109
其中,
Figure GDA00031836665100001010
上式中,λ为预设的正超参数,通过调节该值,可以调整训练收敛的速度,一般地设为λ=0.5;
综合得到目标分类与目标检测分类耦合的多任务损失函数L(u,Prob,pu,v),通过权重因子λ1来实现模型在定位与分类精度的一个平衡:
L(u,Prob,pu,v)=(1-λ1)Lcls(p,u)+λ1Lloc(pu,v),λ1∈[0,1]
上式中,λ1为预设值,需根据任务实际情况调整,需要定位精度高,则λ1 大,1-λ1变小,λ1Lloc(pu,v)在总损失函数中占比升高,模型训练更侧重定位精度;反之,则反。
半监督迁移学习的反馈训练方法框架:在S101中构建的样本数据集属于小样本数据集,针对超前地质预报数据小样本的特性,通过半监督迁移学习方法提升训练速度及所述多目标识别分类神经网络模型在不同数据样本的模型迁移能力,具体包括:
S301:先基于大样本数据集A预先训练原始多目标识别分类神经网络模型,得到预训练后的多目标识别分类神经网络模型A;所述大样本数据集可以使用ImageNet等;
S302:将所述样本数据集中训练数据集中的完成标注的有标签样本BL和部分无标签样本(不提供标注结果的数据集)BU分别输入模型A,得到模型A的中间层特征FL和Fu,作为模型B;
S303:根据无标签样本中间层特征Fu与有标签样本中间层特征FL的相似性,暂时确定无标签样本的标签;
S304:将模型A的前t层参数冻结,或初始化赋值于模型B,然后将样本数据集中训练数据集中有标签和无标签的样本都输入模型B进行迁移训练,对后t至L 层参数进行重新训练或对前t层参数进行微调(根据经验调节t的取值),训练过程中已有标签及暂定标签同时进行反馈;其中,L为所述多目标识别分类神经网络模型的总层数,t属于(1,L),为根据经验预先设定的值;
采用测试数据集对当前多目标识别分类神经网络模型进行测试,并判断测试是否达到要求;若是,则将当前的多目标识别分类神经网络模型作为训练好的多目标识别分类神经网络模型;否则,采用所述训练数据集对所述模型B的后t至L 层参数进行重新训练,根据训练数据集标签反馈训练,得到模型B的所有参数;同时可以微调模型参数,来优化结果,直到训练后的目标预测定位神经网络模型B能够满足任务要求;
通过以上流程,达到利用已训练模型向待训练的小样本模型输出样本标签与参数的目的,提升模型训练的速度,并实现地质分类模型参数镇定寻优;得到训练好的多目标识别分类神经网络模型。
训练过程中需要有训练数据集和测试数据集,训练过程是重复N次epoch 来不断的更新参数,直至结果最优,每次训练过程中,先通过训练数据集训练得到模型参数,然后通过测试数据集评估该组参数,然后进行下个epoch的训练,直到完成设定的N次epoch训练或者评估结果满足预先设置的要求。
步骤S104中,将多种物探法得到的图像结果数据分别输入至所述训练好的多目标识别分类神经网络模型,得到多种物探法对应的检测结果,并结合多物探法检测结果权重耦合策略,得到综合预报结果;
所述多物探法检测结果权重耦合策略,不同物探方法应用场景、适用范围不一,对不同地质类型的检测效果有异;具体包括:
基于所述影响权重因子矩阵λweight,设计多物探法耦合的预报方法:
Figure GDA0003183666510000121
i=1,2,3,代表三种物探法;j=1,2,3,4,5,6,代表6种地质类型;λij表示第i种物探法对第j种地质类型的影响权重因子。
在实际应用时,针对TSP、地质雷达、瞬变电磁(N=3)三种物探法(可根据实际需求进行扩展),面向6种地质类型M=6(可根据实际需求进行扩展),在某一标段的检测可能采用单一或者多种方法物探预报,单一物探结果:
Figure GDA0003183666510000122
其中,i=1,2,3分别代表TSP、地质雷达、瞬变电磁(N=3)三种物探法;
Figure GDA0003183666510000123
分别代表物探结果Pi对应的6种地质类型的检测结果向量,具体地,
Figure GDA0003183666510000124
Pi是多目标识别分类神经网络模型最终的输出结果矩阵,这个矩阵中的向量
Figure GDA0003183666510000131
代表了某一物探方法对六种类型地质的预测结果向量[Prob,pu],其中Prob中包括:
每种地质类型的预测概率,概率最高的值对应的地质类型代表预报是该地质类型;pu是预测结果中对应最高概率的地质类型的区域框
Figure GDA0003183666510000132
其中,
Figure GDA0003183666510000133
代表该区域矿的中心点横坐标和纵坐标,
Figure GDA0003183666510000134
代表该区域框的长宽;
综合预报结果Pres
Figure GDA0003183666510000135
其中,i是实际投入的第i种物探法,j是预报的地质类型。实现了多物探法预报结果的耦合,并通过权重矩阵的应用提升预报结果精度和适应性。
在实际应用中,输入某物探法得到图像结果数据,自动输出是否存在不良地质的类型、概率置信度及其所在区域,实现对现有地质超前预报探测成果的图像数据自动化、精细化的解释。降低对专业人员及专家经验的依赖,提高工作效率。
本发明的有益效果是:
1)构建了多物探法-多地质标签耦合的地质超前预报数据集,数据集是深度学习及网络模型训练的基础;
2)基于残差网络思想,设计了超高深度的深层特征提取网络模型,能够通过模型的深度激活检测地质超前预报图像中隐性、抽象的信息,完成地质类型的特征提取;
3)在特征提取完成后,通过设计多任务损失函数实现对检测到的某类地质类型精确分类和区域定位;
4)通过半监督迁移学习的方法框架,实现了将大样本预训练的模型参数迁移到小样本的地质超前预报数据集上,有利于加速模型训练的精度;
5)通过对不同物探方法的机理研究建立权重影响因子矩阵,使得多种物探法结合时,可以更合理的融合预报结果数据,提升预报的准确率;
6)该方法可以随着图像数据集的不断收集扩充而不断升级进化,提升性能及检测精度、范围等等。
本申请所提出的技术方案可以准确地预报隧道等地下工程建设过程中所通过范围内的不良地质体的位置规模和性质状态,为工程设计及施工管理部分提供决策依据,降低现有地质预报物探法解释性低、依赖专家经验、预测准确率不高的问题,提升工程施工的安全性。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:包括以下步骤:
S101:建立多物探法-多地质分类耦合的地质富标签样本数据集;
S102:构建基于特征提取的多目标识别分类神经网络模型;
S103:采用所述样本数据集,对所述多目标识别分类神经网络模型进行训练,得到训练好的多目标识别分类神经网络模型;
S104:将多种物探法得到的图像结果数据分别输入至所述训练好的多目标识别分类神经网络模型,得到多种物探法对应的检测结果,并结合多物探法检测结果权重耦合策略,得到综合预报结果;
步骤S102中,所述多目标识别分类神经网络模型包括依次连接的特征提取基础网络和特征结果分类网络;
其中,所述特征提取基础网络包括依次连接的:CBR块、最大池化层、BaseRN1层、2个BaseRN0层、BaseRN1层、3个BaseRN0层、BaseRN1层、5个BaseRN0层;
所述特征结果分类网络包括依次连接的:CBR块、最大池化层、全连接层和Softmax层;
步骤S103中,采用基于半监督迁移学习的训练框架,对多目标识别分类神经网络模型的参数进行镇定寻优;
训练时,设计多任务损失函数,具体针对目标分类和目标区域预测定位两大任务;其中:
目标分类任务损失函数Lcls:检测出来的目标候选区域对应的地质类型为u,其中u属于6种地质类型中的任意一种;目标分类的输入是特征提取基础网络的输出特征张量向量T=[T1,T2,...,T6],T1,T2,...,T6分别表示六种地质类型对应的特征张量,输出是目标候选区域地质类型u的概率置信度
Figure FDA0003183666500000011
Figure FDA0003183666500000012
分别表示预测结果是第一种地质类型至第六种地质类型的概率值;其中:
Figure FDA0003183666500000013
采用softmax损失函数构建Lcls
Figure FDA0003183666500000021
目标检测定位任务损失函数Lloc:对于候选区域所属的地质类型u,其对应的定位区域预测表征量定义为
Figure FDA0003183666500000022
实际通过数据标注得到该候选区域实际范围真实值定义为v={vx,vy,vw,vh};其中,
Figure FDA0003183666500000023
表示第u种地质类型的位置预测的结果,
Figure FDA0003183666500000024
代表预测矩形区域的中心点横坐标和纵坐标,
Figure FDA0003183666500000025
代表预测矩形的长宽(w,h);v={vx,vy,vw,vh}表示实际标注的结果,代表真实值,vx,vy代表不良地质区域框的中心点横坐标和纵坐标,vw,vh代表不良地质区域框的长宽,Prob为每种地质类型的预测概率;
采用如下损失函数表征Lloc
Figure FDA0003183666500000026
其中,
Figure FDA0003183666500000027
上式中,λ为预设的正超参数;
综合得到目标分类与目标检测分类耦合的多任务损失函数L(u,Prob,pu,v),通过权重因子λ1来实现模型在定位与分类精度的一个平衡:
L(u,Prob,pu,v)=(1-λ1)Lcls(p,u)+ λ1Lloc(pu,v),λ1∈[0,1]
上式中,λ1为预设值,需根据任务实际情况调整;
步骤S104中,所述多物探法检测结果权重耦合策略;具体包括:
基于影响权重因子矩阵λweight,设计多物探法耦合的预报方法;综合预报结果Pres
Figure FDA0003183666500000028
上式中,i=1,2,3分别代表TSP、地质雷达、瞬变电磁三种物探法;
Figure FDA0003183666500000029
Figure FDA00031836665000000210
分别代表物探结果Pi对应的6种地质类型的检测结果向量,具体地,
Figure FDA0003183666500000031
Figure FDA0003183666500000032
Figure FDA0003183666500000033
Pi是多目标识别分类神经网络模型最终的输出结果矩阵,这个矩阵中的向量代表了某一物探方法对六种类型地质的预测结果向量[Prob,pu],其中Prob中包括每种地质类型的预测概率,概率最高的值对应的地质类型代表预报是该地质类型;pu是预测结果中对应最高概率的地质类型的区域框
Figure FDA0003183666500000034
其中:
Figure FDA0003183666500000035
j=1,2,3,4,5,6,代表6种地质类型,λij表示第i种物探法对第j种地质类型的影响权重因子。
2.如权利要求1所述的一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:步骤S101中,样本数据集建立具体步骤如下:
S201:地质类型标签确定:根据隧道内岩土破碎程度及含水量,将隧道地质类型分为6种类型:空腔型溶洞、泥夹石填充型溶洞、局部破碎围岩、富水破碎围岩、低含水量全破碎围岩和无明显异常围岩;
S202:根据各物探法适用场景特点及应用优势,案例收集或者现场采集相应的多张探测图像数据,并采用专家经验法确定各探测图像数据上6种地质类型位置分布及相应地质类型,以6种对应地质类型作为标签内容进行数据标注,得到多物探法-多地质分类耦合的地质富标签样本数据集;所述物探法包括:地质雷达、TSP和瞬变电磁;
S203:根据各物探法的优势特点对各地质类型赋予一个影响权重因子,得到影响权重因子矩阵。
3.如权利要求2所述的一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:步骤S203中,采用专家打分法,根据某一物探法对某一种地质类型的探测精度,基于模糊逻辑理论设置极高、高、一般、较低、低5档,并以1~10打分,综合得到三种物探法-六种地质类型预测精度影响打分矩阵M3×6;再对M3×6按行进行归一化,得到影响权重因子λij;公式如下:
Figure FDA0003183666500000041
其中,i=1,2,3;j=1,2,3,..,6;λij表示第i种物探法对第j种地质类型的影响权重因子;Mi,j表示第i种物探法对第j种地质类型的探测精度对应的分数。
4.如权利要求1所述的一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:所述CBR块包括依次连接的卷积层、正则化层和激活层;其中,C代表卷积层,B代表正则化层Batch Norm,R代表激活层,采用Leaky-ReLU激活函数。
5.如权利要求1所述的一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:BaseRN1层和BaseRN0层均基于残差网络思想设计,引入残差项,便于构建深度网络模型;其中,BaseRN0层和BaseRN1层中主干均为CBR-CBR-CB模块,且BaseRN0层和BaseRN1层中主干CBR-CBR-CB模块参数一致,具体为:第一个CBR块的滤波器尺寸为1×1,64个通道;第二个CBR块的滤波器尺寸为3×3,64个通道;第三个CB块的滤波器尺寸为1×1,256个通道;BaseRN0层中分支CB块的滤波器尺寸与主干的CB块滤波器尺寸一致,BaseRN1中分支CBR块的滤波器尺寸与主干的第一个CBR块的滤波器尺寸一致;所述CB块包括依次连接的卷积层和正则化层。
6.如权利要求1所述的一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:在所述特征提取基础网络中,特征提取层的输出特征映射以16倍的因子进行四级下采样,在空间分辨率和提取特征强度之间进行折中,激活层Leaky-ReLU的最后输出为14×14×1024;所述特征提取网络采用四个阶段对输入图像进行2倍的降采样,实现16倍的下采样:具体如下:
第一阶段:输入尺寸大小为W×H×C的三通道RGB图像,在第一阶段输入进入一个CBR块,其中,W=256为图像的宽,H=256为图像的高,C=3代表图像三通道;此CBR块中滤波器尺寸为1×1,64个通道,经过CBR块一次下采样,此时输出的图像尺寸大小为128×128×64;
第二阶段:首先通过一个过滤器为3×3和步幅2的最大池化层,然后再通过一个BaseRN1层和2个BaseRN0层;通过第二阶段后输出的图像尺寸大小为64×64×256;
第三阶段:将第二阶段的输出输入至依次连接的1个BaseRN1层和3个BaseRN0层,通过BaseRN0层、BaseRN1层的组合得到更深层的网络模型结构,输出图形尺寸大小为32×32×512;
第四阶段:将第三阶段的输出输入至依次连接的1个BaseRN1层和5个BaseRN0层,通过BaseRN0、BaseRN1的不同组合进一步得到更深层的网络模型结构,输出图像尺寸大小为16×16×1024。
7.如权利要求1所述的一种基于卷积神经网络多物探法耦合的地质超前精细预报方法,其特征在于:在特征结果分类网络中:将特征提取基础网络的输出结果输入特征分类网络中,通过CBR块后对原始特征进行粗处理,然后利用最大池化层有效降低模型参数误差造成的特征估计均值的偏移影响,最后连接全连接层及softmax层进行定位及分类,通过多任务损失函数的设计实现对不良地质位置和不良地质类型分类的同时检测。
CN202010838252.7A 2020-08-19 2020-08-19 基于卷积神经网络多物探法耦合的地质超前精细预报方法 Active CN112130216B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010838252.7A CN112130216B (zh) 2020-08-19 2020-08-19 基于卷积神经网络多物探法耦合的地质超前精细预报方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010838252.7A CN112130216B (zh) 2020-08-19 2020-08-19 基于卷积神经网络多物探法耦合的地质超前精细预报方法

Publications (2)

Publication Number Publication Date
CN112130216A CN112130216A (zh) 2020-12-25
CN112130216B true CN112130216B (zh) 2021-10-29

Family

ID=73851378

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010838252.7A Active CN112130216B (zh) 2020-08-19 2020-08-19 基于卷积神经网络多物探法耦合的地质超前精细预报方法

Country Status (1)

Country Link
CN (1) CN112130216B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112949731A (zh) * 2021-03-11 2021-06-11 江苏禹空间科技有限公司 基于多专家模型的目标检测方法、装置、存储介质及设备
CN113431635B (zh) * 2021-05-20 2022-06-10 上海交通大学 半监督的盾构隧道掌子面地质类型预估方法及系统
CN113268799B (zh) * 2021-05-27 2024-04-30 深圳市岩土综合勘察设计有限公司 一种基于随钻数据预测溶洞埋深和尺寸的方法及系统
CN113568055B (zh) * 2021-07-16 2022-07-01 北京大学 一种基于lstm网络的航空瞬变电磁数据反演方法
CN113568056B (zh) * 2021-07-16 2022-07-01 北京大学 一种基于卷积神经网络的航空瞬变电磁数据反演方法
CN116562338A (zh) * 2022-01-27 2023-08-08 美的集团(上海)有限公司 多分支卷积结构、神经网络模型及其确定方法、确定装置
CN117630344B (zh) * 2024-01-25 2024-04-05 西南科技大学 实时在线检测混凝土坍落度范围的方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107167852A (zh) * 2017-05-08 2017-09-15 广西大学 基于多源信息融合的隧道地质综合超前预报方法
CN108416458A (zh) * 2018-01-12 2018-08-17 山东大学 一种基于bp神经网络的隧道富水岩体综合超前地质预报方法
CN108875906B (zh) * 2018-04-20 2019-06-04 华侨大学 一种多尺度逐步累加的卷积神经网络学习方法
CN108710777B (zh) * 2018-05-21 2021-06-15 中国地质大学(武汉) 基于多卷积自编码神经网络的多元化探异常识别方法
CN109242029A (zh) * 2018-09-19 2019-01-18 广东省智能制造研究所 识别分类模型训练方法和系统
CN110705795A (zh) * 2019-10-09 2020-01-17 中铁隧道局集团有限公司 基于综合超前地质预报技术的隧道涌突风险等级模糊预测方法

Also Published As

Publication number Publication date
CN112130216A (zh) 2020-12-25

Similar Documents

Publication Publication Date Title
CN112130216B (zh) 基于卷积神经网络多物探法耦合的地质超前精细预报方法
CN109709603B (zh) 地震层位识别与追踪方法、系统
CN108038445B (zh) 一种基于多视角深度学习框架的sar自动目标识别方法
CN107092870B (zh) 一种高分辨率影像语义信息提取方法
CN107356958B (zh) 一种基于地质信息约束的河流相储层分步地震相预测方法
CN110490100A (zh) 基于深度学习的岩土自动识别定名方法及系统
CN109800863B (zh) 一种基于模糊理论和神经网络的测井相识别方法
CN108830296A (zh) 一种改进的基于深度学习的高分遥感影像分类方法
CN114092832B (zh) 一种基于并联混合卷积网络的高分辨率遥感影像分类方法
CN106778804A (zh) 基于类别属性迁移学习的零样本图像分类方法
CN109766936A (zh) 基于信息传递和注意力机制的图像变化检测方法
CN113344050B (zh) 一种基于深度学习的岩性智能化识别方法及系统
CN111985325B (zh) 特高压环境评价中的航拍小目标快速识别方法
CN108447057A (zh) 基于显著性和深度卷积网络的sar图像变化检测方法
CN116665067B (zh) 基于图神经网络的找矿靶区优选系统及其方法
Zong et al. A deep learning approach for urban underground objects detection from vehicle-borne ground penetrating radar data in real-time
CN112149502A (zh) 一种基于卷积神经网络的不良地质定位预报方法
Ding et al. Building detection in remote sensing image based on improved YOLOv5
CN107437091A (zh) 多层限制玻尔兹曼机的sar图像正负类变化检测方法
CN107167852A (zh) 基于多源信息融合的隧道地质综合超前预报方法
CN109993050A (zh) 一种合成孔径雷达图像识别方法
CN114881171A (zh) 基于卷积神经网络的陆相页岩油岩相类型识别方法及系统
CN109934292B (zh) 基于代价敏感性辅助学习的不平衡极化sar地物分类方法
Wan et al. RSSM-Net: Remote sensing image scene classification based on multi-objective neural architecture search
Lynda Systematic survey of convolutional neural network in satellite image classification for geological mapping

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant