CN117250667A - 基于U-Net增强网络对地下密度快速成像方法及系统 - Google Patents

Abstract

本发明公开基于U‑Net增强网络对地下密度快速成像方法及系统，包括：构建样本集及重建密度模型，其中所述样本集包括地下密度模型集及对应的重力响应；所述重建密度模型采用ResU‑Net++网络；通过样本集对重建密度模型进行训练及验证，生成优化的重建密度模型；获取重力数据，通过优化的重建密度模型对重力数据进行处理，生成地下密度重建图像。通过上述技术方案，本发明能够提升模型的反演能力和精度，进而提升地下密度反演成像的准确性。

Description

基于U-Net增强网络对地下密度快速成像方法及系统

技术领域

本发明涉及重力反演技术领域，特别涉及基于U-Net增强网络对地下密度快速成像方法及系统。

背景技术

基于重力的勘探在地球物理调查领域占有重要地位，对突变地质物性界面的识别、岩石结构的描绘和工程地质调查的执行具有重大影响。此外，它还是石油、天然气和矿产资源采购中不可或缺的工具。

在地球物理背景下，重力反演通常被归类为不适定问题。这种不适定的根源在于观测到的数据量与被剖分网格数量之间存在差异;前者的轻微波动会显著干扰后者，使反演问题的解非唯一且不稳定。因此，选择一种合适的反演方法成为解决反问题多解性是极其重要的。

常规重力反演可分为确定性反演和概率反演。前者包括牛顿法、最陡下降法和共轭梯度法等方法。然而，梯度最小化技术可能会无法避免地摆脱“深度”局部最小值的束缚，特别是在处理以多个局部最小值为特征的误差目标函数问题时。

采用基于随机方法的蒙特卡罗方法可以在一定程度上利用增加随机搜索的步骤数缓解了梯度法陷入局部极小值的问题。但是，这种方法多适用于包含多个局部极小值的误差目标函数问题。为了克服这种限制，更新的蒙特卡罗方法采用了一种优化算法来最小化随机搜索所需的步骤数，主要经典算法包括模拟退火(SA)算法以及遗传算法(GA)。但传统的重力反演尚未为重力场的体积效应、矩阵欠确定问题和大型病态矩阵的操作设计出有效的解决方案。

结合先前地质信息来解决逆问题的机器学习(ML)视角的出现已经引起了地球物理学家相当大的兴趣。最近的一系列研究提出了受先验地质信息启发的无监督ML算法的应用，以解决重力反演难题。其中经典算法包括聚类、线性分类器、支持向量机、决策树和随机森林等，这些算法都被广泛用于解决地球物理反演问题中固有的不适定问题。此外，线性回归、逻辑回归和多项式回归已经证明了它们在阐明地下物理特征方面的有效性。尽管如此，无监督学习可能容易受到过拟合和解释结果挑战等问题的影响。

作为机器学习的另一个分支，深度学习（即监督学习）相对于无监督学习表现出优越的泛化能力，并减少了对数据的依赖。它在学习过程中与标记数据相结合，便于更容易地评估算法性能和及时调整。深度学习主要面向训练多层神经网络，以学习复杂数据的分层表示。在深度学习的早期阶段，反向传播(BP)神经网络在重力探索中发挥了关键作用。然而，它确实存在一些局限性，例如在图像处理、参数数量和泛化能力方面。为了克服这些限制，地球物理学家引入了卷积神经网络(CNN)。该网络以局部连接和权值共享为特征，显示出增强的泛化和迁移学习能力，有效地提取和快速建模地球物理场的特征信息。为了捕获复杂的地下结构和精确的边界信息，通常必须保留更多的局部和位置数据。而传统的CNN关注的是全局信息，由于忽略了局部信息，因此不足以实现很好的预测结果。

随后提出的U-Net网络在一定程度上改进了这些缺点。它主要采用对称的编码器-解码器结构，集成了相应编码器和解码器层之间的跳过连接，以保留更多的局部细节。然而，在处理复杂地质构造的反演时，U-Net可能面临一定的挑战。造成这种情况的原因是，在编码和解码过程中，U-Net将同等级别的特征与均匀权重融合在一起，可能导致关键的地质特征被不那么重要的特征所掩盖。

发明内容

为解决上述现有技术中所存在的关键地质特征无法有效进行提取进而无法有效进行地下密度反演成像的问题，本发明提供基于U-Net增强网络对地下密度快速成像方法及系统，能够提升模型的反演能力和精度，进而提升地下密度反演成像的准确性。

为了实现上述技术目的，本发明提供了基于U-Net增强网络对地下密度快速成像方法，包括：

构建样本集及重建密度模型，其中所述样本集包括地下密度模型集及对应的重力响应；所述重建密度模型采用ResU-Net++网络，其中所述ResU-Net++网络包括编码器结构和解码器结构，所述编码器结构的输出通过ASPP模型与解码器结构的输入连接，所述编码器结构中编码器的输入端设置有压缩和激励模块，所述解码器结构的输出端依次设置有ASPP模块、2D卷积层及Sigmoid函数；

通过样本集对重建密度模型进行训练及验证，生成优化的重建密度模型；

获取重力数据，通过优化的重建密度模型对重力数据进行处理，生成地下密度重建图像。

可选的，所述样本集的构建过程包括：

将重力数据目标观测区域的下半空间划分为矩形棱镜，并根据目标观测区域的地质体先验物性信息，对每个矩形棱镜分配密度值；

对分配密度值后的矩形棱镜进行分离组合模型和接触拼装模型的方法，生成地下密度模型集；

通过对地下密度模型集进行正演建模模拟，生成对应的重力响应。

可选的，所述编码器结构中包括若干个编码器，其中所述编码器包括依次连接的残差单元和注意力模块，其中所述残差单元和注意力模块残差连接。

可选的，所述残差单元包括残差连接的两个卷积块，其中所述卷积块包括残差连接的Batch Norm层、Relu层和3×3卷积层。

可选的，所述解码器结构中包括若干个解码器，其中所述解码器包括依次连接的第一注意力模块、上采样模块、特征链接模块、残差单元及加法模块，其中所述特征链接模块的输出与加法模块的输入链接。

可选的，所述编码器中的第一个3×3卷积层的步幅大于1。

可选的，所述压缩和激励模块中，通过全局池化将压缩和激励模块的输入特征压缩为特征向量；根据特征向量对压缩和激励模块的输入特征的不同通道生成对应权重，根据权重对所述不同通道进行计算，生成压缩和激励模块的输出特征。

可选的，在所述ASPP模块中，通过建立不同的膨胀率，对所述ASPP模块进行多尺度采样，生成多尺度重力特征数据。

可选的，在所述注意力模块中，所述注意力模块的输出为特征映射数据及注意力系数的逐元素乘法的结果，其中特征映射数据为注意力模块的输入数据，通过特征映射数据及注意力模块的输入张量的加权和依次通过ReLU函数、卷积处理、Simgoid函数及重采样生成注意力系数。

为了更好的实现上述技术目的，本发明还提供了基于U-Net增强网络对地下密度快速成像系统，该系统用于执行基于U-Net增强网络对地下密度快速成像方法。

本发明具有如下技术效果：

本发明采用了一种创新的深度学习网络ResU-Net ++来分析地球物理勘探数据，它在兼顾了之前方法的优点的同时，通过实现残差连接和深度特征融合策略对传统U-Net网络进行了显著的改进。这一改进促进了多层地质特征的更有效利用，从而提高了模型的反演能力和精度，进而能够更加有效的进行重力数据对应的地下密度反演成像的效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的观测区下半空间矩形棱镜用于重力数据正演模拟应用的示意图；

图2为本发明实施例提供的四个任意选择的密度模型数据集示意图，其中（a）为第一种密度模型数据集示意图，（b）为第二种密度模型数据集示意图，（c）为第三种密度模型数据集示意图，（d）为第四种密度模型数据集示意图；

图3为本发明实施例提供的模型正演模拟示意图，其中（a）为模拟对应的密度模型示意图，（b）为重力数据的正演垂直分量模拟结果示意图；

图4为本发明实施例提供的ResU-Net++网络结构示意图；

图5为本发明实施例提供的ResU-Net++网络的编解码器结构示意图；

图6为本发明实施例提供的剩余单元示意图示意图；

图7为本发明实施例提供的挤激(S-E)块示意图示意图；

图8为本发明实施例提供的空间金字塔池化(ASPP)模块示意图；

图9为本发明实施例提供的注意机制模块示意图；

图10为本发明实施例提供的无噪声条件下的反演结果对比示意图，其中，（a）为合成模型对应的反演结果示意图，（b）与利用嵌套U-Net网络对应的反演结果示意图，（c）R2U-Net网络对应的反演结果示意图，（d）AttU-Net网络对应的反演结果示意图，（e）ResU-Net ++网络对应的反演结果示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所述，本发明提供了基于U-Net增强网络对地下密度快速成像方法及系统，包括：

A.训练集的生成

地质目标的密度、深度和大小等属性的精度要求创建一个综合的训练样本集，包含广泛的地质体形状。理想情况下，训练样本集应反映地质体及其相关重力异常的最可能分布。因此，选择合适的技术和参数来制作一个表现出最佳性能、广泛适用性和模拟真实数据分布能力的训练样本集是一个相当大的挑战。

对于重力数据正演建模的应用，本发明首先将目标观测区域的下半空间划分为Nx×Ny×Nz的矩形棱镜。为了构建地下密度模拟模型，本发明根据目标区域地质体的先验物性信息，统一为每个棱镜分配一定的密度值。

图1为观测区下半空间被划分为Nx×Ny×Nz矩形棱镜，用于重力数据正演模拟应用的示意图。本发明利用两种模型生成方法来模拟各种表现重力异常的地质体。第一种方法生成本发明所说的“分离组合模型”，即每组模型由多个空间上独立的、形状不一的模型体构建而成。第二种方法产生“接触拼装模型”，即通过在某些强加的约束下在空间上合并多个“分离组合模型”中的模型体。换句话说，与“分离组合模型”不同的是，“接触拼装模型”随机选择“分离组合模型”集中的单个独立的模型体进行随意拼接。图2展示了任意选择的模型数据集，其中图2中的（a）（b）（c）（d）分别显示了任意选择的数据集中的四种模型数据集，每个数据集都展示了其大小和形状的随机变化。这种方法总共产生10000个模型集，其中8000个用于神经网络训练目的，2000个用于验证。

随后，通过公式1和2所示的正演建模模拟相应的重力响应，并从中提取内部特征，与标注信息建立内在关系。

(1) ，

式中为观测面上重力场/>垂直分量的计算重力响应；/>为重力常数表示地下某异常域，ρ为观测范围D内的密度分布;/>为对应的正演模拟线性算子，v’为地下剖分网格的单位体积,r’为地下剖分网格中点到空间坐标原点的矢量距离。r为地面观测点到空间坐标原地的矢量距离。z’为地下剖分网格中心点纵坐标，z为地面观测点纵坐标。

空间核函数的定义如下:

(2)。

图3中的（b）显示了重力数据的正演垂直分量，由图3中中的（a）显示的密度模型计算得出。

B. ResU-Net ++网络结构

为了能够从重力数据中重建3D密度模型，本发明明确地为本技术方案设计了一个完整的卷积神经网络。图4-5给出了ResU-Net++网络的综合架构。它包含一个干块，后面是四个编码器块、ASPP模块和三个解码器块，其中包含残差块、压缩和激励(Squeeze ＆Excitet，S-E)模块、ASPP模块和注意块等显著特征(图5)。值得注意的是，在编码和解码模块中，通过残差模块的集成构建了一个更深刻的神经网络(即:图5所示的黑色破折号矩形)。这些残差模块有效地解决了每个编码器固有的梯度消失问题，增强了路径之间的相互关系，同时降低了计算费用。

在图5中，编码部分由四组编码块组成，灰色部分分别表示编码器和解码器块。如侧面箭头线所示，每个编码器块主要由一个残差单元（剩余单元）组成。这些残差单元(如图6所示)中的每一个都包含两个连续的卷积块，它们都具有Batch Norm层、Relu层和33卷积层。

在地球物理重力反演领域，残差网络用于训练与重力相关的深度神经网络。这种策略有效地缓解了随着网络深度增加而出现的训练误差升级和“梯度分散或爆炸”问题。同时，残差单元简化了网络训练，残差连接有利于重力信息在未退化方向上的传播。因此，以预测地球物理模型的准确性和精度为例，网络性能超越了传统的深度学习网络模型。

在精确训练过程中，编码器块中第一个卷积层的步幅被设置为超过1，从而导致步幅卷积层的应用，使特征图的空间维数减少了一半。这一步的作用是消除冗余信息，并有效地起到池化层的作用。然后，编码器块的输出通过S-E模块导航。编码和解码段由ASPP模块链接，该模块扩展了卷积核的范围，以纳入更广泛的上下文范围。

在处理重力数据时，S-E模块(图7)在通道特征的精确重新校准中起着核心作用。该模块通过将增加的权重归因于信息通道来放大重要特征，同时通过减少相应的通道来减少噪声和无关紧要的元素。这种判别性的增强和减少提高了网络的运行效率，提高了其识别重力数据中复杂模式的能力——这是地球物理分析的一个关键方面。S-E操作通过全局池化将输入压缩成向量/>，如，公式3所示:

（3）

其中表示输入端/>中的第c个通道中第i行第j列的元素。H和W分别表示在整个设计通道数(C)中通过卷积运算提取的重力输入数据的行数和列数。

为了识别通道级依赖关

系，其中涉及将放大的权重归因于特征通道内的关键特征映射，以强调关键元素，同时在特征提取过程中减少不重要的元素，采用了激励操作。该操作通过实现两个完全连接的层，为每个特征通道产生一个权重值。得到的输出是通过将每个通道乘以其关联的通道权重得到的。该映射操作的输出s由公式4所示的方程给出:

(4)

式中z表示单个二维张量，其代表输入端中/>的一个元素，σ表示sigmoid函数。权矩阵表示为/>和/>，δ代表激活函数，其中超参数r表示初始全连接层中参数的压缩比。S-E块熟练地识别通道相关性，从而增加对关键通道的敏感性，同时抑制多余或不相关的属性。这些无关的元素甚至可能表现为噪声，从而可能对网络的预测性能产生负面影响。

CNN中采用的经典池化机制，包括最大池化和平均池化，被广泛用于减少特征映射的空间维度，从而使模型能够理解更抽象、更高级的特征。然而，这些操作可能会导致空间分辨率和复杂细节的降低，而计算资源的限制则禁止卷积核的数量或维度的扩展。这种困境可能会给捕获地球物理数据中经常观察到的细长带状地层(如狭窄的地质地层、断层和裂缝)的努力带来重大困难。

为了解决上述问题，ASPP模块或扩展卷积被设计成从数据中吸收不同尺度的上下文信息，具有在地球物理反演过程中保持原始输入分辨率而不丢失信息的潜力。ASPP模块的概念来源于空间金字塔池，其任务是对重力数据特征进行多尺度采样，从而保留更大程度的重力细节。该模块通过建立不同的膨胀率(图8)，以不同的比例合并更高级别编码模块的重力数据输出，这有效地增加了卷积核的大小。通过实现不同的膨胀率，网络配备了不同的接受场，从而实现了多尺度信息的获取。

膨胀卷积的等效卷积核(即接受野)的大小kenrnel如下:

(5)

其中k为原始卷积核大小(如图8中的3×3)，为膨胀系数。将卷积后得到的输出大小定义为:

(6)

其中out表示输出大小，inpt表示输入大小，padding为填充大小。stride表示一个步幅的长度。填充操作解决了每次卷积操作后图像边界附近的信息丢失问题。这是通过用零替换缺失的边界部分来实现的。

随后，解码组件由三个解码器模块组成，每个解码器模块由注意机制、上采样过程、特征链接和残差单元组成(图5)，将残差单元及特征链接模块（连接）的输出进行“addition（加法）”操作作为解码块的输出。如图9所示，将注意机制(即注意门模块，AG)集成到重力网络模型训练中，源于观察到重力模型中存在更多的参数，丰富了模型的表达能力，增强了模型可以保留的信息量。因此，这可能会引发信息过载的问题。

AG的输出定义为，是输入特征映射/>和注意系数/>的逐元素乘法:

(7)

其中可表示为:

(8)

其中对应sigmoid激活函数;/>是复合函数/>(公式7）中的内函数，为:

(9)

其中，，表示线性变换，其是使用通道方向的1×1×1个卷积来计算输入张量;/>对应于ReLU激活函数。/>和/>分别定义为/>和作为选通信号gi的对应权值;/>和/>定义为对应的偏置项;T算子表示矩阵转置。

AG模块的结合确保了输入的重力信息有选择地偏向于与当前任务更相关的重力细节，从而减少了对其他重力信息的关注。这样做，它可以有效地过滤掉不相关的重力数据，从而增强特征映射的功效。这种方法解决了重力信息过载的问题，最终提高了反演任务的效率和准确性。

接下来是对较低级别的特征映射进行上采样，并与对应编码路径的特征映射进行连接。解码器的输出再通过ASPP模块进行连接,最后应用1 x1的卷积通过Sigmod激活函数输出,得到地下密度快速成像图。解码器生成的图像通过一个全连接的前馈3D映射层进行处理。这一过程可能包含许多关于地下地质和重力读数与密度变化之间关系的假设。从本质上讲，神经网络在训练期间通过利用监督学习标签来吸收这些关系，这些标签代表了反演域中的密度分布。最终，网络应用其学习到的理解来生成预测的密度模型。

为了验证各种基于u-net的网络的鲁棒性，本研究利用归一化处理，如E，来描绘训练期间的重力观测损失。该损失的具体公式如下:

(10)。

式中，N为观测点总数;表示理论观测重力数据;/>表示预测的重力数据。

为了验证网络识别特征的准确性，本发明设计了相对简单的模拟模型。该组合模型是一个矩形和梯形编队的组合。上下体均保持1.0 g/cm3的密度。观测场沿x轴跨度为0 ~4000 m，沿y轴跨度为0 ~ 4000 m，数据点之间间隔为200 m，最终总共有441个数据点来评估重力的垂直分量。以3D形式反演域被划分为8000个立方单元(20×20×20)，每个单元的边长为200m。为了提高易读性，在随后的实验中，所有3D视角只展示密度超过0.5 g/cm3的部分。

图10分别展示了合成模型(图10中的（a）)与利用嵌套U-Net(图10中的（b）)、R2U-Net(图10中的（c）)、AttU-Net(图10中的（d）)和ResU-Net ++(图10中的（e）)反演结果的对比。柱状分布如下:第一列为3D视图，第二列为模拟重力场图，第三列为x=2000米对应的垂直切片(即第一列所示的垂直板块)，X（m）、Y（m）和Z（m）分别表示坐标系中X，Y及Z的轴向。

嵌套U-Net的模型预测(图10中的（b）)与实际模型有显著的相似之处，在高架梯形台阶的边缘，以及立方体的侧面和底部，残余密度存在细微的偏差。进入R2U-Net网络(图10中的（c）)，恢复的形状信息与实际模型更准确地对齐，边界轮廓更清晰，特别是在预测立方体的侧面剩余密度时。在图10中的（d）中，AttU-Net网络的预测密度信息非常精确，从Y-Z角度观察密度值与理论值非常接近。值得注意的是，后续深度学习网络在预测嵌套U-Net之前未考虑到的边缘单元方面取得了重大进展。然而，基础上冗余密度单元的问题仍然存在。ResU-Net++网络在反演建模中表现出最优的性能(图10中的（e）)，密度值与实际模型非常接近，最终获得了异常的反演结果。

以上，仅为本申请较佳的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应该以权利要求的保护范围为准。

Claims (10)

1.基于U-Net增强网络对地下密度快速成像方法，其特征在于，包括：

构建样本集及重建密度模型，其中所述样本集包括地下密度模型集及对应的重力响应；所述重建密度模型采用ResU-Net++网络，其中所述ResU-Net++网络包括编码器结构和解码器结构，所述编码器结构的输出通过ASPP模型与解码器结构的输入连接，所述编码器结构中编码器的输入端设置有压缩和激励模块，所述解码器结构的输出端依次设置有ASPP模块、2D卷积层及Sigmoid函数；

通过样本集对重建密度模型进行训练及验证，生成优化的重建密度模型；

获取重力数据，通过优化的重建密度模型对重力数据进行处理，生成地下密度重建图像。

2.根据权利要求1所述的方法，其特征在于：

所述样本集的构建过程包括：

将重力数据目标观测区域的下半空间划分为矩形棱镜，并根据目标观测区域的地质体先验物性信息，对每个矩形棱镜分配密度值；

对分配密度值后的矩形棱镜进行分离组合模型和接触拼装模型的方法，生成地下密度模型集；

通过对地下密度模型集进行正演建模模拟，生成对应的重力响应。

3.根据权利要求1所述的方法，其特征在于：

所述编码器结构中包括若干个编码器，其中所述编码器包括依次连接的残差单元和注意力模块，其中所述残差单元和注意力模块残差连接。

4.根据权利要求3所述的方法，其特征在于：

所述残差单元包括残差连接的两个卷积块，其中所述卷积块包括残差连接的BatchNorm层、Relu层和3×3卷积层。

5.根据权利要求1所述的方法，其特征在于：

所述解码器结构中包括若干个解码器，其中所述解码器包括依次连接的注意力模块、上采样模块、特征链接模块、残差单元及加法模块，其中所述特征链接模块的输出与加法模块的输入链接。

6.根据权利要求1所述的方法，其特征在于：

所述编码器中的第一个3×3卷积层的步幅大于1。

7.根据权利要求1所述的方法，其特征在于：

所述压缩和激励模块中，通过全局池化将压缩和激励模块的输入特征压缩为特征向量；根据特征向量对压缩和激励模块的输入特征的不同通道生成对应权重，根据权重对所述不同通道进行计算，生成压缩和激励模块的输出特征。

8.根据权利要求1所述的方法，其特征在于：

在所述ASPP模块中，通过建立不同的膨胀率，对所述ASPP模块进行多尺度采样，生成多尺度重力特征数据。

9.根据权利要求3所述的方法，其特征在于：

在所述注意力模块中，所述注意力模块的输出为特征映射数据及注意力系数的逐元素乘法的结果，其中特征映射数据为注意力模块的输入数据，通过特征映射数据及注意力模块的输入张量的加权和依次通过ReLU函数、卷积处理、Simgoid函数及重采样生成注意力系数。

10.基于U-Net增强网络对地下密度快速成像系统，其特征在于：所述系统用于执行权利要求1-9任一所述的基于U-Net增强网络对地下密度快速成像方法。