CN111461988A - 一种基于多任务学习的地震速度模型超分辨率技术 - Google Patents

一种基于多任务学习的地震速度模型超分辨率技术 Download PDF

Info

Publication number
CN111461988A
CN111461988A CN202010253987.3A CN202010253987A CN111461988A CN 111461988 A CN111461988 A CN 111461988A CN 202010253987 A CN202010253987 A CN 202010253987A CN 111461988 A CN111461988 A CN 111461988A
Authority
CN
China
Prior art keywords
resolution
seismic velocity
velocity model
super
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010253987.3A
Other languages
English (en)
Other versions
CN111461988B (zh
Inventor
陆文凯
李尹硕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN202010253987.3A priority Critical patent/CN111461988B/zh
Publication of CN111461988A publication Critical patent/CN111461988A/zh
Application granted granted Critical
Publication of CN111461988B publication Critical patent/CN111461988B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/40—Scaling the whole image or part thereof
    • G06T3/4053—Super resolution, i.e. output image resolution higher than sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Abstract

本发明公开了一种基于多任务学习的地震速度模型超分辨率技术，所述技术包括以下步骤:步骤1：搭建多任务超分辨率深度网络；步骤2：准备训练数据，利用速度模型数据构建标签数据；步骤3：训练多任务超分辨率深度网络，使用均方误差和全变差组合构成多任务深度网络的损失函数，投入训练数据，使用优化器进行训练，训练过程中采用衰减学习率；步骤4：应用多任务超分辨率深度网络，输入真实低分辨率地震速度模型及其梯度，得到高分辨率地震速度模型及其梯度。

Description

一种基于多任务学习的地震速度模型超分辨率技术
技术领域
本发明涉及地震速度建模技术领域，特别是涉及基于多任务学习的地震速度模型超分辨率技术。
背景技术
全波形反演(FWI)是估算地下速度模型的有力工具，可以获得比常规速度建模方法更高的波数分量。当前FWI方法主要存在反演结果多解、噪声敏感、初始模型强依赖、易陷入局部极值、计算量大等问题。一般来说，地震初始的背景速度模型分辨率低，频率一般在1HZ以下，而陆上地震数据的最低频率一般在6HZ以上，所以二者之间存在一个频率缺口。
SRCNN将CNN应用于单一图像的超分辨率(SISR)处理，获得明显优于传统方法的超分辨率(SR)结果。在VDSR中使用残差网络(ResNet)，只训练低分辨率(LR)图像与高分辨率(HR)图像之间的残差，可以有效解决网络加深带来的网络退化与梯度消失问题。将U形网络(uNet)应用于超分辨率处理，使用卷积层与转置卷积层一一对应，镜像对称，跳线连接，分别完成图像的下采样与上采样。SRDenseNet网络在稠密块中把每层输出的特征都输入到后面的所有卷积层中，从而将所有卷积层的特征全部串联起来。
机器学习通常需要大量的训练样本来训练网络，多任务学习(MTL)可以有效解决标签数据不足的问题。多任务学习与传统学习方案原理相同，但目标不同，传统机器学习目标是提高某一特定任务的表现，而多任务学习的目标是提高所有任务的性能。多任务学习研究表明，同时学习多个相关任务可以显著提高主要任务的性能(Yu Zhang,Qiang Yang,2017)。在图像超分辨率中，也可以利用多任务学习方法(Shi Y,Wang K,Chen C,2017)。
因此希望有一种基于多任务学习的地震速度模型超分辨率技术能够解决现有技术中存在的问题。
发明内容
本发明公开了一种基于多任务学习的地震速度模型超分辨率技术,所述技术包括以下步骤:
步骤1：搭建多任务超分辨率深度网络；
步骤2：准备训练数据，利用速度模型数据构建标签数据；
步骤3：训练多任务超分辨率深度网络，使用均方误差和全变差组合构成多任务深度网络的损失函数，投入训练数据，使用亚当(Adam)优化器进行训练，训练过程中采用衰减学习率；
步骤4：应用多任务超分辨率深度网络，输入真实低分辨率地震速度模型及其梯度，得到高分辨率地震速度模型及其梯度。
优选地，所述步骤1的深度网络使用全局残差结构、U形网络结构以及稠密连接结构搭建，并处理地震速度模型及其梯度信息。
优选地,所述标签数据包括高分辨率地震速度模型及其梯度信息与不同模糊程度的低分辨率地震速度模型及其梯度信息。
优选地,所述步骤2具体包括以下步骤：
步骤2.1：使用索贝尔(sobel)算子提取所述高分辨率地震速度模型两个方向的边缘信息，并与所述高分辨率地震速度模型进行组合，得到三通道的目标图像；
步骤2.2：在高分辨率图像中，使用均值滤波，得到不同模糊程度的所述低分辨率地震速度模型；
步骤2.3：使用索贝尔算子提取所述低分辨率地震速度模型两个方向的边缘信息，并与所述低分辨率地震速度模型进行组合，得到低分辨率三通道的输入图像。
优选地,所述步骤4具体包括以下步骤：
步骤4.1：使用索贝尔算子提取实际地震速度模型两个方向的梯度信息，并和实际地震速度模型组合，得到三通道的输入图像；
步骤4.2：利用训练好的所述多任务超分辨率深度网络处理输入图像，得到所述高分辨率的地震速度模型及其梯度。
本发明提出了一种基于多任务学习的地震速度模型超分辨率技术，本发明采用多任务学习技术，同时将原始图像和两个方向的索贝尔算子同时输入网络，强制多个任务共享同一网络，同时输出高分辨率的图像和及其梯度。
附图说明
图1为基于多任务学习的地震速度模型超分辨率技术的流程图。
图2为多任务学习网络的结构示意图。
图3为稠密连接的结构示意图。
图4为本发明的效果图，从左到右依次是高分辨率、低分辨率、超分辨率细节放大图。
具体实施方式
为使本发明实施的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行更加详细的描述。在附图中，自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。所描述的实施例是本发明一部分实施例，而不是全部的实施例。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
如图1所示，本发明基于多任务学习的地震速度模型超分辨率技术包括：
步骤一：搭建多任务超分辨率深度网络，网络使用全局残差结构、U形网络结构以及稠密连接结构，同时处理地震速度模型及其梯度信息。
步骤二：准备训练数据，利用人工合成的速度模型数据构建标签数据。包括高分辨率地震速度模型及其梯度信息、不同模糊程度的低分辨率地震速度模型及其梯度信息。
步骤三：训练多任务超分辨率深度网络，使用均方误差(MSE)和全变差(TV)组合构成多任务深度网络的损失函数，投入训练数据，使用Adam优化器进行训练，训练过程中采用衰减学习率。
步骤四：应用多任务超分辨率深度网络，输入真实低分辨率地震速度模型及其梯度，得到高分辨率地震速度模型及其梯度。
如图2-3对基于多任务学习的地震速度模型超分辨率技术进行更为详细的阐述：
(1)搭建多任务超分辨率深度网络。
网络结构如图2所示，采取多任务学习方案，网络同时处理地震速度模型及其梯度。网络中使用‘same’模式的卷积层，普通卷积层不改变特征图尺寸，上采样与下采样卷积层通过‘stride’参数调整输出特征图尺寸。首先多次使用步长为2的卷积层进行下采样，每次将特征图的长度和宽度缩小为原来的50％，通道数变为原来的两倍。每次下采样后使用普通卷积层进行缓冲，不改变特征图尺寸与通道数，为下次下采样做准备。
缩小4次后得到小尺寸特征图x0，使用如图3所示的稠密连接结构进行处理。该部分包含34个稠密处理块(block)，第n块的输出可表示为
Figure BDA0002436558510000041
其中fn(x)为该块映射函数，xn为其输入，x0为稠密连接部分的输入特征图，yi为稠密连接部分第i块的输出特征图，特征图求和方式为合并(concat)。稠密连接结构可以充分利用特征图信息，增强网络学习能力。稠密连接会带来大量参数，故每块内部包含1×1的卷积层和3×3的卷积层，以减小参数规模。四次下采样后引入稠密连接可以有效降低稠密连接带来的学习压力。
稠密连接处理后，通过四次上采样放大特征图，使用转置卷积放大特征图尺寸，每次放大后得到的特征图与对应下采样前的特征图合并(concat)，通过此局部残差结构提高学习效率。
后接四层普通卷积层进一步处理。输出层任务分离，分别使用一层卷积层处理地震速度模型、x梯度和y梯度图像的超分辨率任务。使用全局残差连接，将输出层处理结果与对应网络输入相加，得到高分辨率地震速度模型及其梯度，网络输出可表示为：
y＝x+f(x) (2)
其中x表示网络输入，f(x)表示网络映射函数。
(2)准备训练数据集。
使用索贝尔算子提取高分辨率地震速度模型在x与y两个方向的梯度信息，组合得到包含地震速度模型及其梯度信息的三通道高分辨率图像，作为网络训练的目标图像。
在高分辨率地震速度模型上使用均值滤波，得到不同模糊程度的低分辨率地震速度模型。使用索贝尔算子提取低分辨率地震速度模型在x与y两个方向的梯度信息，组合得到包含地震速度模型低频分量及其梯度信息的三通道低分辨率图像，作为网络训练的输入图像。
(3)训练多任务超分辨率深度网络。
完成网络的搭建之后，根据损失函数，使用梯度下降法对网络进行训练。多任务网络的损失函数由均方误差和全变差组成，其表达式为：
loss＝L2+TV
Figure BDA0002436558510000051
Figure BDA0002436558510000052
其中y为网络处理结果，r为目标值，1/n代表均值，c为通道标号，β1、β2为权重系数；α1～3为能量系数，满足以下关系：
α1+α2+α3＝1
Figure BDA0002436558510000053
其中x为网络输入，一范数
Figure BDA0002436558510000054
表示通道能量。
投入训练数据，使用亚当优化器进行训练，训练过程中采用衰减学习率。学习率由初始学习率η0、衰减周期T、衰减率α三个参数表征，训练过程中实时学习率表达式为：
ηi＝αiη0 (4)
其中i为当前学习率衰减次数。在文本文件中记录训练次数、损失函数数值、学习率，储存网络参数到特定文件。
(4)应用多任务超分辨率深度网络。
使用索贝尔算子提取实际低分辨率地震速度模型在x与y两个方向的梯度信息，组合得到包含地震速度模型及其梯度信息的三通道图像。将组合图像投入训练好的网络，得到超分辨率地震速度模型及梯度信息。
实验仿真结果
为了验证本发明的有效性与优越性，将本发明所提出的方法应用于合成地震数据，以展示本发明中多任务超分辨率网络模型的处理效果。
本实验数据预处理在MATLAB中进行。低分辨率图像获取方法为图像边缘复制填充后均值滤波。索贝尔求解过程为在图像边缘复制填充后使用卷积处理。
深度网络处理部分以Python3.5语言实现，多任务网络使用Tensorflow框架搭建，训练和测试所使用操作系统为WIN10。机器配置为：CPU型号：Intel(R)Core(TM)i7-4710HQCPU@2.50GHz；内存大小：8G；GPU型号：GeForce GTX 950M。
训练数据和测试数据在深度方向、水平方向的采样率均为25ft。训练过程中对地震数据模型归一化到0-1范围后切成小块，投入网络。损失函数(公式3)中参数β1、β2均设置为0.02。参数网络初始学习率为0.0002，所有数据训练120次，衰减率1.5％。衰减周期为半个训练周期，即每个训练周期学习率衰减两次。
图4展示了本发明的超分辨率预测结果，从左到右依次是测试图像的高分辨率、低分辨率、超分辨率预测结果。图4a为地震速度模型，图4b为y方向的梯度，图4c为x方向的梯度。地震速度模型中y方向梯度信息量大，x方向梯度信息较少，因此超分辨率处理结果中y方向高频细节恢复效果优于x方向。整体分辨率提升明显，多任务超分辨率学习结果(SR3)峰值信噪比提升8.1dB(只计算地震速度模型部分)。用作对比的单任务深度网络与多任务网络只在输入层和输出层存在差异。
最后需要指出的是：以上实施例仅用以说明本发明的技术方案，而非对其限制。尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (5)

1.一种基于多任务学习的地震速度模型超分辨率技术，其特征在于，所述技术包括以下步骤:
步骤1：搭建多任务超分辨率深度网络；
步骤2：准备训练数据，利用速度模型数据构建标签数据；
步骤3：训练多任务超分辨率深度网络，使用均方误差和全变差组合构成多任务深度网络的损失函数，投入训练数据，使用亚当优化器进行训练，训练过程中采用衰减学习率；
步骤4：应用多任务超分辨率深度网络，输入真实低分辨率地震速度模型及其梯度，得到高分辨率地震速度模型及其梯度。
2.根据权利要求1所述的基于多任务学习的地震速度模型超分辨率技术，其特征在于：所述步骤1的深度网络使用全局残差结构、U形网络结构以及稠密连接结构搭建，并处理地震速度模型及其梯度信息。
3.根据权利要求1所述的基于多任务学习的地震速度模型超分辨率技术，其特征在于：所述标签数据包括高分辨率地震速度模型及其梯度信息与不同模糊程度的低分辨率地震速度模型及其梯度信息。
4.根据权利要求3所述的基于多任务学习的地震速度模型超分辨率技术，其特征在于：所述步骤2具体包括以下步骤：
步骤2.1：使用索贝尔算子提取所述高分辨率地震速度模型两个方向的边缘信息，并与所述高分辨率地震速度模型进行组合，得到三通道的目标图像；
步骤2.2：在高分辨率图像中，使用均值滤波，得到不同模糊程度的所述低分辨率地震速度模型；
步骤2.3：使用索贝尔算子提取所述低分辨率地震速度模型两个方向的边缘信息，并与所述低分辨率地震速度模型进行组合，得到低分辨率三通道的输入图像。
5.根据权利要求1所述的基于多任务学习的地震速度模型超分辨率技术，其特征在于：所述步骤4具体包括以下步骤：
步骤4.1：使用索贝尔算子提取实际地震速度模型两个方向的梯度信息，并和实际地震速度模型组合，得到三通道的输入图像；
步骤4.2：利用训练好的所述多任务超分辨率深度网络处理输入图像，得到所述高分辨率的地震速度模型及其梯度。
CN202010253987.3A 2020-04-02 2020-04-02 一种基于多任务学习的地震速度模型超分辨率技术 Active CN111461988B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010253987.3A CN111461988B (zh) 2020-04-02 2020-04-02 一种基于多任务学习的地震速度模型超分辨率技术

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010253987.3A CN111461988B (zh) 2020-04-02 2020-04-02 一种基于多任务学习的地震速度模型超分辨率技术

Publications (2)

Publication Number Publication Date
CN111461988A true CN111461988A (zh) 2020-07-28
CN111461988B CN111461988B (zh) 2022-09-23

Family

ID=71685858

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010253987.3A Active CN111461988B (zh) 2020-04-02 2020-04-02 一种基于多任务学习的地震速度模型超分辨率技术

Country Status (1)

Country Link
CN (1) CN111461988B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111929723A (zh) * 2020-07-15 2020-11-13 清华大学 基于多任务学习的地震数据约束下的速度模型超辨率方法
CN115169247A (zh) * 2022-08-02 2022-10-11 中国矿业大学(北京) 储层参数的预测方法、装置和电子设备
CN117407712A (zh) * 2023-10-17 2024-01-16 中联煤层气有限责任公司 一种基于多任务学习的低频地震数据补偿方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103207409A (zh) * 2013-04-17 2013-07-17 中国海洋石油总公司 一种频率域全波形反演地震速度建模方法
CN105510964A (zh) * 2015-11-27 2016-04-20 中国石油大学(华东) 复杂构造区低级序走滑断层的地震识别方法
US20160131781A1 (en) * 2014-11-12 2016-05-12 Chevron U.S.A. Inc. Creating a high resolution velocity model using seismic tomography and impedance inversion
CN108663713A (zh) * 2017-03-27 2018-10-16 中国石油化工股份有限公司 一种建立深度域构造模型的方法
CN110914718A (zh) * 2017-05-22 2020-03-24 沙特阿拉伯石油公司 计算频域中地震速度反演的与振幅无关的梯度

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103207409A (zh) * 2013-04-17 2013-07-17 中国海洋石油总公司 一种频率域全波形反演地震速度建模方法
US20160131781A1 (en) * 2014-11-12 2016-05-12 Chevron U.S.A. Inc. Creating a high resolution velocity model using seismic tomography and impedance inversion
CN105510964A (zh) * 2015-11-27 2016-04-20 中国石油大学(华东) 复杂构造区低级序走滑断层的地震识别方法
CN108663713A (zh) * 2017-03-27 2018-10-16 中国石油化工股份有限公司 一种建立深度域构造模型的方法
CN110914718A (zh) * 2017-05-22 2020-03-24 沙特阿拉伯石油公司 计算频域中地震速度反演的与振幅无关的梯度

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111929723A (zh) * 2020-07-15 2020-11-13 清华大学 基于多任务学习的地震数据约束下的速度模型超辨率方法
CN111929723B (zh) * 2020-07-15 2023-03-14 清华大学 基于多任务学习的地震数据约束下速度模型超分辨率方法
CN115169247A (zh) * 2022-08-02 2022-10-11 中国矿业大学(北京) 储层参数的预测方法、装置和电子设备
CN117407712A (zh) * 2023-10-17 2024-01-16 中联煤层气有限责任公司 一种基于多任务学习的低频地震数据补偿方法

Also Published As

Publication number Publication date
CN111461988B (zh) 2022-09-23

Similar Documents

Publication Publication Date Title
AU2020100200A4 (en) Content-guide Residual Network for Image Super-Resolution
CN111461988B (zh) 一种基于多任务学习的地震速度模型超分辨率技术
CN101950365B (zh) 基于ksvd字典学习的多任务超分辨率图像重构方法
Karami et al. Persian sign language (PSL) recognition using wavelet transform and neural networks
CN109669049B (zh) 一种基于卷积神经网络的粒子图像测速方法
CN111929723B (zh) 基于多任务学习的地震数据约束下速度模型超分辨率方法
CN103886216B (zh) 一种基于地质矢量信息的多点地质统计方法
WO2023087451A1 (zh) 基于观测数据自编码的多尺度无监督地震波速反演方法
CN114049545B (zh) 一种基于点云体素的台风定强方法、系统、设备及介质
CN112541572A (zh) 基于卷积编码器-解码器网络的剩余油分布预测方法
CN109903373A (zh) 一种基于多尺度残差网络的高质量人脸生成方法
He et al. Remote sensing image super-resolution using deep–shallow cascaded convolutional neural networks
CN115330643B (zh) 基于卷积神经网络和视觉变换神经网络的地震去噪方法
CN114966860A (zh) 一种基于卷积神经网络的地震数据去噪方法
CN112184552B (zh) 一种基于高频特征学习的子像素卷积图像超分辨方法
CN107622476B (zh) 基于概率生成模型的图像超分辨处理方法
CN117173022A (zh) 基于多路径融合和注意力的遥感图像超分辨率重建方法
CN111551988B (zh) 一种深度学习与预测滤波结合的地震数据反假频插值方法
CN117173577A (zh) 一种基于改进Swin Transformer的遥感影像建筑物变化检测方法
CN115576014B (zh) 一种基于声波远探测成像的裂缝型储层智能识别方法
CN116402766A (zh) 一种结合卷积神经网络和Transformer的遥感影像变化检测方法
CN115660979A (zh) 一种基于注意力机制的双判别器图像修复方法
CN113419278B (zh) 一种基于状态空间模型与支持向量回归的井震联合多目标同时反演方法
CN116068644A (zh) 一种利用生成对抗网络提升地震数据分辨率和降噪的方法
Cheng et al. Super-resolution reconstruction of rock thin-section image based on SinGAN

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant