CN115469359B - 基于集成学习的无监督深度神经网络压制多次波的方法 - Google Patents

基于集成学习的无监督深度神经网络压制多次波的方法 Download PDF

Info

Publication number
CN115469359B
CN115469359B CN202211076177.0A CN202211076177A CN115469359B CN 115469359 B CN115469359 B CN 115469359B CN 202211076177 A CN202211076177 A CN 202211076177A CN 115469359 B CN115469359 B CN 115469359B
Authority
CN
China
Prior art keywords
neural network
deep neural
learner
data
basic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211076177.0A
Other languages
English (en)
Other versions
CN115469359A (zh
Inventor
胡天跃
王坤喜
赵邦六
王尚旭
曹宏
曾庆才
王春明
曾同生
徐基祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University filed Critical Peking University
Priority to CN202211076177.0A priority Critical patent/CN115469359B/zh
Publication of CN115469359A publication Critical patent/CN115469359A/zh
Application granted granted Critical
Publication of CN115469359B publication Critical patent/CN115469359B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28—Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/282—Application of seismic models, synthetic seismograms
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28—Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/34—Displaying seismic recordings or visualisation of seismic data or attributes
    • G01V1/345—Visualisation of seismic data or attributes, e.g. in 3D cubes
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28—Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/36—Effecting static or dynamic corrections on records, e.g. correcting spread; Correlating seismic signals; Eliminating effects of unwanted energy
    • G01V1/362—Effecting static or dynamic corrections; Stacking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V2210/00—Details of seismic processing or analysis
    • G01V2210/50—Corrections or adjustments related to wave propagation
    • G01V2210/53—Statics correction, e.g. weathering layer or transformation to a datum
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V2210/00—Details of seismic processing or analysis
    • G01V2210/60—Analysis
    • G01V2210/66—Subsurface modeling
    • G01V2210/665—Subsurface modeling using geostatistical modeling
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V2210/00—Details of seismic processing or analysis
    • G01V2210/70—Other details related to processing
    • G01V2210/74—Visualisation of seismic data

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Environmental & Geological Engineering (AREA)
  • Geology (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Geophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Geophysics And Detection Of Objects (AREA)

Abstract

本发明公布了一种基于集成学习的无监督深度神经网络压制多次波的方法，构建具有多个深度神经网络约束的无监督深度神经网络压制地震表面多次波模型结构，在训练阶段，通过三个不同的深度神经网络分别构建三个不同的基础学习器，通过基础学习器将全波场数据卷积得到的预测表面多次波映射为真实表面多次波结果；采用集成学习方法综合全部基础学习器，得到地震表面多次波压制结果。本发明方法不需要压制表面多次波的干净数据来充当训练集数据，很好地解决了训练集缺失的问题，能够很好地用于复杂地质条件下实际数据的表面多次波压制中。本发明方法不需要人工参与调整参数，能够提高地震数据处理流程和模块的智能化程度。

Description

基于集成学习的无监督深度神经网络压制多次波的方法
技术领域
本发明属于地下介质构造勘探技术领域，涉及地震相干噪声数据处理技术，具体涉及使用基于集成学习的无监督深度神经网络压制地震表面多次波的方法。
背景技术
随着油气勘探的不断深入和勘探目标的日趋复杂，对地下介质构造的成像精度提出了越来越高的要求。多次波在地震资料中普遍存在，这些多次波会造成地震记录中有效反射能量被压制和信噪比降低的问题([1]-[4])。当多次波没有被压制或者压制不彻底时，多次波同相轴能够掩盖一次波同相轴，影响地震资料的偏移成像效果,进而导致对地震资料解释和地下构造的错误认知,甚至直接影响探井井位部署和勘探的成功率([5]).在海洋地震勘探中,深水海域地震资料数据处理是深水油气勘探的重要环节。自由表面多次波是海洋多次波的主要类型之一,自由表面多次波能否得到有效压制,是海洋勘探至关重要的环节和重中之重的焦点([6]).由于表面多次波直接影响到地震资料的品质,因此在偏移之前,尽可能地压制或衰减表面多次波。
多次波压制方法主要分为两大类([7]):一类是基于多次波与一次波特征和性质差异的滤波法；另类是波动理论法。滤波法，如基于Radon变换的多次波压制法([8])，主要利用地震信号的运动学特征,因此不能适应复杂地震数据的多次波压制([9])。波动理论法主要包括预测相减法，逆散射级数法([10]-[11])和Marchenko理论法([12]-[14])。预测相减法([15]-[16])从波场传播的角度寻找一次波与多次波的本质差别和内在联系，增强了对复杂地震数据的适应性。其中,自由表面多次波压制(Surface-related multipleelimination，SRME)方法作为典型的预测相减法,已经在工业界得到了广泛应用([17])。SRME通过地震数据的时空褶积预测各阶自由表面多次波,然后在一次波能量最小的假设前提下,利用非线性优化算法估计地震反子波,进而消除多次波能量([18])。Berkhout等([1])提出了迭代SRME方法,通过多次波预测与自适应相减交替进行的迭代过程,将原来的非线性问题转化为线性问题，增强了方法的实用性。但是在实际应用中,当多次波与次波干涉时，最小二乘自适应相减方法容易损伤有效信号。Groenestijn等([19])在SRME的理论基础上提出了基于稀疏反演的地下反射估计方法(Estimationof primaries by sparseinversion,EPSI),以拟合残差为驱动,通过最速下降法交替更新脉冲响应与震源子波两个未知参数,并重构一次波及其对应的自由表面多次波。与SRME相比,EPSI避免了自适应相减的步骤,更好地保护了有效信号,而且可以在全波形反演过程中检验地震数据的物理一致性。但高计算成本是制约EPSI方法发展的主要因素。
近年来，深度神经网络在勘探地球物理领域取得了较大的效果，并引起了很大的关注。文献[20]提出使用卷积神经网络替代传统基于先验知识的噪声去除方法，取得了很好的随机噪声和线性噪声压制效果。文献[21]提出在共炮点域制作双混叠同时震源数据来训练深度神经网络，最终让深度神经网络学会压制共检波点中的同时震源数据，并能够很大程度上提高地震勘探的效率。
在多次波压制领域，深度神经网络也展示了很好的效果。文献[22]提出使用生成对抗网络完成表面多次波的压制，其中全波场数据作为输入数据，压制了表面多次波的一次波数据作为标签数据。文献[23]提出使用具备2输入和1个输出的U-net([24])结构完成多次波的压制，其中全波场数据和预测的表面多次波数据一起组合为输入数据，一次波数据作为标签数据。后来U-net网络被拓展为2输入和3个输出的网络结构，并被证明在迁移学习下，具备一定的跨工区压制多次波的能力([25])。但是上述方法都属于有监督深度神经网络方法，需要真实的一次波数据作为标签数据来训练深度神经网络。而在压制实际地震数据中的表面多次波时，真实的一次波数据或者真实的表面多次波数据是不可以得到的，因此会导致训练集数据缺失的问题。但是，现有采用深度神经网络的人工智能方法在压制表面多次波过程中面临训练集缺失的问题，严重制约了上述基于深度神经网络的表面多次波压制方法的使用。
参考文献：
[1]A.J.Berkhout and D.Verschuur,"Estimation of multiple scattering byiterative inversion,Part I:Theoretical considerations,"Geophysics,vol.62,no.5,pp.1586-1595,1997.
[2]D.Verschuur and A.Berkhout,"Estimation of multiple scattering byiterative inversion,Part II:Practical aspects and examples,"Geophysics,vol.62,no.5,pp.1596-1611,1997.
[3]D.J.Verschuur,A.J.Berkhout,and C.P.A.Wapenaar,"Adaptive surface-related multiple elimination,"Geophysics,vol.57,no.9,pp.1166-1177,1992.
[4]J.W.Wiggins,"Attenuation of complex water-bottom multiples bywave-equation-based prediction and subtraction,"GEOPHYSICS,vol.53,no.12,pp.1527-1539,1988/12/01 1988,doi:10.1190/1.1442434.
[5]D.J.Foster and C.C.Mosher,"Suppression of multiple reflectionsusing the Radon transform,"GEOPHYSICS,vol.57,no.3,pp.386-395,1992/03/01 1992,doi:10.1190/1.1443253.
[6]W.Wei,L.-y.Fu,and G.Blacquière,"Fast multifrequency focal beamanalysis for 3D seismic acquisition geometry,"GEOPHYSICS,vol.77,no.2,pp.P11-P21,2012/03/01 2012,doi:10.1190/geo2010-0327.1.
[7]A.B.Weglein,"Multiple attenuation:an overview of recent advancesand the road ahead(1999),"The Leading Edge,vol.18,no.1,pp.40-44,1999/01/011999,doi:10.1190/1.1438150.
[8]E.J.Nowak and M.G.Imhof,"Amplitude preservation of Radon-basedmultiple-removal filters,"GEOPHYSICS,vol.71,no.5,pp.V123-V126,2006/09/012006,doi:10.1190/1.2243711.
[9]T.Hu and R.E.White,"Robust multiple suppression using adaptivebeamforming,"Geophysical Prospecting,https://doi.org/10.1046/j.1365-2478.1998.00090.x vol.46,no.3,pp.227-248,1998/05/01 1998,doi:https://doi.org/10.1046/j.1365-2478.1998.00090.x.
[10]A.B.Weglein,F.A.Gasparotto,P.M.Carvalho,and R.H.Stolt,"Aninverse-scattering series method for attenuating multiples in seismicreflection data,"Geophysics,vol.62,no.6,pp.1975-1989,1997.
[11]A.B.Weglein et al.,"Inverse scattering series and seismicexploration,"Inverse Problems,vol.19,pp.R27-R83,2003.
[12]W.He and J.Geng,"Elimination of free-surface-related multiples bycombining Marchenko scheme and seismic interferometry,"GEOPHYSICS,vol.87,no.3,pp.Q1-Q14,2022/05/01 2022,doi:10.1190/geo2021-0246.1.
[13]S.Singh,R.Snieder,J.Behura,J.van der Neut,K.Wapenaar,and E.Slob,"Marchenko imaging:Imaging with primaries,internal multiples,and free-surfacemultiples,"GEOPHYSICS,vol.80,no.5,pp.S165-S174,2015/09/01 2015,doi:10.1190/geo2014-0494.1.
[14]K.Wapenaar,J.van der Neut,and E.Slob,"On the role of multiples inMarchenko imaging,"GEOPHYSICS,vol.82,no.1,pp.A 1-A 5,2017/01/01 2016,doi:10.1190/geo2016-0323.1.
[15]Z.-x.Li,"Adaptive multiple subtraction based on support vectorregression,"GEOPHYSICS,vol.85,no.1,pp.V57-V69,2020,doi:10.1190/geo2018-0245.1.
[16]A.Guitton and D.Verschuur,"Adaptive subtraction of multiplesusing the L1-norm,"Geophysical Prospecting,vol.52,no.1,pp.27-38,2004.
[17]B.Dragoset,E.Verschuur,I.Moore,and R.Bisley,"A perspective on 3Dsurface-related multiple elimination,"GEOPHYSICS,vol.75,no.5,pp.75A245-75A261,2010/09/01 2010,doi:10.1190/1.3475413.
[18]B.Jiang and W.Lu,"Adaptive multiple subtraction based on anaccelerating iterative curvelet thresholding method,"IEEE Transactions onImage Processing,2020.
[19]G.J.van Groenestijn and D.J.Verschuur,"Estimating primaries bysparse inversion and application to near-offset data reconstruction,"GEOPHYSICS,vol.74,no.3,pp.A23-A28,2009/05/01 2009,doi:10.1190/1.3111115.
[20]S.Yu,J.Ma,and W.Wang,"Deep learning for denoising,"GEOPHYSICS,vol.84,no.6,pp.V333-V350,2019/11/01 2019,doi:10.1190/geo2018-0668.1.
[21]K.Wang and T.Hu,"Deblending of Seismic Data Based on NeuralNetwork Trained in the CSG,"IEEE Transactions on Geoscience and RemoteSensing,vol.60,pp.1-12,2022,doi:10.1109/TGRS.2021.3121806.
[22]A.Siahkoohi,D.J.Verschuur,and F.J.Herrmann,"Surface-relatedmultiple elimination with deep learning,"in SEG Technical Program ExpandedAbstracts 2019,(SEG Technical Program Expanded Abstracts:Society ofExploration Geophysicists,2019,pp.4629-4634.
[23]K.WANG,T.HU,X.LIU,S.WANG,and J.WEI,"Suppressing seismic multiplesbased on the deep neural network method with data augmentation training,"Chinese Journal of Geophysics,vol.64,no.11,pp.4196-4214,2021.
[24]O.Ronneberger,P.Fischer,and T.Brox,"U-net:Convolutional networksfor biomedical image segmentation,"in International Conference on Medicalimage computing and computer-assisted intervention,2015:Springer,pp.234-241.
[25]K.Wang,T.Hu,S.Wang,and J.Wei,"Seismic multiple suppression basedon a deep neural network method for marine data,"GEOPHYSICS,pp.1-96,2022,doi:10.1190/geo2021-0206.1.
发明内容
针对上述现有技术存在的问题，为了解决训练集缺失的问题，本发明提供一种基于集成学习的无监督深度神经网络压制多次波的方法，构建具有多个深度神经网络约束的无监督深度神经网络结构，使用训练好的神经网络参数，每一个深度神经网络都能够将多维卷积方法预测的表面多次波非线性地映射为真实表面多次波的估计值。通过采用集成学习方法将每一个深度神经网络输出的关于表面多次波的结果进行综合，并得到集成估计的表面多次波结果。本发明的输入数据为预测的表面多次波，而不依赖真实一次波或者真实多次波。因此，本发明可以减少无监督深度神经网络对标签数据的依赖，进一步提高深度神经网络压制表面多次波的适用范围和效果。
本发明提出使用无监督深度神经网络方法可以很好地解决训练集缺失的问题，使用SRME卷积得到的预测的表面多次波来标定真实的表面多次波，并通过以深度神经网络为核心的基础学习器非线性映射为真实表面多次波的理想估计值。本发明可以通过集成学习将全部基础学习器得到真实表面多次波的理想估计值进行综合而得到集成的表面多次波结果，并进一步通过与全波场数据相减而被消除。相对于没有使用集成学习的人工智能方法，本发明提出使用基于集成学习的无监督深度神经网络方法使用了集成学习从而能够获得更好的表面多次波压制效果。
在地震数据处理技术中，成像或反演主要依赖于一次波。表面多次波一般被当做噪声进行消除。为了压制表面多次波，我们提出了基于集成学习的无监督深度神经网络方法。无监督深度神经网络具有优越的非线性映射能力，能够将输入的预测的表面多次波映射为真实的表面多次波，从而完成表面多次波的识别和分离。通过将全波场数据和分离的表面多次波相减，可以得到一次波结果。无监督深度神经网络由3个深度神经网络，1个输入数据，6个输出数据和6个伪标签数据组成。这个3个深度神经网络分别是残差网络，U-net和基于注意力的U-net。输入数据，单个深度神经网络和对应的输出数据组合为单个的基础学习器。在本发明中中，输入数据为预测的表面多次波，伪标签数据由全波场数据和0矩阵组成。每一个单独的基础学习器都能够将预测表面多次波的振幅和相位进行修正，最后将预测表面多次波映射为真实的表面多次波，因此基于基础学习器的无监督深度神经网络方法也具有很好的表面多次波压制能力。集成学习能够综合全部3个基础学习器的优势，集成R-net，U-net和AU-net的非线性优化能力，取得了比单个基础学习器更好的表面多次波压制效果。因此，基于集成学习的无监督深度神经网络方法要优于基于基础学习器的无监督深度神经网络方法。在实际使用中，真实一次波数据是不可以得到的。本发明提出的基于集成学习的无监督深度神经网络方法不需要真实的一次数据作为标签数据和训练集数据，因此解决了训练集缺失的问题，并具有很好的实际使用价值。
本发明提供的技术方案如下：
本发明提供一种基于集成学习的无监督深度神经网络压制表面多次波的方法，设计基于集成学习的无监督深度神经网络方法用于压制地震表面多次波。构建具有多个深度神经网络约束的无监督深度神经网络结构，在训练阶段，3个不同的深度神经网络分别组合为3个不同的基础学习器。基础学习器可以将全波场数据卷积得到的预测表面多次波映射为真实表面多次波结果。集成学习综合全部基础学习器，得到很好的表面多次波压制结果。包含以下步骤(图1)：步骤1，地震数据预处理；步骤2，多维卷积得到预测的表面多次波；步骤3，构建具有多个深度神经网络约束的无监督深度神经网络结构，作为地震表面多次波压制神经网络模型；包括构建第一基础学习器(基础学习器1)、第二基础学习器(基础学习器2)和第三基础学习器(基础学习器3)；步骤4，训练第一基础学习器、第二基础学习器和第三基础学习器；步骤5，得到第一基础学习器、第二基础学习器和第三基础学习器的输出结果；步骤6，采用集成学习下无监督深度神经网络压制表面多次波。
本发明的目的还可通过如下技术措施来实现：
在步骤1中，对采集的实际地震数据进行高程静校正。其次，对静矫正的数据进行随机噪声压制、面波压制、涌浪噪声压制和导波压制。最后，预处理后的地震数据为包含表面多次波的全波场数据。
在步骤2中，假定预处理后的含表面多次波的全波场数据为D，基于数据驱动的自由表面多次波压制SRME方法可以获得预测表面多次波M0：
M0＝GδR-D- (1)
其中，G为检波点响应，δ为地下介质脉冲响应，R-为反射算子，D-代表上行波场。预测表面多次波与真实表面多次波波形在振幅、相位上存在差异，因此需要匹配滤波算子等对差异进行校正，对波形进行匹配。
在步骤3中，构建具有多个深度神经网络约束的无监督深度神经网络结构，包括第一基础学习器、第二基础学习器和第三基础学习器。使用残差深度神经网络作为构建第一基础学习器的核心。使用U-net深度神经网络作为构建第二基础学习器的核心。使用注意力U-net深度神经网络作为构建第三基础学习器的核心。残差深度神经网络、U-net深度神经网络和注意力U-net深度神经网络的结构分别如下：
残差深度神经网络结构主要由40个卷积层，2个最大池化层，2个上采样层组成。除第一个卷积层和最后3个卷积层外，其他每三个卷积层组成为一个残差块。每个残差块内通过残差连接实现了跳跃连接。随着模型中卷积层的层数加深，过拟合和梯度消失的问题越来越突出和严重，虽然训练中可以扩展数据集或者添加正则化来缓解前述问题,但是实际上随着深度的增加，模型的效果反而越来越差，浅层网络甚至强于深层神经网络，即出现了“模型退化”现象。由一系列的残差块所构成的残差网络能够很好地解决以上问题，残差网络已经发展成了一种最为重要的特征提取方法。
在自然图像和地震数据领域,U-net网络凭借其较高的训练效率以及能够适应很小的训练集的特性引起了许多研究者的关注。U-net网络因其整体的网络结构呈对称的U型而得名。在全卷积网络编码-解码结构的基础上,它创造性地将原来的直线型网络结构变成了一个对称的U型结构，只需要较小的数据集就可以完成精准的图像分割。U-net包括编码结构、解码结构和跳跃连接结构。U-net的编码结构实现了多次波特征提取,该结构由14卷积层和4最大池化层组成。每个卷积层的后面都要经过修正线性单元ReLU激活函数用来提高网络训练的稳定性和非线性映射能力。最大池化操作，它能够降低空间分辨率,提取抽象的高维特征。U-net的解码结构包含15个卷积层和4个上采样层。上采样操作逐步恢复图像的分辨率，最终帮助卷积层输出正确尺寸大小的真实多次波的估计值。U-net通过在编码与解码之间增加跳跃连接对全卷积网络进行改进，将编码结构每一层产生的特征图融合到解码结构对应层中，实现浅层多次波特征与深层多次波特征的融合。
注意力U-net深度神经网络的主体结构与U-net网络相同。相对于U-net网络，注意力U-net深度神经网络增加了CBAM(卷积块注意模块)。CBAM将通道注意力机制和空间注意力机制进行一个结合，通过增加深部网络层中关于多次波特征值的权重，提高注意力U-net深度神经网络识别和提取多次波数据的能力。CBAM的左半部分为通道注意力机制。被CBAM处理的预测多次波特征数据被称为特征图。通道注意力机制先对特征图进行全局平均池化和全局最大池化。之后对平均池化和最大池化的结果，利用共享的全连接层进行处理，最后对处理后的两个结果进行相加，然后取一个sigmoid函数映射关系，此时获得了输入特征图每一个通道的权值(0-1之间)。在获得这个权值后，将这个权值乘上原输入特征图即可。CBAM的右半部分为空间注意力机制。空间注意力机制对特征图中每一个元素计算最大值和平均值。之后将得到的最大值和平均值进行一个堆叠，利用一次通道数为1的卷积调整通道数，然后取一个sigmoid函数映射关系，此时获得了输入特征图每一个特征点的权值(0-1之间)。在获得这个权值后，并将这个权值乘上原输入特征图即可。
在步骤4中，进行第一基础学习器、第二基础学习器和第三基础学习器的训练时，无监督深度神经网络的输入数据x为预测的表面多次波M0。无监督深度神经网络的伪标签数据有6个通道，分别记为z1,z2，z3，z4,z5和z6。伪标签数据z1,z2和z3由全波场数据D充当，伪标签数据z4,z5和z6由0矩阵充当。0矩阵表示其中元素全部为0的矩阵。在基础学习器1中，充当非线性优化功能的核心为残差深度神经网络(表示为FR)，当学习得到残差深度神经网络参数为Θ1时，第一基础学习器预测得到的表面多次波y1表示如下：
y1＝FR(x,Θ1) (2)
在第二基础学习器中，充当非线性优化功能的核心为U-net深度神经网络(表示为FU)，当学习得到U-net深度神经网络参数Θ2时，第二基础学习器预测得到的表面多次波y2表示如下：
y2＝FU(x,Θ2) (3)
在第三基础学习器中，充当非线性优化功能的核心为注意力U-net深度神经网络(表示为FA)，当学习得到注意力U-net深度神经网络参数Θ3时，第三基础学习器预测得到的表面多次波y3表示如下：
y3＝FA(x,Θ3) (4)
无监督深度神经网络中的3个基础学习器都提供了良好的非线性映射关系。预测的表面多次波能够被无监督深度神经网络正确映射为真实的表面多次波(即让输出结果y1,y2和y3逼近真实的表面多次波)的关键是设计一个合理的损失函数。良好的损失函数能够提供正确的优化策略。在第一基础学习器、第二基础学习器和第三基础学习器支路中，损失函数J1(Θ1)、J2(Θ2)和J3(Θ3)为平均绝对误差，J1、J2、J3分别为第一基础学习器、第二基础学习器和第三基础学习器的损失函数，定义分别如下：
J1(Θ1)＝||z1-FR(x,Θ1)||1+μ1||Θ1||1 (5)
J2(Θ2)＝||z2-FU(x,Θ2)||1+μ2||Θ2||1 (6)
J3(Θ3)＝||z3-FA(x,Θ3)||1+μ3||Θ3||1 (7)
其中μ1，μ2和μ3为各自基础学习器中的正则化参数。
为了加强不同深度神经网络(学习器)之间的联系，利用集成学习的优势提升无监督深度神经网络的多次波压制效果，我们使用了第一辅助学习器1、第二辅助学习器和第三辅助学习器(辅助学习器1、2和3)。第一辅助学习器由第一基础学习器预测得到的表面多次波和第二基础学习器预测得到的表面多次波作差得到。第二辅助学习器由第一基础学习器预测得到的表面多次波和第三基础学习器预测得到的表面多次波作差得到。第三辅助学习器由第二基础学习器预测得到的表面多次波和第三基础学习器预测得到的表面多次波作差得到。在第一辅助学习器、第二辅助学习器和第三辅助学习器的3个支路中，损失函数J4(<Θ1；Θ2>)、J5(<Θ1；Θ3>)和J6(<Θ2；Θ3>)为平均绝对误差，J4、J5、J6分别为第一辅助学习器、第二辅助学习器和第三辅助学习器的损失函数，定义分别如下：
J4(<Θ1；Θ2>)＝||z4-(FR(x,Θ1)-FU(x,Θ2))||1+μ4||<Θ1；Θ2>||1 (8)
J5(<Θ1；Θ3>)＝||z5-(FR(x,Θ1)-FA(x,Θ3))||1+μ5||<Θ1；Θ3>||1 (9)
J6(<Θ2；Θ3>)＝||z6-(FU(x,Θ2)-FA(x,Θ3))||1+μ6||<Θ2；Θ3>||1 (10)
其中μ4，μ5和μ6为各自辅助学习器中的正则化参数。因此，无监督深度神经网络的总损失函数J(Θ)定义如下：
其中μ为正则化参数，无监督深度神经网络参数Θ由第一基础学习器、第二基础学习器、第三基础学习器中的参数Θ1、Θ2和Θ3组成，即Θ＝<Θ1；Θ2；Θ3>。
在实际压制多次波的基础学习器学习过程中，无监督深度神经网络的输入数据为预测的表面多次波M0，伪标签数据z1,z2和z3为全波场数据D,z4,z5和z6都是0矩阵。因此式(11)改写为如下表达式：
在步骤5中，通过最小化式(12)中总的损失函数，得到最佳的无监督深度神经网络参数为了得到基础学习器的表面多次波压制结果，在无监督深度神经网络的测试阶段，我们可以通过学习得到的/>完成真实表面多次波的估计。根据式(2)-(4)，在无监督深度神经网络测试阶段，第一基础学习器、第二基础学习器和第三基础学习器支路的输出数据分别表示如下：
其中和/>分别是从第一基础学习器、第二基础学习器和第三基础学习器输出的真实表面多次波的估计值。
在步骤6中，根据集成学习的方法，第一基础学习器、第二基础学习器和第三基础学习器输出数据可以通过线性组合得到真实表面多次波的集成估计值：
其中为真实表面多次波的集成估计值。
集成学习下无监督深度神经网络压制表面多次波的结果可以综合全部基础学习器的优势，得到更好的表面多次波压制结果。最终，本发明通过全波场数据与真实表面多次波的集成估计值相减得到集成学习下无监督深度神经网络压制表面多次波的结果，表达式如下所示：
其中P，ll为地震表面多次波压制结果。
由此基于集成学习的无监督深度神经网络实现压制地震表面多次波。
本发明的有益效果：
本发明中的无监督深度神经网络分别综合利用了残差网络、U-net网络和注意力机制网络的深度神经网络方法的非线性表达优势。在训练阶段，无监督深度神经网络的输入数据为通过SRME卷积得到的预测的表面多次波数据。在最小化本发明提出的总的损失函数的作用下，通过最小化无监督深度神经网络的第一基础学习器、第二基础学习器和第三基础学习器支路输入数据与伪标签数据之间的误差，无监督深度神经网络的第一基础学习器、第二基础学习器和第三基础学习器支路输出数据都是真实表面多次波的估计值。基于基础学习器的无监督深度神经网络的输出数据能够获得良好地真实表面多次波的估计值，并通过单个深度神经网络得到正确的多次波估计值。相对于基于基础学习器的无监督深度神经网络，基于集成学习的无监督深度神经网络集成了全部基础学习器的优势，能够得到更加优越的表面多次波估计值。本发明方法不需要压制表面多次波的干净数据来充当训练集数据，很好地解决了训练集缺失的问题，能够很好地用于复杂地质条件下实际数据的表面多次波压制中。第一个简单模型数据例子证明基于集成学习的无监督深度神经网络方法比基于基础学习器的无监督深度神经网络能够获得更好的表面多次波压制效果。本发明的优点在于：
(一)本发明方法中，构建无监督深度神经网络压制地震表面多次波模型并能够综合模型中全部基础学习器的优势，获得优于单个基础学习器的表面多次波压制效果；
(二)本发明不需要提供真实表面多次波的地震数据或者真实一次波地震数据作为标签数据，很好地解决了训练集缺失的问题；
(三)本发明方法中，不需要人工参与调整参数，能够提高地震数据处理流程和模块的智能化程度。
附图说明
图1是本发明提供的一种在基于集成学习的无监督深度神经网络压制地震表面多次波的方法的流程框图。
图2是本发明的无监督深度神经网络压制地震表面多次波模型中的第一基础学习器深度神经网络的结构框图。
图3是本发明的第二基础学习器中深度神经网络结构框图。
图4是本发明的第三基础学习器中深度神经网络结构框图。
图5是简单模型数据示意图；
其中，(a)包含表面多次波的全波场数据，其中黑色箭头指示真实一次波；(b)为预测的表面多次波；(c)为真实的一次波；(d)为真实的表面多次波。
图6是无监督深度神经网络输出的表面多次波结果；
其中，(a)-(c)分别为第一基础学习器、第二基础学习器和第三基础学习器的输出结果；(d)为通过(a)-(c)进行集成学习得到的表面多次波集成估计值。
图7是无监督深度神经网络得到的输出结果与真实表面多次波之间的差异。(a)-(c)分别为第一基础学习器、第二基础学习器和第三基础学习器的输出结果与真实表面多次波之间的差异。(d)为集成学习得到的表面多次波集成估计值与真实表面多次波之间的差异。其中黑色箭头指示泄露的多次波信号。注意到，(d)中几乎看不到多次波误差。对比单个深度神经网络得到的多次波估计值，使用集成学习得到的多次波估计值造成的误差更少且更接近真实的表面多次波。
图8是无监督深度神经网络得到的压制表面多次波结果。图8中的(a)-(c)分别为基于第一基础学习器、第二基础学习器和第三基础学习器得到的一次波结果，其中黑色箭头指示残留的表面多次波。(d)为基于集成学习的估计的一次波集成结果。注意到，相对于单个基础学习器得到的一次波结果，(d)中几乎看不到多次波的残留和一次波的损伤。集成学习下的无监督深度神经网络的得到的一次波结果要优于基于单个基础学习器的无监督深度神经网络得到的一次波结果。
图9是海上采集的实际全波场数据。其中白色箭头指示海底反射界面，地震信号在该界面反射能够产生强的表面多次波。根据运动学规律，白色矩形框指示表面多次波出现的部位。(b)为(a)中白色矩形框放大部位。
图10是局部的全波场数据和一次波结果。(a)为图9(a)中白色矩形框放大部位，为局部的全波场数据。(b)为基于集成学习的无监督深度神经网络得到的压制了表面多次波后的一次波结果。白色箭头分别指示在表面多次波压制前后的表面多次波。(a)中黑色矩形框指示强表面多次波严重干扰了其中的弱一次波信号。但是在(b)的黑色矩形框中，水平强表面多次波被完全压制，高倾角的弱一次波信号得到完全的恢复，一次波信号更加突出明显。(a)中白色矩形框指示一次波和表面多次波相交重叠的部位(在表面多次波压制前)，但是在(b)的白色矩形框中，一次波得到完全的保留，一次波信号更加突出。
具体实施方式
下面结合附图，通过实施例进一步描述本发明，但不以任何方式限制本发明的范围。
本发明提供的方法是一种基于集成学习的无监督深度神经网络压制地震表面多次波的方法。
如图1所示，为本发明的在集成学习下使用无监督深度神经网络压制地震表面多次波方法的流程框图；
(1)地震数据预处理，对采集的实际地震数据进行高程静校正。其次，对静矫正的数据进行随机噪声压制、面波压制、涌浪噪声压制和导波压制。最后，预处理后的地震数据为包含表面多次波的全波场数据。
(2)多维卷积得到预测的表面多次波，假定预处理后的含表面多次波的全波场数据为D，基于数据驱动的SRME方法可以获得预测表面多次波M0，则M0＝GδR-D-，其中G为检波点响应，δ为地下介质脉冲响应，R-为反射算子，D-代表上行波场。预测表面多次波与真实表面多次波波形在振幅、相位上存在差异，因此需要匹配滤波算子等对差异进行校正，对波形进行匹配。
(3)构建基础学习器，构建第一基础学习器、第二基础学习器和第三基础学习器。使用残差深度神经网络作为构建第一基础学习器的核心。使用U-net深度神经网络作为构建第二基础学习器的核心。使用注意力U-net深度神经网络作为构建第三基础学习器的核心.残差深度神经网络、U-net深度神经网络和注意力U-net深度神经网络的结构如下：
残差深度神经网络结构主要由40个卷积层，2个最大池化层，2个上采样层组成。除第一个卷积层和最后3个卷积层外，其他每三个卷积层组成为一个残差块。每个残差块内通过残差连接实现了跳跃连接。随着模型中卷积层的层数加深,过拟合和梯度消失的问题越来越突出和严重,虽然训练中可以扩展数据集或者添加正则化来缓解前述问题,但是实际上随着深度的增加，模型的效果反而越来越差,浅层网络甚至强于深层神经网络，即出现了“模型退化”现象.由一系列的残差块所构成的残差网络能够很好地解决以上问题，残差网络已经发展成了一种最为重要的特征提取方法。
在自然图像和地震数据领域,U-net网络凭借其较高的训练效率以及能够适应很小的训练集的特性引起了许多研究者的关注。U-net网络因其整体的网络结构呈对称的U型而得名。在全卷积网络编码-解码结构的基础上,它创造性地将原来的直线型网络结构变成了一个对称的U型结构，只需要较小的数据集就可以完成精准的图像分割。U-net包括编码结构、解码结构和跳跃连接结构。U-net的编码结构实现了多次波特征提取,该结构由14卷积层和4最大池化层组成。每个卷积层的后面都要经过修正线性单元ReLU激活函数用来提高网络训练的稳定性和非线性映射能力。最大池化操作，它能够降低空间分辨率,提取抽象的高维特征。U-net的解码结构包含15个卷积层和4个上采样层。上采样操作逐步恢复图像的分辨率，最终帮助卷积层输出正确尺寸大小的真实多次波的估计值。U-net通过在编码与解码之间增加跳跃连接对全卷积网络进行改进，将编码结构每一层产生的特征图融合到解码结构对应层中，实现浅层多次波特征与深层多次波特征的融合。
注意力U-net深度神经网络的主体结构与U-net网络相同。相对于U-net网络，注意力U-net深度神经网络增加了CBAM(卷积块注意模块)。CBAM将通道注意力机制和空间注意力机制进行一个结合，通过增加深部网络层中关于多次波特征值的权重，提高注意力U-net深度神经网络识别和提取多次波数据的能力。CBAM的左半部分为通道注意力机制。被CBAM处理的预测多次波特征数据被称为特征图。通道注意力机制先对特征图进行全局平均池化和全局最大池化。之后对平均池化和最大池化的结果，利用共享的全连接层进行处理，最后会对处理后的两个结果进行相加，然后取一个sigmoid函数映射关系，此时本发明获得了输入特征图每一个通道的权值(0-1之间)。在获得这个权值后，本发明将这个权值乘上原输入特征图即可。CBAM的右半部分为空间注意力机制。空间注意力机制对特征图中每一个元素计算最大值和平均值。之后将得到的最大值和平均值进行一个堆叠，利用一次通道数为1的卷积调整通道数，然后取一个sigmoid函数映射关系，此时本发明获得了输入特征图每一个特征点的权值(0-1之间)。在获得这个权值后，并将这个权值乘上原输入特征图即可。
(4)训练基础学习器，进行第一基础学习器、第二基础学习器和第三基础学习器的训练时，无监督深度神经网络的输入数据x为预测的表面多次波M0，伪标签数据z1,z2和z3为全波场数据D，z4,z5和z6都是全部元素为0的0矩阵。在第一基础学习器中，充当非线性优化功能的核心为残差深度神经网络(表示为FR)，当学习得到残差深度神经网络参数为Θ1时，第一基础学习器的输出数据表示为y1＝FR(M0,Θ1)。在第二基础学习器中，充当非线性优化功能的核心为U-net深度神经网络(表示为FU)，当学习得到U-net深度神经网络参数Θ2时，第二基础学习器的输出数据表示为y2＝FU(M0,Θ2)。在第三基础学习器中，充当非线性优化功能的核心为注意力U-net深度神经网络(表示为FA)，当学习得到注意力U-net深度神经网络参数Θ3时，第三基础学习器的输出数据表示为y3＝FA(M0,Θ3)。
无监督深度神经网络中的3个基础学习器都提供了良好的非线性映射关系。预测的表面多次波能够被无监督深度神经网络正确映射为真实的表面多次波(即让输出结果y1,y2和y3逼近真实的表面多次波)的关键是设计一个合理的损失函数。良好的损失函数能够提供正确的优化策略。在第一基础学习器、第二基础学习器和第三基础学习器支路中，损失函数定义分别为：J1(Θ1)＝||z1-FR(x,Θ1)||1+μ1||Θ1||1、J2(Θ2)＝||z2-FU(x,Θ2)||1+μ2||Θ2||1和J3(Θ3)＝||z3-FA(x,Θ3)||1+μ3||Θ3||1
其中μ1，μ2和μ3为各自基础学习器中的正则化参数。
为了加强不同深度神经网络(学习器)之间的联系，利用集成学习的优势提升无监督深度神经网络的多次波压制效果，我们使用了辅助学习器。在第一辅助学习器、第二辅助学习器和第三辅助学习器支路中，损失函数定义分别为：J4(<Θ1；Θ2>)＝||z4-(FR(x,Θ1)-FU(x,Θ2))||1+μ4||<Θ1；Θ2>||1、J5(<Θ1；Θ3>)＝||z5-(FR(x,Θ1)-FA(x,Θ3))||1+μ5||<Θ1；Θ3>||1和J6(<Θ2；Θ3>)＝||z6-(FU(x,Θ2)-FA(x,Θ3))||1+μ6||<Θ2；Θ3>||1
其中μ4，μ5和μ6为各自辅助学习器中的正则化参数。因此，无监督深度神经网络的总损失函数定义为
其中μ正则化参数。
在实际压制多次波的基础学习器学习过程中，无监督深度神经网络的输入数据为预测的表面多次波M0，伪标签数据z1,z2和z3为全波场数据D,z4,z5和z6都是0矩阵。因此总损失函数改写为：
/>
(5)得到基础学习器的输出结果，通过最小化总损失函数，得到最佳的无监督深度神经网络参数为了得到基础学习器的表面多次波压制结果，在无监督深度神经网络的测试阶段，我们可以通过学习得到的/>完成真实表面多次波的估计。在无监督深度神经网络测试阶段，第一基础学习器、第二基础学习器和第三基础学习器支路的输出数据分别为：和/>其中/>和/>分别是从第一基础学习器、第二基础学习器和第三基础学习器输出的真实表面多次波的估计值。
(6)集成学习下无监督深度神经网络压制表面多次波的结果，根据集成学习思想，第一基础学习器、第二基础学习器和第三基础学习器输出数据可以通过线性组合得到真实表面多次波的集成估计值为：集成学习下无监督深度神经网络压制表面多次波的结果可以综合全部基础学习器的优势，得到更好地表面多次波压制结果。最终，本发明通过全波场数据与真实表面多次波的集成估计值相减得到集成学习下无监督深度神经网络压制表面多次波的结果，表达式为：
如图2所示，为本发明设计的第一基础学习器中深度神经网络结构。该网络结构为残差深度神经网络结构，主要由40个卷积层，2个最大池化层，2个上采样层组成。除第一个卷积层和最后3个卷积层外，其他每三个卷积层组成为一个残差块。每个残差块内通过残差连接实现了跳跃连接。随着模型中卷积层的层数加深,过拟合和梯度消失的问题越来越突出和严重,虽然训练中可以扩展数据集或者添加正则化来缓解前述问题,但是实际上随着深度的增加，模型的效果反而越来越差,浅层网络甚至强于深层神经网络，即出现了“模型退化”现象.由一系列的残差块所构成的残差网络能够很好地解决以上问题，残差网络已经发展成了一种最为重要的特征提取方法。
如图3所示，为本发明设计的第二基础学习器中深度神经网络结构。该网络结构为U-net深度神经网络结构。在自然图像和地震数据领域,U-net网络凭借其较高的训练效率以及能够适应很小的训练集的特性引起了许多研究者的关注。U-net网络因其整体的网络结构呈对称的U型而得名。在全卷积网络编码-解码结构的基础上,它创造性地将原来的直线型网络结构变成了一个对称的U型结构，只需要较小的数据集就可以完成精准的图像分割。U-net包括编码结构、解码结构和跳跃连接结构。U-net的编码结构实现了多次波特征提取,该结构由14卷积层和4最大池化层组成。每个卷积层的后面都要经过修正线性单元ReLU激活函数用来提高网络训练的稳定性和非线性映射能力。最大池化操作，它能够降低空间分辨率,提取抽象的高维特征。U-net的解码结构包含15个卷积层和4个上采样层。上采样操作逐步恢复图像的分辨率，最终帮助卷积层输出正确尺寸大小的真实多次波的估计值。U-net通过在编码与解码之间增加跳跃连接对全卷积网络进行改进，将编码过程得到的数据融合到解码结构对应层中，实现浅层多次波特征与深层多次波特征的融合。
如图4所示，为本发明设计的第三基础学习器中深度神经网络结构。该网络结构为注意力U-net深度神经网络结构。注意力U-net深度神经网络的主体结构与U-net网络相同。相对于U-net网络，注意力U-net深度神经网络增加了CBAM(卷积块注意模块)。CBAM将通道注意力机制和空间注意力机制进行一个结合，通过增加深部网络层中关于多次波特征值的权重，提高注意力U-net深度神经网络识别和提取多次波数据的能力。CBAM的左半部分为通道注意力机制。被CBAM处理的预测多次波特征数据被称为特征图。通道注意力机制先对特征图进行全局平均池化和全局最大池化。之后对平均池化和最大池化的结果，利用共享的全连接层进行处理，最后会对处理后的两个结果进行相加，然后取一个sigmoid函数映射关系，此时本发明获得了输入特征图每一个通道的权值(0-1之间)。在获得这个权值后，本发明将这个权值乘上原输入特征图即可。CBAM的右半部分为空间注意力机制。空间注意力机制对特征图中每一个元素计算最大值和平均值。之后将得到的最大值和平均值进行一个堆叠，利用一次通道数为1的卷积调整通道数，然后取一个sigmoid函数映射关系，此时本发明获得了输入特征图每一个特征点的权值(0-1之间)。在获得这个权值后，将这个权值乘上原输入特征图即可。
本发明在具体实施中，用包含4个水平层的简单模型正演得到地震数据来研究表面多次波压制效果。图5的(a)为包含表面多次波的全波场数据。其中黑色箭头指示一次波，其他同相轴都是表面多次波。通过卷积方法得到预测的表面多次波如图5的(b)所示。预测的表面多次波与真实的表面多次波在振幅和相位上都有区别，但是预测的表面多次波可以很好地标定真实的表面多次波。图5的(c)和(d)为别为真实的一次波和真实的表面多次波。
在测试阶段，本发明将预测的表面多次波送入参数为Θ1的无监督深度神经网络中，无监督深度神经网络输出值包含真实的表面多次波估计值。无监督深度神经网络输出值有6个通道，前3个通道分别是第一基础学习器、第二基础学习器和第三基础学习器的输出结果(真实的表面多次波估计值)。图6的(a)-(c)分别展示了第一基础学习器、第二基础学习器和第三基础学习器输出的真实的表面多次波估计值。将图6的(a)-(c)中的数据取平均得到图6的(d)所示的表面多次波集成估计值。对比图5的(d)中的真实表面多次波和图6展示的表面多次波估计值，无监督得到的表面多次波估计值与真实表面多次波几乎相同，证明无监督深度神经网络中的输入数据(预测的表面多次波)被正确的映射为真实的表面多次波。为了进一步验证无监督深度神经网络方法的有效性，本发明计算了真实表面多次波和无监督深度神经网络方法得到的结果之间的误差，并绘制在图7中。图7的(a)-(c)分别为真实表面多次波与图6的(a)-(c)之间的差异，差异很少。从图7的(a)-(c)可以看出，除了黑色箭头处指示有很少的没有被正确映射的泄露的多次波，没有引入其他信号，而且泄露的多次波很少。图7的(a)-(c)证明本发明方法几乎完全将预测的表面多次波映射为真实的表面多次波。图7的(d)显示了集成学习得到的表面多次波集成估计值与真实表面多次波之间的差异。图7的(d)中几乎看不到误差信号，证明图6的(d)所示的无监督深度神经网络得到的表面多次波集成估计值与真实的表面多次波几乎相同。对比单个深度神经网络得到的多次波误差值(图7的(a)-(c))，使用集成学习得到的多次波估计值造成的误差(图7的(d))更少且更接近真实的表面多次波。通过图7的对比，证明图6的(d)的多次波估计值更加接近真实的表面多次波。前面的对比表明，本发明提出的基于集成学习的无监督深度神经网络输出的多次波结果要好于单个base learner得到的输出结果。
通过将全波场数据减去无监督深度神经网络输出的表面多次波估计值，可以得到图8所示的无监督深度神经网络得到的一次波估计值。图8(a)-(c)分别为根据第一基础学习器、第二基础学习器和第三基础学习器计算得到的一次波结果，其中黑色箭头指示残留的表面多次波。图8的(a)-(c)得到结果中已经恢复了全部的一次波，只有极少量的多次波残留，没有一次波的泄露。基于集成学习的无监督深度神经网络方法得到的估计的一次波集成结果如图8的(d)所示。在图8的(d)中，几乎看不到多次波残留，没有造成一次波的泄露，一次波得到了完全的保留。图8(d)中的估计的一次波集成结果明显好于通过单个基础学习器得到的一次波结果。本次实验证明无监督深度神经网络取得了很好的表面多次波压制效果，具有良好的一次波保护能力。相对于基于单个基础学习器的无监督深度神经网络输出结果，使用集成学习下的无监督深度神经网络的输出结果几乎没有造成多次波的残留和一次波的损伤，具有卓越的表面多次波压制效果。
本发明选取某一个地区采集的实际海洋数据来测试法的有效性。图9的(a)为包含表面多次波的全波场数据。在4s附近有一个海底界面，地震信号在该界面反射能够产生强的表面多次波。根据运动学规律，海底界面产生的表面多次波主要被记录在8s附近。因此图9的(a)中白色矩形框内为表面多次波主要出现的位置。将图9的(a)中白色矩形框内数据放大，得到图9的(b)所示的局部全波场数据。从图9的(b)可以看出很明显的水平或者小倾角的表面多次波，这些表面多次波严重干扰了一次波信号的识别。
图10的(a)与图9的(b)相同，为图9的(a)中白色矩形框放大部分。其中白色箭头指示强振幅的表面多次波。在图10的(a)的黑色虚线矩形框内，强振幅的水平表面多次波严重干扰了一次波信号，将一次波信号完全湮没。在图10的(a)的白色虚线矩形框内，一次波和表面多次波相交重叠，多次波严重干扰了一次波。使用本发明提出的基于集成学习的无监督深度神经网络方法压制图10的(a)中的表面多次波后，得到的一次波结果如图10的(b)所示。在图10的(b)所示的一次波结果中，表面多次波都得到了很好地压制，一次波得到了完全的恢复。与图10的(a)对比，图10的(b)中的白色箭头指示强振幅的表面多次波几乎被完全压制消除；图10的(b)中的黑色矩形框指示弱的高倾角一次波信号得到完全的恢复，一次波更加突出明显。图10的(b)中的白色矩形框指示与一次波相交重叠的表面多次波被完全地压制，弱的一次波信号更加突出明显。本次实际数据实验进一步证明本发明提出的基于集成学习的无监督深度神经网络能够很好地压制表面多次波，完全恢复一次波。
需要注意的是，公布实施例的目的在于帮助进一步理解本发明，但是本领域的技术人员可以理解：在不脱离本发明及所附权利要求的精神和范围内，各种替换和修改都是可能的。因此，本发明不应局限于实施例所公开的内容，本发明要求保护的范围以权利要求书界定的范围为准。

Claims (7)

1.一种基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，构建具有多个深度神经网络约束的无监督深度神经网络压制地震表面多次波模型结构，在训练阶段，通过三个不同的深度神经网络分别构建三个不同的基础学习器，通过基础学习器将全波场数据卷积得到的预测表面多次波映射为真实表面多次波结果；采用集成学习方法综合全部基础学习器，得到地震表面多次波压制结果；包含以下步骤：
步骤1，地震数据预处理；
步骤2，通过多维卷积得到预测的表面多次波；
具体是通过基于数据驱动的自由表面多次波压制SRME方法获得预测表面多次波M0，表示为：
M0＝GδR-D- (1)
其中，D为预处理后的含表面多次波的全波场数据；G为检波点响应，δ为地下介质脉冲响应，R-为反射算子，D-代表上行波场；
步骤3，构建具有多个深度神经网络约束的无监督深度神经网络结构，作为地震表面多次波压制神经网络模型；包括构建第一基础学习器、第二基础学习器和第三基础学习器；
具体是使用残差深度神经网络构建第一基础学习器；使用U-net深度神经网络构建第二基础学习器；使用注意力U-net深度神经网络构建第三基础学习器；其中：
残差深度神经网络结构包括40个卷积层，2个最大池化层，2个上采样层；除第一个卷积层和最后3个卷积层外，其他每三个卷积层组成为一个残差块；每个残差块内通过残差连接实现跳跃连接；
所述U-net深度神经网络包括编码结构、解码结构和跳跃连接结构；其中编码结构用于多次波特征提取，该结构包括14个卷积层和4个最大池化层；每个卷积层的后面均经过修正线性单元ReLU激活函数；解码结构包含15个卷积层和4个上采样层；上采样操作逐步恢复图像的分辨率，使得卷积层输出正确尺寸大小的真实多次波的估计值；通过在编码与解码之间增加跳跃连接对全卷积网络进行改进，将编码结构每一层产生的特征图融合到解码结构对应层中，实现浅层多次波特征与深层多次波特征的融合；
所述注意力U-net深度神经网络的结构除包括U-net网络结构，还增加卷积块注意模块CBAM；CBAM通过增加深部网络层中关于多次波特征值的权重，提高注意力U-net深度神经网络识别和提取多次波数据的能力；CBAM的左半部分为通道注意力机制；CBAM的右半部分为空间注意力机制；通过CBAM处理的预测多次波特征数据称为特征图；
步骤4，训练步骤3)构建的无监督深度神经网络的第一基础学习器、第二基础学习器和第三基础学习器；包括：
构建的无监督深度神经网络的输入数据x为预测的表面多次波M0；无监督深度神经网络的伪标签数据有6个通道，分别记为z1,z2，z3，z4,z5和z6；
在第一基础学习器中，当学习得到残差深度神经网络FR的参数时，第一基础学习器预测得到的表面多次波y1表示为：
y1＝FR(x,Θ1) (2)
其中Θ1为残差深度神经网络FR的参数；
在第二基础学习器中，当学习得到U-net深度神经网络FU的参数Θ2时，第二基础学习器预测得到的表面多次波y2表示为：
y2＝FU(x,Θ2) (3)
在第三基础学习器中，当学习得到注意力U-net深度神经网络FA的参数Θ3时，第三基础学习器预测得到的表面多次波y3表示为：
y3＝FA(x,Θ3) (4)
设计损失函数，使得预测的表面多次波被无监督深度神经网络正确映射为真实的表面多次波，即使得输出结果y1,y2和y3逼近真实的表面多次波；无监督深度神经网络的总损失函数J(Θ)定义为：
其中，μ为正则化参数；Θ为无监督深度神经网络参数；Θ＝<Θ1；Θ2；Θ3>；损失函数采用平均绝对误差；J1、J2、J3分别为第一基础学习器、第二基础学习器和第三基础学习器的损失函数，表示为：
J1(Θ1)＝||z1-FR(x,Θ1)||1+μ1||Θ1||1 (5)
J2(Θ2)＝||z2-FU(x,Θ2)||1+μ2||Θ2||1 (6)
J3(Θ3)＝||z3-FA(x,Θ3)||1+μ3||Θ3||1 (7)
其中μ1，μ2和μ3为各自基础学习器中的正则化参数；
J4、J5、J6分别为第一辅助学习器、第二辅助学习器和第三辅助学习器的损失函数，表示为：
J4(<Θ1；Θ2>)＝||z4-(FR(x,Θ1)-FU(x,Θ2))||1+μ4||<Θ1；Θ2>||1 (8)
J5(<Θ1；Θ3>)＝||z5-(FR(x,Θ1)-FA(x,Θ3))||1+μ5||<Θ1；Θ3>||1 (9)
J6(<Θ2；Θ3>)＝||z6-(FU(x,Θ2)-FA(x,Θ3))||1+μ6||<Θ2；Θ3>||1 (10)
其中μ4，μ5和μ6为各自辅助学习器中的正则化参数；
通过最小化式总损失函数，得到最佳的无监督深度神经网络参数
步骤5，在无监督深度神经网络的测试阶段，通过学习得到的得到第一基础学习器、第二基础学习器和第三基础学习器输出的结果，即真实表面多次波的估计值，分别表示为 和/>
步骤6，采用集成学习下无监督深度神经网络压制表面多次波；
将第一基础学习器、第二基础学习器和第三基础学习器输出数据，通过线性组合得到真实表面多次波的集成估计值；
再通过全波场数据与真实表面多次波的集成估计值相减，得到集成学习下无监督深度神经网络压制表面多次波的结果；
通过上述步骤，实现基于集成学习无监督深度神经网络压制地震表面多次波。
2.如权利要求1所述基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，步骤1包括：
首先，对采集的实际地震数据进行高程静校正；
其次，对静矫正的数据进行随机噪声压制、面波压制、涌浪噪声压制和导波压制；
最后，预处理后的地震数据为包含表面多次波的全波场数据。
3.如权利要求1所述基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，注意力U-net深度神经网络的结构中增加的卷积块注意模块CBAM中，通道注意力机制分为两个部分，包括：
分别进行全局平均池化和全局最大池化；
利用共享的全连接层分别处理平均池化和最大池化的结果；
将处理后得到的两个结果进行相加；
通过sigmoid函数映射，获得输入特征图每一个通道的权值；
将得到的权值乘上原输入特征图。
4.如权利要求1所述基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，注意力U-net深度神经网络的结构中增加的卷积块注意模块CBAM中，空间注意力机制包括：
对特征图中每一个元素计算最大值和平均值；
之后将得到的最大值和平均值进行堆叠，利用一次通道数为1的卷积调整通道数；
通过sigmoid函数映射，获得输入特征图每一个特征点的权值；
将权值乘上原输入特征图。
5.如权利要求1所述基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，在步骤4中，总损失函数表示为：
其中，伪标签数据z1,z2和z3为全波场数据D；伪标签数据z4,z5和z6均为0矩阵；0矩阵为元素全部为0的矩阵。
6.如权利要求1所述基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，在步骤6中，采用集成学习下无监督深度神经网络压制表面多次波，具体是将第一基础学习器、第二基础学习器和第三基础学习器输出数据，通过线性组合得到真实表面多次波的集成估计值，表示为：
其中，为真实表面多次波的集成估计值。
7.如权利要求1所述基于集成学习无监督深度神经网络压制表面多次波的方法，其特征是，在步骤6中，通过全波场数据与真实表面多次波的集成估计值相减得到集成学习下无监督深度神经网络压制表面多次波的结果，表示为：
其中，Pall为地震表面多次波压制结果。
CN202211076177.0A 2022-09-05 2022-09-05 基于集成学习的无监督深度神经网络压制多次波的方法 Active CN115469359B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211076177.0A CN115469359B (zh) 2022-09-05 2022-09-05 基于集成学习的无监督深度神经网络压制多次波的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211076177.0A CN115469359B (zh) 2022-09-05 2022-09-05 基于集成学习的无监督深度神经网络压制多次波的方法

Publications (2)

Publication Number Publication Date
CN115469359A CN115469359A (zh) 2022-12-13
CN115469359B true CN115469359B (zh) 2024-05-24

Family

ID=84370970

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211076177.0A Active CN115469359B (zh) 2022-09-05 2022-09-05 基于集成学习的无监督深度神经网络压制多次波的方法

Country Status (1)

Country Link
CN (1) CN115469359B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020194098A1 (en) * 2019-03-28 2020-10-01 Chevron Usa Inc. System and method for property estimation from seismic data
CN112946749A (zh) * 2021-02-05 2021-06-11 北京大学 基于数据增广训练深度神经网络压制地震多次波的方法
CN113687414A (zh) * 2021-08-06 2021-11-23 北京大学 基于数据增广的卷积神经网络地震层间多次波压制方法
WO2022079550A1 (en) * 2020-10-14 2022-04-21 King Abdullah University Of Science And Technology Pretraining system and method for seismic data processing using machine learning
CN114966859A (zh) * 2021-02-18 2022-08-30 中国石油化工股份有限公司 基于深度卷积神经网络的多次波自适应压制方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020194098A1 (en) * 2019-03-28 2020-10-01 Chevron Usa Inc. System and method for property estimation from seismic data
WO2022079550A1 (en) * 2020-10-14 2022-04-21 King Abdullah University Of Science And Technology Pretraining system and method for seismic data processing using machine learning
CN112946749A (zh) * 2021-02-05 2021-06-11 北京大学 基于数据增广训练深度神经网络压制地震多次波的方法
CN114966859A (zh) * 2021-02-18 2022-08-30 中国石油化工股份有限公司 基于深度卷积神经网络的多次波自适应压制方法
CN113687414A (zh) * 2021-08-06 2021-11-23 北京大学 基于数据增广的卷积神经网络地震层间多次波压制方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Seismic multiple suppression based on a deep neural network method for marine data;Kunxi Wang , Tianyue Hu, Shangxu Wang, Jianxin Wei;GEOPHYSICS;20220701;第4卷(第87期);全文 *
利用数学形态学滤波方法压制多次波;王思理;胡天跃;王润秋;;地球物理学进展;20170415(第02期);全文 *
多道自适应匹配滤波方法压制表面多次波;石颖;王建民;井洪亮;李莹;;地球物理学进展;20130415(第02期);全文 *
自适应虚同相轴方法压制地震层间多次波;刘嘉辉;胡天跃;彭更新;;地球物理学报;20180315(第03期);全文 *

Also Published As

Publication number Publication date
CN115469359A (zh) 2022-12-13

Similar Documents

Publication Publication Date Title
CN110687600B (zh) 一种基于声-弹耦合方程的弹性波最小二乘逆时偏移方法
CN112946749A (zh) 基于数据增广训练深度神经网络压制地震多次波的方法
Wang et al. Seismic multiple suppression based on a deep neural network method for marine data
CN110716231B (zh) 基于共聚焦域稀疏反演的海上多震源波场分离方法及系统
Wang et al. An unsupervised deep neural network approach based on ensemble learning to suppress seismic surface-related multiples
da Silva et al. An objective function for full-waveform inversion based on frequency-dependent offset-preconditioning
CN115469359B (zh) 基于集成学习的无监督深度神经网络压制多次波的方法
Gu et al. Inverse-scattering theory guided U-Net neural networks for internal multiple elimination
Sun et al. LsmGANs: Image-domain least-squares migration using a new framework of generative adversarial networks
Wang et al. Iterative deblending using unsupervised learning with double-deep neural networks
CN109655916B (zh) 用于分离地震数据中有效波与多次波的方法及系统
Operto et al. Full Waveform Inversion beyond the Born approximation: A tutorial review
US20150142831A1 (en) Computerized method and a computer program rpoduct for determining a resulting data set representative of a geological region of interest
Liu-Rong et al. The separation of seismic surface-related multiples based on CAE-SAGAN
Song et al. Multiple attenuation based on connected-component analysis and high-resolution parabolic Radon transform
Staring et al. R-EPSI and Marchenko equation-based workflow for multiple suppression in the case of a shallow water layer and a complex overburden: A 2D case study in the Arabian Gulf
Wang et al. Advanced deblending scheme for independent simultaneous source data
Cao et al. Amplitude compensation for one-way wave propagators in inhomogeneous media and its application to seismic imaging
FR3024243A1 (fr) Procede de filtrage adaptatif de reflexions sismiques multiples
Zhang et al. Multilayer perceptron and Bayesian neural network based implicit elastic full-waveform inversion
CN115061200B (zh) 基于虚同相轴法和无监督神经网络压制层间多次波的方法
Sun et al. Deep learning-based Vz-noise attenuation for OBS data
Xu et al. Compensating low-frequency signals for prestack seismic data and its applications in full-waveform inversion
Alfarhan et al. Robust Full Waveform Inversion with deep Hessian deblurring
KR102630687B1 (ko) 수신기-파동장의 방향성 전파를 이용한 수직 케이블탄성파 탐사자료의 역-시간 구조보정 장치 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant