CN111695413A - 联合U-Net和Temporal Ensembling的信号初至拾取方法及装置 - Google Patents

联合U-Net和Temporal Ensembling的信号初至拾取方法及装置 Download PDF

Info

Publication number
CN111695413A
CN111695413A CN202010348842.1A CN202010348842A CN111695413A CN 111695413 A CN111695413 A CN 111695413A CN 202010348842 A CN202010348842 A CN 202010348842A CN 111695413 A CN111695413 A CN 111695413A
Authority
CN
China
Prior art keywords
signal
data set
training
net
micro
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010348842.1A
Other languages
English (en)
Other versions
CN111695413B (zh
Inventor
盛冠群
郭小龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yangtze University
Original Assignee
Yangtze University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yangtze University filed Critical Yangtze University
Priority to CN202010348842.1A priority Critical patent/CN111695413B/zh
Publication of CN111695413A publication Critical patent/CN111695413A/zh
Application granted granted Critical
Publication of CN111695413B publication Critical patent/CN111695413B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/01—Measuring or predicting earthquakes
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28—Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/282—Application of seismic models, synthetic seismograms
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01V—GEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00—Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28—Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/288—Event detection in seismic signals, e.g. microseismics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02—Preprocessing
    • G06F2218/04—Denoising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/30—Assessment of water resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Geophysics (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Geology (AREA)
  • Acoustics & Sound (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Complex Calculations (AREA)

Abstract

本发明公开一种联合U‑Net和Temporal Ensembling的信号初至拾取方法及装置，所述方法包括：获取原始微地震信号数据并进行预处理，得到微地震信号数据集；根据微地震信号数据集的部分数据制作有标签数据集；对数据集进行数据扩增，添加随机噪声并投入U‑Net网络进行训练；对U‑Net网络添加丢弃正则化防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；根据所述加权损失结合Temporal Ensembling模型进行半监督训练；获取待测信号，根据所述联合U‑Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。本发明可以对少量微地震信号扩容，集成预测有效信号，大大提高初至拾取效率。

Description

联合U-Net和Temporal Ensembling的信号初至拾取方法及 装置
技术领域
本发明属于微地震信号检测技术领域，具体涉及一种联合U-Net和TemporalEnsembling的微地震有效信号初至拾取方法及装置。
背景技术
地面微地震实际记录的信号是有效信号和各种噪声的叠加结果，因此如何从微地震资料中提取有效信号是通信领域的重点和难点。特别是在强噪声背景下，快速、准确地进行有效信号检测具有重要的现实意义。然而，针对上述问题，传统的信号检测算法无法准确地分离噪音信号和有效信号，严重影响有效信号检测的精度。
同时，传统信号检测算法并不能对连续输入的信号进行有效检测，而且目前的神经网络检测方法需要大量的人为标记标签输入到网络中进行强化学习，过程繁琐，耗时长且准确率较低。因此，如何实现半监督条件下对连续输入信号的准确检测就显得至关重要。
在以卷积神经网络(Convolutional Neural Network，CNN)为背景下的有效信号提取的研究中，不同的学者提出了不同的观点，如Wei Zhou在2019年提出的MutualImprovement Between Temporal Ensembling and Virtual Adversarial Training使用Temporal Ensembling方法预测并减小训练的网络模型loss值。然而在实际的TemporalEnsembling的训练过程中简单地添加随机噪音不能充分的利用其功能。
发明内容
本发明一种联合U-Net和Temporal Ensembling的微地震有效信号初至拾取方法及装置，用于解决现有微地震信号检测技术需要大量的人为标记、耗时长、有效信号初至拾取效率低等问题。
本发明第一方面，提出一种联合U-Net和Temporal Ensembling的信号初至拾取方法，所述方法包括：
S1、获取原始微地震信号数据并进行预处理，得到微地震信号数据集；
S2、根据微地震信号数据集的部分数据制作有标签数据集，其余为无标签数据集；
S3、对所述有标签数据集和无标签数据集进行数据扩增，将处理后的有标签数据集和无标签数据集添加随机噪声并投入U-Net网络进行训练；
S4、对U-Net网络添加丢弃正则化防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；
S5、根据所述加权损失结合Temporal Ensembling模型进行半监督训练，得到训练好的联合U-Net和Temporal Ensembling的微地震有效信号检测模型；
S6、获取待测信号，根据所述联合U-Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。
优选的，所述步骤S1具体包括：
用matlab画出原始微地震信号数据的剖面图并标记信号的采样点，提取出有效信号道、剔除无效道，通过低通或高通滤波实现信号和噪音的分离；
使用S变换对微地震信号进行时频分析，得到微地震信号数据集；所述S变换的公式为：
Figure BDA0002471191770000021
其中
Figure BDA0002471191770000022
为高斯窗函数，t代表时间，f代表频率。
优选的，所述步骤S3中，所述对所述有标签数据集和无标签数据集进行数据扩增具体为：
将输入的一维信号进行数据扩充，通过添零补齐的方式转化为二维信号，然后使用弹性变换算法增强信号样本。
优选的，所述步骤S4中，所述加权损失函数为：
Figure BDA0002471191770000031
其中，crossentropy(z,y)为交叉熵损失函数：
Figure BDA0002471191770000032
Figure BDA0002471191770000033
为均方差损失函数：
Figure BDA0002471191770000034
上述公式中，i为样本编号，zi为当前输出的预测值，
Figure BDA0002471191770000035
为目标值，yi为有标签样本的真实值，B为随机选取的小批量样本集，L为有标签数据集，C是类的数量，ω(t)是随时间t变化的无监督权重上升函数。
优选的，所述步骤S5中，所述根据所述加权损失结合Temporal Ensembling模型进行半监督训练具体为：
记Zi为预测值zi的历史累积加权值，Zi的更新方式为Zi←αZi+(1-α)zi，目标值
Figure BDA0002471191770000036
其中α为加权参数，0≤α＜1；
t＝0时，Zi、
Figure BDA0002471191770000037
的初始值均为0，ω(t)＝0，此时不更新模型训练参数，进行有监督训练；
迭代的过程中将上一次的目标值
Figure BDA0002471191770000038
作为当前输入，进行无监督训练，采用梯度下降法，通过计算所述加权损失函数的梯度，沿着梯度下降不断调节模型训练参数重新进行训练计算，直到模型收敛。
优选的，其特征在于，所述梯度下降法公式为：
Figure BDA0002471191770000039
Figure BDA00024711917700000310
公式中θ是迭代训练参数，y是函数输出量，h(θ)是求出的拟合函数，j是参数个数，θ′是沿θ梯度负方向更新的得到的训练参数。
本发明第二方面，提出一种联合U-Net和Temporal Ensembling的信号初至拾取装置，其特征在于，所述装置包括：
预处理模块：获取原始微地震信号数据并进行预处理，得到微地震信号数据集；
数据标记模块：根据微地震信号数据集的部分数据制作有标签数据集，其余为无标签数据集；
模型训练模块：对所述有标签数据集和无标签数据集进行数据扩增，将处理后的有标签数据集和无标签数据集添加随机噪声并投入U-Net网络进行训练；对U-Net网络添加丢弃正则化防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；根据所述加权损失结合Temporal Ensembling模型进行半监督训练，得到训练好的联合U-Net和TemporalEnsembling的微地震有效信号检测模型；
初至拾取模块：获取待测信号，根据所述联合U-Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。
优选的，所述模型训练模块中，所述加权损失函数为：
Figure BDA0002471191770000041
其中，crossentropy(z,y)为交叉熵损失函数：
Figure BDA0002471191770000042
Figure BDA0002471191770000043
为均方差损失函数：
Figure BDA0002471191770000044
上述公式中，i为样本编号，zi为当前输出的预测值，
Figure BDA0002471191770000045
为目标值，yi为有标签样本的真实值，B为随机选取的小批量样本集，L为有标签数据集，C是类的数量，ω(t)是随时间t变化的无监督权重上升函数。
优选的，所述模型训练模块中，根据所述加权损失结合Temporal Ensembling模型进行半监督训练：
记Zi为预测值zi的历史累积加权值，Zi的更新方式为Zi←αZi+(1-α)zi，目标值
Figure BDA0002471191770000051
其中α为加权参数，0≤α＜1；
t＝0时，Zi、
Figure BDA0002471191770000052
的初始值均为0，ω(t)＝0，此时不更新模型训练参数，进行有监督训练；
每次迭代的过程中将上一次的目标值
Figure BDA0002471191770000053
作为当前输入，进行无监督训练，采用梯度下降法，通过计算所述加权损失函数的梯度，沿着梯度下降不断调节模型训练参数重新进行训练计算，直到模型收敛。
本发明的有益效果是：
理论优势：出于现有的技术无法实现对少量的微地震信号的检测，本发明在传统的理论基础上，通过联合U-Net和Temporal Ensembling，训练出一个端对端的网络，该网络可以对少量微地震信号扩容，集成预测有效信号，从而完成微地震有效信号的初至拾取。
实用优势：本发明联合U-Net和Temporal Ensembling的网络模型，只需一个经过深度学习的小样本即可获得大量高质量有效信号集，可避免以往采集微地震有效信号的高昂人力成本投入，大大提高拾取效率。
附图说明
为了更清楚地说明本发明的技术方案，下面将对本发明技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明提供的联合U-Net和Temporal Ensembling的信号初至拾取方法流程示意图；
图2为本发明提供的联合U-Net和Temporal Ensembling的信号初至拾取方法的另一技术流程简图；
图3为待测信号；
图4为采用本发明提出的联合U-Net和Temporal Ensembling的信号初至拾取方法对图3的待测信号的初至拾取结果图。
具体实施方式
本发明联合U-Net网络和Temporal Ensembling模型，利用U-Net得到的对输入信号增加小扰动的鲁棒性，比如图像平移，旋转等，能减少过拟合的风险，降低运算量，增加感受野的大小。将增强后的信号传递给Temporal Ensembling，然后Temporal Ensembling用不同的数据增强和正则化进行集成，对每一次迭代的预测进行移动平均来构造更好的目标值，然后用这个目标值来计算无监督损失，继而更新网络。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
请参阅图1，本发明提出一种联合U-Net和Temporal Ensembling的信号初至拾取方法，所述方法包括：
S1、获取原始微地震信号数据并进行预处理，得到微地震信号数据集；
进一步的，所述步骤S1具体包括：
利用有限差分地震生成大量模拟信号，与实际资料共同构成原始微地震信号数据；
用matlab画出原始微地震信号数据的剖面图并标记信号的采样点，提取出有效信号道、剔除无效道，通过低通或高通滤波实现信号和噪音的分离；
使用S变换对微地震信号进行时频分析，得到微地震信号数据集；所述S变换的公式为：
Figure BDA0002471191770000071
其中
Figure BDA0002471191770000072
为高斯窗函数，t代表时间，f代表频率。
S2、根据微地震信号数据集的部分数据制作有标签数据集，其余为无标签数据集；
具体的，人工标记已提取各信号道中有效信号的初至位置，将其做成标签，同时提取各信号道作为训练数据集。
S3、对所述有标签数据集和无标签数据集进行数据扩增，将扩增后的有标签数据集和无标签数据集添加随机噪声并投入U-Net网络进行训练；
进一步的，所述步骤S3中，所述对所述有标签数据集和无标签数据集进行数据扩增具体为：
将输入的一维信号进行数据扩充(Data Augmentation)，通过添零补齐(添加模拟信号补齐)的方式转化为二维信号，然后使用弹性变换算法(Elastic Distortion)增强信号样本。
S4、对U-Net网络添加丢弃正则化(Dropout Regularization)防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；
具体的，对U-Net网络添加丢弃正则化可以激励网络不要完全改变相同输入的不同预测结果，这样有助于网络学习噪声不变的功能。为了局部化输入信号，保持信号的label一致，将从收缩网络得到的高维特征与上采样的结果相结合，这样连续的卷积层就能从这种结合中汇聚更加准确的输出。
由于ReLU(Rectified Linear Unit)函数在深度网络中具有强大的表达能力，还有简便计算非线性函数梯度的优点，本发明在每个卷积层后使用ReLU函数剪裁信号，剪掉卷积后丢失的边缘部分，保持信号原有的鲁棒性，稳定模型的收敛速度。
进一步的，所述步骤S4中，所述加权损失函数为：
Figure BDA0002471191770000073
其中，crossentropy(z,y)为交叉熵(Cross Entropy)损失函数，交叉熵对于每个像素点的进行惩罚，公式为：
Figure BDA0002471191770000081
Figure BDA0002471191770000082
为均方差(Mean Squared Error)损失函数，均方差处理像素点，分析预测值与实际值的差异，公式为：
Figure BDA0002471191770000083
上述公式中，i为样本编号，zi为当前输出的预测值，
Figure BDA0002471191770000084
为目标值，yi为有标签样本的真实值，B为随机选取的小批量样本集，L为有标签数据集，C是类的数量，ω(t)是随时间t变化的无监督权重上升函数。
S5、根据所述加权损失结合Temporal Ensembling模型进行半监督训练，得到训练好的联合U-Net和Temporal Ensembling的微地震有效信号检测模型；
进一步的，所述根据所述加权损失结合Temporal Ensembling模型进行半监督训练具体为：
记Zi为预测值zi的历史累积加权值，Zi的更新方式为Zi←αZi+(1-α)zi，目标值
Figure BDA0002471191770000085
其中α为加权参数，0≤α＜1；
设t＝0时训练开始，Zi、
Figure BDA0002471191770000086
的初始值均为0，ω(t)＝0，此时不更新模型训练参数，进行有监督训练；
迭代的过程中将上一次的目标值
Figure BDA0002471191770000087
作为当前输入，进行无监督训练，采用梯度下降法，训练得到的加权损失值越小表明模型收敛性越好，保留其训练数据；加权损失大的数据会被平滑，通过计算损失函数的梯度，沿着梯度下降不断调节参数重新进行训练计算，直到模型收敛为止。
进一步的，所述梯度下降法公式为：
Figure BDA0002471191770000088
Figure BDA0002471191770000089
公式中θ是迭代训练参数，y是函数输出量，h(θ)是求出的拟合函数，j是参数个数，θ′是沿θ梯度负方向更新的得到的训练参数。
S6、获取待测信号，根据所述联合U-Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。
具体的，请参阅图2，图2为本发明提供的另一技术流程简图，通过联合联合U-Net和Temporal Ensembling，建立微地震有效信号检测模型，通过softmax函数输出检测结果，从而拾取有效信号初至。
请参阅图3、图4，图3为待测信号，图4为使用本发明的方法对图3的待测信号进行初至拾取的结果图。
与所述方法实施例相对应，本发明提出一种联合U-Net和Temporal Ensembling的信号初至拾取装置，所述装置包括：
预处理模块100：获取原始微地震信号数据并进行预处理，得到微地震信号数据集；
数据标记模块200：根据微地震信号数据集的部分数据制作有标签数据集，其余为无标签数据集；
模型训练模块300：对所述有标签数据集和无标签数据集进行数据扩增，将处理后的有标签数据集和无标签数据集添加随机噪声并投入U-Net网络进行训练；对U-Net网络添加丢弃正则化防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；根据所述加权损失结合Temporal Ensembling模型进行半监督训练，得到训练好的联合U-Net和TemporalEnsembling的微地震有效信号检测模型；
进一步的，所述模型训练模块300中，所述加权损失函数为：
Figure BDA0002471191770000091
其中，crossentropy(z,y)为交叉熵损失函数：
Figure BDA0002471191770000092
Figure BDA0002471191770000093
为均方差损失函数：
Figure BDA0002471191770000101
上述公式中，i为样本编号，zi为当前输出的预测值，
Figure BDA0002471191770000102
为目标值，yi为有标签样本的真实值，B为随机选取的小批量样本集，L为有标签数据集，C是类的数量，ω(t)是随时间t变化的无监督权重上升函数。
所述模型训练模块300中，根据所述加权损失结合Temporal Ensembling模型进行半监督训练：
记Zi为预测值zi的历史累积加权值，Zi的更新方式为Zi←αZi+(1-α)zi，目标值
Figure BDA0002471191770000103
其中α为加权参数，0≤α＜1；
设t＝0时迭代开始，Zi、
Figure BDA0002471191770000104
的初始值均为0，ω(t)＝0，此时不更新模型训练参数，进行有监督训练；
每次迭代的过程中将上一次的目标值
Figure BDA0002471191770000105
作为当前输入，进行无监督训练，采用梯度下降法，通过计算所述加权损失函数的梯度，沿着梯度下降不断调节模型训练参数重新进行训练计算，直到模型收敛。
初至拾取模块400：获取待测信号，根据所述联合U-Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。
以上装置实施例与方法实施例是一一对应的，装置实施例简略之处，参见方法实施例即可。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可，说明书中未阐述的部分均为现有技术或公知常识。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能性一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应超过本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机储存器、内存、只读存储器、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其他形式的存储介质中。
以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (9)

1.一种联合U-Net和Temporal Ensembling的信号初至拾取方法，其特征在于，所述方法包括：
S1、获取原始微地震信号数据并进行预处理，得到微地震信号数据集；
S2、根据微地震信号数据集的部分数据制作有标签数据集，其余为无标签数据集；
S3、对所述有标签数据集和无标签数据集进行数据扩增，将扩增后的有标签数据集和无标签数据集添加随机噪声并投入U-Net网络进行训练；
S4、对U-Net网络添加丢弃正则化防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；
S5、根据所述加权损失结合Temporal Ensembling模型进行半监督训练，得到训练好的联合U-Net和Temporal Ensembling的微地震有效信号检测模型；
S6、获取待测信号，根据所述联合U-Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。
2.根据权利要求1所述联合U-Net和Temporal Ensembling的信号初至拾取方法，其特征在于，所述步骤S1具体包括：
用matlab画出原始微地震信号数据的剖面图并标记信号的采样点，提取出有效信号道、剔除无效道，通过低通或高通滤波实现信号和噪音的分离；
使用S变换对微地震信号进行时频分析，得到微地震信号数据集；所述S变换的公式为：
Figure FDA0002471191760000011
其中
Figure FDA0002471191760000012
为高斯窗函数，t代表时间，f代表频率。
3.根据权利要求1所述联合U-Net和Temporal Ensembling的信号初至拾取方法，其特征在于，所述步骤S3中，所述对所述有标签数据集和无标签数据集进行数据扩增具体为：
将输入的一维信号进行数据扩充，通过添零补齐的方式转化为二维信号，然后使用弹性变换算法增强信号样本。
4.根据权利要求1所述联合U-Net和Temporal Ensembling的信号初至拾取方法，其特征在于，所述步骤S4中，所述加权损失函数为：
Figure FDA0002471191760000021
其中，crossentropy(z,y)为交叉熵损失函数：
Figure FDA0002471191760000022
Figure FDA0002471191760000023
为均方差损失函数：
Figure FDA0002471191760000024
上述公式中，i为样本编号，zi为当前输出的预测值，
Figure FDA0002471191760000025
为目标值，yi为有标签样本的真实值，B为随机选取的小批量样本集，L为有标签数据集，C是类的数量，ω(t)是随时间t变化的无监督权重上升函数。
5.根据权利要求4所述联合U-Net和Temporal Ensembling的信号初至拾取方法，其特征在于，所述步骤S5中，所述根据所述加权损失结合Temporal Ensembling模型进行半监督训练具体为：
记Zi为预测值zi的历史累积加权值，Zi的更新方式为Zi←αZi+(1-α)zi，目标值
Figure FDA0002471191760000026
其中α为加权参数，0≤α＜1；
t＝0时，Zi、
Figure FDA0002471191760000027
的初始值均为0，ω(t)＝0，此时不更新模型训练参数，进行有监督训练；
迭代的过程中将上一次的目标值
Figure FDA0002471191760000028
作为当前输入，进行无监督训练，采用梯度下降法，通过计算所述加权损失函数的梯度，沿着梯度下降不断调节模型训练参数重新进行训练计算，直到模型收敛。
6.根据权利要求5所述联合U-Net和Temporal Ensembling的信号初至拾取方法，其特征在于，所述梯度下降法公式为：
Figure FDA0002471191760000029
Figure FDA0002471191760000031
公式中θ是迭代训练参数，y是函数输出量，h(θ)是求出的拟合函数，j是参数个数，θ′是沿θ梯度负方向更新的得到的训练参数。
7.一种联合U-Net和Temporal Ensembling的信号初至拾取装置，其特征在于，所述装置包括：
预处理模块：获取原始微地震信号数据并进行预处理，得到微地震信号数据集；
数据标记模块：根据微地震信号数据集的部分数据制作有标签数据集，其余为无标签数据集；
模型训练模块：对所述有标签数据集和无标签数据集进行数据扩增，将扩增后的有标签数据集和无标签数据集添加随机噪声并投入U-Net网络进行训练；对U-Net网络添加丢弃正则化防止训练过拟合，计算交叉熵损失和均方差损失的加权损失；根据所述加权损失结合Temporal Ensembling模型进行半监督训练，得到训练好的联合U-Net和TemporalEnsembling的微地震有效信号检测模型；
初至拾取模块：获取待测信号，根据所述联合U-Net和Temporal Ensembling的微地震有效信号检测模型进行有效信号初至拾取。
8.根据权利要求7所述联合U-Net和Temporal Ensembling的信号初至拾取装置，其特征在于，所述模型训练模块中，所述加权损失函数为：
Figure FDA0002471191760000032
其中，crossentropy(z,y)为交叉熵损失函数：
Figure FDA0002471191760000033
Figure FDA0002471191760000034
为均方差损失函数：
Figure FDA0002471191760000035
上述公式中，i为样本编号，zi为当前输出的预测值，
Figure FDA0002471191760000036
为目标值，yi为有标签样本的真实值，B为随机选取的小批量样本集，L为有标签数据集，C是类的数量，ω(t)是随时间t变化的无监督权重上升函数。
9.根据权利要求8所述联合U-Net和Temporal Ensembling的信号初至拾取装置，其特征在于，所述模型训练模块中，根据所述加权损失结合Temporal Ensembling模型进行半监督训练：
记Zi为预测值zi的历史累积加权值，Zi的更新方式为Zi←αZi+(1-α)zi，目标值
Figure FDA0002471191760000041
其中α为加权参数，0≤α＜1；
t＝0时，Zi、
Figure FDA0002471191760000042
的初始值均为0，ω(t)＝0，此时不更新模型训练参数，进行有监督训练；
迭代的过程中将上一次的目标值
Figure FDA0002471191760000043
作为当前输入，进行无监督训练，采用梯度下降法，通过计算所述加权损失函数的梯度，沿着梯度下降不断调节模型训练参数重新进行训练计算，直到模型收敛。
CN202010348842.1A 2020-04-28 2020-04-28 联合U-Net和Temporal Ensembling的信号初至拾取方法及装置 Active CN111695413B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010348842.1A CN111695413B (zh) 2020-04-28 2020-04-28 联合U-Net和Temporal Ensembling的信号初至拾取方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010348842.1A CN111695413B (zh) 2020-04-28 2020-04-28 联合U-Net和Temporal Ensembling的信号初至拾取方法及装置

Publications (2)

Publication Number Publication Date
CN111695413A true CN111695413A (zh) 2020-09-22
CN111695413B CN111695413B (zh) 2023-06-20

Family

ID=72476698

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010348842.1A Active CN111695413B (zh) 2020-04-28 2020-04-28 联合U-Net和Temporal Ensembling的信号初至拾取方法及装置

Country Status (1)

Country Link
CN (1) CN111695413B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113112018A (zh) * 2021-04-27 2021-07-13 清华大学深圳国际研究生院 一种批量限制强化学习方法
CN113671564A (zh) * 2021-08-11 2021-11-19 西安石油大学 基于narx动态神经网络的微地震有效事件自动拾取方法
CN113705654A (zh) * 2021-08-23 2021-11-26 西安交通大学 一种基于ffpn模型的微地震初至智能拾取方法、系统、设备及存储介质
CN114624768A (zh) * 2020-12-14 2022-06-14 中国石油化工股份有限公司 训练地震初至拾取模型的方法及装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180101768A1 (en) * 2016-10-07 2018-04-12 Nvidia Corporation Temporal ensembling for semi-supervised learning
US20180330198A1 (en) * 2017-05-14 2018-11-15 International Business Machines Corporation Systems and methods for identifying a target object in an image
CN110298415A (zh) * 2019-08-20 2019-10-01 视睿（杭州）信息科技有限公司 一种半监督学习的训练方法、系统和计算机可读存储介质
CN110501741A (zh) * 2019-07-18 2019-11-26 长江大学 一种有效信号检测方法及系统
US10511908B1 (en) * 2019-03-11 2019-12-17 Adobe Inc. Audio denoising and normalization using image transforming neural network
CN110619264A (zh) * 2019-07-30 2019-12-27 长江大学 基于UNet++的微地震有效信号识别方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180101768A1 (en) * 2016-10-07 2018-04-12 Nvidia Corporation Temporal ensembling for semi-supervised learning
US20180330198A1 (en) * 2017-05-14 2018-11-15 International Business Machines Corporation Systems and methods for identifying a target object in an image
US10511908B1 (en) * 2019-03-11 2019-12-17 Adobe Inc. Audio denoising and normalization using image transforming neural network
CN110501741A (zh) * 2019-07-18 2019-11-26 长江大学 一种有效信号检测方法及系统
CN110619264A (zh) * 2019-07-30 2019-12-27 长江大学 基于UNet++的微地震有效信号识别方法及装置
CN110298415A (zh) * 2019-08-20 2019-10-01 视睿（杭州）信息科技有限公司 一种半监督学习的训练方法、系统和计算机可读存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
GUANQUN SHENG;ZHENCHUN LI;WEIBO WANG: "A New Automatic Detection Method of Microseismic Event Based on CWT and HOS" *
Y LI，S MARTINIS: "A Temporal-ensembling Active Self-learning CNN Framework for Urban Flood Mapping by Means of Multi-temporal SAR Intensity and Coherence Information" *
郑晶;曹子原;姜天琪;沈帅帅;: "基于深度信念神经网络的微震波到时拾取方法" *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114624768A (zh) * 2020-12-14 2022-06-14 中国石油化工股份有限公司 训练地震初至拾取模型的方法及装置
CN113112018A (zh) * 2021-04-27 2021-07-13 清华大学深圳国际研究生院 一种批量限制强化学习方法
CN113112018B (zh) * 2021-04-27 2023-10-31 清华大学深圳国际研究生院 一种批量限制强化学习方法
CN113671564A (zh) * 2021-08-11 2021-11-19 西安石油大学 基于narx动态神经网络的微地震有效事件自动拾取方法
CN113705654A (zh) * 2021-08-23 2021-11-26 西安交通大学 一种基于ffpn模型的微地震初至智能拾取方法、系统、设备及存储介质
CN113705654B (zh) * 2021-08-23 2024-04-05 西安交通大学 一种基于ffpn模型的微地震初至智能拾取方法、系统、设备及存储介质

Also Published As

Publication number Publication date
CN111695413B (zh) 2023-06-20

Similar Documents

Publication Publication Date Title
CN111695413A (zh) 联合U-Net和Temporal Ensembling的信号初至拾取方法及装置
CN110245608B (zh) 一种基于半张量积神经网络的水下目标识别方法
CN110516305B (zh) 基于注意机制元学习模型的小样本下故障智能诊断方法
CN112799128B (zh) 一种地震信号检测和震相提取的方法
CN104766320B (zh) 阈值化量测下的多伯努利滤波弱目标检测与跟踪方法
CN110210296B (zh) 一种结合U-net网络和DenseNet网络的微地震有效信号检测方法
CN105841961A (zh) 一种基于Morlet小波变换和卷积神经网络的轴承故障诊断方法
CN111507155A (zh) 联合U-Net++和UDA的微地震有效信号初至拾取方法及装置
CN113780242A (zh) 一种基于模型迁移学习的跨场景水声目标分类方法
CN106096655A (zh) 一种基于卷积神经网络的光学遥感图像飞机检测方法
CN104700100A (zh) 面向高空间分辨率遥感大数据的特征提取方法
CN108171119B (zh) 基于残差网络的sar图像变化检测方法
CN112686093A (zh) 一种基于ds证据理论的融合局部放电类型识别方法
CN112329536A (zh) 一种基于交替对抗迁移学习的单样本人脸识别方法
CN109444604A (zh) 一种基于卷积神经网络的dc/dc变换器故障诊断方法
CN113435276A (zh) 一种基于对抗残差网络的水声目标识别方法
CN112308087A (zh) 基于动态视觉传感器的一体化成像识别系统和方法
CN106500991B (zh) 基于自适应多尺度AVG-Hat变换的轴承故障信号特征提取方法
CN115034268A (zh) 一种双向lstm融合多尺度卷积的轴承亚健康识别算法
CN117390413B (zh) 分布式电力光纤振动信号降噪与时序特征提取的识别方法
CN117516939A (zh) 基于改进EfficientNetV2的轴承跨工况故障检测方法及系统
CN116186609A (zh) 一种基于lstm的载人潜水器传感器故障数据增强方法
CN116244596A (zh) 基于tcn和注意力机制的工业时序数据异常检测方法
CN115097518A (zh) 基于模糊聚类u型神经网络的微震到时拾取方法
CN110443176B (zh) 一种基于统计特征空间的暗弱小天体关联检测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant