CN111505706A - 基于深度T-Net网络的微地震P波初至拾取方法及装置 - Google Patents

Abstract

本发明公开一种基于深度T‑Net网络的微地震P波初至拾取方法及装置，所述方法包括：准备原始数据集并制作有标签数据集和无标签数据集，用张量对数据进行压缩；通过一个高阶低秩的张量来参数化表示HG网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；将所述训练集输入所述优化的HG网络模型中训练；通过训练好的HG网络模型确定有效信号的P波初至点。本发明通过使用一个8阶低秩张量参数化权重，提高了网络计算效率，节省了大量的存储空间，同时使用残差映射的方法，解决了深度网络退化的问题。

Description

基于深度T-Net网络的微地震P波初至拾取方法及装置

技术领域

本发明属于微地震信号检测技术领域，具体涉及一种基于深度T-Net网络的微地震P波初至拾取方法及装置。

背景技术

微地震有效信号检测技术是微地震数据处理的重要技术之一，传统的检测技术基于小波变换、曲波或者剪切波变换对信号进行变换域转换之后，通过有效信号和噪音的视频特性不同，达到提取有效信号的目的。然而，传统的微地震信号检测技术不仅无法满足弱信号比下的有效信号提取精度的要求，而且往往需要消耗大量的时间，这显然无法满足当今大数据时代的需求。

深度学习作为人工智能的一个重要分支，近些年受到了越来越广泛地关注。参数多、容量众的特点，是深度神经网络对于海量数据拥有强大的处理能力。过度参数化对成功训练神经网络至关重要，但与此同时，过度参数化导致大量的冗余，增加计算机的存储和计算需求，可能会阻碍泛化，针对该问题Alexander Novikov等人在Tensorizing neuralnetworks文章中提出对全连接张紧，然后对逐层独立张紧，通过利用冗余有效的参数化表示。但仅集中于逐层张紧，仍有诸多不足。

发明内容

为了解决过度参数下的模型的泛化能力下降的问题，本发明将采集到的微地震信号数据集预处理后用一个高阶张量进行压缩，并使用一个8阶张量参数化优化的HG(Hourglass)结构，提高模型的计算效率，然后通过HG网络优化模型确定有效信号的初至点。

本发明第一方面，提出一种基于深度T-Net网络的微地震P波初至拾取方法，所述方法包括：

S1、准备原始数据集并制作有标签数据集和无标签数据集，用张量对数据进行压缩；

S2、通过一个高阶低秩的张量来参数化表示HG网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；

S3、通过使用协同训练的方式进行半监督学习，将所述有标签数据集和无标签数据集分别放入两个优化的HG网络模型中训练，并将一个模型训练结果置信度最高的数据放入另一个模型的数据集中，进行迭代训练得到训练好的HG网络优化模型；

S4、通过所述训练好的HG网络优化模型确定有效信号的P波初至点。

优选的，所述步骤S1具体为：

S11、利用有限差分地震生成不同模型下主频范围20～1000Hz的大量模拟信号，与实际资料共同构成原始数据集；

S12、通过matlab绘出原始信号剖面图，观图确定有效信号道，确定已提取的各信号道中有效信号的初至位置，做成标签，制作一部分有标签数据集，其余为无标签数据集；

S13、用张量对所述有标签数据集和无标签数据集中的数据进行压缩。

优选的，所述步骤S2中，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数具体为：

所述高阶低秩的张量每一维度依次对应HG网络结构的数量、HG的深度、三个信号路径、每个残差模块卷积层数、输入特征、输出特征、每个卷积核的高度和宽度；所述三个信号路径分别为跳层连接、下采样和上采样。

优选的，所述步骤S2中，使用Tucker分解将所述高阶低秩的张量分解成一个低阶核张量和每一维矩阵的投影因子的乘积，公式为：

表示权重张量，

表示核张量，U⁽⁰⁾，…，U⁽⁷⁾表示8阶张量每一维的投影因子

优选的，所述步骤S3中，采用随机梯度下降法反向传播训练网络模型，其中随机梯度下降法公式为：

公式中θ是迭代训练参数，y是函数输出量，h(θ)是求出的拟合函数，j是参数个数，θ′是沿θ梯度负方向更新的得到的训练参数。

本发明第二方面，提出一种基于深度T-Net网络的微地震P波初至拾取装置，所述装置包括：

预处理模块：准备原始数据集并制作有标签数据集和无标签数据集，用张量对数据进行压缩；

建模模块：通过一个高阶低秩的张量来参数化表示HG网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；

训练模块：过使用协同训练的方式进行半监督学习，将所述有标签数据集和无标签数据集分别放入两个优化的HG网络模型中训练，并将一个模型训练结果置信度最高的数据放入另一个模型的数据集中，进行迭代训练得到训练好的HG网络优化模型；识别模块：通过训练好的HG网络模型确定有效信号的P波初至点。

优选的，所述建模模块中，所述高阶低秩的张量每一维度依次对应HG网络结构的数量、HG的深度、三个信号路径、每个残差模块卷积层数、输入特征、输出特征、每个卷积核的高度和宽度；所述三个信号路径分别为跳层连接、下采样和上采样。

优选的，所述建模模块中，使用Tucker分解将所述高阶低秩的张量分解成一个低阶核张量和每一维矩阵的投影因子的乘积，公式为：

表示权重张量，

表示核张量，U⁽⁰⁾,…,U⁽⁷⁾表示8阶张量每一维度的投影因子

本发明的有意效果是：

1.本发明通过使用一个8阶低秩张量参数化权重，提高了网络计算效率，节省了大量的存储空间，同时使用残差映射的方法，解决了深度网络退化的问题，并提取深层网络的特征，实现有效信号的初至提取。

2.通过T-net网络半监督学习可以对一个小样本的学习大量特征，与传统的网络模型相比，可以大大减少人力财力的投入，并提高提取有效信号的效率。

附图说明

为了更清楚地说明本发明的技术方案，下面将对本发明技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的基于深度T-Net网络的微地震P波初至拾取方法流程简图；

图2为本发明提供的残差模块结构示意图；

图3为本发明提供的HG网络结构示意图；

图4为待测信号；

图5为采用本发明所述基于深度T-Net网络的微地震P波初至拾取方法对图4的待测信号提取出的初至位置概率分布图。

具体实施方式

本发明使用一个8阶张量参数化全卷积网络，并通过优化的堆叠沙漏(StackedHourglass)网络模型进行特征提取，识别有效信号初至点，最终提取有效信号。

为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

请参阅图1，本发明提出一种基于深度T-Net网络的微地震P波初至拾取方法，所述方法包括：

S1、准备原始数据集并制作有标签数据集和无标签数据集，用张量对数据进行压缩；

进一步的，所述步骤S1具体为：

S11、利用有限差分地震生成不同模型下主频范围20～1000Hz的大量模拟信号，与实际资料共同构成原始数据集；

S12、通过matlab绘出原始信号剖面图，观图确定有效信号道，确定已提取的各信号道中有效信号的初至位置，做成标签，制作一部分有标签数据集，其余为无标签数据集；

S13、用张量对所述有标签数据集和无标签数据集中的数据进行压缩。具体的，读入信号，添零补齐数据，然后转成tfrecords的形式，以此转换成张量形式。

S2、通过一个高阶低秩的张量来参数化表示HG(Hourglass)网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；

具体的，通过一个8阶张量来参数化表示HG网络结构中的权重，8阶张量的各维数分别表示该网络的不同架构设计参数，所述8阶张量每一维度依次对应HG网络结构的数量、HG的深度、三个信号路径、每个残差模块卷积层数、输入特征、输出特征、每个卷积核的高度和宽度；所述三个信号路径分别为跳层连接(skip)、下采样(downsample)和上采样(upsample)。

所述残差模块的结构如图2所示，其中F(x)代表残差映射，X代表等值映射，F(x)+x代表原始映射。

优化后的HG网络结构如图3所示，全卷积网络中的每个块是都基本块模块，其中包括拥有3×3内核的2个卷积层、BatchNorm和ReLU。每个子网具有3条路径：降采样/编码器，升采样/解码器和跳层连接。图3中黑色圆点表示特征叠加。在上采样之后经过一个卷积层，输出Heatmap。

使用Tucker分解将所述高阶低秩的张量分解成一个低阶核张量和每一维矩阵的投影因子的乘积，公式为：

表示权重张量，

表示核张量，U⁽⁰⁾,…,U⁽⁷⁾表示8阶张量每一维的投影因子

S3、通过使用协同训练的方式进行半监督学习，将所述有标签数据集和无标签数据集分别放入两个优化的HG网络模型中训练，并将一个模型训练结果置信度最高的数据放入另一个模型的数据集中，进行迭代训练得到训练好的HG网络优化模型；

具体的，本发明采用半监督学习的方式进行模型训练，用有标签数据对无标签数据进行预测，每次训练后将预测结果精度高的放入另一个模型进行训练，直到训练集和模型符合要求时停止训练。

采用随机梯度下降法(SGD，stochastic gradient descent)反向传播训练网络模型，其中随机梯度下降法公式为：

公式中θ是迭代训练参数，y是函数输出量，h(θ)是求出的拟合函数，j是参数个数，θ′是沿θ梯度负方向更新的得到的训练参数。S4、通过所述训练好的HG网络优化模型确定有效信号的P波初至点。

在优化的HG网络模型中，最后经过一个卷积层然后输出Heat Map，在Heat map中选取有效信号的部分通过softmax函数计算概率提取初至点。

其中x代表对应通道k的得分，p_k(x)是类k对应的像素点x的分类结果。

请参阅图4、图5，图4为待测信号，图5为采用本发明所述P波初至拾取方法对图4的识别结果。

与所述方法实施例相对应，本发明提出一种基于深度T-Net网络的微地震P波初至拾取装置，所述装置包括：

预处理模块：准备原始数据集并制作标签，用张量对标签数据进行压缩作为训练集；

建模模块：通过一个高阶低秩的张量来参数化表示HG网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；

训练模块：通过使用协同训练的方式进行半监督学习，将所述有标签数据集和无标签数据及分别放入两个优化的HG网络模型中训练，并将一个模型训练结果置信度最高的数据放入另一个模型的数据集中，进行迭代训练得到训练好的HG网络优化模型；

识别模块：通过所述训练好的HG网络优化模型确定有效信号的P波初至点。

进一步的，所述建模模块中，所述高阶低秩的张量每一维度依次对应HG网络结构的数量、HG的深度、三个信号路径、每个残差模块卷积层数、输入特征、输出特征、每个卷积核的高度和宽度；所述三个信号路径分别为跳层连接、下采样和上采样。

使用Tucker分解将所述高阶低秩的张量分解成一个低阶核张量和每一维矩阵的投影因子的乘积，公式为：

表示权重张量，

表示核张量，U⁽⁰⁾，…，U⁽⁷⁾表示8阶张量每一维度的投影因子

以上装置实施例与方法实施例是一一对应的，装置实施例简略之处，参见方法实施例即可。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述，在此不再赘述。

以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (8)

1.一种基于深度T-Net网络的微地震P波初至拾取方法，其特征在于，所述方法包括：

S1、准备原始数据集并制作有标签数据集和无标签数据集，用张量对数据进行压缩；

S2、通过一个高阶低秩的张量来参数化表示HG网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；

S3、通过使用协同训练的方式进行半监督学习，将所述有标签数据集和无标签数据及分别放入两个优化的HG网络模型中训练，并将一个模型训练结果置信度最高的数据放入另一个模型的数据集中进行迭代训练，得到训练好的HG网络优化模型；

S4、通过所述训练好的HG网络优化模型提取有效信号的P波初至点。

2.根据权利要求1所述基所述于深度T-Net网络的微地震P波初至拾取方法，其特征在于，所述步骤S1具体为：

S11、利用有限差分地震生成不同模型下主频范围20～1000Hz的大量模拟信号，与实际资料共同构成原始数据集；

S12、通过matlab绘出原始信号剖面图，观图提取有效信号道，确定已提取的各信号道中有效信号的初至位置，做成标签，制作一部分有标签数据集，其余为无标签数据集；

S13、用张量对所述有标签数据集和无标签数据集进行压缩。

3.根据权利要求1所述基于深度T-Net网络的微地震P波初至拾取方法，其特征在于，所述步骤S2中，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数具体为：

所述高阶低秩的张量每一维度依次对应HG网络结构的数量、HG的深度、三个信号路径、每个残差模块卷积层数、输入特征、输出特征、每个卷积核的高度和宽度；所述三个信号路径分别为跳层连接、下采样和上采样。

4.根据权利要求3所述基所述于深度T-Net网络的微地震P波初至拾取方法，其特征在于，所述步骤S2中，使用Tucker分解将所述高阶低秩的张量分解成一个低阶核张量和每一维矩阵的投影因子的乘积，公式为：

表示权重张量，

表示核张量，U⁽⁰⁾,…,U⁽⁷⁾表示8阶张量每一维的投影因子

5.根据权利要求4所述基所述于深度T-Net网络的微地震P波初至拾取方法，其特征在于，所述步骤S3中，采用随机梯度下降法反向传播训练网络模型，其中随机梯度下降法公式为：

公式中θ是迭代训练参数，y是函数输出量，h)θ)是求出的拟合函数，j是参数个数，θ′是沿θ梯度负方向更新的得到的训练参数。

6.一种基于深度T-Net网络的微地震P波初至拾取装置，其特征在于，所述装置包括：

预处理模块：用于准备原始数据集并制作有标签数据集和无标签数据集，用张量对数据进行压缩；

建模模块：用于通过一个高阶低秩的张量来参数化表示HG网络结构中的权重，所述高阶低秩的张量各维数分别表示HG网络的各类架构设计参数，得到优化的HG网络模型；

训练模块：用于通过使用协同训练的方式进行半监督学习，将所述有标签数据集和无标签数据集分别放入两个优化的HG网络模型中训练，并将一个模型训练结果置信度最高的数据放入另一个模型的数据集中进行迭代训练，得到训练好的HG网络优化模型；

识别模块：用于通过所述训练好的HG网络优化模型提取有效信号的P波初至点。

7.根据权利要求6所述基于深度T-Net网络的微地震P波初至拾取装置，其特征在于，所述建模模块中，所述高阶低秩的张量每一维度依次对应HG网络结构的数量、HG的深度、三个信号路径、每个残差模块卷积层数、输入特征、输出特征、每个卷积核的高度和宽度；所述三个信号路径分别为跳层连接、下采样和上采样。

8.根据权利要求7所述基于深度T-Net网络的微地震P波初至拾取装置，其特征在于，所述建模模块中，使用Tucker分解将所述高阶低秩的张量分解成一个低阶核张量和每一维矩阵的投影因子的乘积，公式为：

表示权重张量，

表示核张量，U⁽⁰⁾,…,U⁽⁷⁾表示8阶张量每一维度的投影因子

Images