CN117272138A - 一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统 - Google Patents
一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统 Download PDFInfo
- Publication number
- CN117272138A CN117272138A CN202311192978.8A CN202311192978A CN117272138A CN 117272138 A CN117272138 A CN 117272138A CN 202311192978 A CN202311192978 A CN 202311192978A CN 117272138 A CN117272138 A CN 117272138A
- Authority
- CN
- China
- Prior art keywords
- data
- convolution
- geomagnetic
- module
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000013135 deep learning Methods 0.000 title claims abstract description 20
- 230000001364 causal effect Effects 0.000 claims description 74
- 238000011176 pooling Methods 0.000 claims description 58
- 238000012549 training Methods 0.000 claims description 37
- 230000004913 activation Effects 0.000 claims description 26
- 238000000354 decomposition reaction Methods 0.000 claims description 23
- 230000006870 function Effects 0.000 claims description 21
- 125000004122 cyclic group Chemical group 0.000 claims description 16
- 238000005457 optimization Methods 0.000 claims description 12
- 230000000694 effects Effects 0.000 claims description 11
- 230000001537 neural effect Effects 0.000 claims description 11
- 238000013145 classification model Methods 0.000 claims description 10
- 239000012634 fragment Substances 0.000 claims description 10
- 230000002829 reductive effect Effects 0.000 claims description 7
- 238000004519 manufacturing process Methods 0.000 claims description 5
- 230000036961 partial effect Effects 0.000 claims description 4
- 230000011218 segmentation Effects 0.000 claims description 3
- 230000003190 augmentative effect Effects 0.000 claims description 2
- 230000009977 dual effect Effects 0.000 claims description 2
- 230000005484 gravity Effects 0.000 claims description 2
- 230000010355 oscillation Effects 0.000 claims description 2
- 230000003595 spectral effect Effects 0.000 claims description 2
- 238000001228 spectrum Methods 0.000 claims description 2
- 230000007246 mechanism Effects 0.000 abstract description 36
- 238000000605 extraction Methods 0.000 abstract description 8
- 230000001629 suppression Effects 0.000 abstract description 7
- 230000007774 longterm Effects 0.000 abstract description 5
- 238000013136 deep learning model Methods 0.000 abstract 1
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 22
- 230000008569 process Effects 0.000 description 15
- 238000013528 artificial neural network Methods 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 9
- 230000010339 dilation Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 239000013598 vector Substances 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000003213 activating effect Effects 0.000 description 4
- 210000004027 cell Anatomy 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 230000006698 induction Effects 0.000 description 4
- 230000000306 recurrent effect Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008034 disappearance Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 230000005358 geomagnetic field Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000012847 principal component analysis method Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000002779 inactivation Effects 0.000 description 1
- 238000012880 independent component analysis Methods 0.000 description 1
- 229910052500 inorganic mineral Inorganic materials 0.000 description 1
- 239000005433 ionosphere Substances 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000011707 mineral Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000007430 reference method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
- G06F18/15—Statistical pre-processing, e.g. techniques for normalisation or restoring missing data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/30—Assessment of water resources
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Complex Calculations (AREA)
Abstract
本发明涉及一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统,深度学习模型包含IncepTCN分类网络及CS‑GRUTCN去噪网络,本发明将参考道数据约束思想引入时间序列的编辑,获得可靠的训练集;并将注意力机制、门控循环单元及时域卷积网络结合,充分利用了注意力机制可以提高模型特征提取能力及性能稳定性,门控循环单元(GRU)可以捕捉到数据中的时间相关性和长期依赖关系以及时域卷积网络(TCN)具有平移不变性和高效的并行计算能力,实现高效、高精度的地磁数据噪声识别与去除,显著提高了地磁数据噪声压制的自动化程度、去噪精度、噪声适应性等性能。
Description
技术领域
本发明涉及电子信息、人工智能与地球物理交叉领域,具体涉及一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统。
背景技术
地磁测深是一种能够获得地幔转换带及下地幔上部导电结构的深部地球物理勘探方法。它以磁层和电离层起源的磁场变化作为场源,并利用全球范围内的地磁台站观测数据获得地磁响应曲线。地磁场是地球的基本物理场,地磁场的观测数据中包含了地球内部与外部空间的丰富信息。除了用于在地震预报,地磁台站观测数据在空间天气监测、矿产资源勘探、地磁导航、地球深部构造探索等领域也具有重要价值。
然而,随着城市化比例的不断提高,人文噪声的时空分布范围不断扩大,其干扰种类与强度也与日俱增,地磁台站观测信号受人文噪声的污染问题愈发严重,极大地影响了地震预报以及空间天气监测的可靠性,也严重限制了基于地磁数据的深部地球探测方法的分辨率与精细程度。对地磁台站观测到的数据进行噪声抑制变得愈发重要。
面对严峻的人文噪声污染,常用的做法是傅里叶变换、小波变换、自然正交分解法、主成分分析法、Hilbert-Huang变换、独立成分分析法及远参考法等方法去噪。然而,频域分析法容易丢失高频段的有效信号;Hilbert-Huang变换会发生模态混叠现象;主成分分析方法适用于各个统计模态彼此正交的情况;独立成分分解方法是对单通道上进行处理。由于人文噪声形态复杂,现有的方法远不足以解决人文噪声的问题。
近年来,深度学习算法发展迅速,引起了地球物理领域的关注,深度学习算法在地磁信号处理中的应用逐渐增多。如基于LSTM的地电信号去噪方法(汪凯翔等,2020)、基于去噪自编码器(Denoising Autoencoder,DAE)的航空瞬变电磁数据多源噪声去除方法(Wu etal.,2019);基于循环神经网络的大地电磁工频干扰压制(许滔滔等,2020)、基于卷积神经网络和长短时记忆神经网络(CNN-LSTM)的大地电磁信号去噪(专利申请号:202110320241.4)等。但由于完全无噪的天然场信号是无法获取的,且上述方法没有通过参考道数据进行约束,因此其训练集的可靠性是有待提高的。缺乏参考道数据约束,难以获得可靠的包含实测噪声的训练集,训练得到的去噪模型其可靠性与适应性将受到极大限制。此外,现有方法所采用的深度学习网络已提出数十年,存在梯度消失或爆炸、参数量过大、占用内存过多、去噪精度有待提高等问题。
发明内容
本发明针对上述问题,提供一种基于参考道数据约束与深度学习的地磁数去噪方法及系统,利用改进的时域卷积网络,即IncepTCN网络实现地磁数据的高精度分类,再利用另一种改进的时域卷积网络,即CS-GRUTCN网络进行去噪,实现含噪信号到高质量信号的高精度映射,提高了噪声压制的自动化程度、信噪识别精度以及去噪精度,有效解决现有方法需要人工设定参数、损失较多有效信号、信噪识别精度低、适应性不强等问题。
为了实现上述目的,本发明采用的技术方案如下:
一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统,包括如下步骤:
步骤1:从大量观测数据中挑选出区分度高、含有典型噪声的数据,用于制作分类样本库;
步骤2:构建IncepTCN分类网络,并将地磁数据及类别标签输入至IncepTCN分类网络进行训练得到地磁数据分类模型;
步骤3:针对待去噪的地磁数据,先进行分段,再将其输入至地磁数据分类模型进行信噪识别,将其分成高质量数据段和含噪数据段两类;
步骤4:从大量观测数据中挑选出区分度高、含有典型噪声的数据,使用多元变分模态分解算法联合邻近的地磁参考站同步观测的数据进行多通道数据去噪,利用邻近台站数据的相似性特征相互约束得到可靠的去噪效果,获得含噪数据段可靠的不含噪状态,用来制作去噪模型的样本库;
步骤5:构建CS-GRUTCN去噪网络,并将基于参考道约束的MVMD去噪方法所分离出的噪声添加到高质量的地磁数据中,制成部分含噪数据样本;另外部分的噪声样本是向高质量数据中添加人工合成的模拟噪声制成;将含噪声的地磁数据样本及所对应的高质量地磁数据样本形成样本对,对输入至CS-GRUTCN去噪网络进行训练得到地磁数据去噪模型;
步骤6:将步骤3中辨识为含噪声的地磁数据片段输入至步骤5中得到的地磁数据去噪模型进行去噪,输出得到去噪后的数据段;
步骤7:依据原顺序拼接步骤3中保留的高质量的数据段和步骤6中去噪后的数据段,得到完整的去噪后的地磁时间序列。
进一步,分类样本库的制作方法为:使用等长分段的方法对挑选出的数据进行分段,将每一个数据段作为一个样本并标记样本的类别;类别标签表示样本分为含噪声数据段或高质量数据段;含噪数据段与高质量数据段的数量之比例接近1:1,并包含各种类型的数据。
进一步,多元变分模态分解是一种多通道数据分解的变分方法,多元变分模态分解是从包含C个数据通道的输入数据x(t)中提取预定义的K个多元调制振荡函数uk(t),即:
其中uk(t)=[u1(t),u2(t),…,uC(t)];
多元变分问题,关键在于找出K个模态函数,使得在各个模态都是一个中心频率的有限带宽的前提下,且在所有模态的和与原始输入信号一致的约束条件下,需要最小化这K个模态的估计带宽的和;
多元变分模态分解的约束优化问题如下:
其中表示对应uk(t)的解析信号,符号/>表示对时间的偏导数运算;{uk,c}和{ωk}分别代表了所有K个模态分量和对应的中心频率的集合;
求解变分问题需要引入二次惩罚因子α和拉格朗日乘法算子λ,将约束变分问题转换成一个无约束的变分问题,其中α的作用就是保证在有高斯噪声的情况下进行信号重构的精度,λ能够确保严格满足约束,得到的增广拉格朗日函数为:
然后,采用交替方向乘子法来求解以上变分问题,将完全优化问题划分为一系列迭代子优化问题,在更新模式uk(t)过程中,在第n次迭代时考虑以下次优化问题:
以上的最小化问题可以在频谱域内得到解决,在频域内的更新表示为:
为了更新中心频率ωk,需要迭代求解以下次优化问题:
中心频率在双频域进行更新,估计新频率为相关模式功率谱的重心:
通过上述优化公式不断更新u,ω和λ,直到满足收敛条件,最后输出分解的结果。
进一步,IncepTCN分类网络包括输入层、隐藏层以及输出层,其中,隐藏层由卷积层、Inception模块、残差模块、最大池化层构成,而Inception模块一般包含3个一维卷积和1个池化层,残差模块包含两个残差操作,而残差操作一般包含两个一维扩张因果卷积和一个一维卷积,两个残差操作卷积核数目及尺寸相同,扩张因果卷积的扩张因子依次增加。
进一步,残差模块中卷积核的尺寸依次降低,卷积核的数目及扩张因子依次增加。
进一步,Inception结构包含四条路径,1×3卷积路径:使用1×3卷积提取局部时空特征;
1×5卷积路径:使用1×5卷积提取中等范围的时空特征;
1×7卷积路径:使用1×7卷积提取更宽范围的时空特征;
1×3最大值池化路径:使用1×3最大值池化融合局部范围的特征。
残差模块一般包含一维因果扩张卷积和一维卷积。本发明具体应用时使用3×1一维卷积替代传统时域卷积网络残差链接中的一维逐点卷积,既能有效控制通道数,也可以进一步提取数据特征,达到快速收敛的目的。TCN网络除输入层与输出层外,其隐藏层主干网络主要由5个残差模块组成。TCN主干网络在IncepTCN中起到了关键的作用。TCN主干网络采用了一维卷积层和残差连接的结构,能够有效地捕捉时间序列数据中的长期依赖关系。对于地磁数据这样具有时间相关性的序列,TCN主干网络能够更好地提取数据的时间特征,其次,Inception模块的引入是IncepTCN的另一个重要特点。Inception模块通过并行地使用多个不同尺寸的卷积核,能够同时捕捉到不同尺度的特征。在地磁数据分类中,这意味着IncepTCN可以从不同时间尺度上观察和理解地磁信号的特征,包括短期和长期的特征。这对于准确地分类含噪声的地磁数据非常有益,因为噪声可能存在于不同的时间尺度上。此外,IncepTCN网络的巧妙之处还在于它能够充分利用TCN主干网络和Inception模块的优势。通过结合TCN主干网络和Inception模块,IncepTCN能够同时捕捉时间序列数据的长期依赖关系和多尺度特征,从而更全面地理解地磁数据。这种综合利用不同模块的方法使得IncepTCN在提取和识别时间序列数据方面更加强大和有效。因此本发明所述IncepTCN网络依照TCN主干网络的结构结合Inception模块从而构建出更有利于提取和识别时间序列数据的IncepTCN用于分类含噪声的地磁数据。
去噪网络的架构为改进后时域卷积网络即CS-GRUTCN去噪网络,与传统的时域卷积网络的提升在于CS-GRUTCN去噪网络结合了注意力机制、残差网络和传统卷积神经网络的优点,是用于序列建模任务的卷积神经网络的变体。注意力机制模块由通道注意力机制模块和空间注意力机制模块级联构成,由于注意力机制模块内部结构简单,含少量卷积、池化及特征融合操作,模块复杂度低,计算量小,节省计算时间,并且引入通道和空间注意力两个分析维度,能够使模型更加关注重要特征以此提高模型的表征能力,时域卷积网络中卷积操作由因果卷积和扩张卷积构成,因果卷积获取历史信息,扩张卷积扩大卷积核感受野。相比于传统的卷积网络,时域卷积网络没有池化层,但是其输入输出的序列长度却是一致的。这也使得它具有了灵活的感受野大小、非常长的有效历史长度等特点。门控循环神经网络是另一种循环神经网络的改进方法,与长短时记忆网络相比,它同样可以解决循环神经网络中梯度爆炸和梯度消失问题,但它的结构简洁,更容易执行训练过程,节省计算时间。门控循环神经网络特有的门控结构可以让它的输出具备较强的时序性,且其输出的时序性与地磁时间序列的特性契合。
基于注意力机制的特征提取能力、时域卷积网络的独特优势以及门控循环神经网络的强时序性,本发明将注意力机制、门控循环神经网络及时域卷积网络相结合,用于优化时域卷积网络结构,改进网络的性能,并将改进的时域卷积网络引入用于解决地磁数据去噪问题,从而提高噪声压制精度。
可选地,所述CS-GRUTCN去噪网络包括输入层、隐藏层以及输出层,其中,所述隐藏层由1个通道注意力机制模块、1个空间注意力机制模块、4个时域卷积模块及1个门控循环单元神经模块构成,每个时域卷积模块包含两个一维因果扩张卷积和一个一维卷积。门控循环神经模块一般包括两个门控循环单元。时域卷积模块通过卷积核尺寸为1的卷积改变通道数,使输入和输出具备相同的通道数,有效控制通道数的同时,也可以进一步提取数据特征,达到快速收敛的目的。
本发明的有益效果为:1.本发明基于邻近台站同步观测数据之间的相似特性进行相互约束,利用MVMD算法的频率对齐效应进行多通道数据处理,并将其处理后的数据用于去噪网络模型的样本库的制作,使去噪训练集更符合实际噪声情况,显著提高去噪训练集的可靠性与深度学习去噪的精度,高可靠的实现含噪信号到高质量信号的映射。
2.本发明引入IncepTCN网络算法作为识别分类模型,充分利用Inception模块和TCN模块各自的优势,高精度的识别出地磁数据中高质量片段。识别出高质量信号并予以保护,然后仅对含噪片段进行去噪,有效的避免了地磁数据有效信号的损失,提高了地磁数据处理的精度与可靠性。此外,IncepTCN网络具有多尺度的特征提取能力,可以高效的提取不同时间范围内的特征;可以并行处理,计算效率高,且此网络具有参数量少的优势。
3.本发明充分利用了注意力机制可以提高模型特征提取能力,门控循环单元(GRU)可以捕捉到数据中的时间相关性和长期依赖关系,以及时域卷积网络(TCN)具有平移不变性和高效的并行计算能力,能够有效地处理时间序列数据的特性,创造性的提出了新型去噪网络,即CS-GRUTCN网络。在不巡视有效信号的前提下,实现地磁数据的强噪声压制,得到去噪后的数据其地磁转换函数误差棒明显减少,曲线平滑,结果与相同测点的高质量数据一致。
4.在模型训练完成后,数据处理的识别与去噪等过程均通过计算机全自动完成,不需要任何人工干预,对数据处理操作人员没有经验要求,不仅消除了传统方法需要人工设定阈值导致主观偏差的问题,还提高了对不同类型噪声的适应性。
附图说明
图1是本发明的结构流程图;
图2是本发明提供的IncepTCN网络结构图;
图3是IncepTCN网络模型训练过程的准确率损失变化;
图4是IncepTCN模型对陌生数据测试的混淆矩阵;
图5是本发明提供的门控循环单元结构图;
图6是本发明提供的CS-GRUTCN去噪网络模型架构图;
图7是实测海底地磁数据信噪识别结果;
图8为实测海底地磁数据信噪分离结果;
图9为CS-GRUTCN网络模型训练过程的损失曲线;
图10为IncepTCN和CS-GRUTCN网络模型联合地磁数据噪声识别压制;
图11为实测数据T21台站的数据段的地磁转换函数;
图12为含噪数据在其周期为2*102s到103s之间的多重平方相关度;
图13为高质量数据和含噪数据去噪前后的地磁感应矢量。
具体实施方式
本发明提供基于参考道数据约束与深度学习的地磁数去噪方法及系统,其引入参考道的数据约束和深度学习方法来解决地磁数据噪声压制问题,下面将结合实施例对本发明做进一步的说明。
如图1所示,本实施例提供的一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其包括以下步骤:
步骤1:获取地磁数据并使用时间窗口进行分段,将每一个数据段作为一个样本以及标记样本的类别标签;所述类别标签表示样本为噪声数据段或高质量数据段;
步骤2:构建IncepTCN分类网络,并将地磁数据及类别标签输入至所述IncepTCN分类网络进行训练得到地磁数据分类模型;
如图2所示,IncepTCN数据分类模型由输入层、隐藏层和输出层三部分构成。所述输入层形状是:样本长度乘以通道数,即1440×1。
本实施所述隐藏层由卷积层1、Inception模块2、残差模块3、最大池化层4、Inception模块5、残差模块6、最大池化层7、Inception模块8、残差模块9、最大池化层10、Inception模块11、残差模块12、最大池化层13共计十三部分构成。本实施例中卷积层、Inception模块、残差块、最大池化层的计算过程为:
卷积层1的步骤为:使用16个尺寸为16×1的卷积核对训练样本进行一维卷积,并使用“Relu”激活,输出卷积层1的结果。
Inception模块2的步骤为:首先,输入卷积层1的结果,Inception结构四条路径分别如下,1×3卷积路径:使用1×3卷积提取局部时空特征。1×5卷积路径:使用1×5卷积提取中等范围的时空特征。1×7卷积路径:使用1×7卷积提取更宽范围的时空特征。1×3最大值池化路径:使用1×3最大值池化融合局部范围的特征。最后将四条路径的输出连接起来,作为Inception结构的最终输出,实现多尺度的特征提取,并作为Inception模块2的结果。
残差模块3的步骤为:首先,使用64个尺寸为3×1的卷积核对Inception模块2的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用64个尺寸为3×1的卷积核对残差块1第一次因果扩张卷的激活值进行一维因果扩张卷积;第三,将残差块1的一维卷积和残差块1第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出残差模块3的结果。
最大池化层4的步骤为:首先,输入残差模块3的结果,使用尺寸为2、步长为2的最大池化操作进行筛选,输出最大池化层4的结果。
Inception模块5的步骤为:首先,输入最大池化层4的结果,Inception结构四条路径分别如下,1×3卷积路径:使用1×3卷积提取局部时空特征。1×5卷积路径:使用1×5卷积提取中等范围的时空特征。1×7卷积路径:使用1×7卷积提取更宽范围的时空特征。1×3最大值池化路径:使用1×3最大值池化融合局部范围的特征。最后将四条路径的输出连接起来,作为Inception结构的最终输出,实现多尺度的特征提取,并作为Inception模块5的结果。
残差模块6的步骤为:首先,使用64个尺寸为3×1的卷积核对Inception模块5的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用64个尺寸为3×1的卷积核对残差块1第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将残差块1的一维卷积和残差块1第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出残差模块6的结果。
最大池化层7的步骤为:首先,输入残差模块6的结果,使用尺寸为2、步长为2的最大池化操作进行筛选,输出最大池化层7的结果。
Inception模块8的步骤为:首先,输入最大池化层7的结果,Inception结构四条路径分别如下,1×3卷积路径:使用1×3卷积提取局部时空特征。1×5卷积路径:使用1×5卷积提取中等范围的时空特征。1×7卷积路径:使用1×7卷积提取更宽范围的时空特征。1×3最大值池化路径:使用1×3最大值池化融合局部范围的特征。最后将四条路径的输出连接起来,作为Inception结构的最终输出,实现多尺度的特征提取,并作为Inception模块8的结果。
残差模块9的步骤为:首先,使用64个尺寸为3×1的卷积核对Inception模块8的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用64个尺寸为3×1的卷积核对残差块1第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将残差块1的一维卷积和残差块1第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出残差模块9的结果。
最大池化层10的步骤为:首先,输入残差模块9的结果,使用尺寸为2、步长为2的最大池化操作进行筛选,输出最大池化层10的结果。
Inception模块11的步骤为:首先,输入最大池化层10的结果,Inception结构四条路径分别如下,1×3卷积路径:使用1×3卷积提取局部时空特征。1×5卷积路径:使用1×5卷积提取中等范围的时空特征。1×7卷积路径:使用1×7卷积提取更宽范围的时空特征。1×3最大值池化路径:使用1×3最大值池化融合局部范围的特征。最后将四条路径的输出连接起来,作为Inception结构的最终输出,实现多尺度的特征提取,并作为Inception模块11的结果。
残差模块12的步骤为:首先,使用64个尺寸为3×1的卷积核对Inception模块11的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用64个尺寸为3×1的卷积核对残差块1第一次因果扩张卷的激活值进行一维因果扩张卷积;第三,将残差块1的一维卷积和残差块1第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出残差模块12的结果。
最大池化层13的步骤为:首先,输入残差模块12的结果,使用尺寸为2、步长为2的最大池化操作进行筛选,输出最大池化层13的结果。
需要说明的是,上述Inception模块的数量、残差模块的数量、卷积核的数量以及尺寸是以模型训练效果为依据设置的,因此,上述实例仅为举例说明,在不脱离本发明构思基础上,对Inception模块的数量、残差块的数量、卷积核的尺寸和数量可以进行调整。
最后,IncepTCN的输出层由1个Flatten层和1个全连接Dense层构成。Flatten层将最大池化层的结果展平为1×92160的一维序列;Dense层含有2个神经元且使用“Softmax”函数激活。输出层输出的是所述类别的概率,从而得到样本的分类结果,即噪声或高质量。
本实施例的分类模型训练过程中选择用Adam优化器,其中Batchsize为256、全连接层的随机失活率为0.8以及初始学习率为0.0001,同时使用ReduceLROnPlateau衰减策略来调节学习率:首先监测训练过程中的验证损失的变化,若出现验证损失变大情况,该策略会调整学习率,使之衰减为当前的80%,若验证损失保持下降就不需要改变学习率,直至整个训练过程结束。共计训练80个epoch。其他可行的实施例中,对此不进行具体的限定,可以选择其他优化器。
如图3是IncepTCN分类网络模型训练过程中的精度及损失变化,其中,带有实线代表验证集在模型训练过程中精度及损失的变化,带虚线代表训练集在模型经过训练集训练后精度及损失的变化。从曲线形态看,随着训练次数的增加,模型的精度也在逐步上升,模型的损失值也在逐步下降,最终也趋于稳定,这表明模型所学习到的数据特征由增长到收敛的趋势,模型对于数据的适应性在增长,模型的误差在下降。
如图4为IncepTCN分类网络模型对陌生数据测试的混淆矩阵,从图中可以看出,该测试集的数量为638个样本(638天的数据),其中假正例(FP)仅有4个,假反例(FN)为9个,真正例(TP)有311个,真反例(TN)有314个,因此准确率A=97.96%,与模型训练时的准确率相比略有下降,这是模型在遇到陌生数据时的正常反应,下降幅度在可接受的范围。精确率P=98.73%,说明含噪片段被准确识别的概率很高,达到该模型的设计预想。召回率R=97.19%,F1-score=97.95%,均表现出很高的性能。新数据的测试结果有力的说明了该模型的泛化能力较强,模型的可利用性较好。
步骤3:针对待去噪的大地电磁数据,先分段,再输入至所述地磁数据分类模型得到每个数据段的分类结果,保留模型辨识为高质量的数据片段;
步骤4:对于典型的实际含噪数据段,使用多元变分模态分解(MVMD)算法联合邻近的地磁参考站同步观测的数据进行多通道数据去噪,利用邻近台站数据的相似性特征相互约束得到可靠的去噪效果,获得含噪数据段可靠的不含噪状态,用来制作去噪模型的高质量样本库。
步骤5:构建CS-GRUTCN去噪网络,并将含噪声的地磁数据样本及高质量的地磁数据样本输入至所述CS-GRUTCN去噪网络进行训练得到地磁数据去噪模型;
如图5所示为所述门控循环单元基本结构,它含有两个门控单元,分别为重置门和更新门。GRU特有的门控结构使其具有很强的处理时间序列数据的能力。
如图6所示,CS-GRUTCN去噪网络模型由输入层、隐藏层和输出层三部分构成。
时域卷积模块1的步骤为:首先,使用16个尺寸为2×1的卷积核对训练样本分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用16个尺寸为2×1的卷积核对时域卷积模块1第一次因果扩张卷的激活值进行一维因果扩张卷积;第三,将时域卷积模块1的一维卷积和时域卷积模块1第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块1的结果。
时域卷积模块2的步骤为:首先,使用32个尺寸为2×1的卷积核对时域卷积模块1的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用32个尺寸为2×1的卷积核对时域卷积块2第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将时域卷积模块2的一维卷积和时域卷积块2第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块2的结果。
时域卷积模块3的步骤为:首先,使用64个尺寸为2×1的卷积核对时域卷积模块2的结果进行一维因果扩张卷积,因果扩张卷积使用“Relu”激活;第二,再次使用64个尺寸为2×1的卷积核对时域卷积模块3第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将时域卷积模块2的结果和时域卷积模块3第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块3的结果。
时域卷积模块4的步骤为:首先,使用128个尺寸为2×1的卷积核对时域卷积模块3的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用128个尺寸为2×1的卷积核对时域卷积模块4第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将时域卷积模块4的一维卷积和时域卷积模块4第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块4的结果。
门控循环神经模块5的步骤为:首先,将时域卷积模块4的结果输入到第一个门控循环单元;第二,将第一个门控循环单元的结果输入到第二个特征维度为1600的门控循环单元。
通道注意力机制模块6的步骤为:首先,将输入的训练样本分别进行一维自适应最大池化和一维自适应平均池化;第二,分别将一维自适应最大池化和一维自适应平均池化输入到共享多层感知器,先通过1×1一维卷积降维,并使用“Relu”激活,再通过1×1一维卷积升维,分别得到两个特征结果;第三,将多层感知器得到的两个特征结果进行特征融合,并使用“Sigmoid”激活,输出通道注意力机制模块6的结果。
空间注意力机制模块7的步骤为:首先,对通道注意力机制模块6的结果依次进行一维自适应最大池化和一维自适应平均池化,得到样本在通道维度堆叠的结果;第二,使用1×1一维卷积对通道维度堆叠的结果调整通道数,并使用“Sigmoid”激活,输出通道注意力机制模块7的结果。
全局平均池化层8的步骤为:首先,将门控循环神经模块5输出的结果和空间注意力机制模块7输出的结果进行拼接,第二,对拼接的结果使用尺寸为3、步长为1池化层进行筛选。
需要说明的是,上述通道注意力机制模块的数量、空间注意力机制模块的数量、时域卷积模块的数量、门控循环神经模块的数量、卷积核的数量以及尺寸是以模型训练效果为依据设置的,因此,上述实例仅为举例说明,在不脱离本发明构思基础上,对通道注意力机制模块的数量、空间注意力机制模块的数量、时域卷积模块的数量、门控循环神经模块、卷积核的尺寸和数量可以进行调整。
最后,改进的时域卷积网络的输出层由1个Flatten层和1个全连接Linear层构成。Flatten层将全局平均池化层的结果展平为1×204800的一维序列;Linear层将Flatten层的结果用来调整输出尺寸的维度。
所述输入层形状是:样本长度乘以通道数,即1440×1。
本实施例中隐藏层由时域卷积模块1、时域卷积模块2、时域卷积模块3、时域卷积模块4、门控循环神经模块5、通道注意力机制模块6、空间注意力机制模块7、全局平均池化层8共计8个部分构成,而时域卷积模块一般包含2个一维因果扩张卷积、1个一维卷积、2个激活函数层、2个dropout层和2个权重规范层。因果扩张卷积由因果卷积和扩张卷积结合而成,因果卷积获取历史信息,扩张卷积扩大卷积核感受野。因果扩张卷积的原理如图5所示。因果卷积是指输出序列的第i个元素只依赖于的输入序列中的第i个及其之前的元素,这有效地避免了未来信息对现有状态的影响。扩张卷积是指利用扩张系数增加卷积核之间的间隔,即增大卷积核感受野,达到快速获取历史信息的目的。dropout层能让某个神经元的激活值以一定的概率p停止工作,能够缓解过拟合现象,并使模型不会过于依赖局部特征,增强模型的泛化能力。权重规范层能使网络训练有更快的收敛速度以及更强的学习率鲁棒性。由于因果扩张卷积为现有技术内容,而本发明对此部分未进行优化,因此对其计算过程不进行具体的陈述。
本实施例中1个通道注意力机制模块、1个空间注意力机制模块、4个时域卷积模块、1个门控循环神经模块和全局平均池化层1的计算过程为:
时域卷积模块1的步骤为:首先,使用16个尺寸为2×1的卷积核对训练样本分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用16个尺寸为2×1的卷积核对时域卷积模块1第一次因果扩张卷的激活值进行一维因果扩张卷积;第三,将时域卷积模块1的一维卷积和时域卷积模块1第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块1的结果。
时域卷积模块2的步骤为:首先,使用32个尺寸为2×1的卷积核对时域卷积模块1的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用32个尺寸为2×1的卷积核对时域卷积块2第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将时域卷积模块2的一维卷积和时域卷积块2第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块2的结果。
时域卷积模块3的步骤为:首先,使用64个尺寸为2×1的卷积核对时域卷积模块2的结果进行一维因果扩张卷积,因果扩张卷积使用“Relu”激活;第二,再次使用64个尺寸为2×1的卷积核对时域卷积模块3第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将时域卷积模块2的结果和时域卷积模块3第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块3的结果。
时域卷积模块4的步骤为:首先,使用128个尺寸为2×1的卷积核对时域卷积模块3的结果分别进行一维因果扩张卷积和一维卷积,因果扩张卷积使用“Relu”激活,一维卷积不激活;第二,再次使用128个尺寸为2×1的卷积核对时域卷积模块4第一次因果扩张卷积的激活值进行一维因果扩张卷积;第三,将时域卷积模块4的一维卷积和时域卷积模块4第二次未激活的一维因果扩张卷积进行求和,并使用“Relu”激活,输出时域卷积模块4的结果。
门控循环神经模块5的步骤为:首先,将时域卷积模块4的结果输入到第一个门控循环单元;第二,将第一个门控循环单元的结果输入到第二个特征维度为1600的门控循环单元。
通道注意力机制模块6的步骤为:首先,将输入的训练样本分别进行一维自适应最大池化和一维自适应平均池化;第二,分别将一维自适应最大池化和一维自适应平均池化输入到共享多层感知器,先通过1×1一维卷积降维,并使用“Relu”激活,再通过1×1一维卷积升维,分别得到两个特征结果;第三,将多层感知器得到的两个特征结果进行特征融合,并使用“Sigmoid”激活,输出通道注意力机制模块6的结果。
空间注意力机制模块7的步骤为:首先,对通道注意力机制模块6的结果依次进行一维自适应最大池化和一维自适应平均池化,得到样本在通道维度堆叠的结果;第二,使用1×1一维卷积对通道维度堆叠的结果调整通道数,并使用“Sigmoid”激活,输出通道注意力机制模块7的结果。
全局平均池化层8的步骤为:首先,将门控循环神经模块5输出的结果和空间注意力机制模块7输出的结果进行拼接,第二,对拼接的结果使用尺寸为3、步长为1池化层进行筛选。
需要说明的是,上述通道注意力机制模块的数量、空间注意力机制模块的数量、时域卷积模块的数量、门控循环神经模块的数量、卷积核的数量以及尺寸是以模型训练效果为依据设置的,因此,上述实例仅为举例说明,在不脱离本发明构思基础上,对通道注意力机制模块的数量、空间注意力机制模块的数量、时域卷积模块的数量、门控循环神经模块、卷积核的尺寸和数量可以进行调整。
最后,改进的时域卷积网络的输出层由1个Flatten层和1个全连接Linear层构成。Flatten层将全局平均池化层的结果展平为1×204800的一维序列;Linear层将Flatten层的结果用来调整输出尺寸的维度。
本实施例的模型训练过程中选择用Adam优化器,其中训练和验证Batchsize均为256,初始学习率为1×10-5,并使用学习率衰减方法,每10个训练轮回学习率衰减0.1,共训练500个epoch。其他可行的实施例中,对此不进行具体的限定,可以选择其他优化器。
如图7为实测海底地磁数据信噪识别结果。由图可知,IncepTCN网络能够将含有明显噪声的片段准确识别出来,且没有出现将高质量片段误判为含噪片段的情况。
步骤6:输入步骤4分类模型辨识为含噪声的大地电磁数据片段至所述大地电磁数据重建模型得到每个数据段的数据重建结果;
步骤7:组合步骤4保留的高质量的数据和步骤6实现数据重建的数据,得到完整的大地电磁去噪序列。
图8为实测海底地磁数据信噪分离结果,由图可知,T21台站在第13到15天以及第18到19天的数据变化剧烈,有密集且幅度很大的脉冲状波形,此台站的信号显然是受到了密集且强烈的噪声污染。此外,在第4到7天之间以及第12天,T21台站观测的信号也存在一定的噪声。经过所提方法处理后,T21台站的信号变得更为光滑,周期性特征更加明显,信号质量得到了显著的提升。
图9为改进后时域卷积网路训练的损失曲线。从曲线形态看,随着训练次数的增加,模型的损失值也在逐步下降,最终也趋于稳定,表明模型对于数据适应性在增强。
图10为本发明对地磁数据噪声识别压制效果。由图可知,IncepTCN的识别效果准确,含噪片段都被识别出来且在改进后的时域卷积去噪网络中噪声得到有效去除,曲线整体光滑,看不出明显噪声。
图11为对应数据处理前后的地磁转换函数。高质量数据计算后的转换函数周期在102s到104s之间各频率的连续性好,曲线光滑、各频率的误差棒较小,说明了原有高质量数据的平稳特性。而含有噪声的数据在2*103s到104s周期间的转换函数误差棒更长,曲线的形状与原来相差较大,对于Tx和Ty曲线的幅度变化范围更大。在经过IncepTCN和改进后的时域卷积去噪网络联合去噪后,转换函数周期在2*102s到104s之间的曲线比去噪前更加光滑、误差棒明显变短,各频点结果的连续性较好,形状也与高质量数据计算的结果接近,说明得到的结果具有稳定性,在去噪的过程中保留住了有效数据。
图12为本发明处理前后的多重平方相关度。含噪数据在其周期为2*102s到103s之间的多重平方相关度接近为1,而高质量的数据所计算出的相干度的值在0.8左右,这可能说明噪声同时影响该段周期的三个分量,使三分量中的噪声相关度升高,使得最终相干度高于高质量数据计算出的值,在通过IncepTCN和CS-GRUTCN去噪网络联合去噪后,该段相关度曲线几乎能与高质量的曲线吻合。这表明该方法去噪后的地磁转换函数结果具有可靠性。
图13为高质量数据和含噪数据去噪前后的地磁感应矢量,高质量数据的实感应矢量在横坐标为2到4之间的方向基本一致,大小呈现逐渐减小的趋势。而含噪声数据的实感应矢量在横坐标的3到3.5之间的大小显然比高质量的更大,而且方向发生了轻微的偏离。经过本章所提方法去噪之后,数据的实感应矢量在3到3.5之间的长度基本能够与高质量数据相对应,方向上的偏离也得到了修正。说明去噪对实感应矢量也有着明显的改善作用。因此,这些结果表明本发明方法能够很好地衰减地磁噪声,即使噪声水平是未知的。
综上所述,本发明可以有效去除地磁数据中的强人文噪声,显著提高数据质量,取得明显优于现有方法的效果。
需要强调的是,本发明所述的实例是说明性的,而不是限定性的,因此本发明不限于具体实施方式中所述的实例,凡是由本领域技术人员根据本发明的技术方案得出的其他实施方式,不脱离本发明宗旨和范围的,不论是修改还是替换,同样属于本发明的保护范围。
Claims (7)
1.一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,包括如下步骤:
步骤1:从大量观测数据中挑选出区分度高、含有典型噪声的数据,用于制作分类样本库;
步骤2:构建IncepTCN分类网络,并将地磁数据及类别标签输入至所述IncepTCN分类网络进行训练得到地磁数据分类模型;
步骤3:针对待去噪的地磁数据,先进行分段,再将其输入至地磁数据分类模型进行信噪识别,将其分成高质量数据段和含噪数据段两类;
步骤4:从大量观测数据中挑选出区分度高、含有典型噪声的数据,使用多元变分模态分解算法联合邻近的地磁参考站同步观测的数据进行多通道数据去噪,利用邻近台站数据的相似性特征相互约束得到可靠的去噪效果,获得含噪数据段可靠的不含噪状态,用来制作去噪模型的样本库;
步骤5:构建CS-GRUTCN去噪网络,并将基于参考道约束的MVMD去噪方法所分离出的噪声添加到高质量的地磁数据中,制成部分含噪数据样本;另外部分的噪声样本是向高质量数据中添加人工合成的模拟噪声制成;将含噪声的地磁数据样本及所对应的高质量地磁数据样本形成样本对,对输入至所述CS-GRUTCN去噪网络进行训练得到地磁数据去噪模型;
步骤6:将所述步骤3中辨识为含噪声的地磁数据片段输入至所述步骤5中得到的所述地磁数据去噪模型进行去噪,输出得到去噪后的数据段;
步骤7:依据原顺序拼接所述步骤3中保留的高质量的数据段和所述步骤6中去噪后的数据段,得到完整的去噪后的地磁时间序列。
2.根据权利要求1所述的基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,所述分类样本库的制作方法为:使用等长分段的方法对挑选出的数据进行分段,将每一个数据段作为一个样本并标记样本的类别;所述类别标签表示样本分为含噪声数据段或高质量数据段;所述含噪数据段与高质量数据段的数量之比例接近1:1,并包含各种类型的数据。
3.根据权利要求1所述的基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,所述多元变分模态分解是一种多通道数据分解的变分方法,多元变分模态分解是从包含C个数据通道的输入数据x(t)中提取预定义的K个多元调制振荡函数uk(t),即:
其中uk(t)=[u1(t),u2(t),…,uC(t)];
多元变分问题,关键在于找出K个模态函数,使得在各个模态都是一个中心频率的有限带宽的前提下,且在所有模态的和与原始输入信号一致的约束条件下,需要最小化这K个模态的估计带宽的和;
多元变分模态分解的约束优化问题如下:
其中表示对应uk(t)的解析信号,符号/>表示对时间的偏导数运算;{uk,c}和{ωk}分别代表了所有K个模态分量和对应的中心频率的集合;
求解变分问题需要引入二次惩罚因子α和拉格朗日乘法算子λ,将约束变分问题转换成一个无约束的变分问题,其中α的作用就是保证在有高斯噪声的情况下进行信号重构的精度,λ能够确保严格满足约束,得到的增广拉格朗日函数为:
然后,采用交替方向乘子法来求解以上变分问题,将完全优化问题划分为一系列迭代子优化问题,在更新模式uk(t)过程中,在第n次迭代时考虑以下次优化问题:
以上的最小化问题可以在频谱域内得到解决,在频域内的更新表示为:
为了更新中心频率ωk,需要迭代求解以下次优化问题:
中心频率在双频域进行更新,估计新频率为相关模式功率谱的重心:
通过上述优化公式不断更新u,ω和λ,直到满足收敛条件,最后输出分解的结果。
4.根据权利要求1所述的基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,所述IncepTCN分类网络包括输入层、隐藏层以及输出层,其中,所述隐藏层由卷积层、Inception模块、残差模块、最大池化层构成,而Inception模块一般包含3个一维卷积和1个池化层,残差模块包含两个残差操作,而残差操作一般包含两个一维扩张因果卷积和一个一维卷积,两个残差操作卷积核数目及尺寸相同,扩张因果卷积的扩张因子依次增加。
5.根据权利要求4所述的基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,所述残差模块中卷积核的尺寸依次降低,卷积核的数目及扩张因子依次增加。
6.根据权利要求4所述的基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,所述Inception结构包含四条路径,1×3卷积路径:使用1×3卷积提取局部时空特征;
1×5卷积路径:使用1×5卷积提取中等范围的时空特征;
1×7卷积路径:使用1×7卷积提取更宽范围的时空特征;
1×3最大值池化路径:使用1×3最大值池化融合局部范围的特征。
7.根据权利要求1所述的基于参考道数据约束与深度学习的地磁数据去噪方法及系统,其特征在于,所述CS-GRUTCN去噪网络包括输入层、隐藏层以及输出层,其中,所述隐藏层由通道注意力模块、空间注意力模块、时域卷积模块、门控循环单元、全局平均池化层构成;
所述通道注意力模块包含1个一维自适应平均池化层、1个一维自适应最大池化层、1个“Sigmoid”激活函数、1个共享多层感知机模块,其中,共享多层感知机模块包含2个一维卷积、1个“Relu”激活函数;
所述空间注意力模块包含1个一维自适应平均池化层、1个一维自适应最大池化层、一个一维卷积、一个“Sigmoid”激活函数;
所述时域卷积模块包含2个一维因果扩张卷积、1个一维卷积、2个“Relu”激活函数层、2个dropout层和2个权重规范层;
所述门控循环神经模块包括两个门控循环单元,时域卷积模块通过卷积核尺寸为1的卷积改变通道数,使输入和输出具备相同的通道数;所述时域卷积模块中卷积核的数目依次递增。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311192978.8A CN117272138A (zh) | 2023-09-15 | 2023-09-15 | 一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311192978.8A CN117272138A (zh) | 2023-09-15 | 2023-09-15 | 一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117272138A true CN117272138A (zh) | 2023-12-22 |
Family
ID=89213546
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311192978.8A Pending CN117272138A (zh) | 2023-09-15 | 2023-09-15 | 一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117272138A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118069997A (zh) * | 2024-04-18 | 2024-05-24 | 中国科学院地质与地球物理研究所 | 一种用于瞬变电磁数据噪声压制方法和系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325112A (zh) * | 2020-01-31 | 2020-06-23 | 贵州大学 | 基于深度门控循环单元神经网络的刀具磨损状态监测方法 |
CN113705424A (zh) * | 2021-08-25 | 2021-11-26 | 浙江工业大学 | 基于时间卷积降噪网络的演艺装备故障诊断模型构建方法 |
CN113761805A (zh) * | 2021-09-14 | 2021-12-07 | 东华理工大学 | 一种基于时域卷积网络的可控源电磁数据去噪方法、系统、终端及可读存储介质 |
CN113823308A (zh) * | 2021-09-18 | 2021-12-21 | 东南大学 | 一种使用单个带噪语音样本进行语音去噪的方法 |
CN113903349A (zh) * | 2021-09-26 | 2022-01-07 | 西安讯飞超脑信息科技有限公司 | 一种降噪模型的训练方法、降噪方法、装置和存储介质 |
CN116343810A (zh) * | 2022-12-30 | 2023-06-27 | 西安讯飞超脑信息科技有限公司 | 一种语音降噪方法、装置、存储介质及设备 |
-
2023
- 2023-09-15 CN CN202311192978.8A patent/CN117272138A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325112A (zh) * | 2020-01-31 | 2020-06-23 | 贵州大学 | 基于深度门控循环单元神经网络的刀具磨损状态监测方法 |
CN113705424A (zh) * | 2021-08-25 | 2021-11-26 | 浙江工业大学 | 基于时间卷积降噪网络的演艺装备故障诊断模型构建方法 |
CN113761805A (zh) * | 2021-09-14 | 2021-12-07 | 东华理工大学 | 一种基于时域卷积网络的可控源电磁数据去噪方法、系统、终端及可读存储介质 |
CN113823308A (zh) * | 2021-09-18 | 2021-12-21 | 东南大学 | 一种使用单个带噪语音样本进行语音去噪的方法 |
CN113903349A (zh) * | 2021-09-26 | 2022-01-07 | 西安讯飞超脑信息科技有限公司 | 一种降噪模型的训练方法、降噪方法、装置和存储介质 |
CN116343810A (zh) * | 2022-12-30 | 2023-06-27 | 西安讯飞超脑信息科技有限公司 | 一种语音降噪方法、装置、存储介质及设备 |
Non-Patent Citations (3)
Title |
---|
CHENG TONG ET AL.: "Temporal inception convolutional network based on multi-head attention for ultra-short-term load forecasting", IET GENERATION, TRANSMISSION & DISTRIBUTION, 31 December 2022 (2022-12-31), pages 1680 - 1696 * |
JIN FAN ET AL.: "Parallel spatio-temporal attention-based TCN for multivariate time series prediction", NEURAL COMPUTING AND APPLICATIONS, 12 May 2021 (2021-05-12), pages 13109 * |
李广 等: "基于深度残差网络与MVMD的多通道地磁信号处理", 地球物理学报, vol. 66, no. 8, 31 August 2023 (2023-08-31), pages 3540 - 3556 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118069997A (zh) * | 2024-04-18 | 2024-05-24 | 中国科学院地质与地球物理研究所 | 一种用于瞬变电磁数据噪声压制方法和系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110245608B (zh) | 一种基于半张量积神经网络的水下目标识别方法 | |
Zhang et al. | Seismic noise attenuation using unsupervised sparse feature learning | |
CN113095409B (zh) | 基于注意力机制和权值共享的高光谱图像分类方法 | |
CN112733725A (zh) | 基于多级循环卷积自编码网络的高光谱图像变化检测方法 | |
AU2020101013A4 (en) | A method for airborne transient electromagnetic data processing | |
CN113392931B (zh) | 基于自监督学习及多任务学习的高光谱开放集分类方法 | |
CN110298235A (zh) | 基于流形约束自编码网络的高光谱异常检测方法及系统 | |
CN111126332B (zh) | 基于轮廓特征的跳频信号分类方法 | |
CN117272138A (zh) | 一种基于参考道数据约束与深度学习的地磁数据去噪方法及系统 | |
Li et al. | IncepTCN: A new deep temporal convolutional network combined with dictionary learning for strong cultural noise elimination of controlled-source electromagnetic data | |
Li et al. | A deep learning method for denoising based on a fast and flexible convolutional neural network | |
CN113095370A (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN116805061B (zh) | 基于光纤传感的泄漏事件判断方法 | |
CN114578356A (zh) | 基于深度学习的分布式散射体形变监测方法、系统及设备 | |
CN117056680A (zh) | 数据降噪与信号探测方法、装置、系统及存储介质 | |
CN114022742B (zh) | 红外与可见光图像融合方法、装置及计算机存储介质 | |
CN115015719A (zh) | 一种基于光纤超声传感信号的套管局部放电识别算法 | |
CN114973019A (zh) | 一种基于深度学习的地理空间信息变化检测分类方法及系统 | |
CN117076858B (zh) | 一种基于深度学习的低频大地电磁强干扰压制方法及系统 | |
CN116482618B (zh) | 基于多损失特征自校准网络的雷达有源干扰识别方法 | |
CN111859241B (zh) | 一种基于声传递函数学习的非监督声源定向方法 | |
CN116310851B (zh) | 遥感图像变化检测方法 | |
CN116927771A (zh) | 一种预测页岩储层总有机碳数据的方法、装置、设备及介质 | |
CN110956221A (zh) | 基于深度递归网络下小样本极化合成孔径雷达图像分类方法 | |
CN114114382B (zh) | 用于地震预报的监测数据处理方法、地震预报方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |