CN114048685A - 基于灰色关联分析的时间卷积网络电磁响应值预测方法 - Google Patents
基于灰色关联分析的时间卷积网络电磁响应值预测方法 Download PDFInfo
- Publication number
- CN114048685A CN114048685A CN202111411008.3A CN202111411008A CN114048685A CN 114048685 A CN114048685 A CN 114048685A CN 202111411008 A CN202111411008 A CN 202111411008A CN 114048685 A CN114048685 A CN 114048685A
- Authority
- CN
- China
- Prior art keywords
- time convolution
- electromagnetic response
- network
- training
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/17—Function evaluation by approximation methods, e.g. inter- or extrapolation, smoothing, least mean square method
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Analysis (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Computational Mathematics (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Algebra (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Databases & Information Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了基于灰色关联分析的时间卷积网络电磁响应值预测方法,包括:构建基于时间序列卷积神经网络;获取航空电磁勘探区域的数据,并随机分为训练集、验证集和测试集;对训练集、验证集和测试集分别进行归一化处理;利用归一化处理后的训练集和验证集对时间卷积神经网络进行训练和验证,并采用Adam优化算法对时间卷积神经网络进行连续优化,直到时间卷积神经网络的训练误差达到了预设的目标值,并完成训练;将归一化处理后的测试集输入至训练后的时间卷积神经网络内,得到预测值,并对预测值进行反规一化处理,得到瞬变电磁响应预测值。通过上述方案,本发明具有预测精度高、鲁棒性强等优点。
Description
技术领域
本发明涉及地球物理、岩石物理、工程勘探等技术领域,尤其是基于灰色关联分析的时间卷积网络电磁响应值预测方法。
背景技术
航空瞬变电磁反演在油气矿藏勘探过程中起着重要的作用,精确的电磁响应值信息是电磁反演的必要参数,对电磁反演和地层岩石物理参数的精确计算有重要意义。近年来,航空电磁法(AEM)技术发展快速,如直升机航空瞬时电磁法(HTEM)和半航空电磁法(SATEM)是近年来发展迅速的检测方法,广泛应用于矿产资源、地下水、地热资源等,也常应用于油田环境保护、地质灾害调查与评价等。航空电磁系统安装在固定翼飞机或直升机上,允许在大面积区域内快速收集数据,用于地质测绘、矿产勘探、环境和工程调查。在这些实际项目应用中,由于各种原因,往往收集到的Vz信息有缺失。因此,对于Vz资料的预测就显得比较有意义。
近年来,随着机器学习技术的飞速发展,机器学习方法以其在处理复杂非线性问题方面的优异性能在许多领域得到了广泛的应用。例如,支持向量机(SVM)、人工神经网络(ANN),等等被众多学者选为解决地质参数估算、出砂预测、渗透率和孔隙度预测、岩性识别、储层建模等地质问题。大量研究结果表明,利用人工神经网络、支持向量机或模糊逻辑可以对Vz信息进行预测,预测精度优于传统回归方法。深度学习是在人工智能的基础上发展起来的一种人工智能技术神经网络(ANN)。它使用多层复合网络架构来实现复杂和一般概念的表示。
最近的研究表明,某些卷积结构在音频合成、单词级语言建模和机器翻译方面可以达到最先进的精确度。这就提出了一个问题,卷积序列建模的成功是否局限于特定的应用领域,或者是否需要更广泛地重新考虑序列处理和循环网络之间的关联。为此申请人通过对广泛的序列建模任务中卷积和循环结构进行系统的实证评估来解决这个问题。为了表示卷积网络,我们描述了一种适用于所有任务的通用时域卷积网络(TCN)结构。这个架构从最近的研究中得到启发,模型简单,但是结合了现代卷积架构的一些最佳实践。结果表明,TCN在大范围的序列建模任务中,能够令人信服地胜过其他深度学习模型。这些任务包括了常用于评估反复出现的网络设计的不同基准。这表明卷积结构在并不局限于这些音频处理等应用领域可以取得成功。因此,它可能是深层网络序列应用在其他领域的一个更合适的起点。
尽管TCN模型已应用于很多不同行业,然而,TCN在电磁勘探方面,特别是在Vz的预测中的应用还未见报道。因此,本文提出了一种基于灰色关联分析(GRA)时间卷积网络Vz预测模型及预测方法,旨在建立一个可以根据常规航空电磁资料估算Vz的模型。
发明内容
针对上述问题,本发明的目的在于提供一种基于灰色关联分析的时间卷积网络电磁响应值预测方法,本发明采用的技术方案如下:
基于灰色关联分析的时间卷积网络电磁响应值预测方法,其包括以下步骤:
构建基于时间序列的卷积神经网络;所述时间卷积网络为TCN网络;
获取电磁勘探区域的数据,并随机分为训练集、验证集和测试集;对训练集、验证集和测试集分别进行归一化处理;
利用归一化处理后的训练集和验证集对时间卷积神经网络进行训练和验证,并采用Adam优化算法对时间卷积神经网络进行连续优化,直到时间卷积神经网络的训练误差达到了预设的目标值,并完成训练;
将归一化处理后的测试集输入至训练后的时间卷积神经网络内,得到预测值,并对预测值进行反规一化处理,得到电磁响应预测值。
进一步地,所述验证集内含有与电磁响应预测值对应的实际电磁响应值,利用电磁响应预测值与采集的实际电磁响应值对比,以获得预测准确度。
进一步地,对训练集、验证集和测试集的归一化处理过程相同,且采用最小-最大归一化方法对训练集进行处理,其表达式为:
优选地,构建时间卷积神经网络,并添加激活函数,其表达式为:
进一步地,采用Adam优化算法对时间卷积神经网络进行连续优化,包括以下步骤:
在训练和验证时,添加均方误差损失函数,其表达式为:
采用梯度下降算法并通过反向传播更新网络系数神经网络,其表达式为:
与现有技术相比,本发明具有以下有益效果:
本发明首先对资料数据进行灰度关联分析进行降维处理,在模型输入中选择关联大的数据进行预测。然后,利用时间卷积网络模型对电磁响应值参数序列与其输出序列之间的非线性关系进行建模。最后,通过实际电磁勘探资料验证了该方法的优越性,并与其它预测方法进行了比较,利用该方法,可以从一系列输入的电磁响应值数据中,考虑变化趋势,构建电磁响应值预测模型信息。该模型适合于处理多序列关联数据,如电磁响应值预测模型。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需使用的附图作简单介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对保护范围的限定,对于本领域技术人员来说,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明的结构示意图。
图2为本发明的不同道之间相关程度。
图3为本发明的电磁响应曲线Vz1的示意图(一)。
图4为本发明的电磁响应曲线Vz0的示意图(一)。
图5为本发明的电磁响应曲线Vz2的示意图(一)。
图6为本发明中对11条电磁曲线预测曲线图(一)。
图7为本发明的电磁响应曲线Vz1的示意图(二)。
图8为本发明的电磁响应曲线Vz0的示意图(二)。
图9为本发明的电磁响应曲线Vz2的示意图(二)。
图10为本发明的对11条电磁曲线预测曲线图(二)。
具体实施方式
为使本申请的目的、技术方案和优点更为清楚,下面结合附图和实施例对本发明作进一步说明,本发明的实施方式包括但不限于下列实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例
如图1至图10所示,本实施例提供了一种基于灰色关联分析的时间卷积网络电磁响应值预测方法,首先,对资料数据进行灰度关联分析,找出相互关联关系,降低数据维度。然后通过TCN模型进行建模,对Vz进行预测,将预测的Vz值分别与SVM、RNN和LSTM得到的结果进行比较。具体步骤如下:
第一步:建立相应的训练集、验证集和测试集,其数据占比为:
第二步:对训练集,验证集和测试集做数据归一化,具体如下:
另外,激活函数是神经网络的一个重要特征,它决定了神经元是否应该被激活。也就是说,它决定了神经元是否应该完成前向信息的传递。在建立预测模型时,需要选择激活函数,本实施例的激活函数如下:
第三步,时间卷积神经网络开始对归一化后分割的的数据集开始训练和验证,采用Adam优化算法对该网络模型进行连续优化,直到模型的训练误差达到了预先设定的目标。
在优化问题中,通常用目标函数来描述差异在拟合曲线和观测曲线之间。同样,在深度学习中,损失函数用于描述神经网络预测结果与理论预测结果的差异结果。在本实施例中,优化过程如下:
在训练和验证时,添加均方误差损失函数,其表达式为:
采用梯度下降算法并通过反向传播更新网络系数神经网络,其表达式为:
采用Adam优化算法进行优化计算,其表达式为:
第四步,对网络模型预测值进行反规一化处理,得到与实际值相对应的Vz的预测值。
实验和分析
为了验证该方法的有效性,本技术采用多元输入预测(单步预测)后3个数据方法进行了11组对比实验。对于实验1,通过 GRA关联分析选择关联因子大的资料属性作为TCN的输入来预测Vz和比较预测结果。实验2采用TCN、lstm、rnn和svm模型进行Vz预测,并在此基础上比较Vz预测的准确度。在测试中,选择其中需要预测的一道的前106个时间序列数据和其他10道上的106个时间序列数据为训练集,再选择20个时间序列数据为验证集,预测后3个数据。
本技术提供的资料来自加利福尼亚州Lost Hills附近的西南圣华金河谷已预处理的航空电磁数据。为保证TCN模型实验需要,选择线号为“300101”为对象,计算出个点时间以及点与点之间的距离,整理后得到141道发射机为低时刻的数据,将前11道Vz为数据集。
实验1
利用深度学习模型进行Vz预测时,选择有关联的资料数据可以提高模型的预测效果,Vz曲线反映地层特征,各道上的Vz曲线具有一定的相关性。然而,不同的参数从不同的角度反映了不同的地层信息。在实际应用中,如果直接利用处理后的Vz曲线作为输入建立Vz值预测模型,将增加模型的复杂性,同时可能会丢失一些有用的信息或含有一些无用的、冗余的信息,从而降低预测的准确性。为此,本技术采用上述的灰色关联度分析方法,定量分析了不同道的Vz曲线之间关联程度,从而选择高度相关的资料属性,提高了模型的预测性能。具体地说,本技术对不同道之间的Vz曲线进行了相关性分析,它们之间的相关程度见图2。图2显示,相邻之间的Vz曲线关联度相对较高,值大于等于0.75。然而,其它小于0.75的Vz相关性较低。因此,本实验以大于0.75为阈值,进行对比实验评估。本文利用关联度大于0.75的各道曲线,进行了Vz的预测。在这个实验中建立TCN 网络的关键参数如下: 学习率0.001,为了避免TCN模型在训练过程中的过度拟合,我们引入了丢失和提前停止策略,即min_delta=1e-4,激活函数为tanh形函数,采用Adam梯度下降法算法提高TCN模型的权值和偏差。采用MSE误差评估准则,对gra-TCN模型(以gra选取的关联数据为TCN网络输入建立的模型)和TCN网络模型(以所有资料数据作为网络输入的模型)的预测性能进行了评估。图2显示了用大于0.75的gra-TCN和所有资料属性TCN对DATA_dBdt0这道Vz预测值与实测值的比较,采用RMSE、MAE、MSE和R24个误差评估准则,表1显示了用这两个模型进行评价的误差。
这里以三条电磁响应为例,图3、图4、图5分别表明,两个模型的Vz预测值都接近实际曲线。放大模型预测的两个电磁响应值的不同点,可通过对表1中详细的误差分析结果的比较可以看出,选择关联度高的输入属性有利于提高TCN模型的预测性能。相反,选择关联度低的输入属性不仅影响计算速度,而且降低预测性能。图6可直观看出Gra_TCN与TCN方法针对11条电磁曲线预测区别,结果表明,可以选择敏感、关联因素大的数据,不仅实现对原始数据的降维,而且可以减少冗余信息对预测精度的影响。此外,通过GRA得到的模型的输入变量明显少于原模型,在数据量大的情况下具有计算效率高的优点。
在实验二中,采用GRA方法选取的灵敏度数据属性作为模型输入。其中,图7、8和9分别显示了 vz0、 vz1和 vz2数据轨道的实测值和gra _ tcn、 lstm、 rnn 和 svm 预测值。图10是11条电磁曲线预测区别,我们还列出了表2中gra _ tcn、 lstm、 rnn 和 svm 预测的vz0、vz1和 vz2的值;
表3列出了三个数据轨道的相应评价度量值。
上述实施例仅为本发明的优选实施例,并非对本发明保护范围的限制,但凡采用本发明的设计原理,以及在此基础上进行非创造性劳动而作出的变化,均应属于本发明的保护范围之内。
Claims (6)
1.基于灰色关联分析的时间卷积网络电磁响应值预测方法,其特征在于,包括以下步骤:
构建基于时间序列的卷积神经网络;所述时间卷积网络为TCN网络;
获取电磁勘探区域的数据,并随机分为训练集、验证集和测试集;对训练集、验证集和测试集分别进行归一化处理;
利用归一化处理后的训练集和验证集对时间卷积神经网络进行训练和验证,并采用Adam优化算法对时间卷积神经网络进行连续优化,直到时间卷积神经网络的训练误差达到了预设的目标值,并完成训练;
将归一化处理后的测试集输入至训练后的时间卷积神经网络内,得到预测值,并对预测值进行反规一化处理,得到电磁响应预测值。
2.根据权利要求1所述的基于灰色关联分析的时间卷积网络电磁响应值预测方法,其特征在于,所述验证集内含有与电磁响应预测值对应的实际电磁响应值,利用电磁响应预测值与采集的实际电磁响应值对比,以获得预测准确度。
5.根据权利要求1或3所述的基于灰色关联分析的时间卷积网络电磁响应值预测方法,其特征在于,采用Adam优化算法对时间卷积神经网络进行连续优化,包括以下步骤:
在训练和验证时,添加均方误差损失函数,其表达式为:
采用梯度下降算法并通过反向传播更新网络系数神经网络,其表达式为:
采用Adam优化算法进行优化计算,其表达式为:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111411008.3A CN114048685A (zh) | 2021-11-25 | 2021-11-25 | 基于灰色关联分析的时间卷积网络电磁响应值预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111411008.3A CN114048685A (zh) | 2021-11-25 | 2021-11-25 | 基于灰色关联分析的时间卷积网络电磁响应值预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114048685A true CN114048685A (zh) | 2022-02-15 |
Family
ID=80210900
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111411008.3A Pending CN114048685A (zh) | 2021-11-25 | 2021-11-25 | 基于灰色关联分析的时间卷积网络电磁响应值预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114048685A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190043178A1 (en) * | 2018-07-10 | 2019-02-07 | Intel Corporation | Low-light imaging using trained convolutional neural networks |
CN111126591A (zh) * | 2019-10-11 | 2020-05-08 | 重庆大学 | 一种基于空间约束技术的大地电磁深度神经网络反演方法 |
CN111461463A (zh) * | 2020-04-30 | 2020-07-28 | 南京工程学院 | 一种基于tcn-bp的短期负荷预测方法、系统及设备 |
CN112468326A (zh) * | 2020-11-11 | 2021-03-09 | 北京工业大学 | 基于时间卷积神经网络的访问流量预测方法 |
CN113673774A (zh) * | 2021-08-25 | 2021-11-19 | 北京航空航天大学 | 基于自编码器和时序卷积网络的航空发动机余寿预测方法 |
-
2021
- 2021-11-25 CN CN202111411008.3A patent/CN114048685A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190043178A1 (en) * | 2018-07-10 | 2019-02-07 | Intel Corporation | Low-light imaging using trained convolutional neural networks |
CN111126591A (zh) * | 2019-10-11 | 2020-05-08 | 重庆大学 | 一种基于空间约束技术的大地电磁深度神经网络反演方法 |
CN111461463A (zh) * | 2020-04-30 | 2020-07-28 | 南京工程学院 | 一种基于tcn-bp的短期负荷预测方法、系统及设备 |
CN112468326A (zh) * | 2020-11-11 | 2021-03-09 | 北京工业大学 | 基于时间卷积神经网络的访问流量预测方法 |
CN113673774A (zh) * | 2021-08-25 | 2021-11-19 | 北京航空航天大学 | 基于自编码器和时序卷积网络的航空发动机余寿预测方法 |
Non-Patent Citations (4)
Title |
---|
DIEDERIK P. KINGMA* 等: "ADAM: A METHOD FOR STOCHASTIC OPTIMIZATION", 《ICLR 2015》 * |
冯达智: "基于时间卷积网络的飞控时序数据预测技术研究", 《中国优秀博硕士学位论文全文数据库(硕士) 工程科技Ⅱ辑》 * |
刘爽 等: "基于残差卷积神经网络遥感图像超分辨率重建", 《长春工业大学学报》 * |
李德伟 等: "BP神经网络模型预测在大地电磁数据处理中的应用", 《科技创新与应用》 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109709603B (zh) | 地震层位识别与追踪方法、系统 | |
CN109799533B (zh) | 一种基于双向循环神经网络的储层预测方法 | |
CN112989708B (zh) | 一种基于lstm神经网络的测井岩性识别方法及系统 | |
CN110674841B (zh) | 一种基于聚类算法的测井曲线识别方法 | |
CN111324990A (zh) | 基于多层长短期记忆神经网络模型的孔隙度预测方法 | |
CN108596327B (zh) | 一种基于深度学习的地震速度谱人工智能拾取方法 | |
CN112213771B (zh) | 地震波阻抗反演方法及装置 | |
CN109581339B (zh) | 一种基于头脑风暴自动调整自编码网络的声呐识别方法 | |
CN112684497B (zh) | 地震波形聚类方法和装置 | |
CN108952699B (zh) | 一种复杂地质钻进过程地层岩性智能识别方法 | |
CN113327652B (zh) | 基于注意力机制和图卷积神经网络的晶体性质预测方法 | |
CN111898639A (zh) | 基于降维的分层时间记忆工业异常检测方法与装置 | |
CN114548591B (zh) | 一种基于混合深度学习模型和Stacking的时序数据预测方法及系统 | |
CN109214025A (zh) | 基于贝叶斯分类的储层参数预测方法及系统 | |
Cao et al. | Improving prediction accuracy in LSTM network model for aircraft testing flight data | |
CN113640871A (zh) | 一种基于重加权l1范数稀疏约束的地震波阻抗反演方法 | |
CN114048685A (zh) | 基于灰色关联分析的时间卷积网络电磁响应值预测方法 | |
CN116680639A (zh) | 一种基于深度学习的深海潜水器传感器数据的异常检测方法 | |
CN115964667A (zh) | 基于深度学习和重采样的河流-湖泊岩相测井识别方法 | |
CN116449415A (zh) | 一种地震数据的波形处理方法、装置和相关设备 | |
CN114139677A (zh) | 一种基于改进gru神经网络的非等间隔时序数据预测方法 | |
CN113722893A (zh) | 地震记录反演方法、装置、设备及存储介质 | |
CN113361476B (zh) | 一种基于人工智能技术的张衡一号震前异常信号识别方法 | |
CN113705878B (zh) | 水平井出水量的确定方法、装置、计算机设备及存储介质 | |
Wu et al. | Classification of reservoir fracture development level by convolution neural network algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |