CN110009706A - 一种基于深层神经网络和迁移学习的数字岩心重构方法 - Google Patents

一种基于深层神经网络和迁移学习的数字岩心重构方法 Download PDF

Info

Publication number
CN110009706A
CN110009706A CN201910167600.XA CN201910167600A CN110009706A CN 110009706 A CN110009706 A CN 110009706A CN 201910167600 A CN201910167600 A CN 201910167600A CN 110009706 A CN110009706 A CN 110009706A
Authority
CN
China
Prior art keywords
training
deep
neural
network
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910167600.XA
Other languages
English (en)
Inventor
张挺
陈杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai University of Electric Power
University of Shanghai for Science and Technology
Original Assignee
Shanghai University of Electric Power
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai University of Electric Power filed Critical Shanghai University of Electric Power
Priority to CN201910167600.XA priority Critical patent/CN110009706A/zh
Publication of CN110009706A publication Critical patent/CN110009706A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/424Iterative

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种基于深层神经网络和迁移学习的数字岩心重构方法,该方法包括下列步骤:1)采用设计后的深层神经网络对岩心训练图像数据进行迭代拟合,学习岩心训练图像的复杂特征;2)判断步骤2)的训练误差,当训练误差达到要求时训练结束,获取训练完成的DNN模型,并利用该DNN模型提取岩石训练图像的结构特征;3)将真实条件数据构成数据集,利用数据集对训练完成的DNN模型进行迁移学习,将步骤2)提取的结构特征进行复制,获取最终的重构岩心结果。与现有技术相比,本发明具有提高重构精度、有助于简化岩心重构过程以提高效率等优点。

Description

一种基于深层神经网络和迁移学习的数字岩心重构方法
技术领域
本发明涉及岩石物理数值模拟技术领域,尤其是涉及一种基于深层神经网络和迁移学习的数字岩心重构方法。
背景技术
钻井岩心是油田开展油气勘探、开发研究工作的第一手资料,采用岩心图像扫描技术和处理技术以实现岩心资料的数字化,是保存现有岩心资料行之有效的办法。可以使用数字岩心模型为基础,进行电阻率、导磁性、渗透率及多相流特征等多种属性参数的模拟计算。数字岩心是以真实岩心的二维断层图像为基础,利用重建算法建立出岩心的三维模型。通过将岩心数字化,得到的岩心模型更加真实可靠,继而以模型为基础进行弹性性质、电学性质、核磁共振和渗流性质等多种属性参数的模拟计算,参数结果更加精准。常规的岩石物理实验周期较长,数据存在噪声,而数字岩心计算的时间短、效率高,相较于岩石物理测试使用的时间和经费较少。除此之外,数字岩心可以永久保存,调用方便还可重复使用,且不破坏岩石样品。基于数字岩心模拟计算的结果相较于传统的岩石物理实验所需时间成本大大减少,并且数字岩心可以永久保存和反复使用。目前,基于数字岩心的岩石物理数值模拟在岩石物理理论研究和实际应用中正在发挥越来越重要的作用。
数字岩心的建模技术主要分为两大类:物理实验法和数值重构法。物理实验方法是指通过高精度仪器直接获取岩心的三维结构数据体,即数字岩心。物理实验方法包括序列成像法、聚焦扫描法和CT扫描法等。数值重构是指基于少量的岩心资料,通过数值计算来构建三维数字岩心的方法。目前常见的数值重构方法主要有以下几种:高斯模拟法、过程模拟法、模拟退火法、马尔可夫链蒙特卡洛法和多点地质统计法。然而,现有的数字岩心重构方法的模拟过程大多较为复杂、且效率较低。
近年来,机器学习发展迅速,陆续出现了深层神经网络和迁移学习。具有两个或更多隐藏层且每层包含大量单元的神经网络称为深层神经网络,它催生了深度学习这一新的学习领域。深层神经网络的目的是通过对底层特征的层次学习和组合,提取更有深层意义且更加抽象的高层特征。它在语音、图像和自然语言处理方向上已经得到了广泛的应用。迁移学习也是一种重要的机器学习方法,它将从源领域学习到的东西应用到目标领域上去。源领域和目标领域数据遵循不同的分布规律。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于深层神经网络和迁移学习的数字岩心重构方法。
本发明的目的可以通过以下技术方案来实现:
一种基于深层神经网络和迁移学习的数字岩心重构方法,包括下列步骤:
S1:采用设计后的深层神经网络对岩心训练图像数据进行迭代拟合,学习岩心训练图像的复杂特征。
S2:对深层神经网络进行训练,并判断训练误差,当训练误差达到要求时训练结束,获取训练完成的DNN模型,并利用该DNN模型提取岩石训练图像的结构特征,否则,重新调整模型结构后继续训练,直到训练误差达到要求。具体内容为:
对深层神经网络进行训练,判断训练误差,并使用每个点的实时预测结果与训练图像中每个点的标签值进行对比,计算总体准确率,当训练过程中深层神经网络模型的损失函数不再下降或趋于不变,且总体准确率高于预设定的准确率时训练结束;否则,重新调整深层神经网络模型结构后继续训练,直到准确率达到预设定准确率的要求。
S3:将真实条件数据构成数据集,利用数据集对训练完成的DNN模型进行迁移学习,将步骤S2提取的结构特征进行复制,获取最终的重构岩心结果。
优选地,训练完成的DNN模型结构分为:用于输入岩心训练图像数据的瓶颈层Lin、用于进行随机初始化操作的迁移层Ltransfer和输出层Lout。迁移层Ltransfer包括一个或多个隐藏层。迁移学习过程的结构由输入层、输出层和许多隐藏层组成。在迁移学习中将输出层前面的一个或者几个隐藏层定义为迁移层Ltransfer,迁移层前面的隐藏层和输入层定义为瓶颈层Lin
对训练完成的DNN模型进行迁移学习的具体步骤包括:
301)随机初始化迁移层Ltransfer的所有参数;
302)加入真实条件数据进行训练,训练时保持瓶颈层Lin参数不变,且在每次前向传播和反向传播时仅改变迁移层Ltransfer和输出层Lout的参数;
303)当总代价满足要求时,训练完成,得到DNN模型中的所有参数,将输入向量导入该DNN模型中,计算得到预测结果,进而获取重构岩心结果。
与现有技术相比,本发明基于深层神经网络具有很强的提取模式特征的能力,迁移学习可复用已有的大量模式特征,本发明利用深层神经网络与迁移学习,在重构数字岩心的过程中,通过使用深层神经网络提取真实岩心体数据的结构特征,然后通过迁移学习的复用转移特征能力完成岩石特征的重构,最终得到具有真实岩心特征的数字岩心,深层神经网络可以提高重构精度;而迁移学习可复用岩石特征,有助于简化岩心重构过程以提高效率。
附图说明
图1为深层神经网络结构图;
图2为特征迁移学习原理图;
图3为利用深层神经网络和迁移学习进行数字岩心重构的过程图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。显然,所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本发明保护的范围。
为了提取岩心的结构特征,本专利采用深层神经网络(Deep Neural Network,DNN)对岩心训练图像进行特征提取操作。DNN是一种包含许多隐藏层的前馈神经网络,DNN共有n+2层,其中第0层为输入层,第1到n层为隐藏层,相邻隐藏层之间相互连接,第n+1层为特征输出层,每一层都由若干神经元组成,x表示输入特征向量,y表示输出预测值。DNN模型的结构如图1所示。{x1,x2,…,xj}表示有j种输入特征向量,{y1,y2,…,yi}表示有i种输出结果,图中圆圈表示神经元。神经网络反向传播时更新每一层的参数,在训练模型过程中,就是找到合适的参数,以使总代价最小。具体方法就是通过前向传播和反向传播的迭代,反向传播时是通过链式求导完成参数迭代的,然后每一次迭代都更新网络的参数,直到满足代价需求。
迁移学习可将已有的经典模型或者已经训练好的模型用到新的领域和任务中。当深层神经网络完成了对岩心数据特征的提取后,使用迁移学习将这些特征复制到新的重构结果中。图2是一个迁移学习的结构图,它由输入层、输出层和许多隐藏层组成。在迁移学习中将输出层前面的一个或者几个隐藏层定义为迁移层Ltransfer,如图2中灰色部分所示;迁移层前面的隐藏层和输入层定义为瓶颈层Lin,如图2中白色部分所示。进行迁移学习时,将已训练完成的深层神经网络结构中的迁移层Ltransfer进行随机初始化操作,然后使用新的数据对整个模型进行重新训练,但每次前向传播和反向传播时不改变瓶颈层Lin的参数,仅对迁移层Ltransfer和输出层进行参数迭代,完成训练后,原来的迁移层(灰色部分)变成了新的网络层(深色部分)。图2中白色部分和深色部分组合起来就是迁移完成以后完整的神经网络结构。
整个岩心重构过程如图3所示:首先使用设计好的深层神经网络对岩心训练图像数据进行迭代拟合来学习其中的复杂特征,当训练误差达到要求时训练结束,得到训练完成的DNN模型。模型中包涵了神经网络结构中每一层的权重和偏差,并将深层神经网络结构划分为瓶颈层Lin、迁移层Ltransfer和输出层Lout;利用真实条件数据形成数据集对DNN模型迁移学习。进行迁移学习的详细方法为:随机初始化迁移层Ltransfer的所有参数,然后加入真实条件数据进行训练,训练时保持瓶颈层Lin参数不改变,每次前向传播和反向传播时仅改变迁移层Ltransfer和输出层Lout的参数,当总代价满足要求后训练完成,最后根据输入特征向量得到重构岩心结果。
本发明基于深层神经网络与迁移学习,在重构数字岩心的过程中,使用深层神经网络提取真实岩心体数据的结构特征,然后通过迁移学习的复用转移特征能力完成岩石特征的重构,最终得到具有真实岩心特征的数字岩心,深层神经网络可以提高重构精度;而迁移学习可复用岩石特征,有助于简化岩心重构过程以提高效率。
另外,本专利方法采用的深层神经网络和迁移学习完全可以基于GPU运行,即在建模时主要使用计算机的GPU进行模拟,相较于传统岩心重构方法,在理论上对内存和CPU的使用更少,这使得该方法在模拟时对计算机的性能影响较小。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的工作人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (5)

1.一种基于深层神经网络和迁移学习的数字岩心重构方法,其特征在于,该方法包括下列步骤:
1)采用设计后的深层神经网络对岩心训练图像数据进行迭代拟合,学习岩心训练图像的复杂特征;
2)对深层神经网络进行训练,并判断训练误差,当训练误差达到要求时训练结束,获取训练完成的DNN模型,并利用该DNN模型提取岩石训练图像的结构特征,否则,重新调整模型结构后继续训练,直到训练误差达到要求;
3)将真实条件数据构成数据集,利用数据集对训练完成的DNN模型进行迁移学习,将步骤2)提取的结构特征进行复制,获取最终的重构岩心结果。
2.根据权利要求1所述的一种基于深层神经网络和迁移学习的数字岩心重构方法,其特征在于,步骤2)的具体内容为:
对深层神经网络进行训练,判断训练误差,并使用每个点的实时预测结果与训练图像中每个点的标签值进行对比,计算总体准确率,当训练过程中深层神经网络模型的损失函数不再下降或趋于不变,且总体准确率高于预设定的准确率时训练结束;否则,重新调整深层神经网络模型结构后继续训练,直到准确率达到预设定准确率的要求。
3.根据权利要求2所述的一种基于深层神经网络和迁移学习的数字岩心重构方法,其特征在于,训练完成的DNN模型包括用于输入岩心训练图像数据的瓶颈层Lin、用于进行随机初始化操作的迁移层Ltransfer和输出层Lout
4.根据权利要求3所述的一种基于深层神经网络和迁移学习的数字岩心重构方法,其特征在于,所述的迁移层Ltransfer包括一个或多个隐藏层。
5.根据权利要求4所述的一种基于深层神经网络和迁移学习的数字岩心重构方法,其特征在于,对训练完成的DNN模型进行迁移学习的具体步骤包括:
301)随机初始化迁移层Ltransfer的所有参数;
302)加入真实条件数据进行训练,训练时保持瓶颈层Lin参数不变,且在每次前向传播和反向传播时仅改变迁移层Ltransfer和输出层Lout的参数;
303)当总代价满足要求时,训练完成,得到DNN模型中的所有参数,将输入向量导入该DNN模型中,计算得到预测结果,进而获取重构岩心结果。
CN201910167600.XA 2019-03-06 2019-03-06 一种基于深层神经网络和迁移学习的数字岩心重构方法 Pending CN110009706A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910167600.XA CN110009706A (zh) 2019-03-06 2019-03-06 一种基于深层神经网络和迁移学习的数字岩心重构方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910167600.XA CN110009706A (zh) 2019-03-06 2019-03-06 一种基于深层神经网络和迁移学习的数字岩心重构方法

Publications (1)

Publication Number Publication Date
CN110009706A true CN110009706A (zh) 2019-07-12

Family

ID=67166549

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910167600.XA Pending CN110009706A (zh) 2019-03-06 2019-03-06 一种基于深层神经网络和迁移学习的数字岩心重构方法

Country Status (1)

Country Link
CN (1) CN110009706A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110782008A (zh) * 2019-10-16 2020-02-11 北京百分点信息科技有限公司 深度学习模型的训练方法、预测方法和装置
CN110952978A (zh) * 2019-12-20 2020-04-03 西南石油大学 一种基于神经网络数据挖掘的钻井漏失裂缝宽度预测方法
CN111783794A (zh) * 2020-06-08 2020-10-16 湖北工业大学 一种基于深度可分离卷积残差块和改进nms的多尺度目标检测方法
CN113221308A (zh) * 2021-06-11 2021-08-06 北京邮电大学 一种面向功率放大器的迁移学习快速低复杂度建模方法
WO2021179558A1 (zh) * 2020-03-13 2021-09-16 中国石油大学(华东) 一种构建数字岩心的方法及系统
CN114092767A (zh) * 2021-11-26 2022-02-25 中国石油大学(华东) 基于机器学习的岩石破坏形态预测方法及系统
CN114171130A (zh) * 2021-10-22 2022-03-11 西安电子科技大学 一种核心岩藻糖鉴定方法、系统、设备、介质及终端

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150235143A1 (en) * 2003-12-30 2015-08-20 Kantrack Llc Transfer Learning For Predictive Model Development
CN106991439A (zh) * 2017-03-28 2017-07-28 南京天数信息科技有限公司 基于深度学习与迁移学习的图像识别方法
CN107451661A (zh) * 2017-06-29 2017-12-08 西安电子科技大学 一种基于虚拟图像数据集的神经网络迁移学习方法
CN107657634A (zh) * 2017-09-06 2018-02-02 上海电力学院 基于深度学习和支持向量机的页岩数字岩心三维重构方法
CN109389128A (zh) * 2018-08-24 2019-02-26 中国石油天然气股份有限公司 电成像测井图像特征自动提取方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150235143A1 (en) * 2003-12-30 2015-08-20 Kantrack Llc Transfer Learning For Predictive Model Development
CN106991439A (zh) * 2017-03-28 2017-07-28 南京天数信息科技有限公司 基于深度学习与迁移学习的图像识别方法
CN107451661A (zh) * 2017-06-29 2017-12-08 西安电子科技大学 一种基于虚拟图像数据集的神经网络迁移学习方法
CN107657634A (zh) * 2017-09-06 2018-02-02 上海电力学院 基于深度学习和支持向量机的页岩数字岩心三维重构方法
CN109389128A (zh) * 2018-08-24 2019-02-26 中国石油天然气股份有限公司 电成像测井图像特征自动提取方法及装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
GAISHI_HERO: ""深度学习中的迁移学习"", 《IT610,链接:HTTPS://WWW.IT610.COM/ARTICLE/1187769872424214528.HTM》 *
张挺等: ""基于纳米CT数据的页岩岩样三维重构"", 《上海电力学院学报》 *
马建红等: ""基于自动编码器的句子语义特征提取及相似度计算"", 《郑州大学学报(理学版)》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110782008A (zh) * 2019-10-16 2020-02-11 北京百分点信息科技有限公司 深度学习模型的训练方法、预测方法和装置
CN110782008B (zh) * 2019-10-16 2022-05-13 北京百分点科技集团股份有限公司 深度学习模型的训练方法、预测方法和装置
CN110952978A (zh) * 2019-12-20 2020-04-03 西南石油大学 一种基于神经网络数据挖掘的钻井漏失裂缝宽度预测方法
WO2021179558A1 (zh) * 2020-03-13 2021-09-16 中国石油大学(华东) 一种构建数字岩心的方法及系统
US11934488B2 (en) 2020-03-13 2024-03-19 China University Of Petroleum (East China) Method and system for constructing digital rock
CN111783794A (zh) * 2020-06-08 2020-10-16 湖北工业大学 一种基于深度可分离卷积残差块和改进nms的多尺度目标检测方法
CN111783794B (zh) * 2020-06-08 2023-08-22 湖北工业大学 一种基于深度可分离卷积残差块和改进nms的多尺度目标检测方法
CN113221308A (zh) * 2021-06-11 2021-08-06 北京邮电大学 一种面向功率放大器的迁移学习快速低复杂度建模方法
CN114171130A (zh) * 2021-10-22 2022-03-11 西安电子科技大学 一种核心岩藻糖鉴定方法、系统、设备、介质及终端
CN114092767A (zh) * 2021-11-26 2022-02-25 中国石油大学(华东) 基于机器学习的岩石破坏形态预测方法及系统
CN114092767B (zh) * 2021-11-26 2024-04-30 中国石油大学(华东) 基于机器学习的岩石破坏形态预测方法及系统

Similar Documents

Publication Publication Date Title
CN110009706A (zh) 一种基于深层神经网络和迁移学习的数字岩心重构方法
CN107886510A (zh) 一种基于三维全卷积神经网络的前列腺mri分割方法
CN109903292A (zh) 一种基于全卷积神经网络的三维图像分割方法及系统
CN109166100A (zh) 基于卷积神经网络的多任务学习细胞计数方法
CN110276402B (zh) 一种基于深度学习语义边界增强的盐体识别方法
CN109086773A (zh) 基于全卷积神经网络的断层面识别方法
CN107609638A (zh) 一种基于线性解码器和插值采样优化卷积神经网络的方法
CN104504754B (zh) 一种油气储层多点统计建模的方法及装置
Shen et al. Machine learning assisted urban filling
CN113359212B (zh) 一种基于深度学习的储层特征预测方法及模型
CN112541572A (zh) 基于卷积编码器-解码器网络的剩余油分布预测方法
CN111612906B (zh) 一种三维地质模型的生成方法、系统及计算机存储介质
CN109783887A (zh) 一种面向三维加工特征的智能识别与检索方法
Zhao et al. 3D tight sandstone digital rock reconstruction with deep learning
CN110490320A (zh) 基于预测机制和遗传算法融合的深度神经网络结构优化方法
CN109300128A (zh) 基于卷积神经网隐含结构的迁移学习图像处理方法
CN107194349A (zh) 基于深度学习的高分辨率PolSAR图像城区地物分类方法
Zhang et al. The prediction of reservoir production based proxy model considering spatial data and vector data
Ovcharenko et al. Style transfer for generation of realistically textured subsurface models
Chen et al. Deep convolutional generative adversarial networks for modeling complex hydrological structures in Monte-Carlo simulation
CN112862922A (zh) 一种基于多特征生成网络先验信息引导的图像填充方法
CN115659848A (zh) 一种基于深度学习网络快速预测二维盆地基底界面的方法
Gao et al. Modeling of meandering river deltas based on the conditional generative adversarial network
Tang et al. Use of low-fidelity models with machine-learning error correction for well placement optimization
Hou et al. Reconstructing Three-dimensional geological structures by the Multiple-point statistics method coupled with a deep neural network: A case study of a metro station in Guangzhou, China

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20190712