CN109165737A - 基于条件随机场和bp神经网络的孔隙度预测方法 - Google Patents
基于条件随机场和bp神经网络的孔隙度预测方法 Download PDFInfo
- Publication number
- CN109165737A CN109165737A CN201810993007.6A CN201810993007A CN109165737A CN 109165737 A CN109165737 A CN 109165737A CN 201810993007 A CN201810993007 A CN 201810993007A CN 109165737 A CN109165737 A CN 109165737A
- Authority
- CN
- China
- Prior art keywords
- random field
- neural network
- model
- hidden layer
- porosity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于条件随机场和BP神经网络的孔隙度预测方法,包括以下步骤:S1、构建BP神经网络;S2、利用条件随机场模型,结合神经网络对标签数据的拟合残差,在置信度回归算法中对隐藏层的相循环性修正。本发明把条件随机场和神经网络两种模型结合在一起,借鉴了EM算法的思想,两个模型参数循环迭代求解模型参数和条件随机场隐藏层,构成一种半监督机器学习方法,能够使用较少的标记孔隙度数据和阻抗数据对孔隙度和岩相分布进行预测。
Description
技术领域
本发明属于油气勘探与开发技术领域,特别涉及一种基于条件随机场和BP神经网络的孔隙度预测方法。
背景技术
孔隙度是储层研究的主要内容之一,对油气勘探与开发具有十分重要的意义,早已成为石油物探工作者的热门研究课题。经过多年研究已经发展出了数种用地震数据求取孔隙度的方法。以前研究的主要方法大致可以分为三类:(1)用Wyllie时间平均方程或修正了的Wyllie公式求孔隙度,此方法原理简单,应用方便,但仅根据速度参数求取孔隙度容易出现多解性。(2)井数据约束反演与非井约束反演方法,因假设条件难以满足,通常效果欠佳。(3)Cokriging及其改进方法。其精度取决于测井孔隙度于储层崔志旅行时间的关联程度。近年来人工智能和机器学习学科兴起和发展十分迅速,对各工程领域产生了深刻影响,地球物理领域也不例外。
孔隙度信息可以在井处进行直接测量,但是考虑到钻井代价十分高昂,所以一般传统的预测方式是通过声波反演得到的阻抗信息对孔隙度进行预测,以下三个因素决定了精确预测孔隙度困难性。
1.隐藏的相决定了回归关系
孔隙度的预测需要依靠孔隙度和声波阻抗之间的近似比例关系,而这种近似的比例关系又由不同的沉积相决定,因此,一旦隐藏的相结构确定,我们就可以通过回归关系预测到孔隙度信息,然而,由于储层相存在多个复杂的几何形状,相估计是一项复杂的任务。
2.地震阻抗本身不能单独用于相位估计
我们可能希望可以从地震阻抗单独估计相,然而,阻抗的边缘分布不能提供足够的用于估算相的信息。
3.缺少标记样本:以储层中井点处孔隙度的测量值作为标记数据,利用该模型对回归模型进行训练,如果这些标记的数据足够密集,则可以较为精确的通过使用局部回归模型估计孔隙率。然而,由于钻井代价十分高昂,我们不能得到十分密集的标记数据,我们只能的到井处的少量标签数据。
发明内容
本发明的目的在于克服现有技术的不足,提供一种把条件随机场和神经网络两种模型结合在一起,能够使用较少的标记孔隙度数据和阻抗数据对孔隙度和岩相分布进行预测的基于条件随机场和BP神经网络的孔隙度预测方法。
本发明的目的是通过以下技术方案来实现的:基于条件随机场和BP神经网络的孔隙度预测方法,包括以下步骤:
S1、构建BP神经网络,BP神经网络由输入层、一个或多个隐藏层和输出层组成,每个层由多个神经元组成,隐藏层和输出层上的神经元的输出由以下公式决定:
fj(Netj)=fj(kijxj+θj) (1)
其中fj为神经元j的激励函数,设激励函数为:
其中θj为神经元的阈值,xj为神经元j的输入,kij为神经元链接的权重;
给出标签数据集为:
非标签数据集为:
其中为输入变量,代表输入的声波阻抗值,表示D维实数域;为输出变量,代表孔隙度的值,表示实数域,m表示非标签点的数量,n表示标签点的数量;
隐藏层数分两个相,对输入声波阻抗数据使用K-means的聚类结果,把标签数据分为两个集合:
把两个标签数据集合通过网络训练得到两个不同的BP神经网络模型model1和model2;
S2、利用条件随机场模型,结合神经网络对标签数据的拟合残差,在置信度回归算法中对隐藏层的相循环性修正。
进一步地,所述步骤S2具体实现方法为:
条件随机场概率模型公式如下:
表示的概率值,表示条件随机场特征函数映射,表示υ和的內积,表示隐藏层点i的状态值,表示整数域;
对模型参数引入高斯先验信息相当于对模型加入L2正则化项,模型参数的先验信息为:
其中为正则化常数,并且:
为规范化因子函数,拥有先验信息和条件概率,把条件随机场函数变为求解最大后验概率:
上式等价于:
上式中存在两个隐藏变量:模型参数变量υ和隐藏层变量第一个参数υ利用基于梯度求解,第二个参数利用多圈置信度传播法求解;
在求解参数前,给出条件随机场特征函数映射Ψ(·),定义无向图G=(V,E),二值0-1边E,顶点V,每一个定点表示一个样本,隐藏层的状态空间为联合特征函数映射为:
模型参数变量υ估计:采用拟牛顿法在条件随机场模型中对参数进行估计,为了实现梯度下降,需要对目标LCRF进行计算,还需对公式(8)对参数υ求梯度,求导得到:
其中E[·]为期望,式(8)包含规范化因子函数梯度(10)式包含期望用pseudolikelihood算法对式(10)进行逼近计算,得到模型参数变量υ;
条件随机场隐藏层变量估计:
使用多圈置信度回归算法,在条件随机场模型中的更新隐藏层元素πi,通过迭代把信息传递给当前点的邻居节点,迭代的将从点i传到点j的信息量Mij(s),此信息传递过程中信息量被证明是单调下:
其中λ为归一化常数,N(i)代表点i周围的邻居节点,其中
ζij(s,t)=υst
其中modell为在l相中训练出的BP神经网络模型,l=1,2;
信息量传递稳定之后,每个节点的最大边缘概率密度μi(t),由下式计算:
最后用每个点的最大边缘概率密度预测每个隐藏层的状态;
最后将隐藏层的预测结果作为相的预测结果,不同相中不同神经网络的预测结果作为孔隙度的预测结果。
本发明的有益效果是:本发明把条件随机场和神经网络两种模型结合在一起,借鉴了EM算法的思想,两个模型参数循环迭代求解模型参数和条件随机场隐藏层,构成一种半监督机器学习方法,能够使用较少的标记孔隙度数据和阻抗数据对孔隙度和岩相分布进行预测,在模拟数据和实际数据取得了良好的效果。
附图说明
图1为神经网络简易结构图;
图2为条件随机场的结构图;
图3为本发明的孔隙度预测方法流程图;
图4为本发明的不同相的回归模型训练流程图。
具体实施方式
下面结合附图进一步说明本发明的技术方案。
本发明把条件随机场和神经网络两种模型结合在一起,借鉴了EM算法的思想,两个模型参数循环迭代求解模型参数和条件随机场隐藏层,构成一种半监督机器学习方法,在模拟数据和实际数据取得了良好的效果。
图1基本构成了神经网络的基本机构,反应了在同一相中声波阻抗和孔隙度之间的拟合的关系。图2中的结构是一个三层的结构,其中第一层和第二层构成条件随机场模型结构,第一层和第三层构成一个基于神经网络的回归模型,第一层x为输入的生波阻抗值,第二层中的π为条件随机场的隐藏层数据,第三层为孔隙度数据,其中深色部分为标签井数据。
如图3所示,基于条件随机场和BP神经网络的孔隙度预测方法,包括以下步骤:
S1、构建BP神经网络,BP神经网络由输入层、一个或多个隐藏层和输出层组成,每个层由多个神经元(节点)组成。每个节点的输出值由输入值、函数和阈值确定,网络的学习过程由前向传播和误差传播两个过程组成。在前向传播过程中,输入信息通过隐藏层传输到输出层。运行激活函数后,产生输出值与期望值之间的误差。然后,误差沿着原始连接路径反向传播。该方法对神经元R各层的权值进行修正,以减少误差,在输出结果满足精度条件的情况下,该环路不会停止。隐藏层和输出层上的神经元的输出由以下公式决定:
fj(Netj)=fj(kijxj+θj) (1)
其中fj为神经元j的激励函数,设激励函数为:
其中θj为神经元的阈值,xj为神经元j的输入,kij为神经元链接的权重;
给出标签数据集为:
非标签数据集为:
其中为输入变量,代表输入的声波阻抗值,表示D维实数域;为输出变量,代表孔隙度的值,表示实数域,m表示非标签点的数量,n表示标签点的数量;
隐藏层数分两个相,对输入声波阻抗数据使用K-means的聚类结果,把标签数据分为两个集合:
把两个标签数据集合通过网络训练得到两个不同的BP神经网络模型model1和model2如图4所示。
S2、利用条件随机场模型,结合神经网络对标签数据的拟合残差,在置信度回归算法中对隐藏层的相循环性修正。具体实现方法为:
条件随机场概率模型公式如下:
表示的概率值,表示条件随机场特征函数映射,表示υ和的內积,表示隐藏层点i的状态值,表示整数域;
对模型参数引入高斯先验信息相当于对模型加入L2正则化项,模型参数的先验信息为:
其中为正则化常数,并且:
表示笛卡尔乘积;
为规范化因子函数,拥有先验信息和条件概率,把条件随机场函数变为求解最大后验概率:
上式等价于:
上式中存在两个隐藏变量:模型参数变量υ和隐藏层变量第一个参数υ利用基于梯度求解,第二个参数利用多圈置信度传播(Loopy Belief PropagationApproximation(Weiss and Freeman,2000))法求解;
在求解参数前,给出条件随机场特征函数映射Ψ(·),定义无向图G=(V,E),二值0-1边E,顶点V,每一个定点表示一个样本,隐藏层的状态空间为联合特征函数映射为:
模型参数变量υ估计:采用拟牛顿法(imited-memory Broyden-Fletcher-GoldfarbShanno)在条件随机场模型中对参数进行估计,为了实现梯度下降,需要对目标LCRF进行计算,还需对公式(8)对参数υ求梯度,求导得到:
其中E[·]为期望,式(8)包含规范化因子函数梯度(10)式包含期望用pseudolikelihood算法对式(10)进行逼近计算,得到模型参数变量υ;
条件随机场隐藏层变量估计:
使用多圈置信度回归算法,在条件随机场模型中的更新隐藏层元素πi,通过迭代把信息传递给当前点的邻居节点,迭代的将从点i传到点j的信息量Mij(s),此信息传递过程中信息量被证明是单调下:
其中λ为归一化常数,N(i)代表点i周围的邻居节点,其中
ζij(s,t)=υst
其中modell为在l相中训练出的BP神经网络模型,l=1,2;
信息量传递稳定之后,每个节点的最大边缘概率密度μi(t),由下式计算:
最后用每个点的最大边缘概率密度预测每个隐藏层的状态;
最后将隐藏层的预测结果作为相的预测结果,不同相中不同神经网络的预测结果作为孔隙度的预测结果。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。
Claims (2)
1.基于条件随机场和BP神经网络的孔隙度预测方法,其特征在于,包括以下步骤:
S1、构建BP神经网络,BP神经网络由输入层、一个或多个隐藏层和输出层组成,每个层由多个神经元组成,隐藏层和输出层上的神经元的输出由以下公式决定:
fj(Netj)=fj(kijxj+θj) (1)
其中fj为神经元j的激励函数,设激励函数为:
其中θj为神经元的阈值,xj为神经元j的输入,kij为神经元链接的权重;
给出标签数据集为:
非标签数据集为:
其中为输入变量,代表输入的声波阻抗值,表示D维实数域;为输出变量,代表孔隙度的值,表示实数域,m表示非标签点的数量,n表示标签点的数量;
隐藏层数分两个相,对输入声波阻抗数据使用K-means的聚类结果,把标签数据分为两个集合:
把两个标签数据集合通过网络训练得到两个不同的BP神经网络模型model1和model2;
S2、利用条件随机场模型,结合神经网络对标签数据的拟合残差,在置信度回归算法中对隐藏层的相循环性修正。
2.根据权利要求1所述的基于条件随机场和BP神经网络的孔隙度预测方法,其特征在于,所述步骤S2具体实现方法为:
条件随机场概率模型公式如下:
表示的概率值,表示条件随机场特征函数映射,表示υ和的內积,表示隐藏层点i的状态值,表示整数域;
对模型参数引入高斯先验信息相当于对模型加入L2正则化项,模型参数的先验信息为:
其中为正则化常数,并且:
为规范化因子函数,拥有先验信息和条件概率,把条件随机场函数变为求解最大后验概率:
上式等价于:
上式中存在两个隐藏变量:模型参数变量υ和隐藏层变量第一个参数υ利用基于梯度求解,第二个参数利用多圈置信度传播法求解;
在求解参数前,给出条件随机场特征函数映射Ψ(·),定义无向图G=(V,E),二值0-1边E,顶点V,每一个定点表示一个样本,隐藏层的状态空间为联合特征函数映射为:
模型参数变量υ估计:采用拟牛顿法在条件随机场模型中对参数进行估计,为了实现梯度下降,需要对目标LCRF进行计算,还需对公式(8)对参数υ求梯度,求导得到:
其中E[·]为期望,式(8)包含规范化因子函数梯度(10)式包含期望用pseudolikelihood算法对式(10)进行逼近计算,得到模型参数变量υ;
条件随机场隐藏层变量估计:
使用多圈置信度回归算法,在条件随机场模型中的更新隐藏层元素πi,通过迭代把信息传递给当前点的邻居节点,迭代的将从点i传到点j的信息量Mij(s),此信息传递过程中信息量被证明是单调下:
其中λ为归一化常数,N(i)代表点i周围的邻居节点,其中
ζij(s,t)=υst
其中modell为在l相中训练出的BP神经网络模型,l=1,2;
信息量传递稳定之后,每个节点的最大边缘概率密度μi(t),由下式计算:
最后用每个点的最大边缘概率密度预测每个隐藏层的状态;
最后将隐藏层的预测结果作为相的预测结果,不同相中不同神经网络的预测结果作为孔隙度的预测结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810993007.6A CN109165737B (zh) | 2018-08-29 | 2018-08-29 | 基于条件随机场和bp神经网络的孔隙度预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810993007.6A CN109165737B (zh) | 2018-08-29 | 2018-08-29 | 基于条件随机场和bp神经网络的孔隙度预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109165737A true CN109165737A (zh) | 2019-01-08 |
CN109165737B CN109165737B (zh) | 2020-09-01 |
Family
ID=64893319
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810993007.6A Active CN109165737B (zh) | 2018-08-29 | 2018-08-29 | 基于条件随机场和bp神经网络的孔隙度预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109165737B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110443271A (zh) * | 2019-06-24 | 2019-11-12 | 中国石油大学(华东) | 一种基于多阈值Birch聚类的相控孔隙度预测方法 |
CN110988998A (zh) * | 2019-12-24 | 2020-04-10 | 王颜 | 基于希尔伯特谱和bp神经网络的储层孔隙度预测方法 |
CN113297838A (zh) * | 2021-05-21 | 2021-08-24 | 华中科技大学鄂州工业技术研究院 | 一种基于图神经网络的关系抽取方法 |
CN113298774A (zh) * | 2021-05-20 | 2021-08-24 | 复旦大学 | 一种基于对偶条件相容神经网络的图像分割方法、装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007002693A2 (en) * | 2005-06-24 | 2007-01-04 | Halliburton Energy Services, Inc. | Well logging with reduced usage of radioisotopic sources |
CN101025084A (zh) * | 2006-02-20 | 2007-08-29 | 中国石油大学(北京) | 一种随钻预测钻头底下地层孔隙压力的方法 |
CN104155701A (zh) * | 2014-07-03 | 2014-11-19 | 中国石油天然气集团公司 | 一种利用叠前地震资料及井信息的多尺度裂缝预测方法 |
US20150161101A1 (en) * | 2013-12-05 | 2015-06-11 | Microsoft Corporation | Recurrent conditional random fields |
CN107169492A (zh) * | 2017-05-26 | 2017-09-15 | 西安电子科技大学 | 基于fcn‑crf主从网络的极化sar目标检测方法 |
-
2018
- 2018-08-29 CN CN201810993007.6A patent/CN109165737B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007002693A2 (en) * | 2005-06-24 | 2007-01-04 | Halliburton Energy Services, Inc. | Well logging with reduced usage of radioisotopic sources |
CN101025084A (zh) * | 2006-02-20 | 2007-08-29 | 中国石油大学(北京) | 一种随钻预测钻头底下地层孔隙压力的方法 |
US20150161101A1 (en) * | 2013-12-05 | 2015-06-11 | Microsoft Corporation | Recurrent conditional random fields |
CN104155701A (zh) * | 2014-07-03 | 2014-11-19 | 中国石油天然气集团公司 | 一种利用叠前地震资料及井信息的多尺度裂缝预测方法 |
CN107169492A (zh) * | 2017-05-26 | 2017-09-15 | 西安电子科技大学 | 基于fcn‑crf主从网络的极化sar目标检测方法 |
Non-Patent Citations (3)
Title |
---|
N. GÖRNITZ ETAL.: "Transductive Regression for Data With Latent Dependence Structure", 《IEEE TRANSACTIONS ON NEURAL NETWORKS & LEARNING SYSTEMS》 * |
孙晓 等: "基于深层结构模型的新词发现与情感倾向判定", 《计算机科学》 * |
王朋岩: "用神经网络预测储层的孔隙度", 《大庆石油学院学报》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110443271A (zh) * | 2019-06-24 | 2019-11-12 | 中国石油大学(华东) | 一种基于多阈值Birch聚类的相控孔隙度预测方法 |
CN110443271B (zh) * | 2019-06-24 | 2021-11-19 | 中国石油大学(华东) | 一种基于多阈值Birch聚类的相控孔隙度预测方法 |
CN110988998A (zh) * | 2019-12-24 | 2020-04-10 | 王颜 | 基于希尔伯特谱和bp神经网络的储层孔隙度预测方法 |
CN113298774A (zh) * | 2021-05-20 | 2021-08-24 | 复旦大学 | 一种基于对偶条件相容神经网络的图像分割方法、装置 |
CN113298774B (zh) * | 2021-05-20 | 2022-10-18 | 复旦大学 | 一种基于对偶条件相容神经网络的图像分割方法、装置 |
CN113297838A (zh) * | 2021-05-21 | 2021-08-24 | 华中科技大学鄂州工业技术研究院 | 一种基于图神经网络的关系抽取方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109165737B (zh) | 2020-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109165737A (zh) | 基于条件随机场和bp神经网络的孔隙度预测方法 | |
CN106781489B (zh) | 一种基于递归神经网络的路网状态预测方法 | |
Nourafkan et al. | Shear wave velocity estimation from conventional well log data by using a hybrid ant colony–fuzzy inference system: A case study from Cheshmeh–Khosh oilfield | |
Saljooghi et al. | A new approach to improve permeability prediction of petroleum reservoirs using neural network adaptive wavelet (wavenet) | |
CN109799533A (zh) | 一种基于双向循环神经网络的储层预测方法 | |
CN112017289A (zh) | 一种基于深度学习的井震联合初始岩性模型构建方法 | |
Zoveidavianpoor et al. | Adaptive neuro fuzzy inference system for compressional wave velocity prediction in a carbonate reservoir | |
Tingdahl et al. | Improving seismic chimney detection using directional attributes | |
Luo | Ensemble-based kernel learning for a class of data assimilation problems with imperfect forward simulators | |
CN114199248B (zh) | 一种基于混合元启发算法优化anfis的auv协同定位方法 | |
Lee et al. | Localization uncertainty estimation for anchor-free object detection | |
Ebrahimi et al. | Estimation of shear wave velocity in an Iranian oil reservoir using machine learning methods | |
Bagheripour et al. | Fuzzy ruling between core porosity and petrophysical logs: Subtractive clustering vs. genetic algorithm–pattern search | |
Kenari et al. | Robust committee machine for water saturation prediction | |
Jo et al. | Automatic semivariogram modeling by convolutional neural network | |
WO2020257263A1 (en) | Systems and methods for solving geosteering inverse problems in downhole environments using a deep neural network | |
Grana et al. | Uncertainty quantification in seismic facies inversion | |
KR102120150B1 (ko) | 뉴럴 네트워크를 이용한 변분 추론 학습 방법 및 학습 장치, 그리고 이를 이용한 변분 추론 방법 및 장치 | |
CN116663428B (zh) | 一种基于神经网络的面波成像联合反演方法 | |
KR102110316B1 (ko) | 뉴럴 네트워크를 이용한 변분 추론 방법 및 장치 | |
Shiroodi et al. | Shear wave prediction using committee fuzzy model constrained by lithofacies, Zagros basin, SW Iran | |
Xu et al. | A multi-task learning-based generative adversarial network for red tide multivariate time series imputation | |
Liu et al. | Recurrent neural network for seismic reservoir characterization | |
Wong | A novel technique for modeling fracture intensity: A case study from the Pinedale anticline in Wyoming | |
Shibili et al. | Use of interpolation neural networks for permeability estimation from well logs |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |