CN117372753A - 一种基于卷积神经网络的深水开路钻井井涌识别方法 - Google Patents

一种基于卷积神经网络的深水开路钻井井涌识别方法 Download PDF

Info

Publication number
CN117372753A
CN117372753A CN202311273607.2A CN202311273607A CN117372753A CN 117372753 A CN117372753 A CN 117372753A CN 202311273607 A CN202311273607 A CN 202311273607A CN 117372753 A CN117372753 A CN 117372753A
Authority
CN
China
Prior art keywords
followed
convolutions
kick
convolution kernels
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311273607.2A
Other languages
English (en)
Inventor
王志远
陈刚
王贤斯
季鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China University of Petroleum East China
Original Assignee
China University of Petroleum East China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China University of Petroleum East China filed Critical China University of Petroleum East China
Priority to CN202311273607.2A priority Critical patent/CN117372753A/zh
Publication of CN117372753A publication Critical patent/CN117372753A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G06V10/765—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects using rules for classification or partitioning the feature space
    • E—FIXED CONSTRUCTIONS
    • E21—EARTH OR ROCK DRILLING; MINING
    • E21B—EARTH OR ROCK DRILLING; OBTAINING OIL, GAS, WATER, SOLUBLE OR MELTABLE MATERIALS OR A SLURRY OF MINERALS FROM WELLS
    • E21B47/00—Survey of boreholes or wells
    • E21B47/002—Survey of boreholes or wells by visual inspection
    • E21B47/0025—Survey of boreholes or wells by visual inspection generating an image of the borehole wall using down-hole measurements, e.g. acoustic or electric
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Geology (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Mining & Mineral Resources (AREA)
  • Biophysics (AREA)
  • Fluid Mechanics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Geophysics (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Geochemistry & Mineralogy (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种基于卷积神经网络的深水开路钻井井涌识别方法，属于石油钻井开路钻井井控技术领域，步骤为：首先采集开路钻井过程中ROV所拍摄的钻井液返出形态图像数据，进行预处理，构建训练集；然后采用迁移学习的方法对在ImageNet数据集上预训练的GoogLeNet模型进行微调，将调整过后的模型在训练集上进行重新训练学习，训练完成得到所构建的井涌识别模型。利用现实中的钻井液返出形态图像数据组建测试集，对所构建的井涌识别模型进行测试，将输入的钻井液返出形态图像进行卷积运算，最后在全连接层将特征进行组合并和原有的组合进行比较，从而实现对输入图像的分类识别，能够快速准确识别开路钻井过程中的井涌，确保安全。

Description

一种基于卷积神经网络的深水开路钻井井涌识别方法
技术领域
本发明涉及一种基于卷积神经网络的深水开路钻井井涌识别方法，属于石油钻井开路钻井井控技术领域。
背景技术
在海洋油气勘探与开发领域中，开路钻井是一项重要的作业技术，尤其是在深水钻井过程中，大多使用海水开路钻井的方式钻进。在进行开路钻井时，由于经常钻遇浅层气、浅层流等，井涌时常发生，而井涌的发生可能会导致钻井事故，造成设备损坏，甚至威胁作业人员的安全。
常年以来，对于井涌识别方法的研究，是深水钻井领域的重中之重。多年来，人们做了大量工作，Orban等(1988)通过使用流量传感器测量出入口流量差的方法识别井涌。Santos等(2007)将泥浆池增量这一指标作为井涌识别的重要参考。Weatherford和Schlumberger都开发了一种类似的井涌识别系统，该系统考虑了船舶升沉对出口流量的影响。测量流量以及泥浆池增量的方法操作简便，但精度和时效性较差。Stokka等(1993)通过测量受自由气体显著影响的声波速度来判断是否发生井涌。Dashti等(2014)通过实验研究，提出了一种预测液态烃中声速的方法，并验证了该方法的准确性。基于声波在井中的传播速度会受侵入气体影响这一理论，延伸出压力波的传播也具有相类似的规律。测量声波传播速度的方法准确度较高，但测量装置安装复杂，受工作环境噪音影响较大，适应性差。Ward等(1998)，Bryant等(2004)使用随钻数据或井底测量数据进行井涌监测。MrakHutchinson(1998)讨论了PWD的准确度、精度、分辨率。该技术考虑参数较多，对井下信息的监测较为全面，但是技术成本高、复杂性高。开路钻井井涌的识别主要依靠随钻监测和通过ROV(Remotely Operated Vehicle，遥控潜水器)在海底泥线处对返出钻井液形态进行观察。其中，ROV观察法主要依赖于专业工程师的经验，但是由于开路钻井作业的复杂性和高风险性，这种方法在准确性和时效性上无法得到保障，因此，本发明提出利用计算机视觉和人工智能技术形成一种井涌智能自动识别技术，来减少危险事故的发生。
近年来，人工智能技术正迅猛发展，已经被广泛的应用于多个领域。在石油钻井行业，人工智能虽逐渐开始被应用，但并未得到充分结合，尤其是在钻井异常工况的识别方面。2001年，Hargreaves基于贝叶斯模型建立了了一种灵敏的新型井涌监测系统。监测器根据声波数据对深水钻井情况进行监测，分析可能发生井涌的概率。2008年Nybo用邻井数据构建BP神经网络模型预测当前钻井的出口流量，实时预测当前钻井的井涌情况。2010年Kanyabm等人提出了将动态神经网络用于溢流模型的建立，来进行井涌早期监测。2016年，张禾等人建立了智能井涌预警技术，实现了经验与实时监测参数的结合。2018年，刘刚等人建立了自适应钻井事故预警模型，模型能够进行自我调整和学习，可以依据不同的地层条件进行更新。2020年，史肖燕等人利用随机森林法对井下特征参数进行优选，建立了井涌井漏实时判断方法。张菲菲等人通过定义相关指标，利用时间序列分析算法对溢流实时监测。Muojeke等人结合了人工神经网络(ANN)、二值分类器和钻井流动参数的井下监测，建立了数据驱动的井涌检测模型。
随着人工智能技术的发展，卷积神经网络(Convolutional Neural Networks，CNN)在图像处理和识别领域取得了显著的成功，并有多个卷积神经网络结构模型被提出，典型的卷积shenjing网络结构模型有：Alex Krizhevsky等人提出的AlexNet；谷歌团队提出的GoogleNet；He等人提出的残差神经网络，对现有的深度学习模型进行了优化；Xie等人提出的ResNet。CNN能够通过学习图像中的特征和模式，实现高效的图像分类和识别。这种技术已经被成功的应用于许多领域，如人脸识别、目标检测和自然语言处理等。从网络结构来说，上世纪90年代末，由LeCun等人提出的LeNet-5，到如今VGG(Visual GeometryGroup)、ResNet、GoogleNet等，网络的主要结构没有变化，卷积层作为输入端，池化层穿插在卷积层之间，接近末端以及最终的输出都是全连接层，只是在结构中增加了更多的信息传递方式，包括VGG利用小卷积代替大卷积的方式，在减少网络参数的基础上还能提升网络的非线性拟合能力；ResNet使用跳跃连接的方式，纵向增加网络深度的基础上，降低了每一层的梯度损耗；GoogleNet使用Inception模块(参见图1)，横向加宽网络，同一层卷积操作中加入不同尺度的卷积核，降低了重复特征的提取，增加了网络学习的效率，使得GoogleNet模型在一众网络结构模型中在图像识别分类任务中表现较为突出。
综上所述，在深水钻井领域，针对井涌识别的研究取得了一系列成果，但深水开路钻井井涌识别中ROV观察法依然存在准确率低、时效性差的问题。针对此问题，本发明提出了一种基于卷积神经网络的深水开路钻井井涌识别方法。
发明内容
针对现有技术的不足，本发明提供一种基于卷积神经网络的开路钻井井涌识别方法，以解决上述背景技术中提出的深水开路钻井井涌识别中ROV观察法识别准确度低，时效性差的问题。
本发明的技术方案如下：
一种基于卷积神经网络的深水开路钻井井涌识别方法，包括以下步骤：
S1：首先采集开路钻井过程中ROV在海底泥线附近所拍摄到的钻井液返出形态视频图像数据，对数据进行预处理，包括归一化、数据增强等，构建训练集；
S2：然后采用迁移学习的方法对在ImageNet数据集上预训练的GoogLeNet模型进行微调，删除其原有的全连接层和输出层，添加新的全连接层和输出层，并修改其节点数；
优选的，微调之前的GoogLeNet模型包括输入模块、输出模块和中间五个模块，其中输入模块是指图像处理层，输出模块是指一个平均池化层后紧跟一个全连接层最后是输出层三层组成；中间五个模块包括：第一模块是1个卷积层紧跟1个最大池化层，第二模块是2个卷积层，紧跟1个池化层，第三模块是inception 3a、inception3b层，其中inception3a包含四各分支：①64个1×1的卷积核，运算后紧跟RuLU操作，②96个1×1的卷积核(3×3卷积核之前的降维)运算后紧跟ReLU计算，再进行128个3×3的卷积，③16个1×1的卷积核(5×5卷积核之前的降维)运算后进行ReLU计算，再进行32个5×5的卷积，④最后是池化层后跟32个1×1的卷积；Inception3b也包含四各分支：①128个1×1的卷积核，然后紧跟RuLU，②128个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，在进行192个3×3的卷积，③32个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行96个5×5的卷积，④池化层后跟64个1×1的卷积；第四模块是inception 4a、inception 4b、inception 4c、inception4d、inception 4e层，其中inception4a包含四个分支：①192个1×1的卷积核，然后紧跟RuLU，②96个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行208个3×3的卷积，③16个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行48个5×5的卷积，④池化层后跟64个1×1的卷积；inception4b包含四个分支：①160个1×1的卷积核，然后紧跟RuLU，②112个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行224个3×3的卷积，③24个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行64个5×5的卷积，④池化层后跟64个1×1的卷积；inception4c包含四个分支：①128个1×1的卷积核，然后紧跟RuLU，②128个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行256个3×3的卷积，③24个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行64个5×5的卷积，④池化层后跟64个1×1的卷积；inception4d包含四个分支：①112个1×1的卷积核，然后紧跟RuLU，②144个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行288个3×3的卷积，③32个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行64个5×5的卷积，④池化层后跟64个1×1的卷积；inception4e包含四个分支：①256个1×1的卷积核，然后紧跟RuLU，②160个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行320个3×3的卷积，③32个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行128个5×5的卷积，④池化层后跟128个1×1的卷积；第五模块是inception5a、inception5b层，其中inception5a包含四个分支：①256个1×1的卷积核，然后紧跟RuLU，②160个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行320个3×3的卷积，③32个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行128个5×5的卷积，④池化层后跟128个1×1的卷积；inception5b包含四个分支：①384个1×1的卷积核，然后紧跟RuLU，②192个1×1的卷积核(3×3卷积核之前的降维)，后紧跟RuLU，再进行384个3×3的卷积，③48个1×1的卷积核(5×5卷积核之前的降维)，进行ReLU，再进行128个5×5的卷积，④池化层后跟128个1×1的卷积。
S3：将调整过后的GoogLeNet模型在S1所建立的训练集上进行重新训练学习，训练完成得到所构建的井涌识别模型。
S4：利用现实中海洋开路钻井ROV所拍摄到的钻井液返出形态图像数据组建测试集，对所构建的井涌识别模型进行测试，在模型进行井涌识别时，将输入的钻井液返出形态图像进行卷积运算，在卷积层将所有的图像特征提取出来，然后在池化层保留其中的显著特征，简化计算，最后在全连接层将特征进行组合并和原有的组合进行比较，将卷积输出的二维特征图转化为一维向量，然后与标记好的向量进行对比，从而实现对输入图像的分类识别，得到准确的分类名称，分类名称包括小气量井涌、大气量井涌、未发生井涌，并输出分类识别结果混淆矩阵，得到分类识别结果。
优选的，步骤S1中将采集到的ROV拍摄视频图像进行预处理，将所有图像数据像素修改在0-255范围内，调整图像分辨率大小为224×224×3，使其符合GoogLeNet模型的图像输入尺寸，然后将数据集按照8：2的比例分为训练集和验证集，在模型训练过程中，模型需要一边训练一边验证，验证集是按照一定比例从数据集中分出来的，模型使用训练集中的图像数据每完成一次训练就会使用验证集中的图像数据完成一次验证，这样可以防止模型过拟合。
优选的，步骤S2中迁移学习是一种机器学习方法，它利用在一个任务上学到的知识来改善另一个相关任务上的学习性能。在迁移学习中，有两个主要的组成部分：源领域和目标领域。源领域是已经训练完成的任务，而目标领域是需要进行学习的新任务。迁移学习的核心思想就是将源领域的知识转移到目标领域，以提升目标任务的性能。其具体的实现过程如下：
1)、特征提取：源领域和目标领域可能具有相似的特征，因此可以从源领域中学习到的特征提取目标领域的特征。本发明中，使用深度学习图像识别领域最大的数据集ImageNet，其中有超过一百万张图片和一千多个类别，利用在ImageNet上进行预训练可以节省大量的计算资源和样本数量；ImageNet是目前世界上最大的图像识别数据库之一，包含了约1500万张图片，2.2万个图像类别。在ImageNet上进行预训练，主要是按照ImageNet的类别数量对1500万张图片进行分类识别，训练模型的图像特征提取能力；
2)、模型调整：在预训练的基础上，冻结第一、二、三、四、五模块中的层，保留预训练模型的特征提取能力，删除其原有的全连接层和输出层，添加新的全连接层和输出层；原有的全连接层不能修改节点数，新的全连接层是可以修改节点数，原有的输出层的节点数匹配原有的全连接层，新的输出层节点数匹配新的全连接层节点数，并修改其节点数，修改其节点数为3，全连接层公式如下：
f(x)＝ωx+b(1)
式中，f(x)为输出向量，ω是权重参数，x是上一层的输出，当上一层是卷积层时，需要对参数进行展平，b是偏置值。
优选的，步骤S3中，微调之后的GoogLeNet模型在S1所构建的数据集上进行训练时，采用了随机梯度下降法作为其优化算法，通过计算每个参数的梯度来更新模型的参数，采用ReLU公式(2)作为激活函数，因为其更简单的求导，解决了大于0部分的梯度消失问题，采用交叉熵损失函数作为其验证收敛条件；在模型进行井涌识别时，将输入的钻井液返出形态图像进行卷积运算，将图像特征提取出来，然后将特征进行组合并和原有的组合进行比较，从而实现对输入图像的分类识别；
式中，x为输入，f(x)为输出；
卷积运算公式如下：
式中，Ix,y为上一层的输入，x,y为参与运算的区域，为第k层的第l个卷积核，*表示卷积运算；与矩阵运算不同卷积运算是旋转之后对应位置相乘。
进一步优选的，步骤S3中，由公式(2)可知，ReLU函数的值域在0到正无穷，发散的函数不利于网络收敛，所以使用ReLU作为激活函数时需要对结果进行归一化处理，这种归一化处理叫做局部响应归一化，如公式(4)，这种处理之后有助于快速收敛以及提高泛化能力；
式中，表示归一化的输出，/>表示激活函数在第i个卷积核的位置(x，y)的输出，N表示卷积核的总数量，n表示/>的邻居个数；k为常数参数，用于避免奇异点(分母为0的情况)，α为归一化常数，β为对比度常数，j＝max(0，i-n/2)是一计算值。
进一步优选的，步骤S3中，随机梯度下降法(SGD)作为其优化算法，通过计算每个参数的梯度来更新模型的参数，公式如下：
L为损失函数，ω1，ω2，ωn，b1，b2，bm为损失函数中的参数ω，b的更新值，n，m代表更新次数；
参数更新：
式中，为参数ωi的第j次更新值，/>为参数bi的第j次更新值，α和β表示学习率。
进一步优选的，公式(6)、(7)中α、β为0.0001。
进一步优选的，步骤S3中，在训练过程中，采用了分批次训练，需要对输入数据进行批次归一化处理，即防止局部数据造成梯度偏差过大，无法快速收敛。由于原始数据样本特征分布不明显，导致神经网络参数更新缓慢甚至参数更新错误，不收敛，因此在神经网络的数据向后传播时，将该批次的数据通过归一化进行预处理，使数据变为标准正态分布或者范围在0-1的分布，标准正态分布计算如下：
式中，μB为样本均值，σB为方差，m为当前批次输入的数据量，x(i)为输入的数据；
对数据进行批次归一化处理之后，输出如下：
式中，ξ是一个微小值，主要作用是防止分母为0。
进一步优选的，步骤S3中，在使用随机梯度下降法训练模型时，采用交叉熵损失函数作为其优化目标，交叉熵损失函数具有简单的梯度计算、适用于多分类问题等优点。交叉熵损失函数表达式如下：
式中，是真实样本标签，取值为0或1；yi是模型预测结果，表示为0到1之间的概率值，i为当前迭代次数，n为u总迭代次数；在模型进行训练的过程中，公式(11)作为随机梯度下降法的优化目标，其值在迭代过程中不断降低，直到公式(11)收敛或者达到特定的迭代停止条件。在这个过程中可以对模型各项参数变化进行监视，通过在计算窗口输出模型参数，包括学习率、回合数、准确率，损失值等，监视模型的训练过程，从而了解模型的训练效果)，训练完成后即可得到开路钻井井涌识别模型。
本发明的有益效果在于：
本发明通过利用卷积神经网络进行开路钻井井涌识别，该方法能够快速、准确地识别开路钻井过程中的井涌。相比传统的经验依赖法，该方法能够降低人为判断的误差，并实现对大量ROV实时图像数据的高效分类识别。这样可以帮助及时发现井涌并采取必要的措施，确保开路钻井作业的安全性。
现有多针对闭路钻井(即正常的钻井循环)，而本发明针对开路钻井，利用积神经网络处理钻井液返处形态的图像数据，针对开路钻井这一钻井方式，提供了新的井涌识别方法。
附图说明
图1为Inception模块和残差模块结合使用；
图2为修改后的部分网络结构；
图3为模型分类识别测试流程；
图4为模型分类识别测试结果。
具体实施方式
下面通过实施例并结合附图对本发明做进一步说明，但不限于此。
实施例1：
一种基于卷积神经网络的深水开路钻井井涌识别方法，包括如下步骤：
S1：首先将采集到的多口深水井11904张ROV拍摄视频图像进行预处理，即将所有图像数据像素修改在0-255范围内，调整图像分辨率大小为224×224×3，使其符合GoogLeNet模型的图像输入尺寸，然后将数据集按照8：2的比例分为训练集和验证集。
S2：在传统的机器学习中，通常假设训练数据和测试数据的分布是相同的，但在实际应用中，这个假设往往难以满足。而迁移学习可以通过利用相关任务的知识，来提高目标任务的学习效果。在迁移学习中，有两个主要的组成部分：源领域和目标领域。源领域是已经训练完成的任务，而目标领域是需要进行学习的新任务。迁移学习的核心思想就是将源领域的知识转移到目标领域，以提升目标任务的性能。其具体的实现过程可以通过以下方式进行：
1)、特征提取：源领域和目标领域可能具有相似的特征，因此可以从源领域中学习到一定的特征提取能力，应用在目标领域。本发明中，使用深度学习图像识别领域最大的数据集ImageNet，其中有超过一百万张图片和一千个类别，利用在ImageNet上进行预训练可以节省大量的计算资源和样本数量。
2)、模型调整：在预训练的基础上，冻结其部分层，保留预训练模型的特征提取能力，删除其原有的全连接层和输出层，添加新的全连接层(fc)和输出层(classoutput)，并修改其节点数(参见图2)。
迁移学习的关键在于选择合适的源领域和进行有效的知识迁移。选择与目标任务相似的源领域可以更好地适应目标领域的特征和需求。
S3：微调之后的GoogLeNet模型在S1所构建的数据集上进行训练时，采用了ReLU函数作为激活函数，
式中，x为输入，f(x)为输出；
由公式(2)可知，ReLU函数的值域在0到正无穷，发散的函数不利于网络收敛，所以使用ReLU作为激活函数时需要对结果进行归一化处理，这种归一化处理叫做局部响应归一化，如公式(4)，这种处理之后有助于快速收敛以及提高泛化能力。
式中，表示归一化的输出，/>表示激活函数在第i个卷积核的位置(x，y)的输出，N表示卷积核的总数量，n表示/>的邻居个数；k为常数参数，用于避免奇异点(分母为0的情况)，α为归一化常数，β为对比度常数，j＝max(0，i-n/2)是一计算值。
随机梯度下降法(SGD)作为其优化算法，通过计算每个参数的梯度来更新模型的参数，采用随机梯度下降法具有以下优点：1、高效性：随机梯度下降法每次迭代只使用小批量样本，因此在大规模数据集上更高效。2、更好的收敛性：由于随机梯度下降法在每次迭代中都会引入随机性，有助于跳出局部最优解，使得模型更容易收敛到全局最优解，公式如下：
L为损失函数，ω1，ω2，ωn，b1，b2，bm为损失函数中的参数ω，b的更新值，n，m代表更新次数。
参数更新：
式中，为参数ωi的第j次更新值，/>为参数bi的第j次更新值，α和β表示学习率。
公式(6)、(7)中α、β为0.0001，公式表示了通过梯度的反方向，用学习率乘以梯度的大小来更新参数。通过不断地迭代这个更新过程，可以逐渐降低损失函数的值，从而得到收敛性更好的参数模型。
在训练过程中，采用了分批次训练，需要对输入数据进行批次归一化处理，即防止局部数据造成梯度偏差过大，无法快速收敛。由于原始数据样本特征分布不明显，导致神经网络参数更新缓慢甚至参数更新错误，不收敛，因此在神经网络的数据向后传播时，将该批次的数据通过归一化进行预处理，使数据变为标准正态分布或者范围在0-1的分布，标准正态分布计算如下：
式中，μB为样本均值，σB为方差，m为当前批次输入的数据量，x(i)为输入的数据。
对数据进行批次归一化处理之后，输出如下：
式中，ξ是一个微小值，主要作用是防止分母为0。
在使用随机梯度下降法训练模型时，采用交叉熵损失函数作为其优化目标，交叉熵损失函数具有简单的梯度计算、适用于多分类问题等优点。交叉熵损失函数表达式如下：
式中，是真实样本标签(取值为0或1)，yi是模型预测结果(表示为0到1之间的概率值)，i为当前迭代次数，n为u总迭代次数。在模型进行训练的过程中，公式(11)作为随机梯度下降法的优化目标，其值在迭代过程中不断降低，直到公式(11)收敛或者达到特定的迭代停止条件。在这个过程中可以对模型各项参数变化进行监视，通过在计算窗口输出模型参数，包括学习率、回合数、准确率，损失值等，监视模型的训练过程，从而了解模型的训练效果)，训练完成后即可得到开路钻井井涌识别模型。
S4：利用现实中海洋开路钻井ROV所拍摄到的1173组钻井液返出形态图像数据组建测试集，对所构建的井涌识别模型进行测试，其流程如图3所示。在模型进行井涌识别时，将输入的钻井液返出形态图像进行卷积运算，在卷积层将所有的图像特征提取出来，然后在池化层保留其中的显著特征，简化计算，最后在全连接层将特征进行组合并和原有的组合进行比较(在模型全连接层内部进行，将卷积输出的二维特征图转化为一维向量，然后与标记好的向量进行对比，从而实现分类识别)，从而实现对输入图像的分类识别，得到准确的分类名称(小气量井涌、大气量井涌、未发生井涌)，并输出分类识别结果混淆矩阵(参见图4)，混淆矩阵中数字为输出类别在目标类别上的识别图像数量，数字下方百分比为所占总图像数量的百分比；左上到右下的对角线上是识别正确的图像数量和百分比，对角线右下角处的上方百分比为整体识别准确率(94.2％)，下方百分比为整体识别错误率(5.8％)；每一行最后一格上方是正确识别图像数量所占此类别总识别图像数量百分比，下方是错误识别图像数量占此类别总识别图像数量百分比；每一列最后一格上方是正确识别图像数量所占该类别实际图像数量百分比，下方是错误识别图像类别所占该类别原有图像数量百分比。分类识别结果整体准确率达到94.2％，模型分类识别用时为6.4秒，相对人工观察视频图像，识别准确度和时效性大大提高，为深水钻井井涌识别提供了技术支撑，保障了钻井作业的安全高效进行。
以上结合附图对本发明的实施做了详细说明，但是本发明并不限于上述说明，在本领域相关技术人员所掌握的知识范围内，还可以在不脱离本发明的宗旨下做出各种变化。

Claims (10)

1.一种基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，包括以下步骤：
S1：首先采集开路钻井过程中ROV在海底泥线所拍摄到的钻井液返出形态图像数据，对数据进行预处理，构建训练集；
S2：然后采用迁移学习的方法对在ImageNet数据集上预训练的GoogLeNet模型进行微调，删除其原有的全连接层和输出层，添加新的全连接层和输出层，并修改其节点数；
S3：将调整过后的GoogLeNet模型在S1所建立的训练集上进行重新训练学习，训练完成得到所构建的井涌识别模型；
S4：利用现实中海洋开路钻井ROV所拍摄到的钻井液返出形态图像数据组建测试集，对所构建的井涌识别模型进行测试，在模型进行井涌识别时，将输入的钻井液返出形态图像进行卷积运算，在卷积层将所有的图像特征提取出来，然后在池化层保留其中的显著特征，最后在全连接层将特征进行组合并和原有的组合进行比较，将卷积输出的二维特征图转化为一维向量，然后与标记好的向量进行对比，从而实现对输入图像的分类识别，得到准确的分类名称，分类名称包括小气量井涌、大气量井涌、未发生井涌，并输出分类识别结果混淆矩阵，得到分类识别结果。
2.根据权利要求1所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S1中将采集到的ROV拍摄视频图像进行预处理，将所有图像数据像素修改在0-255范围内，调整图像分辨率大小为224×224×3，然后将数据集按照8：2的比例分为训练集和验证集，在模型训练过程中，模型使用训练集中的图像数据每完成一次训练就会使用验证集中的图像数据完成一次验证。
3.根据权利要求1所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S2中，微调之前的GoogLeNet模型包括输入模块、输出模块和中间五个模块，其中输入模块是指图像处理层，输出模块是指一个平均池化层后紧跟一个全连接层最后是输出层三层组成；中间五个模块包括：第一模块是1个卷积层紧跟1个最大池化层，第二模块是2个卷积层，紧跟1个池化层，第三模块是inception 3a、inception3b层，其中inception3a包含四各分支：①64个1×1的卷积核，运算后紧跟RuLU操作，②96个1×1的卷积核运算后紧跟ReLU计算，再进行128个3×3的卷积，③16个1×1的卷积核运算后进行ReLU计算，再进行32个5×5的卷积，④最后是池化层后跟32个1×1的卷积；Inception3b也包含四各分支：①128个1×1的卷积核，然后紧跟RuLU，②128个1×1的卷积核，后紧跟RuLU，在进行192个3×3的卷积，③32个1×1的卷积核，进行ReLU，再进行96个5×5的卷积，④池化层后跟64个1×1的卷积；第四模块是inception 4a、inception 4b、inception 4c、inception 4d、inception4e层，其中inception4a包含四个分支：①192个1×1的卷积核，然后紧跟RuLU，②96个1×1的卷积核，后紧跟RuLU，再进行208个3×3的卷积，③16个1×1的卷积核，进行ReLU，再进行48个5×5的卷积，④池化层后跟64个1×1的卷积；inception4b包含四个分支：①160个1×1的卷积核，然后紧跟RuLU，②112个1×1的卷积核，后紧跟RuLU，再进行224个3×3的卷积，③24个1×1的卷积核，进行ReLU，再进行64个5×5的卷积，④池化层后跟64个1×1的卷积；inception4c包含四个分支：①128个1×1的卷积核，然后紧跟RuLU，②128个1×1的卷积核，后紧跟RuLU，再进行256个3×3的卷积，③24个1×1的卷积核，进行ReLU，再进行64个5×5的卷积，④池化层后跟64个1×1的卷积；inception4d包含四个分支：①112个1×1的卷积核，然后紧跟RuLU，②144个1×1的卷积核，后紧跟RuLU，再进行288个3×3的卷积，③32个1×1的卷积核，进行ReLU，再进行64个5×5的卷积，④池化层后跟64个1×1的卷积；inception4e包含四个分支：①256个1×1的卷积核，然后紧跟RuLU，②160个1×1的卷积核，后紧跟RuLU，再进行320个3×3的卷积，③32个1×1的卷积核，进行ReLU，再进行128个5×5的卷积，④池化层后跟128个1×1的卷积；第五模块是inception5a、inception5b层，其中inception5a包含四个分支：①256个1×1的卷积核，然后紧跟RuLU，②160个1×1的卷积核，后紧跟RuLU，再进行320个3×3的卷积，③32个1×1的卷积核，进行ReLU，再进行128个5×5的卷积，④池化层后跟128个1×1的卷积；inception5b包含四个分支：①384个1×1的卷积核，然后紧跟RuLU，②192个1×1的卷积核，后紧跟RuLU，再进行384个3×3的卷积，③48个1×1的卷积核，进行ReLU，再进行128个5×5的卷积，④池化层后跟128个1×1的卷积。
4.根据权利要求1所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S2中，其具体的实现过程如下：
1)、特征提取：使用深度学习图像识别领域最大的数据集ImageNet，在ImageNet上进行预训练，按照ImageNet的类别数量对1500万张图片进行分类识别，训练模型的图像特征提取能力；
2)、模型调整：在预训练的基础上，冻结第一、二、三、四、五模块中的层，保留预训练模型的特征提取能力，删除其原有的全连接层和输出层，添加新的全连接层和输出层，并修改其节点数，修改其节点数为3，全连接层公式如下：
f(x)＝ωx+b(1)
式中，f(x)为输出向量，ω是权重参数，x是上一层的输出，当上一层是卷积层时，需要对参数进行展平，b是偏置值。
5.根据权利要求1所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S3中，微调之后的GoogLeNet模型在S1所构建的数据集上进行训练时，采用随机梯度下降法作为其优化算法，通过计算每个参数的梯度来更新模型的参数，采用ReLU公式(2)作为激活函数，采用交叉熵损失函数作为其验证收敛条件；在模型进行井涌识别时，将输入的钻井液返出形态图像进行卷积运算，将图像特征提取出来，然后将特征进行组合并和原有的组合进行比较，从而实现对输入图像的分类识别；
式中，x为输入，f(x)为输出；
卷积运算公式如下：
式中，Ix,y为上一层的输入，x,y为参与运算的区域，为第k层的第l个卷积核，*表示卷积运算。
6.根据权利要求5所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S3中，步骤S3中，ReLU函数的值域在0到正无穷，使用ReLU作为激活函数时需要对结果进行归一化处理，这种归一化处理叫做局部响应归一化，如公式(4)，
式中，表示归一化的输出，/>表示激活函数在第i个卷积核的位置(x，y)的输出，N表示卷积核的总数量，n表示/>的邻居个数；k为常数参数，用于避免奇异点(分母为0的情况)，α为归一化常数，β为对比度常数，j＝max(0，i-n/2)是一计算值。
7.根据权利要求5所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S3中，随机梯度下降法作为其优化算法，通过计算每个参数的梯度来更新模型的参数，公式如下：
L为损失函数，ω1，ω2，ωn，b1，b2，bm为损失函数中的参数ω，b的更新值，n，m代表更新次数；
参数更新：
式中，为参数ωi的第j次更新值，/>为参数bi的第j次更新值，α和β表示学习率。
8.根据权利要求7所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，公式(6)、(7)中α、β为0.0001。
9.根据权利要求5所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S3中，在训练过程中，采用分批次训练，对输入数据进行批次归一化处理，在神经网络的数据向后传播时，将该批次的数据通过归一化进行预处理，使数据变为标准正态分布或者范围在0-1的分布，标准正态分布计算如下：
式中，μB为样本均值，σB为方差，m为当前批次输入的数据量，x(i)为输入的数据；
对数据进行批次归一化处理之后，输出如下：
式中，ξ是一个微小值，作用是防止分母为0。
10.根据权利要求5所述的基于卷积神经网络的深水开路钻井井涌识别方法，其特征在于，步骤S3中，在使用随机梯度下降法训练模型时，采用交叉熵损失函数作为其优化目标，交叉熵损失函数表达式如下：
式中，是真实样本标签，取值为0或1；yi是模型预测结果，表示为0到1之间的概率值，i为当前迭代次数，n为u总迭代次数；在模型进行训练的过程中，公式(11)作为随机梯度下降法的优化目标，其值在迭代过程中不断降低，直到公式(11)收敛或者达到特定的迭代停止条件，训练完成后即可得到开路钻井井涌识别模型。
CN202311273607.2A 2023-09-28 2023-09-28 一种基于卷积神经网络的深水开路钻井井涌识别方法 Pending CN117372753A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311273607.2A CN117372753A (zh) 2023-09-28 2023-09-28 一种基于卷积神经网络的深水开路钻井井涌识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311273607.2A CN117372753A (zh) 2023-09-28 2023-09-28 一种基于卷积神经网络的深水开路钻井井涌识别方法

Publications (1)

Publication Number Publication Date
CN117372753A true CN117372753A (zh) 2024-01-09

Family

ID=89388358

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311273607.2A Pending CN117372753A (zh) 2023-09-28 2023-09-28 一种基于卷积神经网络的深水开路钻井井涌识别方法

Country Status (1)

Country Link
CN (1) CN117372753A (zh)

Similar Documents

Publication Publication Date Title
CN115618296B (zh) 一种基于图注意力网络的大坝监测时序数据异常检测方法
CN110728654A (zh) 一种基于深度残差神经网络的管道自动检测和分类方法
CN111523713A (zh) 一种预测油田中剩余油饱和度分布的方法和装置
CN113591553B (zh) 一种基于小样本权值优化的涡轮泵迁移学习故障智能判定方法
CN112560948B (zh) 数据偏差下的眼底图分类方法及成像方法
CN112558185A (zh) 基于注意力机制的双向gru台风轨迹智能预测预报系统、计算机设备、存储介质
CN114519311A (zh) 全港池波浪有效波高的预测方法、系统、存储介质、应用
CN112149612A (zh) 一种基于深度神经网络的海洋生物识别系统及识别方法
CN116842379A (zh) 一种基于DRSN-CS和BiGRU+MLP模型的机械轴承剩余使用寿命预测方法
Li et al. Structural health monitoring data anomaly detection by transformer enhanced densely connected neural networks
CN112785479B (zh) 一种基于少样本学习的图像隐形水印通用检测方法
CN117521512A (zh) 一种基于多尺度贝叶斯卷积Transformer模型的轴承剩余使用寿命预测方法
CN117372854A (zh) 一种大坝深水结构隐患病害实时检测方法
CN116680639A (zh) 一种基于深度学习的深海潜水器传感器数据的异常检测方法
CN117093922A (zh) 一种基于改进svm的不平衡样本油藏复杂流体识别方法
CN116739100A (zh) 量子神经网络的漏洞检测方法及自动驾驶漏洞检测方法
CN116842358A (zh) 一种基于多尺度卷积和自适应特征融合的软测量建模方法
CN117372753A (zh) 一种基于卷积神经网络的深水开路钻井井涌识别方法
CN116383747A (zh) 基于多时间尺度深度卷积生成对抗网络的异常检测方法
CN110705631A (zh) 一种基于svm的散货船舶设备状态检测方法
CN115641495A (zh) 一种基于卷积神经网络的异常抽油机井检测方法
Ribeiro Machado da Silva et al. Convolutional Neural Networks Applied to Flexible Pipes for Fatigue Calculations
CN116934603A (zh) 测井曲线缺失段补全方法、装置、存储介质及电子设备
CN112560252B (zh) 一种航空发动机剩余寿命预测方法
CN108710920B (zh) 示功图识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination