CN115908967A - 基于循环生成对抗网络的石化装置管道数据样本均衡方法 - Google Patents
基于循环生成对抗网络的石化装置管道数据样本均衡方法 Download PDFInfo
- Publication number
- CN115908967A CN115908967A CN202211270777.0A CN202211270777A CN115908967A CN 115908967 A CN115908967 A CN 115908967A CN 202211270777 A CN202211270777 A CN 202211270777A CN 115908967 A CN115908967 A CN 115908967A
- Authority
- CN
- China
- Prior art keywords
- image
- network
- pipeline
- wall
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 68
- 125000004122 cyclic group Chemical group 0.000 title description 3
- 230000006378 damage Effects 0.000 claims abstract description 60
- 238000005286 illumination Methods 0.000 claims abstract description 54
- 230000007547 defect Effects 0.000 claims abstract description 38
- 238000001514 detection method Methods 0.000 claims abstract description 25
- 238000011084 recovery Methods 0.000 claims abstract description 18
- 238000012937 correction Methods 0.000 claims abstract description 10
- 210000001525 retina Anatomy 0.000 claims abstract description 9
- 239000013598 vector Substances 0.000 claims description 45
- 230000006870 function Effects 0.000 claims description 39
- 238000012549 training Methods 0.000 claims description 29
- 239000011159 matrix material Substances 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 13
- 230000001965 increasing effect Effects 0.000 claims description 12
- 238000010586 diagram Methods 0.000 claims description 10
- 238000006073 displacement reaction Methods 0.000 claims description 9
- 230000009194 climbing Effects 0.000 claims description 8
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 230000002708 enhancing effect Effects 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 3
- 230000003042 antagnostic effect Effects 0.000 claims description 3
- 239000003086 colorant Substances 0.000 claims description 3
- 238000011161 development Methods 0.000 claims description 3
- 230000018109 developmental process Effects 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 230000001771 impaired effect Effects 0.000 claims description 3
- 230000000877 morphologic effect Effects 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 230000008859 change Effects 0.000 claims description 2
- 230000001427 coherent effect Effects 0.000 abstract description 2
- 230000000694 effects Effects 0.000 description 14
- 238000012545 processing Methods 0.000 description 10
- 230000007797 corrosion Effects 0.000 description 6
- 238000005260 corrosion Methods 0.000 description 6
- 230000003902 lesion Effects 0.000 description 6
- 230000035515 penetration Effects 0.000 description 5
- 230000004927 fusion Effects 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 238000012216 screening Methods 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000008021 deposition Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000003647 oxidation Effects 0.000 description 2
- 238000007254 oxidation reaction Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000013256 Gubra-Amylin NASH model Methods 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000003197 catalytic effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000006735 deficit Effects 0.000 description 1
- 238000004821 distillation Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000002407 reforming Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Image Processing (AREA)
Abstract
一种基于循环生成对抗网络的石化装置管道数据样本均衡方法,包括:对管道内检测机器人拍摄的管道内壁视频图像进行图像展开;对管道内检测机器人拍摄的管道内壁视频图像采用Retinex算法衍生的带色彩恢复的多尺度视网膜增强算法对光照不均匀图像进行光照校正;对管道内检测机器人拍摄的管道内壁视频图像进行图像拼接;基于Cycle‑GAN网络在拼接的管道内壁图像的基础上随机生成损伤区域伪样本,扩充损伤样本图像集。本发明使得检测人员可以获得完整连贯、平铺的管道内壁图像,并且提高各类样本数量、均衡不同类别缺陷的数量,建立无畸变、样本数量均衡充足的管道内壁图像数据集。
Description
技术领域
本发明涉及一种石化装置管道数据样本均衡方法。特别是涉及一种基于循环生成对抗网络的石化装置管道数据样本均衡方法。
背景技术
目前的管道数据处理方式大多是在原始拍摄数据的基础上采用图像增强等方法对图像质量进行改善。此类方法无法处理因拍摄视角等原因带来的图像畸变问题。对于样本增强策略,现有数据增强策略大多在原图像基础上进行裁剪、旋转、缩放等操作,仅增加了样本数量,未增加样本多样性。
当数据的拍摄相机是从管口向内进行拍摄,拍摄的管道内壁图像会发生一定程度上的畸变。同时,管道深处的缺陷因尺度过小,难以检测。由于样本数量有限且存在严重的类别数量不均匀现象,为建立一个充足、平衡的数据集,需采用数据增强方法。现有数据增强策略大多在原图像基础上进行裁剪、旋转、缩放等操作,仅增加了样本数量,未增加样本多样性。
发明内容
本发明所要解决的技术问题是,为克服现有技术的不足,提供一种即保证了新生成样本的真实性,又能达到均衡样本数量目的的基于循环生成对抗网络的石化装置管道数据样本均衡方法。
本发明所采用的技术方案是:一种基于循环生成对抗网络的石化装置管道数据样本均衡方法,包括如下步骤:
1)对管道内检测机器人拍摄的管道内壁视频图像进行图像展开;
2)对管道内检测机器人拍摄的管道内壁视频图像采用Retinex算法衍生的带色彩恢复的多尺度视网膜增强算法对光照不均匀图像进行光照校正;
3)对管道内检测机器人拍摄的管道内壁视频图像进行图像拼接;
4)基于Cycle-GAN网络在拼接的管道内壁图像的基础上随机生成损伤区域伪样本,扩充损伤样本图像集。
步骤1)包括:
使用阈值分割法对管道内壁、中心和四角进行划分,通过形态学方法去除部分噪声;通过霍夫变化方法对分割后环形图像U,以图像中心点O为原点,建立像素坐标系uOv,以管道实际中心坐标O1(u0,v0)为中心,向右为0°,逆时针对管道内壁图像进行展开,得到对应的矩形图像,以矩形左下角A为原点建立坐标系xAy;设管道内壁上任意一点C,在展开图像中坐标为C(x,y),对应原图像素坐标为C'(u,v),建立函数关系:f:C'(u,v)∈U→C(x,y)∈S,其中,U表示分割后环形图像;S表示U展开的矩形图像;并设定图像中对应管道的圆环半径为其中l为每帧图像的长度。
步骤2)包括:
管道内检测机器人拍摄的管道内壁视频图像进行图像展开后的图像S是光照图像B乘以反射图像R构成,关系式如下:
S(x,y)=B(x,y)·R(x,y) (1)
其中,S(x,y)为S的二维平面表示,L(x,y)为光照图像B的二维平面表示,R(x,y)反射图像R的二维平面表示;
使用带色彩恢复的多尺度视网膜增强算法从原始图像中计算出光照图像B,从而提取反射图像R,去除其中的光照度不一致的现象达到增强图像的目的。
所述的使用带色彩恢复的多尺度视网膜增强算法从原始图像中计算出光照图像B,从而提取反射图像R,去除其中的光照度不一致的现象达到增强图像的目的,具体如下:
(1)读取经过环形展开后的矩形图像S(x,y),并将矩形图像S(x,y)按像素点进行对数转换,转换后的对数域用下式表示。
logS(x,y)i=logB(x,y)i·R(x,y)i (2)
其中,S(x,y)i展开后的矩形图像S的第i个色彩通道,L(x,y)i是展开后的矩形图像S的第i个色彩通道中的光照图像,R(x,y)i是展开后的图像S的第i个色彩通道中的反射图像;
(2)选取高斯环绕尺度ck的值,k为第k个尺度数;并使用中心环绕函数P(x,y)求出第i个色彩通道中高斯环绕尺度ck所对应的归一化常数λk的值,提取光照不均匀图像的光照分量;其中的第i个色彩通道中心环绕函数P(x,y)i表示为:
ck和λk的取值满足:
∫∫P(x,y)idxdy=1 (4);
(3)求解每个色彩通道的多尺度输出图像
对矩形图像S(x,y)通过下式进行多尺度提取光照分量:
加入色彩恢复因子C来调节由于图像局部区域对比度增强而导致颜色失真的缺陷:
其中,r(x,y)MSRCR是增加了色彩恢复因子的多尺度输出图像;Si(x,y)表示展开图中第i个颜色通道的图像;Sj(x,y)表示展开图中第j个颜色通道的图像;Ci(x,y)表示第i个颜色通道的彩色回复因子,用来调节通道的3个颜色的比例;b是增益常数;a是受控制的非线性强度。
It(x,y)=er(x,y)MSRCR (8)。
步骤3)中所述的对管道内检测机器人拍摄的管道内壁视频图像进行图像拼接,是:
设t时刻分割后环形图像U展开图并经过光照校正后的图像为It(x,y),t+1时刻分割后环形图像U展开图并经过光照校正后的图像为It+1(x,y);对It(x,y)和It+1(x,y)两帧图像进行拼接,首先采用尺度不变特征变换匹配算法对该两帧图像进行特征匹配;具体包括:
(1)提取关键点:搜索所有尺度空间上的图像位置,通过高斯微分函数来识别潜在的具有尺度和旋转不变的兴趣点;
(2)定位关键点并确定关键点的特征向量,具体是在每个兴趣点的位置上,通过尺度不变特征变换匹配算法中的子像素插值拟合模型来确定构成特征向量的方向和尺度;然后将从经过展开图It和展开图It+1中提取的特征向量分别构成对应的特征向量集χt和χt+1:χt={α1,…,αh}和χt+1={β1,…,βs},其中,αh为展开图It的特征向量,βs为展开图It+1的特征向量;
(3)将特征向量集χt中的特征向量与特征向量集χt+1中的特征向量进行两两比较,通过两两比较关键点的特征向量,通过寻找每个αi与βi之间最小的特征向量间空间距离,得到相互匹配的若干对特征向量对,并建立图像间的对应关系;然后采用随机抽样一致算法(RANSAC)消除错误匹配的特征向量对,获得正确和特征向量匹配点对后,计算两帧图像间的单应性矩阵H:
其中,为旋转矩阵,MT=[Tx Ty]T为位移矩阵,MW=[Wa Wb]为形变矩阵;Ra、Rb、Rc、Rd为仿射变形参数,分别为cos(θ)、-sin(θ)、sin(θ)、cos(θ),θ为旋转角度;Tx为展开图中机器人行进步长在x方向的分量,Ty为展开图中机器人行进步长在y方向的分量,Wa、Wb为缩放系数。
由于爬管机器人在管道内稳定直线前进,现将求解单应性矩阵H简化为求解相邻两帧图像间位移矩阵MT=[Tx Ty]T,获得位移矩阵MT后,将相邻两帧图像进行拼接;通过不断拼接新增的t+n时刻展开图It+n,完成对整体管道内壁图像的拼接,得到一组由无损伤的管道内壁图像和有损伤的管道内壁图像组成的管道内壁图像集{It+n}。
步骤4)中所述的基于Cycle-GAN网络在拼接的管道内壁图像的基础上随机生成损伤区域伪样本,扩充样本数据集,包括:
(1)将拼接后的管道内壁图像集{It+n}中有损伤的管道内壁图像划分为图像集{Qz,z∈(1,t+n)},其中Qz为有损伤的图像集中第z张图片;
(4)建立基于Cycle-Gan网络的管道缺陷样本均衡网络,包含有四个分支网络:第一分支网络为生成网络,命名为G网络:G网络用于将的图像转化为与图像相同的图像第二分支网络为生成网络,命名为F网络:F网络用于将的图像转化为的图像;第三分支网络为对抗网络,命名为Dx网络,用于鉴别图像是不是图像;第四分支网络为对抗网络,命名为Dy网络,用于鉴别图像是不是图像;G网络和F网络都是生成网络,网络结构相同,都是由依次串联的5个卷积核、依次串联的3个反卷积核和1个残差网络构成,其中,卷积核中第3个卷积核和第5个卷积核的输出共同连接到残差网络的输入端,残差网络的输出连接反卷积核,反卷积核的输出为G网络或F网络的输出;Dx网络和Dy网络都是对抗性网络,网络结构相同,都是由5个卷积核依次串联构成;
(5)定义管道缺陷样本均衡网络损失函数:
其中,L为最终损失函数;为F网络的损失函数,指的是G网络的损失函数;Ey表示从到过程的对数期望,Ex表示从到过程的对数期望;为循环一致损失函数,要求F网络和G网络两个生成网络满足即两个过程能够实现互逆,一张图像经过两次迭代运算后能够回到原图;ρ为循环一致性损失的缩放系数;
(6)对管道缺陷样本均衡网络进行优化训练。
将无损伤图像集和有损伤图像集输入到管道缺陷样本均衡网络中,设置管道缺陷样本均衡网络的网络参数和学习率,对管道缺陷样本均衡网络中的G网络、F网络和Dx网络、Dy网络交替进行训练,训练G网络时,Dx网络,Dy网络参数被固定,只有G网络、F网络的参数可调,因此调整G网络的参数,通过最终损失函数L使得Dy网络对产生的图片的打分为0.9,调整F网络的参数,通过最终损失函数L使得Dx网络对产生的图片的打分为0.9;训练Dx网络和Dy网络时,G网络和F网络参数被固定,只有Dx网络和Dy网络的参数可调,训练Dx网络时,G网络、F网络、Dy网络参数都被固定,通过最终损失函数L使的Dx网络的输出与0.9相比较,越接近0.9,则损失越小;训练Dy网络网络时,G网络、F网络、Dx网络参数都被固定,通过最终损失函数L使Dy网络的输出与0.9相比较,越接近0.9,则损失越小;
训练好的G网络、F网络分别用G*、F*表示;
完成训练后,在管道内壁图像集{It+n}上随机选取无损伤区域,使用训练好的管道缺陷样本均衡网络,生成对应的损伤区域,扩充损伤样本图像集,增加样本多样性,扩充后的损伤样本图像集用于训练检测管道缺陷的相关模型。
本发明的基于循环生成对抗网络的石化装置管道数据样本均衡方法,本发明先将视频数据抽帧,并对每一帧的管道图像进行展开,对连续的展开图像进行拼接,以获取连贯、平铺的管道内壁图像,便于后续使用检测模型进行缺陷检测。本发明采用基于Cycle-GAN的样本均衡策略,在原有图像的基础上,局部生成缺陷,即保证了新生成样本的真实性,又能达到均衡样本数量的目的。使得检测人员可以获得完整连贯、平铺的管道内壁图像,并且提高各类样本数量、均衡不同类别缺陷的数量,建立无畸变、样本数量均衡充足的管道内壁图像数据集。
附图说明
图1是本发明的基于循环生成对抗网络的石化装置管道数据样本均衡方法的流程图;
图2是本发明中所述的环形展开效果图;
图3是Retinex理论中图像的构成图;
图4是本发明实例中损伤情况展示图;
图5是本发明实例中管道内壁图像实际展开效果图;
图6是本发明实例中几种图像增强方法效果对比效果图;
图7是本发明实例中管道内壁图像拼接效果图;
图8是Cycle-GAN网络原理图;
图9是本发明实例中原始管道内损伤局部图像;
图10是本发明实例中原始管道内无损伤图像及其经过本发明的网络生成对应三种损伤的结果图;
图11是本发明实例中原始管道内原数据集及生成损伤区域融合后的新数据集效果图。
图12是本发明实例中扩充前后样本数量对比图。
具体实施方式
下面结合实施例和附图对本发明的基于循环生成对抗网络的石化装置管道数据样本均衡方法做出详细说明。
如图1所示,本发明的基于循环生成对抗网络的石化装置管道数据样本均衡方法,主要包括:
1)对管道内检测机器人拍摄的管道内壁视频图像进行图像展开;包括:
为准确划分管道内壁损伤区域、还原管道内壁图像扭曲问题,对拍摄的环形管道内壁图像进行展开。
由于管道数据在拍摄时主要依靠自身光源进行照明,管道内壁图像具有四角黑、中心较暗、内壁明亮的特点。使用阈值分割法对管道内壁、中心和四角进行划分,通过形态学方法去除部分噪声;通过霍夫变化方法对分割后环形图像U,以图像中心点O为原点,建立像素坐标系uOv,如图2左侧所示。以管道实际中心坐标O1(u0,v0)为中心,向右为0°,逆时针对管道内壁图像进行展开,得到对应的矩形图像,如图2右侧所示,以矩形左下角A为原点建立坐标系xAy;设管道内壁上任意一点C,在展开图像中坐标为C(x,y),对应原图像素坐标为C'(u,v),建立函数关系:f:C'(u,v)∈U→C(x,y)∈S,其中,U表示分割后环形图像;S表示U展开的矩形图像;并设定图像中对应管道的圆环半径为其中l为每帧图像的长度。
2)对管道内检测机器人拍摄的管道内壁视频图像采用Retinex算法衍生的带色彩恢复的多尺度视网膜增强算法对光照不均匀图像进行光照校正;包括:
在使用爬管机器人在石化装置管道内部进行拍摄时,由于管道内部无照明设施、光线较为昏暗,故依赖爬管机器人自带的辅助照明装置进行照明,因此会导致拍摄的管道内壁图像出现光照不均匀甚至部分区域反光严重的问题。为降低光照不均匀问题对管道内壁图像拼接及损伤检测效果的影响,首先需要对图像进行图像增强处理。基于上述问题,本发明主要采用Retinex算法衍生的MSRCP算法对光照不均匀图像进行处理。
Retinex是Edwin.H.Land于1963年提出的一种常用的建立在科学实验和科学分析基础上的图像增强方法。Retinex理论的基础理论是物体的颜色是由物体对长波(红色)、中波(绿色)、短波(蓝色)光线的反射能力来决定的,而不是由反射光强度的绝对值来决定的,物体的色彩不受光照非均匀性的影响,具有一致性。
管道内检测机器人拍摄的管道内壁视频图像进行图像展开后的图像S是光照图像B乘以反射图像R构成,关系式如下:
S(x,y)=B(x,y)·R(x,y) (1)
其中,S(x,y)为S的二维平面表示,L(x,y)为光照图像B的二维平面表示,R(x,y)反射图像R的二维平面表示;
使用带色彩恢复的多尺度视网膜增强算法从原始图像中计算出光照图像B,从而提取反射图像R,去除其中的光照度不一致的现象达到增强图像的目的,具体如下:
(1)读取经过环形展开后的矩形图像S(x,y),并将矩形图像S(x,y)按像素点进行对数转换,转换后的对数域用下式表示。
logS(x,y)i=logB(x,y)i·R(x,y)i (2)
其中,S(x,y)i展开后的矩形图像S的第i个色彩通道,L(x,y)i是展开后的矩形图像S的第i个色彩通道中的光照图像,R(x,y)i是展开后的图像S的第i个色彩通道中的反射图像;
(2)选取高斯环绕尺度ck的值,k为第k个尺度数;并使用中心环绕函数P(x,y)求出第i个色彩通道中高斯环绕尺度ck所对应的归一化常数λk的值,提取光照不均匀图像的光照分量;其中的第i个色彩通道中心环绕函数P(x,y)i表示为:
ck和λk的取值满足:
∫∫P(x,y)idxdy=1 (4);
(3)求解每个色彩通道的多尺度输出图像
对矩形图像S(x,y)通过下式进行多尺度提取光照分量:
在增强过程中,图像可能会因为增加了噪声,而使得图像的局部细节色彩失真,不能显现出物体的真正颜色,整体视觉效果变差。针对这一点不足,加入色彩恢复因子C来调节由于图像局部区域对比度增强而导致颜色失真的缺陷:
其中,r(x,y)MSRCR是增加了色彩恢复因子的多尺度输出图像;Si(x,y)表示展开图中第i个颜色通道的图像;Sj(x,y)表示展开图中第j个颜色通道的图像;Ci(x,y)表示第i个颜色通道的彩色回复因子,用来调节通道的3个颜色的比例;b是增益常数;a是受控制的非线性强度。
It(x,y)=er(x,y)MSRCR (8)。
本发明待处理图像的HUE较为合理,使用经典的MSRCR算法处理后出现了偏色问题,故采用MSRCP算法对图像的Intensity数据进行Retinex处理,然后再把数据根据原始的RGB的比例映射到每个通道,在保留原始颜色分布的基础上增强图像。
3)对管道内检测机器人拍摄的管道内壁视频图像进行图像拼接;
本发明所采用的数据类型为视频图像,视频图像具有上下文信息连贯的特点,同时相邻帧之间相似度较高。为充分利用视频图像中的时间信息,同时防止对相似数据进行反复检测,本发明将管道内壁图像展开后进行拼接,获得连贯、完整的管道内壁图像和损伤区域,再对拼接后的管道内壁图像进行检测。
设t时刻分割后环形图像U展开图并经过光照校正后的图像为It(x,y),t+1时刻分割后环形图像U展开图并经过光照校正后的图像为It+1(x,y);对It(x,y)和It+1(x,y)两帧图像进行拼接,首先采用尺度不变特征变换匹配算法(Scale-invariant featuretransform,SIFT)对该两帧图像进行特征匹配;具体包括:
(1)提取关键点:搜索所有尺度空间上的图像位置,通过高斯微分函数来识别潜在的具有尺度和旋转不变的兴趣点;
(2)定位关键点并确定关键点的特征向量,具体是在每个兴趣点的位置上,通过尺度不变特征变换匹配算法中的子像素插值拟合模型来确定构成特征向量的方向和尺度;然后将从经过展开图It和展开图It+1中提取的特征向量分别构成对应的特征向量集χt和χt+1:χt={α1,…,αh}和χt+1={β1,…,βs},其中,αh为展开图It的特征向量,βs为展开图It+1的特征向量;
(3)将特征向量集χt中的特征向量与特征向量集χt+1中的特征向量进行两两比较,通过两两比较关键点的特征向量,通过寻找每个αi与βi之间最小的特征向量间空间距离,得到相互匹配的若干对特征向量对,并建立图像间的对应关系;然后采用随机抽样一致算法(RANSAC)消除错误匹配的特征向量对,获得正确和特征向量匹配点对后,计算两帧图像间的单应性矩阵H:
其中,为旋转矩阵,MT=[Tx Ty]T为位移矩阵,MW=[Wa Wb]为形变矩阵;Ra、Rb、Rc、Rd为仿射变形参数,分别为cos(θ)、-sin(θ)、sin(θ)、cos(θ),θ为旋转角度;Tx为展开图中机器人行进步长在x方向的分量,Ty为展开图中机器人行进步长在y方向的分量;Wa、Wb分别为缩放系数。
由于爬管机器人在管道内稳定直线前进,现将求解单应性矩阵H简化为求解相邻两帧图像间位移矩阵MT=[TxTy]T,获得位移矩阵MT后,将相邻两帧图像进行拼接;通过不断拼接新增的t+n时刻展开图It+n,完成对整体管道内壁图像的拼接,得到一组由无损伤的管道内壁图像和有损伤的管道内壁图像组成的管道内壁图像集{It+n}。
4)使用Cycle-GAN网络在拼接的管道内壁图像的基础上随机生成损伤区域伪样本,扩充损伤样本图像集;包括:
本发明由于工业现场采集的真实数据集普遍存在少样本现象,且不同损伤样本存在类间数量不均衡的问题,故使用Cycle-GAN网络在原始数据的基础上随机生成损伤区域伪样本,扩充训练数据集。
(1)将拼接后的管道内壁图像集{It=n}中有损伤的管道内壁图像划分为图像集{Qz,z∈(1,t+n)},其中Qz为有损伤的图像集中第z张图片;
(4)建立基于Cycle-Gan网络的管道缺陷样本均衡网络,包含有四个分支网络:第一分支网络为生成网络,命名为G网络:G网络用于将的图像转化为与图像相同的图像第二分支网络为生成网络,命名为F网络:F网络用于将的图像转化为的图像;第三分支网络为对抗网络,命名为Dx网络,用于鉴别图像是不是图像;第四分支网络为对抗网络,命名为Dy网络,用于鉴别图像是不是图像;G网络和F网络都是生成网络,网络结构相同,都是由依次串联的5个卷积核、依次串联的3个反卷积核和1个残差网络构成,其中,卷积核中第3个卷积核和第5个卷积核的输出共同连接到残差网络的输入端,残差网络的输出连接反卷积核,反卷积核的输出为G网络或F网络的输出;Dx网络和Dy网络都是对抗性网络,网络结构相同,都是由5个卷积核依次串联构成;
(5)定义管道缺陷样本均衡网络损失函数:
其中,L为最终损失函数;为F网络的损失函数,指的是G网络的损失函数;Ey表示从到过程的对数期望,Ex表示从到过程的对数期望;为循环一致损失函数,要求F网络和G网络两个生成网络满足即两个过程能够实现互逆,一张图像经过两次迭代运算后能够回到原图;ρ为循环一致性损失的缩放系数;
(6)对管道缺陷样本均衡网络进行优化训练。
将无损伤图像集和有损伤图像集输入到管道缺陷样本均衡网络中,设置管道缺陷样本均衡网络的网络参数和学习率,对管道缺陷样本均衡网络中的G网络、F网络和Dx网络、Dy网络交替进行训练,训练G网络时,Dx网络,Dy网络参数被固定,只有G网络、F网络的参数可调,因此调整G网络的参数,通过最终损失函数L使得Dy网络对产生的图片的打分为0.9,调整F网络的参数,通过最终损失函数L使得Dx网络对产生的图片的打分为0.9;训练Dx网络和Dy网络时,G网络和F网络参数被固定,只有Dx网络和Dy网络的参数可调,训练Dx网络时,G网络、F网络、Dy网络参数都被固定,通过最终损失函数L使的Dx网络的输出与0.9相比较,越接近0.9,则损失越小;训练Dy网络网络时,G网络、F网络、Dx网络参数都被固定,通过最终损失函数L使Dy网络的输出与0.9相比较,越接近0.9,则损失越小;
训练好的G网络、F网络分别用G*、F*表示;
完成训练后,在管道内壁图像集{It+n}上随机选取无损伤区域,使用训练好的管道缺陷样本均衡网络,生成对应的损伤区域,扩充损伤样本图像集,增加样本多样性,扩充后的损伤样本图像集用于训练检测管道缺陷的相关模型。
下面给出实例:
使用爬管机器人在待检修的石化装置管道内部沿轴向前进,爬管机器人上搭载照明光源及摄像装备,行进速度为3米/分钟。目前机器人最大行进速度下,每小时可进行视频录制180米,录制视频帧率为15fps,每帧图像的分辨率为2888×2888像素。根据专业管道检修人员给出的检测报告,对管道内壁损伤区域和种类进行划分。本实验使用的管道视频数据中,主要存在以下几类表面损伤:
1.腐蚀:金属表面在腐蚀介质中形成小孔的一种局部的腐蚀形态,严重可使管道穿孔破坏。
2.氧化层脱落:管道在高温受热情况下易发生氧化层脱落,严重时可引发爆管事故。
3.沉积问题:检查过程中发现的管道堵塞、异物沉积等问题。
4.异物穿入:管道内部因固有结构或损伤造成的物体穿入问题,需及时识别并停止机器人继续前进。
各损伤类别示例如图4所示。
本发明实例中原始视频数据共有21段实际拍摄的管道检修视频,管道种类包括排水管、蒸馏装置管道、催化分馏塔管道、重整集合管道多种管道类型,累计时长约1170分钟。每间隔15帧(即视频间隔1秒)取1帧,经过筛选,共截取约35000张图片进行展开、平衡光照处理,并对处理后的图像进行拼接。拼接后得到706张图像作为初始数据集,其中有腐蚀1015处、氧化层脱落603处、堆积448处、穿入55处。
预处理结果
每间隔15帧(即视频间隔1秒)取1帧,对图像进行展开、平衡光照处理,并对处理后的图像进行拼接。
如图5为t时刻的视频帧Ut,对其进行环形展开,得到管道内壁展开图It。考虑到环形图像Ut中最外侧和最靠近中心处的变形情况最为严重,故选取环形区域中间0.8r宽度的区域进行展开,展开效果如图5所示。
对展开后的图像It进行平衡光照处理,本实例采用几种基于Retinex方法衍生的图像增强方法:MSRCR、MSRCP、auto-MSRCR对管道内壁图像进行处理,几种算法处理结果对比如图6所示。
由于本实例中采用的图像增强算法以平衡光照影响为重点,主要是面向后续的管道内壁图像拼接任务,故处理重点在于图像整体的亮度是否在同一水平,使得后续图像拼接的接缝处过渡的更加自然。
由上述几种方法处理的效果图可以看出,MSRCR方法处理的图像虽然光照较为平均,但损失了较多的颜色信息;Auto-MARCR方法处理的图像保留了较好的颜色、纹理信息,但图像上下区域的亮度差距过大,不适宜在此基础上开展图像拼接工作;MSRCP方法在处理图像细节和亮度平均方面都有较好的表现,故本发明采用MSRCP算法对管道内壁图像进行去除光照不平均处理,处理后的图像将应用于管道内壁拼接工作。
对连续的It,It+1…,It+n帧进行拼接,拼接效果如图7所示。(a)为未经过图像增强处理的拼接效果,接缝处有较为明显的亮度差异,故整体拼接效果呈现出条纹状噪声干扰;(b)为经过图像增强处理后的图像拼接效果,接缝处过渡自然,无明显拼接痕迹,由此可见,图像增强算法对光照进行了较好的均衡效果。
基于Cycle-GAN的样本均衡策略
由于拍摄的管道数据数量有限,直接用于训练损伤检测网络会出现过拟合现象,故采用基于Cycle-GAN网络的管道缺陷样本均衡网络在原有数据集的基础上生成新的损伤区域,扩充数据集,增加样本多样性。在完整展开的管道图像上存在多块不同类型的损伤区域。如果直接使用全图对基于Cycle-GAN网络的管道缺陷样本均衡网络进行训练将无法得到清晰的小块区域用于后续任务,并且也不符合实际管道情况。因此,我们将原数据集的无损伤区域以及不同类别损伤区域分别进行了切割。
原数据集主要包含四类主要损伤:腐蚀、氧化层脱落、堆积和穿入,其中穿入损伤的数量较少,无法满足基于Cycle-GAN网络的管道缺陷样本均衡网络对训练数据数量的要求,无法获得有效的生成结果。因此,在已有穿入损伤的图像上,随机选择无损伤区域生成其他类型的损伤,以此达到扩充样本数量的目的。
在原数据集上切割得到的三种局部损伤图像如图9所示。
将原数据集的无损伤、腐蚀、氧化层脱落和堆积部分切割出来,分别训练由无损伤区域生成三种损伤图像的基于Cycle-GAN网络的管道缺陷样本均衡网络。经过裁切、筛选,共有无损伤图像1126张,腐蚀图像245张,氧化层脱落图像735张,堆积图像169张。将上述图像统一大小为256*256像素,设置cycle-GAN网络的网络参数为batchsize=1,学习率lr=0.0002,decayepoch=9。
原数据集裁剪得到的无损伤正常区域图像及其在Cycle-GAN作用下生成的三种不同损伤情况如图10所示。可以看出生成的损伤区域都比较接近真实情况,可以作为训练损伤检测模型的样本。
生成损伤图像后,为使新的损伤图像与原有背景更好的融合,采用如下的融合策略:
设融合区域N中某点坐标为(x,y),融合区域尺寸为w×h,我们希望损伤图像D从中心部分向边缘部分过渡,原图像I从边缘向中心过渡。
N(x,y)=γ·D(x,y)+(1-γ)·I(x,y)
原始图像与生成局部图像融合结果如图11所示。
本实例使用基于Cycle-GAN网络的管道缺陷样本均衡网络在原有数据集的基础上生成新的损伤区域,扩充数据集,各类别损伤图像新旧样本分布比例如图12所示,经过筛选,共生成3200张图片作为损伤检测的数据集,其中腐蚀3565处,氧化层脱落2797处,堆积3627处,穿入3124处。各类样本数量相近,总样本数充足,可以满足后续对检测模型的训练要求。扩充后的数据集共有3906张图片,相较于初始数据集扩充了约5.5倍。扩充后的数据集将用于训练管道缺陷检测的模型。
Claims (6)
1.一种基于循环生成对抗网络的石化装置管道数据样本均衡方法,其特征在于,包括如下步骤:
1)对管道内检测机器人拍摄的管道内壁视频图像进行图像展开;
2)对管道内检测机器人拍摄的管道内壁视频图像采用Retinex算法衍生的带色彩恢复的多尺度视网膜增强算法对光照不均匀图像进行光照校正;
3)对管道内检测机器人拍摄的管道内壁视频图像进行图像拼接;
4)基于Cycle-GAN网络在拼接的管道内壁图像的基础上随机生成损伤区域伪样本,扩充损伤样本图像集。
2.根据权利要求1所述的基于循环生成对抗网络的石化装置管道数据样本均衡方法,其特征在于,步骤1)包括:
3.根据权利要求1所述的基于循环生成对抗网络的石化装置管道数据样本均衡方法,其特征在于,步骤2)包括:
管道内检测机器人拍摄的管道内壁视频图像进行图像展开后的图像S是光照图像B乘以反射图像R构成,关系式如下:
S(x,y)=B(x,y)·R(x,y) (1)
其中,S(x,y)为S的二维平面表示,L(x,y)为光照图像B的二维平面表示,R(x,y)反射图像R的二维平面表示;
使用带色彩恢复的多尺度视网膜增强算法从原始图像中计算出光照图像B,从而提取反射图像R,去除其中的光照度不一致的现象达到增强图像的目的。
4.根据权利要求3所述的基于循环生成对抗网络的石化装置管道数据样本均衡方法,其特征在于,所述的使用带色彩恢复的多尺度视网膜增强算法从原始图像中计算出光照图像B,从而提取反射图像R,去除其中的光照度不一致的现象达到增强图像的目的,具体如下:
(1)读取经过环形展开后的矩形图像S(x,y),并将矩形图像S(x,y)按像素点进行对数转换,转换后的对数域用下式表示。
logS(x,y)i=log B(x,y)i·R(x,y)i (2)
其中,S(x,y)i展开后的矩形图像S的第i个色彩通道,L(x,y)i是展开后的矩形图像S的第i个色彩通道中的光照图像,R(x,y)i是展开后的图像S的第i个色彩通道中的反射图像;
(2)选取高斯环绕尺度ck的值,k为第k个尺度数;并使用中心环绕函数P(x,y)求出第i个色彩通道中高斯环绕尺度ck所对应的归一化常数λk的值,提取光照不均匀图像的光照分量;其中的第i个色彩通道中心环绕函数P(x,y)i表示为:
ck和λk的取值满足:
∫∫P(x,y)idxdy=1 (4);
(3)求解每个色彩通道的多尺度输出图像
对矩形图像S(x,y)通过下式进行多尺度提取光照分量:
加入色彩恢复因子C来调节由于图像局部区域对比度增强而导致颜色失真的缺陷:
其中,r(x,y)MSACR是增加了色彩恢复因子的多尺度输出图像;Si(x,y)表示展开图中第i个颜色通道的图像;Sj(x,y)表示展开图中第j个颜色通道的图像;Ci(x,y)表示第i个颜色通道的彩色回复因子,用来调节通道的3个颜色的比例;b是增益常数;a是受控制的非线性强度。
5.根据权利要求1所述的基于循环生成对抗网络的石化装置管道数据样本均衡方法,其特征在于,步骤3)中所述的对管道内检测机器人拍摄的管道内壁视频图像进行图像拼接,是:
设t时刻分割后环形图像U展开图并经过光照校正后的图像为It(x,y),t+1时刻分割后环形图像U展开图并经过光照校正后的图像为It+1(x,y);对It(x,y)和It+1(x,y)两帧图像进行拼接,首先采用尺度不变特征变换匹配算法对该两帧图像进行特征匹配;具体包括:
(1)提取关键点:搜索所有尺度空间上的图像位置,通过高斯微分函数来识别潜在的具有尺度和旋转不变的兴趣点;
(2)定位关键点并确定关键点的特征向量,具体是在每个兴趣点的位置上,通过尺度不变特征变换匹配算法中的子像素插值拟合模型来确定构成特征向量的方向和尺度;然后将从经过展开图It和展开图It+1中提取的特征向量分别构成对应的特征向量集χt和χt+1:χt={α1,...,αh}和χt+1={β1,...,βs},其中,αh为展开图It的特征向量,βs为展开图It+1的特征向量;
(3)将特征向量集χt中的特征向量与特征向量集χt+1中的特征向量进行两两比较,通过两两比较关键点的特征向量,通过寻找每个αi与βi之间最小的特征向量间空间距离,得到相互匹配的若干对特征向量对,并建立图像间的对应关系;然后采用随机抽样一致算法(RANSAC)消除错误匹配的特征向量对,获得正确和特征向量匹配点对后,计算两帧图像间的单应性矩阵H:
其中,为旋转矩阵,MT=[Tx Ty]T为位移矩阵,MW=[Wa Wb]为形变矩阵;Ra、Rb、Rc、Rd为仿射变形参数,分别为cos(θ)、-sin(θ)、sin(θ)、cos(θ),θ为旋转角度;Tx为展开图中机器人行进步长在x方向的分量,Ty为展开图中机器人行进步长在y方向的分量,Wa、Wb为缩放系数。
由于爬管机器人在管道内稳定直线前进,现将求解单应性矩阵H简化为求解相邻两帧图像间位移矩阵MT=[Tx Ty]T,获得位移矩阵MT后,将相邻两帧图像进行拼接;通过不断拼接新增的t+n时刻展开图It+n,完成对整体管道内壁图像的拼接,得到一组由无损伤的管道内壁图像和有损伤的管道内壁图像组成的管道内壁图像集{It+n}。
6.根据权利要求1所述的基于循环生成对抗网络的石化装置管道数据样本均衡方法,其特征在于,步骤4)中所述的基于Cycle-GAN网络在拼接的管道内壁图像的基础上随机生成损伤区域伪样本,扩充样本数据集,包括:
(1)将拼接后的管道内壁图像集{It+n}中有损伤的管道内壁图像划分为图像集{Qz,z∈(1,t+n)},其中Qz为有损伤的图像集中第z张图片;
(4)建立基于Cycle-Gan网络的管道缺陷样本均衡网络,包含有四个分支网络:第一分支网络为生成网络,命名为G网络:G网络用于将的图像转化为与图像相同的图像第二分支网络为生成网络,命名为F网络:F网络用于将的图像转化为的图像;第三分支网络为对抗网络,命名为Dx网络,用于鉴别图像是不是图像;第四分支网络为对抗网络,命名为Dy网络,用于鉴别图像是不是图像;G网络和F网络都是生成网络,网络结构相同,都是由依次串联的5个卷积核、依次串联的3个反卷积核和1个残差网络构成,其中,卷积核中第3个卷积核和第5个卷积核的输出共同连接到残差网络的输入端,残差网络的输出连接反卷积核,反卷积核的输出为G网络或F网络的输出;Dx网络和Dy网络都是对抗性网络,网络结构相同,都是由5个卷积核依次串联构成;
(5)定义管道缺陷样本均衡网络损失函数:
其中,L为最终损失函数;为F网络的损失函数,指的是G网络的损失函数;Ey表示从到过程的对数期望,Ex表示从到过程的对数期望;为循环一致损失函数,要求F网络和G网络两个生成网络满足即两个过程能够实现互逆,一张图像经过两次迭代运算后能够回到原图;ρ为循环一致性损失的缩放系数;
(6)对管道缺陷样本均衡网络进行优化训练。
将无损伤图像集和有损伤图像集输入到管道缺陷样本均衡网络中,设置管道缺陷样本均衡网络的网络参数和学习率,对管道缺陷样本均衡网络中的G网络、F网络和Dx网络、Dy网络交替进行训练,训练G网络时,Dx网络,Dy网络参数被固定,只有G网络、F网络的参数可调,因此调整G网络的参数,通过最终损失函数L使得Dy网络对产生的图片的打分为0.9,调整F网络的参数,通过最终损失函数L使得Dx网络对产生的图片的打分为0.9;训练Dx网络和Dy网络时,G网络和F网络参数被固定,只有Dx网络和Dy网络的参数可调,训练Dx网络时,G网络、F网络、Dy网络参数都被固定,通过最终损失函数L使的Dx网络的输出与0.9相比较,越接近0.9,则损失越小;训练Dy网络网络时,G网络、F网络、Dx网络参数都被固定,通过最终损失函数L使Dy网络的输出与0.9相比较,越接近0.9,则损失越小;
训练好的G网络、F网络分别用G*、F*表示;
完成训练后,在管道内壁图像集{It+n}上随机选取无损伤区域,使用训练好的管道缺陷样本均衡网络,生成对应的损伤区域,扩充损伤样本图像集,增加样本多样性,扩充后的损伤样本图像集用于训练检测管道缺陷的相关模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211270777.0A CN115908967A (zh) | 2022-10-17 | 2022-10-17 | 基于循环生成对抗网络的石化装置管道数据样本均衡方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211270777.0A CN115908967A (zh) | 2022-10-17 | 2022-10-17 | 基于循环生成对抗网络的石化装置管道数据样本均衡方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115908967A true CN115908967A (zh) | 2023-04-04 |
Family
ID=86477385
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211270777.0A Pending CN115908967A (zh) | 2022-10-17 | 2022-10-17 | 基于循环生成对抗网络的石化装置管道数据样本均衡方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115908967A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116452581A (zh) * | 2023-06-13 | 2023-07-18 | 常州满旺半导体科技有限公司 | 一种基于机器视觉的电压源状态智能检测系统及方法 |
CN118553320A (zh) * | 2024-05-17 | 2024-08-27 | 北京科技大学 | 一种缓蚀剂的确认方法和装置 |
CN119831989A (zh) * | 2025-03-14 | 2025-04-15 | 广州南网科研技术有限责任公司 | 基于图像评估的纤维增强树脂复合管制造方法及装置 |
-
2022
- 2022-10-17 CN CN202211270777.0A patent/CN115908967A/zh active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116452581A (zh) * | 2023-06-13 | 2023-07-18 | 常州满旺半导体科技有限公司 | 一种基于机器视觉的电压源状态智能检测系统及方法 |
CN116452581B (zh) * | 2023-06-13 | 2023-08-25 | 常州满旺半导体科技有限公司 | 一种基于机器视觉的电压源状态智能检测系统及方法 |
CN118553320A (zh) * | 2024-05-17 | 2024-08-27 | 北京科技大学 | 一种缓蚀剂的确认方法和装置 |
CN119831989A (zh) * | 2025-03-14 | 2025-04-15 | 广州南网科研技术有限责任公司 | 基于图像评估的纤维增强树脂复合管制造方法及装置 |
CN119831989B (zh) * | 2025-03-14 | 2025-07-01 | 广州南网科研技术有限责任公司 | 基于图像评估的纤维增强树脂复合管制造方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115908967A (zh) | 基于循环生成对抗网络的石化装置管道数据样本均衡方法 | |
CN107680054B (zh) | 雾霾环境下多源图像融合方法 | |
CN106920224B (zh) | 一种评估拼接图像清晰度的方法 | |
CN108389224B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN104408707B (zh) | 一种快速数字成像模糊鉴别与复原图像质量评估方法 | |
CN111079556A (zh) | 一种多时相无人机视频图像变化区域检测及分类方法 | |
CN105701785B (zh) | 基于天空区域划分加权tv透射率优化的图像雾霾去除方法 | |
CN109472788B (zh) | 一种飞机铆钉表面的伤痕检测方法 | |
CN113673515A (zh) | 一种计算机视觉目标检测算法 | |
CN115830004A (zh) | 表面缺陷检测方法、装置、计算机设备和存储介质 | |
CN112419185B (zh) | 基于光场迭代的精确高反光去除方法 | |
CN111080574A (zh) | 一种基于信息熵和视觉注意机制的织物疵点检测方法 | |
CN116977316A (zh) | 一种复杂外形构件损伤缺陷全场检测与量化评估方法 | |
Sanghadiya et al. | Surface defect detection in a tile using digital image processing: Analysis and evaluation | |
CN109376782B (zh) | 基于眼部影像特征的支持向量机白内障分级方法及装置 | |
CN119648814B (zh) | 基于改进视觉算法的布匹色差智能检测方法 | |
Weng et al. | A lightweight low-light image enhancement network via channel prior and gamma correction | |
Karthikeyan et al. | Denoising convolutional neural network with energy-based attention for image enhancement | |
RU2767281C1 (ru) | Способ интеллектуальной обработки массива неоднородных изображений | |
Khan et al. | Shadow removal from digital images using multi-channel binarization and shadow matting | |
CN117952935A (zh) | 基于可见光图像阈值分割的光伏板影致热斑识别方法 | |
Chen et al. | GADO-Net: An improved AOD-Net single image dehazing algorithm | |
CN116309452A (zh) | 一种基于机器视觉的晶圆圆心检测定位的方法 | |
Islam et al. | Enhanced automatic surface and structural flaw inspection and categorisation using image processing both for flat and textured ceramic tiles | |
CN114494184A (zh) | 一种基于改进的全卷积神经网络的pcb缺陷检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |