CN114484148B - 一种地下管道检测机器人检测系统及检测方法 - Google Patents

一种地下管道检测机器人检测系统及检测方法 Download PDF

Info

Publication number
CN114484148B
CN114484148B CN202210138088.8A CN202210138088A CN114484148B CN 114484148 B CN114484148 B CN 114484148B CN 202210138088 A CN202210138088 A CN 202210138088A CN 114484148 B CN114484148 B CN 114484148B
Authority
CN
China
Prior art keywords
super
pixel
term
pixel blocks
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210138088.8A
Other languages
English (en)
Other versions
CN114484148A (zh
Inventor
马云鹏
李庆武
周亚琴
张杉
李骁
邹杨
陈俊锋
丁成龙
陆秋雨
姜雄彪
叶倩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changzhou Campus of Hohai University
Original Assignee
Changzhou Campus of Hohai University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Changzhou Campus of Hohai University filed Critical Changzhou Campus of Hohai University
Priority to CN202210138088.8A priority Critical patent/CN114484148B/zh
Publication of CN114484148A publication Critical patent/CN114484148A/zh
Application granted granted Critical
Publication of CN114484148B publication Critical patent/CN114484148B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16LPIPES; JOINTS OR FITTINGS FOR PIPES; SUPPORTS FOR PIPES, CABLES OR PROTECTIVE TUBING; MEANS FOR THERMAL INSULATION IN GENERAL
    • F16L55/00Devices or appurtenances for use in, or in connection with, pipes or pipe systems
    • F16L55/26Pigs or moles, i.e. devices movable in a pipe or conduit with or without self-contained propulsion means
    • F16L55/28Constructional aspects
    • F16L55/30Constructional aspects of the propulsion means, e.g. towed by cables
    • F16L55/32Constructional aspects of the propulsion means, e.g. towed by cables being self-contained
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16LPIPES; JOINTS OR FITTINGS FOR PIPES; SUPPORTS FOR PIPES, CABLES OR PROTECTIVE TUBING; MEANS FOR THERMAL INSULATION IN GENERAL
    • F16L55/00Devices or appurtenances for use in, or in connection with, pipes or pipe systems
    • F16L55/26Pigs or moles, i.e. devices movable in a pipe or conduit with or without self-contained propulsion means
    • F16L55/28Constructional aspects
    • F16L55/40Constructional aspects of the body
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16LPIPES; JOINTS OR FITTINGS FOR PIPES; SUPPORTS FOR PIPES, CABLES OR PROTECTIVE TUBING; MEANS FOR THERMAL INSULATION IN GENERAL
    • F16L55/00Devices or appurtenances for use in, or in connection with, pipes or pipe systems
    • F16L55/26Pigs or moles, i.e. devices movable in a pipe or conduit with or without self-contained propulsion means
    • F16L55/48Indicating the position of the pig or mole in the pipe or conduit
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/66Analysis of geometric attributes of image moments or centre of gravity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16LPIPES; JOINTS OR FITTINGS FOR PIPES; SUPPORTS FOR PIPES, CABLES OR PROTECTIVE TUBING; MEANS FOR THERMAL INSULATION IN GENERAL
    • F16L2101/00Uses or applications of pigs or moles
    • F16L2101/30Inspecting, measuring or testing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Abstract

本发明公开了一种基于视觉显著性感知的地下管道检测机器人系统,由智能小型管道机器人硬件与障碍目标智能检测软件两部分组成,硬件包括一个内设控制模块固定于管道机器人内部;步进电机固定于管道机器人主体两侧;编码轮与动力轮相连,其上连接有编码器;导电滑环与步进电机相连;导线经导电滑环传输数据至外部图像处理单元;摄像头固定于管道机器人前侧,捕获管道内部图像,并将图像传输至外部图像处理单元;机械臂连接步进电机与动力轮,外部图像处理单元通过分析捕获的地下管道内部图像,根据超像素分割结果构建图模型与变分显著模型,迭代求解变分显著模型,直至能量收敛,获得最优解,依据人眼视觉注意机制,实现管道内部异常目标的检测。

Description

一种地下管道检测机器人检测系统及检测方法
技术领域
本发明涉及一种地下管道检测机器人检测系统及检测方法,属于数字图像处理、地下管道检测技术领域。
背景技术
随着人们生活质量的提高,人们对城市环境的要求也随之增加。一方面随着排水管道服役时间的增加,管道多出现退化和缺陷的问题,对居民生活带来极大的影响。另一方面城市居民的生活地下管道出现的障碍或者堵塞都会导致排水困难从而出现积水现象,因此地下管道检测养护工作对城市环境的影响至关重要。
然而传统的人工检测养护方法效率低下,不仅费时费力,还具有较高的危险性。尽管出现了很多高科技、机械化、非开挖修复的地下管道检测方法,但却存在自动化程度不高,工作效率低下、严重依靠人工经验的问题。现有的管道机器人存在体积较大的缺点,极大约束着其应用范围,尽管具有障碍检测的功能,却无法做到狭窄空间内管道机器人的实时定位,需要依靠人工经验控制。因此一种小型且兼具检测和定位功能的地下管道检测系统是解决现有地下管道检测自动化程度不高、检测领域效率低下、严重依靠人工经验问题的有效手段。
发明内容
本发明的目的在于克服现有技术中的不足,提供一种地下管道检测机器人检测系统及检测方法,针对小型地下管道进行障碍检测,同时实现管道机器人的实时定位,提高地下管道检测领域的自动化程度与工作效率。
为达到上述目的,本发明是采用下述技术方案实现的:
第一方面,本发明提供了一种地下管道检测机器人检测系统及检测方法,包括:
管道机器人主体,内设控制模块包含一个树莓派微型电脑与一个惯性导航系统,固定于管道机器人内部,用于控制机器人的运动与管道机器人位置的实时定位;
步进电机,固定于管道机器人主体两侧,控制滑块前后运动使动力轮张开收回,用于贴合管壁;
编码轮,与动力轮相连,受编码器控制,其中,编码器固定于编码轮上,记录编码轮的移动距离;
导电滑环,与步进电机相连,用于机器人供电和传输数据,保证机器人在管道内旋转的同时,外面的导线不会跟着旋转;其中,导线经导电滑环实现电力载波通讯,传输数据至外部图像处理单元;
摄像头,固定于管道机器人前侧,捕获管道内部图像,并将图像经过导线传输至外部图像处理单元;
机械臂,连接步进电机与动力轮,用于支撑轮子移动;
外部图像处理单元,通过分析捕获的地下管道内部图像,依据人眼视觉注意机制,检测管道内部异常目标。
进一步的,所述外部图像处理单元包括:
超像素分割程序模块:采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为多个不重叠的超像素块;
图模型构建模块:根据图像分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
变分显著模型构建模块:根据构建的图模型,分别计算代表先验信息的正则项,置信项以及显著项的值,构建变分显著模型;
迭代求解模块:通过原始-对偶方法求解构建的变分显著模型,重复最大化和最小化步骤直到能量收敛,获取最优解。
进一步的,包括执行单元,用于捕获地下管道内部图像并实时定位管道机器人位置,按顺序执行所述外部图像处理单元中各个模块,根据超像素分割结果构建图模型,迭代求解构建的变分显著模型,直至能量收敛,获得最优解,利用人眼的注意机制与目标的显著特征,实现地下管道内部障碍的准确检测。
第二方面,本发明提供一种地下管道检测机器人检测方法,包括:
采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为N个不重叠的超像素块{1,2,..p,...q,...N};
根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型;
迭代求解步骤:通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解。
进一步的,所述根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵,包括:
根据超像素分割结果,遍历图像的所有超像素块,将每个超像素块作为顶点V,超像素块之间有边E相连,所有顶点与边的集合构成图模型G=(V,E),其中G表示构建的图模型;
遍历所有超像素块{1,2,..p,...q,...N},利用预训练网络FCN-32S提取图像特征f={f1,...fi,...fN},1≤i≤N,其中fi表示网络提取的超像素块i的特征;
超像素块之间的边连接关系在特征空间中通过权重函数表示,其中pq分别表示两个超像素块,且当两个超像素块相连时,ωpq大于0,σ为固定参数,控制连接的超像素范围,σ2设为0.05;
图模型G由其像素块之间的邻接矩阵WN×N=(ωpq)pq∈E表示,邻接矩阵WN×N表示像素块之间的连接关系,由边之间的权重函数构成,矩阵的第i,j项,表示像素块i与像素块j的连接关系;
为降低计算成本同时利用特征空间中的局部关系,将每个超像素块的邻接数从N个减少到K个最近邻,一个超像素块的其余权重被设置为零,最终得到一个不再对称的稀疏邻接矩阵WN×K
进一步的,所述根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型,包括:
将显著性分割问题视为能量最小化问题构建变分显著模型,
E(u)=J(u)+λF(u)-H(u), (1)
其中总能量表示为E(u),J(u)表示正则项,代表先验信息,F(u)表示置信项,H(u)表示显著项,促进结果区分背景与前景的显著区域,参数λ为一个正常数,控制正则项的重要性,当总能量E(u)最小时,得到最优解;
正则项计算:根据图模型G,U=(up)p∈V为变分显著模型的解,表示显著超像素块的集合,正则项J(u)是一个半范数,在保留图的边信息的同时,引入显著图梯度的稀疏性,公式表示为
置信项计算:根据图模型G,计算显著性控制图Vc,其中而/>由对比度先验/>和目标先验/>构成,公式表示为/>
对比度先验可以表示为:
其中Ip表示像素块的质心坐标,cp表示超像素块p在CIELAB颜色空间中每个分量的平均值;
目标先验其中/>表示图像的中心坐标,/>表示像素块的质心到图像中心的距离,其值越大,目标先验值/>越小,因此置信项F(u)可以表示为:
其中α为正参数,用于衡量置信项和显著项的相对重要性;
显著项计算:显著项H(u)为一个凹二次函数,可以表示为:
其中δ为正值,代表分离背景和显著性区域的阈值。
进一步的,所述通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解,包括:
将所求正则项J(u),置信项F(u)以及显著项H(u)带入公式(1),通过原始对偶算法求解公式(1)得到最优解即全图的显著性解;
原始对偶算法求解过程中每次更新原始部分和对偶部分,原始部分表示为uk,对偶部分表示为其中k表示迭代次数,对偶部分/>通过等价最大化进行更新,原始部分uk通过等价最小化进行更新;
等价最大化更新步骤:遍历全图,对任意超像素块q,固定一个对偶上升离散时间τd,则第k+1次迭代的对偶部分可以表示为:
其中,表示第k+1次迭代的全图所有超像素块的对偶部分;
等价最小化更新步骤:固定一个原始下降的离散时间τp,根据计算的得到第k+1次迭代的原始部分:
其中,λ,α,δ分别为固定参数,根据不同的应用场景设定为不同值,Vc为显著性控制图;
迭代终止判断:不断重复迭代求解步骤,计算第k次迭代与第k+1迭代的能量值差,若差值小于等于ε,即|E(uk)-E(uk+1)|≤ε,则表示迭代终止,得到U=uk+1即最优解。
第三方面,本发明提供一种地下管道检测机器人检测装置,包括:
超像素分割程序模块模块:采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为多个不重叠的超像素块;
图模型构建模块:根据图像分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
变分显著模型构建模块:根据构建的图模型,分别计算代表先验信息的正则项,置信项以及显著项的值,构建变分显著模型;
迭代求解模块:通过原始-对偶方法求解构建的变分显著模型,重复最大化和最小化步骤直到能量收敛,获取最优解。
第四方面,本发明提供一种地下管道检测机器人检测装置,包括处理器及存储介质;
所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行根据上述任一项所述方法的步骤。
第五方面,本发明提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述任一项所述方法的步骤。
与现有技术相比,本发明所达到的有益效果:
本发明提供一种地下管道检测机器人检测系统及检测方法,地下管道障碍检测系统利用编码器与惯性导航系统实现管道机器人的准确定位;位于机器人前端的可见光相机在补光灯的辅助下拍摄高质量清晰的管道内部图像,并通过电力载波通讯将数据传输至外部处理单元;外部处理单元通过构建图模型与变分显著模型,准确捕获显著区域,实现精确的障碍目标检测;相较于其他地下管道检测系统,本发明系统不仅具有体积小的优势,适用场景不受限制,使用更方便;同时本发明系统兼具定位与检测两个功能,能够实时获取管道机器人位置,外部处理单元也能准确检测位于管道内部的障碍目标,功能更加完善。
附图说明
图1为基于视觉显著性感知的地下管道检测机器人系统的智能小型管道机器人硬件结构正反面示意图;
图2为机械臂在不同状态下智能小型管道机器人结构示意图;
图3为基于视觉显著性感知的地下管道检测机器人系统的障碍目标智能检测软件流程图;
图4为超像素分割目标及其K邻域连接效果示意图;
图5为超像素分割与显著图生成示意图。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
实施例1
如图1和图3所示,本发明提出的基于视觉显著性感知的地下管道检测机器人系统由智能小型管道机器人硬件与障碍目标智能检测软件两部分组成。
1.本发明的基于视觉显著性感知的地下管道检测机器人系统,智能小型管道机器人硬件包括:
管道机器人主体1;
内设控制模块2包含一个树莓派微型电脑与一个惯性导航系统,固定于管道机器人内部,用于控制机器人的运动与管道机器人位置的实时定位。
步进电机3固定于管道机器人主体1两侧,控制滑块前后运动使动力轮4张开收回,用于贴合管壁;
编码轮5与动力轮4相连,受编码器6控制;
编码器6固定于编码轮上,记录编码轮的移动距离;
导电滑环7与步进电机3相连,用于给机器人供电和传输数据,保证机器人在管道内旋转,外面的线缆不会跟着旋转;
导线8经导电滑环实现电力载波通讯,传输数据至外部图像处理单元;
摄像头9固定于管道机器人1前侧,捕获管道内部图像,并将图像经过8传输至外部图像处理单元;
机械臂10连接步进电机3与动力轮4,支撑轮子移动。
所述外部图像处理单元,通过分析捕获的地下管道内部图像,依据人眼视觉注意机制,检测管道内部障碍目标。
所述外部图像处理单元运行以下程序模块:
2.超像素分割程序模块:采用SLIC(Simple Linear Iterative Clustering)方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为N个不重叠的超像素块{1,2,..p,...q,...N};
3.图模型构建模块:根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;利用预训练好的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
(31)根据超像素分割结果,遍历图像的所有超像素块,将每个超像素块作为顶点V,超像素块之间有边E相连,所有顶点与边的集合构成图模型G=(V,E),其中G表示构建的图模型。
(32)遍历所有超像素块{1,2,..p,...q,...N},利用预训练网络FCN-32S提取图像特征f={f1,...fi,...fN},1≤i≤N,其中fi表示网络提取的超像素块i的特征;
(33)超像素块之间的边连接关系在特征空间中通过权重函数表示,其中pq分别表示两个超像素块,且当两个超像素块相连时,ωpq大于0。σ为固定参数,控制连接的超像素范围,σ2设为0.05;
(34)图模型G可以由其像素块之间的邻接矩阵WN×N=(ωpq)pq∈E表示,邻接矩阵WN×N表示像素块之间的连接关系,由边之间的权重函数构成。矩阵的第i,j项,表示像素块i与像素块j的连接关系。
(35)为降低计算成本同时利用特征空间中的局部关系,将每个超像素块的邻接数从N个减少到K个最近邻。一个超像素块的其余权重被设置为零。最终得到一个不再对称的稀疏邻接矩阵WN×K
4.变分显著模型构建模块:根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型。
(41)将显著性分割问题视为能量最小化问题构建变分显著模型,
E(u)=J(u)+λF(u)-H(u), (1)
其中总能量表示为E(u),J(u)表示正则项,代表先验信息,F(u)表示置信项,H(u)表示显著项,促进结果区分背景与前景的显著区域。参数λ为一个正常数,控制正则项的重要性,当总能量E(u)最小时,得到最优解;
(42)正则项计算:根据图模型G,U=(up)p∈V为变分显著模型的解,表示显著超像素块的集合。正则项J(u)是一个半范数,在保留图的边信息的同时,引入显著图梯度的稀疏性,公式表示为
(43)置信项计算:根据图模型G,计算显著性控制图Vc。其中而/>由对比度先验/>和目标先验/>构成,公式表示为/>
对比度先验可以表示为:
其中Ip表示像素块的质心坐标,cp表示超像素块p在CIELAB颜色空间中每个分量的平均值。
目标先验其中/>表示图像的中心坐标,/>表示像素块到图像中心的距离,其值越大,目标先验值/>越小。因此置信项F(u)可以表示为:
其中α为正参数,用于衡量置信项和显著项的相对重要性。
(44)显著项计算:显著项H(u)为一个凹二次函数,可以表示为:
其中δ为正值,代表分离背景和显著性区域的阈值。
5.迭代求解模块:通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直到能量收敛,获取最优解;
(51)将所求正则项J(u),置信项F(u)以及显著项H(u)带入公式(1),通过原始对偶算法求解公式(1)得到最优解即全图的显著性解。
(52)原始对偶算法求解过程中每次更新原始部分和对偶部分,原始部分表示为uk,对偶部分表示为其中k表示迭代次数,对偶部分/>通过等价最大化进行更新,原始部分uk通过等价最小化进行更新。
(53)等价最大化更新步骤:遍历全图,对于每个超像素块q,固定一个对偶上升离散时间τd,则第k+1次迭代的对偶部分可以表示为:
其中,表示第k+1次迭代的全图所有超像素块的对偶部分。
(54)等价最小化更新步骤:固定一个原始下降的离散时间τp,根据计算的得到第k+1次迭代的原始部分:
其中,λ,α,δ分别为固定参数,根据不同的应用场景设定为不同值,Vc为显著性控制图。
(55)迭代终止判断:不断重复步骤4,计算第k次迭代与第k+1迭代的能量值差,若差值小于等于ε,即|E(uk)-E(uk+1)|≤ε,则表示迭代终止,得到U=uk+1即最优解。
如图3所示,在系统运行过程中,进行上述步骤1-5,通过智能小型管道机器人捕获高质量地下管道内部图像,并利用编码器与惯性导航系统实时定位管道机器人位置。外部图像处理单元主要包含一个障碍目标智能检测软件,结合人眼注意机制,智能检测显著区域,实现准确的管道内部障碍目标检测。
实施例2
本实施例提供一种地下管道检测机器人检测方法,包括:
步骤:1:采用SLIC(Simple Linear Iterative Clustering)方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为N个不重叠的超像素块{1,2,..p,...q,...N};
步骤2:根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵,具体步骤如下:
(51)根据超像素分割结果,遍历图像的所有超像素块,将每个超像素块作为顶点V,超像素块之间有边E相连,所有顶点与边的集合构成图模型G=(V,E),其中G表示构建的图模型。
(52)遍历所有超像素块{1,2,..p,...q,...N},利用预训练网络FCN-32S提取图像特征f={f1,...fi,...fN},1≤i≤N,其中fi表示网络提取的超像素块i的特征;
(53)超像素块之间的边连接关系在特征空间中通过权重函数表示,其中pq分别表示两个超像素块,且当两个超像素块相连时,ωpq大于0。σ为固定参数,控制连接的超像素范围,σ2设为0.05;
(54)图模型G可以由其像素块之间的邻接矩阵WN×N=(ωpq)pq∈E表示,邻接矩阵WN×N表示像素块之间的连接关系,由边之间的权重函数构成。矩阵的第i,j项,表示像素块i与像素块j的连接关系。
(55)为降低计算成本同时利用特征空间中的局部关系,将每个超像素块的邻接数从N个减少到K个最近邻。一个超像素块的其余权重被设置为零。最终得到一个不再对称的稀疏邻接矩阵WN×K
步骤3:根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型。
(61)将显著性分割问题视为能量最小化问题构建变分显著模型,
E(u)=J(u)+λF(u)-H(u), (1)
其中总能量表示为E(u),J(u)表示正则项,代表先验信息,F(u)表示置信项,H(u)表示显著项,促进结果区分背景与前景的显著区域。参数λ为一个正常数,控制正则项的重要性,当总能量E(u)最小时,得到最优解;
(62)正则项计算:根据图模型G,U=(up)p∈V为变分显著模型的解,表示显著超像素块的集合。正则项J(u)是一个半范数,在保留图的边信息的同时,引入显著图梯度的稀疏性,公式表示为
(63)置信项计算:根据图模型G,计算显著性控制图Vc。其中而/>由对比度先验/>和目标先验/>构成,公式表示为/>
对比度先验可以表示为:
其中Ip表示像素块的质心坐标,cp表示超像素块p在CIELAB颜色空间中每个分量的平均值。
目标先验其中/>表示图像的中心坐标,/>表示像素块的质心到图像中心的距离,其值越大,目标先验值/>越小。因此置信项F(u)可以表示为:
其中α为正参数,用于衡量置信项和显著项的相对重要性。
(64)显著项计算:显著项H(u)为一个凹二次函数,可以表示为:
其中δ为正值,代表分离背景和显著性区域的阈值。
步骤4:通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解;
(71)将所求正则项J(u),置信项F(u)以及显著项H(u)带入公式(1),通过原始对偶算法求解公式(1)得到最优解即全图的显著性解。
(72)原始对偶算法求解过程中每次更新原始部分和对偶部分,原始部分表示为uk,对偶部分表示为其中k表示迭代次数,对偶部分/>通过等价最大化进行更新,原始部分uk通过等价最小化进行更新。
(73)等价最大化更新步骤:遍历全图,对任意超像素块q,固定一个对偶上升离散时间τd,则第k+1次迭代的对偶部分可以表示为:
其中,表示第k+1次迭代的全图所有超像素块的对偶部分。
(74)等价最小化更新步骤:固定一个原始下降的离散时间τp,根据计算的得到第k+1次迭代的原始部分:
其中,λ,α,δ分别为固定参数,根据不同的应用场景设定为不同值,Vc为显著性控制图。
(75)迭代终止判断:不断重复步骤4,计算第k次迭代与第k+1迭代的能量值差,若差值小于等于ε,即|E(uk)-E(uk+1)|≤ε,则表示迭代终止,得到U=uk+1即最优解。
实施例3
本实施例提供一种地下管道检测机器人检测装置,包括:
超像素分割程序模块模块:采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为多个不重叠的超像素块;
图模型构建模块:根据图像分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
变分显著模型构建模块:根据构建的图模型,分别计算代表先验信息的正则项,置信项以及显著项的值,构建变分显著模型;
迭代求解模块:通过原始-对偶方法求解构建的变分显著模型,重复最大化和最小化步骤直到能量收敛,获取最优解。
实施例4
本实施例提供一种地下管道检测机器人检测装置,包括处理器及存储介质;
所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行根据实施例2中任一项所述方法的步骤。
实施例5
本实施例提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现实施例2中任一项所述方法的步骤。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。

Claims (9)

1.一种地下管道检测机器人检测系统,其特征在于,包括:
管道机器人主体(1),内设控制模块(2)包含一个树莓派微型电脑与一个惯性导航系统,固定于管道机器人(1)内部,用于控制机器人的运动与管道机器人位置的实时定位;
步进电机(3),固定于管道机器人主体(1)两侧,控制滑块前后运动使动力轮(4)张开收回,用于贴合管壁;
编码轮(5),与动力轮(4)相连,受编码器(6)控制,其中,编码器(6)固定于编码轮上,记录编码轮的移动距离;
导电滑环(7),与步进电机(3)相连,用于机器人供电和传输数据,保证机器人在管道内旋转的同时,外面的导线(8)不会跟着旋转;其中,导线(8)经导电滑环实现电力载波通讯,传输数据至外部图像处理单元;
摄像头(9),固定于管道机器人(1)前侧,捕获管道内部图像,并将图像经过导线(8)传输至外部图像处理单元;
机械臂(10),连接步进电机(3)与动力轮(4),用于支撑轮子移动;
外部图像处理单元,通过分析捕获的地下管道内部图像,依据人眼视觉注意机制,检测管道内部异常目标;
还包括检测模块,所述检测模块用于执行以下方法的步骤:
采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为N个不重叠的超像素块{1,2,..p,...q,...N};
根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型;
迭代求解步骤:通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解;
所述根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵,包括:
根据超像素分割结果,遍历图像的所有超像素块,将每个超像素块作为顶点V,超像素块之间有边E相连,所有顶点与边的集合构成图模型G=(V,E),其中G表示构建的图模型;
遍历所有超像素块{1,2,..p,...q,...N},利用预训练网络FCN-32S提取图像特征f={f1,...fi,...fN},1≤i≤N,其中fi表示网络提取的超像素块i的特征;
超像素块之间的边连接关系在特征空间中通过权重函数表示,其中pq分别表示两个超像素块,且当两个超像素块相连时,ωpq大于0,σ为固定参数,控制连接的超像素范围,σ2设为0.05;
图模型G由其像素块之间的邻接矩阵WN×N=(ωpq)pq∈E表示,邻接矩阵WN×N表示像素块之间的连接关系,由边之间的权重函数构成,矩阵的第i,j项,表示像素块i与像素块j的连接关系;
为降低计算成本同时利用特征空间中的局部关系,将每个超像素块的邻接数从N个减少到K个最近邻,一个超像素块的其余权重被设置为零,最终得到一个不再对称的稀疏邻接矩阵WN×K
2.根据权利要求1所述的地下管道检测机器人检测系统,其特征在于:所述外部图像处理单元包括:
超像素分割程序模块:采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为多个不重叠的超像素块;
图模型构建模块:根据图像分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
变分显著模型构建模块:根据构建的图模型,分别计算代表先验信息的正则项,置信项以及显著项的值,构建变分显著模型;
迭代求解模块:通过原始-对偶方法求解构建的变分显著模型,重复最大化和最小化步骤直到能量收敛,获取最优解。
3.根据权利要求2所述的地下管道检测机器人检测系统,其特征在于:包括执行单元,用于捕获地下管道内部图像并实时定位管道机器人位置,按顺序执行所述外部图像处理单元中各个模块,根据超像素分割结果构建图模型,迭代求解构建的变分显著模型,直至能量收敛,获得最优解,利用人眼的注意机制与目标的显著特征,实现地下管道内部障碍的准确检测。
4.一种地下管道检测机器人检测方法,其特征在于,包括:
采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为N个不重叠的超像素块{1,2,..p,...q,...N};
根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型;
迭代求解步骤:通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解;
所述根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵,包括:
根据超像素分割结果,遍历图像的所有超像素块,将每个超像素块作为顶点V,超像素块之间有边E相连,所有顶点与边的集合构成图模型G=(V,E),其中G表示构建的图模型;
遍历所有超像素块{1,2,..p,...q,...N},利用预训练网络FCN-32S提取图像特征f={f1,...fi,...fN},1≤i≤N,其中fi表示网络提取的超像素块i的特征;
超像素块之间的边连接关系在特征空间中通过权重函数表示,其中pq分别表示两个超像素块,且当两个超像素块相连时,ωpq大于0,σ为固定参数,控制连接的超像素范围,σ2设为0.05;
图模型G由其像素块之间的邻接矩阵WN×N=(ωpq)pq∈E表示,邻接矩阵WN×N表示像素块之间的连接关系,由边之间的权重函数构成,矩阵的第i,j项,表示像素块i与像素块j的连接关系;
为降低计算成本同时利用特征空间中的局部关系,将每个超像素块的邻接数从N个减少到K个最近邻,一个超像素块的其余权重被设置为零,最终得到一个不再对称的稀疏邻接矩阵WN×K
5.根据权利要求4所述的地下管道检测机器人检测方法,其特征在于:所述根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型,包括:
将显著性分割问题视为能量最小化问题构建变分显著模型,
E(u)=J(u)+λF(u)-H(u), (1)
其中总能量表示为E(u),J(u)表示正则项,代表先验信息,F(u)表示置信项,H(u)表示显著项,促进结果区分背景与前景的显著区域,参数λ为一个正常数,控制正则项的重要性,当总能量E(u)最小时,得到最优解;
正则项计算:根据图模型G,U=(up)p∈V为变分显著模型的解,表示显著超像素块的集合,正则项J(u)是一个半范数,在保留图的边信息的同时,引入显著图梯度的稀疏性,公式表示为
置信项计算:根据图模型G,计算显著性控制图Vc,其中而/>由对比度先验/>和目标先验/>构成,公式表示为/>
对比度先验可以表示为:
其中Ip表示像素块的质心坐标,cp表示超像素块p在CIELAB颜色空间中每个分量的平均值;
目标先验其中/>表示图像的中心坐标,/>表示像素块的质心到图像中心的距离,其值越大,目标先验值/>越小,因此置信项F(u)可以表示为:
其中α为正参数,用于衡量置信项和显著项的相对重要性;
显著项计算:显著项H(u)为一个凹二次函数,可以表示为:
其中δ为正值,代表分离背景和显著性区域的阈值。
6.根据权利要求4所述的地下管道检测机器人检测方法,其特征在于:所述通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解,包括:
将所求正则项J(u),置信项F(u)以及显著项H(u)带入公式(1),通过原始对偶算法求解公式(1)得到最优解即全图的显著性解;
原始对偶算法求解过程中每次更新原始部分和对偶部分,原始部分表示为uk,对偶部分表示为其中k表示迭代次数,对偶部分/>通过等价最大化进行更新,原始部分uk通过等价最小化进行更新;
等价最大化更新步骤:遍历全图,对任意超像素块q,固定一个对偶上升离散时间τd,则第k+1次迭代的对偶部分可以表示为:
其中,表示第k+1次迭代的全图所有超像素块的对偶部分;
等价最小化更新步骤:固定一个原始下降的离散时间τp,根据计算的得到第k+1次迭代的原始部分:
其中,λ,α,δ分别为固定参数,根据不同的应用场景设定为不同值,Vc为显著性控制图;
迭代终止判断:不断重复迭代求解步骤,计算第k次迭代与第k+1迭代的能量值差,若差值小于等于ε,即|E(uk)-E(uk+1)|≤ε,则表示迭代终止,得到U=uk+1即最优解。
7.一种地下管道检测机器人检测装置,其特征在于,包括:
超像素分割程序模块模块:采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为多个不重叠的超像素块;
图模型构建模块:根据图像分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
变分显著模型构建模块:根据构建的图模型,分别计算代表先验信息的正则项,置信项以及显著项的值,构建变分显著模型;
迭代求解模块:通过原始-对偶方法求解构建的变分显著模型,重复最大化和最小化步骤直到能量收敛,获取最优解;
检测模块,所述检测模块用于执行以下方法的步骤:
采用SLIC方法将输入图像从RGB转换为CIELAB颜色空间,将图像划分为N个不重叠的超像素块{1,2,..p,...q,...N};
根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵;
根据构建的图模型G,分别计算代表先验信息的正则项J(u),置信项F(u)以及显著项H(u)的值,构建变分显著模型;
迭代求解步骤:通过原始-对偶方式求解构建的变分显著模型,重复最大化和最小化步骤直至能量收敛,获取最优解;
所述根据超像素分割结果,构建一个由顶点和边构成的G=(V,E)的图模型;之后利用预训练的FCN-32S网络提取每个像素块特征,并计算其K近邻矩阵,包括:
根据超像素分割结果,遍历图像的所有超像素块,将每个超像素块作为顶点V,超像素块之间有边E相连,所有顶点与边的集合构成图模型G=(V,E),其中G表示构建的图模型;
遍历所有超像素块{1,2,..p,...q,...N},利用预训练网络FCN-32S提取图像特征f={f1,...fi,...fN},1≤i≤N,其中fi表示网络提取的超像素块i的特征;
超像素块之间的边连接关系在特征空间中通过权重函数表示,其中pq分别表示两个超像素块,且当两个超像素块相连时,ωpq大于0,σ为固定参数,控制连接的超像素范围,σ2设为0.05;
图模型G由其像素块之间的邻接矩阵WN×N=(ωpq)pq∈E表示,邻接矩阵WN×N表示像素块之间的连接关系,由边之间的权重函数构成,矩阵的第i,j项,表示像素块i与像素块j的连接关系;
为降低计算成本同时利用特征空间中的局部关系,将每个超像素块的邻接数从N个减少到K个最近邻,一个超像素块的其余权重被设置为零,最终得到一个不再对称的稀疏邻接矩阵WN×K
8.一种地下管道检测机器人检测装置,其特征在于:包括处理器及存储介质;
所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行根据权利要求4~6任一项所述方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:该程序被处理器执行时实现权利要求4~6任一项所述方法的步骤。
CN202210138088.8A 2022-02-15 2022-02-15 一种地下管道检测机器人检测系统及检测方法 Active CN114484148B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210138088.8A CN114484148B (zh) 2022-02-15 2022-02-15 一种地下管道检测机器人检测系统及检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210138088.8A CN114484148B (zh) 2022-02-15 2022-02-15 一种地下管道检测机器人检测系统及检测方法

Publications (2)

Publication Number Publication Date
CN114484148A CN114484148A (zh) 2022-05-13
CN114484148B true CN114484148B (zh) 2024-01-02

Family

ID=81480385

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210138088.8A Active CN114484148B (zh) 2022-02-15 2022-02-15 一种地下管道检测机器人检测系统及检测方法

Country Status (1)

Country Link
CN (1) CN114484148B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105930868A (zh) * 2016-04-20 2016-09-07 北京航空航天大学 一种基于层次化增强学习的低分辨率机场目标检测方法
CN107329483A (zh) * 2017-09-06 2017-11-07 天津理工大学 一种基于视觉技术的管道检测机器人系统及工作方法
CN109509191A (zh) * 2018-11-15 2019-03-22 中国地质大学(武汉) 一种图像显著性目标检测方法及系统
CN110500470A (zh) * 2019-09-09 2019-11-26 浙江工业大学之江学院 一种具有相对位置导航功能的管道爬行机器人
CN211902061U (zh) * 2020-02-21 2020-11-10 深圳市智能机器人研究院 一种管道内爬行机器人
CN113944824A (zh) * 2021-12-21 2022-01-18 山东东研智能科技有限公司 一种压力管道内无损智能探测装置
WO2022028031A1 (zh) * 2020-08-05 2022-02-10 苏州大学 一种轮廓形状识别方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2249599T3 (es) * 2001-03-07 2006-04-01 Carnegie Mellon University Sistema robotizado para inspeccionar conducciones de gas.
US10789678B2 (en) * 2018-05-01 2020-09-29 Nvidia Corp. Superpixel sampling networks

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105930868A (zh) * 2016-04-20 2016-09-07 北京航空航天大学 一种基于层次化增强学习的低分辨率机场目标检测方法
CN107329483A (zh) * 2017-09-06 2017-11-07 天津理工大学 一种基于视觉技术的管道检测机器人系统及工作方法
CN109509191A (zh) * 2018-11-15 2019-03-22 中国地质大学(武汉) 一种图像显著性目标检测方法及系统
CN110500470A (zh) * 2019-09-09 2019-11-26 浙江工业大学之江学院 一种具有相对位置导航功能的管道爬行机器人
CN211902061U (zh) * 2020-02-21 2020-11-10 深圳市智能机器人研究院 一种管道内爬行机器人
WO2022028031A1 (zh) * 2020-08-05 2022-02-10 苏州大学 一种轮廓形状识别方法
CN113944824A (zh) * 2021-12-21 2022-01-18 山东东研智能科技有限公司 一种压力管道内无损智能探测装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于视觉的机器人在管道检测中的远程控制研究;陈应松;周瑜;;制冷与空调(04);全文 *
李庆武 ; 周亚琴 ; 马云鹏等.基于双目视觉的显著性目标检测方法.光学学报.2018,全文. *

Also Published As

Publication number Publication date
CN114484148A (zh) 2022-05-13

Similar Documents

Publication Publication Date Title
CN111462329B (zh) 一种基于深度学习的无人机航拍影像的三维重建方法
CN108242079B (zh) 一种基于多特征视觉里程计和图优化模型的vslam方法
Liu et al. A novel recurrent encoder-decoder structure for large-scale multi-view stereo reconstruction from an open aerial dataset
CN111462210B (zh) 一种基于极线约束的单目线特征地图构建方法
CN112819853B (zh) 一种基于语义先验的视觉里程计方法
CN112395961B (zh) 一种洒水车的视觉主动行人避让及水压自适应控制方法
CN106056622B (zh) 一种基于Kinect相机的多视点深度视频复原方法
CN113077505B (zh) 一种基于对比学习的单目深度估计网络的优化方法
CN110889868B (zh) 一种结合梯度和纹理特征的单目图像深度估计方法
CN111354030A (zh) 嵌入SENet单元的无监督单目图像深度图生成方法
CN107038718A (zh) 雾霾环境下的深度计算方法
CN116977596A (zh) 一种基于多视角图像的三维建模系统及方法
CN116862828A (zh) 一种架空输电线路关键部件及缺陷的检测方法
CN111325828A (zh) 一种基于三目相机的三维人脸采集方法及装置
CN114484148B (zh) 一种地下管道检测机器人检测系统及检测方法
CN112634305B (zh) 一种基于边缘特征匹配的红外视觉里程计实现方法
Basak et al. Monocular depth estimation using encoder-decoder architecture and transfer learning from single RGB image
CN114332355A (zh) 一种基于深度学习的弱光多视图几何重建方法
CN117115359B (zh) 一种基于深度图融合的多视图电网三维空间数据重建方法
CN111767826A (zh) 一种定时定点场景异常检测方法
CN115527159B (zh) 一种基于跨模态间尺度注意聚合特征的计数系统及方法
CN112509014B (zh) 金字塔遮挡检测块匹配的鲁棒插值光流计算方法
CN110610503A (zh) 一种基于立体匹配的电力刀闸三维信息恢复方法
CN112200850B (zh) 一种基于成熟特征点的orb提取方法
Dai et al. Monocular Visual SLAM based on VGG Feature Point Extraction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant