CN114241047B - 一种用于园林绿篱修剪的双目视觉识别和定位方法 - Google Patents
一种用于园林绿篱修剪的双目视觉识别和定位方法 Download PDFInfo
- Publication number
- CN114241047B CN114241047B CN202111461486.5A CN202111461486A CN114241047B CN 114241047 B CN114241047 B CN 114241047B CN 202111461486 A CN202111461486 A CN 202111461486A CN 114241047 B CN114241047 B CN 114241047B
- Authority
- CN
- China
- Prior art keywords
- image
- hedge
- target
- matching
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/77—Determining position or orientation of objects or cameras using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
- G06T2207/30188—Vegetation; Agriculture
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种用于园林绿篱修剪的双目视觉识别和定位方法,首先完成双目相机的标定,接着对获得的绿篱图像进行预处理,然后生成绿篱模板图像,利用模板图像完成目标绿篱的识别,最后完成立体匹配和绿篱重建,获得绿篱的修剪中心和修剪半径,完成绿篱定位。本发明提供的方法省去了人工进行绿篱对中操作的过程,可以快速、准确地获得绿篱的修剪中心和修剪半径以及定位信息,达到了省时省力且提高对中准确率的效果,大大提升了绿篱修剪机械设备的智能化水平。
Description
技术领域
本发明涉及园艺修剪设备技术领域,特别涉及一种用于园林绿篱修剪的双目视觉识别和定位方法。
背景技术
园林养护行业迎来了新的发展机遇,但随之而来的是城市绿化的养护问题,比如人工成本急剧增加、修剪工作繁琐低效、智能化水平低等等,急需自动化的绿篱修剪机器人来解决这一问题。
常见绿篱外形类似于旋转体,比如圆柱、圆锥、球形等,目前市场上绿篱修剪设备的工作方式一般都是通过人工操作摇杆,移动修剪机械臂至绿篱中心位置的上方,然后安装在机械臂的刀具以绿篱中心轴为旋转中心进行旋转修剪。绿篱识别和定位过程完全依赖人的肉眼观察,然后通过手动操控机械臂完成,该方法不仅耗时耗力、精确度低,而且对操作人员的熟练程度要求较高,结果就是绿篱修剪效率较低且修剪质量难以保证。
目前国内一些高校对绿篱修剪机进行了一些研究,例如:西安理工大学研发了一种基于功率激光束的绿篱修剪机,优点是工作噪音较小,缺点是只能进行平面切割,不适用于球形或者圆柱形绿篱的修剪,应用场景有限;长安大学研发了一种纯电动履带式绿篱修剪机,通过人工遥控进行控制,仅能完成水平、垂直修剪工作,智能化程度较低。
发明内容
本发明的目的在于提供一种用于园林绿篱修剪的双目视觉识别和定位方法,可以快速、准确地获得绿篱的修剪中心和修剪半径以及定位信息。
为实现上述目的,本发明的用于园林绿篱修剪的双目视觉识别和定位方法,包括以下步骤:
步骤S1,使用双目相机采集多组平面棋盘的图像对,利用MatLab中的标定工具箱进行张正友平面棋盘标定实验,获得相机的内参数、外参数和畸变参数;
步骤S2,使用双目相机采集目标绿篱图像,提取目标绿篱模板图像;
步骤S3,使用双目相机采集待修剪的绿篱图像,对图像进行预处理,降低光照不均以及图像噪声所带来的影响;所述预处理为先进行图像灰度化处理,再进行图像滤波处理;
步骤S4,依据目标绿篱模板图像,通过模板匹配的方法,实现对目标绿篱的匹配识别;
步骤S5,对匹配识别到的左目绿篱图像进行分割,提取左、右目图像的特征点来完成立体匹配,然后基于匹配点对的视差值计算特征点的三维坐标,通过特征点的三维坐标拟合出代表目标绿篱的球体,从而获取绿篱的修剪中心坐标和修剪半径,实现对目标绿篱的定位。
进一步的,步骤S1使用双目相机采集多组平面棋盘的图像对,利用MatLab中的标定工具箱进行张正友平面棋盘标定实验,获得相机的内参数、外参数和畸变参数的方法包括以下步骤:
步骤S11,将具有8×11个黑白相间方块的棋盘贴在平板上,调整棋盘相对于双目相机的位姿,获取多组棋盘图像对;
步骤S12,调用MatLab中stereo Camera Calibrator模块,导入上步获取的多组棋盘图像对进行标定,删除重投影误差较大的图像对;
步骤S13,导出一个mat格式文件,其中包括左、右目相机的内参数和畸变参数,以及双目相机的外参数,完成双目相机标定工作。
进一步的,步骤S2使用双目相机采集目标绿篱图像,提取目标绿篱模板图像的方法包括以下步骤:
步骤S21,色彩空间转换与分量提取:将目标绿篱RGB图像转换到HSV图像,对HSV图像分别从三个分量方向进行分解,将原图像HSV色彩空间下的S分量作为后续二值化处理的初始图像;
步骤S22,图像二值化:使用最大类间方差法(Otsu阈值分割算法)对S分量图像进行二值化分割;
步骤S23,图像形态学处理:使用图像形态学中的开运算、闭运算对二值化图像进行去噪处理;
步骤S24,生成绿篱模板图像:通过OpenCV库中的findContour()函数找到步骤S23得到的二值化图像的绿篱区域,然后通过boundingRect()函数获取该区域的外接正矩形,将该外接正矩形所在的位置投影到原图中,对正矩形区域进行截取,从而获得目标绿篱模板图像。
进一步的,步骤S3对图像进行图像灰度化处理的方法为:
采用加权平均值法对图像进行灰度化处理,将R、G、B三个分量按照一定的比例进行加权求和并以此作为当前像素的灰度值,具体公式如下:
Gray=wrR+wgG+wbB
式中,wr,wg,wb分别为三个分量的权重系数,这三个分量的权重系数分别设置为wr=0.299,wg=0.587,wb=0.114。
进一步的,步骤S3对图像进行图像滤波处理的方法为:
采用中值滤波的方法对图像数据进行降噪处理,即用像素点邻域灰度值的中值来代替该像素点的灰度值,以此消除孤立的噪声点。
进一步的,步骤S4依据目标绿篱模板图像,通过模板匹配的方法,实现对目标绿篱的匹配识别的方法包括以下步骤:
步骤S41,将S2步骤获得的像素大小为m×n的绿篱模板图像M0按照如下公式进行缩放得到Mi:
其中,i为更新的代数,d为模板更新过程中的缩放步长,N为最大的更新次数;
步骤S42,基于NCC(Normalized Cross Correlation)模板匹配算法,将缩放后的模板图像Mi与步骤S3获得的左目绿篱图像进行模板匹配得到感兴趣区域Ai;
步骤S42,计算Mi与Ai的相似度,采用峰值信噪比(PSNR)作为相似性的度量标准,
记为Pi,公式如下:
其中,L为Mi的最大灰度值;MSE为均方误差,公式如下:
其中,M和N分别表示Mi的长和宽,R(i,j)、D(i,j)分别为Mi与Ai在(i,j)点的像素值;
步骤S44,统计N次模板匹配得到的相似度Pi,得到其中最大Pi对应的感兴趣区域Ai, Ai即为最佳的匹配识别结果。
进一步的,步骤S5对匹配识别到的左目绿篱图像进行分割,提取左、右目图像的特征点来完成立体匹配,然后基于匹配点对的视差值计算特征点的三维坐标,通过特征点的三维坐标拟合出代表目标绿篱的球体,从而获取绿篱的修剪中心坐标和修剪半径,实现对目标绿篱的定位的方法包括以下步骤:
步骤S51,图像分割:基于步骤S4得到的目标绿篱左目图像的识别结果,使用GarbCut 算法进行图像分割,得到左目分割图像;
步骤S52,双目立体校正:利用步骤S1得到的相机的畸变参数,结合相机的畸变模型,对步骤S51得到的左目分割图像和步骤S3得到右目图像进行畸变修复,得到修复后成像点的坐标,然后使用Bouguet算法对左目分割图像和右目图像进行平行校准,完成双目立体校正;
步骤S53,特征点立体匹配:利用SURF算法提取步骤S52得到的左目图像和右目图像的特征点,建立特征点的集合,使用欧氏距离对集合内任意两特征点进行相似度度量,从中选取出匹配的特征点对,具体过程如下:
左、右目图像中任意两点Li和Ri的相似度表示为:
其中,Ri=(Ri1,Ri2,…Ri64)Li=(li1,li2,…li64),两个特征点均用64维的特征向量进行描述;
R*=argmind(Li,Ri)
其中,R*表示右图中距离Li最近的特征点;当匹配点间的欧式距离满足公d(Li,R*)<β时 (β=0.6)才被认为是准确的匹配点对;
步骤S54,获取特征点的三维坐标:计算匹配点对的水平像素差值得到视差值,结合相机的内参数、外参数、畸变参数和四大坐标系的转换关系,得到特征点的三维坐标,即空间点相对于左目相机原点的三维坐标,再基于MatLab实现特征点的可视化;
步骤S55,绿篱三维重建:基于最小二乘法的球体拟合算法,使用步骤S54得到的特征点的三维坐标拟合出代表目标绿篱的球体,具体过程如下:
将球体的空间方程定义为:
x2+y2+z2-Ax-By-Cz+D=0
令V=∑(x2+y2+z2-Ax-By-Cz+D)2,最小二乘拟合算法就是要保证求出参数A、 B、C、D使得V取得最小值,可以采用对V求偏导的方式,使其对各个参数的偏导均为0,即可求出A、B、C、D的值;然后可以得出拟合球体的球心坐标为 (a=A/2,b=B/2,c=C/2),半径为拟合球体的球心坐标即为目标绿篱的修剪中心坐标,拟合球体的半径即为目标绿篱的修剪半径,实现了目标绿篱的定位。
与现有技术相比,本发明具有如下有益效果:
本发明使用双目相机对待修剪的绿篱进行识别和定位,首先完成双目相机的标定,接着对获取的双目图像进行预处理,然后生成绿篱模板图像,利用模板图像完成目标绿篱的识别,最后进行立体匹配和绿篱重建,获得绿篱的修剪中心和修剪半径,完成绿篱定位。将识别和定位结果提供给机械手控制系统,使修剪机械手实现自动对中功能。本发明提供的方法省去了人工进行绿篱对中操作的过程,可以快速、准确地获得绿篱的修剪中心和修剪半径以及定位信息,达到了省时省力且提高对中准确率的效果,大大提升了绿篱修剪机械设备的智能化水平。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明的用于园林绿篱修剪的双目视觉识别和定位方法流程图;
图2为对双目相机进行标定的过程示意图;
图3为提取目标绿篱模板图像的过程示意图;
图4为对待修剪绿篱进行识别的过程示意图;
图5为绿篱特征点立体匹配的效果图;
图6为绿篱特征点可视化的效果图;
图7为绿篱三维重建的效果图。
具体实施方式
下面结合附图,对本发明的具体实施方式进行详细描述,但应当理解本发明的保护范围并不受具体实施方式的限制。
除非另有其它明确表示,否则在整个说明书和权利要求书中,术语“包括”或其变换如“包含”或“包括有”等等将被理解为包括所陈述的元件或组成部分,而并未排除其它元件或其它组成部分。
实施例1用于园林绿篱修剪的双目视觉识别和定位方法
请参见附图1,本实施例的方法包括以下步骤:
步骤S1,双目相机标定;
相机的成像过程可以看作是空间点通过多次坐标系转换后映射到像素坐标系上的过程,想要通过双目视觉系统得到空间点的三维坐标,就需要先建立起该空间点与相机成像点之间的数学关系;相机标定的作用就是对这些数学关系进行求解,获得成像过程中用到的一些关键参数,包括相机的内、外参数和畸变参数,为步骤S5的目标绿篱定位做铺垫;
请参见附图2,使用双目相机采集多组平面棋盘的图像对,基于MatLab中的标定工具箱stereo Camera Calibrator进行张正友平面棋盘标定实验,获得相机的内参数、外参数和畸变参数,具体步骤如下:
步骤S11,打印一张具有8×11个黑白相间的方块的棋盘贴在一个平板上,调整棋盘相对于双目相机的位姿,获取多组棋盘图像对;
步骤S12,调用MatLab中stereo Camera Calibrator模块,导入上步获取的多组棋盘图像对进行标定,删除重投影误差较大的图像对;
步骤S13,导出一个mat格式文件,其中包括左、右目相机的内参数和畸变参数,以及双目相机的外参数,完成双目相机标定工作。
步骤S2,生成绿篱模板图像;
使用双目相机采集目标绿篱图像并提取目标绿篱模板图像,包括以下步骤:
步骤S21,色彩空间转换与分量提取:RGB色域的一个缺点是对光照条件比较敏感,与之相比,HSV色域对光照强度的依赖性较小,更加适用于室外环境下绿篱的识别,因此需要将目标绿篱RGB图像转换到HSV图像,转换的公式如下:
IV=Imax
式中:IR、IG、IB分别表示归一化后的R、G、B值,Imax、Imin分别表示当前像素点RGB 三通道的最大值和最小值;
目标绿篱RGB图像转换到HSV图像之后,对HSV图像分别从三个分量方向进行分解,与原始图像相比,S分量图像能够更好地表示目标绿篱的特征,因此将原图像HSV色彩空间下的S分量作为后续二值化处理的初始图像;
步骤S22,图像二值化:由于S分量图像中的目标绿篱与周围环境存在较大差异,因此使用最大类间方差法(Otsu阈值分割算法)对S分量图像进行二值化分割;
步骤S23,图像形态学处理:上一步得到的二值化图像仍有部分区域的饱和度与绿篱区域的饱和度相近,因此需要对二值化图像进行去噪处理;使用图像形态学中的开运算、闭运算对二值化图像进行去噪处理,以减弱图像中的噪声对提取绿篱模板图像的影响;
步骤S24,请参见附图3,生成绿篱模板图像:通过OpenCV库中的findContour()函数找到步骤S23得到的二值化图像的绿篱区域,然后通过boundingRect()函数获取该区域的外接正矩形,将该外接正矩形所在的位置投影到原图中,对正矩形区域进行截取,从而获得目标绿篱模板图像。
步骤S3,待修剪绿篱图像的采集和预处理;
修剪机器人进行修剪作业时,室外环境光照变化很大,且存在各种电磁设备,对双目相机采集绿篱图像产生很大的影响,进行图像预处理主要是为了减少图像中的噪声以及光照不均带来的影响,为目标绿篱的识别和定位做铺垫。
所述预处理为先进行图像灰度化处理,再进行图像滤波处理;图像灰度化处理就是将彩色图像转化为灰度图像的过程,在减少光照不均造成的干扰的同时,还能大大降低后续图像处理中的计算量;图像在生产和传输过程中因受到各种噪声的干扰而使图像质量下降,进行图像滤波处理可以降低图像数据中的噪声影响;
其中,对图像进行图像灰度化处理的方法为:
采用加权平均值法对图像进行灰度化处理,将R、G、B三个分量按照一定的比例进行加权求和并以此作为当前像素的灰度值,具体公式如下:
Gray=wrR+wgG+wbB
式中,wr,wg,wb分别为三个分量的权重系数,这三个分量的权重系数分别设置为wr=0.299,wg=0.587,wb=0.114;
其中,对图像进行图像滤波处理的方法为:
采用中值滤波的方法对图像数据进行降噪处理,用像素点邻域灰度值的中值来代替该像素点的灰度值,以此消除孤立的噪声点。
步骤S4,请参见附图4,依据目标绿篱模板图像,通过模板匹配的方法,实现对目标绿篱的匹配识别,包括以下步骤:
步骤S41,将S2步骤获得的像素大小为m×n的模板图像M0按照如下公式进行缩放得到Mi:
其中,i为更新的代数,d为模板更新过程中的缩放步长,N为最大的更新次数。
步骤S42,基于NCC(Normalized Cross Correlation)模板匹配算法,将缩放后的模板图像Mi与步骤S3获得的左目绿篱图像进行模板匹配得到感兴趣区域Ai;
步骤S42,计算Mi与Ai的相似度,,采用峰值信噪比(PSNR)作为相似性的度量标准,记为Pi,公式如下:
其中,L为Mi的最大灰度值;MSE为均方误差,公式如下:
其中,M和N分别表示Mi的长和宽,R(i,j)、D(i,j)分别为Mi与Ai在(i,j)点的像素值;
步骤S44,统计N次模板匹配得到的相似度Pi,得到其中最大Pi对应的感兴趣区域Ai, Ai即为最佳的匹配识别结果。
步骤S5,对匹配识别到的左目绿篱图像进行分割,提取左、右目图像的特征点来完成立体匹配,然后基于匹配点对的视差值计算特征点的三维坐标,通过特征点的三维坐标拟合出代表目标绿篱的球体,从而获取绿篱的修剪中心坐标和修剪半径,实现对目标绿篱的定位,包括以下步骤:
步骤S51,图像分割:基于步骤S4得到的目标绿篱左目图像的识别结果,使用GarbCut 算法进行图像分割,得到左目分割图像;
步骤S52,双目立体校正:利用步骤S1得到的相机的畸变参数,结合相机的畸变模型,对步骤S51得到的左目分割图像和步骤S3得到右目图像进行畸变修复,得到修复后成像点的坐标,然后使用Bouguet算法对左目分割图像和右目图像进行平行校准,完成双目立体校正;
步骤S53,特征点立体匹配:利用SURF算法提取步骤S52得到的左目图像和右目图像的特征点,建立特征点的集合,使用欧氏距离对集合内任意两特征点进行相似度度量,从中选取出匹配的特征点对,具体过程如下:
左、右目图像中任意两点Li和Ri的相似度表示为:
其中,Ri=(Ri1,Ri2,…Ri64)Li=(li1,li2,…li64),两个特征点均用64维的特征向量进行描述;
R*=argmind(Li,Ri)
其中,R*表示右图中距离Li最近的特征点;当匹配点间的欧式距离满足公d(Li,R*)<β时 (β=0.6)才被认为是准确的匹配点;绿篱特征点立体匹配的效果图如图5所示;
步骤S54,获取特征点的三维坐标:计算匹配点对的水平像素差值得到视差值,结合相机的内参数、外参数、畸变参数和四大坐标系的转换关系,得到特征点的三维坐标,即空间点相对于左目相机原点的三维坐标,再基于MatLab实现特征点的可视化,绿篱特征点可视化的效果图如图6所示;
步骤S55,绿篱三维重建:基于最小二乘法的球体拟合算法,使用步骤S54得到的特征点的三维坐标拟合出代表目标绿篱的球体,效果图如图7所示,具体过程如下:
定义球体的空间方程为:
x2+y2+z2-Ax-By-Cz+D=0
令V=∑(x2+y2+z2-Ax-By-Cz+D)2,最小二乘拟合算法就是要保证求出参数A、 B、C、D使得V取得最小值,可以采用对V求偏导的方式,使其对各个参数的偏导均为 0,即可求出A、B、C、D的值;然后可以得出拟合球体的球心坐标为 (a=A/2,b=B/2,c=C/2),半径为拟合球体的球心坐标即为目标绿篱的修剪中心坐标,拟合球体的半径即为目标绿篱的修剪半径,实现了目标绿篱的定位。
前述对本发明的具体示例性实施方案的描述是为了说明和例证的目的。这些描述并非想将本发明限定为所公开的精确形式,并且很显然,根据上述教导,可以进行很多改变和变化。对示例性实施例进行选择和描述的目的在于解释本发明的特定原理及其实际应用,从而使得本领域的技术人员能够实现并利用本发明的各种不同的示例性实施方案以及各种不同的选择和改变。本发明的范围意在由权利要求书及其等同形式所限定。
Claims (1)
1.一种用于园林绿篱修剪的双目视觉识别和定位方法,其特征在于,包括以下步骤:
步骤S1,使用双目相机采集多组平面棋盘的图像对,利用MatLab中的标定工具箱进行张正友平面棋盘标定实验,获得相机的内参数、外参数和畸变参数;
步骤S2,使用双目相机采集目标绿篱图像,提取目标绿篱模板图像;
步骤S3,使用双目相机采集待修剪的绿篱图像,对图像进行预处理,降低光照不均以及图像噪声所带来的影响;所述预处理为先进行图像灰度化处理,再进行图像滤波处理;
步骤S4,依据目标绿篱模板图像,通过模板匹配的方法,实现对目标绿篱的匹配识别;
步骤S5,对匹配识别到的左目绿篱图像进行分割,提取左、右目图像的特征点来完成立体匹配,然后基于匹配点对的视差值计算特征点的三维坐标,通过特征点的三维坐标拟合出代表目标绿篱的球体,从而获取绿篱的修剪中心坐标和修剪半径,实现对目标绿篱的定位;
其中,步骤S1使用双目相机采集多组平面棋盘的图像对,利用MatLab中的标定工具箱进行张正友平面棋盘标定实验,获得相机的内参数、外参数和畸变参数的方法包括以下步骤:
步骤S11,将具有8×11个黑白相间方块的棋盘贴在平板上,调整棋盘相对于双目相机的位姿,获取多组棋盘图像对;
步骤S12,调用MatLab中stereo Camera Calibrator模块,导入上步获取的多组棋盘图像对进行标定,删除重投影误差较大的图像对;
步骤S13,导出一个mat格式文件,其中包括左、右目相机的内参数和畸变参数,以及双目相机的外参数,完成双目相机标定工作;
其中,步骤S2使用双目相机采集目标绿篱图像,提取目标绿篱模板图像的方法包括以下步骤:
步骤S21,色彩空间转换与分量提取:将目标绿篱RGB图像转换到HSV图像,对HSV图像分别从三个分量方向进行分解,将原图像HSV色彩空间下的S分量作为后续二值化处理的初始图像;
步骤S22,图像二值化:使用最大类间方差法对S分量图像进行二值化分割;所述最大类间方差法为Otsu阈值分割算法;
步骤S23,图像形态学处理:使用图像形态学中的开运算、闭运算对二值化图像进行去噪处理;
步骤S24,生成绿篱模板图像:通过OpenCV库中的findContour()函数找到步骤S23得到的二值化图像的绿篱区域,然后通过boundingRect()函数获取该区域的外接正矩形,将该外接正矩形所在的位置投影到原图中,对正矩形区域进行截取,从而获得目标绿篱模板图像;
其中,步骤S3对图像进行图像灰度化处理的方法为:
采用加权平均值法对图像进行灰度化处理,将R、G、B三个分量按照一定的比例进行加权求和并以此作为当前像素的灰度值,具体公式如下:
Gray=wrR+wgG+wbB
式中,wr,wg,wb分别为三个分量的权重系数,这三个分量的权重系数分别设置为wr=0.299,wg=0.587,wb=0.114;
其中,步骤S3对图像进行图像滤波处理的方法为:
采用中值滤波的方法对图像数据进行降噪处理,即用像素点邻域灰度值的中值来代替该像素点的灰度值,以此消除孤立的噪声点;
其中,步骤S4依据目标绿篱模板图像,通过模板匹配的方法,实现对目标绿篱的匹配识别的方法包括以下步骤:
步骤S41,将S2步骤获得的像素大小为m×n的绿篱模板图像M0按照如下公式进行缩放得到Mi:
其中,i为更新的代数,d为模板更新过程中的缩放步长,N为最大的更新次数;
步骤S42,基于NCC(Normalized Cross Correlation)模板匹配算法,将缩放后的模板图像Mi与步骤S3获得的左目绿篱图像进行模板匹配得到感兴趣区域Ai;
步骤S43,计算Mi与Ai的相似度,采用峰值信噪比(PSNR)作为相似性的度量标准,记为Pi,公式如下:
其中,L为Mi的最大灰度值;MSE为均方误差,公式如下:
其中,M和N分别表示Mi的长和宽,R(i,j)、D(i,j)分别为Mi与Ai在(i,j)点的像素值;
步骤S44,统计N次模板匹配得到的相似度Pi,得到其中最大Pi对应的感兴趣区域Ai,Ai即为最佳的匹配识别结果;
其中,步骤S5对匹配识别到的左目绿篱图像进行分割,提取左、右目图像的特征点来完成立体匹配,然后基于匹配点对的视差值计算特征点的三维坐标,通过特征点的三维坐标拟合出代表目标绿篱的球体,从而获取绿篱的修剪中心坐标和修剪半径,实现对目标绿篱的定位的方法包括以下步骤:
步骤S51,图像分割:基于步骤S4得到的目标绿篱左目图像的识别结果,使用GarbCut算法进行图像分割,得到左目分割图像;
步骤S52,双目立体校正:利用步骤S1得到的相机的畸变参数,结合相机的畸变模型,对步骤S51得到的左目分割图像和步骤S3得到右目图像进行畸变修复,得到修复后成像点的坐标,然后使用Bouguet算法对左目分割图像和右目图像进行平行校准,完成双目立体校正;
步骤S53,特征点立体匹配:利用SURF算法提取步骤S52得到的左目图像和右目图像的特征点,建立特征点的集合,使用欧氏距离对集合内任意两特征点进行相似度度量,从中选取出匹配的特征点对,具体过程如下:
左、右目图像中任意两点Li和Ri的相似度表示为:
其中,Ri=(Ri1,Ri2,…Ri64)Li=(li1,li2,…li64),两个特征点均用64维的特征向量进行描述;
R*=arg min d(Li,Ri)
其中,R*表示右目图中距离Li最近的特征点;当匹配点间的欧式距离满足公d(Li,R*)<β时,才被认为是准确的匹配点对,其中,β=0.6;
步骤S54,获取特征点的三维坐标:计算匹配点对的水平像素差值得到视差值,结合相机的内参数、外参数、畸变参数和四大坐标系的转换关系,得到特征点的三维坐标,即空间点相对于左目相机原点的三维坐标,再基于MatLab实现特征点的可视化;
步骤S55,绿篱三维重建:基于最小二乘法的球体拟合算法,使用步骤S54得到的特征点的三维坐标拟合出代表目标绿篱的球体,具体过程如下:
将球体的空间方程定义为:
x2+y2+z2Ax-By-Cz+D=0
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111461486.5A CN114241047B (zh) | 2021-12-02 | 2021-12-02 | 一种用于园林绿篱修剪的双目视觉识别和定位方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111461486.5A CN114241047B (zh) | 2021-12-02 | 2021-12-02 | 一种用于园林绿篱修剪的双目视觉识别和定位方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114241047A CN114241047A (zh) | 2022-03-25 |
CN114241047B true CN114241047B (zh) | 2023-04-07 |
Family
ID=80752820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111461486.5A Active CN114241047B (zh) | 2021-12-02 | 2021-12-02 | 一种用于园林绿篱修剪的双目视觉识别和定位方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114241047B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115014296A (zh) * | 2022-07-06 | 2022-09-06 | 南方电网数字电网研究院有限公司 | 基于相机的输电线测距方法、装置和计算机设备 |
CN115239721A (zh) * | 2022-09-22 | 2022-10-25 | 武汉艾极涂科技有限公司 | 一种刀具缺陷修复方法、装置、设备及存储介质 |
CN117086500A (zh) * | 2023-08-17 | 2023-11-21 | 深圳市大德激光技术有限公司 | 一种激光蚀刻设备电气控制系统 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7676081B2 (en) * | 2005-06-17 | 2010-03-09 | Microsoft Corporation | Image segmentation of foreground from background layers |
CH701247A1 (de) * | 2009-06-11 | 2010-12-15 | Joerg-Ulrich Zowalla | Schablone und Schablonenset zum Einsatz bei der Reparatur von Verbundwerkstoffen. |
CN103679707A (zh) * | 2013-11-26 | 2014-03-26 | 西安交通大学 | 基于双目相机视差图的道路障碍物检测系统及检测方法 |
CN106600581B (zh) * | 2016-12-02 | 2019-09-24 | 北京航空航天大学 | 一种基于双目立体视觉的列车运行故障自动检测系统及方法 |
CN206547406U (zh) * | 2017-03-10 | 2017-10-13 | 重庆交通大学 | 蛇形绿篱修剪设备 |
CN207322133U (zh) * | 2017-10-31 | 2018-05-08 | 河北工业大学 | 一种基于可见光-红外技术的树木植保系统 |
CN107593200B (zh) * | 2017-10-31 | 2022-05-27 | 河北工业大学 | 一种基于可见光-红外技术的树木植保系统及方法 |
CN109447908A (zh) * | 2018-09-25 | 2019-03-08 | 上海大学 | 一种基于立体视觉的钢卷识别定位方法 |
CN109769492B (zh) * | 2019-04-08 | 2023-09-08 | 滨州学院 | 一种用于球形植被修剪的绿篱刀及绿篱机 |
CN111149536A (zh) * | 2019-12-31 | 2020-05-15 | 广西大学 | 一种无人绿篱修剪机及其控制方法 |
CN112561985B (zh) * | 2020-10-27 | 2021-07-20 | 广西大学 | 一种基于双目视觉的绿篱苗木修剪对中方法 |
-
2021
- 2021-12-02 CN CN202111461486.5A patent/CN114241047B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN114241047A (zh) | 2022-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114241047B (zh) | 一种用于园林绿篱修剪的双目视觉识别和定位方法 | |
CN108009542B (zh) | 油菜大田环境下杂草图像分割方法 | |
Wang et al. | Semantic segmentation of crop and weed using an encoder-decoder network and image enhancement method under uncontrolled outdoor illumination | |
EP3199009B1 (en) | Self-moving robot | |
CN107067015B (zh) | 一种基于多特征深度学习的车辆检测方法及装置 | |
Nguyen et al. | 3D scanning system for automatic high-resolution plant phenotyping | |
CN111815710B (zh) | 鱼眼相机自动标定方法 | |
CN110414308B (zh) | 一种针对输电线路上动态异物的目标识别方法 | |
CN112396019A (zh) | 一种基于无人机的植被分布识别方法、系统及可读存储介质 | |
CN108154496B (zh) | 一种适用于电力作业机器人的电力设备外观变化识别方法 | |
CN111402250A (zh) | 基于边缘计算的机器视觉缺陷检测方法和平台 | |
CN104992448A (zh) | 机器人防损伤采摘葡萄的自动定位方法 | |
CN110503051A (zh) | 一种基于图像识别技术的珍贵木材识别系统及方法 | |
CN117593193A (zh) | 一种基于机器学习的钣金图像增强方法及系统 | |
CN116843581A (zh) | 一种多场景图的图像增强方法、系统、设备和存储介质 | |
CN110751690A (zh) | 铣床刀头视觉定位方法 | |
CN111079530A (zh) | 一种成熟草莓识别的方法 | |
CN116596987A (zh) | 一种基于双目视觉的工件三维尺寸高精度测量方法 | |
CN116188763A (zh) | 一种基于YOLOv5的纸箱识别定位及放置角度的测量方法 | |
CN113947563A (zh) | 一种基于深度学习的电缆工艺质量动态缺陷检测方法 | |
Zhang et al. | An obstacle detection system based on monocular vision for apple orchardrobot | |
CN112116580B (zh) | 用于摄像头支架的检测方法、系统及设备 | |
CN109191454A (zh) | 一种电力监控系统的工作方法 | |
CN115861451B (zh) | 一种基于机器视觉的多功能图像处理方法及系统 | |
CN109319619A (zh) | 一种电梯智能监控系统的工作方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |