CN110378901B - 一种基于深度相机的球形花木中心测量与修剪控制方法 - Google Patents

一种基于深度相机的球形花木中心测量与修剪控制方法 Download PDF

Info

Publication number
CN110378901B
CN110378901B CN201910757067.2A CN201910757067A CN110378901B CN 110378901 B CN110378901 B CN 110378901B CN 201910757067 A CN201910757067 A CN 201910757067A CN 110378901 B CN110378901 B CN 110378901B
Authority
CN
China
Prior art keywords
depth
spherical
flowers
trees
depth camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910757067.2A
Other languages
English (en)
Other versions
CN110378901A (zh
Inventor
李福东
张瑞宏
陈斌
杨月全
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yangzhou University
Original Assignee
Yangzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yangzhou University filed Critical Yangzhou University
Priority to CN201910757067.2A priority Critical patent/CN110378901B/zh
Publication of CN110378901A publication Critical patent/CN110378901A/zh
Application granted granted Critical
Publication of CN110378901B publication Critical patent/CN110378901B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G3/00Cutting implements specially adapted for horticultural purposes; Delimbing standing trees
    • A01G3/04Apparatus for trimming hedges, e.g. hedge shears
    • A01G3/0435Machines specially adapted for shaping plants, e.g. topiaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30188Vegetation; Agriculture

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Ecology (AREA)
  • Forests & Forestry (AREA)
  • Environmental Sciences (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了园林机械领域内的一种基于深度相机的球形花木中心测量与修剪控制方法,通过安装于修剪刀头侧面的深度相机获取球形花木的表面深度图像,并对球形花木表面深度图像进行滤波与形态学处理,获取球形花木的中心,根据求取的球形花木中心控制花木修剪机构对球形花木进行修剪,本发明利用深度相机获取球形花木的中心,并控制修剪机带动修剪刀头对球形花木进行自动修剪,不需要操作工人花费大量精力将修剪刀头精确对到球形花木的修剪位置,大大节省球形花木的修剪时间,提高球形花木的修剪一致性和稳定性,可用于灌木修剪中。

Description

一种基于深度相机的球形花木中心测量与修剪控制方法
技术领域
本发明涉及一种修剪方法,特别涉及一种球形花木中心测量与修剪控制方法。
背景技术
传统的花木修剪都是人工修剪,近些年有研究学者开始探索自动花木修剪机构,并实现了部分自动化,但是针对高速公路上球形花木的自动修剪机构,尤其是球形花木的中心自动定位和自动修剪还存在很多难题需要解决。由于花木修剪工人在高速公路上作业非常危险,而且对球形花木的修剪效率低,一种自动的球形花木自动修剪机构非常有意义。
随着主动式的深度相机的发展(TOF、结构光等),利用单个深度相机获取目标物表面的深度信息已成为可能。
发明内容
本发明的目的是提供一种基于深度相机的球形花木中心测量与修剪控制方法,可更加精确高效地对球形花木进行修剪,大量节省人力与时间,稳定高效,精确度高,实用性强。
本发明的目的是这样实现的:一种基于深度相机的球形花木中心测量与修剪控制方法,包括离线和在线两个过程:
离线过程:
步骤S1:深度相机标定,使用标定板对深度图像的像素长度fx,fy和测量深度H关系进行线性标定,获取深度图像的像素长度;
步骤S2:将深度相机移动到待修剪球形花木上方,测量花木中心在深度相机坐标系中的深度H0
步骤S3:通过调整旋转大臂和水平移动滑台来调整修剪刀头位置,使其对准花木中心,然后调整竖直移动滑台使修剪刀头下降到合适的修剪位置,记竖直移动滑台下降高度为h0,作为示教下降高度;
在线过程:
步骤S4:移动整个修剪平台,使得待修剪的花木大致位于深度相机的视野范围内;
步骤S5:深度相机获取球形花木的深度图像,并根据所获取的球形花木深度图像计算球形花木的中心坐标;
步骤S6:通过深度相机所测量的球形花木中心点坐标(Δx,Δy)和球形花木在深度相机中的深度信息H,计算运动执行机构的调整参数,即,旋转大臂的旋转角度θ,水平移动滑台的移动距离d,竖直移动滑台的移动距离h:
h=(H-H0)+h0
其中,X为深度相机中心点距离旋转大臂主轴水平x向距离,Y为深度相机中心点距离转大臂旋转轴中心点水平y向距离,x向与y向分别为深度相机的相机坐标系x轴与y轴方向。
作为本发明的进一步限定,步骤1)具体为:使用标定板对深度图像的像素长度fx,fy和测量深度H关系进行线性标定,获取深度图像的像素长度:
fx=lx×H
fy=ly×H
其中,lx,ly为定值,H为像素的深度,fx,fy为H深度处像素的长度。
作为本发明的进一步限定,步骤S5)根据深度图像求取球形花木中心坐标的算法如下:
5-1)将深度图转换为灰度图;
5-2)使用测量深度对应的灰度阈值对转换后的灰度图像进行阈值分割,获取球形花木的表面信息;
5-3)对所分割的球形花木表面区域进行填充、闭运算和连通区域运算等图像形态学处理,然后选择面积最大的连通区域作为球形花木表面区域;
5-4)对球形花木表面区域进行最小外接圆拟合获取球形花木在图像中的中心坐标(u,v),并转换为相机坐标系中的距离:
Δx=fx×(u-Width/2)
Δy=fy×(v-Height/2)
Width与Height分别为深度图像的宽度和高度;
5-5)在最小外接圆的范围内,自最低测量深度对应的灰度开始以灰度1为步长,循环对该范围内的深度图像进行阈值分割并计算分割区域面积,直到达到最小外接圆面积的1/10为止,记下此时的分割阈值,即深度信息H。
与现有技术相比,本发明的有益效果在于,本发明采用深度相机获取球形花木表面的深度图像,并对球形花木表面深度图像进行滤波与形态学处理,获取球形花木的中心,然后通过相机模型和与修剪机的几何关系,计算出实际需要旋转的角度与平移距离,从而控制修剪刀头对花木进行精确地修剪;本发明相对于人工修剪,大量节省了人力与时间,稳定高效,精确度高,实用性强。
附图说明
图1为本发明中修剪装置结构示意图。
图2为本发明中定位几何关系图。
图3为本发明一球形花木中心测量实例图。
具体实施方式
下面结合具体实施例对本发明做进一步说明。
如图1所示的一种基于深度相机的球形花木中心测量与修剪控制装置,主要由一个大臂10以及安装于其末端的深度相机8、水平移动滑台7、竖直移动滑台6和修剪刀头9构成,其中,大臂10及其末端组成的竖直移动滑台6、水平移动滑台7具有三个自由度,能够带动修剪刀头9对任意中心高度的花木进行修剪;深度相机8安装于大臂末端,用于测量待修剪花木的形态中心,并获取表面深度信息,不跟随竖直移动滑台6、水平移动滑台7一起移动,大臂10末端的竖直移动滑台6与水平移动滑台7进行组合,水平移动滑台7带动竖直移动滑台6以及下方安装的修剪刀头9一起移动;当修剪刀头9的旋转中心未精确定位到待修剪花木中心的正上方时,修剪刀头9及竖直滑台6始终处于最上限高度处;大臂转轴11、水平移动滑台7、竖直移动滑台6分别通过各自电机连接线3、4与电控柜和工控机1相连,电控柜和工控机1与大臂10经旋转电机连接线2;深度相机8通过深度相机连接线5与电控柜和工控机1相连;本发明采用深度相机8对球形花木进行图像采集,同时获得花木表面图像的深度信息,随后对深度信息图像进行滤波与形态学处理,从而获得精确的球形花木的中心位置;接着利用相机模型与特定的几何关系,计算出实际需求的旋转角度和位移距离,从而由电控柜和工控机1发出信号,精确地引导修剪刀头9移动到花木的中心上方位置;到位后,根据离线时存储的示教下降高度以及当前在线检测到的球形花木中心高度的大小关系,计算出此时应当下降的高度,下降完毕后,工控机1发出信号,修剪刀头9开始旋转进行修剪。
如图3所示的一种基于深度相机的球形花木中心测量与修剪控制方法,包括如下步骤进行,参阅图3:
1.离线标定与示教:
深度相机像素长度标定和修剪高度示教,像素长度fx,fy和测量深度H(1000mm-3000mm范围)关系线性标定结果为fx=0.0021×H,fy=0.0023×H,示教花木中心高度测量为H0=1825mm,竖直滑台示教下降高度为h0=372mm
2.在线测量与控制:
已知机械大臂10的水平方向距离相机固定处Y=3800mm、相机支架长度约为X=500mm,所测量球形花木中心坐标为(Δx=35,Δy=52)所求执行机构运动参数为:
旋转角度:
平移距离:
测得其中心高度为H=1904,则根据所示教竖直滑台下降高度h0,得此时竖直滑台应下降高度为:
h=(H-H0)+h0=451
3.通过计算获得的旋转角度以及平移距离,工控机发送电信号给电机等驱动装置,首先旋转大臂7.91°,然后水平滑台前进89.1mm,最后竖直滑台下降451mm,使得修剪刀头的转轴自动准确地定位在球形花木中心的正上方。
4.下降到位后,PLC向刀头发送信号,进行旋转修剪两圈操作。
本发明并不局限于上述实施例,在本发明公开的技术方案的基础上,本领域的技术人员根据所公开的技术内容,不需要创造性的劳动就可以对其中的一些技术特征作出一些替换和变形,这些替换和变形均在本发明的保护范围内。

Claims (1)

1.一种基于深度相机的球形花木中心测量与修剪控制方法,其特征在于,包括离线和在线两个过程:
离线过程:
步骤S1:深度相机标定,使用标定板对深度图像的像素长度fx,fy和测量深度H关系进行线性标定,获取深度图像的像素长度,具体为:使用标定板对深度图像的像素长度fx,fy和测量深度H关系进行线性标定,获取深度图像的像素长度:
fx=lx×H
fy=ly×H
其中,lx,ly为定值,H为像素的深度,fx,fy为H深度处像素的长度;
步骤S2:将深度相机移动到待修剪球形花木上方,测量花木中心在深度相机坐标系中的深度H0
步骤S3:通过调整旋转大臂和水平移动滑台来调整修剪刀头位置,使其对准花木中心,然后调整竖直移动滑台使修剪刀头下降到合适的修剪位置,记竖直移动滑台下降高度为h0,作为示教下降高度;
在线过程:
步骤S4:移动整个修剪平台,使得待修剪的花木大致位于深度相机的视野范围内;
步骤S5:深度相机获取球形花木的深度图像,并根据所获取的球形花木深度图像计算球形花木的中心坐标,根据深度图像求取球形花木中心坐标的算法如下:
5-1)将深度图转换为灰度图;
5-2)使用测量深度对应的灰度阈值对转换后的灰度图像进行阈值分割,获取球形花木的表面信息;
5-3)对所分割的球形花木表面区域进行填充、闭运算和连通区域运算等图像形态学处理,然后选择面积最大的连通区域作为球形花木表面区域;
5-4)对球形花木表面区域进行最小外接圆拟合获取球形花木在图像中的中心坐标(u,v),并转换为相机坐标系中的距离:
Δx=fx×(u-Width/2)
Δy=fy×(v-Height/2)
Width与Height分别为深度图像的宽度和高度;
5-5)在最小外接圆的范围内,自最低测量深度对应的灰度开始以灰度1为步长,循环对该范围内的深度图像进行阈值分割并计算分割区域面积,直到达到最小外接圆面积的1/10为止,记下此时的分割阈值,即深度信息H;
步骤S6:通过深度相机所测量的球形花木中心点坐标(Δx,Δy)和球形花木在深度相机中的深度信息H,计算运动执行机构的调整参数,即,旋转大臂的旋转角度θ,水平移动滑台的移动距离d,竖直移动滑台的移动距离h:
h=(H-H0)+h0
其中,X为深度相机中心点距离旋转大臂主轴水平x向距离,Y为深度相机中心点距离转大臂旋转轴中心点水平y向距离,x向与y向分别为深度相机的相机坐标系x轴与y轴方向。
CN201910757067.2A 2019-08-16 2019-08-16 一种基于深度相机的球形花木中心测量与修剪控制方法 Active CN110378901B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910757067.2A CN110378901B (zh) 2019-08-16 2019-08-16 一种基于深度相机的球形花木中心测量与修剪控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910757067.2A CN110378901B (zh) 2019-08-16 2019-08-16 一种基于深度相机的球形花木中心测量与修剪控制方法

Publications (2)

Publication Number Publication Date
CN110378901A CN110378901A (zh) 2019-10-25
CN110378901B true CN110378901B (zh) 2023-08-08

Family

ID=68259669

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910757067.2A Active CN110378901B (zh) 2019-08-16 2019-08-16 一种基于深度相机的球形花木中心测量与修剪控制方法

Country Status (1)

Country Link
CN (1) CN110378901B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112470735B (zh) * 2020-11-11 2022-07-22 江苏大学 基于三维定位的规则形状苗木自动修剪装置与方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104316083A (zh) * 2014-11-15 2015-01-28 中国科学院光电研究院 一种虚拟多球体球心定位的tof深度相机三维坐标标定装置和方法
CN109272553A (zh) * 2018-09-03 2019-01-25 刘庆飞 用于棉花顶心摘除的定位方法、控制器及摘除装置
CN109269430A (zh) * 2018-08-12 2019-01-25 浙江农林大学 基于深度提取模型的多株立木胸径被动测量方法
CN109285145A (zh) * 2018-08-12 2019-01-29 浙江农林大学 基于智能手机的多株立木高度测量方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104729429B (zh) * 2015-03-05 2017-06-30 深圳大学 一种远心成像的三维形貌测量系统标定方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104316083A (zh) * 2014-11-15 2015-01-28 中国科学院光电研究院 一种虚拟多球体球心定位的tof深度相机三维坐标标定装置和方法
CN109269430A (zh) * 2018-08-12 2019-01-25 浙江农林大学 基于深度提取模型的多株立木胸径被动测量方法
CN109285145A (zh) * 2018-08-12 2019-01-29 浙江农林大学 基于智能手机的多株立木高度测量方法
CN109272553A (zh) * 2018-09-03 2019-01-25 刘庆飞 用于棉花顶心摘除的定位方法、控制器及摘除装置

Also Published As

Publication number Publication date
CN110378901A (zh) 2019-10-25

Similar Documents

Publication Publication Date Title
CN102613041B (zh) 基于机器视觉的葡萄套袋机器人系统
CN113273395A (zh) 一种基于视觉识别的棉花打顶机器人及其实现方法
CN109407111B (zh) 一种隧道三维扫描机特征识别的方法
CN112363503B (zh) 一种基于激光雷达的果园车辆自动导航控制系统
CN112013787B (zh) 基于叶片自特征的叶片三维轮廓重建方法
CN108401684A (zh) 一种智能水果采摘机及采摘方法
CN110378901B (zh) 一种基于深度相机的球形花木中心测量与修剪控制方法
CN108064560A (zh) 基于Kinect景深相机的水果自动采摘系统及方法
CN113985438B (zh) 一种植物三维模型重建系统及方法
CN202890093U (zh) 基于机器视觉的葡萄套袋机器人系统
CN115164752B (zh) 一种大型部件对缝间隙与阶差的自适应测量装备与方法
CN111025323B (zh) 一种基于多线激光雷达的圆柱形绿篱修剪机的对中方法
CN115316129A (zh) 基于双目视觉识别的自适应仿生采摘装置及串果采摘方法
CN117204200B (zh) 基于丝杠运动的名优茶单芽采摘装置及方法
CN116686545B (zh) 基于机器视觉控制的荔枝采摘机器人除遮方法
CN113063349B (zh) 一种橡胶树的起割点检测系统及检测方法
CN205540215U (zh) 果蔬采摘机器人运动控制系统
CN111390911A (zh) 一种机械手位置标定系统及标定方法
CN112215139A (zh) 一种基于超声波传感器与单目相机结合的割刀定位算法
CN110695979A (zh) 一种面向白酒制曲工艺的翻曲机器人
CN116391506A (zh) 一种番茄果实高速收集系统及方法和番茄果实采摘机
CN112837364A (zh) 一种基于双目相机与单目相机结合的割刀辅助定位算法
CN207448587U (zh) 一种用于湿巾生产的湿巾切边及边料收集装置
CN112470735A (zh) 基于三维定位的规则形状苗木自动修剪装置与方法
CN118120473A (zh) 一种用于茶叶的采摘装置及其采摘方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant