CN109782771B - 一种果园移动机器人及地头转向方法 - Google Patents

一种果园移动机器人及地头转向方法 Download PDF

Info

Publication number
CN109782771B
CN109782771B CN201910142164.0A CN201910142164A CN109782771B CN 109782771 B CN109782771 B CN 109782771B CN 201910142164 A CN201910142164 A CN 201910142164A CN 109782771 B CN109782771 B CN 109782771B
Authority
CN
China
Prior art keywords
trunk
robot
steering
row
binocular camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910142164.0A
Other languages
English (en)
Other versions
CN109782771A (zh
Inventor
王孙安
黄冠熹
陈先益
程元皓
于德弘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN201910142164.0A priority Critical patent/CN109782771B/zh
Publication of CN109782771A publication Critical patent/CN109782771A/zh
Application granted granted Critical
Publication of CN109782771B publication Critical patent/CN109782771B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Guiding Agricultural Machines (AREA)

Abstract

一种果园移动机器人的地头转向方法,包括以下步骤:步骤1,Faster R‑cnn神经网络进行树干识别;步骤2,通过识别树干判断果树行末位置;步骤3,到达行末后,通过双目相机确定转向半径d;步骤4,控制器控制车轮转动开始转向,比较实际转向半径和确定转向半径d,适时调整机器人转向位姿;步骤5,当电子罗盘测量的转向角度达到180°时,完成地头转向。

Description

一种果园移动机器人及地头转向方法
技术领域
本发明属于机器人转向技术领域,特别涉及一种果园移动机器人及地头转向方法。
背景技术
目前果园正朝着自动化、信息化、智能化方向发展,以降低劳动强度、节省劳动力,提高劳动效率,实现对果园的精细作业。可以自动完成巡检、剪枝、喷药、采摘等作业的果园机器人不断进入各类果园,果园机器人要完成作业需要一系列基础功能,比如果园机器人自主导航技术等。而目前果园机器人自主导航技术的研究重点多在某一果树行内的定位与导航,对行末定位和地头转向的研究不足。
目前对果园行末定位和地头转向的方法较少。行末定位方法主要利用激光雷达、GPS等传感器,利用激光雷达的方法是在行末端设置反光胶带,果园机器人上的激光雷达探测到行末端的反光胶带,从而标定为行末;利用GPS的方法是对果园机器人进行全局定位,果园机器人上的GPS传感器定位到果园行末即表示机器人到达行末。地头转向的策略主要有以直代曲、直角转弯、隔行转弯等策略,以直代曲方法将转向的圆弧模型分为多个点获得多条线段,依次行走线段实现地头转向;直角转弯的方法转弯时驶出地头后作90°直角转弯,向前行驶一定距离后再作90°直角转弯驶向新的果树行;隔行转弯的策略指的是跨过邻近行直接驶入邻近行的下一行。
对于行末定位,利用激光雷达通过行末设置反光胶带的方法需要在每个果树行末设置反光胶带,耗时耗力、成本高;果园环境中枝叶茂密,GPS信号会受遮挡,定位不准确。对于地头转向,以直代曲的方法每次变换角度到达走新的直线时没有参照物,会使得误差累计;直角转弯的方法不能保证第一次旋转前车身刚好与果树行平行,第一次转向后行走的直线段若与果树行垂直线角度偏差过大不利于第二次旋转车身后顺利进入新的果树行;隔行转弯的策略适合地头长度比较短同时车身比较大的环境,无法成功驶入邻近的果树行只能跨过邻近行驶入邻近行的下一行。
发明内容
本发明的目的在于提供一种果园移动机器人及地头转向方法,以解决上述问题。
为实现上述目的,本发明采用以下技术方案:
一种果园移动机器人,包括车身、车轮、控制器、双目相机和电子罗盘;车轮设置在车身的底部,控制器设置在车身上,且控制器控制车轮转动;车身顶部的两端均设置有双目相机和电子罗盘;双目相机和电子罗盘均连接到控制器。
一种果园移动机器人的地头转向方法,包括以下步骤:
步骤1,Faster R-cnn神经网络进行树干识别;
步骤2,通过识别树干判断果树行末位置;
步骤3,到达行末后,通过双目相机确定转向半径d;
步骤4,控制器控制车轮转动开始转向,比较实际转向半径和确定转向半径d,适时调整机器人转向位姿;
步骤5,当电子罗盘测量的转向角度达到180°时,完成地头转向。
进一步的,步骤1所述的Faster R-cnn网络前端利用一个16层的卷积神经网络提取特征,产生特征图后,在特征图上寻找可能包含目标树干的区域,把可能包含目标树干的区域留下来,进行感兴趣区域池化操作后再次确定是否包含树干,并对圈住树干的方框做方框坐标回归,使其更接近真实树干。
进一步的,步骤2中,包括以下步骤:
1)使机器人沿果树所在行移动,在没到达行末位置的时候,每识别到一颗树,在行走过程中会有新的树进入机器视觉的视野内从而被识别到;
2)当机器人到行末位置后,最后一颗树干即将消失在双目相机视野中时还没有新的树干进入视野,判断最后被检测到的树干即为行末树干,停止机器人行走。
进一步的,步骤3中,机器人到达行末位置后,机器人一侧的双目相机打开,利用双目相机测量机器人与树干之间的距离;机器人到达行末位置后测量行末树干相对于机器人x方向上的距离d,依此距离作为转向半径,行末树干为圆心的半圆即为期望转向路径。
进一步的,步骤4中,开始转向后,实时测量机器人与行末树干的距离d’,并通过电子罗盘记录转向累计偏移角,果园机器人依据径向偏差d-d’为导航控制量,实时动态地调整机器人位姿,定义一个阈值h,如果d-d’>h,则通过控制左右轮速度增大转弯半径,如果d-d’<h,则通过控制左右轮速度减小转弯半径。
与现有技术相比,本发明有以下技术效果:
(1)Faster R-cnn深度神经网络树干识别技术准确率高,速度快。
(2)行末定位技术只需识别定位到行末树干,不需要额外添加标志物、定位准确、速度快、稳定性好。
(3)地头转向技术利用双目立体视觉和电子罗盘实时调整机器人位姿,准确率高、稳定性好、灵活性强。
附图说明
图1为本发明流程图;
图2为本发明Faster R-cnn流程图;
图3为行末定位示意图;
图4为行末定位流程图;
图5为期望转向路径示意图;
图6为地头转向示意图;
图7为地头转向示意图;
图8为地头转向完成示意图;
图9为地头转向流程图;
图10为本发明机器人结构示意图;
其中:1-电子罗盘,2-双目相机,3-控制器,4-车身,5-车轮。
具体实施方式
以下结合附图对本发明进一步说明:
请参阅图1至图10,一种果园移动机器人,包括车身4、车轮5、控制器3、双目相机2和电子罗盘1;车轮5设置在车身4的底部,控制器3设置在车身4上,且控制器3控制车轮5转动;车身4顶部的两端均设置有双目相机2和电子罗盘1;双目相机2和电子罗盘1均连接到控制器3。
基于权利要求1所述的一种果园移动机器人,包括以下步骤:
步骤1,Faster R-cnn神经网络进行树干识别;
步骤2,通过识别树干判断果树行末位置;
步骤3,到达行末后,通过双目相机确定转向半径d;
步骤4,控制器控制车轮转动开始转向,比较实际转向半径和确定转向半径d,适时调整机器人转向位姿;
步骤5,当电子罗盘测量的转向角度达到180°时,完成地头转向。
步骤1所述的Faster R-cnn网络前端利用一个16层的卷积神经网络提取特征,产生特征图后,在特征图上寻找可能包含目标树干的区域,把可能包含目标树干的区域留下来,进行感兴趣区域池化操作后再次确定是否包含树干,并对圈住树干的方框做方框坐标回归,使其更接近真实树干。
步骤2中,包括以下步骤:
1)使机器人沿果树所在行移动,在没到达行末位置的时候,每识别到一颗树,在行走过程中会有新的树进入机器视觉的视野内从而被识别到;
2)当机器人到行末位置后,最后一颗树干即将消失在双目相机视野中时还没有新的树干进入视野,判断最后被检测到的树干即为行末树干,停止机器人行走。
步骤3中,机器人到达行末位置后,机器人一侧的双目相机打开,利用双目相机测量机器人与树干之间的距离;机器人到达行末位置后测量行末树干相对于机器人x方向上的距离d,依此距离作为转向半径,行末树干为圆心的半圆即为期望转向路径。
步骤4中,开始转向后,实时测量机器人与行末树干的距离d’,并通过电子罗盘记录转向累计偏移角,果园机器人依据径向偏差d-d’为导航控制量,实时动态地调整机器人位姿,定义一个阈值h,如果d-d’>h,则通过控制左右轮速度增大转弯半径,如果d-d’<h,则通过控制左右轮速度减小转弯半径。
Faster R-cnn神经网络进行树干识别。因为即要观测到是否有树干,又要检测出树干与机器人的相对位置,要求有高准确率和较高实时性,所以本发明开启一侧的双目测距平台的左单目摄像头,利用Faster R-cnn神经网络进行树干检测。Faster R-cnn网络前端利用一个16层的卷积神经网络提取特征,产生特征图后,在特征图上寻找可能包含目标树干的区域,把可能包含目标树干的区域留下来,进行感兴趣区域池化操作后再次确定是否包含树干,并对圈住树干的方框做方框坐标回归,使其更接近真实树干。Faster R-Cnn流程图如图2所示。
果园机器人行末位置判定方法。机器人在没到达行末位置的时候,每识别到一颗树,在行走过程中会有新的树进入机器视觉的视野内从而被识别到,而到达行末位置时,机器人往前走一定范围不会有新的树进入机器视觉视野。以机器人左转为例如图3所示。
图3中虚线表示机器人侧面摄像头的视野,所有的圆圈和矩形都表示树干,圆圈表示目前被识别到的树干,矩形表示目前没被识别到的树干,树干组成果树行,机器人从下往上走。可以看到当机器人未到达行末位置时,每识别到一颗树干在这颗树干还没消失在视野里时会有新的树干被识别到,如图中状态1和状态2所示;但当机器人到行末位置后,最后一颗树干几乎快消失在视野中时还没有新的树干进入视野,如图中状态3所示,这时候可以判断最后被检测到的树干即为行末树干。行末定位流程图如图4所示。
确定行末转向半径方法。到达行末位置后,机器人一侧的双目相机打开,利用双目测量机器人与树干之间的距离。机器人到达行末位置后测量行末树干相对于机器人x方向上的距离d,依此距离作为半径,行末树干为圆心的半圆即为期望路径。如图5所示,图中以d为半径,行末树干为圆心的红色半圆即为果园机器人地头转向期望半径。
果园机器人地头转向策略。实时测量机器人与行末树干的距离d’,并通过电子罗盘记录转向累计偏移角,果园机器人依据径向偏差d-d’为导航控制量,实时动态地调整机器人位姿,定义一个阈值h,如果d-d’>h,则通过控制左右轮速度增大转弯半径,如果d-d’<h,则通过控制左右轮速度减小转弯半径。
图6为机器人地头转向到某一位置的示意图,假设此时测量的机器人与行末果树距离d’-d>h,则应该减小转弯半径继续行走,如图7所示:图7中蓝色圆弧线段表示机器人实际走的路径,之后过程以此类推。当电子罗盘测量的转向角度达到180°时,完成地头转向。完成地头转向的示意图如图8所示,图8中机器人成功驶入下一行,蓝色线段表示果园机器人实际走过的所有路径。
地头转向流程图如图9。

Claims (1)

1.一种果园移动机器人的地头转向方法,其特征在于,一种果园移动机器人,包括车身(4)、车轮(5)、控制器(3)、双目相机(2)和电子罗盘(1);车轮(5)设置在车身(4)的底部,控制器(3)设置在车身(4)上,且控制器(3)控制车轮(5)转动;车身(4)顶部的两端均设置有双目相机(2)和电子罗盘(1);双目相机(2)和电子罗盘(1)均连接到控制器(3),包括以下步骤:
步骤1,Faster R-cnn神经网络进行树干识别;
步骤2,通过识别树干判断果树行末位置;
步骤3,到达行末后,通过双目相机确定转向半径d;
步骤4,控制器控制车轮转动开始转向,比较实际转向半径和确定转向半径d,适时调整机器人转向位姿;
步骤5,当电子罗盘测量的转向角度达到180°时,完成地头转向;
步骤1所述的Faster R-cnn网络前端利用一个16层的卷积神经网络提取特征,产生特征图后,在特征图上寻找可能包含目标树干的区域,把可能包含目标树干的区域留下来,进行感兴趣区域池化操作后再次确定是否包含树干,并对圈住树干的方框做方框坐标回归,使方框位置更接近真实树干的位置;
步骤2中,包括以下步骤:
1)使机器人沿果树所在行移动,在没到达行末位置的时候,每识别到一颗树,在行走过程中会有新的树进入机器视觉的视野内从而被识别到;
2)当机器人到行末位置后,最后一颗树干即将消失在双目相机视野中时还没有新的树干进入视野,判断最后被检测到的树干即为行末树干,停止机器人行走;
步骤3中,机器人到达行末位置后,机器人一侧的双目相机打开,利用双目相机测量机器人与树干之间的距离;机器人到达行末位置后测量行末树干相对于机器人x方向上的距离d,依此距离作为转向半径,行末树干为圆心的半圆即为期望转向路径;
步骤4中,开始转向后,实时测量机器人与行末树干的距离d’,并通过电子罗盘记录转向累计偏移角,果园机器人依据径向偏差d-d’为导航控制量,实时动态地调整机器人位姿,定义一个阈值h,如果d-d’>h,则通过控制左右轮速度增大转弯半径,如果d-d’<h,则通过控制左右轮速度减小转弯半径。
CN201910142164.0A 2019-02-26 2019-02-26 一种果园移动机器人及地头转向方法 Active CN109782771B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910142164.0A CN109782771B (zh) 2019-02-26 2019-02-26 一种果园移动机器人及地头转向方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910142164.0A CN109782771B (zh) 2019-02-26 2019-02-26 一种果园移动机器人及地头转向方法

Publications (2)

Publication Number Publication Date
CN109782771A CN109782771A (zh) 2019-05-21
CN109782771B true CN109782771B (zh) 2021-01-19

Family

ID=66485840

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910142164.0A Active CN109782771B (zh) 2019-02-26 2019-02-26 一种果园移动机器人及地头转向方法

Country Status (1)

Country Link
CN (1) CN109782771B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110517228A (zh) * 2019-07-30 2019-11-29 浙江农林大学 基于卷积神经网络与迁移学习的树干图像快速检测方法
CN114485667B (zh) * 2022-01-13 2024-05-24 中国农业大学 一种轻智能化的果园地头导航方法
US12069974B2 (en) 2022-06-17 2024-08-27 Cnh Industrial America Llc Agricultural vehicle with satellite and variable wheel speed turn control

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102368158A (zh) * 2011-09-15 2012-03-07 西北农林科技大学 一种果园机械导航定位方法
CN102436225A (zh) * 2011-09-15 2012-05-02 西北农林科技大学 一种果园机械导航系统
CN203675606U (zh) * 2014-01-26 2014-07-02 北京农业信息技术研究中心 一种无人驾驶果园施肥机器人
CN106017477A (zh) * 2016-07-07 2016-10-12 西北农林科技大学 一种果园机器人的视觉导航系统
CN106199558A (zh) * 2016-08-18 2016-12-07 宁波傲视智绘光电科技有限公司 障碍物快速检测方法
CN106709568A (zh) * 2016-12-16 2017-05-24 北京工业大学 基于深层卷积网络的rgb‑d图像的物体检测和语义分割方法
CN106843221A (zh) * 2017-03-07 2017-06-13 普倩萌 一种多农业机器人的转弯协调控制方法及装置
CN206421229U (zh) * 2017-01-22 2017-08-18 无锡卡尔曼导航技术有限公司 一种基于北斗的农机自动驾驶控制装置
CN107274451A (zh) * 2017-05-17 2017-10-20 北京工业大学 基于共享卷积神经网络的绝缘子检测方法及装置
CN107451602A (zh) * 2017-07-06 2017-12-08 浙江工业大学 一种基于深度学习的果蔬检测方法
CN107817794A (zh) * 2017-10-13 2018-03-20 上海司南卫星导航技术股份有限公司 自动导航方法、控制装置及导航系统
CN108908349A (zh) * 2018-10-05 2018-11-30 西北农林科技大学 一种采摘机器人底盘控制系统
CN109197160A (zh) * 2018-09-12 2019-01-15 华南农业大学 一种番石榴采摘机器人及其实现方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7765780B2 (en) * 2003-12-12 2010-08-03 Vision Robotics Corporation Agricultural robot system and method
US7509199B2 (en) * 2006-06-30 2009-03-24 Deere & Company System and method for calculating instantaneous placement corrections to achieve towed implement placement on curved paths
PL2086308T3 (pl) * 2006-09-28 2011-08-31 Univ Leuven Kath Autonomiczna maszyna do zbierania owoców
JP5286214B2 (ja) * 2009-09-30 2013-09-11 日立オートモティブシステムズ株式会社 車両制御装置
KR101799977B1 (ko) * 2013-07-05 2017-11-22 한국기술교육대학교 산학협력단 로봇의 주행 제어 방법 및 그 장치
EP2884364B1 (en) * 2013-12-12 2018-09-26 Hexagon Technology Center GmbH Autonomous gardening vehicle with camera
US10698402B2 (en) * 2015-01-21 2020-06-30 Ramot At Tel-Aviv University Ltd. Agricultural robot
GB201513552D0 (en) * 2015-07-31 2015-09-16 Agco Int Gmbh Steering system for a wheeled agricultural material applicator machine

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102436225A (zh) * 2011-09-15 2012-05-02 西北农林科技大学 一种果园机械导航系统
CN102368158A (zh) * 2011-09-15 2012-03-07 西北农林科技大学 一种果园机械导航定位方法
CN203675606U (zh) * 2014-01-26 2014-07-02 北京农业信息技术研究中心 一种无人驾驶果园施肥机器人
CN106017477A (zh) * 2016-07-07 2016-10-12 西北农林科技大学 一种果园机器人的视觉导航系统
CN106199558A (zh) * 2016-08-18 2016-12-07 宁波傲视智绘光电科技有限公司 障碍物快速检测方法
CN106709568A (zh) * 2016-12-16 2017-05-24 北京工业大学 基于深层卷积网络的rgb‑d图像的物体检测和语义分割方法
CN206421229U (zh) * 2017-01-22 2017-08-18 无锡卡尔曼导航技术有限公司 一种基于北斗的农机自动驾驶控制装置
CN106843221A (zh) * 2017-03-07 2017-06-13 普倩萌 一种多农业机器人的转弯协调控制方法及装置
CN107274451A (zh) * 2017-05-17 2017-10-20 北京工业大学 基于共享卷积神经网络的绝缘子检测方法及装置
CN107451602A (zh) * 2017-07-06 2017-12-08 浙江工业大学 一种基于深度学习的果蔬检测方法
CN107817794A (zh) * 2017-10-13 2018-03-20 上海司南卫星导航技术股份有限公司 自动导航方法、控制装置及导航系统
CN109197160A (zh) * 2018-09-12 2019-01-15 华南农业大学 一种番石榴采摘机器人及其实现方法
CN108908349A (zh) * 2018-10-05 2018-11-30 西北农林科技大学 一种采摘机器人底盘控制系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Faster_R_CNN模型在车辆检测中的应用;王林等;《计算机应用》;20180310;第666-670页 *

Also Published As

Publication number Publication date
CN109782771A (zh) 2019-05-21

Similar Documents

Publication Publication Date Title
CN107402573B (zh) 自动工作系统,自移动设备及其控制方法
EP3692337B1 (en) Map information provision system
CN109782771B (zh) 一种果园移动机器人及地头转向方法
CN106708060B (zh) 一种无外部导航信息的割草机自主有序割草方法
CN111290388B (zh) 路径追踪方法、系统,机器人及可读存储介质
CN108609014B (zh) 智能车辆的横向控制方法及装置
CN109634276B (zh) 农用车辆无人驾驶控制方法、系统及该农用车辆
CN102368158B (zh) 一种果园机械导航定位方法
US10197407B2 (en) Method and robot system for autonomous control of a vehicle
CN107065870A (zh) 移动机器人自主导航系统及方法
CN113126613B (zh) 智能割草系统及其自主建图方法
CN102789233A (zh) 基于视觉的组合导航机器人及导航方法
CN109709943B (zh) 一种自动驾驶公交车进站停靠点的选取方法
CN111208817B (zh) 窄道通行方法、装置、移动装置以及计算机可读存介质
CN105955257A (zh) 基于固定路线的公交车自动驾驶系统及其驾驶方法
CN112965481A (zh) 基于点云地图的果园作业机器人无人驾驶方法
CN105182976A (zh) 一种农业机器人的视觉导航策略
CN112985401A (zh) 一种headline全路径规划和跟踪方法
IT201900010668A1 (it) Metodo di installazione di un dispositivo mobile per la manutenzione di terreni
US20240085919A1 (en) Traversal Method and System, Robot, and Readable Storage Medium
CN114937258B (zh) 割草机器人的控制方法、割草机器人以及计算机存储介质
JP2012145998A (ja) 自律走行体
CN114527727B (zh) 一种自走式喷杆喷雾机及其无人驾驶控制系统及方法
CN112731934B (zh) 基于区域分割的智能割草机快速回充电站的方法
CN110780669A (zh) 林间机器人导航与信息采集方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Wang Sunan

Inventor after: Huang Guanxi

Inventor after: Chen Xianyi

Inventor after: Cheng Yuanhao

Inventor after: Yu Dehong

Inventor before: Wang Sunan

Inventor before: Chen Xianyi

Inventor before: Cheng Yuanhao

Inventor before: Huang Guanxi

Inventor before: Yu Dehong

CB03 Change of inventor or designer information
GR01 Patent grant
GR01 Patent grant