CN116749173A - 水果采摘机器人的管控方法及系统、水果采摘机器人 - Google Patents

水果采摘机器人的管控方法及系统、水果采摘机器人 Download PDF

Info

Publication number
CN116749173A
CN116749173A CN202310533838.6A CN202310533838A CN116749173A CN 116749173 A CN116749173 A CN 116749173A CN 202310533838 A CN202310533838 A CN 202310533838A CN 116749173 A CN116749173 A CN 116749173A
Authority
CN
China
Prior art keywords
picking
target
information
fruit
robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310533838.6A
Other languages
English (en)
Inventor
田宜彬
卢大江
钟小品
吴宗泽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen University
Original Assignee
Shenzhen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen University filed Critical Shenzhen University
Priority to CN202310533838.6A priority Critical patent/CN116749173A/zh
Publication of CN116749173A publication Critical patent/CN116749173A/zh
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01DHARVESTING; MOWING
    • A01D46/00Picking of fruits, vegetables, hops, or the like; Devices for shaking trees or shrubs
    • A01D46/30Robotic devices for individually picking crops
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01DHARVESTING; MOWING
    • A01D46/00Picking of fruits, vegetables, hops, or the like; Devices for shaking trees or shrubs
    • A01D46/24Devices for picking apples or like fruit
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • B25J9/1605Simulation of manipulator lay-out, design, modelling of manipulator
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Environmental Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Manipulator (AREA)

Abstract

本发明公开了一种水果采摘机器人的管控方法及系统、水果采摘机器人,该方法包括:水果采摘机器人确定采摘任务并根据采摘任务移动至目标采摘位点;对目标采摘位点处所有采摘目标执行信息采集及采摘队列构建操作,得到第一采摘信息;根据第一采摘信息对所有采摘目标执行信息多级分析处理操作,得到第二采摘信息;并根据第二采摘信息执行第三采摘处理操作;并判断是否完成目标采摘位点的采摘任务,若是,更新采摘任务并移动至下一采摘位点;第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。可见,实施本发明提高检测水果位置的准确度、判别水果采摘的准确性,以及提高水果采摘的精准度以及采摘可靠性。

Description

水果采摘机器人的管控方法及系统、水果采摘机器人
技术领域
本发明涉及机器人控制技术领域,尤其涉及一种水果采摘机器人的管控方法及装置。
背景技术
水果采摘机器人是一种新型机器人设备,被研发出来用于替代人工采摘水果。水果采摘机器人通常采用机电一体化技术,能够自动识别果实的位置,使用机械臂、夹爪和带有刀片的工具来实现水果采摘。此外,采摘机器人还具备自动导航、避障和定位等功能帮助它们在果园内移动,能够通过机器视觉和人工智能技术进行智能控制和管理。水果采摘机器人不仅可以提高水果采摘的质量,还可以降低人工成本和劳动强度,缓解农业劳动力不足的问题。
然而,实现一个完全自主运作的水果采摘机器人仍需要克服一些技术难题,包括:水果采摘机器人执行水果采摘作业时如何提高检测水果位置的准确度、如何提高判别水果采摘的准确性(准确采摘到成熟的水果)、如何确定合适的抓取力度、采摘方式等。
发明内容
本发明所要解决的技术问题在于,提供一种水果采摘机器人的管控方法及装置,能够提高检测水果位置的准确度、提高判别水果采摘的准确性,减少采摘到不成熟和/或品质不优的水果的情况,从而提高水果采摘的精准度以及采摘可靠性。
为了解决上述技术问题,本发明第一方面公开了一种水果采摘机器人的管控方法,所述方法包括:
所述水果采摘机器人确定当前待执行的采摘任务,所述采摘任务包括多个采摘位点以及每个所述采摘位点对应的位置信息;并根据目标采摘位点的位置信息移动至所述目标采摘位点,所有所述采摘位点包括所述目标采摘位点;
所述水果采摘机器人对所述目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息,所述第一采摘事项为所述采摘任务中针对所述目标采摘位点的执行事项,所述第一采摘处理操作包括信息采集操作以及采摘队列构建操作;
所述水果采摘机器人根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息;并根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作;
所述水果采摘机器人判断是否完成针对所述目标采摘位点的采摘任务,当判断出已完成针对所述目标采摘位点的采摘任务后,更新所述采摘任务的完成进度并移动至所述目标采摘位点对应的下一采摘位点,以执行针对所述下一采摘位点的采摘事项;
其中,所述第二采摘处理操作包括信息多级分析处理操作;所述第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。
作为一种可选的实施方式,在本发明第一方面中,所述水果采摘机器人对所述目标采摘位点对应的所有采摘目标执行与目标采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息,包括:
所述水果采摘机器人生成针对所述目标采摘位点对应的所有采摘目标的信息采集指令,并根据所述信息采集指令以及配置在所述水果采摘机器人上的第一传感器,采集得到所有所述采摘目标对应的第一采集图像;
所述水果采摘机器人分析所有所述第一采集图像,得到每个所述采摘目标的水果成熟信息;同时根据所有所述第一采集图像构建所有所述采集目标对应的目标采摘队列,所述目标采摘队列包括采摘每一所述采摘目标对应的采摘顺序及采摘位置;
所述水果采摘机器人将所述水果成熟信息以及所述目标采摘队列确定为所有所述采摘目标对应的第一采摘信息。
作为一种可选的实施方式,在本发明第一方面中,所述水果采摘机器人根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息,包括:
所述水果采摘机器人对所述水果成熟信息执行第一分析处理,得到所述水果成熟信息对应的第一成熟信息,所述第一成熟信息包括第二采集图像,所述第二采集图像中的所述采摘目标对应的水果成熟度大于目标成熟阈值;
所述水果采摘机器人根据预设的针对所述采摘目标的成熟分析参数,对所述第一成熟信息执行第二分析处理,得到所述第一成熟信息对应的第二成熟信息,并根据所述第二成熟信息、末端执行器的位置信息以及预设的标定参数更新所述目标采摘队列,所述末端执行器配置在所述水果采摘机器人上,用于执行水果采摘;所述标定参数包括第一传感器对应的传感器参数以及所述采摘目标对应的采摘类型参数;所述第一传感器外置在所述水果采摘机器人上;
所述水果采摘机器人将所述第二成熟信息以及更新后的所述目标采摘队列确定为所有所述采摘目标对应的第二采摘信息。
作为一种可选的实施方式,在本发明第一方面中,所述水果采摘机器人根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作,包括:
所述水果采摘机器人根据所述目标采摘队列以及末端执行器的执行器坐标,生成针对所述末端执行器的移动路径,所述移动路径包括每个所述采摘目标的采摘坐标;
所述水果采摘机器人根据所述移动路径控制所述末端执行器按照所述目标采摘队列的队列顺序以及每个所述采摘目标的采摘坐标进行移动;
对于任意所述采摘目标,当确定所述末端执行器移动到所述采摘目标的采摘坐标时,所述水果采摘机器人控制所述末端执行器采集所述采摘目标对应的第三采摘信息,并控制所述末端执行器对所述采摘目标执行与所述第三采摘信息对应的第三采摘处理操作;
对于任意所述采摘目标,在确定完成针对所述采摘目标的第三处理操作后,所述水果采摘机器人更新所述目标采摘队列,并判断所述目标采摘队列的完成进度是否达到预设进度值,当判断出所述目标采摘队列的完成进度达到所述预设进度值时,触发执行所述的判断是否完成针对所述目标采摘位点的采摘任务;
当判断出所述目标采摘队列的完成进度未达到所述预设进度值时,所述水果采摘机器人控制所述末端执行器移动至所述采摘目标对应的下一采摘目标处,以对所述下一采摘目标执行所述第三采摘处理操作。
作为一种可选的实施方式,在本发明第一方面中,所述水果采摘机器人控制所述末端执行器采集所述采摘目标对应的第三采摘信息,包括:
所述水果采摘机器人控制所述末端执行器对应的夹取器接触所述采摘目标;并控制第二传感器采集所述采摘目标的接触信息,所述接触信息包括内嵌特征点偏移信息以及所述采摘目标的光谱分析信息,所述内嵌特征点偏移信息为所述夹取器接触所述采摘目标后,内嵌在所述夹取器上的第二传感器受力偏移对应的信息;
所述水果采摘机器人根据预设的多相机参数计算所述接触信息对应的实际空间坐标;并计算所述实际空间坐标与预设标准空间坐标之间的偏移量;
所述水果采摘机器人将所述偏移量转换为目标三维力,所述目标三维力为所述夹取器夹取所述采摘目标对应的力;
所述水果采摘机器人将所述目标三维力以及所述光谱分析信息确定为所述采摘目标对应的第三采摘信息。
作为一种可选的实施方式,在本发明第一方面中,所述光谱分析信息用于判断所述采摘目标是否满足无损坏条件、成熟条件;所述光谱分析信息的信息类型包括第一类型、第二类型或第三类型,所述第一类型表示所述采摘目标同时满足所述无损坏条件、所述成熟条件;所述第二类型表示所述采摘目标不满足所述无损坏条件且满足所述成熟条件;所述第三类型表示所述采摘目标同时不满足所述无损坏条件、所述成熟条件;
所述水果采摘机器人控制所述末端执行器对所述采摘目标执行与所述第三采摘信息对应的第三采摘处理操作,包括:
当所述光谱分析信息为所述第一类型或所述第二类型时,所述水果采摘机器人控制所述末端执行器的夹取器基于所述目标三维力夹取所述采摘目标,并将夹取到的所述采摘目标放置到所述光谱分析信息的信息类型匹配的放置容器中;
当所述光谱分析信息为所述第三类型时,所述水果采摘机器人根据所述采摘目标的第三采摘信息生成弃用标识,所述弃用标识用于表示该采摘目标对应的所述光谱分析信息的信息类型为所述第三类型。
作为一种可选的实施方式,在本发明第一方面中,所述采摘目标对应的采摘类型参数用于确定针对所述采摘目标的采摘执行方式,所述采摘执行方式包括第一执行方式或第二执行方式,其中:
当所述采摘执行方式为所述第一执行方式时,所述水果采摘机器人摘取任一所述采摘目标时启动所述末端执行器对应的夹取器、所述第一传感器以及第二传感器;
当所述采摘执行方式为所述第二执行方式时,所述水果采摘机器人摘取任一所述采摘目标时启动所述末端执行器对应的夹取器、所述第一传感器、第二传感器以及移动剪切工具,所述移动剪切工具外置在所述末端执行器上,用以剪断所述采摘目标对应的目标果柄区域。
本发明第二方面公开了一种水果采摘机器人的管控系统,系统应用于水果采摘机器人,所述系统包括:
确定模块,用于确定当前待执行的采摘任务,所述采摘任务包括多个采摘位点以及每个所述采摘位点对应的位置信息;
移动控制模块,用于根据目标采摘位点的位置信息移动至所述目标采摘位点,所有所述采摘位点包括所述目标采摘位点;
第一采摘模块,用于对所述目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息,所述第一采摘事项为所述采摘任务中针对所述目标采摘位点的执行事项,所述第一采摘处理操作包括信息采集操作以及采摘队列构建操作;
第二采摘模块,用于根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息;
第三采摘模块,用于根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作;
判断模块,用于判断是否完成针对所述目标采摘位点的采摘任务;
更新模块,用于当所述判断模块判断出已完成针对所述目标采摘位点的采摘任务后,更新所述采摘任务的完成进度并移动至所述目标采摘位点对应的下一采摘位点,以执行针对所述下一采摘位点的采摘事项;
其中,所述第二采摘处理操作包括信息多级分析处理操作;所述第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。
作为一种可选的实施方式,在本发明第二方面中,所述第一采摘模块对所述目标采摘位点对应的所有采摘目标执行与目标采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息的方式具体包括:
生成针对所述目标采摘位点对应的所有采摘目标的信息采集指令,并根据所述信息采集指令以及配置在上的第一传感器,采集得到所有所述采摘目标对应的第一采集图像;
分析所有所述第一采集图像,得到每个所述采摘目标的水果成熟信息;同时根据所有所述第一采集图像构建所有所述采集目标对应的目标采摘队列,所述目标采摘队列包括采摘每一所述采摘目标对应的采摘顺序及采摘位置;
将所述水果成熟信息以及所述目标采摘队列确定为所有所述采摘目标对应的第一采摘信息。
作为一种可选的实施方式,在本发明第二方面中,所述第二采摘模块根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息的方式具体包括:
对所述水果成熟信息执行第一分析处理,得到所述水果成熟信息对应的第一成熟信息,所述第一成熟信息包括第二采集图像,所述第二采集图像中的所述采摘目标对应的水果成熟度大于目标成熟阈值;
根据预设的针对所述采摘目标的成熟分析参数,对所述第一成熟信息执行第二分析处理,得到所述第一成熟信息对应的第二成熟信息,并根据所述第二成熟信息、末端执行器的位置信息以及预设的标定参数更新所述目标采摘队列,所述末端执行器配置在上,用于执行水果采摘;所述标定参数包括第一传感器对应的传感器参数以及所述采摘目标对应的采摘类型参数;所述第一传感器外置在上;
将所述第二成熟信息以及更新后的所述目标采摘队列确定为所有所述采摘目标对应的第二采摘信息。
作为一种可选的实施方式,在本发明第二方面中,所述第三采摘模块根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作的方式具体包括:
根据所述目标采摘队列以及末端执行器的执行器坐标,生成针对所述末端执行器的移动路径,所述移动路径包括每个所述采摘目标的采摘坐标;
根据所述移动路径控制所述末端执行器按照所述目标采摘队列的队列顺序以及每个所述采摘目标的采摘坐标进行移动;
对于任意所述采摘目标,当确定所述末端执行器移动到所述采摘目标的采摘坐标时,控制所述末端执行器采集所述采摘目标对应的第三采摘信息,并控制所述末端执行器对所述采摘目标执行与所述第三采摘信息对应的第三采摘处理操作;
对于任意所述采摘目标,在确定完成针对所述采摘目标的第三处理操作后,更新所述目标采摘队列,并判断所述目标采摘队列的完成进度是否达到预设进度值,当判断出所述目标采摘队列的完成进度达到所述预设进度值时,触发执行所述的判断是否完成针对所述目标采摘位点的采摘任务;
当判断出所述目标采摘队列的完成进度未达到所述预设进度值时,控制所述末端执行器移动至所述采摘目标对应的下一采摘目标处,以对所述下一采摘目标执行所述第三采摘处理操作。
作为一种可选的实施方式,在本发明第二方面中,所述第三采摘模块控制所述末端执行器采集所述采摘目标对应的第三采摘信息的方式具体包括:
控制所述末端执行器对应的夹取器接触所述采摘目标;并控制第二传感器采集所述采摘目标的接触信息,所述接触信息包括内嵌特征点偏移信息以及所述采摘目标的光谱分析信息,所述内嵌特征点偏移信息为所述夹取器接触所述采摘目标后,内嵌在所述夹取器上的第二传感器受力偏移对应的信息;
根据预设的多相机参数计算所述接触信息对应的实际空间坐标;并计算所述实际空间坐标与预设标准空间坐标之间的偏移量;
将所述偏移量转换为目标三维力,所述目标三维力为所述夹取器夹取所述采摘目标对应的力;
将所述目标三维力以及所述光谱分析信息确定为所述采摘目标对应的第三采摘信息。
作为一种可选的实施方式,在本发明第二方面中,所述光谱分析信息用于判断所述采摘目标是否满足无损坏条件、成熟条件;所述光谱分析信息的信息类型包括第一类型、第二类型或第三类型,所述第一类型表示所述采摘目标同时满足所述无损坏条件、所述成熟条件;所述第二类型表示所述采摘目标不满足所述无损坏条件且满足所述成熟条件;所述第三类型表示所述采摘目标同时不满足所述无损坏条件、所述成熟条件;
所述第三采摘模块控制所述末端执行器对所述采摘目标执行与所述第三采摘信息对应的第三采摘处理操作的方式具体包括:
当所述光谱分析信息为所述第一类型或所述第二类型时,控制所述末端执行器的夹取器基于所述目标三维力夹取所述采摘目标,并将夹取到的所述采摘目标放置到所述光谱分析信息的信息类型匹配的放置容器中;
当所述光谱分析信息为所述第三类型时,根据所述采摘目标的第三采摘信息生成弃用标识,所述弃用标识用于表示该采摘目标对应的所述光谱分析信息的信息类型为所述第三类型。
作为一种可选的实施方式,在本发明第二方面中,所述采摘目标对应的采摘类型参数用于确定针对所述采摘目标的采摘执行方式,所述采摘执行方式包括第一执行方式或第二执行方式,其中:
当所述采摘执行方式为所述第一执行方式时,摘取任一所述采摘目标时启动所述末端执行器对应的夹取器、第二传感器;
当所述采摘执行方式为所述第二执行方式时,摘取任一所述采摘目标时启动所述末端执行器对应的夹取器、第二传感器以及移动剪取工具,所述移动剪取工具外置在所述末端执行器上,用以剪断所述采摘目标对应的目标果柄区域。
本发明第三方面公开了一种水果采摘机器人,所述水果采摘机器人包括末端执行器、第一传感器、第二传感器以及移动剪切工具;所述水果采摘机器人用于执行本发明第一方面公开的水果采摘机器人的管控方法。
本发明第四方面公开了另一种水果采摘机器人的管控装置,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行本发明第一方面公开的水果采摘机器人的管控方法。
本发明第五方面公开了一种计算机存储介质,所述计算机存储介质存储有计算机指令,所述计算机指令被调用时,用于执行本发明第一方面公开的水果采摘机器人的管控方法。
与现有技术相比,本发明实施例具有以下有益效果:
本发明实施例中,提供了一种水果采摘机器人的管控方法,该方法应用于水果采摘机器人,该方法包括:
水果采摘机器人确定当前待执行的采摘任务,采摘任务包括多个采摘位点以及每个采摘位点对应的位置信息;并根据采摘任务移动至目标采摘位点,所有采摘位点包括目标采摘位点;水果采摘机器人对目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有采摘目标对应的第一采摘信息,第一采摘事项为采摘任务中针对目标采摘位点的执行事项,第一采摘处理操作包括信息采集操作以及采摘队列构建操作;水果采摘机器人根据第一采摘信息对所有采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有采摘目标对应的第二采摘信息;并根据第二采摘信息对所有采摘目标执行第三采摘处理操作;水果采摘机器人判断是否完成针对目标采摘位点的采摘任务,当判断出已完成针对目标采摘位点的采摘任务后,更新采摘任务的完成进度并移动至目标采摘位点对应的下一采摘位点,以执行针对下一采摘位点的采摘事项;其中,第二采摘处理操作包括信息多级分析处理操作;第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。可见,实施本发明能够基于确定出的采摘任务自动移动到对应的目标采摘位点,进而自动采集目标采摘位点的图像信息同时进行采摘队列的构建,该图像信息用于初步检测出目标采摘位点的所有采摘目标(如水果)所在的区域,采摘队列用于确定针对每个采摘目标的采摘顺序;初步确定了采摘范围和采摘执行顺序,提高了采摘效率;之后进一步对包括图像信息与采摘队列的第一采摘信息执行第二采摘处理操作,即信息多级分析操作,进一步所限图像信息对应的区域,以及对采摘队列的调整更新;提高了相关图像信息的准确性以及队列构建的准确性;最终基于得到的第二采摘信息对所有采摘目标执行第三采摘处理操作,也即最终的针对每个采摘目标执行采摘操作,期间包括采摘所使用机器力量(摘取力)的计算、实时采摘接触到水果对应信息的进一步分析等,经过第一、第二、第三采摘处理操作的多层算法,提高了针对目标采摘位点执行水果摘取的摘取效率、摘取准确性以及可靠性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种水果采摘机器人的管控方法的流程示意图;
图2是本发明实施例公开的另一种水果采摘机器人的管控方法的流程示意图;
图3是本发明实施例公开的一种水果采摘机器人的管控系统的结构示意图;
图4是本发明实施例公开的一种水果采摘机器人的管控装置的结构示意图;
图5是本发明实施例公开的另一种水果采摘机器人的管控装置的结构示意图;
图6是本发明实施例公开的又一种水果采摘机器人的管控方法的流程示意图;
图7是本发明实施例公开的另一种水果采摘机器人的管控方法的流程示意图;
图8是本发明实施例公开的另一种水果采摘机器人的管控方法的流程示意图;
图9是本发明实施例公开的第二传感器柔性透明膜的内嵌标志导致的局部光谱信息缺失示意图;
图10是本发明实施例公开的水果梗部剪断的采摘方式示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、装置、产品或端没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或端固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本发明公开了一种水果采摘机器人的管控方法及装置,能够基于确定出的采摘任务自动移动到对应的目标采摘位点,进而自动采集目标采摘位点的图像信息同时进行采摘队列的构建,该图像信息用于初步检测出目标采摘位点的所有采摘目标(如水果)所在的区域,采摘队列用于确定针对每个采摘目标的采摘顺序;初步确定了采摘范围和采摘执行顺序,提高了采摘效率;之后进一步对包括图像信息与采摘队列的第一采摘信息执行第二采摘处理操作,即信息多级分析操作,进一步所限图像信息对应的区域,以及对采摘队列的调整更新;提高了相关图像信息的准确性以及队列构建的准确性;最终基于得到的第二采摘信息对所有采摘目标执行第三采摘处理操作,也即最终的针对每个采摘目标执行采摘操作,期间包括采摘所使用机器力量(摘取力)的计算、实时采摘接触到水果对应信息的进一步分析等,经过第一、第二、第三采摘处理操作的多层算法,提高了针对目标采摘位点执行水果摘取的摘取效率、摘取准确性以及可靠性。以下分别进行详细说明。
实施例一
请参阅图1,图1是本发明实施例公开的一种水果采摘机器人的管控方法的流程示意图。其中,图1所描述的水果采摘机器人的管控方法可以应用于水果采摘机器人、水果采摘机器人的管控系统中,本发明实施例不做限定。如图1所示,该水果采摘机器人的管控方法可以包括以下操作:
101、水果采摘机器人确定当前待执行的采摘任务,采摘任务包括多个采摘位点以及每个采摘位点对应的位置信息;并根据目标采摘位点的位置信息移动至目标采摘位点。
本发明实施例中,所有采摘位点包括目标采摘位点。
本发明实施例中,可选的,采摘任务还包括所有采摘位点所在目标区域的区域信息,区域信息包括地势崎岖点分布信息、作物疏密信息;
其中,地势崎岖点分布信息为目标区域中存在的陡坡、地面障碍物对应的信息;作物疏密信息包括目标区域中植被的高度、疏密信息。
本发明实施例中,步骤101水果采摘机器人根据目标采摘位点的位置信息移动至目标采摘位点的方式具体包括:
水果采摘机器人根据每个采摘位点的位置信息以及区域信息,生成对应的路径移动信息,路径移动信息包括每个采摘位点对应的采摘顺序;
水果采摘机器人按照路径移动信息移动至目标采摘位点;
其中,当水果采摘机器人移动至目标采摘位点的移动路线为根据水果采摘机器人的当前位置、目标采摘位点的位置信息结合区域信息生成的。
可选的,实际移动时,水果采摘机器人还能够通过配置的避障处理模块,针对移动路径上的突发障碍物进行路径重新规划,并实时调整水果采摘机器人的移动路径以实现智能避障。
可见,在本发明实施例中,在接收到采摘任务之后,能够执行自动结合目标区域的区域信息,自动生成与采摘任务对应的路径移动信息,同时水果采摘机器人移动时还能够实现智能避障,提高了水果采摘机器人执行采摘移动的效率。
102、水果采摘机器人对目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有采摘目标对应的第一采摘信息。
本发明实施例中,第一采摘事项为采摘任务中针对目标采摘位点的执行事项,第一采摘处理操作包括信息采集操作以及采摘队列构建操作。
103、水果采摘机器人根据第一采摘信息对所有采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有采摘目标对应的第二采摘信息。
本发明实施例中,第二采摘处理操作包括信息多级分析处理操作。
104、水果采摘机器人根据第二采摘信息对所有采摘目标执行第三采摘处理操作。
本发明实施例中,第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种;
105、水果采摘机器人判断是否完成针对目标采摘位点的采摘任务,当判断出已完成针对目标采摘位点的采摘任务后,更新采摘任务的完成进度并移动至目标采摘位点对应的下一采摘位点,以执行针对下一采摘位点的采摘事项。
可见,实施图1所描述的水果采摘机器人的管控方法,能够基于确定出的采摘任务自动移动到对应的目标采摘位点,进而自动采集目标采摘位点的图像信息同时进行采摘队列的构建,该图像信息用于初步检测出目标采摘位点的所有采摘目标(如水果)所在的区域,采摘队列用于确定针对每个采摘目标的采摘顺序;初步确定了采摘范围和采摘执行顺序,提高了采摘效率;之后进一步对包括图像信息与采摘队列的第一采摘信息执行第二采摘处理操作,即信息多级分析操作,进一步所限图像信息对应的区域,以及对采摘队列的调整更新;提高了相关图像信息的准确性以及队列构建的准确性;最终基于得到的第二采摘信息对所有采摘目标执行第三采摘处理操作,也即最终的针对每个采摘目标执行采摘操作,期间包括采摘所使用机器力量(摘取力)的计算、实时采摘接触到水果对应信息的进一步分析等,经过第一、第二、第三采摘处理操作的多层算法,提高了针对目标采摘位点执行水果摘取的摘取效率、摘取准确性以及可靠性。
实施例二
请参阅图2,图2是本发明实施例公开的另一种水果采摘机器人的管控方法的流程示意图。其中,图2所描述的水果采摘机器人的管控方法可以应用于水果采摘机器人的管控装置中,本发明实施例不做限定。如图2所示,该水果采摘机器人的管控方法可以包括以下操作:
201、水果采摘机器人确定当前待执行的采摘任务,采摘任务包括多个采摘位点以及每个采摘位点对应的位置信息;并根据目标采摘位点的位置信息移动至目标采摘位点。
202、水果采摘机器人生成针对目标采摘位点对应的所有采摘目标的信息采集指令,并根据信息采集指令以及配置在水果采摘机器人上的第一传感器,采集得到所有采摘目标对应的第一采集图像。
本发明实施例中,该第一传感器可以为外置的多光谱-3D传感器,多光谱-3D多模式传感器由N个光谱通道(N不小于4)组成,每一个光谱通道的相机仅采集特定波长范围的图像。多光谱相机的工作光谱范围包括从近紫外(UVA)到近红外(NIR)。3D传感可以通过不同光谱波长范围的多个相机的图像进行双目匹配或多目匹配实现。光源可以选择性开启,以保证成像目标有合理的光谱照射。在采集到所有采摘目标对应的第一采集图像之后,能够自动进行光谱图像对齐校正。
203、水果采摘机器人分析所有第一采集图像,得到每个采摘目标的水果成熟信息;同时根据所有第一采集图像构建所有采集目标对应的目标采摘队列,目标采摘队列包括采摘每一采摘目标对应的采摘顺序及采摘位置。
204、水果采摘机器人将水果成熟信息以及目标采摘队列确定为所有采摘目标对应的第一采摘信息。
205、水果采摘机器人根据第一采摘信息对所有采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有采摘目标对应的第二采摘信息。
206、水果采摘机器人根据第二采摘信息对所有采摘目标执行第三采摘处理操作。
207、水果采摘机器人判断是否完成针对目标采摘位点的采摘任务,当判断出已完成针对目标采摘位点的采摘任务后,更新采摘任务的完成进度并移动至目标采摘位点对应的下一采摘位点,以执行针对下一采摘位点的采摘事项。
本发明实施例中,针对步骤201、步骤205-步骤207的其他描述请参阅实施例一中针对步骤101、步骤103-步骤105的其他具体描述,本发明实施例不再赘述。
可见,实施图2所描述的水果采摘机器人的管控方法,能够在移动到目标采摘位点之后,基于第一传感器自动采集目标采摘位点的图像信息同时进行采摘队列的构建,该图像信息用于初步检测出目标采摘位点的所有采摘目标(如水果)所在的区域,采摘队列用于确定针对每个采摘目标的采摘顺序;实现了采摘范围和采摘执行顺序的初步制定,提高了采摘效率,还能便于后续流程针对该初始确定的采摘范围和采摘队列进行调整优化;提高后续流程的执行效率。
在一个可选的实施例中,步骤205水果采摘机器人根据第一采摘信息对所有采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有采摘目标对应的第二采摘信息的方式具体包括:
水果采摘机器人对水果成熟信息执行第一分析处理,得到水果成熟信息对应的第一成熟信息,第一成熟信息包括第二采集图像,第二采集图像中的采摘目标对应的水果成熟度大于目标成熟阈值;
水果采摘机器人根据预设的针对采摘目标的成熟分析参数,对第一成熟信息执行第二分析处理,得到第一成熟信息对应的第二成熟信息,并根据第二成熟信息、末端执行器的位置信息以及预设的标定参数更新目标采摘队列,末端执行器配置在水果采摘机器人上,用于执行水果采摘;标定参数包括第一传感器对应的传感器参数以及采摘目标对应的采摘类型参数;第一传感器外置在水果采摘机器人上;
水果采摘机器人将第二成熟信息以及更新后的目标采摘队列确定为所有采摘目标对应的第二采摘信息。
在该可选的实施例中,针对步骤202-步骤205的具体实现流程可参照图6,图6为本发明实施例公开的又一种水果采摘机器人的管控方法的流程示意图;其中,通过第一采摘处理操作对目标采摘位点进行采摘目标(水果)的采摘检测,获得所有采摘目标所在的ROI0区域,以及构建对应的初始采摘队列;进而在步骤202-步骤205中,对ROI0区域进行水果成熟度的初步判定,提取出达到成熟度阈值M1(目标成熟阈值)的区域ROI1(第一成熟信息),再对ROI1执行区域拓展与3D重建,同时结合预估出的ROI区域中水果的尺寸和形状等信息(成熟分析参数),以及成熟度阈值M2进行二次提取筛选,得到第二成熟信息;同时结合多光谱-3D传感器标定和手眼标定参数(标定参数)进行目标采摘队列的调整更新。
可见,在该可选的实施例中,进一步对包括图像信息与采摘队列的第一采摘信息执行第二采摘处理操作,即信息多级分析操作,进一步所限图像信息对应的区域,以及对采摘队列的调整更新;提高了相关图像信息的准确性以及队列构建的准确性。
在另一个可选的实施例中,步骤206水果采摘机器人根据第二采摘信息对所有采摘目标执行第三采摘处理操作的方式具体包括:
水果采摘机器人根据目标采摘队列以及末端执行器的执行器坐标,生成针对末端执行器的移动路径,移动路径包括每个采摘目标的采摘坐标;
水果采摘机器人根据移动路径控制末端执行器按照目标采摘队列的队列顺序以及每个采摘目标的采摘坐标进行移动;
对于任意采摘目标,当确定末端执行器移动到采摘目标的采摘坐标时,水果采摘机器人控制末端执行器采集采摘目标对应的第三采摘信息,并控制末端执行器对采摘目标执行与第三采摘信息对应的第三采摘处理操作;
对于任意采摘目标,在确定完成针对采摘目标的第三处理操作后,水果采摘机器人更新目标采摘队列,并判断目标采摘队列的完成进度是否达到预设进度值,当判断出目标采摘队列的完成进度达到预设进度值时,触发执行的判断是否完成针对目标采摘位点的采摘任务;
当判断出目标采摘队列的完成进度未达到预设进度值时,水果采摘机器人控制末端执行器移动至采摘目标对应的下一采摘目标处,以对下一采摘目标执行第三采摘处理操作。
在该可选的实施例中,具体实现流程可参照图7,其中,更新得到目标采摘队列之后,根据任意采摘目标(水果)的坐标结合机械臂的坐标,驱动机器臂进行移动,并进行水果采摘。
在该可选的实施例中,进一步的,上述水果采摘机器人控制末端执行器采集采摘目标对应的第三采摘信息的方式具体包括:
水果采摘机器人控制末端执行器对应的夹取器接触采摘目标;并控制第二传感器采集采摘目标的接触信息,接触信息包括内嵌特征点偏移信息以及采摘目标的光谱分析信息,内嵌特征点偏移信息为夹取器接触采摘目标后,内嵌在夹取器上的第二传感器受力偏移对应的信息;
水果采摘机器人根据预设的多相机参数计算接触信息对应的实际空间坐标;并计算实际空间坐标与预设标准空间坐标之间的偏移量;
水果采摘机器人将偏移量转换为目标三维力,目标三维力为夹取器夹取采摘目标对应的力;
水果采摘机器人将目标三维力以及光谱分析信息确定为采摘目标对应的第三采摘信息。
在该可选的实施例中,需要说明的是,第二传感器可以为多光谱-触觉多模式传感器由N个光谱通道(N不小于4)组成,每一个光谱通道的相机仅采集特定波长范围的图像。多光谱相机的工作光谱范围包括从近紫外(UVA)到近红外(NIR)。光源可以选择性开启,以保证成像目标有合理的光谱照射。触觉传感通过在多光谱相机前方外加包含内嵌标志的透明柔性膜实现,当没有物体接触柔性膜时,多光谱相机正常工作;当有物体接触柔性膜时,后者受力变形,导致内嵌标志点偏移,通过计算标志点偏移量可以获得柔性膜的三维受力情况,透明柔性膜由透明的玻璃或塑料基板进行支撑从而限制其受力变形的最大程度。
在该可选的实施例中,柔性透明膜使用低成本普通材料作为内嵌标志(比如黑色塑料微球),在从而在水果没有接触柔性膜时的多光谱图像中,内嵌标志会叠加到目标物体(水果)的图像上,导致图像局部光谱信息缺失(图9)。鉴于采摘执行器的内置多光谱传感器主要用于确认水果的成熟度和检测水果有无明显损坏,本发明的在对水果成熟度和有无损坏进行检测时,采用对上述内嵌标志导致的图像局部信息缺失不敏感的分类方法,比如不使用信息缺失的区域。需要指出的是,相对于内嵌标志间的距离,内嵌标志的尺寸很小,因此信息缺失的区域在整个光谱图像的比例很低,因此不使用信息缺失区域的对影响有限。比如如果内嵌标志间距为1mm,标志直径为0.1mm,单个通道图像的信息缺失区域面积约3.14%。
在该可选的实施例中,光谱分析信息用于判断采摘目标是否满足无损坏条件、成熟条件;光谱分析信息的信息类型包括第一类型、第二类型或第三类型,第一类型表示采摘目标同时满足无损坏条件、成熟条件;第二类型表示采摘目标不满足无损坏条件且满足成熟条件;第三类型表示采摘目标同时不满足无损坏条件、成熟条件;
上述水果采摘机器人控制末端执行器对采摘目标执行与第三采摘信息对应的第三采摘处理操作的方式具体包括:
当光谱分析信息为第一类型或第二类型时,水果采摘机器人控制末端执行器的夹取器基于目标三维力夹取采摘目标,并将夹取到的采摘目标放置到光谱分析信息的信息类型匹配的放置容器中;
当光谱分析信息为第三类型时,水果采摘机器人根据采摘目标的第三采摘信息生成弃用标识,弃用标识用于表示该采摘目标对应的光谱分析信息的信息类型为第三类型。
可见,在该可选的实施例中,能够基于得到的第二采摘信息对所有采摘目标执行第三采摘处理操作,也即最终的针对每个采摘目标执行采摘操作,期间包括采摘所使用机器力量(摘取力)的计算、实时采摘接触到水果对应信息的进一步分析等,提高了针对目标采摘位点执行水果摘取的摘取效率、摘取准确性以及可靠性。
在又一个可选的实施例中,采摘目标对应的采摘类型参数用于确定针对采摘目标的采摘执行方式,采摘执行方式包括第一执行方式或第二执行方式,其中:
当采摘执行方式为第一执行方式时,水果采摘机器人摘取任一采摘目标时启动末端执行器对应的夹取器、第一传感器以及第二传感器;
当采摘执行方式为第二执行方式时,水果采摘机器人摘取任一采摘目标时启动末端执行器对应的夹取器、第一传感器、第二传感器以及移动剪切工具,移动剪切工具外置在末端执行器上,用以剪断采摘目标对应的目标果柄区域。
在该可选的实施例中,对大部分水果,采摘执行器手指(夹爪)能很好的采摘满足,但是对于一小部分水果,比如葡萄和草莓等,仅仅用采摘执行器手指(夹爪)结合拉力或扭力的采摘方式可能造成水果损坏或是无法实现水果梗的有效分离。对于后一种情况在采摘执行器抓取到水果后使用执行器上的可移动剪刀对水果的梗部的合理位置(图10中×标记的位置)进行剪断。为了更灵活地实现水果梗剪断,可以选择把移动剪刀安装到独立的机械臂上,这一灵活性的代价是更高的系统成本。
可见,在该可选的实施例中,能够根据采摘目标对应的类型执行匹配的采摘执行方式,有利于减少采摘到不成熟和/或品质不优的水果的情况,从而提高水果采摘的精准度以及采摘可靠性。
实施例三
请参阅图3,图3是本发明实施例公开的一种水果采摘机器人的管控系统的结构示意图。其中,该水果采摘机器人的管控系统可以应用于水果采摘机器人,以实现针对该水果采摘机器人的管控,本发明实施例不做限定。如图3所示,该水果采摘机器人的管控系统可以包括确定模块301、移动控制模块302、第一采摘模块303、第二采摘模块304、第三采摘模块305、判断模块306以及更新模块307,其中:
确定模块301,用于确定当前待执行的采摘任务,采摘任务包括多个采摘位点以及每个采摘位点对应的位置信息。
移动控制模块302,用于根据目标采摘位点的位置信息移动至目标采摘位点,所有采摘位点包括目标采摘位点。
第一采摘模块303,用于对目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有采摘目标对应的第一采摘信息,第一采摘事项为采摘任务中针对目标采摘位点的执行事项,第一采摘处理操作包括信息采集操作以及采摘队列构建操作。
第二采摘模块304,用于根据第一采摘信息对所有采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有采摘目标对应的第二采摘信息。
第三采摘模块305,用于根据第二采摘信息对所有采摘目标执行第三采摘处理操作。
判断模块306,用于判断是否完成针对目标采摘位点的采摘任务。
更新模块307,用于当判断模块306判断出已完成针对目标采摘位点的采摘任务后,更新采摘任务的完成进度并移动至目标采摘位点对应的下一采摘位点,以执行针对下一采摘位点的采摘事项。
其中,第二采摘处理操作包括信息多级分析处理操作;第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。
可见,实施图3所描述的一种水果采摘机器人的管控系统,能够基于确定出的采摘任务自动移动到对应的目标采摘位点,进而自动采集目标采摘位点的图像信息同时进行采摘队列的构建,该图像信息用于初步检测出目标采摘位点的所有采摘目标(如水果)所在的区域,采摘队列用于确定针对每个采摘目标的采摘顺序;初步确定了采摘范围和采摘执行顺序,提高了采摘效率;之后进一步对包括图像信息与采摘队列的第一采摘信息执行第二采摘处理操作,即信息多级分析操作,进一步所限图像信息对应的区域,以及对采摘队列的调整更新;提高了相关图像信息的准确性以及队列构建的准确性;最终基于得到的第二采摘信息对所有采摘目标执行第三采摘处理操作,也即最终的针对每个采摘目标执行采摘操作,期间包括采摘所使用机器力量(摘取力)的计算、实时采摘接触到水果对应信息的进一步分析等,经过第一、第二、第三采摘处理操作的多层算法,提高了针对目标采摘位点执行水果摘取的摘取效率、摘取准确性以及可靠性。
在一个可选的实施例中,第一采摘模块303对目标采摘位点对应的所有采摘目标执行与目标采摘事项匹配的第一采摘处理操作,得到所有采摘目标对应的第一采摘信息的方式具体包括:
生成针对目标采摘位点对应的所有采摘目标的信息采集指令,并根据信息采集指令以及配置在上的第一传感器,采集得到所有采摘目标对应的第一采集图像;
分析所有第一采集图像,得到与每个采摘目标的水果成熟信息;同时根据所有第一采集图像构建所有采集目标对应的目标采摘队列,目标采摘队列包括采摘每一采摘目标对应的采摘顺序及采摘位置;
将水果成熟信息以及目标采摘队列确定为所有采摘目标对应的第一采摘信息。
可见,实施图3所描述的一种水果采摘机器人的管控系统,能够在移动到目标采摘位点之后,基于第一传感器自动采集目标采摘位点的图像信息同时进行采摘队列的构建,该图像信息用于初步检测出目标采摘位点的所有采摘目标(如水果)所在的区域,采摘队列用于确定针对每个采摘目标的采摘顺序;实现了采摘范围和采摘执行顺序的初步制定,提高了采摘效率,还能便于后续流程针对该初始确定的采摘范围和采摘队列进行调整优化;提高后续流程的执行效率。
在另一个可选的实施例中,第二采摘模块304根据第一采摘信息对所有采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有采摘目标对应的第二采摘信息的方式具体包括:
对第一采摘信息执行第一分析处理,得到第一采摘信息对应的第一成熟信息,第一成熟信息包括第二采集图像,第二采集图像中的采摘目标对应的水果成熟度大于目标成熟阈值;
根据预设的针对采摘目标的成熟分析参数,对第一成熟信息执行第二分析处理,得到第一成熟信息对应的第二成熟信息,并根据第二成熟信息、末端执行器的位置信息以及预设的标定参数更新目标采摘队列,末端执行器配置在上,用于执行水果采摘;标定参数包括第一传感器对应的传感器参数以及采摘目标对应的采摘类型参数;第一传感器外置在上;
将第二成熟信息以及更新后的目标采摘队列确定为所有采摘目标对应的第二采摘信息。
可见,在该可选的实施例中,进一步对包括图像信息与采摘队列的第一采摘信息执行第二采摘处理操作,即信息多级分析操作,进一步所限图像信息对应的区域,以及对采摘队列的调整更新;提高了相关图像信息的准确性以及队列构建的准确性。
在另一个可选的实施例中,第三采摘模块305根据第二采摘信息对所有采摘目标执行第三采摘处理操作的方式具体包括:
根据目标采摘队列以及末端执行器的执行器坐标,生成针对末端执行器的移动路径,移动路径包括每个采摘目标的采摘坐标;
根据移动路径控制末端执行器按照目标采摘队列的队列顺序以及每个采摘目标的采摘坐标进行移动;
对于任意采摘目标,当确定末端执行器移动到采摘目标的采摘坐标时,控制末端执行器采集采摘目标对应的第三采摘信息,并控制末端执行器对采摘目标执行与第三采摘信息对应的第三采摘处理操作;
对于任意采摘目标,在确定完成针对采摘目标的第三处理操作后,更新目标采摘队列,并判断目标采摘队列的完成进度是否达到预设进度值,当判断出目标采摘队列的完成进度达到预设进度值时,触发执行的判断是否完成针对目标采摘位点的采摘任务;
当判断出目标采摘队列的完成进度未达到预设进度值时,控制末端执行器移动至采摘目标对应的下一采摘目标处,以对下一采摘目标执行第三采摘处理操作。
进一步可选的,第三采摘模块305控制末端执行器采集采摘目标对应的第三采摘信息的方式具体包括:
控制末端执行器对应的夹取器接触采摘目标;并控制第二传感器采集采摘目标的接触信息,接触信息包括内嵌特征点偏移信息以及采摘目标的光谱分析信息,内嵌特征点偏移信息为夹取器接触采摘目标后,内嵌在夹取器上的第二传感器受力偏移对应的信息;
根据预设的多相机参数计算接触信息对应的实际空间坐标;并计算实际空间坐标与预设标准空间坐标之间的偏移量;
将偏移量转换为目标三维力,目标三维力为夹取器夹取采摘目标对应的力;
将目标三维力以及光谱分析信息确定为采摘目标对应的第三采摘信息。
在该可选的实施例中,光谱分析信息用于判断采摘目标是否满足无损坏条件、成熟条件;光谱分析信息的信息类型包括第一类型、第二类型或第三类型,第一类型表示采摘目标同时满足无损坏条件、成熟条件;第二类型表示采摘目标不满足无损坏条件且满足成熟条件;第三类型表示采摘目标同时不满足无损坏条件、成熟条件;
第三采摘模块305控制末端执行器对采摘目标执行与第三采摘信息对应的第三采摘处理操作的方式具体包括:
当光谱分析信息为第一类型或第二类型时,控制末端执行器的夹取器基于目标三维力夹取采摘目标,并将夹取到的采摘目标放置到光谱分析信息的信息类型匹配的放置容器中;
当光谱分析信息为第三类型时,根据采摘目标的第三采摘信息生成弃用标识,弃用标识用于表示该采摘目标对应的光谱分析信息的信息类型为第三类型。
可见,在该可选的实施例中,能够基于得到的第二采摘信息对所有采摘目标执行第三采摘处理操作,也即最终的针对每个采摘目标执行采摘操作,期间包括采摘所使用机器力量(摘取力)的计算、实时采摘接触到水果对应信息的进一步分析等,提高了针对目标采摘位点执行水果摘取的摘取效率、摘取准确性以及可靠性。
在又一个可选的实施例中,采摘目标对应的采摘类型参数用于确定针对采摘目标的采摘执行方式,采摘执行方式包括第一执行方式或第二执行方式,其中:
当采摘执行方式为第一执行方式时,摘取任一采摘目标时启动末端执行器对应的夹取器、第二传感器;
当采摘执行方式为第二执行方式时,摘取任一采摘目标时启动末端执行器对应的夹取器、第二传感器以及移动剪取工具,移动剪取工具外置在末端执行器上,用以剪断采摘目标对应的目标果柄区域。
可见,在该可选的实施例中,能够根据采摘目标对应的类型执行匹配的采摘执行方式,有利于减少采摘到不成熟和/或品质不优的水果的情况,从而提高水果采摘的精准度以及采摘可靠性。
实施例四
请参阅图4-图5,图4-5是本发明实施例公开的两种一种水果采摘机器人的结构示意图。如图4所示,该水果采摘机器人可以包括末端执行器、第一传感器、第二传感器以及移动剪切工具;水果采摘机器人用于执行本发明实施例一或本发明实施例二所描述的水果采摘机器人的管控方法中的步骤。
本发明实施例中,可选的,末端执行器的外壁与第一传感器物理连接;末端传感器的内壁与第二传感器物理连接;末端执行器的外壁与移动剪切工具物理连接。
本发明实施例中,可选的,如图4-5所示,采摘执行器7(末端执行器)可以连接执行器电机和驱动器、末端计算和通信模块,移动剪切工具实际应用时可以为移动剪刀。
本发明实施例中,可选的,如图5所示,该水果采摘机器人还可以包括:电源模块1、驱动模块2、定位、导航和避障模块3、运算、控制和通信模块4以及调度和数据平台5、多关节机器臂6、采摘执行器7(末端执行器)、光谱-3D多模式传感器8(第一传感器)、光谱-触觉多模式传感器9(第二传感器)以及水果容器10;其中:
电源模块1,用于为整个采摘机器人系统提供动力,包括电源管理和自动充电。
驱动模块2,用于利用电机驱动轮式或履带式机构实现移动。
定位、导航和避障模块3,主要由GPS、激光雷达和/或3D传感器构成,用于结合预先建立的果园的地图和运算控制模块实现机器人的自动定位、导航、避障和路径规划等低速自动驾驶功能。
运算、控制和通信模块4,除了实现机器人系统自动驾驶功能外,需要与调度和数据平台进行通信,实现任务接收、调用和更新果园地图、以及机器人感知模块和采摘数据上传等功能。
调度和数据平台5,用于进行多个采摘机器人协调分配、任务和路径规划、建立和更新果园地图、存储机器人感知数据和采摘数据上传等功能。
本发明实施例中,针对采摘执行器7(末端执行器)、光谱-3D多模式传感器8(第一传感器)、光谱-触觉多模式传感器9(第二传感器)对应的工作原理、执行流程等,请参阅实施例一、实施例二的具体内容,本发明实施例不做赘述。
实施例五
本发明实施例公开了一种计算机存储介质,该计算机存储介质存储有计算机指令,该计算机指令被调用时,用于执行本发明实施例一或本发明实施例二所描述的水果采摘机器人的管控方法中的步骤。
实施例六
本发明实施例公开了一种计算机程序产品,该计算机程序产品包括存储了计算机程序的非瞬时性计算机存储介质,且该计算机程序可操作来使计算机执行实施例一或实施例二中所描述的水果采摘机器人的管控方法中的步骤。
以上所描述的装置实施例仅是示意性的,其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施例的具体描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机存储介质中,存储介质包括只读存储器(Read-OnlyMemory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
最后应说明的是:本发明实施例公开的一种水果采摘机器人的管控方法及系统、水果采摘机器人所揭露的仅为本发明较佳实施例而已,仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各项实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应的技术方案的本质脱离本发明各项实施例技术方案的精神和范围。

Claims (10)

1.一种水果采摘机器人的管控方法,其特征在于,所述方法应用于水果采摘机器人,所述方法包括:
所述水果采摘机器人确定当前待执行的采摘任务,所述采摘任务包括多个采摘位点以及每个所述采摘位点对应的位置信息;并根据目标采摘位点的位置信息移动至所述目标采摘位点,所有所述采摘位点包括所述目标采摘位点;
所述水果采摘机器人对所述目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息,所述第一采摘事项为所述采摘任务中针对所述目标采摘位点的执行事项,所述第一采摘处理操作包括信息采集操作以及采摘队列构建操作;
所述水果采摘机器人根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息;并根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作;
所述水果采摘机器人判断是否完成针对所述目标采摘位点的采摘任务,当判断出已完成针对所述目标采摘位点的采摘任务后,更新所述采摘任务的完成进度并移动至所述目标采摘位点对应的下一采摘位点,以执行针对所述下一采摘位点的采摘事项;
其中,所述第二采摘处理操作包括信息多级分析处理操作;所述第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。
2.根据权利要求1所述的一种水果采摘机器人的管控方法,其特征在于,所述水果采摘机器人对所述目标采摘位点对应的所有采摘目标执行与目标采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息,包括:
所述水果采摘机器人生成针对所述目标采摘位点对应的所有采摘目标的信息采集指令,并根据所述信息采集指令以及配置在所述水果采摘机器人上的第一传感器,采集得到所有所述采摘目标对应的第一采集图像;
所述水果采摘机器人分析所有所述第一采集图像,得到每个所述采摘目标的水果成熟信息;同时根据所有所述第一采集图像构建所有所述采集目标对应的目标采摘队列,所述目标采摘队列包括采摘每一所述采摘目标对应的采摘顺序及采摘位置;
所述水果采摘机器人将所述水果成熟信息以及所述目标采摘队列确定为所有所述采摘目标对应的第一采摘信息。
3.根据权利要求2所述的一种水果采摘机器人的管控方法,其特征在于,所述水果采摘机器人根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息,包括:
所述水果采摘机器人对所述水果成熟信息执行第一分析处理,得到所述水果成熟信息对应的第一成熟信息,所述第一成熟信息包括第二采集图像,所述第二采集图像中的所述采摘目标对应的水果成熟度大于目标成熟阈值;
所述水果采摘机器人根据预设的针对所述采摘目标的成熟分析参数,对所述第一成熟信息执行第二分析处理,得到所述第一成熟信息对应的第二成熟信息,并根据所述第二成熟信息、末端执行器的位置信息以及预设的标定参数更新所述目标采摘队列,所述末端执行器配置在所述水果采摘机器人上,用于执行水果采摘;所述标定参数包括第一传感器对应的传感器参数以及所述采摘目标对应的采摘类型参数;所述第一传感器外置在所述水果采摘机器人上;
所述水果采摘机器人将所述第二成熟信息以及更新后的所述目标采摘队列确定为所有所述采摘目标对应的第二采摘信息。
4.根据权利要求2或3所述的一种水果采摘机器人的管控方法,其特征在于,所述水果采摘机器人根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作,包括:
所述水果采摘机器人根据所述目标采摘队列以及末端执行器的执行器坐标,生成针对所述末端执行器的移动路径,所述移动路径包括每个所述采摘目标的采摘坐标;
所述水果采摘机器人根据所述移动路径控制所述末端执行器按照所述目标采摘队列的队列顺序以及每个所述采摘目标的采摘坐标进行移动;
对于任意所述采摘目标,当确定所述末端执行器移动到所述采摘目标的采摘坐标时,所述水果采摘机器人控制所述末端执行器采集所述采摘目标对应的第三采摘信息,并控制所述末端执行器对所述采摘目标执行与所述第三采摘信息对应的第三采摘处理操作;
对于任意所述采摘目标,在确定完成针对所述采摘目标的第三处理操作后,所述水果采摘机器人更新所述目标采摘队列,并判断所述目标采摘队列的完成进度是否达到预设进度值,当判断出所述目标采摘队列的完成进度达到所述预设进度值时,触发执行所述的判断是否完成针对所述目标采摘位点的采摘任务;
当判断出所述目标采摘队列的完成进度未达到所述预设进度值时,所述水果采摘机器人控制所述末端执行器移动至所述采摘目标对应的下一采摘目标处,以对所述下一采摘目标执行所述第三采摘处理操作。
5.根据权利要求4所述的一种水果采摘机器人的管控方法,其特征在于,所述水果采摘机器人控制所述末端执行器采集所述采摘目标对应的第三采摘信息,包括:
所述水果采摘机器人控制所述末端执行器对应的夹取器接触所述采摘目标;并控制第二传感器采集所述采摘目标的接触信息,所述接触信息包括内嵌特征点偏移信息以及所述采摘目标的光谱分析信息,所述内嵌特征点偏移信息为所述夹取器接触所述采摘目标后,内嵌在所述夹取器上的第二传感器受力偏移对应的信息;
所述水果采摘机器人根据预设的多相机参数计算所述接触信息对应的实际空间坐标;并计算所述实际空间坐标与预设标准空间坐标之间的偏移量;
所述水果采摘机器人将所述偏移量转换为目标三维力,所述目标三维力为所述夹取器夹取所述采摘目标对应的力;
所述水果采摘机器人将所述目标三维力以及所述光谱分析信息确定为所述采摘目标对应的第三采摘信息。
6.根据权利要求5所述的一种水果采摘机器人的管控方法,其特征在于,所述光谱分析信息用于判断所述采摘目标是否满足无损坏条件、成熟条件;所述光谱分析信息的信息类型包括第一类型、第二类型或第三类型,所述第一类型表示所述采摘目标同时满足所述无损坏条件、所述成熟条件;所述第二类型表示所述采摘目标不满足所述无损坏条件且满足所述成熟条件;所述第三类型表示所述采摘目标同时不满足所述无损坏条件、所述成熟条件;
所述水果采摘机器人控制所述末端执行器对所述采摘目标执行与所述第三采摘信息对应的第三采摘处理操作,包括:
当所述光谱分析信息为所述第一类型或所述第二类型时,所述水果采摘机器人控制所述末端执行器的夹取器基于所述目标三维力夹取所述采摘目标,并将夹取到的所述采摘目标放置到所述光谱分析信息的信息类型匹配的放置容器中;
当所述光谱分析信息为所述第三类型时,所述水果采摘机器人根据所述采摘目标的第三采摘信息生成弃用标识,所述弃用标识用于表示该采摘目标对应的所述光谱分析信息的信息类型为所述第三类型。
7.根据权利要求3所述的一种水果采摘机器人的管控方法,其特征在于,所述采摘目标对应的采摘类型参数用于确定针对所述采摘目标的采摘执行方式,所述采摘执行方式包括第一执行方式或第二执行方式,其中:
当所述采摘执行方式为所述第一执行方式时,所述水果采摘机器人摘取任一所述采摘目标时启动所述末端执行器对应的夹取器、所述第一传感器以及第二传感器;
当所述采摘执行方式为所述第二执行方式时,所述水果采摘机器人摘取任一所述采摘目标时启动所述末端执行器对应的夹取器、所述第一传感器、第二传感器以及移动剪切工具,所述移动剪切工具外置在所述末端执行器上,用以剪断所述采摘目标对应的目标果柄区域。
8.一种水果采摘机器人的管控系统,其特征在于,所述系统应用于水果采摘机器人,所述系统包括:
确定模块,用于确定当前待执行的采摘任务,所述采摘任务包括多个采摘位点以及每个所述采摘位点对应的位置信息;
移动控制模块,用于根据目标采摘位点的位置信息移动至所述目标采摘位点,所有所述采摘位点包括所述目标采摘位点;
第一采摘模块,用于对所述目标采摘位点对应的所有采摘目标执行与第一采摘事项匹配的第一采摘处理操作,得到所有所述采摘目标对应的第一采摘信息,所述第一采摘事项为所述采摘任务中针对所述目标采摘位点的执行事项,所述第一采摘处理操作包括信息采集操作以及采摘队列构建操作;
第二采摘模块,用于根据所述第一采摘信息对所有所述采摘目标执行与第二采摘事项匹配的第二采摘处理操作,得到所有所述采摘目标对应的第二采摘信息;
第三采摘模块,用于根据所述第二采摘信息对所有所述采摘目标执行第三采摘处理操作;
判断模块,用于判断是否完成针对所述目标采摘位点的采摘任务;
更新模块,用于当所述判断模块判断出已完成针对所述目标采摘位点的采摘任务后,更新所述采摘任务的完成进度并移动至所述目标采摘位点对应的下一采摘位点,以执行针对所述下一采摘位点的采摘事项;
其中,所述第二采摘处理操作包括信息多级分析处理操作;所述第三采摘处理操作包括信息采集、信息处理、摘取力计算、水果摘取操作中的至少一种。
9.一种水果采摘机器人,其特征在于,所述水果采摘机器人包括末端执行器、第一传感器、第二传感器以及移动剪切工具;所述水果采摘机器人用于执行如权利要求1-7任一项所述的水果采摘机器人的管控方法。
10.一种计算机存储介质,其特征在于,所述计算机存储介质存储有计算机指令,所述计算机指令被调用时,用于执行如权利要求1-7任一项所述的水果采摘机器人的管控方法。
CN202310533838.6A 2023-05-11 2023-05-11 水果采摘机器人的管控方法及系统、水果采摘机器人 Pending CN116749173A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310533838.6A CN116749173A (zh) 2023-05-11 2023-05-11 水果采摘机器人的管控方法及系统、水果采摘机器人

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310533838.6A CN116749173A (zh) 2023-05-11 2023-05-11 水果采摘机器人的管控方法及系统、水果采摘机器人

Publications (1)

Publication Number Publication Date
CN116749173A true CN116749173A (zh) 2023-09-15

Family

ID=87946776

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310533838.6A Pending CN116749173A (zh) 2023-05-11 2023-05-11 水果采摘机器人的管控方法及系统、水果采摘机器人

Country Status (1)

Country Link
CN (1) CN116749173A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116968039A (zh) * 2023-09-25 2023-10-31 浩科机器人(苏州)有限公司 用于机器人智能控制的动作执行优化方法及系统
CN118058074A (zh) * 2024-02-20 2024-05-24 广东若铂智能机器人有限公司 一种判断串型水果采摘过程中突发干扰的方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116968039A (zh) * 2023-09-25 2023-10-31 浩科机器人(苏州)有限公司 用于机器人智能控制的动作执行优化方法及系统
CN116968039B (zh) * 2023-09-25 2023-12-12 浩科机器人(苏州)有限公司 用于机器人智能控制的动作执行优化方法及系统
CN118058074A (zh) * 2024-02-20 2024-05-24 广东若铂智能机器人有限公司 一种判断串型水果采摘过程中突发干扰的方法

Similar Documents

Publication Publication Date Title
CN116749173A (zh) 水果采摘机器人的管控方法及系统、水果采摘机器人
Sarig Robotics of fruit harvesting: A state-of-the-art review
CA3034061C (en) System and method for drone fleet management for harvesting and dilution
US20060150602A1 (en) Method and apparatus for remotely assisted harvester
Scarfe et al. Development of an autonomous kiwifruit picking robot
US7854108B2 (en) Agricultural robot system and method
CN101807247B (zh) 果蔬采摘点微调定位方法
WO2010063075A1 (en) Crop picking device and method
EP1830624A2 (en) Agricultural robot system and method
AU2019340235A1 (en) Automated vehicle
CN216058333U (zh) 一种智能移动水果采摘机器人
Miao et al. Efficient tomato harvesting robot based on image processing and deep learning
CN114080905B (zh) 基于数字双胞胎的采摘方法及云采摘机器人系统
Silwal et al. Bumblebee: A Path Towards Fully Autonomous Robotic Vine Pruning.
CN109247153A (zh) 一种基于物联网的沃柑树枝修剪智能机器人
WO2023204243A1 (ja) 森林管理システムおよび森林管理方法
You et al. An autonomous robot for pruning modern, planar fruit trees
JP2024505669A (ja) ガントリーシステムを備えたロボット収穫システム
You et al. Semiautonomous precision pruning of upright fruiting offshoot orchard systems: An integrated approach
US20220046859A1 (en) System and method for selective harvesting at night or under poor visibility conditions, night dilution and agriculture data collection
CN111360782A (zh) 一种基于空中轨道式多功能机器人
CN116391506A (zh) 一种番茄果实高速收集系统及方法和番茄果实采摘机
US11931890B2 (en) Human-robot guiding system for agricultural objects detection in unstructured and noisy environment by integrated laser and vision
CN109937733B (zh) 一种果园产量自动化测量装置
JP2023012812A (ja) 収穫ロボット、収穫ロボットの制御方法及び制御プログラム、並びに収穫システム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination