CN104842356B - 一种基于分布式计算与机器视觉的多码垛机器人示教方法 - Google Patents

一种基于分布式计算与机器视觉的多码垛机器人示教方法 Download PDF

Info

Publication number
CN104842356B
CN104842356B CN201510290960.0A CN201510290960A CN104842356B CN 104842356 B CN104842356 B CN 104842356B CN 201510290960 A CN201510290960 A CN 201510290960A CN 104842356 B CN104842356 B CN 104842356B
Authority
CN
China
Prior art keywords
robot
teaching
virtual
palletizer
machine vision
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201510290960.0A
Other languages
English (en)
Other versions
CN104842356A (zh
Inventor
李波
戴骏贤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201510290960.0A priority Critical patent/CN104842356B/zh
Publication of CN104842356A publication Critical patent/CN104842356A/zh
Application granted granted Critical
Publication of CN104842356B publication Critical patent/CN104842356B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/0081Programme-controlled manipulators with master teach-in means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/42Recording and playback systems, i.e. in which the programme is recorded from a cycle of operations, e.g. the cycle of operations being manually controlled, after which this record is played back on the same machine
    • G05B19/425Teaching successive positions by numerical control, i.e. commands being entered to control the positioning servo of the tool head or end effector

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Numerical Control (AREA)
  • Manipulator (AREA)

Abstract

该发明公开了一种基于分布式计算与机器视觉的多码垛机器人示教方法,该方法首先通过虚拟显示技术虚拟机器人及其作业环境,使得操作者可以在不开启机器人的情况下,获得一个与实物环境相同的虚拟环境;之后本方法提供了基于机器视觉的示教方式,与传统的示教模式相比,此方式可以使得操作者通过肢体动作便可控制机器人,而不必使用键盘等方式;最后为了能够充分利用富余计算资源和加速计算速度,本方法采用了分布式技术,将虚拟显示,碰撞检测、图像处理等大计算量的工作进行分布式计算,极大的提高了计算速度。与现有的计算相比,本方法带来了示教的便利性、计算性能的提高,提高了码垛机器人的示教作业速度。

Description

一种基于分布式计算与机器视觉的多码垛机器人示教方法
技术领域
本发明涉及的是一种机器人示教技术领域的方法,具体是一种面向多码垛机器人的快速、高效的示教方法。
背景技术
当前码垛机器人示教器普遍采用的方式为在线示教和离线示教方式。在线示教需要操作人员手持示教器在现场环境下进行长时间的示教。而且在实际操作示教器时,工作人员必须在机器人周围不停的移动观察机器人的姿态是否符合要求。因此手持示教器会给工作人员带来较大的负荷。而离线示教方式不需要长时间手持示教器,在不运行机器人的情况下,通过预先设定的参数和示教系统输入的其他信息,即可自动计算出机器人自动作业的时候机器人的运动轨迹和参数。
然而传统离线示教方式,不能直观的显示出机器人运动的轨迹和方式,操作者并不知晓当前自动计算的机器人运动轨迹是否符合实际要求。针对传统离线示教的不足,亦有提出基于虚拟仿真码垛机器人的示教方式。中国专利公开号CN101198531A公开了一种面向码垛机器人的离线仿真控制系统。对码垛作业提供前期的离线仿真验证,避免发生碰撞损毁等情况。
此发明因为需要对机器人进行大量的虚拟仿真和碰撞检测计算,所以注定了其运行的平台只能在运算能力强大的PC机或者采用高配置的嵌入式开发板例如DSP+ARM的结构。当前大型工厂中的码垛机器人不止一台,上述的发明无论采取哪种架构,都没有充分利用工厂中其他机器人系统中富余的计算资源,以此来提高计算速度。
发明内容
本发明针对现有技术存在的不足,提供了一种基于分布式计算与机器视觉的多码垛机器人示教方法,针对当前多码垛机器人环境中示教系统使用的过程中,示教效率较低、富余计算资源利用不充分的问题提出了解决方案,进一步提高了示教作业的速度,合理利用了富余计算资源。
本发明的技术方案是一种基于分布式计算与机器视觉的多码垛机器人示教方法,该方法包括:
步骤1:针对多码垛机器人,对各码垛机器人进行编号;
步骤2:选取需要进行示教的码垛机器人,获取选取的码垛机器人当前的机器人本体参数和作业区环境参数,并根据这些参数进行虚拟显示,最终获得虚拟三维机器人和其虚拟三维作业环境;
步骤3:采集示教员动作信息,并将示教员的动作信息转换为对机器人的指令信息;
步骤4:虚拟机器人根据指令信息完成规定动作,显示虚拟机器人的运动过程,在执行显示虚拟机器人运动的过程中,实时判断机器人运动过程中是否发生碰撞,若发生碰撞则报警,并显示错误信息。
进一步的,所述步骤2对机器人和作业环境的虚拟显示的计算过程、步骤3对采集图像处理的计算过程、步骤4对判断机器人动作是否发生错误的计算过程中采用分布式计算的方法,该方法包括:
S1:由示教的码垛机器人判断所有码垛机器人计算资源的空闲程度;
S2:根据各码垛机器人计算资源的空闲程度来分配当前所需计算的工作量;
S3:各码垛机器人计算完成后返回计算结果,由示教的码垛机器人对各计算结果进行处理,获得最终的结果。
进一步的,所述步骤2的具体步骤为:
步骤2.1:首先示教器连接需要进行示教的码垛机器人;
步骤2.2:获取当前的机器人本体参数,具体为码垛机器人四个轴当前的位置信息参数;
步骤2.3:获取当前的机器人作业区环境参数,具体为码垛机器人作业区内,流水线位置、跺盘位置信息参数;
步骤2.4:根据步骤2.2-2.3所获取的参数信息,采用虚拟显示技术,建立虚拟三维机器人和虚拟三维作业区环境。
进一步的,所述步骤3的具体步骤为:
步骤3.1:采集示教员的动作图像,并将动作图像回传至示教器控制节点;
步骤3.2:从采集的动作图像中提取出示教员的轮廓图像,并判断其动作类型;
步骤3.3:根据示教员的动作类型,转换成对机器人的指令信息。
本发明为一种基于分布式计算与机器视觉的多码垛机器人示教方法,该方法首先通过虚拟显示技术虚拟机器人及其作业环境,使得操作者可以在不开启机器人的情况下,获得一个与实物环境相同的虚拟环境;之后本方法提供了基于机器视觉的示教方式,与传统的示教模式相比,此方式可以使得操作者通过肢体动作便可控制机器人,而不必使用键盘等方式;最后为了能够充分利用富余计算资源和加速计算速度,本方法采用了分布式技术,将虚拟显示,碰撞检测、图像处理等大计算量的工作进行分布式计算,极大的提高了计算速度。与现有的计算相比,本方法带来了示教的便利性、计算性能的提高,提高了码垛机器人的示教作业速度。
附图说明
图1为本发明方法的系统结构图。
图2为基于分布式并行计算与机器视觉的多码垛机器人快速示教系统工作流程图。
图3为本发明方法的系统拓扑结构图。
具体实施方式
下面对本发明的实施例作详细说明,本实施例在以本发明技术方案为前提下进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
本实施例程主要的模块包括:基于机器视觉的示教模块、分布式计算模块、虚拟显示模块、碰撞检测模块、传输模块;
1、基于机器视觉的示教模块,采集示教员的动作图像,并将采集到的图像放入示教器数据暂存区,之后通过一系列图像处理步骤,获得示教员的动作信息类型,并最终转换为对机器人的指令信息;
2、虚拟显示模块,根据要被示教的机器人的参数信息和作业区环境参数信息,初始化虚拟机器人和虚拟作业区环境,同时根据指令信息完成规定动作;
3、碰撞检测模块检测在虚拟机器人完成指令信息规定的动作时有无发生碰撞;
4、分布式计算模块在基于机器视觉的示教模块、虚拟显示模块、碰撞检测模块工作的过程中,分割计算任务,派发给各个计算节点计算,并收集数据得出结果;
5、传输模块保证分布式计算模块的计算数据能够被有效地在各个节点间传输。
所述基于机器视觉的示教模块,其主要分为以下的两个模块:
1、高清工业级图像、视频采集传感器:本小模块采用高清工业摄像头MT9M001做为图像传感器,其可返回高清黑白的示教区域示教员的动作图像视频信息。此信息将通过串行非屏蔽双绞线回传至本例程示教器中的控制主板中。
2、图型图像处理模块:本模块采用计算机视觉图像图型处理库OpenCV,利用OpenCV库主要采取以下的几个步骤获取示教员的信息:
a.采用背景差法将视频讯息中每一帧图像进行求差,获取视频讯息中示教员的动作所在的主要的图像区域
b.利用二值化、开闭运算、轮廓提取等技术提取视频图像中示教员动作类型信息。
c.采用非线性映射技术,将当前示教员动作类型信息转换成对机器人的指令信息。
所述虚拟显示模块主要分为以下两个小模块:
1、初始化虚拟机器人及其虚拟作业环境模块:根据需要被示教的码垛机器人的本体参数和作业区环境参数,采用OpenGL构造虚拟机器人和虚拟作业环境。
2、虚拟机器人及其作业环境显示模块:可根据输入的机器人指令,驱动虚拟机器人完成规定的动作,并将结果显示在界面上。
所述碰撞检测模块采用基于OBB-AABB-Sphere混合包围盒检测算法,在所述虚拟机器人及其作业环境显示模块工作的过程中,检测虚拟机器人运动过程中有无碰撞,倘若发生了碰撞,则发出报警并显示错误信息。
所述分布式计算模块其采用hadoop做为分布式计算架构,其架构搭建于工作现场环境下的每一台工业机器人的控制主机中。当其工作时主要完成以下几个步骤:
1、当所述基于机器视觉的示教模块、所述虚拟显示模块,所述碰撞检测模块开始工作时,所述分布式计算模块接收上述几个模块的计算任务,利用hadoop分布式架构所提供的分布式计算功能,首先判断当前各个计算节点是否空闲能够进行计算,之后将计算任务拆解并分发至现场能够进行计算的各个计算节点进行计算。
2、各个计算节点进行计算之后,将计算的结果回传至示教器节点,分布式计算模块回收各个计算节点所计算结果,并进行组合形成最终的结算结果。
所述传输模块采用TCP/IP协议,保证计算任务在各个计算节点之间的传输,保证要被示教的机器人的当前参数信息能够被正确传输。
图2为本实例实施流程
1)通过示教界面设定要示教的码垛机器人编号。
2)获取步骤1所需的示教目标当前状态参数信息,通过参数信息初始化构造虚拟机器人及其虚拟作业环境。
3)采用基于机器视觉的示教模块采集示教员动作信息并转换成对应的机器人指令。
4)虚拟显示模块执行指令并显示
5)碰撞检测模块在虚拟显示模块执行时,检测有无碰撞发生,有则报警并显示。
6)判断当前是否已经结束示教,如果结束则登录当前机器人位置信息,否则返回步骤3
7)在步骤3-5进行的过程中,都会提起分布式计算请求,并收集计算结果。
图3为本实例的网络拓扑连接图
在这个多码垛机器人系统中,仅采用一个示教器,同时有多个码垛机器人。示教器和多个码垛机器人通过无线网络相连。当需要对一个机器人进行示教时,示教中需要进行大量频繁计算的数据被分布式模块分发至各个机器人中的计算机进行计算。

Claims (4)

1.一种基于分布式计算与机器视觉的多码垛机器人示教方法,该方法包括:
步骤1:针对多码垛机器人,对各码垛机器人进行编号;
步骤2:选取需要进行示教的码垛机器人,获取选取的码垛机器人当前的机器人本体参数和作业区环境参数,并根据这些参数进行虚拟显示,最终获得虚拟三维机器人和其虚拟三维作业环境;
步骤3:采集示教员动作信息,并将示教员的动作信息转换为对机器人的指令信息;
步骤4:虚拟机器人根据指令信息完成规定动作,显示虚拟机器人的运动过程,在执行显示虚拟机器人运动的过程中,实时判断机器人运动过程中是否发生碰撞,若发生碰撞则报警,并显示错误信息。
2.如权利要求1所述的一种基于分布式计算与机器视觉的多码垛机器人示教方法,其特征在于所述步骤2对机器人和作业环境的虚拟显示过程、步骤3对采集图像处理过程、步骤4对判断机器人动作是否发生错误的过程中采用分布式计算的方法,该方法包括:
S1:由示教的码垛机器人判断所有码垛机器人计算资源的空闲程度;
S2:根据各码垛机器人计算资源的空闲程度来分配当前所需计算的工作量;
S3:各码垛机器人计算完成后返回计算结果,由示教的码垛机器人对各计算结果进行处理,获得最终的结果。
3.如权利要求1所述的一种基于分布式计算与机器视觉的多码垛机器人示教方法,其特征在于所述步骤2的具体步骤为:
步骤2.1:首先示教器连接需要进行示教的码垛机器人;
步骤2.2:获取当前的机器人本体参数,具体为码垛机器人四个轴当前的位置信息参数;
步骤2.3:获取当前的机器人作业区环境参数,具体为码垛机器人作业区内,流水线位置、跺盘位置信息参数;
步骤2.4:根据步骤2.2-2.3所获取的参数信息,采用虚拟显示技术,建立虚拟三维机器人和虚拟三维作业区环境。
4.如权利要求1所述的一种基于分布式计算与机器视觉的多码垛机器人示教方法,其特征在于所述步骤3的具体步骤为:
步骤3.1:采集示教员的动作图像,并将动作图像回传至示教器控制节点;
步骤3.2:从采集的动作图像中提取出示教员的轮廓图像,并判断其动作类型;
步骤3.3:根据示教员的动作类型,转换成对机器人的指令信息。
CN201510290960.0A 2015-05-29 2015-05-29 一种基于分布式计算与机器视觉的多码垛机器人示教方法 Expired - Fee Related CN104842356B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510290960.0A CN104842356B (zh) 2015-05-29 2015-05-29 一种基于分布式计算与机器视觉的多码垛机器人示教方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510290960.0A CN104842356B (zh) 2015-05-29 2015-05-29 一种基于分布式计算与机器视觉的多码垛机器人示教方法

Publications (2)

Publication Number Publication Date
CN104842356A CN104842356A (zh) 2015-08-19
CN104842356B true CN104842356B (zh) 2016-11-09

Family

ID=53842530

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510290960.0A Expired - Fee Related CN104842356B (zh) 2015-05-29 2015-05-29 一种基于分布式计算与机器视觉的多码垛机器人示教方法

Country Status (1)

Country Link
CN (1) CN104842356B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106403950B (zh) * 2016-06-24 2019-06-21 电子科技大学 一种基于参考信息的码垛机器人轨迹规划方法
CN107577159A (zh) * 2017-10-31 2018-01-12 塔普翊海(上海)智能科技有限公司 扩增实境仿真系统
CN108161904B (zh) * 2018-01-09 2019-12-03 青岛理工大学 基于增强现实的机器人在线示教装置、系统、方法、设备
CN108972564B (zh) * 2018-09-20 2023-11-24 中国科学院合肥物质科学研究院 一种码垛机器人控制系统
CN111843996B (zh) * 2020-07-29 2022-05-06 珠海一维弦机器人有限公司 多机械臂装置及其控制方法
CN111739089B (zh) * 2020-08-18 2021-03-09 佛山隆深机器人有限公司 一种产品在封闭或半封闭空间下判定码垛区域的系统
CN113319891A (zh) * 2021-01-28 2021-08-31 山东硅步机器人技术有限公司 一种低延迟机器人检测机械臂碰撞的方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003165079A (ja) * 2001-11-28 2003-06-10 Nachi Fujikoshi Corp 産業用ロボット
JP4056542B2 (ja) * 2005-09-28 2008-03-05 ファナック株式会社 ロボットのオフライン教示装置
JP2011048621A (ja) * 2009-08-27 2011-03-10 Honda Motor Co Ltd ロボットのオフライン教示方法
CN103522290B (zh) * 2013-10-14 2015-12-02 上海司塔珂机器人技术有限公司 基于现场总线的分布式机器人控制系统
CN104325268A (zh) * 2014-11-04 2015-02-04 南京赫曼机器人自动化有限公司 一种基于智能学习的工业机器人三维空间自主装配方法

Also Published As

Publication number Publication date
CN104842356A (zh) 2015-08-19

Similar Documents

Publication Publication Date Title
CN104842356B (zh) 一种基于分布式计算与机器视觉的多码垛机器人示教方法
CN111633644A (zh) 一种结合智能视觉的工业机器人数字孪生系统及其运行方法
CN111028267B (zh) 一种移动机器人单目视觉跟随系统及跟随方法
CN109079736B (zh) 一种基于ros的移动机器人平台的控制方法及系统
CN107030692B (zh) 一种基于感知增强的机械手遥操作方法及系统
CN104385282A (zh) 一种视觉智能数控系统及其视觉计测方法
CN107491071A (zh) 一种智能多机器人协同测图系统及其方法
CN101587329A (zh) 机器人预测的方法和系统
CN108846891B (zh) 一种基于三维骨架检测的人机安全协作方法
Kohn et al. Towards a real-time environment reconstruction for VR-based teleoperation through model segmentation
CN110977981A (zh) 一种机器人虚拟现实同步系统及同步方法
CN102566552A (zh) 面向物联网和3d gis的公路隧道智能检修机器人
CN112123338A (zh) 一种支持深度学习加速的变电站智能巡检机器人系统
Khalil et al. Visual monitoring of surface deformations on objects manipulated with a robotic hand
CN110666820A (zh) 一种高性能工业机器人控制器
CN113752264A (zh) 基于数字孪生的机械臂智能装备控制方法及系统
CN112800606A (zh) 数字孪生产线构建方法、系统、电子设备及存储介质
Lovi et al. Predictive display for mobile manipulators in unknown environments using online vision-based monocular modeling and localization
JP2020052032A (ja) 撮像装置及び撮像システム
CN115982824A (zh) 施工现场工人空间管理方法、装置、电子设备及存储介质
CN110942083A (zh) 拍摄装置以及拍摄系统
Brecher et al. 3D assembly group analysis for cognitive automation
CN113516122A (zh) 面向配电房智能值守作业的机器人视觉系统和方法
CN202583824U (zh) 面向物联网和3d gis的公路隧道智能检修机器人
CN113878573B (zh) 码垛机器人的控制方法及系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20161109

Termination date: 20190529

CF01 Termination of patent right due to non-payment of annual fee