CN117532584A - 机械臂示教方法、装置、设备及存储介质 - Google Patents
机械臂示教方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117532584A CN117532584A CN202311723494.1A CN202311723494A CN117532584A CN 117532584 A CN117532584 A CN 117532584A CN 202311723494 A CN202311723494 A CN 202311723494A CN 117532584 A CN117532584 A CN 117532584A
- Authority
- CN
- China
- Prior art keywords
- calibration object
- mechanical arm
- teaching
- calibration
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000004590 computer program Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 description 17
- 239000003550 marker Substances 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000036544 posture Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/0081—Programme-controlled manipulators with master teach-in means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J18/00—Arms
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
- B25J9/1661—Programme controls characterised by programming, planning systems for manipulators characterised by task planning, object-oriented languages
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Manipulator (AREA)
Abstract
本申请提供一种机械臂示教方法、装置、设备及存储介质,涉及机器人视觉技术领域,该方法包括:将包含标定物的指定区域进行明显显示;其中,如果标定物固定在机械臂末端,获取指定区域的画面的相机安装在机械臂之外,如果标定物固定在机械臂之外,获取指定区域的画面的相机安装在机械臂末端;移动机械臂使得标定物出现在指定区域内;若判定出现在指定区域内的标定物符合示教要求,则采集机械臂当前的位姿和标定物图片。突出显示标定物需要出现的指定区域,当判定出现在指定区域内的标定物符合示教要求,便可以进行正常的示教位姿采集,基于该示教的标定结果可靠、准确,易于用户操作。
Description
技术领域
本申请涉及机器人视觉技术领域,具体而言,涉及一种机械臂示教方法、装置、设备及存储介质。
背景技术
机器人可以将传感器(相机)安装在固定位置,具有固定的位置(eye-to-hand),也可以将传感器安装在机器人的手上,以便通过改变摄像头的视角来获取新图像(即eye-in-hand)。机器人示教器是示教再现机器人的控制和操作装置,它可以通过手动操作引导机器人执行特定任务。示教再现机器人是一种可重复再现通过示教编程存储起来的作业程序的机器人,基本结构由机器人本体、执行机构、控制系统、示教盒等部分组成。
目前,应用场景中当用户会自由地移动机械臂与相机的位置,则手眼标定需要由用户完成。因此,需要有一套由用户能简单操作的手眼标定方法,在手眼标定之前,需要一套较好的示教方式,易于用户操作、避免给非专业用户使用造成负担,保证标定过程机械臂的位置尽可能的可以到达且能拍摄到标定物,保证基于示教的标定结果是可靠的。
发明内容
有鉴于此,本申请实施例的目的在于提供一种机械臂示教方法、装置、设备及存储介质,通过在相机界面中突出显示标定物需要出现的指定区域,告知用户需要通过移动机械臂使得标定物出现在该指定区域内,根据相机画面中标记物的出现情况,提示用户执行不同的操作,当判定出现在指定区域内的标定物符合示教要求,便可以进行正常的示教位姿采集,基于该示教的标定结果可靠、准确,易于用户操作,从而解决上述技术问题。
第一方面,本申请实施例提供一种机械臂示教方法,所述方法包括:将包含标定物的指定区域进行明显显示;其中,如果标定物固定在机械臂末端,获取所述指定区域的画面的相机安装在所述机械臂之外;如果标定物固定在机械臂之外,获取所述指定区域的画面的相机安装在所述机械臂末端;移动机械臂使得所述标定物出现在所述指定区域内;若判定出现在所述指定区域内的所述标定物符合示教要求,则采集所述机械臂当前的位姿和标定物图片。
在上述实现过程中,通过在相机界面中突出显示标定物需要出现的指定区域,告知用户需要通过移动机械臂使得标定物出现在该指定区域内,根据相机画面中标记物的出现情况,提示用户执行不同的操作,当判定出现在指定区域内的标定物符合示教要求,便可以进行正常的示教位姿采集,基于该示教的标定结果可靠、准确,易于用户操作。
可选地,所述若判定出现在所述指定区域内的所述标定物符合示教要求,则采集所述机械臂当前的位姿和标定物图片之前,所述方法还包括:判断标定物是否出现在相机画面中的指定区域内;若判定所述标定物出现在所述指定区域内,再判断出现在所述指定区域内的所述标定物是否符合示教要求。
在上述实现过程中,通过对标定物是否出现在相机画面中的指定区域内进行识别判断,保证了每一次拍摄标定物图片都能进行标准位置拍摄,提高了基于示教的标定过程的准确性和可靠性。
可选地,所述判断标定物是否出现在相机画面中的指定区域内,包括:若判定所述标定物未出现在相机画面中,则提示用户移动机械臂使得所述标定物出现在所述相机画面内;若判定所述标定物出现在相机画面中,但并未出现在所述指定区域内,则显示箭头引导用户移动机械臂使得所述标定物出现在所述指定区域内;若判定所述标定物出现在所述指定区域内,则显示所述标定物与相机的距离和角度引导用户调整到合理数值。
在上述实现过程中,通过根据显示画面中标记物的出现情况、出现距离和相机的角度提示用户执行不同的调整操作,方便用户更快速、更准确地进行示教。
可选地,所述再判断出现在所述指定区域内的所述标定物是否符合示教要求,包括:判断出现在所述指定区域内的所述标定物的尺寸和姿态是否符合示教要求;若符合示教要求,则采集所述机械臂当前的位姿和标定物图片;若不符合示教要求,则调整机械臂末端和/或相机和/或标定物的位置和角度。
在上述实现过程中,通过识别判断标定物的尺寸和姿态朝向,进而确定标定物是否满足示教要求,易于操作,提高了示教效率。
可选地,所述将包含标定物的指定区域进行明显显示,包括:若指定区域为单个,则采用醒目颜色的方框或色块进行突出显示;若指定区域为多个,则采用按照序号排列的醒目颜色的方框或色块依次进行突出显示。
在上述实现过程中,通过分别用不同的方式突出显示单个示教区域和多个示教区域,提高了示教的灵活性。
可选地,所述采集所述机械臂当前的位姿和标定物图片之后,所述方法还包括:基于所述标定物图片和所述机械臂位姿,在相机坐标系下计算所述标定物的中心正对所述相机的初始位姿;基于所述初始位姿,在所述标定物和相机相对旋转运动的预设空间位置区间生成多个拍摄位姿;若判定所述多个拍摄位姿满足预设标定精度数量,则基于所述多个拍摄位姿进行手眼标定。
在上述实现过程中,通过利用示教拍摄的标定板图片和对应的机械臂位姿计算初始位姿,进一步生成一定数量的拍摄位姿进行手眼标定,相较于工程师进行人工手眼标定,只需要简单的拖动示教操作便可以进行手眼标定,该半自动化手眼标定能够在更短的时间内完成标定任务,标定结果具有更好的稳定性和一致性,提高了手眼标定的成功率。
可选地,所述标定物包括:棋盘格。
在上述实现过程中,通过使用棋盘格作为标定物,容易分辨和识别,提高了示教、手眼标定的效率和质量。
第二方面,本申请实施例提供了一种机械臂示教装置,所述装置包括:显示示教区域模块,用于将包含标定物的指定区域进行明显显示;其中,如果标定物固定在机械臂末端,获取所述指定区域的画面的相机安装在所述机械臂之外;如果标定物固定在机械臂之外,获取所述指定区域的画的相机安装在所述机械臂末端;移动机械臂模块,用于移动机械臂使得所述标定物出现在所述指定区域内;示教模块,用于若出现在所述指定区域内的所述标定物符合示教要求,采集所述机械臂当前的位姿和标定物图片。
第三方面,本申请实施例还提供一种电子设备,包括:处理器、存储器,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述机器可读指令被所述处理器执行时执行上述的方法的步骤。
第四方面,本申请实施例提供一种存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述的方法的步骤。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种机械臂示教方法的流程图;
图2为本申请实施例提供的一种机械臂示教方法的示例图;
图3为本申请实施例提供的机械臂示教装置的功能模块示意图;
图4为本申请实施例提供机械臂示教装置的电子设备的方框示意图。
图标:210-显示示教区域模块;220-移动机械臂模块;230-示教模块;300-电子设备;311-存储器;312-存储控制器;313-处理器;314-外设接口;315-输入输出单元;316-显示单元。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在介绍本申请实施例前,首先对涉及的几个技术概念作简要介绍。
机器人标定:机器人可以将传感器(相机)安装在固定位置,具有固定的位置(eye-to-hand,眼在手外),也可以将传感器安装在机器人的手上,以便通过改变摄像头的视角来获取新图像(即eye-in-hand,眼在手上)。为了使机器人能够准确估计零件相对于其自身底座的三维位置和方向,需要知道机器手臂和其自身底座、相机和手臂以及相机与工件的相对位置和方向。这三项任务需要校准机器人、传感器和机器手臂对传感器(手眼)。校准机器人主要是对机器人运动学参数进行标定,基于机器人误差模型获取机器人运动学参数误差,将误差补偿到原有名义参数上达到机器人标定的目的。校准传感器对于搭载的传感器为相机而言就是获取相机内参数、标定物(标定板)相对于相机坐标系的转换矩阵。校准机器手臂与传感器即我们所谓的手眼关系标定,主要是确定机器人末端和传感器之间的关系。
本申请发明人注意到,机器人示教器是示教再现机器人的控制和操作装置,它可以通过手动操作引导机器人执行特定任务,示教再现机器人是一种可重复再现通过示教编程存储起来的作业程序的机器人,基本结构由机器人本体、执行机构、控制系统、示教盒等部分组成。目前,应用场景中当用户会自由地移动机械臂与相机的位置,则手眼标定需要由用户完成。因此,需要有一套由用户能简单操作的手眼标定方法,在手眼标定之前,需要一套较好的示教方式,易于用户操作、避免给非专业用户使用造成负担,保证标定过程机械臂的位置尽可能的可以到达且能拍摄到标定板,保证基于示教的标定结果是可靠的。有鉴于此,本申请实施例提供了一种如下介绍的机械臂示教方法、装置、设备及存储介质。
请参阅图1,图1为本申请实施例提供的一种机械臂示教方法的流程图。下面对本申请实施例作详细介绍。该方法包括:步骤100、步骤120和步骤140。
步骤100:将包含标定物的指定区域进行明显显示;其中,如果标定物固定在机械臂末端,获取指定区域的画面的相机安装在机械臂之外,如果标定物固定在机械臂之外,获取指定区域的画面的相机安装在机械臂末端;
步骤120:移动机械臂使得标定物出现在指定区域内;
步骤140:若判定出现在指定区域内的标定物符合示教要求,则采集机械臂当前的位姿和标定物图片。
示例性地,指定区域可以是:示教时,需要标定物在相机画面中出现的大致区域,该区域形状可以是方形,也可以是圆形或其他形状,可通过比较醒目的颜色框或色块突出显示该区域,以引导用户拖拽机械臂使得标定物出现在该区域内。标定物图片可以是:将相机固定安装在距离机器人机械臂一定距离的位置,标定物固定在机械臂末端,通过改变相机摄像头的视角来获取标定图像(即eye-to-hand);或者将相机固定安装在机器人机械臂末端,标定物固定在距离机械臂一定距离的位置,通过改变机械臂的姿态来获取标定图片(即eye-in-hand);具体使用相机拍摄不同机械臂位姿下的标定物图片n张,后续用于手眼标定,n一般大于3。
可选地,利用YOLO目标检测模型和软件解析界面导引用户进行拖拽示教操作并进行标定板图片的拍摄,得到标定板图片和机械臂位姿。在拖拽示教之前,将拍摄标定物的大致区域进行明显显示,明显显示的方式可以是:通过比较醒目的颜色框或色块进行突出显示该区域,例如绿色矩形框。根据突出显示的绿色矩形框区域,操作或拖拽机械臂,将用于校准机器人的位置、姿态和运动轨迹等参数的标定物慢慢出现在突出显示的绿色矩形框内,可以是平面棋盘格、圆形网格、特定标记物等。若出现在指定区域内的该标定物符合示教所需要满足的尺寸、角度、位置等要求,例如:标定物不能过近或过远,表现为检测出的标定物尺寸过小或者过大,界面上可提示用户相对相机推远或者拉近;标定物的角度要合适,界面上可提示调整机械臂末端,让标定物方向朝相机旋转;标定物的位置要合适,可往某个方向牵拉调整。满足这些要求后,即可进行标定物图片的获取,后续手眼标定的进行。
通过在相机界面中突出显示标定物需要出现的指定区域,告知用户需要通过移动机械臂使得标定物出现在该指定区域内,根据相机画面中标记物的出现情况,提示用户执行不同的操作,当判定出现在指定区域内的标定物符合示教要求,便可以进行正常的示教位姿采集,基于该示教的标定结果可靠、准确,易于用户操作。
在一个实施例中,步骤140之前,该方法还包括:
步骤130:判断标定物是否出现在相机画面中的指定区域内;
步骤135:若判定标定物出现在指定区域内,再判断出现在指定区域内的标定物是否符合示教要求。
示例性地,如图2所示,在步骤140拍摄标定物图片之前,系统需要先判断标定物(例如:标定板)是否已经出现在突出画面区域内,判断的实现方式可以是:在示教过程中,相机在实时采集图像、标定板识别算法会根据图像实时输出识别结果,如果算法给出连续多帧图像都是卡到标定版且位于置顶区域内,则程序认定标定物已到位。如果没有出现在该突出区域内,再继续拖拽移动机械臂,如果标定板出现在该突出区域内,判断画面内标定物和机械臂是否符合示教要求,程序会实时对标定物的尺寸、角度、位置进行识别判断。通过对标定物是否出现在相机画面中的指定区域内进行识别判断,保证了每一次拍摄标定物图片都能进行标准位置拍摄,提高了基于示教的标定过程的准确性和可靠性。
在一个实施例中,步骤130可以包括:步骤131、步骤132和步骤133。
步骤131:若判定标定物未出现在相机画面中,则提示用户移动机械臂使得标定物出现在相机画面内;
步骤132:若判定标定物出现在相机画面中,但并未出现在指定区域内,则显示箭头引导用户移动机械臂使得标定物出现在指定区域内;
步骤133:若判定标定物出现在指定区域内,则显示标定物与相机的距离和角度引导用户调整到合理数值。
示例性地,在判断标定物是否出现在相机画面中的指定区域内的过程中,通过实时识别标定板的尺寸、位置和朝向,提示用户调整机械臂。可具体根据画面中标记物的出现情况、距离和相机的角度提示用户执行不同的操作。当标定物未出现在显示的画面中时,可通过文字、图画或者动画形式告知、提示用户需要拖拽机械臂使得标定物出现在画面内。当标记物出现在相机画面中时,但并未进入到突出显示的区域时,可显示箭头引导用户拖拽机械臂将标定物出现在画面内。当标记物进入相机画面后,可显示标记物与相机的距离和角度,提示用户调整到合适的数值。其中,合理或合适的数值为每个光学系统可容许的范围,根据标定的质量要求可以适应性地放宽或者收紧,例如本申请实施例中的合理数值为:角度为正负30度,距离为正负15cm。
通过根据显示画面中标记物的出现情况、出现距离和相机的角度提示用户执行不同的调整操作,方便用户更快速、更准确地进行示教。
在一个实施例中,步骤135可以包括:步骤136、步骤137和步骤138。
步骤136:判断出现在指定区域内的标定物的尺寸和姿态是否符合示教要求;
步骤137:若符合示教要求,则采集机械臂当前的位姿和标定物图片;
步骤138:若不符合示教要求,则调整机械臂末端和/或相机的位置和角度。
示例性地,可通过判断标定板的尺寸和姿态朝向确定是否符合示教要求,符合可进行示教位姿的采集,不符合则需要进一步调整相机、机械臂。尺寸方面,由于标定版的物理尺寸是固定的,如果画面中识别到的尺寸过小,例如边长不足30%,说明标定板距离相机太远,反之则太近;位姿方面,如果示教的位姿非常倾斜或者朝向与相机成像光心夹角过大,例如大于45度,说明机械臂摆放的姿态不好,后续进行手眼标定生成的位姿会有机械臂不可达的风险,或者标定质量无法保证,因此在此需要判断标定板的尺寸和姿态朝向是否符合示教要求。理论上,不同的光学系统对摆放姿态的范围容许度是不一样的。通过识别判断标定物的尺寸和姿态朝向,进而确定标定物是否满足示教要求,易于操作,提高了示教效率。
在一个实施例中,步骤100可以包括:步骤101和步骤102。
步骤101:若指定区域为单个,则采用醒目颜色的方框或色块进行突出显示;
步骤102:若指定区域为多个,则采用按照序号排列的醒目颜色的方框或色块依次进行突出显示。
示例性地,多示教区和单示教区的视觉突出方式可以是一样的,均可以用醒目颜色的矩形框或者色块进行突出显示,对于多示教区域,可以使用醒目的1、2、3…的序号或a、b、c…的序号呈现在框中,提示用户逐个区域机械能示教,示教框按顺序显示和消失,1号示教完成后消失、界面显示2号,以此类推。对于单示教区,则可以直接用醒目颜色加粗的矩形框或色块突出显示该示教区域,无需突出显示排列序号。通过分别用不同的方式突出显示单个示教区域和多个示教区域,提高了示教的灵活性。
在一个实施例中,步骤140之后,还可以包括:步骤151、步骤152和步骤153。
步骤151:基于标定物图片和机械臂位姿,在相机坐标系下计算标定物的中心正对相机的初始位姿;
步骤152:基于所述初始位姿,在标定物和相机相对旋转运动的预设空间位置区间生成多个拍摄位姿;
步骤153:若判定多个拍摄位姿满足预设标定精度数量,则基于多个拍摄位姿进行手眼标定。
示例性地,通过使用相机拍摄不同机械臂姿态下的标定板图片和对应的机械臂位姿,可以利用手眼标定方程AX=XB;式中,A表示相机与标定板的关系,B表示机械臂末端与基座的关系;如果采用眼在手上方式,X表示相机到机械臂末端的相对位姿,利用手眼关系矩阵计算出相机坐标系下机械臂末端中心正对相机时的位姿;如果采用眼在手外方式,X表示相机到机械臂基座的相对位姿,利用手眼关系矩阵计算出相机坐标系下机械臂基座中心正对相机时的位姿。以初始位姿为起始拍摄位姿,根据预设空间位置区间生成一定数量的拍摄姿态,根据这些数据进行手眼标定。其中,根据预设空间位置区间生成一定数量拍摄姿态的具体方式可以是:在正对初始位姿的基础上,按照一定的区间生成Δx,Δy,Δz,Δrx,Δry,Δrz,从而生成一定数量的拍摄位姿,其中,Δx,Δy,Δz是针对标定板中心点的中心(x,y,z)的偏移量(或者称为位移量),Δrx,Δry,Δrz,是针对标定板中心点的中心(x,y,z)的旋转偏移角度。例如:给定X的范围-2mm~2mm,间隔为1mm确定预设空间位置区间,则可获得Δx∈[-2,-1,0,1,2];Δy,Δz,Δrx,Δry,Δrz可以由相同的方法获得。遍历所有Δx,Δy,Δz,Δrx,Δry,Δrz即可获得一个空间内的所有拍摄位姿,常规情况下,手眼标定需要约20~100组位姿数据以产生稳定准确的结果。上述拍摄策略由于标定板做正对相机的旋转运动,标定板在拍摄的图片画面内一定清晰可见,可以生成可控数量的拍摄位姿。
通过利用示教拍摄的标定板图片和对应的机械臂位姿计算初始位姿,进一步生成一定数量的拍摄位姿进行手眼标定,相较于工程师进行人工手眼标定,只需要简单的拖动示教操作便可以进行手眼标定,该半自动化手眼标定能够在更短的时间内完成标定任务,标定结果具有更好的稳定性和一致性,提高了手眼标定的成功率。
在一个实施例中,标定物包括:棋盘格。
示例性地,标定物可以是:用于手眼标定的目标对象,对象可以具体是玻璃圆点、棋盘格、二维码等,可选地,标定物为容易识别的棋盘格标定板。可由图形化界面引导用户拖拽机械臂进行示教操作,可通过YOLO目标检测模型计算标定板的在画面中的位置。可通过cv::findChessboardCorners的角点检测算法(目标检测算法)检测标定板图片中的棋盘格是否可以用于标定,保证采集图片的有效性,引导用户往指定区域移动,该findChessboardCorners的角点检测算法会直接输出一个true或者false的输出,true输出及代表标定板图片可用。通过使用棋盘格作为标定物,容易分辨和识别,提高了示教、手眼标定的效率和质量。
请参阅图3,图3为本申请实施例提供的一种机械臂示教装置的功能模块示意图。该装置包括:
显示示教区域模块210,用于将包含标定物的指定区域进行明显显示;其中,标定物固定在所述机械臂末端,获取所述指定区域的画面的相机安装在所述机械臂之外;
移动机械臂模块220,用于移动机械臂使得所述标定物出现在所述指定区域内;
示教模块230,用于若出现在所述指定区域内的所述标定物符合示教要求,采集所述机械臂当前的位姿和标定物图片。
请参阅图4,图4是电子设备的方框示意图。电子设备300可以包括存储器311、存储控制器312、处理器313、外设接口314、输入输出单元315、显示单元316。本领域普通技术人员可以理解,图4所示的结构仅为示意,其并不对电子设备300的结构造成限定。例如,电子设备300还可包括比图4中所示更多或者更少的组件,或者具有与图4所示不同的配置。
上述的存储器311、存储控制器312、处理器313、外设接口314、输入输出单元315、显示单元316各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。上述的处理器313用于执行存储器中存储的可执行模块。
其中,存储器311可以是,但不限于,随机存取存储器(Random Access Memory,简称RAM),只读存储器(Read Only Memory,简称ROM),可编程只读存储器(ProgrammableRead-Only Memory,简称PROM),可擦除只读存储器(Erasable Programmable Read-OnlyMemory,简称EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-OnlyMemory,简称EEPROM)等。其中,存储器311用于存储程序,所述处理器313在接收到执行指令后,执行所述程序,本申请实施例任一实施例揭示的过程定义的电子设备300所执行的方法可以应用于处理器313中,或者由处理器313实现。
上述的处理器313可能是一种集成电路芯片,具有信号的处理能力。上述的处理器313可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(digital signalprocessor,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
上述的外设接口314将各种输入/输出装置耦合至处理器313以及存储器311。在一些实施例中,外设接口314,处理器313以及存储控制器312可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
上述的输入输出单元315用于提供给用户输入数据。所述输入输出单元315可以是,但不限于,鼠标和键盘等。
上述的显示单元316在电子设备300与用户之间提供一个交互界面(例如用户操作界面)给用户参考。在本实施例中,所述显示单元316可以是液晶显示器或触控显示器。液晶显示器或触控显示器可以对处理器执行所述程序的过程进行显示。
本实施例中的电子设备300可以用于执行本申请实施例提供的各个方法中的各个步骤。
此外,本申请实施例还提供一种存储介质,该存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中的步骤。
本申请实施例所提供的上述方法的计算机程序产品,包括存储了程序代码的存储介质,所述程序代码包括的指令可用于执行上述方法实施例中的步骤,具体可参见上述方法实施例,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。在本申请实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
需要说明的是,功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种机械臂示教方法,其特征在于,所述方法包括:
将包含标定物的指定区域进行明显显示;其中,如果标定物固定在机械臂末端,获取所述指定区域的画面的相机安装在所述机械臂之外;如果标定物固定在机械臂之外,获取所述指定区域的画面的相机安装在所述机械臂末端;
移动机械臂使得所述标定物出现在所述指定区域内;
若判定出现在所述指定区域内的所述标定物符合示教要求,则采集所述机械臂当前的位姿和标定物图片。
2.根据权利要求1所述的方法,其特征在于,所述若判定出现在所述指定区域内的所述标定物符合示教要求,则采集所述机械臂当前的位姿和标定物图片之前,所述方法还包括:
判断标定物是否出现在相机画面中的指定区域内;
若判定所述标定物出现在所述指定区域内,再判断出现在所述指定区域内的所述标定物是否符合示教要求。
3.根据权利要求2所述的方法,其特征在于,所述判断标定物是否出现在相机画面中的指定区域内,包括:
若判定所述标定物未出现在相机画面中,则提示用户移动机械臂使得所述标定物出现在所述相机画面中;
若判定所述标定物出现在相机画面中,但并未出现在所述指定区域内,则显示箭头引导用户移动机械臂使得所述标定物出现在所述指定区域内;
若判定所述标定物出现在所述指定区域内,则显示所述标定物与相机的距离和角度引导用户调整到合理数值。
4.根据权利要求2所述的方法,其特征在于,所述再判断出现在所述指定区域内的所述标定物是否符合示教要求,包括:
判断出现在所述指定区域内的所述标定物的尺寸和姿态是否符合示教要求;
若符合示教要求,则采集所述机械臂当前的位姿和标定物图片;
若不符合示教要求,则调整机械臂末端和/或相机和/或标定物的位置和角度。
5.根据权利要求1所述的方法,其特征在于,所述将包含标定物的指定区域进行明显显示,包括:
若指定区域为单个,则采用醒目颜色的方框或色块进行突出显示;
若指定区域为多个,则采用按照序号排列的醒目颜色的方框或色块依次进行突出显示。
6.根据权利要求1所述的方法,其特征在于,所述采集所述机械臂当前的位姿和标定物图片之后,所述方法还包括:
基于所述标定物图片和机械臂位姿,在相机坐标系下计算所述标定物的中心正对所述相机的初始位姿;
基于所述初始位姿,在所述标定物和相机相对旋转运动的预设空间位置区间生成多个拍摄位姿;
若判定所述多个拍摄位姿满足预设标定精度数量,则基于所述多个拍摄位姿进行手眼标定。
7.根据权利要求1-6任一所述的方法,其特征在于,所述标定物包括:棋盘格。
8.一种机械臂示教装置,其特征在于,所述装置包括:
显示示教区域模块,用于将包含标定物的指定区域进行明显显示;其中,如果标定物固定在机械臂末端,获取所述指定区域的画面的相机安装在机械臂之外;如果标定物固定在所述机械臂之外,获取所述指定区域的画面的相机安装在所述机械臂末端;
移动机械臂模块,用于移动机械臂使得所述标定物出现在所述指定区域内;
示教模块,用于若出现在所述指定区域内的所述标定物符合示教要求,采集所述机械臂当前的位姿和标定物图片。
9.一种电子设备,其特征在于,包括:处理器、存储器,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述机器可读指令被所述处理器执行时执行如权利要求1至7任一所述的方法的步骤。
10.一种存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1至7任一所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311723494.1A CN117532584A (zh) | 2023-12-14 | 2023-12-14 | 机械臂示教方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311723494.1A CN117532584A (zh) | 2023-12-14 | 2023-12-14 | 机械臂示教方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117532584A true CN117532584A (zh) | 2024-02-09 |
Family
ID=89790007
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311723494.1A Pending CN117532584A (zh) | 2023-12-14 | 2023-12-14 | 机械臂示教方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117532584A (zh) |
-
2023
- 2023-12-14 CN CN202311723494.1A patent/CN117532584A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6396516B2 (ja) | 視覚センサのキャリブレーション装置、方法及びプログラム | |
CN107564069B (zh) | 标定参数的确定方法、装置及计算机可读存储介质 | |
JP6635690B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US10969872B2 (en) | Gesture interface | |
JP6740033B2 (ja) | 情報処理装置、計測システム、情報処理方法及びプログラム | |
JP7197971B2 (ja) | 情報処理装置、情報処理装置の制御方法及びプログラム | |
CN111127422A (zh) | 图像标注方法、装置、系统及主机 | |
CN106256512B (zh) | 包括机器视觉的机器人装置 | |
JP2015171745A (ja) | ワークの取出工程をシミュレーションするロボットシミュレーション装置 | |
CN109544643A (zh) | 一种摄像机图像校正方法及装置 | |
CN109693387A (zh) | 基于点云数据的3d建模方法 | |
CN108074237B (zh) | 图像清晰度检测方法、装置、存储介质及电子设备 | |
US9990739B1 (en) | Method and device for fisheye camera automatic calibration | |
US9269004B2 (en) | Information processing terminal, information processing method, and program | |
JP2012048393A (ja) | 情報処理装置およびその動作方法 | |
JP2002071315A (ja) | 投影平面計測システム | |
CN114202640A (zh) | 一种数据采集方法、装置、计算机设备以及存储介质 | |
CN115847384B (zh) | 机械臂安全平面信息显示方法及相关产品 | |
CN110398215A (zh) | 图像处理装置和方法,系统,物品制造方法,存储介质 | |
CN110853102B (zh) | 一种新的机器人视觉标定及引导方法、装置及计算机设备 | |
CN114385015B (zh) | 虚拟对象的控制方法及电子设备 | |
CN115862124A (zh) | 视线估计方法、装置、可读存储介质及电子设备 | |
JP2018063693A (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN106919928A (zh) | 手势识别系统、方法及显示设备 | |
CN112347837A (zh) | 图像处理系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |