CN116117799A - 机器视觉跟踪补偿方法、装置、电子设备及存储介质 - Google Patents
机器视觉跟踪补偿方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116117799A CN116117799A CN202211635025.XA CN202211635025A CN116117799A CN 116117799 A CN116117799 A CN 116117799A CN 202211635025 A CN202211635025 A CN 202211635025A CN 116117799 A CN116117799 A CN 116117799A
- Authority
- CN
- China
- Prior art keywords
- robot
- visual image
- spatial offset
- period
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1615—Programme controls characterised by special kind of manipulator, e.g. planar, scara, gantry, cantilever, space, closed chain, passive/active joints and tendon driven manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1628—Programme controls characterised by the control loop
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
- B25J9/1664—Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Orthopedic Medicine & Surgery (AREA)
- Automation & Control Theory (AREA)
- Manipulator (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及工业机器人技术领域,特别涉及一种机器视觉跟踪补偿方法、装置、电子设备及存储介质,其中方法包括:根据采集周期,获取视觉图像以及采集视觉图像的时间戳;确定视觉图像中物体特征点和目标点的位置;基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;通过插值法确定对应采集视觉图像的时间戳的机器人位姿;基于对应采集视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;基于第一空间偏移量和第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。本发明能够对机器人周期不同步导致的误差进行补偿。
Description
技术领域
本发明涉及工业机器人技术领域,特别涉及一种机器视觉跟踪补偿方法、装置、电子设备及存储介质。
背景技术
机器视觉跟踪技术获取物体在相机坐标系下的位姿,并将其转换到机器人坐标系下,从而指导工业机器人进行移动及对物体进行操作。由于视觉跟踪技术中,视觉采集和图像处理的周期通常远大于机器人运动规划的控制周期,在进行机器人运动规划的时候,往往需要预测未来一段时间内的路径,然而视觉输出的周期不稳定,会导致机器人根据最新的视觉反馈数据进行PID调整时出现较大误差,造成最后阶段的超调。
发明内容
基于视觉输出周期与机器人运动规划周期不同步而引起机器人调整出现较大误差的问题,本发明提供了一种机器视觉跟踪补偿方法、装置、电子设备及存储介质,能够对周期不同步导致的误差进行补偿,以提高机器人操作精度和效率。
第一方面,本发明实施例提供了一种机器视觉跟踪补偿方法,包括:
根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
可选地,所述基于获取的所述视觉图像,确定物体特征点和目标点的位置,包括:
若当前获取的所述视觉图像为初始图像,则通过全局搜索,在所述初始图像中确定物体特征点和目标点的位置;
若当前获取的所述视觉图像不是初始图像,则基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在所述视觉图像中确定物体特征点和目标点的位置。
可选地,所述预设的搜索范围阈值基于机器人运动参数确定。
可选地,在所述根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳之前,还包括:
调整视觉图像采集系统,以令物体特征点和目标点在视觉图像的视野范围之内。
第二方面,本发明实施例还提供了一种机器视觉跟踪补偿方法,包括:
对工业机器人的视觉图像采集系统和机器人运动控制系统进行检测,判断视觉图像采集系统和机器人运动控制系统的计时子系统是否一致,是则如上述任一项所述的方法进行补偿,否则继续执行如下步骤:
获取视觉图像采集系统的采集周期和机器人运动控制系统的控制周期,并配置视觉补偿周期;
按照配置的视觉补偿周期,执行如下操作:
获取当前帧和历史帧的视觉图像以及采集所述视觉图像的时间戳;其中历史帧包括当前帧的至少前两帧;
分别确定所述视觉图像中物体特征点和目标点的位置;
对各帧所述视觉图像,分别确定对应的第三空间偏移量;所述第三空间偏移量用于表示由物体特征点到目标点的空间偏移量;
基于当前帧和历史帧的所述视觉图像对应的所述第三空间偏移量以及配置的视觉补偿周期,通过插值法预测下一视觉补偿周期的空间偏移量,并向机器人运动控制系统输出,以令机器人运动控制系统在获取到空间偏移量后,通过PID控制法对机器人运动规划结果进行补偿。
第三方面,本发明实施例还提供了一种机器视觉跟踪补偿装置,包括:
图像获取模块,用于根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
图像搜索模块,用于基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
第一偏移量模块,用于基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
位姿获取模块,用于根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
位姿插值模块,用于基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
第二偏移量模块,用于基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
偏差补偿模块,用于基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
可选地,所述图像搜索模块基于获取的所述视觉图像,确定物体特征点和目标点的位置,包括执行如下操作:
若当前获取的所述视觉图像为初始图像,则通过全局搜索,在所述初始图像中确定物体特征点和目标点的位置;
若当前获取的所述视觉图像不是初始图像,则基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在所述视觉图像中确定物体特征点和目标点的位置。
可选地,所述预设的搜索范围阈值基于机器人运动参数确定。
第四方面,本发明实施例还提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时,实现本说明书任一实施例所述的方法。
第五方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令计算机执行本说明书任一实施例所述的方法。
本发明实施例提供了一种机器视觉跟踪补偿方法、装置、电子设备及存储介质,本发明针对工业机器人的视觉图像采集系统和机器人运动控制系统工作周期不匹配的问题,在获取到视觉图像后,通过插值法确定与视觉图像采集时间戳相对应的机器人位姿,以根据实际的空间偏移量和机器人记录的空间偏移量在后续的运动中进行补偿,实现精确控制,减少PID调整时出现的误差。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的一种机器视觉跟踪补偿方法流程图;
图2是本发明一实施例提供的另一种机器视觉跟踪补偿方法流程图;
图3是本发明一实施例提供的一种电子设备的硬件架构图;
图4是本发明一实施例提供的一种机器视觉跟踪补偿装置结构图;
图5是本发明一实施例提供的另一种机器视觉跟踪补偿装置结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
如前所述,由于视觉跟踪技术中,视觉采集和图像处理的周期通常远大于机器人运动规划的控制周期,在进行机器人运动规划的时候,往往需要预测未来一段时间内的路径,然而视觉输出的周期不稳定,会导致机器人根据最新的视觉反馈数据进行PID调整时出现较大误差,造成最后阶段的超调。有鉴于此,本发明提供了一种机器视觉跟踪补偿方法、装置、电子设备及存储介质,以在运动过程中及时对周期不同步导致的误差进行补偿,提高机器人操作精度和效率。
下面描述以上构思的具体实现方式。
请参考图1,本发明实施例提供了一种机器视觉跟踪补偿方法,该方法包括:
步骤100,根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
此步骤100中,视觉图像采集系统中的相机按照预设的采集周期拍摄视觉图像;
步骤102,基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
此步骤102中,物体即工业机器人(或机械臂)夹持的待移动或移动中物体,目标点即工业机器人(或机械臂)移动物体的最终目的地;通过图像识别,可确定所述视觉图像中的物体特征点和目标点;
步骤104,基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
此步骤104中,基于所述视觉图像中的物体特征点的位置和标定矩阵(或称变换矩阵),可确定物体特征点的空间位置,基于所述视觉图像中的目标点的位置和标定矩阵,可确定目标点的空间位置,根据物体特征点的空间位置和目标点的空间位置,可确定由物体特征点到目标点的空间偏移量,即所述第一空间偏移量;
步骤106,根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
此步骤106中,所述运动参数可包括速度,优选包括加速度;
步骤108,基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
此步骤108中,可设机器人当前控制周期的时间戳为t’m,上一控制周期的时间戳t’m-1,m表示控制周期计数,采集所述视觉图像的时间戳为tn,n表示采集周期计数,由于进行图像采集、确定物体特征点和目标点的位置以及确定第一空间偏移量需要消耗时间,执行运动的机器人运动控制系统收到视觉信息存在延时,也就是说,采集所述视觉图像的时间戳tn通常位于上一控制周期的时间戳t’m-1与当前控制周期的时间戳为t’m之间,通过对工业机器人的位姿进行插值法计算,可确定对应采集所述视觉图像的时间戳tn的工业机器人的位姿,这一位姿对应机器人运动控制系统记录的信息;具体的插值法计算过程可参考现有技术;结合运动参数进行插值计算,可在控制量为加速度时采用二次插值方法,控制量为速度时采用线性插值方法,有助于确定时间戳tn的工业机器人的位姿;
步骤110,基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
此步骤110中,根据机器人位姿,即机器人的空间位置和目标点的空间位置,可确定由机器人由此时到目标点的空间偏移量,即所述第二空间偏移量;
步骤112,基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
本发明实施例中,所述第一空间偏移量可认为是机器人移动至最终目的地所需的实际空间偏移量,所述第二空间偏移量可认为是机器人运动控制系统记录的、移动至最终目的地所需的记录空间偏移量,这二者之间的差异反映了机器人运行中的实际运动情况与运动记录数据之间的偏差,通过PID控制法对机器人运动规划结果进行补偿,即可消除记录数据与实际情况之间的偏差,以便快速收敛至最终目的地,减少PID调整时出现的误差,实现精确控制。具体如何进行路径规划以及如何通过PID控制法对机器人运动规划结果进行补偿可参考现有技术。
可选地,步骤102进一步包括:
若当前获取的所述视觉图像为初始图像,则通过全局搜索,在所述初始图像中确定物体特征点和目标点的位置;
若当前获取的所述视觉图像不是初始图像,则基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在所述视觉图像中确定物体特征点和目标点的位置。
采用上述实施例,在初始化时,通过全局搜索确定所述初始图像中物体特征点和目标点的位置,这一过程计算时间较长,在后续过程中,基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索确定所述视觉图像中物体特征点和目标点的位置,也就是根据前一帧数据给出粗定位位置,再进行精定位,得到物体特征点和目标点,可以有效缩短搜索时间,提高计算效率。
进一步地,所述预设的搜索范围阈值可为固定的数值,也可基于机器人运动参数确定。
上述实施例中,固定数值的搜索范围阈值易于设置与搜索,但精度偏低,基于机器人运动参数确定的搜索范围阈值可能发生变化,但精度更高,可以确保在搜索范围内发现物体的特征点。
可选地,该机器视觉跟踪补偿方法步骤100在根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳之前,还包括:
调整视觉图像采集系统,以令物体特征点和目标点在视觉图像的视野范围之内。
进一步地,该机器视觉跟踪补偿方法步骤100在根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳之前,还包括:
对视觉图像采集系统和机器人运动控制系统进行校准,以令二者的计时子系统同步。
请参阅图2,本发明还提供了一种机器视觉跟踪补偿方法,包括:
步骤200,对工业机器人的视觉图像采集系统和机器人运动控制系统进行检测,判断视觉图像采集系统和机器人运动控制系统的计时子系统是否一致,是则采用如上述任一项实施例所述的方法进行补偿,即执行步骤100至步骤112,否则继续执行如下步骤:
步骤202,获取视觉图像采集系统的采集周期和机器人运动控制系统的控制周期,并配置视觉补偿周期;
配置的视觉补偿周期用于向机器人运动控制系统以稳定频率输出视觉信息,视觉补偿周期可基于视觉图像采集系统的采集周期和机器人运动控制系统的控制周期确定;
步骤204,按照配置的视觉补偿周期,执行如下操作:
步骤206,获取当前帧和历史帧的视觉图像以及采集所述视觉图像的时间戳;其中历史帧包括当前帧的至少前两帧;
此步骤206获取当前帧及至少前两帧的视觉图像及对应的时间戳;
步骤208,分别确定所述视觉图像中物体特征点和目标点的位置;
此步骤208中,对于当前帧,基于当前帧的视觉图像进行搜索,可确定当前帧的视觉图像中物体特征点和目标点的位置;对于历史帧,可调用历史计算结果,获取历史帧的视觉图像中物体特征点和目标点的位置;
优选地,基于当前帧的视觉图像进行搜索,包括:基于前一帧确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在当前帧的视觉图像中确定物体特征点和目标点的位置;
步骤210,对各帧所述视觉图像,分别确定对应的第三空间偏移量;所述第三空间偏移量用于表示由物体特征点到目标点的空间偏移量;
此步骤210中,对于当前帧的视觉图像,可基于物体特征点和目标点的位置以及标定矩阵,确定其对应的第三空间偏移量;对于历史帧,可调用历史计算结果,获取历史帧的视觉图像所对应的第三空间偏移量;第三空间偏移量的计算方式可参考第一空间偏移量;
步骤212,基于当前帧和历史帧的所述视觉图像对应的所述第三空间偏移量以及配置的视觉补偿周期,通过插值法预测下一视觉补偿周期的空间偏移量,并向机器人运动控制系统输出,以令机器人运动控制系统在获取到空间偏移量后,通过PID控制法对机器人运动规划结果进行补偿。
上述实施例对工业机器人的视觉图像采集系统和机器人运动控制系统进行检测,若视觉图像采集系统和机器人运动控制系统的计时子系统一致,则采用前述实施例中步骤100至步骤112的方式进行补偿,若视觉图像采集系统和机器人运动控制系统的计时子系统不一致,则基于当前帧和历史帧的所述视觉图像对应的所述第三空间偏移量以及配置的视觉补偿周期,通过插值法预测下一视觉补偿周期的空间偏移量,按照视觉补偿周期向机器人运动控制系统输出,以令机器人运动控制系统在获取到空间偏移量后,通过PID控制法对机器人运动规划结果进行补偿。也就是说,本发明提供的机器视觉跟踪补偿方法在视觉图像采集系统和机器人运动控制系统的计时子系统不一致的情况下,通过对视觉图像采集的信息进行插值,确定下一视觉补偿周期的空间偏移量,并按照稳定的周期向机器人运动控制系统输出,以减少视觉输出周期与机器人运动规划周期不同步而引起机器人调整出现的误差。
可选地,所述通过插值法预测下一视觉补偿周期的空间偏移量,可采用样条函数进行插值,以确定对应的空间偏移量函数。
可选地,机器人运动控制系统在获取到空间偏移量后,通过PID控制法对机器人运动规划结果进行补偿,包括:
获取当前的机器人位姿、运动参数及时间戳;
基于当前的机器人位姿及目标点的空间位置,确定第四空间偏移量;所述第四空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
基于所述第三空间偏移量和所述第四空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
上述实施例中,机器人运动控制系统在获取到空间偏移量后,根据由视觉图像采集系统确定的实际空间偏移量(即第三空间偏移量)与机器人运动控制系统记录的空间偏移量(即第四空间偏移量)之间的差异,即可通过PID控制法对机器人运动规划结果进行补偿。机器人运动规划及PID控制可参考现有技术。
如图3、图4所示,本发明实施例提供了一种机器视觉跟踪补偿装置。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。从硬件层面而言,如图3所示,为本发明实施例提供的一种机器视觉跟踪补偿装置所在电子设备的一种硬件架构图,除了图3所示的处理器、内存、网络接口、以及非易失性存储器之外,实施例中装置所在的电子设备通常还可以包括其他硬件,如负责处理报文的转发芯片等等。以软件实现为例,如图4所示,作为一个逻辑意义上的装置,是通过其所在电子设备的CPU将非易失性存储器中对应的计算机程序读取到内存中运行形成的。本实施例提供的一种机器视觉跟踪补偿装置,包括:
图像获取模块401,用于根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
图像搜索模块402,用于基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
第一偏移量模块403,用于基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
位姿获取模块404,用于根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
位姿插值模块405,用于基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
第二偏移量模块406,用于基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
偏差补偿模块407,用于基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
在本发明实施例中,图像获取模块401可用于执行上述方法实施例中的步骤100,图像搜索模块402可用于执行上述方法实施例中的步骤102,第一偏移量模块403可用于执行上述方法实施例中的步骤104,位姿获取模块404可用于执行上述方法实施例中的步骤106,位姿插值模块405可用于执行上述方法实施例中的步骤108,第二偏移量模块406可用于执行上述方法实施例中的步骤110,偏差补偿模块407可用于执行上述方法实施例中的步骤112。
可选地,所述图像搜索模块402基于获取的所述视觉图像,确定物体特征点和目标点的位置,包括执行如下操作:
若当前获取的所述视觉图像为初始图像,则通过全局搜索,在所述初始图像中确定物体特征点和目标点的位置;
若当前获取的所述视觉图像不是初始图像,则基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在所述视觉图像中确定物体特征点和目标点的位置。
可选地,所述预设的搜索范围阈值基于机器人运动参数确定。
在一些可选的实施例中,如图5所示,本实施例提供的一种机器视觉跟踪补偿装置,包括:
检测模块500,用于对工业机器人的视觉图像采集系统和机器人运动控制系统进行检测,判断视觉图像采集系统和机器人运动控制系统的计时子系统是否一致,是则调用图像获取模块401,否则调用周期配置模块501;
图像获取模块401,与检测模块500连接,用于根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
图像搜索模块402,与图像获取模块401连接,用于基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
第一偏移量模块403,与图像搜索模块402连接,用于基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
位姿获取模块404,与第一偏移量模块403连接,用于根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
位姿插值模块405,与位姿获取模块404连接,用于基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
第二偏移量模块406,与位姿插值模块405连接,用于基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
偏差补偿模块407,与第二偏移量模块406连接,用于基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿;
周期配置模块501,与检测模块500连接,用于获取视觉图像采集系统的采集周期和机器人运动控制系统的控制周期,并配置视觉补偿周期;
周期执行模块502,与周期配置模块501连接,用于按照配置的视觉补偿周期,调用视觉获取模块503;
视觉获取模块503,与周期执行模块502连接,用于获取当前帧和历史帧的视觉图像以及采集所述视觉图像的时间戳;其中历史帧包括当前帧的至少前两帧;
位置确定模块504,与视觉获取模块503连接,用于分别确定所述视觉图像中物体特征点和目标点的位置;
第三偏移量模块505,与位置确定模块504连接,用于对各帧所述视觉图像,分别确定对应的第三空间偏移量;所述第三空间偏移量用于表示由物体特征点到目标点的空间偏移量;
插值补偿模块506,与第三偏移量模块505连接,用于基于当前帧和历史帧的所述视觉图像对应的所述第三空间偏移量以及配置的视觉补偿周期,通过插值法预测下一视觉补偿周期的空间偏移量,并向机器人运动控制系统输出,以令机器人运动控制系统在获取到空间偏移量后,通过PID控制法对机器人运动规划结果进行补偿。
在本发明实施例中,检测模块500可用于执行上述方法实施例中的步骤200,周期配置模块501可用于执行上述方法实施例中的步骤202,周期执行模块502可用于执行上述方法实施例中的步骤204,视觉获取模块503可用于执行上述方法实施例中的步骤206,位置确定模块504可用于执行上述方法实施例中的步骤208,第三偏移量模块505可用于执行上述方法实施例中的步骤210,插值补偿模块506可用于执行上述方法实施例中的步骤212。
可以理解的是,本发明实施例示意的结构并不构成对一种机器视觉跟踪补偿装置的具体限定。在本发明的另一些实施例中,一种机器视觉跟踪补偿装置可以包括比图示更多或者更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件、软件或者软件和硬件的组合来实现。
上述装置内的各模块之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,具体内容可参见本发明方法实施例中的叙述,此处不再赘述。
本发明实施例还提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时,实现本发明任一实施例中的一种机器视觉跟踪补偿方法。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序在被处理器执行时,使所述处理器执行本发明任一实施例中的一种机器视觉跟踪补偿方法。
具体地,可以提供配有存储介质的系统或者装置,在该存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码,且使该系统或者装置的计算机(或CPU或MPU)读出并执行存储在存储介质中的程序代码。
在这种情况下,从存储介质读取的程序代码本身可实现上述实施例中任何一项实施例的功能,因此程序代码和存储程序代码的存储介质构成了本发明的一部分。
用于提供程序代码的存储介质实施例包括软盘、硬盘、磁光盘、光盘(如CD-ROM、CD-R、CD-RW、DVD-ROM、DVD-RAM、DVD-RW、DVD+RW)、磁带、非易失性存储卡和ROM。可选择地,可以由通信网络从服务器计算机上下载程序代码。
此外,应该清楚的是,不仅可以通过执行计算机所读出的程序代码,而且可以通过基于程序代码的指令使计算机上操作的操作系统等来完成部分或者全部的实际操作,从而实现上述实施例中任意一项实施例的功能。
此外,可以理解的是,将由存储介质读出的程序代码写到插入计算机内的扩展板中所设置的存储器中或者写到与计算机相连接的扩展模块中设置的存储器中,随后基于程序代码的指令使安装在扩展板或者扩展模块上的CPU等来执行部分和全部实际操作,从而实现上述实施例中任一实施例的功能。
需要说明的是,在本文中,诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储在计算机可读取的存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种机器视觉跟踪补偿方法,其特征在于,包括:
根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
2.根据权利要求1所述的方法,其特征在于,
所述基于获取的所述视觉图像,确定物体特征点和目标点的位置,包括:
若当前获取的所述视觉图像为初始图像,则通过全局搜索,在所述初始图像中确定物体特征点和目标点的位置;
若当前获取的所述视觉图像不是初始图像,则基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在所述视觉图像中确定物体特征点和目标点的位置。
3.根据权利要求2所述的方法,其特征在于,
所述预设的搜索范围阈值基于机器人运动参数确定。
4.根据权利要求1所述的方法,其特征在于,在所述根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳之前,还包括:
调整视觉图像采集系统,以令物体特征点和目标点在视觉图像的视野范围之内。
5.一种机器视觉跟踪补偿方法,其特征在于,包括:
对工业机器人的视觉图像采集系统和机器人运动控制系统进行检测,判断视觉图像采集系统和机器人运动控制系统的计时子系统是否一致,是则如权利要求1-4中任一项所述的方法进行补偿,否则继续执行如下步骤:
获取视觉图像采集系统的采集周期和机器人运动控制系统的控制周期,并配置视觉补偿周期;
按照配置的视觉补偿周期,执行如下操作:
获取当前帧和历史帧的视觉图像以及采集所述视觉图像的时间戳;其中历史帧包括当前帧的至少前两帧;
分别确定所述视觉图像中物体特征点和目标点的位置;
对各帧所述视觉图像,分别确定对应的第三空间偏移量;所述第三空间偏移量用于表示由物体特征点到目标点的空间偏移量;
基于当前帧和历史帧的所述视觉图像对应的所述第三空间偏移量以及配置的视觉补偿周期,通过插值法预测下一视觉补偿周期的空间偏移量,并向机器人运动控制系统输出,以令机器人运动控制系统在获取到空间偏移量后,通过PID控制法对机器人运动规划结果进行补偿。
6.一种机器视觉跟踪补偿装置,其特征在于,包括:
图像获取模块,用于根据采集周期,获取视觉图像以及采集所述视觉图像的时间戳;
图像搜索模块,用于基于获取的所述视觉图像,确定所述视觉图像中物体特征点和目标点的位置;
第一偏移量模块,用于基于物体特征点和目标点的位置以及标定矩阵,确定第一空间偏移量;所述第一空间偏移量用于表示由物体特征点到目标点的空间偏移量;
位姿获取模块,用于根据控制周期,获取机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳;
位姿插值模块,用于基于机器人当前控制周期和上一控制周期的位姿、运动参数及时间戳,通过插值法确定对应采集所述视觉图像的时间戳的机器人位姿;
第二偏移量模块,用于基于对应采集所述视觉图像的时间戳的机器人位姿及目标点的空间位置,确定第二空间偏移量;所述第二空间偏移量用于表示由机器人位姿到目标点的空间偏移量;
偏差补偿模块,用于基于所述第一空间偏移量和所述第二空间偏移量,通过PID控制法对机器人运动规划结果进行补偿。
7.根据权利要求6所述的装置,其特征在于,
所述图像搜索模块基于获取的所述视觉图像,确定物体特征点和目标点的位置,包括执行如下操作:
若当前获取的所述视觉图像为初始图像,则通过全局搜索,在所述初始图像中确定物体特征点和目标点的位置;
若当前获取的所述视觉图像不是初始图像,则基于上一采集周期确定的物体特征点的位置和预设的搜索范围阈值,通过局部搜索,在所述视觉图像中确定物体特征点和目标点的位置。
8.根据权利要求7所述的装置,其特征在于,
所述预设的搜索范围阈值基于机器人运动参数确定。
9.一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时,实现如权利要求1-5中任一项所述的方法。
10.一种存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序在计算机中执行时,令计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211635025.XA CN116117799B (zh) | 2022-12-19 | 2022-12-19 | 机器视觉跟踪补偿方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211635025.XA CN116117799B (zh) | 2022-12-19 | 2022-12-19 | 机器视觉跟踪补偿方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116117799A true CN116117799A (zh) | 2023-05-16 |
CN116117799B CN116117799B (zh) | 2023-08-04 |
Family
ID=86309159
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211635025.XA Active CN116117799B (zh) | 2022-12-19 | 2022-12-19 | 机器视觉跟踪补偿方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116117799B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108919810A (zh) * | 2018-07-26 | 2018-11-30 | 东北大学 | 基于视觉示教的移动机器人定位与导航系统 |
CN109159151A (zh) * | 2018-10-23 | 2019-01-08 | 北京无线电测量研究所 | 一种机械臂空间轨迹跟踪动态补偿方法和系统 |
CN113172632A (zh) * | 2021-05-12 | 2021-07-27 | 成都瑞特数字科技有限责任公司 | 一种基于图像的简化机器人视觉伺服控制方法 |
US20210379762A1 (en) * | 2019-08-23 | 2021-12-09 | Scott Denenberg | Motion planning and task execution using potential occupancy envelopes |
CN115229796A (zh) * | 2022-08-15 | 2022-10-25 | 华中科技大学 | 一种面向航空大构件铣削的机器人末端位姿跟踪补偿方法 |
-
2022
- 2022-12-19 CN CN202211635025.XA patent/CN116117799B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108919810A (zh) * | 2018-07-26 | 2018-11-30 | 东北大学 | 基于视觉示教的移动机器人定位与导航系统 |
CN109159151A (zh) * | 2018-10-23 | 2019-01-08 | 北京无线电测量研究所 | 一种机械臂空间轨迹跟踪动态补偿方法和系统 |
US20210379762A1 (en) * | 2019-08-23 | 2021-12-09 | Scott Denenberg | Motion planning and task execution using potential occupancy envelopes |
CN113172632A (zh) * | 2021-05-12 | 2021-07-27 | 成都瑞特数字科技有限责任公司 | 一种基于图像的简化机器人视觉伺服控制方法 |
CN115229796A (zh) * | 2022-08-15 | 2022-10-25 | 华中科技大学 | 一种面向航空大构件铣削的机器人末端位姿跟踪补偿方法 |
Also Published As
Publication number | Publication date |
---|---|
CN116117799B (zh) | 2023-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Scaramuzza et al. | Visual-inertial odometry of aerial robots | |
US9095977B2 (en) | Object gripping apparatus, control method for object gripping apparatus, and storage medium | |
JP2002269559A (ja) | 画像のテンプレートマッチング方法及び画像処理装置 | |
KR20150119337A (ko) | 환경의 3d 모델의 발생 | |
CN109218562B (zh) | 时钟同步方法、装置、设备、存储介质和车辆 | |
JP7078894B2 (ja) | 制御システム、制御装置、画像処理装置およびプログラム | |
JP2006259207A (ja) | 位置補正装置および位置補正プログラムおよび位置補正方法 | |
US7801927B2 (en) | Video metadata correction apparatus and method | |
US9091821B2 (en) | Device and method of focusing on points of objects | |
Scaramuzza et al. | Aerial robots, visual-inertial odometry of | |
CN116117799B (zh) | 机器视觉跟踪补偿方法、装置、电子设备及存储介质 | |
WO2022147655A1 (zh) | 定位方法、空间信息获取方法、装置、拍摄设备 | |
EP3542970A1 (en) | Method, device and system for replaying movement of robot | |
CN116117800B (zh) | 补偿高度差的机器视觉处理方法、电子设备及存储介质 | |
CN115060289A (zh) | 定位轨迹精度评估方法、装置及电子设备、存储介质 | |
US20230069018A1 (en) | Image processing apparatus, imaging apparatus, image processing system, image processing method, and non-transitory computer readable medium | |
CN114740459A (zh) | 一种激光雷达校准方法及装置 | |
CN114964204A (zh) | 地图构建方法、地图使用方法、装置、设备和存储介质 | |
WO2021147026A1 (en) | Method and electronic device, system and computer readable medium for time calibration | |
CN116512237B (zh) | 工业机器人视觉伺服方法、装置、电子设备及存储介质 | |
JP7052840B2 (ja) | 位置特定装置、位置特定装置の制御方法、情報処理プログラム、および記録媒体 | |
CN115601432B (zh) | 一种基于fpga的机器人位置最优估计方法及系统 | |
CN109579794B (zh) | 适用于迭代最近点法以选择关键图框的系统与方法 | |
US20230032982A1 (en) | System and method for operating the robot, electronic device and computer readable medium | |
US7212362B2 (en) | Method and apparatus for detecting shock-resistance performance |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |