CN110539315B - 基于虚拟现实控制的建筑机器人 - Google Patents

基于虚拟现实控制的建筑机器人 Download PDF

Info

Publication number
CN110539315B
CN110539315B CN201910720426.7A CN201910720426A CN110539315B CN 110539315 B CN110539315 B CN 110539315B CN 201910720426 A CN201910720426 A CN 201910720426A CN 110539315 B CN110539315 B CN 110539315B
Authority
CN
China
Prior art keywords
arm
time
angle
joint
elbow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910720426.7A
Other languages
English (en)
Other versions
CN110539315A (zh
Inventor
何斌
蒋荣
周艳敏
王志鹏
沈润杰
袁烽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tongji University
Original Assignee
Tongji University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tongji University filed Critical Tongji University
Priority to CN201910720426.7A priority Critical patent/CN110539315B/zh
Publication of CN110539315A publication Critical patent/CN110539315A/zh
Application granted granted Critical
Publication of CN110539315B publication Critical patent/CN110539315B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J18/00Arms

Abstract

基于虚拟现实控制的建筑机器人,包括机械臂,机械臂包括基座、第一支臂和第二支臂,第一支臂与基座铰接,第二支臂与第一支臂铰接,第二支臂的末端设置执行器;第一支臂和第二支臂约束在同一个平面内绕各自的铰链转动;机械臂的铰接处对应人的手臂关节状态,传感器捕捉人手臂关节处的运动位置信息,将获取到的运动位置信息通过基于H滤波递推的关节运动角度的估计方法优化实现以人机交互的方式控制机器人。本发明的优点在于,保障危险工况下建筑作业人员的安全,提高建筑作业效率;利用H鲁棒滤波来进行手臂关节角度估算,实时且准确的捕捉手臂运动,提高了大型建筑机械的控制灵活性和效率,降低作业难度。

Description

基于虚拟现实控制的建筑机器人
技术领域
本发明涉及机械控制领域,特别涉及一种基于虚拟现实技术的大型建筑机械手人机协同控制系统。
背景技术
随着城市化进程的高速发展,对建筑行业的施工安全性、高效性提出了新的挑战,尤其是在危险工况条件下,在提高施工效率的同时,保障施工人员的安全已成为大家关注的重点问题。为了解决上述问题,科研工作者正在研究和开发能够在高温、高压、高空、深水、化学甚至是核辐射环境中满足高质量、高标准建筑作业要求的建筑机器人。
目前,虽然基于虚拟现实的机器人已经越来越多的用于家庭服务和工业巡检等行业,但是建筑行业由于其工况环境恶劣,对机器人的负载要求高,现场条件复杂造成对人-机交互的灵活度要求高。现有的用于家庭服务和工业巡检的机器人,虽然也有基于虚拟现实、通过VR技术增强操作人员的临场感,使操作人员能身临其境的做出操作。但是,这种操作通常是操作人员手握感应器,即感应器位于操作人员手柄的终端,相当于是将感应器虚拟为一个点。通过手握感应器只能单点控制末端执行器,捕捉这个点的位移、旋转等,在通过逆解求取整个机械臂的姿态,由于逆解算法的多解性,这种方法会导致在复杂的建筑场景下无法对整个机械臂的姿态进行精确控制,会增加作业风险;
另外,虽然目前有一些建筑机械、比如机械臂、吊车、吊臂等用于建筑现场,但这些建筑机械都是通过遥控指挥,无法真实模拟人为了应对现场情况而做出的精细化动作。
发明内容
本发明的目的在于提供一种能够在机械臂或机器人上复原人在应对现场事件时做出的实际应对动作的基于虚拟现实控制的建筑机器人。
基于虚拟现实控制的建筑机器人,其特征在于:包括机械臂,机械臂包括基座、第一支臂和第二支臂,第一支臂与基座铰接,第二支臂与第一支臂铰接,第二支臂的末端设置执行器;第一支臂和第二支臂约束在同一个平面内绕各自的铰链转动。第一支臂与基座之间的铰链称为肩关节铰链,第二支臂与第一支臂之间的铰链称为肘关节铰链。基座固定,第一支臂绕肩关节铰链做靠近或远离肩关节的转动,第二支臂绕肘关节铰链做靠近或远离肩关节的转动。第一支臂和第二支臂在同一个平面内运动。
第一支臂和基座之间有牵引第一支臂转动的第一牵引组件,第二支臂和第一支臂之间有牵引第二支臂转动的第二牵引组件。牵引组件的结构采用现有技术,比如,电机、液压牵引等。
本发明的第一目的在于提供一种以肘关节角度和肩关节角度表征人的手臂状态、能够捕捉人的手臂的实时动作的关节运动角度估计方法。
上述机械臂的基座相当于人的肩膀,第一支臂相当于手的上臂,第二支臂相当于手的下臂,肩关节铰链相当于肩关节,肘关节铰链相当于肘关节。获得人的肩关节角度和肘关节角度后,直接对应成机械臂的肩关节铰链的角度和肘关节铰链的角度,即可在机械臂上复原人的手臂实际动作。
作为优选的方案:基于H滤波捕捉手臂关节运动角度的估计方法包括以下操作:
建立系统状态方程,Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1,其中,k表示离散化时刻,Xk为k时刻系统状态向量,
Figure BDA0002156981100000021
Figure BDA0002156981100000022
Figure BDA0002156981100000023
分别为第k时刻人肘部和肩部关节角度;Ak,k-1为状态转移矩阵,
Figure BDA0002156981100000024
Uk-1是k-1时刻系统输入向量,
Figure BDA0002156981100000025
vh(k-1)表示第k-1时刻手臂末端在运动平面内沿运动方向的线速度、ve(k-1)表示第k-1时刻手臂肘部在运动平面内沿运动方向的线速度,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离;Wk-1表示第k-1时刻的系统噪声向量,且
Figure BDA0002156981100000026
其中
Figure BDA0002156981100000027
分别表示第k-1时刻肘关节角系统噪声和肩关节系统噪声;Г为系统噪声输入矩阵,取Γk-1
Figure BDA0002156981100000028
建立观测方程,Zk=Hk·Xk+Vk,其中,Zk为k时刻观测向量,
Figure BDA0002156981100000029
其中
Figure BDA00021569811000000210
Figure BDA00021569811000000211
分别为通过关节位置直接计算得出的第k时刻肘关节角度与肩关节角度观测值;H为观测阵,
Figure BDA00021569811000000212
Vk表示k时刻观测噪声向量,
Figure BDA0002156981100000031
Figure BDA0002156981100000032
是第k时刻肘关节角的观测噪声,
Figure BDA0002156981100000033
是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置;
用H滤波递推,滤除自然人手臂在持久负重时出现的不自觉抖动,得到k时刻的肘关节角度和肩关节角度状态估计值:
Figure BDA0002156981100000034
Kk是滤波增益矩阵。
优选的,建立状态方程的操作为:
步骤1.根据旋转角速度和线速度的转换关系,计算肘部和肩部关节角度θe、θs与手臂末端和肘部末端在运动平面内沿运动方向的线速度vh、ve之间的关系,得到状态方程表达式如下:
Figure BDA0002156981100000035
其中,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离,vh、ve分别为各个时刻手臂末端和肘部在运动平面内沿运动方向的线速度,可以利用虚拟现实系统中的手柄和绑定在关节部位的追踪器来获取;t表示连续时间,Δt表示时间间隔;
步骤2.将公式(1)所示的状态方程离散化,获得离散化后的状态方程的矩阵形式表达式如下:
Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1 (2)
其中,k表示离散化时刻;X为系统状态向量,且Xk=[x1 x2]T
Figure BDA0002156981100000036
Figure BDA0002156981100000037
Figure BDA0002156981100000038
Figure BDA0002156981100000039
Figure BDA00021569811000000310
分别为第k时刻的操作员手臂肘部和肩部关节角度,上角标T表示对矩阵转置;Ak,k-1为状态转移矩阵,
Figure BDA00021569811000000311
U为系统输入向量,且Uk-1=[u1u2]T
Figure BDA00021569811000000312
vh(k-1)、ve(k-1)表示第k-1时刻手臂末端和肘部在运动平面内沿运动方向的线速度,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离,即
Figure BDA00021569811000000313
上角标T表示对矩阵转置;W表示系统噪声向量,且
Figure BDA00021569811000000314
其中
Figure BDA00021569811000000315
分别表示k-1时刻肘关节角系统噪声和肩关节系统噪声;Γ为系统噪声输入矩阵,取Γk-1
Figure BDA0002156981100000041
优选的,建立观测方式的操作为:
步骤1.通过向量夹角计算公式计算关节角度的变化值,得到k时刻与k-1时刻之间人手臂运动变化的角度,表达式如下:
Figure BDA0002156981100000042
其中,向量
Figure BDA0002156981100000043
Figure BDA0002156981100000044
分别是k时刻和k-1时刻肘关节指向手臂末端的向量,向量
Figure BDA0002156981100000045
Figure BDA0002156981100000046
是k时刻和k-1时刻肩关节指向肘关节的向量,
Figure BDA0002156981100000047
Figure BDA0002156981100000048
(xh,yh,zh)是手臂末端三维坐标,(xe,ye,ze)是肘关节三维坐标,(xs,ys,zs)是肩关节三维坐标;
根据关节角度变化公式(3),得到肩关节和肘关节角度的观测值θe_m和θs_m,第k时刻的
Figure BDA0002156981100000049
如下所示:
Figure BDA00021569811000000410
步骤2.离散化后的观测方程的矩阵形式为:
Zk=Hk·Xk+Vk (5)
其中,k表示离散化时刻;Zk为k时刻观测向量,Hk为k时刻观测阵,Vk表示k时刻观测噪声向量;由于观测向量与状态向量都是指肘关节角度与肩关节角度,所以
Figure BDA00021569811000000411
其中
Figure BDA00021569811000000412
Figure BDA00021569811000000413
分别为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肘关节角度与肩关节角度观测值;
Figure BDA00021569811000000414
Figure BDA00021569811000000415
是第k时刻肘关节角的观测噪声,
Figure BDA00021569811000000416
是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置。
经过H滤波后,能够去除或削弱关节抖动等干扰造成的估计误差,实现精确的运动捕捉。
优选的,在优化手臂关节运动角度前,在操作者的肩膀、肩关节和手上臂分别绑定虚拟现实追踪器,该传感器可以提供肩关节、轴关节和手腕的三维位置和速度信息。在进行操控前,先在操作者的手臂上将传感器安装到位,之后再结合本发明提出的基于H滤波捕捉手臂关节运动角度的估计方法,即可实时捕捉操作者的肘关节角度和肩关节角度。
本发明的第二方面,在于提供一种能够通过人机交互的方式、将人的操控动作准确的传递到机械臂、控制机械臂的运动控制系统。
作为优选的方案,建立处理器与操作者手臂上的所有传感器的信号连接关系,获得所有传感器的位置信号,计算获得操作者的肩关节角度和肘关节角度;建立处理器与机械臂的通讯管理,将操作者的肩关节角度和肘关节角度发送到机械臂,使机械臂的肩关节铰链角度等于肩关节角度,使机械臂的肘关节铰链角度等于肘关节角度。
优选的,控制系统具有传动模式和监督模式,传动模式下,操作者手臂的传感器、处理器和机械臂建立通讯,人手臂的肩关节角度作为机械臂的肩关节铰链角度的控制目标,人手臂的肘关节角度作为机械臂的肘关节铰链角度的控制目标;监督模式为机械臂按路径规划运动;路径规划根据现有技术做出;
传动模式和监督模式的切换操作包括:获得目标物和目标物距离Ld在Ld>Lthr时,采用传动模式;在Ld<Lthr时,采用监督模式。
优选的,建筑机器人以虚拟现实3D头盔为主体,结合双目相机、单目相机构建信息反馈子系统,其中,双目相机固定在机械臂的末端,单目相机固定于能够拍摄到场景图像的建筑机器人基座顶端不同方位。单目相机用于拍摄场景信息,识别目标物。双目相机用于对目标物实现测距。识别目标物和对目标物测距使用现有技术实现。
优选的,单目相机有多个,所有单目相机获得的图像拼接形成全域场景图像。图像拼接采用现有技术实现。机械臂末端图像和拼接后的工作场景图像经过处理和渲染后传输给虚拟现实头盔,并在虚拟现实场景中展现;
本法明优点在于:
1.增加操作人员的临场感,辅助操作者进行作业规划,降低作业难度;
2.利用H鲁棒滤波来进行手臂关节角度估算,实时且准确的捕捉手臂运动;
3.通过结合传动模式和自主控制模式实现建筑机械手的半自主作业控制,提高了大型建筑机械的控制灵活性和效率,降低作业难度;
4.提出的基于虚拟现实的大型建筑机械手人机协同控制系统,保障危险工况下建筑作业人员的安全,提高建筑作业效率。
附图说明
图1是机械臂结构示意图。
图2是竖直平面内运动关节角示意图。
图3是关节映射图。
图4是系统整体框图。
图5是水平面内运动关节角示意图。
具体实施方式
结合附图,进一步详细说明本发明的方案。
如图1所示,基于虚拟现实控制的建筑机器人,包括机械臂,机械臂包括基座1、第一支臂2和第二支臂3,第一支臂2与基座1铰接4,第二支臂3与第一支臂2铰接4,第二支臂3的末端设置执行器;第一支臂2和第二支臂3约束在同一个平面内绕各自的铰链转动。第一支臂2与基座1之间的铰链称为肩关节铰链,第二支臂3与第一支臂2之间的铰链称为肘关节铰链。基座1固定,第一支臂2绕肩关节铰链做靠近或远离肩关节的转动,第二支臂3绕肘关节铰链做靠近或远离肩关节的转动。第一支臂2和第二支臂3在同一个平面内运动。
如图2所示,第一支臂2和基座1之间有牵引第一支臂2转动的第一牵引组件,第二支臂3和第一支臂2之间有牵引第二支臂3转动的第二牵引组件。牵引组件的结构采用现有技术,比如,电机、液压牵引等。
作为一种实施方式,提供一种以肘关节角度和肩关节角度表征人的手臂状态、能够捕捉人的手臂的实时动作的关节运动角度估计方法。
如图3所示,上述机械臂的基座1相当于人的肩膀,第一支臂2相当于手的上臂,第二支臂3相当于手的下臂,肩关节铰链相当于肩关节,肘关节铰链相当于肘关节。获得人的肩关节角度和肘关节角度后,直接对应成机械臂的肩关节铰链的角度和肘关节铰链的角度,即可在机械臂上复原人的手臂实际动作。
考虑到大型建筑机械的作业臂是使用液压作为动力驱动源的,其关节结构简单,自由度低。因此,在本发明设计中规定,控制过程中手臂只能在垂直地面的平面内运动,通过身体的旋转来改变运动平面,在同一时刻内只能控制一个关节变化。通过对操作员手臂运动规则的限制来对手臂关节结构进行简化,减少各个关节自由度。由此,将手臂肘、肩关节运动角度与建筑机械作业臂肘、肩关节运动角度映射;此外,将操作人员手臂绕身体纵轴旋转角度(手臂基座1关节角度)与建筑机械作业臂绕基座1纵轴旋转角度(作业臂基座1关节角度)进行映射。
作为一种实施方式:基于H滤波捕捉手臂肘、肩关节运动角度的估计方法包括以下操作:建立系统状态方程,Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1,其中,k表示离散化时刻;X为系统状态向量,X=[θe θs]T,θe和θs分别为人肘部和肩部关节角度;Ak,k-1为状态转移矩阵,
Figure BDA0002156981100000071
U是系统输入向量
Figure BDA0002156981100000072
Figure BDA0002156981100000073
是k-1时刻手臂末端和肘部在竖直平面内沿运动方向的线速度,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离;W表示系统噪声向量,且
Figure BDA0002156981100000074
其中
Figure BDA0002156981100000075
Figure BDA0002156981100000076
分别表示k-1时刻肘关节角系统噪声,和肩关节系统噪声;Γ为系统噪声输入矩阵,取Γk-1
Figure BDA0002156981100000077
建立观测方程,Zk=Hk·Xk+Vk,其中,k表示离散化时刻;Z为观测向量,
Figure BDA0002156981100000078
其中
Figure BDA0002156981100000079
Figure BDA00021569811000000710
分别为第k时刻通过关节位置直接计算得出的肘关节角度与肩关节角度观测值;H为观测阵,
Figure BDA00021569811000000711
V表示观测噪声向量,
Figure BDA00021569811000000712
Figure BDA00021569811000000713
是第k时刻肘关节角的观测噪声,
Figure BDA00021569811000000714
是第k时刻肩关节角的观测噪声;上角标T表示对矩阵转置;用H滤波递推,滤除自然人手臂在持久负重时出现的不自觉抖动等误差,得到k时刻的肘关节角度和肩关节角度状态估计值:
Figure BDA00021569811000000715
Figure BDA00021569811000000716
Kk是滤波增益矩阵。
作为一种实施方式,建立状态方程的操作为:
步骤1.根据旋转角速度和线速度的转换关系,计算肘部和肩部关节角度θe、θs与手臂末端和肘部末端在运动平面内沿运动方向的线速度vh、ve之间的关系,得到连续时间下的状态方程表达式如下:
Figure BDA0002156981100000081
其中,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离,各个时刻手臂末端和肘部在运动平面内沿运动方向的线速度vh、ve可以利用虚拟现实系统中的手柄和绑定在关节部位的追踪器来获取;t表示连续时间,Δt表示时间间隔;
步骤2.将公式(1)所示的状态方程离散化,获得离散化后的状态方程的矩阵形式表达式如下:
Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1 (2)
其中,k表示离散化时刻;X为系统状态向量,且Xk=[x1 x2]T
Figure BDA0002156981100000082
Figure BDA0002156981100000083
Figure BDA0002156981100000084
Figure BDA0002156981100000085
Figure BDA0002156981100000086
分别为第k时刻的操作员手臂肘部和肩部关节角度,上角标T表示对矩阵转置;Ak,k-1为状态转移矩阵,
Figure BDA0002156981100000087
U为系统输入向量,且Uk-1=[u1u2]T
Figure BDA0002156981100000088
vh(k-1)表示第k-1时刻手臂末端在运动平面内沿运动方向的线速度、ve(k-1)表示第k-1时刻手臂肘部在运动平面内沿运动方向的线速度,L1表示手肘到手掌的距离,L2表示肩关节到肘关节的距离,即
Figure BDA0002156981100000089
上角标T表示对矩阵转置;Γ为系统噪声输入矩阵,取Γk-1
Figure BDA00021569811000000810
W表示系统噪声向量,且
Figure BDA00021569811000000811
其中
Figure BDA00021569811000000812
表示k-1时刻肘关节角系统噪声、
Figure BDA00021569811000000813
表示k-1时刻肩关节系统噪声。
作为一种实施方式,建立观测方式的操作为:
步骤1.通过向量夹角计算公式计算关节角度的变化值,得到k时刻与k-1时刻之间手臂运动变化角度,表达式如下:
Figure BDA00021569811000000814
其中,向量
Figure BDA00021569811000000815
Figure BDA00021569811000000816
分别是k时刻和k-1时刻肘关节指向手臂末端的向量,向量
Figure BDA00021569811000000817
Figure BDA00021569811000000818
是k时刻和k-1时刻肩关节指向肘关节的向量,
Figure BDA00021569811000000819
Figure BDA0002156981100000091
(xh,yh,zh)是手臂末端三维坐标,(xe,ye,ze)是肘关节三维坐标,(xs,ys,zs)是肩关节三维坐标;
根据关节角度变化公式(3),得到肩关节和肘关节角度的观测值θe_m和θs_m,第k时刻的
Figure BDA0002156981100000092
如下所示:
Figure BDA0002156981100000093
步骤2.离散化后的观测方程的矩阵形式为:
Zk=Hk·Xk+Vk (5)
其中,k表示离散化时刻;Zk为k时刻观测向量,Hk为k时刻观测阵,Vk表示k时刻观测噪声向量;由于观测向量与状态向量都是指肘关节角度与肩关节角度,所以
Figure BDA0002156981100000094
其中
Figure BDA0002156981100000095
Figure BDA0002156981100000096
分别为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肘关节角度与肩关节角度观测值;
Figure BDA0002156981100000097
Figure BDA0002156981100000098
是第k时刻肘关节角的观测噪声,
Figure BDA0002156981100000099
是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置。
经过H滤波后,能够去除或削弱关节抖动等干扰造成的估计误差,实现精确的运动捕捉。
H滤波是将鲁棒控制设计中引入的性能指标H范数应用于滤波,以解决系统中存在的各种不确定性噪声问题,它对噪声的不确定性具有很强的鲁棒性。因此,在无法确切知道手臂关节抖动,传感器噪声等干扰信号的统计特性的情况下,本发明中利用H滤波来估计人臂各关节的角度值。
作为一种实施方式,对于所描述的系统状态方程和测量方程,建立次优H滤波的递推过程,对于一定的正数γ,次优H滤波递推过程主要包括以下三个步骤:
状态线性组合的估计
Figure BDA00021569811000000910
Figure BDA00021569811000000911
是Yk-1的估计值,Yk-1为系统的待估计的向量,
Figure BDA00021569811000000912
是Xk-1的估计值,Lk-1为给定的状态量线性组合矩阵,由于需要估计的量就是状态变量Xk-1,所以取Lk-1
Figure BDA00021569811000000913
时间修正状态一步预测:
Figure BDA0002156981100000101
估计误差方差阵:
Figure BDA0002156981100000102
其中
Figure BDA0002156981100000103
Pk的初始值P0可选为
Figure BDA0002156981100000104
γ为给定正数,可根据实验效果进行调节,I为单位矩阵;
量测修正
滤波增益矩阵:
Figure BDA0002156981100000105
状态估计:
Figure BDA0002156981100000106
H滤波是在鲁棒控制设计中引入性能指标H范数应用于滤波,以解决系统中存在的各种不确定性噪声问题,它对噪声的不确定性具有很强的鲁棒性。在无法确切知道手臂关节抖动,传感器噪声等干扰信号的统计特性的情况下,利用H滤波来估计人臂各关节的角度值,从而降低噪声的干扰。
作为一种实施方式,在优化手臂关节运动角度前,在操作者的肩膀、肩关节和手上臂分别绑定虚拟现实追踪器,该传感器用来捕捉肩关节、轴关节和手腕的三维位置和速度信息。
在进行操控前,先在操作者的手臂上将传感器安装到位,之后再结合本发明提出的基于H滤波捕捉手臂关节运动角度的估计方法,即可被实时捕捉操作者的肘关节角度和肩关节角度。
作为一种实施方式,为保证建筑机器手作业的安全性和灵巧性问题,采用人机协同控制系统通过基于关节映射的人机双臂主动运动传递来实现对建筑机械作业臂的控制,从而保证作业臂构型在运动过程中始终与人体手臂构型相似,通过人的主观意识保证操作中的安全性和灵巧性。
通过关节角度计算和递推计算从而实时估算操作过程中操作员手臂各关节角度值,并削弱关节抖动等干扰造成的估算误差,实现精确的运动捕捉。此外,当操作人员手臂在沿身体纵轴旋转时,通过佩戴在身体上身的MEMS陀螺仪计算身体沿纵轴旋转角度并映射到机械臂基座沿纵轴的旋转角度。
本发明的第二方面,在于提供一种能够通过人机交互的方式、将人的操控动作准确的传递到机械臂、控制机械臂的运动控制系统。
作为一种实施方式,建立处理器与操作者手臂上的所有传感器的信号连接关系,获得所有传感器的位置和速度信息,计算获得操作者的肩关节角度和肘关节角度;建立处理器与机械臂的通讯管理,将操作者的肩关节角度和肘关节角度发送到机械臂,使机械臂的肩关节铰链角度等于肩关节角度,使机械臂的肘关节铰链角度等于肘关节角度。
作为一种实施方式,控制系统具有传动模式和监督模式,传动模式下,操作者手臂的传感器、处理器和机械臂建立通讯,人手臂的肩关节角度作为机械臂的肩关节铰链角度的控制目标,人手臂的肘关节角度作为机械臂的肘关节铰链角度的控制目标;监督模式为机械臂按路径规划运动;路径规划根据现有技术做出;
传动模式和监督模式的切换操作包括:获得建筑机械作业臂末端和目标物距离Ld,在Ld>Lthr时,采用传动模式;在Ld<Lthr时,采用监督模式。
作为一种实施方式,如图4所示,工作模式流程包括以下步骤:
步骤1.操作员通过对机械手下达指令设置作业任务和目的;
步骤2.信息反馈子系统测量作业臂末端到目标物的相对距离Ld
步骤3.如果Ld>Lthr时,进行人机双臂传动控制模式;
此时作业规划完全由操作人员根据3D头盔中看见的作业场景和多源传感器信息来进行运动规划;此过程中,作业臂的运动速度较快,运动幅度较大,能加快作业效率;其中,Lthr根据实际工况设计的距离阈值,本发明专利中取作业臂长度Lb的1/2,即Lthr=Lb/2;
步骤4.如果Ld<Lthr时,进行人机双臂自主控制模式;
控制单元根据作业臂末端三维位置和目标物三维位置进行作业路径规划,控制作业臂运动。在这个过程中,操作员主要承担监督功能,在将要发生碰撞等危险情况时,触发急停按钮;
步骤5.作业臂末端到达指定目标处,操作员通过手柄按键控制末端执行器进行抓取、堆砌、挖掘和穿凿等任务。
作为一种实施方式,以虚拟现实3D头盔为主体,结合双目相机、单目相机构建信息反馈子系统,其中,双目相机固定在机械臂的末端,单目相机固定于能够拍摄到场景图像的建筑机器人基座顶端不同方位。单目相机用于拍摄场景信息,识别目标物。双目相机用于对目标物实现测距。识别目标物和对目标物测距使用现有技术实现。单目相机有多个,所有单目相机获得的图像拼接形成全域场景图像。图像拼接采用现有技术实现。机械臂末端图像和拼接后的工作场景图像经过处理和渲染后传输给虚拟现实头盔,并在虚拟现实场景中展现;
作为一种实施方式,如图5所示,大型建筑机械的作业臂是使用液压作为动力驱动源的,其关节结构简单,自由度低。控制过程中手臂只能在垂直地面的平面内运动,通过身体的旋转来改变运动平面,在同一时刻内只能控制一个关节变化。通过对操作员手臂运动规则的限制来对手臂关节结构进行简化,减少各个关节自由度。由此,将手臂肘、肩关节运动角度和与建筑机械作业臂肘、肩关节运动角度的映射;将操作人员手臂绕身体纵轴旋转角度(手臂基座关节角度)与建筑机械作业臂绕基座纵轴旋转角度(作业臂基座关节角度)进行映射。
本法明的有益效果,增加操作人员的临场感,辅助操作者进行作业规划,降低作业难度;利用H鲁棒滤波来进行手臂关节角度估算,实时且准确的捕捉手臂运动;通过结合传动模式和自主控制模式实现建筑机械手的半自主作业控制,提高了大型建筑机械的控制灵活性和效率,降低作业难度;提出的基于虚拟现实的大型建筑机械手人机协同控制系统,保障危险工况下建筑作业人员的安全,提高建筑作业效率。
在缺少本文中所具体公开的任何元件、限制的情况下,可以实现本文所示和所述的发明。所采用的术语和表达法被用作说明的术语而非限制,并且不希望在这些术语和表达法的使用中排除所示和所述的特征或其部分的任何等同物,而且应该认识到各种改型在本发明的范围内都是可行的。因此应该理解,尽管通过各种实施例和可选的特征具体公开了本发明,但是本文所述的概念的修改和变型可以被本领域普通技术人员所采用,并且认为这些修改和变型落入所附权利要求书限定的本发明的范围之内。
本文中所述或记载的文章、专利、专利申请以及所有其他文献和以电子方式可得的信息的内容在某种程度上全文包括在此以作参考,就如同每个单独的出版物被具体和单独指出以作参考一样。申请人保留把来自任何这种文章、专利、专利申请或其他文献的任何及所有材料和信息结合入本申请中的权利。

Claims (5)

1.基于虚拟现实控制的建筑机器人,其特征在于:包括机械臂,机械臂包括基座、第一支臂和第二支臂,第一支臂与基座通过肩关节铰链铰接,第二支臂与第一支臂通过肘关节铰链铰接,第二支臂的末端设置执行器;第一支臂和第二支臂约束在同一个平面内绕各自的铰链转动;以操作者的手臂动作姿态控制机械臂运动,捕捉肘关节角度和肩关节角度;操作者的肘关节角度作为肘关节铰链的控制目标角度,操作者的肩关节角度作为肩关节铰链的控制目标角度;
捕捉操作者的肘关节角度和肩关节角度是基于H滤波递推的关节运动角度估计方法,包括以下操作:
建立状态方程,Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1
其中,k表示离散化时刻,Ak,k-1为状态转移矩阵,
Figure FDA0003656371780000011
Xk为k时刻系统状态向量,且Xk=[x1 x2]T,
Figure FDA0003656371780000012
Figure FDA0003656371780000013
Figure FDA0003656371780000014
为第k时刻的操作员手臂肘部关节角度,
Figure FDA0003656371780000015
为第k时刻的操作员手臂肩部关节角度,上角标T表示对矩阵转置;Uk-1为k-1时刻系统输入向量,Γ为系统噪声输入矩阵,取Γk-1
Figure FDA0003656371780000016
Wk-1表示k-1时刻的系统噪声向量;
建立观测方程,Zk=Hk·Xk+Vk
其中,k表示离散化时刻,Zk为k时刻观测向量,Hk是k时刻观测阵,
Figure FDA0003656371780000017
Vk表示k时刻观测噪声向量;
用H滤波递推,得到k时刻的肘关节角度和肩关节角度状态估计值:
Figure FDA0003656371780000018
其中,
Figure FDA0003656371780000019
为k时刻系统状态估计向量,
Figure FDA00036563717800000110
是一步状态预测向量,Kk是滤波增益矩阵;
所述的建立状态方程的操作包括:
步骤1.根据旋转角速度和线速度的转换关系,计算肘部关节角度θe、肩部关节角度θs与手臂末端在运动平面内沿运动方向的线速度vh、肘部末端在运动平面内沿运动方向的线速度ve之间的关系,得到连续时间下的系统状态方程表达式如下:
Figure FDA00036563717800000111
其中,L1表示手肘到手掌的距离,L2表示肩关节到肘关节的距离,vh为各个时刻手臂末端在运动平面内沿运动方向的线速度、ve为各个时刻手臂肘部在运动平面内沿运动方向的线速度,可以利用虚拟现实系统中的手柄和绑定在关节部位的追踪器来获取;t表示连续时间,Δt表示时间间隔;
步骤2.将公式(1)所示的状态方程离散化,获得离散化后的状态方程的矩阵形式表达式如下:
Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1 (2)
其中,k表示离散化时刻;Ak,k-1为状态转移矩阵,
Figure FDA0003656371780000021
Xk为k时刻系统状态向量,且Xk=[x1 x2]T,
Figure FDA0003656371780000022
Figure FDA0003656371780000023
Figure FDA0003656371780000024
为第k时刻的操作员手臂肘部关节角度,
Figure FDA0003656371780000025
为第k时刻的操作员手臂肩部关节角度,上角标T表示对矩阵转置;Uk-1为k-1时刻系统输入向量,且
Figure FDA0003656371780000026
Figure FDA0003656371780000027
表示第k-1时刻手臂末端在运动平面内沿运动方向的线速度、
Figure FDA0003656371780000028
表示第k-1时刻手臂肘部在运动平面内沿运动方向的线速度,L1表示手肘到手掌的距离,L2表示肩关节到肘关节的距离,即
Figure FDA0003656371780000029
上角标T表示对矩阵转置;Г为系统噪声输入矩阵,取Гk-1
Figure FDA00036563717800000210
Wk-1表示k-1时刻系统噪声向量,且
Figure FDA00036563717800000211
其中
Figure FDA00036563717800000212
表示k-1时刻肘关节角系统噪声、
Figure FDA00036563717800000213
表示k-1时刻肩关节系统噪声;
所述的建立观测方程的操作包括:
步骤1.通过向量夹角计算公式计算关节角度的变化值,得到k时刻与k-1时刻之间手臂关节运动变化角度,表达式如下:
Figure FDA00036563717800000214
其中,向量
Figure FDA00036563717800000215
Figure FDA00036563717800000216
分别是k时刻和k-1时刻肘关节指向手臂末端的向量,向量
Figure FDA00036563717800000217
Figure FDA00036563717800000218
分别是k时刻和k-1时刻肩关节指向肘关节的向量,
Figure FDA00036563717800000219
(xh,yh,zh)是手臂末端三维坐标,(xe,ye,ze)是肘关节三维坐标,(xs,ys,zs)是肩关节三维坐标;
根据关节角度变化公式(3),得到肩关节和肘关节关节角度的观测值θe_m和θs_m,第k时刻的
Figure FDA00036563717800000220
如下所示:
Figure FDA0003656371780000031
步骤2.离散化后的观测方程的矩阵形式为:
Zk=Hk·Xk+Vk (5)
其中,k表示离散化时刻;Zk为k时刻观测向量,Hk为k时刻观测阵,Vk表示k时刻观测噪声向量;由于观测向量与状态向量都是指肘关节角度与肩关节角度,所以
Figure FDA0003656371780000032
其中
Figure FDA0003656371780000033
为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肘关节角度观测值,
Figure FDA0003656371780000034
为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肩关节角度观测值;
Figure FDA0003656371780000035
Figure FDA0003656371780000036
是第k时刻肘关节角的观测噪声,
Figure FDA0003656371780000037
是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置。
2.根据权利要求1所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的第一支臂和基座之间有牵引第一支臂转动的第一牵引组件,第二支臂和第一支臂之间有牵引第二支臂转动的第二牵引组件。
3.根据权利要求1所述的基于虚拟现实控制的建筑机器人,其特征在于:还包括能够通过人机交互的方式、将人的操控动作准确的传递到机械臂、控制机械臂的运动控制系统,所述控制系统具有传动模式和监督模式,传动模式下,操作者手臂的传感器、处理器和机械臂建立通讯,人手臂的肩关节角度作为机械臂的肩关节铰链角度的控制目标,人手臂的肘关节角度作为机械臂的肘关节铰链角度的控制目标;监督模式为机械臂按路径规划运动。
4.根据权利要求3所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的传动模式和监督模式的切换操作包括:获得机器人作业臂末端和目标物距离Ld,在Ld>Lthr时,采用传动模式;在Ld<Lthr时,采用监督模式,其中Lthr是距离阈值,Lthr=Lb/2,Lb为建筑机器人作业臂长度。
5.根据权利要求1所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的建筑机器人以虚拟现实3D头盔为主体,结合双目相机、单目相机构建信息反馈子系统;其中,双目相机安装在建筑机械作业臂的末端,用来获取作业臂末端的作业图像信息,同时计算作业臂末端距离目标物的距离,并在图像中实时标记出作业臂末端距离目标物的距离;多个单目相机分别安装在能够拍摄到场景图像的建筑机器人基座顶端不同方位,通过对多个单目相机获取图像进行拼接,获得全域场景图像;作业臂末端图像和拼接后的工作场景图像经过处理和渲染后传输给虚拟现实头盔,并在虚拟现实场景中展现。
CN201910720426.7A 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人 Active CN110539315B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910720426.7A CN110539315B (zh) 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910720426.7A CN110539315B (zh) 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人

Publications (2)

Publication Number Publication Date
CN110539315A CN110539315A (zh) 2019-12-06
CN110539315B true CN110539315B (zh) 2022-09-02

Family

ID=68710504

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910720426.7A Active CN110539315B (zh) 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人

Country Status (1)

Country Link
CN (1) CN110539315B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4094135A4 (en) * 2020-01-22 2023-09-20 Abb Schweiz Ag ROBOT CONTROL SYSTEM AND METHOD, ELECTRONIC DEVICE AND COMPUTER READABLE MEDIUM
CN115075313A (zh) * 2022-08-04 2022-09-20 网易(杭州)网络有限公司 控制信号量确定方法、装置、设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006331013A (ja) * 2005-05-25 2006-12-07 Yaskawa Electric Corp サーボ制御装置と制御方法
CN101799934A (zh) * 2010-04-02 2010-08-11 北京大学软件与微电子学院无锡产学研合作教育基地 一种基于微机电惯性传感网络的实时人体运动捕捉系统
CN103268616B (zh) * 2013-04-18 2015-11-25 北京工业大学 多特征多传感器的移动机器人运动人体跟踪方法
CN108614423A (zh) * 2018-05-25 2018-10-02 哈尔滨工程大学 一种基于观测器的时滞力觉接口系统的稳定性分析方法
CN109549821B (zh) * 2018-12-30 2021-07-09 南京航空航天大学 基于肌电和惯导信号融合的外骨骼机器人助力控制系统及方法

Also Published As

Publication number Publication date
CN110539315A (zh) 2019-12-06

Similar Documents

Publication Publication Date Title
Krupke et al. Comparison of multimodal heading and pointing gestures for co-located mixed reality human-robot interaction
US9862090B2 (en) Surrogate: a body-dexterous mobile manipulation robot with a tracked base
WO2020221311A1 (zh) 基于可穿戴设备的移动机器人控制系统及控制方法
CN103112007B (zh) 基于混合传感器的人机交互方法
JP5974668B2 (ja) マニピュレーションシステム
CN110039547B (zh) 一种柔性机械臂遥操作的人机交互终端及方法
JP2013132748A (ja) 移動装置及び移動装置の位置認識方法
CN110539315B (zh) 基于虚拟现实控制的建筑机器人
CN113829343B (zh) 基于环境感知的实时多任务多人人机交互系统
CN112828916B (zh) 冗余机械臂遥操作组合交互装置及冗余机械臂遥操作系统
CN111515951A (zh) 机器人的遥操作系统及遥操作控制方法
CN115469576A (zh) 一种基于人-机械臂异构运动空间混合映射的遥操作系统
Yu et al. Gesture-based telemanipulation of a humanoid robot for home service tasks
CN111319026A (zh) 一种沉浸式双臂机器人仿人远程操控方法
Romay et al. Template-based manipulation in unstructured environments for supervised semi-autonomous humanoid robots
Bjerkeng et al. Active camera control with obstacle avoidance for remote operations with industrial manipulators: Implementation and experimental results
Corsini et al. Nonlinear model predictive control for human-robot handover with application to the aerial case
CN111702787B (zh) 人机协作控制系统及控制方法
CN112894820A (zh) 柔性机械臂遥操作人机交互装置及系统
JP3657854B2 (ja) 遠隔地観測装置
CN115157261A (zh) 基于混合现实的柔性机械臂遥操作人机交互装置及方法
CN111390941B (zh) 一种水下机械臂操控用命令输入装置及操控方法
Bai et al. Kinect-based hand tracking for first-person-perspective robotic arm teleoperation
Anderson et al. Coordinated control and range imaging for mobile manipulation
EP4316747A1 (en) Robot remote operation control device, robot remote operation control system, robot remote operation control method, and program

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant