CN110539315A - 基于虚拟现实控制的建筑机器人 - Google Patents

基于虚拟现实控制的建筑机器人 Download PDF

Info

Publication number
CN110539315A
CN110539315A CN201910720426.7A CN201910720426A CN110539315A CN 110539315 A CN110539315 A CN 110539315A CN 201910720426 A CN201910720426 A CN 201910720426A CN 110539315 A CN110539315 A CN 110539315A
Authority
CN
China
Prior art keywords
arm
angle
moment
elbow
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910720426.7A
Other languages
English (en)
Other versions
CN110539315B (zh
Inventor
何斌
蒋荣
周艳敏
王志鹏
沈润杰
袁烽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tongji University
Original Assignee
Tongji University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tongji University filed Critical Tongji University
Priority to CN201910720426.7A priority Critical patent/CN110539315B/zh
Publication of CN110539315A publication Critical patent/CN110539315A/zh
Application granted granted Critical
Publication of CN110539315B publication Critical patent/CN110539315B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J18/00Arms

Abstract

基于虚拟现实控制的建筑机器人,包括机械臂,机械臂包括基座、第一支臂和第二支臂,第一支臂与基座铰接,第二支臂与第一支臂铰接,第二支臂的末端设置执行器;第一支臂和第二支臂约束在同一个平面内绕各自的铰链转动;机械臂的铰接处对应人的手臂关节状态,传感器捕捉人手臂关节处的运动位置信息,将获取到的运动位置信息通过基于H滤波递推的关节运动角度的估计方法优化实现以人机交互的方式控制机器人。本发明的优点在于,保障危险工况下建筑作业人员的安全,提高建筑作业效率;利用H鲁棒滤波来进行手臂关节角度估算,实时且准确的捕捉手臂运动,提高了大型建筑机械的控制灵活性和效率,降低作业难度。

Description

基于虚拟现实控制的建筑机器人
技术领域
本发明涉及机械控制领域,特别涉及一种基于虚拟现实技术的大型建筑机械手人机协同控制系统。
背景技术
随着城市化进程的高速发展,对建筑行业的施工安全性、高效性提出了新的挑战,尤其是在危险工况条件下,在提高施工效率的同时,保障施工人员的安全已成为大家关注的重点问题。为了解决上述问题,科研工作者正在研究和开发能够在高温、高压、高空、深水、化学甚至是核辐射环境中满足高质量、高标准建筑作业要求的建筑机器人。
目前,虽然基于虚拟现实的机器人已经越来越多的用于家庭服务和工业巡检等行业,但是建筑行业由于其工况环境恶劣,对机器人的负载要求高,现场条件复杂造成对人-机交互的灵活度要求高。现有的用于家庭服务和工业巡检的机器人,虽然也有基于虚拟现实、通过VR技术增强操作人员的临场感,使操作人员能身临其境的做出操作。但是,这种操作通常是操作人员手握感应器,即感应器位于操作人员手柄的终端,相当于是将感应器虚拟为一个点。通过手握感应器只能单点控制末端执行器,捕捉这个点的位移、旋转等,在通过逆解求取整个机械臂的姿态,由于逆解算法的多解性,这种方法会导致在复杂的建筑场景下无法对整个机械臂的姿态进行精确控制,会增加作业风险;
另外,虽然目前有一些建筑机械、比如机械臂、吊车、吊臂等用于建筑现场,但这些建筑机械都是通过遥控指挥,无法真实模拟人为了应对现场情况而做出的精细化动作。
发明内容
本发明的目的在于提供一种能够在机械臂或机器人上复原人在应对现场事件时做出的实际应对动作的基于虚拟现实控制的建筑机器人。
基于虚拟现实控制的建筑机器人,其特征在于:包括机械臂,机械臂包括基座、第一支臂和第二支臂,第一支臂与基座铰接,第二支臂与第一支臂铰接,第二支臂的末端设置执行器;第一支臂和第二支臂约束在同一个平面内绕各自的铰链转动。第一支臂与基座之间的铰链称为肩关节铰链,第二支臂与第一支臂之间的铰链称为肘关节铰链。基座固定,第一支臂绕肩关节铰链做靠近或远离肩关节的转动,第二支臂绕肘关节铰链做靠近或远离肩关节的转动。第一支臂和第二支臂在同一个平面内运动。
第一支臂和基座之间有牵引第一支臂转动的第一牵引组件,第二支臂和第一支臂之间有牵引第二支臂转动的第二牵引组件。牵引组件的结构采用现有技术,比如,电机、液压牵引等。
本发明的第一目的在于提供一种以肘关节角度和肩关节角度表征人的手臂状态、能够捕捉人的手臂的实时动作的关节运动角度估计方法。
上述机械臂的基座相当于人的肩膀,第一支臂相当于手的上臂,第二支臂相当于手的下臂,肩关节铰链相当于肩关节,肘关节铰链相当于肘关节。获得人的肩关节角度和肘关节角度后,直接对应成机械臂的肩关节铰链的角度和肘关节铰链的角度,即可在机械臂上复原人的手臂实际动作。
作为优选的方案:基于H滤波捕捉手臂关节运动角度的估计方法包括以下操作:
建立系统状态方程,Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1,其中,k表示离散化时刻,Xk为k时刻系统状态向量, 分别为第k时刻人肘部和肩部关节角度;Ak,k-1为状态转移矩阵,Uk-1是k-1时刻系统输入向量,vh(k-1)表示第k-1时刻手臂末端在运动平面内沿运动方向的线速度、ve(k-1)表示第k-1时刻手臂肘部在运动平面内沿运动方向的线速度,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离;Wk-1表示第k-1时刻的系统噪声向量,且其中分别表示第k-1时刻肘关节角系统噪声和肩关节系统噪声;Г为系统噪声输入矩阵,取Γk-1
建立观测方程,Zk=Hk·Xk+Vk,其中,Zk为k时刻观测向量,其中分别为通过关节位置直接计算得出的第k时刻肘关节角度与肩关节角度观测值;H为观测阵,Vk表示k时刻观测噪声向量, 是第k时刻肘关节角的观测噪声,是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置;
用H滤波递推,滤除自然人手臂在持久负重时出现的不自觉抖动,得到k时刻的肘关节角度和肩关节角度状态估计值:Kk是滤波增益矩阵。
优选的,建立状态方程的操作为:
步骤1.根据旋转角速度和线速度的转换关系,计算肘部和肩部关节角度θe、θs与手臂末端和肘部末端在运动平面内沿运动方向的线速度vh、ve之间的关系,得到状态方程表达式如下:
其中,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离,vh、ve分别为各个时刻手臂末端和肘部在运动平面内沿运动方向的线速度,可以利用虚拟现实系统中的手柄和绑定在关节部位的追踪器来获取;t表示连续时间,Δt表示时间间隔;
步骤2.将公式(1)所示的状态方程离散化,获得离散化后的状态方程的矩阵形式表达式如下:
Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1 (2)
其中,k表示离散化时刻;X为系统状态向量,且Xk=[x1 x2]T 分别为第k时刻的操作员手臂肘部和肩部关节角度,上角标T表示对矩阵转置;Ak,k-1为状态转移矩阵,U为系统输入向量,且Uk-1=[u1u2]Tvh(k-1)、ve(k-1)表示第k-1时刻手臂末端和肘部在运动平面内沿运动方向的线速度,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离,即上角标T表示对矩阵转置;W表示系统噪声向量,且其中分别表示k-1时刻肘关节角系统噪声和肩关节系统噪声;Γ为系统噪声输入矩阵,取Γk-1
优选的,建立观测方式的操作为:
步骤1.通过向量夹角计算公式计算关节角度的变化值,得到k时刻与k-1时刻之间人手臂运动变化的角度,表达式如下:
其中,向量分别是k时刻和k-1时刻肘关节指向手臂末端的向量,向量是k时刻和k-1时刻肩关节指向肘关节的向量, (xh,yh,zh)是手臂末端三维坐标,(xe,ye,ze)是肘关节三维坐标,(xs,ys,zs)是肩关节三维坐标;
根据关节角度变化公式(3),得到肩关节和肘关节角度的观测值θe_m和θs_m,第k时刻的如下所示:
步骤2.离散化后的观测方程的矩阵形式为:
Zk=Hk·Xk+Vk (5)
其中,k表示离散化时刻;Zk为k时刻观测向量,Hk为k时刻观测阵,Vk表示k时刻观测噪声向量;由于观测向量与状态向量都是指肘关节角度与肩关节角度,所以其中分别为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肘关节角度与肩关节角度观测值; 是第k时刻肘关节角的观测噪声,是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置。
经过H滤波后,能够去除或削弱关节抖动等干扰造成的估计误差,实现精确的运动捕捉。
优选的,在优化手臂关节运动角度前,在操作者的肩膀、肩关节和手上臂分别绑定虚拟现实追踪器,该传感器可以提供肩关节、轴关节和手腕的三维位置和速度信息。在进行操控前,先在操作者的手臂上将传感器安装到位,之后再结合本发明提出的基于H滤波捕捉手臂关节运动角度的估计方法,即可实时捕捉操作者的肘关节角度和肩关节角度。
本发明的第二方面,在于提供一种能够通过人机交互的方式、将人的操控动作准确的传递到机械臂、控制机械臂的运动控制系统。
作为优选的方案,建立处理器与操作者手臂上的所有传感器的信号连接关系,获得所有传感器的位置信号,计算获得操作者的肩关节角度和肘关节角度;建立处理器与机械臂的通讯管理,将操作者的肩关节角度和肘关节角度发送到机械臂,使机械臂的肩关节铰链角度等于肩关节角度,使机械臂的肘关节铰链角度等于肘关节角度。
优选的,控制系统具有传动模式和监督模式,传动模式下,操作者手臂的传感器、处理器和机械臂建立通讯,人手臂的肩关节角度作为机械臂的肩关节铰链角度的控制目标,人手臂的肘关节角度作为机械臂的肘关节铰链角度的控制目标;监督模式为机械臂按路径规划运动;路径规划根据现有技术做出;
传动模式和监督模式的切换操作包括:获得目标物和目标物距离Ld在Ld>Lthr时,采用传动模式;在Ld<Lthr时,采用监督模式。
优选的,建筑机器人以虚拟现实3D头盔为主体,结合双目相机、单目相机构建信息反馈子系统,其中,双目相机固定在机械臂的末端,单目相机固定于能够拍摄到场景图像的建筑机器人基座顶端不同方位。单目相机用于拍摄场景信息,识别目标物。双目相机用于对目标物实现测距。识别目标物和对目标物测距使用现有技术实现。
优选的,单目相机有多个,所有单目相机获得的图像拼接形成全域场景图像。图像拼接采用现有技术实现。机械臂末端图像和拼接后的工作场景图像经过处理和渲染后传输给虚拟现实头盔,并在虚拟现实场景中展现;
本法明优点在于:
1.增加操作人员的临场感,辅助操作者进行作业规划,降低作业难度;
2.利用H鲁棒滤波来进行手臂关节角度估算,实时且准确的捕捉手臂运动;
3.通过结合传动模式和自主控制模式实现建筑机械手的半自主作业控制,提高了大型建筑机械的控制灵活性和效率,降低作业难度;
4.提出的基于虚拟现实的大型建筑机械手人机协同控制系统,保障危险工况下建筑作业人员的安全,提高建筑作业效率。
附图说明
图1是机械臂结构示意图。
图2是竖直平面内运动关节角示意图。
图3是关节映射图。
图4是系统整体框图。
图5是水平面内运动关节角示意图。
具体实施方式
结合附图,进一步详细说明本发明的方案。
如图1所示,基于虚拟现实控制的建筑机器人,包括机械臂,机械臂包括基座1、第一支臂2和第二支臂3,第一支臂2与基座1铰接4,第二支臂3与第一支臂2铰接4,第二支臂3的末端设置执行器;第一支臂2和第二支臂3约束在同一个平面内绕各自的铰链转动。第一支臂2与基座1之间的铰链称为肩关节铰链,第二支臂3与第一支臂2之间的铰链称为肘关节铰链。基座1固定,第一支臂2绕肩关节铰链做靠近或远离肩关节的转动,第二支臂3绕肘关节铰链做靠近或远离肩关节的转动。第一支臂2和第二支臂3在同一个平面内运动。
如图2所示,第一支臂2和基座1之间有牵引第一支臂2转动的第一牵引组件,第二支臂3和第一支臂2之间有牵引第二支臂3转动的第二牵引组件。牵引组件的结构采用现有技术,比如,电机、液压牵引等。
作为一种实施方式,提供一种以肘关节角度和肩关节角度表征人的手臂状态、能够捕捉人的手臂的实时动作的关节运动角度估计方法。
如图3所示,上述机械臂的基座1相当于人的肩膀,第一支臂2相当于手的上臂,第二支臂3相当于手的下臂,肩关节铰链相当于肩关节,肘关节铰链相当于肘关节。获得人的肩关节角度和肘关节角度后,直接对应成机械臂的肩关节铰链的角度和肘关节铰链的角度,即可在机械臂上复原人的手臂实际动作。
考虑到大型建筑机械的作业臂是使用液压作为动力驱动源的,其关节结构简单,自由度低。因此,在本发明设计中规定,控制过程中手臂只能在垂直地面的平面内运动,通过身体的旋转来改变运动平面,在同一时刻内只能控制一个关节变化。通过对操作员手臂运动规则的限制来对手臂关节结构进行简化,减少各个关节自由度。由此,将手臂肘、肩关节运动角度与建筑机械作业臂肘、肩关节运动角度映射;此外,将操作人员手臂绕身体纵轴旋转角度(手臂基座1关节角度)与建筑机械作业臂绕基座1纵轴旋转角度(作业臂基座1关节角度)进行映射。
作为一种实施方式:基于H滤波捕捉手臂肘、肩关节运动角度的估计方法包括以下操作:建立系统状态方程,Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1,其中,k表示离散化时刻;X为系统状态向量,X=[θe θs]T,θe和θs分别为人肘部和肩部关节角度;Ak,k-1为状态转移矩阵,U是系统输入向量 是k-1时刻手臂末端和肘部在竖直平面内沿运动方向的线速度,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离;W表示系统噪声向量,且其中 分别表示k-1时刻肘关节角系统噪声,和肩关节系统噪声;Γ为系统噪声输入矩阵,取Γk-1建立观测方程,Zk=Hk·Xk+Vk,其中,k表示离散化时刻;Z为观测向量,其中分别为第k时刻通过关节位置直接计算得出的肘关节角度与肩关节角度观测值;H为观测阵,V表示观测噪声向量, 是第k时刻肘关节角的观测噪声,是第k时刻肩关节角的观测噪声;上角标T表示对矩阵转置;用H滤波递推,滤除自然人手臂在持久负重时出现的不自觉抖动等误差,得到k时刻的肘关节角度和肩关节角度状态估计值: Kk是滤波增益矩阵。
作为一种实施方式,建立状态方程的操作为:
步骤1.根据旋转角速度和线速度的转换关系,计算肘部和肩部关节角度θe、θs与手臂末端和肘部末端在运动平面内沿运动方向的线速度vh、ve之间的关系,得到连续时间下的状态方程表达式如下:
其中,L1和L2分别表示手肘到手掌的距离以及肩关节到肘关节的距离,各个时刻手臂末端和肘部在运动平面内沿运动方向的线速度vh、ve可以利用虚拟现实系统中的手柄和绑定在关节部位的追踪器来获取;t表示连续时间,Δt表示时间间隔;
步骤2.将公式(1)所示的状态方程离散化,获得离散化后的状态方程的矩阵形式表达式如下:
Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1 (2)
其中,k表示离散化时刻;X为系统状态向量,且Xk=[x1 x2]T 分别为第k时刻的操作员手臂肘部和肩部关节角度,上角标T表示对矩阵转置;Ak,k-1为状态转移矩阵,U为系统输入向量,且Uk-1=[u1u2]Tvh(k-1)表示第k-1时刻手臂末端在运动平面内沿运动方向的线速度、ve(k-1)表示第k-1时刻手臂肘部在运动平面内沿运动方向的线速度,L1表示手肘到手掌的距离,L2表示肩关节到肘关节的距离,即上角标T表示对矩阵转置;Γ为系统噪声输入矩阵,取Γk-1W表示系统噪声向量,且其中表示k-1时刻肘关节角系统噪声、表示k-1时刻肩关节系统噪声。
作为一种实施方式,建立观测方式的操作为:
步骤1.通过向量夹角计算公式计算关节角度的变化值,得到k时刻与k-1时刻之间手臂运动变化角度,表达式如下:
其中,向量分别是k时刻和k-1时刻肘关节指向手臂末端的向量,向量是k时刻和k-1时刻肩关节指向肘关节的向量, (xh,yh,zh)是手臂末端三维坐标,(xe,ye,ze)是肘关节三维坐标,(xs,ys,zs)是肩关节三维坐标;
根据关节角度变化公式(3),得到肩关节和肘关节角度的观测值θe_m和θs_m,第k时刻的如下所示:
步骤2.离散化后的观测方程的矩阵形式为:
Zk=Hk·Xk+Vk (5)
其中,k表示离散化时刻;Zk为k时刻观测向量,Hk为k时刻观测阵,Vk表示k时刻观测噪声向量;由于观测向量与状态向量都是指肘关节角度与肩关节角度,所以其中分别为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肘关节角度与肩关节角度观测值; 是第k时刻肘关节角的观测噪声,是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置。
经过H滤波后,能够去除或削弱关节抖动等干扰造成的估计误差,实现精确的运动捕捉。
H滤波是将鲁棒控制设计中引入的性能指标H范数应用于滤波,以解决系统中存在的各种不确定性噪声问题,它对噪声的不确定性具有很强的鲁棒性。因此,在无法确切知道手臂关节抖动,传感器噪声等干扰信号的统计特性的情况下,本发明中利用H滤波来估计人臂各关节的角度值。
作为一种实施方式,对于所描述的系统状态方程和测量方程,建立次优H滤波的递推过程,对于一定的正数γ,次优H滤波递推过程主要包括以下三个步骤:
状态线性组合的估计
是Yk-1的估计值,Yk-1为系统的待估计的向量,是Xk-1的估计值,Lk-1为给定的状态量线性组合矩阵,由于需要估计的量就是状态变量Xk-1,所以取Lk-1
时间修正状态一步预测:
估计误差方差阵:
其中Pk的初始值P0可选为γ为给定正数,可根据实验效果进行调节,I为单位矩阵;
量测修正
滤波增益矩阵:
状态估计:
H滤波是在鲁棒控制设计中引入性能指标H范数应用于滤波,以解决系统中存在的各种不确定性噪声问题,它对噪声的不确定性具有很强的鲁棒性。在无法确切知道手臂关节抖动,传感器噪声等干扰信号的统计特性的情况下,利用H滤波来估计人臂各关节的角度值,从而降低噪声的干扰。
作为一种实施方式,在优化手臂关节运动角度前,在操作者的肩膀、肩关节和手上臂分别绑定虚拟现实追踪器,该传感器用来捕捉肩关节、轴关节和手腕的三维位置和速度信息。
在进行操控前,先在操作者的手臂上将传感器安装到位,之后再结合本发明提出的基于H滤波捕捉手臂关节运动角度的估计方法,即可被实时捕捉操作者的肘关节角度和肩关节角度。
作为一种实施方式,为保证建筑机器手作业的安全性和灵巧性问题,采用人机协同控制系统通过基于关节映射的人机双臂主动运动传递来实现对建筑机械作业臂的控制,从而保证作业臂构型在运动过程中始终与人体手臂构型相似,通过人的主观意识保证操作中的安全性和灵巧性。
通过关节角度计算和递推计算从而实时估算操作过程中操作员手臂各关节角度值,并削弱关节抖动等干扰造成的估算误差,实现精确的运动捕捉。此外,当操作人员手臂在沿身体纵轴旋转时,通过佩戴在身体上身的MEMS陀螺仪计算身体沿纵轴旋转角度并映射到机械臂基座沿纵轴的旋转角度。
本发明的第二方面,在于提供一种能够通过人机交互的方式、将人的操控动作准确的传递到机械臂、控制机械臂的运动控制系统。
作为一种实施方式,建立处理器与操作者手臂上的所有传感器的信号连接关系,获得所有传感器的位置和速度信息,计算获得操作者的肩关节角度和肘关节角度;建立处理器与机械臂的通讯管理,将操作者的肩关节角度和肘关节角度发送到机械臂,使机械臂的肩关节铰链角度等于肩关节角度,使机械臂的肘关节铰链角度等于肘关节角度。
作为一种实施方式,控制系统具有传动模式和监督模式,传动模式下,操作者手臂的传感器、处理器和机械臂建立通讯,人手臂的肩关节角度作为机械臂的肩关节铰链角度的控制目标,人手臂的肘关节角度作为机械臂的肘关节铰链角度的控制目标;监督模式为机械臂按路径规划运动;路径规划根据现有技术做出;
传动模式和监督模式的切换操作包括:获得建筑机械作业臂末端和目标物距离Ld,在Ld>Lthr时,采用传动模式;在Ld<Lthr时,采用监督模式。
作为一种实施方式,如图4所示,工作模式流程包括以下步骤:
步骤1.操作员通过对机械手下达指令设置作业任务和目的;
步骤2.信息反馈子系统测量作业臂末端到目标物的相对距离Ld
步骤3.如果Ld>Lthr时,进行人机双臂传动控制模式;
此时作业规划完全由操作人员根据3D头盔中看见的作业场景和多源传感器信息来进行运动规划;此过程中,作业臂的运动速度较快,运动幅度较大,能加快作业效率;其中,Lthr根据实际工况设计的距离阈值,本发明专利中取作业臂长度Lb的1/2,即Lthr=Lb/2;
步骤4.如果Ld<Lthr时,进行人机双臂自主控制模式;
控制单元根据作业臂末端三维位置和目标物三维位置进行作业路径规划,控制作业臂运动。在这个过程中,操作员主要承担监督功能,在将要发生碰撞等危险情况时,触发急停按钮;
步骤5.作业臂末端到达指定目标处,操作员通过手柄按键控制末端执行器进行抓取、堆砌、挖掘和穿凿等任务。
作为一种实施方式,以虚拟现实3D头盔为主体,结合双目相机、单目相机构建信息反馈子系统,其中,双目相机固定在机械臂的末端,单目相机固定于能够拍摄到场景图像的建筑机器人基座顶端不同方位。单目相机用于拍摄场景信息,识别目标物。双目相机用于对目标物实现测距。识别目标物和对目标物测距使用现有技术实现。单目相机有多个,所有单目相机获得的图像拼接形成全域场景图像。图像拼接采用现有技术实现。机械臂末端图像和拼接后的工作场景图像经过处理和渲染后传输给虚拟现实头盔,并在虚拟现实场景中展现;
作为一种实施方式,如图5所示,大型建筑机械的作业臂是使用液压作为动力驱动源的,其关节结构简单,自由度低。控制过程中手臂只能在垂直地面的平面内运动,通过身体的旋转来改变运动平面,在同一时刻内只能控制一个关节变化。通过对操作员手臂运动规则的限制来对手臂关节结构进行简化,减少各个关节自由度。由此,将手臂肘、肩关节运动角度和与建筑机械作业臂肘、肩关节运动角度的映射;将操作人员手臂绕身体纵轴旋转角度(手臂基座关节角度)与建筑机械作业臂绕基座纵轴旋转角度(作业臂基座关节角度)进行映射。
本法明的有益效果,增加操作人员的临场感,辅助操作者进行作业规划,降低作业难度;利用H鲁棒滤波来进行手臂关节角度估算,实时且准确的捕捉手臂运动;通过结合传动模式和自主控制模式实现建筑机械手的半自主作业控制,提高了大型建筑机械的控制灵活性和效率,降低作业难度;提出的基于虚拟现实的大型建筑机械手人机协同控制系统,保障危险工况下建筑作业人员的安全,提高建筑作业效率。
在缺少本文中所具体公开的任何元件、限制的情况下,可以实现本文所示和所述的发明。所采用的术语和表达法被用作说明的术语而非限制,并且不希望在这些术语和表达法的使用中排除所示和所述的特征或其部分的任何等同物,而且应该认识到各种改型在本发明的范围内都是可行的。因此应该理解,尽管通过各种实施例和可选的特征具体公开了本发明,但是本文所述的概念的修改和变型可以被本领域普通技术人员所采用,并且认为这些修改和变型落入所附权利要求书限定的本发明的范围之内。
本文中所述或记载的文章、专利、专利申请以及所有其他文献和以电子方式可得的信息的内容在某种程度上全文包括在此以作参考,就如同每个单独的出版物被具体和单独指出以作参考一样。申请人保留把来自任何这种文章、专利、专利申请或其他文献的任何及所有材料和信息结合入本申请中的权利。

Claims (8)

1.基于虚拟现实控制的建筑机器人,其特征在于:包括机械臂,机械臂包括基座、第一支臂和第二支臂,第一支臂与基座通过肩关节铰链铰接,第二支臂与第一支臂通过肘关节铰链铰接,第二支臂的末端设置执行器;第一支臂和第二支臂约束在同一个平面内绕各自的铰链转动;以操作者的手臂动作姿态控制机械臂运动,捕捉肘关节角度和肩关节角度;操作者的肘关节角度作为肘关节铰链的控制目标角度,操作者的肩关节角度作为肩关节铰链的控制目标角度。
2.根据权利要求1所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的第一支臂和基座之间有牵引第一支臂转动的第一牵引组件,第二支臂和第一支臂之间有牵引第二支臂转动的第二牵引组件。
3.根据权利要求1所述的基于虚拟现实控制的建筑机器人,其特征在于:捕捉操作者的肘关节角度和肩关节角度是基于H滤波递推的关节运动角度估计方法,包括以下操作:
建立状态方程,Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1
其中,k表示离散化时刻,Ak,k-1为状态转移矩阵,Xk为k时刻系统状态向量,且Xk=[x1 x2]T, 为第k时刻的操作员手臂肘部关节角度,为第k时刻的操作员手臂肩部关节角度,上角标T表示对矩阵转置;Uk-1为k-1时刻系统输入向量,Γ为系统噪声输入矩阵,取Γk-1Wk-1表示k-1时刻的系统噪声向量;
建立观测方程,Zk=Hk·Xk+Vk
其中,k表示离散化时刻,Zk为k时刻观测向量,Hk是k时刻观测阵, Vk表示k时刻观测噪声向量;
用H滤波递推,得到k时刻的肘关节角度和肩关节角度状态估计值:其中,为k时刻系统状态估计向量,是一步状态预测向量,Kk是滤波增益矩阵。
4.根据权利要求3所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的建立状态方程的操作包括:
步骤1.根据旋转角速度和线速度的转换关系,计算肘部关节角度θe、肩部关节角度θs与手臂末端在运动平面内沿运动方向的线速度vh、肘部末端在运动平面内沿运动方向的线速度ve之间的关系,得到连续时间下的系统状态方程表达式如下:
其中,L1表示手肘到手掌的距离,L2表示肩关节到肘关节的距离,vh为各个时刻手臂末端在运动平面内沿运动方向的线速度、ve为各个时刻手臂肘部在运动平面内沿运动方向的线速度,可以利用虚拟现实系统中的手柄和绑定在关节部位的追踪器来获取;t表示连续时间,Δt表示时间间隔;
步骤2.将公式(1)所示的状态方程离散化,获得离散化后的状态方程的矩阵形式表达式如下:
Xk=Ak,k-1·Xk-1+Uk-1k-1Wk-1 (2)
其中,k表示离散化时刻;Ak,k-1为状态转移矩阵,Xk为k时刻系统状态向量,且Xk=[x1 x2]T, 为第k时刻的操作员手臂肘部关节角度,为第k时刻的操作员手臂肩部关节角度,上角标T表示对矩阵转置;Uk-1为k-1时刻系统输入向量,且 表示第k-1时刻手臂末端在运动平面内沿运动方向的线速度、表示第k-1时刻手臂肘部在运动平面内沿运动方向的线速度,L1表示手肘到手掌的距离,L2表示肩关节到肘关节的距离,即上角标T表示对矩阵转置;Г为系统噪声输入矩阵,取Гk-1Wk-1表示k-1时刻系统噪声向量,且其中表示k-1时刻肘关节角系统噪声、表示k-1时刻肩关节系统噪声。
5.根据权利要求3所述基于虚拟现实控制的建筑机器人,其特征在于:所述的建立观测方程的操作包括:
步骤1.通过向量夹角计算公式计算关节角度的变化值,得到k时刻与k-1时刻之间手臂关节运动变化角度,表达式如下:
其中,向量分别是k时刻和k-1时刻肘关节指向手臂末端的向量,向量分别是k时刻和k-1时刻肩关节指向肘关节的向量, (xh,yh,zh)是手臂末端三维坐标,(xe,ye,ze)是肘关节三维坐标,(xs,ys,zs)是肩关节三维坐标;
根据关节角度变化公式(3),得到肩关节和肘关节关节角度的观测值θe_m和θs_m,第k时刻的如下所示:
步骤2.离散化后的观测方程的矩阵形式为:
Zk=Hk·Xk+Vk (5)
其中,k表示离散化时刻;Zk为k时刻观测向量,Hk为k时刻观测阵,Vk表示k时刻观测噪声向量;由于观测向量与状态向量都是指肘关节角度与肩关节角度,所以其中为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肘关节角度观测值,为第k时刻利用关节位置信息基于向量夹角公式直接计算得出的肩关节角度观测值; 是第k时刻肘关节角的观测噪声,是第k时刻肩关节角的观测噪声,上角标T表示对矩阵转置。
6.根据权利要求3所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的控制系统具有传动模式和监督模式,传动模式下,操作者手臂的传感器、处理器和机械臂建立通讯,人手臂的肩关节角度作为机械臂的肩关节铰链角度的控制目标,人手臂的肘关节角度作为机械臂的肘关节铰链角度的控制目标;监督模式为机械臂按路径规划运动。
7.根据权利要求4所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的传动模式和监督模式的切换操作包括:获得机器人作业臂末端和目标物距离Ld,在Ld>Lthr时,采用传动模式;在Ld<Lthr时,采用监督模式,其中Lthr是距离阈值,Lthr=Lb/2,Lb为建筑机器人作业臂长度。
8.根据权利要求5所述的基于虚拟现实控制的建筑机器人,其特征在于:所述的建筑机器人以虚拟现实3D头盔为主体,结合双目相机、单目相机构建信息反馈子系统;其中,双目相机安装在建筑机械作业臂的末端,用来获取作业臂末端的作业图像信息,同时计算作业臂末端距离目标物的距离,并在图像中实时标记出作业臂末端距离目标物的距离;多个单目相机分别安装在能够拍摄到场景图像的建筑机器人基座顶端不同方位,通过对多个单目相机获取图像进行拼接,获得全域场景图像;作业臂末端图像和拼接后的工作场景图像经过处理和渲染后传输给虚拟现实头盔,并在虚拟现实场景中展现。
CN201910720426.7A 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人 Active CN110539315B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910720426.7A CN110539315B (zh) 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910720426.7A CN110539315B (zh) 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人

Publications (2)

Publication Number Publication Date
CN110539315A true CN110539315A (zh) 2019-12-06
CN110539315B CN110539315B (zh) 2022-09-02

Family

ID=68710504

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910720426.7A Active CN110539315B (zh) 2019-08-06 2019-08-06 基于虚拟现实控制的建筑机器人

Country Status (1)

Country Link
CN (1) CN110539315B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021147036A1 (en) * 2020-01-22 2021-07-29 Abb Schweiz Ag System and method for controlling the robot, electronic device and computer readable medium
CN115075313A (zh) * 2022-08-04 2022-09-20 网易(杭州)网络有限公司 控制信号量确定方法、装置、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006331013A (ja) * 2005-05-25 2006-12-07 Yaskawa Electric Corp サーボ制御装置と制御方法
CN101799934A (zh) * 2010-04-02 2010-08-11 北京大学软件与微电子学院无锡产学研合作教育基地 一种基于微机电惯性传感网络的实时人体运动捕捉系统
CN103268616A (zh) * 2013-04-18 2013-08-28 北京工业大学 多特征多传感器的移动机器人运动人体跟踪方法
CN108614423A (zh) * 2018-05-25 2018-10-02 哈尔滨工程大学 一种基于观测器的时滞力觉接口系统的稳定性分析方法
CN109549821A (zh) * 2018-12-30 2019-04-02 南京航空航天大学 基于肌电信号和惯导信号融合的外骨骼机器人助力控制系统及方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006331013A (ja) * 2005-05-25 2006-12-07 Yaskawa Electric Corp サーボ制御装置と制御方法
CN101799934A (zh) * 2010-04-02 2010-08-11 北京大学软件与微电子学院无锡产学研合作教育基地 一种基于微机电惯性传感网络的实时人体运动捕捉系统
CN103268616A (zh) * 2013-04-18 2013-08-28 北京工业大学 多特征多传感器的移动机器人运动人体跟踪方法
CN108614423A (zh) * 2018-05-25 2018-10-02 哈尔滨工程大学 一种基于观测器的时滞力觉接口系统的稳定性分析方法
CN109549821A (zh) * 2018-12-30 2019-04-02 南京航空航天大学 基于肌电信号和惯导信号融合的外骨骼机器人助力控制系统及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
刘永伟: "矿用悬臂式掘进机器人控制系统研制", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021147036A1 (en) * 2020-01-22 2021-07-29 Abb Schweiz Ag System and method for controlling the robot, electronic device and computer readable medium
CN115075313A (zh) * 2022-08-04 2022-09-20 网易(杭州)网络有限公司 控制信号量确定方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN110539315B (zh) 2022-09-02

Similar Documents

Publication Publication Date Title
US9862090B2 (en) Surrogate: a body-dexterous mobile manipulation robot with a tracked base
US5781705A (en) Method and apparatus for controlling the motion of a redundancy manipulator
CN110039547B (zh) 一种柔性机械臂遥操作的人机交互终端及方法
JP5974668B2 (ja) マニピュレーションシステム
JP6807280B2 (ja) 遠隔作業ロボット制御システムおよび遠隔作業ロボットの制御方法
CN106003053A (zh) 一种遥操作随动机器人控制系统及其控制方法
CN113829343B (zh) 基于环境感知的实时多任务多人人机交互系统
Naceri et al. Towards a virtual reality interface for remote robotic teleoperation
CN110539315B (zh) 基于虚拟现实控制的建筑机器人
CN111590567B (zh) 一种基于Omega手柄的空间机械臂遥操作规划方法
CN111438673A (zh) 基于立体视觉和手势控制的高空作业遥操作方法及系统
CN112828916B (zh) 冗余机械臂遥操作组合交互装置及冗余机械臂遥操作系统
CN111515951A (zh) 机器人的遥操作系统及遥操作控制方法
CN115469576A (zh) 一种基于人-机械臂异构运动空间混合映射的遥操作系统
Yu et al. Gesture-based telemanipulation of a humanoid robot for home service tasks
Romay et al. Template-based manipulation in unstructured environments for supervised semi-autonomous humanoid robots
Corsini et al. Nonlinear model predictive control for human-robot handover with application to the aerial case
CN111702787B (zh) 人机协作控制系统及控制方法
CN115157261A (zh) 基于混合现实的柔性机械臂遥操作人机交互装置及方法
JP3657854B2 (ja) 遠隔地観測装置
Ishak et al. Eye in hand robot arm based automated object grasping system
CN113479635A (zh) 一种基于ar技术的工程搬运机器人及控制方法
CN114227645A (zh) 一种高危污染环境下多指空间协同控制的机械手
Walęcki et al. Control system of a service robot's active head exemplified on visual servoing
Bai et al. Kinect-based hand tracking for first-person-perspective robotic arm teleoperation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant