CN109164829B - 一种基于力反馈装置和vr感知的飞行机械臂系统及控制方法 - Google Patents
一种基于力反馈装置和vr感知的飞行机械臂系统及控制方法 Download PDFInfo
- Publication number
- CN109164829B CN109164829B CN201811236665.7A CN201811236665A CN109164829B CN 109164829 B CN109164829 B CN 109164829B CN 201811236665 A CN201811236665 A CN 201811236665A CN 109164829 B CN109164829 B CN 109164829B
- Authority
- CN
- China
- Prior art keywords
- mechanical arm
- force feedback
- ground station
- unmanned aerial
- aerial vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 35
- 230000000007 visual effect Effects 0.000 claims abstract description 38
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical compound C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 claims abstract description 18
- 239000012636 effector Substances 0.000 claims description 39
- 238000013507 mapping Methods 0.000 claims description 29
- 230000033001 locomotion Effects 0.000 claims description 14
- 230000005540 biological transmission Effects 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000008054 signal transmission Effects 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 230000008447 perception Effects 0.000 claims description 2
- 238000009877 rendering Methods 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 7
- 210000000078 claw Anatomy 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000005669 field effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 229910001285 shape-memory alloy Inorganic materials 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C27/00—Rotorcraft; Rotors peculiar thereto
- B64C27/04—Helicopters
- B64C27/08—Helicopters with two or more rotors
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D47/00—Equipment not otherwise provided for
- B64D47/08—Arrangements of cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U10/00—Type of UAV
- B64U10/10—Rotorcrafts
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/08—Control of attitude, i.e. control of roll, pitch, or yaw
- G05D1/0808—Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2101/00—UAVs specially adapted for particular uses or applications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2101/00—UAVs specially adapted for particular uses or applications
- B64U2101/30—UAVs specially adapted for particular uses or applications for imaging, photography or videography
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2201/00—UAVs characterised by their flight controls
- B64U2201/20—Remote controls
Landscapes
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Mechanical Engineering (AREA)
- Manipulator (AREA)
Abstract
本发明公开了一种基于力反馈装置和VR感知的飞行机械臂系统及控制方法,包括无人机部分和地面站部分,无人机部分包括了无人机机体、双目相机、机载电脑、机械臂、控制系统和视觉标签。控制系统包括飞行主控和机械臂主控,机载电脑和控制系统安装在无人机机体上;地面站部分包括VR头显、力反馈装置和地面站主机,机载电脑将从地面站主机接收到的飞行控制指令以及机械臂控制指令发送至控制系统。本发明通过VR感知及显示技术,以第一视角实时观察到无人机前方的立体场景,更为精准地观察、定位目标物体,降低了后续机械臂控制的难度。采用力反馈设备控制机械臂运动,运用飞行机械臂抓取技术,实时、精确的调整机械臂位置。
Description
技术领域
本发明涉及无人机领域,具体涉及一种基于力反馈装置和VR感知的飞行机械臂系统及控制方法。
背景技术
近年来,伴随着机器人技术的迅速发展,无论在军事应用还是民用服务行业领域中,无人机都已经发挥了重要的作用。现有的无人机应用中,无人机运输仍占据着主要的部分,但这无法满足人们日益增长的需求。在无人机上装载机械臂,使机器人能够对环境中的目标进行抓取和移动,两者结合可以大大扩展传统无人机的应用范围,比如可以代替人类完成复杂环境下的高空交互操作任务。
无人机机械臂的控制已成为一大研究热点,但同时也存在着巨大的挑战和难点。其中之一就是实现自动控制,即让无人机自动识别物体并实现自动抓取,但该技术实现难度大,尚不成熟。相比之下,手动控制就显得更加简单和实用,即通过人眼或设立摄像头准确获取无人机以及目标物的状态,然后操作机械臂完成抓取目标的任务。现有的飞行机械臂在目标识别方面,大多采用通过第三方视角直接观察飞行机械臂和目标的位置,观察精度和效率低下。
公开号为CN106444810A的申请公开了借助虚拟现实的无人机机械臂空中作业系统及其控制方法,该发明中采用了将摄像头搭载于三轴自稳云台,并通过测量头部姿态信息解算三轴自稳云台控制指令,虽然可以扩展操作机械臂的可视范围,降低了云台的控制难度,但是同时这增加了载荷的体积和成本。且只是运用单目相机采集图像,复制两个相同的画面,并未真正实现立体视觉。
发明内容
为了解决上述技术问题,本发明的目的之一是提供一种基于VR的飞行机械臂系统、VR感知显示技术和飞行机械臂抓取控制的基于力反馈装置和VR感知的飞行机械臂系统。
为实现上述发明目的,本发明采取的技术方案如下:
一种基于力反馈装置和VR感知的飞行机械臂系统,包括无人机部分和地面站部分,所述无人机部分包括了无人机机体、双目相机、机载电脑、机械臂、控制系统和视觉标签,所述视觉标签用于与所要抓取的物体进行匹配识别,所述机载电脑和所述控制系统安装在所述无人机机体上;所述地面站部分包括VR头显、力反馈装置和地面站主机,所述机载电脑将从所述地面站主机接收到的飞行控制指令以及机械臂控制指令发送至所述控制系统;
所述双目相机固定于所述无人机机体前端的上方位置,用于采集所述无人机机体周边的运动环境图像,并将图像信息传送回所述机载电脑的图传节点;
所述机械臂固定于所述无人机机体的下方且与所述控制系统中的机械臂主控相连,所述力反馈装置将操作杆控制指令通过所述地面站主机发送给所述机载电脑,所述机载电脑将所述操作杆控制指令转换为机械臂控制信息后传送给所述机械臂主控;
所述VR头显为虚拟现实头戴式显示设备,所述VR头显戴在操作者头部用于接收从所述双目相机传回的所述无人机机体前端的第一视角信息,并收集操作者头部的姿态信息。
优选的,所述机载电脑为UNC电脑。
优选的,所述VR头显包含视频显示器和头部姿态测量模块,所述视频显示器实时显示从双目相机传回的无人机前端的第一视角;所述头部姿态测量模块包括加速度计、陀螺仪和磁力计,用于实时测量头部姿态信息,并传回所述机载电脑的数传节点。
优选的,所述机械臂末端搭载末端执行器,所述末端执行器为执行器柔性爪,所述执行器柔性爪用于抓取目标物体。
优选的,所述双目相机通过USB将采集的图像传送到所述机载电脑上,所述机载电脑运用OpenCV压缩图像,经过压缩处理过后的图像从所述机载电脑由5G WIFI传输到所述地面站主机的Windows环境下,所述地面站主机调用OpenCV解压缩图像,并调用Open GL进行渲染,所述地面站主机将解压和渲染后的图像传递至VR头显中,最终在VR头显中显示双目相机采集到的实时视频图像,即无人机机体前端的第一视角空间立体图。在目标识别方面,通过双目相机和VR头显直观的观察到无人机前方的场景,从第一视角观察、定位目标物体,便于后续通过力反馈装置操控机械臂进行抓取任务。
更优选的,双目相机通过USB3.0将采集的图像传送到所述机载电脑上,VR头显中的虚拟现实系统运行在Windows环境下,而无人机的上层控制在ROS环境下运行,通过撰写基于TCP的信号传输协议,将双目相机传递的经过压缩处理过后的图像,从机载电脑由5GWIFI传输到地面站的Windows环境下。
优选的,所述机械臂上设置舵机,所述力反馈装置包括操作杆,所述力反馈装置通过USB将所述操作杆的末端位置信息和末端执行器控制信息发送到所述地面站主机,所述地面站主机通过映射和逆运动求解将所述末端位置信息转化为所述舵机实际转角命令。
优选的,所述执行器控制信息经过地面站主机转换为末端执行器开闭状态命令,所述舵机实际转角命令和末端执行器开闭状态命令基于UDP的信号传输协议编码并通过5GWIFI发送至所述机载电脑,所述机载电脑通过串口将舵机实际转角命令传递至所述机械臂主控用于控制所述舵机进行相应转动,机械臂主控接收相应的舵机转角命令和末端执行器开闭状态指令后产生对应的PWM波控制舵机进行相应的转动。
更优选的,所述力反馈装置通过USB3.0将所述操作杆的末端位置信息和末端执行器控制信息发送到所述地面站主机。
优选的,所述机载电脑通过串口将末端执行器开闭状态命令传递至所述机械臂主控,所述机械臂主控经过I/O口并通过MOSFET驱动控制所述末端执行器。
优选的,所述力反馈装置依次通过获取所述力反馈操作柄和所述机械臂的映射关系、建立所述机械臂末端位置的正逆运动学解算、理论模型与实际模型的映射、机械臂角度三次多项式差值算法来控制所述机械臂关节空间的轨迹规划。
本发明的目的之二是提供一种基于力反馈装置和VR感知的飞行机械臂系统的控制方法,包括如下步骤:
(1).操作者带上VR头显后,无人机机体上的双目相机通过USB将采集的图像传送到机载电脑上,机载电脑运用OpenCV压缩图像,经过压缩处理过后的图像从机载电脑由5GWIFI传输到地面站主机的Windows环境下,地面站主机调用OpenCV解压缩图像,并调用OpenGL进行渲染,地面站主机将解压和渲染后的图像传递至VR头显中,VR头显实时显示以无人机前端为第一视角观察到的周围环境;
(2).地面站主机发出的飞行控制指令通过5G WIFI传递至机载电脑,机载电脑将飞行控制指令传递至控制系统中的飞行主控上,通过飞行主控控制无人机的飞行,操作者同时通过移动VR头显寻找目标物,VR头显中的头部姿态测量模块实时测量头部姿态信息,并传回所述机载电脑的数传节点,机载电脑通过头部姿态信息控制无人机机体与操作者头部同步旋转,时刻保持操作者的视野为无人机机体前端的第一视角,视野中呈现当前视角的立体视觉图;
(3).地面站主机发出的飞行控制指令操作无人机机体至距目标物合适的位置以及姿态,准备开始执行机械臂抓取目标物的任务;
(4).操作者操作力反馈传感器,所述力反馈装置依次通过获取所述力反馈操作柄和所述机械臂的映射关系、建立所述机械臂末端位置的正逆运动学解算、建立舵机理论模型与实际模型的映射、机械臂角度三次多项式差值算法来控制所述机械臂关节空间的轨迹规划,操作者通过反馈传感器控制机械臂调整至合适的位姿,调整末端执行器的姿态,执行抓取。
优选的,步骤(4)中的所述力反馈装置控制所述机械臂关节空间的轨迹规划包括如下步骤:
1)获取力反馈装置和机械臂的映射关系:
获取力反馈装置中操作杆位置和机械臂末端位置的映射关系,测取力反馈装置的末端位置在XYZ三个方向上的取值范围,以及机械臂末端位置在XYZ方向上的取值范围,从而建立了两者的映射关系;
2)建立机械臂末端位置的正逆运动学解算
基于DH参数法建立机械臂的正运动学模型,建立关系变量与末端执行器位置和运动方向之间的函数:
基于代数法以及机械臂抓取的实际操作范围,进行逆运动学求解,获得机体坐标系到机械臂的末端执行器之间的转换关系,从而建立机械臂末端位置和理想舵机转动角度的对应关系;
3)建立舵机理论模型与实际模型映射
机械臂上设置三个关节,三个关节在转动过程中存在着联动,根据带轮的齿数转换联系,建立起合理的理想舵机转动角度和实际舵机转动角度的对应关系;
4)机械臂角度三次多项式差值算法
机械臂关节空间的轨迹规划包括机械臂从起始位姿到终止位姿去取放物体,利用三次多项式差值法计算机械臂起始点和目标点的角度,三次多项式的表达式为:
θ=a0t3+a1t2+θ1
相对于现有技术,本发明取得了有益的技术效果:
本发明借助虚拟现实感知以及力反馈传感器实现对无人机机械臂的控制,在目标识别方面,通过VR感知及显示技术,双目相机作为图像采集装置实现以第一视角实时观察到无人机前方的立体场景,更为精准地观察、定位目标物体,降低了后续机械臂控制的难度。采用力反馈设备控制机械臂运动,运用飞行机械臂抓取技术,实时、精确的调整机械臂位置。
附图说明
图1为本发明一种基于力反馈装置和VR感知的飞行机械臂系统的原理示意图;
图2为本发明一种基于力反馈装置和VR感知的飞行机械臂系统的结构示意图;
图3为本发明一种基于力反馈装置和VR感知的飞行机械臂系统中VR头显感知的流程图;
图4为本发明一种基于力反馈装置和VR感知的飞行机械臂系统中力反馈装置操控机械臂的流程图;
图5为本发明一种基于力反馈装置和VR感知的飞行机械臂系统控制方法中的机械臂三个关节角度变化的示意图;
图6为本发明一种基于力反馈装置和VR感知的飞行机械臂系统控制方法的流程图。
附图标记:
1.无人机机体;2.双目相机;3.机械臂;4.视觉标签;5.目标物体;6.地面站主机;7.VR头显;8.力反馈装置;9.飞行控制键盘。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例对本发明进行进一步详细说明,但本发明要求保护的范围并不局限于下述具体实施例。
系统实施例
如图1和2所示,一种基于力反馈装置8和VR感知的飞行机械臂系统,包括无人机部分和地面站部分,所述无人机部分包括了无人机机体1、双目相机2、机载电脑、机械臂3、控制系统和视觉标签4,所述机载电脑为UNC小电脑。所述视觉标签4用于与所要抓取的物体进行匹配识别,控制系统包括飞行主控和机械臂主控,飞行主控包括MCU、IMU、MAG、BQRO和超声波传感器,飞行主控和机械臂主控分别安装在飞行控制板和机械臂控制板上,所述机载电脑和所述控制系统安装在所述无人机机体1上;所述地面站部分包括VR头显7、力反馈装置8、飞行控制键盘9和地面站主机6,飞行控制键盘9发出飞行控制指令,力反馈装置8发出机械臂控制指令,所述机载电脑将从所述地面站主机6接收到的飞行控制指令以及机械臂控制指令发送至所述控制系统。
所述双目相机2固定于所述无人机机体1前端的上方位置,用于采集所述无人机机体1周边的运动环境图像,并将图像信息传送回所述机载电脑的图传节点。
所述机械臂3固定于所述无人机机体1的下方且与所述控制系统中的机械臂主控相连,所述力反馈装置8将操作杆控制指令通过所述地面站主机6发送给所述机载电脑,所述机载电脑将所述操作杆控制指令转换为机械臂控制信息后传送给所述机械臂主控。
所述VR头显7为虚拟现实头戴式显示设备,所述VR头显7戴在操作者头部用于接收从所述双目相机2传回的所述无人机机体1前端的第一视角信息,第一视角信息为双目相机2正前方的视角信息,并收集操作者头部的姿态信息。所述VR头显7包含视频显示器和头部姿态测量模块,所述视频显示器实时显示从双目相机2传回的无人机前端的第一视角;所述头部姿态测量模块包括加速度计、陀螺仪和磁力计,用于实时测量头部姿态信息,并传回所述机载电脑的数传节点。
如图3所示,所述双目相机2通过USB将采集的图像传送到所述机载电脑上,所述机载电脑运用OpenCV压缩图像,经过压缩处理过后的图像从所述机载电脑由5G WIFI传输到所述地面站主机6的Windows环境下,为提高图像传送效率,所述地面站主机6调用OpenCV解压缩图像,并调用Open GL进行渲染,所述地面站主机6将解压和渲染后的图像经过OculusSDK传递至VR头显7中,最终在VR头显7中显示双目相机2采集到的实时视频图像,即无人机机体1前端的第一视角空间立体图。在目标识别方面,通过双目相机2和VR头显7直观的观察到无人机前方的场景,从第一视角观察、定位目标物体5,便于后续通过力反馈装置8操控机械臂3进行抓取任务。
如图6所示,本发明优选的双目相机2通过USB3.0将采集的图像传送到所述机载电脑上,VR头显7中的虚拟现实系统运行在Windows环境下,而无人机的上层控制在ROS环境下运行,通过撰写基于TCP的信号传输协议,将双目相机2传递的经过压缩处理过后的图像,从机载电脑由5G WIFI传输到地面站的Windows环境下。
如图4所示,所述机械臂3末端搭载末端执行器,所述末端执行器为执行器柔性爪,执行器柔性爪由形状记忆合金制成,且执行器柔性爪数量至少为一个,所述执行器柔性爪用于抓取目标物体5。所述机械臂3上设置舵机,所述力反馈装置8包括操作杆,所述力反馈装置8采集操作杆末端位置信息,所述力反馈装置8通过USB将所述操作杆的末端位置信息和末端执行器控制信息发送到所述地面站主机6,末端执行器控制信息包括末端执行器运动指令,所述地面站主机6接收到信息后,通过映射和逆运动求解将所述末端位置信息转化为所述舵机实际转角命令,并将末端执行器控制信息转为末端执行器开闭状态命令。
所述舵机实际转角命令和末端执行器开闭状态形成机械臂控制指令,所述舵机实际转角命令和末端执行器开闭状态命令基于UDP的信号传输协议编码并通过5G WIFI发送至所述机载电脑,所述舵机实际转角命令和末端执行器开闭状态命令形成机械臂控制指令。所述机载电脑通过USB串口将舵机实际转角命令和末端执行器开闭状态命令传递至所述机械臂主控用于控制所述舵机进行相应转动,机械臂主控接收相应的舵机转角命令后产生对应的PWM波控制舵机进行相应的转动,所述机载电脑通过串口将末端执行器开闭状态命令传递至所述机械臂主控,所述机械臂主控经过I/O口并通过MOSFET驱动控制所述末端执行器,使末端执行器处于不同的末端执行器状态。本发明优选的所述力反馈装置8通过USB3.0将所述操作杆的末端位置信息和末端执行器控制信息发送到所述地面站主机6。
由于机械臂抓取控制技术中包含多种复杂的机械机构,特别依赖于机械臂3与力反馈传感器。因此所述力反馈装置8依次通过获取所述力反馈操作柄和所述机械臂3的映射关系、建立所述机械臂末端位置的正逆运动学解算、理论模型与实际模型的映射、机械臂角度三次多项式差值算法来控制所述机械臂关节空间的轨迹规划。首先需要获取准确对力反馈装置8中的操作柄和机械臂3的映射关系,测取力反馈装置8的末端位置和机械臂末端位置在XYZ三个方向上的取值范围,基于DH参数法建立正运动学模型建立关节变量与末端执行器位置和方向之间的关系,基于代数法的逆运动学求解建立机械臂末端和理想舵机转动角度关系,基于舵机上的带轮的齿轮关系转换完成舵机的理论模型与实际模型的映射,最终基于三次多项式差值算法实现机械臂关节空间轨迹规划即舵机的平滑控制。
控制方法实施例:
如图6所示,一种基于力反馈装置8和VR感知的飞行机械臂系统的控制方法,包括如下步骤:
(1).操作者带上VR头显7后,无人机机体1上的双目相机2通过USB将采集的图像传送到机载电脑的图传节点上,机载电脑运用OpenCV压缩图像,经过压缩处理过后的图像从机载电脑由5G WIFI传输到地面站主机6的Windows环境下,地面站主机6调用OpenCV解压缩图像,并调用Open GL进行渲染,地面站主机6将解压和渲染后的图像经过OculusSDK传递至VR头显7中,VR头显7实时显示以无人机前端为第一视角观察到的周围环境;
(2).地面站主机6发出的飞行控制指令通过5G WIFI传递至机载电脑,机载电脑将飞行控制指令传递至控制系统中的飞行主控上,通过飞行主控控制无人机的飞行,操作者同时通过移动VR头显7寻找目标物,VR头显7中的头部姿态测量模块实时测量头部姿态信息,并传回所述机载电脑的数传节点,机载电脑通过头部姿态信息控制无人机机体1与操作者头部同步旋转,时刻保持操作者的视野为无人机机体1前端的第一视角,视野中呈现当前视角的立体视觉图;
(3).地面站主机6发出的飞行控制指令操作无人机机体1至距目标物合适的位置以及姿态,准备开始执行机械臂3抓取目标物的任务;
(4).操作者操作力反馈传感器,所述力反馈装置8依次通过获取所述力反馈操作柄和所述机械臂3的映射关系、建立所述机械臂末端位置的正逆运动学解算、建立舵机理论模型与实际模型的映射、机械臂角度三次多项式差值算法来控制所述机械臂关节空间的轨迹规划,操作者操作力反馈传感器,并将舵机实际转角命令和末端执行器开闭状态命令基于UDP的信号传输协议编码并通过5G WIFI发送至所述机载电脑的数传节点,机载电脑的主控节点中将机械臂通信节点传递至机械臂控制板,操作者通过反馈传感器控制机械臂调整至合适的位姿,调整末端执行器的姿态,执行位置平衡模式、立即生效模式和抓取任务中的一种。
步骤(4)中的所述力反馈装置8控制所述机械臂关节空间的轨迹规划包括如下步骤:
1)获取力反馈装置8和机械臂3的映射关系:
获取力反馈装置8中操作杆位置和机械臂末端位置的映射关系,测取力反馈装置8的末端位置在XYZ三个方向上的取值范围,以及机械臂末端位置在XYZ方向上的取值范围,从而建立了两者的映射关系;
2)建立机械臂末端位置的正逆运动学解算
如图5所示,基于DH参数法建立机械臂的正运动学模型,建立关系变量与末端执行器位置和运动方向之间的函数:
基于代数法以及机械臂3抓取的实际操作范围,进行逆运动学求解,获得机体坐标系到机械臂3的末端执行器之间的转换关系,从而建立机械臂末端位置和理想舵机转动角度的对应关系;
3)建立舵机理论模型与实际模型映射
由于机械臂三个关节在转动过程中存在着联动,本发明在寻找合适的理论模型映射到实际模型的过程中,机械臂3上设置三个关节,三个关节在转动过程中存在着联动,根据带轮的齿数转换联系,建立起合理的理想舵机转动角度和实际舵机转动角度的对应关系,调高了对舵机的控制效率;
4)机械臂角度三次多项式差值算法
机械臂关节空间的轨迹规划包括机械臂从起始位姿到终止位姿去取放物体,利用三次多项式差值法计算机械臂3起始点和目标点的角度,三次多项式的表达式为:
θ=a0t3+a1t2+θ1
机械臂关节空间的轨迹规划解决机械臂3从起始位姿到终止位姿去取放物体的问题。机械臂末端移动的过程并不重要,只要求运动是平滑的,防止舵机速度与加速度突变,减小对无人机运动的影响。对于无路径的要求,在关节空间进行轨迹规划。本发明利用三次多项式差值法可以保证起始点和目标点角速度连续的要求。对于点位作业实现平滑控制,即舵机角度转动和加速度在运动过程中可以保持轨迹平滑,从而保证舵机可以较为平稳地达到预期的角度。
本发明借助虚拟现实感知以及力反馈传感器实现对无人机机械臂的控制,在目标识别方面,通过VR感知及显示技术,双目相机2作为图像采集装置实现以第一视角实时观察到无人机前方的立体场景,更为精准地观察、定位目标物体5,降低了后续机械臂控制的难度。采用力反馈设备控制机械臂运动,运用飞行机械臂抓取技术,实时、精确的调整机械臂位置。
根据上述说明书的揭示和教导,本发明所属领域的技术人员还可以对上述实施方式进行变更和修改。因此,本发明并不局限于上面揭示和描述的具体实施方式,对发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外,尽管本说明书中使用了一些特定的术语,但这些术语只是为了方便说明,并不对发明构成任何限制。
Claims (9)
1.一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,包括无人机部分和地面站部分,所述无人机部分包括了无人机机体、双目相机、机载电脑、机械臂、控制系统和视觉标签,所述视觉标签用于与所要抓取的物体进行匹配识别,所述机载电脑和所述控制系统安装在所述无人机机体上;所述地面站部分包括VR头显、力反馈装置和地面站主机,所述机载电脑将从所述地面站主机接收到的飞行控制指令以及机械臂控制指令发送至所述控制系统;
所述双目相机固定于所述无人机机体前端的上方位置,用于采集所述无人机机体周边的运动环境图像,并将图像信息传送回所述机载电脑的图传节点;
所述机械臂固定于所述无人机机体的下方且与所述控制系统中的机械臂主控相连,所述力反馈装置将操作杆控制指令通过所述地面站主机发送给所述机载电脑,所述机载电脑将所述操作杆控制指令转换为机械臂控制信息后传送给所述机械臂主控;
所述VR头显戴在操作者头部用于接收从所述双目相机传回的所述无人机机体前端的第一视角信息,并收集操作者头部的姿态信息;
所述力反馈装置依次通过获取力反馈操作柄和所述机械臂的映射关系、建立所述机械臂末端位置的正逆运动学解算、理论模型与实际模型的映射、机械臂角度三次多项式差值算法来控制所述机械臂关节空间的轨迹规划;
三次多项式差值法用于计算机械臂起始点和目标点的角度,三次多项式的表达式为:
θ=a0t3+a1t2+θ1
2.根据权利要求1所述的一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,所述VR头显包含视频显示器和头部姿态测量模块,所述视频显示器实时显示从双目相机传回的无人机前端的第一视角;所述头部姿态测量模块包括加速度计、陀螺仪和磁力计,用于实时测量头部姿态信息,并传回所述机载电脑的数传节点。
3.根据权利要求1所述的一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,所述机械臂末端搭载末端执行器,所述末端执行器为执行器柔性爪。
4.根据权利要求1所述的一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,所述双目相机通过USB将采集的图像传送到所述机载电脑上,所述机载电脑运用OpenCV压缩图像,经过压缩处理过后的图像从所述机载电脑由5G WIFI传输到所述地面站主机的Windows环境下,所述地面站主机调用OpenCV解压缩图像,并调用Open GL进行渲染,所述地面站主机将解压和渲染后的图像传递至VR头显中。
5.根据权利要求3所述的一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,所述机械臂上设置舵机,所述力反馈装置包括操作杆,所述力反馈装置通过USB将所述操作杆的末端位置信息和末端执行器控制信息发送到所述地面站主机,所述地面站主机通过映射和逆运动求解将所述末端位置信息转化为舵机实际转角命令。
6.根据权利要求5所述的一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,所述执行器控制信息经过地面站主机转换为末端执行器开闭状态命令,所述舵机实际转角命令和末端执行器开闭状态命令基于UDP的信号传输协议编码并通过5G WIFI发送至所述机载电脑,所述机载电脑通过串口将舵机实际转角命令传递至所述机械臂主控用于控制所述舵机进行相应转动。
7.根据权利要求5所述的一种基于力反馈装置和VR感知的飞行机械臂系统,其特征在于,所述机载电脑通过串口将末端执行器开闭状态命令传递至所述机械臂主控,所述机械臂主控经过I/O口并通过MOSFET驱动控制所述末端执行器。
8.应用权利要求1-7任一项所述的基于力反馈装置和VR感知的飞行机械臂系统的控制方法,其特征在于,包括如下步骤:
(1).操作者带上VR头显后,无人机机体上的双目相机通过USB将采集的图像传送到机载电脑上,机载电脑运用OpenCV压缩图像,经过压缩处理过后的图像从机载电脑由5G WIFI传输到地面站主机的Windows环境下,地面站主机调用OpenCV解压缩图像,并调用Open GL进行渲染,地面站主机将解压和渲染后的图像传递至VR头显中,VR头显实时显示以无人机前端为第一视角观察到的周围环境;
(2).地面站主机发出的飞行控制指令通过5G WIFI传递至机载电脑,机载电脑将飞行控制指令传递至控制系统中的飞行主控上,通过飞行主控控制无人机的飞行,操作者同时通过移动VR头显寻找目标物,VR头显中的头部姿态测量模块实时测量头部姿态信息,并传回所述机载电脑的数传节点,机载电脑通过头部姿态信息控制无人机机体与操作者头部同步旋转,时刻保持操作者的视野为无人机机体前端的第一视角,视野中呈现当前视角的立体视觉图;
(3).地面站主机发出的飞行控制指令操作无人机机体至距目标物合适的位置以及姿态,准备开始执行机械臂抓取目标物的任务;
(4).操作者操作力反馈传感器,所述力反馈装置依次通过获取所述力反馈操作柄和所述机械臂的映射关系、建立所述机械臂末端位置的正逆运动学解算、建立舵机理论模型与实际模型的映射、机械臂角度三次多项式差值算法来控制所述机械臂关节空间的轨迹规划,操作者通过反馈传感器控制机械臂调整至合适的位姿,调整末端执行器的姿态,执行抓取。
9.根据权利要求8所述的一种基于力反馈装置和VR感知的飞行机械臂系统的控制方法,其特征在于,步骤(4)中的所述力反馈装置控制所述机械臂关节空间的轨迹规划包括如下步骤:
1)获取力反馈装置和机械臂的映射关系:
获取力反馈装置中操作杆位置和机械臂末端位置的映射关系,测取力反馈装置的末端位置在XYZ三个方向上的取值范围,以及机械臂末端位置在XYZ方向上的取值范围,从而建立了两者的映射关系;
2)建立机械臂末端位置的正逆运动学解算
基于DH参数法建立机械臂的正运动学模型,建立关系变量与末端执行器位置和运动方向之间的函数:
基于代数法以及机械臂抓取的实际操作范围,进行逆运动学求解,获得机体坐标系到机械臂的末端执行器之间的转换关系,从而建立机械臂末端位置和理想舵机转动角度的对应关系;
3)建立舵机理论模型与实际模型映射
机械臂上设置三个关节,三个关节在转动过程中存在着联动,根据带轮的齿数转换联系,建立起合理的理想舵机转动角度和实际舵机转动角度的对应关系;
4)机械臂角度三次多项式差值算法
机械臂关节空间的轨迹规划包括机械臂从起始位姿到终止位姿去取放物体,利用三次多项式差值法计算机械臂起始点和目标点的角度,三次多项式的表达式为:
θ=a0t3+a1t2+θ1
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811236665.7A CN109164829B (zh) | 2018-10-23 | 2018-10-23 | 一种基于力反馈装置和vr感知的飞行机械臂系统及控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811236665.7A CN109164829B (zh) | 2018-10-23 | 2018-10-23 | 一种基于力反馈装置和vr感知的飞行机械臂系统及控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109164829A CN109164829A (zh) | 2019-01-08 |
CN109164829B true CN109164829B (zh) | 2021-08-27 |
Family
ID=64879141
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811236665.7A Active CN109164829B (zh) | 2018-10-23 | 2018-10-23 | 一种基于力反馈装置和vr感知的飞行机械臂系统及控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109164829B (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109887041B (zh) * | 2019-03-05 | 2020-11-20 | 中测国检(北京)测绘仪器检测中心 | 一种机械臂控制数字相机摄影中心位置和姿态的方法 |
CN109993763B (zh) * | 2019-03-28 | 2021-10-08 | 北京理工大学 | 基于图像识别与力反馈融合的探测器定位方法及系统 |
CN110620910A (zh) * | 2019-09-24 | 2019-12-27 | 中国船舶重工集团公司第七0七研究所 | 一种基于OpenCV的双摄像头网络传输系统的图像信息传输方法 |
CN110667845B (zh) * | 2019-09-27 | 2022-04-08 | 东南大学 | 一种面向阀门旋拧的双臂作业型飞行机器人系统及方法 |
CN110758728B (zh) * | 2019-11-04 | 2021-09-03 | 西安交通大学 | 一种力反馈多旋翼无人机 |
CN113156813B (zh) * | 2021-02-03 | 2023-01-13 | 北京航空航天大学 | 基于鸽群优化控制的带臂四旋翼无人机系统及控制方法 |
CN113618731A (zh) * | 2021-07-22 | 2021-11-09 | 中广核研究院有限公司 | 机器人控制系统 |
CN113733088B (zh) * | 2021-09-07 | 2024-05-14 | 河南大学 | 一种基于双目视觉的机械臂运动学自标定方法 |
CN114051099B (zh) * | 2022-01-13 | 2022-04-29 | 北京蔚领时代科技有限公司 | 无人机模块vr系统及通过无人机模块实现vr的方法 |
CN114842056A (zh) * | 2022-04-19 | 2022-08-02 | 深圳鳍源科技有限公司 | 多机位第一机器视角追随方法、系统、装置及设备 |
CN115542776B (zh) * | 2022-10-12 | 2024-04-16 | 沈阳飞机工业(集团)有限公司 | 无人机飞管系统仿真模型校准方法 |
CN116026276B (zh) * | 2023-03-28 | 2023-06-13 | 江苏集萃清联智控科技有限公司 | 港用门座起重机外置式转台转角测量方法及装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103197510B (zh) * | 2013-03-18 | 2014-10-22 | 哈尔滨工业大学 | 一种掩模台垂直运动分量的测量装置 |
CN103853047B (zh) * | 2014-02-28 | 2018-01-09 | 北京航空航天大学 | 一种基于状态量反馈的小推力跟踪制导方法 |
US9947230B2 (en) * | 2015-08-03 | 2018-04-17 | Amber Garage, Inc. | Planning a flight path by identifying key frames |
CN105222761A (zh) * | 2015-10-29 | 2016-01-06 | 哈尔滨工业大学 | 借助虚拟现实及双目视觉技术实现的第一人称沉浸式无人机驾驶系统及驾驶方法 |
CN106444810A (zh) * | 2016-10-31 | 2017-02-22 | 浙江大学 | 借助虚拟现实的无人机机械臂空中作业系统及其控制方法 |
CN107193371A (zh) * | 2017-04-28 | 2017-09-22 | 上海交通大学 | 一种基于虚拟现实的实时人机交互系统及方法 |
CN107309872B (zh) * | 2017-05-08 | 2021-06-15 | 南京航空航天大学 | 一种带有机械臂的飞行机器人及其控制方法 |
CN107943283B (zh) * | 2017-11-08 | 2021-02-02 | 浙江工业大学 | 基于手势识别的机械臂位姿控制系统 |
CN108286987A (zh) * | 2017-11-30 | 2018-07-17 | 深圳市科卫泰实业发展有限公司 | 一种无人机飞控模块mems运动传感器的校准方法 |
-
2018
- 2018-10-23 CN CN201811236665.7A patent/CN109164829B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN109164829A (zh) | 2019-01-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109164829B (zh) | 一种基于力反馈装置和vr感知的飞行机械臂系统及控制方法 | |
CN109955254B (zh) | 移动机器人控制系统及机器人末端位姿的遥操作控制方法 | |
CN111055281B (zh) | 一种基于ros的自主移动抓取系统与方法 | |
WO2020221311A1 (zh) | 基于可穿戴设备的移动机器人控制系统及控制方法 | |
CN109397249B (zh) | 基于视觉识别的二维码定位抓取机器人系统的方法 | |
US20210205986A1 (en) | Teleoperating Of Robots With Tasks By Mapping To Human Operator Pose | |
CN108422435B (zh) | 一种基于增强现实的远程监测及控制系统 | |
CN109079799B (zh) | 一种基于仿生的机器人感知控制系统及控制方法 | |
CN111906784A (zh) | 一种基于机器视觉引导的咽拭子双臂采样机器人及采样方法 | |
CN112634318B (zh) | 一种水下维修机器人的遥操作系统和方法 | |
CN106363612A (zh) | 一种视觉引导的全向移动双臂机器人及其全向移动方法 | |
Paul et al. | A multirotor platform employing a three-axis vertical articulated robotic arm for aerial manipulation tasks | |
CN106125747A (zh) | 基于vr交互的无人机机载第一视角随动吊舱系统 | |
GB2598345A (en) | Remote operation of robotic systems | |
CN111590567B (zh) | 一种基于Omega手柄的空间机械臂遥操作规划方法 | |
CN113021357A (zh) | 一种便于移动的主从水下双臂机器人 | |
CN107450556A (zh) | 一种基于ros的自主导航智能轮椅 | |
Shimahara et al. | Aerial manipulation for the workspace above the airframe | |
CN205692054U (zh) | 一种头部运动监测的无线巡线机 | |
CN110744544A (zh) | 服务机器人视觉抓取方法及服务机器人 | |
CN206123654U (zh) | 一种视觉引导的全向移动双臂机器人 | |
Wu et al. | Aerial grasping based on VR perception and haptic control | |
CN111702787A (zh) | 人机协作控制系统及控制方法 | |
CN116160440A (zh) | 基于mr远程控制的双臂智能机器人遥操作系统 | |
CN107363831B (zh) | 基于视觉的遥操作机器人控制系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |