CN115016645A - 假手指协同控制用多自由度采集的数据手套 - Google Patents
假手指协同控制用多自由度采集的数据手套 Download PDFInfo
- Publication number
- CN115016645A CN115016645A CN202210677746.0A CN202210677746A CN115016645A CN 115016645 A CN115016645 A CN 115016645A CN 202210677746 A CN202210677746 A CN 202210677746A CN 115016645 A CN115016645 A CN 115016645A
- Authority
- CN
- China
- Prior art keywords
- finger
- joint angle
- matrix
- axis
- angle information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/014—Hand-worn input/output arrangements, e.g. data gloves
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Manipulator (AREA)
Abstract
假手指协同控制用多自由度采集的数据手套,涉及生物机电一体化技术领域。为了解决现有假手安装同时需要在人头部或者手部套上采集设备,设备笨重的问题。数据处理器,对所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度进行处理得到健康手指运动的关节角度信息,根据健康手指运动的关节角度信息计算出假手指运动的关节角度信息,从而驱动假手指上的电机驱动模块到指定位置;还用于接收法向接触力,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,驱动假手指上的电机驱动模块运动至修正后的关节角度信息,达到与抓取物贴合的状态;力传感器,用于感知假手指与抓取物体的法向接触力。用于控制假手指协同运动。
Description
技术领域
本发明涉及生物机电一体化(Biomechatronics)技术领域,涉及一种假手协同控制用,多自由度高精度的人手运动学信息采集系统。
背景技术
假手或假手指作为一种生机电一体化的机器人类型,主要应用于手或手指残缺的残疾人患者,以帮助这一特定群体通过安装机器人手指重新获得健康人所能具备的手指操作能力。
早期的假手主要出于残疾人的心理角度,更多的考虑到装饰性和美观性,随着生机电一体化技术的发展,假手的设计逐渐过渡到以功能性和装饰性兼顾的阶段,近些年来,假手的功能性研究也成为生机电领域的热点,然而目前商业假手对于人手运动意图的识别以及与人的系统交互存在一定的问题,使得患者对于假手的操作存在困难,同时患者对于假手的控制需要过于集中的注意力,容易产生疲惫感。假手的本质是一种机电设备,其决定了假手的功能性,而功能性的实现需要正确识别人手运动的意图,目前主流的人手运动意图(假手控制依据)的识别分为三个方式,分别为肌电,脑电以及肌力,其中脑电为通过测量人大脑皮层的生物电作为信息来源,肌电和肌力则分别为测量人手臂和手的肌肉上的肌电信号和皮肤表面受力的变化作为信息来源。然而以上三种方式存在一定的局限性,其中脑电信号的采集需要在人头部套上采集设备,一方面影响美观,另一方面传感器易松动导致系统有效性下降,尚不能在现实生活中应用,肌电与肌力信号同样需要在人手或者手臂上布置多个传感器,且对位置和与皮肤接触的压力大小敏感,采集信号在不同人身上往往由很大差异,且设备较为笨重。
手部残疾的患者按照手指残缺程度可以分为全部手指残缺,少数手指残缺和单个根手指残缺,针对少数或者单根手指残缺的情形,肌电及脑电信号过多的传感器存在富余。
发明内容
本发明的目的是为了解决现有假手安装同时需要在人头部或者手部套上采集设备,设备笨重的问题,提出了假手指协同控制用多自由度采集的数据手套。
假手指协同控制用多自由度采集的数据手套,所述手套包括数据手套本体、惯性传感器、数据处理器、力传感器和电机驱动模块;
数据手套本体,用于套在人手上;数据手套本体包括5个手指和手掌;数据手套本体上与人手残缺手指位置安装的假指对应的手指称为假手指,数据手套本体上与人手健康手指对应的手指称为健康手指,在假手指上安装电机驱动模块,电机驱动模块,用于驱动假手指上的关节运动,大拇指从指尖到指跟的两段指节分别称为中指节和近指节,除了大拇指以外的四个手指从指尖到指跟的三段指节分别称为远指节、中指节和近指节,在健康的中指节和近指节背部设置惯性传感器,在健康手指向手掌背面方向的延长线上设置惯性传感器,
惯性传感器,用于测量所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度;
数据处理器,用于对所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度进行处理得到健康手指运动的关节角度信息,根据健康手指运动的关节角度信息计算出假手指运动的关节角度信息,从而驱动假手指上的电机驱动模块到指定位置;还用于接收法向接触力,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,驱动假手指上的电机驱动模块运动至修正后的关节角度信息,达到与抓取物贴合的状态;
在假手指的每个指节上设置有力传感器,用于感知假手指与抓取物体的法向接触力。
本发明的有益效果是:
本发明针对的是一至两根手指残缺的患者,通过一种特殊设计的数据手套采集人手运动学信息以识别人手的运动意图,同时避开了传统方式带来的舒适性,适用性以及稳定性问题。
本申请设计一种高精度多自由度人手运动学信息捕捉的数据手套,在数据手套上的健康手指上设置惯性传感器,在假手指上设置电机驱动模块,通过健康手指关节的运动角度,得到假手指的关节运动角度,从而驱动假手指与健康手指协同运动,一同实现抓取物体。
其中采用分类的方式或者建立回归模型的方式根据健康手指的运动获得残疾手指的运动,为假手指和健康手指的协同运动模型的简历提供数据来源。传感器无需与人手皮肤紧密贴合,亦无需与人手皮肤产生受力关系,便携性与舒适性大大增加的同时,成本相对于脑电传感器和肌电传感器也大大的削减。
本申请提供的对人手部动作的识别方式,形式新颖简洁,工作的稳定性和可靠性高,设备与人体的协作性好,亲和力高,佩戴简单舒适,能实现采集和识别一体化。
对手指关节角度的测量精度达到4°,手势识别准确度达97.5%。
采用的电路系统简单可靠,对信号的处理方法快速准确,通过算法上的卡尔曼滤波、归一化等数据处理后,识别率较高并且稳定。在一次试验中,对数据库中有的40种常用手势进行识别,总体识别率能够达到97%以上,可以满足对人手部动作的实时识别和后续进行假手控制的要求。
本申请分别对每个手指关节自由度独立采集,省去了传统方法如肌电脑电数据的复杂性。
附图说明
图1为惯性传感器在数据手套本体上的位置分布;
图2为型号为MPU6050的6轴运动处理组件的坐标系、型号为QMC5883L的磁力计的坐标系和世界坐标系图,图中,frame0表示型号为MPU6050的6轴运动处理组件的坐标系,frame1表示型号为QMC5883L的磁力计的坐标系,World frame表示世界坐标系,sky表示天向,north表示北向,east表示东向,Rotate表示旋转,Z0表示z坐标轴;
图3为frame0坐标系与世界坐标系转换图,magnetic_field表示磁场向量,gravity_accel表示重力加速度;
图4(a)为单手指关节简化模型与惯性传感器分布图,其中,MCP表示近指节关节,PIP表示中指节关节,Rp为中指节上惯性测量单元姿态矩阵,Rm为近指节上惯性测量单元姿态矩阵,Rb为手掌上惯性测量单元姿态矩阵,plam表示手掌;
图4(b)为图4(a)的局部放大图,图中yaw axis表示横摆轴;
图5为手部抖动下卡尔曼滤波输出与原始输出的曲线图,附图标记3表示卡尔曼滤波后的角度值,附图标记4表示未滤波的角度值;
图6为手部抖动下互补滤波输出与原始输出图,附图标记5为互补滤波后的角度值,附图标记6表示未滤波的角度值;
图7为基于惯性传感器与磁力计的数据手套原理示意图;
图8为惯性传感器的电气原理图;
图9为单片机最小系统电气原理图;
图10为拨码选择下载电路原理图;
图11为外部CAN收发器电路原理图;
图12为降压电路原理图;
图13为单片机内部处理时序图;
图14为单片机内部处理流程图;
图15为中指关节测量角度与实际角度对比图,附图标记1表示中指关节实际角度,附图标记2表示中指关节测量角度;
图16为中指关节5次穿戴同一位置角度测量值曲线图;
图17为关节角度关系图,T,I,M,R,L前缀分别表示大拇指到小拇指,然后下划线后面的后缀,mcp,abd,pip分别表示手掌与近指节之间的关节、远指节与中指节之间的关节、中指节与近指节之间的关节,ip表示大拇指的第3个关节;
图18为主成分累计占比图;
图19为基于独立模型的假手指协同控制原理示意图;
图20为力传感器感知法向接触力示意图,图中英文表示抓取物体,三个参数表示三个法向接触力;
图21为抓取策略控制框图;
图22为“大苹果”抓取实验曲线图,附图标记10表示“苹果”抓取时预测的MCP的曲线,附图标记7表示“苹果”抓取时预测的PIP的曲线,附图标记8表示“苹果”抓取时实际的中指MCP曲线,附图标记9表示“苹果”抓取时实际的PIP曲线,附图标记11表示模型库中“苹果”模型的MCP曲线,附图标记12表示模型库中“苹果”模型的PIP曲线;
图23为“小苹果”抓取实验曲线图。
具体实施方式
具体实施方式一:结合图1说明本实施方式,本实施方式所述的假手指协同控制用多自由度采集的数据手套,所述手套包括数据手套本体、惯性传感器、数据处理器、力传感器和电机驱动模块;
数据手套本体,用于套在人手上;数据手套本体包括5个手指和手掌;数据手套本体上与人手残缺手指位置安装的假指对应的手指称为假手指,数据手套本体上与人手健康手指对应的手指称为健康手指,在假手指上安装电机驱动模块,电机驱动模块,用于驱动假手指上的关节运动,大拇指从指尖到指跟的两段指节分别称为中指节和近指节,除了大拇指以外的四个手指从指尖到指跟的三段指节分别称为远指节、中指节和近指节,在健康的中指节和近指节背部设置惯性传感器,在健康手指向手掌背面方向的延长线上设置惯性传感器,
惯性传感器,用于测量所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度;
数据处理器,用于对所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度进行处理得到健康手指运动的关节角度信息,根据健康手指运动的关节角度信息计算出假手指运动的关节角度信息,从而驱动假手指上的电机驱动模块到指定位置;还用于接收法向接触力,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,驱动假手指上的电机驱动模块运动至修正后的关节角度信息,达到与抓取物贴合的状态;
在假手指的每个指节上设置有力传感器,用于感知假手指与抓取物体的法向接触力。
本实施方式中,数据手套本体上的假手指实际上是套在假指上的假手指指套,健康手指实际上指的是套在健康手指上的健康手指指套。
对于每根手指,其中指节中位,近指节中位,以及在手背的手指的延长线处各安置有一颗传感器,每个传感器在手部完全伸展时位于同一平面的一条实现上。
本申请只是在四个手指的中指节、近指节和延长线的手掌上设置惯性传感器,而远指节上未设置惯性传感器,而对于健康的大拇指,在大拇指的2段指节上和手掌背部设置惯性传感器。
如图7和图1所示,图7中MCUFinger1到5表示5个单片机;每个惯性传感器包含一个型号为MPU6050的6轴运动处理组件和一个型号为QMC5883L的磁力计,并通过I2C总线连接至单片机,整个数据手套的电气拓扑图如图7所示。每根手指对应一个stm32f103c8t6主控芯片(单片机),每个单片机通过两路I2C总线采集一个手指上的三个惯性传感器的加速度、角速度和磁场强度原始数据,其中一路IIC总线连接一个惯性传感器,另外一个连接两路惯性传感器。每个单片机得到3个关节角度后,将最终的关节角度以报文的形式广播到CAN总线,便于上层软件分析处理使用,CAN总线上总共有5路从设备(随后加入假手指驱动控制板卡模块),分别对应五根手指的单片机,以及一路主设备,负责上层控制,上层主机通过USB转CAN设备以电气接入CAN总线网络,CAN总线传输波特率被设计成500Kbps,通过在大拇指设备和USB转CAN设备的两侧并联120Ω的阻抗匹配电阻以稳定CAN总线中的差模信号。
单个惯性传感器电气原理图如图8所示,MPU6050通过外部I2C总线与MCU(单片机)通讯,内部I2C通过XDA和XCL与QMC5883L连接,配置可选接入到外部I2C总线或者单独与MPU6050通讯,内部I2C总线被并入到外部总线中。芯片的电源直接由外部供应,D1为电源指示器,用于指示系统正常工作。其中R3和R4上拉下拉电阻用于从硬件上编程MPU6050的I2C通讯地址,这也意味着一条I2C总线上一般最多只能挂载两个MPU6050,图9中J1为电气连接器。
为了减少单个MCU处理多根手指数据的算力负担,数据采集及处理模块由5个型号为stm32f103c8t6的MCU组成有两路I2C接口,一路CAN接口,以及SWD下载接口。对于每个MCU,其通过I2C以100Hz的数据采样频率采集并处理相应手指的传感器数据,并将处理后得到的关节运动学信息广播到CAN总线上,每个MCU最小系统电气原理图如图9所示,其中D9和D10指示灯分别表示系统供电硬件正常和程序正常运行,以及CAN消息发送的指示信号,MCU与外部设备通讯接口有两路I2C,一路SWD程序下载接口。
为了使用一个接口同时给5个MCU下载程序,使用拨码开关物理上切换要下载的设备,如图10,同时AMS1117电源降压及CAN内部TTL使用NXP的TJA1040系芯片转差模信号的原理图如图11和图12。
每个MCU负责采集传感器原始数据,并定时处理,内部执行姿态解算,卡尔曼滤波等算法和关节角度求逆解等,最终定时循环将关节运动学信息广播至CAN总线。对于单个MCU,其在上电启动后,首先初始化I2C及CAN等外设,随后进入定时中断执行姿态解算任务。整个系统任务的调度时序图如图13所示。
整个软件框架为一个频率为1KHz的定时中断,对于单个MCU,其以100Hz的采样频率从I2C获得传感器加速度,角速度和磁场强度数据,同时在10ms的采样周期内间隔采样MPU6050数据和QMC5883L数据。由于5个MCU设备均挂载在CAN总线上,为避免在同一时刻多个MCU设备同时广播CAN消息,导致CAN总线冲突和消息发送的时间上的不均匀性,对于每个MCU其广播CAN消息的时间均与其它MCU广播时间至少间隔10ms,故完成传输整个手部关节角度信息至少需要50ms,即每个MCU广播CAN消息的频率为20Hz,其中各个MCU设备时间上的同步由一个主设备来协同,该时间同步发生在系统上电初始化阶段。除此之外,原始数据转化为姿态矩阵,四元数转化以及卡尔曼滤波等数据处理过程与CAN广播频率和时间一致。
传感器原始数据到最终的关节运动学信息输出流程如图14所示,最终的关节角度输出有两种路线,一是直接通过原始加速度磁场强度数据建立的姿态矩阵求逆解得到结果,二是由角速度积分的形式通过卡尔曼滤波器得到预测矫正后的四元数形式的姿态表示,再转化为姿态矩阵表示求逆解后得到关节角度。两者的切换取决于传感器的运动形式,通过设定一个阈值来判断当前是否处于平衡状态,若处于平衡状态,此时若使用角速度积分的方案会随着时间的积累会导致累计误差,这一误差随着时间的延长也将越来越大,故直接使用姿态矩阵更加准确,故使用前者,否则使用后者,该阈值被设计成由当前加速度的幅值与平衡状态下加速度的幅值的差值决定。此外,由于四元数表示的是姿态矩阵,在卡尔曼滤波器矫正部分中,对四元数直接相加,以及卡尔曼滤波预测方程中角速度的误差,均会导致最终的四元数不再是准确的姿态表示,然而,对于无限小时间间隔的四元数表示,其姿态旋转接近,算术平均值等于姿态的平均值,只需要每一轮滤波循环后,对四元数进行归一化处理即可。
本申请还可以设置上位机,对数据手套的运动进行可视化。
数据采集软件模块集成在上位机软件中,该模块在特定的用户交互后弹出采集的UI界面,该界面具有多种不同类型抓取物的图形显示,对于每种抓取均可选中相应物体,然后点击保存到本地数据库中即可。在建立协同控制模型前,通过该界面采集手抓取不同物体时的关节角度信息,并将典型手势的5次采集数据的平均值存入到本地MySQL数据库中作为控制模型的样本集。
其中,上位机获得的下位机队列平均后的包含关节角度的每一条CAN报文包含对应手指3个关节的角度信息和平衡状态及是否传感器矩阵是否处于奇点标志位;
每个关节角度可由高8位左移8位然后与低8位按位或,然后按16位有符号数类型得到有符号数,整个数能代表±π角度范围,转化后即得到实际关节角度。
对于手部角度3维模型可视化模块,通过在上位机内部建立ROS通讯节点,该节点发送jointState类型的消息到RVIZ中,其后RVIZ通过关节角度实时改变先前设计的手部3D模型URDF的关节角度,从而达到可视化的目的,同时,另外集成了Gazebo物理仿真环境,便于后期的假手指驱动仿真。URDF手部物理模型依据数据手套的自由度建立,其中基关节包含弯曲和扩展自由度,近指节和远指节只有弯曲方向自由度。
本实施方式中,试验验证:以中指PIP关节测量为例,通过实验测定了关节从0°到90°之间共10个均匀分布的点的数据手套测得的关节角度,并与使用实际角度测量仪测得的角度做对比,通过均方根误差评估测量的准确度。得到的关节角度对比图如图15所示;
测量的均方根误差RMSE为4.137°,此外静止状态下测得的关节角度波动范围为±0.5°。该数据手套的所有传感器指标如表1所示:
由于惯性传感器置于手指指节背面,未与关节处贴合,且传感器测量的是指节姿态,理论上多次穿戴并不影响测量的精度。未实际验证多次穿戴的重复度,实验了5次手指完全伸展状态下的MCP关节角度,关节角度变化如图16。
最终的实验表明,数据手套具有平均4.137±0.5°的测量精度,静态下测量数据的波动低至±0.5°,多次穿戴无影响,分辨率高达0.5°,具有较为优良的性能。
具体实施方式二:本实施方式是对具体实施方式一所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,对所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度进行处理得到健康手指运动的关节角度信息,具体过程为:
当接收到除了三轴重力加速度以外的加速度时,采用卡尔曼滤波器处理三轴角速度,得到对应惯性传感器的姿态矩阵,当未接收除了三轴重力加速度以外的加速度时,利用三轴重力加速度和三轴磁场强度得到对应惯性传感器的姿态矩阵,将每个惯性传感器的姿态矩阵转换成四元数形式,采用D-H法对四元数形式求逆解得到每个健康手指上两个相邻指节的弯曲角度和横摆角。
具体实施方式三:本实施方式是对具体实施方式二所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,利用三轴重力加速度和三轴磁场强度得到对应惯性传感器的姿态矩阵,具体过程为:
每个惯性传感器均包括6轴运动处理组件和磁力计;6轴运动处理组件,用于测量三轴角速度和三轴重力加速度;磁力计,用于测量三轴磁场强度;
将1个惯性传感器中的三轴磁场强度和三轴重力加速度共同表示在6轴运动处理组件坐标系中,获得1个6轴运动处理组件坐标系相对于世界坐标系的姿态矩阵R0:
式中,east为姿态坐标系的东向轴,所述姿态坐标系为6轴运动处理组件坐标系、世界坐标系和三轴磁场强度分量为一体的坐标系,east_x为姿态坐标系的东向轴在x轴上的分量,east_y为姿态坐标系的东向轴在y轴上的分量,east_z为姿态坐标系的东向轴在z轴上的分量,gravity_accel为重力加速度,gravity_accel_x为重力加速度在x轴上的分量,gravity_accel_y为重力加速度在y轴上的分量,gravity_accel_z为重力加速度在z轴上的分量,mag_t为三轴磁场强度分量中的磁场切向分量,mag_t_x为磁场切向分量在x轴上的分量,mag_t_y为磁场切向分量在y轴上的分量,mag_t_z为磁场切向分量在z轴上的分量,m0、n0和o0分别表示mag_t_x、mag_t_y和mag_t_z,magnetic_field=[p0 q0 r0]T,[p1 q1 r1]T为磁场强度分量,mag_r为磁场径向分量,[a0 b0 c0]T为三轴重力加速度分量在6轴运动处理组件的坐标系中的三个分量,rij表示姿态矩阵中i行j列的元素。
本实施方式中,
惯性采集方案传感器在人手上的布置与弯曲式传感器和光纤型传感器有很大的不同,惯性传感器是物理上不可变形的,且其直接测量芯片所在PCB在笛卡尔空间的姿态矩阵,所以一般将一个惯性传感器放置于一个对应的手指节的手背上,由于惯性传感器测得的姿态矩阵与空间位置无关,所以人手运动时导致的数据手套相对于手指指节的位置滑动对测量准确度无影响,这也是惯性测量方案精度较高的一个主要因素。如图1为惯性传感器在数据手套上的分布示意图,由于数据手套对每根手指的测量是模块化的,故只针对图1中的无名指关节运动学量的测量来说明采集方案。
在图1中,无名指近指节和中指节以及靠近指节的掌背上各安置有一颗惯性传感器。对于每个惯性传感器,其PCB上的MPU6050和QMC5883L分布位置如图2,以MPU6050和QMC5883L的PCB板分别为Y0轴和X1轴,易得在frame1坐标系中一向量magnetic_field的坐标在frame0的表示可由式表示:
由于测得的地球磁场在frame1坐标系中表示,为了得到最终的惯性传感器姿态矩阵,需要将磁场向量magnetic_field通过式变换到frame0坐标系。其中磁场向量magnetic_field表示为[p1 q1 r1]T,向量中三个元素分别表示地球磁场在frame1各个坐标轴上的分量。设重力加速度的反向向量gravity_accel在坐标系frame0中表示为[a0 b0 c0]T。
将磁场向量和反重力向量共同表示在坐标系frame0后,可通过以上两者求得frame坐标系相对于东-北-天世界坐标系的变换矩阵。其中反重力向量垂直地球表面向上,表示天向,在北半球,磁场向量的切向分量指向正北,表示北向,径向(地核向)分量垂直地球表面向下。通过反重力向量和磁场切向分量便可以得到天向和北向,东向通过右手定则获得。frame0坐标系和世界坐标系关系如图3所示。
为了得到磁场向量的切向分量,需要将磁场分量矢量减去磁场径向分量,由于该径向分量与重力方向重合,故只需减去磁场分量在重力方向上的投影分量即可,最终可得磁场径向分量mag_r的表达式;根据反重力向量和磁场切向向量在frame0坐标系的投影关系即坐标,可以得到frame0坐标系相对于世界坐标系world的变换矩阵,如公式1。
具体实施方式四:本实施方式是对具体实施方式二所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,采用卡尔曼滤波器处理三轴角速度,得到对应惯性传感器的姿态矩阵,具体过程为:
采用卡尔曼滤波器处理三轴角速度,卡尔曼滤波器为:
式中,A预测方程矩阵,Q为过程噪声协方差矩阵,Kk为卡尔曼增益系数,H为观测方程矩阵系数,R为观测噪声协方差矩阵,为k时刻的惯性传感器姿态矩阵的四元数的后验结果,zk为观测值,zk=H*qk+vk,vk为测量噪声,Pk为k时刻的误差协方差矩阵,Pk-1为k-1时刻的误差协方差矩阵,为先验估计, 为k-1时刻的四元数姿态表示,ωx,ωy,ωz分别表示实时的绕xyz三轴的转动角速度,Δt为每一次卡尔曼循环的时间间隔。
本实施方式中,数据手套使用实施场景中存在磁源或者导磁类物体时,由于地球磁场被干扰,将导致磁力计无法得到真正的地球磁场矢量。对于该类工况,单纯利用加速度计无法解决奇点问题(如手指侧面与重力加速度垂直的情况),需要利用角速度积分获得传感器与地磁场方向的角度,当磁源撤去,利用磁力计的值对姿态矩阵进行校准。
至此,所有关节角度都可得出,然而,仅仅通过重力加速度和磁场得出的关节角度在手部非平衡状态下存在较大的误差,这是因为非平衡状态下传感器测得的加速度是重力加速度和手部本身加速度的合成,因此,需要在非平衡状态下重新设计一种关节角度计算方法,通过对传感器3轴角速度积分来矫正非平衡状态下的惯性传感器四元数形式的姿态表示,并对比了互补滤波和卡尔曼滤波算法效果。
对于每个惯性传感器姿态的四元数表示进行卡尔曼滤波,对于惯性传感器,其在平衡状态下由公式1推得的姿态矩阵是准确的,然而在非平衡状态下,由于人手手部其它加速度的叠加,测得的总加速度幅度和方向不再是纯重力加速度矢量,故该方法不再适用,即该状态下测量方差大。与此同时,由于角速度的测量对传感器运动状态变化不感知,故此时可以通过角速度积分来累加四元数形式的姿态表示。设定角速度测量方差矩阵恒为一定值,重力加速度测量方差与传感器测得的加速度幅值的变化成正比,于是在平衡状态下卡尔曼滤波器更偏重由加速度导出的姿态矩阵,反之,在非平衡状态下,由于前者方差变大,滤波器则更偏重角速度积分得到的姿态表示。设四元数形式为qk,使用三轴角速度来预测下一时间单元的四元数,得到四元数先验估计值
使用卡尔曼滤波的效果图如图5所示,可以看到,在手部小幅度剧烈抖动下未滤波的关节角度输出也随之剧烈跳动,经过卡尔曼滤波后则趋于平稳真实值。
另一种滤波方式是使用互补滤波,是卡尔曼滤波的简化形式,其最终的输出如式(1-17),式中,w为随加速度幅值变化的权重系数,qacc和qgryo分别表示由加速度磁场测得的四元数姿态表示和由陀螺仪积分得到的姿态表示。其中qgryo可由(2-4)得到。
权重系数w的变化规则与卡尔曼滤波中重力加速度测量方差变化一致,最终得到的效果图如图6所示。
具体实施方式五:本实施方式是对具体实施方式三所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,将每个惯性传感器的姿态矩阵转换成四元数形式,
式中,quaternion0为惯性传感器姿态矩阵的四元数,Q1、Q2、Q3和Q4为惯性传感器姿态矩阵的四元数的四个元素,rij表示姿态矩阵R0中i行j列的元素;
采用D-H法对四元数形式求逆解得到每个健康手指上两个相邻指节的弯曲角度和横摆角,具体为:
获得近指节上惯性传感器的姿态矩阵Rm,即R0=Rm,Rm与中指节上惯性传感器的姿态矩阵Rp之间的转换关系式为:
联立公式1和公式6,得到近指节和中指节之间的转动角度θ3:
θ3=A tan2(Rm33Rp32-Rm32Rp33,Rm32Rp32+Rm33Rp33),公式7
式中,A tan2为反正切函数,Rm33为Rm矩阵的2行3列元素,Rm32为Rm矩阵的3行2列元素,Rp33为Rp矩阵的3行3列元素,Rp32为Rp矩阵的3行2列元素;
近指节上惯性传感器的姿态矩阵Rm和手掌上惯性传感器的姿态矩阵Rb之间的转换关系式为:
得到近指节和手掌之间的弯曲角度θ1:
式中,Rb12为Rb矩阵的1行2列元素,Rm13为Rm矩阵的1行3列元素,Rb22为Rb矩阵的2行2列元素,Rm23为Rm矩阵的2行3列元素,Rb32为Rb矩阵的3行2列元素,Rm33为Rm矩阵的3行3列元素,Rb13为Rb矩阵的1行3列元素,Rb23为Rb矩阵的2行3列元素,Rb33为Rb矩阵的3行3列元素,
得到横摆角度θ2:
式中,Rb11为Rb矩阵的1行1列元素,Rm12为Rm矩阵的1行2列元素,Rb21为Rb矩阵的2行1列元素,Rm22为Rm矩阵的2行2列元素,Rb31为Rb矩阵的3行1列元素,Rm32为Rm矩阵的3行2列元素,Rm11为Rm矩阵的1行1列元素,Rm21为Rm矩阵的2行1列元素,Rm31为Rm矩阵的3行1列元素。
为便于单片机内部对姿态矩阵进行计算操作,将姿态矩阵以四元数形式表示,如公式5。
得到每个惯性传感器在笛卡尔空间的姿态矩阵后,便可通过D-H法求逆解得到手指近指节MCP,中指节关节PIP的角度,示意图如图4。图中θ1,θ2和θ3分别表示MCP的弯曲角,横摆角以及PIP的弯曲角。
由于近指节和中指节之间的转动自由度只有PIP,故中指节上惯性传感器姿态矩阵Rp和近指节上惯性传感器姿态矩阵Rm之间的转换关系如公式6,该式由近指节上姿态矩阵绕自身x轴转动θ3角度得到。同理,近指节上惯性传感器姿态矩阵Rm和人手背部上惯性传感器姿态矩阵Rb之间的转换关系如公式7。
本实施方式中,为避免解析解中涉及除法导致的不稳定性,将公式8转化为建立方程两侧矩阵中第1行1列,2列及第2行,三行3列间共四个元素的方程组,利用双余弦反正切得到最终的解,并解方程组可得基关节弯曲角度θ1和横摆角度θ2。同理可求得其它手指关节角度,这里远指节不纳入采样范围。
具体实施方式六:本实施方式是对具体实施方式一所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,根据健康手指运动的关节角度信息得到假手指运动的关节角度信息,具体为:
根据健康手指运动的关节角度信息从预设的多种抓取物类型中识别抓取物,根据抓取物抓取的手势选择对应的抓取物手势模型,根据对应的抓取物手势模型中的假手指运动的关节角度信息驱动假手指上的电机驱动模块到指定位置;
多种抓取物类型的建立过程为:
设定抓取物为Q种,对每种物体抓取f次,存储f次抓取时的关节角度信息,对每一个物体抓取f次的关节角度信息取平均值作为抓取该物体的最终代表手势,获得Q种抓取物的最终代表手势数据集,对Q种抓取物的最终代表手势数据集进行处理,得到新数据集,采用分类器识别新数据集,从而对抓取物进行分类,Q和f均为正整数。
本实施方式中,本申请实现了一种基于离散的抓取模型的手势协同方法,通过数据手套采样人手抓取日常生活中常见物体的手势,并将其作为数据集,建立模式识别与分类模型,以在人手抓取中识别抓取的常见物体,从而调用相应的假手指抓取模型库作为假手指运动控制的依据,实现假手指与人手协同的功能。本申请采用抓取手势识别系统根据健康手指运动的的关节角度信息从预设的多种抓取物类型中识别抓取物。
本申请设计了基于分类的假手指协同控制:
当Q=40,f=5时,本申请基于这10类人手常用抓取手势,并将其细分为40种生活中常见的物体抓取手势,相应的抓取手势数据作为模型的训练集。其中每种物体的抓取只取一种固定的抓取姿势,该最佳抓取手势的选定由使用者的抓取习惯确定。
一次采样数据为一个15维的特征向量,形式如公式11所示,其中θT-MCP表示大拇指MCP关节角度,其它依次类推。实验最终得到200个数据样本,为保证抓取手势的普适性,对每一个物体的抓取采样5次手势数据并取平均值作为抓取该物体的最终代表手势,如公式12。
通过把每种手势的15个关节角度中的每两个关节角度绘制在二维坐标系中,得到如图17的关节角度关系图像,其中,每个小网格中有40个点,每个点分别代表一种手势的两个关节角度坐标。可以看到,网格的斜边外围,手指的MCP关节和PIP关节之间存在较为明显的正相关关系,其它诸如小拇指的MCP和其ABD关节存在一定的负相关关系,这也意味着采集的特征向量之间存在多重共线性,训练集的共线性使得对回归模型参数有着显著的影响。
为消除原始数据的共线性,同时减小高维度数据带来的计算复杂度,使用PCA对原始数据做降维处理,并取前几个主成分作为新的特征向量。
将40个特征向量组合成一个40行15列的原始数据矩阵X,该矩阵中每行代表一个物体的抓取手势数据,如公式13所示。
公式14的协方差矩阵的特征向量为新的正交空间的基底,亦称为主成分,相应的特征值为原始数据在基底上的投影。为便于计算机计算,使用NIPALS迭代算法计算得到15个特征值以及对应的特征向量,对特征值和特征向量按照特征值大小进行排序,绘制出前k大个主成分所能代表的所有样本多样性比例如图18所示,图中6个子图分别代表不包含某根手指的关节角度的数据,其累加的主成分占所有数据多样性表达的累加占比,如式4-7所示。
可以看到,对于每一种情况,最多5-6个主成分便可表达90%的数据多样性,这也从侧面印证了所述特征向量间存在多重共线性。
基于以上分析,选取7个主成分作为新空间的基底,将40个特征向量投影到新空间的各个正交基底,可以得到降维后的特征向量,如式(4-8)所示:
T=(X-huT)[v1v2 … v7] 4-8
使用新的特征向量矩阵作为模式识别分类方法的数据集。
本申请使用的分类器:
分别对支持向量机(SVM),K近邻(KNN),线性判别分析(LDA),决策树(DT),随机森林(RF)等分类器进行训练,训练集选择了所述200个样本中的120样本,测试集选用了剩下的80个样本,其中训练集和测试集中各个物体抓取数据比例相同,数据集自变量X即为手势关节角度特征样本,因变量Y为对应的抓取物体编号,分别为1,2,…40。最后实验了以上分类器识别抓取物体手势的速度和准确度。
对于SVM,为将低维数据特征的线性不可分问题转化为高维的线性可分,需要一个高维映射函数同时为降低计算分类间隔中高维向量的点积运算的复杂度,需要设计一个核函数使得低维数据向量的输入可以直接得到原先高维向量计算的点积结果,如式(4-9)所示:
分别对表2中的核函数进行了测试。
表2SVM分类器选用的核函数
同样,对K近邻(KNN),线性判别分析(LDA),决策树(DT),随机森林(RF)等分类器进行训练测试,得到的识别准确率如表3所示。可以看到,使用支持向量机和线性判别分析具有最高高达0.975的准确率,这也意味着在所有的80个测试样本中只有2个样本识别出错,故对于使用者具有实际的反馈保证,此外,其中预测出错的物体均具有与原物体相似的抓取手势,识别出错带来的损失进一步减小。
表3不同分类器的抓取手势识别准确率
以上识别均为在所有手指健全的情况下抓取物识别的准确率。
具体实施方式七:本实施方式是对具体实施方式六所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,新数据集,获得过程为:
对每种物体抓取f次,存储f次抓取时的关节角度信息,每次抓取时的关节角度信息为一个15维的特征向量xj:
xj=[θT-MCP θT-PIP θT-DIP θI-MCP θI-PIP θI-DIP θM-MCP θM-PIP θM-DIP θR-MCP θR-PIP θR-DIPθL-MCP θL-PIP θL-DIP]T
公式11
式中,θT-MCP为大拇指手背处的关节角度,θT-PIP为大拇指近指节的关节角度,θT-DIP为大拇指中指节的关节角度,θI-MCP为食指手背处的关节角度,θI-PIP为食指中指节的关节角度,θI-DIP为食指远指节的关节角度,θM-MCP为中指手背处的关节角度,θM-PIP为中指中指节的关节角度,θM-DIP为中指远指节的关节角度,θR-MCP为无名指手背处的关节角度,θR-PIP为无名指中指节的关节角度,θR-DIP为无名指远指节的关节角度,θL-MCP为小拇指手背处的关节角度,θL-PIP为小拇指中指节的关节角度,θL-DIP为小拇指远指节的关节角度;对每一个物体抓取f次的关节角度信息取平均值作为抓取该物体的最终代表手势xi:
式中,xij表示第i类物体的第j次抓取数据向量;
由Q个抓取物组成一个Q行f列的抓取物的最终代表手势数据集的矩阵为:
根据X,计算协方差矩阵C:
协方差矩阵C的特征值对角阵和特征向量矩阵关系式为:
式中,v1为第一个特征向量,v2为第二个特征向量,v15为第十五个特征向量,λ1为第一个特征向量对应的特征值,λ2第二个特征向量对应的特征值,λ15第十五个特征向量对应的特征值;
从公式15中选取k个协方差矩阵的特征向量作为新空间的基底,将Q个特征向量投影到新空间的各个基底,得到降维后的特征向量T:
T=(X-huT)[v1v2 … v7],公式16
将降维后的特征向量作为新数据集。
本实施方式中,本实施方式是基于分类实现的假手指协同控制:
由该40类日常生活中常见的抓取物体的抓取手势特征,建立了一种基于已知模型的假手指协同控制系统,该系统协同原理如图19所示。该系统通过数据手套采集残疾人人手健全的4根手指信息,经由抓取手势识别系统分类为40种抓取物类型的一种,再根据模型库该类模型对应的另外一根残疾人残缺的手指的关节特征,发送控制指令以驱动假手指按照该类型抓取物的手指运动轨迹运动到指定位置。值得注意的是,训练模型所用的数据只能代表该类模型的形状属性和大致大小属性,对于属于同一类物体的不同抓取物个体,其形状会有小幅度的变化,如“大苹果”和“小苹果”,如果直接套用模型中的关节角度去控制假手指将可能会导致另外两种使用者不期望的结果,即,假手指过于贴合抓取物导致物体或者假手指一方发生机械性损伤,或者是假手指未贴合抓取物使得假手指功能性退化。通过力位混合控制来避免以上情况。
通过假手指内侧的力传感器感知手指与抓取物体的法向接触力大小,如图20所示。
对于假手指与抓取物贴合过紧的情形,为避免机械损伤,控制器使用基于位置内环的阻抗控制器通过检测接触力对目标位置进行修正。对于假手指与抓取物未贴合或者贴合过紧的情形,规划控制器通过其它健康手指的关节角度与识别的模型的关节角度进行对比得到,该实际抓取物相对于模型库中该类物体的缩放比例,如式4-10所示:
其中,θi为健康手指抓取时由数据手套采集而得的关节角度信息,mθi为模型中对应的关节角度信息,n的选择取决于抓取物的主要抓取特征维度,如对于“餐盘”类扁平物体的抓取,无论该类物体厚度多少,DIP和PIP均接近0,决定抓取的是手指的MCP关节,故此刻n应该为4即对于四根手指的MCP,而对于“橘子”此类强力抓取物体,其大小直接影响了所有关节角度,故n为12。更多抓取物类型的主要特征维度如表4所示:
表4不同抓取物的主要特征维度
得到物体的缩放比例后,对假手指的位置进行修正,如式4-11所示:
fθ=mθ(1-αμ) 4-11
式中,fθ为修正后的假手指关节期望角度,α为贴合安全系数,其值在未贴合的情形下大于等于1,在贴合过紧的情形下小于等于1,且随期望抓取力而做相应的调整。整个控制策略如图21所示。
对本实施方式的协同控制的效果进行实验:
以中指节的预测为例,分别就“大苹果”,“小苹果”抓取为例,以上两者均可被识别未“苹果类型”,但是尺寸由细微的差别,这也将导致“小苹果”不能贴合,“大苹果”贴合过紧。
由于“苹果”类的抓取为包络性的强力抓取,故主要特征维度选择所有12个关节角度。
最终得到“大苹果”抓取如图22所示,小苹果抓取如图23所示,可以看到“大苹果抓取”时,MCP和PIP的角度均未超过模型库中的相应关节角,“小苹果”的抓取则相反。预测的MCP和PIP与实际的MCP和PIP在抓取时具有一定的变化趋势,且与人手的运动角度误差在10°以内。
值得注意的是,预测的脚步均比实际人手运动角度大,实际的人手运动角度代表人手与抓取物体贴合的最大角度,故多出的角度由阻抗控制器产生接触力以补偿。
具体实施方式八:本实施方式是对具体实施方式七所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,具体为:
控制器通过健康手指的关节角度与抓取物手势模型的关节角度进行对比得到,实际抓取物相对于抓取物手势模型中该类物体的缩放比例μ:
式中,θi为健康手指抓取时由数据手套采集而得的关节角度信息,mθi为抓取物手势模型中对应的关节角度信息,n为关节数;
得到物体的缩放比例后,对假手指的位置进行修正,得到修正后的关节角度信息:
fθ=mθ(1-αμ),公式18
式中,fθ为修正后的假手指关节期望角度,α为贴合安全系数,其值在未贴合的情形下大于等于1,在贴合过紧的情形下小于等于1,且随期望抓取力而做相应的调整。
具体实施方式九:本实施方式是对具体实施方式一所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,根据健康手指运动的关节角度信息得到假手指运动的关节角度信息,具体为:
采用回归模型和健康手指运动的关节角度信息,得到假手指运动的关节角度信息,回归模型为:
式中,为模型预测假手指关节角度行向量,Yi为选取某一手指的三个关节角度,Yi=[pfθ1 pfθ2 pfθ3]T,Xi=[θ1 θ2 ... θ12]T,Xi为其它四个手指的十二个关节角度,X0和Y0分别为Xi的列平均行向量和Yi的列平均行向量,Xi'为新的自变量,B=PB',B为原始数据空间的回归系数矩阵, 为对Yi列平均居中后得到经验平均值,P为主成分空间,E为误差。
本实施方式是另外一种协同控制,是基于回归模型的假手指协同控制:
为解决原始数据样本的多重共线性问题,首先使用主成分分析对原始数据降维,然后在主成分空间对新的数据样本进行最小二乘回归,将回归系数矩阵转化回原始样本空间,以上即为主成分回归。
回归模型数据集的Y变量选取某一手指(代号为pf)的三个关节角度形式如式5-1:
Yi=[pfθ1 pfθ2 pfθ3]T 5-1
数据集的X变量为其它手指的关节角度,该向量具有12个维度,形式如式5-2所示:
Xi=[θ1 θ2 ... θ12]T 5-2
由式5-3和5-4可得原始数据空间的回归系数矩阵如式5-6。
B=PB' 5-6
最终的回归模型如公式19。
因此,总结本申请:和基于模型抓取的协同一样,预测的假手指期望关节角度的误差将会导致假手指与抓取物贴合过紧和未贴合两种情况。
对于前者,可以使用基于位置内环的阻抗控制修正期望位置以防止机械损伤,对于后者,由于没有模型库的支持,需要设计一种自适应贴合的方法。
本申请通过按比例增大假手指期望角度来达到自适应的特性。假手指两个自由度每次增大的赋值之比和初始状态的关节角度比相同,如式(5-8)所示:
式中,δ为每次递增的关节角度,该值的累加被设定为不超过相应模型的最大均方根误差,在此之前,假手指将持续弯曲直到接触力达到设定的阈值,接触的过程同样由基于位置内环的阻抗控制器控制。
值得注意的是,假手指的三个关节不必每个都需要与物体接触,如一些精确抓取操作,故当有一个接触点接触力达到阈值,系统便认为已达到合适的抓取位置。
具体实施方式十:本实施方式是对具体实施方式九所述的假手指协同控制用多自由度采集的数据手套进一步限定,在本实施方式中,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,具体为:
式中,θpip为中指节与近指节之间的关节角度,θmcp为近指节与手掌之间的关节角度,Δθmcp为θmcp与该关节修正后角度的增量值,Δθpip为θpip与该关节修正后角度的增量值,δ为每次递增的关节角度。
Claims (10)
1.假手指协同控制用多自由度采集的数据手套,其特征在于,所述手套包括数据手套本体、惯性传感器、数据处理器、力传感器和电机驱动模块;
数据手套本体,用于套在人手上;数据手套本体包括5个手指和手掌;数据手套本体上与人手残缺手指位置安装的假指对应的手指称为假手指,数据手套本体上与人手健康手指对应的手指称为健康手指,在假手指上安装电机驱动模块,电机驱动模块,用于驱动假手指上的关节运动,大拇指从指尖到指跟的两段指节分别称为中指节和近指节,除了大拇指以外的四个手指从指尖到指跟的三段指节分别称为远指节、中指节和近指节,在健康的中指节和近指节背部设置惯性传感器,在健康手指向手掌背面方向的延长线上设置惯性传感器,
惯性传感器,用于测量所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度;
在假手指的每个指节上设置有力传感器,用于感知假手指与抓取物体的法向接触力;
数据处理器,用于对所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度进行处理得到健康手指运动的关节角度信息,根据健康手指运动的关节角度信息得到假手指运动的关节角度信息,从而驱动假手指上的电机驱动模块到指定位置;还用于接收法向接触力,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,驱动假手指上的电机驱动模块运动至修正后的关节角度信息,达到与抓取物贴合的状态。
2.根据权利要求1所述的假手指协同控制用多自由度采集的数据手套,其特征在于,对所在指节背部或所在手掌背部的三轴角速度、三轴重力加速度和三轴磁场强度进行处理得到健康手指运动的关节角度信息,具体过程为:
当接收到除了三轴重力加速度以外的加速度时,采用卡尔曼滤波器处理三轴角速度,得到对应惯性传感器的姿态矩阵,当未接收除了三轴重力加速度以外的加速度时,利用三轴重力加速度和三轴磁场强度得到对应惯性传感器的姿态矩阵,将每个惯性传感器的姿态矩阵转换成四元数形式,采用D-H法对四元数形式求逆解得到每个健康手指上两个相邻指节的弯曲角度和横摆角。
3.根据权利要求2所述的假手指协同控制用多自由度采集的数据手套,其特征在于,利用三轴重力加速度和三轴磁场强度得到对应惯性传感器的姿态矩阵,具体过程为:
每个惯性传感器均包括6轴运动处理组件和磁力计;6轴运动处理组件,用于测量三轴角速度和三轴重力加速度;磁力计,用于测量三轴磁场强度;
将1个惯性传感器中的三轴磁场强度和三轴重力加速度共同表示在6轴运动处理组件坐标系中,获得1个6轴运动处理组件坐标系相对于世界坐标系的姿态矩阵R0:
式中,east为姿态坐标系的东向轴,所述姿态坐标系为6轴运动处理组件坐标系、世界坐标系和三轴磁场强度分量为一体的坐标系,east_x为姿态坐标系的东向轴在x轴上的分量,east_y为姿态坐标系的东向轴在y轴上的分量,east_z为姿态坐标系的东向轴在z轴上的分量,gravity_accel为重力加速度,gravity_accel_x为重力加速度在x轴上的分量,gravity_accel_y为重力加速度在y轴上的分量,gravity_accel_z为重力加速度在z轴上的分量,mag_t为三轴磁场强度分量中的磁场切向分量,mag_t_x为磁场切向分量在x轴上的分量,mag_t_y为磁场切向分量在y轴上的分量,mag_t_z为磁场切向分量在z轴上的分量,m0、n0和o0分别表示mag_t_x、mag_t_y和mag_t_z,magnetic_field=[p0 q0 r0]T,[p1 q1 r1]T为磁场强度分量,mag_r为磁场径向分量,[a0 b0 c0]T为三轴重力加速度分量在6轴运动处理组件的坐标系中的三个分量。
4.根据权利要求2所述的假手指协同控制用多自由度采集的数据手套,其特征在于,采用卡尔曼滤波器处理三轴角速度,得到对应惯性传感器的姿态矩阵,具体过程为:
采用卡尔曼滤波器处理三轴角速度,卡尔曼滤波器为:
5.根据权利要求3所述的假手指协同控制用多自由度采集的数据手套,其特征在于,将每个惯性传感器的姿态矩阵转换成四元数形式,
式中,quaternion0为惯性传感器姿态矩阵的四元数,Q1、Q2、Q3和Q4为惯性传感器姿态矩阵的四元数的四个元素,rij表示姿态矩阵R0中i行j列的元素;
采用D-H法对四元数形式求逆解得到每个健康手指上两个相邻指节的弯曲角度和横摆角,具体为:
获得近指节上惯性传感器的姿态矩阵Rm,即R0=Rm,Rm与中指节上惯性传感器的姿态矩阵Rp之间的转换关系式为:
联立公式1和公式6,得到近指节和中指节之间的转动角度θ3:
θ3=A tan2(Rm33Rp32-Rm32Rp33,Rm32Rp32+Rm33Rp33),公式7
式中,Atan2为反正切函数,Rm33为Rm矩阵的2行3列元素,Rm32为Rm矩阵的3行2列元素,Rp33为Rp矩阵的3行3列元素,Rp32为Rp矩阵的3行2列元素;
近指节上惯性传感器的姿态矩阵Rm和手掌上惯性传感器的姿态矩阵Rb之间的转换关系式为:
得到近指节和手掌之间的弯曲角度θ1:
式中,Rb12为Rb矩阵的1行2列元素,Rm13为Rm矩阵的1行3列元素,Rb22为Rb矩阵的2行2列元素,Rm23为Rm矩阵的2行3列元素,Rb32为Rb矩阵的3行2列元素,Rm33为Rm矩阵的3行3列元素,Rb13为Rb矩阵的1行3列元素,Rb23为Rb矩阵的2行3列元素,Rb33为Rb矩阵的3行3列元素,
得到横摆角度θ2:
式中,Rb11为Rb矩阵的1行1列元素,Rm12为Rm矩阵的1行2列元素,Rb21为Rb矩阵的2行1列元素,Rm22为Rm矩阵的2行2列元素,Rb31为Rb矩阵的3行1列元素,Rm32为Rm矩阵的3行2列元素,Rm11为Rm矩阵的1行1列元素,Rm21为Rm矩阵的2行1列元素,Rm31为Rm矩阵的3行1列元素。
6.根据权利要求1所述的假手指协同控制用多自由度采集的数据手套,其特征在于,根据健康手指运动的关节角度信息得到假手指运动的关节角度信息,具体为:
根据健康手指运动的关节角度信息从预设的多种抓取物类型中识别抓取物,根据抓取物抓取的手势选择对应的抓取物手势模型,根据对应的抓取物手势模型中的假手指运动的关节角度信息驱动假手指上的电机驱动模块到指定位置;
多种抓取物类型的建立过程为:
设定抓取物为Q种,对每种物体抓取f次,存储f次抓取时的关节角度信息,对每一个物体抓取f次的关节角度信息取平均值作为抓取该物体的最终代表手势,获得Q种抓取物的最终代表手势数据集,对Q种抓取物的最终代表手势数据集进行处理,得到新数据集,采用分类器识别新数据集,从而对抓取物进行分类,Q和f均为正整数。
7.根据权利要求6所述的假手指协同控制用多自由度采集的数据手套,其特征在于,新数据集,获得过程为:
对每种物体抓取f次,存储f次抓取时的关节角度信息,每次抓取时的关节角度信息为一个15维的特征向量xj:
xj=[θT-MCP θT-PIP θT-DIP θI-MCP θI-PIP θI-DIP θM-MCP θM-PIP θM-DIP θR-MCP θR-PIP θR-DIP θL-MCPθL-PIP θL-DIP]T
公式11
式中,θT-MCP为大拇指手背处的关节角度,θT-PIP为大拇指近指节的关节角度,θT-DIP为大拇指中指节的关节角度,θI-MCP为食指手背处的关节角度,θI-PIP为食指中指节的关节角度,θI-DIP为食指远指节的关节角度,θM-MCP为中指手背处的关节角度,θM-PIP为中指中指节的关节角度,θM-DIP为中指远指节的关节角度,θR-MCP为无名指手背处的关节角度,θR-PIP为无名指中指节的关节角度,θR-DIP为无名指远指节的关节角度,θL-MCP为小拇指手背处的关节角度,θL-PIP为小拇指中指节的关节角度,θL-DIP为小拇指远指节的关节角度;对每一个物体抓取f次的关节角度信息取平均值作为抓取该物体的最终代表手势xi:
式中,xij表示第i类物体的第j次抓取数据向量;
由Q个抓取物组成一个Q行f列的抓取物的最终代表手势数据集的矩阵为:
根据X,计算协方差矩阵C:
协方差矩阵C的特征值对角阵和特征向量矩阵关系式为:
式中,v1为第一个特征向量,v2为第二个特征向量,v15为第十五个特征向量,λ1为第一个特征向量对应的特征值,λ2第二个特征向量对应的特征值,λ15第十五个特征向量对应的特征值;
从公式15中选取k个协方差矩阵的特征向量作为新空间的基底,将Q个特征向量投影到新空间的各个基底,得到降维后的特征向量T:
T=(X-huT)[v1 v2…v7],公式16
将降维后的特征向量作为新数据集。
8.根据权利要求7所述的假手指协同控制用多自由度采集的数据手套,其特征在于,对假手指的关节角度信息进行修正,得到修正后的关节角度信息,具体为:
控制器通过健康手指的关节角度与抓取物手势模型的关节角度进行对比得到,实际抓取物相对于抓取物手势模型中该类物体的缩放比例μ:
式中,θi为健康手指抓取时由数据手套采集而得的关节角度信息,mθi为抓取物手势模型中对应的关节角度信息,n为关节数;
得到物体的缩放比例后,对假手指的位置进行修正,得到修正后的关节角度信息:
fθ=mθ(1-αμ),公式18
式中,fθ为修正后的假手指关节期望角度,α为贴合安全系数,其值在未贴合的情形下大于等于1,在贴合过紧的情形下小于等于1,且随期望抓取力而做相应的调整。
9.根据权利要求1所述的假手指协同控制用多自由度采集的数据手套,其特征在于,根据健康手指运动的关节角度信息得到假手指运动的关节角度信息,具体为:
采用回归模型和健康手指运动的关节角度信息,得到假手指运动的关节角度信息,回归模型为:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210677746.0A CN115016645A (zh) | 2022-06-15 | 2022-06-15 | 假手指协同控制用多自由度采集的数据手套 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210677746.0A CN115016645A (zh) | 2022-06-15 | 2022-06-15 | 假手指协同控制用多自由度采集的数据手套 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115016645A true CN115016645A (zh) | 2022-09-06 |
Family
ID=83075108
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210677746.0A Pending CN115016645A (zh) | 2022-06-15 | 2022-06-15 | 假手指协同控制用多自由度采集的数据手套 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115016645A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116295188A (zh) * | 2023-05-15 | 2023-06-23 | 山东慧点智能技术有限公司 | 基于位移传感器的测量装置及测量方法 |
CN117251058A (zh) * | 2023-11-14 | 2023-12-19 | 中国海洋大学 | 一种多信息体感交互系统的控制方法 |
CN117323074A (zh) * | 2023-12-01 | 2024-01-02 | 中国科学技术大学 | 一种穿戴式假肢手套控制方法及系统 |
-
2022
- 2022-06-15 CN CN202210677746.0A patent/CN115016645A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116295188A (zh) * | 2023-05-15 | 2023-06-23 | 山东慧点智能技术有限公司 | 基于位移传感器的测量装置及测量方法 |
CN116295188B (zh) * | 2023-05-15 | 2023-08-11 | 山东慧点智能技术有限公司 | 基于位移传感器的测量装置及测量方法 |
CN117251058A (zh) * | 2023-11-14 | 2023-12-19 | 中国海洋大学 | 一种多信息体感交互系统的控制方法 |
CN117251058B (zh) * | 2023-11-14 | 2024-01-30 | 中国海洋大学 | 一种多信息体感交互系统的控制方法 |
CN117323074A (zh) * | 2023-12-01 | 2024-01-02 | 中国科学技术大学 | 一种穿戴式假肢手套控制方法及系统 |
CN117323074B (zh) * | 2023-12-01 | 2024-03-29 | 中国科学技术大学 | 一种穿戴式假肢手套控制方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115016645A (zh) | 假手指协同控制用多自由度采集的数据手套 | |
CN107378944B (zh) | 一种基于主成分分析法的多维表面肌电信号假手控制方法 | |
CN111095167A (zh) | 用于使用电阻抗测量追踪手部运动的臂带 | |
Fall et al. | A multimodal adaptive wireless control interface for people with upper-body disabilities | |
Harm et al. | Smash: A distributed sensing and processing garment for the classification of upper body postures | |
Liu et al. | A glove-based system for studying hand-object manipulation via joint pose and force sensing | |
WO2009112281A1 (en) | Garment integrated apparatus for online posture and body movement detection, analysis and feedback | |
WO2010027015A1 (ja) | モーションキャプチャ装置 | |
US10890970B2 (en) | Flex force smart glove for measuring sensorimotor stimulation | |
CN112754468A (zh) | 一种基于多源信号的人体下肢运动检测及识别方法 | |
CN107616898B (zh) | 基于日常动作的上肢穿戴式康复机器人及康复评价方法 | |
CN110134245A (zh) | 一种基于eog和姿态传感器的眼控装置以及眼控方法 | |
Jackowski et al. | A novel head gesture based interface for hands-free control of a robot | |
Romeo et al. | Method for automatic slippage detection with tactile sensors embedded in prosthetic hands | |
Zhu et al. | Wrist-worn hand gesture recognition based on barometric pressure sensing | |
Tatinati et al. | Multidimensional modeling of physiological tremor for active compensation in handheld surgical robotics | |
CN113341564A (zh) | 一种计算机输入装置 | |
Yu et al. | End-side gesture recognition method for UAV control | |
CN110209270B (zh) | 一种数据手套、数据手套系统、校正方法及存储介质 | |
WO2019152566A1 (en) | Systems and methods for subject specific kinematic mapping | |
Shenoy et al. | Design and validation of an IMU based full hand kinematic measurement system | |
Cene et al. | Reever control: A biosignal controlled interface | |
CN113076928A (zh) | 一种基于神经网络的手势数据采集手套及识别方法 | |
Yunardi et al. | Visual and gyroscope sensor for head movement controller system on meal-assistance application | |
Borghetti et al. | Validation of a modular and wearable system for tracking fingers movements |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |